{"paper_id": "125", "document": ["Learning", "Spatially", "Variant", "Dissimilarity", "-LRB-", "Svad", "-RRB-", "Measures", "Clustering", "algorithms", "typically", "operate", "on", "a", "feature", "vector", "representation", "of", "the", "data", "and", "find", "clusters", "that", "are", "compact", "with", "respect", "to", "an", "assumed", "-LRB-", "dis", "-RRB-", "similarity", "measure", "between", "the", "data", "points", "in", "feature", "space", ".", "This", "makes", "the", "type", "of", "clusters", "identified", "highly", "dependent", "on", "the", "assumed", "similarity", "measure", ".", "Building", "on", "recent", "work", "in", "this", "area", ",", "we", "formally", "define", "a", "class", "of", "spatially", "varying", "dissimilarity", "measures", "and", "propose", "algorithms", "to", "learn", "the", "dissimilarity", "measure", "automatically", "from", "the", "data", ".", "The", "idea", "is", "to", "identify", "clusters", "that", "are", "compact", "with", "respect", "to", "the", "unknown", "spatially", "varying", "dissimilarity", "measure", ".", "Our", "experiments", "show", "that", "the", "proposed", "algorithms", "are", "more", "stable", "and", "achieve", "better", "accuracy", "on", "various", "textual", "data", "sets", "when", "compared", "with", "similar", "algorithms", "proposed", "in", "the", "literature", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications-Data", "Mining", "Algorithms", "Clustering", "plays", "a", "major", "role", "in", "data", "mining", "as", "a", "tool", "to", "discover", "structure", "in", "data", ".", "Object", "clustering", "algorithms", "operate", "on", "a", "feature", "vector", "representation", "of", "the", "data", "and", "find", "clusters", "that", "are", "compact", "with", "respect", "to", "an", "assumed", "-LRB-", "dis", "-RRB-", "similarity", "measure", "between", "the", "data", "points", "in", "feature", "space", ".", "As", "a", "consequence", ",", "the", "nature", "of", "clusters", "identified", "by", "a", "clustering", "algorithm", "is", "highly", "dependent", "on", "the", "assumed", "similarity", "measure", ".", "The", "most", "commonly", "used", "dissimilarity", "measure", ",", "namely", "the", "Euclidean", "metric", ",", "assumes", "that", "the", "dissimilarity", "measure", "is", "isotropic", "and", "spatially", "invariant", ",", "and", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "it", "is", "effective", "only", "when", "the", "clusters", "are", "roughly", "spherical", "and", "all", "of", "them", "have", "approximately", "the", "same", "size", ",", "which", "is", "rarely", "the", "case", "in", "practice", "-LSB-", "8", "-RSB-", ".", "The", "problem", "of", "finding", "non-spherical", "clusters", "is", "often", "addressed", "by", "utilizing", "a", "feature", "weighting", "technique", ".", "These", "techniques", "discover", "a", "single", "set", "of", "weights", "such", "that", "relevant", "features", "are", "given", "more", "importance", "than", "irrelevant", "features", ".", "However", ",", "in", "practice", ",", "each", "cluster", "may", "have", "a", "different", "set", "of", "relevant", "features", ".", "We", "consider", "Spatially", "Varying", "Dissimilarity", "-LRB-", "SVaD", "-RRB-", "measures", "to", "address", "this", "problem", ".", "Diday", "et", ".", "al.", "-LSB-", "4", "-RSB-", "proposed", "the", "adaptive", "distance", "dynamic", "clusters", "-LRB-", "ADDC", "-RRB-", "algorithm", "in", "this", "vain", ".", "A", "fuzzified", "version", "of", "ADDC", ",", "popularly", "known", "as", "the", "Gustafson-Kessel", "-LRB-", "GK", "-RRB-", "algorithm", "-LSB-", "7", "-RSB-", "uses", "a", "dynamically", "updated", "covariance", "matrix", "so", "that", "each", "cluster", "can", "have", "its", "own", "norm", "matrix", ".", "These", "algorithms", "can", "deal", "with", "hyperelliposoidal", "clusters", "of", "various", "sizes", "and", "orientations", ".", "The", "EM", "algorithm", "-LSB-", "2", "-RSB-", "with", "Gaussian", "probability", "distributions", "can", "also", "be", "used", "to", "achieve", "similar", "results", ".", "However", ",", "the", "above", "algorithms", "are", "computationally", "expensive", "for", "high-dimensional", "data", "since", "they", "invert", "covariance", "matrices", "in", "every", "iteration", ".", "Moreover", ",", "matrix", "inversion", "can", "be", "unstable", "when", "the", "data", "is", "sparse", "in", "relation", "to", "the", "dimensionality", ".", "One", "possible", "solution", "to", "the", "problems", "of", "high", "computation", "and", "instability", "arising", "out", "of", "using", "covariance", "matrices", "is", "to", "force", "the", "matrices", "to", "be", "diagonal", ",", "which", "amounts", "to", "weighting", "each", "feature", "differently", "in", "different", "clusters", ".", "While", "this", "restricts", "the", "dissimilarity", "measures", "to", "have", "axis", "parallel", "isometry", ",", "the", "weights", "also", "provide", "a", "simple", "interpretation", "of", "the", "clusters", "in", "terms", "of", "relevant", "features", ",", "which", "is", "important", "in", "knowledge", "discovery", ".", "Examples", "of", "such", "algorithms", "are", "SCAD", "and", "Fuzzy-SKWIC", "-LSB-", "5", ",", "6", "-RSB-", ",", "which", "perform", "fuzzy", "clustering", "of", "data", "while", "simultaneously", "finding", "feature", "weights", "in", "individual", "clusters", ".", "In", "this", "paper", ",", "we", "generalize", "the", "idea", "of", "the", "feature", "weighting", "approach", "to", "define", "a", "class", "of", "spatially", "varying", "dissimilarity", "measures", "and", "propose", "algorithms", "that", "learn", "the", "dissimilarity", "measure", "automatically", "from", "the", "given", "data", "while", "performing", "the", "clustering", ".", "The", "idea", "is", "to", "identify", "clusters", "inherent", "in", "the", "data", "that", "are", "compact", "with", "respect", "to", "the", "unknown", "spatially", "varying", "dissimilarity", "measure", ".", "We", "compare", "the", "proposed", "algorithms", "with", "a", "diagonal", "version", "of", "GK", "-LRB-", "DGK", "-RRB-", "and", "a", "crisp", "version", "of", "SCAD", "-LRB-", "CSCAD", "-RRB-", "on", "a", "variety", "of", "data", "sets", ".", "Our", "algorithms", "perform", "better", "than", "DGK", "and", "CSCAD", ",", "and", "use", "more", "stable", "update", "equations", "for", "weights", "than", "CSCAD", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "the", "next", "section", ",", "we", "define", "a", "general", "class", "of", "dissimilarity", "measures", "611", "Research", "Track", "Poster", "and", "formulate", "two", "objective", "functions", "based", "on", "them", ".", "In", "Section", "3", ",", "we", "derive", "learning", "algorithms", "that", "optimize", "the", "objective", "functions", ".", "We", "present", "an", "experimental", "study", "of", "the", "proposed", "algorithms", "in", "Section", "4", ".", "We", "compare", "the", "performance", "of", "the", "proposed", "algorithms", "with", "that", "of", "DGK", "and", "CSCAD", ".", "These", "two", "algorithms", "are", "explained", "in", "Appendix", "A.", "Finally", ",", "we", "summarize", "our", "contributions", "and", "conclude", "with", "some", "future", "directions", "in", "Section", "5", ".", "We", "first", "define", "a", "general", "class", "of", "dissimilarity", "measures", "and", "formulate", "a", "few", "objective", "functions", "in", "terms", "of", "the", "given", "data", "set", ".", "Optimization", "of", "the", "objective", "functions", "would", "result", "in", "learning", "the", "underlying", "dissimilarity", "measure", ".", "2.1", "SVaD", "Measures", "In", "the", "following", "definition", ",", "we", "generalize", "the", "concept", "of", "dissimilarity", "measures", "in", "which", "the", "weights", "associated", "with", "features", "change", "over", "feature", "space", ".", "Definition", "2.1", "We", "define", "the", "measure", "of", "dissimilarity", "of", "x", "from", "y", "1", "to", "be", "a", "weighted", "sum", "of", "M", "dissimilarity", "measures", "between", "x", "and", "y", "where", "the", "values", "of", "the", "weights", "depend", "on", "the", "region", "from", "which", "the", "dissimilarity", "is", "being", "measured", ".", "Let", "P", "=", "-LCB-", "R", "1", ",", "...", ",", "R", "K", "-RCB-", "be", "a", "collection", "of", "K", "regions", "that", "partition", "the", "feature", "space", ",", "and", "w", "1", ",", "w", "2", ",", "...", ",", "and", "w", "K", "be", "the", "weights", "associated", "with", "R", "1", ",", "R", "2", ",", "...", ",", "and", "R", "K", ",", "respectively", ".", "Let", "g", "1", ",", "g", "2", ",", "...", ",", "and", "g", "M", "be", "M", "dissimilarity", "measures", ".", "Then", ",", "each", "w", "j", ",", "j", "=", "1", ",", "...", ",", "K", ",", "is", "an", "M", "-", "dimensional", "vector", "where", "its", "l-th", "component", ",", "w", "jl", "is", "associated", "with", "g", "l", ".", "Let", "W", "denote", "the", "K-tuple", "-LRB-", "w", "1", ",", "...", ",", "w", "K", "-RRB-", "and", "let", "r", "be", "a", "real", "number", ".", "Then", ",", "the", "dissimilarity", "of", "x", "from", "y", "is", "given", "by", ":", "f", "W", "-LRB-", "x", ",", "y", "-RRB-", "=", "M", "l", "=", "1", "w", "r", "jl", "g", "l", "-LRB-", "x", ",", "y", "-RRB-", ",", "if", "y", "R", "j", ".", "-LRB-", "1", "-RRB-", "We", "refer", "to", "f", "W", "as", "a", "Spatially", "Variant", "Dissimilarity", "-LRB-", "SVaD", "-RRB-", "measure", ".", "Note", "that", "f", "W", "need", "not", "be", "symmetric", "even", "if", "g", "i", "are", "symmetric", ".", "Hence", ",", "f", "W", "is", "not", "a", "metric", ".", "Moreover", ",", "the", "behavior", "of", "f", "W", "depends", "on", "the", "behavior", "of", "g", "i", ".", "There", "are", "many", "ways", "to", "define", "g", "i", ".", "We", "list", "two", "instances", "of", "f", "W", ".", "Example", "2.1", "-LRB-", "Minkowski", "-RRB-", "Let", "d", "be", "the", "feature", "space", "and", "M", "=", "d.", "Let", "a", "point", "x", "d", "be", "represented", "as", "-LRB-", "x", "1", ",", "...", ",", "x", "d", "-RRB-", ".", "Then", ",", "when", "g", "i", "-LRB-", "x", ",", "y", "-RRB-", "=", "|", "x", "i", "-", "y", "i", "|", "p", "for", "i", "=", "1", ",", "...", ",", "d", ",", "and", "p", "1", ",", "the", "resulting", "SVaD", "measure", ",", "f", "M", "W", "is", "called", "Minkowski", "SVaD", "-LRB-", "MSVaD", "-RRB-", "measure", ".", "That", "is", ",", "f", "M", "W", "-LRB-", "x", ",", "y", "-RRB-", "=", "d", "l", "=", "1", "w", "r", "jl", "|", "x", "l", "-", "y", "l", "|", "p", ",", "if", "y", "R", "j", ".", "-LRB-", "2", "-RRB-", "One", "may", "note", "that", "when", "w", "1", "=", "=", "w", "K", "and", "p", "=", "2", ",", "f", "M", "W", "is", "the", "weighted", "Euclidean", "distance", ".", "When", "p", "=", "2", ",", "we", "call", "f", "M", "W", "a", "Euclidean", "SVaD", "-LRB-", "ESVaD", "-RRB-", "measure", "and", "denote", "it", "by", "f", "E", "W", ".", "1", "We", "use", "the", "phrase", "``", "dissimilarity", "of", "x", "from", "y", "''", "rather", "than", "``", "dissimilarity", "between", "x", "and", "y", "''", "because", "we", "consider", "a", "general", "situation", "where", "the", "dissimilarity", "measure", "depends", "on", "the", "location", "of", "y", ".", "As", "an", "example", "of", "this", "situation", "in", "text", "mining", ",", "when", "the", "dissimilarity", "is", "measured", "from", "a", "document", "on", "`", "terrorism", "'", "to", "a", "document", "x", ",", "a", "particular", "set", "of", "keywords", "may", "be", "weighted", "heavily", "whereas", "when", "the", "dissimilarity", "is", "measured", "from", "a", "document", "on", "`", "football", "'", "to", "x", ",", "a", "different", "set", "of", "keywords", "may", "be", "weighted", "heavily", ".", "Example", "2.2", "-LRB-", "Cosine", "-RRB-", "Let", "the", "feature", "space", "be", "the", "set", "of", "points", "with", "l", "2", "norm", "equal", "to", "one", ".", "That", "is", ",", "x", "2", "=", "1", "for", "all", "points", "x", "in", "feature", "space", ".", "Then", ",", "when", "g", "l", "-LRB-", "x", ",", "y", "-RRB-", "=", "-LRB-", "1/d", "-", "x", "l", "y", "l", "-RRB-", "for", "l", "=", "1", ",", "...", ",", "d", ",", "the", "resulting", "SVaD", "measure", "f", "C", "W", "is", "called", "a", "Cosine", "SVaD", "-LRB-", "CSVaD", "-RRB-", "measure", ":", "f", "C", "W", "-LRB-", "x", ",", "y", "-RRB-", "=", "d", "i", "=", "1", "w", "r", "jl", "-LRB-", "1/d", "-", "x", "l", "y", "l", "-RRB-", ",", "if", "y", "R", "j", ".", "-LRB-", "3", "-RRB-", "In", "the", "formulation", "of", "the", "objective", "function", "below", ",", "we", "use", "a", "set", "of", "parameters", "to", "represent", "the", "regions", "R", "1", ",", "R", "2", ",", "...", ",", "and", "R", "K", ".", "Let", "c", "1", ",", "c", "2", ",", "...", ",", "and", "c", "K", "be", "K", "points", "in", "feature", "space", ".", "Then", "y", "R", "j", "iff", "f", "W", "-LRB-", "y", ",", "c", "j", "-RRB-", "<", "f", "W", "-LRB-", "y", ",", "c", "i", "-RRB-", "for", "i", "=", "j.", "-LRB-", "4", "-RRB-", "In", "the", "case", "of", "ties", ",", "y", "is", "assigned", "to", "the", "region", "with", "the", "lowest", "index", ".", "Thus", ",", "the", "K-tuple", "of", "points", "C", "=", "-LRB-", "c", "1", ",", "c", "2", ",", "...", ",", "c", "K", "-RRB-", "defines", "a", "partition", "in", "feature", "space", ".", "The", "partition", "induced", "by", "the", "points", "in", "C", "is", "similar", "in", "nature", "to", "a", "Voronoi", "tessellation", ".", "We", "use", "the", "notation", "f", "W", ",", "C", "whenever", "we", "use", "the", "set", "C", "to", "parameterize", "the", "regions", "used", "in", "the", "dissimilarity", "measure", ".", "2.2", "Objective", "Function", "for", "Clustering", "The", "goal", "of", "the", "present", "work", "is", "to", "identify", "the", "spatially", "varying", "dissimilarity", "measure", "and", "the", "associated", "compact", "clusters", "simultaneously", ".", "It", "is", "worth", "mentioning", "here", "that", ",", "as", "in", "the", "case", "of", "any", "clustering", "algorithm", ",", "the", "underlying", "assumption", "in", "this", "paper", "is", "the", "existence", "of", "such", "a", "dissimilarity", "measure", "and", "clusters", "for", "a", "given", "data", "set", ".", "Let", "x", "1", ",", "x", "2", ",", "...", ",", "and", "x", "n", "be", "n", "given", "data", "points", ".", "Let", "K", "be", "a", "given", "positive", "integer", ".", "Assuming", "that", "C", "represents", "the", "cluster", "centers", ",", "let", "us", "assign", "each", "data", "point", "x", "i", "to", "a", "cluster", "R", "j", "with", "the", "closest", "c", "j", "as", "the", "cluster", "center", "2", ",", "i.e.", ",", "j", "=", "arg", "min", "l", "f", "W", ",", "C", "-LRB-", "x", "i", ",", "c", "l", "-RRB-", ".", "-LRB-", "5", "-RRB-", "Then", ",", "the", "within-cluster", "dissimilarity", "is", "given", "by", "J", "-LRB-", "W", ",", "C", "-RRB-", "=", "K", "j", "=", "1", "x", "i", "R", "j", "M", "l", "=", "1", "w", "r", "jl", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ".", "-LRB-", "6", "-RRB-", "J", "-LRB-", "W", ",", "C", "-RRB-", "represents", "the", "sum", "of", "the", "dissimilarity", "measures", "of", "all", "the", "data", "points", "from", "their", "closest", "centroids", ".", "The", "objective", "is", "to", "find", "W", "and", "C", "that", "minimize", "J", "-LRB-", "W", ",", "C", "-RRB-", ".", "To", "avoid", "the", "trivial", "solution", "to", "J", "-LRB-", "W", ",", "C", "-RRB-", ",", "we", "consider", "a", "normalization", "condition", "on", "w", "j", ",", "viz.", ",", "M", "l", "=", "1", "w", "jl", "=", "1", ".", "-LRB-", "7", "-RRB-", "Note", "that", "even", "with", "this", "condition", ",", "J", "-LRB-", "W", ",", "C", "-RRB-", "has", "a", "trivial", "solution", ":", "w", "jp", "=", "1", "where", "p", "=", "arg", "min", "l", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ",", "and", "the", "remaining", "weights", "are", "zero", ".", "One", "way", "to", "avoid", "convergence", "of", "w", "j", "to", "unit", "vectors", "is", "to", "impose", "a", "regularization", "condition", "on", "w", "j", ".", "We", "consider", "the", "following", "two", "regularization", "measures", "in", "this", "paper", ":", "-LRB-", "1", "-RRB-", "Entropy", "measure", ":", "M", "l", "=", "1", "w", "jl", "log", "-LRB-", "w", "jl", "-RRB-", "and", "-LRB-", "2", "-RRB-", "Gini", "measure", ":", "M", "l", "=", "1", "w", "2", "jl", ".", "2", "We", "use", "P", "=", "-LCB-", "R", "1", ",", "R", "2", ",", "...", ",", "R", "K", "-RCB-", "to", "represent", "the", "corresponding", "partition", "of", "the", "data", "set", "as", "well", ".", "The", "intended", "interpretation", "-LRB-", "cluster", "or", "region", "-RRB-", "would", "be", "evident", "from", "the", "context", ".", "612", "Research", "Track", "Poster", "The", "problem", "of", "determining", "the", "optimal", "W", "and", "C", "is", "similar", "to", "the", "traditional", "clustering", "problem", "that", "is", "solved", "by", "the", "K-Means", "Algorithm", "-LRB-", "KMA", "-RRB-", "except", "for", "the", "additional", "W", "matrix", ".", "We", "propose", "a", "class", "of", "iterative", "algorithms", "similar", "to", "KMA", ".", "These", "algorithms", "start", "with", "a", "random", "partition", "of", "the", "data", "set", "and", "iteratively", "update", "C", ",", "W", "and", "P", "so", "that", "J", "-LRB-", "W", ",", "C", "-RRB-", "is", "minimized", ".", "These", "iterative", "algorithms", "are", "instances", "of", "Alternating", "Optimization", "-LRB-", "AO", "-RRB-", "algorithms", ".", "In", "-LSB-", "1", "-RSB-", ",", "it", "is", "shown", "that", "AO", "algorithms", "converge", "to", "a", "local", "optimum", "under", "some", "conditions", ".", "We", "outline", "the", "algorithm", "below", "before", "actually", "describing", "how", "to", "update", "C", ",", "W", "and", "P", "in", "every", "iteration", ".", "Randomly", "assign", "the", "data", "points", "to", "K", "clusters", ".", "REPEAT", "Update", "C", ":", "Compute", "the", "centroid", "of", "each", "cluster", "c", "j", ".", "Update", "W", ":", "Compute", "the", "w", "jl", "j", ",", "l.", "Update", "P", ":", "Reassign", "the", "data", "points", "to", "the", "clusters", ".", "UNTIL", "-LRB-", "termination", "condition", "is", "reached", "-RRB-", ".", "In", "the", "above", "algorithm", ",", "the", "update", "of", "C", "depends", "on", "the", "definition", "of", "g", "i", ",", "and", "the", "update", "of", "W", "on", "the", "regularization", "terms", ".", "The", "update", "of", "P", "is", "done", "by", "reassigning", "the", "data", "points", "according", "to", "-LRB-", "5", "-RRB-", ".", "Before", "explaining", "the", "computation", "of", "C", "in", "every", "iteration", "for", "various", "g", "i", ",", "we", "first", "derive", "update", "equations", "for", "W", "for", "various", "regularization", "measures", ".", "3.1", "Update", "of", "Weights", "While", "updating", "weights", ",", "we", "need", "to", "find", "the", "values", "of", "weights", "that", "minimize", "the", "objective", "function", "for", "a", "given", "C", "and", "P", ".", "As", "mentioned", "above", ",", "we", "consider", "the", "two", "regularization", "measures", "for", "w", "jl", "and", "derive", "update", "equations", ".", "If", "we", "consider", "the", "entropy", "regularization", "with", "r", "=", "1", ",", "the", "objective", "function", "becomes", ":", "J", "EN", "T", "-LRB-", "W", ",", "C", "-RRB-", "=", "K", "j", "=", "1", "x", "i", "R", "j", "M", "l", "=", "1", "w", "jl", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "+", "K", "j", "=", "1", "j", "M", "l", "=", "1", "w", "jl", "log", "-LRB-", "w", "jl", "-RRB-", "+", "K", "j", "=", "1", "j", "M", "l", "=", "1", "w", "jl", "-", "1", ".", "-LRB-", "8", "-RRB-", "Note", "that", "j", "are", "the", "Lagrange", "multipliers", "corresponding", "to", "the", "normalization", "constraints", "in", "-LRB-", "7", "-RRB-", ",", "and", "j", "represent", "the", "relative", "importance", "given", "to", "the", "regularization", "term", "relative", "to", "the", "within-cluster", "dissimilarity", ".", "Differentiating", "J", "EN", "T", "-LRB-", "W", ",", "C", "-RRB-", "with", "respect", "to", "w", "jl", "and", "equating", "it", "to", "zero", ",", "we", "obtain", "w", "jl", "=", "exp", "-", "-LRB-", "j", "+", "x", "i", "Rj", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-RRB-", "j", "-", "1", ".", "Solving", "for", "j", "by", "substituting", "the", "above", "value", "of", "w", "jl", "in", "-LRB-", "7", "-RRB-", "and", "substituting", "the", "value", "of", "j", "back", "in", "the", "above", "equation", ",", "we", "obtain", "w", "jl", "=", "exp", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "/", "j", "M", "n", "=", "1", "exp", "x", "i", "R", "j", "g", "n", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "/", "j", ".", "-LRB-", "9", "-RRB-", "If", "we", "consider", "the", "Gini", "measure", "for", "regularization", "with", "r", "=", "2", ",", "the", "corresponding", "w", "jl", "that", "minimizes", "the", "objective", "function", "can", "be", "shown", "to", "be", "w", "jl", "=", "1", "/", "-LRB-", "j", "+", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-RRB-", "M", "n", "=", "1", "-LRB-", "1", "/", "-LRB-", "j", "+", "x", "i", "R", "j", "g", "n", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-RRB-", "-RRB-", ".", "-LRB-", "10", "-RRB-", "In", "both", "cases", ",", "the", "updated", "value", "of", "w", "jl", "is", "inversely", "related", "Algorithm", "Update", "Equations", "Acronyms", "P", "C", "W", "EEnt", "-LRB-", "5", "-RRB-", "-LRB-", "11", "-RRB-", "-LRB-", "9", "-RRB-", "EsGini", "-LRB-", "5", "-RRB-", "-LRB-", "11", "-RRB-", "-LRB-", "10", "-RRB-", "CEnt", "-LRB-", "5", "-RRB-", "-LRB-", "12", "-RRB-", "-LRB-", "9", "-RRB-", "CsGini", "-LRB-", "5", "-RRB-", "-LRB-", "12", "-RRB-", "-LRB-", "10", "-RRB-", "Table", "1", ":", "Summary", "of", "algorithms", ".", "to", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ".", "This", "has", "various", "interpretations", "based", "on", "the", "nature", "of", "g", "l", ".", "For", "example", ",", "when", "we", "consider", "the", "ESVaD", "measure", ",", "w", "jl", "is", "inversely", "related", "to", "the", "variance", "of", "l-th", "element", "of", "the", "data", "vectors", "in", "the", "j-th", "cluster", ".", "In", "other", "words", ",", "when", "the", "variance", "along", "a", "particular", "dimension", "is", "high", "in", "a", "cluster", ",", "then", "the", "dimension", "is", "less", "important", "to", "the", "cluster", ".", "This", "popular", "heuristic", "has", "been", "used", "in", "various", "contexts", "-LRB-", "such", "as", "relevance", "feedback", "-RRB-", "in", "the", "literature", "-LSB-", "9", "-RSB-", ".", "Similarly", ",", "when", "we", "consider", "the", "CSVaD", "measure", ",", "w", "jl", "is", "directly", "proportional", "to", "the", "correlation", "of", "the", "j-th", "dimension", "in", "the", "l-th", "cluster", ".", "3.2", "Update", "of", "Centroids", "Learning", "ESVaD", "Measures", ":", "Substituting", "the", "ESVaD", "measure", "in", "the", "objective", "function", "and", "solving", "the", "first", "order", "necessary", "conditions", ",", "we", "observe", "that", "c", "jl", "=", "1", "|", "R", "j", "|", "x", "i", "R", "j", "x", "il", "-LRB-", "11", "-RRB-", "minimizes", "J", "ESV", "AD", "-LRB-", "W", ",", "C", "-RRB-", ".", "Learning", "CSVaD", "Measures", ":", "Let", "x", "il", "=", "w", "jl", "x", "il", ",", "then", "using", "the", "Cauchy-Swartz", "inequality", ",", "it", "can", "be", "shown", "that", "c", "jl", "=", "1", "|", "R", "j", "|", "x", "i", "R", "j", "x", "il", "-LRB-", "12", "-RRB-", "maximizes", "x", "i", "R", "j", "d", "l", "=", "1", "w", "jl", "x", "il", "c", "jl", ".", "Hence", ",", "-LRB-", "12", "-RRB-", "also", "minimizes", "the", "objective", "function", "when", "CSVaD", "is", "used", "as", "the", "dissimilarity", "measure", ".", "Table", "1", "summarizes", "the", "update", "equations", "used", "in", "various", "algorithms", ".", "We", "refer", "to", "this", "set", "of", "algorithms", "as", "SVaD", "learning", "algorithms", ".", "In", "this", "section", ",", "we", "present", "an", "experimental", "study", "of", "the", "algorithms", "described", "in", "the", "previous", "sections", ".", "We", "applied", "the", "proposed", "algorithms", "on", "various", "text", "data", "sets", "and", "compared", "the", "performance", "of", "EEnt", "and", "EsGini", "with", "that", "of", "K-Means", ",", "CSCAD", "and", "DGK", "algorithms", ".", "The", "reason", "for", "choosing", "the", "K-Means", "algorithm", "-LRB-", "KMA", "-RRB-", "apart", "from", "CSCAD", "and", "DGK", "is", "that", "it", "provides", "a", "baseline", "for", "assessing", "the", "advantages", "of", "feature", "weighting", ".", "KMA", "is", "also", "a", "popular", "algorithm", "for", "text", "clustering", ".", "We", "have", "included", "a", "brief", "description", "of", "CSCAD", "and", "DGK", "algorithms", "in", "Appendix", "A.", "Text", "data", "sets", "are", "sparse", "and", "high", "dimensional", ".", "We", "consider", "standard", "labeled", "document", "collections", "and", "test", "the", "proposed", "algorithms", "for", "their", "ability", "to", "discover", "dissimilarity", "measures", "that", "distinguish", "one", "class", "from", "another", "without", "actually", "considering", "the", "class", "labels", "of", "the", "documents", ".", "We", "measure", "the", "success", "of", "the", "algorithms", "by", "the", "purity", "of", "the", "regions", "that", "they", "discover", ".", "613", "Research", "Track", "Poster", "4.1", "Data", "Sets", "We", "performed", "our", "experiments", "on", "three", "standard", "data", "sets", ":", "20", "News", "Group", ",", "Yahoo", "K1", ",", "and", "Classic", "3", ".", "These", "data", "sets", "are", "described", "below", ".", "20", "News", "Group", "3", ":", "We", "considered", "different", "subsets", "of", "20", "News", "Group", "data", "that", "are", "known", "to", "contain", "clusters", "of", "varying", "degrees", "of", "separation", "-LSB-", "10", "-RSB-", ".", "As", "in", "-LSB-", "10", "-RSB-", ",", "we", "considered", "three", "random", "samples", "of", "three", "subsets", "of", "the", "20", "News", "Group", "data", ".", "The", "subsets", "denoted", "by", "Binary", "has", "250", "documents", "each", "from", "talk.politics.mideast", "and", "talk.politics.misc", ".", "Multi5", "has", "100", "documents", "each", "from", "comp.graphics", ",", "rec.motorcycles", ",", "rec.sport.baseball", ",", "sci.space", ",", "and", "talk.politics.mideast", ".", "Finally", ",", "Multi10", "has", "50", "documents", "each", "from", "alt.atheism", ",", "comp", ".", "sys.mac.hardware", ",", "misc.forsale", ",", "rec.autos", ",", "rec.sport.hockey", ",", "sci.crypt", ",", "sci.electronics", ",", "sci.med", ",", "sci.space", ",", "and", "talk.politics", ".", "gun", ".", "It", "may", "be", "noted", "that", "Binary", "data", "sets", "have", "two", "highly", "overlapping", "classes", ".", "Each", "of", "Multi5", "data", "sets", "has", "samples", "from", "5", "distinct", "classes", ",", "whereas", "Multi10", "data", "sets", "have", "only", "a", "few", "samples", "from", "10", "different", "classes", ".", "The", "size", "of", "the", "vocabulary", "used", "to", "represent", "the", "documents", "in", "Binary", "data", "set", "is", "about", "4000", ",", "Multi5", "about", "3200", "and", "Multi10", "about", "2800", ".", "We", "observed", "that", "the", "relative", "performance", "of", "the", "algorithms", "on", "various", "samples", "of", "Binary", ",", "Multi5", "and", "Multi10", "data", "sets", "was", "similar", ".", "Hence", ",", "we", "report", "results", "on", "only", "one", "of", "them", ".", "Yahoo", "K1", "4", ":", "This", "data", "set", "contains", "2340", "Reuters", "news", "articles", "downloaded", "from", "Yahoo", "in", "1997", ".", "There", "are", "494", "from", "Health", ",", "1389", "from", "Entertainment", ",", "141", "from", "Sports", ",", "114", "from", "Politics", ",", "60", "from", "Technology", "and", "142", "from", "Business", ".", "After", "preprocessing", ",", "the", "documents", "from", "this", "data", "set", "are", "represented", "using", "12015", "words", ".", "Note", "that", "this", "data", "set", "has", "samples", "from", "6", "different", "classes", ".", "Here", ",", "the", "distribution", "of", "data", "points", "across", "the", "class", "is", "uneven", ",", "ranging", "from", "60", "to", "1389", ".", "Classic", "3", "5", ":", "Classic", "3", "data", "set", "contains", "1400", "aerospace", "systems", "abstracts", "from", "the", "Cranfield", "collection", ",", "1033", "medical", "abstracts", "from", "the", "Medline", "collection", "and", "1460", "information", "retrieval", "abstracts", "from", "the", "Cisi", "collection", ",", "making", "up", "3893", "documents", "in", "all", ".", "After", "preprocessing", ",", "this", "data", "set", "has", "4301", "words", ".", "The", "points", "are", "almost", "equally", "distributed", "among", "the", "three", "distinct", "classes", ".", "The", "data", "sets", "were", "preprocessed", "using", "two", "major", "steps", ".", "First", ",", "a", "set", "of", "words", "-LRB-", "vocabulary", "-RRB-", "is", "extracted", "and", "then", "each", "document", "is", "represented", "with", "respect", "to", "this", "vocabulary", ".", "Finding", "the", "vocabulary", "includes", ":", "-LRB-", "1", "-RRB-", "elimination", "of", "the", "standard", "list", "of", "stop", "words", "from", "the", "documents", ",", "-LRB-", "2", "-RRB-", "application", "of", "Porter", "stemming", "6", "for", "term", "normalization", ",", "and", "-LRB-", "3", "-RRB-", "keeping", "only", "the", "words", "which", "appear", "in", "at", "least", "3", "documents", ".", "We", "represent", "each", "document", "by", "the", "unitized", "frequency", "vector", ".", "4.2", "Evaluation", "of", "Algorithms", "We", "use", "the", "accuracy", "measure", "to", "compare", "the", "performance", "of", "various", "algorithms", ".", "Let", "a", "ij", "represent", "the", "number", "of", "data", "points", "from", "class", "i", "that", "are", "in", "cluster", "j", ".", "Then", "the", "accuracy", "of", "the", "partition", "is", "given", "by", "j", "max", "i", "a", "ij", "/", "n", "where", "n", "is", "the", "total", "number", "of", "data", "points", ".", "It", "is", "to", "be", "noted", "that", "points", "coming", "from", "a", "single", "class", "need", "not", "form", "a", "single", "cluster", ".", "There", "could", "be", "multiple", "3", "http://www-2.cs.cmu.edu/afs/cs.cmu.edu/project/theo-20/www/data/news20", ".", "tar.gz", "4", "ftp://ftp.cs.umn.edu/dept/users/boley/PDDPdata/doc-K", "5", "ftp://ftp.cs.cornell.edu/pub/smart", "6", "http://www.tartarus.org/~martin/PorterStemmer/", "Iteration", "0", "1", "2", "3", "4", "5", "J", "-LRB-", "W", ",", "C", "-RRB-", "334.7", "329.5", "328.3", "328.1", "327.8", "Accuracy", "73.8", "80.2", "81.4", "81.6", "82", "82", "Table", "2", ":", "Evolution", "of", "J", "-LRB-", "W", ",", "C", "-RRB-", "and", "Accuracies", "with", "iterations", "when", "EEnt", "applied", "on", "a", "Multi5", "data", ".", "clusters", "in", "a", "class", "that", "represent", "sub-classes", ".", "We", "study", "the", "performance", "of", "SVaD", "learning", "algorithms", "for", "various", "values", "of", "K", ",", "i.e.", ",", "the", "number", "of", "clusters", ".", "4.3", "Experimental", "Setup", "In", "our", "implementations", ",", "we", "have", "observed", "that", "the", "proposed", "algorithms", ",", "if", "applied", "on", "randomly", "initialized", "centroids", ",", "show", "unstable", "behavior", ".", "One", "reason", "for", "this", "behavior", "is", "that", "the", "number", "of", "parameters", "that", "are", "estimated", "in", "feature-weighting", "clustering", "algorithms", "is", "twice", "as", "large", "as", "that", "estimated", "by", "the", "traditional", "KMA", ".", "We", ",", "therefore", ",", "first", "estimate", "the", "cluster", "centers", "giving", "equal", "weights", "to", "all", "the", "dimensions", "using", "KMA", "and", "then", "fine-tune", "the", "cluster", "centers", "and", "the", "weights", "using", "the", "feature-weighting", "clustering", "algorithms", ".", "In", "every", "iteration", ",", "the", "new", "sets", "of", "weights", "are", "updated", "as", "follows", ".", "Let", "w", "n", "-LRB-", "t", "+1", "-RRB-", "represent", "the", "weights", "com-puted", "using", "one", "of", "-LRB-", "9", "-RRB-", ",", "-LRB-", "10", "-RRB-", ",", "-LRB-", "14", "-RRB-", "or", "-LRB-", "15", "-RRB-", "in", "iteration", "-LRB-", "t", "+", "1", "-RRB-", "and", "w", "-LRB-", "t", "-RRB-", "the", "weights", "in", "iteration", "t.", "Then", ",", "the", "weights", "in", "iteration", "-LRB-", "t", "+", "1", "-RRB-", "are", "w", "-LRB-", "t", "+", "1", "-RRB-", "=", "-LRB-", "1", "-", "-LRB-", "t", "-RRB-", "-RRB-", "w", "-LRB-", "t", "-RRB-", "+", "-LRB-", "t", "-RRB-", "w", "n", "-LRB-", "t", "+", "1", "-RRB-", ",", "-LRB-", "13", "-RRB-", "where", "-LRB-", "t", "-RRB-", "-LSB-", "0", ",", "1", "-RSB-", "decreases", "with", "t", ".", "That", "is", ",", "-LRB-", "t", "-RRB-", "=", "-LRB-", "t", "1", "-RRB-", ",", "for", "a", "given", "constant", "-LSB-", "0", ",", "1", "-RSB-", ".", "In", "our", "experiments", ",", "we", "observed", "that", "the", "variance", "of", "purity", "values", "for", "different", "initial", "values", "of", "-LRB-", "0", "-RRB-", "and", "above", "0.5", "is", "very", "small", ".", "Hence", ",", "we", "report", "the", "results", "for", "-LRB-", "0", "-RRB-", "=", "0.5", "and", "=", "0.5", ".", "We", "set", "the", "value", "of", "j", "=", "1", ".", "It", "may", "be", "noted", "that", "when", "the", "documents", "are", "represented", "as", "unit", "vectors", ",", "KMA", "with", "the", "cosine", "dissimilarity", "measure", "and", "Euclidean", "distance", "measure", "would", "yield", "the", "same", "clusters", ".", "This", "is", "essentially", "the", "same", "as", "Spherical", "K-Means", "algorithms", "described", "in", "-LSB-", "3", "-RSB-", ".", "Therefore", ",", "we", "consider", "only", "the", "weighted", "Euclidean", "measure", "and", "restrict", "our", "comparisons", "to", "EEnt", "and", "EsGini", "in", "the", "experiments", ".", "Since", "the", "clusters", "obtained", "by", "KMA", "are", "used", "to", "initialize", "all", "other", "algorithms", "considered", "here", ",", "and", "since", "the", "results", "of", "KMA", "are", "sensitive", "to", "initialization", ",", "the", "accuracy", "numbers", "reported", "in", "this", "section", "are", "averages", "over", "10", "random", "initializations", "of", "KMA", ".", "4.4", "Results", "and", "Observations", "4.4.1", "Effect", "of", "SVaD", "Measures", "on", "Accuracies", "In", "Table", "2", ",", "we", "show", "a", "sample", "run", "of", "EEnt", "algorithm", "on", "one", "of", "the", "Multi5", "data", "sets", ".", "This", "table", "shows", "the", "evolution", "of", "J", "-LRB-", "W", ",", "C", "-RRB-", "and", "the", "corresponding", "accuracies", "of", "the", "clusters", "with", "the", "iterations", ".", "The", "accuracy", ",", "shown", "at", "iteration", "0", ",", "is", "that", "of", "the", "clusters", "obtained", "by", "KMA", ".", "The", "purity", "of", "clusters", "increases", "with", "decrease", "in", "the", "value", "of", "the", "objective", "function", "defined", "using", "SVaD", "measures", ".", "We", "have", "observed", "a", "similar", "behavior", "of", "EEnt", "and", "EsGini", "on", "other", "data", "sets", "also", ".", "This", "validates", "our", "hypothesis", "that", "SVaD", "measures", "capture", "the", "underlying", "structure", "in", "the", "data", "sets", "more", "accurately", ".", "614", "Research", "Track", "Poster", "4.4.2", "Comparison", "with", "Other", "Algorithms", "Figure", "1", "to", "Figure", "5", "show", "average", "accuracies", "of", "various", "algorithms", "on", "the", "5", "data", "sets", "for", "various", "number", "of", "clusters", ".", "The", "accuracies", "of", "KMA", "and", "DGK", "are", "very", "close", "to", "each", "other", "and", "hence", ",", "in", "the", "figures", ",", "the", "lines", "corresponding", "to", "these", "algorithms", "are", "indistinguishable", ".", "The", "lines", "corresponding", "to", "CSCAD", "are", "also", "close", "to", "that", "of", "KMA", "in", "all", "the", "cases", "except", "Class", "3", ".", "General", "observations", ":", "The", "accuracies", "of", "SVaD", "algorithms", "follow", "the", "trend", "of", "the", "accuracies", "of", "other", "algorithms", ".", "In", "all", "our", "experiments", ",", "both", "SVaD", "learning", "algorithms", "improve", "the", "accuracies", "of", "clusters", "obtained", "by", "KMA", ".", "It", "is", "observed", "in", "our", "experiments", "that", "the", "improvement", "could", "be", "as", "large", "as", "8", "%", "in", "some", "instances", ".", "EEnt", "and", "EsGini", "consis-tently", "perform", "better", "than", "DGK", "on", "all", "data", "sets", "and", "for", "all", "values", "of", "K.", "EEnt", "and", "EsGini", "perform", "better", "than", "CSCAD", "on", "all", "data", "sets", "excepts", "in", "the", "case", "of", "Classic", "3", "and", "for", "a", "few", "values", "of", "K.", "Note", "that", "the", "weight", "update", "equation", "of", "CSCAD", "-LRB-", "15", "-RRB-", "may", "result", "in", "negative", "values", "of", "w", "jl", ".", "Our", "experience", "with", "CSCAD", "shows", "that", "it", "is", "quite", "sensitive", "to", "initialization", "and", "it", "may", "have", "convergence", "problems", ".", "In", "contrast", ",", "it", "may", "be", "observed", "that", "w", "jl", "in", "-LRB-", "9", "-RRB-", "and", "-LRB-", "10", "-RRB-", "are", "always", "positive", ".", "Moreover", ",", "in", "our", "experience", ",", "these", "two", "versions", "are", "much", "less", "sensitive", "to", "the", "choice", "of", "j", ".", "Data", "specific", "observations", ":", "When", "K", "=", "2", ",", "EEnt", "and", "EsGini", "could", "not", "further", "improve", "the", "results", "of", "KMA", "on", "the", "Binary", "data", "set", ".", "The", "reason", "is", "that", "the", "data", "set", "contains", "two", "highly", "overlapping", "classes", ".", "However", ",", "for", "other", "values", "of", "K", ",", "they", "marginally", "improve", "the", "accuracies", ".", "In", "the", "case", "of", "Multi5", ",", "the", "accuracies", "of", "the", "algorithms", "are", "non-monotonic", "with", "K", ".", "The", "improvement", "of", "accuracies", "is", "large", "for", "intermediate", "values", "of", "K", "and", "small", "for", "extreme", "values", "of", "K", ".", "When", "K", "=", "5", ",", "KMA", "finds", "relatively", "stable", "clusters", ".", "Hence", ",", "SVaD", "algorithms", "are", "unable", "to", "improve", "the", "accuracies", "as", "much", "as", "they", "did", "for", "intermediate", "values", "of", "K.", "For", "larger", "values", "of", "K", ",", "the", "clusters", "are", "closely", "spaced", "and", "hence", "there", "is", "little", "scope", "for", "improvement", "by", "the", "SVaD", "algorithms", ".", "Multi10", "data", "sets", "are", "the", "toughest", "to", "cluster", "because", "of", "the", "large", "number", "of", "classes", "present", "in", "the", "data", ".", "In", "this", "case", ",", "the", "accuracies", "of", "the", "algorithms", "are", "monotonically", "increasing", "with", "the", "number", "of", "clusters", ".", "The", "extent", "of", "improvement", "of", "accuracies", "of", "SVaD", "algorithms", "over", "KMA", "is", "almost", "constant", "over", "the", "entire", "range", "of", "K", ".", "This", "reflects", "the", "fact", "that", "the", "documents", "in", "Multi10", "data", "set", "are", "uniformly", "distributed", "over", "feature", "space", ".", "The", "distribution", "of", "documents", "in", "Yahoo", "K1", "data", "set", "is", "highly", "skewed", ".", "The", "extent", "of", "improvements", "that", "the", "SVaD", "algorithms", "could", "achieve", "decrease", "with", "K.", "For", "higher", "values", "of", "K", ",", "KMA", "is", "able", "to", "find", "almost", "pure", "sub-clusters", ",", "resulting", "in", "accuracies", "of", "about", "90", "%", ".", "This", "leaves", "little", "scope", "for", "improvement", ".", "The", "performance", "of", "CSCAD", "differs", "noticeably", "in", "the", "case", "of", "Classic", "3", ".", "It", "performs", "better", "than", "the", "SVaD", "algorithms", "for", "K", "=", "3", "and", "better", "than", "EEnt", "for", "K", "=", "9", ".", "However", ",", "for", "larger", "values", "of", "K", ",", "the", "SVaD", "algorithms", "perform", "better", "than", "the", "rest", ".", "As", "in", "the", "case", "of", "Multi5", ",", "the", "improvements", "of", "SVaD", "algorithms", "over", "others", "are", "significant", "and", "consistent", ".", "One", "may", "recall", "that", "Multi5", "and", "Classic", "3", "consist", "of", "documents", "from", "distinct", "classes", ".", "Therefore", ",", "this", "observation", "implies", "that", "when", "there", "are", "distinct", "clusters", "in", "the", "data", "set", ",", "KMA", "yields", "confusing", "clusters", "when", "the", "number", "of", "clusters", "is", "over-Figure", "1", ":", "Accuracy", "results", "on", "Binary", "data", ".", "Figure", "2", ":", "Accuracy", "results", "on", "Multi5", "data", ".", "specified", ".", "In", "this", "scenario", ",", "EEnt", "and", "EsGini", "can", "fine-tune", "the", "clusters", "to", "improve", "their", "purity", ".", "We", "have", "defined", "a", "general", "class", "of", "spatially", "variant", "dissimilarity", "measures", "and", "proposed", "algorithms", "to", "learn", "the", "measure", "underlying", "a", "given", "data", "set", "in", "an", "unsupervised", "learning", "framework", ".", "Through", "our", "experiments", "on", "various", "textual", "data", "sets", ",", "we", "have", "shown", "that", "such", "a", "formulation", "of", "dissimilarity", "measure", "can", "more", "accurately", "capture", "the", "hidden", "structure", "in", "the", "data", "than", "a", "standard", "Euclidean", "measure", "that", "does", "not", "vary", "over", "feature", "space", ".", "We", "have", "also", "shown", "that", "the", "proposed", "learning", "algorithms", "perform", "better", "than", "other", "similar", "algorithms", "in", "the", "literature", ",", "and", "have", "better", "stability", "properties", ".", "Even", "though", "we", "have", "applied", "these", "algorithms", "only", "to", "text", "data", "sets", ",", "the", "algorithms", "derived", "here", "do", "not", "assume", "any", "specific", "characteristics", "of", "textual", "data", "sets", ".", "Hence", ",", "they", "Figure", "3", ":", "Accuracy", "results", "on", "Multi10", "data", ".", "615", "Research", "Track", "Poster", "Figure", "4", ":", "Accuracy", "results", "on", "Yahoo", "K1", "data", ".", "Figure", "5", ":", "Accuracy", "results", "on", "Classic", "3", "data", ".", "are", "applicable", "to", "general", "data", "sets", ".", "Since", "the", "algorithms", "perform", "better", "for", "larger", "K", ",", "it", "would", "be", "interesting", "to", "investigate", "whether", "they", "can", "be", "used", "to", "find", "subtopics", "of", "a", "topic", ".", "Finally", ",", "it", "will", "be", "interesting", "to", "learn", "SVaD", "measures", "for", "labeled", "data", "sets", ".", "-LSB-", "1", "-RSB-", "J.", "C.", "Bezdek", "and", "R.", "J.", "Hathaway", ".", "Some", "notes", "on", "alternating", "optimization", ".", "In", "Proceedings", "of", "the", "2002", "AFSS", "International", "Conference", "on", "Fuzzy", "Systems", ".", "Calcutta", ",", "pages", "288", "300", ".", "Springer-Verlag", ",", "2002", ".", "-LSB-", "2", "-RSB-", "A.", "P.", "Dempster", ",", "N.", "M.", "Laird", ",", "and", "Rubin", ".", "Maximum", "likelihood", "from", "incomplete", "data", "via", "the", "EM", "algorithm", ".", "Journal", "Royal", "Statistical", "Society", "B", ",", "39", "-LRB-", "2", "-RRB-", ":", "1", "38", ",", "1977", ".", "-LSB-", "3", "-RSB-", "I.", "S.", "Dhillon", "and", "D.", "S.", "Modha", ".", "Concept", "decompositions", "for", "large", "sparse", "text", "data", "using", "clustering", ".", "Machine", "Learning", ",", "42", "-LRB-", "1", "-RRB-", ":", "143", "175", ",", "January", "2001", ".", "-LSB-", "4", "-RSB-", "E.", "Diday", "and", "J.", "C.", "Simon", ".", "Cluster", "analysis", ".", "In", "K.", "S.", "Fu", ",", "editor", ",", "Pattern", "Recognition", ",", "pages", "47", "94", ".", "Springer-Verlag", ",", "1976", ".", "-LSB-", "5", "-RSB-", "H.", "Frigui", "and", "O.", "Nasraoui", ".", "Simultaneous", "clustering", "and", "attribute", "discrimination", ".", "In", "Proceedings", "of", "FUZZIEEE", ",", "pages", "158", "163", ",", "San", "Antonio", ",", "2000", ".", "-LSB-", "6", "-RSB-", "H.", "Frigui", "and", "O.", "Nasraoui", ".", "Simultaneous", "categorization", "of", "text", "documents", "and", "identification", "of", "cluster-dependent", "keywords", ".", "In", "Proceedings", "of", "FUZZIEEE", ",", "pages", "158", "163", ",", "Honolulu", ",", "Hawaii", ",", "2001", ".", "-LSB-", "7", "-RSB-", "D.", "E.", "Gustafson", "and", "W.", "C.", "Kessel", ".", "Fuzzy", "clustering", "with", "the", "fuzzy", "covariance", "matrix", ".", "In", "Proccedings", "of", "IEEE", "CDC", ",", "pages", "761", "766", ",", "San", "Diego", ",", "California", ",", "1979", ".", "-LSB-", "8", "-RSB-", "R.", "Krishnapuram", "and", "J.", "Kim", ".", "A", "note", "on", "fuzzy", "clustering", "algorithms", "for", "Gaussian", "clusters", ".", "IEEE", "Transactions", "on", "Fuzzy", "Systems", ",", "7", "-LRB-", "4", "-RRB-", ":", "453", "461", ",", "Aug", "1999", ".", "-LSB-", "9", "-RSB-", "Y.", "Rui", ",", "T.", "S.", "Huang", ",", "and", "S.", "Mehrotra", ".", "Relevance", "feedback", "techniques", "in", "interactive", "content-based", "image", "retrieval", ".", "In", "Storage", "and", "Retrieval", "for", "Image", "and", "Video", "Databases", "-LRB-", "SPIE", "-RRB-", ",", "pages", "25", "36", ",", "1998", ".", "-LSB-", "10", "-RSB-", "N.", "Slonim", "and", "N.", "Tishby", ".", "Document", "clustering", "using", "word", "clusters", "via", "the", "information", "bottleneck", "method", ".", "In", "Proceedings", "of", "SIGIR", ",", "pages", "208", "215", ",", "2000", ".", "APPENDIX", "A", ".", "OTHER", "FEATURE", "WEIGHTING", "CLUSTERING", "TECHNIQUES", "A.", "1", "Diagonal", "Gustafson-Kessel", "-LRB-", "DGK", "-RRB-", "Gustafson", "and", "Kessel", "-LSB-", "7", "-RSB-", "associate", "each", "cluster", "with", "a", "different", "norm", "matrix", ".", "Let", "A", "=", "-LRB-", "A", "1", ",", "...", ",", "A", "k", "-RRB-", "be", "the", "set", "of", "k", "norm", "matrices", "associated", "with", "k", "clusters", ".", "Let", "u", "ji", "is", "the", "fuzzy", "membership", "of", "x", "i", "in", "cluster", "j", "and", "U", "=", "-LSB-", "u", "ji", "-RSB-", ".", "By", "restricting", "A", "j", "s", "to", "be", "diagonal", "and", "u", "ji", "-LCB-", "0", ",", "1", "-RCB-", ",", "we", "can", "reformulate", "the", "original", "optimization", "problem", "in", "terms", "of", "SVaD", "measures", "as", "follows", ":", "min", "C", ",", "W", "J", "DGK", "-LRB-", "C", ",", "W", "-RRB-", "=", "k", "j", "=", "1", "x", "i", "R", "j", "M", "l", "=", "1", "w", "jl", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ",", "subject", "to", "l", "w", "jl", "=", "j", ".", "Note", "that", "this", "problem", "can", "be", "solved", "using", "the", "same", "AO", "algorithms", "described", "in", "Section", "3", ".", "Here", ",", "the", "update", "for", "C", "and", "P", "would", "remain", "the", "same", "as", "that", "discussed", "in", "Section", "3", ".", "It", "can", "be", "easily", "shown", "that", "when", "j", "=", "1", ",", "j", ",", "w", "jl", "=", "M", "m", "=", "1", "x", "i", "R", "j", "g", "m", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "1/M", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-LRB-", "14", "-RRB-", "minimize", "J", "DGK", "for", "a", "given", "C.", "A.", "2", "Crisp", "Simultaneous", "Clustering", "and", "Attribute", "Discrimination", "-LRB-", "CSCAD", "-RRB-", "Frigui", "et", ".", "al.", "in", "-LSB-", "5", ",", "6", "-RSB-", ",", "considered", "a", "fuzzy", "version", "of", "the", "feature-weighting", "based", "clustering", "problem", "-LRB-", "SCAD", "-RRB-", ".", "To", "make", "a", "fair", "comparison", "of", "our", "algorithms", "with", "SCAD", ",", "we", "derive", "its", "crisp", "version", "and", "refer", "to", "it", "as", "Crisp", "SCAD", "-LRB-", "CSCAD", "-RRB-", ".", "In", "-LSB-", "5", ",", "6", "-RSB-", ",", "the", "Gini", "measure", "is", "used", "for", "regularization", ".", "If", "the", "Gini", "measure", "is", "considered", "with", "r", "=", "1", ",", "the", "weights", "w", "jl", "that", "minimize", "the", "corresponding", "objective", "function", "for", "a", "given", "C", "and", "P", ",", "are", "given", "by", "w", "jl", "=", "1", "M", "+", "1", "2", "j", "1", "M", "M", "n", "=", "1", "x", "i", "R", "j", "g", "n", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ".", "-LRB-", "15", "-RRB-", "Since", "SCAD", "uses", "the", "weighted", "Euclidean", "measure", ",", "the", "update", "equations", "of", "centroids", "in", "CSCAD", "remain", "the", "same", "as", "in", "-LRB-", "11", "-RRB-", ".", "The", "update", "equation", "for", "w", "jl", "in", "SCAD", "is", "quite", "similar", "to", "-LRB-", "15", "-RRB-", ".", "One", "may", "note", "that", ",", "in", "-LRB-", "15", "-RRB-", ",", "the", "value", "of", "w", "jl", "can", "become", "negative", ".", "In", "-LSB-", "5", "-RSB-", ",", "a", "heuristic", "is", "used", "to", "estimate", "the", "value", "j", "in", "every", "iteration", "and", "set", "the", "negative", "values", "of", "w", "jl", "to", "zero", "before", "normalizing", "the", "weights", ".", "616", "Research", "Track", "Poster"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dissimilarity measure", "clustering", "feature weighting"], "abstractive_keyphrases": ["spatially varying dissimilarity (svad)", "learning dissimilarity measures"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "130", "document": ["Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "For", "hardware", "accelerated", "rendering", ",", "photon", "mapping", "is", "especially", "useful", "for", "simulating", "caustic", "lighting", "effects", "on", "non-Lambertian", "surfaces", ".", "However", ",", "an", "efficient", "hardware", "algorithm", "for", "the", "computation", "of", "the", "k", "nearest", "neighbours", "to", "a", "sample", "point", "is", "required", ".", "Existing", "algorithms", "are", "often", "based", "on", "recursive", "spatial", "subdivision", "techniques", ",", "such", "as", "kd-trees", ".", "However", ",", "hardware", "implementation", "of", "a", "tree-based", "algorithm", "would", "have", "a", "high", "latency", ",", "or", "would", "require", "a", "large", "cache", "to", "avoid", "this", "latency", "on", "average", ".", "We", "present", "a", "neighbourhood-preserving", "hashing", "algorithm", "that", "is", "low-latency", "and", "has", "sub-linear", "access", "time", ".", "This", "algorithm", "is", "more", "amenable", "to", "fine-scale", "parallelism", "than", "tree-based", "recursive", "spatial", "subdivision", ",", "and", "maps", "well", "onto", "coherent", "block-oriented", "pipelined", "memory", "access", ".", "These", "properties", "make", "the", "algorithm", "suitable", "for", "implementation", "using", "future", "programmable", "fragment", "shaders", "with", "only", "one", "stage", "of", "dependent", "texturing", ".", "-LRB-", "according", "to", "ACM", "CCS", "-RRB-", ":", "I.", "3.7", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Three-Dimensional", "Graphics", "and", "Realism", ",", "Color", ",", "Shading", ",", "Shadowing", ",", "and", "Texture", ".", "Photon", "mapping", ",", "as", "described", "by", "Jensen", "25", ",", "is", "a", "technique", "for", "reconstructing", "the", "incoming", "light", "field", "at", "surfaces", "everywhere", "in", "a", "scene", "from", "sparse", "samples", "generated", "by", "forward", "light", "path", "tracing", ".", "In", "conjunction", "with", "path", "tracing", ",", "photon", "mapping", "can", "be", "used", "to", "accelerate", "the", "computation", "of", "both", "diffuse", "and", "specular", "global", "illumination", ".", "It", "is", "most", "effective", "for", "specular", "or", "glossy", "reflectance", "effects", ",", "such", "as", "caustics", "24", ".", "The", "benefits", "of", "migrating", "photo-realistic", "rendering", "techniques", "towards", "a", "real-time", ",", "hardware-assisted", "implementation", "are", "obvious", ".", "Recent", "work", "has", "shown", "that", "it", "is", "possible", "to", "implement", "complex", "algorithms", ",", "such", "as", "ray-tracing", ",", "using", "the", "programmable", "features", "of", "general-purpose", "hardware", "accelerators", "35", "and/or", "specialised", "hardware", "41", ".", "We", "are", "interested", "in", "hardware", "support", "for", "photon", "mapping", ":", "specifically", ",", "the", "application", "of", "photon", "maps", "to", "the", "direct", "visualisation", "of", "caustics", "on", "non-Lambertian", "surfaces", ",", "since", "diffuse", "global", "illumination", "effects", "are", "probably", "best", "handled", "in", "a", "real-time", "renderer", "using", "alternative", "techniques", "such", "as", "irradiance", "volumes", "18", ".", "Central", "to", "photon", "mapping", "is", "the", "search", "for", "the", "set", "of", "photons", "nearest", "to", "the", "point", "being", "shaded", ".", "This", "is", "part", "of", "the", "interpolation", "step", "that", "joins", "light", "paths", "propagated", "from", "light", "sources", "with", "rays", "traced", "from", "the", "camera", "during", "rendering", ",", "and", "it", "is", "but", "one", "application", "of", "the", "well-studied", "k", "nearest", "neighbours", "-LRB-", "kNN", "-RRB-", "problem", ".", "Jensen", "uses", "the", "kd-tree", "5", ",", "6", "data", "structure", "to", "find", "these", "nearest", "photons", ".", "However", ",", "solving", "the", "kNN", "problem", "via", "kd-trees", "requires", "a", "search", "that", "traverses", "the", "tree", ".", "Even", "if", "the", "tree", "is", "stored", "as", "a", "heap", ",", "traversal", "still", "requires", "random-order", "memory", "access", "and", "memory", "to", "store", "a", "stack", ".", "More", "importantly", ",", "a", "search-path", "pruning", "algorithm", ",", "based", "on", "the", "data", "already", "examined", ",", "is", "required", "to", "avoid", "accessing", "all", "data", "in", "the", "tree", ".", "This", "introduces", "serial", "dependencies", "between", "one", "memory", "lookup", "and", "the", "next", ".", "Consequently", ",", "a", "hardware", "implementation", "of", "a", "kd-tree-based", "kNN", "solution", "would", "either", "have", "high", "latency", ",", "or", "would", "require", "a", "large", "cache", "to", "avoid", "such", "latency", ".", "In", "either", "case", "a", "custom", "hardware", "implementation", "would", "be", "required", ".", "These", "properties", "motivated", "us", "to", "look", "at", "alternatives", "to", "tree", "search", ".", "Since", "photon", "mapping", "is", "already", "making", "an", "approximation", "by", "using", "kNN", "interpolation", ",", "we", "conjectured", "that", "an", "approximate", "kNN", "-LRB-", "AkNN", "-RRB-", "solution", "should", "suffice", "so", "long", "as", "visual", "quality", "is", "maintained", ".", "In", "this", "paper", "we", "investigate", "a", "hashing-based", "AkNN", "solution", "in", "the", "context", "of", "high-c", "The", "Eurographics", "Association", "2002", ".", "89", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "performance", "hardware-based", "-LRB-", "specifically", ",", "programmable", "shader-based", "-RRB-", "photon", "mapping", ".", "Our", "major", "contribution", "is", "an", "AkNN", "algorithm", "that", "has", "bounded", "query", "time", ",", "bounded", "memory", "usage", ",", "and", "high", "potential", "for", "fine-scale", "parallelism", ".", "Moreover", ",", "our", "algorithm", "results", "in", "coherent", ",", "non-redundant", "accesses", "to", "block-oriented", "memory", ".", "The", "results", "of", "one", "memory", "lookup", "do", "not", "affect", "subsequent", "memory", "lookups", ",", "so", "accesses", "can", "take", "place", "in", "parallel", "within", "a", "pipelined", "memory", "system", ".", "Our", "algorithm", "is", "based", "on", "array", "access", ",", "and", "is", "more", "compatible", "with", "current", "texture-mapping", "capabilities", "than", "tree-based", "algorithms", ".", "Furthermore", ",", "any", "photon", "mapping", "acceleration", "technique", "that", "continues", "to", "rely", "on", "a", "form", "of", "kNN", "-LRB-", "such", "as", "irradiance", "caching", "7", "-RRB-", "can", "still", "benefit", "from", "our", "technique", ".", "In", "Section", "2", ",", "we", "first", "review", "previous", "work", "on", "the", "kNN", "and", "the", "approximate", "k-nearest", "neighbour", "-LRB-", "AkNN", "-RRB-", "problems", ".", "Section", "3", "describes", "the", "context", "and", "assumptions", "of", "our", "research", "and", "illustrates", "the", "basic", "hashing", "technique", "used", "in", "our", "algorithm", ".", "Sections", "4", "and", "5", "describe", "the", "details", "of", "our", "algorithm", ".", "Section", "6", "presents", "numerical", ",", "visual", "quality", ",", "and", "performance", "results", ".", "Section", "7", "discusses", "the", "mapping", "of", "the", "algorithm", "onto", "a", "shader-based", "implementation", ".", "Finally", ",", "we", "conclude", "in", "Section", "8", ".", "Jensen", "'s", "book", "25", "covers", "essentially", "all", "relevant", "previous", "work", "leading", "up", "to", "photon", "mapping", ".", "Due", "to", "space", "limitations", ",", "we", "will", "refer", "the", "reader", "to", "that", "book", "and", "focus", "our", "literature", "review", "on", "previous", "approaches", "to", "the", "kNN", "and", "AkNN", "problems", ".", "Any", "non-trivial", "algorithm", "that", "claims", "to", "be", "able", "to", "solve", "the", "kNN", "problem", "faster", "than", "brute-force", "does", "so", "by", "reducing", "the", "number", "of", "candidates", "that", "have", "to", "be", "examined", "when", "computing", "the", "solution", "set", ".", "Algorithms", "fall", "into", "the", "following", "categories", ":", "recursive", "spatial", "subdivision", ",", "point", "location", ",", "neighbourhood", "graphs", ",", "and", "hashing", ".", "Amongst", "algorithms", "based", "on", "recursive", "spatial", "subdivision", ",", "the", "kd-tree", "5", "method", "is", "the", "approach", "commonly", "used", "to", "solve", "the", "kNN", "problem", "14", ".", "An", "advantage", "of", "the", "kd-tree", "is", "that", "if", "the", "tree", "is", "balanced", "it", "can", "be", "stored", "as", "a", "heap", "in", "a", "single", "array", ".", "While", "it", "has", "been", "shown", "that", "kd-trees", "have", "optimal", "expected-time", "complexity", "6", ",", "in", "the", "worst", "case", "finding", "the", "k", "nearest", "neighbours", "may", "require", "an", "exhaustive", "search", "of", "the", "entire", "data", "structure", "via", "recursive", "decent", ".", "This", "requires", "a", "stack", "the", "same", "size", "as", "the", "depth", "of", "the", "tree", ".", "During", "the", "recursion", ",", "a", "choice", "is", "made", "of", "which", "subtree", "to", "search", "next", "based", "on", "a", "test", "at", "each", "internal", "node", ".", "This", "introduces", "a", "dependency", "between", "one", "memory", "access", "and", "the", "next", "and", "makes", "it", "hard", "to", "map", "this", "algorithm", "into", "high-latency", "pipelined", "memory", "accesses", ".", "Much", "work", "has", "been", "done", "to", "find", "methods", "to", "optimise", "the", "kd-tree", "method", "of", "solving", "the", "kNN", "and", "AkNN", "problems", ".", "See", "Christensen", "26", ",", "Vanco", "et", "al.", "44", ",", "Havran", "19", ",", "and", "Sample", "et", "al.", "39", ".", "Many", "other", "recursive", "subdivision-based", "techniques", "have", "also", "been", "proposed", "for", "the", "kNN", "and", "AkNN", "problems", ",", "including", "kd-B-trees", "36", ",", "BBD-trees", "4", ",", "BAR-trees", "9", ",", "Principal-Axis", "Trees", "33", ",", "the", "R-tree", "family", "of", "data", "structures", "27", ",", "and", "ANN-trees", "30", ".", "Unfortunately", ",", "all", "schemes", "based", "on", "recursive", "search", "over", "a", "tree", "share", "the", "same", "memory", "dependency", "problem", "as", "the", "kd-tree", ".", "The", "second", "category", "of", "techniques", "are", "based", "on", "building", "and", "searching", "graphs", "that", "encode", "sample-adjacency", "information", ".", "The", "randomised", "neighbourhood", "graph", "approach", "3", "builds", "and", "searches", "an", "approximate", "local", "neighbourhood", "graph", ".", "Eppstein", "et", "al.", "11", "investigated", "the", "fundamental", "properties", "of", "a", "nearest", "neighbour", "graph", ".", "Jaromczyk", "and", "Toussaint", "surveyed", "data", "structures", "and", "techniques", "based", "on", "Relative", "Neighbourhood", "Graphs", "23", ".", "Graph-based", "techniques", "tend", "to", "have", "the", "same", "difficulties", "as", "tree-based", "approaches", ":", "searching", "a", "graph", "also", "involves", "stacks", "or", "queues", ",", "dependent", "memory", "accesses", ",", "and", "pointer-chasing", "unsuited", "to", "high-latency", "pipelined", "memory", "access", ".", "Voronoi", "diagrams", "can", "be", "used", "for", "optimal", "1-nearest", "neighbour", "searches", "in", "2D", "and", "3D", "10", ".", "This", "and", "other", "point-location", "based", "techniques", "17", "for", "solving", "nearest", "neighbour", "problems", "do", "not", "need", "to", "calculate", "distances", "between", "the", "query", "point", "and", "the", "candidates", ",", "but", "do", "need", "another", "data", "structure", "-LRB-", "like", "a", "BSP", "tree", "-RRB-", "to", "test", "a", "query", "point", "for", "inclusion", "in", "a", "region", ".", "Hashing", "approaches", "to", "the", "kNN", "and", "AkNN", "problems", "have", "recently", "been", "proposed", "by", "Indyk", "et", "al.", "20", ",", "21", "and", "Gionis", "et", "al.", "16", ".", "These", "techniques", "have", "the", "useful", "property", "that", "multi-level", "dependent", "memory", "lookups", "are", "not", "required", ".", "The", "heart", "of", "these", "algorithms", "are", "simple", "hash", "functions", "that", "preserve", "spatial", "locality", ",", "such", "as", "the", "one", "proposed", "by", "Linial", "and", "Sasson", "31", ",", "and", "Gionis", "et", "al.", "16", ".", "We", "base", "our", "technique", "on", "the", "latter", ".", "The", "authors", "also", "recognise", "recent", "work", "by", "Wald", "et", "al.", "45", "on", "real-time", "global", "illumination", "techniques", "where", "a", "hashing-based", "photon", "mapping", "technique", "was", "apparently", "used", "-LRB-", "but", "not", "described", "in", "detail", "-RRB-", ".", "Numerous", "surveys", "and", "books", "1", ",", "2", ",", "15", ",", "42", ",", "43", ",", "17", "provide", "further", "information", "on", "this", "family", "of", "problems", "and", "data", "structures", "developed", "to", "solve", "them", ".", "We", "have", "developed", "a", "novel", "technique", "called", "Block", "Hashing", "-LRB-", "BH", "-RRB-", "to", "solve", "the", "approximate", "kNN", "-LRB-", "AkNN", "-RRB-", "problem", "in", "the", "context", "of", ",", "but", "not", "limited", "to", ",", "photon", "mapping", ".", "Our", "algorithm", "uses", "hash", "functions", "to", "categorise", "photons", "by", "their", "positions", ".", "Then", ",", "a", "kNN", "query", "proceeds", "by", "deciding", "which", "hash", "bucket", "is", "matched", "to", "the", "query", "point", "and", "retrieving", "the", "photons", "contained", "inside", "the", "hash", "bucket", "for", "analysis", ".", "One", "attraction", "of", "the", "hashing", "approach", "is", "that", "evaluation", "of", "hash", "functions", "takes", "constant", "time", ".", "In", "addition", ",", "once", "we", "have", "the", "hash", "value", ",", "accessing", "data", "we", "want", "in", "the", "hash", "table", "takes", "only", "a", "single", "access", ".", "These", "advantages", "permit", "us", "to", "c", "The", "Eurographics", "Association", "2002", ".", "90", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "avoid", "operations", "that", "are", "serially", "dependent", "on", "one", "another", ",", "such", "as", "those", "required", "by", "kd-trees", ",", "and", "are", "major", "stepping", "stones", "towards", "a", "low-latency", "shader-based", "implementation", ".", "Our", "technique", "is", "designed", "under", "two", "assumptions", "on", "the", "behaviour", "of", "memory", "systems", "in", "-LRB-", "future", "-RRB-", "accelerators", ".", "First", ",", "we", "assume", "that", "memory", "is", "allocated", "in", "fixed-sized", "blocks", ".", "Second", ",", "we", "assume", "that", "access", "to", "memory", "is", "via", "burst", "transfer", "of", "blocks", "that", "are", "then", "cached", ".", "Under", "this", "assumption", ",", "if", "any", "part", "of", "a", "fixed-sized", "memory", "block", "is", "``", "touched", "''", ",", "access", "to", "the", "rest", "of", "this", "block", "will", "be", "virtually", "zero-cost", ".", "This", "is", "typical", "even", "of", "software", "implementations", "on", "modern", "machines", "which", "rely", "heavily", "on", "caching", "and", "burst-mode", "transfers", "from", "SDRAM", "or", "RDRAM", ".", "In", "a", "hardware", "implementation", "with", "a", "greater", "disparity", "between", "processing", "power", "and", "memory", "speed", ",", "using", "fast", "block", "transfers", "and", "caching", "is", "even", "more", "important", ".", "Due", "to", "these", "benefits", ",", "in", "BH", "all", "memory", "used", "to", "store", "photon", "data", "is", "broken", "into", "fixed-sized", "blocks", ".", "3.1", ".", "Locality-Sensitive", "Hashing", "Since", "our", "goal", "is", "to", "solve", "the", "kNN", "problem", "as", "efficiently", "as", "possible", "in", "a", "block-oriented", "cache-based", "context", ",", "our", "hashing", "technique", "requires", "hash", "functions", "that", "preserve", "spatial", "neighbourhoods", ".", "These", "hash", "functions", "take", "points", "that", "are", "close", "to", "each", "other", "in", "the", "domain", "space", "and", "hash", "them", "close", "to", "each", "other", "in", "hash", "space", ".", "By", "using", "such", "hash", "functions", ",", "photons", "within", "the", "same", "hash", "bucket", "as", "a", "query", "point", "can", "be", "assumed", "to", "be", "close", "to", "the", "query", "point", "in", "the", "original", "domain", "space", ".", "Consequently", ",", "these", "photons", "are", "good", "candidates", "for", "the", "kNN", "search", ".", "More", "than", "one", "such", "scheme", "is", "available", ";", "we", "chose", "to", "base", "our", "technique", "on", "the", "Locality-Sensitive", "Hashing", "-LRB-", "LSH", "-RRB-", "algorithm", "proposed", "by", "Gionis", "et", "al.", "16", ",", "but", "have", "added", "several", "refinements", "-LRB-", "which", "we", "describe", "in", "Section", "4", "-RRB-", ".", "The", "hash", "function", "in", "LSH", "groups", "one-dimensional", "real", "numbers", "in", "hash", "space", "by", "their", "spatial", "location", ".", "It", "does", "so", "by", "partitioning", "the", "domain", "space", "and", "assigning", "a", "unique", "hash", "value", "to", "each", "partition", ".", "Mathematically", ",", "let", "T", "=", "-LCB-", "t", "i", "|", "0", "i", "P", "-RCB-", "be", "a", "monotonically", "increasing", "sequence", "of", "P", "+", "1", "thresholds", "between", "0", "and", "1", ".", "Assume", "t", "0", "=", "0", "and", "t", "P", "=", "1", ",", "so", "there", "are", "P", "-", "1", "degrees", "of", "freedom", "in", "this", "sequence", ".", "Define", "a", "one-dimensional", "Locality-Sensitive", "Hash", "Function", "h", "T", ":", "-LSB-", "0", ",", "1", "-RSB-", "-LCB-", "0", "...", "P", "-", "1", "-RCB-", "to", "be", "h", "T", "-LRB-", "t", "-RRB-", "=", "i", ",", "where", "t", "i", "t", "<", "t", "i", "+1", ".", "In", "other", "words", ",", "the", "hash", "value", "i", "can", "take", "on", "P", "different", "values", ",", "one", "for", "each", "``", "bucket", "''", "defined", "by", "the", "threshold", "pair", "-LSB-", "t", "i", ",", "t", "i", "+1", "-RRB-", ".", "An", "example", "is", "shown", "in", "Figure", "1", ".", "t", "1", "t", "2", "t", "3", "t", "4", "t", "0", "Figure", "1", ":", "An", "example", "of", "h", "T", ".", "The", "circles", "and", "boxes", "represent", "values", "to", "be", "hashed", ",", "while", "the", "vertical", "lines", "are", "the", "thresholds", "in", "T", ".", "The", "boxes", "lie", "between", "t", "1", "and", "t", "2", ",", "thus", "they", "are", "given", "a", "hash", "value", "of", "1", ".", "The", "function", "h", "T", "can", "be", "interpreted", "as", "a", "monotonic", "non-uniform", "quantisation", "of", "spatial", "position", ",", "and", "is", "characterised", "by", "P", "and", "the", "sequence", "T", ".", "It", "is", "important", "to", "note", "that", "h", "T", "gives", "each", "partition", "of", "the", "domain", "space", "delineated", "by", "T", "equal", "representation", "in", "hash", "space", ".", "Depending", "on", "the", "location", "of", "the", "thresholds", ",", "h", "T", "will", "contract", "some", "parts", "of", "the", "domain", "space", "and", "expand", "other", "parts", ".", "If", "we", "rely", "on", "only", "a", "single", "hash", "table", "to", "classify", "a", "data", "set", ",", "a", "query", "point", "will", "only", "hash", "to", "a", "single", "bucket", "within", "this", "table", ",", "and", "the", "bucket", "may", "represent", "only", "a", "subset", "of", "the", "true", "neighbourhood", "we", "sought", ".", "Therefore", ",", "multiple", "hash", "tables", "with", "different", "thresholds", "are", "necessary", "for", "the", "retrieval", "of", "a", "more", "complete", "neighbourhood", "around", "the", "query", "point", "-LRB-", "See", "Figure", "2", ".", "-RRB-", "h", "T1", "h", "T3", "h", "T2", "t", "1", "t", "2", "t", "3", "t", "4", "t", "0", "t", "4", "t", "0", "t", "4", "t", "0", "t", "1", "t", "1", "t", "2", "t", "2", "t", "3", "t", "3", "Figure", "2", ":", "An", "example", "of", "multiple", "hash", "functions", "classifying", "a", "dataset", ".", "The", "long", "vertical", "line", "represents", "the", "query", "value", ".", "The", "union", "of", "results", "multiple", "hash", "tables", "with", "different", "thresholds", "represents", "a", "more", "complete", "neighbourhood", ".", "To", "deal", "with", "n-dimensional", "points", ",", "each", "hash", "table", "will", "have", "one", "hash", "function", "per", "dimension", ".", "Each", "hash", "function", "generates", "one", "hash", "value", "per", "coordinate", "of", "the", "point", "-LRB-", "See", "Figure", "3", ".", "-RRB-", "The", "final", "hash", "value", "is", "calculated", "by", "n", "-1", "i", "=", "0", "h", "i", "P", "i", ",", "where", "h", "i", "are", "the", "hash", "values", "and", "P", "is", "the", "number", "of", "thresholds", ".", "If", "P", "were", "a", "power", "of", "two", ",", "then", "this", "amounts", "to", "concatenating", "the", "bits", ".", "The", "only", "reason", "we", "use", "the", "same", "number", "of", "thresholds", "for", "each", "dimension", "is", "simplicity", ".", "It", "is", "conceivable", "that", "a", "different", "number", "of", "thresholds", "could", "be", "used", "for", "each", "dimension", "to", "better", "adapt", "to", "the", "data", ".", "We", "defer", "the", "discussion", "of", "threshold", "generation", "and", "query", "procedures", "until", "Sections", "4.2", "and", "4.4", ",", "respectively", ".", "h", "x", "h", "y", "P", "Figure", "3", ":", "Using", "two", "hash", "functions", "to", "handle", "a", "2D", "point", ".", "Each", "hash", "function", "will", "be", "used", "to", "hash", "one", "coordinate", ".", "LSH", "is", "very", "similar", "to", "grid", "files", "34", ".", "However", ",", "the", "grid", "file", "was", "specifically", "designed", "to", "handle", "dynamic", "data", ".", "Here", ",", "we", "assume", "that", "the", "data", "is", "static", "during", "the", "rendering", "pass", ".", "Also", ",", "the", "grid", "file", "is", "more", "suitable", "for", "range", "searches", "than", "it", "is", "for", "solving", "the", "kNN", "problem", ".", "3.2", ".", "Block-Oriented", "Memory", "Model", "It", "has", "been", "our", "philosophy", "that", "hardware", "implementations", "of", "algorithms", "should", "treat", "off-chip", "memory", "the", "same", "way", "software", "implementations", "treat", "disk", ":", "as", "a", "relatively", "slow", ",", "``", "out-of", "-", "core", "''", ",", "high-latency", ",", "block-oriented", "storage", "device", ".", "This", "c", "The", "Eurographics", "Association", "2002", ".", "91", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "analogy", "implies", "that", "algorithms", "and", "data", "structures", "designed", "to", "optimise", "for", "disk", "access", "are", "potentially", "applicable", "to", "hardware", "design", ".", "It", "also", "drove", "us", "to", "employ", "fixed-sized", "blocks", "to", "store", "the", "data", "involved", "in", "the", "kNN", "search", "algorithm", ",", "which", "are", "photons", "in", "the", "context", "of", "this", "application", ".", "In", "our", "prototype", "software", "implementation", "of", "BH", ",", "each", "photon", "is", "stored", "in", "a", "structure", "similar", "to", "Jensen", "'s", "``", "extended", "''", "photon", "representation", "25", ".", "As", "shown", "in", "Figure", "4", ",", "each", "component", "of", "the", "3D", "photon", "location", "is", "represented", "by", "a", "32-bit", "fixed-point", "number", ".", "The", "unit", "vectors", "representing", "incoming", "direction", "^", "d", "and", "surface", "normal", "^", "n", "are", "quantised", "to", "16-bit", "values", "using", "Jensen", "'s", "polar", "representation", ".", "Photon", "power", "is", "stored", "in", "four", "channels", "using", "sixteen-bit", "floating", "point", "numbers", ".", "This", "medium-precision", "signed", "representation", "permits", "other", "AkNN", "applications", "beyond", "that", "of", "photon", "mapping", ".", "Four", "colour", "channels", "are", "also", "included", "to", "better", "match", "the", "four-vectors", "supported", "in", "fragment", "shaders", ".", "For", "the", "photon", "mapping", "application", "specifically", ",", "our", "technique", "is", "compatible", "with", "the", "replacement", "of", "the", "four", "colour", "channels", "with", "a", "Ward", "RGBE", "colour", "representation", "46", ".", "Likewise", ",", "another", "implementation", "might", "use", "a", "different", "representation", "for", "the", "normal", "and", "incident", "direction", "unit", "vectors", ".", "|", "32", "|", "x", "y", "z", "^", "d", "^", "n", "c", "1", "c", "2", "c", "3", "c", "4", "|", "16", "|", "Figure", "4", ":", "Representation", "of", "a", "photon", "record", ".", "The", "32-bit", "values", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "denote", "the", "position", "of", "a", "photon", "and", "are", "used", "as", "keys", ".", "Two", "quantised", "16-bit", "unit", "vectors", "^", "d", ",", "^", "n", "and", "four", "16-bit", "floating", "point", "values", "are", "carried", "as", "data", ".", "All", "photon", "records", "are", "stored", "in", "fixed-sized", "memory", "blocks", ".", "BH", "uses", "a", "64", "32-bit-word", "block", "size", ",", "chosen", "to", "permit", "efficient", "burst-mode", "transfers", "over", "a", "wide", "bus", "to", "transaction-oriented", "DRAM", ".", "Using", "a", "128-bit", "wide", "path", "to", "DDR", "SDRAM", ",", "for", "instance", ",", "transfer", "of", "this", "block", "would", "take", "eight", "cycles", ",", "not", "counting", "the", "overhead", "of", "command", "cycles", "to", "specify", "the", "operation", "and", "the", "address", ".", "Using", "next-generation", "QDR", "SDRAM", "this", "transfer", "would", "take", "only", "four", "cycles", "-LRB-", "or", "eight", "on", "a", "64-bit", "bus", ",", "etc.", "-RRB-", "Our", "photon", "representation", "occupies", "six", "32-bit", "words", ".", "Since", "photon", "records", "are", "not", "permitted", "to", "span", "block", "boundaries", ",", "ten", "photons", "will", "fit", "into", "a", "64-word", "block", "with", "four", "words", "left", "over", ".", "Some", "of", "this", "extra", "space", "is", "used", "in", "our", "implementation", "to", "record", "how", "many", "photons", "are", "actually", "stored", "in", "each", "block", ".", "For", "some", "variants", "of", "the", "data", "structures", "we", "describe", ",", "this", "extra", "space", "could", "also", "be", "used", "for", "flags", "or", "pointers", "to", "other", "blocks", ".", "It", "might", "be", "possible", "or", "desirable", "in", "other", "implementations", "to", "support", "more", "or", "fewer", "colour", "channels", ",", "or", "channels", "with", "greater", "or", "lesser", "precision", ",", "in", "which", "case", "some", "of", "our", "numerical", "results", "would", "change", ".", "Block", "Hashing", "-LRB-", "BH", "-RRB-", "contains", "a", "preprocessing", "phase", "and", "a", "query", "phase", ".", "The", "preprocessing", "phase", "consists", "of", "three", "steps", ".", "After", "photons", "have", "been", "traced", "into", "the", "scene", ",", "the", "algorithm", "organises", "the", "photons", "into", "fixed-sized", "memory", "blocks", ",", "creates", "a", "set", "of", "hash", "tables", ",", "and", "inserts", "photon", "blocks", "into", "the", "hash", "tables", ".", "In", "the", "second", "phase", ",", "the", "hash", "tables", "will", "be", "queried", "for", "a", "set", "of", "candidate", "photons", "from", "which", "the", "k", "nearest", "photons", "will", "be", "selected", "for", "each", "point", "in", "space", "to", "be", "shaded", "by", "the", "renderer", ".", "4.1", ".", "Organizing", "Photons", "into", "Blocks", "Due", "to", "the", "coherence", "benefits", "associated", "with", "block-oriented", "memory", "access", ",", "BH", "starts", "by", "grouping", "photons", "and", "storing", "them", "into", "fixed-sized", "memory", "blocks", ".", "However", ",", "these", "benefits", "are", "maximised", "when", "the", "photons", "within", "a", "group", "are", "close", "together", "spatially", ".", "We", "chose", "to", "use", "the", "Hilbert", "curve", "13", "to", "help", "group", "photons", "together", ".", "The", "advantage", "of", "the", "Hilbert", "curve", "encoding", "of", "position", "is", "that", "points", "mapped", "near", "each", "other", "on", "the", "Hilbert", "curve", "are", "guaranteed", "to", "be", "within", "a", "certain", "distance", "of", "each", "other", "in", "the", "original", "domain", "22", ".", "Points", "nearby", "in", "the", "original", "domain", "space", "have", "a", "high", "probability", "of", "being", "nearby", "on", "the", "curve", ",", "although", "there", "is", "a", "non-zero", "probability", "of", "them", "being", "far", "apart", "on", "the", "curve", ".", "If", "we", "sort", "photons", "by", "their", "Hilbert", "curve", "order", "before", "packing", "them", "into", "blocks", ",", "then", "the", "photons", "in", "each", "block", "will", "have", "a", "high", "probability", "of", "being", "spatially", "coherent", ".", "Each", "block", "then", "corresponds", "to", "an", "interval", "of", "the", "Hilbert", "curve", ",", "which", "in", "turn", "covers", "some", "compact", "region", "of", "the", "domain", "-LRB-", "see", "Figure", "7", "a", "-RRB-", ".", "Each", "region", "of", "domain", "space", "represented", "by", "the", "blocks", "is", "independent", ",", "and", "regions", "do", "not", "overlap", ".", "BH", "sorts", "photons", "and", "inserts", "them", "into", "a", "B", "+", "-", "tree", "8", "using", "the", "Hilbert", "curve", "encoding", "of", "the", "position", "of", "each", "photon", "as", "the", "key", ".", "This", "method", "of", "spatially", "grouping", "points", "was", "first", "proposed", "by", "Faloutsos", "and", "Rong", "12", "for", "a", "different", "purpose", ".", "Since", "a", "B", "+", "-", "tree", "stores", "photon", "records", "only", "at", "leaves", ",", "with", "a", "compatible", "construction", "the", "leaf", "nodes", "of", "the", "B", "+", "-", "tree", "can", "serve", "as", "the", "photon", "blocks", "used", "in", "the", "later", "stages", "of", "BH", ".", "One", "advantage", "of", "using", "a", "B", "+", "-", "tree", "for", "sorting", "is", "that", "insertion", "cost", "is", "bounded", ":", "the", "tree", "is", "always", "balanced", ",", "and", "in", "the", "worst", "case", "we", "may", "have", "to", "split", "h", "nodes", "in", "the", "tree", ",", "when", "the", "height", "of", "the", "tree", "is", "h.", "Also", ",", "B", "+", "-", "trees", "are", "optimised", "for", "block-oriented", "storage", ",", "as", "we", "have", "assumed", ".", "The", "B", "+", "-", "tree", "used", "by", "BH", "has", "index", "and", "leaf", "nodes", "that", "are", "between", "half", "full", "to", "completely", "full", ".", "To", "minimise", "the", "final", "number", "of", "blocks", "required", "to", "store", "the", "photons", ",", "the", "leaf", "nodes", "can", "be", "compacted", "-LRB-", "see", "Figure", "5", ".", "-RRB-", "After", "the", "photons", "are", "sorted", "and", "compacted", ",", "the", "resulting", "photon", "blocks", "are", "ready", "to", "be", "used", "by", "BH", ",", "and", "the", "B", "+", "-", "tree", "index", "and", "any", "leaf", "nodes", "that", "are", "made", "empty", "by", "compaction", "are", "discarded", ".", "If", "the", "complete", "set", "of", "photons", "is", "known", "a", "priori", ",", "the", "compact", "B", "+", "-", "tree", "37", "for", "static", "data", "can", "be", "used", "instead", ".", "This", "data", "structure", "maintains", "full", "nodes", "and", "avoids", "the", "extra", "compaction", "step", ".", "c", "The", "Eurographics", "Association", "2002", ".", "92", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "-LRB-", "b", "-RRB-", "Index", "node", "Empty", "cell", "in", "leaf", "node", "Occupied", "cell", "in", "leaf", "node", "-LRB-", "a", "-RRB-", "Figure", "5", ":", "Compaction", "of", "photon", "blocks", ".", "-LRB-", "a", "-RRB-", "B", "+", "-", "tree", "after", "inserting", "all", "photons", ".", "Many", "leaf", "nodes", "have", "empty", "cells", ".", "-LRB-", "b", "-RRB-", "All", "photon", "records", "are", "compacted", "in", "the", "leaf", "nodes", ".", "Regardless", ",", "observe", "that", "each", "photon", "block", "contains", "a", "spatially", "clustered", "set", "of", "photons", "disjoint", "from", "those", "contained", "in", "other", "blocks", ".", "This", "is", "the", "main", "result", "we", "are", "after", ";", "any", "other", "data", "structures", "that", "can", "group", "photons", "into", "spatially-coherent", "groups", ",", "such", "as", "grid", "files", "34", ",", "can", "be", "used", "in", "place", "of", "the", "B", "+", "-", "tree", "and", "space-filling", "curve", ".", "4.2", ".", "Creating", "the", "Hash", "Tables", "The", "hash", "tables", "used", "in", "BH", "are", "based", "on", "the", "LSH", "scheme", "described", "in", "Section", "3.1", ".", "BH", "generates", "L", "tables", "in", "total", ",", "serving", "as", "parallel", "and", "complementary", "indices", "to", "the", "photon", "data", ".", "Each", "table", "has", "three", "hash", "functions", "-LRB-", "since", "photons", "are", "classified", "by", "their", "3D", "positions", "-RRB-", ",", "and", "each", "hash", "function", "has", "P", "+", "1", "thresholds", ".", "BH", "employs", "an", "adaptive", "method", "that", "generates", "the", "thresholds", "based", "on", "the", "photon", "positions", ".", "For", "each", "dimension", ",", "a", "histogram", "of", "photon", "positions", "is", "built", ".", "Then", ",", "the", "histogram", "is", "integrated", "to", "obtain", "a", "cumulative", "distribution", "function", "-LRB-", "cdf", "-RRB-", ".", "Lastly", ",", "stratified", "samples", "are", "taken", "from", "the", "inverse", "of", "the", "cdf", "to", "obtain", "threshold", "locations", ".", "The", "resulting", "thresholds", "will", "be", "far", "apart", "where", "there", "are", "few", "photons", ",", "and", "close", "together", "where", "photons", "are", "numerous", ".", "Ultimately", "this", "method", "attempts", "to", "have", "a", "similar", "number", "of", "photons", "into", "each", "bucket", ".", "Hash", "tables", "are", "stored", "as", "a", "one-dimensional", "array", "structure", ",", "shown", "in", "Figure", "6", ".", "The", "hash", "key", "selects", "a", "bucket", "out", "of", "the", "P", "n", "available", "buckets", "in", "the", "hash", "table", ".", "Each", "bucket", "refers", "up", "to", "B", "blocks", "of", "photons", ",", "and", "has", "space", "for", "a", "validity", "flag", "per", "reference", ",", "and", "storage", "for", "a", "priority", "value", ".", "We", "defer", "the", "discussion", "on", "the", "choice", "of", "P", ",", "L", "and", "B", "until", "Section", "5", ".", "B", "V", "V", "V", "V", "Priority", "Figure", "6", ":", "Hash", "table", "bucket", "layout", "4.3", ".", "Inserting", "Photon", "Blocks", "In", "BH", ",", "references", "to", "entire", "photon", "blocks", ",", "rather", "than", "individual", "photons", ",", "are", "inserted", "into", "the", "hash", "tables", ".", "One", "reason", "for", "doing", "so", "is", "to", "reduce", "the", "memory", "required", "per", "bucket", ".", "Another", ",", "more", "important", ",", "reason", "is", "that", "when", "merging", "results", "from", "multiple", "hash", "tables", "-LRB-", "Section", "3.1", "-RRB-", ",", "BH", "needs", "to", "compare", "only", "block", "addresses", "instead", "of", "photons", "when", "weeding", "out", "duplicates", "as", "each", "block", "contains", "a", "unique", "set", "of", "photons", ".", "This", "means", "fewer", "comparisons", "have", "to", "be", "made", "and", "the", "individual", "photons", "are", "only", "accessed", "once", "per", "query", ",", "during", "post-processing", "of", "the", "merged", "candidate", "set", "to", "find", "the", "k", "nearest", "photons", ".", "Consequently", ",", "the", "transfer", "of", "each", "photon", "block", "through", "the", "memory", "system", "happens", "at", "most", "once", "per", "query", ".", "All", "photons", "accessed", "in", "a", "block", "are", "potentially", "useful", "contributions", "to", "the", "candidate", "set", ",", "since", "photons", "within", "a", "single", "block", "are", "spatially", "coherent", ".", "Due", "to", "our", "memory", "model", "assumptions", ",", "once", "we", "have", "looked", "at", "one", "photon", "in", "a", "block", "it", "should", "be", "relatively", "inexpensive", "to", "look", "at", "the", "rest", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "7", ":", "Block", "hashing", "illustrated", ".", "-LRB-", "a", "-RRB-", "Each", "block", "corresponds", "to", "an", "interval", "of", "the", "Hilbert", "curve", ",", "which", "in", "turn", "covers", "some", "compact", "region", "of", "the", "domain", ".", "Consequently", ",", "each", "bucket", "-LRB-", "b", "-RRB-", "represents", "all", "photons", "-LRB-", "highlighted", "with", "squares", "-RRB-", "in", "each", "block", "with", "at", "least", "one", "photon", "hashed", "into", "it", "-LRB-", "c", "-RRB-", ".", "Each", "bucket", "in", "a", "hash", "table", "corresponds", "to", "a", "rectangular", "region", "in", "a", "non-uniform", "grid", "as", "shown", "in", "Figure", "7", "b.", "Each", "block", "is", "inserted", "into", "the", "hash", "tables", "once", "for", "each", "photon", "within", "that", "block", ",", "using", "the", "position", "of", "these", "photons", "to", "create", "the", "keys", ".", "Each", "bucket", "of", "the", "hash", "table", "refers", "to", "not", "only", "the", "photons", "that", "have", "been", "hashed", "into", "that", "bucket", ",", "but", "also", "all", "the", "other", "photons", "that", "belong", "to", "the", "same", "blocks", "as", "the", "hashed", "photons", "-LRB-", "see", "Figure", "7", "c.", "-RRB-", "Since", "each", "photon", "block", "is", "inserted", "into", "each", "hash", "table", "multiple", "times", ",", "using", "different", "photons", "as", "keys", ",", "a", "block", "may", "be", "hashed", "into", "multiple", "buckets", "in", "the", "same", "hash", "table", ".", "Of", "course", ",", "a", "block", "should", "not", "be", "inserted", "into", "a", "bucket", "more", "than", "once", ".", "More", "importantly", ",", "our", "technique", "ensures", "that", "each", "block", "is", "inserted", "into", "at", "least", "one", "hash", "table", ".", "Orphaned", "blocks", "are", "very", "undesirable", "since", "the", "photons", "within", "will", "never", "be", "considered", "in", "the", "subsequent", "AkNN", "evaluation", "and", "will", "cause", "a", "constant", "error", "overhead", ".", "Hence", ",", "our", "technique", "does", "not", "na", "vely", "drop", "a", "block", "that", "causes", "a", "bucket", "to", "overflow", ".", "However", ",", "there", "may", "be", "collisions", "that", "cause", "buckets", "to", "overflow", ",", "especially", "when", "a", "large", "bucket", "load", "factor", "is", "chosen", "to", "give", "a", "compact", "hash", "table", "size", ",", "or", "there", "exists", "a", "large", "variation", "in", "photon", "density", "-LRB-", "which", ",", "of", "course", ",", "is", "typical", "in", "this", "application", "-RRB-", ".", "Our", "algorithm", "uses", "two", "techniques", "to", "address", "this", "problem", ".", "The", "first", "technique", "attempts", "to", "insert", "every", "block", "into", "every", "hash", "table", ",", "but", "in", "different", "orders", "on", "different", "hash", "tables", ",", "such", "that", "blocks", "that", "appear", "earlier", "in", "the", "ordering", "are", "not", "favoured", "for", "insertion", "in", "all", "tables", ".", "BH", "uses", "a", "technique", "similar", "to", "disk-striping", "38", ",", "illustrated", "by", "the", "c", "The", "Eurographics", "Association", "2002", ".", "93", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "pseudo", "code", "in", "Figure", "8", ".", "An", "example", "is", "given", "in", "the", "diagram", "in", "the", "same", "figure", ".", "for", "h", "from", "0", "to", "-LRB-", "number_of_hash_tables-1", "-RRB-", "for", "b", "from", "0", "to", "-LRB-", "number_of_blocks-1", "-RRB-", "idx", "=", "-LRB-", "h", "+", "b", "-RRB-", "modulo", "L", "insert", "block", "-LSB-", "b", "-RSB-", "into", "hashtable", "-LSB-", "idx", "-RSB-", "endfor", "endfor", "0", "1", "2", "0", "1", "2", "1", "2", "0", "1", "2", "0", "1", "2", "0", "1", "2", "0", "1", "2", "0", "1", "2", "0", "3", "4", "5", "3", "4", "5", "3", "4", "5", "Photon", "Block", "Hash", "Table", "Bucket", "1st", "iteration", "2nd", "iteration", "3rd", "iteration", "Figure", "8", ":", "Striping", "insertion", "strategy", "The", "second", "technique", "involves", "a", "strategy", "to", "deal", "with", "overflow", "in", "a", "bucket", ".", "For", "each", "photon", "block", ",", "BH", "keeps", "the", "count", "of", "buckets", "that", "the", "block", "has", "been", "hashed", "into", "so", "far", ".", "When", "a", "block", "causes", "overflow", "in", "a", "bucket", ",", "the", "block", "in", "the", "bucket", "that", "has", "the", "maximum", "count", "will", "be", "bumped", "if", "that", "count", "is", "larger", "than", "one", ",", "and", "larger", "than", "that", "of", "the", "incoming", "block", ".", "This", "way", "we", "ensure", "that", "all", "blocks", "are", "inserted", "into", "at", "least", "one", "bucket", ",", "given", "adequate", "hash", "table", "sizes", ",", "and", "no", "block", "is", "hashed", "into", "an", "excessive", "number", "of", "buckets", ".", "4.4", ".", "Querying", "A", "query", "into", "the", "BH", "data", "structure", "proceeds", "by", "delegating", "the", "query", "to", "each", "of", "the", "L", "hash", "tables", ".", "These", "parallel", "accesses", "will", "yield", "as", "candidates", "all", "photon", "blocks", "represented", "by", "buckets", "that", "matched", "the", "query", ".", "The", "final", "approximate", "nearest", "neighbour", "set", "comes", "from", "scanning", "the", "unified", "candidate", "set", "for", "the", "nearest", "neighbours", "to", "the", "query", "point", "-LRB-", "see", "Figure", "9", ".", "-RRB-", "Note", "that", "unlike", "kNN", "algorithms", "based", "on", "hier-archical", "data", "structures", ",", "where", "candidates", "for", "the", "kNN", "set", "trickle", "in", "as", "the", "traversal", "progresses", ",", "in", "BH", "all", "candidates", "are", "available", "once", "the", "parallel", "queries", "are", "completed", ".", "Therefore", ",", "BH", "can", "use", "algorithms", "like", "selection", "29", "-LRB-", "instead", "of", "a", "priority", "queue", "-RRB-", "when", "selecting", "the", "k", "nearest", "photons", ".", "Each", "query", "will", "retrieve", "one", "bucket", "from", "each", "of", "the", "L", "hash", "tables", ".", "If", "the", "application", "can", "tolerate", "elevated", "inaccuracy", "in", "return", "for", "increased", "speed", "of", "query", "-LRB-", "for", "example", ",", "to", "pre-visualise", "a", "software", "rendering", "-RRB-", ",", "it", "may", "be", "worthwhile", "to", "consider", "using", "only", "a", "subset", "of", "the", "L", "candidate", "sets", ".", "Block", "hashing", "is", "equipped", "with", "a", "user-specified", "accuracy", "setting", ":", "Let", "A", "IN", "be", "an", "integer", "multiplier", ".", "The", "block", "hashing", "algorithm", "will", "only", "consider", "Ak", "candidate", "photons", "in", "the", "final", "scan", "to", "determine", "the", "k", "nearest", "photons", "to", "a", "query", ".", "Obviously", "the", "smaller", "A", "is", ",", "the", "fewer", "photons", "will", "be", "processed", "in", "the", "final", "step", ";", "as", "such", ",", "query", "time", "is", "significantly", "reduced", ",", "but", "with", "an", "accuracy", "cost", ".", "Conversely", ",", "a", "higher", "A", "will", "lead", "to", "a", "more", "accurate", "result", ",", "but", "it", "will", "take", "more", "time", ".", "Experimental", "results", "that", "demonstrate", "the", "impact", "of", "the", "choice", "of", "A", "will", "be", "explored", "in", "Section", "6", ".", "Query", "point", "Matched", "point", "Data", "point", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "9", ":", "Merging", "the", "results", "from", "multiple", "hash", "tables", ".", "-LRB-", "a", "-RRB-", "the", "query", "point", "retrieves", "different", "candidates", "sets", "from", "different", "hash", "tables", ",", "-LRB-", "b", "-RRB-", "the", "union", "set", "of", "candidates", "after", "merging", ",", "and", "-LRB-", "c", "-RRB-", "the", "two", "closest", "neighbours", "selected", ".", "There", "needs", "to", "be", "a", "way", "to", "select", "the", "buckets", "from", "which", "the", "Ak", "candidate", "photons", "are", "obtained", ".", "Obviously", ",", "we", "want", "to", "devise", "a", "heuristic", "to", "pick", "the", "``", "best", "''", "candidates", ".", "Suppose", "every", "bucket", "in", "every", "hash", "table", "has", "a", "priority", "given", "by", "=", "|", "bucket_capacity", "-", "#entries", "-", "#overflows", "|", "where", "''", "#overflows", "''", "is", "the", "number", "of", "insertion", "attempts", "after", "the", "bucket", "became", "full", ".", "The", "priority", "can", "be", "pre-computed", "and", "stored", "in", "each", "bucket", "of", "each", "hash", "table", "during", "the", "insertion", "phase", ".", "The", "priority", "of", "a", "bucket", "is", "smallest", "when", "the", "bucket", "is", "full", "but", "never", "overflowed", ".", "Conversely", ",", "when", "the", "hash", "bucket", "is", "underutilised", "or", "overflow", "has", "occurred", ",", "will", "be", "larger", ".", "If", "a", "bucket", "is", "underutilised", ",", "it", "is", "probably", "too", "small", "spatially", "-LRB-", "relative", "to", "local", "sample", "density", "-RRB-", ".", "If", "it", "has", "experienced", "overflow", ",", "it", "is", "likely", "too", "large", "spatially", ",", "and", "covers", "too", "many", "photon", "block", "regions", ".", "During", "each", "query", ",", "BH", "will", "sort", "the", "L", "buckets", "returned", "from", "the", "hash", "tables", "by", "their", "priority", "values", ",", "smallest", "values", "of", "first", ".", "Subsequently", ",", "buckets", "are", "considered", "in", "this", "order", ",", "one", "by", "one", ",", "until", "the", "required", "Ak", "photons", "are", "found", ".", "In", "this", "way", "the", "more", "``", "useful", "''", "buckets", "will", "be", "considered", "first", ".", "Block", "Hashing", "is", "a", "scheme", "that", "requires", "several", "parameters", ":", "B", ",", "the", "bucket", "capacity", ";", "L", ",", "the", "number", "of", "hash", "tables", "whose", "results", "are", "merged", ";", "and", "P", ",", "the", "number", "of", "thresholds", "per", "dimension", ".", "We", "would", "like", "to", "determine", "reasonable", "values", "for", "these", "parameters", "as", "functions", "of", "k", ",", "the", "number", "of", "nearest", "neighbours", "sought", ",", "and", "N", ",", "the", "number", "of", "photons", "involved", ".", "It", "is", "important", "to", "realize", "the", "implications", "of", "these", "parameters", ".", "The", "total", "number", "of", "32-bit", "pointers", "to", "photon", "blocks", "is", "given", "by", "LP", "3", "B.", "Along", "with", "the", "number", "of", "thresholds", "3LP", ",", "this", "gives", "the", "memory", "overhead", "required", "for", "BH", ".", "The", "upper", "bound", "for", "this", "value", "is", "6N", ",", "the", "number", "of", "photons", "multiplied", "by", "the", "six", "32-bit", "words", "each", "photon", "takes", "up", "in", "our", "implementation", ".", "If", "we", "allow", "B", "to", "be", "a", "fixed", "constant", "for", "now", ",", "c", "The", "Eurographics", "Association", "2002", ".", "94", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "the", "constraint", "LP", "3", "+", "3LP", "N", "arises", "from", "the", "reasonable", "assumption", "that", "we", "do", "not", "want", "to", "have", "more", "references", "to", "blocks", "than", "there", "are", "photons", ",", "or", "more", "memory", "used", "in", "the", "index", "than", "in", "the", "data", ".", "Empirically", ",", "L", "=", "P", "=", "ln", "N", "has", "turned", "out", "to", "be", "a", "good", "choice", ".", "The", "value", "ln", "N", "remains", "sub-linear", "as", "N", "increases", ",", "and", "this", "value", "gives", "a", "satisfactory", "index", "memory", "overhead", "ratio", ":", "There", "are", "a", "total", "of", "B", "-LRB-", "ln", "N", "-RRB-", "4", "block", "references", ".", "Being", "four", "bytes", "each", ",", "the", "references", "require", "4B", "-LRB-", "ln", "N", "-RRB-", "4", "bytes", ".", "With", "each", "hash", "table", ",", "there", "needs", "to", "be", "3LP", "=", "3", "-LRB-", "ln", "N", "-RRB-", "2", "thresholds", ".", "Represented", "by", "a", "4-byte", "value", "each", ",", "the", "thresholds", "take", "another", "12", "-LRB-", "ln", "N", "-RRB-", "2", "bytes", ".", "Next", ",", "assuming", "one", "photon", "block", "can", "hold", "ten", "photons", ",", "N", "photons", "requires", "N/10", "blocks", ";", "each", "block", "requires", "64", "words", ",", "so", "the", "blocks", "require", "25.6", "N", "bytes", "in", "total", ".", "The", "total", "memory", "required", "for", "N", "photons", ",", "each", "occupying", "6", "words", ",", "is", "24N", "bytes", ".", "This", "gives", "an", "overhead", "ratio", "of", "-LRB-", "4B", "-LRB-", "ln", "N", "-RRB-", "4", "+", "12", "-LRB-", "ln", "N", "-RRB-", "2", "+", "25.6", "N", "-", "24N", "-RRB-", "/", "24N", ".", "-LRB-", "1", "-RRB-", "The", "choice", "of", "B", "is", "also", "dependent", "on", "the", "value", "of", "k", "specified", "by", "the", "situation", "or", "the", "user", ".", "However", ",", "since", "it", "is", "usual", "in", "photon", "mapping", "that", "k", "is", "known", "ahead", "of", "time", ",", "B", "can", "be", "set", "accordingly", ".", "B", "should", "be", "set", "such", "that", "the", "total", "number", "of", "photons", "retrieved", "from", "the", "L", "buckets", "for", "each", "query", "will", "be", "larger", "than", "k.", "Mathematically", "speaking", ",", "each", "photon", "block", "in", "our", "algorithm", "has", "ten", "photons", ",", "hence", "10", "LB", "k", ".", "In", "particular", ",", "10", "LB", ">", "Ak", "should", "also", "be", "satisfied", ".", "Since", "we", "choose", "L", "=", "ln", "N", ",", "rearranging", "the", "equation", "yields", ":", "B", ">", "Ak", "/", "-LRB-", "10", "ln", "N", "-RRB-", "For", "example", ",", "assuming", "A", "=", "16", ",", "N", "=", "2000000", ",", "k", "=", "50", ",", "then", "B", "=", "6", ".", "If", "we", "substitute", "B", "back", "into", "Equation", "1", ",", "we", "obtain", "the", "final", "overhead", "equation", "-LRB-", "4", "-LRB-", "Ak/10", "-RRB-", "-LRB-", "ln", "N", "-RRB-", "3", "+", "12", "-LRB-", "ln", "N", "-RRB-", "2", "+", "1.6", "N", "-RRB-", "/", "24N", ".", "-LRB-", "2", "-RRB-", "Figure", "10", "plots", "the", "number", "of", "photons", "versus", "the", "memory", "overhead", ".", "For", "the", "usual", "range", "of", "photon", "count", "in", "a", "photon", "mapping", "application", ",", "we", "see", "that", "the", "memory", "overhead", ",", "while", "relative", "large", "for", "small", "numbers", "of", "photons", ",", "becomes", "reasonable", "for", "larger", "numbers", "of", "photons", ",", "and", "has", "an", "asymptote", "of", "about", "6", "%", ".", "Of", "course", ",", "if", "we", "assumed", "different", "block", "size", "-LRB-", "cache", "line", "size", "-RRB-", ",", "these", "results", "would", "vary", ",", "but", "the", "analysis", "is", "the", "same", ".", "Memory", "Overhead", "Ratio", "-LRB-", "%", "-RRB-", "5", "15", "20", "25", "30", "0.50", "0.75", "1.00", "1.25", "1.50", "1.75", "A", "=", "16", "A", "=", "8", "A", "=", "4", "10", "0.25", "2.00", "Number", "of", "Photons", "Figure", "10", ":", "Plot", "of", "photon", "count", "vs.", "memory", "overhead", "in-curred", "by", "BH", ",", "assuming", "k", "=", "50", ".", "For", "BH", "to", "be", "a", "useful", "AkNN", "algorithm", ",", "it", "must", "have", "satisfactory", "algorithmic", "accuracy", ".", "Moreover", ",", "in", "the", "context", "of", "photon", "mapping", ",", "BH", "must", "also", "produce", "good", "visual", "accuracy", ".", "This", "section", "will", "demonstrate", "that", "BH", "satisfies", "both", "requirements", ",", "while", "providing", "a", "speed-up", "in", "terms", "of", "the", "time", "it", "takes", "to", "render", "an", "image", ",", "even", "in", "a", "software", "implementation", ".", "To", "measure", "algorithmic", "accuracy", ",", "our", "renderer", "was", "rigged", "to", "use", "both", "the", "kd-tree", "and", "BH", "based", "photon", "maps", ".", "For", "each", "kNN", "query", "the", "result", "sets", "were", "compared", "for", "the", "following", "metrics", ":", "False", "negatives", ":", "#", "photons", "incorrectly", "excluded", "from", "the", "kNN", "set", ".", "Maximum", "distance", "dilation", ":", "the", "ratio", "of", "bounding", "radii", "around", "the", "neighbours", "reported", "by", "the", "two", "algorithms", ".", "Average", "distance", "dilation", ":", "the", "ratio", "of", "the", "average", "distances", "between", "the", "query", "point", "and", "each", "of", "the", "nearest", "neighbours", "reported", "by", "the", "two", "algorithms", ".", "To", "gauge", "visual", "accuracy", ",", "we", "calculate", "a", "Caustic", "RMS", "Error", "metric", ",", "which", "compares", "the", "screen", "space", "radiance", "difference", "between", "the", "caustic", "radiance", "values", "obtained", "from", "kd-tree", "and", "BH", ".", "A", "timing-related", "Time", "Ratio", "metric", "is", "calculated", "as", "a", "ratio", "of", "the", "time", "taken", "for", "a", "query", "into", "the", "BH", "data", "structure", "versus", "that", "for", "the", "kd-tree", "data", "structure", ".", "Obviously", ",", "as", "A", "increases", ",", "the", "time", "required", "for", "photon", "mapping", "using", "BH", "approaches", "that", "for", "a", "kd-tree", "based", "photon", "mapping", ".", "Our", "first", "test", "scene", ",", "shown", "in", "Figure", "11", ",", "with", "numerical", "results", "in", "Figure", "12", ",", "consists", "of", "a", "highly", "specular", "ring", "placed", "on", "top", "of", "a", "plane", "with", "a", "Modified", "Phong", "28", "reflectance", "model", ".", "This", "scene", "tests", "the", "ability", "of", "BH", "to", "handle", "a", "caustic", "of", "varying", "density", ",", "and", "a", "caustic", "that", "has", "been", "cast", "onto", "a", "non-Lambertian", "surface", ".", "Figure", "13", "shows", "a", "second", "scene", "consisting", "of", "the", "Venus", "bust", ",", "with", "a", "highly", "specular", "ring", "placed", "around", "the", "neck", "of", "Venus", ".", "Figure", "14", "shows", "the", "numerical", "statistics", "of", "this", "test", "scene", ".", "The", "ring", "casts", "a", "cardioid", "caustic", "onto", "the", "-LRB-", "non-planar", "-RRB-", "chest", "of", "the", "Venus", ".", "This", "scene", "demonstrates", "a", "caustic", "on", "a", "highly", "tessellated", "curved", "surface", ".", "Global", "illumination", "is", "also", "used", "for", "both", "scenes", ",", "however", "the", "times", "given", "are", "only", "for", "the", "query", "time", "of", "the", "caustic", "maps", ".", "The", "general", "trend", "to", "notice", "is", "that", "for", "extremely", "low", "accuracy", "-LRB-", "A", "-RRB-", "settings", "the", "visual", "and", "algorithmic", "performance", "of", "BH", "is", "not", "very", "good", ".", "The", "candidate", "set", "is", "simply", "not", "large", "enough", "in", "these", "cases", ".", "However", ",", "as", "A", "increases", ",", "these", "performance", "indicators", "drop", "to", "acceptable", "levels", "very", "quickly", ",", "especially", "between", "values", "of", "A", "between", "2", "and", "8", ".", "After", "A", "=", "8", "diminishing", "returns", "set", "in", ",", "and", "the", "increase", "in", "accuracy", "incurs", "a", "significant", "increase", "in", "the", "cost", "of", "the", "query", "time", "required", ".", "This", "numerical", "error", "comparison", "is", "parallelled", "by", "the", "c", "The", "Eurographics", "Association", "2002", ".", "95", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "4", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "8", "Figure", "11", ":", "``", "Ring", "''", "image", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "False-Average", "#errors", "1", "1.1", "1.2", "1.3", "1.4", "1.5", "1.6", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Max", "Radius", "Dilation", "Avg", "Radius", "Dilation", "Dilation", "Ratio", "0", "0.005", "0.01", "0.015", "0.02", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "RMS", "error", "Radiance", "RMS", "Error", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Timing", "Ratio", "Time", "Ratio", "Figure", "12", ":", "``", "Ring", "''", "numerical", "statistics", "visual", "comparison", "of", "the", "images", ":", "the", "image", "rendered", "with", "A", "=", "8", "and", "A", "=", "16", "are", "virtually", "indistinguishable", ".", "These", "results", "suggest", "that", "intermediate", "values", "of", "A", ",", "between", "8", "to", "10", ",", "should", "be", "used", "as", "a", "good", "compromise", "between", "query", "speed", "and", "solution", "accuracy", ".", "It", "is", "apparent", "from", "the", "query", "time", "ratio", "plots", "that", "there", "exists", "a", "close-to-linear", "relationship", "between", "values", "of", "A", "and", "time", "required", "for", "a", "query", "into", "BH", ".", "This", "is", "consistent", "with", "the", "design", "of", "the", "A", "parameter", ";", "it", "corresponds", "directly", "to", "the", "number", "of", "photons", "accessed", "and", "processed", "for", "each", "query", ".", "Another", "important", "observation", "that", "can", "be", "made", "from", "the", "visual", "comparisons", "is", "that", "images", "with", "greater", "approximation", "value", "A", "look", "darker", ".", "This", "is", "because", "the", "density", "estimate", "is", "based", "on", "the", "inverse", "square", "of", "the", "radius", "of", "the", "sphere", "enclosing", "the", "k", "nearest", "neighbours", ".", "The", "approximate", "radius", "is", "always", "larger", "than", "the", "true", "radius", ".", "This", "is", "an", "inherent", "problem", "with", "any", "approximate", "solution", "to", "the", "kNN", "problem", ",", "and", "indeed", "even", "with", "the", "exact", "kNN", "density", "estimator", ":", "as", "k", "goes", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "8", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "4", "Figure", "13", ":", "``", "Venus", "with", "Ring", "''", "images", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "4", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "False-Average", "#errors", "1", "1.02", "1.04", "1.06", "1.08", "1.1", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Max", "Radius", "Dilation", "Avg", "Radius", "Dilation", "Dilation", "Ratio", "0", "0.01", "0.02", "0.03", "0.04", "0.05", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "RMS", "error", "Radiance", "RMS", "Error", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Timing", "Ratio", "Time", "Ratio", "Figure", "14", ":", "``", "Venus", "with", "Ring", "''", "numerical", "statistics", "to", "infinity", ",", "the", "kNN", "density", "estimator", "does", "converge", "on", "the", "true", "density", ",", "but", "always", "from", "below", ".", "There", "are", "two", "ways", "to", "approach", "a", "hardware", "implementation", "of", "an", "algorithm", "in", "a", "hardware", "accelerator", ":", "with", "a", "custom", "hardware", "implementation", ",", "or", "as", "an", "extension", "or", "exploitation", "of", "current", "hardware", "support", ".", "While", "there", "would", "be", "certain", "advantages", "in", "a", "full", "custom", "hardware", "implementation", "of", "BH", ",", "this", "would", "probably", "lead", "to", "a", "large", "chunk", "of", "hardware", "with", "low", "utilisation", "rates", ".", "Although", "there", "are", "many", "potential", "applications", "of", "AkNN", "search", "beyond", "photon", "mapping", "-LRB-", "we", "list", "several", "in", "the", "conclusions", "-RRB-", ",", "it", "seems", "more", "reasonable", "to", "consider", "first", "if", "BH", "can", "be", "implemented", "using", "current", "hardware", "and", "programmable", "shader", "features", ",", "and", "if", "not", ",", "what", "the", "smallest", "incremental", "changes", "would", "be", ".", "We", "have", "concluded", "that", "BH", ",", "while", "not", "quite", "implementable", "on", "today", "'s", "graphics", "hardware", ",", "should", "be", "implementable", "in", "the", "near", "future", ".", "We", "consider", "only", "the", "lookup", "phase", "here", ",", "since", "the", "preprocessing", "would", "indeed", "require", "some", "custom", "hardware", "support", ",", "but", "support", "which", "perhaps", "could", "be", "shared", "with", "other", "useful", "features", ".", "In", "the", "lookup", "phase", ",", "-LRB-", "1", "-RRB-", "we", "compute", "hash", "c", "The", "Eurographics", "Association", "2002", ".", "96", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "keys", ",", "-LRB-", "2", "-RRB-", "look", "up", "buckets", "in", "multiple", "hash", "tables", ",", "-LRB-", "3", "-RRB-", "merge", "and", "remove", "duplicates", "from", "the", "list", "of", "retrieved", "blocks", "and", "optionally", "sorting", "by", "priority", ",", "-LRB-", "4", "-RRB-", "retrieve", "the", "photon", "records", "stored", "in", "these", "blocks", ",", "and", "-LRB-", "5", "-RRB-", "process", "the", "photons", ".", "Steps", "-LRB-", "1", "-RRB-", "and", "-LRB-", "5", "-RRB-", "could", "be", "performed", "with", "current", "shader", "capabilities", ",", "although", "the", "ability", "to", "loop", "would", "be", "useful", "for", "the", "last", "step", "to", "avoid", "replicating", "the", "code", "to", "process", "each", "photon", ".", "Computing", "the", "hash", "function", "amounts", "to", "doing", "a", "number", "of", "comparisons", ",", "then", "adding", "up", "the", "zero-one", "results", ".", "This", "can", "be", "done", "in", "linear", "time", "with", "a", "relatively", "small", "number", "of", "instructions", "using", "the", "proposed", "DX9", "fragment", "shader", "instruction", "set", ".", "If", "conditional", "assignment", "and", "array", "lookups", "into", "the", "register", "file", "are", "supported", ",", "this", "could", "be", "done", "in", "logarithmic", "time", "using", "binary", "search", ".", "Steps", "-LRB-", "2", "-RRB-", "and", "-LRB-", "4", "-RRB-", "amount", "to", "table", "lookups", "and", "can", "be", "implemented", "as", "nearest-neighbour", "texture-mapping", "operations", "with", "suitable", "encoding", "of", "the", "data", ".", "For", "instance", ",", "the", "hash", "tables", "might", "be", "supported", "with", "one", "texture", "map", "giving", "the", "priority", "and", "number", "of", "valid", "entries", "in", "the", "bucket", ",", "while", "another", "texture", "map", "or", "set", "of", "texture", "maps", "might", "give", "the", "block", "references", ",", "represented", "by", "texture", "coordinates", "pointing", "into", "another", "set", "of", "texture", "maps", "holding", "the", "photon", "records", ".", "Step", "-LRB-", "3", "-RRB-", "is", "difficult", "to", "do", "efficiently", "without", "true", "conditionals", "and", "conditional", "looping", ".", "Sorting", "is", "not", "the", "problem", ",", "as", "it", "could", "be", "done", "with", "conditional", "assignment", ".", "The", "problem", "is", "that", "removal", "of", "a", "duplicate", "block", "reduces", "the", "number", "of", "blocks", "in", "the", "candidate", "set", ".", "We", "would", "like", "in", "this", "case", "to", "avoid", "making", "redundant", "photon", "lookups", "and", "executing", "the", "instructions", "to", "process", "them", ".", "Without", "true", "conditionals", ",", "an", "inefficient", "work-around", "is", "to", "make", "these", "redundant", "texture", "accesses", "and", "process", "the", "redundant", "photons", "anyhow", ",", "but", "discard", "their", "contribution", "by", "multiplying", "them", "by", "zero", ".", "We", "have", "not", "yet", "attempted", "an", "implementation", "of", "BH", "on", "an", "actual", "accelerator", ".", "Without", "looping", ",", "current", "accelerators", "do", "not", "permit", "nearly", "enough", "instructions", "in", "shaders", "to", "process", "k", "photons", "for", "adequate", "density", "estimation", ".", "However", ",", "we", "feel", "that", "it", "might", "be", "feasible", "to", "implement", "our", "algorithm", "on", "a", "next-generation", "shader", "unit", "using", "the", "``", "multiply", "redundant", "photons", "by", "zero", "''", "approach", ",", "if", "looping", "-LRB-", "a", "constant", "number", "of", "times", "-RRB-", "were", "supported", "at", "the", "fragment", "level", ".", "We", "expect", "that", "the", "generation", "that", "follows", "DX9-class", "accelerators", "will", "probably", "have", "true", "conditional", "execution", "and", "looping", ",", "in", "which", "case", "implementation", "of", "BH", "will", "be", "both", "straightforward", "and", "efficient", ",", "and", "will", "not", "require", "any", "additional", "hardware", "or", "special", "shader", "instructions", ".", "It", "will", "also", "only", "require", "two", "stages", "of", "conditional", "texture", "lookup", ",", "and", "lookups", "in", "each", "stage", "can", "be", "performed", "in", "parallel", ".", "In", "comparison", ",", "it", "would", "be", "nearly", "impossible", "to", "implement", "a", "tree-based", "search", "algorithm", "on", "said", "hardware", "due", "to", "the", "lack", "of", "a", "stack", "and", "the", "large", "number", "of", "dependent", "lookups", "that", "would", "be", "required", ".", "With", "a", "sufficiently", "powerful", "shading", "unit", ",", "of", "course", ",", "we", "could", "implement", "any", "algorithm", "we", "wanted", ",", "but", "BH", "makes", "fewer", "demands", "than", "a", "tree-based", "algorithm", "does", ".", "We", "have", "presented", "an", "efficient", ",", "scalable", ",", "coherent", "and", "highly", "parallelisable", "AkNN", "scheme", "suitable", "for", "the", "high-performance", "implementation", "of", "photon", "mapping", ".", "The", "coherent", "memory", "access", "patterns", "of", "BH", "lead", "to", "im-proved", "performance", "even", "for", "a", "software", "implementation", ".", "However", ",", "in", "the", "near", "future", "we", "plan", "to", "implement", "the", "lookup", "phase", "of", "BH", "on", "an", "accelerator", ".", "Accelerator", "capabilities", "are", "not", "quite", "to", "the", "point", "where", "they", "can", "support", "this", "algorithm", ",", "but", "they", "are", "very", "close", ".", "What", "is", "missing", "is", "some", "form", "of", "true", "run-time", "conditional", "execution", "and", "looping", ",", "as", "well", "as", "greater", "capacity", "in", "terms", "of", "numbers", "of", "instructions", ".", "However", ",", "unlike", "tree-based", "algorithms", ",", "block", "hashing", "requires", "only", "bounded", "execution", "time", "and", "memory", ".", "An", "accelerator-based", "implementation", "would", "be", "most", "interesting", "if", "it", "is", "done", "in", "a", "way", "that", "permits", "other", "applications", "to", "make", "use", "of", "the", "fast", "AkNN", "capability", "it", "would", "provide", ".", "AkNN", "has", "many", "potential", "applications", "in", "graphics", "beyond", "photon", "maps", ".", "For", "rendering", ",", "it", "could", "also", "be", "used", "for", "sparse", "data", "interpolation", "-LRB-", "with", "many", "applications", ":", "visualisation", "of", "sparse", "volume", "data", ",", "BRDF", "and", "irradiance", "volume", "representation", ",", "and", "other", "sampled", "functions", "-RRB-", ",", "sparse", "and", "multi-resolution", "textures", ",", "procedural", "texture", "generation", "-LRB-", "specifically", ",", "Worley", "'s", "texture", "47", "functions", "-RRB-", ",", "direct", "ray-tracing", "of", "point-based", "objects", "40", ",", "and", "gap-filling", "in", "forward", "projection", "point-based", "rendering", "48", ".", "AkNN", "could", "also", "potentially", "be", "used", "for", "non-rendering", "purposes", ":", "collision", "detection", ",", "surface", "reconstruction", ",", "and", "physical", "simulation", "-LRB-", "for", "interacting", "particle", "systems", "-RRB-", ".", "Unlike", "the", "case", "with", "tree-based", "algorithms", ",", "we", "feel", "that", "it", "will", "be", "feasible", "to", "implement", "BH", "as", "a", "shader", "subroutine", "in", "the", "near", "future", ",", "which", "may", "make", "it", "a", "key", "component", "in", "many", "potential", "applications", "of", "advanced", "programmable", "graphics", "accelerators", ".", "For", "a", "more", "detailed", "description", "of", "the", "block", "hashing", "algorithm", ",", "please", "refer", "to", "the", "author", "'s", "technical", "report", "32", ".", "This", "research", "was", "funded", "by", "grants", "from", "the", "National", "Science", "and", "Engineering", "Research", "Council", "of", "Canada", "-LRB-", "NSERC", "-RRB-", ",", "the", "Centre", "for", "Information", "Technology", "of", "Ontario", "-LRB-", "CITO", "-RRB-", ",", "the", "Canadian", "Foundation", "for", "Innovation", "-LRB-", "CFI", "-RRB-", ",", "the", "Ontario", "Innovation", "Trust", "-LRB-", "OIT", "-RRB-", ",", "and", "the", "Bell", "University", "Labs", "initiative", ".", "1", ".", "P.", "K.", "Agarwal", ".", "Range", "Searching", ".", "In", "J.", "E.", "Goodman", "and", "J.", "O'Rourke", ",", "editors", ",", "Handbook", "of", "Discrete", "and", "Computational", "Geometry", ".", "CRC", "Press", ",", "July", "1997", ".", "2", "2", ".", "P.", "K.", "Agarwal", "and", "J.", "Erickson", ".", "Geometric", "range", "searching", "and", "its", "relatives", ".", "Advances", "in", "Discrete", "and", "Computational", "Geometry", ",", "23:1", "56", ",", "1999", ".", "2", "c", "The", "Eurographics", "Association", "2002", ".", "97", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "3", ".", "S.", "Arya", "and", "D.", "M.", "Mount", ".", "Approximate", "Nearest", "Neighbor", "Queries", "in", "Fixed", "Dimensions", ".", "In", "Proc", ".", "ACM-SIAM", "SODA", ",", "1993", ".", "2", "4", ".", "S.", "Arya", ",", "D.", "M.", "Mount", ",", "N.", "S.", "Netanyahu", ",", "R.", "Silverman", ",", "and", "A.", "Y.", "Wu", ".", "An", "Optimal", "Algorithm", "for", "Approximate", "Nearest", "Neighbor", "Searching", ".", "In", "Proc", ".", "ACM-SIAM", "SODA", ",", "pages", "573", "582", ",", "1994", ".", "2", "5", ".", "J.", "L.", "Bentley", ".", "Multidimensional", "binary", "search", "trees", "used", "for", "associative", "searching", ".", "Communications", "of", "the", "ACM", ",", "18", "-LRB-", "9", "-RRB-", ",", "September", "1975", ".", "1", ",", "2", "6", ".", "J.", "L.", "Bentley", ",", "B.", "W.", "Weide", ",", "and", "A.", "C.", "Chow", ".", "Optimal", "Expected-Time", "Algorithms", "for", "Closest", "Point", "Problems", ".", "ACM", "TOMS", ",", "6", "-LRB-", "4", "-RRB-", ",", "December", "1980", ".", "1", ",", "2", "7", ".", "Per", "H.", "Christensen", ".", "Faster", "Photon", "Map", "Global", "Illumination", ".", "Journal", "of", "Graphics", "Tools", ",", "4", "-LRB-", "3", "-RRB-", ":", "1", "10", ",", "1999", ".", "2", "8", ".", "D.", "Comer", ".", "The", "Ubiquitous", "B-Tree", ".", "ACM", "Computing", "Surveys", ",", "11", "-LRB-", "2", "-RRB-", ":", "121", "137", ",", "June", "1979", ".", "4", "9", ".", "C.", "A.", "Duncan", ",", "M.", "T.", "Goodrich", ",", "and", "S.", "G.", "Kobourov", ".", "Balanced", "aspect", "ratio", "trees", ":", "Combining", "the", "advantages", "of", "k-d", "trees", "and", "octrees", ".", "In", "Proc", ".", "ACM-SIAM", "SODA", ",", "volume", "10", ",", "pages", "300", "309", ",", "1999", ".", "2", "10", ".", "H.", "Edelsbrunner", ".", "Algorithms", "in", "Combinatorial", "Geometry", ".", "Springer-Verlag", ",", "1987", ".", "2", "11", ".", "D.", "Eppstein", ",", "M.", "S.", "Paterson", ",", "and", "F.", "F.", "Yao", ".", "On", "nearest", "neighbor", "graphs", ".", "Discrete", "&", "Computational", "Geometry", ",", "17", "-LRB-", "3", "-RRB-", ":", "263", "282", ",", "April", "1997", ".", "2", "12", ".", "C.", "Faloutsos", "and", "Y.", "Rong", ".", "DOT", ":", "A", "Spatial", "Access", "Method", "Using", "Fractals", ".", "In", "Proc", ".", "7th", "Int", ".", "Conf", ".", "on", "Data", "Engineering", ",", ",", "pages", "152", "159", ",", "Kobe", ",", "Japan", ",", "1991", ".", "4", "13", ".", "C.", "Faloutsos", "and", "S.", "Roseman", ".", "Fractals", "for", "Secondary", "Key", "Retrieval", ".", "In", "Proc", ".", "8th", "ACM", "PODS", ",", "pages", "247", "252", ",", "Philadelphia", ",", "PA", ",", "1989", ".", "4", "14", ".", "J.", "H.", "Freidman", ",", "J.", "L.", "Bentley", ",", "and", "R.", "A.", "Finkel", ".", "An", "Algorithm", "for", "Finding", "Best", "Matches", "in", "Logarithmic", "Expected", "Time", ".", "ACM", "TOMS", ",", "3", "-LRB-", "3", "-RRB-", ":", "209", "226", ",", "1977", ".", "2", "15", ".", "V.", "Gaede", "and", "O.", "G", "nther", ".", "Multidimensional", "access", "methods", ".", "ACM", "Computing", "Surveys", "-LRB-", "CSUR", "-RRB-", ",", "30", "-LRB-", "2", "-RRB-", ":", "170", "231", ",", "1998", ".", "2", "16", ".", "A.", "Gionis", ",", "P.", "Indyk", ",", "and", "R.", "Motwani", ".", "Similarity", "Search", "in", "High", "Dimensions", "via", "Hashing", ".", "In", "Proc", ".", "VLDB", ",", "pages", "518", "529", ",", "1999", ".", "2", ",", "3", "17", ".", "J.", "E.", "Goodman", "and", "J.", "O'Rourke", ",", "editors", ".", "Handbook", "of", "Discrete", "and", "Computational", "Geometry", ".", "CRC", "Press", ",", "July", "1997", ".", "ISBN", ":", "0849385245", ".", "2", "18", ".", "G.", "Greger", ",", "P.", "Shirley", ",", "P.", "Hubbard", ",", "and", "D.", "Greenberg", ".", "The", "irradiance", "volume", ".", "IEEE", "CG&A", ",", "18", "-LRB-", "2", "-RRB-", ":", "32", "43", ",", "1998", ".", "1", "19", ".", "V.", "Havran", ".", "Analysis", "of", "Cache", "Sensitive", "Representation", "for", "Binary", "Space", "Partitioning", "Trees", ".", "Informatica", ",", "23", "-LRB-", "3", "-RRB-", ":", "203", "210", ",", "May", "2000", ".", "2", "20", ".", "P.", "Indyk", "and", "R.", "Motwani", ".", "Approximate", "Nearest", "Neighbors", ":", "Towards", "Removing", "the", "Curse", "of", "Dimensionality", ".", "In", "Proc", ".", "ACM", "STOC", ",", "pages", "604", "613", ",", "1998", ".", "2", "21", ".", "P.", "Indyk", ",", "R.", "Motwani", ",", "P.", "Raghavan", ",", "and", "S.", "Vem-pala", ".", "Locality-Preserving", "Hashing", "in", "Multidimensional", "Spaces", ".", "In", "Proc", ".", "ACM", "STOC", ",", "pages", "618", "625", ",", "1997", ".", "2", "22", ".", "H.", "V.", "Jagadish", ".", "Linear", "clustering", "of", "objects", "with", "multiple", "attributes", ".", "In", "Proc", ".", "Acm-sigmod", ",", "pages", "332", "342", ",", "May", "1990", ".", "4", "23", ".", "J.", "W.", "Jaromczyk", "and", "G.", "T.", "Toussaint", ".", "Relative", "Neighborhood", "Graphs", "and", "Their", "Relatives", ".", "Proc", ".", "IEEE", ",", "80", "-LRB-", "9", "-RRB-", ":", "1502", "1517", ",", "September", "1992", ".", "2", "24", ".", "H.", "W.", "Jensen", ".", "Rendering", "Caustics", "on", "Non-Lambertian", "Surfaces", ".", "Computer", "Graphics", "Forum", ",", "16", "-LRB-", "1", "-RRB-", ":", "57", "64", ",", "1997", ".", "ISSN", "0167-7055", ".", "1", "25", ".", "H.", "W.", "Jensen", ".", "Realistic", "Image", "Synthesis", "Using", "Photon", "Mapping", ".", "A.K.", "Peters", ",", "2001", ".", "1", ",", "2", ",", "4", "26", ".", "H.", "W.", "Jensen", ",", "F.", "Suykens", ",", "and", "P.", "H.", "Christensen", ".", "A", "Practical", "Guide", "to", "Global", "Illumination", "using", "Photon", "Mapping", ".", "In", "SIGGRAPH", "2001", "Course", "Notes", ",", "number", "38", ".", "ACM", ",", "August", "2001", ".", "2", "27", ".", "J.", "K.", "P.", "Kuan", "and", "P.", "H.", "Lewis", ".", "Fast", "k", "Nearest", "Neighbour", "Search", "for", "R-tree", "Family", ".", "In", "Proc", ".", "of", "First", "Int", ".", "Conf", ".", "on", "Information", ",", "Communication", "and", "Signal", "Processing", ",", "pages", "924", "928", ",", "Singapore", ",", "1997", ".", "2", "28", ".", "E.", "P.", "Lafortune", "and", "Y.", "D.", "Willems", ".", "Using", "the", "Modified", "Phong", "BRDF", "for", "Physically", "Based", "Rendering", ".", "Technical", "Report", "CW197", ",", "Department", "of", "Computer", "Science", ",", "K.U.Leuven", ",", "November", "1994", ".", "7", "29", ".", "C.", "E.", "Leiserson", ",", "R.", "L.", "Rivest", ",", "and", "C.", "Stein", ".", "Introduction", "to", "Algorithms", ".", "MIT", "Press", ",", "2001", ".", "6", "30", ".", "K.-I", ".", "Lin", "and", "C.", "Yang", ".", "The", "ANN-Tree", ":", "An", "Index", "for", "Efficient", "Approximate", "Nearest-Neighbour", "Search", ".", "In", "Conf", ".", "on", "Database", "Systems", "for", "Advanced", "Applications", ",", "2001", ".", "2", "31", ".", "N.", "Linial", "and", "O.", "Sasson", ".", "Non-Expansive", "Hashing", ".", "In", "Proc", ".", "acm", "stoc", ",", "pages", "509", "518", ",", "1996", ".", "2", "32", ".", "V.", "Ma", ".", "Low", "Latency", "Photon", "Mapping", "using", "Block", "Hashing", ".", "Technical", "Report", "CS-2002-15", ",", "School", "of", "Computer", "Science", ",", "University", "of", "Waterloo", ",", "2002", ".", "9", "33", ".", "J.", "McNames", ".", "A", "Fast", "Nearest-Neighbor", "Algorithm", "Based", "on", "a", "Principal", "Axis", "Search", "Tree", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "23", "-LRB-", "9", "-RRB-", ":", "964", "976", ",", "2001", ".", "2", "34", ".", "J.", "Nievergelt", ",", "H.", "Hinterberger", ",", "and", "K.", "C.", "Sevcik", ".", "The", "Grid", "File", ":", "an", "adaptable", ",", "symmetric", "multikey", "file", "structure", ".", "ACM", "TODS", ",", "9", "-LRB-", "1", "-RRB-", ":", "38", "71", ",", "March", "1984", ".", "3", ",", "5", "35", ".", "T.", "J.", "Purcell", ",", "I.", "Buck", ",", "W.", "R.", "Mark", ",", "and", "P.", "Hanrahan", ".", "Ray", "Tracing", "on", "Programmable", "Graphics", "Hardware", ".", "In", "to", "appear", "in", "Proc", ".", "SIGGRAPH", ",", "2002", ".", "1", "36", ".", "J.", "T.", "Robinson", ".", "The", "K-D-B-tree", ":", "A", "Search", "Structure", "for", "Large", "Multidimensional", "Dynamic", "Indexes", ".", "In", "Proc", ".", "acm", "sigmod", ",", "pages", "10", "18", ",", "1981", ".", "2", "37", ".", "Arnold", "L.", "Rosenberg", "and", "Lawrence", "Snyder", ".", "Time", "-", "and", "space-optimality", "in", "b-trees", ".", "ACM", "TODS", ",", "6", "-LRB-", "1", "-RRB-", ":", "174", "193", ",", "1981", ".", "4", "38", ".", "K.", "Salem", "and", "H.", "Garcia-Molina", ".", "Disk", "striping", ".", "In", "IEEE", "ICDE", ",", "pages", "336", "342", ",", "1986", ".", "5", "c", "The", "Eurographics", "Association", "2002", ".", "98", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "39", ".", "N.", "Sample", ",", "M.", "Haines", ",", "M.", "Arnold", ",", "and", "T.", "Purcell", ".", "Optimizing", "Search", "Strategies", "in", "kd-Trees", ".", "May", "2001", ".", "2", "40", ".", "G.", "Schaufler", "and", "H.", "W.", "Jensen", ".", "Ray", "Tracing", "Point", "Sampled", "Geometry", ".", "Rendering", "Techniques", "2000", ",", "pages", "319", "328", ",", "June", "2000", ".", "9", "41", ".", "J.", "Schmittler", ",", "I.", "Wald", ",", "and", "P.", "Slusallek", ".", "SaarCOR", "-", "A", "Hardware", "Architecture", "for", "Ray", "Tracing", ".", "In", "to", "appear", "at", "EUROGRAPHICS", "Graphics", "Hardware", ",", "2002", ".", "1", "42", ".", "M.", "Smid", ".", "Closest-Point", "Problems", "in", "Computational", "Geometry", ".", "In", "J.", "R.", "Sack", "and", "J.", "Urrutia", ",", "editors", ",", "Handbook", "on", "Computational", "Geometry", ".", "Elsevier", "Science", ",", "Amsterdam", ",", "North", "Holland", ",", "2000", ".", "2", "43", ".", "P.", "Tsaparas", ".", "Nearest", "neighbor", "search", "in", "multidimen-sional", "spaces", ".", "Qualifying", "Depth", "Oral", "Report", "319-02", ",", "Dept.", "of", "Computer", "Science", ",", "University", "of", "Toronto", ",", "1999", ".", "2", "44", ".", "M.", "Vanco", ",", "G.", "Brunnett", ",", "and", "T.", "Schreiber", ".", "A", "Hashing", "Strategy", "for", "Efficient", "k-Nearest", "Neighbors", "Computation", ".", "In", "Computer", "Graphics", "International", ",", "pages", "120", "128", ".", "IEEE", ",", "June", "1999", ".", "2", "45", ".", "I.", "Wald", ",", "T.", "Kollig", ",", "C.", "Benthin", ",", "A.", "Keller", ",", "and", "P.", "Slusallek", ".", "Interactive", "global", "illumination", ".", "Technical", "report", ",", "Computer", "Graphics", "Group", ",", "Saarland", "University", ",", "2002", ".", "to", "be", "published", "at", "EUROGRAPHICS", "Workshop", "on", "Rendering", "2002", ".", "2", "46", ".", "G.", "Ward", ".", "Real", "Pixels", ".", "In", "James", "Arvo", ",", "editor", ",", "Graphics", "Gems", "II", ",", "pages", "80", "83", ".", "Academic", "Press", ",", "1991", ".", "4", "47", ".", "Steven", "Worley", ".", "A", "cellular", "texture", "basis", "function", ".", "In", "Proc", ".", "SIGGRAPH", "1996", ",", "pages", "291", "294", ".", "ACM", "Press", ",", "1996", ".", "9", "48", ".", "M.", "Zwicker", ",", "H.", "Pfister", ",", "J.", "van", "Baar", ",", "and", "M.", "Gross", ".", "Surface", "Splatting", ".", "Proc", ".", "SIGGRAPH", "2001", ",", "pages", "371", "378", ",", "2001", ".", "9", "c", "The", "Eurographics", "Association", "2002", ".", "99", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "8", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "4", "Figure", "13", ":", "``", "Ring", "''", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "8", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "4", "Figure", "14", ":", "``", "Venus", "with", "Ring", "''", "c", "The", "Eurographics", "Association", "2002", ".", "158"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["knn", "accelerator", "aknn", "photon mapping"], "abstractive_keyphrases": ["hashing techniques", "block hashing (bh)"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "122", "document": ["Lazy", "Preservation", ":", "Reconstructing", "Websites", "by", "Crawling", "the", "Crawlers", "Backup", "of", "websites", "is", "often", "not", "considered", "until", "after", "a", "catastrophic", "event", "has", "occurred", "to", "either", "the", "website", "or", "its", "webmaster", ".", "We", "introduce", "``", "lazy", "preservation", "''", "digital", "preservation", "performed", "as", "a", "result", "of", "the", "normal", "operation", "of", "web", "crawlers", "and", "caches", ".", "Lazy", "preservation", "is", "especially", "suitable", "for", "third", "parties", ";", "for", "example", ",", "a", "teacher", "reconstructing", "a", "missing", "website", "used", "in", "previous", "classes", ".", "We", "evaluate", "the", "effectiveness", "of", "lazy", "preservation", "by", "reconstructing", "24", "websites", "of", "varying", "sizes", "and", "composition", "using", "Warrick", ",", "a", "web-repository", "crawler", ".", "Because", "of", "varying", "levels", "of", "completeness", "in", "any", "one", "repository", ",", "our", "reconstructions", "sampled", "from", "four", "different", "web", "repositories", ":", "Google", "-LRB-", "44", "%", "-RRB-", ",", "MSN", "-LRB-", "30", "%", "-RRB-", ",", "Internet", "Archive", "-LRB-", "19", "%", "-RRB-", "and", "Yahoo", "-LRB-", "7", "%", "-RRB-", ".", "We", "also", "measured", "the", "time", "required", "for", "web", "resources", "to", "be", "discovered", "and", "cached", "-LRB-", "10-103", "days", "-RRB-", "as", "well", "as", "how", "long", "they", "remained", "in", "cache", "after", "deletion", "-LRB-", "7-61", "days", "-RRB-", ".", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", "Online", "Information", "Services", ":", "Web-based", "services", ";", "H.", "3.7", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", "Digital", "Libraries", ":", "Collection", "Measurement", ",", "Experimentation", ",", "Design", "``", "My", "old", "web", "hosting", "company", "lost", "my", "site", "in", "its", "entirety", "-LRB-", "duh", "!", "-RRB-", "when", "a", "hard", "drive", "died", "on", "them", ".", "Needless", "to", "say", "that", "I", "was", "peeved", ",", "but", "I", "do", "notice", "that", "it", "is", "available", "to", "browse", "on", "the", "wayback", "machine", "...", "Does", "anyone", "have", "any", "ideas", "if", "I", "can", "download", "my", "full", "site", "?", "''", "-", "A", "request", "for", "help", "at", "archive.org", "-LSB-", "25", "-RSB-", "Copyright", "2006", "Association", "for", "Computing", "Machinery", ".", "ACM", "acknowledges", "that", "this", "contribution", "was", "authored", "or", "co-authored", "by", "an", "employee", ",", "contractor", "or", "affiliate", "of", "the", "U.S.", "Government", ".", "As", "such", ",", "the", "Government", "retains", "a", "nonexclusive", ",", "royalty-free", "right", "to", "publish", "or", "reproduce", "this", "article", ",", "or", "to", "allow", "others", "to", "do", "so", ",", "for", "Government", "purposes", "only", ".", "WIDM", "'", "06", ",", "November", "10", ",", "2006", ",", "Arlington", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-525-8", "/", "06/0011", "...", "$", "5.00", ".", "Websites", "may", "be", "lost", "for", "a", "number", "of", "reasons", ":", "hard", "drive", "crashes", ",", "file", "system", "failures", ",", "viruses", ",", "hacking", ",", "etc.", ".", "A", "lost", "website", "may", "be", "restored", "if", "care", "was", "taken", "to", "create", "a", "backup", "beforehand", ",", "but", "sometimes", "webmasters", "are", "negligent", "in", "backing", "up", "their", "websites", ",", "and", "in", "cases", "such", "as", "fire", ",", "flooding", ",", "or", "death", "of", "the", "website", "owner", ",", "backups", "are", "frequently", "unavailable", ".", "In", "these", "cases", ",", "webmasters", "and", "third", "parties", "may", "turn", "to", "the", "Internet", "Archive", "-LRB-", "IA", "-RRB-", "``", "Wayback", "Machine", "''", "for", "help", ".", "According", "to", "a", "representative", "from", "IA", ",", "they", "have", "performed", "over", "200", "website", "recoveries", "in", "the", "past", "year", "for", "various", "individuals", ".", "Although", "IA", "is", "often", "helpful", ",", "it", "is", "strictly", "a", "best-effort", "approach", "that", "performs", "sporadic", ",", "incomplete", "and", "slow", "crawls", "of", "the", "Web", "-LRB-", "IA", "is", "at", "least", "6", "months", "out-of-date", "-LSB-", "16", "-RSB-", "-RRB-", ".", "Another", "source", "of", "missing", "web", "content", "is", "in", "the", "caches", "of", "search", "engines", "-LRB-", "SEs", "-RRB-", "like", "Google", ",", "MSN", "and", "Yahoo", "that", "scour", "the", "Web", "looking", "for", "content", "to", "index", ".", "Unfortunately", ",", "the", "SEs", "do", "not", "preserve", "canonical", "copies", "of", "all", "the", "web", "resources", "they", "cache", ",", "and", "it", "is", "assumed", "that", "the", "SEs", "do", "not", "keep", "web", "pages", "long", "after", "they", "have", "been", "removed", "from", "a", "web", "server", ".", "We", "define", "lazy", "preservation", "as", "the", "collective", "digital", "preservation", "performed", "by", "web", "archives", "and", "search", "engines", "on", "behalf", "of", "the", "Web", "at", "large", ".", "It", "exists", "as", "a", "preservation", "service", "on", "top", "of", "distributed", ",", "incomplete", ",", "and", "potentially", "unreliable", "web", "repositories", ".", "Lazy", "preservation", "requires", "no", "individual", "effort", "or", "cost", "for", "Web", "publishers", ",", "but", "it", "also", "provides", "no", "quality", "of", "service", "guarantees", ".", "We", "explore", "the", "effectiveness", "of", "lazy", "preservation", "by", "downloading", "24", "websites", "of", "various", "sizes", "and", "subject", "matter", "and", "reconstructing", "them", "using", "a", "web-repository", "crawler", "named", "Warrick", "1", "which", "recovers", "missing", "resources", "from", "four", "web", "repositories", "-LRB-", "IA", ",", "Google", ",", "MSN", "and", "Yahoo", "-RRB-", ".", "We", "compare", "the", "downloaded", "versions", "of", "the", "sites", "with", "the", "reconstructed", "versions", "to", "measure", "how", "successful", "we", "were", "at", "reconstructing", "the", "websites", ".", "We", "also", "measure", "the", "time", "it", "takes", "for", "SEs", "to", "crawl", "and", "cache", "web", "pages", "that", "we", "have", "created", "on", ".", "com", "and", ".", "edu", "websites", ".", "In", "June", "2005", ",", "we", "created", "four", "synthetic", "web", "collections", "consisting", "of", "HTML", ",", "PDF", "and", "images", ".", "For", "90", "days", "we", "systematically", "removed", "web", "pages", "and", "measured", "how", "long", "they", "remained", "cached", "by", "the", "SEs", ".", "The", "ephemeral", "nature", "of", "the", "Web", "has", "been", "widely", "ac-knowledged", ".", "To", "combat", "the", "disappearance", "of", "web", "resources", ",", "Brewster", "Kahle", "'s", "Internet", "Archive", "has", "been", "archiving", "the", "1", "Warrick", "is", "named", "after", "a", "fictional", "forensic", "scientist", "with", "a", "penchant", "for", "gambling", ".", "67", "Table", "1", ":", "Web", "repository-supported", "data", "types", "Type", "G", "Y", "M", "IA", "HTML", "C", "C", "C", "C", "Plain", "text", "M", "M", "M", "C", "GIF", ",", "PNG", ",", "JPG", "M", "M", "R", "C", "JavaScript", "M", "M", "C", "MS", "Excel", "M", "S", "M", "C", "MS", "PowerPoint", "M", "M", "M", "C", "MS", "Word", "M", "M", "M", "C", "PDF", "M", "M", "M", "C", "PostScript", "M", "S", "C", "C", "=", "Canonical", "version", "is", "stored", "M", "=", "Modified", "version", "is", "stored", "-LRB-", "image", "thumbnails", "or", "HTML", "conversions", "-RRB-", "R", "=", "Stored", "but", "not", "retrievable", "with", "direct", "URL", "S", "=", "Indexed", "but", "stored", "version", "is", "not", "accessible", "Web", "since", "1996", "-LSB-", "4", "-RSB-", ".", "National", "libraries", "are", "also", "actively", "engaged", "in", "archiving", "culturally", "important", "websites", "-LSB-", "8", "-RSB-", ".", "Systems", "like", "LOCKSS", "-LSB-", "24", "-RSB-", "have", "been", "developed", "to", "ensure", "libraries", "have", "long-term", "access", "to", "publishers", "'", "web", "content", ",", "and", "commercial", "systems", "like", "Spurl.net", "and", "HanzoWeb.com", "have", "been", "developed", "to", "allow", "users", "to", "archive", "selected", "web", "resources", "that", "they", "deem", "important", ".", "Other", "researchers", "have", "developed", "tools", "for", "archiving", "individual", "websites", "and", "web", "pages", ".", "InfoMonitor", "-LSB-", "7", "-RSB-", "archives", "a", "website", "'s", "file", "system", "and", "stores", "the", "archive", "remotely", ".", "TTA-pache", "-LSB-", "9", "-RSB-", "is", "used", "to", "archive", "requested", "pages", "from", "a", "particular", "web", "server", ",", "and", "iPROXY", "-LSB-", "23", "-RSB-", "is", "used", "as", "a", "proxy", "server", "to", "archive", "requested", "pages", "from", "a", "variety", "of", "web", "servers", ".", "In", "many", "cases", "these", "services", "can", "be", "of", "some", "value", "for", "recovering", "a", "lost", "website", ",", "but", "they", "are", "largely", "useless", "when", "backups", "are", "inaccessible", "or", "destroyed", "or", "when", "a", "third", "party", "wants", "to", "reconstruct", "a", "website", ".", "They", "also", "require", "the", "webmaster", "to", "perform", "some", "amount", "of", "work", "in", "setting", "up", ",", "configuring", "and", "monitoring", "the", "systems", ".", "In", "regards", "to", "commercial", "search", "engines", ",", "the", "literature", "has", "mostly", "focused", "on", "measuring", "the", "amount", "of", "content", "they", "have", "indexed", "-LRB-", "e.g.", ",", "-LSB-", "15", ",", "18", "-RSB-", "-RRB-", ",", "relevance", "of", "responses", "to", "users", "'", "queries", "-LRB-", "e.g.", ",", "-LSB-", "5", ",", "14", "-RSB-", "-RRB-", ",", "and", "ranking", "of", "pages", "-LRB-", "e.g.", ",", "-LSB-", "28", "-RSB-", "-RRB-", ".", "Lewandowski", "et", "al.", "-LSB-", "17", "-RSB-", "studied", "how", "frequently", "Google", ",", "MSN", "and", "Yahoo", "updated", "their", "cached", "versions", "of", "web", "pages", ",", "but", "we", "are", "unaware", "of", "any", "research", "that", "attempts", "to", "measure", "how", "quickly", "new", "resources", "are", "added", "to", "and", "removed", "from", "commercial", "SE", "caches", ",", "or", "research", "that", "explores", "the", "use", "of", "SE", "caches", "for", "reconstructing", "websites", ".", "There", "are", "many", "SEs", "and", "web", "archives", "that", "index", "and", "store", "Web", "content", ".", "For", "them", "to", "be", "useful", "for", "website", "reconstruction", ",", "they", "must", "at", "a", "minimum", "provide", "a", "way", "to", "map", "a", "given", "URL", "to", "a", "stored", "resource", ".", "To", "limit", "the", "implemen-tation", "complexity", ",", "we", "have", "focused", "on", "what", "we", "consider", "to", "be", "the", "four", "most", "popular", "web", "repositories", "that", "meet", "our", "minimum", "criteria", ".", "Recent", "measurements", "show", "that", "Google", ",", "MSN", "and", "Yahoo", "index", "significantly", "different", "portions", "of", "the", "Web", "and", "have", "an", "intersection", "of", "less", "than", "45", "%", "-LSB-", "15", "-RSB-", ".", "Adding", "additional", "web", "repositories", "like", "ask.com", ",", "gigablast.com", ",", "in-cywincy", ".", "com", "and", "any", "other", "web", "repository", "that", "allows", "direct", "URL", "retrieval", "would", "likely", "increase", "our", "ability", "to", "reconstruct", "websites", ".", "t", "d", "t", "a", "t", "r", "t", "p", "TTL", "c", "SE", "cache", "t", "m", "TTL", "ws", "t", "0", "vulnerable", "replicated", "endangered", "unrecoverable", "Web", "server", "Figure", "1", ":", "Timeline", "of", "SE", "resource", "acquisition", "and", "release", "Although", "SEs", "often", "publish", "index", "size", "estimates", ",", "it", "is", "difficult", "to", "estimate", "the", "number", "of", "resources", "in", "each", "SE", "cache", ".", "An", "HTML", "web", "page", "may", "consist", "of", "numerous", "web", "resources", "-LRB-", "e.g.", ",", "images", ",", "applets", ",", "etc.", "-RRB-", "that", "may", "not", "be", "counted", "in", "the", "estimates", ",", "and", "not", "all", "indexed", "resources", "are", "stored", "in", "the", "SE", "caches", ".", "Google", ",", "MSN", "and", "Yahoo", "will", "not", "cache", "an", "HTML", "page", "if", "it", "contains", "a", "NOARCHIVE", "meta-tag", ",", "and", "the", "http", "Cache-control", "directives", "`", "no-cache", "'", "and", "`", "no-store", "'", "may", "also", "prevent", "caching", "of", "resources", "-LSB-", "1", "-RSB-", ".", "Only", "IA", "stores", "web", "resources", "indefinitely", ".", "The", "SEs", "have", "proprietary", "cache", "replacement", "and", "removal", "policies", "which", "can", "only", "be", "inferred", "from", "observed", "behavior", ".", "All", "four", "web", "repositories", "perform", "sporadic", "and", "incomplete", "crawls", "of", "websites", "making", "their", "aggregate", "performance", "important", "for", "website", "reconstruction", ".", "Table", "1", "shows", "the", "most", "popular", "types", "of", "resources", "held", "by", "the", "four", "web", "repositories", ".", "This", "table", "is", "based", "on", "our", "observations", "when", "reconstructing", "websites", "with", "a", "variety", "of", "content", ".", "IA", "keeps", "a", "canonical", "version", "of", "all", "web", "resources", ",", "but", "SEs", "only", "keep", "canonical", "versions", "of", "HTML", "pages", ".", "When", "adding", "PDF", ",", "PostScript", "and", "Microsoft", "Office", "-LRB-", "Word", ",", "Excel", ",", "PowerPoint", "-RRB-", "resources", "to", "their", "cache", ",", "the", "SEs", "create", "HTML", "versions", "of", "the", "resources", "which", "are", "stripped", "of", "all", "images", ".", "SEs", "also", "keep", "only", "a", "thumbnail", "version", "of", "the", "images", "they", "cache", "due", "to", "copyright", "law", ".", "MSN", "uses", "Picsearch", "for", "their", "image", "crawling", ";", "unfortunately", ",", "Picsearch", "and", "MSN", "do", "not", "support", "direct", "URL", "queries", "for", "accessing", "these", "images", ",", "so", "they", "can", "not", "be", "used", "for", "recovering", "website", "images", ".", "3.2", "Lifetime", "of", "a", "Web", "Resource", "Figure", "1", "illustrates", "the", "life", "span", "of", "a", "web", "resource", "from", "when", "it", "is", "first", "made", "available", "on", "a", "web", "server", "to", "when", "when", "it", "is", "finally", "purged", "from", "a", "SE", "cache", ".", "A", "web", "resource", "'s", "time-to", "-", "live", "on", "the", "web", "server", "-LRB-", "TTL", "ws", "-RRB-", "is", "defined", "as", "the", "number", "of", "days", "from", "when", "the", "resource", "is", "first", "made", "accessible", "on", "the", "server", "-LRB-", "t", "0", "-RRB-", "to", "when", "it", "is", "removed", "-LRB-", "t", "r", "-RRB-", ".", "A", "new", "resource", "is", "vulnerable", "until", "it", "is", "discovered", "by", "a", "SE", "-LRB-", "t", "d", "-RRB-", "and", "made", "available", "in", "the", "SE", "cache", "-LRB-", "t", "a", "-RRB-", ".", "The", "resource", "is", "replicated", "when", "it", "is", "accessible", "on", "the", "web", "server", "and", "in", "cache", ".", "Once", "the", "resource", "is", "removed", "from", "the", "web", "server", "-LRB-", "t", "r", "-RRB-", ",", "it", "becomes", "endangered", "since", "it", "is", "only", "accessible", "in", "cache", ".", "When", "a", "subsequent", "crawl", "reveals", "the", "resource", "is", "no", "longer", "available", "on", "the", "web", "server", "-LRB-", "t", "m", "-RRB-", ",", "it", "will", "then", "be", "purged", "from", "cache", "-LRB-", "t", "p", "-RRB-", "and", "be", "unrecoverable", ".", "The", "period", "between", "t", "a", "and", "t", "p", "define", "a", "resource", "'s", "time-to-live", "in", "the", "SE", "cache", "-LRB-", "TTL", "c", "-RRB-", ".", "A", "resource", "is", "recoverable", "if", "it", "is", "currently", "cached", "-LRB-", "i.e.", ",", "is", "replicated", "or", "endangered", "-RRB-", ".", "A", "recoverable", "resource", "can", "only", "be", "recovered", "during", "the", "TTL", "c", "period", "with", "a", "probability", "of", "P", "r", ",", "the", "observed", "number", "of", "days", "that", "a", "resource", "is", "retrievable", "from", "the", "cache", "divided", "by", "TTL", "c", ".", "68", "It", "should", "be", "noted", "that", "the", "TTL", "ws", "and", "TTL", "c", "values", "of", "a", "resource", "may", "not", "necessarily", "overlap", ".", "A", "SE", "that", "is", "trying", "to", "maximize", "the", "freshness", "of", "its", "index", "will", "try", "to", "minimize", "the", "difference", "between", "TTL", "ws", "and", "TTL", "c", ".", "A", "SE", "that", "is", "slow", "in", "updating", "its", "index", ",", "perhaps", "because", "it", "obtains", "crawling", "data", "from", "a", "third", "party", ",", "may", "experience", "late", "caching", "where", "t", "r", "<", "t", "a", ".", "For", "a", "website", "to", "be", "lazily", "preserved", ",", "we", "would", "like", "its", "resources", "to", "be", "cached", "soon", "after", "their", "appearance", "on", "a", "website", "-LRB-", "have", "minimal", "vulnerability", "-RRB-", ".", "SEs", "may", "also", "share", "this", "goal", "if", "they", "want", "to", "index", "newly", "discovered", "content", "as", "quickly", "as", "possible", ".", "Inducing", "a", "SE", "to", "crawl", "a", "website", "at", "a", "specific", "time", "is", "not", "currently", "possible", ".", "Webmasters", "may", "employ", "various", "techniques", "to", "ensure", "their", "websites", "are", "crawler-friendly", "-LSB-", "13", ",", "27", "-RSB-", "and", "well", "connected", "to", "the", "Web", ".", "They", "may", "even", "submit", "their", "website", "URLs", "to", "SEs", "or", "use", "proprietary", "mechanisms", "like", "Google", "'s", "Sitemap", "Protocol", "-LSB-", "12", "-RSB-", ",", "but", "no", "technique", "will", "guarantee", "immediate", "indexing", "and", "caching", "of", "a", "website", ".", "We", "would", "also", "like", "resources", "to", "remain", "cached", "long", "after", "they", "have", "been", "deleted", "from", "the", "web", "server", "-LRB-", "remain", "endangered", "-RRB-", "so", "they", "can", "be", "recovered", "for", "many", "days", "after", "their", "disappearance", ".", "SEs", "on", "the", "other", "hand", "may", "want", "to", "minimize", "the", "endangered", "period", "in", "order", "to", "purge", "missing", "content", "from", "their", "index", ".", "Just", "as", "we", "have", "no", "control", "as", "to", "when", "a", "SE", "crawler", "will", "visit", ",", "we", "also", "have", "no", "control", "over", "cache", "eviction", "policies", ".", "3.3", "Web", "Collection", "Design", "In", "order", "to", "obtain", "measurements", "for", "TTL", "c", "and", "other", "values", "in", "Figure", "1", ",", "we", "created", "four", "synthetic", "web", "collections", "and", "placed", "them", "on", "websites", "for", "which", "we", "could", "obtain", "crawling", "data", ".", "We", "deployed", "the", "collections", "in", "June", "2005", "at", "four", "different", "locations", ":", "1", "-RRB-", "www.owenbrau.com", ",", "2", "-RRB-", "www.cs.odu", ".", "edu", "/", "fmccown/lazy", "/", "3", "-RRB-", "www.cs.odu.edu", "/", "jsmit", "/", ",", "and", "4", "-RRB-", "www.cs.odu.edu", "/", "mln/lazyp", "/", ".", "The", ".", "com", "website", "was", "new", "and", "had", "never", "been", "indexed", "by", "Google", ",", "Yahoo", "or", "MSN", ".", "The", "3", ".", "edu", "websites", "had", "existed", "for", "over", "a", "year", "and", "had", "been", "previously", "crawled", "by", "all", "three", "SEs", ".", "In", "order", "for", "the", "web", "collections", "to", "be", "found", "by", "the", "SEs", ",", "we", "placed", "links", "to", "the", "root", "of", "each", "web", "collection", "from", "the", ".", "edu", "websites", ",", "and", "we", "submitted", "owenbrau", "'s", "base", "URL", "to", "Google", ",", "MSN", "and", "Yahoo", "1", "month", "prior", "to", "the", "experiment", ".", "For", "90", "days", "we", "systematically", "removed", "resources", "from", "each", "collection", ".", "We", "examined", "the", "server", "web", "logs", "to", "determine", "when", "resources", "were", "crawled", ",", "and", "we", "queried", "Google", ",", "MSN", "and", "Yahoo", "daily", "to", "determine", "when", "the", "resources", "were", "cached", ".", "We", "organized", "each", "web", "collection", "into", "a", "series", "of", "30", "update", "bins", "-LRB-", "directories", "-RRB-", "which", "contained", "a", "number", "of", "HTML", "pages", "referencing", "the", "same", "three", "inline", "images", "-LRB-", "GIF", ",", "JPG", "and", "PNG", "-RRB-", "and", "a", "number", "of", "PDF", "files", ".", "An", "index.html", "file", "-LRB-", "with", "a", "single", "inline", "image", "-RRB-", "in", "the", "root", "of", "the", "web", "collection", "pointed", "to", "each", "of", "the", "bins", ".", "An", "index.html", "file", "in", "each", "bin", "pointed", "to", "the", "HTML", "pages", "and", "PDF", "files", "so", "a", "web", "crawler", "could", "easily", "find", "all", "the", "resources", ".", "All", "these", "files", "were", "static", "and", "did", "not", "change", "throughout", "the", "90", "day", "period", "except", "the", "index.html", "files", "in", "each", "bin", "which", "were", "modified", "when", "links", "to", "deleted", "web", "pages", "were", "removed", ".", "In", "all", ",", "there", "were", "381", "HTML", "files", ",", "350", "PDF", "files", ",", "and", "223", "images", "in", "each", "web", "collection", ".", "More", "detail", "about", "the", "organization", "of", "the", "web", "collections", "and", "what", "the", "pages", "and", "images", "looked", "like", "can", "be", "found", "in", "-LSB-", "20", ",", "26", "-RSB-", ".", "The", "PDF", "and", "HTML", "pages", "were", "made", "to", "look", "like", "typical", "web", "pages", "with", "around", "120", "words", "per", "page", ".", "The", "text", "for", "each", "page", "was", "randomly", "generated", "from", "a", "standard", "English", "dictionary", ".", "By", "using", "random", "words", "we", "avoided", "creating", "duplicate", "pages", "that", "a", "SE", "may", "reject", "-LSB-", "6", "-RSB-", ".", "Unfortunately", ",", "using", "random", "words", "may", "cause", "pages", "to", "be", "flagged", "as", "spam", "-LSB-", "10", "-RSB-", ".", "Each", "HTML", "and", "PDF", "page", "contained", "a", "unique", "identifier", "-LRB-", "UID", "-RRB-", "at", "the", "top", "of", "each", "page", "-LRB-", "e.g.", ",", "`", "mlnODULPT2", "dgrp18", "pg18-2-pdf", "'", "that", "included", "4", "identifiers", ":", "the", "web", "collection", "-LRB-", "e.g.", ",", "`", "mlnODULPT2", "'", "means", "the", "`", "mln", "'", "collection", "-RRB-", ",", "bin", "number", "-LRB-", "e.g.", ",", "`", "dgrp18", "'", "means", "bin", "18", "-RRB-", ",", "page", "number", "and", "resource", "type", "-LRB-", "e.g.", ",", "`", "pg18-2-pdf", "'", "means", "page", "number", "2", "from", "bin", "18", "and", "PDF", "resource", "-RRB-", ".", "The", "UID", "contains", "spaces", "to", "allow", "for", "more", "efficient", "querying", "of", "the", "SE", "caches", ".", "The", "TTL", "ws", "for", "each", "resource", "in", "the", "web", "collection", "is", "a", "function", "of", "its", "bin", "number", "b", "and", "page", "number", "p", ":", "TTL", "ws", "=", "b", "-LRB-", "90/b", "-", "p", "+", "1", "-RRB-", "-LRB-", "1", "-RRB-", "3.4", "Daily", "SE", "Queries", "In", "designing", "our", "daily", "SE", "queries", ",", "care", "was", "taken", "to", "perform", "a", "limited", "number", "of", "daily", "queries", "to", "not", "overburden", "the", "SEs", ".", "We", "could", "have", "queried", "the", "SEs", "using", "the", "URL", "for", "each", "resource", ",", "but", "this", "might", "have", "led", "to", "our", "resources", "being", "cached", "prematurely", ";", "it", "is", "possible", "that", "if", "a", "SE", "is", "queried", "for", "a", "URL", "it", "did", "not", "index", "that", "it", "would", "add", "the", "URL", "to", "a", "list", "of", "URLs", "to", "be", "crawled", "at", "a", "later", "date", ".", "This", "is", "how", "IA", "'s", "advanced", "search", "interface", "handles", "missing", "URLs", "from", "users", "'", "queries", ".", "To", "determine", "which", "HTML", "and", "PDF", "resources", "had", "been", "cached", ",", "we", "queried", "using", "subsets", "of", "the", "resources", "'", "UIDs", "and", "looked", "for", "cached", "URLs", "in", "the", "results", "pages", ".", "For", "example", ",", "to", "find", "PDF", "resources", "from", "the", "mln", "collection", ",", "we", "queried", "each", "SE", "to", "return", "the", "top", "100", "PDF", "results", "from", "the", "site", "www.cs.odu.edu", "that", "contain", "the", "exact", "phrase", "`", "mlnODULPT2", "dgrp18", "'", ".", "2", "It", "is", "necessary", "to", "divulge", "the", "site", "in", "the", "query", "or", "multiple", "results", "from", "the", "site", "will", "not", "be", "returned", ".", "Although", "this", "tells", "the", "SE", "on", "which", "site", "the", "resource", "is", "located", ",", "it", "does", "not", "divulge", "the", "URL", "of", "the", "resource", ".", "To", "query", "for", "cached", "images", ",", "we", "queried", "for", "the", "globally", "unique", "filename", "given", "to", "each", "image", ".", "3.5", "Crawling", "and", "Caching", "Observations", "Although", "the", "web", "server", "logs", "registered", "visits", "from", "a", "variety", "of", "crawlers", ",", "we", "report", "only", "on", "crawls", "from", "Google", ",", "Inktomi", "-LRB-", "Yahoo", "-RRB-", "and", "MSN", ".", "3", "Alexa", "Internet", "-LRB-", "who", "provides", "crawls", "to", "IA", "-RRB-", "only", "accessed", "our", "collection", "once", "-LRB-", "induced", "through", "our", "use", "of", "the", "Alexa", "toolbar", "-RRB-", ".", "A", "separate", "IA", "robot", "accessed", "less", "than", "1", "%", "of", "the", "collections", ",", "likely", "due", "to", "several", "submissions", "we", "made", "to", "their", "Wayback", "Machine", "'s", "advanced", "search", "interface", "early", "in", "the", "experiment", ".", "Further", "analysis", "of", "the", "log", "data", "can", "seen", "in", "a", "companion", "paper", "-LSB-", "26", "-RSB-", ".", "We", "report", "only", "detailed", "measurements", "on", "HTML", "resources", "-LRB-", "PDF", "resources", "were", "similar", "-RRB-", ".", "Images", "were", "crawled", "and", "cached", "far", "less", "frequently", ";", "Google", "and", "Picsearch", "-LRB-", "the", "MSN", "Images", "provider", "-RRB-", "were", "the", "only", "ones", "to", "crawl", "a", "significant", "number", "of", "images", ".", "The", "3", ".", "edu", "collections", "had", "29", "%", "of", "their", "images", "crawled", ",", "and", "owenbrau", "had", "14", "%", "of", "its", "images", "crawled", ".", "Only", "4", "unique", "images", "appeared", "in", "Google", "Images", ",", "all", "from", "2", "MSN", "only", "allows", "limiting", "the", "results", "page", "to", "50", ".", "3", "Due", "to", "a", "technical", "mishap", "beyond", "our", "control", ",", "we", "were", "unable", "to", "obtain", "crawling", "data", "for", "days", "41-55", "for", "owebrau", "and", "parts", "of", "days", "66-75", "and", "97", "for", "the", ".", "edu", "web", "collections", ".", "We", "were", "also", "prevented", "from", "making", "cache", "queries", "on", "days", "53", ",", "54", ",", "86", "and", "87", ".", "69", "Table", "2", ":", "Caching", "of", "HTML", "resources", "from", "4", "web", "collections", "-LRB-", "350", "HTML", "resources", "in", "each", "collection", "-RRB-", "Web", "%", "URLs", "crawled", "%", "URLs", "cached", "t", "ca", "T", "T", "L", "c", "/", "P", "r", "Endangered", "collection", "G", "M", "Y", "G", "M", "Y", "G", "M", "Y", "G", "M", "Y", "G", "M", "Y", "fmccown", "91", "41", "56", "91", "16", "36", "13", "65", "47", "90", "/", "0.78", "20", "/", "0.87", "35", "/", "0.57", "51", "9", "24", "jsmit", "92", "31", "92", "92", "14", "65", "12", "66", "47", "86", "/", "0.82", "20", "/", "0.91", "36", "/", "0.55", "47", "7", "25", "mln", "94", "33", "84", "94", "14", "49", "10", "65", "54", "87", "/", "0.83", "21", "/", "0.90", "24", "/", "0.46", "47", "8", "19", "owenbrau", "18", "0", "0", "20", "0", "0", "103", "N/A", "N/A", "40", "/", "0.98", "N/A", "N/A", "61", "N/A", "N/A", "Ave", "74", "26", "58", "74", "11", "37", "35", "66", "50", "76", "/", "0.86", "20", "/", "0.89", "32", "/", "0.53", "51", "8", "23", "Figure", "2", ":", "Crawling", "-LRB-", "top", "-RRB-", "and", "caching", "-LRB-", "bottom", "-RRB-", "of", "HTML", "resources", "from", "the", "mln", "web", "collection", "the", "mln", "collection", ".", "Google", "likely", "used", "an", "image", "duplication", "detection", "algorithm", "to", "prevent", "duplicate", "images", "from", "different", "URLs", "from", "being", "cached", ".", "Only", "one", "image", "-LRB-", "from", "fmccown", "-RRB-", "appeared", "in", "MSN", "Images", ".", "None", "of", "the", "cached", "images", "fell", "out", "of", "cache", "during", "our", "experiment", ".", "Table", "2", "summarizes", "the", "performance", "of", "each", "SE", "to", "crawl", "and", "cache", "350", "HTML", "resources", "from", "each", "of", "the", "four", "web", "collections", ".", "This", "table", "does", "not", "include", "index.html", "resources", "which", "had", "an", "infinite", "T", "T", "L", "ws", ".", "We", "believe", "there", "was", "an", "error", "in", "the", "MSN", "query", "script", "which", "caused", "fewer", "resources", "to", "be", "found", "in", "the", "MSN", "cache", ",", "but", "the", "percentage", "of", "crawled", "URLs", "provides", "an", "upper", "bound", "on", "the", "number", "of", "cached", "resources", ";", "this", "has", "little", "to", "no", "effect", "on", "the", "other", "measurements", "reported", ".", "The", "three", "SEs", "showed", "equal", "desire", "to", "crawl", "HTML", "and", "PDF", "resources", ".", "Inktomi", "-LRB-", "Yahoo", "-RRB-", "crawled", "2", "times", "as", "many", "resources", "as", "MSN", ",", "and", "Google", "crawled", "almost", "3", "times", "as", "many", "resources", "than", "MSN", ".", "Google", "was", "the", "only", "SE", "to", "crawl", "and", "cache", "any", "resources", "from", "the", "new", "owenbrau", "website", ".", "From", "a", "preservation", "perspective", ",", "Google", "out-performed", "MSN", "and", "Yahoo", "in", "nearly", "every", "category", ".", "Google", "cached", "the", "highest", "percentage", "of", "HTML", "resources", "-LRB-", "76", "%", "-RRB-", "and", "took", "only", "12", "days", "on", "average", "to", "cache", "new", "resources", "from", "the", "edu", "web", "collections", ".", "On", "average", ",", "Google", "cached", "HTML", "resources", "for", "the", "longest", "period", "of", "time", "-LRB-", "76", "days", "-RRB-", ",", "consistently", "provided", "access", "to", "the", "cached", "resources", "-LRB-", "86", "%", "-RRB-", ",", "and", "were", "the", "slowest", "to", "remove", "cached", "resources", "that", "were", "deleted", "from", "the", "web", "server", "-LRB-", "51", "days", "-RRB-", ".", "Although", "Yahoo", "cached", "more", "HTML", "resources", "and", "kept", "the", "resources", "cached", "for", "a", "longer", "period", "than", "MSN", ",", "the", "probability", "of", "accessing", "a", "resource", "on", "any", "given", "day", "was", "only", "53", "%", "compared", "to", "89", "%", "for", "MSN", ".", "Figure", "2", "provides", "an", "interesting", "look", "at", "the", "crawling", "and", "caching", "behavior", "of", "Google", ",", "Yahoo", "and", "MSN", ".", "These", "graphs", "illustrate", "the", "crawling", "and", "caching", "of", "HTML", "resources", "from", "the", "mln", "collection", ";", "the", "other", "two", "edu", "collections", "exhibited", "similar", "behavior", ".", "The", "resources", "are", "sorted", "by", "TTL", "ws", "with", "the", "longest-living", "resources", "appearing", "on", "the", "bottom", ".", "The", "index.html", "files", "which", "were", "never", "removed", "from", "the", "web", "collection", "have", "an", "infinite", "TTL", "-LRB-", "`", "inf", "'", "-RRB-", ".", "The", "red", "diagonal", "line", "indicates", "the", "decay", "of", "the", "web", "collection", ";", "on", "any", "particular", "day", ",", "only", "resources", "below", "the", "red", "line", "were", "accessible", "from", "the", "web", "server", ".", "On", "the", "top", "row", "of", "Figure", "2", ",", "blue", "dots", "indicate", "resources", "that", "were", "crawled", "on", "a", "particular", "day", ".", "When", "resources", "were", "requested", "that", "had", "been", "deleted", ",", "the", "web", "server", "responded", "with", "a", "404", "-LRB-", "not", "found", "-RRB-", "code", "represented", "by", "green", "dots", "above", "the", "red", "line", ".", "The", "bottom", "row", "of", "Figure", "2", "shows", "the", "cached", "HTML", "resources", "-LRB-", "blue", "-RRB-", "resulting", "from", "the", "crawls", ".", "Some", "pages", "in", "Yahoo", "were", "indexed", "but", "not", "cached", "-LRB-", "green", "-RRB-", ".", "As", "Figure", "2", "illustrates", ",", "both", "Google", "and", "MSN", "were", "quick", "to", "make", "resources", "available", "in", "their", "cache", "soon", "after", "they", "were", "crawled", ",", "and", "they", "were", "quick", "to", "purge", "resources", "from", "their", "cache", "when", "a", "crawl", "revealed", "the", "resources", "were", "no", "longer", "available", "on", "the", "web", "server", ".", "A", "surprising", "finding", "is", "that", "many", "of", "the", "HTML", "resources", "that", "were", "previously", "purged", "from", "Google", "'s", "cache", "reappeared", "on", "day", "102", "and", "remained", "cached", "for", "the", "remainder", "of", "our", "experiment", ".", "The", "other", "two", "edu", "collections", "exhibited", "similar", "behavior", "for", "HTML", "resources", ".", "HTML", "and", "PDF", "resources", "from", "owenbrau", "appeared", "in", "the", "Google", "cache", "on", "day", "102", "for", "the", "first", "time", ";", "these", "resources", "had", "been", "deleted", "from", "the", "web", "server", "10-20", "days", "before", "day", "102", ".", "Manual", "inspection", "weeks", "after", "the", "experiment", "had", "concluded", "revealed", "that", "the", "pages", "remained", "in", "Google", "'s", "cache", "and", "fell", "out", "months", "later", ".", "Yahoo", "was", "very", "sporadic", "in", "caching", "resources", ";", "there", "was", "often", "a", "lag", "time", "of", "30", "days", "between", "the", "crawl", "of", "a", "resource", "and", "its", "appearance", "in", "cache", ".", "Many", "of", "the", "crawled", "resources", "never", "appeared", "in", "Yahoo", "'s", "cache", ".", "Although", "Inktomi", "crawled", "nearly", "every", "available", "HTML", "resource", "on", "day", "10", ",", "only", "half", "of", "those", "resources", "ever", "became", "available", "in", "the", "Yahoo", "cache", ".", "We", "have", "observed", "through", "subsequent", "interaction", "with", "Yahoo", "that", "links", "to", "cached", "content", "may", "appear", "and", "disappear", "when", "performing", "the", "same", "query", "just", "a", "few", "seconds", "apart", ".", "This", "likely", "accounts", "for", "the", "observed", "cache", "inconsistency", ".", "We", "have", "observed", "from", "our", "measurements", "that", "nearly", "all", "new", "HTML", "and", "PDF", "resources", "that", "we", "placed", "on", "known", "websites", "were", "crawled", "and", "cached", "by", "Google", "several", "days", "af-70", "A", "A", "D", "B", "C", "E", "F", "G", "B", "'", "C", "'", "E", "F", "added", "20", "%", "W", "'", "W", "changed", "33", "%", "identical", "50", "%", "missing", "17", "%", "Figure", "3", ":", "Lost", "website", "-LRB-", "left", "-RRB-", ",", "reconstructed", "website", "-LRB-", "center", "-RRB-", ",", "and", "reconstruction", "diagram", "-LRB-", "right", "-RRB-", "ter", "they", "were", "discovered", ".", "Resources", "on", "a", "new", "website", "were", "not", "cached", "for", "months", ".", "Yahoo", "and", "MSN", "were", "4-5", "times", "slower", "than", "Google", "to", "acquire", "new", "resources", ",", "and", "Yahoo", "incurs", "a", "long", "transfer", "delay", "from", "Inktomi", "'s", "crawls", "into", "their", "cache", ".", "We", "have", "also", "observed", "that", "cached", "resources", "are", "often", "purged", "from", "all", "three", "caches", "as", "soon", "as", "a", "crawl", "reveals", "the", "resources", "are", "missing", ",", "but", "in", "the", "case", "of", "Google", ",", "many", "HTML", "resources", "have", "reappeared", "weeks", "after", "being", "removed", ".", "Images", "tend", "to", "be", "largely", "ignored", ".", "Search", "engines", "may", "crawl", "and", "cache", "other", "websites", "differ-ently", "depending", "on", "a", "variety", "of", "factors", "including", "perceived", "level", "of", "importance", "-LRB-", "e.g.", ",", "PageRank", "-RRB-", "and", "modification", "rates", ".", "Crawling", "policies", "may", "also", "be", "changed", "over", "time", ".", "This", "experiment", "merely", "provides", "a", "glimpse", "into", "the", "current", "caching", "behavior", "of", "the", "top", "three", "SEs", "that", "has", "not", "been", "documented", "before", ".", "Our", "findings", "suggest", "that", "SEs", "vary", "greatly", "in", "the", "level", "of", "access", "they", "provide", "to", "cached", "resources", ",", "and", "that", "websites", "are", "likely", "to", "be", "reconstructed", "more", "successfully", "if", "they", "are", "reconstructed", "quickly", "after", "being", "lost", ".", "Reconstructions", "should", "also", "be", "performed", "several", "days", "in", "a", "row", "to", "ensure", "maximum", "access", "to", "web", "repository", "holdings", ".", "In", "some", "cases", ",", "it", "may", "even", "be", "beneficial", "to", "attempt", "recovering", "resources", "even", "a", "month", "after", "they", "have", "been", "lost", ".", "We", "define", "a", "reconstructed", "website", "to", "be", "the", "collection", "of", "recovered", "resources", "that", "share", "the", "same", "URIs", "as", "the", "resources", "from", "a", "lost", "website", "or", "from", "some", "previous", "version", "of", "the", "lost", "website", "-LSB-", "19", "-RSB-", ".", "The", "recovered", "resources", "may", "be", "equivalent", "to", ",", "or", "very", "different", "from", ",", "the", "lost", "resources", ".", "For", "websites", "that", "are", "composed", "of", "static", "files", ",", "recovered", "resources", "would", "be", "equivalent", "to", "the", "files", "that", "were", "lost", ".", "For", "sites", "produced", "dynamically", "using", "CGI", ",", "PHP", ",", "etc.", ",", "the", "recovered", "resources", "would", "match", "the", "client", "'s", "view", "of", "the", "resources", "and", "would", "be", "useful", "to", "the", "webmaster", "in", "rebuilding", "the", "server-side", "components", ".", "The", "server-side", "components", "are", "currently", "not", "recoverable", "using", "lazy", "preservation", "-LRB-", "see", "Section", "5", "-RRB-", ".", "To", "quantify", "the", "difference", "between", "a", "reconstructed", "website", "and", "a", "lost", "website", ",", "we", "classify", "the", "recovered", "resources", "from", "the", "website", "graphs", ".", "A", "website", "can", "be", "represented", "as", "a", "graph", "G", "=", "-LRB-", "V", ",", "E", "-RRB-", "where", "each", "resource", "r", "i", "-LRB-", "HTML", ",", "PDF", ",", "image", ",", "etc.", "-RRB-", ",", "identified", "by", "a", "URI", ",", "is", "a", "node", "v", "i", ",", "and", "there", "exists", "a", "directed", "edge", "from", "v", "i", "to", "v", "j", "when", "there", "is", "a", "hyperlink", "or", "reference", "from", "r", "i", "to", "r", "j", ".", "The", "left", "side", "of", "Figure", "3", "shows", "a", "web", "graph", "for", "some", "website", "W", "if", "we", "began", "to", "crawl", "it", "starting", "at", "A.", "Suppose", "W", "was", "lost", "and", "reconstructed", "forming", "the", "website", "W", "represented", "in", "the", "center", "of", "Figure", "3", ".", "For", "each", "resource", "r", "i", "in", "W", "we", "may", "examine", "its", "corresponding", "resource", "r", "i", "in", "W", "that", "shares", "the", "same", "URI", "and", "categorize", "r", "i", "as", "identical", "-LRB-", "r", "i", "is", "byte-for-byte", "identical", "to", "r", "i", "-RRB-", ",", "changed", "-LRB-", "r", "i", "is", "not", "identical", "to", "r", "i", "-RRB-", ",", "or", "missing", "-LRB-", "r", "i", "could", "not", "be", "found", "in", "any", "web", "-RRB-", ".", "We", "would", "categorize", "those", "resources", "in", "W", "that", "did", "not", "share", "a", "URI", "with", "any", "resource", "in", "W", "as", "added", "-LRB-", "r", "i", "was", "not", "a", "part", "of", "the", "current", "website", "but", "was", "recovered", "due", "to", "a", "reference", "from", "r", "j", "-RRB-", ".", "Figure", "3", "shows", "that", "resources", "A", ",", "G", "and", "E", "were", "reconstructed", "and", "are", "identical", "to", "their", "lost", "versions", ".", "An", "older", "version", "of", "B", "was", "found", "-LRB-", "B", "'", "-RRB-", "that", "pointed", "to", "G", ",", "a", "resource", "that", "does", "not", "currently", "exist", "in", "W", ".", "Since", "B", "'", "does", "not", "reference", "D", ",", "we", "did", "not", "know", "to", "recover", "it", "-LRB-", "it", "is", "possible", "that", "G", "is", "actually", "D", "renamed", "-RRB-", ".", "An", "older", "version", "of", "C", "was", "found", ",", "and", "although", "it", "still", "references", "F", ",", "F", "could", "not", "be", "found", "in", "any", "web", "repository", ".", "A", "measure", "of", "change", "between", "the", "lost", "website", "W", "and", "the", "reconstructed", "website", "W", "can", "be", "described", "using", "the", "following", "difference", "vector", ":", "difference", "-LRB-", "W", ",", "W", "-RRB-", "=", "R", "changed", "|", "W", "|", ",", "R", "missing", "|", "W", "|", ",", "R", "added", "|", "W", "|", "-LRB-", "2", "-RRB-", "For", "Figure", "3", ",", "the", "difference", "vector", "is", "-LRB-", "2/6", ",", "1/6", ",", "1/5", "-RRB-", "=", "-LRB-", "0.333", ",", "0.167", ",", "0.2", "-RRB-", ".", "The", "best", "case", "scenario", "would", "be", "-LRB-", "0,0,0", "-RRB-", ",", "the", "complete", "reconstruction", "of", "a", "website", ".", "A", "completely", "unrecoverable", "website", "would", "have", "a", "difference", "vector", "of", "-LRB-", "0,1,0", "-RRB-", ".", "The", "difference", "vector", "for", "a", "reconstructed", "website", "can", "be", "illustrated", "as", "a", "reconstruction", "diagram", "as", "shown", "on", "the", "right", "side", "of", "Figure", "3", ".", "The", "changed", ",", "identical", "and", "missing", "resources", "form", "the", "core", "of", "the", "reconstructed", "website", ".", "The", "dark", "gray", "portion", "of", "the", "core", "grows", "as", "the", "percentage", "of", "changed", "resource", "increases", ".", "The", "hole", "in", "the", "center", "of", "the", "core", "grows", "as", "the", "percentage", "of", "missing", "resources", "increases", ".", "The", "added", "resources", "appear", "as", "crust", "around", "the", "core", ".", "This", "representation", "will", "be", "used", "later", "in", "Table", "3", "when", "we", "report", "on", "the", "websites", "we", "reconstructed", "in", "our", "experiments", ".", "4.2", "Warrick", "Operation", "Warrick", ",", "our", "web-repository", "crawler", ",", "is", "able", "to", "reconstruct", "a", "website", "when", "given", "a", "base", "URL", "pointing", "to", "where", "the", "site", "used", "to", "exist", ".", "The", "web", "repositories", "are", "crawled", "by", "issuing", "queries", "in", "the", "form", "of", "URLs", "to", "access", "their", "stored", "holdings", ".", "For", "example", ",", "Google", "'s", "cached", "version", "of", "http://foo", ".", "edu/page1.html", "can", "be", "accessed", "like", "so", ":", "http://search", ".", "google.com/search?q=cache:http://foo.edu/page1.html", ".", "If", "Google", "has", "not", "cached", "the", "page", ",", "an", "error", "page", "will", "be", "generated", ".", "Otherwise", "the", "cached", "page", "can", "be", "stripped", "of", "any", "Google-added", "HTML", ",", "and", "the", "page", "can", "be", "parsed", "for", "links", "to", "other", "resources", "from", "the", "foo.edu", "domain", "-LRB-", "and", "other", "domains", "if", "necessary", "-RRB-", ".", "Most", "repositories", "require", "two", "or", "more", "queries", "to", "obtain", "a", "resource", ".", "For", "each", "URL", ",", "the", "file", "extension", "-LRB-", "if", "present", "-RRB-", "is", "examined", "to", "determine", "if", "the", "URL", "is", "an", "image", "-LRB-", ".", "png", ",", ".", "gif", ",", ".", "jpg", ",", "etc.", "-RRB-", "or", "other", "resource", "type", ".", "All", "three", "SEs", "use", "a", "different", "method", "for", "retrieving", "images", "than", "for", "other", "resource", "types", ".", "IA", "has", "the", "same", "interface", "regardless", "of", "the", "type", ".", "We", "would", "have", "better", "accuracy", "at", "determining", "if", "a", "given", "URL", "referenced", "an", "image", "or", "not", "if", "we", "knew", "the", "URL", "'s", "resource", "MIME", "type", ",", "but", "this", "information", "is", "not", "available", "to", "us", ".", "IA", "is", "the", "first", "web", "repository", "queried", "by", "Warrick", "because", "it", "keeps", "a", "canonical", "version", "of", "all", "web", "resources", ".", "When", "querying", "for", "an", "image", "URL", ",", "if", "IA", "does", "not", "have", "the", "image", "then", "Google", "and", "Yahoo", "are", "queried", "one", "at", "a", "time", "until", "one", "of", "them", "returns", "an", "image", ".", "Google", "and", "Yahoo", "do", "not", "publicize", "the", "cached", "date", "of", "their", "images", ",", "so", "it", "is", "not", "possible", "to", "pick", "the", "most", "recently", "cached", "image", ".", "71", "Table", "3", ":", "Results", "of", "website", "reconstructions", "MIME", "type", "groupings", "-LRB-", "orig/recovered", "-RRB-", "Difference", "vector", "Website", "PR", "Total", "HTML", "Images", "Other", "-LRB-", "Changed", ",", "Missing", ",", "Added", "-RRB-", "Recon", "diag", "Almost", "identical", "New", "recon", "diag", "1", ".", "www.eskimo.com/~scs/", "6", "719/691", "96", "%", "696/669", "96", "%", "22/21", "95", "%", "1/1", "100", "%", "-LRB-", "0.011", ",", "0.039", ",", "0.001", "-RRB-", "50", "%", "2", ".", "www.digitalpreservation.gov", "8", "414/378", "91", "%", "346/329", "95", "%", "42/25", "60", "%", "26/24", "92", "%", "-LRB-", "0.097", ",", "0.087", ",", "0.000", "-RRB-", "44", "%", "3", ".", "www.harding.edu/hr/", "4", "73/47", "64", "%", "19/19", "100", "%", "25/2", "8", "%", "29/26", "90", "%", "-LRB-", "0.438", ",", "0.356", ",", "0.145", "-RRB-", "83", "%", "4", ".", "www.techlocker.com", "4", "1216/406", "33", "%", "687/149", "22", "%", "529/257", "49", "%", "0/0", "-LRB-", "0.267", ",", "0.666", ",", "0.175", "-RRB-", "99", "%", "If", "a", "non-image", "resource", "is", "being", "retrieved", ",", "again", "IA", "is", "queried", "first", ".", "If", "IA", "has", "the", "resource", "and", "the", "resource", "does", "not", "have", "a", "MIME", "type", "of", "`", "text/html", "'", ",", "then", "the", "SEs", "are", "not", "queried", "since", "they", "only", "store", "canonical", "versions", "of", "HTML", "resources", ".", "If", "the", "resource", "does", "have", "a", "`", "text/html", "'", "MIME", "type", "-LRB-", "or", "IA", "did", "not", "have", "a", "copy", "-RRB-", ",", "then", "all", "three", "SEs", "are", "queried", ",", "the", "cache", "dates", "of", "the", "resources", "are", "compared", "-LRB-", "if", "available", "-RRB-", ",", "and", "the", "most", "recent", "resource", "is", "chosen", ".", "Warrick", "will", "search", "HTML", "resources", "for", "URLs", "to", "other", "resources", "and", "add", "them", "to", "the", "crawl", "frontier", "-LRB-", "a", "queue", "-RRB-", ".", "Resources", "are", "recovered", "in", "breadth-first", "order", ",", "and", "reconstruction", "continues", "until", "the", "frontier", "is", "empty", ".", "All", "recovered", "resources", "are", "stored", "on", "the", "local", "filesystem", ",", "and", "a", "log", "is", "kept", "of", "recovered", "and", "missing", "resources", ".", "Warrick", "limits", "its", "requests", "per", "day", "to", "the", "web", "repositories", "based", "on", "their", "published", "API", "values", "-LRB-", "Google", ",", "1000", ";", "Yahoo", ",", "5000", ";", "MSN", ",", "10,000", "-RRB-", "or", "lacking", "an", "API", ",", "our", "best", "guess", "-LRB-", "IA", ",", "1000", "-RRB-", ".", "If", "any", "repository", "'s", "limit", "is", "exceeded", ",", "Warrick", "will", "checkpoint", "and", "sleep", "for", "24", "hours", ".", "4.3", "Reconstruction", "Experiment", "and", "Results", "To", "gauge", "the", "effectiveness", "of", "lazy", "preservation", "for", "website", "reconstruction", ",", "we", "compared", "the", "snap-shot", "of", "24", "live", "websites", "with", "their", "reconstructions", ".", "We", "chose", "sites", "that", "were", "either", "personally", "known", "to", "us", "or", "randomly", "sampled", "from", "dmoz.org", ".", "The", "websites", "-LRB-", "some", "were", "actually", "subsites", "-RRB-", "were", "predominantly", "English", ",", "covered", "a", "range", "of", "topics", ",", "and", "were", "from", "a", "number", "of", "top-level", "domains", ".", "We", "chose", "8", "small", "-LRB-", "<", "150", "URIs", "-RRB-", ",", "8", "medium", "-LRB-", "150-499", "URIs", "-RRB-", "and", "8", "large", "-LRB-", "500", "URIs", "-RRB-", "websites", ",", "and", "we", "avoided", "websites", "that", "used", "robots.txt", "and", "Flash", "exclusively", "as", "the", "main", "interface", ".", "In", "August", "2005", "we", "downloaded", "all", "24", "websites", "by", "starting", "at", "the", "base", "URL", "and", "following", "all", "links", "and", "references", "that", "that", "were", "in", "and", "beneath", "the", "starting", "directory", ",", "with", "no", "limit", "to", "the", "path", "depth", ".", "For", "simplicity", ",", "we", "restricted", "the", "download", "to", "port", "80", "and", "did", "not", "follow", "links", "to", "other", "hosts", "within", "the", "same", "domain", "name", ".", "So", "if", "the", "base", "URL", "for", "the", "website", "was", "http://www.foo.edu/bar/", ",", "only", "URLs", "matching", "http", ":", "/", "/", "www.foo.edu/bar/*", "were", "downloaded", ".", "Warrick", "uses", "the", "same", "default", "setting", "for", "reconstructing", "websites", ".", "Immediately", "after", "downloading", "the", "websites", ",", "we", "reconstructed", "five", "different", "versions", "for", "each", "of", "the", "24", "websites", ":", "four", "using", "each", "web", "repository", "separately", ",", "and", "one", "using", "all", "web", "repositories", "together", ".", "The", "different", "reconstructions", "helped", "to", "show", "how", "effective", "individual", "web", "repositories", "could", "reconstruct", "a", "website", "versus", "the", "aggregate", "of", "all", "four", "web", "repositories", ".", "We", "present", "4", "of", "the", "24", "results", "of", "the", "aggregate", "reconstructions", "in", "Table", "3", ",", "ordered", "by", "percent", "of", "recovered", "URIs", ".", "The", "complete", "results", "can", "be", "seen", "in", "-LSB-", "20", "-RSB-", ".", "The", "`", "PR", "'", "column", "is", "Google", "'s", "PageRank", "-LRB-", "0-10", "with", "10", "being", "the", "most", "important", "-RRB-", "for", "the", "root", "page", "of", "each", "website", "at", "the", "time", "of", "the", "experiments", ".", "-LRB-", "MSN", "and", "Yahoo", "do", "not", "publicly", "disclose", "their", "`", "importance", "'", "metric", ".", "-RRB-", "For", "each", "website", ",", "the", "total", "number", "of", "resources", "in", "the", "website", "is", "shown", "along", "with", "the", "total", "number", "of", "resources", "that", "were", "recovered", "and", "the", "percentage", ".", "Resources", "are", "also", "totalled", "by", "MIME", "type", ".", "The", "difference", "vector", "for", "the", "website", "accounts", "for", "recovered", "files", "that", "were", "added", ".", "The", "`", "Almost", "identical", "'", "column", "of", "Table", "3", "shows", "the", "percentage", "of", "text-based", "resources", "-LRB-", "e.g.", ",", "HTML", ",", "PDF", ",", "PostScript", ",", "Word", ",", "PowerPoint", ",", "Excel", "-RRB-", "that", "were", "almost", "identical", "to", "the", "originals", ".", "The", "last", "column", "shows", "the", "reconstruction", "figure", "for", "each", "website", "if", "these", "almost", "identical", "resources", "are", "moved", "from", "the", "`", "Changed", "'", "category", "to", "`", "Identical", "'", "category", ".", "We", "considered", "two", "text-based", "resources", "to", "be", "almost", "identical", "if", "they", "shared", "at", "least", "75", "%", "of", "their", "shingles", "of", "size", "10", ".", "Shingling", "-LRB-", "as", "proposed", "by", "Broder", "et", "al.", "-LSB-", "3", "-RSB-", "-RRB-", "is", "a", "popular", "method", "for", "quantifying", "similarity", "of", "text", "documents", "when", "word-order", "is", "important", "-LSB-", "2", ",", "11", ",", "21", "-RSB-", ".", "We", "did", "not", "use", "any", "image", "similarity", "metrics", ".", "We", "were", "able", "to", "recover", "more", "than", "90", "%", "of", "the", "original", "resources", "from", "a", "quarter", "of", "the", "24", "websites", ".", "For", "three", "quarters", "of", "the", "websites", "we", "recovered", "more", "than", "half", "of", "the", "resources", ".", "On", "average", "we", "were", "able", "to", "recover", "68", "%", "of", "the", "website", "resources", "-LRB-", "median", "=", "72", "%", "-RRB-", ".", "Of", "those", "resources", "recovered", ",", "30", "%", "of", "them", "on", "average", "were", "not", "byte-for-byte", "identical", ".", "A", "majority", "-LRB-", "72", "%", "-RRB-", "of", "the", "`", "changed", "'", "text-based", "files", "were", "almost", "identical", "to", "the", "originals", "-LRB-", "having", "75", "%", "of", "their", "shingles", "in", "common", "-RRB-", ".", "67", "%", "of", "the", "24", "websites", "had", "obtained", "additional", "files", "when", "reconstructed", "which", "accounted", "for", "7", "%", "of", "the", "total", "number", "of", "files", "reconstructed", "per", "website", ".", "When", "all", "website", "resources", "are", "aggregated", "together", "and", "examined", ",", "dynamic", "pages", "-LRB-", "those", "that", "contained", "a", "`", "?", "'", "in", "the", "URL", "-RRB-", "were", "significantly", "less", "likely", "to", "be", "recovered", "than", "resources", "that", "did", "not", "have", "a", "query", "string", "-LRB-", "11", "%", "vs.", "73", "%", "-RRB-", ".", "URLs", "with", "a", "path", "depth", "greater", "than", "three", "were", "also", "less", "likely", "to", "be", "recovered", "-LRB-", "52", "%", "vs.", "61", "%", "-RRB-", ".", "A", "chi-square", "analysis", "confirms", "the", "significance", "of", "these", "findings", "-LRB-", "p", "<", ".001", "-RRB-", ".", "We", "were", "unable", "to", "find", "any", "correlation", "between", "percentage", "of", "recovered", "resources", "with", "PageRank", "or", "website", "size", ".", "The", "success", "of", "recovering", "resources", "based", "on", "their", "MIME", "type", "is", "plotted", "in", "Figure", "4", ".", "The", "percentage", "of", "resources", "72", "0", "25", "50", "75", "100", "125", "150", "175", "200", "225", "html", "images", "pdf", "other", "ms", "MIME", "type", "groups", "Nu", "m", "b", "er", "o", "f", "reso", "u", "r", "ces", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "80", "%", "90", "%", "100", "%", "Ave", "#", "of", "resources", "in", "original", "websites", "Aggregate", "%", "recon", "IA", "%", "recon", "Google", "%", "recon", "MSN", "%", "recon", "Yahoo!", "%", "recon", "Figure", "4", ":", "Recovery", "success", "by", "MIME", "type", "that", "were", "recovered", "from", "the", "five", "different", "website", "reconstructions", "we", "performed", "-LRB-", "one", "using", "all", "four", "web", "repositories", ",", "and", "four", "using", "each", "web", "repository", "individually", "-RRB-", "are", "shown", "along", "with", "the", "average", "number", "of", "resources", "making", "up", "the", "24", "downloaded", "-LRB-", "or", "original", "-RRB-", "websites", ".", "A", "majority", "-LRB-", "92", "%", "-RRB-", "of", "the", "resources", "making", "up", "the", "original", "websites", "are", "HTML", "and", "images", ".", "We", "were", "much", "more", "successful", "at", "recovering", "HTML", "resources", "than", "images", ";", "we", "recovered", "100", "%", "of", "the", "HTML", "resources", "for", "9", "of", "the", "websites", "-LRB-", "38", "%", "-RRB-", "using", "all", "four", "web", "repositories", ".", "It", "is", "likely", "we", "recovered", "fewer", "images", "because", "MSN", "can", "not", "be", "used", "to", "recover", "images", ",", "and", "as", "our", "caching", "experiment", "revealed", ",", "images", "are", "also", "much", "less", "likely", "to", "be", "cached", "than", "other", "resource", "types", ".", "Figure", "4", "also", "emphasizes", "the", "importance", "of", "using", "all", "four", "web", "repositories", "when", "reconstructing", "a", "website", ".", "By", "just", "using", "IA", "or", "just", "using", "Google", ",", "many", "resources", "will", "not", "be", "recovered", ".", "This", "is", "further", "illustrated", "by", "Figure", "5", "which", "shows", "the", "percentage", "of", "each", "web", "repository", "'s", "contribution", "in", "the", "aggregate", "reconstructions", "-LRB-", "sites", "are", "ordered", "by", "number", "of", "URIs", "-RRB-", ".", "Although", "Google", "was", "the", "largest", "overall", "contributor", "to", "the", "website", "reconstructions", "-LRB-", "providing", "44", "%", "of", "the", "resources", "-RRB-", "they", "provided", "none", "of", "the", "resources", "for", "site", "17", "and", "provided", "less", "than", "30", "%", "of", "the", "resources", "for", "9", "of", "the", "reconstructions", ".", "MSN", "contributed", "on", "average", "30", "%", "of", "the", "resources", ";", "IA", "was", "third", "with", "19", "%", ",", "and", "Yahoo", "was", "last", "with", "a", "7", "%", "contribution", "rate", ".", "Yahoo", "'s", "poor", "contribution", "rate", "is", "likely", "due", "to", "their", "spotty", "cache", "access", "as", "exhibited", "in", "our", "caching", "experiment", "-LRB-", "Figure", "2", "-RRB-", "and", "because", "last-modified", "datestamps", "are", "frequently", "older", "than", "last-cached", "datestamps", "-LRB-", "Warrick", "chooses", "resources", "with", "the", "most", "recent", "datestamps", "-RRB-", ".", "The", "amount", "of", "time", "and", "the", "number", "of", "queries", "required", "to", "reconstruct", "all", "24", "websites", "-LRB-", "using", "all", "4", "repositories", "-RRB-", "is", "shown", "in", "Figure", "6", ".", "Here", "we", "see", "almost", "a", "1:1", "ratio", "of", "queries", "to", "seconds", ".", "Although", "the", "size", "of", "the", "original", "websites", "gets", "larger", "along", "the", "x-axis", ",", "the", "number", "of", "files", "reconstructed", "and", "the", "number", "of", "resources", "held", "in", "each", "web", "repository", "determine", "how", "many", "queries", "are", "performed", ".", "In", "none", "of", "our", "reconstructions", "did", "we", "exceed", "the", "daily", "query", "limit", "of", "any", "of", "the", "web", "repositories", ".", "We", "have", "made", "Warrick", "available", "on", "the", "Web", "4", ",", "and", "it", "has", "been", "used", "to", "reconstruct", "several", "websites", "have", "been", "lost", "due", "to", "fire", ",", "hard-drive", "crashes", ",", "death", "of", "the", "website", "owner", ",", "4", "http://www.cs.odu.edu/", "fmccown/warrick", "/", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "80", "%", "90", "%", "100", "%", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "24", "Reconstructed", "w", "ebsites", "C", "ont", "r", "i", "but", "i", "o", "n", "Yahoo", "IA", "MSN", "Google", "Figure", "5", ":", "Web", "repositories", "contributing", "to", "each", "website", "reconstruction", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "1516", "17", "18", "19", "20", "2122", "23", "24", "Reconstructed", "W", "ebsites", "N", "u", "m", "b", "e", "r", "of", "que", "r", "i", "e", "s", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "Ti", "m", "e", "-LRB-", "s", "e", "c", "-RRB-", "queries", "time", "Figure", "6", ":", "Number", "of", "queries", "performed", "and", "time", "taken", "to", "reconstruct", "websites", "hacking", ",", "and", "discontinued", "charitable", "website", "hosting", "-LSB-", "19", "-RSB-", ".", "Although", "the", "reconstructions", "have", "not", "been", "complete", ",", "individuals", "are", "very", "thankful", "to", "have", "recovered", "any", "resources", "at", "all", "when", "faced", "with", "total", "loss", ".", "There", "are", "numerous", "improvements", "we", "are", "making", "to", "Warrick", "including", "an", "API", "for", "easier", "inclusion", "of", "new", "web", "repositories", "and", "new", "methods", "for", "discovering", "more", "resources", "within", "a", "web", "repository", "-LSB-", "19", "-RSB-", ".", "We", "are", "planning", "on", "reconstructing", "a", "larger", "sample", "from", "the", "Web", "to", "discover", "the", "website", "characteristics", "that", "allow", "for", "more", "effective", "``", "lazy", "recovery", "''", ".", "Discovering", "such", "characteristics", "will", "allow", "us", "to", "create", "guidelines", "for", "webmasters", "to", "ensure", "better", "lazy", "preservation", "of", "their", "sites", ".", "Our", "next", "experiment", "will", "take", "into", "account", "rate", "of", "change", "and", "reconstruction", "differences", "over", "time", ".", "We", "are", "also", "interested", "in", "recovering", "the", "server-side", "components", "-LRB-", "CGI", "programs", ",", "databases", ",", "etc.", "-RRB-", "of", "a", "lost", "website", ".", "We", "are", "investigating", "methods", "to", "inject", "server-side", "components", "into", "indexable", "content", "using", "erasure", "codes", "-LRB-", "popular", "with", "RAID", "systems", "-LSB-", "22", "-RSB-", "-RRB-", "so", "they", "can", "be", "recovered", "from", "web", "repositories", "when", "only", "a", "subset", "of", "pages", "can", "be", "found", ".", "A", "web-repository", "crawler", "could", "be", "used", "in", "the", "future", "to", "safeguard", "websites", "that", "are", "at", "risk", "of", "being", "lost", ".", "When", "a", "website", "is", "detected", "as", "being", "lost", ",", "a", "reconstruction", "could", "be", "initiated", "to", "preserve", "what", "is", "left", "of", "the", "site", ".", "Additionally", ",", "websites", "in", "countries", "that", "are", "targeted", "by", "political", "censorship", "could", "be", "reconstructed", "at", "safe", "locations", ".", "Lazy", "preservation", "is", "a", "best-effort", ",", "wide-coverage", "digital", "preservation", "service", "that", "may", "be", "used", "as", "a", "last", "resort", "when", "73", "website", "backups", "are", "unavailable", ".", "It", "is", "not", "a", "substitute", "for", "digital", "preservation", "infrastructure", "and", "policy", ".", "Web", "repositories", "may", "not", "crawl", "orphan", "pages", ",", "protected", "pages", "-LRB-", "e.g.", ",", "robots.txt", ",", "password", ",", "IP", "-RRB-", ",", "very", "large", "pages", ",", "pages", "deep", "in", "a", "web", "collection", "or", "links", "influenced", "by", "JavaScript", ",", "Flash", "or", "session", "IDs", ".", "If", "a", "web", "repository", "will", "not", "or", "can", "not", "crawl", "and", "cache", "a", "resource", ",", "it", "can", "not", "be", "recovered", ".", "We", "have", "measured", "the", "ability", "of", "Google", ",", "MSN", "and", "Yahoo", "to", "cache", "four", "synthetic", "web", "collections", "over", "a", "period", "of", "four", "months", ".", "We", "measured", "web", "resources", "to", "be", "vulnerable", "for", "as", "little", "as", "10", "days", "and", "in", "the", "worst", "case", ",", "as", "long", "as", "our", "90", "day", "test", "period", ".", "More", "encouragingly", ",", "many", "HTML", "resources", "were", "recoverable", "for", "8", "51", "days", "on", "average", "after", "being", "deleted", "from", "the", "web", "server", ".", "Google", "proved", "to", "be", "the", "most", "consistent", "at", "caching", "our", "synthetic", "web", "collections", ".", "We", "have", "also", "used", "our", "web-repository", "crawler", "to", "reconstruct", "a", "variety", "of", "actual", "websites", "with", "varying", "success", ".", "HTML", "resources", "were", "the", "most", "numerous", "-LRB-", "52", "%", "-RRB-", "type", "of", "resource", "in", "our", "collection", "of", "24", "websites", "and", "were", "the", "most", "successfully", "recoverable", "resource", "type", "-LRB-", "89", "%", "recoverable", "-RRB-", ".", "Images", "were", "the", "second", "most", "numerous", "-LRB-", "40", "%", "-RRB-", "resource", "type", ",", "but", "they", "were", "less", "successfully", "recovered", "-LRB-", "53", "%", "-RRB-", ".", "Dynamic", "pages", "and", "resources", "with", "path", "depths", "greater", "than", "three", "were", "less", "likely", "to", "be", "recovered", ".", "Google", "was", "the", "most", "frequent", "source", "for", "the", "reconstructions", "-LRB-", "44", "%", "-RRB-", ",", "but", "MSN", "was", "a", "close", "second", "-LRB-", "30", "%", "-RRB-", ",", "followed", "by", "IA", "-LRB-", "19", "%", "-RRB-", "and", "Yahoo", "-LRB-", "7", "%", "-RRB-", ".", "The", "probability", "of", "reconstruction", "success", "was", "not", "correlated", "with", "Google", "'s", "PageRank", "or", "the", "size", "of", "the", "website", ".", "-LSB-", "1", "-RSB-", "H.", "Berghel", ".", "Responsible", "web", "caching", ".", "Communications", "of", "the", "ACM", ",", "45", "-LRB-", "9", "-RRB-", ":", "15", "20", ",", "2002", ".", "-LSB-", "2", "-RSB-", "K.", "Bharat", "and", "A.", "Broder", ".", "Mirror", ",", "mirror", "on", "the", "web", ":", "a", "study", "of", "host", "pairs", "with", "replicated", "content", ".", "In", "Proceedings", "of", "WWW", "'", "99", ",", "pages", "1579", "1590", ",", "1999", ".", "-LSB-", "3", "-RSB-", "A.", "Z.", "Broder", ",", "S.", "C.", "Glassman", ",", "M.", "S.", "Manasse", ",", "and", "G.", "Zweig", ".", "Syntactic", "clustering", "of", "the", "Web", ".", "Computer", "Networks", "&", "ISDN", "Systems", ",", "29", "-LRB-", "8-13", "-RRB-", ":", "1157", "1166", ",", "1997", ".", "-LSB-", "4", "-RSB-", "M.", "Burner", ".", "Crawling", "towards", "eternity", ":", "Building", "an", "archive", "of", "the", "world", "wide", "web", ".", "Web", "Techniques", "Magazine", ",", "2", "-LRB-", "5", "-RRB-", ",", "1997", ".", "-LSB-", "5", "-RSB-", "F.", "Can", ",", "R.", "Nuray", ",", "and", "A.", "B.", "Sevdik", ".", "Automatic", "performance", "evaluation", "of", "web", "search", "engines", ".", "Info", ".", "Processing", "&", "Management", ",", "40", "-LRB-", "3", "-RRB-", ":", "495", "514", ",", "2004", ".", "-LSB-", "6", "-RSB-", "J.", "Cho", ",", "N.", "Shivakumar", ",", "and", "H.", "Garcia-Molina", ".", "Finding", "replicated", "web", "collections", ".", "In", "Proceedings", "of", "SIGMOD", "'", "00", ",", "pages", "355", "366", ",", "2000", ".", "-LSB-", "7", "-RSB-", "B.", "F.", "Cooper", "and", "H.", "Garcia-Molina", ".", "Infomonitor", ":", "Unobtrusively", "archiving", "a", "World", "Wide", "Web", "server", ".", "International", "Journal", "on", "Digital", "Libraries", ",", "5", "-LRB-", "2", "-RRB-", ":", "106", "119", ",", "April", "2005", ".", "-LSB-", "8", "-RSB-", "M.", "Day", ".", "Collecting", "and", "preserving", "the", "World", "Wide", "Web", ".", "2003", ".", "http", ":", "/", "/", "library.wellcome.ac.uk/assets/WTL039229.pdf", ".", "-LSB-", "9", "-RSB-", "C.", "E.", "Dyreson", ",", "H.", "Lin", ",", "and", "Y.", "Wang", ".", "Managing", "versions", "of", "web", "documents", "in", "a", "transaction-time", "web", "server", ".", "In", "Proceedings", "of", "WWW", "'", "04", ",", "pages", "422", "432", ",", "2004", ".", "-LSB-", "10", "-RSB-", "D.", "Fetterly", ",", "M.", "Manasse", ",", "and", "M.", "Najork", ".", "Spam", ",", "damn", "spam", ",", "and", "statistics", ":", "using", "statistical", "analysis", "to", "locate", "spam", "web", "pages", ".", "In", "Proceedings", "of", "WebDB", "'", "04", ",", "pages", "1", "6", ",", "2004", ".", "-LSB-", "11", "-RSB-", "D.", "Fetterly", ",", "M.", "Manasse", ",", "M.", "Najork", ",", "and", "J.", "Wiener", ".", "A", "large-scale", "study", "of", "the", "evolution", "of", "web", "pages", ".", "In", "Proceedings", "of", "WWW", "'", "03", ",", "pages", "669", "678", ",", "2003", ".", "-LSB-", "12", "-RSB-", "Google", "Sitemap", "Protocol", ",", "2005", ".", "http://www.google", ".", "com/webmasters/sitemaps/docs/en/protocol.html", ".", "-LSB-", "13", "-RSB-", "Google", "webmaster", "help", "center", ":", "Webmaster", "guidelines", ",", "2006", ".", "http://www.google.com/support/webmasters/", "bin/answer.py", "?", "answer", "=", "35769", ".", "-LSB-", "14", "-RSB-", "M.", "Gordon", "and", "P.", "Pathak", ".", "Finding", "information", "on", "the", "World", "Wide", "Web", ":", "the", "retrieval", "effectiveness", "of", "search", "engines", ".", "Inf", ".", "Process", ".", "Manage.", ",", "35", "-LRB-", "2", "-RRB-", ":", "141", "180", ",", "1999", ".", "-LSB-", "15", "-RSB-", "A.", "Gulli", "and", "A.", "Signorini", ".", "The", "indexable", "web", "is", "more", "than", "11.5", "billion", "pages", ".", "In", "Proceedings", "of", "WWW", "'", "05", ",", "pages", "902", "903", ",", "May", "2005", ".", "-LSB-", "16", "-RSB-", "Internet", "Archive", "FAQ", ":", "How", "can", "I", "get", "my", "site", "included", "in", "the", "Archive", "?", ",", "2006", ".", "http://www.archive.org/about/faqs.php", ".", "-LSB-", "17", "-RSB-", "D.", "Lewandowski", ",", "H.", "Wahlig", ",", "and", "G.", "Meyer-Beautor", ".", "The", "freshness", "of", "Web", "search", "engine", "databases", ".", "Journal", "of", "Information", "Science", ",", "32", "-LRB-", "2", "-RRB-", ":", "131", "148", ",", "Apr", "2006", ".", "-LSB-", "18", "-RSB-", "F.", "McCown", ",", "X.", "Liu", ",", "M.", "L.", "Nelson", ",", "and", "M.", "Zubair", ".", "Search", "engine", "coverage", "of", "the", "OAI-PMH", "corpus", ".", "IEEE", "Internet", "Computing", ",", "10", "-LRB-", "2", "-RRB-", ":", "66", "73", ",", "Mar/Apr", "2006", ".", "-LSB-", "19", "-RSB-", "F.", "McCown", "and", "M.", "L.", "Nelson", ".", "Evaluation", "of", "crawling", "policies", "for", "a", "web-repository", "crawler", ".", "In", "Proceedings", "of", "HYPERTEXT", "'", "06", ",", "pages", "145", "156", ",", "2006", ".", "-LSB-", "20", "-RSB-", "F.", "McCown", ",", "J.", "A.", "Smith", ",", "M.", "L.", "Nelson", ",", "and", "J.", "Bollen", ".", "Reconstructing", "websites", "for", "the", "lazy", "webmaster", ".", "Technical", "report", ",", "Old", "Dominion", "University", ",", "2005", ".", "http://arxiv.org/abs/cs.IR/0512069", ".", "-LSB-", "21", "-RSB-", "A.", "Ntoulas", ",", "J.", "Cho", ",", "and", "C.", "Olston", ".", "What", "'s", "new", "on", "the", "Web", "?", "The", "evolution", "of", "the", "Web", "from", "a", "search", "engine", "perspective", ".", "In", "Proceedings", "of", "WWW", "'", "04", ",", "pages", "1", "12", ",", "2004", ".", "-LSB-", "22", "-RSB-", "J.", "S.", "Plank", ".", "A", "tutorial", "on", "Reed-Solomon", "coding", "for", "fault-tolerance", "in", "RAID-like", "systems", ".", "Software", ":", "Practice", "and", "Experience", ",", "27", "-LRB-", "9", "-RRB-", ":", "995", "1012", ",", "1997", ".", "-LSB-", "23", "-RSB-", "H.", "C.", "Rao", ",", "Y.", "Chen", ",", "and", "M.", "Chen", ".", "A", "proxy-based", "personal", "web", "archiving", "service", ".", "SIGOPS", "Operating", "Systems", "Review", ",", "35", "-LRB-", "1", "-RRB-", ":", "61", "72", ",", "2001", ".", "-LSB-", "24", "-RSB-", "V.", "Reich", "and", "D.", "S.", "Rosenthal", ".", "LOCKSS", ":", "A", "permanent", "web", "publishing", "and", "access", "system", ".", "D-Lib", "Magazine", ",", "7", "-LRB-", "6", "-RRB-", ",", "2001", ".", "-LSB-", "25", "-RSB-", "A.", "Ross", ".", "Internet", "Archive", "forums", ":", "Web", "forum", "posting", ".", "Oct", "2004", ".", "http://www.archive.org/iathreads/", "post-view.php", "?", "id", "=", "23121", ".", "-LSB-", "26", "-RSB-", "J.", "A.", "Smith", ",", "F.", "McCown", ",", "and", "M.", "L.", "Nelson", ".", "Observed", "web", "robot", "behavior", "on", "decaying", "web", "subsites", ".", "D-Lib", "Magazine", ",", "12", "-LRB-", "2", "-RRB-", ",", "Feb", "2006", ".", "-LSB-", "27", "-RSB-", "M.", "Weideman", "and", "M.", "Mgidana", ".", "Website", "navigation", "architectures", "and", "their", "effect", "on", "website", "visibility", ":", "a", "literature", "survey", ".", "In", "Proceedings", "of", "SAICSIT", "'", "04", ",", "pages", "292", "296", ",", "2004", ".", "-LSB-", "28", "-RSB-", "J.", "Zhang", "and", "A.", "Dimitroff", ".", "The", "impact", "of", "webpage", "content", "characteristics", "on", "webpage", "visibility", "in", "search", "engine", "results", "-LRB-", "part", "I", "-RRB-", ".", "Information", "Processing", "&", "Management", ",", "41", "-LRB-", "3", "-RRB-", ":", "665", "690", ",", "2005", ".", "74"], "doc_bio_tags": ["B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["caching", "crawling", "search engine", "cached resources", "lazy preservation", "digital preservation", "reconstruction", "recovery", "web repositories"], "abstractive_keyphrases": ["search engines (ses)"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "113", "document": ["Information", "Revelation", "and", "Privacy", "in", "Online", "Social", "Networks", "Participation", "in", "social", "networking", "sites", "has", "dramatically", "increased", "in", "recent", "years", ".", "Services", "such", "as", "Friendster", ",", "Tribe", ",", "or", "the", "Facebook", "allow", "millions", "of", "individuals", "to", "create", "online", "profiles", "and", "share", "personal", "information", "with", "vast", "networks", "of", "friends", "-", "and", ",", "often", ",", "unknown", "numbers", "of", "strangers", ".", "In", "this", "paper", "we", "study", "patterns", "of", "information", "revelation", "in", "online", "social", "networks", "and", "their", "privacy", "implications", ".", "We", "analyze", "the", "online", "behavior", "of", "more", "than", "4,000", "Carnegie", "Mellon", "University", "students", "who", "have", "joined", "a", "popular", "social", "networking", "site", "catered", "to", "colleges", ".", "We", "evaluate", "the", "amount", "of", "information", "they", "disclose", "and", "study", "their", "usage", "of", "the", "site", "'s", "privacy", "settings", ".", "We", "highlight", "potential", "attacks", "on", "various", "aspects", "of", "their", "privacy", ",", "and", "we", "show", "that", "only", "a", "minimal", "percentage", "of", "users", "changes", "the", "highly", "permeable", "privacy", "preferences", ".", "K.", "4.1", "-LSB-", "Computer", "and", "Society", "-RSB-", ":", "Public", "Policy", "Issues-Privacy", "Human", "Factors", "In", "recent", "years", "online", "social", "networking", "has", "moved", "from", "niche", "phenomenon", "to", "mass", "adoption", ".", "Although", "the", "concept", "dates", "back", "to", "the", "1960s", "-LRB-", "with", "University", "of", "Illinois", "Plato", "computer-based", "education", "tool", ",", "see", "-LSB-", "16", "-RSB-", "-RRB-", ",", "viral", "growth", "and", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "WPES", "'", "05", ",", "November", "7", ",", "2005", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-228-3", "/", "05/0011", "...", "$", "5.00", ".", "commercial", "interest", "only", "arose", "well", "after", "the", "advent", "of", "the", "Internet", ".", "1", "The", "rapid", "increase", "in", "participation", "in", "very", "recent", "years", "has", "been", "accompanied", "by", "a", "progressive", "diversification", "and", "sophistication", "of", "purposes", "and", "usage", "patterns", "across", "a", "multitude", "of", "different", "sites", ".", "The", "Social", "Software", "Weblog", "2", "now", "groups", "hundreds", "of", "social", "networking", "sites", "in", "nine", "categories", ",", "including", "business", ",", "common", "interests", ",", "dating", ",", "face-to", "-", "face", "facilitation", ",", "friends", ",", "pets", ",", "and", "photos", ".", "While", "boundaries", "are", "blurred", ",", "most", "online", "networking", "sites", "share", "a", "core", "of", "features", ":", "through", "the", "site", "an", "individual", "offers", "a", "``", "profile", "''", "-", "a", "representation", "of", "their", "sel", "-LSB-", "ves", "-RSB-", "-LRB-", "and", ",", "often", ",", "of", "their", "own", "social", "networks", "-RRB-", "-", "to", "others", "to", "peruse", ",", "with", "the", "intention", "of", "contacting", "or", "being", "contacted", "by", "others", ",", "to", "meet", "new", "friends", "or", "dates", "-LRB-", "Friendster", ",", "3", "Orkut", "4", "-RRB-", ",", "find", "new", "jobs", "-LRB-", "LinkedIn", "5", "-RRB-", ",", "receive", "or", "provide", "recommendations", "-LRB-", "Tribe", "6", "-RRB-", ",", "and", "much", "more", ".", "It", "is", "not", "unusual", "for", "successful", "social", "networking", "sites", "to", "experience", "periods", "of", "viral", "growth", "with", "participation", "expanding", "at", "rates", "topping", "20", "%", "a", "month", ".", "Liu", "and", "Maes", "estimate", "in", "-LSB-", "18", "-RSB-", "that", "``", "well", "over", "a", "million", "self-descriptive", "personal", "profiles", "are", "available", "across", "different", "web-based", "social", "networks", "''", "in", "the", "United", "States", ",", "and", "Leonard", ",", "already", "in", "2004", ",", "reported", "in", "-LSB-", "16", "-RSB-", "that", "world-wide", "''", "-LSB-", "s", "-RSB-", "even", "million", "people", "have", "accounts", "on", "Friendster", ".", "-LSB-", "...", "-RSB-", "Two", "million", "are", "registered", "to", "MySpace", ".", "A", "whopping", "16", "million", "are", "supposed", "to", "have", "registered", "on", "Tickle", "for", "a", "chance", "to", "take", "a", "personality", "test", ".", "''", "The", "success", "of", "these", "sites", "has", "attracted", "the", "attention", "of", "the", "media", "-LRB-", "e.g.", ",", "-LSB-", "23", "-RSB-", ",", "-LSB-", "3", "-RSB-", ",", "-LSB-", "16", "-RSB-", ",", "-LSB-", "4", "-RSB-", ",", "-LSB-", "26", "-RSB-", "-RRB-", "and", "researchers", ".", "The", "latter", "have", "often", "built", "upon", "the", "existing", "literature", "on", "social", "network", "theory", "-LRB-", "e.g.", ",", "-LSB-", "20", "-RSB-", ",", "-LSB-", "21", "-RSB-", ",", "-LSB-", "11", "-RSB-", ",", "-LSB-", "12", "-RSB-", ",", "-LSB-", "32", "-RSB-", "-RRB-", "to", "discuss", "its", "online", "incarnations", ".", "In", "particular", ",", "-LSB-", "7", "-RSB-", "discusses", "issues", "of", "trust", "and", "intimacy", "in", "online", "networking", ";", "-LSB-", "9", "-RSB-", "and", "-LSB-", "8", "-RSB-", "focus", "on", "participants", "'", "strategic", "representation", "of", "their", "selves", "to", "others", ";", "and", "-LSB-", "18", "-RSB-", "focus", "on", "harvesting", "online", "social", "network", "profiles", "to", "obtain", "a", "distributed", "recommender", "system", ".", "In", "this", "paper", ",", "we", "focus", "on", "patterns", "of", "personal", "information", "revelation", "and", "privacy", "implications", "associated", "with", "online", "networking", ".", "Not", "only", "are", "the", "participation", "rates", "to", "online", "1", "One", "of", "the", "first", "networking", "sites", ",", "SixDegrees.com", ",", "was", "launched", "in", "1997", "but", "shut", "down", "in", "2000", "after", "``", "struggling", "to", "find", "a", "purpose", "for", "-LSB-", "its", "-RSB-", "concept", "''", "-LSB-", "5", "-RSB-", ".", "2", "Http://www.socialsoftware.weblogsinc.com/", ".", "3", "Http://www.friendster.com/", ".", "4", "Http://www.orkut.com/", ".", "5", "Http://www.linkedin.com/", ".", "6", "Http://www.tribe.net/", ".", "71", "social", "networking", "staggering", "among", "certain", "demographics", ";", "so", ",", "also", ",", "are", "the", "amount", "and", "type", "of", "information", "participants", "freely", "reveal", ".", "Category-based", "representations", "of", "a", "person", "'s", "broad", "interests", "are", "a", "recurrent", "feature", "across", "most", "networking", "sites", "-LSB-", "18", "-RSB-", ".", "Such", "categories", "may", "include", "indications", "of", "a", "person", "'s", "literary", "or", "entertainment", "interests", ",", "as", "well", "as", "political", "and", "sexual", "ones", ".", "In", "addition", ",", "personally", "identified", "or", "identifiable", "data", "-LRB-", "as", "well", "as", "contact", "information", "-RRB-", "are", "often", "provided", ",", "together", "with", "intimate", "portraits", "of", "a", "person", "'s", "social", "or", "inner", "life", ".", "Such", "apparent", "openness", "to", "reveal", "personal", "information", "to", "vast", "networks", "of", "loosely", "defined", "acquaintances", "and", "complete", "strangers", "calls", "for", "attention", ".", "We", "investigate", "information", "revelation", "behavior", "in", "online", "networking", "using", "actual", "field", "data", "about", "the", "usage", "and", "the", "inferred", "privacy", "preferences", "of", "more", "than", "4,000", "users", "of", "a", "site", "catered", "to", "college", "students", ",", "the", "Facebook", ".", "7", "Our", "results", "provide", "a", "preliminary", "but", "detailed", "picture", "of", "personal", "information", "revelation", "and", "privacy", "concerns", "-LRB-", "or", "lack", "thereof", "-RRB-", "in", "the", "wild", ",", "rather", "than", "as", "discerned", "through", "surveys", "and", "laboratory", "experiments", ".", "The", "remainder", "of", "this", "paper", "is", "organized", "as", "follows", ".", "We", "first", "elaborate", "on", "information", "revelation", "issues", "in", "online", "social", "networking", "in", "Section", "2", ".", "Next", ",", "we", "present", "the", "results", "of", "our", "data", "gathering", "in", "Section", "3", ".", "Then", ",", "we", "discuss", "their", "implications", "in", "terms", "of", "users", "attitudes", "and", "privacy", "risks", "in", "Section", "4", ".", "Finally", ",", "we", "summarize", "our", "findings", "and", "conclude", "in", "Section", "5", ".", "While", "social", "networking", "sites", "share", "the", "basic", "purpose", "of", "online", "interaction", "and", "communication", ",", "specific", "goals", "and", "patterns", "of", "usage", "vary", "significantly", "across", "different", "services", ".", "The", "most", "common", "model", "is", "based", "on", "the", "presentation", "of", "the", "participant", "'s", "profile", "and", "the", "visualization", "of", "her", "network", "of", "relations", "to", "others", "-", "such", "is", "the", "case", "of", "Friendster", ".", "This", "model", "can", "stretch", "towards", "different", "directions", ".", "In", "match-making", "sites", ",", "like", "Match.com", "8", "or", "Nerve", "9", "and", "Salon", "10", "Personals", ",", "the", "profile", "is", "critical", "and", "the", "network", "of", "relations", "is", "absent", ".", "In", "diary/online", "journal", "sites", "like", "LiveJournal", ",", "11", "profiles", "become", "secondary", ",", "networks", "may", "or", "may", "not", "be", "visible", ",", "while", "participants", "'", "online", "journal", "entries", "take", "a", "central", "role", ".", "Online", "social", "networking", "thus", "can", "morph", "into", "online", "classified", "in", "one", "direction", "and", "blogging", "in", "another", ".", "Patterns", "of", "personal", "information", "revelation", "are", ",", "therefore", ",", "quite", "variable", ".", "First", ",", "the", "pretense", "of", "identifiability", "changes", "across", "different", "types", "of", "sites", ".", "The", "use", "of", "real", "names", "to", "-LRB-", "re", "-RRB-", "present", "an", "account", "profile", "to", "the", "rest", "of", "the", "online", "community", "may", "be", "encouraged", "-LRB-", "through", "technical", "specifications", ",", "registration", "requirements", ",", "or", "social", "norms", "-RRB-", "in", "college", "websites", "like", "the", "Facebook", ",", "that", "aspire", "to", "connect", "participants", "'", "profiles", "to", "their", "public", "identities", ".", "The", "use", "of", "real", "names", "may", "be", "toler-ated", "but", "filtered", "in", "dating/connecting", "sites", "like", "Friendster", ",", "that", "create", "a", "thin", "shield", "of", "weak", "pseudonymity", "between", "the", "public", "identity", "of", "a", "person", "and", "her", "online", "persona", "by", "making", "only", "the", "first", "name", "of", "a", "participant", "visible", "to", "others", ",", "7", "Http://www.facebook.com/", ".", "8", "Http://www.match.com/", ".", "9", "Http://personals.nerve.com/", ".", "10", "Http://personals.salon.com/", ".", "11", "Http://www.livejournal.com/", ".", "and", "not", "her", "last", "name", ".", "Or", ",", "the", "use", "of", "real", "names", "and", "personal", "contact", "information", "could", "be", "openly", "discouraged", ",", "as", "in", "pseudonymous-based", "dating", "websites", "like", "Match.com", ",", "that", "attempt", "to", "protect", "the", "public", "identity", "of", "a", "person", "by", "making", "its", "linkage", "to", "the", "online", "persona", "more", "difficult", ".", "However", ",", "notwithstanding", "the", "different", "approaches", "to", "identifiability", ",", "most", "sites", "encourage", "the", "publication", "of", "personal", "and", "identifiable", "personal", "photos", "-LRB-", "such", "as", "clear", "shots", "of", "a", "person", "'s", "face", "-RRB-", ".", "Second", ",", "the", "type", "of", "information", "revealed", "or", "elicited", "often", "orbits", "around", "hobbies", "and", "interests", ",", "but", "can", "stride", "from", "there", "in", "different", "directions", ".", "These", "include", ":", "semi-public", "information", "such", "as", "current", "and", "previous", "schools", "and", "employers", "-LRB-", "as", "in", "Friendster", "-RRB-", ";", "private", "information", "such", "as", "drinking", "and", "drug", "habits", "and", "sexual", "preferences", "and", "orientation", "-LRB-", "as", "in", "Nerve", "Personals", "-RRB-", ";", "and", "open-ended", "entries", "-LRB-", "as", "in", "LiveJournal", "-RRB-", ".", "Third", ",", "visibility", "of", "information", "is", "highly", "variable", ".", "In", "certain", "sites", "-LRB-", "especially", "the", "ostensibly", "pseudonymous", "ones", "-RRB-", "any", "member", "may", "view", "any", "other", "member", "'s", "profile", ".", "On", "weaker-pseudonym", "sites", ",", "access", "to", "personal", "information", "may", "be", "limited", "to", "participants", "that", "are", "part", "of", "the", "direct", "or", "extended", "network", "of", "the", "profile", "owner", ".", "Such", "visibility", "tuning", "controls", "become", "even", "more", "refined", "on", "sites", "which", "make", "no", "pretense", "of", "pseudonymity", ",", "like", "the", "Facebook", ".", "And", "yet", ",", "across", "different", "sites", ",", "anecdotal", "evidence", "suggests", "that", "participants", "are", "happy", "to", "disclose", "as", "much", "information", "as", "possible", "to", "as", "many", "people", "as", "possible", ".", "It", "is", "not", "unusual", "to", "find", "profiles", "on", "sites", "like", "Friendster", "or", "Salon", "Personals", "that", "list", "their", "owners", "'", "personal", "email", "addresses", "-LRB-", "or", "link", "to", "their", "personal", "websites", "-RRB-", ",", "in", "violation", "of", "the", "recommendation", "or", "requirements", "of", "the", "hosting", "service", "itself", ".", "In", "the", "next", "sub-section", ",", "we", "resort", "to", "the", "theory", "of", "social", "networks", "to", "frame", "the", "analysis", "of", "such", "behavior", ",", "which", "we", "then", "investigate", "em-pirically", "in", "Section", "3", ".", "2.1", "Social", "Network", "Theory", "and", "Privacy", "The", "relation", "between", "privacy", "and", "a", "person", "'s", "social", "network", "is", "multi-faceted", ".", "In", "certain", "occasions", "we", "want", "information", "about", "ourselves", "to", "be", "known", "only", "by", "a", "small", "circle", "of", "close", "friends", ",", "and", "not", "by", "strangers", ".", "In", "other", "instances", ",", "we", "are", "willing", "to", "reveal", "personal", "information", "to", "anonymous", "strangers", ",", "but", "not", "to", "those", "who", "know", "us", "better", ".", "Social", "network", "theorists", "have", "discussed", "the", "relevance", "of", "relations", "of", "different", "depth", "and", "strength", "in", "a", "person", "'s", "social", "network", "-LRB-", "see", "-LSB-", "11", "-RSB-", ",", "-LSB-", "12", "-RSB-", "-RRB-", "and", "the", "importance", "of", "so-called", "weak", "ties", "in", "the", "flow", "of", "information", "across", "different", "nodes", "in", "a", "network", ".", "Network", "theory", "has", "also", "been", "used", "to", "explore", "how", "distant", "nodes", "can", "get", "interconnected", "through", "relatively", "few", "random", "ties", "-LRB-", "e.g.", ",", "-LSB-", "20", "-RSB-", ",", "-LSB-", "21", "-RSB-", ",", "-LSB-", "32", "-RSB-", "-RRB-", ".", "The", "privacy", "relevance", "of", "these", "arguments", "has", "recently", "been", "highlighted", "by", "Strahilevitz", "in", "-LSB-", "27", "-RSB-", ".", "Strahilevitz", "has", "proposed", "applying", "formal", "social", "network", "theory", "as", "a", "tool", "for", "aiding", "interpretation", "of", "privacy", "in", "legal", "cases", ".", "He", "suggests", "basing", "conclusions", "regarding", "privacy", "``", "on", "what", "the", "parties", "should", "have", "expected", "to", "follow", "the", "initial", "disclosure", "of", "information", "by", "someone", "other", "than", "the", "defen-dant", "''", "-LRB-", "op", "cit", ",", "p.", "57", "-RRB-", ".", "In", "other", "words", ",", "the", "consideration", "of", "how", "information", "is", "expected", "to", "flow", "from", "node", "to", "node", "in", "somebody", "'s", "social", "network", "should", "also", "inform", "that", "person", "'s", "expectations", "for", "privacy", "of", "information", "revealed", "in", "the", "network", ".", "However", ",", "the", "application", "of", "social", "network", "theory", "to", "the", "72", "study", "of", "information", "revelation", "-LRB-", "and", ",", "implicitly", ",", "privacy", "choices", "-RRB-", "in", "online", "social", "networks", "highlights", "significant", "differences", "between", "the", "offline", "and", "the", "online", "scenarios", ".", "First", ",", "offline", "social", "networks", "are", "made", "of", "ties", "that", "can", "only", "be", "loosely", "categorized", "as", "weak", "or", "strong", "ties", ",", "but", "in", "reality", "are", "extremely", "diverse", "in", "terms", "of", "how", "close", "and", "intimate", "a", "subject", "perceives", "a", "relation", "to", "be", ".", "Online", "social", "networks", ",", "on", "the", "other", "side", ",", "often", "reduce", "these", "nuanced", "connections", "to", "simplistic", "binary", "relations", ":", "``", "Friend", "or", "not", "''", "-LSB-", "8", "-RSB-", ".", "Observing", "online", "social", "networks", ",", "Danah", "Boyd", "notes", "that", "``", "there", "is", "no", "way", "to", "determine", "what", "metric", "was", "used", "or", "what", "the", "role", "or", "weight", "of", "the", "relationship", "is", ".", "While", "some", "people", "are", "willing", "to", "indicate", "anyone", "as", "Friends", ",", "and", "others", "stick", "to", "a", "conservative", "definition", ",", "most", "users", "tend", "to", "list", "anyone", "who", "they", "know", "and", "do", "not", "actively", "dislike", ".", "This", "often", "means", "that", "people", "are", "indicated", "as", "Friends", "even", "though", "the", "user", "does", "not", "particularly", "know", "or", "trust", "the", "person", "''", "-LSB-", "8", "-RSB-", "-LRB-", "p.", "2", "-RRB-", ".", "Second", ",", "while", "the", "number", "of", "strong", "ties", "that", "a", "person", "may", "maintain", "on", "a", "social", "networking", "site", "may", "not", "be", "significantly", "increased", "by", "online", "networking", "technology", ",", "Donath", "and", "Boyd", "note", "that", "``", "the", "number", "of", "weak", "ties", "one", "can", "form", "and", "maintain", "may", "be", "able", "to", "increase", "substantially", ",", "because", "the", "type", "of", "communication", "that", "can", "be", "done", "more", "cheaply", "and", "easily", "with", "new", "technology", "is", "well", "suited", "for", "these", "ties", "''", "-LSB-", "9", "-RSB-", "-LRB-", "p.", "80", "-RRB-", ".", "Third", ",", "while", "an", "offline", "social", "network", "may", "include", "up", "to", "a", "dozen", "of", "intimate", "or", "significant", "ties", "and", "1000", "to", "1700", "``", "ac-quaintances", "''", "or", "``", "interactions", "''", "-LRB-", "see", "-LSB-", "9", "-RSB-", "and", "-LSB-", "27", "-RSB-", "-RRB-", ",", "an", "online", "social", "networks", "can", "list", "hundreds", "of", "direct", "``", "friends", "''", "and", "include", "hundreds", "of", "thousands", "of", "additional", "friends", "within", "just", "three", "degrees", "of", "separation", "from", "a", "subject", ".", "This", "implies", "online", "social", "networks", "are", "both", "vaster", "and", "have", "more", "weaker", "ties", ",", "on", "average", ",", "than", "offline", "social", "networks", ".", "In", "other", "words", ",", "thousands", "of", "users", "may", "be", "classified", "as", "friends", "of", "friends", "of", "an", "individual", "and", "become", "able", "to", "access", "her", "personal", "information", ",", "while", ",", "at", "the", "same", "time", ",", "the", "threshold", "to", "qualify", "as", "friend", "on", "somebody", "'s", "network", "is", "low", ".", "This", "may", "make", "the", "online", "social", "network", "only", "an", "imaginary", "-LRB-", "or", ",", "to", "borrow", "Anderson", "'s", "terminology", ",", "an", "imagined", "-RRB-", "community", "-LRB-", "see", "-LSB-", "2", "-RSB-", "-RRB-", ".", "Hence", ",", "trust", "in", "and", "within", "online", "social", "networks", "may", "be", "assigned", "differently", "and", "have", "a", "different", "meaning", "than", "in", "their", "offline", "counterparts", ".", "Online", "social", "networks", "are", "also", "more", "levelled", ",", "in", "that", "the", "same", "information", "is", "provided", "to", "larger", "amounts", "of", "friends", "connected", "to", "the", "subject", "through", "ties", "of", "different", "strength", ".", "And", "here", "lies", "a", "paradox", ".", "While", "privacy", "may", "be", "considered", "conducive", "to", "and", "necessary", "for", "intimacy", "-LRB-", "for", "-LSB-", "10", "-RSB-", ",", "intimacy", "resides", "in", "selectively", "revealing", "private", "information", "to", "certain", "individuals", ",", "but", "not", "to", "others", "-RRB-", ",", "trust", "may", "decrease", "within", "an", "online", "social", "network", ".", "At", "the", "same", "time", ",", "a", "new", "form", "of", "intimacy", "becomes", "widespread", ":", "the", "sharing", "of", "personal", "information", "with", "large", "and", "potential", "unknown", "numbers", "of", "friends", "and", "strangers", "altogether", ".", "The", "ability", "to", "meaningfully", "interact", "with", "others", "is", "mildly", "augmented", ",", "while", "the", "ability", "of", "others", "to", "access", "the", "person", "is", "significantly", "enlarged", ".", "It", "remains", "to", "be", "investigated", "how", "similar", "or", "different", "are", "the", "mental", "models", "people", "apply", "to", "personal", "information", "revelation", "within", "a", "traditional", "network", "of", "friends", "compared", "to", "those", "that", "are", "applied", "in", "an", "online", "network", ".", "2.2", "Privacy", "Implications", "Privacy", "implications", "associated", "with", "online", "social", "networking", "depend", "on", "the", "level", "of", "identifiability", "of", "the", "information", "provided", ",", "its", "possible", "recipients", ",", "and", "its", "possible", "uses", ".", "Even", "social", "networking", "websites", "that", "do", "not", "openly", "expose", "their", "users", "'", "identities", "may", "provide", "enough", "information", "to", "identify", "the", "profile", "'s", "owner", ".", "This", "may", "happen", ",", "for", "example", ",", "through", "face", "re-identification", "-LSB-", "13", "-RSB-", ".", "Liu", "and", "Maes", "estimate", "in", "-LSB-", "18", "-RSB-", "a", "15", "%", "overlap", "in", "2", "of", "the", "major", "social", "networking", "sites", "they", "studied", ".", "Since", "users", "often", "re-use", "the", "same", "or", "similar", "photos", "across", "different", "sites", ",", "an", "identified", "face", "can", "be", "used", "to", "identify", "a", "pseudonym", "profile", "with", "the", "same", "or", "similar", "face", "on", "another", "site", ".", "Similar", "re-identifications", "are", "possible", "through", "demographic", "data", ",", "but", "also", "through", "category-based", "representations", "of", "interests", "that", "reveal", "unique", "or", "rare", "overlaps", "of", "hobbies", "or", "tastes", ".", "We", "note", "that", "information", "revelation", "can", "work", "in", "two", "ways", ":", "by", "allowing", "another", "party", "to", "identify", "a", "pseudonymous", "profile", "through", "previous", "knowledge", "of", "a", "sub-ject", "'s", "characteristics", "or", "traits", ";", "or", "by", "allowing", "another", "party", "to", "infer", "previously", "unknown", "characteristics", "or", "traits", "about", "a", "subject", "identified", "on", "a", "certain", "site", ".", "We", "present", "evaluations", "of", "the", "probabilities", "of", "success", "of", "these", "attacks", "on", "users", "of", "a", "specific", "networking", "site", "in", "Section", "4", ".", "To", "whom", "may", "identifiable", "information", "be", "made", "available", "?", "First", "of", "all", ",", "of", "course", ",", "the", "hosting", "site", ",", "that", "may", "use", "and", "extend", "the", "information", "-LRB-", "both", "knowingly", "and", "unknowingly", "revealed", "by", "the", "participant", "-RRB-", "in", "different", "ways", "-LRB-", "below", "we", "discuss", "extracts", "from", "the", "privacy", "policy", "of", "a", "social", "networking", "site", "that", "are", "relevant", "to", "this", "discussion", "-RRB-", ".", "Obviously", ",", "the", "information", "is", "available", "within", "the", "network", "itself", ",", "whose", "extension", "in", "time", "-LRB-", "that", "is", ",", "data", "durability", "-RRB-", "and", "space", "-LRB-", "that", "is", ",", "membership", "extension", "-RRB-", "may", "not", "be", "fully", "known", "or", "knowable", "by", "the", "participant", ".", "Finally", ",", "the", "easiness", "of", "joining", "and", "extending", "one", "'s", "network", ",", "and", "the", "lack", "of", "basic", "security", "measures", "-LRB-", "such", "as", "SSL", "logins", "-RRB-", "at", "most", "networking", "sites", "make", "it", "easy", "for", "third", "parties", "-LRB-", "from", "hackers", "to", "government", "agencies", "-RRB-", "to", "access", "participants", "data", "without", "the", "site", "'s", "direct", "collaboration", "-LRB-", "already", "in", "2003", ",", "LiveJournal", "used", "to", "receive", "at", "least", "five", "reports", "of", "ID", "hijacking", "per", "day", ",", "-LSB-", "23", "-RSB-", "-RRB-", ".", "How", "can", "that", "information", "be", "used", "?", "It", "depends", "on", "the", "information", "actually", "provided", "-", "which", "may", ",", "in", "certain", "cases", ",", "be", "very", "extensive", "and", "intimate", ".", "Risks", "range", "from", "identity", "theft", "to", "online", "and", "physical", "stalking", ";", "from", "embarrassment", "to", "price", "discrimination", "and", "blackmailing", ".", "Yet", ",", "there", "are", "some", "who", "believe", "that", "social", "networking", "sites", "can", "also", "offer", "the", "solution", "to", "online", "privacy", "problems", ".", "In", "an", "interview", ",", "Tribe.net", "CEO", "Mark", "Pincus", "noted", "that", "''", "-LSB-", "s", "-RSB-", "ocial", "networking", "has", "the", "potential", "to", "create", "an", "intelligent", "order", "in", "the", "current", "chaos", "by", "letting", "you", "manage", "how", "public", "you", "make", "yourself", "and", "why", "and", "who", "can", "contact", "you", ".", "''", "-LSB-", "4", "-RSB-", ".", "We", "test", "this", "position", "in", "Section", "4", ".", "While", "privacy", "may", "be", "at", "risk", "in", "social", "networking", "sites", ",", "information", "is", "willingly", "provided", ".", "Different", "factors", "are", "likely", "to", "drive", "information", "revelation", "in", "online", "social", "networks", ".", "The", "list", "includes", "signalling", "-LRB-", "as", "discussed", "in", "-LSB-", "9", "-RSB-", "-RRB-", ",", "because", "the", "perceived", "benefit", "of", "selectively", "revealing", "data", "to", "strangers", "may", "appear", "larger", "than", "the", "perceived", "costs", "of", "possible", "privacy", "invasions", ";", "peer", "pressure", "and", "herding", "behavior", ";", "relaxed", "attitudes", "towards", "-LRB-", "or", "lack", "of", "interest", "in", "-RRB-", "personal", "privacy", ";", "incomplete", "information", "-LRB-", "about", "the", "possible", "privacy", "implications", "of", "information", "revelation", "-RRB-", ";", "faith", "in", "the", "networking", "service", "or", "trust", "in", "its", "members", ";", "myopic", "evaluation", "of", "privacy", "risks", "-LRB-", "see", "-LSB-", "1", "-RSB-", "-RRB-", ";", "or", "also", "the", "service", "'s", "own", "user", "interface", ",", "that", "may", "drive", "the", "unchallenged", "acceptance", "of", "permeable", "default", "privacy", "settings", ".", "We", "do", "not", "attempt", "to", "ascertain", "the", "relative", "impact", "of", "73", "different", "drivers", "in", "this", "paper", ".", "However", ",", "in", "the", "following", "sections", "we", "present", "data", "on", "actual", "behavioral", "patterns", "of", "information", "revelation", "and", "inferred", "privacy", "attitudes", "in", "a", "college-targeted", "networking", "site", ".", "This", "investigation", "offers", "a", "starting", "point", "for", "subsequent", "analysis", "of", "the", "motivations", "behind", "observed", "behaviors", ".", "Many", "users", "of", "social", "networking", "sites", "are", "of", "college", "age", "-LSB-", "8", "-RSB-", ",", "and", "recent", "ventures", "have", "started", "explicitly", "catering", "to", "the", "college", "crowd", "and", ",", "in", "some", "cases", ",", "to", "specific", "colleges", "-LRB-", "e.g.", ",", "the", "Facebook.com", ",", "but", "also", "Universitysingles.ca", ",", "quad5.com", ",", "CampusNetwork.com", ",", "iVentster.com", ",", "and", "others", "-RRB-", ".", "College-oriented", "social", "networking", "sites", "provide", "opportunities", "to", "combine", "online", "and", "face-to-face", "interactions", "within", "an", "ostensibly", "bounded", "domain", ".", "This", "makes", "them", "different", "from", "traditional", "networking", "sites", ":", "they", "are", "communities", "based", "``", "on", "a", "shared", "real", "space", "''", "-LSB-", "26", "-RSB-", ".", "This", "combination", "may", "explain", "the", "explosive", "growth", "of", "some", "of", "these", "services", "-LRB-", "according", "to", "-LSB-", "26", "-RSB-", ",", "the", "Facebook", "has", "spread", "``", "to", "573", "campuses", "and", "2.4", "million", "users", ".", "-LSB-", "...", "-RSB-", "-LSB-", "I", "-RSB-", "t", "typically", "attracts", "80", "percent", "of", "a", "school", "'s", "undergraduate", "population", "as", "well", "as", "a", "smattering", "of", "graduate", "students", ",", "faculty", "members", ",", "and", "recent", "alumni", ".", "''", "-RRB-", "Also", "because", "of", "this", ",", "college-oriented", "networks", "offer", "a", "wealth", "of", "personal", "data", "of", "potentially", "great", "value", "to", "external", "observers", "-LRB-", "as", "reported", "by", "-LSB-", "6", "-RSB-", ",", "for", "example", ",", "the", "Pentagon", "manages", "a", "database", "of", "16-to-25-year-old", "US", "youth", "data", ",", "containing", "around", "30", "million", "records", ",", "and", "continuously", "merged", "with", "other", "data", "for", "focused", "marketing", "-RRB-", ".", "Since", "many", "of", "these", "sites", "require", "a", "college", "'s", "email", "account", "for", "a", "participant", "to", "be", "admitted", "to", "the", "online", "social", "network", "of", "that", "college", ",", "expectations", "of", "validity", "of", "certain", "personal", "information", "provided", "by", "others", "on", "the", "network", "may", "increase", ".", "Together", "with", "the", "apparent", "sharing", "of", "a", "physical", "environment", "with", "other", "members", "of", "the", "network", ",", "that", "expectation", "may", "increase", "the", "sense", "of", "trust", "and", "intimacy", "across", "the", "online", "community", ".", "And", "yet", ",", "since", "these", "services", "can", "be", "easily", "accessed", "by", "outsiders", "-LRB-", "see", "Section", "4", "-RRB-", "and", "since", "members", "can", "hardly", "control", "the", "expansion", "of", "their", "own", "network", "-LRB-", "often", ",", "a", "member", "'s", "network", "increases", "also", "through", "the", "activity", "of", "other", "members", "-RRB-", ",", "such", "communities", "turn", "out", "to", "be", "more", "imagined", "than", "real", ",", "and", "privacy", "expectations", "may", "not", "be", "matched", "by", "privacy", "reality", ".", "The", "characteristics", "mentioned", "above", "make", "college-oriented", "networking", "sites", "intriguing", "candidates", "for", "our", "study", "of", "information", "revelation", "and", "privacy", "preferences", ".", "In", "the", "rest", "of", "this", "paper", "we", "analyze", "data", "gathered", "from", "the", "network", "of", "Carnegie", "Mellon", "University", "-LRB-", "CMU", "-RRB-", "students", "enlisted", "on", "one", "of", "such", "sites", ",", "the", "Facebook", ".", "The", "Facebook", "has", "gained", "huge", "adoption", "within", "the", "CMU", "student", "community", "but", "is", "present", "with", "similar", "success", "at", "many", "other", "colleges", "nationwide", ".", "It", "validates", "CMU-specific", "network", "accounts", "by", "requiring", "the", "use", "of", "CMU", "email", "addresses", "for", "registration", "and", "login", ".", "Its", "interface", "grants", "participants", "very", "granular", "control", "on", "the", "searchability", "and", "visibility", "of", "their", "personal", "information", "-LRB-", "by", "friend", "or", "location", ",", "by", "type", "of", "user", ",", "and", "by", "type", "of", "data", "-RRB-", ".", "The", "default", "settings", ",", "however", ",", "are", "set", "to", "make", "the", "participants", "profile", "searchable", "by", "anybody", "else", "in", "any", "school", "in", "the", "Facebook", "network", ",", "and", "make", "its", "actual", "content", "visible", "to", "any", "other", "user", "at", "the", "same", "college", "or", "at", "another", "college", "in", "the", "same", "physical", "location", ".", "12", "12", "At", "the", "time", "of", "writing", ",", "the", "geography", "feature", "which", "gen-17", "18", "19", "20", "21", "22", "23", "24", "25", "26", "27", "28", "29", "30", "31", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Age", "Percentage", "of", "Profiles", "Male", "Female", "Figure", "1", ":", "Age", "distribution", "of", "Facebook", "profiles", "at", "CMU", ".", "The", "majority", "of", "users", "-LRB-", "95.6", "%", "-RRB-", "falls", "into", "the", "18-24", "age", "bracket", ".", "The", "Facebook", "is", "straightforward", "about", "the", "usage", "it", "plans", "for", "the", "participants", "'", "personal", "information", ":", "at", "the", "time", "of", "this", "writing", ",", "its", "privacy", "policy", "-LSB-", "30", "-RSB-", "reports", "that", "the", "site", "will", "collect", "additional", "information", "about", "its", "users", "-LRB-", "for", "instance", ",", "from", "instant", "messaging", "-RRB-", ",", "not", "originated", "from", "the", "use", "of", "the", "service", "itself", ".", "The", "policy", "also", "reports", "that", "participants", "'", "information", "may", "include", "information", "that", "the", "participant", "has", "not", "knowingly", "provided", "-LRB-", "for", "example", ",", "her", "IP", "address", "-RRB-", ",", "and", "that", "personal", "data", "may", "be", "shared", "with", "third", "parties", ".", "3.1", "Access", "Tools", "In", "June", "2005", ",", "we", "separately", "searched", "for", "all", "``", "female", "''", "and", "all", "``", "male", "''", "profiles", "for", "CMU", "Facebook", "members", "using", "the", "website", "'s", "advanced", "search", "feature", "and", "extracted", "their", "profile", "IDs", ".", "Using", "these", "IDs", "we", "then", "downloaded", "a", "total", "of", "4540", "profiles", "-", "virtually", "the", "entire", "CMU", "Facebook", "population", "at", "the", "time", "of", "the", "study", ".", "3.2", "Demographics", "The", "majority", "of", "users", "of", "the", "Facebook", "at", "CMU", "are", "undergraduate", "students", "-LRB-", "3345", "or", "73.7", "%", "of", "all", "profiles", ";", "see", "Table", "1", "-RRB-", ".", "This", "corresponds", "to", "62.1", "%", "of", "the", "total", "undergraduate", "population", "at", "CMU", "-LSB-", "31", "-RSB-", ".", "Graduate", "students", ",", "staff", "and", "faculty", "are", "represented", "to", "a", "much", "lesser", "extent", "-LRB-", "6.3", "%", ",", "1.3", "%", ",", "and", "1.5", "%", "of", "the", "CMU", "population", ",", "respectively", "-RRB-", ".", "The", "majority", "of", "users", "is", "male", "-LRB-", "60.4", "%", "vs.", "39.2", "%", "-RRB-", ".", "Table", "2", "shows", "the", "gender", "distribution", "for", "the", "different", "user", "categories", ".", "The", "strong", "dominance", "of", "undergraduate", "users", "is", "also", "reflected", "in", "the", "user", "age", "distribution", "shown", "in", "Figure", "1", ".", "The", "vast", "majority", "of", "users", "-LRB-", "95.6", "%", "-RRB-", "falls", "in", "the", "18-24", "age", "bracket", ".", "Overall", "the", "average", "age", "is", "21.04", "years", ".", "erates", "networks", "based", "on", "physical", "location", "is", "by", "default", "not", "available", "to", "undergraduate", "students", ".", "However", ",", "the", "status", "of", "a", "profile", "can", "easily", "be", "changed", "to", "e.g.", "``", "graduate", "student", "''", "for", "which", "the", "feature", "is", "accessible", ".", "74", "Table", "1", ":", "Distribution", "of", "CMU", "Facebook", "profiles", "for", "different", "user", "categories", ".", "The", "majority", "of", "users", "are", "undergraduate", "students", ".", "The", "table", "lists", "the", "percentage", "of", "the", "CMU", "population", "-LRB-", "for", "each", "category", "-RRB-", "that", "are", "users", "of", "the", "Facebook", "-LRB-", "if", "available", "-RRB-", ".", "#", "Profiles", "%", "of", "Facebook", "Profiles", "%", "of", "CMU", "Population", "Undergraduate", "Students", "3345", "74.6", "62.1", "Alumni", "853", "18.8", "Graduate", "Students", "270", "5.9", "6.3", "Staff", "35", "0.8", "1.3", "Faculty", "17", "0.4", "1.5", "Table", "2", ":", "Gender", "distribution", "for", "different", "user", "categories", ".", "#", "Profiles", "%", "of", "Category", "%", "of", "CMU", "Population", "Male", "2742", "60.4", "Overall", "Female", "1781", "39.2", "Male", "2025", "60.5", "62.0", "Undergraduate", "Students", "Female", "1320", "39.5", "62.3", "Male", "484", "56.7", "Alumni", "Female", "369", "43.3", "Male", "191", "70.7", "6.3", "Graduate", "Students", "Female", "79", "29.3", "6.3", "Male", "23", "65.7", "Staff", "Female", "12", "34.3", "Male", "17", "100", "3.4", "Faculty", "Female", "0", "0.0", "0.0", "3.3", "Types", "and", "Amount", "of", "Information", "Disclosed", "The", "Facebook", "offers", "users", "the", "ability", "to", "disclose", "a", "large", "and", "varied", "amount", "of", "personal", "information", ".", "We", "evaluated", "to", "which", "extent", "users", "at", "CMU", "provide", "personal", "information", ".", "Figure", "2", "shows", "the", "percentages", "of", "CMU", "profiles", "that", "disclose", "different", "categories", "of", "information", ".", "In", "general", ",", "CMU", "users", "of", "the", "Facebook", "provide", "an", "astonishing", "amount", "of", "information", ":", "90.8", "%", "of", "profiles", "contain", "an", "image", ",", "87.8", "%", "of", "users", "reveal", "their", "birth", "date", ",", "39.9", "%", "list", "a", "phone", "number", "-LRB-", "including", "28.8", "%", "of", "profiles", "that", "contain", "a", "cellphone", "number", "-RRB-", ",", "and", "50.8", "%", "list", "their", "current", "residence", ".", "The", "majority", "of", "users", "also", "disclose", "their", "dating", "preferences", "-LRB-", "male", "or", "female", "-RRB-", ",", "current", "relationship", "status", "-LRB-", "single", ",", "married", ",", "or", "in", "a", "relationship", "-RRB-", ",", "political", "views", "-LRB-", "from", "``", "very", "liberal", "''", "to", "``", "very", "conservative", "''", "-RRB-", ",", "and", "various", "interests", "-LRB-", "including", "music", ",", "books", ",", "and", "movies", "-RRB-", ".", "A", "large", "percentage", "of", "users", "-LRB-", "62.9", "%", "-RRB-", "that", "list", "a", "relationship", "status", "other", "than", "single", "even", "identify", "their", "partner", "by", "name", "and/or", "link", "to", "their", "Facebook", "profile", ".", "Note", "that", ",", "as", "further", "discussed", "below", "in", "Section", "3.4", ",", "Facebook", "profiles", "tend", "to", "be", "fully", "identified", "with", "each", "participant", "'s", "real", "first", "and", "last", "names", ",", "both", "of", "which", "are", "used", "as", "the", "profile", "'s", "name", ".", "In", "other", "words", ",", "whoever", "views", "a", "profile", "is", "also", "able", "to", "connect", "the", "real", "first", "and", "last", "name", "of", "a", "person", "to", "the", "personal", "information", "provided", "-", "that", "may", "include", "birthday", "or", "current", "residence", ".", "Across", "most", "categories", ",", "the", "amount", "of", "information", "revealed", "by", "female", "and", "male", "users", "is", "very", "similar", ".", "A", "notable", "exception", "is", "the", "phone", "number", ",", "disclosed", "by", "substantially", "more", "male", "than", "female", "users", "-LRB-", "47.1", "%", "vs.", "28.9", "%", "-RRB-", ".", "Single", "male", "users", "tend", "to", "report", "their", "phone", "numbers", "in", "even", "higher", "frequencies", ",", "thereby", "possibly", "signalling", "their", "elevated", "interest", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "Summer", "Job", "Favorite", "Movies", "Favorite", "Books", "Favorite", "Music", "Interests", "Political", "Preference", "Relationship", "Partner", "Relationship", "Status", "Dating", "Interests", "Highschool", "AIM", "Screenname", "Phone", "Address", "Home", "Town", "Birthday", "Profile", "Image", "Percentage", "of", "Profiles", "Figure", "2", ":", "Percentages", "of", "CMU", "profiles", "revealing", "various", "types", "of", "personal", "information", ".", "in", "making", "a", "maximum", "amount", "of", "contact", "information", "easily", "available", ".", "Additional", "types", "of", "information", "disclosed", "by", "Facebook", "users", "-LRB-", "such", "as", "the", "membership", "of", "one", "'s", "own", "network", "of", "friends", "at", "the", "home", "college", "or", "elsewhere", ",", "last", "login", "information", ",", "class", "schedule", ",", "and", "others", "-RRB-", "are", "discussed", "in", "the", "rest", "of", "this", "paper", ".", "3.4", "Data", "Validity", "and", "Data", "Identifiability", "The", "terms", "of", "service", "of", "the", "site", "encourage", "users", "to", "only", "publish", "profiles", "that", "directly", "relate", "to", "them", "and", "not", "to", "other", "75", "entities", ",", "people", "or", "fictional", "characters", ".", "In", "addition", ",", "in", "order", "to", "sign", "up", "with", "the", "Facebook", "a", "valid", "email", "address", "of", "one", "of", "the", "more", "than", "500", "academic", "institutions", "that", "the", "site", "covers", "has", "to", "be", "provided", ".", "This", "requirement", ",", "along", "with", "the", "site", "'s", "mission", "of", "organizing", "the", "real", "life", "social", "networks", "of", "their", "members", ",", "provides", "incentives", "for", "users", "to", "only", "publish", "accurate", "information", ".", "We", "tested", "how", "valid", "the", "published", "data", "appears", "to", "be", ".", "In", "addition", ",", "we", "studied", "how", "identifiable", "or", "granular", "the", "provided", "data", "is", ".", "In", "general", ",", "determining", "the", "accuracy", "of", "the", "information", "provided", "by", "users", "on", "the", "Facebook", "-LRB-", "or", "any", "other", "social", "networking", "website", "-RRB-", "is", "nontrivial", "for", "all", "but", "selected", "individual", "cases", ".", "We", "therefore", "restrict", "our", "validity", "evaluation", "to", "the", "measurement", "of", "the", "manually", "determined", "perceived", "accuracy", "of", "information", "on", "a", "randomly", "selected", "subset", "of", "100", "profiles", ".", "3.4.1", "Profile", "Names", "We", "manually", "categorized", "the", "names", "given", "on", "Facebook", "profiles", "as", "being", "one", "of", "the", "the", "following", ":", "1", ".", "Real", "Name", "Name", "appears", "to", "be", "real", ".", "2", ".", "Partial", "Name", "Only", "a", "first", "name", "is", "given", ".", "3", ".", "Fake", "Name", "Obviously", "fake", "name", ".", "Table", "3", "shows", "the", "results", "of", "the", "evaluation", ".", "We", "found", "89", "%", "of", "all", "names", "to", "be", "realistic", "and", "likely", "the", "true", "names", "for", "the", "users", "-LRB-", "for", "example", ",", "can", "be", "matched", "to", "the", "visible", "CMU", "email", "address", "provided", "as", "login", "-RRB-", ",", "with", "only", "8", "%", "of", "names", "obviously", "fake", ".", "The", "percentage", "of", "people", "that", "choose", "to", "only", "disclose", "their", "first", "name", "was", "very", "small", ":", "3", "%", ".", "Table", "3", ":", "Categorization", "of", "name", "quality", "of", "a", "random", "subset", "of", "100", "profile", "names", "from", "the", "Facebook", ".", "The", "vast", "majority", "of", "names", "appear", "to", "be", "real", "names", "with", "only", "a", "very", "small", "percentage", "of", "partial", "or", "obviously", "fake", "names", ".", "Category", "Percentage", "Facebook", "Profiles", "Real", "Name", "89", "%", "Partial", "Name", "3", "%", "Fake", "Name", "8", "%", "In", "other", "words", ",", "the", "vast", "majority", "of", "Facebook", "users", "seem", "to", "provide", "their", "fully", "identifiable", "names", ",", "although", "they", "are", "not", "forced", "to", "do", "so", "by", "the", "site", "itself", ".", "As", "comparison", ",", "98.5", "%", "of", "the", "profiles", "that", "include", "a", "birthday", "actually", "report", "the", "fully", "identified", "birth", "date", "-LRB-", "day", ",", "month", ",", "and", "year", "-RRB-", ",", "although", ",", "again", ",", "users", "are", "not", "forced", "to", "provide", "the", "complete", "information", "-LRB-", "the", "remaining", "1.5", "%", "of", "users", "reported", "only", "the", "month", "or", "the", "month", "and", "day", "but", "not", "the", "year", "of", "birth", "-RRB-", ".", "Assessing", "the", "validity", "of", "birth", "dates", "is", "not", "trivial", ".", "However", ",", "in", "certain", "instances", "we", "observed", "friends", "posting", "birthday", "wishes", "in", "the", "comments", "section", "of", "the", "profile", "of", "a", "user", "on", "the", "day", "that", "had", "been", "reported", "by", "the", "user", "as", "her", "birthday", ".", "In", "addition", ",", "the", "incentives", "to", "provide", "a", "fake", "birth", "date", "-LRB-", "rather", "than", "not", "providing", "one", "at", "all", ",", "which", "is", "permitted", "by", "the", "system", "-RRB-", "would", "be", "unclear", ".", "3.4.2", "Identifiability", "of", "Images", "on", "Profile", "The", "vast", "majority", "of", "profiles", "contain", "an", "image", "-LRB-", "90.8", "%", ",", "see", "Section", "3.3", "-RRB-", ".", "While", "there", "is", "no", "explicit", "requirement", "to", "provide", "a", "facial", "image", ",", "the", "majority", "of", "users", "do", "so", ".", "In", "order", "to", "assess", "the", "quality", "of", "the", "images", "provided", "we", "manually", "labelled", "them", "into", "one", "of", "four", "categories", ":", "1", ".", "Identifiable", "Image", "quality", "is", "good", "enough", "to", "enable", "person", "recognition", ".", "2", ".", "Semi-Identifiable", "The", "profile", "image", "shows", "a", "person", ",", "but", "due", "to", "the", "image", "composition", "or", "face", "pose", "the", "person", "is", "not", "directly", "recognizable", ".", "Other", "aspects", "however", "-LRB-", "e.g.", "hair", "color", ",", "body", "shape", ",", "etc.", "-RRB-", "are", "visible", ".", "3", ".", "Group", "Image", "The", "image", "contains", "more", "than", "one", "face", "and", "no", "other", "profile", "information", "-LRB-", "e.g.", "gender", "-RRB-", "can", "be", "used", "to", "identify", "the", "user", "in", "the", "image", ".", "4", ".", "Joke", "Image", "Images", "clearly", "not", "related", "to", "a", "person", "-LRB-", "e.g.", "cartoon", "or", "celebrity", "image", "-RRB-", ".", "Table", "4", "shows", "the", "results", "of", "labelling", "the", "profile", "images", "into", "the", "four", "categories", ".", "In", "the", "majority", "of", "profiles", "the", "images", "are", "suitable", "for", "direct", "identification", "-LRB-", "61", "%", "-RRB-", ".", "Overall", ",", "80", "%", "of", "images", "contain", "at", "least", "some", "information", "useful", "for", "identification", ".", "Only", "a", "small", "subset", "of", "12", "%", "of", "all", "images", "are", "clearly", "not", "related", "to", "the", "profile", "user", ".", "We", "repeated", "the", "same", "evaluation", "using", "100", "randomly", "chosen", "images", "from", "Friendster", ",", "where", "the", "profile", "name", "is", "only", "the", "first", "name", "of", "the", "member", "-LRB-", "which", "makes", "Friendster", "profiles", "not", "as", "identifiable", "as", "Facebook", "ones", "-RRB-", ".", "Here", "the", "percentage", "of", "``", "joke", "images", "''", "is", "much", "higher", "-LRB-", "23", "%", "-RRB-", "and", "the", "percentage", "of", "images", "suitable", "for", "direct", "identification", "lower", "-LRB-", "55", "%", "-RRB-", ".", "13", "3.4.3", "Friends", "Networks", "The", "Facebook", "helps", "in", "organizing", "a", "real-life", "social", "network", "online", ".", "Since", "Facebook", "users", "interact", "with", "many", "of", "the", "other", "users", "directly", "in", "real-life", ",", "often", "on", "a", "daily", "basis", ",", "the", "network", "of", "friends", "may", "function", "as", "profile", "fact", "checker", ",", "potentially", "triggering", "questions", "about", "obviously", "erroneous", "information", ".", "Facebook", "users", "typically", "maintain", "a", "very", "large", "network", "of", "friends", ".", "On", "average", ",", "CMU", "Facebook", "users", "list", "78.2", "friends", "at", "CMU", "and", "54.9", "friends", "at", "other", "schools", ".", "76.6", "%", "of", "users", "have", "25", "or", "more", "CMU", "friends", ",", "whereas", "68.6", "%", "of", "profiles", "show", "25", "or", "more", "non-CMU", "friends", ".", "See", "Figure", "3", "for", "histogram", "plots", "of", "the", "distribution", "of", "sizes", "of", "the", "networks", "for", "friends", "at", "CMU", "and", "elsewhere", ".", "This", "represents", "some", "effort", ",", "since", "adding", "a", "friend", "requires", "explicit", "confirmation", ".", "3.5", "Data", "Visibility", "and", "Privacy", "Preferences", "For", "any", "user", "of", "the", "Facebook", ",", "other", "users", "fall", "into", "four", "different", "categories", ":", "friends", ",", "friends", "of", "friends", ",", "non-friend", "users", "13", "We", "note", "that", "Friendster", "'s", "profiles", "used", "to", "be", "populated", "by", "numerous", "fake", "and/or", "humorous", "profiles", ",", "also", "called", "``", "Fakesters", "''", "-LRB-", "see", "-LSB-", "8", "-RSB-", "-RRB-", ".", "Friendster", "management", "tried", "to", "eliminate", "fake", "profiles", "and", "succeeded", "in", "significantly", "reducing", "their", "number", ",", "but", "not", "completely", "extirpating", "them", "from", "the", "network", ".", "Based", "on", "our", "manual", "calculations", ",", "the", "share", "of", "fake", "Friendster", "profiles", "is", "currently", "comparable", "to", "the", "share", "of", "fake", "Facebook", "profiles", "reported", "above", ".", "76", "Table", "4", ":", "Categorization", "of", "user", "identifiability", "based", "on", "manual", "evaluation", "of", "a", "randomly", "selected", "subset", "of", "100", "images", "from", "both", "Facebook", "and", "Friendster", "profiles", ".", "Images", "provided", "on", "Facebook", "profiles", "are", "in", "the", "majority", "of", "cases", "suitable", "for", "direct", "identification", "-LRB-", "61", "%", "-RRB-", ".", "The", "percentage", "of", "images", "obviously", "unrelated", "to", "a", "person", "-LRB-", "``", "joke", "image", "''", "-RRB-", "is", "much", "lower", "for", "Facebook", "images", "in", "comparison", "to", "images", "on", "Friendster", "profiles", "-LRB-", "12", "%", "vs.", "23", "%", "-RRB-", ".", "Category", "Percentage", "Facebook", "Profiles", "Percentage", "Friendster", "Profiles", "Identifiable", "61", "%", "55", "%", "Semi-Identifiable", "19", "%", "15", "%", "Group", "Image", "8", "%", "6", "%", "Joke", "Image", "12", "%", "23", "%", "0", "20", "40", "60", "80", "100", "120", "140", "160", "0", "0.05", "0.1", "Percentage", "of", "Profiles", "Number", "of", "CMU", "Friends", "Listed", "0", "20", "40", "60", "80", "100", "120", "140", "160", "0", "0.05", "0.1", "Percentage", "of", "Profiles", "Number", "of", "Non-CMU", "Friends", "Listed", "-LRB-", "a", "-RRB-", "Network", "of", "CMU", "friends", "-LRB-", "b", "-RRB-", "Network", "of", "Non-CMU", "friends", "Figure", "3", ":", "Histogram", "of", "the", "size", "of", "networks", "for", "both", "CMU", "friends", "-LRB-", "a", "-RRB-", "and", "non-CMU", "friends", "-LRB-", "b", "-RRB-", ".", "Users", "maintain", "large", "networks", "of", "friends", "with", "the", "average", "user", "having", "78.2", "friends", "at", "CMU", "and", "54.9", "friends", "elsewhere", ".", "at", "the", "same", "institution", "and", "non-friend", "users", "at", "a", "different", "institution", ".", "14", "By", "default", ",", "everyone", "on", "the", "Facebook", "appears", "in", "searches", "of", "everyone", "else", ",", "independent", "of", "the", "searchers", "institutional", "affiliation", ".", "In", "search", "results", "the", "users", "'", "full", "names", "-LRB-", "partial", "searches", "for", "e.g.", "first", "names", "are", "possible", "-RRB-", "appear", "along", "with", "the", "profile", "image", ",", "the", "academic", "institution", "that", "the", "user", "is", "attending", ",", "and", "the", "users", "'", "status", "there", ".", "The", "Facebook", "reinforces", "this", "default", "settings", "by", "labelling", "it", "``", "recom-mended", "''", "on", "the", "privacy", "preference", "page", ".", "Also", "by", "default", "the", "full", "profile", "-LRB-", "including", "contact", "information", "-RRB-", "is", "visible", "to", "everyone", "else", "at", "the", "same", "institution", ".", "Prior", "research", "in", "HCI", "has", "shown", "that", "users", "tend", "to", "not", "change", "default", "settings", "-LSB-", "19", "-RSB-", ".", "This", "makes", "the", "choice", "of", "default", "settings", "by", "website", "operators", "very", "important", ".", "On", "the", "other", "hand", ",", "the", "site", "provides", "users", "a", "very", "granular", "and", "relatively", "sophisticated", "interface", "to", "control", "the", "searchability", "and", "visibility", "of", "their", "profiles", ".", "Undergrad", "users", ",", "for", "example", ",", "can", "make", "their", "profiles", "searchable", "only", "to", "other", "undergrad", "users", ",", "or", "only", "users", "who", "are", "friends", ",", "or", "users", "who", "are", "friends", "of", "friends", ",", "or", "users", "at", "the", "same", "institution", "-", "or", "combinations", "of", "the", "above", "constraints", ".", "In", "addition", ",", "visibility", "of", "the", "entire", "profile", "can", "be", "similarly", "controlled", ".", "Granular", "control", "on", "contact", "information", "is", "also", "provided", ".", "Sociological", "theories", "of", "privacy", "have", "noted", "how", "an", "individual", "may", "selectively", "disclose", "personal", "information", "to", "others", "in", "order", "to", "establish", "different", "degrees", "of", "trust", "and", "intimacy", "with", "them", "-LRB-", "see", "-LSB-", "10", "-RSB-", "-RRB-", ".", "In", "light", "of", "these", "theories", ",", "we", "tested", "14", "The", "Facebook", "recently", "introduced", "a", "new", "relationship", "category", "based", "on", "user", "location", ",", "e.g.", "Pittsburgh", ",", "which", "we", "did", "not", "consider", "in", "this", "study", ".", "how", "much", "CMU", "Facebook", "users", "take", "advantage", "of", "the", "ability", "the", "site", "provides", "to", "manage", "their", "presentation", "of", "sel", "-LSB-", "ves", "-RSB-", ".", "By", "creating", "accounts", "at", "different", "institutions", ",", "and", "by", "using", "accounts", "with", "varying", "degree", "of", "interconnectedness", "with", "the", "rest", "of", "the", "CMU", "network", ",", "we", "were", "able", "to", "infer", "how", "individual", "users", "within", "the", "CMU", "network", "were", "selecting", "their", "own", "privacy", "preference", ".", "3.5.1", "Profile", "Searchability", "We", "first", "measured", "the", "percentage", "of", "users", "that", "changed", "the", "search", "default", "setting", "away", "from", "being", "searchable", "to", "everyone", "on", "the", "Facebook", "to", "only", "being", "searchable", "to", "CMU", "users", ".", "We", "generated", "a", "list", "of", "profile", "IDs", "currently", "in", "use", "at", "CMU", "and", "compared", "it", "with", "a", "list", "of", "profile", "IDs", "visible", "from", "a", "different", "academic", "institution", ".", "We", "found", "that", "only", "1.2", "%", "of", "users", "-LRB-", "18", "female", ",", "45", "male", "-RRB-", "made", "use", "of", "this", "privacy", "setting", ".", "3.5.2", "Profile", "Visibility", "We", "then", "evaluated", "the", "number", "of", "CMU", "users", "that", "changed", "profile", "visibility", "by", "restricting", "access", "to", "CMU", "users", ".", "We", "used", "the", "list", "of", "profile", "IDs", "currently", "in", "use", "at", "CMU", "and", "evaluated", "which", "percentage", "of", "profiles", "were", "fully", "accessible", "to", "an", "unconnected", "user", "-LRB-", "not", "friend", "or", "friend", "of", "friend", "of", "any", "profile", "-RRB-", ".", "Only", "3", "profiles", "-LRB-", "0.06", "%", "-RRB-", "in", "total", "did", "not", "fall", "into", "this", "category", ".", "3.5.3", "Facebook", "Data", "Access", "We", "can", "conclude", "that", "only", "a", "vanishingly", "small", "number", "of", "users", "change", "the", "-LRB-", "permissive", "-RRB-", "default", "privacy", "preferences", ".", "In", "general", ",", "fully", "identifiable", "information", "such", "as", "personal", "77", "image", "and", "first", "and", "last", "name", "is", "available", "to", "anybody", "registered", "at", "any", "Facebook", "member", "network", ".", "Since", "the", "Facebook", "boasts", "a", "80", "%", "average", "participation", "rate", "among", "undergraduate", "students", "at", "the", "hundreds", "of", "US", "institutions", "it", "covers", ",", "and", "since", "around", "61", "%", "of", "our", "CMU", "subset", "provides", "identifiable", "face", "images", ",", "it", "is", "relatively", "easy", "for", "anybody", "to", "gain", "access", "to", "these", "data", ",", "and", "cheap", "to", "store", "a", "nation-wide", "database", "of", "fully", "identified", "students", "and", "their", "IDs", ".", "In", "other", "words", ",", "information", "suitable", "for", "creating", "a", "brief", "digital", "dossier", "consisting", "of", "name", ",", "college", "affiliation", ",", "status", "and", "a", "profile", "image", "can", "be", "accessed", "for", "the", "vast", "majority", "of", "Facebook", "users", "by", "anyone", "on", "the", "website", ".", "-LRB-", "To", "demonstrate", "this", "we", "downloaded", "and", "identified", "the", "same", "information", "for", "a", "total", "of", "9673", "users", "at", "Harvard", "University", ".", "-RRB-", "Additional", "personal", "data", "-", "such", "as", "political", "and", "sexual", "orientation", ",", "residence", "address", ",", "telephone", "number", ",", "class", "schedule", ",", "etc.", "-", "are", "made", "available", "by", "the", "majority", "of", "users", "to", "anybody", "else", "at", "the", "same", "institution", ",", "leaving", "such", "data", "accessible", "to", "any", "subject", "able", "to", "obtain", "even", "temporary", "control", "of", "an", "institution", "'s", "single", "email", "address", ".", "It", "would", "appear", "that", "the", "population", "of", "Facebook", "users", "we", "have", "studied", "is", ",", "by", "large", ",", "quite", "oblivious", ",", "unconcerned", ",", "or", "just", "pragmatic", "about", "their", "personal", "privacy", ".", "Personal", "data", "is", "generously", "provided", "and", "limiting", "privacy", "preferences", "are", "sparingly", "used", ".", "Due", "to", "the", "variety", "and", "richness", "of", "personal", "information", "disclosed", "in", "Facebook", "profiles", ",", "their", "visibility", ",", "their", "public", "linkages", "to", "the", "members", "'", "real", "identities", ",", "and", "the", "scope", "of", "the", "network", ",", "users", "may", "put", "themselves", "at", "risk", "for", "a", "variety", "of", "attacks", "on", "their", "physical", "and", "online", "persona", ".", "Some", "of", "these", "risks", "are", "common", "also", "in", "other", "online", "social", "networks", ",", "while", "some", "are", "specific", "to", "the", "Facebook", ".", "In", "this", "section", "we", "outline", "a", "number", "of", "different", "attacks", "and", "quantify", "the", "number", "of", "users", "susceptible", "based", "on", "the", "data", "we", "extracted", ".", "See", "Table", "5", "for", "an", "overview", ".", "4.1", "Stalking", "Using", "the", "information", "available", "on", "profiles", "on", "the", "Facebook", "a", "potential", "adversary", "-LRB-", "with", "an", "account", "at", "the", "same", "academic", "institution", "-RRB-", "can", "determine", "the", "likely", "physical", "location", "of", "the", "user", "for", "large", "portions", "of", "the", "day", ".", "Facebook", "profiles", "include", "information", "about", "residence", "location", ",", "class", "schedule", ",", "and", "location", "of", "last", "login", ".", "A", "students", "'", "life", "during", "college", "is", "mostly", "dominated", "by", "class", "attendance", ".", "Therefore", ",", "knowledge", "of", "both", "the", "residence", "and", "a", "few", "classes", "that", "the", "student", "is", "currently", "attending", "would", "help", "a", "potential", "stalker", "to", "determine", "the", "users", "whereabouts", ".", "In", "the", "CMU", "population", "860", "profiles", "fall", "into", "our", "definition", "of", "this", "category", "-LRB-", "280", "female", ",", "580", "male", "-RRB-", ",", "in", "that", "they", "disclose", "both", "their", "current", "residence", "and", "at", "least", "2", "classes", "they", "are", "attending", ".", "Since", "our", "study", "was", "conducted", "outside", "of", "the", "semester", "-LRB-", "when", "many", "students", "might", "have", "deleted", "class", "information", "from", "their", "profiles", "-RRB-", "we", "speculate", "this", "number", "to", "be", "even", "higher", "during", "the", "semester", ".", "A", "much", "larger", "percentage", "of", "users", "is", "susceptible", "to", "a", "form", "of", "cyber-stalking", "using", "the", "AOL", "instant", "messenger", "-LRB-", "AIM", "-RRB-", ".", "Unlike", "other", "messengers", ",", "AIM", "allows", "users", "to", "add", "``", "buddies", "''", "to", "their", "list", "without", "knowledge", "of", "or", "confirmation", "from", "the", "buddy", "being", "added", ".", "Once", "on", "the", "buddy", "list", "the", "adversary", "can", "track", "when", "the", "user", "is", "online", ".", "In", "the", "CMU", "population", "77.7", "%", "of", "all", "profiles", "list", "an", "AIM", "screen", "name", "for", "a", "total", "of", "more", "than", "3400", "users", ".", "4.2", "Re-identification", "Data", "re-identification", "typically", "deals", "with", "the", "linkage", "of", "datasets", "without", "explicit", "identifiers", "such", "as", "name", "and", "address", "to", "datasets", "with", "explicit", "identifiers", "through", "common", "attributes", "-LSB-", "25", "-RSB-", ".", "Examples", "include", "the", "linkage", "of", "hospital", "discharge", "data", "to", "voter", "registration", "lists", ",", "that", "allows", "to", "re-identify", "sensitive", "medical", "information", "-LSB-", "28", "-RSB-", ".", "4.2.1", "Demographics", "re-identification", "It", "has", "been", "shown", "previously", "that", "a", "large", "portion", "of", "the", "US", "population", "can", "be", "re-identified", "using", "a", "combination", "of", "5-digit", "ZIP", "code", ",", "gender", ",", "and", "date", "of", "birth", "-LSB-", "29", "-RSB-", ".", "The", "vast", "majority", "of", "CMU", "users", "disclose", "both", "their", "full", "birthdate", "-LRB-", "day", "and", "year", "-RRB-", "and", "gender", "on", "their", "profiles", "-LRB-", "88.8", "%", "-RRB-", ".", "For", "44.3", "%", "of", "users", "-LRB-", "total", "of", "1676", "-RRB-", "the", "combination", "of", "birthdate", "and", "gender", "is", "unique", "within", "CMU", ".", "In", "addition", ",", "50.8", "%", "list", "their", "current", "residence", ",", "for", "which", "ZIP", "codes", "can", "be", "easily", "obtained", ".", "Overall", ",", "45.8", "%", "of", "users", "list", "birthday", ",", "gender", ",", "and", "current", "residence", ".", "An", "adversary", "with", "access", "to", "the", "CMU", "section", "of", "the", "Facebook", "could", "therefore", "link", "a", "comparatively", "large", "number", "of", "users", "to", "outside", ",", "de-identified", "data", "sources", "such", "as", "e.g.", "hospital", "discharge", "data", ".", "4.2.2", "Face", "Re-Identification", "In", "a", "related", "study", "we", "were", "able", "to", "correctly", "link", "facial", "images", "from", "Friendster", "profiles", "without", "explicit", "identifiers", "with", "images", "obtained", "from", "fully", "identified", "CMU", "web", "pages", "using", "a", "commercial", "face", "recognizer", "-LSB-", "13", "-RSB-", ".", "The", "field", "of", "automatic", "face", "recognition", "has", "advanced", "tremendously", "over", "the", "last", "decade", "and", "is", "now", "offering", "a", "number", "of", "commercial", "solutions", "which", "have", "been", "shown", "to", "perform", "well", "across", "a", "wide", "range", "of", "imaging", "conditions", "-LSB-", "14", ",", "17", ",", "24", "-RSB-", ".", "As", "shown", "in", "Section", "3.4", "a", "large", "number", "of", "profiles", "contain", "high", "quality", "images", ".", "At", "CMU", "more", "than", "2500", "profiles", "fall", "in", "this", "category", "15", ".", "Potential", "de-identified", "data", "sources", "include", "other", "social", "networking", "sites", "-LRB-", "e.g.", "Friendster", "-RRB-", "or", "dating", "sites", "-LRB-", "e.g.", "Match.com", "-RRB-", "that", "typically", "host", "anonymous", "profiles", ".", "4.2.3", "Social", "Security", "Numbers", "and", "Identity", "Theft", "An", "additional", "re-identification", "risk", "lies", "in", "making", "birthdate", ",", "hometown", ",", "current", "residence", ",", "and", "current", "phone", "number", "publicly", "available", "at", "the", "same", "time", ".", "This", "information", "can", "be", "used", "to", "estimate", "a", "person", "'s", "social", "security", "number", "and", "exposes", "her", "to", "identity", "theft", ".", "The", "first", "three", "digits", "of", "a", "social", "security", "number", "reveal", "where", "that", "number", "was", "created", "-LRB-", "specifically", ",", "the", "digits", "are", "determined", "by", "the", "ZIP", "code", "of", "the", "mailing", "address", "shown", "on", "the", "application", "for", "a", "social", "security", "number", "-RRB-", ".", "The", "next", "two", "digits", "are", "group", "identifiers", ",", "which", "are", "assigned", "according", "to", "a", "peculiar", "but", "predictable", "temporal", "order", ".", "The", "last", "four", "digits", "are", "progressive", "serial", "numbers", ".", "16", "When", "a", "person", "'s", "hometown", "is", "known", ",", "the", "window", "of", "the", "first", "three", "digits", "of", "her", "SNN", "can", "be", "identified", "with", "probability", "decreasing", "with", "the", "home", "state", "'s", "populousness", ".", "When", "that", "person", "'s", "birthday", "is", "also", "known", ",", "and", "an", "attacker", "has", "access", "to", "SSNs", "of", "other", "people", "with", "the", "same", "birthdate", "in", "the", "same", "state", "as", "the", "target", "-LRB-", "for", "example", "obtained", "from", "the", "SSN", "death", "index", "or", "from", "stolen", "SSNs", "-RRB-", ",", "it", "is", "possible", "to", "pin", "down", "a", "window", "of", "values", "in", "which", "the", "two", "middle", "digits", "15", "In", "fact", ",", "90.8", "%", "of", "profiles", "have", "images", ",", "out", "of", "which", "61", "%", "are", "estimated", "to", "be", "of", "sufficient", "quality", "for", "re-identification", ".", "16", "See", "http://www.ssa.gov/foia/stateweb.html", "and", "http://policy.ssa.gov/poms.nsf/lnx/0100201030", ".", "78", "Table", "5", ":", "Overview", "of", "the", "privacy", "risks", "and", "number", "of", "CMU", "profiles", "susceptible", "to", "it", ".", "Risk", "#", "CMU", "Facebook", "Profiles", "%", "CMU", "Facebook", "Profiles", "280", "-LRB-", "Female", "-RRB-", "15.7", "-LRB-", "Female", "-RRB-", "Real-World", "Stalking", "580", "-LRB-", "Male", "-RRB-", "21.2", "-LRB-", "Male", "-RRB-", "Online", "Stalking", "3528", "77.7", "Demographics", "Re-Identification", "1676", "44.3", "Face", "Re-Identification", "2515", "-LRB-", "estimated", "-RRB-", "55.4", "are", "likely", "to", "fall", ".", "The", "last", "four", "digits", "-LRB-", "often", "used", "in", "unpro-tected", "logins", "and", "as", "passwords", "-RRB-", "can", "be", "retrieved", "through", "social", "engineering", ".", "Since", "the", "vast", "majority", "of", "the", "Facebook", "profiles", "we", "studied", "not", "only", "include", "birthday", "and", "hometown", "information", ",", "but", "also", "current", "phone", "number", "and", "residence", "-LRB-", "often", "used", "for", "verification", "purposes", "by", "financial", "institutions", "and", "other", "credit", "agencies", "-RRB-", ",", "users", "are", "exposing", "themselves", "to", "substantial", "risks", "of", "identity", "theft", ".", "4.3", "Building", "a", "Digital", "Dossier", "The", "privacy", "implications", "of", "revealing", "personal", "and", "sensitive", "information", "-LRB-", "such", "as", "sexual", "orientation", "and", "political", "views", "-RRB-", "may", "extend", "beyond", "their", "immediate", "impact", ",", "which", "can", "be", "limited", ".", "Given", "the", "low", "and", "decreasing", "costs", "of", "storing", "digital", "information", ",", "it", "is", "possible", "to", "continuously", "monitor", "the", "evolution", "of", "the", "network", "and", "its", "users", "'", "profiles", ",", "thereby", "building", "a", "digital", "dossier", "for", "its", "participants", ".", "College", "students", ",", "even", "if", "currently", "not", "concerned", "about", "the", "visibility", "of", "their", "personal", "information", ",", "may", "become", "so", "as", "they", "enter", "sensitive", "and", "delicate", "jobs", "a", "few", "years", "from", "now", "-", "when", "the", "data", "currently", "mined", "could", "still", "be", "available", ".", "4.4", "Fragile", "Privacy", "Protection", "One", "might", "speculate", "that", "the", "perceived", "privacy", "protection", "of", "making", "personal", "information", "available", "only", "to", "members", "of", "a", "campus", "community", "may", "increase", "Facebook", "users", "'", "willingness", "to", "reveal", "personal", "information", ".", "However", ",", "the", "mechanisms", "protecting", "this", "social", "network", "can", "be", "circumvented", ".", "Adding", "to", "this", "the", "recognition", "that", "users", "have", "little", "control", "on", "the", "composition", "of", "their", "own", "networks", "-LRB-", "because", "often", "a", "member", "'s", "friend", "can", "introduce", "strangers", "into", "that", "member", "'s", "network", "-RRB-", ",", "one", "may", "conclude", "that", "the", "personal", "information", "users", "are", "revealing", "even", "on", "sites", "with", "access", "control", "and", "managed", "search", "capabilities", "effectively", "becomes", "public", "data", ".", "4.4.1", "Fake", "Email", "Address", "The", "Facebook", "verifies", "users", "as", "legitimate", "members", "of", "a", "campus", "community", "by", "sending", "a", "confirmation", "email", "containing", "a", "link", "with", "a", "seemingly", "randomly", "generated", "nine", "digit", "code", "to", "the", "-LRB-", "campus", "-RRB-", "email", "address", "provided", "during", "registration", ".", "Since", "the", "process", "of", "signing", "up", "and", "receiving", "the", "confirmation", "email", "only", "takes", "minutes", ",", "an", "adversary", "simply", "needs", "to", "gain", "access", "to", "the", "campus", "network", "for", "a", "very", "short", "period", "of", "time", ".", "This", "can", "be", "achieved", "in", "a", "number", "of", "well-known", "ways", ",", "e.g.", "by", "attempting", "to", "remotely", "access", "a", "hacked", "or", "virus-infected", "machine", "on", "the", "network", "or", "physi-cally", "accessing", "a", "networked", "machine", "in", "e.g.", "the", "library", ",", "etc.", "4.4.2", "Manipulating", "Users", "Social", "engineering", "is", "a", "well-known", "practice", "in", "computer", "security", "to", "obtain", "confidential", "information", "by", "manipulating", "legitimate", "users", "-LSB-", "22", "-RSB-", ".", "Implementation", "of", "this", "practice", "on", "the", "Facebook", "is", "very", "simple", ":", "just", "ask", "to", "be", "added", "as", "someone", "'s", "friend", ".", "The", "surprisingly", "high", "success", "rate", "of", "this", "practice", "was", "recently", "demonstrated", "by", "a", "Facebook", "user", "who", ",", "using", "an", "automatic", "script", ",", "contacted", "250,000", "users", "of", "the", "Facebook", "across", "the", "country", "and", "asked", "to", "be", "added", "as", "their", "friend", ".", "According", "to", "-LSB-", "15", "-RSB-", ",", "75,000", "users", "accepted", ":", "thirty", "percent", "of", "Facebook", "users", "are", "willing", "to", "make", "all", "of", "their", "profile", "information", "available", "to", "a", "random", "stranger", "and", "his", "network", "of", "friends", ".", "4.4.3", "Advanced", "Search", "Features", "While", "not", "directly", "linked", "to", "from", "the", "site", ",", "the", "Facebook", "makes", "the", "advanced", "search", "page", "of", "any", "college", "available", "to", "anyone", "in", "the", "network", ".", "Using", "this", "page", "various", "profile", "information", "can", "be", "searched", "for", ",", "e.g.", "relationship", "status", ",", "phone", "number", ",", "sexual", "preferences", ",", "political", "views", "and", "-LRB-", "college", "-RRB-", "residence", ".", "By", "keeping", "track", "of", "the", "profile", "IDs", "returned", "in", "the", "different", "searches", "a", "significant", "portion", "of", "the", "previously", "inaccessible", "information", "can", "be", "reconstructed", ".", "Online", "social", "networks", "are", "both", "vaster", "and", "looser", "than", "their", "offline", "counterparts", ".", "It", "is", "possible", "for", "somebody", "'s", "profile", "to", "be", "connected", "to", "hundreds", "of", "peers", "directly", ",", "and", "thousands", "of", "others", "through", "the", "network", "'s", "ties", ".", "Many", "individuals", "in", "a", "person", "'s", "online", "extended", "network", "would", "hardly", "be", "defined", "as", "actual", "friends", "by", "that", "person", ";", "in", "fact", "many", "may", "be", "complete", "strangers", ".", "And", "yet", ",", "personal", "and", "often", "sensitive", "information", "is", "freely", "and", "publicly", "provided", ".", "In", "our", "study", "of", "more", "than", "4,000", "CMU", "users", "of", "the", "Facebook", "we", "have", "quantified", "individuals", "'", "willingness", "to", "provide", "large", "amounts", "of", "personal", "information", "in", "an", "online", "social", "network", ",", "and", "we", "have", "shown", "how", "unconcerned", "its", "users", "appear", "to", "privacy", "risks", ":", "while", "personal", "data", "is", "generously", "provided", ",", "limiting", "privacy", "preferences", "are", "hardly", "used", ";", "only", "a", "small", "number", "of", "members", "change", "the", "default", "privacy", "preferences", ",", "which", "are", "set", "to", "maximize", "the", "visibility", "of", "users", "profiles", ".", "Based", "on", "the", "information", "they", "provide", "online", ",", "users", "expose", "themselves", "to", "various", "physical", "and", "cyber", "risks", ",", "and", "make", "it", "extremely", "easy", "for", "third", "parties", "to", "create", "digital", "dossiers", "of", "their", "behavior", ".", "These", "risks", "are", "not", "unique", "to", "the", "Facebook", ".", "However", ",", "the", "Facebook", "'s", "public", "linkages", "between", "an", "individual", "profile", "and", "the", "real", "identity", "of", "its", "owner", ",", "and", "the", "Facebook", "'s", "perceived", "connection", "to", "a", "physical", "and", "ostensibly", "bounded", "community", "-LRB-", "the", "campus", "-RRB-", ",", "make", "Facebook", "users", "a", "particularly", "interesting", "population", "for", "our", "research", ".", "Our", "study", "quantifies", "patterns", "of", "information", "revelation", "and", "infers", "usage", "of", "privacy", "settings", "from", "actual", "field", "data", ",", "rather", "than", "from", "surveys", "or", "laboratory", "experiments", ".", "Still", ",", "the", "relative", "importance", "of", "the", "different", "drivers", "influencing", "Facebook", "users", "'", "information", "revelation", "behavior", "has", "to", "be", "quantified", ".", "Our", "evidence", "is", "compatible", "with", "a", "number", "of", "79", "different", "hypotheses", ".", "In", "fact", ",", "many", "simultaneous", "factors", "are", "likely", "to", "play", "a", "role", ".", "Some", "evidence", "is", "compatible", "with", "a", "signalling", "hypothesis", "-LRB-", "see", "Section", "3.3", "-RRB-", ":", "users", "may", "be", "prag-matically", "publishing", "personal", "information", "because", "the", "benefits", "they", "expect", "from", "public", "disclosure", "surpass", "its", "perceived", "costs", ".", "Yet", ",", "our", "evidence", "is", "also", "compatible", "with", "an", "interface", "design", "explanation", ",", "such", "as", "the", "acceptance", "-LRB-", "and", "possibly", "ignorance", "-RRB-", "of", "the", "default", ",", "permeable", "settings", "-LRB-", "see", "Section", "3.5", "-RRB-", ".", "Peer", "pressure", "and", "herding", "behavior", "may", "also", "be", "influencing", "factors", ",", "and", "so", "also", "myopic", "privacy", "attitudes", "-LRB-", "see", "-LSB-", "1", "-RSB-", "-RRB-", "and", "the", "sense", "of", "protection", "offered", "by", "the", "-LRB-", "perceived", "-RRB-", "bounds", "of", "a", "campus", "community", ".", "Clarifying", "the", "role", "of", "these", "different", "factors", "is", "part", "of", "our", "continuing", "research", "agenda", ".", "We", "would", "like", "to", "thank", "Anne", "Zimmerman", "and", "Bradley", "Ma-lin", "for", "first", "bringing", "the", "Facebook", "to", "our", "attention", ".", "We", "would", "also", "like", "to", "thank", "danah", "boyd", ",", "Lorrie", "Cranor", ",", "Julie", "Downs", ",", "Steven", "Frank", ",", "Julia", "Gideon", ",", "Charis", "Kaskiris", ",", "Bart", "Nabbe", ",", "Mike", "Shamos", ",", "Irina", "Shklovski", ",", "and", "four", "anonymous", "referees", "for", "comments", ".", "This", "work", "was", "supported", "in", "part", "by", "the", "Data", "Privacy", "Lab", "in", "the", "School", "of", "Computer", "Science", "and", "by", "the", "Berkman", "Fund", "at", "Carnegie", "Mellon", "University", ".", "-LSB-", "1", "-RSB-", "A.", "Acquisti", ".", "Privacy", "in", "electronic", "commerce", "and", "the", "economics", "of", "immediate", "gratification", ".", "In", "Proceedings", "of", "the", "ACM", "Conference", "on", "Electronic", "Commerce", "-LRB-", "EC", "'", "04", "-RRB-", ",", "pages", "21", "29", ",", "2004", ".", "-LSB-", "2", "-RSB-", "B.", "Anderson", ".", "Imagined", "Communities", ":", "Reflections", "on", "the", "Origin", "and", "Spread", "of", "Nationalism", ".", "Verso", ",", "London", "and", "New", "York", ",", "revised", "edition", ",", "1991", ".", "-LSB-", "3", "-RSB-", "S.", "Arrison", ".", "Is", "Friendster", "the", "new", "TIA", "?", "TechCentralStation", ",", "January", "7", ",", "2004", ".", "-LSB-", "4", "-RSB-", "J.", "Black", ".", "The", "perils", "and", "promise", "of", "online", "schmoozing", ".", "BusinessWeek", "Online", ",", "February", "20", ",", "2004", ".", "-LSB-", "5", "-RSB-", "J.", "Brown", ".", "Six", "degrees", "to", "nowhere", ".", "Salon.com", ",", "September", "21", ",", "1998", ".", "-LSB-", "6", "-RSB-", "D.", "Cave", ".", "16", "to", "25", "?", "Pentagon", "has", "your", "number", ",", "and", "more", ".", "The", "New", "York", "Times", ",", "June", "24", ",", "2005", ".", "-LSB-", "7", "-RSB-", "d.", "boyd", ".", "Reflections", "on", "friendster", ",", "trust", "and", "intimacy", ".", "In", "Intimate", "-LRB-", "Ubiquitous", "-RRB-", "Computing", "Workshop", "Ubicomp", "2003", ",", "October", "12-15", ",", "Seattle", ",", "Washington", ",", "USA", ",", "2003", ".", "-LSB-", "8", "-RSB-", "d.", "boyd", ".", "Friendster", "and", "publicly", "articulated", "social", "networking", ".", "In", "Conference", "on", "Human", "Factors", "and", "Computing", "Systems", "-LRB-", "CHI", "2004", "-RRB-", ",", "April", "24-29", ",", "Vienna", ",", "Austria", ",", "2004", ".", "-LSB-", "9", "-RSB-", "J.", "Donath", "and", "d.", "boyd", ".", "Public", "displays", "of", "connection", ".", "BT", "Technology", "Journal", ",", "22:71", "82", ",", "2004", ".", "-LSB-", "10", "-RSB-", "S.", "Gerstein", ".", "Intimacy", "and", "privacy", ".", "In", "F.", "D.", "Schoeman", ",", "editor", ",", "Philosophical", "Dimensions", "of", "Privacy", ":", "An", "Anthology", ".", "Cambridge", "University", "Press", ",", "Cambridge", ",", "UK", ",", "1984", ".", "-LSB-", "11", "-RSB-", "M.", "Granovetter", ".", "The", "strength", "of", "weak", "ties", ".", "American", "Journal", "of", "Sociology", ",", "78:1360", "1380", ",", "1973", ".", "-LSB-", "12", "-RSB-", "M.", "Granovetter", ".", "The", "strength", "of", "weak", "ties", ":", "A", "network", "theory", "revisited", ".", "Sociological", "Theory", ",", "1:201", "233", ",", "1983", ".", "-LSB-", "13", "-RSB-", "R.", "Gross", ".", "Re-identifying", "facial", "images", ".", "Technical", "report", ",", "Carnegie", "Mellon", "University", ",", "Institute", "for", "Software", "Research", "International", ",", "2005", ".", "In", "preparation", ".", "-LSB-", "14", "-RSB-", "R.", "Gross", ",", "J.", "Shi", ",", "and", "J.", "Cohn", ".", "Quo", "vadis", "face", "recognition", "?", "In", "Third", "Workshop", "on", "Empirical", "Evaluation", "Methods", "in", "Computer", "Vision", ",", "2001", ".", "-LSB-", "15", "-RSB-", "K.", "Jump", ".", "A", "new", "kind", "of", "fame", ".", "The", "Columbian", "Missourian", ",", "September", "1", ",", "2005", ".", "-LSB-", "16", "-RSB-", "A.", "Leonard", ".", "You", "are", "who", "you", "know", ".", "Salon.com", ",", "June", "15", ",", "2004", ".", "-LSB-", "17", "-RSB-", "S.", "Li", "and", "A.", "Jain", ",", "editors", ".", "Handbook", "of", "Face", "Recognition", ".", "Springer", "Verlag", ",", "2005", ".", "-LSB-", "18", "-RSB-", "H.", "Liu", "and", "P.", "Maes", ".", "Interestmap", ":", "Harvesting", "social", "network", "profiles", "for", "recommendations", ".", "In", "Beyond", "Personalization", "-", "IUI", "2005", ",", "January", "9", ",", "San", "Diego", ",", "California", ",", "USA", ",", "2005", ".", "-LSB-", "19", "-RSB-", "W.", "Mackay", ".", "Triggers", "and", "barriers", "to", "customizing", "software", ".", "In", "Proceedings", "of", "CHI", "'", "91", ",", "pages", "153", "160", ".", "ACM", "Press", ",", "1991", ".", "-LSB-", "20", "-RSB-", "S.", "Milgram", ".", "The", "small", "world", "problem", ".", "Psychology", "Today", ",", "6:62", "67", ",", "1967", ".", "-LSB-", "21", "-RSB-", "S.", "Milgram", ".", "The", "familiar", "stranger", ":", "An", "aspect", "of", "urban", "anonymity", ".", "In", "S.", "Milgram", ",", "J.", "Sabini", ",", "and", "M.", "Silver", ",", "editors", ",", "The", "Individual", "in", "a", "Social", "World", ":", "Essays", "and", "Experiments", ".", "Addison-Wesley", ",", "Reading", ",", "MA", ",", "1977", ".", "-LSB-", "22", "-RSB-", "K.", "Mitnick", ",", "W.", "Simon", ",", "and", "S.", "Wozniak", ".", "The", "art", "of", "deception", ":", "controlling", "the", "human", "element", "of", "security", ".", "John", "Wiley", "&", "Sons", ",", "2002", ".", "-LSB-", "23", "-RSB-", "A.", "Newitz", ".", "Defenses", "lacking", "at", "social", "network", "sites", ".", "SecurityFocus", ",", "December", "31", ",", "2003", ".", "-LSB-", "24", "-RSB-", "P.", "Phillips", ",", "P.", "Flynn", ",", "T.", "Scruggs", ",", "K.", "Bowyer", ",", "J.", "Chang", ",", "K.", "Hoffman", ",", "J.", "Marques", ",", "J.", "Min", ",", "and", "J.", "Worek", ".", "Overview", "of", "the", "face", "recognition", "grand", "challenge", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "June", "20-25", ",", "San", "Diego", ",", "California", ",", "USA", ",", "2005", ".", "-LSB-", "25", "-RSB-", "P.", "Samarati", "and", "L.", "Sweeney", ".", "Protecting", "privacy", "when", "disclosing", "information", ":", "k-anonymity", "and", "its", "enforcement", "through", "generalization", "and", "cell", "suppression", ".", "Technical", "report", ",", "SRI", "International", ",", "1998", ".", "-LSB-", "26", "-RSB-", "I.", "Sege", ".", "Where", "everybody", "knows", "your", "name", ".", "Boston.com", ",", "April", "27", ",", "2005", ".", "-LSB-", "27", "-RSB-", "L.", "J.", "Strahilevitz", ".", "A", "social", "networks", "theory", "of", "privacy", ".", "The", "Law", "School", ",", "University", "of", "Chicago", ",", "John", "M.", "Olin", "Law", "&", "Economics", "Working", "Paper", "No.", "230", "-LRB-", "2D", "Series", "-RRB-", ",", "December", "2004", ".", "-LSB-", "28", "-RSB-", "L.", "Sweeney", ".", "k-Anonymity", ":", "a", "model", "for", "protecting", "privacy", ".", "International", "Journal", "on", "Uncertainty", ",", "Fuzziness", "and", "Knowledge-based", "Systems", ",", "10", "-LRB-", "5", "-RRB-", ":", "557", "570", ",", "2002", ".", "-LSB-", "29", "-RSB-", "L.", "Sweeney", ".", "Uniqueness", "of", "simple", "demographics", "in", "the", "U.S.", "population", ".", "Technical", "report", ",", "Carnegie", "Mellon", "University", ",", "Laboratory", "for", "International", "Data", "Privacy", ",", "2004", ".", "-LSB-", "30", "-RSB-", "The", "Facebook", ".", "Privacy", "policy", ".", "http://facebook.com/policy.php", ",", "August", "2005", ".", "-LSB-", "31", "-RSB-", "University", "Planning", ".", "Carnegie", "Mellon", "Factbook", "2005", ".", "Carnegie", "Mellon", "University", ",", "February", "2005", ".", "-LSB-", "32", "-RSB-", "D.", "Watts", ".", "Six", "Degrees", ":", "The", "Science", "of", "a", "Connected", "Age", ".", "W.W.Norton", "&", "Company", ",", "2003", ".", "80"], "doc_bio_tags": ["B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["facebook", "online privacy", "social networking sites", "data visibility", "information revelation", "online social networking", "online behavior", "privacy", "social network theory", "college", "stalking"], "abstractive_keyphrases": ["privacy risk", "re-identification", "privacy perference", "information relevation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "112", "document": ["Categorizing", "Web", "Queries", "According", "to", "Geographical", "Locality", "Web", "pages", "-LRB-", "and", "resources", ",", "in", "general", "-RRB-", "can", "be", "characterized", "according", "to", "their", "geographical", "locality", ".", "For", "example", ",", "a", "web", "page", "with", "general", "information", "about", "wildflowers", "could", "be", "considered", "a", "global", "page", ",", "likely", "to", "be", "of", "interest", "to", "a", "ge-ographically", "broad", "audience", ".", "In", "contrast", ",", "a", "web", "page", "with", "listings", "on", "houses", "for", "sale", "in", "a", "specific", "city", "could", "be", "regarded", "as", "a", "local", "page", ",", "likely", "to", "be", "of", "interest", "only", "to", "an", "audience", "in", "a", "relatively", "narrow", "region", ".", "Similarly", ",", "some", "search", "engine", "queries", "-LRB-", "implicitly", "-RRB-", "target", "global", "pages", ",", "while", "other", "queries", "are", "after", "local", "pages", ".", "For", "example", ",", "the", "best", "results", "for", "query", "-LSB-", "wildflowers", "-RSB-", "are", "probably", "global", "pages", "about", "wildflowers", "such", "as", "the", "one", "discussed", "above", ".", "However", ",", "local", "pages", "that", "are", "relevant", "to", ",", "say", ",", "San", "Francisco", "are", "likely", "to", "be", "good", "matches", "for", "a", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "that", "was", "issued", "by", "a", "San", "Francisco", "resident", "or", "by", "somebody", "moving", "to", "that", "city", ".", "Unfortunately", ",", "search", "engines", "do", "not", "analyze", "the", "geographical", "locality", "of", "queries", "and", "users", ",", "and", "hence", "often", "produce", "sub-optimal", "results", ".", "Thus", "query", "-LSB-", "wildflowers", "-RSB-", "might", "return", "pages", "that", "discuss", "wildflowers", "in", "specific", "U.S.", "states", "-LRB-", "and", "not", "general", "information", "about", "wildflowers", "-RRB-", ",", "while", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "might", "return", "pages", "with", "real", "estate", "listings", "for", "locations", "other", "than", "that", "of", "interest", "to", "the", "person", "who", "issued", "the", "query", ".", "Deciding", "whether", "an", "unseen", "query", "should", "produce", "mostly", "local", "or", "global", "pages", "--", "without", "placing", "this", "burden", "on", "the", "search", "engine", "users", "--", "is", "an", "important", "and", "challenging", "problem", ",", "because", "queries", "are", "often", "ambiguous", "or", "underspecify", "the", "information", "they", "are", "after", ".", "In", "this", "paper", ",", "we", "address", "this", "problem", "by", "first", "defining", "how", "to", "categorize", "queries", "according", "to", "their", "-LRB-", "often", "implicit", "-RRB-", "geographical", "locality", ".", "We", "then", "introduce", "several", "alternatives", "for", "automatically", "and", "efficiently", "categorizing", "queries", "in", "our", "scheme", ",", "using", "a", "variety", "of", "state-of-the-art", "machine", "learning", "tools", ".", "We", "report", "a", "thorough", "evaluation", "of", "our", "classifiers", "using", "a", "large", "sample", "of", "queries", "from", "a", "real", "web", "search", "engine", ",", "and", "conclude", "by", "discussing", "how", "our", "query", "categorization", "approach", "can", "help", "improve", "query", "result", "quality", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "03", ",", "November", "3", "8", ",", "2003", ",", "New", "Orleans", ",", "Louisiana", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-723-0", "/", "03/0011", "...", "$", "5.00", ".", "H.", "3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "--", "query", "formulation", ",", "search", "process", "Algorithms", ",", "Experimentation", ",", "Human", "Factors", "Web", "pages", "-LRB-", "and", "resources", ",", "in", "general", "-RRB-", "can", "be", "characterized", "according", "to", "their", "geographical", "locality", ".", "For", "example", ",", "a", "web", "page", "with", "general", "information", "about", "wildflowers", "could", "be", "considered", "a", "global", "page", ",", "likely", "to", "be", "of", "interest", "to", "a", "ge-ographically", "broad", "audience", ".", "In", "contrast", ",", "a", "web", "page", "with", "listings", "on", "houses", "for", "sale", "in", "a", "specific", "city", "could", "be", "regarded", "as", "a", "local", "page", ",", "likely", "to", "be", "of", "interest", "only", "to", "an", "audience", "in", "a", "relatively", "narrow", "region", ".", "Earlier", "research", "-LSB-", "9", "-RSB-", "has", "addressed", "the", "problem", "of", "automatically", "computing", "the", "``", "geographical", "scope", "''", "of", "web", "resources", ".", "Often", "search", "engine", "queries", "-LRB-", "implicitly", "-RRB-", "target", "global", "web", "pages", ",", "while", "other", "queries", "are", "after", "local", "pages", ".", "For", "example", ",", "the", "best", "results", "for", "query", "-LSB-", "wildflowers", "-RSB-", "are", "probably", "global", "pages", "about", "wildflowers", "discussing", "what", "types", "of", "climates", "wildflowers", "grow", "in", ",", "where", "wildflowers", "can", "be", "purchased", ",", "or", "what", "types", "of", "wildflower", "species", "exist", ".", "In", "contrast", ",", "local", "pages", "that", "are", "relevant", "to", ",", "say", ",", "San", "Francisco", "are", "likely", "to", "be", "good", "matches", "for", "a", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "that", "was", "issued", "by", "a", "San", "Francisco", "resident", ",", "or", "by", "somebody", "moving", "to", "San", "Francisco", ",", "even", "if", "``", "San", "Francisco", "''", "is", "not", "mentioned", "in", "the", "query", ".", "The", "user", "'s", "intent", "when", "submitting", "a", "query", "may", "not", "be", "always", "easy", "to", "determine", ",", "but", "if", "underspecified", "queries", "such", "as", "-LSB-", "houses", "for", "sale", "-RSB-", "can", "be", "detected", ",", "they", "can", "be", "subsequently", "modified", "by", "adding", "the", "most", "likely", "target", "geographical", "location", "or", "by", "getting", "further", "user", "input", "to", "cus-tomize", "the", "results", ".", "Unfortunately", ",", "search", "engines", "do", "not", "analyze", "the", "geographical", "locality", "of", "queries", "and", "users", ",", "and", "hence", "often", "produce", "sub-optimal", "results", ",", "even", "if", "these", "results", "are", "on-topic", "and", "reasonably", "``", "popular", "''", "or", "``", "authoritative", ".", "''", "Thus", "query", "-LSB-", "wildflowers", "-RSB-", "might", "return", "pages", "that", "discuss", "wildflowers", "in", "specific", "U.S.", "states", "-LRB-", "and", "not", "general", "information", "about", "wildflowers", "-RRB-", ".", "In", "fact", ",", "as", "of", "the", "writing", "of", "this", "paper", ",", "the", "first", "10", "results", "that", "Google", "provides", "for", "this", "query", "include", "5", "pages", "each", "of", "which", "discusses", "wildflowers", "in", "only", "one", "U.S.", "325", "state", "-LRB-", "e.g.", ",", "``", "Texas", "Wildflowers", "''", "-RRB-", ".", "Similarly", ",", "the", "top", "10", "results", "that", "Google", "returns", "for", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "include", "real", "estate", "pages", "for", "Tuscany", ",", "United", "Kingdom", ",", "and", "New", "Zealand", ".", "These", "pages", "are", "likely", "to", "be", "irrelevant", "to", ",", "say", ",", "somebody", "interested", "in", "San", "Francisco", "real", "estate", "who", "types", "such", "an", "underspecified", "query", ".", "Deciding", "whether", "a", "query", "posed", "by", "a", "regular", "search", "engine", "user", "should", "produce", "mostly", "local", "or", "global", "pages", "is", "an", "important", "and", "challenging", "problem", ",", "because", "queries", "are", "often", "ambiguous", "or", "underspecify", "the", "information", "they", "are", "after", ",", "as", "in", "the", "examples", "above", ".", "By", "identifying", "that", ",", "say", ",", "query", "-LSB-", "wildflowers", "-RSB-", "is", "likely", "after", "``", "global", "''", "information", ",", "a", "search", "engine", "could", "rank", "the", "results", "for", "this", "query", "so", "that", "state-specific", "pages", "do", "not", "appear", "among", "the", "top", "matches", ".", "By", "identifying", "that", ",", "say", ",", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "is", "likely", "after", "``", "local", "''", "information", ",", "a", "search", "engine", "could", "filter", "out", "pages", "whose", "geographical", "locality", "is", "not", "appropriate", "for", "the", "user", "who", "issued", "the", "query", ".", "Note", "that", "deciding", "which", "location", "is", "of", "interest", "to", "a", "user", "who", "wrote", "an", "underspecified", "query", "such", "as", "-LSB-", "houses", "for", "sale", "-RSB-", "is", "an", "orthogonal", ",", "important", "issue", "that", "we", "do", "not", "address", "in", "this", "paper", ".", "Our", "focus", "is", "on", "identifying", "that", "such", "a", "query", "is", "after", "``", "local", "''", "pages", "in", "nature", ",", "and", "should", "therefore", "be", "treated", "differently", "by", "a", "search", "engine", "than", "queries", "that", "are", "after", "``", "global", "''", "pages", ".", "By", "knowing", "that", "a", "user", "query", "is", "after", "local", "information", ",", "a", "search", "engine", "might", "choose", "to", "privilege", "pages", "whose", "geographical", "locality", "coincides", "with", "that", "of", "the", "user", "'s", "or", ",", "alternatively", ",", "attempt", "to", "obtain", "further", "input", "from", "the", "user", "on", "what", "location", "is", "of", "interest", ".", "In", "this", "paper", ",", "we", "first", "define", "how", "to", "categorize", "user", "queries", "according", "to", "their", "-LRB-", "often", "implicit", "-RRB-", "geographical", "locality", ".", "We", "then", "introduce", "several", "alternatives", "for", "automatically", "and", "efficiently", "classifying", "queries", "according", "to", "their", "locality", ",", "using", "a", "variety", "of", "state-of-the-art", "machine", "learning", "tools", ".", "We", "report", "a", "thorough", "evaluation", "of", "our", "classifiers", "using", "a", "large", "sample", "of", "queries", "from", "a", "real", "web", "search", "engine", "query", "log", ".", "Finally", ",", "we", "discuss", "how", "our", "query", "categorization", "approach", "can", "help", "improve", "query", "result", "quality", ".", "The", "specific", "contributions", "of", "this", "paper", "are", "as", "follows", ":", "A", "discussion", "on", "how", "to", "categorize", "user", "queries", "according", "to", "their", "geographical", "locality", ",", "based", "on", "a", "careful", "analysis", "of", "a", "large", "query", "log", "from", "the", "Excite", "web", "site", "-LRB-", "Section", "3", "-RRB-", ".", "A", "feature", "representation", "for", "queries", ";", "we", "derive", "the", "feature", "representation", "of", "a", "query", "from", "the", "results", "produced", "for", "the", "query", "by", "a", "web", "search", "engine", "such", "as", "Google", "-LRB-", "Section", "4.1", "-RRB-", ".", "A", "variety", "of", "automatic", "query", "classification", "strategies", "that", "use", "our", "feature", "representation", "for", "queries", "-LRB-", "Section", "4.2", "-RRB-", ".", "A", "large-scale", "experimental", "evaluation", "of", "our", "strategies", "over", "real", "search", "engine", "queries", "-LRB-", "Section", "5", "-RRB-", ".", "Preliminary", "query", "reformulation", "and", "page", "re-ranking", "strategies", "that", "exploit", "our", "query", "classification", "techniques", "to", "improve", "query", "result", "quality", "-LRB-", "Section", "6", "-RRB-", ".", "Traditional", "information-retrieval", "research", "has", "studied", "how", "to", "best", "answer", "keyword-based", "queries", "over", "collections", "of", "text", "documents", "-LSB-", "18", "-RSB-", ".", "These", "collections", "are", "typically", "assumed", "to", "be", "relatively", "uniform", "in", "terms", "of", ",", "say", ",", "their", "quality", "and", "scope", ".", "With", "the", "advent", "of", "the", "web", ",", "researchers", "are", "studying", "other", "``", "dimensions", "''", "to", "the", "data", "that", "help", "separate", "useful", "resources", "from", "less-useful", "ones", "in", "an", "extremely", "heterogeneous", "environment", "like", "the", "web", ".", "Notably", ",", "the", "Google", "search", "engine", "-LSB-", "4", "-RSB-", "and", "the", "HITS", "algorithm", "-LSB-", "7", ",", "13", "-RSB-", "estimate", "the", "``", "impor-tance", "''", "of", "web", "pages", "by", "analyzing", "the", "hyperlinks", "that", "point", "to", "them", ",", "thus", "capturing", "an", "additional", "dimension", "to", "the", "web", "data", ",", "namely", "how", "important", "or", "authoritative", "the", "pages", "are", ".", "Ding", "et", "al.", "-LSB-", "9", "-RSB-", "extract", "yet", "another", "crucial", "dimension", "of", "the", "web", "data", ",", "namely", "the", "geographical", "scope", "of", "web", "pages", ".", "For", "example", ",", "the", "Stanford", "Daily", "newspaper", "has", "a", "geographical", "scope", "that", "consists", "of", "the", "city", "of", "Palo", "Alto", "-LRB-", "where", "Stanford", "University", "is", "located", "-RRB-", ",", "while", "the", "New", "York", "Times", "newspaper", "has", "a", "geographical", "scope", "that", "includes", "the", "entire", "U.S.", "To", "compute", "the", "geographical", "scope", "of", "a", "web", "page", ",", "Ding", "et", "al.", "propose", "two", "complementary", "strategies", ":", "a", "technique", "based", "on", "the", "geographical", "distribution", "of", "HTML", "links", "to", "the", "page", ",", "and", "a", "technique", "based", "on", "the", "distribution", "of", "geographical", "references", "in", "the", "text", "of", "the", "page", ".", "Ding", "et", "al.", "report", "on", "a", "search-engine", "prototype", "that", "simply", "filters", "out", "from", "the", "results", "for", "a", "user", "query", "any", "pages", "not", "in", "the", "geographical", "scope", "of", "the", "user", ".", "This", "technique", "does", "not", "attempt", "to", "determine", "whether", "a", "query", "is", "best", "answered", "with", "``", "global", "''", "or", "``", "local", "''", "pages", ",", "which", "is", "the", "focus", "of", "our", "paper", ".", "Ding", "et", "al.", "built", "on", "the", "work", "by", "Buyukkokten", "et", "al.", "-LSB-", "6", "-RSB-", ",", "who", "discussed", "how", "to", "map", "a", "web", "site", "-LRB-", "e.g.", ",", "http://www-db.stanford.edu", "-RRB-", "to", "a", "geographical", "location", "-LRB-", "e.g.", ",", "Palo", "Alto", "-RRB-", "and", "presented", "a", "tool", "to", "display", "the", "geographical", "origin", "of", "the", "HTML", "links", "to", "a", "given", "web", "page", ".", "This", "tool", "then", "helps", "visualize", "the", "geographical", "scope", "of", "web", "pages", "-LSB-", "6", "-RSB-", ".", "A", "few", "commercial", "web", "sites", "manually", "classify", "web", "resources", "by", "their", "location", ",", "or", "keep", "directory", "information", "that", "lists", "where", "each", "company", "or", "web", "site", "is", "located", ".", "The", "North-ernLight", "search", "engine", "1", "extracts", "addresses", "from", "web", "pages", ",", "letting", "users", "narrow", "their", "searches", "to", "specific", "geographical", "regions", "-LRB-", "e.g.", ",", "to", "pages", "``", "originated", "''", "within", "a", "five-mile", "radius", "of", "a", "given", "zip", "code", "-RRB-", ".", "Users", "benefit", "from", "this", "information", "because", "they", "can", "further", "filter", "their", "query", "results", ".", "McCurley", "-LSB-", "14", "-RSB-", "presented", "a", "variety", "of", "approaches", "for", "recognizing", "geographical", "references", "on", "web", "pages", ",", "together", "with", "a", "nav-igational", "tool", "to", "browse", "pages", "by", "geographical", "proximity", "and", "their", "spatial", "context", ".", "-LRB-", "Please", "refer", "to", "-LSB-", "16", "-RSB-", "for", "additional", "references", ".", "-RRB-", "None", "of", "these", "techniques", "addresses", "our", "focus", "problem", "in", "this", "paper", ":", "automatically", "determining", "the", "geographical", "locality", "associated", "with", "a", "given", ",", "unmodified", "search", "engine", "query", ".", "As", "discussed", "above", ",", "queries", "posed", "to", "a", "web", "search", "engine", "can", "be", "regarded", "as", "local", ",", "if", "their", "best", "matches", "are", "likely", "to", "be", "``", "local", "''", "pages", ",", "or", "as", "global", ",", "if", "their", "best", "matches", "are", "likely", "to", "be", "``", "global", "''", "pages", ".", "In", "an", "attempt", "to", "make", "this", "distinction", "more", "concrete", ",", "we", "now", "discuss", "several", "examples", "of", "local", "and", "global", "queries", ".", "Global", "queries", "often", "do", "not", "include", "a", "location", "name", ",", "as", "is", "the", "case", "for", "query", "-LSB-", "Perl", "scripting", "-RSB-", ".", "A", "user", "issuing", "this", "query", "is", "probably", "after", "tutorials", "about", "the", "Perl", "language", ",", "and", "hence", "pages", "on", "the", "topic", "with", "a", "restricted", "geographi-1", "http://www.northernlight.com/", "326", "cal", "scope", "are", "less", "desirable", "than", "global", "pages", ".", "Other", "global", "queries", "do", "not", "mention", "a", "location", "explicitly", "either", ",", "but", "are", "topically", "associated", "with", "one", "particular", "location", ".", "An", "example", "of", "such", "a", "query", "is", "-LSB-", "Elgin", "marbles", "-RSB-", ",", "which", "is", "topically", "associated", "with", "the", "city", "of", "Athens", ".", "We", "consider", "these", "queries", "as", "global", ",", "since", "their", "best", "matches", "are", "broad", ",", "global", "pages", ",", "not", "localized", "pages", "with", "a", "limited", "geographical", "scope", ".", "In-terestingly", ",", "global", "queries", "sometimes", "do", "include", "a", "location", "name", ".", "For", "example", ",", "a", "query", "might", "be", "just", "a", "location", "name", "-LRB-", "e.g.", ",", "-LSB-", "Galapagos", "Islands", "-RSB-", "-RRB-", "or", "a", "request", "for", "concrete", "information", "about", "a", "location", "-LRB-", "e.g.", ",", "-LSB-", "Boston", "area", "codes", "-RSB-", "-RRB-", ".", "General", "resources", "about", "the", "location", "-LRB-", "e.g.", ",", "tourist", "guides", "-RRB-", "are", "arguably", "to", "be", "preferred", "for", "such", "queries", ",", "which", "are", "hence", "regarded", "as", "global", ".", "Other", "global", "queries", "include", "locations", "that", "are", "strongly", "associated", "topic-wise", "with", "the", "rest", "of", "the", "query", ".", "Query", "-LSB-", "Woody", "Allen", "NYC", "-RSB-", "is", "an", "example", "of", "such", "a", "query", ".", "The", "location", "mentioned", "in", "this", "query", "-LRB-", "i.e.", ",", "``", "NYC", ",", "''", "for", "``", "New", "York", "City", "''", "-RRB-", "is", "not", "used", "to", "restrict", "query", "results", "to", "pages", "of", "interest", "to", "New", "York", "residents", ",", "but", "rather", "expresses", "a", "topic", "specification", ".", "Query", "-LSB-", "Ansel", "Adams", "Yosemite", "-RSB-", "is", "another", "example", ":", "photographer", "Ansel", "Adams", "took", "a", "famous", "series", "of", "photographs", "in", "Yosemite", ".", "Local", "queries", "often", "include", "a", "location", "name", ",", "as", "is", "the", "case", "for", "query", "-LSB-", "Wisconsin", "Christmas", "tree", "producers", "association", "-RSB-", ".", "The", "location", "mentioned", "in", "this", "query", "-LRB-", "i.e.", ",", "``", "Wisconsin", "''", "-RRB-", "is", "used", "to", "``", "localize", "''", "the", "query", "results", ".", "Query", "-LSB-", "houses", "for", "sale", "New", "York", "City", "-RSB-", "is", "a", "related", "example", ".", "Other", "local", "queries", "do", "not", "include", "a", "location", "name", ",", "but", "still", "implicitly", "request", "``", "localized", "''", "results", ".", "Query", "-LSB-", "houses", "for", "sale", "-RSB-", "is", "an", "example", "of", "such", "a", "query", ".", "These", "queries", "tend", "to", "be", "underspecified", ",", "but", "are", "still", "asked", "by", "-LRB-", "presumably", "na", "ive", "-RRB-", "search", "engine", "users", ".", "We", "conducted", "a", "thorough", "examination", "of", "a", "large", "number", "-LRB-", "over", "1,200", "-RRB-", "of", "real", "search", "engine", "queries", ".", "Most", "queries", "that", "we", "encountered", "can", "be", "cleanly", "categorized", "as", "being", "either", "global", "or", "local", ".", "However", ",", "other", "queries", "are", "inherently", "ambiguous", ",", "and", "their", "correct", "category", "is", "impossible", "to", "determine", "without", "further", "information", "on", "the", "user", "intent", "behind", "them", ".", "For", "example", ",", "query", "-LSB-", "New", "York", "pizza", "-RSB-", "could", "be", "con-strued", "as", "a", "local", "query", "if", "it", "is", ",", "say", ",", "after", "pizza", "delivery", "web", "sites", "for", "the", "New", "York", "area", ".", "In", "contrast", ",", "the", "same", "query", "could", "be", "regarded", "as", "a", "global", "query", "if", "the", "user", "who", "issues", "it", "wants", "to", "learn", "about", "the", "characteristics", "of", "New", "York-style", "pizza", ".", "We", "earlier", "established", "that", "queries", "are", "associated", "with", "local", "or", "global", "status", ",", "which", "influences", "the", "kind", "of", "results", "that", "are", "desirable", ".", "Since", "current", "search", "engines", "do", "not", "directly", "take", "into", "account", "geographical", "information", ",", "for", "certain", "types", "of", "queries", "they", "produce", "a", "large", "number", "of", "on-topic", "but", "un-wanted", "results", ",", "as", "in", "the", "-LSB-", "houses", "for", "sale", "-RSB-", "example", "discussed", "earlier", ".", "In", "this", "section", ",", "we", "discuss", "automatic", "methods", "that", "can", "determine", ",", "given", "a", "query", ",", "whether", "the", "query", "is", "a", "local", "or", "global", "one", ".", "To", "build", "the", "two-class", "classifier", ",", "we", "experimented", "with", "several", "state-of-the-art", "classification", "techniques", ",", "using", "widely", "available", "implementations", "for", "each", ".", "We", "describe", "below", "the", "features", "used", "in", "the", "classification", ",", "how", "we", "extract", "them", "from", "web", "pages", ",", "and", "the", "classifiers", "with", "which", "we", "experimented", ".", "4.1", "Classification", "Features", "Web", "queries", ",", "which", "we", "treat", "in", "this", "paper", "as", "ordered", "bags", "of", "words", "with", "no", "other", "structure", ",", "are", "typically", "fairly", "short", ".", "In", "the", "collection", "of", "2,477,283", "real", "queries", "that", "we", "used", "in", "our", "experiments", "-LRB-", "Section", "5.1", "-RRB-", ",", "84.9", "%", "were", "five", "words", "long", "or", "shorter", ".", "Because", "few", "words", "are", "available", "per", "query", ",", "basing", "the", "classification", "directly", "on", "the", "words", "in", "the", "query", "may", "lead", "to", "severe", "sparse", "data", "problems", ".", "Even", "more", "importantly", ",", "some", "of", "the", "characteristics", "that", "make", "a", "query", "local", "or", "global", "are", "not", "directly", "observable", "in", "the", "query", "itself", ",", "but", "rather", "in", "the", "results", "returned", ".", "For", "example", ",", "a", "query", "that", "returns", "results", "that", "contain", "few", "references", "to", "geographical", "locations", "is", "likely", "to", "be", "global", ",", "while", "a", "query", "that", "returns", "results", "spread", "uniformly", "over", "many", "locations", "without", "including", "a", "significant", "percentage", "of", "results", "with", "no", "locations", "is", "likely", "to", "be", "local", ".", "For", "these", "reasons", ",", "we", "base", "our", "classification", "on", "a", "sample", "of", "results", "actually", "returned", "for", "a", "given", "query", "rather", "than", "the", "words", "in", "the", "query", "itself", ".", "By", "observing", "distributional", "characteristics", "in", "the", "unmodified", "results", ",", "the", "classifier", "can", "infer", "the", "type", "of", "the", "query", "-LRB-", "global", "or", "local", "-RRB-", "so", "that", "the", "results", "can", "be", "appropriately", "filtered", "or", "re-ordered", ",", "or", "the", "query", "modified", ".", "In", "a", "way", "the", "approach", "is", "similar", "in", "spirit", "to", "query", "expansion", "techniques", "that", "rely", "on", "pseudo-relevance", "feedback", "-LSB-", "5", "-RSB-", ".", "In", "our", "experiments", ",", "we", "use", "Google", "-LRB-", "via", "the", "Google", "API", "2", "-RRB-", "to", "obtain", "the", "top", "50", "web", "pages", "that", "match", "the", "query", ".", "For", "simplicity", ",", "we", "limited", "our", "search", "to", "HTML", "pages", ",", "skipping", "over", "non-HTML", "documents", ".", "We", "chose", "Google", "because", "it", "represents", "state-of-the-art", "web", "search", "technology", "and", "offers", "a", "published", "interface", "for", "submitting", "large", "numbers", "of", "queries", ".", "We", "represent", "the", "web", "pages", "returned", "by", "Google", "as", "text", "documents", ".", "This", "conversion", "is", "achieved", "by", "using", "the", "lynx", "HTML", "browser", "with", "the", "-", "dump", "option", ".", "We", "base", "our", "classification", "features", "on", "measures", "of", "frequency", "and", "dispersion", "of", "location", "names", "in", "these", "text", "files", ".", "For", "this", "purpose", ",", "we", "have", "constructed", "a", "database", "of", "1,605", "location", "names", "by", "concatenating", "lists", "of", "all", "country", "names", "3", ",", "of", "the", "capitals", "of", "these", "countries", "4", ",", "of", "the", "fifty", "U.S.", "states", ",", "and", "of", "all", "cities", "in", "the", "United", "States", "with", "more", "than", "25,000", "people", "5", ".", "We", "then", "compare", "the", "words", "in", "each", "text", "document", "with", "the", "database", "of", "location", "names", ",", "and", "output", "any", "matching", "entries", "and", "their", "count", "per", "document", ".", "This", "matching", "is", "case", "insensitive", ",", "because", "we", "found", "capitalization", "of", "location", "names", "in", "web", "pages", "to", "be", "erratic", ".", "Note", "that", "we", "do", "not", "attempt", "to", "disambiguate", "words", "that", "match", "location", "names", "but", "also", "have", "other", "senses", "-LRB-", "e.g.", ",", "``", "China", "''", "-RRB-", ",", "as", "this", "is", "a", "hard", "problem", "in", "natural", "language", "analysis", ";", "instead", ",", "we", "count", "such", "words", "as", "locations", ".", "An", "alternative", "approach", "that", "would", "detect", "and", "disambiguate", "location", "names", "would", "be", "to", "use", "a", "named-entity", "tagger", ".", "We", "experimented", "with", "a", "well-known", "third-party", "named-entity", "tagger", ",", "but", "we", "encountered", "a", "very", "high", "error", "rate", "because", "of", "the", "noise", "often", "introduced", "in", "web", "pages", ".", "Our", "classification", "features", "combine", "these", "location", "counts", "in", "various", "ways", ".", "For", "each", "query", ",", "we", "measure", "the", "average", "2", "http://www.google.com/apis", "3", "Obtained", "from", "the", "United", "Nations", ",", "http://www.un.org/", "Overview/unmember.html", ".", "4", "Obtained", "from", "the", "CIA", "World", "Factbook", ",", "http://www", ".", "capitals.com", "/", ".", "5", "Obtained", "from", "the", "U.S.", "Census", "Bureau", "-LRB-", "2000", "census", "figures", "-RRB-", ",", "http://www.census.gov/prod/2002pubs/00ccdb/", "cc00_tabC1.pdf", ".", "327", "-LRB-", "per", "returned", "web", "page", "-RRB-", "number", "of", "location", "words", "in", "the", "retrieved", "results", ".", "We", "count", "the", "average", "frequency", "of", "location", "words", "at", "different", "levels", "of", "detail", "-LRB-", "country", ",", "state", ",", "city", "-RRB-", ",", "as", "well", "as", "the", "average", "of", "the", "aggregate", "total", "for", "all", "locations", ".", "We", "obtain", "these", "frequencies", "for", "both", "the", "total", "count", "-LRB-", "tokens", "-RRB-", "and", "the", "unique", "location", "words", "in", "each", "page", "-LRB-", "types", "-RRB-", ",", "as", "it", "is", "possible", "that", "a", "few", "locations", "would", "be", "repeated", "many", "times", "across", "the", "results", ",", "indicating", "a", "global", "query", ",", "or", "that", "many", "locations", "would", "be", "repeated", "few", "times", "each", ",", "indicating", "a", "local", "query", ".", "We", "also", "consider", "the", "total", "number", "of", "unique", "locations", "across", "all", "the", "returned", "documents", "taken", "together", ",", "divided", "by", "the", "number", "of", "retrieved", "documents", ".", "For", "the", "average", "token", "frequencies", "of", "city", ",", "state", ",", "and", "country", "locations", "we", "also", "calculate", "the", "minimum", "and", "maximum", "across", "the", "set", "of", "returned", "web", "pages", ".", "To", "account", "for", "the", "hierarchical", "nature", "of", "location", "information", ",", "we", "calculate", "an", "alternative", "frequency", "for", "states", "where", "we", "include", "in", "the", "count", "for", "each", "state", "the", "counts", "for", "all", "cities", "from", "that", "state", "that", "were", "found", "in", "that", "text", ";", "this", "allows", "us", "to", "group", "together", "location", "information", "for", "cities", "in", "the", "same", "state", ".", "We", "also", "include", "some", "distributional", "measures", ",", "namely", "the", "fraction", "of", "the", "pages", "that", "include", "at", "least", "one", "location", "of", "any", "kind", ",", "the", "percentage", "of", "words", "that", "match", "locations", "across", "all", "pages", ",", "and", "the", "standard", "deviation", "of", "the", "total", "per", "page", "location", "count", ".", "Finally", ",", "we", "add", "to", "our", "list", "of", "features", "the", "total", "number", "of", "words", "in", "all", "of", "the", "returned", "documents", ",", "to", "explore", "any", "effect", "the", "local/global", "distinction", "may", "have", "on", "the", "size", "of", "the", "returned", "documents", ".", "These", "calculations", "provide", "for", "20", "distinct", "features", "that", "are", "passed", "on", "to", "the", "classifier", ".", "6", "The", "core", "data", "needed", "to", "produce", "these", "20", "query", "features", "-LRB-", "i.e.", ",", "the", "locations", "mentioned", "in", "each", "web", "page", "-RRB-", "could", "be", "efficiently", "computed", "by", "a", "search", "engine", "such", "as", "Google", "at", "page-indexing", "time", ".", "Then", ",", "the", "final", "feature", "computation", "could", "be", "quickly", "performed", "at", "query", "time", "using", "this", "core", "data", ".", "4.2", "Classification", "Methods", "We", "initially", "trained", "a", "classifier", "using", "Ripper", "-LSB-", "8", "-RSB-", ",", "which", "constructs", "a", "rule-based", "classifier", "in", "an", "incremental", "manner", ".", "The", "algorithm", "creates", "an", "initial", "set", "of", "very", "specific", "rules", "based", "on", "the", "data", ",", "similar", "to", "the", "way", "in", "which", "decision", "trees", "are", "generated", ".", "The", "rules", "are", "then", "pruned", "iteratively", "to", "eliminate", "the", "ones", "that", "do", "not", "seem", "to", "be", "valid", "for", "a", "large", "enough", "subset", "of", "the", "training", "data", ",", "so", "as", "to", "prevent", "overfitting", ".", "Although", "Ripper", "provides", "a", "robust", "classifier", "with", "high", "accuracy", "and", "transparency", "-LRB-", "a", "human", "can", "easily", "examine", "the", "produced", "rules", "-RRB-", ",", "it", "outputs", "binary", "``", "local", "''", "``", "global", "''", "decisions", ".", "In", "many", "cases", ",", "it", "is", "preferable", "to", "obtain", "a", "measure", "of", "confidence", "in", "the", "result", "or", "an", "estimate", "of", "the", "probability", "that", "the", "assigned", "class", "is", "the", "correct", "one", ".", "To", "add", "this", "capability", "to", "our", "classifier", ",", "we", "experimented", "with", "logistic", "regression", "-LSB-", "19", "-RSB-", ".", "Logistic", ",", "or", "log-linear", ",", "regression", "models", "a", "binary", "output", "variable", "-LRB-", "the", "class", "-RRB-", "as", "a", "function", "of", "a", "weighted", "sum", "of", "several", "input", "variables", "-LRB-", "the", "classification", "features", "-RRB-", ".", "Con-ceptually", ",", "a", "linear", "predictor", "is", "first", "fitted", "over", "the", "training", "data", "in", "a", "manner", "identical", "to", "regular", "regression", "analysis", ",", "i.e.", ",", "=", "w", "0", "+", "k", "i", "=", "1", "w", "i", "F", "i", "where", "F", "i", "is", "the", "i-th", "feature", "and", "w", "i", "is", "the", "weight", "assigned", "to", "6", "Studying", "the", "effect", "on", "classification", "accuracy", "of", "a", "richer", "feature", "set", "-LRB-", "e.g.", ",", "including", "as", "well", "all", "words", "on", "the", "result", "pages", "-RRB-", "is", "the", "subject", "of", "interesting", "future", "work", ".", "that", "feature", "during", "training", ".", "Subsequently", ",", "is", "transformed", "to", "the", "final", "response", ",", "C", ",", "via", "the", "logistic", "transformation", "C", "=", "e", "1", "+", "e", "which", "guarantees", "that", "C", "is", "between", "0", "and", "1", ".", "Each", "of", "the", "endpoints", "of", "the", "interval", "-LRB-", "0", ",", "1", "-RRB-", "is", "associated", "with", "one", "of", "the", "classes", ",", "and", "C", "gives", "the", "probability", "that", "the", "correct", "class", "is", "the", "one", "associated", "with", "``", "1", "''", ".", "In", "practice", ",", "the", "calculations", "are", "not", "performed", "as", "a", "separate", "regression", "and", "transformation", ",", "but", "rather", "as", "a", "series", "of", "successive", "regressions", "of", "transformed", "variables", "via", "the", "iterative", "reweighted", "least", "squares", "algorithm", "-LSB-", "1", "-RSB-", ".", "7", "We", "used", "the", "implementation", "of", "log-linear", "regression", "provided", "in", "the", "R", "statistical", "package", ".", "8", "Another", "desideratum", "for", "our", "classifier", "is", "its", "ability", "to", "support", "different", "costs", "for", "the", "two", "possible", "kinds", "of", "errors", "-LRB-", "misclassifying", "local", "queries", "versus", "misclassifying", "global", "queries", "-RRB-", ".", "Which", "kind", "of", "error", "is", "the", "most", "important", "may", "vary", "for", "different", "settings", ";", "for", "our", "search", "modification", "application", ",", "we", "consider", "the", "misclassification", "of", "global", "queries", "as", "local", "ones", "a", "more", "serious", "error", ".", "This", "is", "because", "during", "our", "subsequent", "modification", "of", "the", "returned", "results", "-LRB-", "Section", "6", "-RRB-", ",", "we", "reorder", "the", "results", "for", "some", "of", "the", "queries", "that", "we", "consider", "global", ",", "but", "we", "modify", "the", "original", "queries", "for", "some", "of", "the", "queries", "classified", "as", "local", ",", "returning", "potentially", "very", "different", "results", ".", "Consequently", ",", "the", "results", "can", "change", "more", "significantly", "for", "a", "query", "classified", "as", "local", ",", "and", "the", "potential", "for", "error", "is", "higher", "when", "a", "global", "query", "is", "labeled", "local", "than", "the", "other", "way", "around", ".", "Both", "Ripper", "and", "log-linear", "regression", "can", "incorporate", "different", "costs", "for", "each", "type", "of", "error", ".", "We", "experimented", "with", "a", "third", "classification", "approach", "that", "also", "supports", "this", "feature", ",", "Support", "Vector", "Machines", "-LRB-", "SVMs", "-RRB-", "-LSB-", "2", "-RSB-", ",", "which", "have", "been", "found", "quite", "effective", "for", "text", "matching", "problems", "-LSB-", "11", "-RSB-", ".", "SVM", "classifiers", "conceptually", "convert", "the", "original", "measurements", "of", "the", "features", "in", "the", "data", "to", "points", "in", "a", "high-dimensional", "space", "that", "facilitates", "the", "separation", "between", "the", "two", "classes", "more", "than", "the", "original", "representation", ".", "While", "the", "transformation", "between", "the", "original", "and", "the", "high-dimensional", "space", "may", "be", "complex", ",", "it", "needs", "not", "to", "be", "carried", "out", "explicitly", ".", "Instead", ",", "it", "is", "sufficient", "to", "calculate", "a", "kernel", "function", "that", "only", "involves", "dot", "products", "between", "the", "transformed", "data", "points", ",", "and", "can", "be", "calculated", "directly", "in", "the", "original", "feature", "space", ".", "We", "report", "experiments", "with", "two", "of", "the", "most", "common", "kernel", "functions", ":", "a", "linear", "kernel", ",", "K", "-LRB-", "x", ",", "y", "-RRB-", "=", "x", "y", "+", "1", "and", "a", "Gaussian", "-LRB-", "radial", "basis", "function", "-RRB-", "kernel", ",", "K", "-LRB-", "x", ",", "y", "-RRB-", "=", "e", "-", "x-y", "2", "/", "2", "2", "where", "is", "a", "parameter", "-LRB-", "representing", "the", "standard", "deviation", "of", "the", "underlying", "distribution", "-RRB-", ".", "This", "latter", "kernel", "has", "been", "recommended", "for", "text", "matching", "tasks", "-LSB-", "10", "-RSB-", ".", "Regardless", "of", "the", "choice", "of", "kernel", ",", "determining", "the", "optimal", "classifier", "is", "equivalent", "to", "determining", "the", "hyperplane", "that", "maximizes", "the", "total", "distance", "between", "itself", "and", "representative", "transformed", "data", "points", "-LRB-", "the", "support", "vectors", "-RRB-", ".", "Finding", "the", "optimal", "classifier", "therefore", "becomes", "a", "constrained", "quadratic", "optimization", "7", "This", "is", "because", "the", "modeled", "distribution", "is", "binomial", "rather", "than", "normal", ",", "and", "hence", "the", "variance", "depends", "on", "the", "mean-see", "-LSB-", "19", "-RSB-", "for", "the", "technical", "details", ".", "8", "http://www.r-project.org/", "328", "Set", "Original", "number", "of", "queries", "Number", "of", "appropriate", "queries", "Global", "Local", "Training", "595", "439", "368", "-LRB-", "83.8", "%", "-RRB-", "71", "-LRB-", "16.2", "%", "-RRB-", "Development", "199", "148", "125", "-LRB-", "84.5", "%", "-RRB-", "23", "-LRB-", "15.5", "%", "-RRB-", "Test", "497", "379", "334", "-LRB-", "88.1", "%", "-RRB-", "45", "-LRB-", "11.9", "%", "-RRB-", "Table", "1", ":", "Distribution", "of", "global", "and", "local", "queries", "in", "our", "training", ",", "development", ",", "and", "test", "sets", ".", "problem", ".", "In", "our", "experiments", ",", "we", "use", "the", "SVM-Light", "implementation", "9", "-LSB-", "12", "-RSB-", ".", "In", "many", "binary", "classification", "tasks", ",", "one", "of", "the", "two", "classes", "predominates", ",", "and", "thus", "trained", "classifiers", "tend", "to", "favor", "that", "class", "in", "the", "absence", "of", "strong", "evidence", "to", "the", "contrary", ".", "This", "certainly", "applies", "to", "our", "task", ";", "as", "we", "show", "in", "Section", "5.1", ",", "83", "89", "%", "of", "web", "queries", "are", "global", ".", "Weiss", "and", "Provost", "-LSB-", "21", "-RSB-", "showed", "that", "this", "imbalance", "can", "lead", "to", "inferior", "classifier", "performance", "on", "the", "test", "set", ",", "and", "that", "the", "problem", "can", "be", "addressed", "through", "oversampling", "of", "the", "rarer", "class", "in", "the", "training", "data", ".", "Their", "method", "examines", "different", "oversampling", "rates", "by", "constructing", "artificial", "training", "sets", "where", "the", "smaller", "class", "is", "randomly", "oversampled", "to", "achieve", "a", "specific", "ratio", "between", "samples", "from", "the", "two", "classes", ".", "For", "each", "such", "sampling", "ratio", ",", "a", "classifier", "is", "trained", ",", "which", "assigns", "a", "score", "to", "each", "object", "indicating", "strength", "of", "evidence", "for", "one", "of", "the", "classes", ".", "By", "fixing", "a", "specific", "strength", "threshold", ",", "we", "divide", "the", "classifier", "output", "into", "the", "two", "classes", ".", "Further", ",", "by", "varying", "this", "threshold", "10", "we", "can", "obtain", "an", "error-rate", "curve", "for", "each", "class", "as", "a", "function", "of", "the", "threshold", ".", "The", "entire", "process", "results", "in", "a", "Receiver-Operator", "Characteristic", "-LRB-", "ROC", "-RRB-", "curve", "-LSB-", "3", "-RSB-", "for", "each", "sampling", "ratio", ".", "Specific", "points", "on", "the", "curve", "that", "optimize", "the", "desired", "combination", "of", "error", "rates", "can", "then", "be", "selected", ",", "and", "the", "performance", "of", "the", "classification", "method", "across", "the", "different", "thresholds", "can", "be", "measured", "from", "the", "area", "between", "the", "curve", "and", "the", "x-axis", ".", "Weiss", "and", "Provost", "use", "the", "C4", ".5", "classifier", "-LSB-", "17", "-RSB-", ",", "a", "decision", "tree", "classifier", "with", "additional", "pruning", "of", "nodes", "to", "avoid", "overfitting", ".", "We", "use", "a", "software", "package", "provided", "by", "them", "-LRB-", "and", "consequently", "also", "the", "C4", ".5", "algorithm", "-RRB-", "to", "explore", "the", "effect", "that", "different", "ratios", "of", "global", "to", "local", "queries", "during", "training", "have", "on", "classifier", "performance", ".", "We", "now", "describe", "the", "data", "-LRB-", "Section", "5.1", "-RRB-", "and", "metrics", "-LRB-", "Section", "5.2", "-RRB-", "that", "we", "use", "for", "the", "experimental", "evaluation", "of", "the", "query", "classifiers", "-LRB-", "Section", "5.3", "-RRB-", ".", "5.1", "Data", "For", "the", "experiments", "reported", "in", "this", "paper", ",", "we", "used", "a", "sample", "of", "real", "queries", "submitted", "to", "the", "Excite", "search", "engine", ".", "11", "We", "had", "access", "to", "a", "portion", "of", "the", "December", "1999", "query", "log", "of", "Excite", ",", "containing", "2,477,283", "queries", ".", "We", "randomly", "selected", "initial", "sets", "of", "queries", "for", "training", ",", "development", "-LRB-", "tuning", "the", "parameters", "of", "the", "classifiers", "we", "train", "-RRB-", ",", "and", "testing", "purposes", "by", "selecting", "each", "of", "these", "queries", "for", "inclusion", "in", "each", "set", "with", "a", "constant", "-LRB-", "very", "small", "-RRB-", "probability", ".", "These", "probabilities", "were", "set", "to", "400/2", ",477,283", ",", "400/2", ",477,283", ",", "and", "500/2", ",477,283", "9", "Available", "from", "http://svmlight.joachims.org/", ".", "10", "Setting", "the", "threshold", "to", "each", "extreme", "assigns", "all", "or", "none", "of", "the", "data", "points", "to", "that", "category", ".", "11", "http://www.excite.com/", "for", "the", "three", "sets", ",", "respectively", ".", "Subsequently", "we", "combined", "the", "training", "and", "development", "set", ",", "and", "reassigned", "the", "queries", "in", "the", "combined", "set", "so", "that", "three-fourths", "were", "placed", "in", "the", "training", "set", "and", "one-fourth", "in", "the", "development", ";", "we", "kept", "the", "test", "set", "separate", ".", "This", "process", "generated", "595", ",", "199", ",", "and", "497", "queries", "in", "the", "initial", "versions", "of", "the", "training", ",", "development", ",", "and", "test", "sets", ".", "We", "further", "eliminated", "queries", "that", "passed", "any", "of", "the", "following", "tests", ":", "Upon", "examination", ",", "they", "appeared", "likely", "to", "produce", "results", "with", "explicit", "sexual", "content", ".", "When", "supplied", "to", "Google", "--", "and", "after", "filtering", "out", "any", "non-HTML", "results", "and", "any", "broken", "links", "--", "the", "queries", "produced", "fewer", "than", "40", "files", ".", "This", "constraint", "is", "meant", "to", "ensure", "that", "we", "are", "not", "including", "in", "our", "experimental", "data", "queries", "that", "contain", "misspellings", "or", "deal", "with", "extremely", "esoteric", "subjects", ",", "for", "which", "not", "enough", "material", "for", "determining", "locality", "would", "be", "available", ".", "They", "had", "already", "been", "included", "in", "an", "earlier", "set", "-LRB-", "we", "constructed", "first", "the", "training", "set", ",", "then", "the", "development", "set", ",", "and", "finally", "the", "test", "set", "-RRB-", ".", "Since", "multiple", "people", "may", "issue", "the", "same", "query", ",", "duplicates", "can", "be", "found", "in", "the", "log", ".", "Although", "our", "algorithms", "take", "no", "special", "advantage", "of", "duplicates", ",", "we", "eliminated", "them", "to", "avoid", "any", "bias", ".", "Taking", "into", "account", "variations", "of", "upper/lower", "case", "and", "spacing", "between", "queries", "-LRB-", "but", "not", "word", "order", "-RRB-", ",", "this", "constraint", "removed", "6", "queries", "from", "the", "test", "set", ".", "These", "filtering", "steps", "left", "us", "with", "439", "queries", "in", "the", "training", "set", ",", "148", "queries", "in", "the", "development", "set", ",", "and", "379", "queries", "in", "the", "test", "set", ".", "We", "then", "classified", "the", "queries", "using", "the", "criteria", "laid", "out", "in", "Section", "3", ".", "Table", "1", "shows", "the", "size", "of", "the", "three", "sets", "before", "and", "after", "filtering", ",", "and", "the", "distribution", "of", "local", "and", "global", "queries", "in", "each", "set", ".", "We", "observe", "that", ",", "in", "general", ",", "most", "queries", "-LRB-", "83", "89", "%", "-RRB-", "tend", "to", "be", "global", ".", "5.2", "Evaluation", "Metrics", "We", "consider", "a", "number", "of", "evaluation", "metrics", "to", "rate", "the", "performance", "of", "the", "various", "classifiers", "and", "their", "configurations", ".", "Since", "a", "large", "majority", "of", "the", "queries", "are", "global", "-LRB-", "85.6", "%", "in", "the", "training", ",", "development", ",", "and", "test", "sets", "combined", "-RRB-", ",", "overall", "classification", "accuracy", "-LRB-", "i.e.", ",", "the", "percentage", "of", "correct", "classification", "decisions", "-RRB-", "may", "not", "be", "the", "most", "appropriate", "measure", ".", "This", "is", "because", "a", "baseline", "method", "that", "always", "suggests", "the", "most", "populous", "class", "-LRB-", "``", "global", "''", "-RRB-", "will", "have", "an", "accuracy", "equal", "to", "the", "proportion", "of", "global", "queries", "in", "the", "evaluated", "set", ".", "Yet", "such", "a", "classifier", "will", "offer", "no", "improvement", "during", "search", "since", "it", "provides", "no", "new", "information", ".", "The", "situation", "is", "analogous", "to", "applications", "in", "information", "retrieval", "or", "medicine", "where", "very", "few", "of", "the", "samples", "should", "be", "labeled", "positive", "-LRB-", "e.g.", ",", "in", "a", "test", "for", "a", "disease", "that", "affects", "only", "0.1", "%", "329", "of", "patients", "-RRB-", ".", "While", "we", "do", "not", "want", "overall", "accuracy", "to", "decrease", "from", "the", "baseline", "-LRB-", "at", "least", "not", "significantly", "-RRB-", ",", "we", "will", "utilize", "measures", "that", "capture", "the", "classifier", "'s", "improved", "ability", "to", "detect", "the", "rarer", "class", "relative", "to", "the", "baseline", "method", ".", "Two", "standard", "such", "metrics", "are", "precision", "and", "recall", "for", "the", "local", "queries", ".", "Precision", "is", "the", "ratio", "of", "the", "number", "of", "items", "correctly", "assigned", "to", "the", "class", "divided", "by", "the", "total", "number", "of", "items", "assigned", "to", "the", "class", ".", "Recall", "is", "the", "ratio", "of", "the", "number", "of", "items", "correctly", "assigned", "to", "a", "class", "as", "compared", "with", "the", "total", "number", "of", "items", "in", "the", "class", ".", "Note", "that", "the", "baseline", "method", "achieves", "precision", "of", "100", "%", "but", "recall", "of", "0", "%", ".", "For", "a", "given", "classifier", "with", "adjustable", "parameters", ",", "often", "precision", "can", "be", "increased", "at", "the", "expense", "of", "recall", ",", "and", "vice", "versa", ";", "therefore", "we", "also", "compute", "the", "F-measure", "-LSB-", "20", "-RSB-", "-LRB-", "with", "equal", "weights", "-RRB-", "to", "combine", "precision", "and", "recall", "into", "a", "single", "number", ",", "F-measure", "=", "2", "Precision", "Recall", "Precision", "+", "Recall", "Finally", ",", "we", "argued", "earlier", "that", "one", "kind", "of", "misclassification", "errors", "may", "be", "assigned", "a", "higher", "cost", ".", "We", "can", "then", "calculate", "the", "average", "cost", "-LSB-", "15", "-RSB-", ",", "Average", "cost", "=", "X", "-LCB-", "Global", ",", "Local", "-RCB-", "Cost", "-LRB-", "X", "-RRB-", "Rate", "-LRB-", "X", "-RRB-", "where", "Cost", "-LRB-", "X", "-RRB-", "is", "the", "cost", "of", "wrong", "X", "classifications", "and", "Rate", "-LRB-", "X", "-RRB-", "is", "the", "rate", "of", "wrong", "X", "classifications", ".", "Average", "cost", "is", "the", "measure", "to", "minimize", "from", "a", "decision", "theory", "perspective", ".", "The", "rate", "of", "wrong", "classifications", "for", "a", "class", "is", "equal", "to", "the", "number", "of", "data", "points", "that", "have", "been", "misclassified", "into", "that", "class", "divided", "by", "the", "total", "number", "of", "classification", "decisions", ",", "and", "the", "costs", "for", "each", "misclassification", "error", "are", "predetermined", "parameters", ".", "If", "both", "costs", "are", "set", "to", "1", ",", "then", "the", "average", "cost", "becomes", "equal", "to", "the", "total", "error", "rate", ",", "i.e.", ",", "one", "minus", "accuracy", ".", "In", "our", "experiments", ",", "we", "report", "the", "average", "cost", "considering", "the", "mislabeling", "of", "global", "queries", "as", "local", "twice", "as", "important", "as", "the", "mislabeling", "of", "local", "queries", ",", "for", "the", "reasons", "explained", "in", "the", "previous", "section", ".", "5.3", "Results", "We", "trained", "the", "classifiers", "of", "Section", "4.2", "on", "the", "439", "queries", "in", "our", "training", "set", ".", "Ripper", "and", "the", "regression", "model", "were", "trained", "on", "that", "training", "set", "without", "modification", ".", "For", "C4", ".5", "and", "SVMs", ",", "we", "explored", "the", "effect", "that", "different", "proportions", "of", "local", "queries", "in", "the", "training", "set", "have", "on", "overall", "performance", ".", "For", "that", "purpose", ",", "we", "used", "our", "development", "set", "to", "evaluate", "the", "performance", "effects", "of", "different", "local", "query", "proportions", ",", "and", "select", "the", "optimal", "classifier", "within", "each", "family", ".", "For", "the", "C4.5-based", "classifier", ",", "we", "used", "the", "C4", ".4", "software", "provided", "by", "Foster", "Provost", "and", "Claudia", "Perlich", "to", "explore", "the", "effect", "of", "different", "proportions", "of", "local", "and", "global", "queries", ".", "We", "created", "training", "sets", "by", "randomly", "oversampling", "or", "un-dersampling", "the", "minority", "-LRB-", "local", "-RRB-", "class", "as", "needed", ",", "in", "increments", "of", "10", "%", ".", "For", "any", "given", "proportion", "of", "local", "queries", "between", "10", "%", "and", "90", "%", ",", "we", "started", "from", "our", "training", "set", ",", "modified", "it", "according", "to", "the", "above", "sampling", "method", "to", "have", "the", "desired", "proportion", "of", "local", "queries", ",", "trained", "the", "corresponding", "C4", ".5", "classifier", ",", "and", "evaluated", "its", "performance", "on", "our", "development", "set", ".", "The", "natural", "proportion", "of", "the", "local", "class", "in", "the", "unmodified", "training", "data", "is", "also", "included", "as", "one", "of", "the", "proportions", "used", "to", "build", "and", "evaluate", "a", "classifier", ".", "In", "this", "manner", ",", "we", "obtain", "curves", "for", "the", "various", "metrics", "as", "the", "proportion", "of", "local", "queries", "varies", "-LRB-", "Figure", "1", "-RRB-", ".", "We", "observe", "Figure", "1", ":", "Evaluation", "metrics", "for", "C4", ".5", "classifiers", "trained", "on", "different", "proportions", "of", "local", "queries", ".", "that", "the", "highest", "value", "for", "precision", "and", "F-measure", ",", "and", "the", "lowest", "value", "for", "the", "average", "cost", ",", "are", "obtained", "when", "the", "classifier", "is", "trained", "with", "a", "significantly", "amplified", "proportion", "of", "local", "queries", "-LRB-", "80", "%", "-RRB-", ".", "Further", ",", "running", "C4", ".5", "with", "80", "%", "local", "queries", "also", "produced", "the", "largest", "area", "under", "the", "ROC", "curve", "obtained", "when", "different", "precision/recall", "tradeoffs", "in", "the", "development", "set", "are", "explored", ".", "On", "the", "basis", "of", "this", "information", ",", "we", "selected", "the", "proportion", "of", "80", "%", "local", "queries", "as", "the", "optimal", "configuration", "for", "C4", ".5", ".", "We", "refer", "to", "that", "configuration", "as", "C4", ".5", "-LRB-", "80", "-RRB-", ",", "and", "this", "is", "the", "version", "of", "C4", ".5", "that", "we", "evaluated", "on", "the", "test", "set", ".", "Using", "our", "own", "implementation", "for", "constructing", "extended", "training", "sets", "with", "a", "given", "proportion", "of", "local", "queries", ",", "we", "performed", "similar", "experiments", "for", "Support", "Vector", "Machines", "with", "linear", "and", "Gaussian", "kernels", ".", "For", "these", "classifiers", ",", "we", "also", "experimented", "with", "versions", "trained", "with", "equal", "error", "costs", "for", "the", "two", "kinds", "of", "classification", "errors", ",", "and", "with", "versions", "where", ",", "during", "training", ",", "a", "false", "local", "assignment", "counts", "for", "twice", "as", "much", "as", "a", "false", "global", "assignment", ".", "We", "found", "that", "the", "optimal", "proportion", "of", "local", "queries", "is", "closer", "to", "the", "natural", "proportion", "with", "SVMs", "compared", "to", "C4", ".5", "classifiers", ";", "the", "proportions", "chosen", "from", "our", "development", "set", "were", "50", "%", "for", "the", "linear", "SVM", "classifier", "with", "equal", "error", "costs", ",", "30", "%", "for", "the", "linear", "SVM", "classifier", "with", "unequal", "error", "costs", ",", "30", "%", "for", "the", "Gaussian", "SVM", "classifier", "with", "equal", "error", "costs", ",", "and", "20", "%", "for", "the", "Gaussian", "SVM", "classifier", "with", "unequal", "error", "costs", ".", "We", "denote", "the", "optimal", "classifiers", "from", "these", "four", "families", "as", "SVM-Linear-E", "-LRB-", "50", "-RRB-", ",", "SVM-Linear-U", "-LRB-", "30", "-RRB-", ",", "SVM-Gaussian-E", "-LRB-", "30", "-RRB-", ",", "and", "SVM-Gaussian-U", "-LRB-", "20", "-RRB-", ",", "respectively", ".", "Figure", "2", "shows", "the", "curve", "obtained", "for", "the", "SVM-Gaussian-U", "family", "of", "classifiers", ".", "Having", "determined", "the", "best", "value", "for", "the", "proportion", "of", "local", "queries", "for", "C4", ".5", "and", "SVM-based", "classifiers", ",", "we", "evaluate", "these", "classifiers", ",", "as", "well", "as", "the", "classifiers", "obtained", "from", "Ripper", "and", "log-linear", "regression", ",", "on", "our", "test", "set", ".", "12", "Table", "2", "shows", "the", "values", "of", "the", "evaluation", "metrics", "obtained", "on", "the", "unseen", "test", "set", ".", "The", "classifier", "using", "a", "linear", "kernel", "SVM", "with", "unequal", "error", "costs", "achieves", "the", "highest", "F-measure", ",", "12", "We", "also", "experimented", "with", "variable", "error", "costs", "for", "the", "Ripper", "classifier", ",", "using", "the", "same", "2:1", "error", "cost", "correspondence", ",", "but", "the", "resulting", "classifier", "was", "identical", "to", "the", "Ripper", "classifier", "obtained", "with", "equal", "error", "costs", ".", "330", "Classifier", "Recall", "Precision", "F-Measure", "Average", "Cost", "Accuracy", "Ripper", "53.33", "%", "47.06", "%", "50.00", "%", "0.1979", "87.34", "%", "Log-linear", "Regression", "37.78", "%", "58.62", "%", "45.95", "%", "0.1372", "89.45", "%", "C4", ".5", "-LRB-", "80", "-RRB-", "40.00", "%", "32.73", "%", "36.00", "%", "0.2665", "83.11", "%", "SVM-Linear-E", "-LRB-", "50", "-RRB-", "48.89", "%", "48.89", "%", "48.89", "%", "0.1821", "87.86", "%", "SVM-Linear-U", "-LRB-", "30", "-RRB-", "48.89", "%", "53.66", "%", "51.16", "%", "0.1609", "88.92", "%", "SVM-Gaussian-E", "-LRB-", "30", "-RRB-", "37.78", "%", "53.13", "%", "44.16", "%", "0.1530", "88.65", "%", "SVM-Gaussian-U", "-LRB-", "20", "-RRB-", "37.78", "%", "53.13", "%", "44.16", "%", "0.1530", "88.65", "%", "Baseline", "-LRB-", "always", "global", "-RRB-", "0.00", "%", "100.00", "%", "0.00", "%", "0.1187", "88.13", "%", "Table", "2", ":", "Evaluation", "metrics", "on", "the", "test", "set", "of", "selected", "classifiers", "optimized", "over", "the", "development", "set", ".", "Figure", "2", ":", "Evaluation", "metrics", "for", "Support", "Vector", "Machines", "with", "Gaussian", "kernel", "and", "false", "local", "assignments", "weighted", "twice", "as", "much", "as", "false", "global", "assignments", ",", "trained", "on", "different", "proportions", "of", "local", "queries", ".", "while", "the", "log-linear", "classifier", "achieves", "the", "lowest", "average", "classification", "cost", ".", "As", "expected", ",", "the", "SVM", "classifiers", "that", "were", "trained", "with", "unequal", "error", "costs", "achieve", "the", "same", "or", "lower", "average", "cost", "-LRB-", "which", "also", "utilizes", "the", "same", "unequal", "error", "costs", "-RRB-", "compared", "to", "their", "counterparts", "trained", "with", "equal", "error", "costs", ".", "Overall", ",", "Ripper", ",", "log-linear", "regression", ",", "and", "the", "two", "SVM", "classifiers", "with", "linear", "kernels", "achieve", "the", "highest", "performance", ",", "with", "small", "differences", "between", "them", ".", "They", "are", "followed", "by", "the", "two", "SVM", "classifiers", "with", "a", "Gaussian", "kernel", "function", ",", "while", "C4", ".5", "trails", "significantly", "behind", "the", "other", "classifiers", ".", "The", "features", "used", "for", "classification", "vary", "considerably", "from", "classifier", "to", "classifier", ".", "13", "Ripper", "achieves", "one", "of", "the", "best", "classification", "performances", "using", "only", "one", "simple", "rule", ",", "based", "only", "on", "the", "average", "number", "of", "city", "locations", "per", "returned", "web", "page", ":", "if", "that", "number", "exceeds", "a", "threshold", ",", "the", "query", "is", "classified", "as", "local", ",", "otherwise", "as", "global", ".", "On", "the", "other", "hand", ",", "the", "C4", ".5", "and", "SVM", "classifiers", "utilize", "all", "or", "almost", "all", "the", "features", ".", "The", "log-linear", "regression", "classifier", "falls", "in-between", "these", "two", "extremes", ",", "and", "primarily", "utilizes", "the", "average", "numbers", "of", "unique", "city", ",", "state", ",", "and", "country", "names", "per", "retrieved", "page", ",", "as", "well", "as", "the", "total", "number", "of", "unique", "locations", "per", "page", "-LRB-", "4", "features", "-RRB-", ".", "For", "concreteness", ",", "and", "to", "conclude", "our", "discussion", ",", "Table", "3", "13", "Most", "classifiers", "automatically", "ignore", "some", "of", "the", "provided", "features", ",", "to", "avoid", "overfitting", ".", "shows", "the", "performance", "of", "our", "classifiers", "on", "a", "few", "representative", "examples", "of", "local", "and", "global", "queries", ".", "The", "core", "of", "this", "paper", "is", "on", "classifying", "queries", "as", "either", "local", "or", "global", ".", "In", "this", "section", ",", "we", "present", "preliminary", "ideas", "on", "how", "to", "exploit", "this", "classification", "to", "improve", "the", "quality", "of", "the", "query", "results", ".", "Further", "exploration", "of", "these", "and", "other", "directions", "is", "the", "subject", "of", "interesting", "future", "work", ".", "Consider", "a", "query", "that", "has", "been", "classified", "as", "local", "using", "the", "techniques", "of", "Section", "4", ".", "By", "definition", ",", "this", "query", "is", "best", "answered", "with", "``", "localized", "''", "pages", ".", "We", "can", "easily", "determine", "if", "the", "query", "includes", "any", "location", "name", "by", "using", "the", "dictionary-based", "approach", "of", "Section", "4.1", ".", "If", "no", "locations", "are", "present", "in", "the", "query", "-LRB-", "e.g.", ",", "as", "in", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "-RRB-", ",", "in", "the", "absence", "of", "further", "information", "we", "can", "attempt", "to", "``", "localize", "''", "the", "query", "results", "to", "the", "geographical", "area", "of", "the", "user", "issuing", "the", "query", ",", "for", "which", "we", "can", "rely", "on", "registration", "information", "provided", "by", "the", "user", ",", "for", "example", ".", "Consequently", ",", "we", "can", "simply", "expand", "the", "query", "by", "appending", "the", "user", "'s", "location", "to", "it", ",", "to", "turn", ",", "say", ",", "the", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "into", "-LSB-", "houses", "for", "sale", "San", "Francisco", "-RSB-", "for", "a", "San", "Francisco", "resident", ".", "Alternatively", ",", "a", "search", "engine", "might", "attempt", "to", "obtain", "additional", "information", "from", "the", "user", "to", "further", "localize", "the", "query", "as", "appropriate", ".", "For", "example", ",", "the", "query", "-LSB-", "houses", "for", "sale", "-RSB-", "can", "then", "be", "transformed", "into", "-LSB-", "houses", "for", "sale", "New", "York", "City", "-RSB-", "for", "a", "San", "Francisco", "resident", "who", "is", "moving", "to", "New", "York", "City", ".", "In", "either", "case", ",", "the", "expanded", "query", "will", "tend", "to", "produce", "much", "more", "focused", "and", "localized", "results", "than", "the", "original", "query", "does", ".", "As", "of", "the", "writing", "of", "this", "paper", ",", "all", "of", "the", "top-10", "results", "returned", "by", "Google", "for", "query", "-LSB-", "houses", "for", "sale", "San", "Francisco", "-RSB-", "are", "results", "of", "relevance", "to", "a", "person", "interested", "in", "Bay", "Area", "real", "estate", ".", "In", "contrast", ",", "most", "of", "the", "results", "for", "the", "original", "query", ",", "-LSB-", "houses", "for", "sale", "-RSB-", ",", "are", "irrelevant", "to", "such", "a", "person", ",", "as", "discussed", "in", "the", "Introduction", ".", "An", "alternative", ",", "more", "expensive", "strategy", "for", "handling", "these", "queries", "is", "to", "compute", "and", "exploit", "the", "geographical", "scope", "of", "web", "pages", "as", "defined", "in", "-LSB-", "9", "-RSB-", ".", "Then", ",", "pages", "with", "a", "geographical", "scope", "that", "includes", "the", "location", "of", "the", "user", "issuing", "the", "query", "would", "be", "preferred", "over", "other", "pages", ".", "In", "contrast", ",", "a", "local", "query", "in", "which", "locations", "are", "mentioned", "is", "likely", "to", "return", "pages", "with", "the", "right", "locality", ",", "making", "any", "further", "modification", "of", "the", "query", "or", "reranking", "of", "the", "results", "unnecessary", ".", "Consider", "now", "a", "query", "that", "has", "been", "classified", "as", "global", "using", "the", "techniques", "of", "Section", "4", ".", "By", "definition", ",", "this", "query", "is", "best", "answered", "with", "``", "broad", "''", "pages", ".", "Rather", "than", "attempting", "to", "modify", "a", "global", "query", "so", "that", "it", "returns", "``", "broad", "''", "pages", ",", "we", "can", "follow", "a", "result", "reranking", "strategy", "to", "privilege", "these", "pages", "over", "more", "localized", "ones", ".", "One", "possible", "reranking", "strategy", "is", "to", "reorder", "the", "results", "from", ",", "say", ",", "Google", "for", "331", "Class", "Query", "Classifier", "Ripper", "Regression", "C4", ".5", "-LRB-", "80", "-RRB-", "SVM-LE", "SVM-LU", "SVM-GE", "SVM-GU", "Global", "-LSB-", "Perl", "scripting", "-RSB-", "Global", "-0.9381", "Global", "-1.9163", "-1.7882", "-1.0627", "-1.0590", "-LSB-", "world", "news", "-RSB-", "Global", "-0.8306", "Local", "-0.5183", "-0.3114", "-0.4166", "-0.1440", "-LSB-", "wildflowers", "-RSB-", "Global", "-0.5421", "Global", "-0.7267", "-0.8082", "-0.8931", "-0.8144", "-LSB-", "Elgin", "marbles", "-RSB-", "Local", "0.4690", "Local", "0.6426", "0.6654", "0.0378", "0.1016", "-LSB-", "Galapagos", "Islands", "-RSB-", "Global", "-0.7941", "Global", "-1.2834", "-1.1998", "-0.9826", "-0.8575", "-LSB-", "Boston", "zip", "code", "-RSB-", "Local", "-0.0243", "Local", "0.6874", "0.6152", "0.0408", "0.0797", "-LSB-", "Woody", "Allen", "NYC", "-RSB-", "Global", "-0.2226", "Global", "-0.3253", "-0.3541", "-0.6182", "-0.5272", "Local", "-LSB-", "houses", "for", "sale", "-RSB-", "Global", "-0.6759", "Global", "-1.0769", "-1.0962", "-0.9242", "-0.8516", "-LSB-", "Volkswagen", "clubs", "-RSB-", "Local", "-0.0933", "Global", "1.0844", "0.7917", "0.0562", "0.0837", "-LSB-", "Wisconsin", "Christmas", "tree", "producers", "association", "-RSB-", "Global", "0.1927", "Local", "-0.1667", "-0.4421", "-0.4461", "-0.3582", "-LSB-", "New", "York", "style", "pizza", "delivery", "-RSB-", "Global", "-0.0938", "Global", "-0.5945", "-0.6809", "-0.5857", "-0.4824", "Table", "3", ":", "Classification", "assignments", "made", "by", "different", "classifiers", "on", "several", "example", "queries", ".", "SVM-LE", ",", "SVM-LU", ",", "SVM-GE", ",", "and", "SVM-GU", "stand", "for", "classifiers", "SVM-Linear-E", "-LRB-", "50", "-RRB-", ",", "SVM-Linear-U", "-LRB-", "30", "-RRB-", ",", "SVM-Gaussian-E", "-LRB-", "30", "-RRB-", ",", "and", "SVM-Gaussian-U", "-LRB-", "20", "-RRB-", ",", "respectively", ".", "For", "regression", "and", "SVM", "classifiers", ",", "positive", "numbers", "indicate", "assignment", "to", "the", "local", "class", ",", "and", "negative", "numbers", "indicate", "assignment", "to", "the", "global", "class", ";", "the", "absolute", "magnitude", "of", "the", "numbers", "increases", "as", "the", "classifier", "'s", "confidence", "in", "its", "decision", "increases", ".", "-LRB-", "We", "linearly", "transformed", "the", "regression", "output", "from", "the", "-LRB-", "0", ",", "1", "-RRB-", "to", "the", "-LRB-", "-1", ",", "1", "-RRB-", "range", ".", "-RRB-", "The", "scale", "of", "the", "numbers", "is", "consistent", "across", "queries", "and", "between", "all", "SVM", "classifiers", ",", "but", "not", "directly", "comparable", "between", "regression", "classifiers", "-LRB-", "bound", "between", "-1", "and", "1", "-RRB-", "and", "SVM", "classifiers", "-LRB-", "unbounded", "-RRB-", ".", "the", "unmodified", "query", "based", "on", "the", "geographical", "scope", "of", "the", "pages", "as", "defined", "in", "-LSB-", "9", "-RSB-", ".", "Thus", "pages", "with", "a", "broad", "geographical", "scope", "-LRB-", "e.g.", ",", "covering", "the", "entire", "United", "States", "-RRB-", "would", "prevail", "over", "other", "pages", "with", "a", "narrower", "scope", ".", "A", "less", "expensive", "alternative", "is", "to", "classify", "the", "result", "pages", "as", "local", "or", "global", "following", "a", "procedure", "similar", "to", "that", "of", "Section", "4", "for", "queries", ".", "Specifically", ",", "we", "implemented", "this", "alternative", "by", "training", "C4", ".5", "Rules", ",", "a", "rule-based", "version", "of", "the", "C4", ".5", "decision-tree", "classifier", ",", "with", "a", "collection", "of", "140", "web", "pages", "categorized", "in", "the", "Yahoo!", "directory", ".", "Pages", "classified", "under", "individual", "states", "in", "the", "``", "Regional", "''", "portion", "of", "the", "directory", "were", "regarded", "as", "local", ",", "while", "pages", "under", "general", "categories", "were", "regarded", "as", "global", ".", "The", "feature", "representation", "for", "the", "pages", "was", "analogous", "to", "that", "for", "the", "queries", "in", "Section", "4.1", "but", "restricted", "to", "features", "that", "are", "meaningful", "over", "individual", "pages", "-LRB-", "e.g.", ",", "total", "number", "of", "locations", "on", "a", "page", "-RRB-", ",", "as", "opposed", "to", "over", "a", "collection", "of", "pages", "-LRB-", "e.g.", ",", "minimum", "number", "of", "locations", "per", "page", "in", "the", "top-50", "result", "pages", "for", "a", "query", "-RRB-", ".", "At", "query", "time", ",", "we", "reorder", "the", "results", "so", "as", "to", "privilege", "global", "pages", "over", "local", "ones", ".", "This", "is", "based", "on", "the", "locality", "classification", "of", "the", "pages", ",", "which", "can", "be", "precomputed", "off-line", "since", "it", "is", "query-independent", "or", "performed", "on", "the", "fly", "as", "we", "do", "in", "our", "prototype", "implementation", ".", "This", "procedure", "is", "efficient", ",", "and", "produced", "promising", "initial", "results", "for", "a", "handful", "of", "global", "queries", "-LRB-", "e.g.", ",", "-LSB-", "wildflowers", "-RSB-", "-RRB-", "that", "we", "tried", ".", "Our", "preliminary", "approach", "to", "query", "modification", "is", "therefore", "as", "follows", ":", "Given", "a", "query", "specified", "by", "the", "user", ",", "we", "supply", "first", "the", "unmodified", "query", "to", "the", "search", "engine", "and", "collect", "the", "top", "50", "results", ".", "We", "extract", "location", "names", "from", "these", "results", "14", ",", "and", "calculate", "the", "features", "of", "Section", "4.1", ".", "Using", "one", "of", "the", "best", "performing", "classifiers", "of", "Section", "4", ",", "we", "determine", "if", "the", "query", "is", "global", "or", "local", ".", "If", "it", "is", "local", "and", "14", "As", "noted", "earlier", ",", "these", "names", "could", "be", "cached", "along", "with", "each", "web", "page", "at", "the", "time", "of", "indexing", ",", "to", "increase", "efficiency", ".", "contains", "at", "least", "one", "location", "name", ",", "nothing", "is", "done", "--", "the", "results", "returned", "from", "the", "unmodified", "query", "are", "presented", "to", "the", "user", ".", "If", "the", "query", "is", "local", "and", "contains", "no", "location", ",", "we", "add", "the", "user", "'s", "location", "-LRB-", "or", ",", "alternatively", ",", "request", "further", "information", "from", "the", "user", ",", "as", "discussed", "-RRB-", ",", "reissue", "the", "query", "and", "present", "the", "results", ".", "Finally", ",", "if", "the", "query", "is", "global", ",", "we", "calculate", "the", "scope", "of", "each", "retrieved", "web", "page", "using", "part", "of", "the", "location", "features", "computed", "earlier", "and", "the", "C4", ".5", "Rules", "classifier", ",", "and", "rerank", "the", "results", "so", "that", "more", "global", "pages", "are", "higher", "in", "the", "list", "shown", "to", "the", "user", ".", "We", "have", "built", "a", "prototype", "implementation", "of", "this", "algorithm", ",", "using", "the", "classifier", "obtained", "from", "Ripper", "-LRB-", "because", "of", "the", "relative", "simplicity", "of", "its", "rules", "-RRB-", "for", "query", "classification", ",", "and", "Google", "as", "the", "search", "engine", ".", "We", "have", "described", "an", "attribute", "of", "queries", ",", "locality", ",", "that-to", "the", "best", "of", "our", "knowledge", "--", "has", "not", "been", "explored", "before", "either", "in", "theoretical", "work", "or", "in", "practical", "search", "engines", "but", "can", "significantly", "affect", "the", "appropriateness", "of", "the", "results", "returned", "to", "the", "user", ".", "We", "defined", "a", "categorization", "scheme", "for", "queries", "based", "on", "their", "geographical", "locality", ",", "and", "showed", "how", "queries", "can", "be", "represented", "for", "purposes", "of", "determining", "locality", "by", "features", "based", "on", "location", "names", "found", "in", "the", "results", "they", "produce", ".", "Using", "these", "features", ",", "automatic", "classifiers", "for", "determining", "locality", "can", "be", "built", ".", "We", "explored", "several", "state-of-the-art", "classification", "approaches", ",", "and", "evaluated", "their", "performance", "on", "a", "large", "set", "of", "actual", "queries", ".", "The", "empirical", "results", "indicated", "that", "for", "many", "queries", "locality", "can", "be", "determined", "effectively", ".", "The", "bulk", "of", "the", "paper", "discussed", "methods", "for", "classifying", "queries", "according", "to", "locality", ",", "and", "empirically", "established", "that", "this", "is", "desirable", "and", "feasible", "for", "many", "queries", ".", "We", "also", "presented", "some", "first", "thoughts", "on", "possible", "query", "refor-332", "mulation", "and", "result", "reranking", "strategies", "that", "utilize", "locality", "information", "to", "actually", "improve", "the", "results", "the", "user", "sees", ".", "Although", "our", "strategies", "for", "query", "modification", "and", "result", "reranking", "are", "preliminary", ",", "they", "illustrate", "a", "promising", "family", "of", "approaches", "that", "we", "plan", "to", "investigate", "in", "the", "future", "so", "that", "we", "can", "exploit", "the", "classification", "of", "queries", "based", "on", "their", "geographical", "locality", "in", "order", "to", "improve", "search", "result", "quality", ".", "This", "material", "is", "based", "upon", "work", "supported", "in", "part", "by", "the", "National", "Science", "Foundation", "under", "Grants", "No", ".", "IIS-97-33880", "and", "IIS-98-17434", ".", "We", "are", "grateful", "to", "Claudia", "Perlich", "and", "Foster", "Provost", "for", "providing", "us", "with", "their", "adaptation", "of", "the", "C4", ".5", "classifier", "that", "we", "used", "in", "our", "experiments", ".", "Also", ",", "we", "would", "like", "to", "thank", "Thorsten", "Joachims", "for", "answering", "our", "questions", "on", "SVM-Light", ",", "and", "David", "Parkes", "for", "his", "helpful", "comments", "and", "insight", ".", "-LSB-", "1", "-RSB-", "D.", "M.", "Bates", "and", "D.", "G.", "Watts", ".", "Nonlinear", "Regression", "Analysis", "and", "its", "Applications", ".", "Wiley", ",", "New", "York", ",", "1988", ".", "-LSB-", "2", "-RSB-", "B.", "E.", "Boser", ",", "I.", "M.", "Guyon", ",", "and", "V.", "Vapnik", ".", "A", "training", "algorithm", "for", "optimal", "margin", "classifiers", ".", "In", "Proceedings", "of", "the", "Fifth", "Annual", "Workshop", "on", "Computational", "Learning", "Theory", ",", "Pittsburgh", ",", "1992", ".", "-LSB-", "3", "-RSB-", "A.", "Bradley", ".", "The", "use", "of", "the", "area", "under", "the", "ROC", "curve", "in", "the", "evaluation", "of", "machine", "learning", "algorithms", ".", "Pattern", "Recognition", ",", "30", "-LRB-", "7", "-RRB-", ":", "1145", "1159", ",", "1998", ".", "-LSB-", "4", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine", ".", "In", "Proceedings", "of", "the", "Seventh", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW7", "-RRB-", ",", "Apr.", "1998", ".", "-LSB-", "5", "-RSB-", "C.", "Buckley", ",", "J.", "Allan", ",", "G.", "Salton", ",", "and", "A.", "Singhal", ".", "Automatic", "query", "expansion", "using", "SMART", ":", "TREC", "3", ".", "In", "Proceedings", "of", "the", "Third", "Text", "REtrieval", "Conference", "-LRB-", "TREC-3", "-RRB-", ",", "pages", "69", "80", ",", "April", "1995", ".", "NIST", "Special", "Publication", "500-225", ".", "-LSB-", "6", "-RSB-", "O.", "Buyukkokten", ",", "J.", "Cho", ",", "H.", "Garc", "ia-Molina", ",", "L.", "Gravano", ",", "and", "N.", "Shivakumar", ".", "Exploiting", "geographical", "location", "information", "of", "web", "pages", ".", "In", "Proceedings", "of", "the", "ACM", "SIGMOD", "Workshop", "on", "the", "Web", "and", "Databases", "-LRB-", "WebDB", "'", "99", "-RRB-", ",", "June", "1999", ".", "-LSB-", "7", "-RSB-", "S.", "Chakrabarti", ",", "B.", "Dom", ",", "P.", "Raghavan", ",", "S.", "Rajagopalan", ",", "D.", "Gibson", ",", "and", "J.", "Kleinberg", ".", "Automatic", "resource", "compilation", "by", "analyzing", "hyperlink", "structure", "and", "associated", "text", ".", "In", "Proceedings", "of", "the", "Seventh", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW7", "-RRB-", ",", "Apr.", "1998", ".", "-LSB-", "8", "-RSB-", "W.", "W.", "Cohen", ".", "Learning", "trees", "and", "rules", "with", "set-valued", "functions", ".", "In", "Proceedings", "of", "the", "Thirteenth", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", ",", "1996", ".", "-LSB-", "9", "-RSB-", "J.", "Ding", ",", "L.", "Gravano", ",", "and", "N.", "Shivakumar", ".", "Computing", "geographical", "scopes", "of", "web", "resources", ".", "In", "Proceedings", "of", "the", "Twenty-sixth", "International", "Conference", "on", "Very", "Large", "Databases", "-LRB-", "VLDB", "'", "00", "-RRB-", ",", "2000", ".", "-LSB-", "10", "-RSB-", "G.", "W.", "Flake", ",", "E.", "J.", "Glover", ",", "S.", "Lawrence", ",", "and", "C.", "L.", "Giles", ".", "Extracting", "query", "modifications", "from", "nonlinear", "SVMs", ".", "In", "Proceedings", "of", "the", "Eleventh", "International", "World-Wide", "Web", "Conference", ",", "Dec.", "2002", ".", "-LSB-", "11", "-RSB-", "M.", "A.", "Hearst", ".", "Trends", "and", "controversies", ":", "Support", "vector", "machines", ".", "IEEE", "Intelligent", "Systems", ",", "13", "-LRB-", "4", "-RRB-", ":", "18", "28", ",", "July", "1998", ".", "-LSB-", "12", "-RSB-", "T.", "Joachims", ".", "Estimating", "the", "generalization", "of", "performance", "of", "an", "SVM", "efficiently", ".", "In", "Proceedings", "of", "the", "Fourteenth", "International", "Conference", "on", "Machine", "Learning", ",", "2000", ".", "-LSB-", "13", "-RSB-", "J.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "In", "Proceedings", "of", "the", "Ninth", "Annual", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", ",", "pages", "668", "677", ",", "Jan.", "1998", ".", "-LSB-", "14", "-RSB-", "K.", "S.", "McCurley", ".", "Geospatial", "mapping", "and", "navigation", "of", "the", "web", ".", "In", "Proceedings", "of", "the", "Tenth", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW10", "-RRB-", ",", "May", "2001", ".", "-LSB-", "15", "-RSB-", "M.", "Pazzani", ",", "C.", "Merz", ",", "P.", "Murphy", ",", "K.", "Ali", ",", "T.", "Hume", ",", "and", "C.", "Brunk", ".", "Reducing", "misclassification", "costs", ".", "In", "Proceedings", "of", "the", "Eleventh", "International", "Conference", "on", "Machine", "Learning", ",", "Sept.", "1997", ".", "-LSB-", "16", "-RSB-", "R.", "Purves", ",", "A.", "Ruas", ",", "M.", "Sanderson", ",", "M.", "Sester", ",", "M.", "van", "Kreveld", ",", "and", "R.", "Weibel", ".", "Spatial", "information", "retrieval", "and", "geographical", "ontologies", ":", "An", "overview", "of", "the", "SPIRIT", "project", ".", "In", "Proceedings", "of", "the", "25th", "ACM", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "'", "02", "-RRB-", ",", "2002", ".", "-LSB-", "17", "-RSB-", "R.", "J.", "Quinlan", ".", "C4", ".5", ":", "Programs", "for", "Machine", "Learning", ".", "Morgan", "Kaufman", ",", "1993", ".", "-LSB-", "18", "-RSB-", "G.", "Salton", ".", "Automatic", "Text", "Processing", ":", "The", "transformation", ",", "analysis", ",", "and", "retrieval", "of", "information", "by", "computer", ".", "Addison-Wesley", ",", "1989", ".", "-LSB-", "19", "-RSB-", "T.", "J.", "Santner", "and", "D.", "E.", "Duffy", ".", "The", "Statistical", "Analysis", "of", "Discrete", "Data", ".", "Springer-Verlag", ",", "New", "York", ",", "1989", ".", "-LSB-", "20", "-RSB-", "C.", "J.", "van", "Rijsbergen", ".", "Information", "Retrieval", ".", "Butterworths", ",", "London", ",", "2nd", "edition", ",", "1979", ".", "-LSB-", "21", "-RSB-", "G.", "M.", "Weiss", "and", "F.", "Provost", ".", "The", "effect", "of", "class", "distribution", "on", "classifier", "learning", ":", "An", "empirical", "study", ".", "Technical", "Report", "ML-TR-44", ",", "Computer", "Science", "Department", ",", "Rutgers", "University", ",", "Aug.", "2001", ".", "333"], "doc_bio_tags": ["O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information retrieval", "query classification", "search engine", "search engines", "query modification", "web search", "local page", "web queries", "global page", "geographical locality", "categorization scheme"], "abstractive_keyphrases": ["query categorization / query classification"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "1", "document": ["2-Source", "Dispersers", "for", "Sub-Polynomial", "Entropy", "and", "Ramsey", "Graphs", "Beating", "the", "Frankl-Wilson", "Construction", "The", "main", "result", "of", "this", "paper", "is", "an", "explicit", "disperser", "for", "two", "independent", "sources", "on", "n", "bits", ",", "each", "of", "entropy", "k", "=", "n", "o", "-LRB-", "1", "-RRB-", ".", "Put", "differently", ",", "setting", "N", "=", "2", "n", "and", "K", "=", "2", "k", ",", "we", "construct", "explicit", "N", "N", "Boolean", "matrices", "for", "which", "no", "K", "K", "sub-matrix", "is", "monochromatic", ".", "Viewed", "as", "adjacency", "matrices", "of", "bipartite", "graphs", ",", "this", "gives", "an", "explicit", "construction", "of", "K-Ramsey", "bipartite", "graphs", "of", "size", "N", ".", "This", "greatly", "improves", "the", "previous", "bound", "of", "k", "=", "o", "-LRB-", "n", "-RRB-", "of", "Barak", ",", "Kindler", ",", "Shaltiel", ",", "Sudakov", "and", "Wigderson", "-LSB-", "4", "-RSB-", ".", "It", "also", "significantly", "improves", "the", "25-year", "record", "of", "k", "=", "~", "O", "-LRB-", "n", "-RRB-", "on", "the", "special", "case", "of", "Ramsey", "graphs", ",", "due", "to", "Frankl", "and", "Wilson", "-LSB-", "9", "-RSB-", ".", "The", "construction", "uses", "-LRB-", "besides", "``", "classical", "''", "extractor", "ideas", "-RRB-", "almost", "all", "of", "the", "machinery", "developed", "in", "the", "last", "couple", "of", "years", "for", "extraction", "from", "independent", "sources", ",", "including", ":", "Bourgain", "'s", "extractor", "for", "2", "independent", "sources", "of", "some", "entropy", "rate", "<", "1/2", "-LSB-", "5", "-RSB-", "Raz", "'s", "extractor", "for", "2", "independent", "sources", ",", "one", "of", "which", "has", "any", "entropy", "rate", ">", "1/2", "-LSB-", "18", "-RSB-", "Supported", "by", "a", "Princeton", "University", "startup", "grant", ".", "Most", "of", "this", "work", "was", "done", "while", "the", "author", "was", "visiting", "Princeton", "University", "and", "the", "Institute", "for", "Advanced", "Study", ".", "Supported", "in", "part", "by", "an", "MCD", "fellowship", "from", "UT", "Austin", "and", "NSF", "Grant", "CCR-0310960", ".", "This", "research", "was", "supported", "by", "the", "United", "States-Israel", "Binational", "Science", "Foundation", "-LRB-", "BSF", "-RRB-", "grant", "2004329", ".", "This", "research", "was", "supported", "by", "NSF", "Grant", "CCR-0324906", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "STOC", "'", "06", ",", "May", "21", "23", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-134-1", "/", "06/0005", "...", "$", "5.00", ".", "Rao", "'s", "extractor", "for", "2", "independent", "block-sources", "of", "entropy", "n", "-LRB-", "1", "-RRB-", "-LSB-", "17", "-RSB-", "The", "``", "Challenge-Response", "''", "mechanism", "for", "detecting", "``", "entropy", "concentration", "''", "of", "-LSB-", "4", "-RSB-", ".", "The", "main", "novelty", "comes", "in", "a", "bootstrap", "procedure", "which", "allows", "the", "Challenge-Response", "mechanism", "of", "-LSB-", "4", "-RSB-", "to", "be", "used", "with", "sources", "of", "less", "and", "less", "entropy", ",", "using", "recursive", "calls", "to", "itself", ".", "Subtleties", "arise", "since", "the", "success", "of", "this", "mechanism", "depends", "on", "restricting", "the", "given", "sources", ",", "and", "so", "recursion", "constantly", "changes", "the", "original", "sources", ".", "These", "are", "resolved", "via", "a", "new", "construct", ",", "in", "between", "a", "disperser", "and", "an", "extractor", ",", "which", "behaves", "like", "an", "extractor", "on", "sufficiently", "large", "subsources", "of", "the", "given", "ones", ".", "This", "version", "is", "only", "an", "extended", "abstract", ",", "please", "see", "the", "full", "version", ",", "available", "on", "the", "authors", "'", "homepages", ",", "for", "more", "details", ".", "G.", "2.2", "-LSB-", "Mathematics", "of", "Computing", "-RSB-", ":", "Discrete", "Mathematics", "--", "Graph", "algorithms", "Theory", ",", "Algorithms", "This", "paper", "deals", "with", "randomness", "extraction", "from", "weak", "random", "sources", ".", "Here", "a", "weak", "random", "source", "is", "a", "distribution", "which", "contains", "some", "entropy", ".", "The", "extraction", "task", "is", "to", "design", "efficient", "algorithms", "-LRB-", "called", "extractors", "-RRB-", "to", "convert", "this", "entropy", "into", "useful", "form", ",", "namely", "a", "sequence", "of", "independent", "unbiased", "bits", ".", "Beyond", "the", "obvious", "motivations", "-LRB-", "potential", "use", "of", "physical", "sources", "in", "pseudorandom", "generators", "and", "in", "derandomization", "-RRB-", ",", "extractors", "have", "found", "applications", "in", "a", "671", "variety", "of", "areas", "in", "theoretical", "computer", "science", "where", "randomness", "does", "not", "seem", "an", "issue", ",", "such", "as", "in", "efficient", "constructions", "of", "communication", "networks", "-LSB-", "24", ",", "7", "-RSB-", ",", "error", "correcting", "codes", "-LSB-", "22", ",", "12", "-RSB-", ",", "data", "structures", "-LSB-", "14", "-RSB-", "and", "more", ".", "Most", "work", "in", "this", "subject", "over", "the", "last", "20", "years", "has", "focused", "on", "what", "is", "now", "called", "seeded", "extraction", ",", "in", "which", "the", "extractor", "is", "given", "as", "input", "not", "only", "the", "-LRB-", "sample", "from", "the", "-RRB-", "defective", "random", "source", ",", "but", "also", "a", "few", "truly", "random", "bits", "-LRB-", "called", "the", "seed", "-RRB-", ".", "A", "comprehensive", "survey", "of", "much", "of", "this", "body", "of", "work", "is", "-LSB-", "21", "-RSB-", ".", "Another", "direction", ",", "which", "has", "been", "mostly", "dormant", "till", "about", "two", "years", "ago", ",", "is", "-LRB-", "seedless", ",", "deterministic", "-RRB-", "extraction", "from", "a", "few", "independent", "weak", "sources", ".", "This", "kind", "of", "extraction", "is", "important", "in", "several", "applications", "where", "it", "is", "unrealis-tic", "to", "have", "a", "short", "random", "seed", "or", "deterministically", "enumerate", "over", "its", "possible", "values", ".", "However", ",", "it", "is", "easily", "shown", "to", "be", "impossible", "when", "only", "one", "weak", "source", "is", "available", ".", "When", "at", "least", "2", "independent", "sources", "are", "available", "extraction", "becomes", "possible", "in", "principle", ".", "The", "2-source", "case", "is", "the", "one", "we", "will", "focus", "on", "in", "this", "work", ".", "The", "rest", "of", "the", "introduction", "is", "structured", "as", "follows", ".", "We", "'ll", "start", "by", "describing", "our", "main", "result", "in", "the", "context", "of", "Ramsey", "graphs", ".", "We", "then", "move", "to", "the", "context", "of", "extractors", "and", "disperser", ",", "describing", "the", "relevant", "background", "and", "stating", "our", "result", "in", "this", "language", ".", "Then", "we", "give", "an", "overview", "of", "the", "construction", "of", "our", "dispersers", ",", "describing", "the", "main", "building", "blocks", "we", "construct", "along", "the", "way", ".", "As", "the", "construction", "is", "quite", "complex", "and", "its", "analysis", "quite", "subtle", ",", "in", "this", "proceedings", "version", "we", "try", "to", "abstract", "away", "many", "of", "the", "technical", "difficulties", "so", "that", "the", "main", "ideas", ",", "structure", "and", "tools", "used", "are", "highlighted", ".", "For", "that", "reason", "we", "also", "often", "state", "definitions", "and", "theorems", "somewhat", "informally", ".", "1.1", "Ramsey", "Graphs", "Definition", "1.1", ".", "A", "graph", "on", "N", "vertices", "is", "called", "a", "K-Ramsey", "Graph", "if", "it", "contains", "no", "clique", "or", "independent", "set", "of", "size", "K", ".", "In", "1947", "Erd", "os", "published", "his", "paper", "inaugurating", "the", "Prob-abilistic", "Method", "with", "a", "few", "examples", ",", "including", "a", "proof", "that", "most", "graphs", "on", "N", "=", "2", "n", "vertices", "are", "2n-Ramsey", ".", "The", "quest", "for", "constructing", "such", "graphs", "explicitly", "has", "existed", "ever", "since", "and", "lead", "to", "some", "beautiful", "mathematics", ".", "The", "best", "record", "to", "date", "was", "obtained", "in", "1981", "by", "Frankl", "and", "Wilson", "-LSB-", "9", "-RSB-", ",", "who", "used", "intersection", "theorems", "for", "set", "systems", "to", "construct", "N", "-", "vertex", "graphs", "which", "are", "2", "n", "log", "n", "-", "Ramsey", ".", "This", "bound", "was", "matched", "by", "Alon", "-LSB-", "1", "-RSB-", "using", "the", "Polynomial", "Method", ",", "by", "Grolmusz", "-LSB-", "11", "-RSB-", "using", "low", "rank", "matrices", "over", "rings", ",", "and", "also", "by", "Barak", "-LSB-", "2", "-RSB-", "boosting", "Abbot", "'s", "method", "with", "almost", "k-wise", "independent", "random", "variables", "-LRB-", "a", "construction", "that", "was", "independently", "discovered", "by", "others", "as", "well", "-RRB-", ".", "Remark-ably", "all", "of", "these", "different", "approaches", "got", "stuck", "at", "essentially", "the", "same", "bound", ".", "In", "recent", "work", ",", "Gopalan", "-LSB-", "10", "-RSB-", "showed", "that", "other", "than", "the", "last", "construction", ",", "all", "of", "these", "can", "be", "viewed", "as", "coming", "from", "low-degree", "symmetric", "representations", "of", "the", "OR", "function", ".", "He", "also", "shows", "that", "any", "such", "symmetric", "representation", "can", "not", "be", "used", "to", "give", "a", "better", "Ramsey", "graph", ",", "which", "gives", "a", "good", "indication", "of", "why", "these", "constructions", "had", "similar", "performance", ".", "Indeed", ",", "as", "we", "will", "discuss", "in", "a", "later", "section", ",", "the", "n", "entropy", "bound", "initially", "looked", "like", "a", "natural", "obstacle", "even", "for", "our", "techniques", ",", "though", "eventually", "we", "were", "able", "to", "surpass", "it", ".", "The", "analogous", "question", "for", "bipartite", "graphs", "seemed", "much", "harder", ".", "Definition", "1.2", ".", "A", "bipartite", "graph", "on", "two", "sets", "of", "N", "vertices", "is", "a", "K-Ramsey", "Bipartite", "Graph", "if", "it", "has", "no", "K", "K", "complete", "or", "empty", "bipartite", "subgraph", ".", "While", "Erd", "os", "'", "result", "on", "the", "abundance", "of", "2n-Ramsey", "graphs", "holds", "as", "is", "for", "bipartite", "graphs", ",", "until", "recently", "the", "best", "explicit", "construction", "of", "bipartite", "Ramsey", "graphs", "was", "2", "n/2", "Ramsey", ",", "using", "the", "Hadamard", "matrix", ".", "This", "was", "improved", "last", "year", ",", "first", "to", "o", "-LRB-", "2", "n/2", "-RRB-", "by", "Pudlak", "and", "R", "odl", "-LSB-", "16", "-RSB-", "and", "then", "to", "2", "o", "-LRB-", "n", "-RRB-", "by", "Barak", ",", "Kindler", ",", "Shaltiel", ",", "Sudakov", "and", "Wigderson", "-LSB-", "4", "-RSB-", ".", "It", "is", "convenient", "to", "view", "such", "graphs", "as", "functions", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", ".", "This", "then", "gives", "exactly", "the", "definition", "of", "a", "disperser", ".", "Definition", "1.3", ".", "A", "function", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", "is", "called", "a", "2-source", "disperser", "for", "entropy", "k", "if", "for", "any", "two", "sets", "X", ",", "Y", "-LCB-", "0", ",", "1", "-RCB-", "n", "with", "|", "X", "|", "=", "|", "Y", "|", "=", "2", "k", ",", "we", "have", "that", "the", "image", "f", "-LRB-", "X", ",", "Y", "-RRB-", "is", "-LCB-", "0", ",", "1", "-RCB-", ".", "This", "allows", "for", "a", "more", "formal", "definition", "of", "explicitness", ":", "we", "simply", "demand", "that", "the", "function", "f", "is", "computable", "in", "polynomial", "time", ".", "Most", "of", "the", "constructions", "mentioned", "above", "are", "explicit", "in", "this", "sense", ".", "1", "Our", "main", "result", "-LRB-", "stated", "informally", "-RRB-", "significantly", "improves", "the", "bounds", "in", "both", "the", "bipartite", "and", "non-bipartite", "settings", ":", "Theorem", "1.4", ".", "For", "every", "N", "we", "construct", "polynomial", "time", "computable", "bipartite", "graphs", "which", "are", "2", "n", "o", "-LRB-", "1", "-RRB-", "-", "Ramsey", ".", "A", "standard", "transformation", "of", "these", "graphs", "also", "yields", "polynomial", "time", "computable", "ordinary", "Ramsey", "Graphs", "with", "the", "same", "parameters", ".", "1.2", "Extractors", "and", "Dispersers", "from", "independent", "sources", "Now", "we", "give", "a", "brief", "review", "of", "past", "relevant", "work", "-LRB-", "with", "the", "goal", "of", "putting", "this", "paper", "in", "proper", "context", "-RRB-", "and", "describe", "some", "of", "the", "tools", "from", "these", "past", "works", "that", "we", "will", "use", ".", "We", "start", "with", "the", "basic", "definitions", "of", "k-sources", "by", "Nisan", "and", "Zuckerman", "-LSB-", "15", "-RSB-", "and", "of", "extractors", "and", "dispersers", "for", "independent", "sources", "by", "Santha", "and", "Vazirani", "-LSB-", "20", "-RSB-", ".", "Definition", "1.5", "-LRB-", "-LSB-", "15", "-RSB-", ",", "see", "also", "-LSB-", "8", "-RSB-", "-RRB-", ".", "The", "min-entropy", "of", "a", "distribution", "X", "is", "the", "maximum", "k", "such", "that", "for", "every", "element", "x", "in", "its", "support", ",", "Pr", "-LSB-", "X", "=", "x", "-RSB-", "2", "-", "k", ".", "If", "X", "is", "a", "distribution", "on", "strings", "with", "min-entropy", "at", "least", "k", ",", "we", "will", "call", "X", "a", "k-source", "2", ".", "To", "simplify", "the", "presentation", ",", "in", "this", "version", "of", "the", "paper", "we", "will", "assume", "that", "we", "are", "working", "with", "entropy", "as", "opposed", "to", "min-entropy", ".", "Definition", "1.6", "-LRB-", "-LSB-", "20", "-RSB-", "-RRB-", ".", "A", "function", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "c", "-LCB-", "0", ",", "1", "-RCB-", "m", "is", "a", "c-source", "-LRB-", "k", ",", "-RRB-", "extractor", "if", "for", "every", "family", "of", "c", "independent", "k-sources", "X", "1", ",", ",", "X", "c", ",", "the", "output", "f", "-LRB-", "X", "1", ",", ",", "X", "c", "-RRB-", "1", "The", "Abbot", "'s", "product", "based", "Ramsey-graph", "construction", "of", "-LSB-", "3", "-RSB-", "and", "the", "bipartite", "Ramsey", "construction", "of", "-LSB-", "16", "-RSB-", "only", "satisfy", "a", "weaker", "notion", "of", "explicitness", ".", "2", "It", "is", "no", "loss", "of", "generality", "to", "imagine", "that", "X", "is", "uniformly", "distributed", "over", "some", "-LRB-", "unknown", "-RRB-", "set", "of", "size", "2", "k", ".", "672", "is", "a", "-", "close", "3", "to", "uniformly", "distributed", "on", "m", "bits", ".", "f", "is", "a", "disperser", "for", "the", "same", "parameters", "if", "the", "output", "is", "simply", "required", "to", "have", "a", "support", "of", "relative", "size", "-LRB-", "1", "-", "-RRB-", ".", "To", "simplify", "the", "presentation", ",", "in", "this", "version", "of", "the", "paper", ",", "we", "will", "assume", "that", "=", "0", "for", "all", "of", "our", "constructions", ".", "In", "this", "language", ",", "Erd", "os", "'", "theorem", "says", "that", "most", "functions", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0,1", "-RCB-", "are", "dispersers", "for", "entropy", "1", "+", "log", "n", "-LRB-", "treating", "f", "as", "the", "characteristic", "function", "for", "the", "set", "of", "edges", "of", "the", "graph", "-RRB-", ".", "The", "proof", "easily", "extends", "to", "show", "that", "indeed", "most", "such", "functions", "are", "in", "fact", "extractors", ".", "This", "naturally", "challenges", "us", "to", "find", "explicit", "functions", "f", "that", "are", "2-source", "extractors", ".", "Until", "one", "year", "ago", ",", "essentially", "the", "only", "known", "explicit", "construction", "was", "the", "Hadamard", "extractor", "Had", "defined", "by", "Had", "-LRB-", "x", ",", "y", "-RRB-", "=", "x", ",", "y", "-LRB-", "mod", "2", "-RRB-", ".", "It", "is", "an", "extractor", "for", "entropy", "k", ">", "n/2", "as", "observed", "by", "Chor", "and", "Goldreich", "-LSB-", "8", "-RSB-", "and", "can", "be", "extended", "to", "give", "m", "=", "-LRB-", "n", "-RRB-", "output", "bits", "as", "observed", "by", "Vazirani", "-LSB-", "23", "-RSB-", ".", "Over", "20", "years", "later", ",", "a", "recent", "breakthrough", "of", "Bourgain", "-LSB-", "5", "-RSB-", "broke", "this", "``", "1/2", "barrier", "''", "and", "can", "handle", "2", "sources", "of", "entropy", ".4999", "n", ",", "again", "with", "linear", "output", "length", "m", "=", "-LRB-", "n", "-RRB-", ".", "This", "seemingly", "minor", "improvement", "will", "be", "crucial", "for", "our", "work", "!", "Theorem", "1.7", "-LRB-", "-LSB-", "5", "-RSB-", "-RRB-", ".", "There", "is", "a", "polynomial", "time", "computable", "2-source", "extractor", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", "m", "for", "entropy", ".4999", "n", "and", "m", "=", "-LRB-", "n", "-RRB-", ".", "No", "better", "bounds", "are", "known", "for", "2-source", "extractors", ".", "Now", "we", "turn", "our", "attention", "to", "2-source", "dispersers", ".", "It", "turned", "out", "that", "progress", "for", "building", "good", "2-source", "dispersers", "came", "via", "progress", "on", "extractors", "for", "more", "than", "2", "sources", ",", "all", "happening", "in", "fast", "pace", "in", "the", "last", "2", "years", ".", "The", "seminal", "paper", "of", "Bourgain", ",", "Katz", "and", "Tao", "-LSB-", "6", "-RSB-", "proved", "the", "so-called", "``", "sum-product", "theorem", "''", "in", "prime", "fields", ",", "a", "result", "in", "arithmetic", "combinatorics", ".", "This", "result", "has", "already", "found", "applications", "in", "diverse", "areas", "of", "mathematics", ",", "including", "analysis", ",", "number", "theory", ",", "group", "theory", "and", "...", "extractor", "theory", ".", "Their", "work", "implic-itly", "contained", "dispersers", "for", "c", "=", "O", "-LRB-", "log", "-LRB-", "n/k", "-RRB-", "-RRB-", "independent", "sources", "of", "entropy", "k", "-LRB-", "with", "output", "m", "=", "-LRB-", "k", "-RRB-", "-RRB-", ".", "The", "use", "of", "the", "``", "sum-product", "''", "theorem", "was", "then", "extended", "by", "Barak", "et", "al.", "-LSB-", "3", "-RSB-", "to", "give", "extractors", "with", "similar", "parameters", ".", "Note", "that", "for", "linear", "entropy", "k", "=", "-LRB-", "n", "-RRB-", ",", "the", "number", "of", "sources", "needed", "for", "extraction", "c", "is", "a", "constant", "!", "Relaxing", "the", "independence", "assumptions", "via", "the", "idea", "of", "repeated", "condensing", ",", "allowed", "the", "reduction", "of", "the", "number", "of", "independent", "sources", "to", "c", "=", "3", ",", "for", "extraction", "from", "sources", "of", "any", "linear", "entropy", "k", "=", "-LRB-", "n", "-RRB-", ",", "by", "Barak", "et", "al.", "-LSB-", "4", "-RSB-", "and", "independently", "by", "Raz", "-LSB-", "18", "-RSB-", ".", "For", "2", "sources", "Barak", "et", "al.", "-LSB-", "4", "-RSB-", "were", "able", "to", "construct", "dispersers", "for", "sources", "of", "entropy", "o", "-LRB-", "n", "-RRB-", ".", "To", "do", "this", ",", "they", "first", "showed", "that", "if", "the", "sources", "have", "extra", "structure", "-LRB-", "block-source", "structure", ",", "defined", "below", "-RRB-", ",", "even", "extraction", "is", "possible", "from", "2", "sources", ".", "The", "notion", "of", "block-sources", ",", "capturing", "``", "semi", "inde-pendence", "''", "of", "parts", "of", "the", "source", ",", "was", "introduced", "by", "Chor", "and", "Goldreich", "-LSB-", "8", "-RSB-", ".", "It", "has", "been", "fundamental", "in", "the", "development", "of", "seeded", "extractors", "and", "as", "we", "shall", "see", ",", "is", "essential", "for", "us", "as", "well", ".", "Definition", "1.8", "-LRB-", "-LSB-", "8", "-RSB-", "-RRB-", ".", "A", "distribution", "X", "=", "X", "1", ",", "...", ",", "X", "c", "is", "a", "c-block-source", "of", "-LRB-", "block", "-RRB-", "entropy", "k", "if", "every", "block", "X", "i", "has", "entropy", "k", "even", "conditioned", "on", "fixing", "the", "previous", "blocks", "X", "1", ",", ",", "X", "i-1", "to", "arbitrary", "constants", ".", "3", "The", "error", "is", "usually", "measured", "in", "terms", "of", "1", "distance", "or", "variation", "distance", ".", "This", "definition", "allowed", "Barak", "et", "al.", "-LSB-", "4", "-RSB-", "to", "show", "that", "their", "extractor", "for", "4", "independent", "sources", ",", "actually", "performs", "as", "well", "with", "only", "2", "independent", "sources", ",", "as", "long", "as", "both", "are", "2-block-sources", ".", "Theorem", "1.9", "-LRB-", "-LSB-", "4", "-RSB-", "-RRB-", ".", "There", "exists", "a", "polynomial", "time", "computable", "extractor", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", "for", "2", "independent", "2-block-sources", "with", "entropy", "o", "-LRB-", "n", "-RRB-", ".", "There", "is", "no", "reason", "to", "assume", "that", "the", "given", "sources", "are", "block-sources", ",", "but", "it", "is", "natural", "to", "try", "and", "reduce", "to", "this", "case", ".", "This", "approach", "has", "been", "one", "of", "the", "most", "successful", "in", "the", "extractor", "literature", ".", "Namely", "try", "to", "partition", "a", "source", "X", "into", "two", "blocks", "X", "=", "X", "1", ",", "X", "2", "such", "that", "X", "1", ",", "X", "2", "form", "a", "2-block-source", ".", "Barak", "et", "al.", "introduced", "a", "new", "technique", "to", "do", "this", "reduction", "called", "the", "Challenge-Response", "mechanism", ",", "which", "is", "crucial", "for", "this", "paper", ".", "This", "method", "gives", "a", "way", "to", "``", "find", "''", "how", "entropy", "is", "distributed", "in", "a", "source", "X", ",", "guiding", "the", "choice", "of", "such", "a", "partition", ".", "This", "method", "succeeds", "only", "with", "small", "probability", ",", "dashing", "the", "hope", "for", "an", "extractor", ",", "but", "still", "yielding", "a", "disperser", ".", "Theorem", "1.10", "-LRB-", "-LSB-", "4", "-RSB-", "-RRB-", ".", "There", "exists", "a", "polynomial", "time", "computable", "2-source", "disperser", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", "for", "entropy", "o", "-LRB-", "n", "-RRB-", ".", "Reducing", "the", "entropy", "requirement", "of", "the", "above", "2-source", "disperser", ",", "which", "is", "what", "we", "achieve", "in", "this", "paper", ",", "again", "needed", "progress", "on", "achieving", "a", "similar", "reduction", "for", "extractors", "with", "more", "independent", "sources", ".", "A", "few", "months", "ago", "Rao", "-LSB-", "?", "-RSB-", "was", "able", "to", "significantly", "improve", "all", "the", "above", "results", "for", "c", "3", "sources", ".", "Interestingly", ",", "his", "techniques", "do", "not", "use", "arithmetic", "combinatorics", ",", "which", "seemed", "essential", "to", "all", "the", "papers", "above", ".", "He", "improves", "the", "results", "of", "Barak", "et", "al.", "-LSB-", "3", "-RSB-", "to", "give", "c", "=", "O", "-LRB-", "-LRB-", "log", "n", "-RRB-", "/", "-LRB-", "log", "k", "-RRB-", "-RRB-", "-", "source", "extractors", "for", "entropy", "k.", "Note", "that", "now", "the", "number", "c", "of", "sources", "needed", "for", "extraction", "is", "constant", ",", "even", "when", "the", "entropy", "is", "as", "low", "as", "n", "for", "any", "constant", "!", "Again", ",", "when", "the", "input", "sources", "are", "block-sources", "with", "sufficiently", "many", "blocks", ",", "Rao", "proves", "that", "2", "independent", "sources", "suffice", "-LRB-", "though", "this", "result", "does", "rely", "on", "arithmetic", "combinatorics", ",", "in", "particular", ",", "on", "Bourgain", "'s", "extractor", "-RRB-", ".", "Theorem", "1.11", "-LRB-", "-LSB-", "?", "-RSB-", "-RRB-", ".", "There", "is", "a", "polynomial", "time", "computable", "extractor", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", "m", "for", "2", "independent", "c-block-sources", "with", "block", "entropy", "k", "and", "m", "=", "-LRB-", "k", "-RRB-", ",", "as", "long", "as", "c", "=", "O", "-LRB-", "-LRB-", "log", "n", "-RRB-", "/", "-LRB-", "log", "k", "-RRB-", "-RRB-", ".", "In", "this", "paper", "-LRB-", "see", "Theorem", "2.7", "below", "-RRB-", "we", "improve", "this", "result", "to", "hold", "even", "when", "only", "one", "of", "the", "2", "sources", "is", "a", "c-block", "-", "source", ".", "The", "other", "source", "can", "be", "an", "arbitrary", "source", "with", "sufficient", "entropy", ".", "This", "is", "a", "central", "building", "block", "in", "our", "construction", ".", "This", "extractor", ",", "like", "Rao", "'s", "above", ",", "critically", "uses", "Bourgain", "'s", "extractor", "mentioned", "above", ".", "In", "addition", "it", "uses", "a", "theorem", "of", "Raz", "-LSB-", "18", "-RSB-", "allowing", "seeded", "extractors", "to", "have", "``", "weak", "''", "seeds", ",", "namely", "instead", "of", "being", "completely", "random", "they", "work", "as", "long", "as", "the", "seed", "has", "entropy", "rate", ">", "1/2", ".", "The", "main", "result", "of", "this", "paper", "is", "a", "polynomial", "time", "computable", "disperser", "for", "2", "sources", "of", "entropy", "n", "o", "-LRB-", "1", "-RRB-", ",", "significantly", "improving", "both", "the", "results", "of", "Barak", "et", "al.", "-LSB-", "4", "-RSB-", "-LRB-", "o", "-LRB-", "n", "-RRB-", "entropy", "-RRB-", ".", "It", "also", "improves", "on", "Frankl", "and", "Wilson", "-LSB-", "9", "-RSB-", ",", "who", "only", "built", "Ramsey", "Graphs", "and", "only", "for", "entropy", "~", "O", "-LRB-", "n", "-RRB-", ".", "673", "Theorem", "2.1", "-LRB-", "Main", "theorem", ",", "restated", "-RRB-", ".", "There", "exists", "a", "polynomial", "time", "computable", "2-source", "disperser", "D", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", "for", "entropy", "n", "o", "-LRB-", "1", "-RRB-", ".", "The", "construction", "of", "this", "disperser", "will", "involve", "the", "construction", "of", "an", "object", "which", "in", "some", "sense", "is", "stronger", "and", "in", "another", "weaker", "than", "a", "disperser", ":", "a", "subsource", "somewhere", "extractor", ".", "We", "first", "define", "a", "related", "object", ":", "a", "somewhere", "extractor", ",", "which", "is", "a", "function", "producing", "several", "outputs", ",", "one", "of", "which", "must", "be", "uniform", ".", "Again", "we", "will", "ignore", "many", "technical", "issues", "such", "as", "error", ",", "min-entropy", "vs.", "entropy", "and", "more", ",", "in", "definitions", "and", "results", ",", "which", "are", "deferred", "to", "the", "full", "version", "of", "this", "paper", ".", "Definition", "2.2", ".", "A", "function", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "m", "-RRB-", "is", "a", "2-source", "somewhere", "extractor", "with", "outputs", ",", "for", "entropy", "k", ",", "if", "for", "every", "2", "independent", "k-sources", "X", ",", "Y", "there", "exists", "an", "i", "-LSB-", "-RSB-", "such", "the", "ith", "output", "f", "-LRB-", "X", ",", "Y", "-RRB-", "i", "is", "a", "uniformly", "distributed", "string", "of", "m", "bits", ".", "Here", "is", "a", "simple", "construction", "of", "such", "a", "somewhere", "extractor", "with", "as", "large", "as", "poly", "-LRB-", "n", "-RRB-", "-LRB-", "and", "the", "p", "in", "its", "name", "will", "stress", "the", "fact", "that", "indeed", "the", "number", "of", "outputs", "is", "that", "large", "-RRB-", ".", "It", "will", "nevertheless", "be", "useful", "to", "us", "-LRB-", "though", "its", "description", "in", "the", "next", "sentence", "may", "be", "safely", "skipped", "-RRB-", ".", "Define", "pSE", "-LRB-", "x", ",", "y", "-RRB-", "i", "=", "V", "-LRB-", "E", "-LRB-", "x", ",", "i", "-RRB-", ",", "E", "-LRB-", "y", ",", "i", "-RRB-", "-RRB-", "where", "E", "is", "a", "``", "strong", "''", "logarithmic", "seed", "extractor", ",", "and", "V", "is", "the", "Hadamard/Vazirani", "2-source", "extractor", ".", "Using", "this", "construction", ",", "it", "is", "easy", "to", "see", "that", ":", "Proposition", "2.3", ".", "For", "every", "n", ",", "k", "there", "is", "a", "polynomial", "time", "computable", "somewhere", "extractor", "pSE", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "m", "-RRB-", "with", "=", "poly", "-LRB-", "n", "-RRB-", "outputs", ",", "for", "entropy", "k", ",", "and", "m", "=", "-LRB-", "k", "-RRB-", ".", "Before", "we", "define", "subsource", "somewhere", "extractor", ",", "we", "must", "first", "define", "a", "subsource", ".", "Definition", "2.4", "-LRB-", "Subsources", "-RRB-", ".", "Given", "random", "variables", "Z", "and", "^", "Z", "on", "-LCB-", "0", ",", "1", "-RCB-", "n", "we", "say", "that", "^", "Z", "is", "a", "deficiency", "d", "subsource", "of", "Z", "and", "write", "^", "Z", "Z", "if", "there", "exists", "a", "set", "A", "-LCB-", "0,1", "-RCB-", "n", "such", "that", "-LRB-", "Z", "|", "Z", "A", "-RRB-", "=", "^", "Z", "and", "Pr", "-LSB-", "Z", "A", "-RSB-", "2", "-", "d", ".", "A", "subsource", "somewhere", "extractor", "guarantees", "the", "``", "some-where", "extractor", "''", "property", "only", "on", "subsources", "X", ",", "Y", "of", "the", "original", "input", "distributions", "X", ",", "Y", "-LRB-", "respectively", "-RRB-", ".", "It", "will", "be", "extremely", "important", "for", "us", "to", "make", "these", "subsources", "as", "large", "as", "possible", "-LRB-", "i.e.", "we", "have", "to", "lose", "as", "little", "entropy", "as", "possible", "-RRB-", ".", "Controlling", "these", "entropy", "deficiencies", "is", "a", "major", "technical", "complication", "we", "have", "to", "deal", "with", ".", "However", "we", "will", "be", "informal", "with", "it", "here", ",", "mentioning", "it", "only", "qualitatively", "when", "needed", ".", "We", "discuss", "this", "issue", "a", "little", "more", "in", "Section", "6", ".", "Definition", "2.5", ".", "A", "function", "f", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "m", "-RRB-", "is", "a", "2-source", "subsource", "somewhere", "extractor", "with", "outputs", "for", "entropy", "k", ",", "if", "for", "every", "2", "independent", "k-sources", "X", ",", "Y", "there", "exists", "a", "subsource", "^", "X", "of", "X", ",", "a", "subsource", "^", "Y", "of", "Y", "and", "an", "i", "-LSB-", "-RSB-", "such", "the", "i", "th", "output", "f", "-LRB-", "^", "X", ",", "^", "Y", "-RRB-", "i", "is", "a", "uniformly", "distributed", "string", "of", "m", "bits", ".", "A", "central", "technical", "result", "for", "us", "is", "that", "with", "this", "``", "sub-source", "''", "relaxation", ",", "we", "can", "have", "much", "fewer", "outputs", "indeed", "we", "'ll", "replace", "poly", "-LRB-", "n", "-RRB-", "outputs", "in", "our", "first", "construction", "above", "with", "n", "o", "-LRB-", "1", "-RRB-", "outputs", ".", "Theorem", "2.6", "-LRB-", "Subsource", "somewhere", "extractor", "-RRB-", ".", "For", "every", ">", "0", "there", "is", "a", "polynomial", "time", "computable", "subsource", "somewhere", "extractor", "SSE", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LRB-", "-LCB-", "0,1", "-RCB-", "m", "-RRB-", "with", "=", "n", "o", "-LRB-", "1", "-RRB-", "outputs", ",", "for", "entropy", "k", "=", "n", ",", "with", "output", "m", "=", "k", ".", "We", "will", "describe", "the", "ideas", "used", "for", "constructing", "this", "important", "object", "and", "analyzing", "it", "in", "the", "next", "section", ",", "where", "we", "will", "also", "indicate", "how", "it", "is", "used", "in", "the", "construction", "of", "the", "final", "disperser", ".", "Here", "we", "state", "a", "central", "building", "block", ",", "mentioned", "in", "the", "previous", "section", "-LRB-", "as", "an", "improvement", "of", "the", "work", "of", "Rao", "-LSB-", "?", "-RSB-", "-RRB-", ".", "We", "construct", "an", "extractor", "for", "2", "independent", "sources", "one", "of", "which", "is", "a", "block-sources", "with", "sufficient", "number", "of", "blocks", ".", "Theorem", "2.7", "-LRB-", "Block", "Source", "Extractor", "-RRB-", ".", "There", "is", "a", "polynomial", "time", "computable", "extractor", "B", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LCB-", "0", ",", "1", "-RCB-", "m", "for", "2", "independent", "sources", ",", "one", "of", "which", "is", "a", "c-block-sources", "with", "block", "entropy", "k", "and", "the", "other", "a", "source", "of", "entropy", "k", ",", "with", "m", "=", "-LRB-", "k", "-RRB-", ",", "and", "c", "=", "O", "-LRB-", "-LRB-", "log", "n", "-RRB-", "/", "-LRB-", "log", "k", "-RRB-", "-RRB-", ".", "A", "simple", "corollary", "of", "this", "block-source", "extractor", "B", ",", "is", "the", "following", "weaker", "-LRB-", "though", "useful", "-RRB-", "somewhere", "block-source", "extractor", "SB", ".", "A", "source", "Z", "=", "Z", "1", ",", "Z", "2", ",", ",", "Z", "t", "is", "a", "somewhere", "c-block-source", "of", "block", "entropy", "k", "if", "for", "some", "c", "indices", "i", "1", "<", "i", "2", "<", "<", "i", "c", "the", "source", "Z", "i", "1", ",", "Z", "i", "2", ",", ",", "Z", "i", "c", "is", "a", "c-block-source", ".", "Collecting", "the", "outputs", "of", "B", "on", "every", "c-subset", "of", "blocks", "results", "in", "that", "somewhere", "extractor", ".", "Corollary", "2.8", ".", "There", "is", "a", "polynomial", "time", "computable", "somewhere", "extractor", "SB", ":", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "n", "-RRB-", "2", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "m", "-RRB-", "for", "2", "independent", "sources", ",", "one", "of", "which", "is", "a", "somewhere", "c-block-sources", "with", "block", "entropy", "k", "and", "t", "blocks", "total", "and", "the", "other", "a", "source", "of", "entropy", "k", ",", "with", "m", "=", "-LRB-", "k", "-RRB-", ",", "c", "=", "O", "-LRB-", "-LRB-", "log", "n", "-RRB-", "/", "-LRB-", "log", "k", "-RRB-", "-RRB-", ",", "and", "t", "c", ".", "In", "both", "the", "theorem", "and", "corollary", "above", ",", "the", "values", "of", "entropy", "k", "we", "will", "be", "interested", "in", "are", "k", "=", "n", "-LRB-", "1", "-RRB-", ".", "It", "follows", "that", "a", "block-source", "with", "a", "constant", "c", "=", "O", "-LRB-", "1", "-RRB-", "suffices", ".", "We", "now", "describe", "abstractly", "a", "mechanism", "which", "will", "be", "used", "in", "the", "construction", "of", "the", "disperser", "as", "well", "as", "the", "subsource", "somewhere", "extractor", ".", "Intuitively", ",", "this", "mechanism", "allows", "us", "to", "identify", "parts", "of", "a", "source", "which", "contain", "large", "amounts", "of", "entropy", ".", "One", "can", "hope", "that", "using", "such", "a", "mechanism", "one", "can", "partition", "a", "given", "source", "into", "blocks", "in", "a", "way", "which", "make", "it", "a", "block-source", ",", "or", "alternatively", "focus", "on", "a", "part", "of", "the", "source", "which", "is", "unusually", "condensed", "with", "entropy", "two", "cases", "which", "may", "simplify", "the", "extraction", "problem", ".", "The", "reader", "may", "decide", ",", "now", "or", "in", "the", "middle", "of", "this", "section", ",", "to", "skip", "ahead", "to", "the", "next", "section", "which", "describes", "the", "construction", "of", "the", "subsource", "somewhere", "extractor", "SSE", ",", "which", "extensively", "uses", "this", "mechanism", ".", "Then", "this", "section", "may", "seem", "less", "abstract", ",", "as", "it", "will", "be", "clearer", "where", "this", "mechanism", "is", "used", ".", "This", "mechanism", "was", "introduced", "by", "Barak", "et", "al.", "-LSB-", "4", "-RSB-", ",", "and", "was", "essential", "in", "their", "2-source", "disperser", ".", "Its", "use", "in", "this", "paper", "is", "far", "more", "involved", "-LRB-", "in", "particular", "it", "calls", "itself", "recursively", ",", "a", "fact", "which", "creates", "many", "subtleties", "-RRB-", ".", "However", ",", "at", "a", "high", "level", ",", "the", "basic", "idea", "behind", "the", "mechanism", "is", "the", "same", ":", "Let", "Z", "be", "a", "source", "and", "Z", "a", "part", "of", "Z", "-LRB-", "Z", "projected", "on", "a", "subset", "of", "the", "coordinates", "-RRB-", ".", "We", "know", "that", "Z", "has", "entropy", "k", ",", "674", "and", "want", "to", "distinguish", "two", "possibilities", ":", "Z", "has", "no", "entropy", "-LRB-", "it", "is", "fixed", "-RRB-", "or", "it", "has", "at", "least", "k", "entropy", ".", "Z", "will", "get", "a", "pass", "or", "fail", "grade", ",", "hopefully", "corresponding", "to", "the", "cases", "of", "high", "or", "no", "entropy", "in", "Z", ".", "Anticipating", "the", "use", "of", "this", "mechanism", ",", "it", "is", "a", "good", "idea", "to", "think", "of", "Z", "as", "a", "``", "parent", "''", "of", "Z", ",", "which", "wants", "to", "check", "if", "this", "``", "child", "''", "has", "sufficient", "entropy", ".", "Moreover", ",", "in", "the", "context", "of", "the", "initial", "2", "sources", "X", ",", "Y", "we", "will", "operate", "on", ",", "think", "of", "Z", "as", "a", "part", "of", "X", ",", "and", "thus", "that", "Y", "is", "independent", "of", "Z", "and", "Z", ".", "To", "execute", "this", "``", "test", "''", "we", "will", "compute", "two", "sets", "of", "strings", "-LRB-", "all", "of", "length", "m", ",", "say", "-RRB-", ":", "the", "Challenge", "C", "=", "C", "-LRB-", "Z", ",", "Y", "-RRB-", "and", "the", "Response", "R", "=", "R", "-LRB-", "Z", ",", "Y", "-RRB-", ".", "Z", "fails", "if", "C", "R", "and", "passes", "otherwise", ".", "The", "key", "to", "the", "usefulness", "of", "this", "mechanism", "is", "the", "following", "lemma", ",", "which", "states", "that", "what", "``", "should", "''", "happen", ",", "indeed", "happens", "after", "some", "restriction", "of", "the", "2", "sources", "Z", "and", "Y", ".", "We", "state", "it", "and", "then", "explain", "how", "the", "functions", "C", "and", "R", "are", "defined", "to", "accommodate", "its", "proof", ".", "Lemma", "3.1", ".", "Assume", "Z", ",", "Y", "are", "sources", "of", "entropy", "k.", "1", ".", "If", "Z", "has", "entropy", "k", "+", "O", "-LRB-", "m", "-RRB-", ",", "then", "there", "are", "subsources", "^", "Z", "of", "Z", "and", "^", "Y", "of", "Y", ",", "such", "that", "Pr", "-LSB-", "^", "Z", "passes", "-RSB-", "=", "Pr", "-LSB-", "C", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", "R", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", "-RSB-", "1-n", "O", "-LRB-", "1", "-RRB-", "2", "-", "m", "2", ".", "If", "Z", "is", "fixed", "-LRB-", "namely", ",", "has", "zero", "entropy", "-RRB-", ",", "then", "for", "some", "subsources", "^", "Z", "of", "Z", "and", "^", "Y", "of", "Y", ",", "we", "have", "Pr", "-LSB-", "Z", "fails", "-RSB-", "=", "Pr", "-LSB-", "C", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", "R", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", "-RSB-", "=", "1", "Once", "we", "have", "such", "a", "mechanism", ",", "we", "will", "design", "our", "disperser", "algorithm", "assuming", "that", "the", "challenge", "response", "mechanism", "correctly", "identifies", "parts", "of", "the", "source", "with", "high", "or", "low", "levels", "of", "entropy", ".", "Then", "in", "the", "analysis", ",", "we", "will", "ensure", "that", "our", "algorithm", "succeeds", "in", "making", "the", "right", "decisions", ",", "at", "least", "on", "subsources", "of", "the", "original", "input", "sources", ".", "Now", "let", "us", "explain", "how", "to", "compute", "the", "sets", "C", "and", "R", ".", "We", "will", "use", "some", "of", "the", "constructs", "above", "with", "parameters", "which", "do", "n't", "quite", "fit", ".", "The", "response", "set", "R", "-LRB-", "Z", ",", "Y", "-RRB-", "=", "pSE", "-LRB-", "Z", ",", "Y", "-RRB-", "is", "chosen", "to", "be", "the", "output", "of", "the", "somewhere", "extractor", "of", "Proposition", "2.3", ".", "The", "challenge", "set", "C", "-LRB-", "Z", ",", "Y", "-RRB-", "=", "SSE", "-LRB-", "Z", ",", "Y", "-RRB-", "is", "chosen", "to", "be", "the", "output", "of", "the", "subsource", "somewhere", "extractor", "of", "Theorem", "2.6", ".", "Why", "does", "it", "work", "?", "We", "explain", "each", "of", "the", "two", "claims", "in", "the", "lemma", "in", "turn", "-LRB-", "and", "after", "each", "comment", "on", "the", "important", "parameters", "and", "how", "they", "differ", "from", "Barak", "et", "al.", "-LSB-", "4", "-RSB-", "-RRB-", ".", "1", ".", "Z", "has", "entropy", ".", "We", "need", "to", "show", "that", "Z", "passes", "the", "test", "with", "high", "probability", ".", "We", "will", "point", "to", "the", "output", "string", "in", "C", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", "which", "avoids", "R", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", "with", "high", "probability", "as", "follows", ".", "In", "the", "analysis", "we", "will", "use", "the", "union", "bound", "on", "several", "events", ",", "one", "associated", "with", "each", "-LRB-", "poly", "-LRB-", "n", "-RRB-", "many", "-RRB-", "string", "in", "pSE", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", ".", "We", "note", "that", "by", "the", "definition", "of", "the", "response", "function", ",", "if", "we", "want", "to", "fix", "a", "particular", "element", "in", "the", "response", "set", "to", "a", "particular", "value", ",", "we", "can", "do", "this", "by", "fixing", "E", "-LRB-", "Z", ",", "i", "-RRB-", "and", "E", "-LRB-", "Y", ",", "i", "-RRB-", ".", "This", "fixing", "keeps", "the", "restricted", "sources", "independent", "and", "loses", "only", "O", "-LRB-", "m", "-RRB-", "entropy", ".", "In", "the", "subsource", "of", "Z", "guaranteed", "to", "exist", "by", "Theorem", "2.6", "we", "can", "afford", "to", "lose", "this", "entropy", "in", "Z", ".", "Thus", "we", "conclude", "that", "one", "of", "its", "outputs", "is", "uniform", ".", "The", "probability", "that", "this", "output", "will", "equal", "any", "fixed", "value", "is", "thus", "2", "-", "m", ",", "completing", "the", "argument", ".", "We", "note", "that", "we", "can", "handle", "the", "polynomial", "output", "size", "of", "pSE", ",", "since", "the", "uniform", "string", "has", "length", "m", "=", "n", "-LRB-", "1", "-RRB-", "-LRB-", "something", "which", "could", "not", "be", "done", "with", "the", "technology", "available", "to", "Barak", "et", "al.", "-LSB-", "4", "-RSB-", "-RRB-", ".", "2", ".", "Z", "has", "no", "entropy", ".", "We", "now", "need", "to", "guarantee", "that", "in", "the", "chosen", "subsources", "-LRB-", "which", "we", "choose", "-RRB-", "^", "Z", ",", "^", "Y", ",", "all", "strings", "in", "C", "=", "C", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", "are", "in", "R", "-LRB-", "^", "Z", ",", "^", "Y", "-RRB-", ".", "First", "notice", "that", "as", "Z", "is", "fixed", ",", "C", "is", "only", "a", "function", "of", "Y", ".", "We", "set", "~", "Y", "to", "be", "the", "subsource", "of", "Y", "that", "fixes", "all", "strings", "in", "C", "=", "C", "-LRB-", "Y", "-RRB-", "to", "their", "most", "popular", "values", "-LRB-", "losing", "only", "m", "entropy", "from", "Y", "-RRB-", ".", "We", "take", "care", "of", "including", "these", "fixed", "strings", "in", "R", "-LRB-", "Z", ",", "~", "Y", "-RRB-", "one", "at", "a", "time", ",", "by", "restricting", "to", "subsources", "assuring", "that", ".", "Let", "be", "any", "m-bit", "string", "we", "want", "to", "appear", "in", "R", "-LRB-", "Z", ",", "~", "Y", "-RRB-", ".", "Recall", "that", "R", "-LRB-", "z", ",", "y", "-RRB-", "=", "V", "-LRB-", "E", "-LRB-", "z", ",", "i", "-RRB-", ",", "E", "-LRB-", "y", ",", "i", "-RRB-", "-RRB-", ".", "We", "pick", "a", "``", "good", "''", "seed", "i", ",", "and", "restrict", "Z", ",", "~", "Y", "to", "subsources", "with", "only", "O", "-LRB-", "m", "-RRB-", "less", "entropy", "by", "fixing", "E", "-LRB-", "Z", ",", "i", "-RRB-", "=", "a", "and", "E", "-LRB-", "~", "Y", ",", "i", "-RRB-", "=", "b", "to", "values", "-LRB-", "a", ",", "b", "-RRB-", "for", "which", "V", "-LRB-", "a", ",", "b", "-RRB-", "=", ".", "This", "is", "repeated", "suc-cessively", "times", ",", "and", "results", "in", "the", "final", "subsources", "^", "Z", ",", "^", "Y", "on", "which", "^", "Z", "fails", "with", "probability", "1", ".", "Note", "that", "we", "keep", "reducing", "the", "entropy", "of", "our", "sources", "times", ",", "which", "necessitates", "that", "this", "be", "tiny", "-LRB-", "here", "we", "could", "not", "tolerate", "poly", "-LRB-", "n", "-RRB-", ",", "and", "indeed", "can", "guarantee", "n", "o", "-LRB-", "1", "-RRB-", ",", "at", "least", "on", "a", "subsource", "this", "is", "one", "aspect", "of", "how", "crucial", "the", "subsource", "somewhere", "extractor", "SSE", "is", "to", "the", "construction", ".", "We", "note", "that", "initially", "it", "seemed", "like", "the", "Challenge-Response", "mechanism", "as", "used", "in", "-LSB-", "4", "-RSB-", "could", "not", "be", "used", "to", "handle", "entropy", "that", "is", "significantly", "less", "than", "n", "-LRB-", "which", "is", "approxi-mately", "the", "bound", "that", "many", "of", "the", "previous", "constructions", "got", "stuck", "at", "-RRB-", ".", "The", "techniques", "of", "-LSB-", "4", "-RSB-", "involved", "partitioning", "the", "sources", "into", "t", "pieces", "of", "length", "n/t", "each", ",", "with", "the", "hope", "that", "one", "of", "those", "parts", "would", "have", "a", "significant", "amount", "of", "entropy", ",", "yet", "there", "'d", "be", "enough", "entropy", "left", "over", "in", "the", "rest", "of", "the", "source", "-LRB-", "so", "that", "the", "source", "can", "be", "partitioned", "into", "a", "block", "source", "-RRB-", ".", "However", "it", "is", "not", "clear", "how", "to", "do", "this", "when", "the", "total", "entropy", "is", "less", "than", "n.", "On", "the", "one", "hand", "we", "will", "have", "to", "partition", "our", "sources", "into", "blocks", "of", "length", "significantly", "more", "than", "n", "-LRB-", "or", "the", "adversary", "could", "distribute", "a", "negligible", "fraction", "of", "entropy", "in", "all", "blocks", "-RRB-", ".", "On", "the", "other", "hand", ",", "if", "our", "blocks", "are", "so", "large", ",", "a", "single", "block", "could", "contain", "all", "the", "entropy", ".", "Thus", "it", "was", "not", "clear", "how", "to", "use", "the", "challenge", "response", "mechanism", "to", "find", "a", "block", "source", ".", "SSE", "We", "now", "explain", "some", "of", "the", "ideas", "behind", "the", "construction", "of", "the", "subsource", "somewhere", "extractor", "SSE", "of", "Theorem", "2.6", ".", "Consider", "the", "source", "X", ".", "We", "are", "seeking", "to", "find", "in", "it", "a", "somewhere", "c-block-source", ",", "so", "that", "we", "can", "use", "it", "-LRB-", "together", "with", "Y", "-RRB-", "in", "the", "block-source", "extractor", "of", "Theorem", "2.8", ".", "Like", "in", "previous", "works", "in", "the", "extractor", "literature", "-LRB-", "e.g.", "-LSB-", "19", ",", "13", "-RSB-", "-RRB-", "we", "use", "a", "``", "win-win", "''", "analysis", "which", "shows", "that", "either", "X", "is", "already", "a", "somewhere", "c-block-source", ",", "or", "it", "has", "a", "condensed", "part", "which", "contains", "a", "lot", "of", "the", "entropy", "of", "the", "source", ".", "In", "this", "case", "we", "proceed", "recursively", "on", "that", "part", ".", "Continuing", "this", "way", "we", "eventually", "reach", "a", "source", "so", "condensed", "that", "it", "must", "be", "a", "somewhere", "block", "source", ".", "Note", "that", "in", "-LSB-", "4", "-RSB-", ",", "the", "challenge", "response", "mechanism", "was", "used", "to", "find", "a", "block", "source", "also", ",", "but", "there", "the", "entropy", "was", "so", "high", "that", "they", "could", "afford", "to", "use", "675", "t", "blocks", "low", "high", "med", "n", "bits", "total", "t", "blocks", "med", "med", "low", "high", "responded", "Challenge", "Challenge", "responded", "Challenge", "Unresponded", "med", "med", "n/t", "bits", "total", "SB", "SB", "Outputs", "Somewhere", "Block", "Source", "!", "Not", "Somewhere", "block", "source", "X", "Random", "Row", "<", "k", "'", "0", "<", "low", "<", "k", "'", "/", "t", "k", "'", "/", "c", "<", "high", "<", "k", "'", "k", "'", "/", "t", "<", "med", "<", "k", "'", "/", "c", "Figure", "1", ":", "Analysis", "of", "the", "subsource", "somewhere", "extractor", ".", "a", "tree", "of", "depth", "1", ".", "They", "did", "not", "need", "to", "recurse", "or", "condense", "the", "sources", ".", "Consider", "the", "tree", "of", "parts", "of", "the", "source", "X", "evolved", "by", "such", "recursion", ".", "Each", "node", "in", "the", "tree", "corresponds", "to", "some", "interval", "of", "bit", "locations", "of", "the", "source", ",", "with", "the", "root", "node", "corresponding", "to", "the", "entire", "source", ".", "A", "node", "is", "a", "child", "of", "another", "if", "its", "interval", "is", "a", "subinterval", "of", "the", "parent", ".", "It", "can", "be", "shown", "that", "some", "node", "in", "the", "tree", "is", "``", "good", "''", ";", "it", "corresponds", "to", "a", "somewhere", "c-source", ",", "but", "we", "do", "n't", "know", "which", "node", "is", "good", ".", "Since", "we", "only", "want", "a", "somewhere", "extractor", ",", "we", "can", "apply", "to", "each", "node", "the", "somewhere", "block-source", "extractor", "of", "Corollary", "2.8", "this", "will", "give", "us", "a", "random", "output", "in", "every", "``", "good", "''", "node", "of", "the", "tree", ".", "The", "usual", "idea", "is", "output", "all", "these", "values", "-LRB-", "and", "in", "seeded", "extractors", ",", "merge", "them", "using", "the", "ex-ternally", "given", "random", "seed", "-RRB-", ".", "However", ",", "we", "can", "not", "afford", "to", "do", "that", "here", "as", "there", "is", "no", "external", "seed", "and", "the", "number", "of", "these", "outputs", "-LRB-", "the", "size", "of", "the", "tree", "-RRB-", "is", "far", "too", "large", ".", "Our", "aim", "then", "will", "be", "to", "significantly", "prune", "this", "number", "of", "candidates", "and", "in", "fact", "output", "only", "the", "candidates", "on", "one", "path", "to", "a", "canonical", "``", "good", "''", "node", ".", "First", "we", "will", "give", "a", "very", "informal", "description", "of", "how", "to", "do", "this", "-LRB-", "Figure", "1", "-RRB-", ".", "Before", "calling", "SSE", "recursively", "on", "a", "subpart", "of", "a", "current", "part", "of", "X", ",", "we", "'ll", "use", "the", "``", "Challenge-Response", "''", "mechanism", "described", "above", "to", "check", "if", "``", "it", "has", "entropy", "''", ".", "4", "We", "will", "recurse", "only", "with", "the", "first", "-LRB-", "in", "left-to-right", "order", "-RRB-", "part", "which", "passes", "the", "``", "entropy", "test", "''", ".", "Thus", "note", "that", "we", "will", "follow", "a", "single", "path", "on", "this", "tree", ".", "The", "algorithm", "SSE", "will", "output", "only", "the", "sets", "of", "strings", "produced", "by", "applying", "the", "somewhere", "c-block-extractor", "SB", "on", "the", "parts", "visited", "along", "this", "path", ".", "Now", "let", "us", "describe", "the", "algorithm", "for", "SSE", ".", "SSE", "will", "be", "initially", "invoked", "as", "SSE", "-LRB-", "x", ",", "y", "-RRB-", ",", "but", "will", "recursively", "call", "itself", "with", "different", "inputs", "z", "which", "will", "always", "be", "substrings", "of", "x.", "4", "We", "note", "that", "we", "ignore", "the", "additional", "complication", "that", "SSE", "will", "actually", "use", "recursion", "also", "to", "compute", "the", "challenge", "in", "the", "challenge-response", "mechanism", ".", "Algorithm", ":", "SSE", "-LRB-", "z", ",", "y", "-RRB-", "Let", "pSE", "-LRB-", ".", ",", ".", "-RRB-", "be", "the", "somewhere", "extractor", "with", "a", "polynomial", "number", "of", "outputs", "of", "Proposition", "2.3", ".", "Let", "SB", "be", "the", "somewhere", "block", "source", "extractor", "of", "Corollary", "2.8", ".", "Global", "Parameters", ":", "t", ",", "the", "branching", "factor", "of", "the", "tree", ".", "k", "the", "original", "entropy", "of", "the", "sources", ".", "Output", "will", "be", "a", "set", "of", "strings", ".", "1", ".", "If", "z", "is", "shorter", "than", "k", ",", "return", "the", "empty", "set", ",", "else", "continue", ".", "2", ".", "Partition", "z", "into", "t", "equal", "parts", "z", "=", "z", "1", ",", "z", "2", ",", "...", ",", "z", "t", ".", "3", ".", "Compute", "the", "response", "set", "R", "-LRB-", "z", ",", "y", "-RRB-", "which", "is", "the", "set", "of", "strings", "output", "by", "pSE", "-LRB-", "z", ",", "y", "-RRB-", ".", "4", ".", "For", "i", "-LSB-", "t", "-RSB-", ",", "compute", "the", "challenge", "set", "C", "-LRB-", "z", "i", ",", "y", "-RRB-", ",", "which", "is", "the", "set", "of", "outputs", "of", "SSE", "-LRB-", "z", "i", ",", "y", "-RRB-", ".", "5", ".", "Let", "h", "be", "the", "smallest", "index", "for", "which", "the", "challenge", "set", "C", "-LRB-", "z", "h", ",", "y", "-RRB-", "is", "not", "contained", "in", "the", "response", "set", "-LRB-", "set", "h", "=", "t", "if", "no", "such", "index", "exists", "-RRB-", ".", "6", ".", "Output", "SB", "-LRB-", "z", ",", "y", "-RRB-", "concatenated", "with", "SSE", "-LRB-", "z", "h", ",", "y", "-RRB-", ".", "Proving", "that", "indeed", "there", "are", "subsources", "on", "which", "SSE", "will", "follow", "a", "path", "to", "a", "``", "good", "''", "-LRB-", "for", "these", "subsources", "-RRB-", "node", ",", "is", "the", "heart", "of", "the", "analysis", ".", "It", "is", "especially", "complex", "due", "to", "the", "fact", "that", "the", "recursive", "call", "to", "SSE", "on", "subparts", "of", "the", "current", "part", "is", "used", "to", "generate", "the", "Challenges", "for", "the", "Challenge-Response", "mechanism", ".", "Since", "SSE", "works", "only", "on", "a", "subsources", "we", "have", "to", "guarantee", "that", "restriction", "to", "these", "does", "not", "hamper", "the", "behavior", "of", "SSE", "in", "past", "and", "future", "calls", "to", "it", ".", "Let", "us", "turn", "to", "the", "highlights", "of", "the", "analysis", ",", "for", "the", "proof", "of", "Theorem", "2.6", ".", "Let", "k", "be", "the", "entropy", "of", "the", "source", "Z", "at", "some", "place", "in", "this", "recursion", ".", "Either", "one", "of", "its", "blocks", "Z", "i", "has", "676", "entropy", "k", "/", "c", ",", "in", "which", "case", "it", "is", "very", "condensed", ",", "since", "its", "size", "is", "n/t", "for", "t", "c", "-RRB-", ",", "or", "it", "must", "be", "that", "c", "of", "its", "blocks", "form", "a", "c-block", "source", "with", "block", "entropy", "k", "/", "t", "-LRB-", "which", "is", "sufficient", "for", "the", "extractor", "B", "used", "by", "SB", "-RRB-", ".", "In", "the", "2nd", "case", "the", "fact", "that", "SB", "-LRB-", "z", ",", "y", "-RRB-", "is", "part", "of", "the", "output", "of", "of", "our", "SSE", "guarantees", "that", "we", "are", "somewhere", "random", ".", "If", "the", "2nd", "case", "does", "n't", "hold", ",", "let", "Z", "i", "be", "the", "leftmost", "condensed", "block", ".", "We", "want", "to", "ensure", "that", "-LRB-", "on", "appropriate", "subsources", "-RRB-", "SSE", "calls", "itself", "on", "that", "ith", "subpart", ".", "To", "do", "so", ",", "we", "fix", "all", "Z", "j", "for", "j", "<", "i", "to", "constants", "z", "j", ".", "We", "are", "now", "in", "the", "position", "described", "in", "the", "Challenge-Response", "mechanism", "section", ",", "that", "-LRB-", "in", "each", "of", "the", "first", "i", "parts", "-RRB-", "there", "is", "either", "no", "entropy", "or", "lots", "of", "entropy", ".", "We", "further", "restrict", "to", "subsources", "as", "explained", "there", "which", "make", "all", "first", "i", "-", "1", "blocks", "fail", "the", "``", "entropy", "test", "''", ",", "and", "the", "fact", "that", "Z", "i", "still", "has", "lots", "of", "entropy", "after", "these", "restrictions", "-LRB-", "which", "we", "need", "to", "prove", "-RRB-", "ensures", "that", "indeed", "SSE", "will", "be", "recursively", "applied", "to", "it", ".", "We", "note", "that", "while", "the", "procedure", "SSE", "can", "be", "described", "recursively", ",", "the", "formal", "analysis", "of", "fixing", "subsources", "is", "actually", "done", "globally", ",", "to", "ensure", "that", "indeed", "all", "entropy", "requirements", "are", "met", "along", "the", "various", "recursive", "calls", ".", "Let", "us", "remark", "on", "the", "choice", "of", "the", "branching", "parameter", "t.", "On", "the", "one", "hand", ",", "we", "'d", "like", "to", "keep", "it", "small", ",", "as", "it", "dominates", "the", "number", "of", "outputs", "t", "c", "of", "SB", ",", "and", "thus", "the", "total", "number", "of", "outputs", "-LRB-", "which", "is", "t", "c", "log", "t", "n", "-RRB-", ".", "For", "this", "purpose", ",", "any", "t", "=", "n", "o", "-LRB-", "1", "-RRB-", "will", "do", ".", "On", "the", "other", "hand", ",", "t", "should", "be", "large", "enough", "so", "that", "condensing", "is", "faster", "than", "losing", "entropy", ".", "Here", "note", "that", "if", "Z", "is", "of", "length", "n", ",", "its", "child", "has", "length", "n/t", ",", "while", "the", "entropy", "shrinks", "only", "from", "k", "to", "k", "/", "c", ".", "A", "simple", "calculation", "shows", "that", "if", "k", "-LRB-", "log", "t", "-RRB-", "/", "log", "c", "-RRB-", ">", "n", "2", "then", "a", "c", "block-source", "must", "exist", "along", "such", "a", "path", "before", "the", "length", "shrinks", "to", "k.", "Note", "that", "for", "k", "=", "n", "-LRB-", "1", "-RRB-", "a", "-LRB-", "large", "enough", "-RRB-", "constant", "t", "suffices", "-LRB-", "resulting", "in", "only", "logarithmic", "number", "of", "outputs", "of", "SSE", "-RRB-", ".", "This", "analysis", "is", "depicted", "pictorially", "in", "Figure", "1", ".", "D", "Following", "is", "a", "rough", "description", "of", "our", "disperser", "D", "proving", "Theorem", "2.1", ".", "The", "high", "level", "structure", "of", "D", "will", "resemble", "the", "structure", "of", "SSE", "-", "we", "will", "recursively", "split", "the", "source", "X", "and", "look", "for", "entropy", "in", "the", "parts", ".", "However", "now", "we", "must", "output", "a", "single", "value", "-LRB-", "rather", "than", "a", "set", "-RRB-", "which", "can", "take", "both", "values", "0", "and", "1", ".", "This", "was", "problematic", "in", "SSE", ",", "even", "knowing", "where", "the", "``", "good", "''", "part", "-LRB-", "containing", "a", "c-block-source", "-RRB-", "was", "!", "How", "can", "we", "do", "so", "now", "?", "We", "now", "have", "at", "our", "disposal", "a", "much", "more", "powerful", "tool", "for", "generating", "challenges", "-LRB-", "and", "thus", "detecting", "entropy", "-RRB-", ",", "namely", "the", "subsource", "somewhere", "disperser", "SSE", ".", "Note", "that", "in", "constructing", "SSE", "we", "only", "had", "essentially", "the", "somewhere", "c-block-source", "extractor", "SB", "to", "-LRB-", "recursively", "-RRB-", "generate", "the", "challenges", ",", "but", "it", "depended", "on", "a", "structural", "property", "of", "the", "block", "it", "was", "applied", "on", ".", "Now", "SSE", "does", "not", "assume", "any", "structure", "on", "its", "input", "sources", "except", "sufficient", "entropy", "5", ".", "Let", "us", "now", "give", "a", "high", "level", "description", "of", "the", "disperser", "D", ".", "It", "too", "will", "be", "a", "recursive", "procedure", ".", "If", "when", "processing", "some", "part", "Z", "of", "X", "it", "``", "realizes", "''", "that", "a", "subpart", "Z", "i", "of", "Z", "has", "entropy", ",", "but", "not", "all", "the", "entropy", "of", "Z", "-LRB-", "namely", "Z", "i", ",", "Z", "is", "a", "2-block-source", "-RRB-", "then", "we", "will", "halt", "and", "produce", "the", "output", "of", "D.", "Intuitively", ",", "thinking", "about", "the", "Challenge-Response", "mechanism", "described", "above", ",", "the", "analysis", "implies", "that", "we", "5", "There", "is", "a", "catch", "it", "only", "works", "on", "subsources", "of", "them", "!", "This", "will", "cause", "us", "a", "lot", "of", "head", "ache", ";", "we", "will", "elaborate", "on", "it", "later", ".", "can", "either", "pass", "or", "fail", "Z", "i", "-LRB-", "on", "appropriate", "subsources", "-RRB-", ".", "But", "this", "means", "that", "the", "outcome", "of", "this", "``", "entropy", "test", "''", "is", "a", "1-bit", "disperser", "!", "To", "capitalize", "on", "this", "idea", ",", "we", "want", "to", "use", "SSE", "to", "identify", "such", "a", "block-source", "in", "the", "recursion", "tree", ".", "As", "before", ",", "we", "scan", "the", "blocks", "from", "left", "to", "right", ",", "and", "want", "to", "distinguish", "three", "possibilities", ".", "low", "Z", "i", "has", "low", "entropy", ".", "In", "this", "case", "we", "proceed", "to", "i", "+", "1", ".", "medium", "Z", "i", "has", "``", "medium", "''", "entropy", "-LRB-", "Z", "i", ",", "Z", "is", "a", "block-source", "-RRB-", ".", "In", "which", "case", "we", "halt", "and", "produce", "an", "output", "-LRB-", "zero", "or", "one", "-RRB-", ".", "high", "Z", "i", "has", "essentially", "all", "entropy", "of", "Z", ".", "In", "this", "case", "we", "recurse", "on", "the", "condensed", "block", "Z", "i", ".", "As", "before", ",", "we", "use", "the", "Challenge-Response", "mechanism", "-LRB-", "with", "a", "twist", "-RRB-", ".", "We", "will", "compute", "challenges", "C", "-LRB-", "Z", "i", ",", "Y", "-RRB-", "and", "responses", "R", "-LRB-", "Z", ",", "Y", "-RRB-", ",", "all", "strings", "of", "length", "m", ".", "The", "responses", "are", "computed", "exactly", "as", "before", ",", "using", "the", "somewhere", "extractor", "pSE", ".", "The", "Challenges", "are", "computed", "using", "our", "subsource", "somewhere", "extractor", "SSE", ".", "We", "really", "have", "4", "possibilities", "to", "distinguish", ",", "since", "when", "we", "halt", "we", "also", "need", "to", "decide", "which", "output", "bit", "we", "give", ".", "We", "will", "do", "so", "by", "deriving", "three", "tests", "from", "the", "above", "challenges", "and", "responses", ":", "-LRB-", "C", "H", ",", "R", "H", "-RRB-", ",", "-LRB-", "C", "M", ",", "R", "M", "-RRB-", ",", "-LRB-", "C", "L", ",", "R", "L", "-RRB-", "for", "high", ",", "medium", "and", "low", "respectively", ",", "as", "follows", ".", "Let", "m", "m", "H", ">", ">", "m", "M", ">", ">", "m", "L", "be", "appropriate", "integers", ":", "then", "in", "each", "of", "the", "tests", "above", "we", "restrict", "ourselves", "to", "prefixes", "of", "all", "strings", "of", "the", "appropriate", "lengths", "only", ".", "So", "every", "string", "in", "C", "M", "will", "be", "a", "prefix", "of", "length", "m", "M", "of", "some", "string", "in", "C", "H", ".", "Similarly", ",", "every", "string", "in", "R", "L", "is", "the", "length", "m", "L", "prefix", "of", "some", "string", "in", "R", "H", ".", "Now", "it", "is", "immediately", "clear", "that", "if", "C", "M", "is", "contained", "in", "R", "M", ",", "then", "C", "L", "is", "contained", "in", "R", "L", ".", "Thus", "these", "tests", "are", "monotone", ",", "if", "our", "sample", "fails", "the", "high", "test", ",", "it", "will", "definitely", "fail", "all", "tests", ".", "Algorithm", ":", "D", "-LRB-", "z", ",", "y", "-RRB-", "Let", "pSE", "-LRB-", ".", ",", ".", "-RRB-", "be", "the", "somewhere", "extractor", "with", "a", "polynomial", "number", "of", "outputs", "of", "Proposition", "2.3", ".", "Let", "SSE", "-LRB-", ".", ",", ".", "-RRB-", "be", "the", "subsource", "somewhere", "extractor", "of", "Theorem", "2.6", ".", "Global", "Parameters", ":", "t", ",", "the", "branching", "factor", "of", "the", "tree", ".", "k", "the", "original", "entropy", "of", "the", "sources", ".", "Local", "Parameters", "for", "recursive", "level", ":", "m", "L", "m", "M", "m", "H", ".", "Output", "will", "be", "an", "element", "of", "-LCB-", "0", ",", "1", "-RCB-", ".", "1", ".", "If", "z", "is", "shorter", "than", "k", ",", "return", "0", ".", "2", ".", "Partition", "z", "into", "t", "equal", "parts", "z", "=", "z", "1", ",", "z", "2", ",", "...", ",", "z", "t", ".", "3", ".", "Compute", "three", "response", "sets", "R", "L", ",", "R", "M", ",", "R", "H", "using", "pSE", "-LRB-", "z", ",", "y", "-RRB-", ".", "R", "j", "will", "be", "the", "prefixes", "of", "length", "m", "j", "of", "the", "strings", "in", "pSE", "-LRB-", "z", ",", "y", "-RRB-", ".", "4", ".", "For", "each", "i", "-LSB-", "t", "-RSB-", ",", "compute", "three", "challenge", "sets", "C", "i", "L", ",", "C", "i", "M", ",", "C", "i", "H", "using", "SSE", "-LRB-", "z", "i", ",", "y", "-RRB-", ".", "C", "i", "j", "will", "be", "the", "prefixes", "of", "length", "m", "j", "of", "the", "strings", "in", "SSE", "-LRB-", "z", "i", ",", "y", "-RRB-", ".", "5", ".", "Let", "h", "be", "the", "smallest", "index", "for", "which", "the", "challenge", "set", "C", "L", "is", "not", "contained", "in", "the", "response", "set", "R", "L", ",", "if", "there", "is", "no", "such", "index", ",", "output", "0", "and", "halt", ".", "6", ".", "If", "C", "h", "H", "is", "contained", "in", "R", "H", "and", "C", "h", "H", "is", "contained", "in", "R", "M", ",", "output", "0", "and", "halt", ".", "If", "C", "h", "H", "is", "contained", "in", "R", "H", "but", "C", "h", "H", "is", "not", "contained", "in", "R", "M", ",", "output", "1", "and", "halt", ".", "677", "t", "blocks", "t", "blocks", "t", "blocks", "fail", "fail", "fail", "pass", "pass", "pass", "fail", "fail", "fail", "fail", "fail", "fail", "fail", "fail", "fail", "fail", "fail", "fail", "pass", "pass", "fail", "pass", "fail", "fail", "low", "low", "high", "low", "low", "low", "high", "low", "med", "n", "bits", "total", "n/t", "bits", "total", "X", "low", "low", "Output", "0", "Output", "1", "n/t", "^", "2", "bits", "total", "X_3", "-LRB-", "X_3", "-RRB-", "_", "4", "Figure", "2", ":", "Analysis", "of", "the", "disperser", ".", "7", ".", "Output", "D", "-LRB-", "z", "h", ",", "y", "-RRB-", ",", "First", "note", "the", "obvious", "monotonicity", "of", "the", "tests", ".", "If", "Z", "i", "fails", "one", "of", "the", "tests", "it", "will", "certainly", "fail", "for", "shorter", "strings", ".", "Thus", "there", "are", "only", "four", "outcomes", "to", "the", "three", "tests", ",", "written", "in", "the", "order", "-LRB-", "low", ",", "medium", ",", "high", "-RRB-", ":", "-LRB-", "pass", ",", "pass", ",", "pass", "-RRB-", ",", "-LRB-", "pass", ",", "pass", ",", "fail", "-RRB-", ",", "-LRB-", "pass", ",", "fail", ",", "fail", "-RRB-", "and", "-LRB-", "fail", ",", "fail", ",", "fail", "-RRB-", ".", "Conceptually", ",", "the", "algorithm", "is", "making", "the", "following", "decisions", "using", "the", "four", "tests", ":", "1", ".", "-LRB-", "fail", ",", "fail", ",", "fail", "-RRB-", ":", "Assume", "Z", "i", "has", "low", "entropy", "and", "proceed", "to", "block", "i", "+", "1", ".", "2", ".", "-LRB-", "pass", ",", "fail", ",", "fail", "-RRB-", ":", "Assume", "Z", "i", "is", "medium", ",", "halt", "and", "output", "0", ".", "3", ".", "-LRB-", "pass", ",", "pass", ",", "fail", "-RRB-", ":", "Assume", "Z", "i", "is", "medium", ",", "halt", "and", "output", "1", ".", "4", ".", "-LRB-", "pass", ",", "pass", ",", "pass", "-RRB-", ":", "Assume", "Z", "i", "is", "high", "and", "recurse", "on", "Z", "i", ".", "The", "analysis", "of", "this", "idea", "-LRB-", "depicted", "in", "Figure", "2", "-RRB-", ".", "turns", "out", "to", "be", "more", "complex", "than", "it", "seems", ".", "There", "are", "two", "reasons", "for", "that", ".", "Now", "we", "briefly", "explain", "them", "and", "the", "way", "to", "overcome", "them", "in", "the", "construction", "and", "analysis", ".", "The", "first", "reason", "is", "the", "fact", "mentioned", "above", ",", "that", "SSE", "which", "generates", "the", "challenges", ",", "works", "only", "on", "a", "subsources", "of", "the", "original", "sources", ".", "Restricting", "to", "these", "subsources", "at", "some", "level", "of", "the", "recursion", "-LRB-", "as", "required", "by", "the", "analysis", "of", "of", "the", "test", "-RRB-", "causes", "entropy", "loss", "which", "affects", "both", "definitions", "-LRB-", "such", "as", "these", "entropy", "thresholds", "for", "decisions", "-RRB-", "and", "correct-ness", "of", "SSE", "in", "higher", "levels", "of", "recursion", ".", "Controlling", "this", "entropy", "loss", "is", "achieved", "by", "calling", "SSE", "recursively", "with", "smaller", "and", "smaller", "entropy", "requirements", ",", "which", "in", "turn", "limits", "the", "entropy", "which", "will", "be", "lost", "by", "these", "restrictions", ".", "In", "order", "not", "to", "lose", "all", "the", "entropy", "for", "this", "reason", "alone", ",", "we", "must", "work", "with", "special", "parameters", "of", "SSE", ",", "essentially", "requiring", "that", "at", "termination", "it", "has", "almost", "all", "the", "entropy", "it", "started", "with", ".", "The", "second", "reason", "is", "the", "analysis", "of", "the", "test", "when", "we", "are", "in", "a", "medium", "block", ".", "In", "contrast", "with", "the", "above", "situation", ",", "we", "can", "not", "consider", "the", "value", "of", "Z", "i", "fixed", "when", "we", "need", "it", "to", "fail", "on", "the", "Medium", "and", "Low", "tests", ".", "We", "need", "to", "show", "that", "for", "these", "two", "tests", "-LRB-", "given", "a", "pass", "for", "High", "-RRB-", ",", "they", "come", "up", "both", "-LRB-", "pass", ",", "fail", "-RRB-", "and", "-LRB-", "fail", ",", "fail", "-RRB-", "each", "with", "positive", "probability", ".", "Since", "the", "length", "of", "Medium", "challenges", "and", "responses", "is", "m", "M", ",", "the", "probability", "of", "failure", "is", "at", "least", "exp", "-LRB-", "-", "-LRB-", "m", "M", "-RRB-", "-RRB-", "-LRB-", "this", "follows", "relatively", "easily", "from", "the", "fact", "that", "the", "responses", "are", "somewhere", "random", "-RRB-", ".", "If", "the", "Medium", "test", "fails", "so", "does", "the", "Low", "test", ",", "and", "thus", "-LRB-", "fail", ",", "fail", "-RRB-", "has", "a", "positive", "probability", "and", "our", "disperser", "D", "outputs", "0", "with", "positive", "probability", ".", "To", "bound", "-LRB-", "pass", ",", "fail", "-RRB-", "we", "first", "observe", "-LRB-", "with", "a", "similar", "reasoning", "-RRB-", "that", "the", "low", "test", "fails", "with", "probability", "at", "least", "exp", "-LRB-", "-", "-LRB-", "m", "L", "-RRB-", "-RRB-", ".", "But", "we", "want", "the", "medium", "test", "to", "pass", "at", "the", "same", "time", ".", "This", "probability", "is", "at", "least", "the", "probability", "that", "low", "fails", "minus", "the", "probability", "that", "medium", "fails", ".", "We", "already", "have", "a", "bound", "on", "the", "latter", ":", "it", "is", "at", "most", "poly", "-LRB-", "n", "-RRB-", "exp", "-LRB-", "-", "m", "M", "-RRB-", ".", "Here", "comes", "our", "control", "of", "the", "different", "length", "into", "play", "-", "we", "can", "make", "the", "m", "L", "sufficiently", "smaller", "than", "m", "M", "to", "yield", "this", "difference", "positive", ".", "We", "conclude", "that", "our", "disperser", "D", "outputs", "1", "with", "positive", "probability", "as", "well", ".", "Finally", ",", "we", "need", "to", "take", "care", "of", "termination", ":", "we", "have", "to", "ensure", "that", "the", "recurrence", "always", "arrives", "at", "a", "medium", "subpart", ",", "but", "it", "is", "easy", "to", "chose", "entropy", "thresholds", "for", "low", ",", "medium", "and", "high", "to", "ensure", "that", "this", "happens", ".", "678", "In", "this", "section", "we", "will", "breifly", "discuss", "an", "issue", "which", "arises", "in", "our", "construction", "that", "we", "glossed", "over", "in", "the", "previous", "sections", ".", "Recall", "our", "definition", "of", "subsources", ":", "Definition", "6.1", "-LRB-", "Subsources", "-RRB-", ".", "Given", "random", "variables", "Z", "and", "^", "Z", "on", "-LCB-", "0", ",", "1", "-RCB-", "n", "we", "say", "that", "^", "Z", "is", "a", "deficiency", "d", "subsource", "of", "Z", "and", "write", "^", "Z", "Z", "if", "there", "exists", "a", "set", "A", "-LCB-", "0,1", "-RCB-", "n", "such", "that", "-LRB-", "Z", "|", "A", "-RRB-", "=", "^", "Z", "and", "Pr", "-LSB-", "Z", "A", "-RSB-", "2", "-", "d", ".", "Recall", "that", "we", "were", "able", "to", "guarantee", "that", "our", "algorithms", "made", "the", "right", "decisions", "only", "on", "subsources", "of", "the", "original", "source", ".", "For", "example", ",", "in", "the", "construction", "of", "our", "final", "disperser", ",", "to", "ensure", "that", "our", "algorithms", "correctly", "identify", "the", "right", "high", "block", "to", "recurse", "on", ",", "we", "were", "only", "able", "to", "guarantee", "that", "there", "are", "subsources", "of", "the", "original", "sources", "in", "which", "our", "algorithm", "makes", "the", "correct", "decision", "with", "high", "probability", ".", "Then", ",", "later", "in", "the", "analysis", "we", "had", "to", "further", "restrict", "the", "source", "to", "even", "smaller", "subsources", ".", "This", "leads", "to", "complications", ",", "since", "the", "original", "event", "of", "picking", "the", "correct", "high", "block", ",", "which", "occurred", "with", "high", "probability", ",", "may", "become", "an", "event", "which", "does", "not", "occur", "with", "high", "probability", "in", "the", "current", "subsource", ".", "To", "handle", "these", "kinds", "of", "issues", ",", "we", "will", "need", "to", "be", "very", "careful", "in", "measuring", "how", "small", "our", "subsources", "are", ".", "In", "the", "formal", "analysis", "we", "introduce", "the", "concept", "of", "resiliency", "to", "deal", "with", "this", ".", "To", "give", "an", "idea", "of", "how", "this", "works", ",", "here", "is", "the", "actual", "definition", "of", "somewhere", "subsource", "extractor", "that", "we", "use", "in", "the", "formal", "analysis", ".", "Definition", "6.2", "-LRB-", "subsource", "somewhere", "extractor", "-RRB-", ".", "A", "function", "SSE", ":", "-LCB-", "0", ",", "1", "-RCB-", "n", "-LCB-", "0", ",", "1", "-RCB-", "n", "-LRB-", "-LCB-", "0", ",", "1", "-RCB-", "m", "-RRB-", "is", "a", "subsource", "somewhere", "extractor", "with", "nrows", "output", "rows", ",", "entropy", "threshold", "k", ",", "deficiency", "def", ",", "resiliency", "res", "and", "error", "if", "for", "every", "-LRB-", "n", ",", "k", "-RRB-", "-", "sources", "X", ",", "Y", "there", "exist", "a", "deficiency", "def", "subsource", "X", "good", "of", "X", "and", "a", "deficiency", "def", "subsource", "Y", "good", "of", "Y", "such", "that", "for", "every", "deficiency", "res", "subsource", "X", "of", "X", "good", "and", "deficiency", "res", "subsource", "Y", "of", "Y", "good", ",", "the", "random", "variable", "SSE", "-LRB-", "X", ",", "Y", "-RRB-", "is", "-", "close", "to", "a", "m", "somewhere", "random", "distribution", ".", "It", "turns", "out", "that", "our", "subsource", "somewhere", "extractor", "does", "satisfy", "this", "stronger", "definition", ".", "The", "advantage", "of", "this", "definition", "is", "that", "it", "says", "that", "once", "we", "restrict", "our", "attention", "to", "the", "good", "subsources", "X", "good", ",", "Y", "good", ",", "we", "have", "the", "freedom", "to", "further", "restrict", "these", "subsources", "to", "smaller", "subsources", ",", "as", "long", "as", "our", "final", "subsources", "do", "not", "lose", "more", "entropy", "than", "the", "resiliency", "permits", ".", "This", "issue", "of", "managing", "the", "resiliency", "for", "the", "various", "objects", "that", "we", "construct", "is", "one", "of", "the", "major", "technical", "challenges", "that", "we", "had", "to", "overcome", "in", "our", "construction", ".", "Better", "Independent", "Source", "Extractors", "A", "bottleneck", "to", "improving", "our", "disperser", "is", "the", "block", "versus", "general", "source", "extractor", "of", "Theorem", "2.7", ".", "A", "good", "next", "step", "would", "be", "to", "try", "to", "build", "an", "extractor", "for", "one", "block", "source", "-LRB-", "with", "only", "a", "constant", "number", "of", "blocks", "-RRB-", "and", "one", "other", "independent", "source", "which", "works", "for", "polylog-arithmic", "entropy", ",", "or", "even", "an", "extractor", "for", "a", "constant", "number", "of", "sources", "that", "works", "for", "sub-polynomial", "entropy", ".", "Simple", "Dispersers", "While", "our", "disperser", "is", "polynomial", "time", "computable", ",", "it", "is", "not", "as", "explicit", "as", "one", "might", "have", "hoped", ".", "For", "instance", "the", "Ramsey", "Graph", "construction", "of", "Frankl-Wilson", "is", "extremely", "simple", ":", "For", "a", "prime", "p", ",", "let", "the", "vertices", "of", "the", "graph", "be", "all", "subsets", "of", "-LSB-", "p", "3", "-RSB-", "of", "size", "p", "2", "-", "1", ".", "Two", "vertices", "S", ",", "T", "are", "adjacent", "if", "and", "only", "if", "|", "S", "T", "|", "-1", "mod", "p", ".", "It", "would", "be", "nice", "to", "find", "a", "good", "disperser", "that", "beats", "the", "Frankl-Wilson", "construction", ",", "yet", "is", "comparable", "in", "simplicity", ".", "-LSB-", "1", "-RSB-", "N.", "Alon", ".", "The", "shannon", "capacity", "of", "a", "union", ".", "Combinatorica", ",", "18", ",", "1998", ".", "-LSB-", "2", "-RSB-", "B.", "Barak", ".", "A", "simple", "explicit", "construction", "of", "an", "n", "~", "o", "-LRB-", "log", "n", "-RRB-", "-", "ramsey", "graph", ".", "Technical", "report", ",", "Arxiv", ",", "2006", ".", "http://arxiv.org/abs/math.CO/0601651", ".", "-LSB-", "3", "-RSB-", "B.", "Barak", ",", "R.", "Impagliazzo", ",", "and", "A.", "Wigderson", ".", "Extracting", "randomness", "using", "few", "independent", "sources", ".", "In", "Proceedings", "of", "the", "45th", "Annual", "IEEE", "Symposium", "on", "Foundations", "of", "Computer", "Science", ",", "pages", "384", "393", ",", "2004", ".", "-LSB-", "4", "-RSB-", "B.", "Barak", ",", "G.", "Kindler", ",", "R.", "Shaltiel", ",", "B.", "Sudakov", ",", "and", "A.", "Wigderson", ".", "Simulating", "independence", ":", "New", "constructions", "of", "condensers", ",", "Ramsey", "graphs", ",", "dispersers", ",", "and", "extractors", ".", "In", "Proceedings", "of", "the", "37th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "1", "10", ",", "2005", ".", "-LSB-", "5", "-RSB-", "J.", "Bourgain", ".", "More", "on", "the", "sum-product", "phenomenon", "in", "prime", "fields", "and", "its", "applications", ".", "International", "Journal", "of", "Number", "Theory", ",", "1:1", "32", ",", "2005", ".", "-LSB-", "6", "-RSB-", "J.", "Bourgain", ",", "N.", "Katz", ",", "and", "T.", "Tao", ".", "A", "sum-product", "estimate", "in", "finite", "fields", ",", "and", "applications", ".", "Geometric", "and", "Functional", "Analysis", ",", "14:27", "57", ",", "2004", ".", "-LSB-", "7", "-RSB-", "M.", "Capalbo", ",", "O.", "Reingold", ",", "S.", "Vadhan", ",", "and", "A.", "Wigderson", ".", "Randomness", "conductors", "and", "constant-degree", "lossless", "expanders", ".", "In", "Proceedings", "of", "the", "34th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "659", "668", ",", "2002", ".", "-LSB-", "8", "-RSB-", "B.", "Chor", "and", "O.", "Goldreich", ".", "Unbiased", "bits", "from", "sources", "of", "weak", "randomness", "and", "probabilistic", "communication", "complexity", ".", "SIAM", "Journal", "on", "Computing", ",", "17", "-LRB-", "2", "-RRB-", ":", "230", "261", ",", "1988", ".", "-LSB-", "9", "-RSB-", "P.", "Frankl", "and", "R.", "M.", "Wilson", ".", "Intersection", "theorems", "with", "geometric", "consequences", ".", "Combinatorica", ",", "1", "-LRB-", "4", "-RRB-", ":", "357", "368", ",", "1981", ".", "-LSB-", "10", "-RSB-", "P.", "Gopalan", ".", "Constructing", "ramsey", "graphs", "from", "boolean", "function", "representations", ".", "In", "Proceedings", "of", "the", "21th", "Annual", "IEEE", "Conference", "on", "Computational", "Complexity", ",", "2006", ".", "-LSB-", "11", "-RSB-", "V.", "Grolmusz", ".", "Low", "rank", "co-diagonal", "matrices", "and", "ramsey", "graphs", ".", "Electr", ".", "J.", "Comb", ",", "7", ",", "2000", ".", "-LSB-", "12", "-RSB-", "V.", "Guruswami", ".", "Better", "extractors", "for", "better", "codes", "?", "Electronic", "Colloquium", "on", "Computational", "Complexity", "-LRB-", "ECCC", "-RRB-", ",", "-LRB-", "080", "-RRB-", ",", "2003", ".", "-LSB-", "13", "-RSB-", "C.", "J.", "Lu", ",", "O.", "Reingold", ",", "S.", "Vadhan", ",", "and", "A.", "Wigderson", ".", "Extractors", ":", "Optimal", "up", "to", "constant", "factors", ".", "In", "Proceedings", "of", "the", "35th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "602", "611", ",", "2003", ".", "-LSB-", "14", "-RSB-", "P.", "Miltersen", ",", "N.", "Nisan", ",", "S.", "Safra", ",", "and", "A.", "Wigderson", ".", "On", "data", "structures", "and", "asymmetric", "communication", "complexity", ".", "Journal", "of", "Computer", "and", "System", "Sciences", ",", "57:37", "49", ",", "1", "1998", ".", "679", "-LSB-", "15", "-RSB-", "N.", "Nisan", "and", "D.", "Zuckerman", ".", "More", "deterministic", "simulation", "in", "logspace", ".", "In", "Proceedings", "of", "the", "25th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "235", "244", ",", "1993", ".", "-LSB-", "16", "-RSB-", "P.", "Pudlak", "and", "V.", "Rodl", ".", "Pseudorandom", "sets", "and", "explicit", "constructions", "of", "ramsey", "graphs", ".", "Submitted", "for", "publication", ",", "2004", ".", "-LSB-", "17", "-RSB-", "A.", "Rao", ".", "Extractors", "for", "a", "constant", "number", "of", "polynomially", "small", "min-entropy", "independent", "sources", ".", "In", "Proceedings", "of", "the", "38th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "2006", ".", "-LSB-", "18", "-RSB-", "R.", "Raz", ".", "Extractors", "with", "weak", "random", "seeds", ".", "In", "Proceedings", "of", "the", "37th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "11", "20", ",", "2005", ".", "-LSB-", "19", "-RSB-", "O.", "Reingold", ",", "R.", "Shaltiel", ",", "and", "A.", "Wigderson", ".", "Extracting", "randomness", "via", "repeated", "condensing", ".", "In", "Proceedings", "of", "the", "41st", "Annual", "IEEE", "Symposium", "on", "Foundations", "of", "Computer", "Science", ",", "pages", "22", "31", ",", "2000", ".", "-LSB-", "20", "-RSB-", "M.", "Santha", "and", "U.", "V.", "Vazirani", ".", "Generating", "quasi-random", "sequences", "from", "semi-random", "sources", ".", "Journal", "of", "Computer", "and", "System", "Sciences", ",", "33:75", "87", ",", "1986", ".", "-LSB-", "21", "-RSB-", "R.", "Shaltiel", ".", "Recent", "developments", "in", "explicit", "constructions", "of", "extractors", ".", "Bulletin", "of", "the", "European", "Association", "for", "Theoretical", "Computer", "Science", ",", "77:67", "95", ",", "2002", ".", "-LSB-", "22", "-RSB-", "A.", "Ta-Shma", "and", "D.", "Zuckerman", ".", "Extractor", "codes", ".", "IEEE", "Transactions", "on", "Information", "Theory", ",", "50", ",", "2004", ".", "-LSB-", "23", "-RSB-", "U.", "Vazirani", ".", "Towards", "a", "strong", "communication", "complexity", "theory", "or", "generating", "quasi-random", "sequences", "from", "two", "communicating", "slightly-random", "sources", "-LRB-", "extended", "abstract", "-RRB-", ".", "In", "Proceedings", "of", "the", "17th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "366", "378", ",", "1985", ".", "-LSB-", "24", "-RSB-", "A.", "Wigderson", "and", "D.", "Zuckerman", ".", "Expanders", "that", "beat", "the", "eigenvalue", "bound", ":", "Explicit", "construction", "and", "applications", ".", "Combinatorica", ",", "19", "-LRB-", "1", "-RRB-", ":", "125", "138", ",", "1999", ".", "680"], "doc_bio_tags": ["O", "B", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["disperser", "distribution", "structure", "deficiency", "theorem", "dispersers", "termination", "algorithms", "recursion", "subsource somewhere extractor", "ramsey graphs", "independent sources", "tools", "independent source", "randomness extraction", "ramsey graph", "bipartite graph", "entropy", "extractor", "resiliency", "extractors", "subsource"], "abstractive_keyphrases": ["polynomial time computable disperser", "construction of disperser", "explicit disperser", "sum-product theorem", "block-sources"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "116", "document": ["Interactive", "Machine", "Learning", "Perceptual", "user", "interfaces", "-LRB-", "PUIs", "-RRB-", "are", "an", "important", "part", "of", "ubiquitous", "computing", ".", "Creating", "such", "interfaces", "is", "difficult", "because", "of", "the", "image", "and", "signal", "processing", "knowledge", "required", "for", "creating", "classifiers", ".", "We", "propose", "an", "interactive", "machine-learning", "-LRB-", "IML", "-RRB-", "model", "that", "allows", "users", "to", "train", ",", "classify/view", "and", "correct", "the", "classifications", ".", "The", "concept", "and", "implementation", "details", "of", "IML", "are", "discussed", "and", "contrasted", "with", "classical", "machine", "learning", "models", ".", "Evaluations", "of", "two", "algorithms", "are", "also", "presented", ".", "We", "also", "briefly", "describe", "Image", "Processing", "with", "Crayons", "-LRB-", "Crayons", "-RRB-", ",", "which", "is", "a", "tool", "for", "creating", "new", "camera-based", "interfaces", "using", "a", "simple", "painting", "metaphor", ".", "The", "Crayons", "tool", "embodies", "our", "notions", "of", "interactive", "machine", "learning", ".", "Categories", ":", "H.", "5.2", ",", "D.", "2.2", "General", "Terms", ":", "Design", ",", "Experimentation", "Perceptual", "user", "interfaces", "-LRB-", "PUIs", "-RRB-", "are", "establishing", "the", "need", "for", "machine", "learning", "in", "interactive", "settings", ".", "PUIs", "like", "VideoPlace", "-LSB-", "8", "-RSB-", ",", "Light", "Widgets", "-LSB-", "3", "-RSB-", ",", "and", "Light", "Table", "-LSB-", "15,16", "-RSB-", "all", "use", "cameras", "as", "their", "perceptive", "medium", ".", "Other", "systems", "use", "sensors", "other", "than", "cameras", "such", "as", "depth", "scanners", "and", "infrared", "sensors", "-LSB-", "13,14,15", "-RSB-", ".", "All", "of", "these", "PUIs", "require", "machine", "learning", "and", "computer", "vision", "techniques", "to", "create", "some", "sort", "of", "a", "classifier", ".", "This", "classification", "component", "of", "the", "UI", "often", "demands", "great", "effort", "and", "expense", ".", "Because", "most", "developers", "have", "little", "knowledge", "on", "how", "to", "implement", "recognition", "in", "their", "UIs", "this", "becomes", "problematic", ".", "Even", "those", "who", "do", "have", "this", "knowledge", "would", "benefit", "if", "the", "classifier", "building", "expense", "were", "lessened", ".", "We", "suggest", "the", "way", "to", "decrease", "this", "expense", "is", "through", "the", "use", "of", "a", "visual", "image", "classifier", "generator", ",", "which", "would", "allow", "developers", "to", "add", "intelligence", "to", "interfaces", "without", "forcing", "additional", "programming", ".", "Similar", "to", "how", "Visual", "Basic", "allows", "simple", "and", "fast", "development", ",", "this", "tool", "would", "allow", "for", "fast", "integration", "of", "recognition", "or", "perception", "into", "a", "UI", ".", "Implementation", "of", "such", "a", "tool", ",", "however", ",", "poses", "many", "problems", ".", "First", "and", "foremost", "is", "the", "problem", "of", "rapidly", "creating", "a", "satisfactory", "classifier", ".", "The", "simple", "solution", "is", "to", "using", "behind-the-scenes", "machine", "learning", "and", "image", "processing", ".", "Machine", "learning", "allows", "automatic", "creation", "of", "classifiers", ",", "however", ",", "the", "classical", "models", "are", "generally", "slow", "to", "train", ",", "and", "not", "interactive", ".", "The", "classical", "machine-learning", "-LRB-", "CML", "-RRB-", "model", "is", "summarized", "in", "Figure", "1", ".", "Prior", "to", "the", "training", "of", "the", "classifier", ",", "features", "need", "to", "be", "selected", ".", "Training", "is", "then", "performed", "``", "off-line", "''", "so", "that", "classification", "can", "be", "done", "quickly", "and", "efficiently", ".", "In", "this", "model", "classification", "is", "optimized", "at", "the", "expense", "of", "longer", "training", "time", ".", "Generally", ",", "the", "classifier", "will", "run", "quickly", "so", "it", "can", "be", "done", "real-time", ".", "The", "assumption", "is", "that", "training", "will", "be", "performed", "only", "once", "and", "need", "not", "be", "interactive", ".", "Many", "machine-learning", "algorithms", "are", "very", "sensitive", "to", "feature", "selection", "and", "suffer", "greatly", "if", "there", "are", "very", "many", "features", ".", "Feature", "Selection", "Train", "Classify", "Interactive", "Use", "Figure", "1", "Classical", "machine", "learning", "model", "With", "CML", ",", "it", "is", "infeasible", "to", "create", "an", "interactive", "tool", "to", "create", "classifiers", ".", "CML", "requires", "the", "user", "to", "choose", "the", "features", "and", "wait", "an", "extended", "amount", "of", "time", "for", "the", "algorithm", "to", "train", ".", "The", "selection", "of", "features", "is", "very", "problematic", "for", "most", "interface", "designers", ".", "If", "one", "is", "designing", "an", "interactive", "technique", "involving", "laser", "spot", "tracking", ",", "most", "designers", "understand", "that", "the", "spot", "is", "generally", "red", ".", "They", "are", "not", "prepared", "to", "deal", "with", "how", "to", "sort", "out", "this", "spot", "from", "red", "clothing", ",", "camera", "noise", "or", "a", "variety", "of", "other", "problems", ".", "There", "are", "well-known", "image", "processing", "features", "for", "handling", "these", "problems", ",", "but", "very", "few", "interface", "designers", "would", "know", "how", "to", "carefully", "select", "them", "in", "a", "way", "that", "the", "machine", "learning", "algorithms", "could", "handle", ".", "The", "current", "approach", "requires", "too", "much", "technical", "knowledge", "on", "the", "part", "of", "the", "interface", "designer", ".", "What", "we", "would", "like", "to", "do", "is", "replace", "the", "classical", "machine-learning", "model", "with", "the", "interactive", "model", "shown", "in", "Figure", "2", ".", "This", "interactive", "training", "allows", "the", "classifier", "to", "be", "coached", "along", "until", "the", "desired", "results", "are", "met", ".", "In", "this", "model", "the", "designer", "is", "correcting", "and", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "IUI", "'", "03", ",", "January", "12", "15", ",", "2003", ",", "Miami", ",", "Florida", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-586-6", "/", "03/0001", "...", "$", "5.00", ".", "39", "teaching", "the", "classifier", "and", "the", "classifier", "must", "perform", "the", "appropriate", "feature", "selection", ".", "Feature", "Selection", "Train", "Classify", "Interactive", "Use", "Feedback", "To", "Designer", "Manual", "Correction", "Figure", "2", "Interactive", "machine", "learning", "-LRB-", "IML", "-RRB-", "model", "The", "pre-selection", "of", "features", "can", "be", "eliminated", "and", "transferred", "to", "the", "learning", "part", "of", "the", "IML", "if", "the", "learning", "algorithm", "used", "performs", "feature", "selection", ".", "This", "means", "that", "a", "large", "repository", "of", "features", "are", "initially", "calculated", "and", "fed", "to", "the", "learning", "algorithm", "so", "it", "can", "learn", "the", "best", "features", "for", "the", "classification", "problem", "at", "hand", ".", "The", "idea", "is", "to", "feed", "a", "very", "large", "number", "of", "features", "into", "the", "classifier", "training", "and", "let", "the", "classifier", "do", "the", "filtering", "rather", "than", "the", "human", ".", "The", "human", "designer", "then", "is", "focused", "on", "rapidly", "creating", "training", "data", "that", "will", "correct", "the", "errors", "of", "the", "classifier", ".", "In", "classical", "machine", "learning", ",", "algorithms", "are", "evaluated", "on", "their", "inductive", "power", ".", "That", "is", ",", "how", "well", "the", "algorithm", "will", "perform", "on", "new", "data", "based", "on", "the", "extrapolations", "made", "on", "the", "training", "data", ".", "Good", "inductive", "power", "requires", "careful", "analysis", "and", "a", "great", "deal", "of", "computing", "time", ".", "This", "time", "is", "frequently", "exponential", "in", "the", "number", "of", "features", "to", "be", "considered", ".", "We", "believe", "that", "using", "the", "IML", "model", "a", "simple", "visual", "tool", "can", "be", "designed", "to", "build", "classifiers", "quickly", ".", "We", "hypothesize", "that", "when", "using", "the", "IML", ",", "having", "a", "very", "fast", "training", "algorithm", "is", "more", "important", "than", "strong", "induction", ".", "In", "place", "of", "careful", "analysis", "of", "many", "feature", "combinations", "we", "provide", "much", "more", "human", "input", "to", "correct", "errors", "as", "they", "appear", ".", "This", "allows", "the", "interactive", "cycle", "to", "be", "iterated", "quickly", "so", "it", "can", "be", "done", "more", "frequently", ".", "The", "remainder", "of", "the", "paper", "is", "as", "follows", ".", "The", "next", "section", "briefly", "discusses", "the", "visual", "tool", "we", "created", "using", "the", "IML", "model", ",", "called", "Image", "Processing", "with", "Crayons", "-LRB-", "Crayons", "-RRB-", ".", "This", "is", "done", "to", "show", "one", "application", "of", "the", "IML", "model", "'s", "power", "and", "versatility", ".", "Following", "the", "explanation", "of", "Crayons", ",", "we", "explore", "the", "details", "of", "the", "IML", "model", "by", "examining", "its", "distinction", "from", "CML", ",", "the", "problems", "it", "must", "overcome", ",", "and", "its", "implementation", "details", ".", "Finally", "we", "present", "some", "results", "from", "some", "tests", "between", "two", "of", "the", "implemented", "machine", "learning", "algorithms", ".", "From", "these", "results", "we", "base", "some", "preliminary", "conclusions", "of", "IML", "as", "it", "relates", "to", "Crayons", ".", "Crayons", "is", "a", "system", "we", "created", "that", "uses", "IML", "to", "create", "image", "classifiers", ".", "Crayons", "is", "intended", "to", "aid", "UI", "designers", "who", "do", "not", "have", "detailed", "knowledge", "of", "image", "processing", "and", "machine", "learning", ".", "It", "is", "also", "intended", "to", "accelerate", "the", "efforts", "of", "more", "knowledgeable", "programmers", ".", "There", "are", "two", "primary", "goals", "for", "the", "Crayons", "tool", ":", "1", "-RRB-", "to", "allow", "the", "user", "to", "create", "an", "image/pixel", "classifier", "quickly", ",", "and", "2", "-RRB-", "to", "allow", "the", "user", "to", "focus", "on", "the", "classification", "problem", "rather", "than", "image", "processing", "or", "algorithms", ".", "Crayons", "is", "successful", "if", "it", "takes", "minutes", "rather", "than", "weeks", "or", "months", "to", "create", "an", "effective", "classifier", ".", "For", "simplicity", "sake", ",", "we", "will", "refer", "to", "this", "as", "the", "UI", "principle", "of", "fast", "and", "focused", ".", "This", "principle", "refers", "to", "enabling", "the", "designer", "to", "quickly", "accomplish", "his/her", "task", "while", "remaining", "focused", "solely", "on", "that", "task", ".", "Figure", "3", "shows", "the", "Crayons", "design", "process", ".", "Images", "are", "input", "into", "the", "Crayons", "system", ",", "which", "can", "then", "export", "the", "generated", "classifier", ".", "It", "is", "assumed", "the", "user", "has", "already", "taken", "digital", "pictures", "and", "saved", "them", "as", "files", "to", "import", "into", "the", "system", ",", "or", "that", "a", "camera", "is", "set", "up", "on", "the", "machine", "running", "Crayons", ",", "so", "it", "can", "capture", "images", "from", "it", ".", "Exporting", "the", "classifier", "is", "equally", "trivial", ",", "since", "our", "implementation", "is", "written", "in", "Java", ".", "The", "classifier", "object", "is", "simply", "serialized", "and", "output", "to", "a", "file", "using", "the", "standard", "Java", "mechanisms", ".", "Figure", "3", "Classifier", "Design", "Process", "An", "overview", "of", "the", "internal", "architecture", "of", "Crayons", "is", "shown", "in", "Figure", "4", ".", "Crayons", "receives", "images", "upon", "which", "the", "user", "does", "some", "manual", "classification", ",", "a", "classifier", "is", "created", ",", "then", "feedback", "is", "displayed", ".", "The", "user", "can", "then", "refine", "the", "classifier", "by", "adding", "more", "manual", "classification", "or", ",", "if", "the", "classifier", "is", "satisfactory", ",", "the", "user", "can", "export", "the", "classifier", ".", "The", "internal", "loop", "shown", "in", "Figure", "4", "directly", "correlates", "to", "the", "aforementioned", "train", ",", "feedback", ",", "correct", "cycle", "of", "the", "IML", "-LRB-", "see", "Figure", "2", "-RRB-", ".", "To", "accomplish", "the", "fast", "and", "focused", "UI", "principle", ",", "this", "loop", "must", "be", "easy", "and", "quick", "to", "cycle", "through", ".", "To", "be", "interactive", "the", "training", "part", "of", "the", "loop", "must", "take", "less", "than", "five", "seconds", "and", "generally", "much", "faster", ".", "The", "cycle", "can", "be", "broken", "down", "into", "two", "components", ":", "the", "UI", "and", "the", "Classifier", ".", "The", "UI", "component", "needs", "to", "be", "simple", "so", "the", "user", "can", "remain", "focused", "on", "the", "classification", "problem", "at", "hand", ".", "The", "classifier", "creation", "needs", "to", "be", "fast", "and", "efficient", "so", "the", "user", "gets", "feedback", "as", "quickly", "as", "possible", ",", "so", "they", "are", "not", "distracted", "from", "the", "classification", "problem", ".", "Figure", "4", "The", "classification", "design", "loop", "40", "Although", "the", "IML", "and", "the", "machine-learning", "component", "of", "Crayons", "are", "the", "primary", "discussion", "of", "this", "paper", "it", "is", "notable", "to", "mention", "that", "Crayons", "has", "profited", "from", "work", "done", "by", "Viola", "and", "Jones", "-LSB-", "19", "-RSB-", "and", "Jaimes", "and", "Chang", "-LSB-", "5,6,7", "-RSB-", ".", "Also", "a", "brief", "example", "of", "how", "Crayons", "can", "be", "used", "is", "illustrative", ".", "The", "sequence", "of", "images", "in", "Figure", "5", "shows", "the", "process", "of", "creating", "a", "classifier", "using", "Crayons", ".", "Figure", "5", "Crayons", "interaction", "process", "Figure", "5", "illustrates", "how", "the", "user", "initially", "paints", "very", "little", "data", ",", "views", "the", "feedback", "provided", "by", "the", "resulting", "classifier", ",", "corrects", "by", "painting", "additional", "class", "pixels", "and", "then", "iterates", "through", "the", "cycle", ".", "As", "seen", "in", "the", "first", "image", "pair", "in", "Figure", "5", ",", "only", "a", "little", "data", "can", "generate", "a", "classifier", "that", "roughly", "learns", "skin", "and", "background", ".", "The", "classifier", ",", "however", ",", "over-generalizes", "in", "favor", "of", "background", ";", "therefore", ",", "in", "the", "second", "image", "pair", "you", "can", "see", "skin", "has", "been", "painted", "where", "the", "classifier", "previously", "did", "poorly", "at", "classifying", "skin", ".", "The", "resulting", "classifier", "shown", "on", "the", "right", "of", "the", "second", "image", "pair", "shows", "the", "new", "classifier", "classifying", "most", "of", "the", "skin", "on", "the", "hand", ",", "but", "also", "classifying", "some", "of", "the", "background", "as", "skin", ".", "The", "classifier", "is", "corrected", "again", ",", "and", "the", "resulting", "classifier", "is", "shown", "as", "the", "third", "image", "pair", "in", "the", "sequence", ".", "Thus", ",", "in", "only", "a", "few", "iterations", ",", "a", "skin", "classifier", "is", "created", ".", "The", "simplicity", "of", "the", "example", "above", "shows", "the", "power", "that", "Crayons", "has", "due", "to", "the", "effectiveness", "of", "the", "IML", "model", ".", "The", "key", "issue", "in", "the", "creation", "of", "such", "a", "tool", "lies", "in", "quickly", "generating", "effective", "classifiers", "so", "the", "interactive", "design", "loop", "can", "be", "utilized", ".", "For", "the", "IML", "model", "to", "function", ",", "the", "classifier", "must", "be", "generated", "quickly", "and", "be", "able", "to", "generalize", "well", ".", "As", "such", "we", "will", "first", "discuss", "the", "distinctions", "between", "IML", "and", "CML", ",", "followed", "by", "the", "problems", "IML", "must", "overcome", "because", "of", "its", "interactive", "setting", ",", "and", "lastly", "its", "implementation", "details", "including", "specific", "algorithms", ".", "Classical", "machine", "learning", "generally", "has", "the", "following", "assumptions", ".", "There", "are", "relatively", "few", "carefully", "chosen", "features", ",", "There", "is", "limited", "training", "data", ",", "The", "classifier", "must", "amplify", "that", "limited", "training", "data", "into", "excellent", "performance", "on", "new", "training", "data", ",", "Time", "to", "train", "the", "classifier", "is", "relatively", "unimportant", "as", "long", "as", "it", "does", "not", "take", "too", "many", "days", ".", "None", "of", "these", "assumptions", "hold", "in", "our", "interactive", "situation", ".", "Our", "UI", "designers", "have", "no", "idea", "what", "features", "will", "be", "appropriate", ".", "In", "fact", ",", "we", "are", "trying", "to", "insulate", "them", "from", "knowing", "such", "things", ".", "In", "our", "current", "Crayons", "prototype", "there", "are", "more", "than", "150", "features", "per", "pixel", ".", "To", "reach", "the", "breadth", "of", "application", "that", "we", "desire", "for", "Crayons", "we", "project", "over", "1,000", "features", "will", "be", "necessary", ".", "The", "additional", "features", "will", "handle", "texture", ",", "shape", "and", "motion", "over", "time", ".", "For", "any", "given", "problem", "somewhere", "between", "three", "and", "fifteen", "of", "those", "features", "will", "actually", "be", "used", ",", "but", "the", "classifier", "algorithm", "must", "automatically", "make", "this", "selection", ".", "The", "classifier", "we", "choose", "must", "therefore", "be", "able", "to", "accommodate", "such", "a", "large", "number", "of", "features", ",", "and/or", "select", "only", "the", "best", "features", ".", "In", "Crayons", ",", "when", "a", "designer", "begins", "to", "paint", "classes", "on", "an", "image", "a", "very", "large", "number", "of", "training", "examples", "is", "quickly", "generated", ".", "With", "77K", "pixels", "per", "image", "and", "20", "images", "one", "can", "rapidly", "generate", "over", "a", "million", "training", "examples", ".", "In", "practice", ",", "the", "number", "stays", "in", "the", "100K", "examples", "range", "because", "designers", "only", "paint", "pixels", "that", "they", "need", "to", "correct", "rather", "than", "all", "pixels", "in", "the", "image", ".", "What", "this", "means", ",", "however", ",", "is", "that", "designers", "can", "generate", "a", "huge", "amount", "of", "training", "data", "very", "quickly", ".", "CML", "generally", "focuses", "on", "the", "ability", "of", "a", "classifier", "to", "predict", "correct", "behavior", "on", "new", "data", ".", "In", "IML", ",", "however", ",", "if", "the", "classifier", "'s", "predictions", "for", "new", "data", "are", "wrong", ",", "the", "designer", "can", "rapidly", "make", "those", "corrections", ".", "By", "rapid", "feedback", "and", "correction", "the", "classifier", "is", "quickly", "-LRB-", "in", "a", "matter", "of", "minutes", "-RRB-", "focused", "onto", "the", "desired", "behavior", ".", "The", "goal", "of", "the", "classifier", "is", "not", "to", "predict", "the", "designer", "'s", "intent", "into", "new", "situations", "but", "rapidly", "reflect", "intent", "as", "expressed", "in", "concrete", "examples", ".", "Because", "additional", "training", "examples", "can", "be", "added", "so", "readily", ",", "IML", "'s", "bias", "differs", "greatly", "from", "that", "of", "CML", ".", "Because", "it", "extrapolates", "a", "little", "data", "to", "create", "a", "classifier", "that", "will", "be", "frequently", "used", "in", "the", "future", ",", "CML", "is", "very", "concerned", "about", "overfit", ".", "Overfit", "is", "where", "the", "trained", "classifier", "adheres", "41", "too", "closely", "to", "the", "training", "data", "rather", "than", "deducing", "general", "principles", ".", "Cross-validation", "and", "other", "measures", "are", "generally", "taken", "to", "minimize", "overfit", ".", "These", "measures", "add", "substantially", "to", "the", "training", "time", "for", "CML", "algorithms", ".", "IML", "'s", "bias", "is", "to", "include", "the", "human", "in", "the", "loop", "by", "facilitating", "rapid", "correction", "of", "mistakes", ".", "Overfit", "can", "easily", "occur", ",", "but", "it", "is", "also", "readily", "perceived", "by", "the", "designer", "and", "instantly", "corrected", "by", "the", "addition", "of", "new", "training", "data", "in", "exactly", "the", "areas", "that", "are", "most", "problematic", ".", "This", "is", "shown", "clearly", "in", "Figure", "5", "where", "a", "designer", "rapidly", "provides", "new", "data", "in", "the", "edges", "of", "the", "hand", "where", "the", "generalization", "failed", ".", "Our", "interactive", "classification", "loop", "requires", "that", "the", "classifier", "training", "be", "very", "fast", ".", "To", "be", "effective", ",", "the", "classifier", "must", "be", "generated", "from", "the", "training", "examples", "in", "under", "five", "seconds", ".", "If", "the", "classifier", "takes", "minutes", "or", "hours", ",", "the", "process", "of", "`", "train-feedback", "-", "correct", "'", "is", "no", "longer", "interactive", ",", "and", "much", "less", "effective", "as", "a", "design", "tool", ".", "Training", "on", "100,000", "examples", "with", "150", "features", "each", "in", "less", "than", "five", "seconds", "is", "a", "serious", "challenge", "for", "most", "CML", "algorithms", ".", "Lastly", ",", "for", "this", "tool", "to", "be", "viable", "the", "final", "classifier", "will", "need", "to", "be", "able", "to", "classify", "320", "x", "240", "images", "in", "less", "than", "a", "fourth", "of", "a", "second", ".", "If", "the", "resulting", "classifier", "is", "much", "slower", "than", "this", "it", "becomes", "impossible", "to", "use", "it", "to", "track", "interactive", "behavior", "in", "a", "meaningful", "way", ".", "Throughout", "our", "discussion", "thus", "far", ",", "many", "requirements", "for", "the", "machine-learning", "algorithm", "in", "IML", "have", "been", "made", ".", "The", "machine-learning", "algorithm", "must", ":", "learn/train", "very", "quickly", ",", "accommodate", "100s", "to", "1000s", "of", "features", ",", "perform", "feature", "selection", ",", "allow", "for", "tens", "to", "hundreds", "of", "thousands", "of", "training", "examples", ".", "These", "requirements", "put", "firm", "bounds", "on", "what", "kind", "of", "a", "learning", "algorithm", "can", "be", "used", "in", "IML", ".", "They", "invoke", "the", "fundamental", "question", "of", "which", "machine-learning", "algorithm", "fits", "all", "of", "these", "criteria", ".", "We", "discuss", "several", "options", "and", "the", "reason", "why", "they", "are", "not", "viable", "before", "we", "settle", "on", "our", "algorithm", "of", "choice", ":", "decision", "trees", "-LRB-", "DT", "-RRB-", ".", "Neural", "Networks", "-LSB-", "12", "-RSB-", "are", "a", "powerful", "and", "often", "used", "machine-learning", "algorithm", ".", "They", "can", "provably", "approximate", "any", "function", "in", "two", "layers", ".", "Their", "strength", "lies", "in", "their", "abilities", "to", "intelligently", "integrate", "a", "variety", "of", "features", ".", "Neural", "networks", "also", "produce", "relatively", "small", "and", "efficient", "classifiers", ",", "however", ",", "there", "are", "not", "feasible", "in", "IML", ".", "The", "number", "of", "features", "used", "in", "systems", "like", "Crayons", "along", "with", "the", "number", "of", "hidden", "nodes", "required", "to", "produce", "the", "kinds", "of", "classifications", "that", "are", "necessary", "completely", "overpowers", "this", "algorithm", ".", "Even", "more", "debilitating", "is", "the", "training", "time", "for", "neural", "networks", ".", "The", "time", "this", "algorithm", "takes", "to", "converge", "is", "far", "to", "long", "for", "interactive", "use", ".", "For", "150", "features", "this", "can", "take", "hours", "or", "days", ".", "The", "nearest-neighbor", "algorithm", "-LSB-", "1", "-RSB-", "is", "easy", "to", "train", "but", "not", "very", "effective", ".", "Besides", "not", "being", "able", "to", "discriminate", "amongst", "features", ",", "nearest-neighbor", "has", "serious", "problems", "in", "high", "dimensional", "feature", "spaces", "of", "the", "kind", "needed", "in", "IML", "and", "Crayons", ".", "Nearest-neighbor", "generally", "has", "a", "classification", "time", "that", "is", "linear", "in", "the", "number", "of", "training", "examples", "which", "also", "makes", "it", "unacceptably", "slow", ".", "There", "are", "yet", "other", "algorithms", "such", "as", "boosting", "that", "do", "well", "with", "feature", "selection", ",", "which", "is", "a", "desirable", "characteristic", ".", "While", "boosting", "has", "shown", "itself", "to", "be", "very", "effective", "on", "tasks", "such", "as", "face", "tracing", "-LSB-", "18", "-RSB-", ",", "its", "lengthy", "training", "time", "is", "prohibitive", "for", "interactive", "use", "in", "Crayons", ".", "There", "are", "many", "more", "machine-learning", "algorithms", ",", "however", ",", "this", "discussion", "is", "sufficient", "to", "preface", "to", "our", "decision", "of", "the", "use", "of", "decision", "trees", ".", "All", "the", "algorithms", "discussed", "above", "suffer", "from", "the", "curse", "of", "dimensionality", ".", "When", "many", "features", "are", "used", "-LRB-", "100s", "to", "1000s", "-RRB-", ",", "their", "creation", "and", "execution", "times", "dramatically", "increase", ".", "In", "addition", ",", "the", "number", "of", "training", "examples", "required", "to", "adequately", "cover", "such", "high", "dimensional", "feature", "spaces", "would", "far", "exceed", "what", "designers", "can", "produce", ".", "With", "just", "one", "decision", "per", "feature", "the", "size", "of", "the", "example", "set", "must", "approach", "2", "100", ",", "which", "is", "completely", "unacceptable", ".", "We", "need", "a", "classifier", "that", "rapidly", "discards", "features", "and", "focuses", "on", "the", "1-10", "features", "that", "characterize", "a", "particular", "problem", ".", "Decision", "trees", "-LSB-", "10", "-RSB-", "have", "many", "appealing", "properties", "that", "coincide", "with", "the", "requirements", "of", "IML", ".", "First", "and", "foremost", "is", "that", "the", "DT", "algorithm", "is", "fundamentally", "a", "process", "of", "feature", "selection", ".", "The", "algorithm", "operates", "by", "examining", "each", "feature", "and", "selecting", "a", "decision", "point", "for", "dividing", "the", "range", "of", "that", "feature", ".", "It", "then", "computes", "the", "``", "impurity", "''", "of", "the", "result", "of", "dividing", "the", "training", "examples", "at", "that", "decision", "point", ".", "One", "can", "think", "of", "impurity", "as", "measuring", "the", "amount", "of", "confusion", "in", "a", "given", "set", ".", "A", "set", "of", "examples", "that", "all", "belong", "to", "one", "class", "would", "be", "pure", "-LRB-", "zero", "impurity", "-RRB-", ".", "There", "are", "a", "variety", "of", "possible", "impurity", "measures", "-LSB-", "2", "-RSB-", ".", "The", "feature", "whose", "partition", "yields", "the", "least", "impurity", "is", "the", "one", "chosen", ",", "the", "set", "is", "divided", "and", "the", "algorithm", "applied", "recursively", "to", "the", "divided", "subsets", ".", "Features", "that", "do", "not", "provide", "discrimination", "between", "classes", "are", "quickly", "discarded", ".", "The", "simplicity", "of", "DTs", "also", "provides", "many", "implementation", "advantages", "in", "terms", "of", "speed", "and", "space", "of", "the", "resulting", "classifier", ".", "Quinlan", "'s", "original", "DT", "algorithm", "-LSB-", "10", "-RSB-", "worked", "only", "on", "features", "that", "were", "discrete", "-LRB-", "a", "small", "number", "of", "choices", "-RRB-", ".", "Our", "image", "features", "do", "not", "have", "that", "property", ".", "Most", "of", "our", "features", "are", "continuous", "real", "values", ".", "Many", "extensions", "of", "the", "original", "DT", "algorithm", ",", "ID3", ",", "have", "been", "made", "to", "allow", "use", "of", "real", "valued", "data", "-LSB-", "4,11", "-RSB-", ".", "All", "of", "these", "algorithms", "either", "discretize", "the", "data", "or", "by", "selecting", "a", "threshold", "T", "for", "a", "given", "feature", "F", "divide", "the", "training", "examples", "into", "two", "sets", "where", "F", "<", "T", "and", "F", ">", "=", "T", ".", "The", "trick", "is", "for", "each", "feature", "to", "select", "a", "value", "T", "that", "gives", "the", "lowest", "impurity", "-LRB-", "best", "classification", "improvement", "-RRB-", ".", "The", "selection", "of", "T", "from", "a", "large", "number", "of", "features", "and", "a", "large", "number", "of", "training", "examples", "is", "very", "slow", "to", "do", "correctly", ".", "42", "We", "have", "implemented", "two", "algorithms", ",", "which", "employ", "different", "division", "techniques", ".", "These", "two", "algorithms", "also", "represent", "the", "two", "approaches", "of", "longer", "training", "time", "with", "better", "generalization", "vs.", "shorter", "training", "time", "with", "poorer", "generalization", ".", "The", "first", "strategy", "slightly", "reduces", "interactivity", "and", "relies", "more", "on", "learning", "performance", ".", "The", "second", "relies", "on", "speed", "and", "interactivity", ".", "The", "two", "strategies", "are", "Center", "Weighted", "-LRB-", "CW", "-RRB-", "and", "Mean", "Split", "-LRB-", "MS", "-RRB-", ".", "Our", "first", "DT", "attempt", "was", "to", "order", "all", "of", "the", "training", "examples", "for", "each", "feature", "and", "step", "through", "all", "of", "the", "examples", "calculating", "the", "impurity", "as", "if", "the", "division", "was", "between", "each", "of", "the", "examples", ".", "This", "yielded", "a", "minimum", "impurity", "split", ",", "however", ",", "this", "generally", "provided", "a", "best", "split", "close", "to", "the", "beginning", "or", "end", "of", "the", "list", "of", "examples", ",", "still", "leaving", "a", "large", "number", "of", "examples", "in", "one", "of", "the", "divisions", ".", "Divisions", "of", "this", "nature", "yield", "deeper", "and", "more", "unbalanced", "trees", ",", "which", "correlate", "to", "slower", "classification", "times", ".", "To", "improve", "this", "algorithm", ",", "we", "developed", "Center", "Weighted", "-LRB-", "CW", "-RRB-", ",", "which", "does", "the", "same", "as", "above", ",", "except", "that", "it", "more", "heavily", "weights", "central", "splits", "-LRB-", "more", "equal", "divisions", "-RRB-", ".", "By", "insuring", "that", "the", "split", "threshold", "is", "generally", "in", "the", "middle", "of", "the", "feature", "range", ",", "the", "resulting", "tree", "tends", "to", "be", "more", "balanced", "and", "the", "sizes", "of", "the", "training", "sets", "to", "be", "examined", "at", "each", "level", "of", "the", "tree", "drops", "exponentially", ".", "CW", "DTs", "do", ",", "however", ",", "suffer", "from", "an", "initial", "sort", "of", "all", "training", "examples", "for", "each", "feature", ",", "resulting", "in", "a", "O", "-LRB-", "f", "*", "N", "log", "N", "-RRB-", "cost", "up", "front", ",", "where", "f", "is", "the", "number", "of", "features", "and", "N", "the", "number", "of", "training", "examples", ".", "Since", "in", "IML", ",", "we", "assume", "that", "both", "f", "and", "N", "are", "large", ",", "this", "can", "be", "extremely", "costly", ".", "Because", "of", "the", "extreme", "initial", "cost", "of", "sorting", "all", "N", "training", "examples", "f", "times", ",", "we", "have", "extended", "Center", "Weighted", "with", "CWSS", ".", "The", "`", "SS", "'", "stand", "for", "sub-sampled", ".", "Since", "the", "iteration", "through", "training", "examples", "is", "purely", "to", "find", "a", "good", "split", ",", "we", "can", "sample", "the", "examples", "to", "find", "a", "statistically", "sound", "split", ".", "For", "example", ",", "say", "N", "is", "100,000", ",", "if", "we", "sample", "1,000", "of", "the", "original", "N", ",", "sort", "those", "and", "calculate", "the", "best", "split", "then", "our", "initial", "sort", "is", "100", "times", "faster", ".", "It", "is", "obvious", "that", "a", "better", "threshold", "could", "be", "computed", "using", "all", "of", "the", "training", "data", ",", "but", "this", "is", "mitigated", "by", "the", "fact", "that", "those", "data", "items", "will", "still", "be", "considered", "in", "lower", "levels", "of", "the", "tree", ".", "When", "a", "split", "decision", "is", "made", ",", "all", "of", "the", "training", "examples", "are", "split", ",", "not", "just", "the", "sub-sample", ".", "The", "sub-sampling", "means", "that", "each", "node", "'s", "split", "decision", "is", "never", "greater", "than", "O", "-LRB-", "f", "*", "1000", "*", "5", "-RRB-", ",", "but", "that", "eventually", "all", "training", "data", "will", "be", "considered", ".", "Quinlan", "used", "a", "sampling", "technique", "called", "``", "windowing", "''", ".", "Windowing", "initially", "used", "a", "small", "sample", "of", "training", "examples", "and", "increased", "the", "number", "of", "training", "examples", "used", "to", "create", "the", "DT", ",", "until", "all", "of", "the", "original", "examples", "were", "classified", "correctly", "-LSB-", "11", "-RSB-", ".", "Our", "technique", ",", "although", "similar", ",", "differs", "in", "that", "the", "number", "of", "samples", "is", "fixed", ".", "At", "each", "node", "in", "the", "DT", "a", "new", "sample", "of", "fixed", "size", "is", "drawn", ",", "allowing", "misclassified", "examples", "in", "a", "higher", "level", "of", "the", "DT", "to", "be", "considered", "at", "a", "lower", "level", ".", "The", "use", "of", "sub-sampling", "in", "CWSS", "produced", "very", "slight", "differences", "in", "classification", "accuracy", "as", "compared", "to", "CW", ",", "but", "reduced", "training", "time", "by", "a", "factor", "of", "at", "least", "two", "-LRB-", "for", "training", "sets", "with", "N", "5,000", "-RRB-", ".", "This", "factor", "however", "will", "continue", "to", "grow", "as", "N", "increases", ".", "-LRB-", "For", "N", "=", "40,000", "CWSS", "is", "approximately", "5", "times", "faster", "than", "CW", ";", "8", "for", "N", "=", "80,000", ".", "-RRB-", "The", "CW", "and", "CWSS", "algorithms", "spend", "considerable", "computing", "resources", "in", "trying", "to", "choose", "a", "threshold", "value", "for", "each", "feature", ".", "The", "Mean", "Split", "-LRB-", "MS", "-RRB-", "algorithm", "spends", "very", "little", "time", "on", "such", "decisions", "and", "relies", "on", "large", "amounts", "of", "training", "data", "to", "correct", "decisions", "at", "lower", "levels", "of", "the", "tree", ".", "The", "MS", "algorithm", "uses", "T", "=", "mean", "-LRB-", "F", "-RRB-", "as", "the", "threshold", "for", "dividing", "each", "feature", "F", "and", "compares", "the", "impurities", "of", "the", "divisions", "of", "all", "features", ".", "This", "is", "very", "efficient", "and", "produces", "relatively", "shallow", "decision", "trees", "by", "generally", "dividing", "the", "training", "set", "in", "half", "at", "each", "decision", "point", ".", "Mean", "split", ",", "however", ",", "does", "not", "ensure", "that", "the", "division", "will", "necessarily", "divide", "the", "examples", "at", "points", "that", "are", "meaningful", "to", "correct", "classification", ".", "Successive", "splits", "at", "lower", "levels", "of", "the", "tree", "will", "eventually", "correctly", "classify", "the", "training", "data", ",", "but", "may", "not", "generalize", "as", "well", ".", "The", "resulting", "MS", "decision", "trees", "are", "not", "as", "good", "as", "those", "produced", "by", "more", "careful", "means", "such", "as", "CW", "or", "CWSS", ".", "However", ",", "we", "hypothesized", ",", "that", "the", "speedup", "in", "classification", "would", "improve", "interactivity", "and", "thus", "reduce", "the", "time", "for", "designers", "to", "train", "a", "classifier", ".", "We", "believe", "designers", "make", "up", "for", "the", "lower", "quality", "of", "the", "decision", "tree", "with", "the", "ability", "to", "correct", "more", "rapidly", ".", "The", "key", "is", "in", "optimizing", "designer", "judgment", "rather", "than", "classifier", "predictions", ".", "MSSS", "is", "a", "sub-sampled", "version", "of", "MS", "in", "the", "same", "manner", "as", "CWSS", ".", "In", "MSSS", ",", "since", "we", "just", "evaluate", "the", "impurity", "at", "the", "mean", ",", "and", "since", "the", "mean", "is", "a", "simple", "statistical", "value", ",", "the", "resulting", "divisions", "are", "generally", "identical", "to", "those", "of", "straight", "MS.", "As", "a", "parenthetical", "note", ",", "another", "important", "bottleneck", "that", "is", "common", "to", "all", "of", "the", "classifiers", "is", "the", "necessity", "to", "calculate", "all", "features", "initially", "to", "create", "the", "classifier", ".", "We", "made", "the", "assumption", "in", "IML", "that", "all", "features", "are", "pre-calculated", "and", "that", "the", "learning", "part", "will", "find", "the", "distinguishing", "features", ".", "Although", ",", "this", "can", "be", "optimized", "so", "it", "is", "faster", ",", "all", "algorithms", "will", "suffer", "from", "this", "bottleneck", ".", "There", "are", "many", "differences", "between", "the", "performances", "of", "each", "of", "the", "algorithms", ".", "The", "most", "important", "is", "that", "the", "CW", "algorithms", "train", "slower", "than", "the", "MS", "algorithms", ",", "but", "tend", "to", "create", "better", "classifiers", ".", "Other", "differences", "are", "of", "note", "though", ".", "For", "example", ",", "the", "sub", "sampled", "versions", ",", "CWSS", "and", "MSSS", ",", "generally", "allowed", "the", "classifiers", "to", "be", "generated", "faster", ".", "More", "specifically", ",", "CWSS", "was", "usually", "twice", "as", "fast", "as", "CW", ",", "as", "was", "MSSS", "compared", "to", "MS.", "Because", "of", "the", "gains", "in", "speed", "and", "lack", "of", "loss", "of", "classification", "power", ",", "only", "CWSS", "and", "MSSS", "will", "be", "used", "for", "comparisons", ".", "The", "critical", "comparison", "is", "to", "see", "which", "algorithm", "allows", "the", "user", "to", "create", "a", "satisfactory", "classifier", "the", "fastest", ".", "User", "tests", "comparing", "these", "algorithms", "are", "outlined", "and", "presented", "in", "the", "next", "section", ".", "43", "User", "tests", "were", "conducted", "to", "evaluate", "the", "differences", "between", "CWSS", "and", "MSSS", ".", "When", "creating", "a", "new", "perceptual", "interface", "it", "is", "not", "classification", "time", "that", "is", "the", "real", "issue", ".", "The", "important", "issue", "is", "designer", "time", ".", "As", "stated", "before", ",", "classification", "creation", "time", "for", "CWSS", "is", "longer", "than", "MSSS", ",", "but", "the", "center-weighted", "algorithms", "tend", "to", "generalize", "better", "than", "the", "mean", "split", "algorithms", ".", "The", "CWSS", "generally", "takes", "110", "seconds", "to", "train", "on", "training", "sets", "of", "10,000-60,000", "examples", ",", "while", "MSSS", "is", "approximately", "twice", "as", "fast", "on", "the", "same", "training", "sets", ".", "These", "differences", "are", "important", ";", "as", "our", "hypothesis", "was", "that", "faster", "classifier", "creation", "times", "can", "overcome", "poorer", "inductive", "strength", "and", "thus", "reduce", "overall", "designer", "time", ".", "To", "test", "the", "difference", "between", "CWSS", "and", "MSSS", "we", "used", "three", "key", "measurements", ":", "wall", "clock", "time", "to", "create", "the", "classifier", ",", "number", "of", "classify/correct", "iterations", ",", "and", "structure", "of", "the", "resulting", "tree", "-LRB-", "depth", "and", "number", "of", "nodes", "-RRB-", ".", "The", "latter", "of", "these", "three", "corresponds", "to", "the", "amount", "of", "time", "the", "classifier", "takes", "to", "classify", "an", "image", "in", "actual", "usage", ".", "In", "order", "to", "test", "the", "amount", "of", "time", "a", "designer", "takes", "to", "create", "a", "good", "classifier", ",", "we", "need", "a", "standard", "to", "define", "``", "good", "classifier", "''", ".", "A", "``", "gold", "standard", "''", "was", "created", "for", "four", "different", "classification", "problems", ":", "skin-detection", ",", "paper", "card", "tracking", ",", "robot", "car", "tracking", "and", "laser", "tracking", ".", "These", "gold", "standards", "were", "created", "by", "carefully", "classifying", "pixels", "until", ",", "in", "human", "judgment", ",", "the", "best", "possible", "classification", "was", "being", "performed", "on", "the", "test", "images", "for", "each", "problem", ".", "The", "resulting", "classifier", "was", "then", "saved", "as", "a", "standard", ".", "Ten", "total", "test", "subjects", "were", "used", "and", "divided", "into", "two", "groups", ".", "The", "first", "five", "did", "each", "task", "using", "the", "CWSS", "followed", "by", "the", "MSSS", "and", "the", "remaining", "five", "MSSS", "followed", "by", "CWSS", ".", "The", "users", "were", "given", "each", "of", "the", "problems", "in", "turn", "and", "asked", "to", "build", "a", "classifier", ".", "Each", "time", "the", "subject", "requested", "a", "classifier", "to", "be", "built", "that", "classifier", "'s", "performance", "was", "measured", "against", "the", "performance", "of", "the", "standard", "classifier", "for", "that", "task", ".", "When", "the", "subject", "'s", "classifier", "agreed", "with", "the", "standard", "on", "more", "than", "97.5", "%", "of", "the", "pixels", ",", "the", "test", "was", "declared", "complete", ".", "Table", "1", ",", "shows", "the", "average", "times", "and", "iterations", "for", "the", "first", "group", ",", "Table", "2", ",", "the", "second", "group", ".", "CWSS", "MSSS", "Problem", "Time", "Iterations", "Time", "Iterations", "Skin", "03:06", "4.4", "10:35", "12.6", "Paper", "Cards", "02:29", "4.2", "02:23", "5.0", "Robot", "Car", "00:50", "1.6", "01:00", "1.6", "Laser", "00:46", "1.2", "00:52", "1.4", "Table", "1", "CWSS", "followed", "by", "MSSS", "MSSS", "CWSS", "Problem", "Time", "Iterations", "Time", "Iterations", "Skin", "10:26", "11.4", "03:51", "3.6", "Paper", "Cards", "04:02", "5.0", "02:37", "2.6", "Robot", "Car", "01:48", "1.2", "01:37", "1.2", "Laser", "01:29", "1.0", "01:16", "1.0", "Table", "2", "MSSS", "followed", "by", "CWSS", "The", "laser", "tracker", "is", "a", "relatively", "simple", "classifier", "because", "of", "the", "uniqueness", "of", "bright", "red", "spots", "-LSB-", "9", "-RSB-", ".", "The", "robot", "car", "was", "contrasted", "with", "a", "uniform", "colored", "carpet", "and", "was", "similarly", "straightforward", ".", "Identifying", "colored", "paper", "cards", "against", "a", "cluttered", "background", "was", "more", "difficult", "because", "of", "the", "diversity", "of", "the", "background", ".", "The", "skin", "tracker", "is", "the", "hardest", "because", "of", "the", "diversity", "of", "skin", "color", ",", "camera", "over-saturation", "problems", "and", "cluttered", "background", "-LSB-", "20", "-RSB-", ".", "As", "can", "be", "seen", "in", "tables", "1", "and", "2", ",", "MSSS", "takes", "substantially", "more", "designer", "effort", "on", "the", "hard", "problems", "than", "CWSS", ".", "All", "subjects", "specifically", "stated", "that", "CWSS", "was", "``", "faster", "''", "than", "MSSS", "especially", "in", "the", "Skin", "case", ".", "-LRB-", "Some", "did", "not", "notice", "a", "difference", "between", "the", "two", "algorithms", "while", "working", "on", "the", "other", "problems", ".", "-RRB-", "We", "did", "not", "test", "any", "of", "the", "slower", "algorithms", "such", "as", "neural", "nets", "or", "nearest-neighbor", ".", "Interactively", "these", "are", "so", "poor", "that", "the", "results", "are", "self-evident", ".", "We", "also", "did", "not", "test", "the", "full", "CW", "algorithm", ".", "Its", "classification", "times", "tend", "into", "minutes", "and", "clearly", "could", "not", "compete", "with", "the", "times", "shown", "in", "tables", "1", "and", "2", ".", "It", "is", "clear", "from", "our", "evaluations", "that", "a", "classification", "algorithm", "must", "get", "under", "the", "10-20", "second", "barrier", "in", "producing", "a", "new", "classification", ",", "but", "that", "once", "under", "that", "barrier", ",", "the", "designer", "'s", "time", "begins", "to", "dominate", ".", "Once", "the", "designer", "'s", "time", "begins", "to", "dominate", "the", "total", "time", ",", "then", "the", "classifier", "with", "better", "generalization", "wins", ".", "We", "also", "mentioned", "the", "importance", "of", "the", "tree", "structure", "as", "it", "relates", "to", "the", "classification", "time", "of", "an", "image", ".", "Table", "3", "shows", "the", "average", "tree", "structures", "-LRB-", "tree", "depth", "and", "number", "of", "nodes", "-RRB-", "as", "well", "as", "the", "average", "classification", "time", "-LRB-", "ACT", "-RRB-", "in", "milliseconds", "over", "the", "set", "of", "test", "images", ".", "CWSS", "MSSS", "Problem", "Depth", "Nodes", "ACT", "Depth", "Nodes", "ACT", "Skin", "16.20", "577", "243", "25.60", "12530", "375", "Paper", "Cards", "15.10", "1661", "201", "16.20", "2389", "329", "Car", "13.60", "1689", "235", "15.70", "2859", "317", "Laser", "13.00", "4860", "110", "8.20", "513", "171", "Table", "3", "Tree", "structures", "and", "average", "classify", "time", "-LRB-", "ACT", "-RRB-", "As", "seen", "in", "Table", "3", ",", "depth", ",", "number", "of", "nodes", "and", "ACT", ",", "were", "all", "lower", "in", "CWSS", "than", "in", "MSSS", ".", "This", "was", "predicted", "as", "CWSS", "provides", "better", "divisions", "between", "the", "training", "examples", ".", "44", "While", "testing", "we", "observed", "that", "those", "who", "used", "the", "MSSS", "which", "is", "fast", "but", "less", "accurate", ",", "first", ",", "ended", "up", "using", "more", "training", "data", ",", "even", "when", "they", "used", "the", "CWSS", ",", "which", "usually", "generalizes", "better", "and", "needs", "less", "data", ".", "Those", "who", "used", "the", "CWSS", "first", ",", "were", "pleased", "with", "the", "interactivity", "of", "CWSS", "and", "became", "very", "frustrated", "when", "they", "used", "MSSS", ",", "even", "though", "it", "could", "cycle", "faster", "through", "the", "interactive", "loop", ".", "In", "actuality", ",", "because", "of", "the", "poor", "generalization", "of", "the", "mean", "split", "algorithm", ",", "even", "though", "the", "classifier", "generation", "time", "for", "MSSS", "was", "quicker", "than", "CWSS", ",", "the", "users", "felt", "it", "necessary", "to", "paint", "more", "using", "the", "MSSS", ",", "so", "the", "overall", "time", "increased", "using", "MSSS", ".", "When", "using", "machine", "learning", "in", "an", "interactive", "design", "setting", ",", "feature", "selection", "must", "be", "automatic", "rather", "than", "manual", "and", "classifier", "training-time", "must", "be", "relatively", "fast", ".", "Decision", "Trees", "using", "a", "sub-sampling", "technique", "to", "improve", "training", "times", "are", "very", "effective", "for", "both", "of", "these", "purposes", ".", "Once", "interactive", "speeds", "are", "achieved", ",", "however", ",", "the", "quality", "of", "the", "classifier", "'s", "generalization", "becomes", "important", ".", "Using", "tools", "like", "Crayons", ",", "demonstrates", "that", "machine", "learning", "can", "form", "an", "appropriate", "basis", "for", "the", "design", "tools", "needed", "to", "create", "new", "perceptual", "user", "interfaces", ".", "1", ".", "Cover", ",", "T.", ",", "and", "Hart", ",", "P.", "``", "Nearest", "Neighbor", "Pattern", "Classification", ".", "''", "IEEE", "Transactions", "on", "Information", "Theory", ",", "13", ",", "-LRB-", "1967", "-RRB-", "21-27", ".", "2", ".", "Duda", ",", "R.", "O.", ",", "Hart", ",", "P.", "E.", ",", "and", "Stork", ",", "D.", "G.", ",", "Pattern", "Classification", ".", "-LRB-", "2001", "-RRB-", ".", "3", ".", "Fails", ",", "J.A.", ",", "Olsen", ",", "D.R.", "``", "LightWidgets", ":", "Interacting", "in", "Everyday", "Spaces", ".", "''", "Proceedings", "of", "IUI", "'02", "-LRB-", "San", "Francisco", "CA", ",", "January", "2002", "-RRB-", ".", "4", ".", "Fayyad", ",", "U.M.", "and", "Irani", ",", "K.", "B.", "``", "On", "the", "Handling", "of", "Continuous-valued", "Attributes", "in", "Decision", "Tree", "Generation", ".", "''", "Machine", "Learning", ",", "8", ",", "87-102", ",", "-LRB-", "1992", "-RRB-", ".", "5", ".", "Jaimes", ",", "A.", "and", "Chang", ",", "S.-F", ".", "``", "A", "Conceptual", "Framework", "for", "Indexing", "Visual", "Information", "at", "Multiple", "Levels", ".", "''", "IS&T", "/", "SPIE", "Internet", "Imaging", "2000", ",", "-LRB-", "San", "Jose", "CA", ",", "January", "2000", "-RRB-", ".", "6", ".", "Jaimes", ",", "A.", "and", "Chang", ",", "S.-F", ".", "``", "Automatic", "Selection", "of", "Visual", "Features", "and", "Classifier", ".", "''", "Storage", "and", "Retrieval", "for", "Image", "and", "Video", "Databases", "VIII", ",", "IS&T", "/", "SPIE", "-LRB-", "San", "Jose", "CA", ",", "January", "2000", "-RRB-", ".", "7", ".", "Jaimes", ",", "A.", "and", "Chang", ",", "S.-F", ".", "``", "Integrating", "Multiple", "Classifiers", "in", "Visual", "Object", "Detectors", "Learned", "from", "User", "Input", ".", "''", "Invited", "paper", ",", "session", "on", "Image", "and", "Video", "Databases", ",", "4th", "Asian", "Conference", "on", "Computer", "Vision", "-LRB-", "ACCV", "2000", "-RRB-", ",", "Taipei", ",", "Taiwan", ",", "January", "8-11", ",", "2000", ".", "8", ".", "Krueger", ",", "M.", "W.", ",", "Gionfriddo", ".", "T.", ",", "and", "Hinrichsen", ",", "K.", ",", "``", "VIDEOPLACE", "--", "an", "artificial", "reality", "''", ".", "Human", "Factors", "in", "Computing", "Systems", ",", "CHI", "'85", "Conference", "Proceedings", ",", "ACM", "Press", ",", "1985", ",", "35-40", ".", "9", ".", "Olsen", ",", "D.R.", ",", "Nielsen", ",", "T.", "``", "Laser", "Pointer", "Interaction", ".", "''", "Proceedings", "of", "CHI", "'01", "-LRB-", "Seattle", "WA", ",", "March", "2001", "-RRB-", ".", "10", ".", "Quinlan", ",", "J.", "R.", "``", "Induction", "of", "Decision", "Trees", ".", "''", "Machine", "Learning", ",", "1", "-LRB-", "1", "-RRB-", ";", "81-106", ",", "-LRB-", "1986", "-RRB-", ".", "11", ".", "Quinlan", ",", "J.", "R.", "``", "C4", ".5", ":", "Programs", "for", "machine", "learning", ".", "''", "Morgan", "Kaufmann", ",", "San", "Mateo", ",", "CA", ",", "1993", ".", "12", ".", "Rumelhart", ",", "D.", ",", "Widrow", ",", "B.", ",", "and", "Lehr", ",", "M.", "``", "The", "Basic", "Ideas", "in", "Neural", "Networks", ".", "''", "Communications", "of", "the", "ACM", ",", "37", "-LRB-", "3", "-RRB-", ",", "-LRB-", "1994", "-RRB-", ",", "pp", "87-92", ".", "13", ".", "Schmidt", ",", "A.", "``", "Implicit", "Human", "Computer", "Interaction", "Through", "Context", ".", "''", "Personal", "Technologies", ",", "Vol", "4", "-LRB-", "2", "-RRB-", ",", "June", "2000", ".", "14", ".", "Starner", ",", "T.", ",", "Auxier", ",", "J.", "and", "Ashbrook", ",", "D.", "``", "The", "Gesture", "Pendant", ":", "A", "Self-illuminating", ",", "Wearable", ",", "Infrared", "Computer", "Vision", "System", "for", "Home", "Automation", "Control", "and", "Medical", "Monitoring", ".", "''", "International", "Symposium", "on", "Wearable", "Computing", "-LRB-", "Atlanta", "GA", ",", "October", "2000", "-RRB-", ".", "15", ".", "Triggs", ",", "B.", "``", "Model-based", "Sonar", "Localisation", "for", "Mobile", "Robots", ".", "''", "Intelligent", "Robotic", "Systems", "'", "93", ",", "Zakopane", ",", "Poland", ",", "1993", ".", "16", ".", "Underkoffler", ",", "J.", "and", "Ishii", "H.", "``", "Illuminating", "Light", ":", "An", "Optical", "Design", "Tool", "with", "a", "Luminous-Tangible", "Interface", ".", "''", "Proceedings", "of", "CHI", "'98", "-LRB-", "Los", "Angeles", "CA", ",", "April", "1998", "-RRB-", ".", "17", ".", "Underkoffler", ",", "J.", ",", "Ullmer", ",", "B.", "and", "Ishii", ",", "H.", "``", "Emancipated", "Pixels", ":", "Real-World", "Graphics", "in", "the", "Luminous", "Room", ".", "''", "Proceedings", "of", "SIGGRAPH", "'99", "-LRB-", "Los", "Angeles", "CA", ",", "1999", "-RRB-", ",", "ACM", "Press", ",", "385-392", ".", "18", ".", "Vailaya", ",", "A.", ",", "Zhong", ",", "Y.", ",", "and", "Jain", ",", "A.", "K.", "``", "A", "hierarchical", "system", "for", "efficient", "image", "retrieval", ".", "''", "In", "Proc", ".", "Int", ".", "Conf", ".", "on", "Patt", ".", "Recog", ".", "-LRB-", "August", "1996", "-RRB-", ".", "19", ".", "Viola", ",", "P.", "and", "Jones", ",", "M.", "``", "Robust", "real-time", "object", "detection", ".", "''", "Technical", "Report", "2001/01", ",", "Compaq", "CRL", ",", "February", "2001", ".", "20", ".", "Yang", ",", "M.H.", "and", "Ahuja", ",", "N.", "``", "Gaussian", "Mixture", "Model", "for", "Human", "Skin", "Color", "and", "Its", "Application", "in", "Image", "and", "Video", "Databases", ".", "''", "Proceedings", "of", "SPIE", "'99", "-LRB-", "San", "Jose", "CA", ",", "Jan", "1999", "-RRB-", ",", "458-466", ".", "45"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["crayons prototype", "image processing", "classification", "interaction", "perceptual interface", "crayons design process", "classical machine learning", "machine learning"], "abstractive_keyphrases": ["perceptive user interfaces", "image/pixel classifier", "predict correct behaviour", "image processing with crayons", "classification design loop", "perceptual user iinterfaces", "interactive machine learning"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "106", "document": ["Improvements", "of", "TLAESA", "Nearest", "Neighbour", "Search", "Algorithm", "and", "Extension", "to", "Approximation", "Search", "Nearest", "neighbour", "-LRB-", "NN", "-RRB-", "searches", "and", "k", "nearest", "neighbour", "-LRB-", "k-NN", "-RRB-", "searches", "are", "widely", "used", "in", "pattern", "recognition", "and", "image", "retrieval", ".", "An", "NN", "-LRB-", "k-NN", "-RRB-", "search", "finds", "the", "closest", "object", "-LRB-", "closest", "k", "objects", "-RRB-", "to", "a", "query", "object", ".", "Although", "the", "definition", "of", "the", "distance", "between", "objects", "depends", "on", "applications", ",", "its", "computation", "is", "generally", "complicated", "and", "time-consuming", ".", "It", "is", "therefore", "important", "to", "reduce", "the", "number", "of", "distance", "computations", ".", "TLAESA", "-LRB-", "Tree", "Linear", "Approximating", "and", "Eliminating", "Search", "Algorithm", "-RRB-", "is", "one", "of", "the", "fastest", "algorithms", "for", "NN", "searches", ".", "This", "method", "reduces", "distance", "computations", "by", "using", "a", "branch", "and", "bound", "algorithm", ".", "In", "this", "paper", "we", "improve", "both", "the", "data", "structure", "and", "the", "search", "algorithm", "of", "TLAESA", ".", "The", "proposed", "method", "greatly", "reduces", "the", "number", "of", "distance", "computations", ".", "Moreover", ",", "we", "extend", "the", "improved", "method", "to", "an", "approximation", "search", "algorithm", "which", "ensures", "the", "quality", "of", "solutions", ".", "Experimental", "results", "show", "that", "the", "proposed", "method", "is", "efficient", "and", "finds", "an", "approximate", "solution", "with", "a", "very", "low", "error", "rate", ".", "NN", "and", "k-NN", "searches", "are", "techniques", "which", "find", "the", "closest", "object", "-LRB-", "closest", "k", "objects", "-RRB-", "to", "a", "query", "object", "from", "a", "database", ".", "These", "are", "widely", "used", "in", "pattern", "recognition", "and", "image", "retrieval", ".", "We", "can", "see", "examples", "of", "their", "applications", "to", "handwritten", "character", "recognition", "in", "-LRB-", "Rico-Juan", "&", "Mic", "o", "2003", "-RRB-", "and", "-LRB-", "Mic", "o", "&", "Oncina", "1998", "-RRB-", ",", "and", "so", "on", ".", "In", "this", "paper", "we", "consider", "NN", "-LRB-", "k-NN", "-RRB-", "algorithms", "that", "can", "work", "in", "any", "metric", "space", ".", "For", "any", "x", ",", "y", ",", "z", "in", "a", "metric", "space", ",", "the", "distance", "function", "d", "-LRB-", ",", "-RRB-", "satisfies", "the", "following", "properties", ":", "d", "-LRB-", "x", ",", "y", "-RRB-", "=", "0", "x", "=", "y", ",", "d", "-LRB-", "x", ",", "y", "-RRB-", "=", "d", "-LRB-", "y", ",", "x", "-RRB-", ",", "d", "-LRB-", "x", ",", "z", "-RRB-", "d", "-LRB-", "x", ",", "y", "-RRB-", "+", "d", "-LRB-", "y", ",", "z", "-RRB-", ".", "Although", "the", "definition", "of", "the", "distance", "depends", "on", "applications", ",", "its", "calculation", "is", "generally", "complicated", "and", "time-consuming", ".", "We", "particularly", "call", "the", "calculation", "of", "d", "-LRB-", ",", "-RRB-", "a", "distance", "computation", ".", "Copyright", "c", "2006", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "Twenty-Ninth", "Australasian", "Computer", "Science", "Conference", "-LRB-", "ACSC2006", "-RRB-", ",", "Hobart", ",", "Tasmania", ",", "Australia", ",", "January", "2006", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "48", ".", "Vladimir", "Estivill-Castro", "and", "Gill", "Dobbie", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "For", "the", "NN", "and", "k-NN", "searches", "in", "metric", "spaces", ",", "some", "methods", "that", "can", "manage", "a", "large", "set", "of", "objects", "efficiently", "have", "been", "introduced", "-LRB-", "Hjaltason", "&", "Samet", "2003", "-RRB-", ".", "They", "are", "categorized", "into", "two", "groups", ".", "The", "methods", "in", "the", "first", "group", "manage", "objects", "with", "a", "tree", "structure", "such", "as", "vp-tree", "-LRB-", "Yianilos", "1993", "-RRB-", ",", "M-tree", "-LRB-", "Ciaccia", ",", "Patella", "&", "Zezula", "1997", "-RRB-", ",", "sa-tree", "-LRB-", "Navarro", "2002", "-RRB-", "and", "so", "forth", ".", "The", "methods", "in", "the", "second", "group", "manage", "objects", "with", "a", "distance", "matrix", ",", "which", "stores", "the", "distances", "between", "objects", ".", "The", "difference", "between", "two", "groups", "is", "caused", "by", "their", "approaches", "to", "fast", "searching", ".", "The", "former", "aims", "at", "reducing", "the", "com-putational", "tasks", "in", "the", "search", "process", "by", "managing", "objects", "effectively", ".", "The", "latter", "works", "toward", "reducing", "the", "number", "of", "distance", "computations", "because", "generally", "their", "costs", "are", "higher", "than", "the", "costs", "of", "other", "calculations", ".", "In", "this", "paper", "we", "consider", "the", "latter", "approach", ".", "AESA", "-LRB-", "Approximating", "and", "Eliminating", "Search", "Algorithm", "-RRB-", "-LRB-", "Vidal", "1986", "-RRB-", "is", "one", "of", "the", "fastest", "algorithms", "for", "NN", "searches", "in", "the", "distance", "matrix", "group", ".", "The", "number", "of", "distance", "computations", "is", "bounded", "by", "a", "constant", ",", "but", "the", "space", "complexity", "is", "quadratic", ".", "LAESA", "-LRB-", "Linear", "AESA", "-RRB-", "-LRB-", "Mic", "o", ",", "Oncina", "&", "Vidal", "1994", "-RRB-", "was", "introduced", "in", "order", "to", "reduce", "this", "large", "space", "complexity", ".", "Its", "space", "complexity", "is", "linear", "and", "its", "search", "performance", "is", "almost", "the", "same", "as", "that", "of", "AESA", ".", "Although", "LAESA", "is", "more", "practical", "than", "AESA", ",", "it", "is", "impractical", "for", "a", "large", "database", "because", "calculations", "other", "than", "distance", "computations", "increase", ".", "TLAESA", "-LRB-", "Tree", "LAESA", "-RRB-", "-LRB-", "Mic", "o", ",", "Oncina", "&", "Carrasco", "1996", "-RRB-", "is", "an", "improvement", "of", "LAESA", "and", "reduces", "the", "time", "complexity", "to", "sublinear", ".", "It", "uses", "two", "kinds", "of", "data", "structures", ":", "a", "distance", "matrix", "and", "a", "binary", "tree", ",", "called", "a", "search", "tree", ".", "In", "this", "paper", ",", "we", "propose", "some", "improvements", "of", "the", "search", "algorithm", "and", "the", "data", "structures", "of", "TLAESA", "in", "order", "to", "reduce", "the", "number", "of", "distance", "computations", ".", "The", "search", "algorithm", "follows", "the", "best", "first", "algorithm", ".", "The", "search", "tree", "is", "transformed", "to", "a", "multiway", "tree", "from", "a", "binary", "tree", ".", "We", "also", "improve", "the", "selection", "method", "of", "the", "root", "object", "in", "the", "search", "tree", ".", "These", "improvements", "are", "simple", "but", "very", "effective", ".", "We", "then", "introduce", "the", "way", "to", "perform", "a", "k-NN", "search", "in", "the", "improved", "TLAESA", ".", "Moreover", ",", "we", "propose", "an", "extension", "to", "an", "approximation", "search", "algorithm", "that", "can", "ensure", "the", "quality", "of", "solutions", ".", "This", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", ",", "we", "describe", "the", "details", "of", "the", "search", "algorithm", "and", "the", "data", "structures", "of", "TLAESA", ".", "In", "section", "3", ",", "we", "propose", "some", "improvements", "of", "TLAESA", ".", "In", "section", "4", ",", "we", "present", "an", "extension", "to", "an", "approximation", "search", "algorithm", ".", "In", "section", "5", ",", "we", "show", "some", "experimental", "results", ".", "Finally", ",", "in", "section", "6", ",", "we", "conclude", "this", "paper", ".", "Figure", "1", ":", "An", "example", "of", "the", "data", "structures", "in", "TLAESA", ".", "TLAESA", "uses", "two", "kinds", "of", "data", "structures", ":", "the", "distance", "matrix", "and", "the", "search", "tree", ".", "The", "distance", "matrix", "stores", "the", "distances", "from", "each", "object", "to", "some", "selected", "objects", ".", "The", "search", "tree", "manages", "hierarchically", "all", "objects", ".", "During", "the", "execution", "of", "the", "search", "algorithm", ",", "the", "search", "tree", "is", "traversed", "and", "the", "distance", "matrix", "is", "used", "to", "avoid", "exploring", "some", "branches", ".", "2.1", "Data", "Structures", "We", "explain", "the", "data", "structures", "in", "TLAESA", ".", "Let", "P", "be", "the", "set", "of", "all", "objects", "and", "B", "be", "a", "subset", "consisting", "of", "selected", "objects", "called", "base", "prototypes", ".", "The", "distance", "matrix", "M", "is", "a", "two-dimensional", "array", "that", "stores", "the", "distances", "between", "all", "objects", "and", "base", "prototypes", ".", "The", "search", "tree", "T", "is", "a", "binary", "tree", "such", "that", "each", "node", "t", "corresponds", "to", "a", "subset", "S", "t", "P", ".", "Each", "node", "t", "has", "a", "pointer", "to", "the", "representative", "object", "p", "t", "S", "t", "which", "is", "called", "a", "pivot", ",", "a", "pointer", "to", "a", "left", "child", "node", "l", ",", "a", "pointer", "to", "a", "right", "child", "node", "r", "and", "a", "covering", "radius", "r", "t", ".", "The", "covering", "radius", "is", "defined", "as", "r", "t", "=", "max", "pS", "t", "d", "-LRB-", "p", ",", "p", "t", "-RRB-", ".", "-LRB-", "1", "-RRB-", "The", "pivot", "p", "r", "of", "r", "is", "defined", "as", "p", "r", "=", "p", "t", ".", "On", "the", "other", "hand", ",", "the", "pivot", "p", "l", "of", "l", "is", "determined", "so", "that", "p", "l", "=", "argmax", "pS", "t", "d", "-LRB-", "p", ",", "p", "t", "-RRB-", ".", "-LRB-", "2", "-RRB-", "Hence", ",", "we", "have", "the", "following", "equality", ":", "r", "t", "=", "d", "-LRB-", "p", "t", ",", "p", "l", "-RRB-", ".", "-LRB-", "3", "-RRB-", "S", "t", "is", "partitioned", "into", "two", "disjoint", "subsets", "S", "r", "and", "S", "l", "as", "follows", ":", "S", "r", "=", "-LCB-", "p", "S", "t", "|", "d", "-LRB-", "p", ",", "p", "r", "-RRB-", "<", "d", "-LRB-", "p", ",", "p", "l", "-RRB-", "-RCB-", ",", "S", "l", "=", "S", "t", "-", "S", "r", ".", "-LRB-", "4", "-RRB-", "Note", "that", "if", "t", "is", "a", "leaf", "node", ",", "S", "t", "=", "-LCB-", "p", "t", "-RCB-", "and", "r", "t", "=", "0", ".", "Fig.", "1", "shows", "an", "example", "of", "the", "data", "structures", ".", "2.2", "Construction", "of", "the", "Data", "Structures", "We", "first", "explain", "the", "construction", "process", "of", "the", "search", "tree", "T", ".", "The", "pivot", "p", "t", "of", "the", "root", "node", "t", "is", "randomly", "selected", "and", "S", "t", "is", "set", "to", "P", ".", "The", "pivot", "p", "l", "of", "the", "left", "child", "node", "and", "the", "covering", "radius", "r", "t", "are", "defined", "by", "Eqs", ".", "-LRB-", "2", "-RRB-", "and", "-LRB-", "3", "-RRB-", ".", "The", "pivot", "p", "r", "of", "the", "right", "child", "node", "is", "set", "to", "p", "t", ".", "S", "t", "is", "partitioned", "into", "S", "r", "and", "S", "l", "by", "Eq", ".", "-LRB-", "4", "-RRB-", ".", "These", "operations", "are", "recursively", "repeated", "until", "|", "S", "t", "|", "=", "1", ".", "The", "distance", "matrix", "M", "is", "constructed", "by", "selecting", "base", "prototypes", ".", "This", "selection", "is", "important", "because", "Figure", "2", ":", "Lower", "bound", ".", "base", "prototypes", "are", "representative", "objects", "which", "are", "used", "to", "avoid", "some", "explorations", "of", "the", "tree", ".", "The", "ideal", "selection", "of", "them", "is", "that", "each", "object", "is", "as", "far", "away", "as", "possible", "from", "other", "objects", ".", "In", "-LRB-", "Mic", "o", "et", "al.", "1994", "-RRB-", ",", "a", "greedy", "algorithm", "is", "proposed", "for", "this", "selection", ".", "This", "algorithm", "chooses", "an", "object", "that", "maximizes", "the", "sum", "of", "distances", "from", "the", "other", "base", "prototypes", "which", "have", "already", "been", "selected", ".", "In", "-LRB-", "Mic", "o", "&", "Oncina", "1998", "-RRB-", ",", "another", "algorithm", "is", "proposed", ",", "which", "chooses", "an", "object", "that", "maximizes", "the", "minimum", "distance", "to", "the", "preselected", "base", "prototypes", ".", "-LRB-", "Mic", "o", "&", "Oncina", "1998", "-RRB-", "shows", "that", "the", "latter", "algorithm", "is", "more", "effective", "than", "the", "former", "one", ".", "Thus", ",", "we", "use", "the", "later", "algorithm", "for", "the", "selection", "of", "base", "prototypes", ".", "The", "search", "efficiency", "depends", "not", "only", "on", "the", "selection", "of", "base", "prototypes", "but", "also", "on", "the", "number", "of", "them", ".", "There", "is", "a", "trade-off", "between", "the", "search", "efficiency", "and", "the", "size", "of", "distance", "matrix", ",", "i.e.", "the", "memory", "capacity", ".", "The", "experimental", "results", "in", "-LRB-", "Mic", "o", "et", "al.", "1994", "-RRB-", "show", "that", "the", "optimal", "number", "of", "base", "prototypes", "depends", "on", "the", "dimensionality", "dm", "of", "the", "space", ".", "For", "example", ",", "the", "optimal", "numbers", "are", "3", ",", "16", "and", "24", "if", "dm", "=", "2", ",", "4", "and", "8", ",", "respectively", ".", "The", "experimental", "results", "also", "show", "that", "the", "optimal", "number", "does", "not", "depend", "on", "the", "number", "of", "objects", ".", "2.3", "Search", "Algorithm", "The", "search", "algorithm", "follows", "the", "branch", "and", "bound", "strategy", ".", "It", "traverses", "the", "search", "tree", "T", "in", "the", "depth", "first", "order", ".", "The", "distance", "matrix", "M", "is", "referred", "whenever", "each", "node", "is", "visited", "in", "order", "to", "avoid", "unnecessary", "traverse", "of", "the", "tree", "T", ".", "The", "distance", "are", "computed", "only", "when", "a", "leaf", "node", "is", "reached", ".", "Given", "a", "query", "object", "q", ",", "the", "distance", "between", "q", "and", "the", "base", "prototypes", "are", "computed", ".", "These", "results", "are", "stored", "in", "an", "array", "D", ".", "The", "object", "which", "is", "the", "closest", "to", "q", "in", "B", "is", "selected", "as", "the", "nearest", "neighbour", "candidate", "p", "min", ",", "and", "the", "distance", "d", "-LRB-", "q", ",", "p", "min", "-RRB-", "is", "recorded", "as", "d", "min", ".", "Then", ",", "the", "traversal", "of", "the", "search", "tree", "T", "starts", "at", "the", "root", "node", ".", "The", "lower", "bound", "for", "the", "left", "child", "node", "l", "is", "calculated", "whenever", "each", "node", "t", "is", "reached", "if", "it", "is", "not", "a", "leaf", "node", ".", "The", "lower", "bound", "of", "the", "distance", "between", "q", "and", "an", "object", "x", "is", "defined", "as", "g", "x", "=", "max", "bB", "|", "d", "-LRB-", "q", ",", "b", "-RRB-", "-", "d", "-LRB-", "b", ",", "x", "-RRB-", "|", ".", "-LRB-", "5", "-RRB-", "See", "Fig.", "2", ".", "Recall", "that", "d", "-LRB-", "q", ",", "b", "-RRB-", "was", "precomputed", "before", "the", "traversals", "and", "was", "stored", "in", "D", ".", "In", "addition", ",", "the", "value", "d", "-LRB-", "b", ",", "x", "-RRB-", "was", "also", "computed", "during", "the", "construction", "process", "and", "stored", "in", "the", "distance", "matrix", "M", ".", "Therefore", ",", "g", "x", "is", "calculated", "without", "any", "actual", "distance", "computations", ".", "The", "lower", "bound", "g", "x", "is", "not", "actual", "distance", "d", "-LRB-", "q", ",", "x", "-RRB-", ".", "Thus", ",", "it", "does", "not", "ensure", "that", "the", "number", "of", "visited", "nodes", "in", "the", "search", "becomes", "minimum", ".", "Though", ",", "this", "evaluation", "hardly", "costs", ",", "hence", "it", "is", "possible", "to", "search", "fast", ".", "The", "search", "process", "accesses", "the", "left", "child", "node", "l", "if", "g", "p", "l", "g", "p", "r", ",", "or", "the", "right", "child", "node", "r", "if", "g", "p", "l", ">", "g", "p", "r", ".", "When", "a", "leaf", "node", "is", "reached", ",", "the", "distance", "is", "computed", "and", "both", "p", "min", "and", "d", "min", "are", "updated", "if", "the", "distance", "is", "less", "than", "d", "min", ".", "q", "p", "min", "p", "t", "r", "t", "S", "t", "Figure", "3", ":", "Pruning", "Process", ".", "procedure", "NN", "search", "-LRB-", "q", "-RRB-", "1", ":", "t", "root", "of", "T", "2", ":", "d", "min", "=", ",", "g", "p", "t", "=", "0", "3", ":", "for", "b", "B", "do", "4", ":", "D", "-LSB-", "b", "-RSB-", "=", "d", "-LRB-", "q", ",", "b", "-RRB-", "5", ":", "if", "D", "-LSB-", "b", "-RSB-", "<", "d", "min", "then", "6", ":", "p", "min", "=", "b", ",", "d", "min", "=", "D", "-LSB-", "b", "-RSB-", "7", ":", "end", "if", "8", ":", "end", "for", "9", ":", "g", "p", "t", "=", "max", "bB", "|", "-LRB-", "D", "-LSB-", "b", "-RSB-", "-", "M", "-LSB-", "b", ",", "p", "t", "-RSB-", "-RRB-", "|", "10", ":", "search", "-LRB-", "t", ",", "g", "p", "t", ",", "q", ",", "p", "min", ",", "d", "min", "-RRB-", "11", ":", "return", "p", "min", "Figure", "4", ":", "Algorithm", "for", "an", "NN", "search", "in", "TLAESA", ".", "We", "explain", "the", "pruning", "process", ".", "Fig.", "3", "shows", "the", "pruning", "situation", ".", "Let", "t", "be", "the", "current", "node", ".", "If", "the", "inequality", "d", "min", "+", "r", "t", "<", "d", "-LRB-", "q", ",", "p", "t", "-RRB-", "-LRB-", "6", "-RRB-", "is", "satisfied", ",", "we", "can", "see", "that", "no", "object", "exists", "in", "S", "t", "which", "is", "closer", "to", "q", "than", "p", "min", "and", "the", "traversal", "to", "node", "t", "is", "not", "necessary", ".", "Since", "g", "p", "t", "d", "-LRB-", "q", ",", "p", "t", "-RRB-", ",", "Eq", ".", "-LRB-", "6", "-RRB-", "can", "be", "replaced", "with", "d", "min", "+", "r", "t", "<", "g", "p", "t", ".", "-LRB-", "7", "-RRB-", "Figs.", "4", "and", "5", "show", "the", "details", "of", "the", "search", "algorithm", "-LRB-", "Mic", "o", "et", "al.", "1996", "-RRB-", ".", "In", "this", "section", ",", "we", "propose", "some", "improvements", "of", "TLAESA", "in", "order", "to", "reduce", "the", "number", "of", "distance", "computations", ".", "3.1", "Tree", "Structure", "and", "Search", "Algorithm", "If", "we", "can", "evaluate", "the", "lower", "bounds", "g", "in", "the", "ascending", "order", "of", "their", "values", ",", "the", "search", "algorithm", "runs", "very", "fast", ".", "However", ",", "this", "is", "not", "guaranteed", "in", "TLAESA", "since", "the", "evaluation", "order", "is", "decided", "according", "to", "the", "tree", "structure", ".", "We", "show", "such", "an", "example", "in", "Fig.", "6", ".", "In", "this", "figure", ",", "u", ",", "v", "and", "w", "are", "nodes", ".", "If", "g", "p", "v", "<", "g", "p", "w", ",", "it", "is", "desirable", "that", "v", "is", "evaluated", "before", "w.", "But", ",", "if", "g", "p", "v", ">", "g", "p", "u", ",", "w", "might", "be", "evaluated", "before", "v", ".", "We", "propose", "the", "use", "of", "a", "multiway", "tree", "and", "the", "best", "first", "order", "search", "instead", "of", "a", "binary", "tree", "and", "the", "depth", "first", "search", ".", "During", "the", "best", "first", "search", "process", ",", "we", "can", "traverse", "preferentially", "a", "node", "whose", "subset", "may", "contain", "the", "closest", "object", ".", "Moreover", ",", "we", "can", "evaluate", "more", "nodes", "at", "one", "time", "by", "using", "of", "the", "multiway", "tree", ".", "The", "search", "tree", "in", "TLAESA", "has", "many", "nodes", "which", "have", "a", "pointer", "to", "the", "same", "object", ".", "In", "the", "proposed", "structure", ",", "we", "treat", "such", "nodes", "as", "one", "node", ".", "Each", "node", "t", "corresponds", "to", "a", "subset", "S", "t", "P", "and", "has", "a", "pivot", "p", "t", ",", "a", "covering", "radius", "r", "t", "=", "max", "pS", "t", "d", "-LRB-", "p", ",", "p", "t", "-RRB-", "and", "pointers", "to", "its", "children", "nodes", ".", "procedure", "search", "-LRB-", "t", ",", "g", "p", "t", ",", "q", ",", "p", "min", ",", "d", "min", "-RRB-", "1", ":", "if", "t", "is", "a", "leaf", "then", "2", ":", "if", "g", "p", "t", "<", "d", "min", "then", "3", ":", "d", "=", "d", "-LRB-", "q", ",", "p", "t", "-RRB-", "-LCB-", "distance", "computation", "-RCB-", "4", ":", "if", "d", "<", "d", "min", "then", "5", ":", "p", "min", "=", "p", "t", ",", "d", "min", "=", "d", "6", ":", "end", "if", "7", ":", "end", "if", "8", ":", "else", "9", ":", "r", "is", "a", "right", "child", "of", "t", "10", ":", "l", "is", "a", "left", "child", "of", "t", "11", ":", "g", "p", "r", "=", "g", "p", "t", "12", ":", "g", "p", "l", "=", "max", "bB", "|", "-LRB-", "D", "-LSB-", "b", "-RSB-", "-", "M", "-LSB-", "b", ",", "p", "t", "-RSB-", "-RRB-", "|", "13", ":", "if", "g", "p", "l", "<", "g", "p", "r", "then", "14", ":", "if", "d", "min", "+", "r", "l", ">", "g", "p", "l", "then", "15", ":", "search", "-LRB-", "l", ",", "g", "p", "l", ",", "p", "min", ",", "d", "min", "-RRB-", "16", ":", "end", "if", "17", ":", "if", "d", "min", "+", "r", "r", ">", "g", "p", "r", "then", "18", ":", "search", "-LRB-", "r", ",", "g", "p", "r", ",", "p", "min", ",", "d", "min", "-RRB-", "19", ":", "end", "if", "20", ":", "else", "21", ":", "if", "d", "min", "+", "r", "r", ">", "g", "p", "r", "then", "22", ":", "search", "-LRB-", "r", ",", "g", "p", "r", ",", "p", "min", ",", "d", "min", "-RRB-", "23", ":", "end", "if", "24", ":", "if", "d", "min", "+", "r", "l", ">", "g", "p", "l", "then", "25", ":", "search", "-LRB-", "l", ",", "g", "p", "l", ",", "p", "min", ",", "d", "min", "-RRB-", "26", ":", "end", "if", "27", ":", "end", "if", "28", ":", "end", "if", "Figure", "5", ":", "A", "recursive", "procedure", "for", "an", "NN", "search", "in", "TLAESA", ".", "Figure", "6", ":", "A", "case", "in", "which", "the", "search", "algorithm", "in", "TLAESA", "does", "not", "work", "well", ".", "We", "show", "a", "method", "to", "construct", "the", "tree", "structure", "in", "Fig.", "7", ".", "We", "first", "select", "randomly", "the", "pivot", "p", "t", "of", "the", "root", "node", "t", "and", "set", "S", "t", "to", "P", ".", "Then", "we", "execute", "the", "procedure", "makeTree", "-LRB-", "t", ",", "p", "t", ",", "S", "t", "-RRB-", "in", "Fig.", "7", ".", "We", "explain", "the", "search", "process", "in", "the", "proposed", "structure", ".", "The", "proposed", "method", "maintains", "a", "priority", "queue", "Q", "that", "stores", "triples", "-LRB-", "node", "t", ",", "lower", "bound", "g", "p", "t", ",", "covering", "radius", "r", "t", "-RRB-", "in", "the", "increasing", "order", "of", "g", "p", "t", "-", "r", "t", ".", "Given", "a", "query", "object", "q", ",", "we", "calculate", "the", "distances", "between", "q", "and", "base", "prototypes", "and", "store", "their", "values", "in", "D", ".", "Then", "the", "search", "process", "starts", "at", "the", "root", "of", "T", ".", "The", "following", "steps", "are", "recursively", "repeated", "until", "Q", "becomes", "empty", ".", "When", "t", "is", "a", "leaf", "node", ",", "the", "distance", "d", "-LRB-", "q", ",", "p", "t", "-RRB-", "is", "computed", "if", "g", "p", "t", "<", "d", "min", ".", "If", "t", "is", "not", "a", "leaf", "node", "and", "its", "each", "child", "node", "t", "satisfies", "the", "inequality", "g", "p", "t", "<", "r", "t", "+", "d", "min", ",", "-LRB-", "8", "-RRB-", "the", "lower", "bound", "g", "p", "t", "is", "calculated", "and", "a", "triple", "-LRB-", "t", ",", "g", "p", "t", ",", "r", "t", "-RRB-", "is", "added", "to", "Q.", "Figs.", "8", "and", "9", "show", "the", "details", "of", "the", "algorithm", ".", "procedure", "makeTree", "-LRB-", "t", ",", "p", "t", ",", "S", "t", "-RRB-", "1", ":", "t", "new", "child", "node", "of", "t", "2", ":", "if", "|", "S", "t", "|", "=", "1", "then", "3", ":", "p", "t", "=", "p", "t", "and", "S", "t", "=", "-LCB-", "p", "t", "-RCB-", "4", ":", "else", "5", ":", "p", "t", "=", "argmax", "pS", "t", "d", "-LRB-", "p", ",", "p", "t", "-RRB-", "6", ":", "S", "t", "=", "-LCB-", "p", "S", "t", "|", "d", "-LRB-", "p", ",", "p", "t", "-RRB-", "<", "d", "-LRB-", "p", ",", "p", "t", "-RRB-", "-RCB-", "7", ":", "S", "t", "=", "S", "t", "-", "S", "t", "8", ":", "makeTree", "-LRB-", "t", ",", "p", "t", ",", "S", "t", "-RRB-", "9", ":", "makeTree", "-LRB-", "t", ",", "p", "t", ",", "S", "t", "-RRB-", "10", ":", "end", "if", "Figure", "7", ":", "Method", "to", "construct", "the", "proposed", "tree", "structure", ".", "procedure", "NN", "search", "-LRB-", "q", "-RRB-", "1", ":", "t", "root", "of", "T", "2", ":", "d", "min", "=", ",", "g", "p", "t", "=", "0", "3", ":", "for", "b", "B", "do", "4", ":", "D", "-LSB-", "b", "-RSB-", "=", "d", "-LRB-", "q", ",", "b", "-RRB-", "5", ":", "if", "D", "-LSB-", "b", "-RSB-", "<", "d", "min", "then", "6", ":", "p", "min", "=", "b", ",", "d", "min", "=", "D", "-LSB-", "b", "-RSB-", "7", ":", "end", "if", "8", ":", "end", "for", "9", ":", "g", "t", "=", "max", "bB", "|", "-LRB-", "D", "-LSB-", "b", "-RSB-", "-", "M", "-LSB-", "b", ",", "p", "t", "-RSB-", "-RRB-", "|", "10", ":", "Q", "-LCB-", "-LRB-", "t", ",", "g", "p", "t", ",", "r", "t", "-RRB-", "-RCB-", "11", ":", "while", "Q", "is", "not", "empty", "do", "do", "12", ":", "-LRB-", "t", ",", "g", "p", "t", ",", "r", "t", "-RRB-", "element", "in", "Q", "13", ":", "search", "-LRB-", "t", ",", "g", "p", "t", ",", "q", ",", "p", "min", ",", "d", "min", "-RRB-", "14", ":", "end", "while", "15", ":", "return", "p", "min", "Figure", "8", ":", "Proposed", "algorithm", "for", "an", "NN", "search", ".", "3.2", "Selection", "of", "Root", "Object", "We", "focus", "on", "base", "prototypes", "in", "order", "to", "reduce", "node", "accesses", ".", "The", "lower", "bound", "of", "the", "distance", "between", "a", "query", "q", "and", "a", "base", "prototype", "b", "is", "g", "b", "=", "max", "bB", "|", "d", "-LRB-", "q", ",", "b", "-RRB-", "-", "d", "-LRB-", "b", ",", "b", "-RRB-", "|", "=", "d", "-LRB-", "q", ",", "b", "-RRB-", ".", "This", "value", "is", "not", "an", "estimated", "distance", "but", "an", "actual", "distance", ".", "If", "we", "can", "use", "an", "actual", "distance", "in", "the", "search", "process", ",", "we", "can", "evaluate", "more", "effectively", "which", "nodes", "are", "close", "to", "q", ".", "This", "fact", "means", "that", "the", "search", "is", "efficiently", "performed", "if", "many", "base", "prototypes", "are", "visited", "in", "the", "early", "stage", ".", "In", "other", "words", ",", "it", "is", "desirable", "that", "more", "base", "prototypes", "are", "arranged", "in", "the", "upper", "part", "of", "the", "search", "tree", ".", "Thus", ",", "in", "the", "proposed", "algorithm", ",", "we", "choose", "the", "first", "base", "prototype", "b", "1", "as", "the", "root", "object", ".", "3.3", "Extension", "to", "a", "k-NN", "Search", "LAESA", "was", "developed", "to", "perform", "NN", "searches", "and", "-LRB-", "Moreno-Seco", ",", "Mic", "o", "&", "Oncina", "2002", "-RRB-", "extended", "it", "so", "that", "k-NN", "searches", "can", "be", "executed", ".", "In", "this", "section", ",", "we", "extend", "the", "improved", "TLAESA", "to", "a", "k-NN", "search", "algorithm", ".", "The", "extension", "is", "simple", "modifications", "of", "the", "algorithm", "described", "above", ".", "We", "use", "a", "priority", "queue", "V", "for", "storing", "k", "nearest", "neighbour", "candidates", "and", "modify", "the", "definition", "of", "d", "min", ".", "V", "stores", "pairs", "-LRB-", "object", "p", ",", "distance", "d", "-LRB-", "q", ",", "p", "-RRB-", "-RRB-", "in", "the", "increasing", "order", "of", "procedure", "search", "-LRB-", "t", ",", "g", "p", "t", ",", "q", ",", "p", "min", ",", "d", "min", "-RRB-", "1", ":", "if", "t", "is", "a", "leaf", "then", "2", ":", "if", "g", "p", "t", "<", "d", "min", "then", "3", ":", "d", "=", "d", "-LRB-", "q", ",", "p", "t", "-RRB-", "-LCB-", "distance", "computation", "-RCB-", "4", ":", "if", "d", "<", "d", "min", "then", "5", ":", "p", "min", "=", "p", "t", ",", "d", "min", "=", "d", "6", ":", "end", "if", "7", ":", "end", "if", "8", ":", "else", "9", ":", "for", "each", "child", "t", "of", "t", "do", "10", ":", "if", "g", "p", "t", "<", "r", "t", "+", "d", "min", "then", "11", ":", "g", "p", "t", "=", "max", "bB", "|", "-LRB-", "D", "-LSB-", "b", "-RSB-", "-", "M", "-LSB-", "b", ",", "p", "t", "-RSB-", "-RRB-", "|", "12", ":", "Q", "Q", "-LCB-", "-LRB-", "t", ",", "g", "p", "t", ",", "r", "t", "-RRB-", "-RCB-", "13", ":", "end", "if", "14", ":", "end", "for", "15", ":", "end", "if", "Figure", "9", ":", "A", "procedure", "used", "in", "the", "proposed", "algorithm", "for", "an", "NN", "search", ".", "procedure", "k-NN", "search", "-LRB-", "q", ",", "k", "-RRB-", "1", ":", "t", "root", "of", "T", "2", ":", "d", "min", "=", ",", "g", "p", "t", "=", "0", "3", ":", "for", "b", "B", "do", "4", ":", "D", "-LSB-", "b", "-RSB-", "=", "d", "-LRB-", "q", ",", "b", "-RRB-", "5", ":", "if", "D", "-LSB-", "b", "-RSB-", "<", "d", "min", "then", "6", ":", "V", "V", "-LCB-", "-LRB-", "b", ",", "D", "-LSB-", "b", "-RSB-", "-RRB-", "-RCB-", "7", ":", "if", "|", "V", "|", "=", "k", "+", "1", "then", "8", ":", "remove", "-LRB-", "k", "+", "1", "-RRB-", "th", "pair", "from", "V", "9", ":", "end", "if", "10", ":", "if", "|", "V", "|", "=", "k", "then", "11", ":", "-LRB-", "c", ",", "d", "-LRB-", "q", ",", "c", "-RRB-", "-RRB-", "kth", "pair", "of", "V", "12", ":", "d", "min", "=", "d", "-LRB-", "q", ",", "c", "-RRB-", "13", ":", "end", "if", "14", ":", "end", "if", "15", ":", "end", "for", "16", ":", "g", "p", "t", "=", "max", "bB", "|", "-LRB-", "D", "-LSB-", "b", "-RSB-", "-", "M", "-LSB-", "b", ",", "p", "t", "-RSB-", "-RRB-", "|", "17", ":", "Q", "-LCB-", "-LRB-", "t", ",", "g", "p", "t", ",", "r", "t", "-RRB-", "-RCB-", "18", ":", "while", "Q", "is", "not", "empty", "do", "19", ":", "-LRB-", "t", ",", "g", "p", "t", ",", "r", "t", "-RRB-", "element", "in", "Q", "20", ":", "search", "-LRB-", "t", ",", "g", "p", "t", ",", "q", ",", "V", ",", "d", "min", ",", "k", "-RRB-", "21", ":", "end", "while", "22", ":", "return", "k", "objects", "V", "Figure", "10", ":", "Proposed", "algorithm", "for", "a", "k-NN", "search", ".", "d", "-LRB-", "q", ",", "p", "-RRB-", ".", "d", "min", "is", "defined", "as", "d", "min", "=", "-LRB-", "|", "V", "|", "<", "k", "-RRB-", "d", "-LRB-", "q", ",", "c", "-RRB-", "-LRB-", "|", "V", "|", "=", "k", "-RRB-", "-LRB-", "9", "-RRB-", "where", "c", "is", "the", "object", "of", "the", "kth", "pair", "in", "V", ".", "We", "show", "in", "Figs.", "10", "and", "11", "the", "details", "of", "the", "k-NN", "search", "algorithm", ".", "The", "search", "strategy", "essentially", "follows", "the", "algorithm", "in", "Figs.", "8", "and", "9", ",", "but", "the", "k-NN", "search", "algorithm", "uses", "V", "instead", "of", "p", "min", ".", "-LRB-", "Moreno-Seco", "et", "al.", "2002", "-RRB-", "shows", "that", "the", "optimal", "number", "of", "base", "prototypes", "depends", "on", "not", "only", "the", "dimensionality", "of", "the", "space", "but", "also", "the", "value", "of", "k", "and", "that", "the", "number", "of", "distance", "computations", "increases", "as", "k", "increases", ".", "In", "this", "section", ",", "we", "propose", "an", "extension", "to", "an", "approximation", "k-NN", "search", "algorithm", "which", "ensures", "the", "procedure", "search", "-LRB-", "t", ",", "g", "p", "t", ",", "q", ",", "V", ",", "d", "min", ",", "k", "-RRB-", "1", ":", "if", "t", "is", "a", "leaf", "then", "2", ":", "if", "g", "p", "t", "<", "d", "min", "then", "3", ":", "d", "=", "d", "-LRB-", "q", ",", "p", "t", "-RRB-", "-LCB-", "distance", "computation", "-RCB-", "4", ":", "if", "d", "<", "d", "min", "then", "5", ":", "V", "V", "-LCB-", "-LRB-", "p", "t", ",", "d", "-LRB-", "q", ",", "p", "t", "-RRB-", "-RRB-", "-RCB-", "6", ":", "if", "|", "V", "|", "=", "k", "+", "1", "then", "7", ":", "remove", "-LRB-", "k", "+", "1", "-RRB-", "th", "pair", "from", "V", "8", ":", "end", "if", "9", ":", "if", "|", "V", "|", "=", "k", "then", "10", ":", "-LRB-", "c", ",", "d", "-LRB-", "q", ",", "c", "-RRB-", "-RRB-", "kth", "pair", "of", "V", "11", ":", "d", "min", "=", "d", "-LRB-", "q", ",", "c", "-RRB-", "12", ":", "end", "if", "13", ":", "end", "if", "14", ":", "end", "if", "15", ":", "else", "16", ":", "for", "each", "child", "t", "of", "t", "do", "17", ":", "if", "g", "p", "t", "<", "r", "t", "+", "d", "min", "then", "18", ":", "g", "p", "t", "=", "max", "bB", "|", "-LRB-", "D", "-LSB-", "b", "-RSB-", "-", "M", "-LSB-", "b", ",", "p", "t", "-RSB-", "-RRB-", "|", "19", ":", "Q", "Q", "-LCB-", "-LRB-", "t", ",", "g", "p", "t", ",", "r", "t", "-RRB-", "-RCB-", "20", ":", "end", "if", "21", ":", "end", "for", "22", ":", "end", "if", "Figure", "11", ":", "A", "procedure", "used", "in", "the", "proposed", "algorithm", "for", "a", "k-NN", "search", ".", "quality", "of", "solutions", ".", "Consider", "the", "procedure", "in", "Fig.", "11", ".", "We", "replace", "the", "4th", "line", "with", "if", "d", "<", "d", "min", "then", "and", "the", "17th", "line", "with", "if", "g", "t", "<", "r", "t", "+", "d", "min", "then", "where", "is", "real", "number", "such", "that", "0", "<", "1", ".", "The", "pruning", "process", "gets", "more", "efficient", "as", "these", "conditions", "become", "tighter", ".", "The", "proposed", "method", "ensures", "the", "quality", "of", "solutions", ".", "We", "can", "show", "the", "approximation", "ratio", "to", "an", "optimal", "solution", "using", ".", "Let", "a", "be", "the", "nearest", "neighbour", "object", "and", "a", "be", "the", "nearest", "neighbour", "candidate", "object", ".", "If", "our", "method", "misses", "a", "and", "give", "a", "as", "the", "answer", ",", "the", "equation", "g", "-LRB-", "q", ",", "a", "-RRB-", "d", "-LRB-", "q", ",", "a", "-RRB-", "-LRB-", "10", "-RRB-", "is", "satisfied", ".", "Then", "a", "will", "be", "eliminated", "from", "targeted", "objects", ".", "Since", "g", "-LRB-", "q", ",", "a", "-RRB-", "d", "-LRB-", "q", ",", "a", "-RRB-", ",", "we", "can", "obtain", "the", "following", "equation", ":", "d", "-LRB-", "q", ",", "a", "-RRB-", "1", "d", "-LRB-", "q", ",", "a", "-RRB-", ".", "-LRB-", "11", "-RRB-", "Thus", ",", "the", "approximate", "solution", "are", "suppressed", "by", "1", "times", "of", "the", "optimal", "solution", ".", "In", "this", "section", "we", "show", "some", "experimental", "results", "and", "discuss", "them", ".", "We", "tested", "on", "an", "artificial", "set", "of", "random", "points", "in", "the", "8-dimensional", "euclidean", "space", ".", "We", "also", "used", "the", "euclidean", "distance", "as", "the", "distance", "function", ".", "We", "evaluated", "the", "number", "of", "distance", "computations", "and", "the", "number", "of", "accesses", "to", "the", "distance", "matrix", "in", "1-NN", "and", "10-NN", "searches", ".", "0", "50", "100", "150", "200", "250", "300", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "110", "120", "Number", "of", "Distance", "Computations", "Number", "of", "Base", "Prototypes", "TLAESA", "-LRB-", "1-NN", "-RRB-", "TLAESA", "-LRB-", "10-NN", "-RRB-", "Proposed", "-LRB-", "1-NN", "-RRB-", "Proposed", "-LRB-", "10-NN", "-RRB-", "Figure", "12", ":", "Relation", "of", "the", "number", "of", "distance", "computations", "to", "the", "number", "of", "base", "prototypes", ".", "1-NN", "10-NN", "TLAESA", "40", "80", "Proposed", "25", "60", "Table", "1", ":", "The", "optimal", "number", "of", "base", "prototypes", ".", "5.1", "The", "Optimal", "Number", "of", "Base", "Prototypes", "We", "first", "determined", "experimentally", "the", "optimal", "number", "of", "base", "prototypes", ".", "The", "number", "of", "objects", "was", "fixed", "to", "10000", ".", "We", "executed", "1-NN", "and", "10-NN", "searches", "for", "various", "numbers", "of", "base", "prototypes", ",", "and", "counted", "the", "number", "of", "distance", "computations", ".", "Fig.", "12", "shows", "the", "results", ".", "From", "this", "figure", ",", "we", "chose", "the", "number", "of", "base", "prototypes", "as", "shown", "in", "Table", ".", "1", ".", "We", "can", "see", "that", "the", "values", "in", "the", "proposed", "method", "are", "fewer", "than", "those", "in", "TLAESA", ".", "This", "means", "that", "the", "proposed", "method", "can", "achieve", "better", "performance", "with", "smaller", "size", "of", "distance", "matrix", ".", "We", "used", "the", "values", "in", "Table", ".", "1", "in", "the", "following", "experiments", ".", "5.2", "Evaluation", "of", "Improvements", "We", "tested", "the", "effects", "of", "our", "improvements", "described", "in", "3.1", "and", "3.2", ".", "We", "counted", "the", "numbers", "of", "distance", "computations", "in", "1-NN", "and", "10-NN", "searches", "for", "various", "numbers", "of", "objects", ".", "The", "results", "are", "shown", "in", "Figs.", "13", "and", "14", ".", "Similar", "to", "TLAESA", ",", "the", "number", "of", "the", "distance", "computations", "in", "the", "proposed", "method", "does", "not", "depend", "on", "the", "number", "of", "objects", ".", "In", "both", "of", "1-NN", "and", "10-NN", "searches", ",", "it", "is", "about", "60", "%", "of", "the", "number", "of", "distance", "computations", "in", "TLAESA", ".", "Thus", "we", "can", "see", "that", "our", "improvements", "are", "very", "effective", ".", "In", "the", "search", "algorithms", "of", "TLAESA", "and", "the", "proposed", "methods", ",", "various", "calculations", "are", "performed", "other", "than", "distance", "computations", ".", "The", "costs", "of", "the", "major", "part", "of", "such", "calculations", "are", "proportional", "to", "the", "number", "of", "accesses", "to", "the", "distance", "matrices", ".", "We", "therefore", "counted", "the", "numbers", "of", "accesses", "to", "the", "distance", "matrices", ".", "We", "examined", "the", "following", "two", "cases", ":", "-LRB-", "i", "-RRB-", "TLAESA", "vs.", "TLAESA", "with", "the", "improvement", "of", "selection", "of", "the", "root", "object", ".", "-LRB-", "ii", "-RRB-", "Proposed", "method", "only", "with", "improvement", "of", "tree", "structure", "and", "search", "algorithm", "vs.", "proposed", "method", "only", "with", "the", "improvement", "of", "selection", "of", "the", "root", "object", ".", "In", "the", "case", "-LRB-", "i", "-RRB-", ",", "the", "number", "of", "accesses", "to", "the", "distance", "matrix", "is", "reduced", "by", "12", "%", "in", "1-NN", "searches", "and", "4.5", "%", "in", "10-NN", "searches", ".", "In", "the", "case", "-LRB-", "ii", "-RRB-", ",", "it", "is", "reduced", "by", "6.8", "%", "in", "1-NN", "searches", "and", "2.7", "%", "in", "10-NN", "searches", ".", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "0", "2000", "4000", "6000", "8000", "10000", "Number", "of", "Distance", "Computations", "Number", "of", "Objects", "TLAESA", "Proposed", "Figure", "13", ":", "The", "number", "of", "distance", "computations", "in", "1-NN", "searches", ".", "0", "30", "60", "90", "120", "150", "180", "210", "240", "270", "300", "0", "2000", "4000", "6000", "8000", "10000", "Number", "of", "Distance", "Computations", "Number", "of", "Objects", "TLAESA", "Proposed", "Figure", "14", ":", "The", "number", "of", "distance", "computations", "in", "10-NN", "searches", ".", "Thus", "we", "can", "see", "that", "this", "improvement", "about", "selection", "of", "the", "root", "object", "is", "effective", ".", "5.3", "Evaluation", "of", "Approximation", "Search", "We", "tested", "the", "performance", "of", "the", "approximation", "search", "algorithm", ".", "We", "compared", "the", "proposed", "method", "to", "Ak-LAESA", ",", "which", "is", "the", "approximation", "search", "algorithm", "proposed", "in", "-LRB-", "Moreno-Seco", ",", "Mic", "o", "&", "Oncina", "2003", "-RRB-", ".", "Each", "time", "a", "distance", "is", "computed", "in", "Ak-LAESA", ",", "the", "nearest", "neighbour", "candidate", "is", "updated", "and", "its", "value", "is", "stored", ".", "When", "the", "nearest", "neighbour", "object", "is", "found", ",", "the", "best", "k", "objects", "are", "chosen", "from", "the", "stored", "values", ".", "In", "Ak-LAESA", ",", "the", "number", "of", "distance", "computations", "of", "the", "k-NN", "search", "is", "exactly", "the", "same", "as", "that", "of", "the", "NN", "search", ".", "To", "compare", "the", "proposed", "method", "with", "Ak-LAESA", ",", "we", "examined", "how", "many", "objects", "in", "the", "approximate", "solutions", "exist", "in", "the", "optimal", "solutions", ".", "Thus", ",", "we", "define", "the", "error", "rate", "E", "as", "follows", ":", "E", "-LSB-", "%", "-RSB-", "=", "|", "-LCB-", "x", "i", "|", "x", "i", "/", "Opt", ",", "i", "=", "1", ",", "2", ",", ",", "k", "-RCB-", "|", "k", "100", "-LRB-", "12", "-RRB-", "where", "-LCB-", "x", "1", ",", "x", "2", ",", ",", "x", "k", "-RCB-", "is", "a", "set", "of", "k", "objects", "which", "are", "obtained", "by", "an", "approximation", "algorithm", "and", "Opt", "is", "a", "set", "of", "k", "closest", "objects", "to", "the", "query", "object", ".", "Fig.", "15", "shows", "the", "error", "rate", "when", "the", "value", "of", "is", "changed", "in", "10-NN", "searches", ".", "Fig.", "16", "also", "shows", "the", "relation", "of", "the", "number", "of", "distance", "computations", "to", "the", "value", "of", "in", "10-NN", "searches", ".", "In", "the", "range", "0.5", ",", "the", "proposed", "method", "shows", "the", "lower", "error", "rate", "than", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "0", "0.2", "0.4", "0.6", "0.8", "1", "Error", "Rate", "-LSB-", "%", "-RSB-", "Ak-LAESA", "Proposed", "Figure", "15", ":", "Error", "rate", "in", "10-NN", "searches", ".", "0", "20", "40", "60", "80", "100", "120", "140", "160", "0", "0.2", "0.4", "0.6", "0.8", "1", "Number", "of", "distance", "computations", "Ak-LAESA", "Proposed", "Figure", "16", ":", "Relation", "of", "the", "number", "of", "distance", "computations", "to", "the", "value", "of", "in", "10-NN", "searches", ".", "Ak-LAESA", ".", "In", "particular", ",", "the", "error", "rate", "of", "the", "proposed", "method", "is", "almost", "0", "in", "range", "0.9", ".", "From", "two", "figures", ",", "we", "can", "control", "the", "error", "rate", "and", "the", "number", "of", "distance", "computations", "by", "changing", "the", "value", "of", ".", "For", "example", ",", "the", "proposed", "method", "with", "=", "0.9", "reduces", "abount", "28.6", "%", "of", "distance", "computations", "and", "its", "error", "rate", "is", "almost", "0", ".", "Then", "we", "examined", "the", "accuracy", "of", "the", "approximate", "solutions", ".", "We", "used", "=", "0.5", "for", "the", "proposed", "method", "because", "the", "error", "rate", "of", "the", "proposed", "method", "with", "=", "0.5", "is", "equal", "to", "the", "one", "of", "Ak-LAESA", ".", "We", "performed", "10-NN", "searches", "10000", "times", "for", "each", "method", "and", "examined", "the", "distribution", "of", "kth", "approximate", "solution", "to", "kth", "optimal", "solution", ".", "We", "show", "the", "results", "in", "Figs.", "17", "and", "18", ".", "In", "each", "figure", ",", "x", "axis", "represents", "the", "distance", "between", "a", "query", "object", "q", "and", "the", "kth", "object", "in", "the", "optimal", "solution", ".", "y", "axis", "shows", "the", "distance", "between", "q", "and", "the", "kth", "object", "in", "the", "approximate", "solution", ".", "The", "point", "near", "the", "line", "y", "=", "x", "represents", "that", "kth", "approximate", "solution", "is", "very", "close", "to", "kth", "optimal", "solution", ".", "In", "Fig.", "17", ",", "many", "points", "are", "widely", "distributed", ".", "In", "the", "worst", "case", ",", "some", "appriximate", "solutions", "reach", "about", "3", "times", "of", "the", "optimal", "solution", ".", "From", "these", "figures", ",", "we", "can", "see", "that", "the", "accuracy", "of", "solution", "by", "the", "proposed", "method", "is", "superior", "to", "the", "one", "by", "Ak-LAESA", ".", "We", "also", "show", "the", "result", "with", "=", "0.9", "in", "Fig.", "19", ".", "Most", "points", "exist", "near", "the", "line", "y", "=", "x.", "Though", "Ak-LAESA", "can", "reduce", "drastically", "the", "number", "of", "distance", "computations", ",", "its", "approximate", "solutions", "are", "often", "far", "from", "the", "optimal", "solutions", ".", "On", "the", "other", "hand", ",", "the", "proposed", "method", "can", "reduce", "the", "number", "of", "distance", "computations", "to", "some", "extent", "with", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "1.6", "0", "0.2", "0.4", "0.6", "0.8", "Distance", "to", "the", "k", "th", "Approximate", "Solution", "Distance", "to", "the", "k", "th", "Optimal", "Solution", "Figure", "17", ":", "The", "distribution", "of", "the", "approximate", "solution", "by", "Ak-LAESA", "to", "the", "optimal", "solution", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "1.6", "0", "0.2", "0.4", "0.6", "0.8", "Distance", "to", "the", "k", "th", "Approximate", "Solution", "Distance", "to", "the", "k", "th", "Optimal", "Solution", "Figure", "18", ":", "The", "distribution", "the", "approximate", "solution", "by", "the", "proposed", "method", "with", "=", "0.5", "to", "the", "optimal", "solution", ".", "very", "low", "error", "rate", ".", "Moreover", ",", "the", "accuracy", "of", "its", "approximate", "solutions", "is", "superior", "to", "that", "of", "Ak-LAESA", ".", "In", "this", "paper", ",", "we", "proposed", "some", "improvements", "of", "TLAESA", ".", "In", "order", "to", "reduce", "the", "number", "of", "distance", "computations", "in", "TLAESA", ",", "we", "improved", "the", "search", "algorithm", "to", "best", "first", "order", "from", "depth", "first", "order", "and", "the", "tree", "structure", "to", "a", "multiway", "tree", "from", "a", "binary", "tree", ".", "In", "the", "1-NN", "searches", "and", "10-NN", "searches", "in", "a", "8-dimensional", "space", ",", "the", "proposed", "method", "reduced", "about", "40", "%", "of", "distance", "computations", ".", "We", "then", "proposed", "the", "selection", "method", "of", "root", "object", "in", "the", "search", "tree", ".", "This", "improvement", "is", "very", "simple", "but", "is", "effective", "to", "reduce", "the", "number", "of", "accesses", "to", "the", "distance", "matrix", ".", "Finally", ",", "we", "extended", "our", "method", "to", "an", "approximation", "k-NN", "search", "algorithm", "that", "can", "ensure", "the", "quality", "of", "solutions", ".", "The", "approximate", "solutions", "of", "the", "proposed", "method", "are", "suppressed", "by", "1", "times", "of", "the", "optimal", "solutions", ".", "Experimental", "results", "show", "that", "the", "proposed", "method", "can", "reduce", "the", "number", "of", "distance", "computations", "with", "very", "low", "error", "rate", "by", "selecting", "the", "appropriate", "value", "of", ",", "and", "that", "the", "accuracy", "of", "the", "solutions", "is", "superior", "to", "Ak-LAESA", ".", "From", "these", "viewpoints", ",", "the", "method", "presented", "in", "this", "paper", "is", "very", "effective", "when", "the", "distance", "computations", "are", "time-consuming", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "1.6", "0", "0.2", "0.4", "0.6", "0.8", "Distance", "to", "the", "k", "th", "Approximate", "Solution", "Distance", "to", "the", "k", "th", "Optimal", "Solution", "Figure", "19", ":", "The", "distribution", "the", "approximate", "solution", "by", "the", "proposed", "method", "with", "=", "0.9", "to", "the", "optimal", "solution", ".", "References", "Ciaccia", ",", "P.", ",", "Patella", ",", "M.", "&", "Zezula", ",", "P.", "-LRB-", "1997", "-RRB-", ",", "M-tree", ":", "An", "efficient", "access", "method", "for", "similarity", "search", "in", "metric", "spaces", ",", "in", "`", "Proceedings", "of", "the", "23rd", "International", "Conference", "on", "Very", "Large", "Data", "Bases", "-LRB-", "VLDB", "'", "97", "-RRB-", "'", ",", "pp.", "426", "435", ".", "Hjaltason", ",", "G.", "R.", "&", "Samet", ",", "H.", "-LRB-", "2003", "-RRB-", ",", "`", "Index-driven", "similarity", "search", "in", "metric", "spaces", "'", ",", "ACM", "Transactions", "on", "Database", "Systems", "28", "-LRB-", "4", "-RRB-", ",", "517", "580", ".", "Mic", "o", ",", "L.", "&", "Oncina", ",", "J.", "-LRB-", "1998", "-RRB-", ",", "`", "Comparison", "of", "fast", "nearest", "neighbour", "classifiers", "for", "handwritten", "character", "recognition", "'", ",", "Pattern", "Recognition", "Letters", "19", "-LRB-", "3-4", "-RRB-", ",", "351", "356", ".", "Mic", "o", ",", "L.", ",", "Oncina", ",", "J.", "&", "Carrasco", ",", "R.", "C.", "-LRB-", "1996", "-RRB-", ",", "`", "A", "fast", "branch", "&", "bound", "nearest", "neighbour", "classifier", "in", "metric", "spaces", "'", ",", "Pattern", "Recognition", "Letters", "17", "-LRB-", "7", "-RRB-", ",", "731", "739", ".", "Mic", "o", ",", "M.", "L.", ",", "Oncina", ",", "J.", "&", "Vidal", ",", "E.", "-LRB-", "1994", "-RRB-", ",", "`", "A", "new", "version", "of", "the", "nearest-neighbour", "approximating", "and", "eliminating", "search", "algorithm", "-LRB-", "AESA", "-RRB-", "with", "linear", "preprocessing", "time", "and", "memory", "require-ments", "'", ",", "Pattern", "Recognition", "Letters", "15", "-LRB-", "1", "-RRB-", ",", "9", "17", ".", "Moreno-Seco", ",", "F.", ",", "Mic", "o", ",", "L.", "&", "Oncina", ",", "J.", "-LRB-", "2002", "-RRB-", ",", "`", "Extending", "LAESA", "fast", "nearest", "neighbour", "algorithm", "to", "find", "the", "k-nearest", "neighbours", "'", ",", "Lecture", "Notes", "in", "Computer", "Science", "-", "Lecture", "Notes", "in", "Artificial", "Intelligence", "2396", ",", "691", "699", ".", "Moreno-Seco", ",", "F.", ",", "Mic", "o", ",", "L.", "&", "Oncina", ",", "J.", "-LRB-", "2003", "-RRB-", ",", "`", "A", "modification", "of", "the", "LAESA", "algorithm", "for", "ap-proximated", "k-NN", "classification", "'", ",", "Pattern", "Recognition", "Letters", "24", "-LRB-", "1-3", "-RRB-", ",", "47", "53", ".", "Navarro", ",", "G.", "-LRB-", "2002", "-RRB-", ",", "`", "Searching", "in", "metric", "spaces", "by", "spatial", "approximation", "'", ",", "The", "VLDB", "Journal", "11", "-LRB-", "1", "-RRB-", ",", "28", "46", ".", "Rico-Juan", ",", "J.", "R.", "&", "Mic", "o", ",", "L.", "-LRB-", "2003", "-RRB-", ",", "`", "Comparison", "of", "AESA", "and", "LAESA", "search", "algorithms", "using", "string", "and", "tree-edit-distances", "'", ",", "Pattern", "Recognition", "Letters", "24", "-LRB-", "9-10", "-RRB-", ",", "1417", "1426", ".", "Vidal", ",", "E.", "-LRB-", "1986", "-RRB-", ",", "`", "An", "algorithm", "for", "finding", "nearest", "neighbours", "in", "-LRB-", "approximately", "-RRB-", "constant", "average", "time", "'", ",", "Pattern", "Recognition", "Letters", "4", "-LRB-", "3", "-RRB-", ",", "145", "157", ".", "Yianilos", ",", "P.", "N.", "-LRB-", "1993", "-RRB-", ",", "Data", "structures", "and", "algorithms", "for", "nearest", "neighbor", "search", "in", "general", "metric", "spaces", ",", "in", "`", "SODA", "'", "93", ":", "Proceedings", "of", "the", "fourth", "annual", "ACM-SIAM", "Symposium", "on", "Discrete", "algorithms", "'", ",", "pp.", "311", "321", "."], "doc_bio_tags": ["O", "O", "B", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["nearest neighbour search", "approximation search", "tlaesa"], "abstractive_keyphrases": ["k nearest neighbour search", "distance computaion"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "110", "document": ["Indexing", "Multi-Dimensional", "Time-Series", "with", "Support", "for", "Multiple", "Distance", "Measures", "Although", "most", "time-series", "data", "mining", "research", "has", "concentrated", "on", "providing", "solutions", "for", "a", "single", "distance", "function", ",", "in", "this", "work", "we", "motivate", "the", "need", "for", "a", "single", "index", "structure", "that", "can", "support", "multiple", "distance", "measures", ".", "Our", "specific", "area", "of", "interest", "is", "the", "efficient", "retrieval", "and", "analysis", "of", "trajectory", "similarities", ".", "Trajectory", "datasets", "are", "very", "common", "in", "environmental", "applications", ",", "mobility", "experiments", ",", "video", "surveillance", "and", "are", "especially", "important", "for", "the", "discovery", "of", "certain", "biological", "patterns", ".", "Our", "primary", "similarity", "measure", "is", "based", "on", "the", "Longest", "Common", "Subsequence", "-LRB-", "LCSS", "-RRB-", "model", ",", "that", "offers", "enhanced", "robustness", ",", "particularly", "for", "noisy", "data", ",", "which", "are", "encountered", "very", "often", "in", "real", "world", "applications", ".", "However", ",", "our", "index", "is", "able", "to", "accommodate", "other", "distance", "measures", "as", "well", ",", "including", "the", "ubiquitous", "Euclidean", "distance", ",", "and", "the", "increasingly", "popular", "Dynamic", "Time", "Warping", "-LRB-", "DTW", "-RRB-", ".", "While", "other", "researchers", "have", "advocated", "one", "or", "other", "of", "these", "similarity", "measures", ",", "a", "major", "contribution", "of", "our", "work", "is", "the", "ability", "to", "support", "all", "these", "measures", "without", "the", "need", "to", "restructure", "the", "index", ".", "Our", "framework", "guarantees", "no", "false", "dismissals", "and", "can", "also", "be", "tailored", "to", "provide", "much", "faster", "response", "time", "at", "the", "expense", "of", "slightly", "reduced", "precision/recall", ".", "The", "experimental", "results", "demonstrate", "that", "our", "index", "can", "help", "speed-up", "the", "computation", "of", "expensive", "similarity", "measures", "such", "as", "the", "LCSS", "and", "the", "DTW", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", ",", "Data", "Mining", "In", "this", "work", "we", "present", "an", "efficient", "and", "compact", ",", "external", "memory", "index", "for", "fast", "detection", "of", "similar", "trajectories", ".", "Trajectory", "data", "are", "prevalent", "in", "diverse", "fields", "of", "interest", "such", "as", "meteorology", ",", "GPS", "tracking", ",", "wireless", "applications", ",", "video", "tracking", "-LSB-", "5", "-RSB-", "and", "motion", "capture", "-LSB-", "18", "-RSB-", ".", "Recent", "advances", "in", "mobile", "computing", ",", "sensor", "and", "GPS", "technology", "have", "made", "it", "possible", "to", "collect", "large", "amounts", "of", "spatiotemporal", "data", "and", "The", "research", "of", "this", "author", "was", "supported", "by", "NSF", "ITR", "0220148", ",", "NSF", "CAREER", "9907477", ",", "NSF", "IIS", "9984729", ",", "and", "NRDRP", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGKDD", "'", "03", ",", "August", "24-27", ",", "2003", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-737-0", "/", "03/0008", "...", "$", "5.00", ".", "there", "is", "increasing", "interest", "in", "performing", "data", "analysis", "tasks", "over", "such", "data", "-LSB-", "17", "-RSB-", ".", "In", "mobile", "computing", ",", "users", "equipped", "with", "mobile", "devices", "move", "in", "space", "and", "register", "their", "location", "at", "different", "time", "instances", "to", "spatiotemporal", "databases", "via", "wireless", "links", ".", "In", "environmental", "information", "systems", ",", "tracking", "animals", "and", "weather", "conditions", "is", "very", "common", "and", "large", "datasets", "can", "be", "created", "by", "storing", "locations", "of", "observed", "objects", "over", "time", ".", "Human", "motion", "data", "generated", "by", "tracking", "simultaneously", "various", "body", "joints", "are", "also", "multidimensional", "trajectories", ".", "In", "this", "field", "of", "computer", "graphics", "fundamental", "operations", "include", "the", "clustering", "of", "similar", "movements", ",", "leading", "to", "a", "multitude", "of", "applications", "such", "as", "interactive", "generation", "of", "motions", "-LSB-", "2", "-RSB-", ".", "Spatiotemporal", "data", "are", "also", "produced", "by", "migrating", "particles", "in", "biological", "sciences", ",", "where", "the", "focus", "can", "be", "on", "the", "discovery", "of", "subtle", "patterns", "during", "cellular", "mitoses", "-LSB-", "19", "-RSB-", ".", "In", "general", ",", "any", "dataset", "that", "involves", "storage", "of", "multiple", "streams", "-LRB-", "attributes", "-RRB-", "of", "data", "can", "be", "considered", "and", "treated", "as", "a", "multidimensional", "trajectory", ".", "One", "very", "common", "task", "for", "such", "data", "is", "the", "discovery", "of", "objects", "that", "follow", "a", "certain", "motion", "pattern", ",", "for", "purposes", "of", "clustering", "or", "classification", ".", "The", "objective", "here", "is", "to", "efficiently", "organize", "trajectories", "on", "disk", ",", "so", "that", "we", "can", "quickly", "answer", "k-Nearest-Neighbors", "-LRB-", "kNN", "-RRB-", "queries", ".", "A", "frequent", "obstacle", "in", "the", "analysis", "of", "spatiotemporal", "data", ",", "is", "the", "presence", "of", "noise", ",", "which", "can", "be", "introduced", "due", "to", "electromagnetic", "anomalies", ",", "transceiver", "problems", "etc.", ".", "Another", "impediment", "is", "that", "objects", "may", "move", "in", "a", "similar", "way", ",", "but", "at", "different", "speeds", ".", "So", ",", "we", "would", "like", "our", "similarity", "model", "to", "be", "robust", "to", "noise", ",", "support", "elastic", "and", "imprecise", "matches", ".", "Choosing", "the", "Euclidean", "distance", "as", "the", "similarity", "model", "is", "unrealistic", ",", "since", "its", "performance", "degrades", "rapidly", "in", "the", "presence", "of", "noise", "and", "this", "measure", "is", "also", "sensitive", "to", "small", "variations", "in", "the", "time", "axis", ".", "We", "concentrate", "on", "two", "similarity", "models", ":", "the", "first", "is", "an", "extension", "of", "Dynamic", "Time", "Warping", "for", "higher", "dimensions", ".", "We", "note", "that", "DTW", "has", "been", "used", "so", "far", "for", "one-dimensional", "time", "series", ".", "Here", "we", "present", "a", "formulation", "for", "sequences", "of", "arbitrary", "dimensions", ".", "The", "second", "distance", "measure", "is", "a", "modification", "of", "the", "Longest", "Common", "Subsequence", "-LRB-", "LCSS", "-RRB-", ",", "specially", "adapted", "for", "continuous", "values", ".", "Both", "measures", "represent", "a", "significant", "improvement", "compared", "to", "the", "Euclidean", "distance", ".", "However", ",", "LCSS", "is", "more", "robust", "than", "DTW", "under", "noisy", "conditions", "-LSB-", "20", "-RSB-", "as", "figure", "1", "shows", ".", "Euclidean", "matching", "completely", "disregards", "the", "variations", "in", "the", "time", "axis", ",", "while", "DTW", "performs", "excessive", "matchings", ",", "therefore", "distorting", "the", "true", "distance", "between", "sequences", ".", "The", "LCSS", "produces", "the", "most", "robust", "and", "intuitive", "correspondence", "between", "points", ".", "By", "incorporating", "warping", "in", "time", "as", "a", "requirement", "to", "216", "0", "20", "40", "60", "80", "100", "120", "Euclidean", "Matching", "0", "20", "40", "60", "80", "100", "120", "Time", "Warping", "0", "20", "40", "60", "80", "100", "120", "Longest", "Common", "Subsequence", "Figure", "1", ":", "A", "lucid", "example", "about", "the", "quality", "matching", "of", "the", "LCSS", "compared", "to", "other", "distance", "functions", ".", "The", "Euclidean", "distance", "performs", "an", "inflexible", "matching", ",", "while", "the", "DTW", "gives", "many", "superfluous", "and", "spurious", "matchings", ",", "in", "the", "presence", "of", "noise", ".", "our", "model", ",", "our", "algorithms", "are", "automatically", "challenged", "with", "quadratic", "execution", "time", ".", "Moreover", ",", "these", "flexible", "functions", "are", "typically", "non-metric", ",", "which", "makes", "difficult", "the", "design", "of", "indexing", "structures", ".", "To", "speed", "up", "the", "execution", "of", "a", "similarity", "function", ",", "one", "can", "devise", "a", "low", "cost", ",", "upper", "bounding", "function", "-LRB-", "since", "the", "LCSS", "model", "captures", "the", "similarity", ",", "which", "is", "inversely", "analogous", "to", "the", "distance", "-RRB-", ".", "We", "utilize", "a", "fast", "prefiltering", "scheme", "that", "will", "return", "upper", "bound", "estimates", "for", "the", "LCSS", "similarity", "between", "the", "query", "and", "the", "indexed", "trajectories", ".", "In", "addition", "to", "providing", "similarity", "measures", "that", "guarantee", "no", "false", "dismissals", ",", "we", "also", "propose", "approximate", "similarity", "estimates", "that", "significantly", "reduce", "the", "index", "response", "time", ".", "Finally", ",", "we", "show", "that", "the", "same", "index", "can", "support", "other", "distance", "measures", "as", "well", ".", "Our", "technique", "works", "by", "splitting", "the", "trajectories", "in", "multidimensional", "MBRs", "and", "storing", "them", "in", "an", "R-tree", ".", "For", "a", "given", "query", ",", "we", "construct", "a", "Minimum", "Bounding", "Envelope", "-LRB-", "MBE", "-RRB-", "that", "covers", "all", "the", "possible", "matching", "areas", "of", "the", "query", "under", "warping", "conditions", ".", "This", "MBE", "is", "decomposed", "into", "MBRs", "and", "then", "probed", "in", "the", "R-tree", "index", ".", "Using", "the", "index", "we", "can", "discover", "which", "trajectories", "could", "potentially", "be", "similar", "to", "the", "query", ".", "The", "index", "size", "is", "compact", "and", "its", "construction", "time", "scales", "well", "with", "the", "trajectory", "length", "and", "the", "database", "size", ",", "therefore", "our", "method", "can", "be", "utilized", "for", "massive", "datamining", "tasks", ".", "The", "main", "contributions", "of", "the", "paper", "are", ":", "We", "present", "the", "first", "external", "memory", "index", "for", "multidimensional", "trajectories", ",", "that", "supports", "multiple", "distance", "functions", "-LRB-", "such", "as", "LCSS", ",", "DTW", "and", "Euclidean", "-RRB-", ",", "without", "the", "need", "to", "rebuild", "the", "index", ".", "We", "give", "efficient", "techniques", "for", "upper", "-LRB-", "lower", "-RRB-", "bounding", "and", "for", "approximating", "the", "LCSS", "-LRB-", "DTW", "-RRB-", "for", "a", "set", "of", "trajectories", ".", "We", "incorporate", "these", "techniques", "in", "the", "design", "of", "an", "efficient", "indexing", "structure", "for", "the", "LCSS", "and", "the", "DTW", ".", "We", "provide", "a", "flexible", "method", "that", "allows", "the", "user", "to", "specify", "queries", "of", "variable", "warping", "length", ",", "and", "the", "technique", "can", "be", "tuned", "to", "optimize", "the", "retrieval", "time", "or", "the", "accuracy", "of", "the", "solution", ".", "There", "has", "been", "a", "wealth", "of", "papers", "that", "use", "an", "L", "p", "distance", "family", "function", "to", "perform", "similarity", "matching", "for", "1D", "time-series", ".", "Work", "on", "multidimensional", "sequences", "can", "be", "found", "in", "-LSB-", "14", ",", "9", "-RSB-", ".", "However", ",", "they", "support", "only", "Euclidean", "distance", ",", "which", ",", "as", "mentioned", "in", "the", "introduction", ",", "can", "not", "capture", "flexible", "similarities", ".", "Although", "the", "vast", "majority", "of", "database/data", "mining", "research", "on", "time", "series", "data", "mining", "has", "focused", "on", "Euclidean", "distance", ",", "virtually", "all", "real", "world", "systems", "that", "use", "time", "series", "matching", "as", "a", "subroutine", ",", "use", "a", "similarity", "measure", "which", "allows", "warping", ".", "In", "retrospect", ",", "this", "is", "not", "very", "surprising", ",", "since", "most", "real", "world", "processes", ",", "particularly", "biological", "processes", ",", "can", "evolve", "at", "varying", "rates", ".", "For", "example", ",", "in", "bioinformat-ics", ",", "it", "is", "well", "understood", "that", "functionally", "related", "genes", "will", "express", "themselves", "in", "similar", "ways", ",", "but", "possibly", "at", "different", "rates", ".", "Because", "of", "this", ",", "DTW", "is", "used", "for", "gene", "expression", "data", "mining", "-LSB-", "1", ",", "3", "-RSB-", ".", "Dynamic", "Time", "Warping", "is", "a", "ubiquitous", "tool", "in", "the", "biometric/surveillance", "community", ".", "It", "has", "been", "used", "for", "tracking", "time", "series", "extracted", "from", "video", "-LSB-", "7", "-RSB-", ",", "classifying", "handwritten", "text", "-LSB-", "16", "-RSB-", "and", "even", "fingerprint", "indexing", "-LSB-", "13", "-RSB-", ".", "While", "the", "above", "examples", "testify", "to", "the", "utility", "of", "a", "time", "warped", "distance", "measure", ",", "they", "all", "echo", "the", "same", "complaint", ";", "DTW", "has", "serious", "scalability", "issues", ".", "Work", "that", "attempted", "to", "mitigate", "the", "large", "computational", "cost", "has", "appeared", "in", "-LSB-", "12", "-RSB-", "and", "-LSB-", "21", "-RSB-", ",", "where", "the", "authors", "use", "lower", "bounding", "measures", "to", "speed", "up", "the", "execution", "of", "DTW", ".", "However", ",", "the", "lower", "bounds", "can", "be", "loose", "approximations", "of", "the", "original", "distance", ",", "when", "the", "data", "are", "normalized", ".", "In", "-LSB-", "15", "-RSB-", "a", "different", "approach", "is", "used", "for", "indexing", "Time", "Warping", ",", "by", "using", "suffix", "trees", ".", "Nonetheless", ",", "the", "index", "requires", "excessive", "disk", "space", "-LRB-", "about", "10", "times", "the", "size", "of", "the", "original", "data", "-RRB-", ".", "The", "flexibility", "provided", "by", "DTW", "is", "very", "important", ",", "however", "its", "efficiency", "deteriorates", "for", "noisy", "data", ",", "since", "by", "matching", "all", "the", "points", ",", "it", "also", "matches", "the", "outliers", "distorting", "the", "true", "distance", "between", "the", "sequences", ".", "An", "alternative", "approach", "is", "the", "use", "of", "Longest", "Common", "Subsequence", "-LRB-", "LCSS", "-RRB-", ",", "which", "is", "a", "variation", "of", "the", "edit", "distance", ".", "The", "basic", "idea", "is", "to", "match", "two", "sequences", "by", "allowing", "them", "to", "stretch", ",", "without", "rearranging", "the", "order", "of", "the", "elements", "but", "allowing", "some", "elements", "to", "be", "unmatched", ".", "Using", "the", "LCSS", "of", "two", "sequences", ",", "one", "can", "define", "the", "distance", "using", "the", "length", "of", "this", "subsequence", "-LSB-", "6", "-RSB-", ".", "In", "-LSB-", "20", "-RSB-", "an", "internal", "memory", "index", "for", "the", "LCSS", "has", "been", "proposed", ".", "It", "also", "demonstrated", "that", "while", "the", "LCSS", "presents", "similar", "advantages", "to", "DTW", ",", "it", "does", "not", "share", "its", "volatile", "performance", "in", "the", "presence", "of", "outliers", ".", "Closest", "in", "spirit", "to", "our", "approach", ",", "is", "the", "work", "of", "-LSB-", "10", "-RSB-", "which", ",", "however", ",", "only", "addresses", "1D", "time-series", ".", "The", "author", "uses", "constrained", "DTW", "as", "the", "distance", "function", ",", "and", "surrounds", "the", "possible", "matching", "regions", "by", "a", "modified", "version", "of", "a", "Piecewise", "Approximation", ",", "which", "is", "later", "stored", "as", "equi-length", "MBRs", "in", "an", "R-tree", ".", "However", ",", "by", "using", "DTW", ",", "such", "an", "approach", "is", "susceptible", "to", "high", "bias", "of", "outliers", ".", "Also", ",", "the", "217", "fixed", "MBR", "size", "-LRB-", "although", "simplifies", "the", "index", "operations", "-RRB-", "can", "lead", "to", "degenerate", "approximations", "of", "the", "original", "sequence", ".", "Moreover", ",", "the", "embedding", "of", "the", "envelope", "in", "the", "indexed", "sequences", "can", "slow", "the", "index", "construction", "time", "and", "limit", "the", "user", "'s", "query", "capabilities", "to", "a", "predefined", "warping", "length", ".", "The", "use", "of", "LCSS", "as", "our", "primary", "similarity", "measure", ",", "lends", "itself", "to", "a", "more", "natural", "use", "of", "the", "R-tree", ",", "where", "the", "similarity", "estimates", "are", "simply", "computed", "by", "calculating", "the", "MBR", "intersection", "areas", ".", "Since", "the", "index", "is", "not", "constructed", "for", "a", "specific", "warping", "window", ",", "the", "user", "can", "pose", "queries", "with", "variable", "warping", "length", ".", "The", "purpose", "of", "this", "paper", "is", "to", "reconcile", "the", "best", "of", "both", "worlds", ".", "We", "provide", "a", "framework", "that", "can", "support", "in", "the", "same", "index", ",", "the", "LCSS", ",", "DTW", "and", "Euclidean", "distance", "functions", ".", "The", "only", "aspect", "that", "changes", ",", "is", "the", "different", "representation", "of", "the", "query", "for", "each", "distance", "measure", ".", "In", "this", "section", "we", "present", "details", "of", "how", "the", "Dynamic", "Time", "Warping", "and", "the", "LCSS", "model", "can", "be", "extended", "to", "describe", "the", "similarity", "between", "trajectories", ".", "3.1", "Dynamic", "Time", "Warping", "for", "2D", "trajectories", "We", "describe", "an", "extension", "in", "2D", "of", "the", "original", "DTW", "function", "as", "described", "by", "Berndt", "and", "Clifford", "-LSB-", "4", "-RSB-", ".", "Let", "A", "and", "B", "be", "two", "trajectories", "of", "moving", "objects", "with", "size", "n", "and", "m", "respectively", ",", "where", "A", "=", "-LRB-", "-LRB-", "a", "x", ",1", ",", "a", "y", ",1", "-RRB-", ",", "...", ",", "-LRB-", "a", "x", ",", "n", ",", "a", "y", ",", "n", "-RRB-", "-RRB-", "and", "B", "=", "-LRB-", "-LRB-", "b", "x", ",1", ",", "b", "y", ",1", "-RRB-", ",", "...", ",", "-LRB-", "b", "x", ",", "m", ",", "b", "y", ",", "m", "-RRB-", "-RRB-", ".", "For", "a", "trajectory", "A", ",", "let", "Head", "-LRB-", "A", "-RRB-", "=", "-LRB-", "-LRB-", "a", "x", ",1", ",", "a", "y", ",1", "-RRB-", ",", "...", ",", "-LRB-", "a", "x", ",", "n", "1", ",", "a", "y", ",", "n", "1", "-RRB-", "-RRB-", ".", "Definition", "1", ".", "The", "Time", "Warping", "between", "2-dimensional", "sequences", "A", "and", "B", "is", ":", "DT", "W", "-LRB-", "A", ",", "B", "-RRB-", "=", "L", "p", "-LRB-", "-LRB-", "a", "x", ",", "n", ",", "a", "y", ",", "n", "-RRB-", ",", "-LRB-", "b", "x", ",", "m", ",", "b", "y", ",", "m", "-RRB-", "-RRB-", "+", "min", "-LCB-", "DTW", "-LRB-", "Head", "-LRB-", "A", "-RRB-", ",", "Head", "-LRB-", "B", "-RRB-", "-RRB-", ",", "DT", "W", "-LRB-", "Head", "-LRB-", "A", "-RRB-", ",", "B", "-RRB-", ",", "DT", "W", "-LRB-", "A", ",", "Head", "-LRB-", "B", "-RRB-", "-RRB-", "-RCB-", "-LRB-", "1", "-RRB-", "where", "L", "p", "is", "any", "p-Norm", ".", "Using", "dynamic", "programming", "and", "constraining", "the", "matching", "region", "within", ",", "the", "time", "required", "to", "compute", "DTW", "is", "O", "-LRB-", "-LRB-", "n", "+", "m", "-RRB-", "-RRB-", ".", "In", "order", "to", "represent", "an", "accurate", "relationship", "of", "distances", "between", "sequences", "with", "different", "lengths", ",", "the", "quantity", "in", "equation", "1", "is", "normalized", "by", "the", "length", "of", "the", "warping", "path", ".", "The", "extension", "to", "n", "dimensions", "is", "similar", ".", "In", "figure", "2", "we", "show", "an", "example", "of", "time", "warping", "for", "two", "trajectories", ".", "3.2", "LCSS", "model", "for", "2D", "trajectories", "The", "original", "LCSS", "model", "refers", "to", "1D", "sequences", ",", "we", "must", "therefore", "extend", "it", "to", "the", "2D", "case", ".", "In", "addition", ",", "the", "LCSS", "paradigm", "matches", "discrete", "values", ",", "however", "in", "our", "model", "we", "want", "to", "allow", "a", "matching", ",", "when", "the", "values", "are", "within", "a", "certain", "range", "in", "space", "and", "time", "-LRB-", "note", "that", "like", "this", ",", "we", "also", "avoid", "distant", "and", "degenerate", "matchings", "-RRB-", ".", "Definition", "2", ".", "Given", "an", "integer", "and", "a", "real", "number", "0", "<", "<", "1", ",", "we", "define", "the", "LCSS", ",", "-LRB-", "A", ",", "B", "-RRB-", "as", "follows", ":", "LCSS", ",", "-LRB-", "A", ",", "B", "-RRB-", "=", "0", "if", "A", "or", "B", "is", "empty", "1", "+", "LCSS", ",", "-LRB-", "Head", "-LRB-", "A", "-RRB-", ",", "Head", "-LRB-", "B", "-RRB-", "-RRB-", "if", "|", "a", "x", ",", "n", "b", "x", ",", "m", "|", "<", "and", "|", "a", "y", ",", "n", "b", "y", ",", "m", "|", "<", "and", "|", "n", "m", "|", "max", "-LRB-", "LCSS", ",", "-LRB-", "Head", "-LRB-", "A", "-RRB-", ",", "B", "-RRB-", ",", "LCSS", ",", "-LRB-", "A", ",", "Head", "-LRB-", "B", "-RRB-", "-RRB-", "-RRB-", ",", "otherwise", "0", "50", "100", "150", "0", "500", "1000", "1500", "100", "200", "300", "400", "500", "600", "X", "movement", "Time", "Y", "movement", "Figure", "2", ":", "The", "support", "of", "flexible", "matching", "in", "spatiotemporal", "queries", "is", "very", "important", ".", "However", ",", "we", "can", "observe", "that", "Dynamic", "Time", "Warping", "matches", "all", "points", "-LRB-", "so", "the", "outliers", "as", "well", "-RRB-", ",", "therefore", "distorting", "the", "true", "distance", ".", "In", "contrast", ",", "the", "LCSS", "model", "can", "efficiently", "ignore", "the", "noisy", "parts", ".", "where", "sequences", "A", "and", "Head", "-LRB-", "A", "-RRB-", "are", "defined", "similarly", "as", "before", ".", "The", "constant", "controls", "the", "flexibility", "of", "matching", "in", "time", "and", "constant", "is", "the", "matching", "threshold", "is", "space", ".", "The", "aforementioned", "LCSS", "model", "has", "the", "same", "O", "-LRB-", "-LRB-", "n", "+", "m", "-RRB-", "-RRB-", "computational", "complexity", "as", "the", "DTW", ",", "when", "we", "only", "allow", "a", "matching", "window", "in", "time", "-LSB-", "6", "-RSB-", ".", "The", "value", "of", "LCSS", "is", "unbounded", "and", "depends", "on", "the", "length", "of", "the", "compared", "sequences", ".", "We", "need", "to", "normalize", "it", ",", "in", "order", "to", "support", "sequences", "of", "variable", "length", ".", "The", "distance", "derived", "from", "the", "LCSS", "similarity", "can", "be", "defined", "as", "follows", ":", "Definition", "3", ".", "The", "distance", "D", ",", "expressed", "in", "terms", "of", "the", "LCSS", "similarity", "between", "two", "trajectories", "A", "and", "B", "is", "given", "by", ":", "D", ",", "-LRB-", "A", ",", "B", "-RRB-", "=", "1", "LCSS", ",", "-LRB-", "A", ",", "B", "-RRB-", "min", "-LRB-", "n", ",", "m", "-RRB-", "-LRB-", "2", "-RRB-", "Even", "though", "imposing", "a", "matching", "window", "can", "help", "speed", "up", "the", "execution", ",", "the", "computation", "can", "still", "be", "quadratic", "when", "is", "a", "significant", "portion", "of", "the", "sequence", "'s", "length", ".", "Therefore", ",", "comparing", "a", "query", "to", "all", "the", "trajectories", "becomes", "intractable", "for", "large", "databases", ".", "We", "are", "seeking", "ways", "to", "avoid", "examining", "the", "trajectories", "that", "are", "very", "distant", "to", "our", "query", ".", "This", "can", "be", "accomplished", "by", "discovering", "a", "close", "match", "to", "our", "query", ",", "as", "early", "as", "possible", ".", "A", "fast", "pre-filtering", "step", "is", "employed", "that", "eliminates", "the", "majority", "of", "distant", "matches", ".", "Only", "for", "some", "qualified", "sequences", "will", "we", "execute", "the", "costly", "-LRB-", "but", "accurate", "-RRB-", "quadratic", "time", "algorithm", ".", "This", "philosophy", "has", "also", "been", "successfully", "used", "in", "-LSB-", "21", ",", "10", "-RSB-", ".", "There", "are", "certain", "preprocessing", "steps", "that", "we", "follow", ":", "1", ".", "The", "trajectories", "are", "segmented", "into", "MBRs", ",", "which", "are", "stored", "in", "an", "Rtree", "T.", "2", ".", "Given", "a", "query", "Q", ",", "we", "discover", "the", "areas", "of", "possible", "matching", "by", "constructing", "its", "Minimum", "Bounding", "Envelope", "-LRB-", "M", "BE", "Q", "-RRB-", ".", "3", ".", "M", "BE", "Q", "is", "decomposed", "into", "MBRs", "that", "are", "probed", "in", "the", "index", "T.", "218", "4", ".", "Based", "on", "the", "MBR", "intersections", ",", "similarity", "estimates", "are", "computed", "and", "the", "exact", "LCSS", "-LRB-", "or", "DTW", "-RRB-", "is", "performed", "only", "on", "the", "qualified", "trajectories", ".", "The", "above", "notions", "are", "illustrated", "in", "figure", "3", "and", "we", "explain", "in", "detail", "how", "they", "can", "be", "applied", "for", "the", "LCSS", "case", "in", "the", "sections", "that", "follow", ".", "E.", "LCSS", "Upper", "Bound", "Estimate", "=", "L1", "+", "L2", "+", "L3", "A.", "Query", "Q", "C.", "Envelope", "Splitting", "B.", "Query", "Envelope", "D.", "Sequence", "MBRs", "L1", "L2", "L3", "Figure", "3", ":", "An", "example", "of", "our", "approach", "-LRB-", "in", "1D", "for", "clarity", "-RRB-", ";", "A", "query", "is", "extended", "into", "a", "bounding", "envelope", ",", "which", "in", "turn", "is", "also", "split", "into", "the", "resulting", "MBRs", ".", "Overlap", "between", "the", "query", "and", "the", "index", "MBRs", "suggest", "areas", "of", "possible", "matching", ".", "4.1", "Bounding", "the", "Matching", "Regions", "Let", "us", "first", "consider", "a", "1D", "time-series", "and", "let", "a", "sequence", "A", "be", "-LRB-", "a", "x", ",1", ",", "...", ",", "a", "x", ",", "n", "-RRB-", ".", "Ignoring", "for", "now", "the", "parameter", ",", "we", "would", "like", "to", "perform", "a", "very", "fast", "LCSS", "match", "between", "sequence", "A", "and", "some", "query", "Q.", "Suppore", "that", "we", "replicate", "each", "point", "Q", "i", "for", "time", "instances", "before", "and", "after", "time", "i", ".", "The", "envelope", "that", "includes", "all", "these", "points", "defines", "the", "areas", "of", "possible", "matching", ".", "Everything", "outside", "this", "envelope", "can", "never", "be", "matched", ".", "10", "20", "30", "40", "50", "60", "70", "40", "pts", "6", "pts", "2", "Q", "A", "Figure", "4", ":", "The", "Minimum", "Bounding", "Envelope", "-LRB-", "MBE", "-RRB-", "within", "in", "time", "and", "in", "space", "of", "a", "sequence", ".", "Everything", "that", "lies", "outside", "this", "envelope", "can", "never", "be", "matched", ".", "We", "call", "this", "envelope", ",", "the", "Minimum", "Bounding", "Envelope", "-LRB-", "MBE", "-RRB-", "of", "a", "sequence", ".", "Also", ",", "once", "we", "incorporate", "the", "matching", "within", "in", "space", ",", "this", "envelope", "should", "extent", "above", "and", "below", "the", "original", "envelope", "-LRB-", "figure", "4", "-RRB-", ".", "The", "notion", "of", "the", "bounding", "envelope", "can", "be", "trivially", "extended", "in", "more", "dimensions", ",", "where", "M", "BE", "-LRB-", ",", "-RRB-", "for", "a", "2D", "trajectory", "Q", "=", "-LRB-", "-LRB-", "q", "x", ",1", ",", "q", "y", ",1", "-RRB-", ",", "...", ",", "-LRB-", "q", "x", ",", "n", ",", "q", "y", ",", "n", "-RRB-", "covers", "the", "area", "between", "the", "following", "time-series", ":", "EnvLow", "MBE", "-LRB-", ",", "-RRB-", "EnvHigh", ",", "where", ":", "EnvHigh", "-LSB-", "i", "-RSB-", "=", "max", "-LRB-", "Q", "-LSB-", "j", "-RSB-", "+", "epsilon", "-RRB-", ",", "|", "i", "j", "|", "EnvLow", "-LSB-", "j", "-RSB-", "=", "min", "-LRB-", "Q", "-LSB-", "j", "-RSB-", "epsilon", "-RRB-", ",", "|", "i", "j", "|", "The", "LCSS", "similarity", "between", "the", "envelope", "of", "Q", "and", "a", "sequence", "A", "is", "defined", "as", ":", "LCSS", "-LRB-", "M", "BE", "Q", ",", "A", "-RRB-", "=", "n", "i", "=", "1", "1", "if", "A", "-LSB-", "i", "-RSB-", "within", "envelope", "0", "otherwise", "For", "example", ",", "in", "figure", "4", "the", "LCSS", "similarity", "between", "M", "BE", "Q", "and", "sequence", "A", "is", "46", ",", "as", "indicated", "in", "the", "figure", ".", "This", "value", "represents", "an", "upper", "bound", "for", "the", "similarity", "of", "Q", "and", "A", ".", "We", "can", "use", "the", "M", "BE", "Q", "to", "compute", "a", "lower", "bound", "on", "the", "distance", "between", "trajectories", ":", "Lemma", "1", ".", "For", "any", "two", "trajectories", "Q", "and", "A", "the", "following", "holds", ":", "D", ",", "-LRB-", "M", "BE", "Q", ",", "A", "-RRB-", "D", ",", "-LRB-", "Q", ",", "A", "-RRB-", ",", "Proof", "-LRB-", "Sketch", "-RRB-", ":", "D", ",", "-LRB-", "M", "BE", "Q", ",", "A", "-RRB-", "=", "1", "LCSS", ",", "-LRB-", "M", "BE", "Q", ",", "A", "-RRB-", "min", "-LRB-", "|", "Q", "|", ",", "|", "A", "|", "-RRB-", ",", "therefore", "it", "is", "sufficient", "to", "show", "that", ":", "LCSS", ",", "-LRB-", "M", "BE", "Q", ",", "A", "-RRB-", "LCSS", ",", "-LRB-", "Q", ",", "A", "-RRB-", ".", "This", "is", "true", "since", "M", "BE", "Q", "by", "construction", "contains", "all", "possible", "areas", "within", "and", "of", "the", "query", "Q.", "Therefore", ",", "no", "possible", "matching", "points", "will", "be", "missed", ".", "2", "The", "previous", "lemma", "provides", "us", "with", "the", "power", "to", "create", "an", "index", "that", "guarantees", "no", "false", "dismissals", ".", "However", ",", "this", "lower", "bound", "refers", "to", "the", "raw", "data", ".", "In", "the", "sections", "that", "follow", ",", "we", "will", "`", "split", "'", "the", "M", "BE", "of", "a", "trajectory", ",", "into", "a", "number", "of", "Minimum", "Bounding", "Rectangles", "-LRB-", "MBRs", "-RRB-", ",", "to", "accommodate", "their", "storage", "into", "a", "multidimensional", "R-tree", ".", "We", "will", "show", "that", "the", "above", "inequality", "still", "holds", "between", "trajectory", "MBRs", ".", "The", "MBR", "generation", "procedure", "is", "orthogonal", "to", "our", "approach", ",", "since", "any", "segmentation", "methodology", "can", "be", "applied", "to", "our", "framework", ".", "Therefore", ",", "the", "description", "of", "the", "potential", "MBR", "generation", "methods", "-LRB-", "and", "of", "our", "implementation", "choice", "-RRB-", "will", "be", "delayed", "until", "later", ".", "Suppose", "that", "we", "have", "an", "index", "with", "the", "segmented", "trajectories", "and", "the", "user", "provides", "a", "query", "Q", ".", "Our", "goal", "is", "the", "discovery", "of", "the", "k", "closest", "trajectories", "to", "the", "given", "query", ",", "according", "to", "the", "LCSS", "similarity", ".", "A", "prefiltering", "step", "will", "aid", "the", "quick", "discovery", "of", "a", "close", "match", "to", "the", "query", ",", "helping", "us", "discard", "the", "distant", "trajectories", "without", "using", "the", "costly", "quadratic", "algorithm", ".", "Therefore", ",", "in", "this", "phase", ",", "we", "compute", "upper", "bound", "estimates", "of", "the", "similarity", "between", "the", "query", "and", "the", "indexed", "sequences", "using", "their", "MBRs", ".", "Below", "we", "describe", "the", "algorithm", "to", "find", "the", "closest", "trajectory", "to", "a", "given", "query", ":", "Input", ":", "Query", "Q", ",", "Index", "I", "with", "trajectory", "MBRs", ",", "Method", "Output", ":", "Most", "similar", "trajectory", "to", "Q.", "219", "Box", "Env", "=", "constructM", "BE", ",", "-LRB-", "Q", "-RRB-", ";", "Vector", "V", "Q", "=", "CreateM", "BRs", "-LRB-", "Env", "-RRB-", ";", "/", "/", "V", "Q", "contains", "a", "number", "of", "boxes", ".", "Priority", "queue", "P", "Q", ";", "/", "/", "P", "Q", "keeps", "one", "entry", "per", "trajectory", "sorted", "/", "/", "according", "to", "the", "similarity", "estimate", "for", "each", "box", "B", "in", "V", "Q", ":", "V", "=", "I.intersectionQuery", "-LRB-", "B", "-RRB-", ";", "/", "/", "V", "contains", "all", "trajectory", "MBRs", "that", "intersect", "with", "B.", "if", "Method", "==", "Exact", ":", "/", "/", "upper", "bound", "P", "Q", "computeL-SimilarityEstimates", "-LRB-", "V", ",", "B", "-RRB-", ";", "else", ":", "/", "/", "approximate", "P", "Q", "computeV-SimilarityEstimates", "-LRB-", "V", ",", "B", "-RRB-", ";", "BestSoF", "ar", "=", "0", ";", "Best", ";", "while", "P", "Q", "not", "empty", ":", "E", "PQ.top", ";", "if", "E.estimate", "<", "BestSoF", "ar", ":", "break", ";", "else", ":", "D", "=", "computeLCCS", ",", "-LRB-", "Q", ",", "E", "-RRB-", ";", "/", "/", "exact", "if", "D", ">", "BestSoF", "ar", ":", "BestSoF", "ar", "=", "D", ";", "Best", "E", ";", "Report", "Best", ";", "The", "above", "algorithm", "can", "be", "adjusted", "to", "return", "the", "kNN", "sequences", ",", "simply", "by", "comparing", "with", "the", "k", "th", "bestSoF", "ar", "match", ".", "Next", ",", "we", "examine", "the", "possible", "similarity", "estimates", ".", "Some", "of", "them", "guarantee", "that", "will", "find", "the", "best", "match", "-LRB-", "they", "lower", "bound", "the", "original", "distance", "or", "upper", "bound", "the", "original", "similarity", "-RRB-", ",", "while", "other", "estimates", "provide", "faster", "but", "approximate", "results", ".", "5.1", "Similarity", "Estimates", "Here", "we", "will", "show", "how", "to", "compute", "estimates", "of", "the", "LCSS", "similarity", ",", "based", "on", "the", "geometric", "properties", "of", "the", "trajectory", "MBRs", "and", "their", "intersection", ".", "An", "upper", "bound", "estimate", "is", "provided", "by", "the", "length", "of", "the", "MBR", "intersection", "and", "an", "approximate", "estimate", "is", "given", "as", "a", "parameter", "of", "the", "intersecting", "volume", ".", "To", "formalize", "these", "notions", ",", "first", "we", "present", "several", "operators", ".", "Then", "we", "will", "use", "these", "operators", "to", "derive", "the", "estimates", ".", "5.1.1", "Estimates", "for", "the", "LCSS", "Each", "trajectory", "T", "can", "be", "decomposed", "into", "a", "number", "of", "MBRs", ".", "The", "i", "th", "3D", "MBR", "of", "T", "consists", "of", "six", "numbers", ":", "M", "T", ",", "i", "=", "-LCB-", "t", "l", ",", "t", "h", ",", "x", "l", ",", "x", "h", ",", "y", "l", ",", "y", "h", "-RCB-", ".", "Now", ",", "let", "us", "define", "the", "operators", "-LRB-", "c", "-RRB-", "t", ",", "-LRB-", "p", "-RRB-", "t", "and", "V", "between", "two", "3D", "MBRs", "M", "P", ",", "i", "and", "M", "R", ",", "j", ",", "belonging", "to", "objects", "P", "and", "R", ",", "respectively", ":", "1", ".", "-LRB-", "c", "-RRB-", "t", "-LRB-", "M", "P", ",", "i", ",", "M", "R", ",", "j", "-RRB-", "=", "|", "|", "Intersection", "|", "|", "t", ",", "where", "M", "R", ",", "j", ".", "x", "l", "M", "P", ",", "i", ".", "x", "l", "M", "R", ",", "j", ".", "x", "h", "and", "M", "R", ",", "j", ".", "x", "l", "M", "P", ",", "i", ".", "x", "h", "M", "R", ",", "j", ".", "x", "h", "and", "M", "R", ",", "j", ".", "y", "l", "M", "P", ",", "i", ".", "y", "l", "M", "R", ",", "j", ".", "y", "h", "and", "M", "R", ",", "j", ".", "y", "l", "M", "P", ",", "i", ".", "y", "h", "M", "R", ",", "j", ".", "y", "h", "or", "similarly", "by", "rotating", "M", "R", ",", "j", "M", "P", ",", "i", "Therefore", ",", "this", "operator", "computes", "the", "time", "intersection", "of", "two", "MBR", "when", "one", "fully", "contains", "the", "other", "in", "the", "x", ",", "y", "dimensions", ".", "2", ".", "-LRB-", "p", "-RRB-", "t", "-LRB-", "M", "P", ",", "i", ",", "M", "R", ",", "j", "-RRB-", "=", "|", "|", "Intersection", "|", "|", "t", ",", "otherwise", "3", ".", "V", "-LRB-", "M", "P", ",", "i", ",", "M", "R", ",", "j", "-RRB-", "=", "|", "|", "Intersection", "|", "|", "t", "|", "|", "Intersection", "|", "|", "x", "|", "|", "Intersection", "|", "|", "y", "We", "can", "use", "upper", "bound", "or", "approximate", "estimates", "for", "the", "similarity", ":", "Common", "Volume", "Intersection", "The", "Intersection", "of", "MBRs", "is", "fully", "contained", "within", "one", "MBR", "Intersection", "between", "two", "MBRs", "time", "y", "x", "Figure", "5", ":", "Top", "left", ":", "Intersection", "recorded", "in", "list", "L", "t", ",", "partial", ".", "Top", "right", ":", "Intersection", "recorded", "in", "list", "L", "t", ",", "complete", ".", "Bottom", "left", ":", "Percentage", "of", "Volume", "Intersection", "kept", "in", "L", "V", ".", "1", ".", "Upper", "bound", "estimates", "-LRB-", "L-similarity", "estimate", "-RRB-", ".", "Such", "estimates", "are", "computed", "using", "the", "following", "data-structures", ":", "The", "list", "L", "t", ",", "complete", ",", "an", "element", "L", "-LRB-", "P", "-RRB-", "of", "which", "is", "defined", "as", ":", "L", "-LRB-", "P", "-RRB-", "=", "m", "n", "M", "Q", ",", "m", "-LRB-", "c", "-RRB-", "t", "M", "P", ",", "n", "where", "Q", "is", "a", "query", "and", "P", "is", "a", "trajectory", "in", "the", "index", ".", "So", "the", "list", "stores", "for", "each", "trajectory", "the", "total", "time", "that", "its", "MBRs", "intersected", "with", "the", "query", "'s", "MBRs", ".", "We", "record", "into", "this", "list", "only", "the", "intersections", ",", "where", "a", "query", "MBR", "is", "fully", "contained", "in", "all", "spatial", "dimensions", "by", "a", "trajectory", "MBR", "-LRB-", "or", "vice", "versa", "-", "it", "is", "equivalent", ".", "See", "figure", "5", ",", "top", "right", "-RRB-", ".", "The", "list", "L", "t", ",", "partial", ",", "an", "element", "L", "-LRB-", "P", "-RRB-", "of", "which", "is", "defined", "as", ":", "L", "-LRB-", "P", "-RRB-", "=", "m", "n", "M", "Q", ",", "m", "-LRB-", "p", "-RRB-", "t", "M", "P", ",", "n", "This", "list", "records", "for", "each", "sequence", "the", "total", "intersection", "in", "time", "for", "those", "query", "MBRs", "that", "are", "not", "fully", "contained", "within", "the", "x", ",", "y", "dimensions", "by", "the", "trajectory", "MBRs", "-LRB-", "or", "vice", "versa", ".", "Figure", "5", ",", "top", "left", "-RRB-", ".", "Regarding", "a", "query", "Q", ",", "for", "any", "trajectory", "P", "the", "sum", "of", "L", "t", ",", "complete", "-LRB-", "P", "-RRB-", "+", "L", "t", ",", "partial", "-LRB-", "P", "-RRB-", "will", "provide", "an", "upper", "bound", "on", "the", "similarity", "of", "P", "and", "Q", ".", "The", "reason", "for", "the", "distinction", "of", "the", "L-similarity", "estimate", "in", "two", "separate", "lists", "derives", "from", "the", "fact", "that", "the", "estimates", "stored", "in", "list", "L", "t", ",", "partial", "can", "significantly", "overestimate", "the", "LCSS", "similarity", ".", "If", "one", "wishes", "to", "relax", "the", "accuracy", ",", "in", "favor", "of", "enhanced", "performance", ",", "it", "is", "instructive", "to", "give", "a", "weight", "0", "<", "w", "p", "<", "1", "to", "all", "estimates", "in", "list", "L", "t", ",", "partial", ".", "Even", "though", "now", "we", "may", "miss", "the", "best", "match", "to", "our", "query", ",", "we", "are", "going", "to", "find", "a", "close", "match", "in", "less", "time", ".", "This", "weighted", "approach", "is", "used", "when", "we", "are", "seeking", "for", "approximate", ",", "but", "very", "good", "quality", "answers", ",", "however", "it", "will", "not", "be", "explained", "further", "due", "to", "space", "limitations", ".", "2", ".", "Approximate", "estimates", "-LRB-", "V-similarity", "estimate", "-RRB-", ".", "This", "second", "estimate", "is", "based", "on", "the", "intersecting", "volume", "of", "the", "MBRs", ".", "This", "type", "of", "estimates", "are", "stored", "in", "list", "L", "V", ":", "Any", "element", "L", "V", "-LRB-", "P", "-RRB-", "of", "list", "L", "V", "records", "similarity", "estimates", "between", "trajectory", "P", "and", "query", "Q", ",", "based", "on", "the", "total", "volume", "intersection", "between", "the", "MBRs", "of", "P", "and", "Q.", "L", "-LRB-", "P", "-RRB-", "=", "1", "length", "-LRB-", "P", "-RRB-", "m", "n", "M", "Q", ",", "m", "V", "M", "P", ",", "n", "|", "|", "M", "Q", ",", "m", "|", "|", "V", "|", "|", "M", "Q", ",", "m", "|", "|", "t", "220", "where", "|", "|", "M", "|", "|", "V", "denotes", "the", "volume", "of", "MBR", "M", "and", "|", "|", "M", "|", "|", "t", "its", "length", "on", "the", "time", "axis", ".", "The", "L-similarity", "overestimates", "the", "LCSS", ",", "between", "two", "sequences", "A", "and", "B", "and", "so", "it", "can", "be", "deployed", "for", "the", "design", "of", "an", "index", "structure", ".", "Lemma", "2", ".", "The", "use", "of", "the", "L-similarity", "estimate", "upper", "bounds", "the", "LCSS", ",", "similarity", "between", "two", "sequences", "A", "and", "B", "and", "therefore", "does", "not", "introduce", "any", "false", "dismissals", ".", "The", "V-similarity", "estimate", "can", "be", "used", "for", "approximate", "query", "answering", ".", "Even", "though", "it", "does", "not", "guarantee", "the", "absence", "of", "false", "dismissals", ",", "the", "results", "will", "be", "close", "to", "the", "optimal", "ones", "with", "high", "probability", ".", "Also", ",", "because", "this", "estimate", "provides", "a", "tighter", "approximation", "to", "the", "original", "distance", ",", "we", "expect", "faster", "response", "time", ".", "Indeed", ",", "as", "we", "show", "in", "the", "experimental", "section", ",", "the", "index", "performance", "is", "boosted", ",", "while", "the", "error", "in", "similarity", "is", "frequently", "less", "then", "5", "%", ".", "5.2", "Estimates", "for", "the", "DTW", "When", "the", "distance", "function", "used", "is", "the", "Time", "Warping", ",", "using", "the", "index", "we", "obtain", "a", "lower", "bound", "of", "the", "actual", "distance", ".", "In", "this", "case", "we", "have", "the", "inverse", "situation", "from", "the", "LCSS", ";", "instead", "of", "calculating", "the", "degree", "of", "overlap", "between", "the", "MBRs", "of", "the", "indexed", "trajectories", "and", "the", "query", ",", "we", "evaluate", "the", "distance", "between", "the", "MBRs", ".", "The", "overall", "distance", "between", "the", "MBRs", "underestimates", "the", "true", "distance", "of", "the", "trajectories", ",", "and", "no", "false", "dismissals", "are", "introduced", ".", "Using", "the", "MBRs", "we", "can", "also", "calculate", "upper", "bound", "estimates", "on", "the", "distance", ",", "which", "had", "n't", "been", "exploited", "in", "previous", "work", "-LSB-", "10", ",", "22", "-RSB-", ".", "Sequences", "with", "lower", "bound", "larger", "than", "the", "smallest", "upper", "bound", "can", "be", "pruned", ".", "With", "this", "additional", "prefiltering", "step", "we", "can", "gain", "on", "average", "an", "additional", "10-15", "%", "speedup", "in", "the", "total", "execution", "time", ".", "Due", "to", "space", "limitations", "only", "a", "visual", "representation", "of", "this", "approach", "is", "provided", "in", "figure", "6", ".", "Given", "a", "multidimensional", "time-series", "-LRB-", "or", "an", "MBE", "-RRB-", "our", "objective", "is", "to", "minimize", "the", "volume", "of", "the", "sequence", "using", "k", "MBRs", ".", "Clearly", ",", "the", "best", "approximation", "of", "a", "trajectory", "-LRB-", "or", "an", "MBE", "-RRB-", "using", "a", "fixed", "number", "of", "MBRs", "is", "the", "set", "of", "MBRs", "that", "completely", "contain", "the", "sequence", "and", "minimize", "the", "volume", "consumption", ".", "We", "can", "show", "the", "following", "lemma", ":", "Lemma", "3", ".", "Minimizing", "the", "volume", "of", "the", "Minimum", "Bounding", "Envelope", ",", "minimizes", "the", "expected", "similarity", "approximation", "error", ".", "Three", "different", "approaches", "are", "considered", ":", "1", ".", "k-Optimal", ".", "We", "can", "discover", "the", "k", "MBRs", "of", "a", "sequence", "that", "take", "up", "the", "least", "volume", ",", "using", "a", "dynamic", "programming", "algorithm", "that", "requires", "O", "-LRB-", "n", "2", "k", "-RRB-", "time", "-LRB-", "-LSB-", "8", "-RSB-", "-RRB-", ",", "where", "n", "is", "the", "length", "of", "the", "given", "sequence", ".", "Since", "this", "approach", "is", "not", "reasonable", "for", "large", "databases", ",", "we", "are", "motivated", "to", "consider", "approximate", "and", "faster", "solutions", ".", "2", ".", "Equi-Split", ".", "This", "technique", "produces", "MBRs", "of", "fixed", "length", "l", ".", "It", "is", "a", "simple", "approach", "with", "cost", "linear", "in", "the", "length", "of", "a", "sequence", ".", "However", ",", "in", "pathological", "cases", "increasing", "the", "number", "of", "splits", "can", "result", "to", "larger", "space", "utilization", ",", "therefore", "the", "choice", "of", "the", "MBR", "length", "becomes", "a", "critical", "parameter", "-LRB-", "see", "figure", "7", "for", "an", "example", "-RRB-", ".", "A.", "Query", "Q", "B.", "Query", "Envelope", "C.", "Envelope", "Splitting", "D.", "Sequence", "MBRs", "E.", "MINDIST", "-LRB-", "Q", ",", "R", "-RRB-", "F.", "MAXDIST", "-LRB-", "Q", ",", "R", "-RRB-", "Figure", "6", ":", "A", "visual", "intuition", "of", "the", "DTW", "indexing", "technique", "-LRB-", "the", "one-dimensional", "case", "is", "shown", "for", "clarity", "-RRB-", ".", "The", "original", "query", "-LRB-", "A", "-RRB-", "is", "enclosed", "in", "a", "minimum-bounding", "envelope", "-LRB-", "B", "-RRB-", "like", "the", "LCSS", "approach", ".", "The", "MBE", "is", "split", "into", "its", "MBRs", "using", "equi", "or", "greedy", "split", "-LRB-", "fig", ".", "-LRB-", "C", "-RRB-", "-RRB-", ".", "The", "candidate", "sequences", "in", "the", "database", "have", "their", "MBRs", "stored", "in", "the", "index", "-LRB-", "D", "-RRB-", ".", "Between", "the", "query", "and", "any", "sequence", "in", "the", "index", ",", "the", "minimum", "and", "maximum", "distance", "can", "be", "quickly", "determined", "by", "examining", "the", "distance", "between", "the", "MBRs", "and", "the", "query", "'s", "bounding", "envelope", ",", "as", "represented", "by", "the", "arrows", "in", "-LRB-", "E", "-RRB-", "and", "-LRB-", "F", "-RRB-", ".", "3", ".", "Greedy-Split", ".", "The", "Greedy", "approach", "is", "our", "implementation", "choice", "in", "this", "paper", ".", "Initially", "we", "assign", "an", "MBR", "to", "each", "of", "the", "n", "sequence", "points", "and", "at", "each", "subsequent", "step", "we", "merge", "the", "consecutive", "MBRs", "that", "will", "introduce", "the", "least", "volume", "consumption", ".", "The", "algorithm", "has", "a", "running", "time", "of", "O", "-LRB-", "nlogn", "-RRB-", ".", "We", "can", "see", "a", "sketch", "of", "the", "method", "in", "fig.", "8", ".", "Al-ternatively", ",", "instead", "of", "assigning", "the", "same", "number", "of", "splits", "to", "all", "objects", ",", "according", "to", "our", "space", "requirements", "we", "can", "assign", "a", "total", "of", "K", "splits", "to", "be", "distributed", "among", "all", "objects", ".", "This", "method", "can", "provide", "better", "results", ",", "since", "we", "can", "assign", "more", "splits", "for", "the", "objects", "that", "will", "yield", "more", "space", "gain", ".", "Also", ",", "this", "approach", "is", "more", "appropriate", "when", "one", "is", "dealing", "with", "sequences", "of", "different", "lengths", ".", "The", "complexity", "of", "this", "approach", "is", "O", "-LRB-", "K", "+", "N", "logN", "-RRB-", ",", "for", "a", "total", "of", "N", "objects", "-LRB-", "-LSB-", "8", "-RSB-", "-RRB-", ".", "Input", ":", "A", "spatiotemporal", "trajectory", "T", "and", "an", "integer", "k", "denoting", "the", "number", "of", "final", "MBRs", ".", "For", "0", "i", "<", "n", "compute", "the", "volume", "of", "the", "MBR", "produced", "by", "merging", "T", "i", "and", "T", "i", "+1", ".", "The", "results", "are", "stored", "in", "a", "priority", "queue", ".", "While", "#", "M", "BRs", "<", "k", ":", "Using", "the", "priority", "queue", ",", "merge", "the", "pair", "of", "consecutive", "MBRs", "that", "yield", "the", "smallest", "increase", "in", "volume", ".", "Delete", "the", "two", "merged", "MBRs", "and", "insert", "the", "new", "one", "in", "the", "priority", "queue", ".", "Output", ":", "A", "set", "of", "MBRs", "that", "cover", "T", ".", "Figure", "8", ":", "The", "greedy", "algorithm", "for", "producing", "k", "MBRs", "that", "cover", "the", "trajectory", "T", ".", "After", "a", "trajectory", "is", "segmented", "the", "MBRs", "can", "be", "stored", "in", "a", "3D-Rtree", ".", "Using", "the", "greedy", "split", "each", "additional", "split", "will", "always", "lead", "to", "smaller", "-LRB-", "or", "equal", "-RRB-", "volume", "-LRB-", "figure", "7", "-RRB-", ".", "A", "similar", "greedy", "split", "algorithm", "is", "also", "used", "for", "splitting", "the", "MBE", "of", "the", "query", "trajectory", "Q.", "221", "-LRB-", "a", "-RRB-", "Equi-Split", ",", "8", "MBRs", ",", "Gain", "=", "5.992", "-LRB-", "b", "-RRB-", "Equi-Split", ",", "9", "MBRs", ",", "Gain", "=", "5.004", "-LRB-", "c", "-RRB-", "Greedy-Split", ",", "8MBRs", ",", "Gain", "=", "9.157", "-LRB-", "d", "-RRB-", "Greedy-Split", ",", "9MBRs", ",", "Gain", "=", "10.595", "Figure", "7", ":", "-LRB-", "a", "-RRB-", ":", "8", "MBRs", "produced", "using", "equi-Split", ".", "The", "volume", "gain", "over", "having", "1", "MBR", "is", "5.992", ".", "-LRB-", "b", "-RRB-", ":", "Segmenting", "into", "9", "MBRs", "decreases", "the", "volume", "gain", "to", "5.004", ".", "So", ",", "disk", "space", "is", "wasted", "without", "providing", "a", "better", "approximation", "of", "the", "trajectory", ".", "-LRB-", "c", "-RRB-", ":", "8", "MBRs", "using", "greedy-Split", ".", "The", "volume", "gain", "over", "having", "1", "MBR", "is", "9.157", ".", "-LRB-", "d", "-RRB-", ":", "Every", "additional", "split", "will", "yield", "better", "space", "utilization", ".", "Segmentation", "into", "9", "MBRs", "increases", "volume", "gain", "to", "10.595", ".", "The", "application", "of", "the", "Minimum", "Bounding", "Envelope", "only", "on", "the", "query", "suggests", "that", "user", "queries", "are", "not", "confined", "to", "a", "predefined", "and", "rigid", "matching", "window", ".", "The", "user", "can", "pose", "queries", "of", "variable", "warping", "in", "time", ".", "In", "some", "datasets", ",", "there", "is", "no", "need", "to", "perform", "warping", ",", "since", "the", "Euclidean", "distance", "performs", "acceptably", "-LSB-", "11", "-RSB-", ".", "In", "other", "datasets", ",", "by", "using", "the", "Euclidean", "distance", "we", "can", "find", "quickly", "some", "very", "close", "matches", ",", "while", "using", "warping", "we", "can", "distinguish", "more", "flexible", "similarities", ".", "So", ",", "we", "can", "start", "by", "using", "a", "query", "with", "=", "0", "-LRB-", "no", "bounding", "envelope", "-RRB-", ",", "and", "increase", "it", "progressively", "in", "order", "to", "find", "more", "flexible", "matches", "-LRB-", "figure", "9", "-RRB-", ".", "Therefore", ",", "our", "framework", "offers", "the", "unique", "advantage", "that", "multiple", "distance", "functions", "can", "be", "supported", "in", "a", "single", "index", ".", "The", "index", "sequences", "have", "been", "segmented", "without", "any", "envelope", "applied", "on", "them", "and", "never", "have", "to", "be", "adjusted", "again", ".", "For", "different", "measures", ",", "the", "aspects", "that", "change", "are", ",", "the", "creation", "of", "the", "query", "envelope", "and", "the", "type", "of", "operation", "between", "MBRs", ".", "In", "order", "to", "pose", "queries", "based", "on", "Euclidean", "distance", "we", "follow", "the", "steps", ":", "The", "query", "is", "segmented", "with", "no", "envelope", "applied", "on", "it", ".", "The", "minDist", "and", "maxDist", "estimators", "for", "the", "Euclidean", "distance", "are", "derived", "by", "calculating", "the", "distance", "between", "the", "query", "and", "index", "MBRs", ",", "just", "like", "in", "the", "DTW", "case", ".", "0", "50", "100", "150", "200", "250", "300", "350", "200", "150", "100", "50", "0", "50", "100", "Index", "Trajectory", "Query", "Figure", "9", ":", "By", "incorporating", "the", "bounding", "envelope", "on", "the", "query", ",", "our", "approach", "can", "support", "Euclidean", "distance", ",", "constrained", "or", "full", "warping", ".", "This", "is", "accomplished", "by", "progressively", "expanding", "the", "MBE", ".", "In", "this", "section", "we", "compare", "the", "effectiveness", "of", "various", "splitting", "methods", "and", "we", "demonstrate", "the", "superiority", "of", "our", "lower", "bounding", "technique", "-LRB-", "for", "the", "DTW", "-RRB-", "compared", "to", "other", "proposed", "lower", "bounds", ".", "We", "describe", "the", "datasets", "we", "used", "and", "present", "comprehensive", "experiments", "regarding", "the", "index", "performance", "for", "the", "two", "similarity", "estimates", ".", "In", "addition", ",", "we", "evaluate", "the", "accuracy", "of", "the", "approximate", "estimates", ".", "All", "experiments", "conducted", "were", "run", "on", "an", "AMD", "Athlon", "1.4", "Ghz", "with", "1", "GB", "RAM", "and", "60", "GB", "of", "hard", "drive", ".", "1", ".", "ASL", "2", ".", "Buoy", "Sensor", "3", ".", "Video", "Track", "1", "4", ".", "Flutter", "5", ".", "Marine", "Mammals", "6", ".", "Word", "Tracking", "7", ".", "Random", "Walk", "8", ".", "Video", "Track", "2", "Figure", "10", ":", "Datasets", "used", "for", "testing", "the", "efficiency", "of", "various", "MBR", "generation", "methods", ".", "8.1", "MBR", "Generation", "Comparison", "The", "purpose", "of", "our", "first", "experiment", "is", "to", "test", "the", "space", "consumption", "of", "the", "presented", "MBR", "generation", "methods", ".", "We", "have", "used", "eight", "datasets", "with", "diverse", "characteristics", ",", "in", "order", "to", "provide", "objective", "results", ".", "We", "evaluate", "the", "space", "consumption", ",", "by", "calculating", "the", "``", "Average", "Volume", "Gain", "''", "-LRB-", "AvgV", "olGain", "-RRB-", ",", "which", "is", "defined", "as", "the", "percentage", "of", "volume", "when", "using", "i", "MBRs", ",", "over", "the", "volume", "when", "using", "only", "1", "MBR", ",", "normalized", "by", "the", "maximum", "gain", "provided", "over", "all", "methods", "-LRB-", "for", "various", "number", "of", "splits", "-RRB-", ".", "Random", "Equi", "Greedy", "1", "2", "3", "4", "5", "6", "7", "8", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Dataset", "Average", "Volume", "Gain", "Figure", "11", ":", "The", "greedy-split", "MBR", "generation", "algorithm", "presents", "the", "highest", "volume", "gain", ",", "by", "producing", "MBRs", "that", "consume", "consistently", "less", "space", ",", "over", "a", "number", "of", "datasets", "and", "for", "diverse", "number", "of", "generated", "MBRs", "222", "DATASET", "EQ", "s20", ",", "d5", "GR", "s20", ",", "d5", "EQ", "s40", ",", "d5", "GR", "s40", ",", "d5", "EQ", "s20", ",", "d5", "GR", "s20", ",", "d5", "EQ", "s40", ",", "d5", "GR", "s40", ",", "d5", "LB-Kim", "LB-Yi", "LCSS", "DTW", "ASL", "0.732", "0.799", "0.825", "0.856", "0.449", "0.632", "0.588", "0.756", "0.1873", "0.2530", "VT1", "0.260", "0.339", "0.453", "0.511", "0.087", "0.136", "0.230", "0.266", "0.0838", "0.1692", "Marine", "0.719", "0.750", "0.804", "0.814", "0.226", "0.506", "0.308", "0.608", "0.2587", "0.4251", "Word", "0.627", "0.666", "0.761", "0.774", "0.311", "0.361", "0.466", "0.499", "0.0316", "0.2116", "Random", "0.596", "0.652", "0.701", "0.741", "0.322", "0.384", "0.440", "0.491", "0.1389", "0.2067", "VT2", "0.341", "0.431", "0.498", "0.569", "0.210", "0.296", "0.363", "0.437", "0.2100", "0.5321", "Table", "1", ":", "Some", "indicative", "results", "of", "how", "close", "our", "similarity", "estimates", "are", "to", "the", "exact", "value", "-LRB-", "for", "20", "and", "40", "splits", ",", "&", "=", "5", "%", "-RRB-", ".", "For", "all", "datasets", "the", "greedy-split", "approach", "provides", "the", "closest", "similarity", "estimates", "to", "the", "actual", "similarity", ".", "AvgV", "olGain", "is", "a", "number", "between", "0", "and", "1", ",", "where", "higher", "numbers", "indicate", "increased", "volume", "gain", "-LRB-", "or", "less", "space", "consumption", "-RRB-", "against", "the", "competitive", "methods", ".", "In", "figure", "11", "we", "observe", "the", "average", "volume", "gain", "for", "the", "eight", "datasets", ".", "The", "greedy-split", "algorithm", "produced", "MBRs", "that", "took", "at", "least", "half", "the", "space", ",", "compared", "to", "equi-split", ".", "The", "equi-split", "offers", "slightly", "better", "results", ",", "than", "producing", "MBRs", "at", "random", "positions", ".", "The", "volume", "gain", "of", "greedy-split", "was", "less", ",", "only", "for", "the", "buoy", "sensor", ",", "which", "is", "a", "very", "busy", "and", "unstruc-tured", "signal", ".", "This", "experiment", "validates", "that", "our", "choice", "to", "use", "the", "greedy-split", "method", "was", "correct", ".", "Since", ",", "the", "indexed", "MBR", "trajectories", "will", "take", "less", "space", ",", "we", "also", "expect", "tighter", "similarity", "estimates", ",", "therefore", "fewer", "false", "positives", ".", "8.2", "Tightness", "of", "Bounds", "In", "table", "1", "we", "show", "how", "close", "our", "similarity", "estimates", "are", "-LRB-", "for", "LCSS", "and", "DTW", "-RRB-", "to", "the", "actual", "similarity", "between", "sequences", ".", "Numbers", "closer", "to", "1", ",", "indicate", "higher", "similarity", "to", "the", "value", "returned", "by", "the", "exact", "algorithm", ".", "To", "our", "best", "knowledge", ",", "this", "paper", "introduces", "the", "first", "upper", "bounding", "technique", "for", "the", "LCSS", ".", "For", "DTW", "there", "have", "been", "a", "few", "approaches", "to", "provide", "a", "lower", "bound", "of", "the", "distance", ";", "we", "refer", "to", "them", "as", "LB-Kim", "-LSB-", "12", "-RSB-", "and", "LB-Yi", "-LSB-", "21", "-RSB-", ".", "These", "lower", "bounds", "originally", "referred", "to", "1D", "time-series", ";", "here", "we", "extend", "them", "in", "more", "dimensions", ",", "in", "order", "to", "provide", "unambiguous", "results", "about", "the", "tightness", "of", "our", "estimates", ".", "Note", "that", "the", "previously", "proposed", "methods", "operate", "on", "the", "raw", "data", ".", "Our", "approach", "can", "still", "provide", "tighter", "estimates", ",", "while", "operating", "only", "on", "the", "trajectory", "MBRs", ".", "Using", "the", "raw", "data", "our", "experiments", "indicate", "that", "we", "are", "consistently", "2-3", "times", "better", "than", "the", "best", "alternative", "approach", ".", "However", ",", "since", "our", "index", "operates", "on", "the", "segmented", "time-series", "we", "only", "report", "the", "results", "on", "the", "MBRs", ".", "The", "greedy-split", "method", "approximates", "the", "similarity", "consistently", "tighter", "than", "the", "equi-split", ".", "In", "table", "1", "only", "the", "results", "for", "=", "5", "%", "of", "the", "query", "'s", "length", "are", "reported", ",", "but", "similar", "results", "are", "observed", "for", "increasing", "values", "of", ".", "It", "is", "evident", "from", "the", "table", "that", "using", "our", "method", "we", "can", "provide", "very", "tight", "lower", "bounds", "of", "the", "actual", "distance", ".", "8.3", "Matching", "Quality", "We", "demonstrate", "the", "usefulness", "of", "our", "similarity", "measures", "in", "a", "real", "world", "dataset", ".", "The", "Library", "of", "Congress", "maintains", "thousands", "of", "handwritten", "manuscripts", ",", "and", "there", "is", "an", "increasing", "interest", "to", "perform", "automatic", "transcribing", "of", "these", "documents", ".", "Given", "the", "multiple", "variations", "of", "each", "word", "and", "due", "to", "the", "manuscript", "degradations", ",", "this", "is", "a", "particularly", "challenging", "task", "and", "the", "need", "for", "a", "flexible", "and", "robust", "distance", "function", "is", "essential", ".", "We", "have", "applied", "the", "LCSS", "and", "DTW", "measures", "on", "word", "Figure", "12", ":", "Results", "for", "a", "real", "world", "application", ".", "3NN", "reported", "for", "each", "query", ",", "using", "Dynamic", "Time", "Warping", "to", "match", "features", "extracted", "from", "scanned", "manuscript", "words", ".", "images", "extracted", "from", "a", "10", "page", "scanned", "manuscript", ".", "4-dimensional", "time-series", "features", "have", "originally", "been", "extracted", "for", "each", "word", ".", "Here", "we", "maintain", "the", "2", "least", "correlated", "time-series", "features", "and", "treat", "each", "word", "as", "a", "trajectory", ".", "In", "figure", "12", "we", "observe", "the", "3-KNN", "results", "using", "DT", "W", "for", "various", "word", "queries", ".", "The", "results", "are", "very", "good", ",", "showing", "high", "accuracy", "even", "for", "similarly", "looking", "words", ".", "Analogous", "results", "have", "been", "obtained", "using", "the", "LCSS", ".", "8.4", "Index", "performance", "We", "tested", "the", "performance", "of", "our", "index", "using", "the", "upper", "bound", "and", "the", "approximate", "similarity", "estimates", ",", "and", "compared", "it", "to", "the", "sequential", "scan", ".", "Because", "of", "limited", "space", ",", "the", "majority", "of", "the", "figures", "record", "the", "index", "performance", "using", "the", "LCSS", "as", "a", "similarity", "measure", ".", "The", "performance", "measure", "used", "is", "the", "total", "computation", "time", "required", "for", "the", "index", "and", "the", "sequential", "scan", "to", "return", "the", "nearest", "neighbor", "for", "the", "same", "one", "hundred", "queries", ".", "For", "the", "linear", "scan", ",", "one", "can", "also", "perform", "early", "termination", "of", "the", "LCSS", "-LRB-", "or", "the", "DTW", "-RRB-", "computation", ".", "Therefore", ",", "the", "LCSS", "execution", "can", "be", "stopped", "at", "the", "point", "where", "one", "is", "sure", "that", "the", "current", "sequence", "will", "not", "be", "more", "similar", "to", "the", "query", "than", "the", "bestSoFar", ".", "We", "call", "this", "optimistic", "linear", "scan", ".", "Pessimistic", "linear", "scan", ",", "is", "the", "one", "than", "does", "not", "reuse", "the", "previously", "computed", "similarity", "values", "and", "can", "be", "an", "accurate", "time", "estimate", ",", "when", "the", "query", "match", "resides", "at", "the", "end", "of", "the", "dataset", ".", "We", "demonstrate", "the", "index", "performance", "relative", "to", "223", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Dataset", "size", "Time", "Ratio", "Compared", "to", "Linear", "Scan", "=", "5", "%", "Optimistic", "Pessimistic", "Linear", "Scan", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Dataset", "size", "Time", "Ratio", "Compared", "to", "Linear", "Scan", "=", "10", "%", "Optimistic", "Pessimistic", "Linear", "Scan", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Dataset", "size", "Time", "Ratio", "Compared", "to", "Linear", "Scan", "=", "20", "%", "Optimistic", "Pessimistic", "Linear", "Scan", "Figure", "13", ":", "Index", "performance", ".", "For", "small", "warping", "windows", "the", "index", "can", "be", "up", "to", "5", "times", "faster", "than", "sequential", "scan", "without", "compromising", "accuracy", ".", "The", "gray", "regions", "indicate", "the", "range", "of", "potential", "speedup", ".", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Dataset", "size", "Time", "Ratio", "Compared", "to", "Linear", "Scan", "=", "5", "%", "Optimistic", "Pessimistic", "Linear", "Scan", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Dataset", "size", "Time", "Ratio", "Compared", "to", "Linear", "Scan", "=", "10", "%", "Optimistic", "Pessimistic", "Linear", "Scan", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Dataset", "size", "Time", "Ratio", "Compared", "to", "Linear", "Scan", "=", "20", "%", "Optimistic", "Pessimistic", "Linear", "Scan", "Figure", "14", ":", "Using", "the", "approximate", "similarity", "estimates", "the", "response", "time", "can", "be", "more", "than", "7", "times", "faster", ".", "both", "types", "of", "linear", "scan", ",", "because", "this", "provides", "a", "realistic", "upper", "or", "lower", "bound", "on", "the", "index", "speedup", ".", "The", "dataset", "we", "used", "contained", "2", "10", "...", "2", "16", "trajectories", ".", "Taking", "under", "consideration", "that", "the", "average", "trajectory", "size", "is", "around", "500", "points", ",", "this", "resulted", "to", "a", "database", "with", "more", "than", "16", "million", "2D", "points", ".", "The", "trajectories", "have", "been", "normalized", "by", "subtracting", "the", "average", "value", "in", "each", "direction", "of", "movement", ".", "All", "data", "and", "queries", "can", "be", "obtained", "by", "emailing", "the", "first", "author", ".", "Mixed", "two-dimensional", "Time-series", "-LRB-", "2D-Mixed", "-RRB-", ".", "This", "second", "dataset", "consists", "of", "time-series", "of", "variable", "length", ",", "ranging", "from", "less", "than", "100", "points", "to", "over", "1000", "points", ".", "The", "dataset", "is", "comprised", "by", "the", "aggregation", "of", "the", "eight", "datasets", "we", "used", "for", "comparing", "the", "MBR", "generation", "methods", ".", "Since", "the", "total", "number", "of", "these", "trajectories", "is", "less", "than", "200", ",", "we", "have", "used", "them", "as", "seeds", "to", "generate", "increasingly", "larger", "datasets", ".", "We", "create", "multiple", "copies", "of", "the", "original", "trajectories", "by", "incorporating", "the", "following", "features", ":", "Addition", "of", "small", "variations", "in", "the", "original", "trajectory", "pattern", "Addition", "of", "random", "compression", "and", "decompression", "in", "time", "The", "small", "variations", "in", "the", "pattern", "were", "added", "by", "interpolating", "peaks", "of", "Gaussian", "noise", "using", "splines", ".", "In", "this", "manner", "we", "are", "able", "to", "create", "the", "smooth", "variations", "that", "existed", "in", "the", "original", "datasets", ".", "8.4.1", "Results", "on", "the", "upper", "bound", "Estimates", "The", "index", "performance", "is", "influenced", "be", "three", "parameters", ":", "the", "size", "of", "the", "dataset", ",", "the", "warping", "length", "-LRB-", "as", "a", "percentage", "of", "the", "query", "'s", "length", "-RRB-", "and", "the", "number", "of", "splits", ".", "For", "all", "experiments", "the", "parameter", "-LRB-", "matching", "in", "space", "-RRB-", "was", "set", "to", "std/2", "of", "the", "query", ",", "which", "provided", "good", "and", "intuitive", "results", ".", "Dataset", "size", ":", "In", "figure", "13", "we", "can", "observe", "how", "the", "performance", "of", "the", "index", "scales", "with", "the", "database", "size", "-LRB-", "for", "various", "lengths", "of", "matching", "window", "-RRB-", ".", "We", "record", "the", "index", "response", "time", "relative", "to", "both", "optimistic", "and", "pessimistic", "linear", "scan", ".", "Therefore", ",", "the", "gray", "region", "in", "the", "figures", "indicates", "the", "range", "of", "possible", "speedup", ".", "It", "is", "evident", "that", "the", "early", "termination", "feature", "of", "the", "sequential", "scan", "can", "significantly", "assist", "its", "performance", ".", "The", "usefulness", "of", "an", "index", "becomes", "obvious", "for", "large", "dataset", "sizes", ",", "where", "the", "quadratic", "computational", "cost", "dominates", "the", "I/O", "cost", "of", "the", "index", ".", "For", "these", "cases", "our", "approach", "can", "be", "up", "to", "5", "times", "faster", "than", "linear", "scan", ".", "In", "figure", "15", "we", "also", "demonstrate", "the", "pruning", "power", "of", "the", "index", ",", "as", "a", "true", "indicator", "-LRB-", "not", "biased", "by", "any", "implementation", "details", "-RRB-", "about", "the", "efficacy", "of", "our", "index", ".", "Using", "the", "index", "we", "perform", "2-5", "times", "fewer", "LCSS", "computations", "than", "the", "linear", "scan", ".", "We", "observe", "similar", "speedup", "when", "using", "the", "DTW", "as", "the", "distance", "function", "in", "figure", "17", ".", "Parameter", ":", "The", "index", "performance", "is", "better", "for", "smaller", "warping", "lengths", "-LRB-", "parameter", "-RRB-", ".", "The", "experiments", "record", "the", "performance", "for", "warping", "from", "5", "%", "to", "20", "%", "of", "the", "query", "'s", "length", ".", "Increasing", "values", "signify", "larger", "bounding", "envelopes", "around", "the", "query", ",", "therefore", "larger", "space", "of", "search", "and", "less", "accurate", "similarity", "estimates", ".", "The", "graphs", "suggest", "that", "an", "index", "can", "not", "not", "be", "useful", "under", "full", "warping", "-LRB-", "when", "the", "data", "are", "normalized", "-RRB-", ".", "Number", "of", "Splits", ":", "Although", "greater", "number", "of", "MBRs", "for", "each", "trajectory", "implies", "better", "volume", "utilization", ",", "nonetheless", "more", "MBRs", "also", "lead", "to", "increased", "I/O", "cost", ".", "When", "we", "are", "referring", "to", "x", "%", "splits", ",", "it", "means", "that", "we", "have", "assigned", "a", "total", "of", "100/x", "-LRB-", "n", "i", "=", "1", "-LRB-", "|", "|", "T", "i", "|", "|", "-RRB-", "-RRB-", "splits", ",", "for", "all", "sequences", "T", "i", ".", "In", "our", "figures", "we", "provide", "the", "5", "%", "splits", "scenario", "for", "the", "MBRs", ",", "which", "offers", "better", "performance", "than", "10", "%", "and", "20", "%", "splits", ",", "since", "for", "the", "last", "two", "cases", "the", "I/O", "cost", "negates", "the", "effect", "of", "the", "better", "query", "approximation", ".", "The", "index", "space", "requirements", "for", "5", "%", "splits", "is", "less", "than", "a", "quarter", "of", "the", "dataset", "size", ".", "8.4.2", "Results", "on", "the", "approximate", "Estimates", "Here", "we", "present", "the", "index", "performance", "when", "the", "volume", "intersections", "of", "the", "MBRs", "are", "used", "as", "estimates", "of", "the", "sim-224", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "1.6", "Dataset", "size", "Ratio", "of", "LCSS", "performed", "by", "the", "index", "Pruning", "Power", "compared", "to", "Linear", "Scan", "5", "%", "splits", "10", "%", "splits", "20", "%", "splits", "Linear", "Scan", "=", "5", "%", "=", "10", "%", "=", "20", "%", "Figure", "15", ":", "Each", "gray", "band", "indicates", "-LRB-", "for", "a", "certain", "warping", "window", "-RRB-", "the", "percentage", "of", "LCSS", "computations", "conducted", "by", "the", "index", "compared", "to", "linear", "scan", ".", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Dataset", "size", "Average", "similarity", "Error", "Similarity", "Error", ",", "5", "%", "splits", "=", "5", "%", "=", "10", "%", "=", "20", "%", "Figure", "16", ":", "Using", "the", "V-similarity", "estimate", ",", "we", "can", "retrieve", "answers", "faster", "with", "very", "high", "accuracy", ".", "The", "LCSS", "similarity", "is", "very", "close", "-LRB-", "2-10", "%", "-RRB-", "to", "the", "exact", "answer", "returned", "by", "the", "sequential", "scan", ".", "1024", "2048", "4096", "8192", "16384", "32768", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Dataset", "size", "Time", "Ratio", "Compared", "to", "Linear", "Scan", "=", "5", "%", "Optimistic", "Pessimistic", "Linear", "Scan", "Figure", "17", ":", "Index", "Performance", "using", "DTW", "as", "the", "distance", "measure", ".", "-LRB-", "=", "5", "%", "-RRB-", ".", "We", "can", "observe", "up", "to", "5", "times", "speedup", ".", "ilarity", "and", "the", "results", "are", "shown", "in", "figure", "14", ".", "We", "observe", "that", "using", "this", "approximate", "similarity", "estimate", ",", "our", "index", "performance", "is", "boosted", "up", ".", "The", "use", "of", "the", "V-similarity", "estimate", "leads", "to", "more", "tight", "approximations", "of", "the", "original", "similarity", "compared", "to", "the", "L-similarity", "estimate", ",", "however", "now", "we", "may", "miss", "finding", "the", "best", "match", ".", "Naturally", ",", "comes", "the", "question", "of", "the", "quality", "of", "the", "results", ".", "We", "capture", "this", "by", "calculating", "the", "absolute", "difference", "between", "the", "similarity", "of", "the", "best", "match", "returned", "by", "the", "index", ",", "and", "the", "best", "match", "found", "by", "the", "sequential", "scan", "for", "each", "query", ".", "Then", "we", "average", "the", "results", "over", "a", "number", "of", "queries", "|", "q", "|", ".", "Therefore", ",", "the", "Average", "Similarity", "Error", "-LRB-", "ASE", "-RRB-", "is", ":", "ASE", "=", "1", "|", "q", "|", "|", "q", "|", "i", "=", "1", "-LRB-", "|", "BestMatch", "index", "BestM", "atch", "exhaustive", "|", "-RRB-", "The", "results", "are", "shown", "in", "figure", "16", ".", "We", "can", "see", "that", "the", "similarity", "returned", "by", "the", "V-similarity", "estimate", "is", "approxi-mately", "within", "5", "%", "of", "the", "actual", "similarity", "-LRB-", "5", "%", "splits", "used", "-RRB-", ".", "Therefore", ",", "by", "providing", "two", "similarity", "estimates", "the", "user", "can", "decide", "for", "the", "trade-off", "between", "the", "expedited", "execution", "time", "and", "the", "quality", "of", "results", ".", "Since", "by", "using", "the", "latter", "estimator", "we", "can", "significantly", "increase", "the", "performance", "of", "the", "index", ",", "this", "is", "the", "approach", "we", "recommend", "for", "mining", "large", "datasets", ".", "In", "this", "paper", "we", "have", "presented", "an", "external", "memory", "indexing", "method", "for", "discovering", "similar", "multidimensional", "time-series", ".", "The", "unique", "advantage", "of", "our", "approach", "is", "that", "it", "can", "accommodate", "multiple", "distance", "measures", ".", "The", "method", "guarantees", "no", "false", "dismissals", "and", "depicts", "a", "significant", "execution", "speed", "up", "for", "the", "LCSS", "and", "DTW", "compared", "to", "sequential", "scan", ".", "We", "have", "shown", "the", "tightness", "of", "our", "similarity", "estimates", "and", "demonstrated", "the", "usefulness", "of", "our", "measures", "for", "challenging", "real", "world", "applications", ".", "We", "hope", "that", "our", "effort", "can", "act", "as", "a", "bridge", "between", "metric", "and", "non-metric", "functions", ",", "as", "well", "as", "a", "tool", "for", "understanding", "better", "their", "strengths", "and", "weaknesses", ".", "In", "the", "future", "we", "plan", "to", "investigate", "the", "combination", "of", "several", "heuristics", ",", "in", "order", "to", "provide", "even", "tighter", "estimates", ".", "Acknowledgements", ":", "We", "would", "like", "to", "thank", "Margrit", "Betke", "for", "providing", "us", "the", "Video", "Track", "I", "and", "II", "datasets", ".", "We", "also", "feel", "obliged", "to", "T.", "Rath", "and", "R.", "Manmatha", "for", "kindly", "providing", "the", "manuscript", "words", "dataset", ".", "-LSB-", "1", "-RSB-", "J.", "Aach", "and", "G.", "Church", ".", "Aligning", "gene", "expression", "time", "series", "with", "time", "warping", "algorithms", ".", "In", "Bioinformatics", ",", "Volume", "17", ",", "pages", "495", "508", ",", "2001", ".", "-LSB-", "2", "-RSB-", "O.", "Arikan", "and", "D.", "Forsyth", ".", "Interactive", "motion", "generation", "from", "examples", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", ",", "2002", ".", "-LSB-", "3", "-RSB-", "Z.", "Bar-Joseph", ",", "G.", "Gerber", ",", "D.", "Gifford", ",", "T.", "Jaakkola", ",", "and", "I.", "Simon", ".", "A", "new", "approach", "to", "analyzing", "gene", "expression", "time", "series", "data", ".", "In", "Proc", ".", "of", "6th", "RECOMB", ",", "pages", "39", "48", ",", "2002", ".", "-LSB-", "4", "-RSB-", "D.", "Berndt", "and", "J.", "Clifford", ".", "Using", "Dynamic", "Time", "Warping", "to", "Find", "Patterns", "in", "Time", "Series", ".", "In", "Proc", ".", "of", "KDD", "Workshop", ",", "1994", ".", "-LSB-", "5", "-RSB-", "M.", "Betke", ",", "J.", "Gips", ",", "and", "P.", "Fleming", ".", "The", "camera", "mouse", ":", "Visual", "tracking", "of", "body", "features", "to", "provide", "computer", "access", "for", "people", "with", "severe", "disabilities", ".", "In", "IEEE", "Transactions", "on", "Neural", "Systems", "and", "Rehabilitation", "Engineering", ",", "Vol", ".", "10", ",", "No.", "1", ",", "2002", ".", "-LSB-", "6", "-RSB-", "G.", "Das", ",", "D.", "Gunopulos", ",", "and", "H.", "Mannila", ".", "Finding", "Similar", "Time", "Series", ".", "In", "Proc", ".", "of", "the", "First", "PKDD", "Symp.", ",", "pages", "88", "100", ",", "1997", ".", "-LSB-", "7", "-RSB-", "D.", "Gavrila", "and", "L.", "Davis", ".", "Towards", "3-d", "model-based", "tracking", "and", "recognition", "of", "human", "movement", ":", "a", "multi-view", "approach", ".", "In", "Int", ".", "Workshop", "on", "Face", "and", "Gesture", "Recognition", ".", "-LSB-", "8", "-RSB-", "M.", "Hadjieleftheriou", ",", "G.", "Kollios", ",", "V.", "Tsotras", ",", "and", "D.", "Gunopulos", ".", "Efficient", "indexing", "of", "spatiotemporal", "objects", ".", "In", "Proc", ".", "of", "8th", "EDBT", ",", "2002", ".", "-LSB-", "9", "-RSB-", "T.", "Kahveci", ",", "A.", "Singh", ",", "and", "A.", "Gurel", ".", "Similarity", "searching", "for", "multi-attribute", "sequences", ".", "In", "Proc", ".", "of", "SSDBM", ",", "2002", ".", "-LSB-", "10", "-RSB-", "E.", "Keogh", ".", "Exact", "indexing", "of", "dynamic", "time", "warping", ".", "In", "Proc", ".", "of", "VLDB", ",", "2002", ".", "-LSB-", "11", "-RSB-", "E.", "Keogh", "and", "S.", "Kasetty", ".", "On", "the", "need", "for", "time", "series", "data", "mining", "benchmarks", ":", "A", "survey", "and", "empirical", "demonstration", ".", "In", "Proc", ".", "of", "SIGKDD", ",", "2002", ".", "-LSB-", "12", "-RSB-", "S.", "Kim", ",", "S.", "Park", ",", "and", "W.", "Chu", ".", "An", "index-based", "approach", "for", "similarity", "search", "supporting", "time", "warping", "in", "large", "sequence", "databases", ".", "In", "In", "Proc", ".", "of", "17th", "ICDE", ",", "2001", ".", "-LSB-", "13", "-RSB-", "Z.", "Kov", "acs-Vajna", ".", "A", "fingerprint", "verification", "system", "based", "on", "triangular", "matching", "and", "dynamic", "time", "warping", ".", "In", "IEEE", "Transactions", "on", "PAMI", ",", "Vol", ".", "22", ",", "No.", "11", ".", "-LSB-", "14", "-RSB-", "S.-L", ".", "Lee", ",", "S.-J", ".", "Chun", ",", "D.-H", ".", "Kim", ",", "J.-H", ".", "Lee", ",", "and", "C.-W", ".", "Chung", ".", "Similarity", "Search", "for", "Multidimensional", "Data", "Sequences", ".", "Proc", ".", "of", "ICDE", ",", "pages", "599", "608", ",", "2000", ".", "-LSB-", "15", "-RSB-", "S.", "Park", ",", "W.", "Chu", ",", "J.", "Yoon", ",", "and", "C.", "Hsu", ".", "Efficient", "Searches", "for", "Similar", "Subsequences", "of", "Different", "Lengths", "in", "Sequence", "Databases", ".", "In", "Proc", ".", "of", "ICDE", ",", "pages", "23", "32", ",", "2000", ".", "-LSB-", "16", "-RSB-", "T.", "Rath", "and", "R.", "Manmatha", ".", "Word", "image", "matching", "using", "dynamic", "time", "warping", ".", "In", "Tec", "Report", "MM-38", ".", "Center", "for", "Intelligent", "Information", "Retrieval", ",", "University", "of", "Massachusetts", "Amherst", ",", "2002", ".", "-LSB-", "17", "-RSB-", "J.", "F.", "Roddick", "and", "K.", "Hornsby", ".", "Temporal", ",", "Spatial", "and", "Spatio-Temporal", "Data", "Mining", ".", "2000", ".", "-LSB-", "18", "-RSB-", "M.", "Shimada", "and", "K.", "Uehara", ".", "Discovery", "of", "correlation", "from", "multi-stream", "of", "human", "motion", ".", "In", "Discovery", "Science", "2000", ".", "-LSB-", "19", "-RSB-", "R.", "E.", "Valdes-Perez", "and", "C.", "A.", "Stone", ".", "Systematic", "detection", "of", "subtle", "spatio-temporal", "patterns", "in", "time-lapse", "imaging", "ii", ".", "particle", "migrations", ".", "In", "Bioimaging", "6", "-LRB-", "2", "-RRB-", ",", "pages", "71", "78", ",", "1998", ".", "-LSB-", "20", "-RSB-", "M.", "Vlachos", ",", "G.", "Kollios", ",", "and", "D.", "Gunopulos", ".", "Discovering", "similar", "multidimensional", "trajectories", ".", "In", "Proc", ".", "of", "ICDE", ",", "2002", ".", "-LSB-", "21", "-RSB-", "B.-K", ".", "Yi", ",", "H.", "V.", "Jagadish", ",", "and", "C.", "Faloutsos", ".", "Efficient", "retrieval", "of", "similar", "time", "sequences", "under", "time", "warping", ".", "In", "Proc", ".", "of", "ICDE", ",", "pages", "201", "208", ",", "1998", ".", "-LSB-", "22", "-RSB-", "Y.", "Zhu", "and", "D.", "Shasha", ".", "Query", "by", "humming", ":", "a", "time", "series", "database", "approach", ".", "In", "Proc", ".", "of", "SIGMOD", ",", "2003", ".", "225"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["trajectory", "similarity", "distance function", "longest common subsequence", "dynamic time warping", "trajectories", "indexing", "measure"], "abstractive_keyphrases": ["dynamic time warping (dtw)", "longest common subsequence (lcss)"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "10", "document": ["A", "Frequency-based", "and", "a", "Poisson-based", "Definition", "of", "the", "Probability", "of", "Being", "Informative", "This", "paper", "reports", "on", "theoretical", "investigations", "about", "the", "assumptions", "underlying", "the", "inverse", "document", "frequency", "-LRB-", "idf", "-RRB-", ".", "We", "show", "that", "an", "intuitive", "idf", "-", "based", "probability", "function", "for", "the", "probability", "of", "a", "term", "being", "informative", "assumes", "disjoint", "document", "events", ".", "By", "assuming", "documents", "to", "be", "independent", "rather", "than", "disjoint", ",", "we", "arrive", "at", "a", "Poisson-based", "probability", "of", "being", "informative", ".", "The", "framework", "is", "useful", "for", "understanding", "and", "deciding", "the", "parameter", "estimation", "and", "combination", "in", "probabilistic", "retrieval", "models", ".", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "Retrieval", "models", "Theory", "The", "inverse", "document", "frequency", "-LRB-", "idf", "-RRB-", "is", "one", "of", "the", "most", "successful", "parameters", "for", "a", "relevance-based", "ranking", "of", "retrieved", "objects", ".", "With", "N", "being", "the", "total", "number", "of", "documents", ",", "and", "n", "-LRB-", "t", "-RRB-", "being", "the", "number", "of", "documents", "in", "which", "term", "t", "occurs", ",", "the", "idf", "is", "defined", "as", "follows", ":", "idf", "-LRB-", "t", "-RRB-", ":", "=", "-", "log", "n", "-LRB-", "t", "-RRB-", "N", ",", "0", "<", "=", "idf", "-LRB-", "t", "-RRB-", "<", "Ranking", "based", "on", "the", "sum", "of", "the", "idf", "-", "values", "of", "the", "query", "terms", "that", "occur", "in", "the", "retrieved", "documents", "works", "well", ",", "this", "has", "been", "shown", "in", "numerous", "applications", ".", "Also", ",", "it", "is", "well", "known", "that", "the", "combination", "of", "a", "document-specific", "term", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "03", ",", "July", "28", "August", "1", ",", "2003", ",", "Toronto", ",", "Canada", ".", "Copyright", "2003", "ACM", "1-58113-646-3", "/", "03/0007", "...", "$", "5.00", ".", "weight", "and", "idf", "works", "better", "than", "idf", "alone", ".", "This", "approach", "is", "known", "as", "tf-idf", ",", "where", "tf", "-LRB-", "t", ",", "d", "-RRB-", "-LRB-", "0", "<", "=", "tf", "-LRB-", "t", ",", "d", "-RRB-", "<", "=", "1", "-RRB-", "is", "the", "so-called", "term", "frequency", "of", "term", "t", "in", "document", "d", ".", "The", "idf", "reflects", "the", "discriminating", "power", "-LRB-", "informativeness", "-RRB-", "of", "a", "term", ",", "whereas", "the", "tf", "reflects", "the", "occurrence", "of", "a", "term", ".", "The", "idf", "alone", "works", "better", "than", "the", "tf", "alone", "does", ".", "An", "explanation", "might", "be", "the", "problem", "of", "tf", "with", "terms", "that", "occur", "in", "many", "documents", ";", "let", "us", "refer", "to", "those", "terms", "as", "``", "noisy", "''", "terms", ".", "We", "use", "the", "notion", "of", "``", "noisy", "''", "terms", "rather", "than", "``", "fre-quent", "''", "terms", "since", "frequent", "terms", "leaves", "open", "whether", "we", "refer", "to", "the", "document", "frequency", "of", "a", "term", "in", "a", "collection", "or", "to", "the", "so-called", "term", "frequency", "-LRB-", "also", "referred", "to", "as", "within-document", "frequency", "-RRB-", "of", "a", "term", "in", "a", "document", ".", "We", "associate", "``", "noise", "''", "with", "the", "document", "frequency", "of", "a", "term", "in", "a", "collection", ",", "and", "we", "associate", "``", "occurrence", "''", "with", "the", "within-document", "frequency", "of", "a", "term", ".", "The", "tf", "of", "a", "noisy", "term", "might", "be", "high", "in", "a", "document", ",", "but", "noisy", "terms", "are", "not", "good", "candidates", "for", "representing", "a", "document", ".", "Therefore", ",", "the", "removal", "of", "noisy", "terms", "-LRB-", "known", "as", "``", "stopword", "removal", "''", "-RRB-", "is", "essential", "when", "applying", "tf", ".", "In", "a", "tf-idf", "approach", ",", "the", "removal", "of", "stopwords", "is", "conceptually", "obsolete", ",", "if", "stopwords", "are", "just", "words", "with", "a", "low", "idf", ".", "From", "a", "probabilistic", "point", "of", "view", ",", "tf", "is", "a", "value", "with", "a", "frequency-based", "probabilistic", "interpretation", "whereas", "idf", "has", "an", "``", "informative", "''", "rather", "than", "a", "probabilistic", "interpretation", ".", "The", "missing", "probabilistic", "interpretation", "of", "idf", "is", "a", "problem", "in", "probabilistic", "retrieval", "models", "where", "we", "combine", "uncertain", "knowledge", "of", "different", "dimensions", "-LRB-", "e.g.", ":", "informativeness", "of", "terms", ",", "structure", "of", "documents", ",", "quality", "of", "documents", ",", "age", "of", "documents", ",", "etc.", "-RRB-", "such", "that", "a", "good", "estimate", "of", "the", "probability", "of", "relevance", "is", "achieved", ".", "An", "intuitive", "solution", "is", "a", "normalisation", "of", "idf", "such", "that", "we", "obtain", "values", "in", "the", "interval", "-LSB-", "0", ";", "1", "-RSB-", ".", "For", "example", ",", "consider", "a", "normalisation", "based", "on", "the", "maximal", "idf", "-", "value", ".", "Let", "T", "be", "the", "set", "of", "terms", "occurring", "in", "a", "collection", ".", "P", "freq", "-LRB-", "t", "is", "informative", "-RRB-", ":", "=", "idf", "-LRB-", "t", "-RRB-", "maxidf", "maxidf", ":", "=", "max", "-LRB-", "-LCB-", "idf", "-LRB-", "t", "-RRB-", "|", "t", "T", "-RCB-", "-RRB-", ",", "maxidf", "<", "=", "-", "log", "-LRB-", "1/N", "-RRB-", "minidf", ":", "=", "min", "-LRB-", "-LCB-", "idf", "-LRB-", "t", "-RRB-", "|", "t", "T", "-RCB-", "-RRB-", ",", "minidf", ">", "=", "0", "minidf", "maxidf", "P", "freq", "-LRB-", "t", "is", "informative", "-RRB-", "1.0", "This", "frequency-based", "probability", "function", "covers", "the", "interval", "-LSB-", "0", ";", "1", "-RSB-", "if", "the", "minimal", "idf", "is", "equal", "to", "zero", ",", "which", "is", "the", "case", "if", "we", "have", "at", "least", "one", "term", "that", "occurs", "in", "all", "documents", ".", "Can", "we", "interpret", "P", "freq", ",", "the", "normalised", "idf", ",", "as", "the", "probability", "that", "the", "term", "is", "informative", "?", "When", "investigating", "the", "probabilistic", "interpretation", "of", "the", "227", "normalised", "idf", ",", "we", "made", "several", "observations", "related", "to", "disjointness", "and", "independence", "of", "document", "events", ".", "These", "observations", "are", "reported", "in", "section", "3", ".", "We", "show", "in", "section", "3.1", "that", "the", "frequency-based", "noise", "probability", "n", "-LRB-", "t", "-RRB-", "N", "used", "in", "the", "classic", "idf", "-", "definition", "can", "be", "explained", "by", "three", "assumptions", ":", "binary", "term", "occurrence", ",", "constant", "document", "containment", "and", "disjointness", "of", "document", "containment", "events", ".", "In", "section", "3.2", "we", "show", "that", "by", "assuming", "independence", "of", "documents", ",", "we", "obtain", "1", "-", "e", "-1", "1", "-", "0.37", "as", "the", "upper", "bound", "of", "the", "noise", "probability", "of", "a", "term", ".", "The", "value", "e", "-1", "is", "related", "to", "the", "logarithm", "and", "we", "investigate", "in", "section", "3.3", "the", "link", "to", "information", "theory", ".", "In", "section", "4", ",", "we", "link", "the", "results", "of", "the", "previous", "sections", "to", "probability", "theory", ".", "We", "show", "the", "steps", "from", "possible", "worlds", "to", "binomial", "distribution", "and", "Poisson", "distribution", ".", "In", "section", "5", ",", "we", "emphasise", "that", "the", "theoretical", "framework", "of", "this", "paper", "is", "applicable", "for", "both", "idf", "and", "tf", ".", "Finally", ",", "in", "section", "6", ",", "we", "base", "the", "definition", "of", "the", "probability", "of", "being", "informative", "on", "the", "results", "of", "the", "previous", "sections", "and", "compare", "frequency-based", "and", "Poisson-based", "definitions", ".", "The", "relationship", "between", "frequencies", ",", "probabilities", "and", "information", "theory", "-LRB-", "entropy", "-RRB-", "has", "been", "the", "focus", "of", "many", "researchers", ".", "In", "this", "background", "section", ",", "we", "focus", "on", "work", "that", "investigates", "the", "application", "of", "the", "Poisson", "distribution", "in", "IR", "since", "a", "main", "part", "of", "the", "work", "presented", "in", "this", "paper", "addresses", "the", "underlying", "assumptions", "of", "Poisson", ".", "-LSB-", "4", "-RSB-", "proposes", "a", "2-Poisson", "model", "that", "takes", "into", "account", "the", "different", "nature", "of", "relevant", "and", "non-relevant", "documents", ",", "rare", "terms", "-LRB-", "content", "words", "-RRB-", "and", "frequent", "terms", "-LRB-", "noisy", "terms", ",", "function", "words", ",", "stopwords", "-RRB-", ".", "-LSB-", "9", "-RSB-", "shows", "experimentally", "that", "most", "of", "the", "terms", "-LRB-", "words", "-RRB-", "in", "a", "collection", "are", "distributed", "according", "to", "a", "low", "dimension", "n-Poisson", "model", ".", "-LSB-", "10", "-RSB-", "uses", "a", "2-Poisson", "model", "for", "including", "term", "frequency-based", "probabilities", "in", "the", "probabilistic", "retrieval", "model", ".", "The", "non-linear", "scaling", "of", "the", "Poisson", "function", "showed", "significant", "improvement", "compared", "to", "a", "linear", "frequency-based", "probability", ".", "The", "Poisson", "model", "was", "here", "applied", "to", "the", "term", "frequency", "of", "a", "term", "in", "a", "document", ".", "We", "will", "generalise", "the", "discussion", "by", "pointing", "out", "that", "document", "frequency", "and", "term", "frequency", "are", "dual", "parameters", "in", "the", "collection", "space", "and", "the", "document", "space", ",", "respectively", ".", "Our", "discussion", "of", "the", "Poisson", "distribution", "focuses", "on", "the", "document", "frequency", "in", "a", "collection", "rather", "than", "on", "the", "term", "frequency", "in", "a", "document", ".", "-LSB-", "7", "-RSB-", "and", "-LSB-", "6", "-RSB-", "address", "the", "deviation", "of", "idf", "and", "Poisson", ",", "and", "apply", "Poisson", "mixtures", "to", "achieve", "better", "Poisson-based", "estimates", ".", "The", "results", "proved", "again", "experimentally", "that", "a", "one-dimensional", "Poisson", "does", "not", "work", "for", "rare", "terms", ",", "therefore", "Poisson", "mixtures", "and", "additional", "parameters", "are", "proposed", ".", "-LSB-", "3", "-RSB-", ",", "section", "3.3", ",", "illustrates", "and", "summarises", "comprehen-sively", "the", "relationships", "between", "frequencies", ",", "probabilities", "and", "Poisson", ".", "Different", "definitions", "of", "idf", "are", "put", "into", "context", "and", "a", "notion", "of", "``", "noise", "''", "is", "defined", ",", "where", "noise", "is", "viewed", "as", "the", "complement", "of", "idf", ".", "We", "use", "in", "our", "paper", "a", "different", "notion", "of", "noise", ":", "we", "consider", "a", "frequency-based", "noise", "that", "corresponds", "to", "the", "document", "frequency", ",", "and", "we", "consider", "a", "term", "noise", "that", "is", "based", "on", "the", "independence", "of", "document", "events", ".", "-LSB-", "11", "-RSB-", ",", "-LSB-", "12", "-RSB-", ",", "-LSB-", "8", "-RSB-", "and", "-LSB-", "1", "-RSB-", "link", "frequencies", "and", "probability", "estimation", "to", "information", "theory", ".", "-LSB-", "12", "-RSB-", "establishes", "a", "framework", "in", "which", "information", "retrieval", "models", "are", "formalised", "based", "on", "probabilistic", "inference", ".", "A", "key", "component", "is", "the", "use", "of", "a", "space", "of", "disjoint", "events", ",", "where", "the", "framework", "mainly", "uses", "terms", "as", "disjoint", "events", ".", "The", "probability", "of", "being", "informative", "defined", "in", "our", "paper", "can", "be", "viewed", "as", "the", "probability", "of", "the", "disjoint", "terms", "in", "the", "term", "space", "of", "-LSB-", "12", "-RSB-", ".", "-LSB-", "8", "-RSB-", "address", "entropy", "and", "bibliometric", "distributions", ".", "Entropy", "is", "maximal", "if", "all", "events", "are", "equiprobable", "and", "the", "frequency", "-", "based", "Lotka", "law", "-LRB-", "N/i", "is", "the", "number", "of", "scientists", "that", "have", "written", "i", "publications", ",", "where", "N", "and", "are", "distribution", "parameters", "-RRB-", ",", "Zipf", "and", "the", "Pareto", "distribution", "are", "related", ".", "The", "Pareto", "distribution", "is", "the", "continuous", "case", "of", "the", "Lotka", "and", "Lotka", "and", "Zipf", "show", "equivalences", ".", "The", "Pareto", "distribution", "is", "used", "by", "-LSB-", "2", "-RSB-", "for", "term", "frequency", "normalisation", ".", "The", "Pareto", "distribution", "compares", "to", "the", "Poisson", "distribution", "in", "the", "sense", "that", "Pareto", "is", "``", "fat-tailed", "''", ",", "i.", "e.", "Pareto", "assigns", "larger", "probabilities", "to", "large", "numbers", "of", "events", "than", "Poisson", "distributions", "do", ".", "This", "makes", "Pareto", "interesting", "since", "Poisson", "is", "felt", "to", "be", "too", "radical", "on", "frequent", "events", ".", "We", "restrict", "in", "this", "paper", "to", "the", "discussion", "of", "Poisson", ",", "however", ",", "our", "results", "show", "that", "indeed", "a", "smoother", "distribution", "than", "Poisson", "promises", "to", "be", "a", "good", "candidate", "for", "improving", "the", "estimation", "of", "probabilities", "in", "information", "retrieval", ".", "-LSB-", "1", "-RSB-", "establishes", "a", "theoretical", "link", "between", "tf-idf", "and", "information", "theory", "and", "the", "theoretical", "research", "on", "the", "meaning", "of", "tf-idf", "``", "clarifies", "the", "statistical", "model", "on", "which", "the", "different", "measures", "are", "commonly", "based", "''", ".", "This", "motivation", "matches", "the", "motivation", "of", "our", "paper", ":", "We", "investigate", "theoretically", "the", "assumptions", "of", "classical", "idf", "and", "Poisson", "for", "a", "better", "understanding", "of", "parameter", "estimation", "and", "combination", ".", "We", "define", "and", "discuss", "in", "this", "section", "three", "probabilities", ":", "The", "frequency-based", "noise", "probability", "-LRB-", "definition", "1", "-RRB-", ",", "the", "total", "noise", "probability", "for", "disjoint", "documents", "-LRB-", "definition", "2", "-RRB-", ".", "and", "the", "noise", "probability", "for", "independent", "documents", "-LRB-", "definition", "3", "-RRB-", ".", "3.1", "Binary", "occurrence", ",", "constant", "containment", "and", "disjointness", "of", "documents", "We", "show", "in", "this", "section", ",", "that", "the", "frequency-based", "noise", "probability", "n", "-LRB-", "t", "-RRB-", "N", "in", "the", "idf", "definition", "can", "be", "explained", "as", "a", "total", "probability", "with", "binary", "term", "occurrence", ",", "constant", "document", "containment", "and", "disjointness", "of", "document", "containments", ".", "We", "refer", "to", "a", "probability", "function", "as", "binary", "if", "for", "all", "events", "the", "probability", "is", "either", "1.0", "or", "0.0", ".", "The", "occurrence", "probability", "P", "-LRB-", "t", "|", "d", "-RRB-", "is", "binary", ",", "if", "P", "-LRB-", "t", "|", "d", "-RRB-", "is", "equal", "to", "1.0", "if", "t", "d", ",", "and", "P", "-LRB-", "t", "|", "d", "-RRB-", "is", "equal", "to", "0.0", ",", "otherwise", ".", "P", "-LRB-", "t", "|", "d", "-RRB-", "is", "binary", ":", "P", "-LRB-", "t", "|", "d", "-RRB-", "=", "1.0", "P", "-LRB-", "t", "|", "d", "-RRB-", "=", "0.0", "We", "refer", "to", "a", "probability", "function", "as", "constant", "if", "for", "all", "events", "the", "probability", "is", "equal", ".", "The", "document", "containment", "probability", "reflect", "the", "chance", "that", "a", "document", "occurs", "in", "a", "collection", ".", "This", "containment", "probability", "is", "constant", "if", "we", "have", "no", "information", "about", "the", "document", "containment", "or", "we", "ignore", "that", "documents", "differ", "in", "containment", ".", "Containment", "could", "be", "derived", ",", "for", "example", ",", "from", "the", "size", ",", "quality", ",", "age", ",", "links", ",", "etc.", "of", "a", "document", ".", "For", "a", "constant", "containment", "in", "a", "collection", "with", "N", "documents", ",", "1", "N", "is", "often", "assumed", "as", "the", "containment", "probability", ".", "We", "generalise", "this", "definition", "and", "introduce", "the", "constant", "where", "0", "N", ".", "The", "containment", "of", "a", "document", "d", "depends", "on", "the", "collection", "c", ",", "this", "is", "reflected", "by", "the", "notation", "P", "-LRB-", "d", "|", "c", "-RRB-", "used", "for", "the", "containment", "228", "of", "a", "document", ".", "P", "-LRB-", "d", "|", "c", "-RRB-", "is", "constant", ":", "d", ":", "P", "-LRB-", "d", "|", "c", "-RRB-", "=", "N", "For", "disjoint", "documents", "that", "cover", "the", "whole", "event", "space", ",", "we", "set", "=", "1", "and", "obtain", "d", "P", "-LRB-", "d", "|", "c", "-RRB-", "=", "1.0", ".", "Next", ",", "we", "define", "the", "frequency-based", "noise", "probability", "and", "the", "total", "noise", "probability", "for", "disjoint", "documents", ".", "We", "introduce", "the", "event", "notation", "t", "is", "noisy", "and", "t", "occurs", "for", "making", "the", "difference", "between", "the", "noise", "probability", "P", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "in", "a", "collection", "and", "the", "occurrence", "probability", "P", "-LRB-", "t", "occurs", "|", "d", "-RRB-", "in", "a", "document", "more", "explicit", ",", "thereby", "keeping", "in", "mind", "that", "the", "noise", "probability", "corresponds", "to", "the", "occurrence", "probability", "of", "a", "term", "in", "a", "collection", ".", "Definition", "1", ".", "The", "frequency-based", "term", "noise", "probability", ":", "P", "freq", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", ":", "=", "n", "-LRB-", "t", "-RRB-", "N", "Definition", "2", ".", "The", "total", "term", "noise", "probability", "for", "disjoint", "documents", ":", "P", "dis", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", ":", "=", "d", "P", "-LRB-", "t", "occurs", "|", "d", "-RRB-", "P", "-LRB-", "d", "|", "c", "-RRB-", "Now", ",", "we", "can", "formulate", "a", "theorem", "that", "makes", "assumptions", "explicit", "that", "explain", "the", "classical", "idf", ".", "Theorem", "1", ".", "IDF", "assumptions", ":", "If", "the", "occurrence", "probability", "P", "-LRB-", "t", "|", "d", "-RRB-", "of", "term", "t", "over", "documents", "d", "is", "binary", ",", "and", "the", "containment", "probability", "P", "-LRB-", "d", "|", "c", "-RRB-", "of", "documents", "d", "is", "constant", ",", "and", "document", "containments", "are", "disjoint", "events", ",", "then", "the", "noise", "probability", "for", "disjoint", "documents", "is", "equal", "to", "the", "frequency-based", "noise", "probability", ".", "P", "dis", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "=", "P", "freq", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "Proof", ".", "The", "assumptions", "are", ":", "d", ":", "-LRB-", "P", "-LRB-", "t", "occurs", "|", "d", "-RRB-", "=", "1", "P", "-LRB-", "t", "occurs", "|", "d", "-RRB-", "=", "0", "-RRB-", "P", "-LRB-", "d", "|", "c", "-RRB-", "=", "N", "d", "P", "-LRB-", "d", "|", "c", "-RRB-", "=", "1.0", "We", "obtain", ":", "P", "dis", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "=", "d", "|", "td", "1", "N", "=", "n", "-LRB-", "t", "-RRB-", "N", "=", "P", "freq", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "The", "above", "result", "is", "not", "a", "surprise", "but", "it", "is", "a", "mathematical", "formulation", "of", "assumptions", "that", "can", "be", "used", "to", "explain", "the", "classical", "idf", ".", "The", "assumptions", "make", "explicit", "that", "the", "different", "types", "of", "term", "occurrence", "in", "documents", "-LRB-", "frequency", "of", "a", "term", ",", "importance", "of", "a", "term", ",", "position", "of", "a", "term", ",", "document", "part", "where", "the", "term", "occurs", ",", "etc.", "-RRB-", "and", "the", "different", "types", "of", "document", "containment", "-LRB-", "size", ",", "quality", ",", "age", ",", "etc.", "-RRB-", "are", "ignored", ",", "and", "document", "containments", "are", "considered", "as", "disjoint", "events", ".", "From", "the", "assumptions", ",", "we", "can", "conclude", "that", "idf", "-LRB-", "frequency-based", "noise", ",", "respectively", "-RRB-", "is", "a", "relatively", "simple", "but", "strict", "estimate", ".", "Still", ",", "idf", "works", "well", ".", "This", "could", "be", "explained", "by", "a", "leverage", "effect", "that", "justifies", "the", "binary", "occurrence", "and", "constant", "containment", ":", "The", "term", "occurrence", "for", "small", "documents", "tends", "to", "be", "larger", "than", "for", "large", "documents", ",", "whereas", "the", "containment", "for", "small", "documents", "tends", "to", "be", "smaller", "than", "for", "large", "documents", ".", "From", "that", "point", "of", "view", ",", "idf", "means", "that", "P", "-LRB-", "t", "d", "|", "c", "-RRB-", "is", "constant", "for", "all", "d", "in", "which", "t", "occurs", ",", "and", "P", "-LRB-", "t", "d", "|", "c", "-RRB-", "is", "zero", "otherwise", ".", "The", "occurrence", "and", "containment", "can", "be", "term", "specific", ".", "For", "example", ",", "set", "P", "-LRB-", "t", "d", "|", "c", "-RRB-", "=", "1/N", "D", "-LRB-", "c", "-RRB-", "if", "t", "occurs", "in", "d", ",", "where", "N", "D", "-LRB-", "c", "-RRB-", "is", "the", "number", "of", "documents", "in", "collection", "c", "-LRB-", "we", "used", "before", "just", "N", "-RRB-", ".", "We", "choose", "a", "document-dependent", "occurrence", "P", "-LRB-", "t", "|", "d", "-RRB-", ":", "=", "1/N", "T", "-LRB-", "d", "-RRB-", ",", "i.", "e.", "the", "occurrence", "probability", "is", "equal", "to", "the", "inverse", "of", "N", "T", "-LRB-", "d", "-RRB-", ",", "which", "is", "the", "total", "number", "of", "terms", "in", "document", "d.", "Next", ",", "we", "choose", "the", "containment", "P", "-LRB-", "d", "|", "c", "-RRB-", ":", "=", "N", "T", "-LRB-", "d", "-RRB-", "/", "N", "T", "-LRB-", "c", "-RRB-", "N", "T", "-LRB-", "c", "-RRB-", "/", "N", "D", "-LRB-", "c", "-RRB-", "where", "N", "T", "-LRB-", "d", "-RRB-", "/", "N", "T", "-LRB-", "c", "-RRB-", "is", "a", "document", "length", "normalisation", "-LRB-", "number", "of", "terms", "in", "document", "d", "divided", "by", "the", "number", "of", "terms", "in", "collection", "c", "-RRB-", ",", "and", "N", "T", "-LRB-", "c", "-RRB-", "/", "N", "D", "-LRB-", "c", "-RRB-", "is", "a", "constant", "factor", "of", "the", "collection", "-LRB-", "number", "of", "terms", "in", "collection", "c", "divided", "by", "the", "number", "of", "documents", "in", "collection", "c", "-RRB-", ".", "We", "obtain", "P", "-LRB-", "td", "|", "c", "-RRB-", "=", "1/N", "D", "-LRB-", "c", "-RRB-", ".", "In", "a", "tf-idf", "-", "retrieval", "function", ",", "the", "tf", "-", "component", "reflects", "the", "occurrence", "probability", "of", "a", "term", "in", "a", "document", ".", "This", "is", "a", "further", "explanation", "why", "we", "can", "estimate", "the", "idf", "with", "a", "simple", "P", "-LRB-", "t", "|", "d", "-RRB-", ",", "since", "the", "combined", "tf-idf", "contains", "the", "occurrence", "probability", ".", "The", "containment", "probability", "corresponds", "to", "a", "document", "normalisation", "-LRB-", "document", "length", "normalisation", ",", "pivoted", "document", "length", "-RRB-", "and", "is", "normally", "attached", "to", "the", "tf", "-", "component", "or", "the", "tf-idf", "-", "product", ".", "The", "disjointness", "assumption", "is", "typical", "for", "frequency-based", "probabilities", ".", "From", "a", "probability", "theory", "point", "of", "view", ",", "we", "can", "consider", "documents", "as", "disjoint", "events", ",", "in", "order", "to", "achieve", "a", "sound", "theoretical", "model", "for", "explaining", "the", "classical", "idf", ".", "But", "does", "disjointness", "reflect", "the", "real", "world", "where", "the", "containment", "of", "a", "document", "appears", "to", "be", "independent", "of", "the", "containment", "of", "another", "document", "?", "In", "the", "next", "section", ",", "we", "replace", "the", "disjointness", "assumption", "by", "the", "independence", "assumption", ".", "3.2", "The", "upper", "bound", "of", "the", "noise", "probability", "for", "independent", "documents", "For", "independent", "documents", ",", "we", "compute", "the", "probability", "of", "a", "disjunction", "as", "usual", ",", "namely", "as", "the", "complement", "of", "the", "probability", "of", "the", "conjunction", "of", "the", "negated", "events", ":", "P", "-LRB-", "d", "1", "...", "d", "N", "-RRB-", "=", "1", "-", "P", "-LRB-", "d", "1", "...", "d", "N", "-RRB-", "=", "1", "d", "-LRB-", "1", "-", "P", "-LRB-", "d", "-RRB-", "-RRB-", "The", "noise", "probability", "can", "be", "considered", "as", "the", "conjunction", "of", "the", "term", "occurrence", "and", "the", "document", "containment", ".", "P", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", ":", "=", "P", "-LRB-", "t", "occurs", "-LRB-", "d", "1", "...", "d", "N", "-RRB-", "|", "c", "-RRB-", "For", "disjoint", "documents", ",", "this", "view", "of", "the", "noise", "probability", "led", "to", "definition", "2", ".", "For", "independent", "documents", ",", "we", "use", "now", "the", "conjunction", "of", "negated", "events", ".", "Definition", "3", ".", "The", "term", "noise", "probability", "for", "independent", "documents", ":", "P", "in", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", ":", "=", "d", "-LRB-", "1", "-", "P", "-LRB-", "t", "occurs", "|", "d", "-RRB-", "P", "-LRB-", "d", "|", "c", "-RRB-", "-RRB-", "With", "binary", "occurrence", "and", "a", "constant", "containment", "P", "-LRB-", "d", "|", "c", "-RRB-", ":", "=", "/", "N", ",", "we", "obtain", "the", "term", "noise", "of", "a", "term", "t", "that", "occurs", "in", "n", "-LRB-", "t", "-RRB-", "documents", ":", "P", "in", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "=", "1", "-", "1", "N", "n", "-LRB-", "t", "-RRB-", "229", "For", "binary", "occurrence", "and", "disjoint", "documents", ",", "the", "containment", "probability", "was", "1/N", ".", "Now", ",", "with", "independent", "documents", ",", "we", "can", "use", "as", "a", "collection", "parameter", "that", "controls", "the", "average", "containment", "probability", ".", "We", "show", "through", "the", "next", "theorem", "that", "the", "upper", "bound", "of", "the", "noise", "probability", "depends", "on", ".", "Theorem", "2", ".", "The", "upper", "bound", "of", "being", "noisy", ":", "If", "the", "occurrence", "P", "-LRB-", "t", "|", "d", "-RRB-", "is", "binary", ",", "and", "the", "containment", "P", "-LRB-", "d", "|", "c", "-RRB-", "is", "constant", ",", "and", "document", "containments", "are", "independent", "events", ",", "then", "1", "-", "e", "is", "the", "upper", "bound", "of", "the", "noise", "probability", ".", "t", ":", "P", "in", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "<", "1", "-", "e", "Proof", ".", "The", "upper", "bound", "of", "the", "independent", "noise", "probability", "follows", "from", "the", "limit", "lim", "N", "-LRB-", "1", "+", "x", "N", "-RRB-", "N", "=", "e", "x", "-LRB-", "see", "any", "comprehensive", "math", "book", ",", "for", "example", ",", "-LSB-", "5", "-RSB-", ",", "for", "the", "convergence", "equation", "of", "the", "Euler", "function", "-RRB-", ".", "With", "x", "=", "-", ",", "we", "obtain", ":", "lim", "N", "1", "N", "N", "=", "e", "For", "the", "term", "noise", ",", "we", "have", ":", "P", "in", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "=", "1", "-", "1", "N", "n", "-LRB-", "t", "-RRB-", "P", "in", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "is", "strictly", "monotonous", ":", "The", "noise", "of", "a", "term", "t", "n", "is", "less", "than", "the", "noise", "of", "a", "term", "t", "n", "+1", ",", "where", "t", "n", "occurs", "in", "n", "documents", "and", "t", "n", "+1", "occurs", "in", "n", "+", "1", "documents", ".", "Therefore", ",", "a", "term", "with", "n", "=", "N", "has", "the", "largest", "noise", "probability", ".", "For", "a", "collection", "with", "infinite", "many", "documents", ",", "the", "upper", "bound", "of", "the", "noise", "probability", "for", "terms", "t", "N", "that", "occur", "in", "all", "documents", "becomes", ":", "lim", "N", "P", "in", "-LRB-", "t", "N", "is", "noisy", "-RRB-", "=", "lim", "N", "1", "-", "1", "N", "N", "=", "1", "-", "e", "By", "applying", "an", "independence", "rather", "a", "disjointness", "assumption", ",", "we", "obtain", "the", "probability", "e", "-1", "that", "a", "term", "is", "not", "noisy", "even", "if", "the", "term", "does", "occur", "in", "all", "documents", ".", "In", "the", "disjoint", "case", ",", "the", "noise", "probability", "is", "one", "for", "a", "term", "that", "occurs", "in", "all", "documents", ".", "If", "we", "view", "P", "-LRB-", "d", "|", "c", "-RRB-", ":", "=", "/", "N", "as", "the", "average", "containment", ",", "then", "is", "large", "for", "a", "term", "that", "occurs", "mostly", "in", "large", "documents", ",", "and", "is", "small", "for", "a", "term", "that", "occurs", "mostly", "in", "small", "documents", ".", "Thus", ",", "the", "noise", "of", "a", "term", "t", "is", "large", "if", "t", "occurs", "in", "n", "-LRB-", "t", "-RRB-", "large", "documents", "and", "the", "noise", "is", "smaller", "if", "t", "occurs", "in", "small", "documents", ".", "Alternatively", ",", "we", "can", "assume", "a", "constant", "containment", "and", "a", "term-dependent", "occurrence", ".", "If", "we", "assume", "P", "-LRB-", "d", "|", "c", "-RRB-", ":", "=", "1", ",", "then", "P", "-LRB-", "t", "|", "d", "-RRB-", ":", "=", "/", "N", "can", "be", "interpreted", "as", "the", "average", "probability", "that", "t", "represents", "a", "document", ".", "The", "common", "assumption", "is", "that", "the", "average", "containment", "or", "occurrence", "probability", "is", "proportional", "to", "n", "-LRB-", "t", "-RRB-", ".", "However", ",", "here", "is", "additional", "potential", ":", "The", "statistical", "laws", "-LRB-", "see", "-LSB-", "3", "-RSB-", "on", "Luhn", "and", "Zipf", "-RRB-", "indicate", "that", "the", "average", "probability", "could", "follow", "a", "normal", "distribution", ",", "i.", "e.", "small", "probabilities", "for", "small", "n", "-LRB-", "t", "-RRB-", "and", "large", "n", "-LRB-", "t", "-RRB-", ",", "and", "larger", "probabilities", "for", "medium", "n", "-LRB-", "t", "-RRB-", ".", "For", "the", "monotonous", "case", "we", "investigate", "here", ",", "the", "noise", "of", "a", "term", "with", "n", "-LRB-", "t", "-RRB-", "=", "1", "is", "equal", "to", "1", "-", "-LRB-", "1", "-", "/", "N", "-RRB-", "=", "/", "N", "and", "the", "noise", "of", "a", "term", "with", "n", "-LRB-", "t", "-RRB-", "=", "N", "is", "close", "to", "1", "-", "e", ".", "In", "the", "next", "section", ",", "we", "relate", "the", "value", "e", "to", "information", "theory", ".", "3.3", "The", "probability", "of", "a", "maximal", "informative", "signal", "The", "probability", "e", "-1", "is", "special", "in", "the", "sense", "that", "a", "signal", "with", "that", "probability", "is", "a", "signal", "with", "maximal", "information", "as", "derived", "from", "the", "entropy", "definition", ".", "Consider", "the", "definition", "of", "the", "entropy", "contribution", "H", "-LRB-", "t", "-RRB-", "of", "a", "signal", "t.", "H", "-LRB-", "t", "-RRB-", ":", "=", "P", "-LRB-", "t", "-RRB-", "-", "ln", "P", "-LRB-", "t", "-RRB-", "We", "form", "the", "first", "derivation", "for", "computing", "the", "optimum", ".", "H", "-LRB-", "t", "-RRB-", "P", "-LRB-", "t", "-RRB-", "=", "-", "ln", "P", "-LRB-", "t", "-RRB-", "+", "-1", "P", "-LRB-", "t", "-RRB-", "P", "-LRB-", "t", "-RRB-", "=", "-", "-LRB-", "1", "+", "ln", "P", "-LRB-", "t", "-RRB-", "-RRB-", "For", "obtaining", "optima", ",", "we", "use", ":", "0", "=", "-", "-LRB-", "1", "+", "ln", "P", "-LRB-", "t", "-RRB-", "-RRB-", "The", "entropy", "contribution", "H", "-LRB-", "t", "-RRB-", "is", "maximal", "for", "P", "-LRB-", "t", "-RRB-", "=", "e", "-1", ".", "This", "result", "does", "not", "depend", "on", "the", "base", "of", "the", "logarithm", "as", "we", "see", "next", ":", "H", "-LRB-", "t", "-RRB-", "P", "-LRB-", "t", "-RRB-", "=", "-", "log", "b", "P", "-LRB-", "t", "-RRB-", "+", "-1", "P", "-LRB-", "t", "-RRB-", "ln", "b", "P", "-LRB-", "t", "-RRB-", "=", "1", "ln", "b", "+", "log", "b", "P", "-LRB-", "t", "-RRB-", "=", "1", "+", "ln", "P", "-LRB-", "t", "-RRB-", "ln", "b", "We", "summarise", "this", "result", "in", "the", "following", "theorem", ":", "Theorem", "3", ".", "The", "probability", "of", "a", "maximal", "informative", "signal", ":", "The", "probability", "P", "max", "=", "e", "-1", "0.37", "is", "the", "probability", "of", "a", "maximal", "informative", "signal", ".", "The", "entropy", "of", "a", "maximal", "informative", "signal", "is", "H", "max", "=", "e", "-1", ".", "Proof", ".", "The", "probability", "and", "entropy", "follow", "from", "the", "derivation", "above", ".", "The", "complement", "of", "the", "maximal", "noise", "probability", "is", "e", "and", "we", "are", "looking", "now", "for", "a", "generalisation", "of", "the", "entropy", "definition", "such", "that", "e", "is", "the", "probability", "of", "a", "maximal", "informative", "signal", ".", "We", "can", "generalise", "the", "entropy", "definition", "by", "computing", "the", "integral", "of", "+", "ln", "P", "-LRB-", "t", "-RRB-", ",", "i.", "e.", "this", "derivation", "is", "zero", "for", "e", ".", "We", "obtain", "a", "generalised", "entropy", ":", "-", "-LRB-", "+", "ln", "P", "-LRB-", "t", "-RRB-", "-RRB-", "d", "-LRB-", "P", "-LRB-", "t", "-RRB-", "-RRB-", "=", "P", "-LRB-", "t", "-RRB-", "-LRB-", "1", "-", "-", "ln", "P", "-LRB-", "t", "-RRB-", "-RRB-", "The", "generalised", "entropy", "corresponds", "for", "=", "1", "to", "the", "classical", "entropy", ".", "By", "moving", "from", "disjoint", "to", "independent", "documents", ",", "we", "have", "established", "a", "link", "between", "the", "complement", "of", "the", "noise", "probability", "of", "a", "term", "that", "occurs", "in", "all", "documents", "and", "information", "theory", ".", "Next", ",", "we", "link", "independent", "documents", "to", "probability", "theory", ".", "We", "review", "for", "independent", "documents", "three", "concepts", "of", "probability", "theory", ":", "possible", "worlds", ",", "binomial", "distribution", "and", "Poisson", "distribution", ".", "4.1", "Possible", "Worlds", "Each", "conjunction", "of", "document", "events", "-LRB-", "for", "each", "document", ",", "we", "consider", "two", "document", "events", ":", "the", "document", "can", "be", "true", "or", "false", "-RRB-", "is", "associated", "with", "a", "so-called", "possible", "world", ".", "For", "example", ",", "consider", "the", "eight", "possible", "worlds", "for", "three", "documents", "-LRB-", "N", "=", "3", "-RRB-", ".", "230", "world", "w", "conjunction", "w", "7", "d", "1", "d", "2", "d", "3", "w", "6", "d", "1", "d", "2", "d", "3", "w", "5", "d", "1", "d", "2", "d", "3", "w", "4", "d", "1", "d", "2", "d", "3", "w", "3", "d", "1", "d", "2", "d", "3", "w", "2", "d", "1", "d", "2", "d", "3", "w", "1", "d", "1", "d", "2", "d", "3", "w", "0", "d", "1", "d", "2", "d", "3", "With", "each", "world", "w", ",", "we", "associate", "a", "probability", "-LRB-", "w", "-RRB-", ",", "which", "is", "equal", "to", "the", "product", "of", "the", "single", "probabilities", "of", "the", "document", "events", ".", "world", "w", "probability", "-LRB-", "w", "-RRB-", "w", "7", "N", "3", "1", "N", "0", "w", "6", "N", "2", "1", "N", "1", "w", "5", "N", "2", "1", "N", "1", "w", "4", "N", "1", "1", "N", "2", "w", "3", "N", "2", "1", "N", "1", "w", "2", "N", "1", "1", "N", "2", "w", "1", "N", "1", "1", "N", "2", "w", "0", "N", "0", "1", "N", "3", "The", "sum", "over", "the", "possible", "worlds", "in", "which", "k", "documents", "are", "true", "and", "N", "-", "k", "documents", "are", "false", "is", "equal", "to", "the", "probability", "function", "of", "the", "binomial", "distribution", ",", "since", "the", "binomial", "coefficient", "yields", "the", "number", "of", "possible", "worlds", "in", "which", "k", "documents", "are", "true", ".", "4.2", "Binomial", "distribution", "The", "binomial", "probability", "function", "yields", "the", "probability", "that", "k", "of", "N", "events", "are", "true", "where", "each", "event", "is", "true", "with", "the", "single", "event", "probability", "p.", "P", "-LRB-", "k", "-RRB-", ":", "=", "binom", "-LRB-", "N", ",", "k", ",", "p", "-RRB-", ":", "=", "N", "k", "p", "k", "-LRB-", "1", "-", "p", "-RRB-", "N", "-", "k", "The", "single", "event", "probability", "is", "usually", "defined", "as", "p", ":", "=", "/", "N", ",", "i.", "e.", "p", "is", "inversely", "proportional", "to", "N", ",", "the", "total", "number", "of", "events", ".", "With", "this", "definition", "of", "p", ",", "we", "obtain", "for", "an", "infinite", "number", "of", "documents", "the", "following", "limit", "for", "the", "product", "of", "the", "binomial", "coefficient", "and", "p", "k", ":", "lim", "N", "N", "k", "p", "k", "=", "=", "lim", "N", "N", "-LRB-", "N", "-1", "-RRB-", "...", "-LRB-", "N", "-", "k", "+1", "-RRB-", "k", "!", "N", "k", "=", "k", "k", "!", "The", "limit", "is", "close", "to", "the", "actual", "value", "for", "k", "<", "<", "N.", "For", "large", "k", ",", "the", "actual", "value", "is", "smaller", "than", "the", "limit", ".", "The", "limit", "of", "-LRB-", "1", "-", "p", "-RRB-", "N", "-", "k", "follows", "from", "the", "limit", "lim", "N", "-LRB-", "1", "+", "x", "N", "-RRB-", "N", "=", "e", "x", ".", "lim", "N", "-LRB-", "1", "-", "p", "-RRB-", "N-k", "=", "lim", "N", "1", "N", "N", "-", "k", "=", "lim", "N", "e", "1", "N", "-", "k", "=", "e", "Again", ",", "the", "limit", "is", "close", "to", "the", "actual", "value", "for", "k", "<", "<", "N.", "For", "large", "k", ",", "the", "actual", "value", "is", "larger", "than", "the", "limit", ".", "4.3", "Poisson", "distribution", "For", "an", "infinite", "number", "of", "events", ",", "the", "Poisson", "probability", "function", "is", "the", "limit", "of", "the", "binomial", "probability", "function", ".", "lim", "N", "binom", "-LRB-", "N", ",", "k", ",", "p", "-RRB-", "=", "k", "k", "!", "e", "P", "-LRB-", "k", "-RRB-", "=", "poisson", "-LRB-", "k", ",", "-RRB-", ":", "=", "k", "k", "!", "e", "The", "probability", "poisson", "-LRB-", "0", ",", "1", "-RRB-", "is", "equal", "to", "e", "-1", ",", "which", "is", "the", "probability", "of", "a", "maximal", "informative", "signal", ".", "This", "shows", "the", "relationship", "of", "the", "Poisson", "distribution", "and", "information", "theory", ".", "After", "seeing", "the", "convergence", "of", "the", "binomial", "distribution", ",", "we", "can", "choose", "the", "Poisson", "distribution", "as", "an", "approximation", "of", "the", "independent", "term", "noise", "probability", ".", "First", ",", "we", "define", "the", "Poisson", "noise", "probability", ":", "Definition", "4", ".", "The", "Poisson", "term", "noise", "probability", ":", "P", "poi", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", ":", "=", "e", "n", "-LRB-", "t", "-RRB-", "k", "=", "1", "k", "k", "!", "For", "independent", "documents", ",", "the", "Poisson", "distribution", "approximates", "the", "probability", "of", "the", "disjunction", "for", "large", "n", "-LRB-", "t", "-RRB-", ",", "since", "the", "independent", "term", "noise", "probability", "is", "equal", "to", "the", "sum", "over", "the", "binomial", "probabilities", "where", "at", "least", "one", "of", "n", "-LRB-", "t", "-RRB-", "document", "containment", "events", "is", "true", ".", "P", "in", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "=", "n", "-LRB-", "t", "-RRB-", "k", "=", "1", "n", "-LRB-", "t", "-RRB-", "k", "p", "k", "-LRB-", "1", "-", "p", "-RRB-", "N", "-", "k", "P", "in", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "P", "poi", "-LRB-", "t", "is", "noisy", "|", "c", "-RRB-", "We", "have", "defined", "a", "frequency-based", "and", "a", "Poisson-based", "probability", "of", "being", "noisy", ",", "where", "the", "latter", "is", "the", "limit", "of", "the", "independence-based", "probability", "of", "being", "noisy", ".", "Before", "we", "present", "in", "the", "final", "section", "the", "usage", "of", "the", "noise", "probability", "for", "defining", "the", "probability", "of", "being", "informative", ",", "we", "emphasise", "in", "the", "next", "section", "that", "the", "results", "apply", "to", "the", "collection", "space", "as", "well", "as", "to", "the", "the", "document", "space", ".", "Consider", "the", "dual", "definitions", "of", "retrieval", "parameters", "in", "table", "1", ".", "We", "associate", "a", "collection", "space", "D", "T", "with", "a", "collection", "c", "where", "D", "is", "the", "set", "of", "documents", "and", "T", "is", "the", "set", "of", "terms", "in", "the", "collection", ".", "Let", "N", "D", ":", "=", "|", "D", "|", "and", "N", "T", ":", "=", "|", "T", "|", "be", "the", "number", "of", "documents", "and", "terms", ",", "respectively", ".", "We", "consider", "a", "document", "as", "a", "subset", "of", "T", "and", "a", "term", "as", "a", "subset", "of", "D.", "Let", "n", "T", "-LRB-", "d", "-RRB-", ":", "=", "|", "-LCB-", "t", "|", "d", "t", "-RCB-", "|", "be", "the", "number", "of", "terms", "that", "occur", "in", "the", "document", "d", ",", "and", "let", "n", "D", "-LRB-", "t", "-RRB-", ":", "=", "|", "-LCB-", "d", "|", "t", "d", "-RCB-", "|", "be", "the", "number", "of", "documents", "that", "contain", "the", "term", "t", ".", "In", "a", "dual", "way", ",", "we", "associate", "a", "document", "space", "L", "T", "with", "a", "document", "d", "where", "L", "is", "the", "set", "of", "locations", "-LRB-", "also", "referred", "to", "as", "positions", ",", "however", ",", "we", "use", "the", "letters", "L", "and", "l", "and", "not", "P", "and", "p", "for", "avoiding", "confusion", "with", "probabilities", "-RRB-", "and", "T", "is", "the", "set", "of", "terms", "in", "the", "document", ".", "The", "document", "dimension", "in", "a", "collection", "space", "corresponds", "to", "the", "location", "-LRB-", "position", "-RRB-", "dimension", "in", "a", "document", "space", ".", "The", "definition", "makes", "explicit", "that", "the", "classical", "notion", "of", "term", "frequency", "of", "a", "term", "in", "a", "document", "-LRB-", "also", "referred", "to", "as", "the", "within-document", "term", "frequency", "-RRB-", "actually", "corresponds", "to", "the", "location", "frequency", "of", "a", "term", "in", "a", "document", ".", "For", "the", "231", "space", "collection", "document", "dimensions", "documents", "and", "terms", "locations", "and", "terms", "document/location", "frequency", "n", "D", "-LRB-", "t", ",", "c", "-RRB-", ":", "Number", "of", "documents", "in", "which", "term", "t", "occurs", "in", "collection", "c", "n", "L", "-LRB-", "t", ",", "d", "-RRB-", ":", "Number", "of", "locations", "-LRB-", "positions", "-RRB-", "at", "which", "term", "t", "occurs", "in", "document", "d", "N", "D", "-LRB-", "c", "-RRB-", ":", "Number", "of", "documents", "in", "collection", "c", "N", "L", "-LRB-", "d", "-RRB-", ":", "Number", "of", "locations", "-LRB-", "positions", "-RRB-", "in", "document", "d", "term", "frequency", "n", "T", "-LRB-", "d", ",", "c", "-RRB-", ":", "Number", "of", "terms", "that", "document", "d", "contains", "in", "collection", "c", "n", "T", "-LRB-", "l", ",", "d", "-RRB-", ":", "Number", "of", "terms", "that", "location", "l", "contains", "in", "document", "d", "N", "T", "-LRB-", "c", "-RRB-", ":", "Number", "of", "terms", "in", "collection", "c", "N", "T", "-LRB-", "d", "-RRB-", ":", "Number", "of", "terms", "in", "document", "d", "noise/occurrence", "P", "-LRB-", "t", "|", "c", "-RRB-", "-LRB-", "term", "noise", "-RRB-", "P", "-LRB-", "t", "|", "d", "-RRB-", "-LRB-", "term", "occurrence", "-RRB-", "containment", "P", "-LRB-", "d", "|", "c", "-RRB-", "-LRB-", "document", "-RRB-", "P", "-LRB-", "l", "|", "d", "-RRB-", "-LRB-", "location", "-RRB-", "informativeness", "-", "ln", "P", "-LRB-", "t", "|", "c", "-RRB-", "-", "ln", "P", "-LRB-", "t", "|", "d", "-RRB-", "conciseness", "-", "ln", "P", "-LRB-", "d", "|", "c", "-RRB-", "-", "ln", "P", "-LRB-", "l", "|", "d", "-RRB-", "P", "-LRB-", "informative", "-RRB-", "ln", "-LRB-", "P", "-LRB-", "t", "|", "c", "-RRB-", "-RRB-", "/", "ln", "-LRB-", "P", "-LRB-", "t", "min", ",", "c", "-RRB-", "-RRB-", "ln", "-LRB-", "P", "-LRB-", "t", "|", "d", "-RRB-", "-RRB-", "/", "ln", "-LRB-", "P", "-LRB-", "t", "min", ",", "d", "-RRB-", "-RRB-", "P", "-LRB-", "concise", "-RRB-", "ln", "-LRB-", "P", "-LRB-", "d", "|", "c", "-RRB-", "-RRB-", "/", "ln", "-LRB-", "P", "-LRB-", "d", "min", "|", "c", "-RRB-", "-RRB-", "ln", "-LRB-", "P", "-LRB-", "l", "|", "d", "-RRB-", "-RRB-", "/", "ln", "-LRB-", "P", "-LRB-", "l", "min", "|", "d", "-RRB-", "-RRB-", "Table", "1", ":", "Retrieval", "parameters", "actual", "term", "frequency", "value", ",", "it", "is", "common", "to", "use", "the", "maximal", "occurrence", "-LRB-", "number", "of", "locations", ";", "let", "lf", "be", "the", "location", "frequency", "-RRB-", ".", "tf", "-LRB-", "t", ",", "d", "-RRB-", ":", "=", "lf", "-LRB-", "t", ",", "d", "-RRB-", ":", "=", "P", "freq", "-LRB-", "t", "occurs", "|", "d", "-RRB-", "P", "freq", "-LRB-", "t", "max", "occurs", "|", "d", "-RRB-", "=", "n", "L", "-LRB-", "t", ",", "d", "-RRB-", "n", "L", "-LRB-", "t", "max", ",", "d", "-RRB-", "A", "further", "duality", "is", "between", "informativeness", "and", "conciseness", "-LRB-", "shortness", "of", "documents", "or", "locations", "-RRB-", ":", "informativeness", "is", "based", "on", "occurrence", "-LRB-", "noise", "-RRB-", ",", "conciseness", "is", "based", "on", "containment", ".", "We", "have", "highlighted", "in", "this", "section", "the", "duality", "between", "the", "collection", "space", "and", "the", "document", "space", ".", "We", "concentrate", "in", "this", "paper", "on", "the", "probability", "of", "a", "term", "to", "be", "noisy", "and", "informative", ".", "Those", "probabilities", "are", "defined", "in", "the", "collection", "space", ".", "However", ",", "the", "results", "regarding", "the", "term", "noise", "and", "informativeness", "apply", "to", "their", "dual", "counterparts", ":", "term", "occurrence", "and", "informativeness", "in", "a", "document", ".", "Also", ",", "the", "results", "can", "be", "applied", "to", "containment", "of", "documents", "and", "locations", "We", "showed", "in", "the", "previous", "sections", "that", "the", "disjointness", "assumption", "leads", "to", "frequency-based", "probabilities", "and", "that", "the", "independence", "assumption", "leads", "to", "Poisson", "probabilities", ".", "In", "this", "section", ",", "we", "formulate", "a", "frequency-based", "definition", "and", "a", "Poisson-based", "definition", "of", "the", "probability", "of", "being", "informative", "and", "then", "we", "compare", "the", "two", "definitions", ".", "Definition", "5", ".", "The", "frequency-based", "probability", "of", "being", "informative", ":", "P", "freq", "-LRB-", "t", "is", "informative", "|", "c", "-RRB-", ":", "=", "-", "ln", "n", "-LRB-", "t", "-RRB-", "N", "-", "ln", "1", "N", "=", "-", "log", "N", "n", "-LRB-", "t", "-RRB-", "N", "=", "1", "-", "log", "N", "n", "-LRB-", "t", "-RRB-", "=", "1", "-", "ln", "n", "-LRB-", "t", "-RRB-", "ln", "N", "We", "define", "the", "Poisson-based", "probability", "of", "being", "informative", "analogously", "to", "the", "frequency-based", "probability", "of", "being", "informative", "-LRB-", "see", "definition", "5", "-RRB-", ".", "Definition", "6", ".", "The", "Poisson-based", "probability", "of", "being", "informative", ":", "P", "poi", "-LRB-", "t", "is", "informative", "|", "c", "-RRB-", ":", "=", "ln", "e", "n", "-LRB-", "t", "-RRB-", "k", "=", "1", "k", "k", "!", "-", "ln", "-LRB-", "e", "-RRB-", "=", "-", "ln", "n", "-LRB-", "t", "-RRB-", "k", "=", "1", "k", "k", "!", "-", "ln", "For", "the", "sum", "expression", ",", "the", "following", "limit", "holds", ":", "lim", "n", "-LRB-", "t", "-RRB-", "n", "-LRB-", "t", "-RRB-", "k", "=", "1", "k", "k", "!", "=", "e", "-", "1", "For", ">", ">", "1", ",", "we", "can", "alter", "the", "noise", "and", "informativeness", "Poisson", "by", "starting", "the", "sum", "from", "0", ",", "since", "e", ">", ">", "1", ".", "Then", ",", "the", "minimal", "Poisson", "informativeness", "is", "poisson", "-LRB-", "0", ",", "-RRB-", "=", "e", ".", "We", "obtain", "a", "simplified", "Poisson", "probability", "of", "being", "informative", ":", "P", "poi", "-LRB-", "t", "is", "informative", "|", "c", "-RRB-", "-", "ln", "n", "-LRB-", "t", "-RRB-", "k", "=", "0", "k", "k", "!", "=", "1", "-", "ln", "n", "-LRB-", "t", "-RRB-", "k", "=", "0", "k", "k", "!", "The", "computation", "of", "the", "Poisson", "sum", "requires", "an", "optimi-sation", "for", "large", "n", "-LRB-", "t", "-RRB-", ".", "The", "implementation", "for", "this", "paper", "exploits", "the", "nature", "of", "the", "Poisson", "density", ":", "The", "Poisson", "density", "yields", "only", "values", "significantly", "greater", "than", "zero", "in", "an", "interval", "around", ".", "Consider", "the", "illustration", "of", "the", "noise", "and", "informativeness", "definitions", "in", "figure", "1", ".", "The", "probability", "functions", "displayed", "are", "summarised", "in", "figure", "2", "where", "the", "simplified", "Poisson", "is", "used", "in", "the", "noise", "and", "informativeness", "graphs", ".", "The", "frequency-based", "noise", "corresponds", "to", "the", "linear", "solid", "curve", "in", "the", "noise", "figure", ".", "With", "an", "independence", "assumption", ",", "we", "obtain", "the", "curve", "in", "the", "lower", "triangle", "of", "the", "noise", "figure", ".", "By", "changing", "the", "parameter", "p", ":", "=", "/", "N", "of", "the", "independence", "probability", ",", "we", "can", "lift", "or", "lower", "the", "independence", "curve", ".", "The", "noise", "figure", "shows", "the", "lifting", "for", "the", "value", ":", "=", "ln", "N", "9.2", ".", "The", "setting", "=", "ln", "N", "is", "special", "in", "the", "sense", "that", "the", "frequency-based", "and", "the", "Poisson-based", "informativeness", "have", "the", "same", "denominator", ",", "namely", "ln", "N", ",", "and", "the", "Poisson", "sum", "converges", "to", ".", "Whether", "we", "can", "draw", "more", "conclusions", "from", "this", "setting", "is", "an", "open", "question", ".", "We", "can", "conclude", ",", "that", "the", "lifting", "is", "desirable", "if", "we", "know", "for", "a", "collection", "that", "terms", "that", "occur", "in", "relatively", "few", "doc-232", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "2000", "4000", "6000", "8000", "10000", "Probability", "of", "being", "noisy", "n", "-LRB-", "t", "-RRB-", ":", "Number", "of", "documents", "with", "term", "t", "frequency", "independence", ":", "1/N", "independence", ":", "ln", "-LRB-", "N", "-RRB-", "/", "N", "poisson", ":", "1000", "poisson", ":", "2000", "poisson", ":", "1000,2000", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "2000", "4000", "6000", "8000", "10000", "Probability", "of", "being", "informative", "n", "-LRB-", "t", "-RRB-", ":", "Number", "of", "documents", "with", "term", "t", "frequency", "independence", ":", "1/N", "independence", ":", "ln", "-LRB-", "N", "-RRB-", "/", "N", "poisson", ":", "1000", "poisson", ":", "2000", "poisson", ":", "1000,2000", "Figure", "1", ":", "Noise", "and", "Informativeness", "Probability", "function", "Noise", "Informativeness", "Frequency", "P", "freq", "Def", "n", "-LRB-", "t", "-RRB-", "/", "N", "ln", "-LRB-", "n", "-LRB-", "t", "-RRB-", "/", "N", "-RRB-", "/", "ln", "-LRB-", "1/N", "-RRB-", "Interval", "1/N", "P", "freq", "1.0", "0.0", "P", "freq", "1.0", "Independence", "P", "in", "Def", "1", "-", "-LRB-", "1", "-", "p", "-RRB-", "n", "-LRB-", "t", "-RRB-", "ln", "-LRB-", "1", "-", "-LRB-", "1", "-", "p", "-RRB-", "n", "-LRB-", "t", "-RRB-", "-RRB-", "/", "ln", "-LRB-", "p", "-RRB-", "Interval", "p", "P", "in", "<", "1", "-", "e", "ln", "-LRB-", "p", "-RRB-", "P", "in", "1.0", "Poisson", "P", "poi", "Def", "e", "n", "-LRB-", "t", "-RRB-", "k", "=", "1", "k", "k", "!", "-LRB-", "-", "ln", "n", "-LRB-", "t", "-RRB-", "k", "=", "1", "k", "k", "!", "-RRB-", "/", "-LRB-", "-", "ln", "-RRB-", "Interval", "e", "P", "poi", "<", "1", "-", "e", "-LRB-", "-", "ln", "-LRB-", "e", "-", "1", "-RRB-", "-RRB-", "/", "-LRB-", "-", "ln", "-RRB-", "P", "poi", "1.0", "Poisson", "P", "poi", "simplified", "Def", "e", "n", "-LRB-", "t", "-RRB-", "k", "=", "0", "k", "k", "!", "-LRB-", "-", "ln", "n", "-LRB-", "t", "-RRB-", "k", "=", "0", "k", "k", "!", "-RRB-", "/", "Interval", "e", "P", "poi", "<", "1.0", "0.0", "<", "P", "poi", "1.0", "Figure", "2", ":", "Probability", "functions", "uments", "are", "no", "guarantee", "for", "finding", "relevant", "documents", ",", "i.", "e.", "we", "assume", "that", "rare", "terms", "are", "still", "relatively", "noisy", ".", "On", "the", "opposite", ",", "we", "could", "lower", "the", "curve", "when", "assuming", "that", "frequent", "terms", "are", "not", "too", "noisy", ",", "i.", "e.", "they", "are", "considered", "as", "being", "still", "significantly", "discriminative", ".", "The", "Poisson", "probabilities", "approximate", "the", "independence", "probabilities", "for", "large", "n", "-LRB-", "t", "-RRB-", ";", "the", "approximation", "is", "better", "for", "larger", ".", "For", "n", "-LRB-", "t", "-RRB-", "<", ",", "the", "noise", "is", "zero", "whereas", "for", "n", "-LRB-", "t", "-RRB-", ">", "the", "noise", "is", "one", ".", "This", "radical", "behaviour", "can", "be", "smoothened", "by", "using", "a", "multi-dimensional", "Poisson", "distribution", ".", "Figure", "1", "shows", "a", "Poisson", "noise", "based", "on", "a", "two-dimensional", "Poisson", ":", "poisson", "-LRB-", "k", ",", "1", ",", "2", "-RRB-", ":", "=", "e", "1", "k", "1", "k", "!", "+", "-LRB-", "1", "-", "-RRB-", "e", "2", "k", "2", "k", "!", "The", "two", "dimensional", "Poisson", "shows", "a", "plateau", "between", "1", "=", "1000", "and", "2", "=", "2000", ",", "we", "used", "here", "=", "0.5", ".", "The", "idea", "behind", "this", "setting", "is", "that", "terms", "that", "occur", "in", "less", "than", "1000", "documents", "are", "considered", "to", "be", "not", "noisy", "-LRB-", "i.e.", "they", "are", "informative", "-RRB-", ",", "that", "terms", "between", "1000", "and", "2000", "are", "half", "noisy", ",", "and", "that", "terms", "with", "more", "than", "2000", "are", "definitely", "noisy", ".", "For", "the", "informativeness", ",", "we", "observe", "that", "the", "radical", "behaviour", "of", "Poisson", "is", "preserved", ".", "The", "plateau", "here", "is", "approximately", "at", "1/6", ",", "and", "it", "is", "important", "to", "realise", "that", "this", "plateau", "is", "not", "obtained", "with", "the", "multi-dimensional", "Poisson", "noise", "using", "=", "0.5", ".", "The", "logarithm", "of", "the", "noise", "is", "normalised", "by", "the", "logarithm", "of", "a", "very", "small", "number", ",", "namely", "0.5", "e", "-1000", "+", "0.5", "e", "-2000", ".", "That", "is", "why", "the", "informativeness", "will", "be", "only", "close", "to", "one", "for", "very", "little", "noise", ",", "whereas", "for", "a", "bit", "of", "noise", ",", "informativeness", "will", "drop", "to", "zero", ".", "This", "effect", "can", "be", "controlled", "by", "using", "small", "values", "for", "such", "that", "the", "noise", "in", "the", "interval", "-LSB-", "1", ";", "2", "-RSB-", "is", "still", "very", "little", ".", "The", "setting", "=", "e", "-2000", "/", "6", "leads", "to", "noise", "values", "of", "approximately", "e", "-2000", "/", "6", "in", "the", "interval", "-LSB-", "1", ";", "2", "-RSB-", ",", "the", "logarithms", "lead", "then", "to", "1/6", "for", "the", "informativeness", ".", "The", "indepence-based", "and", "frequency-based", "informativeness", "functions", "do", "not", "differ", "as", "much", "as", "the", "noise", "functions", "do", ".", "However", ",", "for", "the", "indepence-based", "probability", "of", "being", "informative", ",", "we", "can", "control", "the", "average", "informativeness", "by", "the", "definition", "p", ":", "=", "/", "N", "whereas", "the", "control", "on", "the", "frequency-based", "is", "limited", "as", "we", "address", "next", ".", "For", "the", "frequency-based", "idf", ",", "the", "gradient", "is", "monotonously", "decreasing", "and", "we", "obtain", "for", "different", "collections", "the", "same", "distances", "of", "idf", "-", "values", ",", "i.", "e.", "the", "parameter", "N", "does", "not", "affect", "the", "distance", ".", "For", "an", "illustration", ",", "consider", "the", "distance", "between", "the", "value", "idf", "-LRB-", "t", "n", "+1", "-RRB-", "of", "a", "term", "t", "n", "+1", "that", "occurs", "in", "n", "+1", "documents", ",", "and", "the", "value", "idf", "-LRB-", "t", "n", "-RRB-", "of", "a", "term", "t", "n", "that", "occurs", "in", "n", "documents", ".", "idf", "-LRB-", "t", "n", "+1", "-RRB-", "-", "idf", "-LRB-", "t", "n", "-RRB-", "=", "ln", "n", "n", "+", "1", "The", "first", "three", "values", "of", "the", "distance", "function", "are", ":", "idf", "-LRB-", "t", "2", "-RRB-", "-", "idf", "-LRB-", "t", "1", "-RRB-", "=", "ln", "-LRB-", "1", "/", "-LRB-", "1", "+", "1", "-RRB-", "-RRB-", "=", "0.69", "idf", "-LRB-", "t", "3", "-RRB-", "-", "idf", "-LRB-", "t", "2", "-RRB-", "=", "ln", "-LRB-", "1", "/", "-LRB-", "2", "+", "1", "-RRB-", "-RRB-", "=", "0.41", "idf", "-LRB-", "t", "4", "-RRB-", "-", "idf", "-LRB-", "t", "3", "-RRB-", "=", "ln", "-LRB-", "1", "/", "-LRB-", "3", "+", "1", "-RRB-", "-RRB-", "=", "0.29", "For", "the", "Poisson-based", "informativeness", ",", "the", "gradient", "decreases", "first", "slowly", "for", "small", "n", "-LRB-", "t", "-RRB-", ",", "then", "rapidly", "near", "n", "-LRB-", "t", "-RRB-", "and", "then", "it", "grows", "again", "slowly", "for", "large", "n", "-LRB-", "t", "-RRB-", ".", "In", "conclusion", ",", "we", "have", "seen", "that", "the", "Poisson-based", "definition", "provides", "more", "control", "and", "parameter", "possibilities", "than", "233", "the", "frequency-based", "definition", "does", ".", "Whereas", "more", "control", "and", "parameter", "promises", "to", "be", "positive", "for", "the", "personalisa-tion", "of", "retrieval", "systems", ",", "it", "bears", "at", "the", "same", "time", "the", "danger", "of", "just", "too", "many", "parameters", ".", "The", "framework", "presented", "in", "this", "paper", "raises", "the", "awareness", "about", "the", "probabilistic", "and", "information-theoretic", "meanings", "of", "the", "parameters", ".", "The", "parallel", "definitions", "of", "the", "frequency-based", "probability", "and", "the", "Poisson-based", "probability", "of", "being", "informative", "made", "the", "underlying", "assumptions", "explicit", ".", "The", "frequency-based", "probability", "can", "be", "explained", "by", "binary", "occurrence", ",", "constant", "containment", "and", "disjointness", "of", "documents", ".", "Independence", "of", "documents", "leads", "to", "Poisson", ",", "where", "we", "have", "to", "be", "aware", "that", "Poisson", "approximates", "the", "probability", "of", "a", "disjunction", "for", "a", "large", "number", "of", "events", ",", "but", "not", "for", "a", "small", "number", ".", "This", "theoretical", "result", "explains", "why", "experimental", "investigations", "on", "Poisson", "-LRB-", "see", "-LSB-", "7", "-RSB-", "-RRB-", "show", "that", "a", "Poisson", "estimation", "does", "work", "better", "for", "frequent", "-LRB-", "bad", ",", "noisy", "-RRB-", "terms", "than", "for", "rare", "-LRB-", "good", ",", "informative", "-RRB-", "terms", ".", "In", "addition", "to", "the", "collection-wide", "parameter", "setting", ",", "the", "framework", "presented", "here", "allows", "for", "document-dependent", "settings", ",", "as", "explained", "for", "the", "independence", "probability", ".", "This", "is", "in", "particular", "interesting", "for", "heterogeneous", "and", "structured", "collections", ",", "since", "documents", "are", "different", "in", "nature", "-LRB-", "size", ",", "quality", ",", "root", "document", ",", "sub", "document", "-RRB-", ",", "and", "therefore", ",", "binary", "occurrence", "and", "constant", "containment", "are", "less", "appropriate", "than", "in", "relatively", "homogeneous", "collections", ".", "The", "definition", "of", "the", "probability", "of", "being", "informative", "transforms", "the", "informative", "interpretation", "of", "the", "idf", "into", "a", "probabilistic", "interpretation", ",", "and", "we", "can", "use", "the", "idf", "-", "based", "probability", "in", "probabilistic", "retrieval", "approaches", ".", "We", "showed", "that", "the", "classical", "definition", "of", "the", "noise", "-LRB-", "document", "frequency", "-RRB-", "in", "the", "inverse", "document", "frequency", "can", "be", "explained", "by", "three", "assumptions", ":", "the", "term", "within-document", "occurrence", "probability", "is", "binary", ",", "the", "document", "containment", "probability", "is", "constant", ",", "and", "the", "document", "containment", "events", "are", "disjoint", ".", "By", "explicitly", "and", "mathematically", "formulating", "the", "assumptions", ",", "we", "showed", "that", "the", "classical", "definition", "of", "idf", "does", "not", "take", "into", "account", "parameters", "such", "as", "the", "different", "nature", "-LRB-", "size", ",", "quality", ",", "structure", ",", "etc.", "-RRB-", "of", "documents", "in", "a", "collection", ",", "or", "the", "different", "nature", "of", "terms", "-LRB-", "coverage", ",", "importance", ",", "position", ",", "etc.", "-RRB-", "in", "a", "document", ".", "We", "discussed", "that", "the", "absence", "of", "those", "parameters", "is", "compensated", "by", "a", "leverage", "effect", "of", "the", "within-document", "term", "occurrence", "probability", "and", "the", "document", "containment", "probability", ".", "By", "applying", "an", "independence", "rather", "a", "disjointness", "assumption", "for", "the", "document", "containment", ",", "we", "could", "establish", "a", "link", "between", "the", "noise", "probability", "-LRB-", "term", "occurrence", "in", "a", "collection", "-RRB-", ",", "information", "theory", "and", "Poisson", ".", "From", "the", "frequency-based", "and", "the", "Poisson-based", "probabilities", "of", "being", "noisy", ",", "we", "derived", "the", "frequency-based", "and", "Poisson-based", "probabilities", "of", "being", "informative", ".", "The", "frequency-based", "probability", "is", "relatively", "smooth", "whereas", "the", "Poisson", "probability", "is", "radical", "in", "distinguishing", "between", "noisy", "or", "not", "noisy", ",", "and", "informative", "or", "not", "informative", ",", "respectively", ".", "We", "showed", "how", "to", "smoothen", "the", "radical", "behaviour", "of", "Poisson", "with", "a", "multi-dimensional", "Poisson", ".", "The", "explicit", "and", "mathematical", "formulation", "of", "idf", "-", "and", "Poisson-assumptions", "is", "the", "main", "result", "of", "this", "paper", ".", "Also", ",", "the", "paper", "emphasises", "the", "duality", "of", "idf", "and", "tf", ",", "collection", "space", "and", "document", "space", ",", "respectively", ".", "Thus", ",", "the", "result", "applies", "to", "term", "occurrence", "and", "document", "containment", "in", "a", "collection", ",", "and", "it", "applies", "to", "term", "occurrence", "and", "position", "containment", "in", "a", "document", ".", "This", "theoretical", "framework", "is", "useful", "for", "understanding", "and", "deciding", "the", "parameter", "estimation", "and", "combination", "in", "probabilistic", "retrieval", "models", ".", "The", "links", "between", "indepence-based", "noise", "as", "document", "frequency", ",", "probabilistic", "interpretation", "of", "idf", ",", "information", "theory", "and", "Poisson", "described", "in", "this", "paper", "may", "lead", "to", "variable", "probabilistic", "idf", "and", "tf", "definitions", "and", "combinations", "as", "required", "in", "advanced", "and", "personalised", "information", "retrieval", "systems", ".", "Acknowledgment", ":", "I", "would", "like", "to", "thank", "Mounia", "Lalmas", ",", "Gabriella", "Kazai", "and", "Theodora", "Tsikrika", "for", "their", "comments", "on", "the", "as", "they", "said", "``", "heavy", "''", "pieces", ".", "My", "thanks", "also", "go", "to", "the", "meta-reviewer", "who", "advised", "me", "to", "improve", "the", "presentation", "to", "make", "it", "less", "``", "formidable", "''", "and", "more", "accessible", "for", "those", "``", "without", "a", "theoretic", "bent", "''", ".", "This", "work", "was", "funded", "by", "a", "research", "fellowship", "from", "Queen", "Mary", "University", "of", "London", ".", "-LSB-", "1", "-RSB-", "A.", "Aizawa", ".", "An", "information-theoretic", "perspective", "of", "tf-idf", "measures", ".", "Information", "Processing", "and", "Management", ",", "39:45", "65", ",", "January", "2003", ".", "-LSB-", "2", "-RSB-", "G.", "Amati", "and", "C.", "J.", "Rijsbergen", ".", "Term", "frequency", "normalization", "via", "Pareto", "distributions", ".", "In", "24th", "BCS-IRSG", "European", "Colloquium", "on", "IR", "Research", ",", "Glasgow", ",", "Scotland", ",", "2002", ".", "-LSB-", "3", "-RSB-", "R.", "K.", "Belew", ".", "Finding", "out", "about", ".", "Cambridge", "University", "Press", ",", "2000", ".", "-LSB-", "4", "-RSB-", "A.", "Bookstein", "and", "D.", "Swanson", ".", "Probabilistic", "models", "for", "automatic", "indexing", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "25:312", "318", ",", "1974", ".", "-LSB-", "5", "-RSB-", "I.", "N.", "Bronstein", ".", "Taschenbuch", "der", "Mathematik", ".", "Harri", "Deutsch", ",", "Thun", ",", "Frankfurt", "am", "Main", ",", "1987", ".", "-LSB-", "6", "-RSB-", "K.", "Church", "and", "W.", "Gale", ".", "Poisson", "mixtures", ".", "Natural", "Language", "Engineering", ",", "1", "-LRB-", "2", "-RRB-", ":", "163", "190", ",", "1995", ".", "-LSB-", "7", "-RSB-", "K.", "W.", "Church", "and", "W.", "A.", "Gale", ".", "Inverse", "document", "frequency", ":", "A", "measure", "of", "deviations", "from", "poisson", ".", "In", "Third", "Workshop", "on", "Very", "Large", "Corpora", ",", "ACL", "Anthology", ",", "1995", ".", "-LSB-", "8", "-RSB-", "T.", "Lafouge", "and", "C.", "Michel", ".", "Links", "between", "information", "construction", "and", "information", "gain", ":", "Entropy", "and", "bibliometric", "distribution", ".", "Journal", "of", "Information", "Science", ",", "27", "-LRB-", "1", "-RRB-", ":", "39", "49", ",", "2001", ".", "-LSB-", "9", "-RSB-", "E.", "Margulis", ".", "N-poisson", "document", "modelling", ".", "In", "Proceedings", "of", "the", "15th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "177", "189", ",", "1992", ".", "-LSB-", "10", "-RSB-", "S.", "E.", "Robertson", "and", "S.", "Walker", ".", "Some", "simple", "effective", "approximations", "to", "the", "2-poisson", "model", "for", "probabilistic", "weighted", "retrieval", ".", "In", "Proceedings", "of", "the", "17th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "232", "241", ",", "London", ",", "et", "al.", ",", "1994", ".", "Springer-Verlag", ".", "-LSB-", "11", "-RSB-", "S.", "Wong", "and", "Y.", "Yao", ".", "An", "information-theoric", "measure", "of", "term", "specificity", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "43", "-LRB-", "1", "-RRB-", ":", "54", "61", ",", "1992", ".", "-LSB-", "12", "-RSB-", "S.", "Wong", "and", "Y.", "Yao", ".", "On", "modeling", "information", "retrieval", "with", "probabilistic", "inference", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "13", "-LRB-", "1", "-RRB-", ":", "38", "68", ",", "1995", ".", "234"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["document frequency", "normalisation", "maximal informative signal", "collection space", "independent documents", "information theory", "independence assumption", "probability of being informative", "noise probability", "term frequency", "disjoint documents", "probabilistic retrieval models", "poisson distribution", "assumptions", "entropy", "information search", "document space"], "abstractive_keyphrases": ["independent and disjoint documents", "inverse document frequency (idf)", "computer science", "frequency-based term noise probability", "frequency-based probability", "inverse document frequency", "poisson based probability", "poisson-based probability of being informative", "probabilistic information retrieval", "relevance-based ranking of retrieved objects", "probability theories", "document retrieval"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "124", "document": ["Learning", "Query", "Languages", "of", "Web", "Interfaces", "This", "paper", "studies", "the", "problem", "of", "automatic", "acquisition", "of", "the", "query", "languages", "supported", "by", "a", "Web", "information", "resource", ".", "We", "describe", "a", "system", "that", "automatically", "probes", "the", "search", "interface", "of", "a", "resource", "with", "a", "set", "of", "test", "queries", "and", "analyses", "the", "returned", "pages", "to", "recognize", "supported", "query", "operators", ".", "The", "automatic", "acquisition", "assumes", "the", "availability", "of", "the", "number", "of", "matches", "the", "resource", "returns", "for", "a", "submitted", "query", ".", "The", "match", "numbers", "are", "used", "to", "train", "a", "learning", "system", "and", "to", "generate", "classification", "rules", "that", "recognize", "the", "query", "operators", "supported", "by", "a", "provider", "and", "their", "syntactic", "encodings", ".", "These", "classification", "rules", "are", "employed", "during", "the", "automatic", "probing", "of", "new", "providers", "to", "determine", "query", "operators", "they", "support", ".", "We", "report", "on", "results", "of", "experiments", "with", "a", "set", "of", "real", "Web", "resources", ".", "Searching", "for", "relevant", "information", "is", "a", "primary", "activity", "on", "the", "Web", ".", "Often", ",", "people", "search", "for", "information", "using", "general-purpose", "search", "engines", ",", "such", "as", "Google", "or", "Yahoo!", ",", "which", "collect", "and", "index", "billions", "of", "Web", "pages", ".", "However", ",", "there", "exists", "an", "important", "part", "of", "the", "Web", "that", "remains", "unavailable", "for", "centralized", "indexing", ".", "This", "so-called", "``", "hidden", "''", "part", "of", "the", "Web", "includes", "the", "content", "of", "local", "databases", "and", "document", "collections", "accessible", "through", "search", "interfaces", "offered", "by", "various", "small", "-", "and", "middle-sized", "Web", "sites", ",", "including", "company", "sites", ",", "university", "sites", ",", "media", "sites", ",", "etc.", ".", "According", "to", "the", "study", "conducted", "by", "BrightPlanet", "in", "2000", "-LSB-", "6", "-RSB-", ",", "the", "size", "of", "the", "Hidden", "Web", "is", "about", "400", "to", "550", "times", "larger", "than", "the", "commonly", "defined", "-LRB-", "or", "``", "Visible", "''", "-RRB-", "World", "Wide", "Web", ".", "This", "surprising", "discovery", "has", "fed", "new", "research", "on", "collecting", "and", "organizing", "the", "Hidden", "Web", "resources", "-LSB-", "1", ",", "2", ",", "15", ",", "17", ",", "19", "-RSB-", ".", "Commercial", "approaches", "to", "the", "Hidden", "Web", "are", "usually", "in", "the", "shape", "of", "Yahoo!", "-", "like", "directories", "which", "organize", "local", "sites", "belonging", "to", "specific", "domains", ".", "Some", "important", "examples", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SAC", "'", "04", ",", "March", "14-17", ",", "2004", ",", "Nicosia", ",", "Cyprus", "Copyright", "2004", "ACM", "1-58113-812-1", "/", "03/04", "...", "$", "5.00", ".", "of", "such", "directories", "are", "InvisibleWeb", "-LSB-", "1", "-RSB-", "and", "BrightPlanet", "-LSB-", "2", "-RSB-", "whose", "gateway", "site", ",", "CompletePlanet", "-LSB-", "3", "-RSB-", ",", "is", "a", "directory", "as", "well", "as", "a", "meta-search", "engine", ".", "For", "each", "database", "incorporated", "into", "its", "search", ",", "the", "meta-search", "engine", "is", "provided", "with", "a", "manually", "written", "``", "wrapper", "''", ",", "a", "software", "component", "that", "specifies", "how", "to", "submit", "queries", "and", "extract", "query", "answers", "embedded", "into", "HTML-formatted", "result", "pages", ".", "Similar", "to", "the", "Visible", "Web", ",", "search", "resources", "on", "the", "Hidden", "Web", "are", "highly", "heterogeneous", ".", "In", "particular", ",", "they", "use", "different", "document", "retrieval", "models", ",", "such", "as", "Boolean", "or", "vector-space", "models", ".", "They", "allow", "different", "operators", "for", "the", "query", "formulation", "and", ",", "moreover", ",", "the", "syntax", "of", "supported", "operators", "can", "vary", "from", "one", "site", "to", "another", ".", "Conventionally", ",", "query", "languages", "are", "determined", "manually", ";", "reading", "the", "help", "pages", "associated", "with", "a", "given", "search", "interface", ",", "probing", "the", "interface", "with", "sample", "queries", "and", "checking", "the", "result", "pages", "is", "often", "the", "method", "of", "choice", ".", "The", "manual", "acquisition", "of", "Web", "search", "interfaces", "has", "important", "drawbacks", ".", "First", ",", "the", "manual", "approach", "is", "hardly", "scalable", "to", "thousands", "of", "search", "resources", "that", "compose", "the", "Hidden", "Web", ".", "Second", ",", "the", "manual", "testing", "of", "Web", "resources", "with", "probe", "queries", "is", "often", "error-prone", "due", "to", "the", "inability", "to", "check", "results", ".", "Third", ",", "cases", "of", "incorrect", "or", "incomplete", "help", "pages", "are", "frequent", ".", "Operators", "that", "are", "actually", "supported", "by", "an", "engine", "may", "not", "be", "mentioned", "in", "the", "help", "pages", ",", "and", "conversely", ",", "help", "pages", "might", "mention", "operators", "that", "are", "not", "supported", "by", "the", "engine", ".", "To", "overcome", "the", "shortcomings", "of", "the", "manual", "approach", ",", "we", "address", "the", "problem", "of", "acquiring", "the", "query", "languages", "of", "Web", "resources", "in", "an", "automatic", "manner", ".", "We", "develop", "a", "system", "that", "automatically", "probes", "a", "resource", "'s", "search", "interface", "with", "a", "set", "of", "test", "queries", "and", "analyses", "the", "returned", "pages", "to", "recognize", "supported", "query", "operators", ".", "The", "automatic", "acquisition", "assumes", "the", "availability", "of", "the", "number", "of", "matches", "the", "resource", "returns", "for", "a", "submitted", "query", ".", "The", "match", "numbers", "are", "used", "to", "train", "a", "learning", "system", "and", "to", "generate", "classification", "rules", "that", "recognize", "the", "query", "operators", "supported", "by", "a", "provider", "and", "their", "syntactic", "encodings", ".", "New", "technologies", "surrounding", "the", "XML", "syntax", "standard", ",", "in", "particular", "Web", "Services", "-LSB-", "18", "-RSB-", ",", "establish", "a", "new", "basis", "for", "automatic", "discovery", "and", "information", "exchange", "and", "are", "becoming", "widely", "employed", "in", "corporate", "applications", ".", "However", ",", "this", "has", "yet", "to", "happen", "for", "thousands", "of", "public", "information", "providers", ".", "The", "question", "of", "when", "and", "how", "they", "will", "move", "toward", "open", "cooperation", "using", "Web", "Service", "technologies", "remains", "widely", "open", "-LSB-", "4", "-RSB-", ".", "Instead", ",", "the", "query-probing", "approach", "for", "acquiring", "supported", "operators", "does", "not", "assume", "any", "cooperation", "of", "Web", "providers", ";", "its", "only", "requirement", "is", "that", "they", "1114", "2004", "ACM", "Symposium", "on", "Applied", "Computing", "provide", "an", "accessible", "interface", "and", "allow", "queries", "to", "be", "run", ".", "This", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", "we", "discuss", "the", "heterogeneity", "of", "Web", "interfaces", ";", "we", "formalize", "the", "problem", "and", "show", "its", "connection", "with", "the", "concept", "of", "learning", "by", "querying", "in", "Section", "3", ".", "In", "Section", "4", "we", "design", "a", "classifier", "system", "for", "the", "automatic", "acquisition", "of", "a", "query", "language", "and", "investigate", "different", "aspects", "of", "the", "system", ".", "In", "Section", "6", "we", "review", "the", "prior", "art", ";", "in", "Section", "5", "we", "present", "experimental", "results", "to", "illustrate", "the", "performance", "of", "our", "system", ".", "Section", "7", "discusses", "open", "issues", "and", "Section", "8", "concludes", "the", "paper", ".", "Web", "resources", "vary", "considerably", "in", "the", "ways", "they", "retrieve", "relevant", "documents", ".", "In", "the", "theory", "of", "information", "retrieval", ",", "there", "exist", "at", "least", "five", "basic", "retrieval", "models", ",", "but", "only", "three", "of", "these", "models", "are", "visible", "on", "the", "Web", ",", "namely", "the", "Boolean", ",", "the", "extended", "Boolean", "and", "the", "vector-space", "models", ".", "In", "the", "Boolean", "query", "model", ",", "a", "query", "is", "a", "condition", ",", "which", "documents", "either", "do", "or", "do", "not", "satisfy", ",", "with", "the", "query", "result", "being", "a", "set", "of", "documents", ".", "In", "the", "vector-space", "model", ",", "a", "query", "is", "a", "list", "of", "terms", ",", "and", "documents", "are", "assigned", "a", "score", "according", "to", "how", "similar", "they", "are", "to", "the", "query", ".", "The", "query", "result", "is", "a", "ranked", "list", "of", "documents", ".", "A", "document", "in", "the", "query", "result", "might", "not", "contain", "all", "query", "terms", ".", "Finally", ",", "the", "extended", "Boolean", "model", "combines", "the", "advantages", "of", "both", "the", "Boolean", "and", "the", "vector-space", "query", "model", ".", "In", "this", "model", ",", "keywords", "can", "be", "preceded", "by", "special", "characters", "-LRB-", "like", "+", "and", "-", "-RRB-", "requiring", "an", "obligatory", "presence", "or", "absence", "of", "a", "given", "keyword", "in", "a", "document", ".", "For", "example", ",", "the", "query", "+", "information", "+", "provider", "will", "retrieve", "all", "documents", "containing", "both", "keywords", "and", "rank", "them", "according", "to", "some", "similarity", "function", ".", "Analysis", "of", "information", "providers", "suggests", "that", "the", "majority", "of", "providers", "adopt", "one", "of", "the", "three", "basic", "models", ".", "Moreover", ",", "beyond", "query", "answers", ",", "many", "resources", "report", "the", "number", "of", "documents", "in", "their", "collections", "matching", "the", "query", ".", "If", "a", "resource", "deploys", "the", "-LRB-", "extended", "-RRB-", "Boolean", "model", ",", "the", "match", "number", "shows", "how", "many", "documents", "match", "the", "query", ".", "In", "the", "case", "of", "the", "vector-space", "model", ",", "the", "match", "number", "refers", "to", "documents", "containing", "at", "least", "one", "query", "term", ",", "thus", "being", "equivalent", "to", "the", "Boolean", "disjunction", ".", "In", "the", "following", ",", "we", "develop", "an", "approach", "for", "automatic", "determination", "of", "query", "operators", "by", "reasoning", "on", "submitted", "queries", "and", "corresponding", "match", "numbers", ".", "Though", "this", "approach", "excludes", "resources", "that", "do", "not", "report", "match", "numbers", ",", "other", "ways", "of", "automatic", "detection", "of", "query", "operators", "appear", "even", "more", "problematic", "and", "difficult", "to", "implement", ".", "A", "method", "based", "on", "downloading", "answer", "documents", "and", "verifying", "the", "query", "against", "their", "content", "often", "fails", ",", "either", "for", "legal", "reasons", ",", "when", "the", "content", "of", "documents", "is", "unavailable", "or", "password-protected", ",", "or", "for", "technical", "reasons", ",", "when", "a", "query", "matches", "millions", "of", "documents", "and", "downloading", "even", "a", "part", "of", "them", "requires", "prohibitive", "time", "and", "network", "resources", ".", "2.1", "Query", "language", "model", "A", "query", "language", "of", "a", "Web", "provider", "includes", "a", "set", "of", "basic", "operators", "and", "the", "way", "of", "combining", "the", "operators", "to", "get", "complex", "queries", ".", "Basic", "operators", "have", "different", "arities", ",", "in", "particular", ",", "the", "default", "term", "processing", "and", "the", "unary", "and", "binary", "operators", ".", "The", "default", "processing", "refers", "primarily", "to", "case", "sensitivity", "in", "this", "paper", ",", "but", "we", "could", "also", "refer", "to", "whether", "the", "query", "term", "is", "treated", "as", "a", "complete", "word", "or", "as", "a", "substring", "in", "a", "possible", "matching", "document", ".", "Unary", "operators", "include", "the", "Stem-operator", ",", "which", "replaces", "a", "query", "term", "with", "its", "lexem", ";", "binary", "operators", "include", "the", "Boolean", "operators", "-LRB-", "conjunction", "-RRB-", ",", "-LRB-", "disjunction", "-RRB-", ",", "and", "-LRB-", "negation", "-RRB-", "1", "and", "the", "operator", "P", "hrase", "which", "requires", "the", "adjacency", "of", "all", "terms", "in", "a", "document", ".", "Some", "other", "operators", ",", "like", "substring", "matching", "or", "word", "proximity", "operators", "have", "been", "studied", "in", "various", "systems", ",", "however", "the", "six", "query", "operators", "mentioned", "above", "are", "by", "far", "the", "ones", "most", "frequently", "supported", "by", "Web", "interfaces", ".", "In", "the", "following", ",", "we", "develop", "a", "method", "to", "cope", "with", "the", "operator", "set", "O", "=", "-LCB-", "Case", ",", "Stem", ",", ",", ",", ",", "P", "hrase", "-RCB-", ".", "Issues", "relevant", "to", "the", "possible", "extension", "of", "set", "O", "with", "other", "operators", "are", "delegated", "to", "Section", "7", ".", "2.2", "Query", "interpretation", "Web", "providers", "are", "queried", "by", "filling", "their", "search", "forms", "with", "query", "strings", ".", "CGI", "or", "JavaScript", "code", "linked", "to", "the", "query", "form", "interprets", "the", "query", "strings", "according", "to", "certain", "rules", ".", "These", "rules", "allow", "syntactic", "encodings", "for", "the", "supported", "query", "operators", ".", "If", "correctly", "interpreted", ",", "the", "query", "is", "executed", "on", "the", "document", "collection", "before", "a", "-LRB-", "full", "or", "partial", "-RRB-", "answer", "is", "reported", "to", "the", "user", ".", "Unfortunately", ",", "the", "same", "query", "operator", "may", "be", "encoded", "differently", "by", "different", "providers", ".", "For", "example", ",", "the", "Boolean", "conjunction", "is", "often", "encoded", "as", "A", "AND", "B", ",", "A", "B", ",", "or", "+", "A", "+", "B", ",", "where", "A", "and", "B", "are", "query", "terms", ".", "Worse", ",", "two", "providers", "can", "interpret", "the", "same", "query", "string", "differently", ".", "For", "example", ",", "query", "string", "A", "B", "can", "be", "interpreted", "as", "a", "Boolean", "conjunction", ",", "Boolean", "disjunction", ",", "or", "P", "hrase", ".", "Example", "1", ".", "To", "illustrate", "the", "problem", ",", "consider", "the", "query", "string", "q", "=", "Casablanca", "AND", "Bogart", ".", "On", "Google", ",", "AND", "is", "interpreted", "as", "the", "Boolean", "conjunction", ",", "that", "is", ",", "i", "Google", "-LRB-", "Casablanca", "AND", "Bogart", "-RRB-", "=", "Casablanca", "Bogart", ".", "As", "a", "result", ",", "query", "q", "matches", "24,500", "pages", "at", "Google", ",", "as", "op-posed", "to", "551,000", "for", "query", "q", "1", "=", "Casablanca", "and", "263,000", "for", "q", "2", "=", "Bogart", ".", "On", "the", "Internet", "Movie", "Database", "-LRB-", "IMDB", "-RRB-", "-LRB-", "http://www.imdb.com/", ".", "-RRB-", ",", "AND", "is", "taken", "literally", "and", "all", "terms", "in", "a", "query", "are", "implicitly", "OR-connected", ".", "Therefore", ",", "the", "IMDB", "interprets", "query", "q", "as", "follows", ":", "i", "IM", "DB", "-LRB-", "Casablanca", "AND", "Bogart", "-RRB-", "=", "Casablanca", "AND", "Bogart", ".", "The", "query", "returns", "12,020", "matches", "documents", "on", "IMDB", ",", "as", "op-posed", "to", "only", "22", "for", "q", "1", "=", "Casablanca", "and", "4", "for", "q", "2", "=", "Bogart", ".", "If", "we", "investigate", "an", "unknown", "query", "language", ",", "then", "Example", "1", "shows", "that", "observing", "match", "numbers", "for", "probe", "queries", "can", "provide", "a", "good", "insight", "into", "the", "supported", "operators", ".", "However", ",", "no", "definitive", "decision", "appears", "possible", "from", "the", "three", "queries", "above", "q", ",", "q", "1", ",", "q", "2", ".", "An", "accurate", "decision", "on", "supported", "operators/syntaxes", "will", "require", "probing", "the", "provider", "with", "other", "queries", "and", "comparing", "all", "match", "numbers", "in", "order", "to", "confirm", "or", "reject", "various", "hypotheses", ".", "Example", "2", ".", "As", "in", "Example", "1", ",", "let", "us", "compare", "match", "numbers", "for", "the", "queries", "q", "=", "Casablanca", "AND", "Bogart", ",", "q", "1", "=", "Casablanca", ",", "and", "q", "2", "=", "Bogart", ".", "For", "Google", ",", "the", "fact", "that", "q", "matches", "less", "documents", "than", "any", "of", "q", "1", "and", "q", "2", ",", "favors", "the", "Conjunction-hypotheses", ",", "but", "is", "still", "insufficient", "to", "exclude", "other", "hypotheses", ",", "like", "that", "of", "P", "hrase", ".", "Probing", "Google", "with", "query", "q", "3", "=", "Bogart", "AND", "Casablanca", "returns", "the", "same", "number", "of", "matched", "documents", "as", "q", ".", "This", "-LRB-", "most", "likely", "-RRB-", "discards", "the", "P", "hrase-hypothesis", ",", "but", "not", "the", "hypothesis", "Casablanca", "AND", "1", "Negation", "is", "a", "binary", "operator", "in", "Web", "query", "languages", "and", "its", "interpretation", "is", "given", "by", "`", "AND", "NOT", "'", ",", "that", "is", ",", "A", "B", "is", "a", "synonym", "for", "A", "B", "-LRB-", "the", "latter", "using", "the", "unary", "-RRB-", ".", "1115", "Bogart", ".", "To", "exclude", "this", "one", ",", "even", "more", "queries", "should", "be", "sent", "to", "Google", ",", "like", "q", "4", "=", "Casablanca", "AND", ",", "and", "so", "on", ".", "Sim-ilarly", "in", "IMDB", ",", "the", "fact", "that", "query", "q", "matches", "more", "documents", "than", "q", "1", "and", "q", "2", "suggests", "that", "q", "is", "processed", "as", "a", "disjunction", ",", "but", "it", "can", "not", "tell", "whether", "AND", "is", "taken", "literally", "or", "ignored", ".", "A", "deeper", "analysis", "requires", "further", "probing", "IMDB", "with", ",", "for", "example", ",", "queries", "q", "4", "=", "Casablanca", "AND", "or", "q", "5", "=", "Casablanca", "Bogart", "to", "compare", "their", "match", "numbers", "to", "the", "ones", "of", "previous", "queries", "and", "decide", "about", "the", "AND", ".", "Our", "approach", "to", "the", "automatic", "acquisition", "of", "Web", "query", "languages", "formalizes", "and", "generalizes", "the", "idea", "described", "in", "Examples", "1", "and", "2", ".", "We", "build", "a", "learning", "system", "that", "trains", "a", "number", "of", "classifiers", "with", "data", "from", "manually", "annotated", "sites", "to", "automatically", "determine", "supported", "operators", "and", "their", "syntaxes", "at", "a", "new", "site", ".", "The", "training", "data", "from", "annotated", "sites", "includes", "an", "ensemble", "of", "test", "queries", "together", "with", "the", "corresponding", "match", "numbers", ".", "Assume", "an", "information", "provider", "P", "supports", "some", "or", "all", "query", "operators", "in", "O", ";", "these", "operators", "form", "a", "set", "O", "P", ",", "O", "P", "O", "and", "allow", "us", "to", "compose", "a", "set", "of", "complex", "queries", "Q", "-LRB-", "O", "P", "-RRB-", ".", "For", "any", "operator", "o", "i", "O", "P", ",", "P", "accepts", "one", "or", "more", "syntactical", "encodings", ",", "s", "i1", ",", "s", "i2", ",", "...", ".", "The", "set", "-LCB-", "s", "ij", "-RCB-", "of", "accepted", "syntaxes", "for", "o", "i", "O", "P", "is", "denoted", "S", "i", ".", "The", "interpretation", "I", "P", "of", "operator", "set", "O", "P", "is", "defined", "as", "I", "P", "=", "-LCB-", "-LRB-", "o", "i", ",", "s", "ij", "-RRB-", "|", "o", "i", "O", "P", ",", "s", "ij", "S", "i", "-RCB-", "=", "-LCB-", "-LRB-", "o", "i", ",", "S", "i", "-RRB-", "|", "o", "i", "O", "P", "-RCB-", ".", "Interpretation", "I", "P", "is", "monovalued", "if", "each", "operator", "has", "at", "most", "one", "syntax", ",", "i.e", ",", "|", "S", "i", "|", "=", "1", "for", "all", "o", "i", "O", "P", ".", "I", "P", "is", "multivalued", ",", "if", "it", "allows", "multiple", "syntaxes", "for", "at", "least", "one", "operator", ",", "i.e.", ",", "o", "i", "O", "P", "such", "that", "|", "S", "i", "|", ">", "1", ".", "In", "Google", ",", "the", "Boolean", "conjunction", "can", "be", "encoded", "by", "both", "AND", "and", "-LRB-", "whitespace", "-RRB-", ".", "Therefore", ",", "for", "any", "query", "terms", "A", "and", "B", ",", "both", "query", "strings", "A", "B", "and", "A", "AND", "B", "are", "interpreted", "as", "A", "B.", "I", "Google", "contains", "-LRB-", ",", "AND", "-RRB-", "and", "-LRB-", ",", "-RRB-", "and", "is", "a", "multivalued", "interpretation", ".", "We", "distinguish", "between", "ambiguous", "and", "unambiguous", "interpretations", ".", "A", "pair", "of", "distinct", "operator", "encodings", "-LRB-", "o", "i", ",", "s", "ij", "-RRB-", "and", "-LRB-", "o", "k", ",", "s", "kl", "-RRB-", "is", "ambiguous", "if", "the", "two", "operators", "have", "the", "same", "syntax", ":", "o", "i", "=", "o", "k", "but", "s", "ij", "=", "s", "kl", ".", "An", "interpretation", "I", "P", "is", "ambiguous", ",", "if", "it", "contains", "at", "least", "one", "ambiguous", "pair", "of", "encodings", ".", "An", "interpretation", "I", "is", "unambiguous", ",", "if", "for", "any", "pair", "of", "encodings", "-LRB-", "o", "i", ",", "s", "ij", "-RRB-", "and", "-LRB-", "o", "k", ",", "s", "kl", "-RRB-", "in", "I", ",", "o", "i", "=", "o", "k", "s", "ij", "=", "s", "kl", ".", "Ambiguous", "interpretations", "can", "be", "observed", "with", "Web", "providers", "that", "interpret", "query", "strings", "dynamically", ",", "when", "the", "final", "decision", "depends", "on", "results", "of", "the", "query", "execution", "with", "different", "retrieval", "models", "2", ".", "However", ",", "the", "major", "part", "of", "Web", "providers", "interpret", "query", "strings", "unambiguously", "and", "our", "method", "copes", "with", "unambiguous", "interpretations", "only", ".", "Further", "discussion", "on", "ambiguous", "interpretations", "is", "in", "Section", "7", ".", "Like", "with", "the", "query", "operators", ",", "we", "select", "the", "most", "frequent", "syntaxes", "on", "the", "Web", ",", "S", "=", "-LCB-", "Default", "3", ",", ",", ",", "AND", ",", "+", ",", "OR", ",", "NOT", ",", "-", ",", "''", "''", "-LRB-", "quote", "marks", "-RRB-", "-RCB-", ".", "Like", "set", "O", ",", "these", "syntaxes", "have", "been", "selected", "after", "verification", "of", "hundreds", "of", "Web", "providers", ".", "Set", "S", "is", "easily", "extendable", "to", "alternative", "syntaxes", ",", "like", "ones", "employed", "by", "non-English", "providers", ".", "For", "2", "Citeseer", "at", "http://citeseer.nj.nec.com/cs", "is", "an", "example", "of", "ambiguous", "interpretation", ".", "By", "default", ",", "it", "interprets", "A", "B", "as", "a", "conjunction", ";", "however", "if", "A", "B", "matches", "zero", "documents", ",", "the", "query", "is", "interpreted", "as", "disjunction", ".", "3", "`", "Default", "'", "refers", "to", "the", "absence", "of", "any", "syntax", ";", "it", "assumes", "the", "processing", "of", "plain", "terms", ".", "example", ",", "French", "providers", "may", "use", "ET", "for", "the", "Boolean", "conjunction", "and", "OU", "for", "the", "disjunction", ".", "The", "theoretical", "framework", "for", "the", "query", "language", "acquisition", "is", "derived", "from", "the", "learning", "of", "an", "unknown", "concept", "by", "querying", "-LSB-", "5", "-RSB-", ".", "Assume", "that", "provider", "P", "supports", "the", "basic", "operators", "in", "O", ";", "complex", "queries", "composed", "from", "the", "basic", "operators", "form", "a", "set", "Q", "-LRB-", "O", "-RRB-", ".", "For", "the", "document", "collection", "at", "P", ",", "query", "q", "Q", "-LRB-", "O", "-RRB-", "constrains", "a", "subset", "P", "-LRB-", "q", "-RRB-", "of", "documents", "matching", "q", ".", "An", "abstract", "query", "q", "Q", "-LRB-", "O", "-RRB-", "is", "mapped", "into", "a", "textual", "string", "with", "a", "mapping", "M", ":", "O", "2", "S", "that", "defines", "-LRB-", "possibly", "multiple", "-RRB-", "syntaxes", "for", "operators", "in", "O", ".", "The", "mapping", "of", "a", "complex", "query", "q", "is", "denoted", "m", "-LRB-", "q", "-RRB-", ",", "the", "set", "of", "mapped", "queries", "is", "denoted", "Q", "-LRB-", "S", "-RRB-", "=", "Q", "-LRB-", "M", "-LRB-", "O", "-RRB-", "-RRB-", ".", "The", "sets", "O", "and", "S", "are", "assumed", "to", "be", "known", ",", "whereas", "the", "mapping", "M", "is", "unknown", ".", "We", "are", "given", "an", "oracle", "that", "can", "be", "queried", "with", "a", "mapped", "query", "m", "-LRB-", "q", "-RRB-", "Q", "-LRB-", "S", "-RRB-", "on", "the", "size", "of", "subset", "P", "-LRB-", "q", "-RRB-", ",", "oracle", "-LRB-", "m", "-LRB-", "q", "-RRB-", "-RRB-", "=", "|", "P", "-LRB-", "q", "-RRB-", "|", ".", "By", "observing", "the", "or-acle", "'s", "responses", "to", "queries", ",", "the", "learning", "system", "should", "produce", "a", "hypothesis", "on", "the", "mapping", "M", ",", "which", "should", "be", "as", "close", "as", "possible", "to", "the", "correct", "one", ".", "The", "identification", "of", "the", "mapping", "M", "may", "be", "simple", "under", "certain", "circumstances", ".", "Below", "we", "show", "an", "example", "of", "reconstruction", "when", "O", "P", "includes", "a", "particular", "subset", "of", "operators", "and", "the", "oracle", "is", "noiseless", ".", "Example", "3", ".", "Let", "O", "include", "the", "three", "Boolean", "operators", "-LRB-", ",", "and", "-RRB-", "and", "P", "hrase", ".", "Then", ",", "for", "a", "given", "syntax", "set", "S", ",", "any", "unambiguous", "mapping", "M", ":", "O", "2", "S", "can", "be", "exactly", "identified", "if", "the", "oracle", "is", "noise-less", "4", ".", "In", "such", "a", "case", ",", "subset", "sizes", "returned", "by", "the", "oracle", "fit", "the", "Boolean", "logic", "on", "sets.Indeed", ",", "when", "querying", "the", "oracle", "with", "terms", "A", "and", "B", "and", "syntaxes", "from", "S", ",", "the", "disjunction", "is", "distinguishable", "from", "other", "operators", "by", "the", "fact", "that", "it", "constrains", "bigger", "subsets", "in", "a", "collection", "than", "any", "of", "terms", "does", ":", "|", "A", "B", "|", "|", "A", "|", ",", "|", "A", "B", "|", "|", "B", "|", "-LRB-", "1", "-RRB-", "Furthermore", ",", "among", "three", "other", "operators", ",", "the", "conjunction", "is", "recognized", "by", "its", "commutativity", ":", "|", "A", "B", "|", "=", "|", "B", "A", "|", "-LRB-", "2", "-RRB-", "Finally", ",", "the", "difference", "between", "negation", "and", "phrases", "is", "detected", "by", "the", "basic", "equation", "linking", "three", "Boolean", "operators", ":", "|", "A", "B", "|", "=", "|", "A", "B", "|", "+", "|", "A", "B", "|", "+", "|", "B", "A", "|", "-LRB-", "3", "-RRB-", "Sizes", "of", "subsets", "constrained", "by", "the", "Boolean", "operators", "satisfy", "the", "disequation", "-LRB-", "1", "-RRB-", "and", "equations", "-LRB-", "2", "-RRB-", ",", "-LRB-", "3", "-RRB-", "for", "any", "pair", "of", "A", "and", "B", ",", "so", "one", "can", "easily", "design", "a", "learning", "system", "that", "exactly", "identifies", "an", "unambiguous", "mapping", "M", "after", "only", "a", "few", "probing", "queries", ".", "Unfortunately", ",", "easy", "identification", "of", "the", "mapping", "M", "is", "rather", "an", "exception", "on", "the", "real", "Web", ",", "where", "few", "if", "any", "of", "the", "assumptions", "made", "in", "Example", "3", "become", "true", ".", "First", ",", "any", "change", "in", "the", "operator", "set", "O", "p", "makes", "the", "exact", "reconstruction", "less", "obvious", ".", "If", "the", "conjunction", "and/or", "disjunction", "are", "not", "supported", ",", "then", "the", "size", "of", "A", "B", "-LRB-", "or", "A", "B", "-RRB-", "is", "unavailable", "and", "equation", "-LRB-", "3", "-RRB-", "can", "not", "help", "distinguish", "negation", "from", "phrases", ".", "In", "cases", "like", "this", ",", "the", "identification", "of", "supported", "syntaxes", "requires", "an", "analysis", "of", "the", "semantic", "correlation", "between", "query", "terms", "A", "and", "B", "and", "guessing", "on", "their", "co-occurrence", "in", "-LRB-", "unknown", "-RRB-", "document", "collections", ".", "4", "Oracle", "noiseless", "assumes", "the", "pure", "Boolean", "logics", ",", "with", "no", "query", "preprocessing", ",", "like", "the", "stopword", "removal", ".", "1116", "Second", ",", "Web", "query", "interfaces", "that", "play", "the", "role", "of", "oracles", "and", "return", "sizes", "of", "subsets", "constrained", "by", "queries", "m", "-LRB-", "q", "-RRB-", "Q", "-LRB-", "S", "-RRB-", "are", "rarely", "noiseless", ".", "When", "probing", "interfaces", "with", "test", "queries", ",", "the", "match", "numbers", "may", "violate", "equations", "-LRB-", "2", "-RRB-", "and", "-LRB-", "3", "-RRB-", ".", "Most", "violations", "happen", "because", "converting", "query", "strings", "into", "queries", "on", "collections", "hides", "the", "stop-word", "removal", "and", "term", "stemming", ".", "It", "is", "not", "clear", ",", "whether", "queries", "like", "A", "AND", "B", "are", "interpreted", "as", "one", "-LRB-", "A", "is", "a", "stopword", "-RRB-", ",", "two", ",", "or", "three", "terms", ".", "Moreover", ",", "for", "the", "performance", "reasons", ",", "real", "match", "numbers", "are", "often", "replaced", "by", "their", "estimations", "which", "are", "calculated", "using", "various", "collection", "statistics", "-LSB-", "13", "-RSB-", ",", "without", "the", "real", "retrieval", "of", "documents", "matching", "the", "query", ".", "To", "automatically", "determine", "supported", "query", "operators", ",", "we", "reduce", "the", "overall", "problem", "to", "a", "set", "of", "classification", "tasks", ",", "where", "each", "task", "is", "associated", "with", "recognizing", "a", "specific", "query", "operator", "or", "syntax", ",", "and", "where", "some", "standard", "learning", "algorithms", "like", "SVM", ",", "k-nearest", "neighbors", "or", "decision", "trees", "can", "be", "applied", ".", "To", "build", "the", "classifiers", ",", "we", "collect", "and", "annotate", "a", "set", "of", "Web", "providers", ".", "We", "develop", "a", "set", "of", "test", "queries", "and", "probe", "all", "selected", "providers", "with", "the", "test", "queries", ".", "We", "train", "the", "classifiers", "with", "query", "matches", "for", "test", "queries", ".", "For", "any", "new", "provider", ",", "we", "first", "probe", "it", "with", "the", "test", "queries", ".", "Query", "matches", "returned", "by", "the", "provider", "upon", "test", "queries", "are", "used", "to", "automatically", "classify", "operators", "and", "syntaxes", "and", "produce", "an", "unambiguous", "interpretation", "for", "P", ".", "To", "achieve", "a", "good", "level", "of", "classification", "accuracy", ",", "we", "investigate", "different", "aspects", "of", "the", "learning", "system", "including", "the", "target", "function", ",", "probe", "queries", ",", "data", "preparation", ",", "and", "feature", "encoding", "and", "selection", ".", "4.1", "Target", "function", "Due", "to", "the", "multivalued", "relationships", "between", "query", "operators", "and", "syntaxes", ",", "the", "target", "function", "for", "our", "learning", "system", "has", "two", "alternatives", ",", "one", "for", "the", "direct", "mapping", "M", "and", "the", "other", "one", "for", "the", "inverted", "mapping", "M", "-1", ":", "T", "1", ":", "O", "2", "S", ".", "T", "1", "targets", "the", "unknown", "mapping", "M", ";", "it", "assigns", "zero", "or", "more", "syntaxes", "to", "each", "operator", "in", "O.", "T", "1", "builds", "a", "multi-value", "classifier", "for", "every", "o", "i", "O", ",", "or", "alternatively", ",", "a", "set", "of", "binary", "classifiers", "for", "all", "valid", "combinations", "-LRB-", "o", "i", ",", "s", "j", "-RRB-", ",", "o", "i", "O", ",", "s", "j", "S", "-LRB-", "o", "i", "-RRB-", ".", "T", "2", ":", "S", "O.", "T", "2", "targets", "the", "inverted", "mapping", "M", "-1", ";", "it", "assigns", "at", "most", "one", "operator", "to", "every", "syntax", "s", "j", "S.", "Either", "target", "function", "gets", "implemented", "as", "a", "set", "of", "classifiers", ",", "operator", "classifiers", "for", "T", "1", "or", "syntax", "classifiers", "for", "T", "2", ".", "Classifiers", "are", "trained", "with", "match", "numbers", "for", "probe", "queries", "from", "annotated", "providers", ".", "For", "a", "new", "provider", "P", ",", "either", "function", "produces", "a", "hypothesis", "I", "T", "-LRB-", "P", "-RRB-", "that", "approximates", "the", "real", "interpretation", "I", "P", ".", "The", "major", "difference", "between", "T", "1", "and", "T", "2", "is", "that", "the", "former", "can", "produce", "ambiguous", "interpretations", ",", "while", "the", "output", "of", "T", "2", "is", "always", "unambiguous", ".", "Indeed", ",", "two", "operator", "classifiers", "with", "T", "1", "can", "output", "the", "same", "syntax", "leading", "to", "ambiguity", ",", "while", "each", "classifier", "in", "T", "2", "outputs", "at", "most", ",", "one", "operator", "for", "one", "syntax", ".", "In", "experiments", "we", "tested", "both", "functions", ",", "though", "when", "building", "the", "learning", "system", "we", "put", "an", "emphasis", "on", "T", "2", ",", "which", "is", "free", "of", "ambiguity", ".", "To", "build", "syntax", "classifiers", "for", "the", "target", "function", "T", "2", ",", "we", "should", "consider", "beyond", "``", "good", "''", "classification", "cases", "for", "the", "operators", "in", "O", "and", "include", "some", "``", "real-world", "''", "cases", "where", "providers", "process", "syntaxes", "in", "S", "literally", "or", "simply", "ignore", "them", ".", "For", "certain", "providers", ",", "it", "is", "difficult", "to", "find", "any", "valid", "interpretation", ".", "In", "the", "learning", "system", ",", "we", "extend", "the", "set", "of", "possible", "interpretations", "of", "syntaxes", "in", "S", "by", "three", "more", "cases", ",", "O", "=", "O", "-LCB-", "Ignored", ",", "Literal", ",", "U", "nknown", "-RCB-", ".", "Syntaxes", "in", "S", "have", "different", "alternatives", "for", "their", "interpretation", ";", "below", "we", "revisit", "some", "syntaxes", "and", "report", "possible", "matches", "in", "O", "as", "they", "are", "specified", "in", "the", "learning", "system", ".", "Default", ":", "Case", "sensitivity", "for", "query", "terms", ":", "possible", "values", "are", "case-insensitive", "-LRB-", "Case", "-RRB-", "or", "case-sensitive", "-LRB-", "Literal", "-RRB-", ".", "*", ":", "This", "unary", "operator", "can", "be", "interpreted", "as", "Stem", ",", "when", "i", "-LRB-", "A", "*", "-RRB-", "=", "Stem", "-LRB-", "A", "-RRB-", ",", "Ignored", "when", "i", "-LRB-", "A", "*", "-RRB-", "=", "i", "-LRB-", "A", "-RRB-", ",", "and", "Literal", ",", "when", "A", "*", "is", "accepted", "as", "one", "term", ".", ":", "Whitespace", "is", "often", "a", "default", "for", "another", "syntax", "in", "S.", "Three", "possible", "interpretations", "include", "the", "Boolean", "conjunction", "when", "i", "-LRB-", "A", "B", "-RRB-", "=", "A", "B", ",", "the", "Boolean", "disjunction", "when", "i", "-LRB-", "A", "B", "-RRB-", "=", "A", "B", ",", "and", "P", "hrase", "when", "i", "-LRB-", "A", "B", "-RRB-", "=", "P", "hrase", "-LRB-", "A", ",", "B", "-RRB-", ".", "AND", ":", "Three", "alternatives", "here", "are", "the", "conjunction", "when", "i", "-LRB-", "A", "AND", "B", "-RRB-", "=", "A", "B", ",", "Ignored", ",", "when", "AND", "is", "ignored", "and", "the", "interpretation", "goes", "with", "the", "whitespace", "meaning", ",", "i", "-LRB-", "A", "AND", "B", "-RRB-", "=", "i", "-LRB-", "A", "B", "-RRB-", "=", "M", "-1", "-LRB-", "'", "'", "-RRB-", "-LRB-", "A", ",", "B", "-RRB-", ",", "and", "Literal", "when", "i", "-LRB-", "A", "AND", "B", "-RRB-", "=", "M", "-1", "-LRB-", "-RRB-", "-LRB-", "A", ",", "AND", ",", "B", "-RRB-", ".", "''", "''", "-LRB-", "Quote", "marks", "-RRB-", ":", "Two", "possible", "interpretations", "are", "P", "hrase", ",", "when", "i", "-LRB-", "``", "A", "B", "''", "-RRB-", "=", "P", "hrase", "-LRB-", "A", ",", "B", "-RRB-", ",", "and", "Ignore", "when", "quote", "marks", "are", "ignored", "and", "terms", "are", "interpreted", "with", "the", "whitespace", ",", "i", "-LRB-", "``", "A", "B", "''", "-RRB-", "=", "i", "-LRB-", "A", "B", "-RRB-", "=", "M", "-1", "-LRB-", "-RRB-", "-LRB-", "A", ",", "B", "-RRB-", ".", "A", "similar", "analysis", "is", "done", "for", "the", "syntaxes", "+", ",", "OR", ",", "NOT", "and", "-", ".", "Additionally", ",", "all", "syntaxes", "for", "binary", "operators", "can", "be", "labeled", "as", "U", "nknown", ".", "4.2", "Probing", "with", "test", "queries", "To", "train", "syntax", "classifiers", "for", "T", "2", ",", "we", "collect", "data", "from", "annotated", "sites", "by", "probing", "their", "interfaces", "and", "extracting", "the", "match", "numbers", ".", "Probing", "has", "a", "fairly", "low", "cost", ",", "but", "requires", "a", "certain", "policy", "when", "selecting", "terms", "for", "test", "queries", "to", "provide", "meaningful", "data", "for", "the", "learning", ".", "We", "define", "a", "set", "R", "of", "model", "queries", "that", "contain", "syntaxes", "in", "S", "and", "parameter", "terms", "A", "and", "B", ",", "which", "are", "later", "bound", "with", "real", "terms", ".", "We", "form", "the", "set", "R", "by", "first", "selecting", "well-formed", "queries", "that", "contain", "all", "syntaxes", "we", "want", "to", "classify", ".", "Second", ",", "we", "add", "queries", "that", "are", "term", "permutations", "of", "previously", "selected", "queries", ",", "for", "example", "the", "permutation", "B", "A", "for", "query", "A", "B", ".", "Finally", ",", "we", "add", "model", "queries", "that", "are", "not", "well-formed", ",", "but", "appear", "helpful", "for", "building", "accurate", "classification", "rules", ".", "Below", ",", "the", "set", "R", "of", "model", "queries", "is", "illustrated", "using", "the", "pair", "of", "terms", "A", "and", "B", ";", "model", "queries", "are", "split", "into", "three", "groups", "containing", "one", ",", "two", "or", "three", "words", ":", "One", "word", "queries", ":", "A", ",", "B", ",", "UpperCase", "-LRB-", "A", "-RRB-", ",", "A", "*", ",", "Stem", "-LRB-", "A", "-RRB-", ".", "Two", "word", "queries", ":", "A", "B", ",", "B", "A", ",", "``", "A", "B", "''", ",", "``", "B", "A", "''", ",", "+", "A", "+", "B", ",", "+", "B", "+", "A", ",", "A", "-", "B", ",", "A", "AND", ",", "A", "OR", ",", "A", "NOT", ".", "Three", "word", "queries", ":", "A", "AND", "B", ",", "B", "AND", "A", ",", "A", "OR", "B", ",", "B", "OR", "A", ",", "A", "NOT", "B", ",", "B", "NOT", "A", ".", "In", "total", ",", "the", "set", "R", "is", "composed", "of", "22", "model", "queries", ",", "all", "in", "lower", "case", ",", "except", "UpperCase", "-LRB-", "A", "-RRB-", ",", "which", "is", "an", "upper", "case", "of", "term", "A.", "Six", "queries", "in", "R", "are", "permutations", "of", "other", "queries", "1117", "and", "three", "queries", "are", "-LRB-", "purposely", "-RRB-", "not", "well-formed", ".", "These", "queries", "A", "AND", ",", "A", "OR", ",", "A", "NOT", "are", "selected", "to", "help", "detect", "Literal-cases", "for", "AND", ",", "OR", ",", "NOT", ".", "Probe", "queries", "are", "obtained", "from", "the", "model", "queries", "by", "replacing", "parameters", "A", "and", "B", "with", "specific", "query", "terms", ",", "like", "knowledge", "and", "retrieval", ".", "These", "22", "probe", "queries", "form", "a", "probe", "package", "denoted", "R", "A", ",", "B", ".", "For", "a", "provider", "P", ",", "probe", "queries", "together", "with", "corresponding", "match", "numbers", "form", "the", "elementary", "feature", "set", "F", "0", "A", ",", "B", "=", "-LCB-", "-LRB-", "m", "-LRB-", "q", "i", "-RRB-", ",", "oracle", "-LRB-", "P", "-LRB-", "q", "i", "-RRB-", "-RRB-", "-RRB-", ",", "w", "-LRB-", "q", "i", "-RRB-", "R", "A", ",", "B", "-RCB-", ".", "Query", "terms", "are", "selected", "from", "a", "generic", "English", "vocabulary", "with", "all", "standard", "stopwords", "excluded", ".", "One", "site", "can", "be", "probed", "with", "one", "or", "more", "probe", "packages", ",", "all", "packages", "using", "different", "term", "pairs", "-LRB-", "A", ",", "B", "-RRB-", ".", "To", "probe", "the", "sites", "with", "test", "queries", ",", "we", "bind", "model", "queries", "in", "R", "with", "query", "terms", ".", "To", "obtain", "meaningful", "training", "data", ",", "query", "terms", "should", "not", "be", "common", "stopwords", ",", "such", "as", "and", "or", "the", ".", "As", "the", "term", "co-occurrence", "in", "a", "provider", "'s", "document", "collection", "is", "unknown", ",", "we", "select", "pairs", "with", "different", "degrees", "of", "semantic", "correlation", ".", "Here", ",", "the", "term", "pairs", "fall", "into", "three", "categories", ":", "C", "1", ":", "terms", "that", "form", "a", "phrase", "-LRB-", "such", "as", "A", "=", "information", "and", "B", "=", "retrieval", "-RRB-", ";", "C", "2", ":", "terms", "that", "do", "not", "form", "a", "phrase", "but", "occur", "in", "the", "same", "document", "-LRB-", "knowledge", "and", "wireless", "-RRB-", ";", "C", "3", ":", "terms", "that", "rarely", "occur", "in", "the", "same", "document", "-LRB-", "such", "as", "cancer", "and", "wireless", "-RRB-", ".", "These", "three", "categories", "can", "be", "expressed", "through", "term", "co-occurrence", "in", "some", "generic", "document", "collection", "P", "G", ".", "We", "re-use", "our", "query", "probing", "component", "to", "establish", "criteria", "for", "term", "selection", "for", "the", "three", "categories", ".", "A", "pair", "of", "terms", "-LRB-", "A", ",", "B", "-RRB-", "is", "in", "category", "C", "1", "-LRB-", "phrase", "co-occurrence", "-RRB-", "if", "the", "match", "number", "for", "P", "hrase", "-LRB-", "A", ",", "B", "-RRB-", "is", "comparable", "with", "the", "conjunction", "A", "B", ",", "that", "is", "|", "P", "G", "-LRB-", "P", "hrase", "-LRB-", "A", ",", "B", "-RRB-", "-RRB-", "|", "|", "P", "G", "-LRB-", "AB", "-RRB-", "|", ">", ",", "for", "some", "threshold", "0", "<", "<", "1", ".", "A", "term", "pair", "-LRB-", "A", ",", "B", "-RRB-", "is", "in", "category", "C", "2", "-LRB-", "high", "co-occurrence", "-RRB-", "if", "the", "terms", "are", "not", "co-occurred", "in", "a", "phrase", ",", "but", "their", "conjunction", "is", "comparable", "with", "either", "A", "or", "B", ",", "|", "P", "G", "-LRB-", "AB", "-RRB-", "|", "min", "-LCB-", "|", "P", "G", "-LRB-", "A", "-RRB-", "|", ",", "|", "P", "G", "-LRB-", "B", "-RRB-", "|", "-RCB-", ">", ",", "for", "some", "0", "<", "<", "1", ".", "If", "pair", "-LRB-", "A", ",", "B", "-RRB-", "does", "not", "fit", "the", "conditions", "for", "categories", "C", "1", "and", "C", "2", ",", "then", "it", "is", "in", "category", "C", "3", "-LRB-", "low", "co-occurrence", "-RRB-", ".", "For", "our", "experiments", ",", "we", "have", "selected", "Google", "as", "generic", "document", "collection", "G", "and", "set", "the", "values", "of", "and", "both", "to", "0.01", ".", "4.3", "Elementary", "features", "Match", "numbers", "for", "probe", "queries", "in", "F", "0", "A", ",", "B", "represent", "elementary", "features", "that", "can", "be", "directly", "used", "to", "train", "classifiers", ".", "Unfortunately", ",", "this", "often", "leads", "to", "poor", "results", ".", "The", "reason", "is", "that", "Web", "resources", "considerably", "differ", "in", "size", "and", ",", "therefore", ",", "the", "query", "matches", "from", "different", "resources", "are", "of", "different", "magnitude", "and", "thus", "hardly", "comparable", ".", "A", "query", "may", "match", "millions", "of", "documents", "on", "Google", ",", "but", "only", "a", "few", "at", "a", "small", "local", "resource", ".", "To", "leverage", "the", "processing", "of", "query", "matches", "from", "resources", "of", "different", "size", ",", "we", "develop", "two", "alternative", "methods", "for", "the", "feature", "encoding", ".", "In", "the", "first", "approach", ",", "we", "normalize", "the", "query", "matches", "in", "F", "0", "by", "the", "maximum", "number", "of", "matches", "for", "the", "two", "basic", "queries", "A", "and", "B", ".", "We", "thus", "obtain", "features", "F", "1", "with", "values", "mostly", "between", "0", "and", "1", "-LRB-", "except", "for", "queries", "related", "to", "the", "Boolean", "disjunction", "-RRB-", ".", "The", "second", "approach", "F", "2", "to", "the", "feature", "encoding", ",", "uses", "the", "``", "less-equal-greater", "''", "-", "relationship", "between", "any", "two", "probe", "queries", "in", "a", "probe", "package", ".", "This", "produces", "a", "three-value", "feature", "for", "each", "pair", "of", "test", "queries", ".", "4.4", "Feature", "selection", "The", "refinement", "of", "raw", "features", "produces", "l", "=", "22", "refined", "real", "value", "features", "with", "F", "1", "and", "l", "-LRB-", "l-1", "-RRB-", "2", "=", "231", "three-value", "features", "with", "F", "2", ".", "The", "basic", "approach", "is", "to", "train", "each", "classifier", "with", "the", "entire", "feature", "set", "F", "0", ",", "F", "1", "or", "F", "2", ".", "However", ",", "because", "of", "the", "noise", "in", "the", "data", ",", "building", "accurate", "classifiers", "may", "require", "a", "lot", "of", "training", "data", ".", "To", "control", "the", "amount", "of", "training", "data", "and", "enhance", "the", "quality", "of", "classification", "rules", ",", "we", "proceed", "with", "two", "methods", "of", "feature", "selection", ".", "First", ",", "we", "distinguish", "between", "relevant", "and", "irrelevant", "features", "for", "a", "given", "classifier", "and", "remove", "irrelevant", "ones", ".", "Second", ",", "beyond", "the", "direct", "feature", "filtering", ",", "we", "use", "prior", "knowledge", "and", "classify", "new", "syntaxes", "using", "previously", "classified", "ones", ".", "Removing", "irrelevant", "features", ".", "The", "definition", "of", "relevant", "features", "requires", "establishing", "syntactical", "dependencies", "between", "model", "queries", "in", "R", "and", "semantic", "relationships", "between", "syntaxes", "in", "S.", "Model", "query", "r", "i", "R", "syntactically", "depends", "on", "model", "query", "r", "j", "if", "r", "i", "includes", "syntaxes", "present", "in", "r", "j", ".", "Syntaxes", "s", "i", "and", "s", "j", "in", "S", "are", "semantically", "related", "if", "they", "can", "be", "interpreted", "with", "the", "same", "operator", "in", "O", ".", "We", "define", "the", "relevant", "feature", "set", "F", "i", "for", "syntax", "s", "i", "as", "containing", "three", "parts", ",", "F", "S", "-LRB-", "s", "i", "-RRB-", "=", "F", "S", "i", "=", "F", "S", "0", "i", "+", "F", "S", "1", "i", "+", "F", "S", "2", "i", ".", "F", "S", "0", "i", "simply", "contains", "all", "model", "queries", "r", "j", "R", "that", "involve", "syntax", "s", "i", ",", "for", "example", "F", "S", "0", "-LRB-", "AND", "-RRB-", "=", "-LCB-", "A", "AND", "B", ",", "B", "AND", "A", ",", "A", "AND", "-RCB-", ".", "Next", ",", "F", "S", "1", "i", "contains", "model", "queries", "for", "syntactically", "dependent", "syntaxes", ".", "Actually", ",", "F", "S", "1", "i", "contains", "the", "two", "model", "queries", "A", "B", "and", "B", "A", "for", "all", "binary", "syntaxes", ".", "Finally", ",", "F", "S", "2", "1", "contains", "the", "model", "queries", "for", "semantically", "related", "syntaxes", ".", "For", "example", ",", "F", "S", "2", "-LRB-", "AND", "-RRB-", "=", "F", "S", "0", "-LRB-", "+", "-RRB-", ",", "and", "vice", "versa", ",", "F", "S", "2", "-LRB-", "+", "-RRB-", "=", "F", "S", "0", "-LRB-", "AND", "-RRB-", ".", "Use", "of", "prior", "knowledge", ".", "Beyond", "removing", "irrelevant", "features", ",", "it", "is", "possible", "to", "benefit", "from", "the", "dependencies", "between", "syntaxes", "established", "in", "Section", "4.1", ".", "For", "example", ",", "the", "Literal-cases", "for", "OR", "and", "AND", "depend", "on", "the", "interpretation", "of", "whitespaces", ".", "The", "classification", "of", "AND", "as", "Literal", "becomes", "simpler", "when", "the", "system", "already", "knows", "that", ",", "for", "example", ",", "is", "interpreted", "as", "conjunction", ".", "To", "use", "the", "prior", "knowledge", ",", "we", "alter", "the", "training", "and", "classification", "process", ".", "We", "impose", "an", "order", "on", "the", "syntaxes", "in", "S", ".", "When", "training", "or", "using", "syntax", "classifiers", ",", "we", "use", "the", "classification", "results", "of", "previous", "syntaxes", ".", "We", "convert", "the", "syntax", "set", "in", "the", "ordered", "list", "S", "O", "=", "-LRB-", "Default", ",", ",", ",", "''", "''", ",", "AND", ",", "+", ",", "OR", "'", ",", "NOT", ",", "-", "-RRB-", "and", "impose", "the", "order", "on", "how", "the", "classifiers", "are", "trained", "and", "used", "for", "the", "classification", ".", "In", "the", "prior", "knowledge", "approach", ",", "the", "feature", "set", "used", "to", "train", "the", "classifier", "for", "syntax", "s", "i", "S", "O", "will", "include", "the", "classifications", "of", "all", "s", "j", "preceding", "s", "i", "in", "S", "O", ".", "Removing", "irrelevant", "features", "and", "using", "prior", "knowledge", "are", "two", "independent", "methods", "for", "feature", "selection", "and", "can", "be", "applied", "separately", "or", "together", ".", "This", "allows", "us", "to", "consider", "four", "feature", "selection", "methods", "for", "training", "classifiers", "and", "classifying", "new", "sites", ":", "1", ".", "Full", "feature", "set", ",", "F", "f", "s", "i", "=", "F", ",", "where", "F", "is", "a", "selected", "feature", "encoding", ",", "F", "0", ",", "F", "1", "or", "F", "2", ";", "2", ".", "Relevant", "feature", "set", ",", "Rf", "s", "i", "=", "F", "S", "i", ";", "3", ".", "Prior", "knowledge", "features", ",", "P", "Kf", "s", "i", "=", "F", "M", "-1", "-LRB-", "s", "j", "-RRB-", ",", "j", "<", "i.", "4", ".", "Relevant", "prior", "knowledge", "feature", "set", "RP", "Kf", "s", "i", "=", "F", "S", "i", "M", "-1", "-LRB-", "s", "j", "-RRB-", ",", "j", "<", "i", ".", "To", "run", "experiments", ",", "we", "collected", "and", "annotated", "36", "Web", "sites", "with", "search", "interfaces", ".", "All", "sites", "report", "the", "match", "num-1118", "bers", "for", "user", "queries", "and", "unambiguously", "interpret", "their", "query", "languages", ".", "Selected", "sites", "represent", "a", "wide", "spectrum", "of", "supported", "operator", "sets", ".", "For", "each", "site", ",", "we", "annotated", "all", "supported", "operators", "and", "their", "syntaxes", ".", "For", "the", "extraction", "of", "the", "match", "numbers", "from", "HTML", "pages", "we", "used", "the", "Xerox", "IWrap", "wrapper", "toolkit", "-LSB-", "7", ",", "12", "-RSB-", ".", "Out", "of", "36", "providers", ",", "only", "4", "support", "monovalued", "interpretations", ";", "in", "the", "other", "32", "cases", ",", "at", "least", "one", "operator", "has", "two", "or", "more", "syntaxes", ".", "Figure", "1", ":", "T", "1", "and", "T", "2", "target", "functions", ".", "Figure", "2", ":", "Three", "feature", "encodings", "for", "DT", ",", "KNN", "and", "SVM", ".", "5.1", "Experimental", "framework", "In", "all", "experiments", "we", "estimate", "the", "classification", "accuracy", "for", "the", "individual", "operators", "in", "O", "-LRB-", "with", "T", "1", "-RRB-", "and", "the", "syntaxes", "in", "S", "-LRB-", "with", "T", "2", "-RRB-", ".", "We", "also", "estimate", "the", "mean", "accuracy", "for", "the", "target", "functions", "T", "1", "and", "T", "2", ".", "Experiments", "are", "conducted", "using", "the", "cross-validation", "method", ".", "36", "annotated", "sites", "are", "split", "into", "N", "=", "9", "groups", ",", "S", "1", ",", "S", "2", ",", "...", ",", "S", "N", ".", "We", "run", "N", "experiments", ";", "in", "experiment", "i", ",", "classifiers", "are", "trained", "with", "the", "groups", "S", "1", ",", "...", ",", "S", "i-1", ",", "S", "i", "+1", ",", "...", ",", "S", "N", "and", "then", "tested", "with", "sites", "from", "group", "S", "i", ".", "Accuracy", "-LRB-", "precision", "-RRB-", "values", "over", "N", "experiments", "are", "averaged", "for", "each", "operator/syntax", "classifier", "and", "form", "the", "individual", "accuracies", ".", "The", "average", "of", "individual", "accuracies", "over", "O/S", "gives", "the", "mean", "accuracy", ".", "We", "test", "the", "learning", "system", "by", "varying", "the", "system", "parameters", "introduced", "in", "Section", "4", ".", "We", "train", "and", "test", "classifiers", "with", "three", "different", "learning", "algorithms", ":", "decision", "trees", "from", "Borgelt", "'s", "package", "-LRB-", "DT", "-RRB-", ",", "k-nearest", "neighbors", "algorithm", "-LRB-", "KNN", "-RRB-", ",", "and", "support", "vector", "machines", "-LRB-", "SVM", "-RRB-", "5", ".", "The", "following", "list", "recalls", "the", "test", "parameters", "and", "possible", "options", ".", "1", ".", "Target", "function", ":", "T", "1", "includes", "|", "O", "|", "=", "9", "operator", "classifiers", ";", "multivalued", "interpretations", "are", "implemented", "as", "classifications", "with", "subsets", "of", "|", "O", "|", ".", "For", "T", "2", ",", "the", "system", "includes", "|", "S", "|", "=", "9", "syntax", "classifiers", ".", "2", ".", "Feature", "encoding", ":", "The", "three", "different", "feature", "encodings", "-LRB-", "see", "Section", "4.3", "-RRB-", "include", "the", "raw", "match", "numbers", "given", "by", "F", "0", ",", "the", "normalized", "match", "numbers", "given", "by", "F", "1", ",", "and", "three-value", "feature", "comparison", "given", "by", "F", "2", ".", "3", ".", "Feature", "selection", ":", "The", "four", "methods", "presented", "in", "Section", "4.4", "include", "Ffs", "-LRB-", "full", "feature", "set", "-RRB-", ",", "Rfs", "-LRB-", "relevant", "feature", "set", "-RRB-", ",", "PKfs", "-LRB-", "prior", "knowledge", "feature", "set", "-RRB-", "and", "RPKfs", "-LRB-", "relevant", "prior", "knowledge", "feature", "set", "-RRB-", ".", "4", ".", "Term", "selection", ":", "We", "test", "three", "term", "selection", "categories", ",", "C", "1", ",", "C", "2", "and", "C", "3", "introduced", "in", "Section", "4.2", ".", "Additionally", ",", "we", "test", "the", "mixture", "of", "the", "three", "categories", ",", "when", "three", "term", "pairs", "are", "used", "to", "probe", "a", "site", ",", "i.e.", "one", "term", "pair", "from", "each", "category", "C", "1", ",", "C", "2", "and", "C", "3", ".", "Experiments", "have", "been", "run", "for", "all", "parameter", "combinations", ";", "most", "combinations", "achieve", "mean", "accuracy", "superior", "to", "60", "%", ".", "The", "four", "system", "parameters", "appear", "to", "be", "uncorrelated", "in", "their", "impact", "on", "the", "classification", "results", ".", "To", "figure", "out", "the", "most", "interesting", "ones", ",", "we", "determine", "overall", "``", "winners", "''", "for", "each", "parameter", ",", "except", "for", "the", "learning", "algorithm", ".", "The", "winners", "are", "T", "2", "target", "function", ",", "F", "2", "feature", "encoding", ",", "and", "M", "ixed", "term", "selection", ".", "RP", "Kf", "s", "feature", "selection", "behaves", "best", "for", "DT", "and", "KNN", "and", "P", "Kf", "s", "feature", "selection", "is", "the", "winner", "for", "SVM", ".", "We", "report", "more", "detail", "below", ".", "5.2", "Experimental", "Results", "Decision", "trees", "are", "induced", "by", "the", "Borgelt", "'s", "software", ";", "they", "are", "then", "pruned", "using", "the", "confidence", "level", "-LRB-", "p", "=", "0.5", "-RRB-", "pruning", "method", ".", "In", "SVM", ",", "linear", "kernel", "functions", "have", "been", "used", ".", "For", "the", "KNN", "method", ",", "we", "report", "results", "for", "k", "=", "3", "which", "behaves", "better", "that", "k", "=", "1", ",", "5", "and", "10", ".", "Because", "the", "implemen-tation", "of", "the", "KNN", "algorithm", "can", "not", "process", "large", "sets", "of", "features", ",", "we", "were", "not", "able", "to", "test", "the", "Ffs", "and", "PKfs", "feature", "selection", "methods", ".", "All", "three", "learning", "algorithms", "show", "a", "similar", "performance", ".", "3NN", "slightly", "outperforms", "DT", "and", "SVM", "for", "the", "``", "winner", "''", "combination", "-LRB-", "86.42", "%", "against", "84.26", "%", "and", "79.74", "%", "-RRB-", ",", "however", "it", "is", "often", "less", "accurate", "with", "other", "parameter", "combinations", ".", "5", "Available", "at", "http://fuzzy.cs.uni-magdeburg.de/", "borgelt/software.html", ",", "http://www.dontveter.com/", "nnsoft/nnsoft.html", ",", "http://svmlight.joachims.org/", ",", "respectively", ".", "1119", "Target", "functions", "and", "feature", "selection", ".", "The", "target", "functions", "T", "1", "and", "T", "2", "implement", "alternative", "approaches", "to", "the", "query", "language", "acquisition", ";", "T", "1", "uses", "operator", "classifiers", "while", "T", "2", "uses", "syntax", "classifiers", ".", "As", "seen", "in", "Section", "4", ",", "T", "2", "has", "an", "advantage", "over", "T", "1", "because", "it", "avoids", "multivalued", "classification", "and", "outputs", "only", "unambiguous", "interpretations", ",", "while", "the", "output", "of", "T", "1", "should", "be", "further", "tested", "for", "unambiguity", ".", "Thus", "we", "have", "built", "the", "learning", "system", "for", "T", "2", ".", "Series", "of", "experiments", "conducted", "with", "T", "1", "and", "T", "2", "confirm", "the", "superiority", "of", "T", "2", ".", "As", "operator", "classifiers", "in", "T", "1", "are", "trained", "indepen-dently", ",", "their", "combined", "output", "does", "not", "guarantee", "unambiguity", ".", "Unlike", "T", "2", ",", "high", "accuracy", "of", "individual", "classifiers", "may", "not", "be", "translated", "into", "global", "good", "accuracy", ",", "because", "one", "misclassification", "may", "produce", "an", "ambiguous", "interpretation", "and", "undermine", "the", "good", "performance", "of", "other", "classifiers", ".", "In", "practice", ",", "we", "test", "the", "output", "of", "operator", "classifiers", "of", "T", "1", "and", "discard", "those", "that", "form", "ambiguous", "interpretations", ".", "This", "gives", "a", "2", "%", "to", "10", "%", "drop", "in", "the", "mean", "accuracy", ".", "Figure", "1", "plots", "mean", "accuracies", "for", "T", "1", "and", "T", "2", "for", "all", "feature", "selection", "methods", "-LRB-", "with", "fixed", "F", "2", "feature", "encoding", "and", "M", "ixed", "term", "selection", "-RRB-", "and", "the", "three", "learning", "methods", "-LRB-", "only", "Rfs", "and", "RPKfs", "could", "be", "measured", "for", "3NN", "algorithm", "-RRB-", ".", "Within", "feature", "selection", "methods", ",", "keeping", "relevant", "features", "spurs", "the", "performance", "of", "DT", "and", "3NN", "better", "than", "the", "prior", "knowledge", ",", "with", "their", "combination", "being", "the", "winner", ".", "For", "SVM", ",", "instead", ",", "adding", "prior", "knowledge", "to", "the", "full", "feature", "set", "is", "the", "best", "choice", ".", "In", "the", "following", ",", "all", "reported", "experiments", "refer", "to", "the", "target", "function", "T", "2", ".", "Feature", "encoding", ".", "Previous", "figures", "compared", "the", "mean", "accuracies", ".", "We", "unfold", "the", "mean", "value", "and", "plot", "individual", "accuracies", "for", "the", "syntaxes", "in", "S.", "Figure", "2", "plots", "accuracy", "values", "for", "the", "three", "feature", "encoding", "methods", "-LRB-", "for", "T", "2", "-", "RP", "Kf", "sM", "ixed", "combination", "for", "DT", "and", "3NN", "and", "T", "2", "-", "P", "Kf", "s-M", "ixed", "combination", "for", "SVM", "-RRB-", ".", "As", "the", "figure", "shows", ",", "the", "pair-wise", "comparison", "F", "2", "performs", "best", "with", "respect", "to", "the", "raw", "and", "normalized", "match", "numbers", ".", "Term", "selection", ".", "We", "complete", "the", "analysis", "of", "system", "parameters", "by", "testing", "four", "methods", "of", "term", "selection", ".", "They", "include", "categories", "C", "1", ",", "C", "2", "and", "C", "3", "and", "M", "ixed", ".", "Figure", "3", "plots", "mean", "accuracies", "for", "all", "learning", "algorithms", "and", "four", "term", "selection", "methods", ",", "giving", "M", "ixed", "as", "the", "winner", ".", "Figure", "3", ":", "Four", "term", "selection", "methods", "for", "DT", ",", "KNN", ",", "and", "SVM", ".", "5.3", "Bias", "in", "training", "data", "Among", "the", "syntaxes", "in", "S", ",", "all", "methods", "show", "only", "little", "difference", "for", "the", "unary", "operators", "Def", "ault", "and", "Case", ".", "Among", "the", "syntaxes", "for", "binary", "operators", ",", "certain", "-LRB-", ",", "AND", "and", "+", "-RRB-", "are", "easier", "to", "detect", "than", "others", "-LRB-", "''", "''", ",", "OR", "and", "NOT", "-RRB-", ".", "However", ",", "this", "phenomenon", "is", "not", "linked", "to", "the", "nature", "of", "the", "operators", "or", "their", "syntaxes", ",", "but", "rather", "can", "be", "explained", "by", "the", "bias", "in", "training", "data", ".", "In", "Table", "1", ",", "we", "unfold", "the", "individual", "accuracies", "and", "show", "results", "for", "each", "case", "-LRB-", "s", ",", "o", "-RRB-", ",", "s", "S", ",", "o", "O", "in", "the", "annotated", "data", ".", "Each", "non-empty", "cell", "in", "Table", "1", "reports", "the", "occurrence", "of", "the", "case", "-LRB-", "in", "brackets", "-RRB-", "and", "its", "classification", "accuracy", ".", "We", "can", "observe", "a", "definitive", "bias", "of", "high", "accuracy", "for", "more", "frequent", "cases", ";", "instead", ",", "rare", "cases", "have", "a", "very", "low", "accuracy", ".", "This", "explains", "good", "results", "for", ",", "AND", "and", "+", ",", "where", "occurrences", "are", "fairly", "split", "between", "two", "main", "cases", ".", "For", "other", "syntaxes", "instead", ",", "the", "high", "error", "ratio", "for", "rare", "cases", "decreases", "the", "individual", "accuracy", ".", "The", "Hidden", "Web", "has", "emerged", "as", "a", "research", "trend", "and", "different", "research", "groups", "have", "started", "to", "address", "various", "problems", "relevant", "to", "organizing", "Hidden", "Web", "resources", "-LSB-", "15", ",", "14", ",", "17", ",", "19", ",", "20", "-RSB-", ".", "One", "focus", "is", "crawling", ";", "-LSB-", "17", "-RSB-", "presents", "a", "task-specific", "and", "human-assisted", "approach", "to", "the", "crawling", "of", "the", "Hidden", "Web", ".", "The", "crawler", "searches", "for", "Hidden", "Web", "resources", "relevant", "to", "a", "specific", "domain", ".", "The", "identification", "is", "achieved", "by", "selecting", "domain-specific", "keywords", "from", "a", "fuzzy", "set", "and", "assigning", "them", "to", "elements", "of", "HTML", "forms", ";", "the", "resource", "is", "judged", "relevant", "if", "it", "returns", "valid", "search", "results", ".", "Another", "important", "task", "is", "the", "classification", "of", "Hidden", "Web", "resources", ".", "-LSB-", "15", ",", "14", "-RSB-", "and", "-LSB-", "19", "-RSB-", "have", "developed", "approaches", "to", "this", "problem", "based", "on", "query", "probing", ".", "Moreover", ",", "-LSB-", "15", "-RSB-", "makes", "use", "of", "the", "number", "of", "documents", "matching", "a", "submitted", "conjunction", "query", ",", "as", "does", "our", "approach", ".", "Instead", "of", "query", "languages", ",", "they", "use", "match", "numbers", "to", "reason", "about", "the", "relevance", "of", "a", "provider", "for", "a", "given", "category", ".", "Originally", ",", "the", "query", "probing", "has", "been", "used", "for", "the", "automatic", "language", "model", "discovery", "in", "-LSB-", "9", "-RSB-", ",", "it", "probed", "documents", "in", "a", "collection", "to", "analyze", "the", "content", "of", "the", "result", "pages", ".", "-LSB-", "14", "-RSB-", "extends", "the", "work", "in", "-LSB-", "15", "-RSB-", "to", "the", "problem", "of", "database", "selection", "by", "computing", "content", "summaries", "based", "on", "probing", ".", "Once", "query", "language", "interfaces", "are", "understood", ",", "meaningful", "query", "transformation", "becomes", "possible", ".", "-LSB-", "11", "-RSB-", "describes", "one", "way", "of", "transforming", "a", "front-end", "query", "into", "subsuming", "queries", "that", "are", "supported", "by", "the", "sources", "and", "a", "way", "to", "filter", "out", "incorrectly", "returned", "documents", ".", "In", "-LSB-", "16", "-RSB-", ",", "interaction", "with", "online-vendors", "is", "automated", ".", "In", "the", "close", "domain", "of", "meta-searching", ",", "the", "declaration", "of", "a", "search", "resource", "'s", "query", "features", "is", "often", "coupled", "with", "methods", "of", "converting/translating", "meta-search", "queries", "into", "the", "resource", "'s", "native", "queries", ".", "Considerable", "research", "effort", "has", "been", "devoted", "to", "minimizing", "the", "possible", "overheads", "of", "query", "translation", "when", "the", "meta-search", "and", "search", "resource", "differ", "in", "supporting", "basic", "query", "features", "-LSB-", "11", "-RSB-", ".", "In", "all", "these", "methods", ",", "the", "manual", "discovery", "of", "the", "query", "features", "is", "assumed", ".", "In", "information", "mediation", "systems", "that", "query", "Web", "resources", "to", "materialize", "views", "on", "hidden", "data", "-LSB-", "20", "-RSB-", ",", "one", "approach", "is", "to", "reconstruct", "an", "image", "of", "a", "resource", "'s", "database", ".", "Because", "of", "a", "restricted", "Web", "interface", ",", "a", "critical", "problem", "is", "the", "entire", "or", "partial", "reconstruction", "of", "the", "database", "image", "without", "the", "unnecessary", "overload", "of", "the", "Web", "servers", ".", "-LSB-", "8", "-RSB-", "builds", "efficient", "query", "covers", "that", "are", "accessible", "through", "nearest-neighbor", "interfaces", "for", "the", "specific", "domain", "of", "spatial", "databases", ".", "The", "experiments", "have", "raised", "a", "number", "of", "open", "questions", "that", "require", "further", "research", ".", "Below", "we", "list", "some", "of", "them", ".", "Stopwords", ".", "In", "tests", ",", "common", "English", "stopwords", "were", "excluded", "from", "probing", ".", "However", ",", "the", "set", "of", "stopwords", "is", "1120", "Operators", "Syntaxes", "default", "''", "''", "AND", "OR", "+", "NOT", "Case", "97.6", "-LRB-", "20", "-RRB-", "Stemming", "41.1", "-LRB-", "9", "-RRB-", "Conjunction", "92.9", "-LRB-", "15", "-RRB-", "95.2", "-LRB-", "27", "-RRB-", "100", "-LRB-", "16", "-RRB-", "Disjunction", "100", "-LRB-", "19", "-RRB-", "87.8", "-LRB-", "17", "-RRB-", "Negation", "91.0", "-LRB-", "15", "-RRB-", "94.9", "-LRB-", "26", "-RRB-", "Phrase", "0", "-LRB-", "1", "-RRB-", "90.4", "-LRB-", "28", "-RRB-", "Literal", "100", "-LRB-", "16", "-RRB-", "79.6", "-LRB-", "7", "-RRB-", "91.7", "-LRB-", "11", "-RRB-", "69.2", "-LRB-", "14", "-RRB-", "Ignored", "79.9", "-LRB-", "27", "-RRB-", "18.5", "-LRB-", "4", "-RRB-", "3.7", "-LRB-", "1", "-RRB-", "55.6", "-LRB-", "4", "-RRB-", "100", "-LRB-", "19", "-RRB-", "25.0", "-LRB-", "4", "-RRB-", "81.0", "-LRB-", "7", "-RRB-", "Unknown", "0", "-LRB-", "1", "-RRB-", "4.1", "-LRB-", "4", "-RRB-", "0", "-LRB-", "1", "-RRB-", "19.4", "-LRB-", "4", "-RRB-", "0", "-LRB-", "1", "-RRB-", "0", "-LRB-", "3", "-RRB-", "0", "-LRB-", "3", "-RRB-", "Table", "1", ":", "Classification", "accuracy", "and", "occurrence", "for", "all", "syntax", "+", "interpretation", "cases", "-LRB-", "DT", ",", "T", "2", ",", "F", "2", ",", "RPKfs", ",", "M", "ixed", "-RRB-", ".", "often", "domain-dependent", ";", "this", "should", "be", "taken", "into", "account", "when", "generating", "test", "queries", ".", "A", "more", "difficult", "case", "is", "when", "a", "resource", "treats", "terms", "as", "stopwords", "in", "a", "certain", "context", ".", "For", "example", ",", "Google", "accepts", "the", "term", "``", "WWW", "''", "when", "it", "is", "queried", "alone", "and", "ignores", "it", "when", "the", "term", "is", "conjuncted", "with", "other", "terms", ".", "Such", "query-dependent", "treatment", "of", "stopwords", "is", "considered", "as", "noise", "in", "the", "current", "system", ".", "Acquiring", "other", "operators", ".", "We", "have", "addressed", "the", "set", "of", "most", "frequently", "used", "query", "operators", ".", "Other", "operators", "defined", "by", "existing", "document", "retrieval", "models", ",", "like", "proximity", "operators", ",", "can", "be", "added", "to", "the", "operator", "set", "and", "processed", "in", "a", "similar", "manner", ".", "Two", "remarks", "concerning", "less", "frequent", "operators", "are", "that", "their", "syntactical", "encodings", "may", "vary", "even", "more", "than", "for", "Boolean", "operators", ",", "and", ",", "more", "im-portantly", ",", "finding", "sufficient", "training", "data", "to", "build", "reliable", "classifiers", "may", "be", "technically", "difficult", ".", "Query", "composition", ".", "The", "next", "issue", "is", "the", "manner", "in", "which", "basic", "query", "operators", "are", "combined", "to", "form", "complex", "queries", ".", "The", "most", "frequent", "manner", "on", "the", "Web", "is", "the", "use", "of", "parentheses", "or", "a", "certain", "operator", "priority", ".", "How", "to", "detect", "this", "remains", "an", "open", "problem", "at", "this", "point", ".", "Ambiguous", "interpretations", ".", "Recognizing", "ambiguous", "interpretations", "is", "the", "most", "difficult", "problem", ".", "One", "example", "is", "Citeseer", ",", "which", "interprets", "whitespaces", "as", "conjunction", "by", "default", ",", "but", "switches", "to", "disjunction", "if", "the", "conjunction", "query", "matches", "no", "documents", ".", "Some", "other", "Web", "providers", "behave", "in", "the", "same", "or", "a", "similar", "manner", ".", "We", "will", "need", "to", "extend", "the", "learning", "system", "to", "include", "a", "possibility", "of", "triggering", "the", "retrieval", "model", "as", "a", "function", "of", "the", "oracle", "answers", ".", "We", "have", "addressed", "the", "problem", "of", "automatic", "recognition", "of", "operators", "and", "syntaxes", "supported", "by", "query", "languages", "of", "Web", "resources", ".", "We", "have", "developed", "a", "machine", "learning", "approach", "based", "on", "reformulation", "of", "the", "entire", "problem", "as", "a", "set", "of", "classification", "problems", ".", "By", "introducing", "various", "refined", "solutions", "for", "the", "target", "function", ",", "feature", "encoding", ",", "and", "feature", "selection", ",", "we", "have", "achieved", "86", "%", "mean", "accuracy", "for", "the", "set", "of", "the", "most", "frequent", "operators", "and", "syntaxes", ".", "Further", "improvement", "in", "the", "accuracy", "is", "possible", "with", "better", "preparation", "of", "annotated", "sites", ",", "but", "this", "is", "limited", "because", "of", "the", "complexity", "of", "the", "a-priori", "unknown", "operator", "composition", "and", "the", "noise", "produced", "by", "the", "hidden", "query", "preprocessing", ".", "-LSB-", "1", "-RSB-", "The", "InvisibleWeb", ",", "http://www.invisibleweb.com/", ".", "-LSB-", "2", "-RSB-", "BrightPlanet", ",", "http://www.brightplanet.com/", ".", "-LSB-", "3", "-RSB-", "CompletePlanet", ",", "http://www.completeplanet.com/", ".", "-LSB-", "4", "-RSB-", "G.", "Alonso", ".", "Myths", "around", "web", "services", ".", "IEEE", "Bulletin", "on", "Data", "Engineering", ",", "25", "-LRB-", "4", "-RRB-", ":", "3", "9", ",", "2002", ".", "-LSB-", "5", "-RSB-", "D.", "Angluin", ".", "Queries", "and", "concept", "learning", ".", "Machine", "Learning", ",", "2", "-LRB-", "4", "-RRB-", ":", "319", "342", ",", "1987", ".", "-LSB-", "6", "-RSB-", "M.", "K.", "Bergman", ".", "The", "Deep", "Web", ":", "Surfacing", "hidden", "value", ".", "Journal", "of", "Electronic", "Publishing", ",", "7", "-LRB-", "1", "-RRB-", ",", "2001", ".", "-LSB-", "7", "-RSB-", "D.", "Bredelet", "and", "B.", "Roustant", ".", "Java", "IWrap", ":", "Wrapper", "induction", "by", "grammar", "learning", ".", "Master", "'s", "thesis", ",", "ENSIMAG", "Grenoble", ",", "2000", ".", "-LSB-", "8", "-RSB-", "S.", "Byers", ",", "J.", "Freire", ",", "and", "C.", "T.", "Silva", ".", "Efficient", "acquisition", "of", "web", "data", "through", "restricted", "query", "interfaces", ".", "In", "Proc", ".", "WWW", "Conf.", ",", "China", ",", "May", "2001", ".", "-LSB-", "9", "-RSB-", "J.", "P.", "Callan", ",", "M.", "Connell", ",", "and", "A.", "Du", ".", "Automatic", "discovery", "of", "language", "models", "for", "text", "databases", ".", "In", "Proc", ".", "ACM", "SIGMOD", "Conf.", ",", "pp.", "479", "490", ",", "June", "1999", ".", "-LSB-", "10", "-RSB-", "C.-C", ".", "K.", "Chang", "and", "H", "Garcia-Molina", ".", "Approximate", "query", "translation", "across", "heterogeneous", "information", "sources", ".", "In", "Proc", ".", "VLDB", "Conf.", ",", "pp.", "566", "577", ",", "Cairo", ",", "Egypt", ",", "September", "2000", ".", "-LSB-", "11", "-RSB-", "C.-C", ".", "K.", "Chang", ",", "H.", "Garcia-Molina", ",", "and", "A.", "Paepcke", ".", "Boolean", "query", "mapping", "across", "heterogeneous", "information", "sources", ".", "IEEE", "TKDE", ",", "8", "-LRB-", "4", "-RRB-", ":", "515", "521", ",", "1996", ".", "-LSB-", "12", "-RSB-", "B.", "Chidlovskii", ".", "Automatic", "repairing", "of", "web", "wrappers", "by", "combining", "redundant", "views", ".", "In", "Proc", ".", "of", "the", "IEEE", "Intern", ".", "Conf", ".", "Tools", "with", "AI", ",", "USA", ",", "November", "2002", ".", "-LSB-", "13", "-RSB-", "L.", "Gravano", ",", "H.", "Garcia-Molina", ",", "and", "A.", "Tomasic", ".", "Gloss", ":", "Text-source", "discovery", "over", "the", "internet", ".", "ACM", "TODS", ",", "24", "-LRB-", "2", "-RRB-", ":", "229", "264", ",", "1999", ".", "-LSB-", "14", "-RSB-", "P.", "G.", "Ipeirotis", "and", "L.", "Gravano", ".", "Distributed", "search", "over", "the", "hidden", "web", ":", "Hierarchical", "database", "sampling", "and", "selection", ".", "In", "Proc", ".", "VLDB", "Conf.", ",", "pp.", "394", "405", ",", "Hong", "Kong", ",", "China", ",", "August", "2002", ".", "-LSB-", "15", "-RSB-", "P.", "G.", "Ipeirotis", ",", "L.", "Gravano", ",", "and", "M.", "Sahami", ".", "Probe", ",", "count", ",", "and", "classify", ":", "Categorizing", "hidden-web", "databases", ".", "In", "Proc", ".", "ACM", "SIGMOD", "Conf.", ",", "pp.", "67", "78", ",", "Santa", "Barbara", ",", "CA", ",", "USA", ",", "May", "2001", ".", "-LSB-", "16", "-RSB-", "M.", "Perkowitz", ",", "R.", "B.", "Doorenbos", ",", "O.", "Etzioni", ",", "and", "D.", "S.", "Weld", ".", "Learning", "to", "understand", "information", "on", "the", "internet", ":", "An", "example-based", "approach", ".", "Journal", "of", "Intelligent", "Information", "Systems", ",", "8", "-LRB-", "2", "-RRB-", ":", "133", "153", ",", "1997", ".", "-LSB-", "17", "-RSB-", "S.", "Raghavan", "and", "H.", "Garcia-Molina", ".", "Crawling", "the", "hidden", "web", ".", "In", "Proc", ".", "VLDB", "Conf.", ",", "pp.", "129", "138", ",", "Rome", ",", "Italy", ",", "September", "2001", ".", "-LSB-", "18", "-RSB-", "D.", "Tsur", ".", "Are", "web", "services", "the", "next", "revolution", "in", "e-commerce", "?", "In", "Proc", ".", "VLDB", "Conf.", ",", "pp.", "614", "617", ",", "Rome", ",", "Italy", ",", "September", "2001", ".", "-LSB-", "19", "-RSB-", "W.", "Wang", ",", "W.", "Meng", ",", "and", "C.", "Yu", ".", "Concept", "hierarchy", "based", "text", "database", "categorization", ".", "In", "Proc", ".", "Intern", ".", "WISE", "Conf.", ",", "pp.", "283", "290", ",", "China", ",", "June", "2000", ".", "-LSB-", "20", "-RSB-", "R.", "Yerneni", ",", "C.", "Li", ",", "H.", "Garcia-Molina", ",", "and", "J.", "Ullman", ".", "Computing", "capabilities", "of", "mediators", ".", "In", "Proc", ".", "ACM", "SIGMOD", "Conf.", ",", "pp.", "443", "454", ",", "PA", ",", "USA", ",", "June", "1999", ".", "1121"], "doc_bio_tags": ["B", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["query operators", "web interfaces", "web resources", "query languages", "search interface", "machine learning", "learning", "hidden web", "automatic acquisition"], "abstractive_keyphrases": ["search engine"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "104", "document": ["Implementing", "the", "IT", "Fundamentals", "Knowledge", "Area", "The", "recently", "promulgated", "IT", "model", "curriculum", "contains", "IT", "fundamentals", "as", "one", "of", "its", "knowledge", "areas", ".", "It", "is", "intended", "to", "give", "students", "a", "broad", "understanding", "of", "-LRB-", "1", "-RRB-", "the", "IT", "profession", "and", "the", "skills", "that", "students", "must", "develop", "to", "become", "successful", "IT", "professionals", "and", "-LRB-", "2", "-RRB-", "the", "academic", "discipline", "of", "IT", "and", "its", "relationship", "to", "other", "disciplines", ".", "As", "currently", "defined", ",", "the", "IT", "fundamentals", "knowledge", "area", "requires", "33", "lecture", "hours", "to", "complete", ".", "The", "model", "curriculum", "recommends", "that", "the", "material", "relevant", "to", "the", "IT", "fundamentals", "knowledge", "area", "be", "offered", "early", "in", "the", "curriculum", ",", "for", "example", "in", "an", "introduction", "to", "IT", "course", ";", "however", ",", "many", "institutions", "will", "have", "to", "include", "additional", "material", "in", "an", "introductory", "IT", "course", ".", "For", "example", ",", "the", "Introduction", "of", "IT", "course", "at", "Georgia", "Southern", "University", "is", "used", "to", "introduce", "students", "to", "the", "available", "second", "disciplines", "-LRB-", "an", "important", "part", "of", "the", "Georgia", "Southern", "IT", "curriculum", "aimed", "at", "providing", "students", "with", "in-depth", "knowledge", "of", "an", "IT", "application", "domain", "-RRB-", ",", "some", "productivity", "tools", ",", "and", "SQL", ".", "For", "many", "programs", "there", "may", "be", "too", "much", "material", "in", "an", "introductory", "IT", "course", ".", "This", "paper", "describes", "how", "Georgia", "Southern", "University", "resolved", "this", "dilemma", ".", "K.", "3.3", "-LSB-", "Computer", "and", "Information", "Science", "Education", "-RSB-", ":", "Curriculum", ":", "Human", "Factors", "The", "recently", "promulgated", "IT", "Model", "Curriculum", ",", "available", "at", "http://sigite.acm.org/activities/curriculum/", ",", "consists", "of", "12", "knowledge", "areas", "including", "IT", "fundamentals", "-LRB-", "ITF", "-RRB-", ".", "ITF", "is", "intended", "to", "provide", "students", "with", "a", "set", "of", "foundation", "skills", "and", "provide", "an", "overview", "of", "the", "discipline", "of", "IT", "and", "its", "relationship", "to", "other", "computing", "disciplines", ".", "It", "is", "also", "intended", "to", "help", "students", "understand", "the", "diverse", "contexts", "in", "which", "IT", "is", "used", "and", "the", "challenges", "inherent", "in", "the", "diffusion", "of", "innovative", "technology", ".", "Given", "its", "foundational", "nature", ",", "it", "will", "not", "come", "as", "a", "surprise", "that", "the", "model", "curriculum", "recommends", "that", "ITF", "is", "covered", "early", "in", "a", "student", "'s", "program", "of", "study", ",", "and", "it", "seems", "most", "logical", "that", "this", "knowledge", "area", "be", "covered", "in", "an", "introductory", "course", "in", "a", "baccalaureate", "program", "in", "IT", ".", "The", "IT", "Model", "curriculum", "recommends", "a", "minimum", "coverage", "of", "33", "lecture", "hours", "for", "the", "ITF", "knowledge", "area", ";", "however", ",", "a", "typical", "3-credit", "semester", "course", "gives", "an", "instructor", ",", "at", "most", ",", "45", "lecture", "hours", ",", "and", "many", "programs", "will", "have", "to", "include", "additional", "material", "in", "an", "introductory", "course", ".", "For", "example", ",", "an", "important", "element", "of", "the", "IT", "program", "at", "Georgia", "Southern", "University", "is", "the", "inclusion", "of", "second", "disciplines", ",", "coherent", "sets", "of", "7", "courses", "in", "an", "IT", "application", "area", ",", "such", "as", "electronic", "broadcasting", ",", "law", "enforcement", ",", "music", "technology", ",", "and", "supply", "chain", "management", "-LRB-", "-LSB-", "5", "-RSB-", ",", "-LSB-", "6", "-RSB-", "-RRB-", ".", "Since", "students", "must", "begin", "introductory", "courses", "in", "their", "second", "discipline", "relatively", "early", "in", "their", "academic", "program", ",", "it", "is", "important", "that", "they", "be", "exposed", "to", "the", "range", "of", "second", "disciplines", "available", "to", "them", "early", ",", "and", "the", "most", "appropriate", "place", "to", "do", "this", "is", "in", "the", "introductory", "IT", "course", ".", "Also", ",", "students", "enrolling", "in", "the", "introductory", "IT", "course", "at", "Georgia", "Southern", "are", "not", "expected", "to", "have", "taken", "a", "computer", "literacy", "course", "beforehand", ",", "and", "it", "has", "become", "clear", "that", "many", "are", "weak", "in", "the", "use", "of", "spreadsheets", ".", "Since", "the", "program", "strongly", "believes", "that", "IT", "graduates", "can", "be", "expected", "to", "be", "conversant", "with", "basic", "productivity", "tools", ",", "including", "spreadsheets", ",", "the", "course", "must", "cover", "the", "basics", "of", "spreadsheet", "application", ".", "Finally", ",", "the", "introductory", "IT", "course", "must", "also", "provide", "a", "basic", "coverage", "of", "SQL", ",", "because", "the", "web", "design", "course", ",", "which", "covers", "n-tier", "architectures", "and", "requires", "a", "basic", "knowledge", "of", "SQL", ",", "is", "taught", "before", "the", "data", "management", "course", "in", "which", "SQL", "is", "normally", "presented", ".", "While", "the", "additional", "material", "that", "has", "to", "be", "covered", "in", "an", "introductory", "IT", "course", "is", "likely", "to", "differ", "between", "institutions", ",", "it", "is", "likely", "that", "many", ",", "if", "not", "all", ",", "IT", "programs", "will", "have", "to", "cover", "some", "additional", "material", ".", "Given", "that", "ITF", "already", "requires", "33", "lecture", "hours", ",", "considerable", "pressure", "is", "placed", "upon", "instructors", "in", "introductory", "IT", "courses", "to", "cover", "both", "the", "ITF", "material", "and", "whatever", "additional", "material", "needs", "to", "be", "included", ".", "The", "intent", "of", "this", "paper", "is", "to", "describe", "how", "this", "particular", "dilemma", "was", "resolved", "at", "Georgia", "Southern", "University", ".", "Section", "2", "provides", "more", "details", "about", "the", "IT", "fundamentals", "knowledge", "area", ",", "while", "section", "3", "discusses", "the", "introduction", "to", "IT", "course", "offered", "at", "Georgia", "Southern", "University", ".", "Section", "4", "concludes", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGITE", "05", ",", "October", "20", "22", ",", "2005", ",", "Newark", ",", "NJ", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-252-6", "/", "05/0010", "...", "$", "5.00", ".", "1", "The", "IT", "Model", "Curriculum", "follows", "the", "example", "set", "by", "the", "Computer", "Science", "model", "curriculum", "-LRB-", "http://www.acm.org/", "education/curricula.html", "-RRB-", "and", "distinguishes", "between", "a", "number", "of", "knowledge", "areas", ",", "each", "consisting", "of", "a", "number", "of", "knowledge", "units", ".", "Knowledge", "units", "are", "themselves", "composed", "of", "topics", "and", "learning", "outcomes", ".", "For", "reasons", "explained", "in", "-LRB-", "-LSB-", "4", "-RSB-", "-RRB-", ",", "the", "IT", "model", "curriculum", "differs", "from", "the", "computer", "science", "model", "curriculum", "in", "that", "it", "distinguishes", "between", "core", "learning", "outcomes", ",", "which", "every", "graduate", "from", "an", "IT", "program", "is", "expected", "to", "achieve", ",", "and", "elective", "learning", "outcomes", ",", "which", "only", "graduates", "specializing", "in", "this", "area", "are", "expected", "to", "achieve", ".", "Given", "the", "foundational", "nature", "of", "ITF", ",", "it", "should", "come", "as", "no", "surprise", "that", "ITF", "only", "has", "core", "learning", "outcomes", "associated", "with", "it", ".", "Below", "are", "listed", "the", "knowledge", "units", "and", "the", "core", "learning", "outcomes", "associated", "with", "each", ".", "The", "number", "behind", "each", "knowledge", "unit", "is", "the", "minimum", "recommended", "coverage", "expressed", "in", "lecture", "hours", ".", "ITF1", ".", "Pervasive", "themes", "in", "IT", "-LRB-", "17", "-RRB-", "1", ".", "Describe", "the", "components", "of", "IT", "systems", "and", "their", "interrelationships", ".", "2", ".", "Describe", "how", "complexity", "occurs", "in", "IT", ".", "3", ".", "Recognize", "that", "an", "IT", "professional", "must", "know", "how", "to", "manage", "complexity", ".", "4", ".", "List", "examples", "of", "tools", "and", "methods", "used", "in", "IT", "for", "managing", "complexity", ".", "5", ".", "Describe", "the", "role", "of", "the", "IT", "professional", "as", "the", "user", "advocate", ".", "6", ".", "Explain", "why", "life-long", "learning", "and", "continued", "professional", "development", "is", "critical", "for", "an", "IT", "professional", ".", "7", ".", "Explain", "why", "adaptability", "and", "interpersonal", "skills", "are", "important", "to", "an", "IT", "professional", ".", "8", ".", "Distinguish", "between", "data", "and", "information", ",", "and", "describe", "the", "interrelationship", ".", "9", ".", "Describe", "the", "importance", "of", "data", "and", "information", "in", "IT", ".", "10", ".", "Explain", "why", "the", "mastery", "of", "information", "and", "communication", "technologies", "is", "important", "to", "an", "IT", "professional", ".", "11", ".", "Explain", "why", "the", "IAS", "perspective", "needs", "to", "pervade", "all", "aspects", "of", "IT", ".", "ITF2", ".", "Organizational", "Issues", "-LRB-", "6", "-RRB-", "1", ".", "Describe", "the", "elements", "of", "a", "feasible", "IT", "application", ".", "2", ".", "Identify", "the", "extent", "and", "activities", "involved", "in", "an", "IT", "application", ".", "3", ".", "Understand", "the", "requirements", "of", "the", "business", "processes", ".", "4", ".", "Outline", "the", "project", "management", "processes", ".", "5", ".", "List", "the", "integration", "processes", ".", "ITF3", ".", "History", "of", "IT", "-LRB-", "3", "-RRB-", "1", ".", "Outline", "the", "history", "of", "computing", "technology", ".", "2", ".", "Describe", "significant", "impacts", "of", "computing", "on", "society", ".", "3", ".", "Describe", "significant", "changes", "in", "human-computer", "interaction", ".", "4", ".", "4", ".", "Outline", "the", "history", "of", "the", "Internet", ".", "ITF4", ".", "IT", "and", "its", "related", "and", "informing", "disciplines", "-LRB-", "3", "-RRB-", "1", ".", "Define", "``", "Information", "Technology", ".", "''", "2", ".", "Describe", "the", "relationship", "between", "IT", "and", "other", "computing", "disciplines", ".", "3", ".", "Describe", "the", "relationship", "between", "IT", "and", "non-computing", "disciplines", ".", "4", ".", "Explain", "why", "mathematics", "and", "statistics", "are", "important", "in", "IT", ".", "ITF5", ".", "Application", "domains", "-LRB-", "2", "-RRB-", "1", ".", "Describe", "the", "application", "of", "IT", "in", "non-computing", "disciplines", ".", "2", ".", "Describe", "how", "IT", "has", "impacted", "almost", "all", "aspects", "of", "modern", "living", ".", "3", ".", "Describe", "ways", "and", "extents", "in", "which", "IT", "has", "changed", "the", "interaction", "and", "communication", "in", "our", "society", ".", "4", ".", "Describe", "how", "IT", "has", "impacted", "the", "globalization", "of", "world", "economy", ",", "culture", ",", "political", "systems", ",", "health", ",", "security", ",", "warfare", ",", "etc", ".", "ITF6", ".", "Application", "of", "math", "and", "statistics", "to", "IT", "-LRB-", "2", "-RRB-", "1", ".", "Recognize", "the", "foundation", "of", "IT", "is", "built", "upon", "the", "various", "aspects", "of", "mathematics", ".", "2", ".", "Understand", "the", "number", "systems", "used", "in", "computation", ".", "3", ".", "Explain", "data", "representation", "and", "encoding", "systems", ".", "4", ".", "Describe", "the", "current", "encryption", "methods", "and", "their", "limitations", ".", "5", ".", "Describe", "the", "pervasive", "usage", "of", "mathematical", "concepts", ",", "such", "as", "functions", ",", "relations", ",", "sets", "as", "well", "as", "basic", "logic", "used", "in", "programming", ".", "6", ".", "Recognize", "the", "value", "of", "probability", "and", "statistics", ".", "7", ".", "Describe", "the", "basic", "data", "analysis", "concepts", "and", "methods", "used", "in", "IT", "applications", ".", "The", "total", "minimum", "recommended", "coverage", "thus", "is", "33", "lecture", "hours", ".", "The", "introduction", "to", "IT", "course", "-LRB-", "IT", "1130", "-RRB-", "offered", "in", "the", "Department", "of", "IT", "at", "Georgia", "Southern", "University", "is", "designed", "to", "introduce", "students", "to", "IT", "as", "a", "discipline", "and", "cover", "some", "productivity", "tools", ",", "namely", "Excel", "and", "Access", ".", "In", "line", "with", "all", "other", "IT", "courses", "at", "Georgia", "Southern", "University", ",", "IT", "1130", "was", "formulated", "through", "a", "set", "of", "explicit", "learning", "outcomes", ".", "The", "learning", "outcomes", "for", "IT", "1130", "are", "1", ".", "Demonstrate", "a", "basic", "understanding", "of", "the", "field", "of", "IT", ",", "including", "the", "ability", "to", "i.", "Define", "the", "term", "``", "Information", "Technology", "''", ";", "ii", ".", "Recognize", "the", "disciplines", "that", "have", "contributed", "to", "the", "emergence", "of", "IT", ",", "namely", "computer", "science", ",", "information", "systems", ",", "and", "computer", "engineering", ";", "iii", ".", "Identify", "areas", "in", "which", "IT", "has", "significantly", "impacted", "individuals", ",", "organizations", "and/or", "societies", ".", "2", ".", "Demonstrate", "an", "understanding", "of", "basic", "information", "technology", "software", "applications", ",", "including", "the", "ability", "to", "i.", "Using", "a", "given", "specification", ",", "create", "a", "simple", "database", ";", "ii", ".", "Use", "SQL", "for", "simple", "queries", ";", "iii", ".", "Use", "an", "office", "productivity", "suite", ".", "The", "overlap", "between", "Objective", "1", "and", "the", "ITF", "Knowledge", "Area", "is", "significant", ";", "however", ",", "due", "to", "Objective", "2", ",", "the", "introductory", "IT", "course", "at", "Georgia", "Southern", "must", "cover", "significant", "additional", "material", "not", "specified", "in", "the", "IT", "fundamentals", "knowledge", "area", ".", "2", "3.2", "Course", "Outline", "and", "its", "Mapping", "to", "the", "IT", "Fundamentals", "Knowledge", "Area", "The", "Introduction", "to", "IT", "course", "at", "Georgia", "Southern", "consists", "of", "45", "lecture", "hours", ".", "Teaching", "productivity", "tools", ",", "Learning", "Outcome", "2", "listed", "in", "Section", "3.1", ",", "accounts", "for", "roughly", "9", "hours", "of", "instruction", ".", "Exams", "conducted", "during", "the", "semester", "account", "for", "3", "hours", "of", "instruction", ".", "This", "leaves", "33", "lecture", "hours", "to", "cover", "the", "remaining", "topics", "for", "IT", "1130", "relating", "to", "Learning", "Outcome", "1", "listed", "in", "Section", "3.1", ".", "Table", "1", "provides", "a", "breakdown", "of", "the", "topics", "covered", "in", "the", "remaining", "33", "hours", "of", "instruction", ",", "the", "number", "of", "lecture", "hours", "spent", "on", "that", "topic", ",", "as", "well", "as", "the", "learning", "outcome", "in", "the", "IT", "fundamentals", "knowledge", "area", "of", "the", "model", "curriculum", "to", "which", "the", "topic", "corresponds", ".", "TABLE", "1", ":", "IT", "1130", "Topics", "and", "ITF", "Learning", "Outcomes", "IT", "1130", "Topic", "Objective", "#", "Hours", "1", "Define", "IT", "ITF4", ".1", "1", "2", "Data", "and", "Information", "ITF1", ".8", "ITF1", ".9", "1", "3", "Components", "of", "IT", "Systems", "Hardware", "Software", "Networks", "User", "ITF1", ".1", "8.5", "4", "Core", "Technologies", "Data", "Management", "Networking", "Web", "Systems", "SAD", "Programming", "HCI", "Specializations", "in", "BSIT", "ITF1", ".10", "ITF2", ".1", "ITF2", ".2", "ITF2", ".3", "ITF2", ".4", "ITF2", ".5", "8.5", "5", "Related", "Disciplines", "ITF4", ".2", "ITF4", ".3", "ITF4", ".4", "2", "6", "Application", "Domains", "-LRB-", "Second", "Disciplines", "in", "BSIT", "-RRB-", "ITF5", ".1", "ITF5", ".2", "ITF5", ".3", "ITF", "5.4", "ITF", "3.2", "7", "7", "History", "of", "IT", "ITF3", ".1", "ITF3", ".4", "1", "8", "Viruses", ",", "Crime", ",", "Law", ",", "Ethics", ",", "Privacy", "&", "Security", "ITF1", ".11", "ITF", "3.2", "3", "9", "IT", "as", "a", "Profession", "ITF1", ".5", "ITF1", ".6", "ITF1", ".7", "ITF1", ".10", "1", "TOTAL", "33", "Table", "2", "compares", "the", "number", "of", "hours", "of", "instruction", "in", "the", "IT", "1130", "course", "for", "each", "of", "the", "knowledge", "units", "in", "the", "IT", "fundamentals", "area", "to", "the", "minimum", "recommended", "number", "of", "lecture", "hours", "listed", "in", "the", "model", "curriculum", ".", "The", "next", "section", ",", "Section", "3.3", ",", "discusses", "the", "discrepancies", "between", "the", "recommended", "number", "of", "hours", "and", "the", "actual", "number", "of", "hours", "taught", ".", "TABLE", "2", ":", "Comparison", "of", "IT", "1130", "to", "ITF", "Knowledge", "Area", "ITF", "Knowledge", "Units", "ITF", "Recommended", "IT", "1130", "Knowledge", "Units", "Not", "Covered", "ITF1", "17", "14", "1.2", ",", "1.3", ",", "1.4", "ITF2", "6", "7.5", "ITF3", "3", "2", "3.3", "ITF4", "3", "3", "ITF5", "2", "6.5", "ITF6", "2", "Not", "Covered", "6.1", "6.7", "TOTAL", "33", "33", "3.3", "Some", "Observations", "Table", "2", "illustrates", "several", "noteworthy", "differences", "between", "the", "IT", "1130", "course", "at", "Georgia", "Southern", "University", "and", "the", "knowledge", "units", "in", "the", "ITF", "knowledge", "area", ".", "1", ".", "A", "discrepancy", "exists", "between", "the", "minimum", "number", "of", "hours", "recommended", "for", "ITF1", "-LRB-", "pervasive", "themes", "in", "IT", "-RRB-", "and", "the", "number", "of", "hours", "taught", "in", "IT", "1130", ".", "The", "3", "hour", "discrepancy", "can", "be", "attributed", "to", "the", "lack", "of", "coverage", "in", "IT", "1130", "of", "outcomes", "ITF1", ".2", "4", ".", "Thus", ",", "IT", "1130", "provides", "no", "explicit", "coverage", "of", "the", "reasons", "for", "the", "emergence", "of", "complexity", "in", "IT", ",", "the", "need", "for", "IT", "professionals", "to", "handle", "complexity", ",", "and", "the", "tools", "and", "techniques", "available", "to", "an", "IT", "professional", "in", "IT1130", ".", "Instead", ",", "the", "IT", "program", "at", "Georgia", "Southern", "covers", "complexity-related", "issues", "in", "a", "number", "of", "courses", "throughout", "the", "curriculum", ".", "For", "example", ",", "some", "complexity-related", "issues", "are", "discussed", "in", "a", "two-course", "sequence", "of", "Java", "programming", "courses", ".", "Standards", "are", "discussed", "in", "a", "number", "of", "courses", "throughout", "the", "curriculum", ",", "including", "a", "data", "communication", "course", "and", "a", "web", "design", "course", "in", "which", "students", "learns", "how", "to", "implement", "n-tier", "architectures", ".", "Finally", ",", "complexity", "related", "issues", "are", "also", "covered", "in", "a", "capstone", "course", "on", "IT", "issues", "and", "management", ".", "Since", "the", "need", "to", "manage", "complexity", "is", "identified", "in", "the", "IT", "model", "curriculum", "as", "a", "pervasive", "theme", ",", "this", "is", "a", "reasonable", "alternative", "to", "cover", "this", "issue", ".", "2", ".", "The", "IT", "1130", "course", "devotes", "more", "lectures", "hours", "than", "the", "minimum", "recommendation", "to", "ITF2", "-LRB-", "organizational", "issues", "-RRB-", "and", "ITF5", "-LRB-", "application", "domains", "-RRB-", ".", "As", "the", "recommendation", "is", "a", "minimum", ",", "this", "is", "not", "problematic", ";", "however", ",", "it", "is", "worth", "noting", "that", "the", "explanation", "for", "these", "discrepancies", "relates", "directly", "to", "the", "structure", "of", "the", "IT", "major", "at", "Georgia", "Southern", "University", ".", "IT", "majors", "are", "expected", "to", "take", "a", "number", "of", "core", "courses", ",", "including", "courses", "in", "programming", ";", "web", "design", ";", "software", "acquisition", ",", "implementation", "and", "integration", ";", "networking", ";", "3", "systems", "analysis", "and", "design", ";", "data", "management", ";", "and", "project", "management", ".", "In", "addition", ",", "IT", "majors", "specialize", "in", "either", "knowledge", "management", "and", "it", "integration", ",", "systems", "development", "and", "support", ",", "telecommunications", "and", "network", "administration", ",", "or", "web", "and", "multimedia", "foundations", ".", "It", "is", "useful", "to", "students", "starting", "out", "on", "their", "academic", "program", "in", "IT", "to", "receive", "information", "on", "the", "structure", "of", "the", "core", "of", "the", "program", ",", "the", "courses", "that", "it", "consists", "of", "and", "how", "they", "relate", "to", "each", "other", ",", "and", "on", "the", "different", "specializations", "available", "to", "them", ".", "Since", ",", "for", "most", "IT", "majors", ",", "IT", "1130", "is", "the", "first", "course", "in", "the", "program", ",", "it", "is", "the", "logical", "place", "to", "meet", "this", "aim", ".", "Clearly", ",", "a", "full", "discussion", "of", "the", "structure", "of", "the", "program", "covers", "more", "than", "just", "data", "management", "-LRB-", "ITF1", ".10", "-RRB-", ",", "a", "broad", "overview", "of", "IT", "applications", "-LRB-", "ITF2", ".1", "-RRB-", "and", "their", "development", "-LRB-", "ITF2", ".2", "-RRB-", ",", "systems", "analysis", "-LRB-", "ITF2", ".3", "-RRB-", ",", "project", "management", "-LRB-", "ITF2", ".4", "-RRB-", ",", "and", "IT", "integration", "-LRB-", "ITF2", ".5", "-RRB-", ".", "This", "explains", "why", "IT", "1130", "devotes", "1.5", "more", "hours", "than", "the", "recommended", "minimum", "6", ".", "Another", "important", "element", "of", "the", "IT", "program", "at", "Georgia", "Southern", "is", "the", "inclusion", "of", "second", "disciplines", ".", "One", "of", "the", "explicit", "program", "outcomes", "of", "the", "BS", "in", "IT", "program", "at", "Georgia", "Southern", "is", "that", ",", "on", "graduation", ",", "graduates", "will", "be", "able", "``", "to", "demonstrate", "sufficient", "understanding", "of", "an", "application", "domain", "to", "be", "able", "to", "develop", "IT", "applications", "suitable", "for", "that", "application", "domain", ".", "''", "This", "outcome", "was", "included", "at", "the", "recommendation", "of", "industry", "representatives", "who", "were", "consulted", "when", "the", "IT", "program", "was", "designed", "-LRB-", "-LSB-", "5", "-RSB-", "-RRB-", ".", "For", "students", "to", "develop", "this", "ability", ",", "they", "must", "be", "exposed", "to", "an", "IT", "application", "domain", ",", "and", "the", "BS", "IT", "program", "at", "Georgia", "Southern", "therefore", "contains", "so-called", "second", "disciplines", ".", "Second", "disciplines", "are", "coherent", "sets", "of", "7", "3-credit", "courses", "in", "potential", "IT", "application", "domains", ",", "such", "as", "electronic", "broadcasting", ",", "law", "enforcement", ",", "music", "technology", ",", "or", "supply", "chain", "management", ".", "Students", "typically", "start", "taking", "courses", "in", "their", "second", "discipline", "early", "in", "their", "program", "of", "study", "-LRB-", "the", "standard", "program", "of", "study", "suggests", "that", "students", "take", "their", "first", "second", "discipline", "course", "in", "the", "first", "semester", "of", "their", "sophomore", "year", "-RRB-", ".", "It", "is", "therefore", "important", "that", "students", "be", "exposed", "to", "the", "different", "second", "disciplines", "available", "to", "them", "early", ",", "and", "IT", "1130", "is", "the", "logical", "place", "to", "do", "so", ".", "One", "fortunate", "side", "effect", "of", "the", "need", "to", "introduce", "a", "second", "discipline", "is", "that", "it", "gives", "the", "program", "an", "excellent", "opportunity", "to", "make", "students", "aware", "of", "the", "broad", "range", "of", "areas", "in", "which", "IT", "can", "be", "applied", "and", ",", "hence", ",", "cover", "ITF5", "-LRB-", "application", "domains", "-RRB-", ";", "however", ",", "since", "the", "number", "of", "second", "disciplines", "is", "large", "-LRB-", "currently", ",", "26", "-RRB-", ",", "adequate", "coverage", "requires", "4.5", "hours", "more", "than", "the", "minimum", "recommend", "coverage", "for", "ITF", "5", "-LRB-", "application", "domains", "-RRB-", "3", ".", "One", "lecture", "hour", "is", "missing", "in", "ITF3", "-LRB-", "history", "of", "IT", "-RRB-", "due", "to", "lack", "of", "coverage", "in", "the", "IT", "1130", "course", "of", "significant", "changes", "in", "HCI", "-LRB-", "ITF3", ".3", "-RRB-", ".", "Some", "material", "relevant", "to", "this", "topic", "is", "introduced", "in", "other", "courses", "that", "students", "tend", "to", "take", "early", "in", "their", "program", "of", "study", ",", "such", "as", "the", "Introductory", "Java", "course", "and", "the", "introductory", "web", "design", "course", ".", "For", "example", ",", "the", "introductory", "web", "design", "course", "includes", "among", "its", "course", "objectives", "that", "students", "develop", "the", "ability", "to", "design", "Web", "pages", "in", "accordance", "with", "good", "design", "principles", "using", "appropriate", "styles", "and", "formats", "and", "the", "ability", "to", "design", "Web", "pages", "that", "are", "ADA", "compliant", ".", "Material", "relevant", "to", "both", "objectives", "allows", "us", "to", "expand", "on", "HCI", "design", "principles", "and", "place", "these", "in", "a", "historical", "context", ".", "Moreover", ",", "students", "are", "advised", "to", "take", "the", "introductory", "web", "design", "course", "in", "the", "semester", "following", "the", "one", "in", "which", "they", "take", "IT", "1130", ",", "and", "they", "are", "therefore", "likely", "to", "be", "exposed", "to", "material", "relevant", "to", "ITF3", ".3", "early", "in", "their", "program", "of", "study", ".", "4", ".", "The", "final", "discrepancy", "lies", "in", "the", "coverage", "of", "the", "learning", "outcomes", "corresponding", "to", "the", "ITF6", "-LRB-", "application", "of", "math", "and", "statistics", "to", "IT", "-RRB-", "in", "the", "IT", "1130", "course", ";", "however", ",", "the", "material", "related", "to", "this", "knowledge", "unit", "is", "covered", "in", "two", "courses", "that", "students", "are", "again", "advised", "to", "take", "early", "in", "their", "program", "of", "study", ".", "One", "course", "is", "a", "course", "in", "discrete", "mathematics", ",", "designed", "specifically", "for", "IT", "majors", ".", "It", "includes", "among", "its", "course", "objectives", "the", "ability", "to", "explain", "the", "importance", "of", "discrete", "mathematics", "in", "computer", "science", "and", "information", "technology", "and", "provides", "in-depth", "coverage", "of", "functions", ",", "sets", ",", "basic", "propositional", "logic", ",", "and", "algorithm", "design", ".", "Finally", ",", "all", "students", "enrolled", "in", "the", "IT", "major", "take", "a", "statistics", "course", ",", "which", "covers", "probability", ".", "3.4", "Support", "Material", "Since", "the", "ITF", "knowledge", "area", "is", "relatively", "new", ",", "no", "single", "textbook", "covers", "all", "relevant", "material", ".", "We", "therefore", "use", "a", "variety", "of", "sources", "to", "support", "the", "course", ".", "First", ",", "we", "use", "Excel", "2003", "-LRB-", "-LSB-", "8", "-RSB-", "-RRB-", "and", "Access", "2003", "-LRB-", "-LSB-", "7", "-RSB-", "-RRB-", "to", "support", "the", "teaching", "of", "spreadsheets", "and", "SQL", "-LRB-", "IT", "1130", "course", "outcomes", "2i-2iii", "identified", "in", "section", "3.1", "-RRB-", ".", "Second", ",", "to", "support", "the", "teaching", "of", "Topics", "3", "-LRB-", "components", "of", "IT", "systems", "-RRB-", ",", "4", "-LRB-", "core", "technologies", "-RRB-", "and", "7", "-LRB-", "history", "of", "IT", "-RRB-", ",", "we", "use", "Discovering", "Computers", "2005", "-LRB-", "-LSB-", "9", "-RSB-", "-RRB-", ".", "While", "the", "textbook", "provides", "a", "reasonable", "coverage", "of", "some", "of", "the", "subtopics", "discussed", ",", "it", "does", "not", "sufficiently", "stress", "the", "importance", "of", "the", "users", "and", "the", "importance", "of", "HCI", "in", "systems", "development", ",", "and", "we", ",", "therefore", ",", "emphasize", "this", "issue", "throughout", "the", "course", ".", "We", "discussed", "the", "way", "in", "which", "we", "cover", "these", "topics", "in", "Points", "2", "and", "3", "in", "section", "3.3", ".", "Third", ",", "for", "topics", "6", "-LRB-", "Application", "Domains", "-RRB-", ",", "8", "-LRB-", "Viruses", ",", "Crime", ",", "Law", ",", "Ethics", ",", "Privacy", "and", "Security", "-RRB-", "and", "9", "-LRB-", "IT", "as", "a", "profession", "-RRB-", ",", "we", "use", "Computers", "in", "Our", "World", "-LRB-", "-LSB-", "3", "-RSB-", "-RRB-", ";", "however", ",", "we", "do", "not", "rely", "solely", "on", "the", "textbook", "for", "our", "coverage", "of", "topic", "6", ".", "Again", ",", "we", "discussed", "this", "in", "Point", "2", "in", "section", "3.3", ".", "Finally", ",", "to", "support", "Topics", "1", "-LRB-", "define", "IT", "-RRB-", ",", "2", "-LRB-", "data", "and", "information", "-RRB-", ",", "and", "5", "-LRB-", "IT", "and", "its", "related", "disciplines", "-RRB-", ",", "students", "are", "given", "material", "written", "specifically", "for", "the", "course", ".", "Also", ",", "we", "invite", "representatives", "from", "computer", "science", "and", "information", "systems", "to", "lecture", "on", "their", "specific", "disciplines", "and", "follow", "this", "up", "with", "a", "lecture", "on", "computer", "engineering", "and", "a", "discussion", "on", "the", "relationship", "between", "all", "four", "disciplines", ".", "Table", "3", "lists", "the", "core", "learning", "outcomes", "for", "each", "of", "the", "ITF", "knowledge", "units", "and", "maps", "them", "to", "the", "material", "in", "the", "IT", "1130", "course", "used", "to", "achieve", "that", "outcome", ".", "The", "material", "comes", "either", "from", "Discovering", "Computers", "2005", "-LRB-", "-LSB-", "9", "-RSB-", "-RRB-", "-LRB-", "DC", "-RRB-", ",", "Computers", "in", "Our", "World", "-LRB-", "-LSB-", "3", "-RSB-", "-RRB-", "-LRB-", "CIOW", "-RRB-", ",", "or", "material", "written", "specifically", "for", "the", "course", "-LRB-", "supplemental", "material", "-RRB-", "and/or", "lectures/discussions", "led", "by", "faculty", "members", "from", "other", "related", "departments", ".", "4", "TABLE", "3", ":", "Course", "Materials", "Used", "in", "IT", "1130", "to", "Achieve", "ITF", "Learning", "Outcomes", "ITF", "Knowledge", "Units", "Learning", "Outcomes", "Material", "1", "DC", "Chapters", "3-9", "2-4", "Not", "covered", "5-7", "DC", "Chapters", "12", "&", "15", ",", "CIOW", "Chapters", "8", "&", "9", ",", "Supplemental", "Materials", "8.9", "DC", "Chapter", "10", ",", "Supplemental", "Materials", "10", "DC", "Chapters", "2", ",", "9", ",", "10,12", ",", "13", ",", "Supplemental", "Materials", "ITF", "1", "11", "CIOW", "Chapters", "7-9", "ITF2", "1-5", "DC", "Chapters", "2", ",", "9", ",", "10", ",", "12", ",", "13", ".", "Supplemental", "Materials", "1", "DC", "Timeline", "between", "Chapters", "1", "and", "2", ",", "Chapter", "2", "2", "CIOW", "Chapters", "1", "-", "9", "3", "Not", "covered", "ITF3", "4", "DC", "Timeline", "between", "Chapters", "1", "and", "2", ",", "Chapter", "2", "ITF", "4", "1-4", "Supplemental", "Materials", ",", "Lecture", "and", "Class", "Discussion", "led", "by", "CS", ",", "IS", "and", "IT", "representatives", "ITF5", "1-4", "CIOW", "Chapters", "1", "9", "ITF6", "1-7", "Not", "covered", "*", "Discovering", "Computers", "=", "DC", ",", "Computers", "in", "Our", "World", "=", "CIOW", "The", "IT", "Fundamentals", "knowledge", "area", "in", "the", "IT", "model", "curriculum", "is", "of", "central", "importance", "to", "the", "design", "of", "an", "introductory", "IT", "course", ";", "however", ",", "since", "institutions", "will", "have", "to", "include", "additional", "materials", "in", "their", "introductory", "IT", "courses", ",", "depending", "on", "the", "nature", "of", "their", "program", ",", "the", "minimum", "requirement", "of", "33", "lecture", "hours", "to", "cover", "this", "material", "is", "likely", "to", "lead", "to", "problems", ".", "This", "paper", "presents", "the", "experience", "with", "an", "introductory", "IT", "course", "at", "Georgia", "Southern", "University", ",", "IT1130", ".", "In", "general", ",", "we", "believe", "that", ",", "despite", "the", "need", "to", "include", "additional", "material", "in", "IT1130", ",", "we", "are", "able", "to", "cover", "most", "of", "the", "knowledge", "units", "in", "the", "IT", "fundamentals", "knowledge", "area", ".", "We", "are", "confident", "that", "those", "knowledge", "units", "not", "covered", "in", "IT1130", "are", "covered", "in", "other", "courses", "that", "students", "are", "advised", "to", "take", "early", "in", "their", "programs", "of", "study", ".", "Finally", ",", "despite", "the", "fact", "that", "the", "IT", "fundamentals", "knowledge", "area", "is", "new", "and", "that", "no", "textbooks", "cover", "all", "the", "knowledge", "units", "within", "the", "area", ",", "we", "have", "been", "able", "to", "identify", "a", "set", "of", "textbooks", "that", ",", "jointly", ",", "cover", "most", "of", "the", "material", ";", "however", ",", "we", "provide", "a", "relatively", "small", "amount", "of", "additional", "material", ",", "and", "the", "textbooks", "we", "identified", "do", "not", "always", "cover", "the", "material", "at", "the", "appropriate", "level", ".", "Therefore", ",", "support", "materials", "specifically", "for", "the", "IT", "fundamentals", "knowledge", "area", "need", "to", "be", "developed", ".", "Whether", "this", "is", "best", "provided", "in", "the", "form", "of", "a", "textbook", ",", "or", ",", "more", "dynamically", ",", "as", "a", "set", "of", "online", "learning", "objects", "-LRB-", "-LSB-", "1", "-RSB-", ",", "-LSB-", "2", "-RSB-", "-RRB-", "is", "a", "question", "open", "to", "debate", ".", "-LSB-", "1", "-RSB-", "Abernethy", ",", "K.", ",", "Treu", ",", "K", ",", "Piegari", ",", "G", ",", "Reichgelt", ".", "H.", "``", "An", "implementation", "model", "for", "a", "learning", "object", "repository", "''", ",", "October", "2005", ",", "E-learn", "2005", "World", "Conference", "on", "E-learning", "in", "corporate", ",", "government", ",", "healthcare", "and", "higher", "education", ".", "Vancouver", ",", "Canada", ".", "-LSB-", "2", "-RSB-", "Abernethy", ",", "K.", ",", "Treu", ",", "K", ",", "Piegari", ",", "G", ",", "Reichgelt", ".", "H.", "``", "A", "learning", "object", "repository", "in", "support", "of", "introduction", "to", "information", "technology", "''", ",", "August", "2005", ",", "6", "th", "Annual", "Conference", "for", "the", "Higher", "Education", "Academy", "Subject", "Network", "for", "Information", "and", "Computer", "Science", ",", "York", ",", "England", ".", "-LSB-", "3", "-RSB-", "Jedlicka", ",", "L.", "Computers", "in", "Our", "World", ".", "Thompson", "Course", "Technologies", ",", "2003", ".", "-LSB-", "4", "-RSB-", "Lawson", ",", "E", ",", "Reichgelt", ",", "H", ",", "Lunt", ",", "B.", "Ekstrom", ",", "J", ",", "Kamali", ",", "R.", "Miller", ",", "J", "and", "Gorka", ",", "S", ",", "The", "Information", "Technology", "Model", "Curriculum", ".", "Paper", "submitted", "to", "ISECON", "2005", ".", "-LSB-", "5", "-RSB-", "Reichgelt", ",", "H.", ",", "Price", ",", "B.", "and", "Zhang", ",", "A.", ",", "``", "Designing", "an", "Information", "Technology", "curriculum", ":", "The", "Georgia", "Southern", "experience", "''", ",", "Journal", "of", "Information", "Technology", "Education", "2002", ",", "Vol", ".", "1", ",", "No.", "4", ",", "213-221", "-LSB-", "6", "-RSB-", "Reichgelt", ",", "H.", ",", "Price", ",", "B.", "and", "Zhang", ",", "A.", ",", "The", "Inclusion", "of", "Application", "Areas", "in", "IT", "Curricula", ",", "SIGITE", "--", "3", ",", "Rochester", ",", "NY", ",", "ACM-SIGITE", "-LRB-", "formerly", "SITE", "-RRB-", ",", "September", "2002", "-LSB-", "7", "-RSB-", "Shelley", ",", "G.", ",", "Cashman", ",", "T.", ",", "Pratt", ",", "P.", "and", "Last", ",", "M.", "Microsoft", "Office", "Access", "2003", ".", "Thompson", "Course", "Technologies", ",", "2004", ".", "-LSB-", "8", "-RSB-", "Shelley", ",", "G.", ",", "Cashman", ",", "T.", ",", "Quasney", ",", "J.", "Microsoft", "Office", "Excel", "2003", ".", "Thompson", "Course", "Technologies", ",", "2004", ".", "-LSB-", "9", "-RSB-", "Shelley", ",", "G.", ",", "Vermaat", ",", "M.", "and", "Cashman", ",", "T.", "Discovering", "Computers", "2005", ":", "A", "Gateway", "to", "Information", ".", "Thompson", "Course", "Technologies", ",", "2005", ".", "5"], "doc_bio_tags": ["O", "O", "B", "I", "I", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["it fundamentals knowledge area", "it model curriculum"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "11", "document": ["A", "Functional", "Correspondence", "between", "Evaluators", "and", "Abstract", "Machines", "We", "bridge", "the", "gap", "between", "functional", "evaluators", "and", "abstract", "machines", "for", "the", "-", "calculus", ",", "using", "closure", "conversion", ",", "transformation", "into", "continuation-passing", "style", ",", "and", "defunctionalization", ".", "We", "illustrate", "this", "approach", "by", "deriving", "Krivine", "'s", "abstract", "machine", "from", "an", "ordinary", "call-by-name", "evaluator", "and", "by", "deriving", "an", "ordinary", "call-by-value", "evaluator", "from", "Felleisen", "et", "al.", "'s", "CEK", "machine", ".", "The", "first", "derivation", "is", "strikingly", "simpler", "than", "what", "can", "be", "found", "in", "the", "literature", ".", "The", "second", "one", "is", "new", ".", "Together", ",", "they", "show", "that", "Krivine", "'s", "abstract", "machine", "and", "the", "CEK", "machine", "correspond", "to", "the", "call-by-name", "and", "call-by-value", "facets", "of", "an", "ordinary", "evaluator", "for", "the", "-", "calculus", ".", "We", "then", "reveal", "the", "denotational", "content", "of", "Hannan", "and", "Miller", "'s", "CLS", "machine", "and", "of", "Landin", "'s", "SECD", "machine", ".", "We", "formally", "compare", "the", "corresponding", "evaluators", "and", "we", "illustrate", "some", "degrees", "of", "freedom", "in", "the", "design", "spaces", "of", "evaluators", "and", "of", "abstract", "machines", "for", "the", "-", "calculus", "with", "computational", "effects", ".", "Finally", ",", "we", "consider", "the", "Categorical", "Abstract", "Machine", "and", "the", "extent", "to", "which", "it", "is", "more", "of", "a", "virtual", "machine", "than", "an", "abstract", "machine", "D.", "1.1", "-LSB-", "Software", "-RSB-", ":", "Programming", "Techniques", "--", "applicative", "-LRB-", "functional", "-RRB-", "programming", ";", "D.", "3.4", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Proces-sors", "--", "interpreters", "Design", ",", "Languages", ".", "Basic", "Research", "in", "Computer", "Science", "-LRB-", "www.brics.dk", "-RRB-", ",", "funded", "by", "the", "Danish", "National", "Research", "Foundation", ".", "Ny", "Munkegade", ",", "Building", "540", ",", "DK-8000", "Aarhus", "C", ",", "Denmark", ".", "Email", ":", "mads", ",", "dabi", ",", "danvy", ",", "jmi", "@brics", ".", "dk", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "PPDP", "'", "03", ",", "August", "27", "29", ",", "2003", ",", "Uppsala", ",", "Sweden", ".", "Copyright", "2003", "ACM", "1-58113-705-2", "/", "03/0008", "...", "$", "5.00", "In", "Hannan", "and", "Miller", "'s", "words", "-LSB-", "23", ",", "Section", "7", "-RSB-", ",", "there", "are", "fundamental", "differences", "between", "denotational", "definitions", "and", "definitions", "of", "abstract", "machines", ".", "While", "a", "functional", "programmer", "tends", "to", "be", "familiar", "with", "denotational", "definitions", "-LSB-", "36", "-RSB-", ",", "he", "typically", "wonders", "about", "the", "following", "issues", ":", "Design", ":", "How", "does", "one", "design", "an", "abstract", "machine", "?", "How", "were", "existing", "abstract", "machines", ",", "starting", "with", "Landin", "'s", "SECD", "machine", ",", "designed", "?", "How", "does", "one", "make", "variants", "of", "an", "existing", "abstract", "machine", "?", "How", "does", "one", "extend", "an", "existing", "abstract", "machine", "to", "a", "bigger", "source", "language", "?", "How", "does", "one", "go", "about", "designing", "a", "new", "abstract", "machine", "?", "How", "does", "one", "relate", "two", "abstract", "machines", "?", "Correctness", ":", "How", "does", "one", "prove", "the", "correctness", "of", "an", "abstract", "machine", "?", "Assuming", "it", "implements", "a", "reduction", "strategy", ",", "should", "one", "prove", "that", "each", "of", "its", "transitions", "implements", "a", "part", "of", "this", "strategy", "?", "Or", "should", "one", "characterize", "it", "in", "reference", "to", "a", "given", "evaluator", ",", "or", "to", "another", "abstract", "machine", "?", "A", "variety", "of", "answers", "to", "these", "questions", "can", "be", "found", "in", "the", "literature", ".", "Landin", "invented", "the", "SECD", "machine", "as", "an", "implementation", "model", "for", "functional", "languages", "-LSB-", "26", "-RSB-", ",", "and", "Plotkin", "proved", "its", "correctness", "in", "connection", "with", "an", "evaluation", "function", "-LSB-", "30", ",", "Section", "2", "-RSB-", ".", "Krivine", "discovered", "an", "abstract", "machine", "from", "a", "logical", "standpoint", "-LSB-", "25", "-RSB-", ",", "and", "Cr", "egut", "proved", "its", "correctness", "in", "reference", "to", "a", "reduction", "strategy", ";", "he", "also", "generalized", "it", "from", "weak", "to", "strong", "normalization", "-LSB-", "7", "-RSB-", ".", "Curien", "discovered", "the", "Categorical", "Abstract", "Machine", "from", "a", "categorical", "standpoint", "-LSB-", "6", ",", "8", "-RSB-", ".", "Felleisen", "et", "al.", "invented", "the", "CEK", "machine", "from", "an", "operational", "standpoint", "-LSB-", "16", ",", "17", ",", "19", "-RSB-", ".", "Hannan", "and", "Miller", "discovered", "the", "CLS", "machine", "from", "a", "proof-theoretical", "standpoint", "-LSB-", "23", "-RSB-", ".", "Many", "people", "derived", ",", "invented", ",", "or", "-LRB-", "re", "-", "-RRB-", "discovered", "Krivine", "'s", "machine", ".", "Many", "others", "proposed", "modifications", "of", "existing", "machines", ".", "And", "recently", ",", "Rose", "presented", "a", "method", "to", "construct", "abstract", "machines", "from", "reduction", "rules", "-LSB-", "32", "-RSB-", ",", "while", "Hardin", ",", "Maranget", ",", "and", "Pagano", "presented", "a", "method", "to", "extract", "the", "reduction", "strategy", "of", "a", "machine", "by", "extracting", "axioms", "from", "its", "transitions", "and", "structural", "rules", "from", "its", "architecture", "-LSB-", "24", "-RSB-", ".", "In", "this", "article", ",", "we", "propose", "one", "constructive", "answer", "to", "all", "the", "questions", "above", ".", "We", "present", "a", "correspondence", "between", "functional", "evaluators", "and", "abstract", "machines", "based", "on", "a", "two-way", "derivation", "consisting", "of", "closure", "conversion", ",", "transformation", "into", "continuation-passing", "style", "-LRB-", "CPS", "-RRB-", ",", "and", "defunctionalization", ".", "This", "two-way", "derivation", "lets", "us", "connect", "each", "of", "the", "machines", "above", "with", "an", "evaluator", ",", "and", "makes", "it", "possible", "to", "echo", "variations", "in", "the", "evaluator", "into", "variations", "in", "the", "abstract", "machine", ",", "and", "vice", "versa", ".", "The", "evaluator", "clarifies", "the", "reduction", "strategy", "of", "the", "corresponding", "machine", ".", "The", "abstract", "machine", "makes", "the", "evaluation", "steps", "explicit", "in", "a", "transition", "system", ".", "8", "Some", "machines", "operate", "on", "-", "terms", "directly", "whereas", "others", "operate", "on", "compiled", "-", "terms", "expressed", "with", "an", "instruction", "set", ".", "Accordingly", ",", "we", "distinguish", "between", "abstract", "machines", "and", "virtual", "machines", "in", "the", "sense", "that", "virtual", "machines", "have", "an", "instruction", "set", "and", "abstract", "machines", "do", "not", ";", "instead", ",", "abstract", "machines", "directly", "operate", "on", "source", "terms", "and", "do", "not", "need", "a", "compiler", "from", "source", "terms", "to", "instructions", ".", "-LRB-", "Gr", "egoire", "and", "Leroy", "make", "the", "same", "point", "when", "they", "talk", "about", "a", "compiled", "implementation", "of", "strong", "reduction", "-LSB-", "21", "-RSB-", ".", "-RRB-", "Prerequisites", ":", "ML", ",", "observational", "equivalence", ",", "abstract", "machines", ",", "-", "interpreters", ",", "CPS", "transformation", ",", "defunctionalization", ",", "and", "closure", "conversion", ".", "We", "use", "ML", "as", "a", "meta-language", ",", "and", "we", "assume", "a", "basic", "familiarity", "with", "Standard", "ML", "and", "reasoning", "about", "ML", "programs", ".", "In", "particular", ",", "given", "two", "pure", "ML", "expressions", "e", "and", "e", "'", "we", "write", "e", "e", "'", "to", "express", "that", "e", "and", "e", "'", "are", "observationally", "equivalent", ".", "Most", "of", "our", "implementations", "of", "the", "abstract", "machines", "raise", "compiler", "warnings", "about", "non-exhaustive", "matches", ".", "These", "are", "inherent", "to", "programming", "abstract", "machines", "in", "an", "ML-like", "language", ".", "The", "warnings", "could", "be", "avoided", "with", "an", "option", "type", "or", "with", "an", "explicit", "exception", ",", "at", "the", "price", "of", "readability", "and", "direct", "relation", "to", "the", "usual", "mathematical", "specifications", "of", "abstract", "machines", ".", "It", "would", "be", "helpful", "to", "the", "reader", "to", "know", "at", "least", "one", "of", "the", "machines", "considered", "in", "the", "rest", "of", "this", "article", ",", "be", "it", "Krivine", "'s", "machine", ",", "the", "CEK", "machine", ",", "the", "CLS", "machine", ",", "the", "SECD", "machine", ",", "or", "the", "Categorical", "Abstract", "Machine", ".", "It", "would", "also", "be", "helpful", "to", "have", "already", "seen", "a", "-", "interpreter", "written", "in", "a", "functional", "language", "-LSB-", "20", ",", "31", ",", "35", ",", "39", "-RSB-", ".", "In", "particular", ",", "we", "make", "use", "of", "Strachey", "'s", "notions", "of", "expressible", "values", ",", "i.e.", ",", "the", "values", "obtained", "by", "evaluating", "an", "expression", ",", "and", "denotable", "values", ",", "i.e.", ",", "the", "values", "denoted", "by", "identifiers", "-LSB-", "38", "-RSB-", ".", "We", "make", "use", "of", "the", "CPS", "transformation", "-LSB-", "12", ",", "33", "-RSB-", ":", "a", "term", "is", "CPS-transformed", "by", "naming", "all", "its", "intermediate", "results", ",", "sequentializing", "their", "computation", ",", "and", "introducing", "continuations", ".", "Plotkin", "was", "the", "first", "to", "establish", "the", "correctness", "of", "the", "CPS", "transformation", "-LSB-", "30", "-RSB-", ".", "We", "also", "make", "use", "of", "Reynolds", "'s", "defunctionalization", "-LSB-", "31", "-RSB-", ":", "defunctionalizing", "a", "program", "amounts", "to", "replacing", "each", "of", "its", "function", "spaces", "by", "a", "data", "type", "and", "an", "apply", "function", ";", "the", "data", "type", "enumerates", "all", "the", "function", "abstractions", "that", "may", "give", "rise", "to", "inhabitants", "of", "this", "function", "space", "in", "this", "program", "-LSB-", "15", "-RSB-", ".", "Nielsen", ",", "Banerjee", ",", "Heintze", ",", "and", "Riecke", "have", "established", "the", "correctness", "of", "defunctionalization", "-LSB-", "3", ",", "29", "-RSB-", ".", "A", "particular", "case", "of", "defunctionalization", "is", "closure", "conversion", ":", "in", "an", "evaluator", ",", "closure", "conversion", "amounts", "to", "replacing", "each", "of", "the", "function", "spaces", "in", "expressible", "and", "denotable", "values", "by", "a", "tuple", ",", "and", "inlining", "the", "corresponding", "apply", "function", ".", "We", "would", "like", "to", "stress", "that", "all", "the", "concepts", "used", "here", "are", "elementary", "ones", ",", "and", "that", "the", "significance", "of", "this", "article", "is", "the", "one-fits-all", "derivation", "between", "evaluators", "and", "abstract", "machines", ".", "Overview", ":", "The", "rest", "of", "this", "article", "is", "organized", "as", "follows", ".", "We", "first", "consider", "a", "call-by-name", "and", "a", "call-by-value", "evaluator", ",", "and", "we", "present", "the", "corresponding", "machines", ",", "which", "are", "Krivine", "'s", "machine", "and", "the", "CEK", "machine", ".", "We", "then", "turn", "to", "the", "CLS", "machine", "and", "the", "SECD", "machine", ",", "and", "we", "present", "the", "corresponding", "evaluators", ".", "We", "finally", "consider", "the", "Categorical", "Abstract", "Machine", ".", "For", "simplicity", ",", "we", "do", "not", "cover", "laziness", "and", "sharing", ",", "but", "they", "come", "for", "free", "by", "threading", "a", "heap", "of", "updateable", "thunks", "in", "a", "call-by-name", "evaluator", "-LSB-", "2", "-RSB-", ".", "We", "first", "go", "from", "a", "call-by-name", "evaluator", "to", "Krivine", "'s", "abstract", "machine", "-LRB-", "Section", "2.1", "-RRB-", "and", "then", "from", "the", "CEK", "machine", "to", "a", "call-by-value", "evaluator", "-LRB-", "Section", "2.2", "-RRB-", ".", "Krivine", "'s", "abstract", "machine", "operates", "on", "de", "Bruijn-encoded", "-", "terms", ",", "and", "the", "CEK", "machine", "operates", "on", "-", "terms", "with", "names", ".", "Starting", "from", "the", "corresponding", "evaluators", ",", "it", "is", "simple", "to", "construct", "a", "version", "of", "Krivine", "'s", "abstract", "machine", "that", "operates", "on", "-", "terms", "with", "names", ",", "and", "a", "version", "of", "the", "CEK", "machine", "that", "operates", "on", "de", "Bruijn-encoded", "-", "terms", "-LRB-", "Section", "2.3", "-RRB-", ".", "The", "derivation", "steps", "consist", "of", "closure", "conversion", ",", "transformation", "into", "continuation-passing", "style", ",", "and", "defunctionalization", "of", "continuations", ".", "Closure", "converting", "expressible", "and", "denotable", "values", "makes", "the", "evaluator", "first", "order", ".", "CPS", "transforming", "the", "evaluator", "makes", "its", "control", "flow", "manifest", "as", "a", "continuation", ".", "Defunctionalizing", "the", "continuation", "materializes", "the", "control", "flow", "as", "a", "first-order", "data", "structure", ".", "The", "result", "is", "a", "transition", "function", ",", "i.e.", ",", "an", "abstract", "machine", ".", "2.1", "From", "a", "call-by-name", "evaluator", "to", "Krivine", "'s", "machine", "Krivine", "'s", "abstract", "machine", "-LSB-", "7", "-RSB-", "operates", "on", "de", "Bruijn-encoded", "terms", ".", "In", "this", "representation", ",", "identifiers", "are", "represented", "by", "their", "lexical", "offset", ",", "as", "traditional", "since", "Algol", "60", "-LSB-", "40", "-RSB-", ".", "datatype", "term", "=", "IND", "of", "int", "-LRB-", "*", "de", "Bruijn", "index", "*", "-RRB-", "|", "ABS", "of", "term", "|", "APP", "of", "term", "*", "term", "Programs", "are", "closed", "terms", ".", "2.1.1", "A", "higher-order", "and", "compositional", "call-by-name", "evaluator", "Our", "starting", "point", "is", "the", "canonical", "call-by-name", "evaluator", "for", "the", "-", "calculus", "-LSB-", "35", ",", "37", "-RSB-", ".", "This", "evaluator", "is", "compositional", "in", "the", "sense", "of", "denotational", "semantics", "-LSB-", "34", ",", "37", ",", "41", "-RSB-", "and", "higher", "order", "-LRB-", "Eval0.eval", "-RRB-", ".", "It", "is", "compositional", "because", "it", "solely", "defines", "the", "meaning", "of", "each", "term", "as", "a", "composition", "of", "the", "meaning", "of", "its", "parts", ".", "It", "is", "higher", "order", "because", "the", "data", "types", "Eval0.denval", "and", "Eval0.expval", "contain", "functions", ":", "denotable", "values", "-LRB-", "denval", "-RRB-", "are", "thunks", "and", "expressible", "values", "-LRB-", "expval", "-RRB-", "are", "functions", ".", "An", "environment", "is", "represented", "as", "a", "list", "of", "denotable", "values", ".", "A", "program", "is", "evaluated", "in", "an", "empty", "environment", "-LRB-", "Eval0.main", "-RRB-", ".", "structure", "Eval0", "=", "struct", "datatype", "denval", "=", "THUNK", "of", "unit", "-", ">", "expval", "and", "expval", "=", "FUNCT", "of", "denval", "-", ">", "expval", "-LRB-", "*", "eval", ":", "term", "*", "denval", "list", "-", ">", "expval", "*", "-RRB-", "fun", "eval", "-LRB-", "IND", "n", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "THUNK", "thunk", "-RRB-", "=", "List.nth", "-LRB-", "e", ",", "n", "-RRB-", "in", "thunk", "-LRB-", "-RRB-", "end", "|", "eval", "-LRB-", "ABS", "t", ",", "e", "-RRB-", "=", "FUNCT", "-LRB-", "fn", "v", "=", ">", "eval", "-LRB-", "t", ",", "v", ":", ":", "e", "-RRB-", "-RRB-", "|", "eval", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "FUNCT", "f", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", "-RRB-", "in", "f", "-LRB-", "THUNK", "-LRB-", "fn", "-LRB-", "-RRB-", "=", ">", "eval", "-LRB-", "t1", ",", "e", "-RRB-", "-RRB-", "-RRB-", "end", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "nil", "-RRB-", "end", "9", "An", "identifier", "denotes", "a", "thunk", ".", "Evaluating", "an", "identifier", "amounts", "to", "forcing", "this", "thunk", ".", "Evaluating", "an", "abstraction", "yields", "a", "function", ".", "Evaluating", "an", "application", "requires", "the", "evaluation", "of", "the", "sub-expression", "in", "position", "of", "function", ";", "the", "intermediate", "result", "is", "a", "function", ",", "which", "is", "applied", "to", "a", "thunk", ".", "2.1.2", "From", "higher-order", "functions", "to", "closures", "We", "now", "closure-convert", "the", "evaluator", "of", "Section", "2.1.1", ".", "In", "Eval0", ",", "the", "function", "spaces", "in", "the", "data", "types", "of", "denotable", "and", "expressible", "values", "are", "only", "inhabited", "by", "instances", "of", "the", "abstractions", "fn", "v", "=", ">", "eval", "-LRB-", "t", ",", "v", ":", ":", "e", "-RRB-", "in", "the", "meaning", "of", "abstractions", ",", "and", "fn", "-LRB-", "-RRB-", "=", ">", "eval", "-LRB-", "t1", ",", "e", "-RRB-", "in", "the", "meaning", "of", "applications", ".", "Each", "of", "these", "-", "abstractions", "has", "two", "free", "variables", ":", "a", "term", "and", "an", "environment", ".", "We", "defunctionalize", "these", "function", "spaces", "into", "closures", "-LSB-", "15", ",", "26", ",", "31", "-RSB-", ",", "and", "we", "inline", "the", "corresponding", "apply", "functions", ".", "structure", "Eval1", "=", "struct", "datatype", "denval", "=", "THUNK", "of", "term", "*", "denval", "list", "and", "expval", "=", "FUNCT", "of", "term", "*", "denval", "list", "-LRB-", "*", "eval", ":", "term", "*", "denval", "list", "-", ">", "expval", "*", "-RRB-", "fun", "eval", "-LRB-", "IND", "n", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "THUNK", "-LRB-", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", "List.nth", "-LRB-", "e", ",", "n", "-RRB-", "in", "eval", "-LRB-", "t", ",", "e", "'", "-RRB-", "end", "|", "eval", "-LRB-", "ABS", "t", ",", "e", "-RRB-", "=", "FUNCT", "-LRB-", "t", ",", "e", "-RRB-", "|", "eval", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "FUNCT", "-LRB-", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", "-RRB-", "in", "eval", "-LRB-", "t", ",", "-LRB-", "THUNK", "-LRB-", "t1", ",", "e", "-RRB-", "-RRB-", ":", ":", "e", "'", "-RRB-", "end", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "nil", "-RRB-", "end", "The", "definition", "of", "an", "abstraction", "is", "now", "Eval1.FUNCT", "-LRB-", "t", ",", "e", "-RRB-", "instead", "of", "fn", "v", "=", ">", "Eval0.eval", "-LRB-", "t", ",", "v", ":", ":", "e", "-RRB-", ",", "and", "its", "use", "is", "now", "Eval1.eval", "-LRB-", "t", ",", "-LRB-", "Eval1.THUNK", "-LRB-", "t1", ",", "e", "-RRB-", "-RRB-", ":", ":", "e", "'", "-RRB-", "instead", "of", "f", "-LRB-", "Eval0.THUNK", "-LRB-", "fn", "-LRB-", "-RRB-", "=", ">", "Eval0.eval", "-LRB-", "t1", ",", "e", "-RRB-", "-RRB-", "-RRB-", ".", "Similarly", ",", "the", "definition", "of", "a", "thunk", "is", "now", "Eval1.THUNK", "-LRB-", "t1", ",", "e", "-RRB-", "instead", "of", "Eval0.THUNK", "-LRB-", "fn", "-LRB-", "-RRB-", "=", ">", "Eval0.eval", "-LRB-", "t1", ",", "e", "-RRB-", "-RRB-", "and", "its", "use", "is", "Eval1.eval", "-LRB-", "t", ",", "e", "'", "-RRB-", "instead", "of", "thunk", "-LRB-", "-RRB-", ".", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "defunctionalization", ".", "P", "ROPOSITION", "1", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "evaluating", "Eval0.main", "p", "yields", "a", "value", "FUNCT", "f", "and", "evaluating", "Eval1.main", "p", "yields", "a", "value", "FUNCT", "-LRB-", "t", ",", "e", "-RRB-", "such", "that", "f", "fn", "v", "=", ">", "Eval1.eval", "-LRB-", "t", ",", "v", ":", ":", "e", "-RRB-", "2.1.3", "CPS", "transformation", "We", "transform", "Eval1.eval", "into", "continuation-passing", "style", ".", "1", "Doing", "so", "makes", "it", "tail", "recursive", ".", "1", "Since", "programs", "are", "closed", ",", "applying", "List.nth", "can", "not", "fail", "and", "therefore", "it", "denotes", "a", "total", "function", ".", "We", "thus", "keep", "it", "in", "direct", "style", "-LSB-", "14", "-RSB-", ".", "structure", "Eval2", "=", "struct", "datatype", "denval", "=", "THUNK", "of", "term", "*", "denval", "list", "and", "expval", "=", "FUNCT", "of", "term", "*", "denval", "list", "-LRB-", "*", "eval", ":", "term", "*", "denval", "list", "*", "-LRB-", "expval", "-", ">", "`", "a", "-RRB-", "*", "-RRB-", "-LRB-", "*", "-", ">", "`", "a", "*", "-RRB-", "fun", "eval", "-LRB-", "IND", "n", ",", "e", ",", "k", "-RRB-", "=", "let", "val", "-LRB-", "THUNK", "-LRB-", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", "List.nth", "-LRB-", "e", ",", "n", "-RRB-", "in", "eval", "-LRB-", "t", ",", "e", "'", ",", "k", "-RRB-", "end", "|", "eval", "-LRB-", "ABS", "t", ",", "e", ",", "k", "-RRB-", "=", "k", "-LRB-", "FUNCT", "-LRB-", "t", ",", "e", "-RRB-", "-RRB-", "|", "eval", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "e", ",", "k", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", ",", "fn", "-LRB-", "FUNCT", "-LRB-", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", ">", "eval", "-LRB-", "t", ",", "-LRB-", "THUNK", "-LRB-", "t1", ",", "e", "-RRB-", "-RRB-", ":", ":", "e", "'", ",", "k", "-RRB-", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "nil", ",", "fn", "v", "=", ">", "v", "-RRB-", "end", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "the", "CPS", "transformation", ".", "-LRB-", "Here", "observational", "equivalence", "reduces", "to", "structural", "equality", "over", "ML", "values", "of", "type", "expval", ".", "-RRB-", "P", "ROPOSITION", "2", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval1.main", "p", "Eval2.main", "p", "2.1.4", "Defunctionalizing", "the", "continuations", "The", "function", "space", "of", "the", "continuation", "is", "inhabited", "by", "instances", "of", "two", "-", "abstractions", ":", "the", "initial", "one", "in", "the", "definition", "of", "Eval2.main", ",", "with", "no", "free", "variables", ",", "and", "one", "in", "the", "meaning", "of", "an", "application", ",", "with", "three", "free", "variables", ".", "To", "defunctionalize", "the", "continuation", ",", "we", "thus", "define", "a", "data", "type", "cont", "with", "two", "summands", "and", "the", "corresponding", "apply", "cont", "function", "to", "interpret", "these", "summands", ".", "structure", "Eval3", "=", "struct", "datatype", "denval", "=", "THUNK", "of", "term", "*", "denval", "list", "and", "expval", "=", "FUNCT", "of", "term", "*", "denval", "list", "and", "cont", "=", "CONT0", "|", "CONT1", "of", "term", "*", "denval", "list", "*", "cont", "-LRB-", "*", "eval", ":", "term", "*", "denval", "list", "*", "cont", "-", ">", "expval", "*", "-RRB-", "fun", "eval", "-LRB-", "IND", "n", ",", "e", ",", "k", "-RRB-", "=", "let", "val", "-LRB-", "THUNK", "-LRB-", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", "List.nth", "-LRB-", "e", ",", "n", "-RRB-", "in", "eval", "-LRB-", "t", ",", "e", "'", ",", "k", "-RRB-", "end", "|", "eval", "-LRB-", "ABS", "t", ",", "e", ",", "k", "-RRB-", "=", "apply_cont", "-LRB-", "k", ",", "FUNCT", "-LRB-", "t", ",", "e", "-RRB-", "-RRB-", "|", "eval", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "e", ",", "k", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", ",", "CONT1", "-LRB-", "t1", ",", "e", ",", "k", "-RRB-", "-RRB-", "and", "apply_cont", "-LRB-", "CONT0", ",", "v", "-RRB-", "=", "v", "|", "apply_cont", "-LRB-", "CONT1", "-LRB-", "t1", ",", "e", ",", "k", "-RRB-", ",", "FUNCT", "-LRB-", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", "eval", "-LRB-", "t", ",", "-LRB-", "THUNK", "-LRB-", "t1", ",", "e", "-RRB-", "-RRB-", ":", ":", "e", "'", ",", "k", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "nil", ",", "CONT0", "-RRB-", "end", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "defunctionalization", ".", "-LRB-", "Again", ",", "observational", "equivalence", "reduces", "here", "to", "structural", "equality", "over", "ML", "values", "of", "type", "expval", ".", "-RRB-", "10", "P", "ROPOSITION", "3", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval2.main", "p", "Eval3.main", "p", "We", "identify", "that", "cont", "is", "a", "stack", "of", "thunks", ",", "and", "that", "the", "transitions", "are", "those", "of", "Krivine", "'s", "abstract", "machine", ".", "2.1.5", "Krivine", "'s", "abstract", "machine", "To", "obtain", "the", "canonical", "definition", "of", "Krivine", "'s", "abstract", "machine", ",", "we", "abandon", "the", "distinction", "between", "denotable", "and", "expressible", "values", "and", "we", "use", "thunks", "instead", ",", "we", "represent", "the", "defunctionalized", "continuation", "as", "a", "list", "of", "thunks", "instead", "of", "a", "data", "type", ",", "and", "we", "inline", "apply", "cont", ".", "structure", "Eval4", "=", "struct", "datatype", "thunk", "=", "THUNK", "of", "term", "*", "thunk", "list", "-LRB-", "*", "eval", ":", "term", "*", "thunk", "list", "*", "thunk", "list", "*", "-RRB-", "-LRB-", "*", "-", ">", "term", "*", "thunk", "list", "*", "-RRB-", "fun", "eval", "-LRB-", "IND", "n", ",", "e", ",", "s", "-RRB-", "=", "let", "val", "-LRB-", "THUNK", "-LRB-", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", "List.nth", "-LRB-", "e", ",", "n", "-RRB-", "in", "eval", "-LRB-", "t", ",", "e", "'", ",", "s", "-RRB-", "end", "|", "eval", "-LRB-", "ABS", "t", ",", "e", ",", "nil", "-RRB-", "=", "-LRB-", "ABS", "t", ",", "e", "-RRB-", "|", "eval", "-LRB-", "ABS", "t", ",", "e", ",", "-LRB-", "t", "'", ",", "e", "'", "-RRB-", ":", ":", "s", "-RRB-", "=", "eval", "-LRB-", "t", ",", "-LRB-", "THUNK", "-LRB-", "t", "'", ",", "e", "'", "-RRB-", "-RRB-", ":", ":", "e", ",", "s", "-RRB-", "|", "eval", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "e", ",", "s", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", ",", "-LRB-", "t1", ",", "e", "-RRB-", ":", ":", "s", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "term", "*", "thunk", "list", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "nil", ",", "nil", "-RRB-", "end", "The", "following", "proposition", "is", "straightforward", "to", "prove", ".", "P", "ROPOSITION", "4", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval3.main", "p", "Eval4.main", "p", "For", "comparison", "with", "Eval4", ",", "the", "canonical", "definition", "of", "Krivine", "'s", "abstract", "machine", "is", "as", "follows", "-LSB-", "7", ",", "22", ",", "25", "-RSB-", ",", "where", "t", "denotes", "terms", ",", "v", "denotes", "expressible", "values", ",", "e", "denotes", "environments", ",", "and", "s", "denotes", "stacks", "of", "expressible", "values", ":", "Source", "syntax", ":", "t", ":", ":", "n", "t", "t", "0", "t", "1", "Expressible", "values", "-LRB-", "closures", "-RRB-", ":", "v", ":", ":", "t", "e", "Initial", "transition", ",", "transition", "rules", ",", "and", "final", "transition", ":", "t", "t", "nil", "nil", "n", "e", "s", "t", "e", "s", "where", "t", "e", "nth", "e", "n", "t", "e", "t", "e", ":", ":", "s", "t", "t", "e", ":", ":", "e", "s", "t", "0", "t", "1", "e", "s", "t", "0", "e", "t", "1", "e", ":", ":", "s", "t", "e", "nil", "t", "e", "Variables", "n", "are", "represented", "by", "their", "de", "Bruijn", "index", ",", "and", "the", "abstract", "machine", "operates", "on", "triples", "consisting", "of", "a", "term", ",", "an", "environment", ",", "and", "a", "stack", "of", "expressible", "values", ".", "Each", "line", "in", "the", "canonical", "definition", "matches", "a", "clause", "in", "Eval4", ".", "We", "conclude", "that", "Krivine", "'s", "abstract", "machine", "can", "be", "seen", "as", "a", "defunctionalized", ",", "CPS-transformed", ",", "and", "closure-converted", "version", "of", "the", "standard", "call-by-name", "evaluator", "for", "the", "-", "calculus", ".", "This", "evaluator", "evidently", "implements", "Hardin", ",", "Maranget", ",", "and", "Pagano", "'s", "K", "strategy", "-LSB-", "24", ",", "Section", "3", "-RSB-", ".", "2.2", "From", "the", "CEK", "machine", "to", "a", "call-by-value", "evaluator", "The", "CEK", "machine", "-LSB-", "16", ",", "17", ",", "19", "-RSB-", "operates", "on", "-", "terms", "with", "names", "and", "distinguishes", "between", "values", "and", "computations", "in", "their", "syntax", "-LRB-", "i.e.", ",", "it", "distinguishes", "trivial", "and", "serious", "terms", ",", "in", "Reynolds", "'s", "words", "-LSB-", "31", "-RSB-", "-RRB-", ".", "datatype", "term", "=", "VALUE", "of", "value", "|", "COMP", "of", "comp", "and", "value", "=", "VAR", "of", "string", "-LRB-", "*", "name", "*", "-RRB-", "|", "LAM", "of", "string", "*", "term", "and", "comp", "=", "APP", "of", "term", "*", "term", "Programs", "are", "closed", "terms", ".", "2.2.1", "The", "CEK", "abstract", "machine", "Our", "starting", "point", "reads", "as", "follows", "-LSB-", "19", ",", "Figure", "2", ",", "page", "239", "-RSB-", ",", "where", "t", "denotes", "terms", ",", "w", "denotes", "values", ",", "v", "denotes", "expressible", "values", ",", "k", "denotes", "evaluation", "contexts", ",", "and", "e", "denotes", "environments", ":", "Source", "syntax", ":", "t", ":", ":", "w", "t", "0", "t", "1", "w", ":", ":", "x", "x", "t", "Expressible", "values", "-LRB-", "closures", "-RRB-", "and", "evaluation", "contexts", ":", "v", ":", ":", "x", "t", "e", "k", ":", ":", "stop", "fun", "v", "k", "arg", "t", "e", "k", "Initial", "transition", ",", "transition", "rules", "-LRB-", "two", "kinds", "-RRB-", ",", "and", "final", "transition", ":", "t", "init", "t", "mt", "stop", "w", "e", "k", "eval", "k", "w", "e", "t", "0", "t", "1", "e", "k", "eval", "t", "0", "e", "arg", "t", "1", "e", "k", "arg", "t", "1", "e", "k", "v", "cont", "t", "1", "e", "fun", "v", "k", "fun", "x", "t", "e", "k", "v", "cont", "t", "e", "x", "v", "k", "stop", "v", "final", "v", "where", "x", "e", "e", "x", "x", "t", "e", "x", "t", "e", "Variables", "x", "are", "represented", "by", "their", "name", ",", "and", "the", "abstract", "machine", "consists", "of", "two", "mutually", "recursive", "transition", "functions", ".", "The", "first", "transition", "function", "operates", "on", "triples", "consisting", "of", "a", "term", ",", "an", "environment", ",", "and", "an", "evaluation", "context", ".", "The", "second", "operates", "on", "pairs", "consisting", "of", "an", "evaluation", "context", "and", "an", "expressible", "value", ".", "Environments", "are", "extended", "in", "the", "fun", "-", "transition", ",", "and", "consulted", "in", ".", "The", "empty", "environment", "is", "denoted", "by", "mt.", "This", "specification", "is", "straightforward", "to", "program", "in", "ML", ":", "11", "signature", "ENV", "=", "sig", "type", "`", "a", "env", "val", "mt", ":", "`", "a", "env", "val", "lookup", ":", "`", "a", "env", "*", "string", "-", ">", "`", "a", "val", "extend", ":", "string", "*", "`", "a", "*", "`", "a", "env", "-", ">", "`", "a", "env", "end", "Environments", "are", "represented", "as", "a", "structure", "Env", ":", "ENV", "containing", "a", "representation", "of", "the", "empty", "environment", "mt", ",", "an", "operation", "lookup", "to", "retrieve", "the", "value", "bound", "to", "a", "name", "in", "an", "environment", ",", "and", "an", "operation", "extend", "to", "extend", "an", "environment", "with", "a", "binding", ".", "structure", "Eval0", "=", "struct", "datatype", "expval", "=", "CLOSURE", "of", "string", "*", "term", "*", "expval", "Env.env", "datatype", "ev_context", "=", "STOP", "|", "ARG", "of", "term", "*", "expval", "Env.env", "*", "ev_context", "|", "FUN", "of", "expval", "*", "ev_context", "-LRB-", "*", "eval", ":", "term", "*", "expval", "Env.env", "*", "ev_context", "*", "-RRB-", "-LRB-", "*", "-", ">", "expval", "*", "-RRB-", "fun", "eval", "-LRB-", "VALUE", "v", ",", "e", ",", "k", "-RRB-", "=", "continue", "-LRB-", "k", ",", "eval_value", "-LRB-", "v", ",", "e", "-RRB-", "-RRB-", "|", "eval", "-LRB-", "COMP", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", "-RRB-", ",", "e", ",", "k", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", ",", "ARG", "-LRB-", "t1", ",", "e", ",", "k", "-RRB-", "-RRB-", "and", "eval_value", "-LRB-", "VAR", "x", ",", "e", "-RRB-", "=", "Env.lookup", "-LRB-", "e", ",", "x", "-RRB-", "|", "eval_value", "-LRB-", "LAM", "-LRB-", "x", ",", "t", "-RRB-", ",", "e", "-RRB-", "=", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "-RRB-", "and", "continue", "-LRB-", "STOP", ",", "w", "-RRB-", "=", "w", "|", "continue", "-LRB-", "ARG", "-LRB-", "t1", ",", "e", ",", "k", "-RRB-", ",", "w", "-RRB-", "=", "eval", "-LRB-", "t1", ",", "e", ",", "FUN", "-LRB-", "w", ",", "k", "-RRB-", "-RRB-", "|", "continue", "-LRB-", "FUN", "-LRB-", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "-RRB-", ",", "k", "-RRB-", ",", "w", "-RRB-", "=", "eval", "-LRB-", "t", ",", "Env.extend", "-LRB-", "x", ",", "w", ",", "e", "-RRB-", ",", "k", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "Env.mt", ",", "STOP", "-RRB-", "end", "2.2.2", "Refunctionalizing", "the", "evaluation", "contexts", "into", "continuations", "We", "identify", "that", "the", "data", "type", "ev", "context", "and", "the", "function", "continue", "are", "a", "defunctionalized", "representation", ".", "The", "corresponding", "higher-order", "evaluator", "reads", "as", "follows", ".", "As", "can", "be", "observed", ",", "it", "is", "in", "continuation-passing", "style", ".", "structure", "Eval1", "=", "struct", "datatype", "expval", "=", "CLOSURE", "of", "string", "*", "term", "*", "expval", "Env.env", "-LRB-", "*", "eval", ":", "term", "*", "expval", "Env.env", "*", "-LRB-", "expval", "-", ">", "`", "a", "-RRB-", "*", "-RRB-", "-LRB-", "*", "-", ">", "`", "a", "*", "-RRB-", "fun", "eval", "-LRB-", "VALUE", "v", ",", "e", ",", "k", "-RRB-", "=", "k", "-LRB-", "eval_value", "-LRB-", "v", ",", "e", "-RRB-", "-RRB-", "|", "eval", "-LRB-", "COMP", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", "-RRB-", ",", "e", ",", "k", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", ",", "fn", "-LRB-", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", ">", "eval", "-LRB-", "t1", ",", "e", ",", "fn", "w", "=", ">", "eval", "-LRB-", "t", ",", "Env.extend", "-LRB-", "x", ",", "w", ",", "e", "'", "-RRB-", ",", "k", "-RRB-", "-RRB-", "-RRB-", "and", "eval_value", "-LRB-", "VAR", "x", ",", "e", "-RRB-", "=", "Env.lookup", "-LRB-", "e", ",", "x", "-RRB-", "|", "eval_value", "-LRB-", "LAM", "-LRB-", "x", ",", "t", "-RRB-", ",", "e", "-RRB-", "=", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "Env.mt", ",", "fn", "w", "=", ">", "w", "-RRB-", "end", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "defunctionalization", ".", "-LRB-", "Observational", "equivalence", "reduces", "here", "to", "structural", "equality", "over", "ML", "values", "of", "type", "expval", ".", "-RRB-", "P", "ROPOSITION", "5", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval0.main", "p", "Eval1.main", "p", "2.2.3", "Back", "to", "direct", "style", "CPS-transforming", "the", "following", "direct-style", "evaluator", "yields", "the", "evaluator", "of", "Section", "2.2.2", "-LSB-", "10", "-RSB-", ".", "structure", "Eval2", "=", "struct", "datatype", "expval", "=", "CLOSURE", "of", "string", "*", "term", "*", "expval", "Env.env", "-LRB-", "*", "eval", ":", "term", "*", "expval", "Env.env", "-", ">", "expval", "*", "-RRB-", "fun", "eval", "-LRB-", "VALUE", "v", ",", "e", "-RRB-", "=", "eval_value", "-LRB-", "v", ",", "e", "-RRB-", "|", "eval", "-LRB-", "COMP", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", "-RRB-", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "'", "-RRB-", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", "-RRB-", "val", "w", "=", "eval", "-LRB-", "t1", ",", "e", "-RRB-", "in", "eval", "-LRB-", "t", ",", "Env.extend", "-LRB-", "x", ",", "w", ",", "e", "'", "-RRB-", "-RRB-", "end", "and", "eval_value", "-LRB-", "VAR", "x", ",", "e", "-RRB-", "=", "Env.lookup", "-LRB-", "e", ",", "x", "-RRB-", "|", "eval_value", "-LRB-", "LAM", "-LRB-", "x", ",", "t", "-RRB-", ",", "e", "-RRB-", "=", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "Env.mt", "-RRB-", "end", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "the", "direct-style", "transformation", ".", "-LRB-", "Again", ",", "observational", "equivalence", "reduces", "here", "to", "structural", "equality", "over", "ML", "values", "of", "type", "expval", ".", "-RRB-", "P", "ROPOSITION", "6", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval1.main", "p", "Eval2.main", "p", "2.2.4", "From", "closures", "to", "higher-order", "functions", "We", "observe", "that", "the", "closures", ",", "in", "Eval2", ",", "are", "defunctionalized", "representations", "with", "an", "apply", "function", "inlined", ".", "The", "corresponding", "higher-order", "evaluator", "reads", "as", "follows", ".", "structure", "Eval3", "=", "struct", "datatype", "expval", "=", "CLOSURE", "of", "expval", "-", ">", "expval", "-LRB-", "*", "eval", ":", "term", "*", "expval", "Env.env", "-", ">", "expval", "*", "-RRB-", "fun", "eval", "-LRB-", "VALUE", "v", ",", "e", "-RRB-", "=", "eval_value", "-LRB-", "v", ",", "e", "-RRB-", "12", "|", "eval", "-LRB-", "COMP", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", "-RRB-", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "CLOSURE", "f", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "e", "-RRB-", "val", "w", "=", "eval", "-LRB-", "t1", ",", "e", "-RRB-", "in", "f", "w", "end", "and", "eval_value", "-LRB-", "VAR", "x", ",", "e", "-RRB-", "=", "Env.lookup", "-LRB-", "e", ",", "x", "-RRB-", "|", "eval_value", "-LRB-", "LAM", "-LRB-", "x", ",", "t", "-RRB-", ",", "e", "-RRB-", "=", "CLOSURE", "-LRB-", "fn", "w", "=", ">", "eval", "-LRB-", "t", ",", "Env.extend", "-LRB-", "x", ",", "w", ",", "e", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "eval", "-LRB-", "t", ",", "Env.mt", "-RRB-", "end", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "defunctionalization", ".", "P", "ROPOSITION", "7", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "evaluating", "Eval2.main", "p", "yields", "a", "value", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "-RRB-", "and", "evaluating", "Eval3.main", "p", "yields", "a", "value", "CLOSURE", "f", "such", "that", "fn", "w", "=", ">", "Eval2.eval", "-LRB-", "t", ",", "Env.extend", "-LRB-", "x", ",", "w", ",", "e", "-RRB-", "-RRB-", "f", "2.2.5", "A", "higher-order", "and", "compositional", "call-by-value", "evaluator", "The", "result", "in", "Eval3", "is", "a", "call-by-value", "evaluator", "that", "is", "compositional", "and", "higher-order", ".", "This", "call-by-value", "evaluator", "is", "the", "canonical", "one", "for", "the", "-", "calculus", "-LSB-", "31", ",", "35", ",", "37", "-RSB-", ".", "We", "conclude", "that", "the", "CEK", "machine", "can", "be", "seen", "as", "a", "defunctionalized", ",", "CPS-transformed", ",", "and", "closure-converted", "version", "of", "the", "standard", "call-by-value", "evaluator", "for", "-", "terms", ".", "2.3", "Variants", "of", "Krivine", "'s", "machine", "and", "of", "the", "CEK", "machine", "It", "is", "easy", "to", "construct", "a", "variant", "of", "Krivine", "'s", "abstract", "machine", "for", "terms", "with", "names", ",", "by", "starting", "from", "a", "call-by-name", "evaluator", "for", "-", "terms", "with", "names", ".", "Similarly", ",", "it", "is", "easy", "to", "construct", "a", "variant", "of", "the", "CEK", "machine", "for", "-", "terms", "with", "de", "Bruijn", "indices", ",", "by", "starting", "from", "a", "call-by-value", "evaluator", "for", "-", "terms", "with", "indices", ".", "It", "is", "equally", "easy", "to", "start", "from", "a", "call-by-value", "evaluator", "for", "-", "terms", "with", "de", "Bruijn", "indices", "and", "no", "distinction", "between", "values", "and", "computations", ";", "the", "resulting", "abstract", "machine", "coincides", "with", "Hankin", "'s", "eager", "machine", "-LSB-", "22", ",", "Section", "8.1.2", "-RSB-", ".", "Abstract", "machines", "processing", "-", "terms", "with", "de", "Bruijn", "indices", "often", "resolve", "indices", "with", "transitions", ":", "0", "v", ":", ":", "e", "s", "v", ":", ":", "s", "n", "1", "v", ":", ":", "e", "s", "n", "e", "s", "Compared", "to", "the", "evaluator", "of", "Section", "2.1.1", ",", "the", "evaluator", "corresponding", "to", "this", "machine", "has", "List.nth", "inlined", "and", "is", "not", "compositional", ":", "fun", "eval", "-LRB-", "IND", "0", ",", "denval", ":", ":", "e", ",", "s", "-RRB-", "=", "...", "denval", "...", "|", "eval", "-LRB-", "IND", "n", ",", "denval", ":", ":", "e", ",", "s", "-RRB-", "=", "eval", "-LRB-", "IND", "-LRB-", "n", "-", "1", "-RRB-", ",", "e", ",", "s", "-RRB-", "|", "...", "2.4", "Conclusion", "We", "have", "shown", "that", "Krivine", "'s", "abstract", "machine", "and", "the", "CEK", "abstract", "machine", "are", "counterparts", "of", "canonical", "evaluators", "for", "call-by-name", "and", "for", "call-by-value", "-", "terms", ",", "respectively", ".", "The", "derivation", "of", "Krivine", "'s", "machine", "is", "strikingly", "simpler", "than", "what", "can", "be", "found", "in", "the", "literature", ".", "That", "the", "CEK", "machine", "can", "be", "derived", "is", ",", "to", "the", "best", "of", "our", "knowledge", ",", "new", ".", "That", "these", "two", "machines", "are", "two", "sides", "of", "the", "same", "coin", "is", "also", "new", ".", "We", "have", "not", "explored", "any", "other", "aspect", "of", "this", "call-by-name/call-by-value", "duality", "-LSB-", "9", "-RSB-", ".", "Using", "substitutions", "instead", "of", "environments", "or", "inlining", "one", "of", "the", "standard", "computational", "monads", "-LRB-", "state", ",", "continuations", ",", "etc.", "-LSB-", "39", "-RSB-", "-RRB-", "in", "the", "call-by-value", "evaluator", "yields", "variants", "of", "the", "CEK", "machine", "that", "have", "been", "documented", "in", "the", "literature", "-LSB-", "16", ",", "Chapter", "8", "-RSB-", ".", "For", "example", ",", "inlining", "the", "state", "monad", "in", "a", "monadic", "evaluator", "yields", "a", "state-passing", "evaluator", ".", "The", "corresponding", "abstract", "machine", "has", "one", "more", "component", "to", "represent", "the", "state", ".", "In", "general", ",", "inlining", "monads", "provides", "a", "generic", "recipe", "to", "construct", "arbitrarily", "many", "new", "abstract", "machines", ".", "It", "does", "not", "seem", "as", "straightforward", ",", "however", ",", "to", "construct", "a", "``", "monadic", "abstract", "machine", "''", "and", "then", "to", "inline", "a", "monad", ";", "we", "are", "currently", "studying", "the", "issue", ".", "On", "another", "note", ",", "one", "can", "consider", "an", "evaluator", "for", "strictness-annotated", "-", "terms", "--", "represented", "either", "with", "names", "or", "with", "indices", ",", "and", "with", "or", "without", "distinction", "between", "values", "and", "computations", ".", "One", "is", "then", "led", "to", "an", "abstract", "machine", "that", "generalizes", "Krivine", "'s", "machine", "and", "the", "CEK", "machine", "-LSB-", "13", "-RSB-", ".", "Finally", ",", "it", "is", "straightforward", "to", "extend", "Krivine", "'s", "machine", "and", "the", "CEK", "machine", "to", "bigger", "source", "languages", "-LRB-", "with", "literals", ",", "primitive", "operations", ",", "conditional", "expressions", ",", "block", "structure", ",", "recursion", ",", "etc.", "-RRB-", ",", "by", "starting", "from", "evaluators", "for", "these", "bigger", "languages", ".", "For", "example", ",", "all", "the", "abstract", "machines", "in", "``", "The", "essence", "of", "compiling", "with", "continuations", "''", "-LSB-", "19", "-RSB-", "are", "defunctionalized", "continuation-passing", "evaluators", ",", "i.e.", ",", "interpreters", ".", "In", "the", "rest", "of", "this", "article", ",", "we", "illustrate", "further", "the", "correspondence", "between", "evaluators", "and", "abstract", "machines", ".", "The", "CLS", "abstract", "machine", "is", "due", "to", "Hannan", "and", "Miller", "-LSB-", "23", "-RSB-", ".", "In", "the", "following", ",", "t", "denotes", "terms", ",", "v", "denotes", "expressible", "values", ",", "c", "denotes", "lists", "of", "directives", "-LRB-", "a", "term", "or", "the", "special", "tag", "ap", "-RRB-", ",", "e", "denotes", "environments", ",", "l", "denotes", "stacks", "of", "environments", ",", "and", "s", "denotes", "stacks", "of", "expressible", "values", ".", "Source", "syntax", ":", "t", ":", ":", "n", "t", "t", "0", "t", "1", "Expressible", "values", "-LRB-", "closures", "-RRB-", ":", "v", ":", ":", "t", "e", "Initial", "transition", ",", "transition", "rules", ",", "and", "final", "transition", ":", "t", "t", ":", ":", "nil", "nil", ":", ":", "nil", "nil", "t", ":", ":", "c", "e", ":", ":", "l", "s", "c", "l", "t", "e", ":", ":", "s", "t", "0", "t", "1", ":", ":", "c", "e", ":", ":", "l", "s", "t", "0", ":", ":", "t", "1", ":", ":", "ap", ":", ":", "c", "e", ":", ":", "e", ":", ":", "l", "s", "0", ":", ":", "c", "v", ":", ":", "e", ":", ":", "l", "s", "c", "l", "v", ":", ":", "s", "n", "1", ":", ":", "c", "v", ":", ":", "e", ":", ":", "l", "s", "n", ":", ":", "c", "e", ":", ":", "l", "s", "ap", ":", ":", "c", "l", "v", ":", ":", "t", "e", ":", ":", "s", "t", ":", ":", "c", "v", ":", ":", "e", ":", ":", "l", "s", "nil", "nil", "v", ":", ":", "s", "v", "13", "Variables", "n", "are", "represented", "by", "their", "de", "Bruijn", "index", ",", "and", "the", "abstract", "machine", "operates", "on", "triples", "consisting", "of", "a", "list", "of", "directives", ",", "a", "stack", "of", "environments", ",", "and", "a", "stack", "of", "expressible", "values", ".", "3.1", "The", "CLS", "machine", "Hannan", "and", "Miller", "'s", "specification", "is", "straightforward", "to", "program", "in", "ML", ":", "datatype", "term", "=", "IND", "of", "int", "-LRB-", "*", "de", "Bruijn", "index", "*", "-RRB-", "|", "ABS", "of", "term", "|", "APP", "of", "term", "*", "term", "Programs", "are", "closed", "terms", ".", "structure", "Eval0", "=", "struct", "datatype", "directive", "=", "TERM", "of", "term", "|", "AP", "datatype", "env", "=", "ENV", "of", "expval", "list", "and", "expval", "=", "CLOSURE", "of", "term", "*", "env", "-LRB-", "*", "run", ":", "directive", "list", "*", "env", "list", "*", "expval", "list", "*", "-RRB-", "-LRB-", "*", "-", ">", "expval", "*", "-RRB-", "fun", "run", "-LRB-", "nil", ",", "nil", ",", "v", ":", ":", "s", "-RRB-", "=", "v", "|", "run", "-LRB-", "-LRB-", "TERM", "-LRB-", "IND", "0", "-RRB-", "-RRB-", ":", ":", "c", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "=", "run", "-LRB-", "c", ",", "l", ",", "v", ":", ":", "s", "-RRB-", "|", "run", "-LRB-", "-LRB-", "TERM", "-LRB-", "IND", "n", "-RRB-", "-RRB-", ":", ":", "c", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "=", "run", "-LRB-", "-LRB-", "TERM", "-LRB-", "IND", "-LRB-", "n", "-", "1", "-RRB-", "-RRB-", "-RRB-", ":", ":", "c", ",", "-LRB-", "ENV", "e", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "|", "run", "-LRB-", "-LRB-", "TERM", "-LRB-", "ABS", "t", "-RRB-", "-RRB-", ":", ":", "c", ",", "e", ":", ":", "l", ",", "s", "-RRB-", "=", "run", "-LRB-", "c", ",", "l", ",", "-LRB-", "CLOSURE", "-LRB-", "t", ",", "e", "-RRB-", "-RRB-", ":", ":", "s", "-RRB-", "|", "run", "-LRB-", "-LRB-", "TERM", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", "-RRB-", "-RRB-", ":", ":", "c", ",", "e", ":", ":", "l", ",", "s", "-RRB-", "=", "run", "-LRB-", "-LRB-", "TERM", "t0", "-RRB-", ":", ":", "-LRB-", "TERM", "t1", "-RRB-", ":", ":", "AP", ":", ":", "c", ",", "e", ":", ":", "e", ":", ":", "l", ",", "s", "-RRB-", "|", "run", "-LRB-", "AP", ":", ":", "c", ",", "l", ",", "v", ":", ":", "-LRB-", "CLOSURE", "-LRB-", "t", ",", "ENV", "e", "-RRB-", "-RRB-", ":", ":", "s", "-RRB-", "=", "run", "-LRB-", "-LRB-", "TERM", "t", "-RRB-", ":", ":", "c", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "run", "-LRB-", "-LRB-", "TERM", "t", "-RRB-", ":", ":", "nil", ",", "-LRB-", "ENV", "nil", "-RRB-", ":", ":", "nil", ",", "nil", "-RRB-", "end", "3.2", "A", "disentangled", "definition", "of", "the", "CLS", "machine", "In", "the", "definition", "of", "Section", "3.1", ",", "all", "the", "possible", "transitions", "are", "meshed", "together", "in", "one", "recursive", "function", ",", "run", ".", "Instead", ",", "let", "us", "factor", "run", "into", "several", "mutually", "recursive", "functions", ",", "each", "of", "them", "with", "one", "induction", "variable", ".", "In", "this", "disentangled", "definition", ",", "run", "c", "interprets", "the", "list", "of", "control", "directives", ",", "i.e.", ",", "it", "specifies", "which", "transition", "to", "take", "if", "the", "list", "is", "empty", ",", "starts", "with", "a", "term", ",", "or", "starts", "with", "an", "apply", "directive", ".", "If", "the", "list", "is", "empty", ",", "the", "computation", "terminates", ".", "If", "the", "list", "starts", "with", "a", "term", ",", "run", "t", "is", "called", ",", "caching", "the", "term", "in", "the", "first", "parameter", ".", "If", "the", "list", "starts", "with", "an", "apply", "directive", ",", "run", "a", "is", "called", ".", "run", "t", "interprets", "the", "top", "term", "in", "the", "list", "of", "control", "directives", ".", "run", "a", "interprets", "the", "top", "value", "in", "the", "current", "stack", ".", "The", "disentangled", "definition", "reads", "as", "follows", ":", "structure", "Eval1", "=", "struct", "datatype", "directive", "=", "TERM", "of", "term", "|", "AP", "datatype", "env", "=", "ENV", "of", "expval", "list", "and", "expval", "=", "CLOSURE", "of", "term", "*", "env", "-LRB-", "*", "run_c", ":", "directive", "list", "*", "env", "list", "*", "expval", "list", "*", "-RRB-", "-LRB-", "*", "-", ">", "expval", "*", "-RRB-", "fun", "run_c", "-LRB-", "nil", ",", "nil", ",", "v", ":", ":", "s", "-RRB-", "=", "v", "|", "run_c", "-LRB-", "-LRB-", "TERM", "t", "-RRB-", ":", ":", "c", ",", "l", ",", "s", "-RRB-", "=", "run_t", "-LRB-", "t", ",", "c", ",", "l", ",", "s", "-RRB-", "|", "run_c", "-LRB-", "AP", ":", ":", "c", ",", "l", ",", "s", "-RRB-", "=", "run_a", "-LRB-", "c", ",", "l", ",", "s", "-RRB-", "and", "run_t", "-LRB-", "IND", "0", ",", "c", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "=", "run_c", "-LRB-", "c", ",", "l", ",", "v", ":", ":", "s", "-RRB-", "|", "run_t", "-LRB-", "IND", "n", ",", "c", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "=", "run_t", "-LRB-", "IND", "-LRB-", "n", "-", "1", "-RRB-", ",", "c", ",", "-LRB-", "ENV", "e", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "|", "run_t", "-LRB-", "ABS", "t", ",", "c", ",", "e", ":", ":", "l", ",", "s", "-RRB-", "=", "run_c", "-LRB-", "c", ",", "l", ",", "-LRB-", "CLOSURE", "-LRB-", "t", ",", "e", "-RRB-", "-RRB-", ":", ":", "s", "-RRB-", "|", "run_t", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "c", ",", "e", ":", ":", "l", ",", "s", "-RRB-", "=", "run_t", "-LRB-", "t0", ",", "-LRB-", "TERM", "t1", "-RRB-", ":", ":", "AP", ":", ":", "c", ",", "e", ":", ":", "e", ":", ":", "l", ",", "s", "-RRB-", "and", "run_a", "-LRB-", "c", ",", "l", ",", "v", ":", ":", "-LRB-", "CLOSURE", "-LRB-", "t", ",", "ENV", "e", "-RRB-", "-RRB-", ":", ":", "s", "-RRB-", "=", "run_t", "-LRB-", "t", ",", "c", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "run_t", "-LRB-", "t", ",", "nil", ",", "-LRB-", "ENV", "nil", "-RRB-", ":", ":", "nil", ",", "nil", "-RRB-", "end", "P", "ROPOSITION", "8", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval0.main", "p", "Eval1.main", "p", "P", "ROOF", ".", "By", "fold-unfold", "-LSB-", "5", "-RSB-", ".", "The", "invariants", "are", "as", "follows", ".", "For", "any", "ML", "values", "t", ":", "term", ",", "e", ":", "expval", "list", ",", "and", "s", ":", "expval", "list", ",", "Eval1.run", "c", "-LRB-", "c", ",", "l", ",", "s", "-RRB-", "Eval0.run", "-LRB-", "c", ",", "l", ",", "s", "-RRB-", "Eval1.run", "t", "-LRB-", "t", ",", "c", ",", "l", ",", "s", "-RRB-", "Eval0.run", "-LRB-", "-LRB-", "TERM", "t", "-RRB-", ":", ":", "c", ",", "l", ",", "s", "-RRB-", "Eval1.run", "a", "-LRB-", "c", ",", "l", ",", "s", "-RRB-", "Eval0.run", "-LRB-", "AP", ":", ":", "c", ",", "l", ",", "s", "-RRB-", "3.3", "The", "evaluator", "corresponding", "to", "the", "CLS", "machine", "In", "the", "disentangled", "definition", "of", "Section", "3.2", ",", "there", "are", "three", "possible", "ways", "to", "construct", "a", "list", "of", "control", "directives", "-LRB-", "nil", ",", "cons", "`", "ing", "a", "term", ",", "and", "cons", "`", "ing", "an", "apply", "directive", "-RRB-", ".", "We", "could", "specify", "these", "constructions", "as", "a", "data", "type", "rather", "than", "as", "a", "list", ".", "Such", "a", "data", "type", ",", "together", "with", "run", "c", ",", "is", "in", "the", "image", "of", "defunctionalization", "-LRB-", "run", "c", "is", "the", "apply", "functions", "of", "the", "data", "type", "-RRB-", ".", "The", "corresponding", "higher-order", "evaluator", "is", "in", "continuation-passing", "style", ".", "Transforming", "it", "back", "to", "direct", "style", "yields", "the", "following", "evaluator", ":", "structure", "Eval3", "=", "struct", "datatype", "env", "=", "ENV", "of", "expval", "list", "and", "expval", "=", "CLOSURE", "of", "term", "*", "env", "-LRB-", "*", "run_t", ":", "term", "*", "env", "list", "*", "expval", "list", "*", "-RRB-", "-LRB-", "*", "-", ">", "env", "list", "*", "expval", "list", "*", "-RRB-", "fun", "run_t", "-LRB-", "IND", "0", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "=", "-LRB-", "l", ",", "v", ":", ":", "s", "-RRB-", "|", "run_t", "-LRB-", "IND", "n", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "=", "run_t", "-LRB-", "IND", "-LRB-", "n", "-", "1", "-RRB-", ",", "-LRB-", "ENV", "e", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "|", "run_t", "-LRB-", "ABS", "t", ",", "e", ":", ":", "l", ",", "s", "-RRB-", "=", "-LRB-", "l", ",", "-LRB-", "CLOSURE", "-LRB-", "t", ",", "e", "-RRB-", "-RRB-", ":", ":", "s", "-RRB-", "14", "|", "run_t", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "e", ":", ":", "l", ",", "s", "-RRB-", "=", "let", "val", "-LRB-", "l", ",", "s", "-RRB-", "=", "run_t", "-LRB-", "t0", ",", "e", ":", ":", "e", ":", ":", "l", ",", "s", "-RRB-", "val", "-LRB-", "l", ",", "s", "-RRB-", "=", "run_t", "-LRB-", "t1", ",", "l", ",", "s", "-RRB-", "in", "run_a", "-LRB-", "l", ",", "s", "-RRB-", "end", "and", "run_a", "-LRB-", "l", ",", "v", ":", ":", "-LRB-", "CLOSURE", "-LRB-", "t", ",", "ENV", "e", "-RRB-", "-RRB-", ":", ":", "s", "-RRB-", "=", "run_t", "-LRB-", "t", ",", "-LRB-", "ENV", "-LRB-", "v", ":", ":", "e", "-RRB-", "-RRB-", ":", ":", "l", ",", "s", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "let", "val", "-LRB-", "nil", ",", "v", ":", ":", "s", "-RRB-", "=", "run_t", "-LRB-", "t", ",", "-LRB-", "ENV", "nil", "-RRB-", ":", ":", "nil", ",", "nil", "-RRB-", "in", "v", "end", "end", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "defunctionalization", "and", "of", "the", "CPS", "transformation", ".", "-LRB-", "Here", "observational", "equivalence", "reduces", "to", "structural", "equality", "over", "ML", "values", "of", "type", "expval", ".", "-RRB-", "P", "ROPOSITION", "9", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval1.main", "p", "Eval3.main", "p", "As", "in", "Section", "2", ",", "this", "evaluator", "can", "be", "made", "compositional", "by", "refunctionalizing", "the", "closures", "into", "higher-order", "functions", "and", "by", "factoring", "the", "resolution", "of", "de", "Bruijn", "indices", "into", "an", "auxiliary", "lookup", "function", ".", "We", "conclude", "that", "the", "evaluation", "model", "embodied", "in", "the", "CLS", "machine", "is", "a", "call-by-value", "interpreter", "threading", "a", "stack", "of", "environments", "and", "a", "stack", "of", "intermediate", "results", "with", "a", "caller-save", "strategy", "-LRB-", "witness", "the", "duplication", "of", "environments", "on", "the", "stack", "in", "the", "meaning", "of", "applications", "-RRB-", "and", "with", "a", "left-to-right", "evaluation", "of", "sub-terms", ".", "In", "particular", ",", "the", "meaning", "of", "a", "term", "is", "a", "partial", "endofunction", "over", "a", "stack", "of", "environments", "and", "a", "stack", "of", "intermediate", "results", ".", "The", "SECD", "abstract", "machine", "is", "due", "to", "Landin", "-LSB-", "26", "-RSB-", ".", "In", "the", "following", ",", "t", "denotes", "terms", ",", "v", "denotes", "expressible", "values", ",", "c", "denotes", "lists", "of", "directives", "-LRB-", "a", "term", "or", "the", "special", "tag", "ap", "-RRB-", ",", "e", "denotes", "environments", ",", "s", "denotes", "stacks", "of", "expressible", "values", ",", "and", "d", "denotes", "dumps", "-LRB-", "list", "of", "triples", "consisting", "of", "a", "stack", ",", "an", "environment", "and", "a", "list", "of", "directives", "-RRB-", ".", "Source", "syntax", ":", "t", ":", ":", "x", "x", "t", "t", "0", "t", "1", "Expressible", "values", "-LRB-", "closures", "-RRB-", ":", "v", ":", ":", "x", "t", "e", "Initial", "transition", ",", "transition", "rules", ",", "and", "final", "transition", ":", "t", "nil", "mt", "t", ":", ":", "nil", "nil", "s", "e", "x", ":", ":", "c", "d", "e", "x", ":", ":", "s", "e", "c", "d", "s", "e", "x", "t", ":", ":", "c", "d", "x", "t", "e", ":", ":", "s", "e", "c", "d", "s", "e", "t", "0", "t", "1", ":", ":", "c", "d", "s", "e", "t", "1", ":", ":", "t", "0", ":", ":", "ap", ":", ":", "c", "d", "x", "t", "e", ":", ":", "v", ":", ":", "s", "e", "ap", ":", ":", "c", "d", "nil", "e", "x", "v", "t", ":", ":", "nil", "d", "where", "d", "s", "e", "c", ":", ":", "d", "v", ":", ":", "s", "e", "nil", "s", "e", "d", ":", ":", "d", "v", ":", ":", "s", "e", "c", "d", "v", ":", ":", "s", "e", "nil", "nil", "v", "Variables", "x", "are", "represented", "by", "their", "name", ",", "and", "the", "abstract", "machine", "operates", "on", "quadruples", "consisting", "of", "a", "stack", "of", "expressible", "values", ",", "an", "environment", ",", "a", "list", "of", "directives", ",", "and", "a", "dump", ".", "Environments", "are", "consulted", "in", "the", "first", "transition", "rule", ",", "and", "extended", "in", "the", "fourth", ".", "The", "empty", "environment", "is", "denoted", "by", "mt.", "4.1", "The", "SECD", "machine", "Landin", "'s", "specification", "is", "straightforward", "to", "program", "in", "ML", ".", "Programs", "are", "closed", "terms", ".", "Environments", "are", "as", "in", "Section", "2.2", ".", "datatype", "term", "=", "VAR", "of", "string", "-LRB-", "*", "name", "*", "-RRB-", "|", "LAM", "of", "string", "*", "term", "|", "APP", "of", "term", "*", "term", "structure", "Eval0", "=", "struct", "datatype", "directive", "=", "TERM", "of", "term", "|", "AP", "datatype", "value", "=", "CLOSURE", "of", "string", "*", "term", "*", "value", "Env.env", "fun", "run", "-LRB-", "v", ":", ":", "nil", ",", "e", "'", ",", "nil", ",", "nil", "-RRB-", "=", "v", "|", "run", "-LRB-", "s", ",", "e", ",", "-LRB-", "TERM", "-LRB-", "VAR", "x", "-RRB-", "-RRB-", ":", ":", "c", ",", "d", "-RRB-", "=", "run", "-LRB-", "-LRB-", "Env.lookup", "-LRB-", "e", ",", "x", "-RRB-", "-RRB-", ":", ":", "s", ",", "e", ",", "c", ",", "d", "-RRB-", "|", "run", "-LRB-", "s", ",", "e", ",", "-LRB-", "TERM", "-LRB-", "LAM", "-LRB-", "x", ",", "t", "-RRB-", "-RRB-", "-RRB-", ":", ":", "c", ",", "d", "-RRB-", "=", "run", "-LRB-", "-LRB-", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "-RRB-", "-RRB-", ":", ":", "s", ",", "e", ",", "c", ",", "d", "-RRB-", "|", "run", "-LRB-", "s", ",", "e", ",", "-LRB-", "TERM", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", "-RRB-", "-RRB-", ":", ":", "c", ",", "d", "-RRB-", "=", "run", "-LRB-", "s", ",", "e", ",", "-LRB-", "TERM", "t1", "-RRB-", ":", ":", "-LRB-", "TERM", "t0", "-RRB-", ":", ":", "AP", ":", ":", "c", ",", "d", "-RRB-", "|", "run", "-LRB-", "-LRB-", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "'", "-RRB-", "-RRB-", ":", ":", "v", ":", ":", "s", ",", "e", ",", "AP", ":", ":", "c", ",", "d", "-RRB-", "=", "run", "-LRB-", "nil", ",", "Env.extend", "-LRB-", "x", ",", "v", ",", "e", "'", "-RRB-", ",", "-LRB-", "TERM", "t", "-RRB-", ":", ":", "nil", ",", "-LRB-", "s", ",", "e", ",", "c", "-RRB-", ":", ":", "d", "-RRB-", "|", "run", "-LRB-", "v", ":", ":", "nil", ",", "e", "'", ",", "nil", ",", "-LRB-", "s", ",", "e", ",", "c", "-RRB-", ":", ":", "d", "-RRB-", "=", "run", "-LRB-", "v", ":", ":", "s", ",", "e", ",", "c", ",", "d", "-RRB-", "-LRB-", "*", "main", ":", "term", "-", ">", "value", "*", "-RRB-", "fun", "main", "t", "=", "run", "-LRB-", "nil", ",", "Env.mt", ",", "-LRB-", "TERM", "t", "-RRB-", ":", ":", "nil", ",", "nil", "-RRB-", "end", "4.2", "A", "disentangled", "definition", "of", "the", "SECD", "machine", "As", "in", "the", "CLS", "machine", ",", "in", "the", "definition", "of", "Section", "4.1", ",", "all", "the", "possible", "transitions", "are", "meshed", "together", "in", "one", "recursive", "function", ",", "run", ".", "Instead", ",", "we", "can", "factor", "run", "into", "several", "mutually", "recursive", "functions", ",", "each", "of", "them", "with", "one", "induction", "variable", ".", "These", "mutually", "recursive", "functions", "are", "in", "defunctionalized", "form", ":", "the", "one", "processing", "the", "dump", "is", "an", "apply", "function", "for", "the", "data", "type", "representing", "the", "dump", "-LRB-", "a", "list", "of", "stacks", ",", "environments", ",", "and", "lists", "of", "directives", "-RRB-", ",", "and", "the", "one", "processing", "the", "control", "is", "an", "apply", "function", "for", "the", "data", "type", "representing", "the", "control", "-LRB-", "a", "list", "of", "directives", "-RRB-", ".", "The", "corresponding", "higher-order", "evaluator", "is", "in", "continuation-passing", "style", "with", "two", "nested", "continuations", "and", "one", "control", "delimiter", ",", "reset", "-LSB-", "12", ",", "18", "-RSB-", ".", "The", "delimiter", "resets", "the", "control", "continuation", "when", "evaluating", "the", "body", "of", "a", "abstraction", ".", "-LRB-", "More", "detail", "is", "available", "in", "a", "technical", "report", "-LSB-", "11", "-RSB-", ".", "-RRB-", "15", "4.3", "The", "evaluator", "corresponding", "to", "the", "SECD", "machine", "The", "direct-style", "version", "of", "the", "evaluator", "from", "Section", "4.2", "reads", "as", "follows", ":", "structure", "Eval4", "=", "struct", "datatype", "value", "=", "CLOSURE", "of", "string", "*", "term", "*", "value", "Env.env", "-LRB-", "*", "eval", ":", "term", "*", "value", "list", "*", "value", "Env.env", "*", "-RRB-", "-LRB-", "*", "-", ">", "value", "list", "*", "value", "Env.env", "*", "-RRB-", "fun", "eval", "-LRB-", "VAR", "x", ",", "s", ",", "e", "-RRB-", "=", "-LRB-", "-LRB-", "Env.lookup", "-LRB-", "x", ",", "e", "-RRB-", "-RRB-", ":", ":", "s", ",", "e", "-RRB-", "|", "eval", "-LRB-", "LAM", "-LRB-", "x", ",", "t", "-RRB-", ",", "s", ",", "e", "-RRB-", "=", "-LRB-", "-LRB-", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "-RRB-", "-RRB-", ":", ":", "s", ",", "e", "-RRB-", "|", "eval", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "s", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "s", ",", "e", "-RRB-", "=", "eval", "-LRB-", "t1", ",", "s", ",", "e", "-RRB-", "val", "-LRB-", "s", ",", "e", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "s", ",", "e", "-RRB-", "in", "apply", "-LRB-", "s", ",", "e", "-RRB-", "end", "and", "apply", "-LRB-", "-LRB-", "CLOSURE", "-LRB-", "x", ",", "t", ",", "e", "'", "-RRB-", "-RRB-", ":", ":", "v", ":", ":", "s", ",", "e", "-RRB-", "=", "let", "val", "-LRB-", "v", ":", ":", "nil", ",", "_", "-RRB-", "=", "reset", "-LRB-", "fn", "-LRB-", "-RRB-", "=", ">", "eval", "-LRB-", "t", ",", "nil", ",", "Env.extend", "-LRB-", "x", ",", "v", ",", "e", "'", "-RRB-", "-RRB-", "-RRB-", "in", "-LRB-", "v", ":", ":", "s", ",", "e", "-RRB-", "end", "-LRB-", "*", "main", ":", "term", "-", ">", "value", "*", "-RRB-", "fun", "main", "t", "=", "let", "val", "-LRB-", "v", ":", ":", "nil", ",", "_", "-RRB-", "=", "reset", "-LRB-", "fn", "-LRB-", "-RRB-", "=", ">", "eval", "-LRB-", "t", ",", "nil", ",", "Env.mt", "-RRB-", "-RRB-", "in", "v", "end", "end", "The", "following", "proposition", "is", "a", "corollary", "of", "the", "correctness", "of", "defunctionalization", "and", "of", "the", "CPS", "transformation", ".", "-LRB-", "Here", "observational", "equivalence", "reduces", "to", "structural", "equality", "over", "ML", "values", "of", "type", "value", ".", "-RRB-", "P", "ROPOSITION", "10", "-LRB-", "FULL", "CORRECTNESS", "-RRB-", ".", "For", "any", "ML", "value", "p", ":", "term", "denoting", "a", "program", ",", "Eval0.main", "p", "Eval4.main", "p", "As", "in", "Sections", "2", "and", "3", ",", "this", "evaluator", "can", "be", "made", "compositional", "by", "refunctionalizing", "the", "closures", "into", "higher-order", "functions", ".", "We", "conclude", "that", "the", "evaluation", "model", "embodied", "in", "the", "SECD", "machine", "is", "a", "call-by-value", "interpreter", "threading", "a", "stack", "of", "intermediate", "results", "and", "an", "environment", "with", "a", "callee-save", "strategy", "-LRB-", "witness", "the", "dynamic", "passage", "of", "environments", "in", "the", "meaning", "of", "applications", "-RRB-", ",", "a", "right-to-left", "evaluation", "of", "sub-terms", ",", "and", "a", "control", "delimiter", ".", "In", "particular", ",", "the", "meaning", "of", "a", "term", "is", "a", "partial", "endofunction", "over", "a", "stack", "of", "intermediate", "results", "and", "an", "environment", ".", "Furthermore", ",", "this", "evaluator", "evidently", "implements", "Hardin", ",", "Maranget", ",", "and", "Pagano", "'s", "L", "strategy", ",", "i.e.", ",", "right-to-left", "call", "by", "value", ",", "without", "us", "having", "to", "``", "guess", "''", "its", "inference", "rules", "-LSB-", "24", ",", "Section", "4", "-RSB-", ".", "The", "denotational", "content", "of", "the", "SECD", "machine", "puts", "a", "new", "light", "on", "it", ".", "For", "example", ",", "its", "separation", "between", "a", "control", "register", "and", "a", "dump", "register", "is", "explained", "by", "the", "control", "delimiter", "in", "the", "evaluator", "-LRB-", "reset", "in", "Eval4.eval", "-RRB-", ".", "2", "Removing", "this", "control", "delimiter", "gives", "rise", "to", "an", "abstract", "machine", "with", "a", "single", "stack", "component", "for", "control-not", "by", "a", "clever", "change", "in", "the", "machine", "itself", ",", "but", "by", "a", "straightforward", "simplification", "in", "the", "corresponding", "evaluator", ".", "It", "is", "straightforward", "to", "construct", "a", "variant", "of", "the", "CLS", "machine", "for", "-", "terms", "with", "names", ",", "by", "starting", "from", "an", "evaluator", "for", "-", "term", "with", "names", ".", "Similarly", ",", "it", "is", "straightforward", "to", "construct", "a", "variant", "of", "the", "SECD", "machine", "for", "-", "terms", "with", "de", "Bruijn", "indices", ",", "by", "starting", "from", "an", "evaluator", "for", "-", "term", "with", "indices", ".", "In", "the", "same", "vein", ",", "it", "is", "simple", "to", "construct", "call-by-name", "versions", "of", "the", "CLS", "machine", "and", "of", "the", "SECD", "machine", ",", "by", "starting", "from", "call-by-name", "evaluators", ".", "It", "is", "also", "simple", "to", "construct", "a", "properly", "tail", "recursive", "version", "of", "the", "SECD", "machine", ",", "and", "to", "extend", "the", "CLS", "machine", "and", "the", "SECD", "machine", "to", "bigger", "source", "languages", ",", "by", "extending", "the", "corresponding", "evaluator", ".", "What", "is", "the", "difference", "between", "an", "abstract", "machine", "and", "a", "virtual", "machine", "?", "Elsewhere", "-LSB-", "1", "-RSB-", ",", "we", "propose", "to", "distinguish", "them", "based", "on", "the", "notion", "of", "instruction", "set", ":", "A", "virtual", "machine", "has", "an", "instruction", "set", "whereas", "an", "abstract", "machine", "does", "not", ".", "Therefore", ",", "an", "abstract", "machine", "directly", "operates", "on", "a", "-", "term", ",", "but", "a", "virtual", "machine", "operates", "on", "a", "compiled", "representation", "of", "a", "-", "term", ",", "expressed", "using", "an", "instruction", "set", ".", "-LRB-", "This", "distinction", "can", "be", "found", "elsewhere", "in", "the", "literature", "-LSB-", "21", "-RSB-", ".", "-RRB-", "The", "Categorical", "Abstract", "Machine", "-LSB-", "6", "-RSB-", ",", "for", "example", ",", "has", "an", "instruction", "set", "--", "categorical", "combinators", "--", "and", "therefore", "-LRB-", "despite", "its", "name", "-RRB-", "it", "is", "a", "virtual", "machine", ",", "not", "an", "abstract", "machine", ".", "In", "contrast", ",", "Krivine", "'s", "machine", ",", "the", "CEK", "machine", ",", "the", "CLS", "machine", ",", "and", "the", "SECD", "machine", "are", "all", "abstract", "machines", ",", "not", "virtual", "machines", ",", "since", "they", "directly", "operate", "on", "-", "terms", ".", "In", "this", "section", ",", "we", "present", "the", "abstract", "machine", "corresponding", "to", "the", "Categorical", "Abstract", "Machine", "-LRB-", "CAM", "-RRB-", ".", "We", "start", "from", "the", "evaluation", "model", "embodied", "in", "the", "CAM", "-LSB-", "1", "-RSB-", ".", "6.1", "The", "evaluator", "corresponding", "to", "the", "CAM", "The", "evaluation", "model", "embodied", "in", "the", "CAM", "is", "an", "interpreter", "threading", "a", "stack", "with", "its", "top", "element", "cached", "in", "a", "register", ",", "representing", "environments", "as", "expressible", "values", "-LRB-", "namely", "nested", "pairs", "linked", "as", "lists", "-RRB-", ",", "with", "a", "caller-save", "strategy", "-LRB-", "witness", "the", "duplication", "of", "the", "register", "on", "the", "stack", "in", "the", "meaning", "of", "applications", "below", "-RRB-", ",", "and", "with", "a", "left-to-right", "evaluation", "of", "sub-terms", ".", "In", "particular", ",", "the", "meaning", "of", "a", "term", "is", "a", "partial", "endofunction", "over", "the", "register", "and", "the", "stack", ".", "This", "evaluator", "reads", "as", "follows", ":", "datatype", "term", "=", "IND", "of", "int", "-LRB-", "*", "de", "Bruijn", "index", "*", "-RRB-", "|", "ABS", "of", "term", "|", "APP", "of", "term", "*", "term", "|", "NIL", "|", "CONS", "of", "term", "*", "term", "|", "CAR", "of", "term", "|", "CDR", "of", "term", "Programs", "are", "closed", "terms", ".", "2", "A", "rough", "definition", "of", "reset", "is", "fun", "reset", "t", "=", "t", "-LRB-", "-RRB-", ".", "A", "more", "accurate", "definition", ",", "however", ",", "falls", "out", "of", "the", "scope", "of", "this", "article", "-LSB-", "12", ",", "18", "-RSB-", ".", "16", "structure", "Eval0", "=", "struct", "datatype", "expval", "=", "NULL", "|", "PAIR", "of", "expval", "*", "expval", "|", "CLOSURE", "of", "expval", "*", "-LRB-", "expval", "*", "expval", "list", "-", ">", "expval", "*", "expval", "list", "-RRB-", "-LRB-", "*", "access", ":", "int", "*", "expval", "*", "expval", "list", "*", "-RRB-", "-LRB-", "*", "-", ">", "expval", "*", "expval", "list", "*", "-RRB-", "fun", "access", "-LRB-", "0", ",", "PAIR", "-LRB-", "v1", ",", "v2", "-RRB-", ",", "s", "-RRB-", "=", "-LRB-", "v2", ",", "s", "-RRB-", "|", "access", "-LRB-", "n", ",", "PAIR", "-LRB-", "v1", ",", "v2", "-RRB-", ",", "s", "-RRB-", "=", "access", "-LRB-", "n", "-", "1", ",", "v1", ",", "s", "-RRB-", "-LRB-", "*", "eval", ":", "term", "*", "expval", "*", "expval", "list", "*", "-RRB-", "-LRB-", "*", "-", ">", "expval", "*", "expval", "list", "*", "-RRB-", "fun", "eval", "-LRB-", "IND", "n", ",", "v", ",", "s", "-RRB-", "=", "access", "-LRB-", "n", ",", "v", ",", "s", "-RRB-", "|", "eval", "-LRB-", "ABS", "t", ",", "v", ",", "s", "-RRB-", "=", "-LRB-", "CLOSURE", "-LRB-", "v", ",", "fn", "-LRB-", "v", ",", "s", "-RRB-", "=", ">", "eval", "-LRB-", "t", ",", "v", ",", "s", "-RRB-", "-RRB-", ",", "s", "-RRB-", "|", "eval", "-LRB-", "APP", "-LRB-", "t0", ",", "t1", "-RRB-", ",", "v", ",", "s", "-RRB-", "=", "let", "val", "-LRB-", "v", ",", "v", "'", ":", ":", "s", "-RRB-", "=", "eval", "-LRB-", "t0", ",", "v", ",", "v", ":", ":", "s", "-RRB-", "val", "-LRB-", "v", "'", ",", "-LRB-", "CLOSURE", "-LRB-", "v", ",", "f", "-RRB-", "-RRB-", ":", ":", "s", "-RRB-", "=", "eval", "-LRB-", "t1", ",", "v", "'", ",", "v", ":", ":", "s", "-RRB-", "in", "f", "-LRB-", "PAIR", "-LRB-", "v", ",", "v", "'", "-RRB-", ",", "s", "-RRB-", "end", "|", "eval", "-LRB-", "NIL", ",", "v", ",", "s", "-RRB-", "=", "-LRB-", "NULL", ",", "s", "-RRB-", "|", "eval", "-LRB-", "CONS", "-LRB-", "t1", ",", "t2", "-RRB-", ",", "v", ",", "s", "-RRB-", "=", "let", "val", "-LRB-", "v", ",", "v", "'", ":", ":", "s", "-RRB-", "=", "eval", "-LRB-", "t1", ",", "v", ",", "v", ":", ":", "s", "-RRB-", "val", "-LRB-", "v", ",", "v", "'", ":", ":", "s", "-RRB-", "=", "eval", "-LRB-", "t2", ",", "v", "'", ",", "v", ":", ":", "s", "-RRB-", "in", "-LRB-", "PAIR", "-LRB-", "v", "'", ",", "v", "-RRB-", ",", "s", "-RRB-", "end", "|", "eval", "-LRB-", "CAR", "t", ",", "v", ",", "s", "-RRB-", "=", "let", "val", "-LRB-", "PAIR", "-LRB-", "v1", ",", "v2", "-RRB-", ",", "s", "-RRB-", "=", "eval", "-LRB-", "t", ",", "v", ",", "s", "-RRB-", "in", "-LRB-", "v1", ",", "s", "-RRB-", "end", "|", "eval", "-LRB-", "CDR", "t", ",", "v", ",", "s", "-RRB-", "=", "let", "val", "-LRB-", "PAIR", "-LRB-", "v1", ",", "v2", "-RRB-", ",", "s", "-RRB-", "=", "eval", "-LRB-", "t", ",", "v", ",", "s", "-RRB-", "in", "-LRB-", "v2", ",", "s", "-RRB-", "end", "-LRB-", "*", "main", ":", "term", "-", ">", "expval", "*", "-RRB-", "fun", "main", "t", "=", "let", "val", "-LRB-", "v", ",", "nil", "-RRB-", "=", "eval", "-LRB-", "t", ",", "NULL", ",", "nil", "-RRB-", "in", "v", "end", "end", "This", "evaluator", "evidently", "implements", "Hardin", ",", "Maranget", ",", "and", "Pagano", "'s", "X", "strategy", "-LSB-", "24", ",", "Section", "6", "-RSB-", ".", "6.2", "The", "abstract", "machine", "corresponding", "to", "the", "CAM", "As", "in", "Sections", "2", ",", "3", ",", "and", "4", ",", "we", "can", "closure-convert", "the", "evaluator", "of", "Section", "6.1", "by", "defunctionalizing", "its", "expressible", "values", ",", "transform", "it", "into", "continuation-passing", "style", ",", "and", "defunctionalize", "its", "continuations", ".", "The", "resulting", "abstract", "machine", "reads", "as", "follows", ",", "where", "t", "denotes", "terms", ",", "v", "denotes", "expressible", "values", ",", "k", "denotes", "evaluation", "contexts", ",", "and", "s", "denotes", "stacks", "of", "expressible", "values", ".", "Source", "syntax", ":", "t", ":", ":", "n", "t", "t", "0", "t", "1", "nil", "cons", "t", "1", "t", "2", "car", "t", "cdr", "t", "Expressible", "values", "-LRB-", "unit", "value", ",", "pairs", ",", "and", "closures", "-RRB-", "and", "evaluation", "contexts", ":", "v", ":", ":", "null", "v", "1", "v", "2", "v", "t", "k", ":", ":", "CONT0", "CONT1", "t", "k", "CONT2", "k", "CONT3", "t", "k", "CONT4", "k", "CONT5", "k", "CONT6", "k", "Initial", "transition", ",", "transition", "rules", "-LRB-", "two", "kinds", "-RRB-", ",", "and", "final", "transition", ":", "t", "init", "t", "null", "nil", "CONT0", "n", "v", "s", "k", "eval", "k", "n", "v", "s", "t", "v", "s", "k", "eval", "k", "v", "t", "s", "nil", "v", "s", "k", "eval", "k", "null", "s", "t", "0", "t", "1", "v", "s", "k", "eval", "t", "0", "v", "v", ":", ":", "s", "CONT1", "t", "1", "k", "cons", "t", "1", "t", "2", "v", "s", "k", "eval", "t", "1", "v", "v", ":", ":", "s", "CONT3", "t", "2", "k", "car", "t", "v", "s", "k", "eval", "t", "v", "s", "CONT5", "k", "cdr", "t", "v", "s", "k", "eval", "t", "v", "s", "CONT6", "k", "CONT1", "t", "k", "v", "v", ":", ":", "s", "cont", "t", "v", "v", ":", ":", "s", "CONT2", "k", "CONT2", "k", "v", "v", "t", ":", ":", "s", "cont", "t", "v", "v", "s", "k", "CONT3", "t", "1", "k", "v", "v", ":", ":", "s", "cont", "t", "1", "v", "v", ":", ":", "s", "CONT4", "k", "CONT4", "k", "v", "v", ":", ":", "s", "cont", "k", "v", "v", "s", "CONT5", "k", "v", "1", "v", "2", "s", "cont", "k", "v", "1", "s", "CONT6", "k", "v", "1", "v", "2", "s", "cont", "k", "v", "2", "s", "CONT0", "v", "nil", "final", "v", "where", "0", "v", "1", "v", "2", "v", "2", "n", "v", "1", "v", "2", "n", "1", "v", "1", "Variables", "n", "are", "represented", "by", "their", "de", "Bruijn", "index", ",", "and", "the", "abstract", "machine", "consists", "of", "two", "mutually", "recursive", "transition", "functions", ".", "The", "first", "transition", "function", "operates", "on", "quadruples", "consisting", "of", "a", "term", ",", "an", "expressible", "value", ",", "a", "stack", "of", "expressible", "values", ",", "and", "an", "evaluation", "context", ".", "The", "second", "transition", "function", "operates", "on", "triples", "consisting", "of", "an", "evaluation", "context", ",", "an", "expressible", "value", ",", "and", "a", "stack", "of", "expressible", "values", ".", "This", "abstract", "machine", "embodies", "the", "evaluation", "model", "of", "the", "CAM", ".", "Naturally", ",", "more", "intuitive", "names", "could", "be", "chosen", "instead", "of", "CONT0", ",", "CONT1", ",", "etc.", ".", "We", "have", "presented", "a", "constructive", "correspondence", "between", "functional", "evaluators", "and", "abstract", "machines", ".", "This", "correspondence", "builds", "on", "off-the-shelf", "program", "transformations", ":", "closure", "conversion", ",", "CPS", "transformation", ",", "defunctionalization", ",", "and", "inlining", ".", "3", "We", "have", "shown", "how", "to", "reconstruct", "known", "machines", "-LRB-", "Krivine", "'s", "machine", ",", "the", "CEK", "machine", ",", "the", "CLS", "machine", ",", "and", "the", "SECD", "machine", "-RRB-", "and", "how", "to", "construct", "new", "ones", ".", "Conversely", ",", "we", "have", "revealed", "the", "denotational", "content", "of", "known", "abstract", "machines", ".", "We", "have", "shown", "that", "Krivine", "'s", "abstract", "machine", "and", "the", "CEK", "machine", "correspond", "to", "canonical", "evaluators", "for", "the", "-", "calculus", ".", "We", "have", "also", "shown", "that", "they", "are", "dual", "of", "each", "other", "since", "they", "correspond", "to", "call-by-name", "and", "call-by-value", "evaluators", "in", "the", "same", "direct", "style", ".", "In", "terms", "of", "denotational", "semantics", "-LSB-", "27", ",", "34", "-RSB-", ",", "Krivine", "'s", "machine", "and", "the", "CEK", "machine", "correspond", "to", "a", "standard", "semantics", ",", "whereas", "the", "CLS", "machine", "and", "the", "SECD", "machine", "correspond", "to", "a", "stack", "semantics", "of", "the", "-", "calculus", ".", "Finally", ",", "we", "have", "exhibited", "the", "abstract", "machine", "corresponding", "to", "the", "CAM", ",", "which", "puts", "the", "reader", "in", "a", "new", "position", "to", "answer", "the", "recurrent", "question", "as", "to", "whether", "the", "CLS", "machine", "is", "closer", "to", "the", "CAM", "or", "to", "the", "SECD", "machine", ".", "3", "Indeed", "the", "push-enter", "twist", "of", "Krivine", "'s", "machine", "is", "obtained", "by", "inlining", "apply", "cont", "in", "Section", "2.1.5", ".", "17", "Since", "this", "article", "was", "written", ",", "we", "have", "studied", "the", "correspondence", "between", "functional", "evaluators", "and", "abstract", "machines", "for", "call", "by", "need", "-LSB-", "2", "-RSB-", "and", "for", "Propositional", "Prolog", "-LSB-", "4", "-RSB-", ".", "In", "both", "cases", ",", "we", "derived", "sensible", "machines", "out", "of", "canonical", "evaluators", ".", "It", "seems", "to", "us", "that", "this", "correspondence", "between", "functional", "evaluators", "and", "abstract", "machines", "builds", "a", "reliable", "bridge", "between", "denotational", "definitions", "and", "definitions", "of", "abstract", "machines", ".", "On", "the", "one", "hand", ",", "it", "allows", "one", "to", "identify", "the", "denotational", "content", "of", "an", "abstract", "machine", "in", "the", "form", "of", "a", "functional", "interpreter", ".", "On", "the", "other", "hand", ",", "it", "gives", "one", "a", "precise", "and", "generic", "recipe", "to", "construct", "arbitrarily", "many", "new", "variants", "of", "abstract", "machines", "-LRB-", "e.g.", ",", "with", "substitutions", "or", "environments", ",", "or", "with", "stacks", "-RRB-", "or", "of", "arbitrarily", "many", "new", "abstract", "machines", ",", "starting", "from", "an", "evaluator", "with", "any", "given", "computational", "monad", "-LSB-", "28", "-RSB-", ".", "Acknowledgments", ":", "We", "are", "grateful", "to", "Malgorzata", "Biernacka", ",", "Julia", "Lawall", ",", "and", "Henning", "Korsholm", "Rohde", "for", "timely", "comments", ".", "Thanks", "are", "also", "due", "to", "the", "anonymous", "reviewers", ".", "This", "work", "is", "supported", "by", "the", "ESPRIT", "Working", "Group", "APPSEM", "II", "-LRB-", "http://www.appsem.org", "-RRB-", ".", "-LSB-", "1", "-RSB-", "Mads", "Sig", "Ager", ",", "Dariusz", "Biernacki", ",", "Olivier", "Danvy", ",", "and", "Jan", "Midtgaard", ".", "From", "interpreter", "to", "compiler", "and", "virtual", "machine", ":", "a", "functional", "derivation", ".", "Technical", "Report", "BRICS", "RS-03", "-14", ",", "DAIMI", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Aarhus", ",", "Aarhus", ",", "Denmark", ",", "March", "2003", ".", "-LSB-", "2", "-RSB-", "Mads", "Sig", "Ager", ",", "Olivier", "Danvy", ",", "and", "Jan", "Midtgaard", ".", "A", "functional", "correspondence", "between", "call-by-need", "evaluators", "and", "lazy", "abstract", "machines", ".", "Technical", "Report", "BRICS", "RS-03-24", ",", "DAIMI", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Aarhus", ",", "Aarhus", ",", "Denmark", ",", "June", "2003", ".", "-LSB-", "3", "-RSB-", "Anindya", "Banerjee", ",", "Nevin", "Heintze", ",", "and", "Jon", "G.", "Riecke", ".", "Design", "and", "correctness", "of", "program", "transformations", "based", "on", "control-flow", "analysis", ".", "In", "Naoki", "Kobayashi", "and", "Benjamin", "C.", "Pierce", ",", "editors", ",", "Theoretical", "Aspects", "of", "Computer", "Software", ",", "4th", "International", "Symposium", ",", "TACS", "2001", ",", "number", "2215", "in", "Lecture", "Notes", "in", "Computer", "Science", ",", "Sendai", ",", "Japan", ",", "October", "2001", ".", "Springer-Verlag", ".", "-LSB-", "4", "-RSB-", "Dariusz", "Biernacki", "and", "Olivier", "Danvy", ".", "From", "interpreter", "to", "logic", "engine", ":", "A", "functional", "derivation", ".", "Technical", "Report", "BRICS", "RS-03-25", ",", "DAIMI", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Aarhus", ",", "Aarhus", ",", "Denmark", ",", "June", "2003", ".", "Accepted", "for", "presentation", "at", "LOPSTR", "2003", ".", "-LSB-", "5", "-RSB-", "Rod", "M.", "Burstall", "and", "John", "Darlington", ".", "A", "transformational", "system", "for", "developing", "recursive", "programs", ".", "Journal", "of", "ACM", ",", "24", "-LRB-", "1", "-RRB-", ":", "44", "67", ",", "1977", ".", "-LSB-", "6", "-RSB-", "Guy", "Cousineau", ",", "Pierre-Louis", "Curien", ",", "and", "Michel", "Mauny", ".", "The", "categorical", "abstract", "machine", ".", "Science", "of", "Computer", "Programming", ",", "8", "-LRB-", "2", "-RRB-", ":", "173", "202", ",", "1987", ".", "-LSB-", "7", "-RSB-", "Pierre", "Cr", "egut", ".", "An", "abstract", "machine", "for", "lambda-terms", "normalization", ".", "In", "Mitchell", "Wand", ",", "editor", ",", "Proceedings", "of", "the", "1990", "ACM", "Conference", "on", "Lisp", "and", "Functional", "Programming", ",", "pages", "333", "340", ",", "Nice", ",", "France", ",", "June", "1990", ".", "ACM", "Press", ".", "-LSB-", "8", "-RSB-", "Pierre-Louis", "Curien", ".", "Categorical", "Combinators", ",", "Sequential", "Algorithms", "and", "Functional", "Programming", ".", "Progress", "in", "Theoretical", "Computer", "Science", ".", "Birkha", "user", ",", "1993", ".", "-LSB-", "9", "-RSB-", "Pierre-Louis", "Curien", "and", "Hugo", "Herbelin", ".", "The", "duality", "of", "computation", ".", "In", "Philip", "Wadler", ",", "editor", ",", "Proceedings", "of", "the", "2000", "ACM", "SIGPLAN", "International", "Conference", "on", "Functional", "Programming", ",", "SIGPLAN", "Notices", ",", "Vol", ".", "35", ",", "No.", "9", ",", "pages", "233", "243", ",", "Montr", "eal", ",", "Canada", ",", "September", "2000", ".", "ACM", "Press", ".", "-LSB-", "10", "-RSB-", "Olivier", "Danvy", ".", "Back", "to", "direct", "style", ".", "Science", "of", "Computer", "Programming", ",", "22", "-LRB-", "3", "-RRB-", ":", "183", "195", ",", "1994", ".", "-LSB-", "11", "-RSB-", "Olivier", "Danvy", ".", "A", "lambda-revelation", "of", "the", "SECD", "machine", ".", "Technical", "Report", "BRICS", "RS-02-53", ",", "DAIMI", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Aarhus", ",", "Aarhus", ",", "Denmark", ",", "December", "2002", ".", "-LSB-", "12", "-RSB-", "Olivier", "Danvy", "and", "Andrzej", "Filinski", ".", "Representing", "control", ",", "a", "study", "of", "the", "CPS", "transformation", ".", "Mathematical", "Structures", "in", "Computer", "Science", ",", "2", "-LRB-", "4", "-RRB-", ":", "361", "391", ",", "1992", ".", "-LSB-", "13", "-RSB-", "Olivier", "Danvy", "and", "John", "Hatcliff", ".", "CPS", "transformation", "after", "strictness", "analysis", ".", "ACM", "Letters", "on", "Programming", "Languages", "and", "Systems", ",", "1", "-LRB-", "3", "-RRB-", ":", "195", "212", ",", "1993", ".", "-LSB-", "14", "-RSB-", "Olivier", "Danvy", "and", "John", "Hatcliff", ".", "On", "the", "transformation", "between", "direct", "and", "continuation", "semantics", ".", "In", "Stephen", "Brookes", ",", "Michael", "Main", ",", "Austin", "Melton", ",", "Michael", "Mislove", ",", "and", "David", "Schmidt", ",", "editors", ",", "Proceedings", "of", "the", "9th", "Conference", "on", "Mathematical", "Foundations", "of", "Programming", "Semantics", ",", "number", "802", "in", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "627", "648", ",", "New", "Orleans", ",", "Louisiana", ",", "April", "1993", ".", "Springer-Verlag", ".", "-LSB-", "15", "-RSB-", "Olivier", "Danvy", "and", "Lasse", "R.", "Nielsen", ".", "Defunctionalization", "at", "work", ".", "In", "Harald", "S", "ndergaard", ",", "editor", ",", "Proceedings", "of", "the", "Third", "International", "ACM", "SIGPLAN", "Conference", "on", "Principles", "and", "Practice", "of", "Declarative", "Programming", "-LRB-", "PPDP", "'", "01", "-RRB-", ",", "pages", "162", "174", ",", "Firenze", ",", "Italy", ",", "September", "2001", ".", "ACM", "Press", ".", "Extended", "version", "available", "as", "the", "technical", "report", "BRICS", "RS-01", "-23", ".", "-LSB-", "16", "-RSB-", "Matthias", "Felleisen", "and", "Matthew", "Flatt", ".", "Programming", "languages", "and", "lambda", "calculi", ".", "Unpublished", "lecture", "notes", ".", "http://www.ccs.neu.edu/home/matthias/3810-w02/", "readings.html", ",", "1989-2003", ".", "-LSB-", "17", "-RSB-", "Matthias", "Felleisen", "and", "Daniel", "P.", "Friedman", ".", "Control", "operators", ",", "the", "SECD", "machine", ",", "and", "the", "-", "calculus", ".", "In", "Martin", "Wirsing", ",", "editor", ",", "Formal", "Description", "of", "Programming", "Concepts", "III", ",", "pages", "193", "217", ".", "Elsevier", "Science", "Publishers", "B.V.", "-LRB-", "North-Holland", "-RRB-", ",", "Amsterdam", ",", "1986", ".", "-LSB-", "18", "-RSB-", "Andrzej", "Filinski", ".", "Representing", "monads", ".", "In", "Hans-J", ".", "Boehm", ",", "editor", ",", "Proceedings", "of", "the", "Twenty-First", "Annual", "ACM", "Symposium", "on", "Principles", "of", "Programming", "Languages", ",", "pages", "446", "457", ",", "Portland", ",", "Oregon", ",", "January", "1994", ".", "ACM", "Press", ".", "-LSB-", "19", "-RSB-", "Cormac", "Flanagan", ",", "Amr", "Sabry", ",", "Bruce", "F.", "Duba", ",", "and", "Matthias", "Felleisen", ".", "The", "essence", "of", "compiling", "with", "continuations", ".", "In", "David", "W.", "Wall", ",", "editor", ",", "Proceedings", "of", "the", "ACM", "SIGPLAN", "'93", "Conference", "on", "Programming", "Languages", "Design", "and", "Imple-mentation", ",", "SIGPLAN", "Notices", ",", "Vol", ".", "28", ",", "No", "6", ",", "pages", "237", "247", ",", "Albuquerque", ",", "New", "Mexico", ",", "June", "1993", ".", "ACM", "Press", ".", "-LSB-", "20", "-RSB-", "Daniel", "P.", "Friedman", ",", "Mitchell", "Wand", ",", "and", "Christopher", "T.", "Haynes", ".", "Essentials", "of", "Programming", "Languages", ",", "second", "edition", ".", "The", "MIT", "Press", ",", "2001", ".", "-LSB-", "21", "-RSB-", "Benjamin", "Gr", "egoire", "and", "Xavier", "Leroy", ".", "A", "compiled", "implementation", "of", "strong", "reduction", ".", "In", "Simon", "Peyton", "Jones", ",", "editor", ",", "Proceedings", "of", "the", "2002", "ACM", "SIGPLAN", "International", "Conference", "on", "Functional", "Programming", ",", "SIGPLAN", "Notices", ",", "Vol", ".", "37", ",", "No.", "9", ",", "pages", "235", "246", ",", "Pittsburgh", ",", "Pennsylvania", ",", "September", "2002", ".", "ACM", "Press", ".", "18", "-LSB-", "22", "-RSB-", "Chris", "Hankin", ".", "Lambda", "Calculi", ",", "a", "guide", "for", "computer", "scientists", ",", "volume", "1", "of", "Graduate", "Texts", "in", "Computer", "Science", ".", "Oxford", "University", "Press", ",", "1994", ".", "-LSB-", "23", "-RSB-", "John", "Hannan", "and", "Dale", "Miller", ".", "From", "operational", "semantics", "to", "abstract", "machines", ".", "Mathematical", "Structures", "in", "Computer", "Science", ",", "2", "-LRB-", "4", "-RRB-", ":", "415", "459", ",", "1992", ".", "-LSB-", "24", "-RSB-", "Th", "er", "`", "ese", "Hardin", ",", "Luc", "Maranget", ",", "and", "Bruno", "Pagano", ".", "Functional", "runtime", "systems", "within", "the", "lambda-sigma", "calculus", ".", "Journal", "of", "Functional", "Programming", ",", "8", "-LRB-", "2", "-RRB-", ":", "131", "172", ",", "1998", ".", "-LSB-", "25", "-RSB-", "Jean-Louis", "Krivine", ".", "Un", "interpr", "`", "ete", "du", "-", "calcul", ".", "Brouil-lon", ".", "Available", "online", "at", "http://www.logique.jussieu.fr/", "~", "krivine", ",", "1985", ".", "-LSB-", "26", "-RSB-", "Peter", "J.", "Landin", ".", "The", "mechanical", "evaluation", "of", "expressions", ".", "The", "Computer", "Journal", ",", "6", "-LRB-", "4", "-RRB-", ":", "308", "320", ",", "1964", ".", "-LSB-", "27", "-RSB-", "Robert", "E.", "Milne", "and", "Christopher", "Strachey", ".", "A", "Theory", "of", "Programming", "Language", "Semantics", ".", "Chapman", "and", "Hall", ",", "London", ",", "and", "John", "Wiley", ",", "New", "York", ",", "1976", ".", "-LSB-", "28", "-RSB-", "Eugenio", "Moggi", ".", "Notions", "of", "computation", "and", "monads", ".", "Information", "and", "Computation", ",", "93:55", "92", ",", "1991", ".", "-LSB-", "29", "-RSB-", "Lasse", "R.", "Nielsen", ".", "A", "denotational", "investigation", "of", "defunctionalization", ".", "Technical", "Report", "BRICS", "RS-00-47", ",", "DAIMI", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Aarhus", ",", "Aarhus", ",", "Denmark", ",", "December", "2000", ".", "-LSB-", "30", "-RSB-", "Gordon", "D.", "Plotkin", ".", "Call-by-name", ",", "call-by-value", "and", "the", "calculus", ".", "Theoretical", "Computer", "Science", ",", "1:125", "159", ",", "1975", ".", "-LSB-", "31", "-RSB-", "John", "C.", "Reynolds", ".", "Definitional", "interpreters", "for", "higher-order", "programming", "languages", ".", "Higher-Order", "and", "Symbolic", "Computation", ",", "11", "-LRB-", "4", "-RRB-", ":", "363", "397", ",", "1998", ".", "Reprinted", "from", "the", "proceedings", "of", "the", "25th", "ACM", "National", "Conference", "-LRB-", "1972", "-RRB-", ".", "-LSB-", "32", "-RSB-", "Kristoffer", "H.", "Rose", ".", "Explicit", "substitution", "tutorial", "&", "survey", ".", "BRICS", "Lecture", "Series", "LS-96-3", ",", "DAIMI", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Aarhus", ",", "Aarhus", ",", "Denmark", ",", "September", "1996", ".", "-LSB-", "33", "-RSB-", "Amr", "Sabry", "and", "Matthias", "Felleisen", ".", "Reasoning", "about", "programs", "in", "continuation-passing", "style", ".", "Lisp", "and", "Symbolic", "Computation", ",", "6", "-LRB-", "3/4", "-RRB-", ":", "289", "360", ",", "1993", ".", "-LSB-", "34", "-RSB-", "David", "A.", "Schmidt", ".", "Denotational", "Semantics", ":", "A", "Methodology", "for", "Language", "Development", ".", "Allyn", "and", "Bacon", ",", "Inc.", ",", "1986", ".", "-LSB-", "35", "-RSB-", "Guy", "L.", "Steele", "Jr.", "and", "Gerald", "J.", "Sussman", ".", "The", "art", "of", "the", "interpreter", "or", ",", "the", "modularity", "complex", "-LRB-", "parts", "zero", ",", "one", ",", "and", "two", "-RRB-", ".", "AI", "Memo", "453", ",", "Artificial", "Intelligence", "Laboratory", ",", "Massachusetts", "Institute", "of", "Technology", ",", "Cambridge", ",", "Massachusetts", ",", "May", "1978", ".", "-LSB-", "36", "-RSB-", "Joseph", "Stoy", ".", "Some", "mathematical", "aspects", "of", "functional", "programming", ".", "In", "John", "Darlington", ",", "Peter", "Henderson", ",", "and", "David", "A.", "Turner", ",", "editors", ",", "Functional", "Programming", "and", "its", "Applications", ".", "Cambridge", "University", "Press", ",", "1982", ".", "-LSB-", "37", "-RSB-", "Joseph", "E.", "Stoy", ".", "Denotational", "Semantics", ":", "The", "Scott-Strachey", "Approach", "to", "Programming", "Language", "Theory", ".", "The", "MIT", "Press", ",", "1977", ".", "-LSB-", "38", "-RSB-", "Christopher", "Strachey", ".", "Fundamental", "concepts", "in", "programming", "languages", ".", "Higher-Order", "and", "Symbolic", "Computation", ",", "13", "-LRB-", "1/2", "-RRB-", ":", "1", "49", ",", "2000", ".", "-LSB-", "39", "-RSB-", "Philip", "Wadler", ".", "The", "essence", "of", "functional", "programming", "-LRB-", "in-vited", "talk", "-RRB-", ".", "In", "Andrew", "W.", "Appel", ",", "editor", ",", "Proceedings", "of", "the", "Nineteenth", "Annual", "ACM", "Symposium", "on", "Principles", "of", "Programming", "Languages", ",", "pages", "1", "14", ",", "Albuquerque", ",", "New", "Mexico", ",", "January", "1992", ".", "ACM", "Press", ".", "-LSB-", "40", "-RSB-", "Mitchell", "Wand", ".", "A", "short", "proof", "of", "the", "lexical", "addressing", "algorithm", ".", "Information", "Processing", "Letters", ",", "35:1", "5", ",", "1990", ".", "-LSB-", "41", "-RSB-", "Glynn", "Winskel", ".", "The", "Formal", "Semantics", "of", "Programming", "Languages", ".", "Foundation", "of", "Computing", "Series", ".", "The", "MIT", "Press", ",", "1993", ".", "19"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["closure conversion", "interpreters", "abstract machines", "evaluator", "abstract machine", "defunctionalization"], "abstractive_keyphrases": ["call-by-value", "call-by-name", "transformation into continuation-passing style (cps)"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "123", "document": ["Learning", "Concepts", "from", "Large", "Scale", "Imbalanced", "Data", "Sets", "Using", "Support", "Cluster", "Machines", "This", "paper", "considers", "the", "problem", "of", "using", "Support", "Vector", "Machines", "-LRB-", "SVMs", "-RRB-", "to", "learn", "concepts", "from", "large", "scale", "imbalanced", "data", "sets", ".", "The", "objective", "of", "this", "paper", "is", "twofold", ".", "Firstly", ",", "we", "investigate", "the", "effects", "of", "large", "scale", "and", "imbalance", "on", "SVMs", ".", "We", "highlight", "the", "role", "of", "linear", "non-separability", "in", "this", "problem", ".", "Secondly", ",", "we", "develop", "a", "both", "practical", "and", "theoretical", "guaranteed", "meta-algorithm", "to", "handle", "the", "trouble", "of", "scale", "and", "imbalance", ".", "The", "approach", "is", "named", "Support", "Cluster", "Machines", "-LRB-", "SCMs", "-RRB-", ".", "It", "incorporates", "the", "informative", "and", "the", "representative", "under-sampling", "mechanisms", "to", "speedup", "the", "training", "procedure", ".", "The", "SCMs", "differs", "from", "the", "previous", "similar", "ideas", "in", "two", "ways", ",", "-LRB-", "a", "-RRB-", "the", "theoretical", "foundation", "has", "been", "provided", ",", "and", "-LRB-", "b", "-RRB-", "the", "clustering", "is", "performed", "in", "the", "feature", "space", "rather", "than", "in", "the", "input", "space", ".", "The", "theoretical", "analysis", "not", "only", "provides", "justification", ",", "but", "also", "guides", "the", "technical", "choices", "of", "the", "proposed", "approach", ".", "Finally", ",", "experiments", "on", "both", "the", "synthetic", "and", "the", "TRECVID", "data", "are", "carried", "out", ".", "The", "results", "support", "the", "previous", "analysis", "and", "show", "that", "the", "SCMs", "are", "efficient", "and", "effective", "while", "dealing", "with", "large", "scale", "imbalanced", "data", "sets", ".", "H.", "3.1", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", "--", "Abstracting", "methods", ",", "Indexing", "methods", ";", "I.", "5.2", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Design", "Methodology-Classifier", "design", "and", "evaluation", "Algorithms", ",", "Theory", ",", "Experimentation", "Supported", "by", "National", "Natural", "Science", "Foundation", "of", "China", "-LRB-", "60135010", ",", "60321002", "-RRB-", "and", "Chinese", "National", "Key", "Foundation", "Research", "&", "Development", "Plan", "-LRB-", "2004CB318108", "-RRB-", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MM", "'", "06", ",", "October", "23", "27", ",", "2006", ",", "Santa", "Barbara", ",", "California", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-447-2", "/", "06/0010", "...", "$", "5.00", ".", "In", "the", "context", "of", "concept", "modelling", ",", "this", "paper", "considers", "the", "problem", "of", "how", "to", "make", "full", "use", "of", "the", "large", "scale", "annotated", "data", "sets", ".", "In", "particular", ",", "we", "study", "the", "behaviors", "of", "Support", "Vector", "Machines", "-LRB-", "SVMs", "-RRB-", "on", "large", "scale", "imbalanced", "data", "sets", ",", "not", "only", "because", "its", "solid", "theoretical", "foundations", "but", "also", "for", "its", "empirical", "success", "in", "various", "applications", ".", "1.1", "Motivation", "Bridging", "the", "semantic", "gap", "has", "been", "becoming", "the", "most", "challenging", "problem", "of", "Multimedia", "Information", "Retrieval", "-LRB-", "MIR", "-RRB-", ".", "Currently", ",", "there", "are", "mainly", "two", "types", "of", "methods", "to", "bridge", "the", "gap", "-LSB-", "8", "-RSB-", ".", "The", "first", "one", "is", "relevance", "feedback", "which", "attempts", "to", "capture", "the", "user", "'s", "precise", "needs", "through", "iterative", "feedback", "and", "query", "refinement", ".", "Another", "promising", "direction", "is", "concept", "modelling", ".", "As", "noted", "by", "Hauptmann", "-LSB-", "14", "-RSB-", ",", "this", "splits", "the", "semantic", "gap", "between", "low", "level", "features", "and", "user", "information", "needs", "into", "two", ",", "hopefully", "smaller", "gaps", ":", "-LRB-", "a", "-RRB-", "mapping", "the", "low-level", "features", "into", "the", "intermediate", "semantic", "concepts", "and", "-LRB-", "b", "-RRB-", "mapping", "these", "concepts", "into", "user", "needs", ".", "The", "automated", "image", "annotation", "methods", "for", "CBIR", "and", "the", "high", "level", "feature", "extraction", "methods", "in", "CBVR", "are", "all", "the", "efforts", "to", "model", "the", "first", "mapping", ".", "Of", "these", "methods", ",", "supervised", "learning", "is", "one", "of", "the", "most", "successful", "ones", ".", "An", "early", "difficulty", "of", "supervised", "learning", "is", "the", "lack", "of", "annotated", "training", "data", ".", "Currently", ",", "however", ",", "it", "seems", "no", "longer", "a", "problem", ".", "This", "is", "due", "to", "both", "the", "techniques", "developed", "to", "leverage", "surrounding", "texts", "of", "web", "images", "and", "the", "large", "scale", "collaborative", "annotation", ".", "Actually", ",", "there", "is", "an", "underway", "effort", "named", "Large", "Scale", "Concept", "Ontology", "for", "Multimedia", "Understanding", "-LRB-", "LSCOM", "-RRB-", ",", "which", "intends", "to", "annotate", "1000", "concepts", "in", "broadcast", "news", "video", "-LSB-", "13", "-RSB-", ".", "The", "initial", "fruits", "of", "this", "effort", "have", "been", "harvested", "in", "the", "practice", "of", "TRECVID", "hosted", "by", "National", "Institute", "of", "Standards", "and", "Technology", "-LRB-", "NIST", "-RRB-", "-LSB-", "1", "-RSB-", ".", "In", "TRECVID", "2005", ",", "39", "concepts", "are", "annotated", "by", "multiple", "participants", "through", "web", "collaboration", ",", "and", "ten", "of", "them", "are", "used", "in", "the", "evaluation", ".", "The", "available", "large", "amount", "of", "annotated", "data", "is", "undoubt-edly", "beneficial", "to", "supervised", "learning", ".", "However", ",", "it", "also", "brings", "out", "a", "novel", "challenge", ",", "that", "is", ",", "how", "to", "make", "full", "use", "of", "the", "data", "while", "training", "the", "classifiers", ".", "On", "the", "one", "hand", ",", "the", "annotated", "data", "sets", "are", "usually", "in", "rather", "large", "scale", ".", "The", "de-441", "velopment", "set", "of", "TRECVID", "2005", "includes", "74523", "keyframes", ".", "The", "data", "set", "of", "LSCOM", "with", "over", "1000", "annotated", "concepts", "might", "be", "even", "larger", ".", "With", "all", "the", "data", ",", "the", "training", "of", "SVMs", "will", "be", "rather", "slow", ".", "On", "the", "other", "hand", ",", "each", "concept", "will", "be", "the", "minority", "class", "under", "one-against-all", "strategy", ".", "Only", "a", "small", "portion", "of", "the", "data", "belong", "to", "the", "concept", ",", "while", "all", "the", "others", "are", "not", "-LRB-", "In", "our", "case", ",", "the", "minority", "class", "always", "refers", "to", "the", "positive", "class", "-RRB-", ".", "The", "ratio", "of", "the", "positive", "examples", "and", "the", "negative", "ones", "is", "typically", "below", "1", ":", "100", "in", "TRECVID", "data", ".", "These", "novel", "challenges", "have", "spurred", "great", "interest", "in", "the", "communities", "of", "data", "mining", "and", "machine", "learning", "-LSB-", "2", ",", "6", ",", "21", ",", "22", ",", "29", "-RSB-", ".", "Our", "first", "motivation", "is", "to", "investigate", "the", "effects", "of", "large", "scale", "and", "imbalance", "on", "SVMs", ".", "This", "is", "critical", "for", "correct", "technical", "choices", "and", "development", ".", "The", "second", "objective", "of", "this", "paper", "is", "to", "provide", "a", "practical", "as", "well", "as", "theoretical", "guaranteed", "approach", "to", "addressing", "the", "problem", ".", "1.2", "Our", "Results", "The", "major", "contribution", "of", "this", "paper", "can", "be", "summarized", "as", "follows", ":", "1", ".", "We", "investigate", "the", "effects", "of", "large", "scale", "and", "imbalance", "on", "SVMs", "and", "highlight", "the", "role", "of", "linear", "non-separability", "of", "the", "data", "sets", ".", "We", "find", "that", "SVMs", "has", "no", "difficulties", "with", "linear", "separable", "large", "scale", "imbalanced", "data", ".", "2", ".", "We", "establish", "the", "relations", "between", "the", "SVMs", "trained", "on", "the", "centroids", "of", "the", "clusters", "and", "the", "SVMs", "obtained", "on", "the", "original", "data", "set", ".", "We", "show", "that", "the", "difference", "between", "their", "optimal", "solutions", "are", "bounded", "by", "the", "perturbation", "of", "the", "kernel", "matrix", ".", "We", "also", "prove", "the", "optimal", "criteria", "for", "approximating", "the", "original", "optimal", "solutions", ".", "3", ".", "We", "develop", "a", "meta-algorithm", "named", "Support", "Cluster", "Machines", "-LRB-", "SCMs", "-RRB-", ".", "A", "fast", "kernel", "k-means", "approach", "has", "been", "employed", "to", "partition", "the", "data", "in", "the", "feature", "space", "rather", "than", "in", "the", "input", "space", ".", "Experiments", "on", "both", "the", "synthetic", "data", "and", "the", "TRECVID", "data", "are", "carried", "out", ".", "The", "results", "support", "the", "previous", "analysis", "and", "show", "that", "the", "SCMs", "are", "efficient", "and", "effective", "while", "dealing", "with", "large", "scale", "imbalanced", "data", "sets", ".", "1.3", "Organization", "The", "structure", "of", "this", "paper", "is", "as", "follows", ".", "In", "Section", "2", "we", "give", "a", "brief", "review", "of", "SVMs", "and", "kernel", "k-means", ".", "We", "discuss", "the", "effects", "of", "the", "large", "scale", "imbalanced", "data", "on", "SVMs", "in", "Section", "3", ".", "We", "develop", "the", "theoretical", "foundations", "and", "present", "the", "detailed", "SCMs", "approach", "in", "Section", "4", ".", "In", "Section", "5", "we", "carry", "out", "experiments", "on", "both", "the", "synthetic", "and", "the", "TRECVID", "data", "sets", ".", "Finally", ",", "we", "conclude", "the", "paper", "in", "Section", "6", ".", "Here", ",", "we", "present", "a", "sketch", "introduction", "to", "the", "soft-margin", "SVMs", "for", "the", "convenience", "of", "the", "deduction", "in", "Section", "4", ".", "For", "a", "binary", "classification", "problem", ",", "given", "a", "training", "data", "set", "D", "of", "size", "n", "D", "=", "-LCB-", "-LRB-", "x", "i", ",", "y", "i", "-RRB-", "|", "x", "i", "R", "N", ",", "y", "i", "-LCB-", "1", ",", "-1", "-RCB-", "-RCB-", ",", "where", "x", "i", "indicates", "the", "training", "vector", "of", "the", "ith", "sample", "and", "y", "i", "indicates", "its", "target", "value", ",", "and", "i", "=", "1", ",", "...", ",", "n", ".", "The", "classification", "hyperplane", "is", "defined", "as", "w", ",", "-LRB-", "x", "-RRB-", "+", "b", "=", "0", ",", "where", "-LRB-", "-RRB-", "is", "a", "mapping", "from", "R", "N", "to", "a", "-LRB-", "usually", "-RRB-", "higher", "dimension", "Hilbert", "space", "H", ",", "and", ",", "denotes", "the", "dot", "product", "in", "H.", "Thus", ",", "the", "decision", "function", "f", "-LRB-", "x", "-RRB-", "is", "f", "-LRB-", "x", "-RRB-", "=", "sign", "-LRB-", "w", ",", "-LRB-", "x", "-RRB-", "+", "b", "-RRB-", ".", "The", "SVMs", "aims", "to", "find", "the", "hyperplane", "with", "the", "maximum", "margin", "between", "the", "two", "classes", ",", "i.e.", ",", "the", "optimal", "hyperplane", ".", "This", "can", "be", "obtained", "by", "solving", "the", "following", "quadratic", "optimization", "problem", "min", "w", ",", "b", ",", "1", "2", "w", "2", "+", "C", "n", "i", "=", "1", "i", "subject", "to", "y", "i", "-LRB-", "w", ",", "-LRB-", "x", "i", "-RRB-", "+", "b", "-RRB-", "1", "i", "-LRB-", "1", "-RRB-", "i", "0", ",", "i", "=", "1", ",", "...", ",", "n.", "With", "the", "help", "of", "Lagrange", "multipliers", ",", "the", "dual", "of", "the", "above", "problem", "is", "min", "G", "-LRB-", "-RRB-", "=", "1", "2", "T", "Q", "-", "e", "T", "subject", "to", "0", "i", "C", ",", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "2", "-RRB-", "T", "y", "=", "0", ",", "where", "is", "a", "vector", "with", "components", "i", "that", "are", "the", "Lagrange", "multipliers", ",", "C", "is", "the", "upper", "bound", ",", "e", "is", "a", "vector", "of", "all", "ones", ",", "and", "Q", "is", "an", "n", "n", "positive", "semi-definite", "matrix", ",", "Q", "ij", "=", "y", "i", "y", "j", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", ".", "Since", "the", "mapping", "-LRB-", "-RRB-", "only", "appears", "in", "the", "dot", "product", ",", "therefore", ",", "we", "need", "not", "know", "its", "explicit", "form", ".", "Instead", ",", "we", "define", "a", "kernel", "K", "-LRB-", ",", "-RRB-", "to", "calculate", "the", "dot", "product", ",", "i.e.", ",", "K", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", ".", "The", "matrix", "K", "with", "components", "K", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "is", "named", "Gram", "Matrix", "-LRB-", "or", "kernel", "matrix", "-RRB-", ".", "With", "kernel", "K", ",", ",", "we", "can", "implicitly", "map", "the", "training", "data", "from", "input", "space", "to", "a", "feature", "space", "H.", "2.2", "Kernel", "k", "-", "means", "and", "Graph", "Partitioning", "Given", "a", "set", "of", "vectors", "x", "1", ",", "...", ",", "x", "n", ",", "the", "standard", "k-means", "algorithm", "aims", "to", "find", "clusters", "1", ",", "...", ",", "k", "that", "minimize", "the", "objective", "function", "J", "-LRB-", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", "-RRB-", "=", "k", "c", "=", "1", "x", "i", "c", "x", "i", "-", "m", "c", "2", ",", "-LRB-", "3", "-RRB-", "where", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", "denotes", "the", "partitioning", "of", "the", "data", "set", "and", "m", "c", "=", "xic", "x", "i", "|", "c", "|", "is", "the", "centroid", "of", "the", "cluster", "c", ".", "Similar", "to", "the", "idea", "of", "nonlinear", "SVMs", ",", "the", "k-means", "can", "also", "be", "performed", "in", "the", "feature", "space", "with", "the", "help", "of", "a", "nonlinear", "mapping", "-LRB-", "-RRB-", ",", "which", "results", "in", "the", "so-called", "kernel", "k-means", "J", "-LRB-", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", "-RRB-", "=", "k", "c", "=", "1", "x", "i", "c", "-LRB-", "x", "i", "-RRB-", "-", "m", "c", "2", ",", "-LRB-", "4", "-RRB-", "where", "m", "c", "=", "xic", "-LRB-", "x", "i", "-RRB-", "|", "c", "|", ".", "If", "we", "expand", "the", "Euclidean", "distance", "-LRB-", "x", "i", "-RRB-", "-", "m", "c", "2", "in", "the", "objective", "function", ",", "we", "can", "find", "that", "the", "image", "of", "x", "i", "only", "appears", "in", "the", "form", "of", "dot", "product", ".", "Thus", ",", "given", "a", "kernel", "matrix", "K", "with", "the", "same", "meaning", "442", "in", "SVMs", ",", "we", "can", "compute", "the", "distance", "between", "points", "and", "centroids", "without", "knowing", "explicit", "representation", "of", "-LRB-", "x", "i", "-RRB-", ".", "Recently", ",", "an", "appealing", "alternative", ",", "i.e.", ",", "the", "graph", "clustering", "has", "attracted", "great", "interest", ".", "It", "treats", "clustering", "as", "a", "graph", "partition", "problem", ".", "Given", "a", "graph", "G", "=", "-LRB-", "V", ",", "E", ",", "A", "-RRB-", ",", "which", "consists", "of", "a", "set", "of", "vertices", "V", "and", "a", "set", "of", "edges", "E", "such", "that", "an", "edge", "between", "two", "vertices", "represents", "their", "similarity", ".", "The", "affinity", "matrix", "A", "is", "|", "V", "|", "|", "V", "|", "whose", "entries", "represent", "the", "weights", "of", "the", "edges", ".", "Let", "links", "-LRB-", "V", "1", ",", "V", "2", "-RRB-", "be", "the", "sum", "of", "the", "edge", "weights", "between", "the", "nodes", "in", "V", "1", "and", "V", "2", ",", "that", "is", "links", "-LRB-", "V", "1", ",", "V", "2", "-RRB-", "=", "iV", "1", ",", "jV", "2", "A", "ij", ".", "Ratio", "association", "is", "a", "type", "of", "graph", "partitioning", "objective", "which", "aims", "to", "maximize", "within-cluster", "association", "relative", "to", "the", "size", "of", "the", "cluster", "RAssoc", "-LRB-", "G", "-RRB-", "=", "max", "V", "1", ",", "...", ",", "V", "k", "k", "c", "=", "1", "links", "-LRB-", "V", "c", ",", "V", "c", "-RRB-", "|", "V", "c", "|", ".", "-LRB-", "5", "-RRB-", "The", "following", "theorem", "establishes", "the", "relation", "between", "kernel", "k-means", "and", "graph", "clustering", "-LSB-", "10", "-RSB-", ".", "With", "this", "result", ",", "we", "can", "develop", "some", "techniques", "to", "handle", "the", "difficulty", "of", "storing", "the", "large", "kernel", "matrix", "for", "kernel", "k-means", ".", "Theorem", "1", ".", "Given", "a", "data", "set", ",", "we", "can", "construct", "a", "weighted", "graph", "G", "=", "-LRB-", "V", ",", "E", ",", "A", "-RRB-", ",", "by", "treating", "each", "sample", "as", "a", "node", "and", "linking", "an", "edge", "between", "each", "other", ".", "If", "we", "define", "the", "edge", "weight", "A", "ij", "=", "K", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", ",", "that", "is", ",", "A", "=", "K", ",", "the", "minimization", "of", "-LRB-", "4", "-RRB-", "is", "equivalent", "to", "the", "maximization", "of", "-LRB-", "5", "-RRB-", ".", "There", "are", "two", "obstacles", "yielded", "by", "large", "scale", ".", "The", "first", "one", "is", "the", "kernel", "evaluation", ",", "which", "has", "been", "intensively", "discussed", "in", "the", "previous", "work", ".", "The", "computational", "cost", "scales", "quadratically", "with", "the", "data", "size", ".", "Furthermore", ",", "it", "is", "impossible", "to", "store", "the", "whole", "kernel", "matrix", "in", "the", "memory", "for", "common", "computers", ".", "The", "decomposition", "algorithms", "-LRB-", "e.g.", ",", "SMO", "-RRB-", "have", "been", "developed", "to", "solve", "the", "problem", "-LSB-", "20", ",", "22", "-RSB-", ".", "The", "SMO-like", "algorithms", "actually", "transform", "the", "space", "load", "to", "the", "time", "cost", ",", "i.e.", ",", "numerous", "iterations", "until", "convergence", ".", "To", "reduce", "or", "avoid", "the", "kernel", "reevaluations", ",", "various", "efficient", "caching", "techniques", "are", "also", "proposed", "-LSB-", "16", "-RSB-", ".", "Another", "obstacle", "caused", "by", "large", "scale", "is", "the", "increased", "classification", "difficulty", ",", "that", "is", ",", "the", "more", "probable", "data", "overlapping", ".", "We", "can", "not", "prove", "it", "is", "inevitable", "but", "it", "typically", "happens", ".", "Assume", "we", "will", "draw", "n", "randomly", "chosen", "numbers", "between", "1", "to", "100", "from", "a", "uniform", "distribution", ",", "our", "chances", "of", "drawing", "a", "number", "close", "to", "100", "would", "improve", "with", "increasing", "values", "of", "n", ",", "even", "though", "the", "expected", "mean", "of", "the", "draws", "is", "invariant", "-LSB-", "2", "-RSB-", ".", "The", "checkerboard", "experiment", "in", "-LSB-", "29", "-RSB-", "is", "an", "intuitive", "example", ".", "This", "is", "true", "especially", "for", "the", "real", "world", "data", ",", "either", "because", "of", "the", "weak", "features", "-LRB-", "we", "mean", "features", "that", "are", "less", "discriminative", "-RRB-", "or", "because", "of", "the", "noises", ".", "With", "the", "large", "scale", "data", ",", "the", "samples", "in", "the", "overlapping", "area", "might", "be", "so", "many", "that", "the", "samples", "violating", "KKT", "conditions", "become", "abundant", ".", "This", "means", "the", "SMO", "algorithm", "might", "need", "more", "iterations", "to", "converge", ".", "Generally", ",", "the", "existing", "algorithmic", "approaches", "have", "not", "been", "able", "to", "tackle", "the", "very", "large", "data", "set", ".", "Whereas", ",", "the", "under-sampling", "method", ",", "e.g.", ",", "active", "learning", ",", "is", "possible", ".", "With", "unlabelled", "data", ",", "active", "learning", "selects", "a", "well-chosen", "subset", "of", "data", "to", "label", "so", "that", "reduce", "the", "labor", "of", "manual", "annotations", "-LSB-", "24", "-RSB-", ".", "With", "large", "scale", "labelled", "data", ",", "active", "learning", "can", "also", "be", "used", "to", "reduce", "the", "scale", "of", "training", "data", "-LSB-", "21", "-RSB-", ".", "The", "key", "issue", "of", "active", "learning", "is", "how", "to", "choose", "the", "most", "``", "valuable", "''", "samples", ".", "The", "informative", "sampling", "is", "a", "popular", "criterion", ".", "That", "is", ",", "the", "samples", "closest", "to", "the", "boundary", "or", "maximally", "violating", "the", "KKT", "conditions", "-LRB-", "the", "misclassified", "samples", "-RRB-", "are", "preferred", "-LSB-", "24", ",", "26", "-RSB-", ".", "Active", "learning", "is", "usually", "in", "an", "iterative", "style", ".", "It", "requires", "an", "initial", "-LRB-", "usually", "random", "selected", "-RRB-", "data", "set", "to", "obtain", "the", "estimation", "of", "the", "boundary", ".", "The", "samples", "selected", "in", "the", "following", "iterations", "depend", "on", "this", "initial", "boundary", ".", "In", "addition", ",", "active", "learning", "can", "not", "work", "like", "the", "decomposition", "approach", "which", "stops", "until", "all", "the", "samples", "satisfy", "the", "KKT", "conditions", ".", "This", "imply", "a", "potential", "danger", ",", "that", "is", ",", "if", "the", "initial", "data", "are", "selected", "improperly", ",", "the", "algorithm", "might", "not", "be", "able", "to", "find", "the", "suitable", "hyperplane", ".", "Thus", ",", "another", "criterion", ",", "i.e.", ",", "representative", ",", "must", "be", "considered", ".", "Here", ",", "``", "representative", "''", "refers", "to", "the", "ability", "to", "characterize", "the", "data", "distribution", ".", "Nguyen", "et", "al.", "-LSB-", "19", "-RSB-", "show", "that", "the", "active", "learning", "method", "considering", "the", "representative", "criterion", "will", "achieve", "better", "results", ".", "Specifically", "for", "SVMs", ",", "pre-clustering", "is", "proposed", "to", "estimate", "the", "data", "distribution", "before", "the", "under-sampling", "-LSB-", "31", ",", "3", ",", "30", "-RSB-", ".", "Similar", "ideas", "of", "representative", "sampling", "appear", "in", "-LSB-", "5", ",", "12", "-RSB-", ".", "3.2", "The", "Imbalanced", "Data", "The", "reason", "why", "general", "machine", "learning", "systems", "suffer", "performance", "loss", "with", "imbalanced", "data", "is", "not", "yet", "clear", "-LSB-", "23", ",", "28", "-RSB-", ",", "but", "the", "analysis", "on", "SVMs", "seems", "relatively", "straightforward", ".", "Akbani", "et", "al.", "have", "summarized", "three", "possible", "causes", "for", "SVMs", "-LSB-", "2", "-RSB-", ".", "They", "are", ",", "-LRB-", "a", "-RRB-", "positive", "samples", "lie", "further", "from", "the", "ideal", "boundary", ",", "-LRB-", "b", "-RRB-", "the", "weakness", "of", "the", "soft-margin", "SVMs", ",", "and", "-LRB-", "c", "-RRB-", "the", "imbalanced", "support", "vector", "ratio", ".", "Of", "these", "causes", ",", "in", "our", "opinion", ",", "what", "really", "matters", "is", "the", "second", "one", ".", "The", "first", "cause", "is", "pointed", "out", "by", "Wu", "et", "al.", "-LSB-", "29", "-RSB-", ".", "This", "situation", "occurs", "when", "the", "data", "are", "linearly", "separable", "and", "the", "imbalance", "is", "caused", "by", "the", "insufficient", "sampling", "of", "the", "minority", "class", ".", "Only", "in", "this", "case", "does", "the", "``", "ideal", "''", "boundary", "make", "sense", ".", "As", "for", "the", "third", "cause", ",", "Akbani", "et", "al.", "have", "pointed", "out", "that", "it", "plays", "a", "minor", "role", "because", "of", "the", "constraint", "T", "y", "=", "0", "on", "Lagrange", "multipliers", "-LSB-", "2", "-RSB-", ".", "The", "second", "cause", "states", "that", "the", "soft-margin", "SVMs", "has", "inherent", "weakness", "for", "handling", "imbalanced", "data", ".", "We", "find", "that", "it", "depends", "on", "the", "linear", "separability", "of", "the", "data", "whether", "the", "imbalance", "has", "negative", "effects", "on", "SVMs", ".", "For", "linearly", "separable", "data", ",", "the", "imbalance", "will", "have", "tiny", "effects", "on", "SVMs", ",", "since", "all", "the", "slack", "variables", "of", "-LRB-", "1", "-RRB-", "tend", "to", "be", "zeros", "-LRB-", ",", "unless", "the", "C", "is", "so", "small", "that", "the", "maximization", "of", "the", "margin", "dominates", "the", "objective", "-RRB-", ".", "In", "the", "result", ",", "there", "is", "no", "contradiction", "between", "the", "capacity", "of", "the", "SVMs", "and", "the", "empirical", "error", ".", "Unfortunately", ",", "linear", "non-separable", "data", "often", "occurs", ".", "The", "SVMs", "has", "to", "achieve", "a", "tradeoff", "between", "maximizing", "the", "margin", "and", "minimizing", "the", "empirical", "error", ".", "For", "imbalanced", "data", ",", "the", "majority", "class", "outnumbers", "the", "minority", "one", "in", "the", "overlapping", "area", ".", "To", "reduce", "the", "overwhelming", "errors", "of", "misclassifying", "the", "majority", "class", ",", "the", "optimal", "hyperplane", "will", "inevitably", "be", "skew", "to", "the", "minority", ".", "In", "the", "extreme", ",", "if", "C", "is", "not", "very", "large", ",", "SVMs", "simply", "learns", "to", "classify", "everything", "as", "negative", "because", "that", "makes", "the", "``", "margin", "''", "the", "largest", ",", "with", "zero", "cumulative", "error", "on", "the", "abundant", "negative", "examples", ".", "The", "only", "tradeoff", "is", "the", "small", "amount", "of", "cumulative", "443", "error", "on", "the", "few", "positive", "examples", ",", "which", "does", "not", "count", "for", "much", ".", "Several", "variants", "of", "SVMs", "have", "been", "adopted", "to", "solve", "the", "problem", "of", "imbalance", ".", "One", "choice", "is", "the", "so-called", "one-class", "SVMs", ",", "which", "uses", "only", "positive", "examples", "for", "training", ".", "Without", "using", "the", "information", "of", "the", "negative", "samples", ",", "it", "is", "usually", "difficult", "to", "achieve", "as", "good", "result", "as", "that", "of", "binary", "SVMs", "classifier", "-LSB-", "18", "-RSB-", ".", "Using", "different", "penalty", "constants", "C", "+", "and", "C", "for", "the", "positive", "and", "negative", "examples", "have", "been", "reported", "to", "be", "effective", "-LSB-", "27", ",", "17", "-RSB-", ".", "However", ",", "Wu", "et", "al.", "point", "out", "that", "the", "effectiveness", "of", "this", "method", "is", "limited", "-LSB-", "29", "-RSB-", ".", "The", "explanation", "of", "Wu", "is", "based", "on", "the", "KKT", "condition", "T", "y", "=", "0", ",", "which", "imposes", "an", "equal", "total", "influence", "from", "the", "positive", "and", "negative", "support", "vectors", ".", "We", "evaluate", "this", "method", "and", "the", "result", "shows", "that", "tuning", "C", "+", "C", "does", "work", "-LRB-", "details", "refer", "to", "Section", "5", "-RRB-", ".", "We", "find", "this", "also", "depends", "on", "the", "linear", "separability", "of", "the", "data", "whether", "this", "method", "works", ".", "For", "linearly", "separable", "data", ",", "tuning", "C", "+", "C", "has", "little", "effects", ",", "since", "the", "penalty", "constants", "are", "useless", "with", "the", "zero-valued", "slack", "variables", ".", "However", ",", "if", "the", "data", "are", "linearly", "non-separable", ",", "tuning", "C", "+", "C", "does", "change", "the", "position", "of", "separating", "hyperplane", ".", "The", "method", "to", "modify", "the", "kernel", "matrix", "is", "also", "proposed", "to", "improve", "SVMs", "for", "imbalanced", "data", "-LSB-", "29", "-RSB-", ".", "A", "possible", "drawback", "of", "this", "type", "approach", "is", "its", "high", "computational", "costs", ".", "The", "proposed", "approach", "is", "named", "Support", "Cluster", "Machines", "-LRB-", "SCMs", "-RRB-", ".", "We", "first", "partition", "the", "negative", "samples", "into", "disjoint", "clusters", ",", "then", "train", "an", "initial", "SVMs", "model", "using", "the", "positive", "samples", "and", "the", "representatives", "of", "the", "negative", "clusters", ".", "With", "the", "global", "picture", "of", "the", "initial", "SVMs", ",", "we", "can", "approximately", "identify", "the", "support", "vectors", "and", "non-support", "vectors", ".", "A", "shrinking", "technique", "is", "then", "used", "to", "remove", "the", "samples", "which", "are", "most", "probably", "not", "support", "vectors", ".", "This", "procedure", "of", "clustering", "and", "shrinking", "are", "performed", "itera-tively", "several", "times", "until", "some", "stop", "criteria", "satisfied", ".", "With", "such", "a", "from", "coarse-to-fine", "procedure", ",", "the", "representative", "and", "informative", "mechanisms", "are", "incorporated", ".", "There", "are", "four", "key", "issues", "in", "the", "meta-algorithm", "of", "SCMs", ":", "-LRB-", "a", "-RRB-", "How", "to", "get", "the", "partition", "of", "the", "training", "data", ",", "-LRB-", "b", "-RRB-", "How", "to", "get", "the", "representative", "for", "each", "cluster", ",", "-LRB-", "c", "-RRB-", "How", "to", "safely", "remove", "the", "non-support", "vector", "samples", ",", "-LRB-", "d", "-RRB-", "When", "to", "stop", "the", "iteration", "procedure", ".", "Though", "similar", "ideas", "have", "been", "proposed", "to", "speed-up", "SVMs", "in", "-LSB-", "30", ",", "3", ",", "31", "-RSB-", ",", "no", "theoretical", "analysis", "of", "this", "idea", "has", "been", "provided", ".", "In", "the", "following", ",", "we", "present", "an", "in-depth", "analysis", "for", "this", "type", "of", "approaches", "and", "attempt", "to", "improve", "the", "algorithm", "under", "the", "theoretical", "guide", ".", "4.1", "Theoretical", "Analysis", "Suppose", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", "is", "a", "partition", "of", "the", "training", "set", "that", "the", "samples", "within", "the", "same", "cluster", "have", "the", "same", "class", "label", ".", "If", "we", "construct", "a", "representative", "u", "c", "for", "each", "cluster", "c", ",", "we", "can", "obtain", "two", "novel", "models", "of", "SVMs", ".", "The", "first", "one", "is", "named", "Support", "Cluster", "Machines", "-LRB-", "SCMs", "-RRB-", ".", "It", "treats", "each", "representative", "as", "a", "sample", ",", "thus", "the", "data", "size", "is", "reduced", "from", "n", "to", "k", ".", "This", "equals", "to", "the", "classification", "of", "the", "clusters", ".", "That", "is", "where", "the", "name", "SCMs", "come", "from", ".", "The", "new", "training", "set", "is", "D", "=", "-LCB-", "-LRB-", "u", "c", ",", "y", "c", "-RRB-", "|", "u", "c", "R", "N", ",", "y", "c", "-LCB-", "1", ",", "-1", "-RCB-", ",", "c", "=", "1", ",", "...", ",", "k", "-RCB-", ",", "in", "which", "y", "c", "equals", "the", "labels", "of", "the", "samples", "within", "c", ".", "We", "define", "the", "dual", "problem", "of", "support", "cluster", "machines", "as", "min", "G", "-LRB-", "-RRB-", "=", "1", "2", "T", "Q", "-", "e", "T", "subjectto", "0", "i", "|", "i", "|", "C", ",", "i", "=", "1", ",", "...", ",", "k", "-LRB-", "6", "-RRB-", "T", "y", "=", "0", ",", "where", "is", "a", "vector", "of", "size", "k", "with", "components", "i", "corresponding", "to", "u", "i", ",", "|", "i", "|", "C", "is", "the", "upper", "bound", "for", "i", ",", "e", "is", "a", "k", "dimension", "vector", "of", "all", "ones", ",", "and", "Q", "is", "an", "k", "k", "positive", "semi-definite", "matrix", ",", "Q", "ij", "=", "y", "i", "y", "j", "-LRB-", "u", "i", "-RRB-", ",", "-LRB-", "u", "j", "-RRB-", ".", "Another", "one", "is", "named", "Duplicate", "Support", "Vector", "Machines", "-LRB-", "DSVMs", "-RRB-", ".", "Different", "from", "SCMs", ",", "it", "does", "not", "reduce", "the", "size", "of", "training", "set", ".", "Instead", ",", "it", "replace", "each", "sample", "x", "i", "with", "the", "representative", "of", "the", "cluster", "that", "x", "i", "belongs", "to", ".", "Thus", ",", "the", "samples", "within", "the", "same", "cluster", "are", "duplicate", ".", "That", "is", "why", "it", "is", "named", "DSVMs", ".", "The", "training", "set", "is", "~", "D", "=", "-LCB-", "-LRB-", "~", "x", "i", ",", "~", "y", "i", "-RRB-", "|", "x", "i", "D", ",", "if", "x", "i", "c", ",", "~", "x", "i", "=", "u", "c", "and", "~", "y", "i", "=", "y", "i", "-RCB-", ",", "and", "the", "corresponding", "dual", "problem", "is", "defined", "as", "min", "~", "G", "-LRB-", "-RRB-", "=", "1", "2", "T", "~", "Q", "-", "e", "T", "subjectto", "0", "i", "C", ",", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "7", "-RRB-", "T", "y", "=", "0", ",", "where", "~", "Q", "is", "is", "an", "n", "n", "positive", "semi-definite", "matrix", ",", "~", "Q", "ij", "=", "~", "y", "i", "~", "y", "j", "-LRB-", "~", "x", "i", "-RRB-", ",", "-LRB-", "~", "x", "j", "-RRB-", ".", "We", "have", "the", "following", "theorem", "that", "states", "-LRB-", "6", "-RRB-", "is", "somehow", "equivalent", "to", "-LRB-", "7", "-RRB-", ":", "Theorem", "2", ".", "With", "the", "above", "definitions", "of", "the", "SCMs", "and", "the", "DSVMs", ",", "if", "and", "are", "their", "optimal", "solutions", "respectively", ",", "the", "relation", "G", "-LRB-", "-RRB-", "=", "~", "G", "-LRB-", "-RRB-", "holds", ".", "Furthermore", ",", "any", "R", "k", "satisfying", "-LCB-", "c", "=", "x", "i", "c", "i", ",", "c", "=", "1", ",", "...", ",", "k", "-RCB-", "is", "the", "optimal", "solution", "of", "SCMs", ".", "Inversely", ",", "any", "R", "n", "satisfying", "-LCB-", "x", "i", "c", "i", "=", "c", ",", "c", "=", "1", ",", "...", ",", "k", "-RCB-", "and", "the", "constraints", "of", "-LRB-", "7", "-RRB-", "is", "the", "optimal", "solution", "of", "DSVMs", ".", "The", "proof", "is", "in", "Appendix", "A.", "Theorem", "2", "shows", "that", "solving", "the", "SCMs", "is", "equivalent", "to", "solving", "a", "quadratic", "programming", "problem", "of", "the", "same", "scale", "as", "that", "of", "the", "SVMs", "in", "-LRB-", "2", "-RRB-", ".", "Comparing", "-LRB-", "2", "-RRB-", "and", "-LRB-", "7", "-RRB-", ",", "we", "can", "find", "that", "only", "the", "Hessian", "matrix", "is", "different", ".", "Thus", ",", "to", "estimate", "the", "approximation", "from", "SCMs", "of", "-LRB-", "6", "-RRB-", "to", "SVMs", "of", "-LRB-", "2", "-RRB-", ",", "we", "only", "need", "to", "analyze", "the", "stability", "of", "the", "quadratic", "programming", "model", "in", "-LRB-", "2", "-RRB-", "when", "the", "Hessian", "matrix", "varies", "from", "Q", "to", "~", "Q.", "Daniel", "has", "presented", "a", "study", "on", "the", "stability", "of", "the", "solution", "of", "definite", "quadratic", "programming", ",", "which", "requires", "that", "both", "Q", "and", "~", "Q", "are", "positive", "definite", "-LSB-", "7", "-RSB-", ".", "However", ",", "in", "our", "situation", ",", "Q", "is", "usually", "positive", "definite", "and", "~", "Q", "is", "not", "-LRB-", "because", "of", "the", "duplications", "-RRB-", ".", "We", "develop", "a", "novel", "theorem", "for", "this", "case", ".", "If", "define", "=", "Q", "-", "~", "Q", ",", "where", "denotes", "the", "Frobenius", "norm", "of", "a", "matrix", ",", "the", "value", "of", "measure", "the", "size", "of", "the", "perturbations", "between", "Q", "and", "~", "Q", ".", "We", "have", "the", "following", "theorem", ":", "Theorem", "3", ".", "If", "Q", "is", "positive", "definite", "and", "=", "Q", "-", "~", "Q", ",", "let", "and", "~", "be", "the", "optimal", "solutions", "to", "-LRB-", "2", "-RRB-", "and", "-LRB-", "7", "-RRB-", "respectively", ",", "we", "have", "~", "~", "mC", "G", "-LRB-", "~", "-RRB-", "-", "G", "-LRB-", "-RRB-", "-LRB-", "m", "2", "+", "~", "m", "2", "-RRB-", "C", "2", "2", "444", "where", "is", "the", "minimum", "eigenvalue", "of", "Q", ",", "m", "and", "~", "m", "indicate", "the", "numbers", "of", "the", "support", "vectors", "for", "-LRB-", "2", "-RRB-", "and", "-LRB-", "7", "-RRB-", "respectively", ".", "The", "proof", "is", "in", "Appendix", "B", ".", "This", "theorem", "shows", "that", "the", "approximation", "from", "-LRB-", "2", "-RRB-", "to", "-LRB-", "7", "-RRB-", "is", "bounded", "by", ".", "Note", "that", "this", "does", "not", "mean", "that", "with", "minimal", "we", "are", "sure", "to", "get", "the", "best", "approximate", "solution", ".", "For", "example", ",", "adopting", "the", "support", "vectors", "of", "-LRB-", "1", "-RRB-", "to", "construct", "~", "Q", "will", "yield", "the", "exact", "optimal", "solution", "of", "-LRB-", "2", "-RRB-", "but", "the", "corresponding", "are", "not", "necessarily", "minimum", ".", "However", ",", "we", "do", "not", "know", "which", "samples", "are", "support", "vectors", "beforehand", ".", "What", "we", "can", "do", "is", "to", "minimize", "the", "potential", "maximal", "distortion", "between", "the", "solutions", "between", "-LRB-", "2", "-RRB-", "and", "-LRB-", "7", "-RRB-", ".", "Now", "we", "consider", "the", "next", "problem", ",", "that", "is", ",", "given", "the", "partition", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", ",", "what", "are", "the", "best", "representatives", "-LCB-", "u", "c", "-RCB-", "k", "c", "=", "1", "for", "the", "clusters", "in", "the", "sense", "of", "approximating", "Q", "?", "In", "fact", ",", "we", "have", "the", "following", "theorem", ":", "Theorem", "4", ".", "Given", "the", "partition", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", ",", "the", "-LCB-", "u", "c", "-RCB-", "k", "c", "=", "1", "satisfying", "-LRB-", "u", "c", "-RRB-", "=", "x", "i", "c", "-LRB-", "x", "i", "-RRB-", "|", "c", "|", ",", "c", "=", "1", ",", "...", ",", "k", "-LRB-", "8", "-RRB-", "will", "make", "=", "Q", "-", "~", "Q", "minimum", ".", "The", "proof", "is", "in", "Appendix", "C", ".", "This", "theorem", "shows", "that", ",", "given", "the", "partition", ",", "-LRB-", "u", "c", "-RRB-", "=", "m", "c", "yields", "the", "best", "approximation", "between", "~", "Q", "and", "Q", ".", "Here", "we", "come", "to", "the", "last", "question", ",", "i.e.", ",", "what", "partition", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", "will", "make", "=", "Q", "-", "~", "Q", "minimum", ".", "To", "make", "the", "problem", "more", "clearly", ",", "we", "expand", "2", "as", "Q", "-", "~", "Q", "2", "=", "k", "h", "=", "1", "k", "l", "=", "1", "x", "i", "h", "x", "j", "l", "-LRB-", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", "-", "m", "h", ",", "m", "l", "-RRB-", "2", ".", "-LRB-", "9", "-RRB-", "There", "are", "approximately", "k", "n", "/", "k", "!", "types", "of", "such", "partitions", "of", "the", "data", "set", ".", "An", "exhaustive", "search", "for", "the", "best", "partition", "is", "impossible", ".", "Recalling", "that", "-LRB-", "9", "-RRB-", "is", "similar", "to", "-LRB-", "4", "-RRB-", ",", "we", "have", "the", "following", "theorem", "which", "states", "their", "relaxed", "equivalence", ".", "Theorem", "5", ".", "The", "relaxed", "optimal", "solution", "of", "minimizing", "-LRB-", "9", "-RRB-", "and", "the", "relaxed", "optimal", "solution", "of", "minimizing", "-LRB-", "4", "-RRB-", "are", "equivalent", ".", "The", "proof", "can", "be", "found", "in", "Appendix", "D.", "Minimizing", "amounts", "to", "find", "a", "low-rank", "matrix", "approximating", "Q.", "Ding", "et", "al.", "have", "pointed", "out", "the", "relaxed", "equivalence", "between", "kernel", "PCA", "and", "kernel", "k-means", "in", "-LSB-", "11", "-RSB-", ".", "Note", "that", "minimizing", "-LRB-", "9", "-RRB-", "is", "different", "from", "kernel", "PCA", "in", "that", "it", "is", "with", "an", "additional", "block-wise", "constant", "constraint", ".", "That", "is", ",", "the", "value", "of", "~", "Q", "ij", "must", "be", "invariant", "with", "respect", "to", "the", "cluster", "h", "containing", "~", "x", "i", "and", "the", "cluster", "l", "containing", "~", "x", "j", ".", "With", "Theorem", "5", "we", "know", "that", "kernel", "k-means", "is", "a", "suitable", "method", "to", "obtain", "the", "partition", "of", "data", ".", "According", "to", "the", "above", "results", ",", "the", "SCMs", "essentially", "finds", "an", "approximate", "solution", "to", "the", "original", "SVMs", "by", "smoothing", "the", "kernel", "matrix", "K", "-LRB-", "or", "Hessian", "matrix", "Q", "-RRB-", ".", "Fig.", "1", "illustrates", "the", "procedure", "of", "smoothing", "the", "kernel", "matrix", "via", "clustering", ".", "Hence", ",", "by", "solving", "a", "smaller", "quadratic", "programming", "problem", ",", "the", "position", "of", "separating", "hyperplane", "can", "be", "roughly", "determined", ".", "-5", "0", "5", "10", "15", "-4", "-2", "0", "2", "4", "6", "8", "10", "12", "14", "16", "50", "100", "150", "200", "20", "40", "60", "80", "100", "120", "140", "160", "180", "200", "50", "100", "150", "200", "20", "40", "60", "80", "100", "120", "140", "160", "180", "200", "50", "100", "150", "200", "20", "40", "60", "80", "100", "120", "140", "160", "180", "200", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "d", "-RRB-", "Figure", "1", ":", "-LRB-", "a", "-RRB-", "2D", "data", "distribution", ",", "-LRB-", "b", "-RRB-", "the", "visualization", "of", "the", "kernel", "matrix", "Q", ",", "-LRB-", "c", "-RRB-", "the", "kernel", "matrix", "Q", "by", "re-ordering", "the", "entries", "so", "that", "the", "samples", "belonging", "to", "the", "same", "cluster", "come", "together", ",", "-LRB-", "d", "-RRB-", "the", "approximate", "kernel", "matrix", "~", "Q", "obtained", "by", "replacing", "each", "sample", "with", "the", "corresponding", "centroid", ".", "4.2", "Kernel-based", "Graph", "Clustering", "In", "the", "previous", "work", ",", "k-means", "-LSB-", "30", "-RSB-", ",", "BIRCH", "-LSB-", "31", "-RSB-", "and", "PDDP", "-LSB-", "3", "-RSB-", "have", "been", "used", "to", "obtain", "the", "partition", "of", "the", "data", ".", "None", "of", "them", "performs", "clustering", "in", "the", "feature", "space", ",", "though", "the", "SVMs", "works", "in", "the", "feature", "space", ".", "This", "is", "somewhat", "unnatural", ".", "Firstly", ",", "recalling", "that", "the", "kernel", "K", "-LRB-", ",", "-RRB-", "usually", "implies", "an", "implicitly", "nonlinear", "mapping", "from", "the", "input", "space", "to", "the", "feature", "space", ",", "the", "optimal", "partition", "of", "input", "space", "is", "not", "necessarily", "the", "optimal", "one", "of", "feature", "space", ".", "Take", "k-means", "as", "an", "example", ",", "due", "to", "the", "fact", "that", "the", "squared", "Euclidean", "distance", "is", "used", "as", "the", "distortion", "measure", ",", "the", "clusters", "must", "be", "separated", "by", "piece-wise", "hyperplanes", "-LRB-", "i.e.", ",", "voronoi", "diagram", "-RRB-", ".", "However", ",", "these", "separating", "hyperplanes", "are", "no", "longer", "hyperplanes", "in", "the", "feature", "space", "with", "nonlinear", "mapping", "-LRB-", "-RRB-", ".", "Secondly", ",", "the", "k-means", "approach", "can", "not", "capture", "the", "complex", "structure", "of", "data", ".", "As", "shown", "in", "Fig.", "2", ",", "the", "negative", "class", "is", "in", "a", "ring-shape", "in", "the", "input", "space", ".", "If", "the", "k-means", "is", "used", ",", "the", "centroids", "of", "positive", "and", "negative", "class", "might", "overlap", ".", "Whereas", "in", "the", "feature", "space", ",", "the", "kernel", "k-means", "might", "get", "separable", "centroids", ".", "Several", "factors", "limit", "the", "application", "of", "kernel", "k-means", "to", "large", "scale", "data", ".", "Firstly", ",", "it", "is", "almost", "impossible", "to", "store", "the", "whole", "kernel", "matrix", "K", "in", "the", "memory", ",", "e.g.", ",", "for", "n", "=", "100", "000", ",", "we", "still", "need", "20", "gigabytes", "memory", "taking", "the", "symmetry", "into", "account", ".", "Secondly", ",", "the", "kernel", "k-means", "relies", "heavily", "on", "an", "effective", "initialization", "to", "achieve", "good", "results", ",", "and", "we", "do", "not", "have", "such", "a", "sound", "method", "yet", ".", "Finally", ",", "the", "computational", "cost", "of", "the", "kernel", "k-means", "might", "exceeds", "that", "of", "SVMs", ",", "and", "therefore", ",", "we", "lose", "the", "benefits", "of", "under-sampling", ".", "Dhillon", "et", "al.", "recently", "propose", "a", "multilevel", "kernel", "k-means", "method", "-LSB-", "9", "-RSB-", ",", "which", "seems", "to", "cater", "to", "our", "requirements", ".", "The", "approach", "is", "based", "on", "the", "equivalence", "between", "graph", "clustering", "and", "kernel", "k-means", ".", "It", "incorporates", "the", "coarsening", "and", "initial", "partitioning", "phases", "to", "obtain", "a", "good", "initial", "clustering", ".", "Most", "importantly", ",", "the", "approach", "is", "extremely", "efficient", ".", "It", "can", "handle", "a", "graph", "with", "28,294", "nodes", "and", "1,007,284", "edges", "in", "several", "seconds", ".", "Therefore", ",", "here", "we", "adopt", "this", "approach", ".", "The", "detailed", "description", "can", "be", "found", "in", "-LSB-", "9", "-RSB-", ".", "In", "the", "following", ",", "we", "focus", "on", "how", "to", "address", "the", "difficulty", "of", "storing", "large", "scale", "kernel", "matrix", ".", "Theorem", "1", "states", "that", "kernel", "k-means", "is", "equivalent", "to", "a", "type", "of", "graph", "clustering", ".", "Kernel", "k-means", "focuses", "on", "grouping", "data", "so", "that", "their", "average", "distance", "from", "the", "centroid", "is", "minimum", ",", "while", "graph", "clustering", "aims", "to", "minimizing", "the", "average", "pair-wise", "distance", "among", "the", "data", ".", "Central", "grouping", "and", "pair-wise", "grouping", "are", "two", "different", "views", "of", "the", "same", "approach", ".", "From", "the", "perspective", "of", "pair-wise", "grouping", ",", "we", "can", "expect", "that", "two", "samples", "with", "large", "distance", "will", "not", "belong", "to", "the", "same", "cluster", "in", "the", "optimal", "solution", ".", "Thus", ",", "445", "1", "x", "2", "x", "1", "z", "2", "z", "3", "z", "Positive", "Class", "Negative", "Class", "Figure", "2", ":", "The", "left", "and", "right", "figures", "show", "the", "data", "distribution", "of", "input", "space", "and", "feature", "space", "respectively", ".", "The", "two", "classes", "are", "indicated", "by", "squares", "and", "circles", ".", "Each", "class", "is", "grouped", "into", "one", "cluster", ",", "and", "the", "solid", "mark", "indicates", "the", "centroid", "of", "the", "class", ".", "we", "add", "the", "constraint", "that", "two", "samples", "with", "distance", "large", "enough", "are", "not", "linked", "by", "an", "edge", ",", "that", "is", ",", "transforming", "the", "dense", "graph", "to", "a", "sparse", "graph", ".", "This", "procedure", "is", "the", "common", "practice", "in", "spectral", "clustering", "or", "manifold", "embedding", ".", "Usually", ",", "two", "methods", "have", "been", "widely", "used", "for", "this", "purpose", ",", "i.e.", ",", "k-nearest", "neighbor", "and", "-", "ball", ".", "Here", ",", "we", "adopt", "the", "-", "ball", "approach", ".", "Concretely", ",", "the", "edges", "with", "weight", "A", "ij", "<", "is", "removed", "from", "the", "original", "graph", ",", "in", "which", "the", "parameter", "is", "pre-determined", ".", "By", "transforming", "a", "dense", "graph", "into", "a", "sparse", "graph", ",", "we", "only", "need", "store", "the", "sparse", "affinity", "matrix", "instead", "of", "the", "original", "kernel", "matrix", ".", "Nevertheless", ",", "we", "have", "to", "point", "out", "that", "the", "time", "complexity", "of", "constructing", "sparse", "graph", "is", "O", "-LRB-", "n", "2", "-RRB-", "for", "data", "set", "with", "n", "examples", ",", "which", "is", "the", "efficiency", "bottleneck", "of", "the", "current", "implementation", ".", "With", "the", "sparse", "graph", ",", "each", "iteration", "of", "the", "multilevel", "kernel", "k-means", "costs", "O", "-LRB-", "ln", "-RRB-", "time", ",", "where", "ln", "is", "the", "number", "of", "nonzero", "entries", "in", "the", "kernel", "matrix", ".", "4.3", "Support", "Cluster", "Machines", "According", "to", "Theorem", "4", ",", "choosing", "the", "centroid", "of", "each", "cluster", "as", "representative", "will", "yield", "the", "best", "approximation", ".", "However", ",", "the", "explicit", "form", "of", "-LRB-", "-RRB-", "is", "unknown", ".", "We", "do", "n't", "know", "the", "exact", "pre-images", "of", "-LCB-", "m", "c", "-RCB-", "k", "c", "=", "1", ",", "what", "we", "can", "get", "are", "the", "dot", "products", "between", "the", "centroids", "by", "m", "h", ",", "m", "l", "=", "1", "|", "h", "|", "|", "l", "|", "x", "i", "h", "x", "j", "l", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", ",", "which", "requires", "O", "-LRB-", "n", "2", "-RRB-", "costs", ".", "Then", "the", "pre-computed", "kernel", "SVMs", "can", "be", "used", ".", "The", "pre-computed", "kernel", "SVMs", "takes", "the", "kernel", "matrix", "K", "as", "input", ",", "and", "save", "the", "indices", "of", "support", "vectors", "in", "the", "model", "-LSB-", "15", "-RSB-", ".", "To", "classify", "the", "incoming", "sample", "x", ",", "we", "have", "to", "calculate", "the", "dot", "product", "between", "x", "and", "all", "the", "samples", "in", "the", "support", "clusters", ",", "e.g.", ",", "c", "-LRB-", "If", "m", "c", "is", "a", "support", "vector", ",", "we", "define", "the", "cluster", "c", "as", "support", "cluster", ".", "-RRB-", "x", ",", "m", "c", "=", "1", "|", "c", "|", "x", "i", "c", "x", ",", "x", "i", ".", "We", "need", "another", "O", "-LRB-", "nm", "-RRB-", "costs", "to", "predict", "all", "the", "training", "samples", "if", "there", "are", "m", "samples", "in", "support", "clusters", ".", "This", "is", "unacceptable", "for", "large", "scale", "data", ".", "To", "reduce", "the", "kernel", "reevaluation", ",", "we", "adopt", "the", "same", "method", "as", "-LSB-", "3", "-RSB-", ",", "i.e.", ",", "selecting", "a", "pseudo-center", "for", "each", "cluster", "as", "the", "representative", "u", "c", "=", "arg", "min", "x", "i", "c", "-LRB-", "x", "i", "-RRB-", "-", "1", "|", "c", "|", "x", "j", "c", "-LRB-", "x", "j", "-RRB-", "2", ",", "1", "x", "Positive", "class", "Negative", "class", "2", "x", "1", "x", "Positive", "class", "Negative", "class", "2", "x", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "3", ":", "-LRB-", "a", "-RRB-", "Each", "class", "is", "grouped", "into", "one", "cluster", ",", "-LRB-", "b", "-RRB-", "each", "class", "is", "grouped", "into", "two", "clusters", ".", "The", "solid", "mark", "represents", "the", "centroid", "of", "the", "corresponding", "class", ".", "The", "solid", "lines", "indicate", "the", "support", "hyperplanes", "yielded", "by", "SCMs", "and", "the", "dot", "lines", "indicate", "the", "true", "support", "hyperplanes", ".", "which", "can", "be", "directly", "obtained", "by", "u", "c", "=", "arg", "max", "x", "i", "c", "x", "j", "c", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", ".", "-LRB-", "10", "-RRB-", "Thus", ",", "the", "kernel", "evaluation", "within", "training", "procedure", "requires", "O", "-LRB-", "k", "c", "=", "1", "|", "c", "|", "2", "+", "k", "2", "-RRB-", "time", ",", "which", "be", "further", "reduced", "by", "probabilistic", "speedup", "proposed", "by", "Smola", "-LSB-", "25", "-RSB-", ".", "The", "kernel", "evaluation", "of", "predicting", "the", "training", "samples", "is", "reduced", "from", "O", "-LRB-", "nm", "-RRB-", "to", "O", "-LRB-", "ns", "-RRB-", ",", "where", "s", "indicates", "the", "number", "of", "support", "clusters", ".", "4.4", "Shrinking", "Techniques", "With", "the", "initial", "SCMs", ",", "we", "can", "remove", "the", "samples", "that", "are", "not", "likely", "support", "vectors", ".", "However", ",", "there", "is", "no", "theoretical", "guarantee", "for", "the", "security", "of", "the", "shrinking", ".", "In", "Fig.", "3", ",", "we", "give", "a", "simple", "example", "to", "show", "that", "the", "shrinking", "might", "not", "be", "safe", ".", "In", "the", "example", ",", "if", "the", "samples", "outside", "the", "margin", "between", "support", "hyperplanes", "are", "to", "be", "removed", ",", "the", "case", "-LRB-", "a", "-RRB-", "will", "remove", "the", "true", "support", "vectors", "while", "the", "case", "-LRB-", "b", "-RRB-", "will", "not", ".", "The", "example", "shows", "that", "the", "security", "depends", "on", "whether", "the", "hyperplane", "of", "SCMs", "is", "parallel", "to", "the", "true", "separating", "hyperplane", ".", "However", ",", "we", "do", "not", "know", "the", "direction", "of", "true", "separating", "hyperplane", "before", "the", "classification", ".", "Therefore", ",", "what", "we", "can", "do", "is", "to", "adopt", "sufficient", "initial", "cluster", "numbers", "so", "that", "the", "solution", "of", "SCMs", "can", "approximate", "the", "original", "optimal", "solution", "enough", ".", "Specifically", "for", "large", "scale", "imbalanced", "data", ",", "the", "samples", "satisfying", "the", "following", "condition", "will", "be", "removed", "from", "the", "training", "set", ":", "|", "w", ",", "-LRB-", "x", "-RRB-", "+", "b", "|", ">", ",", "-LRB-", "11", "-RRB-", "where", "is", "a", "predefined", "parameter", ".", "4.5", "The", "Algorithm", "Yu", "-LSB-", "31", "-RSB-", "and", "Boley", "-LSB-", "3", "-RSB-", "have", "adopted", "different", "stop", "criteria", ".", "In", "Yu", "et", "al.", "'s", "approach", ",", "the", "algorithm", "stops", "when", "each", "cluster", "has", "only", "one", "sample", ".", "Whereas", ",", "Boley", "et", "al.", "limit", "the", "maximum", "iterations", "by", "a", "fixed", "parameter", ".", "Here", ",", "we", "propose", "two", "novel", "criteria", "especially", "suitable", "for", "imbalanced", "data", ".", "The", "first", "one", "is", "to", "stop", "whenever", "the", "ratio", "of", "positive", "and", "negative", "samples", "is", "relatively", "imbalanced", ".", "Another", "choice", "is", "the", "Neyman-Pearson", "criterion", ",", "that", "is", ",", "minimizing", "the", "total", "error", "rate", "subject", "to", "a", "constraint", "that", "the", "miss", "rate", "of", "positive", "class", "is", "less", "than", "some", "threshold", ".", "Thus", ",", "once", "the", "446", "miss", "rate", "of", "positive", "class", "exceeds", "some", "threshold", ",", "we", "stop", "the", "algorithm", ".", "The", "overall", "approach", "is", "illustrated", "in", "Algorithm", "1", ".", "With", "large", "scale", "balanced", "data", ",", "we", "carry", "out", "the", "data", "clustering", "for", "both", "classes", "separately", ".", "Whereas", "with", "imbalanced", "data", ",", "the", "clustering", "and", "shrinking", "will", "only", "be", "conducted", "on", "the", "majority", "class", ".", "The", "computation", "complexity", "is", "dominated", "by", "kernel", "evaluation", ".", "Therefore", ",", "it", "will", "not", "exceed", "O", "-LRB-", "-LRB-", "n", "-RRB-", "2", "+", "-LRB-", "n", "+", "-RRB-", "2", "-RRB-", ",", "where", "n", "and", "n", "+", "indicate", "the", "number", "of", "negative", "and", "positive", "examples", "respectively", ".", "Algorithm", "1", ":", "Support", "Cluster", "Machines", "Input", ":", "Training", "data", "set", "D", "=", "D", "+", "D", "Output", ":", "Decision", "function", "f", "repeat", "1", "-LCB-", "+", "c", ",", "m", "+", "c", "-RCB-", "k", "+", "c", "=", "1", "=", "KernelKMeans", "-LRB-", "D", "+", "-RRB-", "2", "-LCB-", "c", ",", "m", "c", "-RCB-", "k", "c", "=", "1", "=", "KernelKMeans", "-LRB-", "D", "-RRB-", "3", "D", "=", "-LCB-", "m", "+", "c", "-RCB-", "k", "+", "c", "=", "1", "-LCB-", "m", "+", "c", "-RCB-", "k", "c", "=", "1", "4", "f", "=", "SVMTrain", "-LRB-", "D", "-RRB-", "5", "f", "-LRB-", "D", "-RRB-", "=", "SVMPredict", "-LRB-", "f", ",", "D", "-RRB-", "6", "D", "=", "D", "+", "D", "=", "Shrinking", "-LRB-", "f", "-LRB-", "D", "-RRB-", "-RRB-", ";", "7", "until", "stop", "criterion", "is", "true", "8", "The", "experiments", "on", "both", "the", "synthetic", "and", "the", "TRECVID", "data", "are", "carried", "out", ".", "The", "experiments", "on", "synthetic", "data", "are", "used", "to", "analyze", "the", "effects", "of", "large", "scale", "and", "imbalance", "on", "SVMs", "and", "the", "experiments", "on", "TRECVID", "data", "serve", "to", "evaluate", "the", "effectiveness", "and", "efficiency", "of", "SCMs", ".", "The", "multilevel", "kernel", "graph", "partitioning", "code", "graclus", "-LSB-", "9", "-RSB-", "is", "adopted", "for", "data", "clustering", "and", "the", "well-known", "LibSVM", "software", "-LSB-", "15", "-RSB-", "is", "used", "in", "our", "experiments", ".", "All", "our", "experiments", "are", "done", "in", "a", "Pentium", "4", "3.00", "GHz", "machine", "with", "1G", "memory", ".", "5.1", "Synthetic", "Data", "Set", "We", "generate", "two-dimensional", "data", "for", "the", "convenience", "of", "observation", ".", "Let", "x", "is", "a", "random", "variable", "uniformly", "distributed", "in", "-LSB-", "0", ",", "-RSB-", ".", "The", "data", "are", "generated", "by", "D", "+", "=", "-LCB-", "-LRB-", "x", ",", "y", "-RRB-", "|", "y", "=", "sin", "-LRB-", "x", "-RRB-", "-", "+0.7", "-LSB-", "rand", "-LRB-", "0", ",", "1", "-RRB-", "-1", "-RSB-", ",", "x", "-LSB-", "0", ",", "-RSB-", "-RCB-", "D", "=", "-LCB-", "-LRB-", "x", ",", "y", "-RRB-", "|", "y", "=", "-", "sin", "-LRB-", "x", "-RRB-", "+1", "+0.7", "rand", "-LRB-", "0", ",", "1", "-RRB-", ",", "x", "-LSB-", "0", ",", "-RSB-", "-RCB-", ",", "where", "rand", "-LRB-", "0", ",", "1", "-RRB-", "generates", "the", "random", "numbers", "uniformly", "distributed", "between", "0", "and", "1", ",", "and", "is", "a", "parameter", "controlling", "the", "overlapping", "ratio", "of", "the", "two", "classes", ".", "Fig.", "4", "and", "Fig.", "5", "show", "some", "examples", "of", "the", "synthetic", "data", ".", "We", "use", "the", "linear", "kernel", "function", "in", "all", "the", "experiments", "on", "synthetic", "data", ".", "5.1.1", "The", "Effects", "of", "Scale", "We", "generate", "two", "types", "of", "balanced", "data", ",", "i.e.", ",", "n", "+", "=", "n", ",", "but", "one", "-LRB-", "D", "1", "=", "D", "-LRB-", "=", "1.5", "-RRB-", "-RRB-", "is", "linearly", "separable", "and", "the", "Table", "1", ":", "The", "effects", "of", "scale", "and", "overlapping", "on", "the", "time", "costs", "of", "training", "SVMs", "-LRB-", "in", "seconds", "-RRB-", ".", "n", "+", "+", "n", "200", "2000\u00a04000\u00a08000\u00a020000", "40000", "80000", "time", "-LRB-", "D", "1", "-RRB-", "0.01", "0.03", "0.04", "0.07", "0.23", "0.63", "1.32", "time", "-LRB-", "D", "2", "-RRB-", "0.02", "0.70", "3.24", "14.01", "58.51", "201.07", "840.60", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "-2.5", "-2", "-1.5", "-1", "-0.5", "0", "0.5", "1", "1.5", "2", "Positive", "class", "Negative", "class", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "-1.5", "-1", "-0.5", "0", "0.5", "1", "1.5", "2", "Positive", "class", "Negative", "class", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "4", ":", "-LRB-", "a", "-RRB-", "example", "of", "non-overlapped", "balanced", "data", "sets", ",", "-LRB-", "b", "-RRB-", "example", "of", "overlapped", "balanced", "data", "sets", ".", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "-2.5", "-2", "-1.5", "-1", "-0.5", "0", "0.5", "1", "1.5", "2", "Positive", "class", "Negative", "class", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "-1.5", "-1", "-0.5", "0", "0.5", "1", "1.5", "2", "Positive", "class", "Negative", "class", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "5", ":", "-LRB-", "a", "-RRB-", "example", "of", "non-overlapped", "imbalanced", "data", "sets", ",", "-LRB-", "b", "-RRB-", "example", "of", "overlapped", "imbalanced", "data", "sets", ".", "other", "-LRB-", "D", "2", "=", "D", "-LRB-", "=", "0.6", "-RRB-", "-RRB-", "is", "not", ",", "as", "shown", "in", "Fig.", "4", ".", "We", "observe", "the", "difference", "of", "the", "behaviors", "of", "time", "costs", "for", "D", "1", "and", "D", "2", "when", "the", "scale", "increases", ".", "With", "the", "same", "parameter", "settings", ",", "the", "time", "costs", "of", "optimizing", "the", "objective", "for", "D", "1", "and", "D", "2", "are", "shown", "in", "Table", "1", ",", "from", "which", "we", "can", "get", "two", "conclusions", ",", "-LRB-", "a", "-RRB-", "time", "costs", "increase", "with", "the", "scale", ",", "and", "-LRB-", "b", "-RRB-", "in", "the", "same", "scale", ",", "the", "linearly", "non-separable", "data", "will", "cost", "more", "time", "to", "converge", ".", "5.1.2", "The", "Effects", "of", "Imbalance", "We", "generate", "two", "types", "of", "imbalanced", "data", ",", "i.e.", ",", "n", "+", "n", ",", "but", "one", "-LRB-", "D", "1", "=", "D", "-LRB-", "=", "1.5", "-RRB-", "-RRB-", "is", "linearly", "separable", "and", "the", "other", "-LRB-", "D", "2", "=", "D", "-LRB-", "=", "0.6", "-RRB-", "-RRB-", "is", "not", ",", "as", "shown", "in", "Fig.", "5", ".", "We", "observe", "the", "difference", "of", "the", "effects", "of", "imbalance", "for", "linearly", "separable", "data", "D", "1", "and", "linearly", "non-separable", "D", "2", ".", "For", "the", "space", "limitation", ",", "we", "will", "not", "describe", "the", "detailed", "results", "here", "but", "only", "present", "the", "major", "conclusions", ".", "For", "linearly", "separable", "data", ",", "SVMs", "can", "find", "the", "non-skew", "hyperplane", "if", "C", "is", "not", "too", "small", ".", "In", "this", "situation", ",", "tuning", "C", "+", "C", "is", "meaningless", ".", "For", "linearly", "non-separable", "data", ",", "the", "boundary", "will", "be", "skew", "to", "positive", "class", "if", "C", "+", "=", "C", ".", "In", "this", "case", ",", "increasing", "C", "+", "C", "dose", "``", "push", "''", "the", "skewed", "separating", "hyperplane", "to", "the", "negative", "class", ".", "For", "both", "D", "1", "and", "D", "2", ",", "if", "the", "C", "is", "too", "small", ",", "underfitting", "occurs", ",", "that", "is", ",", "the", "SVMs", "simply", "classify", "all", "the", "samples", "into", "negative", "class", ".", "5.2", "TRECVID", "Data", "Set", "5.2.1", "Experimental", "Setup", "In", "this", "section", ",", "we", "evaluate", "the", "proposed", "approach", "on", "the", "high", "level", "feature", "extraction", "task", "of", "TRECVID", "-LSB-", "1", "-RSB-", ".", "Four", "concepts", ",", "including", "``", "car", "''", ",", "``", "maps", "''", ",", "``", "sports", "''", "and", "``", "waterscape", "''", ",", "are", "chosen", "to", "model", "from", "the", "data", "sets", ".", "The", "development", "data", "of", "TRECVID", "2005", "are", "employed", "and", "divided", "into", "training", "set", "and", "validation", "set", "in", "equal", "size", ".", "The", "detailed", "statis-447", "Table", "2", ":", "The", "details", "of", "the", "training", "set", "and", "validation", "set", "of", "TRECVID", "2005", ".", "Concept", "|", "D", "train", "|", "|", "D", "val", "|", "Positive", "Negative", "Positive", "Negative", "Car", "1097", "28881", "1097", "28881", "Maps", "296", "30462", "296", "30463", "Sports", "790", "29541", "791", "29542", "Waterscape", "293", "30153", "293", "30154", "tics", "of", "the", "data", "is", "summarized", "in", "Table", "2", ".", "In", "our", "experiments", ",", "the", "global", "64-dimension", "color", "autocorrelogram", "feature", "is", "used", "to", "represent", "the", "visual", "content", "of", "each", "image", ".", "Conforming", "to", "the", "convention", "of", "TRECVID", ",", "average", "precision", "-LRB-", "AP", "-RRB-", "is", "chosen", "as", "the", "evaluation", "criterion", ".", "Totally", "five", "algorithms", "have", "been", "implemented", "for", "comparison", ":", "Whole", "All", "the", "negative", "examples", "are", "used", "Random", "Random", "sampling", "of", "the", "negative", "examples", "Active", "Active", "sampling", "of", "the", "negative", "examples", "SCMs", "I", "SCMs", "with", "k-means", "in", "the", "input", "space", "SCMs", "SCMs", "with", "kernel", "k-means", "In", "the", "Active", "method", ",", "we", "firstly", "randomly", "select", "a", "subset", "of", "negative", "examples", ".", "With", "this", "initial", "set", ",", "we", "train", "an", "SVMs", "model", "and", "use", "this", "model", "to", "classify", "the", "whole", "training", "data", "set", ".", "Then", "the", "maximally", "misclassified", "negative", "examples", "are", "added", "to", "the", "training", "set", ".", "This", "procedure", "iterates", "until", "the", "ratio", "between", "the", "negative", "and", "the", "positive", "examples", "exceeding", "five", ".", "Since", "both", "the", "Random", "and", "Active", "methods", "depend", "on", "the", "initial", "random", "chosen", "data", "set", ",", "we", "repeat", "each", "of", "them", "for", "ten", "times", "and", "calculate", "their", "average", "performances", "for", "comparison", ".", "Both", "SCMs", "I", "and", "SCMs", "methods", "adopt", "the", "Gaussian", "kernel", "during", "the", "SVMs", "classification", ".", "The", "only", "difference", "is", "that", "SCMs", "I", "performs", "data", "clustering", "with", "k-means", "in", "the", "input", "space", "while", "SCMs", "with", "k-means", "in", "the", "feature", "space", ".", "5.2.2", "Parameter", "Settings", "Currently", ",", "the", "experiments", "focus", "on", "the", "comparative", "performance", "between", "the", "different", "approaches", "based", "on", "the", "the", "same", "parameter", "settings", ".", "Therefore", ",", "some", "of", "the", "parameters", "are", "heuristically", "determined", "and", "might", "not", "be", "optimal", ".", "The", "current", "implementation", "of", "SCMs", "involves", "the", "following", "parameter", "settings", ":", "-LRB-", "a", "-RRB-", "Gaussian", "kernel", "is", "adopted", "and", "the", "parameters", "are", "selected", "via", "cross-validation", ",", "furthermore", ",", "the", "kernel", "function", "of", "kernel", "k-means", "clustering", "is", "adopted", "the", "same", "as", "that", "of", "SVMs", ",", "-LRB-", "b", "-RRB-", "the", "threshold", "for", "transforming", "dense", "graphs", "to", "sparse", "ones", "is", "experimentally", "determined", "as", "=", "0.6", ",", "-LRB-", "c", "-RRB-", "the", "parameter", "of", "shrinking", "technique", "is", "experimentally", "chosen", "as", "=", "1.3", ",", "-LRB-", "d", "-RRB-", "for", "SCMs", ",", "the", "data", "are", "imbalanced", "for", "each", "concept", ",", "we", "only", "carry", "out", "data", "clustering", "for", "negative", "classes", ",", "therefore", ",", "k", "+", "always", "equals", "|", "D", "+", "|", "and", "k", "is", "always", "chosen", "as", "|", "D", "|", "10", ",", "-LRB-", "e", "-RRB-", "we", "stop", "the", "iteration", "of", "SCMs", "when", "the", "number", "of", "the", "negative", "examples", "are", "not", "more", "than", "the", "five", "times", "of", "that", "of", "the", "positive", "examples", ".", "5.2.3", "Experiment", "Results", "The", "average", "performance", "and", "time", "costs", "of", "the", "various", "approaches", "are", "in", "Table", "3", "and", "Table", "4", "respectively", ".", "We", "can", "see", "that", "both", "the", "Random", "and", "Active", "methods", "use", "fewer", "time", "than", "the", "others", ",", "but", "their", "performances", "are", "not", "as", "good", "as", "the", "others", ".", "Furthermore", ",", "the", "SCMs", "achieves", "Table", "3", ":", "The", "average", "performance", "of", "the", "approaches", "on", "the", "chosen", "concepts", ",", "measured", "by", "average", "precision", ".", "Concept", "Whole", "Random", "Active", "SCMs", "I", "SCMs", "Car", "0.196", "0.127", "0.150", "0.161", "0.192", "Maps", "0.363", "0.274", "0.311", "0.305", "0.353", "Sports", "0.281", "0.216", "0.253", "0.260", "0.283", "Waterscape", "0.269", "0.143", "0.232", "0.241", "0.261", "Table", "4", ":", "The", "average", "time", "costs", "of", "the", "approaches", "on", "the", "chosen", "concepts", "-LRB-", "in", "seconds", "-RRB-", ".", "Concept", "Whole", "Random", "Active", "SCMs", "I", "SCMs", "Car", "4000.2", "431.0", "1324.6", "1832.0", "2103.4", "Maps", "402.6", "35.2", "164.8", "234.3", "308.5", "Sports", "1384.5", "125.4", "523.8", "732.5", "812.7", "Waterscape", "932.4", "80.1", "400.3", "504.0", "621.3", "the", "comparable", "performance", "with", "that", "of", "Whole", "while", "uses", "fewer", "time", "costs", ".", "Note", "that", "SCMs", "I", "also", "achieves", "satisfying", "results", ".", "This", "might", "be", "due", "to", "the", "Gaussian", "kernels", ",", "in", "which", "e", "-", "x-y", "2", "is", "monotonic", "with", "x", "-", "y", "2", ".", "Therefore", ",", "the", "order", "of", "the", "pair-wise", "distances", "is", "the", "same", "for", "both", "the", "input", "space", "and", "feature", "space", ",", "which", "perhaps", "leads", "to", "similar", "clustering", "results", ".", "In", "this", "paper", ",", "we", "have", "investigated", "the", "effects", "of", "scale", "and", "imbalance", "on", "SVMs", ".", "We", "highlight", "the", "role", "of", "data", "overlapping", "in", "this", "problem", "and", "find", "that", "SVMs", "has", "no", "difficulties", "with", "linear", "separable", "large", "scale", "imbalanced", "data", ".", "We", "propose", "a", "meta-algorithm", "named", "Support", "Cluster", "Machines", "-LRB-", "SCMs", "-RRB-", "for", "effectively", "learning", "from", "large", "scale", "and", "imbalanced", "data", "sets", ".", "Different", "from", "the", "previous", "work", ",", "we", "develop", "the", "theoretical", "justifications", "for", "the", "idea", "and", "choose", "the", "technical", "component", "guided", "by", "the", "theoretical", "results", ".", "Finally", ",", "experiments", "on", "both", "the", "synthetic", "and", "the", "TRECVID", "data", "are", "carried", "out", ".", "The", "results", "support", "the", "previous", "analysis", "and", "show", "that", "the", "SCMs", "are", "efficient", "and", "effective", "while", "dealing", "with", "large", "scale", "imbalanced", "data", "sets", ".", "However", ",", "as", "a", "pilot", "study", ",", "there", "is", "still", "some", "room", "for", "improvement", ".", "Firstly", ",", "we", "have", "not", "incorporated", "the", "caching", "techniques", "to", "avoid", "the", "kernel", "reevaluations", ".", "Therefore", ",", "we", "have", "to", "recalculate", "the", "dot", "product", "on", "line", "whenever", "it", "is", "re-quired", ".", "Secondly", ",", "the", "parameters", "within", "the", "algorithms", "are", "currently", "selected", "heuristically", ",", "which", "depend", "on", "the", "tradeoff", "of", "efficiency", "and", "accuracy", ".", "We", "would", "like", "to", "thank", "the", "anonymous", "reviewers", "for", "their", "insightful", "suggestions", ".", "We", "also", "thank", "Dr.", "Chih-Jen", "Lin", "for", "the", "code", "of", "libSVM", ",", "Brian", "J.", "Kulis", "for", "the", "code", "of", "graclus", "and", "National", "Institute", "of", "Standards", "and", "Technology", "for", "providing", "the", "TRECVID", "data", "sets", ".", "Finally", ",", "special", "thanks", "go", "to", "Dr.", "Ya-xiang", "Yuan", "for", "his", "helpful", "discussions", "on", "optimization", "theory", ".", "-LSB-", "1", "-RSB-", "TREC", "Video", "Retrieval", ".", "National", "Institute", "of", "Standards", "and", "Technology", ",", "http://www-nlpir.nist.gov/projects/trecvid/", ".", "448", "-LSB-", "2", "-RSB-", "R.", "Akbani", ",", "S.", "Kwek", ",", "and", "N.", "Japkowicz", ".", "Applying", "Support", "Vector", "Machines", "to", "Imbalanced", "Datasets", ".", "In", "Proceedings", "of", "ECML", "'", "04", ",", "pages", "39", "50", ",", "2004", ".", "-LSB-", "3", "-RSB-", "D.", "Boley", "and", "D.", "Cao", ".", "Training", "Support", "Vector", "Machine", "using", "Adaptive", "Clustering", ".", "In", "Proceeding", "of", "2004", "SIAM", "International", "Conference", "on", "Data", "Mining", ",", "April", "2004", ".", "-LSB-", "4", "-RSB-", "S.", "Boyd", "and", "L.", "Vandenberghe", ".", "Convex", "Optimization", ".", "Cambridge", "University", "Press", ",", "New", "York", ",", "NY", ",", "USA", ",", "2004", ".", "-LSB-", "5", "-RSB-", "K.", "Brinker", ".", "Incorporating", "Diversity", "in", "Active", "Learning", "with", "Support", "Vector", "Machines", ".", "In", "Proceedings", "of", "ICML", "'", "03", ",", "pages", "59", "66", ",", "2003", ".", "-LSB-", "6", "-RSB-", "N.", "V.", "Chawla", ",", "N.", "Japkowicz", ",", "and", "A.", "Kotcz", ".", "Editorial", ":", "Special", "Issue", "on", "Learning", "from", "Imbalanced", "Data", "Sets", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "6", "-LRB-", "1", "-RRB-", ":", "1", "6", ",", "2004", ".", "-LSB-", "7", "-RSB-", "J.", "W.", "Daniel", ".", "Stability", "of", "the", "Solution", "of", "Definite", "Quadratic", "Programs", ".", "Mathematical", "Programming", ",", "5", "-LRB-", "1", "-RRB-", ":", "41", "53", ",", "December", "1973", ".", "-LSB-", "8", "-RSB-", "R.", "Datta", ",", "J.", "Li", ",", "and", "J.", "Z.", "Wang", ".", "Content-based", "Image", "Retrieval", ":", "Approaches", "and", "Trends", "of", "the", "New", "Age", ".", "In", "Proceedings", "of", "ACM", "SIGMM", "workshop", "on", "MIR", "'", "05", ",", "pages", "253", "262", ",", "2005", ".", "-LSB-", "9", "-RSB-", "I.", "Dhillon", ",", "Y.", "Guan", ",", "and", "B.", "Kulis", ".", "A", "Fast", "Kernel-based", "Multilevel", "Algorithm", "for", "Graph", "Clustering", ".", "In", "Proceeding", "of", "ACM", "SIGKDD", "'", "05", ",", "pages", "629", "634", ",", "2005", ".", "-LSB-", "10", "-RSB-", "I.", "S.", "Dhillon", ",", "Y.", "Guan", ",", "and", "B.", "Kulis", ".", "A", "Unified", "View", "of", "Graph", "Partitioning", "and", "Weighted", "Kernel", "k-means", ".", "Technical", "Report", "TR-04-25", ",", "The", "University", "of", "Texas", "at", "Austin", ",", "Department", "of", "Computer", "Sciences", ",", "June", "2004", ".", "-LSB-", "11", "-RSB-", "C.", "Ding", "and", "X.", "He", ".", "K-means", "clustering", "via", "principal", "component", "analysis", ".", "In", "Proceedings", "of", "ICML", "'", "04", ",", "pages", "29", "36", ",", "2004", ".", "-LSB-", "12", "-RSB-", "K.-S", ".", "Goh", ",", "E.", "Y.", "Chang", ",", "and", "W.-C", ".", "Lai", ".", "Multimodal", "Concept-dependent", "Active", "Learning", "for", "Image", "Retrieval", ".", "In", "Proceedings", "of", "ACM", "MM", "'", "04", ",", "pages", "564", "571", ",", "2004", ".", "-LSB-", "13", "-RSB-", "A.", "G.", "Hauptmann", ".", "Towards", "a", "Large", "Scale", "Concept", "Ontology", "for", "Broadcast", "Video", ".", "In", "Proceedings", "of", "CIVR", "'", "04", ",", "pages", "674", "675", ",", "2004", ".", "-LSB-", "14", "-RSB-", "A.", "G.", "Hauptmann", ".", "Lessons", "for", "the", "Future", "from", "a", "Decade", "of", "Informedia", "Video", "Analysis", "Research", ".", "In", "Proceedings", "of", "CIVR", "'", "05", ",", "pages", "1", "10", ",", "2005", ".", "-LSB-", "15", "-RSB-", "C.-W", ".", "Hsu", ",", "C.-C", ".", "Chang", ",", "and", "C.-J", ".", "Lin", ".", "A", "Practical", "Guide", "to", "Support", "Vector", "Classification", ".", "2005", ".", "available", "at", "http://www.csie.ntu.edu.tw/~cjlin/libsvm/", ".", "-LSB-", "16", "-RSB-", "T.", "Joachims", ".", "Making", "Large-scale", "Support", "Vector", "Machine", "Learning", "Practical", ".", "Advances", "in", "kernel", "methods", ":", "support", "vector", "learning", ",", "pages", "169", "184", ",", "1999", ".", "-LSB-", "17", "-RSB-", "Y.", "Lin", ",", "Y.", "Lee", ",", "and", "G.", "Wahba", ".", "Support", "Vector", "Machines", "for", "Classification", "in", "Nonstandard", "Situations", ".", "Machine", "Learning", ",", "46", "-LRB-", "1-3", "-RRB-", ":", "191", "202", ",", "2002", ".", "-LSB-", "18", "-RSB-", "L.", "M.", "Manevitz", "and", "M.", "Yousef", ".", "One-class", "SVMs", "for", "Document", "Classification", ".", "Journal", "of", "Machine", "Learning", "Research", ",", "2:139", "154", ",", "2002", ".", "-LSB-", "19", "-RSB-", "H.", "T.", "Nguyen", "and", "A.", "Smeulders", ".", "Active", "Learning", "Using", "Pre-clustering", ".", "In", "Proceedings", "of", "ICML", "'", "04", ",", "pages", "79", "86", ",", "2004", ".", "-LSB-", "20", "-RSB-", "E.", "Osuna", ",", "R.", "Freund", ",", "and", "F.", "Girosi", ".", "An", "Improved", "Training", "Algorithm", "for", "Support", "Vector", "Machines", ".", "In", "IEEE", "Workshop", "on", "Neural", "Networks", "and", "Signal", "Processing", ",", "September", "1997", ".", "-LSB-", "21", "-RSB-", "D.", "Pavlov", ",", "J.", "Mao", ",", "and", "B.", "Dom", ".", "Scaling-Up", "Support", "Vector", "Machines", "Using", "Boosting", "Algorithm", ".", "In", "Proceeding", "of", "ICPR", "'", "00", ",", "volume", "2", ",", "pages", "2219", "2222", ",", "2000", ".", "-LSB-", "22", "-RSB-", "J.", "C.", "Platt", ".", "Fast", "Training", "of", "Support", "Vector", "Machines", "using", "Sequential", "Minimal", "Optimization", ".", "Advances", "in", "kernel", "methods", ":", "support", "vector", "learning", ",", "pages", "185", "208", ",", "1999", ".", "-LSB-", "23", "-RSB-", "R.", "C.", "Prati", ",", "G.", "E.", "A.", "P.", "A.", "Batista", ",", "and", "M.", "C.", "Monard", ".", "Class", "Imbalances", "versus", "Class", "Overlapping", ":", "an", "Analysis", "of", "a", "Learning", "System", "Behavior", ".", "In", "Proceedings", "of", "the", "MICAI", "2004", ",", "pages", "312", "321", ",", "2004", ".", "-LSB-", "24", "-RSB-", "G.", "Schohn", "and", "D.", "Cohn", ".", "Less", "is", "More", ":", "Active", "Learning", "with", "Support", "Vector", "Machines", ".", "In", "Proceddings", "of", "ICML", "'", "00", ",", "pages", "839", "846", ",", "2000", ".", "-LSB-", "25", "-RSB-", "A.", "J.", "Smola", "and", "B.", "Sch", "okopf", ".", "Sparse", "Greedy", "Matrix", "Approximation", "for", "Machine", "Learning", ".", "In", "Proceedings", "of", "ICML", "'", "00", ",", "pages", "911", "918", ",", "2000", ".", "-LSB-", "26", "-RSB-", "S.", "Tong", "and", "E.", "Chang", ".", "Support", "Vector", "Machine", "Active", "Learning", "for", "Image", "Retrieval", ".", "In", "Proceedings", "of", "ACM", "MM", "'", "01", ",", "pages", "107", "118", ",", "2001", ".", "-LSB-", "27", "-RSB-", "K.", "Veropoulos", ",", "N.", "Cristianini", ",", "and", "C.", "Campbell", ".", "Controlling", "the", "Sensitivity", "of", "Support", "Vector", "Machines", ".", "In", "Proceedings", "of", "IJCAI", "'", "99", ",", "1999", ".", "-LSB-", "28", "-RSB-", "G.", "M.", "Weiss", "and", "F.", "J.", "Provost", ".", "Learning", "When", "Training", "Data", "are", "Costly", ":", "The", "Effect", "of", "Class", "Distribution", "on", "Tree", "Induction", ".", "Journal", "of", "Artificial", "Intelligence", "Research", "-LRB-", "JAIR", "-RRB-", ",", "19:315", "354", ",", "2003", ".", "-LSB-", "29", "-RSB-", "G.", "Wu", "and", "E.", "Y.", "Chang", ".", "KBA", ":", "Kernel", "Boundary", "Alignment", "Considering", "Imbalanced", "Data", "Distribution", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "17", "-LRB-", "6", "-RRB-", ":", "786", "795", ",", "2005", ".", "-LSB-", "30", "-RSB-", "Z.", "Xu", ",", "K.", "Yu", ",", "V.", "Tresp", ",", "X.", "Xu", ",", "and", "J.", "Wang", ".", "Representative", "Sampling", "for", "Text", "Classification", "Using", "Support", "Vector", "Machines", ".", "In", "Proceedings", "of", "ECIR", "'", "03", ",", "pages", "393", "407", ",", "2003", ".", "-LSB-", "31", "-RSB-", "H.", "Yu", ",", "J.", "Yang", ",", "J.", "Han", ",", "and", "X.", "Li", ".", "Making", "SVMs", "Scalable", "to", "Large", "Data", "Sets", "using", "Hierarchical", "Cluster", "Indexing", ".", "Data", "Min", ".", "Knowl", ".", "Discov.", ",", "11", "-LRB-", "3", "-RRB-", ":", "295", "321", ",", "2005", ".", "APPENDIX", "A.", "PROOF", "OF", "THEOREM", "2", "Firstly", ",", "we", "define", "^", "which", "satisfies", "^", "c", "=", "x", "i", "c", "i", ",", "c", "=", "1", ",", "...", ",", "k", ".", "It", "is", "easy", "to", "verify", "that", "^", "is", "a", "feasible", "solution", "of", "SCMs", ".", "Secondly", ",", "we", "define", "satisfying", "i", "=", "c", "|", "c", "|", "if", "x", "i", "c", ",", "i", "=", "1", ",", "...", ",", "n", ".", "It", "is", "easy", "to", "verify", "that", "is", "a", "feasible", "solution", "of", "DSVMs", ".", "According", "to", "the", "relation", "of", "D", "and", "~", "D", ",", "we", "can", "obtain", "the", "following", "equation", "1", "2", "n", "i", "=", "1", "n", "j", "=", "1", "i", "y", "i", "-LRB-", "~", "x", "i", "-RRB-", ",", "-LRB-", "~", "x", "j", "-RRB-", "j", "y", "j", "n", "i", "=", "1", "i", "=", "1", "2", "k", "h", "=", "1", "k", "l", "=", "1", "^", "h", "y", "h", "-LRB-", "u", "h", "-RRB-", ",", "-LRB-", "u", "l", "-RRB-", "^", "l", "y", "l", "k", "h", "=", "1", "^", "h", ",", "which", "means", "~", "G", "-LRB-", "-RRB-", "=", "G", "-LRB-", "^", "-RRB-", ".", "Similarly", ",", "we", "can", "get", "~", "G", "-LRB-", "-RRB-", "=", "G", "-LRB-", "-RRB-", ".", "Using", "the", "fact", "that", "and", "are", "the", "optimal", "solu-449", "tions", "to", "SCMs", "and", "DSVMs", "respectively", ",", "we", "have", "G", "-LRB-", "-RRB-", "G", "-LRB-", "^", "-RRB-", "and", "~", "G", "-LRB-", "-RRB-", "~", "G", "-LRB-", "-RRB-", ".", "Thus", ",", "the", "equation", "G", "-LRB-", "-RRB-", "=", "~", "G", "-LRB-", "-RRB-", "holds", ".", "For", "any", "R", "k", "satisfying", "-LCB-", "c", "=", "x", "i", "c", "i", ",", "c", "=", "1", ",", "...", ",", "k", "-RCB-", ",", "we", "know", "it", "is", "a", "feasible", "solution", "to", "SCMs", "and", "G", "-LRB-", "-RRB-", "=", "~", "G", "-LRB-", "-RRB-", "=", "G", "-LRB-", "-RRB-", "holds", ",", "which", "means", "is", "the", "optimal", "solution", "of", "SCMs", ".", "Similarly", ",", "for", "any", "R", "n", "satisfying", "-LCB-", "x", "i", "c", "i", "=", "c", ",", "c", "=", "1", ",", "...", ",", "k", "-RCB-", "and", "the", "constraints", "of", "-LRB-", "7", "-RRB-", ",", "we", "have", "~", "G", "-LRB-", "-RRB-", "=", "G", "-LRB-", "-RRB-", "=", "~", "G", "-LRB-", "-RRB-", ",", "which", "means", "is", "the", "optimal", "solution", "of", "DSVMs", ".", "B.", "PROOF", "OF", "THEOREM", "3", "Note", "that", "the", "feasible", "regions", "of", "-LRB-", "2", "-RRB-", "and", "-LRB-", "7", "-RRB-", "are", "the", "same", ".", "By", "the", "fact", "that", "and", "~", "are", "optimal", "solutions", "to", "-LRB-", "2", "-RRB-", "and", "-LRB-", "7", "-RRB-", "respectively", ",", "we", "know", "that", "-LRB-", "~", "-RRB-", "T", "G", "-LRB-", "-RRB-", "0", "-LRB-", "12", "-RRB-", "-LRB-", "-", "~", "-RRB-", "T", "~", "G", "-LRB-", "~", "-RRB-", "0", "-LRB-", "13", "-RRB-", "hold", ",", "where", "the", "gradients", "G", "-LRB-", "-RRB-", "=", "Q", "-", "e", "and", "~", "G", "-LRB-", "-RRB-", "=", "~", "Q", "-", "e.", "-LRB-", "14", "-RRB-", "Adding", "-LRB-", "12", "-RRB-", "and", "-LRB-", "13", "-RRB-", "and", "then", "a", "little", "arrangement", "yields", "-LRB-", "~", "-RRB-", "T", "-LSB-", "~", "G", "-LRB-", "~", "-RRB-", "-", "~", "G", "-LRB-", "-RRB-", "-RSB-", "-LRB-", "~", "-RRB-", "T", "-LSB-", "G", "-LRB-", "-RRB-", "-", "~", "G", "-LRB-", "-RRB-", "-RSB-", ".", "Substituting", "-LRB-", "14", "-RRB-", "in", "the", "above", "inequality", ",", "we", "get", "-LRB-", "~", "-RRB-", "T", "~", "Q", "-LRB-", "~", "-RRB-", "-LRB-", "~", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", ".", "-LRB-", "15", "-RRB-", "Adding", "-LRB-", "~", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", "-LRB-", "~", "-RRB-", "to", "the", "both", "sides", "of", "-LRB-", "15", "-RRB-", ",", "we", "have", "-LRB-", "~", "-RRB-", "T", "Q", "-LRB-", "~", "-RRB-", "-LRB-", "~", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", "~", ".", "-LRB-", "16", "-RRB-", "If", ">", "0", "is", "the", "smallest", "eigenvalue", "of", "Q", ",", "we", "have", "~", "2", "-LRB-", "~", "-RRB-", "T", "Q", "-LRB-", "~", "-RRB-", "-LRB-", "~", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", "~", "~", "Q", "-", "~", "Q", "~", "and", "~", "~", "mC", ".", "Using", "-LRB-", "16", "-RRB-", "we", "get", "~", "~", "mC", ".", "Now", "we", "turn", "to", "prove", "the", "second", "result", ".", "is", "the", "optimal", "solution", "of", "-LRB-", "2", "-RRB-", ",", "therefore", ",", "0", "G", "-LRB-", "~", "-RRB-", "-", "G", "-LRB-", "-RRB-", "is", "obvious", ".", "Meanwhile", ",", "we", "have", "G", "-LRB-", "~", "-RRB-", "-", "G", "-LRB-", "-RRB-", "=", "1", "2", "-LRB-", "~", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", "~", "+", "~", "G", "-LRB-", "~", "-RRB-", "-", "G", "-LRB-", "-RRB-", "12", "-LRB-", "~", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", "~", "+", "~", "G", "-LRB-", "-RRB-", "-", "G", "-LRB-", "-RRB-", "=", "1", "2", "-LRB-", "~", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", "~", "-", "12", "-LRB-", "-RRB-", "T", "-LRB-", "Q", "-", "~", "Q", "-RRB-", "12", "Q", "-", "~", "Q", "~", "2", "+", "1", "2", "Q", "~", "Q", "2", "-LRB-", "m", "2", "+", "~", "m", "2", "-RRB-", "C", "2", "2", "C.", "PROOF", "OF", "THEOREM", "4", "Expanding", "to", "be", "the", "explicit", "function", "of", "-LCB-", "-LRB-", "u", "c", "-RRB-", "-RCB-", "k", "c", "=", "1", ",", "we", "get", "2", "=", "YKY", "-", "~", "Y", "~", "K", "~", "Y", "2", ",", "in", "which", "Y", "and", "~", "Y", "denote", "diagonal", "matrices", "whose", "diagonal", "elements", "are", "y", "1", ",", "...", ",", "y", "n", "and", "~", "y", "1", ",", "...", ",", "~", "y", "n", "respectively", ".", "Using", "the", "fact", "that", "Y", "equals", "to", "~", "Y", ",", "we", "have", "2", "=", "Y", "-LRB-", "K", "-", "~", "K", "-RRB-", "Y", "2", ".", "Since", "Y", "only", "change", "the", "signs", "of", "the", "elements", "of", "K", "-", "~", "K", "by", "Y", "-LRB-", "K", "-", "~", "K", "-RRB-", "Y", ",", "we", "have", "2", "=", "K", "-", "~", "K", "2", "=", "k", "h", "=", "1", "k", "l", "=", "1", "x", "i", "h", "x", "j", "l", "-LRB-", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", "-LRB-", "u", "h", "-RRB-", ",", "-LRB-", "u", "l", "-RRB-", "-RRB-", "2", ".", "It", "is", "a", "biquadratic", "function", "of", "-LCB-", "-LRB-", "u", "c", "-RRB-", "-RCB-", "k", "c", "=", "1", ".", "Therefore", ",", "this", "is", "an", "unconstrained", "convex", "optimization", "problem", "-LSB-", "4", "-RSB-", ".", "The", "necessary", "and", "sufficient", "condition", "for", "-LCB-", "u", "c", "-RCB-", "k", "c", "=", "1", "to", "be", "optimal", "is", "2", "-LRB-", "-LCB-", "-LRB-", "u", "c", "-RRB-", "-RCB-", "k", "c", "=", "1", "-RRB-", "=", "0", ".", "We", "can", "verify", "that", "-LRB-", "u", "c", "-RRB-", "=", "xic", "-LRB-", "x", "i", "-RRB-", "|", "c", "|", ",", "c", "=", "1", ",", "...", ",", "k", "satisfies", "the", "condition", "that", "the", "gradient", "is", "zero", ".", "D.", "PROOF", "OF", "THEOREM", "5", "We", "define", "a", "n", "k", "matrix", "Z", "as", "Z", "ic", "=", "1", "|", "c", "|", "if", "x", "i", "c", "0", "otherwise", ".", "We", "can", "see", "that", "Z", "captures", "the", "disjoint", "cluster", "memberships", ".", "There", "is", "only", "one", "non-zero", "entry", "in", "each", "row", "of", "Z", "and", "Z", "T", "Z", "=", "I", "k", "holds", "-LRB-", "I", "k", "indicates", "the", "identity", "matrix", "-RRB-", ".", "Suppose", "is", "the", "matrix", "of", "the", "images", "of", "the", "samples", "in", "feature", "space", ",", "i.e.", ",", "=", "-LSB-", "-LRB-", "x", "1", "-RRB-", ",", "...", ",", "-LRB-", "x", "n", "-RRB-", "-RSB-", ".", "We", "can", "verify", "that", "the", "matrix", "ZZ", "T", "consists", "of", "the", "mean", "vectors", "of", "the", "clusters", "containing", "the", "corresponding", "sample", ".", "Thus", ",", "the", "2", "can", "be", "written", "as", "Q", "-", "~", "Q", "2", "=", "T", "-", "-LRB-", "ZZ", "T", "-RRB-", "T", "ZZ", "T", "2", ".", "Using", "the", "fact", "that", "trace", "-LRB-", "A", "T", "A", "-RRB-", "=", "A", "2", "F", ",", "trace", "-LRB-", "A", "+", "B", "-RRB-", "=", "trace", "-LRB-", "A", "-RRB-", "+", "trace", "-LRB-", "B", "-RRB-", "and", "trace", "-LRB-", "AB", "-RRB-", "=", "trace", "-LRB-", "BA", "-RRB-", ",", "we", "have", "2", "=", "trace", "-LRB-", "-LRB-", "T", "-RRB-", "T", "T", "-", "-LRB-", "Z", "T", "T", "Z", "-RRB-", "-LRB-", "Z", "T", "T", "Z", "-RRB-", "-RRB-", ".", "Since", "trace", "-LRB-", "-LRB-", "T", "-RRB-", "T", "T", "-RRB-", "is", "constant", ",", "minimizing", "is", "equivalent", "to", "maximizing", "J", "1", "=", "trace", "-LRB-", "-LRB-", "Z", "T", "T", "Z", "-RRB-", "-LRB-", "Z", "T", "T", "Z", "-RRB-", "-RRB-", ".", "-LRB-", "17", "-RRB-", "With", "similar", "procedure", ",", "we", "can", "see", "that", "minimizing", "J", "-LRB-", "-LCB-", "c", "-RCB-", "k", "c", "=", "1", "-RRB-", "amounts", "to", "maximizing", "J", "2", "=", "trace", "-LRB-", "Z", "T", "T", "Z", "-RRB-", ".", "-LRB-", "18", "-RRB-", "Matrix", "K", "=", "T", "is", "a", "symmetric", "matrix", ".", "Let", "1", "...", ",", "n", "0", "denote", "its", "eigenvalues", "and", "-LRB-", "v", "1", ",", "...", ",", "v", "n", "-RRB-", "be", "the", "corresponding", "eigenvectors", ".", "Matrix", "H", "=", "Z", "T", "T", "Z", "is", "also", "a", "symmetric", "matrix", ".", "Let", "1", "...", ",", "k", "0", "denote", "its", "eigenvalues", ".", "According", "to", "Poincar", "e", "Separation", "Theorem", ",", "we", "know", "the", "relations", "i", "i", ",", "i", "=", "1", ",", "...", ",", "k", "hold", ".", "Therefore", ",", "we", "have", "J", "2", "=", "k", "i", "=", "1", "i", "k", "i", "=", "1", "i", ".", "Similarly", ",", "we", "have", "J", "1", "=", "k", "i", "=", "1", "2", "i", "k", "i", "=", "1", "2", "i", ".", "In", "both", "cases", ",", "the", "equations", "hold", "when", "Z", "=", "-LRB-", "v", "1", ",", "...", ",", "v", "k", "-RRB-", "R", ",", "where", "R", "is", "an", "arbitrary", "k", "k", "orthonormal", "matrix", ".", "Actually", ",", "the", "solution", "to", "maximizing", "J", "2", "is", "just", "the", "well-known", "theorem", "of", "Ky", "Fan", "-LRB-", "the", "Theorem", "3.2", ".", "of", "-LSB-", "11", "-RSB-", "-RRB-", ".", "Note", "that", "the", "optimal", "Z", "might", "no", "longer", "conforms", "to", "the", "definition", "of", "Z", "ic", "=", "1", "|", "c", "|", "if", "x", "i", "c", "0", "otherwise", ",", "but", "it", "is", "still", "a", "orthonormal", "matrix", ".", "That", "is", "why", "it", "is", "called", "a", "relaxed", "optimal", "solution", ".", "450"], "doc_bio_tags": ["O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["clustering", "large scale", "concept modelling", "support vector machines", "clusters", "trecvid", "shrinking techniques", "imbalance", "imbalanced data"], "abstractive_keyphrases": ["large scale data", "meta-algorithm", "kernel k-means", "support vector machines (svms)", "support cluster machines (scms)"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "127", "document": ["Leo", ":", "A", "System", "for", "Cost", "Effective", "3D", "Shaded", "Graphics", "A", "physically", "compact", ",", "low", "cost", ",", "high", "performance", "3D", "graphics", "accelerator", "is", "presented", ".", "It", "supports", "shaded", "rendering", "of", "triangles", "and", "antialiased", "lines", "into", "a", "double-buffered", "24-bit", "true", "color", "frame", "buffer", "with", "a", "24-bit", "Z-buffer", ".", "Nearly", "the", "only", "chips", "used", "besides", "standard", "memory", "parts", "are", "11", "ASICs", "-LRB-", "of", "four", "types", "-RRB-", ".", "Special", "geometry", "data", "reformatting", "hardware", "on", "one", "ASIC", "greatly", "speeds", "and", "simplifies", "the", "data", "input", "pipeline", ".", "Floating-point", "performance", "is", "enhanced", "by", "another", "ASIC", ":", "a", "custom", "graphics", "microprocessor", ",", "with", "specialized", "graphics", "instructions", "and", "features", ".", "Screen", "primitive", "rasterization", "is", "carried", "out", "in", "parallel", "by", "five", "drawing", "ASICs", ",", "employing", "a", "new", "partitioning", "of", "the", "back-end", "rendering", "task", ".", "For", "typical", "rendering", "cases", ",", "the", "only", "system", "performance", "bottleneck", "is", "that", "intrinsically", "imposed", "by", "VRAM", ".", "Categories", "and", "Subject", "Descriptors", ":", "C.", "1.2", "-LSB-", "Processor", "Architectures", "-RSB-", ":", "Multiprocessors", ";", "I.", "3.1", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Hardware", "Architecture", ";", "I.", "3.3", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Picture/Image", "Generation", "Display", "algorithms", ";", "I.", "3.7", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Three", "Dimension-al", "Graphics", "and", "Realism", ".", "To", "expand", "the", "role", "of", "3D", "graphics", "in", "the", "mainstream", "computer", "industry", ",", "cost", "effective", ",", "physically", "small", ",", "usable", "performance", "3D", "shaded", "graphics", "architectures", "must", "be", "developed", ".", "For", "such", "systems", ",", "new", "features", "and", "sheer", "performance", "at", "any", "price", "can", "no", "longer", "be", "the", "driving", "force", "behind", "the", "architecture", ";", "instead", ",", "the", "focus", "must", "be", "on", "affordable", "desktop", "systems", ".", "The", "historical", "approach", "to", "achieving", "low", "cost", "in", "3D", "graphics", "systems", "has", "been", "to", "compromise", "both", "performance", "and", "image", "quality", ".", "But", "now", ",", "falling", "memory", "component", "prices", "are", "bringing", "nearly", "ideal", "frame", "buffers", "into", "the", "price", "range", "of", "the", "volume", "market", ":", "double", "buffered", "24-bit", "color", "with", "a", "24-bit", "Z-buffer", ".", "The", "challenge", "is", "to", "drive", "these", "memory", "chips", "at", "their", "maximum", "rate", "with", "a", "minimum", "of", "supporting", "rendering", "chips", ",", "keeping", "the", "total", "system", "cost", "and", "physical", "size", "to", "an", "absolute", "minimum", ".", "To", "achieve", "this", ",", "graphics", "architectures", "must", "be", "repartitioned", "to", "reduce", "chip", "count", "and", "internal", "bus", "sizes", ",", "while", "still", "supporting", "existing", "2D", "and", "3D", "functionality", ".", "This", "paper", "describes", "a", "new", "3D", "graphics", "system", ",", "Leo", ",", "designed", "to", "these", "philosophies", ".", "For", "typical", "cases", ",", "Leo", "'s", "only", "performance", "limit", "is", "that", "intrinsically", "imposed", "by", "VRAM", ".", "This", "was", "achieved", "by", "a", "combination", "of", "new", "architectural", "techniques", "and", "advances", "in", "VLSI", "technology", ".", "The", "result", "is", "a", "system", "without", "performance", "or", "image", "quality", "compromises", ",", "at", "an", "affordable", "cost", "and", "small", "physical", "size", ".", "The", "Leo", "board", "set", "is", "about", "the", "size", "of", "one", "and", "a", "half", "paperback", "novels", ";", "the", "complete", "workstation", "is", "slightly", "larger", "than", "two", "copies", "of", "Foley", "and", "Van", "Dam", "-LSB-", "7", "-RSB-", ".", "Leo", "supports", "both", "the", "traditional", "requirements", "of", "the", "2D", "X", "window", "system", "and", "the", "needs", "of", "3D", "rendering", ":", "shaded", "triangles", ",", "antialiased", "vectors", ",", "etc.", ".", "A", "generic", "pipeline", "for", "3D", "shaded", "graphics", "is", "shown", "in", "Figure", "1", ".", "-LRB-", "-LSB-", "7", "-RSB-", "Chapter", "18", "is", "a", "good", "overview", "of", "3D", "graphics", "hardware", "pipeline", "issues", ".", "-RRB-", "This", "pipeline", "is", "truly", "generic", ",", "as", "at", "the", "top", "level", "nearly", "every", "commercial", "3D", "graphics", "accelerator", "fits", "this", "abstraction", ".", "Where", "individual", "systems", "differ", "is", "in", "the", "partitioning", "of", "this", "rendering", "pipeline", ",", "especially", "in", "how", "they", "employ", "parallelism", ".", "Two", "major", "areas", "have", "been", "subject", "to", "separate", "optimization", ":", "the", "floating-point", "intensive", "initial", "stages", "of", "processing", "up", "to", ",", "and", "many", "times", "including", ",", "primitive", "set-up", ";", "and", "the", "drawing-intensive", "operation", "of", "generating", "pixels", "within", "a", "primitive", "and", "Z-buffering", "them", "into", "the", "frame", "buffer", ".", "For", "low", "end", "accelerators", ",", "only", "portions", "of", "the", "pixel", "drawing", "stages", "of", "the", "pipeline", "are", "in", "hardware", ";", "the", "floating-point", "intensive", "parts", "of", "the", "pipe", "are", "processed", "by", "the", "host", "in", "software", ".", "As", "general", "purpose", "processors", "increase", "in", "floating-point", "power", ",", "such", "systems", "are", "starting", "to", "support", "interesting", "rendering", "rates", ",", "while", "minimizing", "cost", "-LSB-", "8", "-RSB-", ".", "But", ",", "beyond", "some", "limit", ",", "support", "of", "higher", "performance", "requires", "dedicated", "hardware", "for", "the", "entire", "pipeline", ".", "There", "are", "several", "choices", "available", "for", "partitioning", "the", "floating-point", "intensive", "stages", ".", "Historically", ",", "older", "systems", "performed", "these", "tasks", "in", "a", "serial", "fashion", "-LSB-", "2", "-RSB-", ".", "In", "time", "though", ",", "breaking", "the", "pipe", "into", "more", "pieces", "for", "more", "parallelism", "-LRB-", "and", "thus", "performance", "-RRB-", "meant", "that", "each", "section", "was", "devoting", "more", "and", "more", "of", "its", "time", "to", "I/O", "overhead", "rather", "than", "to", "real", "work", ".", "Also", ",", "computational", "variance", "meant", "that", "many", "portions", "of", "the", "pipe", "would", "commonly", "be", "idle", "while", "others", "were", "overloaded", ".", "This", "led", "to", "the", "data", "parallel", "designs", "of", "most", "recent", "3D", "graphics", "architectures", "-LSB-", "12", "-RSB-", ".", "Leo", ":", "A", "System", "for", "Cost", "Effective", "3D", "Shaded", "Graphics", "Michael", "F", "Deering", ",", "Scott", "R", "Nelson", "Sun", "Microsystems", "Computer", "Corporation", "Permission", "to", "copy", "without", "fee", "all", "or", "part", "of", "this", "material", "is", "granted", "provided", "that", "the", "copies", "are", "not", "made", "or", "distributed", "for", "direct", "commercial", "advantage", ",", "the", "ACM", "copyright", "notice", "and", "the", "title", "of", "the", "publication", "and", "its", "date", "appear", ",", "and", "notice", "is", "given", "that", "copying", "is", "by", "permission", "of", "the", "Association", "for", "Computing", "Machinery", ".", "To", "copy", "otherwise", ",", "or", "to", "republish", ",", "requires", "a", "fee", "and/or", "specific", "permission", ".", "1993", "ACM-0-89791-601-8", "/", "93/008/0015", "...", "$", "1.50", "Permission", "to", "copy", "without", "fee", "all", "or", "part", "of", "this", "material", "is", "granted", "provided", "that", "the", "copies", "are", "not", "made", "or", "distributed", "for", "direct", "commercial", "advantage", ",", "the", "ACM", "copyright", "notice", "and", "the", "title", "of", "the", "publication", "and", "its", "date", "appear", ",", "and", "notice", "is", "given", "that", "copying", "is", "by", "permission", "of", "the", "Association", "for", "Computing", "Machinery", ".", "To", "copy", "otherwise", ",", "or", "to", "republish", ",", "requires", "a", "fee", "and/or", "specific", "permission", ".", "1993", "ACM-0-89791-601-8", "/", "93/008", "...", "$", "1.50", "101", "Here", "the", "concept", "is", "that", "multiple", "parallel", "computation", "units", "can", "each", "process", "the", "entire", "floating-point", "intensive", "task", ",", "working", "in", "parallel", "on", "different", "parts", "of", "the", "scene", "to", "be", "rendered", ".", "This", "allows", "each", "pipe", "to", "be", "given", "a", "large", "task", "to", "chew", "on", ",", "minimizing", "handshake", "overhead", ".", "But", "now", "there", "is", "a", "different", "load", "balancing", "problem", ".", "If", "one", "pipe", "has", "an", "extra", "large", "task", ",", "the", "other", "parallel", "pipes", "may", "go", "idle", "waiting", "for", "their", "slowest", "peer", ",", "if", "the", "common", "requirement", "of", "in-order", "execution", "of", "tasks", "is", "to", "be", "maintained", ".", "Minor", "load", "imbalances", "can", "be", "averaged", "out", "by", "adding", "FIFO", "buffers", "to", "the", "inputs", "and", "outputs", "of", "the", "parallel", "pipes", ".", "Limiting", "the", "maximum", "size", "of", "task", "given", "to", "any", "one", "pipe", "also", "limits", "the", "maximum", "imbalance", ",", "at", "the", "expense", "of", "further", "fragmenting", "the", "tasks", "and", "inducing", "additional", "overhead", ".", "But", "the", "most", "severe", "performance", "bottleneck", "lies", "in", "the", "pixel", "drawing", "back-end", ".", "The", "most", "fundamental", "constraint", "on", "3D", "computer", "graphics", "architecture", "over", "the", "last", "ten", "years", "has", "been", "the", "memory", "chips", "that", "comprise", "the", "frame", "buffer", ".", "Several", "research", "systems", "have", "attempted", "to", "avoid", "this", "bottleneck", "by", "various", "techniques", "-LSB-", "10", "-RSB-", "-LSB-", "4", "-RSB-", "-LSB-", "8", "-RSB-", ",", "but", "all", "commercial", "workstation", "systems", "use", "conventional", "Z-buffer", "rendering", "algorithms", "into", "standard", "VRAMs", "or", "DRAMs", ".", "How", "this", "RAM", "is", "organized", "is", "an", "important", "defining", "feature", "of", "any", "high", "performance", "rendering", "system", ".", "Figure", "2", "is", "a", "diagram", "of", "the", "Leo", "system", ".", "This", "figure", "is", "not", "just", "a", "block", "diagram", ";", "it", "is", "also", "a", "chip", "level", "diagram", ",", "as", "every", "chip", "in", "the", "system", "is", "shown", "in", "this", "diagram", ".", "All", "input", "data", "and", "window", "system", "interactions", "enter", "through", "the", "LeoCommand", "chip", ".", "Geometry", "data", "is", "reformatted", "in", "this", "chip", "before", "being", "distributed", "to", "the", "array", "of", "LeoFloat", "chips", "below", ".", "The", "LeoFloat", "chips", "are", "microcoded", "specialized", "DSP-like", "processors", "that", "tackle", "the", "floating-point", "intensive", "stages", "of", "the", "rendering", "pipeline", ".", "The", "LeoDraw", "chips", "handle", "all", "screen", "space", "pixel", "rendering", "and", "are", "directly", "connected", "to", "the", "frame", "buffer", "RAM", "chips", ".", "LeoCross", "handles", "the", "back-end", "color", "look-up", "tables", ",", "double", "buffering", ",", "and", "video", "timing", ",", "passing", "the", "final", "digital", "pixel", "values", "to", "the", "RAMDAC", ".", "Leo", "Command", "Leo", "Float", "Leo", "Draw", "Leo", "Cross", "RAM", "DAC", "Clock", "Generator", "Boot", "PROM", "SRAM", "SRAM", "SRAM", "SRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "DRAM", "DRAM", "Leo", "Draw", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "DRAM", "DRAM", "Leo", "Draw", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "DRAM", "DRAM", "Leo", "Draw", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "DRAM", "DRAM", "Leo", "Draw", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "VRAM", "DRAM", "DRAM", "Leo", "Float", "SRAM", "SRAM", "SRAM", "SRAM", "Leo", "Float", "SRAM", "SRAM", "SRAM", "SRAM", "Leo", "Float", "SRAM", "SRAM", "SRAM", "SRAM", "CF", "Bus", "CD", "Bus", "CX", "Bus", "-LRB-", "Subset", "of", "CD", "Bus", "-RRB-", "Figure", "2", ":", "The", "Leo", "Block", "Diagram", ".", "Every", "chip", "in", "the", "system", "is", "represented", "in", "this", "diagram", ".", "Video", "Output", "SBus", "Data", "Input", "Transformation", "Clip", "Test", "Face", "Determination", "Lighting", "Clip", "-LRB-", "if", "needed", "-RRB-", "Perspective", "Divide", "Screen", "Space", "Conversion", "Set", "Up", "for", "Incremental", "Render", "Edge-Walk", "Span-Interpolate", "Z-Buffered", "Blend", "VRAM", "Frame", "Buffer", "Double", "Buffered", "MUX", "Output", "Lookup", "Table", "Digital", "to", "Analog", "Conversion", "Figure", "1", ":", "Generic", "3D", "Graphics", "Pipeline", "Drawing", "Floating-point", "Intensive", "Functions", "Intensive", "Functions", "CD", "Bus", "102", "The", "development", "of", "the", "Leo", "architecture", "started", "with", "the", "constraints", "imposed", "by", "contemporary", "VRAM", "technology", ".", "As", "will", "be", "derived", "in", "the", "LeoDraw", "section", "below", ",", "these", "constraints", "led", "to", "the", "partitioning", "of", "the", "VRAM", "controlling", "LeoDraw", "chips", ",", "and", "set", "a", "maximum", "back-end", "rendering", "rate", ".", "This", "rate", "in", "turn", "set", "the", "performance", "goal", "for", "LeoFloat", ",", "as", "well", "as", "the", "data", "input", "bandwidth", "and", "processing", "rate", "for", "LeoCommand", ".", "After", "the", "initial", "partitioning", "of", "the", "rendering", "pipeline", "into", "these", "chips", ",", "each", "chip", "was", "subjected", "to", "additional", "optimization", ".", "Throughput", "bottlenecks", "in", "input", "geometry", "format", "conversion", ",", "floating-point", "processing", ",", "and", "pixel", "rendering", "were", "identified", "and", "overcome", "by", "adding", "reinforcing", "hardware", "to", "the", "appropriate", "chips", ".", "Leo", "'s", "floating-point", "intensive", "section", "uses", "data", "parallel", "partitioning", ".", "LeoCommand", "helps", "minimize", "load", "balancing", "problems", "by", "breaking", "down", "rendering", "tasks", "to", "the", "smallest", "isolated", "primitives", ":", "individual", "triangles", ",", "vectors", ",", "dots", ",", "portions", "of", "pixel", "rasters", ",", "rendering", "attributes", ",", "etc.", ",", "at", "the", "cost", "of", "precluding", "optimizations", "for", "shared", "data", "in", "triangle", "strips", "and", "polylines", ".", "This", "was", "considered", "acceptable", "due", "to", "the", "very", "low", "average", "strip", "length", "empirically", "observed", "in", "real", "applications", ".", "The", "overhead", "of", "splitting", "geometric", "data", "into", "isolated", "primitives", "is", "minimized", "by", "the", "use", "of", "dedicated", "hardware", "for", "this", "task", ".", "Another", "benefit", "of", "converting", "all", "rendering", "operations", "to", "isolated", "primitives", "is", "that", "down-stream", "processing", "of", "primitives", "is", "considerably", "simplified", "by", "only", "needing", "to", "focus", "on", "the", "isolated", "case", ".", "Feeding", "the", "pipe", "Leo", "supports", "input", "of", "geometry", "data", "both", "as", "programmed", "I/O", "and", "through", "DMA", ".", "The", "host", "CPU", "can", "directly", "store", "up", "to", "32", "data", "words", "in", "an", "internal", "LeoCommand", "buffer", "without", "expensive", "read", "back", "testing", "of", "input", "status", "every", "few", "words", ".", "This", "is", "useful", "on", "hosts", "that", "do", "not", "support", "DMA", ",", "or", "when", "the", "host", "must", "perform", "format", "conversions", "beyond", "those", "supported", "in", "hardware", ".", "In", "DMA", "mode", ",", "LeoCommand", "employs", "efficient", "block", "transfer", "protocols", "on", "the", "system", "bus", "to", "transfer", "data", "from", "system", "memory", "to", "its", "input", "buffer", ",", "allowing", "much", "higher", "bandwidth", "than", "simple", "programmed", "I/O", ".", "Virtual", "memory", "pointers", "to", "application", "'s", "geometry", "arrays", "are", "passed", "directly", "to", "LeoCommand", ",", "which", "converts", "them", "to", "physical", "memory", "addresses", "without", "operating", "system", "intervention", "-LRB-", "except", "when", "a", "page", "is", "marked", "as", "currently", "non-resident", "-RRB-", ".", "This", "frees", "the", "host", "CPU", "to", "perform", "other", "computations", "during", "the", "data", "transfer", ".", "Thus", "the", "DMA", "can", "be", "efficient", "even", "for", "pure", "immediate-mode", "applications", ",", "where", "the", "geometry", "is", "being", "created", "on", "the", "fly", ".", "Problem", ":", "Tower", "of", "Babel", "of", "input", "formats", "One", "of", "the", "problems", "modern", "display", "systems", "face", "is", "the", "explosion", "of", "different", "input", "formats", "for", "similar", "drawing", "functions", "that", "need", "to", "be", "supported", ".", "Providing", "optimized", "microcode", "for", "each", "format", "rapidly", "becomes", "unwieldy", ".", "The", "host", "CPU", "could", "be", "used", "to", "pretrans-late", "the", "primitive", "formats", ",", "but", "at", "high", "speeds", "this", "conversion", "operation", "can", "itself", "become", "a", "system", "bottleneck", ".", "Because", "DMA", "completely", "bypasses", "the", "host", "CPU", ",", "LeoCommand", "includes", "a", "programmable", "format", "conversion", "unit", "in", "the", "geometry", "data", "pipeline", ".", "This", "reformatter", "is", "considerably", "less", "complex", "than", "a", "general", "purpose", "CPU", ",", "but", "can", "handle", "the", "most", "commonly", "used", "input", "formats", ",", "and", "at", "very", "high", "speeds", ".", "The", "geometry", "reformatting", "subsystem", "allows", "several", "orthogonal", "operations", "to", "be", "applied", "to", "input", "data", ".", "This", "geometric", "input", "data", "is", "abstracted", "as", "a", "stream", "of", "vertex", "packets", ".", "Each", "vertex", "packet", "may", "contain", "any", "combination", "of", "vertex", "position", ",", "vertex", "normal", ",", "vertex", "color", ",", "facet", "normal", ",", "facet", "color", ",", "texture", "map", "coordinates", ",", "pick", "IDs", ",", "headers", ",", "and", "other", "information", ".", "One", "conversion", "supports", "arbitrary", "re-ordering", "of", "data", "within", "a", "vertex", ",", "allowing", "a", "standardized", "element", "order", "after", "reformatting", ".", "Another", "operation", "supports", "the", "conversion", "of", "multiple", "numeric", "formats", "to", "32-bit", "IEEE", "floating-point", ".", "The", "source", "data", "can", "be", "8-bit", "or", "16-bit", "fixed-point", ",", "or", "32-bit", "or", "64-bit", "IEEE", "floating-point", ".", "Additional", "miscellaneous", "reformatting", "allows", "the", "stripping", "of", "headers", "and", "other", "fields", ",", "the", "addition", "of", "an", "internally", "generated", "sequential", "pick", "ID", ",", "and", "insertion", "of", "constants", ".", "The", "final", "reformatting", "stage", "re-packages", "vertex", "packets", "into", "complete", "isolated", "geometry", "primitives", "-LRB-", "points", ",", "lines", ",", "triangles", "-RRB-", ".", "Chaining", "bits", "in", "vertex", "headers", "delineate", "which", "vertices", "form", "primitives", ".", "Like", "some", "other", "systems", ",", "Leo", "supports", "a", "generalized", "form", "of", "triangle", "strip", "-LRB-", "see", "Figure", "3", "-RRB-", ",", "where", "vertex", "header", "bits", "within", "a", "strip", "specify", "how", "the", "incoming", "vertex", "should", "be", "combined", "with", "previous", "vertices", "to", "form", "the", "next", "triangle", ".", "A", "stack", "of", "the", "last", "three", "vertices", "used", "to", "form", "a", "triangle", "is", "kept", ".", "The", "three", "vertices", "are", "labeled", "oldest", ",", "middle", ",", "and", "newest", ".", "An", "incoming", "vertex", "of", "type", "replace", "_", "oldest", "causes", "the", "oldest", "vertex", "to", "be", "replaced", "by", "the", "middle", ",", "the", "middle", "to", "be", "replaced", "by", "the", "newest", ",", "and", "the", "incoming", "vertex", "becomes", "the", "newest", ".", "This", "corresponds", "to", "a", "PHIGS", "PLUS", "triangle", "strip", "-LRB-", "sometimes", "called", "a", "``", "zig-zag", "''", "strip", "-RRB-", ".", "The", "replacement", "type", "replace", "_", "middle", "leaves", "the", "oldest", "vertex", "unchanged", ",", "replaces", "the", "middle", "vertex", "by", "the", "newest", ",", "and", "the", "incoming", "vertex", "becomes", "the", "newest", ".", "This", "corresponds", "to", "a", "triangle", "star", ".", "The", "replacement", "type", "restart", "marks", "the", "oldest", "and", "middle", "vertices", "as", "invalid", ",", "and", "the", "incoming", "vertex", "becomes", "the", "newest", ".", "Generalized", "triangle", "strips", "must", "always", "start", "with", "this", "code", ".", "A", "triangle", "will", "be", "output", "only", "when", "a", "replacement", "operation", "results", "in", "three", "valid", "vertices", ".", "Restart", "corresponds", "to", "a", "``", "move", "''", "operation", "in", "polylines", ",", "and", "allows", "multiple", "unconnected", "variable-length", "triangle", "strips", "to", "be", "described", "by", "a", "single", "data", "structure", "passed", "in", "by", "the", "user", ",", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "22", "23", "24", "25", "26", "27", "28", "29", "30", "31", "32", "33", "21", "1", "Restart", "2", "RO", "3", "RO", "4", "RO", "5", "RO", "6", "RO", "7", "Restart", "8", "RO", "9", "RO", "10", "RM", "11", "RM", "12", "RM", "13", "RM", "14", "RM", "15", "Restart", "16", "RO", "17", "RO", "18", "Restart", "19", "RO", "20", "RO", "21", "RO", "22", "Restart", "23", "RO", "24", "RO", "25", "RO", "26", "RO", "27", "RO", "28", "RO", "29", "RM", "30", "RM", "31", "RM", "32", "RM", "33", "RO", "Triangle", "Strip", "Triangle", "Star", "Independent", "Triangle", "Independent", "Quad", "Mixed", "Strip", "Figure", "3", ":", "A", "Generalized", "Triangle", "Strip", "Vertex", "Codes", "RO", "=", "Replace", "Oldest", "RM", "=", "Replace", "Middle", "103", "reducing", "the", "overhead", ".", "The", "generalized", "triangle", "strip", "'s", "ability", "to", "effectively", "change", "from", "``", "strip", "''", "to", "``", "star", "''", "mode", "in", "the", "middle", "of", "a", "strip", "allows", "more", "complex", "geometry", "to", "be", "represented", "compactly", ",", "and", "requires", "less", "input", "data", "bandwidth", ".", "The", "restart", "capability", "allows", "several", "pieces", "of", "disconnected", "geometry", "to", "be", "passed", "in", "one", "DMA", "operation", ".", "Figure", "3", "shows", "a", "single", "generalized", "triangle", "strip", ",", "and", "the", "associated", "replacement", "codes", ".", "LeoCommand", "also", "supports", "header-less", "strips", "of", "triangle", "vertices", "either", "as", "pure", "strips", ",", "pure", "stars", ",", "or", "pure", "independent", "triangles", ".", "LeoCommand", "hardware", "automatically", "converts", "generalized", "triangle", "strips", "into", "isolated", "triangles", ".", "Triangles", "are", "normalized", "such", "that", "the", "front", "face", "is", "always", "defined", "by", "a", "clockwise", "vertex", "order", "after", "transformation", ".", "To", "support", "this", ",", "a", "header", "bit", "in", "each", "restart", "defines", "the", "initial", "face", "order", "of", "each", "sub-strip", ",", "and", "the", "vertex", "order", "is", "reversed", "after", "every", "replace", "_", "oldest", ".", "LeoCommand", "passes", "each", "com-pleted", "triangle", "to", "the", "next", "available", "LeoFloat", "chip", ",", "as", "indicated", "by", "the", "input", "FIFO", "status", "that", "each", "LeoFloat", "sends", "back", "to", "LeoCommand", ".", "The", "order", "in", "which", "triangles", "have", "been", "sent", "to", "each", "LeoFloat", "is", "scoreboarded", "by", "LeoCommand", ",", "so", "that", "processed", "triangles", "are", "let", "out", "of", "the", "LeoFloat", "array", "in", "the", "same", "order", "as", "they", "entered", ".", "Non-sequential", "rendering", "order", "is", "also", "supported", ",", "but", "the", "automatic", "rendering", "task", "distribution", "hardware", "works", "so", "well", "that", "the", "performance", "difference", "is", "less", "than", "3", "%", ".", "A", "similar", ",", "but", "less", "complex", "vertex", "repackaging", "is", "supported", "for", "polylines", "and", "multi-polylines", "via", "a", "move/draw", "bit", "in", "the", "vertex", "packet", "header", ".", "To", "save", "IC", "pins", "and", "PC", "board", "complexity", ",", "the", "internal", "Leo", "data", "busses", "connecting", "LeoCommand", ",", "LeoFloat", ",", "and", "LeoDraw", "are", "16", "bits", "in", "size", ".", "When", "colors", ",", "normals", ",", "and", "texture", "map", "coefficients", "are", "being", "transmitted", "on", "the", "CF-bus", "between", "LeoCommand", "and", "the", "LeoFloats", ",", "these", "components", "are", "-LRB-", "optionally", "-RRB-", "compressed", "from", "32-bit", "IEEE", "floating-point", "into", "16-bit", "fixed", "point", "fractions", "by", "LeoCommand", ",", "and", "then", "automatically", "reconverted", "back", "to", "32-bit", "IEEE", "floating-point", "values", "by", "LeoFloat", ".", "This", "quantization", "does", "not", "effect", "quality", ".", "Color", "components", "will", "eventually", "end", "up", "as", "8-bit", "values", "in", "the", "frame", "buffer", ".", "For", "normals", ",", "16-bit", "-LRB-", "signed", "-RRB-", "accuracy", "represents", "a", "resolution", "of", "approximately", "plus", "or", "minus", "an", "inch", "at", "one", "mile", ".", "This", "optimization", "reduces", "the", "required", "data", "transfer", "bandwidth", "by", "25", "%", ".", "After", "canonical", "format", "conversion", ",", "the", "next", "stages", "of", "processing", "triangles", "in", "a", "display", "pipeline", "are", ":", "transformation", ",", "clip", "test", ",", "face", "determination", ",", "lighting", ",", "clipping", "-LRB-", "if", "required", "-RRB-", ",", "screen", "space", "conversion", ",", "and", "set-up", ".", "These", "operations", "are", "complex", "enough", "to", "require", "the", "use", "of", "a", "general", "purpose", "processor", ".", "Use", "of", "commercially", "available", "DSP", "-LRB-", "Digital", "Signal", "Processing", "-RRB-", "chips", "for", "this", "work", "has", "two", "major", "drawbacks", ".", "First", ",", "most", "such", "processors", "require", "a", "considerable", "number", "of", "surrounding", "glue", "chips", ",", "especially", "when", "they", "are", "deployed", "as", "multi-processors", ".", "These", "glue", "chips", "can", "easily", "quadruple", "the", "board", "area", "dedicated", "to", "the", "DSP", "chip", ",", "as", "well", "as", "adversely", "affecting", "power", ",", "heat", ",", "cost", ",", "and", "reliability", ".", "Second", ",", "few", "of", "these", "chips", "have", "been", "optimized", "for", "3D", "graphics", ".", "A", "better", "solution", "might", "be", "to", "augment", "the", "DSP", "with", "a", "special", "ASIC", "that", "would", "replace", "all", "of", "these", "glue", "chips", ".", "Given", "the", "expense", "of", "developing", "an", "ASIC", ",", "we", "decided", "to", "merge", "that", "ASIC", "with", "a", "custom", "DSP", "core", "optimized", "for", "graphics", ".", "The", "resulting", "chip", "was", "LeoFloat", ".", "LeoFloat", "combines", "a", "32-bit", "mi-crocodable", "floating-point", "core", "with", "concurrent", "input", "and", "output", "packet", "communication", "subsystems", "-LRB-", "see", "Figure", "4", ".", "-RRB-", ",", "similar", "to", "the", "approach", "of", "-LSB-", "3", "-RSB-", ".", "The", "only", "support", "chips", "required", "are", "four", "SRAM", "chips", "for", "external", "microcode", "store", ".", "A", "number", "of", "specialized", "graphics", "instructions", "and", "features", "make", "LeoFloat", "different", "from", "existing", "DSP", "processors", ".", "Each", "individual", "feature", "only", "makes", "a", "modest", "incremen-tal", "contribution", "to", "performance", ",", "and", "indeed", "many", "have", "appeared", "in", "other", "designs", ".", "What", "is", "novel", "about", "LeoFloat", "is", "the", "combination", "of", "features", ",", "whose", "cumulative", "effect", "leads", "to", "impressive", "overall", "system", "performance", ".", "The", "following", "sections", "describe", "some", "of", "the", "more", "important", "special", "graphics", "instructions", "and", "features", ".", "Double", "buffered", "asynchronous", "I/O", "register", "files", ".", "All", "input", "and", "output", "commands", "are", "packaged", "up", "by", "separate", "I/O", "packet", "hardware", ".", "Variable", "length", "packets", "of", "up", "to", "32", "32-bit", "words", "are", "automatically", "written", "into", "-LRB-", "or", "out", "of", "-RRB-", "on-chip", "double-buffered", "register", "files", "-LRB-", "the", "I", "and", "O", "registers", "-RRB-", ".", "These", "are", "mapped", "directly", "into", "microcode", "register", "space", ".", "Special", "instructions", "allow", "complete", "packets", "to", "be", "requested", ",", "relinquished", ",", "or", "queued", "for", "transmission", "in", "one", "instruction", "cycle", ".", "Enough", "internal", "registers", ".", "Most", "commercial", "DSP", "chips", "support", "a", "very", "small", "number", "of", "internal", "fast", "registers", ",", "certainly", "much", "smaller", "than", "the", "data", "needed", "by", "the", "inner", "loops", "of", "most", "3D", "pipeline", "algorithms", ".", "They", "attempt", "to", "make", "up", "for", "this", "with", "on-chip", "SRAM", "or", "data", "caches", ",", "but", "typically", "SRAMs", "are", "not", "multi-ported", "and", "the", "caches", "not", "user-schedulable", ".", "We", "cheated", "with", "LeoFloat", ".", "We", "first", "wrote", "the", "code", "for", "the", "largest", "important", "inner", "loop", "-LRB-", "triangles", "-RRB-", ",", "counted", "how", "many", "registers", "were", "needed", "-LRB-", "288", "-RRB-", ",", "and", "built", "that", "many", "into", "the", "chip", ".", "Parallel", "internal", "function", "units", ".", "The", "floating-point", "core", "functions", "-LRB-", "32-bit", "IEEE", "format", "-RRB-", "include", "multiply", ",", "ALU", ",", "reciprocal", ",", "and", "integer", "operations", ",", "all", "of", "which", "can", "often", "be", "executed", "in", "parallel", ".", "It", "is", "particularly", "important", "that", "the", "floating-point", "reciprocal", "operation", "not", "tie", "up", "the", "multiply", "and", "add", "units", ",", "so", "that", "perspective", "or", "slope", "calculations", "can", "proceed", "in", "parallel", "with", "the", "rest", "of", "geometric", "processing", ".", "Less", "frequently", "used", "reciprocal", "square", "root", "hardware", "is", "shared", "with", "the", "integer", "function", "unit", ".", "Put", "all", "non-critical", "algorithms", "on", "the", "host", ".", "We", "avoided", "the", "necessity", "of", "building", "a", "high", "level", "language", "compiler", "-LRB-", "and", "support", "instructions", "-RRB-", "for", "LeoFloat", "by", "moving", "any", "code", "not", "worth", "hand", "coding", "in", "microcode", "to", "the", "host", "processor", ".", "The", "result", "is", "a", "small", ",", "clean", "kernel", "of", "graphics", "routines", "in", "microcode", ".", "-LRB-", "A", "fairly", "powerful", "macro-assembler", "with", "a", "`", "C", "'", "-", "like", "syntax", "was", "built", "to", "support", "the", "hand", "coding", ".", "-RRB-", "Software", "pipeline", "scheduling", ".", "One", "of", "the", "most", "complex", "parts", "of", "modern", "CPUs", "to", "design", "and", "debug", "is", "their", "scoreboard", "section", ",", "which", "schedules", "the", "execution", "of", "instructions", "across", "multiple", "steps", "in", "time", "and", "function", "units", ",", "presenting", "the", "programmer", "with", "the", "Figure", "4", ":", "LeoFloat", "arithmetic", "function", "units", ",", "registers", "and", "data", "paths", ".", "I0", "-", "I31", "I0", "'", "-", "I31", "'", "*", "*", "+", "+", "+", "IALU", "1/X", "FALU", "FMULT", "Input", "from", "off-chip", "Off-chip", "output", "P0", "-", "P31", "P32-P63", "P64-P91", "R0", "-", "R31", "R32-R63", "O0", "-", "O31", "O0", "'", "-", "O31", "'", "104", "illusion", "that", "individual", "instructions", "are", "executed", "in", "one", "shot", ".", "LeoFloat", "avoided", "all", "this", "hardware", "by", "using", "more", "direct", "control", "fields", ",", "like", "horizontal", "microprogrammable", "machines", ",", "and", "leaving", "it", "to", "the", "assembler", "-LRB-", "and", "occasionally", "the", "programmer", "-RRB-", "to", "skew", "one", "logical", "instruction", "across", "several", "physical", "instructions", ".", "Special", "clip", "condition", "codes", "&", "clip", "branch", ".", "For", "clip", "testing", "we", "employ", "a", "modified", "Sutherland-Hodgman", "algorithm", ",", "which", "first", "computes", "a", "vector", "of", "clip", "condition", "bits", ".", "LeoFloat", "has", "a", "clip", "test", "instruction", "that", "computes", "these", "bits", "two", "at", "a", "time", ",", "shifting", "them", "into", "a", "special", "clip-bits", "register", ".", "After", "the", "bits", "have", "been", "computed", ",", "special", "branch", "instructions", "decode", "these", "bits", "into", "the", "appropriate", "case", ":", "clip", "rejected", ",", "clip", "accepted", ",", "single", "edge", "clip", "-LRB-", "six", "cases", "-RRB-", ",", "or", "needs", "general", "clipping", ".", "There", "are", "separate", "branch", "instructions", "for", "triangles", "and", "vectors", ".", "-LRB-", "A", "similar", "approach", "was", "taken", "in", "-LSB-", "9", "-RSB-", ".", "-RRB-", "The", "branch", "instructions", "allow", "multiple", "other", "conditions", "to", "be", "checked", "at", "the", "same", "time", ",", "including", "backfacing", "and", "model", "clipping", ".", "Register", "Y", "sort", "instruction", ".", "The", "first", "step", "of", "the", "algorithm", "we", "used", "for", "setting", "up", "triangles", "for", "scan", "conversion", "sorts", "the", "three", "triangle", "vertices", "in", "ascending", "Y", "order", ".", "On", "a", "conventional", "processor", "this", "requires", "either", "moving", "a", "lot", "of", "data", ",", "always", "referring", "to", "vertex", "data", "through", "indirect", "pointers", ",", "or", "replicating", "the", "set-up", "code", "for", "all", "six", "possible", "permutations", "of", "triangle", "vertex", "order", ".", "LeoFloat", "has", "a", "special", "instruction", "that", "takes", "the", "results", "of", "the", "last", "three", "comparisons", "and", "reorders", "part", "of", "the", "R", "register", "file", "to", "place", "vertices", "in", "sorted", "order", ".", "Miscellaneous", ".", "LeoFloat", "contains", "many", "performance", "features", "tra-ditionally", "found", "on", "DSP", "chips", ",", "including", "an", "internal", "subroutine", "stack", ",", "block", "load/store", "SRAM", ",", "and", "integer", "functions", ".", "Also", "there", "is", "a", "``", "kitchen", "sink", "''", "instruction", "that", "initiates", "multiple", "housekeeping", "functions", "in", "one", "instruction", ",", "such", "as", "``", "transmit", "current", "output", "packet", "-LRB-", "if", "not", "clip", "pending", "-RRB-", ",", "request", "new", "input", "packet", ",", "extract", "op-code", "and", "dispatch", "to", "next", "task", ".", "''", "Code", "results", ":", "equivalent", "to", "150", "megaflop", "DSP", ".", "Each", "25", "MHz", "LeoFloat", "processes", "the", "benchmark", "isolated", "triangle", "-LRB-", "including", "clip-test", "and", "set-up", "-RRB-", "in", "379", "clocks", ".", "-LRB-", "With", "a", "few", "exceptions", ",", "microcode", "instructions", "issue", "at", "a", "rate", "of", "one", "per", "clock", "tick", ".", "-RRB-", "The", "same", "graphics", "algorithm", "was", "tightly", "coded", "on", "several", "RISC", "processors", "and", "DSP", "chips", "-LRB-", "SPARC", ",", "i860", ",", "C30", ",", "etc.", "-RRB-", ",", "and", "typically", "took", "on", "the", "order", "of", "1100", "clocks", ".", "Thus", "the", "379", "LeoFloat", "instruction", "at", "25", "MHz", "do", "the", "equivalent", "work", "of", "a", "traditional", "DSP", "chip", "running", "at", "75", "MHz", "-LRB-", "even", "though", "there", "are", "only", "54", "megaflops", "of", "hardware", "-RRB-", ".", "Of", "course", "these", "numbers", "only", "hold", "for", "triangles", "and", "vectors", ",", "but", "that", "'s", "most", "of", "what", "LeoFloat", "does", ".", "Four", "LeoFloats", "assure", "that", "floating-point", "processing", "is", "not", "the", "bottleneck", "for", "100-pixel", "isolated", ",", "lighted", "triangles", ".", "SCREEN", "SPACE", "RENDERING", ":", "LEO", "DRAW", "VRAM", "limits", "Commercial", "VRAM", "chips", "represent", "a", "fundamental", "constraint", "on", "the", "possible", "pixel", "rendering", "performance", "of", "Leo", "'s", "class", "of", "graphics", "accelerator", ".", "The", "goal", "of", "the", "Leo", "architecture", "was", "to", "ensure", "to", "the", "greatest", "extent", "possible", "that", "this", "was", "the", "only", "performance", "limit", "for", "typical", "rendering", "operations", ".", "The", "fundamental", "memory", "transaction", "for", "Z-buffered", "rendering", "algorithms", "is", "a", "conditional", "read-modify-write", "cycle", ".", "Given", "an", "XY", "address", "and", "a", "computed", "RGBZ", "value", ",", "the", "old", "Z", "value", "at", "the", "XY", "address", "is", "first", "read", ",", "and", "then", "if", "the", "computed", "Z", "is", "in", "front", "of", "the", "old", "Z", ",", "the", "computed", "RGBZ", "value", "is", "written", "into", "the", "memory", ".", "Such", "transactions", "can", "be", "mapped", "to", "allowable", "VRAM", "control", "signals", "in", "many", "different", "ways", ":", "reads", "and", "writes", "may", "be", "batched", ",", "Z", "may", "be", "read", "out", "through", "the", "video", "port", ",", "etc.", ".", "VRAM", "chips", "constrain", "system", "rendering", "performance", "in", "two", "ways", ".", "First", ",", "they", "impose", "a", "minimum", "cycle", "time", "per", "RAM", "bank", "for", "the", "Z-buffered", "read-modify-write", "cycle", ".", "Figure", "5", "is", "a", "plot", "of", "this", "cycle", "time", "-LRB-", "when", "in", "``", "page", "''", "mode", "-RRB-", "and", "its", "changes", "over", "a", "half-decade", "period", ".", "VRAMs", "also", "constrain", "the", "ways", "in", "which", "a", "frame", "buffer", "can", "be", "partitioned", "into", "independently", "addressable", "banks", ".", "Throughout", "the", "five", "year", "period", "in", "Figure", "5", ",", "three", "generations", "of", "VRAM", "technology", "have", "been", "organized", "as", "256K", "by", "4", ",", "8", ",", "and", "16-bit", "memories", ".", "For", "contemporary", "display", "resolutions", "of", "1280", "1024", ",", "the", "chips", "comprising", "a", "minimum", "frame", "buffer", "can", "be", "organized", "into", "no", "more", "than", "five", "separately-addressed", "interleave", "banks", ".", "Combining", "this", "information", ",", "a", "theoretical", "maximum", "rendering", "speed", "for", "a", "primitive", "can", "be", "computed", ".", "The", "second", "line", "in", "Figure", "5", "is", "the", "corresponding", "performance", "for", "rendering", "100-pixel", "Z-buffered", "triangles", ",", "including", "the", "overhead", "for", "entering", "page", "mode", ",", "content", "refresh", ",", "and", "video", "shift", "register", "transfers", "-LRB-", "video", "refresh", "-RRB-", ".", "Higher", "rendering", "rates", "are", "only", "possible", "if", "additional", "redundant", "memory", "chips", "are", "added", ",", "allowing", "for", "higher", "interleaving", "factors", ",", "at", "the", "price", "of", "increased", "system", "cost", ".", "Even", "supporting", "five", "parallel", "interleaves", "has", "a", "cost", ":", "at", "least", "305", "memory", "interface", "pins", "-LRB-", "five", "banks", "of", "-LRB-", "24", "RGB", "+", "24", "Z", "+", "13", "address", "/", "control", "-RRB-", "-RRB-", "are", "required", ",", "more", "pins", "than", "it", "is", "currently", "possible", "to", "dedicate", "to", "a", "memory", "interface", "on", "one", "chip", ".", "Some", "systems", "have", "used", "external", "buffer", "chips", ",", "but", "on", "a", "minimum", "cost", "and", "board", "area", "system", ",", "this", "costs", "almost", "as", "much", "as", "additional", "custom", "chips", ".", "Thus", ",", "on", "the", "Leo", "system", "we", "opted", "for", "five", "separate", "VRAM", "control", "chips", "-LRB-", "LeoDraws", "-RRB-", ".", "Triangle", "scan", "conversion", "Traditional", "shaded", "triangle", "scan", "conversion", "has", "typically", "been", "via", "a", "linear", "pipeline", "of", "edge-walking", "followed", "by", "scan", "interpolation", "-LSB-", "12", "-RSB-", ".", "There", "have", "been", "several", "approaches", "to", "achieving", "higher", "throughput", "in", "rasterization", ".", "-LSB-", "2", "-RSB-", "employed", "a", "single", "edge-walker", ",", "but", "parallel", "scan", "interpolation", ".", "-LSB-", "4", "-RSB-", "-LSB-", "10", "-RSB-", "employed", "massively", "parallel", "rasterizers", ".", "-LSB-", "6", "-RSB-", "and", "other", "recent", "machines", "use", "moderately", "parallel", "rasterizers", ",", "with", "additional", "logic", "to", "merge", "the", "pixel", "rasterization", "streams", "back", "together", ".", "In", "the", "Leo", "design", "we", "chose", "to", "broadcast", "the", "identical", "triangle", "specification", "to", "five", "parallel", "rendering", "chips", ",", "each", "tasked", "with", "rendering", "only", "those", "pixels", "visible", "in", "the", "local", "interleave", ".", "Each", "chip", "performs", "its", "own", "complete", "edge-walk", "and", "span", "interpolation", "of", "the", "triangle", ",", "biased", "by", "the", "chip", "'s", "local", "interleave", ".", "By", "paying", "careful", "attention", "to", "proper", "mathematical", "sampling", "theory", "for", "rasterized", "pixels", ",", "the", "five", "90", "91", "92", "93", "94", "180", "ns", "160", "ns", "140", "ns", "260K", "220K", "200K", "240K", "200", "ns", "100", "pixel", "triangle", "theoretical", "maximum", "render", "rate", "VRAM", "minimum", "Z-buffer", "RGB", "read/modify/write", "cycle", "time", "-LRB-", "on", "page", "-RRB-", "-LRB-", "off", "page", "=", "1.5", "x", "-RRB-", "Figure", "5", ":", "VRAM", "cycle", "time", "and", "theoretical", "maximum", "triangle", "rendering", "rate", "-LRB-", "for", "five-way", "interleaved", "frame", "buffers", "-RRB-", ".", "VRAM", "Cycle", "T", "ime", "T", "riangle", "Rendering", "Rate", "1", "Meg", "VRAM", "2", "Meg", "VRAM", "4", "Meg", "105", "chips", "can", "act", "in", "concert", "to", "produce", "the", "correct", "combined", "rasterized", "image", ".", "Mathematically", ",", "each", "chip", "thinks", "it", "is", "rasterizing", "the", "triangle", "into", "an", "image", "memory", "with", "valid", "pixel", "centers", "only", "every", "five", "original", "pixels", "horizontally", ",", "with", "each", "chip", "starting", "off", "biased", "one", "more", "pixel", "to", "the", "right", ".", "To", "obtain", "the", "speed", "benefits", "of", "parallel", "chips", ",", "most", "high", "performance", "graphics", "systems", "have", "split", "the", "edge-walk", "and", "span-interpolate", "functions", "into", "separate", "chips", ".", "But", "an", "examination", "of", "the", "relative", "amounts", "of", "data", "flow", "between", "rendering", "pipeline", "stages", "shows", "that", "the", "overall", "peak", "data", "transfer", "bandwidth", "demand", "occurs", "between", "the", "edge-walk", "and", "span-interpolate", "sections", ",", "induced", "by", "long", "thin", "triangles", ",", "which", "commonly", "occur", "in", "tessellated", "geometry", ".", "To", "minimize", "pin", "counts", "and", "PC", "board", "bus", "complexity", ",", "Leo", "decided", "to", "replicate", "the", "edge-walking", "function", "into", "each", "of", "the", "five", "span-interpolation", "chips", ".", "One", "potential", "drawback", "of", "this", "approach", "is", "that", "the", "edge-walking", "section", "of", "each", "LeoDraw", "chip", "will", "have", "to", "advance", "to", "the", "next", "scan", "line", "up", "to", "five", "times", "more", "often", "than", "a", "single", "rasterization", "chip", "would", ".", "Thus", "LeoDraw", "'s", "edge-walking", "circuit", "was", "designed", "to", "operate", "in", "one", "single", "pixel", "cycle", "time", "-LRB-", "160", "ns", ".", "read-modify-write", "VRAM", "cycle", "-RRB-", ",", "so", "it", "would", "never", "hold", "back", "scan", "conversion", ".", "Other", "usual", "pipelining", "techniques", "were", "used", ",", "such", "as", "loading", "in", "and", "buffering", "the", "next", "triangle", "to", "be", "drawn", "in", "parallel", "with", "rasterizing", "the", "current", "triangle", ".", "Window", "clipping", ",", "blending", ",", "and", "other", "pixel", "post", "processing", "are", "handled", "in", "later", "pipelined", "stages", ".", "Line", "scan", "conversion", "As", "with", "triangles", ",", "the", "mathematics", "of", "the", "line", "rasterization", "algorithms", "were", "set", "up", "to", "allow", "distributed", "rendering", "of", "aliased", "and", "antialiased", "lines", "and", "dots", ",", "with", "each", "LeoDraw", "chip", "handling", "the", "1/5", "of", "the", "frame", "buffer", "pixels", "that", "it", "owns", ".", "While", "the", "Leo", "system", "uses", "the", "X11", "semantics", "of", "Bresenham", "lines", "for", "window", "system", "operations", ",", "these", "produce", "unacceptable", "motion", "artifacts", "in", "3D", "wireframe", "rendering", ".", "Therefore", ",", "when", "rendering", "3D", "lines", ",", "Leo", "employs", "a", "high-accuracy", "DDA", "algorithm", ",", "using", "32", "bits", "internally", "for", "sufficient", "subpixel", "precision", ".", "At", "present", "there", "is", "no", "agreement", "in", "the", "industry", "on", "the", "definition", "of", "a", "high", "quality", "antialiased", "line", ".", "We", "choose", "to", "use", "the", "image", "quality", "of", "vector", "strokers", "of", "years", "ago", "as", "our", "quality", "standard", ",", "and", "we", "tested", "different", "algorithms", "with", "end", "users", ",", "many", "of", "whom", "were", "still", "using", "cal-ligraphic", "displays", ".", "We", "found", "users", "desired", "algorithms", "that", "displayed", "no", "roping", ",", "angle", "sensitivities", ",", "short", "vector", "artifacts", ",", "or", "end-point", "artifacts", ".", "We", "submitted", "the", "resulting", "antialiased", "line", "quality", "test", "patterns", "as", "a", "GPC", "-LSB-", "11", "-RSB-", "test", "image", ".", "In", "achieving", "the", "desired", "image", "quality", "level", ",", "we", "determined", "several", "properties", "that", "a", "successful", "line", "antialias-ing", "algorithm", "must", "have", ".", "First", ",", "the", "lines", "must", "have", "at", "least", "three", "pixels", "of", "width", "across", "the", "minor", "axis", ".", "Two-pixel", "wide", "antialiased", "lines", "exhibit", "serious", "roping", "artifacts", ".", "Four-pixel", "wide", "lines", "offer", "no", "visible", "improvement", "except", "for", "lines", "near", "45", "degrees", ".", "Second", ",", "proper", "endpoint", "ramps", "spread", "over", "at", "least", "two", "pixels", "are", "necessary", "both", "for", "seamless", "line", "segment", "joins", "as", "well", "as", "for", "isolated", "line-ends", ".", "Third", ",", "proper", "care", "must", "be", "taken", "when", "sampling", "lines", "of", "subpixel", "length", "to", "maintain", "proper", "final", "intensity", ".", "Fourth", ",", "intensity", "or", "filter", "adjustments", "based", "on", "the", "slope", "are", "necessary", "to", "avoid", "artifacts", "when", "rotating", "wireframe", "images", ".", "To", "implement", "all", "this", ",", "we", "found", "that", "we", "needed", "at", "least", "four", "bits", "of", "subpixel", "positional", "accuracy", "after", "cumulative", "interpolation", "error", "is", "factored", "in", ".", "That", "is", "why", "we", "used", "32", "bits", "for", "XY", "coordinate", "accuracy", ":", "12", "for", "pixel", "location", ",", "4", "for", "subpixel", "location", ",", "and", "16", "for", "DDA", "interpolation", "error", ".", "-LRB-", "The", "actual", "error", "limit", "is", "imposed", "by", "the", "original", ",", "user-supplied", "32-bit", "IEEE", "floating-point", "data", ".", "-RRB-", "Because", "of", "the", "horizontal", "interleaving", "and", "preferred", "scan", "direction", ",", "the", "X-major", "and", "Y-major", "aliased", "and", "antialiased", "line", "rasterization", "algorithms", "are", "not", "symmetric", ",", "so", "separate", "optimized", "algorithms", "were", "employed", "for", "each", ".", "Antialiased", "dots", "Empirical", "testing", "showed", "that", "only", "three", "bits", "of", "subpixel", "precision", "are", "necessary", "for", "accurate", "rendering", "of", "antialiased", "dots", ".", "For", "ASIC", "implementation", ",", "this", "was", "most", "easily", "accomplished", "using", "a", "brute-force", "table", "lookup", "of", "one", "of", "64", "precomputed", "3", "3", "pixel", "dot", "images", ".", "These", "images", "are", "stored", "in", "on-chip", "ROM", ",", "and", "were", "generated", "using", "a", "circular", "symmetric", "Gaussian", "filter", ".", "Triangle", ",", "line", ",", "and", "dot", "hardware", "Implementation", "of", "the", "triangle", "and", "antialiased", "vector", "rasterization", "algorithms", "require", "substantial", "hardware", "resources", ".", "Triangles", "need", "single", "pixel", "cycle", "edge-walking", "hardware", "in", "parallel", "with", "RGBZ", "span", "interpolation", "hardware", ".", "To", "obtain", "the", "desired", "quality", "of", "antialiased", "vectors", ",", "our", "algorithms", "require", "hardware", "to", "apply", "multiple", "waveform", "shaping", "functions", "to", "every", "generated", "pixel", ".", "As", "a", "result", ",", "the", "total", "VLSI", "area", "needed", "for", "antialiased", "vectors", "is", "nearly", "as", "large", "as", "for", "triangles", ".", "To", "keep", "the", "chip", "die", "size", "reasonable", ",", "we", "reformu-lated", "both", "the", "triangle", "and", "antialiased", "vector", "algorithms", "to", "combine", "and", "reuse", "the", "same", "function", "units", ".", "The", "only", "difference", "is", "how", "the", "separate", "sequencers", "set", "up", "the", "rasterization", "pipeline", ".", "Per-pixel", "depth", "cue", "Depth", "cueing", "has", "long", "been", "a", "heavily-used", "staple", "of", "wireframe", "applications", ",", "but", "in", "most", "modern", "rendering", "systems", "it", "is", "an", "extra", "time", "expense", "feature", ",", "performed", "on", "endpoints", "back", "in", "the", "floating-point", "section", ".", "We", "felt", "that", "we", "were", "architecting", "Leo", "not", "for", "benchmarks", ",", "but", "for", "users", ",", "and", "many", "wireframe", "users", "want", "to", "have", "depth", "cueing", "on", "all", "the", "time", ".", "Therefore", ",", "we", "built", "a", "parallel", "hardware", "depth", "cue", "function", "unit", "into", "each", "LeoDraw", ".", "Each", "triangle", ",", "vector", ",", "or", "dot", "rendered", "by", "Leo", "can", "be", "optionally", "depth", "cued", "at", "absolutely", "no", "cost", "in", "performance", ".", "Another", "benefit", "of", "per-pixel", "depth", "cueing", "is", "full", "compliance", "with", "the", "PHIGS", "PLUS", "depth", "cueing", "specification", ".", "For", "Leo", ",", "per-pixel", "depth", "cueing", "hardware", "also", "simplifies", "the", "LeoFloat", "microcode", ",", "by", "freeing", "the", "LeoFloats", "from", "ever", "having", "to", "deal", "with", "it", ".", "Picking", "support", "Interactive", "graphics", "requires", "not", "only", "the", "rapid", "display", "of", "geometric", "data", ",", "but", "also", "interaction", "with", "that", "data", ":", "the", "ability", "to", "pick", "a", "particular", "part", "or", "primitive", "within", "a", "part", ".", "Any", "pixels", "drawn", "within", "the", "bounds", "of", "a", "3D", "pick", "aperture", "result", "in", "a", "pick", "hit", ",", "causing", "the", "current", "pick", "IDs", "to", "be", "automatically", "DMAed", "back", "to", "host", "memory", ".", "Window", "system", "support", "Many", "otherwise", "sophisticated", "3D", "display", "systems", "become", "somewhat", "befuddled", "when", "having", "to", "deal", "simultaneously", "with", "3D", "rendering", "applications", "and", "a", "2D", "window", "system", ".", "Modern", "window", "systems", "on", "interactive", "workstations", "require", "frequent", "context", "switching", "of", "the", "rendering", "pipeline", "state", ".", "Some", "3D", "architectures", "have", "tried", "to", "minimize", "the", "overhead", "associated", "with", "context", "switching", "by", "supporting", "multiple", "3D", "contexts", "in", "hardware", ".", "Leo", "goes", "one", "step", "further", ",", "maintaining", "two", "completely", "separate", "pipelines", "in", "hardware", ":", "one", "for", "traditional", "2D", "window", "operations", ";", "the", "other", "for", "full", "3D", "rendering", ".", "Because", "the", "majority", "of", "context", "switch", "requests", "are", "for", "2D", "window", "system", "operations", ",", "the", "need", "for", "more", "complex", "3D", "pipeline", "context", "switching", "is", "significantly", "reduced", ".", "The", "2D", "context", "is", "much", "lighter", "weight", "and", "correspondingly", "easier", "to", "context", "switch", ".", "The", "two", "separate", "graphics", "pipelines", "operate", "completely", "in", "parallel", ",", "allowing", "simultaneous", "access", "by", "two", "independent", "CPUs", "on", "a", "multi-processor", "host", ".", "2D", "functionality", "abstracts", "the", "frame", "buffer", "as", "a", "1-bit", ",", "8-bit", ",", "or", "24-bit", "pixel", "array", ".", "Operations", "include", "random", "pixel", "access", ",", "optimized", "character", "cell", "writes", ",", "block", "clear", ",", "block", "copy", ",", "and", "the", "usual", "menagerie", "of", "106", "boolean", "operations", ",", "write", "masks", ",", "etc.", ".", "Vertical", "block", "moves", "are", "special", "cased", ",", "as", "they", "are", "typically", "used", "in", "vertical", "scrolling", "of", "text", "windows", ",", "and", "can", "be", "processed", "faster", "than", "the", "general", "block", "move", "because", "the", "pixel", "data", "does", "not", "have", "to", "move", "across", "LeoDraw", "chip", "interleaves", ".", "Rendering", "into", "non-rectangular", "shaped", "windows", "is", "supported", "by", "special", "clip", "hardware", ",", "resulting", "in", "no", "loss", "in", "performance", ".", "A", "special", "block", "clear", "function", "allows", "designated", "windows", "-LRB-", "and", "their", "Z-buffers", "-RRB-", "to", "be", "initialized", "to", "any", "given", "constant", "in", "under", "200", "microseconds", ".", "Without", "this", "last", "feature", ",", "30", "Hz", "or", "faster", "animation", "of", "non-trivial", "objects", "would", "have", "been", "impossible", ".", "7", "VIDEO", "OUTPUT", ":", "LEO", "CROSS", "Leo", "'s", "standard", "video", "output", "format", "is", "1280", "1024", "at", "76", "Hz", "refresh", "rate", ",", "but", "it", "also", "supports", "other", "resolutions", ",", "including", "1152", "900", ",", "interlaced", "640", "480", "RS-170", "-LRB-", "NTSC", "-RRB-", ",", "interlaced", "768", "576", "PAL", "timing", ",", "and", "960", "680", "113", "Hz", "field", "sequential", "stereo", ".", "LeoCross", "contains", "several", "color", "look-up", "tables", ",", "supporting", "multiple", "pseudo", "color", "maps", "without", "color", "map", "flashing", ".", "The", "look-up", "table", "also", "supports", "two", "different", "true", "color", "abstractions", ":", "24-bit", "linear", "color", "-LRB-", "needed", "by", "rendering", "applications", "-RRB-", ",", "and", "REC-709", "non-linear", "color", "-LRB-", "required", "by", "many", "imaging", "applications", "-RRB-", ".", "Virtual", "reality", "support", "Stereo", "output", "is", "becoming", "increasingly", "important", "for", "use", "in", "Virtual", "Reality", "applications", ".", "Leo", "'s", "design", "goals", "included", "support", "for", "the", "Virtual", "Holographic", "Workstation", "system", "configuration", "described", "in", "-LSB-", "5", "-RSB-", ".", "Leo", "'s", "stereo", "resolution", "was", "chosen", "to", "support", "square", "pixels", ",", "so", "that", "lines", "and", "antialiased", "lines", "are", "displayed", "properly", "in", "stereo", ",", "and", "standard", "window", "system", "applications", "can", "co-exist", "with", "stereo", ".", "Stereo", "can", "be", "enabled", "on", "a", "per-window", "basis", "-LRB-", "when", "in", "stereo", "mode", "windows", "are", "effectively", "quad-buffered", "-RRB-", ".", "Hooks", "were", "included", "in", "LeoCross", "to", "support", "display", "technologies", "other", "than", "CRT", "'s", ",", "that", "may", "be", "needed", "for", "head-mounted", "virtual", "reality", "displays", ".", "8", "NURBS", "AND", "TEXTURE", "MAP", "SUPPORT/b", ">", "One", "of", "the", "advantages", "to", "using", "programmable", "elements", "within", "a", "graphics", "accelerator", "is", "that", "additional", "complex", "functionality", ",", "such", "as", "NURBS", "and", "texture", "mapping", ",", "can", "be", "accelerated", ".", "Texture", "mapping", "is", "supported", "through", "special", "LeoFloat", "microcode", "and", "features", "of", "LeoCommand", ".", "LeoFloat", "microcode", "also", "includes", "algorithms", "to", "accelerate", "dynamic", "tessellation", "of", "trimmed", "NURBS", "surfaces", ".", "The", "dynamic", "tessellation", "technique", "involves", "reducing", "trimmed", "NURBS", "surfaces", "into", "properly", "sized", "triangles", "according", "to", "a", "display/pixel", "space", "approximation", "criteria", "-LSB-", "1", "-RSB-", ";", "i.e.", "the", "fineness", "of", "tessellation", "is", "view", "dependent", ".", "In", "the", "past", ",", "dynamic", "tessellation", "tended", "to", "be", "mainly", "useful", "as", "a", "compression", "technique", ",", "to", "avoid", "storing", "all", "the", "flattened", "triangles", "from", "a", "NURBS", "surface", "in", "memory", ".", "Dynamic", "tessellation", "was", "not", "viewed", "as", "a", "performance", "enhancer", ",", "for", "while", "it", "might", "generate", "only", "a", "third", "as", "many", "triangles", "as", "a", "static", "tessellation", ",", "the", "triangles", "were", "generated", "at", "least", "an", "order", "of", "magnitude", "or", "more", "slower", "than", "brute", "force", "triangle", "rendering", ".", "In", "addition", "it", "had", "other", "problems", ",", "such", "as", "not", "handling", "general", "trimming", ".", "For", "many", "cases", ",", "Leo", "'s", "dynamic", "tesselator", "can", "generate", "and", "render", "triangles", "only", "a", "small", "integer", "multiple", "slower", "than", "prestored", "triangle", "rendering", ",", "which", "for", "some", "views", ",", "can", "result", "in", "faster", "overall", "object", "rendering", ".", "9", "RESULTS", "Leo", "is", "physically", "a-two", "board", "sandwich", ",", "measuring", "5.7", "6.7", "0.6", "inches", ",", "that", "fits", "in", "a", "standard", "2S", "SBus", "slot", ".", "Figure", "6", "is", "a", "photo", "of", "the", "two", "boards", ",", "separated", ",", "showing", "all", "the", "custom", "ASICs", ".", "Figure", "7", "is", "a", "photo", "of", "the", "complete", "Leo", "workstation", ",", "next", "to", "two", "of", "our", "units", "of", "scale", "and", "the", "board", "set", ".", "Leo", "can", "render", "210K", "100-pixel", "isolated", ",", "lighted", ",", "Gouraud", "shaded", ",", "Z-buffered", ",", "depth", "cued", "triangles", "per", "second", ",", "with", "one", "infinite", "diffuse", "and", "one", "ambient", "light", "source", "enabled", ".", "At", "100", "pixels", ",", "Leo", "is", "still", "VRAM", "rendering", "speed", "limited", ";", "smaller", "triangles", "render", "faster", ".", "Isolated", "10-pixel", "antialiased", ",", "constant", "color", ",", "Z-buffered", ",", "depth", "cued", "lines", "-LRB-", "which", "are", "actually", "12", "pixels", "long", "due", "to", "endpoint", "ramps", ",", "and", "three", "pixels", "wide", "-RRB-", "render", "at", "a", "422K", "per", "second", "rate", ".", "Corresponding", "aliased", "lines", "render", "at", "730K", ".", "Aliased", "and", "antialiased", "constant", "color", ",", "Z-buffered", ",", "depth", "cued", "dots", "are", "clocked", "at", "1100K", ".", "24-bit", "image", "rasters", "can", "be", "loaded", "onto", "the", "screen", "at", "a", "10M", "pixel", "per", "second", "rate", ".", "Screen", "scrolls", ",", "block", "moves", ",", "and", "raster", "character", "draws", "all", "also", "have", "competitive", "performance", ".", "Figure", "8", "is", "a", "sample", "of", "shaded", "triangle", "rendering", ".", "10", "SIMULATION", "A", "system", "as", "complex", "as", "Leo", "can", "not", "be", "debugged", "after", "the", "fact", ".", "All", "the", "new", "rendering", "mathematics", "were", "extensively", "simulated", "before", "being", "committed", "to", "hardware", "design", ".", "As", "each", "chip", "was", "defined", ",", "high", ",", "medium", ",", "and", "low", "level", "simulators", "of", "its", "function", "were", "written", "and", "continuously", "used", "to", "verify", "functionality", "and", "performance", ".", "Complete", "images", "of", "simulated", "rendering", "were", "generated", "throughout", "the", "course", "of", "the", "project", ",", "from", "within", "weeks", "of", "its", "start", ".", "As", "a", "result", ",", "the", "window", "system", "and", "complex", "3D", "rendering", "were", "up", "and", "running", "on", "a", "complete", "board", "set", "within", "a", "week", "of", "receiving", "the", "first", "set", "of", "chips", ".", "11", "CONCLUSIONS", "By", "paying", "careful", "attention", "to", "the", "forces", "that", "drive", "both", "performance", "and", "cost", ",", "a", "physically", "compact", "complete", "3D", "shaded", "graphics", "accelerator", "was", "created", ".", "The", "focus", "was", "not", "on", "new", "rendering", "features", ",", "but", "on", "cost", "reduction", "and", "performance", "enhancement", "of", "the", "most", "useful", "core", "of", "3D", "graphics", "primitives", ".", "New", "parallel", "algorithms", "were", "developed", "to", "allow", "accurate", "screen", "space", "rendering", "of", "primitives", ".", "Judicious", "use", "of", "hardware", "to", "perform", "some", "key", "traditional", "software", "functions", "-LRB-", "such", "as", "format", "conversion", "and", "primitive", "vertex", "reassembly", "-RRB-", "greatly", "simplified", "the", "microcode", "task", ".", "A", "specialized", "floating-point", "core", "optimized", "for", "the", "primary", "task", "of", "processing", "lines", "and", "triangles", "also", "supports", "more", "general", "graphics", "processing", ",", "such", "as", "rasters", "and", "NURBS", ".", "The", "final", "system", "performance", "is", "limited", "by", "the", "only", "chips", "not", "custom", "designed", "for", "Leo", ":", "the", "standard", "RAM", "chips", ".", "The", "authors", "would", "like", "to", "thank", "the", "entire", "Leo", "team", "for", "their", "efforts", "in", "producing", "the", "system", ",", "and", "Mike", "Lavelle", "for", "help", "with", "the", "paper", ".", "1", ".", "Abi-Ezzi", ",", "Salim", ",", "and", "L.", "Shirman", ".", "Tessellation", "of", "Curved", "Surfaces", "under", "Highly", "Varying", "Transformations", ".", "Proc", ".", "Euro-graphics", "'91", "-LRB-", "Vienna", ",", "Austria", ",", "September", "1991", "-RRB-", ",", "385-397", ".", "2", ".", "Akeley", ",", "Kurt", "and", "T.", "Jermoluk", ".", "High-Performance", "Polygon", "Rendering", ",", "Proceedings", "of", "SIGGRAPH", "'88", "-LRB-", "Atlanta", ",", "GA", ",", "Aug", "1-5", ",", "1988", "-RRB-", ".", "In", "Computer", "Graphics", "22", ",", "4", "-LRB-", "July", "1988", "-RRB-", ",", "239-246", ".", "3", ".", "Anido", ",", "M.", ",", "D.", "Allerton", "and", "E.", "Zaluska", ".", "MIGS", "-", "A", "Multiprocessor", "Image", "Generation", "System", "using", "RISC-like", "Micropro-cessors", ".", "Proceedings", "of", "CGI", "'89", "-LRB-", "Leeds", ",", "UK", ",", "June", "1989", "-RRB-", ",", "Springer", "Verlag", "1990", ".", "4", ".", "Deering", ",", "Michael", ",", "S.", "Winner", ",", "B.", "Schediwy", ",", "C.", "Duffy", "and", "N.", "Hunt", ".", "The", "Triangle", "Processor", "and", "Normal", "Vector", "Shader", ":", "A", "VLSI", "system", "for", "High", "Performance", "Graphics", ".", "Proceedings", "of", "SIGGRAPH", "'88", "-LRB-", "Atlanta", ",", "GA", ",", "Aug", "1-5", ",", "1988", "-RRB-", ".", "In", "Computer", "Graphics", "22", ",", "4", "-LRB-", "July", "1988", "-RRB-", ",", "21-30", ".", "107", "5", ".", "Deering", ",", "Michael", ".", "High", "Resolution", "Virtual", "Reality", ".", "Proceedings", "of", "SIGGRAPH", "'92", "-LRB-", "Chicago", ",", "IL", ",", "July", "26-31", ",", "1992", "-RRB-", ".", "In", "Computer", "Graphics", "26", ",", "2", "-LRB-", "July", "1992", "-RRB-", ",", "195-202", ".", "6", ".", "Dunnett", ",", "Graham", ",", "M.", "White", ",", "P.", "Lister", "and", "R.", "Grimsdale", ".", "The", "Image", "Chip", "for", "High", "Performance", "3D", "Rendering", ".", "IEEE", "Computer", "Graphics", "and", "Applications", "12", ",", "6", "-LRB-", "November", "1992", "-RRB-", ",", "41-52", ".", "7", ".", "Foley", ",", "James", ",", "A.", "van", "Dam", ",", "S.", "Feiner", "and", "J", "Hughes", ".", "Computer", "Graphics", ":", "Principles", "and", "Practice", ",", "2nd", "ed.", ",", "Addison-Wesley", ",", "1990", ".", "8", ".", "Kelley", ",", "Michael", ",", "S.", "Winner", ",", "K.", "Gould", ".", "A", "Scalable", "Hardware", "Render", "Accelerator", "using", "a", "Modified", "Scanline", "Algorithm", ".", "Proceedings", "of", "SIGGRAPH", "'92", "-LRB-", "Chicago", ",", "IL", ",", "July", "26-31", ",", "1992", "-RRB-", ".", "In", "Computer", "Graphics", "26", ",", "2", "-LRB-", "July", "1992", "-RRB-", ",", "241-248", ".", "9", ".", "Kirk", ",", "David", ",", "and", "D.", "Voorhies", ".", "The", "Rendering", "Architecture", "of", "the", "DN10000VS", ".", "Proceedings", "of", "SIGGRAPH", "'90", "-LRB-", "Dallas", ",", "TX", ",", "August", "6-10", ",", "1990", "-RRB-", ".", "In", "Computer", "Graphics", "24", ",", "4", "-LRB-", "August", "1990", "-RRB-", ",", "299-307", ".", "10", ".", "Molnar", ",", "Steven", ",", "J.", "Eyles", ",", "J.", "Poulton", ".", "PixelFlow", ":", "High-Speed", "Rendering", "Using", "Image", "Composition", ".", "Proceedings", "of", "SIGGRAPH", "'92", "-LRB-", "Chicago", ",", "IL", ",", "July", "26-31", ",", "1992", "-RRB-", ".", "In", "Computer", "Graphics", "26", ",", "2", "-LRB-", "July", "1992", "-RRB-", ",", "231-240", ".", "11", ".", "Nelson", ",", "Scott", ".", "GPC", "Line", "Quality", "Benchmark", "Test", ".", "GPC", "Test", "Suite", ",", "NCGA", "GPC", "committee", "1991", ".", "12", ".", "Torborg", ",", "John", ".", "A", "Parallel", "Processor", "Architecture", "for", "Graphics", "Arithmetic", "Operations", ".", "Proceedings", "of", "SIGGRAPH", "'87", "-LRB-", "Anaheim", ",", "CA", ",", "July", "27-31", ",", "1987", "-RRB-", ".", "In", "Computer", "Graphics", "21", ",", "4", "-LRB-", "July", "1987", "-RRB-", ",", "197-204", ".", "Figure", "8", ":", "Traffic", "Jam", "to", "Point", "Reyes", ".", "A", "scene", "containing", "2,322,000", "triangles", ",", "rendered", "by", "Leo", "Hardware", ".", "Sto-chastically", "super-sampled", "8", "times", ".", "Models", "courtesy", "of", "Viewpoint", "Animation", "Engineering", ".", "Figure", "7", ":", "The", "complete", "SPARCstation", "ZX", "workstation", ",", "next", "to", "two", "of", "our", "units", "of", "scale", "and", "the", "Leo", "board", "set", ".", "Figure", "6", ":", "The", "two", "boards", ",", "unfolded", ".", "108"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["parallel algorithms", "general graphics processing", "antialiased lines", "3d graphics hardware", "geometry data", "small physical size", "3d shaded graphics", "video output", "rendering", "low cost"], "abstractive_keyphrases": ["gouraud shading", "input processing", "floating-point microprocessors", "floating point processing", "parallel graphics algorithms", "screen space rendering"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "128", "document": ["Location", "based", "Indexing", "Scheme", "for", "DAYS", "Data", "dissemination", "through", "wireless", "channels", "for", "broadcasting", "information", "to", "consumers", "is", "becoming", "quite", "common", ".", "Many", "dissemination", "schemes", "have", "been", "proposed", "but", "most", "of", "them", "push", "data", "to", "wireless", "channels", "for", "general", "consumption", ".", "Push", "based", "broadcast", "-LSB-", "1", "-RSB-", "is", "essentially", "asymmetric", ",", "i.e.", ",", "the", "volume", "of", "data", "being", "higher", "from", "the", "server", "to", "the", "users", "than", "from", "the", "users", "back", "to", "the", "server", ".", "Push", "based", "scheme", "requires", "some", "indexing", "which", "indicates", "when", "the", "data", "will", "be", "broadcast", "and", "its", "position", "in", "the", "broadcast", ".", "Access", "latency", "and", "tuning", "time", "are", "the", "two", "main", "parameters", "which", "may", "be", "used", "to", "evaluate", "an", "indexing", "scheme", ".", "Two", "of", "the", "important", "indexing", "schemes", "proposed", "earlier", "were", "tree", "based", "and", "the", "exponential", "indexing", "schemes", ".", "None", "of", "these", "schemes", "were", "able", "to", "address", "the", "requirements", "of", "location", "dependent", "data", "-LRB-", "LDD", "-RRB-", "which", "is", "highly", "desirable", "feature", "of", "data", "dissemination", ".", "In", "this", "paper", ",", "we", "discuss", "the", "broadcast", "of", "LDD", "in", "our", "project", "DAta", "in", "Your", "Space", "-LRB-", "DAYS", "-RRB-", ",", "and", "propose", "a", "scheme", "for", "indexing", "LDD", ".", "We", "argue", "that", "this", "scheme", ",", "when", "applied", "to", "LDD", ",", "significantly", "improves", "performance", "in", "terms", "of", "tuning", "time", "over", "the", "above", "mentioned", "schemes", ".", "We", "prove", "our", "argument", "with", "the", "help", "of", "simulation", "results", ".", "H.", "3.1", "-LSB-", "Information", "Systems", "-RSB-", ":", "Information", "Storage", "and", "Retrieval", "content", "analysis", "and", "indexing", ";", "H.", "3.3", "-LSB-", "Information", "Systems", "-RSB-", ":", "Information", "Storage", "and", "Retrieval", "information", "search", "and", "retrieval", ".", "Algorithms", ",", "Performance", ",", "Experimentation", "Wireless", "data", "dissemination", "is", "an", "economical", "and", "efficient", "way", "to", "make", "desired", "data", "available", "to", "a", "large", "number", "of", "mobile", "or", "static", "users", ".", "The", "mode", "of", "data", "transfer", "is", "essentially", "asymmetric", ",", "that", "is", ",", "the", "capacity", "of", "the", "transfer", "of", "data", "-LRB-", "downstream", "communication", "-RRB-", "from", "the", "server", "to", "the", "client", "-LRB-", "mobile", "user", "-RRB-", "is", "significantly", "larger", "than", "the", "client", "or", "mobile", "user", "to", "the", "server", "-LRB-", "upstream", "communication", "-RRB-", ".", "The", "effectiveness", "of", "a", "data", "dissemination", "system", "is", "judged", "by", "its", "ability", "to", "provide", "user", "the", "required", "data", "at", "anywhere", "and", "at", "anytime", ".", "One", "of", "the", "best", "ways", "to", "accomplish", "this", "is", "through", "the", "dissemination", "of", "highly", "personalized", "Location", "Based", "Services", "-LRB-", "LBS", "-RRB-", "which", "allows", "users", "to", "access", "personalized", "location", "dependent", "data", ".", "An", "example", "would", "be", "someone", "using", "their", "mobile", "device", "to", "search", "for", "a", "vegetarian", "restaurant", ".", "The", "LBS", "application", "would", "interact", "with", "other", "location", "technology", "components", "or", "use", "the", "mobile", "user", "'s", "input", "to", "determine", "the", "user", "'s", "location", "and", "download", "the", "information", "about", "the", "restaurants", "in", "proximity", "to", "the", "user", "by", "tuning", "into", "the", "wireless", "channel", "which", "is", "disseminating", "LDD", ".", "We", "see", "a", "limited", "deployment", "of", "LBS", "by", "some", "service", "providers", ".", "But", "there", "are", "every", "indications", "that", "with", "time", "some", "of", "the", "complex", "technical", "problems", "such", "as", "uniform", "location", "framework", ",", "calculating", "and", "tracking", "locations", "in", "all", "types", "of", "places", ",", "positioning", "in", "various", "environments", ",", "innovative", "location", "applications", ",", "etc.", ",", "will", "be", "resolved", "and", "LBS", "will", "become", "a", "common", "facility", "and", "will", "help", "to", "improve", "market", "productivity", "and", "customer", "comfort", ".", "In", "our", "project", "called", "DAYS", ",", "we", "use", "wireless", "data", "broadcast", "mechanism", "to", "push", "LDD", "to", "users", "and", "mobile", "users", "monitor", "and", "tune", "the", "channel", "to", "find", "and", "download", "the", "required", "data", ".", "A", "simple", "broadcast", ",", "however", ",", "is", "likely", "to", "cause", "significant", "performance", "degradation", "in", "the", "energy", "constrained", "mobile", "devices", "and", "a", "common", "solution", "to", "this", "problem", "is", "the", "use", "of", "efficient", "air", "indexing", ".", "The", "indexing", "approach", "stores", "control", "information", "which", "tells", "the", "user", "about", "the", "data", "location", "in", "the", "broadcast", "and", "how", "and", "when", "he", "could", "access", "it", ".", "A", "mobile", "user", ",", "thus", ",", "has", "some", "free", "time", "to", "go", "into", "the", "doze", "mode", "which", "conserves", "valuable", "power", ".", "It", "also", "allows", "the", "user", "to", "personalize", "his", "own", "mobile", "device", "by", "selectively", "tuning", "to", "the", "information", "of", "his", "choice", ".", "Access", "efficiency", "and", "energy", "conservation", "are", "the", "two", "issues", "which", "are", "significant", "for", "data", "broadcast", "systems", ".", "Access", "efficiency", "refers", "to", "the", "latency", "experienced", "when", "a", "request", "is", "initiated", "till", "the", "response", "is", "received", ".", "Energy", "conservation", "-LSB-", "7", ",", "10", "-RSB-", "refers", "to", "the", "efficient", "use", "of", "the", "limited", "energy", "of", "the", "mobile", "device", "in", "accessing", "broadcast", "data", ".", "Two", "parameters", "that", "affect", "these", "are", "the", "tuning", "time", "and", "the", "access", "latency", ".", "Tuning", "time", "refers", "to", "the", "time", "during", "which", "the", "mobile", "unit", "-LRB-", "MU", "-RRB-", "remains", "in", "active", "state", "to", "tune", "the", "channel", "and", "download", "its", "required", "data", ".", "It", "can", "also", "be", "defined", "as", "the", "number", "of", "buckets", "tuned", "by", "the", "mobile", "device", "in", "active", "state", "to", "get", "its", "required", "data", ".", "Access", "latency", "may", "be", "defined", "as", "the", "time", "elapsed", "since", "a", "request", "has", "been", "issued", "till", "the", "response", "has", "been", "received", ".", "1", "This", "research", "was", "supported", "by", "a", "grant", "from", "NSF", "IIS-0209170", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MobiDE", "'", "05", ",", "June", "12", ",", "2005", ",", "Baltimore", ",", "Maryland", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-088-4", "/", "05/0006", "...", "$", "5.00", ".", "17", "Several", "indexing", "schemes", "have", "been", "proposed", "in", "the", "past", "and", "the", "prominent", "among", "them", "are", "the", "tree", "based", "and", "the", "exponential", "indexing", "schemes", "-LSB-", "17", "-RSB-", ".", "The", "main", "disadvantages", "of", "the", "tree", "based", "schemes", "are", "that", "they", "are", "based", "on", "centralized", "tree", "structures", ".", "To", "start", "a", "search", ",", "the", "MU", "has", "to", "wait", "until", "it", "reaches", "the", "root", "of", "the", "next", "broadcast", "tree", ".", "This", "significantly", "affects", "the", "tuning", "time", "of", "the", "mobile", "unit", ".", "The", "exponential", "schemes", "facilitate", "index", "replication", "by", "sharing", "links", "in", "different", "search", "trees", ".", "For", "broadcasts", "with", "large", "number", "of", "pages", ",", "the", "exponential", "scheme", "has", "been", "shown", "to", "perform", "similarly", "as", "the", "tree", "based", "schemes", "in", "terms", "of", "access", "latency", ".", "Also", ",", "the", "average", "length", "of", "broadcast", "increases", "due", "to", "the", "index", "replication", "and", "this", "may", "cause", "significant", "increase", "in", "the", "access", "latency", ".", "None", "of", "the", "above", "indexing", "schemes", "is", "equally", "effective", "in", "broadcasting", "location", "dependent", "data", ".", "In", "addition", "to", "providing", "low", "latency", ",", "they", "lack", "properties", "which", "are", "used", "to", "address", "LDD", "issues", ".", "We", "propose", "an", "indexing", "scheme", "in", "DAYS", "which", "takes", "care", "of", "some", "these", "problems", ".", "We", "show", "with", "simulation", "results", "that", "our", "scheme", "outperforms", "some", "of", "the", "earlier", "indexing", "schemes", "for", "broadcasting", "LDD", "in", "terms", "of", "tuning", "time", ".", "The", "rest", "of", "the", "paper", "is", "presented", "as", "follows", ".", "In", "section", "2", ",", "we", "discuss", "previous", "work", "related", "to", "indexing", "of", "broadcast", "data", ".", "Section", "3", "describes", "our", "DAYS", "architecture", ".", "Location", "dependent", "data", ",", "its", "generation", "and", "subsequent", "broadcast", "is", "presented", "in", "section", "4", ".", "Section", "5", "discusses", "our", "indexing", "scheme", "in", "detail", ".", "Simulation", "of", "our", "scheme", "and", "its", "performance", "evaluation", "is", "presented", "in", "section", "6", ".", "Section", "7", "concludes", "the", "paper", "and", "mentions", "future", "related", "work", ".", "Several", "disk-based", "indexing", "techniques", "have", "been", "used", "for", "air", "indexing", ".", "Imielinski", "et", "al.", "-LSB-", "5", ",", "6", "-RSB-", "applied", "the", "B", "+", "index", "tree", ",", "where", "the", "leaf", "nodes", "store", "the", "arrival", "times", "of", "the", "data", "items", ".", "The", "distributed", "indexing", "method", "was", "proposed", "to", "efficiently", "replicate", "and", "distribute", "the", "index", "tree", "in", "a", "broadcast", ".", "Specifically", ",", "the", "index", "tree", "is", "divided", "into", "a", "replicated", "part", "and", "a", "non", "replicated", "part", ".", "Each", "broadcast", "consists", "of", "the", "replicated", "part", "and", "the", "non-replicated", "part", "that", "indexes", "the", "data", "items", "immediately", "following", "it", ".", "As", "such", ",", "each", "node", "in", "the", "non-replicated", "part", "appears", "only", "once", "in", "a", "broadcast", "and", ",", "hence", ",", "reduces", "the", "replication", "cost", "and", "access", "latency", "while", "achieving", "a", "good", "tuning", "time", ".", "Chen", "et", "al.", "-LSB-", "2", "-RSB-", "and", "Shivakumar", "et", "al.", "-LSB-", "8", "-RSB-", "considered", "unbalanced", "tree", "structures", "to", "optimize", "energy", "consumption", "for", "non-uniform", "data", "access", ".", "These", "structures", "minimize", "the", "average", "index", "search", "cost", "by", "reducing", "the", "number", "of", "index", "searches", "for", "hot", "data", "at", "the", "expense", "of", "spending", "more", "on", "cold", "data", ".", "Tan", "and", "Yu", "discussed", "data", "and", "index", "organization", "under", "skewed", "broadcast", "Hashing", "and", "signature", "methods", "have", "also", "been", "suggested", "for", "wireless", "broadcast", "that", "supports", "equality", "queries", "-LSB-", "9", "-RSB-", ".", "A", "flexible", "indexing", "method", "was", "proposed", "in", "-LSB-", "5", "-RSB-", ".", "The", "flexible", "index", "first", "sorts", "the", "data", "items", "in", "ascending", "-LRB-", "or", "descending", "-RRB-", "order", "of", "the", "search", "key", "values", "and", "then", "divides", "them", "into", "p", "segments", ".", "The", "first", "bucket", "in", "each", "data", "segment", "contains", "a", "control", "index", ",", "which", "is", "a", "binary", "index", "mapping", "a", "given", "key", "value", "to", "the", "segment", "containing", "that", "key", ",", "and", "a", "local", "index", ",", "which", "is", "an", "m-entry", "index", "mapping", "a", "given", "key", "value", "to", "the", "buckets", "within", "the", "current", "segment", ".", "By", "tuning", "the", "parameters", "of", "p", "and", "m", ",", "mobile", "clients", "can", "achieve", "either", "a", "good", "tuning", "time", "or", "good", "access", "latency", ".", "Another", "indexing", "technique", "proposed", "is", "the", "exponential", "indexing", "scheme", "-LSB-", "17", "-RSB-", ".", "In", "this", "scheme", ",", "a", "parameterized", "index", ",", "called", "the", "exponential", "index", "is", "used", "to", "optimize", "the", "access", "latency", "or", "the", "tuning", "time", ".", "It", "facilitates", "index", "replication", "by", "linking", "different", "search", "trees", ".", "All", "of", "the", "above", "mentioned", "schemes", "have", "been", "applied", "to", "data", "which", "are", "non", "related", "to", "each", "other", ".", "These", "non", "related", "data", "may", "be", "clustered", "or", "non", "clustered", ".", "However", ",", "none", "of", "them", "has", "specifically", "addressed", "the", "requirements", "of", "LDD", ".", "Location", "dependent", "data", "are", "data", "which", "are", "associated", "with", "a", "location", ".", "Presently", "there", "are", "several", "applications", "that", "deal", "with", "LDD", "-LSB-", "13", ",", "16", "-RSB-", ".", "Almost", "all", "of", "them", "depict", "LDD", "with", "the", "help", "of", "hierarchical", "structures", "-LSB-", "3", ",", "4", "-RSB-", ".", "This", "is", "based", "on", "the", "containment", "property", "of", "location", "dependent", "data", ".", "The", "Containment", "property", "helps", "determining", "relative", "position", "of", "an", "object", "by", "defining", "or", "identifying", "locations", "that", "contains", "those", "objects", ".", "The", "subordinate", "locations", "are", "hierarchically", "related", "to", "each", "other", ".", "Thus", ",", "Containment", "property", "limits", "the", "range", "of", "availability", "or", "operation", "of", "a", "service", ".", "We", "use", "this", "containment", "property", "in", "our", "indexing", "scheme", "to", "index", "LDD", ".", "DAYS", "has", "been", "conceptualized", "to", "disseminate", "topical", "and", "non-topical", "data", "to", "users", "in", "a", "local", "broadcast", "space", "and", "to", "accept", "queries", "from", "individual", "users", "globally", ".", "Topical", "data", ",", "for", "example", ",", "weather", "information", ",", "traffic", "information", ",", "stock", "information", ",", "etc.", ",", "constantly", "changes", "over", "time", ".", "Non", "topical", "data", "such", "as", "hotel", ",", "restaurant", ",", "real", "estate", "prices", ",", "etc.", ",", "do", "not", "change", "so", "often", ".", "Thus", ",", "we", "envision", "the", "presence", "of", "two", "types", "of", "data", "distribution", ":", "In", "the", "first", "case", ",", "server", "pushes", "data", "to", "local", "users", "through", "wireless", "channels", ".", "The", "other", "case", "deals", "with", "the", "server", "sending", "results", "of", "user", "queries", "through", "downlink", "wireless", "channels", ".", "Technically", ",", "we", "see", "the", "presence", "of", "two", "types", "of", "queues", "in", "the", "pull", "based", "data", "access", ".", "One", "is", "a", "heavily", "loaded", "queue", "containing", "globally", "uploaded", "queries", ".", "The", "other", "is", "a", "comparatively", "lightly", "loaded", "queue", "consisting", "of", "locally", "uploaded", "queries", ".", "The", "DAYS", "architecture", "-LSB-", "12", "-RSB-", "as", "shown", "in", "figure", "1", "consists", "of", "a", "Data", "Server", ",", "Broadcast", "Scheduler", ",", "DAYS", "Coordinator", ",", "Network", "of", "LEO", "satellites", "for", "global", "data", "delivery", "and", "a", "Local", "broadcast", "space", ".", "Data", "is", "pushed", "into", "the", "local", "broadcast", "space", "so", "that", "users", "may", "tune", "into", "the", "wireless", "channels", "to", "access", "the", "data", ".", "The", "local", "broadcast", "space", "consists", "of", "a", "broadcast", "tower", ",", "mobile", "units", "and", "a", "network", "of", "data", "staging", "machines", "called", "the", "surrogates", ".", "Data", "staging", "in", "surrogates", "has", "been", "earlier", "investigated", "as", "a", "successful", "technique", "-LSB-", "12", ",", "15", "-RSB-", "to", "cache", "users", "'", "related", "data", ".", "We", "believe", "that", "data", "staging", "can", "be", "used", "to", "drastically", "reduce", "the", "latency", "time", "for", "both", "the", "local", "broadcast", "data", "as", "well", "as", "global", "responses", ".", "Query", "request", "in", "the", "surrogates", "may", "subsequently", "be", "used", "to", "generate", "the", "popularity", "patterns", "which", "ultimately", "decide", "the", "broadcast", "schedule", "-LSB-", "12", "-RSB-", ".", "18", "Popularity", "Feedback", "from", "Surrogates", "for", "Broadcast", "Scheduler", "Local", "Broadcast", "Space", "Broadcast", "Tower", "Surrogate", "MU", "MU", "MU", "MU", "Data", "Server", "Broadcast", "scheduler", "DAYS", "Coordinator", "Local", "downlink", "channel", "Global", "downlink", "channel", "Pull", "request", "queue", "Global", "request", "queue", "Local", "request", "queue", "Location", "based", "index", "Starbucks", "Plaza", "Kansas", "City", "Figure", "1", ".", "DAYS", "Architecture", "Figure", "2", ".", "Location", "Structure", "of", "Starbucks", ",", "Plaza", "We", "argue", "that", "incorporating", "location", "information", "in", "wireless", "data", "broadcast", "can", "significantly", "decrease", "the", "access", "latency", ".", "This", "property", "becomes", "highly", "useful", "for", "mobile", "unit", "which", "has", "limited", "storage", "and", "processing", "capability", ".", "There", "are", "a", "variety", "of", "applications", "to", "obtain", "information", "about", "traffic", ",", "restaurant", "and", "hotel", "booking", ",", "fast", "food", ",", "gas", "stations", ",", "post", "office", ",", "grocery", "stores", ",", "etc.", ".", "If", "these", "applications", "are", "coupled", "with", "location", "information", ",", "then", "the", "search", "will", "be", "fast", "and", "highly", "cost", "effective", ".", "An", "important", "property", "of", "the", "locations", "is", "Containment", "which", "helps", "to", "determine", "the", "relative", "location", "of", "an", "object", "with", "respect", "to", "its", "parent", "that", "contains", "the", "object", ".", "Thus", ",", "Containment", "limits", "the", "range", "of", "availability", "of", "a", "data", ".", "We", "use", "this", "property", "in", "our", "indexing", "scheme", ".", "The", "database", "contains", "the", "broadcast", "contents", "which", "are", "converted", "into", "LDD", "-LSB-", "14", "-RSB-", "by", "associating", "them", "with", "respective", "locations", "so", "that", "it", "can", "be", "broadcasted", "in", "a", "clustered", "manner", ".", "The", "clustering", "of", "LDD", "helps", "the", "user", "to", "locate", "information", "efficiently", "and", "supports", "containment", "property", ".", "We", "present", "an", "example", "to", "justify", "our", "proposition", ".", "Example", ":", "Suppose", "a", "user", "issues", "query", "``", "Starbucks", "Coffee", "in", "Plaza", "please", ".", "''", "to", "access", "information", "about", "the", "Plaza", "branch", "of", "Starbucks", "Coffee", "in", "Kansas", "City", ".", "In", "the", "case", "of", "location", "independent", "set", "up", "the", "system", "will", "list", "all", "Starbucks", "coffee", "shops", "in", "Kansas", "City", "area", ".", "It", "is", "obvious", "that", "such", "responses", "will", "increase", "access", "latency", "and", "are", "not", "desirable", ".", "These", "can", "be", "managed", "efficiently", "if", "the", "server", "has", "location", "dependent", "data", ",", "i.e.", ",", "a", "mapping", "between", "a", "Starbucks", "coffee", "shop", "data", "and", "its", "physical", "location", ".", "Also", ",", "for", "a", "query", "including", "range", "of", "locations", "of", "Starbucks", ",", "a", "single", "query", "requesting", "locations", "for", "the", "entire", "region", "of", "Kansas", "City", ",", "as", "shown", "in", "Figure", "2", ",", "will", "suffice", ".", "This", "will", "save", "enormous", "amount", "of", "bandwidth", "by", "decreasing", "the", "number", "of", "messages", "and", "at", "the", "same", "time", "will", "be", "helpful", "in", "preventing", "the", "scalability", "bottleneck", "in", "highly", "populated", "area", ".", "4.1", "Mapping", "Function", "for", "LDD", "The", "example", "justifies", "the", "need", "for", "a", "mapping", "function", "to", "process", "location", "dependent", "queries", ".", "This", "will", "be", "especially", "important", "for", "pull", "based", "queries", "across", "the", "globe", "for", "which", "the", "reply", "could", "be", "composed", "for", "different", "parts", "of", "the", "world", ".", "The", "mapping", "function", "is", "necessary", "to", "construct", "the", "broadcast", "schedule", ".", "We", "define", "Global", "Property", "Set", "-LRB-", "GPS", "-RRB-", "-LSB-", "11", "-RSB-", ",", "Information", "Content", "-LRB-", "IC", "-RRB-", "set", ",", "and", "Location", "Hierarchy", "-LRB-", "LH", "-RRB-", "set", "where", "IC", "GPS", "and", "LH", "GPS", "to", "develop", "a", "mapping", "function", ".", "LH", "=", "-LCB-", "l", "1", ",", "l", "2", ",", "l", "3", "...", ",", "l", "k", "-RCB-", "where", "l", "i", "represent", "locations", "in", "the", "location", "tree", "and", "IC", "=", "-LCB-", "ic", "1", ",", "ic", "2", ",", "ic", "3", ",", "...", ",", "ic", "n", "-RCB-", "where", "ic", "i", "represent", "information", "type", ".", "For", "example", ",", "if", "we", "have", "traffic", ",", "weather", ",", "and", "stock", "information", "are", "in", "broadcast", "then", "IC", "=", "-LCB-", "ic", "traffic", ",", "ic", "weather", ",", "and", "ic", "stock", "-RCB-", ".", "The", "mapping", "scheme", "must", "be", "able", "to", "identify", "and", "select", "an", "IC", "member", "and", "a", "LH", "node", "for", "-LRB-", "a", "-RRB-", "correct", "association", ",", "-LRB-", "b", "-RRB-", "granularity", "match", ",", "-LRB-", "c", "-RRB-", "and", "termination", "condition", ".", "For", "example", ",", "weather", "IC", "could", "be", "associated", "with", "a", "country", "or", "a", "state", "or", "a", "city", "or", "a", "town", "of", "LH", ".", "The", "granularity", "match", "between", "the", "weather", "and", "a", "LH", "node", "is", "as", "per", "user", "requirement", ".", "Thus", ",", "with", "a", "coarse", "granularity", "weather", "information", "is", "associated", "with", "a", "country", "to", "get", "country", "'s", "weather", "and", "with", "town", "in", "a", "finer", "granularity", ".", "If", "a", "town", "is", "the", "finest", "granularity", ",", "then", "it", "defines", "the", "terminal", "condition", "for", "association", "between", "IC", "and", "LH", "for", "weather", ".", "This", "means", "that", "a", "user", "can", "not", "get", "weather", "information", "about", "subdivision", "of", "a", "town", ".", "In", "reality", "weather", "of", "a", "subdivision", "does", "not", "make", "any", "sense", ".", "We", "develop", "a", "simple", "heuristic", "mapping", "approach", "scheme", "based", "on", "user", "requirement", ".", "Let", "IC", "=", "-LCB-", "m", "1", ",", "m", "2", ",", "m", "3", ".", ",", "...", ",", "m", "k", "-RCB-", ",", "where", "m", "i", "represent", "its", "element", "and", "let", "LH", "=", "-LCB-", "n", "1", ",", "n", "2", ",", "n", "3", ",", "...", ",", "n", "l", "-RCB-", ",", "where", "n", "i", "represents", "LH", "'s", "member", ".", "We", "define", "GPS", "for", "IC", "-LRB-", "GPSIC", "-RRB-", "GPS", "and", "for", "LH", "-LRB-", "GPSLH", "-RRB-", "GPS", "as", "GPSIC", "=", "-LCB-", "P", "1", ",", "P", "2", ",", "...", ",", "P", "n", "-RCB-", ",", "where", "P", "1", ",", "P", "2", ",", "P", "3", ",", "...", ",", "P", "n", "are", "properties", "of", "its", "members", "and", "GPSLH", "=", "-LCB-", "Q", "1", ",", "Q", "2", ",", "...", ",", "Q", "m", "-RCB-", "where", "Q", "1", ",", "Q", "2", ",", "...", ",", "Q", "m", "are", "properties", "of", "its", "members", ".", "The", "properties", "of", "a", "particular", "member", "of", "IC", "are", "a", "subset", "of", "GPSIC", ".", "It", "is", "generally", "true", "that", "-LRB-", "property", "set", "-LRB-", "m", "i", "IC", "-RRB-", "property", "set", "-LRB-", "m", "j", "IC", "-RRB-", "-RRB-", ",", "however", ",", "there", "may", "be", "cases", "where", "the", "intersection", "is", "not", "null", ".", "For", "example", ",", "stock", "IC", "and", "movie", "IC", "rating", "do", "not", "have", "any", "property", "in", "common", ".", "We", "assume", "that", "any", "two", "or", "more", "members", "of", "IC", "have", "at", "least", "one", "common", "geographical", "property", "-LRB-", "i.e.", "location", "-RRB-", "because", "DAYS", "broadcasts", "information", "about", "those", "categories", ",", "which", "are", "closely", "tied", "with", "a", "location", ".", "For", "example", ",", "stock", "of", "a", "company", "is", "related", "to", "a", "country", ",", "weather", "is", "related", "to", "a", "city", "or", "state", ",", "etc.", ".", "We", "define", "the", "property", "subset", "of", "m", "i", "IC", "as", "PSm", "i", "m", "i", "IC", "and", "PSm", "i", "=", "-LCB-", "P", "1", ",", "P", "2", ",", "...", ",", "P", "r", "-RCB-", "where", "r", "n.", "P", "r", "-LCB-", "P", "r", "PSm", "i", "P", "r", "GPS", "IC", "-RCB-", "which", "implies", "that", "i", ",", "PSm", "i", "GPS", "IC", ".", "The", "geographical", "properties", "of", "this", "set", "are", "indicative", "of", "whether", "m", "i", "IC", "can", "be", "mapped", "to", "only", "a", "single", "granularity", "level", "-LRB-", "i.e.", "a", "single", "location", "-RRB-", "in", "LH", "or", "a", "multiple", "granularity", "levels", "-LRB-", "i.e.", "more", "than", "one", "nodes", "in", "19", "the", "hierarchy", "-RRB-", "in", "LH", ".", "How", "many", "and", "which", "granularity", "levels", "should", "a", "m", "i", "map", "to", ",", "depends", "upon", "the", "level", "at", "which", "the", "service", "provider", "wants", "to", "provide", "information", "about", "the", "m", "i", "in", "question", ".", "Similarly", "we", "define", "a", "property", "subset", "of", "LH", "members", "as", "PSn", "j", "n", "j", "LH", "which", "can", "be", "written", "as", "PSn", "j", "=", "-LCB-", "Q", "1", ",", "Q", "2", ",", "Q", "3", ",", "...", ",", "Q", "s", "-RCB-", "where", "s", "m", ".", "In", "addition", ",", "Q", "s", "-LCB-", "Q", "s", "PSn", "j", "Q", "s", "GPS", "LH", "-RCB-", "which", "implies", "that", "j", ",", "PSn", "j", "GPSLH", ".", "The", "process", "of", "mapping", "from", "IC", "to", "LH", "is", "then", "identifying", "for", "some", "m", "x", "IC", "one", "or", "more", "n", "y", "LH", "such", "that", "PSm", "x", "PSn", "v", ".", "This", "means", "that", "when", "m", "x", "maps", "to", "n", "y", "and", "all", "children", "of", "n", "y", "if", "m", "x", "can", "map", "to", "multiple", "granularity", "levels", "or", "m", "x", "maps", "only", "to", "n", "y", "if", "m", "x", "can", "map", "to", "a", "single", "granularity", "level", ".", "We", "assume", "that", "new", "members", "can", "join", "and", "old", "member", "can", "leave", "IC", "or", "LH", "any", "time", ".", "The", "deletion", "of", "members", "from", "the", "IC", "space", "is", "simple", "but", "addition", "of", "members", "to", "the", "IC", "space", "is", "more", "restrictive", ".", "If", "we", "want", "to", "add", "a", "new", "member", "to", "the", "IC", "space", ",", "then", "we", "first", "define", "a", "property", "set", "for", "the", "new", "member", ":", "PSm", "new_m", "=", "-LCB-", "P", "1", ",", "P", "2", ",", "P", "3", ",", "...", ",", "P", "t", "-RCB-", "and", "add", "it", "to", "the", "IC", "only", "if", "the", "condition", ":", "P", "w", "-LCB-", "P", "w", "PSp", "new_m", "P", "w", "GPS", "IC", "-RCB-", "is", "satisfied", ".", "This", "scheme", "has", "an", "additional", "benefit", "of", "allowing", "the", "information", "service", "providers", "to", "have", "a", "control", "over", "what", "kind", "of", "information", "they", "wish", "to", "provide", "to", "the", "users", ".", "We", "present", "the", "following", "example", "to", "illustrate", "the", "mapping", "concept", ".", "IC", "=", "-LCB-", "Traffic", ",", "Stock", ",", "Restaurant", ",", "Weather", ",", "Important", "history", "dates", ",", "Road", "conditions", "-RCB-", "LH", "=", "-LCB-", "Country", ",", "State", ",", "City", ",", "Zip-code", ",", "Major-roads", "-RCB-", "GPS", "IC", "=", "-LCB-", "Surface-mobility", ",", "Roads", ",", "High", ",", "Low", ",", "Italian-food", ",", "StateName", ",", "Temp", ",", "CityName", ",", "Seat-availability", ",", "Zip", ",", "Traffic-jams", ",", "Stock-price", ",", "CountryName", ",", "MajorRoadName", ",", "Wars", ",", "Discoveries", ",", "World", "-RCB-", "GPS", "LH", "=", "-LCB-", "Country", ",", "CountrySize", ",", "StateName", ",", "CityName", ",", "Zip", ",", "MajorRoadName", "-RCB-", "Ps", "-LRB-", "IC", "Stock", "-RRB-", "=", "-LCB-", "Stock-price", ",", "CountryName", ",", "High", ",", "Low", "-RCB-", "Ps", "-LRB-", "IC", "Traffic", "-RRB-", "=", "-LCB-", "Surface-mobility", ",", "Roads", ",", "High", ",", "Low", ",", "Traffic-jams", ",", "CityName", "-RCB-", "Ps", "-LRB-", "IC", "Important", "dates", "in", "history", "-RRB-", "=", "-LCB-", "World", ",", "Wars", ",", "Discoveries", "-RCB-", "Ps", "-LRB-", "IC", "Road", "conditions", "-RRB-", "=", "-LCB-", "Precipitation", ",", "StateName", ",", "CityName", "-RCB-", "Ps", "-LRB-", "IC", "Restaurant", "-RRB-", "=", "-LCB-", "Italian-food", ",", "Zip", "code", "-RCB-", "Ps", "-LRB-", "IC", "Weather", "-RRB-", "=", "-LCB-", "StateName", ",", "CityName", ",", "Precipitation", ",", "Temperature", "-RCB-", "PS", "-LRB-", "LH", "Country", "-RRB-", "=", "-LCB-", "CountryName", ",", "CountrySize", "-RCB-", "PS", "-LRB-", "LH", "State", "=", "-LCB-", "StateName", ",", "State", "size", "-RCB-", ",", "PS", "-LRB-", "LH", "City", "-RRB-", "=", "-LCB-", "CityName", ",", "City", "size", "-RCB-", "PS", "-LRB-", "LH", "Zipcode", "-RRB-", "=", "-LCB-", "ZipCodeNum", "-RCB-", "PS", "-LRB-", "LH", "Major", "roads", "-RRB-", "=", "-LCB-", "MajorRoadName", "-RCB-", "Now", ",", "only", "PS", "-LRB-", "IC", "Stock", "-RRB-", "PS", "Country", ".", "In", "addition", ",", "PS", "-LRB-", "IC", "Stock", "-RRB-", "indicated", "that", "Stock", "can", "map", "to", "only", "a", "single", "location", "Country", ".", "When", "we", "consider", "the", "member", "Traffic", "of", "IC", "space", ",", "only", "PS", "-LRB-", "IC", "Traffic", "-RRB-", "PS", "city", ".", "As", "PS", "-LRB-", "IC", "Traffic", "-RRB-", "indicates", "that", "Traffic", "can", "map", "to", "only", "a", "single", "location", ",", "it", "maps", "only", "to", "City", "and", "none", "of", "its", "children", ".", "Now", "unlike", "Stock", ",", "mapping", "of", "Traffic", "with", "Major", "roads", ",", "which", "is", "a", "child", "of", "City", ",", "is", "meaningful", ".", "However", "service", "providers", "have", "right", "to", "control", "the", "granularity", "levels", "at", "which", "they", "want", "to", "provide", "information", "about", "a", "member", "of", "IC", "space", ".", "PS", "-LRB-", "IC", "Road", "conditions", "-RRB-", "PS", "State", "and", "PS", "-LRB-", "IC", "Road", "conditions", "-RRB-", "PS", "City", ".", "So", "Road", "conditions", "maps", "to", "State", "as", "well", "as", "City", ".", "As", "PS", "-LRB-", "IC", "Road", "conditions", "-RRB-", "indicates", "that", "Road", "conditions", "can", "map", "to", "multiple", "granularity", "levels", ",", "Road", "conditions", "will", "also", "map", "to", "Zip", "Code", "and", "Major", "roads", ",", "which", "are", "the", "children", "of", "State", "and", "City", ".", "Similarly", ",", "Restaurant", "maps", "only", "to", "Zip", "code", ",", "and", "Weather", "maps", "to", "State", ",", "City", "and", "their", "children", ",", "Major", "Roads", "and", "Zip", "Code", ".", "This", "section", "discusses", "our", "location", "based", "indexing", "scheme", "-LRB-", "LBIS", "-RRB-", ".", "The", "scheme", "is", "designed", "to", "conform", "to", "the", "LDD", "broadcast", "in", "our", "project", "DAYS", ".", "As", "discussed", "earlier", ",", "we", "use", "the", "containment", "property", "of", "LDD", "in", "the", "indexing", "scheme", ".", "This", "significantly", "limits", "the", "search", "of", "our", "required", "data", "to", "a", "particular", "portion", "of", "broadcast", ".", "Thus", ",", "we", "argue", "that", "the", "scheme", "provides", "bounded", "tuning", "time", ".", "We", "describe", "the", "architecture", "of", "our", "indexing", "scheme", ".", "Our", "scheme", "contains", "separate", "data", "buckets", "and", "index", "buckets", ".", "The", "index", "buckets", "are", "of", "two", "types", ".", "The", "first", "type", "is", "called", "the", "Major", "index", ".", "The", "Major", "index", "provides", "information", "about", "the", "types", "of", "data", "broadcasted", ".", "For", "example", ",", "if", "we", "intend", "to", "broadcast", "information", "like", "Entertainment", ",", "Weather", ",", "Traffic", "etc.", ",", "then", "the", "major", "index", "points", "to", "either", "these", "major", "types", "of", "information", "and/or", "their", "main", "subtypes", "of", "information", ",", "the", "number", "of", "main", "subtypes", "varying", "from", "one", "information", "to", "another", ".", "This", "strictly", "limits", "number", "of", "accesses", "to", "a", "Major", "index", ".", "The", "Major", "index", "never", "points", "to", "the", "original", "data", ".", "It", "points", "to", "the", "sub", "indexes", "called", "the", "Minor", "index", ".", "The", "minor", "indexes", "are", "the", "indexes", "which", "actually", "points", "to", "the", "original", "data", ".", "We", "called", "these", "minor", "index", "pointers", "as", "Location", "Pointers", "as", "they", "points", "to", "the", "data", "which", "are", "associated", "with", "a", "location", ".", "Thus", ",", "our", "search", "for", "a", "data", "includes", "accessing", "of", "a", "major", "index", "and", "some", "minor", "indexes", ",", "the", "number", "of", "minor", "index", "varying", "depending", "on", "the", "type", "of", "information", ".", "Thus", ",", "our", "indexing", "scheme", "takes", "into", "account", "the", "hierarchical", "nature", "of", "the", "LDD", ",", "the", "Containment", "property", ",", "and", "requires", "our", "broadcast", "schedule", "to", "be", "clustered", "based", "on", "data", "type", "and", "location", ".", "The", "structure", "of", "the", "location", "hierarchy", "requires", "the", "use", "of", "different", "types", "of", "index", "at", "different", "levels", ".", "The", "structure", "and", "positions", "of", "index", "strictly", "depend", "on", "the", "location", "hierarchy", "as", "described", "in", "our", "mapping", "scheme", "earlier", ".", "We", "illustrate", "the", "implementation", "of", "our", "scheme", "with", "an", "example", ".", "The", "rules", "for", "framing", "the", "index", "are", "mentioned", "subsequently", ".", "20", "A1", "Entertainment", "Resturant", "Movie", "A2", "A3", "A4", "R1", "R2", "R3", "R4", "R5", "R6", "R7", "R8", "Weather", "KC", "SL", "JC", "SF", "Entertainment", "R1", "R2", "R3", "R4", "R5", "R6", "R7", "R8", "KC", "SL", "JC", "SF", "-LRB-", "A", ",", "R", ",", "NEXT", "=", "8", "-RRB-", "3", ",", "R5", "4", ",", "R7", "Type", "-LRB-", "S", ",", "L", "-RRB-", "ER", "W", "E", "EM", "-LRB-", "1", ",", "4", "-RRB-", "-LRB-", "5", ",", "4", "-RRB-", "-LRB-", "1", ",", "4", "-RRB-", ",", "-LRB-", "9", ",", "4", "-RRB-", "-LRB-", "9", ",", "4", "-RRB-", "Type", "-LRB-", "S", ",", "L", "-RRB-", "W", "E", "EM", "ER", "-LRB-", "1", ",", "4", "-RRB-", "-LRB-", "5", ",", "8", "-RRB-", "-LRB-", "5", ",", "4", "-RRB-", "-LRB-", "9", ",", "4", "-RRB-", "Type", "-LRB-", "S", ",", "L", "-RRB-", "E", "EM", "ER", "W", "-LRB-", "1", ",", "8", "-RRB-", "-LRB-", "1", ",", "4", "-RRB-", "-LRB-", "5", ",", "4", "-RRB-", "-LRB-", "9", ",", "4", "-RRB-", "A1", "A2", "A3", "A4", "Movie", "Resturant", "Weather", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "Major", "index", "Major", "index", "Major", "index", "Minor", "index", "Major", "index", "Minor", "index", "Figure", "3", ".", "Location", "Mapped", "Information", "for", "Broadcast", "Figure", "4", ".", "Data", "coupled", "with", "Location", "based", "Index", "Example", ":", "Let", "us", "suppose", "that", "our", "broadcast", "content", "contains", "IC", "entertainment", "and", "IC", "weather", "which", "is", "represented", "as", "shown", "in", "Fig.", "3", ".", "Ai", "represents", "Areas", "of", "City", "and", "Ri", "represents", "roads", "in", "a", "certain", "area", ".", "The", "leaves", "of", "Weather", "structure", "represent", "four", "cities", ".", "The", "index", "structure", "is", "given", "in", "Fig.", "4", "which", "shows", "the", "position", "of", "major", "and", "minor", "index", "and", "data", "in", "the", "broadcast", "schedule", ".", "We", "propose", "the", "following", "rules", "for", "the", "creation", "of", "the", "air", "indexed", "broadcast", "schedule", ":", "The", "major", "index", "and", "the", "minor", "index", "are", "created", ".", "The", "major", "index", "contains", "the", "position", "and", "range", "of", "different", "types", "of", "data", "items", "-LRB-", "Weather", "and", "Entertainment", ",", "Figure", "3", "-RRB-", "and", "their", "categories", ".", "The", "sub", "categories", "of", "Entertainment", ",", "Movie", "and", "Restaurant", ",", "are", "also", "in", "the", "index", ".", "Thus", ",", "the", "major", "index", "contains", "Entertainment", "-LRB-", "E", "-RRB-", ",", "Entertainment-Movie", "-LRB-", "EM", "-RRB-", ",", "Entertainment-Restaurant", "-LRB-", "ER", "-RRB-", ",", "and", "Weather", "-LRB-", "W", "-RRB-", ".", "The", "tuple", "-LRB-", "S", ",", "L", "-RRB-", "represents", "the", "starting", "position", "-LRB-", "S", "-RRB-", "of", "the", "data", "item", "and", "L", "represents", "the", "range", "of", "the", "item", "in", "terms", "of", "number", "of", "data", "buckets", ".", "The", "minor", "index", "contains", "the", "variables", "A", ",", "R", "and", "a", "pointer", "Next", ".", "In", "our", "example", "-LRB-", "Figure", "3", "-RRB-", ",", "road", "R", "represents", "the", "first", "node", "of", "area", "A", ".", "The", "minor", "index", "is", "used", "to", "point", "to", "actual", "data", "buckets", "present", "at", "the", "lowest", "levels", "of", "the", "hierarchy", ".", "In", "contrast", ",", "the", "major", "index", "points", "to", "a", "broader", "range", "of", "locations", "and", "so", "it", "contains", "information", "about", "main", "and", "sub", "categories", "of", "data", ".", "Index", "information", "is", "not", "incorporated", "in", "the", "data", "buckets", ".", "Index", "buckets", "are", "separate", "containing", "only", "the", "control", "information", ".", "The", "number", "of", "major", "index", "buckets", "m", "=", "#", "-LRB-", "IC", "-RRB-", ",", "IC", "=", "-LCB-", "ic", "1", ",", "ic", "2", ",", "ic", "3", ",", "...", ",", "ic", "n", "-RCB-", "where", "ic", "i", "represent", "information", "type", "and", "#", "represents", "the", "cardinality", "of", "the", "Information", "Content", "set", "IC", ".", "In", "this", "example", ",", "IC", "=", "-LCB-", "ic", "Movie", ",", "ic", "Weather", ",", "ic", "Restaurant", "-RCB-", "and", "so", "#", "-LRB-", "IC", "-RRB-", "=", "3", ".", "Hence", ",", "the", "number", "of", "major", "index", "buckets", "is", "3", ".", "Mechanism", "to", "resolve", "the", "query", "is", "present", "in", "the", "java", "based", "coordinator", "in", "MU", ".", "For", "example", ",", "if", "a", "query", "Q", "is", "presented", "as", "Q", "-LRB-", "Entertainment", ",", "Movie", ",", "Road_1", "-RRB-", ",", "then", "the", "resultant", "search", "will", "be", "for", "the", "EM", "information", "in", "the", "major", "index", ".", "We", "say", ",", "Q", "EM", ".", "Our", "proposed", "index", "works", "as", "follows", ":", "Let", "us", "suppose", "that", "an", "MU", "issues", "a", "query", "which", "is", "represented", "by", "Java", "Coordinator", "present", "in", "the", "MU", "as", "``", "Restaurant", "information", "on", "Road", "7", "''", ".", "This", "is", "resolved", "by", "the", "coordinator", "as", "Q", "ER", ".", "This", "means", "one", "has", "to", "search", "for", "ER", "unit", "of", "index", "in", "the", "major", "index", ".", "Let", "us", "suppose", "that", "the", "MU", "logs", "into", "the", "channel", "at", "R2", ".", "The", "first", "index", "it", "receives", "is", "a", "minor", "index", "after", "R2", ".", "In", "this", "index", ",", "value", "of", "Next", "variable", "=", "4", ",", "which", "means", "that", "the", "next", "major", "index", "is", "present", "after", "bucket", "4", ".", "The", "MU", "may", "go", "into", "doze", "mode", ".", "It", "becomes", "active", "after", "bucket", "4", "and", "receives", "the", "major", "index", ".", "It", "searches", "for", "ER", "information", "which", "is", "the", "first", "entry", "in", "this", "index", ".", "It", "is", "now", "certain", "that", "the", "MU", "will", "get", "the", "position", "of", "the", "data", "bucket", "in", "the", "adjoining", "minor", "index", ".", "The", "second", "unit", "in", "the", "minor", "index", "depicts", "the", "position", "of", "the", "required", "data", "R7", ".", "It", "tells", "that", "the", "data", "bucket", "is", "the", "first", "bucket", "in", "Area", "4", ".", "The", "MU", "goes", "into", "doze", "mode", "again", "and", "becomes", "active", "after", "bucket", "6", ".", "It", "gets", "the", "required", "data", "in", "the", "next", "bucket", ".", "We", "present", "the", "algorithm", "for", "searching", "the", "location", "based", "Index", ".", "Algorithm", "1", "Location", "based", "Index", "Search", "in", "DAYS", "1", ".", "Scan", "broadcast", "for", "the", "next", "index", "bucket", ",", "found", "=", "false", "2", ".", "While", "-LRB-", "not", "found", "-RRB-", "do", "3", ".", "if", "bucket", "is", "Major", "Index", "then", "4", ".", "Find", "the", "Type", "&", "Tuple", "-LRB-", "S", ",", "L", "-RRB-", "5", ".", "if", "S", "is", "greater", "than", "1", ",", "go", "into", "doze", "mode", "for", "S", "seconds", "6", ".", "end", "if", "7", ".", "Wake", "up", "at", "the", "S", "th", "bucket", "and", "observe", "the", "Minor", "Index", "8", ".", "end", "if", "9", ".", "if", "bucket", "is", "Minor", "Index", "then", "10", ".", "if", "Type", "Requested", "not", "equal", "to", "Type", "found", "and", "-LRB-", "A", ",", "R", "-RRB-", "Request", "not", "equal", "to", "-LRB-", "A", ",", "R", "-RRB-", "found", "then", "11", ".", "Go", "into", "doze", "mode", "till", "NEXT", "&", "repeat", "from", "step", "3", "12", ".", "end", "if", "13", ".", "else", "find", "entry", "in", "Minor", "Index", "which", "points", "to", "data", "14", ".", "Compute", "time", "of", "arrival", "T", "of", "data", "bucket", "15", ".", "Go", "into", "doze", "mode", "till", "T", "16", ".", "Wake", "up", "at", "T", "and", "access", "data", ",", "found", "=", "true", "17", ".", "end", "else", "18", ".", "end", "if", "19", ".", "end", "While", "21", "Conservation", "of", "energy", "is", "the", "main", "concern", "when", "we", "try", "to", "access", "data", "from", "wireless", "broadcast", ".", "An", "efficient", "scheme", "should", "allow", "the", "mobile", "device", "to", "access", "its", "required", "data", "by", "staying", "active", "for", "a", "minimum", "amount", "of", "time", ".", "This", "would", "save", "considerable", "amount", "of", "energy", ".", "Since", "items", "are", "distributed", "based", "on", "types", "and", "are", "mapped", "to", "suitable", "locations", ",", "we", "argue", "that", "our", "broadcast", "deals", "with", "clustered", "data", "types", ".", "The", "mobile", "unit", "has", "to", "access", "a", "larger", "major", "index", "and", "a", "relatively", "much", "smaller", "minor", "index", "to", "get", "information", "about", "the", "time", "of", "arrival", "of", "data", ".", "This", "is", "in", "contrast", "to", "the", "exponential", "scheme", "where", "the", "indexes", "are", "of", "equal", "sizes", ".", "The", "example", "discussed", "and", "Algorithm", "1", "reveals", "that", "to", "access", "any", "data", ",", "we", "need", "to", "access", "the", "major", "index", "only", "once", "followed", "by", "one", "or", "more", "accesses", "to", "the", "minor", "index", ".", "The", "number", "of", "minor", "index", "access", "depends", "on", "the", "number", "of", "internal", "locations", ".", "As", "the", "number", "of", "internal", "locations", "vary", "for", "item", "to", "item", "-LRB-", "for", "example", ",", "Weather", "is", "generally", "associated", "with", "a", "City", "whereas", "traffic", "is", "granulated", "up", "to", "major", "and", "minor", "roads", "of", "a", "city", "-RRB-", ",", "we", "argue", "that", "the", "structure", "of", "the", "location", "mapped", "information", "may", "be", "visualized", "as", "a", "forest", "which", "is", "a", "collection", "of", "general", "trees", ",", "the", "number", "of", "general", "trees", "depending", "on", "the", "types", "of", "information", "broadcasted", "and", "depth", "of", "a", "tree", "depending", "on", "the", "granularity", "of", "the", "location", "information", "associated", "with", "the", "information", ".", "For", "our", "experiments", ",", "we", "assume", "the", "forest", "as", "a", "collection", "of", "balanced", "M-ary", "trees", ".", "We", "further", "assume", "the", "M-ary", "trees", "to", "be", "full", "by", "assuming", "the", "presence", "of", "dummy", "nodes", "in", "different", "levels", "of", "a", "tree", ".", "Thus", ",", "if", "the", "number", "of", "data", "items", "is", "d", "and", "the", "height", "of", "the", "tree", "is", "m", ",", "then", "n", "=", "-LRB-", "m", "*", "d-1", "-RRB-", "/", "-LRB-", "m-1", "-RRB-", "where", "n", "is", "the", "number", "of", "vertices", "in", "the", "tree", "and", "i", "=", "-LRB-", "d-1", "-RRB-", "/", "-LRB-", "m-1", "-RRB-", "where", "i", "is", "the", "number", "of", "internal", "vertices", ".", "Tuning", "time", "for", "a", "data", "item", "involves", "1", "unit", "of", "time", "required", "to", "access", "the", "major", "index", "plus", "time", "required", "to", "access", "the", "data", "items", "present", "in", "the", "leaves", "of", "the", "tree", ".", "Thus", ",", "tuning", "time", "with", "d", "data", "items", "is", "t", "=", "log", "m", "d", "+1", "We", "can", "say", "that", "tuning", "time", "is", "bounded", "by", "O", "-LRB-", "log", "m", "d", "-RRB-", ".", "We", "compare", "our", "scheme", "with", "the", "distributed", "indexing", "and", "exponential", "scheme", ".", "We", "assume", "a", "flat", "broadcast", "and", "number", "of", "pages", "varying", "from", "5000", "to", "25000", ".", "The", "various", "simulation", "parameters", "are", "shown", "in", "Table", "1", ".", "Figure", "5-8", "shows", "the", "relative", "tuning", "times", "of", "three", "indexing", "algorithms", ",", "ie", ",", "the", "LBIS", ",", "exponential", "scheme", "and", "the", "distributed", "tree", "scheme", ".", "Figure", "5", "shows", "the", "result", "for", "number", "of", "internal", "location", "nodes", "=", "3", ".", "We", "can", "see", "that", "LBIS", "significantly", "outperforms", "both", "the", "other", "schemes", ".", "The", "tuning", "time", "in", "LBIS", "ranges", "from", "approx", "6.8", "to", "8", ".", "This", "large", "tuning", "time", "is", "due", "to", "the", "fact", "that", "after", "reaching", "the", "lowest", "minor", "index", ",", "the", "MU", "may", "have", "to", "access", "few", "buckets", "sequentially", "to", "get", "the", "required", "data", "bucket", ".", "We", "can", "see", "that", "the", "tuning", "time", "tends", "to", "become", "stable", "as", "the", "length", "of", "broadcast", "increases", ".", "In", "figure", "6", "we", "consider", "m", "=", "4", ".", "Here", "we", "can", "see", "that", "the", "exponential", "and", "the", "distributed", "perform", "almost", "similarly", ",", "though", "the", "former", "seems", "to", "perform", "slightly", "better", "as", "the", "broadcast", "length", "increases", ".", "A", "very", "interesting", "pattern", "is", "visible", "in", "figure", "7", ".", "For", "smaller", "broadcast", "size", ",", "the", "LBIS", "seems", "to", "have", "larger", "tuning", "time", "than", "the", "other", "two", "schemes", ".", "But", "as", "the", "length", "of", "broadcast", "increases", ",", "it", "is", "clearly", "visible", "the", "LBIS", "outperforms", "the", "other", "two", "schemes", ".", "The", "Distributed", "tree", "indexing", "shows", "similar", "behavior", "like", "the", "LBIS", ".", "The", "tuning", "time", "in", "LBIS", "remains", "low", "because", "the", "algorithm", "allows", "the", "MU", "to", "skip", "some", "intermediate", "Minor", "Indexes", ".", "This", "allows", "the", "MU", "to", "move", "into", "lower", "levels", "directly", "after", "coming", "into", "active", "mode", ",", "thus", "saving", "valuable", "energy", ".", "This", "action", "is", "not", "possible", "in", "the", "distributed", "tree", "indexing", "and", "hence", "we", "can", "observe", "that", "its", "tuning", "time", "is", "more", "than", "the", "LBIS", "scheme", ",", "although", "it", "performs", "better", "than", "the", "exponential", "scheme", ".", "Figure", "8", ",", "in", "contrast", ",", "shows", "us", "that", "the", "tuning", "time", "in", "LBIS", ",", "though", "less", "than", "the", "other", "two", "schemes", ",", "tends", "to", "increase", "sharply", "as", "the", "broadcast", "length", "becomes", "greater", "than", "the", "15000", "pages", ".", "This", "may", "be", "attributed", "both", "due", "to", "increase", "in", "time", "required", "to", "scan", "the", "intermediate", "Minor", "Indexes", "and", "the", "length", "of", "the", "broadcast", ".", "But", "we", "can", "observe", "that", "the", "slope", "of", "the", "LBIS", "curve", "is", "significantly", "less", "than", "the", "other", "two", "curves", ".", "Table", "1", "Simulation", "Parameters", "P", "Definition", "Values", "N", "Number", "of", "data", "Items", "5000", "-", "25000", "m", "Number", "of", "internal", "location", "nodes", "3", ",", "4", ",", "5", ",", "6", "B", "Capacity", "of", "bucket", "without", "index", "-LRB-", "for", "exponential", "index", "-RRB-", "10,64,128,256", "i", "Index", "base", "for", "exponential", "index", "2,4,6,8", "k", "Index", "size", "for", "distributed", "tree", "8", "bytes", "The", "simulation", "results", "establish", "some", "facts", "about", "our", "location", "based", "indexing", "scheme", ".", "The", "scheme", "performs", "better", "than", "the", "other", "two", "schemes", "in", "terms", "of", "tuning", "time", "in", "most", "of", "the", "cases", ".", "As", "the", "length", "of", "the", "broadcast", "increases", ",", "after", "a", "certain", "point", ",", "though", "the", "tuning", "time", "increases", "as", "a", "result", "of", "factors", "which", "we", "have", "described", "before", ",", "the", "scheme", "always", "performs", "better", "than", "the", "other", "two", "schemes", ".", "Due", "to", "the", "prescribed", "limit", "of", "the", "number", "of", "pages", "in", "the", "paper", ",", "we", "are", "unable", "to", "show", "more", "results", ".", "But", "these", "omitted", "results", "show", "similar", "trend", "as", "the", "results", "depicted", "in", "figure", "5-8", ".", "In", "this", "paper", "we", "have", "presented", "a", "scheme", "for", "mapping", "of", "wireless", "broadcast", "data", "with", "their", "locations", ".", "We", "have", "presented", "an", "example", "to", "show", "how", "the", "hierarchical", "structure", "of", "the", "location", "tree", "maps", "with", "the", "data", "to", "create", "LDD", ".", "We", "have", "presented", "a", "scheme", "called", "LBIS", "to", "index", "this", "LDD", ".", "We", "have", "used", "the", "containment", "property", "of", "LDD", "in", "the", "scheme", "that", "limits", "the", "search", "to", "a", "narrow", "range", "of", "data", "in", "the", "broadcast", ",", "thus", "saving", "valuable", "energy", "in", "the", "device", ".", "The", "mapping", "of", "data", "with", "locations", "and", "the", "indexing", "scheme", "will", "be", "used", "in", "our", "DAYS", "project", "to", "create", "the", "push", "based", "architecture", ".", "The", "LBIS", "has", "been", "compared", "with", "two", "other", "prominent", "indexing", "schemes", ",", "i.e.", ",", "the", "distributed", "tree", "indexing", "scheme", "and", "the", "exponential", "indexing", "scheme", ".", "We", "showed", "in", "our", "simulations", "that", "the", "LBIS", "scheme", "has", "the", "lowest", "tuning", "time", "for", "broadcasts", "having", "large", "number", "of", "pages", ",", "thus", "saving", "valuable", "battery", "power", "in", "the", "MU", ".", "22", "In", "the", "future", "work", "we", "try", "to", "incorporate", "pull", "based", "architecture", "in", "our", "DAYS", "project", ".", "Data", "from", "the", "server", "is", "available", "for", "access", "by", "the", "global", "users", ".", "This", "may", "be", "done", "by", "putting", "a", "request", "to", "the", "source", "server", ".", "The", "query", "in", "this", "case", "is", "a", "global", "query", ".", "It", "is", "transferred", "from", "the", "user", "'s", "source", "server", "to", "the", "destination", "server", "through", "the", "use", "of", "LEO", "satellites", ".", "We", "intend", "to", "use", "our", "LDD", "scheme", "and", "data", "staging", "architecture", "in", "the", "pull", "based", "architecture", ".", "We", "will", "show", "that", "the", "LDD", "scheme", "together", "with", "the", "data", "staging", "architecture", "significantly", "improves", "the", "latency", "for", "global", "as", "well", "as", "local", "query", ".", "-LSB-", "1", "-RSB-", "Acharya", ",", "S.", ",", "Alonso", ",", "R.", "Franklin", ",", "M", "and", "Zdonik", "S.", "Broadcast", "disk", ":", "Data", "management", "for", "asymmetric", "communications", "environments", ".", "In", "Proceedings", "of", "ACM", "SIGMOD", "Conference", "on", "Management", "of", "Data", ",", "pages", "199", "210", ",", "San", "Jose", ",", "CA", ",", "May", "1995", ".", "-LSB-", "2", "-RSB-", "Chen", ",", "M.S.", ",", "Wu", ",", "K.L.", "and", "Yu", ",", "P.", "S.", "Optimizing", "index", "allocation", "for", "sequential", "data", "broadcasting", "in", "wireless", "mobile", "computing", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", "-LRB-", "TKDE", "-RRB-", ",", "15", "-LRB-", "1", "-RRB-", ":", "161", "173", ",", "January/February", "2003", ".", "Figure", "5", ".", "Broadcast", "Size", "-LRB-", "#", "buckets", "-RRB-", "Dist", "tree", "Expo", "LBIS", "Figure", "6", ".", "Broadcast", "Size", "-LRB-", "#", "buckets", "-RRB-", "Dist", "tree", "Expo", "LBIS", "Figure", "7", ".", "Broadcast", "Size", "-LRB-", "#", "buckets", "-RRB-", "Dist", "tree", "Expo", "LBIS", "Figure", "8", ".", "Broadcast", "Size", "-LRB-", "#", "buckets", "-RRB-", "Dist", "tree", "Expo", "LBIS", "Av", "era", "g", "e", "tunin", "g", "t", "i", "me", "Av", "era", "g", "e", "t", "u", "n", "i", "n", "g", "t", "i", "me", "Av", "era", "g", "e", "tunin", "g", "t", "i", "me", "Av", "era", "g", "e", "t", "u", "n", "i", "n", "g", "t", "i", "me", "23", "-LSB-", "3", "-RSB-", "Hu", ",", "Q.", "L.", ",", "Lee", ",", "D.", "L.", "and", "Lee", ",", "W.C.", "Performance", "evaluation", "of", "a", "wireless", "hierarchical", "data", "dissemination", "system", ".", "In", "Proceedings", "of", "the", "5", "th", "Annual", "ACM", "International", "Conference", "on", "Mobile", "Computing", "and", "Networking", "-LRB-", "MobiCom", "'", "99", "-RRB-", ",", "pages", "163", "173", ",", "Seattle", ",", "WA", ",", "August", "1999", ".", "-LSB-", "4", "-RSB-", "Hu", ",", "Q.", "L.", "Lee", ",", "W.C.", "and", "Lee", ",", "D.", "L.", "Power", "conservative", "multi-attribute", "queries", "on", "data", "broadcast", ".", "In", "Proceedings", "of", "the", "16th", "International", "Conference", "on", "Data", "Engineering", "-LRB-", "ICDE", "'", "00", "-RRB-", ",", "pages", "157", "166", ",", "San", "Diego", ",", "CA", ",", "February", "2000", ".", "-LSB-", "5", "-RSB-", "Imielinski", ",", "T.", ",", "Viswanathan", ",", "S.", "and", "Badrinath", ".", "B.", "R.", "Power", "efficient", "filtering", "of", "data", "on", "air", ".", "In", "Proceedings", "of", "the", "4th", "International", "Conference", "on", "Extending", "Database", "Technology", "-LRB-", "EDBT", "'", "94", "-RRB-", ",", "pages", "245", "258", ",", "Cambridge", ",", "UK", ",", "March", "1994", ".", "-LSB-", "6", "-RSB-", "Imielinski", ",", "T.", ",", "Viswanathan", ",", "S.", "and", "Badrinath", ".", "B.", "R.", "Data", "on", "air", "Organization", "and", "access", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", "-LRB-", "TKDE", "-RRB-", ",", "9", "-LRB-", "3", "-RRB-", ":", "353", "372", ",", "May/June", "1997", ".", "-LSB-", "7", "-RSB-", "Shih", ",", "E.", ",", "Bahl", ",", "P.", "and", "Sinclair", ",", "M.", "J.", "Wake", "on", "wireless", ":", "An", "event", "driven", "energy", "saving", "strategy", "for", "battery", "operated", "devices", ".", "In", "Proceedings", "of", "the", "8th", "Annual", "ACM", "International", "Conference", "on", "Mobile", "Computing", "and", "Networking", "-LRB-", "MobiCom", "'", "02", "-RRB-", ",", "pages", "160", "171", ",", "Atlanta", ",", "GA", ",", "September", "2002", ".", "-LSB-", "8", "-RSB-", "Shivakumar", "N.", "and", "Venkatasubramanian", ",", "S.", "Energy-efficient", "indexing", "for", "information", "dissemination", "in", "wireless", "systems", ".", "ACM/Baltzer", "Journal", "of", "Mobile", "Networks", "and", "Applications", "-LRB-", "MONET", "-RRB-", ",", "1", "-LRB-", "4", "-RRB-", ":", "433", "446", ",", "December", "1996", ".", "-LSB-", "9", "-RSB-", "Tan", "K.", "L.", "and", "Yu", ",", "J.", "X.", "Energy", "efficient", "filtering", "of", "non", "uniform", "broadcast", ".", "In", "Proceedings", "of", "the", "16th", "International", "Conference", "on", "Distributed", "Computing", "Systems", "-LRB-", "ICDCS", "'", "96", "-RRB-", ",", "pages", "520", "527", ",", "Hong", "Kong", ",", "May", "1996", ".", "-LSB-", "10", "-RSB-", "Viredaz", ",", "M.", "A.", ",", "Brakmo", ",", "L.", "S.", "and", "Hamburgen", ",", "W.", "R.", "Energy", "management", "on", "handheld", "devices", ".", "ACM", "Queue", ",", "1", "-LRB-", "7", "-RRB-", ":", "44", "52", ",", "October", "2003", ".", "-LSB-", "11", "-RSB-", "Garg", ",", "N.", "Kumar", ",", "V.", ",", "&", "Dunham", ",", "M.H.", "``", "Information", "Mapping", "and", "Indexing", "in", "DAYS", "''", ",", "6th", "International", "Workshop", "on", "Mobility", "in", "Databases", "and", "Distributed", "Systems", ",", "in", "conjunction", "with", "the", "14th", "International", "Conference", "on", "Database", "and", "Expert", "Systems", "Applications", "September", "1-5", ",", "Prague", ",", "Czech", "Republic", ",", "2003", ".", "-LSB-", "12", "-RSB-", "Acharya", "D.", ",", "Kumar", ",", "V.", ",", "&", "Dunham", ",", "M.H.", "InfoSpace", ":", "Hybrid", "and", "Adaptive", "Public", "Data", "Dissemination", "System", "for", "Ubiquitous", "Computing", "''", ".", "Accepted", "for", "publication", "in", "the", "special", "issue", "of", "Pervasive", "Computing", ".", "Wiley", "Journal", "for", "Wireless", "Communications", "and", "Mobile", "Computing", ",", "2004", ".", "-LSB-", "13", "-RSB-", "Acharya", "D.", ",", "Kumar", ",", "V.", ",", "&", "Prabhu", ",", "N.", "Discovering", "and", "using", "Web", "Services", "in", "M-Commerce", ",", "Proceedings", "for", "5th", "VLDB", "Workshop", "on", "Technologies", "for", "E-Services", ",", "Toronto", ",", "Canada", ",2004", ".", "-LSB-", "14", "-RSB-", "Acharya", "D.", ",", "Kumar", ",", "V.", "Indexing", "Location", "Dependent", "Data", "in", "broadcast", "environment", ".", "Accepted", "for", "publication", ",", "JDIM", "special", "issue", "on", "Distributed", "Data", "Management", ",", "2005", ".", "-LSB-", "15", "-RSB-", "Flinn", ",", "J.", ",", "Sinnamohideen", ",", "S.", ",", "&", "Satyanarayan", ",", "M.", "Data", "Staging", "on", "Untrusted", "Surrogates", ",", "Intel", "Research", ",", "Pittsburg", ",", "Unpublished", "Report", ",", "2003", ".", "-LSB-", "16", "-RSB-", "Seydim", ",", "A.Y.", ",", "Dunham", ",", "M.H.", "&", "Kumar", ",", "V.", "Location", "dependent", "query", "processing", ",", "Proceedings", "of", "the", "2nd", "ACM", "international", "workshop", "on", "Data", "engineering", "for", "wireless", "and", "mobile", "access", ",", "p.47-53", ",", "Santa", "Barbara", ",", "California", ",", "USA", ",", "2001", ".", "-LSB-", "17", "-RSB-", "Xu", ",", "J.", ",", "Lee", ",", "W.C.", ",", "Tang.", ",", "X.", "Exponential", "Index", ":", "A", "Parameterized", "Distributed", "Indexing", "Scheme", "for", "Data", "on", "Air", ".", "In", "Proceedings", "of", "the", "2nd", "ACM/USENIX", "International", "Conference", "on", "Mobile", "Systems", ",", "Applications", ",", "and", "Services", "-LRB-", "MobiSys", "'", "04", "-RRB-", ",", "Boston", ",", "MA", ",", "June", "2004", ".", "24"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["energy conservation", "wireless", "containment", "broadcast", "data staging", "location based services", "indexing scheme", "data dissemination", "push based architecture", "access efficiency", "indexing", "mapping function", "location dependent data"], "abstractive_keyphrases": ["wireless data broadcast"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "118", "document": ["Interference", "Evaluation", "of", "Bluetooth", "and", "IEEE", "802.11", "b", "Systems", "Abstract", ".", "The", "emergence", "of", "several", "radio", "technologies", ",", "such", "as", "Bluetooth", "and", "IEEE", "802.11", ",", "operating", "in", "the", "2.4", "GHz", "unlicensed", "ISM", "frequency", "band", ",", "may", "lead", "to", "signal", "interference", "and", "result", "in", "significant", "performance", "degradation", "when", "devices", "are", "colocated", "in", "the", "same", "environment", ".", "The", "main", "goal", "of", "this", "paper", "is", "to", "evaluate", "the", "effect", "of", "mutual", "interference", "on", "the", "performance", "of", "Bluetooth", "and", "IEEE", "802.11", "b", "systems", ".", "We", "develop", "a", "simulation", "framework", "for", "modeling", "interference", "based", "on", "detailed", "MAC", "and", "PHY", "models", ".", "First", ",", "we", "use", "a", "simple", "simulation", "scenario", "to", "highlight", "the", "effects", "of", "parameters", ",", "such", "as", "transmission", "power", ",", "offered", "load", ",", "and", "traffic", "type", ".", "We", "then", "turn", "to", "more", "complex", "scenarios", "involving", "multiple", "Bluetooth", "piconets", "and", "WLAN", "devices", ".", "The", "proliferation", "of", "mobile", "computing", "devices", "including", "laptops", ",", "personal", "digital", "assistants", "-LRB-", "PDAs", "-RRB-", ",", "and", "wearable", "computers", "has", "created", "a", "demand", "for", "wireless", "personal", "area", "networks", "-LRB-", "WPANs", "-RRB-", ".", "WPANs", "allow", "closely", "located", "devices", "to", "share", "information", "and", "resources", ".", "A", "key", "challenge", "in", "the", "design", "of", "WPANs", "is", "adapting", "to", "a", "hostile", "radio", "environment", "that", "includes", "noise", ",", "time-varying", "channels", ",", "and", "abundant", "electromagnetic", "interference", ".", "Today", ",", "most", "radio", "technologies", "considered", "by", "WPANs", "-LRB-", "Bluetooth", "Special", "Interest", "Group", "-LSB-", "2", "-RSB-", ",", "and", "IEEE", "802.15", "-RRB-", "employ", "the", "2.4", "GHz", "ISM", "frequency", "band", ",", "which", "is", "also", "used", "by", "Local", "Area", "Network", "-LRB-", "WLAN", "-RRB-", "devices", "implementing", "the", "IEEE", "802.11", "b", "standard", "specifications", "-LSB-", "9", "-RSB-", ".", "It", "is", "anticipated", "that", "some", "interference", "will", "result", "from", "all", "these", "technologies", "operating", "in", "the", "same", "environment", ".", "WLAN", "devices", "operating", "in", "proximity", "to", "WPAN", "devices", "may", "significantly", "impact", "the", "performance", "of", "WPAN", "and", "vice", "versa", ".", "The", "main", "goal", "of", "this", "paper", "is", "to", "present", "our", "findings", "on", "the", "performance", "of", "these", "systems", "when", "operating", "in", "close", "proximity", "to", "each", "other", ".", "Our", "results", "are", "based", "on", "detailed", "models", "for", "the", "MAC", ",", "PHY", ",", "and", "wireless", "channel", ".", "Recently", ",", "a", "number", "of", "research", "activities", "has", "led", "to", "the", "development", "of", "tools", "for", "wireless", "network", "simulation", "-LSB-", "1,16", "-RSB-", ".", "While", "some", "of", "these", "tools", "include", "a", "PHY", "layer", "implementation", ",", "it", "is", "often", "abstracted", "to", "a", "discrete", "channel", "model", "that", "does", "not", "implement", "interference", "per", "se", ".", "Therefore", ",", "in", "order", "to", "model", "interference", "and", "capture", "the", "time", "and", "frequency", "collisions", ",", "we", "chose", "to", "implement", "an", "integrated", "MAC-PHY", "module", ".", "Efforts", "to", "study", "interference", "in", "the", "2.4", "GHz", "band", "are", "relatively", "recent", ".", "For", "example", ",", "interference", "caused", "by", "microwave", "ovens", "operating", "in", "the", "vicinity", "of", "a", "WLAN", "network", "has", "been", "investigated", "-LSB-", "17", "-RSB-", "and", "requirements", "on", "the", "signal-to-noise", "ratio", "-LRB-", "SNR", "-RRB-", "are", "presented", "by", "Kamerman", "and", "Erkocevic", "-LSB-", "11", "-RSB-", ".", "Corresponding", "author", ".", "E-mail", ":", "nada.golmie@nist.gov", "In", "addition", ",", "there", "has", "been", "several", "attempts", "at", "quantifying", "the", "impact", "of", "interference", "on", "both", "the", "WLAN", "and", "Bluetooth", "performance", ".", "Published", "results", "can", "be", "classified", "into", "at", "least", "three", "categories", "depending", "on", "whether", "they", "rely", "on", "analysis", ",", "simulation", ",", "or", "experimental", "measurements", ".", "Analytical", "results", "based", "on", "probability", "of", "packet", "collision", "were", "obtained", "by", "Shellhammer", "-LSB-", "13", "-RSB-", ",", "Ennis", "-LSB-", "4", "-RSB-", ",", "and", "Zyren", "-LSB-", "18", "-RSB-", "for", "the", "WLAN", "packet", "error", "and", "by", "Golmie", "-LSB-", "6", "-RSB-", "for", "the", "Bluetooth", "packet", "error", ".", "In", "all", "these", "cases", ",", "the", "probability", "of", "packet", "error", "is", "computed", "based", "on", "the", "probability", "of", "packet", "collision", "in", "time", "and", "frequency", ".", "Although", "these", "analytical", "results", "can", "often", "give", "a", "first", "order", "approximation", "on", "the", "impact", "of", "interference", "and", "the", "resulting", "performance", "degradation", ",", "they", "often", "make", "assumptions", "concerning", "the", "traffic", "distributions", "and", "the", "operation", "of", "the", "media", "access", "protocol", ",", "which", "can", "make", "them", "less", "realistic", ".", "More", "importantly", ",", "in", "order", "for", "the", "analysis", "to", "be", "tractable", ",", "mutual", "interference", "that", "can", "change", "the", "traffic", "distribution", "for", "each", "system", "is", "often", "ig-nored", ".", "On", "the", "other", "hand", ",", "experimental", "results", ",", "such", "as", "the", "ones", "obtained", "by", "Kamerman", "-LSB-", "10", "-RSB-", ",", "Howitt", "et", "al.", "-LSB-", "8", "-RSB-", ",", "and", "Fumolari", "-LSB-", "5", "-RSB-", "for", "a", "two-node", "WLAN", "system", "and", "a", "two-node", "Bluetooth", "piconet", ",", "can", "be", "considered", "more", "accurate", "at", "the", "cost", "of", "being", "too", "specific", "to", "the", "implementation", "tested", ".", "Thus", ",", "a", "third", "alternative", "consists", "of", "using", "modeling", "and", "simulation", "to", "evaluate", "the", "impact", "of", "interference", ".", "This", "third", "approach", "can", "provide", "a", "more", "flexible", "framework", ".", "Zurbes", "et", "al.", "-LSB-", "19", "-RSB-", "present", "simulation", "results", "for", "a", "number", "of", "Bluetooth", "devices", "located", "in", "a", "single", "large", "room", ".", "They", "show", "that", "for", "100", "concurrent", "web", "sessions", ",", "performance", "is", "degraded", "by", "only", "5", "%", ".", "Golmie", "et", "al.", "-LSB-", "7", "-RSB-", "use", "a", "detailed", "MAC", "and", "PHY", "simulation", "framework", "to", "evaluate", "the", "impact", "of", "interference", "for", "a", "pair", "of", "WLAN", "devices", "and", "a", "pair", "of", "Bluetooth", "devices", ".", "Similar", "results", "have", "been", "obtained", "by", "Lansford", "et", "al.", "-LSB-", "12", "-RSB-", "for", "the", "case", "of", "colocated", "WLAN", "and", "Bluetooth", "devices", "on", "the", "same", "laptop", ".", "Their", "simulation", "models", "are", "based", "on", "a", "link", "budget", "analysis", "and", "a", "theoretical", "calculation", "of", "the", "BER", "-LRB-", "Q", "function", "calculation", "-RRB-", ".", "The", "work", "in", "this", "paper", "is", "an", "extension", "of", "-LSB-", "7", "-RSB-", ".", "202", "GOLMIE", "ET", "AL.", ".", "Figure", "1", ".", "Master", "TX/RX", "hopping", "sequence", ".", "This", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", ",", "we", "give", "some", "general", "insights", "on", "the", "Bluetooth", "and", "IEEE", "802.11", "protocol", "operation", ".", "In", "section", "3", ",", "we", "describe", "in", "great", "detail", "our", "modeling", "approach", "for", "the", "MAC", ",", "PHY", "and", "wireless", "channel", ".", "In", "section", "4", ",", "we", "evaluate", "the", "impact", "of", "interference", "on", "both", "Bluetooth", "and", "WLAN", "performance", "and", "present", "simulation", "results", ".", "Concluding", "remarks", "are", "offered", "in", "section", "5", ".", "In", "this", "section", ",", "we", "give", "a", "brief", "overview", "of", "the", "Bluetooth", "technology", "-LSB-", "2", "-RSB-", "and", "discuss", "the", "main", "functionality", "of", "its", "protocol", "specifications", ".", "Bluetooth", "is", "a", "short", "range", "-LRB-", "0", "10", "m", "-RRB-", "wireless", "link", "technology", "aimed", "at", "replacing", "non-interoperable", "proprietary", "cables", "that", "connect", "phones", ",", "laptops", ",", "PDAs", "and", "other", "portable", "devices", "together", ".", "Bluetooth", "operates", "in", "the", "ISM", "frequency", "band", "starting", "at", "2.402", "GHz", "and", "ending", "at", "2.483", "GHz", "in", "the", "USA", "and", "Europe", ".", "79", "RF", "channels", "of", "1", "MHz", "width", "are", "defined", ".", "The", "air", "interface", "is", "based", "on", "an", "antenna", "power", "of", "1", "mW", "with", "an", "antenna", "gain", "of", "0", "dB", ".", "The", "signal", "is", "modulated", "using", "binary", "Gaussian", "Frequency", "Shift", "Keying", "-LRB-", "GFSK", "-RRB-", ".", "The", "raw", "data", "rate", "is", "defined", "at", "1", "Mbit/s", ".", "A", "Time", "Division", "Multiplexing", "-LRB-", "TDM", "-RRB-", "technique", "divides", "the", "channel", "into", "625", "s", "slots", ".", "Transmission", "occurs", "in", "packets", "that", "occupy", "an", "odd", "number", "of", "slots", "-LRB-", "up", "to", "5", "-RRB-", ".", "Each", "packet", "is", "transmitted", "on", "a", "different", "hop", "frequency", "with", "a", "maximum", "frequency", "hopping", "rate", "of", "1600", "hops/s", ".", "Two", "or", "more", "units", "communicating", "on", "the", "same", "channel", "form", "a", "piconet", ",", "where", "one", "unit", "operates", "as", "a", "master", "and", "the", "others", "-LRB-", "a", "maximum", "of", "seven", "active", "at", "the", "same", "time", "-RRB-", "act", "as", "slaves", ".", "A", "channel", "is", "defined", "as", "a", "unique", "pseudo-random", "frequency", "hopping", "sequence", "derived", "from", "the", "master", "device", "'s", "48-bit", "address", "and", "its", "Bluetooth", "clock", "value", ".", "Slaves", "in", "the", "piconet", "synchronize", "their", "timing", "and", "frequency", "hopping", "to", "the", "master", "upon", "connection", "establishment", ".", "In", "the", "connection", "mode", ",", "the", "master", "controls", "the", "access", "to", "the", "channel", "using", "a", "polling", "scheme", "where", "master", "and", "slave", "transmissions", "alternate", ".", "A", "slave", "packet", "always", "follows", "a", "master", "packet", "transmission", "as", "illustrated", "in", "figure", "1", ",", "which", "depicts", "the", "master", "'s", "view", "of", "the", "slotted", "TX/RX", "channel", ".", "There", "are", "two", "types", "of", "link", "connections", "that", "can", "be", "established", "between", "a", "master", "and", "a", "slave", ":", "the", "Synchronous", "Connection-Oriented", "-LRB-", "SCO", "-RRB-", ",", "and", "the", "Asynchronous", "Connection-Less", "-LRB-", "ACL", "-RRB-", "link", ".", "The", "SCO", "link", "is", "a", "symmetric", "point-to-point", "connection", "between", "a", "master", "and", "a", "slave", "where", "the", "master", "sends", "an", "SCO", "packet", "in", "one", "TX", "slot", "at", "regular", "time", "intervals", ",", "defined", "by", "T", "SCO", "time", "slots", ".", "The", "slave", "responds", "with", "an", "SCO", "packet", "in", "the", "next", "TX", "opportunity", ".", "T", "SCO", "is", "set", "to", "either", "2", ",", "4", "or", "6", "time", "slots", "for", "HV1", ",", "HV2", ",", "or", "HV3", "packet", "formats", ",", "respectively", ".", "All", "three", "formats", "of", "SCO", "packets", "are", "defined", "to", "carry", "64", "Kbit/s", "of", "voice", "traffic", "and", "are", "never", "retransmitted", "in", "case", "of", "packet", "loss", "or", "error", ".", "The", "ACL", "link", "is", "an", "asymmetric", "point-to-point", "connection", "between", "a", "master", "and", "active", "slaves", "in", "the", "piconet", ".", "An", "Automatic", "Repeat", "Request", "-LRB-", "ARQ", "-RRB-", "procedure", "is", "applied", "to", "ACL", "packets", "where", "packets", "are", "retransmitted", "in", "case", "of", "loss", "until", "a", "positive", "acknowledgement", "-LRB-", "ACK", "-RRB-", "is", "received", "at", "the", "source", ".", "The", "ACK", "is", "piggy-backed", "in", "the", "header", "of", "the", "returned", "packet", "where", "an", "ARQN", "bit", "is", "set", "to", "either", "1", "or", "0", "depending", "on", "whether", "or", "not", "the", "previous", "packet", "was", "successfully", "received", ".", "In", "addition", ",", "a", "sequence", "number", "-LRB-", "SEQN", "-RRB-", "bit", "is", "used", "in", "the", "packet", "header", "in", "order", "to", "provide", "a", "sequential", "ordering", "of", "data", "packets", "in", "a", "stream", "and", "filter", "out", "retransmissions", "at", "the", "destination", ".", "Forward", "Error", "Correction", "-LRB-", "FEC", "-RRB-", "is", "used", "on", "some", "SCO", "and", "ACL", "packets", "in", "order", "to", "correct", "errors", "and", "reduce", "the", "number", "of", "ACL", "retransmissions", ".", "Both", "ACL", "and", "SCO", "packets", "have", "the", "same", "packet", "format", ".", "It", "consists", "of", "a", "72-bit", "access", "code", "used", "for", "message", "identification", "and", "synchronization", ",", "a", "54-bit", "header", "and", "a", "variable", "length", "payload", "that", "contains", "either", "a", "voice", "or", "a", "data", "packet", "depending", "on", "the", "type", "of", "link", "connection", "that", "is", "established", "between", "a", "master", "and", "a", "slave", ".", "A", "repetition", "code", "of", "rate", "1/3", "is", "applied", "to", "the", "header", ",", "and", "a", "block", "code", "with", "minimum", "distance", ",", "d", "min", ",", "equal", "to", "14", ",", "is", "applied", "to", "the", "access", "code", "so", "that", "up", "to", "13", "errors", "are", "detected", "and", "-LRB-", "d", "min", "-", "1", "-RRB-", "/", "2", "=", "6", "can", "be", "corrected", ".", "Note", "that", "uncorrected", "errors", "in", "the", "header", "and", "the", "access", "code", "lead", "to", "a", "packet", "drop", ".", "Voice", "packets", "have", "a", "total", "packet", "length", "of", "366", "bits", "including", "the", "access", "code", "and", "header", ".", "A", "repetition", "code", "of", "1/3", "is", "used", "for", "HV1", "packet", "payload", ".", "On", "the", "other", "hand", ",", "DM", "and", "HV2", "packet", "payloads", "use", "a", "2/3", "block", "code", "where", "every", "10", "bits", "of", "information", "are", "encoded", "with", "15", "bits", ".", "DH", "and", "HV3", "packets", "do", "not", "have", "any", "encoding", "on", "their", "payload", ".", "HV", "packets", "do", "INTERFERENCE", "EVALUATION", "OF", "BLUETOOTH", "AND", "IEEE", "802.11", "b", "SYSTEMS", "203", "Figure", "2", ".", "WLAN", "frame", "transmission", "scheme", ".", "Table", "1", "Summary", "of", "error", "occurrences", "in", "the", "packet", "and", "actions", "taken", "in", "case", "errors", "are", "not", "corrected", ".", "Error", "location", "Error", "correction", "Action", "taken", "Access", "code", "d", "min", "=", "14", "Packet", "dropped", "Packet", "header", "1/3", "repetition", "Packet", "dropped", "HV1", "payload", "1/3", "repetition", "Packet", "accepted", "HV2", "payload", "2/3", "block", "code", "Packet", "accepted", "HV3", "payload", "No", "FEC", "Packet", "accepted", "DM1", ",", "DM3", ",", "DM5", "payload", "2/3", "block", "code", "Packet", "dropped", "DH1", ",", "DH3", ",", "DH5", "payload", "No", "FEC", "Packet", "accepted", "not", "have", "a", "CRC", "in", "the", "payload", ".", "In", "case", "of", "an", "error", "occurrence", "in", "the", "payload", ",", "the", "packet", "is", "never", "dropped", ".", "Uncorrected", "errors", "for", "DM", "and", "DH", "packets", "lead", "to", "dropped", "packets", "and", "the", "application", "of", "the", "ARQ", "and", "SEQN", "schemes", ".", "Table", "1", "summarizes", "the", "error", "occurrences", "in", "the", "packet", "and", "the", "actions", "taken", "by", "the", "protocol", ".", "2.2", ".", "IEEE", "802.11", "b", "The", "IEEE", "802.11", "standard", "-LSB-", "9", "-RSB-", "defines", "both", "the", "physical", "-LRB-", "PHY", "-RRB-", "and", "medium", "access", "control", "-LRB-", "MAC", "-RRB-", "layer", "protocols", "for", "WLANs", ".", "In", "this", "sequel", ",", "we", "shall", "be", "using", "WLAN", "and", "802.11", "b", "interchangeably", ".", "The", "IEEE", "802.11", "standard", "calls", "for", "three", "different", "PHY", "specifications", ":", "frequency", "hopping", "-LRB-", "FH", "-RRB-", "spread", "spectrum", ",", "direct", "sequence", "-LRB-", "DS", "-RRB-", "spread", "spectrum", ",", "and", "infrared", "-LRB-", "IR", "-RRB-", ".", "The", "transmit", "power", "for", "DS", "and", "FH", "devices", "is", "defined", "at", "a", "maximum", "of", "1", "W", "and", "the", "receiver", "sensitivity", "is", "set", "to", "-80", "dBmW", ".", "Antenna", "gain", "is", "limited", "to", "6", "dB", "maximum", ".", "In", "this", "work", ",", "we", "focus", "on", "the", "802.11", "b", "specification", "-LRB-", "DS", "spread", "spectrum", "-RRB-", "since", "it", "is", "in", "the", "same", "frequency", "band", "as", "Bluetooth", "and", "the", "most", "commonly", "deployed", ".", "The", "basic", "data", "rate", "for", "the", "DS", "system", "is", "1", "Mbit/s", "encoded", "with", "differential", "binary", "phase", "shift", "keying", "-LRB-", "DBPSK", "-RRB-", ".", "Similarly", ",", "a", "2", "Mbit/s", "rate", "is", "provided", "using", "differential", "quadrature", "phase", "shift", "keying", "-LRB-", "DQPSK", "-RRB-", "at", "the", "same", "chip", "rate", "of", "11", "10", "6", "chips/s", ".", "Higher", "rates", "of", "5.5", "and", "11", "Mbit/s", "are", "also", "available", "using", "techniques", "combining", "quadrature", "phase", "shift", "keying", "and", "complementary", "code", "keying", "-LRB-", "CCK", "-RRB-", ";", "all", "of", "these", "systems", "use", "22", "MHz", "channels", ".", "The", "IEEE", "802.11", "MAC", "layer", "specifications", ",", "common", "to", "all", "PHYs", "and", "data", "rates", ",", "coordinate", "the", "communication", "between", "stations", "and", "control", "the", "behavior", "of", "users", "who", "want", "to", "access", "the", "network", ".", "The", "Distributed", "Coordination", "Function", "-LRB-", "DCF", "-RRB-", ",", "which", "describes", "the", "default", "MAC", "protocol", "operation", ",", "is", "based", "on", "a", "scheme", "known", "as", "carrier-sense", ",", "multiple", "access", ",", "collision", "avoidance", "-LRB-", "CSMA/CA", "-RRB-", ".", "Both", "the", "MAC", "and", "PHY", "layers", "cooperate", "in", "order", "to", "implement", "collision", "avoidance", "procedures", ".", "The", "PHY", "layer", "samples", "the", "received", "energy", "over", "the", "medium", "transmitting", "data", "and", "uses", "a", "clear", "channel", "assessment", "-LRB-", "CCA", "-RRB-", "algorithm", "to", "determine", "if", "the", "channel", "is", "clear", ".", "This", "is", "accomplished", "by", "measuring", "the", "RF", "energy", "at", "the", "antenna", "and", "determining", "the", "strength", "of", "the", "received", "signal", "commonly", "known", "as", "RSSI", ",", "or", "received", "signal", "strength", "indicator", ".", "In", "addition", ",", "carrier", "sense", "can", "be", "used", "to", "determine", "if", "the", "channel", "is", "available", ".", "This", "technique", "is", "more", "selective", "since", "it", "verifies", "that", "the", "signal", "is", "the", "same", "carrier", "type", "as", "802.11", "transmitters", ".", "In", "all", "of", "our", "simulations", ",", "we", "use", "carrier", "sense", "and", "not", "RSSI", "to", "determine", "if", "the", "channel", "is", "busy", ".", "Thus", ",", "a", "Bluetooth", "signal", "will", "corrupt", "WLAN", "packets", ",", "but", "it", "will", "not", "cause", "the", "WLAN", "to", "defer", "transmission", ".", "A", "virtual", "carrier", "sense", "mechanism", "is", "also", "provided", "at", "the", "MAC", "layer", ".", "It", "uses", "the", "request-to-send", "-LRB-", "RTS", "-RRB-", "and", "clear-to-send", "-LRB-", "CTS", "-RRB-", "message", "exchange", "to", "make", "predictions", "of", "future", "traffic", "on", "the", "medium", "and", "updates", "the", "network", "allocation", "vector", "-LRB-", "NAV", "-RRB-", "available", "in", "stations", ".", "Communication", "is", "established", "when", "one", "of", "the", "wireless", "nodes", "sends", "a", "short", "RTS", "frame", ".", "The", "receiving", "station", "issues", "a", "CTS", "frame", "that", "echoes", "the", "sender", "'s", "address", ".", "If", "the", "CTS", "frame", "is", "not", "received", ",", "it", "is", "assumed", "that", "a", "collision", "occurred", "and", "the", "RTS", "process", "starts", "over", ".", "Regardless", "of", "whether", "the", "virtual", "carrier", "sense", "routine", "is", "used", "or", "not", ",", "the", "MAC", "is", "required", "to", "implement", "a", "basic", "access", "procedure", "-LRB-", "depicted", "in", "figure", "2", "-RRB-", "as", "follows", ".", "If", "a", "station", "has", "data", "to", "send", ",", "it", "waits", "for", "the", "channel", "to", "be", "idle", "through", "the", "use", "of", "the", "CSMA/CA", "algorithm", ".", "If", "the", "medium", "is", "sensed", "idle", "for", "a", "period", "greater", "than", "a", "DCF", "interframe", "space", "-LRB-", "DIFS", "-RRB-", ",", "the", "station", "goes", "into", "a", "backoff", "procedure", "before", "it", "sends", "its", "frame", ".", "Upon", "the", "successful", "reception", "of", "a", "frame", ",", "the", "destination", "station", "returns", "an", "ACK", "frame", "after", "a", "Short", "interframe", "space", "-LRB-", "SIFS", "-RRB-", ".", "The", "backoff", "window", "is", "based", "on", "a", "random", "value", "uniformly", "distributed", "in", "the", "interval", "-LSB-", "CW", "min", ",", "CW", "max", "-RSB-", ",", "where", "CW", "min", "and", "CW", "max", "represent", "the", "Contention", "Window", "parameters", ".", "If", "the", "medium", "is", "determined", "busy", "at", "any", "time", "during", "the", "backoff", "slot", ",", "the", "backoff", "procedure", "is", "suspended", ".", "It", "is", "resumed", "after", "the", "medium", "has", "been", "idle", "for", "the", "duration", "of", "the", "DIFS", "period", ".", "If", "an", "ACK", "is", "not", "received", "within", "an", "ACK", "timeout", "interval", ",", "the", "station", "assumes", "that", "either", "the", "data", "frame", "or", "the", "ACK", "was", "lost", "204", "GOLMIE", "ET", "AL.", "and", "needs", "to", "retransmit", "its", "data", "frame", "by", "repeating", "the", "basic", "access", "procedure", ".", "Errors", "are", "detected", "by", "checking", "the", "Frame", "Check", "Sequence", "-LRB-", "FCS", "-RRB-", "that", "is", "appended", "to", "the", "packet", "payload", ".", "In", "case", "an", "error", "is", "found", ",", "the", "packet", "is", "dropped", "and", "is", "then", "later", "retransmitted", "In", "this", "section", ",", "we", "describe", "the", "methodology", "and", "platform", "used", "to", "conduct", "the", "performance", "evaluation", ".", "The", "simulation", "environment", "consists", "of", "detailed", "models", "for", "the", "RF", "channel", ",", "the", "PHY", ",", "and", "MAC", "layers", "developed", "in", "C", "and", "OPNET", "-LRB-", "for", "the", "MAC", "layer", "-RRB-", ".", "These", "detailed", "simulation", "models", "constitute", "an", "evaluation", "framework", "that", "is", "critical", "to", "studying", "the", "various", "intricate", "effects", "between", "the", "MAC", "and", "PHY", "layers", ".", "Although", "interference", "is", "typically", "associated", "with", "the", "RF", "channel", "modeling", "and", "measured", "at", "the", "PHY", "layer", ",", "it", "can", "significantly", "impact", "the", "performance", "of", "higher", "layer", "applications", "including", "the", "MAC", "layer", ".", "Similarly", ",", "changes", "in", "the", "behavior", "of", "the", "MAC", "layer", "protocol", "and", "the", "associated", "data", "traffic", "distribution", "can", "play", "an", "important", "factor", "in", "the", "interference", "scenario", "and", "affect", "the", "overall", "system", "performance", ".", "Figure", "3", "shows", "a", "packet", "being", "potentially", "corrupted", "by", "two", "interference", "packets", ".", "Consider", "that", "the", "desired", "packet", "is", "from", "the", "WLAN", "and", "the", "interference", "packets", "are", "Bluetooth", "-LRB-", "the", "figure", "is", "equally", "valid", "if", "the", "roles", "are", "reversed", ",", "except", "that", "the", "frequencies", "of", "the", "packets", "will", "be", "different", "-RRB-", ".", "For", "interference", "to", "occur", ",", "the", "packets", "must", "overlap", "in", "both", "time", "and", "frequency", ".", "That", "is", ",", "the", "interference", "packets", "must", "be", "within", "the", "22", "MHz", "bandwidth", "of", "the", "WLAN", ".", "In", "a", "system", "with", "many", "Bluetooth", "piconets", ",", "there", "may", "be", "interference", "from", "more", "than", "one", "packet", "at", "any", "given", "time", ".", "We", "define", "a", "period", "of", "stationarity", "-LRB-", "POS", "-RRB-", "as", "the", "time", "during", "which", "the", "interference", "is", "constant", ".", "For", "example", ",", "t", "i", "t", "t", "i", "+1", "is", "such", "a", "period", ",", "as", "is", "t", "i", "+1", "t", "t", "i", "+2", ".", "Even", "during", "a", "POS", "where", "there", "is", "one", "or", "more", "interferers", ",", "the", "number", "and", "location", "of", "bit", "errors", "in", "the", "desired", "packet", "depends", "on", "a", "number", "of", "factors", ":", "-LRB-", "1", "-RRB-", "the", "signal-to-interference", "ratio", "-LRB-", "SIR", "-RRB-", "and", "the", "signal-to-noise", "ratio", "at", "the", "receiver", ",", "-LRB-", "2", "-RRB-", "the", "type", "of", "modulation", "used", "by", "the", "transmitter", "and", "the", "interferer", ",", "and", "-LRB-", "3", "-RRB-", "the", "channel", "model", ".", "For", "this", "reason", ",", "it", "is", "essential", "to", "use", "accurate", "models", "of", "the", "PHY", "and", "channel", ",", "as", "described", "below", ".", "Just", "because", "two", "packets", "overlap", "in", "time", "and", "frequency", "does", "not", "necessary", "lead", "to", "bit", "errors", "and", "the", "consequent", "packet", "loss", ".", "While", "one", "can", "use", "-LRB-", "semi", "-", "-RRB-", "analytic", "models", "instead", ",", "such", "as", "approximating", "Bluetooth", "interference", "on", "WLAN", "as", "a", "narrowband", "tone", "jammer", ",", "the", "use", "of", "detailed", "signal", "processing-based", "models", "better", "allows", "one", "to", "handle", "multiple", "simultaneous", "interferers", ".", "In", "order", "to", "simulate", "the", "overall", "system", ",", "an", "interface", "module", "was", "created", "that", "allows", "the", "MAC", "models", "to", "use", "the", "physical", "layer", "and", "channel", "models", ".", "This", "interface", "module", "captures", "all", "changes", "in", "the", "channel", "state", "-LRB-", "mainly", "in", "the", "energy", "level", "-RRB-", ".", "Consider", "the", "Bluetooth", "transmitter", "channel", "receiver", "chain", "of", "processes", ".", "For", "a", "given", "packet", ",", "the", "transmitter", "creates", "a", "set", "of", "Figure", "3", ".", "Packet", "collision", "and", "placement", "of", "errors", ".", "The", "bit", "error", "rate", "-LRB-", "BER", "-RRB-", "is", "roughly", "constant", "during", "each", "of", "the", "three", "indicated", "periods", ".", "signal", "samples", "that", "are", "corrupted", "by", "the", "channel", "and", "input", "to", "the", "receiver", ";", "interference", "may", "be", "present", "for", "all", "or", "only", "specific", "periods", "of", "stationarity", ",", "as", "shown", "in", "figure", "3", ".", "A", "similar", "chain", "of", "processing", "occurs", "for", "an", "802.11", "b", "packet", ".", "The", "interface", "module", "is", "designed", "to", "process", "a", "packet", "at", "a", "time", ".", "At", "the", "end", "of", "each", "packet", "transmission", ",", "the", "MAC", "layer", "generates", "a", "data", "structure", "that", "contains", "all", "the", "information", "required", "to", "process", "the", "packet", ".", "This", "structure", "includes", "a", "list", "of", "all", "the", "interfering", "packets", "with", "their", "respective", "duration", ",", "timing", "offset", ",", "frequency", ",", "and", "transmitted", "power", ".", "The", "topology", "of", "the", "scenario", "is", "also", "included", ".", "The", "data", "structure", "is", "then", "passed", "to", "the", "physical", "layer", "along", "with", "a", "stream", "of", "bits", "representing", "the", "packet", "being", "transmitted", ".", "The", "physical", "layer", "returns", "the", "bit", "stream", "after", "placing", "the", "errors", "resulting", "from", "the", "interference", ".", "3.1", ".", "MAC", "model", "We", "used", "OPNET", "to", "develop", "a", "simulation", "model", "for", "the", "Bluetooth", "and", "IEEE", "802.11", "protocols", ".", "For", "Bluetooth", ",", "we", "implemented", "the", "access", "protocol", "according", "to", "the", "specifications", "-LSB-", "2", "-RSB-", ".", "We", "assume", "that", "a", "connection", "is", "already", "established", "between", "the", "master", "and", "the", "slave", "and", "that", "the", "synchronization", "process", "is", "complete", ".", "The", "Bluetooth", "hopping", "pattern", "algorithm", "is", "implemented", ".", "Details", "of", "the", "algorithm", "are", "provided", "in", "section", "2.1", ".", "A", "pseudo-random", "number", "generator", "is", "used", "instead", "of", "the", "implementation", "specific", "circuitry", "that", "uses", "the", "master", "'s", "clock", "and", "48-bit", "address", "to", "derive", "a", "random", "number", ".", "For", "the", "IEEE", "802.11", "protocol", ",", "we", "used", "the", "model", "available", "in", "the", "OPNET", "library", "and", "modified", "it", "to", "bypass", "the", "OPNET", "radio", "model", "and", "to", "use", "our", "MAC/PHY", "interface", "module", ".", "We", "focus", "in", "this", "study", "on", "the", "Direct", "Sequence", "mode", "which", "uses", "a", "fixed", "frequency", "that", "occupies", "22", "MHz", "of", "the", "frequency", "band", ".", "The", "center", "frequency", "is", "set", "to", "2.437", "GHz", ".", "At", "the", "MAC", "layer", ",", "a", "set", "of", "performance", "metrics", "are", "defined", "including", "probability", "of", "packet", "loss", ".", "Packet", "loss", "measures", "the", "number", "of", "packets", "discarded", "at", "the", "MAC", "layer", "due", "to", "errors", "in", "the", "bit", "stream", ".", "This", "measure", "is", "calculated", "after", "performing", "error", "correction", ".", "3.2", ".", "PHY", "model", "The", "transmitters", ",", "channel", ",", "and", "receivers", "are", "implemented", "at", "complex", "baseband", ".", "For", "a", "given", "transmitter", ",", "inphase", "INTERFERENCE", "EVALUATION", "OF", "BLUETOOTH", "AND", "IEEE", "802.11", "b", "SYSTEMS", "205", "and", "quadrature", "samples", "are", "generated", "at", "a", "sampling", "rate", "of", "44", "10", "6", "per", "second", ".", "This", "rate", "provides", "four", "samples/symbol", "for", "the", "11", "Mbit/s", "802.11", "mode", ",", "enough", "to", "implement", "a", "good", "receiver", ".", "It", "is", "also", "high", "enough", "to", "allow", "digital", "modulation", "of", "the", "Bluetooth", "signal", "to", "account", "for", "its", "frequency", "hopping", ".", "Specifically", ",", "since", "the", "Bluetooth", "signal", "is", "approximately", "1", "MHz", "wide", ",", "it", "can", "be", "modulated", "up", "to", "almost", "22", "MHz", ",", "which", "is", "more", "than", "enough", "to", "cover", "the", "11", "MHz", "bandwidth", "-LRB-", "one-sided", "-RRB-", "of", "the", "802.11", "signal", ".", "The", "received", "complex", "samples", "from", "both", "the", "desired", "transmitter", "and", "the", "interferer", "-LRB-", "s", "-RRB-", "are", "added", "together", "at", "the", "receiver", ".", "While", "there", "are", "a", "number", "of", "possible", "Bluetooth", "receiver", "designs", ",", "we", "chose", "to", "implement", "the", "noncoherent", "limiter-discriminator", "-LRB-", "LD", "-RRB-", "receiver", "-LSB-", "3,14", "-RSB-", ".", "Its", "simplicity", "and", "relatively", "low", "cost", "should", "make", "it", "the", "most", "common", "type", "for", "many", "consumer", "applications", ".", "Details", "of", "the", "actual", "design", "are", "given", "in", "-LSB-", "15", "-RSB-", ".", "In", "the", "802.11", "b", "CCK", "receiver", ",", "each", "group", "of", "eight", "information", "bits", "chooses", "a", "sequence", "of", "eight", "consecutive", "chips", "that", "forms", "a", "symbol", ".", "As", "before", ",", "the", "inphase", "and", "quadrature", "components", "of", "these", "chips", "are", "transmitted", ".", "The", "receiver", "looks", "at", "the", "received", "symbol", "and", "decides", "which", "was", "the", "most", "likely", "transmitted", "one", ".", "While", "one", "can", "implement", "this", "decoding", "procedure", "by", "correlating", "against", "all", "256", "possible", "symbols", ",", "we", "chose", "a", "slightly", "sub-optimal", ",", "but", "considerably", "faster", "architecture", "similar", "to", "the", "Walsh", "Hadamard", "transform", ";", "again", "details", "can", "be", "found", "in", "-LSB-", "15", "-RSB-", ".", "3.3", ".", "Channel", "model", "The", "channel", "model", "consists", "of", "a", "geometry-based", "propagation", "model", "for", "the", "signals", ",", "as", "well", "as", "a", "noise", "model", ".", "For", "the", "indoor", "channel", ",", "we", "apply", "a", "propagation", "model", "consisting", "of", "two", "parts", ":", "-LRB-", "1", "-RRB-", "line-of-sight", "propagation", "-LRB-", "free-space", "-RRB-", "for", "the", "first", "8", "m", ",", "and", "-LRB-", "2", "-RRB-", "a", "propagation", "exponent", "of", "3.3", "for", "distances", "over", "8", "m.", "Consequently", ",", "the", "path", "loss", "in", "dB", "is", "given", "by", "L", "p", "=", "32.45", "+", "20", "log", "-LRB-", "f", "d", "-RRB-", "if", "d", "<", "8", "m", ",", "58.3", "+", "33", "log", "d8", "otherwise", ",", "-LRB-", "1", "-RRB-", "where", "f", "is", "the", "frequency", "in", "GHz", ",", "and", "d", "is", "the", "distance", "in", "meters", ".", "This", "model", "is", "similar", "to", "the", "one", "used", "by", "Kamerman", "-LSB-", "10", "-RSB-", ".", "Assuming", "unit", "gain", "for", "the", "transmitter", "and", "receiver", "antennas", "and", "ignoring", "additional", "losses", ",", "the", "received", "power", "in", "dBmW", "is", "P", "R", "=", "P", "T", "-", "L", "p", ",", "-LRB-", "2", "-RRB-", "where", "P", "T", "is", "the", "transmitted", "power", "also", "in", "dBmW", ".", "Equation", "-LRB-", "2", "-RRB-", "is", "used", "for", "calculating", "the", "power", "received", "at", "a", "given", "point", "due", "to", "either", "a", "Bluetooth", "or", "an", "802.11", "transmitter", ",", "since", "this", "equation", "does", "not", "depend", "on", "the", "modulation", "method", ".", "The", "main", "parameter", "that", "drives", "the", "PHY", "layer", "performance", "is", "the", "signal-to-interference", "ratio", "between", "the", "desired", "signal", "and", "the", "interfering", "signal", ".", "This", "ratio", "is", "given", "in", "dB", "by", "SIR", "=", "P", "R", "-", "P", "I", ",", "-LRB-", "3", "-RRB-", "where", "P", "I", "is", "the", "interference", "power", "at", "the", "receiver", ".", "In", "the", "absence", "of", "interference", ",", "the", "bit", "error", "rate", "for", "either", "the", "Bluetooth", "or", "WLAN", "system", "is", "almost", "negligible", "for", "the", "transmitter", "powers", "and", "ranges", "under", "consideration", ".", "To", "complete", "the", "channel", "model", ",", "noise", "is", "added", "to", "the", "received", "samples", ",", "according", "to", "the", "specified", "SNR", ".", "In", "decibels", ",", "the", "signal-to-noise", "ratio", "is", "defined", "by", "SNR", "=", "P", "R", "-", "S", "R", ",", "where", "P", "R", "is", "the", "received", "signal", "power", ",", "and", "S", "R", "is", "the", "receiver", "'s", "sensitivity", "in", "dBmW", ";", "this", "latter", "value", "is", "dependent", "on", "the", "receiver", "model", "and", "so", "is", "an", "input", "parameter", ".", "Additive", "white", "Gaussian", "noise", "-LRB-", "AWGN", "-RRB-", "is", "used", "to", "model", "the", "noise", "at", "the", "receivers", ".", "3.4", ".", "Model", "validation", "The", "results", "obtained", "from", "the", "simulation", "models", "were", "validated", "against", "experimental", "and", "analytical", "results", ".", "Since", "the", "implementation", "of", "the", "PHY", "layer", "required", "choosing", "a", "number", "of", "design", "parameters", ",", "the", "first", "step", "in", "the", "validation", "process", "is", "comparing", "the", "PHY", "results", "against", "theoretical", "results", ".", "Complete", "BER", "curves", "of", "the", "Bluetooth", "and", "802.11", "b", "systems", "are", "given", "in", "-LSB-", "15", "-RSB-", ";", "for", "the", "AWGN", "and", "flat", "Rician", "channels", "without", "interference", ",", "all", "the", "results", "match", "very", "closely", "to", "analytical", "bounds", "and", "other", "simulation", "results", ".", "Also", ",", "the", "simulation", "results", "for", "both", "the", "MAC", "and", "PHY", "models", "were", "compared", "and", "validated", "against", "analytical", "results", "for", "packet", "loss", "given", "different", "traffic", "scenarios", "-LSB-", "6", "-RSB-", ".", "For", "the", "experimental", "testing", ",", "we", "use", "the", "topology", "in", "figure", "4", "and", "compare", "the", "packet", "loss", "observed", "for", "Bluetooth", "voice", "and", "WLAN", "data", "with", "the", "simulation", "results", "in", "figure", "5", ".", "The", "experimental", "and", "simulation", "results", "are", "in", "good", "agreement", "We", "present", "simulation", "results", "to", "evaluate", "the", "performance", "of", "Bluetooth", "in", "the", "presence", "of", "WLAN", "interference", "and", "vice", "versa", ".", "First", ",", "we", "consider", "the", "effects", "of", "parameters", "such", "as", "transmitted", "power", ",", "offered", "load", ",", "hop", "rate", ",", "and", "traffic", "type", "on", "interference", ".", "Second", ",", "we", "look", "at", "two", "realistic", "interference", "scenarios", "to", "quantify", "the", "severity", "of", "the", "performance", "degradation", "for", "the", "Bluetooth", "and", "WLAN", "systems", ".", "4.1", ".", "Factors", "effecting", "interference", "We", "first", "consider", "a", "four", "node", "topology", "consisting", "of", "two", "WLAN", "devices", "and", "two", "Bluetooth", "devices", "-LRB-", "one", "master", "and", "one", "slave", "-RRB-", "as", "shown", "in", "figure", "4", ".", "The", "WLAN", "access", "point", "-LRB-", "AP", "-RRB-", "is", "located", "at", "-LRB-", "0", ",", "15", "-RRB-", "m", ",", "and", "the", "WLAN", "mobile", "is", "fixed", "at", "-LRB-", "0", ",", "1", "-RRB-", "m", ".", "The", "Bluetooth", "slave", "device", "is", "fixed", "at", "-LRB-", "0", ",", "0", "-RRB-", "m", "and", "the", "master", "is", "fixed", "at", "-LRB-", "1", ",", "0", "-RRB-", "m", ".", "In", "an", "effort", "to", "control", "the", "interference", "on", "Bluetooth", "and", "WLAN", ",", "we", "define", "two", "scenarios", ".", "In", "the", "first", "scenario", ",", "we", "let", "the", "mobile", "be", "the", "generator", "of", "802.11", "data", ",", "while", "the", "AP", "is", "the", "sink", ".", "In", "this", "case", ",", "the", "interference", "is", "from", "the", "mobile", "sending", "data", "packets", "to", "the", "AP", "and", "receiving", "acknowledgments", "-LRB-", "ACKs", "-RRB-", "from", "it", ".", "Since", "most", "of", "the", "WLAN", "traffic", "is", "206", "GOLMIE", "ET", "AL.", ".", "Figure", "4", ".", "Topology", "1", ".", "Two", "WLAN", "devices", "and", "one", "Bluetooth", "piconet", ".", "Table", "2", "Summary", "of", "the", "scenarios", ".", "Scenario", "Desired", "Interferer", "WLAN", "WLAN", "signal", "signal", "AP", "mobile", "1", "Bluetooth", "WLAN", "Sink", "Source", "2", "WLAN", "Bluetooth", "Source", "Sink", "originating", "close", "to", "the", "Bluetooth", "piconet", ",", "both", "the", "master", "and", "the", "slave", "may", "suffer", "from", "serious", "interference", ".", "In", "the", "second", "scenario", ",", "the", "traffic", "is", "generated", "at", "the", "AP", "and", "received", "at", "the", "WLAN", "mobile", ".", "Because", "the", "data", "packets", "are", "generally", "longer", "then", "the", "ACKs", ",", "this", "is", "a", "more", "critical", "scenario", "for", "the", "WLAN", "then", "when", "the", "mobile", "is", "the", "source", ".", "Table", "2", "summarizes", "the", "two", "scenarios", ".", "For", "Bluetooth", ",", "we", "consider", "two", "types", "of", "applications", ",", "voice", "and", "data", ".", "For", "voice", ",", "we", "assume", "a", "symmetric", "stream", "of", "64", "Kbit/s", "each", "way", "using", "HV1", "packet", "encapsulation", ".", "For", "data", "traffic", ",", "we", "consider", "a", "source", "that", "generates", "DM5", "packets", ".", "The", "packet", "interarrival", "time", "is", "exponentially", "distributed", ",", "and", "its", "mean", "in", "seconds", "is", "computed", "according", "to", "t", "B", "=", "2", "n", "s", "T", "s", ",", "-LRB-", "4", "-RRB-", "where", "is", "the", "offered", "load", ";", "n", "s", "is", "the", "number", "of", "slots", "occupied", "by", "a", "packet", ".", "For", "DM5", ",", "n", "s", "=", "5", ".", "T", "s", "is", "the", "slot", "size", "equal", "to", "625", "s.", "For", "WLAN", ",", "we", "use", "the", "11", "Mbit/s", "mode", "and", "consider", "a", "data", "application", ".", "Typical", "applications", "for", "WLAN", "could", "be", "ftp", "or", "http", ".", "However", ",", "since", "we", "are", "mainly", "interested", "in", "the", "MAC", "layer", "performance", ",", "we", "abstract", "the", "parameters", "for", "the", "application", "model", "to", "packet", "size", "and", "offered", "load", "and", "do", "not", "model", "the", "entire", "TCP/IP", "stack", ".", "We", "fix", "the", "packet", "payload", "to", "12,000", "bits", "which", "is", "the", "maximum", "size", "for", "the", "MAC", "payload", "data", "unit", ",", "and", "vary", ".", "The", "packet", "interarrival", "time", "in", "seconds", ",", "t", "W", ",", "is", "exponentially", "distributed", ",", "and", "its", "mean", "is", "computed", "acTable", "3", "Simulation", "parameters", "Simulation", "parameters", "Values", "Propagation", "delay", "5", "s/km", "Length", "of", "simulation", "run", "30", "s", "Bluetooth", "parameters", "ACL", "Baseband", "Packet", "Encapsulation", "DM5", "SCO", "Baseband", "Packet", "Encapsulation", "HV1", "Transmitted", "Power", "1", "mW", "WLAN", "parameters", "Transmitted", "power", "25", "mW", "Packet", "header", "224", "bits", "Packet", "payload", "12,000", "bits", "cording", "to", "t", "W", "=", "192/1", ",000,000", "+", "12,224", "/", "11,000,000", ",", "-LRB-", "5", "-RRB-", "where", "the", "192-bit", "PLCP", "header", "is", "sent", "at", "1", "Mbit/s", "and", "the", "payload", "at", "11", "Mbit/s", ".", "Unless", "specified", "otherwise", ",", "we", "use", "the", "configuration", "and", "system", "parameters", "shown", "in", "table", "3", ".", "For", "scenarios", "1", "and", "2", ",", "we", "run", "15", "trials", "using", "a", "different", "random", "seed", "for", "each", "trial", ".", "In", "addition", "to", "plotting", "the", "mean", "value", ",", "confidence", "intervals", ",", "showing", "plus", "and", "minus", "two", "standard", "deviations", ",", "are", "also", "included", ".", "From", "figures", "5", "and", "6", ",", "one", "sees", "that", "the", "statistical", "variation", "around", "the", "mean", "values", "are", "very", "small", ".", "In", "addition", "to", "the", "comparisons", "with", "analytical", "and", "experimental", "results", "described", "in", "section", "3.4", ",", "this", "fact", "provides", "further", "validation", "for", "the", "results", ".", "4.1.1", ".", "WLAN", "transmission", "power", "First", ",", "we", "look", "at", "the", "effect", "on", "Bluetooth", "of", "increasing", "the", "WLAN", "transmission", "power", "in", "scenario", "1", ";", "that", "is", ",", "increasing", "the", "interferer", "transmission", "power", "on", "the", "victim", "signal", ".", "Since", "power", "control", "algorithms", "exist", "in", "many", "WLAN", "implementa-tions", ",", "it", "is", "important", "to", "consider", "how", "varying", "the", "transmitted", "power", "changes", "the", "interference", ".", "However", ",", "since", "Bluetooth", "was", "designed", "as", "a", "low", "power", "device", ",", "we", "fix", "its", "transmitter", "power", "at", "1", "mW", "for", "all", "simulations", ".", "We", "fix", "WLAN", "to", "60", "%", "for", "different", "Bluetooth", "traffic", "types", "and", "values", "of", ".", "In", "figure", "5", "-LRB-", "a", "-RRB-", ",", "we", "note", "a", "saturation", "effect", "around", "10", "mW", ".", "A", "threshold", ",", "which", "is", "close", "to", "22/79", ",", "corresponds", "to", "the", "probability", "that", "Bluetooth", "is", "hopping", "in", "the", "WLAN", "occupied", "band", ".", "Thus", ",", "increasing", "the", "WLAN", "transmission", "power", "beyond", "10", "mW", "does", "not", "affect", "the", "Bluetooth", "packet", "loss", ".", "Between", "1", "and", "5", "mW", ",", "a", "small", "change", "in", "the", "WLAN", "transmitted", "power", "triples", "the", "Bluetooth", "packet", "loss", ".", "Please", "note", "the", "relative", "positions", "of", "the", "packet", "loss", "curves", "for", "different", "values", "of", "between", "1", "and", "5", "mW", ";", "as", "increases", ",", "the", "packet", "loss", "is", "higher", ".", "Also", ",", "note", "that", "Bluetooth", "voice", "has", "the", "lowest", "packet", "loss", ",", "partly", "due", "to", "its", "short", "packet", "size", ".", "A", "second", "reason", "for", "the", "low", "loss", "probability", "is", "that", "voice", "packets", "are", "rejected", "only", "if", "there", "are", "errors", "in", "the", "access", "code", "or", "packet", "headers", ",", "cf.", "table", "1", ".", "A", "packet", "may", "be", "accepted", "with", "a", "relatively", "large", "number", "of", "bit", "errors", "in", "the", "payload", ",", "which", "may", "lead", "to", "a", "substantial", "reduction", "in", "subjective", "voice", "quality", ".", "Figure", "5", "-LRB-", "b", "-RRB-", "shows", "the", "probability", "of", "packet", "loss", "for", "the", "WLAN", "mobile", "device", ".", "This", "corresponds", "to", "ACKs", "being", "INTERFERENCE", "EVALUATION", "OF", "BLUETOOTH", "AND", "IEEE", "802.11", "b", "SYSTEMS", "207", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "5", ".", "WLAN", "=", "60", "%", ".", "-LRB-", "a", "-RRB-", "Scenario", "1", ".", "Probability", "of", "packet", "loss", "for", "the", "Bluetooth", "slave", ".", "-LRB-", "b", "-RRB-", "Scenario", "1", ".", "Probability", "of", "packet", "loss", "for", "the", "WLAN", "mobile", ".", "-LRB-", "c", "-RRB-", "Scenario", "2", ".", "Probability", "of", "packet", "loss", "for", "the", "WLAN", "mobile", ".", "dropped", "at", "the", "WLAN", "source", ".", "The", "general", "trend", "is", "that", "the", "packet", "loss", "decreases", "as", "the", "WLAN", "transmitted", "power", "increases", ".", "However", ",", "we", "notice", "a", "slight", "``", "bump", "''", "between", "1", "and", "5", "mW", ".", "This", "is", "due", "to", "the", "effect", "of", "closed-loop", "interference", ".", "The", "WLAN", "source", "increases", "its", "transmitted", "power", "and", "causes", "more", "interference", "on", "the", "Bluetooth", "devices", ";", "as", "a", "result", ",", "there", "are", "more", "retransmissions", "in", "both", "the", "Bluetooth", "and", "WLAN", "piconets", ",", "which", "causes", "more", "lost", "ACKs", "at", "the", "WLAN", "source", ".", "Next", ",", "we", "consider", "the", "effect", "of", "increasing", "the", "WLAN", "transmission", "power", "on", "the", "WLAN", "performance", "in", "scenario", "2", ".", "From", "figure", "5", "-LRB-", "c", "-RRB-", ",", "we", "observe", "that", "even", "if", "the", "WLAN", "transmission", "power", "is", "fifty", "times", "more", "than", "the", "Bluetooth", "transmission", "power", "-LRB-", "fixed", "at", "1", "mW", "-RRB-", ",", "the", "packet", "loss", "for", "the", "WLAN", "does", "not", "change", ".", "This", "leads", "us", "to", "an", "interesting", "observation", "on", "power", "control", ".", "Basically", ",", "we", "note", "that", "increasing", "the", "transmission", "power", "does", "not", "necessarily", "improve", "the", "performance", ".", "However", ",", "decreasing", "the", "transmission", "power", "is", "usu-ally", "a", "``", "good", "neighbor", "''", "strategy", "that", "may", "help", "reduce", "the", "interference", "on", "other", "devices", ".", "4.1.2", ".", "Offered", "load", "The", "offered", "load", ",", "also", "referred", "to", "in", "some", "cases", "as", "duty", "cycle", ",", "is", "an", "interesting", "parameter", "to", "track", ".", "Consider", "scenario", "1", "where", "Bluetooth", "is", "the", "interferer", "and", "fix", "the", "WLAN", "transmission", "power", "to", "25", "mW", ".", "We", "observe", "that", "for", "the", "WLAN", ",", "the", "packet", "loss", "is", "proportional", "to", "the", "Bluetooth", "offered", "load", "as", "shown", "in", "figure", "6", ".", "For", "equal", "20", "%", ",", "50", "%", ",", "and", "100", "%", ",", "the", "packet", "loss", "is", "7", "%", ",", "15", "%", ",", "and", "25", "%", ",", "respectively", ".", "This", "observation", "has", "been", "confirmed", "analytically", "in", "-LSB-", "6", "-RSB-", ",", "where", "the", "packet", "error", "is", "shown", "to", "depend", "not", "only", "on", "the", "offered", "load", "of", "the", "interferer", "system", "but", "also", "on", "the", "packet", "sizes", "of", "both", "systems", ".", "Also", "note", "that", "the", "probability", "of", "loss", "for", "the", "30", "%", "WLAN", "of-208", "GOLMIE", "ET", "AL.", ".", "Figure", "6", ".", "Scenario", "2", ".", "Probability", "of", "packet", "loss", "for", "the", "WLAN", "mobile", ".", "fered", "load", "is", "slightly", "higher", "than", "for", "the", "60", "%", "WLAN", "offered", "load", ".", "However", ",", "this", "difference", "is", "statistically", "insignificant", ".", "The", "significance", "of", "the", "packet", "size", "is", "apparent", "in", "figures", "5", "-LRB-", "a", "-RRB-", "and", "-LRB-", "c", "-RRB-", ",", "where", "short", "Bluetooth", "voice", "packets", "lead", "to", "less", "packet", "loss", "for", "Bluetooth", "but", "cause", "more", "interference", "for", "WLAN", ".", "However", ",", "for", "the", "WLAN", "11", "Mbit/s", "rate", ",", "the", "effect", "of", "changing", "the", "WLAN", "packet", "size", "over", "the", "range", "1,000", "to", "12,000", "bits", "has", "very", "little", "effect", "on", "the", "performance", "of", "both", "the", "WLAN", "and", "Bluetooth", ",", "and", "that", "is", "due", "to", "the", "relatively", "short", "transmission", "time", "of", "the", "WLAN", "packet", ".", "At", "the", "1", "Mbit/s", "rate", ",", "WLAN", "packets", "of", "the", "same", "bit", "lengths", "take", "considerably", "longer", "to", "transmit", ",", "and", "the", "effect", "of", "packet", "size", "is", "somewhat", "more", "pronounced", ".", "For", "a", "further", "discussion", "of", "the", "1", "Mbit/s", "case", ",", "please", "see", "-LSB-", "7", "-RSB-", ".", "4.1.3", ".", "Bluetooth", "hop", "rate", "In", "order", "to", "highlight", "the", "effect", "of", "the", "Bluetooth", "hop", "rate", "on", "WLAN", ",", "we", "use", "different", "packet", "types", ",", "DM1", ",", "DM3", ",", "and", "DM5", ";", "these", "packets", "occupy", "1", ",", "3", ",", "and", "5", "time", "slots", ",", "respectively", ".", "The", "Bluetooth", "hop", "rate", "is", "determined", "by", "the", "number", "of", "time", "slots", "occupied", "by", "a", "packet", ".", "Thus", ",", "the", "hop", "rate", "is", "1600", ",", "533", ",", "and", "320", "hops/s", "for", "DM1", ",", "DM3", ",", "and", "DM5", "packets", ",", "respectively", ".", "The", "offered", "load", "for", "Bluetooth", "is", "set", "to", "100", "%", ".", "The", "results", "in", "table", "4", "clearly", "indicate", "that", "a", "faster", "hop", "rate", "leads", "to", "higher", "packet", "losses", "-LRB-", "44", "%", ",", "28", "%", ",", "and", "26", "%", "for", "DM1", ",", "DM3", "and", "DM5", ",", "respectively", "-RRB-", ".", "Note", "that", "the", "results", "are", "rather", "insensitive", "to", "the", "WLAN", "offered", "load", ".", "4.1.4", ".", "Bluetooth", "traffic", "type", "The", "question", "here", "is", ",", "whether", "Bluetooth", "voice", "effects", "WLAN", "more", "than", "Bluetooth", "data", ",", "and", "vice", "versa", ".", "We", "use", "three", "types", "of", "packets", "for", "voice", "encapsulation", ",", "namely", ",", "HV1", ",", "HV2", ",", "and", "HV3", ".", "HV1", "represents", "the", "worst", "case", "of", "interference", "for", "WLAN", "as", "shown", "in", "table", "5", "with", "44", "%", "packet", "loss", ".", "HV2", "and", "HV3", ",", "which", "contain", "less", "error", "correction", "and", "more", "user", "information", ",", "are", "sent", "less", "often", "and", ",", "therefore", ",", "interfer", "less", "with", "WLAN", "-LRB-", "25", "%", "and", "16", "%", "for", "HV2", "and", "HV3", ",", "respectively", "-RRB-", ".", "The", "Table", "4", "Scenario", "2", ".", "Probability", "of", "WLAN", "packet", "loss", "versus", "Bluetooth", "hop", "rate", ".", "BT", "WLAN", "=", "30", "%", "WLAN", "=", "60", "%", "DM1", "0.449", "0.449", "DM3", "0.286", "0.277", "DM5", "0.269", "0.248", "Table", "5", "Scenario", "2", ".", "Probability", "of", "WLAN", "packet", "loss", "versus", "Bluetooth", "traffic", "type", ".", "BT", "WLAN", "=", "30", "%", "WLAN", "=", "60", "%", "Voice", "HV1", "0.446", "0.470", "HV2", "0.253", "0.257", "HV3", "0.166", "0.169", "Data", ",", "=", "60", "%", "0.191", "0.177", "Table", "6", "Scenario", "1", ".", "Probability", "of", "Bluetooth", "packet", "loss", "versus", "Bluetooth", "traffic", "type", ".", "BT", "WLAN", "=", "30", "%", "WLAN", "=", "60", "%", "Voice", "HV1", "0.077", "0.141", "HV2", "0.075", "0.149", "HV3", "0.069", "0.136", "Data", ",", "=", "60", "%", "0.2089", "0.210", "WLAN", "packet", "loss", "with", "Bluetooth", "data", "interference", "is", "19", "%", ".", "Please", "note", "that", "the", "results", "do", "not", "depend", "on", "the", "WLAN", "offered", "load", ".", "On", "the", "other", "hand", ",", "the", "probability", "of", "packet", "loss", "for", "Bluetooth", "data", "-LRB-", "20", "%", "-RRB-", "is", "higher", "than", "for", "Bluetooth", "voice", "-LRB-", "7", "%", "-RRB-", "as", "shown", "in", "table", "6", ".", "Note", "that", "doubling", "the", "WLAN", "offered", "load", "to", "60", "%", "doubles", "the", "Bluetooth", "voice", "packet", "loss", ".", "Also", ",", "since", "all", "three", "types", "of", "voice", "packets", "suffer", "the", "same", "packet", "loss", ",", "it", "is", "preferable", "to", "use", "HV3", ",", "which", "causes", "less", "interference", "on", "the", "WLAN", ".", "The", "error", "correction", "coding", "in", "HV1", "and", "HV2", "packets", "may", "provide", "greater", "range", "in", "a", "noise-limited", "environment", ",", "but", "this", "coding", "is", "far", "too", "weak", "to", "protect", "the", "packets", "from", "interference", ".", "Instead", ",", "it", "is", "the", "frequency", "hopping", "ability", "of", "Bluetooth", "that", "limits", "the", "damage", "done", "by", "the", "WLAN", ".", "4.1.5", ".", "Bluetooth", "transmission", "power", "While", "most", "Bluetooth", "devices", "will", "be", "operating", "at", "1", "mW", ",", "the", "specification", "also", "allows", "higher", "transmitter", "powers", ".", "Table", "7", "shows", "the", "probability", "of", "packet", "loss", "for", "both", "Bluetooth", "and", "the", "WLAN", "for", "three", "values", "of", "the", "BT", "transmitter", "power", "and", "two", "types", "of", "Bluetooth", "traffic", ".", "As", "expected", ",", "higher", "transmitter", "powers", "lead", "to", "more", "lost", "WLAN", "packets", ",", "regardless", "of", "the", "BT", "traffic", "type", ".", "Increasing", "the", "power", "from", "1", "to", "10", "mW", "leads", "to", "approximately", "a", "50", "%", "increase", "in", "WLAN", "loss", ".", "Conversely", ",", "the", "Bluetooth", "packet", "error", "rate", "decreases", ".", "It", "still", "not", "clear", "how", "beneficial", "this", "decrease", "is", "for", "Bluetooth", ";", "even", "a", "loss", "probability", "of", "0.0335", "may", "lead", "to", "unacceptable", "voice", "quality", ".", "4.1.6", ".", "Bluetooth", "packet", "error", "correction", "So", "far", ",", "the", "results", "shown", "for", "the", "Bluetooth", "data", "are", "with", "DM5", "packets", ",", "which", "use", "a", "2/3", "block", "code", "on", "the", "packet", "payload", ".", "In", "order", "to", "show", "the", "effect", "of", "error", "correction", "on", "the", "probabil-INTERFERENCE", "EVALUATION", "OF", "BLUETOOTH", "AND", "IEEE", "802.11", "b", "SYSTEMS", "209", "Figure", "7", ".", "Scenario", "1", ".", "Probability", "of", "packet", "loss", "for", "the", "Bluetooth", "slave", ".", "Table", "7", "Scenario", "2", ".", "Probability", "of", "packet", "loss", "versus", "Bluetooth", "transmission", "power", "-LRB-", "mW", "-RRB-", ".", "WLAN", "=", "60", "%", ".", "BT", "traffic", "BT", "power", "BT", "loss", "WLAN", "loss", "-LRB-", "mW", "-RRB-", "probability", "probability", "=", "60", "%", "1", "0.2125", "0.0961", "2.5", "0.2085", "0.1227", "10", "0.1733", "0.1358", "Voice", "1", "0.1417", "0.1253", "2.5", "0.1179", "0.1609", "10", "0.0335", "0.1977", "ity", "of", "packet", "loss", ",", "we", "repeat", "scenario", "1", "and", "compare", "the", "results", "given", "in", "figures", "5", "-LRB-", "a", "-RRB-", "and", "7", ",", "obtained", "with", "DM5", "and", "DH5", "packets", ",", "respectively", ".", "As", "expected", ",", "the", "probability", "of", "packet", "loss", "for", "DM5", "packets", "-LRB-", "figure", "5", "-LRB-", "a", "-RRB-", "-RRB-", "is", "slightly", "less", "than", "for", "DH5", "packets", "-LRB-", "figure", "7", "-RRB-", "for", "WLAN", "transmission", "powers", "less", "than", "5", "mW", ".", "Thus", ",", "for", "low", "levels", "of", "interference", ",", "a", "2/3", "block", "code", "can", "reduce", "the", "probability", "of", "loss", "by", "4", "%", ".", "However", ",", "for", "WLAN", "transmission", "powers", "above", "5", "mW", ",", "the", "probability", "of", "packet", "loss", "is", "the", "same", "for", "both", "DM5", "and", "DH5", "packets", ".", "4.2", ".", "Realistic", "interference", "topologies", "In", "this", "section", ",", "we", "consider", "two", "practical", "interference", "topologies", ".", "While", "they", "appear", "to", "be", "somewhat", "different", ",", "they", "actually", "complement", "each", "other", ".", "The", "first", "one", "has", "the", "WLAN", "device", ",", "in", "the", "midst", "of", "the", "Bluetooth", "piconets", ",", "acting", "at", "the", "source", ",", "while", "the", "second", "one", "has", "the", "WLAN", "access", "point", "acting", "as", "the", "source", ".", "4.2.1", ".", "Topology", "2", "We", "first", "look", "at", "the", "topology", "illustrated", "in", "figure", "8", ".", "It", "consists", "of", "one", "WLAN", "AP", "located", "at", "-LRB-", "0", ",", "15", "-RRB-", "m", ",", "and", "one", "WLAN", "mobile", "at", "-LRB-", "0", ",", "0", "-RRB-", "m", ".", "The", "WLAN", "traffic", "is", "generated", "at", "the", "mobile", ",", "while", "the", "AP", "returns", "acknowledgments", ".", "The", "distance", "between", "the", "WLAN", "AP", "and", "mobile", "is", "d", "W", "=", "15", "m", ".", "There", "Figure", "8", ".", "Topology", "2", ".", "Two", "WLAN", "devices", "and", "ten", "Bluetooth", "piconets", ".", "Table", "8", "Experiment", "3", "results", ".", "BT", "traffic", "WLAN", "BT", "loss", "WLAN", "loss", "d", "B", "=", "1", "m", "d", "B", "=", "2", "m", "=", "30", "%", "30", "%", "0.056", "0.157", "0.121", "60", "%", "0.060", "0.188", "0.170", "=", "60", "%", "30", "%", "0.057", "0.243", "0.405", "60", "%", "0.061", "0.247", "0.381", "Voice", "30", "%", "0.009", "0.104", "1", "60", "%", "0.008", "0.106", "1", "are", "ten", "Bluetooth", "piconets", "randomly", "placed", ",", "covering", "a", "disk", ".", "The", "center", "of", "the", "disk", "is", "located", "at", "-LRB-", "0", ",", "0", "-RRB-", "and", "its", "radius", "is", "r", "=", "10", "m", ".", "We", "define", "d", "B", "as", "the", "distance", "between", "a", "Bluetooth", "master", "and", "slave", "pair", ".", "d", "B", "=", "1", "m", "for", "half", "of", "the", "master", "and", "slave", "pairs", ",", "while", "d", "B", "=", "2", "m", "for", "the", "other", "half", "of", "the", "master", "and", "slave", "pairs", ".", "In", "this", "case", ",", "the", "main", "interference", "on", "Bluetooth", "is", "caused", "by", "the", "WLAN", "source", "located", "in", "the", "center", "of", "the", "disk", ";", "the", "aggregation", "of", "the", "ten", "piconets", "affects", "the", "WLAN", "source", ".", "We", "found", "that", "when", "the", "WLAN", "system", "is", "not", "operating", ",", "the", "Bluetooth", "packet", "loss", "is", "negligible", "-LRB-", "less", "than", "1", "%", "-RRB-", ".", "Table", "8", "gives", "the", "packet", "loss", "for", "the", "Bluetooth", "and", "WLAN", "devices", ".", "The", "packet", "loss", "for", "the", "Bluetooth", "devices", "is", "averaged", "over", "the", "master", "and", "slave", "devices", "and", "split", "into", "two", "groups", ":", "piconets", "with", "d", "B", "=", "1", "m", "and", "piconets", "with", "d", "B", "=", "2", "m.", "For", "WLAN", ",", "the", "packet", "loss", "is", "measured", "at", "the", "source", ".", "It", "is", "effectively", "zero", "at", "the", "sink", ".", "We", "observe", "that", "the", "WLAN", "packet", "loss", "depends", "on", "the", "Bluetooth", "traffic", "load", "value", ",", ".", "As", "is", "varied", "from", "30", "%", "to", "60", "%", ",", "the", "WLAN", "packet", "loss", "is", "significantly", "changed", "from", "12", "%", "to", "40", "%", ".", "However", ",", "the", "WLAN", "packet", "loss", "is", "insensitive", "to", "the", "WLAN", "offered", "load", ".", "Consistent", "with", "previous", "results", ",", "Bluetooth", "voice", "represents", "the", "worst", "case", "interference", "scenario", "for", "WLAN", ".", "210", "GOLMIE", "ET", "AL.", ".", "In", "general", ",", "the", "Bluetooth", "packet", "loss", "for", "d", "B", "=", "1", "m", "is", "less", "than", "for", "d", "B", "=", "2", "m", ".", "The", "reason", "is", "that", "when", "the", "Bluetooth", "signal", "is", "stronger", "-LRB-", "over", "a", "shorter", "distance", "-RRB-", ",", "the", "impact", "of", "interference", "is", "less", "significant", ".", "4.2.2", ".", "Topology", "3", "We", "next", "consider", "the", "topology", "given", "in", "figure", "9", ".", "It", "includes", "one", "WLAN", "AP", "and", "four", "WLAN", "mobile", "devices", ".", "The", "WLAN", "AP", "is", "located", "at", "-LRB-", "0", ",", "15", "-RRB-", "m", ",", "and", "it", "is", "the", "source", "of", "the", "traffic", "generation", ".", "The", "four", "WLAN", "mobile", "devices", "are", "placed", "on", "a", "two-dimensional", "grid", "at", "-LRB-", "-1", ",", "1", "-RRB-", ",", "-LRB-", "1", ",", "1", "-RRB-", ",", "-LRB-", "-1", ",", "-1", "-RRB-", ",", "and", "-LRB-", "1", ",", "-1", "-RRB-", "m", ".", "In", "this", "topology", ",", "there", "are", "four", "Bluetooth", "piconets", ",", "each", "consisting", "of", "a", "master", "slave", "device", "pair", ".", "The", "placement", "of", "the", "Bluetooth", "devices", "is", "as", "shown", "in", "the", "figure", ".", "In", "this", "case", ",", "we", "are", "looking", "at", "the", "effect", "of", "Bluetooth", "piconets", "on", "the", "four", "WLAN", "sink", "devices", ".", "The", "packet", "loss", "measure", "for", "WLAN", "is", "averaged", "over", "the", "four", "devices", ".", "As", "shown", "in", "table", "9", ",", "the", "impact", "of", "WLAN", "interference", "on", "Bluetooth", "is", "minimal", ",", "given", "that", "the", "WLAN", "source", "is", "far", "from", "the", "Bluetooth", "piconets", ".", "As", "expected", ",", "the", "WLAN", "packet", "loss", "depends", "on", "the", "Bluetooth", "traffic", "conditions", ",", "and", "it", "is", "rather", "insensitive", "to", "the", "WLAN", "traffic", "activity", ".", "With", "Bluetooth", "voice", ",", "the", "WLAN", "packet", "loss", "is", "close", "to", "84", "%", ".", "It", "is", "57", "%", "for", "Bluetooth", "data", "with", "WLAN", "loads", "of", "=", "30", ",", "60", "%", ".", "We", "presented", "results", "on", "the", "performance", "of", "Bluetooth", "and", "WLAN", "operating", "in", "the", "2.4", "GHz", "ISM", "band", "based", "on", "detailed", "channel", ",", "MAC", ",", "and", "PHY", "layer", "models", "for", "both", "systems", ".", "The", "evaluation", "framework", "used", "allows", "us", "to", "study", "the", "impact", "of", "interference", "in", "a", "closed", "loop", "environment", "where", "two", "systems", "are", "affecting", "each", "other", ",", "and", "explore", "the", "MAC", "and", "PHY", "layer", "interactions", "in", "each", "system", ".", "We", "are", "able", "to", "draw", "some", "useful", "conclusions", "based", "on", "our", "results", ".", "First", ",", "we", "note", "that", "power", "control", "may", "have", "limited", "benefits", "in", "this", "environment", ".", "Increasing", "the", "WLAN", "transmission", "power", "to", "even", "fifty", "times", "the", "power", "of", "Bluetooth", "is", "not", "sufficient", "to", "reduce", "the", "WLAN", "packet", "loss", ".", "On", "the", "other", "hand", ",", "limiting", "the", "WLAN", "power", ",", "may", "help", "avoid", "interference", "to", "Bluetooth", ".", "Second", ",", "using", "a", "slower", "hop", "rate", "for", "Bluetooth", "-LRB-", "i.e.", "longer", "packet", "sizes", "-RRB-", "may", "cause", "less", "interference", "to", "WLAN", ".", "Third", ",", "Bluetooth", "voice", "represents", "the", "worst", "type", "of", "interference", "for", "WLAN", ".", "In", "addition", ",", "the", "WLAN", "performance", "seems", "to", "degrade", "as", "the", "Bluetooth", "offered", "load", "is", "increased", ".", "Finally", ",", "the", "use", "of", "error", "correcting", "block", "codes", "in", "the", "Bluetooth", "payload", "does", "not", "improve", "performance", ".", "The", "errors", "caused", "by", "interference", "are", "often", "too", "many", "to", "correct", ".", "Overall", ",", "the", "results", "are", "dependent", "on", "the", "traffic", "distribution", ".", "Yet", ",", "there", "may", "be", "little", "room", "for", "parameter", "optimization", "especially", "for", "the", "practical", "scenarios", ".", "Not", "only", "does", "the", "complexity", "of", "the", "interactions", "and", "the", "number", "of", "parameters", "to", "adjust", "make", "the", "optimization", "problem", "intractable", ",", "but", "choosing", "an", "objective", "function", "is", "very", "dependent", "on", "the", "applications", "and", "the", "scenario", ".", "Thus", ",", "achieving", "acceptable", "performance", "for", "Figure", "9", ".", "Topology", "3", ".", "Five", "WLAN", "devices", "and", "four", "Bluetooth", "piconets", ".", "Table", "9", "Experiment", "4", "results", ".", "BT", "traffic", "WLAN", "BT", "loss", "WLAN", "loss", "=", "30", "%", "30", "%", "0.007", "0.574", "60", "%", "0.006", "0.580", "=", "60", "%", "30", "%", "0.007", "0.576", "60", "%", "0.006", "0.580", "Voice", "30", "%", "0.002", "0.836", "60", "%", "0.001", "0.828", "a", "particular", "system", "comes", "at", "the", "expense", "of", "the", "other", "system", "'s", "throughput", ".", "Therefore", ",", "we", "believe", "that", "the", "primary", "solutions", "to", "this", "problem", "lie", "in", "the", "development", "of", "coexistence", "mechanisms", "-LSB-", "1", "-RSB-", "BlueHoc", ":", "Bluetooth", "Performance", "Evaluation", "Tool", ",", "Open-Source", "-LRB-", "2001", "-RRB-", "http://oss.software.ibm.com/developerworks/", "opensource", "/", "~", "bluehoc", "-LSB-", "2", "-RSB-", "Bluetooth", "Special", "Interest", "Group", ",", "Specifications", "of", "the", "Bluetooth", "system", ",", "Vol", ".", "1", ",", "v.", "1.0", "B", "Core", ",", "and", "Vol", ".", "2", ",", "v1", ".0", "B", "Profiles", "-LRB-", "December", "1999", "-RRB-", ".", "-LSB-", "3", "-RSB-", "T.", "Ekvetchavit", "and", "Z.", "Zvonar", ",", "Performance", "of", "phase-locked", "loop", "receiver", "in", "digital", "FM", "systems", ",", "in", ":", "Ninth", "IEEE", "International", "Symposium", "on", "Personal", ",", "Indoor", "and", "Mobile", "Radio", "Communications", ",", "Vol", ".", "1", "-LRB-", "1998", "-RRB-", "pp.", "381", "385", ".", "-LSB-", "4", "-RSB-", "G.", "Ennis", ",", "Impact", "of", "Bluetooth", "on", "802.11", "direct", "sequence", ",", "IEEE", "P802", ".11", "Working", "Group", "Contribution", ",", "IEEE", "P802.11-98", "/", "319", "-LRB-", "September", "1998", "-RRB-", ".", "-LSB-", "5", "-RSB-", "D.", "Fumolari", ",", "Link", "performance", "of", "an", "embedded", "Bluetooth", "personal", "area", "network", ",", "in", ":", "Proceedings", "of", "IEEE", "ICC", "'", "01", ",", "Helsinki", ",", "Finland", "-LRB-", "June", "2001", "-RRB-", ".", "-LSB-", "6", "-RSB-", "N.", "Golmie", "and", "F.", "Mouveaux", ",", "Interference", "in", "the", "2.4", "GHz", "ISM", "band", ":", "Impact", "on", "the", "Bluetooth", "access", "control", "performance", ",", "in", ":", "Proceedings", "of", "IEEE", "ICC", "'", "01", ",", "Helsinki", ",", "Finland", "-LRB-", "June", "2001", "-RRB-", ".", "INTERFERENCE", "EVALUATION", "OF", "BLUETOOTH", "AND", "IEEE", "802.11", "b", "SYSTEMS", "211", "-LSB-", "7", "-RSB-", "N.", "Golmie", ",", "R.E.", "Van", "Dyck", ",", "and", "A.", "Soltanian", ",", "Interference", "of", "Bluetooth", "and", "IEEE", "802.11", ":", "Simulation", "modeling", "and", "performance", "evaluation", ",", "in", ":", "Proceedings", "of", "the", "Fourth", "ACM", "International", "Workshop", "on", "Modeling", ",", "Analysis", ",", "and", "Simulation", "of", "Wireless", "and", "Mobile", "Systems", ",", "MSWIM", "'", "01", ",", "Rome", ",", "Italy", "-LRB-", "July", "2001", "-RRB-", ".", "-LSB-", "8", "-RSB-", "I.", "Howitt", ",", "V.", "Mitter", "and", "J.", "Gutierrez", ",", "Empirical", "study", "for", "IEEE", "802.11", "and", "Bluetooth", "interoperability", ",", "in", ":", "Proceedings", "of", "IEEE", "Vehicular", "Technology", "Conference", "-LRB-", "VTC", "-RRB-", "-LRB-", "Spring", "2001", "-RRB-", ".", "-LSB-", "9", "-RSB-", "IEEE", "Standard", "802-11", ",", "IEEE", "standard", "for", "wireless", "LAN", "Medium", "Access", "Control", "-LRB-", "MAC", "-RRB-", "and", "Physical", "Layer", "-LRB-", "PHY", "-RRB-", "specification", "-LRB-", "June", "1997", "-RRB-", ".", "-LSB-", "10", "-RSB-", "A.", "Kamerman", ",", "Coexistence", "between", "Bluetooth", "and", "IEEE", "802.11", "CCK", ":", "Solutions", "to", "avoid", "mutual", "interference", ",", "IEEE", "P802", ".11", "Working", "Group", "Contribution", ",", "IEEE", "P802.11-00", "/", "162r0", "-LRB-", "July", "2000", "-RRB-", ".", "-LSB-", "11", "-RSB-", "A.", "Kamerman", "and", "N.", "Erkocevic", ",", "Microwave", "oven", "interference", "on", "wireless", "LANs", "operating", "in", "the", "2.4", "GHz", "ISM", "band", ",", "in", ":", "Proceedings", "of", "the", "8th", "IEEE", "International", "Symposium", "on", "Personal", ",", "Indoor", "and", "Mobile", "Radio", "Communications", ",", "Vol", ".", "3", "-LRB-", "1997", "-RRB-", "pp.", "1221", "1227", ".", "-LSB-", "12", "-RSB-", "J.", "Lansford", ",", "A.", "Stephens", "and", "R.", "Nevo", ",", "Wi-Fi", "-LRB-", "802.11", "b", "-RRB-", "and", "Bluetooth", ":", "Enabling", "coexistence", ",", "IEEE", "Network", "Magazine", "-LRB-", "September/October", "2001", "-RRB-", ".", "-LSB-", "13", "-RSB-", "S.", "Shellhammer", ",", "Packet", "error", "rate", "of", "an", "IEEE", "802.11", "WLAN", "in", "the", "presence", "of", "Bluetooth", ",", "IEEE", "P802", ".15", "Working", "Group", "Contribution", ",", "IEEE", "P802.15-00", "/", "133r0", "-LRB-", "May", "2000", "-RRB-", ".", "-LSB-", "14", "-RSB-", "M.K.", "Simon", "and", "C.C.", "Wang", ",", "Differential", "versus", "limiter-discriminator", "detection", "of", "narrow-band", "FM", ",", "IEEE", "Transactions", "on", "Communications", "COM-31", "-LRB-", "11", "-RRB-", "-LRB-", "November", "1983", "-RRB-", "1227", "1234", ".", "-LSB-", "15", "-RSB-", "A.", "Soltanian", "and", "R.E.", "Van", "Dyck", ",", "Physical", "layer", "performance", "for", "coexistence", "of", "Bluetooth", "and", "IEEE", "802.11", "b", ",", "in", ":", "Virginia", "Tech", ".", "Symposium", "on", "Wireless", "Personal", "Communications", "-LRB-", "June", "2001", "-RRB-", ".", "-LSB-", "16", "-RSB-", "M.", "Takai", ",", "R.", "Bagrodia", ",", "A.", "Lee", "and", "M.", "Gerla", ",", "Impact", "of", "channel", "models", "on", "simulation", "of", "large", "scale", "wireless", "networks", ",", "in", ":", "Proceedings", "of", "ACM/IEEE", "MSWIM", "'", "99", ",", "Seattle", ",", "WA", "-LRB-", "August", "1999", "-RRB-", ".", "-LSB-", "17", "-RSB-", "S.", "Unawong", ",", "S.", "Miyamoto", "and", "N.", "Morinaga", ",", "Techniques", "to", "improve", "the", "performance", "of", "wireless", "LAN", "under", "ISM", "interference", "environments", ",", "in", ":", "Fifth", "Asia-Pacific", "Conference", "on", "Communications", ",", "1999", "and", "Fourth", "Optoelectronics", "and", "Communications", "Conference", ",", "Vol", ".", "1", "-LRB-", "1999", "-RRB-", "pp.", "802", "805", ".", "-LSB-", "18", "-RSB-", "J.", "Zyren", ",", "Reliability", "of", "IEEE", "802.11", "WLANs", "in", "presence", "of", "Bluetooth", "radios", ",", "IEEE", "P802", ".11", "Working", "Group", "Contribution", ",", "IEEE", "P802.15-99", "/", "073r0", "-LRB-", "September", "1999", "-RRB-", ".", "-LSB-", "19", "-RSB-", "S.", "Zurbes", ",", "W.", "Stahl", ",", "K.", "Matheus", "and", "J.", "Haartsen", ",", "Radio", "network", "performance", "of", "Bluetooth", ",", "in", ":", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Communications", ",", "ICC", "2000", ",", "New", "Orleans", ",", "LA", ",", "Vol", ".", "3", "-LRB-", "June", "2000", "-RRB-", "pp.", "1563", "1567", ".", "Nada", "Golmie", "received", "the", "M.S.E", "degree", "in", "computer", "engineering", "from", "Syracuse", "University", ",", "Syracuse", ",", "NY", ",", "in", "1993", ",", "and", "the", "Ph.D.", "degree", "in", "computer", "science", "from", "University", "of", "Maryland", ",", "College", "Park", ",", "MD", ",", "in", "2002", ".", "Since", "1993", ",", "she", "has", "been", "a", "research", "engineer", "at", "the", "advanced", "networking", "technologies", "division", "at", "the", "National", "Institute", "of", "Standards", "and", "Technology", "-LRB-", "NIST", "-RRB-", ".", "Her", "research", "in", "traffic", "management", "and", "flow", "control", "led", "to", "several", "papers", "presented", "at", "professional", "conferences", ",", "journals", "and", "numerous", "contributions", "to", "international", "standard", "organizations", "and", "industry", "led", "consor-tia", ".", "Her", "current", "work", "is", "focused", "on", "the", "performance", "evaluation", "of", "protocols", "for", "Wireless", "Personal", "Area", "Networks", ".", "Her", "research", "interests", "include", "modeling", "and", "performance", "analysis", "of", "network", "protocols", ",", "media", "access", "control", ",", "and", "Quality", "of", "Service", "for", "IP", "and", "wireless", "network", "technologies", ".", "She", "is", "the", "vice-chair", "of", "the", "IEEE", "802.15", "Coexistence", "Task", "Group", ".", "E-mail", ":", "nada.golmie@nist.gov", "Robert", "E.", "Van", "Dyck", "received", "the", "B.E", "and", "M.E.E", "degrees", "from", "Stevens", "Institute", "of", "Technology", ",", "Hoboken", ",", "NJ", ",", "in", "1985", "and", "1986", ",", "respectively", ",", "and", "the", "Ph.D.", "degree", "in", "electrical", "engineering", "from", "the", "North", "Carolina", "State", "University", "at", "Raleigh", "in", "1992", ".", "Since", "June", "2000", ",", "he", "has", "been", "a", "member", "of", "the", "Advanced", "Network", "Technologies", "Division", "of", "the", "National", "Institute", "of", "Standards", "and", "Technology", ",", "Gaithersburg", ",", "MD.", ".", "Prior", "to", "that", ",", "he", "was", "an", "Assistant", "Professor", "in", "the", "Department", "of", "Electrical", "Engineering", ",", "the", "Pennsylvania", "State", "University", ",", "University", "Park", ",", "PA.", ".", "During", "1999", ",", "he", "was", "a", "Summer", "Faculty", "Research", "Fellow", "at", "Rome", "Laboratory", ".", "His", "other", "previous", "affiliations", "include", "GEC-Marconi", "Electronic", "Systems", ",", "Wayne", ",", "NJ", "-LRB-", "1995", "1996", "-RRB-", ",", "the", "Center", "for", "Computer", "Aids", "for", "Industrial", "Productivity", ",", "Rutgers", "University", ",", "Piscataway", ",", "NJ", "-LRB-", "1992", "1995", "-RRB-", ",", "the", "Computer", "Science", "Corporation", ",", "Research", "Triangle", "Park", "NC", ",", "-LRB-", "1989", "-RRB-", ",", "and", "the", "Communications", "Laboratory", ",", "Raytheon", "Co.", ",", "Marlborough", ",", "MA", "-LRB-", "1985", "1988", "-RRB-", ".", "His", "present", "research", "interests", "are", "in", "self-organization", "of", "sensor", "networks", ",", "multimedia", "communications", "and", "networking", ",", "and", "source", "and", "channel", "coding", "for", "wireless", "communications", ".", "Amir", "Soltanian", "received", "his", "M.S.", "degree", "from", "Sharif", "University", "of", "Technology", ",", "Tehran", ",", "Iran", ",", "in", "1994", ".", "He", "has", "been", "working", "in", "the", "industry", "for", "6", "years", "doing", "research", "on", "GSM", "receivers", ".", "Currently", ",", "he", "is", "a", "guest", "researcher", "at", "National", "Institute", "of", "Standards", "and", "Technology", ".", "His", "current", "research", "is", "the", "study", "of", "the", "interference", "cancellation", "methods", "for", "the", "physical", "layer", "of", "the", "Bluetooth", "and", "IEEE802", ".11", "WLAN", ".", "Arnaud", "Tonnerre", "is", "a", "graduate", "student", "at", "the", "cole", "Nationale", "Sup", "rieure", "des", "Telecommunications", "-LRB-", "ENST", "-RRB-", "in", "Bretagne", ",", "France", ".", "He", "is", "currently", "doing", "an", "internship", "at", "the", "National", "Institute", "of", "Standards", "and", "Technology", "-LRB-", "NIST", "-RRB-", "in", "Gaithersburg", ",", "MD.", ".", "He", "will", "receive", "the", "Diplome", "d'Ingenieur", "in", "June", "2003", ".", "His", "research", "interests", "are", "in", "wireless", "personal", "area", "networks", ".", "Olivier", "R", "bala", "received", "a", "computer", "science", "degree", "from", "the", "Institut", "sup", "rieur", "d'informatique", ",", "de", "mod", "lisation", "et", "de", "leurs", "applications", "-LRB-", "ISIMA", "-RRB-", "in", "Clermont-Ferrand", ",", "France", ",", "in", "September", "2001", ".", "He", "is", "currently", "a", "Guest", "Researcher", "at", "the", "National", "Institute", "of", "Standards", "and", "Technology", "-LRB-", "NIST", "-RRB-", "in", "the", "advanced", "networking", "technologies", "division", ".", "His", "research", "interests", "includes", "the", "performance", "evaluation", "of", "wireless", "networking", "protocols", "."], "doc_bio_tags": ["B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "B", "I", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["interference", "wlan", "bluetooth", "simulation framework", "evaluation", "hop rate", "topology", "wpans", "performance degradation", "packet loss", "offered load"], "abstractive_keyphrases": ["ieee 802.11b", "tranmission power"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "102", "document": ["Illustrative", "Shadows", ":", "Integrating", "3D", "and", "2D", "Information", "Displays", "Many", "exploration", "and", "manipulation", "tasks", "benefit", "from", "a", "coherent", "integration", "of", "multiple", "views", "onto", "complex", "information", "spaces", ".", "This", "paper", "proposes", "the", "concept", "of", "Illustrative", "Shadows", "for", "a", "tight", "integration", "of", "interactive", "3D", "graphics", "and", "schematic", "depictions", "using", "the", "shadow", "metaphor", ".", "The", "shadow", "metaphor", "provides", "an", "intuitive", "visual", "link", "between", "3D", "and", "2D", "visualizations", "integrating", "the", "different", "displays", "into", "one", "combined", "information", "display", ".", "Users", "interactively", "explore", "spatial", "relations", "in", "realistic", "shaded", "virtual", "models", "while", "functional", "correlations", "and", "additional", "textual", "information", "are", "presented", "on", "additional", "projection", "layers", "using", "a", "semantic", "network", "approach", ".", "Manipulations", "of", "one", "visualization", "immediately", "influence", "the", "others", ",", "resulting", "in", "an", "in-formationally", "and", "perceptibly", "coherent", "presentation", ".", "H.", "5.2", "-LSB-", "Information", "Interface", "and", "Presentation", "-RSB-", ":", "User", "Interfaces", "--", "Screen", "design", ";", "I.", "2.4", "-LSB-", "Artificial", "Intelligence", "-RSB-", ":", "Knowledge", "Representation", "Formalisms", "and", "Methods", "--", "Semantic", "networks", ";", "I.", "3.6", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Methodology", "and", "Techniques", "--", "Interaction", "techniques", "Design", ",", "Human", "Factors", "In", "many", "areas", "knowledge", "about", "structures", "and", "their", "meaning", "as", "well", "as", "their", "spatial", "and", "functional", "relations", "are", "required", "to", "comprehend", "possible", "effects", "of", "an", "intervention", ".", "For", "example", ",", "engineers", "must", "understand", "the", "construction", "of", "machines", "as", "a", "prerequisite", "for", "maintenance", "whereas", "the", "spatial", "composition", "of", "molecules", "and", "hence", "possible", "reactions", "are", "of", "importance", "for", "the", "discovering", "of", "new", "drugs", "in", "chemistry", ".", "Medical", "students", "need", "to", "imagine", "the", "wealth", "of", "spatial", "and", "functional", "correlations", "within", "the", "human", "body", "to", "master", "anatomy", ".", "To", "date", ",", "novices", "as", "well", "as", "domain", "experts", "are", "required", "to", "consult", "several", ",", "often", "voluminous", "documents", "in", "parallel", "to", "extract", "information", "for", "a", "certain", "intervention", ".", "Spatial", "relations", ",", "characteristics", "of", "structures", "inherently", "three-dimensional", ",", "such", "as", "the", "shape", "and", "location", "of", "structures", ",", "however", ",", "are", "difficult", "to", "convey", "on", "paper", ".", "Besides", "requiring", "a", "significant", "amount", "of", "images", "to", "illustrate", "spatial", "relations", "between", "only", "a", "few", "structures", ",", "the", "mental", "integration", "of", "multiple", "views", "to", "form", "a", "three-dimensional", "picture", "in", "mind", "is", "demanding", ".", "Spatial", "relations", "can", "be", "conveyed", "more", "ef-fectively", "by", "means", "of", "3D", "models", "-LSB-", "18", "-RSB-", ".", "Using", "interactive", "3D", "graphics", ",", "available", "to", "more", "and", "more", "people", "due", "to", "recent", "advances", "in", "consumer", "graphics", "hardware", ",", "the", "user", "may", "actively", "explore", "the", "spatial", "correlations", "of", "structures", "within", "a", "photorealistic", "virtual", "model", "-LRB-", "see", "upper", "left", "of", "Figure", "1", "-RRB-", ".", "Here", ",", "the", "visual", "realism", "of", "the", "model", "facilitates", "recognition", "on", "real", "encounters", ".", "Information", "about", "functional", "correlations", ",", "such", "as", "the", "interplay", "of", "muscles", "causing", "an", "upward", "motion", "of", "the", "human", "foot", ",", "has", "been", "traditionally", "provided", "by", "means", "of", "text", "and", "illustrations", "as", "found", "in", "textbooks", ".", "Simple", ",", "non-photorealistic", "drawings", "enriched", "with", "annotations", "and", "metagraphical", "symbols", "can", "be", "extremely", "powerful", "in", "conveying", "complex", "relationships", "and", "procedures", "-LRB-", "see", "upper", "right", "of", "Figure", "1", "-RRB-", ".", "Abstraction", "techniques", "reduce", "the", "complexity", "of", "the", "depicted", "structures", "to", "illustrate", "the", "important", "aspects", "thereby", "guiding", "the", "attention", "of", "the", "viewer", "to", "relevant", "details", ".", "In", "contrast", "to", "the", "visualization", "of", "spatial", "relations", ",", "3D", "graphics", "add", "no", "significant", "value", "to", "the", "illustration", "of", "functional", "correlations", ".", "Figure", "1", ":", "Illustrative", "Shadows", "provide", "an", "intuitive", ",", "visual", "link", "between", "spatial", "-LRB-", "3d", "-RRB-", "and", "non-spatial", "-LRB-", "2d", "-RRB-", "information", "displays", "integrating", "them", "into", "one", "combined", "information", "display", ".", "M.", "tibialis", "anterior", "M.", "extensor", "hallucis", "longus", "M.", "extensor", "digitorum", "longus", "M.", "tibialis", "posterior", "M.", "flexor", "digitorum", "longus", "M.", "flexor", "hallucis", "longus", "M.", "fibularis", "brevis", "M.", "fibularis", "longus", "interactive", "3d-graphic", "2d-information", "display", "shadow", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "IUI", "'", "03", ",", "January", "12", "15", ",", "2003", ",", "Miami", ",", "Florida", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-586-6", "/", "03/0001", "...", "$", "5.00", ".", "166", "The", "integration", "of", "both", "aspects", "in", "one", "visualization", "is", "difficult", "since", "each", "serves", "to", "fulfill", "a", "different", "goal", "with", ",", "partly", "mutually", "exclusive", ",", "visualization", "techniques", ".", "It", "becomes", "even", "more", "complicated", "if", "the", "3D", "model", "is", "frequently", "manipulated", ",", "such", "as", "in", "construction", "or", "recent", "interactive", "learning", "environments", ".", "Here", ",", "occludings", "by", "annotations", "and", "metagraphical", "symbols", "are", "annoying", "and", "may", "even", "interrupt", "the", "current", "manipulation", "for", "the", "user", ".", "Additional", "views", ",", "whether", "as", "insets", "-LSB-", "20", "-RSB-", ",", "separate", "objects", "like", "mirrors", "-LSB-", "8", "-RSB-", ",", "or", "in", "form", "of", "lenses", "and", "volumetric", "cursors", "changing", "the", "rendition", "of", "embedded", "structures", "-LSB-", "7", ",", "21", ",", "23", "-RSB-", ",", "are", "either", "not", "close", "enough", "to", "the", "manipulated", "structures", "to", "be", "fully", "recognized", "without", "dividing", "the", "users", "attention", "between", "different", "views", "-LSB-", "13", "-RSB-", "or", "require", "sometimes", "tedious", "manipulations", "to", "be", "placed", "or", "moved", "within", "the", "scene", ".", "Nonetheless", ",", "additional", "information", "as", "to", "restrictions", "or", "functional", "correlations", "pertaining", "the", "current", "manipulated", "structures", "is", "highly", "desired", ",", "even", "necessary", ".", "In", "this", "paper", "we", "present", "an", "approach", "called", "Illustrative", "Shadows", "that", "provides", "an", "intuitive", ",", "visual", "link", "between", "an", "actively", "manipulated", "3D", "visualization", "and", "a", "supplemental", "2D", "information", "display", "integrating", "them", "into", "one", "combined", "information", "display", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "One", "of", "the", "main", "ideas", "behind", "Illustrative", "Shadows", "is", "the", "integration", "of", "secondary", "information", ",", "or", "in", "other", "words", ",", "background", "information", ",", "into", "an", "interactive", "3D", "scene", ".", "By", "analyzing", "the", "users", "'", "manipulation", "of", "3D", "structures", "and", "finding", "correlations", ",", "graphical", "and", "textual", "information", "about", "the", "current", "interaction", "context", ",", "such", "as", "graphical", "object-details", "and", "textual", "labels", ",", "are", "displayed", "in", "the", "``", "background", "''", "--", "the", "shadow", "--", "to", "give", "guidance", "as", "well", "as", "to", "further", "enhance", "the", "users", "'", "understanding", "of", "the", "context", ".", "The", "paper", "is", "structured", "as", "follows", ":", "After", "reviewing", "related", "approaches", "to", "combine", "multiple", "visual", "and", "textual", "information", "displays", ",", "we", "present", "the", "design", "of", "Illustrative", "Shadows", ".", "Furthermore", ",", "an", "architecture", "realizing", "these", "concepts", "is", "discussed", "in", "this", "section", ".", "Thereafter", ",", "the", "major", "components", "of", "this", "architecture", "are", "described", ".", "Realization", "issues", "are", "subject", "of", "the", "subsequent", "section", ",", "whereas", "application", "examples", "and", "the", "summary", "conclude", "the", "paper", ".", "Recently", "proposed", "tools", "for", "the", "exploration", "of", "virtual", "scenes", "extend", "possibilities", "to", "display", "covered", "structures", "or", "hidden", "details", ".", "A", "complementary", "view", "called", "Magic", "Mirror", "that", "mimics", "a", "hand", "mirror", "has", "been", "introduced", "in", "-LSB-", "8", "-RSB-", ".", "In", "addition", "to", "providing", "the", "optical", "effects", "of", "a", "real", "mirror", ",", "it", "also", "allows", "to", "explore", "the", "insight", "of", "objects", "by", "clipping", "against", "the", "mirror", "front-frustum", ".", "Magic", "lens", "filters", "as", "presented", "in", "-LSB-", "7", ",", "21", "-RSB-", "go", "further", "by", "combining", "an", "arbitrarily-shaped", "region", "with", "an", "operator", "that", "changes", "the", "view", "of", "objects", "viewed", "through", "that", "region", "thereby", "displaying", "different", "aspects", "of", "the", "visualized", "information", "space", ".", "In", "-LSB-", "5", ",", "23", "-RSB-", "the", "2D", "lens", "approach", "is", "extended", "to", "3D", "using", "volumetric", "lenses", ".", "All", "aforementioned", "techniques", "require", "the", "user", "to", "actively", "manipulate", "a", "tool", "within", "the", "scene", ".", "These", "techniques", "assume", "the", "user", "already", "knows", "which", "parts", "of", "the", "presented", "visualization", "offer", "additional", "information", "or", "is", "willing", "to", "explore", "the", "model", ".", "While", "this", "might", "be", "feasible", "in", "explorative", "environments", "where", "navigation", "is", "the", "main", "interaction", "task", ",", "it", "certainly", "hinders", "manipulation", ".", "Several", "approaches", "to", "combine", "3D", "and", "2D", "visualizations", "have", "been", "made", "using", "a", "corner", "cube", "environment", "-LRB-", "-RRB-", ".", "The", "three", "orthogonal", "sides", "show", "image", "slices", "that", "provide", "a", "visual", "context", "for", "a", "3D", "model", "or", "structures", "displayed", "in", "the", "center", ".", "In", "-LSB-", "11", "-RSB-", "the", "images", "have", "been", "integrated", "as", "back-planes", "to", "ground", "the", "3D", "representation", "of", "anatomic", "structures", "visually", ".", "By", "outlining", "the", "3D", "structures", "in", "the", "images", ",", "the", "spatial", "correspondence", "between", "the", "3D", "renditions", "of", "activated", "foci", "in", "the", "context", "of", "human", "brain", "slices", "is", "emphasized", "in", "-LSB-", "16", "-RSB-", ".", "The", "images", ",", "however", "are", "precomputed", "and", "do", "not", "change", "according", "to", "the", "users", "'", "interaction", "nor", "is", "there", "any", "visualization", "of", "functional", "correlations", ".", "An", "interesting", "interactive", "approach", "has", "been", "proposed", "by", "-LSB-", "10", "-RSB-", ".", "The", "projection", "of", "the", "3D", "model", "onto", "the", "sides", "of", "the", "corner", "cube", "can", "be", "manipulated", "by", "the", "user", "in", "order", "to", "change", "the", "position", "and", "orientation", "of", "the", "model", ".", "Fully", "rendered", "shadows", "of", "certain", "objects", "resemble", "real-world", "mirrors", "and", "may", "be", "used", "to", "stress", "importance", ".", "There", "is", ",", "however", ",", "no", "discussion", "on", "how", "to", "use", "this", "feature", "to", "provide", ",", "for", "instance", ",", "additional", "context", "information", "for", "the", "user", ".", "To", "establish", "hypotheses", "on", "the", "interaction", "context", "in", "order", "to", "be", "able", "to", "display", "additional", "context", "information", "and", "to", "provide", "meaningful", "descriptions", "of", "relationships", "knowledge", "modeling", "is", "required", ".", "Promising", "approaches", "to", "connect", "those", "knowledge", "with", "3D", "graphics", "have", "been", "developed", "in", "the", "area", "of", "medical", "applications", ".", "The", "Digital", "Anatomist", "-LSB-", "4", "-RSB-", "incorporates", "a", "logic-based", "description", "comprising", "class", "and", "subclass", "relationships", "-LRB-", "is-a", "-RRB-", "as", "well", "as", "partitive", "and", "qualitative", "spatial", "relationships", "-LRB-", "has-parts", ",", "is-superior", "-", "to", "-RRB-", ".", "The", "information", "is", "presented", "in", "tree-like", "textual", "form", "that", "can", "be", "explored", "by", "folding", "and", "unfolding", ".", "Corresponding", "structures", "are", "displayed", "in", "a", "3D", "visualization", "aside", ".", "There", "is", "no", "visual", "integration", "of", "both", "information", "displays", ".", "The", "semantic", "network", "described", "in", "-LSB-", "14", "-RSB-", "is", "used", "to", "create", "various", "`", "views", "'", "in", "which", "correlating", "structures", "are", "displayed", "to", "communicate", "specific", "aspects", "with", "a", "voxel", "model", "of", "the", "human", "anatomy", ".", "The", "highly", "detailed", "visualization", ",", "however", ",", "can", "not", "be", "interactively", "explored", ",", "nor", "is", "there", "any", "kind", "of", "abstraction", "to", "focus", "the", "users", "'", "attention", ".", "Interaction", "is", "only", "possible", "by", "tree-like", "menus", ".", "With", "the", "term", "Illustrative", "Shadows", "we", "refer", "to", "a", "coherent", "integration", "of", "photorealistic", "depictions", "of", "a", "virtual", "model", "with", "abstract", "illustrations", "and", "textual", "explanations", ".", "Both", "Figure", "2", ":", "Architecture", "of", "a", "system", "incorporating", "the", "Illustrative", "Shadows", "approach", ".", "3D", "model", "3D", "visualization", "2D", "visualization", "Visualization", "annotations", "Knowledge", "-", "based", "server", "Client", "interface", "System", "Event", "control", "167", "kinds", "of", "depictions", "serve", "to", "fulfill", "different", "and", "somehow", "contradicting", "goals", ":", "on", "the", "one", "hand", "to", "enable", "navigation", "and", "manipulation", "of", "complex", "spatial", "models", "and", "on", "the", "other", "hand", "to", "provide", "adjusted", "visualizations", "that", "guide", "the", "user", "'s", "attention", "to", "additional", "information", "about", "the", "most", "relevant", "objects", "in", "the", "current", "interaction", "context", ".", "Both", "visualizations", "are", "achieved", "by", "applying", "photorealistic", "and", "specific", "non-photorealistic", "rendering", "techniques", "-LSB-", "22", "-RSB-", "to", "geometric", "models", ".", "Furthermore", ",", "textual", "information", "describing", "the", "most", "relevant", "structures", "and", "functional", "correlations", "between", "them", "must", "be", "integrated", ".", "The", "estimation", "of", "the", "relevance", "with", "respect", "to", "the", "current", "interaction", "context", "as", "well", "as", "the", "selection", "or", "generation", "of", "textual", "explanations", "heavily", "rely", "on", "non-geometric", "formal", "and", "informal", "representations", "and", "are", "therefore", "determined", "by", "external", "inference", "mechanisms", ".", "Moreover", ",", "co-referential", "relations", "between", "the", "entities", "within", "the", "geometric", "model", "and", "the", "formal", "and", "informal", "representations", "have", "to", "be", "established", "in", "order", "to", "link", "the", "different", "representations", ".", "Based", "on", "these", "requirements", "we", "designed", "a", "system", "architecture", "which", "comprises", "three", "basic", "components", "-LRB-", "see", "Figure", "2", "-RRB-", ":", "The", "visual", "component", "renders", "a", "photorealistic", "3D", "model", "with", "a", "standard", "camera", "model", "as", "well", "as", "a", "non-photorealistic", "illustration", "that", "is", "projected", "onto", "a", "ground", "plane", ".", "A", "client", "interface", "enables", "external", "control", "of", "the", "non-photorealistic", "rendering", "techniques", ".", "Finally", ",", "the", "visual", "component", "also", "renders", "text", "and", "metagraphical", "annotations", ",", "such", "as", "labels", ",", "hypertext", "and", "arrows", ".", "The", "event", "control", "allows", "the", "user", "to", "modify", "the", "parameters", "of", "a", "virtual", "camera", "and", "to", "select", "and", "manipulate", "geometric", "objects", "within", "the", "scene", ".", "Interactions", "are", "tracked", "and", "ranked", "within", "an", "interaction", "history", "to", "communicate", "the", "current", "interaction", "context", "via", "a", "client", "interface", "to", "an", "external", "knowledge-based", "component", ".", "The", "knowledge-based", "server", "receives", "notification", "of", "user", "manipulations", "and", "establishes", "hypotheses", "on", "the", "degree", "of", "interest", "values", "-LRB-", "DOI", "-RRB-", "for", "geometric", "objects", ".", "These", "DOI", "values", "guide", "the", "selection", "of", "appropriate", "text", "fragments", "presented", "in", "text", "annotations", "as", "well", "as", "the", "modification", "of", "parameters", "of", "the", "non-photorealistic", "rendering", "techniques", "for", "emphasizing", "in", "the", "illustration", ".", "The", "following", "sections", "discuss", "important", "aspects", "of", "these", "system", "components", ".", "Besides", "displaying", "a", "photorealistic", "rendition", "of", "a", "3D", "model", "that", "the", "user", "can", "manipulate", ",", "the", "illustration", "of", "functional", "correlations", "between", "structures", "of", "the", "model", "in", "the", "``", "background", "''", "has", "to", "be", "accomplished", ".", "To", "focus", "the", "user", "'s", "attention", "on", "relevant", "structures", "and", "to", "facilitate", "perception", ",", "important", "objects", "must", "be", "emphasized", "and", "surroundings", "abstracted", ".", "Furthermore", ",", "both", "visualizations", "must", "be", "integrated", "in", "a", "coherent", "manner", ",", "so", "that", "a", "visual", "connection", "between", "the", "3D", "and", "2D", "renditions", "of", "the", "relevant", "objects", "is", "established", "by", "the", "user", ".", "Several", "crucial", "aspects", "have", "to", "be", "considered", ":", "How", "can", "objects", "be", "emphasized", "such", "that", "they", "attract", "the", "user", "'s", "attention", "while", "still", "being", "in", "the", "background", "?", "Are", "additional", "graphical", "elements", "required", "to", "establish", "a", "visual", "correlation", "between", "the", "two", "model", "representations", "?", "What", "illustration", "techniques", "can", "be", "applied", "to", "differentiate", "between", "important", "and", "less", "important", "objects", "?", "Is", "a", "continuous", "synchronization", "between", "the", "photorealistic", "and", "the", "schematic", "representation", "of", "the", "model", "necessary", "during", "user", "interactions", "?", "Integrating", "Different", "Model", "Representations", "The", "question", "coming", "up", "at", "this", "point", "is", "how", "a", "secondary", ",", "schematic", "model", "representation", "can", "be", "integrated", "such", "that", "the", "following", "requirements", "are", "fulfilled", ":", "The", "second", "representation", "must", "be", "placed", "near", "the", "original", "3D", "representation", "in", "order", "to", "perceive", "structures", "in", "both", "representations", "-LSB-", "13", "-RSB-", ".", "The", "secondary", "representation", "may", "never", "occlude", "the", "central", ",", "realistic", "3D", "visualization", ",", "which", "a", "user", "manipulates", "directly", ".", "The", "relevant", "information", ",", "however", ",", "must", "be", "visible", "in", "order", "to", "be", "recognized", "but", "should", "not", "distract", "from", "the", "interaction", "with", "the", "3D", "model", ".", "An", "exact", "copy", "of", "the", "3D", "model", "representation", "is", "not", "appropriate", "for", "the", "task", "of", "depicting", "functional", "correlations", ",", "because", "their", "illustration", "in", "the", "``", "background", "''", "requires", "abstraction", ".", "Without", "abstraction", ",", "a", "lot", "of", "the", "users", "'", "attention", "would", "be", "required", "to", "extract", "the", "relevant", "information", ".", "An", "exact", "copy", ",", "however", ",", "can", "be", "used", "to", "provide", "a", "mirrored", "view", "below", "the", "3D", "model", "to", "visualize", "structures", "otherwise", "not", "visible", "for", "the", "user", "-LRB-", "see", "Figure", "9", "at", "the", "end", "-RRB-", ".", "The", "integration", "of", "a", "secondary", "view", "as", "inset", "-LSB-", "20", "-RSB-", "has", "some", "disadvantages", "too", ".", "Firstly", ",", "the", "inset", "must", "not", "occlude", "the", "3D", "model", ",", "thus", "it", "must", "be", "placed", "in", "distance", "which", "in", "turn", "means", "visual", "separation", ".", "Secondly", ",", "the", "inset", "framing", "complicates", "the", "visualization", "of", "object", "correlations", ",", "e.g.", "by", "lines", ".", "An", "ideal", "solution", "in", "many", "respects", "is", "to", "project", "the", "3D", "model", "onto", "a", "plane", "below", "the", "model", ",", "just", "like", "casting", "a", "shadow", ".", "This", "2D", "representation", "may", "then", "be", "modified", "in", "various", "ways", "to", "illustrate", "associated", "concepts", "and", "relations", "and", "therefore", "is", "called", "Illustrative", "Shadows", ".", "Besides", ",", "this", "approach", "satisfies", "the", "requirements", "specified", "above", ".", "Illustrative", "Shadows", "Cast", "shadows", "-LSB-", "3", "-RSB-", "have", "proven", "to", "be", "beneficial", "for", "perceiving", "spatial", "relationships", "and", "to", "facilitate", "object", "positioning", "Figure", "3", ":", "Different", "types", "of", "model", "projections", "onto", "the", "illustration", "plane", ".", "Beside", "simple", ",", "monochrome", "projections", "-LRB-", "shadows", "-RRB-", ",", "the", "color", "of", "individual", "structures", "can", "be", "preserved", ".", "The", "mirrored", "projection", "shows", "details", "otherwise", "hidden", "in", "the", "current", "view", ".", ";", ";", ";", ";", ";", ";", ";", ";", ";", ";", ";", ";", ";", ";", ";", ";", "Monochrome", "projection", "Colored", "projection", "Mirrored", "projection", "168", "-LSB-", "24", "-RSB-", ".", "Thus", ",", "their", "use", ",", "if", "already", "present", ",", "occupies", "no", "additional", "space", "for", "the", "display", "of", "additional", "information", ",", "or", "in", "the", "case", "of", "prior", "absence", ",", "also", "add", "valuable", "depth", "cues", "to", "the", "3D", "visualization", ".", "Furthermore", ",", "the", "shadows", "can", "be", "used", "to", "interact", "with", "the", "underlying", "information", "context", "or", ",", "as", "proposed", "in", "-LSB-", "10", "-RSB-", ",", "with", "the", "shadowing", "3D", "objects", ".", "To", "sum", "up", ":", "The", "shadow", "projection", "results", "in", "an", "abstraction", "which", "is", "very", "important", "for", "illustrations", ".", "Additional", "depth", "cues", "facilitate", "the", "perception", "of", "spatial", "relations", "and", "accelerate", "the", "relative", "positioning", "of", "objects", "while", "manipulating", "the", "3D", "model", ".", "The", "projection", "establishes", "a", "link", "between", "a", "3D", "object", "and", "its", "2D", "shadow", "providing", "additional", "information", ".", "Displaying", "and", "Focusing", "in", "the", "Illustration", "Plane", "Besides", "simple", ",", "monochrome", "shadow", "projection", "further", "possibilities", "to", "project", "the", "3D", "model", "representation", "onto", "the", "illustration", "plane", "come", "to", "mind", "-LRB-", "see", "Figure", "3", "-RRB-", ".", "Preserving", "the", "colors", "of", "the", "different", "structures", "of", "the", "model", ",", "for", "instance", ",", "enables", "distinct", "renditions", "and", "perception", "of", "the", "objects", "in", "the", "shadow", ".", "As", "an", "extension", ",", "the", "objects", "can", "be", "mirrored", "before", "projecting", "them", ".", "Hence", ",", "objects", "or", "hidden", "details", "of", "objects", "otherwise", "not", "visible", "become", "visible", "in", "the", "illustration", "plane", ".", "To", "illustrate", "correlations", "or", "to", "annotate", "structures", ",", "the", "relevant", "objects", "must", "be", "emphasized", "to", "be", "easily", "distinguished", "from", "the", "remaining", "2D", "visualization", ".", "Also", ",", "the", "viewer", "must", "be", "able", "to", "differentiate", "between", "relevant", "and", "less", "relevant", "objects", ".", "For", "monochrome", "shadow", "projections", ",", "the", "object", "color", "must", "contrast", "with", "the", "shadow", "color", ".", "The", "selection", "of", "emphasizing", "colors", "should", "be", "based", "on", "a", "perception", "oriented", "color", "model", ",", "such", "as", "the", "HSV", ".", "Moreover", ",", "an", "outline", "can", "be", "used", "to", "attract", "the", "viewer", "'s", "interest", ".", "A", "colored", "projection", "makes", "it", "somewhat", "more", "difficult", "since", "the", "variation", "of", "the", "color", "wo", "n't", "always", "result", "in", "a", "noticeable", "distinct", "representation", ".", "By", "using", "a", "conspicuous", "texture", "or", "shaded", "representations", "of", "the", "relevant", "object", "whereas", "the", "remaining", "objects", "are", "flat-shaded", ",", "the", "viewer", "'s", "attention", "can", "be", "directed", "to", "those", "relevant", "objects", ".", "Significance", "of", "Accentuations", "In", "addition", "to", "objects", "being", "significant", "to", "the", "current", "interaction", "context", "supplementary", "objects", "have", "to", "be", "included", "in", "the", "illustration", ".", "These", "objects", "are", "not", "of", "primary", "importance", "within", "the", "concepts", "to", "be", "illustrated", "but", "guide", "the", "viewer", "and", "maintain", "context", ".", "It", "is", "important", "that", "such", "objects", "are", "recognized", "by", "the", "viewer", "as", "objects", "of", "minor", "significance", ".", "The", "relevance", "of", "objects", "that", "have", "been", "emphasized", "by", "outlining", ",", "for", "instance", ",", "can", "be", "judged", "by", "line", "width", "or", "line", "style", "-LRB-", "e.g.", "contrast", ",", "waviness", "-RRB-", ".", "Also", "preserving", "the", "objects", "color", "as", "well", "as", "the", "use", "of", "texture", "indicates", "a", "higher", "importance", "than", "an", "interpolation", "of", "the", "object", "'s", "color", "and", "the", "background", "color", ".", "Recognition", "of", "Correlations", "between", "both", "Representations", "An", "important", "aspect", "in", "using", "two", "different", "but", "coherent", "representations", "of", "the", "same", "model", "is", "the", "identification", "of", "correlations", "between", "those", "visualizations", "by", "the", "viewer", ".", "If", "an", "object", "is", "being", "emphasized", "in", "the", "illustration", "plane", ",", "it", "must", "be", "possible", "for", "the", "viewer", "to", "find", "its", "counterpart", "in", "the", "detailed", "photorealistic", "representation", "too", ".", "Often", "shape", "and", "color", "give", "enough", "hints", ".", "However", ",", "if", "the", "projection", "of", "the", "relevant", "objects", "results", "in", "uniform", "shapes", ",", "the", "viewer", "may", "have", "difficulties", "to", "recognize", "individual", "objects", "in", "the", "3D", "visualization", "-LRB-", "see", "Figure", "4", "-RRB-", ".", "Besides", "accentuating", "those", "objects", "in", "the", "3D", "representation", ",", "the", "integration", "of", "additional", "elements", "can", "be", "beneficial", ".", "Semi-transparent", "shadow", "volumes", "originally", "developed", "to", "facilitate", "object", "positioning", "in", "3D", "-LSB-", "19", "-RSB-", "indicate", "direct", "correspondence", "-LRB-", "see", "Figure", "5", "-RRB-", ".", "Integration", "of", "Annotations", "The", "conveyance", "of", "important", "related", "facts", "by", "means", "of", "graphical", "abstraction", ",", "accentuation", ",", "or", "modification", "of", "relevant", "structures", "alone", "is", "difficult", ".", "Therefore", "conventional", "book", "illustrations", "often", "contain", "annotations", "with", "short", "descriptions", ".", "Those", "annotations", "must", "be", "placed", "close", "to", "the", "described", "objects", "and", "should", "not", "occlude", "relevant", "parts", "of", "the", "presentation", ".", "The", "latter", ",", "however", ",", "can", "not", "always", "be", "guaranteed", ".", "A", "simple", "but", "effective", "solution", "places", "the", "annotation", "on", "a", "semi-transparent", "background", "face", "that", "increases", "the", "contrast", "between", "text", "annotation", "and", "illustration", "and", "still", "does", "not", "block", "vision", "-LRB-", "see", "Figure", "5", "-RRB-", ".", "To", "further", "facilitate", "absorption", "of", "shown", "concepts", ",", "single", "words", "or", "groups", "of", "words", "can", "be", "emphasized", "and", "graphically", "linked", "to", "relating", "structures", "in", "the", "illustration", ".", "Hypertext", "functionality", "reduces", "the", "amount", "to", "which", "textual", "annotations", "must", "be", "displayed", "at", "once", ".", "The", "user", "can", "request", "more", "detailed", "information", "by", "activating", "links", ".", "Figure", "4", ":", "Recognition", "of", "individual", "objects", "in", "different", "scenes", ".", "To", "the", "left", ",", "unequivocal", "correspondence", "of", "shape", "and", "color", "facilitates", "identification", ".", "To", "the", "right", ",", "no", "clear", "correspondence", ".", "Figure", "5", ":", "A", "direct", "connection", "to", "an", "object", "'s", "shadow", "is", "established", "by", "displaying", "its", "semi-transparent", "shadow", "volume", ".", "The", "integration", "of", "annotations", "gives", "meaning", "to", "unknown", "objects", "and", "relationships", ".", "169", "A", "human", "illustrator", "is", "required", "to", "identify", "important", "aspects", "and", "characteristic", "features", "of", "the", "subject", "or", "concept", "that", "is", "to", "be", "conveyed", "in", "order", "to", "draw", "a", "focussed", "visualization", ".", "One", "way", "to", "identify", "those", "features", "for", "the", "computer", "is", "to", "watch", "the", "user", "interacting", "with", "the", "information", "space", ".", "Since", "our", "goal", "has", "been", "to", "enhance", "the", "users", "'", "understanding", "by", "providing", "background", "information", "in", "the", "current", "interaction", "context", ",", "an", "Illustrative", "Shadow", "depicting", "correlations", "in", "that", "context", "must", "be", "generated", ".", "By", "navigating", "within", "the", "3D", "model", "on", "the", "one", "hand", ",", "the", "user", "is", "free", "to", "explore", "spatial", "relations", "by", "changing", "the", "view", ".", "Here", ",", "single", "structures", "may", "be", "tracked", "by", "the", "computer", "regarding", "their", "visibility", "hence", "obtaining", "information", "about", "the", "users", "'", "current", "focus", ".", "On", "the", "other", "hand", ",", "the", "user", "may", "interact", "with", "the", "structures", ",", "thus", "expressing", "specific", "interest", ".", "As", "a", "result", "of", "the", "integrated", "3D/2D", "visualization", ",", "interaction", "is", "possible", "within", "the", "3D", "visualization", "as", "well", "as", "in", "the", "projection", "layers", ",", "a", "technique", "inspired", "by", "-LSB-", "10", "-RSB-", ".", "Using", "the", "shadow", "for", "interaction", "facilitates", "certain", "tasks", ",", "such", "as", "selection", ",", "since", "structures", "hidden", "in", "the", "3D", "visualization", "may", "be", "visible", "in", "the", "projection", ".", "Furthermore", ",", "2D", "input", "device", "coordinates", "can", "be", "mapped", "directly", "onto", "the", "plane", "thereby", "enabling", "the", "use", "of", "2D", "interaction", "techniques", ".", "The", "provided", "manipulation", "tasks", "highly", "depend", "on", "the", "application", "that", "employs", "the", "concept", "of", "Illustrative", "Shadows", ".", "In", "our", "application", ",", "the", "user", "is", "able", "to", "compose", "and", "to", "decompose", "a", "given", "3D", "model", "like", "a", "3D", "jigsaw", ".", "Thus", ",", "translation", "and", "rotation", "of", "individual", "structures", "are", "main", "interaction", "tasks", ".", "User-interactions", "are", "tracked", "within", "an", "interaction", "history", ".", "By", "assigning", "relevance", "values", "to", "each", "interaction", "task", ",", "accumulations", "of", "these", "values", "show", "a", "distribution", "of", "interest", "within", "the", "model", "over", "time", ".", "Thus", "each", "single", "structure", "'s", "degree", "of", "interest", "-LRB-", "DOI", ",", "a", "normalized", "value", "-RRB-", "is", "a", "measure", "for", "its", "importance", "to", "the", "user", "at", "a", "certain", "time", ".", "As", "shown", "in", "Table", "1", ",", "touching", "a", "structure", "with", "the", "mouse", "pointer", "has", "a", "much", "lower", "relevance", "than", "actually", "selecting", "it", ".", "The", "degree", "of", "interest", "is", "communicated", "to", "the", "knowledge", "server", "which", "in", "turn", "may", "modify", "the", "2D", "visualization", "of", "the", "shadow", ".", "To", "give", "an", "example", ",", "the", "user", "is", "interested", "in", "a", "certain", "structure", "of", "an", "anatomic", "3D", "visualization", ",", "such", "as", "a", "ligament", ",", "that", "is", "part", "of", "a", "functional", "relation", "between", "a", "bone", "and", "a", "muscle", ".", "Only", "one", "of", "those", "objects", ",", "that", "is", "the", "bone", "or", "the", "muscle", ",", "should", "be", "highlighted", "and", "annotated", ",", "because", "of", "space", "restrictions", "in", "the", "shadow", "layer", ".", "At", "this", "point", ",", "the", "DOI", "is", "used", "to", "decide", ".", "If", "the", "interaction", "history", "shows", "more", "user-interest", "for", "muscles", ",", "information", "about", "the", "functional", "relation", "between", "the", "ligament", "and", "the", "muscle", "is", "displayed", ".", "While", "segmentation", "of", "the", "3D", "model", "into", "individual", "structures", "-LRB-", "objects", "-RRB-", "provides", "a", "spatial", "description", ",", "the", "presentation", "of", "correlations", "also", "requires", "a", "linked", "symbolic", ",", "textual", "description", ".", "Moreover", ",", "in", "order", "to", "establish", "hypotheses", "on", "the", "current", "interaction", "context", ",", "formal", "knowledge", "is", "required", ".", "Thus", ",", "the", "system", "presented", "in", "this", "paper", "comprises", "a", "knowledge", "base", ",", "i.e.", "a", "media-independent", "formal", "representation", ",", "media-specific", "realization", "statements", "of", "entities", "within", "the", "formal", "representation", "as", "well", "as", "a", "large", "multi-lingual", "text", "corpus", ".", "Realization", "statements", "establish", "co-reference", "relations", "between", "independent", "formal", "representations", "describing", "different", "aspects", "of", "the", "underlying", "information", "space", ".", "They", "also", "guide", "the", "generation", "or", "selection", "of", "texts", "used", "to", "annotate", "structures", "in", "the", "2D", "visualization", ".", "The", "medical", "education", "application", "presented", "later", "in", "this", "paper", "is", "based", "on", "a", "knowledge", "base", "describing", "the", "objects", "and", "functional", "correlations", "of", "the", "musculo-skeletal", "system", ".", "It", "covers", "the", "area", "of", "the", "lower", "limb", "and", "the", "pelvic", "girdle", ".", "The", "knowledge", "base", "was", "created", "by", "manually", "analyzing", "several", "anatomy", "textbooks", ",", "anatomy", "atlases", ",", "medical", "dictionaries", ",", "and", "lexica", ".", "This", "analysis", "reveals", "important", "concepts", ",", "their", "hierarchical", "classification", ",", "and", "the", "instance", "attribute", "values", "forming", "a", "complex", "semantic", "network", ".", "Our", "system", "contains", "a", "hierarchical", "representation", "of", "basic", "anatomic", "concepts", "such", "as", "bones", ",", "muscles", ",", "articulations", ",", "tendons", ",", "as", "well", "as", "their", "parts", "and", "regions", ".", "The", "corpus", "contains", "fragments", "of", "several", "anatomic", "textbooks", "describing", "global", "concepts", "of", "the", "osteology", ",", "syndesmology", ",", "and", "myology", "as", "well", "as", "descriptions", "of", "all", "the", "entities", "of", "these", "anatomic", "systems", "within", "the", "lower", "leg", "and", "the", "pelvic", "girdle", ".", "In", "order", "to", "present", "appropriate", "system", "reactions", "the", "event", "control", "informs", "the", "knowledge", "server", "of", "user", "interactions", ".", "First", ",", "exploiting", "the", "visual", "annotations", ",", "the", "knowledge", "action", "parameter", "value", "relevance", "mouseOver", "time", "short", "1", "long", "2", "mouseButtonPressed", "location", "3D", "object", "4", "2D", "object", "4", "annotation", "6", "Table", "1", ".", "Relevance", "of", "certain", "user", "interactions", "Figure", "6", ":", "Visualization", "of", "intermediate", "steps", "within", "a", "retrieval", "which", "discovers", "the", "association", "between", "the", "distal", "phalanx", "of", "the", "big", "toe", "and", "the", "extensor", "hallucis", "longus", ".", "has-Basis", "has-Area", "has-Basis", "Os-Longum", "Bone-Basis", "Musculus", "Bone-Area", "Phalanx", "distalis", "pedis", "Basis", "phalangis", "distalis", "pedis", "Area", "insertion", "of", "M.", "extensor", "hallucis", "longus", "M.", "extensor", "hallucis", "longus", "1", "2", "3", "1", "2", "3", "Instance", "Relation", "Concept", "170", "server", "extracts", "co-referring", "formal", "entities", "and", "assigns", "relevance", "values", "according", "to", "Table", "1", ".", "Subsequently", ",", "the", "knowledge", "server", "searches", "for", "associations", "between", "the", "most", "relevant", "entities", ".", "Our", "system", "pursues", "two", "alternative", "strategies", ":", "retrievals", "and", "suggestions", ".", "Retrievals", "discover", "relations", "between", "entities", "by", "tracking", "predefined", "paths", "within", "the", "knowledge", "base", ".", "Figure", "6", "illustrates", "the", "intermediate", "steps", "in", "order", "to", "extract", "relations", "between", "bones", "and", "muscles", ".", "From", "a", "functional", "point", "of", "view", "-LRB-", "i.e.", "the", "muscle", "mechanics", "-RRB-", ",", "bones", "are", "insertions", "or", "origins", "of", "muscles", ".", "Its", "contraction", "produces", "force", ",", "which", "in", "turn", "changes", "the", "orientation", "of", "these", "bones", ".", "These", "retrievals", "also", "need", "to", "consider", "substructures", "-LRB-", "e.g.", "bone-volumes", "and", "bone-area", "-RRB-", ".", "The", "following", "retrieval", "extracts", "those", "muscles", ",", "which", "originate", "in", "a", "given", "bone", "-LRB-", "first", "logic", "order", "-RRB-", ":", "The", "has-Part", "*", "relation", "represents", "the", "transitive", "hull", "over", "several", "spatial", "part-of-relations", "-LSB-", "1", "-RSB-", "-LRB-", "e.g.", "the", "has-Basis", "relation", "between", "Bones", "and", "Bone-Volumes", "and", "the", "has-Area", "relation", "between", "Areas", "or", "Volumes", "and", "Areas", "-RRB-", ".", "These", "retrievals", "rely", "on", "knowledge", "about", "the", "structure", "of", "the", "knowledge", "base", ".", "Moreover", ",", "they", "refer", "to", "a", "small", "number", "of", "relevant", "objects", ".", "In", "many", "situations", ",", "however", ",", "the", "event", "control", "comes", "up", "with", "a", "huge", "number", "of", "potential", "relevant", "objects", ",", "which", "can", "not", "easily", "be", "mapped", "to", "a", "predefined", "query", ".", "Hence", ",", "we", "adopt", "a", "bottom-up", "search", "approach", "within", "a", "complex", "semantic", "network", "developed", "within", "cognitive", "psychology", ".", "In", "his", "model", "of", "human", "comprehension", "-LSB-", "15", "-RSB-", "Quillian", "assumed", "that", "spatially", "and", "temporally", "independent", "aspects", "of", "human", "long-term", "memory", "are", "organized", "in", "a", "semantic", "network", ".", "Furthermore", ",", "he", "assumed", "that", "cognitive", "processes", "that", "access", "a", "node", "of", "the", "semantic", "network", "activate", "all", "connected", "nodes", "in", "parallel", ".", "The", "term", "spreading", "activation", "refers", "to", "a", "recursive", "propagation", "of", "initial", "stimuli", ".", "Nowadays", ",", "this", "term", "subsumes", "breadth-first", "search", "algorithms", "for", "paths", "connecting", "the", "nodes", "of", "a", "start", "and", "a", "destination", "set", "in", "directed", "graphs", "satisfying", "an", "evaluation", "criterion", ".", "Collins", "and", "Loftus", "-LSB-", "6", "-RSB-", "modify", "the", "propagation", "algorithm", "to", "consider", "activation", "strength", ".", "In", "our", "system", ",", "the", "knowledge", "server", "uses", "the", "objects", "'", "DOI", "from", "the", "event", "control", "as", "an", "initial", "activation", ",", "which", "spreads", "through", "the", "semantic", "network", ".", "These", "initial", "activa-tions", "also", "take", "the", "content", "presented", "on", "textual", "labels", "and", "inspected", "by", "the", "user", "into", "account", ".", "The", "spreading", "activation", "approach", "generates", "a", "focus", "structure", "which", "contains", "information", "how", "dominant", "graphical", "objects", "must", "be", "presented", "in", "the", "schematic", "illustration", "-LSB-", "9", "-RSB-", ".", "Figure", "7", "illustrates", "how", "visual", "dominance", "values", "control", "the", "render", "parameters", ".", "The", "visual", "component", "of", "the", "prototypical", "implementation", "extends", "the", "Open", "Inventor", "graphical", "library", "with", "powerful", "scenegraph", "nodes", "to", "display", "hypertext", "on", "overlay", "regions", "and", "to", "render", "semi-transparent", "shadow", "volumes", ".", "Other", "nodes", "encapsulate", "the", "mirror", "and", "shading", "projection", "onto", "the", "ground", "plane", "as", "well", "as", "the", "user", "interaction", ",", "and", "emphasize", "techniques", "-LRB-", "e.g.", "computation", "of", "silhouette", "lines", "-RRB-", ".", "The", "layer", "management", "-LRB-", "see", "Figure", "8", "-RRB-", "employs", "the", "OpenGL", "polygon", "offset", "feature", "to", "allow", "graphics", "to", "overlap", "specifically", "whereas", "visibility-tests", "of", "individual", "structures", "are", "accomplished", "by", "offscreen", "rendering", "and", "analyzing", "OpenGL", "p-buffers", ".", "Additional", "OSF", "Motif", "widgets", "enable", "the", "user", "to", "add", "personalized", "annotations", ",", "which", "are", "inserted", "into", "the", "knowledge", "base", ".", "The", "knowledge", "base", "encodes", "both", "the", "media-independent", "formal", "knowledge", "representation", "as", "well", "as", "media", "specific", "realization", "statements", "using", "XML", "topic", "maps", "-LSB-", "2", "-RSB-", ".", "To", "process", "this", "information", ",", "XML", "statements", "are", "transformed", "into", "LISP-code", ".", "The", "authoring", "system", "contains", "export", "filters", "for", "the", "NeoClassic", "and", "the", "LOOM", "-LSB-", "12", "-RSB-", "description", "logic", "inference", "machine", ".", "In", "the", "current", "version", "it", "covers", "about", "50", "basic", "anatomic", "concepts", ",", "70", "relations", ",", "and", "over", "1500", "instances", ",", "with", "linguistic", "realization", "statements", "in", "Latin", ",", "German", "and", "English", ".", "Furthermore", ",", "visual", "annotations", "refer", "to", "a", "small", "number", "of", "geometric", "models", "and", "2D", "illustrations", ".", "The", "interface", "between", "the", "knowledge", "server", "and", "the", "visual", "component", "is", "described", "using", "CORBA", "'s", "interface", "definition", "language", "-LRB-", "IDL", "-RRB-", ".", "The", "CORBA-based", "interface", "implementation", "enables", "us", "to", "experiment", "with", "several", "knowledge", "serv-Figure", "7", ":", "Application", "of", "different", "emphasize", "techniques", "to", "the", "2D", "information", "representation", "according", "to", "decreasing", "dominance", "values", ".", "-LCB-", "muscle", "|", "bone", ":", "Bone", "-LRB-", "bone", "-RRB-", "Musculus", "-LRB-", "muscle", "-RRB-", "-LRB-", "is-Origin-of", "-LRB-", "bone", ",", "muscle", "-RRB-", "part", ":", "has-Part", "*", "-LRB-", "bone", ",", "part", "-RRB-", "is-Origin-of", "-LRB-", "part", ",", "muscle", "-RRB-", "-RRB-", "-RCB-", "Figure", "8", ":", "Multiple", "layers", "are", "used", "to", "place", "the", "different", "visual", "information", "in", "order", ".", "Thereby", ",", "occluded", "details", "may", "be", "visible", "in", "the", "shadow", "-LRB-", "3", "-RRB-", ".", "Outline", "Highlight", "Ordinary", "Detail", "Annotation", "1", "3", "2", "171", "ers", "implemented", "in", "Common-LISP", "-LRB-", "LOOM", "-RRB-", "and", "C++", "-LRB-", "NeoClassic", "-RRB-", ".", "We", "applied", "the", "concept", "of", "Illustrative", "Shadows", "to", "an", "application", "of", "medical", "education", ".", "This", "system", "had", "been", "previously", "designed", "to", "foster", "the", "understanding", "of", "spatial", "relationships", "by", "means", "of", "3D", "models", "based", "on", "a", "virtual", "3D", "jigsaw", "approach", "-LSB-", "19", "-RSB-", ".", "While", "composing", "anatomical", "structures", "has", "proven", "to", "help", "medical", "students", "to", "build", "an", "understanding", "of", "the", "spatial", "composition", "-LSB-", "17", "-RSB-", ",", "most", "of", "the", "users", "expressed", "their", "desire", "for", "detailed", "information", "about", "functional", "relations", "between", "structures", ".", "Consequently", ",", "students", "would", "be", "able", "to", "playfully", "study", "human", "organs", "including", "their", "spatial", "and", "functional", "correlations", ".", "Figures", "9", "and", "10", "depict", "the", "screen", "of", "the", "prototype", "in", "typical", "learning", "sessions", ".", "Individual", "objects", "can", "be", "detached", "and", "moved", "within", "the", "scene", "to", "expose", "occluded", "structures", ".", "In", "Figure", "9", ",", "one", "of", "the", "alternative", "visualization", ",", "the", "mirror", ",", "is", "shown", "to", "demonstrate", "the", "various", "employments", "of", "the", "plane", ".", "It", "enables", "the", "user", "to", "simultaneously", "look", "at", "two", "different", "views", "of", "the", "3D", "model", ".", "Graphical", "accentuations", "are", "used", "to", "attract", "the", "viewer", "'s", "attention", "-LRB-", "left", "atrium", "-RRB-", ".", "Additional", "textual", "annotations", "are", "assigned", "to", "correlating", "structures", "in", "a", "hypertext", "representation", "which", "can", "be", "explored", "by", "following", "sepa-rately", "marked", "links", ".", "Another", "application", "that", "has", "not", "yet", "been", "realized", "is", "to", "support", "users", "of", "CAD", "systems", "by", "Illustrative", "Shadows", ".", "CAD", "systems", "are", "not", "only", "used", "to", "design", "individual", "components", "in", "3D", "but", "also", "to", "assemble", "complex", "systems", ".", "Information", "about", "parameters", "of", "single", "components", "and", "relationships", "are", "of", "major", "importance", ".", "Being", "able", "to", "retrieve", "this", "information", "directly", "from", "the", "scene", "while", "interacting", "with", "the", "components", "is", "of", "great", "benefit", "for", "the", "design", "engineer", ".", "For", "educational", ",", "engineering", ",", "or", "maintenance", "purposes", "a", "wealth", "of", "information", "about", "spatial", "and", "functional", "correlation", "as", "well", "as", "textual", "information", "is", "required", ".", "In", "this", "paper", "we", "developed", "a", "new", "metaphor-based", "approach", "to", "coher-ently", "integrate", "different", "views", "onto", "such", "a", "complex", "information", "space", "within", "an", "interactive", "system", ".", "Illustrative", "Shadows", "provide", "an", "intuitive", "visual", "link", "and", "a", "level", "of", "integration", "between", "interactive", "3D", "graphics", "and", "supplemental", "2D", "information", "displays", "that", "is", "hard", "to", "achieve", "with", "other", "concepts", ".", "Shadow", "projections", "have", "proven", "to", "be", "beneficial", "for", "perceiving", "spatial", "relationships", "and", "to", "facilitate", "object", "positioning", ".", "Thus", ",", "their", "use", ",", "if", "already", "present", ",", "occupies", "no", "additional", "space", "for", "the", "display", "of", "additional", "information", ",", "or", "in", "the", "case", "of", "prior", "absence", ",", "also", "add", "valuable", "depth", "cues", "to", "the", "3D", "visualization", ".", "The", "shadow", "projection", "onto", "a", "flat", "plane", "enables", "schematic", "illustrations", "which", "are", "focused", "on", "specific", "information", "extraction", "tasks", "and", "facilitates", "the", "integration", "of", "generated", "textual", "information", "that", "leads", "to", "further", "meaning", ".", "Thus", ",", "Illustrative", "Shadows", "promote", "the", "comprehension", "of", "complex", "spatial", "relations", "and", "functional", "correlations", ".", "Furthermore", ",", "the", "secondary", "information", "display", "does", "not", "hinder", "manipulations", "of", "the", "3D", "model", ".", "Our", "approach", "is", "well", "suited", "for", "compact", "3D", "models", ",", "and", "has", "been", "successfully", "applied", "to", "an", "application", "of", "medical", "education", "1", ".", "Bernauer", ",", "J.", "Analysis", "of", "Part-Whole", "Relation", "and", "Subsumption", "in", "the", "Medical", "Domain", ".", "Data", "&", "Knowledge", "Engineering", ",", "20", "-LRB-", "3", "-RRB-", ":", "405", "415", ",", "October", "1996", ".", "2", ".", "Biezunski", ",", "M.", ",", "Bryan", ",", "M.", ",", "and", "Newcomb", ",", "S.", ",", "editors", ".", "ISO/IEC", "13250:2000", "Topic", "Maps", ":", "Information", "Technology", "Document", "Description", "and", "Markup", "Language", ".", "International", "Organization", "for", "Standarization", "Figure", "9", ":", "Alternative", "visualization", ".", "The", "Mirror", "facilitates", "manipulation", "in", "3D", ",", "by", "providing", "a", "better", "view", "of", "the", "structures", ".", "The", "central", "representation", "is", "never", "occluded", "by", "annotations", ".", "Figure", "10", ":", "German", "annotation", "of", "objects", "previously", "selected", ".", "Realization", "statements", "of", "the", "semantic", "network", "provide", "alternative", "German", ",", "English", ",", "and", "Latin", "phrases", "referring", "to", "formal", "entities", ".", "172", "-LRB-", "ISO", "-RRB-", "and", "International", "Electrotechnical", "Commission", "-LRB-", "IEC", "-RRB-", ",", "December", "1999", ".", "1", ".", "Draft", ".", "3", ".", "Blinn", ",", "J.F.", "Me", "and", "my", "-LRB-", "fake", "-RRB-", "shadow", ".", "IEEE", "Computer", "Graphics", "&", "Applications", ",", "8", "-LRB-", "1", "-RRB-", ":", "82", "86", ",", "January/Febru-ary", "1988", ".", "4", ".", "Brinkley", ",", "J.F.", ",", "Wong", ",", "B.A.", ",", "Hinshaw", ",", "K.P.", ",", "and", "Rosse", ",", "C.", "Design", "of", "an", "Anatomy", "Information", "System", ".", "IEEE", "Computer", "Graphics", "&", "Applications", ",", "19", "-LRB-", "3", "-RRB-", ":", "38", "48", ",", "May/June", "1999", ".", "5", ".", "Cignoni", ",", "P.", ",", "Montani", ",", "C.", ",", "and", "Scopigno", ",", "R.", "Magic-sphere", ":", "An", "insight", "tool", "for", "3d", "data", "visualization", ".", "IEEE", "Computer", "Graphics", "Forum", ",", "13", "-LRB-", "3", "-RRB-", ":", "317", "328", ",", "1994", ".", "6", ".", "Collins", ",", "A.", "and", "Loftus", ",", "E", ".", "A", "Spreading-Activation", "Theory", "of", "Semantic", "Processing", ".", "Psychological", "Review", ",", "82", "-LRB-", "6", "-RRB-", ":", "407", "428", ",", "1975", ".", "7", ".", "Fishkin", ",", "K.", "and", "Stone", ",", "M.C.", "Enhanced", "dynamic", "queries", "via", "moveable", "filters", ".", "In", "Katz", ",", "I.R.", ",", "Mack", ",", "R.", ",", "Marks", ",", "L.", ",", "Rosson", ",", "M.B.", ",", "and", "Nielsen", ",", "J.", ",", "editors", ",", "Proc", ".", "of", "ACM", "CHI", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", "-LRB-", "Denver", ",", "May", "1995", "-RRB-", ",", "pages", "415", "420", ".", "ACM", "Press", ",", "New", "York", ",", "1995", ".", "8", ".", "Grosjean", ",", "J.", "and", "Coquillart", ",", "S", ".", "The", "magic", "mirror", ":", "A", "metaphor", "for", "assisting", "the", "exploration", "of", "virtual", "worlds", ".", "In", "Zara", ",", "J.", ",", "editor", ",", "Proc", ".", "of", "Spring", "Conference", "on", "Computer", "Graphics", "-LRB-", "Budmerice", ",", "Slovakia", ",", "April", "1999", "-RRB-", ",", "pages", "125", "129", ",", "1999", ".", "9", ".", "Hartmann", ",", "K.", ",", "Schlechtweg", ",", "S.", ",", "Helbing", ",", "R.", ",", "and", "Strothotte", ",", "T.", "Knowledge-Supported", "Graphical", "Illustration", "of", "Texts", ".", "In", "De", "Marsico", ",", "M.", ",", "Levialdi", ",", "S.", ",", "and", "Panizzi", ",", "E.", ",", "editors", ",", "Proc", ".", "of", "the", "Working", "Conference", "on", "Advanced", "Visual", "Interfaces", "-LRB-", "AVI", "2002", "-RRB-", ",", "pages", "300", "307", ",", "Trento", ",", "Italy", ",", "May", "2002", ".", "ACM", "Press", ",", "New", "York", ".", "10", ".", "Herndon", ",", "K.P.", ",", "Zeleznik", ",", "R.C.", ",", "Robbins", ",", "D.C.", ",", "Conner", ",", "D.B.", ",", "Snibbe", ",", "S.S.", ",", "and", "van", "Dam", ",", "A.", "Interactive", "shadows", ".", "In", "Proc", ".", "of", "ACM", "Symposium", "on", "User", "Interface", "and", "Software", "Technology", "-LRB-", "Monterey", ",", "November", "1992", "-RRB-", ",", "pages", "1", "6", ".", "ACM", "Press", ",", "New", "York", ",", "1992", ".", "11", ".", "H", "hne", ",", "K.H.", ",", "Pflesser", ",", "B.", ",", "Pommert", ",", "A.", ",", "Riemer", ",", "M.", ",", "Schiemann", ",", "T.", ",", "Schubert", ",", "R.", ",", "and", "Tiede", ",", "U", ".", "A", "virtual", "body", "model", "for", "surgical", "education", "and", "rehearsal", ".", "IEEE", "Computer", ",", "29", "-LRB-", "1", "-RRB-", ":", "25", "31", ",", "January", "1996", ".", "12", ".", "MacGregor", ",", "R", ".", "A", "Description", "Classifier", "for", "the", "Predicate", "Calculus", ".", "In", "Hayes-Roth", ",", "B.", "and", "Korf", ",", "R.", ",", "editors", ",", "Proc", ".", "of", "the", "Twelfth", "Annual", "National", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "AAAI-94", "-RRB-", ",", "pages", "213", "220", ",", "Seattle", ",", "Washington", ",", "August", "1994", ".", "AAAI", "Press", ",", "Menlo", "Park", ".", "13", ".", "Moreno", ",", "R.", "and", "Mayer", ",", "R.E.", "Cognitive", "principles", "of", "multimedia", "learning", ".", "Journal", "of", "Educational", "Psychology", ",", "91:358", "368", ",", "1999", ".", "14", ".", "Pommert", ",", "A.", ",", "H", "hne", ",", "K.H.", ",", "Pflesser", ",", "B.", ",", "Richter", ",", "E.", ",", "Riemer", ",", "M.", ",", "Schiemann", ",", "T.", ",", "Schubert", ",", "R.", ",", "Schumacher", ",", "U.", ",", "and", "Tiede", ",", "U.", "Creating", "a", "high-resolution", "spatial", "/", "symbolic", "model", "of", "the", "inner", "organs", "based", "on", "the", "visible", "human", ".", "Medical", "Image", "Analysis", ",", "5", "-LRB-", "3", "-RRB-", ":", "221", "228", ",", "2001", ".", "15", ".", "Quillian", ",", "M.", "Semantic", "Memory", ".", "In", "Minsky", ",", "M.", ",", "editor", ",", "Semantic", "Information", "Processing", ",", "chapter", "4", ",", "pages", "227", "270", ".", "MIT", "Press", ",", "Cambridge.", ",", "1968", ".", "16", ".", "Rehm", ",", "K.", ",", "Lakshminaryan", ",", "K.", ",", "Frutiger", ",", "S.", ",", "Schaper", ",", "K.A.", ",", "Sumners", ",", "D.W.", ",", "Strother", ",", "S.C.", ",", "Anderson", ",", "J.R.", ",", "and", "Rottenberg", ",", "D.A.", ".", "A", "symbolic", "environment", "for", "visualizing", "activated", "foci", "in", "functional", "neuroimaging", "datasets", ".", "Medical", "Image", "Analysis", ",", "2", "-LRB-", "3", "-RRB-", ":", "215", "226", ",", "???", "1998", ".", "17", ".", "Ritter", ",", "F.", ",", "Berendt", ",", "B.", ",", "Fischer", ",", "B.", ",", "Richter", ",", "R.", ",", "and", "Preim", ",", "B.", "Virtual", "3d", "jigsaw", "puzzles", ":", "Studying", "the", "effect", "of", "exploring", "spatial", "relations", "with", "implicit", "guidance", ".", "In", "Herczeg", ",", "M.", ",", "Prinz", ",", "W.", ",", "and", "Oberquelle", ",", "H.", ",", "editors", ",", "Proc", ".", "of", "Mensch", "&", "Computer", "-LRB-", "Hamburg", ",", "September", "2002", "-RRB-", ",", "pages", "363", "372", ",", "Stuttgart", "Leipzig", "Wiesbaden", ",", "2002", ".", "B.G.Teubner", ".", "18", ".", "Ritter", ",", "F.", ",", "Deussen", ",", "O.", ",", "Preim", ",", "B.", ",", "and", "Strothotte", ",", "T.", "Virtual", "3d", "puzzles", ":", "A", "new", "method", "for", "exploring", "geometric", "models", "in", "vr", ".", "IEEE", "Computer", "Graphics", "&", "Applications", ",", "21", "-LRB-", "5", "-RRB-", ":", "11", "13", ",", "September/October", "2001", ".", "19", ".", "Ritter", ",", "F.", ",", "Preim", ",", "B.", ",", "Deussen", ",", "O.", ",", "and", "Strothotte", ",", "T.", "Using", "a", "3d", "puzzle", "as", "a", "metaphor", "for", "learning", "spatial", "relations", ".", "In", "Fels", ",", "S.S.", "and", "Poulin", ",", "P.", ",", "editors", ",", "Proc", ".", "of", "Graphics", "Interface", "-LRB-", "Montr", "al", ",", "May", "2000", "-RRB-", ",", "pages", "171", "178", ".", "Morgan", "Kaufmann", "Publishers", ",", "San", "Francisco", ",", "2000", ".", "20", ".", "Seligmann", ",", "D.D.", "and", "Feiner", ",", "S.", "Automated", "generation", "of", "intent-based", "3d", "illustrations", ".", "In", "Proc", ".", "of", "ACM", "SIG-GRAPH", "Conference", "on", "Computer", "Graphics", "-LRB-", "Las", "Vegas", ",", "July", "1991", "-RRB-", ",", "pages", "123", "132", ".", "ACM", "Press", ",", "New", "York", ",", "1991", ".", "21", ".", "Stone", ",", "M.C.", ",", "Fishkin", ",", "K.", ",", "and", "Bier", ",", "E.A.", ".", "The", "moveable", "filter", "as", "a", "user", "interface", "tool", ".", "In", "Plaisant", ",", "C.", ",", "editor", ",", "Proc", ".", "of", "ACM", "CHI", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", "-LRB-", "Boston", ",", "April", "1994", "-RRB-", ",", "pages", "306", "312", ".", "ACM", "Press", ",", "New", "York", ",", "1994", ".", "22", ".", "Strothotte", ",", "T.", "and", "Schlechtweg", ",", "S.", "Non-Photorealistic", "Computer", "Graphics", ":", "Modeling", ",", "Rendering", ",", "and", "Animation", ".", "Morgan", "Kaufmann", "Publishers", ",", "San", "Francisco", ",", "2002", ".", "23", ".", "Viega", ",", "J.", ",", "Conway", ",", "M.J.", ",", "Williams", ",", "G.", ",", "and", "Pausch", ",", "R.", "3d", "magic", "lenses", ".", "In", "Proc", ".", "of", "ACM", "Symposium", "on", "User", "Interface", "and", "Software", "Technology", "-LRB-", "Seattle", ",", "November", "1996", "-RRB-", ",", "pages", "51", "58", ".", "ACM", "Press", ",", "New", "York", ",", "1996", ".", "24", ".", "Wanger", ",", "L.R.", ".", "The", "effect", "of", "shadow", "quality", "on", "the", "perception", "of", "spatial", "relationships", "in", "computer", "generated", "imagery", ".", "In", "Proc", ".", "of", "Symposium", "on", "Interactive", "3D", "Graphics", "-LRB-", "Cambridge", ",", "March", "1992", "-RRB-", ",", "pages", "39", "42", ".", "ACM", "Press", ",", "New", "York", ",", "1992", ".", "See", "also", ":", "http://isgwww.cs.uni-magdeburg.de/research/is/", "173"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["spreading activation"], "abstractive_keyphrases": ["information visualization"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "126", "document": ["Learning", "the", "Unified", "Kernel", "Machines", "for", "Classification", "Kernel", "machines", "have", "been", "shown", "as", "the", "state-of-the-art", "learning", "techniques", "for", "classification", ".", "In", "this", "paper", ",", "we", "propose", "a", "novel", "general", "framework", "of", "learning", "the", "Unified", "Kernel", "Machines", "-LRB-", "UKM", "-RRB-", "from", "both", "labeled", "and", "unlabeled", "data", ".", "Our", "proposed", "framework", "integrates", "supervised", "learning", ",", "semi-supervised", "kernel", "learning", ",", "and", "active", "learning", "in", "a", "unified", "solution", ".", "In", "the", "suggested", "framework", ",", "we", "particularly", "focus", "our", "attention", "on", "designing", "a", "new", "semi-supervised", "kernel", "learning", "method", ",", "i.e.", ",", "Spectral", "Kernel", "Learning", "-LRB-", "SKL", "-RRB-", ",", "which", "is", "built", "on", "the", "principles", "of", "kernel", "target", "alignment", "and", "unsupervised", "kernel", "design", ".", "Our", "algorithm", "is", "related", "to", "an", "equivalent", "quadratic", "programming", "problem", "that", "can", "be", "efficiently", "solved", ".", "Empirical", "results", "have", "shown", "that", "our", "method", "is", "more", "effective", "and", "robust", "to", "learn", "the", "semi-supervised", "kernels", "than", "traditional", "approaches", ".", "Based", "on", "the", "framework", ",", "we", "present", "a", "specific", "paradigm", "of", "unified", "kernel", "machines", "with", "respect", "to", "Kernel", "Logistic", "Regresions", "-LRB-", "KLR", "-RRB-", ",", "i.e.", ",", "Unified", "Kernel", "Logistic", "Regression", "-LRB-", "UKLR", "-RRB-", ".", "We", "evaluate", "our", "proposed", "UKLR", "classification", "scheme", "in", "comparison", "with", "traditional", "solutions", ".", "The", "promising", "results", "show", "that", "our", "proposed", "UKLR", "paradigm", "is", "more", "effective", "than", "the", "traditional", "classification", "approaches", ".", "I.", "5.2", "-LSB-", "PATTERN", "RECOGNITION", "-RSB-", ":", "Design", "Methodology", "--", "Classifier", "design", "and", "evaluation", ";", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "--", "Data", "mining", "Design", ",", "Algorithms", ",", "Experimentation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "06", ",", "August", "20", "23", ",", "2006", ",", "Philadelphia", ",", "Pennsylvania", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-339-5", "/", "06/0008", "...", "$", "5.00", ".", "Classification", "is", "a", "core", "data", "mining", "technique", "and", "has", "been", "actively", "studied", "in", "the", "past", "decades", ".", "In", "general", ",", "the", "goal", "of", "classification", "is", "to", "assign", "unlabeled", "testing", "examples", "with", "a", "set", "of", "predefined", "categories", ".", "Traditional", "classification", "methods", "are", "usually", "conducted", "in", "a", "supervised", "learning", "way", ",", "in", "which", "only", "labeled", "data", "are", "used", "to", "train", "a", "predefined", "classification", "model", ".", "In", "literature", ",", "a", "variety", "of", "statistical", "models", "have", "been", "proposed", "for", "classification", "in", "the", "machine", "learning", "and", "data", "mining", "communities", ".", "One", "of", "the", "most", "popular", "and", "successful", "methodologies", "is", "the", "kernel-machine", "techniques", ",", "such", "as", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", "-LSB-", "25", "-RSB-", "and", "Kernel", "Logistic", "Regressions", "-LRB-", "KLR", "-RRB-", "-LSB-", "29", "-RSB-", ".", "Like", "other", "early", "work", "for", "classification", ",", "traditional", "kernel-machine", "methods", "are", "usually", "performed", "in", "the", "supervised", "learning", "way", ",", "which", "consider", "only", "the", "labeled", "data", "in", "the", "training", "phase", ".", "It", "is", "obvious", "that", "a", "good", "classification", "model", "should", "take", "advantages", "on", "not", "only", "the", "labeled", "data", ",", "but", "also", "the", "unlabeled", "data", "when", "they", "are", "available", ".", "Learning", "on", "both", "labeled", "and", "unlabeled", "data", "has", "become", "an", "important", "research", "topic", "in", "recent", "years", ".", "One", "way", "to", "exploit", "the", "unlabled", "data", "is", "to", "use", "active", "learning", "-LSB-", "7", "-RSB-", ".", "The", "goal", "of", "active", "learning", "is", "to", "choose", "the", "most", "informative", "example", "from", "the", "unlabeled", "data", "for", "manual", "labeling", ".", "In", "the", "past", "years", ",", "active", "learning", "has", "been", "studied", "for", "many", "classification", "tasks", "-LSB-", "16", "-RSB-", ".", "Another", "emerging", "popular", "technique", "to", "exploit", "unlabeled", "data", "is", "semi-supervised", "learning", "-LSB-", "5", "-RSB-", ",", "which", "has", "attracted", "a", "surge", "of", "research", "attention", "recently", "-LSB-", "30", "-RSB-", ".", "A", "variety", "of", "machine-learning", "techniques", "have", "been", "proposed", "for", "semi-supervised", "learning", ",", "in", "which", "the", "most", "well-known", "approaches", "are", "based", "on", "the", "graph", "Laplacians", "methodology", "-LSB-", "28", ",", "31", ",", "5", "-RSB-", ".", "While", "promising", "results", "have", "been", "popularly", "reported", "in", "this", "research", "topic", ",", "there", "is", "so", "far", "few", "comprehensive", "semi-supervised", "learning", "scheme", "applicable", "for", "large-scale", "classification", "problems", ".", "Although", "supervised", "learning", ",", "semi-supervised", "learning", "and", "active", "learning", "have", "been", "studied", "separately", ",", "so", "far", "there", "is", "few", "comprehensive", "scheme", "to", "combine", "these", "techniques", "effectively", "together", "for", "classification", "tasks", ".", "To", "this", "end", ",", "we", "propose", "a", "general", "framework", "of", "learning", "the", "Unified", "Kernel", "Machines", "-LRB-", "UKM", "-RRB-", "-LSB-", "3", ",", "4", "-RSB-", "by", "unifying", "supervised", "kernel-machine", "learning", ",", "semi-supervised", "learning", ",", "unsupervised", "kernel", "design", "and", "active", "learning", "together", "for", "large-scale", "classification", "problems", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "reviews", "related", "work", "of", "our", "framework", "and", "proposed", "solutions", ".", "Section", "3", "presents", "our", "framework", "of", "learning", "the", "unified", "ker-187", "Research", "Track", "Paper", "nel", "machines", ".", "Section", "4", "proposes", "a", "new", "algorithm", "of", "learning", "semi-supervised", "kernels", "by", "Spectral", "Kernel", "Learning", "-LRB-", "SKL", "-RRB-", ".", "Section", "5", "presents", "a", "specific", "UKM", "paradigm", "for", "classification", ",", "i.e.", ",", "the", "Unified", "Kernel", "Logistic", "Regression", "-LRB-", "UKLR", "-RRB-", ".", "Section", "6", "evaluates", "the", "empirical", "performance", "of", "our", "proposed", "algorithm", "and", "the", "UKLR", "classification", "scheme", ".", "Section", "7", "sets", "out", "our", "conclusion", ".", "Kernel", "machines", "have", "been", "widely", "studied", "for", "data", "classification", "in", "the", "past", "decade", ".", "Most", "of", "earlier", "studies", "on", "kernel", "machines", "usually", "are", "based", "on", "supervised", "learning", ".", "One", "of", "the", "most", "well-known", "techniques", "is", "the", "Support", "Vector", "Machines", ",", "which", "have", "achieved", "many", "successful", "stories", "in", "a", "variety", "of", "applications", "-LSB-", "25", "-RSB-", ".", "In", "addition", "to", "SVM", ",", "a", "series", "of", "kernel", "machines", "have", "also", "been", "actively", "studied", ",", "such", "as", "Kernel", "Logistic", "Regression", "-LSB-", "29", "-RSB-", ",", "Boosting", "-LSB-", "17", "-RSB-", ",", "Regularized", "Least-Square", "-LRB-", "RLS", "-RRB-", "-LSB-", "12", "-RSB-", "and", "Minimax", "Probability", "Machines", "-LRB-", "MPM", "-RRB-", "-LSB-", "15", "-RSB-", ",", "which", "have", "shown", "comparable", "performance", "with", "SVM", "for", "classification", ".", "The", "main", "theoretical", "foundation", "behind", "many", "of", "the", "kernel", "machines", "is", "the", "theory", "of", "regularization", "and", "reproducing", "kernel", "Hilbert", "space", "in", "statistical", "learning", "-LSB-", "17", ",", "25", "-RSB-", ".", "Some", "theoretical", "connections", "between", "the", "various", "kernel", "machines", "have", "been", "explored", "in", "recent", "studies", "-LSB-", "12", "-RSB-", ".", "Semi-supervised", "learning", "has", "recently", "received", "a", "surge", "of", "research", "attention", "for", "classification", "-LSB-", "5", ",", "30", "-RSB-", ".", "The", "idea", "of", "semi-supervised", "learning", "is", "to", "use", "both", "labeled", "and", "unlabeled", "data", "when", "constructing", "the", "classifiers", "for", "classification", "tasks", ".", "One", "of", "the", "most", "popular", "solutions", "in", "semi-supervised", "learning", "is", "based", "on", "the", "graph", "theory", "-LSB-", "6", "-RSB-", ",", "such", "as", "Markov", "random", "walks", "-LSB-", "22", "-RSB-", ",", "Gaussian", "random", "fields", "-LSB-", "31", "-RSB-", ",", "Diffusion", "models", "-LSB-", "13", "-RSB-", "and", "Manifold", "learning", "-LSB-", "2", "-RSB-", ".", "They", "have", "demonstrated", "some", "promising", "results", "on", "classification", ".", "Some", "recent", "studies", "have", "begun", "to", "seek", "connections", "between", "the", "graph-based", "semi-supervised", "learning", "and", "the", "kernel", "machine", "learning", ".", "Smola", "and", "Kondor", "showed", "some", "theoretical", "understanding", "between", "kernel", "and", "regularization", "based", "on", "the", "graph", "theory", "-LSB-", "21", "-RSB-", ".", "Belkin", "et", "al.", "developed", "a", "framework", "for", "regularization", "on", "graphs", "and", "provided", "some", "analysis", "on", "generalization", "error", "bounds", "-LSB-", "1", "-RSB-", ".", "Based", "on", "the", "emerging", "theoretical", "connections", "between", "kernels", "and", "graphs", ",", "some", "recent", "work", "has", "proposed", "to", "learn", "the", "semi-supervised", "kernels", "by", "graph", "Laplacians", "-LSB-", "32", "-RSB-", ".", "Zhang", "et", "al.", "recently", "provided", "a", "theoretical", "framework", "of", "unsupervised", "kernel", "design", "and", "showed", "that", "the", "graph", "Laplacians", "solution", "can", "be", "considered", "as", "an", "equivalent", "kernel", "learning", "approach", "-LSB-", "27", "-RSB-", ".", "All", "of", "the", "above", "studies", "have", "formed", "the", "solid", "foundation", "for", "semi-supervised", "kernel", "learning", "in", "this", "work", ".", "To", "exploit", "the", "unlabeled", "data", ",", "another", "research", "attention", "is", "to", "employ", "active", "learning", "for", "reducing", "the", "labeling", "efforts", "in", "classification", "tasks", ".", "Active", "learning", ",", "or", "called", "pool-based", "active", "learning", ",", "has", "been", "proposed", "as", "an", "effective", "technique", "for", "reducing", "the", "amount", "of", "labeled", "data", "in", "traditional", "supervised", "classification", "tasks", "-LSB-", "19", "-RSB-", ".", "In", "general", ",", "the", "key", "of", "active", "learning", "is", "to", "choose", "the", "most", "informative", "unlabeled", "examples", "for", "manual", "labeling", ".", "A", "lot", "of", "active", "learning", "methods", "have", "been", "proposed", "in", "the", "community", ".", "Typically", "they", "measure", "the", "classification", "uncertainty", "by", "the", "amount", "of", "disagreement", "to", "the", "classification", "model", "-LSB-", "9", ",", "10", "-RSB-", "or", "measure", "the", "distance", "of", "each", "unlabeled", "example", "away", "from", "the", "classification", "boundary", "-LSB-", "16", ",", "24", "-RSB-", ".", "In", "this", "section", ",", "we", "present", "the", "framework", "of", "learning", "the", "unified", "kernel", "machines", "by", "combining", "supervised", "kernel", "machines", ",", "semi-supervised", "kernel", "learning", "and", "active", "learning", "techniques", "into", "a", "unified", "solution", ".", "Figure", "1", "gives", "an", "overview", "of", "our", "proposed", "scheme", ".", "For", "simplicity", ",", "we", "restrict", "our", "discussions", "to", "classification", "problems", ".", "Let", "M", "-LRB-", "K", ",", "-RRB-", "denote", "a", "kernel", "machine", "that", "has", "some", "underlying", "probabilistic", "model", ",", "such", "as", "kernel", "logistic", "regressions", "-LRB-", "or", "support", "vector", "machines", "-RRB-", ".", "In", "general", ",", "a", "kernel", "machine", "contains", "two", "components", ",", "i.e.", ",", "the", "kernel", "K", "-LRB-", "either", "a", "kernel", "function", "or", "simply", "a", "kernel", "matrix", "-RRB-", ",", "and", "the", "model", "parameters", ".", "In", "traditional", "supervised", "kernel-machine", "learning", ",", "the", "kernel", "K", "is", "usually", "a", "known", "parametric", "kernel", "function", "and", "the", "goal", "of", "the", "learning", "task", "is", "usually", "to", "determine", "the", "model", "parameter", ".", "This", "often", "limits", "the", "performance", "of", "the", "kernel", "machine", "if", "the", "specified", "kernel", "is", "not", "appropriate", ".", "To", "this", "end", ",", "we", "propose", "a", "unified", "scheme", "to", "learn", "the", "unified", "kernel", "machines", "by", "learning", "on", "both", "the", "kernel", "K", "and", "the", "model", "parameters", "together", ".", "In", "order", "to", "exploit", "the", "unlabeled", "data", ",", "we", "suggest", "to", "combine", "semi-supervised", "kernel", "learning", "and", "active", "learning", "techniques", "together", "for", "learning", "the", "unified", "kernel", "machines", "effectively", "from", "the", "labeled", "and", "unlabeled", "data", ".", "More", "specifically", ",", "we", "outline", "a", "general", "framework", "of", "learning", "the", "unified", "kernel", "machine", "as", "follows", ".", "Figure", "1", ":", "Learning", "the", "Unified", "Kernel", "Machines", "Let", "L", "denote", "the", "labeled", "data", "and", "U", "denote", "the", "unlabeled", "data", ".", "The", "goal", "of", "the", "unified", "kernel", "machine", "learning", "task", "is", "to", "learn", "the", "kernel", "machine", "M", "-LRB-", "K", ",", "-RRB-", "that", "can", "classify", "the", "data", "effectively", ".", "Specifically", ",", "it", "includes", "the", "following", "five", "steps", ":", "Step", "1", ".", "Kernel", "Initialization", "The", "first", "step", "is", "to", "initialize", "the", "kernel", "component", "K", "0", "of", "the", "kernel", "machine", "M", "-LRB-", "K", "0", ",", "0", "-RRB-", ".", "Typically", ",", "users", "can", "specify", "the", "initial", "kernel", "K", "0", "-LRB-", "function", "or", "matrix", "-RRB-", "with", "a", "stanard", "kernel", ".", "When", "some", "domain", "knowledge", "is", "ava-iable", ",", "users", "can", "also", "design", "some", "kernel", "with", "domain", "knowledge", "-LRB-", "or", "some", "data-dependent", "kernels", "-RRB-", ".", "Step", "2", ".", "Semi-Supervised", "Kernel", "Learning", "The", "initial", "kernel", "may", "not", "be", "good", "enough", "to", "classify", "the", "data", "correctly", ".", "Hence", ",", "we", "suggest", "to", "employ", "188", "Research", "Track", "Paper", "the", "semi-supervised", "kernel", "learning", "technique", "to", "learn", "a", "new", "kernel", "K", "by", "engaging", "both", "the", "labeled", "L", "and", "unlabled", "data", "U", "available", ".", "Step", "3", ".", "Model", "Parameter", "Estimation", "When", "the", "kernel", "K", "is", "known", ",", "to", "estimate", "the", "parameters", "of", "the", "kernel", "machines", "based", "on", "some", "model", "assumption", ",", "such", "as", "Kernel", "Logistic", "Regression", "or", "Support", "Vector", "Machines", ",", "one", "can", "simply", "employ", "the", "standard", "supervised", "kernel-machine", "learning", "to", "solve", "the", "model", "parameters", ".", "Step", "4", ".", "Active", "Learning", "In", "many", "classification", "tasks", ",", "labeling", "cost", "is", "expensive", ".", "Active", "learning", "is", "an", "important", "method", "to", "reduce", "human", "efforts", "in", "labeling", ".", "Typically", ",", "we", "can", "choose", "a", "batch", "of", "most", "informative", "examples", "S", "that", "can", "most", "effectively", "update", "the", "current", "kernel", "machine", "M", "-LRB-", "K", ",", "-RRB-", ".", "Step", "5", ".", "Convergence", "Evaluation", "The", "last", "step", "is", "the", "convergence", "evaluation", "in", "which", "we", "check", "whether", "the", "kernel", "machine", "is", "good", "enough", "for", "the", "classification", "task", ".", "If", "not", ",", "we", "will", "repeat", "the", "above", "steps", "until", "a", "satisfied", "kernel", "machine", "is", "acquired", ".", "This", "is", "a", "general", "framework", "of", "learning", "unified", "kernel", "machines", ".", "In", "this", "paper", ",", "we", "focus", "our", "main", "attention", "on", "the", "the", "part", "of", "semi-supervised", "kernel", "learning", "technique", ",", "which", "is", "a", "core", "component", "of", "learning", "the", "unified", "kernel", "machines", ".", "We", "propose", "a", "new", "semi-supervised", "kernel", "learning", "method", ",", "which", "is", "a", "fast", "and", "robust", "algorithm", "for", "learning", "semi-supervised", "kernels", "from", "labeled", "and", "unlabeled", "data", ".", "In", "the", "following", "parts", ",", "we", "first", "introduce", "the", "theoretical", "motivations", "and", "then", "present", "our", "spectral", "kernel", "learning", "algorithm", ".", "Finally", ",", "we", "show", "the", "connections", "of", "our", "method", "to", "existing", "work", "and", "justify", "the", "effectiveness", "of", "our", "solution", "from", "empirical", "observations", ".", "4.1", "Theoretical", "Foundation", "Let", "us", "first", "consider", "a", "standard", "supservisd", "kernel", "learning", "problem", ".", "Assume", "that", "the", "data", "-LRB-", "X", ",", "Y", "-RRB-", "are", "drawn", "from", "an", "unknown", "distribution", "D", ".", "The", "goal", "of", "supervised", "learning", "is", "to", "find", "a", "prediction", "function", "p", "-LRB-", "X", "-RRB-", "that", "minimizes", "the", "following", "expected", "true", "loss", ":", "E", "-LRB-", "X", ",", "Y", "-RRB-", "D", "L", "-LRB-", "p", "-LRB-", "X", "-RRB-", ",", "Y", "-RRB-", ",", "where", "E", "-LRB-", "X", ",", "Y", "-RRB-", "D", "denotes", "the", "expectation", "over", "the", "true", "underlying", "distribution", "D", ".", "In", "order", "to", "achieve", "a", "stable", "esimia-tion", ",", "we", "usually", "need", "to", "restrict", "the", "size", "of", "hypothesis", "function", "family", ".", "Given", "l", "training", "examples", "-LRB-", "x", "1", ",", "y", "1", "-RRB-", ",", "...", ",", "-LRB-", "x", "l", ",", "y", "l", "-RRB-", ",", "typically", "we", "train", "a", "predition", "function", "^", "p", "in", "a", "reproducing", "Hilbert", "space", "H", "by", "minimizing", "the", "empirical", "loss", "-LSB-", "25", "-RSB-", ".", "Since", "the", "reproducing", "Hilbert", "space", "can", "be", "large", ",", "to", "avoid", "over-fitting", "problems", ",", "we", "often", "consider", "a", "regularized", "method", "as", "follow", ":", "^", "p", "=", "arg", "inf", "pH", "1", "l", "l", "i", "=", "1", "L", "-LRB-", "p", "-LRB-", "x", "i", "-RRB-", ",", "y", "i", "-RRB-", "+", "|", "|", "p", "|", "|", "2", "H", ",", "-LRB-", "1", "-RRB-", "where", "is", "a", "chosen", "positive", "regularization", "parameter", ".", "It", "can", "be", "shown", "that", "the", "solution", "of", "-LRB-", "1", "-RRB-", "can", "be", "represented", "as", "the", "following", "kernel", "method", ":", "^", "p", "-LRB-", "x", "-RRB-", "=", "l", "i", "=", "1", "^", "i", "k", "-LRB-", "x", "i", ",", "x", "-RRB-", "=", "arg", "inf", "R", "l", "1", "n", "l", "i", "=", "1", "L", "-LRB-", "p", "-LRB-", "x", "i", "-RRB-", ",", "y", "i", "-RRB-", "+", "l", "i", ",", "j", "=", "1", "i", "j", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", ",", "where", "is", "a", "parameter", "vector", "to", "be", "estimated", "from", "the", "data", "and", "k", "is", "a", "kernel", ",", "which", "is", "known", "as", "kernel", "function", ".", "Typically", "a", "kernel", "returns", "the", "inner", "product", "between", "the", "mapping", "images", "of", "two", "given", "data", "examples", ",", "such", "that", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", "for", "x", "i", ",", "x", "j", "X", ".", "Let", "us", "now", "consider", "a", "semi-supervised", "learning", "setting", ".", "Given", "labeled", "data", "-LCB-", "-LRB-", "x", "i", ",", "y", "i", "-RRB-", "-RCB-", "l", "i", "=", "1", "and", "unlabeled", "data", "-LCB-", "x", "j", "-RCB-", "n", "j", "=", "l", "+1", ",", "we", "consider", "to", "learn", "the", "real-valued", "vectors", "f", "R", "m", "by", "the", "following", "semi-supervised", "learning", "method", ":", "^", "f", "=", "arg", "inf", "f", "R", "1", "n", "n", "i", "=", "1", "L", "-LRB-", "f", "i", ",", "y", "i", "-RRB-", "+", "f", "K", "-1", "f", ",", "-LRB-", "2", "-RRB-", "where", "K", "is", "an", "m", "m", "kernel", "matrix", "with", "K", "i", ",", "j", "=", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", ".", "Zhang", "et", "al.", "-LSB-", "27", "-RSB-", "proved", "that", "the", "solution", "of", "the", "above", "semi-supervised", "learning", "is", "equivelent", "to", "the", "solution", "of", "standard", "supervised", "learning", "in", "-LRB-", "1", "-RRB-", ",", "such", "that", "^", "f", "j", "=", "^", "p", "-LRB-", "x", "j", "-RRB-", "j", "=", "1", ",", "...", ",", "m.", "-LRB-", "3", "-RRB-", "The", "theorem", "offers", "a", "princple", "of", "unsuperivsed", "kernel", "design", ":", "one", "can", "design", "a", "new", "kernel", "k", "-LRB-", ",", "-RRB-", "based", "on", "the", "unlabeled", "data", "and", "then", "replace", "the", "orignal", "kernel", "k", "by", "k", "in", "the", "standard", "supervised", "kernel", "learning", ".", "More", "specifically", ",", "the", "framework", "of", "spectral", "kernel", "design", "suggests", "to", "design", "the", "new", "kernel", "matrix", "K", "by", "a", "function", "g", "as", "follows", ":", "K", "=", "n", "i", "=", "1", "g", "-LRB-", "i", "-RRB-", "v", "i", "v", "i", ",", "-LRB-", "4", "-RRB-", "where", "-LRB-", "i", ",", "v", "i", "-RRB-", "are", "the", "eigen-pairs", "of", "the", "original", "kernel", "matrix", "K", ",", "and", "the", "function", "g", "-LRB-", "-RRB-", "can", "be", "regarded", "as", "a", "filter", "function", "or", "a", "transformation", "function", "that", "modifies", "the", "spectra", "of", "the", "kernel", ".", "The", "authors", "in", "-LSB-", "27", "-RSB-", "show", "a", "theoretical", "justification", "that", "designing", "a", "kernel", "matrix", "with", "faster", "spectral", "decay", "rates", "should", "result", "in", "better", "generalization", "performance", ",", "which", "offers", "an", "important", "pricinple", "in", "learning", "an", "effective", "kernel", "matrix", ".", "On", "the", "other", "hand", ",", "there", "are", "some", "recent", "papers", "that", "have", "studied", "theoretical", "principles", "for", "learning", "effective", "kernel", "functions", "or", "matrices", "from", "labeled", "and", "unlabeled", "data", ".", "One", "important", "work", "is", "the", "kernel", "target", "alignment", ",", "which", "can", "be", "used", "not", "only", "to", "assess", "the", "relationship", "between", "the", "feature", "spaces", "by", "two", "kernels", ",", "but", "also", "to", "measure", "the", "similarity", "between", "the", "feature", "space", "by", "a", "kernel", "and", "the", "feature", "space", "induced", "by", "labels", "-LSB-", "8", "-RSB-", ".", "Specifically", ",", "given", "two", "kernel", "matrices", "K", "1", "and", "K", "2", ",", "their", "relationship", "is", "defined", "by", "the", "following", "score", "of", "alignment", ":", "Definition", "1", ".", "Kernel", "Alignment", ":", "The", "empirical", "alignment", "of", "two", "given", "kernels", "K", "1", "and", "K", "2", "with", "respect", "to", "the", "sample", "set", "S", "is", "the", "quantity", ":", "^", "A", "-LRB-", "K", "1", ",", "K", "2", "-RRB-", "=", "K", "1", ",", "K", "2", "F", "K", "1", ",", "K", "1", "F", "K", "2", ",", "K", "2", "F", "-LRB-", "5", "-RRB-", "189", "Research", "Track", "Paper", "where", "K", "i", "is", "the", "kernel", "matrix", "induced", "by", "the", "kernel", "k", "i", "and", ",", "is", "the", "Frobenius", "product", "between", "two", "matrices", ",", "i.e.", ",", "K", "1", ",", "K", "2", "F", "=", "n", "i", ",", "j", "=", "1", "k", "1", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "k", "2", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", ".", "The", "above", "definition", "of", "kernel", "alignment", "offers", "a", "principle", "to", "learn", "the", "kernel", "matrix", "by", "assessing", "the", "relationship", "between", "a", "given", "kernel", "and", "a", "target", "kernel", "induced", "by", "the", "given", "labels", ".", "Let", "y", "=", "-LCB-", "y", "i", "-RCB-", "l", "i", "=", "1", "denote", "a", "vector", "of", "labels", "in", "which", "y", "i", "-LCB-", "+1", ",", "-1", "-RCB-", "for", "binary", "classification", ".", "Then", "the", "target", "kernel", "can", "be", "defined", "as", "T", "=", "yy", ".", "Let", "K", "be", "the", "kernel", "matrix", "with", "the", "following", "structure", "K", "=", "K", "tr", "K", "trt", "K", "trt", "K", "t", "-LRB-", "6", "-RRB-", "where", "K", "ij", "=", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", ",", "K", "tr", "denotes", "the", "matrix", "part", "of", "``", "train-data", "block", "''", "and", "K", "t", "denotes", "the", "matrix", "part", "of", "``", "test-data", "block", ".", "''", "The", "theory", "in", "-LSB-", "8", "-RSB-", "provides", "the", "principle", "of", "learning", "the", "kernel", "matrix", ",", "i.e.", ",", "looking", "for", "a", "kernel", "matrix", "K", "with", "good", "generalization", "performance", "is", "equivalent", "to", "finding", "the", "matrix", "that", "maximizes", "the", "following", "empirical", "kernel", "alignment", "score", ":", "^", "A", "-LRB-", "K", "tr", ",", "T", "-RRB-", "=", "K", "tr", ",", "T", "F", "K", "tr", ",", "K", "tr", "F", "T", ",", "T", "F", "-LRB-", "7", "-RRB-", "This", "principle", "has", "been", "used", "to", "learn", "the", "kernel", "matrices", "with", "multiple", "kernel", "combinations", "-LSB-", "14", "-RSB-", "and", "also", "the", "semi-supervised", "kernels", "from", "graph", "Laplacians", "-LSB-", "32", "-RSB-", ".", "Motivated", "by", "the", "related", "theorecial", "work", ",", "we", "propose", "a", "new", "spectral", "kernel", "learning", "-LRB-", "SKL", "-RRB-", "algorithm", "which", "learns", "spectrals", "of", "the", "kernel", "matrix", "by", "obeying", "both", "the", "principle", "of", "unsupervised", "kernel", "design", "and", "the", "principle", "of", "kernel", "target", "alignment", ".", "4.2", "Algorithm", "Assume", "that", "we", "are", "given", "a", "set", "of", "labeled", "data", "L", "=", "-LCB-", "x", "i", ",", "y", "i", "-RCB-", "l", "i", "=", "1", ",", "a", "set", "of", "unlabeled", "data", "U", "=", "-LCB-", "x", "i", "-RCB-", "n", "i", "=", "l", "+1", ",", "and", "an", "initial", "kernel", "matrix", "K", ".", "We", "first", "conduct", "the", "eigen-decomposition", "of", "the", "kernel", "matrix", ":", "K", "=", "n", "i", "=", "1", "i", "v", "i", "v", "i", ",", "-LRB-", "8", "-RRB-", "where", "-LRB-", "i", ",", "v", "i", "-RRB-", "are", "eigen", "pairs", "of", "K", "and", "are", "assumed", "in", "a", "decreasing", "order", ",", "i.e.", ",", "1", "2", "...", "n", ".", "For", "efficiency", "consideration", ",", "we", "select", "the", "top", "d", "eigen", "pairs", ",", "such", "that", "K", "d", "=", "d", "i", "=", "1", "i", "v", "i", "v", "i", "K", ",", "-LRB-", "9", "-RRB-", "where", "the", "parameter", "d", "n", "is", "a", "dimension", "cutoff", "factor", "that", "can", "be", "determined", "by", "some", "criteria", ",", "such", "as", "the", "cumulative", "eigen", "energy", ".", "Based", "on", "the", "principle", "of", "unsupervised", "kernel", "design", ",", "we", "consider", "to", "learn", "the", "kernel", "matrix", "as", "follows", "K", "=", "d", "i", "=", "1", "i", "v", "i", "v", "i", ",", "-LRB-", "10", "-RRB-", "where", "i", "0", "are", "spectral", "coefficients", "of", "the", "new", "kernel", "matrix", ".", "The", "goal", "of", "spectral", "kernel", "learning", "-LRB-", "SKL", "-RRB-", "algorithm", "is", "to", "find", "the", "optimal", "spectral", "coefficients", "i", "for", "the", "following", "optimization", "max", "K", ",", "^", "A", "-LRB-", "K", "tr", ",", "T", "-RRB-", "-LRB-", "11", "-RRB-", "subject", "to", "K", "=", "d", "i", "=", "1", "i", "v", "i", "v", "i", "trace", "-LRB-", "K", "-RRB-", "=", "1", "i", "0", ",", "i", "C", "i", "+1", ",", "i", "=", "1", "...", "d", "-", "1", ",", "where", "C", "is", "introduced", "as", "a", "decay", "factor", "that", "satisfies", "C", "1", ",", "v", "i", "are", "top", "d", "eigen", "vectors", "of", "the", "original", "kernel", "matrix", "K", ",", "K", "tr", "is", "the", "kernel", "matrix", "restricted", "to", "the", "-LRB-", "labeled", "-RRB-", "training", "data", "and", "T", "is", "the", "target", "kernel", "induced", "by", "labels", ".", "Note", "that", "C", "is", "introduced", "as", "an", "important", "parameter", "to", "control", "the", "decay", "rate", "of", "spectral", "coefficients", "that", "will", "influence", "the", "overall", "performance", "of", "the", "kernel", "machine", ".", "The", "above", "optimization", "problem", "belongs", "to", "convex", "optimization", "and", "is", "usually", "regarded", "as", "a", "semi-definite", "programming", "problem", "-LRB-", "SDP", "-RRB-", "-LSB-", "14", "-RSB-", ",", "which", "may", "not", "be", "computation-ally", "efficient", ".", "In", "the", "following", ",", "we", "turn", "it", "into", "a", "Quadratic", "Programming", "-LRB-", "QP", "-RRB-", "problem", "that", "can", "be", "solved", "much", "more", "efficiently", ".", "By", "the", "fact", "that", "the", "objective", "function", "-LRB-", "7", "-RRB-", "is", "invariant", "to", "the", "constant", "term", "T", ",", "T", "F", ",", "we", "can", "rewrite", "the", "objective", "function", "into", "the", "following", "form", "K", "tr", ",", "T", "F", "K", "tr", ",", "K", "tr", "F", ".", "-LRB-", "12", "-RRB-", "The", "above", "alignment", "is", "invariant", "to", "scales", ".", "In", "order", "to", "remove", "the", "trace", "constraint", "in", "-LRB-", "11", "-RRB-", ",", "we", "consider", "the", "following", "alternative", "approach", ".", "Instead", "of", "maximizing", "the", "objective", "function", "-LRB-", "12", "-RRB-", "directly", ",", "we", "can", "fix", "the", "numerator", "to", "1", "and", "then", "minimize", "the", "denominator", ".", "Therefore", ",", "we", "can", "turn", "the", "optimization", "problem", "into", ":", "min", "K", "tr", ",", "K", "tr", "F", "-LRB-", "13", "-RRB-", "subject", "to", "K", "=", "d", "i", "=", "1", "i", "v", "i", "v", "i", "K", "tr", ",", "T", "F", "=", "1", "i", "0", ",", "i", "C", "i", "+1", ",", "i", "=", "1", "...", "d", "-", "1", ".", "This", "minimization", "problem", "without", "the", "trace", "constraint", "is", "equivalent", "to", "the", "original", "maximization", "problem", "with", "the", "trace", "constraint", ".", "Let", "vec", "-LRB-", "A", "-RRB-", "denote", "the", "column", "vectorization", "of", "a", "matrix", "A", "and", "let", "D", "=", "-LSB-", "vec", "-LRB-", "V", "1", ",", "tr", "-RRB-", "...", "vec", "-LRB-", "V", "d", ",", "tr", "-RRB-", "-RSB-", "be", "a", "constant", "matrix", "with", "size", "of", "l", "2", "d", ",", "in", "which", "the", "d", "matrices", "of", "V", "i", "=", "v", "i", "v", "i", "are", "with", "size", "of", "l", "l", ".", "It", "is", "not", "difficult", "to", "show", "that", "the", "above", "problem", "is", "equivalent", "to", "the", "following", "optimization", "min", "|", "|", "D", "|", "|", "-LRB-", "14", "-RRB-", "subject", "to", "vec", "-LRB-", "T", "-RRB-", "D", "=", "1", "i", "0", "i", "C", "i", "+1", ",", "i", "=", "1", "...", "d", "-", "1", ".", "Minimizing", "the", "norm", "is", "then", "equivalent", "to", "minimizing", "the", "squared", "norm", ".", "Hence", ",", "we", "can", "obtain", "the", "final", "optimization", "190", "Research", "Track", "Paper", "0", "5", "10", "15", "20", "25", "30", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Dimension", "-LRB-", "d", "-RRB-", "Cumulative", "Energy", "-LRB-", "a", "-RRB-", "Cumulative", "eigen", "energy", "0", "5", "10", "15", "20", "25", "30", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Dimension", "-LRB-", "d", "-RRB-", "Scaled", "Coefficient", "Original", "Kernel", "SKL", "-LRB-", "C", "=", "1", "-RRB-", "SKL", "-LRB-", "C", "=", "2", "-RRB-", "SKL", "-LRB-", "C", "=", "3", "-RRB-", "-LRB-", "b", "-RRB-", "Spectral", "coefficients", "Figure", "2", ":", "Illustration", "of", "cumulative", "eigen", "energy", "and", "the", "spectral", "coefficients", "of", "different", "decay", "factors", "on", "the", "Ionosphere", "dataset", ".", "The", "initial", "kernel", "is", "a", "linear", "kernel", "and", "the", "number", "of", "labeled", "data", "is", "20", ".", "0", "10", "20", "30", "40", "50", "0.65", "0.7", "0.75", "0.8", "0.85", "0.9", "0.95", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "a", "-RRB-", "C", "=", "1", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "0.65", "0.7", "0.75", "0.8", "0.85", "0.9", "0.95", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "b", "-RRB-", "C", "=", "2", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "0.65", "0.7", "0.75", "0.8", "0.85", "0.9", "0.95", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "c", "-RRB-", "C", "=", "3", "Figure", "3", ":", "Classification", "performance", "of", "semi-supervised", "kernels", "with", "different", "decay", "factors", "on", "the", "Ionosphere", "dataset", ".", "The", "initial", "kernel", "is", "a", "linear", "kernel", "and", "the", "number", "of", "labeled", "data", "is", "20", ".", "problem", "as", "min", "D", "D", "subject", "to", "vec", "-LRB-", "T", "-RRB-", "D", "=", "1", "i", "0", "i", "C", "i", "+1", ",", "i", "=", "1", "...", "d", "-", "1", ".", "This", "is", "a", "standard", "Quadratic", "Programming", "-LRB-", "QP", "-RRB-", "problem", "that", "can", "be", "solved", "efficiently", ".", "4.3", "Connections", "and", "Justifications", "The", "essential", "of", "our", "semi-supervised", "kernel", "learning", "method", "is", "based", "on", "the", "theories", "of", "unsupervised", "kernel", "design", "and", "kernel", "target", "alignment", ".", "More", "specifically", ",", "we", "consider", "a", "dimension-reduction", "effective", "method", "to", "learn", "the", "semi-supervised", "kernel", "that", "maximizes", "the", "kernel", "alignment", "score", ".", "By", "examining", "the", "work", "on", "unsupervised", "kernel", "design", ",", "the", "following", "two", "pieces", "of", "work", "can", "be", "summarized", "as", "a", "special", "case", "of", "spectral", "kernel", "learning", "framework", ":", "Cluster", "Kernel", "This", "method", "adopts", "a", "''", "-LSB-", "1", "...", ",1,0", ",", "...", ",0", "-RSB-", "''", "kernel", "that", "has", "been", "used", "in", "spectral", "clustering", "-LSB-", "18", "-RSB-", ".", "It", "sets", "the", "top", "spectral", "coefficients", "to", "1", "and", "the", "rest", "to", "0", ",", "i.e.", ",", "i", "=", "1", "for", "i", "d", "0", "for", "i", ">", "d", ".", "-LRB-", "15", "-RRB-", "For", "a", "comparison", ",", "we", "refer", "to", "this", "method", "as", "``", "Cluster", "kernel", "''", "denoted", "by", "K", "Cluster", ".", "Truncated", "Kernel", "Another", "method", "is", "called", "the", "truncated", "kernel", "that", "keeps", "only", "the", "top", "d", "spectral", "coefficients", "i", "=", "i", "for", "i", "d", "0", "for", "i", ">", "d", ",", "-LRB-", "16", "-RRB-", "where", "i", "are", "the", "top", "eigen", "values", "of", "an", "initial", "kernel", ".", "We", "can", "see", "that", "this", "is", "exactly", "the", "method", "of", "kernel", "principal", "component", "analysis", "-LSB-", "20", "-RSB-", "that", "keeps", "only", "the", "d", "most", "significant", "principal", "components", "of", "a", "given", "kernel", ".", "For", "a", "comparison", ",", "we", "denote", "this", "method", "as", "K", "Trunc", ".", "191", "Research", "Track", "Paper", "0", "5", "10", "15", "20", "25", "30", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Dimension", "-LRB-", "d", "-RRB-", "Scaled", "Coefficient", "Original", "Kernel", "SKL", "-LRB-", "C", "=", "1", "-RRB-", "SKL", "-LRB-", "C", "=", "2", "-RRB-", "SKL", "-LRB-", "C", "=", "3", "-RRB-", "-LRB-", "a", "-RRB-", "Spectral", "coefficients", "0", "10", "20", "30", "40", "50", "0.7", "0.75", "0.8", "0.85", "0.9", "0.95", "1", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "b", "-RRB-", "C", "=", "1", "0", "10", "20", "30", "40", "50", "0.7", "0.75", "0.8", "0.85", "0.9", "0.95", "1", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "c", "-RRB-", "C", "=", "2", "Figure", "4", ":", "Example", "of", "Spectral", "coefficients", "and", "performance", "impacted", "by", "different", "decay", "factors", "on", "the", "Ionosphere", "dataset", ".", "The", "initial", "kernel", "is", "an", "RBF", "kernel", "and", "the", "number", "of", "labeled", "data", "is", "20", ".", "0", "10", "20", "30", "40", "50", "0.55", "0.6", "0.65", "0.7", "0.75", "0.8", "0.85", "0.9", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "a", "-RRB-", "C", "=", "1", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "0.5", "0.55", "0.6", "0.65", "0.7", "0.75", "0.8", "0.85", "0.9", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "b", "-RRB-", "C", "=", "2", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "0.55", "0.6", "0.65", "0.7", "0.75", "0.8", "0.85", "0.9", "Dimension", "-LRB-", "d", "-RRB-", "Accuracy", "K", "Origin", "K", "Trunc", "K", "Cluster", "K", "Spectral", "-LRB-", "c", "-RRB-", "C", "=", "3", "Figure", "5", ":", "Classification", "performance", "of", "semi-supervised", "kernels", "with", "different", "decay", "factors", "on", "the", "Heart", "dataset", ".", "The", "initial", "kernel", "is", "a", "linear", "kernel", "and", "the", "number", "of", "labeled", "data", "is", "20", ".", "In", "our", "case", ",", "in", "comparison", "with", "semi-supervised", "kernel", "learning", "methods", "by", "graph", "Laplacians", ",", "our", "work", "is", "similar", "to", "the", "approach", "in", "-LSB-", "32", "-RSB-", ",", "which", "learns", "the", "spectral", "transformation", "of", "graph", "Laplacians", "by", "kernel", "target", "alignment", "with", "order", "constraints", ".", "However", ",", "we", "should", "emphasize", "two", "important", "differences", "that", "will", "explain", "why", "our", "method", "can", "work", "more", "effectively", ".", "First", ",", "the", "work", "in", "-LSB-", "32", "-RSB-", "belongs", "to", "traditional", "graph", "based", "semi-supervised", "learning", "methods", "which", "assume", "the", "kernel", "matrix", "is", "derived", "from", "the", "spectral", "decomposition", "of", "graph", "Laplacians", ".", "Instead", ",", "our", "spectral", "kernel", "learning", "method", "learns", "on", "any", "initial", "kernel", "and", "assume", "the", "kernel", "matrix", "is", "derived", "from", "the", "spectral", "decomposition", "of", "the", "normalized", "kernel", ".", "Second", ",", "compared", "to", "the", "kernel", "learning", "method", "in", "-LSB-", "14", "-RSB-", ",", "the", "authors", "in", "-LSB-", "32", "-RSB-", "proposed", "to", "add", "order", "constraints", "into", "the", "optimization", "of", "kernel", "target", "alignment", "-LSB-", "8", "-RSB-", "to", "enforce", "the", "constraints", "of", "graph", "smoothness", ".", "In", "our", "case", ",", "we", "suggest", "a", "decay", "factor", "C", "to", "constrain", "the", "relationship", "of", "spectral", "coefficients", "in", "the", "optimization", "that", "can", "make", "the", "spectral", "coefficients", "decay", "faster", ".", "In", "fact", ",", "if", "we", "ignore", "the", "difference", "of", "graph", "Laplacians", "and", "assume", "that", "the", "initial", "kernel", "in", "our", "method", "is", "given", "as", "K", "L", "-1", ",", "we", "can", "see", "that", "the", "method", "in", "-LSB-", "32", "-RSB-", "can", "be", "regarded", "as", "a", "special", "case", "of", "our", "method", "when", "the", "decay", "factor", "C", "is", "set", "to", "1", "and", "the", "dimension", "cut-off", "parameter", "d", "is", "set", "to", "n.", "4.4", "Empirical", "Observations", "To", "argue", "that", "C", "=", "1", "in", "the", "spectral", "kernel", "learning", "algorithm", "may", "not", "be", "a", "good", "choice", "for", "learning", "an", "effective", "kernel", ",", "we", "illustrate", "some", "empirical", "examples", "to", "justifiy", "the", "motivation", "of", "our", "spectral", "kernel", "learning", "algorithm", ".", "One", "goal", "of", "our", "spectral", "kernel", "learning", "methodology", "is", "to", "attain", "a", "fast", "decay", "rate", "of", "the", "spectral", "coefficients", "of", "the", "kernel", "matrix", ".", "Figure", "2", "illustrates", "an", "example", "of", "the", "change", "of", "the", "resulting", "spectral", "coefficients", "using", "different", "decay", "factors", "in", "our", "spectral", "kernel", "learning", "algorithms", ".", "From", "the", "figure", ",", "we", "can", "see", "that", "the", "curves", "with", "larger", "decay", "factors", "-LRB-", "C", "=", "2", ",", "3", "-RRB-", "have", "faster", "decay", "rates", "than", "the", "original", "kernel", "and", "the", "one", "using", "C", "=", "1", ".", "Meanwhile", ",", "we", "can", "see", "that", "the", "cumulative", "eigen", "energy", "score", "converges", "to", "100", "%", "quickly", "when", "the", "number", "of", "dimensions", "is", "increased", ".", "This", "shows", "that", "we", "may", "use", "much", "small", "number", "of", "eigen-pairs", "in", "our", "semi-supervised", "kernel", "learning", "algorithm", "for", "large-scale", "problems", ".", "To", "examine", "more", "details", "in", "the", "impact", "of", "performance", "with", "different", "decay", "factors", ",", "we", "evaluate", "the", "classification", "192", "Research", "Track", "Paper", "performance", "of", "spectral", "kernel", "learning", "methods", "with", "different", "decay", "factors", "in", "Figure", "3", ".", "In", "the", "figure", ",", "we", "compare", "the", "performance", "of", "different", "kernels", "with", "respect", "to", "spectral", "kernel", "design", "methods", ".", "We", "can", "see", "that", "two", "unsupervised", "kernels", ",", "K", "Trunc", "and", "K", "Cluster", ",", "tend", "to", "perform", "better", "than", "the", "original", "kernel", "when", "the", "dimension", "is", "small", ".", "But", "their", "performances", "are", "not", "very", "stable", "when", "the", "number", "of", "dimensions", "is", "increased", ".", "For", "comparison", ",", "the", "spectral", "kernel", "learning", "method", "achieves", "very", "stable", "and", "good", "performance", "when", "the", "decay", "factor", "C", "is", "larger", "than", "1", ".", "When", "the", "decay", "factor", "is", "equal", "to", "1", ",", "the", "performance", "becomes", "unstable", "due", "to", "the", "slow", "decay", "rates", "observed", "from", "our", "previous", "results", "in", "Figure", "3", ".", "This", "observation", "matches", "the", "theoretical", "justification", "-LSB-", "27", "-RSB-", "that", "a", "kernel", "with", "good", "performance", "usually", "favors", "a", "faster", "decay", "rate", "of", "spectral", "coefficients", ".", "Figure", "4", "and", "Figure", "5", "illustrate", "more", "empirical", "examples", "based", "on", "different", "initial", "kernels", ",", "in", "which", "similar", "results", "can", "be", "observed", ".", "Note", "that", "our", "suggested", "kernel", "learning", "method", "can", "learn", "on", "any", "valid", "kernel", ",", "and", "different", "initial", "kernels", "will", "impact", "the", "performance", "of", "the", "resulting", "spectral", "kernels", ".", "It", "is", "usually", "helpful", "if", "the", "initial", "kernel", "is", "provided", "with", "domain", "knowledge", ".", "In", "this", "section", ",", "we", "present", "a", "specific", "paradigm", "based", "on", "the", "proposed", "framework", "of", "learning", "unified", "kernel", "machines", ".", "We", "assume", "the", "underlying", "probabilistic", "model", "of", "the", "kernel", "machine", "is", "Kernel", "Logistic", "Regression", "-LRB-", "KLR", "-RRB-", ".", "Based", "on", "the", "UKM", "framework", ",", "we", "develop", "the", "Unified", "Kernel", "Logistic", "Regression", "-LRB-", "UKLR", "-RRB-", "paradigm", "to", "tackle", "classification", "tasks", ".", "Note", "that", "our", "framework", "is", "not", "restricted", "to", "the", "KLR", "model", ",", "but", "also", "can", "be", "widely", "extended", "for", "many", "other", "kernel", "machines", ",", "such", "as", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", "and", "Regularized", "Least-Square", "-LRB-", "RLS", "-RRB-", "classifiers", ".", "Similar", "to", "other", "kernel", "machines", ",", "such", "as", "SVM", ",", "a", "KLR", "problem", "can", "be", "formulated", "in", "terms", "of", "a", "stanard", "regularized", "form", "of", "loss", "+", "penalty", "in", "the", "reproducing", "kernel", "Hilbert", "space", "-LRB-", "RKHS", "-RRB-", ":", "min", "f", "H", "K", "1", "l", "l", "i", "=", "1", "ln", "-LRB-", "1", "+", "e", "-", "y", "i", "f", "-LRB-", "x", "i", "-RRB-", "-RRB-", "+", "2", "|", "|", "f", "|", "|", "2", "H", "K", ",", "-LRB-", "17", "-RRB-", "where", "H", "K", "is", "the", "RKHS", "by", "a", "kernel", "K", "and", "is", "a", "regularization", "parameter", ".", "By", "the", "representer", "theorem", ",", "the", "optimal", "f", "-LRB-", "x", "-RRB-", "has", "the", "form", ":", "f", "-LRB-", "x", "-RRB-", "=", "l", "i", "=", "1", "i", "K", "-LRB-", "x", ",", "x", "i", "-RRB-", ",", "-LRB-", "18", "-RRB-", "where", "i", "are", "model", "parameters", ".", "Note", "that", "we", "omit", "the", "constant", "term", "in", "f", "-LRB-", "x", "-RRB-", "for", "simplified", "notations", ".", "To", "solve", "the", "KLR", "model", "parameters", ",", "there", "are", "a", "number", "of", "available", "techniques", "for", "effective", "solutions", "-LSB-", "29", "-RSB-", ".", "When", "the", "kernel", "K", "and", "the", "model", "parameters", "are", "available", ",", "we", "use", "the", "following", "solution", "for", "active", "learning", ",", "which", "is", "simple", "and", "efficient", "for", "large-scale", "problems", ".", "More", "specifically", ",", "we", "measure", "the", "information", "entropy", "of", "each", "unlabeled", "data", "example", "as", "follows", "H", "-LRB-", "x", ";", ",", "K", "-RRB-", "=", "N", "C", "i", "=", "1", "p", "-LRB-", "C", "i", "|", "x", "-RRB-", "log", "-LRB-", "p", "-LRB-", "C", "i", "|", "x", "-RRB-", "-RRB-", ",", "-LRB-", "19", "-RRB-", "Algorithm", ":", "Unified", "Kernel", "Logistic", "Regresssion", "Input", "K", "0", ":", "Initial", "normalized", "kernel", "L", ":", "Set", "of", "labeled", "data", "U", ":", "Set", "of", "unlabeled", "data", "Repeat", "Spectral", "Kernel", "Learning", "K", "Spectral", "Kernel", "-LRB-", "K", "0", ",", "L", ",", "U", "-RRB-", ";", "KLR", "Parameter", "Estimation", "KLR", "Solver", "-LRB-", "L", ",", "K", "-RRB-", ";", "Convergence", "Test", "If", "-LRB-", "converged", "-RRB-", ",", "Exit", "Loop", ";", "Active", "Learning", "x", "max", "xU", "H", "-LRB-", "x", ";", ",", "K", "-RRB-", "L", "L", "-LCB-", "x", "-RCB-", ",", "U", "U", "-", "-LCB-", "x", "-RCB-", "Until", "converged", ".", "Output", "UKLR", "=", "M", "-LRB-", "K", ",", "-RRB-", ".", "Figure", "6", ":", "The", "UKLR", "Algorithm", ".", "where", "N", "C", "is", "the", "number", "of", "classes", "and", "C", "i", "denotes", "the", "i", "th", "class", "and", "p", "-LRB-", "C", "i", "|", "x", "-RRB-", "is", "the", "probability", "of", "the", "data", "example", "x", "belonging", "to", "the", "i", "th", "class", "which", "can", "be", "naturally", "obtained", "by", "the", "current", "KLR", "model", "-LRB-", ",", "K", "-RRB-", ".", "The", "unlabeled", "data", "examples", "with", "maximum", "values", "of", "entropy", "will", "be", "considered", "as", "the", "most", "informative", "data", "for", "labeling", ".", "By", "unifying", "the", "spectral", "kernel", "learning", "method", "proposed", "in", "Section", "3", ",", "we", "summarize", "the", "proposed", "algorithm", "of", "Unified", "Kernel", "Logistic", "Regression", "-LRB-", "UKLR", "-RRB-", "in", "Figure", "6", ".", "In", "the", "algorithm", ",", "note", "that", "we", "can", "usually", "initialize", "a", "kernel", "by", "a", "standard", "kernel", "with", "appropriate", "parameters", "determined", "by", "cross", "validation", "or", "by", "a", "proper", "deisgn", "of", "the", "initial", "kernel", "with", "domain", "knowledge", ".", "We", "discuss", "our", "empirical", "evaluation", "of", "the", "proposed", "framework", "and", "algorithms", "for", "classification", ".", "We", "first", "evaluate", "the", "effectiveness", "of", "our", "suggested", "spectral", "kernel", "learning", "algorithm", "for", "learning", "semi-supervised", "kernels", "and", "then", "compare", "the", "performance", "of", "our", "unified", "kernel", "logistic", "regression", "paradigm", "with", "traditional", "classification", "schemes", ".", "6.1", "Experimental", "Testbed", "and", "Settings", "We", "use", "the", "datasets", "from", "UCI", "machine", "learning", "repository", "1", ".", "Four", "datasets", "are", "employed", "in", "our", "experiments", ".", "Table", "1", "shows", "the", "details", "of", "four", "UCI", "datasets", "in", "our", "experiments", ".", "For", "experimental", "settings", ",", "to", "examine", "the", "influences", "of", "different", "training", "sizes", ",", "we", "test", "the", "compared", "algorithms", "on", "four", "different", "training", "set", "sizes", "for", "each", "of", "the", "four", "UCI", "datasets", ".", "For", "each", "given", "training", "set", "size", ",", "we", "conduct", "20", "random", "trials", "in", "which", "a", "labeled", "set", "is", "randomly", "sampled", "1", "www.ics.uci.edu", "/", "mlearn/MLRepository.html", "193", "Research", "Track", "Paper", "Table", "1", ":", "List", "of", "UCI", "machine", "learning", "datasets", ".", "Dataset", "#Instances", "#Features", "#Classes", "Heart", "270", "13", "2", "Ionosphere", "351", "34", "2", "Sonar", "208", "60", "2", "Wine", "178", "13", "3", "from", "the", "whole", "dataset", "and", "all", "classes", "must", "be", "present", "in", "the", "sampled", "labeled", "set", ".", "The", "rest", "data", "examples", "of", "the", "dataset", "are", "then", "used", "as", "the", "testing", "-LRB-", "unlabeled", "-RRB-", "data", ".", "To", "train", "a", "classifier", ",", "we", "employ", "the", "standard", "KLR", "model", "for", "classification", ".", "We", "choose", "the", "bounds", "on", "the", "regularization", "parameters", "via", "cross", "validation", "for", "all", "compared", "kernels", "to", "avoid", "an", "unfair", "comparison", ".", "For", "multi-class", "classification", ",", "we", "perform", "one-against-all", "binary", "training", "and", "testing", "and", "then", "pick", "the", "class", "with", "the", "maximum", "class", "probability", ".", "6.2", "Semi-Supervised", "Kernel", "Learning", "In", "this", "part", ",", "we", "evaluate", "the", "performance", "of", "our", "spectral", "kernel", "learning", "algorithm", "for", "learning", "semi-supervised", "kernels", ".", "We", "implemented", "our", "algorithm", "by", "a", "standard", "Matlab", "Quadratic", "Programming", "solver", "-LRB-", "quadprog", "-RRB-", ".", "The", "dimension-cut", "parameter", "d", "in", "our", "algorithm", "is", "simply", "fixed", "to", "20", "without", "further", "optimizing", ".", "Note", "that", "one", "can", "easily", "determine", "an", "appropriate", "value", "of", "d", "by", "examining", "the", "range", "of", "the", "cumulative", "eigen", "energy", "score", "in", "order", "to", "reduce", "the", "com-putational", "cost", "for", "large-scale", "problems", ".", "The", "decay", "factor", "C", "is", "important", "for", "our", "spectral", "kernel", "learning", "algorithm", ".", "As", "we", "have", "shown", "examples", "before", ",", "C", "must", "be", "a", "positive", "real", "value", "greater", "than", "1", ".", "Typically", "we", "favor", "a", "larger", "decay", "factor", "to", "achieve", "better", "performance", ".", "But", "it", "must", "not", "be", "set", "too", "large", "since", "the", "too", "large", "decay", "factor", "may", "result", "in", "the", "overly", "stringent", "constraints", "in", "the", "optimization", "which", "gives", "no", "solutions", ".", "In", "our", "experiments", ",", "C", "is", "simply", "fixed", "to", "constant", "values", "-LRB-", "greater", "than", "1", "-RRB-", "for", "the", "engaged", "datasets", ".", "For", "a", "comparison", ",", "we", "compare", "our", "SKL", "algorithms", "with", "the", "state-of-the-art", "semi-supervised", "kernel", "learning", "method", "by", "graph", "Laplacians", "-LSB-", "32", "-RSB-", ",", "which", "is", "related", "to", "a", "quadrati-cally", "constrained", "quaratic", "program", "-LRB-", "QCQP", "-RRB-", ".", "More", "specifically", ",", "we", "have", "implemented", "two", "graph", "Laplacians", "based", "semi-supervised", "kernels", "by", "order", "constraints", "-LSB-", "32", "-RSB-", ".", "One", "is", "the", "order-constrained", "graph", "kernel", "-LRB-", "denoted", "as", "``", "Order", "''", "-RRB-", "and", "the", "other", "is", "the", "improved", "order-constrained", "graph", "kernel", "-LRB-", "denoted", "as", "``", "Imp-Order", "''", "-RRB-", ",", "which", "removes", "the", "constraints", "from", "constant", "eigenvectors", ".", "To", "carry", "a", "fair", "comparison", ",", "we", "use", "the", "top", "20", "smallest", "eigenvalues", "and", "eigenvectors", "from", "the", "graph", "Laplacian", "which", "is", "constructed", "with", "10-NN", "un-weighted", "graphs", ".", "We", "also", "include", "three", "standard", "kernels", "for", "comparisons", ".", "Table", "2", "shows", "the", "experimental", "results", "of", "the", "compared", "kernels", "-LRB-", "3", "standard", "and", "5", "semi-supervised", "kernels", "-RRB-", "based", "on", "KLR", "classifiers", "on", "four", "UCI", "datasets", "with", "different", "sizes", "of", "labeled", "data", ".", "Each", "cell", "in", "the", "table", "has", "two", "rows", ":", "the", "upper", "row", "shows", "the", "average", "testing", "set", "accruacies", "with", "standard", "errors", ";", "and", "the", "lower", "row", "gives", "the", "average", "run", "time", "in", "seconds", "for", "learning", "the", "semi-supervised", "kernels", "on", "a", "3", "GHz", "desktop", "computer", ".", "We", "conducted", "a", "paired", "t-test", "at", "significance", "level", "of", "0.05", "to", "assess", "the", "statistical", "significance", "of", "the", "test", "set", "accuracy", "results", ".", "From", "the", "experimental", "results", ",", "we", "found", "that", "the", "two", "order-constrained", "based", "graph", "kernels", "perform", "well", "in", "the", "Ionosphere", "and", "Wine", "datasets", ",", "but", "they", "do", "not", "achieve", "important", "improvements", "on", "the", "Heart", "and", "Sonar", "datasets", ".", "Among", "all", "the", "compared", "kernels", ",", "the", "semi-supervised", "kernels", "by", "our", "spectral", "kernel", "learning", "algorithms", "achieve", "the", "best", "performances", ".", "The", "semi-supervised", "kernel", "initialized", "with", "an", "RBF", "kernel", "outperforms", "other", "kernels", "in", "most", "cases", ".", "For", "example", ",", "in", "Ionosphere", "dataset", ",", "an", "RBF", "kernel", "with", "10", "initial", "training", "examples", "only", "achieves", "73.56", "%", "test", "set", "accuracy", ",", "and", "the", "SKL", "algorithm", "can", "boost", "the", "accuracy", "significantly", "to", "83.36", "%", ".", "Finally", ",", "looking", "into", "the", "time", "performance", ",", "the", "average", "run", "time", "of", "our", "algorithm", "is", "less", "than", "10", "%", "of", "the", "previous", "QCQP", "algorithms", ".", "6.3", "Unified", "Kernel", "Logistic", "Regression", "In", "this", "part", ",", "we", "evaluate", "the", "performance", "of", "our", "proposed", "paradigm", "of", "unified", "kernel", "logistic", "regression", "-LRB-", "UKLR", "-RRB-", ".", "As", "a", "comparison", ",", "we", "implement", "two", "traditional", "classification", "schemes", ":", "one", "is", "traditional", "KLR", "classification", "scheme", "that", "is", "trained", "on", "randomly", "sampled", "labeled", "data", ",", "denoted", "as", "``", "KLR+R", "and", ".", "''", "The", "other", "is", "the", "active", "KLR", "classification", "scheme", "that", "actively", "selects", "the", "most", "informative", "examples", "for", "labeling", ",", "denoted", "as", "``", "KLR+A", "ctive", ".", "''", "The", "active", "learning", "strategy", "is", "based", "on", "a", "simple", "maximum", "entropy", "criteria", "given", "in", "the", "pervious", "section", ".", "The", "UKLR", "scheme", "is", "implemented", "based", "on", "the", "algorithm", "in", "Figure", "6", ".", "For", "active", "learning", "evaluation", ",", "we", "choose", "a", "batch", "of", "10", "most", "informative", "unlabeled", "examples", "for", "labeling", "in", "each", "trial", "of", "evaluations", ".", "Table", "3", "summarizes", "the", "experimental", "results", "of", "average", "test", "set", "accuarcy", "performances", "on", "four", "UCI", "datasets", ".", "From", "the", "experimental", "results", ",", "we", "can", "observe", "that", "the", "active", "learning", "classification", "schems", "outperform", "the", "randomly", "sampled", "classification", "schemes", "in", "most", "cases", ".", "This", "shows", "the", "suggested", "simple", "active", "learning", "strategy", "is", "effectiveness", ".", "Further", ",", "among", "all", "compared", "schemes", ",", "the", "suggsted", "UKLR", "solution", "significantly", "outperforms", "other", "classification", "approaches", "in", "most", "cases", ".", "These", "results", "show", "that", "the", "unified", "scheme", "is", "effective", "and", "promising", "to", "integrate", "traditional", "learning", "methods", "together", "in", "a", "unified", "solution", ".", "6.4", "Discussions", "Although", "the", "experimental", "results", "have", "shown", "that", "our", "scheme", "is", "promising", ",", "some", "open", "issues", "in", "our", "current", "solution", "need", "be", "further", "explored", "in", "future", "work", ".", "One", "problem", "to", "investigate", "more", "effective", "active", "learning", "methods", "in", "selecting", "the", "most", "informative", "examples", "for", "labeling", ".", "One", "solution", "to", "this", "issue", "is", "to", "employ", "the", "batch", "mode", "active", "learning", "methods", "that", "can", "be", "more", "efficient", "for", "large-scale", "classification", "tasks", "-LSB-", "11", ",", "23", ",", "24", "-RSB-", ".", "Moreover", ",", "we", "will", "study", "more", "effective", "kernel", "learning", "algorithms", "without", "the", "assumption", "of", "spectral", "kernels", ".", "Further", ",", "we", "may", "examine", "the", "theoretical", "analysis", "of", "generalization", "performance", "of", "our", "method", "-LSB-", "27", "-RSB-", ".", "Finally", ",", "we", "may", "combine", "some", "kernel", "machine", "speedup", "techniques", "to", "deploy", "our", "scheme", "efficiently", "for", "large-scale", "applications", "-LSB-", "26", "-RSB-", ".", "This", "paper", "presented", "a", "novel", "general", "framework", "of", "learning", "the", "Unified", "Kernel", "Machines", "-LRB-", "UKM", "-RRB-", "for", "classification", ".", "Different", "from", "traditional", "classification", "schemes", ",", "our", "UKM", "framework", "integrates", "supervised", "learning", ",", "semi-supervised", "learning", ",", "unsupervised", "kernel", "design", "and", "active", "learning", "in", "a", "unified", "solution", ",", "making", "it", "more", "effective", "for", "classification", "tasks", ".", "For", "the", "proposed", "framework", ",", "we", "focus", "our", "attention", "on", "tackling", "a", "core", "problem", "of", "learning", "semi-supervised", "kernels", "from", "labeled", "and", "unlabled", "data", ".", "We", "proposed", "a", "Spectral", "194", "Research", "Track", "Paper", "Table", "2", ":", "Classification", "performance", "of", "different", "kernels", "using", "KLR", "classifiers", "on", "four", "datasets", ".", "The", "mean", "accuracies", "and", "standard", "errors", "are", "shown", "in", "the", "table", ".", "3", "standard", "kernels", "and", "5", "semi-supervised", "kernels", "are", "compared", ".", "Each", "cell", "in", "the", "table", "has", "two", "rows", ".", "The", "upper", "row", "shows", "the", "test", "set", "accuracy", "with", "standard", "error", ";", "the", "lower", "row", "gives", "the", "average", "time", "used", "in", "learning", "the", "semi-supervised", "kernels", "-LRB-", "``", "Order", "''", "and", "``", "Imp-Order", "''", "kernels", "are", "sovled", "by", "SeDuMi/YALMIP", "package", ";", "``", "SKL", "''", "kernels", "are", "solved", "directly", "by", "the", "Matlab", "quadprog", "function", ".", "Train", "Standard", "Kernels", "Semi-Supervised", "Kernels", "Size", "Linear", "Quadratic", "RBF", "Order", "Imp-Order", "SKL", "-LRB-", "Linear", "-RRB-", "SKL", "-LRB-", "Quad", "-RRB-", "SKL", "-LRB-", "RBF", "-RRB-", "Heart", "10", "67.19", "1.94", "71.90", "1.23", "70.04", "1.61", "63.60", "1.94", "63.60", "1.94", "70.58", "1.63", "72.33", "1.60", "73.37", "1.50", "-LRB-", "0.67", "-RRB-", "-LRB-", "0.81", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.06", "-RRB-", "-LRB-", "0.06", "-RRB-", "20", "67.40", "1.87", "70.36", "1.51", "72.64", "1.37", "65.88", "1.69", "65.88", "1.69", "76.26", "1.29", "75.36", "1.30", "76.30", "1.33", "-LRB-", "0.71", "-RRB-", "-LRB-", "0.81", "-RRB-", "-LRB-", "0.06", "-RRB-", "-LRB-", "0.06", "-RRB-", "-LRB-", "0.06", "-RRB-", "30", "75.42", "0.88", "70.71", "0.83", "74.40", "0.70", "71.73", "1.14", "71.73", "1.14", "78.42", "0.59", "78.65", "0.52", "79.23", "0.58", "-LRB-", "0.95", "-RRB-", "-LRB-", "0.97", "-RRB-", "-LRB-", "0.06", "-RRB-", "-LRB-", "0.06", "-RRB-", "-LRB-", "0.06", "-RRB-", "40", "78.24", "0.89", "71.28", "1.10", "78.48", "0.77", "75.48", "0.69", "75.48", "0.69", "80.61", "0.45", "80.26", "0.45", "80.98", "0.51", "-LRB-", "1.35", "-RRB-", "-LRB-", "1.34", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.07", "-RRB-", "Ionosphere", "10", "73.71", "1.27", "71.30", "1.70", "73.56", "1.91", "71.86", "2.79", "71.86", "2.79", "75.53", "1.75", "71.22", "1.82", "83.36", "1.31", "-LRB-", "0.90", "-RRB-", "-LRB-", "0.87", "-RRB-", "-LRB-", "0.05", "-RRB-", "-LRB-", "0.05", "-RRB-", "-LRB-", "0.05", "-RRB-", "20", "75.62", "1.24", "76.00", "1.58", "81.71", "1.74", "83.04", "2.10", "83.04", "2.10", "78.78", "1.60", "80.30", "1.77", "88.55", "1.32", "-LRB-", "0.87", "-RRB-", "-LRB-", "0.79", "-RRB-", "-LRB-", "0.05", "-RRB-", "-LRB-", "0.06", "-RRB-", "-LRB-", "0.05", "-RRB-", "30", "76.59", "0.82", "79.10", "1.46", "86.21", "0.84", "87.20", "1.16", "87.20", "1.16", "82.18", "0.56", "83.08", "1.36", "90.39", "0.84", "-LRB-", "0.93", "-RRB-", "-LRB-", "0.97", "-RRB-", "-LRB-", "0.05", "-RRB-", "-LRB-", "0.05", "-RRB-", "-LRB-", "0.05", "-RRB-", "40", "77.97", "0.79", "82.93", "1.33", "89.39", "0.65", "90.56", "0.64", "90.56", "0.64", "83.26", "0.53", "87.03", "1.02", "92.14", "0.46", "-LRB-", "1.34", "-RRB-", "-LRB-", "1.38", "-RRB-", "-LRB-", "0.05", "-RRB-", "-LRB-", "0.04", "-RRB-", "-LRB-", "0.04", "-RRB-", "Sonar", "10", "63.01", "1.47", "62.85", "1.53", "60.76", "1.80", "59.67", "0.89", "59.67", "0.89", "64.27", "1.91", "64.37", "1.64", "65.30", "1.78", "-LRB-", "0.63", "-RRB-", "-LRB-", "0.63", "-RRB-", "-LRB-", "0.08", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.07", "-RRB-", "20", "68.09", "1.11", "69.55", "1.22", "67.63", "1.15", "64.68", "1.57", "64.68", "1.57", "70.61", "1.14", "69.79", "1.30", "71.76", "1.07", "-LRB-", "0.68", "-RRB-", "-LRB-", "0.82", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.08", "-RRB-", "30", "66.40", "1.06", "69.80", "0.93", "68.23", "1.48", "66.54", "0.79", "66.54", "0.79", "70.20", "1.48", "68.48", "1.59", "71.69", "0.87", "-LRB-", "0.88", "-RRB-", "-LRB-", "1.02", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.07", "-RRB-", "40", "64.94", "0.74", "71.37", "0.52", "71.61", "0.89", "69.82", "0.82", "69.82", "0.82", "72.35", "1.06", "71.28", "0.96", "72.89", "0.68", "-LRB-", "1.14", "-RRB-", "-LRB-", "1.20", "-RRB-", "-LRB-", "0.07", "-RRB-", "-LRB-", "0.08", "-RRB-", "-LRB-", "0.07", "-RRB-", "Wine", "10", "82.26", "2.18", "85.89", "1.73", "87.80", "1.63", "86.99", "1.98", "86.99", "1.45", "83.63", "2.62", "83.21", "2.36", "90.54", "1.08", "-LRB-", "1.02", "-RRB-", "-LRB-", "0.86", "-RRB-", "-LRB-", "0.09", "-RRB-", "-LRB-", "0.09", "-RRB-", "-LRB-", "0.09", "-RRB-", "20", "86.39", "1.39", "86.96", "1.30", "93.77", "0.99", "92.31", "1.39", "92.31", "1.39", "89.53", "2.32", "92.56", "0.56", "94.94", "0.50", "-LRB-", "0.92", "-RRB-", "-LRB-", "0.91", "-RRB-", "-LRB-", "0.09", "-RRB-", "-LRB-", "0.09", "-RRB-", "-LRB-", "0.09", "-RRB-", "30", "92.50", "0.76", "87.43", "0.63", "94.63", "0.50", "92.97", "0.54", "92.97", "0.54", "93.99", "1.09", "94.29", "0.53", "96.25", "0.30", "-LRB-", "1.28", "-RRB-", "-LRB-", "1.27", "-RRB-", "-LRB-", "0.09", "-RRB-", "-LRB-", "0.10", "-RRB-", "-LRB-", "0.09", "-RRB-", "40", "94.96", "0.65", "88.80", "0.93", "96.38", "0.35", "95.62", "0.37", "95.62", "0.37", "95.80", "0.47", "95.36", "0.46", "96.81", "0.28", "-LRB-", "1.41", "-RRB-", "-LRB-", "1.39", "-RRB-", "-LRB-", "0.08", "-RRB-", "-LRB-", "0.08", "-RRB-", "-LRB-", "0.10", "-RRB-", "Kernel", "Learning", "-LRB-", "SKL", "-RRB-", "algorithm", ",", "which", "is", "more", "effective", "and", "efficient", "for", "learning", "kernels", "from", "labeled", "and", "unlabeled", "data", ".", "Under", "the", "framework", ",", "we", "developed", "a", "paradigm", "of", "unified", "kernel", "machine", "based", "on", "Kernel", "Logistic", "Regression", ",", "i.e.", ",", "Unified", "Kernel", "Logistic", "Regression", "-LRB-", "UKLR", "-RRB-", ".", "Empirical", "results", "demonstrated", "that", "our", "proposed", "solution", "is", "more", "effective", "than", "the", "traditional", "classification", "approaches", ".", "The", "work", "described", "in", "this", "paper", "was", "fully", "supported", "by", "two", "grants", ",", "one", "from", "the", "Shun", "Hing", "Institute", "of", "Advanced", "Engineering", ",", "and", "the", "other", "from", "the", "Research", "Grants", "Council", "of", "the", "Hong", "Kong", "Special", "Administrative", "Region", ",", "China", "-LRB-", "Project", "No", ".", "CUHK4205/04E", "-RRB-", ".", "-LSB-", "1", "-RSB-", "M.", "Belkin", "and", "I.", "M.", "andd", "P.", "Niyogi", ".", "Regularization", "and", "semi-supervised", "learning", "on", "large", "graphs", ".", "In", "COLT", ",", "2004", ".", "-LSB-", "2", "-RSB-", "M.", "Belkin", "and", "P.", "Niyogi", ".", "Semi-supervised", "learning", "on", "riemannian", "manifolds", ".", "Machine", "Learning", ",", "2004", ".", "-LSB-", "3", "-RSB-", "E.", "Chang", ",", "S.", "C.", "Hoi", ",", "X.", "Wang", ",", "W.-Y", ".", "Ma", ",", "and", "M.", "Lyu", ".", "A", "unified", "machine", "learning", "framework", "for", "large-scale", "personalized", "information", "management", ".", "In", "The", "5th", "Emerging", "Information", "Technology", "Conference", ",", "NTU", "Taipei", ",", "2005", ".", "-LSB-", "4", "-RSB-", "E.", "Chang", "and", "M.", "Lyu", ".", "Unified", "learning", "paradigm", "for", "web-scale", "mining", ".", "In", "Snowbird", "Machine", "Learning", "Workshop", ",", "2006", ".", "-LSB-", "5", "-RSB-", "O.", "Chapelle", ",", "A.", "Zien", ",", "and", "B.", "Scholkopf", ".", "Semi-supervised", "learning", ".", "MIT", "Press", ",", "2006", ".", "-LSB-", "6", "-RSB-", "F.", "R.", "K.", "Chung", ".", "Spectral", "Graph", "Theory", ".", "American", "Mathematical", "Soceity", ",", "1997", ".", "-LSB-", "7", "-RSB-", "D.", "A.", "Cohn", ",", "Z.", "Ghahramani", ",", "and", "M.", "I.", "Jordan", ".", "Active", "learning", "with", "statistical", "models", ".", "In", "NIPS", ",", "volume", "7", ",", "pages", "705", "712", ",", "1995", ".", "-LSB-", "8", "-RSB-", "N.", "Cristianini", ",", "J.", "Shawe-Taylor", ",", "and", "A.", "Elisseeff", ".", "On", "kernel-target", "alignment", ".", "JMLR", ",", "2002", ".", "195", "Research", "Track", "Paper", "Table", "3", ":", "Classification", "performance", "of", "different", "classification", "schemes", "on", "four", "UCI", "datasets", ".", "The", "mean", "accuracies", "and", "standard", "errors", "are", "shown", "in", "the", "table", ".", "``", "KLR", "''", "represents", "the", "initial", "classifier", "with", "the", "initial", "train", "size", ";", "other", "three", "methods", "are", "trained", "with", "additional", "10", "random/active", "examples", ".", "Train", "Linear", "Kernel", "RBF", "Kernel", "Size", "KLR", "KLR+R", "and", "KLR+A", "ctive", "UKLR", "KLR", "KLR+R", "and", "KLR+A", "ctive", "UKLR", "Heart", "10", "67.19", "1.94", "68.22", "2.16", "69.22", "1.71", "77.24", "0.74", "70.04", "1.61", "72.24", "1.23", "75.36", "0.60", "78.44", "0.88", "20", "67.40", "1.87", "73.79", "1.29", "73.77", "1.27", "79.27", "1.00", "72.64", "1.37", "75.10", "0.74", "76.23", "0.81", "79.88", "0.90", "30", "75.42", "0.88", "77.70", "0.92", "78.65", "0.62", "81.13", "0.42", "74.40", "0.70", "76.43", "0.68", "76.61", "0.61", "81.48", "0.41", "40", "78.24", "0.89", "79.30", "0.75", "80.18", "0.79", "82.55", "0.28", "78.48", "0.77", "78.50", "0.53", "79.95", "0.62", "82.66", "0.36", "Ionosphere", "10", "73.71", "1.27", "74.89", "0.95", "75.91", "0.96", "77.31", "1.23", "73.56", "1.91", "82.57", "1.78", "82.76", "1.37", "90.48", "0.83", "20", "75.62", "1.24", "77.09", "0.67", "77.51", "0.66", "81.42", "1.10", "81.71", "1.74", "85.95", "1.30", "88.22", "0.78", "91.28", "0.94", "30", "76.59", "0.82", "78.41", "0.79", "77.91", "0.77", "84.49", "0.37", "86.21", "0.84", "89.04", "0.66", "90.32", "0.56", "92.35", "0.59", "40", "77.97", "0.79", "79.05", "0.49", "80.30", "0.79", "84.49", "0.40", "89.39", "0.65", "90.55", "0.59", "91.83", "0.49", "93.89", "0.28", "Sonar", "10", "61.19", "1.56", "63.72", "1.65", "65.51", "1.55", "66.12", "1.94", "57.40", "1.48", "60.19", "1.32", "59.49", "1.46", "67.13", "1.58", "20", "67.31", "1.07", "68.85", "0.84", "69.38", "1.05", "71.60", "0.91", "62.93", "1.36", "64.72", "1.24", "64.52", "1.07", "72.30", "0.98", "30", "66.10", "1.08", "67.59", "1.14", "69.79", "0.86", "71.40", "0.80", "63.03", "1.32", "63.72", "1.51", "66.67", "1.53", "72.26", "0.98", "40", "66.34", "0.82", "68.16", "0.81", "70.19", "0.90", "73.04", "0.69", "66.70", "1.25", "68.70", "1.19", "67.56", "0.90", "73.16", "0.88", "Wine", "10", "82.26", "2.18", "87.31", "1.01", "89.05", "1.07", "87.31", "1.03", "87.80", "1.63", "92.75", "1.27", "94.49", "0.54", "94.87", "0.49", "20", "86.39", "1.39", "93.99", "0.40", "93.82", "0.71", "94.43", "0.54", "93.77", "0.99", "95.57", "0.38", "97.13", "0.18", "96.76", "0.26", "30", "92.50", "0.76", "95.25", "0.47", "96.96", "0.40", "96.12", "0.47", "94.63", "0.50", "96.27", "0.35", "97.17", "0.38", "97.21", "0.26", "40", "94.96", "0.65", "96.21", "0.63", "97.54", "0.37", "97.70", "0.34", "96.38", "0.35", "96.33", "0.45", "97.97", "0.23", "98.12", "0.21", "-LSB-", "9", "-RSB-", "S.", "Fine", ",", "R.", "Gilad-Bachrach", ",", "and", "E.", "Shamir", ".", "Query", "by", "committee", ",", "linear", "separation", "and", "random", "walks", ".", "Theor", ".", "Comput", ".", "Sci.", ",", "284", "-LRB-", "1", "-RRB-", ":", "25", "51", ",", "2002", ".", "-LSB-", "10", "-RSB-", "Y.", "Freund", ",", "H.", "S.", "Seung", ",", "E.", "Shamir", ",", "and", "N.", "Tishby", ".", "Selective", "sampling", "using", "the", "query", "by", "committee", "algorithm", ".", "Mach", ".", "Learn.", ",", "28", "-LRB-", "2-3", "-RRB-", ":", "133", "168", ",", "1997", ".", "-LSB-", "11", "-RSB-", "S.", "C.", "Hoi", ",", "R.", "Jin", ",", "and", "M.", "R.", "Lyu", ".", "Large-scale", "text", "categorization", "by", "batch", "mode", "active", "learning", ".", "In", "WWW2006", ",", "Edinburg", ",", "2006", ".", "-LSB-", "12", "-RSB-", "S.", "B.", "C.", "M.", "J.A.K.", "Suykens", ",", "G.", "Horvath", "and", "J.", "Vandewalle", ".", "Advances", "in", "Learning", "Theory", ":", "Methods", ",", "Models", "and", "Applications", ".", "NATO", "Science", "Series", ":", "Computer", "&", "Systems", "Sciences", ",", "2003", ".", "-LSB-", "13", "-RSB-", "R.", "Kondor", "and", "J.", "Lafferty", ".", "Diffusion", "kernels", "on", "graphs", "and", "other", "discrete", "structures", ".", "2002", ".", "-LSB-", "14", "-RSB-", "G.", "Lanckriet", ",", "N.", "Cristianini", ",", "P.", "Bartlett", ",", "L.", "E.", "Ghaoui", ",", "and", "M.", "Jordan", ".", "Learning", "the", "kernel", "matrix", "with", "semi-definite", "programming", ".", "JMLR", ",", "5:27", "72", ",", "2004", ".", "-LSB-", "15", "-RSB-", "G.", "Lanckriet", ",", "L.", "Ghaoui", ",", "C.", "Bhattacharyya", ",", "and", "M.", "Jordan", ".", "Minimax", "probability", "machine", ".", "In", "Advances", "in", "Neural", "Infonation", "Processing", "Systems", "14", ",", "2002", ".", "-LSB-", "16", "-RSB-", "R.", "Liere", "and", "P.", "Tadepalli", ".", "Active", "learning", "with", "committees", "for", "text", "categorization", ".", "In", "Proceedings", "14th", "Conference", "of", "the", "American", "Association", "for", "Artificial", "Intelligence", "-LRB-", "AAAI", "-RRB-", ",", "pages", "591", "596", ",", "MIT", "Press", ",", "1997", ".", "-LSB-", "17", "-RSB-", "R.", "Meir", "and", "G.", "Ratsch", ".", "An", "introduction", "to", "boosting", "and", "leveraging", ".", "In", "In", "Advanced", "Lectures", "on", "Machine", "Learning", "-LRB-", "LNAI2600", "-RRB-", ",", "2003", ".", "-LSB-", "18", "-RSB-", "A.", "Ng", ",", "M.", "Jordan", ",", "and", "Y.", "Weiss", ".", "On", "spectral", "clustering", ":", "Analysis", "and", "an", "algorithm", ".", "In", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "14", ",", "2001", ".", "-LSB-", "19", "-RSB-", "N.", "Roy", "and", "A.", "McCallum", ".", "Toward", "optimal", "active", "learning", "through", "sampling", "estimation", "of", "error", "reduction", ".", "In", "18th", "ICML", ",", "pages", "441", "448", ",", "2001", ".", "-LSB-", "20", "-RSB-", "B.", "Scholkopf", ",", "A.", "Smola", ",", "and", "K.-R", ".", "Muller", ".", "Nonlinear", "component", "analysis", "as", "a", "kernel", "eigenvalue", "problem", ".", "Neural", "Computation", ",", "10:1299", "1319", ",", "1998", ".", "-LSB-", "21", "-RSB-", "A.", "Smola", "and", "R.", "Kondor", ".", "Kernels", "and", "regularization", "on", "graphs", ".", "In", "Intl.", ".", "Conf", ".", "on", "Learning", "Theory", ",", "2003", ".", "-LSB-", "22", "-RSB-", "M.", "Szummer", "and", "T.", "Jaakkola", ".", "Partially", "labeled", "classification", "with", "markov", "random", "walks", ".", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", ",", "2001", ".", "-LSB-", "23", "-RSB-", "S.", "Tong", "and", "E.", "Chang", ".", "Support", "vector", "machine", "active", "learning", "for", "image", "retrieval", ".", "In", "Proc", "ACM", "Multimedia", "Conference", ",", "pages", "107", "118", ",", "New", "York", ",", "2001", ".", "-LSB-", "24", "-RSB-", "S.", "Tong", "and", "D.", "Koller", ".", "Support", "vector", "machine", "active", "learning", "with", "applications", "to", "text", "classification", ".", "In", "Proc", ".", "17th", "ICML", ",", "pages", "999", "1006", ",", "2000", ".", "-LSB-", "25", "-RSB-", "V.", "N.", "Vapnik", ".", "Statistical", "Learning", "Theory", ".", "John", "Wiley", "&", "Sons", ",", "1998", ".", "-LSB-", "26", "-RSB-", "G.", "Wu", ",", "Z.", "Zhang", ",", "and", "E.", "Y.", "Chang", ".", "Kronecker", "factorization", "for", "speeding", "up", "kernel", "machines", ".", "In", "SIAM", "Int", ".", "Conference", "on", "Data", "Mining", "-LRB-", "SDM", "-RRB-", ",", "2005", ".", "-LSB-", "27", "-RSB-", "T.", "Zhang", "and", "R.", "K.", "Ando", ".", "Analysis", "of", "spectral", "kernel", "design", "based", "semi-supervised", "learning", ".", "In", "NIPS", ",", "2005", ".", "-LSB-", "28", "-RSB-", "D.", "Zhou", ",", "O.", "Bousquet", ",", "T.", "Lal", ",", "J.", "Weston", ",", "and", "B.", "Schlkopf", ".", "Learning", "with", "local", "and", "global", "consistency", ".", "In", "NIPS", "'", "16", ",", "2005", ".", "-LSB-", "29", "-RSB-", "J.", "Zhu", "and", "T.", "Hastie", ".", "Kernel", "logistic", "regression", "and", "the", "import", "vector", "machine", ".", "In", "NIPS", "14", ",", "pages", "1081", "1088", ",", "2001", ".", "-LSB-", "30", "-RSB-", "X.", "Zhu", ".", "Semi-supervised", "learning", "literature", "survey", ".", "Technical", "report", ",", "Computer", "Sciences", "TR", "1530", ",", "University", "of", "Wisconsin", "-", "Madison", ",", "2005", ".", "-LSB-", "31", "-RSB-", "X.", "Zhu", ",", "Z.", "Ghahramani", ",", "and", "J.", "Lafferty", ".", "Semi-supervised", "learning", "using", "gaussian", "fields", "and", "harmonic", "functions", ".", "In", "Proc", ".", "ICML", "'", "2003", ",", "2003", ".", "-LSB-", "32", "-RSB-", "X.", "Zhu", ",", "J.", "Kandola", ",", "Z.", "Ghahramani", ",", "and", "J.", "Lafferty", ".", "Nonparametric", "transforms", "of", "graph", "kernels", "for", "semi-supervised", "learning", ".", "In", "NIPS2005", ",", "2005", ".", "196", "Research", "Track", "Paper"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["framework", "classification", "kernel machines", "supervised learning", "spectral kernel learning", "kernel logistic regressions", "active learning", "data mining"], "abstractive_keyphrases": ["spectral kernel learning (skl)", "semi-supervised kernel learning", "unsuper-vised kernel design", "unified kernel machine(ukm)", "semi-supervised learning"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "117", "document": ["Interestingness", "of", "Frequent", "Itemsets", "Using", "Bayesian", "Networks", "as", "Background", "Knowledge", "The", "paper", "presents", "a", "method", "for", "pruning", "frequent", "itemsets", "based", "on", "background", "knowledge", "represented", "by", "a", "Bayesian", "network", ".", "The", "interestingness", "of", "an", "itemset", "is", "defined", "as", "the", "absolute", "difference", "between", "its", "support", "estimated", "from", "data", "and", "from", "the", "Bayesian", "network", ".", "Efficient", "algorithms", "are", "presented", "for", "finding", "interestingness", "of", "a", "collection", "of", "frequent", "itemsets", ",", "and", "for", "finding", "all", "attribute", "sets", "with", "a", "given", "minimum", "interestingness", ".", "Practical", "usefulness", "of", "the", "algorithms", "and", "their", "efficiency", "have", "been", "verified", "experimentally", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications-data", "mining", "Algorithms", "Finding", "frequent", "itemsets", "and", "association", "rules", "in", "database", "tables", "has", "been", "an", "active", "research", "area", "in", "recent", "years", ".", "Unfortunately", ",", "the", "practical", "usefulness", "of", "the", "approach", "is", "limited", "by", "huge", "number", "of", "patterns", "usually", "discovered", ".", "For", "larger", "databases", "many", "thousands", "of", "association", "rules", "may", "be", "produced", "when", "minimum", "support", "is", "low", ".", "This", "creates", "a", "secondary", "data", "mining", "problem", ":", "after", "mining", "the", "data", ",", "we", "are", "now", "compelled", "to", "mine", "the", "discovered", "patterns", ".", "The", "problem", "has", "been", "addressed", "in", "literature", "mainly", "in", "the", "context", "of", "association", "rules", ",", "where", "the", "two", "main", "approaches", "are", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "sorting", "rules", "based", "on", "some", "interestingness", "measure", ",", "and", "pruning", "aiming", "at", "removing", "redundant", "rules", ".", "Full", "review", "of", "such", "methods", "is", "beyond", "the", "scope", "of", "this", "paper", ".", "Overviews", "of", "interestingness", "measures", "can", "be", "found", "for", "example", "in", "-LSB-", "3", ",", "13", ",", "11", ",", "32", "-RSB-", ",", "some", "of", "the", "papers", "on", "rule", "pruning", "are", "-LSB-", "30", ",", "31", ",", "7", ",", "14", ",", "28", ",", "16", ",", "17", ",", "33", "-RSB-", ".", "Many", "interestingness", "measures", "are", "based", "on", "the", "divergence", "between", "true", "probability", "distributions", "and", "distributions", "obtained", "under", "the", "independence", "assumption", ".", "Pruning", "methods", "are", "usually", "based", "on", "comparing", "the", "confidence", "of", "a", "rule", "to", "the", "confidence", "of", "rules", "related", "to", "it", ".", "The", "main", "drawback", "of", "those", "methods", "is", "that", "they", "tend", "to", "generate", "rules", "that", "are", "either", "obvious", "or", "have", "already", "been", "known", "by", "the", "user", ".", "This", "is", "to", "be", "expected", ",", "since", "the", "most", "striking", "patterns", "which", "those", "methods", "select", "can", "also", "easily", "be", "discovered", "using", "traditional", "methods", "or", "are", "known", "directly", "from", "experience", ".", "We", "believe", "that", "the", "proper", "way", "to", "address", "the", "problem", "is", "to", "include", "users", "background", "knowledge", "in", "the", "process", ".", "The", "patterns", "which", "diverge", "the", "most", "from", "that", "background", "knowledge", "are", "deemed", "most", "interesting", ".", "Discovered", "patterns", "can", "later", "be", "applied", "to", "improve", "the", "background", "knowledge", "itself", ".", "Many", "approaches", "to", "using", "background", "knowledge", "in", "machine", "learning", "are", "focused", "on", "using", "background", "knowledge", "to", "speed", "up", "the", "hypothesis", "discovery", "process", "and", "not", "on", "discovering", "interesting", "patterns", ".", "Those", "methods", "often", "assume", "strict", "logical", "relationships", ",", "not", "probabilistic", "ones", ".", "Examples", "are", "knowledge", "based", "neural", "networks", "-LRB-", "KBANNs", "-RRB-", "and", "uses", "of", "background", "knowledge", "in", "Inductive", "Logic", "Programming", ".", "See", "Chapter", "12", "in", "-LSB-", "20", "-RSB-", "for", "an", "overview", "of", "those", "methods", "and", "a", "list", "of", "further", "references", ".", "Tuzhilin", "et", ".", "al.", "-LSB-", "23", ",", "22", ",", "29", "-RSB-", "worked", "on", "applying", "background", "knowledge", "to", "finding", "interesting", "rules", ".", "In", "-LSB-", "29", ",", "22", "-RSB-", "interestingness", "measures", "are", "presented", ",", "which", "take", "into", "account", "prior", "beliefs", ";", "in", "another", "paper", "-LSB-", "23", "-RSB-", ",", "the", "authors", "present", "an", "algorithm", "for", "selecting", "a", "minimum", "set", "of", "interesting", "rules", "given", "background", "knowledge", ".", "The", "methods", "used", "in", "those", "papers", "are", "local", ",", "that", "is", ",", "they", "do", "n't", "use", "a", "full", "joint", "probability", "of", "the", "data", ".", "Instead", ",", "interestingness", "of", "a", "rule", "is", "evaluated", "using", "rules", "in", "the", "background", "knowledge", "with", "the", "same", "consequent", ".", "If", "no", "such", "knowledge", "is", "present", "for", "a", "given", "rule", ",", "the", "rule", "is", "considered", "uninteresting", ".", "This", "makes", "it", "impossible", "to", "take", "into", "account", "transitivity", ".", "Indeed", ",", "in", "the", "presence", "of", "the", "background", "knowledge", "represented", "by", "the", "rules", "A", "B", "and", "178", "Research", "Track", "Paper", "B", "C", ",", "the", "rule", "A", "C", "is", "uninteresting", ".", "However", ",", "this", "can", "not", "be", "discovered", "locally", ".", "See", "-LSB-", "25", "-RSB-", "for", "a", "detailed", "discussion", "of", "advantages", "of", "global", "versus", "local", "methods", ".", "Some", "more", "comparisons", "can", "be", "found", "in", "-LSB-", "18", "-RSB-", ".", "In", "this", "paper", "we", "present", "a", "method", "of", "finding", "interesting", "patterns", "using", "background", "knowledge", "represented", "by", "a", "Bayesian", "network", ".", "The", "main", "advantage", "of", "Bayesian", "networks", "is", "that", "they", "concisely", "represent", "full", "joint", "probability", "distributions", ",", "and", "allow", "for", "practically", "feasible", "probabilistic", "inference", "from", "those", "distributions", "-LSB-", "25", ",", "15", "-RSB-", ".", "Other", "advantages", "include", "the", "ability", "to", "represent", "causal", "relationships", ",", "easy", "to", "understand", "graphical", "structure", ",", "as", "well", "as", "wide", "availability", "of", "modelling", "tools", ".", "Bayesian", "networks", "are", "also", "easy", "to", "modify", "by", "adding", "or", "deleting", "edges", ".", "We", "opt", "to", "compute", "interestingness", "of", "frequent", "itemsets", "instead", "of", "association", "rules", ",", "agreeing", "with", "-LSB-", "7", "-RSB-", "that", "directions", "of", "dependence", "should", "be", "decided", "by", "the", "user", "based", "on", "her", "experience", "and", "not", "suggested", "by", "interestingness", "measures", ".", "Our", "approach", "works", "by", "estimating", "supports", "of", "itemsets", "from", "Bayesian", "networks", "and", "comparing", "thus", "estimated", "supports", "with", "the", "data", ".", "Itemsets", "with", "strongly", "diverging", "supports", "are", "considered", "interesting", ".", "Further", "definitions", "of", "interestingness", "exploiting", "Bayesian", "network", "'s", "structure", "are", "presented", ",", "as", "well", "as", "efficient", "methods", "for", "computing", "interestingness", "of", "large", "numbers", "of", "itemsets", "and", "for", "finding", "all", "attribute", "sets", "with", "given", "minimum", "interestingness", ".", "There", "are", "some", "analogies", "between", "mining", "emerging", "patterns", "-LSB-", "6", "-RSB-", "and", "our", "approach", ",", "the", "main", "differences", "being", "that", "in", "our", "case", "a", "Bayesian", "network", "is", "used", "instead", "of", "a", "second", "dataset", ",", "and", "that", "we", "use", "a", "different", "measure", "for", "comparing", "supports", ".", "Due", "to", "those", "differences", "our", "problem", "requires", "a", "different", "approach", "and", "a", "different", "set", "of", "algorithms", ".", "Database", "attributes", "will", "be", "denoted", "with", "uppercase", "letters", "A", ",", "B", ",", "C", ",", "...", ",", "domain", "of", "an", "attribute", "A", "will", "be", "denoted", "by", "Dom", "-LRB-", "A", "-RRB-", ".", "In", "this", "paper", "we", "are", "only", "concerned", "with", "categorical", "attributes", ",", "that", "is", "attributes", "with", "finite", "domains", ".", "Sets", "of", "attributes", "will", "be", "denoted", "with", "uppercase", "letters", "I", ",", "J", ",", "...", ".", "We", "often", "use", "database", "notation", "for", "representing", "sets", "of", "attributes", ",", "i.e.", "I", "=", "A", "1", "A", "2", "...", "A", "k", "instead", "of", "the", "set", "theoretical", "notation", "-LCB-", "A", "1", ",", "A", "2", ",", "...", ",", "A", "k", "-RCB-", ".", "Domain", "of", "an", "attribute", "set", "I", "=", "A", "1", "A", "2", "...", "A", "k", "is", "defined", "as", "Dom", "-LRB-", "I", "-RRB-", "=", "Dom", "-LRB-", "A", "1", "-RRB-", "Dom", "-LRB-", "A", "2", "-RRB-", "...", "Dom", "-LRB-", "A", "k", "-RRB-", ".", "Values", "from", "domains", "of", "attributes", "and", "attribute", "sets", "are", "denoted", "with", "corresponding", "lowercase", "boldface", "letters", ",", "e.g.", "i", "Dom", "-LRB-", "I", "-RRB-", ".", "Let", "P", "I", "denote", "a", "joint", "probability", "distribution", "of", "the", "attribute", "set", "I.", "Similarly", "let", "P", "I", "|", "J", "be", "a", "distribution", "of", "I", "conditioned", "on", "J", ".", "When", "used", "in", "arithmetic", "operations", "such", "distributions", "will", "be", "treated", "as", "functions", "of", "attributes", "in", "I", "and", "I", "J", "respectively", ",", "with", "values", "in", "the", "interval", "-LSB-", "0", ",", "1", "-RSB-", ".", "For", "example", "P", "I", "-LRB-", "i", "-RRB-", "denotes", "the", "probability", "that", "I", "=", "i.", "Let", "P", "I", "be", "a", "probability", "distribution", ",", "and", "let", "J", "I.", "Denote", "by", "P", "J", "I", "the", "marginalization", "of", "P", "I", "onto", "J", ",", "that", "is", "P", "J", "I", "=", "X", "I", "\\", "J", "P", "I", ",", "-LRB-", "1", "-RRB-", "where", "the", "summation", "is", "over", "the", "domains", "of", "all", "variables", "from", "I", "\\", "J.", "Probability", "distributions", "estimated", "from", "data", "will", "be", "denoted", "by", "adding", "a", "hat", "symbol", ",", "e.g.", "^", "P", "I", ".", "An", "itemset", "is", "a", "pair", "-LRB-", "I", ",", "i", "-RRB-", ",", "where", "I", "is", "an", "attribute", "set", "and", "i", "Dom", "-LRB-", "I", "-RRB-", ".", "The", "support", "of", "an", "itemset", "-LRB-", "I", ",", "i", "-RRB-", "is", "defined", "as", "supp", "-LRB-", "I", ",", "i", "-RRB-", "=", "^", "P", "I", "-LRB-", "i", "-RRB-", ",", "where", "the", "probability", "is", "estimated", "from", "some", "dataset", ".", "An", "itemset", "is", "called", "frequent", "if", "its", "support", "is", "greater", "than", "or", "equal", "to", "some", "user", "defined", "threshold", "minsupp", ".", "Finding", "all", "frequent", "itemsets", "in", "a", "given", "database", "table", "is", "a", "well", "known", "datamining", "problem", "-LSB-", "1", "-RSB-", ".", "A", "Bayesian", "network", "BN", "over", "a", "set", "of", "attributes", "H", "=", "A", "1", "...", "A", "n", "is", "a", "directed", "acyclic", "graph", "BN", "=", "-LRB-", "V", ",", "E", "-RRB-", "with", "the", "set", "of", "vertices", "V", "=", "-LCB-", "V", "A", "1", ",", "...", ",", "V", "A", "n", "-RCB-", "corresponding", "to", "attributes", "of", "H", ",", "and", "a", "set", "of", "edges", "E", "V", "V", ",", "where", "each", "vertex", "V", "A", "i", "has", "associated", "a", "conditional", "probability", "distribution", "P", "A", "i", "|", "par", "i", ",", "where", "par", "i", "=", "-LCB-", "A", "j", ":", "-LRB-", "V", "A", "j", ",", "V", "A", "i", "-RRB-", "E", "-RCB-", "is", "the", "set", "of", "attributes", "corresponding", "to", "parents", "of", "V", "A", "i", "in", "G.", "See", "-LSB-", "25", ",", "15", "-RSB-", "for", "a", "detailed", "discussion", "of", "Bayesian", "networks", ".", "A", "Bayesian", "network", "BN", "over", "H", "uniquely", "defines", "a", "joint", "probability", "distribution", "P", "BN", "H", "=", "n", "Y", "i", "=", "1", "P", "A", "i", "|", "par", "i", "of", "H.", "For", "I", "H", "the", "distribution", "over", "I", "marginalized", "from", "P", "BN", "H", "will", "be", "denoted", "by", "P", "BN", "I", "P", "BN", "I", "=", "``", "P", "BN", "H", "''", "I", ".", "Let", "us", "first", "define", "the", "support", "of", "an", "itemset", "-LRB-", "I", ",", "i", "-RRB-", "in", "a", "Bayesian", "network", "BN", "as", "supp", "BN", "-LRB-", "I", ",", "i", "-RRB-", "=", "P", "BN", "I", "-LRB-", "i", "-RRB-", ".", "Let", "BN", "be", "a", "Bayesian", "network", "over", "an", "attribute", "set", "H", ",", "and", "let", "-LRB-", "I", ",", "i", "-RRB-", "be", "an", "itemset", "such", "that", "I", "H", ".", "The", "interestingness", "of", "the", "itemset", "-LRB-", "I", ",", "i", "-RRB-", "with", "respect", "to", "BN", "is", "defined", "as", "I", "BN", "-LRB-", "I", ",", "i", "-RRB-", "=", "|", "supp", "-LRB-", "I", ",", "i", "-RRB-", "-", "supp", "BN", "-LRB-", "I", ",", "i", "-RRB-", "|", "that", "is", ",", "the", "absolute", "difference", "between", "the", "support", "of", "the", "itemset", "estimated", "from", "data", ",", "and", "the", "estimate", "of", "this", "support", "made", "from", "the", "Bayesian", "network", "BN", ".", "In", "the", "remaining", "part", "of", "the", "paper", "we", "assume", "that", "interestingness", "is", "always", "computed", "with", "respect", "to", "a", "Bayesian", "network", "BN", "and", "the", "subscript", "is", "omitted", ".", "An", "itemset", "is", "-", "interesting", "if", "its", "interestingness", "is", "greater", "than", "or", "equal", "to", "some", "user", "specified", "threshold", ".", "A", "frequent", "interesting", "itemset", "represents", "a", "frequently", "occurring", "-LRB-", "due", "to", "minimum", "support", "requirement", "-RRB-", "pattern", "in", "the", "database", "whose", "probability", "is", "significantly", "different", "from", "what", "it", "is", "believed", "to", "be", "based", "on", "the", "Bayesian", "network", "model", ".", "An", "alternative", "would", "be", "to", "use", "supp", "-LRB-", "I", ",", "i", "-RRB-", "/", "supp", "BN", "-LRB-", "I", ",", "i", "-RRB-", "as", "the", "measure", "of", "interestingness", "-LSB-", "6", "-RSB-", ".", "We", "decided", "to", "use", "absolute", "difference", "instead", "of", "a", "quotient", "since", "we", "found", "it", "to", "be", "more", "robust", ",", "especially", "when", "both", "supports", "are", "small", ".", "One", "could", "think", "of", "applying", "our", "approach", "to", "association", "rules", "with", "the", "difference", "in", "confidences", "as", "a", "measure", "of", "interestingness", "but", ",", "as", "mentioned", "in", "the", "Introduction", ",", "we", "think", "179", "Research", "Track", "Paper", "that", "patterns", "which", "do", "not", "suggest", "a", "direction", "of", "influence", "are", "more", "appropriate", ".", "Since", "in", "Bayesian", "networks", "dependencies", "are", "modelled", "using", "attributes", "not", "itemsets", ",", "it", "will", "often", "be", "easier", "to", "talk", "about", "interesting", "attribute", "sets", ",", "especially", "when", "the", "discovered", "interesting", "patterns", "are", "to", "be", "used", "to", "update", "the", "background", "knowledge", ".", "Definition", "3.1", ".", "Let", "I", "be", "an", "attribute", "set", ".", "The", "interestingness", "of", "I", "is", "defined", "as", "I", "-LRB-", "I", "-RRB-", "=", "max", "iDom", "-LRB-", "I", "-RRB-", "I", "-LRB-", "I", ",", "i", "-RRB-", ",", "-LRB-", "2", "-RRB-", "analogously", ",", "I", "is", "-", "interesting", "if", "I", "-LRB-", "I", "-RRB-", ".", "An", "alternative", "approach", "would", "be", "to", "use", "generalizations", "of", "Bayesian", "networks", "allowing", "dependencies", "to", "vary", "for", "different", "values", "of", "attributes", ",", "see", "-LSB-", "27", "-RSB-", ",", "and", "deal", "with", "itemset", "interestingness", "directly", ".", "3.1", "Extensions", "to", "the", "Definition", "of", "Interestingness", "Even", "though", "applying", "the", "above", "definition", "and", "sorting", "attribute", "sets", "on", "their", "interestingness", "works", "well", "in", "practice", ",", "there", "might", "still", "be", "a", "large", "number", "of", "patterns", "retained", ",", "especially", "if", "the", "background", "knowledge", "is", "not", "well", "developed", "and", "large", "number", "of", "attribute", "sets", "have", "high", "interestingness", "values", ".", "This", "motivates", "the", "following", "two", "definitions", ".", "Definition", "3.2", ".", "An", "attribute", "set", "I", "is", "hierarchically", "interesting", "if", "it", "is", "-", "interesting", "and", "none", "of", "its", "proper", "subsets", "is", "-", "interesting", ".", "The", "idea", "is", "to", "prevent", "large", "attribute", "sets", "from", "becoming", "interesting", "when", "the", "true", "cause", "of", "them", "being", "interesting", "lies", "in", "their", "subsets", ".", "There", "is", "also", "another", "problem", "with", "Definition", "3.1", ".", "Consider", "a", "Bayesian", "network", "A", "B", "where", "nodes", "A", "and", "B", "have", "respective", "probability", "distributions", "P", "A", "and", "P", "B", "|", "A", "attached", ".", "Suppose", "also", "that", "A", "is", "interesting", ".", "In", "this", "case", "even", "if", "P", "B", "|", "A", "is", "the", "same", "as", "^", "P", "B", "|", "A", ",", "attribute", "sets", "B", "and", "AB", "may", "be", "considered", "-", "interesting", ".", "Below", "we", "present", "a", "definition", "of", "interestingness", "aiming", "at", "preventing", "such", "situations", ".", "A", "vertex", "V", "is", "an", "ancestor", "of", "a", "vertex", "W", "in", "a", "directed", "graph", "G", "if", "there", "is", "a", "directed", "path", "from", "V", "to", "W", "in", "G", ".", "The", "set", "of", "ancestors", "of", "a", "vertex", "V", "in", "a", "graph", "G", "is", "denoted", "by", "anc", "-LRB-", "V", "-RRB-", ".", "Moreover", ",", "let", "us", "denote", "by", "anc", "-LRB-", "I", "-RRB-", "the", "set", "of", "all", "ancestor", "attributes", "in", "BN", "of", "an", "attribute", "set", "I", ".", "More", "formally", ":", "anc", "-LRB-", "I", "-RRB-", "=", "-LCB-", "A", "i", "/", "I", ":", "V", "A", "i", "anc", "-LRB-", "V", "A", "j", "-RRB-", "in", "BN", ",", "for", "some", "A", "j", "I", "-RCB-", ".", "Definition", "3.3", ".", "An", "attribute", "set", "I", "is", "topologically", "-", "interesting", "if", "it", "is", "-", "interesting", ",", "and", "there", "is", "no", "attribute", "set", "J", "such", "that", "1", ".", "J", "anc", "-LRB-", "I", "-RRB-", "I", ",", "and", "2", ".", "I", "J", ",", "and", "3", ".", "J", "is", "-", "interesting", ".", "The", "intention", "here", "is", "to", "prevent", "interesting", "attribute", "sets", "from", "causing", "all", "their", "successors", "in", "the", "Bayesian", "network", "-LRB-", "and", "the", "supersets", "of", "their", "successors", "-RRB-", "to", "become", "interesting", "in", "a", "cascading", "fashion", ".", "To", "see", "why", "condition", "2", "is", "necessary", "consider", "a", "Bayesian", "network", "A", "X", "B", "Suppose", "that", "there", "is", "a", "dependency", "between", "A", "and", "B", "in", "data", "which", "makes", "AB", "-", "interesting", ".", "Now", "however", "ABX", "may", "also", "become", "interesting", ",", "-LRB-", "even", "if", "P", "A", "|", "X", "and", "P", "B", "|", "X", "are", "correct", "in", "the", "network", "-RRB-", "and", "cause", "AB", "to", "be", "pruned", ".", "Condition", "2", "prevents", "AB", "from", "being", "pruned", "and", "ABX", "from", "becoming", "interesting", ".", "Notice", "that", "topological", "interestingness", "is", "stricter", "than", "hierarchical", "interestingness", ".", "Indeed", "if", "J", "I", "is", "-", "interesting", ",", "then", "it", "satisfies", "all", "the", "above", "conditions", ",", "and", "makes", "I", "not", "topologically", "-", "interesting", ".", "In", "this", "section", "we", "present", "algorithms", "using", "the", "definition", "of", "interestingness", "introduced", "in", "the", "previous", "section", "to", "select", "interesting", "itemsets", "or", "attribute", "sets", ".", "We", "begin", "by", "describing", "a", "procedure", "for", "computing", "marginal", "distributions", "for", "a", "large", "collection", "of", "attribute", "sets", "from", "a", "Bayesian", "network", ".", "4.1", "Computing", "a", "Large", "Number", "of", "Marginal", "Distributions", "from", "a", "Bayesian", "Network", "Computing", "the", "interestingness", "of", "a", "large", "number", "of", "frequent", "itemsets", "requires", "the", "computation", "of", "a", "large", "number", "of", "marginal", "distributions", "from", "a", "Bayesian", "network", ".", "The", "problem", "has", "been", "addressed", "in", "literature", "mainly", "in", "the", "context", "of", "finding", "marginals", "for", "every", "attribute", "-LSB-", "25", ",", "15", "-RSB-", ",", "while", "here", "we", "have", "to", "find", "marginals", "for", "multiple", ",", "overlapping", "sets", "of", "attributes", ".", "The", "approach", "taken", "in", "this", "paper", "is", "outlined", "below", ".", "The", "problem", "of", "computing", "marginal", "distributions", "from", "a", "Bayesian", "network", "is", "known", "to", "be", "NP-hard", ",", "nevertheless", "in", "most", "cases", "the", "network", "structure", "can", "be", "exploited", "to", "speed", "up", "the", "computations", ".", "Here", "we", "use", "exact", "methods", "for", "computing", "the", "marginals", ".", "Approximate", "methods", "like", "Gibbs", "sampling", "are", "an", "interesting", "topic", "for", "future", "work", ".", "Best", "known", "approaches", "to", "exact", "marginalizations", "are", "join", "trees", "-LSB-", "12", "-RSB-", "and", "bucket", "elimination", "-LSB-", "5", "-RSB-", ".", "We", "chose", "bucket", "elimination", "method", "which", "is", "easier", "to", "implement", "and", "according", "to", "-LSB-", "5", "-RSB-", "as", "efficient", "as", "join", "tree", "based", "methods", ".", "Also", ",", "join", "trees", "are", "mainly", "useful", "for", "computing", "marginals", "for", "single", "attributes", ",", "and", "not", "for", "sets", "of", "attributes", ".", "The", "bucket", "elimination", "method", ",", "which", "is", "based", "on", "the", "distributive", "law", ",", "proceeds", "by", "first", "choosing", "a", "variable", "ordering", "and", "then", "applying", "distributive", "law", "repeatedly", "to", "simplify", "the", "summation", ".", "For", "example", "suppose", "that", "a", "joint", "distribution", "of", "a", "Bayesian", "network", "over", "H", "=", "ABC", "is", "expressed", "as", "P", "BN", "ABC", "=", "P", "A", "P", "B", "|", "A", "P", "C", "|", "A", ",", "and", "we", "want", "to", "find", "P", "BN", "A", ".", "We", "need", "to", "compute", "the", "sum", "X", "B", "X", "C", "P", "A", "P", "B", "|", "A", "P", "C", "|", "A", "180", "Research", "Track", "Paper", "which", "can", "be", "rewritten", "as", "P", "A", "0", "@", "X", "b", "Dom", "-LRB-", "B", "-RRB-", "P", "B", "|", "A", "1", "A", "0", "@", "X", "c", "Dom", "-LRB-", "C", "-RRB-", "P", "C", "|", "A", "1", "A.", "Assuming", "that", "domains", "of", "all", "attributes", "have", "size", "3", ",", "computing", "the", "first", "sum", "directly", "requires", "12", "additions", "and", "18", "multiplications", ",", "while", "the", "second", "sum", "requires", "only", "4", "additions", "and", "6", "multiplications", ".", "The", "expression", "is", "interpreted", "as", "a", "tree", "of", "buckets", ",", "each", "bucket", "is", "either", "a", "single", "probability", "distribution", ",", "or", "a", "sum", "over", "a", "single", "attribute", "taken", "over", "a", "product", "of", "its", "child", "buckets", "in", "the", "tree", ".", "In", "the", "example", "above", "a", "special", "root", "bucket", "without", "summation", "could", "be", "introduced", "for", "completeness", ".", "In", "most", "cases", "the", "method", "significantly", "reduces", "the", "time", "complexity", "of", "the", "problem", ".", "An", "important", "problem", "is", "choosing", "the", "right", "variable", "ordering", ".", "Unfortunately", "that", "problem", "is", "itself", "NP-hard", ".", "We", "thus", "adopt", "a", "heuristic", "which", "orders", "variables", "according", "to", "the", "decreasing", "number", "of", "factors", "in", "the", "product", "depending", "on", "each", "variable", ".", "A", "detailed", "discussion", "of", "the", "method", "can", "be", "found", "in", "-LSB-", "5", "-RSB-", ".", "Although", "bucket", "elimination", "can", "be", "used", "to", "obtain", "supports", "of", "itemsets", "directly", "-LRB-", "i.e.", "P", "I", "-LRB-", "i", "-RRB-", "-RRB-", ",", "we", "use", "it", "to", "obtain", "complete", "marginal", "distributions", ".", "This", "way", "we", "can", "directly", "apply", "marginalization", "to", "obtain", "distributions", "for", "subsets", "of", "I", "-LRB-", "see", "below", "-RRB-", ".", "Since", "bucket", "elimination", "is", "performed", "repeatedly", "we", "use", "memoization", "to", "speed", "it", "up", ",", "as", "suggested", "in", "-LSB-", "21", "-RSB-", ".", "We", "remember", "each", "partial", "sum", "and", "reuse", "it", "if", "possible", ".", "In", "the", "example", "above", "P", "b", "Dom", "-LRB-", "B", "-RRB-", "P", "B", "|", "A", ",", "P", "c", "Dom", "-LRB-", "C", "-RRB-", "P", "C", "|", "A", ",", "and", "the", "computed", "P", "BN", "A", "would", "have", "been", "remembered", ".", "Another", "method", "of", "obtaining", "a", "marginal", "distribution", "P", "I", "is", "marginalizing", "it", "from", "P", "J", "where", "I", "J", "using", "Equation", "-LRB-", "1", "-RRB-", ",", "provided", "that", "P", "J", "is", "already", "known", ".", "If", "|", "J", "\\", "I", "|", "is", "small", ",", "this", "procedure", "is", "almost", "always", "more", "efficient", "than", "bucket", "elimination", ",", "so", "whenever", "some", "P", "I", "is", "computed", "by", "bucket", "elimination", ",", "distributions", "of", "all", "subsets", "of", "I", "are", "computed", "using", "Equation", "-LRB-", "1", "-RRB-", ".", "Definition", "4.1", ".", "Let", "C", "be", "a", "collection", "of", "attribute", "sets", ".", "The", "positive", "border", "of", "C", "-LSB-", "19", "-RSB-", ",", "denoted", "by", "Bd", "+", "-LRB-", "C", "-RRB-", ",", "is", "the", "collection", "of", "those", "sets", "from", "C", "which", "have", "no", "proper", "superset", "in", "C", ":", "Bd", "+", "-LRB-", "C", "-RRB-", "=", "-LCB-", "I", "C", ":", "there", "is", "no", "J", "C", "such", "that", "I", "J", "-RCB-", ".", "It", "is", "clear", "from", "the", "discussion", "above", "that", "we", "only", "need", "to", "use", "bucket", "elimination", "to", "compute", "distributions", "of", "itemsets", "in", "the", "positive", "border", ".", "We", "are", "going", "to", "go", "further", "than", "this", ";", "we", "will", "use", "bucket", "elimination", "to", "obtain", "supersets", "of", "sets", "in", "the", "positive", "border", ",", "and", "then", "use", "Equation", "-LRB-", "1", "-RRB-", "to", "obtain", "marginals", "even", "for", "sets", "in", "the", "positive", "border", ".", "Experiments", "show", "that", "this", "approach", "can", "give", "substantial", "savings", ",", "especially", "when", "many", "overlapping", "attribute", "sets", "from", "the", "positive", "border", "can", "be", "covered", "by", "a", "single", "set", "only", "slightly", "larger", "then", "the", "covered", "ones", ".", "The", "algorithm", "for", "selecting", "the", "marginal", "distribution", "to", "compute", "is", "motivated", "by", "the", "algorithm", "from", "-LSB-", "9", "-RSB-", "for", "computing", "views", "that", "should", "be", "materialized", "for", "OLAP", "query", "processing", ".", "Bucket", "elimination", "corresponds", "to", "creating", "a", "materialized", "view", ",", "and", "marginalizing", "thus", "obtained", "distribution", "to", "answering", "OLAP", "queries", ".", "We", "first", "need", "to", "define", "costs", "of", "marginalization", "and", "bucket", "elimination", ".", "In", "our", "case", "the", "cost", "is", "defined", "as", "the", "total", "number", "of", "additions", "and", "multiplications", "used", "to", "compute", "the", "marginal", "distribution", ".", "The", "cost", "of", "marginalizing", "P", "J", "from", "P", "I", ",", "J", "I", "using", "Equation", "-LRB-", "1", "-RRB-", "is", "cost", "-LRB-", "P", "J", "I", "-RRB-", "=", "|", "Dom", "-LRB-", "J", "-RRB-", "|", "-LRB-", "|", "Dom", "-LRB-", "I", "\\", "J", "-RRB-", "|", "-", "1", "-RRB-", ".", "It", "follows", "from", "the", "fact", "that", "each", "value", "of", "P", "J", "I", "requires", "adding", "|", "Dom", "-LRB-", "I", "\\", "J", "-RRB-", "|", "values", "from", "P", "I", ".", "The", "cost", "of", "bucket", "elimination", "can", "be", "computed", "cheaply", "without", "actually", "executing", "the", "procedure", ".", "Each", "bucket", "is", "either", "an", "explicitly", "given", "probability", "distribution", ",", "or", "computes", "a", "sum", "over", "a", "single", "variable", "of", "a", "product", "of", "functions", "-LRB-", "computed", "in", "buckets", "contained", "in", "it", "-RRB-", "explicitly", "represented", "as", "multidimensional", "tables", ",", "see", "-LSB-", "5", "-RSB-", "for", "details", ".", "If", "the", "bucket", "is", "an", "explicitly", "given", "probability", "distribution", ",", "the", "cost", "is", "of", "course", "0", ".", "Consider", "now", "a", "bucket", "b", "containing", "child", "buckets", "b", "1", ",", "...", ",", "b", "n", "yielding", "functions", "f", "1", ",", "...", ",", "f", "n", "respectively", ".", "Let", "Var", "-LRB-", "f", "i", "-RRB-", "the", "set", "of", "attributes", "on", "which", "f", "i", "depends", ".", "Let", "f", "=", "f", "1", "f", "2", "f", "n", "denote", "the", "product", "of", "all", "factors", "in", "b", ".", "We", "have", "Var", "-LRB-", "f", "-RRB-", "=", "n", "i", "=", "1", "Var", "-LRB-", "f", "i", "-RRB-", ",", "and", "since", "each", "value", "of", "f", "requires", "n", "-", "1", "multiplications", ",", "computing", "f", "requires", "|", "Dom", "-LRB-", "Var", "-LRB-", "f", "-RRB-", "-RRB-", "|", "-LRB-", "n", "-", "1", "-RRB-", "multiplications", ".", "Let", "A", "b", "be", "the", "attribute", "over", "which", "summation", "in", "b", "takes", "place", ".", "Computing", "the", "sum", "will", "require", "|", "Dom", "-LRB-", "Var", "-LRB-", "f", "-RRB-", "\\", "-LCB-", "A", "b", "-RCB-", "-RRB-", "|", "-LRB-", "|", "Dom", "-LRB-", "A", "b", "-RRB-", "|", "-", "1", "-RRB-", "additions", ".", "So", "the", "total", "cost", "of", "computing", "the", "function", "in", "bucket", "b", "-LRB-", "including", "costs", "of", "computing", "its", "children", "-RRB-", "is", "thus", "cost", "-LRB-", "b", "-RRB-", "=", "n", "X", "i", "=", "1", "cost", "-LRB-", "b", "i", "-RRB-", "+", "|", "Dom", "-LRB-", "Var", "-LRB-", "f", "-RRB-", "-RRB-", "|", "-LRB-", "n", "-", "1", "-RRB-", "+", "|", "Dom", "-LRB-", "Var", "-LRB-", "f", "-RRB-", "\\", "-LCB-", "A", "b", "-RCB-", "-RRB-", "|", "-LRB-", "|", "Dom", "-LRB-", "A", "b", "-RRB-", "|", "-", "1", "-RRB-", ".", "The", "cost", "of", "computing", "P", "BN", "I", "through", "bucket", "elimination", ",", "denoted", "cost", "BE", "-LRB-", "P", "BN", "I", "-RRB-", ",", "is", "the", "cost", "of", "the", "root", "bucket", "of", "the", "summation", "used", "to", "compute", "P", "BN", "I", ".", "Let", "C", "be", "a", "collection", "of", "attribute", "sets", ".", "The", "gain", "of", "using", "bucket", "elimination", "to", "find", "P", "BN", "I", "for", "some", "I", "while", "computing", "interestingness", "of", "attribute", "sets", "from", "C", "can", "be", "expressed", "as", ":", "gain", "-LRB-", "I", "-RRB-", "=", "-", "cost", "BE", "-LRB-", "P", "BN", "I", "-RRB-", "+", "X", "J", "Bd", "+", "-LRB-", "C", "-RRB-", ",", "J", "I", "hcost", "BE", "-LRB-", "P", "BN", "J", "-RRB-", "-", "cost", "-LRB-", "P", "BN", "I", "J", "-RRB-", "i", ".", "An", "attribute", "set", "to", "which", "bucket", "elimination", "will", "be", "applied", "is", "found", "using", "a", "greedy", "procedure", "by", "adding", "in", "each", "itera-tion", "the", "attribute", "giving", "the", "highest", "increase", "of", "gain", ".", "The", "complete", "algorithm", "is", "presented", "in", "Figure", "1", ".", "4.2", "Computing", "The", "Interestingness", "of", "a", "Collection", "of", "Itemsets", "First", "we", "present", "an", "algorithm", "for", "computing", "interestingness", "of", "all", "itemsets", "in", "a", "given", "collection", ".", "Its", "a", "simple", "application", "of", "the", "algorithm", "in", "Figure", "1", ".", "It", "is", "useful", "if", "we", "already", "181", "Research", "Track", "Paper", "Input", ":", "collection", "of", "attribute", "sets", "C", ",", "Bayesian", "network", "BN", "Output", ":", "distributions", "P", "BN", "I", "for", "all", "I", "C", "1", ".", "S", "Bd", "+", "-LRB-", "C", "-RRB-", "2", ".", "while", "S", "=", ":", "3", ".", "I", "an", "attribute", "set", "from", "S.", "4", ".", "for", "A", "in", "H", "\\", "I", ":", "5", ".", "compute", "gain", "-LRB-", "I", "-LCB-", "A", "-RCB-", "-RRB-", "6", ".", "pick", "A", "for", "which", "the", "gain", "in", "Step", "5", "was", "maximal", "7", ".", "if", "gain", "-LRB-", "I", "-LCB-", "A", "-RCB-", "-RRB-", ">", "gain", "-LRB-", "I", "-RRB-", ":", "8", ".", "I", "I", "-LCB-", "A", "-RCB-", "9", ".", "goto", "4", "10", ".", "compute", "P", "BN", "I", "from", "BN", "using", "bucket", "elimination", "11", ".", "compute", "P", "BN", "I", "J", "for", "all", "J", "S", ",", "J", "I", "using", "Equation", "-LRB-", "1", "-RRB-", "12", ".", "remove", "from", "S", "all", "attribute", "sets", "included", "in", "I", "13", ".", "compute", "P", "BN", "J", "for", "all", "J", "C", "\\", "Bd", "+", "-LRB-", "C", "-RRB-", "using", "Equation", "-LRB-", "1", "-RRB-", "Figure", "1", ":", "Algorithm", "for", "computing", "a", "large", "number", "of", "marginal", "distributions", "from", "a", "Bayesian", "network", ".", "have", "a", "collection", "of", "itemsets", "-LRB-", "e.g.", "all", "frequent", "itemsets", "found", "in", "a", "database", "table", "-RRB-", "and", "want", "to", "select", "those", "which", "are", "the", "most", "interesting", ".", "The", "algorithm", "is", "given", "below", "Input", ":", "collection", "of", "itemsets", "K", ",", "supports", "of", "all", "itemsets", "in", "K", ",", "Bayesian", "network", "BN", "Output", ":", "interestingness", "of", "all", "itemsets", "in", "K.", "1", ".", "C", "-LCB-", "I", ":", "-LRB-", "I", ",", "i", "-RRB-", "K", "for", "some", "i", "Dom", "-LRB-", "I", "-RRB-", "-RCB-", "2", ".", "compute", "P", "BN", "I", "for", "all", "I", "C", "using", "algorithm", "in", "Figure", "1", "3", ".", "compute", "interestingness", "of", "all", "itemsets", "in", "K", "using", "distributions", "computed", "in", "step", "2", "4.3", "Finding", "All", "Attribute", "Sets", "With", "Given", "Minimum", "Interestingness", "In", "this", "section", "we", "will", "present", "an", "algorithm", "for", "finding", "all", "attribute", "sets", "with", "interestingness", "greater", "than", "or", "equal", "to", "a", "specified", "threshold", "given", "a", "dataset", "and", "a", "Bayesian", "network", "BN", ".", "Let", "us", "first", "make", "an", "observation", ":", "Observation", "4.2", ".", "If", "an", "itemset", "-LRB-", "I", ",", "i", "-RRB-", "has", "interestingness", "greater", "than", "or", "equal", "to", "with", "respect", "to", "a", "Bayesian", "network", "BN", "then", "its", "support", "must", "be", "greater", "than", "or", "equal", "to", "in", "either", "the", "data", "or", "in", "BN", ".", "Moreover", "if", "an", "attribute", "set", "is", "-", "interesting", ",", "by", "definition", "3.1", ",", "at", "least", "one", "of", "its", "itemsets", "must", "be", "-", "interesting", ".", "It", "follows", "that", "if", "an", "attribute", "set", "is", "-", "interesting", ",", "then", "one", "of", "its", "itemsets", "must", "be", "frequent", ",", "with", "minimum", "support", ",", "either", "in", "the", "data", "or", "in", "the", "Bayesian", "network", ".", "Input", ":", "Bayesian", "network", "BN", ",", "minimum", "support", "minsupp", ".", "Output", ":", "itemsets", "whose", "support", "in", "BN", "is", "minsupp", "1", ".", "k", "1", "2", ".", "Cand", "-LCB-", "-LRB-", "I", ",", "i", "-RRB-", ":", "|", "I", "|", "=", "1", "-RCB-", "3", ".", "compute", "supp", "BN", "-LRB-", "I", ",", "i", "-RRB-", "for", "all", "-LRB-", "I", ",", "i", "-RRB-", "Cand", "using", "the", "algorithm", "in", "Figure", "1", "4", ".", "F", "req", "k", "-LCB-", "-LRB-", "I", ",", "i", "-RRB-", "Cand", ":", "supp", "BN", "-LRB-", "I", ",", "i", "-RRB-", "minsupp", "-RCB-", "5", ".", "Cand", "generate", "new", "candidates", "from", "F", "req", "k", "6", ".", "remove", "itemsets", "with", "infrequent", "subsets", "from", "Cand", "7", ".", "k", "k", "+", "1", ";", "goto", "3", "Figure", "2", ":", "The", "AprioriBN", "algorithm", "The", "algorithm", "works", "in", "two", "stages", ".", "First", "all", "frequent", "itemsets", "with", "minimum", "support", "are", "found", "in", "the", "dataset", "and", "their", "interestingness", "is", "computed", ".", "The", "first", "stage", "might", "have", "missed", "itemsets", "which", "are", "-", "interesting", "but", "do", "n't", "have", "sufficient", "support", "in", "the", "data", ".", "In", "the", "second", "stage", "all", "itemsets", "frequent", "in", "the", "Bayesian", "network", "are", "found", ",", "and", "their", "supports", "in", "the", "data", "are", "computed", "using", "an", "extra", "database", "scan", ".", "To", "find", "all", "itemsets", "frequent", "in", "the", "Bayesian", "network", "we", "use", "the", "Apriori", "algorithm", "-LSB-", "1", "-RSB-", "with", "a", "modified", "support", "counting", "part", ",", "which", "we", "call", "AprioriBN", ".", "The", "sketch", "of", "the", "algorithm", "is", "shown", "in", "Figure", "2", ",", "except", "for", "step", "3", "it", "is", "identical", "to", "the", "original", "algorithm", ".", "We", "now", "have", "all", "the", "elements", "needed", "to", "present", "the", "algorithm", "for", "finding", "all", "-", "interesting", "attribute", "sets", ",", "which", "is", "given", "in", "Figure", "3", ".", "Step", "4", "of", "the", "algorithm", "can", "reuse", "marginal", "distributions", "found", "in", "step", "3", "to", "speed", "up", "the", "computations", ".", "Notice", "that", "it", "is", "always", "possible", "to", "compute", "interestingness", "of", "every", "itemset", "in", "step", "6", "since", "both", "supports", "of", "each", "itemset", "will", "be", "computed", "either", "in", "steps", "1", "and", "3", ",", "or", "in", "steps", "4", "and", "5", ".", "The", "authors", "implemented", "hierarchical", "and", "topological", "interestingness", "as", "a", "postprocessing", "step", ".", "They", "could", "however", "be", "used", "to", "prune", "the", "attribute", "sets", "which", "are", "not", "interesting", "without", "evaluating", "their", "distributions", ",", "thus", "providing", "a", "potentially", "large", "speedup", "in", "the", "computations", ".", "We", "plan", "to", "investigate", "that", "in", "the", "future", ".", "In", "this", "section", "we", "present", "experimental", "evaluation", "of", "the", "method", ".", "One", "problem", "we", "were", "faced", "with", "was", "the", "lack", "of", "publicly", "available", "datasets", "with", "nontrivial", "background", "knowledge", "that", "could", "be", "represented", "as", "a", "Bayesian", "network", ".", "The", "UCI", "Machine", "Learning", "repository", "contains", "a", "few", "datasets", "with", "background", "knowledge", "-LRB-", "Japanese", "credit", ",", "molecular", "biology", "-RRB-", ",", "but", "they", "are", "aimed", "primarily", "at", "Inductive", "Logic", "Programming", ":", "the", "relationships", "are", "logical", "rather", "than", "probabilistic", ",", "only", "relationships", "involving", "the", "class", "attribute", "are", "included", ".", "These", "examples", "are", "of", "little", "value", "for", "our", "approach", ".", "We", "have", "thus", "used", "networks", "constructed", "using", "our", "own", "182", "Research", "Track", "Paper", "Input", ":", "Bayesian", "network", "BN", ",", "dataset", ",", "interestingness", "threshold", ".", "Output", ":", "all", "attribute", "sets", "with", "interestingness", "at", "least", ",", "and", "some", "of", "the", "attribute", "sets", "with", "lower", "interestingness", ".", "1", ".", "K", "-LCB-", "-LRB-", "I", ",", "i", "-RRB-", ":", "supp", "-LRB-", "I", ",", "i", "-RRB-", "-RCB-", "-LRB-", "using", "Apriori", "algorithm", "-RRB-", "2", ".", "C", "-LCB-", "I", ":", "-LRB-", "I", ",", "i", "-RRB-", "K", "for", "some", "i", "Dom", "-LRB-", "I", "-RRB-", "-RCB-", "3", ".", "compute", "P", "BN", "I", "for", "all", "I", "C", "using", "algorithm", "in", "Figure", "1", "4", ".", "K", "-LCB-", "-LRB-", "I", ",", "i", "-RRB-", ":", "supp", "BN", "-LRB-", "I", ",", "i", "-RRB-", "-RCB-", "-LRB-", "using", "AprioriBN", "algorithm", "-RRB-", "5", ".", "compute", "support", "in", "data", "for", "all", "itemsets", "in", "K", "\\", "K", "by", "scanning", "the", "dataset", "6", ".", "compute", "interestingness", "of", "all", "itemsets", "in", "K", "K", "7", ".", "C", "-LCB-", "I", ":", "-LRB-", "I", ",", "i", "-RRB-", "K", "for", "some", "i", "Dom", "-LRB-", "I", "-RRB-", "-RCB-", "8", ".", "compute", "interestingness", "of", "all", "attribute", "sets", "I", "in", "C", "C", ":", "I", "-LRB-", "I", "-RRB-", "=", "max", "-LCB-", "I", "-LRB-", "I", ",", "i", "-RRB-", ":", "-LRB-", "I", ",", "i", "-RRB-", "K", "K", ",", "i", "Dom", "-LRB-", "I", "-RRB-", "-RCB-", "Figure", "3", ":", "Algorithm", "for", "finding", "all", "-", "interesting", "attribute", "sets", ".", "common-sense", "knowledge", "as", "well", "as", "networks", "learned", "from", "data", ".", "5.1", "An", "Illustrative", "Example", "We", "first", "present", "a", "simple", "example", "demonstrating", "the", "usefulness", "of", "the", "method", ".", "We", "use", "the", "KSL", "dataset", "of", "Danish", "70", "year", "olds", ",", "distributed", "with", "the", "DEAL", "Bayesian", "network", "package", "-LSB-", "4", "-RSB-", ".", "There", "are", "nine", "attributes", ",", "described", "in", "Table", "1", ",", "related", "to", "the", "person", "'s", "general", "health", "and", "lifestyle", ".", "All", "continuous", "attributes", "have", "been", "discretized", "into", "3", "levels", "using", "the", "equal", "weight", "method", ".", "FEV", "Forced", "ejection", "volume", "of", "person", "'s", "lungs", "Kol", "Cholesterol", "Hyp", "Hypertension", "-LRB-", "no/yes", "-RRB-", "BMI", "Body", "Mass", "Index", "Smok", "Smoking", "-LRB-", "no/yes", "-RRB-", "Alc", "Alcohol", "consumption", "-LRB-", "seldom/frequently", "-RRB-", "Work", "Working", "-LRB-", "yes/no", "-RRB-", "Sex", "male/female", "Year", "Survey", "year", "-LRB-", "1967/1984", "-RRB-", "Table", "1", ":", "Attributes", "of", "the", "KSL", "dataset", ".", "We", "began", "by", "designing", "a", "network", "structure", "based", "on", "au-thors", "'", "-LRB-", "non-expert", "-RRB-", "knowledge", ".", "The", "network", "structure", "is", "given", "in", "Figure", "4a", ".", "Since", "we", "were", "not", "sure", "about", "the", "relation", "of", "cholesterol", "to", "other", "attributes", ",", "we", "left", "it", "unconnected", ".", "Conditional", "probabilities", "were", "estimated", "directly", "from", "the", "KSL", "dataset", ".", "Note", "that", "this", "is", "a", "valid", "approach", "since", "even", "when", "the", "conditional", "probabilities", "match", "the", "data", "perfectly", "interesting", "patterns", "can", "still", "be", "found", "because", "the", "network", "structure", "usually", "is", "not", "capable", "of", "representing", "the", "full", "joint", "distribution", "of", "the", "data", ".", "The", "interesting", "patterns", "can", "then", "be", "used", "to", "update", "the", "network", "'s", "structure", ".", "Of", "course", "if", "both", "the", "structure", "and", "the", "conditional", "probabilities", "are", "given", "by", "a", "-RRB-", "b", "-RRB-", "Figure", "4", ":", "Network", "structures", "for", "the", "KSL", "dataset", "constructed", "by", "the", "authors", "the", "expert", ",", "then", "the", "discovered", "patterns", "can", "be", "used", "to", "update", "both", "the", "network", "'s", "structure", "and", "conditional", "probabilities", ".", "We", "applied", "the", "algorithm", "for", "finding", "all", "interesting", "attribute", "sets", "to", "the", "KSL", "dataset", "and", "the", "network", ",", "using", "the", "threshold", "of", "0.01", ".", "The", "attribute", "sets", "returned", "were", "sorted", "by", "interestingness", ",", "and", "top", "10", "results", "were", "kept", ".", "The", "two", "most", "interesting", "attribute", "sets", "were", "-LCB-", "F", "EV", ",", "Sex", "-RCB-", "with", "interestingness", "0.0812", "and", "-LCB-", "Alc", ",", "Y", "ear", "-RCB-", "with", "interestingness", "0.0810", ".", "Indeed", ",", "it", "is", "known", "-LRB-", "see", "-LSB-", "8", "-RSB-", "-RRB-", "that", "women", "'s", "lungs", "are", "on", "average", "20", "%", "-", "25", "%", "smaller", "than", "men", "'s", "lungs", ",", "so", "sex", "influences", "the", "forced", "ejection", "volume", "-LRB-", "FEV", "-RRB-", "much", "more", "than", "smoking", "does", "-LRB-", "which", "we", "thought", "was", "the", "primary", "influence", "-RRB-", ".", "This", "fact", ",", "although", "not", "new", "in", "general", ",", "was", "overlooked", "by", "the", "authors", ",", "and", "we", "suspect", "that", ",", "due", "to", "large", "amount", "of", "literature", "on", "harmful", "effects", "of", "smoking", ",", "it", "might", "have", "been", "overlooked", "by", "many", "domain", "experts", ".", "This", "proves", "the", "high", "value", "of", "our", "approach", "for", "verification", "of", "Bayesian", "network", "models", ".", "The", "data", "itself", "implied", "a", "growth", "in", "alcohol", "consumption", "between", "1967", "and", "1984", ",", "which", "we", "considered", "to", "be", "a", "plausible", "finding", ".", "We", "then", "decided", "to", "modify", "the", "network", "structure", "based", "on", "our", "findings", "by", "adding", "edges", "Sex", "F", "EV", "and", "Y", "ear", "Alc", ".", "One", "could", "of", "course", "consider", "other", "methods", "of", "modifying", "network", "structure", ",", "like", "deleting", "edges", "or", "reversing", "their", "direction", ".", "A", "brief", "overview", "of", "more", "advanced", "methods", "of", "Bayesian", "network", "modification", "can", "be", "found", "in", "-LSB-", "15", ",", "Chap", ".", "3", ",", "Sect.", "3.5", "-RSB-", ".", "Instead", "of", "adapting", "the", "network", "structure", "one", "could", "keep", "the", "structure", "unchanged", ",", "and", "tune", "conditional", "probabilities", "in", "the", "network", "instead", ",", "see", "-LSB-", "15", ",", "Chap", ".", "3", ",", "Sect.", "4", "-RSB-", "for", "details", ".", "183", "Research", "Track", "Paper", "As", "a", "method", "of", "scoring", "network", "structures", "we", "used", "the", "natural", "logarithm", "of", "the", "probability", "of", "the", "structure", "conditioned", "on", "the", "data", ",", "see", "-LSB-", "10", ",", "26", "-RSB-", "for", "details", "on", "computing", "the", "score", ".", "The", "modified", "network", "structure", "had", "the", "score", "of", "-7162.71", "which", "is", "better", "than", "that", "of", "the", "original", "network", ":", "-7356.68", ".", "With", "the", "modified", "structure", ",", "the", "most", "interesting", "attribute", "set", "was", "-LCB-", "Kol", ",", "Sex", ",", "Y", "ear", "-RCB-", "with", "interestingness", "0.0665", ".", "We", "found", "in", "the", "data", "that", "cholesterol", "levels", "decreased", "between", "the", "two", "years", "in", "which", "the", "study", "was", "made", ",", "and", "that", "cholesterol", "level", "depends", "on", "sex", ".", "We", "found", "similar", "trends", "in", "the", "U.S.", "population", "based", "on", "data", "from", "American", "Heart", "Association", "-LSB-", "2", "-RSB-", ".", "Adding", "edges", "Y", "ear", "Kol", "and", "Sex", "Kol", "improved", "the", "network", "score", "to", "-7095.25", ".", "-LCB-", "F", "EV", ",", "Alc", ",", "Y", "ear", "-RCB-", "became", "the", "most", "interesting", "attribute", "set", "with", "the", "interestingness", "of", "0.0286", ".", "Its", "interestingness", "is", "however", "much", "lower", "than", "that", "of", "previous", "most", "interesting", "attribute", "sets", ".", "Also", ",", "we", "were", "not", "able", "to", "get", "any", "improvement", "in", "network", "score", "after", "adding", "edges", "related", "to", "that", "attribute", "set", ".", "Since", "we", "were", "unable", "to", "obtain", "a", "better", "network", "in", "this", "case", ",", "we", "used", "topological", "pruning", ",", "expecting", "that", "some", "other", "attribute", "sets", "might", "be", "the", "true", "cause", "of", "the", "observed", "discrepancies", ".", "Only", "four", "attribute", "sets", ",", "given", "below", ",", "were", "topologically", "0.01-interesting", ".", "-LCB-", "Kol", ",", "BM", "I", "-RCB-", "0.0144", "-LCB-", "Kol", ",", "Alc", "-RCB-", "0.0126", "-LCB-", "Smok", ",", "Sex", ",", "Y", "ear", "-RCB-", "0.0121", "-LCB-", "Alc", ",", "W", "ork", "-RCB-", "0.0110", "We", "found", "all", "those", "patters", "intuitively", "valid", ",", "but", "were", "unable", "to", "obtain", "an", "improvement", "in", "the", "network", "'s", "score", "by", "adding", "related", "edges", ".", "Moreover", ",", "the", "interestingness", "values", "were", "quite", "small", ".", "We", "thus", "finished", "the", "interactive", "network", "structure", "improvement", "process", "with", "the", "final", "result", "given", "in", "Figure", "4b", ".", "The", "algorithm", "was", "implemented", "in", "Python", "and", "used", "on", "a", "1.7", "GHz", "Pentium", "4", "machine", ".", "The", "computation", "of", "interestingness", "for", "this", "example", "took", "only", "a", "few", "seconds", "so", "an", "interactive", "use", "of", "the", "program", "was", "possible", ".", "Further", "performance", "evaluation", "is", "given", "below", ".", "5.2", "Performance", "Evaluation", "We", "now", "present", "the", "performance", "evaluation", "of", "the", "algorithm", "for", "finding", "all", "attribute", "sets", "with", "given", "minimum", "interestingness", ".", "We", "used", "the", "UCI", "datasets", "and", "Bayesian", "networks", "learned", "from", "data", "using", "B-Course", "-LSB-", "26", "-RSB-", ".", "The", "results", "are", "given", "in", "Table", "2", ".", "The", "max", ".", "size", "column", "gives", "the", "maximum", "size", "of", "frequent", "attribute", "sets", "considered", ".", "The", "#marginals", "column", "gives", "the", "total", "number", "of", "marginal", "distributions", "computed", "from", "the", "Bayesian", "network", ".", "The", "attribute", "sets", "whose", "marginal", "distributions", "have", "been", "cached", "between", "the", "two", "stages", "of", "the", "algorithm", "are", "not", "counted", "twice", ".", "The", "time", "does", "not", "include", "the", "initial", "run", "of", "the", "Apriori", "algorithm", "used", "to", "find", "frequent", "itemsets", "in", "the", "data", "-LRB-", "the", "time", "of", "the", "AprioriBN", "algorithm", "is", "included", "though", "-RRB-", ".", "The", "times", "for", "larger", "networks", "can", "be", "substantial", ";", "however", "the", "proposed", "method", "has", "still", "a", "huge", "advantage", "over", "manually", "evaluating", "thousands", "of", "frequent", "patterns", ",", "and", "there", "are", "several", "possibilities", "to", "speed", "up", "the", "algorithm", "not", "yet", "implemented", "by", "the", "authors", ",", "discussed", "in", "the", "following", "section", ".", "0", "5000", "10000", "15000", "0", "50", "100", "150", "200", "250", "300", "no", ".", "of", "marginals", "time", "-LSB-", "s", "-RSB-", "Figure", "5", ":", "Time", "of", "computation", "depending", "on", "the", "number", "of", "marginal", "distributions", "computed", "for", "the", "lymphography", "database", "20", "30", "40", "50", "60", "0", "2000", "4000", "6000", "8000", "no", ".", "of", "attributes", "time", "-LSB-", "s", "-RSB-", "max", ".", "size", "=", "3", "max", ".", "size", "=", "4", "Figure", "6", ":", "Time", "of", "computation", "depending", "on", "the", "number", "of", "attributes", "for", "datasets", "from", "Table", "2", "The", "maximum", "interestingness", "column", "gives", "the", "interestingness", "of", "the", "most", "interesting", "attribute", "set", "found", "for", "a", "given", "dataset", ".", "It", "can", "be", "seen", "that", "there", "are", "still", "highly", "interesting", "patterns", "to", "be", "found", "after", "using", "classical", "Bayesian", "network", "learning", "methods", ".", "This", "proves", "that", "frequent", "pattern", "and", "association", "rule", "mining", "has", "the", "capability", "to", "discover", "patterns", "which", "traditional", "methods", "might", "miss", ".", "To", "give", "a", "better", "understanding", "of", "how", "the", "algorithm", "scales", "as", "the", "problem", "size", "increases", "we", "present", "two", "additional", "figures", ".", "Figure", "5", "shows", "how", "the", "computation", "time", "increases", "with", "the", "number", "of", "marginal", "distributions", "that", "must", "be", "computed", "from", "the", "Bayesian", "network", ".", "It", "was", "obtained", "by", "varying", "the", "maximum", "size", "of", "attribute", "sets", "between", "1", "and", "5", ".", "The", "value", "of", "=", "0.067", "was", "used", "-LRB-", "equivalent", "to", "one", "row", "in", "the", "database", "-RRB-", ".", "It", "can", "be", "seen", "that", "the", "computation", "time", "grows", "slightly", "slower", "than", "the", "number", "of", "marginal", "distributions", ".", "The", "reason", "for", "that", "is", "that", "the", "more", "marginal", "distributions", "we", "need", "to", "compute", ",", "the", "more", "opportunities", "we", "have", "to", "avoid", "using", "bucket", "elimination", "by", "using", "direct", "marginalization", "from", "a", "superset", "instead", ".", "Determining", "how", "the", "computation", "time", "depends", "on", "the", "184", "Research", "Track", "Paper", "dataset", "#attrs", "max", ".", "size", "#marginals", "time", "-LSB-", "s", "-RSB-", "max", ".", "inter", ".", "KSL", "9", "0.01", "5", "382", "1.12", "0.032", "soybean", "36", "0.075", "3", "7633", "1292", "0.064", "soybean", "36", "0.075", "4", "61976", "7779", "0.072", "breast-cancer", "10", "0.01", "5", "638", "3.49", "0.082", "annealing", "40", "0.01", "3", "9920", "1006", "0.048", "annealing", "40", "0.01", "4", "92171", "6762", "0.061", "mushroom", "23", "0.01", "3", "2048", "132.78", "0.00036", "mushroom", "23", "0.01", "4", "10903", "580.65", "0.00036", "lymphography", "19", "0.067", "3", "1160", "29.12", "0.123", "lymphography", "19", "0.067", "4", "5036", "106.13", "0.126", "splice", "61", "0.01", "3", "37882", "8456", "0.036", "Table", "2", ":", "Performance", "evaluation", "of", "the", "algorithm", "for", "finding", "all", "-", "interesting", "attribute", "sets", ".", "size", "of", "the", "network", "is", "difficult", ",", "because", "the", "time", "depends", "also", "on", "the", "network", "structure", "and", "the", "number", "of", "marginal", "distributions", "computed", "-LRB-", "which", "in", "turn", "depends", "on", "the", "maximum", "size", "of", "attribute", "sets", "considered", "-RRB-", ".", "We", "nevertheless", "show", "in", "Figure", "6", "the", "numbers", "of", "attributes", "and", "computation", "times", "plotted", "against", "each", "other", "for", "some", "of", "the", "datasets", "from", "Table", "2", ".", "Data", "corresponding", "to", "maximum", "attribute", "set", "sizes", "equal", "to", "3", "and", "4", "are", "plotted", "sepa-rately", ".", "It", "can", "be", "seen", "that", "the", "algorithm", "remains", "practically", "usable", "for", "fairly", "large", "networks", "of", "up", "to", "60", "variables", ",", "even", "though", "the", "computation", "time", "grows", "exponentially", ".", "For", "larger", "networks", "approximate", "inference", "methods", "might", "be", "necessary", ",", "but", "this", "is", "beyond", "the", "scope", "of", "this", "paper", ".", "A", "method", "of", "computing", "interestingness", "of", "itemsets", "and", "attribute", "sets", "with", "respect", "to", "background", "knowledge", "encoded", "as", "a", "Bayesian", "network", "was", "presented", ".", "We", "built", "efficient", "algorithms", "for", "computing", "interestingness", "of", "frequent", "itemsets", "and", "finding", "all", "attribute", "sets", "with", "given", "minimum", "interestingness", ".", "Experimental", "evaluation", "proved", "the", "effectiveness", "and", "practical", "usefulness", "of", "the", "algorithms", "for", "finding", "interesting", ",", "unexpected", "patterns", ".", "An", "obvious", "direction", "for", "future", "research", "is", "increasing", "efficiency", "of", "the", "algorithms", ".", "Partial", "solution", "would", "be", "to", "rewrite", "the", "code", "in", "C", ",", "or", "to", "use", "some", "off-the-shelf", "highly", "op-timized", "Bayesian", "network", "library", "like", "Intel", "'s", "PNL", ".", "Another", "approach", "would", "be", "to", "use", "approximate", "inference", "methods", "like", "Gibbs", "sampling", ".", "Adding", "or", "removing", "edges", "in", "a", "Bayesian", "network", "does", "not", "always", "influence", "all", "of", "its", "marginal", "distributions", ".", "Interactiv-ity", "of", "network", "building", "could", "be", "imporved", "by", "making", "use", "of", "this", "property", ".", "Usefulness", "of", "methods", "developed", "for", "mining", "emerging", "patterns", "-LSB-", "6", "-RSB-", ",", "especially", "using", "borders", "to", "represent", "collections", "of", "itemsets", ",", "could", "also", "be", "investigated", ".", "Another", "interesting", "direction", "-LRB-", "suggested", "by", "a", "reviewer", "-RRB-", "could", "be", "to", "iteratively", "apply", "interesting", "patterns", "to", "modify", "the", "network", "structure", "until", "no", "further", "improvement", "in", "the", "network", "score", "can", "be", "achieved", ".", "A", "similar", "procedure", "has", "been", "used", "in", "-LSB-", "24", "-RSB-", "for", "background", "knowledge", "represented", "by", "rules", ".", "It", "should", "be", "noted", "however", "that", "it", "might", "be", "better", "to", "just", "inform", "the", "user", "about", "interesting", "patterns", "and", "let", "him/her", "use", "their", "experience", "to", "update", "the", "network", ".", "Manually", "up-dated", "network", "might", "better", "reflect", "causal", "relationships", "between", "attributes", ".", "Another", "research", "area", "could", "be", "evaluating", "other", "probabilistic", "models", "such", "as", "log-linear", "models", "and", "chain", "graphs", "instead", "of", "Bayesian", "networks", ".", "-LSB-", "1", "-RSB-", "R.", "Agrawal", ",", "T.", "Imielinski", ",", "and", "A.", "Swami", ".", "Mining", "association", "rules", "between", "sets", "of", "items", "in", "large", "databases", ".", "In", "Proc", ".", "ACM", "SIGMOD", "Conference", "on", "Management", "of", "Data", ",", "pages", "207", "216", ",", "Washington", ",", "D.C.", ",", "1993", ".", "-LSB-", "2", "-RSB-", "American", "Heart", "Association", ".", "Risk", "factors", ":", "High", "blood", "cholesterol", "and", "other", "lipids", ".", "http://www.americanheart.org/downloadable/", "heart/1045754065601FS13CHO3.pdf", ",", "2003", ".", "-LSB-", "3", "-RSB-", "R.", "J.", "Bayardo", "and", "R.", "Agrawal", ".", "Mining", "the", "most", "interesting", "rules", ".", "In", "Proc", ".", "of", "the", "5th", "ACM", "SIGKDD", "Int", "'", "l", "Conf", ".", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "145", "154", ",", "August", "1999", ".", "-LSB-", "4", "-RSB-", "Susanne", "G.", "B", "ttcher", "and", "Claus", "Dethlefsen", ".", "Deal", ":", "A", "package", "for", "learning", "bayesian", "networks", ".", "www.math.auc.dk/novo/Publications/", "bottcher", ":", "dethlefsen", ":", "03.ps", ",", "2003", ".", "-LSB-", "5", "-RSB-", "Rina", "Dechter", ".", "Bucket", "elimination", ":", "A", "unifying", "framework", "for", "reasoning", ".", "Artificial", "Intelligence", ",", "113", "-LRB-", "1-2", "-RRB-", ":", "41", "85", ",", "1999", ".", "-LSB-", "6", "-RSB-", "Guozhu", "Dong", "and", "Jinyan", "Li", ".", "Efficient", "mining", "of", "emerging", "patterns", ":", "Discovering", "trends", "and", "differences", ".", "In", "Proc", ".", "of", "the", "5th", "Intl.", ".", "Conf", ".", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD", "'", "99", "-RRB-", ",", "pages", "43", "52", ",", "San", "Diego", ",", "CA", ",", "1999", ".", "-LSB-", "7", "-RSB-", "William", "DuMouchel", "and", "Daryl", "Pregibon", ".", "Empirical", "bayes", "screening", "for", "multi-item", "associations", ".", "In", "Proceedings", "of", "the", "Seventh", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "67", "76", ",", "2001", ".", "-LSB-", "8", "-RSB-", "H.", "Gray", ".", "Gray", "'s", "Anatomy", ".", "Grammercy", "Books", ",", "New", "York", ",", "1977", ".", "-LSB-", "9", "-RSB-", "Venky", "Harinarayan", ",", "Anand", "Rajaraman", ",", "and", "Jeffrey", "D.", "Ullman", ".", "Implementing", "data", "cubes", "efficiently", ".", "In", "Proc", ".", "ACM", "SIGMOD", ",", "pages", "205", "216", ",", "1996", ".", "-LSB-", "10", "-RSB-", "David", "Heckerman", ".", "A", "tutorial", "on", "learning", "with", "Bayesian", "networks", ".", "Technical", "Report", "MSR-TR-95-06", ",", "Microsoft", "Research", ",", "Redmond", ",", "WA", ",", "1995", ".", "185", "Research", "Track", "Paper", "-LSB-", "11", "-RSB-", "R.", "Hilderman", "and", "H.", "Hamilton", ".", "Knowledge", "discovery", "and", "interestingness", "measures", ":", "A", "survey", ".", "Technical", "Report", "CS", "99-04", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Regina", ",", "1999", ".", "-LSB-", "12", "-RSB-", "C.", "Huang", "and", "A.", "Darwiche", ".", "Inference", "in", "belief", "networks", ":", "A", "procedural", "guide", ".", "Intl.", ".", "Journal", "of", "Approximate", "Reasoning", ",", "15", "-LRB-", "3", "-RRB-", ":", "225", "263", ",", "1996", ".", "-LSB-", "13", "-RSB-", "S.", "Jaroszewicz", "and", "D.", "A.", "Simovici", ".", "A", "general", "measure", "of", "rule", "interestingness", ".", "In", "5th", "European", "Conference", "on", "Principles", "of", "Data", "Mining", "and", "Knowledge", "Discovery", "-LRB-", "PKDD", "2001", "-RRB-", ",", "pages", "253", "265", ",", "2001", ".", "-LSB-", "14", "-RSB-", "S.", "Jaroszewicz", "and", "D.", "A.", "Simovici", ".", "Pruning", "redundant", "association", "rules", "using", "maximum", "entropy", "principle", ".", "In", "Advances", "in", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "6th", "Pacific-Asia", "Conference", ",", "PAKDD", "'", "02", ",", "pages", "135", "147", ",", "Taipei", ",", "Taiwan", ",", "May", "2002", ".", "-LSB-", "15", "-RSB-", "Finn", "V.", "Jensen", ".", "Bayesian", "Networks", "and", "Decision", "Graphs", ".", "Springer", "Verlag", ",", "New", "York", ",", "2001", ".", "-LSB-", "16", "-RSB-", "Bing", "Liu", ",", "Wynne", "Hsu", ",", "and", "Shu", "Chen", ".", "Using", "general", "impressions", "to", "analyze", "discovered", "classification", "rules", ".", "In", "Proceedings", "of", "the", "Third", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD-97", "-RRB-", ",", "page", "31", ".", "AAAI", "Press", ",", "1997", ".", "-LSB-", "17", "-RSB-", "Bing", "Liu", ",", "Wynne", "Jsu", ",", "Yiming", "Ma", ",", "and", "Shu", "Chen", ".", "Mining", "interesting", "knowledge", "using", "DM-II", ".", "In", "Proceedings", "of", "the", "Fifth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "430", "434", ",", "N.Y.", ",", "August", "15", "18", "1999", ".", "-LSB-", "18", "-RSB-", "Heikki", "Mannila", ".", "Local", "and", "global", "methods", "in", "data", "mining", ":", "Basic", "techniques", "and", "open", "problems", ".", "In", "ICALP", "2002", ",", "29th", "International", "Colloquium", "on", "Automata", ",", "Languages", ",", "and", "Programming", ",", "Malaga", ",", "Spain", ",", "July", "2002", ".", "Springer-Verlag", ".", "-LSB-", "19", "-RSB-", "Heikki", "Mannila", "and", "Hannu", "Toivonen", ".", "Levelwise", "search", "and", "borders", "of", "theories", "in", "knowledge", "discovery", ".", "Data", "Mining", "and", "Knowledge", "Discovery", ",", "1", "-LRB-", "3", "-RRB-", ":", "241", "258", ",", "1997", ".", "-LSB-", "20", "-RSB-", "T.M.", "Mitchell", ".", "Machine", "Learning", ".", "McGraw-Hill", ",", "1997", ".", "-LSB-", "21", "-RSB-", "Kevin", "Murphy", ".", "A", "brief", "introduction", "to", "graphical", "models", "and", "bayesian", "networks", ".", "http://www.ai.mit.edu/~murphyk/Bayes/", "bnintro.html", ",", "1998", ".", "-LSB-", "22", "-RSB-", "B.", "Padmanabhan", "and", "A.", "Tuzhilin", ".", "Belief-driven", "method", "for", "discovering", "unexpected", "patterns", ".", "In", "Proceedings", ".", "of", "the", "4th", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD", "'", "98", "-RRB-", ",", "pages", "94", "100", ",", "August", "1998", ".", "-LSB-", "23", "-RSB-", "B.", "Padmanabhan", "and", "A.", "Tuzhilin", ".", "Small", "is", "beautiful", ":", "discovering", "the", "minimal", "set", "of", "unexpected", "patterns", ".", "In", "Proceedinmgs", "of", "the", "6th", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD", "'", "00", "-RRB-", ",", "pages", "54", "63", ",", "N.", "Y.", ",", "August", "2000", ".", "-LSB-", "24", "-RSB-", "B.", "Padmanabhan", "and", "A.", "Tuzhilin", ".", "Methods", "for", "knowledge", "refinement", "based", "on", "unexpected", "patterns", ".", "Decision", "Support", "Systems", ",", "33", "-LRB-", "3", "-RRB-", ":", "221", "347", ",", "July", "2002", ".", "-LSB-", "25", "-RSB-", "Judea", "Pearl", ".", "Probabilistic", "Reasoning", "in", "Intelligent", "Systems", ".", "Morgan", "Kaufmann", ",", "Los", "Altos", ",", "CA", ",", "1998", ".", "-LSB-", "26", "-RSB-", "P.Myllym", "aki", ",", "T.Silander", ",", "H.Tirri", ",", "and", "P.Uronen", ".", "B-course", ":", "A", "web-based", "tool", "for", "bayesian", "and", "causal", "data", "analysis", ".", "International", "Journal", "on", "Artificial", "Intelligence", "Tools", ",", "11", "-LRB-", "3", "-RRB-", ":", "369", "387", ",", "2002", ".", "-LSB-", "27", "-RSB-", "D.", "Poole", "and", "N.", "L.", "Zhang", ".", "Exploiting", "contextual", "independence", "in", "probablisitic", "inference", ".", "Journal", "of", "Artificial", "Intelligence", "Research", ",", "18:263", "313", ",", "2003", ".", "-LSB-", "28", "-RSB-", "D.", "Shah", ",", "L.", "V.", "S.", "Lakshmanan", ",", "K.", "Ramamritham", ",", "and", "S.", "Sudarshan", ".", "Interestingness", "and", "pruning", "of", "mined", "patterns", ".", "In", "1999", "ACM", "SIGMOD", "Workshop", "on", "Research", "Issues", "in", "Data", "Mining", "and", "Knowledge", "Discovery", ",", "1999", ".", "-LSB-", "29", "-RSB-", "Abraham", "Silberschatz", "and", "Alexander", "Tuzhilin", ".", "On", "subjective", "measures", "of", "interestingness", "in", "knowledge", "discovery", ".", "In", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "275", "281", ",", "1995", ".", "-LSB-", "30", "-RSB-", "E.", "Suzuki", ".", "Autonomous", "discovery", "of", "reliable", "exception", "rules", ".", "In", "Proceedings", "of", "the", "Third", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD-97", "-RRB-", ",", "page", "259", ".", "AAAI", "Press", ",", "1997", ".", "-LSB-", "31", "-RSB-", "E.", "Suzuki", "and", "Y.", "Kodratoff", ".", "Discovery", "of", "surprising", "exception", "rules", "based", "on", "intensity", "of", "implication", ".", "In", "Proc", "of", "PKDD-98", ",", "Nantes", ",", "France", ",", "pages", "10", "18", ",", "1998", ".", "-LSB-", "32", "-RSB-", "P.-N", ".", "Tan", ",", "V.", "Kumar", ",", "and", "J.", "Srivastava", ".", "Selecting", "the", "right", "interestingness", "measure", "for", "association", "patterns", ".", "In", "Proc", "of", "the", "Eighth", "ACM", "SIGKDD", "Int", "'", "l", "Conf", ".", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD-2002", "-RRB-", ",", "pages", "32", "41", ",", "2002", ".", "-LSB-", "33", "-RSB-", "M.", "J.", "Zaki", ".", "Generating", "non-redundant", "association", "rules", ".", "In", "Proceedinmgs", "of", "the", "6th", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD-00", "-RRB-", ",", "pages", "34", "43", ",", "N.", "Y.", ",", "August", "20", "23", "2000", ".", "186", "Research", "Track", "Paper"], "doc_bio_tags": ["B", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["interestingness", "background knowledge", "association rules", "frequent itemsets", "association rule", "bayesian network"], "abstractive_keyphrases": ["emerging pattern", "frequent itemset"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "101", "document": ["Hiperlan/2", "Public", "Access", "Interworking", "with", "3G", "Cellular", "Systems", "This", "paper", "presents", "a", "technical", "overview", "of", "the", "Hiperlan/2", "3G", "interworking", "concept", ".", "It", "does", "not", "attempt", "to", "provide", "any", "business", "justification", "or", "plan", "for", "Public", "Access", "operation", ".", "After", "a", "brief", "resume", "of", "public", "access", "operation", "below", ",", "section", "2", "then", "introduces", "an", "overview", "of", "the", "technologies", "concerned", ".", "Section", "3", "describes", "the", "system", "approach", "and", "presents", "the", "current", "reference", "architecture", "used", "within", "the", "BRAN", "standardisation", "activity", ".", "Section", "4", "then", "goes", "on", "to", "cover", "in", "more", "detail", "the", "primary", "functions", "of", "the", "system", "such", "as", "authentication", ",", "mobility", ",", "quality", "of", "service", "-LRB-", "QoS", "-RRB-", "and", "subscription", ".", "It", "is", "worth", "noting", "that", "since", "the", "Japanese", "WLAN", "standard", "HiSWANa", "is", "very", "similar", "to", "Hiperlan/2", ",", "much", "of", "the", "technical", "information", "within", "this", "paper", "is", "directly", "applicable", "to", "this", "system", ",", "albeit", "with", "some", "minor", "changes", "to", "the", "authentication", "scheme", ".", "Additionally", "the", "high", "level", "3G", "and", "external", "network", "interworking", "reference", "architecture", "is", "also", "applicable", "to", "IEEE", "802.11", ".", "Finally", ",", "section", "5", "briefly", "introduces", "the", "standardisation", "relationships", "between", "ETSI", "BRAN", ",", "WIG", ",", "3GPP", ",", "IETF", ",", "IEEE", "802.11", "and", "MMAC", "HSWA", ".", "1.1", ".", "Public", "access", "operation", "Recently", ",", "mobile", "business", "professionals", "have", "been", "looking", "for", "a", "more", "efficient", "way", "to", "access", "corporate", "information", "systems", "and", "databases", "remotely", "through", "the", "Internet", "backbone", ".", "However", ",", "the", "high", "bandwidth", "demand", "of", "the", "typical", "office", "applications", ",", "such", "as", "large", "email", "attachment", "downloading", ",", "often", "calls", "for", "very", "fast", "transmission", "capacity", ".", "Indeed", "certain", "hot", "spots", ",", "like", "hotels", ",", "airports", "and", "railway", "stations", "are", "a", "natural", "Corresponding", "author", ".", "E-mail", ":", "stephen.mccann@roke.co.uk", "place", "to", "use", "such", "services", ".", "However", ",", "in", "these", "places", "the", "time", "available", "for", "information", "download", "typically", "is", "fairly", "limited", ".", "In", "light", "of", "this", ",", "there", "clearly", "is", "a", "need", "for", "a", "public", "wireless", "access", "solution", "that", "could", "cover", "the", "demand", "for", "data", "intensive", "applications", "and", "enable", "smooth", "on-line", "access", "to", "corporate", "data", "services", "in", "hot", "spots", "and", "would", "allow", "a", "user", "to", "roam", "from", "a", "private", ",", "micro", "cell", "network", "-LRB-", "e.g.", ",", "a", "Hiperlan/2", "Network", "-RRB-", "to", "a", "wide", "area", "cellular", "network", "or", "more", "specifically", "a", "3G", "network", ".", "Together", "with", "high", "data", "rate", "cellular", "access", ",", "Hiperlan/2", "has", "the", "potential", "to", "fulfil", "end", "user", "demands", "in", "hot", "spot", "environments", ".", "Hiperlan/2", "offers", "a", "possibility", "for", "cellular", "operators", "to", "offer", "additional", "capacity", "and", "higher", "bandwidths", "for", "end", "users", "without", "sacrificing", "the", "capacity", "of", "the", "cellular", "users", ",", "as", "Hiperlans", "operate", "on", "unlicensed", "or", "licensed", "exempt", "frequency", "bands", ".", "Also", ",", "Hiperlan/2", "has", "the", "QoS", "mechanisms", "that", "are", "capable", "to", "meet", "the", "mechanisms", "that", "are", "available", "in", "the", "3G", "systems", ".", "Furthermore", ",", "interworking", "solutions", "enable", "operators", "to", "utilise", "the", "existing", "cellular", "infrastructure", "investments", "and", "well", "established", "roaming", "agreements", "for", "Hiperlan/2", "network", "subscriber", "management", "and", "billing", ".", "This", "section", "briefly", "introduces", "the", "technologies", "that", "are", "addressed", "within", "this", "paper", ".", "2.1", ".", "Hiperlan/2", "summary", "Hiperlan/2", "is", "intended", "to", "provide", "local", "wireless", "access", "to", "IP", ",", "Ethernet", ",", "IEEE", "1394", ",", "ATM", "and", "3G", "infrastructure", "by", "both", "stationary", "and", "moving", "terminals", "that", "interact", "with", "access", "points", ".", "The", "intention", "is", "that", "access", "points", "are", "connected", "to", "an", "IP", ",", "Ethernet", ",", "IEEE", "1394", ",", "ATM", "or", "3G", "backbone", "network", ".", "A", "number", "of", "these", "access", "points", "are", "required", "to", "service", "all", "but", "the", "small-44", "MCCANN", "AND", "FLYGARE", "est", "networks", "of", "this", "kind", ",", "and", "therefore", "the", "wireless", "network", "as", "a", "whole", "supports", "handovers", "of", "connections", "between", "access", "points", ".", "2.2", ".", "Similar", "WLAN", "interworking", "schemes", "It", "should", "be", "noted", "that", "the", "interworking", "model", "presented", "in", "this", "paper", "is", "also", "applicable", "to", "the", "other", "WLAN", "systems", ",", "i.e.", "IEEE", "802.11", "a/b", "and", "MMAC", "HiSWANa", "-LRB-", "High", "Speed", "Wireless", "Access", "Network", "-RRB-", ",", "albeit", "with", "some", "minor", "modifications", "to", "the", "authentications", "schemes", ".", "It", "has", "been", "the", "intention", "of", "BRAN", "to", "produce", "a", "model", "which", "not", "only", "fits", "the", "requirements", "of", "Hiperlan/2", "3G", "interworking", ",", "but", "also", "to", "try", "and", "meet", "those", "of", "the", "sister", "WLAN", "systems", "operating", "in", "the", "same", "market", ".", "A", "working", "agreement", "has", "been", "underway", "between", "ETSI", "BRAN", "and", "MMAC", "HSWA", "for", "over", "1", "year", ",", "and", "with", "the", "recent", "creation", "of", "WIG", "-LRB-", "see", "section", "5", "-RRB-", ",", "IEEE", "802.11", "is", "also", "working", "on", "a", "similar", "model", ".", "2.3", ".", "3G", "summary", "Within", "the", "framework", "of", "International", "Mobile", "Telecommunications", "2000", "-LRB-", "IMT-2000", "-RRB-", ",", "defined", "by", "the", "International", "Telecommunications", "Union", "-LRB-", "ITU", "-RRB-", ",", "the", "3rd", "Generation", "Partnership", "Project", "-LRB-", "3GPP", "-RRB-", "are", "developing", "the", "Universal", "Mobile", "Telecommunications", "System", "-LRB-", "UMTS", "-RRB-", "which", "is", "one", "of", "the", "major", "third", "generation", "mobile", "systems", ".", "Additionally", "the", "3rd", "Generation", "Partnership", "Project", "2", "-LRB-", "3GPP2", "-RRB-", "is", "also", "developing", "another", "3G", "system", ",", "Code", "Division", "Multiple", "Access", "2000", "-LRB-", "CDMA-2000", "-RRB-", ".", "Most", "of", "the", "work", "within", "BRAN", "has", "concentrated", "on", "UMTS", ",", "although", "most", "of", "the", "architectural", "aspects", "are", "equally", "applicable", "to", "Hiperlan/2", "interworking", "with", "CDMA-2000", "and", "indeed", "pre-3G", "systems", "such", "as", "General", "Packet", "Radio", "Services", "-LRB-", "GPRS", "-RRB-", ".", "The", "current", "working", "UMTS", "standard", ",", "Release", "4", ",", "of", "UMTS", "was", "finalised", "in", "December", "2000", "with", "ongoing", "development", "work", "contributing", "to", "Release", "5", ",", "due", "to", "be", "completed", "by", "the", "end", "of", "2002", ".", "A", "future", "release", "6", "is", "currently", "planned", "for", "the", "autumn", "of", "2003", ",", "with", "worldwide", "deployment", "expected", "by", "2005", ".", "This", "section", "describes", "the", "current", "interworking", "models", "being", "worked", "upon", "within", "BRAN", "at", "the", "current", "time", ".", "The", "BRAN", "Network", "Reference", "Architecture", ",", "shown", "in", "figure", "1", ",", "identifies", "the", "functions", "and", "interfaces", "that", "are", "required", "within", "a", "Hiperlan/2", "network", "in", "order", "to", "support", "inter-operation", "with", "3G", "systems", ".", "The", "focus", "of", "current", "work", "is", "the", "interface", "between", "the", "Access", "Point", "-LRB-", "AP", "-RRB-", "and", "the", "Service", "provider", "network", "-LRB-", "SPN", "-RRB-", "which", "is", "encapsulated", "by", "the", "Lx", "interface", ".", "The", "aim", "of", "the", "Hiperlan/2", "3G", "interworking", "work", "item", "is", "to", "standardise", "these", "interfaces", ",", "initially", "focusing", "on", "AAA", "-LRB-", "Authentication", ",", "Authorisation", "and", "Accounting", "-RRB-", "functionality", ".", "A", "secondary", "aim", "is", "to", "create", "a", "model", "suitable", "for", "all", "the", "5", "GHz", "WLAN", "systems", "-LRB-", "e.g.", ",", "Hiperlan/2", ",", "HiSWANa", ",", "IEEE", "Figure", "1", ".", "Reference", "architecture", ".", "802.11", "a", "-RRB-", "and", "all", "3G", "systems", "-LRB-", "e.g.", ",", "CDMA-2000", ",", "UMTS", "-RRB-", ",", "thus", "creating", "a", "world", "wide", "standard", "for", "interworking", "as", "mentioned", "in", "section", "5", ".", "Other", "interfaces", "between", "the", "AP", "and", "external", "networks", "and", "interfaces", "within", "the", "AP", "are", "outside", "the", "scope", "of", "this", "current", "work", ".", "Figure", "1", "shows", "the", "reference", "architecture", "of", "the", "interworking", "model", ".", "It", "presents", "logical", "entities", "within", "which", "the", "following", "functions", "are", "supported", ":", "Authentication", ":", "supports", "both", "SIM-based", "and", "SIM-less", "authentication", ".", "The", "mobile", "terminal", "-LRB-", "MT", "-RRB-", "communicates", "via", "the", "Attendant", "with", "an", "authentication", "server", "in", "the", "visited", "network", ",", "for", "example", "a", "local", "AAA", "server", ",", "across", "the", "Ls", "interface", ".", "Authorisation", "and", "User", "Policy", ":", "the", "SPN", "retrieves", "authorisation", "and", "user", "subscription", "information", "from", "the", "home", "network", "when", "the", "user", "attaches", "to", "it", ".", "Authorisation", "information", "is", "stored", "within", "a", "policy", "decision", "function", "in", "the", "SPN", ".", "Interfaces", "used", "for", "this", "are", "Lp", "and", "Ls", ".", "Accounting", ":", "the", "resources", "used", "by", "a", "MT", "and", "the", "QoS", "provided", "to", "a", "user", "are", "both", "monitored", "by", "the", "Resource", "Monitor", ".", "Accounting", "records", "are", "sent", "to", "accounting", "functions", "in", "the", "visited", "network", "via", "the", "La", "interface", ".", "Network", "Management", ":", "the", "Management", "Agent", "provides", "basic", "network", "and", "performance", "monitoring", ",", "and", "allows", "the", "configuration", "of", "the", "AP", "via", "the", "Lm", "interface", ".", "Admission", "Control", "and", "QoS", ":", "a", "policy", "decision", "function", "in", "the", "SPN", "decides", "whether", "a", "new", "session", "with", "a", "requested", "QoS", "can", "be", "admitted", "based", "on", "network", "load", "and", "user", "subscription", "information", ".", "The", "decision", "is", "passed", "to", "the", "Policy", "Enforcement", "function", "via", "the", "Lp", "interface", ".", "Inter-AP", "Context", "Transfer", ":", "the", "Handover", "Support", "function", "allows", "the", "transfer", "of", "context", "information", "concerning", "a", "user/mobile", "node", ",", "e.g.", ",", "QoS", "state", ",", "across", "the", "Lh", "interface", "from", "the", "old", "to", "the", "new", "AP", "between", "which", "the", "mobile", "is", "handing", "over", ".", "HIPERLAN/2", "PUBLIC", "ACCESS", "INTERWORKING", "WITH", "3G", "CELLULAR", "SYSTEMS", "45", "Mobility", ":", "mobility", "is", "a", "user", "plane", "function", "that", "performs", "re-routing", "of", "data", "across", "the", "network", ".", "The", "re-routing", "may", "simply", "be", "satisfied", "by", "layer", "2", "switching", "or", "may", "require", "support", "for", "a", "mobility", "protocol", "such", "as", "Mobile", "IP", "depending", "on", "the", "technology", "used", "within", "the", "SPN", ".", "Mobility", "is", "an", "attribute", "of", "the", "Lr", "interface", ".", "Location", "Services", ":", "the", "Location", "Server", "function", "provides", "positioning", "information", "to", "support", "location", "services", ".", "Information", "is", "passed", "to", "SPN", "location", "functions", "via", "the", "Ll", "interface", ".", "This", "section", "describes", "the", "primary", "functions", "of", "this", "model", "-LRB-", "refer", "to", "figure", "1", "-RRB-", "in", "further", "detail", ",", "specifically", ":", "authentication", "and", "accounting", ",", "mobility", "and", "QoS", ".", "4.1", ".", "Authentication", "and", "authorisation", "A", "key", "element", "to", "the", "integration", "of", "disparate", "systems", "is", "the", "ability", "of", "the", "SPN", "to", "extract", "both", "authentication", "and", "subscription", "information", "from", "the", "mobile", "users", "'", "home", "networks", "when", "an", "initial", "association", "is", "requested", ".", "Many", "users", "want", "to", "make", "use", "of", "their", "existing", "data", "devices", "-LRB-", "e.g.", ",", "Laptop", ",", "Palmtop", "-RRB-", "without", "additional", "hardware/software", "requirements", ".", "Conversely", "for", "both", "users", "and", "mobile", "operators", "it", "is", "beneficial", "to", "be", "able", "to", "base", "the", "user", "authentication", "and", "accounting", "on", "existing", "cellular", "accounts", ",", "as", "well", "as", "to", "be", "able", "to", "have", "Hiperlan/2-only", "operators", "and", "users", ";", "in", "any", "case", ",", "for", "reasons", "of", "commonality", "in", "MT", "and", "network", "-LRB-", "indeed", "SPN", "-RRB-", "development", "it", "is", "important", "to", "be", "able", "to", "have", "a", "single", "set", "of", "AAA", "protocols", "which", "supports", "all", "the", "cases", ".", "4.1.1", ".", "Loose", "coupling", "The", "rest", "of", "this", "paper", "concentrates", "on", "loose", "coupling", "solutions", ".", "``", "Loose", "coupling", "''", ",", "is", "generally", "defined", "as", "the", "utilisation", "of", "Hiperlan/2", "as", "a", "packet", "based", "access", "network", "complementary", "to", "current", "3G", "networks", ",", "utilising", "the", "3G", "subscriber", "databases", "but", "without", "any", "user", "plane", "Iu", "type", "interface", ",", "as", "shown", "in", "figure", "1", ".", "Within", "the", "UMTS", "context", ",", "this", "scheme", "avoids", "any", "impact", "on", "the", "SGSN", "and", "GGSN", "nodes", ".", "Security", ",", "mobility", "and", "QoS", "issues", "are", "addressed", "using", "Internet", "Engineering", "Task", "Force", "-LRB-", "IETF", "-RRB-", "schemes", ".", "Other", "schemes", "which", "essentially", "replace", "the", "User", "Terminal", "Radio", "Access", "Network", "-LRB-", "UTRAN", "-RRB-", "of", "UMTS", "with", "a", "HIRAN", "-LRB-", "Hiperlan", "Radio", "Access", "Network", "-RRB-", "are", "referred", "to", "as", "``", "Tight", "Coupling", "''", ",", "but", "are", "not", "currently", "being", "considered", "within", "the", "work", "of", "BRAN", ".", "4.1.2", ".", "Authentication", "flavours", "This", "section", "describes", "the", "principle", "functions", "of", "the", "loose", "coupling", "interworking", "system", "and", "explains", "the", "different", "authentication", "flavours", "that", "are", "under", "investigation", ".", "The", "focus", "of", "current", "work", "is", "the", "interface", "between", "the", "AP", "and", "the", "SPN", ".", "Other", "interfaces", "between", "the", "AP", "and", "external", "networks", "and", "interfaces", "within", "the", "AP", "are", "initially", "considered", "to", "be", "implementation", "or", "profile", "specific", ".", "The", "primary", "difference", "between", "these", "flavours", "is", "in", "the", "authentication", "server", "itself", ",", "and", "these", "are", "referred", "to", "as", "the", "``", "IETF", "flavour", "''", "and", "the", "``", "UMTS-HSS", "flavour", "''", ",", "where", "the", "Home", "Subscriber", "Server", "-LRB-", "HSS", "-RRB-", "is", "a", "specific", "UMTS", "term", "for", "a", "combined", "AAA", "home", "server", "-LRB-", "AAAH", "-RRB-", "/", "Home", "Location", "Register", "-LRB-", "HLR", "-RRB-", "unit", ".", "The", "motivation", "for", "network", "operators", "to", "build", "up", "Hiperlan/2", "networks", "based", "on", "each", "flavour", "may", "be", "different", "for", "each", "operator", ".", "However", ",", "both", "flavours", "offer", "a", "maximum", "of", "flexibility", "through", "the", "use", "of", "separate", "Interworking", "Units", "-LRB-", "IWU", "-RRB-", "and", "allow", "loose", "coupling", "to", "existing", "and", "future", "cellular", "mobile", "networks", ".", "These", "alternatives", "are", "presented", "in", "figure", "2", ".", "IETF", "flavour", ".", "The", "IETF", "flavour", "outlined", "in", "figure", "2", "is", "driven", "by", "the", "requirement", "to", "add", "only", "minimal", "software", "functionality", "to", "the", "terminals", "-LRB-", "e.g.", ",", "by", "downloading", "java", "applets", "-RRB-", ",", "so", "that", "the", "use", "of", "a", "Hiperlan/2", "mobile", "access", "network", "does", "not", "require", "a", "radical", "change", "in", "the", "functionality", "-LRB-", "hardware", "or", "software", "-RRB-", "compared", "to", "that", "required", "by", "broadband", "wireless", "data", "access", "in", "the", "corporate", "or", "home", "scenarios", ".", "Within", "a", "multiprovider", "network", ",", "the", "WLAN", "operator", "-LRB-", "who", "also", "could", "be", "a", "normal", "ISP", "-RRB-", "does", "not", "necessary", "need", "to", "be", "the", "3G", "operator", "as", "well", ",", "but", "there", "could", "still", "be", "an", "interworking", "between", "the", "networks", ".", "Within", "this", "approach", "Hiperlan/2", "users", "may", "be", "either", "existing", "3G", "subscribers", "or", "just", "Hiperlan/2", "network", "subscribers", ".", "These", "users", "want", "to", "make", "use", "of", "their", "existing", "data", "devices", "-LRB-", "e.g.", ",", "Laptop", ",", "Palmtop", "-RRB-", "without", "additional", "hardware/software", "requirements", ".", "For", "both", "users", "and", "mobile", "operators", "it", "is", "beneficial", "to", "be", "able", "to", "base", "the", "user", "authentication", "and", "accounting", "on", "existing", "cellular", "accounts", ",", "as", "well", "as", "to", "be", "able", "to", "have", "Hiperlan/2-only", "operators", "and", "users", ";", "in", "any", "case", ",", "for", "reasons", "of", "commonality", "in", "MT", "and", "AP", "development", "it", "is", "important", "to", "be", "able", "to", "have", "a", "single", "set", "of", "AAA", "protocols", "which", "supports", "all", "the", "cases", ".", "UMTS-HSS", "flavour", ".", "Alternatively", "the", "UMTS", "flavour", "-LRB-", "also", "described", "within", "figure", "1", "-RRB-", "allows", "a", "mobile", "subscriber", "using", "a", "Hiperlan/2", "mobile", "access", "network", "for", "broadband", "wireless", "data", "access", "to", "appear", "as", "a", "normal", "cellular", "user", "employing", "standard", "procedures", "and", "interfaces", "for", "authentication", "purposes", ".", "It", "is", "important", "to", "notice", "that", "for", "this", "scenario", "functionality", "normally", "provided", "through", "a", "user", "services", "identity", "module", "-LRB-", "USIM", "-RRB-", "is", "required", "in", "the", "user", "equipment", ".", "The", "USIM", "provides", "new", "and", "enhanced", "security", "features", "in", "addition", "to", "those", "provided", "by", "2nd", "Generation", "-LRB-", "2G", "-RRB-", "SIM", "-LRB-", "e.g.", ",", "mutual", "authentication", "-RRB-", "as", "defined", "by", "3GPP", "-LRB-", "3G", "Partnership", "Program", "-RRB-", ".", "The", "UMTS-HSS", "definitely", "requires", "that", "a", "user", "is", "a", "native", "cellular", "subscriber", "while", "in", "addition", "and", "distinctly", "from", "the", "IETF", "flavoured", "approach", "standard", "cellular", "procedures", "and", "parameters", "for", "authentication", "are", "used", "-LRB-", "e.g.", ",", "USIM", "quintets", "-RRB-", ".", "In", "this", "way", "a", "mobile", "subscriber", "using", "a", "Hiperlan/2", "mobile", "access", "network", "for", "broadband", "wireless", "data", "access", "will", "appear", "as", "a", "normal", "cellular", "user", "employing", "standard", "procedures", "and", "interfaces", "for", "authentication", "purposes", ".", "It", "is", "important", "to", "notice", "that", "for", "this", "scenario", "USIM", "functionality", "is", "required", "in", "the", "user", "equipment", ".", "46", "MCCANN", "AND", "FLYGARE", "Figure", "2", ".", "Loose", "coupling", "authentication", "flavours", ".", "For", "the", "IETF", "flavoured", "approach", "there", "is", "no", "need", "to", "integrate", "the", "Hiperlan/2", "security", "architecture", "with", "the", "UMTS", "security", "architecture", "-LSB-", "2", "-RSB-", ".", "It", "might", "not", "even", "be", "necessary", "to", "implement", "all", "of", "the", "Hiperlan/2", "security", "features", "if", "security", "is", "applied", "at", "a", "higher", "level", ",", "such", "as", "using", "IPsec", "at", "the", "IP", "level", ".", "An", "additional", "situation", "that", "must", "be", "considered", "is", "the", "use", "of", "pre-paid", "SIM", "cards", ".", "This", "scenario", "will", "introduce", "additional", "requirements", "for", "hot", "billing", "and", "associated", "functions", ".", "4.1.3", ".", "EAPOH", "For", "either", "flavour", "authentication", "is", "carried", "out", "using", "a", "mechanism", "based", "on", "EAP", "-LRB-", "Extensible", "Authentication", "Protocol", "-RRB-", "-LSB-", "3", "-RSB-", ".", "This", "mechanism", "is", "called", "EAPOH", "-LRB-", "EAP", "over", "Hiperlan/2", "-RRB-", "and", "is", "analogous", "to", "the", "EAPOL", "-LRB-", "EAP", "over", "LANs", "-RRB-", "mechanism", "as", "defined", "in", "IEEE", "802.1", "X.", "On", "the", "network", "side", ",", "Diameter", "-LSB-", "4", "-RSB-", "is", "used", "to", "relay", "EAP", "packets", "between", "the", "AP", "and", "AAAH", ".", "Between", "the", "AP", "and", "MT", ",", "EAP", "packets", "and", "additional", "Hiperlan/2", "specific", "control", "packets", "-LRB-", "termed", "pseudo-EAP", "packets", "-RRB-", "are", "transferred", "over", "the", "radio", "interface", ".", "This", "scheme", "directly", "supports", "IETF", "flavour", "authentication", ",", "and", "by", "use", "of", "the", "pro-posed", "EAP", "AKA", "-LRB-", "Authentication", "and", "Key", "Agreement", "-RRB-", "mechanism", "would", "also", "directly", "support", "the", "UMTS", "flavour", "authentication", ".", "Once", "an", "association", "has", "been", "established", ",", "authorisation", "information", "-LRB-", "based", "on", "authentication", "and", "subscription", "-RRB-", "stored", "within", "a", "Policy", "Decision", "Function", "within", "the", "SPN", "itself", "can", "be", "transmitted", "to", "the", "AP", ".", "This", "unit", "is", "then", "able", "to", "regulate", "services", "such", "as", "time-based", "billing", "and", "allocation", "of", "network", "and", "radio", "resources", "to", "the", "required", "user", "service", ".", "Mobile", "users", "with", "different", "levels", "of", "subscription", "-LRB-", "e.g.", ",", "``", "bronze", ",", "silver", ",", "gold", "''", "-RRB-", "can", "be", "supported", "via", "this", "mechanism", ",", "with", "different", "services", "being", "configured", "via", "the", "policy", "interface", ".", "A", "change", "in", "authentication", "credentials", "can", "also", "be", "managed", "at", "this", "point", ".", "4.1.4", ".", "Key", "exchange", "Key", "agreement", "for", "confidentiality", "and", "integrity", "protection", "is", "an", "integral", "part", "of", "the", "UMTS", "authentication", "procedure", ",", "and", "hence", "the", "UTRAN", "confidentiality", "and", "integrity", "mechanisms", "should", "be", "reused", "within", "the", "Hiperlan/2", "when", "interworking", "with", "a", "3G", "SPN", "-LRB-", "i.e.", "core", "network", "-RRB-", ".", "This", "will", "also", "increase", "the", "applied", "level", "of", "security", ".", "The", "Diffie-Hellman", "encryption", "key", "agreement", "procedure", ",", "as", "used", "by", "the", "Hiperlan/2", "air", "interface", ",", "could", "be", "used", "to", "improve", "user", "identity", "confidentiality", ".", "By", "initiating", "encryption", "before", "UMTS", "AKA", "is", "performed", ",", "the", "user", "identity", "will", "not", "have", "to", "be", "transmitted", "in", "clear", "over", "the", "radio", "interface", ",", "as", "is", "the", "case", "in", "UMTS", "when", "the", "user", "enters", "a", "network", "for", "the", "first", "time", ".", "Thus", ",", "this", "constitutes", "an", "improvement", "compared", "to", "UMTS", "security", ".", "It", "is", "also", "important", "to", "have", "a", "secure", "connection", "between", "APs", "within", "the", "same", "network", "if", "session", "keys", "or", "other", "sensitive", "information", "are", "to", "be", "transferred", "between", "them", ".", "A", "secure", "connection", "can", "either", "be", "that", "they", "for", "some", "reason", "trust", "each", "other", "and", "that", "no", "one", "else", "can", "intercept", "the", "communication", "between", "them", "or", "that", "authentication", "is", "performed", "and", "integrity", "and", "confidentiality", "protection", "are", "present", ".", "4.1.5", ".", "Subscriber", "data", "There", "are", "three", "basic", "ways", "in", "which", "the", "subscriber", "management", "for", "Hiperlan/2", "and", "3G", "users", "can", "be", "co-ordinated", ":", "Have", "the", "interworking", "between", "the", "Hiperlan/2", "subscriber", "database", "and", "HLR/HSS", ".", "This", "is", "for", "the", "case", "where", "the", "in-HIPERLAN/2", "PUBLIC", "ACCESS", "INTERWORKING", "WITH", "3G", "CELLULAR", "SYSTEMS", "47", "terworking", "is", "managed", "through", "a", "partnership", "or", "roaming", "agreement", ".", "The", "administrative", "domains", "'", "AAA", "servers", "share", "security", "association", "or", "use", "an", "AAA", "broker", ".", "The", "Hiperlan/2", "authentication", "could", "be", "done", "on", "the", "basis", "of", "a", "-LRB-", "U", "-RRB-", "SIM", "token", ".", "The", "3G", "authentication", "and", "accounting", "capabilities", "could", "be", "extended", "to", "support", "access", "authentication", "based", "on", "IETF", "protocols", ".", "This", "means", "either", "integrating", "HLR", "and", "AAA", "functions", "within", "one", "unit", "-LRB-", "e.g.", ",", "a", "HSS", "unit", "-RRB-", ",", "or", "by", "merging", "native", "HLR", "functions", "of", "the", "3G", "network", "with", "AAA", "functions", "required", "to", "support", "IP", "access", ".", "Based", "on", "these", "different", "ways", "for", "subscriber", "management", ",", "the", "user", "authentication", "identifier", "can", "be", "on", "three", "different", "formats", ":", "Network", "Address", "Identifier", "-LRB-", "NAI", "-RRB-", ",", "International", "Mobile", "Subscriber", "Identity", "-LRB-", "IMSI", "-RRB-", "-LRB-", "requires", "a", "-LRB-", "U", "-RRB-", "SIM", "card", "-RRB-", ",", "and", "IMSI", "encapsulated", "within", "a", "NAI", "-LRB-", "requires", "a", "-LRB-", "U", "-RRB-", "SIM", "card", "-RRB-", ".", "4.1.6", ".", "Pre-paid", "SIM", "cards", "As", "far", "as", "the", "HLR", "within", "the", "SPN", "is", "concerned", ",", "it", "can", "not", "tell", "the", "difference", "between", "a", "customer", "who", "is", "pre-paid", "or", "not", ".", "Hence", ",", "this", "prevents", "a", "non-subscriber", "to", "this", "specific", "3G", "network", "from", "using", "the", "system", ",", "if", "the", "operator", "wishes", "to", "impose", "this", "restriction", ".", "As", "an", "example", ",", "pre-paid", "calls", "within", "a", "2G", "network", "are", "handled", "via", "an", "Intelligent", "Network", "-LRB-", "IN", "-RRB-", "probably", "co-located", "with", "the", "HLR", ".", "When", "a", "call", "is", "initiated", ",", "the", "switch", "can", "be", "pro-grammed", "with", "a", "time", "limit", ",", "or", "if", "credit", "runs", "out", "the", "IN", "can", "signal", "termination", "of", "the", "call", ".", "This", "then", "requires", "that", "the", "SPN", "knows", "the", "remaining", "time", "available", "for", "any", "given", "customer", ".", "Currently", "the", "only", "signals", "that", "originate", "from", "the", "IN", "are", "to", "terminate", "the", "call", "from", "the", "network", "side", ".", "This", "may", "be", "undesirable", "in", "a", "Hiperlan/2", "3G", "network", ",", "so", "that", "a", "more", "graceful", "solution", "is", "required", ".", "A", "suitable", "solution", "is", "to", "add", "pre-paid", "SIM", "operation", "to", "our", "system", "together", "with", "hot", "billing", "-LRB-", "i.e.", "bill", "upon", "demand", "-RRB-", "or", "triggered", "session", "termination", ".", "This", "could", "be", "achieved", "either", "by", "the", "AAAL", "polling", "the", "SPN", "utilising", "RADIUS", "-LSB-", "5", "-RSB-", "to", "determine", "whether", "the", "customer", "is", "still", "in", "credit", ",", "or", "by", "using", "a", "more", "feature", "rich", "protocol", "such", "as", "Diameter", "-LSB-", "4", "-RSB-", "which", "allows", "network", "signalling", "directly", "to", "the", "MT.", "The", "benefit", "of", "the", "AAA", "approach", "is", "to", "allow", "the", "operator", "to", "present", "the", "mobile", "user", "with", "a", "web", "page", "-LRB-", "for", "example", "-RRB-", ",", "as", "the", "pre-paid", "time", "period", "is", "about", "to", "expire", ",", "allowing", "them", "to", "purchase", "more", "airtime", ".", "All", "these", "solutions", "would", "require", "an", "increased", "integration", "effort", "with", "the", "SPN", "subscriber", "management", "system", ".", "Further", "additional", "services", "such", "as", "Customized", "Applications", "for", "Mobile", "Network", "Enhanced", "Logic", "-LRB-", "CAMEL", "-RRB-", "may", "also", "allow", "roaming", "with", "pre-paid", "SIM", "cards", ".", "4.2", ".", "Accounting", "In", "the", "reference", "architecture", "of", "figure", "2", ",", "the", "accounting", "function", "monitors", "the", "resource", "usage", "of", "a", "user", "in", "order", "to", "allow", "cost", "allocation", ",", "auditing", "and", "billing", ".", "The", "charging/accounting", "is", "carried", "out", "according", "to", "a", "series", "of", "accounting", "and", "resource", "monitoring", "metrics", ",", "which", "are", "derived", "from", "the", "policy", "function", "and", "network", "management", "information", ".", "The", "types", "of", "information", "needed", "in", "order", "to", "monitor", "each", "user", "'s", "resource", "consumption", "could", "include", "parameters", "such", "as", ",", "for", "example", ",", "volume", "of", "traffic", ",", "bandwidth", "consumption", ",", "etc.", ".", "Each", "of", "these", "metrics", "could", "have", "AP", "specific", "aspects", "concerning", "the", "resources", "consumed", "over", "the", "air", "interface", "and", "those", "consumed", "across", "the", "SPN", ",", "respectively", ".", "As", "well", "as", "providing", "data", "for", "billing", "and", "auditing", "purposes", ",", "this", "information", "is", "exchanged", "with", "the", "Policy", "Enforcement/Decision", "functions", "in", "order", "to", "provide", "better", "information", "on", "which", "to", "base", "policy", "decisions", ".", "The", "accounting", "function", "processes", "the", "usage", "related", "information", "including", "summarisation", "of", "results", "and", "the", "generation", "of", "session", "records", ".", "This", "information", "may", "then", "be", "forwarded", "to", "other", "accounting", "functions", "within", "and", "outside", "the", "network", ",", "for", "example", "a", "billing", "function", ".", "This", "information", "may", "also", "be", "passed", "to", "the", "Policy", "Decision", "function", "in", "order", "to", "improve", "the", "quality", "of", "policy", "decisions", ";", "vice", "versa", "the", "Policy", "Decision", "function", "can", "give", "information", "about", "the", "QoS", ",", "which", "may", "affect", "the", "session", "record", ".", "There", "are", "also", "a", "number", "of", "extensions", "and", "enhancements", "that", "can", "be", "made", "to", "the", "basic", "interworking", "functionality", "such", "as", "those", "for", "the", "provision", "of", "support", "for", "QoS", "and", "mobility", ".", "In", "a", "multiprovider", "network", ",", "different", "sorts", "of", "inter-relationships", "between", "the", "providers", "can", "be", "established", ".", "The", "inter-relationship", "will", "depend", "upon", "commercial", "conditions", ",", "which", "may", "change", "over", "time", ".", "Network", "Operators", "have", "exclusive", "agreements", "with", "their", "customers", ",", "including", "charging", "and", "billing", ",", "and", "also", "for", "services", "provided", "by", "other", "Network", "Op-erators/Service", "Providers", ".", "Consequently", ",", "it", "must", "be", "possible", "to", "form", "different", "charging", "and", "accounting", "models", "and", "this", "requires", "correspondent", "capabilities", "from", "the", "networks", ".", "Charging", "of", "user", "service", "access", "is", "a", "different", "issue", "from", "the", "issue", "of", "accounting", "between", "Network", "Operators", "and", "Service", "Providers", ".", "Although", "the", "issues", "are", "related", ",", "charging", "and", "accounting", "should", "be", "considered", "separately", ".", "For", "the", "accounting", "issue", "it", "is", "important", "for", "the", "individual", "Network", "Operator", "or", "Service", "Provider", "to", "monitor", "and", "register", "access", "use", "provided", "to", "his", "customers", ".", "Network", "operators", "and", "service", "providers", "that", "regularly", "provide", "services", "to", "the", "same", "customers", "could", "either", "charge", "and", "bill", "them", "individually", "or", "arrange", "a", "common", "activity", ".", "For", "joint", "provider", "charging/billing", ",", "the", "providers", "need", "revenue", "accounting", "in", "accordance", "with", "the", "service", "from", "each", "provider", ".", "For", "joint", "provider", "charging", "of", "users", ",", "it", "becomes", "necessary", "to", "transfer", "access/session", "related", "data", "from", "the", "providers", "to", "the", "charging", "entity", ".", "Mechanisms", "for", "revenue", "accounting", "are", "needed", ",", "such", "as", "technical", "configuration", "for", "revenue", "accounting", ".", "This", "leads", "to", "transfer", "of", "related", "data", "from", "the", "Network", "48", "MCCANN", "AND", "FLYGARE", "Operator", "and/or", "Service", "Providers", "to", "the", "revenue", "accounting", "entity", ".", "The", "following", "parameters", "may", "be", "used", "for", "charging", "and", "revenue", "accounting", ":", "basic", "access/session", "-LRB-", "pay", "by", "subscription", "-RRB-", ",", "toll", "free", "-LRB-", "like", "a", "0800", "call", "-RRB-", ",", "premium", "rate", "access/session", ",", "access/session", "duration", ",", "credit", "card", "access/session", ",", "pre-paid", ",", "calendar", "and", "time", "related", "charging", ",", "priority", ",", "Quality", "of", "Service", ",", "duration", "dependent", "charging", ",", "flat", "rate", ",", "volume", "of", "transferred", "packet", "traffic", ",", "rate", "of", "transferred", "packet", "traffic", "-LRB-", "Volume/sec", "-RRB-", ",", "multiple", "rate", "charge", ".", "4.3", ".", "Mobility", "Mobility", "can", "be", "handled", "by", "a", "number", "of", "different", "approaches", ".", "Indeed", "many", "mobility", "schemes", "have", "been", "developed", "in", "the", "IETF", "that", "could", "well", "be", "considered", "along", "with", "the", "work", "of", "the", "MIND", "-LRB-", "Mobile", "IP", "based", "Network", "Developments", "-RRB-", "project", "that", "has", "considered", "mobility", "in", "evolved", "IP", "networks", "with", "WLAN", "technologies", ".", "Mobility", "support", "is", "desirable", "as", "this", "functionality", "would", "be", "able", "to", "provide", "support", "for", "roaming", "with", "an", "active", "connection", "between", "the", "interworked", "networks", ",", "for", "example", ",", "to", "support", "roaming", "from", "UMTS", "to", "WLAN", "in", "a", "hotspot", "for", "the", "downloading", "of", "large", "data", ".", "In", "the", "loose", "coupling", "approach", ",", "the", "mobility", "within", "the", "Hiperlan/2", "network", "is", "provided", "by", "native", "Hiperlan/2", "-LRB-", "i.e.", "RLC", "layer", "-RRB-", "facilities", ",", "possibly", "extended", "by", "the", "Convergence", "Layer", "-LRB-", "CL", "-RRB-", "in", "use", "-LRB-", "e.g.", ",", "the", "current", "Ethernet", "CL", "-LSB-", "6", "-RSB-", ",", "or", "a", "future", "IP", "CL", "-RRB-", ".", "This", "functionality", "should", "be", "taken", "unchanged", "in", "the", "loose", "coupling", "approach", ",", "i.e.", "handover", "between", "access", "points", "of", "the", "same", "Hiperlan/2", "network", "does", "not", "need", "to", "be", "considered", "especially", "here", "as", "network", "handover", "capabilities", "of", "Hiperlan/2", "RLC", "are", "supported", "by", "both", "MTs", "and", "APs", ".", "Given", "that", "Hiperlan/2", "network", "handover", "is", "supported", ",", "further", "details", "for", "completing", "the", "mobility", "between", "access", "points", "are", "provided", "by", "CL", "dependent", "functionality", ".", "Completion", "of", "this", "functionality", "to", "cover", "interactions", "between", "the", "APs", "and", "other", "parts", "of", "the", "network", "-LRB-", "excluding", "the", "terminal", "and", "therefore", "independent", "of", "the", "air", "interface", "-RRB-", "are", "currently", "under", "development", "outside", "BRAN", ".", "In", "the", "special", "case", "where", "the", "infrastructure", "of", "a", "single", "Hiperlan/2", "network", "spans", "more", "than", "one", "IP", "sub-network", ",", "some", "of", "the", "above", "approaches", "assume", "an", "additional", "level", "of", "mobility", "support", "that", "may", "involve", "the", "terminal", ".", "4.3.1", ".", "Roaming", "between", "Hiperlan/2", "and", "3G", "For", "the", "case", "of", "mobility", "between", "Hiperlan/2", "and", "3G", "access", "networks", ",", "recall", "that", "we", "have", "the", "following", "basic", "scenario", ":", "A", "MT", "attaches", "to", "a", "Hiperlan/2", "network", ",", "authenticates", "and", "acquires", "an", "IP", "address", ".", "At", "that", "stage", ",", "it", "can", "access", "IP", "services", "using", "that", "address", "while", "it", "remains", "within", "that", "Hiperlan/2", "network", ".", "If", "the", "MT", "moves", "to", "a", "network", "of", "a", "different", "technology", "-LRB-", "i.e.", "UMTS", "-RRB-", ",", "it", "can", "re-authenticate", "and", "acquire", "an", "IP", "address", "in", "the", "packet", "domain", "of", "that", "network", ",", "and", "continue", "to", "use", "IP", "services", "there", ".", "We", "have", "referred", "to", "this", "basic", "case", "as", "AAA", "roaming", ".", "Note", "that", "while", "it", "provides", "mobility", "for", "the", "user", "between", "networks", ",", "any", "active", "sessions", "-LRB-", "e.g.", ",", "multimedia", "calls", "or", "TCP", "connections", "-RRB-", "will", "be", "dropped", "on", "the", "handover", "between", "the", "networks", "because", "of", "the", "IP", "address", "change", "-LRB-", "e.g.", ",", "use", "Dynamic", "Host", "Configuration", "Protocol", "DHCP", "-RRB-", ".", "It", "is", "possible", "to", "provide", "enhanced", "mobility", "support", ",", "including", "handover", "between", "Hiperlan/2", "access", "networks", "and", "3G", "access", "networks", "in", "this", "scenario", "by", "using", "servers", "located", "outside", "the", "access", "network", ".", "Two", "such", "examples", "are", ":", "The", "MT", "can", "register", "the", "locally", "acquired", "IP", "address", "with", "a", "Mobile", "IP", "-LRB-", "MIP", "-RRB-", "home", "agent", "as", "a", "co-located", "care-of", "address", ",", "in", "which", "case", "handover", "between", "networks", "is", "handled", "by", "mobile", "IP", ".", "This", "applies", "to", "MIPv4", "and", "MIPv6", "-LRB-", "and", "is", "the", "only", "mode", "of", "operation", "allowed", "for", "MIPv6", "-RRB-", ".", "The", "MT", "can", "register", "the", "locally", "acquired", "IP", "address", "with", "an", "application", "layer", "server", "such", "as", "a", "Session", "Initiation", "Protocol", "-LRB-", "SIP", "-RRB-", "proxy", ".", "Handover", "between", "two", "networks", "can", "then", "be", "handled", "using", "SIP", "-LRB-", "re-invite", "message", "-RRB-", ".", "Note", "that", "in", "both", "these", "cases", ",", "the", "fact", "that", "upper", "layer", "mobility", "is", "in", "use", "is", "visible", "only", "to", "the", "terminal", "and", "SPN", "server", ",", "and", "in", "particular", "is", "invisible", "to", "the", "access", "network", ".", "Therefore", ",", "it", "is", "automatically", "possible", ",", "and", "can", "be", "implemented", "according", "to", "existing", "standards", ",", "without", "impact", "on", "the", "Hiperlan/2", "network", "itself", ".", "We", "therefore", "consider", "this", "as", "the", "basic", "case", "for", "the", "loose", "coupling", "approach", ".", "Another", "alternative", "is", "the", "use", "of", "a", "Foreign", "Agent", "care-of", "address", "-LRB-", "MIPv4", "only", "-RRB-", ".", "This", "requires", "the", "integration", "of", "Foreign", "Agent", "functionality", "with", "the", "Hiperlan/2", "network", ",", "but", "has", "the", "advantage", "of", "decreasing", "the", "number", "of", "IPv4", "addresses", "that", "have", "to", "be", "allocated", ".", "On", "the", "other", "hand", ",", "for", "MTs", "that", "do", "not", "wish", "to", "invoke", "global", "mobility", "support", "in", "this", "case", ",", "a", "locally", "assigned", "IP", "address", "is", "still", "required", ",", "and", "the", "access", "network", "therefore", "has", "to", "be", "able", "to", "operate", "in", "two", "modes", ".", "Two", "options", "for", "further", "study", "are", ":", "The", "option", "to", "integrate", "access", "authentication", "-LRB-", "the", "purpose", "of", "this", "loose", "coupling", "standard", "-RRB-", "with", "Mobile", "IP", "home", "agent", "registration", "-LRB-", "If", "Diameter", "is", "used", ",", "it", "is", "already", "present", "-RRB-", ".", "This", "would", "allow", "faster", "attach", "to", "the", "network", "in", "the", "case", "of", "a", "MT", "using", "MIP", ",", "since", "it", "only", "requires", "one", "set", "of", "authentication", "exchanges", ";", "however", ",", "it", "also", "requires", "integration", "on", "the", "control", "plane", "between", "the", "AAAH", "and", "the", "Mobile", "IP", "home", "agent", "itself", ".", "It", "is", "our", "current", "assumption", "that", "this", "integration", "should", "be", "carried", "out", "in", "a", "way", "that", "is", "independent", "of", "the", "particular", "access", "network", "being", "used", ",", "and", "is", "therefore", "out", "of", "scope", "of", "this", "activity", ".", "HIPERLAN/2", "PUBLIC", "ACCESS", "INTERWORKING", "WITH", "3G", "CELLULAR", "SYSTEMS", "49", "The", "implications", "of", "using", "services", "-LRB-", "e.g.", ",", "SIP", "call", "control", "-RRB-", "from", "the", "UMTS", "IMS", "-LRB-", "Internet", "Multimedia", "Subsys-tem", "-RRB-", ",", "which", "would", "provide", "some", "global", "mobility", "capability", ".", "This", "requires", "analysis", "of", "how", "the", "IMS", "would", "interface", "to", "the", "Hiperlan/2", "access", "network", "-LRB-", "if", "at", "all", "-RRB-", ".", "4.3.2", ".", "Handover", "For", "handovers", "within", "the", "Hiperlan/2", "network", ",", "the", "terminal", "must", "have", "enough", "information", "to", "be", "able", "to", "make", "a", "handover", "decision", "for", "itself", ",", "or", "be", "able", "to", "react", "to", "a", "network", "decision", "to", "handover", ".", "Indeed", "these", "decision", "driven", "events", "are", "referred", "to", "as", "triggers", ",", "resulting", "in", "Network", "centric", "triggers", "or", "Terminal", "centric", "triggers", ".", "Simple", "triggers", "include", "the", "following", ":", "Network", "Centric", ":", "Poor", "network", "resources", "or", "low", "bandwidth", ",", "resulting", "in", "poor", "or", "changing", "QoS", ".", "Change", "of", "policy", "based", "on", "charging", "-LRB-", "i.e.", "end", "of", "pre-paid", "time", "-RRB-", ".", "Terminal", "Centric", ":", "Poor", "signal", "strength", ".", "Change", "of", "QoS", ".", "4.4", ".", "QoS", "QoS", "support", "is", "available", "within", "the", "Hiperlan/2", "specification", "but", "requires", "additional", "functionality", "in", "the", "interworking", "specifications", "for", "the", "provision", "of", "QoS", "through", "the", "CN", "rather", "than", "simply", "over", "the", "air", ".", "QoS", "is", "a", "key", "concept", ",", "within", "UMTS", ",", "and", "together", "with", "the", "additional", "QoS", "functionality", "in", "Hiperlan/2", ",", "a", "consistent", "QoS", "approach", "can", "therefore", "be", "provided", ".", "A", "number", "of", "approaches", "to", "QoS", "currently", "exist", "which", "still", "need", "to", "be", "considered", "at", "this", "stage", ".", "QoS", "within", "the", "Hiperlan/2", "network", "must", "be", "supported", "between", "the", "MT", "and", "external", "networks", ",", "such", "as", "the", "Internet", ".", "In", "the", "loose", "coupling", "scenario", ",", "the", "data", "path", "is", "not", "constrained", "to", "travelling", "across", "the", "3G", "SPN", ",", "e.g.", ",", "via", "the", "SGSN/GGSNs", ".", "Therefore", "no", "interworking", "is", "required", "between", "QoS", "mechanisms", "used", "within", "the", "3G", "and", "Hiperlan/2", "network", ".", "There", "is", "a", "possible", "interaction", "regarding", "the", "interpretation", "and", "mapping", "of", "UMTS", "QoS", "parameters", "onto", "the", "QoS", "mechanisms", "used", "in", "the", "Hiperlan/2", "network", ".", "The", "actual", "provisioning", "of", "QoS", "across", "the", "Hiperlan/2", "network", "is", "dependent", "on", "the", "type", "of", "the", "infrastructure", "technology", "used", ",", "and", "therefore", "the", "capabilities", "of", "the", "CL", ".", "4.4.1", ".", "HiperLAN2/Ethernet", "QoS", "mapping", "Within", "the", "Hiperlan/2", "specification", ",", "radio", "bearers", "are", "referred", "to", "as", "DLC", "connections", ".", "A", "DLC", "connection", "is", "characterised", "by", "offering", "a", "specific", "support", "for", "QoS", ",", "for", "instance", "in", "terms", "of", "bandwidth", ",", "delay", ",", "jitter", "and", "bit", "error", "rate", ".", "The", "characteristics", "of", "supported", "QoS", "classes", "are", "implementation", "specific", ".", "A", "user", "might", "request", "for", "multiple", "DLC", "connections", ",", "each", "transferring", "a", "specific", "traffic", "type", ",", "which", "indicates", "that", "the", "traffic", "division", "is", "traffic", "type", "based", "and", "not", "application", "based", ".", "The", "DLC", "connection", "set-up", "does", "not", "necessarily", "result", "in", "immediate", "assignment", "of", "resources", "though", ".", "If", "the", "MT", "has", "not", "negotiated", "a", "fixed", "capacity", "agreement", "with", "the", "AP", ",", "it", "must", "request", "capacity", "by", "sending", "a", "resource", "request", "-LRB-", "RR", "-RRB-", "to", "the", "AP", "whenever", "it", "has", "data", "to", "transmit", ".", "The", "allocation", "of", "resources", "may", "thereby", "be", "very", "dynamic", ".", "The", "scheduling", "of", "the", "resources", "is", "vendor", "specific", "and", "is", "therefore", "not", "included", "in", "the", "Hiperlan/2", "standard", ",", "which", "also", "means", "that", "QoS", "parameters", "from", "higher", "layers", "are", "not", "either", ".", "Hiperlan/2", "specific", "QoS", "support", "for", "the", "DLC", "connection", "comprises", "centralised", "resource", "scheduling", "through", "the", "TDMA-based", "MAC", "structure", ",", "appropriate", "error", "control", "-LRB-", "acknowledged", ",", "unacknowledged", "or", "repetition", "-RRB-", "with", "associated", "protocol", "settings", "-LRB-", "ARQ", "window", "size", ",", "number", "of", "retransmis-sions", "and", "discarding", "-RRB-", ",", "and", "the", "physical", "layer", "QoS", "support", ".", "Another", "QoS", "feature", "included", "in", "the", "Hiperlan/2", "specification", "is", "a", "polling", "mechanism", "that", "enables", "the", "AP", "to", "regularly", "poll", "the", "MT", "for", "its", "traffic", "status", ",", "thus", "providing", "rapid", "access", "for", "real-time", "services", ".", "The", "CL", "acts", "as", "an", "integrator", "of", "Hiperlan/2", "into", "different", "existing", "service", "provider", "networks", ",", "i.e.", "it", "connects", "the", "SPNs", "to", "the", "Hiperlan/2", "data", "link", "control", "-LRB-", "DLC", "-RRB-", "layer", ".", "IEEE", "802.1", "D", "specifies", "an", "architecture", "and", "protocol", "for", "MAC", "bridges", "interconnecting", "IEEE", "802", "LANs", "by", "relaying", "and", "filtering", "frames", "between", "the", "separate", "MACs", "of", "the", "Bridged", "LAN", ".", "The", "priority", "mechanism", "within", "IEEE", "802.1", "D", "is", "handled", "by", "IEEE", "802.1", "p", ",", "which", "is", "incorporated", "into", "IEEE", "802.1", "D.", "All", "traffic", "types", "and", "their", "mappings", "presented", "in", "the", "tables", "of", "this", "section", "only", "corresponds", "to", "default", "values", "specified", "in", "the", "IEEE", "802.1", "p", "standard", ",", "since", "these", "parameters", "are", "vendor", "specific", ".", "IEEE", "802.1", "p", "defines", "eight", "different", "priority", "levels", "and", "describes", "the", "traffic", "expected", "to", "be", "carried", "within", "each", "priority", "level", ".", "Each", "IEEE", "802", "LAN", "frame", "is", "marked", "with", "a", "user", "priority", "-LRB-", "0", "7", "-RRB-", "corresponding", "to", "the", "traffic", "type", "-LSB-", "8", "-RSB-", ".", "In", "order", "to", "support", "appropriate", "QoS", "in", "Hiperlan/2", "the", "queues", "are", "mapped", "to", "the", "different", "QoS", "specific", "DLC", "connections", "-LRB-", "maximum", "of", "eight", "-RRB-", ".", "The", "use", "of", "only", "one", "DLC", "connection", "between", "the", "AP", "and", "the", "MT", "results", "in", "best", "effort", "traffic", "only", ",", "while", "two", "to", "eight", "DLC", "connections", "indicates", "that", "the", "MT", "wants", "to", "apply", "IEEE", "802.1", "p", ".", "A", "DLC", "connection", "ID", "is", "only", "MT", "unique", ",", "not", "cell", "unique", ".", "The", "AP", "may", "take", "the", "QoS", "parameters", "into", "account", "in", "the", "allocation", "of", "radio", "resources", "-LRB-", "which", "is", "out", "of", "the", "Hiperlan/2", "scope", "-RRB-", ".", "This", "means", "that", "each", "DLC", "connection", ",", "possibly", "operating", "in", "both", "directions", ",", "can", "be", "assigned", "a", "specific", "QoS", ",", "for", "instance", "in", "terms", "of", "bandwidth", ",", "delay", ",", "jitter", "and", "bit", "error", "rate", ",", "as", "well", "as", "being", "assigned", "a", "priority", "level", "relative", "to", "other", "DLC", "connections", ".", "In", "other", "words", ",", "parameters", "provided", "by", "the", "application", ",", "including", "UMTS", "QoS", "parameters", "if", "desired", ",", "are", "used", "to", "determine", "the", "most", "appropriate", "QoS", "level", "to", "be", "provided", "by", "the", "network", ",", "and", "the", "traffic", "flow", "is", "treated", "accordingly", ".", "The", "support", "for", "IEEE", "802.1", "p", "is", "optional", "for", "both", "the", "MT", "and", "AP", ".", "4.4.2", ".", "End-to-end", "based", "QoS", "Adding", "QoS", ",", "especially", "end-to-end", "QoS", ",", "to", "IP", "based", "connections", "raises", "significant", "alterations", "and", "concerns", "since", "it", "represents", "a", "digression", "from", "the", "``", "best-effort", "''", "model", ",", "which", "constitutes", "the", "foundation", "of", "the", "great", "success", "of", "Internet", ".", "However", ",", "the", "need", "for", "IP", "QoS", "is", "increasing", "and", "essential", "work", "is", "cur-50", "MCCANN", "AND", "FLYGARE", "rently", "in", "progress", ".", "End-to-end", "IP", "QoS", "requires", "substantial", "consideration", "and", "further", "development", ".", "Since", "the", "Hiperlan/2", "network", "supports", "the", "IEEE", "802.1", "p", "priority", "mechanism", "and", "since", "Differentiated", "Services", "-LRB-", "DiffServ", "-RRB-", "is", "priority", "based", ",", "the", "natural", "solution", "to", "the", "end-to-end", "QoS", "problem", "would", "be", "the", "end-to-end", "implementation", "of", "DiffServ", ".", "The", "QoS", "model", "would", "then", "appear", "as", "follows", ".", "QoS", "from", "the", "MT", "to", "the", "AP", "is", "supported", "by", "the", "Hiperlan/2", "specific", "QoS", "mechanisms", ",", "where", "the", "required", "QoS", "for", "each", "connection", "is", "identified", "by", "a", "unique", "Data", "Link", "Control", "-LRB-", "DLC", "-RRB-", "connection", "ID", ".", "In", "the", "AP", "the", "DLC", "connection", "IDs", "may", "be", "mapped", "onto", "the", "IEEE", "802.1", "p", "priority", "queues", ".", "Using", "the", "IEEE", "802.1", "p", "priority", "mechanisms", "in", "the", "Ethernet", ",", "the", "transition", "to", "a", "DiffServ", "network", "is", "easily", "realised", "by", "mapping", "the", "IEEE", "802.1", "p", "user", "priorities", "into", "DiffServ", "based", "priorities", ".", "Neither", "the", "DiffServ", "nor", "the", "IEEE", "802.1", "p", "specification", "elaborates", "how", "a", "particular", "packet", "stream", "will", "be", "treated", "based", "on", "the", "Differentiated", "Services", "-LRB-", "DS", "-RRB-", "field", "and", "the", "layer", "2", "priority", "level", ".", "The", "mappings", "between", "the", "IEEE", "802.1", "p", "priority", "classes", "and", "the", "DiffServ", "service", "classes", "are", "also", "unspec-ified", ".", "There", "is", "however", "an", "Integrated", "Services", "over", "Specific", "Link", "Layers", "-LRB-", "ISSLL", "-RRB-", "draft", "mapping", "for", "Guaranteed", "and", "Controlled", "Load", "services", "to", "IEEE", "802.1", "p", "user", "priority", ",", "and", "a", "mapping", "for", "Guaranteed", "and", "Controlled", "Load", "services", ",", "to", "DiffServ", "which", "together", "would", "imply", "a", "DiffServ", "to", "IEEE", "802.1", "p", "user", "priority", "mapping", ".", "DiffServ", "provides", "inferior", "support", "of", "QoS", "than", "IntServ", ",", "but", "the", "mobility", "of", "a", "Hiperlan/2", "MT", "indicates", "a", "need", "to", "keep", "the", "QoS", "signalling", "low", ".", "IntServ", "as", "opposed", "to", "DiffServ", "involves", "significant", "QoS", "signalling", ".", "The", "DiffServ", "model", "provides", "less", "stringent", "support", "of", "QoS", "than", "the", "IntServ/RSVP", "model", "but", "it", "has", "the", "advantage", "over", "IntServ/RSVP", "of", "requiring", "less", "protocol", "signalling", ",", "which", "might", "be", "a", "crucial", "factor", "since", "the", "mobility", "of", "a", "Hiperlan/2", "MT", "indicates", "a", "need", "to", "keep", "the", "QoS", "signalling", "low", ".", "Furthermore", ",", "the", "implementation", "of", "an", "end-to-end", "IntServ/RSVP", "based", "QoS", "architecture", "is", "much", "more", "complex", "than", "the", "implementation", "of", "a", "DiffServ", "based", "one", ".", "Discussions", "around", "end-to-end", "QoS", "support", "raise", "some", "critical", "questions", "that", "need", "to", "be", "considered", "and", "answered", "before", "a", "proper", "solution", "can", "be", "developed", ";", "which", "performance", "can", "we", "expect", "from", "the", "different", "end-to-end", "QoS", "models", ",", "what", "level", "of", "QoS", "support", "do", "we", "actually", "need", ",", "how", "much", "bandwidth", "and", "other", "resources", "are", "we", "willing", "to", "sacrifice", "on", "QoS", ",", "and", "how", "much", "effort", "do", "we", "want", "to", "spend", "on", "the", "process", "of", "developing", "well-supported", "QoS", "?", "BRAN", "is", "continuing", "to", "have", "a", "close", "working", "relationship", "with", "the", "following", "bodies", ":", "WLAN", "Interworking", "Group", "-LRB-", "WIG", "-RRB-", "This", "group", "met", "for", "the", "first", "time", "in", "September", "2002", ".", "Its", "broad", "aim", "is", "to", "provide", "a", "single", "point", "of", "contact", "for", "the", "three", "main", "WLAN", "standardisation", "bodies", "-LRB-", "ETSI", "BRAN", ",", "IEEE", "802.11", "and", "MMAC", "HSWA", "-RRB-", "and", "to", "produce", "a", "generic", "approach", "to", "both", "Cellular", "and", "external", "network", "interworking", "of", "WLAN", "technology", ".", "It", "has", "been", "also", "decided", "to", "work", "upon", ",", "complete", "and", "then", "share", "a", "common", "standard", "for", "WLAN", "Public", "Access", "and", "Cellular", "networks", ".", "3rd", "Generation", "Partnership", "Project", "-LRB-", "3GPP", "-RRB-", "The", "System", "Architecture", "working", "group", "1", "-LRB-", "SA1", "-RRB-", "is", "currently", "developing", "a", "technical", "report", "detailed", "the", "requirements", "for", "a", "UMTS", "WLAN", "interworking", "system", ".", "They", "have", "defined", "6", "scenarios", "detailing", "aspects", "of", "differently", "coupled", "models", ",", "ranging", "from", "no", "coupling", ",", "through", "loose", "coupling", "to", "tight", "coupling", ".", "Group", "2", "-LRB-", "SA2", "-RRB-", "is", "currently", "investigating", "reference", "architecture", "models", ",", "concentrating", "on", "the", "network", "interfaces", "towards", "the", "WLAN", ".", "Group", "3", "-LRB-", "SA3", "-RRB-", "has", "now", "started", "work", "on", "security", "and", "authentication", "issues", "with", "regard", "to", "WLAN", "interworking", ".", "ETSI", "BRAN", "is", "currently", "liasing", "with", "the", "SA2", "and", "SA3", "groups", ".", "Internet", "Engineering", "Task", "Force", "-LRB-", "IETF", "-RRB-", "Within", "the", "recently", "created", "`", "eap", "'", "working", "group", ",", "extensions", "are", "being", "considered", "to", "EAP", "-LRB-", "mentioned", "in", "section", "4", "-RRB-", ",", "which", "will", "assist", "in", "system", "interworking", ".", "Institute", "of", "Electrical", "and", "Electronics", "Engineers", "-LRB-", "IEEE", "-RRB-", "USA", "The", "802.11", "WLAN", "technical", "groups", "are", "continuing", "to", "progress", "their", "family", "of", "standards", ".", "Many", "similarities", "exist", "between", "the", "current", "802.11", "a", "standard", "and", "Hiperlan2/HiSWANa", "with", "regard", "to", "3G", "interworking", ".", "ETSI", "BRAN", "is", "currently", "liasing", "with", "the", "Wireless", "Next", "Generation", "-LRB-", "WNG", "-RRB-", "group", "of", "the", "IEEE", "802.11", "project", ".", "Multimedia", "Mobile", "Access", "Communication", "-LRB-", "MMAC", "-RRB-", "Japan", "The", "High", "Speed", "Wireless", "Access", "-LRB-", "HSWA", "-RRB-", "group", "'s", "HiSWANa", "-LRB-", "High", "Speed", "Wireless", "Access", "Network", "system", "A", "-RRB-", "is", "essentially", "identical", "to", "Hiperlan/2", ",", "except", "that", "it", "mandates", "the", "use", "of", "an", "Ethernet", "convergence", "layer", "within", "the", "access", "point", ".", "An", "agreement", "between", "ETSI", "BRAN", "and", "MMAC", "HSWA", "has", "now", "been", "in", "place", "for", "some", "time", "to", "share", "the", "output", "of", "the", "ETSI", "BRAN", "3G", "interworking", "group", ".", "This", "paper", "has", "addressed", "some", "of", "the", "current", "thinking", "within", "ETSI", "BRAN", "-LRB-", "and", "indeed", "WIG", "-RRB-", "regarding", "the", "interworking", "of", "the", "Hiperlan2", "and", "HiSWANa", "wireless", "LAN", "systems", "into", "a", "3G", "Cellular", "System", ".", "Much", "of", "this", "information", "is", "now", "appearing", "in", "the", "technical", "specification", "being", "jointly", "produced", "by", "ETSI", "and", "MMAC", ",", "expected", "to", "be", "published", "in", "the", "first", "half", "of", "2003", ".", "Of", "the", "two", "initial", "solutions", "investigated", "-LRB-", "tight", "and", "loose", "coupling", "-RRB-", ",", "current", "work", "has", "concentrated", "on", "the", "loose", "variant", ",", "producing", "viable", "solutions", "for", "security", ",", "mobility", "and", "QoS", ".", "The", "authentication", "schemes", "chosen", "will", "assume", "that", "EAP", "is", "carried", "over", "the", "air", "interface", ",", "thus", "being", "compatible", ",", "at", "the", "interworking", "level", ",", "with", "IEEE", "802.11", "and", "3GPP", ".", "HIPERLAN/2", "PUBLIC", "ACCESS", "INTERWORKING", "WITH", "3G", "CELLULAR", "SYSTEMS", "51", "This", "standardisation", "activity", "thus", "hopes", "to", "ensure", "that", "all", "WLAN", "technologies", "can", "provide", "a", "value", "added", "service", "within", "hotspot", "environments", "for", "both", "customers", "and", "operators", "of", "3G", "systems", ".", "The", "authors", "wish", "to", "thank", "Maximilian", "Riegel", "-LRB-", "Siemens", "AG", ",", "Germany", "-RRB-", ",", "Dr.", "Robert", "Hancock", "and", "Eleanor", "Hepworth", "-LRB-", "Roke", "Manor", ",", "UK", "-RRB-", "together", "with", "se", "Jevinger", "-LRB-", "Telia", "Research", "AB", ",", "Sweden", "-RRB-", "for", "their", "invaluable", "help", "and", "assistance", "with", "this", "work", ".", "-LSB-", "1", "-RSB-", "ETSI", "TR", "101", "957", "-LRB-", "V1", ".1.1", "-RRB-", ":", "Broadband", "Radio", "Access", "Networks", "-LRB-", "BRAN", "-RRB-", ";", "HIPERLAN", "Type", "2", ";", "Requirements", "and", "Architectures", "for", "Interworking", "between", "Hiperlan/2", "and", "3rd", "Generation", "Cellular", "Systems", "-LRB-", "August", "2001", "-RRB-", ".", "-LSB-", "2", "-RSB-", "3GPP", "TS", "33.102", ":", "3rd", "Generation", "Partnership", "Project", ";", "Technical", "Specification", "Group", "Services", "and", "System", "Aspects", ";", "3G", "Security", ";", "Security", "Architecture", ".", "-LSB-", "3", "-RSB-", "L.", "Blunk", ",", "J.", "Vollbrecht", "and", "B.", "Aboba", ",", "PPP", "Extensible", "Authentication", "Protocol", "-LRB-", "EAP", "-RRB-", ",", "RFC", "2284bis", ",", "draft-ietf-pppext-rfc2284bis", "-04", ".", "txt", "-LRB-", "April", "2002", "-RRB-", ".", "-LSB-", "4", "-RSB-", "P.", "Calhoun", "et", "al.", ",", "Diameter", "base", "protocol", ",", "draft-ietf-aaa-diameter", "-10", "-LRB-", "April", "2002", "-RRB-", ".", "-LSB-", "5", "-RSB-", "C.", "Rigney", "et", "al.", ",", "Remote", "Authentication", "Dial", "In", "User", "Service", "-LRB-", "RADIUS", "-RRB-", ",", "RFC", "2058", "-LRB-", "January", "1997", "-RRB-", ".", "-LSB-", "6", "-RSB-", "HIPERLAN", "Type", "2", ";", "Packet", "Based", "Convergence", "Layer", ";", "Part", "2", ":", "Ethernet", "Service", "Specific", "Convergence", "Sublayer", "-LRB-", "SSCS", "-RRB-", ",", "ETSI", "TS", "101", "493-2", ",", "BRAN", ".", "-LSB-", "7", "-RSB-", "HIPERLAN", "Type", "2", ";", "System", "overview", ",", "ETSI", "TR", "101", "683", ",", "BRAN", ".", "-LSB-", "8", "-RSB-", "Information", "Technology", "Telecommunications", "and", "Information", "Exchange", "between", "Systems", "Local", "and", "Metropolitan", "Area", "Networks", "Common", "Specifications", "Part", "3", ":", "Media", "Access", "Control", "-LRB-", "MAC", "-RRB-", "Bridges", "-LRB-", "Revision", "and", "redesignation", "of", "ISO/IEC", "10038", ":", "1993", "-LSB-", "ANSI/IEEE", "Std", "802.1", "D", ",", "1993", "Edition", "-RSB-", ",", "incorporating", "IEEE", "supplements", "P802", ".1", "p", ",", "802.1j-1996", ",", "802.6k-1992", ",", "802.11c-1998", ",", "and", "P802", ".12", "e", "-RRB-", "''", ",", "ISO/IEC", "15802-3", ":", "1998", ".", "Stephen", "McCann", "holds", "a", "B.Sc", ".", "-LRB-", "Hons", "-RRB-", "degree", "from", "the", "University", "of", "Birmingham", ",", "England", ".", "He", "is", "currently", "editor", "of", "the", "ETSI", "BRAN", "``", "WLAN", "3G", "''", "interworking", "specification", ",", "having", "been", "involved", "in", "ETSI", "Hiperlan/2", "standardisation", "for", "3", "years", ".", "He", "is", "also", "involved", "with", "both", "802.11", "work", "and", "that", "of", "the", "Japanese", "HiSWANa", "wireless", "LAN", "system", ".", "In", "the", "autumn", "of", "2002", ",", "Stephen", "co-organised", "and", "attended", "the", "first", "WLAN", "Interworking", "Group", "-LRB-", "WIG", "-RRB-", "between", "ETSI", "BRAN", ",", "MMAC", "HSWA", "and", "IEEE", "802.11", ".", "He", "is", "currently", "researching", "multimode", "WLAN/3G", "future", "terminals", "and", "WLAN", "systems", "for", "trains", "and", "ships", ",", "together", "with", "various", "satellite", "communications", "projects", ".", "In", "parallel", "to", "his", "Wireless", "LAN", "activities", ",", "Stephen", "has", "also", "been", "actively", "involved", "in", "the", "`", "rohc", "'", "working", "group", "of", "the", "IETF", ",", "looking", "at", "various", "Robust", "Header", "Compression", "schemes", ".", "Previously", "Stephen", "has", "been", "involved", "with", "avionics", "and", "was", "chief", "software", "integrator", "for", "the", "new", "Maastricht", "air", "traffic", "control", "system", "from", "1995", "to", "1998", ".", "He", "is", "a", "chartered", "engineer", "and", "a", "member", "of", "the", "Institute", "of", "Electrical", "Engineers", ".", "E-mail", ":", "stephen.mccann@roke.co.uk", "Helena", "Flygare", "holds", "a", "M.Sc", ".", "degree", "in", "electrical", "engineering", "from", "Lund", "Institute", "of", "Technology", ",", "Sweden", ",", "where", "she", "also", "served", "as", "a", "teacher", "in", "Automatic", "Control", "for", "the", "Master", "Degree", "program", ".", "Before", "her", "present", "job", "she", "worked", "in", "various", "roles", "with", "system", "design", "for", "hardware", "and", "software", "development", ".", "In", "1999", "she", "joined", "Radio", "System", "Malm", "at", "Telia", "Research", "AB", ".", "She", "works", "with", "specification", ",", "design", "and", "integration", "between", "systems", "with", "different", "access", "technologies", ",", "e.g.", "WLANs", ",", "2.5", "/", "3G", ",", "etc.", "from", "a", "technical", ",", "as", "well", "as", "from", "a", "business", "perspective", ".", "Since", "the", "year", "2000", ",", "she", "has", "been", "active", "with", "WLAN", "interworking", "with", "3G", "and", "other", "public", "access", "networks", "in", "HiperLAN/2", "Global", "Forum", ",", "ETSI/BRAN", ",", "and", "3GPP", ".", "E-mail", ":", "helena.flygare@telia.se"], "doc_bio_tags": ["O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["interworking", "bran", "wig", "etsi", "public access", "3g"], "abstractive_keyphrases": ["hiperlan/2"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "121", "document": ["Language-specific", "Models", "in", "Multilingual", "Topic", "Tracking", "Topic", "tracking", "is", "complicated", "when", "the", "stories", "in", "the", "stream", "occur", "in", "multiple", "languages", ".", "Typically", ",", "researchers", "have", "trained", "only", "English", "topic", "models", "because", "the", "training", "stories", "have", "been", "provided", "in", "English", ".", "In", "tracking", ",", "non-English", "test", "stories", "are", "then", "machine", "translated", "into", "English", "to", "compare", "them", "with", "the", "topic", "models", ".", "We", "propose", "a", "native", "language", "hypothesis", "stating", "that", "comparisons", "would", "be", "more", "effective", "in", "the", "original", "language", "of", "the", "story", ".", "We", "first", "test", "and", "support", "the", "hypothesis", "for", "story", "link", "detection", ".", "For", "topic", "tracking", "the", "hypothesis", "implies", "that", "it", "should", "be", "preferable", "to", "build", "separate", "language-specific", "topic", "models", "for", "each", "language", "in", "the", "stream", ".", "We", "compare", "different", "methods", "of", "incrementally", "building", "such", "native", "language", "topic", "models", ".", "H.", "3.1", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", "Indexing", "methods", ",", "Linguistic", "processing", ".", ":", "Algorithms", ",", "Experimentation", ".", "Topic", "detection", "and", "tracking", "-LRB-", "TDT", "-RRB-", "is", "a", "research", "area", "concerned", "with", "organizing", "a", "multilingual", "stream", "of", "news", "broadcasts", "as", "it", "arrives", "over", "time", ".", "TDT", "investigations", "sponsored", "by", "the", "U.S.", "government", "include", "five", "different", "tasks", ":", "story", "link", "detection", ",", "clustering", "-LRB-", "topic", "detection", "-RRB-", ",", "topic", "tracking", ",", "new", "event", "-LRB-", "first", "story", "-RRB-", "detection", ",", "and", "story", "segmentation", ".", "The", "present", "research", "focuses", "on", "topic", "tracking", ",", "which", "is", "similar", "to", "filtering", "in", "information", "retrieval", ".", "Topics", "are", "defined", "by", "a", "small", "number", "of", "-LRB-", "training", "-RRB-", "stories", ",", "typically", "one", "to", "four", ",", "and", "the", "task", "is", "to", "find", "all", "the", "stories", "on", "those", "topics", "in", "the", "incoming", "stream", ".", "TDT", "evaluations", "have", "included", "stories", "in", "multiple", "languages", "since", "1999", ".", "TDT2", "contained", "stories", "in", "English", "and", "Mandarin", ".", "TDT3", "and", "TDT4", "included", "English", ",", "Mandarin", ",", "and", "Arabic", ".", "Machine-translations", "into", "English", "for", "all", "non-English", "stories", "were", "provided", ",", "allowing", "participants", "to", "ignore", "issues", "of", "story", "translation", ".", "All", "TDT", "tasks", "have", "at", "their", "core", "a", "comparison", "of", "two", "text", "models", ".", "In", "story", "link", "detection", ",", "the", "simplest", "case", ",", "the", "comparison", "is", "between", "pairs", "of", "stories", ",", "to", "decide", "whether", "given", "pairs", "of", "stories", "are", "on", "the", "same", "topic", "or", "not", ".", "In", "topic", "tracking", ",", "the", "comparison", "is", "between", "a", "story", "and", "a", "topic", ",", "which", "is", "often", "represented", "as", "a", "centroid", "of", "story", "vectors", ",", "or", "as", "a", "language", "model", "covering", "several", "stories", ".", "Our", "focus", "in", "this", "research", "was", "to", "explore", "the", "best", "ways", "to", "compare", "stories", "and", "topics", "when", "stories", "are", "in", "multiple", "languages", ".", "We", "began", "with", "the", "hypothesis", "that", "if", "two", "stories", "originated", "in", "the", "same", "language", ",", "it", "would", "be", "best", "to", "compare", "them", "in", "that", "language", ",", "rather", "than", "translating", "them", "both", "into", "another", "language", "for", "comparison", ".", "This", "simple", "assertion", ",", "which", "we", "call", "the", "native", "language", "hypothesis", ",", "is", "easily", "tested", "in", "the", "TDT", "story", "link", "detection", "task", ".", "The", "picture", "gets", "more", "complex", "in", "a", "task", "like", "topic", "tracking", ",", "which", "begins", "with", "a", "small", "number", "of", "training", "stories", "-LRB-", "in", "English", "-RRB-", "to", "define", "each", "topic", ".", "New", "stories", "from", "a", "stream", "must", "be", "placed", "into", "these", "topics", ".", "The", "streamed", "stories", "originate", "in", "different", "languages", ",", "but", "are", "also", "available", "in", "English", "translation", ".", "The", "translations", "have", "been", "performed", "automatically", "by", "machine", "translation", "algorithms", ",", "and", "are", "inferior", "to", "manual", "translations", ".", "At", "the", "beginning", "of", "the", "stream", ",", "native", "language", "comparisons", "can", "not", "be", "performed", "because", "there", "are", "no", "native", "language", "topic", "models", "-LRB-", "other", "than", "English", "-RRB-", ".", "However", ",", "later", "in", "the", "stream", ",", "once", "non-English", "documents", "have", "been", "seen", ",", "one", "can", "base", "subsequent", "tracking", "on", "native-language", "comparisons", ",", "by", "adaptively", "training", "models", "for", "additional", "languages", ".", "There", "are", "many", "ways", "this", "adaptation", "could", "be", "performed", ",", "and", "we", "suspect", "that", "it", "is", "crucial", "for", "the", "first", "few", "non-English", "stories", "to", "be", "placed", "into", "topics", "correctly", ",", "to", "avoid", "building", "non-English", "models", "from", "off-topic", "stories", ".", "Previous", "research", "in", "multilingual", "TDT", "has", "not", "attempted", "to", "compare", "the", "building", "of", "multiple", "language-specific", "models", "with", "single", "-", "language", "topic", "models", ",", "or", "to", "obtain", "native-language", "models", "through", "adaptation", ".", "The", "focus", "of", "most", "multilingual", "work", "in", "TDT", "for", "example", "-LSB-", "2", "-RSB-", "-LSB-", "12", "-RSB-", "-LSB-", "13", "-RSB-", ",", "has", "been", "to", "compare", "the", "efficacy", "of", "machine", "translation", "of", "test", "stories", "into", "a", "base", "language", ",", "with", "other", "means", "of", "translation", ".", "Although", "these", "researchers", "normalize", "scores", "for", "the", "source", "language", ",", "all", "story", "comparisons", "are", "done", "within", "the", "base", "language", ".", "This", "is", "also", "true", "in", "multilingual", "filtering", ",", "which", "is", "a", "similar", "task", "-LSB-", "14", "-RSB-", ".", "The", "present", "research", "is", "an", "exploration", "of", "the", "native", "language", "hypothesis", "for", "multilingual", "topic", "tracking", ".", "We", "first", "present", "results", "on", "story", "link", "detection", ",", "to", "support", "the", "native", "language", "hypothesis", "in", "a", "simple", ",", "understandable", "task", ".", "Then", "we", "present", "experiments", "that", "test", "the", "hypothesis", "in", "the", "topic", "tracking", "task", ".", "Finally", "we", "consider", "several", "different", "ways", "to", "adapt", "topic", "models", "to", "allow", "native", "language", "comparisons", "downstream", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "04", ",", "July", "25-29", ",", "2003", ",", "Sheffield", ",", "South", "Yorkshire", ",", "UK", ".", "Copyright", "2004", "ACM", "1-58113-881-4", "/", "04/0007", "...", "$", "5.00", ".", "402", "Although", "these", "experiments", "were", "carried", "out", "in", "service", "of", "TDT", ",", "the", "results", "should", "equally", "apply", "to", "other", "domains", "which", "require", "the", "comparison", "of", "documents", "in", "different", "languages", ",", "particularly", "filtering", ",", "text", "classification", "and", "clustering", ".", "Experiments", "are", "replicated", "with", "two", "different", "data", "sets", ",", "TDT3", "and", "TDT4", ",", "and", "two", "very", "different", "similarity", "functions", "-", "cosine", "similarity", ",", "and", "another", "based", "on", "relevance", "modeling", ",", "described", "in", "the", "following", "two", "sections", ".", "Cosine", "similarity", "can", "be", "seen", "as", "a", "basic", "default", "approach", ",", "which", "performs", "adequately", ",", "and", "relevance", "modeling", "is", "a", "state", "of", "the", "art", "approach", "which", "yields", "top-rated", "performance", ".", "Confirming", "the", "native-language", "hypothesis", "in", "both", "systems", "would", "show", "its", "generality", ".", "In", "the", "rest", "of", "this", "section", ",", "we", "describe", "the", "TDT", "data", "sets", ",", "then", "we", "describe", "how", "story", "link", "detection", "and", "topic", "tracking", "are", "carried", "out", "in", "cosine", "similarity", "and", "relevance", "modeling", "systems", ".", "Next", ",", "we", "describe", "the", "multilingual", "aspects", "of", "the", "systems", ".", "2.1", "TDT3", "Data", "TDT", "data", "consist", "of", "a", "stream", "of", "news", "in", "multiple", "languages", "and", "from", "different", "media", "-", "audio", "from", "television", ",", "radio", ",", "and", "web", "news", "broadcasts", ",", "and", "text", "from", "newswires", ".", "Two", "forms", "of", "transcription", "are", "available", "for", "the", "audio", "stream", ".", "The", "first", "form", "comes", "from", "automatic", "speech", "recognition", "and", "includes", "transcription", "errors", "made", "by", "such", "systems", ".", "The", "second", "form", "is", "a", "manual", "transcription", ",", "which", "has", "few", "if", "any", "errors", ".", "The", "audio", "stream", "can", "also", "be", "divided", "into", "stories", "automatically", "or", "manually", "-LRB-", "so-called", "reference", "boundaries", "-RRB-", ".", "For", "all", "the", "research", "reported", "here", ",", "we", "used", "manual", "transcriptions", "and", "reference", "boundaries", ".", "The", "characteristics", "of", "the", "TDT3", "data", "sets", "for", "story", "link", "detection", "and", "topic", "tracking", "are", "summarized", "in", "Tables", "1-3", ".", "Table", "1", ":", "Number", "of", "stories", "in", "TDT3", "Corpus", "English", "Arabic", "Mandarin", "Total", "TDT3", "37,526", "15,928", "13,657", "67,111", "Table", "2", ":", "Characteristics", "of", "TDT3", "story", "link", "detection", "data", "sets", "Number", "of", "topics", "8", "Number", "of", "link", "pairs", "Same", "topic", "Different", "topic", "English-English", "605", "3999", "Arabic-Arabic", "669", "3998", "Mandarin-Mandarin", "440", "4000", "English-Arabic", "676", "4000", "English-Mandarin", "569", "4000", "Arabic-Mandarin", "583", "3998", "Total", "3542", "23,995", "Table", "3", ":", "Characteristics", "of", "TDT3", "topic", "tracking", "data", "sets", "N", "t", "=", "2", "N", "t", "=", "4", "Number", "of", "topics", "36", "30", "Num", ".", "test", "stories", "On-topic", "All", "On-topic", "All", "English", "2042", "883,887", "2042", "796,373", "Arabic", "572", "372,889", "572", "336,563", "Mandarin", "405", "329,481", "369", "301,568", "Total", "3019", "1,593,782", "2983", "1,434,504", "2.2", "Story", "Representation", "and", "Similarity", "2.2.1", "Cosine", "similarity", "To", "compare", "two", "stories", "for", "link", "detection", ",", "or", "a", "story", "with", "a", "topic", "model", "for", "tracking", ",", "each", "story", "is", "represented", "as", "a", "vector", "of", "terms", "with", "tf", "idf", "term", "weights", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "log", "5", ".", "0", "log", "+", "+", "=", "N", "df", "N", "tf", "a", "i", "-LRB-", "1", "-RRB-", "where", "tf", "is", "the", "number", "of", "occurrences", "of", "the", "term", "in", "the", "story", ",", "N", "is", "the", "total", "number", "of", "documents", "in", "the", "collection", ",", "and", "df", "is", "the", "number", "of", "documents", "containing", "the", "term", ".", "Collection", "statistics", "N", "and", "df", "are", "computed", "incrementally", ",", "based", "on", "the", "documents", "already", "in", "the", "stream", "within", "a", "deferral", "period", "after", "the", "test", "story", "arrives", ".", "The", "deferral", "period", "was", "10", "for", "link", "detection", "and", "1", "for", "topic", "tracking", ".", "For", "link", "detection", ",", "story", "vectors", "were", "pruned", "to", "the", "1000", "terms", "with", "the", "highest", "term", "weights", ".", "The", "similarity", "of", "two", "-LRB-", "weighted", ",", "pruned", "-RRB-", "vectors", "n", "a", "a", "a", ",", "...", ",", "1", "=", "r", "and", "m", "b", "b", "b", ",", "...", ",", "1", "=", "r", "is", "the", "inner", "product", "between", "the", "two", "vectors", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "=", "i", "i", "i", "i", "i", "i", "i", "b", "a", "b", "a", "Sim", "2", "2", "cos", "-LRB-", "2", "-RRB-", "If", "the", "similarity", "of", "two", "stories", "exceeds", "a", "yes/no", "threshold", ",", "the", "stories", "are", "considered", "to", "be", "about", "the", "same", "topic", ".", "For", "topic", "tracking", ",", "a", "topic", "model", "is", "a", "centroid", ",", "an", "average", "of", "the", "vectors", "for", "the", "N", "t", "training", "stories", ".", "Topic", "models", "are", "pruned", "to", "100", "terms", "based", "on", "the", "term", "weights", ".", "Story", "vectors", "pruned", "to", "100", "terms", "are", "compared", "to", "centroids", "using", "equation", "-LRB-", "2", "-RRB-", ".", "If", "the", "similarity", "exceeds", "a", "yes/no", "threshold", ",", "the", "story", "is", "considered", "on-topic", ".", "2.2.2", "Relevance", "modeling", "Relevance", "modeling", "is", "a", "statistical", "technique", "for", "estimating", "language", "models", "from", "extremely", "small", "samples", ",", "such", "as", "queries", ",", "-LSB-", "9", "-RSB-", ".", "If", "Q", "is", "small", "sample", "of", "text", ",", "and", "C", "is", "a", "large", "collection", "of", "documents", ",", "the", "language", "model", "for", "Q", "is", "estimated", "as", ":", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "Q", "M", "P", "M", "w", "P", "Q", "w", "P", "d", "C", "d", "d", "=", "-LRB-", "3", "-RRB-", "A", "relevance", "model", ",", "then", ",", "is", "a", "mixture", "of", "language", "models", "M", "d", "of", "every", "document", "d", "in", "the", "collection", ",", "where", "the", "document", "models", "are", "weighted", "by", "the", "posterior", "probability", "of", "producing", "the", "query", "P", "-LRB-", "M", "d", "|", "Q", "-RRB-", ".", "The", "posterior", "probability", "is", "computed", "as", ":", "=", "C", "d", "Q", "q", "d", "Q", "q", "d", "d", "M", "q", "P", "d", "P", "M", "q", "P", "d", "P", "Q", "M", "P", "-RRB-", "|", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "|", "-LRB-", "-LRB-", "4", "-RRB-", "Equation", "-LRB-", "4", "-RRB-", "assigns", "the", "highest", "weights", "to", "documents", "that", "are", "most", "likely", "to", "have", "generated", "Q", ",", "and", "can", "be", "interpreted", "as", "nearest-neighbor", "smoothing", ",", "or", "a", "massive", "query", "expansion", "technique", ".", "To", "apply", "relevance", "modeling", "to", "story", "link", "detection", ",", "we", "estimate", "the", "similarity", "between", "two", "stories", "A", "and", "B", "by", "pruning", "the", "stories", "to", "short", "queries", ",", "estimating", "relevance", "models", "for", "the", "queries", ",", "and", "measuring", "the", "similarity", "between", "the", "two", "relevance", "models", ".", "Each", "story", "is", "replaced", "by", "a", "query", "consisting", "of", "the", "ten", "words", "in", "the", "query", "with", "the", "lowest", "probability", "of", "occurring", "by", "chance", "in", "ran-domly", "drawing", "|", "A", "|", "words", "from", "the", "collection", "C", ":", "403", "=", "A", "C", "A", "A", "C", "C", "A", "C", "A", "P", "w", "w", "w", "w", "w", "chance", "-RRB-", "-LRB-", "-LRB-", "5", "-RRB-", "where", "|", "A", "|", "is", "the", "length", "of", "the", "story", "A", ",", "A", "w", "is", "the", "number", "of", "times", "word", "w", "occurs", "in", "A", ",", "|", "C", "|", "is", "the", "size", "of", "the", "collection", ",", "and", "C", "w", "is", "the", "number", "of", "times", "word", "w", "occurs", "in", "C.", "Story", "relevance", "models", "are", "estimated", "using", "equation", "-LRB-", "4", "-RRB-", ".", "Similarity", "between", "relevance", "models", "is", "measured", "using", "the", "symmetrized", "clarity-adjusted", "divergence", "-LSB-", "11", "-RSB-", ":", "+", "=", "w", "A", "B", "w", "B", "A", "RM", "GE", "w", "P", "Q", "w", "P", "Q", "w", "P", "GE", "w", "P", "Q", "w", "P", "Q", "w", "P", "Sim", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "log", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "log", "-RRB-", "|", "-LRB-", "-LRB-", "6", "-RRB-", "where", "P", "-LRB-", "w", "|", "Q", "A", "-RRB-", "is", "the", "relevance", "model", "estimated", "for", "story", "A", ",", "and", "P", "-LRB-", "w", "|", "GE", "-RRB-", "is", "the", "background", "-LRB-", "General", "English", ",", "Arabic", ",", "or", "Mandarin", "-RRB-", "probability", "of", "w", ",", "computed", "from", "the", "entire", "collection", "of", "stories", "in", "the", "language", "within", "the", "same", "deferral", "period", "used", "for", "cosine", "similarity", ".", "To", "apply", "relevance", "modeling", "to", "topic", "tracking", ",", "the", "asymmetric", "clarity", "adjusted", "divergence", "is", "used", ":", "=", "w", "track", "GE", "w", "P", "S", "w", "P", "T", "w", "P", "S", "T", "Sim", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "log", "-RRB-", "|", "-LRB-", "-RRB-", ",", "-LRB-", "-LRB-", "7", "-RRB-", "where", "P", "-LRB-", "w", "|", "T", "-RRB-", "is", "a", "relevance", "model", "of", "the", "topic", "T.", "Because", "of", "computational", "constraints", ",", "smoothed", "maximum", "likelihood", "estimates", "rather", "than", "relevance", "models", "are", "used", "for", "the", "story", "model", "P", "-LRB-", "w", "|", "S", "-RRB-", ".", "The", "topic", "model", ",", "based", "on", "Equation", "-LRB-", "3", "-RRB-", ",", "is", ":", "=", "t", "S", "d", "d", "t", "M", "w", "P", "S", "T", "w", "P", "-RRB-", "|", "-LRB-", "1", "-RRB-", "|", "-LRB-", "-LRB-", "8", "-RRB-", "where", "S", "t", "is", "the", "set", "of", "training", "stories", ".", "The", "topic", "model", "is", "pruned", "to", "100", "terms", ".", "More", "detail", "about", "applying", "relevance", "models", "to", "TDT", "can", "be", "found", "in", "-LSB-", "2", "-RSB-", ".", "2.3", "Evaluation", "TDT", "tasks", "are", "evaluated", "as", "detection", "tasks", ".", "For", "each", "test", "trial", ",", "the", "system", "attempts", "to", "make", "a", "yes/no", "decision", ".", "In", "story", "link", "detection", ",", "the", "decision", "is", "whether", "the", "two", "members", "of", "a", "story", "pair", "belong", "to", "the", "same", "topic", ".", "In", "topic", "tracking", ",", "the", "decision", "is", "whether", "a", "story", "in", "the", "stream", "belongs", "to", "a", "particular", "topic", ".", "In", "all", "tasks", ",", "performance", "is", "summarized", "in", "two", "ways", ":", "a", "detection", "cost", "function", "-LRB-", "C", "Det", "-RRB-", "and", "a", "decision", "error", "tradeoff", "-LRB-", "DET", "-RRB-", "curve", ".", "Both", "are", "based", "on", "the", "rates", "of", "two", "kinds", "of", "errors", "a", "detection", "system", "can", "make", ":", "misses", ",", "in", "which", "the", "system", "gives", "a", "no", "answer", "where", "the", "correct", "answer", "is", "yes", ",", "and", "false", "alarms", ",", "in", "which", "the", "system", "gives", "a", "yes", "answer", "where", "the", "correct", "answer", "is", "no", ".", "The", "DET", "curve", "plots", "the", "miss", "rate", "-LRB-", "P", "Miss", "-RRB-", "as", "a", "function", "of", "false", "alarm", "rate", "-LRB-", "P", "Fa", "-RRB-", ",", "as", "the", "yes/no", "decision", "threshold", "is", "swept", "through", "its", "range", ".", "P", "Miss", "and", "P", "Fa", "are", "computed", "for", "each", "topic", ",", "and", "then", "averaged", "across", "topics", "to", "yield", "topic-weighted", "curves", ".", "An", "example", "can", "be", "seen", "in", "Figure", "1", "below", ".", "Better", "performance", "is", "indicated", "by", "curves", "more", "to", "the", "lower", "left", "of", "the", "graph", ".", "The", "detection", "cost", "function", "is", "computed", "for", "a", "particular", "threshold", "as", "follows", ":", "C", "Det", "=", "-LRB-", "C", "Miss", "*", "P", "Miss", "*", "P", "Target", "+", "C", "Fa", "*", "P", "Fa", "*", "-LRB-", "1-P", "Target", "-RRB-", "-RRB-", "-LRB-", "9", "-RRB-", "where", ":", "P", "Miss", "=", "#Misses", "/", "#Targets", "P", "Fa", "=", "#False", "Alarms", "/", "#NonTargets", "C", "Miss", "and", "C", "Fa", "are", "the", "costs", "of", "a", "missed", "detection", "and", "false", "alarm", ",", "respectively", ",", "and", "are", "specified", "for", "the", "application", ",", "usually", "at", "10", "and", "1", ",", "penalizing", "misses", "more", "than", "false", "alarms", ".", "P", "Target", "is", "the", "a", "priori", "probability", "of", "finding", "a", "target", ",", "an", "item", "where", "the", "answer", "should", "be", "yes", ",", "set", "by", "convention", "to", "0.02", ".", "The", "cost", "function", "is", "normalized", ":", "-LRB-", "C", "Det", "-RRB-", "Norm", "=", "C", "Det", "/", "MIN", "-LRB-", "C", "Miss", "*", "C", "Target", ",", "C", "Fa", "*", "-LRB-", "1-P", "Target", "-RRB-", "-RRB-", "-LRB-", "10", "-RRB-", "and", "averaged", "over", "topics", ".", "Each", "point", "along", "the", "detection", "error", "tradeoff", "curve", "has", "a", "value", "of", "-LRB-", "C", "Det", "-RRB-", "Norm", ".", "The", "minimum", "value", "found", "on", "the", "curve", "is", "known", "as", "the", "min", "-LRB-", "C", "Det", "-RRB-", "Norm", ".", "It", "can", "be", "interpreted", "as", "the", "value", "of", "C", "Det", "-RRB-", "Norm", "at", "the", "best", "possible", "threshold", ".", "This", "measure", "allows", "us", "to", "separate", "performance", "on", "the", "task", "from", "the", "choice", "of", "yes/no", "threshold", ".", "Lower", "cost", "scores", "indicate", "better", "performance", ".", "More", "information", "about", "these", "measures", "can", "be", "found", "in", "-LSB-", "5", "-RSB-", ".", "2.4", "Language-specific", "Comparisons", "English", "stories", "were", "lower-cased", "and", "stemmed", "using", "the", "kstem", "stemmer", "-LSB-", "6", "-RSB-", ".", "Stop", "words", "were", "removed", ".", "For", "native", "Arabic", "comparisons", ",", "stories", "were", "converted", "from", "Unicode", "UTF-8", "to", "windows", "-LRB-", "CP1256", "-RRB-", "encoding", ",", "then", "normalized", "and", "stemmed", "with", "a", "light", "stemmer", "-LSB-", "7", "-RSB-", ".", "Stop", "words", "were", "removed", ".", "For", "native", "Mandarin", "comparisons", ",", "overlapping", "character", "bigrams", "were", "compared", ".", "In", "this", "section", "we", "present", "experimental", "results", "for", "story", "link", "detection", ",", "comparing", "a", "native", "condition", "with", "an", "English", "baseline", ".", "In", "the", "English", "baseline", ",", "all", "comparisons", "are", "in", "English", ",", "using", "machine", "translation", "-LRB-", "MT", "-RRB-", "for", "Arabic", "and", "Mandarin", "stories", ".", "Corpus", "statistics", "are", "computed", "incrementally", "for", "all", "the", "English", "and", "translated-into-English", "stories", ".", "In", "the", "Native", "condition", ",", "two", "stories", "originating", "in", "the", "same", "language", "are", "compared", "in", "that", "language", ".", "Corpus", "statistics", "are", "computed", "incrementally", "for", "the", "stories", "in", "the", "language", "of", "the", "comparison", ".", "Cross", "language", "pairs", "in", "the", "native", "condition", "are", "compared", "in", "English", "using", "MT", ",", "as", "in", "the", "baseline", ".", "Figure", "1", ":", "DET", "curve", "for", "TDT3", "link", "detection", "based", "on", "English", "versions", "of", "stories", ",", "or", "native", "language", "versions", ",", "for", "cosine", "and", "relevance", "model", "similarity", "404", "Table", "4", ":", "Min", "-LRB-", "C", "det", "-RRB-", "Norm", "for", "TDT3", "story", "link", "detection", "Similarity", "English", "Native", "Cosine", ".3440", ".2586", "Relevance", "Model", ".2625", ".1900", "Figure", "1", "shows", "the", "DET", "curves", "for", "the", "TDT3", "story", "link", "detection", "task", ",", "and", "Table", "4", "shows", "the", "minimum", "cost", ".", "The", "figure", "and", "table", "show", "that", "native", "language", "comparisons", "-LRB-", "dotted", "-RRB-", "consistently", "outperform", "comparisons", "based", "on", "machine-translated", "English", "-LRB-", "solid", "-RRB-", ".", "This", "difference", "holds", "both", "for", "the", "basic", "cosine", "similarity", "system", "-LRB-", "first", "row", "-RRB-", "-LRB-", "black", "curves", "-RRB-", ",", "and", "for", "the", "relevance", "modeling", "system", "-LRB-", "second", "row", "-RRB-", "-LRB-", "gray", "curves", "-RRB-", ".", "These", "results", "support", "the", "general", "conclusion", "that", "when", "two", "stories", "originate", "in", "the", "same", "language", ",", "it", "is", "better", "to", "carry", "out", "similarity", "comparisons", "in", "that", "language", ",", "rather", "than", "translating", "them", "into", "a", "different", "language", ".", "In", "tracking", ",", "the", "system", "decides", "whether", "stories", "in", "a", "stream", "belong", "to", "predefined", "topics", ".", "Similarity", "is", "measured", "between", "a", "topic", "model", "and", "a", "story", ",", "rather", "than", "between", "two", "stories", ".", "The", "native", "language", "hypothesis", "for", "tracking", "predicts", "better", "performance", "if", "incoming", "stories", "are", "compared", "in", "their", "original", "language", "with", "topic", "models", "in", "that", "language", ",", "and", "worse", "performance", "if", "translated", "stories", "are", "compared", "with", "English", "topic", "models", ".", "The", "hypothesis", "can", "only", "be", "tested", "indirectly", ",", "because", "Arabic", "and", "Mandarin", "training", "stories", "were", "not", "available", "for", "all", "tracking", "topics", ".", "In", "this", "first", "set", "of", "experiments", ",", "we", "chose", "to", "obtain", "native", "language", "training", "stories", "from", "the", "stream", "of", "test", "stories", "using", "topic", "adaptation", ",", "that", "is", ",", "gradual", "modification", "of", "topic", "models", "to", "incorporate", "test", "stories", "that", "fit", "the", "topic", "particularly", "well", ".", "Adaptation", "begins", "with", "the", "topic", "tracking", "scenario", "described", "above", "in", "section", "2.2", ",", "using", "a", "single", "model", "per", "topic", "based", "on", "a", "small", "set", "of", "training", "stories", "in", "English", ".", "Each", "time", "a", "story", "is", "compared", "to", "a", "topic", "model", "to", "determine", "whether", "it", "should", "be", "classed", "as", "on-topic", ",", "it", "is", "also", "compared", "to", "a", "fixed", "adaptation", "threshold", "ad", "=", "0.5", "-LRB-", "not", "to", "be", "confused", "with", "the", "yes/no", "threshold", "mentioned", "in", "section", "2.2.1", "-RRB-", ".", "If", "the", "similarity", "score", "is", "greater", "than", "ad", ",", "the", "story", "is", "added", "to", "the", "topic", "set", ",", "and", "the", "topic", "model", "recomputed", ".", "For", "clarity", ",", "we", "use", "the", "phrase", "topic", "set", "to", "refer", "to", "the", "set", "of", "stories", "from", "which", "the", "topic", "model", "is", "built", ",", "which", "grows", "under", "adaptation", ".", "The", "training", "set", "includes", "only", "the", "original", "N", "t", "training", "stories", "for", "each", "topic", ".", "For", "cosine", "similarity", ",", "adaptation", "consists", "of", "computing", "a", "new", "centroid", "for", "the", "topic", "set", "and", "pruning", "to", "100", "terms", ".", "For", "relevance", "modeling", ",", "a", "new", "topic", "model", "is", "computed", "according", "to", "Equation", "-LRB-", "8", "-RRB-", ".", "At", "most", "100", "stories", "are", "placed", "in", "each", "topic", "set", ".", "We", "have", "just", "described", "global", "adaptation", ",", "in", "which", "stories", "are", "added", "to", "global", "topic", "models", "in", "English", ".", "Stories", "that", "originated", "in", "Arabic", "or", "Mandarin", "are", "compared", "and", "added", "in", "their", "machine-translated", "version", ".", "Native", "adaptation", "differs", "from", "global", "adaptation", "in", "making", "separate", "topic", "models", "for", "each", "source", "language", ".", "To", "decide", "whether", "a", "test", "story", "should", "be", "added", "to", "a", "native", "topic", "set", ",", "the", "test", "story", "is", "compared", "in", "its", "native", "language", "with", "the", "native", "model", ",", "and", "added", "to", "the", "native", "topic", "set", "for", "that", "language", "if", "its", "similarity", "score", "exceeds", "ad", ".", "The", "English", "version", "of", "the", "story", "is", "also", "compared", "to", "the", "global", "topic", "model", ",", "and", "if", "its", "similarity", "score", "exceeds", "ad", ",", "it", "is", "added", "to", "the", "global", "topic", "set", ".", "-LRB-", "Global", "models", "continue", "to", "adapt", "for", "other", "languages", "which", "may", "not", "yet", "have", "a", "native", "model", ",", "or", "for", "smoothing", ",", "discussed", "later", ".", "-RRB-", "At", "the", "start", "there", "are", "global", "topic", "models", "and", "native", "English", "topic", "models", "based", "on", "the", "training", "stories", ",", "but", "no", "native", "Arabic", "or", "Mandarin", "topic", "models", ".", "When", "there", "is", "not", "yet", "a", "native", "topic", "model", "in", "the", "story", "'s", "original", "language", ",", "the", "translated", "story", "is", "compared", "to", "the", "global", "topic", "model", ".", "If", "the", "similarity", "exceeds", "ad", ",", "the", "native", "topic", "model", "is", "initialized", "with", "the", "untranslated", "story", ".", "Yes/no", "decisions", "for", "topic", "tracking", "can", "then", "be", "based", "on", "the", "untranslated", "story", "'s", "similarity", "to", "the", "native", "topic", "model", "if", "one", "exists", ".", "If", "there", "is", "no", "native", "topic", "model", "yet", "for", "that", "language", "and", "topic", ",", "the", "translated", "story", "is", "compared", "to", "the", "global", "topic", "model", ".", "We", "have", "described", "three", "experimental", "conditions", ":", "global", "adapted", ",", "native", "adapted", ",", "and", "a", "baseline", ".", "The", "baseline", ",", "described", "in", "Section", "2.2", ",", "can", "also", "be", "called", "global", "unadapted", ".", "The", "baseline", "uses", "a", "single", "English", "model", "per", "topic", "based", "on", "the", "small", "set", "of", "training", "stories", ".", "A", "fourth", "possible", "condition", ",", "native", "unadapted", "is", "problematic", "and", "not", "included", "here", ".", "There", "is", "no", "straightforward", "way", "to", "initialize", "native", "language", "topic", "models", "without", "adaptation", "when", "training", "stories", "are", "provided", "only", "in", "English", ".", "Figure", "2", ":", "DET", "curves", "for", "TDT3", "tracking", ",", "cosine", "similarity", "-LRB-", "above", "-RRB-", "and", "relevance", "models", "-LRB-", "below", "-RRB-", ",", "N", "t", "=", "4", "training", "stories", ",", "global", "unadapted", "baseline", ",", "global", "adapted", ",", "and", "native", "adapted", "405", "Table", "5", ":", "Min", "-LRB-", "C", "det", "-RRB-", "Norm", "for", "TDT3", "topic", "tracking", ".", "N", "t", "=", "2", "N", "t", "=", "4", "Adapted", "Adapted", "Baseline", "Global", "Native", "Baseline", "Global", "Native", "Cosine", ".1501", ".1197", ".1340", ".1238", ".1074", ".1028", "RM", ".1283", ".0892", ".0966", ".1060", ".0818", ".0934", "The", "TDT3", "tracking", "results", "on", "three", "conditions", ",", "replicated", "with", "the", "two", "different", "similarity", "measures", "-LRB-", "cosine", "similarity", "and", "relevance", "modeling", "-RRB-", "and", "two", "different", "training", "set", "sizes", "-LRB-", "N", "t", "=", "2", "and", "4", "-RRB-", "can", "be", "seen", "in", "Table", "5", ".", "DET", "curves", "for", "N", "t", "=", "4", "are", "shown", "in", "Figure", "2", ",", "for", "cosine", "similarity", "-LRB-", "above", "-RRB-", "and", "relevance", "modeling", "-LRB-", "RM", "-RRB-", "-LRB-", "below", "-RRB-", ".", "Table", "5", "shows", "a", "robust", "adaptation", "effect", "for", "cosine", "and", "relevance", "model", "experiments", ",", "and", "for", "2", "or", "4", "training", "stories", ".", "Native", "and", "global", "adaptation", "are", "always", "better", "-LRB-", "lower", "cost", "-RRB-", "than", "baseline", "unadapted", "tracking", ".", "In", "addition", ",", "relevance", "modeling", "produces", "better", "results", "than", "cosine", "similarity", ".", "However", ",", "results", "do", "not", "show", "the", "predicted", "advantage", "for", "native", "adapted", "topic", "models", "over", "global", "adapted", "topic", "models", ".", "Only", "cosine", "similarity", ",", "N", "t", "=", "4", ",", "seems", "to", "show", "the", "expected", "difference", "-LRB-", "shaded", "cells", "-RRB-", ",", "but", "the", "difference", "is", "very", "small", ".", "The", "DET", "curve", "in", "Figure", "2", "shows", "no", "sign", "of", "a", "native", "language", "effect", ".", "Table", "6", "shows", "minimum", "cost", "figures", "computed", "separately", "for", "English", ",", "Mandarin", ",", "and", "Arabic", "test", "sets", ".", "Only", "English", "shows", "a", "pattern", "similar", "to", "the", "composite", "results", "of", "Table", "5", "-LRB-", "see", "the", "shaded", "cells", "-RRB-", ".", "For", "cosine", "similarity", ",", "there", "is", "not", "much", "difference", "between", "global", "and", "native", "English", "topic", "models", ".", "For", "relevance", "modeling", ",", "Native", "English", "topic", "models", "are", "slightly", "worse", "than", "global", "models", ".", "Arabic", "and", "Mandarin", "appear", "to", "show", "a", "native", "language", "advantage", "for", "all", "cosine", "similarity", "conditions", "and", "most", "relevance", "model", "conditions", ".", "However", ",", "DET", "curves", "comparing", "global", "and", "native", "adapted", "models", "separately", "for", "English", ",", "Arabic", ",", "and", "Mandarin", ",", "-LRB-", "Figure", "3", "-RRB-", "show", "no", "real", "native", "language", "advantage", ".", "Table", "6", ":", "Min", "-LRB-", "C", "det", "-RRB-", "Norm", "for", "TDT3", "topic", "tracking", ";", "breakdown", "by", "original", "story", "language", "English", "N", "t", "=", "2", "N", "t", "=", "4", "Adapted", "Adapted", "Baseline", "Global", "Native", "Baseline", "Global", "Native", "Cosine", ".1177", ".0930", ".0977", ".0903", ".0736", ".0713", "RM", ".1006", ".0681", ".0754", ".0737", ".0573", ".0628", "Arabic", "Cosine", ".2023", ".1654", ".1486", ".1794", ".1558", ".1348", "RM", ".1884", ".1356", ".1404", ".1581", ".1206", ".1377", "Mandarin", "Cosine", ".2156", ".1794", ".1714", ".1657", ".1557", ".1422", "RM", ".1829", ".1272", ".0991", ".1286", ".0935", ".0847", "Figure", "3", ":", "DET", "curves", "for", "TDT3", "tracking", ",", "cosine", "similarity", ",", "N", "t", "=", "4", "training", "stories", ",", "global", "adapted", "vs.", "native", "adapted", "breakdown", "for", "English", ",", "Arabic", ",", "and", "Mandarin", "In", "trying", "to", "account", "for", "the", "discrepancy", "between", "the", "findings", "on", "link", "detection", "and", "tracking", ",", "we", "suspected", "that", "the", "root", "of", "the", "problem", "was", "the", "quality", "of", "native", "models", "for", "Arabic", "and", "Mandarin", ".", "For", "English", ",", "adaptation", "began", "with", "2", "or", "4", "on-topic", "models", ".", "However", ",", "Mandarin", "and", "Arabic", "models", "did", "not", "begin", "with", "on-topic", "stories", ";", "they", "could", "begin", "with", "off-topic", "models", ",", "which", "should", "hurt", "tracking", "performance", ".", "A", "related", "issue", "is", "data", "sparseness", ".", "When", "a", "native", "topic", "model", "is", "first", "formed", ",", "it", "is", "based", "on", "one", "story", ",", "which", "is", "a", "poorer", "basis", "for", "tracking", "than", "N", "t", "stories", ".", "In", "the", "next", "three", "sections", "we", "pursue", "different", "aspects", "of", "these", "suspicions", ".", "In", "section", "5", "we", "perform", "a", "best-case", "experiment", ",", "initializing", "native", "topic", "sets", "with", "on-topic", "stories", ",", "and", "smoothing", "native", "scores", "with", "global", "scores", "to", "address", "the", "sparseness", "problem", ".", "If", "these", "conditions", "do", "not", "show", "a", "native", "language", "advantage", ",", "we", "would", "reject", "the", "native", "language", "hypothesis", ".", "In", "section", "6", "we", "explore", "the", "role", "of", "the", "adaptation", "threshold", ".", "In", "section", "7", "we", "compare", "some", "additional", "methods", "of", "initializing", "native", "language", "topic", "models", ".", "In", "this", "section", ",", "we", "consider", "a", "best-case", "scenario", ",", "where", "we", "take", "the", "first", "N", "t", "stories", "in", "each", "language", "relevant", "to", "each", "topic", ",", "to", "initialize", "adaptation", "of", "native", "topic", "models", ".", "While", "this", "is", "cheating", ",", "and", "not", "a", "way", "to", "obtain", "native", "training", "documents", "in", "a", "realistic", "tracking", "scenario", ",", "it", "demonstrates", "what", "performance", "can", "be", "attained", "if", "native", "training", "documents", "are", "available", ".", "More", "realistic", "approaches", "to", "adapting", "native", "topic", "models", "are", "considered", "in", "subsequent", "sections", ".", "The", "baseline", "and", "global", "adapted", "conditions", "were", "carried", "out", "as", "in", "Section", "4", ",", "and", "the", "native", "adapted", "condition", "was", "similar", "except", "in", "the", "way", "adaptation", "of", "native", "topics", "began", ".", "If", "there", "were", "not", "yet", "N", "t", "native", "stories", "in", "the", "topic", "set", "for", "the", "current", "test", "story", "in", "its", "native", "language", ",", "the", "story", "was", "added", "to", "the", "topic", "set", "if", "it", "was", "relevant", ".", "Once", "a", "native", "topic", "model", "had", "N", "t", "stories", ",", "we", "switched", "to", "the", "usual", "non-cheating", "mode", "of", "adaptation", ",", "based", "on", "similarity", "score", "and", "adaptation", "threshold", ".", "To", "address", "the", "data", "sparseness", "problem", ",", "we", "also", "smoothed", "the", "native", "similarity", "scores", "with", "the", "global", "similarity", "scores", ":", "406", "-RRB-", ",", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", ",", "-LRB-", "-RRB-", ",", "-LRB-", "S", "T", "Sim", "S", "T", "Sim", "S", "T", "Sim", "global", "native", "smooth", "+", "=", "-LRB-", "11", "-RRB-", "The", "parameter", "was", "not", "tuned", ",", "but", "set", "to", "a", "fixed", "value", "of", "0.5", ".", "The", "results", "can", "be", "seen", "in", "Table", "7", ".", "Shaded", "cell", "pairs", "indicate", "confirmation", "of", "the", "native", "language", "hypothesis", ",", "where", "language-specific", "topic", "models", "outperform", "global", "models", ".", "Table", "7", ":", "Min", "-LRB-", "C", "det", "-RRB-", "Norm", "for", "TDT3", "topic", "tracking", ",", "using", "N", "t", "on-topic", "native", "training", "stories", "and", "smoothing", "native", "scores", "N", "t", "=", "2", "N", "t", "=", "4", "Adapted", "Adapted", "Baseline", "Global", "Native", "Baseline", "Global", "Native", "Cosine", ".1501", ".1197", ".0932", ".1238", ".1074", ".0758", "Rel", ".", ".1283", ".0892", ".0702", ".1060", ".0818", ".0611", "Figure", "4", ":", "DET", "curve", "for", "TDT3", "tracking", ",", "initializing", "native", "adaptation", "with", "relevant", "training", "stories", "during", "adaptation", ",", "cosine", "similarity", ",", "N", "t", "=", "4", "Figure", "4", "shows", "the", "DET", "curves", "for", "cosine", ",", "N", "t", "=", "4", "case", ".", "When", "the", "native", "models", "are", "initialized", "with", "on-topic", "stories", ",", "the", "advantage", "to", "native", "models", "is", "clearly", "seen", "in", "the", "tracking", "performance", ".", "Figure", "5", ":", "DET", "curve", "for", "TDT3", "tracking", "initializing", "native", "adaptation", "with", "relevant", "training", "stories", "during", "adaptation", "and", "smoothing", ",", "vs.", "global", "adaptation", ",", "cosine", "similarity", ",", "N", "t", "=", "4", ",", "separate", "analyses", "for", "English", ",", "Arabic", ",", "and", "Mandarin", ".", "DET", "curves", "showing", "results", "computed", "separately", "for", "the", "three", "languages", "can", "be", "seen", "in", "Figure", "5", ",", "for", "the", "cosine", ",", "N", "t", "=", "4", "case", ".", "It", "can", "be", "clearly", "seen", "that", "English", "tracking", "remains", "about", "the", "same", "but", "the", "Arabic", "and", "Mandarin", "native", "tracking", "show", "a", "large", "native", "language", "advantage", ".", "The", "adaptation", "threshold", "was", "set", "to", "0.5", "in", "the", "experiments", "described", "above", "without", "any", "tuning", ".", "The", "increase", "in", "global", "tracking", "performance", "after", "adaptation", "shows", "that", "the", "value", "is", "at", "least", "acceptable", ".", "However", ",", "an", "analysis", "of", "the", "details", "of", "native", "adaptation", "showed", "that", "many", "Arabic", "and", "Mandarin", "topics", "were", "not", "adapting", ".", "A", "summary", "of", "some", "of", "this", "analysis", "can", "be", "seen", "in", "Table", "8", ".", "Table", "8", ":", "Number", "of", "topics", "receiving", "new", "stories", "during", "native", "adaptation", ",", "breakdown", "by", "language", "Total", "Topics", "receiving", "more", "stories", "Similarity", "N", "t", "Topics", "English", "Arabic", "Mandarin", "2", "36", "24", "8", "11", "Cosine", "4", "30", "26", "7", "9", "2", "36", "36", "8", "7", "Relevance", "Model", "4", "30", "30", "8", "5", "Fewer", "than", "a", "third", "of", "the", "topics", "received", "adapted", "stories", ".", "This", "means", "that", "for", "most", "topics", ",", "native", "tracking", "was", "based", "on", "the", "global", "models", ".", "In", "order", "to", "determine", "whether", "this", "was", "due", "to", "the", "adaptation", "threshold", ",", "we", "performed", "an", "experiment", "varying", "the", "adaptation", "threshold", "from", ".3", "to", ".65", "in", "steps", "of", ".05", ".", "The", "results", "can", "be", "seen", "in", "Figure", "6", ",", "which", "shows", "the", "minimum", "cost", ",", "min", "-LRB-", "C", "Det", "-RRB-", "Norm", ",", "across", "the", "range", "of", "adaptation", "threshold", "values", ".", "Although", "we", "see", "that", "the", "original", "threshold", ",", ".5", ",", "was", "not", "always", "the", "optimal", "value", ",", "it", "is", "also", "clear", "that", "the", "pattern", "we", "saw", "at", ".5", "-LRB-", "and", "in", "Figure", "6", "-RRB-", "does", "not", "change", "as", "the", "threshold", "is", "varied", ",", "that", "is", "tracking", "with", "native", "topic", "models", "is", "not", "better", "than", "tracking", "with", "global", "models", ".", "An", "improperly", "tuned", "adaptation", "threshold", "was", "therefore", "not", "the", "reason", "that", "the", "native", "language", "hypothesis", "was", "not", "confirmed", "for", "tracking", ".", "We", "suspect", "that", "different", "adaptation", "thresholds", "may", "be", "needed", "for", "the", "different", "languages", ",", "but", "it", "would", "be", "better", "to", "handle", "this", "problem", "by", "language-specific", "normalization", "of", "similarity", "scores", ".", "0.06", "0.07", "0.08", "0.09", "0.1", "0.11", "0.12", "0.13", "0.14", "0.15", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "T", "hreshold", "Mi", "n", "C", "o", "s", "t", "Global", "Nt", "=", "2", "Global", "Nt", "=", "4", "Native", "Nt", "=", "2", "Native", "Nt", "=", "4", "Relevance", "Model", "0.06", "0.07", "0.08", "0.09", "0.1", "0.11", "0.12", "0.13", "0.14", "0.15", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "T", "hreshold", "Mi", "n", "C", "o", "s", "t", "Global", "Nt", "=", "2", "Global", "Nt", "=", "4", "Native", "Nt", "=", "2", "Native", "Nt", "=", "4", "Cosine", "Similarity", "Figure", "6", ":", "Effect", "of", "adaptation", "threshold", "on", "min", "-LRB-", "C", "Det", "-RRB-", "Norm", "on", "TDT3", "tracking", "with", "adaptation", ".", "In", "the", "previous", "two", "sections", "we", "showed", "that", "when", "native", "topic", "models", "are", "initialized", "with", "language", "specific", "training", "stories", "that", "are", "truly", "on-topic", ",", "then", "topic", "tracking", "is", "indeed", "better", "with", "native", "models", "than", "with", "global", "models", ".", "However", ",", "in", "context", "of", "the", "TDT", "407", "test", "situation", ",", "the", "way", "we", "obtained", "our", "language-specific", "training", "stories", "was", "cheating", ".", "In", "this", "section", "we", "experiment", "with", "2", "different", "``", "legal", "''", "ways", "to", "initialize", "better", "native", "language", "models", ":", "-LRB-", "1", "-RRB-", "Use", "both", "global", "and", "native", "models", ",", "and", "smooth", "native", "similarity", "scores", "with", "global", "similarity", "scores", ".", "-LRB-", "2", "-RRB-", "Initialize", "native", "models", "with", "dictionary", "or", "other", "translations", "of", "the", "English", "training", "stories", "into", "the", "other", "language", ".", "Smoothing", "was", "carried", "out", "in", "the", "native", "adapted", "condition", "according", "to", "Equation", "-LRB-", "11", "-RRB-", ",", "setting", "=", "0.5", ",", "without", "tuning", ".", "The", "comparison", "with", "unadapted", "and", "globally", "adapted", "tracking", "can", "be", "seen", "in", "Table", "9", ".", "The", "smoothing", "improves", "the", "native", "topic", "model", "performance", "relative", "to", "unsmoothed", "native", "topic", "models", "-LRB-", "cf.", "Table", "5", "-RRB-", ",", "and", "brings", "the", "native", "model", "performance", "to", "roughly", "the", "same", "level", "as", "the", "global", ".", "In", "other", "words", ",", "smoothing", "improves", "performance", ",", "but", "we", "still", "do", "not", "have", "strong", "support", "for", "the", "native", "language", "hypothesis", ".", "This", "is", "apparent", "in", "Figure", "7", ".", "Native", "adapted", "tracking", "is", "not", "better", "than", "global", "adapted", "tracking", ".", "Table", "9", ":", "Min", "-LRB-", "C", "det", "-RRB-", "Norm", "for", "TDT3", "topic", "tracking", ",", "smoothing", "native", "scores", "with", "global", "scores", "N", "t", "=", "2", "N", "t", "=", "4", "Adapted", "Adapted", "Baseline", "Global", "Native", "Smooth", "Baseline", "Global", "Native", "Smooth", "Cosine", ".1501", ".1197", ".1125", ".1238", ".1074", ".1010", "RM", ".1283", ".0892", ".0872", ".1060", ".0818", ".0840", "Figure", "7", ":", "DET", "curve", "for", "TDT3", "tracking", "with", "smoothing", ",", "cosine", "similarity", ",", "N", "t", "=", "4", "training", "stories", "The", "final", "method", "of", "initializing", "topic", "models", "for", "different", "languages", "would", "be", "to", "translate", "the", "English", "training", "stories", "into", "the", "other", "languages", "required", ".", "We", "did", "not", "have", "machine", "translation", "from", "English", "into", "Arabic", "or", "Mandarin", "available", "for", "these", "experiments", ".", "However", ",", "we", "have", "had", "success", "with", "dictionary", "translations", "for", "Arabic", ".", "In", "-LSB-", "2", "-RSB-", "we", "found", "that", "dictionary", "translations", "from", "Arabic", "into", "English", "resulted", "in", "comparable", "performance", "to", "the", "machine", "translations", "on", "tracking", ",", "and", "better", "performance", "on", "link", "detection", ".", "Such", "translated", "stories", "would", "not", "be", "``", "native", "language", "''", "training", "stories", ",", "but", "might", "be", "a", "better", "starting", "point", "for", "language-specific", "adaptation", "anyway", ".", "Training", "story", "translations", "into", "Arabic", "used", "an", "English/Arabic", "probabilistic", "dictionary", "derived", "from", "the", "Linguistic", "Data", "Consor-tium", "'s", "UN", "Arabic/English", "parallel", "corpus", ",", "developed", "for", "our", "cross-language", "information", "retrieval", "work", "-LSB-", "7", "-RSB-", ".", "Each", "English", "word", "has", "many", "different", "Arabic", "translations", ",", "each", "with", "a", "translation", "probability", "p", "-LRB-", "a", "|", "e", "-RRB-", ".", "The", "Arabic", "words", ",", "but", "not", "the", "English", "words", ",", "have", "been", "stemmed", "according", "to", "a", "light", "stemming", "algorithm", ".", "To", "translate", "an", "English", "story", ",", "English", "stop", "words", "were", "removed", ",", "and", "each", "English", "word", "occurrence", "was", "replaced", "by", "all", "of", "its", "dictionary", "translations", ",", "weighted", "by", "their", "translation", "probabilities", ".", "Weights", "were", "summed", "across", "all", "the", "occurrences", "of", "each", "Arabic", "word", ",", "and", "the", "resulting", "Arabic", "term", "vector", "was", "truncated", "to", "retain", "only", "terms", "above", "a", "threshold", "weight", ".", "We", "translated", "training", "stories", "only", "into", "Arabic", ",", "because", "we", "did", "not", "have", "a", "method", "to", "produce", "good", "quality", "English", "to", "Mandarin", "translation", ".", "The", "results", "for", "Arabic", "can", "be", "seen", "in", "Table", "10", ".", "For", "translation", ",", "it", "makes", "sense", "to", "include", "an", "unadapted", "native", "condition", ",", "labeled", "translated", "in", "the", "table", ".", "Table", "10", ":", "Min", "-LRB-", "C", "det", "-RRB-", "Norm", "for", "Arabic", "TDT3", "topic", "tracking", ",", "initializing", "native", "topic", "models", "with", "dictionary-translated", "training", "stories", "Arabic", "N", "t", "=", "2", "Unadapted", "Adapted", "Baseline", "Translated", "Global", "Native", "Cosine", ".2023", ".2219", ".1694", ".2209", "RM", ".1884", ".1625", ".1356", ".1613", "Arabic", "N", "t", "=", "4", "Cosine", ".1794", ".1640", ".1558", "1655", "RM", ".1581", ".1316", ".1206", ".1325", "Figure", "8", ":", "DET", "curve", "for", "TDT3", "tracking", "initializing", "native", "topics", "with", "dictionary-translated", "training", "stories", ",", "cosine", "similarity", ",", "N", "t", "=", "4", ",", "Arabic", "only", "The", "results", "are", "mixed", ".", "First", "of", "all", ",", "this", "case", "is", "unusual", "in", "that", "adaptation", "does", "not", "improve", "translated", "models", ".", "Further", "analysis", "revealed", "that", "very", "little", "adaptation", "was", "taking", "place", ".", "Because", "of", "this", "lack", "of", "native", "adaptation", ",", "global", "adaptation", "consistently", "outperformed", "native", "adaptation", "here", ".", "However", ",", "in", "the", "unadapted", "conditions", ",", "translated", "training", "stories", "outperformed", "the", "global", "models", "for", "Arabic", "in", "three", "of", "the", "four", "cases", "-", "cosine", "N", "t", "=", "4", "and", "relevance", "models", "for", "N", "t", "=", "2", "and", "N", "t", "=", "4", "-LRB-", "the", "shaded", "baseline-trans-408", "lated", "pairs", "in", "Table", "10", "-RRB-", ".", "The", "DET", "curve", "for", "the", "cosine", "N", "t", "=", "4", "case", "can", "be", "seen", "in", "Figure", "8", ".", "The", "native", "unadapted", "curve", "is", "better", "-LRB-", "lower", "-RRB-", "than", "the", "global", "unadapted", "curve", ".", "The", "translated", "stories", "were", "very", "different", "from", "the", "test", "stories", ",", "so", "their", "similarity", "scores", "almost", "always", "fell", "below", "the", "adaptation", "threshold", ".", "We", "believe", "the", "need", "to", "normalize", "scores", "between", "native", "stories", "and", "dictionary", "translations", "is", "part", "of", "the", "problem", ",", "but", "we", "also", "need", "to", "investigate", "the", "compatibility", "of", "the", "dictionary", "translations", "with", "the", "native", "Arabic", "stories", ".", "We", "have", "confirmed", "the", "native", "language", "hypothesis", "for", "story", "link", "detection", ".", "For", "topic", "tracking", ",", "the", "picture", "is", "more", "complicated", ".", "When", "native", "language", "training", "stories", "are", "available", ",", "good", "native", "language", "topic", "models", "can", "be", "built", "for", "tracking", "stories", "in", "their", "original", "language", ".", "Smoothing", "the", "native", "models", "with", "global", "models", "improves", "performance", "slightly", ".", "However", ",", "if", "training", "stories", "are", "not", "available", "in", "the", "different", "languages", ",", "it", "is", "difficult", "to", "form", "native", "models", "by", "adaptation", "or", "by", "translation", "of", "training", "stories", ",", "which", "perform", "better", "than", "the", "adapted", "global", "models", ".", "Why", "should", "language", "specific", "comparisons", "be", "more", "accurate", "than", "comparisons", "based", "on", "machine", "translation", "?", "Machine", "translations", "are", "not", "always", "good", "translations", ".", "If", "the", "translation", "distorts", "the", "meaning", "of", "the", "original", "story", ",", "it", "is", "unlikely", "to", "be", "similar", "to", "the", "topic", "model", ",", "particularly", "if", "proper", "names", "are", "incorrect", ",", "or", "spelled", "differently", "in", "the", "machine", "translations", "than", "they", "are", "in", "the", "English", "training", "stories", ",", "a", "common", "problem", "in", "English", "translations", "from", "Mandarin", "or", "Arabic", ".", "Secondly", ",", "even", "if", "the", "translations", "are", "correct", ",", "the", "choice", "of", "words", ",", "and", "hence", "the", "language", "models", ",", "are", "likely", "to", "be", "different", "across", "languages", ".", "The", "second", "problem", "could", "be", "han-dled", "by", "normalizing", "for", "source", "language", ",", "as", "in", "-LSB-", "12", "-RSB-", ".", "But", "normalization", "can", "not", "compensate", "for", "poor", "translation", ".", "We", "were", "surprised", "that", "translating", "the", "training", "stories", "into", "Arabic", "to", "make", "Arabic", "topic", "models", "did", "not", "improve", "tracking", ",", "but", "again", ",", "our", "dictionary", "based", "translations", "of", "the", "topic", "models", "were", "different", "from", "native", "Arabic", "stories", ".", "We", "intend", "to", "try", "the", "same", "experiment", "with", "manual", "translations", "of", "the", "training", "stories", "into", "Arabic", "and", "Mandarin", ".", "We", "are", "also", "planning", "to", "investigate", "the", "best", "way", "to", "normalize", "scores", "for", "different", "languages", ".", "When", "TDT4", "relevance", "judgments", "are", "available", "we", "intend", "to", "replicate", "some", "of", "these", "experiments", "on", "TDT4", "data", ".", "This", "work", "was", "supported", "in", "part", "by", "the", "Center", "for", "Intelligent", "Information", "Retrieval", "and", "in", "part", "by", "SPAWARSYSCEN-SD", "grant", "number", "N66001-02-1-8903", ".", "Any", "opinions", ",", "findings", "and", "conclusions", "or", "recommendations", "expressed", "in", "this", "material", "are", "the", "author", "-LRB-", "s", "-RRB-", "and", "do", "not", "necessarily", "reflect", "those", "of", "the", "sponsor", ".", "-LSB-", "1", "-RSB-", "Allan", ",", "J.", "Introduction", "to", "topic", "detection", "and", "tracking", ".", "In", "Topic", "detection", "and", "tracking", ":", "Event-based", "information", "organization", ",", "J.", "Allan", "-LRB-", "ed", ".", "-RRB-", ":", "Kluwer", "Academic", "Publishers", ",", "1-16", ",", "2002", ".", "-LSB-", "2", "-RSB-", "Allan", ",", "J.", "Bolivar", ",", "A.", ",", "Connell", ",", "M.", ",", "Cronen-Townsend", ",", "S.", ",", "Feng", ",", "A", ",", "Feng", ",", "F.", ",", "Kumaran", ",", "G.", ",", "Larkey", ",", "L.", ",", "Lavrenko", ",", "V.", ",", "Raghavan", ",", "H.", "UMass", "TDT", "2003", "Research", "Summary", ".", "In", "Proceedings", "of", "TDT", "2003", "evaluation", ",", "unpublished", ",", "2003", ".", "-LSB-", "3", "-RSB-", "Chen", ",", "H.-H", ".", "and", "Ku", ",", "L.", "W", ".", "An", "NLP", "&", "IR", "approach", "to", "topic", "detection", ".", "In", "Topic", "detection", "and", "tracking", ":", "Event-based", "information", "organization", ",", "J.", "Allan", "-LRB-", "ed", ".", "-RRB-", ".", "Boston", ",", "MA", ":", "Kluwer", ",", "243-264", ",", "2002", ".", "-LSB-", "4", "-RSB-", "Chen", ",", "Y.-J", ".", "and", "Chen", ",", "H.-H", ".", "Nlp", "and", "IR", "approaches", "to", "monolingual", "and", "multilingual", "link", "detection", ".", "Presented", "at", "Proceedings", "of", "19th", "International", "Conference", "on", "Computa-tional", "Linguistics", ",", "Taipei", ",", "Taiwan", ",", "2002", ".", "-LSB-", "5", "-RSB-", "Fiscus", ",", "J.", "G.", "and", "Doddington", ",", "G.", "R.", "Topic", "detection", "and", "tracking", "evaluation", "overview", ".", "In", "Topic", "detection", "and", "tracking", ":", "Event-based", "information", "organization", ",", "J.", "Allan", "-LRB-", "ed", ".", "-RRB-", ".", "Boston", ",", "MA", ":", "Kluwer", ",", "17-32", ",", "2002", ".", "-LSB-", "6", "-RSB-", "Krovetz", ",", "R.", "Viewing", "morphology", "as", "an", "inference", "process", ".", "In", "Proceedings", "of", "SIGIR", "'", "93", ",", "191-203", ",", "1993", ".", "-LSB-", "7", "-RSB-", "Larkey", ",", "Leah", "S.", "and", "Connell", ",", "Margaret", "E.", "-LRB-", "2003", "-RRB-", "Structured", "Queries", ",", "Language", "Modeling", ",", "and", "Relevance", "Modeling", "in", "Cross-Language", "Information", "Retrieval", ".", "To", "appear", "in", "Information", "Processing", "and", "Management", "Special", "Issue", "on", "Cross", "Language", "Information", "Retrieval", ",", "2003", ".", "-LSB-", "8", "-RSB-", "Larkey", ",", "L.", "S.", ",", "Ballesteros", ",", "L.", ",", "and", "Connell", ",", "M.", "E.", "Improving", "stemming", "for", "Arabic", "information", "retrieval", ":", "Light", "stemming", "and", "co-occurrence", "analysis", ".", "In", "Proceedings", "of", "SIGIR", "2002", ",", "275-282", ",", "2002", ".", "-LSB-", "9", "-RSB-", "Lavrenko", ",", "V.", "and", "Croft", ",", "W.", "B.", "Relevance-based", "language", "models", ".", "In", "Proceedings", "of", "SIGIR", "2001", ".", "New", "Orleans", ":", "ACM", ",", "120-127", ",", "2001", ".", "-LSB-", "10", "-RSB-", "Lavrenko", ",", "V.", "and", "Croft", ",", "W.", "B.", "Relevance", "models", "in", "information", "retrieval", ".", "In", "Language", "modeling", "for", "information", "retrieval", ",", "W.", "B.", "Croft", "and", "J.", "Lafferty", "-LRB-", "eds", ".", "-RRB-", ".", "Boston", ":", "Kluwer", ",", "11-56", ",", "2003", ".", "-LSB-", "11", "-RSB-", "Lavrenko", ",", "V.", ",", "Allan", ",", "J.", ",", "DeGuzman", ",", "E.", ",", "LaFlamme", ",", "D.", ",", "Pollard", ",", "V.", ",", "and", "Thomas", ",", "S.", "Relevance", "models", "for", "topic", "detection", "and", "tracking", ".", "In", "Proceedings", "of", "the", "Conference", "on", "Human", "Language", "Technology", ",", "104-110", ",", "2002", ".", "-LSB-", "12", "-RSB-", "Leek", ",", "T.", ",", "Schwartz", ",", "R.", "M.", ",", "and", "Sista", ",", "S.", "Probabilistic", "approaches", "to", "topic", "detection", "and", "tracking", ".", "In", "Topic", "detection", "and", "tracking", ":", "Event-based", "information", "organization", ",", "J.", "Allan", "-LRB-", "ed", ".", "-RRB-", ".", "Boston", ",", "MA", ":", "Kluwer", ",", "67-83", ",", "2002", ".", "-LSB-", "13", "-RSB-", "Levow", ",", "G.-A", ".", "and", "Oard", ",", "D.", "W.", "Signal", "boosting", "for", "translin-gual", "topic", "tracking", ":", "Document", "expansion", "and", "n-best", "translation", ".", "In", "Topic", "detection", "and", "tracking", ":", "Event-based", "information", "organization", ",", "J.", "Allan", "-LRB-", "ed", ".", "-RRB-", ".", "Boston", ",", "MA", ":", "Kluwer", ",", "175-195", ",", "2002", ".", "-LSB-", "14", "-RSB-", "Oard", ",", "D.", "W.", "Adaptive", "vector", "space", "text", "filtering", "for", "monolingual", "and", "cross-language", "applications", ".", "PhD", "dissertation", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "1996", ".", "http://www.glue.umd.edu/~dlrg/filter/papers/thesis.ps.gz", "409"], "doc_bio_tags": ["O", "O", "O", "B", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["arabic", "classification", "native language hypothesis", "story link", "similarity", "machine translation", "topic tracking", "native topic models", "multilingual", "topic models", "tdt"], "abstractive_keyphrases": ["crosslingual", "multilingual topic tracking"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "120", "document": ["KDDCS", ":", "A", "Load-Balanced", "In-Network", "Data-Centric", "Storage", "Scheme", "for", "Sensor", "Networks", "We", "propose", "an", "In-Network", "Data-Centric", "Storage", "-LRB-", "INDCS", "-RRB-", "scheme", "for", "answering", "ad-hoc", "queries", "in", "sensor", "networks", ".", "Previously", "proposed", "In-Network", "Storage", "-LRB-", "INS", "-RRB-", "schemes", "suffered", "from", "Storage", "Hot-Spots", "that", "are", "formed", "if", "either", "the", "sensors", "'", "locations", "are", "not", "uniformly", "distributed", "over", "the", "coverage", "area", ",", "or", "the", "distribution", "of", "sensor", "readings", "is", "not", "uniform", "over", "the", "range", "of", "possible", "reading", "values", ".", "Our", "K-D", "tree", "based", "Data-Centric", "Storage", "-LRB-", "KDDCS", "-RRB-", "scheme", "maintains", "the", "invariant", "that", "the", "storage", "of", "events", "is", "distributed", "reasonably", "uniformly", "among", "the", "sensors", ".", "KDDCS", "is", "composed", "of", "a", "set", "of", "distributed", "algorithms", "whose", "running", "time", "is", "within", "a", "poly-log", "factor", "of", "the", "diameter", "of", "the", "network", ".", "The", "number", "of", "messages", "any", "sensor", "has", "to", "send", ",", "as", "well", "as", "the", "bits", "in", "those", "messages", ",", "is", "poly-logarithmic", "in", "the", "number", "of", "sensors", ".", "Load", "balancing", "in", "KDDCS", "is", "based", "on", "defining", "and", "distributively", "solving", "a", "theoretical", "problem", "that", "we", "call", "the", "Weighted", "Split", "Median", "problem", ".", "In", "addition", "to", "analytical", "bounds", "on", "KDDCS", "individual", "algorithms", ",", "we", "provide", "experimental", "evidence", "of", "our", "scheme", "'s", "general", "efficiency", ",", "as", "well", "as", "its", "ability", "to", "avoid", "the", "formation", "of", "storage", "hot-spots", "of", "various", "sizes", ",", "unlike", "all", "previous", "INDCS", "schemes", ".", "H.", "2.4", "-LSB-", "Database", "Management", "-RSB-", ":", "Systems", "--", "Distributed", "databases", ",", "Query", "processing", "Algorithms", ",", "Design", ",", "Experimentation", ",", "Performance", "Sensor", "networks", "provide", "us", "with", "the", "means", "of", "effectively", "monitoring", "and", "interacting", "with", "the", "physical", "world", ".", "As", "an", "illustrative", "example", "of", "the", "type", "of", "sensor", "network", "application", "that", "concerns", "us", "here", ",", "consider", "an", "emergency/disaster", "scenario", "where", "sensors", "are", "This", "work", "has", "been", "funded", "in", "part", "by", "NSF", "grants", "ANI-0325353", ",", "CCF-0448196", ",", "CCF-0514058", ",", "and", "IIS-0534531", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "06", ",", "November", "5", "11", ",", "2006", ",", "Arlington", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-433-2", "/", "06/0011", "...", "$", "5.00", ".", "deployed", "in", "the", "area", "of", "the", "disaster", "-LSB-", "17", "-RSB-", ".", "It", "is", "the", "responsibility", "of", "the", "sensor", "network", "to", "sense", "and", "store", "events", "of", "potential", "interest", ".", "An", "event", "is", "composed", "of", "one", "or", "more", "attributes", "-LRB-", "e.g.", "temperature", ",", "carbon", "monoxide", "level", ",", "etc.", "-RRB-", ",", "the", "identity", "of", "the", "sensor", "that", "sensed", "the", "event", ",", "and", "the", "time", "when", "the", "event", "was", "sensed", ".", "As", "first", "responders", "move", "through", "the", "disaster", "area", "with", "hand-held", "devices", ",", "they", "issue", "queries", "about", "recent", "events", "in", "the", "network", ".", "For", "example", ",", "the", "first", "responder", "might", "ask", "for", "the", "location", "of", "all", "sensor", "nodes", "that", "recorded", "high", "carbon", "monoxide", "levels", "in", "the", "last", "15", "minutes", ",", "or", "he", "might", "ask", "whether", "any", "sensor", "node", "detected", "movement", "in", "the", "last", "minute", ".", "Queries", "are", "picked", "up", "by", "sensors", "in", "the", "region", "of", "the", "first", "responder", ".", "The", "sensor", "network", "is", "then", "responsible", "for", "answering", "these", "queries", ".", "The", "first", "responders", "use", "these", "query", "answers", "to", "make", "decisions", "on", "how", "to", "best", "manage", "the", "emergency", ".", "The", "ad-hoc", "queries", "of", "the", "first", "responders", "will", "generally", "be", "multi-dimensional", "range", "queries", "-LSB-", "9", "-RSB-", ",", "that", "is", ",", "the", "queries", "concern", "sensor", "readings", "that", "were", "sensed", "over", "a", "small", "time", "window", "in", "the", "near", "past", "and", "that", "fall", "in", "a", "given", "range", "of", "the", "attribute", "values", ".", "In-Network", "Storage", "-LRB-", "INS", "-RRB-", "is", "a", "storage", "technique", "that", "has", "been", "specifically", "presented", "to", "efficiently", "process", "this", "type", "of", "queries", ".", "INS", "involves", "storing", "events", "locally", "in", "the", "sensor", "nodes", ".", "Storage", "may", "be", "in-network", "because", "it", "is", "more", "efficient", "than", "shipping", "all", "the", "data", "-LRB-", "i.e.", ",", "raw", "sensor", "readings", "-RRB-", "out", "of", "the", "network", "-LRB-", "for", "example", "to", "base", "stations", "-RRB-", ",", "or", "simply", "because", "no", "out-of-network", "storage", "is", "available", ".", "All", "INS", "schemes", "already", "presented", "in", "literature", "were", "Data-Centric", "Storage", "-LRB-", "DCS", "-RRB-", "schemes", "-LSB-", "15", "-RSB-", ".", "In", "any", "In-Network", "Data-Centric", "Storage", "-LRB-", "INDCS", "-RRB-", "scheme", ",", "there", "exists", "a", "function", "from", "events", "to", "sensors", "that", "maps", "each", "event", "to", "an", "owner", "sensor", "based", "on", "the", "value", "of", "the", "attributes", "of", "that", "event", ".", "The", "owner", "sensor", "will", "be", "responsible", "for", "storing", "this", "event", ".", "The", "owner", "may", "be", "different", "than", "the", "sensor", "that", "originally", "generated", "the", "event", ".", "To", "date", ",", "the", "Distributed", "Index", "for", "Multi-dimensional", "data", "-LRB-", "DIM", "-RRB-", "scheme", "-LSB-", "9", "-RSB-", "has", "been", "shown", "to", "exhibit", "the", "best", "performance", "among", "all", "proposed", "INDCS", "schemes", "in", "dealing", "with", "sensor", "networks", "whose", "query", "loads", "are", "basically", "composed", "of", "ad-hoc", "queries", ".", "In", "DIM", "-LSB-", "9", "-RSB-", ",", "the", "events-to-sensors", "mapping", "is", "based", "on", "a", "K-D", "tree", "-LSB-", "3", "-RSB-", ",", "where", "the", "leaves", "R", "form", "a", "partition", "of", "the", "coverage", "area", ",", "and", "each", "element", "of", "R", "contains", "either", "zero", "or", "one", "sensor", ".", "The", "formation", "of", "the", "K-D", "tree", "consists", "of", "rounds", ".", "Initially", ",", "R", "is", "a", "one", "element", "set", "containing", "the", "whole", "coverage", "area", ".", "In", "each", "odd/even", "round", "r", ",", "each", "region", "R", "R", "that", "contains", "more", "than", "one", "sensor", "is", "bisected", "horizontally/vertically", ".", "Each", "time", "that", "a", "region", "is", "split", ",", "each", "sensor", "in", "that", "region", "has", "a", "bit", "appended", "to", "its", "address", "specifying", "which", "side", "of", "the", "split", "the", "sensor", "was", "on", ".", "Thus", ",", "the", "length", "of", "a", "sensor", "'s", "address", "-LRB-", "bit-code", "-RRB-", "is", "its", "depth", "in", "the", "underlying", "K-D", "tree", ".", "When", "a", "sensor", "generates", "an", "event", ",", "it", "maps", "such", "event", "to", "a", "binary", "code", "based", "on", "a", "repetitive", "fixed", "uniform", "splitting", "of", "the", "attributes", "'", "ranges", "in", "a", "round", "robin", "fashion", ".", "For", "our", "purposes", ",", "it", "is", "sufficient", "for", "now", "to", "317", "consider", "the", "cases", "that", "the", "event", "consists", "of", "only", "one", "attribute", ",", "say", "temperature", ".", "Then", ",", "the", "high", "order", "bits", "of", "the", "temperature", "are", "used", "to", "determine", "a", "root-to-leaf", "path", "in", "the", "K-D", "tree", ",", "and", "if", "there", "is", "a", "sensor", "in", "the", "region", "of", "the", "leaf", ",", "then", "this", "sensor", "is", "the", "owner", "of", "this", "event", ".", "Due", "to", "the", "regularity", "of", "regions", "in", "this", "K-D", "tree", ",", "the", "routing", "of", "an", "event", "from", "the", "generating", "sensor", "to", "the", "owner", "sensor", "is", "particularly", "easy", "using", "Greedy", "Perimeter", "Stateless", "Routing", "-LRB-", "GPSR", "-RRB-", "-LSB-", "6", "-RSB-", ".", "Full", "description", "of", "DIM", "is", "presented", "in", "Section", "2", ".", "Though", "it", "is", "the", "best", "DCS", "scheme", "so", "far", ",", "DIM", "suffers", "from", "several", "problems", ".", "One", "problem", "is", "that", "events", "may", "well", "be", "mapped", "to", "orphan", "regions", "that", "contain", "no", "sensors", ".", "Thus", ",", "DIM", "requires", "some", "kludge", "to", "assign", "orphan", "regions", "to", "neighboring", "sensors", ".", "Another", "major", "problem", "in", "DIM", "is", "that", "of", "storage", "hot-spots", ".", "Storage", "hot-spots", "may", "occur", "if", "the", "sensors", "are", "not", "uniformly", "distributed", ".", "A", "storage", "hot-spot", "occurs", "when", "relatively", "many", "events", "are", "assigned", "to", "a", "relatively", "small", "number", "of", "the", "sensors", ".", "For", "example", ",", "if", "there", "was", "only", "one", "sensor", "on", "one", "side", "of", "the", "first", "bisection", ",", "then", "half", "of", "the", "events", "would", "be", "mapped", "to", "this", "sensor", "if", "the", "events", "were", "uniformly", "distributed", "over", "the", "range", "of", "possible", "events", ".", "Due", "to", "their", "storage", "constraints", ",", "the", "presence", "of", "a", "storage", "hot-spot", "leads", "to", "increasing", "the", "dropping", "rate", "of", "events", "by", "overloaded", "sensors", ".", "Clearly", ",", "this", "has", "a", "significant", "impact", "on", "the", "quality", "of", "data", "-LRB-", "QoD", "-RRB-", "generated", "by", "the", "sensor", "network", ".", "Queries", "for", "events", "in", "a", "storage", "hot-spot", "may", "be", "delayed", "due", "to", "contention", "at", "the", "storage", "sensors", "and", "the", "surrounding", "sensors", ".", "More", "critically", ",", "the", "sensors", "in", "and", "near", "the", "hot-spot", "may", "quickly", "run", "out", "of", "energy", ",", "due", "to", "the", "high", "insertion/query", "load", "imposed", "to", "them", ".", "This", "results", "in", "a", "loss", "of", "the", "events", "generated", "at", "these", "sensors", ",", "the", "events", "stored", "at", "these", "sensors", ",", "and", "possibly", "a", "decrease", "in", "network", "connectivity", ".", "Increased", "death", "of", "sensors", "results", "in", "decreasing", "the", "coverage", "area", "and", "causes", "the", "formation", "of", "coverage", "gaps", "within", "such", "area", ".", "Both", "of", "which", "consequently", "decrease", "QoD", ".", "Certainly", ",", "it", "is", "not", "desirable", "to", "have", "a", "storage", "scheme", "whose", "performance", "and", "QoD", "guarantees", "rest", "on", "the", "assumption", "that", "the", "sensors", "are", "uniformly", "distributed", "geographically", ".", "Storage", "hot-spots", "may", "also", "occur", "in", "DIM", "if", "the", "distribution", "of", "events", "is", "not", "uniform", "over", "the", "range", "of", "possible", "events", ".", "It", "is", "difficult", "to", "imagine", "any", "reasonable", "scenario", "where", "the", "events", "are", "uniformly", "distributed", "over", "the", "range", "of", "all", "possible", "events", ".", "Consider", "the", "situation", "where", "the", "only", "attribute", "sensed", "is", "temperature", ".", "One", "would", "expect", "that", "most", "temperature", "readings", "would", "be", "clustered", "within", "a", "relatively", "small", "range", "rather", "than", "uniform", "over", "all", "possible", "temperatures", ".", "Without", "any", "load", "balancing", ",", "those", "sensors", "responsible", "for", "temperatures", "outside", "this", "range", "would", "store", "no", "events", ".", "In", "this", "paper", ",", "we", "provide", "a", "load-balanced", "INDCS", "scheme", "based", "on", "K-D", "trees", ",", "that", "we", ",", "not", "surprisingly", ",", "call", "K-D", "tree", "based", "DCS", "-LRB-", "KDDCS", "-RRB-", ".", "In", "our", "KDDCS", "scheme", ",", "the", "refinement", "of", "regions", "in", "the", "formation", "of", "the", "K-D", "tree", "has", "the", "property", "that", "the", "numbers", "of", "sensors", "on", "both", "sides", "of", "the", "partition", "are", "approximately", "equal", ".", "As", "a", "result", "of", "this", ",", "our", "K-D", "tree", "will", "be", "balanced", ",", "there", "will", "be", "no", "orphan", "regions", ",", "and", ",", "regardless", "of", "the", "geographic", "distribution", "of", "the", "sensors", ",", "the", "ownership", "of", "events", "will", "uniformly", "distributed", "over", "the", "sensors", "if", "the", "events", "are", "uniformly", "distributed", "over", "the", "range", "of", "possible", "events", ".", "We", "present", "a", "modification", "of", "GPSR", "routing", ",", "namely", "Logical", "Stateless", "Routing", "-LRB-", "LSR", "-RRB-", ",", "for", "the", "routing", "of", "events", "from", "their", "generating", "sensors", "to", "their", "owner", "sensors", ",", "that", "is", "competitive", "with", "the", "GPSR", "routing", "used", "in", "DIM", ".", "In", "order", "to", "maintain", "load", "balance", "in", "the", "likely", "situation", "that", "the", "events", "are", "not", "uniformly", "distributed", ",", "we", "present", "a", "re-balancing", "algorithm", "that", "we", "call", "K-D", "Tree", "Re-balancing", "-LRB-", "KDTR", "-RRB-", ".", "Our", "re-balancing", "algorithm", "guarantees", "load", "balance", "even", "if", "the", "event", "distribution", "is", "not", "uniform", ".", "KDTR", "has", "essentially", "minimal", "overhead", ".", "We", "identify", "a", "problem", ",", "that", "we", "call", "the", "weighted", "split", "median", "problem", ",", "that", "is", "at", "the", "heart", "of", "both", "the", "construction", "of", "the", "initial", "K-D", "tree", ",", "and", "the", "re-balancing", "of", "the", "K-D", "tree", ".", "In", "the", "weighted", "split", "median", "problem", ",", "each", "sensor", "has", "an", "associated", "weight/multiplicity", ",", "and", "the", "sensors", "'", "goal", "is", "to", "distributively", "determine", "a", "vertical", "line", "with", "the", "property", "that", "the", "aggregate", "weight", "on", "each", "side", "of", "the", "line", "is", "approximately", "equal", ".", "We", "give", "a", "distributed", "algorithm", "for", "the", "weighted", "split", "median", "problem", ",", "and", "show", "how", "to", "use", "this", "algorithm", "to", "construct", "our", "initial", "K-D", "tree", ",", "and", "to", "re-balance", "the", "tree", "throughout", "the", "network", "lifetime", ".", "We", "are", "mindful", "of", "the", "time", ",", "message", "complexity", ",", "and", "node", "storage", "requirements", ",", "in", "the", "design", "and", "implementation", "of", "all", "of", "our", "algorithms", ".", "The", "time", "for", "all", "of", "our", "algorithms", "is", "within", "a", "poly-log", "factor", "of", "the", "diameter", "of", "the", "network", ".", "Obviously", ",", "no", "algorithm", "can", "have", "time", "complexity", "less", "than", "the", "diameter", "of", "the", "network", ".", "The", "number", "of", "messages", ",", "and", "number", "of", "bits", "in", "those", "messages", ",", "that", "any", "particular", "node", "is", "required", "to", "send", "by", "our", "algorithms", "is", "poly-logarithmic", "in", "number", "of", "sensors", ".", "The", "amount", "of", "information", "that", "each", "node", "must", "store", "to", "implement", "one", "of", "our", "algorithms", "is", "logarithmic", "in", "the", "number", "of", "sensors", ".", "Experimental", "evaluation", "shows", "that", "the", "main", "advantages", "of", "KDDCS", ",", "when", "compared", "to", "the", "pure", "DIM", ",", "are", ":", "Achieving", "a", "better", "data", "persistence", "by", "balancing", "the", "storage", "responsibility", "among", "sensor", "nodes", ".", "Increasing", "the", "QoD", "by", "distributing", "the", "storage", "hot-spot", "events", "among", "a", "larger", "number", "of", "sensors", ".", "Increasing", "the", "energy", "savings", "by", "achieving", "a", "well", "balanced", "energy", "consumption", "overhead", "among", "sensor", "nodes", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "presents", "an", "overview", "of", "the", "differences", "between", "DIM", "and", "KDDCS", ".", "Section", "3", "describes", "the", "weighted", "split", "median", "problem", ",", "and", "our", "distributed", "solution", ".", "Section", "4", "describes", "the", "components", "of", "KDDCS", ".", "Section", "5", "presents", "our", "K-D", "tree", "re-balancing", "algorithm", ".", "Experimental", "results", "are", "discussed", "in", "Section", "6", ".", "Section", "7", "presents", "the", "related", "work", ".", "In", "this", "section", ",", "we", "will", "briefly", "describe", "the", "components", "of", "both", "schemes", ",", "DIM", "and", "KDDCS", ",", "and", "highlight", "the", "differences", "between", "the", "two", "schemes", "using", "a", "simple", "example", ".", "We", "assume", "that", "the", "sensors", "are", "arbitrarily", "deployed", "in", "the", "convex", "bounded", "region", "R", ".", "We", "assume", "also", "that", "each", "sensor", "is", "able", "to", "determine", "its", "geographic", "location", "-LRB-", "i.e.", ",", "its", "x", "and", "y", "coordinates", "-RRB-", ",", "as", "well", "as", ",", "the", "boundaries", "of", "the", "service", "area", "R.", "Each", "node", "is", "assumed", "to", "have", "a", "unique", "NodeID", ",", "like", "a", "MAC", "address", ".", "Sensor", "nodes", "are", "assumed", "to", "have", "the", "capacity", "for", "wireless", "communication", ",", "basic", "processing", "and", "storage", ",", "and", "they", "are", "associated", "with", "the", "standard", "energy", "limitations", ".", "The", "main", "components", "of", "any", "DCS", "scheme", "are", ":", "the", "sensor", "to", "address", "mapping", "that", "gives", "a", "logical", "address", "to", "each", "sensor", ",", "and", "the", "event", "to", "owner-sensor", "mapping", "that", "determines", "which", "sensor", "will", "store", "the", "event", ".", "The", "components", "of", "DIM", "and", "KDDCS", "are", ":", "Repetitive", "splitting", "of", "the", "geographic", "region", "to", "form", "the", "underlying", "K-D", "tree", ",", "and", "the", "logical", "sensor", "addresses", ".", "Repetitive", "splitting", "of", "the", "attribute", "ranges", "to", "form", "the", "bit-code", "for", "an", "event", ".", "The", "routing", "scheme", "to", "route", "an", "event", "from", "the", "generating", "sensor", "to", "the", "owner", "sensor", ".", "We", "now", "explain", "how", "DIM", "implements", "these", "components", ".", "Let", "us", "start", "with", "the", "formation", "of", "the", "K-D", "tree", "in", "DIM", ".", "DIM", "starts", "the", "network", "operation", "with", "a", "static", "node", "to", "bit-code", "mapping", "phase", ".", "In", "such", "phase", ",", "each", "sensor", "locally", "determines", "its", "binary", "address", "by", "uniformly", "splitting", "the", "overall", "service", "area", "in", "a", "round", "318", "Figure", "1", ":", "Initial", "network", "configuration", "Figure", "2", ":", "DIM", "K-D", "tree", "robin", "fashion", ",", "horizontally", "then", "vertically", ",", "and", "left", "shifting", "its", "bit-code", "with", "every", "split", "by", "0", "-LRB-", "or", "1", "-RRB-", "bit", "when", "falling", "above", "-LRB-", "or", "below", "-RRB-", "the", "horizontal", "split", "line", "-LRB-", "similarly", ",", "by", "a", "0", "bit", "if", "falling", "on", "the", "left", "of", "the", "vertical", "split", "line", ",", "or", "a", "1", "bit", "otherwise", "-RRB-", ".", "Considering", "the", "region", "as", "partitioned", "into", "zones", ",", "the", "process", "ends", "when", "every", "sensor", "lies", "by", "itself", "in", "a", "zone", ",", "such", "that", "the", "sensor", "address", "is", "the", "zone", "bit", "code", ".", "Thus", ",", "the", "length", "of", "the", "binary", "address", "of", "each", "sensor", "-LRB-", "in", "bits", "-RRB-", "represents", "its", "depth", "in", "the", "underlying", "K-D", "tree", ".", "Note", "that", "from", "a", "sensor", "address", ",", "one", "can", "determine", "the", "physical", "location", "of", "the", "sensor", ".", "In", "case", "any", "orphan", "zones", "exist", "-LRB-", "zones", "physically", "containing", "no", "sensors", "in", "their", "geographic", "area", "-RRB-", ",", "the", "ownership", "of", "each", "of", "these", "zones", "is", "delegated", "to", "one", "of", "its", "neighbor", "sensors", ".", "As", "an", "example", ",", "consider", "the", "simple", "input", "shown", "in", "Figure", "1", ".", "The", "K-D", "tree", "formed", "by", "DIM", "is", "shown", "in", "Figure", "2", ".", "In", "this", "figure", ",", "the", "orphan", "zone", "-LRB-", "01", "-RRB-", "is", "assumed", "to", "be", "delegated", "to", "node", "001", ",", "which", "is", "the", "least", "loaded", "among", "its", "neighbors", ".", "We", "now", "turn", "to", "the", "construction", "of", "an", "event", "bit-code", "in", "DIM", ".", "The", "generation", "of", "the", "event", "bit-code", "proceeds", "in", "rounds", ".", "As", "we", "proceed", ",", "there", "is", "a", "range", "R", "j", "associated", "with", "each", "attribute", "j", "of", "the", "event", ".", "Initially", ",", "the", "range", "R", "j", "is", "the", "full", "range", "of", "possible", "values", "for", "attribute", "j", ".", "We", "now", "describe", "how", "a", "round", "i", "0", "works", ".", "Round", "i", ",", "determines", "the", "-LRB-", "i", "+1", "-RRB-", "th", "high", "order", "bit", "in", "the", "code", ".", "Round", "i", "depends", "on", "attribute", "j", "=", "i", "mod", "k", "of", "the", "event", ",", "where", "k", "is", "the", "number", "of", "attributes", "in", "the", "event", ".", "Assume", "the", "current", "value", "of", "R", "j", "is", "-LSB-", "a", ",", "c", "-RSB-", ",", "and", "let", "b", "=", "-LRB-", "a", "+", "c", "-RRB-", "/", "2", "be", "the", "midpoint", "of", "the", "range", "R", "j", ".", "If", "the", "value", "of", "attribute", "j", "is", "in", "the", "lower", "half", "of", "the", "range", "R", "j", ",", "that", "is", "in", "-LSB-", "a", ",", "b", "-RSB-", ",", "then", "the", "i", "th", "bit", "is", "0", ",", "and", "R", "j", "is", "set", "to", "be", "the", "lower", "half", "of", "R", "j", ".", "If", "the", "value", "of", "attribute", "j", "is", "in", "the", "upper", "half", "of", "the", "range", "R", "j", ",", "that", "is", "in", "-LSB-", "b", ",", "c", "-RSB-", ",", "then", "the", "i", "th", "bit", "is", "1", ",", "and", "R", "j", "is", "set", "to", "be", "the", "upper", "half", "of", "R", "j", ".", "To", "show", "the", "events", "to", "bit-code", "mapping", "in", "DIM", ",", "consider", "that", "the", "events", "in", "our", "example", "-LRB-", "shown", "in", "Figure", "2", "-RRB-", "are", "composed", "of", "two", "attributes", ",", "temperature", "and", "pressure", ",", "with", "ranges", "-LRB-", "30", ",", "70", "-RRB-", "and", "-LRB-", "0", ",", "2", "-RRB-", ",", "respectively", ".", "Let", "an", "event", "with", "values", "-LRB-", "55", ",", "0.6", "-RRB-", "be", "generated", "by", "Node", "N3", "-LRB-", "11", "-RRB-", ".", "The", "4", "high-order", "bits", "of", "the", "bit-code", "for", "this", "event", "are", "1001", ".", "This", "is", "because", "temperature", "is", "in", "the", "top", "half", "of", "the", "range", "-LSB-", "30", ",", "70", "-RSB-", ",", "pressure", "is", "in", "the", "bottom", "half", "of", "the", "range", "-LSB-", "0", ",", "2", "-RSB-", ",", "then", "temperature", "is", "in", "the", "bottom", "half", "of", "the", "range", "-LSB-", "50", ",", "70", "-RSB-", ",", "and", "pressure", "is", "in", "the", "top", "half", "of", "the", "range", "-LSB-", "0", ",", "1", "-RSB-", ".", "Thus", ",", "the", "event", "should", "be", "routed", "toward", "the", "geometric", "location", "specified", "by", "code", "1001", ".", "In", "DIM", ",", "an", "event", "is", "routed", "using", "Greedy", "Perimeter", "Stateless", "Routing", "-LRB-", "GPSR", "-RRB-", "-LSB-", "6", "-RSB-", "to", "the", "geographic", "zone", "with", "an", "address", "matching", "the", "high", "order", "bits", "of", "the", "event", "bit-code", ".", "In", "our", "example", ",", "the", "sensor", "10", "will", "store", "this", "event", "since", "this", "is", "the", "sensor", "that", "matches", "Figure", "3", ":", "KDDCS", "K-D", "tree", "the", "high", "order", "bits", "of", "the", "bit-code", "1001", ".", "If", "there", "is", "no", "sensor", "in", "this", "region", ",", "then", ",", "the", "event", "is", "stored", "in", "a", "neighboring", "region", ".", "We", "now", "highlight", "the", "differences", "between", "our", "proposed", "KDDCS", "scheme", ",", "and", "DIM", ".", "The", "first", "difference", "is", "how", "the", "splitting", "is", "accomplished", "during", "the", "formation", "of", "the", "K-D", "tree", ".", "In", "KDDCS", ",", "the", "split", "line", "is", "chosen", "so", "that", "there", "are", "equal", "numbers", "of", "sensors", "on", "each", "side", "of", "the", "split", "line", ".", "Recall", "that", ",", "in", "DIM", ",", "the", "split", "line", "was", "the", "geometric", "bisector", "of", "the", "region", ".", "Thus", ",", "in", "KDDCS", ",", "the", "address", "of", "a", "sensor", "is", "a", "logical", "address", "and", "does", "not", "directly", "specify", "the", "location", "of", "the", "sensor", ".", "Also", ",", "note", "that", "the", "K-D", "tree", "in", "KDDCS", "will", "be", "balanced", ",", "while", "this", "will", "not", "be", "the", "case", "in", "DIM", "if", "the", "sensors", "are", "not", "uniformly", "distributed", ".", "This", "difference", "is", "illustrated", "by", "the", "K-D", "tree", "formed", "by", "KDDCS", "shown", "in", "Figure", "3", "for", "the", "same", "simple", "input", "shown", "in", "Figure", "1", ".", "The", "second", "difference", "is", "that", "in", "determining", "the", "owner", "sensor", "for", "an", "event", ",", "the", "range", "split", "point", "b", "need", "not", "be", "the", "midpoint", "of", "the", "range", "R", "j", ".", "The", "value", "of", "b", "is", "selected", "to", "balance", "the", "number", "of", "events", "in", "the", "ranges", "-LSB-", "a", ",", "b", "-RSB-", "and", "-LSB-", "b", ",", "c", "-RSB-", ".", "Thus", ",", "in", "KDDCS", ",", "the", "storage", "of", "events", "will", "be", "roughly", "uniform", "over", "the", "sensors", ".", "The", "third", "difference", "is", "that", ",", "since", "addresses", "are", "not", "geographic", ",", "KDDCS", "needs", "a", "routing", "scheme", "that", "is", "more", "sophisticated", "than", "GPSR", ".", "Before", "presenting", "our", "KDDCS", "scheme", ",", "we", "first", "define", "the", "weighted", "split", "median", "problem", "in", "the", "context", "of", "sensor", "networks", "and", "present", "an", "efficient", "distributed", "algorithm", "to", "solve", "the", "problem", ".", "Each", "sensor", "s", "i", "initially", "knows", "w", "i", "associated", "values", "v", "1", ",", "...", "v", "w", "i", ".", "Let", "W", "=", "P", "n", "i", "=", "1", "w", "i", "be", "the", "number", "of", "values", ".", "The", "goal", "for", "the", "sensors", "is", "to", "come", "to", "agreement", "on", "a", "split", "value", "V", "with", "the", "property", "that", "approximately", "half", "of", "the", "values", "are", "larger", "than", "V", "and", "half", "of", "the", "values", "are", "smaller", "than", "V", ".", "We", "present", "a", "distributed", "algorithm", "to", "solve", "this", "problem", ".", "The", "time", "complexity", "of", "our", "algorithm", "is", "O", "-LRB-", "log", "n", "-RRB-", "times", "the", "diameter", "of", "the", "communication", "network", "in", "general", ",", "and", "O", "-LRB-", "1", "-RRB-", "times", "the", "diameter", "if", "n", "is", "known", "a", "priori", "within", "a", "constant", "factor", ".", "Each", "node", "is", "required", "to", "send", "only", "O", "-LRB-", "log", "n", "-RRB-", "sensor", "ID", "'s", ".", "The", "top", "level", "steps", "of", "this", "algorithm", "are", ":", "1", ".", "Elect", "a", "leader", "sensor", "s", ",", "and", "form", "a", "breadth", "first", "search", "-LRB-", "BFS", "-RRB-", "tree", "T", "of", "the", "communication", "network", "that", "is", "rooted", "at", "s", ".", "2", ".", "The", "number", "of", "sensors", "n", ",", "and", "the", "aggregate", "number", "of", "values", "W", "is", "reported", "to", "s", ".", "3", ".", "The", "leader", "s", "collects", "a", "logarithmically-sized", "uniform", "random", "sample", "L", "of", "the", "values", ".", "The", "expected", "number", "of", "times", "that", "a", "value", "from", "sensor", "s", "i", "is", "included", "in", "this", "sample", "is", "''", "w", "i", "log", "n", "W", "''", ".", "4", ".", "The", "value", "of", "V", "is", "then", "the", "median", "of", "the", "reported", "values", "in", "L", ",", "which", "s", "reports", "to", "all", "of", "the", "sensors", ".", "We", "need", "to", "explain", "how", "these", "steps", "are", "accomplished", ",", "and", "why", "the", "algorithm", "is", "correct", ".", "319", "We", "start", "with", "the", "first", "step", ".", "We", "assume", "that", "each", "sensor", "has", "a", "lower", "bound", "k", "on", "the", "number", "of", "sensors", "in", "R", ".", "If", "a", "sensor", "has", "no", "idea", "of", "the", "number", "of", "other", "sensors", ",", "it", "may", "take", "k", "=", "2", ".", "Then", ",", "each", "sensor", "decides", "independently", ",", "with", "probability", "`", "ln", "k", "k", ",", "to", "become", "a", "candidate", "for", "the", "leader", ".", "Each", "candidate", "sensor", "s", "c", "initiates", "the", "construction", "of", "a", "BFS", "tree", "of", "the", "communication", "graph", "rooted", "at", "s", "c", "by", "sending", "a", "message", "Construct", "-LRB-", "s", "c", "-RRB-", "to", "its", "neighbors", ".", "Assume", "a", "sensor", "s", "i", "gets", "a", "message", "Construct", "-LRB-", "s", "c", "-RRB-", "from", "sensor", "s", "j", ".", "If", "this", "is", "the", "first", "Construct", "-LRB-", "s", "c", "-RRB-", "message", "that", "it", "has", "received", ",", "and", "s", "c", "'s", "ID", "is", "larger", "than", "the", "ID", "of", "any", "previous", "candidates", "in", "prior", "Construct", "messages", ",", "then", ":", "s", "i", "makes", "s", "j", "its", "tentative", "parent", "in", "the", "BFS", "tree", "T", ",", "and", "forwards", "the", "Construct", "-LRB-", "s", "c", "-RRB-", "message", "to", "its", "neighbors", ".", "If", "the", "number", "of", "candidates", "was", "positive", ",", "then", ",", "after", "time", "proportional", "to", "the", "diameter", "of", "the", "communication", "network", ",", "there", "will", "be", "a", "BFS", "tree", "T", "rooted", "at", "the", "candidate", "with", "the", "largest", "ID", ".", "Each", "sensor", "may", "estimate", "an", "upper", "bound", "for", "the", "diameter", "of", "the", "communication", "graph", "to", "be", "the", "diameter", "of", "R", "divided", "by", "the", "broadcast", "radius", "of", "a", "sensor", ".", "After", "this", "time", ",", "the", "sensors", "know", "that", "they", "have", "reached", "an", "agreement", "on", "T", ",", "or", "that", "there", "were", "no", "candidates", ".", "If", "there", "were", "no", "candidates", ",", "each", "sensor", "can", "double", "its", "estimate", "of", "k", ",", "and", "repeat", "this", "process", ".", "After", "O", "-LRB-", "log", "n", "-RRB-", "rounds", ",", "it", "will", "be", "the", "case", "that", "k", "=", "-LRB-", "n", "-RRB-", ".", "Once", "k", "=", "-LRB-", "n", "-RRB-", ",", "then", ",", "with", "high", "probability", "-LRB-", "that", "is", ",", "with", "probability", "1", "1", "poly", "-LRB-", "n", "-RRB-", "-RRB-", ",", "the", "number", "of", "candidates", "is", "-LRB-", "log", "n", "-RRB-", ".", "Thus", ",", "the", "expected", "time", "complexity", "to", "accomplish", "the", "first", "step", "is", "O", "-LRB-", "n", "log", "n", "-RRB-", ".", "Assuming", "that", "each", "ID", "has", "O", "-LRB-", "log", "n", "-RRB-", "bits", ",", "the", "expected", "number", "of", "bits", "that", "each", "sensors", "has", "to", "send", "is", "O", "-LRB-", "log", "2", "n", "-RRB-", "since", "there", "are", "are", "likely", "only", "O", "-LRB-", "log", "n", "-RRB-", "candidates", "on", "the", "first", "and", "only", "round", "in", "which", "there", "is", "a", "candidate", ".", "A", "log", "n", "factor", "can", "be", "removed", "if", "each", "sensor", "initially", "knows", "an", "estimate", "of", "n", "that", "is", "accurate", "to", "within", "a", "multiplicative", "constant", "factor", ".", "The", "rest", "of", "the", "steps", "will", "be", "accomplished", "by", "waves", "of", "root-to-leaves", "and", "leaves-to-root", "messages", "in", "T", ".", "The", "second", "step", "is", "easily", "accomplished", "by", "a", "leave-to-root", "wave", "of", "messages", "reporting", "on", "the", "number", "of", "sensors", "and", "number", "of", "values", "in", "each", "subtree", ".", "Let", "T", "i", "be", "the", "subtree", "of", "T", "rooted", "at", "sensor", "s", "i", ",", "and", "W", "i", "the", "aggregate", "number", "of", "values", "in", "T", "i", ".", "The", "value", "W", "i", "that", "s", "i", "reports", "to", "its", "parents", "is", "w", "i", "plus", "the", "aggregate", "values", "reported", "to", "s", "i", "by", "its", "children", "in", "T", ".", "The", "sensor", "count", "that", "s", "i", "reports", "to", "its", "parents", "is", "one", "plus", "the", "sensor", "counts", "reported", "to", "s", "i", "by", "its", "children", "in", "T", ".", "The", "third", "step", "is", "also", "accomplished", "by", "a", "root-to-leaves", "wave", "and", "then", "a", "leaves-to-root", "wave", "of", "messages", ".", "Assume", "a", "sensor", "s", "i", "wants", "to", "generate", "a", "uniform", "random", "sample", "of", "L", "i", "of", "the", "values", "stored", "in", "the", "sensors", "in", "T", "i", ".", "The", "value", "of", "L", "for", "the", "leader", "is", "-LRB-", "log", "n", "-RRB-", ".", "Let", "s", "i", "1", ",", "...", ",", "s", "i", "d", "be", "the", "children", "of", "s", "i", "in", "T", ".", "Node", "s", "i", "generates", "the", "results", "to", "L", "i", "Bernoulli", "trials", ",", "where", "each", "trial", "has", "d", "+", "1", "outcomes", "corresponding", "to", "s", "i", "and", "its", "d", "children", ".", "The", "probability", "that", "the", "outcome", "of", "a", "trial", "is", "s", "i", "is", "w", "i", "W", "i", ",", "and", "the", "probability", "that", "the", "outcome", "is", "the", "child", "s", "i", "j", "is", "w", "ij", "W", "i", ".", "Then", ",", "s", "i", "informs", "each", "child", "s", "i", "j", "how", "often", "it", "was", "selected", ",", "which", "becomes", "the", "value", "of", "L", "i", "j", "s", "i", ",", "then", "waits", "until", "it", "receives", "samples", "back", "from", "all", "of", "its", "children", ".", "s", "i", "then", "unions", "these", "samples", ",", "plus", "a", "sample", "of", "values", "of", "the", "desired", "size", "from", "itself", ",", "and", "then", "passes", "that", "sample", "back", "to", "its", "parent", ".", "Thus", ",", "each", "sensor", "has", "to", "send", "O", "-LRB-", "log", "n", "-RRB-", "ID", "'s", ".", "The", "leader", "s", "then", "sets", "V", "to", "be", "the", "median", "of", "the", "values", "of", "the", "sample", "L", ",", "then", ",", "in", "a", "root-to-leaves", "message", "wave", ",", "informs", "the", "other", "sensors", "of", "the", "value", "of", "V", ".", "We", "now", "argue", "that", ",", "with", "high", "probability", ",", "the", "computed", "median", "of", "the", "values", "is", "close", "to", "the", "true", "median", ".", "Consider", "a", "value", "^", "V", "such", "that", "only", "a", "fraction", "<", "1", "2", "of", "the", "values", "are", "less", "than", "^", "V", ".", "One", "can", "think", "of", "each", "sampled", "value", "as", "being", "a", "Bernoulli", "trial", "with", "outcomes", "less", "and", "more", "depending", "on", "whether", "the", "sampled", "value", "is", "Figure", "4", ":", "Logical", "address", "assignment", "algorithm", "less", "than", "^", "V", ".", "The", "number", "of", "less", "outcomes", "is", "binomially", "distributed", "with", "mean", "L", ".", "In", "order", "for", "the", "computed", "median", "to", "be", "less", "than", "^", "V", ",", "one", "needs", "the", "number", "of", "less", "outcomes", "to", "be", "at", "least", "L/2", ",", "or", "equivalently", "-LRB-", "1", "2", "-", "-RRB-", "L", "more", "than", "the", "mean", "L", ".", "But", "the", "probability", "that", "a", "binomially", "distributed", "variable", "exceeds", "its", "mean", "by", "a", "factor", "of", "1", "+", "is", "at", "most", "e", "-2", "3", ".", "Thus", ",", "by", "picking", "the", "multiplicative", "constant", "in", "the", "sample", "size", "to", "be", "sufficiently", "large", "-LRB-", "as", "a", "function", "of", "-RRB-", ",", "one", "can", "guarantee", "that", ",", "with", "high", "probability", ",", "the", "number", "of", "values", "less", "than", "the", "computed", "median", "V", "can", "not", "be", "much", "more", "than", "L/2", ".", "A", "similar", "argument", "shows", "that", "the", "number", "more", "than", "the", "computed", "median", "V", "can", "not", "be", "much", "more", "than", "L/2", ".", "If", "the", "leader", "finds", "that", "n", "is", "small", "in", "step", "2", ",", "it", "may", "simply", "ask", "all", "sensors", "to", "report", "on", "their", "identities", "and", "locations", ",", "and", "then", "compute", "V", "directly", ".", "Now", "that", "we", "solved", "the", "weighted", "split", "median", "problem", ",", "we", "present", "the", "components", "of", "the", "KDDCS", "scheme", "in", "the", "next", "section", ".", "We", "now", "present", "our", "KDDCS", "scheme", "in", "details", ".", "We", "explain", "how", "the", "initial", "K-D", "tree", "is", "constructed", ",", "how", "events", "are", "mapped", "to", "sensors", ",", "and", "how", "events", "are", "routed", "to", "their", "owner", "sensors", ".", "4.1", "Distributed", "Logical", "Address", "Assignment", "Algorithm", "The", "main", "idea", "of", "the", "algorithm", "is", "that", "the", "split", "lines", "used", "to", "construct", "the", "K-D", "tree", "are", "selected", "so", "that", "each", "of", "the", "two", "resulting", "regions", "contain", "an", "equal", "number", "of", "sensors", ".", "The", "split", "line", "can", "be", "determined", "using", "our", "weighted", "split", "median", "algorithm", "with", "each", "sensor", "having", "unit", "weight", ",", "and", "the", "value", "for", "each", "sensor", "is", "either", "its", "x", "coordinate", "or", "its", "y", "coordinate", ".", "The", "recursive", "steps", "of", "the", "algorithm", "are", "shown", "in", "Figure", "4", ".", "We", "now", "describe", "in", "some", "greater", "detail", "how", "a", "recursive", "step", "works", ".", "The", "algorithm", "starts", "by", "partitioning", "the", "complete", "region", "R", "horizontally", ".", "Thus", ",", "the", "distributed", "weighted", "split", "median", "algorithm", "-LRB-", "presented", "in", "section", "3", "-RRB-", "is", "applied", "for", "R", "using", "the", "y-coordinates", "of", "the", "sensors", "to", "be", "sent", "to", "the", "BFS", "root", ".", "Upon", "determining", "weighted", "split", "median", "of", "R", ",", "sensors", "having", "lower", "y-coordinate", "than", "the", "median", "value", "-LRB-", "we", "refer", "to", "these", "sensors", "as", "those", "falling", "in", "the", "lower", "region", "of", "R", "-RRB-", "assign", "their", "logical", "address", "to", "0", ".", "On", "the", "other", "hand", ",", "those", "sensor", "falling", "on", "the", "upper", "region", "of", "R", "assign", "themselves", "a", "1", "logical", "address", ".", "At", "the", "end", "of", "the", "first", "recursive", "step", ",", "the", "terrain", "can", "be", "looked", "at", "as", "split", "into", "two", "equally", "logically", "loaded", "partitions", "-LRB-", "in", "terms", "of", "the", "number", "of", "sensors", "falling", "in", "each", "partition", "-RRB-", ".", "At", "the", "next", "step", ",", "the", "weighted", "split", "median", "algorithm", "is", "applied", "locally", "in", "each", "of", "the", "sub-regions", "-LRB-", "lower/upper", "-RRB-", ",", "while", "using", "the", "sensors", "'", "x-coordinates", ",", "thus", ",", "partitioning", "the", "sub-regions", "vertically", "rather", "than", "horizontally", ".", "Similarly", ",", "sensors", "'", "logical", "addresses", "are", "updated", "by", "left-shifting", "them", "with", "a", "0", "bit", "for", "those", "sensors", "falling", "320", "in", "the", "lower", "regions", "-LRB-", "in", "other", "words", ",", "sensor", "nodes", "falling", "on", "the", "left", "of", "the", "weighted", "median", "line", "-RRB-", ",", "or", "with", "a", "1", "bit", "for", "sensor", "nodes", "falling", "in", "the", "upper", "regions", "-LRB-", "i.e.", ",", "sensor", "nodes", "falling", "on", "the", "right", "of", "the", "weighted", "median", "line", "-RRB-", ".", "The", "algorithm", "continues", "to", "be", "applied", "distributively", "by", "the", "different", "subtrees", "until", "each", "sensor", "obtains", "a", "unique", "logical", "address", ",", "using", "x", "and", "y", "coordinates", "of", "sensors", ",", "in", "a", "round", "robin", "fashion", ",", "as", "the", "criterion", "of", "the", "split", ".", "The", "algorithm", "is", "applied", "in", "parallel", "on", "the", "different", "subtrees", "whose", "root", "nodes", "fall", "at", "the", "same", "tree", "level", ".", "At", "the", "i", "th", "recursive", "step", ",", "the", "algorithm", "is", "applied", "at", "all", "intermediate", "nodes", "falling", "at", "level", "i", "-", "1", "of", "the", "tree", ".", "Based", "on", "the", "definition", "of", "the", "weighted", "split", "median", "problem", ",", "the", "algorithm", "results", "in", "forming", "a", "balanced", "binary", "tree", ",", "such", "that", "sensors", "represent", "leaf", "nodes", "of", "this", "tree", "-LRB-", "intermediate", "nodes", "of", "the", "tree", "are", "logical", "nodes", ",", "not", "physical", "sensors", "-RRB-", ".", "The", "algorithm", "terminates", "in", "log", "n", "recursive", "steps", ".", "At", "the", "end", "of", "the", "algorithm", ",", "the", "size", "of", "the", "logical", "address", "given", "to", "each", "sensor", "will", "be", "log", "n", "bits", ".", "Recall", "that", "the", "time", "complexity", "of", "our", "weight", "split", "median", "algorithm", "is", "O", "-LRB-", "d", "log", "n", "-RRB-", ",", "where", "d", "is", "the", "diameter", "of", "the", "region", ".", "Thus", ",", "as", "the", "depth", "of", "our", "K-D", "tree", "is", "O", "-LRB-", "log", "n", "-RRB-", ",", "we", "get", "that", "the", "time", "complexity", "for", "building", "the", "tree", "is", "O", "-LRB-", "d", "log", "2", "n", "-RRB-", ".", "If", "the", "sensors", "are", "uniformly", "distributed", ",", "then", ",", "as", "the", "construction", "algorithm", "recurses", ",", "the", "diameters", "of", "the", "regions", "will", "be", "geometrically", "decreasing", ".", "Thus", ",", "in", "the", "case", "of", "uniformly", "distributed", "sensors", ",", "one", "would", "expect", "the", "tree", "construction", "to", "take", "time", "O", "-LRB-", "d", "log", "n", "-RRB-", ".", "As", "our", "weighted", "split", "median", "algorithm", "requires", "each", "sensor", "to", "send", "O", "-LRB-", "log", "n", "-RRB-", "ID", "'s", ",", "and", "our", "K-D", "tree", "has", "depth", "O", "-LRB-", "log", "n", "-RRB-", ",", "we", "can", "conclude", "that", "during", "the", "construction", "of", "our", "K-D", "tree", ",", "the", "number", "of", "ID", "'s", "sent", "by", "any", "node", "is", "O", "-LRB-", "log", "2", "n", "-RRB-", ".", "4.2", "Event", "to", "Bit-code", "Mapping", "In", "this", "section", ",", "we", "explain", "how", "the", "event", "to", "bit-code", "mapping", "function", "is", "determined", ".", "Recall", "that", "the", "main", "idea", "is", "to", "set", "the", "split", "points", "of", "the", "ranges", "so", "that", "the", "storage", "of", "events", "is", "roughly", "uniform", "among", "sensor", "nodes", ".", "To", "construct", "this", "mapping", "requires", "a", "probability", "distribution", "on", "the", "events", ".", "In", "some", "situations", ",", "this", "distribution", "might", "be", "known", ".", "For", "example", ",", "if", "the", "network", "has", "been", "operational", "for", "some", "period", "of", "time", ",", "a", "sampling", "of", "prior", "events", "might", "be", "used", "to", "estimate", "a", "distribution", ".", "In", "cases", "where", "it", "is", "not", "known", ",", "say", "when", "a", "network", "is", "first", "deployed", ",", "we", "can", "temporarily", "assume", "a", "uniform", "distribution", ".", "In", "both", "cases", ",", "we", "use", "the", "balanced", "binary", "tree", "as", "the", "base", "tree", "to", "overlay", "the", "attribute-specific", "K-D", "tree", "on", "-LRB-", "Recall", "that", "a", "K-D", "tree", "is", "formed", "by", "k", "attributes", "-RRB-", ".", "This", "is", "basically", "done", "by", "assigning", "a", "range", "for", "each", "of", "the", "k", "attributes", "to", "every", "intermediate", "node", "in", "the", "tree", ".", "Note", "that", "the", "non-leaf", "nodes", "in", "the", "K-D", "tree", "are", "logical", "nodes", "that", "do", "not", "correspond", "to", "any", "particular", "sensor", ".", "One", "may", "think", "of", "non-leaf", "nodes", "as", "regions", ".", "Any", "split", "point", "p", "of", "a", "node", "x", "of", "tree", "level", "l", ",", "where", "l", "%", "k", "=", "i", ",", "represents", "a", "value", "of", "attribute", "i", ".", "Such", "split", "point", "partitions", "the", "range", "of", "attribute", "i", "falling", "under", "responsibility", "of", "node", "x", "into", "two", "subranges", "such", "that", "the", "the", "subrange", "lower", "than", "p", "is", "assigned", "to", "the", "left", "child", "of", "x", ",", "while", "the", "other", "range", "is", "assigned", "to", "x", "'s", "right", "child", ".", "Note", "that", "the", "other", "k", "-", "1", "ranges", "of", "node", "x", ",", "corresponding", "to", "the", "remaining", "k-1", "attributes", ",", "are", "simply", "inherited", "by", "both", "children", "of", "x.", "Knowing", "the", "data", "distribution", ",", "the", "split", "points", "of", "the", "tree", "should", "be", "predefined", "in", "a", "way", "to", "cope", "with", "any", "expected", "irregularity", "in", "the", "load", "distribution", "among", "the", "K-D", "tree", "leaf", "nodes", ".", "For", "example", ",", "given", "an", "initial", "temperature", "range", "-LRB-", "30", ",", "70", "-RRB-", "and", "knowing", "that", "50", "%", "of", "the", "events", "will", "fall", "in", "the", "temperature", "range", "-LRB-", "65", ",", "70", "-RRB-", ",", "the", "root", "split", "point", "should", "be", "defined", "as", "65", "-LRB-", "assuming", "that", "the", "temperature", "is", "the", "first", "attribute", "in", "the", "event", "-RRB-", ".", "Therefore", ",", "based", "on", "the", "selected", "root", "split", "point", ",", "the", "left", "child", "subtree", "of", "the", "root", "will", "be", "responsible", "of", "storing", "events", "falling", "in", "the", "temperature", "range", "-LRB-", "30", ",", "65", "-RRB-", ",", "while", "the", "right", "child", "subtree", "will", "store", "events", "falling", "in", "the", "range", "-LRB-", "65", ",", "70", "-RRB-", ".", "Figure", "3", "gives", "an", "example", "of", "non-uniform", "initialization", "of", "split", "points", ".", "We", "finish", "by", "describing", "what", "information", "is", "stored", "in", "each", "sensor", "node", ".", "Each", "sensor", "node", "corresponds", "to", "a", "leaf", "in", "the", "K-D", "tree", ".", "Each", "sensor", "knows", "its", "logical", "address", "in", "the", "tree", ".", "Further", ",", "each", "leaf", "in", "the", "K-D", "tree", "knows", "all", "the", "pertinent", "information", "about", "each", "of", "its", "ancestors", "in", "the", "tree", ".", "The", "pertinent", "information", "about", "each", "node", "is", ":", "The", "geographic", "region", "covered", ".", "The", "split", "line", "separating", "its", "two", "children", ".", "The", "attribute", "range", ",", "and", "attribute", "split", "point", ",", "associated", "with", "this", "region", ".", "From", "this", "information", ",", "each", "leaf/sensor", "can", "determine", "the", "range", "of", "events", "that", "will", "be", "stored", "at", "this", "sensor", ".", "Note", "that", "each", "sensor", "only", "stores", "O", "-LRB-", "log", "n", "-RRB-", "information", "about", "the", "K-D", "tree", ".", "4.3", "Incremental", "Event", "Hashing", "and", "Routing", "Strictly", "speaking", ",", "the", "events-to-sensors", "mapping", "in", "DIM", "actually", "produces", "a", "geographic", "location", ".", "GPSR", "routing", "can", "then", "be", "used", "to", "route", "that", "event", "towards", "that", "geographic", "location", ".", "If", "the", "destination", "is", "contained", "in", "a", "leaf", "region", "with", "one", "sensor", ",", "then", "that", "sensor", "stores", "the", "event", ".", "If", "the", "leaf", "region", "is", "an", "orphan", ",", "then", "one", "of", "the", "sensors", "in", "the", "neighboring", "regions", "will", "store", "this", "event", ".", "In", "our", "scheme", ",", "the", "events-to-sensors", "mapping", "provides", "a", "logical", "address", ".", "Essentially", ",", "all", "that", "the", "sensor", "generating", "the", "event", "can", "determine", "from", "this", "logical", "address", "is", "a", "general", "direction", "of", "the", "owner", "sensor", ".", "Thus", ",", "our", "routing", "protocol", ",", "which", "we", "call", "Logical", "Stateless", "Routing", "-LRB-", "LSR", "-RRB-", ",", "is", "in", "some", "sense", "less", "direct", ".", "LSR", "operates", "in", "O", "-LRB-", "log", "n", "-RRB-", "rounds", ".", "We", "explain", "how", "a", "round", "works", ".", "Assume", "that", "a", "source", "sensor", "with", "a", "logical", "address", "s", "wants", "to", "route", "an", "event", "e", "to", "a", "sensor", "with", "logical", "address", "t.", "However", ",", "s", "does", "not", "know", "the", "identity", "of", "the", "sensor", "t.", "Recall", "that", "s", "knows", "the", "pertinent", "information", "about", "its", "ancestors", "in", "the", "K-D", "tree", ".", "In", "particular", ",", "s", "knows", "the", "range", "split", "values", "of", "its", "ancestors", ".", "Thus", ",", "s", "can", "compute", "the", "least", "common", "ancestor", "-LRB-", "LCA", "-RRB-", "of", "s", "and", "t", "in", "the", "K-D", "tree", ".", "Assume", "that", "the", "first", "bit", "of", "disagreement", "between", "s", "and", "t", "is", "the", "th", "bit", ".", "So", ",", "the", "least", "common", "ancestor", "-LRB-", "LCA", "-RRB-", "of", "s", "and", "t", "in", "the", "K-D", "tree", "has", "depth", ".", "Let", "R", "be", "the", "region", "corresponding", "to", "the", "LCA", "of", "s", "and", "t", ",", "L", "the", "split", "line", "corresponding", "to", "this", "region", ",", "and", "R", "0", "and", "R", "1", "the", "two", "subregions", "of", "R", "formed", "by", "L.", "Without", "loss", "of", "generality", ",", "assume", "that", "s", "R", "0", "and", "t", "R", "1", ".", "From", "its", "own", "address", ",", "and", "the", "address", "of", "t", ",", "the", "sensor", "s", "can", "conclude", "that", "t", "is", "in", "the", "region", "R", "1", ".", "Recall", "that", "s", "knows", "the", "location", "of", "the", "split", "line", "L", ".", "The", "sensor", "s", "computes", "a", "location", "x", "in", "the", "region", "R", "1", ".", "For", "concrete-ness", "here", ",", "let", "us", "assume", "that", "x", "is", "some", "point", "in", "R", "1", "that", "lies", "on", "the", "line", "intersecting", "s", "and", "perpendicular", "to", "L", "-LRB-", "Although", "there", "might", "be", "some", "advantages", "to", "selecting", "x", "to", "be", "the", "geometric", "center", "of", "the", "region", "R", "1", "-RRB-", ".", "LSR", "then", "directs", "a", "message", "toward", "the", "location", "x", "using", "GPSR", ".", "The", "message", "contains", "an", "additional", "field", "noting", "that", "this", "is", "a", "th", "round", "message", ".", "The", "th", "round", "terminates", "when", "this", "message", "first", "reaches", "a", "sensor", "s", "whose", "address", "agrees", "with", "the", "address", "of", "t", "in", "the", "first", "+", "1", "bits", ".", "The", "sensor", "s", "will", "be", "the", "first", "sensor", "reached", "in", "R", "1", ".", "Round", "+", "1", "then", "starts", "with", "s", "being", "the", "new", "source", "sensor", ".", "We", "explain", "how", "range", "queries", "are", "routed", "by", "means", "of", "an", "example", ".", "This", "example", "also", "essentially", "illustrates", "how", "events", "are", "stored", ".", "Figure", "5", "gives", "an", "example", "of", "a", "multi-dimensional", "range", "query", "and", "shows", "how", "to", "route", "it", "to", "its", "final", "destination", ".", "In", "this", "example", ",", "a", "multi-dimensional", "range", "query", "arises", "at", "node", "N", "7", "-LRB-", "111", "-RRB-", "asking", "for", "the", "number", "of", "events", "falling", "in", "the", "temperature", "range", "-LRB-", "30", ",", "32", "-RRB-", "and", "pressure", "range", "-LRB-", "0.4", ",", "1", "-RRB-", "that", "were", "generated", "throughout", "the", "last", "2", "minutes", ".", "Node", "N", "7", "knows", "that", "the", "range", "split", "point", "for", "the", "root", "321", "Figure", "5", ":", "Example", "of", "routing", "a", "query", "on", "KDDCS", "was", "temperature", "40", ",", "and", "thus", ",", "this", "query", "needs", "to", "be", "routed", "toward", "the", "left", "subtree", "of", "the", "root", ",", "or", "geometrically", "toward", "the", "top", "of", "the", "region", ",", "using", "GPSR", ".", "The", "first", "node", "in", "this", "region", "that", "this", "event", "reaches", "is", "say", "N", "3", ".", "Node", "N", "3", "knows", "that", "the", "first", "relevant", "split", "point", "is", "pressure", "=", "0.5", ".", "Thus", ",", "the", "query", "is", "partitioned", "into", "two", "sub-queries", ",", "-LRB-", "-LRB-", "30", ",", "32", "-RRB-", ",", "-LRB-", "0.4", ",", "0.5", "-RRB-", "-RRB-", "and", "-LRB-", "-LRB-", "30", ",", "32", "-RRB-", ",", "-LRB-", "0.5", ",", "1", "-RRB-", "-RRB-", ".", "When", "processing", "the", "first", "subquery", ",", "node", "N", "3", "forwards", "it", "to", "the", "left", "using", "GPSR", ".", "N", "3", "can", "then", "tell", "that", "the", "second", "query", "should", "be", "routed", "to", "the", "other", "side", "of", "its", "parent", "in", "the", "K-D", "tree", "since", "the", "range", "split", "for", "its", "parent", "is", "temperature", "34", ".", "The", "logical", "routing", "of", "this", "query", "is", "shown", "on", "the", "right", "in", "Figure", "5", ",", "and", "a", "possible", "physical", "routing", "of", "this", "query", "is", "shown", "on", "the", "left", "in", "Figure", "5", ".", "As", "LSR", "does", "not", "initially", "know", "the", "geometric", "location", "of", "the", "owner", "sensor", ",", "the", "route", "to", "the", "owner", "sensor", "can", "not", "possibly", "be", "as", "direct", "as", "it", "is", "in", "DIM", ".", "But", ",", "we", "argue", "that", "the", "length", "of", "the", "route", "in", "LSR", "should", "be", "at", "most", "twice", "the", "length", "of", "the", "route", "in", "DIM", ".", "Assume", "for", "the", "moment", "that", "all", "messages", "are", "routed", "by", "GPSR", "along", "the", "direct", "geometric", "line", "between", "the", "source", "sensor", "and", "the", "destination", "location", ".", "Let", "us", "assume", ",", "without", "loss", "of", "generality", ",", "that", "LSR", "is", "routing", "horizontally", "in", "the", "odd", "rounds", ".", "Then", ",", "the", "routes", "used", "in", "the", "odd", "rounds", "do", "not", "cross", "any", "vertical", "line", "more", "than", "once", ".", "Hence", ",", "the", "sum", "of", "the", "route", "distances", "used", "by", "LSR", "in", "the", "odd", "rounds", "is", "at", "most", "the", "diameter", "of", "the", "region", ".", "Similarly", ",", "the", "sum", "of", "the", "route", "distances", "used", "by", "LSR", "in", "the", "even", "rounds", "is", "at", "most", "the", "diameter", "of", "the", "region", ".", "Thus", ",", "the", "sum", "of", "the", "route", "distances", "for", "LSR", ",", "over", "all", "rounds", ",", "is", "at", "most", "twice", "the", "diameter", ".", "The", "geometric", "distance", "between", "the", "source-destination", "pair", "in", "DIM", "is", "obviously", "at", "most", "the", "diameter", ".", "So", "we", "can", "conclude", "that", "the", "length", "of", "the", "route", "found", "by", "LSR", "is", "at", "most", "twice", "the", "length", "of", "the", "route", "found", "by", "DIM", ",", "assuming", "that", "GPSR", "is", "perfect", ".", "In", "fact", ",", "the", "only", "assumption", "that", "we", "need", "about", "GPSR", "to", "reach", "this", "conclusion", "is", "that", "the", "length", "of", "the", "path", "found", "by", "GPSR", "is", "roughly", "a", "constant", "multiple", "times", "the", "geometric", "distance", "between", "the", "source", "and", "destination", ".", "Even", "this", "factor", "of", "two", "can", "probably", "be", "improved", "significantly", "in", "expectation", "if", "the", "locations", "of", "the", "sensors", "are", "roughly", "uniform", ".", "A", "simple", "heuristic", "would", "be", "to", "make", "the", "location", "of", "the", "target", "x", "equal", "to", "the", "location", "of", "the", "destination", "sensor", "t", "if", "the", "sensors", "in", "R", "1", "where", "uniformly", "distributed", ".", "The", "location", "of", "x", "can", "easily", "be", "calculated", "by", "the", "source", "sensor", "s", "given", "information", "local", "to", "s", ".", "Based", "on", "the", "KDDCS", "components", "presented", "so", "far", ",", "KDDCS", "avoids", "the", "formation", "of", "storage", "hot-spots", "resulting", "from", "skewed", "sensor", "deployments", ",", "and", "from", "skewed", "events", "distribution", "if", "the", "distribution", "of", "events", "was", "known", "a", "priori", ".", "However", ",", "storage", "hot-spots", "may", "be", "formed", "if", "the", "initial", "presumed", "events", "distribution", "was", "not", "correct", ",", "or", "if", "events", "distribution", "evolves", "over", "times", ".", "We", "present", "a", "K-D", "tree", "re-balancing", "algorithm", ",", "KDTR", ",", "to", "re-balance", "the", "load", ".", "In", "the", "next", "subsections", ",", "we", "first", "explain", "how", "to", "determine", "the", "roots", "of", "the", "subtrees", "that", "will", "re-balance", ",", "and", "then", "show", "how", "a", "re-balancing", "operation", "on", "a", "subtree", "works", ".", "We", "assume", "that", "this", "re-balancing", "is", "performed", "periodically", "with", "a", "fixed", "period", ".", "5.1", "Selection", "of", "Subtrees", "to", "be", "Re-Balanced", "The", "main", "idea", "is", "to", "find", "the", "highest", "unbalanced", "node", "in", "the", "KD", "tree", ".", "A", "node", "is", "unbalanced", "if", "the", "ratio", "of", "the", "number", "of", "events", "in", "one", "of", "the", "child", "subtrees", "over", "the", "number", "of", "events", "stored", "in", "the", "other", "child", "subtree", "exceeds", "some", "threshold", "h", ".", "This", "process", "of", "identifying", "nodes", "to", "re-balance", "proceeds", "in", "O", "-LRB-", "log", "n", "-RRB-", "rounds", "from", "the", "leaves", "to", "the", "root", "of", "the", "K-D", "tree", ".", "We", "now", "describe", "how", "round", "i", "1", "works", ".", "Intuitively", ",", "round", "i", "occurs", "in", "parallel", "on", "all", "subtrees", "rooted", "at", "nodes", "of", "height", "i", "+", "1", "in", "the", "K-D", "tree", ".", "Let", "x", "be", "a", "node", "of", "height", "i", "+", "1", ".", "Let", "the", "region", "associated", "with", "x", "be", "R", ",", "the", "split", "line", "be", "L", ",", "and", "the", "two", "subregions", "of", "R", "be", "R", "0", "and", "R", "1", ".", "At", "the", "start", "of", "this", "round", ",", "each", "sensor", "in", "R", "0", "and", "R", "1", "knows", "the", "number", "of", "stored", "events", "C", "0", "and", "C", "1", "in", "R", "0", "and", "R", "1", ",", "respectively", ".", "The", "count", "C", "0", "is", "then", "flooded", "to", "the", "sensors", "in", "R", "1", ",", "and", "the", "count", "C", "1", "is", "flooded", "to", "the", "sensors", "in", "R", "0", ".", "After", "this", "flooding", ",", "each", "sensor", "in", "R", "knows", "the", "number", "of", "events", "stored", "in", "R", ",", "and", "also", "knows", "whether", "the", "ratio", "max", "-LRB-", "C", "0", "C", "1", ",", "C", "1", "C", "0", "-RRB-", "exceeds", "h", ".", "The", "time", "complexity", "per", "round", "is", "linear", "in", "the", "diameter", "of", "a", "region", "considered", "in", "that", "round", ".", "Thus", ",", "the", "total", "time", "complexity", "is", "O", "-LRB-", "D", "log", "n", "-RRB-", ",", "where", "D", "is", "the", "diameter", "of", "the", "network", ",", "as", "there", "are", "O", "-LRB-", "log", "n", "-RRB-", "rounds", ".", "The", "number", "of", "messages", "sent", "per", "node", "i", "in", "a", "round", "is", "O", "-LRB-", "d", "i", "-RRB-", ",", "where", "d", "i", "is", "the", "degree", "of", "node", "i", "in", "the", "communication", "network", ".", "Thus", ",", "the", "total", "number", "of", "messages", "sent", "by", "a", "node", "i", "is", "O", "-LRB-", "d", "i", "log", "n", "-RRB-", ".", "Re-Balancing", "is", "then", "performed", "in", "parallel", "on", "all", "unbalanced", "nodes", ",", "that", "have", "no", "unbalanced", "ancestors", ".", "Note", "that", "every", "leaf", "knows", "if", "an", "ancestor", "will", "re-balance", ",", "and", "is", "so", ",", "the", "identity", "of", "the", "unique", "ancestor", "that", "will", "balance", ".", "All", "the", "leaves", "of", "a", "node", "that", "will", "re-balance", ",", "will", "be", "aware", "of", "this", "at", "the", "same", "time", ".", "5.2", "Tree", "Re-balancing", "Algorithm", "Let", "x", "be", "an", "internal", "node", "to", "the", "K-D", "tree", "that", "needs", "to", "be", "re-balanced", ".", "Let", "the", "region", "associated", "with", "x", "be", "R.", "Let", "the", "attribute", "associated", "with", "node", "x", "be", "the", "j'", "th", "attribute", ".", "So", ",", "we", "need", "to", "find", "a", "new", "attribute", "split", "L", "for", "the", "j'", "th", "attribute", "for", "node", "x.", "To", "accomplish", "this", ",", "we", "apply", "the", "weighted", "split", "median", "procedure", ",", "where", "the", "weight", "w", "i", "associated", "with", "sensor", "i", "is", "the", "number", "of", "events", "stored", "at", "sensor", "i", ",", "and", "the", "values", "are", "the", "j'", "th", "attributes", "of", "the", "w", "i", "events", "stored", "at", "that", "sensor", ".", "Thus", ",", "the", "computed", "attribute", "split", "L", "has", "the", "property", "that", ",", "in", "expectation", ",", "half", "of", "the", "events", "stored", "in", "R", "have", "their", "j'", "th", "attribute", "larger", "than", "L", ",", "and", "half", "of", "the", "events", "stored", "in", "R", "have", "their", "j'", "th", "attribute", "smaller", "than", "L.", "Let", "R", "0", "and", "R", "1", "be", "the", "two", "subregions", "of", "R.", "Eventually", ",", "we", "want", "to", "recursively", "apply", "this", "process", "in", "parallel", "to", "the", "regions", "R", "0", "and", "R", "1", ".", "But", "before", "recursing", ",", "we", "need", "to", "route", "some", "events", "from", "one", "of", "R", "0", "or", "R", "1", "to", "the", "other", ".", "The", "direction", "of", "the", "routing", "depends", "on", "whether", "the", "attribute", "split", "value", "became", "larger", "or", "smaller", ".", "Let", "us", "assume", ",", "without", "loss", "of", "generality", ",", "that", "events", "need", "to", "be", "routed", "from", "R", "0", "to", "R", "1", ".", "Consider", "an", "event", "e", "stored", "at", "a", "sensor", "s", "in", "R", "0", "that", "needs", "to", "be", "routed", "to", "R", "1", ".", "The", "sensor", "s", "picks", "a", "destination", "logical", "address", "t", ",", "uniformly", "at", "random", ",", "from", "the", "possible", "addresses", "in", "the", "region", "R", "1", ".", "The", "event", "e", "is", "then", "routed", "to", "t", "using", "the", "routing", "scheme", "described", "in", "section", "4.3", ".", "The", "final", "owner", "for", "e", "in", "R", "1", "can", "not", "be", "determined", "until", "our", "process", "is", "recursively", "applied", "to", "R", "1", ",", "but", "this", "process", "can", "not", "be", "recursively", "applied", "until", "the", "events", "that", "should", "be", "stored", "in", "R", "1", "are", "contained", "in", "R", "1", ".", "The", "fact", "the", "the", "destination", "addresses", "in", "R", "1", "were", "picked", "uniformly", "at", "random", "ensures", "load", "balance", ".", "This", "process", "can", "now", "be", "recursively", "applied", "to", "R", "0", "and", "R", "1", ".", "322", "Figure", "6", ":", "KDDCS", "original", "K-D", "tree", "We", "now", "discuss", "the", "complexity", "of", "this", "procedure", ".", "We", "break", "the", "complexity", "into", "two", "parts", ":", "the", "cost", "of", "performing", "the", "weighted", "split", "median", "operation", ",", "and", "the", "cost", "of", "migrating", "the", "events", ".", "One", "application", "of", "the", "weighted", "split", "median", "has", "time", "complexity", "O", "-LRB-", "D", "log", "n", "-RRB-", ",", "where", "D", "is", "the", "diameter", "of", "the", "region", ",", "and", "messages", "sent", "per", "node", "of", "O", "-LRB-", "log", "2", "n", "-RRB-", "messages", ".", "Thus", ",", "we", "get", "time", "complexity", "O", "-LRB-", "D", "log", "2", "n", "-RRB-", "and", "messages", "sent", "per", "node", "of", "O", "-LRB-", "log", "3", "n", "-RRB-", "for", "all", "of", "the", "applications", "of", "weighted", "split", "median", ".", "Every", "period", "re-balance", "requires", "each", "event", "to", "travel", "at", "most", "twice", "the", "diameter", "of", "the", "network", "-LRB-", "assuming", "that", "GPSR", "routes", "on", "a", "direct", "line", "-RRB-", ".", "The", "total", "number", "of", "events", "that", "can", "be", "forced", "to", "migrate", "as", "a", "result", "of", "k", "new", "events", "being", "stored", "is", "O", "-LRB-", "k", "log", "k", "-RRB-", ".", "Thus", ",", "the", "amortized", "number", "of", "migrations", "per", "event", "is", "logarithmic", ",", "O", "-LRB-", "log", "k", "-RRB-", "in", "the", "number", "of", "insertions", ".", "This", "amount", "of", "re-balancing", "per", "insertion", "is", "required", "for", "any", "standard", "dynamic", "data", "structure", "-LRB-", "e.g.", "2-3", "trees", ",", "AVL", "trees", ",", "etc.", "-RRB-", ".", "Figures", "6", "and", "7", "show", "a", "detailed", "example", "illustrating", "how", "KDTR", "works", ".", "Continuing", "on", "the", "same", "example", "we", "presented", "in", "Section", "4.2", ",", "we", "monitor", "how", "KDTR", "maintains", "the", "K-D", "tree", "balancing", "in", "the", "course", "of", "successive", "insertions", ".", "Starting", "with", "an", "equal", "number", "of", "3", "events", "stored", "at", "each", "sensor", ",", "a", "storage", "hot-spot", "arises", "in", "node", "N", "7", "after", "6", "event", "insertions", ".", "By", "checking", "the", "ratio", "of", "N", "7", "storage", "to", "that", "of", "N", "7", ",", "KDTR", "identifies", "the", "subtree", "rooted", "at", "node", "11", "as", "an", "unbalanced", "subtree", ".", "As", "none", "of", "node", "11", "'s", "ancestors", "is", "unbalanced", "at", "this", "point", ",", "KDTR", "selects", "11", "to", "be", "re-balanced", ".", "However", ",", "the", "storage", "load", "remains", "skewed", "toward", "subtree", "1", ",", "thus", ",", "after", "another", "6", "insertions", ",", "KDTR", "re-balances", "the", "subtree", "rooted", "at", "1", ".", "After", "12", "more", "insertions", "aiming", "the", "right", "subtree", "of", "the", "root", ",", "KDTR", "re-balances", "the", "root", "of", "the", "tree", ",", "basically", "changing", "the", "attribute-based", "split", "points", "of", "almost", "all", "internal", "nodes", ",", "in", "order", "to", "maintain", "the", "balance", "of", "the", "tree", ".", "Note", "that", ",", "as", "long", "as", "the", "average", "loads", "of", "sensors", "which", "are", "falling", "outside", "the", "hot-spot", "area", "increases", ",", "the", "frequency", "of", "re-balancing", "decreases", ".", "We", "digress", "slightly", "to", "explain", "a", "method", "that", "one", "might", "use", "to", "trigger", "re-balancing", ",", "as", "opposed", "to", "fixed", "time", "period", "re-balancing", ".", "Each", "sensor", "s", "i", "knows", "the", "number", "of", "events", "that", "are", "stored", "in", "each", "region", "corresponding", "to", "an", "ancestor", "of", "s", "i", "in", "the", "K-D", "tree", "when", "this", "region", "was", "re-balanced", ".", "Let", "C", "j", "be", "the", "number", "of", "events", "at", "the", "last", "re-balancing", "of", "the", "region", "R", "j", "corresponding", "to", "node", "of", "depth", "j", "on", "the", "path", "from", "the", "root", "to", "s", "i", "in", "the", "K-D", "tree", ".", "Assume", "that", "the", "region", "R", "j", "has", "elected", "a", "leader", "s", "j", ".", "Then", ",", "the", "number", "of", "events", "that", "have", "to", "be", "stored", "in", "R", "j", ",", "since", "the", "last", "re-balancing", ",", "to", "cause", "another", "re-balancing", "in", "R", "j", "is", "something", "like", "hC", "j", ",", "where", "h", "is", "the", "unbalancing", "ratio", "that", "we", "are", "willing", "to", "tolerate", ".", "Then", ",", "each", "insertion", "to", "s", "i", "is", "reported", "by", "s", "i", "to", "s", "j", "with", "probability", "something", "like", "''", "log", "n", "hC", "j", "''", ".", "Thus", ",", "after", "seeing", "-LRB-", "log", "n", "-RRB-", "such", "notifications", ",", "the", "leader", "s", "j", "can", "be", "confident", "that", "there", "have", "been", "very", "close", "to", "hC", "j", "insertions", "into", "the", "region", "R", "j", ",", "and", "a", "re-balancing", "might", "be", "warranted", ".", "Note", "that", "the", "role", "of", "leader", "requires", "only", "receiving", "O", "-LRB-", "log", "n", "-RRB-", "messages", ".", "Figure", "7", ":", "KDTR", "example", "In", "order", "to", "evaluate", "our", "KDDCS", "scheme", ",", "we", "compared", "its", "performance", "with", "that", "of", "the", "DIM", "scheme", ",", "that", "has", "been", "shown", "to", "be", "the", "best", "among", "current", "INDCS", "schemes", "-LSB-", "9", "-RSB-", ".", "In", "our", "simulation", ",", "we", "assumed", "having", "sensors", "of", "limited", "buffer", "and", "constrained", "energy", ".", "We", "simulated", "networks", "of", "sizes", "ranging", "from", "50", "to", "500", "sensors", ",", "each", "having", "an", "initial", "energy", "of", "50", "units", ",", "a", "radio", "range", "of", "40m", ",", "and", "a", "storage", "capacity", "of", "10", "units", ".", "For", "simplicity", ",", "we", "assumed", "that", "the", "size", "of", "a", "message", "is", "equal", "to", "the", "size", "of", "a", "storage", "unit", ".", "We", "also", "assumed", "that", "the", "size", "of", "a", "storage", "unit", "is", "equal", "to", "the", "size", "of", "an", "event", ".", "When", "sent", "from", "a", "sensor", "to", "its", "neighbor", ",", "a", "message", "consumes", "1", "energy", "unit", "from", "the", "sender", "energy", "and", "0.5", "energy", "unit", "from", "the", "receiver", "energy", ".", "The", "service", "area", "was", "computed", "such", "that", "each", "node", "has", "on", "average", "20", "nodes", "within", "its", "nominal", "radio", "range", ".", "As", "each", "sensor", "has", "a", "limited", "storage", "capacity", ",", "it", "is", "assumed", "to", "follow", "a", "FIFO", "storage", "approach", "to", "handle", "its", "cache", ".", "Thus", ",", "a", "sensor", "replaces", "the", "oldest", "event", "in", "its", "memory", "by", "the", "newly", "incoming", "event", "to", "be", "stored", "in", "case", "it", "is", "already", "full", "when", "receiving", "this", "new", "event", ".", "We", "modeled", "a", "network", "of", "temperature", "sensors", ".", "The", "range", "of", "possible", "reading", "values", "was", "-LSB-", "30", ",", "70", "-RSB-", ".", "We", "modeled", "storage", "hot-spots", "by", "using", "a", "random", "uniform", "distribution", "to", "represent", "sensors", "'", "locations", ",", "while", "using", "a", "skewed", "distribution", "of", "events", "among", "the", "attributes", "ranges", ".", "Note", "that", "the", "regular", "sensor", "deployment", "assumption", "does", "not", "affect", "our", "ability", "to", "assess", "the", "effectiveness", "of", "KDDCS", "as", "the", "storage", "hot-spot", "can", "result", "from", "either", "skewed", "sensor", "deployments", ",", "or", "skewed", "data", "distributions", ",", "or", "both", ".", "The", "storage", "hot-spot", "size", "is", "characterized", "by", "the", "skewness", "dimensions", ",", "which", "are", "the", "percentage", "of", "the", "storage", "hot-spot", "events", "to", "the", "total", "number", "of", "events", "generated", "by", "the", "sensor", "network", "and", "the", "percentage", "of", "the", "read-323", "0", "200", "400", "600", "800", "1000", "1200", "1400", "1600", "1800", "2000", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Dropped", "Events", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "8", ":", "Number", "of", "dropped", "events", "for", "networks", "with", "a", "80", "%", "-10", "%", "hot-spot", "0", "200", "400", "600", "800", "1000", "1200", "1400", "1600", "1800", "2000", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Dropped", "Events", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "9", ":", "Number", "of", "dropped", "events", "for", "networks", "with", "a", "80", "%", "-5", "%", "hot-spot", "ings", "'", "range", "in", "which", "the", "hot-spot", "events", "fall", "to", "the", "total", "possible", "range", "of", "temperature", "readings", ".", "We", "assumed", "that", "a", "single", "storage", "hot-spot", "is", "imposed", "on", "the", "sensor", "network", ".", "To", "follow", "the", "behavior", "of", "KDDCS", "toward", "storage", "hot-spots", "of", "various", "sizes", ",", "we", "simulated", ",", "for", "each", "network", "size", ",", "a", "series", "of", "hot-spots", "where", "a", "percentage", "of", "10", "%", "to", "80", "%", "of", "the", "events", "fell", "into", "a", "percentage", "of", "5", "%", "to", "10", "%", "of", "the", "reading", "'", "range", ".", "Note", "that", "we", "always", "use", "the", "term", "x", "%", "-", "y", "%", "hot-spot", "to", "describe", "a", "storage", "hot-spot", "where", "x", "%", "of", "the", "total", "generated", "events", "fall", "into", "y", "%", "of", "the", "readings", "'", "range", ".", "We", "used", "a", "uniform", "split", "points", "initialization", "to", "setup", "the", "attribute", "range", "responsibilities", "of", "all", "internal", "nodes", "of", "the", "K-D", "tree", ".", "For", "the", "re-balancing", "threshold", ",", "we", "used", "a", "value", "of", "3", "to", "determine", "that", "a", "specific", "subtree", "is", "unbalanced", ".", "Node", "failures", "were", "handled", "in", "the", "same", "way", "as", "DIM", ".", "When", "a", "node", "fails", ",", "its", "stored", "events", "are", "considered", "lost", ".", "Futher", "events", "directed", "to", "the", "range", "responsibility", "of", "such", "node", "are", "directed", "to", "one", "of", "its", "close", "neighbors", ".", "We", "ran", "the", "simulation", "for", "each", "network", "size", "and", "storage", "hot-spot", "size", "pair", ".", "Each", "simulation", "run", "consisted", "of", "two", "phases", ":", "the", "insertion", "phase", "and", "the", "query", "phase", ".", "During", "the", "insertion", "phase", ",", "each", "sensor", "generates", "-LRB-", "i.e.", "reads", "-RRB-", "5", "events", ",", "according", "to", "the", "predefined", "hot-spot", "size", "and", "distribution", ",", "and", "forward", "each", "of", "these", "event", "to", "its", "owner", "sensor", ".", "In", "the", "query", "phase", ",", "each", "sensor", "generates", "queries", "of", "sizes", "ranging", "from", "10", "%", "to", "90", "%", "of", "the", "-LSB-", "30", ",", "70", "-RSB-", "range", ".", "The", "query", "phase", "is", "meant", "to", "measure", "the", "damages", ",", "in", "terms", "of", "QoD", "and", "energy", "losses", ",", "caused", "by", "the", "storage", "hot-spot", ".", "The", "results", "of", "the", "simulations", "are", "shown", "in", "the", "Figures", "8", "to", "17", ".", "In", "these", "figures", ",", "we", "compare", "the", "performance", "of", "our", "KDDCS", "scheme", "versus", "that", "the", "DIM", "scheme", "with", "respect", "to", "various", "performance", "measures", ".", "Note", "that", "we", "only", "show", "some", "of", "our", "findings", "due", "to", "space", "constraints", ".", "R1", ".", "Data", "Persistence", ":", "Figures", "8", "and", "9", "present", "the", "total", "number", "events", "dropped", "by", "all", "network", "nodes", "in", "networks", "with", "80", "%", "-10", "%", "and", "80", "%", "-5", "%", "hot-spots", ",", "respectively", ".", "By", "analyzing", "the", "difference", "0", "200", "400", "600", "800", "1000", "1200", "1400", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Events", "Returned", "for", "-LRB-", "0.5", "*", "attribute", "range", "-RRB-", "Query", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "10", ":", "Query", "size", "of", "a", "50", "%", "query", "for", "networks", "with", "a", "80", "%", "-10", "%", "hot-spot", "0", "200", "400", "600", "800", "1000", "1200", "1400", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Events", "Returned", "for", "-LRB-", "0.8", "*", "attribute", "range", "-RRB-", "Query", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "11", ":", "Query", "size", "of", "a", "80", "%", "query", "for", "networks", "with", "a", "80", "%", "-5", "%", "hot-spot", "between", "KDDCS", "and", "DIM", ",", "we", "can", "find", "out", "that", "the", "number", "of", "dropped", "events", "in", "the", "first", "is", "around", "40", "%", "to", "60", "%", "of", "that", "in", "the", "second", ".", "This", "can", "be", "interpreted", "by", "the", "fact", "that", "KDDCS", "achieves", "a", "better", "load", "balancing", "of", "storage", "among", "the", "sensors", ".", "This", "leads", "to", "decreasing", "the", "number", "of", "sensors", "reaching", "their", "maximum", "storage", ",", "and", "decreasing", "the", "total", "number", "of", "such", "nodes", "compared", "to", "that", "in", "the", "pure", "DIM", ".", "This", "directly", "results", "in", "decreasing", "the", "total", "number", "of", "dropped", "events", "and", "achieving", "a", "better", "data", "persistence", ".", "Another", "important", "remark", "to", "be", "noted", "based", "on", "the", "two", "figures", "is", "that", "decreasing", "the", "size", "of", "the", "hot-spot", "by", "making", "the", "same", "number", "of", "events", "to", "fall", "into", "a", "smaller", "attributes", "'", "range", "does", "not", "highly", "affect", "the", "overall", "performance", "of", "KDDCS", "compared", "to", "that", "of", "DIM", ".", "R2", ".", "Quality", "of", "Data", ":", "Figures", "10", "and", "11", "show", "the", "average", "query", "sizes", "of", "50", "%", "and", "80", "%", "of", "the", "attribute", "ranges", "for", "networks", "with", "a", "80", "%", "-10", "%", "and", "80", "%", "-5", "%", "hot-spots", ",", "respectively", ".", "It", "is", "clear", "that", "KDDCS", "remarkebly", "improves", "the", "QoD", "provided", "by", "the", "sensor", "network", ".", "This", "is", "mainly", "due", "to", "dropping", "less", "information", "-LRB-", "as", "pointed", "at", "in", "R1", "-RRB-", ",", "thus", ",", "increasing", "the", "number", "of", "events", "resulting", "in", "each", "query", ".", "The", "gap", "between", "DIM", "and", "KDDCS", ",", "in", "terms", "of", "resulting", "query", "sizes", ",", "is", "really", "huge", "for", "in", "both", "graphs", ",", "which", "indicates", "that", "KDDCS", "outperforms", "DIM", "for", "different", "storage", "hot-spot", "sizes", ".", "This", "result", "has", "a", "very", "important", "implication", "on", "the", "data", "accuracy", "of", "the", "sensor", "readings", "output", "from", "a", "network", "experiencing", "a", "hot-spot", ".", "The", "success", "of", "the", "KDDCS", "in", "avoiding", "hot-spots", "results", "in", "improving", "the", "network", "ability", "to", "keep", "a", "higher", "portion", "of", "the", "hot-spot", "data", ".", "This", "ameliorates", "the", "degree", "of", "correctness", "of", "any", "aggregate", "functions", "on", "the", "network", "readings", ",", "for", "example", ",", "an", "average", "of", "the", "temperature", "or", "pressure", "values", "where", "a", "high", "percentage", "of", "the", "data", "is", "falling", "within", "a", "small", "range", "of", "the", "total", "attributes", "'", "range", ".", "We", "consider", "this", "to", "be", "a", "good", "achievement", "compared", "to", "the", "pure", "DIM", "scheme", ".", "R3", ".", "Load", "Balancing", ":", "Figures", "12", "and", "13", "show", "the", "average", "node", "storage", "level", "for", "networks", "with", "70", "%", "-10", "%", "and", "60", "%", "-5", "%", "hot-spots", ",", "324", "0", "1", "2", "3", "4", "5", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Average", "Storage", "Level", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "12", ":", "Average", "node", "storage", "level", "for", "networks", "with", "a", "70", "%", "-10", "%", "hot-spot", "-LRB-", "numbers", "rounded", "to", "ceiling", "integer", "-RRB-", "0", "1", "2", "3", "4", "5", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Average", "Storage", "Level", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "13", ":", "Average", "node", "storage", "level", "for", "networks", "with", "a", "60", "%", "-5", "%", "hot-spot", "-LRB-", "numbers", "rounded", "to", "ceiling", "integer", "-RRB-", "respectively", ".", "By", "a", "node", "storage", "level", ",", "we", "mean", "the", "number", "of", "events", "stored", "in", "the", "node", "'s", "cache", ".", "The", "figures", "show", "that", "KDDCS", "has", "a", "higher", "average", "storage", "level", "than", "DIM", ",", "especially", "for", "less", "skewed", "hot-spots", ".", "This", "can", "be", "interpreted", "as", "follows", ".", "When", "a", "storage", "hot-spot", "arises", "in", "DIM", ",", "the", "hot-spot", "load", "is", "directed", "to", "a", "small", "number", "of", "sensors", ".", "These", "nodes", "rapidly", "reach", "their", "storage", "maximum", ",", "while", "almost", "all", "other", "sensor", "nodes", "are", "nearly", "empty", ".", "Therefore", ",", "the", "load", "distribution", "is", "highly", "skewed", "among", "nodes", "leadind", "to", "a", "low", "average", "storage", "level", "value", ".", "However", ",", "in", "KDDCS", ",", "the", "number", "of", "nodes", "effectively", "storing", "events", "increases", ".", "Subsequently", ",", "the", "average", "storage", "load", "value", "increases", ".", "This", "gives", "us", "a", "truthful", "figure", "about", "the", "better", "storage", "balancing", "the", "network", ".", "It", "is", "worth", "mentioning", "that", "each", "of", "the", "values", "in", "both", "figures", "is", "rounded", "to", "the", "ceiling", "integer", ".", "Thus", ",", "in", "both", "cases", ",", "the", "average", "in", "DIM", "does", "not", "exceed", "one", "event", "per", "sensor", "for", "all", "network", "sizes", ".", "R4", ".", "Energy", "Consumption", "Balancing", ":", "Figures", "14", "and", "15", "show", "the", "average", "node", "energy", "level", "at", "the", "end", "of", "the", "simulation", "for", "networks", "with", "70", "%", "-10", "%", "and", "50", "%", "-5", "%", "hot-spots", ",", "respectively", ".", "The", "figures", "show", "that", "this", "average", "generally", "decreases", "with", "the", "increase", "30", "35", "40", "45", "50", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Average", "Energy", "Level", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "14", ":", "Average", "sensors", "'", "energy", "levels", "for", "networks", "with", "a", "70", "%", "-10", "%", "hot-spot", "30", "35", "40", "45", "50", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Average", "Energy", "Level", "Network", "Size", "DIM", "KDDCS/KDTR", "Figure", "15", ":", "Average", "sensors", "'", "energy", "levels", "for", "networks", "with", "a", "50", "%", "-5", "%", "hot-spot", "0", "500", "1000", "1500", "2000", "2500", "3000", "3500", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Moved", "Events", "for", "x", "%", "-10", "%", "hot-spot", "Network", "Size", "x", "=", "40", "x", "=", "60", "x", "=", "80", "Figure", "16", ":", "Number", "of", "event", "movements", "for", "networks", "with", "a", "x", "%", "-10", "%", "hot-spot", "of", "the", "network", "size", "for", "both", "schemes", ".", "The", "interesting", "result", "that", "these", "figures", "show", "is", "that", "both", "KDDCS", "and", "DIM", "result", "in", "fairly", "close", "average", "energy", "consumption", "among", "the", "sensors", ".", "However", ",", "as", "we", "mentioned", "in", "R3", "and", "based", "on", "the", "way", "DIM", "works", ",", "most", "of", "the", "energy", "consumed", "in", "DIM", "is", "effectively", "consumed", "by", "a", "small", "number", "of", "nodes", ",", "namely", "those", "falling", "in", "the", "hot-spot", "region", ".", "On", "the", "other", "hand", ",", "the", "number", "of", "nodes", "consuming", "energy", "increases", "in", "KDDCS", "due", "to", "the", "better", "load", "balancing", "KDDCS", "achieves", ",", "while", "the", "average", "energy", "consumed", "by", "each", "sensor", "node", "decreases", ".", "Thus", ",", "although", "the", "overall", "energy", "consumption", "is", "the", "same", "in", "both", "KDDCS", "and", "DIM", ",", "this", "result", "is", "considered", "as", "a", "positive", "result", "in", "terms", "of", "increasing", "the", "overall", "network", "lifetime", ",", "as", "well", "as", "avoiding", "the", "early", "death", "of", "sensor", "nodes", ",", "which", "leads", "to", "avoid", "network", "partitioning", ".", "R5", ".", "Events", "Movements", ":", "Figures", "16", "and", "17", "show", "the", "number", "of", "migrated", "events", "for", "networks", "with", "x", "%", "-", "10", "%", "and", "x", "%", "-", "5", "%", "hot-spots", ",", "respectively", ",", "where", "x", "varies", "from", "40", "to", "80", ".", "For", "both", "sets", "of", "hot-spot", "sizes", ",", "the", "number", "of", "event", "movements", "lineraly", "increases", "with", "the", "network", "size", ".", "The", "important", "result", "to", "be", "noted", "in", "both", "0", "500", "1000", "1500", "2000", "2500", "3000", "3500", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "Moved", "Events", "for", "x", "%", "-5", "%", "hot-spot", "Network", "Size", "x", "=", "40", "x", "=", "60", "x", "=", "80", "Figure", "17", ":", "Number", "of", "event", "movements", "for", "networks", "with", "a", "x", "%", "-5", "%", "hot-spot", "325", "figure", "is", "that", "the", "total", "number", "of", "movements", "is", "not", "highly", "dependent", "on", "the", "hot-spot", "size", ".", "This", "is", "mainly", "because", "KDDCS", "avoids", "storage", "hot-spots", "in", "their", "early", "stages", "instead", "of", "waiting", "for", "a", "large", "storage", "hot-spot", "to", "be", "formed", ",", "and", "then", "try", "to", "decompose", "it", ".", "Therefore", ",", "most", "of", "the", "event", "movements", "are", "really", "done", "at", "the", "start", "of", "the", "formation", "of", "the", "storage", "hot-spot", ".", "This", "leads", "to", "the", "fact", "that", ",", "for", "highly", "skewed", "data", "distributions", ",", "-LRB-", "i.e.", "large", "hot-spot", "sizes", "-RRB-", ",", "the", "number", "of", "event", "movements", "does", "not", "highly", "change", "with", "changing", "the", "exact", "storage", "hot-spot", "size", ".", "Many", "approaches", "have", "been", "presented", "in", "literature", "defining", "how", "to", "store", "the", "data", "generated", "by", "a", "sensor", "network", ".", "In", "the", "early", "age", "of", "sensor", "networks", "research", ",", "the", "main", "storage", "trend", "used", "consisted", "of", "sending", "all", "the", "data", "to", "be", "stored", "in", "base", "stations", ",", "which", "lie", "within", ",", "or", "outside", ",", "the", "network", ".", "However", ",", "this", "approach", "may", "be", "more", "appropriate", "to", "answer", "continuous", "queries", ",", "which", "are", "queries", "running", "on", "servers", "and", "mostly", "processing", "events", "generated", "by", "all", "the", "sensor", "nodes", "over", "a", "large", "period", "of", "time", "-LSB-", "4", ",", "10", ",", "18", ",", "14", ",", "12", ",", "11", "-RSB-", ".", "In", "order", "to", "improve", "the", "lifetime", "of", "the", "sensor", "network", ",", "as", "well", "as", "the", "QoD", "of", "ad-hoc", "queries", ",", "INS", "techniques", "have", "been", "proposed", ".", "All", "INS", "schemes", "presented", "so", "far", "were", "based", "on", "the", "idea", "of", "DCS", "-LSB-", "15", "-RSB-", ".", "These", "INDCS", "schemes", "differ", "from", "each", "other", "based", "on", "the", "events-to-sensors", "mapping", "used", ".", "The", "mapping", "was", "done", "using", "hash", "tables", "in", "DHT", "-LSB-", "15", "-RSB-", "and", "GHT", "-LSB-", "13", "-RSB-", ",", "or", "using", "K-D", "trees", "in", "DIM", "-LSB-", "9", "-RSB-", ".", "The", "formation", "of", "storage", "hot-spots", "due", "to", "irregularity", ",", "in", "terms", "of", "sensor", "deployment", "or", "events", "distribution", ",", "represent", "a", "vital", "issue", "in", "current", "INDCS", "techniques", "-LSB-", "5", "-RSB-", ".", "Some", "possible", "solutions", "for", "irregular", "sensors", "deployments", "were", "highlighted", "by", "-LSB-", "5", "-RSB-", ",", "such", "as", "routing", "based", "on", "virtual", "coordinates", ",", "or", "using", "heuristics", "to", "locally", "adapt", "to", "irregular", "sensor", "densities", ".", "Recently", ",", "some", "load", "balancing", "heuristics", "for", "the", "irregular", "events", "distribution", "problem", "were", "presented", "by", "-LSB-", "2", ",", "8", "-RSB-", ".", "Such", "techniques", "were", "limited", "in", "their", "capability", "to", "deal", "with", "storage", "hot-spots", "of", "large", "sizes", "as", "they", "were", "basically", "acting", "like", "storage", "hot-spots", "detection", "and", "decomposition", "schemes", ",", "rather", "than", "storage", "hot-spots", "avoidance", "schemes", "like", "KDDCS", ".", "To", "the", "best", "of", "our", "knowledge", ",", "no", "techniques", "have", "been", "provided", "to", "cope", "with", "both", "types", "of", "irregularities", "at", "the", "same", "time", ".", "A", "complentary", "work", "to", "our", "paper", "is", "that", "on", "exploting", "similarities", "in", "processing", "queries", "issued", "by", "neighboring", "sensors", "in", "a", "DCS", "scheme", "-LSB-", "16", "-RSB-", ".", "Query", "Hot-Spots", "is", "another", "important", "problem", "that", "is", "orthogonal", "to", "the", "storage", "hot-spots", "problem", ".", "The", "problem", "arizes", "when", "a", "large", "percentage", "of", "queries", "ask", "for", "data", "stored", "in", "few", "sensors", ".", "We", "identified", "the", "problem", "in", "an", "earlier", "paper", "-LSB-", "1", "-RSB-", "and", "presented", "two", "algorithms", ",", "Zone", "Partitioning", "-LRB-", "ZP", "-RRB-", "and", "Zone", "Partial", "Replication", "-LRB-", "ZPR", "-RRB-", ",", "to", "locally", "detect", "and", "decompose", "query", "hot-spots", "in", "DIM", ".", "We", "believe", "that", "KDDCS", "is", "able", "to", "cope", "with", "query", "hot-spots", "provided", "minor", "changes", "are", "added", "to", "the", "scheme", ".", "We", "aim", "at", "addressing", "this", "problem", "in", "the", "KDDCS", "testbed", "that", "we", "plan", "to", "develop", ".", "Recently", ",", "Krishnamurthy", "et", "al.", "-LSB-", "7", "-RSB-", "presented", "a", "novel", "DCS", "scheme", ",", "called", "RESTORE", ",", "that", "is", "characterized", "by", "real", "time", "event", "correlation", ".", "It", "would", "be", "interesting", "to", "compare", "the", "performance", "of", "both", "KDDCS", "and", "RESTORE", "in", "terms", "of", "load", "balacing", ".", "Sensor", "databases", "are", "becoming", "embedded", "in", "every", "aspect", "of", "our", "life", "from", "merchandise", "tracking", ",", "healthcare", ",", "to", "disaster", "responds", ".", "In", "the", "particular", "application", "of", "disaster", "management", ",", "it", "has", "been", "ar-gued", "that", "it", "is", "more", "energy", "efficient", "to", "store", "the", "sensed", "data", "locally", "in", "the", "sensor", "nodes", "rather", "than", "shipping", "it", "out", "of", "the", "network", ",", "even", "if", "out-of-network", "storage", "is", "available", ".", "The", "formation", "of", "Storage", "Hot-Spots", "is", "a", "major", "problem", "with", "the", "current", "INDCS", "techniques", "in", "sensor", "networks", ".", "In", "this", "paper", ",", "we", "presented", "a", "new", "load-balanced", "INDCS", "scheme", ",", "namely", "KDDCS", ",", "that", "avoids", "the", "formation", "of", "storage", "hot-spots", "arising", "in", "the", "sensor", "network", "due", "to", "irregular", "sensor", "deployment", "and/or", "irregular", "events", "distribution", ".", "Further", ",", "we", "proposed", "a", "new", "routing", "algorithm", "called", "Logical", "Stateless", "Routing", ",", "for", "routing", "events", "from", "the", "generating", "sensors", "to", "the", "storage", "sensors", ",", "that", "is", "competitive", "with", "the", "popular", "GPSR", "routing", ".", "Our", "experimental", "evaluation", "has", "confirmed", "that", "our", "proposed", "KDDCS", "both", "increases", "the", "quality", "of", "data", "and", "the", "energy", "savings", "by", "distributing", "events", "of", "the", "storage", "hot-spots", "among", "a", "larger", "number", "of", "sensors", ".", "We", "would", "like", "to", "thank", "Mohamed", "Sharaf", "for", "his", "useful", "feedback", ".", "We", "would", "also", "like", "to", "thank", "the", "anonymous", "referees", "for", "their", "helpful", "comments", ".", "-LSB-", "1", "-RSB-", "M.", "Aly", ",", "P.", "K.", "Chrysanthis", ",", "and", "K.", "Pruhs", ".", "Decomposing", "data-centric", "storage", "query", "hot-spots", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "MOBIQUITOUS", ",", "2006", ".", "-LSB-", "2", "-RSB-", "M.", "Aly", ",", "N.", "Morsillo", ",", "P.", "K.", "Chrysanthis", ",", "and", "K.", "Pruhs", ".", "Zone", "Sharing", ":", "A", "hot-spots", "decomposition", "scheme", "for", "data-centric", "storage", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "DMSN", ",", "2005", ".", "-LSB-", "3", "-RSB-", "J.", "L.", "Bentley", ".", "Multidimensional", "binary", "search", "trees", "used", "for", "associative", "searching", ".", "In", "CACM", ",", "18", "-LRB-", "9", "-RRB-", ",", "1975", ".", "-LSB-", "4", "-RSB-", "P.", "Bonnet", ",", "J.", "Gehrke", ",", "and", "P.", "Seshadri", ".", "Towards", "sensor", "database", "systems", ".", "In", "Proc", ".", "of", "MDM", ",", "2001", ".", "-LSB-", "5", "-RSB-", "D.", "Ganesan", ",", "S.", "Ratnasamy", ",", "H.", "Wang", ",", "and", "D.", "Estrin", ".", "Coping", "with", "irregular", "spatio-temporal", "sampling", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "HotNets-II", ",", "2003", ".", "-LSB-", "6", "-RSB-", "B.", "Karp", "and", "H.", "T.", "Kung", ".", "GPSR", ":", "Greedy", "perimeter", "stateless", "routing", "for", "wireless", "sensor", "networks", ".", "In", "Proc", ".", "of", "ACM", "Mobicom", ",", "2000", ".", "-LSB-", "7", "-RSB-", "S.", "Krishnamurthy", ",", "T.", "He", ",", "G.", "Zhou", ",", "J.", "A.", "Stankovic", ",", "and", "S.", "H.", "Son", ".", "Restore", ":", "A", "real-time", "event", "correlation", "and", "storage", "service", "for", "sensor", "networks", ".", "In", "Proc", ".", "of", "INSS", ",", "2006", ".", "-LSB-", "8", "-RSB-", "X.", "Li", ",", "F.", "Bian", ",", "R.", "Govidan", ",", "and", "W.", "Hong", ".", "Rebalancing", "distributed", "data", "storage", "in", "sensor", "networks", ".", "Technical", "Report", "No.", "05-852", ",", "CSD", ",", "USC", ",", "2005", ".", "-LSB-", "9", "-RSB-", "X.", "Li", ",", "Y.", "J.", "Kim", ",", "R.", "Govidan", ",", "and", "W.", "Hong", ".", "Multi-dimensional", "range", "queries", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "ACM", "SenSys", ",", "2003", ".", "-LSB-", "10", "-RSB-", "S.", "Madden", ",", "M.", "Franklin", ",", "J.", "Hellerstein", ",", "and", "W.", "Hong", ".", "TAG", ":", "a", "tiny", "aggregation", "service", "for", "ad-hoc", "sensor", "networks", ".", "In", "Proc", ".", "of", "OSDI", ",", "2002", ".", "-LSB-", "11", "-RSB-", "S.-J", ".", "Park", ",", "R.", "Vedantham", ",", "R.", "Sivakumar", ",", "and", "I.", "F.", "Akyildiz", ".", "A", "scalable", "approach", "for", "reliable", "downstream", "data", "delivery", "in", "wireless", "sensor", "networks", ".", "In", "Proc", ".", "of", "MobiHoc", ",", "2004", ".", "-LSB-", "12", "-RSB-", "T.", "Pham", ",", "E.", "J.", "Kim", ",", "and", "W.", "M.", "Moh", ".", "On", "data", "aggregation", "quality", "and", "energy", "efficiency", "of", "wireless", "sensor", "network", "protocols", ".", "In", "Proc", ".", "of", "BROADNETS", ",", "2004", ".", "-LSB-", "13", "-RSB-", "S.", "Ratnasamy", ",", "B.", "Karp", ",", "L.", "Yin", ",", "F.", "Yu", ",", "D.", "Estrin", ",", "R.", "Govidan", ",", "and", "S.", "Shenker", ".", "GHT", ":", "A", "grographic", "hash", "table", "for", "data-centric", "storage", ".", "In", "Proc", ".", "of", "WSNA", ",", "2002", ".", "-LSB-", "14", "-RSB-", "M.", "A.", "Sharaf", ",", "J.", "Beaver", ",", "A.", "Labrinidis", ",", "and", "P.", "K.", "Chrysanthis", ".", "TiNA", ":", "A", "scheme", "for", "temporal", "coherency-aware", "in-network", "aggregation", ".", "In", "Proc", ".", "of", "MobiDE", ",", "2003", ".", "-LSB-", "15", "-RSB-", "S.", "Shenker", ",", "S.", "Ratnasamy", ",", "B.", "Karp", ",", "R.", "Govidan", ",", "and", "D.", "Estrin", ".", "Data-centric", "storage", "in", "sensornets", ".", "In", "Proc", ".", "of", "HotNets-I", ",", "2002", ".", "-LSB-", "16", "-RSB-", "P.", "Xia", ",", "P.", "K.", "Chrysanthis", ",", "and", "A.", "Labrinidis", ".", "Similarity-aware", "query", "processing", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "WPDRTS", ",", "2006", ".", "-LSB-", "17", "-RSB-", "T.", "Yan", ",", "T.", "He", ",", "and", "J.", "A.", "Stankovic", ".", "Differentiated", "surveillance", "for", "sensor", "networks", ".", "In", "Proc", ".", "of", "SenSys", ",", "2003", ".", "-LSB-", "18", "-RSB-", "Y.", "Yao", "and", "J.", "Gehrke", ".", "Query", "processing", "for", "sensor", "networks", ".", "In", "Proc", ".", "of", "CIDR", ",", "2003", ".", "326"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["kddcs", "distributed algorithms", "routing algorithm", "weighted split median problem", "data persistence", "sensor network", "dim"], "abstractive_keyphrases": ["storage hot-spots", "energy saving", "ad-hoc queries", "power-aware", "quality of data (qod)"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "119", "document": ["Is", "a", "Picture", "Worth", "a", "Thousand", "Words", "?", "What", "makes", "a", "peripheral", "or", "ambient", "display", "more", "effective", "at", "presenting", "awareness", "information", "than", "another", "?", "Presently", ",", "little", "is", "known", "in", "this", "regard", "and", "techniques", "for", "evaluating", "these", "types", "of", "displays", "are", "just", "beginning", "to", "be", "developed", ".", "In", "this", "article", ",", "we", "focus", "on", "one", "aspect", "of", "a", "peripheral", "display", "'s", "effectiveness-its", "ability", "to", "communicate", "information", "at", "a", "glance", ".", "We", "conducted", "an", "evaluation", "of", "the", "InfoCanvas", ",", "a", "peripheral", "display", "that", "conveys", "awareness", "information", "graphically", "as", "a", "form", "of", "information", "art", ",", "by", "assessing", "how", "well", "people", "recall", "information", "when", "it", "is", "presented", "for", "a", "brief", "period", "of", "time", ".", "We", "compare", "performance", "of", "the", "InfoCanvas", "to", "two", "other", "electronic", "information", "displays", ",", "a", "Web", "portal", "style", "and", "a", "text-based", "display", ",", "when", "each", "display", "was", "viewed", "for", "a", "short", "period", "of", "time", ".", "We", "found", "that", "participants", "noted", "and", "recalled", "significantly", "more", "information", "when", "presented", "by", "the", "InfoCanvas", "than", "by", "either", "of", "the", "other", "displays", "despite", "having", "to", "learn", "the", "additional", "graphical", "representations", "employed", "by", "the", "InfoCanvas", ".", "The", "Peripheral", "awareness", "displays", "are", "systems", "that", "reside", "in", "a", "user", "'s", "environment", "within", "the", "periphery", "of", "the", "user", "'s", "attention", ".", "As", "such", ",", "the", "purpose", "of", "these", "displays", "is", "not", "for", "monitoring", "vital", "tasks", ".", "Rather", ",", "peripheral", "displays", "best", "serve", "as", "communication", "media", "that", "people", "can", "opportunistically", "examine", "to", "maintain", "information", "awareness", "-LSB-", "11", ",", "17", "-RSB-", ".", "The", "term", "ambient", "display", "-LSB-", "22", "-RSB-", "has", "been", "used", "to", "describe", "systems", "like", "this", "as", "well", ",", "but", "to", "avoid", "confusion", ",", "throughout", "this", "document", "we", "use", "this", "term", "to", "describe", "peripheral", "awareness", "systems", "that", "generally", "convey", "only", "one", "piece", "of", "information", ".", "We", "use", "the", "term", "peripheral", "display", "to", "describe", "peripheral", "awareness", "systems", "that", "may", "present", "multiple", "information", "items", ".", "Both", "peripheral", "and", "ambient", "displays", "are", "designed", "not", "to", "distract", "people", "from", "their", "tasks", "at", "hand", ",", "but", "to", "be", "subtle", ",", "calm", "reminders", "that", "can", "be", "occasionally", "noticed", ".", "In", "addition", "to", "presenting", "information", ",", "the", "displays", "also", "frequently", "contribute", "to", "the", "aesthetics", "of", "the", "locale", "in", "which", "they", "are", "deployed", "-LSB-", "1", "-RSB-", ".", "Dozens", "of", "peripheral/ambient", "displays", "have", "been", "created", "in", "many", "shapes", "and", "form", "factors", ".", "Some", "displays", ",", "such", "as", "the", "dangling", "string", "-LSB-", "21", "-RSB-", ",", "tangible", "displays", "including", "water", "lamps", "and", "pinwheels", "-LSB-", "4", "-RSB-", ",", "and", "the", "Information", "Percolator", "-LSB-", "7", "-RSB-", "have", "utilized", "physical", "-LRB-", "and", "often", "everyday", "-RRB-", "objects", ".", "Other", "displays", ",", "such", "as", "Informative", "Artwork", "-LSB-", "8", "-RSB-", "and", "the", "Digital", "Family", "Portrait", "-LSB-", "16", "-RSB-", "use", "electronic", "displays", "to", "represent", "information", "in", "a", "graphical", "manner", ".", "All", "these", "systems", "primarily", "communicate", "one", "item", "of", "information", ".", "Other", "peripheral/ambient", "displays", "exist", "that", "are", "capable", "of", "conveying", "more", "than", "one", "information", "item", "simultaneously", ".", "The", "Digital", "Family", "Portrait", ",", "although", "primarily", "intended", "to", "allow", "geographically", "separated", "family", "members", "maintain", "awareness", "of", "each", "other", ",", "allows", "for", "the", "optional", "displaying", "of", "additional", "information", "such", "as", "weather", "-LSB-", "16", "-RSB-", ".", "Audio", "cues", ",", "instead", "of", "visual", "displays", ",", "have", "also", "been", "utilized", "in", "peripheral", "displays", "to", "convey", "multiple", "nuggets", "of", "information", "in", "the", "Audio", "Aura", "system", "-LSB-", "15", "-RSB-", ".", "The", "Kandinsky", "system", "-LSB-", "5", "-RSB-", "attempts", "to", "create", "artistic", "collages", "of", "various", "pieces", "of", "information", ",", "and", "the", "Scope", "system", "is", "an", "abstract", "visualization", "displaying", "notification", "information", "from", "multiple", "sources", "-LSB-", "19", "-RSB-", ".", "SideShow", "-LSB-", "3", "-RSB-", "provides", "a", "display", "sidebar", "containing", "multiple", "awareness", "icons", "such", "as", "traffic", "and", "weather", "indicators", ".", "The", "InfoCanvas", "-LSB-", "14", "-RSB-", ",", "the", "focus", "of", "this", "article", ",", "differs", "from", "the", "initial", "set", "of", "systems", "above", "by", "explicitly", "promoting", "the", "conveyance", "of", "multiple", "pieces", "of", "information", "concurrently", ".", "It", "differs", "from", "the", "latter", "set", "of", "Copyright", "is", "held", "by", "the", "author/owner", "originally", "published", "by", "the", "Canadian", "Human-Computer", "Communications", "Society", "in", "the", "Proceedings", "of", "Graphics", "Interface", "2004", ",", "May", "17-19", ",", "London", ",", "Ontario", ".", "117", "systems", "in", "promoting", "greater", "flexibility", "of", "information", "monitored", "and", "its", "subsequent", "visual", "representation", ",", "as", "well", "as", "allowing", "for", "greater", "user", "control", "in", "specifying", "those", "mappings", ".", "Although", "many", "types", "of", "displays", "exist", "and", "new", "ones", "are", "being", "developed", ",", "little", "is", "known", "about", "what", "makes", "a", "particular", "peripheral/ambient", "display", "more", "successful", "at", "presenting", "information", "than", "another", "-LSB-", "10", "-RSB-", ".", "Furthermore", ",", "such", "displays", "are", "inherently", "difficult", "to", "evaluate", "formally", "since", "they", "are", "designed", "not", "to", "distract", "the", "user", ".", "As", "a", "result", ",", "evaluation", "techniques", "have", "been", "limited", ",", "as", "Mankoff", "et", "al.", "note", "-LSB-", "10", "-RSB-", ",", "to", "formative", "ethnographies", "-LSB-", "16", "-RSB-", "and", "within-lab", "studies", "where", "displays", "are", "developed", "and", "subsequently", "refined", "over", "time", "by", "their", "designers", "-LSB-", "6", "-RSB-", ".", "However", ",", "there", "has", "been", "recent", "work", "on", "developing", "new", "evaluation", "techniques", "for", "ambient", "displays", ",", "most", "notably", "Mankoff", "et", "al.", "'s", "set", "of", "discount", "formative", "techniques", "-LSB-", "10", "-RSB-", "and", "McCrickard", "et", "al.", "'s", "notification", "system", "categorization", "framework", "-LSB-", "13", "-RSB-", ".", "The", "goal", "of", "this", "study", "is", "not", "to", "evaluate", "peripheral", "displays", "in", "general", ".", "Rather", ",", "we", "focus", "on", "one", "particular", "component", "of", "a", "peripheral", "display", "'s", "effectiveness", ",", "its", "ability", "to", "communicate", "information", ".", "More", "specifically", ",", "we", "examine", "how", "the", "abstract", "data", "mappings", "of", "electronic", "information", "artwork", "affect", "people", "'s", "interpretation", "and", "memory", "of", "the", "data", ".", "Both", "the", "InfoCanvas", "-LSB-", "14", "-RSB-", "and", "the", "Informative", "Artwork", "-LSB-", "8", "-RSB-", "projects", "make", "use", "of", "dynamic", "pieces", "of", "electronic", "artwork", "to", "represent", "information", "in", "an", "eye-appealing", "manner", ".", "Such", "displays", "are", "placed", "within", "a", "person", "'s", "work", "environment", "or", "are", "publicly", "displayed", ",", "enabling", "at-a-glance", "information", "awareness", ".", "How", "well", "the", "systems", "convey", "information", "is", "not", "known", ",", "however", ".", "Note", "that", "the", "success", "of", "a", "peripheral/ambient", "display", "involves", "more", "than", "simple", "information", "acquisition", ".", "Because", "these", "displays", "are", "positioned", "in", "people", "'s", "environments", ",", "aesthetics", "and", "attractiveness", "influence", "adop-tion", "as", "well", ".", "The", "research", "reported", "here", ",", "though", ",", "focuses", "solely", "on", "such", "displays", "'", "ability", "to", "convey", "information", ".", "In", "a", "companion", "study", ",", "the", "issues", "of", "aesthetics", "and", "longer-term", "use", "of", "the", "InfoCanvas", "system", "are", "currently", "being", "explored", ".", "This", "study", "examines", "if", "an", "electronic", "picture", "``", "is", "worth", "a", "thousand", "words", ".", "''", "That", "is", ",", "how", "well", "are", "users", "able", "to", "learn", "mappings", "and", "subsequently", "comprehend", "and", "recall", "information", "when", "it", "is", "presented", "in", "the", "form", "of", "electronic", "artwork", "in", "comparison", "to", "more", "traditional", "methods", ".", "We", "accomplish", "this", "by", "designing", "an", "InfoCanvas", "display", "as", "well", "as", "two", "more", "conventional", "information", "displays", "and", "evaluating", "participants", "'", "memories", "of", "them", "when", "they", "only", "see", "the", "displays", "for", "short", "periods", "of", "time", ".", "Study", "participants", "viewed", "three", "examples", "of", "each", "display", "with", "each", "example", "encoding", "different", "data", "values", "-LRB-", "described", "in", "detail", "in", "the", "next", "section", "-RRB-", ".", "After", "viewing", "a", "display", "for", "eight", "seconds", ",", "participants", "recalled", "the", "information", "presented", "using", "a", "multiple-choice", "questionnaire", ".", "2.1", "Materials", "Ten", "items", "of", "information", "were", "selected", "to", "be", "monitored", ":", "time", "of", "day", ",", "a", "weather", "forecast", ",", "a", "temperature", "forecast", ",", "traffic", "conditions", ",", "a", "news", "headline", ",", "the", "Dow", "Jones", "stock", "index", "value", ",", "an", "airfare", "price", ",", "updates", "to", "a", "Web", "site", ",", "a", "count", "of", "new", "emails", ",", "and", "a", "baseball", "score", ".", "These", "items", "are", "examples", "of", "information", "people", "typically", "seek", "to", "maintain", "awareness", "of", "-LSB-", "14", "-RSB-", ".", "Three", "information", "screens", "were", "designed", "including", "an", "InfoCanvas", "beach", "scene", ",", "a", "minimalist", "text-based", "display", ",", "and", "a", "Web", "portal-like", "display", ".", "These", "three", "displays", "were", "chosen", "to", "represent", "interesting", "points", "in", "a", "spectrum", "of", "possibilities", ",", "as", "depicted", "in", "Figure", "1", ",", "for", "representing", "awareness", "information", "on", "electronic", "ambient", "displays", ".", "Styles", "range", "from", "pure", "textual", "presentations", "to", "highly", "abstract", ",", "graphical", "imagery", ".", "The", "InfoCanvas", "and", "the", "Text-based", "display", "inhabit", "positions", "near", "the", "endpoints", "of", "that", "spectrum", ".", "The", "Web", "Portal", "display", "was", "designed", "to", "incorporate", "a", "hybrid", "of", "textural", "and", "graphical", "representations", ",", "and", "resemble", "the", "types", "of", "Web", "``", "start", "pages", "''", "that", "people", "frequently", "use", "to", "maintain", "information", "awareness", "today", "-LSB-", "14", "-RSB-", ".", "Other", "interesting", "points", "in", "the", "spectrum", "include", "more", "direct", "graphical", "-LRB-", "typically", "iconic", "-RRB-", "representations", "of", "information", "as", "embodied", "by", "systems", "such", "as", "Sideshow", "-LSB-", "3", "-RSB-", ",", "and", "could", "be", "the", "subject", "of", "future", "experiments", ".", "For", "this", "study", ",", "we", "compare", "the", "InfoCanvas", "to", "two", "widely", "deployed", "types", ",", "Web", "portals", "-LRB-", "e.g.", "MyYahoo", "!", "-RRB-", "and", "text-heavy", "news", "summaries", "or", "Web", "pages", ".", "Highly", "Textual", "InfoCanvas", "-LSB-", "14", "-RSB-", "Sideshow", "-LSB-", "3", "-RSB-", "Web", "Portal", "My", "Yahoo!", "Text-Based", "Informative", "Artwork", "-LSB-", "6", "-RSB-", "Highly", "Graphical", "Figure", "1", ":", "A", "spectrum", "of", "awareness", "displays", "ranging", "from", "textual", "to", "graphical", "presentations", "of", "information", ".", "118", "All", "three", "displays", "in", "the", "study", "were", "designed", "seeking", "a", "balance", "of", "experimental", "control", "and", "representation", "of", "ecologically", "valid", "real-world", "use", ".", "Extensive", "pilot", "testing", "and", "redesign", "was", "used", "to", "refine", "their", "appearance", ".", "We", "designed", "the", "three", "displays", "to", "encode", "the", "ten", "pieces", "of", "information", "in", "an", "appropriate", "manner", "for", "that", "display", "style", ".", "In", "all", "three", ",", "we", "added", "a", "small", "amount", "of", "extra", "information", "beyond", "the", "ten", "queried", "information", "values", ",", "much", "as", "similar", "real", "world", "displays", "would", "undoubtedly", "do", ".", "All", "displays", "were", "presented", "full-screen", "on", "a", "Viewsonic", "15", "''", "LCD", "display", "running", "at", "a", "resolution", "of", "1024", "x", "768", ".", "The", "InfoCanvas", "used", "the", "entire", "screen", "area", ",", "and", "the", "other", "two", "displays", "used", "slightly", "less", "of", "the", "entire", "display", "as", "will", "be", "explained", "below", ".", "In", "the", "following", "subsections", ",", "we", "describe", "each", "of", "the", "displays", "in", "more", "detail", ".", "InfoCanvas", "Display", "The", "InfoCanvas", "system", "supports", "a", "variety", "of", "artistic", "scenes", "or", "themes", ".", "We", "chose", "to", "use", "a", "beach", "scene", "as", "shown", "in", "Figure", "2", "for", "the", "experiment", "due", "to", "its", "popularity", "with", "trial", "users", ".", "Individual", "objects", "in", "the", "scene", "represented", "the", "ten", "data", "values", "as", "follows", ":", "Airfare", "price", ":", "Represented", "by", "the", "vertical", "height", "of", "the", "kite", "in", "the", "sky", "from", "$", "0", "-LRB-", "near", "the", "water", "level", "-RRB-", "to", "$", "400", "-LRB-", "top", "of", "the", "screen", "-RRB-", ".", "News", "headline", ":", "Shown", "on", "the", "banner", "behind", "the", "plane", ".", "Time", "of", "day", ":", "Denoted", "by", "the", "sailboat", "moving", "from", "the", "left", "side", "-LRB-", "12:01", "AM", "-RRB-", "to", "the", "right", "side", "-LRB-", "11:59", "PM", "-RRB-", ".", "Web", "site", "update", ":", "Represented", "by", "the", "color", "of", "the", "leaves", "on", "the", "palm", "tree", ",", "green", "indicates", "a", "recent", "update", "and", "brown", "indicates", "no", "recent", "changes", ".", "Weather", "forecast", ":", "Illustrated", "through", "the", "actual", "weather", "shown", "in", "the", "sky", "-LRB-", "e.g.", ",", "clouds", "represents", "a", "forecast", "of", "cloudy", "weather", "-RRB-", ".", "Temperature", "forecast", ":", "Represented", "by", "the", "height", "of", "the", "large", "seagull", "in", "the", "sky", ",", "ranging", "from", "50", "degrees", "at", "water", "level", "to", "90", "degrees", "at", "the", "top", "of", "the", "screen", ".", "Dow", "Jones", "stock", "market", "change", ":", "Displayed", "by", "the", "arrangement", "of", "seashells", "on", "the", "shoreline", ".", "Shells", "form", "an", "arrow", "to", "indicate", "whether", "stocks", "are", "up", "or", "down", "and", "the", "quantity", "of", "shells", "indicates", "the", "value", "-LRB-", "three", "shells", "indicate", "a", "change", "of", "0", "50", "points", ",", "five", "shells", "indicate", "a", "change", "of", "more", "than", "50", "points", "-RRB-", ".", "New", "email", "messages", ":", "Depicted", "by", "the", "height", "of", "liquid", "in", "the", "glass", "ranging", "from", "0", "new", "emails", "-LRB-", "empty", "glass", "-RRB-", "to", "20", "new", "emails", "-LRB-", "a", "full", "glass", "-RRB-", ".", "Current", "traffic", "speed", "on", "a", "local", "roadway", ":", "Sym-bolized", "by", "the", "color", "of", "the", "woman", "'s", "bathing", "suit", "with", "red", "indicating", "speed", "less", "than", "25", "MPH", ",", "yellow", "indicating", "a", "speed", "between", "25", "and", "50", "MPH", ",", "and", "green", "indicating", "a", "speed", "greater", "than", "50", "MPH", ".", "Baseball", "score", ":", "Shown", "by", "the", "size", "of", "two", "beach", "balls", ":", "A", "larger", "ball", "indicates", "a", "winning", "team", "and", "identical", "ball", "sizes", "indicate", "a", "tied", "score", ".", "Color", "is", "used", "to", "distinguish", "the", "two", "teams", ".", "These", "mappings", "were", "chosen", "to", "reflect", "a", "variety", "of", "objects", "moving", "or", "changing", "size", "or", "color", ".", "In", "addition", ",", "some", "mappings", "were", "chosen", "for", "being", "more", "intuitive", "and", "direct", ",", "such", "as", "using", "weather", "icons", "to", "represent", "weather", "or", "the", "metaphor", "of", "a", "kite", "flying", "in", "the", "sky", "to", "reflect", "airfare", "price", ".", "Other", "mappings", ",", "such", "as", "representing", "updates", "to", "a", "Website", "by", "tree", "leaf", "color", ",", "were", "intended", "to", "be", "more", "abstract", "and", "indirect", ".", "A", "pilot", "study", "of", "four", "InfoCanvas", "users", "revealed", "a", "wide", "variety", "of", "mapping", "styles", ",", "both", "natural", "and", "abstract", ".", "As", "a", "result", ",", "we", "wanted", "the", "scene", "used", "in", "this", "study", "to", "reflect", "this", ".", "Furthermore", ",", "as", "also", "done", "in", "actual", "use", ",", "we", "placed", "additional", "items", "in", "the", "scene", "such", "as", "the", "chair", ",", "umbrella", ",", "and", "crab", "simply", "for", "aesthetic", "purposes", ".", "Several", "items", "within", "this", "display", "present", "information", "as", "a", "precise", "point", "along", "a", "continuous", "scale", ",", "including", "the", "time-of-day", ",", "airfare", ",", "and", "forecasted", "temperature", ",", "by", "displaying", "objects", "that", "move", "along", "a", "line", ".", "Other", "items", ",", "including", "the", "traffic", "speed", ",", "stock", "update", ",", "and", "baseball", "score", ",", "are", "represented", "using", "categorical", "encod-ings", ".", "For", "example", ",", "the", "different", "shell", "arrangements", "representing", "the", "Dow", "Jones", "stock", "update", "indicate", "four", "different", "ranges", "of", "values", ".", "The", "implications", "of", "this", "difference", "will", "be", "explored", "more", "fully", "later", "when", "describing", "the", "questionnaire", "formats", ".", "Text-Based", "Display", "The", "Text-based", "display", "-LRB-", "shown", "in", "Figure", "2", "-RRB-", "predomi-nantly", "uses", "text", "to", "display", "information", ".", "Web", "pages", "such", "as", "MyYahoo", "were", "the", "inspiration", "for", "the", "Text-based", "display", ",", "but", "the", "use", "of", "images", ",", "different", "colors", ",", "and", "graphics", "were", "removed", ".", "Thus", ",", "the", "display", "represents", "a", "position", "near", "the", "endpoint", "of", "the", "graphics-text", "spectrum", "presented", "earlier", ".", "As", "a", "result", ",", "we", "restricted", "formatting", "on", "this", "display", "to", "changes", "in", "point", "size", "and", "the", "use", "of", "bold", "text", "with", "the", "exception", "of", "using", "a", "fixed-width", "font", "to", "indicate", "stock", "change", "values", ".", "-LRB-", "The", "fixed-width", "font", "helps", "to", "align", "numerical", "stock", "values", ",", "providing", "a", "clean", "and", "orderly", "appearance", "similar", "to", "the", "style", "used", "by", "existing", "services", ".", "-RRB-", "Extra", "information", "beyond", "the", "ten", "data", "values", "on", "this", "display", "included", "a", "few", "lines", "from", "a", "news", "article", "related", "to", "the", "current", "headline", ",", "the", "current", "date", ",", "and", "additional", "stock", "information", "for", "the", "Standard", "&", "Poor", "'s", "500", "and", "119", "Figure", "2", ":", "Examples", "of", "the", "InfoCanvas", "beach", "scene", "-LRB-", "top", "-RRB-", ",", "text-based", "-LRB-", "middle", "-RRB-", ",", "and", "Web", "Portal", "displays", "-LRB-", "bottom", "-RRB-", "used", "in", "the", "study", ".", "120", "NASDAQ", "indices", "--", "items", "likely", "to", "appear", "on", "such", "a", "display", ".", "The", "Text-based", "display", "consisted", "of", "a", "region", "970", "pixels", "wide", "to", "330", "pixels", "high", "on", "the", "screen", ".", "Pilot", "testing", "found", "this", "size", "optimal", "in", "allowing", "the", "use", "of", "columns", ",", "section", "headers", ",", "and", "white", "space", "to", "make", "an", "effective", "and", "visually", "pleasing", "display", ".", "Furthermore", ",", "pilot", "testing", "indicated", "that", "information", "recall", "suffered", "as", "the", "display", "'s", "size", "increased", ",", "perhaps", "due", "to", "increased", "eye", "movement", ",", "even", "though", "the", "data", "elements", "remained", "located", "in", "the", "same", "position", ".", "Web", "Portal", "Display", "The", "Web", "Portal", "display", "-LRB-", "shown", "in", "Figure", "2", "-RRB-", "also", "mim-icked", "the", "look", "and", "feel", "of", "popular", "no-cost", "``", "start", "''", "Web", "pages", "such", "as", "My", "Yahoo", ".", "However", ",", "we", "added", "additional", "formatting", "and", "iconic", "graphics/images", "as", "found", "in", "awareness", "displays", "such", "as", "Sideshow", "-LSB-", "3", "-RSB-", "to", "differentiate", "this", "display", "from", "the", "Text-based", "display", ".", "Web", "portals", ",", "in", "actuality", ",", "tend", "to", "make", "relatively", "limited", "use", "of", "images", "and", "graphics", ".", "Our", "introduction", "of", "graphics", "and", "images", "served", "two", "main", "purposes", "--", "making", "the", "display", "more", "of", "a", "hybrid", "between", "the", "highly", "artistic", "InfoCanvas", "and", "a", "display", "utilizing", "only", "text", ",", "and", "also", "to", "increase", "the", "effectiveness", "of", "the", "design", "by", "using", "graphics", "to", "position", "items", "or", "convey", "information", ".", "Graphics", "that", "encode", "values", "--", "those", "that", "change", "to", "reflect", "information", "--", "in", "the", "Web", "Portal", "display", "include", "the", "weather", "icon", "indicating", "the", "weather", "forecast", ",", "the", "speedometer", "icon", "with", "a", "meter", "indicating", "the", "current", "speed", "of", "vehicles", ",", "and", "an", "icon", "indicating", "the", "presence", "of", "new", "email", "messages", ".", "In", "addition", ",", "an", "image", "related", "to", "the", "news", "headline", "was", "displayed", ".", "Iconic", "images", "that", "did", "not", "change", "and", "were", "used", "solely", "as", "positional", "anchors", "included", "a", "picture", "frame", "icon", "for", "the", "Web", "site", "update", "item", ",", "baseball", "team", "logos", ",", "and", "an", "airline", "logo", ".", "In", "addition", ",", "colors", "and", "arrows", "were", "used", "to", "indicate", "stock", "trends", "and", "the", "baseball", "team", "currently", "winning", "was", "displayed", "in", "bold", "text", ".", "The", "Web", "Portal", "display", "'s", "extra", "information", "-LRB-", "e.g.", "not", "encoding", "the", "ten", "queried", "values", "-RRB-", "included", "a", "few", "lines", "of", "a", "news", "story", "related", "to", "the", "headline", "and", "the", "current", "date", ",", "and", "the", "two", "other", "stock", "indices", "as", "done", "in", "the", "Text-based", "display", ".", "The", "Web", "Portal", "display", "used", "an", "area", "of", "968", "pixels", "wide", "by", "386", "pixels", "high", "on", "the", "display", ".", "Again", ",", "iterative", "development", "and", "pilot", "testing", "helped", "determine", "this", "size", "was", "best", "to", "create", "a", "balanced", "and", "ordered", "layout", "and", "be", "an", "effective", "presenter", "of", "information", ".", "As", "in", "the", "Text-based", "display", ",", "each", "element", "on", "the", "Web", "Portal", "display", "remained", "in", "the", "same", "relative", "position", ".", "Design", "Considerations", "As", "noted", "above", ",", "wherever", "we", "faced", "a", "design", "choice", "in", "creating", "the", "Web", "Portal", "and", "Text-based", "displays", ",", "we", "attempted", "to", "optimize", "the", "display", "to", "promote", "comprehension", ".", "For", "example", ",", "both", "the", "Web", "Portal", "and", "Text-based", "displays", "represent", "substantial", "improvements", "over", "real-life", "examples", ".", "The", "Web", "Portal", "design", "contained", "more", "graphics", "and", "images", "than", "what", "typically", "appears", "on", "these", "Web", "pages", ".", "Pilot", "subjects", "found", "these", "graphics", "and", "images", "to", "be", "beneficial", "in", "remembering", "information", ".", "Furthermore", ",", "individual", "items", "were", "modified", "during", "pilot", "testing", "to", "assist", "recall", ".", "For", "example", ",", "we", "made", "the", "size", "of", "the", "weather", "forecast", "image", "substan-tially", "larger", "than", "what", "is", "typically", "found", "on", "Web", "portals", ".", "Likewise", ",", "we", "designed", "the", "Text-based", "display", "to", "be", "a", "substantial", "improvement", "over", "existing", "text-based", "information", "displays", ",", "such", "as", "tickers", "or", "small", "desktop", "window", "applications", ",", "by", "introducing", "columns", ",", "section", "headers", ",", "and", "white", "space", ".", "Initial", "full-screen", "presentations", "used", "for", "the", "Web", "Portal", "and", "Text-based", "display", "tended", "to", "look", "unwieldy", "and", "resulted", "in", "lower", "recall", "of", "information", "during", "pilot", "testing", ".", "We", "attributed", "this", "to", "the", "larger", "screen", "area", "that", "participants", "had", "to", "visually", "parse", ".", "Hence", ",", "we", "reduced", "the", "screen", "area", "occupied", "by", "those", "displays", "to", "promote", "comprehension", ".", "Following", "that", "logic", ",", "InfoCanvas", "'", "larger", "size", "should", "have", "served", "to", "negatively", "impact", "its", "performance", ",", "if", "anything", ".", "2.2", "Participants", "Forty-nine", "-LRB-", "11", "female", "-RRB-", "individuals", "with", "normal", "or", "corrected", "-", "to-normal", "eyesight", "participated", "in", "this", "study", ".", "Participants", "ranged", "from", "18", "to", "61", "years", "of", "age", "-LRB-", "mean", "24.2", "-RRB-", ".", "27", "were", "graduate", "students", ",", "17", "were", "undergraduates", ",", "and", "5", "were", "non-students", ".", "Participants", "were", "com-pensated", "$", "10", "for", "their", "time", ".", "2.3", "Procedure", "Testing", "occurred", "in", "individual", "sessions", "lasting", "approximately", "45", "minutes", ".", "Participants", "sat", "two", "feet", "in", "front", "of", "the", "LCD", "monitor", ".", "The", "keyboard", "and", "mouse", "were", "removed", "from", "the", "area", ",", "leaving", "empty", "desk", "space", "between", "the", "participant", "and", "the", "display", ".", "The", "experi-menter", "informed", "participants", "that", "they", "were", "participating", "in", "a", "study", "to", "determine", "how", "much", "they", "could", "remember", "from", "different", "information", "screens", "when", "they", "could", "only", "see", "the", "screen", "for", "a", "brief", "amount", "of", "time", ".", "A", "within-subjects", "experimental", "design", "was", "used", "and", "the", "ordering", "of", "the", "display", "conditions", "was", "counterbal-anced", ".", "Participants", "were", "randomly", "assigned", "to", "an", "ordering", "sequence", ".", "For", "each", "of", "the", "three", "displays", ",", "an", "in-121", "troductory", "tour", ",", "preparation", "task", ",", "and", "practice", "task", "were", "given", "prior", "to", "performing", "three", "actual", "trials", ".", "The", "introductory", "session", "included", "an", "explanation", "of", "the", "display", "and", "the", "information", "found", "on", "it", ".", "For", "the", "InfoCanvas", "and", "Web", "Portal", "displays", ",", "the", "behaviors", "of", "the", "elements", "on", "the", "displays", "were", "also", "explained", ".", "Due", "to", "the", "display", "'s", "more", "complex", "and", "dynamic", "nature", ",", "the", "introductory", "tour", "took", "longer", "to", "perform", "with", "the", "InfoCanvas", ",", "approximately", "3.5", "minutes", "in", "duration", ",", "than", "with", "the", "Web", "Portal", "and", "Text-based", "display", ",", "both", "approximately", "1.5", "minutes", "in", "duration", ".", "Initially", ",", "especially", "with", "InfoCanvas", ",", "we", "had", "concerns", "that", "the", "introductory", "tour", "might", "not", "be", "sufficient", "to", "allow", "participants", "to", "learn", "each", "display", ".", "Pilot", "testing", ",", "however", ",", "revealed", "that", "participants", "were", "able", "to", "quickly", "learn", "the", "information", "mappings", ".", "To", "further", "ensure", "that", "we", "would", "be", "testing", "information", "comprehension", "and", "recall", "but", "not", "mapping", "recall", "with", "respect", "to", "the", "InfoCanvas", ",", "participants", "were", "asked", "to", "point", "out", "the", "different", "objects", "on", "a", "sample", "display", "and", "say", "aloud", "what", "information", "each", "object", "represented", ".", "We", "also", "provided", "participants", "with", "a", "reference", "sheet", "labeling", "the", "mappings", "between", "information", "and", "objects", "on", "the", "InfoCanvas", ".", "In", "practice", ",", "we", "found", "that", "participants", "seldom", "looked", "at", "the", "sheet", "and", "some", "actually", "turned", "it", "over", ".", "During", "the", "preparation", "task", ",", "participants", "were", "shown", "an", "example", "display", "and", "instructed", "to", "complete", "a", "sample", "recall", "questionnaire", "-LRB-", "explained", "in", "more", "detail", "later", "in", "this", "section", "-RRB-", ",", "much", "as", "they", "would", "in", "the", "actual", "trials", ".", "In", "this", "phase", ",", "however", ",", "no", "time", "limit", "was", "en-forced", "for", "viewing", "the", "display", ".", "This", "task", "then", "allowed", "the", "participant", "to", "better", "familiarize", "him", "or", "herself", "with", "the", "display", ",", "the", "questionnaire", "style", ",", "and", "to", "ask", "additional", "questions", "regarding", "the", "display", ",", "all", "while", "it", "was", "visible", ".", "Next", ",", "in", "the", "practice", "task", ",", "participants", "were", "exposed", "to", "what", "the", "actual", "trials", "would", "be", "like", ".", "A", "recall", "questionnaire", "was", "placed", "text", "side", "down", "in", "front", "of", "the", "participant", "and", "then", "an", "information", "display", "was", "shown", "for", "eight", "seconds", ".", "Pilot", "testing", "determined", "that", "this", "was", "a", "suitable", "amount", "of", "exposure", "time", "to", "avoid", "ceiling", "or", "floor", "effects", ",", "with", "recall", "averaging", "about", "five", "or", "six", "items", ".", "Furthermore", ",", "participants", "during", "pilot", "testing", "felt", "that", "this", "amount", "of", "time", "was", "indicative", "of", "the", "duration", "of", "a", "glance", "of", "a", "person", "seeking", "multiple", "information", "updates", ".", "Upon", "completion", "of", "the", "exposure", ",", "the", "computer", "prompted", "the", "individual", "to", "turn", "over", "and", "complete", "the", "recall", "sheet", ".", "Participants", "were", "instructed", "to", "not", "guess", "on", "the", "recall", "questionnaire", ";", "if", "the", "participant", "did", "not", "remember", "an", "item", "at", "all", ",", "he", "or", "she", "left", "that", "item", "blank", "on", "the", "questionnaire", ".", "The", "actual", "trials", "followed", "the", "practice", "task", "and", "consisted", "of", "three", "exposure", "and", "recall", "activities", "involving", "different", "data", "sets", "and", "hence", "data", "displays", ".", "Again", ",", "specific", "emphasis", "was", "made", "to", "discourage", "the", "participant", "from", "guessing", "on", "the", "recall", ".", "The", "same", "data", "values", "were", "used", "for", "each", "position", "of", "the", "nine", "total", "experiment", "trials", "independent", "of", "the", "display", "ordering", ",", "ensuring", "a", "balance", "across", "the", "experiment", ".", "Upon", "completion", "of", "the", "three", "different", "display", "conditions", ",", "participants", "were", "given", "several", "concluding", "surveys", "that", "captured", "subjective", "feedback", "from", "the", "participants", "regarding", "perceived", "performance", "and", "display", "preferences", ".", "Recall", "Task", "Ten", "questions", ",", "one", "per", "each", "information", "item", ",", "were", "presented", "to", "participants", "after", "exposure", "to", "an", "information", "display", ".", "We", "varied", "the", "question", "topic", "order", "across", "trials", "to", "discourage", "participants", "from", "becoming", "accustomed", "to", "a", "particular", "topic", "being", "the", "subject", "of", "the", "first", "few", "questions", "and", "then", "seeking", "out", "information", "from", "the", "displays", "on", "those", "topics", ".", "While", "participants", "were", "not", "explicitly", "informed", "of", "this", ",", "the", "varied", "order", "came", "as", "no", "surprise", "when", "they", "performed", "actual", "trials", "since", "they", "had", "already", "encountered", "the", "recall", "sheet", "in", "the", "preparation", "and", "practice", "tasks", ".", "To", "minimize", "cognitive", "load", ",", "the", "questions", "were", "designed", "to", "elicit", "the", "comprehension", "and", "recall", "of", "information", "in", "the", "same", "manner", "that", "it", "had", "been", "encoded", ".", "For", "all", "questions", "about", "the", "Text", "and", "Web", "Portal", "displays", ",", "and", "for", "the", "majority", "of", "questions", "about", "the", "InfoCanvas", "display", ",", "the", "question", "style", "was", "multiple-choice", ",", "typically", "including", "four", "exact-value", "answers", "spread", "relatively", "evenly", "across", "the", "range", "of", "possible", "answers", ".", "For", "instance", ",", "the", "potential", "answers", "for", "the", "time", "of", "day", "might", "have", "been", "3:42", "am", ",", "8:36", "am", ",", "5:09", "pm", ",", "and", "10:11", "pm", ".", "The", "newspaper", "headline", "question", "used", "four", "possible", "answers", "containing", "some", "similarity", "-LRB-", "usually", "using", "the", "same", "key", "words", "such", "as", "``", "Iraq", "''", "or", "``", "President", "Bush", "''", "-RRB-", "to", "ensure", "the", "recall", "of", "the", "headline", "by", "context", ",", "not", "by", "recognition", "of", "a", "key", "word", ".", "The", "Web", "site", "update", "question", "simply", "asked", "whether", "the", "site", "had", "been", "up-dated", ",", "with", "yes", "and", "no", "as", "the", "possible", "answers", ".", "Finally", ",", "the", "baseball", "score", "question", "asked", "which", "team", "was", "currently", "winning", "and", "offered", "the", "choices", "of", "the", "Braves", ",", "Pirates", ",", "or", "tied", "game", ".", "The", "data", "values", "used", "to", "generate", "displays", "for", "the", "nine", "trials", "also", "were", "chosen", "to", "range", "across", "the", "possible", "set", "of", "values", ".", "``", "Exact", "Value", "''", "``", "Categorical", "''", "What", "is", "the", "status", "of", "the", "Dow", "Jones", "?", "What", "is", "the", "status", "of", "the", "Dow", "Jones", "?", "+", "89", "points", "+", "42", "points", "-", "2", "points", "-", "75", "points", "Up", "over", "50", "points", "Up", "0", "50", "points", "Down", "0", "50", "points", "Down", "over", "50", "points", "Figure", "3", ":", "Example", "of", "exact", "value", "and", "categorical", "recall", "questions", ".", "122", "For", "topics", "that", "the", "InfoCanvas", "presented", "categories", "or", "ranges", "of", "values", "-LRB-", "e.g.", ",", "traffic", "conditions", ",", "baseball", "score", ",", "and", "stock", "updates", "-RRB-", ",", "answer", "choices", "to", "the", "recall", "questions", "were", "also", "presented", "in", "the", "form", "of", "ranges", ".", "Figure", "3", "shows", "an", "example", "of", "how", "these", "differed", "using", "stocks", "as", "an", "example", ".", "Note", "how", "the", "exact-value", "answers", "lie", "within", "the", "intervals", "used", ";", "the", "questions", "and", "answers", "were", "designed", "to", "be", "as", "similar", "as", "possible", ".", "Furthermore", ",", "we", "felt", "that", "the", "more", "general", "issue", "of", "participants", "needing", "to", "translate", "pictures", "into", "exact", ",", "usually", "numeric", ",", "values", "would", "counter", "any", "benefit", "received", "by", "the", "InfoCanvas", "in", "using", "ranges", "for", "a", "few", "questions", ".", "Adjacent", "to", "each", "multiple-choice", "question", "on", "the", "recall", "questionnaire", "was", "a", "confidence", "level", "scale", "with", "choices", "for", "high", ",", "medium", ",", "or", "low", "confidence", ".", "Participants", "were", "instructed", "to", "indicate", "their", "relative", "confidence", "for", "each", "item", ".", "We", "did", "this", "to", "further", "lessen", "the", "``", "guessing", "factor", "''", "and", "identify", "whether", "confidence", "would", "play", "a", "measure", ".", "Following", "the", "nine", "cumulative", "trials", "for", "all", "three", "displays", ",", "participants", "completed", "a", "Likert", "scale", "survey", "rating", "all", "the", "displays", "for", "facilitating", "the", "recall", "of", "information", ",", "being", "an", "effective", "presenter", "of", "information", ",", "and", "visual", "appeal", ".", "In", "addition", ",", "participants", "rank-ordered", "each", "display", "for", "facilitating", "recall", "and", "visual", "appeal", ".", "Lastly", ",", "participants", "responded", "to", "open-ended", "questions", "regarding", "which", "display", "they", "would", "employ", "at", "their", "workstation", "or", "on", "a", "wall", "if", "a", "dedicated", "display", "would", "be", "available", ".", "Table", "1", "presents", "the", "means", "and", "standard", "deviations", "across", "all", "conditions", "of", "the", "raw", "number", "of", "correct", "responses", "for", "each", "of", "the", "three", "trials", "under", "each", "display", ".", "A", "repeated", "measures", "ANOVA", "identified", "an", "overall", "effect", "of", "the", "display", "for", "accurately", "recalled", "items", ",", "F", "-LRB-", "2,96", "-RRB-", "=", "22.21", ",", "MSE", "=", "2.31", ",", "p", "<", ".0001", ",", "and", "there", "was", "no", "effect", "for", "order", ".", "Additionally", ",", "pair-wise", "comparisons", "between", "display", "types", "found", "an", "advantage", "of", "the", "InfoCanvas", "display", "over", "the", "Web", "Portal", ",", "F", "-LRB-", "1,48", "-RRB-", "=", "14.65", ",", "MSE", "=", "2.66", ",", "p", "<", ".0005", "-RRB-", ",", "the", "Web", "Portal", "over", "the", "Text-based", "display", ",", "F", "-LRB-", "1,48", "-RRB-", "=", "8.17", ",", "MSE", "=", "1.76", ",", "p", "<", ".007", "-RRB-", ",", "and", "the", "InfoCanvas", "over", "the", "Text-based", "display", ",", "F", "-LRB-", "1,48", "-RRB-", "=", "40.01", ",", "MSE", "=", "2.51", ",", "p", "<", ".0001", "-RRB-", ".", "To", "take", "into", "account", "participants", "'", "confidence", "of", "their", "answers", ",", "a", "second", "method", "to", "evaluate", "performance", "was", "developed", ".", "Weights", "of", "value", "3", ",", "2", ",", "and", "1", "were", "assigned", "for", "the", "high", ",", "medium", ",", "and", "low", "confidence", "levels", ",", "respectively", "-LRB-", "e.g.", "a", "correct", "answer", "with", "medium", "confidence", "yielded", "+2", "points", ",", "while", "an", "incorrect", "answer", "also", "with", "a", "medium", "confidence", "yielded", "2", "points", "-RRB-", ".", "Questions", "not", "answered", "on", "the", "recall", "task", "were", "assigned", "a", "weighted", "score", "value", "of", "0", ".", "Participants", "forgot", "to", "assign", "a", "confidence", "on", "13", "of", "the", "4410", "responses", "collected", "in", "the", "study", ".", "Since", "this", "number", "of", "accidental", "omissions", "was", "quite", "low", ",", "items", "with", "omitted", "confidence", "ratings", "were", "assigned", "a", "medium", "level", ",", "the", "median", "of", "the", "obtainable", "point", "values", ".", "Of", "the", "13", "questions", "with", "omitted", "confidence", ",", "3", "were", "answered", "incorrectly", ".", "In", "examining", "the", "weighted", "scores", "shown", "in", "Table", "2", ",", "an", "overall", "effect", "was", "found", "on", "the", "display", ",", "F", "-LRB-", "2,96", "-RRB-", "=", "10.40", ",", "MSE", "=", "25.35", ",", "p", "<", ".001", ",", "and", "again", "there", "was", "no", "effect", "of", "order", ".", "Furthermore", ",", "pair-wise", "comparisons", "between", "the", "displays", "again", "found", "an", "advantage", "of", "the", "InfoCanvas", "display", "over", "the", "Web", "Portal", ",", "F", "-LRB-", "1,48", "-RRB-", "=", "7.29", ",", "MSE", "=", "30.56", ",", "p", "=", ".0095", ",", "and", "of", "the", "InfoCanvas", "display", "over", "the", "Text-based", "display", ",", "F", "-LRB-", "1,48", "-RRB-", "=", "22.21", ",", "MSE", "=", "22.93", ",", "p", "<", ".0001", ".", "However", ",", "the", "weighted", "scores", "gave", "no", "advantage", "of", "the", "Web", "Portal", "over", "the", "Text-based", "display", ",", "F", "-LRB-", "1,48", "-RRB-", "=", "2.59", ",", "MSE", "=", "2.51", ",", "p", "=", "0.11", ".", "Figure", "3", "presents", "an", "item-by-item", "breakdown", "of", "the", "percentage", "of", "correctly", "answered", "questions", "for", "each", "display", ".", "The", "InfoCanvas", "had", "the", "highest", "average", "on", "Ease", "of", "Info", ".", "Recall", "1", "2", "3", "4", "5", "Mean", "Text-Based", "7", "18", "14", "10", "0", "2.6", "-LRB-", "1.0", "-RRB-", "Web", "Portal", "1", "8", "18", "17", "5", "3.3", "-LRB-", "0.9", "-RRB-", "InfoCanvas", "2", "4", "13", "20", "10", "3.7", "-LRB-", "1.0", "-RRB-", "Effective", "Data", "Pres.", "1", "2", "3", "4", "5", "Mean", "Text-Based", "6", "18", "16", "7", "2", "2.6", "-LRB-", "1.0", "-RRB-", "Web", "Portal", "2", "3", "14", "24", "6", "3.6", "-LRB-", "0.9", "-RRB-", "InfoCanvas", "5", "9", "13", "18", "4", "3.1", "-LRB-", "1.1", "-RRB-", "Visual", "Appeal", "1", "2", "3", "4", "5", "Mean", "Text-Based", "20", "19", "8", "2", "0", "1.8", "-LRB-", "0.9", "-RRB-", "Web", "Portal", "1", "2", "12", "22", "12", "3.9", "-LRB-", "0.9", "-RRB-", "InfoCanvas", "1", "1", "10", "17", "20", "4.1", "-LRB-", "0.9", "-RRB-", "Table", "3", ":", "Likert", "scale", "responses", "for", "display", "characteristics", ",", "with", "1", "=", "low", "rating", "and", "5", "=", "high", "rating", ".", "1st", "Trial", "2nd", "Trial", "3rd", "Trial", "Text-Based", "5.14", "-LRB-", "1.59", "-RRB-", "5.12", "-LRB-", "1.33", "-RRB-", "5.02", "-LRB-", "1.57", "-RRB-", "Web", "Portal", "5.67", "-LRB-", "1.61", "-RRB-", "5.65", "-LRB-", "1.54", "-RRB-", "5.29", "-LRB-", "1.89", "-RRB-", "InfoCanvas", "6.27", "-LRB-", "1.80", "-RRB-", "6.22", "-LRB-", "1.79", "-RRB-", "6.31", "-LRB-", "1.76", "-RRB-", "Table", "1", ":", "Means", "and", "standard", "deviations", "of", "correct", "responses", "for", "three", "trials", "of", "each", "display", ".", "1st", "Trial", "2nd", "Trial", "3rd", "Trial", "Text-Based", "11.47", "-LRB-", "4.92", "-RRB-", "11.78", "-LRB-", "4.81", "-RRB-", "10.57", "-LRB-", "5.02", "-RRB-", "Web", "Portal", "12.88", "-LRB-", "5.09", "-RRB-", "12.35", "-LRB-", "5.84", "-RRB-", "11.27", "-LRB-", "6.40", "-RRB-", "InfoCanvas", "13.88", "-LRB-", "5.96", "-RRB-", "14.02", "-LRB-", "5.89", "-RRB-", "13.82", "-LRB-", "6.63", "-RRB-", "Table", "2", ".", "Means", "and", "standard", "deviations", "of", "correct", "responses", "for", "weighted", "scores", "for", "three", "trials", "of", "each", "display", "123", "seven", "of", "the", "ten", "items", ".", "The", "Web", "Portal", "score", "was", "higher", "on", "the", "time", "and", "baseball", "items", ",", "and", "the", "Text", "display", "was", "best", "for", "the", "airfare", "price", ".", "Table", "3", "contains", "a", "breakdown", "of", "participants", "'", "Likert", "ratings", "captured", "during", "the", "post-experiment", "surveys", ".", "These", "results", "mirror", "the", "performance", "data", "with", "the", "InfoCanvas", "generally", "being", "rated", "higher", "with", "the", "exception", "that", "participants", "generally", "ranked", "the", "Web", "Portal", "higher", "as", "being", "a", "more", "effective", "presenter", "of", "data", ".", "Participants", "'", "order", "rankings", "of", "the", "three", "displays", "for", "facilitation", "of", "recall", "and", "personal", "preference", "are", "shown", "in", "Table", "4", ".", "Here", ",", "the", "Text-based", "display", "fared", "poorly", "along", "both", "dimensions", ".", "More", "participants", "preferred", "the", "Web", "Portal", "but", "rated", "the", "InfoCanvas", "as", "best", "for", "recall", ".", "Participants", "in", "the", "study", "recalled", "information", "best", "using", "the", "InfoCanvas", "display", "despite", "having", "the", "greater", "cognitive", "load", "of", "remembering", "mappings", "and", "representations", "used", "in", "the", "art", "paradigm", ".", "This", "cognitive", "load", "also", "includes", "translating", "pictorial", "InfoCanvas", "objects", "to", "the", "values", "used", "in", "the", "recall", "questions", ",", "while", "the", "two", "other", "displays", "presented", "data", "values", "more", "closely", "to", "the", "format", "of", "the", "questions", ".", "Even", "with", "these", "disadvantages", ",", "the", "InfoCanvas", "conveyed", "information", "better", "and", "was", "more", "vividly", "recalled", ".", "Another", "possible", "interpretation", "is", "that", "the", "InfoCanvas", "system", "actually", "reduces", "the", "cognitive", "load", "of", "the", "individuals", ".", "In", "this", "scenario", ",", "it", "follows", "that", "it", "is", "easier", "and", "cognitively", "more", "efficient", "to", "remember", "and", "recall", "the", "InfoCanvas", "images", ",", "and", "then", "translate", "later", "to", "the", "values", "desired", ".", "Regardless", "of", "their", "cognitive", "interpretation", ",", "the", "study", "'s", "results", "should", "not", "be", "too", "surprising", ".", "People", "are", "able", "to", "process", "images", "rapidly", "by", "leveraging", "the", "sophisticated", ",", "parallel", ",", "and", "high-bandwidth", "nature", "of", "the", "perceptual", "system", "-LSB-", "20", "-RSB-", ".", "Umanath", "and", "Scamell", "showed", "that", "graphics", "are", "conducive", "towards", "recall", "tasks", "involving", "simple", "fact", "retrieval", "in", "a", "series", "of", "studies", "investigating", "the", "role", "of", "recall", "in", "real-time", "decision-making", "-LSB-", "18", "-RSB-", ".", "Furthermore", ",", "``", "ecological", "''", "layouts", "with", "objects", "in", "natural", "positions", "have", "been", "shown", "to", "facilitate", "faster", "browsing", "-LSB-", "2", "-RSB-", ".", "This", "study", ",", "however", ",", "confirms", "our", "intuition", "that", "the", "InfoCanvas", ",", "and", "displays", "like", "it", ",", "has", "potential", "to", "be", "an", "effective", "peripheral", "display", "where", "people", "seek", "to", "obtain", "information", "at", "a", "glance", ".", "Several", "interesting", "observations", "emerged", "from", "the", "results", "of", "this", "study", ".", "We", "noted", "that", "participants", "generally", "expressed", "preference", "for", "the", "Web", "Portal", "display", "over", "the", "InfoCanvas", "display", "even", "though", "they", "felt", "that", "the", "InfoCanvas", "display", "had", "best", "facilitated", "the", "recall", "of", "information", ".", "When", "asked", "about", "this", "preference", ",", "one", "participant", "remarked", "that", "the", "Web", "Portal", "design", "was", "``", "more", "professional", "looking", "''", "and", "``", "more", "common", "than", "the", "other", "two", ".", "''", "Other", "participants", "praised", "the", "Web", "Portal", "for", "its", "ability", "to", "display", "information", "in", "a", "more", "``", "logi-cal", "and", "precise", "''", "manner", "and", "providing", "``", "accurate", "information", "that", "is", "not", "influenced", "by", "my", "interpretation", ".", "''", "These", "comments", "seem", "to", "imply", "a", "conservative", "attitude", "about", "adopting", "a", "new", "and", "unconventional", "technology", "such", "as", "an", "ambient", "display", "Other", "participants", "appeared", "to", "capture", "the", "essence", "of", "peripheral/ambient", "displays", "and", "their", "abilities", "to", "be", "subtle", "communication", "channels", ",", "not", "distracting", "a", "user", ".", "One", "participant", "remarked", "that", ",", "``", "I", "think", "I", "could", "choose", "to", "ignore", "it", "-LSB-", "InfoCanvas", "-RSB-", "while", "I", "was", "working", ".", "I", "think", "once", "I", "got", "used", "to", "what", "all", "the", "icons", "meant", "and", "what", "the", "scales", "were", ",", "I", "could", "easily", "look", "at", "it", "to", "see", "the", "information", "I", "was", "interested", "in", ".", "''", "Others", "also", "echoed", "this", "sentiment", ":", "''", "-LSB-", "InfoCanvas", "-RSB-", "is", "the", "quickest", "and", "easiest", "to", "see", "at", "a", "glance", "the", "information", "you", "want", "''", "and", "''", "-LSB-", "InfoCanvas", "-RSB-", "is", "informative", "but", "also", "relaxing", ".", "''", "Finally", ",", "one", "participant", "summarized", "the", "benefits", "of", "the", "InfoCanvas", "as", "being", "``", "able", "to", "keep", "working", "and", "not", "get", "distracted", "by", "details", ";", "-LSB-", "InfoCanvas", "is", "-RSB-", "faster", "to", "see", "and", "interpret", "from", "a", "distance", ".", "''", "In", "the", "context", "of", "this", "study", ",", "the", "InfoCanvas", "was", "evaluated", "on", "its", "abilities", "as", "an", "information", "purveyor", ".", "The", "mappings", "between", "information", "and", "graphical", "elements", "used", "in", "this", "study", "were", "designed", "by", "the", "authors", ",", "and", "as", "such", ",", "did", "not", "always", "feel", "instinctive", "to", "participants", ".", "Some", "participants", "indicated", "they", "had", "difficulty", "in", "learning", "the", "mappings", ";", "one", "participant", "remarked", "that", "``", "I", "struggled", "with", "the", "visual", "mappings", "''", "and", "another", "felt", "that", "InfoCanvas", "was", "``", "counterintuitive", ".", "''", "As", "was", "mentioned", "earlier", ",", "this", "was", "a", "concern", "in", "the", "design", "of", "the", "0", "%", "20", "%", "40", "%", "60", "%", "80", "%", "100", "%", "Web", "Site", "Update", "Weather", "Forecast", "Traffic", "Conditions", "Time", "of", "Day", "Stock", "Updates", "News", "Headline", "New", "Email", "Forecasted", "Temp", "Baseball", "Score", "Airfare", "Text", "Web", "InfoCanvas", "Figure", "3", ".", "Mean", "percentage", "for", "correctly", "recalled", "items", "for", "each", "display", "type", "124", "study", "--", "would", "individuals", "even", "be", "able", "to", "learn", "these", "mappings", "in", "such", "a", "short", "period", "of", "time", "?", "Pilot", "studies", "and", "the", "final", "study", "data", "both", "indicated", "that", "despite", "not", "being", "able", "to", "define", "their", "own", "mappings", "for", "the", "information", ",", "participants", "were", "able", "to", "recall", "more", "information", "when", "presented", "on", "the", "InfoCanvas", ".", "A", "crucial", "implication", "lies", "in", "this", ";", "the", "InfoCanvas", "is", "designed", "to", "be", "a", "highly", "personalized", "peripheral", "display", "where", "users", "specify", "their", "own", "mappings", "and", "layouts", ".", "Since", "participants", "were", "able", "to", "recall", "information", "quite", "well", "when", "they", "did", "not", "specify", "the", "mappings", ",", "it", "seems", "logical", "to", "conclude", "that", "comprehension", "and", "recall", "would", "benefit", "even", "more", "when", "people", "design", "their", "own", "display", "and", "it", "is", "constantly", "present", "in", "their", "environment", ".", "Several", "interesting", "discussion", "points", "arise", "from", "the", "breakdown", "of", "correctly", "recalled", "items", "shown", "in", "Figure", "3", ".", "First", ",", "note", "that", "on", "the", "whole", ",", "the", "InfoCanvas", "yielded", "the", "largest", "percentage", "of", "correctly", "recalled", "items", "per", "category", ",", "with", "the", "exception", "of", "the", "airfare", ",", "time", "of", "day", ",", "and", "baseball", "score", "items", ".", "However", ",", "performance", "of", "the", "three", "displays", "on", "the", "baseball", "score", "item", "was", "comparable", ",", "averaging", "a", "recall", "rate", "of", "64-70", "%", ".", "In", "regards", "to", "the", "airfare", "and", "time", "of", "day", "items", ",", "the", "InfoCanvas", "produced", "the", "second", "best", "percentage", "of", "correctly", "recalled", "items", "and", "was", "outperformed", "by", "the", "Text", "and", "Web", "Portal", "displays", ",", "respectively", ".", "Slightly", "lower", "performance", "was", "somewhat", "expected", "with", "these", "two", "items", ",", "since", "their", "representations", "moved", "along", "a", "straight", "line", "to", "indicate", "a", "point", "on", "a", "scale", ".", "Pilot", "participants", "often", "remarked", "that", "these", "representations", "were", "more", "difficult", "to", "keep", "track", "of", "since", "they", "could", "be", "found", "in", "different", "areas", ".", "Interestingly", ",", "even", "with", "these", "representations", ",", "the", "InfoCanvas", "performed", "better", "than", "the", "Web", "Portal", "-LRB-", "for", "the", "airfare", "item", "-RRB-", "and", "the", "Text", "display", "-LRB-", "for", "the", "time", "item", "-RRB-", ",", "indicating", "that", "despite", "their", "moving", "nature", ",", "graphical", "representations", "still", "worked", "relatively", "well", ".", "The", "temperature", "element", ",", "also", "represented", "by", "a", "moving", "object", ",", "illustrates", "this", "point", "as", "well", ",", "generating", "a", "higher", "recall", "than", "the", "other", "displays", ".", "Interestingly", ",", "the", "InfoCanvas", "appeared", "to", "have", "the", "largest", "advantage", "over", "the", "other", "two", "displays", "with", "the", "traffic", "conditions", "item", ".", "While", "some", "may", "argue", "that", "this", "is", "due", "to", "the", "use", "of", "intervals", "to", "represent", "conditions", ",", "as", "opposed", "to", "the", "exact-value", "representations", "on", "the", "Web", "Portal", "and", "Text", "displays", ",", "note", "that", "the", "use", "of", "intervals", "for", "the", "baseball", "score", "did", "not", "yield", "such", "an", "effect", ".", "This", "difference", "implies", "that", "the", "representation", "used", "to", "indicate", "traffic", "conditions", "--", "the", "color", "of", "the", "woman", "'s", "bathing", "suit", "--", "provided", "an", "excellent", "mapping", ".", "Therefore", ",", "we", "speculate", "that", "if", "individuals", "create", "their", "own", "mappings", ",", "leveraging", "their", "personal", "experiences", ",", "recall", "with", "InfoCanvas", "will", "benefit", "even", "more", ".", "This", "study", "examined", "the", "information", "conveyance", "abilities", "of", "three", "specific", "examples", "of", "displays", "involving", "a", "sample", "population", "consisting", "mainly", "of", "academic-related", ",", "relatively", "young", "individuals", ".", "Generalizing", "its", "findings", "too", "much", "would", "be", "unwise", ".", "Nevertheless", ",", "we", "speculate", "that", "the", "results", "would", "extend", "to", "other", "similar", "types", "of", "displays", "and", "people", "of", "different", "demographics", ".", "The", "lessons", "learned", "from", "this", "study", "could", "be", "applied", "to", "the", "design", "of", "new", "information", "systems", ".", "For", "example", ",", "in", "designing", "a", "system", "using", "a", "docked", "PDA", "as", "an", "information", "display", ",", "a", "graphical", "representation", "of", "information", ",", "such", "as", "using", "a", "miniature", "InfoCanvas", ",", "might", "convey", "information", "more", "effectively", "than", "a", "traditional", "text-based", "manner", ".", "In", "this", "paper", ",", "we", "present", "a", "formal", "evaluation", "of", "information", "recall", "from", "three", "different", "electronic", "information", "displays", ",", "the", "InfoCanvas", ",", "a", "Web", "Portal-like", ",", "and", "a", "Text-based", "display", ".", "We", "present", "results", "indicating", "that", "participants", "comprehended", "and", "recalled", "more", "awareness", "information", "when", "it", "was", "represented", "in", "graphical", "manners", ";", "participants", "recalled", "more", "information", "from", "the", "InfoCanvas", "display", "than", "the", "Web", "Portal", "and", "Text-based", "displays", ".", "Likewise", ",", "participants", "recalled", "more", "information", "from", "the", "Web", "Portal", "display", "than", "the", "Text-based", "display", ".", "Our", "results", "suggest", "that", "there", "are", "benefits", "for", "comprehension", ",", "when", "a", "person", "may", "only", "glance", "at", "a", "display", "for", "a", "short", "period", "of", "time", ",", "by", "displaying", "information", "in", "a", "highly", "graphical", "or", "stylized", "nature", ".", "A", "number", "of", "potential", "directions", "for", "follow-on", "work", "exist", ".", "It", "would", "be", "interesting", "to", "compare", "a", "more", "abstract", "graphical", "presentation", "of", "information", "as", "embodied", "by", "the", "InfoCanvas", "with", "a", "purely", "graphical", ",", "but", "more", "direct", "iconic", "encoding", ",", "such", "as", "in", "Sideshow", "-LSB-", "3", "-RSB-", ".", "In", "this", "study", ",", "we", "positioned", "the", "information", "displays", "directly", "in", "front", "of", "participants", ".", "Another", "possible", "experiment", "could", "position", "the", "display", "further", "away", ",", "perhaps", "on", "a", "neighboring", "wall", ",", "from", "the", "person", "'s", "main", "computer", "display", ".", "Yet", "another", "possibility", "is", "to", "introduce", "an", "explicit", "primary", "task", "thus", "making", "information", "comprehension", "more", "truly", "peripheral", ".", "For", "instance", ",", "participants", "could", "perform", "a", "primary", "task", "such", "as", "document", "editing", "while", "information", "is", "presented", "for", "comprehension", "and", "recall", "on", "a", "display", "in", "another", "location", "as", "done", "in", "several", "other", "studies", "-LSB-", "9,12", "-RSB-", ".", "Text-based", "Web", "Portal", "InfoCanvas", "Best", "Recall", "Facilitator", "2", "-LRB-", "4", "%", "-RRB-", "16", "-LRB-", "33", "%", "-RRB-", "31", "-LRB-", "63", "%", "-RRB-", "Worst", "Recall", "Facilitator", "41", "-LRB-", "84", "%", "-RRB-", "5", "-LRB-", "10", "%", "-RRB-", "3", "-LRB-", "6", "%", "-RRB-", "Most", "Preferred", "2", "-LRB-", "4", "%", "-RRB-", "35", "-LRB-", "71", "%", "-RRB-", "12", "-LRB-", "25", "%", "-RRB-", "Least", "Preferred", "35", "-LRB-", "71", "%", "-RRB-", "2", "-LRB-", "4", "%", "-RRB-", "12", "-LRB-", "25", "%", "-RRB-", "Table", "4", ":", "Rankings", "of", "displays", "for", "facilitating", "recall", "and", "personal", "preference", ".", "125"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information recall", "ambient display", "peripheral display", "graphical representation", "evaluation", "information conveyance", "infocanvas display", "awareness information"], "abstractive_keyphrases": ["empirical evaluation", "web portal-like display", "information visualization", "text-based display"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "114", "document": ["Integrating", "the", "Document", "Object", "Model", "with", "Hyperlinks", "for", "Enhanced", "Topic", "Distillation", "and", "Information", "Extraction", "Topic", "distillation", "is", "the", "process", "of", "finding", "authoritative", "Web", "pages", "and", "comprehensive", "``", "hubs", "''", "which", "reciprocally", "endorse", "each", "other", "and", "are", "relevant", "to", "a", "given", "query", ".", "Hyperlink-based", "topic", "distillation", "has", "been", "traditionally", "applied", "to", "a", "macroscopic", "Web", "model", "where", "documents", "are", "nodes", "in", "a", "directed", "graph", "and", "hyperlinks", "are", "edges", ".", "Macroscopic", "models", "miss", "valuable", "clues", "such", "as", "banners", ",", "navigation", "panels", ",", "and", "template-based", "inclusions", ",", "which", "are", "embedded", "in", "HTML", "pages", "using", "markup", "tags", ".", "Consequently", ",", "results", "of", "macroscopic", "distillation", "algorithms", "have", "been", "deteriorating", "in", "quality", "as", "Web", "pages", "are", "becoming", "more", "complex", ".", "We", "propose", "a", "uniform", "fine-grained", "model", "for", "the", "Web", "in", "which", "pages", "are", "represented", "by", "their", "tag", "trees", "-LRB-", "also", "called", "their", "Document", "Object", "Models", "or", "DOMs", "-RRB-", "and", "these", "DOM", "trees", "are", "interconnected", "by", "ordinary", "hyperlinks", ".", "Surprisingly", ",", "macroscopic", "distillation", "algorithms", "do", "not", "work", "in", "the", "fine-grained", "scenario", ".", "We", "present", "a", "new", "algorithm", "suitable", "for", "the", "fine-grained", "model", ".", "It", "can", "dis-aggregate", "hubs", "into", "coherent", "regions", "by", "segmenting", "their", "DOMtrees", ".", "M", "utual", "endorsement", "between", "hubs", "and", "authorities", "involve", "these", "regions", ",", "rather", "than", "single", "nodes", "representing", "complete", "hubs", ".", "Anecdotes", "and", "measurements", "using", "a", "28-query", ",", "366000-document", "benchmark", "suite", ",", "used", "in", "earlier", "topic", "distillation", "research", ",", "reveal", "two", "benefits", "from", "the", "new", "algorithm", ":", "distillation", "quality", "improves", ",", "and", "a", "by-product", "of", "distillation", "is", "the", "ability", "to", "extract", "relevant", "snippets", "from", "hubs", "which", "are", "only", "partially", "relevant", "to", "the", "query", ".", "Kleinberg", "'s", "Hyperlink", "Induced", "Topic", "Search", "-LRB-", "HITS", "-RRB-", "-LSB-", "14", "-RSB-", "and", "the", "PageRank", "algorithm", "-LSB-", "3", "-RSB-", "underlying", "Google", "have", "revolutionized", "ranking", "technology", "for", "Web", "search", "engines", ".", "PageRank", "evaluates", "the", "``", "prestige", "score", "''", "of", "a", "page", "as", "roughly", "proportional", "to", "the", "sum", "of", "prestige", "scores", "of", "pages", "citing", "it", "-LRB-", "Note", ":", "To", "view", "the", "HTML", "version", "using", "Netscape", ",", "add", "the", "following", "line", "to", "your", "~", "/", ".", "Xdefaults", "or", "~", "/", ".", "Xresources", "file", ":", "Netscape", "*", "documentFonts.charset", "*", "adobe-fontspecific", ":", "iso-8859-1", "For", "printing", "use", "the", "PDF", "version", ",", "as", "browsers", "may", "not", "print", "the", "mathematics", "properly", ".", "-RRB-", "Copyright", "is", "held", "by", "author/owner", ".", "WWW10", ",", "May", "1", "5", ",", "2001", ",", "Hong", "Kong", ".", "ACM1-58113-348-0", "/", "01/0005", ".", "using", "hyperlinks", ".", "HITS", "also", "identifies", "collections", "of", "resource", "links", "or", "``", "hubs", "''", "densely", "coupled", "to", "authoritative", "pages", "on", "a", "topic", ".", "The", "model", "of", "the", "Web", "underlying", "these", "and", "related", "systems", "is", "a", "directed", "graph", "with", "pages", "-LRB-", "HTML", "files", "-RRB-", "as", "nodes", "and", "hyperlinks", "as", "edges", ".", "Since", "those", "papers", "were", "published", ",", "the", "Web", "has", "been", "evolving", "in", "fascinating", "ways", ",", "apart", "from", "just", "getting", "larger", ".", "Web", "pages", "are", "changing", "from", "static", "files", "to", "dynamic", "views", "generated", "from", "complex", "templates", "and", "backing", "semi-structured", "databases", ".", "A", "variety", "of", "hypertext-specific", "idioms", "such", "as", "navigation", "panels", ",", "advertisement", "banners", ",", "link", "exchanges", ",", "and", "Web-rings", ",", "have", "been", "emerging", ".", "There", "is", "also", "a", "migration", "of", "Web", "content", "from", "syntac-tic", "HTML", "markups", "towards", "richly", "tagged", ",", "semi-structured", "XML", "documents", "-LRB-", "http://www.w3.org/XML/", "-RRB-", "interconnected", "at", "the", "XML", "element", "level", "by", "semantically", "rich", "links", "-LRB-", "see", ",", "e.g.", ",", "the", "XLink", "proposal", "at", "http://www.w3.org/TR/xlink/", "-RRB-", ".", "These", "refinements", "are", "welcome", "steps", "to", "implementing", "what", "Berners-Lee", "and", "others", "call", "the", "semantic", "Web", "-LRB-", "http://www", ".", "w3.org/1999/04/13-tbl.html", "-RRB-", ",", "but", "result", "in", "document", ",", "file", ",", "and", "site", "boundaries", "losing", "their", "traditional", "significance", ".", "Continual", "experiments", "performed", "by", "several", "researchers", "-LSB-", "2", ",", "15", "-RSB-", "reveal", "a", "steady", "deterioration", "of", "distillation", "quality", "through", "the", "last", "few", "years", ".", "In", "our", "experience", ",", "poor", "results", "are", "frequently", "traced", "to", "the", "following", "causes", ":", "Links", "have", "become", "more", "frequent", "and", "``", "noisy", "''", "from", "the", "perspective", "of", "the", "query", ",", "such", "as", "in", "banners", ",", "navigation", "panels", ",", "and", "advertisements", ".", "Noisy", "links", "do", "not", "carry", "human", "editorial", "endorsement", ",", "a", "basic", "assumption", "in", "topic", "distillation", ".", "Hubs", "may", "be", "``", "mixed", "''", ",", "meaning", "only", "a", "portion", "of", "the", "hub", "may", "be", "relevant", "to", "the", "query", ".", "Macroscopic", "distillation", "algorithms", "treat", "whole", "pages", "as", "atomic", ",", "indivisible", "nodes", "with", "no", "internal", "structure", ".", "This", "leads", "to", "false", "reinforcements", "and", "resulting", "contamination", "of", "the", "query", "responses", ".", "Thanks", "in", "part", "to", "the", "visibility", "of", "Google", ",", "content", "creators", "are", "well", "aware", "of", "hyperlink-based", "ranking", "technology", ".", "One", "reaction", "has", "been", "the", "proliferation", "of", "nepotistic", "``", "clique", "attacks", "''", "--", "a", "collection", "of", "sites", "linking", "to", "each", "other", "without", "semantic", "reason", ",", "e.g.", "http://www.411fun.com", ",", "http", ":", "/", "/", "www.411fashion.com", "and", "http://www.411-loans.com", ".", "-LRB-", "Figures", "8", "and", "9", "provide", "some", "examples", ".", "-RRB-", "Some", "examples", "look", "suspiciously", "like", "a", "conscious", "attempt", "to", "spam", "search", "engines", "that", "use", "link", "analysis", ".", "Interestingly", ",", "in", "most", "cases", ",", "the", "visual", "presentation", "clearly", "marks", "noisy", "links", "which", "surfers", "rarely", "follow", ",", "but", "macroscopic", "algorithms", "are", "unable", "to", "exploit", "it", ".", "211", "<", "html", ">", "<", "head", ">", "<", "title", ">", "Portals", "<", "/", "title", ">", "<", "/", "head", ">", "<", "body", ">", "<", "ul", ">", "<", "li", ">", "<", "a", "href", "=", "''", "...", "''", ">", "Yahoo", "<", "/", "a", ">", "<", "/", "li", ">", "<", "li", ">", "<", "a", "href", "=", "''", "...", "''", ">", "Lycos", "<", "/", "a", ">", "<", "/", "li", ">", "<", "/", "ul", ">", "<", "/", "body", ">", "<", "/", "html", ">", "html", "head", "body", "title", "ul", "li", "li", "a", "a", "Figure", "1", ":", "In", "the", "fine-grained", "model", ",", "DOMs", "for", "individual", "pages", "are", "trees", "interconnected", "by", "ordinary", "hyperlinks.Each", "triangle", "is", "the", "DOM", "tree", "corresponding", "to", "one", "HTML", "page.Green", "boxes", "represent", "text", ".", "Many", "had", "hoped", "that", "HITS-like", "algorithms", "would", "put", "an", "end", "to", "spamming", ",", "but", "clearly", "the", "situation", "is", "more", "like", "an", "ongoing", "arms-race", ".", "Google", "combines", "link-based", "ranking", "with", "page", "text", "and", "anchor", "text", "in", "undisclosed", "ways", ",", "and", "keeps", "tweaking", "the", "combination", ",", "but", "suffers", "an", "occasional", "embarrassment", "1", ".", "Distillation", "has", "always", "been", "observed", "to", "work", "well", "for", "``", "broad", "''", "topics", "-LRB-", "for", "which", "there", "exist", "well-connected", "relevant", "Web", "subgraphs", "and", "``", "pure", "''", "hubs", "-RRB-", "and", "not", "too", "well", "for", "``", "narrow", "''", "topics", ",", "because", "w.r.t.", "narrow", "topics", "most", "hubs", "are", "mixed", "and", "have", "too", "many", "irrelevant", "links", ".", "Mixed", "hubs", "and", "the", "arbitrariness", "of", "page", "boundaries", "have", "been", "known", "to", "produce", "glitches", "in", "the", "Clever", "system", "-LSB-", "6", "-RSB-", ":", "there", "has", "been", "no", "reliable", "way", "to", "classify", "hubs", "as", "mixed", "or", "pure", ".", "If", "a", "fine-grained", "model", "can", "suitably", "dis-aggregate", "mixed", "hubs", ",", "distillation", "should", "become", "applicable", "to", "narrow", "queries", "too", ".", "Yet", "another", "motivation", "for", "the", "fine-grained", "model", "comes", "from", "the", "proliferation", "of", "mobile", "clients", "such", "as", "cell-phones", "and", "PDAs", "with", "small", "or", "no", "screens", ".", "Even", "on", "a", "conventional", "Web", "browser", ",", "scrolling", "through", "search", "results", "for", "promising", "responses", ",", "then", "scrolling", "through", "those", "responses", "to", "satisfy", "a", "specific", "information", "need", "are", "tedious", "steps", ".", "The", "tedium", "is", "worse", "on", "mobile", "clients", ".", "Search", "engines", "that", "need", "to", "serve", "mobile", "clients", "must", "be", "able", "to", "pinpoint", "narrow", "sections", "of", "pages", "and", "sites", "that", "address", "a", "specific", "information", "need", ",", "and", "limit", "the", "amount", "of", "extra", "matter", "sent", "back", "to", "the", "client", "-LSB-", "4", "-RSB-", ".", "1.1", "Our", "contributions", "We", "initiate", "a", "study", "of", "topic", "distillation", "with", "a", "fine-grained", "model", "of", "the", "Web", ",", "built", "using", "the", "Document", "Object", "Model", "-LRB-", "DOM", "-RRB-", "of", "HTML", "pages", ".", "The", "DOM", "can", "model", "reasonably", "clean", "HTML", ",", "support", "XML", "documents", "that", "adhere", "to", "rigid", "schema", "definitions", ",", "and", "embed", "free", "text", "in", "a", "natural", "way", ".", "In", "our", "model", ",", "HTML", "pages", "are", "represented", "by", "their", "DOMs", "and", "these", "DOMtrees", "are", "interconnected", "by", "ordinary", "hyperlinks", "-LRB-", "figure", "1", "-RRB-", ".", "The", "sometimes", "artificial", "distinction", "between", "Web-level", ",", "site-level", ",", "page-level", ",", "and", "intra-page", "structures", "is", "thereby", "blurred", ".", "Surprisingly", ",", "macroscopic", "distillation", "algorithms", "perform", "poorly", "in", "the", "fine-grained", "setting", ";", "we", "demonstrate", "this", "using", "analysis", "and", "anecdotes", ".", "Our", "main", "technical", "contribution", "is", "a", "new", "fine-grained", "distillation", "al-1", "http://searchenginewatch.com/sereport/99/11-google.html", "-LRB-", "local", "copy", "GoogleDrEvil.html", "-RRB-", "and", "http://searchenginewatch.com/", "sereport/01/02-bush.html", "-LRB-", "local", "copy", "GoogleBush.html", "-RRB-", "provide", "some", "samples", ".", "Bibliometry", ",", "Graph", "theory", "PageRank", "/", "Google", "HITS", "Clever@IBM", "Exploiting", "anchor", "text", "Topic", "distillation", "@Compaq", "Outlier", "elimination", "DOM", "structure", "This", "paper", "Figure", "2", ":", "This", "work", "in", "the", "context", "of", "HITS", "and", "related", "research", ".", "gorithm", "which", "can", "identify", "mixed", "hubs", "and", "segment", "their", "corresponding", "DOMtrees", "into", "maximal", "subtrees", "which", "are", "``", "coherent", "''", "w.r.t.", "the", "query", ",", "i.e.", ",", "each", "is", "almost", "completely", "relevant", "or", "completely", "irrelevant", ".", "The", "segmentation", "algorithm", "uses", "the", "Minimum", "Description", "Length", "-LRB-", "MDL", "-RRB-", "principle", "-LSB-", "16", "-RSB-", "from", "Information", "Theory", "-LSB-", "9", "-RSB-", ".", "Rather", "than", "collapse", "these", "diverse", "hub", "subtrees", "into", "one", "node", ",", "the", "new", "algorithm", "allocates", "a", "node", "for", "each", "subtree", ".", "This", "intermediate", "level", "of", "detail", ",", "between", "the", "macroscopic", "and", "the", "fine-grained", "model", ",", "is", "essential", "to", "the", "success", "of", "our", "algorithm", ".", "We", "report", "on", "experiments", "with", "28", "queries", "involving", "over", "366000", "Web", "pages", ".", "This", "benchmark", "has", "been", "used", "in", "previous", "research", "on", "resource", "compilation", "and", "topic", "distillation", "-LSB-", "5", ",", "2", ",", "6", "-RSB-", ".", "Our", "experience", "is", "that", "the", "fine-grained", "model", "and", "algorithm", "significantly", "improve", "the", "quality", "of", "distillation", ",", "and", "are", "capable", "of", "extracting", "DOMsubtrees", "from", "mixed", "hubs", "that", "are", "relevant", "to", "the", "query", ".", "We", "note", "that", "in", "this", "study", "we", "have", "carefully", "and", "deliberately", "isolated", "the", "model", "from", "possible", "influences", "of", "text", "analysis", ".", "By", "controlling", "our", "experimental", "environment", "to", "not", "use", "text", ",", "we", "push", "HITS-like", "ideas", "to", "the", "limit", ",", "evaluating", "exactly", "the", "value", "added", "by", "information", "present", "in", "DOM", "structures", ".", "In", "ongoing", "work", ",", "we", "have", "added", "textual", "support", "to", "our", "framework", "and", "obtained", "even", "better", "results", "-LSB-", "7", "-RSB-", ".", "1.2", "Benefits", "and", "applications", "Apart", "from", "offering", "a", "more", "faithful", "model", "of", "Web", "content", ",", "our", "approach", "enables", "solutions", "to", "the", "following", "problems", ".", "Better", "topic", "distillation", ":", "We", "show", "less", "tendency", "for", "topic", "drift", "and", "contamination", "when", "the", "fine-grained", "model", "is", "used", ".", "Web", "search", "using", "devices", "with", "small", "or", "no", "screen", ":", "The", "ability", "to", "identify", "page", "snippets", "relevant", "to", "a", "query", "is", "attractive", "to", "search", "services", "suitable", "for", "mobile", "clients", ".", "Focused", "crawling", ":", "Identification", "of", "relevant", "DOMsubtrees", "can", "be", "used", "to", "better", "guide", "a", "focused", "crawler", "'s", "link", "expansion", "-LSB-", "8", "-RSB-", ".", "Annotation", "extraction", ":", "Experiments", "with", "a", "previous", "macroscopic", "distillation", "algorithm", "-LRB-", "Clever", "-LSB-", "6", "-RSB-", "-RRB-", "revealed", "that", "volunteers", "preferred", "Clever", "to", "Yahoo!", "only", "when", "Yahoo!", "'s", "manual", "site", "annotations", "were", "removed", "in", "a", "blind", "test", ".", "Our", "work", "may", "improve", "on", "current", "techniques", "for", "automatic", "annotation", "extraction", "-LSB-", "1", "-RSB-", "by", "first", "collecting", "candidate", "hub", "page", "fragments", "and", "then", "subjecting", "the", "text", "therein", "to", "further", "segmentation", "techniques", ".", "Data", "preparation", "for", "linguistic", "analysis", ":", "Information", "extraction", "is", "a", "natural", "next", "step", "after", "resource", "discovery", ".", "It", "is", "easier", "to", "build", "extractors", "based", "on", "statistical", "and", "linguistic", "models", "if", "the", "domain", "or", "subject", "matter", "of", "the", "input", "documents", "is", "suitably", "segmented", "-LSB-", "12", "-RSB-", ",", "as", "is", "effected", "by", "our", "hub", "subtree", "extraction", "technique", ",", "which", "is", "a", "natural", "successor", "to", "resource", "discovery", ",", "and", "a", "precursor", "to", "linguistic", "analysis", ".", "212", "1.3", "Outline", "of", "the", "paper", "In", "2.1", "we", "review", "HITS", "and", "related", "algorithms", ".", "This", "section", "can", "be", "skipped", "by", "a", "reader", "who", "is", "familiar", "with", "HITS-related", "literature", ".", "In", "2.2", "we", "illustrate", "some", "recent", "and", "growing", "threats", "to", "the", "continued", "success", "of", "macroscopic", "distillation", "algorithms", ".", "We", "show", "why", "the", "fine-grained", "model", "does", "not", "work", "with", "traditional", "HITS-like", "approaches", "in", "3", ",", "and", "then", "propose", "our", "framework", "in", "4", ".", "We", "report", "on", "experimental", "results", "in", "5", "and", "conclude", "in", "6", "with", "some", "comments", "on", "ongoing", "and", "future", "work", ".", "We", "review", "the", "HITS", "family", "of", "algorithms", "and", "discuss", "how", "they", "were", "continually", "enhanced", "to", "address", "evolving", "Web", "content", ".", "2.1", "Review", "of", "HITS", "and", "related", "systems", "The", "HITS", "algorithm", "-LSB-", "14", "-RSB-", "started", "with", "a", "query", "q", "which", "was", "sent", "to", "a", "text", "search", "engine", ".", "The", "returned", "set", "of", "pages", "R", "q", "was", "fetched", "from", "the", "Web", ",", "together", "with", "any", "pages", "having", "a", "link", "to", "any", "page", "in", "R", "q", ",", "as", "well", "as", "any", "page", "cited", "in", "some", "page", "of", "R", "q", "using", "a", "hyperlink", ".", "Links", "that", "connected", "pages", "on", "the", "same", "Web", "server", "-LRB-", "based", "on", "canonical", "host", "name", "match", "-RRB-", "were", "dropped", "from", "consideration", "because", "they", "were", "often", "seen", "to", "serve", "only", "a", "navigational", "purpose", ",", "or", "were", "``", "nepotistic", "''", "in", "nature", ".", "Suppose", "the", "resulting", "graph", "is", "G", "q", "=", "-LRB-", "V", "q", ",", "E", "q", "-RRB-", ".", "We", "will", "drop", "the", "subscript", "q", "where", "clear", "from", "context", ".", "Each", "node", "v", "in", "V", "is", "assigned", "two", "scores", ":", "the", "hub", "score", "h", "-LRB-", "v", "-RRB-", "and", "the", "authority", "score", "a", "-LRB-", "v", "-RRB-", ",", "initialized", "to", "any", "positive", "number", ".", "Next", "the", "HITS", "algorithm", "alternately", "updates", "a", "and", "h", "as", "follows", ":", "a", "-LRB-", "v", "-RRB-", "=", "-LRB-", "u", ",", "v", "-RRB-", "E", "h", "-LRB-", "u", "-RRB-", "and", "h", "-LRB-", "u", "-RRB-", "=", "-LRB-", "u", ",", "v", "-RRB-", "E", "a", "-LRB-", "v", "-RRB-", ",", "making", "sure", "after", "each", "iteration", "to", "scale", "a", "and", "h", "so", "that", "v", "h", "-LRB-", "v", "-RRB-", "=", "v", "a", "-LRB-", "v", "-RRB-", "=", "1", ",", "until", "the", "ranking", "of", "nodes", "by", "a", "and", "h", "stabilize", "-LRB-", "see", "figure", "3", "-RRB-", ".", "If", "E", "is", "represented", "in", "the", "adjacency", "matrix", "format", "-LRB-", "i.e.", ",", "E", "-LSB-", "i", ",", "j", "-RSB-", "=", "1", "if", "there", "is", "an", "edge", "-LRB-", "i", ",", "j", "-RRB-", "and", "0", "otherwise", "-RRB-", "then", "the", "above", "operation", "can", "be", "written", "simply", "as", "a", "=", "E", "T", "h", "and", "h", "=", "Ea", ",", "interspersed", "with", "scaling", "to", "set", "|", "h", "|", "1", "=", "|", "a", "|", "1", "=", "1", ".", "The", "HITS", "algorithm", "effectively", "uses", "power", "iterations", "-LSB-", "11", "-RSB-", "to", "find", "a", ",", "the", "principal", "eigenvector", "of", "E", "T", "E", ";", "and", "h", ",", "the", "principal", "eigenvector", "of", "EE", "T", ".", "Pages", "with", "large", "a", "are", "popular", "or", "authoritative", "sources", "of", "information", ";", "pages", "with", "large", "h", "are", "good", "collections", "of", "links", ".", "A", "key", "feature", "of", "HITS", "is", "how", "endorsement", "or", "popularity", "diffuses", "to", "siblings", ".", "If", "-LRB-", "u", ",", "v", "-RRB-", "and", "-LRB-", "u", ",", "w", "-RRB-", "are", "edges", "and", "somehow", "a", "-LRB-", "v", "-RRB-", "becomes", "large", ",", "then", "in", "the", "next", "iteration", "h", "-LRB-", "u", "-RRB-", "will", "increase", ",", "and", "in", "the", "following", "iteration", ",", "a", "-LRB-", "w", "-RRB-", "will", "increase", ".", "We", "will", "describe", "this", "as", "''", "v", "'s", "authority", "diffuses", "to", "w", "through", "the", "hub", "u.", "''", "This", "is", "how", "sibling", "nodes", "reinforce", "each", "other", "'s", "authority", "scores", ".", "We", "will", "revisit", "this", "property", "later", "in", "3", ".", "Google", "has", "no", "notion", "of", "hubs", ".", "Roughly", "speaking", ",", "each", "page", "v", "has", "a", "single", "``", "prestige", "''", "score", "p", "-LRB-", "v", "-RRB-", "called", "its", "PageRank", "-LSB-", "3", "-RSB-", "which", "is", "defined", "as", "proportional", "to", "-LRB-", "u", ",", "v", "-RRB-", "E", "p", "-LRB-", "u", "-RRB-", ",", "the", "sum", "of", "prestige", "scores", "of", "pages", "u", "that", "cite", "v", ".", "Some", "conjecture", "that", "the", "prestige", "model", "is", "adequate", "for", "the", "living", "Web", ",", "because", "good", "hubs", "readily", "acquire", "high", "prestige", "as", "well", ".", "Our", "work", "establishes", "the", "value", "of", "a", "bipartite", "model", "like", "HITS", ",", "and", "indeed", ",", "the", "value", "of", "an", "asymmetric", "model", "where", "hubs", "Expanded", "graph", "Rootset", "Keyword", "Search", "engine", "Query", "a", "=", "Eh", "h", "=", "E", "T", "a", "h", "a", "h", "h", "h", "a", "a", "a", "hello", "world", "stdio", "Centroid", "of", "rootset", "Similarity", "cone", "Distant", "vectors", "pruned", "Figure", "3", ":", "-LRB-", "a", "-RRB-", "HITS", ",", "a", "macroscopic", "topic", "distillation", "algorithm", "with", "uniform", "edge", "weights", ";", "-LRB-", "b", "-RRB-", "The", "B&H", "algorithm", ",", "apart", "from", "using", "non-uniform", "edge", "weights", ",", "discards", "pages", "in", "the", "expanded", "set", "which", "are", "too", "dissimilar", "to", "the", "rootset", "pages", "to", "prevent", "topic", "drift.Documents", "are", "represented", "as", "vectors", "with", "each", "component", "representing", "one", "token", "or", "word", "-LSB-", "17", "-RSB-", ".", "are", "analyzed", "quite", "differently", "from", "authorities", ".", "Therefore", "we", "will", "not", "discuss", "prestige-based", "models", "any", "further", ".", "2.2", "The", "impact", "of", "the", "evolving", "Web", "on", "hyperlink", "analysis", "Elegant", "as", "the", "HITS", "model", "is", ",", "it", "does", "not", "adequately", "capture", "various", "idioms", "of", "Web", "content", ".", "We", "discuss", "here", "a", "slew", "of", "follow-up", "work", "that", "sought", "to", "address", "these", "issues", ".", "Kleinberg", "dropped", "links", "within", "the", "same", "Web-site", "from", "consideration", "because", "these", "were", "often", "found", "to", "be", "navigational", ",", "``", "nepotistic", "''", "and", "noisy", ".", "Shortly", "after", "HITS", "was", "published", ",", "Bharat", "and", "Henzinger", "-LRB-", "B&H", "-LSB-", "2", "-RSB-", "-RRB-", "found", "that", "nepotism", "was", "not", "limited", "to", "same-site", "links", ".", "In", "many", "trials", "with", "HITS", ",", "they", "found", "two", "distinct", "sites", "s", "1", "and", "s", "2", ",", "where", "s", "1", "hosted", "a", "number", "of", "pages", "u", "linking", "to", "a", "page", "v", "on", "s", "2", ",", "driving", "up", "a", "-LRB-", "v", "-RRB-", "beyond", "what", "may", "be", "considered", "fair", ".", "B&H", "proposed", "a", "simple", "and", "effective", "fix", "for", "such", "``", "site-pair", "''", "nepotism", ":", "if", "k", "pages", "on", "s", "1", "point", "to", "v", ",", "let", "the", "weight", "of", "each", "of", "these", "links", "be", "1", "/", "k", ",", "so", "that", "they", "add", "up", "to", "one", ",", "assuming", "a", "site", "-LRB-", "not", "a", "page", "-RRB-", "is", "worth", "one", "unit", "of", "voting", "power", ".", "Later", "work", "in", "the", "Clever", "system", "-LSB-", "6", "-RSB-", "used", "a", "small", "edge", "weight", "for", "same-site", "links", "and", "a", "larger", "weight", "for", "other", "links", ",", "but", "these", "weights", "were", "tuned", "empirically", "by", "evaluating", "the", "results", "on", "specific", "queries", ".", "Another", "issue", "with", "HITS", "were", "``", "mixed", "hubs", "''", "or", "pages", "u", "that", "included", "a", "collection", "of", "links", "of", "which", "only", "a", "subset", "was", "relevant", "to", "a", "query", ".", "Because", "HITS", "modeled", "u", "as", "a", "single", "node", "with", "a", "single", "h", "score", ",", "high", "authority", "scores", "could", "diffuse", "from", "relevant", "links", "to", "less", "relevant", "links", ".", "E.g.", ",", "responses", "to", "the", "query", "movie", "awards", "sometimes", "drifted", "into", "the", "neighboring", ",", "more", "densely", "linked", "domain", "of", "movie", "companies", ".", "Later", "versions", "of", "Clever", "tried", "to", "address", "the", "issue", "in", "two", "ways", ".", "First", ",", "links", "within", "a", "fixed", "number", "of", "tokens", "of", "query", "terms", "were", "assigned", "a", "large", "edge", "weight", "-LRB-", "the", "width", "of", "the", "``", "activation", "window", "''", "was", "tuned", "by", "trial-and-error", "-RRB-", ".", "Second", ",", "hubs", "which", "were", "``", "too", "long", "''", "were", "segmented", "at", "a", "few", "prominent", "boundaries", "-LRB-", "such", "as", "<", "UL", ">", "or", "<", "HR", ">", "-RRB-", "into", "``", "pagelets", "''", "with", "their", "own", "scores", ".", "The", "boundaries", "were", "chosen", "using", "a", "static", "set", "of", "rules", "depending", "on", "the", "markup", "tags", "on", "those", "pages", "alone", ".", "To", "avoid", "drift", ",", "B&H", "also", "computed", "a", "vector", "space", "representation", "-LSB-", "17", "-RSB-", "of", "documents", "in", "the", "response", "set", "-LRB-", "shown", "in", "Figure", "3", "-RRB-", "and", "then", "dropped", "pages", "that", "were", "judged", "to", "be", "``", "outliers", "''", "using", "a", "suitable", "threshold", "of", "-LRB-", "cosine", "-RRB-", "similarity", "to", "the", "vector", "space", "centroid", ".", "B&H", "is", "effective", "for", "improving", "precision", ",", "but", "may", "reduce", "recall", "if", "mixed", "hubs", "are", "pruned", "because", "of", "small", "similarity", "to", "the", "root", "set", "centroid", ".", "This", "213", "Query", "term", "Activation", "window", "Figure", "4", ":", "Clever", "uses", "a", "slightly", "more", "detailed", "page", "model", "than", "HITS.Hyperlinks", "near", "query", "terms", "are", "given", "heavier", "weights", ".", "Such", "links", "are", "shown", "as", "thicker", "lines", ".", "may", "in", "turn", "distort", "hub", "and", "authority", "scores", "and", "hence", "the", "desired", "ranking", ".", "Losing", "a", "few", "hubs", "may", "not", "be", "a", "problem", "for", "broad", "queries", "but", "could", "be", "serious", "for", "narrower", "queries", ".", "As", "resource", "discovery", "and", "topic", "distillation", "become", "more", "commonplace", ",", "we", "believe", "the", "quest", "will", "be", "for", "every", "additional", "resource", "than", "can", "possibly", "be", "harvested", ",", "not", "merely", "the", "ones", "that", "``", "leap", "out", "at", "the", "surfer", ".", "''", "Our", "goal", "should", "therefore", "be", "to", "extract", "relevant", "links", "and", "annotations", "even", "from", "pages", "which", "are", "partially", "or", "largely", "irrelevant", ".", "HTML", "documents", "have", "always", "embedded", "many", "sources", "of", "information", "-LRB-", "other", "that", "text", "-RRB-", "which", "have", "been", "largely", "ignored", "in", "previous", "distillation", "research", ".", "Markups", "are", "one", "such", "source", ".", "From", "a", "well-formed", "HTML", "document", ",", "it", "ought", "to", "be", "possible", "to", "extract", "a", "tree", "structure", "called", "the", "Document", "Object", "Model", "-LRB-", "DOM", "-RRB-", ".", "In", "real", "life", "HTML", "is", "rarely", "well", "formed", ",", "but", "using", "a", "few", "simple", "patches", ",", "it", "is", "possible", "to", "generate", "reasonably", "accurate", "DOMs", ".", "For", "XML", "sources", "adhering", "to", "a", "published", "DTD", ",", "a", "DOMis", "precise", "and", "well", "defined", ".", "For", "simplicity", ",", "we", "shall", "work", "with", "a", "greatly", "pared-down", "version", "of", "the", "DOMfor", "HTML", "pages", ".", "We", "will", "discard", "all", "text", ",", "and", "only", "retain", "those", "paths", "in", "the", "DOMtree", "that", "lead", "from", "the", "root", "to", "a", "leaf", "which", "is", "an", "<", "A.", ".", ".", ">", "element", "with", "an", "HREF", "leading", "to", "another", "page", ".", "Hyperlinks", "always", "originate", "from", "leaf", "DOMelements", ",", "typically", "deep", "in", "the", "DOMtree", "of", "the", "source", "document", ".", "If", "same-site", "links", "are", "ignored", ",", "very", "few", "macro-level", "hyperlinks", "target", "an", "internal", "node", "in", "a", "DOMtree", "-LRB-", "using", "the", "''", "#", "''", "modifier", "in", "the", "URL", "-RRB-", ".", "To", "simplify", "our", "model", "-LRB-", "and", "experiments", "-RRB-", "we", "will", "assume", "that", "the", "target", "of", "a", "hyperlink", "is", "always", "the", "root", "node", "of", "a", "DOMtree", ".", "In", "our", "experiments", "we", "found", "very", "few", "URLs", "to", "be", "otherwise", ".", "A", "first-cut", "approach", "-LRB-", "which", "one", "may", "call", "MicroHITS", "-RRB-", "would", "be", "to", "use", "the", "fine-grained", "graph", "directly", "in", "the", "HITS", "algorithm", ".", "One", "may", "even", "generalize", "``", "same-site", "''", "to", "``", "same-DOM", "''", "and", "use", "B&H", "-", "like", "edge-weights", ".", "This", "approach", "turns", "out", "to", "work", "rather", "poorly", ".", "To", "appreciate", "why", ",", "consider", "two", "simple", "example", "graphs", "shown", "in", "Figure", "5", "and", "their", "associated", "eigenvectors", ".", "The", "first", "graph", "is", "for", "the", "macro", "setting", ".", "Expanding", "out", "a", "E", "T", "Ea", "we", "get", "a", "-LRB-", "2", "-RRB-", "a", "-LRB-", "2", "-RRB-", "+", "a", "-LRB-", "3", "-RRB-", "and", "Bipar", "tite", "c", "o", "r", "e", "DOM", "Tree", "1", "2", "3", "=", "=", "1", "1", "0", "1", "1", "0", "0", "0", "0", ";", "0", "0", "0", "0", "0", "0", "1", "1", "0", "E", "E", "E", "T", "3", "2", "4", "1", "5", "=", "=", "1", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "0", "0", "1", "0", "2", "0", "0", "0", "0", "0", "0", ";", "0", "1", "0", "0", "0", "0", "0", "1", "0", "0", "0", "0", "0", "0", "0", "0", "0", "1", "0", "1", "0", "0", "0", "0", "0", "E", "E", "E", "T", "Figure", "5", ":", "A", "straight-forward", "application", "of", "HITS-like", "algorithms", "to", "a", "DOM", "graph", "may", "result", "in", "some", "internal", "DOM", "nodes", "blocking", "the", "diffusion", "of", "authority", "across", "siblings", ".", "a", "-LRB-", "3", "-RRB-", "a", "-LRB-", "2", "-RRB-", "+", "a", "-LRB-", "3", "-RRB-", ",", "which", "demonstrates", "the", "mutual", "reinforcement", ".", "In", "the", "second", "example", "nodes", "numbered", "3", "and", "4", "are", "part", "of", "one", "DOM", "tree", ".", "This", "time", ",", "we", "get", "a", "-LRB-", "2", "-RRB-", "2a", "-LRB-", "2", "-RRB-", "+", "a", "-LRB-", "4", "-RRB-", "and", "a", "-LRB-", "4", "-RRB-", "a", "-LRB-", "2", "-RRB-", "+", "a", "-LRB-", "4", "-RRB-", ",", "but", "there", "is", "no", "coupling", "between", "a", "-LRB-", "2", "-RRB-", "and", "a", "-LRB-", "5", "-RRB-", ",", "which", "we", "would", "expect", "at", "the", "macroscopic", "level", ".", "Node", "4", "-LRB-", "marked", "red", "-RRB-", "effectively", "blocks", "the", "authority", "from", "diffusing", "between", "nodes", "2", "and", "5", ".", "One", "may", "hope", "that", "bigger", "DOMtrees", "and", "multiple", "paths", "to", "authorities", "might", "alleviate", "the", "problem", ",", "but", "the", "above", "example", "really", "depicts", "a", "basic", "problem", ".", "The", "success", "of", "HITS", "depends", "critically", "on", "reinforcement", "among", "bipartite", "cores", "-LRB-", "see", "figure", "5", "-RRB-", "which", "may", "be", "destroyed", "by", "the", "introduction", "of", "fine-grained", "nodes", ".", "At", "this", "point", "the", "dilemma", "is", "clear", ":", "by", "collapsing", "hubs", "into", "one", "node", ",", "macroscopic", "distillation", "algorithms", "lose", "valuable", "detail", ",", "but", "the", "more", "faithful", "fine-grained", "model", "prevents", "bipartite", "reinforcement", ".", "In", "this", "section", "we", "present", "our", "new", "model", "and", "distillation", "algorithm", "that", "resolves", "the", "dilemma", ".", "Informally", ",", "our", "model", "of", "hub", "generation", "enables", "our", "algorithm", "to", "find", "a", "cut", "or", "frontier", "across", "each", "hub", "'s", "DOMtree", ".", "Subtrees", "attached", "to", "these", "cuts", "are", "made", "individual", "nodes", "in", "the", "distillation", "graph", ".", "Thus", "the", "hub", "score", "of", "the", "entire", "page", "is", "dis-aggregated", "at", "this", "intermediate", "level", ".", "The", "frontiers", "are", "not", "computed", "one", "time", "as", "a", "function", "of", "the", "page", "alone", ",", "neither", "do", "they", "remain", "unchanged", "during", "the", "HITS", "iterations", ".", "The", "frontiers", "are", "determined", "by", "the", "current", "estimates", "of", "the", "hub", "scores", "of", "the", "leaf", "HREF", "nodes", ".", "We", "will", "first", "describe", "the", "hub", "segmentation", "technique", "and", "then", "use", "it", "in", "a", "modified", "iterative", "distillation", "algorithm", ".", "4.1", "Scoring", "internal", "micro-hub", "nodes", "Macroscopic", "distillation", "algorithms", "rank", "and", "report", "complete", "hub", "pages", ",", "even", "if", "they", "are", "only", "partially", "relevant", ".", "In", "this", "section", "we", "address", "the", "problem", "of", "estimating", "the", "hub", "score", "of", "each", "DOMnode", "in", "the", "fine-grained", "graph", ",", "given", "an", "estimate", "of", "authority", "scores", ".", "Because", "inter-page", "hyperlinks", "originate", "in", "leaf", "DOMnodes", "and", "target", "root", "nodes", "of", "DOM", "trees", ",", "we", "will", "also", "assume", "that", "only", "those", "DOMnodes", "that", "are", "document", "roots", "can", "have", "an", "authority", "score", ".", "214", "At", "the", "end", "of", "the", "h", "Ea", "substep", "of", "MicroHITS", ",", "leaf", "DOMnodes", "get", "a", "hub", "score", ".", "Because", "leaf", "nodes", "point", "to", "exactly", "one", "page", "via", "an", "HREF", ",", "the", "hub", "score", "is", "exactly", "the", "authority", "score", "of", "the", "target", "page", ".", "Macroscopic", "distillation", "algorithms", "in", "effect", "aggregate", "all", "the", "leaf", "hub", "scores", "for", "a", "page", "into", "one", "hub", "score", "for", "the", "entire", "page", ".", "Reporting", "leaf", "hub", "scores", "in", "descending", "order", "would", "be", "useless", ",", "because", "they", "would", "simply", "follow", "the", "authority", "ranking", "and", "fail", "to", "identify", "good", "hub", "aggregates", ".", "Instead", "of", "the", "total", "hub", "score", ",", "one", "may", "consider", "the", "density", "of", "hub", "scores", "in", "a", "subtree", ",", "which", "may", "be", "defined", "as", "the", "total", "hub", "score", "in", "the", "subtree", "divided", "by", "the", "number", "of", "HREF", "leaves", ".", "The", "maximum", "density", "will", "be", "achieved", "by", "the", "leaf", "node", "that", "links", "to", "the", "best", "authority", ".", "In", "our", "experience", "small", "subtrees", "with", "small", "number", "of", "leaves", "dominate", "the", "top", "ranks", ",", "again", "under-aggregating", "hub", "scores", "and", "pitting", "ancestor", "scores", "against", "descendant", "scores", ".", "4.1.1", "A", "generative", "model", "for", "hubs", "To", "help", "us", "find", "suitable", "frontiers", "along", "which", "we", "can", "aggregate", "hub", "scores", ",", "we", "propose", "the", "following", "generative", "model", "for", "hubs", ".", "Imagine", "that", "the", "Web", "has", "stopped", "changing", "and", "with", "respect", "to", "a", "fixed", "query", ",", "all", "Web", "pages", "have", "been", "manually", "rated", "for", "their", "worth", "as", "hubs", ".", "From", "these", "hub", "scores", ",", "one", "may", "estimate", "that", "the", "hub", "scores", "have", "been", "generated", "from", "a", "distribution", "0", ".", "-LRB-", "E.g.", ",", "0", "may", "represent", "an", "exponential", "distribution", "with", "mean", "0", ".005", ".", "-RRB-", "If", "the", "author", "of", "a", "hub", "page", "sampled", "URLs", "at", "random", "to", "link", "to", ",", "the", "distribution", "of", "hub", "scores", "at", "the", "leaves", "of", "the", "page", "would", "approach", "the", "global", "distribution", "provided", "enough", "samples", "were", "taken", ".", "However", ",", "authors", "differ", "in", "their", "choice", "of", "URLs", ".", "Hub", "authors", "are", "not", "aware", "of", "all", "URLs", "relevant", "to", "a", "given", "query", "or", "their", "relative", "authority", ";", "otherwise", "all", "hubs", "authored", "on", "a", "topic", "would", "be", "complete", "and", "identical", ",", "and", "therefore", "all", "but", "one", "would", "be", "pointless", "to", "author", ".", "-LRB-", "Here", "we", "momentarily", "ignore", "the", "value", "added", "by", "annotations", "and", "commentaries", "on", "hub", "pages", ".", "-RRB-", "Therefore", ",", "the", "distribution", "of", "hub", "scores", "for", "pages", "composed", "by", "a", "specific", "author", "will", "be", "different", "from", "0", ".", "-LRB-", "E.g.", ",", "the", "author", "'s", "personal", "average", "of", "hub", "scores", "may", "be", "0", ".002", ",", "distributed", "exponentially", ".", "-RRB-", "Moreover", ",", "the", "authors", "of", "mixed", "hubs", "deliberately", "choose", "to", "dedicate", "not", "the", "entire", "page", ",", "but", "only", "a", "fragment", "or", "subtree", "of", "it", ",", "to", "URLs", "that", "are", "relevant", "to", "the", "given", "query", ".", "-LRB-", "As", "an", "extreme", "case", "a", "subtree", "could", "be", "a", "single", "HREF", ".", "-RRB-", "We", "can", "regard", "the", "hub", "generation", "process", "as", "a", "progressive", "specialization", "of", "the", "hub", "score", "distribution", "starting", "from", "the", "global", "distribution", ".", "For", "simplicity", ",", "assume", "all", "document", "roots", "are", "attached", "to", "a", "``", "super-root", "''", "which", "corresponds", "to", "the", "global", "distribution", "0", ".", "As", "the", "author", "works", "down", "the", "DOMtree", ",", "``", "corrections", "''", "are", "applied", "to", "the", "score", "distribution", "at", "nodes", "on", "the", "path", ".", "At", "some", "suitable", "depth", ",", "the", "author", "fixes", "the", "score", "distribution", "and", "generates", "links", "to", "pages", "so", "that", "hub", "scores", "follow", "that", "distribution", ".", "This", "does", "not", "mean", "that", "there", "are", "no", "interesting", "DOMsubtrees", "below", "this", "depth", ".", "The", "model", "merely", "posits", "that", "up", "to", "some", "depth", ",", "DOMstructure", "is", "indicative", "of", "systematic", "choices", "of", "score", "distributions", ",", "whereas", "beyond", "that", "depth", "variation", "is", "statistical", ".", "0", "Global", "distribution", "Progressive", "`", "distortion", "'", "Model", "frontier", "Other", "pages", "v", "u", "Cumulative", "distortion", "cost", "=", "KL", "-LRB-", "0", ";", "u", "-RRB-", "+", "...", "+", "KL", "-LRB-", "u", ";", "v", "-RRB-", "Data", "encoding", "cost", "is", "roughly", "v", "H", "h", "v", "h", "-RRB-", "|", "Pr", "-LRB-", "log", "`", "Hot", "'", "subtree", "`", "Cold", "'", "subtree", "Figure", "6", ":", "Our", "fine-grained", "model", "of", "Web", "linkage", "which", "unifies", "hyperlinks", "and", "DOM", "structure", ".", "4.1.2", "Discovering", "DOM", "frontiers", "from", "generated", "hubs", "During", "topic", "distillation", "we", "observe", "pages", "which", "are", "the", "outcome", "of", "the", "generative", "process", "described", "above", ",", "and", "our", "goal", "is", "to", "discover", "the", "``", "best", "''", "frontier", "at", "which", "the", "score", "distributions", "were", "likely", "to", "have", "been", "fixed", ".", "A", "balancing", "act", "is", "involved", "here", ":", "one", "may", "choose", "a", "large", "and", "redundant", "frontier", "near", "the", "leaves", "and", "model", "the", "many", "small", ",", "homogeneous", "subtrees", "-LRB-", "each", "with", "a", "different", "distribution", "w", "-RRB-", "attached", "to", "that", "frontier", "accurately", ",", "or", "one", "may", "choose", "a", "short", "frontier", "near", "the", "root", "with", "a", "few", "subtrees", "which", "are", "harder", "to", "model", "because", "they", "contain", "diverse", "hub", "scores", ".", "The", "balancing", "act", "requires", "a", "common", "currency", "to", "compare", "the", "cost", "of", "the", "frontier", "with", "the", "cost", "of", "modeling", "hub", "score", "data", "beneath", "the", "frontier", ".", "This", "is", "a", "standard", "problem", "in", "segmentation", ",", "clustering", ",", "and", "model", "estimation", ".", "A", "particularly", "successful", "approach", "to", "optimizing", "the", "trade-off", "is", "to", "use", "the", "Minimum", "Description", "Length", "-LRB-", "MDL", "-RRB-", "principle", "-LSB-", "16", "-RSB-", ".", "MDL", "provides", "a", "recipe", "for", "bringing", "the", "cost", "of", "model", "corrections", "to", "the", "same", "units", "as", "the", "cost", "for", "representing", "data", "w.r.t", "a", "model", ",", "and", "postulates", "that", "``", "learning", "''", "is", "equivalent", "to", "minimizing", "the", "sum", "total", "of", "model", "and", "data", "encoding", "costs", ".", "Data", "encoding", "cost", ":", "First", "we", "consider", "the", "cost", "of", "encoding", "all", "the", "h-values", "at", "the", "leaves", "of", "a", "subtree", "rooted", "at", "node", "w.", "Specifically", ",", "let", "the", "distribution", "associated", "with", "w", "be", "w", ".", "The", "set", "of", "HREF", "leaf", "nodes", "in", "the", "subtree", "rooted", "at", "node", "w", "is", "denoted", "L", "w", ",", "and", "the", "set", "of", "hub", "scores", "at", "these", "leaves", "is", "denoted", "H", "w", ".", "As", "part", "of", "the", "solution", "we", "will", "need", "to", "evaluate", "the", "number", "of", "bits", "needed", "to", "encode", "h-values", "in", "H", "w", "using", "the", "model", "w", ".", "There", "are", "efficient", "codes", "which", "can", "achieve", "a", "data", "encoding", "length", "close", "to", "Shannon", "'s", "entropy-based", "lower", "bound", "-LSB-", "9", "-RSB-", "of", "hH", "w", "log", "Pr", "w", "-LRB-", "h", "-RRB-", "bits", ",", "-LRB-", "1", "-RRB-", "where", "Pr", "w", "-LRB-", "h", "-RRB-", "is", "the", "probability", "of", "hub", "score", "h", "w.r.t.", "a", "distribution", "represented", "by", "w", ".", "-LRB-", "E.g.", ",", "w", "may", "include", "the", "mean", "and", "variance", "of", "a", "normal", "distribution", ".", "-RRB-", "We", "will", "use", "this", "lower", "bound", "as", "an", "approximation", "to", "our", "data", "encoding", "cost", ".", "-LRB-", "This", "would", "work", "if", "the", "h-values", "followed", "a", "discrete", "probability", "distribution", ",", "which", "is", "not", "the", "case", "with", "hub", "scores", ".", "We", "will", "come", "back", "to", "this", "issue", "in", "4.2", ".", "-RRB-", "215", "Model", "encoding", "cost", ":", "Next", "we", "consider", "the", "model", "encoding", "cost", ".", "Consider", "node", "v", "in", "the", "DOMtree", ".", "We", "will", "assume", "that", "0", "is", "known", "to", "all", ",", "and", "use", "the", "path", "from", "the", "global", "root", "to", "v", "to", "inductively", "encode", "each", "node", "w.r.t", "its", "parent", ".", "Suppose", "we", "want", "to", "specialize", "the", "distribution", "v", "of", "some", "v", "away", "from", "u", ",", "the", "distribution", "of", "its", "parent", "u", ".", "The", "cost", "for", "specifying", "this", "change", "is", "given", "by", "the", "well-known", "Kullback-Leibler", "-LRB-", "KL", "-RRB-", "distance", "-LSB-", "9", "-RSB-", "KL", "-LRB-", "u", ";", "v", "-RRB-", ",", "expressed", "as", "KL", "-LRB-", "u", ";", "v", "-RRB-", "=", "x", "Pr", "u", "-LRB-", "x", "-RRB-", "log", "Pr", "u", "-LRB-", "x", "-RRB-", "Pr", "v", "-LRB-", "x", "-RRB-", ".", "-LRB-", "2", "-RRB-", "Intuitively", ",", "this", "is", "the", "cost", "of", "encoding", "the", "distribution", "v", "w.r.t.", "a", "reference", "distribution", "u", ".", "E.g.", ",", "if", "X", "is", "a", "binary", "random", "variable", "and", "its", "probabilities", "of", "being", "zero", "and", "one", "are", "-LRB-", ".2", ",", ".8", "-RRB-", "under", "1", "and", "-LRB-", ".4", ",", ".6", "-RRB-", "under", "2", ",", "then", "KL", "-LRB-", "2", ";", "1", "-RRB-", "=", ".4", "log", ".4", ".2", "+", ".6", "log", ".6", ".8", ".", "Unlike", "in", "the", "case", "of", "entropy", ",", "the", "sum", "can", "be", "taken", "to", "an", "integral", "in", "the", "limit", "for", "a", "continuous", "variable", "x.", "Clearly", "for", "u", "=", "v", ",", "the", "KL", "distance", "is", "zero", ";", "it", "can", "also", "be", "shown", "that", "this", "is", "a", "necessary", "condition", ",", "and", "that", "the", "KL", "distance", "is", "asymmetric", "in", "general", "but", "always", "non-negative", ".", "If", "u", "is", "specialized", "to", "v", "and", "v", "is", "specialized", "to", "w", ",", "the", "cost", "is", "additive", ",", "i.e.", ",", "KL", "-LRB-", "u", ";", "v", "-RRB-", "+", "KL", "-LRB-", "v", ";", "w", "-RRB-", ".", "We", "will", "denote", "the", "cost", "of", "such", "a", "path", "as", "KL", "-LRB-", "u", ";", "v", ";", "w", "-RRB-", ".", "Moreover", ",", "the", "model", "encoding", "cost", "of", "v", "starting", "from", "the", "global", "root", "model", "will", "be", "denoted", "KL", "-LRB-", "0", ";", "...", ";", "v", "-RRB-", ".", "Combined", "optimization", "problem", ":", "Given", "the", "model", "at", "the", "parent", "node", "u", "and", "the", "observed", "data", "H", "v", ",", "we", "should", "choose", "v", "so", "as", "to", "minimize", "the", "sum", "of", "the", "KL", "distance", "and", "data", "encoding", "cost", ":", "KL", "-LRB-", "v", ";", "u", "-RRB-", "hH", "v", "log", "Pr", "v", "-LRB-", "h", "-RRB-", ".", "-LRB-", "3", "-RRB-", "If", "v", "is", "expressed", "parametrically", ",", "this", "will", "involve", "an", "optimization", "over", "those", "parameters", ".", "With", "the", "above", "set-up", ",", "we", "are", "looking", "for", "a", "cut", "or", "frontier", "F", "across", "the", "tree", ",", "and", "for", "each", "v", "F", ",", "a", "v", ",", "such", "that", "vF", "KL", "-LRB-", "0", ";", "...", ";", "v", "-RRB-", "hH", "v", "log", "Pr", "v", "-LRB-", "h", "-RRB-", "-LRB-", "4", "-RRB-", "is", "minimized", ".", "The", "first", "part", "expresses", "the", "total", "model", "encoding", "cost", "of", "all", "nodes", "v", "on", "the", "frontier", "F", "starting", "from", "the", "global", "root", "distribution", ".", "The", "second", "part", "corresponds", "to", "the", "data", "encoding", "cost", "for", "the", "set", "of", "hub", "scores", "H", "v", "at", "the", "leaves", "of", "the", "subtrees", "rooted", "at", "the", "nodes", "v.", "Figure", "6", "illustrates", "the", "two", "costs", ".", "4.2", "Practical", "considerations", "The", "formulation", "above", "is", "impractical", "for", "a", "number", "of", "reasons", ".", "There", "is", "a", "reduction", "from", "the", "knapsack", "problem", "to", "the", "frontier-finding", "problem", ".", "Dynamic", "programming", "can", "be", "used", "to", "give", "close", "approximations", "-LSB-", "13", ",", "18", "-RSB-", ",", "but", "with", "tens", "of", "thousands", "of", "macro-level", "pages", ",", "each", "with", "hundreds", "of", "DOM", "nodes", ",", "something", "even", "simpler", "is", "needed", ".", "We", "describe", "the", "simplifications", "we", "had", "to", "make", "to", "control", "the", "complexity", "of", "our", "algorithm", ".", "We", "use", "the", "obvious", "greedy", "expansion", "strategy", ".", "We", "initialize", "our", "frontier", "with", "the", "global", "root", "and", "keep", "picking", "a", "node", "u", "from", "the", "frontier", "to", "see", "if", "expanding", "it", "to", "its", "immediate", "children", "-LCB-", "v", "-RCB-", "will", "result", "in", "a", "reduction", "in", "code", "length", ",", "if", "so", "we", "replace", "u", "by", "its", "children", ",", "and", "continue", "until", "no", "further", "improvement", "is", "possible", ".", "We", "compare", "two", "costs", "locally", "at", "each", "u", ":", "The", "cost", "of", "encoding", "all", "the", "data", "in", "H", "u", "with", "respect", "to", "model", "u", ".", "The", "cost", "of", "expanding", "u", "to", "its", "children", ",", "i.e.", ",", "v", "KL", "-LRB-", "u", ";", "v", "-RRB-", ",", "plus", "the", "cost", "of", "encoding", "the", "subtrees", "H", "v", "with", "respect", "to", "v", ".", "If", "the", "latter", "cost", "is", "less", ",", "we", "expand", "u", ",", "otherwise", ",", "we", "prune", "it", ",", "meaning", "that", "u", "becomes", "a", "frontier", "node", ".", "Another", "issue", "is", "with", "optimizing", "the", "model", "v", ".", "Usually", ",", "closed", "form", "solutions", "are", "rare", "and", "numerical", "optimization", "must", "be", "resorted", "to", ";", "again", "impractical", "in", "our", "setting", ".", "In", "practice", ",", "if", "H", "v", "is", "moderately", "large", ",", "the", "data", "encoding", "cost", "tends", "to", "be", "larger", "than", "the", "model", "cost", ".", "In", "such", "cases", ",", "a", "simple", "approximation", "which", "works", "quite", "well", "is", "to", "first", "minimize", "the", "data", "encoding", "cost", "for", "H", "v", "by", "picking", "parameter", "values", "for", "v", "that", "maximize", "the", "probability", "of", "the", "observed", "data", "-LRB-", "the", "``", "maximum", "likelihood", "''", "or", "ML", "parameters", "-RRB-", ",", "thus", "fix", "v", ",", "then", "evaluate", "KL", "-LRB-", "u", ";", "v", "-RRB-", ".", "-LRB-", "As", "an", "example", ",", "if", "a", "coin", "tossed", "n", "times", "turns", "up", "heads", "k", "times", ",", "the", "ML", "parameter", "for", "bias", "is", "simply", "k/n", ",", "but", "if", "a", "uniform", "u", "=", "U", "-LRB-", "0", ",", "1", "-RRB-", "is", "chosen", ",", "the", "mean", "of", "v", "shifts", "slightly", "to", "-LRB-", "k", "+", "1", "-RRB-", "/", "-LRB-", "n", "+", "2", "-RRB-", "which", "is", "a", "negligible", "change", "for", "moderately", "large", "k", "and", "n.", "-RRB-", "Non-parametric", "evaluation", "of", "the", "KL", "distance", "is", "complicated", ",", "and", "often", "entails", "density", "estimates", ".", "We", "experimented", "with", "two", "parametric", "distributions", ":", "the", "Gaussian", "and", "exponential", "distributions", "for", "which", "the", "KL", "distance", "has", "closed", "form", "expressions", ".", "We", "finally", "picked", "the", "exponential", "distribution", "because", "it", "fit", "the", "observed", "hub", "score", "distribution", "more", "closely", ".", "If", "represents", "an", "exponential", "distribution", "with", "mean", "and", "probability", "density", "f", "-LRB-", "x", "-RRB-", "=", "-LRB-", "1", "/", "-RRB-", "exp", "-LRB-", "-", "x", "/", "-RRB-", ",", "then", "KL", "-LRB-", "1", ";", "2", "-RRB-", "=", "log", "2", "1", "+", "1", "2", "-", "1", ",", "-LRB-", "5", "-RRB-", "where", "i", "corresponds", "to", "i", "-LRB-", "i", "=", "1", ",", "2", "-RRB-", ".", "The", "next", "issue", "is", "how", "to", "measure", "data", "encoding", "cost", "for", "continuous", "variables", ".", "There", "is", "a", "notion", "of", "the", "relative", "entropy", "of", "a", "continuous", "distribution", "which", "generalizes", "discrete", "entropy", ",", "but", "the", "relative", "entropy", "can", "be", "negative", "and", "is", "useful", "primarily", "for", "comparing", "the", "information", "content", "in", "two", "signal", "sources", ".", "Therefore", "we", "need", "to", "discretize", "the", "hub", "scores", ".", "A", "common", "approach", "to", "discretizing", "real", "values", "is", "to", "scale", "the", "smallest", "value", "to", "one", ",", "in", "effect", "allocating", "log", "-LRB-", "h", "max", "/", "h", "min", "-RRB-", "bits", "per", "value", ".", "This", "poses", "a", "problem", "in", "our", "case", ".", "Consider", "the", "larger", "graph", "in", "figure", "5", ".", "If", "h", "is", "initialized", "to", "-LRB-", "1", ",", "1", ",", "1", ",", "1", ",", "1", "-RRB-", "T", ",", "after", "the", "first", "few", "multiplications", "by", "EE", "T", "which", "represents", "the", "linear", "transformation", "-LRB-", "h", "-LRB-", "1", "-RRB-", ",", "...", ",", "h", "-LRB-", "5", "-RRB-", "-RRB-", "T", "-LRB-", "h", "-LRB-", "1", "-RRB-", "+", "h", "-LRB-", "3", "-RRB-", ",", "0", ",", "h", "-LRB-", "1", "-RRB-", "+", "2h", "-LRB-", "3", "-RRB-", ",", "h", "-LRB-", "4", "-RRB-", ",", "0", "-RRB-", "T", ",", "we", "get", "-LRB-", "2", ",", "0", ",", "3", ",", "1", ",", "0", "-RRB-", "T", ",", "-LRB-", "5", ",", "0", ",", "8", ",", "1", ",", "0", "-RRB-", "T", ",", "-LRB-", "13", ",", "0", ",", "21", ",", "1", ",", "0", "-RRB-", "T", ",", "and", "-LRB-", "34", ",", "0", ",", "55", ",", "1", ",", "0", "-RRB-", "T", ".", "Even", "if", "we", "disregard", "the", "zeroes", ",", "the", "ratio", "of", "the", "largest", "to", "the", "smallest", "positive", "component", "of", "h", "grows", "without", "bound", ".", "As", "scaling", "is", "employed", "to", "prevent", "overflow", ",", "h", "-LRB-", "4", "-RRB-", "decays", "towards", "zero", ".", "This", "makes", "the", "log", "-LRB-", "h", "max", "/", "h", "min", "-RRB-", "strategy", "useless", ".", "216", "A", "reasonable", "compromise", "is", "possible", "by", "noting", "that", "the", "user", "is", "not", "interested", "in", "the", "precision", "of", "all", "the", "hub", "scores", ".", "E.g.", ",", "reporting", "the", "top", "fraction", "of", "positive", "hub", "scores", "to", "within", "a", "small", "multiplicative", "error", "of", "is", "quite", "enough", ".", "We", "used", "=", "0.8", "and", "=", "0.05", "in", "our", "experiments", ".", "4.3", "Distillation", "using", "segmented", "hubs", "In", "this", "section", "we", "will", "embed", "the", "segmentation", "algorithm", "discussed", "in", "the", "previous", "section", "into", "the", "edge-weighted", "B&H", "algorithm", ".", "-LRB-", "Unlike", "the", "full", "B&H", "algorithm", ",", "we", "do", "no", "text", "analysis", "at", "this", "stage", ".", "We", "continue", "to", "call", "the", "edge-weighted", "version", "of", "HITS", "as", "``", "B&H", "''", "for", "simplicity", ".", "-RRB-", "The", "main", "modification", "will", "be", "the", "insertion", "of", "a", "call", "to", "the", "segmentation", "algorithm", "after", "the", "h", "Ea", "step", "and", "before", "the", "complementary", "step", "a", "E", "T", "h", ".", "It", "is", "also", "a", "reasonable", "assumption", "that", "the", "best", "frontier", "will", "segment", "each", "hub", "non-trivially", ",", "i.e.", ",", "below", "its", "DOMroot", ".", "Therefore", "we", "can", "invoke", "the", "segmentation", "routine", "separately", "on", "each", "page", ".", "Let", "the", "segmentation", "algorithm", "described", "previously", "be", "invoked", "as", "F", "segment", "-LRB-", "u", "-RRB-", "where", "u", "is", "the", "DOMtree", "root", "of", "a", "page", "and", "F", "is", "the", "returned", "frontier", "for", "that", "page", ".", "Here", "is", "the", "pseudo-code", "for", "one", "iteration", ":", "h", "Ea", "for", "each", "document", "DOMroot", "u", "F", "segment", "-LRB-", "u", "-RRB-", "for", "each", "frontier", "node", "v", "F", "h", "-LRB-", "v", "-RRB-", "wL", "v", "h", "-LRB-", "w", "-RRB-", "for", "each", "w", "L", "v", "h", "-LRB-", "w", "-RRB-", "h", "-LRB-", "v", "-RRB-", "reset", "h", "-LRB-", "v", "-RRB-", "0", "a", "E", "T", "h", "normalize", "a", "so", "that", "u", "a", "-LRB-", "u", "-RRB-", "=", "1", ".", "For", "convenience", "we", "can", "skip", "the", "hub", "normalization", "and", "only", "normalize", "authorities", "every", "complete", "cycle", ";", "this", "does", "not", "affect", "ranking", ".", "The", "reader", "will", "observe", "that", "this", "is", "not", "a", "linear", "relaxation", "as", "was", "the", "case", "with", "HITS", ",", "Clever", ",", "or", "B&H", ",", "because", "segment", "may", "lead", "us", "to", "aggregate", "and", "redistribute", "different", "sets", "of", "hub", "scores", "in", "different", "iterations", ",", "based", "on", "the", "current", "leaf", "hub", "scores", ".", "-LRB-", "Also", "note", "that", "if", "F", "were", "fixed", "for", "each", "page", "for", "all", "time", ",", "the", "system", "would", "still", "be", "linear", "and", "therefore", "guaranteed", "to", "converge", ".", "-RRB-", "Although", "convergence", "results", "for", "non-linear", "dynamical", "systems", "are", "rare", "-LSB-", "10", "-RSB-", ",", "in", "our", "experiments", "we", "never", "found", "convergence", "to", "be", "a", "problem", "-LRB-", "see", "5", "-RRB-", ".", "However", ",", "we", "do", "have", "to", "take", "care", "with", "the", "initial", "values", "of", "a", "and", "h", ",", "unlike", "in", "the", "linear", "relaxation", "situation", "where", "any", "positive", "value", "will", "do", ".", "Assume", "that", "the", "first", "iteration", "step", "transfers", "weights", "from", "authorities", "to", "hubs", ",", "and", "consider", "how", "we", "can", "initialize", "the", "authority", "scores", ".", "In", "contrast", "to", "HITS", ",", "we", "can", "not", "start", "with", "all", "a", "-LRB-", "v", "-RRB-", "=", "1", ".", "Why", "not", "?", "Because", "both", "good", "and", "bad", "authorities", "will", "get", "this", "score", ",", "resulting", "in", "many", "hub", "DOMsubtrees", "looking", "more", "uniformly", "promising", "than", "they", "should", ".", "This", "will", "lead", "the", "segment", "algorithm", "to", "prune", "the", "frontier", "too", "eagerly", ",", "resulting", "in", "potentially", "excessive", "authority", "diffusion", ",", "as", "in", "HITS", ".", "We", "propose", "a", "more", "conservative", "initialization", "policy", ".", "Similar", "to", "B&H", ",", "we", "assume", "that", "the", "textual", "content", "of", "the", "rootset", "documents", "returned", "by", "the", "text", "search", "engine", "is", "more", "reliably", "relevant", "than", "the", "radius-1", "neighbors", "included", "for", "distillation", ".", "Therefore", "we", "start", "our", "algorithm", "by", "assigning", "only", "root-set", "authority", "scores", "to", "one", ".", "Of", "course", ",", "once", "the", "iterations", "start", ",", "this", "does", "not", "prevent", "authority", "from", "diffusing", "over", "to", "siblings", ",", "but", "the", "diffusion", "is", "controlled", "by", "hub", "segmentation", ".", "There", "is", "one", "other", "way", "in", "which", "we", "bias", "our", "algorithm", "to", "be", "conservative", "w.r.t.", "authority", "diffusion", ".", "If", "a", "DOMnode", "has", "only", "one", "child", "with", "a", "positive", "hub", "score", ",", "or", "if", "there", "is", "a", "tie", "in", "the", "cost", "of", "expanding", "vs.", "pruning", ",", "we", "expand", "the", "node", ",", "thereby", "pushing", "the", "frontier", "down", "and", "preventing", "the", "leaf", "hub", "score", "from", "spreading", "out", "to", "possibly", "irrelevant", "outlinks", ".", "Taken", "together", ",", "these", "two", "policies", "may", "be", "a", "little", "too", "conservative", ",", "sometimes", "preventing", "desirable", "authority", "diffusion", "and", "bringing", "our", "algorithm", "closer", "to", "MicroHITS", "than", "we", "would", "like", ".", "For", "example", ",", "the", "graph", "being", "distilled", "may", "be", "such", "that", "page", "u", "has", "one", "DOMsubtree", "clearly", "-LRB-", "to", "a", "human", "reading", "the", "text", "-RRB-", "dedicated", "to", "motorcycles", ",", "but", "only", "one", "link", "target", "v", "is", "in", "the", "expanded", "set", ".", "In", "ongoing", "work", "we", "are", "integrating", "text", "analysis", "into", "our", "fine-grained", "model", "to", "avoid", "such", "pitfalls", "-LSB-", "7", "-RSB-", ".", "We", "used", "the", "28", "queries", "used", "in", "the", "Clever", "studies", "-LSB-", "5", ",", "6", "-RSB-", "and", "by", "B&H", "-LSB-", "2", "-RSB-", "-LRB-", "shown", "in", "Figure", "7", "-RRB-", ".", "For", "each", ",", "RagingSearch", "returned", "at", "most", "500", "responses", "in", "the", "root", "set", ".", "These", "500", "28", "pages", "were", "fetched", "and", "all", "their", "outlinks", "included", "in", "our", "database", "as", "well", ".", "RagingSearch", "and", "HotBot", "were", "used", "to", "get", "as", "many", "inlinks", "to", "the", "root", "set", "as", "possible", ";", "these", "were", "also", "included", "in", "our", "database", ".", "This", "resulted", "in", "about", "488000", "raw", "URLs", ".", "After", "normalizing", "URLs", "and", "eliminating", "duplicates", ",", "ap-proximately", "366000", "page", "fetches", "succeeded", ".", "We", "used", "the", "w3c", "command-line", "page", "fetching", "tool", "from", "http://www.w3c", ".", "org", "for", "its", "reliable", "timeout", "mechanism", ".", "We", "then", "scanned", "all", "these", "pages", "and", "filled", "a", "global", "-LRB-", "macro", "-", "-RRB-", "link", "table", "with", "2105271", "non-local", "links", ",", "i.e.", ",", "links", "between", "pages", "not", "on", "the", "same", "hostname", "-LRB-", "as", "a", "lowercase", "string", "without", "port", "number", "-RRB-", ".", "We", "then", "proceeded", "to", "parse", "the", "documents", "into", "their", "DOMs", "in", "order", "to", "populate", "a", "different", "set", "of", "tables", "that", "represented", "the", "DOMnodes", "and", "the", "micro-links", "between", "them", ".", "We", "used", "the", "javax.swing.text.html.parser", "package", "and", "built", "a", "custom", "pared-down", "DOMgenerator", "on", "top", "of", "the", "SAX", "scanner", "provided", ".", "The", "total", "number", "of", "micro-links", "was", "9838653", ",", "and", "the", "total", "number", "of", "micro-nodes", "likewise", "increased", ".", "Out", "of", "the", "two", "million", "non-local", "links", ",", "less", "than", "1", "%", "had", "targets", "that", "were", "not", "the", "root", "of", "the", "DOMtree", "of", "a", "page", ".", "Thus", "our", "introduction", "of", "the", "asymmetry", "in", "handling", "hubs", "and", "authorities", "seems", "to", "be", "not", "a", "great", "distortion", "of", "reality", ".", "Even", "though", "our", "experiments", "were", "performed", "on", "a", "700", "MHz", "Pentium", "Xeon", "processor", "with", "512", "MB", "RAM", "and", "60", "GB", "of", "disk", ",", "handling", "this", "scale", "of", "operation", "required", "some", "care", "and", "compromise", ".", "In", "particular", ",", "to", "cut", "down", "the", "micro-graph", "to", "only", "about", "10", "million", "edges", ",", "we", "deleted", "all", "DOMpaths", "that", "did", "not", "lead", "to", "an", "<", "A.", ".", ".", ">", "...", "<", "/", "A", ">", "element", ".", "Otherwise", ",", "we", "estimated", "that", "the", "number", "of", "micro-links", "would", "be", "at", "least", "two", "orders", "of", "magnitude", "larger", "2", ".", "2", "In", "our", "ongoing", "work", "we", "are", "having", "to", "address", "this", "issue", "as", "we", "are", "also", "analyzing", "text", ".", "217", "#", "Query", "Drift", "Mixed", "1", "``", "affirmative", "action", "''", "large", "2", "alcoholism", "3", "``", "amusement", "park", "*", "''", "small", "4", "architecture", "5", "bicycling", "6", "blues", "7", "``", "classical", "guitar", "''", "small", "8", "cheese", "9", "cruises", "10", "``", "computer", "vision", "''", "11", "``", "field", "hockey", "''", "12", "gardening", "13", "``", "graphic", "design", "''", "large", "14", "``", "Gulf", "war", "''", "large", "15", "HIV", "16", "``", "lyme", "disease", "''", "small", "17", "``", "mutual", "fund", "*", "''", "small", "18", "``", "parallel", "architecture", "''", "19", "``", "rock", "climbing", "''", "large", "20", "+", "recycling", "+", "can", "*", "21", "+", "stamp", "+", "collecting", "22", "Shakespeare", "23", "sushi", "small", "24", "telecommuting", "large", "25", "+", "Thailand", "+", "tourism", "large", "26", "``", "table", "tennis", "''", "small", "27", "``", "vintage", "cars", "''", "small", "28", "+", "Zen", "+", "buddhism", "large", "Figure", "7", ":", "The", "set", "of", "28", "broad", "queries", "used", "for", "comparing", "B&H", "-LRB-", "without", "text", "analysis", "-RRB-", "and", "our", "system.The", "second", "column", "shows", "the", "extent", "of", "drift", "in", "the", "B&H", "response.The", "third", "column", "shows", "if", "mixed", "hubs", "were", "found", "within", "the", "top", "50", "hubs", "reported", ".", "Figure", "7", "shows", "the", "28", "queries", "used", "by", "the", "Clever", "study", "and", "by", "B&H", ".", "As", "indicated", "before", ",", "our", "baseline", "was", "B&H", "with", "edge-weighting", "but", "without", "text-based", "outlier", "elimination", ",", "which", "we", "will", "simply", "call", "``", "B&H", "''", ".", "We", "did", "not", "have", "any", "arbitrary", "cut-off", "for", "the", "number", "of", "in-links", "used", "as", "we", "did", "not", "know", "which", "to", "discard", "and", "which", "to", "keep", ".", "As", "B&H", "noted", ",", "edge-weighting", "improved", "results", "significantly", ",", "but", "without", "text", "analysis", "is", "not", "adequate", "to", "prevent", "drift", ".", "Of", "the", "28", "queries", ",", "half", "show", "drift", "to", "some", "extent", ".", "We", "discuss", "a", "few", "cases", ".", "``", "Affirmative", "action", "''", "is", "understandably", "dominated", "by", "lists", "of", "US", "universities", "because", "they", "publicize", "their", "support", "for", "the", "same", ".", "Less", "intuitive", "was", "the", "drift", "into", "the", "world", "of", "software", ",", "until", "we", "found", "http://206.243.171.145/7927", ".", "html", "in", "the", "root", "set", "which", "presents", "a", "dialup", "networking", "software", "called", "Affirmative", "Action", ",", "and", "links", "to", "many", "popular", "freeware", "sites", "-LRB-", "figure", "8", "-RRB-", ".", "By", "itself", ",", "this", "page", "would", "not", "survive", "the", "link-based", "ranking", ",", "but", "the", "clique", "of", "software", "sites", "leads", "B&H", "astray", ".", "Another", "example", "was", "``", "amusement", "parks", "''", "where", "B&H", "fell", "prey", "to", "multi-host", "nepotism", "in", "spite", "of", "edge-weighting", ".", "A", "densely", "connected", "conglomerate", "including", "the", "relevant", "starting", "point", "http://www.411fun.com/THEMEPARKS/", "-LRB-", "figure", "9", "-RRB-", "formed", "a", "multi-site", "nepotistic", "cluster", "and", "misled", "macroscopic", "algorithms", ".", "In", "both", "these", "cases", "there", "were", "ample", "clues", "in", "the", "DOM", "structure", "alone", "-LRB-", "leave", "alone", "text", "-RRB-", "that", "authority", "diffusion", "should", "be", "suppressed", ".", "We", "obtained", "several", "cases", "of", "reduced", "drift", "using", "our", "technique", ".", "-LRB-", "In", "ongoing", "work", "we", "are", "getting", "the", "improvement", "evaluated", "by", "volunteers", ".", "-RRB-", "One", "striking", "example", "was", "for", "the", "query", "``", "amusement", "parks", "''", "where", "our", "algorithm", "prevented", "http://www.411", "...", "from", "taking", "over", "the", "show", "-LRB-", "see", "figure", "10", ";", "complete", "results", "are", "in", "AP-macro", ".", "html", "and", "AP-micro.html", "-RRB-", ".", "Figure", "8", ":", "The", "part", "of", "this", "HTML", "page", "that", "contains", "the", "query", "affirmative", "action", "is", "not", "very", "popular", ",", "but", "adjoining", "DOM", "subtrees", "-LRB-", "upper", "right", "corner", "-RRB-", "create", "a", "dense", "network", "of", "software", "sites", "and", "mislead", "macroscopic", "distillation", "algorithms.Dotted", "red", "lines", "are", "drawn", "by", "hand", ".", "Figure", "9", ":", "The", "411", "``", "clique", "attack", "''", "comprises", "a", "set", "of", "sibling", "sites", "with", "different", "hostnames", "and", "a", "wide", "variety", "of", "topics", "linking", "to", "each", "other.A", "human", "can", "easily", "avoid", "paying", "attention", "to", "the", "sibling", "sites", "but", "macroscopic", "distillation", "will", "get", "misled.Dotted", "red", "lines", "are", "drawn", "by", "hand", ".", "Figure", "7", "also", "shows", "that", "for", "almost", "half", "the", "queries", ",", "we", "found", "excellent", "examples", "of", "mixed", "hubs", "within", "the", "top", "50", "hubs", "reported", ".", "Given", "the", "abundance", "of", "hubs", "on", "these", "topics", ",", "we", "had", "anticipated", "that", "the", "best", "hubs", "would", "be", "``", "pure", "''", ".", "While", "this", "was", "to", "some", "extent", "true", ",", "we", "found", "quite", "a", "few", "mixed", "hubs", "too", ".", "Our", "system", "automatically", "highlighted", "the", "most", "relevant", "DOMsubtree", ";", "we", "present", "some", "examples", "in", "figure", "11", "and", "urge", "the", "reader", "to", "sample", "the", "annotated", "hubs", "packaged", "with", "the", "HTML", "version", "of", "this", "paper", ".", "Macroscopic", "Fine-grained", "http://www.411boating.com", "http://www.411jobs.com", "http://www.411insure.com", "http://www.411hitech.com", "http://www.411freestuff.com", "http://www.411commerce.com", "http://www.411-realestate.com", "http://www.411worldtravel.com", "http://www.411worldsports.com", "http://www.411photography.com", "http://www.kennywood.com", "http://www.beachboardwalk.com", "http://www.sixflags.com", "http://www.cedarpoint.com", "http://www.pgathrills.com", "http://www.pki.com", "http://www.valleyfair.com", "http://www.silverwood4fun.com", "http://www.knotts.com", "http://www.thegreatescape.com", "http://www.dutchwonderland.com", "Figure", "10", ":", "The", "fine-grained", "algorithm", "is", "less", "susceptible", "to", "clique", "attacks.The", "query", "here", "is", "amusement", "parks", ".", "218", "Figure", "11", ":", "Two", "samples", "of", "mixed", "hub", "annotations", ":", "amusement", "parks", "amidst", "roller-coaster", "manufacturers", "and", "sushi", "amidst", "international", "cuisine", ".", "Query", "Annotated", "file", "alcoholism", "AL1.html", "Amusement", "parks", "AP1.html", "Architecture", "AR1.html", "Classical", "guitar", "CG1.html", "HIV", "HI1.html", "Shakespeare", "SH1.html", "Sushi", "SU1.html", "We", "verified", "that", "our", "smoothing", "algorithm", "was", "performing", "non-trivial", "work", ":", "it", "was", "not", "merely", "locating", "top-scoring", "authorities", "and", "highlighting", "them", ".", "Within", "the", "highlighted", "regions", ",", "we", "typically", "found", "as", "many", "unvisited", "links", "as", "links", "already", "rated", "as", "authorities", ".", "In", "ongoing", "work", "we", "are", "using", "these", "new", "links", "for", "enhanced", "focused", "crawling", ".", "A", "key", "concern", "for", "us", "was", "whether", "the", "smoothing", "iterations", "will", "converge", "or", "not", ".", "Because", "the", "sites", "of", "hub", "aggregation", "are", "data-dependent", ",", "the", "transform", "was", "non-linear", ",", "and", "we", "could", "not", "give", "a", "proof", "of", "convergence", ".", "In", "practice", "we", "faced", "no", "problems", "with", "convergence", ";", "figure", "12", "is", "typical", "of", "all", "queries", ".", "This", "raised", "another", "concern", ":", "was", "the", "smoothing", "subroutine", "doing", "anything", "dynamic", "and", "useful", ",", "or", "was", "convergence", "due", "to", "its", "picking", "the", "same", "sites", "for", "hub", "aggregation", "every", "time", "?", "In", "figures", "13", "and", "14", "we", "plot", "relative", "numbers", "of", "nodes", "pruned", "vs.", "expanded", "against", "the", "number", "of", "iterations", ".", "Queries", "which", "do", "not", "have", "a", "tendency", "to", "drift", "look", "like", "figure", "13", ".", "Initially", ",", "both", "numbers", "are", "small", ".", "As", "the", "system", "bootstraps", "into", "controlled", "authority", "diffusion", ",", "more", "candidate", "hubs", "are", "pruned", ",", "i.e.", ",", "accepted", "in", "their", "entirety", ".", "Diffused", "authority", "scores", "in", "turn", "lead", "to", "fewer", "nodes", "get-1", ".00", "E-07", "1.00E-06", "1.00E-05", "1.00E-04", "1.00E-03", "1.00E-02", "1.00E-01", "0", "2", "4", "6", "8", "10", "Iterations", "M", "e", "an", "aut", "h", "s", "c", "o", "r", "e", "c", "h", "ang", "e", "Figure", "12", ":", "In", "spite", "of", "the", "non-linear", "nature", "of", "our", "relaxation", "algorithm", ",", "convergence", "is", "quick", "in", "practice.A", "typical", "chart", "of", "average", "change", "to", "authority", "scores", "is", "shown", "against", "successive", "iterations", ".", "ting", "expanded", ".", "For", "queries", "with", "a", "strong", "tendency", "to", "drift", "-LRB-", "figure", "14", "-RRB-", ",", "the", "number", "of", "nodes", "expanded", "does", "not", "drop", "as", "low", "as", "in", "low-drift", "situations", ".", "For", "all", "the", "28", "queries", ",", "the", "respective", "counts", "stabilize", "within", "10", "20", "iterations", ".", "0", "500", "1000", "1500", "2000", "2500", "3000", "3500", "4000", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "#Prune", "#Expand", "Data", "Figure", "13", ":", "Our", "micro-hub", "smoothing", "technique", "is", "highly", "adaptive", ":", "the", "number", "of", "nodes", "pruned", "vs.expanded", "changes", "dramatically", "across", "iterations", ",", "but", "stabilizes", "within", "10", "20", "iterations", ".", "There", "is", "also", "a", "controlled", "induction", "of", "new", "nodes", "into", "the", "response", "set", "owing", "to", "authority", "diffusion", "via", "relevant", "DOM", "subtrees", "-LRB-", "query", ":", "bicycling", "-RRB-", ".", "0", "200", "400", "600", "800", "1000", "1200", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "#Prune", "#Expand", "Data", "Figure", "14", ":", "For", "some", "queries", "for", "which", "B&H", "showed", "high", "drift", ",", "our", "algorithm", "continues", "to", "expand", "a", "relatively", "larger", "number", "of", "nodes", "in", "an", "attempt", "to", "suppress", "drift", "-LRB-", "query", ":", "affirmative", "action", "-RRB-", ".", "Finally", ",", "we", "checked", "how", "close", "we", "were", "to", "B&H", "ranking", ".", "We", "expected", "our", "ranking", "to", "be", "correlated", "with", "theirs", ",", "but", "verified", "that", "there", "are", "meaningful", "exceptions", ".", "Figure", "15", "show", "a", "scatter", "plot", "of", "authority", "scores", ".", "It", "illustrates", "that", "we", "systematically", "under-rate", "authorities", "compared", "to", "B&H", "-LRB-", "the", "axes", "have", "incomparable", "scale", ";", "the", "leading", "straight", "line", "should", "be", "interpreted", "as", "y", "=", "x", "-RRB-", ".", "This", "is", "a", "natural", "outcome", "of", "eliminating", "pseudo-authorities", "that", "gain", "prominence", "in", "B&H", "via", "mixed", "hubs", ".", "219", "0", "0.005", "0.01", "0.015", "0.02", "0.025", "0", "0.002", "0.004", "0.006", "0.008", "0.01", "0.012", "Authority", "score", "B&H", "O", "u", "r", "a", "ut", "h", "o", "ri", "t", "y", "s", "c", "ore", "Figure", "15", ":", "Our", "ranking", "is", "correlated", "to", "B&H", ",", "but", "not", "identical", ";", "we", "tend", "to", "systematically", "under-rate", "authorities", "compared", "to", "B&H", ".", "We", "have", "presented", "a", "fine-grained", "approach", "to", "topic", "distillation", "that", "integrates", "document", "substructure", "-LRB-", "in", "the", "form", "of", "the", "Document", "Object", "Model", "-RRB-", "with", "regular", "hyperlinks", ".", "Plugging", "in", "the", "fine-grained", "graph", "in", "place", "of", "the", "usual", "coarse-grained", "graph", "does", "not", "work", "because", "the", "fine-grained", "graph", "may", "not", "have", "the", "bipartite", "cores", "so", "vital", "to", "the", "success", "of", "macroscopic", "distillation", "algorithms", ".", "We", "propose", "a", "new", "technique", "for", "aggregating", "and", "propagating", "micro-hub", "scores", "at", "a", "level", "determined", "by", "the", "Minimum", "Description", "Length", "principle", "applied", "to", "the", "DOMtree", "with", "hub", "scores", "at", "the", "leaves", ".", "We", "show", "that", "the", "resulting", "procedure", "still", "converges", "in", "practice", ",", "reduces", "drift", ",", "and", "is", "moreover", "capable", "of", "identifying", "and", "extracting", "regions", "-LRB-", "DOMsubtrees", "-RRB-", "relevant", "to", "the", "query", "out", "of", "a", "broader", "hub", "or", "a", "hub", "with", "additional", "less-relevant", "contents", "and", "links", ".", "In", "ongoing", "work", ",", "apart", "from", "completing", "a", "detailed", "user", "study", "-LRB-", "as", "in", "the", "Clever", "project", "-RRB-", ",", "we", "are", "exploring", "three", "more", "ideas", ".", "First", ",", "our", "algorithm", "depends", "on", "DOMbranch", "points", "to", "be", "able", "to", "separate", "relevant", "hub", "fragments", "from", "irrelevant", "ones", ".", "We", "have", "seen", "some", "pages", "with", "a", "long", "sequence", "of", "URLs", "without", "any", "helpful", "DOMstructure", "such", "as", "<", "LI", ">", "providing", "natural", "segment", "candidates", ".", "Second", ",", "we", "need", "to", "bring", "back", "some", "of", "the", "text", "analysis", "techniques", "that", "have", "improved", "HITS", "and", "integrate", "them", "with", "our", "model", ".", "Third", ",", "we", "are", "measuring", "if", "the", "link", "localization", "done", "by", "our", "system", "can", "help", "in", "faster", "resource", "discovery", ".", "Acknowledgment", ":", "Thanks", "to", "Vivek", "Tawde", "and", "Hrishikesh", "Gupta", "for", "helpful", "discussions", ",", "to", "S.", "Sudarshan", "for", "stimulating", "discussions", "and", "generous", "support", "from", "the", "Informatics", "Lab", ",", "IIT", "Bombay", ",", "and", "the", "anonymous", "reviewers", "for", "helping", "to", "improve", "the", "presentation", ".", "-LSB-", "1", "-RSB-", "E.Amitay", "and", "C.Paris", ".", "Automatically", "summarising", "web", "sites", ":", "Is", "there", "a", "way", "around", "it", "?", "In", "9th", "International", "Conference", "on", "Information", "and", "Knowledge", "Management", "-LRB-", "CIKM", "2000", "-RRB-", ",", "Washington", ",", "DC", ",", "USA", ",", "2000", ".", "ACM", ".", "Online", "at", "http://www.mri.mq.edu.au/~einat/publications/", "cikm2000.pdf", ".", "-LSB-", "2", "-RSB-", "K.Bharat", "and", "M.Henzinger", ".", "Improved", "algorithms", "for", "topic", "distillation", "in", "a", "hyperlinked", "environment.In", "21st", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "104", "111", ",", "Aug.", "1998", ".", "Online", "at", "ftp://ftp.digital.com/pub/DEC/SRC/", "publications/monika/sigir98.pdf", ".", "-LSB-", "3", "-RSB-", "S.Brin", "and", "L.Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine.In", "Proceedings", "of", "the", "7th", "World-Wide", "Web", "Conference", "-LRB-", "WWW7", "-RRB-", ",", "1998", ".", "Online", "at", "http://decweb.ethz.ch/WWW7/1921/com1921.htm", ".", "-LSB-", "4", "-RSB-", "O.Buyukkokten", ",", "H.Garcia-Molina", ",", "and", "A.Paepcke", ".", "Focused", "web", "searching", "with", "PDAs.In", "World", "Wide", "Web", "Conference", ",", "Amsterdam", ",", "May", "2000", ".", "Online", "at", "http://www9", ".", "org/w9cdrom/195/195.html", ".", "-LSB-", "5", "-RSB-", "S.Chakrabarti", ",", "B.Dom", ",", "D.Gibson", ",", "J.Kleinberg", ",", "P.Raghavan", ",", "and", "S.Rajagopalan", ".", "Automatic", "resource", "compilation", "by", "analyzing", "hyperlink", "structure", "and", "associated", "text.In", "7th", "World-wide", "web", "conference", "-LRB-", "WWW7", "-RRB-", ",", "1998", ".", "Online", "at", "http://www7.scu.edu.au/programme/fullpapers/1898/", "com1898.html", ".", "-LSB-", "6", "-RSB-", "S.Chakrabarti", ",", "B.E.Dom", ",", "S.Ravi", "Kumar", ",", "P.Raghavan", ",", "S.Rajagopalan", ",", "A.Tomkins", ",", "D.Gibson", ",", "and", "J.Kleinberg", ".", "Mining", "the", "Web", "'s", "link", "structure", ".", "IEEE", "Computer", ",", "32", "-LRB-", "8", "-RRB-", ":", "60", "67", ",", "Aug.", "1999", ".", "-LSB-", "7", "-RSB-", "S.Chakrabarti", ",", "M.Joshi", ",", "and", "V.Tawde", ".", "Enhanced", "topic", "distillation", "using", "text", ",", "markup", "tags", ",", "and", "hyperlinks", ".", "Submitted", "for", "publication", ",", "Jan.", "2001", ".", "-LSB-", "8", "-RSB-", "S.Chakrabarti", ",", "M.van", "den", "Berg", ",", "and", "B.Dom", ".", "Focused", "crawling", ":", "a", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "Computer", "Networks", ",", "31:1623", "1640", ",", "1999", ".", "First", "appeared", "in", "the", "8th", "International", "World", "Wide", "Web", "Conference", ",", "Toronto", ",", "May", "1999", ".", "Available", "online", "at", "http://www8", ".", "org/w8-papers/5a-search-query/crawling/index.html", ".", "-LSB-", "9", "-RSB-", "T.M.Cover", "and", "J.A.Thomas", ".", "Elements", "of", "Information", "Theory.John", "Wiley", "and", "Sons", ",", "Inc.", ",", "1991", ".", "-LSB-", "10", "-RSB-", "D.A.Gibson", ",", "J.M.Kleinberg", ",", "and", "P.Raghavan.Clustering", "categorical", "data", ":", "An", "approach", "based", "on", "dynamical", "systems", ".", "In", "VLDB", ",", "volume", "24", ",", "pages", "311", "322", ",", "New", "York", ",", "Aug.", "1998", ".", "-LSB-", "11", "-RSB-", "G.H.Golub", "and", "C.F.van", "Loan", ".", "Matrix", "Computations", ".", "Johns", "Hopkins", "University", "Press", ",", "London", ",", "1989", ".", "-LSB-", "12", "-RSB-", "M.Hearst", ".", "Multi-paragraph", "segmentation", "of", "expository", "text.In", "Proceedings", "of", "the", "32nd", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", ",", "Las", "Cruces", ",", "NM", ",", "June", "1994", ".", "Online", "at", "http://www.sims.berkeley.edu/", "~", "hearst/publications", ".", "shtml", ".", "-LSB-", "13", "-RSB-", "D.S.Johnson", "and", "K.A.Niemi", ".", "On", "knapsacks", ",", "partitions", ",", "and", "a", "new", "dynamic", "programming", "technique", "for", "trees", ".", "Mathematics", "of", "Operations", "Research", ",", "8", "-LRB-", "1", "-RRB-", ":", "1", "14", ",", "1983", ".", "-LSB-", "14", "-RSB-", "J.Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment.In", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", ",", "1998", ".", "Online", "at", "http://www.cs.cornell.edu/", "home/kleinber/auth.ps", ".", "-LSB-", "15", "-RSB-", "R.Lempel", "and", "S.Moran", ".", "The", "stochastic", "approach", "for", "link-structure", "analysis", "-LRB-", "SALSA", "-RRB-", "and", "the", "TKC", "effect.In", "WWW9", ",", "pages", "387", "401", ",", "Amsterdam", ",", "May", "2000", ".", "Online", "at", "http", ":", "/", "/", "www9.org/w9cdrom/175/175.html", ".", "-LSB-", "16", "-RSB-", "J.Rissanen", ".", "Stochastic", "complexity", "in", "statistical", "inquiry", ".", "In", "World", "Scientific", "Series", "in", "Computer", "Science", ",", "volume", "15", ".", "World", "Scientific", ",", "Singapore", ",", "1989", ".", "-LSB-", "17", "-RSB-", "G.Salton", "and", "M.J.McGill", ".", "Introduction", "to", "Modern", "Information", "Retrieval.McGraw-Hill", ",", "1983", ".", "-LSB-", "18", "-RSB-", "S.Sarawagi", ".", "Explaining", "differences", "in", "multidimensional", "aggregates.In", "International", "Conference", "on", "Very", "Large", "Databases", "-LRB-", "VLDB", "-RRB-", ",", "volume", "25", ",", "1999", ".", "Online", "at", "http", ":", "/", "/", "www.it.iitb.ernet.in/~sunita/papers/vldb99.pdf", ".", "220"], "doc_bio_tags": ["O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dom", "hyperlink", "hits", "text analysis", "google", "segmentation", "document object model", "pagerank algorithm", "minimum description length principle", "xml", "link localization", "topic distillation"], "abstractive_keyphrases": ["microscopic distillation", "hub fragmentation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "103", "document": ["Impedance", "Coupling", "in", "Content-targeted", "Advertising", "The", "current", "boom", "of", "the", "Web", "is", "associated", "with", "the", "revenues", "originated", "from", "on-line", "advertising", ".", "While", "search-based", "advertising", "is", "dominant", ",", "the", "association", "of", "ads", "with", "a", "Web", "page", "-LRB-", "during", "user", "navigation", "-RRB-", "is", "becoming", "increasingly", "important", ".", "In", "this", "work", ",", "we", "study", "the", "problem", "of", "associating", "ads", "with", "a", "Web", "page", ",", "referred", "to", "as", "content-targeted", "advertising", ",", "from", "a", "computer", "science", "perspective", ".", "We", "assume", "that", "we", "have", "access", "to", "the", "text", "of", "the", "Web", "page", ",", "the", "keywords", "declared", "by", "an", "advertiser", ",", "and", "a", "text", "associated", "with", "the", "advertiser", "'s", "business", ".", "Using", "no", "other", "information", "and", "operating", "in", "fully", "automatic", "fashion", ",", "we", "propose", "ten", "strategies", "for", "solving", "the", "problem", "and", "evaluate", "their", "effectiveness", ".", "Our", "methods", "indicate", "that", "a", "matching", "strategy", "that", "takes", "into", "account", "the", "semantics", "of", "the", "problem", "-LRB-", "referred", "to", "as", "AAK", "for", "``", "ads", "and", "keywords", "''", "-RRB-", "can", "yield", "gains", "in", "average", "precision", "figures", "of", "60", "%", "compared", "to", "a", "trivial", "vector-based", "strategy", ".", "Further", ",", "a", "more", "sophisticated", "impedance", "coupling", "strategy", ",", "which", "expands", "the", "text", "of", "the", "Web", "page", "to", "reduce", "vocabulary", "impedance", "with", "regard", "to", "an", "advertisement", ",", "can", "yield", "extra", "gains", "in", "average", "precision", "of", "50", "%", ".", "These", "are", "first", "results", ".", "They", "suggest", "that", "great", "accuracy", "in", "content-targeted", "advertising", "can", "be", "attained", "with", "appropriate", "algorithms", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", ";", "I.", "5.3", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Applications", "--", "Text", "processing", "Algorithms", ",", "Experimentation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "05", ",", "August", "15", "19", ",", "2005", ",", "Salvador", ",", "Brazil", ".", "Copyright", "2005", "ACM", "1-59593-034-5", "/", "05/0008", "...", "$", "5.00", ".", "The", "emergence", "of", "the", "Internet", "has", "opened", "up", "new", "marketing", "opportunities", ".", "In", "fact", ",", "a", "company", "has", "now", "the", "possibility", "of", "showing", "its", "advertisements", "-LRB-", "ads", "-RRB-", "to", "millions", "of", "people", "at", "a", "low", "cost", ".", "During", "the", "90", "'s", ",", "many", "companies", "invested", "heavily", "on", "advertising", "in", "the", "Internet", "with", "apparently", "no", "concerns", "about", "their", "investment", "return", "-LSB-", "16", "-RSB-", ".", "This", "situation", "radically", "changed", "in", "the", "following", "decade", "when", "the", "failure", "of", "many", "Web", "companies", "led", "to", "a", "dropping", "in", "supply", "of", "cheap", "venture", "capital", "and", "a", "considerable", "reduction", "in", "on-line", "advertising", "investments", "-LSB-", "15", ",", "16", "-RSB-", ".", "It", "was", "clear", "then", "that", "more", "effective", "strategies", "for", "on-line", "advertising", "were", "required", ".", "For", "that", ",", "it", "was", "necessary", "to", "take", "into", "account", "short-term", "and", "long-term", "interests", "of", "the", "users", "related", "to", "their", "information", "needs", "-LSB-", "9", ",", "14", "-RSB-", ".", "As", "a", "consequence", ",", "many", "companies", "intensified", "the", "adoption", "of", "intrusive", "techniques", "for", "gathering", "information", "of", "users", "mostly", "without", "their", "consent", "-LSB-", "8", "-RSB-", ".", "This", "raised", "privacy", "issues", "which", "stimu-lated", "the", "research", "for", "less", "invasive", "measures", "-LSB-", "16", "-RSB-", ".", "More", "recently", ",", "Internet", "information", "gatekeepers", "as", ",", "for", "example", ",", "search", "engines", ",", "recommender", "systems", ",", "and", "comparison", "shopping", "services", ",", "have", "employed", "what", "is", "called", "paid", "placement", "strategies", "-LSB-", "3", "-RSB-", ".", "In", "such", "methods", ",", "an", "advertiser", "company", "is", "given", "prominent", "positioning", "in", "advertisement", "lists", "in", "return", "for", "a", "placement", "fee", ".", "Amongst", "these", "methods", ",", "the", "most", "popular", "one", "is", "a", "non-intrusive", "technique", "called", "keyword", "targeted", "marketing", "-LSB-", "16", "-RSB-", ".", "In", "this", "technique", ",", "keywords", "extracted", "from", "the", "user", "'s", "search", "query", "are", "matched", "against", "keywords", "associated", "with", "ads", "provided", "by", "advertisers", ".", "A", "ranking", "of", "the", "ads", ",", "which", "also", "takes", "into", "consideration", "the", "amount", "that", "each", "advertiser", "is", "willing", "to", "pay", ",", "is", "computed", ".", "The", "top", "ranked", "ads", "are", "displayed", "in", "the", "search", "result", "page", "together", "with", "the", "answers", "for", "the", "user", "query", ".", "The", "success", "of", "keyword", "targeted", "marketing", "has", "motivated", "information", "gatekeepers", "to", "offer", "their", "advertisement", "services", "in", "different", "contexts", ".", "For", "example", ",", "as", "shown", "in", "Figure", "1", ",", "relevant", "ads", "could", "be", "shown", "to", "users", "directly", "in", "the", "pages", "of", "information", "portals", ".", "The", "motivation", "is", "to", "take", "advantage", "of", "496", "the", "users", "immediate", "information", "interests", "at", "browsing", "time", ".", "The", "problem", "of", "matching", "ads", "to", "a", "Web", "page", "that", "is", "browsed", ",", "which", "we", "also", "refer", "to", "as", "content-targeted", "advertising", "-LSB-", "1", "-RSB-", ",", "is", "different", "from", "that", "of", "keyword", "marketing", ".", "In", "this", "case", ",", "instead", "of", "dealing", "with", "users", "'", "keywords", ",", "we", "have", "to", "use", "the", "contents", "of", "a", "Web", "page", "to", "decide", "which", "ads", "to", "display", ".", "Figure", "1", ":", "Example", "of", "content-based", "advertising", "in", "the", "page", "of", "a", "newspaper", ".", "The", "middle", "slice", "of", "the", "page", "shows", "the", "beginning", "of", "an", "article", "about", "the", "launch", "of", "a", "DVD", "movie", ".", "At", "the", "bottom", "slice", ",", "we", "can", "see", "advertisements", "picked", "for", "this", "page", "by", "Google", "'s", "content-based", "advertising", "system", ",", "AdSense", ".", "It", "is", "important", "to", "notice", "that", "paid", "placement", "advertising", "strategies", "imply", "some", "risks", "to", "information", "gatekeepers", ".", "For", "instance", ",", "there", "is", "the", "possibility", "of", "a", "negative", "impact", "on", "their", "credibility", "which", ",", "at", "long", "term", ",", "can", "demise", "their", "market", "share", "-LSB-", "3", "-RSB-", ".", "This", "makes", "investments", "in", "the", "quality", "of", "ad", "recommendation", "systems", "even", "more", "important", "to", "minimize", "the", "possibility", "of", "exhibiting", "ads", "unrelated", "to", "the", "user", "'s", "interests", ".", "By", "investing", "in", "their", "ad", "systems", ",", "information", "gatekeepers", "are", "investing", "in", "the", "maintenance", "of", "their", "credibility", "and", "in", "the", "reinforcement", "of", "a", "positive", "user", "attitude", "towards", "the", "advertisers", "and", "their", "ads", "-LSB-", "14", "-RSB-", ".", "Further", ",", "that", "can", "translate", "into", "higher", "clickthrough", "rates", "that", "lead", "to", "an", "increase", "in", "revenues", "for", "information", "gatekeepers", "and", "advertisers", ",", "with", "gains", "to", "all", "parts", "-LSB-", "3", "-RSB-", ".", "In", "this", "work", ",", "we", "focus", "on", "the", "problem", "of", "content-targeted", "advertising", ".", "We", "propose", "new", "strategies", "for", "associating", "ads", "with", "a", "Web", "page", ".", "Five", "of", "these", "strategies", "are", "referred", "to", "as", "matching", "strategies", ".", "They", "are", "based", "on", "the", "idea", "of", "matching", "the", "text", "of", "the", "Web", "page", "directly", "to", "the", "text", "of", "the", "ads", "and", "its", "associated", "keywords", ".", "Five", "other", "strategies", ",", "which", "we", "here", "introduce", ",", "are", "referred", "to", "as", "impedance", "coupling", "strategies", ".", "They", "are", "based", "on", "the", "idea", "of", "expanding", "the", "Web", "page", "with", "new", "terms", "to", "facilitate", "the", "task", "of", "matching", "ads", "and", "Web", "pages", ".", "This", "is", "motivated", "by", "the", "observation", "that", "there", "is", "frequently", "a", "mismatch", "between", "the", "vocabulary", "of", "a", "Web", "page", "and", "the", "vocabulary", "of", "an", "advertisement", ".", "We", "say", "that", "there", "is", "a", "vocabulary", "impedance", "problem", "and", "that", "our", "technique", "provides", "a", "positive", "effect", "of", "impedance", "coupling", "by", "reducing", "the", "vocabulary", "impedance", ".", "Further", ",", "all", "our", "strategies", "rely", "on", "information", "that", "is", "already", "available", "to", "information", "gatekeepers", "that", "operate", "keyword", "targeted", "advertising", "systems", ".", "Thus", ",", "no", "other", "data", "from", "the", "advertiser", "is", "required", ".", "Using", "a", "sample", "of", "a", "real", "case", "database", "with", "over", "93,000", "ads", "and", "100", "Web", "pages", "selected", "for", "testing", ",", "we", "evaluate", "our", "ad", "recommendation", "strategies", ".", "First", ",", "we", "evaluate", "the", "five", "matching", "strategies", ".", "They", "match", "ads", "to", "a", "Web", "page", "using", "a", "standard", "vector", "model", "and", "provide", "what", "we", "may", "call", "trivial", "solutions", ".", "Our", "results", "indicate", "that", "a", "strategy", "that", "matches", "the", "ad", "plus", "its", "keywords", "to", "a", "Web", "page", ",", "requiring", "the", "keywords", "to", "appear", "in", "the", "Web", "page", ",", "provides", "improvements", "in", "average", "precision", "figures", "of", "roughly", "60", "%", "relative", "to", "a", "strategy", "that", "simply", "matches", "the", "ads", "to", "the", "Web", "page", ".", "Such", "strategy", ",", "which", "we", "call", "AAK", "-LRB-", "for", "``", "ads", "and", "keywords", "''", "-RRB-", ",", "is", "then", "taken", "as", "our", "baseline", ".", "Following", "we", "evaluate", "the", "five", "impedance", "coupling", "strategies", ".", "They", "are", "based", "on", "the", "idea", "of", "expanding", "the", "ad", "and", "the", "Web", "page", "with", "new", "terms", "to", "reduce", "the", "vocabulary", "impedance", "between", "their", "texts", ".", "Our", "results", "indicate", "that", "it", "is", "possible", "to", "generate", "extra", "improvements", "in", "average", "precision", "figures", "of", "roughly", "50", "%", "relative", "to", "the", "AAK", "strategy", ".", "The", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", ",", "we", "introduce", "five", "matching", "strategies", "to", "solve", "content-targeted", "advertising", ".", "In", "section", "3", ",", "we", "present", "our", "impedance", "coupling", "strategies", ".", "In", "section", "4", ",", "we", "describe", "our", "experimental", "methodology", "and", "datasets", "and", "discuss", "our", "results", ".", "In", "section", "5", "we", "discuss", "related", "work", ".", "In", "section", "6", "we", "present", "our", "conclusions", ".", "Keyword", "advertising", "relies", "on", "matching", "search", "queries", "to", "ads", "and", "its", "associated", "keywords", ".", "Context-based", "advertising", ",", "which", "we", "address", "here", ",", "relies", "on", "matching", "ads", "and", "its", "associated", "keywords", "to", "the", "text", "of", "a", "Web", "page", ".", "Given", "a", "certain", "Web", "page", "p", ",", "which", "we", "call", "triggering", "page", ",", "our", "task", "is", "to", "select", "advertisements", "related", "to", "the", "contents", "of", "p.", "Without", "loss", "of", "generality", ",", "we", "consider", "that", "an", "advertisement", "a", "i", "is", "composed", "of", "a", "title", ",", "a", "textual", "description", ",", "and", "a", "hyperlink", ".", "To", "illustrate", ",", "for", "the", "first", "ad", "by", "Google", "shown", "in", "Figure", "1", ",", "the", "title", "is", "``", "Star", "Wars", "Trilogy", "Full", "''", ",", "the", "description", "is", "``", "Get", "this", "popular", "DVD", "free", ".", "Free", "w", "/", "free", "shopping", ".", "Sign", "up", "now", "''", ",", "and", "the", "hyperlink", "points", "to", "the", "site", "\"www.freegiftworld.com", "''", ".", "Advertisements", "can", "be", "grouped", "by", "advertisers", "in", "groups", "called", "campaigns", ",", "such", "that", "a", "campaign", "can", "have", "one", "or", "more", "advertisements", ".", "Given", "our", "triggering", "page", "p", "and", "a", "set", "A", "of", "ads", ",", "a", "simple", "way", "of", "ranking", "a", "i", "A", "with", "regard", "to", "p", "is", "by", "matching", "the", "contents", "of", "p", "to", "the", "contents", "of", "a", "i", ".", "For", "this", ",", "we", "use", "the", "vector", "space", "model", "-LSB-", "2", "-RSB-", ",", "as", "discussed", "in", "the", "immediately", "following", ".", "In", "the", "vector", "space", "model", ",", "queries", "and", "documents", "are", "represented", "as", "weighted", "vectors", "in", "an", "n-dimensional", "space", ".", "Let", "w", "iq", "be", "the", "weight", "associated", "with", "term", "t", "i", "in", "the", "query", "q", "and", "w", "ij", "be", "the", "weight", "associated", "with", "term", "t", "i", "in", "the", "document", "d", "j", ".", "Then", ",", "q", "=", "-LRB-", "w", "1q", ",", "w", "2q", ",", "...", ",", "w", "iq", ",", "...", ",", "w", "nq", "-RRB-", "and", "d", "j", "=", "-LRB-", "w", "1j", ",", "w", "2j", ",", "...", ",", "w", "ij", ",", "...", ",", "w", "nj", "-RRB-", "are", "the", "weighted", "vectors", "used", "to", "represent", "the", "query", "q", "and", "the", "document", "d", "j", ".", "These", "weights", "can", "be", "computed", "using", "classic", "tf-idf", "schemes", ".", "In", "such", "schemes", ",", "weights", "are", "taken", "as", "the", "product", "between", "factors", "that", "quantify", "the", "importance", "of", "a", "term", "in", "a", "document", "-LRB-", "given", "by", "the", "term", "frequency", ",", "or", "tf", ",", "factor", "-RRB-", "and", "its", "rarity", "in", "the", "whole", "collection", "-LRB-", "given", "by", "the", "inverse", "document", "factor", ",", "or", "idf", ",", "factor", "-RRB-", ",", "see", "-LSB-", "2", "-RSB-", "for", "details", ".", "The", "ranking", "of", "the", "query", "q", "with", "regard", "to", "the", "document", "d", "j", "is", "computed", "by", "the", "cosine", "similarity", "497", "formula", ",", "that", "is", ",", "the", "cosine", "of", "the", "angle", "between", "the", "two", "corresponding", "vectors", ":", "sim", "-LRB-", "q", ",", "d", "j", "-RRB-", "=", "q", "d", "j", "|", "q", "|", "|", "d", "j", "|", "=", "P", "n", "i", "=", "1", "w", "iq", "w", "ij", "qP", "n", "i", "=", "1", "w", "2", "iq", "qP", "n", "i", "=", "1", "w", "2", "ij", "-LRB-", "1", "-RRB-", "By", "considering", "p", "as", "the", "query", "and", "a", "i", "as", "the", "document", ",", "we", "can", "rank", "the", "ads", "with", "regard", "to", "the", "Web", "page", "p", ".", "This", "is", "our", "first", "matching", "strategy", ".", "It", "is", "represented", "by", "the", "function", "AD", "given", "by", ":", "AD", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", ",", "a", "i", "-RRB-", "where", "AD", "stands", "for", "``", "direct", "match", "of", "the", "ad", ",", "composed", "by", "title", "and", "description", "''", "and", "sim", "-LRB-", "p", ",", "a", "i", "-RRB-", "is", "computed", "according", "to", "Eq", ".", "-LRB-", "1", "-RRB-", ".", "In", "our", "second", "method", ",", "we", "use", "other", "source", "of", "evidence", "provided", "by", "the", "advertisers", ":", "the", "keywords", ".", "With", "each", "advertisement", "a", "i", "an", "advertiser", "associates", "a", "keyword", "k", "i", ",", "which", "may", "be", "composed", "of", "one", "or", "more", "terms", ".", "We", "denote", "the", "association", "between", "an", "advertisement", "a", "i", "and", "a", "keyword", "k", "i", "as", "the", "pair", "-LRB-", "a", "i", ",", "k", "i", "-RRB-", "K", ",", "where", "K", "is", "the", "set", "of", "associations", "made", "by", "the", "advertisers", ".", "In", "the", "case", "of", "keyword", "targeted", "advertising", ",", "such", "keywords", "are", "used", "to", "match", "the", "ads", "to", "the", "user", "queries", ".", "In", "here", ",", "we", "use", "them", "to", "match", "ads", "to", "the", "Web", "page", "p", ".", "This", "provides", "our", "second", "method", "for", "ad", "matching", "given", "by", ":", "KW", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", ",", "k", "i", "-RRB-", "where", "-LRB-", "a", "i", ",", "k", "i", "-RRB-", "K", "and", "KW", "stands", "for", "``", "match", "the", "ad", "keywords", "''", ".", "We", "notice", "that", "most", "of", "the", "keywords", "selected", "by", "advertisers", "are", "also", "present", "in", "the", "ads", "associated", "with", "those", "keywords", ".", "For", "instance", ",", "in", "our", "advertisement", "test", "collection", ",", "this", "is", "true", "for", "90", "%", "of", "the", "ads", ".", "Thus", ",", "instead", "of", "using", "the", "keywords", "as", "matching", "devices", ",", "we", "can", "use", "them", "to", "emphasize", "the", "main", "concepts", "in", "an", "ad", ",", "in", "an", "attempt", "to", "improve", "our", "AD", "strategy", ".", "This", "leads", "to", "our", "third", "method", "of", "ad", "matching", "given", "by", ":", "AD", "KW", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", ",", "a", "i", "k", "i", "-RRB-", "where", "-LRB-", "a", "i", ",", "k", "i", "-RRB-", "K", "and", "AD", "KW", "stands", "for", "``", "match", "the", "ad", "and", "its", "keywords", "''", ".", "Finally", ",", "it", "is", "important", "to", "notice", "that", "the", "keyword", "k", "i", "associated", "with", "a", "i", "could", "not", "appear", "at", "all", "in", "the", "triggering", "page", "p", ",", "even", "when", "a", "i", "is", "highly", "ranked", ".", "However", ",", "if", "we", "assume", "that", "k", "i", "summarizes", "the", "main", "topic", "of", "a", "i", "according", "to", "an", "advertiser", "viewpoint", ",", "it", "can", "be", "interesting", "to", "assure", "its", "presence", "in", "p", ".", "This", "reasoning", "suggests", "that", "requiring", "the", "occurrence", "of", "the", "keyword", "k", "i", "in", "the", "triggering", "page", "p", "as", "a", "condition", "to", "associate", "a", "i", "with", "p", "might", "lead", "to", "improved", "results", ".", "This", "leads", "to", "two", "extra", "matching", "strategies", "as", "follows", ":", "ANDKW", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", ",", "a", "i", "-RRB-", "if", "k", "i", "p", "0", "if", "otherwise", "AD", "ANDKW", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "AAK", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", ",", "a", "i", "k", "i", "-RRB-", "if", "k", "i", "p", "0", "if", "otherwise", "where", "-LRB-", "a", "i", ",", "k", "i", "-RRB-", "K", ",", "ANDKW", "stands", "for", "``", "match", "the", "ad", "keywords", "and", "force", "their", "appearance", "''", ",", "and", "AD", "ANDKW", "-LRB-", "or", "AAK", "for", "``", "ads", "and", "keywords", "''", "-RRB-", "stands", "for", "``", "match", "the", "ad", ",", "its", "keywords", ",", "and", "force", "their", "appearance", "''", ".", "As", "we", "will", "see", "in", "our", "results", ",", "the", "best", "among", "these", "simple", "methods", "is", "AAK", ".", "Thus", ",", "it", "will", "be", "used", "as", "baseline", "for", "our", "impedance", "coupling", "strategies", "which", "we", "now", "discuss", ".", "Two", "key", "issues", "become", "clear", "as", "one", "plays", "with", "the", "content-targeted", "advertising", "problem", ".", "First", ",", "the", "triggering", "page", "normally", "belongs", "to", "a", "broader", "contextual", "scope", "than", "that", "of", "the", "advertisements", ".", "Second", ",", "the", "association", "between", "a", "good", "advertisement", "and", "the", "triggering", "page", "might", "depend", "on", "a", "topic", "that", "is", "not", "mentioned", "explicitly", "in", "the", "triggering", "page", ".", "The", "first", "issue", "is", "due", "to", "the", "fact", "that", "Web", "pages", "can", "be", "about", "any", "subject", "and", "that", "advertisements", "are", "concise", "in", "nature", ".", "That", "is", ",", "ads", "tend", "to", "be", "more", "topic", "restricted", "than", "Web", "pages", ".", "The", "second", "issue", "is", "related", "to", "the", "fact", "that", ",", "as", "we", "later", "discuss", ",", "most", "advertisers", "place", "a", "small", "number", "of", "advertisements", ".", "As", "a", "result", ",", "we", "have", "few", "terms", "describing", "their", "interest", "areas", ".", "Consequently", ",", "these", "terms", "tend", "to", "be", "of", "a", "more", "general", "nature", ".", "For", "instance", ",", "a", "car", "shop", "probably", "would", "prefer", "to", "use", "``", "car", "''", "instead", "of", "``", "super", "sport", "''", "to", "describe", "its", "core", "business", "topic", ".", "As", "a", "consequence", ",", "many", "specific", "terms", "that", "appear", "in", "the", "triggering", "page", "find", "no", "match", "in", "the", "advertisements", ".", "To", "make", "matters", "worst", ",", "a", "page", "might", "refer", "to", "an", "entity", "or", "subject", "of", "the", "world", "through", "a", "label", "that", "is", "distinct", "from", "the", "label", "selected", "by", "an", "advertiser", "to", "refer", "to", "the", "same", "entity", ".", "A", "consequence", "of", "these", "two", "issues", "is", "that", "vocabularies", "of", "pages", "and", "ads", "have", "low", "intersection", ",", "even", "when", "an", "ad", "is", "related", "to", "a", "page", ".", "We", "cite", "this", "problem", "from", "now", "on", "as", "the", "vocabulary", "impedance", "problem", ".", "In", "our", "experiments", ",", "we", "realized", "that", "this", "problem", "limits", "the", "final", "quality", "of", "direct", "matching", "strategies", ".", "Therefore", ",", "we", "studied", "alternatives", "to", "reduce", "the", "referred", "vocabulary", "impedance", ".", "For", "this", ",", "we", "propose", "to", "expand", "the", "triggering", "pages", "with", "new", "terms", ".", "Figure", "2", "illustrates", "our", "intuition", ".", "We", "already", "know", "that", "the", "addition", "of", "keywords", "-LRB-", "selected", "by", "the", "advertiser", "-RRB-", "to", "the", "ads", "leads", "to", "improved", "results", ".", "We", "say", "that", "a", "keyword", "reduces", "the", "vocabulary", "impedance", "by", "providing", "an", "alternative", "matching", "path", ".", "Our", "idea", "is", "to", "add", "new", "terms", "-LRB-", "words", "-RRB-", "to", "the", "Web", "page", "p", "to", "also", "reduce", "the", "vocabulary", "impedance", "by", "providing", "a", "second", "alternative", "matching", "path", ".", "We", "refer", "to", "our", "expansion", "technique", "as", "impedance", "coupling", ".", "For", "this", ",", "we", "proceed", "as", "follows", ".", "expansion", "terms", "keyword", "vocabulary", "impedance", "triggering", "page", "p", "ad", "Figure", "2", ":", "Addition", "of", "new", "terms", "to", "a", "Web", "page", "to", "reduce", "the", "vocabulary", "impedance", ".", "An", "advertiser", "trying", "to", "describe", "a", "certain", "topic", "in", "a", "concise", "way", "probably", "will", "choose", "general", "terms", "to", "characterize", "that", "topic", ".", "To", "facilitate", "the", "matching", "between", "this", "ad", "and", "our", "triggering", "page", "p", ",", "we", "need", "to", "associate", "new", "general", "terms", "with", "p.", "For", "this", ",", "we", "assume", "that", "Web", "documents", "similar", "to", "the", "triggering", "page", "p", "share", "common", "topics", ".", "Therefore", ",", "498", "by", "inspecting", "the", "vocabulary", "of", "these", "similar", "documents", "we", "might", "find", "good", "terms", "for", "better", "characterizing", "the", "main", "topics", "in", "the", "page", "p", ".", "We", "now", "describe", "this", "idea", "using", "a", "Bayesian", "network", "model", "-LSB-", "10", ",", "11", ",", "13", "-RSB-", "depicted", "in", "Figure", "3", ".", "R", "D", "0", "D", "1", "D", "j", "D", "k", "T", "1", "T", "2", "T", "3", "T", "i", "T", "m", "...", "...", "...", "...", "Figure", "3", ":", "Bayesian", "network", "model", "for", "our", "impedance", "coupling", "technique", ".", "In", "our", "model", ",", "which", "is", "based", "on", "the", "belief", "network", "in", "-LSB-", "11", "-RSB-", ",", "the", "nodes", "represent", "pieces", "of", "information", "in", "the", "domain", ".", "With", "each", "node", "is", "associated", "a", "binary", "random", "variable", ",", "which", "takes", "the", "value", "1", "to", "mean", "that", "the", "corresponding", "entity", "-LRB-", "a", "page", "or", "terms", "-RRB-", "is", "observed", "and", ",", "thus", ",", "relevant", "in", "our", "computations", ".", "In", "this", "case", ",", "we", "say", "that", "the", "information", "was", "observed", ".", "Node", "R", "represents", "the", "page", "r", ",", "a", "new", "representation", "for", "the", "triggering", "page", "p.", "Let", "N", "be", "the", "set", "of", "the", "k", "most", "similar", "documents", "to", "the", "triggering", "page", ",", "including", "the", "triggering", "page", "p", "itself", ",", "in", "a", "large", "enough", "Web", "collection", "C.", "Root", "nodes", "D", "0", "through", "D", "k", "represent", "the", "documents", "in", "N", ",", "that", "is", ",", "the", "triggering", "page", "D", "0", "and", "its", "k", "nearest", "neighbors", ",", "D", "1", "through", "D", "k", ",", "among", "all", "pages", "in", "C", ".", "There", "is", "an", "edge", "from", "node", "D", "j", "to", "node", "R", "if", "document", "d", "j", "is", "in", "N", ".", "Nodes", "T", "1", "through", "T", "m", "represent", "the", "terms", "in", "the", "vocabulary", "of", "C", ".", "There", "is", "an", "edge", "from", "node", "D", "j", "to", "a", "node", "T", "i", "if", "term", "t", "i", "occurs", "in", "document", "d", "j", ".", "In", "our", "model", ",", "the", "observation", "of", "the", "pages", "in", "N", "leads", "to", "the", "observation", "of", "a", "new", "representation", "of", "the", "triggering", "page", "p", "and", "to", "a", "set", "of", "terms", "describing", "the", "main", "topics", "associated", "with", "p", "and", "its", "neighbors", ".", "Given", "these", "definitions", ",", "we", "can", "now", "use", "the", "network", "to", "determine", "the", "probability", "that", "a", "term", "t", "i", "is", "a", "good", "term", "for", "representing", "a", "topic", "of", "the", "triggering", "page", "p", ".", "In", "other", "words", ",", "we", "are", "interested", "in", "the", "probability", "of", "observing", "the", "final", "evidence", "regarding", "a", "term", "t", "i", ",", "given", "that", "the", "new", "representation", "of", "the", "page", "p", "has", "been", "observed", ",", "P", "-LRB-", "T", "i", "=", "1", "|", "R", "=", "1", "-RRB-", ".", "This", "translates", "into", "the", "following", "equation", "1", ":", "P", "-LRB-", "T", "i", "|", "R", "-RRB-", "=", "1", "P", "-LRB-", "R", "-RRB-", "X", "d", "P", "-LRB-", "T", "i", "|", "d", "-RRB-", "P", "-LRB-", "R", "|", "d", "-RRB-", "P", "-LRB-", "d", "-RRB-", "-LRB-", "2", "-RRB-", "where", "d", "represents", "the", "set", "of", "states", "of", "the", "document", "nodes", ".", "Since", "we", "are", "interested", "just", "in", "the", "states", "in", "which", "only", "a", "single", "document", "d", "j", "is", "observed", "and", "P", "-LRB-", "d", "-RRB-", "can", "be", "regarded", "as", "a", "constant", ",", "we", "can", "rewrite", "Eq", ".", "-LRB-", "2", "-RRB-", "as", ":", "P", "-LRB-", "T", "i", "|", "R", "-RRB-", "=", "P", "-LRB-", "R", "-RRB-", "k", "X", "j", "=", "0", "P", "-LRB-", "T", "i", "|", "d", "j", "-RRB-", "P", "-LRB-", "R", "|", "d", "j", "-RRB-", "-LRB-", "3", "-RRB-", "where", "d", "j", "represents", "the", "state", "of", "the", "document", "nodes", "in", "which", "only", "document", "d", "j", "is", "observed", "and", "is", "a", "constant", "1", "To", "simplify", "our", "notation", "we", "represent", "the", "probabilities", "P", "-LRB-", "X", "=", "1", "-RRB-", "as", "P", "-LRB-", "X", "-RRB-", "and", "P", "-LRB-", "X", "=", "0", "-RRB-", "as", "P", "-LRB-", "X", "-RRB-", ".", "associated", "with", "P", "-LRB-", "d", "j", "-RRB-", ".", "Eq", ".", "-LRB-", "3", "-RRB-", "is", "the", "general", "equation", "to", "compute", "the", "probability", "that", "a", "term", "t", "i", "is", "related", "to", "the", "triggering", "page", ".", "We", "now", "define", "the", "probabilities", "P", "-LRB-", "T", "i", "|", "d", "j", "-RRB-", "and", "P", "-LRB-", "R", "|", "d", "j", "-RRB-", "as", "follows", ":", "P", "-LRB-", "T", "i", "|", "d", "j", "-RRB-", "=", "w", "ij", "-LRB-", "4", "-RRB-", "P", "-LRB-", "R", "|", "d", "j", "-RRB-", "=", "-LRB-", "1", "-", "-RRB-", "j", "=", "0", "sim", "-LRB-", "r", ",", "d", "j", "-RRB-", "1", "j", "k", "-LRB-", "5", "-RRB-", "where", "is", "a", "normalizing", "constant", ",", "w", "ij", "is", "the", "weight", "associated", "with", "term", "t", "i", "in", "the", "document", "d", "j", ",", "and", "sim", "-LRB-", "p", ",", "d", "j", "-RRB-", "is", "given", "by", "Eq", ".", "-LRB-", "1", "-RRB-", ",", "i.e.", ",", "is", "the", "cosine", "similarity", "between", "p", "and", "d", "j", ".", "The", "weight", "w", "ij", "is", "computed", "using", "a", "classic", "tf-idf", "scheme", "and", "is", "zero", "if", "term", "t", "i", "does", "not", "occur", "in", "document", "d", "j", ".", "Notice", "that", "P", "-LRB-", "T", "i", "|", "d", "j", "-RRB-", "=", "1", "-", "P", "-LRB-", "T", "i", "|", "d", "j", "-RRB-", "and", "P", "-LRB-", "R", "|", "d", "j", "-RRB-", "=", "1", "-", "P", "-LRB-", "R", "|", "d", "j", "-RRB-", ".", "By", "defining", "the", "constant", ",", "it", "is", "possible", "to", "determine", "how", "important", "should", "be", "the", "influence", "of", "the", "triggering", "page", "p", "to", "its", "new", "representation", "r.", "By", "substituting", "Eq", ".", "-LRB-", "4", "-RRB-", "and", "Eq", ".", "-LRB-", "5", "-RRB-", "into", "Eq", ".", "-LRB-", "3", "-RRB-", ",", "we", "obtain", ":", "P", "-LRB-", "T", "i", "|", "R", "-RRB-", "=", "-LRB-", "-LRB-", "1", "-", "-RRB-", "w", "i0", "+", "k", "X", "j", "=", "1", "w", "ij", "sim", "-LRB-", "r", ",", "d", "j", "-RRB-", "-RRB-", "-LRB-", "6", "-RRB-", "where", "=", "is", "a", "normalizing", "constant", ".", "We", "use", "Eq", ".", "-LRB-", "6", "-RRB-", "to", "determine", "the", "set", "of", "terms", "that", "will", "compose", "r", ",", "as", "illustrated", "in", "Figure", "2", ".", "Let", "t", "top", "be", "the", "top", "ranked", "term", "according", "to", "Eq", ".", "-LRB-", "6", "-RRB-", ".", "The", "set", "r", "is", "composed", "of", "the", "terms", "t", "i", "such", "that", "P", "-LRB-", "T", "i", "|", "R", "-RRB-", "P", "-LRB-", "T", "top", "|", "R", "-RRB-", ",", "where", "is", "a", "given", "threshold", ".", "In", "our", "experiments", ",", "we", "have", "used", "=", "0.05", ".", "Notice", "that", "the", "set", "r", "might", "contain", "terms", "that", "already", "occur", "in", "p", ".", "That", "is", ",", "while", "we", "will", "refer", "to", "the", "set", "r", "as", "expansion", "terms", ",", "it", "should", "be", "clear", "that", "p", "r", "=", ".", "By", "using", "=", "0", ",", "we", "simply", "consider", "the", "terms", "originally", "in", "page", "p.", "By", "increasing", ",", "we", "relax", "the", "context", "of", "the", "page", "p", ",", "adding", "terms", "from", "neighbor", "pages", ",", "turning", "page", "p", "into", "its", "new", "representation", "r", ".", "This", "is", "important", "because", ",", "sometimes", ",", "a", "topic", "apparently", "not", "important", "in", "the", "triggering", "page", "offers", "a", "good", "opportunity", "for", "advertising", ".", "For", "example", ",", "consider", "a", "triggering", "page", "that", "describes", "a", "congress", "in", "London", "about", "digital", "photography", ".", "Although", "London", "is", "probably", "not", "an", "important", "topic", "in", "this", "page", ",", "advertisements", "about", "hotels", "in", "London", "would", "be", "appropriate", ".", "Thus", ",", "adding", "``", "hotels", "''", "to", "page", "p", "is", "important", ".", "This", "suggests", "using", ">", "0", ",", "that", "is", ",", "preserving", "the", "contents", "of", "p", "and", "using", "the", "terms", "in", "r", "to", "expand", "p", ".", "In", "this", "paper", ",", "we", "examine", "both", "approaches", ".", "Thus", ",", "in", "our", "sixth", "method", "we", "match", "r", ",", "the", "set", "of", "new", "expansion", "terms", ",", "directly", "to", "the", "ads", ",", "as", "follows", ":", "AAK", "T", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "AAK", "-LRB-", "r", ",", "a", "i", "-RRB-", "where", "AAK", "T", "stands", "for", "``", "match", "the", "ad", "and", "keywords", "to", "the", "set", "r", "of", "expansion", "terms", "''", ".", "In", "our", "seventh", "method", ",", "we", "match", "an", "expanded", "page", "p", "to", "the", "ads", "as", "follows", ":", "AAK", "EXP", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "AAK", "-LRB-", "p", "r", ",", "a", "i", "-RRB-", "where", "AAK", "EXP", "stands", "for", "``", "match", "the", "ad", "and", "keywords", "to", "the", "expanded", "triggering", "page", "''", ".", "499", "To", "improve", "our", "ad", "placement", "methods", ",", "other", "external", "source", "that", "we", "can", "use", "is", "the", "content", "of", "the", "page", "h", "pointed", "to", "by", "the", "advertisement", "'s", "hyperlink", ",", "that", "is", ",", "its", "landing", "page", ".", "After", "all", ",", "this", "page", "comprises", "the", "real", "target", "of", "the", "ad", "and", "perhaps", "could", "present", "a", "more", "detailed", "description", "of", "the", "product", "or", "service", "being", "advertised", ".", "Given", "that", "the", "advertisement", "a", "i", "points", "to", "the", "landing", "page", "h", "i", ",", "we", "denote", "this", "association", "as", "the", "pair", "-LRB-", "a", "i", ",", "h", "i", "-RRB-", "H", ",", "where", "H", "is", "the", "set", "of", "associations", "between", "the", "ads", "and", "the", "pages", "they", "point", "to", ".", "Our", "eighth", "method", "consists", "of", "matching", "the", "triggering", "page", "p", "to", "the", "landing", "pages", "pointed", "to", "by", "the", "advertisements", ",", "as", "follows", ":", "H", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", ",", "h", "i", "-RRB-", "where", "-LRB-", "a", "i", ",", "h", "i", "-RRB-", "H", "and", "H", "stands", "for", "``", "match", "the", "hyperlink", "pointed", "to", "by", "the", "ad", "''", ".", "We", "can", "also", "combine", "this", "information", "with", "the", "more", "promising", "methods", "previously", "described", ",", "AAK", "and", "AAK", "EXP", "as", "follows", ".", "Given", "that", "-LRB-", "a", "i", ",", "h", "i", "-RRB-", "H", "and", "-LRB-", "a", "i", ",", "k", "i", "-RRB-", "K", ",", "we", "have", "our", "last", "two", "methods", ":", "AAK", "H", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", ",", "a", "i", "h", "i", "k", "i", "-RRB-", "if", "k", "i", "p", "0", "if", "otherwise", "AAK", "EXP", "H", "-LRB-", "p", ",", "a", "i", "-RRB-", "=", "sim", "-LRB-", "p", "r", ",", "a", "i", "h", "i", "k", "i", "-RRB-", "if", "k", "i", "-LRB-", "p", "r", "-RRB-", "0", "if", "otherwise", "where", "AAK", "H", "stands", "for", "``", "match", "ads", "and", "keywords", "also", "considering", "the", "page", "pointed", "by", "the", "ad", "''", "and", "AAH", "EXP", "H", "stands", "for", "``", "match", "ads", "and", "keywords", "with", "expanded", "triggering", "page", ",", "also", "considering", "the", "page", "pointed", "by", "the", "ad", "''", ".", "Notice", "that", "other", "combinations", "were", "not", "considered", "in", "this", "study", "due", "to", "space", "restrictions", ".", "These", "other", "combinations", "led", "to", "poor", "results", "in", "our", "experimentation", "and", "for", "this", "reason", "were", "discarded", ".", "To", "evaluate", "our", "ad", "placement", "strategies", ",", "we", "performed", "a", "series", "of", "experiments", "using", "a", "sample", "of", "a", "real", "case", "ad", "collection", "with", "93,972", "advertisements", ",", "1,744", "advertisers", ",", "and", "68,238", "keywords", "2", ".", "The", "advertisements", "are", "grouped", "in", "2,029", "campaigns", "with", "an", "average", "of", "1.16", "campaigns", "per", "advertiser", ".", "For", "the", "strategies", "AAK", "T", "and", "AAK", "EXP", ",", "we", "had", "to", "generate", "a", "set", "of", "expansion", "terms", ".", "For", "that", ",", "we", "used", "a", "database", "of", "Web", "pages", "crawled", "by", "the", "TodoBR", "search", "engine", "-LSB-", "12", "-RSB-", "-LRB-", "http://www.todobr.com.br/", "-RRB-", ".", "This", "database", "is", "composed", "of", "5,939,061", "pages", "of", "the", "Brazilian", "Web", ",", "under", "the", "domain", "''", ".", "br", "''", ".", "For", "the", "strategies", "H", ",", "AAK", "H", ",", "and", "AAK", "EXP", "H", ",", "we", "also", "crawled", "the", "pages", "pointed", "to", "by", "the", "advertisers", ".", "No", "other", "filtering", "method", "was", "applied", "to", "these", "pages", "besides", "the", "removal", "of", "HTML", "tags", ".", "Since", "we", "are", "initially", "interested", "in", "the", "placement", "of", "advertisements", "in", "the", "pages", "of", "information", "portals", ",", "our", "test", "collection", "was", "composed", "of", "100", "pages", "extracted", "from", "a", "Brazilian", "newspaper", ".", "These", "are", "our", "triggering", "pages", ".", "They", "were", "crawled", "in", "such", "a", "way", "that", "only", "the", "contents", "of", "their", "articles", "was", "preserved", ".", "As", "we", "have", "no", "preferences", "for", "particular", "2", "Data", "in", "portuguese", "provided", "by", "an", "on-line", "advertisement", "company", "that", "operates", "in", "Brazil", ".", "topics", ",", "the", "crawled", "pages", "cover", "topics", "as", "diverse", "as", "politics", ",", "economy", ",", "sports", ",", "and", "culture", ".", "For", "each", "of", "our", "100", "triggering", "pages", ",", "we", "selected", "the", "top", "three", "ranked", "ads", "provided", "by", "each", "of", "our", "10", "ad", "placement", "strategies", ".", "Thus", ",", "for", "each", "triggering", "page", "we", "select", "no", "more", "than", "30", "ads", ".", "These", "top", "ads", "were", "then", "inserted", "in", "a", "pool", "for", "that", "triggering", "page", ".", "Each", "pool", "contained", "an", "average", "of", "15.81", "advertisements", ".", "All", "advertisements", "in", "each", "pool", "were", "submitted", "to", "a", "manual", "evaluation", "by", "a", "group", "of", "15", "users", ".", "The", "average", "number", "of", "relevant", "advertisements", "per", "page", "pool", "was", "5.15", ".", "Notice", "that", "we", "adopted", "the", "same", "pooling", "method", "used", "to", "evaluate", "the", "TREC", "Web-based", "collection", "-LSB-", "6", "-RSB-", ".", "To", "quantify", "the", "precision", "of", "our", "results", ",", "we", "used", "11-point", "average", "figures", "-LSB-", "2", "-RSB-", ".", "Since", "we", "are", "not", "able", "to", "evaluate", "the", "entire", "ad", "collection", ",", "recall", "values", "are", "relative", "to", "the", "set", "of", "evaluated", "advertisements", ".", "4.2", "Tuning", "Idf", "factors", "We", "start", "by", "analyzing", "the", "impact", "of", "different", "idf", "factors", "in", "our", "advertisement", "collection", ".", "Idf", "factors", "are", "important", "because", "they", "quantify", "how", "discriminative", "is", "a", "term", "in", "the", "collection", ".", "In", "our", "ad", "collection", ",", "idf", "factors", "can", "be", "computed", "by", "taking", "ads", ",", "advertisers", "or", "campaigns", "as", "documents", ".", "To", "exemplify", ",", "consider", "the", "computation", "of", "``", "ad", "idf", "''", "for", "a", "term", "t", "i", "that", "occurs", "9", "times", "in", "a", "collection", "of", "100", "ads", ".", "Then", ",", "the", "inverse", "document", "frequency", "of", "t", "i", "is", "given", "by", ":", "idf", "i", "=", "log", "100", "9", "Hence", ",", "we", "can", "compute", "ad", ",", "advertiser", "or", "campaign", "idf", "factors", ".", "As", "we", "observe", "in", "Figure", "4", ",", "for", "the", "AD", "strategy", ",", "the", "best", "ranking", "is", "obtained", "by", "the", "use", "of", "campaign", "idf", ",", "that", "is", ",", "by", "calculating", "our", "idf", "factor", "so", "that", "it", "discriminates", "campaigns", ".", "Similar", "results", "were", "obtained", "for", "all", "the", "other", "methods", ".", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0", "0.2", "0.4", "0.6", "0.8", "1", "precision", "recall", "Campaign", "idf", "Advertiser", "idf", "Ad", "idf", "Figure", "4", ":", "Precision-recall", "curves", "obtained", "for", "the", "AD", "strategy", "using", "ad", ",", "advertiser", ",", "and", "campaign", "idf", "factors", ".", "This", "reflects", "the", "fact", "that", "terms", "might", "be", "better", "discriminators", "for", "a", "business", "topic", "than", "for", "an", "specific", "ad", ".", "This", "effect", "can", "be", "accomplished", "by", "calculating", "the", "factor", "relative", "to", "idf", "advertisers", "or", "campaigns", "instead", "of", "ads", ".", "In", "fact", ",", "campaign", "idf", "factors", "yielded", "the", "best", "results", ".", "Thus", ",", "they", "will", "be", "used", "in", "all", "the", "experiments", "reported", "from", "now", "on", ".", "500", "4.3", "Results", "Matching", "Strategies", "Figure", "5", "displays", "the", "results", "for", "the", "matching", "strategies", "presented", "in", "Section", "2", ".", "As", "shown", ",", "directly", "matching", "the", "contents", "of", "the", "ad", "to", "the", "triggering", "page", "-LRB-", "AD", "strategy", "-RRB-", "is", "not", "so", "effective", ".", "The", "reason", "is", "that", "the", "ad", "contents", "are", "very", "noisy", ".", "It", "may", "contain", "messages", "that", "do", "not", "properly", "describe", "the", "ad", "topics", "such", "as", "requisitions", "for", "user", "actions", "-LRB-", "e.g", ",", "``", "visit", "our", "site", "''", "-RRB-", "and", "general", "sentences", "that", "could", "be", "applied", "to", "any", "product", "or", "service", "-LRB-", "e.g", ",", "``", "we", "delivery", "for", "the", "whole", "country", "''", "-RRB-", ".", "On", "the", "other", "hand", ",", "an", "advertiser", "provided", "keyword", "summarizes", "well", "the", "topic", "of", "the", "ad", ".", "As", "a", "consequence", ",", "the", "KW", "strategy", "is", "superior", "to", "the", "AD", "and", "AD", "KW", "strategies", ".", "This", "situation", "changes", "when", "we", "require", "the", "keywords", "to", "appear", "in", "the", "target", "Web", "page", ".", "By", "filtering", "out", "ads", "whose", "keywords", "do", "not", "occur", "in", "the", "triggering", "page", ",", "much", "noise", "is", "discarded", ".", "This", "makes", "ANDKW", "a", "better", "alternative", "than", "KW", ".", "Further", ",", "in", "this", "new", "situation", ",", "the", "contents", "of", "the", "ad", "becomes", "useful", "to", "rank", "the", "most", "relevant", "ads", "making", "AD", "ANDKW", "-LRB-", "or", "AAK", "for", "``", "ads", "and", "keywords", "''", "-RRB-", "the", "best", "among", "all", "described", "methods", ".", "For", "this", "reason", ",", "we", "adopt", "AAK", "as", "our", "baseline", "in", "the", "next", "set", "of", "experiments", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0", "0.2", "0.4", "0.6", "0.8", "1", "precision", "recall", "AAK", "ANDKW", "KW", "AD_KW", "AD", "Figure", "5", ":", "Comparison", "among", "our", "five", "matching", "strategies", ".", "AAK", "-LRB-", "``", "ads", "and", "keywords", "''", "-RRB-", "is", "superior", ".", "Table", "1", "illustrates", "average", "precision", "figures", "for", "Figure", "5", ".", "We", "also", "present", "actual", "hits", "per", "advertisement", "slot", ".", "We", "call", "``", "hit", "''", "an", "assignment", "of", "an", "ad", "-LRB-", "to", "the", "triggering", "page", "-RRB-", "that", "was", "considered", "relevant", "by", "the", "evaluators", ".", "We", "notice", "that", "our", "AAK", "strategy", "provides", "a", "gain", "in", "average", "precision", "of", "60", "%", "relative", "to", "the", "trivial", "AD", "strategy", ".", "This", "shows", "that", "careful", "consideration", "of", "the", "evidence", "related", "to", "the", "problem", "does", "pay", "off", ".", "Impedance", "Coupling", "Strategies", "Table", "2", "shows", "top", "ranked", "terms", "that", "occur", "in", "a", "page", "covering", "Argentinean", "wines", "produced", "using", "grapes", "derived", "from", "the", "Bordeaux", "region", "of", "France", ".", "The", "p", "column", "includes", "the", "top", "terms", "for", "this", "page", "ranked", "according", "to", "our", "tf-idf", "weighting", "scheme", ".", "The", "r", "column", "includes", "the", "top", "ranked", "expansion", "terms", "generated", "according", "to", "Eq", ".", "-LRB-", "6", "-RRB-", ".", "Notice", "that", "the", "expansion", "terms", "not", "only", "emphasize", "important", "terms", "of", "the", "target", "page", "-LRB-", "by", "increasing", "their", "weights", "-RRB-", "such", "as", "``", "wines", "''", "and", "Methods", "Hits", "11-pt", "average", "#", "1", "#", "2", "#", "3", "total", "score", "gain", "-LRB-", "%", "-RRB-", "AD", "41", "32", "13", "86", "0.104", "AD", "KW", "51", "28", "17", "96", "0.106", "+1.9", "KW", "46", "34", "28", "108", "0.125", "+20.2", "ANDKW", "49", "37", "35", "121", "0.153", "+47.1", "AD", "ANDKW", "-LRB-", "AAK", "-RRB-", "51", "48", "39", "138", "0.168", "+61.5", "Table", "1", ":", "Average", "precision", "figures", ",", "corresponding", "to", "Figure", "5", ",", "for", "our", "five", "matching", "strategies", ".", "Columns", "labelled", "#", "1", ",", "#", "2", ",", "and", "#", "3", "indicate", "total", "of", "hits", "in", "first", ",", "second", ",", "and", "third", "advertisement", "slots", ",", "respectively", ".", "The", "AAK", "strategy", "provides", "improvements", "of", "60", "%", "relative", "to", "the", "AD", "strategy", ".", "Rank", "p", "r", "term", "score", "term", "score", "1", "argentina", "0.090", "wines", "0.251", "2", "obtained", "*", "0.047", "wine", "*", "0.140", "3", "class", "*", "0.036", "whites", "0.091", "4", "whites", "0.035", "red", "*", "0.057", "5", "french", "*", "0.031", "grape", "0.051", "6", "origin", "*", "0.029", "bordeaux", "0.045", "7", "france", "*", "0.029", "acideness", "*", "0.038", "8", "grape", "0.017", "argentina", "0.037", "9", "sweet", "*", "0.016", "aroma", "*", "0.037", "10", "country", "*", "0.013", "blanc", "*", "0.036", "...", "35", "wines", "0.010", "...", "Table", "2", ":", "Top", "ranked", "terms", "for", "the", "triggering", "page", "p", "according", "to", "our", "tf-idf", "weighting", "scheme", "and", "top", "ranked", "terms", "for", "r", ",", "the", "expansion", "terms", "for", "p", ",", "generated", "according", "to", "Eq", ".", "-LRB-", "6", "-RRB-", ".", "Ranking", "scores", "were", "normalized", "in", "order", "to", "sum", "up", "to", "1", ".", "Terms", "marked", "with", "`", "*", "'", "are", "not", "shared", "by", "the", "sets", "p", "and", "r.", "``", "whites", "''", ",", "but", "also", "reveal", "new", "terms", "related", "to", "the", "main", "topic", "of", "the", "page", "such", "as", "``", "aroma", "''", "and", "``", "red", "''", ".", "Further", ",", "they", "avoid", "some", "uninteresting", "terms", "such", "as", "``", "obtained", "''", "and", "``", "country", "''", ".", "Figure", "6", "illustrates", "our", "results", "when", "the", "set", "r", "of", "expansion", "terms", "is", "used", ".", "They", "show", "that", "matching", "the", "ads", "to", "the", "terms", "in", "the", "set", "r", "instead", "of", "to", "the", "triggering", "page", "p", "-LRB-", "AAK", "T", "strategy", "-RRB-", "leads", "to", "a", "considerable", "improvement", "over", "our", "baseline", ",", "AAK", ".", "The", "gain", "is", "even", "larger", "when", "we", "use", "the", "terms", "in", "r", "to", "expand", "the", "triggering", "page", "-LRB-", "AAK", "EXP", "method", "-RRB-", ".", "This", "confirms", "our", "hypothesis", "that", "the", "triggering", "page", "could", "have", "some", "interesting", "terms", "that", "should", "not", "be", "completely", "discarded", ".", "Finally", ",", "we", "analyze", "the", "impact", "on", "the", "ranking", "of", "using", "the", "contents", "of", "pages", "pointed", "by", "the", "ads", ".", "Figure", "7", "displays", "our", "results", ".", "It", "is", "clear", "that", "using", "only", "the", "contents", "of", "the", "pages", "pointed", "by", "the", "ads", "-LRB-", "H", "strategy", "-RRB-", "yields", "very", "poor", "results", ".", "However", ",", "combining", "evidence", "from", "the", "pages", "pointed", "by", "the", "ads", "with", "our", "baseline", "yields", "improved", "results", ".", "Most", "important", ",", "combining", "our", "best", "strategy", "so", "far", "-LRB-", "AAK", "EXP", "-RRB-", "with", "pages", "pointed", "by", "ads", "-LRB-", "AAK", "EXP", "H", "strategy", "-RRB-", "leads", "to", "superior", "results", ".", "This", "happens", "because", "the", "two", "additional", "sources", "of", "evidence", ",", "expansion", "terms", "and", "pages", "pointed", "by", "the", "ads", ",", "are", "distinct", "and", "complementary", ",", "providing", "extra", "and", "valuable", "information", "for", "matching", "ads", "to", "a", "Web", "page", ".", "501", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0", "0.2", "0.4", "0.6", "0.8", "1", "precision", "recall", "AAK_EXP", "AAK_T", "AAK", "Figure", "6", ":", "Impact", "of", "using", "a", "new", "representation", "for", "the", "triggering", "page", ",", "one", "that", "includes", "expansion", "terms", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0", "0.2", "0.4", "0.6", "0.8", "1", "precision", "recall", "AAK_EXP_H", "AAK_H", "AAK", "H", "Figure", "7", ":", "Impact", "of", "using", "the", "contents", "of", "the", "page", "pointed", "by", "the", "ad", "-LRB-", "the", "hyperlink", "-RRB-", ".", "Figure", "8", "and", "Table", "3", "summarize", "all", "results", "described", "in", "this", "section", ".", "In", "Figure", "8", "we", "show", "precision-recall", "curves", "and", "in", "Table", "3", "we", "show", "11-point", "average", "figures", ".", "We", "also", "present", "actual", "hits", "per", "advertisement", "slot", "and", "gains", "in", "average", "precision", "relative", "to", "our", "baseline", ",", "AAK", ".", "We", "notice", "that", "the", "highest", "number", "of", "hits", "in", "the", "first", "slot", "was", "generated", "by", "the", "method", "AAK", "EXP", ".", "However", ",", "the", "method", "with", "best", "overall", "retrieval", "performance", "was", "AAK", "EXP", "H", ",", "yielding", "a", "gain", "in", "average", "precision", "figures", "of", "roughly", "50", "%", "over", "the", "baseline", "-LRB-", "AAK", "-RRB-", ".", "4.4", "Performance", "Issues", "In", "a", "keyword", "targeted", "advertising", "system", ",", "ads", "are", "assigned", "at", "query", "time", ",", "thus", "the", "performance", "of", "the", "system", "is", "a", "very", "important", "issue", ".", "In", "content-targeted", "advertising", "systems", ",", "we", "can", "associate", "ads", "with", "a", "page", "at", "publishing", "-LRB-", "or", "updating", "-RRB-", "time", ".", "Also", ",", "if", "a", "new", "ad", "comes", "in", "we", "might", "consider", "assigning", "this", "ad", "to", "already", "published", "pages", "in", "offline", "mode", ".", "That", "is", ",", "we", "might", "design", "the", "system", "such", "that", "its", "performance", "depends", "fundamentally", "on", "the", "rate", "that", "new", "pages", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0", "0.2", "0.4", "0.6", "0.8", "1", "precision", "recall", "AAK_EXP_H", "AAK_EXP", "AAK_T", "AAK_H", "AAK", "H", "Figure", "8", ":", "Comparison", "among", "our", "ad", "placement", "strategies", ".", "Methods", "Hits", "11-pt", "average", "#", "1", "#", "2", "#", "3", "total", "score", "gain", "-LRB-", "%", "-RRB-", "H", "28", "5", "6", "39", "0.026", "-84.3", "AAK", "51", "48", "39", "138", "0.168", "AAK", "H", "52", "50", "46", "148", "0.191", "+13.5", "AAK", "T", "65", "49", "43", "157", "0.226", "+34.6", "AAK", "EXP", "70", "52", "53", "175", "0.242", "+43.8", "AAK", "EXP", "H", "64", "61", "51", "176", "0.253", "+50.3", "Table", "3", ":", "Results", "for", "our", "impedance", "coupling", "strategies", ".", "are", "published", "and", "the", "rate", "that", "ads", "are", "added", "or", "modified", ".", "Further", ",", "the", "data", "needed", "by", "our", "strategies", "-LRB-", "page", "crawling", ",", "page", "expansion", ",", "and", "ad", "link", "crawling", "-RRB-", "can", "be", "gathered", "and", "processed", "offline", ",", "not", "affecting", "the", "user", "experience", ".", "Thus", ",", "from", "this", "point", "of", "view", ",", "the", "performance", "is", "not", "critical", "and", "will", "not", "be", "addressed", "in", "this", "work", ".", "Several", "works", "have", "stressed", "the", "importance", "of", "relevance", "in", "advertising", ".", "For", "example", ",", "in", "-LSB-", "14", "-RSB-", "it", "was", "shown", "that", "advertisements", "that", "are", "presented", "to", "users", "when", "they", "are", "not", "interested", "on", "them", "are", "viewed", "just", "as", "annoyance", ".", "Thus", ",", "in", "order", "to", "be", "effective", ",", "the", "authors", "conclude", "that", "advertisements", "should", "be", "relevant", "to", "consumer", "concerns", "at", "the", "time", "of", "exposure", ".", "The", "results", "in", "-LSB-", "9", "-RSB-", "enforce", "this", "conclusion", "by", "pointing", "out", "that", "the", "more", "targeted", "the", "advertising", ",", "the", "more", "effective", "it", "is", ".", "Therefore", "it", "is", "not", "surprising", "that", "other", "works", "have", "addressed", "the", "relevance", "issue", ".", "For", "instance", ",", "in", "-LSB-", "8", "-RSB-", "it", "is", "proposed", "a", "system", "called", "ADWIZ", "that", "is", "able", "to", "adapt", "online", "advertisement", "to", "a", "user", "'s", "short-term", "interests", "in", "a", "non-intrusive", "way", ".", "Contrary", "to", "our", "work", ",", "ADWIZ", "does", "not", "directly", "use", "the", "content", "of", "the", "page", "viewed", "by", "the", "user", ".", "It", "relies", "on", "search", "keywords", "supplied", "by", "the", "user", "to", "search", "engines", "and", "on", "the", "URL", "of", "the", "page", "requested", "by", "the", "user", ".", "On", "the", "other", "hand", ",", "in", "-LSB-", "7", "-RSB-", "the", "authors", "presented", "an", "intrusive", "approach", "in", "which", "an", "agent", "sits", "between", "advertisers", "and", "the", "user", "'s", "browser", "allowing", "a", "banner", "to", "be", "placed", "into", "the", "currently", "viewed", "page", ".", "In", "spite", "of", "having", "the", "opportunity", "to", "use", "the", "page", "'s", "content", ",", "502", "the", "agent", "infers", "relevance", "based", "on", "category", "information", "and", "user", "'s", "private", "information", "collected", "along", "the", "time", ".", "In", "-LSB-", "5", "-RSB-", "the", "authors", "provide", "a", "comparison", "between", "the", "ranking", "strategies", "used", "by", "Google", "and", "Overture", "for", "their", "keyword", "advertising", "systems", ".", "Both", "systems", "select", "advertisements", "by", "matching", "them", "to", "the", "keywords", "provided", "by", "the", "user", "in", "a", "search", "query", "and", "rank", "the", "resulting", "advertisement", "list", "according", "to", "the", "advertisers", "'", "willingness", "to", "pay", ".", "In", "particular", ",", "Google", "approach", "also", "considers", "the", "clickthrough", "rate", "of", "each", "advertisement", "as", "an", "additional", "evidence", "for", "its", "relevance", ".", "The", "authors", "conclude", "that", "Google", "'s", "strategy", "is", "better", "than", "that", "used", "by", "Overture", ".", "As", "mentioned", "before", ",", "the", "ranking", "problem", "in", "keyword", "advertising", "is", "different", "from", "that", "of", "content-targeted", "advertising", ".", "Instead", "of", "dealing", "with", "keywords", "provided", "by", "users", "in", "search", "queries", ",", "we", "have", "to", "deal", "with", "the", "contents", "of", "a", "page", "which", "can", "be", "very", "diffuse", ".", "Finally", ",", "the", "work", "in", "-LSB-", "4", "-RSB-", "focuses", "on", "improving", "search", "engine", "results", "in", "a", "TREC", "collection", "by", "means", "of", "an", "automatic", "query", "expansion", "method", "based", "on", "kNN", "-LSB-", "17", "-RSB-", ".", "Such", "method", "resembles", "our", "expansion", "approach", "presented", "in", "section", "3", ".", "Our", "method", "is", "different", "from", "that", "presented", "by", "-LSB-", "4", "-RSB-", ".", "They", "expand", "user", "queries", "applied", "to", "a", "document", "collection", "with", "terms", "extracted", "from", "the", "top", "k", "documents", "returned", "as", "answer", "to", "the", "query", "in", "the", "same", "collection", ".", "In", "our", "case", ",", "we", "use", "two", "collections", ":", "an", "advertisement", "and", "a", "Web", "collection", ".", "We", "expand", "triggering", "pages", "with", "terms", "extracted", "from", "the", "Web", "collection", "and", "then", "we", "match", "these", "expanded", "pages", "to", "the", "ads", "from", "the", "advertisement", "collection", ".", "By", "doing", "this", ",", "we", "emphasize", "the", "main", "topics", "of", "the", "triggering", "pages", ",", "increasing", "the", "possibility", "of", "associating", "relevant", "ads", "with", "them", ".", "In", "this", "work", "we", "investigated", "ten", "distinct", "strategies", "for", "associating", "ads", "with", "a", "Web", "page", "that", "is", "browsed", "-LRB-", "content-targeted", "advertising", "-RRB-", ".", "Five", "of", "our", "strategies", "attempt", "to", "match", "the", "ads", "directly", "to", "the", "Web", "page", ".", "Because", "of", "that", ",", "they", "are", "called", "matching", "strategies", ".", "The", "other", "five", "strategies", "recognize", "that", "there", "is", "a", "vocabulary", "impedance", "problem", "among", "ads", "and", "Web", "pages", "and", "attempt", "to", "solve", "the", "problem", "by", "expanding", "the", "Web", "pages", "and", "the", "ads", "with", "new", "terms", ".", "Because", "of", "that", "they", "are", "called", "impedance", "coupling", "strategies", ".", "Using", "a", "sample", "of", "a", "real", "case", "database", "with", "over", "93", "thousand", "ads", ",", "we", "evaluated", "our", "strategies", ".", "For", "the", "five", "matching", "strategies", ",", "our", "results", "indicated", "that", "planned", "consideration", "of", "additional", "evidence", "-LRB-", "such", "as", "the", "keywords", "provided", "by", "the", "advertisers", "-RRB-", "yielded", "gains", "in", "average", "precision", "figures", "-LRB-", "for", "our", "test", "collection", "-RRB-", "of", "60", "%", ".", "This", "was", "obtained", "by", "a", "strategy", "called", "AAK", "-LRB-", "for", "``", "ads", "and", "keywords", "''", "-RRB-", ",", "which", "is", "taken", "as", "the", "baseline", "for", "evaluating", "our", "more", "advanced", "impedance", "coupling", "strategies", ".", "For", "our", "five", "impedance", "coupling", "strategies", ",", "the", "results", "indicate", "that", "additional", "gains", "in", "average", "precision", "of", "50", "%", "-LRB-", "now", "relative", "to", "the", "AAK", "strategy", "-RRB-", "are", "possible", ".", "These", "were", "generated", "by", "expanding", "the", "Web", "page", "with", "new", "terms", "-LRB-", "obtained", "using", "a", "sample", "Web", "collection", "containing", "over", "five", "million", "pages", "-RRB-", "and", "the", "ads", "with", "the", "contents", "of", "the", "page", "they", "point", "to", "-LRB-", "a", "hyperlink", "provided", "by", "the", "advertisers", "-RRB-", ".", "These", "are", "first", "time", "results", "that", "indicate", "that", "high", "quality", "content-targeted", "advertising", "is", "feasible", "and", "practical", ".", "This", "work", "was", "supported", "in", "part", "by", "the", "GERINDO", "project", ",", "grant", "MCT/CNPq/CT-INFO", "552.087", "/", "02-5", ",", "by", "CNPq", "grant", "300.188", "/", "95-1", "-LRB-", "Berthier", "Ribeiro-Neto", "-RRB-", ",", "and", "by", "CNPq", "grant", "303.576", "/", "04-9", "-LRB-", "Edleno", "Silva", "de", "Moura", "-RRB-", ".", "Marco", "Cristo", "is", "supported", "by", "Fucapi", ",", "Manaus", ",", "AM", ",", "Brazil", ".", "-LSB-", "1", "-RSB-", "The", "Google", "adwords", ".", "Google", "content-targeted", "advertising", ".", "http://adwords.google.com/select/ct_faq.html", ",", "November", "2004", ".", "-LSB-", "2", "-RSB-", "R.", "Baeza-Yates", "and", "B.", "Ribeiro-Neto", ".", "Modern", "Information", "Retrieval", ".", "Addison-Wesley-Longman", ",", "1st", "edition", ",", "1999", ".", "-LSB-", "3", "-RSB-", "H.", "K.", "Bhargava", "and", "J.", "Feng", ".", "Paid", "placement", "strategies", "for", "internet", "search", "engines", ".", "In", "Proceedings", "of", "the", "eleventh", "international", "conference", "on", "World", "Wide", "Web", ",", "pages", "117", "123", ".", "ACM", "Press", ",", "2002", ".", "-LSB-", "4", "-RSB-", "E.", "P.", "Chan", ",", "S.", "Garcia", ",", "and", "S.", "Roukos", ".", "Trec-5", "ad", "hoc", "retrieval", "using", "k", "nearest-neighbors", "re-scoring", ".", "In", "The", "Fifth", "Text", "REtrieval", "Conference", "-LRB-", "TREC-5", "-RRB-", ".", "National", "Institute", "of", "Standards", "and", "Technology", "-LRB-", "NIST", "-RRB-", ",", "November", "1996", ".", "-LSB-", "5", "-RSB-", "J.", "Feng", ",", "H.", "K.", "Bhargava", ",", "and", "D.", "Pennock", ".", "Comparison", "of", "allocation", "rules", "for", "paid", "placement", "advertising", "in", "search", "engines", ".", "In", "Proceedings", "of", "the", "5th", "international", "conference", "on", "Electronic", "commerce", ",", "pages", "294", "299", ".", "ACM", "Press", ",", "2003", ".", "-LSB-", "6", "-RSB-", "D.", "Hawking", ",", "N.", "Craswell", ",", "and", "P.", "B.", "Thistlewaite", ".", "Overview", "of", "TREC-7", "very", "large", "collection", "track", ".", "In", "The", "Seventh", "Text", "REtrieval", "Conference", "-LRB-", "TREC-7", "-RRB-", ",", "pages", "91", "104", ",", "Gaithersburg", ",", "Maryland", ",", "USA", ",", "November", "1998", ".", "-LSB-", "7", "-RSB-", "Y.", "Kohda", "and", "S.", "Endo", ".", "Ubiquitous", "advertising", "on", "the", "www", ":", "merging", "advertisement", "on", "the", "browser", ".", "Comput", ".", "Netw", ".", "ISDN", "Syst.", ",", "28", "-LRB-", "7-11", "-RRB-", ":", "1493", "1499", ",", "1996", ".", "-LSB-", "8", "-RSB-", "M.", "Langheinrich", ",", "A.", "Nakamura", ",", "N.", "Abe", ",", "T.", "Kamba", ",", "and", "Y.", "Koseki", ".", "Unintrusive", "customization", "techniques", "for", "web", "advertising", ".", "Comput", ".", "Networks", ",", "31", "-LRB-", "11-16", "-RRB-", ":", "1259", "1272", ",", "1999", ".", "-LSB-", "9", "-RSB-", "T.", "P.", "Novak", "and", "D.", "L.", "Hoffman", ".", "New", "metrics", "for", "new", "media", ":", "toward", "the", "development", "of", "web", "measurement", "standards", ".", "World", "Wide", "Web", "J.", ",", "2", "-LRB-", "1", "-RRB-", ":", "213", "246", ",", "1997", ".", "-LSB-", "10", "-RSB-", "J.", "Pearl", ".", "Probabilistic", "Reasoning", "in", "Intelligent", "Systems", ":", "Networks", "of", "plausible", "inference", ".", "Morgan", "Kaufmann", "Publishers", ",", "2nd", "edition", ",", "1988", ".", "-LSB-", "11", "-RSB-", "B.", "Ribeiro-Neto", "and", "R.", "Muntz", ".", "A", "belief", "network", "model", "for", "IR", ".", "In", "Proceedings", "of", "the", "19th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "253", "260", ",", "Zurich", ",", "Switzerland", ",", "August", "1996", ".", "-LSB-", "12", "-RSB-", "A.", "Silva", ",", "E.", "Veloso", ",", "P.", "Golgher", ",", "B.", "Ribeiro-Neto", ",", "A.", "Laender", ",", "and", "N.", "Ziviani", ".", "CobWeb", "-", "a", "crawler", "for", "the", "brazilian", "web", ".", "In", "Proceedings", "of", "the", "String", "Processing", "and", "Information", "Retrieval", "Symposium", "-LRB-", "SPIRE", "'", "99", "-RRB-", ",", "pages", "184", "191", ",", "Cancun", ",", "Mexico", ",", "September", "1999", ".", "-LSB-", "13", "-RSB-", "H.", "Turtle", "and", "W.", "B.", "Croft", ".", "Evaluation", "of", "an", "inference", "network-based", "retrieval", "model", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "9", "-LRB-", "3", "-RRB-", ":", "187", "222", ",", "July", "1991", ".", "-LSB-", "14", "-RSB-", "C.", "Wang", ",", "P.", "Zhang", ",", "R.", "Choi", ",", "and", "M.", "Daeredita", ".", "Understanding", "consumers", "attitude", "toward", "advertising", ".", "In", "Eighth", "Americas", "Conference", "on", "Information", "Systems", ",", "pages", "1143", "1148", ",", "August", "2002", ".", "-LSB-", "15", "-RSB-", "M.", "Weideman", ".", "Ethical", "issues", "on", "content", "distribution", "to", "digital", "consumers", "via", "paid", "placement", "as", "opposed", "to", "website", "visibility", "in", "search", "engine", "results", ".", "In", "The", "Seventh", "ETHICOMP", "International", "Conference", "on", "the", "Social", "and", "Ethical", "Impacts", "of", "Information", "and", "Communication", "Technologies", ",", "pages", "904", "915", ".", "Troubador", "Publishing", "Ltd", ",", "April", "2004", ".", "-LSB-", "16", "-RSB-", "M.", "Weideman", "and", "T.", "Haig-Smith", ".", "An", "investigation", "into", "search", "engines", "as", "a", "form", "of", "targeted", "advert", "delivery", ".", "In", "Proceedings", "of", "the", "2002", "annual", "research", "conference", "of", "the", "South", "African", "institute", "of", "computer", "scientists", "and", "information", "technologists", "on", "Enablement", "through", "technology", ",", "pages", "258", "258", ".", "South", "African", "Institute", "for", "Computer", "Scientists", "and", "Information", "Technologists", ",", "2002", ".", "-LSB-", "17", "-RSB-", "Y.", "Yang", ".", "Expert", "network", ":", "Effective", "and", "efficient", "learning", "from", "human", "decisions", "in", "text", "categorization", "and", "retrieval", ".", "In", "W.", "B.", "Croft", "and", "e.", "C.", "J.", "van", "Rijsbergen", ",", "editors", ",", "Proceedings", "of", "the", "17rd", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "13", "22", ".", "Springer-Verlag", ",", "1994", ".", "503"], "doc_bio_tags": ["B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["web", "impedance coupling", "triggering page", "advertising", "advertisements", "knn", "matching"], "abstractive_keyphrases": ["content-targeted advertising", "bayesian networks"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "111", "document": ["Information", "Retrieval", "for", "Language", "Tutoring", ":", "An", "Overview", "of", "the", "REAP", "Project", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "Retrieval", "models", ".", "Algorithms", ",", "Design", ",", "Human", "Factors", ".", "Typical", "Web", "search", "engines", "are", "designed", "to", "run", "short", "queries", "against", "a", "huge", "collection", "of", "hyperlinked", "documents", "quickly", "and", "cheaply", ",", "and", "are", "often", "tuned", "for", "the", "types", "of", "queries", "people", "submit", "most", "often", "-LSB-", "2", "-RSB-", ".", "Many", "other", "types", "of", "applications", "exist", "for", "which", "large", ",", "open", "collections", "like", "the", "Web", "would", "be", "a", "valuable", "resource", ".", "However", ",", "these", "applications", "may", "require", "much", "more", "advanced", "support", "from", "information", "retrieval", "technology", "than", "is", "currently", "available", ".", "In", "particular", ",", "an", "application", "may", "have", "to", "describe", "more", "complex", "information", "needs", ",", "with", "a", "varied", "set", "of", "properties", "and", "data", "models", ",", "including", "aspects", "of", "the", "user", "'s", "context", "and", "goals", ".", "In", "this", "paper", "we", "present", "an", "overview", "of", "one", "such", "application", ",", "the", "REAP", "project", ",", "whose", "main", "purpose", "is", "to", "provide", "reader-specific", "practice", "for", "improved", "reading", "comprehension", ".", "-LRB-", "REAP", "stands", "for", "REAder-specific", "Practice", ".", "-RRB-", "A", "key", "component", "of", "REAP", "is", "an", "advanced", "search", "model", "that", "can", "find", "documents", "satisfying", "a", "set", "of", "diverse", "and", "possibly", "complex", "lexical", "constraints", ",", "including", "a", "passage", "'s", "topic", ",", "reading", "level", "-LRB-", "e.g.", "3rd", "grade", "-RRB-", ",", "use", "of", "syntax", "-LRB-", "simple", "vs.", "complex", "sentence", "structures", "-RRB-", ",", "and", "vocabulary", "that", "is", "known", "or", "unknown", "to", "the", "student", ".", "Searching", "is", "performed", "on", "a", "database", "of", "documents", "automatically", "gathered", "from", "the", "Web", "which", "have", "been", "analyzed", "and", "annotated", "with", "a", "rich", "set", "of", "linguistic", "metadata", ".", "The", "Web", "is", "a", "potentially", "valuable", "resource", "for", "providing", "reading", "material", "of", "interest", "to", "the", "student", "because", "of", "its", "extent", ",", "variety", ",", "and", "currency", "for", "popular", "topics", ".", "Here", "we", "describe", "the", "high-level", "design", "of", "the", "REAP", "information", "retrieval", "system", ",", "including", "document", "database", "requirements", "and", "construction", ",", "annotations", ",", "and", "a", "brief", "description", "of", "the", "retrieval", "model", ".", "2.1", "Database", "Construction", "Our", "goal", "is", "to", "present", "passages", "that", "are", "interesting", "to", "students", ",", "whether", "they", "are", "on", "current", "topics", "such", "as", "pop", "stars", "or", "sports", "events", ",", "or", "related", "to", "particular", "classroom", "projects", ".", "To", "this", "end", ",", "we", "use", "the", "Web", "as", "our", "source", "of", "reading", "practice", "materials", "because", "of", "its", "extent", ",", "variety", ",", "and", "currency", "of", "information", ".", "We", "want", "coverage", "of", "topics", "in", "the", "database", "to", "be", "deeper", "in", "areas", "that", "are", "more", "likely", "to", "be", "of", "interest", "to", "students", ".", "Coverage", "of", "other", "areas", "is", "intended", "to", "be", "broad", ",", "but", "more", "shallow", ".", "We", "therefore", "gather", "documents", "for", "the", "database", "using", "focused", "crawling", "-LSB-", "3", "-RSB-", ".", "The", "current", "prototype", "uses", "a", "page", "'s", "reading", "difficulty", "to", "set", "priority", "for", "all", "links", "from", "that", "page", "equally", ",", "based", "on", "the", "distance", "from", "the", "target", "reading", "level", "range", ".", "We", "plan", "to", "explore", "more", "refined", "use", "of", "annotations", "to", "direct", "the", "crawl", "on", "a", "link-by-link", "basis", ".", "In", "our", "prototype", ",", "we", "collected", "5", "million", "pages", "based", "on", "an", "initial", "set", "of", "20,000", "seed", "pages", "acquired", "from", "the", "Google", "Kids", "Directory", "-LSB-", "7", "-RSB-", ".", "Our", "goal", "is", "to", "have", "at", "least", "20", "million", "pages", "that", "focus", "on", "material", "for", "grades", "1", "through", "8", ".", "The", "document", "database", "must", "be", "large", "enough", "that", "the", "most", "important", "lexical", "constraints", "are", "satisfied", "by", "at", "least", "a", "small", "number", "of", "pages", ".", "Data", "annotation", "is", "currently", "performed", "off-line", "at", "indexing", "time", ".", "The", "specific", "annotations", "for", "REAP", "are", "described", "in", "Section", "2.2", ".", "Once", "the", "documents", "are", "acquired", ",", "they", "are", "indexed", "using", "an", "extended", "version", "of", "the", "Lemur", "IR", "Toolkit", "-LSB-", "9", "-RSB-", ".", "We", "chose", "Lemur", "because", "of", "its", "support", "for", "language", "model-based", "retrieval", ",", "its", "extensibility", ",", "and", "its", "support", "for", "incremental", "indexing", ",", "which", "is", "important", "for", "efficient", "updates", "to", "the", "database", ".", "Annotations", "are", "currently", "stored", "as", "Lemur", "properties", ",", "but", "later", "versions", "will", "take", "advantage", "of", "the", "enhancements", "planned", "for", "support", "of", "rich", "document", "structure", ",", "described", "in", "Section", "2.3", ".", "2.2", "Linguistic", "Annotations", "In", "addition", "to", "the", "underlying", "text", ",", "the", "following", "linguistic", "annotations", "are", "specified", "as", "features", "to", "be", "indexed", ":", "Basic", "text", "difficulty", "within", "a", "document", "section", "or", "region", ".", "This", "is", "calculated", "using", "a", "new", "method", "based", "on", "a", "mixture", "of", "language", "models", "-LSB-", "4", "-RSB-", "that", "is", "more", "reliable", "for", "Web", "pages", "and", "other", "non-traditional", "documents", "than", "typical", "reading", "difficulty", "measures", ".", "Grammatical", "structure", ".", "This", "includes", "part-of-speech", "tags", "for", "individual", "words", "as", "well", "as", "higher-level", "parse", "structures", ",", "up", "to", "sentence", "level", ".", "Document-level", "attributes", "such", "as", "title", ",", "metadata", "keywords", ",", "and", "ratings", ".", "544", "Topic", "category", ".", "This", "would", "involve", "broad", "categories", "such", "as", "fiction/non-fiction", "-LSB-", "5", "-RSB-", "or", "specific", "topics", ",", "perhaps", "based", "on", "Open", "Directory", ".", "Named", "entity", "tags", ".", "We", "use", "BBN", "'s", "Identifinder", "-LSB-", "1", "-RSB-", "for", "high-precision", "tagging", "of", "proper", "names", ".", "We", "may", "also", "look", "at", "more", "advanced", "attributes", "such", "as", "text", "coherence", "and", "cohesion", "-LSB-", "6", "-RSB-", ".", "2.3", "Query", "and", "Retrieval", "Models", "A", "typical", "information", "need", "for", "the", "REAP", "system", "might", "be", "described", "as", "follows", ":", "Find", "a", "Web", "page", "about", "soccer", ",", "in", "American", "English", ",", "with", "reading", "difficulty", "around", "the", "Grade", "3", "level", ".", "The", "text", "should", "use", "both", "passive", "-", "and", "active-voice", "sentence", "constructions", "and", "should", "introduce", "about", "10", "%", "new", "vocabulary", "relative", "to", "the", "student", "'s", "known-vocabulary", "model", ".", "The", "page", "'s", "topic", "is", "less", "important", "than", "finding", "pages", "that", "practice", "the", "words", ":", "for", "example", ",", "an", "article", "on", "another", "sport", "that", "satisfies", "the", "other", "constraints", "would", "also", "be", "acceptable", ".", "Information", "needs", "in", "REAP", "will", "be", "modeled", "as", "mixtures", "of", "multiple", "word", "histograms", ",", "representing", "different", "sources", "of", "evidence", ",", "as", "well", "as", "document-level", "or", "passage-level", "constraints", "on", "attributes", "such", "as", "reading", "difficulty", ".", "There", "is", "precedent", "for", "using", "word", "histograms", "to", "specify", "information", "needs", ":", "indeed", ",", "query", "expansion", "is", "one", "example", "of", "this", ".", "More", "specifically", ",", "related", "work", "includes", "language", "model-based", "techniques", "such", "as", "relevance", "models", "-LSB-", "8", "-RSB-", ".", "No", "current", "Web-based", "search", "engine", "is", "able", "to", "make", "use", "of", "combinations", "of", "lexical", "constraints", "and", "language", "models", "in", "this", "way", ",", "on", "such", "a", "large", "scale", ".", "To", "support", "this", ",", "we", "are", "making", "extensions", "to", "Lemur", "that", "include", ":", "1", ".", "Retrieval", "models", "for", "rich", "document", "structure", ",", "which", "includes", "nested", "fields", "of", "different", "datatypes", "where", "each", "field", "may", "be", "associated", "with", "its", "own", "language", "model", ".", "2", ".", "More", "detailed", "retrieval", "models", "in", "which", "we", "skew", "language", "models", "towards", "the", "appropriate", "grade", "level", ",", "topic", ",", "or", "style", ".", "3", ".", "The", "use", "of", "user", "model", "descriptions", "as", "context", "for", "a", "query", ".", "2.4", "User", "Profiles", "In", "the", "current", "prototype", ",", "we", "model", "a", "reader", "'s", "topic", "interests", ",", "reading", "level", ",", "and", "vocabulary", "acquisition", "goals", "using", "simple", "language", "models", ".", "For", "example", ",", "we", "model", "the", "curriculum", "as", "a", "word", "histogram", ".", "Although", "crude", ",", "this", "captures", "word-frequency", "information", "associated", "with", "general", "reading", "difficulty", ",", "as", "well", "as", "capturing", "topics", "that", "are", "the", "focus", "of", "the", "curriculum", "at", "each", "grade", "level", ".", "We", "plan", "to", "add", "more", "complex", "aspects", "to", "user", "profiles", ",", "including", "more", "specific", "lexical", "constraints", "such", "as", "grammar", "constructs", "and", "text", "novelty", ".", "The", "models", "can", "be", "updated", "incrementally", "as", "the", "student", "'s", "interests", "evolve", "and", "they", "make", "progress", "through", "the", "curriculum", ".", "Evaluation", "of", "the", "end-to-end", "REAP", "system", "will", "be", "via", "a", "series", "of", "three", "year-long", "studies", "with", "both", "adults", "and", "children", ".", "The", "adult", "studies", "will", "provide", "feedback", "on", "vocabulary", "matching", "and", "comprehension", ",", "and", "the", "child", "studies", "will", "test", "the", "hypothesis", "that", "children", "will", "read", "adaptively", "to", "texts", "that", "vary", "in", "vocabulary", "demands", ",", "where", "those", "texts", "that", "closely", "reflect", "the", "reader", "'s", "interests", "and", "comprehension", "can", "be", "used", "to", "support", "improved", "comprehension", "and", "vocabulary", "growth", ".", "The", "REAP", "project", "is", "intended", "to", "advance", "the", "state", "of", "the", "art", "in", "information", "retrieval", ",", "as", "well", "as", "research", "in", "reading", "comprehension", ",", "by", "bringing", "together", "practical", "user", "models", "of", "student", "interests", ",", "vocabulary", "knowledge", "and", "growth", ",", "and", "other", "aspects", "of", "reading", ",", "with", "interesting", "material", "from", "large", ",", "open", "collections", "like", "the", "World", "Wide", "Web", ".", "This", "type", "of", "system", "is", "a", "valuable", "new", "research", "tool", "for", "educational", "psychologists", "and", "learning", "scientists", ",", "because", "it", "gives", "much", "greater", "control", "over", "how", "instructional", "materials", "are", "selected", ".", "This", "in", "turn", "allows", "testing", "of", "instructional", "hypotheses", ",", "such", "as", "the", "effect", "of", "10", "%", "vocabulary", "stretch", ",", "which", "have", "been", "impractical", "to", "test", "in", "the", "past", ".", "The", "work", "also", "has", "direct", "application", "to", "other", "areas", "of", "language", "learning", ",", "such", "as", "English", "as", "a", "Second", "Language", "training", ".", "More", "broadly", ",", "however", ",", "we", "believe", "the", "REAP", "project", "is", "a", "important", "first", "step", "toward", "enabling", "richer", "user", "and", "task", "models", "than", "currently", "available", "with", "ad-hoc", "search", "systems", ".", "We", "thank", "our", "collaborators", "Maxine", "Eskenazi", ",", "Charles", "Perfetti", "and", "Jonathan", "Brown", ";", "John", "Cho", "and", "Alexandros", "Ntoulas", "of", "UCLA", "for", "their", "crawler", "code", ";", "and", "the", "anonymous", "reviewers", ".", "This", "work", "was", "supported", "by", "U.S.", "Dept.", "of", "Education", "grant", "R305G03123", ".", "Any", "opinions", ",", "findings", ",", "conclusions", ",", "or", "recommendations", "expressed", "in", "this", "material", "are", "the", "authors", "'", "and", "do", "not", "necessarily", "reflect", "those", "of", "the", "sponsors", ".", "-LSB-", "1", "-RSB-", "Bikel", ",", "D.", "M.", ",", "Miller", ",", "S.", ",", "Schwartz", ",", "R.", ",", "Weischedel", ",", "R.", "M.", ",", "Nymbol", ":", "A", "high-performance", "learning", "name-finder", ".", "In", "Proceedings", "of", "the", "5th", "Conference", "on", "Applied", "Natural", "Language", "Processing", ",", "194", "-", "201", ",", "1997", ".", "-LSB-", "2", "-RSB-", "Broder", ",", "A", ".", "A", "taxonomy", "of", "Web", "search", ".", "In", "SIGIR", "Forum", ",", "36", "-LRB-", "2", "-RRB-", ".", "3", "-", "10", ",", "2002", ".", "-LSB-", "3", "-RSB-", "Chakrabarti", ",", "S.", ",", "van", "der", "Berg", ",", "M.", ",", "&", "Dom", ",", "B.", "Focused", "crawling", ":", "a", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "In", "Proc", ".", "of", "the", "8th", "International", "World-Wide", "Web", "Conference", "-LRB-", "WWW8", "-RRB-", ",", "1999", ".", "-LSB-", "4", "-RSB-", "Collins-Thompson", ",", "K.", ",", "&", "Callan", ",", "J", ".", "A", "language", "modeling", "approach", "to", "predicting", "reading", "difficulty", ".", "Proceedings", "of", "HLT/NAACL", "2004", ",", "Boston", ",", "USA", ",", "2004", ".", "-LSB-", "5", "-RSB-", "Finn", ",", "A.", ",", "Kushmerick", ",", "N.", "&", "Smyth", ",", "B.", "Fact", "or", "fiction", ":", "Content", "classification", "for", "digital", "libraries", ".", "Joint", "DELOS-NSF", "Workshop", "on", "Personalisation", "and", "Recommender", "Systems", "in", "Digital", "Libraries", "-LRB-", "Dublin", "-RRB-", ",", "2001", ".", "-LSB-", "6", "-RSB-", "Foltz", ",", "P.", "W.", ",", "Kintsch", ",", "W.", ",", "Landauer", ",", "T.", "K.", "Analysis", "of", "text", "coherence", "using", "Latent", "Semantic", "Analysis", ".", "Discourse", "Processes", "25", "-LRB-", "2-3", "-RRB-", ",", "285", "-", "307", ",", "1998", ".", "-LSB-", "7", "-RSB-", "Google", "Kids", "Directory", ".", "http://directory.google.com/Top/Kids_and_Teens/", "-LSB-", "8", "-RSB-", "Lavrenko", ",", "V.", ",", "and", "Croft", ",", "B.", "Relevance-based", "language", "models", ".", "In", "Proc", ".", "of", "the", "24th", "Annual", "International", "ACM", "SIGIR", "Conference", ",", "New", "Orleans", ",", "120", "-", "127", ",", "2001", ".", "-LSB-", "9", "-RSB-", "Ogilvie", ",", "P.", "and", "Callan", ",", "J.", "Experiments", "using", "the", "Lemur", "Toolkit", ".", "In", "Proc.of", "the", "10th", "Text", "Retrieval", "Conference", ",", "TREC", "2001", ".", "NIST", "Special", "Publication", "500-250", ",", "103-108", ",", "2001", ".", "545"], "doc_bio_tags": ["B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information retrieval", "reading comprehension", "user model", "searching"], "abstractive_keyphrases": ["computer-assisted learning"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "108", "document": ["Incspan", ":", "Incremental", "Mining", "Of", "Sequential", "Patterns", "In", "Large", "Database", "Many", "real", "life", "sequence", "databases", "grow", "incrementally", ".", "It", "is", "undesirable", "to", "mine", "sequential", "patterns", "from", "scratch", "each", "time", "when", "a", "small", "set", "of", "sequences", "grow", ",", "or", "when", "some", "new", "sequences", "are", "added", "into", "the", "database", ".", "Incremental", "algorithm", "should", "be", "developed", "for", "sequential", "pattern", "mining", "so", "that", "mining", "can", "be", "adapted", "to", "incremental", "database", "updates", ".", "However", ",", "it", "is", "nontrivial", "to", "mine", "sequential", "patterns", "incrementally", ",", "especially", "when", "the", "existing", "sequences", "grow", "incrementally", "because", "such", "growth", "may", "lead", "to", "the", "generation", "of", "many", "new", "patterns", "due", "to", "the", "interactions", "of", "the", "growing", "subsequences", "with", "the", "original", "ones", ".", "In", "this", "study", ",", "we", "develop", "an", "efficient", "algorithm", ",", "IncSpan", ",", "for", "incremental", "mining", "of", "sequential", "patterns", ",", "by", "exploring", "some", "interesting", "properties", ".", "Our", "performance", "study", "shows", "that", "IncSpan", "outperforms", "some", "previously", "proposed", "incremental", "algorithms", "as", "well", "as", "a", "non-incremental", "one", "with", "a", "wide", "margin", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications-data", "mining", "Algorithms", ",", "Performance", ",", "Experimentation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "Sequential", "pattern", "mining", "is", "an", "important", "and", "active", "research", "topic", "in", "data", "mining", "-LSB-", "1", ",", "5", ",", "4", ",", "8", ",", "13", ",", "2", "-RSB-", ",", "with", "broad", "applications", ",", "such", "as", "customer", "shopping", "transaction", "analysis", ",", "mining", "web", "logs", ",", "mining", "DNA", "sequences", ",", "etc.", ".", "There", "have", "been", "quite", "a", "few", "sequential", "pattern", "or", "closed", "sequential", "pattern", "mining", "algorithms", "proposed", "in", "the", "previous", "work", ",", "such", "as", "-LSB-", "10", ",", "8", ",", "13", ",", "2", ",", "12", ",", "11", "-RSB-", ",", "that", "mine", "frequent", "subsequences", "from", "a", "large", "sequence", "database", "efficiently", ".", "These", "algorithms", "work", "in", "a", "one-time", "fashion", ":", "mine", "the", "entire", "database", "and", "obtain", "the", "set", "of", "results", ".", "However", ",", "in", "many", "applications", ",", "databases", "are", "updated", "incrementally", ".", "For", "example", ",", "customer", "shopping", "transaction", "database", "is", "growing", "daily", "due", "to", "the", "appending", "of", "newly", "purchased", "items", "for", "existing", "customers", "for", "their", "subsequent", "purchases", "and/or", "insertion", "of", "new", "shopping", "sequences", "for", "new", "customers", ".", "Other", "examples", "include", "Weather", "sequences", "and", "patient", "treatment", "sequences", "which", "grow", "incrementally", "with", "time", ".", "The", "existing", "sequential", "mining", "algorithms", "are", "not", "suitable", "for", "handling", "this", "situation", "because", "the", "result", "mined", "from", "the", "old", "database", "is", "no", "longer", "valid", "on", "the", "updated", "database", ",", "and", "it", "is", "intolerably", "inefficient", "to", "mine", "the", "updated", "databases", "from", "scratch", ".", "There", "are", "two", "kinds", "of", "database", "updates", "in", "applications", ":", "-LRB-", "1", "-RRB-", "inserting", "new", "sequences", "-LRB-", "denoted", "as", "INSERT", "-RRB-", ",", "and", "-LRB-", "2", "-RRB-", "appending", "new", "itemsets/items", "to", "the", "existing", "sequences", "-LRB-", "denoted", "as", "APPEND", "-RRB-", ".", "A", "real", "application", "may", "contain", "both", ".", "It", "is", "easier", "to", "handle", "the", "first", "case", ":", "INSERT", ".", "An", "important", "property", "of", "INSERT", "is", "that", "a", "frequent", "sequence", "in", "DB", "=", "DB", "db", "must", "be", "frequent", "in", "either", "DB", "or", "db", "-LRB-", "or", "both", "-RRB-", ".", "If", "a", "sequence", "is", "infrequent", "in", "both", "DB", "and", "db", ",", "it", "can", "not", "be", "frequent", "in", "DB", ",", "as", "shown", "in", "Figure", "1", ".", "This", "property", "is", "similar", "to", "that", "of", "frequent", "patterns", ",", "which", "has", "been", "used", "in", "incremental", "frequent", "pattern", "mining", "-LSB-", "3", ",", "9", ",", "14", "-RSB-", ".", "Such", "incremental", "frequent", "pattern", "mining", "algorithms", "can", "be", "easily", "extended", "to", "handle", "sequential", "pattern", "mining", "in", "the", "case", "of", "INSERT", ".", "It", "is", "far", "trickier", "to", "handle", "the", "second", "case", ",", "APPEND", ",", "than", "the", "first", "one", ".", "This", "is", "because", "not", "only", "the", "appended", "items", "may", "generate", "new", "locally", "frequent", "sequences", "in", "db", ",", "but", "also", "that", "locally", "infrequent", "sequences", "may", "contribute", "their", "occurrence", "count", "to", "the", "same", "infrequent", "sequences", "in", "the", "original", "database", "to", "produce", "frequent", "ones", ".", "For", "example", ",", "in", "the", "appended", "database", "in", "Figure", "1", ",", "suppose", "|", "DB", "|", "=", "1000", "and", "|", "db", "|", "=", "20", ",", "min", "sup", "=", "10", "%", ".", "Suppose", "a", "sequence", "s", "is", "in-527", "Research", "Track", "Poster", "s", "infrequent", "s", "infrequent", "DB", "s", "is", "infrequent", "in", "DB", "'", "sup", "-LRB-", "s", "-RRB-", "=", "99", "db", "=", "20", "sup", "-LRB-", "s", "-RRB-", "=", "1", "s", "is", "frequent", "in", "DB", "'", "db", "|", "DB", "|", "=", "1000", "Figure", "1", ":", "Examples", "in", "INSERT", "and", "APPEND", "database", "frequent", "in", "DB", "with", "99", "occurrences", "-LRB-", "sup", "=", "9.9", "%", "-RRB-", ".", "In", "addition", ",", "it", "is", "also", "infrequent", "in", "db", "with", "only", "1", "occurrence", "-LRB-", "sup", "=", "5", "%", "-RRB-", ".", "Although", "s", "is", "infrequent", "in", "both", "DB", "and", "db", ",", "it", "becomes", "frequent", "in", "DB", "with", "100", "occurrences", ".", "This", "problem", "complicates", "the", "incremental", "mining", "since", "one", "can", "not", "ignore", "the", "infrequent", "sequences", "in", "db", ",", "but", "there", "are", "an", "exponential", "number", "of", "infrequent", "sequences", "even", "in", "a", "small", "db", "and", "checking", "them", "against", "the", "set", "of", "infrequent", "sequences", "in", "DB", "will", "be", "very", "costly", ".", "When", "the", "database", "is", "updated", "with", "a", "combination", "of", "INSERT", "and", "APPEND", ",", "we", "can", "treat", "INSERT", "as", "a", "special", "case", "of", "APPEND", "treating", "the", "inserted", "sequences", "as", "appended", "transactions", "to", "an", "empty", "sequence", "in", "the", "original", "database", ".", "Then", "this", "problem", "is", "reduced", "to", "APPEND", ".", "Therefore", ",", "we", "focus", "on", "the", "APPEND", "case", "in", "the", "following", "discussion", ".", "In", "this", "paper", ",", "an", "efficient", "algorithm", ",", "called", "IncSpan", ",", "is", "developed", ",", "for", "incremental", "mining", "over", "multiple", "database", "increments", ".", "Several", "novel", "ideas", "are", "introduced", "in", "the", "algorithm", "development", ":", "-LRB-", "1", "-RRB-", "maintaining", "a", "set", "of", "``", "almost", "frequent", "''", "sequences", "as", "the", "candidates", "in", "the", "updated", "database", ",", "which", "has", "several", "nice", "properties", "and", "leads", "to", "efficient", "techniques", ",", "and", "-LRB-", "2", "-RRB-", "two", "optimization", "techniques", ",", "reverse", "pattern", "matching", "and", "shared", "projection", ",", "are", "designed", "to", "improve", "the", "performance", ".", "Reverse", "pattern", "matching", "is", "used", "for", "matching", "a", "sequential", "pattern", "in", "a", "sequence", "and", "prune", "some", "search", "space", ".", "Shared", "projection", "is", "designed", "to", "reduce", "the", "number", "of", "database", "projections", "for", "some", "sequences", "which", "share", "a", "common", "prefix", ".", "Our", "performance", "study", "shows", "that", "IncSpan", "is", "efficient", "and", "scalable", ".", "The", "remaining", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2introduces", "the", "basic", "concepts", "related", "to", "incremental", "sequential", "pattern", "mining", ".", "Section", "3", "presents", "the", "idea", "of", "buffering", "patterns", ",", "several", "properties", "of", "this", "technique", "and", "the", "associated", "method", ".", "Section", "4", "formulates", "the", "IncSpan", "algorithm", "with", "two", "optimization", "techniques", ".", "We", "report", "and", "analyze", "performance", "study", "in", "Section", "5", ",", "introduce", "related", "work", "in", "Section", "6", ".", "We", "conclude", "our", "study", "in", "Section", "7", ".", "Let", "I", "=", "-LCB-", "i", "1", ",", "i", "2", ",", "...", ",", "i", "k", "-RCB-", "be", "a", "set", "of", "all", "items", ".", "A", "subset", "of", "I", "is", "called", "an", "itemset", ".", "A", "sequence", "s", "=", "t", "1", ",", "t", "2", ",", "...", ",", "t", "m", "-LRB-", "t", "i", "I", "-RRB-", "is", "an", "ordered", "list", ".", "The", "size", ",", "|", "s", "|", ",", "of", "a", "sequence", "is", "the", "number", "of", "itemsets", "in", "the", "sequence", ".", "The", "length", ",", "l", "-LRB-", "s", "-RRB-", ",", "is", "the", "total", "number", "of", "items", "in", "the", "sequence", ",", "i.e.", ",", "l", "-LRB-", "s", "-RRB-", "=", "n", "i", "=", "1", "|", "t", "i", "|", ".", "A", "sequence", "=", "a", "1", ",", "a", "2", ",", "...", ",", "a", "m", "is", "a", "sub-sequence", "of", "another", "sequence", "=", "b", "1", ",", "b", "2", ",", "...", ",", "b", "n", ",", "denoted", "as", "-LRB-", "if", "=", ",", "written", "as", "-RRB-", ",", "if", "and", "only", "if", "i", "1", ",", "i", "2", ",", "...", ",", "i", "m", ",", "such", "that", "1", "i", "1", "<", "i", "2", "<", "...", "<", "i", "m", "n", "and", "a", "1", "b", "i", "1", ",", "a", "2", "b", "i", "2", ",", "...", ",", "and", "a", "m", "b", "i", "m", ".", "A", "sequence", "database", ",", "D", "=", "-LCB-", "s", "1", ",", "s", "2", ",", "...", ",", "s", "n", "-RCB-", ",", "is", "a", "set", "of", "sequences", ".", "The", "support", "of", "a", "sequence", "in", "D", "is", "the", "number", "of", "sequences", "in", "D", "which", "contain", ",", "support", "-LRB-", "-RRB-", "=", "|", "-LCB-", "s", "|", "s", "D", "and", "s", "-RCB-", "|", ".", "Given", "a", "minimum", "support", "threshold", ",", "min", "sup", ",", "a", "sequence", "is", "frequent", "if", "its", "support", "is", "no", "less", "than", "min", "sup", ";", "given", "a", "factor", "1", ",", "a", "sequence", "is", "semi-frequent", "if", "its", "support", "is", "less", "than", "min", "sup", "but", "no", "less", "than", "min", "sup", ";", "a", "sequence", "is", "infrequent", "if", "its", "support", "is", "less", "than", "min", "sup", ".", "The", "set", "of", "frequent", "sequential", "pattern", ",", "F", "S", ",", "includes", "all", "the", "frequent", "sequences", ";", "and", "the", "set", "of", "semi-frequent", "sequential", "pattern", "SF", "S", ",", "includes", "all", "the", "semi-frequent", "sequences", ".", "EXAMPLE", "1", ".", "The", "second", "column", "of", "Table", "1", "is", "a", "sample", "sequence", "database", "D", ".", "If", "min", "sup", "=", "3", ",", "F", "S", "=", "-LCB-", "-LRB-", "a", "-RRB-", ":", "4", ",", "-LRB-", "b", "-RRB-", ":", "3", ",", "-LRB-", "d", "-RRB-", ":", "4", ",", "-LRB-", "b", "-RRB-", "-LRB-", "d", "-RRB-", ":", "3", "-RCB-", ".", "Seq", "ID", ".", "Original", "Part", "Appended", "Part", "0", "-LRB-", "a", "-RRB-", "-LRB-", "h", "-RRB-", "-LRB-", "c", "-RRB-", "1", "-LRB-", "eg", "-RRB-", "-LRB-", "a", "-RRB-", "-LRB-", "bce", "-RRB-", "2", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "d", "-RRB-", "-LRB-", "ck", "-RRB-", "-LRB-", "l", "-RRB-", "3", "-LRB-", "b", "-RRB-", "-LRB-", "df", "-RRB-", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "4", "-LRB-", "a", "-RRB-", "-LRB-", "d", "-RRB-", "5", "-LRB-", "be", "-RRB-", "-LRB-", "d", "-RRB-", "Table", "1", ":", "A", "Sample", "Sequence", "Database", "D", "and", "the", "Appended", "part", "Given", "a", "sequence", "s", "=", "t", "1", ",", "...", ",", "t", "m", "and", "another", "sequence", "s", "a", "=", "t", "1", ",", "...", ",", "t", "n", ",", "s", "=", "s", "s", "a", "means", "s", "concatenates", "with", "s", "a", ".", "s", "is", "called", "an", "appended", "sequence", "of", "s", ",", "denoted", "as", "s", "a", "s", ".", "If", "s", "a", "is", "empty", ",", "s", "=", "s", ",", "denoted", "as", "s", "=", "a", "s", ".", "An", "appended", "sequence", "database", "D", "of", "a", "sequence", "database", "D", "is", "one", "that", "-LRB-", "1", "-RRB-", "s", "i", "D", ",", "s", "j", "D", "such", "that", "s", "i", "a", "s", "j", "or", "s", "i", "=", "a", "s", "j", ",", "and", "-LRB-", "2", "-RRB-", "s", "i", "D", ",", "s", "j", "D", "such", "that", "s", "j", "a", "s", "i", "or", "s", "j", "=", "a", "s", "i", ".", "We", "denote", "LDB", "=", "-LCB-", "s", "i", "|", "s", "i", "D", "and", "s", "i", "a", "s", "j", "-RCB-", ",", "i.e.", ",", "LDB", "is", "the", "set", "of", "sequences", "in", "D", "which", "are", "appended", "with", "items/itemsets", ".", "We", "denote", "ODB", "=", "-LCB-", "s", "i", "|", "s", "i", "D", "and", "s", "i", "a", "s", "j", "-RCB-", ",", "i.e.", ",", "ODB", "is", "the", "set", "of", "sequences", "in", "D", "which", "are", "appended", "with", "items/itemsets", "in", "D", ".", "We", "denote", "the", "set", "of", "frequent", "sequences", "in", "D", "as", "F", "S", ".", "EXAMPLE", "2", ".", "The", "third", "column", "of", "Table", "1", "is", "the", "appended", "part", "of", "the", "original", "database", ".", "If", "min", "sup", "=", "3", ",", "F", "S", "=", "-LCB-", "-LRB-", "a", "-RRB-", ":", "5", ",", "-LRB-", "b", "-RRB-", ":", "4", ",", "-LRB-", "d", "-RRB-", ":", "4", ",", "-LRB-", "b", "-RRB-", "-LRB-", "d", "-RRB-", ":", "3", ",", "-LRB-", "c", "-RRB-", ":", "3", ",", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", ":", "3", ",", "-LRB-", "a", "-RRB-", "-LRB-", "c", "-RRB-", ":", "3", "-RCB-", ".", "A", "sequential", "pattern", "tree", "T", "is", "a", "tree", "that", "represents", "the", "set", "of", "frequent", "subsequences", "in", "a", "database", ".", "Each", "node", "p", "in", "T", "has", "a", "tag", "labelled", "with", "s", "or", "i.", "s", "means", "the", "node", "is", "a", "starting", "item", "in", "an", "itemset", ";", "i", "means", "the", "node", "is", "an", "intermediate", "item", "in", "an", "itemset", ".", "Each", "node", "p", "has", "a", "support", "value", "which", "represents", "the", "support", "of", "the", "subsequence", "starting", "from", "the", "root", "of", "T", "and", "ending", "at", "the", "node", "p.", "Problem", "Statement", ".", "Given", "a", "sequence", "database", "D", ",", "a", "min", "sup", "threshold", ",", "the", "set", "of", "frequent", "subsequences", "F", "S", "in", "D", ",", "and", "an", "appended", "sequence", "database", "D", "of", "D", ",", "the", "problem", "of", "incremental", "sequential", "pattern", "mining", "is", "to", "mine", "the", "set", "of", "frequent", "subsequences", "F", "S", "in", "D", "based", "on", "F", "S", "instead", "of", "mining", "on", "D", "from", "scratch", ".", "In", "this", "section", ",", "we", "present", "the", "idea", "of", "buffering", "semi-frequent", "patterns", ",", "study", "its", "properties", ",", "and", "design", "solutions", "of", "how", "to", "incrementally", "mine", "and", "maintain", "F", "S", "and", "SF", "S.", "528", "Research", "Track", "Poster", "<", ">", "<", "d", ">", "s", ":", "4", "<", "b", ">", "s", ":", "3", "<", "a", ">", "s", ":", "4", "<", "e", ">", "s", ":", "2", "<", "d", ">", "s", ":", "3", "<", "d", ">", "s", ":", "2", "<", "b", ">", "s", ":", "2", "Figure", "2", ":", "The", "Sequential", "Pattern", "Tree", "of", "F", "S", "and", "SF", "S", "in", "D", "3.1", "Buffering", "Semi-frequent", "Patterns", "We", "buffer", "semi-frequent", "patterns", ",", "which", "can", "be", "considered", "as", "a", "statistics-based", "approach", ".", "The", "technique", "is", "to", "lower", "the", "min", "sup", "by", "a", "buffer", "ratio", "1", "and", "keep", "a", "set", "SF", "S", "in", "the", "original", "database", "D", ".", "This", "is", "because", "since", "the", "sequences", "in", "SF", "S", "are", "``", "almost", "frequent", "''", ",", "most", "of", "the", "frequent", "subsequences", "in", "the", "appended", "database", "will", "either", "come", "from", "SF", "S", "or", "they", "are", "already", "frequent", "in", "the", "original", "database", ".", "With", "a", "minor", "update", "to", "the", "original", "database", ",", "it", "is", "expected", "that", "only", "a", "small", "fraction", "of", "subsequences", "which", "were", "infrequent", "previously", "would", "become", "frequent", ".", "This", "is", "based", "on", "the", "assumption", "that", "updates", "to", "the", "original", "database", "have", "a", "uniform", "probability", "distribution", "on", "items", ".", "It", "is", "expected", "that", "most", "of", "the", "frequent", "subsequences", "introduced", "by", "the", "updated", "part", "of", "the", "database", "would", "come", "from", "the", "SF", "S", ".", "The", "SF", "S", "forms", "a", "kind", "of", "boundary", "-LRB-", "or", "``", "buffer", "zone", "''", "-RRB-", "between", "the", "frequent", "subsequences", "and", "infrequent", "subsequences", ".", "EXAMPLE", "3", ".", "Given", "a", "database", "D", "in", "Example", "1", ",", "min", "sup", "=", "3", ",", "=", "0.6", ".", "The", "sequential", "pattern", "tree", "T", "representing", "F", "S", "and", "SF", "S", "in", "D", "is", "shown", "in", "Figure", "2", ".", "F", "S", "are", "shown", "in", "solid", "line", "and", "SF", "S", "in", "dashed", "line", ".", "When", "the", "database", "D", "is", "updated", "to", "D", ",", "we", "have", "to", "check", "LDB", "to", "update", "support", "of", "every", "sequence", "in", "F", "S", "and", "SF", "S", ".", "There", "are", "several", "possibilities", ":", "1", ".", "A", "pattern", "which", "is", "frequent", "in", "D", "is", "still", "frequent", "in", "D", ";", "2", ".", "A", "pattern", "which", "is", "semi-frequent", "in", "D", "becomes", "frequent", "in", "D", ";", "3", ".", "A", "pattern", "which", "is", "semi-frequent", "in", "D", "is", "still", "semi-frequent", "in", "D", ";", "4", ".", "Appended", "database", "db", "brings", "new", "items", ".", "5", ".", "A", "pattern", "which", "is", "infrequent", "in", "D", "becomes", "frequent", "in", "D", ";", "6", ".", "A", "pattern", "which", "is", "infrequent", "in", "D", "becomes", "semi-frequent", "in", "D", ";", "Case", "-LRB-", "1", "-RRB-", "-LRB-", "3", "-RRB-", "are", "trivial", "cases", "since", "we", "already", "keep", "the", "information", ".", "We", "will", "consider", "case", "-LRB-", "4", "-RRB-", "-LRB-", "6", "-RRB-", "now", ".", "Case", "-LRB-", "4", "-RRB-", ":", "Appended", "database", "db", "brings", "new", "items", ".", "For", "example", ",", "in", "the", "database", "D", ",", "-LRB-", "c", "-RRB-", "is", "a", "new", "item", "brought", "by", "db", ".", "It", "does", "not", "appear", "in", "D.", "Property", ":", "An", "item", "which", "does", "not", "appear", "in", "D", "and", "is", "brought", "by", "db", "has", "no", "information", "in", "F", "S", "or", "SF", "S.", "Solution", ":", "Scan", "the", "database", "LDB", "for", "single", "items", ".", "For", "a", "new", "item", "or", "an", "originally", "infrequent", "item", "in", "D", ",", "if", "it", "becomes", "frequent", "or", "semi-frequent", ",", "insert", "it", "into", "F", "S", "or", "SF", "S", ".", "Then", "use", "the", "new", "frequent", "item", "as", "prefix", "to", "construct", "projected", "database", "and", "discover", "frequent", "and", "semi-frequent", "sequences", "recursively", ".", "For", "a", "frequent", "or", "semi-frequent", "item", "in", "D", ",", "update", "its", "support", ".", "Case", "-LRB-", "5", "-RRB-", ":", "A", "pattern", "which", "is", "infrequent", "in", "D", "becomes", "frequent", "in", "D", ".", "For", "example", ",", "in", "the", "database", "D", ",", "-LRB-", "a", "-RRB-", "-LRB-", "c", "-RRB-", "is", "an", "example", "of", "case", "-LRB-", "5", "-RRB-", ".", "It", "is", "infrequent", "in", "D", "and", "becomes", "frequent", "in", "D", ".", "We", "do", "not", "keep", "-LRB-", "a", "-RRB-", "-LRB-", "c", "-RRB-", "in", "F", "S", "or", "SF", "S", ",", "but", "we", "have", "the", "information", "of", "its", "prefix", "-LRB-", "a", "-RRB-", ".", "Property", ":", "If", "an", "infrequent", "sequence", "p", "in", "D", "becomes", "frequent", "in", "D", ",", "all", "of", "its", "prefix", "subsequences", "must", "also", "be", "frequent", "in", "D", ".", "Then", "at", "least", "one", "of", "its", "prefix", "subsequences", "p", "is", "in", "F", "S.", "Solution", ":", "Start", "from", "its", "frequent", "prefix", "p", "in", "F", "S", "and", "construct", "p-projected", "database", ",", "we", "will", "discover", "p", ".", "Formally", "stated", ",", "given", "a", "frequent", "pattern", "p", "in", "D", ",", "we", "want", "to", "discover", "whether", "there", "is", "any", "pattern", "p", "with", "p", "as", "prefix", "where", "p", "was", "infrequent", "in", "D", "but", "is", "frequent", "in", "D", ".", "A", "sequence", "p", "which", "changes", "from", "infrequent", "to", "frequent", "must", "have", "sup", "-LRB-", "p", "-RRB-", ">", "-LRB-", "1", "-", "-RRB-", "min", "sup", ".", "We", "claim", "if", "a", "frequent", "pattern", "p", "has", "support", "in", "LDB", "sup", "LDB", "-LRB-", "p", "-RRB-", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "it", "is", "possible", "that", "some", "subsequences", "with", "p", "as", "prefix", "will", "change", "from", "infrequent", "to", "frequent", ".", "If", "sup", "LDB", "-LRB-", "p", "-RRB-", "<", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "we", "can", "safely", "prune", "search", "with", "prefix", "p.", "Theorem", "1", ".", "For", "a", "frequent", "pattern", "p", ",", "if", "its", "support", "in", "LDB", "sup", "LDB", "-LRB-", "p", "-RRB-", "<", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "then", "there", "is", "no", "sequence", "p", "having", "p", "as", "prefix", "changing", "from", "infrequent", "in", "D", "to", "frequent", "in", "D", ".", "Proof", ":", "p", "was", "infrequent", "in", "D", ",", "so", "sup", "D", "-LRB-", "p", "-RRB-", "<", "min", "sup", "-LRB-", "1", "-RRB-", "If", "sup", "LDB", "-LRB-", "p", "-RRB-", "<", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "then", "sup", "LDB", "-LRB-", "p", "-RRB-", "sup", "LDB", "-LRB-", "p", "-RRB-", "<", "-LRB-", "1", "-", "-RRB-", "min", "sup", "Since", "sup", "LDB", "-LRB-", "p", "-RRB-", "=", "sup", "ODB", "-LRB-", "p", "-RRB-", "+", "sup", "-LRB-", "p", "-RRB-", ".", "Then", "we", "have", "sup", "LDB", "-LRB-", "p", "-RRB-", "sup", "LDB", "-LRB-", "p", "-RRB-", "<", "-LRB-", "1", "-", "-RRB-", "min", "sup", ".", "-LRB-", "2", "-RRB-", "Since", "sup", "D", "-LRB-", "p", "-RRB-", "=", "sup", "D", "-LRB-", "p", "-RRB-", "+", "sup", "-LRB-", "p", "-RRB-", ",", "combining", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", ",", "we", "have", "sup", "D", "-LRB-", "p", "-RRB-", "<", "min", "sup", ".", "So", "p", "can", "not", "be", "frequent", "in", "D", ".", "Therefore", ",", "if", "a", "pattern", "p", "has", "support", "in", "LDB", "sup", "LDB", "-LRB-", "p", "-RRB-", "<", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "we", "can", "prune", "search", "with", "prefix", "p.", "Otherwise", ",", "if", "sup", "LDB", "-LRB-", "p", "-RRB-", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "it", "is", "possible", "that", "some", "sequences", "with", "p", "as", "prefix", "will", "change", "from", "infrequent", "to", "frequent", ".", "In", "this", "case", ",", "we", "have", "to", "project", "the", "whole", "database", "D", "using", "p", "as", "prefix", ".", "If", "|", "LDB", "|", "is", "small", "or", "is", "small", ",", "there", "are", "very", "few", "patterns", "that", "have", "sup", "LDB", "-LRB-", "p", "-RRB-", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "making", "the", "number", "of", "projections", "small", ".", "In", "our", "example", ",", "sup", "LDB", "-LRB-", "a", "-RRB-", "=", "3", ">", "-LRB-", "1", "-", "0.6", "-RRB-", "3", ",", "we", "have", "to", "do", "the", "projection", "with", "-LRB-", "a", "-RRB-", "as", "prefix", ".", "And", "we", "discover", "''", "-LRB-", "a", "-RRB-", "-LRB-", "c", "-RRB-", ":", "3", "''", "which", "was", "infrequent", "in", "D.", "For", "another", "example", ",", "sup", "LDB", "-LRB-", "d", "-RRB-", "=", "1", "<", "-LRB-", "1", "-", "0.6", "-RRB-", "3", ",", "there", "is", "no", "sequence", "with", "d", "as", "prefix", "which", "changes", "from", "infrequent", "to", "frequent", ",", "so", "we", "can", "prune", "the", "search", "on", "it", ".", "Theorem", "1", "provides", "an", "effective", "bound", "to", "decide", "whether", "it", "is", "necessary", "to", "project", "a", "database", ".", "It", "is", "essential", "to", "guarantee", "the", "result", "be", "complete", ".", "We", "can", "see", "from", "the", "projection", "condition", ",", "sup", "LDB", "-LRB-", "p", "-RRB-", "-LRB-", "1", "-", "-RRB-", "min", "sup", ",", "the", "smaller", "is", ",", "the", "larger", "buffer", "we", "keep", ",", "the", "fewer", "database", "projections", "the", "algorithm", "needs", ".", "The", "choice", "of", "is", "heuristic", ".", "If", "is", "too", "high", ",", "then", "the", "buffer", "is", "small", "and", "we", "have", "to", "do", "a", "lot", "of", "database", "projections", "to", "discover", "sequences", "outside", "of", "the", "buffer", ".", "If", "is", "set", "very", "low", ",", "we", "will", "keep", "many", "subsequences", "in", "the", "buffer", ".", "But", "mining", "the", "buffering", "patterns", "using", "min", "sup", "would", "be", "much", "more", "inefficient", "than", "with", "min", "sup", ".", "We", "will", "show", "this", "529", "Research", "Track", "Poster", "<", ">", "<", "d", ">", "s", ":", "4", "<", "b", ">", "s", ":", "4", "<", "a", ">", "s", ":", "5", "<", "c", ">", "s", ":", "3", "<", "d", ">", "s", ":", "3", "<", "c", ">", "s", ":", "3", "<", "d", ">", "s", ":", "2", "<", "b", ">", "s", ":", "3", "<", "e", ">", "i", ":", "2", "<", "e", ">", "s", ":", "2", "Figure", "3", ":", "The", "Sequential", "Pattern", "Tree", "of", "F", "S", "and", "SF", "S", "in", "D", "tradeoff", "through", "experiments", "in", "Section", "5", ".", "Case", "-LRB-", "6", "-RRB-", ":", "A", "pattern", "which", "is", "infrequent", "in", "D", "becomes", "semi-frequent", "in", "D", ".", "For", "example", ",", "in", "the", "database", "D", ",", "-LRB-", "be", "-RRB-", "is", "an", "example", "of", "case", "-LRB-", "6", "-RRB-", ".", "It", "is", "infrequent", "in", "D", "and", "becomes", "semi-frequent", "in", "D", ".", "Property", ":", "If", "an", "infrequent", "sequence", "p", "becomes", "semi-frequent", "in", "D", ",", "all", "of", "its", "prefix", "subsequences", "must", "be", "either", "frequent", "or", "semi-frequent", ".", "Then", "at", "least", "one", "of", "its", "prefix", "subsequences", ",", "p", ",", "is", "in", "F", "S", "or", "SF", "S.", "Solution", ":", "Start", "from", "its", "prefix", "p", "in", "F", "S", "or", "SF", "S", "and", "construct", "p-projected", "database", ",", "we", "will", "discover", "p", ".", "Formally", "stated", ",", "given", "a", "pattern", "p", ",", "we", "want", "to", "discover", "whether", "there", "is", "any", "pattern", "p", "with", "p", "as", "prefix", "where", "p", "was", "infrequent", "but", "is", "semi-frequent", "in", "D", ".", "If", "the", "prefix", "p", "is", "in", "F", "S", "or", "SF", "S", ",", "construct", "p-projected", "database", "and", "we", "will", "discover", "p", "in", "p-projected", "database", ".", "Therefore", ",", "for", "any", "pattern", "p", "from", "infrequent", "to", "semi-frequent", ",", "if", "its", "prefix", "is", "in", "F", "S", "or", "SF", "S", ",", "p", "can", "be", "discovered", ".", "In", "our", "example", ",", "for", "the", "frequent", "pattern", "-LRB-", "b", "-RRB-", ",", "we", "do", "the", "projection", "on", "-LRB-", "b", "-RRB-", "and", "get", "a", "semi-frequent", "pattern", "-LRB-", "be", "-RRB-", ":", "2", "which", "was", "infrequent", "in", "D", ".", "We", "show", "in", "Figure", "3", "the", "sequential", "pattern", "tree", "T", "including", "F", "S", "and", "SF", "S", "after", "the", "database", "updates", "to", "D", ".", "We", "can", "compare", "it", "with", "Figure", "2to", "see", "how", "the", "database", "update", "affects", "F", "S", "and", "SF", "S", ".", "In", "this", "section", ",", "we", "formulate", "the", "IncSpan", "algorithm", "which", "exploits", "the", "technique", "of", "buffering", "semi-frequent", "patterns", ".", "We", "first", "present", "the", "algorithm", "outline", "and", "then", "introduce", "two", "optimization", "techniques", ".", "4.1", "IncSpan", ":", "Algorithm", "Outline", "Given", "an", "original", "database", "D", ",", "an", "appended", "database", "D", ",", "a", "threshold", "min", "sup", ",", "a", "buffer", "ratio", ",", "a", "set", "of", "frequent", "sequences", "F", "S", "and", "a", "set", "of", "semi-frequent", "sequences", "SF", "S", ",", "we", "want", "to", "discover", "the", "set", "of", "frequent", "sequences", "F", "S", "in", "D", ".", "Step", "1", ":", "Scan", "LDB", "for", "single", "items", ",", "as", "shown", "in", "case", "-LRB-", "4", "-RRB-", ".", "Step", "2", ":", "Check", "every", "pattern", "in", "F", "S", "and", "SF", "S", "in", "LDB", "to", "adjust", "the", "support", "of", "those", "patterns", ".", "Step", "2.1", ":", "If", "a", "pattern", "becomes", "frequent", ",", "add", "it", "to", "F", "S", ".", "Then", "check", "whether", "it", "meets", "the", "projection", "condition", ".", "If", "so", ",", "use", "it", "as", "prefix", "to", "project", "database", ",", "as", "shown", "in", "case", "-LRB-", "5", "-RRB-", ".", "Step", "2.2", ":", "If", "a", "pattern", "is", "semi-frequent", ",", "add", "it", "to", "SF", "S", ".", "The", "algorithm", "is", "given", "in", "Figure", "4", ".", "4.2", "Reverse", "Pattern", "Matching", "Reverse", "pattern", "matching", "is", "a", "novel", "optimization", "technique", ".", "It", "matches", "a", "sequential", "pattern", "against", "a", "sequence", "from", "the", "end", "towards", "the", "front", ".", "This", "is", "used", "to", "check", "sup-Algorithm", ".", "IncSpan", "-LRB-", "D", ",", "min", "sup", ",", ",", "F", "S", ",", "SF", "S", "-RRB-", "Input", ":", "An", "appended", "database", "D", ",", "min", "sup", ",", ",", "frequent", "sequences", "F", "S", "in", "D", ",", "semi-frequent", "sequences", "SF", "S", "in", "D.", "Output", ":", "F", "S", "and", "SF", "S", ".", "1", ":", "F", "S", "=", ",", "SF", "S", "=", "2", ":", "Scan", "LDB", "for", "single", "items", ";", "3", ":", "Add", "new", "frequent", "item", "into", "F", "S", ";", "4", ":", "Add", "new", "semi-frequent", "item", "into", "SF", "S", ";", "5", ":", "for", "each", "new", "item", "i", "in", "F", "S", "do", "6", ":", "PrefixSpan", "-LRB-", "i", ",", "D", "|", "i", ",", "min", "sup", ",", "F", "S", ",", "SF", "S", "-RRB-", ";", "7", ":", "for", "every", "pattern", "p", "in", "F", "S", "or", "SF", "S", "do", "8", ":", "check", "sup", "-LRB-", "p", "-RRB-", ";", "9", ":", "if", "sup", "-LRB-", "p", "-RRB-", "=", "sup", "D", "-LRB-", "p", "-RRB-", "+", "sup", "-LRB-", "p", "-RRB-", "min", "sup", "10", ":", "insert", "-LRB-", "F", "S", ",", "p", "-RRB-", ";", "11", ":", "if", "sup", "LDB", "-LRB-", "p", "-RRB-", "-LRB-", "1", "-", "-RRB-", "min", "sup", "12", ":", "PrefixSpan", "-LRB-", "p", ",", "D", "|", "p", ",", "min", "sup", ",", "F", "S", ",", "SF", "S", "-RRB-", ";", "13", ":", "else", "14", ":", "insert", "-LRB-", "SF", "S", ",", "p", "-RRB-", ";", "15", ":", "return", ";", "Figure", "4", ":", "IncSpan", "algorithm", "s", "s", "a", "s", "'", "Figure", "5", ":", "Reverse", "Pattern", "Matching", "port", "increase", "of", "a", "sequential", "pattern", "in", "LDB", ".", "Since", "the", "appended", "items", "are", "always", "at", "the", "end", "part", "of", "the", "original", "sequence", ",", "reverse", "pattern", "matching", "would", "be", "more", "efficient", "than", "projection", "from", "the", "front", ".", "Given", "an", "original", "sequence", "s", ",", "an", "appended", "sequence", "s", "=", "s", "s", "a", ",", "and", "a", "sequential", "pattern", "p", ",", "we", "want", "to", "check", "whether", "the", "support", "of", "p", "will", "be", "increased", "by", "appending", "s", "a", "to", "s", ".", "There", "are", "two", "possibilities", ":", "1", ".", "If", "the", "last", "item", "of", "p", "is", "not", "supported", "by", "s", "a", ",", "whether", "p", "is", "supported", "by", "s", "or", "not", ",", "sup", "-LRB-", "p", "-RRB-", "is", "not", "increased", "when", "s", "grows", "to", "s", ".", "Therefore", ",", "as", "long", "as", "we", "do", "not", "find", "the", "last", "item", "of", "p", "in", "s", "a", ",", "we", "can", "prune", "searching", ".", "2", ".", "If", "the", "last", "item", "of", "p", "is", "supported", "by", "s", "a", ",", "we", "have", "to", "check", "whether", "s", "supports", "p", ".", "We", "check", "this", "by", "continuing", "in", "the", "reverse", "direction", ".", "If", "p", "is", "not", "supported", "by", "s", ",", "we", "can", "prune", "searching", "and", "keep", "sup", "-LRB-", "p", "-RRB-", "unchanged", ".", "Otherwise", "we", "have", "to", "check", "whether", "s", "supports", "p", ".", "If", "s", "supports", "p", ",", "keep", "sup", "-LRB-", "p", "-RRB-", "unchanged", ";", "otherwise", ",", "increase", "sup", "-LRB-", "p", "-RRB-", "by", "1", ".", "Figure", "5", "shows", "the", "reverse", "pattern", "matching", ".", "4.3", "Shared", "Projection", "Shared", "Projection", "is", "another", "optimization", "technique", "we", "exploit", ".", "Suppose", "we", "have", "two", "sequences", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "d", "-RRB-", "and", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "e", "-RRB-", ",", "and", "we", "need", "to", "project", "database", "using", "each", "as", "prefix", ".", "If", "we", "make", "two", "database", "projections", "individually", ",", "we", "do", "not", "take", "advantage", "of", "the", "similarity", "between", "the", "two", "subsequences", ".", "Actually", "the", "two", "projected", "databases", "up", "to", "subsequence", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", ",", "i.e.", ",", "D", "|", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "are", "the", "same", ".", "530", "Research", "Track", "Poster", "From", "D", "|", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", ",", "we", "do", "one", "more", "step", "projection", "for", "item", "d", "and", "e", "respectively", ".", "Then", "we", "can", "share", "the", "projection", "for", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", ".", "To", "use", "shared", "projection", ",", "when", "we", "detect", "some", "subsequence", "that", "needs", "projecting", "database", ",", "we", "do", "not", "do", "the", "projection", "immediately", ".", "Instead", "we", "label", "it", ".", "After", "finishing", "checking", "and", "labelling", "all", "the", "sequences", ",", "we", "do", "the", "projection", "by", "traversing", "the", "sequential", "pattern", "tree", ".", "Tree", "is", "natural", "for", "this", "task", "because", "the", "same", "subsequences", "are", "represented", "using", "shared", "branches", ".", "A", "comprehensive", "performance", "study", "has", "been", "conducted", "in", "our", "experiments", ".", "We", "use", "a", "synthetic", "data", "generator", "provided", "by", "IBM", ".", "The", "synthetic", "dataset", "generator", "can", "be", "re-trieved", "from", "an", "IBM", "website", ",", "http://www.almaden.ibm.com", "/", "cs/quest", ".", "The", "details", "about", "parameter", "settings", "can", "be", "re-ferred", "in", "-LSB-", "1", "-RSB-", ".", "All", "experiments", "are", "done", "on", "a", "PowerEdge", "6600", "server", "with", "Xeon", "2.8", ",", "4G", "memory", ".", "The", "algorithms", "are", "written", "in", "C++", "and", "compiled", "using", "g", "+", "+", "with", "-", "O3", "optimization", ".", "We", "compare", "three", "algorithms", ":", "IncSpan", ",", "an", "incremental", "mining", "algorithm", "ISM", "-LSB-", "7", "-RSB-", ",", "and", "a", "non-incremental", "algorithm", "PrefixSpan", "-LSB-", "8", "-RSB-", ".", "Figure", "6", "-LRB-", "a", "-RRB-", "shows", "the", "running", "time", "of", "three", "algorithms", "when", "min", "sup", "changes", "on", "the", "dataset", "D10C10T2", ".5", "N10", ",", "0.5", "%", "of", "which", "has", "been", "appended", "with", "transactions", ".", "IncSpan", "is", "the", "fastest", ",", "outperforming", "PrefixSpan", "by", "a", "factor", "of", "5", "or", "more", ",", "and", "outperforming", "ISM", "even", "more", ".", "ISM", "even", "can", "not", "finish", "within", "a", "time", "limit", "when", "the", "support", "is", "low", ".", "Figure", "6", "-LRB-", "b", "-RRB-", "shows", "how", "the", "three", "algorithms", "can", "be", "affected", "when", "we", "vary", "the", "percentage", "of", "sequences", "in", "the", "database", "that", "have", "been", "updated", ".", "The", "dataset", "we", "use", "is", "D10C10T2", ".5", "N10", ",", "min", "sup", "=", "1", "%", ".", "The", "buffer", "ratio", "=", "0.8", ".", "The", "curves", "show", "that", "the", "time", "increases", "as", "the", "incremental", "portion", "of", "the", "database", "increases", ".", "When", "the", "incremental", "part", "exceeds", "5", "%", "of", "the", "database", ",", "PrefixSpan", "outperforms", "IncSpan", ".", "This", "is", "because", "if", "the", "incremental", "part", "is", "not", "very", "small", ",", "the", "number", "of", "patterns", "brought", "by", "it", "increases", ",", "making", "a", "lot", "overhead", "for", "IncSpan", "to", "handle", ".", "In", "this", "case", ",", "mining", "from", "scratch", "is", "better", ".", "But", "IncSpan", "still", "outperforms", "ISM", "by", "a", "wide", "margin", "no", "matter", "what", "the", "parameter", "is", ".", "Figure", "6", "-LRB-", "c", "-RRB-", "shows", "the", "memory", "usage", "of", "IncSpan", "and", "ISM", ".", "The", "database", "is", "D10C10T2", ".5", "N10", ",", "min", "sup", "varies", "from", "0.4", "%", "to", "1.5", "%", ",", "buffer", "ratio", "=", "0.8", ".", "Memory", "usage", "of", "IncSpan", "increases", "linearly", "as", "min", "sup", "decreases", "while", "memory", "used", "by", "ISM", "increases", "dramatically", ".", "This", "is", "because", "the", "number", "of", "sequences", "in", "negative", "border", "increases", "sharply", "as", "min", "sup", "decreases", ".", "This", "figure", "verifies", "that", "negative", "border", "is", "a", "memory-consuming", "approach", ".", "Figure", "7", "-LRB-", "a", "-RRB-", "shows", "how", "the", "IncSpan", "algorithm", "can", "be", "affected", "by", "varying", "buffer", "ratio", ".", "Dataset", "is", "D10C10T2", ".5", "N10", ",", "5", "%", "of", "which", "is", "appended", "with", "new", "transactions", ".", "We", "use", "PrefixSpan", "as", "a", "baseline", ".", "As", "we", "have", "discussed", "before", ",", "if", "we", "set", "very", "high", ",", "we", "will", "have", "fewer", "pattern", "in", "SF", "S", ",", "then", "the", "support", "update", "for", "sequences", "in", "SF", "S", "on", "LDB", "will", "be", "more", "efficient", ".", "However", ",", "since", "we", "keep", "less", "information", "in", "SF", "S", ",", "we", "may", "need", "to", "spend", "more", "time", "on", "projecting", "databases", ".", "In", "the", "extreme", "case", "=", "1", ",", "SF", "S", "becomes", "empty", ".", "On", "the", "other", "hand", ",", "if", "we", "set", "the", "very", "low", ",", "we", "will", "have", "a", "large", "number", "of", "sequences", "in", "SF", "S", ",", "which", "makes", "the", "support", "update", "stage", "very", "slow", ".", "Experiment", "shows", ",", "when", "=", "0.8", ",", "it", "achieves", "the", "best", "performance", ".", "Figure", "7", "-LRB-", "b", "-RRB-", "shows", "the", "performance", "of", "IncSpan", "to", "handle", "multiple", "-LRB-", "5", "updates", "in", "this", "case", "-RRB-", "database", "updates", ".", "Each", "time", "the", "database", "is", "updated", ",", "we", "run", "PrefixSpan", "to", "mine", "from", "scratch", ".", "We", "can", "see", "from", "the", "figure", ",", "as", "the", "increments", "accumulate", ",", "the", "time", "for", "incremental", "mining", "increases", ",", "but", "increase", "is", "very", "small", "and", "the", "incremental", "mining", "still", "outperforms", "mining", "from", "scratch", "by", "a", "factor", "of", "4", "or", "5", ".", "This", "experiment", "shows", "that", "IncSpan", "can", "really", "handle", "multiple", "database", "updates", "without", "significant", "performance", "degrading", ".", "Figure", "7", "-LRB-", "c", "-RRB-", "shows", "the", "scalability", "of", "the", "three", "algorithms", "by", "varying", "the", "size", "of", "database", ".", "The", "number", "of", "sequences", "in", "databases", "vary", "from", "10,000", "to", "100,000", ".", "5", "%", "of", "each", "database", "is", "updated", ".", "min", "sup", "=", "0.8", "%", ".", "It", "shows", "that", "all", "three", "algorithms", "scale", "well", "with", "the", "database", "size", ".", "In", "sequential", "pattern", "mining", ",", "efficient", "algorithms", "like", "GSP", "-LSB-", "10", "-RSB-", ",", "SPADE", "-LSB-", "13", "-RSB-", ",", "PrefixSpan", "-LSB-", "8", "-RSB-", ",", "and", "SPAM", "-LSB-", "2", "-RSB-", "were", "developed", ".", "Partition", "-LSB-", "9", "-RSB-", "and", "FUP", "-LSB-", "3", "-RSB-", "are", "two", "algorithms", "which", "promote", "partitioning", "the", "database", ",", "mining", "local", "frequent", "itemsets", ",", "and", "then", "consolidating", "the", "global", "frequent", "itemsets", "by", "cross", "check", ".", "This", "is", "based", "on", "that", "a", "frequent", "itemset", "must", "be", "frequent", "in", "at", "least", "one", "local", "database", ".", "If", "a", "database", "is", "updated", "with", "INSERT", ",", "we", "can", "use", "this", "idea", "to", "do", "the", "incremental", "mining", ".", "Zhang", "et", "al.", "-LSB-", "14", "-RSB-", "developed", "two", "algorithms", "for", "incremental", "mining", "sequential", "patterns", "when", "sequences", "are", "inserted", "into", "or", "deleted", "from", "the", "original", "database", ".", "Parthasarathy", "et", "al.", "-LSB-", "7", "-RSB-", "developed", "an", "incremental", "mining", "algorithm", "ISM", "by", "maintaining", "a", "sequence", "lattice", "of", "an", "old", "database", ".", "The", "sequence", "lattice", "includes", "all", "the", "frequent", "sequences", "and", "all", "the", "sequences", "in", "the", "negative", "border", ".", "However", ",", "there", "are", "some", "disadvantages", "for", "using", "negative", "border", ":", "-LRB-", "1", "-RRB-", "The", "combined", "number", "of", "sequences", "in", "the", "frequent", "set", "and", "the", "negative", "border", "is", "huge", ";", "-LRB-", "2", "-RRB-", "The", "negative", "border", "is", "generated", "based", "on", "the", "structural", "relation", "between", "sequences", ".", "However", ",", "these", "sequences", "do", "not", "necessarily", "have", "high", "support", ".", "Therefore", ",", "using", "negative", "border", "is", "very", "time", "and", "memory", "consuming", ".", "Masseglia", "et", "al.", "-LSB-", "6", "-RSB-", "developed", "another", "incremental", "mining", "algorithm", "ISE", "using", "candidate", "generate-and-test", "approach", ".", "The", "problem", "of", "this", "algorithm", "is", "-LRB-", "1", "-RRB-", "the", "candidate", "set", "can", "be", "very", "huge", ",", "which", "makes", "the", "test-phase", "very", "slow", ";", "and", "-LRB-", "2", "-RRB-", "its", "level-wise", "working", "manner", "requires", "multiple", "scans", "of", "the", "whole", "database", ".", "This", "is", "very", "costly", ",", "especially", "when", "the", "sequences", "are", "long", ".", "In", "this", "paper", ",", "we", "investigated", "the", "issues", "for", "incremental", "mining", "of", "sequential", "patterns", "in", "large", "databases", "and", "addressed", "the", "inefficiency", "problem", "of", "mining", "the", "appended", "database", "from", "scratch", ".", "We", "proposed", "an", "algorithm", "IncSpan", "by", "exploring", "several", "novel", "techniques", "to", "balance", "efficiency", "and", "reusability", ".", "IncSpan", "outperforms", "the", "non-incremental", "method", "-LRB-", "using", "PrefixSpan", "-RRB-", "and", "a", "previously", "proposed", "incremental", "mining", "algorithm", "ISM", "by", "a", "wide", "margin", ".", "It", "is", "a", "promising", "algorithm", "to", "solve", "practical", "problems", "with", "many", "real", "applications", ".", "There", "are", "many", "interesting", "research", "problems", "related", "to", "IncSpan", "that", "should", "be", "pursued", "further", ".", "For", "example", ",", "incremental", "mining", "of", "closed", "sequential", "patterns", ",", "structured", "531", "Research", "Track", "Poster", "0.01", "0.1", "1", "10", "100", "1000", "0.03", "0.06", "0.1", "0.4", "0.6", "0.8", "1", "1.5", "minsup", "-LRB-", "%", "-RRB-", "Ti", "m", "e", "-LRB-", "s", "-RRB-", "IncSpan", "PrefixSpan", "ISM", "-LRB-", "a", "-RRB-", "varying", "min", "sup", "0.01", "0.1", "1", "10", "100", "0.5", "1", "2", "3", "4", "5", "Percent", "of", "growing", "seq", "-LRB-", "%", "-RRB-", "Ti", "m", "e", "-LRB-", "s", "-RRB-", "IncSpan", "PrefixSpan", "ISM", "-LRB-", "b", "-RRB-", "varying", "percentage", "of", "updated", "sequences", "1", "10", "100", "1000", "10000", "0.4", "0.6", "0.8", "1", "1.5", "minsup", "-LRB-", "%", "-RRB-", "Mem", "o", "ry", "U", "s", "a", "g", "e", "-LRB-", "M", "B", "-RRB-", "ISM", "IncSpan", "-LRB-", "c", "-RRB-", "Memory", "Usage", "under", "varied", "min", "sup", "Figure", "6", ":", "Performance", "study", "0", "8", "16", "24", "32", "40", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "PrefixSpan", "varying", "buffer", "ratio", "u", "Ti", "m", "e", "-LRB-", "s", "-RRB-", "T", "ime", "-LRB-", "a", "-RRB-", "varying", "buffer", "ratio", "0", "30", "60", "90", "120", "1", "2", "3", "4", "5", "Increment", "of", "database", "Ti", "m", "e", "-LRB-", "s", "-RRB-", "IncSpan", "PrefixSpan", "-LRB-", "b", "-RRB-", "multiple", "increments", "of", "database", "0.01", "0.1", "1", "10", "100", "1000", "10", "20", "50", "80", "100", "No", ".", "of", "S", "equences", "in", "1000", "Ti", "m", "e", "-LRB-", "s", "-RRB-", "IncSpan", "PrefixSpan", "ISM", "-LRB-", "c", "-RRB-", "varying", "#", "of", "sequences", "-LRB-", "in", "1000", "-RRB-", "in", "DB", "Figure", "7", ":", "Performance", "study", "patterns", "in", "databases", "and/or", "data", "streams", "are", "interesting", "problems", "for", "future", "research", ".", "-LSB-", "1", "-RSB-", "R.", "Agrawal", "and", "R.", "Srikant", ".", "Mining", "sequential", "patterns", ".", "In", "Proc", ".", "1995", "Int", ".", "Conf", ".", "Data", "Engineering", "-LRB-", "ICDE", "'", "95", "-RRB-", ",", "pages", "3", "14", ",", "March", "1995", ".", "-LSB-", "2", "-RSB-", "J.", "Ayres", ",", "J.", "E.", "Gehrke", ",", "T.", "Yiu", ",", "and", "J.", "Flannick", ".", "Sequential", "pattern", "mining", "using", "bitmaps", ".", "In", "Proc", ".", "2002", "ACM", "SIGKDD", "Int", ".", "Conf", ".", "Knowledge", "Discovery", "in", "Databases", "-LRB-", "KDD", "'", "02", "-RRB-", ",", "July", "2", "002", ".", "-LSB-", "3", "-RSB-", "D.", "Cheung", ",", "J.", "Han", ",", "V.", "Ng", ",", "and", "C.", "Wong", ".", "Maintenance", "of", "discovered", "association", "rules", "in", "large", "databases", ":", "An", "incremental", "update", "technique", ".", "In", "Proc", ".", "of", "the", "12th", "Int", ".", "Conf", ".", "on", "Data", "Engineering", "-LRB-", "ICDE", "'", "96", "-RRB-", ",", "March", "1996", ".", "-LSB-", "4", "-RSB-", "M.", "Garofalakis", ",", "R.", "Rastogi", ",", "and", "K.", "Shim", ".", "SPIRIT", ":", "Sequential", "pattern", "mining", "with", "regular", "expression", "constraints", ".", "In", "Proc", ".", "1999", "Int", ".", "Conf", ".", "Very", "Large", "Data", "Bases", "-LRB-", "VLDB", "'", "99", "-RRB-", ",", "pages", "223", "234", ",", "Sept", "1999", ".", "-LSB-", "5", "-RSB-", "H.", "Mannila", ",", "H.", "Toivonen", ",", "and", "A.", "I.", "Verkamo", ".", "Discovering", "frequent", "episodes", "in", "sequences", ".", "In", "Proc", ".", "1995", "Int", ".", "Conf", ".", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD", "'", "95", "-RRB-", ",", "pages", "210", "215", ",", "Aug", "1995", ".", "-LSB-", "6", "-RSB-", "F.", "Masseglia", ",", "P.", "Poncelet", ",", "and", "M.", "Teisseire", ".", "Incremental", "mining", "of", "sequential", "patterns", "in", "large", "databases", ".", "Data", "Knowl", ".", "Eng.", ",", "46", "-LRB-", "1", "-RRB-", ":", "97", "121", ",", "2003", ".", "-LSB-", "7", "-RSB-", "S.", "Parthasarathy", ",", "M.", "Zaki", ",", "M.", "Ogihara", ",", "and", "S.", "Dwarkadas", ".", "Incremental", "and", "interactive", "sequence", "mining", ".", "In", "Proc", ".", "of", "the", "8th", "Int", ".", "Conf", ".", "on", "Information", "and", "Knowledge", "Management", "-LRB-", "CIKM", "'", "99", "-RRB-", ",", "Nov", "1999", ".", "-LSB-", "8", "-RSB-", "J.", "Pei", ",", "J.", "Han", ",", "B.", "Mortazavi-Asl", ",", "H.", "Pinto", ",", "Q.", "Chen", ",", "U.", "Dayal", ",", "and", "M.-C", ".", "Hsu", ".", "PrefixSpan", ":", "Mining", "sequential", "patterns", "efficiently", "by", "prefix-projected", "pattern", "growth", ".", "In", "Proc", ".", "2001", "Int", ".", "Conf", ".", "Data", "Engineering", "-LRB-", "ICDE", "'", "01", "-RRB-", ",", "pages", "215", "224", ",", "April", "2001", ".", "-LSB-", "9", "-RSB-", "A.", "Savasere", ",", "E.", "Omiecinski", ",", "and", "S.", "Navathe", ".", "An", "efficient", "algorithm", "for", "mining", "association", "rules", "in", "large", "databases", ".", "In", "Proc", ".", "1995", "Int", ".", "Conf", ".", "Very", "Large", "Data", "Bases", "-LRB-", "VLDB", "'", "95", "-RRB-", ",", "Sept", "1995", ".", "-LSB-", "10", "-RSB-", "R.", "Srikant", "and", "R.", "Agrawal", ".", "Mining", "sequential", "patterns", ":", "Generalizations", "and", "performance", "improvements", ".", "In", "Proc", ".", "of", "the", "5th", "Int", ".", "Conf", ".", "on", "Extending", "Database", "Technology", "-LRB-", "EDBT", "'", "96", "-RRB-", ",", "Mar", "1996", ".", "-LSB-", "11", "-RSB-", "J.", "Wang", "and", "J.", "Han", ".", "Bide", ":", "Efficient", "mining", "of", "frequent", "closed", "sequences", ".", "In", "Proc", ".", "of", "2004", "Int", ".", "Conf", ".", "on", "Data", "Engineering", "-LRB-", "ICDE", "'", "04", "-RRB-", ",", "March", "2004", ".", "-LSB-", "12", "-RSB-", "X.", "Yan", ",", "J.", "Han", ",", "and", "R.", "Afshar", ".", "CloSpan", ":", "Mining", "closed", "sequential", "patterns", "in", "large", "datasets", ".", "In", "Proc", ".", "2003", "SIAM", "Int.Conf", ".", "on", "Data", "Mining", "-LRB-", "SDM", "'", "03", "-RRB-", ",", "May", "2003", ".", "-LSB-", "13", "-RSB-", "M.", "Zaki", ".", "SPADE", ":", "An", "efficient", "algorithm", "for", "mining", "frequent", "sequences", ".", "Machine", "Learning", ",", "40:31", "60", ",", "2001", ".", "-LSB-", "14", "-RSB-", "M.", "Zhang", ",", "B.", "Kao", ",", "D.", "Cheung", ",", "and", "C.", "Yip", ".", "Efficient", "algorithms", "for", "incremental", "updates", "of", "frequent", "sequences", ".", "In", "Proc", ".", "of", "Pacific-Asia", "Conf", ".", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "PAKDD", "'", "02", "-RRB-", ",", "May", "2002", ".", "532", "Research", "Track", "Poster"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["sequential pattern", "database updates", "shared projection", "optimization", "buffering patterns", "frequent itemsets", "incremental mining", "reverse pattern matching", "sequence database"], "abstractive_keyphrases": ["buffering pattern"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "100", "document": ["High", "Performance", "Crawling", "System", "In", "the", "present", "paper", ",", "we", "will", "describe", "the", "design", "and", "implementation", "of", "a", "real-time", "distributed", "system", "of", "Web", "crawling", "running", "on", "a", "cluster", "of", "machines", ".", "The", "system", "crawls", "several", "thousands", "of", "pages", "every", "second", ",", "includes", "a", "high-performance", "fault", "manager", ",", "is", "platform", "independent", "and", "is", "able", "to", "adapt", "transparently", "to", "a", "wide", "range", "of", "configurations", "without", "incurring", "additional", "hardware", "expenditure", ".", "We", "will", "then", "provide", "details", "of", "the", "system", "architecture", "and", "describe", "the", "technical", "choices", "for", "very", "high", "performance", "crawling", ".", "Finally", ",", "we", "will", "discuss", "the", "experimental", "results", "obtained", ",", "comparing", "them", "with", "other", "documented", "systems", ".", "D.", "1.3", "-LSB-", "Concurrent", "Programming", "-RSB-", ":", "Distributed", "programming", ";", "C.", "4", "-LSB-", "Performance", "of", "Systems", "-RSB-", ":", "Fault", "tolerance", ";", "H.", "3.7", "-LSB-", "Digital", "Libraries", "-RSB-", ":", "Systems", "issues", "With", "the", "World", "Wide", "Web", "containing", "the", "vast", "amount", "of", "information", "-LRB-", "several", "thousands", "in", "1993", ",", "3", "billion", "today", "-RRB-", "that", "it", "does", "and", "the", "fact", "that", "it", "is", "ever", "expanding", ",", "we", "need", "a", "way", "to", "find", "the", "right", "information", "-LRB-", "multimedia", "of", "textual", "-RRB-", ".", "We", "need", "a", "way", "to", "access", "the", "information", "on", "specific", "subjects", "that", "we", "require", ".", "To", "solve", "the", "problems", "above", "several", "programs", "and", "algorithms", "were", "designed", "that", "index", "the", "web", ",", "these", "various", "designs", "are", "known", "as", "search", "engines", ",", "spiders", ",", "crawlers", ",", "worms", "or", "knowledge", "robots", "graph", "in", "its", "simplest", "terms", ".", "The", "pages", "are", "the", "nodes", "on", "the", "graph", "and", "the", "links", "are", "the", "arcs", "on", "the", "graph", ".", "What", "makes", "this", "so", "difficult", "is", "the", "vast", "amount", "of", "data", "that", "we", "have", "to", "handle", ",", "and", "then", "we", "must", "also", "take", "into", "account", "the", "fact", "that", "the", "World", "Wide", "Web", "is", "constantly", "growing", "and", "the", "fact", "that", "people", "are", "constantly", "updating", "the", "content", "of", "their", "web", "pages", ".", "Any", "High", "performance", "crawling", "system", "should", "offer", "at", "least", "the", "following", "two", "features", ".", "Firstly", ",", "it", "needs", "to", "be", "equipped", "with", "an", "intelligent", "navigation", "strategy", ",", "i.e.", "enabling", "it", "to", "make", "decisions", "regarding", "the", "choice", "of", "subsequent", "actions", "to", "be", "taken", "-LRB-", "pages", "to", "be", "downloaded", "etc", "-RRB-", ".", "Secondly", ",", "its", "supporting", "hardware", "and", "software", "architecture", "should", "be", "optimized", "to", "crawl", "large", "quantities", "of", "documents", "per", "unit", "of", "time", "-LRB-", "generally", "per", "second", "-RRB-", ".", "To", "this", "we", "may", "add", "fault", "tolerance", "-LRB-", "machine", "crash", ",", "network", "failure", "etc.", "-RRB-", "and", "considerations", "of", "Web", "server", "resources", ".", "Recently", "we", "have", "seen", "a", "small", "interest", "in", "these", "two", "field", ".", "Studies", "on", "the", "first", "point", "include", "crawling", "strategies", "for", "important", "pages", "-LSB-", "9", ",", "17", "-RSB-", ",", "topic-specific", "document", "downloading", "-LSB-", "5", ",", "6", ",", "18", ",", "10", "-RSB-", ",", "page", "recrawling", "to", "optimize", "overall", "refresh", "frequency", "of", "a", "Web", "archive", "-LSB-", "8", ",", "7", "-RSB-", "or", "scheduling", "the", "downloading", "activity", "according", "to", "time", "-LSB-", "22", "-RSB-", ".", "However", ",", "little", "research", "has", "been", "devoted", "to", "the", "second", "point", ",", "being", "very", "difficult", "to", "implement", "-LSB-", "20", ",", "13", "-RSB-", ".", "We", "will", "focus", "on", "this", "latter", "point", "in", "the", "rest", "of", "this", "paper", ".", "Indeed", ",", "only", "a", "few", "crawlers", "are", "equipped", "with", "an", "optimized", "scalable", "crawling", "system", ",", "yet", "details", "of", "their", "internal", "workings", "often", "remain", "obscure", "-LRB-", "the", "majority", "being", "proprietary", "solutions", "-RRB-", ".", "The", "only", "system", "to", "have", "been", "given", "a", "fairly", "in-depth", "description", "in", "existing", "literature", "is", "Mercator", "by", "Heydon", "and", "Najork", "of", "DEC/Compaq", "-LSB-", "13", "-RSB-", "used", "in", "the", "AltaVista", "search", "engine", "-LRB-", "some", "details", "also", "exist", "on", "the", "first", "version", "of", "the", "Google", "-LSB-", "3", "-RSB-", "and", "Internet", "Archive", "-LSB-", "4", "-RSB-", "robots", "-RRB-", ".", "Most", "recent", "studies", "on", "crawling", "strategy", "fail", "to", "deal", "with", "these", "features", ",", "contenting", "themselves", "with", "the", "solution", "of", "minor", "issues", "such", "as", "the", "calculation", "of", "the", "number", "of", "pages", "to", "be", "downloaded", "in", "order", "to", "maximize/minimize", "some", "functional", "objective", ".", "This", "may", "be", "acceptable", "in", "the", "case", "of", "small", "applications", ",", "but", "for", "real", "time", "1", "applications", "the", "system", "must", "deal", "with", "a", "much", "larger", "number", "of", "constraints", ".", "We", "should", "also", "point", "out", "that", "little", "academic", "research", "is", "concerned", "with", "high", "performance", "search", "engines", ",", "as", "compared", "with", "their", "commercial", "counterparts", "-LRB-", "with", "the", "exception", "of", "the", "WebBase", "project", "-LSB-", "14", "-RSB-", "at", "Stanford", "-RRB-", ".", "In", "the", "present", "paper", ",", "we", "will", "describe", "a", "very", "high", "availability", ",", "optimized", "and", "distributed", "crawling", "system", ".", "We", "will", "use", "the", "system", "on", "what", "is", "known", "as", "breadth-first", "crawling", ",", "though", "this", "may", "be", "easily", "adapted", "to", "other", "navigation", "strategies", ".", "We", "will", "first", "focus", "on", "input/output", ",", "on", "management", "of", "network", "traffic", "and", "robustness", "when", "changing", "scale", ".", "We", "will", "also", "discuss", "download", "policies", "in", "1", "``", "Soft", "''", "real", "time", "299", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MIR", "'", "04", ",", "October", "15", "16", ",", "2004", ",", "New", "York", ",", "New", "York", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-940-3", "/", "04/0010", "...", "$", "5.00", ".", "terms", "of", "speed", "regulation", ",", "fault", "management", "by", "supervisors", "and", "the", "introduction/suppression", "of", "machine", "nodes", "without", "system", "restart", "during", "a", "crawl", ".", "Our", "system", "was", "designed", "within", "the", "experimental", "framework", "of", "the", "D", "ep", "^", "ot", "L", "egal", "du", "Web", "Fran", "cais", "-LRB-", "French", "Web", "Legal", "Deposit", "-RRB-", ".", "This", "consists", "of", "archiving", "only", "multimedia", "documents", "in", "French", "available", "on", "line", ",", "indexing", "them", "and", "providing", "ways", "for", "these", "archives", "to", "be", "consulted", ".", "Legal", "deposit", "requires", "a", "real", "crawling", "strategy", "in", "order", "to", "ensure", "site", "continuity", "over", "time", ".", "The", "notion", "of", "registration", "is", "closely", "linked", "to", "that", "of", "archiving", ",", "which", "requires", "a", "suitable", "strategy", "to", "be", "useful", ".", "In", "the", "course", "of", "our", "discussion", ",", "we", "will", "therefore", "analyze", "the", "implication", "and", "impact", "of", "this", "experimentation", "for", "system", "construction", ".", "In", "order", "to", "set", "our", "work", "in", "this", "field", "in", "context", ",", "listed", "below", "are", "definitions", "of", "services", "that", "should", "be", "considered", "the", "minimum", "requirements", "for", "any", "large-scale", "crawling", "system", ".", "Flexibility", ":", "as", "mentioned", "above", ",", "with", "some", "minor", "adjustments", "our", "system", "should", "be", "suitable", "for", "various", "scenarios", ".", "However", ",", "it", "is", "important", "to", "remember", "that", "crawling", "is", "established", "within", "a", "specific", "framework", ":", "namely", ",", "Web", "legal", "deposit", ".", "High", "Performance", ":", "the", "system", "needs", "to", "be", "scalable", "with", "a", "minimum", "of", "one", "thousand", "pages/second", "and", "extending", "up", "to", "millions", "of", "pages", "for", "each", "run", "on", "low", "cost", "hardware", ".", "Note", "that", "here", ",", "the", "quality", "and", "efficiency", "of", "disk", "access", "are", "crucial", "to", "maintaining", "high", "performance", ".", "Fault", "Tolerance", ":", "this", "may", "cover", "various", "aspects", ".", "As", "the", "system", "interacts", "with", "several", "servers", "at", "once", ",", "specific", "problems", "emerge", ".", "First", ",", "it", "should", "at", "least", "be", "able", "to", "process", "invalid", "HTML", "code", ",", "deal", "with", "unexpected", "Web", "server", "behavior", ",", "and", "select", "good", "communication", "protocols", "etc.", ".", "The", "goal", "here", "is", "to", "avoid", "this", "type", "of", "problem", "and", ",", "by", "force", "of", "circumstance", ",", "to", "be", "able", "to", "ignore", "such", "problems", "completely", ".", "Second", ",", "crawling", "processes", "may", "take", "days", "or", "weeks", ",", "and", "it", "is", "imperative", "that", "the", "system", "can", "handle", "failure", ",", "stopped", "processes", "or", "interruptions", "in", "network", "services", ",", "keeping", "data", "loss", "to", "a", "minimum", ".", "Finally", ",", "the", "system", "should", "be", "persistent", ",", "which", "means", "periodically", "switching", "large", "data", "structures", "from", "memory", "to", "the", "disk", "-LRB-", "e.g.", "restart", "after", "failure", "-RRB-", ".", "Maintainability", "and", "Configurability", ":", "an", "appropriate", "interface", "is", "necessary", "for", "monitoring", "the", "crawling", "process", ",", "including", "download", "speed", ",", "statistics", "on", "the", "pages", "and", "amounts", "of", "data", "stored", ".", "In", "online", "mode", ",", "the", "administrator", "may", "adjust", "the", "speed", "of", "a", "given", "crawler", ",", "add", "or", "delete", "processes", ",", "stop", "the", "system", ",", "add", "or", "delete", "system", "nodes", "and", "supply", "the", "black", "list", "of", "domains", "not", "to", "be", "visited", ",", "etc.", "2.2", "General", "Crawling", "Strategies", "There", "are", "many", "highly", "accomplished", "techniques", "in", "terms", "of", "Web", "crawling", "strategy", ".", "We", "will", "describe", "the", "most", "relevant", "of", "these", "here", ".", "Breadth-first", "Crawling", ":", "in", "order", "to", "build", "a", "wide", "Web", "archive", "like", "that", "of", "the", "Internet", "Archive", "-LSB-", "15", "-RSB-", ",", "a", "crawl", "is", "carried", "out", "from", "a", "set", "of", "Web", "pages", "-LRB-", "initial", "URLs", "or", "seeds", "-RRB-", ".", "A", "breadth-first", "exploration", "is", "launched", "by", "following", "hypertext", "links", "leading", "to", "those", "pages", "directly", "connected", "with", "this", "initial", "set", ".", "In", "fact", ",", "Web", "sites", "are", "not", "really", "browsed", "breadth-first", "and", "various", "restrictions", "may", "apply", ",", "e.g.", "limiting", "crawling", "processes", "to", "within", "a", "site", ",", "or", "downloading", "the", "pages", "deemed", "most", "interesting", "first", "2", "Repetitive", "Crawling", ":", "once", "pages", "have", "been", "crawled", ",", "some", "systems", "require", "the", "process", "to", "be", "repeated", "periodically", "so", "that", "indexes", "are", "kept", "updated", ".", "In", "the", "most", "basic", "case", ",", "this", "may", "be", "achieved", "by", "launching", "a", "second", "crawl", "in", "parallel", ".", "A", "variety", "of", "heuristics", "exist", "to", "overcome", "this", "problem", ":", "for", "example", ",", "by", "frequently", "relaunching", "the", "crawling", "process", "of", "pages", ",", "sites", "or", "domains", "considered", "important", "to", "the", "detriment", "of", "others", ".", "A", "good", "crawling", "strategy", "is", "crucial", "for", "maintaining", "a", "constantly", "updated", "index", "list", ".", "Recent", "studies", "by", "Cho", "and", "Garcia-Molina", "-LSB-", "8", ",", "7", "-RSB-", "have", "focused", "on", "optimizing", "the", "update", "frequency", "of", "crawls", "by", "using", "the", "history", "of", "changes", "recorded", "on", "each", "site", ".", "Targeted", "Crawling", ":", "more", "specialized", "search", "engines", "use", "crawling", "process", "heuristics", "in", "order", "to", "target", "a", "certain", "type", "of", "page", ",", "e.g.", "pages", "on", "a", "specific", "topic", "or", "in", "a", "particular", "language", ",", "images", ",", "mp3", "files", "or", "scientific", "papers", ".", "In", "addition", "to", "these", "heuristics", ",", "more", "generic", "approaches", "have", "been", "suggested", ".", "They", "are", "based", "on", "the", "analysis", "of", "the", "structures", "of", "hypertext", "links", "-LSB-", "6", ",", "5", "-RSB-", "and", "techniques", "of", "learning", "-LSB-", "9", ",", "18", "-RSB-", ":", "the", "objective", "here", "being", "to", "retrieve", "the", "greatest", "number", "of", "pages", "relating", "to", "a", "particular", "subject", "by", "using", "the", "minimum", "bandwidth", ".", "Most", "of", "the", "studies", "cited", "in", "this", "category", "do", "not", "use", "high", "performance", "crawlers", ",", "yet", "succeed", "in", "producing", "acceptable", "results", ".", "Random", "Walks", "and", "Sampling", ":", "some", "studies", "have", "focused", "on", "the", "effect", "of", "random", "walks", "on", "Web", "graphs", "or", "modified", "versions", "of", "these", "graphs", "via", "sampling", "in", "order", "to", "estimate", "the", "size", "of", "documents", "on", "line", "-LSB-", "1", ",", "12", ",", "11", "-RSB-", ".", "Deep", "Web", "Crawling", ":", "a", "lot", "of", "data", "accessible", "via", "the", "Web", "are", "currently", "contained", "in", "databases", "and", "may", "only", "be", "downloaded", "through", "the", "medium", "of", "appropriate", "requests", "or", "forms", ".", "Recently", ",", "this", "often-neglected", "but", "fascinating", "problem", "has", "been", "the", "focus", "of", "new", "interest", ".", "The", "Deep", "Web", "is", "the", "name", "given", "to", "the", "Web", "containing", "this", "category", "of", "data", "-LSB-", "9", "-RSB-", ".", "Lastly", ",", "we", "should", "point", "out", "the", "acknowledged", "differences", "that", "exist", "between", "these", "scenarios", ".", "For", "example", ",", "a", "breadth-first", "search", "needs", "to", "keep", "track", "of", "all", "pages", "already", "crawled", ".", "An", "analysis", "of", "links", "should", "use", "structures", "of", "additional", "data", "to", "represent", "the", "graph", "of", "the", "sites", "in", "question", ",", "and", "a", "system", "of", "classifiers", "in", "order", "to", "assess", "the", "pages", "'", "relevancy", "-LSB-", "6", ",", "5", "-RSB-", ".", "However", ",", "some", "tasks", "are", "common", "to", "all", "scenarios", ",", "such", "as", "2", "See", "-LSB-", "9", "-RSB-", "for", "the", "heuristics", "that", "tend", "to", "find", "the", "most", "important", "pages", "first", "and", "-LSB-", "17", "-RSB-", "for", "experimental", "results", "proving", "that", "breadth-first", "crawling", "allows", "the", "swift", "retrieval", "of", "pages", "with", "a", "high", "PageRank", ".", "300", "respecting", "robot", "exclusion", "files", "-LRB-", "robots.txt", "-RRB-", ",", "crawling", "speed", ",", "resolution", "of", "domain", "names", "...", "In", "the", "early", "1990s", ",", "several", "companies", "claimed", "that", "their", "search", "engines", "were", "able", "to", "provide", "complete", "Web", "coverage", ".", "It", "is", "now", "clear", "that", "only", "partial", "coverage", "is", "possible", "at", "present", ".", "Lawrence", "and", "Giles", "-LSB-", "16", "-RSB-", "carried", "out", "two", "experiments", "in", "order", "to", "measure", "coverage", "performance", "of", "data", "established", "by", "crawlers", "and", "of", "their", "updates", ".", "They", "adopted", "an", "approach", "known", "as", "overlap", "analysis", "to", "estimate", "the", "size", "of", "the", "Web", "that", "may", "be", "indexed", "-LRB-", "See", "also", "Bharat", "and", "Broder", "1998", "on", "the", "same", "subject", "-RRB-", ".", "Let", "W", "be", "the", "total", "set", "of", "Web", "pages", "and", "W", "a", "W", "and", "W", "b", "W", "the", "pages", "downloaded", "by", "two", "different", "crawlers", "a", "and", "b", ".", "What", "is", "the", "size", "of", "W", "a", "and", "W", "b", "as", "compared", "with", "W", "?", "Let", "us", "assume", "that", "uniform", "samples", "of", "Web", "pages", "may", "be", "taken", "and", "their", "membership", "of", "both", "sets", "tested", ".", "Let", "P", "-LRB-", "W", "a", "-RRB-", "and", "P", "-LRB-", "W", "b", "-RRB-", "be", "the", "probability", "that", "a", "page", "is", "downloaded", "by", "a", "or", "b", "respectively", ".", "We", "know", "that", ":", "P", "-LRB-", "W", "a", "W", "b", "|", "W", "b", "-RRB-", "=", "W", "a", "W", "b", "|", "W", "b", "|", "-LRB-", "1", "-RRB-", "Now", ",", "if", "these", "two", "crawling", "processes", "are", "assumed", "to", "be", "independent", ",", "the", "left", "side", "of", "equation", "1may", "be", "reduced", "to", "P", "-LRB-", "W", "a", "-RRB-", ",", "that", "is", "data", "coverage", "by", "crawler", "a", ".", "This", "may", "be", "easily", "obtained", "by", "the", "intersection", "size", "of", "the", "two", "crawling", "processes", ".", "However", ",", "an", "exact", "calculation", "of", "this", "quantity", "is", "only", "possible", "if", "we", "do", "not", "really", "know", "the", "documents", "crawled", ".", "Lawrence", "and", "Giles", "used", "a", "set", "of", "controlled", "data", "of", "575", "requests", "to", "provide", "page", "samples", "and", "count", "the", "number", "of", "times", "that", "the", "two", "crawlers", "retrieved", "the", "same", "pages", ".", "By", "taking", "the", "hypothesis", "that", "the", "result", "P", "-LRB-", "W", "a", "-RRB-", "is", "correct", ",", "we", "may", "estimate", "the", "size", "of", "the", "Web", "as", "|", "W", "a", "|", "/", "P", "-LRB-", "W", "a", "-RRB-", ".", "This", "approach", "has", "shown", "that", "the", "Web", "contained", "at", "least", "320", "million", "pages", "in", "1997", "and", "that", "only", "60", "%", "was", "covered", "by", "the", "six", "major", "search", "engines", "of", "that", "time", ".", "It", "is", "also", "interesting", "to", "note", "that", "a", "single", "search", "engine", "would", "have", "covered", "only", "1/3", "of", "the", "Web", ".", "As", "this", "approach", "is", "based", "on", "observation", ",", "it", "may", "reflect", "a", "visible", "Web", "estimation", ",", "excluding", "for", "instance", "pages", "behind", "forms", ",", "databases", "etc.", ".", "More", "recent", "experiments", "assert", "that", "the", "Web", "contains", "several", "billion", "pages", ".", "2.2.1", "Selective", "Crawling", "As", "demonstrated", "above", ",", "a", "single", "crawler", "can", "not", "archive", "the", "whole", "Web", ".", "The", "fact", "is", "that", "the", "time", "required", "to", "carry", "out", "the", "complete", "crawling", "process", "is", "very", "long", ",", "and", "impossible", "given", "the", "technology", "currently", "available", ".", "Furthermore", ",", "crawling", "and", "indexing", "very", "large", "amounts", "of", "data", "implies", "great", "problems", "of", "scalability", ",", "and", "consequently", "entails", "not", "inconsiderable", "costs", "of", "hardware", "and", "maintenance", ".", "For", "maximum", "optimization", ",", "a", "crawling", "system", "should", "be", "able", "to", "recognize", "relevant", "sites", "and", "pages", ",", "and", "restrict", "itself", "to", "downloading", "within", "a", "limited", "time", ".", "A", "document", "or", "Web", "page", "'s", "relevancy", "may", "be", "officially", "recognized", "in", "various", "ways", ".", "The", "idea", "of", "selective", "crawling", "may", "be", "introduced", "intuitively", "by", "associating", "each", "URL", "u", "with", "a", "score", "calculation", "function", "s", "-LRB-", "-RRB-", "respecting", "relevancy", "criterion", "and", "parameters", ".", "In", "the", "most", "basic", "case", ",", "we", "may", "assume", "a", "Boolean", "relevancy", "function", ",", "i.e.", "s", "-LRB-", "u", "-RRB-", "=", "1", "if", "the", "document", "designated", "by", "u", "is", "relevant", "and", "s", "-LRB-", "u", "-RRB-", "=", "0", "if", "not", ".", "More", "generally", ",", "we", "may", "think", "of", "s", "-LRB-", "d", "-RRB-", "as", "a", "function", "with", "real", "values", ",", "such", "as", "a", "conditional", "probability", "that", "a", "document", "belongs", "to", "a", "certain", "category", "according", "to", "its", "content", ".", "In", "all", "cases", ",", "we", "should", "point", "out", "that", "the", "score", "calculation", "function", "depends", "only", "on", "the", "URL", "and", "and", "not", "on", "the", "time", "or", "state", "of", "the", "crawler", ".", "A", "general", "approach", "for", "the", "construction", "of", "a", "selective", "crawler", "consists", "of", "changing", "the", "URL", "insertion", "and", "extraction", "policy", "in", "the", "queue", "Q", "of", "the", "crawler", ".", "Let", "us", "assume", "that", "the", "URLs", "are", "sorted", "in", "the", "order", "corresponding", "to", "the", "value", "retrieved", "by", "s", "-LRB-", "u", "-RRB-", ".", "In", "this", "case", ",", "we", "obtain", "the", "best-first", "strategy", "-LRB-", "see", "-LSB-", "19", "-RSB-", "-RRB-", "which", "consists", "of", "downloading", "URLs", "with", "the", "best", "scores", "first", "-RRB-", ".", "If", "s", "-LRB-", "u", "-RRB-", "provides", "a", "good", "relevancy", "model", ",", "we", "may", "hope", "that", "the", "search", "process", "will", "be", "guided", "towards", "the", "best", "areas", "of", "the", "Web", ".", "Various", "studies", "have", "been", "carried", "out", "in", "this", "direction", ":", "for", "example", ",", "limiting", "the", "search", "depth", "in", "a", "site", "by", "specifying", "that", "pages", "are", "no", "longer", "relevant", "after", "a", "certain", "depth", ".", "This", "amounts", "to", "the", "following", "equation", ":", "s", "-LRB-", "depth", "-RRB-", "-LRB-", "u", "-RRB-", "=", "1", ",", "if", "|", "root", "-LRB-", "u", "-RRB-", "u", "|", "<", "0", ",", "else", "-LRB-", "2", "-RRB-", "where", "root", "-LRB-", "u", "-RRB-", "is", "the", "root", "of", "the", "site", "containing", "u", ".", "The", "interest", "of", "this", "approach", "lies", "in", "the", "fact", "that", "maximizing", "the", "search", "breadth", "may", "make", "it", "easier", "for", "the", "end-user", "to", "retrieve", "the", "information", ".", "Nevertheless", ",", "pages", "that", "are", "too", "deep", "may", "be", "accessed", "by", "the", "user", ",", "even", "if", "the", "robot", "fails", "to", "take", "them", "into", "account", ".", "A", "second", "possibility", "is", "the", "estimation", "of", "a", "page", "'s", "popularity", ".", "One", "method", "of", "calculating", "a", "document", "'s", "relevancy", "would", "relate", "to", "the", "number", "of", "backlinks", ".", "s", "-LRB-", "backlinks", "-RRB-", "-LRB-", "u", "-RRB-", "=", "1", ",", "if", "indegree", "-LRB-", "u", "-RRB-", ">", "0", ",", "else", "-LRB-", "3", "-RRB-", "where", "is", "a", "threshold", ".", "It", "is", "clear", "that", "s", "-LRB-", "backlinks", "-RRB-", "-LRB-", "u", "-RRB-", "may", "only", "be", "calculated", "if", "we", "have", "a", "complete", "site", "graph", "-LRB-", "site", "already", "downloaded", "beforehand", "-RRB-", ".", "In", "practice", ",", "we", "make", "take", "an", "approximate", "value", "and", "update", "it", "incrementally", "during", "the", "crawling", "process", ".", "A", "derivative", "of", "this", "technique", "is", "used", "in", "Google", "'s", "famous", "PageRank", "calculation", ".", "As", "mentioned", "above", ",", "we", "have", "divided", "the", "system", "into", "two", "parts", ":", "workers", "and", "supervisors", ".", "All", "of", "these", "processes", "may", "be", "run", "on", "various", "operating", "systems", "-LRB-", "Windows", ",", "MacOS", "X", ",", "Linux", ",", "FreeBSD", "-RRB-", "and", "may", "be", "replicated", "if", "need", "be", ".", "The", "workers", "are", "responsible", "for", "processing", "the", "URL", "flow", "coming", "from", "their", "supervisors", "and", "for", "executing", "crawling", "process", "tasks", "in", "the", "strict", "sense", ".", "They", "also", "handle", "the", "resolution", "of", "domain", "names", "by", "means", "of", "their", "integrated", "DNS", "resolver", ",", "and", "adjust", "download", "speed", "in", "accordance", "with", "node", "policy", ".", "A", "worker", "is", "a", "light", "process", "in", "the", "Erlang", "sense", ",", "acting", "as", "a", "fault", "tolerant", "and", "highly", "available", "HTTP", "client", ".", "The", "process-handling", "mode", "in", "Erlang", "makes", "it", "possible", "to", "create", "several", "thousands", "of", "workers", "in", "parallel", ".", "In", "our", "system", ",", "communication", "takes", "place", "mainly", "by", "sending", "asynchronous", "messages", "as", "described", "in", "the", "specifications", "for", "Erlang", "language", ".", "The", "type", "of", "message", "varies", "according", "to", "need", ":", "character", "string", "for", "short", "messages", "and", "binary", "format", "for", "long", "messages", "-LRB-", "large", "data", "structures", "or", "files", "-RRB-", ".", "Disk", "access", "is", "reduced", "to", "a", "minimum", "as", "far", "as", "possible", "and", "structures", "are", "stored", "in", "the", "real-time", "Mnesia", "3", "database", "that", "forms", "3", "http://www.erlang.org/doc/r9c/lib/mnesia-4", ".1.4", "/", "doc/html", "/", "301", "a", "standard", "part", "of", "the", "Erlang", "development", "kit", ".", "Mnesia", "'s", "features", "give", "it", "a", "high", "level", "of", "homogeneity", "during", "the", "base", "'s", "access", ",", "replication", "and", "deployment", ".", "It", "is", "supported", "by", "two", "table", "management", "modules", "ETS", "and", "DETS", ".", "ETS", "allows", "tables", "of", "values", "to", "be", "managed", "by", "random", "access", "memory", ",", "while", "DETS", "provides", "a", "persistent", "form", "of", "management", "on", "the", "disk", ".", "Mnesia", "'s", "distribution", "faculty", "provides", "an", "efficient", "access", "solution", "for", "distributed", "data", ".", "When", "a", "worker", "moves", "from", "one", "node", "to", "another", "-LRB-", "code", "migration", "-RRB-", ",", "it", "no", "longer", "need", "be", "concerned", "with", "the", "location", "of", "the", "base", "or", "data", ".", "It", "simply", "has", "to", "read", "and", "write", "the", "information", "transparently", ".", "1", "loop", "-LRB-", "InternalState", "-RRB-", "-", ">", "%", "Supervisor", "main", "2", "%", "loop", "3", "receive", "-LCB-", "From", ",", "-LCB-", "migrate", ",", "Worker", ",", "Src", ",", "Dest", "-RCB-", "-RCB-", "-", ">", "4", "%", "Migrate", "the", "Worker", "process", "from", "5", "%", "Src", "node", "to", "Dest", "node", "6", "spawn", "-LRB-", "supervisor", ",", "migrate", ",", "7", "-LSB-", "Worker", ",", "Src", ",", "Dest", "-RSB-", "-RRB-", ",", "8", "%", "Infinite", "loop", "9", "loop", "-LRB-", "InternalState", "-RRB-", ";", "10", "11", "-LCB-", "From", ",", "-LCB-", "replace", ",", "OldPid", ",", "NewPid", ",", "State", "-RCB-", "-RCB-", "-", ">", "12", "%", "Add", "the", "new", "worker", "to", "13", "%", "the", "supervisor", "state", "storage", "14", "NewInternalState", "=", "15", "replace", "-LRB-", "OldPid", ",", "NewPid", ",", "InternalState", "-RRB-", ",", "16", "%", "Infinite", "loop", "17", "loop", "-LRB-", "NewInternalState", "-RRB-", ";", "18", "...", "19", "end", ".", "20", "21", "migrate", "-LRB-", "Pid", ",", "Src", ",", "Dest", "-RRB-", "-", ">", "%", "Migration", "22", "%", "process", "23", "receive", "24", "Pid", "!", "-LCB-", "self", "-LRB-", "-RRB-", ",", "stop", "-RCB-", ",", "25", "receive", "26", "-LCB-", "Pid", ",", "-LCB-", "stopped", ",", "LastState", "-RCB-", "-RCB-", "-", ">", "27", "NewPid", "=", "spawn", "-LCB-", "Dest", ",", "worker", ",", "proc", ",", "28", "-LSB-", "LastState", "-RSB-", "-RCB-", ",", "29", "self", "-LRB-", "-RRB-", "!", "-LCB-", "self", "-LRB-", "-RRB-", ",", "-LCB-", "replace", ",", "Pid", ",", "30", "NewPid", ",", "LastState", "-RCB-", "-RCB-", ";", "31", "-LCB-", "Pid", ",", "Error", "-RCB-", "-", ">", "...", "32", "end", ".", "Listing", "1", ":", "Process", "Migration", "Code", "1describes", "the", "migration", "of", "a", "worker", "process", "from", "one", "node", "Src", "to", "another", "Dest", ".", "4", "The", "supervisor", "receives", "the", "migration", "order", "for", "process", "P", "id", "-LRB-", "line", "4", "-RRB-", ".", "The", "migration", "action", "is", "not", "blocking", "and", "is", "performed", "in", "a", "different", "Erlang", "process", "-LRB-", "line", "7", "-RRB-", ".", "The", "supervisor", "stops", "the", "worker", "with", "the", "identifier", "P", "id", "-LRB-", "line", "25", "-RRB-", "and", "awaits", "the", "operation", "result", "-LRB-", "line", "26", "-RRB-", ".", "It", "then", "creates", "a", "remote", "worker", "in", "the", "node", "Dest", "with", "the", "latest", "state", "of", "the", "stopped", "worker", "-LRB-", "line", "28", "-RRB-", "and", "updates", "its", "internal", "state", "-LRB-", "lines", "30", "and", "12", "-RRB-", ".", "3.1", "Dominos", "Process", "The", "Dominos", "system", "is", "different", "from", "all", "the", "other", "crawling", "systems", "cited", "above", ".", "Like", "these", ",", "the", "Dominos", "offering", "is", "on", "distributed", "architecture", ",", "but", "with", "the", "difference", "of", "being", "totally", "dynamic", ".", "The", "system", "'s", "dynamic", "nature", "allows", "its", "architecture", "to", "be", "changed", "as", "required", ".", "If", ",", "for", "instance", ",", "one", "of", "the", "cluster", "'s", "nodes", "requires", "particular", "maintenance", ",", "all", "of", "the", "processes", "on", "it", "will", "migrate", "from", "this", "node", "to", "another", ".", "When", "servicing", "is", "over", ",", "the", "processes", "revert", "automatically", "4", "The", "character", "%", "indicates", "the", "beginning", "of", "a", "comment", "in", "Erlang", ".", "to", "their", "original", "node", ".", "Crawl", "processes", "may", "change", "pool", "so", "as", "to", "reinforce", "one", "another", "if", "necessary", ".", "The", "addition", "or", "deletion", "of", "a", "node", "in", "the", "cluster", "is", "completely", "transparent", "in", "its", "execution", ".", "Indeed", ",", "each", "new", "node", "is", "created", "containing", "a", "completely", "blank", "system", ".", "The", "first", "action", "to", "be", "undertaken", "is", "to", "search", "for", "the", "generic", "server", "in", "order", "to", "obtain", "the", "parameters", "of", "the", "part", "of", "the", "system", "that", "it", "is", "to", "belong", "to", ".", "These", "parameters", "correspond", "to", "a", "limited", "view", "of", "the", "whole", "system", ".", "This", "enables", "Dominos", "to", "be", "deployed", "more", "easily", ",", "the", "number", "of", "messages", "exchanged", "between", "processes", "to", "be", "reduced", "and", "allows", "better", "management", "of", "exceptions", ".", "Once", "the", "generic", "server", "has", "been", "identified", ",", "binaries", "are", "sent", "to", "it", "and", "its", "identity", "is", "communicated", "to", "the", "other", "nodes", "concerned", ".", "Dominos", "Generic", "Server", "-LRB-", "GenServer", "-RRB-", ":", "Erlang", "process", "responsible", "for", "managing", "the", "process", "identifiers", "on", "the", "whole", "cluster", ".", "To", "ensure", "easy", "deployment", "of", "Dominos", ",", "it", "was", "essential", "to", "mask", "the", "denominations", "of", "the", "process", "identifiers", ".", "Otherwise", ",", "a", "minor", "change", "in", "the", "names", "of", "machines", "or", "their", "IP", "would", "have", "required", "complete", "reorganization", "of", "the", "system", ".", "GenServer", "stores", "globally", "the", "identifiers", "of", "all", "processes", "existing", "at", "a", "given", "time", ".", "Dominos", "RPC", "Concurrent", "-LRB-", "cRPC", "-RRB-", ":", "as", "its", "name", "suggests", ",", "this", "process", "is", "responsible", "for", "delegating", "the", "execution", "of", "certain", "remote", "functions", "to", "other", "processes", ".", "Unlike", "conventional", "RPCs", "where", "it", "is", "necessary", "to", "know", "the", "node", "and", "the", "object", "providing", "these", "functions", "-LRB-", "services", "-RRB-", ",", "our", "RPCC", "completely", "masks", "the", "information", ".", "One", "need", "only", "call", "the", "function", ",", "with", "no", "concern", "for", "where", "it", "is", "located", "in", "the", "cluster", "or", "for", "the", "name", "of", "the", "process", "offering", "this", "function", ".", "Moreover", ",", "each", "RPCC", "process", "is", "concurrent", ",", "and", "therefore", "manages", "all", "its", "service", "requests", "in", "parallel", ".", "The", "results", "of", "remote", "functions", "are", "governed", "by", "two", "modes", ":", "blocking", "or", "non-blocking", ".", "The", "calling", "process", "may", "therefore", "await", "the", "reply", "of", "the", "remote", "function", "or", "continue", "its", "execution", ".", "In", "the", "latter", "case", ",", "the", "reply", "is", "sent", "to", "its", "mailbox", ".", "For", "example", ",", "no", "worker", "knows", "the", "process", "identifier", "of", "its", "own", "supervisor", ".", "In", "order", "to", "identify", "it", ",", "a", "worker", "sends", "a", "message", "to", "the", "process", "called", "supervisor", ".", "The", "RPCC", "deals", "with", "the", "message", "and", "searches", "the", "whole", "cluster", "for", "a", "supervisor", "process", "identifier", ",", "starting", "with", "the", "local", "node", ".", "The", "address", "is", "therefore", "resolved", "without", "additional", "network", "overhead", ",", "except", "where", "the", "supervisor", "does", "not", "exist", "locally", ".", "Dominos", "Distributed", "Database", "-LRB-", "DDB", "-RRB-", ":", "Erlang", "process", "responsible", "for", "Mnesia", "real-time", "database", "management", ".", "It", "handles", "the", "updating", "of", "crawled", "information", ",", "crawling", "progress", "and", "the", "assignment", "of", "URLs", "to", "be", "downloaded", "to", "workers", ".", "It", "is", "also", "responsible", "for", "replicating", "the", "base", "onto", "the", "nodes", "concerned", "and", "for", "the", "persistency", "of", "data", "on", "disk", ".", "Dominos", "Nodes", ":", "a", "node", "is", "the", "physical", "representation", "of", "a", "machine", "connected", "-LRB-", "or", "disconnected", "as", "the", "case", "may", "be", "-RRB-", "to", "the", "cluster", ".", "This", "connection", "is", "considered", "in", "the", "most", "basic", "sense", "of", "the", "term", ",", "namely", "a", "simple", "plugging-in", "-LRB-", "or", "unplugging", "-RRB-", "of", "the", "network", "outlet", ".", "Each", "node", "clearly", "reflects", "the", "dynamic", "character", "of", "the", "Dominos", "system", ".", "302", "Dominos", "Group", "Manager", ":", "Erlang", "process", "responsible", "for", "controlling", "the", "smooth", "running", "of", "its", "child", "processes", "-LRB-", "supervisor", "and", "workers", "-RRB-", ".", "Dominos", "Master-Supervisor", "Processes", ":", "each", "group", "manager", "has", "a", "single", "master", "process", "dealing", "with", "the", "management", "of", "crawling", "states", "of", "progress", ".", "It", "therefore", "controls", "all", "the", "slave", "processes", "-LRB-", "workers", "-RRB-", "contained", "within", "it", ".", "Dominos", "Slave-Worker", "Processes", ":", "workers", "are", "the", "lowest-level", "elements", "in", "the", "crawling", "process", ".", "This", "is", "the", "very", "heart", "of", "the", "Web", "client", "wrapping", "the", "libCURL", ".", "With", "Dominos", "architecture", "being", "completely", "dynamic", "and", "distributed", ",", "we", "may", "however", "note", "the", "hierarchical", "character", "of", "processes", "within", "a", "Dominos", "node", ".", "This", "is", "the", "only", "way", "to", "ensure", "very", "high", "fault", "tolerance", ".", "A", "group", "manager", "that", "fails", "is", "regenerated", "by", "the", "node", "on", "which", "it", "depends", ".", "A", "master", "process", "-LRB-", "supervisor", "-RRB-", "that", "fails", "is", "regenerated", "by", "its", "group", "manager", ".", "Finally", ",", "a", "worker", "is", "regenerated", "by", "its", "supervisor", ".", "As", "for", "the", "node", "itself", ",", "it", "is", "controlled", "by", "the", "Dominos", "kernel", "-LRB-", "generally", "on", "another", "remote", "machine", "-RRB-", ".", "The", "following", "code", "describes", "the", "regeneration", "of", "a", "worker", "process", "in", "case", "of", "failure", ".", "1", "%", "Activate", "error", "handling", "2", "process_flag", "-LRB-", "trap_exit", ",", "true", "-RRB-", ",", "3", "...", "4", "loop", "-LRB-", "InternalState", "-RRB-", "-", ">", "%", "Supervisor", "main", "loop", "5", "receive", "6", "-LCB-", "From", ",", "-LCB-", "job", ",", "Name", ",", "finish", "-RCB-", ",", "State", "-RCB-", "-", ">", "7", "%", "Informe", "the", "GenServer", "that", "the", "download", "is", "ok", "8", "?", "ServerGen", "!", "-LCB-", "job", ",", "Name", ",", "finish", "-RCB-", ",", "9", "10", "%", "Save", "the", "new", "worker", "state", "11", "NewInternalState", "=", "save_state", "-LRB-", "From", ",", "State", ",", "InternalState", "-RRB-", ",", "12", "13", "%", "Infinite", "loop", "14", "loop", "-LRB-", "NewInternalState", "-RRB-", ";", "15", "...", "16", "-LCB-", "From", ",", "Error", "-RCB-", "-", ">", "%", "Worker", "crash", "17", "%", "Get", "the", "last", "operational", "state", "before", "the", "crash", "18", "WorkerState", "=", "last_state", "-LRB-", "From", ",", "InternalState", "-RRB-", ",", "19", "20", "%", "Free", "all", "allocated", "resources", "21", "free_resources", "-LRB-", "From", ",", "InternalState", "-RRB-", ",", "22", "23", "%", "Create", "a", "new", "worker", "with", "the", "last", "operational", "24", "%", "state", "of", "the", "crashed", "worker", "25", "Pid", "=", "spawn", "-LRB-", "worker", ",", "proc", ",", "-LSB-", "WorkerState", "-RSB-", "-RRB-", ",", "26", "27", "%", "Add", "the", "new", "worker", "to", "the", "supervisor", "state", "28", "%", "storage", "29", "NewInternalState", "=", "replace", "-LRB-", "From", ",", "Pid", ",", "InternalState", "-RRB-", ",", "30", "31", "%", "Infinite", "loop", "32", "loop", "-LRB-", "NewInternalState", "-RRB-", ";", "33", "end", ".", "Listing", "2", ":", "Regeneration", "of", "a", "Worker", "Process", "in", "Case", "of", "Failure", "This", "represents", "the", "part", "of", "the", "main", "loop", "of", "the", "supervisor", "process", "dealing", "with", "the", "management", "of", "the", "failure", "of", "a", "worker", ".", "As", "soon", "as", "a", "worker", "error", "is", "received", "-LRB-", "line", "19", "-RRB-", ",", "the", "supervisor", "retrieves", "the", "last", "operational", "state", "of", "the", "worker", "that", "has", "stopped", "-LRB-", "line", "22", "-RRB-", ",", "releases", "all", "of", "its", "allocated", "resources", "-LRB-", "line", "26", "-RRB-", "and", "recreates", "a", "new", "worker", "process", "with", "the", "operational", "state", "of", "the", "stopped", "process", "-LRB-", "line", "31", "-RRB-", ".", "The", "supervisor", "continually", "turns", "in", "loop", "while", "awaiting", "new", "messages", "-LRB-", "line", "40", "-RRB-", ".", "The", "loop", "function", "call", "-LRB-", "lines", "17", "and", "40", "-RRB-", "is", "tail", "recursive", ",", "thereby", "guaranteeing", "that", "the", "supervision", "process", "will", "grow", "in", "a", "constant", "memory", "space", ".", "3.2", "DNS", "Resolution", "Before", "contacting", "a", "Web", "server", ",", "the", "worker", "process", "needs", "to", "convert", "the", "Domain", "Name", "Server", "-LRB-", "DNS", "-RRB-", "into", "a", "valid", "IP", "address", ".", "Whereas", "other", "systems", "-LRB-", "Mercator", ",", "Internet", "Archive", "-RRB-", "are", "forced", "to", "set", "up", "DNS", "resolvers", "each", "time", "a", "new", "link", "is", "identified", ",", "this", "is", "not", "necessary", "with", "Dominos", ".", "Indeed", ",", "in", "the", "framework", "of", "French", "Web", "legal", "deposit", ",", "the", "sites", "to", "be", "archived", "have", "been", "identified", "beforehand", ",", "thus", "requiring", "only", "one", "DNS", "resolution", "per", "domain", "name", ".", "This", "considerably", "increases", "crawl", "speed", ".", "The", "sites", "concerned", "include", "all", "online", "newspapers", ",", "such", "as", "LeMonde", "-LRB-", "http://www.lemonde.fr/", "-RRB-", ",", "LeFigaro", "-LRB-", "http://www.lefigaro.fr/", "-RRB-", "...", ",", "online", "television/radio", "such", "as", "TF1", "-LRB-", "http://www.tf1.fr/", "-RRB-", ",", "M6", "-LRB-", "http://www.m6.fr/", "-RRB-", "...", "The", "workers", "are", "the", "medium", "responsible", "for", "physically", "crawling", "on-line", "contents", ".", "They", "provide", "a", "specialized", "wrapper", "around", "the", "libCURL", "5", "library", "that", "represents", "the", "heart", "of", "the", "HTTP", "client", ".", "Each", "worker", "is", "interfaced", "to", "libCURL", "by", "a", "C", "driver", "-LRB-", "shared", "library", "-RRB-", ".", "As", "the", "system", "seeks", "maximum", "network", "accessibility", "-LRB-", "communication", "protocol", "support", "-RRB-", ",", "libCURL", "appeared", "to", "be", "the", "most", "judicious", "choice", "when", "compared", "with", "other", "available", "libraries", ".", "6", ".", "The", "protocols", "supported", "include", ":", "FTP", ",", "FTPS", ",", "HTTP", ",", "HTTPS", ",", "LDAP", ",", "Certifications", ",", "Proxies", ",", "Tunneling", "etc.", ".", "Erlang", "'s", "portability", "was", "a", "further", "factor", "favoring", "the", "choice", "of", "libCURL", ".", "Indeed", ",", "libCURL", "is", "available", "for", "various", "architectures", ":", "Solaris", ",", "BSD", ",", "Linux", ",", "HPUX", ",", "IRIX", ",", "AIX", ",", "Windows", ",", "Mac", "OS", "X", ",", "OpenVMS", "etc.", ".", "Furthermore", ",", "it", "is", "fast", ",", "thread-safe", "and", "IPv6", "compatible", ".", "This", "choice", "also", "opens", "up", "a", "wide", "variety", "of", "functions", ".", "Redirections", "are", "accounted", "for", "and", "powerful", "filtering", "is", "possible", "according", "to", "the", "type", "of", "content", "downloaded", ",", "headers", ",", "and", "size", "-LRB-", "partial", "storage", "on", "RAM", "or", "disk", "depending", "on", "the", "document", "'s", "size", "-RRB-", ".", "4.2", "Document", "Fingerprint", "For", "each", "download", ",", "the", "worker", "extracts", "the", "hypertext", "links", "included", "in", "the", "HTML", "documents", "and", "initiates", "a", "fingerprint", "-LRB-", "signature", "operation", "-RRB-", ".", "A", "fast", "fingerprint", "-LRB-", "HAVAL", "on", "256", "bits", "-RRB-", "is", "calculated", "for", "the", "document", "'s", "content", "itself", "so", "as", "to", "differentiate", "those", "with", "similar", "contents", "-LRB-", "e.g.", "mirror", "sites", "-RRB-", ".", "This", "technique", "is", "not", "new", "and", "has", "already", "been", "used", "in", "Mercator", "-LSB-", "13", "-RSB-", ".", "It", "allows", "redundancies", "to", "be", "eliminated", "in", "the", "archive", ".", "4.3", "URL", "Extraction", "and", "Normalization", "Unlike", "other", "systems", "that", "use", "libraries", "of", "regular", "expressions", "such", "as", "PCRE", "7", "for", "URL", "extraction", ",", "we", "have", "opted", "5", "Available", "at", "http://curl.haxx.se/libcurl/", "6", "See", "http://curl.haxx.se/libcurl/competitors.html", "7", "Available", "at", "http://www.pcre.org/", "303", "for", "the", "Flex", "tool", "that", "definitely", "generates", "a", "faster", "parser", ".", "Flex", "was", "compiled", "using", "a", "256Kb", "buffer", "in", "which", "all", "table", "compression", "options", "were", "activated", "during", "parsing", "''", "-8", "-", "f", "Cf", "-", "Ca", "-", "Cr", "-", "i", "''", ".", "Our", "current", "parser", "analyzes", "around", "3,000", "pages/second", "for", "a", "single", "worker", "for", "an", "average", "49Kb", "per", "page", ".", "According", "to", "-LSB-", "20", "-RSB-", ",", "a", "URL", "extraction", "speed", "of", "300", "pages/second", "may", "generate", "a", "list", "of", "more", "than", "2,000", "URLs", "on", "average", ".", "A", "naive", "representation", "of", "structures", "in", "the", "memory", "may", "soon", "saturate", "the", "system", ".", "Various", "solutions", "have", "been", "proposed", "to", "alleviate", "this", "problem", ".", "The", "Internet", "Archive", "-LSB-", "4", "-RSB-", "crawler", "uses", "Bloom", "filters", "in", "random", "access", "memory", ".", "This", "makes", "it", "possible", "to", "have", "a", "compact", "representation", "of", "links", "retrieved", ",", "but", "also", "generates", "errors", "-LRB-", "false-positive", "-RRB-", ",", "i.e.", "certain", "pages", "are", "never", "downloaded", "as", "they", "create", "collisions", "with", "other", "pages", "in", "the", "Bloom", "filter", ".", "Compression", "without", "loss", "may", "reduce", "the", "size", "of", "URLs", "to", "below", "10Kb", "-LSB-", "2", ",", "21", "-RSB-", ",", "but", "this", "remains", "insufficient", "in", "the", "case", "of", "large-scale", "crawls", ".", "A", "more", "ingenious", "approach", "is", "to", "use", "persistent", "structures", "on", "disk", "coupled", "with", "a", "cache", "as", "in", "Mercator", "-LSB-", "13", "-RSB-", ".", "4.4", "URL", "Caching", "In", "order", "to", "speed", "up", "processing", ",", "we", "have", "developed", "a", "scalable", "cache", "structure", "for", "the", "research", "and", "storage", "of", "URLs", "already", "archived", ".", "Figure", "1describes", "how", "such", "a", "cache", "works", ":", "Links", "Local", "Cache", "-", "Worker", "Rejected", "Links", "0", "1", "2", "255", "JudyL-Array", "URL", "CRC", "URL", "#URL", "key", "value", "JudySL-Array", "Figure", "1", ":", "Scalable", "Cache", "The", "cache", "is", "available", "at", "the", "level", "of", "each", "worker", ".", "It", "acts", "as", "a", "filter", "on", "URLs", "found", "and", "blocks", "those", "already", "encountered", ".", "The", "cache", "needs", "to", "be", "scalable", "to", "be", "able", "to", "deal", "with", "increasing", "loads", ".", "Rapid", "implementation", "using", "a", "non-reversible", "hash", "function", "such", "as", "HAVAL", ",", "TIGER", ",", "SHA1", ",", "GOST", ",", "MD5", ",", "RIPEMD", "...", "would", "be", "fatal", "to", "the", "system", "'s", "scalability", ".", "Although", "these", "functions", "ensure", "some", "degree", "of", "uniqueness", "in", "fingerprint", "constructionthey", "are", "too", "slow", "to", "be", "acceptable", "in", "these", "constructions", ".", "We", "can", "not", "allow", "latency", "as", "far", "as", "lookup", "or", "URL", "insertion", "in", "the", "cache", "is", "concerned", ",", "if", "the", "cache", "is", "apt", "to", "exceed", "a", "certain", "size", "-LRB-", "over", "10", "7", "key-value", "on", "average", "-RRB-", ".", "This", "is", "why", "we", "have", "focused", "on", "the", "construction", "of", "a", "generic", "cache", "that", "allows", "key-value", "insertion", "and", "lookup", "in", "a", "scalable", "manner", ".", "The", "Judy-Array", "API", "8", "enabled", "us", "to", "achieve", "this", "objective", ".", "Without", "going", "into", "detail", "about", "Judy-Array", "-LRB-", "see", "their", "site", "for", "more", "information", "-RRB-", ",", "our", "cache", "is", "a", "coherent", "coupling", "between", "a", "JudyL-Array", "and", "N", "JudySL-Array", ".", "The", "JudyL-Array", "represents", "a", "hash", "table", "of", "N", "=", "2", "8", "or", "N", "=", "2", "16", "buckets", "able", "to", "fit", "into", "the", "internal", "cache", "of", "the", "CPU", ".", "It", "is", "used", "to", "store", "``", "key-numeric", "value", "''", "pairs", "where", "the", "key", "represents", "a", "CRC", "of", "the", "8", "Judy", "Array", "at", "the", "address", ":", "http://judy.sourceforge.net/", "URL", "and", "whose", "value", "is", "a", "pointer", "to", "a", "JudySL-Array", ".", "The", "second", ",", "JudySL-Array", ",", "is", "a", "``", "key-compressed", "character", "string", "value", "''", "type", "of", "hash", ",", "in", "which", "the", "key", "represents", "the", "URL", "identifier", "and", "whose", "value", "is", "the", "number", "of", "times", "that", "the", "URL", "has", "been", "viewed", ".", "This", "cache", "construction", "is", "completely", "scalable", "and", "makes", "it", "possible", "to", "have", "sub-linear", "response", "rates", ",", "or", "linear", "in", "the", "worst-case", "scenario", "-LRB-", "see", "Judy-Array", "at", "for", "an", "in-depth", "analysis", "of", "their", "performance", "-RRB-", ".", "In", "the", "section", "on", "experimentation", "-LRB-", "section", "5", "-RRB-", "we", "will", "see", "the", "results", "of", "this", "type", "of", "construction", ".", "4.5", "Limiting", "Disk", "Access", "Our", "aim", "here", "is", "to", "eliminate", "random", "disk", "access", "completely", ".", "One", "simple", "idea", "used", "in", "-LSB-", "20", "-RSB-", "is", "periodically", "to", "switch", "structures", "requiring", "much", "memory", "over", "onto", "disk", ".", "For", "example", ",", "random", "access", "memory", "can", "be", "used", "to", "keep", "only", "those", "URLs", "found", "most", "recently", "or", "most", "frequently", ",", "in", "order", "to", "speed", "up", "comparisons", ".", "This", "requires", "no", "additional", "development", "and", "is", "what", "we", "have", "decided", "to", "use", ".", "The", "persistency", "of", "data", "on", "disk", "depends", "on", "the", "size", "of", "data", "in", "DS", "memory", ",", "and", "their", "DA", "age", ".", "The", "data", "in", "the", "memory", "are", "distributed", "transparently", "via", "Mnesia", ",", "specially", "designed", "for", "this", "kind", "of", "situation", ".", "Data", "may", "be", "duplicated", "-LRB-", "-LCB-", "ram", "copies", ",", "-LSB-", "Nodes", "-RSB-", "-RCB-", ",", "-LCB-", "disc", "copies", ",", "-LSB-", "Nodes", "-RSB-", "-RCB-", "-RRB-", "or", "fragmented", "-LRB-", "-LCB-", "frag", "properties", ",", "...", "-RCB-", "-RRB-", "on", "the", "nodes", "in", "question", ".", "According", "to", "-LSB-", "20", "-RSB-", ",", "there", "are", "on", "average", "8", "non-duplicated", "hypertext", "links", "per", "page", "downloaded", ".", "This", "means", "that", "the", "number", "of", "pages", "retrieved", "and", "not", "yet", "archived", "is", "considerably", "increased", ".", "After", "archiving", "20", "million", "pages", ",", "over", "100", "million", "URLs", "would", "still", "be", "waiting", ".", "This", "has", "various", "repercussions", ",", "as", "newly-discovered", "URLs", "will", "be", "crawled", "only", "several", "days", ",", "or", "even", "weeks", ",", "later", ".", "Given", "this", "speed", ",", "the", "base", "'s", "data", "refresh", "ability", "is", "directly", "affected", ".", "4.6", "High", "Availability", "In", "order", "to", "apprehend", "the", "very", "notion", "of", "High", "Availability", ",", "we", "first", "need", "to", "tackle", "the", "differences", "that", "exist", "between", "a", "system", "'s", "reliability", "and", "its", "availability", ".", "Reliability", "is", "an", "attribute", "that", "makes", "it", "possible", "to", "measure", "service", "continuity", "when", "no", "failure", "occurs", ".", "Manufacturers", "generally", "provide", "a", "statistical", "estimation", "of", "this", "value", "for", "this", "equipment", ":", "we", "may", "use", "the", "term", "MTBF", "-LRB-", "Mean", "Time", "Between", "Failure", "-RRB-", ".", "A", "strong", "MTBF", "provides", "a", "valuable", "indication", "of", "a", "component", "'s", "ability", "to", "avoid", "overly", "frequent", "failure", ".", "In", "the", "case", "of", "a", "complex", "system", "-LRB-", "that", "can", "be", "broken", "down", "into", "hardware", "or", "software", "parts", "-RRB-", ",", "we", "talk", "about", "MTTF", "-LRB-", "Mean", "Time", "To", "Failure", "-RRB-", ".", "This", "denotes", "the", "average", "time", "elapsed", "until", "service", "stops", "as", "the", "result", "of", "failure", "in", "a", "component", "or", "software", ".", "The", "attribute", "of", "availability", "is", "more", "difficult", "to", "calculate", "as", "it", "includes", "a", "system", "'s", "ability", "to", "react", "correctly", "in", "case", "of", "failure", "in", "order", "to", "restart", "service", "as", "quickly", "as", "possible", ".", "It", "is", "therefore", "necessary", "to", "quantify", "the", "time", "interval", "during", "which", "service", "is", "unavailable", "before", "being", "re-established", ":", "the", "acronym", "MTTR", "-LRB-", "Mean", "Time", "To", "Repair", "-RRB-", "is", "used", "to", "represent", "this", "value", ".", "The", "formula", "used", "to", "calculate", "the", "rate", "of", "a", "system", "'s", "availability", "is", "as", "follows", ":", "availability", "=", "M", "T", "T", "F", "M", "T", "T", "F", "+", "M", "T", "T", "R", "-LRB-", "4", "-RRB-", "304", "A", "system", "that", "looks", "to", "have", "a", "high", "level", "of", "availability", "should", "have", "either", "a", "strong", "MTTF", ",", "or", "a", "weak", "MTTR", ".", "Another", "more", "practical", "approach", "consists", "in", "measuring", "the", "time", "period", "during", "which", "service", "is", "down", "in", "order", "to", "evaluate", "the", "level", "of", "availability", ".", "This", "is", "the", "method", "most", "frequently", "adopted", ",", "even", "if", "it", "fails", "to", "take", "account", "of", "the", "frequency", "of", "failure", ",", "focusing", "rather", "on", "its", "duration", ".", "Calculation", "is", "usually", "based", "on", "a", "calendar", "year", ".", "The", "higher", "the", "percentage", "of", "service", "availability", ",", "the", "nearer", "it", "comes", "to", "High", "Availability", ".", "It", "is", "fairly", "easy", "to", "qualify", "the", "level", "of", "High", "Availability", "of", "a", "service", "from", "the", "cumulated", "downtime", ",", "by", "using", "the", "normalized", "principle", "of", "``", "9", "'s", "''", "-LRB-", "below", "3", "nine", ",", "we", "are", "no", "longer", "talking", "about", "High", "Availability", ",", "but", "merely", "availability", "-RRB-", ".", "In", "order", "to", "provide", "an", "estimation", "of", "Dominos", "'", "High", "Availability", ",", "we", "carried", "out", "performance", "tests", "by", "fault", "injection", ".", "It", "is", "clear", "that", "a", "more", "accurate", "way", "of", "measuring", "this", "criterion", "would", "be", "to", "let", "the", "system", "run", "for", "a", "whole", "year", "as", "explained", "above", ".", "However", ",", "time", "constraints", "led", "us", "to", "adopt", "this", "solution", ".", "Our", "injector", "consists", "in", "placing", "pieces", "of", "false", "code", "in", "each", "part", "of", "the", "system", "and", "then", "measuring", "the", "time", "required", "for", "the", "system", "to", "make", "the", "service", "available", ".", "Once", "again", ",", "Erlang", "has", "proved", "to", "be", "an", "excellent", "choice", "for", "the", "setting", "up", "of", "these", "regression", "tests", ".", "The", "table", "below", "shows", "the", "average", "time", "required", "by", "Dominos", "to", "respond", "to", "these", "cases", "of", "service", "unavailability", ".", "Table", "1clearly", "shows", "Dominos", "'", "High", "Availability", ".", "We", "Service", "Error", "MTTR", "-LRB-", "microsec", "-RRB-", "GenServer", "10", "3", "bad", "match", "320", "cRPC", "10", "3", "bad", "match", "70", "DDB", "10", "7", "tuples", "9", "10", "6", "Node", "10", "3", "bad", "match", "250", "Supervisor", "10", "3", "bad", "match", "60", "Worker", "10", "3", "bad", "match", "115", "Table", "1", ":", "MTTR", "Dominos", "see", "that", "for", "10", "3", "matches", "of", "error", ",", "the", "system", "resumes", "service", "virtually", "instantaneously", ".", "The", "DB", "was", "tested", "on", "10", "7", "tuples", "in", "random", "access", "memory", "and", "resumed", "service", "after", "approximately", "9", "seconds", ".", "This", "corresponds", "to", "an", "excellent", "MTTR", ",", "given", "that", "the", "injections", "were", "made", "on", "a", "PIII-966Mhz", "with", "512Mb", "of", "RAM", ".", "From", "these", "results", ",", "we", "may", "label", "our", "system", "as", "being", "High", "Availability", ",", "as", "opposed", "to", "other", "architectures", "that", "consider", "High", "Availability", "only", "in", "the", "sense", "of", "failure", "not", "affecting", "other", "components", "of", "the", "system", ",", "but", "in", "which", "service", "restart", "of", "a", "component", "unfortunately", "requires", "manual", "intervention", "every", "time", ".", "This", "section", "describes", "Dominos", "'", "experimental", "results", "tested", "on", "5", "DELL", "machines", ":", "nico", ":", "Intel", "Pentium", "4", "-", "1.6", "Ghz", ",", "256", "Mb", "RAM", ".", "Crawl", "node", "-LRB-", "supervisor", ",", "workers", "-RRB-", ".", "Activates", "a", "local", "cRPC", ".", "zico", ":", "Intel", "Pentium", "4", "-", "1.6", "Ghz", ",", "256", "Mb", "RAM", ".", "Crawl", "node", "-LRB-", "supervisor", ",", "workers", "-RRB-", ".", "Activates", "a", "local", "cRPC", ".", "chopin", ":", "Intel", "Pentium", "3", "-", "966", "Mhz", ",", "512", "Mb", "RAM", ".", "Main", "node", "loaded", "on", "ServerGen", "and", "DB", ".", "Also", "handles", "crawling", "-LRB-", "supervisor", ",", "workers", "-RRB-", ".", "Activates", "a", "local", "cRPC", ".", "gao", ":", "Intel", "Pentium", "3", "-", "500", "Mhz", ",", "256", "Mb", "RAM", ".", "Node", "for", "DB", "fragmentation", ".", "Activates", "a", "local", "cRPC", ".", "margo", ":", "Intel", "Pentium", "2", "-", "333", "Mhz", ",", "256", "Mb", "RAM", ".", "Node", "for", "DB", "fragmentation", ".", "Activates", "a", "local", "cRPC", ".", "Machines", "chopin", ",", "gao", "and", "margo", "are", "not", "dedicated", "solely", "to", "crawling", "and", "are", "used", "as", "everyday", "workstations", ".", "Disk", "size", "is", "not", "taken", "into", "account", "as", "no", "data", "were", "actually", "stored", "during", "these", "tests", ".", "Everything", "was", "therefore", "carried", "out", "using", "random", "access", "memory", "with", "a", "network", "of", "100", "Mb/second", ".", "Dominos", "performed", "25,116,487", "HTTP", "requests", "after", "9", "hours", "of", "crawling", "with", "an", "average", "of", "816", "documents/second", "for", "49Kb", "per", "document", ".", "Three", "nodes", "-LRB-", "nico", ",", "zico", "and", "chopin", "-RRB-", "were", "used", "in", "crawling", ",", "each", "having", "400", "workers", ".", "We", "restricted", "ourselves", "to", "a", "total", "of", "1,200", "workers", ",", "due", "to", "problems", "generated", "by", "Dominos", "at", "intranet", "level", ".", "The", "firewall", "set", "up", "to", "filter", "access", "is", "considerably", "detrimental", "to", "performance", "because", "of", "its", "inability", "to", "keep", "up", "with", "the", "load", "imposed", "by", "Dominos", ".", "Third-party", "tests", "have", "shown", "that", "peaks", "of", "only", "4,000", "HTTP", "requests/second", "cause", "the", "immediate", "collapse", "of", "the", "firewall", ".", "The", "firewall", "is", "not", "the", "only", "limiting", "factor", ",", "as", "the", "same", "tests", "have", "shown", "the", "incapacity", "of", "Web", "servers", "such", "as", "Apache2", ",", "Caudium", "or", "Jigsaw", "to", "withstand", "such", "loads", "-LRB-", "see", "http://www.sics.se/", "joe/apachevsyaws.html", "-RRB-", ".", "Figure", "2", "-LRB-", "left", "part", "-RRB-", "shows", "the", "average", "URL", "extraction", "per", "document", "crawled", "using", "a", "single", "worker", ".", "The", "abscissa", "-LRB-", "x", "-RRB-", "axis", "represents", "the", "number", "of", "documents", "treated", ",", "and", "the", "ordered", "-LRB-", "y", "-RRB-", "axis", "gives", "the", "time", "in", "microseconds", "corresponding", "to", "extraction", ".", "In", "the", "right-hand", "figure", ",", "the", "abscissa", "axis", "represents", "the", "same", "quantity", ",", "though", "this", "time", "in", "terms", "of", "data", "volume", "-LRB-", "Mb", "-RRB-", ".", "We", "can", "see", "a", "high", "level", "of", "parsing", "reaching", "an", "average", "of", "3,000", "pages/second", "at", "a", "speed", "of", "70Mb/second", ".", "In", "Figure", "3", "we", "see", "that", "URL", "normalization", "0", "500000", "1e", "+06", "1.5", "e", "+06", "2e", "+06", "2.5", "e", "+06", "3e", "+06", "3.5", "e", "+06", "0", "2000", "4000", "6000", "8000", "10000", "Time", "-LRB-", "microsec", "-RRB-", "Documents", "Average", "number", "of", "parsed", "documents", "PD", "0", "500000", "1e", "+06", "1.5", "e", "+06", "2e", "+06", "2.5", "e", "+06", "3e", "+06", "3.5", "e", "+06", "0", "20", "40", "60", "80", "100", "120", "140", "160", "Time", "-LRB-", "microsec", "-RRB-", "Document", "Size", "-LRB-", "Mb", "-RRB-", "Average", "size", "of", "parsed", "documents", "PDS", "Figure", "2", ":", "Link", "Extraction", "is", "as", "efficient", "as", "extraction", "in", "terms", "of", "speed", ".", "The", "abscissa", "axis", "at", "the", "top", "-LRB-", "and", "respectively", "at", "the", "bottom", "-RRB-", "represents", "the", "number", "of", "documents", "processed", "per", "normalization", "phase", "-LRB-", "respectively", "the", "quantity", "of", "documents", "in", "terms", "of", "volume", "-RRB-", ".", "Each", "worker", "normalizes", "on", "average", "1,000", "documents/second", ",", "which", "is", "equivalent", "to", "37,000", "URLs/second", "at", "a", "speed", "of", "40Mb/second", ".", "Finally", ",", "the", "URL", "cache", "structure", "ensures", "a", "high", "degree", "of", "scalability", "-LRB-", "Figure", "3", "-RRB-", ".", "The", "abscissa", "axis", "in", "this", "figure", "represents", "the", "number", "of", "key-values", "inserted", "or", "retrieved", ".", "The", "cache", "is", "very", "close", "to", "a", "step", "function", "due", "to", "key", "compression", "in", "the", "Judy-Array", ".", "Following", "an", "increase", "in", "insertion/retrieval", "time", "in", "the", "cache", ",", "it", "appears", "to", "plateau", "by", "100,000", "key-value", "bands", ".", "We", "should", "however", "point", "out", "that", "URL", "extraction", "and", "normalization", "also", "makes", "use", "of", "this", "type", "of", "cache", "so", "as", "to", "avoid", "processing", "a", "URL", "already", "encountered", ".", "305", "0", "10000", "20000", "30000", "40000", "50000", "60000", "0", "2000", "4000", "6000", "8000", "10000", "Time", "-LRB-", "microsec", "-RRB-", "Normalized", "documents", "Average", "number", "of", "normalized", "documents", "AD", "0", "10000", "20000", "30000", "40000", "50000", "60000", "0", "2000", "4000", "6000", "8000", "10000", "12000", "14000", "16000", "Time", "-LRB-", "microsec", "-RRB-", "Urls", "Average", "number", "of", "normalized", "Url", "AU", "0", "10000", "20000", "30000", "40000", "50000", "60000", "0", "20", "40", "60", "80", "100", "120", "140", "160", "Time", "-LRB-", "microsec", "-RRB-", "Document", "Size", "-LRB-", "Mb", "-RRB-", "Average", "size", "of", "normalized", "documents", "ADS", "0", "50000", "100000", "150000", "200000", "250000", "300000", "350000", "0", "20000", "40000", "60000", "80000", "100000", "Time", "-LRB-", "microsec", "-RRB-", "Key-Value", "Scalable", "Cache", ":", "Insertion", "vs", "Retrieval", "Cache", "Insertion", "Cache", "Retrieval", "Figure", "3", ":", "URL", "Normalization", "and", "Cache", "Performance", "In", "the", "present", "paper", ",", "we", "have", "introduced", "a", "high", "availability", "system", "of", "crawling", "called", "Dominos", ".", "This", "system", "has", "been", "created", "in", "the", "framework", "of", "experimentation", "for", "French", "Web", "legal", "deposit", "carried", "out", "at", "the", "Institut", "National", "de", "l'Audiovisuel", "-LRB-", "INA", "-RRB-", ".", "Dominos", "is", "a", "dynamic", "system", ",", "whereby", "the", "processes", "making", "up", "its", "kernel", "are", "mobile", ".", "90", "%", "of", "this", "system", "was", "developed", "using", "Erlang", "programming", "language", ",", "which", "accounts", "for", "its", "highly", "flexible", "deployment", ",", "maintainability", "and", "enhanced", "fault", "tolerance", ".", "Despite", "having", "different", "objectives", ",", "we", "have", "been", "able", "to", "compare", "it", "with", "other", "documented", "Web", "crawling", "systems", "-LRB-", "Mercator", ",", "InternetArchive", "...", "-RRB-", "and", "have", "shown", "it", "to", "be", "superior", "in", "terms", "of", "crawl", "speed", ",", "document", "parsing", "and", "process", "management", "without", "system", "restart", ".", "Dominos", "is", "more", "complex", "than", "its", "description", "here", ".", "We", "have", "not", "touched", "upon", "archival", "storage", "and", "indexation", ".", "We", "have", "preferred", "to", "concentrate", "rather", "on", "the", "detail", "of", "implementation", "of", "the", "Dominos", "kernel", "itself", ",", "a", "strategic", "component", "that", "is", "often", "overlooked", "by", "other", "systems", "-LRB-", "in", "particular", "those", "that", "are", "proprietary", ",", "others", "being", "inefficient", "-RRB-", ".", "However", ",", "there", "is", "still", "room", "for", "the", "system", "'s", "improvement", ".", "At", "present", ",", "crawled", "archives", "are", "managed", "by", "NFS", ",", "a", "file", "system", "that", "is", "moderately", "efficient", "for", "this", "type", "of", "problem", ".", "Switchover", "to", "Lustre", "9", ",", "a", "distributed", "file", "system", "with", "a", "radically", "higher", "level", "of", "performance", ",", "is", "underway", ".", "-LSB-", "1", "-RSB-", "Z.", "BarYossef", ",", "A.", "Berg", ",", "S.", "Chien", ",", "J.", "Fakcharoenphol", ",", "and", "D.", "Weitz", ".", "Approximating", "aggregate", "queries", "about", "web", "pages", "via", "random", "walks", ".", "In", "Proc", ".", "of", "26th", "Int", ".", "Conf", ".", "on", "Very", "Large", "Data", "Bases", ",", "2000", ".", "-LSB-", "2", "-RSB-", "K.", "Bharat", ",", "A.", "Broder", ",", "M.", "Henzinger", ",", "P.", "Kumar", ",", "and", "S.", "Venkatasubramanian", ".", "The", "connectivity", "server", ":", "Fast", "access", "to", "linkage", ".", "Information", "on", "the", "Web", ",", "1998", ".", "-LSB-", "3", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine", ".", "In", "Proc", ".", "of", "the", "Seventh", "World-Wide", "Web", "Conference", ",", "1998", ".", "-LSB-", "4", "-RSB-", "M.", "Burner", ".", "Crawling", "towards", "eternity", ":", "Building", "an", "archive", "of", "the", "world", "wide", "web", ".", "9", "http://www.lustre.org/", "http://www.webtechniques.com/archives/1997/05/burner/", ",", "1997", ".", "-LSB-", "5", "-RSB-", "S.", "Chakrabarti", ",", "M.", "V.", "D.", "Berg", ",", "and", "B.", "Dom", ".", "Distributed", "hypertext", "resource", "discovery", "through", "example", ".", "In", "Proc", ".", "of", "25th", "Int", ".", "Conf", ".", "on", "Very", "Large", "Data", "Base", ",", "pages", "375", "386", ",", "1997", ".", "-LSB-", "6", "-RSB-", "S.", "Chakrabarti", ",", "M.", "V.", "D.", "Berg", ",", "and", "B.", "Dom", ".", "Focused", "crawling", ":", "A", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "In", "Proc", ".", "of", "the", "8th", "Int", ".", "World", "Wide", "Web", "Conference", ",", "1999", ".", "-LSB-", "7", "-RSB-", "J.", "Cho", "and", "H.", "Garcia-Molina", ".", "The", "evolution", "of", "the", "web", "and", "implications", "for", "an", "incremental", "crawler", ".", "In", "Proc", ".", "of", "26th", "Int", ".", "Conf", ".", "on", "Very", "Large", "Data", "Bases", ",", "pages", "117", "128", ",", "2000", ".", "-LSB-", "8", "-RSB-", "J.", "Cho", "and", "H.", "Garcia-Molina", ".", "Synchronizing", "a", "database", "to", "improve", "freshness", ".", "In", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Int", ".", "Conf", ".", "on", "Management", "of", "Data", ",", "2000", ".", "-LSB-", "9", "-RSB-", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "and", "L.", "Page", ".", "Efficient", "crawling", "through", "url", "ordering", ".", "In", "7th", "Int", ".", "World", "Wide", "Web", "Conference", ",", "1998", ".", "-LSB-", "10", "-RSB-", "M.", "Diligenti", ",", "F.", "Coetzee", ",", "S.", "Lawrence", ",", "C.", "Giles", ",", "and", "M.", "Gori", ".", "Focused", "crawling", "using", "context", "graphs", ".", "In", "Proc", ".", "of", "26th", "Int", ".", "Conf", ".", "on", "Very", "Large", "Data", "Bases", ",", "2000", ".", "-LSB-", "11", "-RSB-", "M.", "Henzinger", ",", "A.", "Heydon", ",", "M.", "Mitzenmacher", ",", "and", "M.", "Najork", ".", "Measuring", "index", "quality", "using", "random", "walks", "on", "the", "web", ".", "In", "Proc", ".", "of", "the", "8th", "Int", ".", "World", "Wide", "Web", "Conference", "-LRB-", "WWW8", "-RRB-", ",", "pages", "213", "225", ",", "1999", ".", "-LSB-", "12", "-RSB-", "M.", "Henzinger", ",", "A.", "Heydon", ",", "M.", "Mitzenmacher", ",", "and", "M.", "Najork", ".", "On", "near-uniform", "url", "sampling", ".", "In", "Proc", ".", "of", "the", "9th", "Int", ".", "World", "Wide", "Web", "Conference", ",", "2000", ".", "-LSB-", "13", "-RSB-", "A.", "Heydon", "and", "M.", "Najork", ".", "Mercator", ":", "A", "scalable", ",", "extensible", "web", "crawler", ".", "World", "Wide", "Web", "Conference", ",", "pages", "219", "229", ",", "1999", ".", "-LSB-", "14", "-RSB-", "J.", "Hirai", ",", "S.", "Raghavan", ",", "H.", "Garcia-Molina", ",", "and", "A.", "Paepcke", ".", "Webbase", ":", ":", "A", "repository", "of", "web", "pages", ".", "In", "Proc", ".", "of", "the", "9th", "Int", ".", "World", "Wide", "Web", "Conference", ",", "2000", ".", "-LSB-", "15", "-RSB-", "B.", "Kahle", ".", "Archiving", "the", "internet", ".", "Scientific", "American", ",", "1997", ".", "-LSB-", "16", "-RSB-", "S.", "Lawrence", "and", "C.", "L.", "Giles", ".", "Searching", "the", "world", "wide", "web", ".", "Science", "280", ",", "pages", "98", "100", ",", "1998", ".", "-LSB-", "17", "-RSB-", "M.", "Najork", "and", "J.", "Wiener", ".", "Breadth-first", "search", "crawling", "yields", "high-quality", "pages", ".", "In", "10th", "Int", ".", "World", "Wide", "Web", "Conference", ",", "2001", ".", "-LSB-", "18", "-RSB-", "J.", "Rennie", "and", "A.", "McCallum", ".", "Using", "reinforcement", "learning", "to", "spider", "the", "web", "efficiently", ".", "In", "Proc", ".", "of", "the", "Int", ".", "Conf", ".", "on", "Machine", "Learning", ",", "1999", ".", "-LSB-", "19", "-RSB-", "S.", "Russel", "and", "P.", "Norvig", ".", "Artificial", "Intelligence", ":", "A", "modern", "Approach", ".", "Prentice", "Hall", ",", "1995", ".", "-LSB-", "20", "-RSB-", "V.", "Shkapenyuk", "and", "T.", "Suel", ".", "Design", "and", "implementation", "of", "a", "high-performance", "distributed", "web", "crawler", ".", "Polytechnic", "University", ":", "Brooklyn", ",", "Mars", "2001", ".", "-LSB-", "21", "-RSB-", "T.", "Suel", "and", "J.", "Yuan", ".", "Compressing", "the", "graph", "structure", "of", "the", "web", ".", "In", "Proc", ".", "of", "the", "IEEE", "Data", "Compression", "Conference", ",", "2001", ".", "-LSB-", "22", "-RSB-", "J.", "Talim", ",", "Z.", "Liu", ",", "P.", "Nain", ",", "and", "E.", "Coffman", ".", "Controlling", "robots", "of", "web", "search", "engines", ".", "In", "SIGMETRICS", "Conference", ",", "2001", ".", "306"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dominos generic server", "dominos nodes", "url caching", "fault tolerance", "document fingerprint", "random walks and sampling", "dominos process", "dominos rpc concurrent", "crawling system", "web crawler", "high availability system", "targeted crawling", "dominos distributed database", "limiting disk access", "repetitive crawling", "erlang development kit", "deep web crawling", "high availability"], "abstractive_keyphrases": ["breadth-first crawling", "hierarchical cooperation", "breadth first crawling", "high performance crawling system", "real-time distributed system", "maintaiability and configurability"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "105", "document": ["Implicit", "User", "Modeling", "for", "Personalized", "Search", "Information", "retrieval", "systems", "-LRB-", "e.g.", ",", "web", "search", "engines", "-RRB-", "are", "critical", "for", "overcoming", "information", "overload", ".", "A", "major", "deficiency", "of", "existing", "retrieval", "systems", "is", "that", "they", "generally", "lack", "user", "modeling", "and", "are", "not", "adaptive", "to", "individual", "users", ",", "resulting", "in", "inherently", "non-optimal", "retrieval", "performance", ".", "For", "example", ",", "a", "tourist", "and", "a", "programmer", "may", "use", "the", "same", "word", "``", "java", "''", "to", "search", "for", "different", "information", ",", "but", "the", "current", "search", "systems", "would", "return", "the", "same", "results", ".", "In", "this", "paper", ",", "we", "study", "how", "to", "infer", "a", "user", "'s", "interest", "from", "the", "user", "'s", "search", "context", "and", "use", "the", "inferred", "implicit", "user", "model", "for", "personalized", "search", ".", "We", "present", "a", "decision", "theoretic", "framework", "and", "develop", "techniques", "for", "implicit", "user", "modeling", "in", "information", "retrieval", ".", "We", "develop", "an", "intelligent", "client-side", "web", "search", "agent", "-LRB-", "UCAIR", "-RRB-", "that", "can", "perform", "eager", "implicit", "feedback", ",", "e.g.", ",", "query", "expansion", "based", "on", "previous", "queries", "and", "immediate", "result", "reranking", "based", "on", "clickthrough", "information", ".", "Experiments", "on", "web", "search", "show", "that", "our", "search", "agent", "can", "improve", "search", "accuracy", "over", "the", "popular", "Google", "search", "engine", ".", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "Retrieval", "models", ",", "Relevance", "feedback", ",", "Search", "Process", "Algorithms", "Although", "many", "information", "retrieval", "systems", "-LRB-", "e.g.", ",", "web", "search", "engines", "and", "digital", "library", "systems", "-RRB-", "have", "been", "successfully", "deployed", ",", "the", "current", "retrieval", "systems", "are", "far", "from", "optimal", ".", "A", "major", "deficiency", "of", "existing", "retrieval", "systems", "is", "that", "they", "generally", "lack", "user", "modeling", "and", "are", "not", "adaptive", "to", "individual", "users", "-LSB-", "17", "-RSB-", ".", "This", "inherent", "non-optimality", "is", "seen", "clearly", "in", "the", "following", "two", "cases", ":", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "05", ",", "October", "31", "November", "5", ",", "2005", ",", "Bremen", ",", "Germany", ".", "Copyright", "2005", "ACM", "1-59593-140-6", "/", "05/0010", "...", "$", "5.00", ".", "-LRB-", "1", "-RRB-", "Different", "users", "may", "use", "exactly", "the", "same", "query", "-LRB-", "e.g.", ",", "``", "Java", "''", "-RRB-", "to", "search", "for", "different", "information", "-LRB-", "e.g.", ",", "the", "Java", "island", "in", "Indonesia", "or", "the", "Java", "programming", "language", "-RRB-", ",", "but", "existing", "IR", "systems", "return", "the", "same", "results", "for", "these", "users", ".", "Without", "considering", "the", "actual", "user", ",", "it", "is", "impossible", "to", "know", "which", "sense", "``", "Java", "''", "refers", "to", "in", "a", "query", ".", "-LRB-", "2", "-RRB-", "A", "user", "'s", "information", "needs", "may", "change", "over", "time", ".", "The", "same", "user", "may", "use", "``", "Java", "''", "sometimes", "to", "mean", "the", "Java", "island", "in", "Indonesia", "and", "some", "other", "times", "to", "mean", "the", "programming", "language", ".", "Without", "recognizing", "the", "search", "context", ",", "it", "would", "be", "again", "impossible", "to", "recognize", "the", "correct", "sense", ".", "In", "order", "to", "optimize", "retrieval", "accuracy", ",", "we", "clearly", "need", "to", "model", "the", "user", "appropriately", "and", "personalize", "search", "according", "to", "each", "individual", "user", ".", "The", "major", "goal", "of", "user", "modeling", "for", "information", "retrieval", "is", "to", "accurately", "model", "a", "user", "'s", "information", "need", ",", "which", "is", ",", "unfortunately", ",", "a", "very", "difficult", "task", ".", "Indeed", ",", "it", "is", "even", "hard", "for", "a", "user", "to", "precisely", "describe", "what", "his/her", "information", "need", "is", ".", "What", "information", "is", "available", "for", "a", "system", "to", "infer", "a", "user", "'s", "information", "need", "?", "Obviously", ",", "the", "user", "'s", "query", "provides", "the", "most", "direct", "evidence", ".", "Indeed", ",", "most", "existing", "retrieval", "systems", "rely", "solely", "on", "the", "query", "to", "model", "a", "user", "'s", "information", "need", ".", "However", ",", "since", "a", "query", "is", "often", "extremely", "short", ",", "the", "user", "model", "constructed", "based", "on", "a", "keyword", "query", "is", "inevitably", "impoverished", ".", "An", "effective", "way", "to", "improve", "user", "modeling", "in", "information", "retrieval", "is", "to", "ask", "the", "user", "to", "explicitly", "specify", "which", "documents", "are", "relevant", "-LRB-", "i.e.", ",", "useful", "for", "satisfying", "his/her", "information", "need", "-RRB-", ",", "and", "then", "to", "improve", "user", "modeling", "based", "on", "such", "examples", "of", "relevant", "documents", ".", "This", "is", "called", "relevance", "feedback", ",", "which", "has", "been", "proved", "to", "be", "quite", "effective", "for", "improving", "retrieval", "accuracy", "-LSB-", "19", ",", "20", "-RSB-", ".", "Unfortunately", ",", "in", "real", "world", "applications", ",", "users", "are", "usually", "reluctant", "to", "make", "the", "extra", "effort", "to", "provide", "relevant", "examples", "for", "feedback", "-LSB-", "11", "-RSB-", ".", "It", "is", "thus", "very", "interesting", "to", "study", "how", "to", "infer", "a", "user", "'s", "information", "need", "based", "on", "any", "implicit", "feedback", "information", ",", "which", "naturally", "exists", "through", "user", "interactions", "and", "thus", "does", "not", "require", "any", "extra", "user", "effort", ".", "Indeed", ",", "several", "previous", "studies", "have", "shown", "that", "implicit", "user", "modeling", "can", "improve", "retrieval", "accuracy", ".", "In", "-LSB-", "3", "-RSB-", ",", "a", "web", "browser", "-LRB-", "Curious", "Browser", "-RRB-", "is", "developed", "to", "record", "a", "user", "'s", "explicit", "relevance", "ratings", "of", "web", "pages", "-LRB-", "relevance", "feedback", "-RRB-", "and", "browsing", "behavior", "when", "viewing", "a", "page", ",", "such", "as", "dwelling", "time", ",", "mouse", "click", ",", "mouse", "movement", "and", "scrolling", "-LRB-", "implicit", "feedback", "-RRB-", ".", "It", "is", "shown", "that", "the", "dwelling", "time", "on", "a", "page", ",", "amount", "of", "scrolling", "on", "a", "page", "and", "the", "combination", "of", "time", "and", "scrolling", "have", "a", "strong", "correlation", "with", "explicit", "relevance", "ratings", ",", "which", "suggests", "that", "implicit", "feedback", "may", "be", "helpful", "for", "inferring", "user", "information", "need", ".", "In", "-LSB-", "10", "-RSB-", ",", "user", "clickthrough", "data", "is", "collected", "as", "training", "data", "to", "learn", "a", "retrieval", "function", ",", "which", "is", "used", "to", "produce", "a", "customized", "ranking", "of", "search", "results", "that", "suits", "a", "group", "of", "users", "'", "preferences", ".", "In", "-LSB-", "25", "-RSB-", ",", "the", "clickthrough", "data", "collected", "over", "a", "long", "time", "period", "is", "exploited", "through", "query", "expansion", "to", "improve", "retrieval", "accuracy", ".", "824", "While", "a", "user", "may", "have", "general", "long", "term", "interests", "and", "preferences", "for", "information", ",", "often", "he/she", "is", "searching", "for", "documents", "to", "satisfy", "an", "``", "ad", "hoc", "''", "information", "need", ",", "which", "only", "lasts", "for", "a", "short", "period", "of", "time", ";", "once", "the", "information", "need", "is", "satisfied", ",", "the", "user", "would", "generally", "no", "longer", "be", "interested", "in", "such", "information", ".", "For", "example", ",", "a", "user", "may", "be", "looking", "for", "information", "about", "used", "cars", "in", "order", "to", "buy", "one", ",", "but", "once", "the", "user", "has", "bought", "a", "car", ",", "he/she", "is", "generally", "no", "longer", "interested", "in", "such", "information", ".", "In", "such", "cases", ",", "implicit", "feedback", "information", "collected", "over", "a", "long", "period", "of", "time", "is", "unlikely", "to", "be", "very", "useful", ",", "but", "the", "immediate", "search", "context", "and", "feedback", "information", ",", "such", "as", "which", "of", "the", "search", "results", "for", "the", "current", "information", "need", "are", "viewed", ",", "can", "be", "expected", "to", "be", "much", "more", "useful", ".", "Consider", "the", "query", "``", "Java", "''", "again", ".", "Any", "of", "the", "following", "immediate", "feedback", "information", "about", "the", "user", "could", "potentially", "help", "determine", "the", "intended", "meaning", "of", "``", "Java", "''", "in", "the", "query", ":", "-LRB-", "1", "-RRB-", "The", "previous", "query", "submitted", "by", "the", "user", "is", "``", "hashtable", "''", "-LRB-", "as", "opposed", "to", ",", "e.g.", ",", "``", "travel", "Indonesia", "''", "-RRB-", ".", "-LRB-", "2", "-RRB-", "In", "the", "search", "results", ",", "the", "user", "viewed", "a", "page", "where", "words", "such", "as", "``", "programming", "''", ",", "``", "software", "''", ",", "and", "``", "applet", "''", "occur", "many", "times", ".", "To", "the", "best", "of", "our", "knowledge", ",", "how", "to", "exploit", "such", "immediate", "and", "short-term", "search", "context", "to", "improve", "search", "has", "so", "far", "not", "been", "well", "addressed", "in", "the", "previous", "work", ".", "In", "this", "paper", ",", "we", "study", "how", "to", "construct", "and", "update", "a", "user", "model", "based", "on", "the", "immediate", "search", "context", "and", "implicit", "feedback", "information", "and", "use", "the", "model", "to", "improve", "the", "accuracy", "of", "ad", "hoc", "retrieval", ".", "In", "order", "to", "maximally", "benefit", "the", "user", "of", "a", "retrieval", "system", "through", "implicit", "user", "modeling", ",", "we", "propose", "to", "perform", "``", "eager", "implicit", "feedback", "''", ".", "That", "is", ",", "as", "soon", "as", "we", "observe", "any", "new", "piece", "of", "evidence", "from", "the", "user", ",", "we", "would", "update", "the", "system", "'s", "belief", "about", "the", "user", "'s", "information", "need", "and", "respond", "with", "improved", "retrieval", "results", "based", "on", "the", "updated", "user", "model", ".", "We", "present", "a", "decision-theoretic", "framework", "for", "optimizing", "interactive", "information", "retrieval", "based", "on", "eager", "user", "model", "updating", ",", "in", "which", "the", "system", "responds", "to", "every", "action", "of", "the", "user", "by", "choosing", "a", "system", "action", "to", "optimize", "a", "utility", "function", ".", "In", "a", "traditional", "retrieval", "paradigm", ",", "the", "retrieval", "problem", "is", "to", "match", "a", "query", "with", "documents", "and", "rank", "documents", "according", "to", "their", "relevance", "values", ".", "As", "a", "result", ",", "the", "retrieval", "process", "is", "a", "simple", "independent", "cycle", "of", "``", "query", "''", "and", "``", "result", "display", "''", ".", "In", "the", "proposed", "new", "retrieval", "paradigm", ",", "the", "user", "'s", "search", "context", "plays", "an", "important", "role", "and", "the", "inferred", "implicit", "user", "model", "is", "exploited", "immediately", "to", "benefit", "the", "user", ".", "The", "new", "retrieval", "paradigm", "is", "thus", "fundamentally", "different", "from", "the", "traditional", "paradigm", ",", "and", "is", "inherently", "more", "general", ".", "We", "further", "propose", "specific", "techniques", "to", "capture", "and", "exploit", "two", "types", "of", "implicit", "feedback", "information", ":", "-LRB-", "1", "-RRB-", "identifying", "related", "immediately", "preceding", "query", "and", "using", "the", "query", "and", "the", "corresponding", "search", "results", "to", "select", "appropriate", "terms", "to", "expand", "the", "current", "query", ",", "and", "-LRB-", "2", "-RRB-", "exploiting", "the", "viewed", "document", "summaries", "to", "immediately", "rerank", "any", "documents", "that", "have", "not", "yet", "been", "seen", "by", "the", "user", ".", "Using", "these", "techniques", ",", "we", "develop", "a", "client-side", "web", "search", "agent", "UCAIR", "-LRB-", "User-Centered", "Adaptive", "Information", "Retrieval", "-RRB-", "on", "top", "of", "a", "popular", "search", "engine", "-LRB-", "Google", "-RRB-", ".", "Experiments", "on", "web", "search", "show", "that", "our", "search", "agent", "can", "improve", "search", "accuracy", "over", "Google", ".", "Since", "the", "implicit", "information", "we", "exploit", "already", "naturally", "exists", "through", "user", "interactions", ",", "the", "user", "does", "not", "need", "to", "make", "any", "extra", "effort", ".", "Thus", "the", "developed", "search", "agent", "can", "improve", "existing", "web", "search", "performance", "without", "additional", "effort", "from", "the", "user", ".", "The", "remaining", "sections", "are", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "discuss", "the", "related", "work", ".", "In", "Section", "3", ",", "we", "present", "a", "decision-theoretic", "interactive", "retrieval", "framework", "for", "implicit", "user", "modeling", ".", "In", "Section", "4", ",", "we", "present", "the", "design", "and", "implementation", "of", "an", "intelligent", "client-side", "web", "search", "agent", "-LRB-", "UCAIR", "-RRB-", "that", "performs", "eager", "implicit", "feedback", ".", "In", "Section", "5", ",", "we", "report", "our", "experiment", "results", "using", "the", "search", "agent", ".", "Section", "6", "concludes", "our", "work", ".", "Implicit", "user", "modeling", "for", "personalized", "search", "has", "been", "studied", "in", "previous", "work", ",", "but", "our", "work", "differs", "from", "all", "previous", "work", "in", "several", "aspects", ":", "-LRB-", "1", "-RRB-", "We", "emphasize", "the", "exploitation", "of", "immediate", "search", "context", "such", "as", "the", "related", "immediately", "preceding", "query", "and", "the", "viewed", "documents", "in", "the", "same", "session", ",", "while", "most", "previous", "work", "relies", "on", "long-term", "collection", "of", "implicit", "feedback", "information", "-LSB-", "25", "-RSB-", ".", "-LRB-", "2", "-RRB-", "We", "perform", "eager", "feedback", "and", "bring", "the", "benefit", "of", "implicit", "user", "modeling", "as", "soon", "as", "any", "new", "implicit", "feedback", "information", "is", "available", ",", "while", "the", "previous", "work", "mostly", "exploits", "long-term", "implicit", "feedback", "-LSB-", "10", "-RSB-", ".", "-LRB-", "3", "-RRB-", "We", "propose", "a", "retrieval", "framework", "to", "integrate", "implicit", "user", "modeling", "with", "the", "interactive", "retrieval", "process", ",", "while", "the", "previous", "work", "either", "studies", "implicit", "user", "modeling", "separately", "from", "retrieval", "-LSB-", "3", "-RSB-", "or", "only", "studies", "specific", "retrieval", "models", "for", "exploiting", "implicit", "feedback", "to", "better", "match", "a", "query", "with", "documents", "-LSB-", "23", ",", "27", ",", "22", "-RSB-", ".", "-LRB-", "4", "-RRB-", "We", "develop", "and", "evaluate", "a", "personalized", "Web", "search", "agent", "with", "online", "user", "studies", ",", "while", "most", "existing", "work", "evaluates", "algorithms", "offline", "without", "real", "user", "interactions", ".", "Currently", "some", "search", "engines", "provide", "rudimentary", "personalization", ",", "such", "as", "Google", "Personalized", "web", "search", "-LSB-", "6", "-RSB-", ",", "which", "allows", "users", "to", "explicitly", "describe", "their", "interests", "by", "selecting", "from", "predefined", "topics", ",", "so", "that", "those", "results", "that", "match", "their", "interests", "are", "brought", "to", "the", "top", ",", "and", "My", "Yahoo!", "search", "-LSB-", "16", "-RSB-", ",", "which", "gives", "users", "the", "option", "to", "save", "web", "sites", "they", "like", "and", "block", "those", "they", "dislike", ".", "In", "contrast", ",", "UCAIR", "personalizes", "web", "search", "through", "implicit", "user", "modeling", "without", "any", "additional", "user", "efforts", ".", "Furthermore", ",", "the", "personalization", "of", "UCAIR", "is", "provided", "on", "the", "client", "side", ".", "There", "are", "two", "remarkable", "advantages", "on", "this", ".", "First", ",", "the", "user", "does", "not", "need", "to", "worry", "about", "the", "privacy", "infringement", ",", "which", "is", "a", "big", "concern", "for", "personalized", "search", "-LSB-", "26", "-RSB-", ".", "Second", ",", "both", "the", "computation", "of", "personalization", "and", "the", "storage", "of", "the", "user", "profile", "are", "done", "at", "the", "client", "side", "so", "that", "the", "server", "load", "is", "reduced", "dramatically", "-LSB-", "9", "-RSB-", ".", "There", "have", "been", "many", "works", "studying", "user", "query", "logs", "-LSB-", "1", "-RSB-", "or", "query", "dynamics", "-LSB-", "13", "-RSB-", ".", "UCAIR", "makes", "direct", "use", "of", "a", "user", "'s", "query", "history", "to", "benefit", "the", "same", "user", "immediately", "in", "the", "same", "search", "session", ".", "UCAIR", "first", "judges", "whether", "two", "neighboring", "queries", "belong", "to", "the", "same", "information", "session", "and", "if", "so", ",", "it", "selects", "terms", "from", "the", "previous", "query", "to", "perform", "query", "expansion", ".", "Our", "query", "expansion", "approach", "is", "similar", "to", "automatic", "query", "expansion", "-LSB-", "28", ",", "15", ",", "5", "-RSB-", ",", "but", "instead", "of", "using", "pseudo", "feedback", "to", "expand", "the", "query", ",", "we", "use", "user", "'s", "implicit", "feedback", "information", "to", "expand", "the", "current", "query", ".", "These", "two", "techniques", "may", "be", "combined", ".", "In", "interactive", "IR", ",", "a", "user", "interacts", "with", "the", "retrieval", "system", "through", "an", "``", "action", "dialogue", "''", ",", "in", "which", "the", "system", "responds", "to", "each", "user", "action", "with", "some", "system", "action", ".", "For", "example", ",", "the", "user", "'s", "action", "may", "be", "submitting", "a", "query", "and", "the", "system", "'s", "response", "may", "be", "returning", "a", "list", "of", "10", "document", "summaries", ".", "In", "general", ",", "the", "space", "of", "user", "actions", "and", "system", "responses", "and", "their", "granularities", "would", "depend", "on", "the", "interface", "of", "a", "particular", "retrieval", "system", ".", "In", "principle", ",", "every", "action", "of", "the", "user", "can", "potentially", "provide", "new", "evidence", "to", "help", "the", "system", "better", "infer", "the", "user", "'s", "information", "need", ".", "Thus", "in", "order", "to", "respond", "optimally", ",", "the", "system", "should", "use", "all", "the", "evidence", "collected", "so", "far", "about", "the", "user", "when", "choosing", "a", "response", ".", "When", "viewed", "in", "this", "way", ",", "most", "existing", "search", "engines", "are", "clearly", "non-optimal", ".", "For", "example", ",", "if", "a", "user", "has", "viewed", "some", "documents", "on", "the", "first", "page", "of", "search", "results", ",", "when", "the", "user", "clicks", "on", "the", "``", "Next", "''", "link", "to", "fetch", "more", "results", ",", "an", "existing", "retrieval", "system", "would", "still", "return", "the", "next", "page", "of", "results", "retrieved", "based", "on", "the", "original", "query", "without", "considering", "the", "new", "evidence", "that", "a", "particular", "result", "has", "been", "viewed", "by", "the", "user", ".", "825", "We", "propose", "to", "optimize", "retrieval", "performance", "by", "adapting", "system", "responses", "based", "on", "every", "action", "that", "a", "user", "has", "taken", ",", "and", "cast", "the", "optimization", "problem", "as", "a", "decision", "task", ".", "Specifically", ",", "at", "any", "time", ",", "the", "system", "would", "attempt", "to", "do", "two", "tasks", ":", "-LRB-", "1", "-RRB-", "User", "model", "updating", ":", "Monitor", "any", "useful", "evidence", "from", "the", "user", "regarding", "his/her", "information", "need", "and", "update", "the", "user", "model", "as", "soon", "as", "such", "evidence", "is", "available", ";", "-LRB-", "2", "-RRB-", "Improving", "search", "results", ":", "Rerank", "immediately", "all", "the", "documents", "that", "the", "user", "has", "not", "yet", "seen", ",", "as", "soon", "as", "the", "user", "model", "is", "updated", ".", "We", "emphasize", "eager", "updating", "and", "reranking", ",", "which", "makes", "our", "work", "quite", "different", "from", "any", "existing", "work", ".", "Below", "we", "present", "a", "formal", "decision", "theoretic", "framework", "for", "optimizing", "retrieval", "performance", "through", "implicit", "user", "modeling", "in", "interactive", "information", "retrieval", ".", "3.1", "A", "decision-theoretic", "framework", "Let", "A", "be", "the", "set", "of", "all", "user", "actions", "and", "R", "-LRB-", "a", "-RRB-", "be", "the", "set", "of", "all", "possible", "system", "responses", "to", "a", "user", "action", "a", "A", ".", "At", "any", "time", ",", "let", "A", "t", "=", "-LRB-", "a", "1", ",", "...", ",", "a", "t", "-RRB-", "be", "the", "observed", "sequence", "of", "user", "actions", "so", "far", "-LRB-", "up", "to", "time", "point", "t", "-RRB-", "and", "R", "t-1", "=", "-LRB-", "r", "1", ",", "...", ",", "r", "t-1", "-RRB-", "be", "the", "responses", "that", "the", "system", "has", "made", "responding", "to", "the", "user", "actions", ".", "The", "system", "'s", "goal", "is", "to", "choose", "an", "optimal", "response", "r", "t", "R", "-LRB-", "a", "t", "-RRB-", "for", "the", "current", "user", "action", "a", "t", ".", "Let", "M", "be", "the", "space", "of", "all", "possible", "user", "models", ".", "We", "further", "define", "a", "loss", "function", "L", "-LRB-", "a", ",", "r", ",", "m", "-RRB-", ",", "where", "a", "A", "is", "a", "user", "action", ",", "r", "R", "-LRB-", "a", "-RRB-", "is", "a", "system", "response", ",", "and", "m", "M", "is", "a", "user", "model", ".", "L", "-LRB-", "a", ",", "r", ",", "m", "-RRB-", "encodes", "our", "decision", "preferences", "and", "assesses", "the", "optimality", "of", "responding", "with", "r", "when", "the", "current", "user", "model", "is", "m", "and", "the", "current", "user", "action", "is", "a", ".", "According", "to", "Bayesian", "decision", "theory", ",", "the", "optimal", "decision", "at", "time", "t", "is", "to", "choose", "a", "response", "that", "minimizes", "the", "Bayes", "risk", ",", "i.e.", ",", "r", "t", "=", "argmin", "rR", "-LRB-", "a", "t", "-RRB-", "M", "L", "-LRB-", "a", "t", ",", "r", ",", "m", "t", "-RRB-", "P", "-LRB-", "m", "t", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", "dm", "t", "-LRB-", "1", "-RRB-", "where", "P", "-LRB-", "m", "t", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", "is", "the", "posterior", "probability", "of", "the", "user", "model", "m", "t", "given", "all", "the", "observations", "about", "the", "user", "U", "we", "have", "made", "up", "to", "time", "t.", "To", "simplify", "the", "computation", "of", "Equation", "1", ",", "let", "us", "assume", "that", "the", "posterior", "probability", "mass", "P", "-LRB-", "m", "t", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", "is", "mostly", "concentrated", "on", "the", "mode", "m", "t", "=", "argmax", "m", "t", "P", "-LRB-", "m", "t", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", ".", "We", "can", "then", "approximate", "the", "integral", "with", "the", "value", "of", "the", "loss", "function", "at", "m", "t", ".", "That", "is", ",", "r", "t", "argmin", "rR", "-LRB-", "a", "t", "-RRB-", "L", "-LRB-", "a", "t", ",", "r", ",", "m", "t", "-RRB-", "-LRB-", "2", "-RRB-", "where", "m", "t", "=", "argmax", "m", "t", "P", "-LRB-", "m", "t", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", ".", "Leaving", "aside", "how", "to", "define", "and", "estimate", "these", "probabilistic", "models", "and", "the", "loss", "function", ",", "we", "can", "see", "that", "such", "a", "decision-theoretic", "formulation", "suggests", "that", ",", "in", "order", "to", "choose", "the", "optimal", "response", "to", "a", "t", ",", "the", "system", "should", "perform", "two", "tasks", ":", "-LRB-", "1", "-RRB-", "compute", "the", "current", "user", "model", "and", "obtain", "m", "t", "based", "on", "all", "the", "useful", "information", ".", "-LRB-", "2", "-RRB-", "choose", "a", "response", "r", "t", "to", "minimize", "the", "loss", "function", "value", "L", "-LRB-", "a", "t", ",", "r", "t", ",", "m", "t", "-RRB-", ".", "When", "a", "t", "does", "not", "affect", "our", "belief", "about", "m", "t", ",", "the", "first", "step", "can", "be", "omitted", "and", "we", "may", "reuse", "m", "t-1", "for", "m", "t", ".", "Note", "that", "our", "framework", "is", "quite", "general", "since", "we", "can", "potentially", "model", "any", "kind", "of", "user", "actions", "and", "system", "responses", ".", "In", "most", "cases", ",", "as", "we", "may", "expect", ",", "the", "system", "'s", "response", "is", "some", "ranking", "of", "documents", ",", "i.e.", ",", "for", "most", "actions", "a", ",", "R", "-LRB-", "a", "-RRB-", "consists", "of", "all", "the", "possible", "rankings", "of", "the", "unseen", "documents", ",", "and", "the", "decision", "problem", "boils", "down", "to", "choosing", "the", "best", "ranking", "of", "unseen", "documents", "based", "on", "the", "most", "current", "user", "model", ".", "When", "a", "is", "the", "action", "of", "submitting", "a", "keyword", "query", ",", "such", "a", "response", "is", "exactly", "what", "a", "current", "retrieval", "system", "would", "do", ".", "However", ",", "we", "can", "easily", "imagine", "that", "a", "more", "intelligent", "web", "search", "engine", "would", "respond", "to", "a", "user", "'s", "clicking", "of", "the", "``", "Next", "''", "link", "-LRB-", "to", "fetch", "more", "unseen", "results", "-RRB-", "with", "a", "more", "opti-mized", "ranking", "of", "documents", "based", "on", "any", "viewed", "documents", "in", "the", "current", "page", "of", "results", ".", "In", "fact", ",", "according", "to", "our", "eager", "updating", "strategy", ",", "we", "may", "even", "allow", "a", "system", "to", "respond", "to", "a", "user", "'s", "clicking", "of", "browser", "'s", "``", "Back", "''", "button", "after", "viewing", "a", "document", "in", "the", "same", "way", ",", "so", "that", "the", "user", "can", "maximally", "benefit", "from", "implicit", "feedback", ".", "These", "are", "precisely", "what", "our", "UCAIR", "system", "does", ".", "3.2", "User", "models", "A", "user", "model", "m", "M", "represents", "what", "we", "know", "about", "the", "user", "U", ",", "so", "in", "principle", ",", "it", "can", "contain", "any", "information", "about", "the", "user", "that", "we", "wish", "to", "model", ".", "We", "now", "discuss", "two", "important", "components", "in", "a", "user", "model", ".", "The", "first", "component", "is", "a", "component", "model", "of", "the", "user", "'s", "information", "need", ".", "Presumably", ",", "the", "most", "important", "factor", "affecting", "the", "optimality", "of", "the", "system", "'s", "response", "is", "how", "well", "the", "response", "addresses", "the", "user", "'s", "information", "need", ".", "Indeed", ",", "at", "any", "time", ",", "we", "may", "assume", "that", "the", "system", "has", "some", "``", "belief", "''", "about", "what", "the", "user", "is", "interested", "in", ",", "which", "we", "model", "through", "a", "term", "vector", "x", "=", "-LRB-", "x", "1", ",", "...", ",", "x", "|", "V", "|", "-RRB-", ",", "where", "V", "=", "-LCB-", "w", "1", ",", "...", ",", "w", "|", "V", "|", "-RCB-", "is", "the", "set", "of", "all", "terms", "-LRB-", "i.e.", ",", "vocabulary", "-RRB-", "and", "x", "i", "is", "the", "weight", "of", "term", "w", "i", ".", "Such", "a", "term", "vector", "is", "commonly", "used", "in", "information", "retrieval", "to", "represent", "both", "queries", "and", "documents", ".", "For", "example", ",", "the", "vector-space", "model", ",", "assumes", "that", "both", "the", "query", "and", "the", "documents", "are", "represented", "as", "term", "vectors", "and", "the", "score", "of", "a", "document", "with", "respect", "to", "a", "query", "is", "computed", "based", "on", "the", "similarity", "between", "the", "query", "vector", "and", "the", "document", "vector", "-LSB-", "21", "-RSB-", ".", "In", "a", "language", "modeling", "approach", ",", "we", "may", "also", "regard", "the", "query", "unigram", "language", "model", "-LSB-", "12", ",", "29", "-RSB-", "or", "the", "relevance", "model", "-LSB-", "14", "-RSB-", "as", "a", "term", "vector", "representation", "of", "the", "user", "'s", "information", "need", ".", "Intuitively", ",", "x", "would", "assign", "high", "weights", "to", "terms", "that", "characterize", "the", "topics", "which", "the", "user", "is", "interested", "in", ".", "The", "second", "component", "we", "may", "include", "in", "our", "user", "model", "is", "the", "documents", "that", "the", "user", "has", "already", "viewed", ".", "Obviously", ",", "even", "if", "a", "document", "is", "relevant", ",", "if", "the", "user", "has", "already", "seen", "the", "document", ",", "it", "would", "not", "be", "useful", "to", "present", "the", "same", "document", "again", ".", "We", "thus", "introduce", "another", "variable", "S", "D", "-LRB-", "D", "is", "the", "whole", "set", "of", "documents", "in", "the", "collection", "-RRB-", "to", "denote", "the", "subset", "of", "documents", "in", "the", "search", "results", "that", "the", "user", "has", "already", "seen/viewed", ".", "In", "general", ",", "at", "time", "t", ",", "we", "may", "represent", "a", "user", "model", "as", "m", "t", "=", "-LRB-", "S", ",", "x", ",", "A", "t", ",", "R", "t-1", "-RRB-", ",", "where", "S", "is", "the", "seen", "documents", ",", "x", "is", "the", "system", "'s", "``", "understanding", "''", "of", "the", "user", "'s", "information", "need", ",", "and", "-LRB-", "A", "t", ",", "R", "t-1", "-RRB-", "represents", "the", "user", "'s", "interaction", "history", ".", "Note", "that", "an", "even", "more", "general", "user", "model", "may", "also", "include", "other", "factors", "such", "as", "the", "user", "'s", "reading", "level", "and", "occupation", ".", "If", "we", "assume", "that", "the", "uncertainty", "of", "a", "user", "model", "m", "t", "is", "solely", "due", "to", "the", "uncertainty", "of", "x", ",", "the", "computation", "of", "our", "current", "estimate", "of", "user", "model", "m", "t", "will", "mainly", "involve", "computing", "our", "best", "estimate", "of", "x", ".", "That", "is", ",", "the", "system", "would", "choose", "a", "response", "according", "to", "r", "t", "=", "argmin", "rR", "-LRB-", "a", "t", "-RRB-", "L", "-LRB-", "a", "t", ",", "r", ",", "S", ",", "x", ",", "A", "t", ",", "R", "t-1", "-RRB-", "-LRB-", "3", "-RRB-", "where", "x", "=", "argmax", "x", "P", "-LRB-", "x", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", ".", "This", "is", "the", "decision", "mechanism", "implemented", "in", "the", "UCAIR", "system", "to", "be", "described", "later", ".", "In", "this", "system", ",", "we", "avoided", "specifying", "the", "probabilistic", "model", "P", "-LRB-", "x", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", "by", "computing", "x", "directly", "with", "some", "existing", "feedback", "method", ".", "3.3", "Loss", "functions", "The", "exact", "definition", "of", "loss", "function", "L", "depends", "on", "the", "responses", ",", "thus", "it", "is", "inevitably", "application-specific", ".", "We", "now", "briefly", "discuss", "some", "possibilities", "when", "the", "response", "is", "to", "rank", "all", "the", "unseen", "documents", "and", "present", "the", "top", "k", "of", "them", ".", "Let", "r", "=", "-LRB-", "d", "1", ",", "...", ",", "d", "k", "-RRB-", "be", "the", "top", "k", "documents", ",", "S", "be", "the", "set", "of", "seen", "documents", "by", "the", "user", ",", "and", "x", "be", "the", "system", "'s", "best", "guess", "of", "the", "user", "'s", "information", "need", ".", "We", "826", "may", "simply", "define", "the", "loss", "associated", "with", "r", "as", "the", "negative", "sum", "of", "the", "probability", "that", "each", "of", "the", "d", "i", "is", "relevant", ",", "i.e.", ",", "L", "-LRB-", "a", ",", "r", ",", "m", "-RRB-", "=", "k", "i", "=", "1", "P", "-LRB-", "relevant", "|", "d", "i", ",", "m", "-RRB-", ".", "Clearly", ",", "in", "order", "to", "minimize", "this", "loss", "function", ",", "the", "optimal", "response", "r", "would", "contain", "the", "k", "documents", "with", "the", "highest", "probability", "of", "relevance", ",", "which", "is", "intuitively", "reasonable", ".", "One", "deficiency", "of", "this", "``", "top-k", "loss", "function", "''", "is", "that", "it", "is", "not", "sensitive", "to", "the", "internal", "order", "of", "the", "selected", "top", "k", "documents", ",", "so", "switching", "the", "ranking", "order", "of", "a", "non-relevant", "document", "and", "a", "relevant", "one", "would", "not", "affect", "the", "loss", ",", "which", "is", "unreasonable", ".", "To", "model", "ranking", ",", "we", "can", "introduce", "a", "factor", "of", "the", "user", "model", "the", "probability", "of", "each", "of", "the", "k", "documents", "being", "viewed", "by", "the", "user", ",", "P", "-LRB-", "view", "|", "d", "i", "-RRB-", ",", "and", "define", "the", "following", "``", "ranking", "loss", "function", "''", ":", "L", "-LRB-", "a", ",", "r", ",", "m", "-RRB-", "=", "k", "i", "=", "1", "P", "-LRB-", "view", "|", "d", "i", "-RRB-", "P", "-LRB-", "relevant", "|", "d", "i", ",", "m", "-RRB-", "Since", "in", "general", ",", "if", "d", "i", "is", "ranked", "above", "d", "j", "-LRB-", "i.e.", ",", "i", "<", "j", "-RRB-", ",", "P", "-LRB-", "view", "|", "d", "i", "-RRB-", ">", "P", "-LRB-", "view", "|", "d", "j", "-RRB-", ",", "this", "loss", "function", "would", "favor", "a", "decision", "to", "rank", "relevant", "documents", "above", "non-relevant", "ones", ",", "as", "otherwise", ",", "we", "could", "always", "switch", "d", "i", "with", "d", "j", "to", "reduce", "the", "loss", "value", ".", "Thus", "the", "system", "should", "simply", "perform", "a", "regular", "retrieval", "and", "rank", "documents", "according", "to", "the", "probability", "of", "relevance", "-LSB-", "18", "-RSB-", ".", "Depending", "on", "the", "user", "'s", "retrieval", "preferences", ",", "there", "can", "be", "many", "other", "possibilities", ".", "For", "example", ",", "if", "the", "user", "does", "not", "want", "to", "see", "redundant", "documents", ",", "the", "loss", "function", "should", "include", "some", "redundancy", "measure", "on", "r", "based", "on", "the", "already", "seen", "documents", "S.", "Of", "course", ",", "when", "the", "response", "is", "not", "to", "choose", "a", "ranked", "list", "of", "documents", ",", "we", "would", "need", "a", "different", "loss", "function", ".", "We", "discuss", "one", "such", "example", "that", "is", "relevant", "to", "the", "search", "agent", "that", "we", "implement", ".", "When", "a", "user", "enters", "a", "query", "q", "t", "-LRB-", "current", "action", "-RRB-", ",", "our", "search", "agent", "relies", "on", "some", "existing", "search", "engine", "to", "actually", "carry", "out", "search", ".", "In", "such", "a", "case", ",", "even", "though", "the", "search", "agent", "does", "not", "have", "control", "of", "the", "retrieval", "algorithm", ",", "it", "can", "still", "attempt", "to", "optimize", "the", "search", "results", "through", "refining", "the", "query", "sent", "to", "the", "search", "engine", "and/or", "reranking", "the", "results", "obtained", "from", "the", "search", "engine", ".", "The", "loss", "functions", "for", "reranking", "are", "already", "discussed", "above", ";", "we", "now", "take", "a", "look", "at", "the", "loss", "functions", "for", "query", "refinement", ".", "Let", "f", "be", "the", "retrieval", "function", "of", "the", "search", "engine", "that", "our", "agent", "uses", "so", "that", "f", "-LRB-", "q", "-RRB-", "would", "give", "us", "the", "search", "results", "using", "query", "q.", "Given", "that", "the", "current", "action", "of", "the", "user", "is", "entering", "a", "query", "q", "t", "-LRB-", "i.e.", ",", "a", "t", "=", "q", "t", "-RRB-", ",", "our", "response", "would", "be", "f", "-LRB-", "q", "-RRB-", "for", "some", "q", ".", "Since", "we", "have", "no", "choice", "of", "f", ",", "our", "decision", "is", "to", "choose", "a", "good", "q.", "Formally", ",", "r", "t", "=", "argmin", "r", "t", "L", "-LRB-", "a", ",", "r", "t", ",", "m", "-RRB-", "=", "argmin", "f", "-LRB-", "q", "-RRB-", "L", "-LRB-", "a", ",", "f", "-LRB-", "q", "-RRB-", ",", "m", "-RRB-", "=", "f", "-LRB-", "argmin", "q", "L", "-LRB-", "q", "t", ",", "f", "-LRB-", "q", "-RRB-", ",", "m", "-RRB-", "-RRB-", "which", "shows", "that", "our", "goal", "is", "to", "find", "q", "=", "argmin", "q", "L", "-LRB-", "q", "t", ",", "f", "-LRB-", "q", "-RRB-", ",", "m", "-RRB-", ",", "i.e.", ",", "an", "optimal", "query", "that", "would", "give", "us", "the", "best", "f", "-LRB-", "q", "-RRB-", ".", "A", "different", "choice", "of", "loss", "function", "L", "-LRB-", "q", "t", ",", "f", "-LRB-", "q", "-RRB-", ",", "m", "-RRB-", "would", "lead", "to", "a", "different", "query", "refinement", "strategy", ".", "In", "UCAIR", ",", "we", "heuristically", "compute", "q", "by", "expanding", "q", "t", "with", "terms", "extracted", "from", "r", "t-1", "whenever", "q", "t-1", "and", "q", "t", "have", "high", "similarity", ".", "Note", "that", "r", "t-1", "and", "q", "t-1", "are", "contained", "in", "m", "as", "part", "of", "the", "user", "'s", "interaction", "history", ".", "3.4", "Implicit", "user", "modeling", "Implicit", "user", "modeling", "is", "captured", "in", "our", "framework", "through", "the", "computation", "of", "x", "=", "argmax", "x", "P", "-LRB-", "x", "|", "U", ",", "D", ",", "A", "t", ",", "R", "t-1", "-RRB-", ",", "i.e.", ",", "the", "system", "'s", "current", "belief", "of", "what", "the", "user", "'s", "information", "need", "is", ".", "Here", "again", "there", "may", "be", "many", "possibilities", ",", "leading", "to", "different", "algorithms", "for", "implicit", "user", "modeling", ".", "We", "now", "discuss", "a", "few", "of", "them", ".", "First", ",", "when", "two", "consecutive", "queries", "are", "related", ",", "the", "previous", "query", "can", "be", "exploited", "to", "enrich", "the", "current", "query", "and", "provide", "more", "search", "context", "to", "help", "disambiguation", ".", "For", "this", "purpose", ",", "instead", "of", "performing", "query", "expansion", "as", "we", "did", "in", "the", "previous", "section", ",", "we", "could", "also", "compute", "an", "updated", "x", "based", "on", "the", "previous", "query", "and", "retrieval", "results", ".", "The", "computed", "new", "user", "model", "can", "then", "be", "used", "to", "rank", "the", "documents", "with", "a", "standard", "information", "retrieval", "model", ".", "Second", ",", "we", "can", "also", "infer", "a", "user", "'s", "interest", "based", "on", "the", "summaries", "of", "the", "viewed", "documents", ".", "When", "a", "user", "is", "presented", "with", "a", "list", "of", "summaries", "of", "top", "ranked", "documents", ",", "if", "the", "user", "chooses", "to", "skip", "the", "first", "n", "documents", "and", "to", "view", "the", "-LRB-", "n", "+", "1", "-RRB-", "-", "th", "document", ",", "we", "may", "infer", "that", "the", "user", "is", "not", "interested", "in", "the", "displayed", "summaries", "for", "the", "first", "n", "documents", ",", "but", "is", "attracted", "by", "the", "displayed", "summary", "of", "the", "-LRB-", "n", "+", "1", "-RRB-", "-", "th", "document", ".", "We", "can", "thus", "use", "these", "summaries", "as", "negative", "and", "positive", "examples", "to", "learn", "a", "more", "accurate", "user", "model", "x", ".", "Here", "many", "standard", "relevance", "feedback", "techniques", "can", "be", "exploited", "-LSB-", "19", ",", "20", "-RSB-", ".", "Note", "that", "we", "should", "use", "the", "displayed", "summaries", ",", "as", "opposed", "to", "the", "actual", "contents", "of", "those", "documents", ",", "since", "it", "is", "possible", "that", "the", "displayed", "summary", "of", "the", "viewed", "document", "is", "relevant", ",", "but", "the", "document", "content", "is", "actually", "not", ".", "Similarly", ",", "a", "displayed", "summary", "may", "mislead", "a", "user", "to", "skip", "a", "relevant", "document", ".", "Inferring", "user", "models", "based", "on", "such", "displayed", "information", ",", "rather", "than", "the", "actual", "content", "of", "a", "document", "is", "an", "important", "difference", "between", "UCAIR", "and", "some", "other", "similar", "systems", ".", "In", "UCAIR", ",", "both", "of", "these", "strategies", "for", "inferring", "an", "implicit", "user", "model", "are", "implemented", ".", "In", "this", "section", ",", "we", "present", "a", "client-side", "web", "search", "agent", "called", "UCAIR", ",", "in", "which", "we", "implement", "some", "of", "the", "methods", "discussed", "in", "the", "previous", "section", "for", "performing", "personalized", "search", "through", "implicit", "user", "modeling", ".", "UCAIR", "is", "a", "web", "browser", "plug-in", "1", "that", "acts", "as", "a", "proxy", "for", "web", "search", "engines", ".", "Currently", ",", "it", "is", "only", "implemented", "for", "Internet", "Explorer", "and", "Google", ",", "but", "it", "is", "a", "matter", "of", "engineering", "to", "make", "it", "run", "on", "other", "web", "browsers", "and", "interact", "with", "other", "search", "engines", ".", "The", "issue", "of", "privacy", "is", "a", "primary", "obstacle", "for", "deploying", "any", "real", "world", "applications", "involving", "serious", "user", "modeling", ",", "such", "as", "personalized", "search", ".", "For", "this", "reason", ",", "UCAIR", "is", "strictly", "running", "as", "a", "client-side", "search", "agent", ",", "as", "opposed", "to", "a", "server-side", "application", ".", "This", "way", ",", "the", "captured", "user", "information", "always", "resides", "on", "the", "computer", "that", "the", "user", "is", "using", ",", "thus", "the", "user", "does", "not", "need", "to", "release", "any", "information", "to", "the", "outside", ".", "Client-side", "personalization", "also", "allows", "the", "system", "to", "easily", "observe", "a", "lot", "of", "user", "information", "that", "may", "not", "be", "easily", "available", "to", "a", "server", ".", "Furthermore", ",", "performing", "personalized", "search", "on", "the", "client-side", "is", "more", "scalable", "than", "on", "the", "serverside", ",", "since", "the", "overhead", "of", "computation", "and", "storage", "is", "distributed", "among", "clients", ".", "As", "shown", "in", "Figure", "1", ",", "the", "UCAIR", "toolbar", "has", "3", "major", "components", ":", "-LRB-", "1", "-RRB-", "The", "-LRB-", "implicit", "-RRB-", "user", "modeling", "module", "captures", "a", "user", "'s", "search", "context", "and", "history", "information", ",", "including", "the", "submitted", "queries", "and", "any", "clicked", "search", "results", "and", "infers", "search", "session", "boundaries", ".", "-LRB-", "2", "-RRB-", "The", "query", "modification", "module", "selectively", "improves", "the", "query", "formulation", "according", "to", "the", "current", "user", "model", ".", "-LRB-", "3", "-RRB-", "The", "result", "re-ranking", "module", "immediately", "re-ranks", "any", "unseen", "search", "results", "whenever", "the", "user", "model", "is", "updated", ".", "In", "UCAIR", ",", "we", "consider", "four", "basic", "user", "actions", ":", "-LRB-", "1", "-RRB-", "submitting", "a", "keyword", "query", ";", "-LRB-", "2", "-RRB-", "viewing", "a", "document", ";", "-LRB-", "3", "-RRB-", "clicking", "the", "``", "Back", "''", "button", ";", "-LRB-", "4", "-RRB-", "clicking", "the", "``", "Next", "''", "link", "on", "a", "result", "page", ".", "For", "each", "of", "these", "four", "actions", ",", "the", "system", "responds", "with", ",", "respectively", ",", "-LRB-", "1", "-RRB-", "1", "UCAIR", "is", "available", "at", ":", "http://sifaka.cs.uiuc.edu/ir/ucair/download.html", "827", "Search", "Engine", "-LRB-", "e.g.", ",", "Google", "-RRB-", "Search", "History", "Log", "-LRB-", "e.g.", ",", "past", "queries", ",", "clicked", "results", "-RRB-", "Query", "Modification", "Result", "Re-Ranking", "User", "Modeling", "Result", "Buffer", "UCAIR", "User", "query", "results", "clickthrough", "...", "Figure", "1", ":", "UCAIR", "architecture", "generating", "a", "ranked", "list", "of", "results", "by", "sending", "a", "possibly", "expanded", "query", "to", "a", "search", "engine", ";", "-LRB-", "2", "-RRB-", "updating", "the", "information", "need", "model", "x", ";", "-LRB-", "3", "-RRB-", "reranking", "the", "unseen", "results", "on", "the", "current", "result", "page", "based", "on", "the", "current", "model", "x", ";", "and", "-LRB-", "4", "-RRB-", "reranking", "the", "unseen", "pages", "and", "generating", "the", "next", "page", "of", "results", "based", "on", "the", "current", "model", "x.", "Behind", "these", "responses", ",", "there", "are", "three", "basic", "tasks", ":", "-LRB-", "1", "-RRB-", "Decide", "whether", "the", "previous", "query", "is", "related", "to", "the", "current", "query", "and", "if", "so", "expand", "the", "current", "query", "with", "useful", "terms", "from", "the", "previous", "query", "or", "the", "results", "of", "the", "previous", "query", ".", "-LRB-", "2", "-RRB-", "Update", "the", "information", "need", "model", "x", "based", "on", "a", "newly", "clicked", "document", "summary", ".", "-LRB-", "3", "-RRB-", "Rerank", "a", "set", "of", "unseen", "documents", "based", "on", "the", "current", "model", "x.", "Below", "we", "describe", "our", "algorithms", "for", "each", "of", "them", ".", "4.2", "Session", "boundary", "detection", "and", "query", "expansion", "To", "effectively", "exploit", "previous", "queries", "and", "their", "corresponding", "clickthrough", "information", ",", "UCAIR", "needs", "to", "judge", "whether", "two", "adjacent", "queries", "belong", "to", "the", "same", "search", "session", "-LRB-", "i.e.", ",", "detect", "session", "boundaries", "-RRB-", ".", "Existing", "work", "on", "session", "boundary", "detection", "is", "mostly", "in", "the", "context", "of", "web", "log", "analysis", "-LRB-", "e.g.", ",", "-LSB-", "8", "-RSB-", "-RRB-", ",", "and", "uses", "statistical", "information", "rather", "than", "textual", "features", ".", "Since", "our", "client-side", "agent", "does", "not", "have", "access", "to", "server", "query", "logs", ",", "we", "make", "session", "boundary", "decisions", "based", "on", "textual", "similarity", "between", "two", "queries", ".", "Because", "related", "queries", "do", "not", "necessarily", "share", "the", "same", "words", "-LRB-", "e.g.", ",", "``", "java", "island", "''", "and", "``", "travel", "Indonesia", "''", "-RRB-", ",", "it", "is", "insufficient", "to", "use", "only", "query", "text", ".", "Therefore", "we", "use", "the", "search", "results", "of", "the", "two", "queries", "to", "help", "decide", "whether", "they", "are", "topically", "related", ".", "For", "example", ",", "for", "the", "above", "queries", "``", "java", "island", "''", "and", "``", "travel", "Indone-sia", "''", "'", ",", "the", "words", "``", "java", "''", ",", "``", "bali", "''", ",", "``", "island", "''", ",", "``", "indonesia", "''", "and", "``", "travel", "''", "may", "occur", "frequently", "in", "both", "queries", "'", "search", "results", ",", "yielding", "a", "high", "similarity", "score", ".", "We", "only", "use", "the", "titles", "and", "summaries", "of", "the", "search", "results", "to", "calculate", "the", "similarity", "since", "they", "are", "available", "in", "the", "retrieved", "search", "result", "page", "and", "fetching", "the", "full", "text", "of", "every", "result", "page", "would", "sig-nificantly", "slow", "down", "the", "process", ".", "To", "compensate", "for", "the", "terseness", "of", "titles", "and", "summaries", ",", "we", "retrieve", "more", "results", "than", "a", "user", "would", "normally", "view", "for", "the", "purpose", "of", "detecting", "session", "boundaries", "-LRB-", "typ-ically", "50", "results", "-RRB-", ".", "The", "similarity", "between", "the", "previous", "query", "q", "and", "the", "current", "query", "q", "is", "computed", "as", "follows", ".", "Let", "-LCB-", "s", "1", ",", "s", "2", ",", "...", ",", "s", "n", "-RCB-", "and", "-LCB-", "s", "1", ",", "s", "2", ",", "...", ",", "s", "n", "-RCB-", "be", "the", "result", "sets", "for", "the", "two", "queries", ".", "We", "use", "the", "pivoted", "normalization", "TF-IDF", "weighting", "formula", "-LSB-", "24", "-RSB-", "to", "compute", "a", "term", "weight", "vector", "s", "i", "for", "each", "result", "s", "i", ".", "We", "define", "the", "average", "result", "s", "avg", "to", "be", "the", "centroid", "of", "all", "the", "result", "vectors", ",", "i.e.", ",", "-LRB-", "s", "1", "+", "s", "2", "+", "...", "+", "s", "n", "-RRB-", "/", "n", ".", "The", "cosine", "similarity", "between", "the", "two", "average", "results", "is", "calculated", "as", "s", "avg", "s", "avg", "/", "s", "2", "avg", "s", "2", "avg", "If", "the", "similarity", "value", "exceeds", "a", "predefined", "threshold", ",", "the", "two", "queries", "will", "be", "considered", "to", "be", "in", "the", "same", "information", "session", ".", "If", "the", "previous", "query", "and", "the", "current", "query", "are", "found", "to", "belong", "to", "the", "same", "search", "session", ",", "UCAIR", "would", "attempt", "to", "expand", "the", "current", "query", "with", "terms", "from", "the", "previous", "query", "and", "its", "search", "results", ".", "Specifically", ",", "for", "each", "term", "in", "the", "previous", "query", "or", "the", "corresponding", "search", "results", ",", "if", "its", "frequency", "in", "the", "results", "of", "the", "current", "query", "is", "greater", "than", "a", "preset", "threshold", "-LRB-", "e.g.", "5", "results", "out", "of", "50", "-RRB-", ",", "the", "term", "would", "be", "added", "to", "the", "current", "query", "to", "form", "an", "expanded", "query", ".", "In", "this", "case", ",", "UCAIR", "would", "send", "this", "expanded", "query", "rather", "than", "the", "original", "one", "to", "the", "search", "engine", "and", "return", "the", "results", "corresponding", "to", "the", "expanded", "query", ".", "Currently", ",", "UCAIR", "only", "uses", "the", "immediate", "preceding", "query", "for", "query", "expansion", ";", "in", "principle", ",", "we", "could", "exploit", "all", "related", "past", "queries", ".", "4.3", "Information", "need", "model", "updating", "Suppose", "at", "time", "t", ",", "we", "have", "observed", "that", "the", "user", "has", "viewed", "k", "documents", "whose", "summaries", "are", "s", "1", ",", "...", ",", "s", "k", ".", "We", "update", "our", "user", "model", "by", "computing", "a", "new", "information", "need", "vector", "with", "a", "standard", "feedback", "method", "in", "information", "retrieval", "-LRB-", "i.e.", ",", "Rocchio", "-LSB-", "19", "-RSB-", "-RRB-", ".", "According", "to", "the", "vector", "space", "retrieval", "model", ",", "each", "clicked", "summary", "s", "i", "can", "be", "represented", "by", "a", "term", "weight", "vector", "s", "i", "with", "each", "term", "weighted", "by", "a", "TF-IDF", "weighting", "formula", "-LSB-", "21", "-RSB-", ".", "Rocchio", "computes", "the", "centroid", "vector", "of", "all", "the", "summaries", "and", "interpolates", "it", "with", "the", "original", "query", "vector", "to", "obtain", "an", "updated", "term", "vector", ".", "That", "is", ",", "x", "=", "q", "+", "-LRB-", "1", "-", "-RRB-", "1", "k", "k", "i", "=", "1", "s", "i", "where", "q", "is", "the", "query", "vector", ",", "k", "is", "the", "number", "of", "summaries", "the", "user", "clicks", "immediately", "following", "the", "current", "query", "and", "is", "a", "parameter", "that", "controls", "the", "influence", "of", "the", "clicked", "summaries", "on", "the", "inferred", "information", "need", "model", ".", "In", "our", "experiments", ",", "is", "set", "to", "0.5", ".", "Note", "that", "we", "update", "the", "information", "need", "model", "whenever", "the", "user", "views", "a", "document", ".", "4.4", "Result", "reranking", "In", "general", ",", "we", "want", "to", "rerank", "all", "the", "unseen", "results", "as", "soon", "as", "the", "user", "model", "is", "updated", ".", "Currently", ",", "UCAIR", "implements", "reranking", "in", "two", "cases", ",", "corresponding", "to", "the", "user", "clicking", "the", "``", "Back", "''", "button", "and", "``", "Next", "''", "link", "in", "the", "Internet", "Explorer", ".", "In", "both", "cases", ",", "the", "current", "-LRB-", "updated", "-RRB-", "user", "model", "would", "be", "used", "to", "rerank", "the", "unseen", "results", "so", "that", "the", "user", "would", "see", "improved", "search", "results", "immediately", ".", "To", "rerank", "any", "unseen", "document", "summaries", ",", "UCAIR", "uses", "the", "standard", "vector", "space", "retrieval", "model", "and", "scores", "each", "summary", "based", "on", "the", "similarity", "of", "the", "result", "and", "the", "current", "user", "information", "need", "vector", "x", "-LSB-", "21", "-RSB-", ".", "Since", "implicit", "feedback", "is", "not", "completely", "reliable", ",", "we", "bring", "up", "only", "a", "small", "number", "-LRB-", "e.g.", "5", "-RRB-", "of", "highest", "reranked", "results", "to", "be", "followed", "by", "any", "originally", "high", "ranked", "results", ".", "828", "Google", "result", "-LRB-", "user", "query", "=", "``", "java", "map", "''", "-RRB-", "UCAIR", "result", "-LRB-", "user", "query", "=", "``", "java", "map", "''", "-RRB-", "previous", "query", "=", "``", "travel", "Indonesia", "''", "previous", "query", "=", "``", "hashtable", "''", "expanded", "user", "query", "=", "``", "java", "map", "Indonesia", "''", "expanded", "user", "query", "=", "``", "java", "map", "class", "''", "1", "Java", "map", "projections", "of", "the", "world", "...", "Lonely", "Planet", "-", "Indonesia", "Map", "Map", "-LRB-", "Java", "2", "Platform", "SE", "v1", ".4.2", "-RRB-", "www.btinternet.com", "/", "se16/js/mapproj.htm", "www.lonelyplanet.com/mapshells/", "...", "java.sun.com/j2se/1.4.2/docs/", "...", "2", "Java", "map", "projections", "of", "the", "world", "...", "INDONESIA", "TOURISM", ":", "CENTRAL", "JAVA", "-", "MAP", "Java", "2", "Platform", "SE", "v1", ".3.1", ":", "Interface", "Map", "www.btinternet.com", "/", "se16/js/oldmapproj.htm", "www.indonesia-tourism.com", "/", "...", "java.sun.com/j2se/1.3/docs/api/java/", "...", "3", "Java", "Map", "INDONESIA", "TOURISM", ":", "WEST", "JAVA", "-", "MAP", "An", "Introduction", "to", "Java", "Map", "Collection", "Classes", "java.sun.com/developer/", "...", "www.indonesia-tourism.com", "/", "...", "www.oracle.com/technology/", "...", "4", "Java", "Technology", "Concept", "Map", "IndoStreets", "-", "Java", "Map", "An", "Introduction", "to", "Java", "Map", "Collection", "Classes", "java.sun.com/developer/onlineTraining/", "...", "www.indostreets.com/maps/java/", "www.theserverside.com/news/", "...", "5", "Science@NASA", "Home", "Indonesia", "Regions", "and", "Islands", "Maps", ",", "Bali", ",", "Java", ",", "...", "Koders", "-", "Mappings.java", "science.nasa.gov", "/", "Realtime", "/", "...", "www.maps2anywhere.com/Maps/", "...", "www.koders.com/java/", "6", "An", "Introduction", "to", "Java", "Map", "Collection", "Classes", "Indonesia", "City", "Street", "Map", ",", "...", "Hibernate", "simplifies", "inheritance", "mapping", "www.oracle.com/technology/", "...", "www.maps2anywhere.com/Maps/", "...", "www.ibm.com/developerworks/java/", "...", "7", "Lonely", "Planet", "-", "Java", "Map", "Maps", "Of", "Indonesia", "tmap", "30", ".", "map", "Class", "Hierarchy", "www.lonelyplanet.com/mapshells/", "www.embassyworld.com/maps/", "...", "tmap.pmel.noaa.gov", "/", "...", "8", "ONJava.com", ":", "Java", "API", "Map", "Maps", "of", "Indonesia", "by", "Peter", "Loud", "Class", "Scope", "www.onjava.com/pub/a/onjava/api", "map", "/", "users.powernet.co.uk", "/", "...", "jalbum.net/api/se/datadosen/util/Scope.html", "9", "GTA", "San", "Andreas", ":", "Sam", "Maps", "of", "Indonesia", "by", "Peter", "Loud", "Class", "PrintSafeHashMap", "www.gtasanandreas.net/sam/", "users.powernet.co.uk", "/", "mkmarina/indonesia", "/", "jalbum.net/api/se/datadosen/", "...", "10", "INDONESIA", "TOURISM", ":", "WEST", "JAVA", "-", "MAP", "indonesiaphoto.com", "Java", "Pro", "-", "Union", "and", "Vertical", "Mapping", "of", "Classes", "www.indonesia-tourism.com", "/", "...", "www.indonesiaphoto.com", "/", "...", "www.fawcette.com/javapro/", "...", "Table", "1", ":", "Sample", "results", "of", "query", "expansion", "We", "now", "present", "some", "results", "on", "evaluating", "the", "two", "major", "UCAIR", "functions", ":", "selective", "query", "expansion", "and", "result", "reranking", "based", "on", "user", "clickthrough", "data", ".", "5.1", "Sample", "results", "The", "query", "expansion", "strategy", "implemented", "in", "UCAIR", "is", "inten-tionally", "conservative", "to", "avoid", "misinterpretation", "of", "implicit", "user", "models", ".", "In", "practice", ",", "whenever", "it", "chooses", "to", "expand", "the", "query", ",", "the", "expansion", "usually", "makes", "sense", ".", "In", "Table", "1", ",", "we", "show", "how", "UCAIR", "can", "successfully", "distinguish", "two", "different", "search", "contexts", "for", "the", "query", "``", "java", "map", "''", ",", "corresponding", "to", "two", "different", "previous", "queries", "-LRB-", "i.e.", ",", "``", "travel", "Indonesia", "''", "vs.", "``", "hashtable", "''", "-RRB-", ".", "Due", "to", "implicit", "user", "modeling", ",", "UCAIR", "intelligently", "figures", "out", "to", "add", "``", "Indonesia", "''", "and", "``", "class", "''", ",", "respectively", ",", "to", "the", "user", "'s", "query", "``", "java", "map", "''", ",", "which", "would", "otherwise", "be", "ambiguous", "as", "shown", "in", "the", "original", "results", "from", "Google", "on", "March", "21", ",", "2005", ".", "UCAIR", "'s", "results", "are", "much", "more", "accurate", "than", "Google", "'s", "results", "and", "reflect", "personalization", "in", "search", ".", "The", "eager", "implicit", "feedback", "component", "is", "designed", "to", "immediately", "respond", "to", "a", "user", "'s", "activity", "such", "as", "viewing", "a", "document", ".", "In", "Figure", "2", ",", "we", "show", "how", "UCAIR", "can", "successfully", "disambiguate", "an", "ambiguous", "query", "``", "jaguar", "''", "by", "exploiting", "a", "viewed", "document", "summary", ".", "In", "this", "case", ",", "the", "initial", "retrieval", "results", "using", "``", "jaguar", "''", "-LRB-", "shown", "on", "the", "left", "side", "-RRB-", "contain", "two", "results", "about", "the", "Jaguar", "cars", "followed", "by", "two", "results", "about", "the", "Jaguar", "software", ".", "However", ",", "after", "the", "user", "views", "the", "web", "page", "content", "of", "the", "second", "result", "-LRB-", "about", "``", "Jaguar", "car", "''", "-RRB-", "and", "returns", "to", "the", "search", "result", "page", "by", "clicking", "``", "Back", "''", "button", ",", "UCAIR", "automatically", "nominates", "two", "new", "search", "results", "about", "Jaguar", "cars", "-LRB-", "shown", "on", "the", "right", "side", "-RRB-", ",", "while", "the", "original", "two", "results", "about", "Jaguar", "software", "are", "pushed", "down", "on", "the", "list", "-LRB-", "unseen", "from", "the", "picture", "-RRB-", ".", "5.2", "Quantitative", "evaluation", "To", "further", "evaluate", "UCAIR", "quantitatively", ",", "we", "conduct", "a", "user", "study", "on", "the", "effectiveness", "of", "the", "eager", "implicit", "feedback", "component", ".", "It", "is", "a", "challenge", "to", "quantitatively", "evaluate", "the", "potential", "performance", "improvement", "of", "our", "proposed", "model", "and", "UCAIR", "over", "Google", "in", "an", "unbiased", "way", "-LSB-", "7", "-RSB-", ".", "Here", ",", "we", "design", "a", "user", "study", ",", "in", "which", "participants", "would", "do", "normal", "web", "search", "and", "judge", "a", "randomly", "and", "anonymously", "mixed", "set", "of", "results", "from", "Google", "and", "UCAIR", "at", "the", "end", "of", "the", "search", "session", ";", "participants", "do", "not", "know", "whether", "a", "result", "comes", "from", "Google", "or", "UCAIR", ".", "We", "recruited", "6", "graduate", "students", "for", "this", "user", "study", ",", "who", "have", "different", "backgrounds", "-LRB-", "3", "computer", "science", ",", "2", "biology", ",", "and", "1", "chem", "-", "&", "lt", ";", "top", ">", "<", "num", ">", "Number", ":", "716", "<", "title", ">", "Spammer", "arrest", "sue", "<", "desc", ">", "Description", ":", "Have", "any", "spammers", "been", "arrested", "or", "sued", "for", "sending", "unsolicited", "e-mail", "?", "<", "narr", ">", "Narrative", ":", "Instances", "of", "arrests", ",", "prosecutions", ",", "convictions", ",", "and", "punishments", "of", "spammers", ",", "and", "lawsuits", "against", "them", "are", "relevant", ".", "Documents", "which", "describe", "laws", "to", "limit", "spam", "without", "giving", "details", "of", "lawsuits", "or", "criminal", "trials", "are", "not", "relevant", ".", "<", "/", "top", ">", "Figure", "3", ":", "An", "example", "of", "TREC", "query", "topic", ",", "expressed", "in", "a", "form", "which", "might", "be", "given", "to", "a", "human", "assistant", "or", "librarian", "istry", "-RRB-", ".", "We", "use", "query", "topics", "from", "TREC", "2", "2004", "Terabyte", "track", "-LSB-", "2", "-RSB-", "and", "TREC", "2003", "Web", "track", "-LSB-", "4", "-RSB-", "topic", "distillation", "task", "in", "the", "way", "to", "be", "described", "below", ".", "An", "example", "topic", "from", "TREC", "2004", "Terabyte", "track", "appears", "in", "Figure", "3", ".", "The", "title", "is", "a", "short", "phrase", "and", "may", "be", "used", "as", "a", "query", "to", "the", "retrieval", "system", ".", "The", "description", "field", "provides", "a", "slightly", "longer", "statement", "of", "the", "topic", "requirement", ",", "usually", "expressed", "as", "a", "single", "complete", "sentence", "or", "question", ".", "Finally", "the", "narrative", "supplies", "additional", "information", "necessary", "to", "fully", "specify", "the", "requirement", ",", "expressed", "in", "the", "form", "of", "a", "short", "paragraph", ".", "Initially", ",", "each", "participant", "would", "browse", "50", "topics", "either", "from", "Terabyte", "track", "or", "Web", "track", "and", "pick", "5", "or", "7", "most", "interesting", "topics", ".", "For", "each", "picked", "topic", ",", "the", "participant", "would", "essentially", "do", "the", "normal", "web", "search", "using", "UCAIR", "to", "find", "many", "relevant", "web", "pages", "by", "using", "the", "title", "of", "the", "query", "topic", "as", "the", "initial", "keyword", "query", ".", "During", "this", "process", ",", "the", "participant", "may", "view", "the", "search", "results", "and", "possibly", "click", "on", "some", "interesting", "ones", "to", "view", "the", "web", "pages", ",", "just", "as", "in", "a", "normal", "web", "search", ".", "There", "is", "no", "requirement", "or", "restriction", "on", "how", "many", "queries", "the", "participant", "must", "submit", "or", "when", "the", "participant", "should", "stop", "the", "search", "for", "one", "topic", ".", "When", "the", "participant", "plans", "to", "change", "the", "search", "topic", ",", "he/she", "will", "simply", "press", "a", "button", "2", "Text", "REtrieval", "Conference", ":", "http://trec.nist.gov/", "829", "Figure", "2", ":", "Screen", "shots", "for", "result", "reranking", "to", "evaluate", "the", "search", "results", "before", "actually", "switching", "to", "the", "next", "topic", ".", "At", "the", "time", "of", "evaluation", ",", "30", "top", "ranked", "results", "from", "Google", "and", "UCAIR", "-LRB-", "some", "are", "overlapping", "-RRB-", "are", "randomly", "mixed", "together", "so", "that", "the", "participant", "would", "not", "know", "whether", "a", "result", "comes", "from", "Google", "or", "UCAIR", ".", "The", "participant", "would", "then", "judge", "the", "relevance", "of", "these", "results", ".", "We", "measure", "precision", "at", "top", "n", "-LRB-", "n", "=", "5", ",", "10", ",", "20", ",", "30", "-RRB-", "documents", "of", "Google", "and", "UCAIR", ".", "We", "also", "evaluate", "precisions", "at", "different", "recall", "levels", ".", "Altogether", ",", "368", "documents", "judged", "as", "relevant", "from", "Google", "search", "results", "and", "429", "documents", "judged", "as", "relevant", "from", "UCAIR", "by", "participants", ".", "Scatter", "plots", "of", "precision", "at", "top", "10", "and", "top", "20", "documents", "are", "shown", "in", "Figure", "4", "and", "Figure", "5", "respectively", "-LRB-", "The", "scatter", "plot", "of", "precision", "at", "top", "30", "documents", "is", "very", "similar", "to", "precision", "at", "top", "20", "documents", "-RRB-", ".", "Each", "point", "of", "the", "scatter", "plots", "represents", "the", "precisions", "of", "Google", "and", "UCAIR", "on", "one", "query", "topic", ".", "Table", "2", "shows", "the", "average", "precision", "at", "top", "n", "documents", "among", "32", "topics", ".", "From", "Figure", "4", ",", "Figure", "5", "and", "Table", "2", ",", "we", "see", "that", "the", "search", "results", "from", "UCAIR", "are", "consistently", "better", "than", "those", "from", "Google", "by", "all", "the", "measures", ".", "Moreover", ",", "the", "performance", "improvement", "is", "more", "dramatic", "for", "precision", "at", "top", "20", "documents", "than", "that", "at", "precision", "at", "top", "10", "documents", ".", "One", "explanation", "for", "this", "is", "that", "the", "more", "interaction", "the", "user", "has", "with", "the", "system", ",", "the", "more", "clickthrough", "data", "UCAIR", "can", "be", "expected", "to", "collect", ".", "Thus", "the", "retrieval", "system", "can", "build", "more", "precise", "implicit", "user", "models", ",", "which", "lead", "to", "better", "retrieval", "accuracy", ".", "Ranking", "Method", "prec", "@", "5", "prec@10", "prec@20", "prec@30", "Google", "0.538", "0.472", "0.377", "0.308", "UCAIR", "0.581", "0.556", "0.453", "0.375", "Improvement", "8.0", "%", "17.8", "%", "20.2", "%", "21.8", "%", "Table", "2", ":", "Table", "of", "average", "precision", "at", "top", "n", "documents", "for", "32", "query", "topics", "The", "plot", "in", "Figure", "6", "shows", "the", "precision-recall", "curves", "for", "UCAIR", "and", "Google", ",", "where", "it", "is", "clearly", "seen", "that", "the", "performance", "of", "UCAIR", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "UCAIR", "prec@10", "Google", "prec@10", "Scatterplot", "of", "Precision", "at", "Top", "10", "Documents", "Figure", "4", ":", "Precision", "at", "top", "10", "documents", "of", "UCAIR", "and", "Google", "is", "consistently", "and", "considerably", "better", "than", "that", "of", "Google", "at", "all", "levels", "of", "recall", ".", "In", "this", "paper", ",", "we", "studied", "how", "to", "exploit", "implicit", "user", "modeling", "to", "intelligently", "personalize", "information", "retrieval", "and", "improve", "search", "accuracy", ".", "Unlike", "most", "previous", "work", ",", "we", "emphasize", "the", "use", "of", "immediate", "search", "context", "and", "implicit", "feedback", "information", "as", "well", "as", "eager", "updating", "of", "search", "results", "to", "maximally", "benefit", "a", "user", ".", "We", "presented", "a", "decision-theoretic", "framework", "for", "optimizing", "interactive", "information", "retrieval", "based", "on", "eager", "user", "model", "updating", ",", "in", "which", "the", "system", "responds", "to", "every", "action", "of", "the", "user", "by", "choosing", "a", "system", "action", "to", "optimize", "a", "utility", "function", ".", "We", "further", "propose", "specific", "techniques", "to", "capture", "and", "exploit", "two", "types", "of", "implicit", "feedback", "information", ":", "-LRB-", "1", "-RRB-", "identifying", "related", "immediately", "preceding", "query", "and", "using", "the", "query", "and", "the", "corresponding", "search", "results", "to", "select", "appropriate", "terms", "to", "expand", "the", "current", "query", ",", "and", "-LRB-", "2", "-RRB-", "exploiting", "the", "viewed", "document", "summaries", "to", "immediately", "rerank", "any", "documents", "that", "have", "not", "yet", "been", "seen", "by", "the", "user", ".", "Using", "these", "techniques", ",", "we", "develop", "a", "client-side", "web", "search", "agent", "-LRB-", "UCAIR", "-RRB-", "on", "top", "of", "a", "popular", "search", "engine", "-LRB-", "Google", "-RRB-", ".", "Experiments", "on", "web", "search", "show", "that", "our", "search", "agent", "can", "improve", "search", "accuracy", "over", "830", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "UCAIR", "prec@20", "Google", "prec@20", "Scatterplot", "of", "Precision", "at", "Top", "20", "documents", "Figure", "5", ":", "Precision", "at", "top", "20", "documents", "of", "UCAIR", "and", "Google", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0.4", "0.45", "0.5", "0.55", "0.6", "0.65", "0.7", "0.75", "0.8", "0.85", "0.9", "recall", "precision", "Precision-Recall", "curves", "Google", "Result", "UCAIR", "Result", "Figure", "6", ":", "Precision", "at", "top", "20", "result", "of", "UCAIR", "and", "Google", "Google", ".", "Since", "the", "implicit", "information", "we", "exploit", "already", "naturally", "exists", "through", "user", "interactions", ",", "the", "user", "does", "not", "need", "to", "make", "any", "extra", "effort", ".", "The", "developed", "search", "agent", "thus", "can", "improve", "existing", "web", "search", "performance", "without", "any", "additional", "effort", "from", "the", "user", ".", "We", "thank", "the", "six", "participants", "of", "our", "evaluation", "experiments", ".", "This", "work", "was", "supported", "in", "part", "by", "the", "National", "Science", "Foundation", "grants", "IIS-0347933", "and", "IIS-0428472", ".", "-LSB-", "1", "-RSB-", "S.", "M.", "Beitzel", ",", "E.", "C.", "Jensen", ",", "A.", "Chowdhury", ",", "D.", "Grossman", ",", "and", "O.", "Frieder", ".", "Hourly", "analysis", "of", "a", "very", "large", "topically", "categorized", "web", "query", "log", ".", "In", "Proceedings", "of", "SIGIR", "2004", ",", "pages", "321", "328", ",", "2004", ".", "-LSB-", "2", "-RSB-", "C.", "Clarke", ",", "N.", "Craswell", ",", "and", "I.", "Soboroff", ".", "Overview", "of", "the", "TREC", "2004", "terabyte", "track", ".", "In", "Proceedings", "of", "TREC", "2004", ",", "2004", ".", "-LSB-", "3", "-RSB-", "M.", "Claypool", ",", "P.", "Le", ",", "M.", "Waseda", ",", "and", "D.", "Brown", ".", "Implicit", "interest", "indicators", ".", "In", "Proceedings", "of", "Intelligent", "User", "Interfaces", "2001", ",", "pages", "33", "40", ",", "2001", ".", "-LSB-", "4", "-RSB-", "N.", "Craswell", ",", "D.", "Hawking", ",", "R.", "Wilkinson", ",", "and", "M.", "Wu", ".", "Overview", "of", "the", "TREC", "2003", "web", "track", ".", "In", "Proceedings", "of", "TREC", "2003", ",", "2003", ".", "-LSB-", "5", "-RSB-", "W.", "B.", "Croft", ",", "S.", "Cronen-Townsend", ",", "and", "V.", "Larvrenko", ".", "Relevance", "feedback", "and", "personalization", ":", "A", "language", "modeling", "perspective", ".", "In", "Proeedings", "of", "Second", "DELOS", "Workshop", ":", "Personalisation", "and", "Recommender", "Systems", "in", "Digital", "Libraries", ",", "2001", ".", "-LSB-", "6", "-RSB-", "Google", "Personalized", ".", "http://labs.google.com/personalized", ".", "-LSB-", "7", "-RSB-", "D.", "Hawking", ",", "N.", "Craswell", ",", "P.", "B.", "Thistlewaite", ",", "and", "D.", "Harman", ".", "Results", "and", "challenges", "in", "web", "search", "evaluation", ".", "Computer", "Networks", ",", "31", "-LRB-", "11-16", "-RRB-", ":", "1321", "1330", ",", "1999", ".", "-LSB-", "8", "-RSB-", "X.", "Huang", ",", "F.", "Peng", ",", "A.", "An", ",", "and", "D.", "Schuurmans", ".", "Dynamic", "web", "log", "session", "identification", "with", "statistical", "language", "models", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "and", "Technology", ",", "55", "-LRB-", "14", "-RRB-", ":", "1290", "1303", ",", "2004", ".", "-LSB-", "9", "-RSB-", "G.", "Jeh", "and", "J.", "Widom", ".", "Scaling", "personalized", "web", "search", ".", "In", "Proceedings", "of", "WWW", "2003", ",", "pages", "271", "279", ",", "2003", ".", "-LSB-", "10", "-RSB-", "T.", "Joachims", ".", "Optimizing", "search", "engines", "using", "clickthrough", "data", ".", "In", "Proceedings", "of", "SIGKDD", "2002", ",", "pages", "133", "142", ",", "2002", ".", "-LSB-", "11", "-RSB-", "D.", "Kelly", "and", "J.", "Teevan", ".", "Implicit", "feedback", "for", "inferring", "user", "preference", ":", "A", "bibliography", ".", "SIGIR", "Forum", ",", "37", "-LRB-", "2", "-RRB-", ":", "18", "28", ",", "2003", ".", "-LSB-", "12", "-RSB-", "J.", "Lafferty", "and", "C.", "Zhai", ".", "Document", "language", "models", ",", "query", "models", ",", "and", "risk", "minimization", "for", "information", "retrieval", ".", "In", "Proceedings", "of", "SIGIR", "'", "01", ",", "pages", "111", "119", ",", "2001", ".", "-LSB-", "13", "-RSB-", "T.", "Lau", "and", "E.", "Horvitz", ".", "Patterns", "of", "search", ":", "Analyzing", "and", "modeling", "web", "query", "refinement", ".", "In", "Proceedings", "of", "the", "Seventh", "International", "Conference", "on", "User", "Modeling", "-LRB-", "UM", "-RRB-", ",", "pages", "145", "152", ",", "1999", ".", "-LSB-", "14", "-RSB-", "V.", "Lavrenko", "and", "B.", "Croft", ".", "Relevance-based", "language", "models", ".", "In", "Proceedings", "of", "SIGIR", "'", "01", ",", "pages", "120", "127", ",", "2001", ".", "-LSB-", "15", "-RSB-", "M.", "Mitra", ",", "A.", "Singhal", ",", "and", "C.", "Buckley", ".", "Improving", "automatic", "query", "expansion", ".", "In", "Proceedings", "of", "SIGIR", "1998", ",", "pages", "206", "214", ",", "1998", ".", "-LSB-", "16", "-RSB-", "My", "Yahoo!", "http://mysearch.yahoo.com", ".", "-LSB-", "17", "-RSB-", "G.", "Nunberg", ".", "As", "google", "goes", ",", "so", "goes", "the", "nation", ".", "New", "York", "Times", ",", "May", "2003", ".", "-LSB-", "18", "-RSB-", "S.", "E.", "Robertson", ".", "The", "probability", "ranking", "principle", "in", "i", ".", "Journal", "of", "Documentation", ",", "33", "-LRB-", "4", "-RRB-", ":", "294", "304", ",", "1977", ".", "-LSB-", "19", "-RSB-", "J.", "J.", "Rocchio", ".", "Relevance", "feedback", "in", "information", "retrieval", ".", "In", "The", "SMART", "Retrieval", "System", ":", "Experiments", "in", "Automatic", "Document", "Processing", ",", "pages", "313", "323", ".", "Prentice-Hall", "Inc.", ",", "1971", ".", "-LSB-", "20", "-RSB-", "G.", "Salton", "and", "C.", "Buckley", ".", "Improving", "retrieval", "performance", "by", "retrieval", "feedback", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "41", "-LRB-", "4", "-RRB-", ":", "288", "297", ",", "1990", ".", "-LSB-", "21", "-RSB-", "G.", "Salton", "and", "M.", "J.", "McGill", ".", "Introduction", "to", "Modern", "Information", "Retrieval", ".", "McGraw-Hill", ",", "1983", ".", "-LSB-", "22", "-RSB-", "X.", "Shen", ",", "B.", "Tan", ",", "and", "C.", "Zhai", ".", "Context-sensitive", "information", "retrieval", "using", "implicit", "feedback", ".", "In", "Proceedings", "of", "SIGIR", "2005", ",", "pages", "43", "50", ",", "2005", ".", "-LSB-", "23", "-RSB-", "X.", "Shen", "and", "C.", "Zhai", ".", "Exploiting", "query", "history", "for", "document", "ranking", "in", "interactive", "information", "retrieval", "-LRB-", "Poster", "-RRB-", ".", "In", "Proceedings", "of", "SIGIR", "2003", ",", "pages", "377", "378", ",", "2003", ".", "-LSB-", "24", "-RSB-", "A.", "Singhal", ".", "Modern", "information", "retrieval", ":", "A", "brief", "overview", ".", "Bulletin", "of", "the", "IEEE", "Computer", "Society", "Technical", "Committee", "on", "Data", "Engineering", ",", "24", "-LRB-", "4", "-RRB-", ":", "35", "43", ",", "2001", ".", "-LSB-", "25", "-RSB-", "K.", "Sugiyama", ",", "K.", "Hatano", ",", "and", "M.", "Yoshikawa", ".", "Adaptive", "web", "search", "based", "on", "user", "profile", "constructed", "without", "any", "effort", "from", "users", ".", "In", "Proceedings", "of", "WWW", "2004", ",", "pages", "675", "684", ",", "2004", ".", "-LSB-", "26", "-RSB-", "E.", "Volokh", ".", "Personalization", "and", "privacy", ".", "Communications", "of", "the", "ACM", ",", "43", "-LRB-", "8", "-RRB-", ":", "84", "88", ",", "2000", ".", "-LSB-", "27", "-RSB-", "R.", "W.", "White", ",", "J.", "M.", "Jose", ",", "C.", "J.", "van", "Rijsbergen", ",", "and", "I.", "Ruthven", ".", "A", "simulated", "study", "of", "implicit", "feedback", "models", ".", "In", "Proceedings", "of", "ECIR", "2004", ",", "pages", "311", "326", ",", "2004", ".", "-LSB-", "28", "-RSB-", "J.", "Xu", "and", "W.", "B.", "Croft", ".", "Query", "expansion", "using", "local", "and", "global", "document", "analysis", ".", "In", "Proceedings", "of", "SIGIR", "1996", ",", "pages", "4", "11", ",", "1996", ".", "-LSB-", "29", "-RSB-", "C.", "Zhai", "and", "J.", "Lafferty", ".", "Model-based", "feedback", "in", "KL", "divergence", "retrieval", "model", ".", "In", "Proceedings", "of", "the", "CIKM", "2001", ",", "pages", "403", "410", ",", "2001", ".", "831"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["retrieval accuracy", "implicit feedback", "user model", "clickthrough information", "ucair", "information retrieval systems", "personalized search", "interactive retrieval"], "abstractive_keyphrases": ["user modelling"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "115", "document": ["Integration", "of", "Information", "Assurance", "and", "Security", "into", "the", "IT2005", "Model", "Curriculum", "In", "this", "paper", "we", "present", "the", "context", "of", "the", "work", "of", "the", "Curriculum", "Committee", "on", "IT2005", ",", "the", "IT", "curriculum", "volume", "described", "in", "the", "Overview", "Draft", "document", "of", "the", "Joint", "Task", "Force", "for", "Computing", "Curriculum", "2004", ".", "We", "also", "provide", "a", "brief", "introduction", "to", "the", "history", "and", "work", "of", "the", "Information", "Assurance", "Education", "community", ".", "These", "two", "perspectives", "provide", "the", "foundation", "for", "the", "main", "thrust", "of", "the", "paper", ",", "which", "is", "a", "description", "of", "the", "Information", "Assurance", "and", "Security", "-LRB-", "IAS", "-RRB-", "component", "of", "the", "IT2005", "document", ".", "Finally", ",", "we", "end", "the", "paper", "with", "an", "example", "of", "how", "IAS", "is", "being", "implemented", "at", "BYU", "as", "a", "``", "pervasive", "theme", "''", "that", "is", "woven", "throughout", "the", "curriculum", "and", "conclude", "with", "some", "observations", "about", "the", "first", "year", "'s", "experience", ".", "K.", "3.2", "-LSB-", "Computer", "and", "Information", "Science", "Education", "-RSB-", "Accreditation", "General", "Terms", ":", "Management", ",", "Security", "In", "December", "2001", "a", "meeting", "-LRB-", "CITC-1", "-RRB-", "of", "interested", "parties", "from", "fifteen", "four-year", "IT", "programs", "from", "the", "US", "along", "with", "representatives", "from", "IEEE", ",", "ACM", ",", "and", "ABET", "began", "work", "on", "the", "formalization", "of", "Information", "Technology", "as", "an", "accredited", "academic", "discipline", ".", "The", "effort", "has", "evolved", "into", "SIGITE", ",", "the", "ACM", "SIG", "for", "Information", "Technology", "Education", ".", "During", "this", "evolution", "three", "main", "efforts", "have", "proceeded", "in", "parallel", ":", "1", "-RRB-", "Definition", "of", "accreditation", "standards", "for", "IT", "programs", ",", "2", "-RRB-", "Creation", "of", "a", "model", "curriculum", "for", "four-year", "IT", "programs", ",", "and", "3", "-RRB-", "Description", "of", "the", "characteristics", "that", "distinguish", "IT", "programs", "from", "the", "sister", "disciplines", "in", "computing", ".", "One", "of", "the", "biggest", "challenges", "during", "the", "creation", "of", "the", "model", "curriculum", "was", "understanding", "and", "presenting", "the", "knowledge", "area", "that", "was", "originally", "called", "``", "security", "''", ".", "Some", "of", "us", "were", "uncomfortable", "with", "the", "term", "because", "it", "was", "not", "broad", "enough", "to", "cover", "the", "range", "of", "concepts", "that", "we", "felt", "needed", "to", "be", "covered", ".", "We", "became", "aware", "of", "a", "community", "that", "had", "resolved", "many", "of", "the", "issues", "associated", "with", "the", "broader", "context", "we", "were", "seeking", ",", "Information", "Assurance", ".", "Information", "assurance", "has", "been", "defined", "as", "``", "a", "set", "of", "measures", "intended", "to", "protect", "and", "defend", "information", "and", "information", "systems", "by", "ensuring", "their", "availability", ",", "integrity", ",", "authentication", ",", "confidentiality", ",", "and", "non-repudiation", ".", "This", "includes", "providing", "for", "restoration", "of", "information", "systems", "by", "incorporating", "protection", ",", "detection", ",", "and", "reaction", "capabilities", ".", "''", "The", "IA", "community", "and", "work", "done", "by", "IA", "educators", "became", "useful", "in", "defining", "requisite", "security", "knowledge", "for", "information", "technology", "education", "programs", ".", "We", "believe", "that", "the", "Information", "Technology", "and", "the", "Information", "Assurance", "Education", "communities", "have", "much", "to", "share", ".", "At", "the", "9", "th", "Colloquium", "for", "Information", "System", "Security", "Education", "in", "Atlanta", "we", "introduced", "CC2005", "and", "IT2005", "to", "the", "IA", "Education", "community", "-LSB-", "1", "-RSB-", ".", "In", "the", "current", "paper", "we", "introduce", "the", "history", "and", "current", "state", "of", "IA", "education", "to", "the", "SIGITE", "community", ".", "In", "addition", ",", "we", "demonstrate", "how", "significant", "concepts", "from", "the", "Information", "Assurance", "community", "have", "been", "integrated", "into", "IT2005", ".", "1.1", "CC2005", "and", "IT2005", "In", "the", "first", "week", "of", "December", "of", "2001", "representatives", "from", "15", "undergraduate", "information", "technology", "-LRB-", "IT", "-RRB-", "programs", "from", "across", "the", "country", "gathered", "together", "near", "Provo", ",", "Utah", ",", "to", "develop", "a", "community", "and", "begin", "to", "establish", "academic", "standards", "for", "this", "rapidly", "growing", "discipline", ".", "This", "first", "Conference", "on", "Information", "Technology", "Curriculum", "-LRB-", "CITC-1", "-RRB-", "was", "also", "attended", "by", "representatives", "from", "two", "professional", "societies", ",", "the", "Association", "for", "Computing", "Machinery", "-LRB-", "ACM", "-RRB-", "and", "the", "Institute", "of", "Electrical", "and", "Electronics", "Engineers", ",", "Inc.", "-LRB-", "IEEE", "-RRB-", ",", "and", "also", "the", "Accreditation", "Board", "for", "Engineering", "and", "Technology", ",", "Inc.", "-LRB-", "ABET", "-RRB-", ".", "This", "invitational", "conference", "was", "the", "culmination", "of", "an", "effort", "begun", "several", "months", "earlier", "by", "five", "of", "these", "universities", "who", "had", "formed", "a", "steering", "committee", "to", "organize", "a", "response", "from", "existing", "IT", "programs", "to", "several", "initiatives", "to", "define", "the", "academic", "discipline", "of", "IT", ".", "The", "steering", "committee", "wanted", "to", "ensure", "that", "the", "input", "of", "existing", "programs", "played", "a", "significant", "role", "in", "the", "definition", "of", "the", "field", ".", "A", "formal", "society", "and", "three", "main", "committees", "were", "formed", "by", "the", "attendees", "of", "CITC-1", ".", "The", "society", "was", "the", "Society", "for", "Information", "Technology", "Education", "-LRB-", "SITE", "-RRB-", ";", "one", "of", "the", "committees", "formed", "was", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGITE", "'", "05", ",", "October", "20-22", ",", "2005", ",", "Newark", ",", "New", "Jersey", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-252-6", "/", "05/0010", "...", "$", "5.00", ".", "7", "the", "executive", "board", "for", "SITE", ",", "composed", "of", "a", "president", ",", "vice-president", ",", "secretary", ",", "treasurer", ",", "regional", "representatives", ",", "and", "an", "activities", "chairperson", ".", "The", "other", "two", "committees", "formed", "were", "the", "IT", "Curriculum", "Committee", ",", "including", "subcommittees", "for", "4-year", "and", "2-year", "programs", ",", "and", "the", "IT", "Accreditation", "Committee", ",", "also", "including", "subcommittees", "for", "4-year", "and", "2-year", "programs", ".", "The", "development", "of", "IT", "as", "an", "academic", "discipline", "is", "similar", "to", "the", "process", "that", "computer", "science", "-LRB-", "CS", "-RRB-", "went", "through", "in", "the", "70", "'s", "and", "80", "'s", ".", "In", "fact", ",", "looking", "at", "the", "placement", "of", "CS", "programs", "in", "academic", "institutions", "around", "the", "U.S.", "illustrates", "the", "debate", "that", "swirled", "around", "the", "discipline", "as", "its", "core", "was", "being", "defined", ".", "Some", "CS", "programs", "are", "in", "departments", "of", "mathematics", ",", "others", "are", "in", "engineering", "schools", ",", "and", "many", "others", "have", "become", "mainstay", "programs", "within", "newly", "emerging", "colleges", "of", "computing", ".", "Information", "technology", ",", "as", "it", "is", "practiced", "at", "this", "moment", "in", "its", "evolution", ",", "reflects", "similar", "growing", "pains", ".", "IT", "programs", "exist", "in", "colleges", "of", "computing", ",", "in", "CS", "departments", ",", "in", "schools", "of", "technology", ",", "and", "in", "business", "schools", ".", "Professors", "of", "information", "technology", "possess", "degrees", "in", "information", "systems", ",", "electronics", ",", "communications", ",", "graphics", "arts", ",", "economics", ",", "mathematics", ",", "computer", "science", ",", "and", "other", "disciplines", ".", "Few", "to", "none", "of", "them", "have", "a", "degree", "in", "information", "technology", ".", "It", "should", "be", "acknowledged", "here", "that", "IT", "has", "two", "substantially", "different", "interpretations", ",", "and", "that", "these", "should", "be", "clarified", ".", "Information", "Technology", "-LRB-", "IT", "-RRB-", "in", "its", "broadest", "sense", "encompasses", "all", "aspects", "of", "computing", "technology", ".", "IT", ",", "as", "an", "academic", "discipline", ",", "focuses", "on", "meeting", "the", "needs", "of", "users", "within", "an", "organizational", "and", "societal", "context", "through", "the", "selection", ",", "creation", ",", "application", ",", "integration", "and", "administration", "of", "computing", "technologies", ".", "A", "more", "detailed", "history", "of", "SIGITE", "is", "available", "in", "-LSB-", "2", "-RSB-", ".", "SIGITE", "is", "directly", "involved", "with", "the", "Joint", "Task", "Force", "for", "Computing", "Curriculum", "2004", "and", "has", "2", "representatives", "on", "the", "task", "force", ".", "This", "task", "force", "is", "a", "continuation", "of", "the", "effort", "that", "created", "CC2001", "-LSB-", "3", "-RSB-", "the", "current", "computer", "science", "curriculum", "standard", ".", "CC2001", "has", "been", "relabeled", "CS2001", "and", "the", "current", "draft", "of", "the", "CC2004", "Overview", "document", "-LSB-", "4", "-RSB-", "presents", "the", "structure", "being", "used", "to", "describe", "computing", "and", "its", "sub-disciplines", "-LRB-", "See", "Figure", "1", "-RRB-", ".", "The", "SIGITE", "Curriculum", "Committee", "is", "responsible", "for", "IT2005", ",", "the", "Information", "Technology", "Curriculum", "Volume", ".", "IT2005", "was", "made", "available", "for", "comment", "in", "mid", "2005", ".", "Figure", "1", "1.2", "Information", "Assurance", "Education", "Information", "assurance", "has", "been", "defined", "as", "``", "a", "set", "of", "measures", "intended", "to", "protect", "and", "defend", "information", "and", "information", "systems", "by", "ensuring", "their", "availability", ",", "integrity", ",", "authentication", ",", "confidentiality", ",", "and", "non-repudiation", ".", "This", "includes", "providing", "for", "restoration", "of", "information", "systems", "by", "incorporating", "protection", ",", "detection", ",", "and", "reaction", "capabilities", ".", "''", "-LRB-", "National", "Security", "Agency", ",", "http://www.nsa.gov/ia/iaFAQ.cfm?MenuID=10#1", "-RRB-", ".", "-LSB-", "5", "-RSB-", "Information", "assurance", "education", ",", "then", ",", "includes", "all", "efforts", "to", "prepare", "a", "workforce", "with", "the", "needed", "knowledge", ",", "skills", ",", "and", "abilities", "to", "assure", "our", "information", "systems", ",", "especially", "critical", "national", "security", "systems", ".", "Information", "assurance", "education", "has", "been", "growing", "in", "importance", "and", "activity", "for", "the", "past", "two", "decades", ".", "A", "brief", "look", "at", "the", "involved", "entities", "and", "history", "will", "shed", "light", "on", "the", "growth", ".", "The", "National", "Information", "Assurance", "Education", "and", "Training", "Partnership", "-LRB-", "NIETP", "-RRB-", "program", "is", "a", "partnership", "among", "government", ",", "academia", "and", "industry", "focused", "on", "advancing", "information", "assurance", "education", ",", "training", ",", "and", "awareness", ".", "The", "NIETP", "was", "initiated", "in", "1990", "under", "National", "Security", "Directive", "42", "and", "has", "since", "been", "reauthorized", "several", "times", ".", "The", "NIETP", "serves", "in", "the", "capacity", "of", "national", "manager", "for", "information", "assurance", "education", "and", "training", "related", "to", "national", "security", "systems", "and", "coordinates", "this", "effort", "with", "the", "Committee", "on", "National", "Security", "Systems", "-LRB-", "CNSS", "-RRB-", ".", "``", "The", "CNSS", "provides", "a", "forum", "for", "the", "discussion", "of", "policy", "issues", ",", "sets", "national", "policy", ",", "and", "promulgates", "direction", ",", "operational", "procedures", ",", "and", "guidance", "for", "the", "security", "of", "national", "security", "systems", ".", "National", "security", "systems", "are", "information", "systems", "operated", "by", "the", "U.S.", "Government", ",", "its", "contractors", "or", "agents", "that", "contain", "classified", "information", "or", "that", ":", "1", ".", "involve", "intelligence", "activities", ";", "2", ".", "involve", "cryptographic", "activities", "related", "to", "national", "security", ";", "3", ".", "involve", "command", "and", "control", "of", "military", "forces", ";", "4", ".", "involve", "equipment", "that", "is", "an", "integral", "part", "of", "a", "weapon", "or", "weapons", "system", "-LRB-", "s", "-RRB-", ";", "or", "5", ".", "are", "critical", "to", "the", "direct", "fulfillment", "of", "military", "or", "intelligence", "missions", "-LRB-", "not", "including", "routine", "administrative", "and", "business", "applications", "-RRB-", ".", "''", "http://www.cnss.gov/history.html", "-LSB-", "6", "-RSB-", "CNSS", "is", "responsible", "for", "the", "development", "of", "principles", ",", "policies", ",", "guidelines", ",", "and", "standards", "that", "concern", "systems", "holding", "or", "related", "to", "national", "security", "information", ".", "Education", "and", "training", "standards", "are", "among", "the", "many", "standards", "and", "guidelines", "that", "CNSS", "issues", ".", "The", "training/education", "standards", "issued", "to", "date", "include", ":", "a", "-RRB-", "NSTISSI", "1", "4011", "The", "National", "Training", "Standard", "for", "Information", "Systems", "Security", "Professionals", ",", "b", "-RRB-", "CNSSI", "4012", "The", "National", "Information", "Assurance", "Training", "Standard", "for", "Senior", "Systems", "Managers", ",", "c", "-RRB-", "CNSSI", "4013", "The", "National", "Information", "Assurance", "Training", "Standard", "for", "System", "Administrators", ",", "d", "-RRB-", "CNSSI", "4014", "-", "Information", "Assurance", "Training", "Standard", "for", "Information", "Systems", "Security", "Officers", ",", "and", "e", "-RRB-", "NSTISSI", "4015", "The", "National", "Training", "Standard", "for", "Systems", "Certifiers", ".", "CNSSI", "4016", "The", "National", "1", "Under", "Executive", "Order", "-LRB-", "E.O.", "-RRB-", "13231", "of", "October", "16", ",", "2001", ",", "Critical", "Infrastructure", "Protection", "in", "the", "Information", "Age", ",", "the", "President", "redesigned", "the", "National", "Security", "Telecommunications", "and", "Information", "Systems", "Security", "Committee", "-LRB-", "NSTISSC", "-RRB-", "as", "the", "Committee", "on", "National", "Security", "Systems", "-LRB-", "CNSS", "-RRB-", "8", "Training", "Standard", "for", "Information", "Security", "Risk", "Analysts", "will", "be", "released", "soon", ".", "The", "NSTISSI-CNSSI", "standards", "referenced", "above", "have", "been", "used", "to", "develop", "in-service", "training", "and", "education", "opportunities", "for", "enlisted", "and", "civilian", "employees", "in", "an", "effort", "to", "assure", "quality", "preparation", "of", "professionals", "entrusted", "with", "securing", "our", "critical", "information", ".", "In", "addition", "to", "providing", "a", "basis", "for", "in-service", "education", "and", "training", ",", "the", "NSTISSI-CNSSI", "standards", "have", "also", "been", "deployed", "to", "colleges", "and", "universities", "in", "an", "effort", "to", "also", "prepare", "qualified", "individuals", "preservice", ".", "The", "most", "significant", "effort", "to", "involve", "colleges", "and", "universities", "has", "been", "through", "the", "National", "Centers", "of", "Academic", "Excellence", "in", "Information", "Assurance", "Education", "-LRB-", "CAEIAE", "-RRB-", "Program", ".", "The", "CAEIAE", "program", "was", "started", "in", "1998", "by", "the", "National", "Security", "Agency", "-LRB-", "NSA", "-RRB-", "and", "is", "now", "jointly", "sponsored", "by", "the", "NSA", "and", "the", "Department", "of", "Homeland", "Security", "-LRB-", "DHS", "-RRB-", "in", "support", "of", "the", "President", "'s", "National", "Strategy", "to", "Secure", "Cyberspace", ",", "February", "2003", ".", "The", "purpose", "of", "the", "program", "is", "to", "recognize", "colleges", "and", "universities", "for", "their", "efforts", "in", "information", "assurance", "education", "and", "also", "to", "encourage", "more", "colleges", "and", "universities", "to", "develop", "courses", "and", "programs", "of", "study", "in", "information", "assurance", ".", "In", "order", "to", "be", "eligible", "to", "apply", "for", "CAEIAE", "certification", ",", "an", "institution", "must", "first", "demonstrate", "that", "it", "teaches", "the", "content", "covered", "in", "NSTISSI", "4011", "-", "The", "National", "Training", "Standard", "for", "Information", "Systems", "Security", "Professionals", ".", "Once", "an", "institution", "has", "been", "4011", "certified", ",", "it", "is", "eligible", "to", "apply", "for", "CAEIAE", "status", ".", "Criteria", "for", "becoming", "a", "CAEIAE", "include", "the", "following", ":", "a", "-RRB-", "evidence", "of", "partnerships", "in", "IA", "education", ",", "b", "-RRB-", "IA", "must", "be", "treated", "as", "a", "multidisciplinary", "science", ",", "c", "-RRB-", "evidence", "that", "the", "university", "encourages", "the", "practice", "of", "information", "assurance", "in", "its", "operations", ",", "d", "-RRB-", "demonstration", "of", "information", "assurance", "research", ",", "e", "-RRB-", "demonstration", "that", "the", "IA", "curriculum", "reaches", "beyond", "physical", "geographic", "borders", ",", "f", "-RRB-", "evidence", "of", "faculty", "productivity", "in", "information", "assurance", "research", "and", "scholarship", ",", "g", "-RRB-", "demonstration", "of", "state", "of", "the", "art", "information", "assurance", "resources", ",", "h", "-RRB-", "a", "declared", "concentration", "-LRB-", "s", "-RRB-", "in", "information", "assurance", ",", "i", "-RRB-", "a", "university", "recognized", "center", "in", "information", "assurance", ",", "and", "j", "-RRB-", "dedicated", "information", "assurance", "faculty", "-LRB-", "http://www.nsa.gov/ia/academia/caeCriteria.cfm?MenuID=10.1.1", ".2", "-RRB-", ".", "-LSB-", "7", "-RSB-", "In", "1999", ",", "there", "were", "seven", "institutions", "designated", "as", "the", "inaugural", "CAEIAE", "schools", ".", "The", "certification", "is", "good", "for", "three", "years", "at", "which", "time", "institutions", "can", "reapply", ".", "Annually", ",", "an", "additional", "6-10", "institutions", "are", "awarded", "the", "certification", ";", "today", ",", "there", "are", "more", "than", "60", "CAEIAE", "institutions", ".", "The", "types", "of", "institutions", "and", "programs", "that", "are", "applying", "and", "being", "certified", "are", "growing", "not", "just", "in", "number", ",", "but", "also", "in", "diversity", ".", "In", "the", "first", "round", "of", "certification", ",", "the", "institutions", "were", "largely", "research", "institutions", "and", "their", "respective", "programs", "were", "at", "the", "graduate", "level", "in", "computer", "science", ".", "Today", ",", "institutions", "are", "certifying", "courses", "at", "the", "undergraduate", "level", "in", "computer", "science", ",", "management", "information", "systems", ",", "and", "information", "technology", ".", "The", "work", "being", "done", "by", "SIGITE", "is", "important", "to", "the", "further", "expansion", "of", "information", "assurance", "education", "as", "information", "assurance", "expands", "beyond", "the", "development", "of", "information", "systems", "to", "include", "the", "entire", "system", "life", "cycle", "including", "deployment", ",", "operation", ",", "maintenance", ",", "a", "retirement", "of", "such", "systems", ".", "The", "IT2005", "volume", "is", "modeled", "on", "CS2001", ".", "It", "consists", "of", "12", "chapters", "and", "2", "appendices", ".", "The", "current", "draft", "resides", "at", "http://sigite.acm.org/activities/curriculum/", "-LSB-", "8", "-RSB-", "Chapter", "1", ".", "Introduction", "Chapter", "2", ".", "Lessons", "from", "Past", "Reports", "Chapter", "3", ".", "Changes", "in", "the", "Information", "Technology", "Discipline", "Chapter", "4", ".", "Principles", "Chapter", "5", ".", "Overview", "of", "the", "IT", "Body", "of", "Knowledge", "Chapter", "6", ".", "Overview", "of", "the", "Curricular", "Models", "Chapter", "7", ".", "The", "Core", "of", "the", "Curriculum", "Chapter", "8", ".", "Completing", "the", "Curriculum", "Chapter", "9", ".", "Professional", "Practice", "Chapter", "10", ".", "Characteristics", "of", "IT", "Graduates", "Chapter", "11", ".", "Computing", "across", "the", "Curriculum", "Chapter", "12", ".", "Institutional", "Challenges", "Acknowledgements", "Bibliography", "Appendix", "A", ".", "The", "IT", "Body", "of", "Knowledge", "Appendix", "B", ".", "IT", "Course", "Descriptions", "Chapters", "5", "and", "7", "are", "of", "particular", "interest", "for", "this", "discussion", ".", "Chapter", "5", "is", "an", "overview", "of", "the", "IT", "body", "of", "knowledge", ".", "A", "summary", "is", "included", "as", "Appendix", "A.", "Chapter", "7", "discusses", "the", "relationship", "of", "the", "core", "topics", "described", "in", "the", "body", "of", "knowledge", "to", "IT", "curriculum", ".", "IAS", "is", "explicitly", "mentioned", "in", "three", "contexts", ":", "Section", "7.2", "as", "part", "of", "the", "IT", "Fundamentals", "Knowledge", "Area", "-LRB-", "KA", "-RRB-", "Section", "7.2", "as", "a", "``", "pervasive", "theme", "''", "Section", "7.4", "as", "a", "KA", "that", "integrates", "the", "IAS", "concepts", "for", "students", "ready", "to", "graduate", ".", "IAS", "is", "the", "only", "area", "that", "is", "an", "IT", "Fundamental", ",", "a", "``", "pervasive", "theme", "''", "and", "also", "a", "complete", "KA", "with", "a", "recommended", "senior", "level", "course", "for", "integrating", "all", "of", "the", "concepts", ".", "Clearly", ",", "IT2005", "presents", "Information", "Assurance", "and", "Security", "as", "a", "core", "competency", "required", "by", "every", "graduate", "of", "an", "IT", "program", ".", "During", "the", "early", "analysis", "of", "IT", "as", "an", "academic", "discipline", ",", "Delphi", "studies", "were", "performed", "that", "ranked", "``", "Security", "''", "as", "a", "central", "area", "for", "IT", ".", "-LSB-", "1", "-RSB-", "As", "we", "studied", "the", "issues", "several", "members", "of", "the", "committees", "involved", "were", "uncomfortable", "with", "``", "security", "''", "as", "the", "name", "for", "the", "knowledge", "area", ".", "The", "name", "seemed", "too", "restrictive", ".", "At", "the", "annual", "SIGITE", "conference", "in", "2003", "two", "of", "the", "authors", "were", "introduced", "to", "the", "other", "author", "and", "the", "Center", "for", "Research", "and", "Education", "in", "Information", "Assurance", "and", "Security", "-LRB-", "Cerias", "-RRB-", "at", "Purdue", ".", "The", "BYU", "faculty", "was", "dissatisfied", "with", "the", "security", "component", "in", "the", "IT", "curriculum", "and", "the", "SIGITE", "curriculum", "committee", "was", "struggling", "with", "the", "Security", "KA", "for", "IT2005", ".", "Through", "flyers", "at", "the", "conference", "we", "became", "aware", "of", "the", "Information", "Assurance", "Education", "Graduate", "Certificate", "-LRB-", "IAEGC", "-RRB-", "program", "funded", "by", "the", "NSA", ".", "With", "encouragement", "from", "colleagues", "and", "the", "administration", "of", "the", "School", "of", "Technology", ",", "the", "primary", "author", "attended", "the", "2004", "program", ".", "The", "experience", "has", "had", "a", "significant", "impact", "on", "IT2005", "and", "the", "BYU", "curriculum", ".", "9", "We", "discovered", "that", "NSA", "had", "begun", "to", "use", "the", "umbrella", "term", "Information", "Assurance", "-LSB-", "9", "-RSB-", "to", "cover", "what", "we", "were", "calling", "security", ".", "Even", "though", "this", "term", "is", "defined", "to", "cover", "exactly", "what", "the", "IT", "community", "meant", "by", "security", ",", "the", "use", "of", "the", "terminology", "elicited", "a", "lot", "of", "blank", "stares", ".", "We", "found", "that", "explicitly", "adding", "security", "to", "the", "name", "of", "the", "knowledge", "area", "eliminated", "much", "of", "the", "confusion", ".", "We", "are", "indebted", "to", "the", "Center", "for", "Education", "and", "Research", "for", "Information", "Assurance", "and", "Security", "-LRB-", "CERIAS", "-RRB-", "-LSB-", "10", "-RSB-", "at", "Purdue", "whose", "name", "provided", "the", "inspiration", "to", "use", "IAS", "as", "a", "name", "for", "the", "knowledge", "area", ".", "Once", "the", "naming", "issue", "was", "resolved", ",", "the", "SIGITE", "curriculum", "committee", "struggled", "to", "find", "a", "model", "for", "IAS", "that", "could", "be", "understood", "by", "freshman", "IT", "students", "provide", "a", "framework", "to", "integrate", "IAS", "concepts", "that", "are", "integrated", "into", "nearly", "all", "of", "the", "other", "KAs", "be", "rich", "enough", "to", "support", "a", "senior", "level", "course", "that", "ties", "everything", "together", ".", "When", "A", "Model", "for", "Information", "Assurance", ":", "An", "Integrative", "Approach", "-LSB-", "11", "-RSB-", "was", "discovered", "the", "writing", "committee", "achieved", "consensus", "on", "a", "model", ".", "The", "cube", "-LRB-", "see", "Figure", "2", "-RRB-", "provides", "a", "simple", "visual", "representation", "that", "a", "freshman", "can", "understand", ",", "yet", "the", "3", "dimensional", "structure", "facilitates", "the", "detailed", "analysis", "required", "for", "use", "in", "technology", "specific", "contexts", ",", "and", "is", "comprehensive", "enough", "to", "encompass", "a", "capstone", "learning", "experience", ".", "Figure", "2", "IT2005", "uses", "this", "model", "to", "structure", "IAS", "concepts", "throughout", "the", "document", ".", "<", "SECTION", "header", "=", "``", "RECOMMENDATIONS", "FOR", "``", "PERVASIVE", "THEMES", "''", "IN", "IT2005", "''", ">", "During", "the", "deliberations", "of", "the", "SIGITE", "Curriculum", "Committee", ",", "several", "topics", "emerged", "that", "were", "considered", "essential", ",", "but", "that", "did", "not", "seem", "to", "belong", "in", "a", "single", "specific", "knowledge", "area", "or", "unit", ".", "These", "topics", ",", "referred", "to", "as", "pervasive", "themes", ",", "are", ":", "1", ".", "user", "advocacy", "2", ".", "information", "assurance", "and", "security", "3", ".", "ethics", "and", "professional", "responsibility", "4", ".", "the", "ability", "to", "manage", "complexity", "through", ":", "abstraction", "&", "modeling", ",", "best", "practices", ",", "patterns", ",", "standards", ",", "and", "the", "use", "of", "appropriate", "tools", "5", ".", "a", "deep", "understanding", "of", "information", "and", "communication", "technologies", "and", "their", "associated", "tools", "6", ".", "adaptability", "7", ".", "life-long", "learning", "and", "professional", "development", "8", ".", "interpersonal", "skills", "The", "committee", "states", "``", "that", "these", "topics", "are", "best", "addressed", "multiple", "times", "in", "multiple", "classes", ",", "beginning", "in", "the", "IT", "fundamentals", "class", "and", "woven", "like", "threads", "throughout", "the", "tapestry", "of", "the", "IT", "curriculum", "''", "-LSB-", "12", "-RSB-", ".", "These", "themes", "need", "to", "be", "made", "explicit", "in", "the", "minds", "of", "the", "students", "and", "the", "faculty", ".", "The", "themes", "touch", "many", "of", "the", "topics", "throughout", "the", "curriculum", ".", "Every", "time", "a", "new", "technology", "is", "announced", "in", "the", "media", ",", "an", "instructor", "has", "the", "opportunity", "to", "drive", "home", "the", "importance", "of", "``", "life-long", "learning", "''", ".", "Every", "time", "there", "is", "a", "cyber-crime", "in", "the", "media", "we", "have", "the", "opportunity", "to", "discuss", "the", "ethical", "and", "professional", "ramifications", ".", "It", "is", "recommended", "that", "an", "IT", "Fundamentals", "course", "be", "taught", "early", "in", "the", "curriculum", "where", "all", "of", "these", "themes", "are", "introduced", "and", "discussed", "as", "concepts", "that", "touch", "everything", "an", "IT", "professional", "does", ".", "Each", "of", "these", "topics", "deserves", "a", "full", "treatment", ";", "however", ",", "for", "the", "purposes", "of", "this", "paper", "we", "will", "focus", "on", "IAS", ",", "possibly", "the", "most", "pervasive", "theme", ".", "We", "will", "address", "one", "approach", "to", "achieve", "addressing", "IAS", "``", "multiple", "times", "in", "multiple", "classes", "''", "in", "section", "6", "below", ".", "In", "early", "2003", ",", "the", "SIGITE", "curriculum", "committee", "divided", "into", "working", "groups", "around", "the", "knowledge", "areas", "defined", "by", "-LSB-", "3", "-RSB-", "to", "make", "an", "initial", "cut", "at", "the", "list", "of", "topics", "for", "each", "KA", ".", "A", "significant", "revision", "was", "accomplished", "and", "reviewed", "by", "the", "participants", "at", "the", "2004", "IAEGC", "program", "at", "Purdue", "in", "August", "2004", ".", "The", "list", "of", "areas", "for", "the", "IAS", "KA", "was", "finalized", "in", "late", "2004", "at", "a", "full", "IT", "Curriculum", "Committee", "meeting", ".", "The", "draft", "of", "the", "completed", "IAS", "KA", "was", "completed", "in", "early", "Feb", "2005", "by", "the", "IAS", "working", "group", ",", "edited", "by", "the", "writing", "committee", "in", "late", "Feb", "2005", "and", "was", "presented", "to", "the", "full", "committee", "in", "April", "2005", ".", "Figure", "3", "is", "a", "list", "of", "the", "IAS", "KA", "and", "its", "areas", ".", "The", "basic", "structure", "and", "vocabulary", "is", "derived", "directly", "from", "work", "done", "in", "the", "IA", "community", ",", "specifically", "Maconachy", ",", "et", ".", "al.", "-LSB-", "11", "-RSB-", ".", "The", "number", "in", "parenthesis", "is", "the", "number", "of", "lecture", "hours", "the", "committee", "thought", "would", "be", "required", "to", "give", "an", "IT", "student", "minimum", "exposure", "to", "the", "unit", ".", "It", "should", "be", "noted", "that", "the", "ordering", "of", "units", "in", "all", "of", "the", "KAs", ",", "is", "first", "``", "Fundamentals", "''", ",", "if", "there", "is", "one", ",", "and", "then", "the", "units", "are", "sorted", "in", "order", "of", "the", "number", "of", "core", "hours", ".", "This", "ordering", "should", "not", "be", "considered", "as", "any", "indication", "of", "the", "order", "the", "units", "would", "be", "covered", "pedagogically", "in", "an", "implemented", "curriculum", ".", "10", "Figure", "3", "A", "summary", "of", "the", "IAS", "KA", "is", "in", "Appendix", "A", ",", "and", "a", "complete", "treatment", "is", "found", "in", "IT2005", "-LSB-", "4", "-RSB-", ",", "including", "topics", ",", "core", "learning", "outcomes", ",", "and", "example", "elective", "learning", "outcomes", ".", "In", "reviewing", "this", "model", "curriculum", "for", "IAS", "in", "Information", "Technology", ",", "it", "should", "be", "remembered", "that", "the", "core", "topics", "and", "associated", "lecture", "hours", "are", "the", "minimum", "coverage", "that", "every", "IT", "student", "in", "every", "program", "should", "receive", ".", "We", "would", "expect", "that", "most", "institutions", "would", "provide", "additional", "instruction", "in", "Information", "Assurance", "and", "Security", "according", "to", "the", "strengths/areas", "of", "specialization", "in", "their", "programs", "of", "study", ".", "The", "Information", "Technology", "program", "at", "BYU", "began", "officially", "in", "Fall", "2001", "with", "a", "faculty", "consisting", "of", ":", "1", ".", "Two", "electronics", "engineering", "technology", "-LRB-", "EET", "-RRB-", "professors", "who", "were", "instrumental", "in", "the", "evolution", "of", "the", "existing", "EET", "program", "at", "BYU", "into", "an", "IT", "program", ",", "2", ".", "One", "electrical", "engineering", ",", "Ph.D.", "newly", "arrived", "from", "the", "aerospace", "industry", ".", "3", ".", "One", "computer", "science", "instructor", "who", "had", "done", "part", "time", "teaching", "and", "had", "been", "part", "of", "the", "department", "for", "1", "year", "with", "several", "years", "in", "system", "development", "in", "health", "care", ".", "4", ".", "One", "computer", "science", "Ph.D.", "with", "recent", "executive", "management", "responsibilities", "in", "network", "hardware", "and", "service", "provider", "businesses", ".", "5", ".", "The", "former", "department", "chair", "of", "the", "technology", "education", "program", "for", "secondary", "schools", "joined", "in", "2002", ".", "6", ".", "One", "computer", "science", "Ph.", "D.", "with", "extensive", "industry", "experience", "in", "data", "privacy", "and", "IT", "management", "joined", "in", "2004", ".", "This", "is", "obviously", "a", "diverse", "group", "of", "people", ",", "each", "of", "whom", "joined", "the", "department", "because", "they", "thought", "that", "the", "existing", "computing", "programs", "at", "BYU", "did", "not", "offer", "students", "preparation", "for", "the", "practical", "aspects", "of", "system", "delivery", "to", "customers", ".", "We", "are", "evenly", "divided", "between", "long-term", "academics", "and", "recent", "`", "retreads", "'", "from", "industry", ".", "However", ",", "the", "academics", "have", "also", "each", "had", "significant", "industrial", "experience", ",", "which", "provided", "the", "motivation", "for", "them", "to", "accept", "positions", "in", "the", "new", "IT", "program", ".", "The", "BYU", "curriculum", "began", "as", "a", "traditional", "``", "stovepipe", "''", "approach", "of", "courses", "oriented", "around", "topics", "like", "networking", ",", "databases", ",", "and", "operating", "systems", "borrowed", "from", "CS", ",", "EET", ",", "CE", "and", "IS", ",", "and", "evolved", "to", "a", "more", "integrated", "approach", "starting", "at", "the", "introductory", "levels", "so", "that", "advanced", "topic", "oriented", "courses", "are", "more", "easily", "sequenced", ".", "We", "have", "also", "discovered", "that", "the", "integrative", "nature", "of", "IT", "forces", "a", "focus", "on", "the", "seams", "between", "technologies", "rather", "than", "implementation", "of", "components", ".", "This", "fundamental", "difference", "in", "focus", "is", "one", "of", "the", "primary", "differences", "that", "distinguishes", "IT", "from", "other", "computing", "disciplines", "that", "focus", "on", "the", "design", "and", "implementation", "of", "components", "-LSB-", "12", "-RSB-", "-LSB-", "13", "-RSB-", ".", "Over", "the", "last", "4", "years", ",", "BYU", "faculty", "has", "participated", "actively", "in", "SIGITE", "and", "attempted", "to", "share", "what", "has", "been", "learned", "with", "the", "emerging", "IT", "community", ".", "-LSB-", "14", "-RSB-", "-LSB-", "15", "-RSB-", "-LSB-", "16", "-RSB-", "The", "BYU", "curriculum", "has", "evolved", "into", "what", "IT2005", "calls", "a", "``", "core/integration", "first", "''", "approach", "-LSB-", "17", "-RSB-", ".", "Significant", "portions", "of", "the", "introductory", "material", "in", "operating", "systems", ",", "databases", ",", "web", "systems", ",", "networking", "had", "been", "moved", "to", "lower", "division", "courses", "by", "early", "2004", ".", "Much", "of", "the", "shift", "occurred", "when", "the", "introduction", "to", "web", "systems", "was", "moved", "from", "the", "junior", "to", "the", "sophomore", "year", "and", "introductory", "material", "sufficient", "to", "understand", "web", "systems", "was", "included", "for", "networking", ",", "databases", ",", "operating", "system", "administration", "and", "OS", "process", "models", ".", "The", "improvements", "in", "flow", "and", "reduced", "redundancy", "have", "been", "noticeable", "in", "the", "upper", "division", "core", "courses", ".", "Appendix", "B", "graphs", "the", "current", "BYU", "course", "structure", ".", "In", "late", "2004", "and", "early", "2005", "we", "began", "implementing", "the", "``", "pervasive", "theme", "''", "of", "IAS", "in", "earnest", ".", "A", "senior", "level", "IAS", "class", "had", "been", "introduced", "into", "the", "curriculum", "in", "early", "2004", "and", "was", "made", "a", "requirement", "in", "2005", ".", "However", ",", "we", "recognized", "that", "simply", "adding", "a", "required", "course", "at", "the", "end", "of", "a", "student", "'s", "college", "experience", "would", "not", "be", "adequate", ".", "SIGITE", "discussions", "had", "placed", "security", "in", "the", "pervasive", "theme", "category", "at", "the", "very", "beginning", ",", "though", "the", "name", "of", "the", "KA", "was", "n't", "chosen", "until", "2004", ".", "We", "were", "faced", "with", "the", "challenge", "of", "integrating", "the", "IAS", "fundamentals", "into", "the", "introductory", "courses", ",", "morphing", "the", "security", "modules", "in", "the", "existing", "classes", "to", "use", "the", "MSRW", "-LSB-", "11", "-RSB-", "framework", "and", "bringing", "all", "of", "the", "students", "in", "the", "program", "up", "to", "speed", "on", "the", "new", "framework", "simultaneously", ".", "Our", "approach", "has", "been", "to", "prepare", "one", "hour", "modules", "on", "the", "MSRW", "framework", "that", "can", "be", "used", "in", "an", "existing", "course", "to", "bring", "students", "up", "to", "speed", "or", "taught", "in", "seminars", "as", "needed", ".", "We", "are", "in", "the", "process", "of", "integrating", "the", "IAS", "Fundamentals", "into", "our", "introductory", "courses", ".", "We", "successfully", "integrated", "the", "IAS", "modules", "into", "the", "sophomore", "introduction", "to", "web-based", "systems", "course", ",", "which", "was", "already", "introducing", "all", "of", "the", "major", "IT", "areas", ".", "The", "course", "was", "modified", "to", "replace", "a", "3", "week", "team", "project", "experience", "with", "a", "2", "week", "team", "oriented", "lab", "and", "then", "using", "the", "time", "for", "IAS", "topics", ".", "Much", "remains", "to", "be", "done", ",", "but", "the", "initial", "experience", "is", "positive", ".", "The", "faculty", "seems", "unified", "in", "their", "desire", "to", "implement", "IAS", "as", "a", "pervasive", "theme", ".", "For", "example", ",", "2", "lecture", "and", "2", "lab", "hours", "are", "now", "included", "in", "the", "computer", "communications", "course", ".", "3", "lecture", "hours", "and", "3", "lab", "hours", "were", "added", "to", "the", "web", "systems", "course", ".", "The", "IAS", "component", "of", "the", "database", "course", "was", "rearranged", "and", "strengthened", "with", "1", "lecture", "hour", "added", ".", "Similar", "adjustments", "have", "been", "made", "throughout", "the", "curriculum", ".", "IAS", ".", "Information", "Assurance", "and", "Security", "-LRB-", "23", "core", "hours", "-RRB-", "IAS1", ".", "Fundamental", "Aspects", "-LRB-", "3", "-RRB-", "IAS2", ".", "Security", "Mechanisms", "-LRB-", "countermeasures", "-RRB-", "-LRB-", "5", "-RRB-", "IAS3", ".", "Operational", "Issues", "-LRB-", "3", "-RRB-", "IAS4", ".", "Policy", "-LRB-", "3", "-RRB-", "IAS5", ".", "Attacks", "-LRB-", "2", "-RRB-", "IAS6", ".", "Security", "Domains", "-LRB-", "2", "-RRB-", "IAS7", ".", "Forensics", "-LRB-", "1", "-RRB-", "IAS8", ".", "Information", "States", "-LRB-", "1", "-RRB-", "IAS9", ".", "Security", "Services", "-LRB-", "1", "-RRB-", "IAS10", ".", "Threat", "Analysis", "Model", "-LRB-", "1", "-RRB-", "IAS11", ".", "Vulnerabilities", "-LRB-", "1", "-RRB-", "11", "In", "addition", "to", "improving", "the", "IAS", "component", "of", "the", "BYU", "curriculum", ",", "we", "have", "done", "an", "analysis", "of", "our", "coverage", "of", "the", "proposed", "IT2005", "core", ".", "We", "have", "several", "adjustments", "in", "other", "parts", "of", "our", "curriculum", ".", "Since", "we", "evolved", "from", "an", "EET", "program", ",", "the", "hardware", "coverage", "was", "extremely", "strong", ".", "We", "are", "weak", "in", "the", "coverage", "of", "systems", "and", "database", "administration", ".", "We", "will", "continue", "to", "adjust", "our", "curriculum", "as", "IT", "matures", "as", "an", "academic", "discipline", ".", "Information", "Technology", "is", "maturing", "rapidly", "as", "an", "academic", "discipline", ".", "A", "public", "draft", "of", "the", "IT", "volume", "described", "in", "the", "Computing", "Curriculum", "2004", "Overview", "is", "ready", "for", "review", ".", "The", "SIGITE", "Curriculum", "Committee", "is", "soliciting", "feedback", "on", "the", "document", ".", "This", "paper", "presents", "a", "brief", "history", "of", "SIGITE", ",", "the", "ACM", "SIG", "for", "Information", "Technology", "Education", ",", "and", "a", "brief", "introduction", "to", "the", "Information", "Assurance", "Education", "community", ".", "The", "authors", "believe", "that", "collaboration", "between", "these", "communities", "can", "be", "of", "benefit", "to", "all", "of", "the", "participants", "and", "the", "industry", "at", "large", ".", "SIGITE", "and", "the", "CC", "2005", "Joint", "Task", "Force", "solicit", "feedback", "on", "the", "documents", "at", "http://www.acm.org/education/", ".", "The", "authors", "would", "like", "to", "thank", "the", "ACM", "Education", "committee", "for", "their", "support", "of", "the", "IT2005", "effort", ",", "especially", "Russ", "Shackleford", ",", "without", "whose", "financial", "support", "and", "encouragement", "the", "document", "would", "be", "years", "away", "from", "completion", ".", "We", "would", "also", "like", "to", "express", "appreciation", "to", "the", "NSA", "for", "funding", "the", "IAEGC", "-LSB-", "18", "-RSB-", "program", ".", "Corey", "Schou", "'s", "IAEGC", "lecture", "on", "helping", "students", "understand", "IAS", "in", "an", "hour", "was", "the", "genesis", "of", "the", "IAS", "approach", "in", "IT2005", ".", "The", "BYU", "authors", "would", "like", "to", "express", "appreciation", "to", "our", "colleagues", "and", "the", "administration", "of", "the", "School", "of", "Technology", "at", "Brigham", "Young", "University", ",", "who", "covered", "our", "classes", "and", "found", "the", "funding", "for", "the", "time", "and", "travel", "our", "participation", "in", "the", "SIGITE", "curriculum", "committee", "required", ".", "-LSB-", "1", "-RSB-", "Ekstrom", ",", "Joseph", "J.", ",", "Lunt", ",", "Barry", "M.", ",", "Integration", "of", "Information", "Assurance", "and", "Security", "into", "IT2005", ",", "9", "th", "Colloquium", "for", "Information", "Systems", "Security", "Education", ",", "June", "6-9", ",", "2005", ",", "Atlanta", ",", "Georgia", ".", "-LSB-", "2", "-RSB-", "Lunt", ",", "Barry", "M.", ";", "Ekstrom", ",", "Joseph", "J.", ";", "Lawson", ",", "Edith", "A.", ";", "Kamali", ",", "Reza", ";", "Miller", ",", "Jacob", ";", "Gorka", ",", "Sandra", ";", "Reichgelt", ",", "Han", ";", "``", "Defining", "the", "IT", "Curriculum", ":", "The", "Results", "of", "the", "Last", "2", "Years", "''", ";", "World", "Engineer", "'s", "Convention", "2004", ",", "Shanghai", ",", "China", ";", "Nov", "2-6", ",", "2004", "-LSB-", "3", "-RSB-", "Joint", "Task", "Force", "for", "Computing", "Curricula", "-LRB-", "2001", "-RRB-", ",", "Computing", "Curricula", "2001", ",", "Computer", "Science", "Volume", ",", "December", "15", ",", "2001", ",", "Copyright", "2001", ",", "ACM/IEEE", "-LSB-", "4", "-RSB-", "-RSB-", "Joint", "Task", "Force", "for", "Computing", "Curricula", "-LRB-", "2004", "-RRB-", ",", "Computing", "Curricula", "2004", ":", "Overview", "Document", ",", "http://www.acm.org/education/Overview_Draft_11-22-04", ".", "pdf", "retrieved", "Mar.", "2", ",", "2005", ".", "-LSB-", "5", "-RSB-", "http://www.nsa.gov/ia/iaFAQ.cfm?MenuID=10#1", "-LSB-", "6", "-RSB-", "http://www.cnss.gov/history.html", "-LSB-", "7", "-RSB-", "http://www.nsa.gov/ia/academia/caeCriteria.cfm?MenuID=1", "0.1.1.2", "-LSB-", "8", "-RSB-", "SIGITE", "Curriculum", "Committee", "-LRB-", "2005", "-RRB-", ",", "Computing", "Curriculum", "2005", ",", "IT", "Volume", ",", "http://sigite.acm.org/activities/curriculum/", "-LSB-", "9", "-RSB-", "NSA", "web", "site", ",", "Information", "Assurance", "Division", ";", "http://www.nsa.gov/ia/", "verified", "Mar", ",", "4", ",", "2005", ".", "-LSB-", "10", "-RSB-", "Cerias", "web", "site", ",", "http://cerias.purdue.edu/", ";", "verified", "Mar", "4", ",", "2005", "-LSB-", "11", "-RSB-", "Machonachy", ",", "W.", "Victor", ";", "Schou", ",", "Corey", "D.", ";", "Ragsdale", ",", "Daniel", ";", "Welch", ",", "Don", ";", "``", "A", "model", "for", "Information", "Assurance", ":", "An", "Integrated", "Approach", "''", ",", "Proceedings", "of", "the", "2001", "IEEE", "Workshop", "on", "Information", "Assurance", "and", "Security", ",", "United", "States", "Military", "Academy", ",", "West", "Point", ",", "NY", ",", "5-6", "June", "2001", ".", "-LSB-", "12", "-RSB-", "Ekstrom", ",", "Joseph", ",", "Renshaw", ",", "Stephen", ",", "Curriculum", "and", "Issues", "in", "a", "First", "Course", "of", "Computer", "Networking", "for", "Four-year", "Information", "Technology", "Programs", ",", "ASEE", "2002", "Session", "2793", "-LSB-", "13", "-RSB-", "Ekstrom", ",", "Joseph", ",", "Renshaw", ",", "Stephen", ",", "A", "Project-Based", "Introductory", "Curriculum", "in", "Networking", ",", "WEB", "and", "Database", "Systems", "for", "4-year", "Information", "Technology", "Programs", ",", "CITC", "3", "Rochester", "NY", ",", "September", ",", "2002", "-LSB-", "14", "-RSB-", "Ekstrom", ",", "Joseph", ",", "Renshaw", ",", "Stephen", ",", "Database", "Curriculum", "Issues", "for", "Four-year", "IT", "Programs", ",", "CIEC", "2003", ",", "Tucson", ",", "AZ", ",", "January", ",", "2003", ".", "-LSB-", "15", "-RSB-", "Ekstrom", ",", "Joseph", ";", "Lunt", ",", "Barry", ";", "Education", "at", "the", "Seams", ":", "Preparing", "Students", "to", "Stitch", "Systems", "Together", ";", "Curriculum", "and", "Issues", "for", "4-Year", "IT", "Programs", ",", "CITC", "IV", "Purdue", "University", ",", "West", "Lafayette", ",", "Indiana", ",", "October", "2003", ".", "-LSB-", "16", "-RSB-", "Ekstrom", ",", "Joseph", ";", "Lunt", ",", "Barry", "M", ";", "Helps", ",", "C.", "Richard", ";", "Education", "at", "the", "Seams", ":", "Preliminary", "Evaluation", "of", "Teaching", "Integration", "as", "a", "Key", "to", "Education", "in", "Information", "Technology", ";", "ASEE", "2004", ",", "Salt", "Lake", "City", ",", "Utah", ",", "June", "2004", ".", "-LSB-", "17", "-RSB-", "Section", "6.3", "of", "ref", "-LSB-", "4", "-RSB-", ".", "-LSB-", "18", "-RSB-", "IAEGC", ",", "Information", "Assurance", "Education", "Graduate", "Certificate", ",", "http://www.cerias.purdue.edu/iae", "Validated", "April", "13", ",", "2005", ".", "12", "Appendix", "A", "From", "IT2005", "Mar", "2005", "Draft", "The", "Information", "Technology", "Body", "of", "Knowledge", "ITF", ".", "Information", "Technology", "Fundamentals", "-LRB-", "33", "core", "-RRB-", "ITF1", ".", "Pervasive", "Themes", "in", "IT", "-LRB-", "17", "-RRB-", "ITF2", ".", "Organizational", "Issues", "-LRB-", "6", "-RRB-", "ITF3", ".", "History", "of", "IT", "-LRB-", "3", "-RRB-", "ITF4", ".", "IT", "and", "Its", "Related", "and", "Informing", "Disciplines", "-LRB-", "3", "-RRB-", "ITF5", ".", "Application", "Domains", "-LRB-", "2", "-RRB-", "ITF6", ".", "Applications", "of", "Math", "and", "Statistics", "to", "IT", "-LRB-", "2", "-RRB-", "HCI", ".", "Human", "Computer", "Interaction", "-LRB-", "20", "core", "hours", "-RRB-", "HCI1", ".", "Human", "Factors", "-LRB-", "6", "-RRB-", "HCI2", ".", "HCI", "Aspects", "of", "Application", "Domains", "-LRB-", "3", "-RRB-", "HCI3", ".", "Human-Centered", "Evaluation", "-LRB-", "3", "-RRB-", "HCI4", ".", "Developing", "Effective", "Interfaces", "-LRB-", "3", "-RRB-", "HCI5", ".", "Accessibility", "-LRB-", "2", "-RRB-", "HCI6", ".", "Emerging", "Technologies", "-LRB-", "2", "-RRB-", "HCI7", ".", "Human-Centered", "Software", "-LRB-", "1", "-RRB-", "IAS", ".", "Information", "Assurance", "and", "Security", "-LRB-", "23", "core", "-RRB-", "IAS1", ".", "Fundamental", "Aspects", "-LRB-", "3", "-RRB-", "IAS2", ".", "Security", "Mechanisms", "-LRB-", "Countermeasures", "-RRB-", "-LRB-", "5", "-RRB-", "IAS3", ".", "Operational", "Issues", "-LRB-", "3", "-RRB-", "IAS4", ".", "Policy", "-LRB-", "3", "-RRB-", "IAS5", ".", "Attacks", "-LRB-", "2", "-RRB-", "IAS6", ".", "Security", "Domains", "-LRB-", "2", "-RRB-", "IAS7", ".", "Forensics", "-LRB-", "1", "-RRB-", "IAS8", ".", "Information", "States", "-LRB-", "1", "-RRB-", "IAS9", ".", "Security", "Services", "-LRB-", "1", "-RRB-", "IAS10", ".", "Threat", "Analysis", "Model", "-LRB-", "1", "-RRB-", "IAS11", ".", "Vulnerabilities", "-LRB-", "1", "-RRB-", "IM", ".", "Information", "Management", "-LRB-", "34", "core", "hours", "-RRB-", "IM1", ".", "IM", "Concepts", "and", "Fundamentals", "-LRB-", "8", "-RRB-", "IM2", ".", "Database", "Query", "Languages", "-LRB-", "9", "-RRB-", "IM3", ".", "Data", "Organization", "Architecture", "-LRB-", "7", "-RRB-", "IM4", ".", "Data", "Modeling", "-LRB-", "6", "-RRB-", "IM5", ".", "Managing", "the", "Database", "Environment", "-LRB-", "3", "-RRB-", "IM6", ".", "Special-Purpose", "Databases", "-LRB-", "1", "-RRB-", "IPT", ".", "Integrative", "Programming", "&", "Technologies", "-LRB-", "23", "core", "-RRB-", "IPT1", ".", "Intersystems", "Communications", "-LRB-", "5", "-RRB-", "IPT2", ".", "Data", "Mapping", "and", "Exchange", "-LRB-", "4", "-RRB-", "IPT3", ".", "Integrative", "Coding", "-LRB-", "4", "-RRB-", "IPT4", ".", "Scripting", "Techniques", "-LRB-", "4", "-RRB-", "IPT5", ".", "Software", "Security", "Practices", "-LRB-", "4", "-RRB-", "IPT6", ".", "Miscellaneous", "Issues", "-LRB-", "1", "-RRB-", "IPT7", ".", "Overview", "of", "programming", "languages", "-LRB-", "1", "-RRB-", "NET", ".", "Networking", "-LRB-", "20", "core", "hours", "-RRB-", "NET1", ".", "Foundations", "of", "Networking", "-LRB-", "3", "-RRB-", ".", "NET2", ".", "Routing", "and", "Switching", "-LRB-", "8", "-RRB-", "NET3", ".", "Physical", "Layer", "-LRB-", "6", "-RRB-", "NET4", ".", "Security", "-LRB-", "2", "-RRB-", "NET5", ".", "Application", "Areas", "-LRB-", "1", "-RRB-", "NET6", ".", "Network", "Management", "PF", ".", "Programming", "Fundamentals", "-LRB-", "38", "core", "hours", "-RRB-", "PF1", ".", "Fundamental", "Data", "Structures", "-LRB-", "10", "-RRB-", "PF2", ".", "Fundamental", "Programming", "Constructs", "-LRB-", "9", "-RRB-", "PF3", ".", "Object-Oriented", "Programming", "-LRB-", "9", "-RRB-", "PF4", ".", "Algorithms", "and", "Problem-Solving", "-LRB-", "6", "-RRB-", "PF5", ".", "Event-Driven", "Programming", "-LRB-", "3", "-RRB-", "PF6", ".", "Recursion", "-LRB-", "1", "-RRB-", "PT", ".", "Platform", "Technologies", "-LRB-", "14", "core", "hours", "-RRB-", "PT1", ".", "Operating", "Systems", "-LRB-", "10", "-RRB-", "PT2", ".", "Architecture", "and", "Organization", "-LRB-", "3", "-RRB-", "PT3", ".", "Computer", "Infrastructure", "-LRB-", "1", "-RRB-", "PT4", ".", "Enterprise", "Deployment", "Software", "PT5", ".", "Firmware", "PT6", ".", "Hardware", "SA", ".", "System", "Administration", "and", "Maintenance", "-LRB-", "11", "core", "hours", "-RRB-", "SA1", ".", "Operating", "Systems", "-LRB-", "4", "-RRB-", "SA2", ".", "Applications", "-LRB-", "3", "-RRB-", "SA3", ".", "Administrative", "Activities", "-LRB-", "2", "-RRB-", "SA4", ".", "Administrative", "Domains", "-LRB-", "2", "-RRB-", "SIA", ".", "System", "Integration", "and", "Architecture", "-LRB-", "21", "core", "hours", "-RRB-", "SIA1", ".", "Requirements", "-LRB-", "6", "-RRB-", "SIA2", ".", "Acquisition/Sourcing", "-LRB-", "4", "-RRB-", "SIA3", ".", "Integration", "-LRB-", "3", "-RRB-", "SIA4", ".", "Project", "Management", "-LRB-", "3", "-RRB-", "SIA5", ".", "Testing", "and", "QA", "-LRB-", "3", "-RRB-", "SIA6", ".", "Organizational", "Context", "-LRB-", "1", "-RRB-", "SIA7", ".", "Architecture", "-LRB-", "1", "-RRB-", "SP.", ".", "Social", "and", "Professional", "Issues", "-LRB-", "23", "core", "hours", "-RRB-", "SP1", ".", "Technical", "Writing", "for", "IT", "-LRB-", "5", "-RRB-", "SP2", ".", "History", "of", "Computing", "-LRB-", "3", "-RRB-", "SP3", ".", "Social", "Context", "of", "Computing", "-LRB-", "3", "-RRB-", "SP4", ".", "Teamwork", "Concepts", "and", "Issues", "-LRB-", "3", "-RRB-", "SP5", ".", "Intellectual", "Properties", "-LRB-", "2", "-RRB-", "SP6", ".", "Legal", "Issues", "in", "Computing", "-LRB-", "2", "-RRB-", "SP7", ".", "Organizational", "Context", "-LRB-", "2", "-RRB-", "SP8", ".", "Professional", "and", "Ethical", "Issues", "and", "Responsibilities", "-LRB-", "2", "-RRB-", "SP9", ".", "Privacy", "and", "Civil", "Liberties", "-LRB-", "1", "-RRB-", "WS", ".", "Web", "Systems", "and", "Technologies", "-LRB-", "21", "core", "hours", "-RRB-", "WS1", ".", "Web", "Technologies", "-LRB-", "10", "-RRB-", "WS2", ".", "Information", "Architecture", "-LRB-", "4", "-RRB-", "WS3", ".", "Digital", "Media", "-LRB-", "3", "-RRB-", "WS4", ".", "Web", "Development", "-LRB-", "3", "-RRB-", "WS5", ".", "Vulnerabilities", "-LRB-", "1", "-RRB-", "WS6", ".", "Social", "Software", "Total", "Hours", ":", "281", "Notes", ":", "1", ".", "Order", "of", "Knowledge", "Areas", ":", "Fundamentals", "first", ",", "then", "ordered", "alphabetically", ".", "2", ".", "Order", "of", "Units", "under", "each", "Knowledge", "Area", ":", "Fundamentals", "first", "-LRB-", "if", "present", "-RRB-", ",", "then", "ordered", "by", "number", "of", "core", "hours", ".", "13", "Appendix", "B", "14"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["byu curriculum", "information technology", "it2005", "cc2005", "training standards", "security knowledge", "information assurance", "sigite curriculum committee", "pervasive themes", "it", "education", "ia", "ias", "committee on national security systems"], "abstractive_keyphrases": ["in-service training development", "nietp program", "citc-1", "it2005 volume"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "13", "document": ["A", "Machine", "Learning", "Based", "Approach", "for", "Table", "Detection", "on", "The", "Web", "Table", "is", "a", "commonly", "used", "presentation", "scheme", ",", "especially", "for", "describing", "relational", "information", ".", "However", ",", "table", "understanding", "remains", "an", "open", "problem", ".", "In", "this", "paper", ",", "we", "consider", "the", "problem", "of", "table", "detection", "in", "web", "documents", ".", "Its", "potential", "applications", "include", "web", "mining", ",", "knowledge", "management", ",", "and", "web", "content", "summarization", "and", "delivery", "to", "narrow-bandwidth", "devices", ".", "We", "describe", "a", "machine", "learning", "based", "approach", "to", "classify", "each", "given", "table", "entity", "as", "either", "genuine", "or", "non-genuine", ".", "Various", "features", "re", "ecting", "the", "layout", "as", "well", "as", "content", "characteristics", "of", "tables", "are", "studied", ".", "In", "order", "to", "facilitate", "the", "training", "and", "evaluation", "of", "our", "table", "classi", "er", ",", "we", "designed", "a", "novel", "web", "document", "table", "ground", "truthing", "protocol", "and", "used", "it", "to", "build", "a", "large", "table", "ground", "truth", "database", ".", "The", "database", "consists", "of", "1,393", "HTML", "les", "collected", "from", "hundreds", "of", "di", "erent", "web", "sites", "and", "contains", "11,477", "leaf", "<", "TABLE", ">", "elements", ",", "out", "of", "which", "1,740", "are", "genuine", "tables", ".", "Experiments", "were", "conducted", "using", "the", "cross", "validation", "method", "and", "an", "F-measure", "of", "95", ":", "89", "%", "was", "achieved", ".", "H.", "4.3", "Information", "Systems", "Applications", "-RSB-", ":", "Communications", "Applications", "|", "Information", "browsers", "Algorithms", "The", "increasing", "ubiquity", "of", "the", "Internet", "has", "brought", "about", "a", "constantly", "increasing", "amount", "of", "online", "publications", ".", "As", "a", "compact", "and", "e", "cient", "way", "to", "present", "relational", "information", ",", "tables", "are", "used", "frequently", "in", "web", "documents", ".", "Since", "tables", "are", "inherently", "concise", "as", "well", "as", "information", "rich", ",", "the", "automatic", "understanding", "of", "tables", "has", "many", "applications", "including", "knowledge", "management", ",", "information", "retrieval", ",", "web", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "WWW2002", ",", "May", "7", "11", ",", "2002", ",", "Honolulu", ",", "Hawaii", ",", "USA", ".", "ACM", "1-58113-449-5", "/", "02/0005", ".", "mining", ",", "summarization", ",", "and", "content", "delivery", "to", "mobile", "devices", ".", "The", "processes", "of", "table", "understanding", "in", "web", "documents", "include", "table", "detection", ",", "functional", "and", "structural", "analysis", "and", "nally", "table", "interpretation", "6", "-RSB-", ".", "In", "this", "paper", ",", "we", "concentrate", "on", "the", "problem", "of", "table", "detection", ".", "The", "web", "provides", "users", "with", "great", "possibilities", "to", "use", "their", "own", "style", "of", "communication", "and", "expressions", ".", "In", "particular", ",", "people", "use", "the", "<", "TABLE", ">", "tag", "not", "only", "for", "relational", "information", "display", "but", "also", "to", "create", "any", "type", "of", "multiple-column", "layout", "to", "facilitate", "easy", "viewing", ",", "thus", "the", "presence", "of", "the", "<", "TABLE", ">", "tag", "does", "not", "necessarily", "indicate", "the", "presence", "of", "a", "relational", "table", ".", "In", "this", "paper", ",", "we", "de", "ne", "genuine", "tables", "to", "be", "document", "entities", "where", "a", "two", "dimensional", "grid", "is", "semantically", "signi", "cant", "in", "conveying", "the", "logical", "relations", "among", "the", "cells", "10", "-RSB-", ".", "Conversely", ",", "Non-genuine", "tables", "are", "document", "entities", "where", "<", "TABLE", ">", "tags", "are", "used", "as", "a", "mechanism", "for", "grouping", "contents", "into", "clusters", "for", "easy", "viewing", "only", ".", "Figure", "1", "gives", "a", "few", "examples", "of", "genuine", "and", "non-genuine", "tables", ".", "While", "genuine", "tables", "in", "web", "documents", "could", "also", "be", "created", "without", "the", "use", "of", "<", "TABLE", ">", "tags", "at", "all", ",", "we", "do", "not", "consider", "such", "cases", "in", "this", "article", "as", "they", "seem", "very", "rare", "from", "our", "experience", ".", "Thus", ",", "in", "this", "study", ",", "Table", "detection", "refers", "to", "the", "technique", "which", "classi", "es", "a", "document", "entity", "enclosed", "by", "the", "<", "TABLE", ">", "<", "/", "TABLE", ">", "tags", "as", "genuine", "or", "non-genuine", "tables", ".", "Several", "researchers", "have", "reported", "their", "work", "on", "web", "table", "detection", "2", ",", "10", ",", "6", ",", "14", "-RSB-", ".", "In", "2", "-RSB-", ",", "Chen", "et", "al.", "used", "heuristic", "rules", "and", "cell", "similarities", "to", "identify", "tables", ".", "They", "tested", "their", "table", "detection", "algorithm", "on", "918", "tables", "from", "airline", "information", "web", "pages", "and", "achieved", "an", "F-measure", "of", "86", ":", "50", "%", ".", "Penn", "et", "al.", "proposed", "a", "set", "of", "rules", "for", "identifying", "genuinely", "tabular", "information", "and", "news", "links", "in", "HTML", "documents", "10", "-RSB-", ".", "They", "tested", "their", "algorithm", "on", "75", "web", "site", "front-pages", "and", "achieved", "an", "F-measure", "of", "88", ":", "05", "%", ".", "Yoshida", "et", "al.", "proposed", "a", "method", "to", "integrate", "WWW", "tables", "according", "to", "the", "category", "of", "objects", "presented", "in", "each", "table", "14", "-RSB-", ".", "Their", "data", "set", "contains", "35,232", "table", "tags", "gathered", "from", "the", "web", ".", "They", "estimated", "their", "algorithm", "parameters", "using", "all", "of", "table", "data", "and", "then", "evaluated", "algorithm", "accuracy", "on", "175", "of", "the", "tables", ".", "The", "average", "F-measure", "reported", "in", "their", "paper", "is", "82", ":", "65", "%", ".", "These", "previous", "methods", "all", "relied", "on", "heuristic", "rules", "and", "were", "only", "tested", "on", "a", "database", "that", "is", "either", "very", "small", "10", "-RSB-", ",", "or", "highly", "domain", "speci", "c", "2", "-RSB-", ".", "Hurst", "mentioned", "that", "a", "Naive", "Bayes", "classi", "er", "algorithm", "produced", "adequate", "results", "but", "no", "detailed", "algorithm", "and", "experimental", "information", "was", "provided", "6", "-RSB-", ".", "We", "propose", "a", "new", "machine", "learning", "based", "approach", "for", "242", "Figure", "1", ":", "Examples", "of", "genuine", "and", "non-genuine", "tables", ".", "table", "detection", "from", "generic", "web", "documents", ".", "In", "particular", ",", "we", "introduce", "a", "set", "of", "novel", "features", "which", "re", "ect", "the", "layout", "as", "well", "as", "content", "characteristics", "of", "tables", ".", "These", "features", "are", "used", "in", "classi", "ers", "trained", "on", "thousands", "of", "examples", ".", "To", "facilitate", "the", "training", "and", "evaluation", "of", "the", "table", "classi", "ers", ",", "we", "designed", "a", "novel", "web", "document", "table", "ground", "truthing", "protocol", "and", "used", "it", "to", "build", "a", "large", "table", "ground", "truth", "database", ".", "The", "database", "consists", "of", "1,393", "HTML", "les", "collected", "from", "hundreds", "of", "di", "erent", "web", "sites", "and", "contains", "11,477", "leaf", "<", "TABLE", ">", "elements", ",", "out", "of", "which", "1,740", "are", "genuine", "tables", ".", "Experiments", "on", "this", "database", "using", "the", "cross", "validation", "method", "demonstrate", "signi", "cant", "performance", "improvements", "over", "previous", "methods", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "We", "describe", "our", "feature", "set", "in", "Section", "2", ",", "followed", "by", "a", "brief", "discussion", "of", "the", "classi", "ers", "we", "experimented", "with", "in", "Section", "3", ".", "In", "Section", "4", ",", "we", "present", "a", "novel", "table", "ground", "truthing", "protocol", "and", "explain", "how", "we", "built", "our", "database", ".", "Experimental", "results", "are", "then", "reported", "in", "Section", "5", "and", "we", "conclude", "with", "future", "directions", "in", "Section", "6", ".", "Feature", "selection", "is", "a", "crucial", "step", "in", "any", "machine", "learning", "based", "methods", ".", "In", "our", "case", ",", "we", "need", "to", "nd", "a", "combination", "of", "features", "that", "together", "provide", "signi", "cant", "separation", "between", "genuine", "and", "non-genuine", "tables", "while", "at", "the", "same", "time", "constrain", "the", "total", "number", "of", "features", "to", "avoid", "the", "curse", "of", "dimensionality", ".", "Past", "research", "has", "clearly", "indicated", "that", "layout", "and", "content", "are", "two", "important", "aspects", "in", "table", "understanding", "6", "-RSB-", ".", "Our", "features", "were", "designed", "to", "capture", "both", "of", "these", "aspects", ".", "In", "particular", ",", "we", "developed", "16", "features", "which", "can", "be", "categorized", "into", "three", "groups", ":", "seven", "layout", "features", ",", "eight", "content", "type", "features", "and", "one", "word", "group", "feature", ".", "In", "the", "rst", "two", "groups", ",", "we", "attempt", "to", "capture", "the", "global", "composition", "of", "tables", "as", "well", "as", "the", "consistency", "within", "the", "whole", "table", "and", "across", "rows", "and", "columns", ".", "The", "last", "feature", "looks", "at", "words", "used", "in", "tables", "and", "is", "derived", "directly", "from", "the", "vector", "space", "model", "commonly", "used", "in", "Information", "Retrieval", ".", "Before", "feature", "extraction", ",", "each", "HTML", "document", "is", "rst", "parsed", "into", "a", "document", "hierarchy", "tree", "using", "Java", "Swing", "XML", "parser", "with", "W3C", "HTML", "3.2", "DTD", "10", "-RSB-", ".", "A", "<", "TABLE", ">", "node", "is", "said", "to", "be", "a", "leaf", "table", "if", "and", "only", "if", "there", "are", "no", "<", "TABLE", ">", "nodes", "among", "its", "children", "10", "-RSB-", ".", "Our", "experience", "indicates", "that", "almost", "all", "genuine", "tables", "are", "leaf", "tables", ".", "Thus", "in", "this", "study", "only", "leaf", "tables", "are", "considered", "candidates", "for", "genuine", "tables", "and", "are", "passed", "on", "to", "the", "feature", "extraction", "stage", ".", "In", "the", "following", "we", "describe", "each", "feature", "in", "detail", ".", "2.1", "Layout", "Features", "In", "HTML", "documents", ",", "although", "tags", "like", "<", "TR", ">", "and", "<", "TD", ">", "-LRB-", "or", "<", "TH", ">", "-RRB-", "may", "be", "assumed", "to", "delimit", "table", "rows", "and", "table", "cells", ",", "they", "are", "not", "always", "reliable", "indicators", "of", "the", "number", "of", "rows", "and", "columns", "in", "a", "table", ".", "Variations", "can", "be", "caused", "by", "spanning", "cells", "created", "using", "<", "ROWSPAN", ">", "and", "<", "COLSPAN", ">", "tags", ".", "Other", "tags", "such", "as", "<", "BR", ">", "could", "be", "used", "to", "move", "content", "into", "the", "next", "row", ".", "Therefore", "to", "extract", "layout", "features", "reliably", "one", "can", "not", "simply", "count", "the", "number", "of", "<", "TR", ">", "'s", "and", "<", "TD", ">", "'s", ".", "For", "this", "purpose", ",", "we", "maintain", "a", "matrix", "to", "record", "all", "243", "the", "cell", "spanning", "information", "and", "serve", "as", "a", "pseudo", "rendering", "of", "the", "table", ".", "Layout", "features", "based", "on", "row", "or", "column", "numbers", "are", "then", "computed", "from", "this", "matrix", ".", "Given", "a", "table", "T", ",", "assuming", "its", "numbers", "of", "rows", "and", "columns", "are", "rn", "and", "cn", "respectively", ",", "we", "compute", "the", "following", "layout", "features", ":", "Average", "number", "of", "columns", ",", "computed", "as", "the", "average", "number", "of", "cells", "per", "row", ":", "c", "=", "1", "rn", "rn", "X", "i", "=", "1", "c", "i", "where", "c", "i", "is", "the", "number", "of", "cells", "in", "row", "i", ",", "i", "=", "1", ":", ":", ":", "rn", "Standard", "deviation", "of", "number", "of", "columns", ":", "dC", "=", "v", "u", "u", "t", "1", "rn", "rn", "X", "i", "=", "1", "-LRB-", "c", "i", ";", "c", "-RRB-", "-LRB-", "c", "i", ";", "c", "-RRB-", "Average", "number", "of", "rows", ",", "computed", "as", "the", "average", "number", "of", "cells", "per", "column", ":", "r", "=", "1", "rn", "cn", "X", "i", "=", "1", "r", "i", "where", "r", "i", "is", "the", "number", "of", "cells", "in", "column", "i", ",", "i", "=", "1", ":", ":", ":", "cn", "Standard", "deviation", "of", "number", "of", "rows", ":", "dR", "=", "v", "u", "u", "t", "1", "cn", "cn", "X", "i", "=", "1", "-LRB-", "r", "i", ";", "r", "-RRB-", "-LRB-", "r", "i", ";", "r", "-RRB-", ":", "Since", "the", "majority", "of", "tables", "in", "web", "documents", "contain", "characters", ",", "we", "compute", "three", "more", "layout", "features", "based", "on", "cell", "length", "in", "terms", "of", "number", "of", "characters", ":", "Average", "overall", "cell", "length", ":", "cl", "=", "1", "en", "P", "en", "i", "=", "1", "cl", "i", ",", "where", "en", "is", "the", "total", "number", "of", "cells", "in", "a", "given", "table", "and", "cl", "i", "is", "the", "length", "of", "cell", "i", ",", "i", "=", "1", ":", ":", ":", "en", "Standard", "deviation", "of", "cell", "length", ":", "dCL", "=", "v", "u", "u", "t", "1", "en", "en", "X", "i", "=", "1", "-LRB-", "cl", "i", ";", "cl", "-RRB-", "-LRB-", "cl", "i", ";", "cl", "-RRB-", "Average", "Cumulative", "length", "consistency", ",", "CLC", ".", "The", "last", "feature", "is", "designed", "to", "measure", "the", "cell", "length", "consistency", "along", "either", "row", "or", "column", "directions", ".", "It", "is", "inspired", "by", "the", "fact", "that", "most", "genuine", "tables", "demonstrate", "certain", "consistency", "either", "along", "the", "row", "or", "the", "column", "direction", ",", "but", "usually", "not", "both", ",", "while", "non-genuine", "tables", "often", "show", "no", "consistency", "in", "either", "direction", ".", "First", ",", "the", "average", "cumulative", "within-row", "length", "consistency", ",", "CLC", "r", ",", "is", "computed", "as", "follows", ".", "Let", "the", "set", "of", "cell", "lengths", "of", "the", "cells", "from", "row", "i", "be", "R", "i", ",", "i", "=", "1", ":", ":", ":", "r", "-LRB-", "considering", "only", "non-spanning", "cells", "-RRB-", ":", "1", ".", "Compute", "the", "mean", "cell", "length", ",", "m", "i", ",", "for", "row", "R", "i", ".", "2", ".", "Compute", "cumulative", "length", "consistency", "within", "each", "R", "i", ":", "CLC", "i", "=", "X", "cl", "2R", "i", "LC", "cl", ":", "Here", "LC", "cl", "is", "de", "ned", "as", ":", "LC", "cl", "=", "0", ":", "5", ";", "D", ",", "where", "D", "=", "min", "fj", "cl", ";", "m", "i", "j", "=", "m", "i", "1", ":", "0", "g", ".", "Intuitively", ",", "LC", "cl", "measures", "the", "degree", "of", "consistency", "between", "cl", "and", "the", "mean", "cell", "length", ",", "with", ";", "0", ":", "5", "indicating", "extreme", "inconsistency", "and", "0", ":", "5", "indicating", "extreme", "consistency", ".", "When", "most", "cells", "within", "R", "i", "are", "consistent", ",", "the", "cumulative", "measure", "CLC", "i", "is", "positive", ",", "indicating", "a", "more", "or", "less", "consistent", "row", ".", "3", ".", "Take", "the", "average", "across", "all", "rows", ":", "CLC", "r", "=", "1", "r", "r", "X", "i", "=", "1", "CLC", "i", ":", "After", "the", "within-row", "length", "consistency", "CLC", "r", "is", "computed", ",", "the", "within-column", "length", "consistency", "CLC", "c", "is", "computed", "in", "a", "similar", "manner", ".", "Finally", ",", "the", "overall", "cumulative", "length", "consistency", "is", "computed", "as", "CLC", "=", "max", "-LRB-", "CLC", "r", "CLC", "c", "-RRB-", ".", "2.2", "Content", "Type", "Features", "Web", "documents", "are", "inherently", "multi-media", "and", "has", "more", "types", "of", "content", "than", "any", "traditional", "documents", ".", "For", "example", ",", "the", "content", "within", "a", "<", "TABLE", ">", "element", "could", "include", "hyperlinks", ",", "images", ",", "forms", ",", "alphabetical", "or", "numerical", "strings", ",", "etc.", ".", "Because", "of", "the", "relational", "information", "it", "needs", "to", "convey", ",", "a", "genuine", "table", "is", "more", "likely", "to", "contain", "alpha", "or", "numerical", "strings", "than", ",", "say", ",", "images", ".", "The", "content", "type", "feature", "was", "designed", "to", "re", "ect", "such", "characteristics", ".", "We", "de", "ne", "the", "set", "of", "content", "types", "T", "=", "f", "Image", "Form", "Hyperlink", "Alphabetical", "Digit", "Empty", "Others", "g", ".", "Our", "content", "type", "features", "include", ":", "The", "histogram", "of", "content", "type", "for", "a", "given", "table", ".", "This", "contributes", "7", "features", "to", "the", "feature", "set", "Average", "content", "type", "consistency", ",", "CTC", ".", "The", "last", "feature", "is", "similar", "to", "the", "cell", "length", "consistency", "feature", ".", "First", ",", "within-row", "content", "type", "consistency", "CTC", "r", "is", "computed", "as", "follows", ".", "Let", "the", "set", "of", "cell", "type", "of", "the", "cells", "from", "row", "i", "as", "T", "i", ",", "i", "=", "1", ":", ":", ":", "r", "-LRB-", "again", ",", "considering", "only", "non-spanning", "cells", "-RRB-", ":", "1", ".", "Find", "the", "dominant", "type", ",", "DT", "i", ",", "for", "T", "i", ".", "2", ".", "Compute", "the", "cumulative", "type", "consistency", "with", "each", "row", "R", "i", ",", "i", "=", "1", ":", ":", ":", "r", ":", "CTC", "i", "=", "X", "ct", "2R", "i", "D", "where", "D", "=", "1", "if", "ct", "is", "equal", "to", "DT", "i", "and", "D", "=", ";", "1", ",", "otherwise", ".", "3", ".", "Take", "the", "average", "across", "all", "rows", ":", "CTC", "r", "=", "1", "r", "r", "X", "i", "=", "1", "CTC", "i", "The", "within-column", "type", "consistency", "is", "then", "computed", "in", "a", "similar", "manner", ".", "Finally", ",", "the", "overall", "cumulative", "type", "consistency", "is", "computed", "as", ":", "CTC", "=", "max", "-LRB-", "CTC", "r", "CTC", "c", "-RRB-", ".", "244", "2.3", "Word", "Group", "Feature", "If", "we", "treat", "each", "table", "as", "a", "\\", "mini-document", "''", "by", "itself", ",", "table", "classi", "cation", "can", "be", "viewed", "as", "a", "document", "categorization", "problem", "with", "two", "broad", "categories", ":", "genuine", "tables", "and", "non-genuine", "tables", ".", "We", "designed", "the", "word", "group", "feature", "to", "incorporate", "word", "content", "for", "table", "classi", "cation", "based", "on", "techniques", "developed", "in", "information", "retrieval", "7", ",", "13", "-RSB-", ".", "After", "morphing", "11", "-RSB-", "and", "removing", "the", "infrequent", "words", ",", "we", "obtain", "the", "set", "of", "words", "found", "in", "the", "training", "data", ",", "W", ".", "We", "then", "construct", "weight", "vectors", "representing", "genuine", "and", "non-genuine", "tables", "and", "compare", "that", "against", "the", "frequency", "vector", "from", "each", "new", "incoming", "table", ".", "Let", "Z", "represent", "the", "non-negative", "integer", "set", ".", "The", "following", "functions", "are", "de", "ned", "on", "set", "W", ".", "df", "G", ":", "W", "!", "Z", ",", "where", "df", "G", "-LRB-", "w", "i", "-RRB-", "is", "the", "number", "of", "genuine", "tables", "which", "include", "word", "w", "i", ",", "i", "=", "1", ":", ":", ":", "jW", "j", "tf", "G", ":", "W", "!", "Z", ",", "where", "tf", "G", "-LRB-", "w", "i", "-RRB-", "is", "the", "number", "of", "times", "word", "w", "i", ",", "i", "=", "1", ":", ":", ":", "jW", "j", ",", "appears", "in", "genuine", "tables", "df", "N", ":", "W", "!", "Z", ",", "where", "df", "N", "-LRB-", "w", "i", "-RRB-", "is", "the", "number", "of", "non-genuine", "tables", "which", "include", "word", "w", "i", ",", "i", "=", "1", ":", ":", ":", "jW", "j", "tf", "N", ":", "W", "!", "Z", ",", "where", "tf", "N", "-LRB-", "w", "i", "-RRB-", "is", "the", "number", "of", "times", "word", "w", "i", ",", "i", "=", "1", ":", ":", ":", "jW", "j", ",", "appears", "in", "non-genuine", "tables", ".", "tf", "T", ":", "W", "!", "Z", ",", "where", "tf", "T", "-LRB-", "w", "i", "-RRB-", "is", "the", "number", "of", "times", "word", "w", "i", ",", "w", "i", "2", "W", "appears", "in", "a", "new", "test", "table", ".", "To", "simplify", "the", "notations", ",", "in", "the", "following", "discussion", ",", "we", "will", "use", "df", "Gi", ",", "tf", "Gi", ",", "df", "Ni", "and", "tf", "Ni", "to", "represent", "df", "G", "-LRB-", "w", "i", "-RRB-", ",", "tf", "G", "-LRB-", "w", "i", "-RRB-", ",", "df", "N", "-LRB-", "w", "i", "-RRB-", "and", "tf", "N", "-LRB-", "w", "i", "-RRB-", ",", "respectively", ".", "Let", "N", "G", ",", "N", "N", "be", "the", "number", "of", "genuine", "tables", "and", "non-genuine", "tables", "in", "the", "training", "collection", ",", "respectively", "and", "let", "C", "=", "max", "-LRB-", "N", "G", "N", "N", "-RRB-", ".", "Without", "loss", "of", "generality", ",", "we", "assume", "N", "G", "6", "=", "0", "and", "N", "N", "6", "=", "0", ".", "For", "each", "word", "w", "i", "in", "W", ",", "i", "=", "1", ":", ":", ":", "jW", "j", ",", "two", "weights", ",", "p", "G", "i", "and", "p", "N", "i", "are", "computed", ":", "p", "G", "i", "=", "8", "<", ":", "tf", "Gi", "log", "-LRB-", "df", "G", "i", "N", "G", "N", "N", "df", "N", "i", "+", "1", "-RRB-", "when", "df", "Ni", "6", "=", "0", "tf", "Gi", "log", "-LRB-", "df", "G", "i", "N", "G", "C", "+", "1", "-RRB-", "when", "df", "Ni", "=", "0", "p", "N", "i", "=", "8", "<", ":", "tf", "Ni", "log", "-LRB-", "df", "N", "i", "N", "N", "N", "G", "df", "G", "i", "+", "1", "-RRB-", "when", "df", "Gi", "6", "=", "0", "tf", "Ni", "log", "-LRB-", "df", "N", "i", "N", "N", "C", "+", "1", "-RRB-", "when", "df", "Gi", "=", "0", "As", "can", "be", "seen", "from", "the", "formulas", ",", "the", "de", "nitions", "of", "these", "weights", "were", "derived", "from", "the", "traditional", "tf", "idf", "measures", "used", "in", "informational", "retrieval", ",", "with", "some", "adjustments", "made", "for", "the", "particular", "problem", "at", "hand", ".", "Given", "a", "new", "incoming", "table", ",", "let", "us", "denote", "the", "set", "including", "all", "the", "words", "in", "it", "as", "W", "n", ".", "Since", "W", "is", "constructed", "using", "thousands", "of", "tables", ",", "the", "words", "that", "are", "present", "in", "both", "W", "and", "W", "n", "are", "only", "a", "small", "subset", "of", "W", ".", "Based", "on", "the", "vector", "space", "model", ",", "we", "de", "ne", "the", "similarity", "between", "weight", "vectors", "representing", "genuine", "and", "non-genuine", "tables", "and", "the", "frequency", "vector", "representing", "the", "incoming", "table", "as", "the", "corresponding", "dot", "products", ".", "Since", "we", "only", "need", "to", "consider", "the", "words", "that", "are", "present", "in", "both", "W", "and", "W", "n", ",", "we", "rst", "compute", "the", "e", "ective", "word", "set", ":", "W", "e", "=", "W", "\\", "W", "n", ".", "Let", "the", "words", "in", "W", "e", "be", "represented", "as", "w", "m", "k", ",", "where", "m", "k", "k", "=", "1", ":", ":", ":", "jW", "e", "j", ",", "are", "indexes", "to", "the", "words", "from", "set", "W", "=", "f", "w", "1", "w", "2", ":", ":", ":", "w", "jW", "j", "g", ".", "we", "de", "ne", "the", "following", "vectors", ":", "Weight", "vector", "representing", "the", "genuine", "table", "group", ":", "!", "G", "S", "=", "p", "G", "m", "1", "U", "p", "G", "m", "2", "U", "p", "G", "m", "jW", "e", "j", "U", "!", "where", "U", "is", "the", "cosine", "normalization", "term", ":", "U", "=", "v", "u", "u", "t", "jW", "e", "j", "X", "k", "=", "1", "p", "G", "m", "k", "p", "G", "m", "k", ":", "Weight", "vector", "representing", "the", "non-genuine", "table", "group", ":", "!", "N", "S", "=", "p", "N", "m", "1", "V", "p", "N", "m", "2", "V", "p", "N", "m", "jW", "e", "j", "V", "!", "where", "V", "is", "the", "cosine", "normalization", "term", ":", "V", "=", "v", "u", "u", "t", "jW", "e", "j", "X", "k", "=", "1", "p", "N", "m", "k", "p", "N", "m", "k", ":", "Frequency", "vector", "representing", "the", "new", "incoming", "table", ":", "!", "I", "T", "=", "tf", "Tm", "1", "tf", "Tm", "2", "tf", "Tm", "jW", "e", "j", ":", "Finally", ",", "the", "word", "group", "feature", "is", "de", "ned", "as", "the", "ratio", "of", "the", "two", "dot", "products", ":", "wg", "=", "8", ">", ">", ">", "<", ">", ">", ">", ":", "!", "I", "T", "!", "G", "S", "!", "I", "T", "!", "N", "S", "when", "!", "I", "T", "!", "N", "S", "6", "=", "0", "1", "when", "!", "I", "T", "!", "G", "S", "=", "0", "and", "!", "I", "T", "!", "N", "S", "=", "0", "10", "when", "!", "I", "T", "!", "G", "S", "6", "=", "0", "and", "!", "I", "T", "!", "N", "S", "=", "0", "Various", "classi", "cation", "schemes", "have", "been", "widely", "used", "in", "document", "categorization", "as", "well", "as", "web", "information", "retrieval", "13", ",", "8", "-RSB-", ".", "For", "the", "table", "detection", "task", ",", "the", "decision", "tree", "classi-er", "is", "particularly", "attractive", "as", "our", "features", "are", "highly", "non-homogeneous", ".", "We", "also", "experimented", "with", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", ",", "a", "relatively", "new", "learning", "approach", "which", "has", "achieved", "one", "of", "the", "best", "performances", "in", "text", "categorization", "13", "-RSB-", ".", "3.1", "Decision", "Tree", "Decision", "tree", "learning", "is", "one", "of", "the", "most", "widely", "used", "and", "practical", "methods", "for", "inductive", "inference", ".", "It", "is", "a", "method", "for", "approximating", "discrete-valued", "functions", "that", "is", "robust", "to", "noisy", "data", ".", "Decision", "trees", "classify", "an", "instance", "by", "sorting", "it", "down", "the", "tree", "from", "the", "root", "to", "some", "leaf", "node", ",", "which", "provides", "the", "classi", "cation", "of", "the", "instance", ".", "Each", "node", "in", "a", "discrete-valued", "decision", "tree", "speci", "es", "a", "test", "of", "some", "attribute", "of", "the", "instance", ",", "and", "each", "branch", "descending", "from", "that", "node", "corresponds", "to", "one", "of", "the", "possible", "values", "for", "this", "attribute", ".", "Continuous-valued", "decision", "attributes", "can", "be", "incorporated", "by", "dynami-cally", "de", "ning", "new", "discrete-valued", "attributes", "that", "partition", "the", "continuous", "attribute", "value", "into", "a", "discrete", "set", "of", "intervals", "9", "-RSB-", ".", "Animplementationof", "thecontinuous-valueddecision", "tree", "described", "in", "4", "-RSB-", "was", "used", "for", "our", "experiments", ".", "The", "decision", "tree", "is", "constructed", "using", "a", "training", "set", "of", "feature", "vectors", "with", "true", "class", "labels", ".", "At", "each", "node", ",", "a", "discriminant", "threshold", "245", "is", "chosen", "such", "that", "it", "minimizes", "an", "impurity", "value", ".", "The", "learned", "discriminant", "function", "splits", "the", "training", "subset", "into", "two", "subsets", "and", "generates", "two", "child", "nodes", ".", "The", "process", "is", "repeated", "at", "each", "newly", "generated", "child", "node", "until", "a", "stopping", "condition", "is", "satis", "ed", ",", "and", "the", "node", "is", "declared", "as", "a", "terminal", "node", "based", "on", "a", "majority", "vote", ".", "The", "maximum", "impurity", "reduction", ",", "the", "maximum", "depth", "of", "the", "tree", ",", "and", "minimum", "number", "of", "samples", "are", "used", "as", "stopping", "conditions", ".", "3.2", "SVM", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", "are", "based", "on", "the", "Structural", "Risk", "Management", "principle", "from", "computational", "learning", "theory", "12", "-RSB-", ".", "The", "idea", "of", "structural", "risk", "minimization", "is", "to", "nd", "a", "hypothesis", "h", "for", "which", "the", "lowest", "true", "error", "is", "guaranteed", ".", "The", "true", "error", "of", "h", "is", "the", "probability", "that", "h", "will", "make", "an", "error", "on", "an", "unseen", "and", "randomly", "selected", "test", "example", ".", "The", "SVM", "method", "is", "de", "ned", "over", "a", "vector", "space", "where", "the", "goal", "is", "to", "nd", "a", "decision", "surface", "that", "best", "separates", "the", "data", "points", "in", "two", "classes", ".", "More", "precisely", ",", "the", "decision", "surface", "by", "SVM", "for", "linearly", "separable", "space", "is", "a", "hyperplane", "which", "can", "be", "written", "as", "~", "w", "~", "x", ";", "b", "=", "0", "where", "~", "x", "is", "an", "arbitrary", "data", "point", "and", "the", "vector", "~", "w", "and", "the", "constant", "b", "are", "learned", "from", "training", "data", ".", "Let", "D", "=", "-LRB-", "y", "i", "~", "x", "i", "-RRB-", "denote", "the", "training", "set", ",", "and", "y", "i", "2", "f", "+1", ";", "1", "g", "be", "the", "classi", "cation", "for", "~", "x", "i", ",", "the", "SVM", "problem", "is", "to", "nd", "~", "w", "and", "b", "that", "satis", "es", "the", "following", "constraints", ":", "~", "w", "~", "x", "i", ";", "b", "+1", "for", "y", "i", "=", "+1", "~", "w", "~", "x", "i", ";", "b", ";", "1", "for", "y", "i", "=", ";", "1", "while", "minimizing", "the", "vector", "2-norm", "of", "~", "w", ".", "The", "SVM", "problem", "in", "linearly", "separable", "cases", "can", "be", "e", "ciently", "solved", "using", "quadratic", "programming", "techniques", ",", "while", "the", "non-linearly", "separable", "cases", "can", "be", "solved", "by", "either", "introducing", "soft", "margin", "hyperplanes", ",", "or", "by", "mapping", "the", "original", "data", "vectors", "to", "a", "higher", "dimensional", "space", "where", "the", "data", "points", "become", "linearly", "separable", "12", ",", "3", "-RSB-", ".", "One", "reason", "why", "SVMs", "are", "very", "powerful", "is", "that", "they", "are", "very", "universal", "learners", ".", "In", "their", "basic", "form", ",", "SVMs", "learn", "linear", "threshold", "functions", ".", "Nevertheless", ",", "by", "a", "simple", "\\", "plug-in", "''", "of", "an", "appropriate", "kernel", "function", ",", "they", "can", "be", "used", "to", "learn", "polynomial", "classi", "ers", ",", "radial", "basis", "function", "-LRB-", "RBF", "-RRB-", "networks", ",", "three-layer", "sigmoid", "neural", "nets", ",", "etc.", "3", "-RSB-", ".", "For", "our", "experiments", ",", "we", "used", "the", "SV", "M", "light", "system", "implemented", "by", "Thorsten", "Joachims", ".", "1", "Since", "there", "are", "no", "publicly", "available", "web", "table", "ground", "truth", "database", ",", "researchers", "tested", "their", "algorithms", "in", "di", "erent", "data", "sets", "in", "the", "past", "2", ",", "10", ",", "14", "-RSB-", ".", "However", ",", "their", "data", "sets", "either", "had", "limited", "manually", "annotated", "table", "data", "-LRB-", "e.g.", ",", "918", "table", "tags", "in", "2", "-RSB-", ",", "75", "HTML", "pages", "in", "10", "-RSB-", ",", "175", "manually", "annotated", "table", "tags", "in", "14", "-RSB-", "-RRB-", ",", "or", "were", "collected", "from", "some", "speci", "c", "domains", "-LRB-", "e.g.", ",", "a", "set", "of", "tables", "selected", "from", "airline", "information", "pages", "were", "used", "in", "2", "-RSB-", "-RRB-", ".", "To", "develop", "our", "machine", "learning", "based", "table", "detection", "algorithm", ",", "we", "needed", "to", "build", "a", "general", "web", "table", "ground", "truth", "database", "of", "signi", "cant", "size", ".", "1", "http://svmlight.joachims.org", "4.1", "Data", "Collection", "Instead", "of", "working", "within", "a", "speci", "c", "domain", ",", "our", "goal", "of", "data", "collection", "was", "to", "get", "tables", "of", "as", "many", "di", "erent", "varieties", "as", "possible", "from", "the", "web", ".", "To", "accomplish", "this", ",", "we", "composed", "a", "set", "of", "key", "words", "likely", "to", "indicate", "documents", "containing", "tables", "and", "used", "those", "key", "words", "to", "retrieve", "and", "download", "web", "pages", "using", "the", "Google", "search", "engine", ".", "Three", "directories", "on", "Google", "were", "searched", ":", "the", "business", "directory", "and", "news", "directory", "using", "key", "words", ":", "ftable", ",", "stock", ",", "bonds", ",", "figure", ",", "schedule", ",", "weather", ",", "score", ",", "service", ",", "results", ",", "valueg", ",", "and", "the", "science", "directory", "using", "key", "words", "ftable", ",", "results", ",", "valueg", ".", "A", "total", "of", "2,851", "web", "pages", "were", "down-loaded", "in", "this", "manner", "and", "we", "ground", "truthed", "1,393", "HTML", "pages", "out", "of", "these", "-LRB-", "chosen", "randomly", "among", "all", "the", "HTML", "pages", "-RRB-", ".", "These", "1,393", "HTML", "pages", "from", "around", "200", "web", "sites", "comprise", "our", "database", ".", "4.2", "Ground", "Truthing", "There", "has", "been", "no", "previous", "report", "on", "how", "to", "systemati-cally", "generate", "web", "table", "ground", "truth", "data", ".", "To", "build", "a", "large", "web", "table", "ground", "truth", "database", ",", "a", "simple", ",", "exible", "and", "complete", "ground", "truth", "protocol", "is", "required", ".", "Figure", "4.2", "-LRB-", "a", "-RRB-", "shows", "the", "diagram", "of", "our", "ground", "truthing", "procedure", ".", "We", "created", "a", "new", "Document", "Type", "De", "nition", "-LRB-", "DTD", "-RRB-", "which", "is", "a", "super-set", "of", "W3C", "HTML", "3.2", "DTD", ".", "We", "added", "three", "attributes", "for", "<", "TABLE", ">", "element", ",", "which", "are", "\\", "tabid", "''", ",", "\\", "genuine", "table", "''", "and", "\\", "table", "title", "''", ".", "The", "possible", "value", "of", "the", "second", "attribute", "is", "yes", "or", "no", "and", "the", "value", "of", "the", "rst", "and", "third", "attributes", "is", "a", "string", ".", "We", "used", "these", "three", "attributes", "to", "record", "the", "ground", "truth", "of", "each", "leaf", "<", "TABLE", ">", "node", ".", "The", "bene", "t", "of", "this", "design", "is", "that", "the", "ground", "truth", "data", "is", "inside", "HTML", "le", "format", ".", "We", "can", "use", "exactly", "the", "same", "parser", "to", "process", "the", "ground", "truth", "data", ".", "We", "developed", "a", "graphical", "user", "interface", "for", "web", "table", "ground", "truthing", "using", "the", "Java", "1", "-RSB-", "language", ".", "Figure", "4.2", "-LRB-", "b", "-RRB-", "is", "a", "snapshot", "of", "the", "interface", ".", "There", "are", "two", "windows", ".", "After", "reading", "an", "HTML", "le", ",", "the", "hierarchy", "of", "the", "HTML", "le", "is", "shown", "in", "the", "left", "window", ".", "When", "an", "item", "is", "selected", "in", "the", "hierarchy", ",", "the", "HTML", "source", "for", "the", "selected", "item", "is", "shown", "in", "the", "right", "window", ".", "There", "is", "a", "panel", "below", "the", "menu", "bar", ".", "The", "user", "can", "use", "the", "radio", "button", "to", "select", "either", "genuine", "table", "or", "non-genuine", "table", ".", "The", "text", "window", "is", "used", "to", "input", "table", "title", ".", "4.3", "Database", "Description", "Our", "nal", "table", "ground", "truth", "database", "consists", "of", "1,393", "HTML", "pages", "collected", "from", "around", "200", "web", "sites", ".", "There", "are", "a", "total", "of", "14,609", "<", "TABLE", ">", "nodes", ",", "including", "11,477", "leaf", "<", "TABLE", ">", "nodes", ".", "Out", "of", "the", "11,477", "leaf", "<", "TABLE", ">", "nodes", ",", "1,740", "are", "genuine", "tables", "and", "9,737", "are", "non-genuine", "tables", ".", "Not", "every", "genuine", "table", "has", "its", "title", "and", "only", "1,308", "genuine", "tables", "have", "table", "titles", ".", "We", "also", "found", "at", "least", "253", "HTML", "les", "have", "unmatched", "<", "TABLE", ">", ",", "<", "/", "TABLE", ">", "pairs", "or", "wrong", "hierarchy", ",", "which", "demonstrates", "the", "noisy", "nature", "of", "web", "documents", "A", "hold-out", "method", "is", "used", "to", "evaluate", "our", "table", "classi-er", ".", "We", "randomly", "divided", "the", "data", "set", "into", "nine", "parts", ".", "Each", "classi", "er", "was", "trained", "on", "eight", "parts", "and", "then", "tested", "on", "the", "remaining", "one", "part", ".", "This", "procedure", "was", "repeated", "nine", "times", ",", "each", "time", "with", "a", "di", "erent", "choice", "for", "the", "test", "246", "Parser", "Adding", "attributes", "HTML", "with", "attributes", "and", "unique", "index", "to", "each", "table", "-LRB-", "ground", "truth", "-RRB-", "Validation", "HTML", "File", "Hierarchy", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "2", ":", "-LRB-", "a", "-RRB-", "The", "diagram", "of", "ground", "truthing", "procedure", "-LRB-", "b", "-RRB-", "A", "snapshot", "of", "the", "ground", "truthing", "software", ".", "part", ".", "Then", "the", "combined", "nine", "part", "results", "are", "averaged", "to", "arrive", "at", "the", "overall", "performance", "measures", "4", "-RSB-", ".", "For", "the", "layout", "and", "content", "type", "features", ",", "this", "procedure", "is", "straightforward", ".", "However", "it", "is", "more", "complicated", "for", "the", "word", "group", "feature", "training", ".", "To", "compute", "w", "g", "for", "training", "samples", ",", "we", "need", "to", "further", "divide", "the", "training", "set", "into", "two", "groups", ",", "a", "larger", "one", "-LRB-", "7", "parts", "-RRB-", "for", "the", "computation", "of", "the", "weights", "p", "G", "i", "and", "p", "N", "i", ",", "i", "=", "1", ":", ":", ":", "jW", "j", ",", "and", "a", "smaller", "one", "-LRB-", "1", "part", "-RRB-", "for", "the", "computation", "of", "the", "vectors", "!", "G", "S", ",", "!", "N", "S", ",", "and", "!", "I", "T", ".", "This", "partition", "is", "again", "rotated", "to", "compute", "w", "g", "for", "each", "table", "in", "the", "training", "set", ".", "Table", "1", ":", "Possible", "true", "-", "and", "detected-state", "combinations", "for", "two", "classes", ".", "True", "Class", "Assigned", "Class", "genuine", "table", "non-genuine", "table", "genuine", "table", "N", "gg", "N", "gn", "non-genuine", "table", "N", "ng", "N", "nn", "The", "output", "of", "each", "classi", "er", "is", "compared", "with", "the", "ground", "truth", "and", "a", "contingency", "table", "is", "computed", "to", "indicate", "the", "number", "of", "a", "particular", "class", "label", "that", "are", "identi", "ed", "as", "members", "of", "one", "of", "two", "classes", ".", "The", "rows", "of", "the", "contingency", "table", "represent", "the", "true", "classes", "and", "the", "columns", "represent", "the", "assigned", "classes", ".", "The", "cell", "at", "row", "r", "and", "column", "c", "is", "the", "number", "of", "tables", "whose", "true", "class", "is", "r", "while", "its", "assigned", "class", "is", "c", ".", "The", "possible", "true", "-", "and", "detected-state", "combination", "is", "shown", "in", "Table", "1", ".", "Three", "performance", "measures", "Recall", "Rate", "-LRB-", "R", "-RRB-", ",", "Precision", "Rate", "-LRB-", "P", "-RRB-", "and", "F-measure", "-LRB-", "F", "-RRB-", "are", "computed", "as", "follows", ":", "R", "=", "N", "gg", "N", "gg", "+", "N", "gn", "P", "=", "N", "gg", "N", "gg", "+", "N", "ng", "F", "=", "R", "+", "P", "2", ":", "For", "comparison", "among", "di", "erent", "features", "and", "learning", "algorithms", "we", "report", "the", "performance", "measures", "when", "the", "best", "F-measure", "is", "achieved", ".", "First", ",", "the", "performance", "of", "various", "feature", "groups", "and", "their", "combinations", "were", "evaluated", "using", "the", "decision", "tree", "classi", "er", ".", "The", "results", "are", "given", "in", "Table", "2", ".", "Table", "2", ":", "Experimental", "results", "using", "various", "feature", "groups", "and", "the", "decision", "tree", "classi", "er", ".", "L", "T", "LT", "LTW", "R", "-LRB-", "%", "-RRB-", "87.24", "90.80", "94.20", "94.25", "P", "-LRB-", "%", "-RRB-", "88.15", "95.70", "97.27", "97.50", "F", "-LRB-", "%", "-RRB-", "87.70", "93.25", "95.73", "95.88", "L", ":", "La", "y", "out", "only", ".", "T", ":", "Con", "ten", "t", "t", "yp", "e", "only", ".", "L", "T", ":", "La", "y", "out", "and", "con", "ten", "t", "t", "yp", "e.", "L", "TW", ":", "La", "y", "out", ",", "con", "ten", "t", "t", "yp", "e", "and", "w", "ord", "group", ".", "As", "seen", "from", "the", "table", ",", "content", "type", "features", "performed", "better", "than", "layout", "features", "as", "a", "single", "group", ",", "achieving", "an", "F-measure", "of", "93", ":", "25", "%", ".", "However", ",", "when", "the", "two", "groups", "were", "combined", "the", "F-measure", "was", "improved", "substantially", "to", "95", ":", "73", "%", ",", "recon", "rming", "the", "importance", "of", "combining", "layout", "and", "content", "features", "in", "table", "detection", ".", "The", "addition", "of", "the", "word", "group", "feature", "improved", "the", "F-measure", "slightly", "more", "to", "95", ":", "88", "%", ".", "Table", "3", "compares", "the", "performances", "of", "di", "erent", "learning", "algorithms", "using", "the", "full", "feature", "set", ".", "The", "leaning", "algorithms", "tested", "include", "the", "decision", "tree", "classi", "er", "and", "the", "SVM", "al-247", "gorithm", "with", "two", "di", "erent", "kernels", "-LCB-", "linear", "and", "radial", "basis", "function", "-LRB-", "RBF", "-RRB-", ".", "Table", "3", ":", "Experimental", "results", "using", "di", "erent", "learning", "algorithms", ".", "Tree", "SVM", "-LRB-", "linear", "-RRB-", "SVM", "-LRB-", "RBF", "-RRB-", "R", "-LRB-", "%", "-RRB-", "94.25", "93.91", "95.98", "P", "-LRB-", "%", "-RRB-", "97.50", "91.39", "95.81", "F", "-LRB-", "%", "-RRB-", "95.88", "92.65", "95.89", "As", "seen", "from", "the", "table", ",", "for", "this", "application", "the", "SVM", "with", "radial", "basis", "function", "kernel", "performed", "much", "better", "than", "the", "one", "with", "linear", "kernel", ".", "It", "achieved", "an", "F", "measure", "of", "95", ":", "89", "%", ",", "comparable", "to", "the", "95", ":", "88", "%", "achieved", "by", "the", "decision", "tree", "classi", "er", ".", "Figure", "3", "shows", "two", "examples", "of", "correctly", "classi", "ed", "tables", ",", "where", "Figure", "3", "-LRB-", "a", "-RRB-", "is", "a", "genuine", "table", "and", "Figure", "3", "-LRB-", "b", "-RRB-", "is", "a", "non-genuine", "table", ".", "Figure", "4", "shows", "a", "few", "examples", "where", "our", "algorithm", "failed", ".", "Figure", "4", "-LRB-", "a", "-RRB-", "was", "misclassi", "ed", "as", "a", "non-genuine", "table", ",", "likely", "because", "its", "cell", "lengths", "are", "highly", "inconsistent", "and", "it", "has", "many", "hyperlinks", "which", "is", "unusual", "for", "genuine", "tables", ".", "The", "reason", "why", "Figure", "4", "-LRB-", "b", "-RRB-", "was", "misclassi", "ed", "as", "non-genuine", "is", "more", "interesting", ".", "When", "we", "looked", "at", "its", "HTML", "source", "code", ",", "we", "found", "it", "contains", "only", "two", "<", "TR", ">", "tags", ".", "All", "text", "strings", "in", "one", "rectangular", "box", "are", "within", "one", "<", "TD", ">", "tag", ".", "Its", "author", "used", "<", "p", ">", "tags", "to", "put", "them", "in", "di", "erent", "rows", ".", "This", "points", "to", "the", "need", "for", "a", "more", "carefully", "designed", "pseudo-rendering", "process", ".", "Figure", "4", "-LRB-", "c", "-RRB-", "shows", "a", "non-genuine", "table", "misclassi-ed", "as", "genuine", ".", "A", "close", "examination", "reveals", "that", "it", "indeed", "has", "good", "consistency", "along", "the", "row", "direction", ".", "In", "fact", ",", "one", "could", "even", "argue", "that", "this", "is", "indeed", "a", "genuine", "table", ",", "with", "implicit", "row", "headers", "of", "Title", ",", "Name", ",", "Company", "A", "liation", "and", "Phone", "Number", ".", "This", "example", "demonstrates", "one", "of", "the", "most", "di", "cult", "challenges", "in", "table", "understanding", ",", "namely", "the", "ambiguous", "nature", "of", "many", "table", "instances", "-LRB-", "see", "5", "-RSB-", "for", "a", "more", "detailed", "analysis", "on", "that", "-RRB-", ".", "Figure", "4", "-LRB-", "d", "-RRB-", "was", "also", "misclassi-ed", "as", "a", "genuine", "table", ".", "This", "is", "a", "case", "where", "layout", "features", "and", "the", "kind", "of", "shallow", "content", "features", "we", "used", "are", "not", "enough", "|", "deeper", "semantic", "analysis", "would", "be", "needed", "in", "order", "to", "identify", "the", "lack", "of", "logical", "coherence", "which", "makes", "it", "a", "non-genuine", "table", ".", "For", "comparison", ",", "we", "tested", "the", "previously", "developed", "rule-based", "system", "10", "-RSB-", "on", "the", "same", "database", ".", "The", "initial", "results", "-LRB-", "shown", "in", "Table", "4", "under", "\\", "Original", "Rule", "Based", "''", "-RRB-", "were", "very", "poor", ".", "After", "carefully", "studying", "the", "results", "from", "the", "initial", "experiment", "we", "realized", "that", "most", "of", "the", "errors", "were", "caused", "by", "a", "rule", "imposing", "a", "hard", "limit", "on", "cell", "lengths", "in", "genuine", "tables", ".", "After", "deleting", "that", "rule", "the", "rule-based", "system", "achieved", "much", "improved", "results", "-LRB-", "shown", "in", "Table", "4", "under", "\\", "Modi", "ed", "Rule", "Based", "''", "-RRB-", ".", "However", ",", "the", "proposed", "machine", "learning", "based", "method", "still", "performs", "considerably", "better", "in", "comparison", ".", "This", "demonstrates", "that", "systems", "based", "on", "handcrafted", "rules", "tend", "to", "be", "brittle", "and", "do", "not", "generalize", "well", ".", "In", "this", "case", ",", "even", "after", "careful", "manual", "adjustment", "in", "a", "new", "database", ",", "it", "still", "does", "not", "work", "as", "well", "as", "an", "automatically", "trained", "classi", "er", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "3", ":", "Examples", "of", "correctly", "classi", "ed", "tables", ".", "-LRB-", "a", "-RRB-", ":", "a", "genuine", "table", "-LRB-", "b", "-RRB-", ":", "a", "non-genuine", "table", ".", "Table", "4", ":", "Experimental", "results", "of", "a", "previously", "developed", "rule", "based", "system", ".", "Original", "Rule", "Based", "Modi", "ed", "Rule", "Based", "R", "-LRB-", "%", "-RRB-", "48.16", "95.80", "P", "-LRB-", "%", "-RRB-", "75.70", "79.46", "F", "-LRB-", "%", "-RRB-", "61.93", "87.63", "248", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "d", "-RRB-", "Figure", "4", ":", "Examples", "of", "misclassi", "ed", "tables", ".", "-LRB-", "a", "-RRB-", "and", "-LRB-", "b", "-RRB-", ":", "Genuine", "tables", "misclassi", "ed", "as", "non-genuine", "-LRB-", "c", "-RRB-", "and", "-LRB-", "d", "-RRB-", ":", "Non-genuine", "tables", "misclassi", "ed", "as", "genuine", ".", "A", "direct", "comparison", "to", "other", "previous", "results", "2", ",", "14", "-RSB-", "is", "not", "possible", "currently", "because", "of", "the", "lack", "of", "access", "to", "their", "system", ".", "However", ",", "our", "test", "database", "is", "clearly", "more", "general", "and", "far", "larger", "than", "the", "ones", "used", "in", "2", "-RSB-", "and", "14", "-RSB-", ",", "while", "our", "precision", "and", "recall", "rates", "are", "both", "higher", ".", "Table", "detection", "in", "web", "documents", "is", "an", "interesting", "and", "challenging", "problem", "with", "many", "applications", ".", "We", "present", "a", "machine", "learning", "based", "table", "detection", "algorithm", "for", "HTML", "documents", ".", "Layout", "features", ",", "content", "type", "features", "and", "word", "group", "features", "were", "used", "to", "construct", "a", "novel", "feature", "set", ".", "Decision", "tree", "and", "SVM", "classi", "ers", "were", "then", "implemented", "and", "tested", "in", "this", "feature", "space", ".", "We", "also", "designed", "a", "novel", "table", "ground", "truthing", "protocol", "and", "used", "it", "to", "construct", "a", "large", "web", "table", "ground", "truth", "database", "for", "training", "and", "testing", ".", "Experiments", "on", "this", "large", "database", "yielded", "very", "promising", "results", ".", "Our", "future", "work", "includes", "handling", "more", "di", "erent", "HTML", "styles", "in", "pseudo-rendering", ",", "detecting", "table", "titles", "of", "the", "rec-ognized", "genuine", "tables", "and", "developing", "a", "machine", "learning", "based", "table", "interpretation", "algorithm", ".", "We", "would", "also", "like", "to", "investigate", "ways", "to", "incorporate", "deeper", "language", "analysis", "for", "both", "table", "detection", "and", "interpretation", ".", "We", "would", "like", "to", "thank", "Kathie", "Shipley", "for", "her", "help", "in", "collecting", "the", "web", "pages", ",", "and", "Amit", "Bagga", "for", "discussions", "on", "vector", "space", "models", ".", "1", "-RSB-", "M.", "Campione", ",", "K.", "Walrath", ",", "and", "A.", "Huml", ".", "The", "java", "-LRB-", "tm", "-RRB-", "tutorial", ":", "A", "short", "course", "on", "the", "basics", "-LRB-", "the", "java", "-LRB-", "tm", "-RRB-", "series", "-RRB-", ".", "2", "-RSB-", "H.-H", ".", "Chen", ",", "S.-C", ".", "Tsai", ",", "and", "J.-H", ".", "Tsai", ".", "Mining", "tables", "from", "large", "scale", "html", "texts", ".", "In", "Proc", ".", "18th", "International", "Conference", "on", "Computational", "Linguistics", ",", "Saabrucken", ",", "Germany", ",", "July", "2000", ".", "3", "-RSB-", "C.", "Cortes", "and", "V.", "Vapnik", ".", "Support-vector", "networks", ".", "Machine", "Learning", ",", "20:273", "-LCB-", "296", ",", "August", "1995", ".", "4", "-RSB-", "R.", "Haralick", "and", "L.", "Shapiro", ".", "Computer", "and", "Robot", "Vision", ",", "volume", "1", ".", "Addison", "Wesley", ",", "1992", ".", "5", "-RSB-", "J.", "Hu", ",", "R.", "Kashi", ",", "D.", "Lopresti", ",", "G.", "Nagy", ",", "and", "G.", "Wilfong", ".", "Why", "table", "ground-truthing", "is", "hard", ".", "In", "Proc", ".", "6th", "International", "Conference", "on", "Document", "Analysis", "and", "Recognition", "-LRB-", "ICDAR01", "-RRB-", ",", "pages", "129", "-LCB-", "133", ",", "Seattle", ",", "WA", ",", "USA", ",", "September", "2001", ".", "6", "-RSB-", "M.", "Hurst", ".", "Layout", "and", "language", ":", "Challenges", "for", "table", "understanding", "on", "the", "web", ".", "In", "Proc", ".", "1st", "International", "Workshop", "on", "Web", "Document", "Analysis", ",", "pages", "27", "-LCB-", "30", ",", "Seattle", ",", "WA", ",", "USA", ",", "September", "2001", ".", "7", "-RSB-", "T.", "Joachims", ".", "A", "probabilistic", "analysis", "of", "the", "rocchio", "algorithm", "with", "t", "df", "for", "text", "categorization", ".", "In", "Proc", ".", "14th", "International", "Conference", "on", "Machine", "Learning", ",", "pages", "143", "-LCB-", "151", ",", "Morgan", "Kaufmann", ",", "1997", ".", "8", "-RSB-", "A.", "McCallum", ",", "K.", "Nigam", ",", "J.", "Rennie", ",", "and", "K.", "Seymore", ".", "Automating", "the", "construction", "of", "internet", "portals", "with", "machine", "learning", ".", "In", "Information", "Retrieval", "Journal", ",", "volume", "3", ",", "pages", "127", "-LCB-", "163", ",", "Kluwer", ",", "2000", ".", "249", "9", "-RSB-", "T.", "M.", "Mitchell", ".", "Machine", "Learning", ".", "McGraw-Hill", ",", "1997", ".", "10", "-RSB-", "G.", "Penn", ",", "J.", "Hu", ",", "H.", "Luo", ",", "and", "R.", "McDonald", ".", "Flexible", "web", "document", "analysis", "for", "delivery", "to", "narrow-bandwidth", "devices", ".", "In", "Proc", ".", "6th", "International", "Conference", "on", "Document", "Analysis", "and", "Recognition", "-LRB-", "ICDAR01", "-RRB-", ",", "pages", "1074", "-LCB-", "1078", ",", "Seattle", ",", "WA", ",", "USA", ",", "September", "2001", ".", "11", "-RSB-", "M.", "F.", "Porter", ".", "An", "algorithm", "for", "su", "x", "stripping", ".", "Program", ",", "14", "-LRB-", "3", "-RRB-", ":", "130", "-LCB-", "137", ",", "1980", ".", "12", "-RSB-", "V.", "N.", "Vapnik", ".", "The", "Nature", "of", "Statistical", "Learning", "Theory", ",", "volume", "1", ".", "Springer", ",", "New", "York", ",", "1995", ".", "13", "-RSB-", "Y.", "Yang", "and", "X.", "Liu", ".", "A", "re-examination", "of", "text", "categorization", "methods", ".", "In", "Proc", ".", "SIGIR", "'99", ",", "pages", "42", "-LCB-", "49", ",", "Berkeley", ",", "California", ",", "USA", ",", "August", "1999", ".", "14", "-RSB-", "M.", "Yoshida", ",", "K.", "Torisawa", ",", "and", "J.", "Tsujii", ".", "A", "method", "to", "integrate", "tables", "of", "the", "world", "wide", "web", ".", "In", "Proc", ".", "1st", "International", "Workshop", "on", "Web", "Document", "Analysis", ",", "pages", "31", "-LCB-", "34", ",", "Seattle", ",", "WA", ",", "USA", ",", "September", "2001", ".", "250"], "doc_bio_tags": ["O", "B", "I", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information retrieval", "word group", "table ground truthing protocol", "presentation", "machine learning based approach", "html document", "decision tree", "table detection", "content type", "machine learning", "algorithms", "layout"], "abstractive_keyphrases": ["support vector machine", "layout analysis", "classifers", "classifcation schemes"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "129", "document": ["Lossless", "Online", "Bayesian", "Bagging", "Bagging", "frequently", "improves", "the", "predictive", "performance", "of", "a", "model", ".", "An", "online", "version", "has", "recently", "been", "introduced", ",", "which", "attempts", "to", "gain", "the", "benefits", "of", "an", "online", "algorithm", "while", "approximating", "regular", "bagging", ".", "However", ",", "regular", "online", "bagging", "is", "an", "approximation", "to", "its", "batch", "counterpart", "and", "so", "is", "not", "lossless", "with", "respect", "to", "the", "bagging", "operation", ".", "By", "operating", "under", "the", "Bayesian", "paradigm", ",", "we", "introduce", "an", "online", "Bayesian", "version", "of", "bagging", "which", "is", "exactly", "equivalent", "to", "the", "batch", "Bayesian", "version", ",", "and", "thus", "when", "combined", "with", "a", "lossless", "learning", "algorithm", "gives", "a", "completely", "lossless", "online", "bagging", "algorithm", ".", "We", "also", "note", "that", "the", "Bayesian", "formulation", "resolves", "a", "theoretical", "problem", "with", "bagging", ",", "produces", "less", "variability", "in", "its", "estimates", ",", "and", "can", "improve", "predictive", "performance", "for", "smaller", "data", "sets", ".", "In", "a", "typical", "prediction", "problem", ",", "there", "is", "a", "trade-off", "between", "bias", "and", "variance", ",", "in", "that", "after", "a", "certain", "amount", "of", "fitting", ",", "any", "increase", "in", "the", "precision", "of", "the", "fit", "will", "cause", "an", "increase", "in", "the", "prediction", "variance", "on", "future", "observations", ".", "Similarly", ",", "any", "reduction", "in", "the", "prediction", "variance", "causes", "an", "increase", "in", "the", "expected", "bias", "for", "future", "predictions", ".", "Breiman", "-LRB-", "1996", "-RRB-", "introduced", "bagging", "as", "a", "method", "of", "reducing", "the", "prediction", "variance", "without", "affecting", "the", "prediction", "bias", ".", "As", "a", "result", ",", "predictive", "performance", "can", "be", "significantly", "improved", ".", "Bagging", ",", "short", "for", "``", "Bootstrap", "AGGregatING", "''", ",", "is", "an", "ensemble", "learning", "method", ".", "Instead", "of", "making", "predictions", "from", "a", "single", "model", "fit", "on", "the", "observed", "data", ",", "bootstrap", "samples", "are", "taken", "of", "the", "data", ",", "the", "model", "is", "fit", "on", "each", "sample", ",", "and", "the", "predictions", "are", "averaged", "over", "all", "of", "the", "fitted", "models", "to", "get", "the", "bagged", "prediction", ".", "Breiman", "-LRB-", "1996", "-RRB-", "explains", "that", "bagging", "works", "well", "for", "unstable", "modeling", "procedures", ",", "i.e.", "those", "for", "which", "the", "conclusions", "are", "sensitive", "to", "small", "changes", "in", "the", "data", ".", "He", "also", "gives", "a", "theoretical", "explanation", "of", "how", "bagging", "works", ",", "demonstrating", "the", "reduction", "in", "mean-squared", "prediction", "error", "for", "unstable", "c", "2004", "Herbert", "K.", "H.", "Lee", "and", "Merlise", "A.", "Clyde", ".", "Lee", "and", "Clyde", "procedures", ".", "Breiman", "-LRB-", "1994", "-RRB-", "demonstrated", "that", "tree", "models", ",", "among", "others", ",", "are", "empirically", "unstable", ".", "Online", "bagging", "-LRB-", "Oza", "and", "Russell", ",", "2001", "-RRB-", "was", "developed", "to", "implement", "bagging", "sequentially", ",", "as", "the", "observations", "appear", ",", "rather", "than", "in", "batch", "once", "all", "of", "the", "observations", "have", "arrived", ".", "It", "uses", "an", "asymptotic", "approximation", "to", "mimic", "the", "results", "of", "regular", "batch", "bagging", ",", "and", "as", "such", "it", "is", "not", "a", "lossless", "algorithm", ".", "Online", "algorithms", "have", "many", "uses", "in", "modern", "computing", ".", "By", "updating", "sequentially", ",", "the", "update", "for", "a", "new", "observation", "is", "relatively", "quick", "compared", "to", "re-fitting", "the", "entire", "database", ",", "making", "real-time", "calculations", "more", "feasible", ".", "Such", "algorithms", "are", "also", "advantageous", "for", "extremely", "large", "data", "sets", "where", "reading", "through", "the", "data", "just", "once", "is", "time-consuming", ",", "so", "batch", "algorithms", "which", "would", "require", "multiple", "passes", "through", "the", "data", "would", "be", "infeasible", ".", "In", "this", "paper", ",", "we", "consider", "a", "Bayesian", "version", "of", "bagging", "-LRB-", "Clyde", "and", "Lee", ",", "2001", "-RRB-", "based", "on", "the", "Bayesian", "bootstrap", "-LRB-", "Rubin", ",", "1981", "-RRB-", ".", "This", "overcomes", "a", "technical", "difficulty", "with", "the", "usual", "bootstrap", "in", "bagging", ".", "It", "also", "leads", "to", "a", "theoretical", "reduction", "in", "variance", "over", "the", "bootstrap", "for", "certain", "classes", "of", "estimators", ",", "and", "a", "significant", "reduction", "in", "observed", "variance", "and", "error", "rates", "for", "smaller", "data", "sets", ".", "We", "present", "an", "online", "version", "which", ",", "when", "combined", "with", "a", "lossless", "online", "model-fitting", "algorithm", ",", "continues", "to", "be", "lossless", "with", "respect", "to", "the", "bagging", "operation", ",", "in", "contrast", "to", "ordinary", "online", "bagging", ".", "The", "Bayesian", "approach", "requires", "the", "learning", "base", "algorithm", "to", "accept", "weighted", "samples", ".", "In", "the", "next", "section", "we", "review", "the", "basics", "of", "the", "bagging", "algorithm", ",", "of", "online", "bagging", ",", "and", "of", "Bayesian", "bagging", ".", "Next", "we", "introduce", "our", "online", "Bayesian", "bagging", "algorithm", ".", "We", "then", "demonstrate", "its", "efficacy", "with", "classification", "trees", "on", "a", "variety", "of", "examples", ".", "In", "ordinary", "-LRB-", "batch", "-RRB-", "bagging", ",", "bootstrap", "re-sampling", "is", "used", "to", "reduce", "the", "variability", "of", "an", "unstable", "estimator", ".", "A", "particular", "model", "or", "algorithm", ",", "such", "as", "a", "classification", "tree", ",", "is", "specified", "for", "learning", "from", "a", "set", "of", "data", "and", "producing", "predictions", ".", "For", "a", "particular", "data", "set", "X", "m", ",", "denote", "the", "vector", "of", "predictions", "-LRB-", "at", "the", "observed", "sites", "or", "at", "new", "locations", "-RRB-", "by", "G", "-LRB-", "X", "m", "-RRB-", ".", "Denote", "the", "observed", "data", "by", "X", "=", "-LRB-", "x", "1", ",", "...", ",", "x", "n", "-RRB-", ".", "A", "bootstrap", "sample", "of", "the", "data", "is", "a", "sample", "with", "replacement", ",", "so", "that", "X", "m", "=", "-LRB-", "x", "m", "1", ",", "...", ",", "x", "m", "n", "-RRB-", ",", "where", "m", "i", "-LCB-", "1", ",", "...", ",", "n", "-RCB-", "with", "repetitions", "allowed", ".", "X", "m", "can", "also", "be", "thought", "of", "as", "a", "re-weighted", "version", "of", "X", ",", "where", "the", "weights", ",", "-LRB-", "m", "-RRB-", "i", "are", "drawn", "from", "the", "set", "-LCB-", "0", ",", "1", "n", ",", "2", "n", ",", "...", ",", "1", "-RCB-", ",", "i.e.", ",", "n", "-LRB-", "m", "-RRB-", "i", "is", "the", "number", "of", "times", "that", "x", "i", "appears", "in", "the", "mth", "bootstrap", "sample", ".", "We", "denote", "the", "weighted", "sample", "as", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", ".", "For", "each", "bootstrap", "sample", ",", "the", "model", "produces", "predictions", "G", "-LRB-", "X", "m", "-RRB-", "=", "G", "-LRB-", "X", "m", "-RRB-", "1", ",", "...", ",", "G", "-LRB-", "X", "m", "-RRB-", "P", "where", "P", "is", "the", "number", "of", "prediction", "sites", ".", "M", "total", "bootstrap", "samples", "are", "used", ".", "The", "bagged", "predictor", "for", "the", "jth", "element", "is", "then", "1", "M", "M", "m", "=", "1", "G", "-LRB-", "X", "m", "-RRB-", "j", "=", "1", "M", "M", "m", "=", "1", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", "j", ",", "or", "in", "the", "case", "of", "classification", ",", "the", "jth", "element", "is", "predicted", "to", "belong", "to", "the", "most", "frequently", "predicted", "category", "by", "G", "-LRB-", "X", "1", "-RRB-", "j", ",", "...", ",", "G", "-LRB-", "X", "M", "-RRB-", "j", ".", "A", "version", "of", "pseudocode", "for", "implementing", "bagging", "is", "1", ".", "For", "m", "-LCB-", "1", ",", "...", ",", "M", "-RCB-", ",", "144", "Lossless", "Online", "Bayesian", "Bagging", "-LRB-", "a", "-RRB-", "Draw", "a", "bootstrap", "sample", ",", "X", "m", ",", "from", "X.", "-LRB-", "b", "-RRB-", "Find", "predicted", "values", "G", "-LRB-", "X", "m", "-RRB-", ".", "2", ".", "The", "bagging", "predictor", "is", "1", "M", "M", "m", "=", "1", "G", "-LRB-", "X", "m", "-RRB-", ".", "Equivalently", ",", "the", "bootstrap", "sample", "can", "be", "converted", "to", "a", "weighted", "sample", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", "where", "the", "weights", "-LRB-", "m", "-RRB-", "i", "are", "found", "by", "taking", "the", "number", "of", "times", "x", "i", "appears", "in", "the", "bootstrap", "sample", "and", "dividing", "by", "n.", "Thus", "the", "weights", "will", "be", "drawn", "from", "-LCB-", "0", ",", "1", "n", ",", "2", "n", ",", "...", ",", "1", "-RCB-", "and", "will", "sum", "to", "1", ".", "The", "bagging", "predictor", "using", "the", "weighted", "formulation", "is", "1", "M", "M", "m", "=", "1", "G", "-LRB-", "X", "m", ",", "-LRB-", "m", "-RRB-", "-RRB-", "for", "regression", ",", "or", "the", "plurality", "vote", "for", "classification", ".", "2.1", "Online", "Bagging", "Online", "bagging", "-LRB-", "Oza", "and", "Russell", ",", "2001", "-RRB-", "was", "recently", "introduced", "as", "a", "sequential", "approximation", "to", "batch", "bagging", ".", "In", "batch", "bagging", ",", "the", "entire", "data", "set", "is", "collected", ",", "and", "then", "bootstrap", "samples", "are", "taken", "from", "the", "whole", "database", ".", "An", "online", "algorithm", "must", "process", "observations", "as", "they", "arrive", ",", "and", "thus", "each", "observation", "must", "be", "resampled", "a", "random", "number", "of", "times", "when", "it", "arrives", ".", "The", "algorithm", "proposed", "by", "Oza", "and", "Russell", "resamples", "each", "observation", "according", "to", "a", "Poisson", "random", "variable", "with", "mean", "1", ",", "i.e.", ",", "P", "-LRB-", "K", "m", "=", "k", "-RRB-", "=", "exp", "-LRB-", "-1", "-RRB-", "/", "k", "!", ",", "where", "K", "m", "is", "the", "number", "of", "resamples", "in", "``", "bootstrap", "sample", "''", "m", ",", "K", "m", "-LCB-", "0", ",", "1", ",", "...", "-RCB-", ".", "Thus", "as", "each", "observation", "arrives", ",", "it", "is", "added", "K", "m", "times", "to", "X", "m", ",", "and", "then", "G", "-LRB-", "X", "m", "-RRB-", "is", "updated", ",", "and", "this", "is", "done", "for", "m", "-LCB-", "1", ",", "...", ",", "M", "-RCB-", ".", "Pseudocode", "for", "online", "bagging", "is", "For", "i", "-LCB-", "1", ",", "...", ",", "n", "-RCB-", ",", "1", ".", "For", "m", "-LCB-", "1", ",", "...", ",", "M", "-RCB-", ",", "-LRB-", "a", "-RRB-", "Draw", "a", "weight", "K", "m", "from", "a", "Poisson", "-LRB-", "1", "-RRB-", "random", "variable", "and", "add", "K", "m", "copies", "of", "x", "i", "to", "X", "m", ".", "-LRB-", "b", "-RRB-", "Find", "predicted", "values", "G", "-LRB-", "X", "m", "-RRB-", ".", "2", ".", "The", "current", "bagging", "predictor", "is", "1", "M", "M", "m", "=", "1", "G", "-LRB-", "X", "m", "-RRB-", ".", "Ideally", ",", "step", "1", "-LRB-", "b", "-RRB-", "is", "accomplished", "with", "a", "lossless", "online", "update", "that", "incorporates", "the", "K", "m", "new", "points", "without", "refitting", "the", "entire", "model", ".", "We", "note", "that", "n", "may", "not", "be", "known", "ahead", "of", "time", ",", "but", "the", "bagging", "predictor", "is", "a", "valid", "approximation", "at", "each", "step", ".", "Online", "bagging", "is", "not", "guaranteed", "to", "produce", "the", "same", "results", "as", "batch", "bagging", ".", "In", "particular", ",", "it", "is", "easy", "to", "see", "that", "after", "n", "points", "have", "been", "observed", ",", "there", "is", "no", "guarantee", "that", "X", "m", "will", "contain", "exactly", "n", "points", ",", "as", "the", "Poisson", "weights", "are", "not", "constrained", "to", "add", "up", "to", "n", "like", "a", "regular", "bootstrap", "sample", ".", "While", "it", "has", "been", "shown", "-LRB-", "Oza", "and", "Russell", ",", "2001", "-RRB-", "that", "these", "samples", "converge", "asymptotically", "to", "the", "appropriate", "bootstrap", "samples", ",", "there", "may", "be", "some", "discrepancy", "in", "practice", ".", "Thus", "while", "it", "can", "be", "combined", "with", "a", "lossless", "online", "learning", "algorithm", "-LRB-", "such", "as", "for", "a", "classification", "tree", "-RRB-", ",", "the", "bagging", "part", "of", "the", "online", "ensemble", "procedure", "is", "not", "lossless", ".", "145", "Lee", "and", "Clyde", "2.2", "Bayesian", "Bagging", "Ordinary", "bagging", "is", "based", "on", "the", "ordinary", "bootstrap", ",", "which", "can", "be", "thought", "of", "as", "replacing", "the", "original", "weights", "of", "1", "n", "on", "each", "point", "with", "weights", "from", "the", "set", "-LCB-", "0", ",", "1", "n", ",", "2", "n", ",", "...", ",", "1", "-RCB-", ",", "with", "the", "total", "of", "all", "weights", "summing", "to", "1", ".", "A", "variation", "is", "to", "replace", "the", "ordinary", "bootstrap", "with", "the", "Bayesian", "bootstrap", "-LRB-", "Rubin", ",", "1981", "-RRB-", ".", "The", "Bayesian", "approach", "treats", "the", "vector", "of", "weights", "as", "unknown", "parameters", "and", "derives", "a", "posterior", "distribution", "for", ",", "and", "hence", "G", "-LRB-", "X", ",", "-RRB-", ".", "The", "non-informative", "prior", "n", "i", "=", "1", "-1", "i", ",", "when", "combined", "with", "the", "multinomial", "likelihood", ",", "leads", "to", "a", "Dirichlet", "n", "-LRB-", "1", ",", "...", ",", "1", "-RRB-", "distribution", "for", "the", "posterior", "distribution", "of", ".", "The", "full", "posterior", "distribution", "of", "G", "-LRB-", "X", ",", "-RRB-", "can", "be", "estimated", "by", "Monte", "Carlo", "methods", ":", "generate", "-LRB-", "m", "-RRB-", "from", "a", "Dirichlet", "n", "-LRB-", "1", ",", "...", ",", "1", "-RRB-", "distribution", "and", "then", "calculate", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", "for", "each", "sample", ".", "The", "average", "of", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", "over", "the", "M", "samples", "corresponds", "to", "the", "Monte", "Carlo", "estimate", "of", "the", "posterior", "mean", "of", "G", "-LRB-", "X", ",", "-RRB-", "and", "can", "be", "viewed", "as", "a", "Bayesian", "analog", "of", "bagging", "-LRB-", "Clyde", "and", "Lee", ",", "2001", "-RRB-", ".", "In", "practice", ",", "we", "may", "only", "be", "interested", "in", "a", "point", "estimate", ",", "rather", "than", "the", "full", "posterior", "distribution", ".", "In", "this", "case", ",", "the", "Bayesian", "bootstrap", "can", "be", "seen", "as", "a", "continuous", "version", "of", "the", "regular", "bootstrap", ".", "Thus", "Bayesian", "bagging", "can", "be", "achieved", "by", "generating", "M", "Bayesian", "bootstrap", "samples", ",", "and", "taking", "the", "average", "or", "majority", "vote", "of", "the", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", ".", "This", "is", "identical", "to", "regular", "bagging", "except", "that", "the", "weights", "are", "continuous-valued", "on", "-LRB-", "0", ",", "1", "-RRB-", ",", "instead", "of", "being", "restricted", "to", "the", "discrete", "set", "-LCB-", "0", ",", "1", "n", ",", "2", "n", ",", "...", ",", "1", "-RCB-", ".", "In", "both", "cases", ",", "the", "weights", "must", "sum", "to", "1", ".", "In", "both", "cases", ",", "the", "expected", "value", "of", "a", "particular", "weight", "is", "1", "n", "for", "all", "weights", ",", "and", "the", "expected", "correlation", "between", "weights", "is", "the", "same", "-LRB-", "Rubin", ",", "1981", "-RRB-", ".", "Thus", "Bayesian", "bagging", "will", "generally", "have", "the", "same", "expected", "point", "estimates", "as", "ordinary", "bagging", ".", "The", "variability", "of", "the", "estimate", "is", "slightly", "smaller", "under", "Bayesian", "bagging", ",", "as", "the", "variability", "of", "the", "weights", "is", "n", "n", "+1", "times", "that", "of", "ordinary", "bagging", ".", "As", "the", "sample", "size", "grows", "large", ",", "this", "factor", "becomes", "arbitrarily", "close", "to", "one", ",", "but", "we", "do", "note", "that", "it", "is", "strictly", "less", "than", "one", ",", "so", "the", "Bayesian", "approach", "does", "give", "a", "further", "reduction", "in", "variance", "compared", "to", "the", "standard", "approach", ".", "In", "practice", ",", "for", "smaller", "data", "sets", ",", "we", "often", "find", "a", "significant", "reduction", "in", "variance", ",", "possibly", "because", "the", "use", "of", "continuous-valued", "weights", "leads", "to", "fewer", "extreme", "cases", "than", "discrete-valued", "weights", ".", "Pseudocode", "for", "Bayesian", "bagging", "is", "1", ".", "For", "m", "-LCB-", "1", ",", "...", ",", "M", "-RCB-", ",", "-LRB-", "a", "-RRB-", "Draw", "random", "weights", "-LRB-", "m", "-RRB-", "from", "a", "Dirichlet", "n", "-LRB-", "1", ",", "...", ",", "1", "-RRB-", "to", "produce", "the", "Bayesian", "bootstrap", "sample", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", ".", "-LRB-", "b", "-RRB-", "Find", "predicted", "values", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", ".", "2", ".", "The", "bagging", "predictor", "is", "1", "M", "M", "m", "=", "1", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", ".", "Use", "of", "the", "Bayesian", "bootstrap", "does", "have", "a", "major", "theoretical", "advantage", ",", "in", "that", "for", "some", "problems", ",", "bagging", "with", "the", "regular", "bootstrap", "is", "actually", "estimating", "an", "undefined", "quantity", ".", "To", "take", "a", "simple", "example", ",", "suppose", "one", "is", "bagging", "the", "fitted", "predictions", "for", "a", "point", "y", "from", "a", "least-squares", "regression", "problem", ".", "Technically", ",", "the", "full", "bagging", "estimate", "is", "1", "M", "0", "m", "^", "y", "m", "where", "m", "ranges", "over", "all", "possible", "bootstrap", "samples", ",", "M", "0", "is", "the", "total", "number", "of", "possible", "bootstrap", "samples", ",", "and", "^", "y", "m", "is", "the", "predicted", "value", "from", "the", "model", "fit", "using", "the", "mth", "bootstrap", "sample", ".", "The", "issue", "is", "that", "one", "of", "the", "possible", "bootstrap", "samples", "contains", "the", "146", "Lossless", "Online", "Bayesian", "Bagging", "first", "data", "point", "replicated", "n", "times", ",", "and", "no", "other", "data", "points", ".", "For", "this", "bootstrap", "sample", ",", "the", "regression", "model", "is", "undefined", "-LRB-", "since", "at", "least", "two", "different", "points", "are", "required", "-RRB-", ",", "and", "so", "^", "y", "and", "thus", "the", "bagging", "estimator", "are", "undefined", ".", "In", "practice", ",", "only", "a", "small", "sample", "of", "the", "possible", "bootstrap", "samples", "is", "used", ",", "so", "the", "probability", "of", "drawing", "a", "bootstrap", "sample", "with", "an", "undefined", "prediction", "is", "very", "small", ".", "Yet", "it", "is", "disturbing", "that", "in", "some", "problems", ",", "the", "bagging", "estimator", "is", "technically", "not", "well-defined", ".", "In", "contrast", ",", "the", "use", "of", "the", "Bayesian", "bootstrap", "completely", "avoids", "this", "problem", ".", "Since", "the", "weights", "are", "continuous-valued", ",", "the", "probability", "that", "any", "weight", "is", "exactly", "equal", "to", "zero", "is", "zero", ".", "Thus", "with", "probability", "one", ",", "all", "weights", "are", "strictly", "positive", ",", "and", "the", "Bayesian", "bagging", "estimator", "will", "be", "well-defined", "-LRB-", "assuming", "the", "ordinary", "estimator", "on", "the", "original", "data", "is", "well-defined", "-RRB-", ".", "We", "note", "that", "the", "Bayesian", "approach", "will", "only", "work", "with", "models", "that", "have", "learning", "algorithms", "that", "handle", "weighted", "samples", ".", "Most", "standard", "models", "either", "have", "readily", "available", "such", "algorithms", ",", "or", "their", "algorithms", "are", "easily", "modified", "to", "accept", "weights", ",", "so", "this", "restriction", "is", "not", "much", "of", "an", "issue", "in", "practice", ".", "Regular", "online", "bagging", "can", "not", "be", "exactly", "equivalent", "to", "the", "batch", "version", "because", "the", "Poisson", "counts", "can", "not", "be", "guaranteed", "to", "sum", "to", "the", "number", "of", "actual", "observations", ".", "Gamma", "random", "variables", "can", "be", "thought", "of", "as", "continuous", "analogs", "of", "Poisson", "counts", ",", "which", "motivates", "our", "derivation", "of", "Bayesian", "online", "bagging", ".", "The", "key", "is", "to", "recall", "a", "fact", "from", "basic", "probability", "--", "a", "set", "of", "independent", "gamma", "random", "variables", "divided", "by", "its", "sum", "has", "a", "Dirichlet", "distribution", ",", "i.e.", ",", "If", "w", "i", "-LRB-", "i", ",", "1", "-RRB-", ",", "then", "w", "1", "w", "i", ",", "w", "2", "w", "i", ",", "...", ",", "w", "k", "w", "i", "Dirichlet", "n", "-LRB-", "1", ",", "2", ",", "...", ",", "k", "-RRB-", ".", "-LRB-", "See", "for", "example", ",", "Hogg", "and", "Craig", ",", "1995", ",", "pp.", "187", "188", ".", "-RRB-", "This", "relationship", "is", "a", "common", "method", "for", "generating", "random", "draws", "from", "a", "Dirichlet", "distribution", ",", "and", "so", "is", "also", "used", "in", "the", "implementation", "of", "batch", "Bayesian", "bagging", "in", "practice", ".", "Thus", "in", "the", "online", "version", "of", "Bayesian", "bagging", ",", "as", "each", "observation", "arrives", ",", "it", "has", "a", "realization", "of", "a", "Gamma", "-LRB-", "1", "-RRB-", "random", "variable", "associated", "with", "it", "for", "each", "bootstrap", "sample", ",", "and", "the", "model", "is", "updated", "after", "each", "new", "weighted", "observation", ".", "If", "the", "implementation", "of", "the", "model", "requires", "weights", "that", "sum", "to", "one", ",", "then", "within", "each", "-LRB-", "Bayesian", "-RRB-", "bootstrap", "sample", ",", "all", "weights", "can", "be", "re-normalized", "with", "the", "new", "sum", "of", "gammas", "before", "the", "model", "is", "updated", ".", "At", "any", "point", "in", "time", ",", "the", "current", "predictions", "are", "those", "aggregated", "across", "all", "bootstrap", "samples", ",", "just", "as", "with", "batch", "bagging", ".", "If", "the", "model", "is", "fit", "with", "an", "ordinary", "lossless", "online", "algorithm", ",", "as", "exists", "for", "classification", "trees", "-LRB-", "Utgoff", "et", "al.", ",", "1997", "-RRB-", ",", "then", "the", "entire", "online", "Bayesian", "bagging", "procedure", "is", "completely", "lossless", "relative", "to", "batch", "Bayesian", "bagging", ".", "Furthermore", ",", "since", "batch", "Bayesian", "bagging", "gives", "the", "same", "mean", "results", "as", "ordinary", "batch", "bagging", ",", "online", "Bayesian", "bagging", "also", "has", "the", "same", "expected", "results", "as", "ordinary", "batch", "bagging", ".", "Pseudocode", "for", "online", "Bayesian", "bagging", "is", "For", "i", "-LCB-", "1", ",", "...", ",", "n", "-RCB-", ",", "1", ".", "For", "m", "-LCB-", "1", ",", "...", ",", "M", "-RCB-", ",", "147", "Lee", "and", "Clyde", "-LRB-", "a", "-RRB-", "Draw", "a", "weight", "-LRB-", "m", "-RRB-", "i", "from", "a", "Gamma", "-LRB-", "1", ",", "1", "-RRB-", "random", "variable", ",", "associate", "weight", "with", "x", "i", ",", "and", "add", "x", "i", "to", "X.", "-LRB-", "b", "-RRB-", "Find", "predicted", "values", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", "-LRB-", "renormalizing", "weights", "if", "necessary", "-RRB-", ".", "2", ".", "The", "current", "bagging", "predictor", "is", "1", "M", "M", "m", "=", "1", "G", "-LRB-", "X", ",", "-LRB-", "m", "-RRB-", "-RRB-", ".", "In", "step", "1", "-LRB-", "b", "-RRB-", ",", "the", "weights", "may", "need", "to", "be", "renormalized", "-LRB-", "by", "dividing", "by", "the", "sum", "of", "all", "current", "weights", "-RRB-", "if", "the", "implementation", "requires", "weights", "that", "sum", "to", "one", ".", "We", "note", "that", "for", "many", "models", ",", "such", "as", "classification", "trees", ",", "this", "renormalization", "is", "not", "a", "major", "issue", ";", "for", "a", "tree", ",", "each", "split", "only", "depends", "on", "the", "relative", "weights", "of", "the", "observations", "at", "that", "node", ",", "so", "nodes", "not", "involving", "the", "new", "observation", "will", "have", "the", "same", "ratio", "of", "weights", "before", "and", "after", "renormalization", "and", "the", "rest", "of", "the", "tree", "structure", "will", "be", "unaffected", ";", "in", "practice", ",", "in", "most", "implementations", "of", "trees", "-LRB-", "including", "that", "used", "in", "this", "paper", "-RRB-", ",", "renormalization", "is", "not", "necessary", ".", "We", "discuss", "the", "possibility", "of", "renormalization", "in", "order", "to", "be", "consistent", "with", "the", "original", "presentation", "of", "the", "bootstrap", "and", "Bayesian", "bootstrap", ",", "and", "we", "note", "that", "ordinary", "online", "bagging", "implicitly", "deals", "with", "this", "issue", "equivalently", ".", "The", "computational", "requirements", "of", "Bayesian", "versus", "ordinary", "online", "bagging", "are", "comparable", ".", "The", "procedures", "are", "quite", "similar", ",", "with", "the", "main", "difference", "being", "that", "the", "fitting", "algorithm", "must", "handle", "non-integer", "weights", "for", "the", "Bayesian", "version", ".", "For", "models", "such", "as", "trees", ",", "there", "is", "no", "significant", "additional", "computational", "burden", "for", "using", "non-integer", "weights", ".", "We", "demonstrate", "the", "effectiveness", "of", "online", "Bayesian", "bagging", "using", "classification", "trees", ".", "Our", "implementation", "uses", "the", "lossless", "online", "tree", "learning", "algorithms", "-LRB-", "ITI", "-RRB-", "of", "Utgoff", "et", "al.", "-LRB-", "1997", "-RRB-", "-LRB-", "available", "at", "http://www.cs.umass.edu/lrn/iti/", "-RRB-", ".", "We", "compared", "Bayesian", "bagging", "to", "a", "single", "tree", ",", "ordinary", "batch", "bagging", ",", "and", "ordinary", "online", "bagging", ",", "all", "three", "of", "which", "were", "done", "using", "the", "minimum", "description", "length", "criterion", "-LRB-", "MDL", "-RRB-", ",", "as", "implemented", "in", "the", "ITI", "code", ",", "to", "determine", "the", "optimal", "size", "for", "each", "tree", ".", "To", "implement", "Bayesian", "bagging", ",", "the", "code", "was", "modified", "to", "account", "for", "weighted", "observations", ".", "We", "use", "a", "generalized", "MDL", "to", "determine", "the", "optimal", "tree", "size", "at", "each", "stage", ",", "replacing", "all", "counts", "of", "observations", "with", "the", "sum", "of", "the", "weights", "of", "the", "observations", "at", "that", "node", "or", "leaf", "with", "the", "same", "response", "category", ".", "Replacing", "the", "total", "count", "directly", "with", "the", "sum", "of", "the", "weights", "is", "justified", "by", "looking", "at", "the", "multinomial", "likelihood", "when", "written", "as", "an", "exponential", "family", "in", "canonical", "form", ";", "the", "weights", "enter", "through", "the", "dispersion", "parameter", "and", "it", "is", "easily", "seen", "that", "the", "unweighted", "counts", "are", "replaced", "by", "the", "sums", "of", "the", "weights", "of", "the", "observations", "that", "go", "into", "each", "count", ".", "To", "be", "more", "specific", ",", "a", "decision", "tree", "typically", "operates", "with", "a", "multinomial", "likelihood", ",", "leaves", "j", "classes", "k", "p", "n", "jk", "jk", ",", "where", "p", "jk", "is", "the", "true", "probability", "that", "an", "observation", "in", "leaf", "j", "will", "be", "in", "class", "k", ",", "and", "n", "jk", "is", "the", "count", "of", "data", "points", "in", "leaf", "j", "in", "class", "k", ".", "This", "is", "easily", "re-written", "as", "the", "product", "over", "all", "observations", ",", "n", "i", "=", "1", "p", "i", "where", "if", "observation", "i", "is", "in", "leaf", "j", "and", "a", "member", "of", "class", "k", "then", "p", "i", "=", "p", "jk", ".", "For", "simplicity", ",", "we", "consider", "the", "case", "k", "=", "2", "as", "the", "generalization", "to", "larger", "k", "is", "straightforward", ".", "Now", "consider", "a", "single", "point", ",", "y", ",", "which", "takes", "values", "0", "or", "1", "depending", "on", "which", "class", "is", "it", "a", "member", "of", ".", "Transforming", "to", "the", "canonical", "parameterization", ",", "let", "=", "p", "1-p", ",", "148", "Lossless", "Online", "Bayesian", "Bagging", "where", "p", "is", "the", "true", "probability", "that", "y", "=", "1", ".", "Writing", "the", "likelihood", "in", "exponential", "family", "form", "gives", "exp", "y", "+", "log", "1", "1", "+", "exp", "-LCB-", "-RCB-", "a", "where", "a", "is", "the", "dispersion", "parameter", ",", "which", "would", "be", "equal", "to", "1", "for", "a", "standard", "data", "set", ",", "but", "would", "be", "the", "reciprocal", "of", "the", "weight", "for", "that", "observation", "in", "a", "weighted", "data", "set", ".", "Thus", "the", "likelihood", "for", "an", "observation", "y", "with", "weight", "w", "is", "exp", "y", "+", "log", "1", "1", "+", "exp", "-LCB-", "-RCB-", "-LRB-", "1/w", "-RRB-", "=", "p", "wy", "-LRB-", "1", "-", "p", "-RRB-", "w", "-LRB-", "1-y", "-RRB-", "and", "so", "returning", "to", "the", "full", "multinomial", ",", "the", "original", "counts", "are", "simply", "replaced", "by", "the", "weighted", "counts", ".", "As", "MDL", "is", "a", "penalized", "likelihood", "criterion", ",", "we", "thus", "use", "the", "weighted", "likelihood", "and", "replace", "each", "count", "with", "a", "sum", "of", "weights", ".", "We", "note", "that", "for", "ordinary", "online", "bagging", ",", "using", "a", "single", "Poisson", "weight", "K", "with", "our", "generalized", "MDL", "is", "exactly", "equivalent", "to", "including", "K", "copies", "of", "the", "data", "point", "in", "the", "data", "set", "and", "using", "regular", "MDL", ".", "Table", "1", "shows", "the", "data", "sets", "we", "used", "for", "classification", "problems", ",", "the", "number", "of", "classes", "in", "each", "data", "set", ",", "and", "the", "sizes", "of", "their", "respective", "training", "and", "test", "partitions", ".", "Table", "2", "displays", "the", "results", "of", "our", "comparison", "study", ".", "All", "of", "the", "data", "sets", ",", "except", "the", "final", "one", ",", "are", "available", "online", "at", "http://www.ics.uci.edu/mlearn/MLRepository.html", ",", "the", "UCI", "Machine", "Learning", "Repository", ".", "The", "last", "data", "set", "is", "described", "in", "Lee", "-LRB-", "2001", "-RRB-", ".", "We", "compare", "the", "results", "of", "training", "a", "single", "classification", "tree", ",", "ordinary", "batch", "bagging", ",", "online", "bagging", ",", "and", "Bayesian", "online", "bagging", "-LRB-", "or", "equivalently", "Bayesian", "batch", "-RRB-", ".", "For", "each", "of", "the", "bagging", "techniques", ",", "100", "bootstrap", "samples", "were", "used", ".", "For", "each", "data", "set", ",", "we", "repeated", "1000", "times", "the", "following", "procedure", ":", "randomly", "choose", "a", "training/test", "partition", ";", "fit", "a", "single", "tree", ",", "a", "batch", "bagged", "tree", ",", "an", "online", "bagged", "tree", ",", "and", "a", "Bayesian", "bagged", "tree", ";", "compute", "the", "misclassification", "error", "rate", "for", "each", "fit", ".", "Table", "2", "reports", "the", "average", "error", "rate", "for", "each", "method", "on", "each", "data", "set", ",", "as", "well", "as", "the", "estimated", "standard", "error", "of", "this", "error", "rate", ".", "Size", "of", "Size", "of", "Number", "of", "Training", "Test", "Data", "Set", "Classes", "Data", "Set", "Data", "Set", "Breast", "cancer", "-LRB-", "WI", "-RRB-", "2", "299", "400", "Contraceptive", "3", "800", "673", "Credit", "-LRB-", "German", "-RRB-", "2", "200", "800", "Credit", "-LRB-", "Japanese", "-RRB-", "2", "290", "400", "Dermatology", "6", "166", "200", "Glass", "7", "164", "50", "House", "votes", "2", "185", "250", "Ionosphere", "2", "200", "151", "Iris", "3", "90", "60", "Liver", "3", "145", "200", "Pima", "diabetes", "2", "200", "332", "SPECT", "2", "80", "187", "Wine", "3", "78", "100", "Mushrooms", "2", "1000", "7124", "Spam", "2", "2000", "2601", "Credit", "-LRB-", "American", "-RRB-", "2", "4000", "4508", "Table", "1", ":", "Sizes", "of", "the", "example", "data", "sets", "149", "Lee", "and", "Clyde", "Bayesian", "Single", "Batch", "Online", "Online/Batch", "Data", "Set", "Tree", "Bagging", "Bagging", "Bagging", "Breast", "cancer", "-LRB-", "WI", "-RRB-", "0.055", "-LRB-", ".020", "-RRB-", "0.045", "-LRB-", ".010", "-RRB-", "0.045", "-LRB-", ".010", "-RRB-", "0.041", "-LRB-", ".009", "-RRB-", "Contraceptive", "0.522", "-LRB-", ".019", "-RRB-", "0.499", "-LRB-", ".017", "-RRB-", "0.497", "-LRB-", ".017", "-RRB-", "0.490", "-LRB-", ".016", "-RRB-", "Credit", "-LRB-", "German", "-RRB-", "0.318", "-LRB-", ".022", "-RRB-", "0.295", "-LRB-", ".017", "-RRB-", "0.294", "-LRB-", ".017", "-RRB-", "0.285", "-LRB-", ".015", "-RRB-", "Credit", "-LRB-", "Japanese", "-RRB-", "0.155", "-LRB-", ".017", "-RRB-", "0.148", "-LRB-", ".014", "-RRB-", "0.147", "-LRB-", ".014", "-RRB-", "0.145", "-LRB-", ".014", "-RRB-", "Dermatology", "0.099", "-LRB-", ".033", "-RRB-", "0.049", "-LRB-", ".017", "-RRB-", "0.053", "-LRB-", ".021", "-RRB-", "0.047", "-LRB-", ".019", "-RRB-", "Glass", "0.383", "-LRB-", ".081", "-RRB-", "0.357", "-LRB-", ".072", "-RRB-", "0.361", "-LRB-", ".074", "-RRB-", "0.373", "-LRB-", ".075", "-RRB-", "House", "votes", "0.052", "-LRB-", ".011", "-RRB-", "0.049", "-LRB-", ".011", "-RRB-", "0.049", "-LRB-", ".011", "-RRB-", "0.046", "-LRB-", ".010", "-RRB-", "Ionosphere", "0.119", "-LRB-", ".026", "-RRB-", "0.094", "-LRB-", ".022", "-RRB-", "0.099", "-LRB-", ".022", "-RRB-", "0.096", "-LRB-", ".021", "-RRB-", "Iris", "0.062", "-LRB-", ".029", "-RRB-", "0.057", "-LRB-", ".026", "-RRB-", "0.060", "-LRB-", ".025", "-RRB-", "0.058", "-LRB-", ".025", "-RRB-", "Liver", "0.366", "-LRB-", ".036", "-RRB-", "0.333", "-LRB-", ".032", "-RRB-", "0.336", "-LRB-", ".034", "-RRB-", "0.317", "-LRB-", ".033", "-RRB-", "Pima", "diabetes", "0.265", "-LRB-", ".027", "-RRB-", "0.250", "-LRB-", ".020", "-RRB-", "0.247", "-LRB-", ".021", "-RRB-", "0.232", "-LRB-", ".017", "-RRB-", "SPECT", "0.205", "-LRB-", ".029", "-RRB-", "0.200", "-LRB-", ".030", "-RRB-", "0.202", "-LRB-", ".031", "-RRB-", "0.190", "-LRB-", ".027", "-RRB-", "Wine", "0.134", "-LRB-", ".042", "-RRB-", "0.094", "-LRB-", ".037", "-RRB-", "0.101", "-LRB-", ".037", "-RRB-", "0.085", "-LRB-", ".034", "-RRB-", "Mushrooms", "0.004", "-LRB-", ".003", "-RRB-", "0.003", "-LRB-", ".002", "-RRB-", "0.003", "-LRB-", ".002", "-RRB-", "0.003", "-LRB-", ".002", "-RRB-", "Spam", "0.099", "-LRB-", ".008", "-RRB-", "0.075", "-LRB-", ".005", "-RRB-", "0.077", "-LRB-", ".005", "-RRB-", "0.077", "-LRB-", ".005", "-RRB-", "Credit", "-LRB-", "American", "-RRB-", "0.350", "-LRB-", ".007", "-RRB-", "0.306", "-LRB-", ".005", "-RRB-", "0.306", "-LRB-", ".005", "-RRB-", "0.305", "-LRB-", ".006", "-RRB-", "Table", "2", ":", "Comparison", "of", "average", "classification", "error", "rates", "-LRB-", "with", "standard", "error", "-RRB-", "We", "note", "that", "in", "all", "cases", ",", "both", "online", "bagging", "techniques", "produce", "results", "similar", "to", "ordinary", "batch", "bagging", ",", "and", "all", "bagging", "methods", "significantly", "improve", "upon", "the", "use", "of", "a", "single", "tree", ".", "However", ",", "for", "smaller", "data", "sets", "-LRB-", "all", "but", "the", "last", "three", "-RRB-", ",", "online/batch", "Bayesian", "bagging", "typically", "both", "improves", "prediction", "performance", "and", "decreases", "prediction", "variability", ".", "Bagging", "is", "a", "useful", "ensemble", "learning", "tool", ",", "particularly", "when", "models", "sensitive", "to", "small", "changes", "in", "the", "data", "are", "used", ".", "It", "is", "sometimes", "desirable", "to", "be", "able", "to", "use", "the", "data", "in", "an", "online", "fashion", ".", "By", "operating", "in", "the", "Bayesian", "paradigm", ",", "we", "can", "introduce", "an", "online", "algorithm", "that", "will", "exactly", "match", "its", "batch", "Bayesian", "counterpart", ".", "Unlike", "previous", "versions", "of", "online", "bagging", ",", "the", "Bayesian", "approach", "produces", "a", "completely", "lossless", "bagging", "algorithm", ".", "It", "can", "also", "lead", "to", "increased", "accuracy", "and", "decreased", "prediction", "variance", "for", "smaller", "data", "sets", ".", "This", "research", "was", "partially", "supported", "by", "NSF", "grants", "DMS", "0233710", ",", "9873275", ",", "and", "9733013", ".", "The", "authors", "would", "like", "to", "thank", "two", "anonymous", "referees", "for", "their", "helpful", "suggestions", ".", "150", "Lossless", "Online", "Bayesian", "Bagging", "L.", "Breiman", ".", "Heuristics", "of", "instability", "in", "model", "selection", ".", "Technical", "report", ",", "University", "of", "California", "at", "Berkeley", ",", "1994", ".", "L.", "Breiman", ".", "Bagging", "predictors", ".", "Machine", "Learning", ",", "26", "-LRB-", "2", "-RRB-", ":", "123", "140", ",", "1996", ".", "M.", "A.", "Clyde", "and", "H.", "K.", "H.", "Lee", ".", "Bagging", "and", "the", "Bayesian", "bootstrap", ".", "In", "T.", "Richardson", "and", "T.", "Jaakkola", ",", "editors", ",", "Artificial", "Intelligence", "and", "Statistics", "2001", ",", "pages", "169", "174", ",", "2001", ".", "R.", "V.", "Hogg", "and", "A.", "T.", "Craig", ".", "Introduction", "to", "Mathematical", "Statistics", ".", "Prentice-Hall", ",", "Upper", "Saddle", "River", ",", "NJ", ",", "5th", "edition", ",", "1995", ".", "H.", "K.", "H.", "Lee", ".", "Model", "selection", "for", "neural", "network", "classification", ".", "Journal", "of", "Classification", ",", "18:227", "243", ",", "2001", ".", "N.", "C.", "Oza", "and", "S.", "Russell", ".", "Online", "bagging", "and", "boosting", ".", "In", "T.", "Richardson", "and", "T.", "Jaakkola", ",", "editors", ",", "Artificial", "Intelligence", "and", "Statistics", "2001", ",", "pages", "105", "112", ",", "2001", ".", "D.", "B.", "Rubin", ".", "The", "Bayesian", "bootstrap", ".", "Annals", "of", "Statistics", ",", "9:130", "134", ",", "1981", ".", "P.", "E.", "Utgoff", ",", "N.", "C.", "Berkman", ",", "and", "J.", "A.", "Clouse", ".", "Decision", "tree", "induction", "based", "on", "efficient", "tree", "restructuring", ".", "Machine", "Learning", ",", "29:5", "44", ",", "1997", ".", "151"], "doc_bio_tags": ["O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["lossless learning algorithm", "bayesian bootstrap", "bagging", "classification", "dirichlet distribution", "bootstrap"], "abstractive_keyphrases": ["mean-squared prediction error", "classification tree", "online bagging", "bayesian bagging"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "12", "document": ["A", "Geometric", "Constraint", "Library", "for", "3D", "Graphical", "Applications", "Recent", "computer", "technologies", "have", "enabled", "fast", "high-quality", "3D", "graphics", "on", "personal", "computers", ",", "and", "also", "have", "made", "the", "development", "of", "3D", "graphical", "applications", "easier", ".", "However", ",", "most", "of", "such", "technologies", "do", "not", "sufficiently", "support", "layout", "and", "behavior", "aspects", "of", "3D", "graphics", ".", "Geometric", "constraints", "are", ",", "in", "general", ",", "a", "powerful", "tool", "for", "specifying", "layouts", "and", "behaviors", "of", "graphical", "objects", ",", "and", "have", "been", "applied", "to", "2D", "graphical", "user", "interfaces", "and", "specialized", "3D", "graphics", "packages", ".", "In", "this", "paper", ",", "we", "present", "Chorus3D", ",", "a", "geometric", "constraint", "library", "for", "3D", "graphical", "applications", ".", "It", "enables", "programmers", "to", "use", "geometric", "constraints", "for", "various", "purposes", "such", "as", "geometric", "layout", ",", "constrained", "dragging", ",", "and", "inverse", "kinematics", ".", "Its", "novel", "feature", "is", "to", "handle", "scene", "graphs", "by", "processing", "coordinate", "transformations", "in", "geometric", "constraint", "satisfaction", ".", "We", "demonstrate", "the", "usefulness", "of", "Chorus3D", "by", "presenting", "sample", "constraint-based", "3D", "graphical", "applications", ".", "Recent", "advances", "in", "commodity", "hardware", "have", "enabled", "fast", "high-quality", "3D", "graphics", "on", "personal", "computers", ".", "Also", ",", "software", "technologies", "such", "as", "VRML", "and", "Java", "3D", "have", "made", "the", "development", "of", "3D", "graphical", "applications", "easier", ".", "However", ",", "most", "of", "such", "technologies", "mainly", "focus", "on", "rendering", "aspects", "of", "3D", "graphics", ",", "and", "do", "not", "sufficiently", "support", "layout", "and", "behavior", "aspects", ".", "Constraints", "are", ",", "in", "general", ",", "a", "powerful", "tool", "for", "specifying", "layouts", "and", "behaviors", "of", "graphical", "objects", ".", "It", "is", "widely", "recognized", "that", "constraints", "facilitate", "describing", "geometric", "layouts", "and", "behaviors", "of", "diagrams", "in", "2D", "graphical", "user", "interfaces", "such", "as", "drawing", "editors", ",", "and", "therefore", "constraint", "solvers", "for", "this", "purpose", "have", "been", "extensively", "studied", "-LSB-", "3", ",", "7", ",", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "distribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "fee", ".", "Int", ".", "Symp", ".", "on", "Smart", "Graphics", ",", "June", "11-13", ",", "2002", ",", "Hawthorne", ",", "NY", ",", "USA", ".", "Copyright", "2002", "ACM", "1-58113-555-6", "/", "02/0600", "...", "$", "5.00", "8", ",", "9", ",", "11", ",", "12", ",", "13", ",", "17", ",", "18", "-RSB-", ".", "Also", ",", "many", "specialized", "3D", "graphics", "packages", "enable", "the", "specification", "of", "object", "layouts", "and", "behaviors", "by", "using", "constraints", "or", "similar", "functions", ".", "It", "is", "natural", "to", "consider", "that", "various", "3D", "graphical", "applications", "can", "also", "be", "enhanced", "by", "incorporating", "constraints", ".", "It", "might", "seem", "sufficient", "for", "this", "purpose", "to", "modify", "existing", "2D", "geometric", "constraint", "solvers", "to", "support", "3D", "geometry", ".", "It", "is", ",", "however", ",", "insufficient", "in", "reality", "because", "of", "the", "essential", "difference", "between", "the", "ways", "of", "specifying", "2D", "and", "3D", "graphics", ";", "typical", "2D", "graphics", "handles", "only", "simple", "coordinate", "systems", ",", "whereas", "most", "3D", "graphics", "requires", "multiple", "coordinate", "systems", "with", "complex", "relations", "such", "as", "rotations", "to", "treat", "scene", "graphs", ".", "It", "means", "that", "we", "need", "to", "additionally", "support", "coordinate", "transformations", "in", "3D", "geometric", "constraint", "solvers", ".", "In", "this", "paper", ",", "we", "present", "Chorus3D", ",", "a", "geometric", "constraint", "library", "for", "3D", "graphical", "applications", ".", "The", "novel", "feature", "of", "Chorus3D", "is", "to", "handle", "scene", "graphs", "by", "processing", "coordinate", "transformations", "in", "geometric", "constraint", "satisfaction", ".", "We", "have", "realized", "Chorus3D", "by", "adding", "this", "feature", "to", "our", "previous", "2D", "geometric", "constraint", "library", "Chorus", "-LSB-", "13", "-RSB-", ".", "Another", "important", "point", "of", "Chorus3D", "is", "that", "it", "inherits", "from", "Chorus", "the", "capability", "to", "handle", "``", "soft", "''", "constraints", "with", "hierarchical", "strengths", "or", "preferences", "-LRB-", "i.e.", ",", "constraint", "hierarchies", "-LSB-", "7", "-RSB-", "-RRB-", ",", "which", "are", "useful", "for", "specifying", "default", "layouts", "and", "behaviors", "of", "graphical", "objects", ".", "It", "determines", "solutions", "so", "that", "they", "satisfy", "as", "many", "strong", "constraints", "as", "possible", ",", "leaving", "weaker", "inconsistent", "constraints", "unsatisfied", ".", "Chorus3D", "also", "inherits", "from", "Chorus", "a", "module", "mechanism", "which", "allows", "user-defined", "kinds", "of", "geometric", "constraints", ".", "This", "feature", "enables", "programmers", "to", "use", "geometric", "constraints", "for", "various", "purposes", "including", "the", "following", ":", "Geometric", "layout", ":", "A", "typical", "use", "of", "Chorus3D", "is", "to", "lay", "out", "graphical", "objects", ".", "For", "example", ",", "it", "allows", "putting", "objects", "parallel", "or", "perpendicular", "to", "others", "without", "requiring", "predetermined", "positioning", "parameters", ".", "Also", ",", "it", "provides", "constraint-based", "general", "graph", "layout", "based", "on", "the", "spring", "model", "-LSB-", "14", "-RSB-", ".", "Constrained", "dragging", ":", "Chorus3D", "enables", "dragging", "objects", "with", "positioning", "constraints", ".", "For", "example", ",", "it", "can", "constrain", "a", "dragged", "object", "to", "be", "on", "the", "surface", "of", "a", "sphere", ".", "Constrained", "dragging", "is", "important", "for", "3D", "graphics", "because", "it", "provides", "a", "sophisticated", "way", "to", "ac-94", "commodate", "ordinary", "mouse", "dragging", "to", "3D", "spaces", ".", "Inverse", "kinematics", ":", "Chorus3D", "is", "applicable", "to", "inverse", "kinematics", ",", "which", "is", "a", "problem", "of", "finding", "desired", "configurations", "of", "``", "articulated", "''", "objects", "-LSB-", "1", ",", "20", "-RSB-", ".", "It", "allows", "the", "specification", "of", "articulated", "objects", "by", "using", "coordinate", "transformations", ",", "and", "can", "automatically", "calculate", "the", "parameters", "of", "the", "transformations", "that", "satisfy", "constraints", ".", "This", "method", "is", "also", "applicable", "to", "camera", "control", "by", "aiming", "at", "a", "possibly", "moving", "target", "object", ".", "In", "this", "paper", ",", "we", "demonstrate", "the", "usefulness", "of", "Chorus3D", "by", "presenting", "sample", "constraint-based", "3D", "graphical", "applications", ".", "This", "paper", "is", "organized", "as", "follows", ":", "We", "first", "present", "our", "approach", "to", "the", "use", "of", "constraints", "for", "3D", "graphics", ".", "Second", ",", "we", "describe", "our", "basic", "framework", "of", "constraints", ".", "Next", ",", "we", "present", "a", "method", "for", "processing", "coordinate", "transformations", "in", "our", "framework", ".", "We", "then", "provide", "the", "implementation", "of", "Chorus3D", ",", "and", "demonstrate", "examples", "of", "using", "constraints", "in", "3D", "graphics", ".", "After", "giving", "related", "work", "and", "discussion", ",", "we", "mention", "the", "conclusions", "and", "future", "work", "of", "this", "research", ".", "In", "this", "research", ",", "we", "integrate", "geometric", "constraints", "with", "3D", "graphics", ".", "Basically", ",", "we", "realize", "this", "by", "extending", "our", "previous", "2D", "geometric", "constraint", "solver", "Chorus", "-LSB-", "13", "-RSB-", "to", "support", "3D", "geometry", ".", "However", ",", "as", "already", "mentioned", ",", "it", "is", "not", "a", "straightforward", "task", "because", "3D", "graphics", "typically", "requires", "handling", "scene", "graphs", "with", "hierarchical", "structures", "of", "coordinate", "systems", ",", "which", "is", "not", "covered", "by", "the", "2D", "version", "of", "the", "Chorus", "constraint", "solver", ".", "To", "support", "hierarchies", "of", "coordinate", "systems", ",", "we", "introduce", "the", "following", "new", "model", "of", "constraints", ":", "Point", "variables", ":", "Each", "point", "variable", "-LRB-", "which", "consists", "of", "three", "real-valued", "constrainable", "variables", "-RRB-", "is", "associated", "with", "one", "coordinate", "system", ",", "and", "its", "value", "is", "expressed", "as", "local", "coordinates", ".", "Geometric", "constraints", ":", "Geometric", "constraints", "on", "point", "variables", "are", "evaluated", "by", "using", "the", "world", "coordinates", "of", "the", "point", "variables", "-LRB-", "they", "can", "also", "refer", "to", "1D", "variables", "for", ",", "e.g.", ",", "distances", "and", "angles", "by", "using", "their", "values", "directly", "-RRB-", ".", "A", "single", "constraint", "can", "refer", "to", "point", "variables", "belonging", "to", "different", "coordinate", "systems", ".", "Coordinate", "transformations", ":", "Parameters", "of", "coordinate", "transformations", "are", "provided", "as", "constrainable", "variables", ",", "and", "the", "solver", "is", "allowed", "to", "change", "the", "parameters", "of", "transformations", "to", "appropriately", "satisfy", "given", "constraints", ".", "With", "this", "model", ",", "we", "can", "gain", "the", "benefit", "of", "the", "easy", "maintenance", "of", "geometric", "relations", "by", "using", "constraints", ",", "as", "well", "as", "the", "convenience", "of", "modeling", "geometric", "objects", "by", "employing", "scene", "graphs", ".", "In", "our", "actual", "implementation", ",", "we", "provide", "the", "following", "three", "elemental", "kinds", "of", "coordinate", "transformations", ":", "Translation", ":", "A", "translation", "transformation", "is", "characterized", "with", "three", "variables", "t", "x", ",", "t", "y", ",", "and", "t", "z", ",", "and", "specifies", "the", "translation", "of", "vector", "-LRB-", "t", "x", ",", "t", "y", ",", "t", "z", "-RRB-", ".", "Rotation", ":", "A", "rotation", "transformation", "is", "parameterized", "with", "four", "variables", "r", "x", ",", "r", "y", ",", "r", "z", ",", "and", "r", "w", ",", "and", "specifies", "the", "rotation", "of", "angle", "r", "w", "about", "the", "axis", "-LRB-", "r", "x", ",", "r", "y", ",", "r", "z", "-RRB-", ".", "Scale", ":", "A", "scale", "transformation", "is", "represented", "with", "three", "variables", "s", "x", ",", "s", "y", ",", "and", "s", "z", ",", "and", "specifies", "the", "axis-wise", "scale", "-LRB-", "s", "x", ",", "s", "y", ",", "s", "z", "-RRB-", "about", "the", "origin", ".", "We", "can", "express", "many", "practically", "useful", "transformations", "by", "using", "such", "elemental", "ones", ".", "In", "fact", ",", "any", "transformations", "represented", "with", "Transform", "nodes", "in", "VRML", "can", "be", "realized", "by", "combining", "these", "kinds", "of", "transformations", "-LSB-", "4", "-RSB-", ".", "In", "this", "section", ",", "we", "briefly", "describe", "our", "framework", "for", "handling", "constraints", ".", "We", "base", "it", "on", "the", "framework", "for", "the", "2D", "version", "of", "the", "Chorus", "constraint", "solver", ".", "See", "-LSB-", "13", "-RSB-", "for", "further", "detail", ".", "3.1", "Problem", "Formulation", "We", "first", "present", "the", "mathematical", "formulation", "for", "modeling", "constraints", "and", "constraint", "systems", ".", "In", "the", "following", ",", "we", "write", "x", "to", "represent", "a", "variable", "vector", "-LRB-", "x", "1", ",", "x", "2", ",", "...", ",", "x", "n", "-RRB-", "of", "n", "variables", ",", "and", "also", "v", "to", "indicate", "a", "variable", "value", "vector", "-LRB-", "v", "1", ",", "v", "2", ",", "...", ",", "v", "n", "-RRB-", "of", "n", "real", "numbers", "-LRB-", "v", "i", "expresses", "the", "value", "of", "x", "i", "-RRB-", ".", "To", "support", "various", "geometric", "constraints", "in", "a", "uniform", "manner", ",", "we", "adopt", "error", "functions", "as", "a", "means", "of", "expressing", "constraints", ".", "An", "error", "function", "e", "-LRB-", "x", "-RRB-", "is", "typically", "associated", "with", "a", "single", "arithmetic", "constraint", ",", "and", "is", "defined", "as", "a", "function", "from", "variable", "value", "vectors", "to", "errors", "expressed", "as", "non-negative", "real", "numbers", ";", "that", "is", ",", "e", "-LRB-", "v", "-RRB-", "gives", "the", "error", "of", "the", "associated", "constraint", "for", "v", ".", "An", "error", "function", "returns", "a", "zero", "if", "and", "only", "if", "the", "constraint", "is", "exactly", "satisfied", ".", "For", "example", ",", "e", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x", "i", "-", "x", "j", "-RRB-", "2", "can", "be", "used", "for", "the", "constraint", "x", "i", "=", "x", "j", ".", "We", "assume", "that", ",", "for", "each", "e", "-LRB-", "x", "-RRB-", ",", "its", "gradient", "is", "known", ":", "e", "-LRB-", "x", "-RRB-", "=", "e", "-LRB-", "x", "-RRB-", "x", "1", ",", "e", "-LRB-", "x", "-RRB-", "x", "2", ",", "...", ",", "e", "-LRB-", "x", "-RRB-", "x", "n", ".", "In", "the", "same", "way", "as", "constraint", "hierarchies", "-LSB-", "7", "-RSB-", ",", "constraint", "systems", "in", "our", "framework", "can", "be", "divided", "into", "levels", "consisting", "of", "constraints", "with", "equal", "strengths", ".", "Constraints", "with", "the", "strongest", "preference", "are", "said", "to", "be", "required", "-LRB-", "or", "hard", "-RRB-", ",", "and", "are", "guaranteed", "to", "be", "always", "satisfied", "-LRB-", "if", "it", "is", "impossible", ",", "there", "will", "be", "no", "solution", "-RRB-", ".", "By", "contrast", ",", "constraints", "with", "weaker", "preferences", "are", "said", "to", "be", "preferential", "-LRB-", "or", "soft", "-RRB-", ",", "and", "may", "be", "relaxed", "if", "they", "conflict", "with", "stronger", "constraints", ".", "Solutions", "to", "constraint", "systems", "are", "defined", "as", "follows", ":", "let", "e", "i", ",", "j", "-LRB-", "x", "-RRB-", "be", "the", "error", "function", "of", "the", "j-th", "constraint", "-LRB-", "1", "j", "m", "i", "-RRB-", "at", "strength", "level", "i", "-LRB-", "0", "i", "l", "-RRB-", ";", "then", "solutions", "v", "are", "determined", "with", "the", "optimization", "problem", "minimize", "v", "E", "-LRB-", "v", "-RRB-", "subject", "to", "e", "0", ",", "j", "-LRB-", "v", "-RRB-", "=", "0", "-LRB-", "1", "j", "m", "0", "-RRB-", "95", "where", "E", "is", "an", "objective", "function", "defined", "as", "E", "-LRB-", "x", "-RRB-", "=", "l", "i", "=", "1", "m", "i", "j", "=", "1", "w", "i", "e", "i", ",", "j", "-LRB-", "x", "-RRB-", "in", "which", "w", "i", "indicates", "the", "weight", "associated", "with", "strength", "i", ",", "and", "the", "relation", "w", "1", "w", "2", "w", "l", "holds", ".", "In", "this", "formulation", ",", "level", "0", "corresponds", "to", "required", "constraints", ",", "and", "the", "others", "to", "preferential", "ones", ".", "Intuitively", ",", "more", "weighted", "-LRB-", "or", "stronger", "-RRB-", "preferential", "constraints", "should", "be", "more", "satisfied", ".", "Our", "framework", "simulates", "constraint", "hierarchies", ".", "Particularly", ",", "if", "the", "squares", "of", "constraint", "violations", "are", "used", "to", "compute", "error", "functions", ",", "a", "system", "in", "our", "framework", "will", "obtain", "approximate", "solutions", "to", "the", "similar", "hierarchy", "solved", "with", "the", "criterion", "least-squares-better", "-LSB-", "3", ",", "17", "-RSB-", ".", "The", "largest", "difference", "is", "that", "a", "system", "in", "our", "framework", "slightly", "considers", "a", "weak", "constraint", "inconsistent", "with", "a", "stronger", "satisfiable", "one", "in", "computing", "its", "solutions", ",", "while", "the", "similar", "hierarchy", "would", "discard", "such", "a", "weak", "one", ".", "Our", "actual", "implementation", "of", "the", "Chorus3D", "constraint", "solver", "provides", "four", "external", "strengths", "required", ",", "strong", ",", "medium", ",", "and", "weak", "as", "well", "as", "two", "internal", "strengths", "very", "strong", "-LRB-", "used", "to", "approximately", "handle", "required", "nonlinear", "or", "inequality", "constraints", "-RRB-", "and", "very", "weak", "-LRB-", "exploited", "to", "make", "new", "solutions", "as", "close", "to", "previous", "ones", "as", "possible", "-RRB-", ".", "It", "typically", "assigns", "weights", "32", "4", ",", "32", "3", ",", "32", "2", ",", "32", "1", ",", "and", "1", "to", "strengths", "very", "strong", ",", "strong", ",", "medium", ",", "weak", ",", "and", "very", "weak", "respectively", ".", "These", "weights", "were", "determined", "according", "to", "the", "precision", "of", "the", "actual", "numerical", "algorithm", "-LRB-", "described", "in", "the", "next", "subsection", "-RRB-", ".", "To", "know", "how", "much", "these", "weights", "affect", "solutions", ",", "suppose", "a", "system", "of", "strong", "constraint", "x", "=", "0", "and", "medium", "one", "x", "=", "100", ".", "Then", "the", "unique", "solution", "will", "be", "obtained", "as", "x", "=", "3.0303", "-LRB-", "=", "100/33", "-RRB-", ".", "Thus", "the", "difference", "of", "strengths", "is", "obvious", ".", "According", "to", "our", "actual", "experience", ",", "this", "precision", "allows", "us", "to", "discriminate", "constraint", "strengths", "in", "most", "graphical", "applications", ".", "3.2", "Algorithm", "To", "actually", "find", "solutions", "to", "constraint", "systems", "presented", "above", ",", "we", "need", "to", "solve", "their", "corresponding", "optimization", "problems", ".", "For", "this", "purpose", ",", "we", "designed", "a", "constraint", "satisfaction", "algorithm", "by", "combining", "a", "numerical", "optimization", "technique", "with", "a", "genetic", "algorithm", ".", "It", "uses", "numerical", "optimization", "to", "find", "local", "solutions", ",", "while", "it", "adopts", "a", "genetic", "algorithm", "to", "search", "for", "global", "solutions", ".", "For", "numerical", "optimization", ",", "we", "mainly", "use", "the", "quasi-Newton", "method", "based", "on", "Broyden-Fletcher-Goldfarb-Sahnno", "updating", "formula", "-LSB-", "2", ",", "6", "-RSB-", ",", "which", "is", "a", "fast", "iterative", "technique", "that", "exhibits", "superlinear", "convergence", ".", "Since", "it", "excludes", "fruitless", "searches", "by", "utilizing", "its", "history", ",", "it", "is", "usually", "faster", "than", "straightforward", "Newton", "'s", "method", ".", "We", "introduced", "a", "genetic", "algorithm", "to", "alleviate", "the", "problem", "that", "some", "kinds", "of", "geometric", "constraints", "suffer", "from", "local", "optimal", "but", "global", "non-optimal", "solutions", "-LSB-", "11", ",", "16", "-RSB-", ".", "Generally", ",", "a", "genetic", "algorithm", "is", "a", "stochastic", "search", "method", "that", "repeatedly", "transforms", "a", "population", "of", "potential", "solutions", "into", "another", "next-generation", "population", "-LSB-", "10", ",", "15", "-RSB-", ".", "We", "typically", "necessitate", "it", "only", "for", "computing", "initial", "solutions", ";", "in", "other", "words", ",", "we", "can", "usually", "re-solve", "modified", "constraint", "systems", "without", "the", "genetic", "algorithm", ",", "only", "by", "applying", "numerical", "optimization", "to", "previous", "solutions", ".", "In", "this", "section", ",", "we", "propose", "a", "method", "for", "integrating", "coordinate", "transformations", "with", "our", "constraint", "framework", ".", "As", "already", "mentioned", ",", "we", "use", "world", "coordinates", "of", "points", "to", "evaluate", "3D", "geometric", "constraints", ".", "A", "naive", "method", "for", "this", "is", "to", "duplicate", "point", "variables", "in", "all", "ancestor", "coordinate", "systems", ",", "and", "then", "to", "impose", "required", "constraints", "that", "represent", "coordinate", "transformations", "between", "the", "point", "variables", ".", "However", ",", "this", "method", "requires", "an", "optimization", "routine", "supporting", "required", "nonlinear", "constraints", ",", "which", "limits", "the", "availability", "of", "actual", "techniques", "-LRB-", "in", "fact", ",", "we", "can", "not", "use", "the", "quasi-Newton", "method", "for", "this", "purpose", "-RRB-", ".", "Also", ",", "this", "method", "tends", "to", "yield", "many", "variables", "and", "constraints", ",", "and", "therefore", "requires", "an", "extra", "amount", "of", "memory", ".", "Below", "we", "propose", "a", "more", "widely", "applicable", "method", "for", "handling", "coordinate", "transformations", ".", "Its", "characteristic", "is", "to", "hide", "transformations", "from", "optimization", "routines", ",", "which", "is", "realized", "by", "embedding", "transformations", "in", "error", "functions", ".", "4.1", "Model", "To", "begin", "with", ",", "we", "introduce", "another", "variable", "vector", "x", "=", "-LRB-", "x", "1", ",", "x", "2", ",", "...", ",", "x", "n", "-RRB-", ",", "which", "is", "created", "by", "replacing", "variables", "for", "local", "coordinates", "of", "3D", "points", "in", "x", "with", "the", "corresponding", "ones", "for", "world", "coordinates", "-LRB-", "1D", "variables", "remain", "the", "same", "-RRB-", ".", "We", "can", "mathematically", "model", "this", "process", "as", "follows", ":", "Consider", "the", "sequence", "of", "the", "s", "transformations", "y", "0", "-LRB-", "=", "x", "-RRB-", "t", "0", "-", "y", "1", "t", "1", "-", "t", "s-2", "-", "y", "s-1", "t", "s-1", "-", "y", "s", "-LRB-", "=", "x", "-RRB-", "where", "y", "0", "and", "y", "s", "are", "equal", "to", "x", "and", "x", "respectively", ",", "each", "y", "k", "-LRB-", "1", "k", "s", "-", "1", "-RRB-", "is", "an", "``", "intermediate", "''", "vector", ",", "and", "each", "t", "k", "-LRB-", "0", "k", "s", "-", "1", "-RRB-", "is", "a", "function", "that", "transforms", "y", "k", "into", "y", "k", "+1", ".", "Intuitively", ",", "t", "k", "corresponds", "to", "a", "coordinate", "transformation", ",", "and", "transforms", "related", "point", "variables", "from", "its", "source", "coordinate", "system", "into", "its", "destination", "system", ".", "It", "should", "be", "noted", "that", ",", "although", "transformations", "are", ",", "in", "general", ",", "hierarchical", "-LRB-", "or", "tree-structured", "-RRB-", ",", "we", "can", "always", "find", "such", "a", "linear", "sequence", "by", "``", "serializing", "''", "them", "in", "an", "appropriate", "order", ".", "By", "using", "such", "transformations", ",", "we", "can", "compute", "x", "as", "follows", ":", "x", "=", "t", "s-1", "-LRB-", "t", "s-2", "-LRB-", "-LRB-", "t", "1", "-LRB-", "t", "0", "-LRB-", "x", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "t", "-LRB-", "x", "-RRB-", "where", "t", "is", "defined", "as", "the", "composition", "of", "all", "the", "elemental", "transformations", ".", "In", "the", "following", "description", ",", "we", "write", "y", "k", ",", "i", "to", "denote", "the", "i-th", "element", "of", "y", "k", ",", "and", "also", "t", "k", ",", "i", "to", "represent", "the", "i-th", "element", "of", "t", "k", ";", "that", "is", ",", "y", "k", "+1", "=", "-LRB-", "y", "k", "+1,1", ",", "y", "k", "+1,2", ",", "...", ",", "y", "k", "+1", ",", "n", "-RRB-", "=", "-LRB-", "t", "k", ",1", "-LRB-", "y", "k", "-RRB-", ",", "t", "k", ",2", "-LRB-", "y", "k", "-RRB-", ",", "...", ",", "t", "k", ",", "n", "-LRB-", "y", "k", "-RRB-", "-RRB-", "=", "t", "k", "-LRB-", "y", "k", "-RRB-", ".", "4.2", "Method", "Geometric", "constraints", "are", "evaluated", "by", "using", "world", "coordinates", "of", "points", ",", "which", "means", "that", "their", "error", "functions", "are", "96", "defined", "as", "e", "-LRB-", "x", "-RRB-", ".", "Using", "the", "composed", "transformations", ",", "we", "can", "evaluate", "them", "as", "e", "-LRB-", "x", "-RRB-", "=", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", ".", "Importantly", ",", "we", "can", "efficiently", "realize", "this", "computation", "by", "applying", "only", "necessary", "transformations", "to", "actually", "used", "variables", ".", "We", "also", "need", "to", "compute", "the", "gradient", "of", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", ",", "i.e.", ",", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "=", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "x", "1", ",", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "x", "2", ",", "...", ",", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "x", "n", ".", "Basically", ",", "we", "can", "decompose", "each", "partial", "derivative", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "/", "x", "i", "into", "primitive", "expressions", "by", "repeatedly", "using", "the", "chain", "rule", ".", "However", ",", "we", "should", "avoid", "the", "simple", "application", "of", "the", "chain", "rule", "since", "it", "would", "result", "in", "a", "large", "number", "of", "expressions", ".", "Instead", ",", "we", "perform", "a", "controlled", "way", "of", "decomposing", "such", "partial", "derivatives", ";", "it", "appropriately", "arranges", "the", "chain", "rule", "to", "restrict", "the", "computation", "to", "only", "necessary", "components", ".", "First", ",", "we", "decompose", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "/", "x", "i", "as", "follows", ":", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "x", "i", "=", "j", "e", "-LRB-", "x", "-RRB-", "x", "j", "t", "s-1", ",", "j", "-LRB-", "y", "s-1", "-RRB-", "x", "i", "=", "j", "e", "-LRB-", "x", "-RRB-", "x", "j", "j", "s-1", "t", "s-1", ",", "j", "-LRB-", "y", "s-1", "-RRB-", "y", "s-1", ",", "j", "s-1", "t", "s-2", ",", "j", "s-1", "-LRB-", "y", "s-2", "-RRB-", "x", "i", "=", "j", "s-1", "j", "e", "-LRB-", "x", "-RRB-", "x", "j", "t", "s-1", ",", "j", "-LRB-", "y", "s-1", "-RRB-", "y", "s-1", ",", "j", "s-1", "t", "s-2", ",", "j", "s-1", "-LRB-", "y", "s-2", "-RRB-", "x", "i", "=", "j", "s-1", "e", "-LRB-", "x", "-RRB-", "y", "s-1", ",", "j", "s-1", "t", "s-2", ",", "j", "s-1", "-LRB-", "y", "s-2", "-RRB-", "x", "i", ".", "Note", "that", "each", "e", "-LRB-", "x", "-RRB-", "/", "x", "j", "is", "given", "by", "the", "definition", "of", "the", "geometric", "constraint", ",", "and", "also", "that", "each", "t", "s-1", ",", "j", "-LRB-", "y", "s-1", "-RRB-", "/", "y", "s-1", ",", "j", "s-1", "is", "a", "partial", "derivative", "in", "the", "gradient", "of", "a", "single", "coordinate", "transformation", "t", "s-1", ".", "Thus", "we", "can", "obtain", "each", "e", "-LRB-", "x", "-RRB-", "/", "y", "s-1", ",", "j", "s-1", ".", "Also", ",", "by", "repeating", "this", "process", ",", "we", "can", "compute", ",", "for", "each", "k", ",", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "x", "i", "=", "j", "k", "e", "-LRB-", "x", "-RRB-", "y", "k", ",", "j", "k", "t", "k-1", ",", "j", "k", "-LRB-", "y", "k-1", "-RRB-", "x", "i", "and", "finally", "achieve", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "x", "i", "=", "j", "1", "e", "-LRB-", "x", "-RRB-", "y", "1", ",", "j", "1", "t", "0", ",", "j", "1", "-LRB-", "x", "-RRB-", "x", "i", "where", "each", "t", "0", ",", "j", "1", "-LRB-", "x", "-RRB-", "/", "x", "i", "is", "a", "component", "of", "the", "gradient", "of", "t", "0", ".", "Therefore", ",", "e", "-LRB-", "t", "-LRB-", "x", "-RRB-", "-RRB-", "/", "x", "i", "is", "now", "determined", ".", "Furthermore", ",", "we", "can", "considerably", "reduce", "the", "number", "of", "the", "computations", "of", "e", "-LRB-", "x", "-RRB-", "/", "y", "k", ",", "j", "k", "in", "practice", ".", "We", "can", "make", "the", "following", "observations", "about", "the", "above", "computation", ":", "For", "each", "variable", "x", "j", ",", "e", "-LRB-", "x", "-RRB-", "/", "x", "j", "can", "be", "non-zero", "only", "if", "x", "j", "is", "actually", "needed", "to", "evaluate", "the", "designated", "constraint", ".", "If", "x", "i", "is", "originated", "in", "the", "coordinate", "system", "associated", "with", "t", "k", "-LRB-", "that", "is", ",", "x", "i", "is", "either", "a", "local", "coordinate", "or", "a", "parameter", "of", "the", "coordinate", "transformation", "-RRB-", ",", "we", "have", "y", "k", ",", "i", "=", "x", "i", ",", "which", "means", "that", "we", "have", "t", "k", ",", "j", "-LRB-", "y", "k", "-RRB-", "/", "x", "i", ".", "Therefore", ",", "we", "can", "compute", "e", "-LRB-", "x", "-RRB-", "/", "x", "i", "immediately", ".", "These", "observations", "reveal", "that", "we", "need", "to", "transfer", "a", "partial", "derivative", "e", "-LRB-", "x", "-RRB-", "/", "y", "k", ",", "j", "to", "the", "next", "step", "only", "when", "x", "j", "represents", "a", "really", "necessary", "coordinate", "that", "has", "not", "reached", "its", "local", "coordinate", "system", ".", "Also", ",", "since", "we", "can", "handle", "each", "necessary", "point", "independently", ",", "we", "can", "implement", "this", "process", "with", "a", "linear", "recursive", "function", "that", "hands", "over", "only", "three", "derivatives", "e", "-LRB-", "x", "-RRB-", "/", "y", "k", ",", "j", "at", "each", "recursive", "call", ".", "We", "implemented", "the", "proposed", "method", "by", "developing", "a", "constraint", "solver", "called", "Chorus3D", ",", "which", "is", "a", "3D", "extension", "to", "our", "previous", "2D", "geometric", "constraint", "solver", "Chorus", "-LSB-", "13", "-RSB-", ".", "We", "constructed", "Chorus3D", "as", "a", "C++", "class", "library", ",", "and", "also", "developed", "a", "native", "method", "interface", "to", "make", "it", "available", "to", "Java", "programs", ".", "Chorus3D", "allows", "programmers", "to", "add", "a", "new", "kind", "of", "arithmetic", "constraints", "-LRB-", "e.g.", ",", "Euclidean", "geometric", "constraints", "-RRB-", "by", "constructing", "a", "new", "constraint", "class", "with", "a", "method", "that", "evaluates", "their", "error", "functions", ".", "Also", ",", "programmers", "can", "introduce", "a", "new", "kind", "of", "non-arithmetic", "-LRB-", "or", "pseudo", "-RRB-", "constraints", "-LRB-", "for", ",", "e.g.", ",", "general", "graph", "layout", "-RRB-", "by", "developing", "a", "new", "evalua-tion", "module", "which", "computes", "an", "``", "aggregate", "''", "error", "function", "for", "a", "given", "set", "of", "constraints", ".", "Chorus3D", "currently", "provides", "linear", "equality", ",", "linear", "inequality", ",", "edit", "-LRB-", "update", "a", "variable", "value", "-RRB-", ",", "stay", "-LRB-", "fix", "a", "variable", "value", "-RRB-", ",", "Euclidean", "geometric", "constraints", "-LRB-", "for", ",", "e.g.", ",", "parallelism", ",", "per-pendicularity", ",", "and", "distance", "equality", "-RRB-", ",", "and", "graph", "layout", "constraints", "based", "on", "the", "spring", "model", "-LSB-", "14", "-RSB-", ".", "Linear", "equality", "/", "inequality", "constraints", "can", "refer", "to", "only", "1D", "variables", "-LRB-", "including", "elements", "of", "3D", "point", "variables", "-RRB-", ",", "while", "edit", "and", "stay", "constraints", "can", "be", "associated", "with", "1D", "and", "3D", "point", "variables", ".", "Euclidean", "geometric", "constraints", "typically", "refer", "to", "point", "variables", "although", "they", "sometimes", "require", "1D", "variables", "for", "angles", "and", "distances", ".", "Each", "graph", "layout", "constraint", "represents", "a", "graph", "edge", ",", "and", "refers", "to", "two", "point", "variables", "as", "its", "associated", "graph", "nodes", ".", "As", "stated", "earlier", ",", "constraints", "on", "such", "point", "variables", "are", "evaluated", "by", "using", "world", "coordinates", "of", "the", "points", ".", "Also", ",", "a", "single", "constraint", "can", "refer", "to", "point", "variables", "belonging", "to", "different", "coordinate", "systems", ".", "The", "application", "programming", "interface", "of", "Chorus3D", "is", "a", "natural", "extension", "to", "that", "of", "Chorus", ",", "which", "provides", "a", "certain", "compatibility", "with", "a", "recent", "linear", "solver", "called", "Cassowary", "-LSB-", "3", "-RSB-", ";", "in", "a", "similar", "way", "to", "Cassowary", "and", "Chorus", ",", "Chorus3D", "allows", "programmers", "to", "process", "constraint", "systems", "by", "creating", "variables", "and", "constraints", "as", "objects", ",", "and", "by", "adding", "/", "removing", "constraint", "objects", "to/from", "the", "solver", "object", ".", "In", "addition", ",", "Chorus3D", "handles", "coordinate", "transformations", "as", "objects", ",", "and", "presents", "an", "interface", "for", "arranging", "them", "hier-archically", "In", "this", "section", ",", "we", "present", "three", "examples", "to", "demonstrate", "how", "to", "incorporate", "geometric", "constraints", "into", "3D", "graphics", "by", "using", "the", "Chorus3D", "constraint", "solver", ".", "All", "the", "examples", "are", "implemented", "in", "Java", "by", "using", "Java", "3D", "as", "a", "graphics", "97", "Figure", "1", ":", "A", "3D", "geometric", "layout", "of", "a", "general", "graph", "structure", ".", "programming", "interface", "as", "well", "as", "the", "native", "method", "interface", "with", "Chorus3D", ".", "We", "also", "provide", "computation", "times", "taken", "for", "constraint", "satisfaction", "in", "these", "examples", ".", "6.1", "Graph", "Layout", "The", "first", "example", "is", "an", "application", "which", "lays", "out", "a", "set", "of", "points", "with", "a", "general", "graph", "structure", "in", "a", "3D", "space", "as", "shown", "in", "Figure", "1", ".", "This", "application", "also", "allows", "a", "user", "to", "drag", "graph", "nodes", "with", "a", "mouse", ".", "1", "The", "used", "graph", "layout", "technique", "is", "based", "on", "a", "3D", "extension", "to", "the", "spring", "model", "-LSB-", "14", "-RSB-", ".", "This", "kind", "of", "3D", "graph", "layout", "is", "practically", "useful", "to", "information", "visualization", ",", "and", "has", "actually", "been", "adopted", "in", "a", "certain", "system", "-LSB-", "19", "-RSB-", ".", "The", "constraint", "system", "of", "this", "graph", "layout", "consists", "of", "26", "point", "variables", "-LRB-", "i.e.", ",", "78", "real-valued", "variables", "-RRB-", ",", "31", "graph", "layout", "constraints", ",", "and", "three", "linear", "equality", "constraints", "for", "fixing", "one", "of", "the", "point", "variables", "at", "the", "origin", ".", "When", "executed", "on", "an", "866", "MHz", "Pentium", "III", "processor", "running", "Linux", "2.2.16", ",", "Chorus3D", "obtained", "an", "initial", "solution", "in", "456", "milliseconds", ".", "It", "performed", "constraint", "satisfaction", "typically", "within", "250", "milliseconds", "to", "reflect", "the", "user", "'s", "dragging", "a", "graph", "node", ".", "6.2", "Constrained", "Dragging", "The", "second", "example", "is", "an", "application", "which", "allows", "a", "user", "to", "drag", "an", "object", "constrained", "to", "be", "on", "another", "spherical", "object", ".", "Figure", "2", "depicts", "this", "application", ",", "where", "the", "smaller", "solid", "spherical", "object", "is", "constrained", "to", "be", "on", "the", "surface", "of", "the", "larger", "wireframe", "one", ".", "The", "application", "declares", "a", "strong", "Euclidean", "geometric", "constraint", "which", "specifies", "a", "constant", "distance", "between", "the", "centers", "of", "these", "objects", ".", "When", "the", "user", "tries", "to", "drag", "the", "smaller", "object", "with", "a", "mouse", ",", "the", "application", "imposes", "another", "medium", "Euclidean", "constraint", "which", "collinearly", "locates", "the", "viewpoint", ",", "the", "3D", "position", "of", "the", "mouse", "cursor", "-LRB-", "which", "is", "considered", "to", "be", "on", "the", "screen", "-RRB-", ",", "and", "1", "Unlike", "constrained", "dragging", "in", "the", "next", "example", ",", "this", "mouse", "operation", "is", "simply", "implemented", "with", "Java", "3D", "'s", "PickMouseBehavior", "classes", ".", "Figure", "2", ":", "Dragging", "an", "object", "constrained", "to", "be", "on", "a", "sphere", ".", "Viewpoint", "Mouse", "cursor", "which", "is", "on", "the", "screen", "Screen", "Object", "which", "is", "on", "the", "sphere", "surface", "Collinearity", "constraint", "Distance", "constraint", "Sphere", "Figure", "3", ":", "Implementation", "of", "constrained", "dragging", ".", "the", "center", "of", "the", "dragged", "object", "as", "shown", "in", "Figure", "3", ".", "This", "collinearity", "constraint", "reflects", "the", "motion", "of", "the", "mouse", "in", "the", "position", "of", "the", "dragged", "object", ".", "Since", "the", "collinearity", "constraint", "is", "weaker", "than", "the", "first", "Euclidean", "constraint", ",", "the", "user", "can", "not", "drag", "the", "smaller", "object", "to", "the", "outside", "of", "the", "larger", "sphere", ".", "The", "application", "initially", "declares", "one", "Euclidean", "geometric", "constraint", "on", "two", "point", "variables", ",", "and", "solved", "it", "in", "1", "millisecond", "on", "the", "same", "computer", "as", "the", "first", "example", ".", "When", "the", "user", "tries", "to", "drag", "the", "smaller", "object", ",", "it", "adds", "another", "Euclidean", "constraint", "as", "well", "as", "two", "edit", "constraints", "for", "the", "viewpoint", "and", "mouse", "position", ".", "The", "solver", "maintained", "this", "constraint", "system", "usually", "within", "2", "milliseconds", ".", "6.3", "Inverse", "Kinematics", "The", "final", "example", "applies", "inverse", "kinematics", "to", "a", "virtual", "robot", "arm", "by", "using", "constraints", ".", "Unlike", "the", "previous", "examples", ",", "it", "takes", "advantage", "of", "coordinate", "transformations", "to", "express", "its", "constraint", "system", ".", "98", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "d", "-RRB-", "-LRB-", "e", "-RRB-", "-LRB-", "f", "-RRB-", "Figure", "4", ":", "A", "robot", "arm", "application", "which", "performs", "inverse", "kinematics", ".", "As", "illustrated", "in", "Figure", "4", "-LRB-", "a", "-RRB-", ",", "the", "robot", "arm", "consists", "of", "four", "parts", "called", "a", "base", ",", "a", "shoulder", ",", "an", "upper", "arm", ",", "and", "a", "forearm", ".", "Constraint", "satisfaction", "for", "inverse", "kinematics", "is", "performed", "to", "position", "its", "hand", "-LRB-", "the", "end", "of", "the", "forearm", "-RRB-", "at", "the", "target", "object", "if", "possible", ",", "or", "otherwise", "to", "make", "it", "maximally", "close", "to", "the", "target", ".", "Figures", "4", "-LRB-", "b", "-RRB-", "-LRB-", "f", "-RRB-", "show", "the", "movement", "of", "the", "robot", "arm", ".", "In", "Figures", "4", "-LRB-", "b", "-RRB-", "-LRB-", "e", "-RRB-", ",", "its", "hand", "is", "positioned", "at", "the", "exact", "location", "of", "the", "target", "by", "using", "appropriate", "angles", "of", "its", "joints", ".", "By", "contrast", ",", "in", "Figure", "4", "-LRB-", "f", "-RRB-", ",", "the", "hand", "can", "not", "reach", "the", "target", ",", "and", "therefore", "the", "arm", "is", "extended", "toward", "the", "target", "instead", ".", "Figure", "5", "describes", "the", "constraint", "program", "used", "in", "the", "robot", "arm", "application", ".", "After", "constructing", "a", "constraint", "solver", "s", ",", "it", "creates", "six", "coordinate", "transformations", "shldrTTfm", ",", "shldrRTfm", ",", "uarmTTfm", ",", "uarmRTfm", ",", "farmTTfm", ",", "and", "farmRTfm", ".", "Here", "the", "rotation", "angle", "parameters", "of", "the", "rotation", "transformations", "shldrRTfm", ",", "uarmRTfm", ",", "and", "farmRTfm", "will", "actually", "work", "as", "variables", "that", "can", "be", "altered", "by", "the", "solver", ".", "Next", ",", "it", "generates", "a", "point", "variable", "handPos", "to", "represent", "the", "position", "of", "the", "hand", ",", "and", "then", "suggests", "the", "target", "position", "to", "the", "hand", "by", "using", "a", "preferential", "edit", "constraint", "editHandPos", ".", "Finally", ",", "executing", "the", "solver", ",", "it", "obtains", "the", "desired", "angles", "shldrAngle", ",", "uarmAngle", ",", "and", "farmAngle", "of", "the", "rotation", "transformations", ".", "These", "angles", "will", "be", "passed", "to", "the", "Java", "3D", "library", "to", "render", "the", "properly", "configured", "robot", "arm", ".", "This", "program", "generates", "a", "constraint", "system", "which", "contains", "three", "translation", "and", "three", "rotation", "transformations", ",", "one", "explicit", "point", "variable", "as", "well", "as", "six", "point", "variables", "and", "three", "1D", "variables", "for", "coordinate", "transformations", ",", "and", "one", "edit", "constraint", ".", "The", "solver", "found", "an", "initial", "solution", "to", "this", "system", "in", "18", "milliseconds", ",", "and", "obtained", "each", "new", "solution", "for", "a", "frame", "update", "typically", "within", "10", "milliseconds", ".", "There", "has", "been", "work", "on", "integrating", "constraints", "or", "similar", "functions", "with", "3D", "graphics", "languages", "to", "facilitate", "the", "specification", "of", "graphical", "objects", ".", "For", "example", ",", "we", "can", "view", "the", "event", "routing", "mechanism", "in", "VRML", "-LSB-", "4", "-RSB-", "as", "a", "limited", "form", "of", "one-way", "propagation", "constraints", ".", "Also", ",", "there", "is", "an", "attempt", "to", "extend", "VRML", "by", "introducing", "one-way", "propagation", "and", "finite-domain", "combinatorial", "constraints", "-LSB-", "5", "-RSB-", ".", "However", ",", "they", "can", "not", "handle", "more", "powerful", "simultaneous", "nonlinear", "constraints", "such", "as", "Euclidean", "geometric", "constraints", ".", "Although", "many", "constraint", "solvers", "have", "been", "developed", "in", "99", "/", "/", "constraint", "solver", "s", "=", "new", "C3Solver", "-LRB-", "-RRB-", ";", "/", "/", "translation", "transformation", "for", "the", "shoulder", ":", "fixed", "to", "-LRB-", "0", ",", ".1", ",", "0", "-RRB-", "shldrTTfm", "=", "new", "C3TranslateTransform", "-LRB-", "new", "C3Domain3D", "-LRB-", "0", ",", ".1", ",", "0", "-RRB-", "-RRB-", ";", "s.add", "-LRB-", "shldrTTfm", "-RRB-", ";", "/", "/", "shldrTTfm", "is", "parented", "by", "the", "world", "coordinate", "system", "/", "/", "rotation", "transformation", "for", "the", "shoulder", ":", "axis", "fixed", "to", "-LRB-", "0", ",", "1", ",", "0", "-RRB-", ";", "angle", "ranging", "over", "-LSB-", "-10000", ",", "10000", "-RSB-", "shldrRTfm", "=", "new", "C3RotateTransform", "-LRB-", "new", "C3Domain3D", "-LRB-", "0", ",", "1", ",", "0", "-RRB-", ",", "new", "C3Domain", "-LRB-", "-10000", ",", "10000", "-RRB-", "-RRB-", ";", "s.add", "-LRB-", "shldrRTfm", ",", "shldrTTfm", "-RRB-", ";", "/", "/", "shldrRTfm", "is", "parented", "by", "shldrTTfm", "/", "/", "translation", "transformation", "for", "the", "upper", "arm", ":", "fixed", "to", "-LRB-", "0", ",", ".1", ",", "0", "-RRB-", "uarmTTfm", "=", "new", "C3TranslateTransform", "-LRB-", "new", "C3Domain3D", "-LRB-", "0", ",", ".1", ",", "0", "-RRB-", "-RRB-", ";", "s.add", "-LRB-", "uarmTTfm", ",", "shldrRTfm", "-RRB-", ";", "/", "/", "uarmTTfm", "is", "parented", "by", "shldrRTfm", "/", "/", "rotation", "transformation", "for", "the", "upper", "arm", ":", "axis", "fixed", "to", "-LRB-", "0", ",", "0", ",", "1", "-RRB-", ";", "angle", "ranging", "over", "-LSB-", "-1.57", ",", "1.57", "-RSB-", "uarmRTfm", "=", "new", "C3RotateTransform", "-LRB-", "new", "C3Domain3D", "-LRB-", "0", ",", "0", ",", "1", "-RRB-", ",", "new", "C3Domain", "-LRB-", "-1.57", ",", "1.57", "-RRB-", "-RRB-", ";", "s.add", "-LRB-", "uarmRTfm", ",", "uarmTTfm", "-RRB-", ";", "/", "/", "uarmRTfm", "is", "parented", "by", "uarmTTfm", "/", "/", "translation", "transformation", "for", "the", "forearm", ":", "fixed", "to", "-LRB-", "0", ",", ".5", ",", "0", "-RRB-", "farmTTfm", "=", "new", "C3TranslateTransform", "-LRB-", "new", "C3Domain3D", "-LRB-", "0", ",", ".5", ",", "0", "-RRB-", "-RRB-", ";", "s.add", "-LRB-", "farmTTfm", ",", "uarmRTfm", "-RRB-", ";", "/", "/", "farmTTfm", "is", "parented", "by", "uarmRTfm", "/", "/", "rotation", "transformation", "for", "the", "forearm", ":", "axis", "fixed", "to", "-LRB-", "0", ",", "0", ",", "1", "-RRB-", ";", "angle", "ranging", "over", "-LSB-", "-3.14", ",", "0", "-RSB-", "farmRTfm", "=", "new", "C3RotateTransform", "-LRB-", "new", "C3Domain3D", "-LRB-", "0", ",", "0", ",", "1", "-RRB-", ",", "new", "C3Domain", "-LRB-", "-3.14", ",", "0", "-RRB-", "-RRB-", ";", "s.add", "-LRB-", "farmRTfm", ",", "farmTTfm", "-RRB-", ";", "/", "/", "farmRTfm", "is", "parented", "by", "farmTTfm", "/", "/", "variable", "for", "the", "hand", "'s", "position", ",", "associated", "with", "farmRTfm", "and", "fixed", "to", "-LRB-", "0", ",", ".5", ",", "0", "-RRB-", "handPos", "=", "new", "C3Variable3D", "-LRB-", "farmRTfm", ",", "new", "C3Domain3D", "-LRB-", "0", ",", ".5", ",", "0", "-RRB-", "-RRB-", ";", "/", "/", "medium-strength", "edit", "constraint", "for", "the", "hand", "'s", "position", "editHandPos", "=", "new", "C3EditConstraint", "-LRB-", "handPos", ",", "C3.MEDIUM", "-RRB-", ";", "s.add", "-LRB-", "editHandPos", "-RRB-", ";", "/", "/", "suggest", "the", "hand", "being", "located", "at", "the", "target", "'s", "position", "editHandPos.set", "-LRB-", "getTargetWorldCoordinates", "-LRB-", "-RRB-", "-RRB-", ";", "/", "/", "solve", "the", "constraint", "system", "s.solve", "-LRB-", "-RRB-", ";", "/", "/", "get", "solutions", "double", "shldrAngle", "=", "shldrRTfm.rotationAngle", "-LRB-", "-RRB-", ".", "value", "-LRB-", "-RRB-", ";", "double", "uarmAngle", "=", "uarmRTfm.rotationAngle", "-LRB-", "-RRB-", ".", "value", "-LRB-", "-RRB-", ";", "double", "farmAngle", "=", "farmRTfm.rotationAngle", "-LRB-", "-RRB-", ".", "value", "-LRB-", "-RRB-", ";", "Figure", "5", ":", "Constraint", "program", "for", "the", "robot", "arm", "application", ".", "the", "field", "of", "graphical", "user", "interfaces", "-LSB-", "3", ",", "7", ",", "11", ",", "12", ",", "13", ",", "17", ",", "18", "-RSB-", ",", "most", "of", "them", "do", "not", "provide", "special", "treatment", "for", "3D", "graphics", ".", "In", "general", ",", "the", "role", "of", "nonlinear", "geometric", "constraints", "is", "more", "important", "in", "3D", "applications", "than", "in", "2D", "interfaces", ".", "Most", "importantly", ",", "3D", "graphics", "usually", "requires", "rotations", "of", "objects", "which", "are", "rarely", "used", "in", "2D", "interfaces", ".", "The", "main", "reason", "is", "that", "we", "often", "equally", "treat", "all", "``", "horizontal", "''", "directions", "in", "a", "3D", "space", "even", "if", "we", "may", "clearly", "distinguish", "them", "from", "``", "vertical", "''", "directions", ".", "Therefore", ",", "nonlinear", "constraint", "solvers", "are", "appropriate", "for", "3D", "applications", ".", "In", "addition", ",", "coordinate", "transformations", "should", "be", "supported", "since", "they", "are", "typically", "used", "to", "handle", "rotations", "of", "objects", ".", "Gleicher", "proposed", "the", "differential", "approach", "-LSB-", "8", ",", "9", "-RSB-", ",", "which", "supports", "3D", "geometric", "constraints", "and", "coordinate", "transformations", ".", "In", "a", "sense", ",", "it", "shares", "a", "motivation", "with", "Chorus3D", ";", "in", "addition", "to", "support", "for", "3D", "graphics", ",", "it", "allows", "user-defined", "kinds", "of", "geometric", "constraints", ".", "However", ",", "it", "is", "based", "on", "a", "different", "solution", "method", "from", "Chorus3D", ";", "it", "realizes", "constraint", "satisfaction", "by", "running", "virtual", "dynamic", "simulations", ".", "This", "difference", "results", "in", "a", "quite", "different", "behavior", "of", "solutions", "as", "well", "as", "an", "interface", "for", "controlling", "solutions", ".", "By", "contrast", ",", "Chorus3D", "provides", "a", "much", "more", "compatible", "interface", "with", "recent", "successful", "solvers", "such", "as", "Cassowary", "-LSB-", "3", "-RSB-", ".", "Much", "research", "on", "inverse", "kinematics", "has", "been", "conducted", "in", "the", "fields", "of", "computer", "graphics", "and", "robotics", "-LSB-", "1", ",", "20", "-RSB-", ".", "However", ",", "inverse", "kinematics", "is", "typically", "implemented", "as", "specialized", "software", "which", "only", "provides", "limited", "kinds", "of", "geometric", "constraints", ".", "Chorus3D", "has", "two", "limitations", "in", "its", "algorithm", ":", "one", "is", "on", "the", "precision", "of", "solutions", "determined", "by", "preferential", "constraints", ";", "the", "other", "is", "on", "the", "speed", "of", "the", "satisfaction", "of", "large", "constraint", "systems", ".", "These", "limitations", "are", "mainly", "caused", "by", "the", "treatment", "of", "multi-level", "preferences", "of", "constraints", "in", "addition", "to", "required", "constraints", "-LRB-", "i.e.", ",", "constraint", "hierarchies", "-RRB-", ".", "Although", "many", "numerical", "optimization", "techniques", "have", "been", "proposed", "and", "implemented", "in", "the", "field", "of", "mathematical", "programming", "-LSB-", "2", ",", "6", "-RSB-", ",", "most", "of", "them", "do", "not", "handle", "preferential", "constraints", ".", "To", "alleviate", "the", "limitations", "of", "Chorus3D", ",", "we", "are", "pursuing", "a", "more", "sophisticated", "method", "for", "processing", "multi-level", "preferential", "constraints", ".", "We", "implemented", "Chorus3D", "as", "a", "class", "library", "which", "can", "be", "exploited", "in", "C++", "and", "Java", "programs", ".", "However", ",", "more", "high-level", "authoring", "tools", "will", "also", "be", "useful", "for", "declarative", "approaches", "to", "3D", "design", ".", "One", "possible", "direction", "is", "to", "extend", "VRML", "-LSB-", "4", "-RSB-", "to", "support", "geometric", "constraints", ".", "Standard", "VRML", "requires", "scripts", "in", "Java", "or", "JavaScript", "to", "realize", "complex", "layouts", "and", "behaviors", ".", "By", "contrast", ",", "constraint-enabled", "VRML", "will", "cover", "a", "wider", "range", "of", "applications", "without", "such", "additional", "scripts", ".", "In", "this", "paper", ",", "we", "presented", "Chorus3D", ",", "a", "geometric", "constraint", "library", "for", "3D", "graphical", "applications", ".", "It", "enables", "programmers", "to", "use", "geometric", "constraints", "for", "various", "purposes", "100", "such", "as", "geometric", "layout", ",", "constrained", "dragging", ",", "and", "inverse", "kinematics", ".", "Its", "novel", "feature", "is", "to", "handle", "scene", "graphs", "by", "processing", "coordinate", "transformations", "in", "geometric", "constraint", "satisfaction", ".", "Our", "future", "work", "includes", "the", "development", "of", "other", "kinds", "of", "geometric", "constraints", "to", "further", "prove", "the", "usefulness", "of", "our", "approach", ".", "In", "particular", ",", "we", "are", "planning", "to", "implement", "non-overlapping", "constraints", "-LSB-", "13", "-RSB-", "in", "Chorus3D", "so", "that", "we", "can", "use", "it", "for", "the", "collision", "resolution", "of", "graphical", "objects", ".", "Another", "future", "direction", "is", "to", "improve", "Chorus3D", "in", "the", "scalability", "and", "accuracy", "of", "constraint", "satisfaction", ".", "-LSB-", "1", "-RSB-", "Badler", ",", "N.", "I.", ",", "Phillips", ",", "C.", "B.", ",", "and", "Webber", ",", "B.", "L.", "Simulating", "Humans", ":", "Computer", "Graphics", ",", "Animation", ",", "and", "Control", ".", "Oxford", "University", "Press", ",", "Oxford", ",", "1993", ".", "-LSB-", "2", "-RSB-", "Bertsekas", ",", "D.", "P.", "Nonlinear", "Programming", ",", "2nd", "ed", ".", "Athena", "Scientific", ",", "1999", ".", "-LSB-", "3", "-RSB-", "Borning", ",", "A.", ",", "Marriott", ",", "K.", ",", "Stuckey", ",", "P.", ",", "and", "Xiao", ",", "Y.", "Solving", "linear", "arithmetic", "constraints", "for", "user", "interface", "applications", ".", "In", "Proc", ".", "ACM", "UIST", ",", "1997", ",", "87", "96", ".", "-LSB-", "4", "-RSB-", "Carey", ",", "R.", ",", "Bell", ",", "G.", ",", "and", "Marrin", ",", "C", ".", "The", "Virtual", "Reality", "Modeling", "Language", "-LRB-", "VRML97", "-RRB-", ".", "ISO/IEC", "14772-1:1997", ",", "The", "VRML", "Consortium", "Inc.", ",", "1997", ".", "-LSB-", "5", "-RSB-", "Diehl", ",", "S.", ",", "and", "Keller", ",", "J.", "VRML", "with", "constraints", ".", "In", "Proc", ".", "Web3D-VRML", ",", "ACM", ",", "2000", ",", "81", "86", ".", "-LSB-", "6", "-RSB-", "Fletcher", ",", "R.", "Practical", "Methods", "of", "Optimization", ",", "2nd", "ed", ".", "John", "Wiley", "&", "Sons", ",", "1987", ".", "-LSB-", "7", "-RSB-", "Freeman-Benson", ",", "B.", "N.", ",", "Maloney", ",", "J.", ",", "and", "Borning", ",", "A", ".", "An", "incremental", "constraint", "solver", ".", "Commun", ".", "ACM", "33", ",", "1", "-LRB-", "1990", "-RRB-", ",", "54", "63", ".", "-LSB-", "8", "-RSB-", "Gleicher", ",", "M", ".", "A", "graphical", "toolkit", "based", "on", "differential", "constraints", ".", "In", "Proc", ".", "ACM", "UIST", ",", "1993", ",", "109", "120", ".", "-LSB-", "9", "-RSB-", "Gleicher", ",", "M", ".", "A", "differential", "approach", "to", "graphical", "manipulation", "-LRB-", "Ph.D.", "thesis", "-RRB-", ".", "Tech", ".", "Rep.", "CMU-CS-94-217", ",", "Sch", ".", "Comput", ".", "Sci", ".", "Carnegie", "Mellon", "Univ.", ",", "1994", ".", "-LSB-", "10", "-RSB-", "Herrera", ",", "F.", ",", "Lozano", ",", "M.", ",", "and", "Verdegay", ",", "J.", "L.", "Tackling", "real-coded", "genetic", "algorithms", ":", "Operators", "and", "tools", "for", "behavioural", "analysis", ".", "Artif", ".", "Intell", ".", "Rev.", "12", ",", "4", "-LRB-", "1998", "-RRB-", ",", "265", "319", ".", "-LSB-", "11", "-RSB-", "Heydon", ",", "A.", ",", "and", "Nelson", ",", "G", ".", "The", "Juno-2", "constraint-based", "drawing", "editor", ".", "Research", "Report", "131a", ",", "Digital", "Systems", "Research", "Center", ",", "1994", ".", "-LSB-", "12", "-RSB-", "Hosobe", ",", "H", ".", "A", "scalable", "linear", "constraint", "solver", "for", "user", "interface", "construction", ".", "In", "Principles", "and", "Practice", "of", "Constraint", "Programming", "--", "CP2000", ",", "vol", ".", "1894", "of", "LNCS", ",", "Springer", ",", "2000", ",", "218", "232", ".", "-LSB-", "13", "-RSB-", "Hosobe", ",", "H", ".", "A", "modular", "geometric", "constraint", "solver", "for", "user", "interface", "applications", ".", "In", "Proc", ".", "ACM", "UIST", ",", "2001", ",", "91", "100", ".", "-LSB-", "14", "-RSB-", "Kamada", ",", "T.", ",", "and", "Kawai", ",", "S", ".", "An", "algorithm", "for", "drawing", "general", "undirected", "graphs", ".", "Inf", ".", "Process", ".", "Lett", ".", "31", ",", "1", "-LRB-", "1989", "-RRB-", ",", "7", "15", ".", "-LSB-", "15", "-RSB-", "Kitano", ",", "H.", ",", "Ed", ".", "Genetic", "Algorithms", ".", "Sangyo-Tosho", ",", "1993", ".", "In", "Japanese", ".", "-LSB-", "16", "-RSB-", "Kramer", ",", "G.", "A", ".", "A", "geometric", "constraint", "engine", ".", "Artif", ".", "Intell", ".", "58", ",", "1", "3", "-LRB-", "1992", "-RRB-", ",", "327", "360", ".", "-LSB-", "17", "-RSB-", "Marriott", ",", "K.", ",", "Chok", ",", "S.", "S.", ",", "and", "Finlay", ",", "A", ".", "A", "tableau", "based", "constraint", "solving", "toolkit", "for", "interactive", "graphical", "applications", ".", "In", "Principles", "and", "Practice", "of", "Constraint", "Programming", "--", "CP98", ",", "vol", ".", "1520", "of", "LNCS", ",", "Springer", ",", "1998", ",", "340", "354", ".", "-LSB-", "18", "-RSB-", "Sannella", ",", "M.", "Skyblue", ":", "A", "multi-way", "local", "propagation", "constraint", "solver", "for", "user", "interface", "construction", ".", "In", "Proc", ".", "ACM", "UIST", ",", "1994", ",", "137", "146", ".", "-LSB-", "19", "-RSB-", "Takahashi", ",", "S.", "Visualizing", "constraints", "in", "visualization", "rules", ".", "In", "Proc", ".", "CP2000", "Workshop", "on", "Analysis", "and", "Visualization", "of", "Constraint", "Programs", "and", "Solvers", ",", "2000", ".", "-LSB-", "20", "-RSB-", "Zhao", ",", "J.", ",", "and", "Badler", ",", "N.", "I.", "Inverse", "kinematics", "positioning", "using", "nonlinear", "programming", "for", "highly", "articulated", "figures", ".", "ACM", "Trans", ".", "Gr", ".", "13", ",", "4", "-LRB-", "1994", "-RRB-", ",", "313", "336", ".", "101"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["coordinate transformation", "3d graphical applications", "3d graphics", "scene graphs", "geometric layout", "geometric constraints", "graphical objects", "constraint satisfaction", "layout", "behaviors"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "107", "document": ["Improving", "the", "Static", "Analysis", "of", "Embedded", "Languages", "via", "Partial", "Evaluation", "Programs", "in", "embedded", "languages", "contain", "invariants", "that", "are", "not", "automatically", "detected", "or", "enforced", "by", "their", "host", "language", ".", "We", "show", "how", "to", "use", "macros", "to", "easily", "implement", "partial", "evaluation", "of", "embedded", "interpreters", "in", "order", "to", "capture", "invariants", "encoded", "in", "embedded", "programs", "and", "render", "them", "explicit", "in", "the", "terms", "of", "their", "host", "language", ".", "We", "demonstrate", "the", "effectiveness", "of", "this", "technique", "in", "improving", "the", "results", "of", "a", "value", "flow", "analysis", ".", "D.", "2.5", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Testing", "and", "Debugging", "--", "debugging", "aids", ";", "D.", "3.3", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Language", "Constructs", "and", "Features", "--", "macros", ";", "D.", "3.4", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Processors", "--", "code", "generation", ",", "debuggers", ",", "interpreters", "Reliability", ",", "Languages", "Every", "practical", "programming", "language", "contains", "small", "programming", "languages", ".", "For", "example", ",", "C", "'s", "printf", "-LSB-", "18", "-RSB-", "supports", "a", "string-based", "output", "formatting", "language", ",", "and", "Java", "-LSB-", "3", "-RSB-", "supports", "a", "declarative", "sub-language", "for", "laying", "out", "GUI", "elements", "in", "a", "window", ".", "PLT", "Scheme", "-LSB-", "9", "-RSB-", "offers", "at", "least", "five", "such", "languages", ":", "one", "for", "formatting", "console", "output", ";", "two", "for", "regular", "expression", "matching", ";", "one", "for", "sending", "queries", "to", "a", "SQL", "server", ";", "and", "one", "for", "laying", "out", "HTML", "pages", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICFP", "'", "04", ",", "September", "19", "21", ",", "2004", ",", "Snowbird", ",", "Utah", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-905-5", "/", "04/0009", "...", "$", "5.00", "In", "many", "cases", ",", "though", "not", "always", ",", "programs", "in", "these", "embedded", "special-purpose", "programming", "languages", "are", "encoded", "as", "strings", ".", "Library", "functions", "consume", "these", "strings", "and", "interpret", "them", ".", "Often", "the", "interpreters", "consume", "additional", "arguments", ",", "which", "they", "use", "as", "inputs", "to", "the", "little", "programs", ".", "Take", "a", "look", "at", "this", "expression", "in", "PLT", "Scheme", ":", "-LRB-", "regexp-match", "``", "http", ":", "/", "/", "-LRB-", "-LSB-", "a-z", ".", "-RSB-", "*", "-RRB-", "/", "-LRB-", "-LSB-", "a-z", "-RSB-", "*", "-RRB-", "/", "''", "line", "-RRB-", "The", "function", "regexp-match", "is", "an", "interpreter", "for", "the", "regular", "expression", "language", ".", "It", "consumes", "two", "arguments", ":", "a", "string", "in", "the", "regular", "expression", "language", ",", "which", "we", "consider", "a", "program", ",", "and", "another", "string", ",", "which", "is", "that", "program", "'s", "input", ".", "A", "typical", "use", "looks", "like", "the", "example", "above", ".", "The", "first", "string", "is", "actually", "specified", "at", "the", "call", "site", ",", "while", "the", "second", "string", "is", "often", "given", "by", "a", "variable", "or", "an", "expression", "that", "reads", "from", "an", "input", "port", ".", "The", "interpreter", "attempts", "to", "match", "the", "regular", "expression", "and", "the", "second", "string", ".", "In", "PLT", "Scheme", ",", "the", "regular", "expression", "language", "allows", "programmers", "to", "specify", "subpatterns", "via", "parentheses", ".", "Our", "running", "example", "contains", "two", "such", "subexpressions", ":", "-LRB-", "-LSB-", "a-z", ".", "-RSB-", "*", "-RRB-", "and", "-LRB-", "-LSB-", "a-z", "-RSB-", "*", "-RRB-", ".", "If", "the", "regular", "expression", "interpreter", "fails", "to", "match", "the", "regular", "expression", "and", "the", "string", ",", "it", "produces", "false", "-LRB-", "#", "f", "-RRB-", ";", "otherwise", "it", "produces", "a", "list", "with", "n", "+", "1", "elements", ":", "the", "first", "one", "for", "the", "overall", "match", "plus", "one", "per", "subexpression", ".", "Say", "line", "stands", "for", "``", "http://aaa.bbb.edu/zzz/&quot", ";", "In", "this", "case", ",", "the", "regular", "expression", "matches", "the", "string", ",", "and", "regexp-match", "produces", "the", "list", "-LRB-", "list", "``", "http://aaa.bbb.edu/zzz/&quot", ";", "\"aaa.bbb.edu", "''", "``", "zzz", "''", "-RRB-", "The", "rest", "of", "the", "Scheme", "program", "extracts", "the", "pieces", "from", "this", "list", "and", "computes", "with", "them", ".", "The", "regexp-match", "expression", "above", "is", "a", "simplified", "excerpt", "from", "the", "PLT", "Web", "Server", "-LSB-", "12", "-RSB-", ".", "Here", "is", "a", "slightly", "larger", "fragment", ":", "-LRB-", "let", "-LRB-", "-LSB-", "r", "-LRB-", "regexp-match", "``", "http", ":", "/", "/", "-LRB-", "-LSB-", "a-z", ".", "-RSB-", "*", "-RRB-", "/", "-LRB-", "-LSB-", "a-z", "-RSB-", "*", "-RRB-", "/", "''", "line", "-RRB-", "-RSB-", "-RRB-", "-LRB-", "if", "r", "-LRB-", "process-url", "-LRB-", "third", "r", "-RRB-", "-LRB-", "dispatch", "-LRB-", "second", "r", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "log-error", "line", "-RRB-", "-RRB-", "-RRB-", "Notice", "how", "the", "then-clause", "of", "the", "if", "-", "expression", "extracts", "the", "second", "16", "and", "third", "elements", "from", "r", "without", "any", "checks", "to", "confirm", "the", "length", "of", "the", "list", ".", "After", "all", ",", "the", "programmer", "knows", "that", "if", "r", "is", "not", "false", ",", "then", "it", "is", "a", "list", "of", "three", "elements", ".", "The", "embedded", "program", "says", "so", ";", "it", "is", "a", "regular", "expression", "and", "contains", "two", "subexpressions", ".", "Unfortunately", ",", "the", "static", "analysis", "tools", "for", "PLT", "Scheme", "can", "not", "reason", "on", "both", "levels", ".", "MrFlow", "-LSB-", "20", "-RSB-", ",", "a", "static", "debugger", ",", "uses", "a", "constraint-based", "analysis", "-LSB-", "22", "-RSB-", ",", "a", "version", "of", "set-based", "analysis", "-LSB-", "2", ",", "13", ",", "10", "-RSB-", ",", "to", "analyze", "the", "program", "and", "discover", "potential", "errors", ".", "If", "it", "finds", "one", "it", "can", "draw", "a", "flow", "graph", "from", "the", "source", "of", "the", "bad", "value", "to", "the", "faulty", "primitive", "operation", ".", "For", "the", "let", "-", "expression", "above", ",", "MrFlow", "finds", "that", "both", "-LRB-", "second", "r", "-RRB-", "and", "-LRB-", "third", "r", "-RRB-", "may", "raise", "runtime", "errors", "because", "r", "may", "not", "contain", "enough", "elements", ".", "In", "this", "paper", ",", "we", "show", "how", "using", "Scheme", "macros", "to", "partially", "evaluate", "calls", "to", "embedded", "interpreters", "such", "as", "regexp-match", "greatly", "increases", "the", "precision", "of", "the", "static", "analysis", ".", "Since", "we", "use", "macros", ",", "library", "designers", "can", "easily", "implement", "the", "partial", "evaluation", ",", "rather", "than", "relying", "on", "the", "host", "language", "implementor", "as", "they", "must", "for", "ad-hoc", "solutions", ".", "In", "Section", "2", "we", "give", "a", "brief", "overview", "of", "set-based", "analysis", "and", "MrFlow", ".", "In", "the", "next", "section", "we", "explain", "three", "examples", "of", "embedded", "languages", "and", "the", "problems", "they", "cause", "for", "MrFlow", "'s", "static", "analysis", ".", "We", "then", "present", "in", "Section", "4", "our", "general", "approach", "to", "solving", "those", "problems", ",", "based", "on", "macros", ".", "An", "overview", "of", "the", "macro", "system", "we", "use", "is", "given", "in", "Section", "5", ".", "Section", "6", "then", "presents", "a", "general", "technique", "for", "translating", "embedded", "interpreters", "into", "macros", ".", "In", "Section", "7", ",", "we", "explain", "the", "properties", "of", "the", "static", "analysis", "that", "enable", "it", "to", "find", "more", "results", "in", "partially", "evaluated", "code", ".", "Finally", ",", "in", "Section", "8", ",", "we", "show", "how", "partially", "evaluating", "Scheme", "programs", "that", "contain", "embedded", "programs", "helps", "MrFlow", "in", "our", "three", "examples", ".", "Section", "9", "presents", "related", "work", "and", "we", "conclude", "in", "Section", "10", ".", "To", "explain", "how", "the", "results", "of", "a", "static", "analysis", "can", "be", "improved", "by", "using", "partial", "evaluation", "of", "embedded", "languages", ",", "we", "first", "need", "to", "describe", "such", "an", "analysis", ".", "MrFlow", ",", "a", "static", "analyzer", "for", "DrScheme", ",", "uses", "a", "set-based", "value", "flow", "analysis", "to", "compute", "an", "approximation", "of", "the", "values", "that", "each", "subexpression", "of", "a", "program", "might", "evaluate", "to", "at", "runtime", "-LSB-", "22", "-RSB-", ".", "The", "approximation", "computed", "for", "each", "expression", "is", "a", "set", "of", "abstract", "values", "that", "can", "be", "displayed", "on", "demand", ".", "The", "debugger", "can", "also", "draw", "arrows", "showing", "the", "flow", "of", "values", "through", "the", "program", ".", "Figure", "1", "displays", "an", "example", "of", "analyzing", "a", "simple", "program", ".", "In", "the", "box", "next", "to", "the", "term", "3", "is", "the", "abstract", "value", "for", "that", "term", ",", "meaning", "that", "at", "runtime", "the", "term", "3", "might", "evaluate", "to", "the", "value", "3", ".", "The", "arrow", "starting", "from", "the", "term", "3", "shows", "that", "at", "runtime", "the", "value", "3", "might", "flow", "into", "the", "argument", "x", "of", "the", "function", "f", "and", "from", "there", "flow", "into", "the", "reference", "to", "the", "variable", "x", "in", "the", "body", "of", "f", ".", "There", "is", "a", "second", "reference", "to", "x", "in", "f", "--", "the", "corresponding", "arrow", "is", "not", "shown", "in", "this", "example", ".", "In", "the", "box", "next", "to", "the", "call", "to", "the", "Scheme", "primitive", "gcd", "is", "the", "abstract", "value", "for", "the", "result", "of", "that", "call", ".", "Since", "the", "analysis", "never", "tries", "to", "evaluate", "expressions", ",", "it", "uses", "the", "abstract", "value", "integer", "to", "represent", "the", "result", "of", "the", "primitive", "call", ",", "if", "any", ",", "which", "is", "a", "conservative", "approximation", "of", "the", "actual", "value", "that", "that", "call", "might", "compute", "at", "runtime", ".", "The", "biggest", "box", "displays", "the", "type", "of", "the", "adjacent", "if", "-", "expression", ",", "which", "is", "the", "union", "of", "the", "integer", "abstract", "value", "computed", "by", "the", "gcd", "primitive", "and", "of", "the", "string", "``", "hello", "''", ".", "Arrows", "show", "that", "the", "result", "of", "the", "if", "-", "expression", "can", "come", "from", "both", "the", "then", "-", "and", "else-branches", ":", "the", "analysis", "does", "not", "attempt", "to", "apply", "the", "number", "?", "predicate", "to", "the", "variable", "x", ",", "so", "it", "conservatively", "assumes", "that", "both", "branches", "of", "the", "if", "-", "expression", "may", "be", "evaluated", "at", "runtime", ".", "We", "now", "turn", "to", "embedded", "languages", ",", "which", "are", "a", "useful", "technique", "for", "establishing", "abstraction", "layers", "for", "a", "particular", "design", "space", ".", "Functional", "languages", "are", "well-suited", "to", "writing", "interpreters", "for", "embedded", "languages", ",", "in", "which", "the", "higher-level", "embedded", "language", "is", "implemented", "as", "a", "set", "of", "functions", "in", "the", "general", "purpose", "host", "language", "and", "has", "access", "to", "all", "of", "its", "features", "-LSB-", "15", ",", "16", ",", "24", "-RSB-", ".", "But", "these", "abstractions", "come", "at", "a", "cost", "for", "program", "analysis", ".", "In", "particular", ",", "tools", "built", "to", "examine", "programs", "of", "the", "host", "language", "can", "not", "derive", "information", "for", "the", "programs", "in", "the", "embedded", "languages", "because", "they", "do", "not", "understand", "the", "semantics", "of", "those", "languages", ".", "In", "this", "section", "we", "demonstrate", "three", "examples", "of", "practical", "embedded", "languages", "for", "Scheme", "and", "show", "their", "negative", "effects", "on", "static", "analysis", ".", "In", "the", "first", "example", ",", "properties", "of", "the", "embedded", "language", "create", "the", "possibility", "of", "errors", "that", "can", "go", "undetected", "by", "the", "analysis", ".", "In", "the", "next", "two", "examples", ",", "undetected", "properties", "lead", "to", "analyses", "that", "are", "too", "conservative", ",", "resulting", "in", "many", "false", "positives", ";", "that", "is", ",", "the", "analysis", "reports", "errors", "that", "can", "never", "actually", "occur", ".", "3.1", "Format", "Strings", "The", "PLT", "Scheme", "library", "provides", "a", "format", "function", ",", "similar", "to", "C", "'s", "sprintf", ",", "which", "generates", "a", "string", "given", "a", "format", "specifier", "and", "a", "variable", "number", "of", "additional", "arguments", ".", "The", "format", "specifier", "is", "a", "string", "containing", "some", "combination", "of", "literal", "text", "and", "formatting", "tags", ".", "These", "tags", "are", "interpreted", "along", "with", "the", "remaining", "arguments", "to", "construct", "a", "formatted", "string", ".", "The", "format", "function", "is", "thus", "an", "interpreter", "for", "the", "format", "specifier", "language", ".", "The", "format", "specifier", "is", "a", "program", "in", "this", "language", "and", "the", "additional", "arguments", "are", "its", "inputs", ".", "To", "construct", "its", "output", ",", "the", "format", "function", "requires", "the", "number", "of", "extra", "arguments", "to", "match", "the", "number", "of", "format", "tags", ",", "and", "these", "arguments", "must", "be", "of", "the", "appropriate", "type", ".", "Consider", "the", "example", "of", "displaying", "an", "ASCII", "character", "and", "its", "encoding", "in", "hexadecimal", ":", "-LRB-", "format", "''", "~", "c", "=", "0x", "~", "x", "''", "c", "n", "-RRB-", "In", "this", "example", ",", "the", "format", "specifier", ",", "which", "contains", "the", "format", "tags", "''", "~", "c", "''", "and", "''", "~", "x", "''", "and", "some", "literal", "text", ",", "expects", "to", "consume", "exactly", "two", "arguments", ".", "These", "arguments", "must", "be", "a", "character", "and", "an", "integer", ",", "respectively", ".", "An", "incorrect", "number", "of", "arguments", "or", "a", "type", "mismatch", "results", "in", "a", "runtime", "error", ".", "Unfortunately", "analysis", "tools", "for", "Scheme", "such", "as", "MrFlow", "have", "no", "a", "priori", "knowledge", "of", "the", "semantics", "of", "embedded", "languages", ".", "The", "analysis", "can", "not", "infer", "any", "information", "about", "the", "dependencies", "between", "the", "contents", "of", "the", "format", "string", "and", "the", "rest", "of", "the", "arguments", "without", "knowledge", "of", "the", "syntax", "and", "semantics", "of", "the", "format", "language", ".", "As", "a", "result", "the", "analysis", "can", "not", "predict", "certain", "categories", "of", "runtime", "errors", ",", "as", "shown", "in", "Figure", "2", ".", "The", "application", "of", "format", "is", "not", "underlined", "as", "an", "error", ",", "even", "though", "its", "arguments", "appear", "in", "the", "wrong", "order", "and", "the", "analysis", "correctly", "computes", "the", "types", "of", "both", "c", "and", "n", ".", "17", "Figure", "1", ".", "Analyzing", "a", "simple", "program", "with", "MrFlow", ".", "3.2", "Regular", "Expressions", "Regular", "expressions", "are", "used", "in", "all", "kinds", "of", "Scheme", "programs", ".", "The", "language", "of", "regular", "expression", "patterns", "is", "embedded", "in", "Scheme", "as", "strings", ".", "A", "library", "of", "functions", "interpret", "these", "strings", "as", "programs", "that", "consume", "additional", "arguments", "as", "input", "strings", "and", "return", "either", "a", "list", "of", "matched", "subpatterns", "or", "#", "f", "to", "indicate", "failure", ".", "Consider", "again", "the", "excerpt", "from", "the", "PLT", "Web", "Server", "from", "Section", "1", ".", "Programmers", "know", "that", "if", "the", "match", "succeeds", ",", "then", "the", "result", "list", "contains", "exactly", "three", "elements", ":", "the", "result", "of", "the", "entire", "match", ",", "and", "the", "results", "of", "the", "two", "subpattern", "matches", ".", "Again", "the", "analysis", "is", "unable", "to", "discover", "this", "invariant", "on", "its", "own", ".", "Figure", "3", "shows", "the", "results", "of", "analyzing", "the", "sample", "code", "with", "MrFlow", ".", "The", "list", "accessors", "second", "and", "third", "are", "underlined", "in", "red", "because", "the", "analysis", "can", "not", "prove", "that", "their", "arguments", "are", "sufficiently", "long", "lists", ".", "Programmers", "then", "must", "either", "go", "through", "each", "of", "these", "false", "positives", "and", "prove", "for", "themselves", "that", "the", "errors", "can", "never", "occur", ",", "or", "else", "learn", "to", "ignore", "some", "results", "of", "MrFlow", ".", "Neither", "option", "is", "desirable", ".", "The", "former", "creates", "more", "work", "for", "the", "programmer", ",", "rather", "than", "less", ";", "the", "latter", "is", "unsafe", "and", "easily", "leads", "to", "overlooked", "errors", ".", "3.3", "SchemeQL", "SchemeQL", "-LSB-", "28", "-RSB-", "is", "an", "embedded", "language", "for", "manipulating", "relational", "databases", "in", "Scheme", ".", "Unlike", "the", "string-based", "format", "language", ",", "SchemeQL", "programs", "consist", "of", "special", "forms", "directly", "embedded", "inside", "Scheme", ".", "The", "SchemeQL", "implementation", "provides", "a", "set", "of", "macros", "that", "recognize", "these", "forms", "and", "expand", "them", "into", "Scheme", "code", ".", "A", "typical", "database", "query", "in", "SchemeQL", "might", "look", "like", "this", ":", "-LRB-", "direct-query", "-LRB-", "name", "age", "phone", "-RRB-", "directory", "-RRB-", "corresponding", "to", "the", "SQL", "statement", "SELECT", "name", ",", "age", ",", "phone", "FROM", "directory", "The", "result", "of", "executing", "a", "query", "is", "a", "lazy", "stream", "representing", "a", "cursor", "over", "the", "result", "set", "from", "the", "database", "server", ".", "Each", "element", "in", "the", "stream", "is", "a", "list", "of", "values", "representing", "a", "single", "row", "of", "the", "result", "set", ".", "The", "cursor", "computes", "the", "rows", "by", "need", "when", "a", "program", "selects", "the", "next", "sub-stream", ".", "Programmers", "know", "that", "the", "number", "of", "elements", "in", "each", "row", "of", "a", "cursor", "is", "equal", "to", "the", "number", "of", "columns", "in", "the", "original", "request", ".", "Our", "analysis", ",", "however", ",", "can", "not", "discover", "this", "fact", "automatically", ".", "Figure", "4", "shows", "the", "results", "of", "an", "analysis", "of", "a", "SchemeQL", "query", "in", "the", "context", "of", "a", "trivial", "Scheme", "program", ".", "The", "example", "query", "consists", "of", "exactly", "three", "columns", ",", "and", "the", "code", "references", "the", "third", "element", "of", "the", "first", "row", ".", "This", "operation", "can", "never", "fail", ",", "but", "the", "analysis", "is", "unable", "to", "prove", "this", ".", "Instead", ",", "it", "conservatively", "computes", "that", "row", "is", "a", "list", "of", "unknown", "length", ":", "rec-type", "describes", "a", "recursive", "abstract", "value", ",", "which", "in", "the", "present", "case", "is", "the", "union", "of", "null", "and", "a", "pair", "consisting", "of", "any", "value", "-LRB-", "top", "-RRB-", "and", "the", "abstract", "value", "itself", ",", "creating", "a", "loop", "in", "the", "abstract", "value", "that", "simulates", "all", "possible", "list", "lengths", ".", "MrFlow", "therefore", "mistakenly", "reports", "an", "error", "by", "underlining", "the", "primitive", "third", "in", "red", ",", "since", ",", "according", "to", "the", "analysis", ",", "row", "might", "have", "fewer", "than", "three", "elements", "at", "runtime", ".", "All", "the", "embedded", "languages", "presented", "in", "the", "previous", "section", "have", "one", "thing", "in", "common", ":", "they", "can", "encode", "invariants", "that", "are", "not", "visible", "to", "any", "analysis", "of", "the", "general", "purpose", "language", "in", "which", "they", "are", "embedded", ".", "These", "invariants", "can", "be", "exposed", "to", "analyses", "in", "two", "ways", ":", "by", "extending", "the", "analyses", "in", "an", "ad-hoc", "manner", "for", "each", "embedded", "language", "so", "that", "they", "understand", "its", "semantics", ",", "or", "by", "partially", "evaluating", "the", "embedded", "interpreters", "with", "regard", "to", "the", "embedded", "programs", "to", "make", "the", "invariants", "in", "the", "embedded", "programs", "explicit", "as", "invariants", "in", "the", "host", "language", ",", "whenever", "possible", ".", "The", "first", "solution", "requires", "modifying", "each", "analysis", "to", "support", "each", "embedded", "language", ".", "The", "second", "solution", "can", "simply", "be", "implemented", "from", "within", "the", "host", "language", "through", "the", "old", "Lisp", "trick", "of", "using", "``", "compiler", "macros", "''", "-LSB-", "25", "-RSB-", "as", "a", "light-weight", "partial", "evaluation", "mechanism", ".", "In", "the", "present", "case", ",", "instead", "of", "using", "partial", "evaluation", "to", "optimize", "programs", "for", "speed", ",", "we", "use", "it", "to", "increase", "the", "precision", "of", "program", "analyses", ".", "While", "Lisp", "'s", "compiler", "macros", "are", "different", "from", "regular", "Lisp", "macros", ",", "Scheme", "'s", "macro", "system", "is", "powerful", "enough", "that", "the", "equivalent", "of", "Lisp", "'s", "compiler", "macros", "can", "be", "implemented", "as", "regular", "Scheme", "macros", ".", "The", "partial", "evaluation", "of", "embedded", "interpreters", "then", "simply", "involves", "replacing", "the", "libraries", "of", "functions", "imple-18", "Figure", "2", ".", "Imprecise", "analysis", "of", "the", "format", "primitive", ".", "Figure", "3", ".", "Imprecise", "analysis", "of", "regexp-match", ".", "Figure", "4", ".", "Imprecise", "analysis", "of", "a", "SchemeQL", "query", ".", "19", "menting", "the", "interpreters", "with", "libraries", "of", "semantically", "equivalent", "macros", "1", ".", "This", "has", "the", "additional", "advantage", "that", "it", "can", "be", "done", "by", "the", "author", "of", "the", "library", "of", "functions", ",", "as", "opposed", "to", "the", "compiler", "'s", "or", "analyzer", "'s", "implementor", "in", "the", "case", "of", "ad-hoc", "extensions", ".", "Of", "course", ",", "the", "partial", "evaluation", "of", "embedded", "interpreters", "is", "only", "possible", "when", "their", "input", "programs", "are", "known", "statically", ".", "For", "example", ",", "it", "is", "not", "possible", "to", "expand", "a", "call", "to", "format", "if", "the", "formatting", "string", "given", "as", "its", "first", "argument", "is", "computed", "at", "runtime", ".", "The", "programmer", "therefore", "makes", "a", "trade-off", "between", "the", "precision", "of", "analyses", "and", "how", "dynamic", "the", "code", "can", "be", ".", "In", "practice", ",", "though", ",", "the", "embedded", "programs", "are", "often", "specified", "statically", "in", "user", "code", ".", "Combined", "with", "the", "simplicity", "of", "implementing", "partial", "evaluation", "with", "macros", ",", "this", "makes", "for", "a", "useful", "technique", "for", "improving", "the", "precision", "of", "analyses", "at", "a", "low", "cost", ".", "In", "the", "next", "two", "sections", ",", "we", "describe", "some", "of", "the", "important", "features", "of", "the", "Scheme", "macro", "system", "and", "then", "explain", "how", "we", "make", "use", "of", "this", "system", "to", "partially", "evaluate", "the", "interpreters", "of", "these", "embedded", "languages", "to", "improve", "the", "results", "of", "static", "analysis", ".", "Scheme", "has", "a", "powerful", "macro", "system", "for", "extending", "the", "language", "with", "derived", "expression", "forms", "that", "can", "be", "rewritten", "as", "expressions", "in", "the", "core", "language", ".", "Macros", "serve", "as", "a", "means", "of", "syntactic", "abstraction", ".", "Programmers", "can", "generalize", "syntactic", "patterns", "in", "ways", "that", "are", "not", "possible", "with", "functional", "abstraction", ".", "This", "technology", "also", "provides", "a", "hook", "into", "the", "standard", "compiler", "tool", "chain", "by", "allowing", "programmers", "to", "implement", "additional", "program", "transformations", "before", "compilation", ".", "In", "this", "section", "we", "describe", "the", "basics", "of", "standard", "Scheme", "macros", "and", "introduce", "identifier", "macros", ",", "a", "generalization", "of", "the", "contexts", "in", "which", "macros", "can", "be", "matched", ".", "5.1", "Rule-Based", "Macros", "The", "define-syntax", "special", "form", "allows", "the", "programmer", "to", "extend", "Scheme", "with", "derived", "expression", "forms", ".", "Before", "compilation", "or", "execution", "of", "a", "Scheme", "program", ",", "all", "occurrences", "of", "these", "derived", "forms", "are", "replaced", "with", "their", "specified", "expansions", ".", "The", "syntax-rules", "form", "specifies", "macro", "expansions", "as", "rewrite", "rules", ".", "Consider", "the", "following", "simple", "macro", ",", "which", "defines", "a", "short-circuit", "logical", "or", "as", "a", "derived", "form", ":", "-LRB-", "define-syntax", "or", "-LRB-", "syntax-rules", "-LRB-", "-RRB-", "-LSB-", "-LRB-", "or", "e1", "e2", "-RRB-", "-LRB-", "let", "-LRB-", "-LSB-", "tmp", "e1", "-RSB-", "-RRB-", "-LRB-", "if", "tmp", "tmp", "e2", "-RRB-", "-RRB-", "-RSB-", "-RRB-", "-RRB-", "The", "macro", "defines", "a", "single", "rewrite", "rule", ",", "consisting", "of", "a", "pattern", "and", "a", "template", ".", "The", "pattern", "matches", "the", "or", "keyword", "in", "operator", "position", "followed", "by", "two", "pattern", "variables", "e1", "and", "e2", ",", "each", "matching", "an", "arbitrary", "subexpression", "in", "argument", "position", ".", "The", "template", "directs", "the", "macro", "expansion", "to", "replace", "occurrences", "of", "the", "matched", "pattern", "with", "a", "let", "-", "expression", "constructed", "from", "the", "matched", "subexpressions", ".", "1", "The", "transformation", "is", "not", "strictly", "speaking", "partial", "evaluation", ":", "the", "reductions", "performed", "by", "the", "macros", "are", "not", "exactly", "the", "ones", "performed", "by", "the", "embedded", "interpreters", ".", "However", ",", "the", "macros", "share", "the", "techniques", "and", "issues", "of", "partial", "evaluation", "since", "they", "simulate", "parts", "of", "the", "interpreters", ",", "and", "it", "is", "therefore", "useful", "to", "describe", "them", "as", "such", ".", "Notice", "that", "this", "or", "form", "can", "not", "be", "defined", "as", "a", "regular", "function", "in", "Scheme", ".", "The", "second", "argument", "is", "only", "evaluated", "if", "the", "first", "argument", "evaluates", "to", "false", ".", "Since", "Scheme", "has", "a", "strict", "evaluation", "semantics", ",", "a", "functional", "or", "would", "necessarily", "evaluate", "both", "of", "its", "arguments", "before", "computing", "a", "result", ".", "Controlling", "the", "evaluation", "of", "expressions", "is", "an", "important", "use", "of", "Scheme", "macros", ".", "Macros", "can", "also", "abstract", "over", "other", "syntactic", "forms", "in", "ways", "that", "functions", "can", "not", "by", "expanding", "into", "second-class", "language", "constructs", "such", "as", "define", ".", "5.2", "Lexical", "Scope", "Macros", "written", "with", "the", "standard", "Scheme", "syntax-rules", "mechanism", "are", "both", "hygienic", "and", "referentially", "transparent", ".", "Hygienic", "macro", "expansion", "guarantees", "that", "binding", "forms", "inside", "the", "definition", "of", "the", "macro", "template", "do", "not", "capture", "free", "variables", "in", "macro", "arguments", ".", "Consider", "the", "following", "use", "of", "our", "or", "macro", ":", "2", "-LRB-", "or", "other", "tmp", "-RRB-", "-LRB-", "let", "-LRB-", "-LSB-", "tmp", "1", "other", "-RSB-", "-RRB-", "-LRB-", "if", "tmp", "1", "tmp", "1", "tmp", "-RRB-", "-RRB-", "Hygienic", "expansion", "automatically", "renames", "the", "variable", "bound", "inside", "the", "expanded", "macro", "template", "to", "avoid", "capturing", "the", "free", "variable", "in", "the", "macro", "argument", ".", "Referential", "transparency", "complements", "hygiene", "by", "ensuring", "that", "free", "variables", "inside", "the", "macro", "template", "can", "not", "be", "captured", "by", "the", "context", "of", "the", "macro", "call", "site", ".", "For", "example", ",", "if", "the", "context", "that", "invokes", "or", "rebinds", "the", "if", "name", ",", "the", "expansion", "algorithm", "renames", "the", "binding", "in", "the", "caller", "'s", "context", "to", "avoid", "capturing", "the", "variable", "used", "in", "the", "template", "body", ":", "-LRB-", "let", "-LRB-", "-LSB-", "if", "3", "-RSB-", "-RRB-", "-LRB-", "or", "if", "#", "f", "-RRB-", "-RRB-", "-LRB-", "let", "-LRB-", "-LSB-", "if", "1", "3", "-RSB-", "-RRB-", "-LRB-", "let", "-LRB-", "-LSB-", "tmp", "if", "1", "-RSB-", "-RRB-", "-LRB-", "if", "tmp", "tmp", "#", "f", "-RRB-", "-RRB-", "-RRB-", "The", "combination", "of", "hygiene", "and", "referential", "transparency", "produces", "macros", "that", "are", "consistent", "with", "Scheme", "'s", "rules", "of", "lexical", "scope", "and", "can", "be", "invoked", "anywhere", "in", "a", "program", "without", "the", "danger", "of", "unexpected", "variable", "capture", ".", "3", "5.3", "Identifier", "Macros", "The", "syntax-rules", "form", "only", "matches", "expressions", "in", "which", "the", "macro", "name", "occurs", "in", "``", "application", "position", ",", "''", "i.e.", ",", "as", "the", "operator", "in", "an", "application", "expression", ".", "References", "to", "a", "syntax-rules", "macro", "in", "other", "contexts", "result", "in", "syntax", "errors", ":", "-LRB-", "fold", "or", "#", "f", "ls", "-RRB-", "syntax", "error", "PLT", "Scheme", "'s", "syntax-id-rules", "form", "is", "similar", "to", "syntax-rules", "but", "matches", "occurrences", "of", "the", "macro", "keyword", "in", "arbitrary", "expression", "contexts", ":", "in", "operator", "position", ",", "operand", "position", ",", "or", "as", "the", "target", "of", "an", "assignment", ".", "2", "We", "use", "the", "convention", "of", "representing", "macro", "expansion", "with", "a", "double-arrow", "-LRB-", "-RRB-", "and", "ordinary", "-LRB-", "runtime", "-RRB-", "evaluation", "with", "a", "single-arrow", "-LRB-", "-RRB-", ".", "3", "Macros", "can", "also", "be", "defined", "in", "and", "exported", "from", "modules", "in", "PLT", "Scheme", "-LSB-", "11", "-RSB-", ".", "20", "The", "following", "macro", "demonstrates", "a", "hypothetical", "use", "of", "syntax-id-rules", ":", "-LRB-", "define-syntax", "clock", "-LRB-", "syntax-id-rules", "-LRB-", "set", "!", "-RRB-", "-LSB-", "-LRB-", "set", "!", "clock", "e", "-RRB-", "-LRB-", "set-clock", "!", "e", "-RRB-", "-RSB-", "-LSB-", "-LRB-", "clock", "e", "-RRB-", "-LRB-", "make-time-stamp", "-LRB-", "get-clock", "-RRB-", "e", "-RRB-", "-RSB-", "-LSB-", "clock", "-LRB-", "get-clock", "-RRB-", "-RSB-", "-RRB-", "-RRB-", "The", "list", "of", "identifiers", "following", "syntax-id-rules", ",", "which", "was", "empty", "in", "our", "previous", "examples", ",", "now", "includes", "the", "set", "!", "identifier", ",", "indicating", "that", "set", "!", "is", "to", "be", "treated", "as", "a", "keyword", "rather", "than", "a", "pattern", "variable", ".", "The", "first", "rewrite", "rule", "matches", "expressions", "in", "which", "the", "clock", "name", "occurs", "as", "the", "target", "of", "an", "assignment", ".", "The", "second", "rule", "is", "familiar", ",", "matching", "the", "macro", "in", "application", "position", ".", "The", "final", "rule", "matches", "the", "identifier", "clock", "in", "any", "context", "not", "matched", "by", "the", "previous", "two", "rules", ".", "In", "addition", "to", "the", "usual", "application", "context", ",", "we", "can", "use", "the", "clock", "macro", "in", "an", "argument", "position", ":", "-LRB-", "+", "clock", "10", "-RRB-", "-LRB-", "+", "-LRB-", "get-clock", "-RRB-", "10", "-RRB-", "or", "as", "a", "set", "!", "target", ":", "-LRB-", "set", "!", "clock", "5", "-RRB-", "-LRB-", "set-clock", "!", "5", "-RRB-", "5.4", "Programmatic", "Macros", "The", "language", "of", "patterns", "and", "templates", "recognized", "by", "syntax-rules", "and", "syntax-id-rules", "is", "actually", "a", "special", "case", "of", "Scheme", "macros", ".", "In", "general", ",", "the", "define-syntax", "form", "binds", "a", "transformer", "procedure", "-LRB-", "define-syntax", "name", "-LRB-", "lambda", "-LRB-", "stx", "-RRB-", "etc", ".", "The", "argument", "to", "the", "transformer", "procedure", "is", "a", "syntax", "object", ",", "which", "is", "similar", "to", "an", "S-expression", "representing", "quoted", "code", ",", "but", "which", "also", "encapsulates", "information", "about", "the", "lexical", "context", "of", "the", "code", ",", "such", "as", "source", "file", "location", "and", "variable", "bindings", ".", "This", "context", "information", "is", "essential", "in", "allowing", "DrScheme", "'s", "language", "tools", "to", "trace", "errors", "and", "binding", "relationships", "back", "to", "the", "original", "source", "location", "in", "the", "user", "'s", "code", "where", "a", "macro", "is", "invoked", ".", "Because", "syntax", "objects", "are", "so", "similar", "to", "quoted", "data", ",", "the", "standard", "library", "includes", "the", "syntax-object", "-", ">", "datum", "procedure", ",", "which", "strips", "the", "lexical", "information", "from", "a", "syntax", "object", "and", "returns", "its", "corresponding", "datum", ".", "For", "example", ",", "the", "datum", "corresponding", "to", "a", "syntax", "object", "representing", "a", "literal", "number", "is", "its", "numeric", "value", ",", "the", "datum", "corresponding", "to", "an", "identifier", "is", "a", "symbol", "representing", "the", "identifier", "'s", "name", ",", "and", "so", "on", ".", "A", "syntax", "transformer", "procedure", "accepts", "as", "its", "argument", "a", "syntax", "object", "representing", "the", "expression", "that", "invoked", "the", "macro", ",", "and", "produces", "a", "new", "syntax", "object", ",", "which", "the", "macro", "expansion", "algorithm", "uses", "to", "replace", "the", "original", "expression", ".", "All", "Scheme", "macros", "are", "syntax", "transformers", ";", "although", "the", "syntax-rules", "and", "syntax-id-rules", "forms", "do", "not", "use", "the", "lambda", "notation", ",", "they", "are", "themselves", "implemented", "as", "macros", "that", "expand", "to", "syntax", "transformer", "procedures", ".", "The", "syntax-case", "facility", "allows", "the", "construction", "of", "macros", "with", "pattern", "matching", ",", "as", "with", "syntax-rules", "and", "syntax-id-rules", ",", "but", "with", "arbitrary", "expressions", "in", "place", "of", "templates", "for", "the", "result", "expressions", ".", "For", "example", ",", "the", "above", "or", "macro", "would", "be", "defined", "as", ":", "-LRB-", "define-syntax", "or", "-LRB-", "lambda", "-LRB-", "stx", "-RRB-", "-LRB-", "syntax-case", "stx", "-LRB-", "-RRB-", "-LSB-", "-LRB-", "or", "e1", "e2", "-RRB-", "#", "'", "-LRB-", "let", "-LRB-", "-LSB-", "tmp", "e1", "-RSB-", "-RRB-", "-LRB-", "if", "tmp", "tmp", "e2", "-RRB-", "-RRB-", "-RSB-", "-RRB-", "-RRB-", "-RRB-", "The", "macro", "is", "almost", "the", "same", "as", "before", ",", "but", "for", "two", "refinements", ".", "First", ",", "the", "syntax-case", "form", "takes", "the", "argument", "stx", "explicitly", ",", "whereas", "syntax-rules", "implicitly", "defines", "a", "transformer", "procedure", "and", "operates", "on", "the", "procedure", "argument", ".", "Second", ",", "the", "result", "expression", "is", "prefixed", "by", "the", "syntax-quoting", "#", "'", "operator", ",", "which", "is", "analogous", "to", "Scheme", "'s", "quote", "operator", "'", ".", "Whereas", "an", "expression", "prefixed", "with", "'", "evaluates", "to", "a", "quoted", "S-expression", ",", "a", "#", "'", "expression", "becomes", "a", "quoted", "syntax", "object", "that", "also", "includes", "lexical", "information", ".", "Similarly", ",", "the", "quasisyntax", "operator", "#", "`", "and", "unsyntax", "operator", "#", ",", "behave", "for", "syntax", "objects", "like", "the", "quasiquote", "and", "unquote", "operators", "for", "S-expressions", ",", "respectively", ".", "The", "use", "of", "arbitrary", "computations", "in", "the", "result", "expression", "allows", "macros", "to", "expand", "differently", "based", "on", "the", "results", "of", "actual", "computations", ":", "-LRB-", "define-syntax", "swap", "-LRB-", "lambda", "-LRB-", "stx", "-RRB-", "-LRB-", "syntax-case", "stx", "-LRB-", "-RRB-", "-LSB-", "-LRB-", "swap", "a", "b", "-RRB-", "-LRB-", "if", "-LRB-", "and", "-LRB-", "identifier", "?", "#", "`", "a", "-RRB-", "-LRB-", "identifier", "?", "#", "`", "b", "-RRB-", "-RRB-", "#", "'", "-LRB-", "let", "-LRB-", "-LSB-", "tmp", "b", "-RSB-", "-RRB-", "-LRB-", "set", "!", "b", "a", "-RRB-", "-LRB-", "set", "!", "a", "tmp", "-RRB-", "-RRB-", "-LRB-", "raise-syntax-error", "`", "swap", "``", "expects", "identifiers", "''", "stx", "-RRB-", "-RRB-", "-RSB-", "-RRB-", "-RRB-", "-RRB-", "In", "this", "example", ",", "if", "swap", "is", "not", "given", "identifiers", "as", "arguments", ",", "the", "raise-syntax-error", "function", "uses", "the", "lexical", "information", "in", "the", "stx", "syntax", "object", "to", "highlight", "the", "original", "swap", "expression", "in", "the", "user", "'s", "code", ".", "Conditional", "matching", "can", "also", "be", "achieved", "using", "pattern", "guards", ",", "which", "can", "inspect", "a", "matched", "expression", "and", "determine", "whether", "to", "accept", "a", "match", ":", "-LRB-", "define-syntax", "swap", "-LRB-", "lambda", "-LRB-", "stx", "-RRB-", "-LRB-", "syntax-case", "stx", "-LRB-", "-RRB-", "-LSB-", "-LRB-", "swap", "a", "b", "-RRB-", "-LRB-", "and", "-LRB-", "identifier", "?", "#", "`", "a", "-RRB-", "-LRB-", "identifier", "?", "#", "`", "b", "-RRB-", "-RRB-", "#", "'", "-LRB-", "let", "-LRB-", "-LSB-", "tmp", "b", "-RSB-", "-RRB-", "-LRB-", "set", "!", "b", "a", "-RRB-", "-LRB-", "set", "!", "a", "tmp", "-RRB-", "-RRB-", "-RSB-", "-RRB-", "-RRB-", "-RRB-", "The", "pattern", "guard", "is", "a", "new", "expression", ",", "inserted", "between", "the", "pattern", "and", "the", "result", "expressions", ".", "A", "guarded", "match", "only", "succeeds", "if", "its", "guard", "does", "not", "evaluate", "to", "false", ";", "when", "a", "guard", "fails", ",", "the", "pattern", "matcher", "falls", "through", "to", "attempt", "the", "next", "pattern", "in", "the", "list", ".", "In", "this", "section", ",", "we", "present", "a", "general", "technique", "for", "specializing", "embedded", "interpreters", "with", "macros", ",", "and", "explain", "how", "we", "apply", "this", "technique", "to", "the", "three", "embedded", "languages", "described", "in", "Section", "3", ".", "21", "The", "technique", "can", "be", "summarized", "in", "the", "following", "steps", ":", "1", ".", "Write", "the", "interpreter", "compositionally", "as", "a", "module", "of", "library", "functions", ".", "2", ".", "Replace", "the", "interpreter", "'s", "main", "function", "with", "a", "macro", "that", "unfolds", "the", "case", "dispatch", "on", "the", "input", "-LRB-", "the", "embedded", "program", "-RRB-", "when", "it", "is", "known", "statically", ".", "3", ".", "Default", "to", "the", "original", "function", "when", "the", "input", "is", "not", "known", "at", "compile", "time", ".", "Writing", "the", "interpreters", "compositionally", "serves", "two", "purposes", ".", "First", ",", "by", "delegating", "the", "interpretation", "of", "the", "program", "constructs", "that", "make", "up", "an", "embedded", "program", "to", "separate", "functions", ",", "it", "becomes", "possible", "to", "share", "code", "between", "the", "original", "interpreter", "and", "the", "macro", "that", "replaces", "it", ".", "This", "effectively", "limits", "the", "macro", "'s", "responsibility", "to", "a", "simple", "dispatch", ".", "Second", ",", "compositionality", "makes", "it", "easier", "to", "guarantee", "that", "unfolding", "terminates", ",", "since", "the", "recursive", "macro", "calls", "always", "operate", "on", "smaller", "terms", ".", "6.1", "Format", "Strings", "The", "implementation", "of", "a", "string", "formatter", "involves", "a", "number", "of", "simple", "library", "functions", "to", "convert", "each", "possible", "type", "of", "argument", "to", "strings", ".", "Each", "formatting", "tag", "corresponds", "to", "one", "of", "these", "combinators", ".", "For", "example", ",", "the", "''", "~", "c", "''", "tag", "corresponds", "to", "a", "combinator", ",", "format/char", ",", "which", "accepts", "a", "character", "and", "converts", "it", "to", "a", "string", ",", "the", "''", "~", "x", "''", "tag", "corresponds", "to", "format/hex", ",", "which", "converts", "integers", "to", "their", "hexadecimal", "representation", ",", "and", "so", "forth", ".", "The", "string", "formatter", "then", "simply", "dispatches", "to", "these", "combinators", "based", "on", "the", "content", "of", "the", "formatting", "string", ":", "-LRB-", "define", "-LRB-", "format", "s", ".", "args", "-RRB-", "-LRB-", "cond", "-LSB-", "-LRB-", "string", "=", "?", "s", "''", "''", "-RRB-", "''", "''", "-RSB-", "-LSB-", "-LRB-", "string", "=", "?", "-LRB-", "substring", "s", "0", "2", "-RRB-", "''", "~", "c", "''", "-RRB-", "-LRB-", "string-append", "-LRB-", "format/char", "-LRB-", "car", "args", "-RRB-", "-RRB-", "-LRB-", "apply", "format", "-LRB-", "substring", "s", "2", "-RRB-", "-LRB-", "cdr", "args", "-RRB-", "-RRB-", "-RRB-", "-RSB-", "etc", ".", "-RRB-", "-RRB-", "The", "interpreter", "accepts", "the", "formatting", "string", "s", "and", ",", "based", "on", "formatting", "tags", "like", "''", "~", "c", "''", "that", "it", "finds", ",", "decomposes", "the", "string", "into", "a", "series", "of", "applications", "of", "the", "corresponding", "combinators", "to", "successive", "arguments", "of", "format", "-LRB-", "represented", "by", "args", "-RRB-", ".", "It", "reassembles", "the", "transformed", "pieces", "with", "the", "standard", "string-append", "function", ".", "In", "order", "to", "specialize", "the", "format", "interpreter", ",", "we", "replace", "it", "with", "a", "macro", "that", "re-uses", "its", "associated", "combinators", ":", "-LRB-", "define", "-LRB-", "format/dynamic", "s", ".", "args", "-RRB-", "as", "before", "-RRB-", "-LRB-", "define-syntax", "format", "-LRB-", "lambda", "-LRB-", "stx", "-RRB-", "-LRB-", "syntax-case", "stx", "-LRB-", "-RRB-", "-LSB-", "-LRB-", "format", "s-exp", "a1", "a2", "...", "-RRB-", "-LRB-", "string", "?", "-LRB-", "syntax-object", "-", ">", "datum", "#", "'s", "-", "exp", "-RRB-", "-RRB-", "-LRB-", "let", "-LRB-", "-LSB-", "s", "-LRB-", "syntax-object", "-", ">", "datum", "#", "'s", "-", "exp", "-RRB-", "-RSB-", "-RRB-", "-LRB-", "cond", "-LSB-", "-LRB-", "string", "=", "?", "s", "''", "''", "-RRB-", "#", "'", "''", "''", "-RSB-", "-LSB-", "-LRB-", "string", "=", "?", "-LRB-", "substring", "s", "0", "2", "-RRB-", "''", "~", "c", "''", "-RRB-", "#", "`", "-LRB-", "string-append", "-LRB-", "format/char", "a1", "-RRB-", "-LRB-", "format", "#", ",", "-LRB-", "substring", "s", "2", "-RRB-", "a2", "...", "-RRB-", "-RRB-", "-RSB-", "etc", ".", "-RRB-", "-RRB-", "-RSB-", "-LSB-", "-LRB-", "format", "s-exp", "a1", "a2", "...", "-RRB-", "#", "'", "-LRB-", "format/dynamic", "s-exp", "a1", "a2", "...", "-RRB-", "-RSB-", "-LSB-", "format", "-LRB-", "identifier", "?", "#", "`", "format", "-RRB-", "#", "`", "format/dynamic", "-RSB-", "-RRB-", "-RRB-", "-RRB-", "The", "partial", "evaluation", "works", "by", "unfolding", "the", "interpreter", "'s", "top-level", "case", "dispatch", "on", "the", "program", "text", ".", "Rather", "than", "delaying", "the", "inspection", "of", "the", "string", "to", "runtime", ",", "the", "macro", "precomputes", "the", "result", "of", "the", "decomposition", "statically", "whenever", "the", "string", "is", "given", "as", "a", "literal", ".", "We", "can", "identify", "literal", "strings", "through", "the", "use", "of", "a", "pattern", "guard", ".", "More", "precisely", ",", "the", "macro", "can", "inspect", "the", "syntax", "object", "s-exp", ",", "corresponding", "to", "format", "'s", "first", "argument", ",", "and", "determine", "whether", "it", "can", "be", "converted", "to", "a", "string", "via", "syntax-object", "-", ">", "datum", ".", "When", "the", "conversion", "succeeds", ",", "the", "pattern", "guard", "allows", "the", "match", "to", "succeed", ",", "and", "partial", "evaluation", "proceeds", ".", "After", "the", "macro", "expansion", ",", "the", "resulting", "program", "text", "consists", "of", "the", "application", "of", "string-append", "to", "the", "calls", "to", "the", "library", "functions", ",", "with", "no", "references", "to", "the", "interpreter", ":", "-LRB-", "format", "''", "~", "c", "=", "0x", "~", "x", "''", "c", "n", "-RRB-", "-LRB-", "string-append", "-LRB-", "format/char", "c", "-RRB-", "''", "=", "0x", "''", "-LRB-", "format/hex", "n", "-RRB-", "-RRB-", "In", "order", "for", "the", "replacement", "of", "the", "original", "function", "with", "a", "macro", "to", "be", "unobservable", ",", "the", "macro", "must", "behave", "exactly", "like", "the", "original", "function", "in", "all", "contexts", ".", "When", "format", "is", "applied", "to", "a", "dynamic", "formatting", "string", ",", "the", "macro", "defaults", "to", "the", "original", "functional", "implementation", ".", "Similarly", ",", "when", "format", "is", "passed", "as", "an", "argument", "to", "a", "higher-order", "function", ",", "we", "use", "the", "technique", "of", "identifier", "macros", "to", "refer", "to", "the", "original", "function", ".", "4", "6.2", "Regular", "Expressions", "One", "of", "PLT", "Scheme", "'s", "regular", "expression", "engines", "uses", "the", "two-continuation", "model", "of", "backtracking", "-LSB-", "1", "-RSB-", ".", "A", "regular", "expression", "``", "matcher", "''", "is", "represented", "as", "a", "function", "that", "accepts", "a", "success", "continuation", "and", "a", "failure", "continuation", ".", "When", "a", "matcher", "succeeds", "in", "matching", "its", "input", ",", "it", "applies", "its", "success", "continuation", "to", "the", "accepted", "input", ",", "and", "when", "it", "fails", "to", "match", ",", "it", "invokes", "its", "failure", "continuation", ".", "This", "allows", "the", "interpretation", "of", "the", "alternation", "operator", "''", "|", "''", "to", "try", "each", "alternate", "pattern", "sequentially", ":", "an", "alternation", "matcher", "tries", "to", "match", "its", "first", "pattern", "with", "a", "failure", "continuation", "to", "try", "the", "second", "pattern", ".", "Thus", "if", "the", "first", "pattern", "fails", ",", "the", "matcher", "invokes", "the", "failure", "continuation", ",", "which", "tries", "the", "second", "pattern", ".", "Otherwise", ",", "the", "failure", "continuation", "is", "disregarded", "and", "the", "matcher", "applies", "its", "success", "continuation", ",", "which", "skips", "the", "second", "pattern", "and", "returns", "the", "result", "of", "the", "first", "match", ".", "Each", "of", "the", "regular", "expression", "constructions", "corresponds", "to", "a", "functional", "combinator", "that", "produces", "a", "matcher", ".", "These", "combinators", "can", "express", "the", "standard", "operators", "of", "regular", "expressions", ":", "success", ",", "failure", ",", "alternation", ",", "concatenation", ",", "and", "repetition", "-LRB-", "i.e.", ",", "Kleene", "star", "-RRB-", ".", "There", "is", "also", "a", "submatch", "combinator", "for", "the", "parenthesized", "subpatterns", "in", "the", "original", "regular", "expression", ".", "A", "successful", "regexp-match", "returns", "a", "list", "with", "the", "entire", "matched", "string", "followed", "by", "each", "submatch", "corresponding", "to", "a", "parenthesized", "subpattern", ".", "Any", "subpattern", "that", "does", "not", "match", "corresponds", "to", "an", "entry", "of", "false", "-LRB-", "#", "f", "-RRB-", "in", "the", "result", "list", ".", "For", "example", ",", "the", "following", "successful", "4", "The", "case", "of", "set", "!", "is", "not", "critical", "since", ",", "in", "PLT", "Scheme", ",", "imported", "module", "references", "can", "not", "be", "the", "target", "of", "an", "assignment", ".", "22", "match", "contains", "a", "failed", "submatch", ":", "-LRB-", "regexp-match", "``", "a", "-LRB-", "-LRB-", "b", "-RRB-", "|", "-LRB-", "c", "-RRB-", "-RRB-", "''", "``", "ac", "''", "-RRB-", "-LRB-", "list", "``", "ac", "''", "``", "c", "''", "#", "f", "``", "c", "''", "-RRB-", "Regardless", "of", "the", "contents", "of", "the", "second", "argument", ",", "there", "is", "always", "exactly", "one", "element", "in", "the", "result", "list", "for", "each", "parenthesized", "subpattern", "in", "the", "regular", "expression", ".", "The", "submatch", "operator", "accomplishes", "this", "by", "wrapping", "a", "given", "matcher", "with", "continuations", "that", "add", "either", "the", "result", "of", "a", "successful", "match", "or", "false", "to", "a", "list", "of", "indexed", "submatches", "accumulated", "during", "the", "match", ".", "The", "initial", "-LRB-", "success", "-RRB-", "continuation", "for", "regexp-match", "sorts", "the", "accumulated", "list", "of", "indexed", "submatches", ",", "adding", "false", "entries", "for", "all", "submatches", "that", "were", "never", "reached", "because", "of", "backtracking", ".", "Partial", "evaluation", "of", "the", "regular", "expression", "library", "works", "by", "unfolding", "the", "definitions", "of", "the", "combinators", "as", "well", "as", "the", "contents", "of", "the", "initial", "continuation", ".", "Each", "application", "of", "a", "combinator", "gets", "replaced", "by", "an", "application", "of", "a", "copy", "of", "the", "body", "of", "the", "combinator", "'s", "definition", ".", "5", "The", "recursive", "code", "that", "constructs", "the", "result", "list", "in", "the", "success", "continuation", "gets", "expanded", "into", "an", "explicit", "chain", "of", "cons", "expressions", ":", "-LRB-", "regexp-match", "``", "a", "-LRB-", "-LRB-", "b", "-RRB-", "|", "-LRB-", "c", "-RRB-", "-RRB-", "''", "input", "-RRB-", "-LRB-", "-LRB-", "build-matcher", "input", "-RRB-", "-LRB-", "lambda", "-LRB-", "subs", "-RRB-", "-LRB-", "cons", "-LRB-", "lookup", "subs", "0", "-RRB-", "-LRB-", "cons", "-LRB-", "lookup", "subs", "1", "-RRB-", "-LRB-", "cons", "-LRB-", "lookup", "subs", "2", "-RRB-", "-LRB-", "cons", "-LRB-", "lookup", "subs", "3", "-RRB-", "null", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "lambda", "-LRB-", "-RRB-", "#", "f", "-RRB-", "-RRB-", "Since", "the", "size", "of", "the", "result", "list", "is", "known", ",", "it", "is", "possible", "to", "unfold", "recursive", "definitions", ",", "such", "as", "the", "initial", "continuation", "that", "constructs", "the", "match", "result", ",", "to", "make", "the", "structure", "of", "the", "result", "explicit", ".", "Finally", ",", "in", "the", "cases", "where", "the", "embedded", "program", "is", "not", "known", "statically", ",", "or", "when", "regexp-match", "is", "used", "in", "non-application", "contexts", ",", "the", "macro", "expands", "to", "the", "original", "functional", "definition", ".", "6.3", "SchemeQL", "The", "SchemeQL", "language", "differs", "from", "the", "other", "examples", "in", "that", "its", "programs", "are", "not", "embedded", "as", "strings", "but", "rather", "as", "special", "forms", "recognized", "by", "a", "library", "of", "macros", ".", "This", "means", "that", "for", "queries", "that", "select", "from", "a", "fixed", "set", "of", "columns", ",", "the", "length", "of", "cursor", "rows", "is", "always", "known", "statically", ";", "the", "column", "names", "are", "specified", "as", "a", "sequence", "of", "identifiers", "in", "the", "syntax", "of", "the", "query", "form", ".", "Just", "as", "the", "interpreters", "for", "the", "string-based", "embedded", "programs", "perform", "a", "case", "dispatch", "on", "the", "contents", "of", "program", "strings", ",", "the", "SchemeQL", "macros", "dispatch", "on", "the", "shape", "of", "the", "query", "expressions", ".", "The", "cases", "where", "partial", "evaluation", "is", "possible", "can", "be", "captured", "by", "inserting", "additional", "rules", "into", "the", "original", "library", "'s", "macros", ".", "Partial", "evaluation", "of", "SchemeQL", "queries", "uses", "the", "same", "technique", "as", "for", "the", "regular", "expression", "library", ":", "the", "recursive", "function", "that", "constructs", "a", "cursor", "row", "is", "unfolded", "into", "an", "explicit", "chain", "of", "cons", "expressions", ".", "Since", "we", "know", "the", "length", "of", "the", "cursor", "row", "statically", ",", "the", "unfolding", "is", "guaranteed", "to", "terminate", ".", "5", "It", "is", "convenient", "to", "define", "the", "Kleene", "star", "operator", "recursively", "by", "p", "=", "-LRB-", "pp", "-RRB-", "|", ".", "However", ",", "this", "non-compositional", "definition", "leads", "to", "an", "infinite", "macro", "expansion", ",", "so", "the", "macro", "must", "carefully", "avoid", "unfolding", "such", "a", "definition", ".", "Since", "the", "SchemeQL", "library", "is", "implemented", "as", "macros", ",", "there", "is", "no", "need", "to", "capture", "the", "cases", "where", "the", "query", "forms", "are", "used", "in", "non-application", "contexts", ".", "Adding", "special", "cases", "to", "the", "existing", "macro", "does", "not", "affect", "its", "set", "of", "allowable", "contexts", ".", "Similarly", ",", "the", "cases", "where", "the", "row", "length", "is", "not", "known", "statically", "are", "already", "handled", "by", "the", "existing", "SchemeQL", "macros", ".", "MrFlow", "'s", "value", "flow", "analysis", "is", "an", "extension", "of", "an", "ordinary", "set-based", "closure", "analysis", "like", "Palsberg", "'s", "-LSB-", "22", "-RSB-", ".", "For", "every", "expression", "in", "a", "program", ",", "MrFlow", "statically", "computes", "a", "conservative", "approximation", "of", "the", "set", "of", "values", "to", "which", "the", "expression", "might", "evaluate", "at", "runtime", ".", "From", "a", "given", "expression", "it", "creates", "a", "graph", "that", "simulates", "the", "flow", "of", "values", "inside", "the", "expression", ".", "The", "analysis", "simulates", "evaluation", "by", "propagating", "abstract", "values", "in", "this", "graph", "until", "reaching", "a", "fixed", "point", ".", "From", "the", "set", "of", "abstract", "values", "that", "propagate", "to", "a", "given", "node", ",", "the", "analysis", "reconstructs", "a", "type", "that", "is", "then", "displayed", "to", "the", "user", "through", "DrScheme", "'s", "graphical", "interface", ".", "Extensions", "to", "the", "basic", "analysis", "include", ",", "among", "other", "things", ":", "analyzing", "functions", "that", "can", "take", "any", "number", "of", "arguments", ",", "analyzing", "assignments", "to", "variables", "-LRB-", "set", "!", "-RRB-", ",", "and", "analyzing", "generative", "data", "structure", "definitions", ".", "MrFlow", "also", "supports", "all", "the", "primitives", "defined", "in", "R", "5", "RS", "-LSB-", "17", "-RSB-", ".", "The", "vast", "majority", "of", "these", "primitives", "are", "defined", "using", "a", "special", ",", "type-like", "language", "embedded", "inside", "the", "analyzer", ".", "For", "a", "given", "primitive", ",", "the", "corresponding", "type", "translates", "to", "a", "graph", "that", "simulates", "the", "primitive", "'s", "internal", "flows", ".", "The", "analysis", "then", "proceeds", "just", "like", "for", "any", "other", "expression", ".", "The", "few", "remaining", "primitives", "need", "special", "handling", "because", "of", "their", "imperative", "nature", "-LRB-", "set-car", "!", "or", "vector-fill", "!", "-RRB-", "and", "are", "analyzed", "in", "an", "ad-hoc", "manner", ".", "By", "default", ",", "MrFlow", "analyzes", "the", "format", "primitive", "based", "on", "the", "following", "pseudo-type", "description", ":", "-LRB-", "string", "top", "*", "-", ">", "string", "-RRB-", "The", "*", "in", "the", "*", "-", ">", "constructor", "means", "that", "the", "primitive", "is", "a", "function", "that", "can", "take", "any", "number", "of", "arguments", "as", "input", "beyond", "the", "ones", "explicitly", "specified", ".", "In", "the", "present", "case", ",", "the", "function", "must", "receive", "a", "string", "as", "its", "first", "argument", ",", "followed", "by", "any", "number", "of", "arguments", "of", "any", "type", "-LRB-", "represented", "by", "the", "pseudo-type", "top", "-RRB-", ",", "and", "returns", "a", "string", ".", "Given", "such", "a", "description", ",", "the", "only", "errors", "MrFlow", "detects", "are", "when", "the", "primitive", "is", "given", "something", "other", "than", "a", "string", "as", "first", "argument", ",", "or", "if", "it", "is", "given", "no", "argument", "at", "all", ".", "After", "partial", "evaluation", ",", "the", "application", "of", "format", "is", "replaced", "by", "calls", "to", "its", "individual", "library", "functions", "such", "as", "format/char", "and", "format/hex", ".", "These", "functions", "have", "respectively", "the", "pseudo-types", "-LRB-", "char", "-", ">", "string", "-RRB-", "and", "-LRB-", "integer", "-", ">", "string", "-RRB-", "Using", "this", "more", "precise", "information", ",", "MrFlow", "can", "detect", "arguments", "to", "the", "original", "format", "call", "that", "have", "the", "wrong", "type", ".", "Checking", "that", "the", "format", "primitive", "receives", "the", "right", "number", "of", "arguments", "for", "a", "given", "formatting", "string", "happens", "during", "partial", "evaluation", ",", "so", "the", "analyzer", "never", "sees", "arity", "errors", "in", "the", "expanded", "code", ".", "Since", "DrScheme", "'s", "syntax", "object", "system", "keeps", "track", "of", "program", "terms", "through", "the", "macro", "expansions", "-LSB-", "11", "-RSB-", ",", "MrFlow", "is", "then", "able", "to", "trace", "detected", "errors", "back", "to", "the", "original", "guilty", "terms", "in", "the", "user", "'s", "23", "program", "and", "flag", "them", "graphically", ".", "Arrows", "representing", "the", "flow", "of", "values", "can", "also", "be", "displayed", "interactively", "in", "terms", "of", "the", "original", "program", ",", "allowing", "the", "user", "to", "track", "in", "the", "program", "the", "sources", "of", "the", "values", "that", "triggered", "the", "errors", ".", "In", "essence", ",", "the", "only", "requirement", "for", "MrFlow", "to", "analyze", "the", "partially", "evaluated", "code", "of", "format", "is", "to", "specify", "the", "pseudo-types", "for", "the", "library", "functions", "introduced", "by", "the", "transformations", ",", "like", "format/char", "6", ".", "Similarly", ",", "it", "is", "enough", "to", "define", "pseudo-types", "for", "the", "functions", "used", "in", "the", "partially", "evaluated", "form", "of", "SchemeQL", "'s", "query", "to", "have", "MrFlow", "automatically", "compute", "precise", "results", "without", "any", "further", "modifications", ".", "The", "partial", "evaluation", "for", "regular", "expressions", "is", "more", "challenging", ".", "Consider", "the", "example", "from", "Section", "1", ":", "-LRB-", "let", "-LRB-", "-LSB-", "r", "-LRB-", "regexp-match", "``", "http", ":", "/", "/", "-LRB-", "-LSB-", "a-z", ".", "-RSB-", "*", "-RRB-", "/", "-LRB-", "-LSB-", "a-z", "-RSB-", "*", "-RRB-", "/", "''", "line", "-RRB-", "-RSB-", "-RRB-", "-LRB-", "if", "r", "-LRB-", "process-url", "-LRB-", "third", "r", "-RRB-", "-LRB-", "dispatch", "-LRB-", "second", "r", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "log-error", "-RRB-", "-RRB-", "-RRB-", "After", "the", "call", "to", "regexp-match", ",", "the", "variable", "r", "can", "be", "either", "a", "list", "of", "three", "elements", "or", "false", ".", "Based", "on", "its", "conservative", "pseudo-type", "specification", "for", "regexp-match", ",", "MrFlow", "computes", "that", "r", "can", "be", "either", "a", "list", "of", "unknown", "length", "or", "false", ".", "This", "in", "turn", "triggers", "two", "errors", "for", "each", "of", "the", "second", "and", "third", "primitives", ":", "one", "error", "because", "the", "primitive", "might", "be", "applied", "to", "false", "when", "it", "expected", "a", "list", ",", "and", "one", "error", "because", "it", "might", "be", "applied", "to", "a", "list", "that", "is", "too", "short", ".", "The", "second", "kind", "of", "false", "positives", "can", "be", "removed", "by", "partially", "evaluating", "regexp-match", "to", "make", "the", "structure", "of", "the", "result", "more", "explicit", "to", "MrFlow", ",", "as", "described", "in", "Section", "6.2", ".", "The", "analysis", "then", "determines", "that", "the", "primitive", "returns", "either", "a", "list", "of", "three", "elements", "or", "false", "and", "in", "turn", "checks", "that", "second", "and", "third", "are", "applied", "to", "a", "list", "with", "enough", "elements", ".", "Still", ",", "the", "possible", "return", "values", "of", "regexp-match", "may", "contain", "false", ".", "Indeed", ",", "false", "will", "be", "the", "value", "returned", "at", "runtime", "if", "the", "line", "given", "to", "regexp-match", "does", "not", "match", "the", "pattern", ".", "The", "programmer", "has", "to", "test", "for", "such", "a", "condition", "explicitly", "before", "processing", "the", "result", "any", "further", ".", "The", "only", "way", "for", "MrFlow", "not", "to", "show", "a", "false", "positive", "for", "second", "and", "third", ",", "because", "of", "the", "presence", "of", "this", "false", "value", ",", "is", "to", "make", "the", "analysis", "aware", "of", "the", "dependency", "between", "the", "test", "of", "r", "and", "the", "two", "branches", "of", "the", "if", "-", "expression", ".", "This", "form", "of", "flow-sensitive", "analysis", "for", "if", "-", "expressions", "is", "difficult", "to", "implement", "in", "general", "since", "there", "is", "no", "bound", "to", "the", "complexity", "of", "the", "tested", "expression", ".", "In", "practice", ",", "however", ",", "an", "appreciable", "proportion", "of", "these", "tests", "are", "simple", "enough", "that", "an", "ad-hoc", "solution", "is", "sufficient", ".", "In", "the", "case", "where", "the", "test", "is", "simply", "a", "variable", "reference", "it", "is", "enough", "to", "create", "two", "corresponding", "ghost", "variables", ",", "one", "for", "each", "branch", "of", "the", "if", ",", "establish", "filtering", "flows", "between", "the", "variable", "r", "and", "the", "two", "ghost", "variables", ",", "and", "make", "sure", "each", "ghost", "variable", "binds", "the", "r", "variable", "references", "in", "its", "respective", "branch", "of", "the", "if", "-", "expression", ".", "The", "filtering", "flows", "prevent", "the", "false", "abstract", "value", "from", "flowing", "into", "the", "then", "branch", "of", "the", "if", "-", "expression", "and", "prevent", "everything", "but", "the", "false", "value", "from", "flowing", "into", "the", "else", "branch", ".", "Only", "the", "combination", "of", "this", "flow", "sensitivity", "for", "if", "-", "expressions", "with", "the", "partial", "evaluation", "of", "regexp-match", "gives", "analysis", "results", "with", "no", "false", "positives", ".", "6", "Specifying", "such", "pseudo-types", "will", "not", "even", "be", "necessary", "once", "MrFlow", "knows", "how", "to", "analyze", "PLT", "Scheme", "contracts", ".", "This", "is", "the", "subject", "of", "a", "forthcoming", "paper", ".", "Once", "flow-sensitive", "analysis", "of", "if", "-", "expressions", "is", "added", "and", "pseudo-type", "descriptions", "of", "the", "necessary", "primitives", "are", "provided", "to", "the", "analysis", ",", "partial", "evaluation", "makes", "all", "the", "false", "positives", "described", "in", "Section", "3", "disappear", ",", "as", "we", "illustrate", "in", "the", "next", "section", ".", "Partially", "evaluating", "format", "eliminates", "the", "possibility", "of", "runtime", "arity", "errors", ",", "since", "the", "macro", "transformations", "can", "statically", "check", "such", "invariants", ".", "It", "also", "allows", "MrFlow", "to", "detect", "type", "errors", "that", "it", "could", "not", "detect", "before", ",", "since", "the", "corresponding", "invariants", "were", "described", "only", "in", "the", "embedded", "formatting", "language", ".", "These", "invariants", "are", "now", "explicit", "at", "the", "Scheme", "level", "in", "the", "transformed", "program", "through", "the", "use", "of", "simpler", "primitives", "like", "format/char", "or", "format/integer", ".", "Figure", "5", "shows", "the", "same", "program", "as", "in", "Figure", "2", ",", "but", "after", "applying", "partial", "evaluation", ".", "The", "format", "primitive", "is", "now", "blamed", "for", "two", "type", "errors", "that", "before", "could", "be", "found", "only", "at", "runtime", ".", "The", "error", "messages", "show", "that", "the", "user", "simply", "gave", "the", "arguments", "n", "and", "c", "in", "the", "wrong", "order", ".", "Similarly", ",", "specializing", "the", "regular", "expression", "engine", "with", "respect", "to", "a", "pattern", "eliminates", "false", "positives", ".", "The", "length", "of", "the", "list", "returned", "by", "regexp-match", "can", "not", "be", "directly", "computed", "by", "the", "analysis", "since", "that", "information", "is", "hidden", "inside", "the", "regular", "expression", "pattern", ".", "As", "a", "result", ",", "the", "applications", "of", "second", "and", "third", "in", "Figure", "3", "are", "flagged", "as", "potential", "runtime", "errors", "-LRB-", "we", "have", "omitted", "the", "fairly", "large", "error", "messages", "from", "the", "figure", "-RRB-", ".", "After", "specialization", ",", "the", "structure", "of", "the", "value", "returned", "by", "regexp-match", "is", "exposed", "to", "the", "analysis", "and", "MrFlow", "can", "then", "prove", "that", "if", "regexp-match", "returns", "a", "list", ",", "it", "must", "contain", "three", "elements", ".", "The", "false", "positives", "for", "second", "and", "third", "disappear", "in", "Figure", "6", ".", "Of", "course", ",", "regexp-match", "can", "also", "return", "false", "at", "runtime", ",", "and", "the", "analysis", "correctly", "predicts", "this", "regardless", "of", "whether", "partial", "evaluation", "is", "used", "or", "not", ".", "Adding", "flow", "sensitivity", "for", "if", "-", "expressions", "as", "described", "in", "Section", "7", "removes", "these", "last", "spurious", "errors", "in", "Figure", "6", ".", "Partial", "evaluation", "now", "allows", "the", "precise", "analysis", "of", "SchemeQL", "queries", "as", "well", ".", "Figure", "7", "shows", "the", "precise", "analysis", "of", "the", "same", "program", "as", "in", "Figure", "4", ",", "this", "time", "after", "partial", "evaluation", ".", "As", "with", "regexp-match", ",", "the", "analysis", "previously", "computed", "that", "cursor-car", "could", "return", "a", "list", "of", "any", "length", ",", "and", "therefore", "flagged", "the", "call", "to", "third", "as", "a", "potential", "runtime", "error", ".", "This", "call", "is", "now", "free", "of", "spurious", "errors", "since", "the", "partial", "evaluation", "exposes", "enough", "structure", "of", "the", "list", "returned", "by", "cursor-car", "that", "MrFlow", "can", "compute", "its", "exact", "length", "and", "verify", "that", "third", "can", "not", "fail", "at", "runtime", ".", "While", "the", "results", "computed", "by", "the", "analysis", "become", "more", "precise", ",", "partially", "evaluating", "the", "interpreters", "for", "any", "of", "the", "three", "embedded", "languages", "we", "use", "in", "this", "paper", "results", "in", "code", "that", "is", "bigger", "than", "the", "original", "program", ".", "Bigger", "code", "in", "turn", "means", "that", "analyses", "will", "take", "more", "time", "to", "complete", ".", "There", "is", "therefore", "a", "trade-off", "between", "precision", "and", "efficiency", "of", "the", "analyses", ".", "We", "intend", "to", "turn", "that", "trade-off", "into", "a", "user", "option", "in", "MrFlow", ".", "The", "user", "might", "also", "exercise", "full", "control", "over", "which", "embedded", "languages", "are", "partially", "evaluated", "and", "where", "by", "using", "either", "the", "functional", "or", "macro", "versions", "of", "the", "embedded", "languages", "'", "interpreters", ",", "switching", "between", "the", "two", "through", "the", "judicious", "use", "of", "a", "module", "system", ",", "for", "example", "-LSB-", "11", "-RSB-", ".", "Note", "that", "partial", "evaluation", "does", "not", "always", "benefit", "all", "analyses", ".", "In", "the", "regexp-match", "example", "from", "Figure", "6", ",", "spurious", "errors", "disappear", "because", "MrFlow", "has", "been", "able", "to", "prove", "that", "the", "list", "r", "is", "of", "length", "three", "and", "therefore", "that", "applying", "the", "primitives", "second", "or", "24", "Figure", "5", ".", "Precise", "analysis", "of", "the", "format", "primitive", ".", "Figure", "6", ".", "Precise", "analysis", "of", "regexp-match", ".", "Figure", "7", ".", "Precise", "analysis", "of", "a", "SchemeQL", "query", ".", "25", "third", "to", "r", "can", "not", "fail", ".", "If", "the", "analysis", "were", "a", "Hindley-Milner-like", "type", "system", ",", "though", ",", "no", "difference", "would", "be", "seen", "whether", "partial", "evaluation", "were", "used", "or", "not", ".", "Indeed", ",", "while", "such", "a", "type", "system", "could", "statically", "prove", "that", "the", "arguments", "given", "to", "second", "or", "third", "are", "lists", ",", "is", "would", "not", "attempt", "to", "prove", "that", "they", "are", "lists", "of", "the", "required", "length", "and", "a", "runtime", "test", "would", "still", "be", "required", ".", "Using", "partial", "evaluation", "to", "expose", "such", "a", "property", "to", "the", "analysis", "would", "therefore", "be", "useless", ".", "Simply", "put", ",", "making", "invariants", "from", "embedded", "programs", "explicit", "in", "the", "host", "language", "only", "matters", "if", "the", "system", "analyzing", "the", "host", "language", "cares", "about", "those", "invariants", ".", "This", "does", "not", "mean", "partial", "evaluation", "is", "always", "useless", "when", "used", "in", "conjunction", "with", "a", "Hindley-Milner", "type", "system", ",", "though", ".", "Partially", "evaluating", "format", ",", "for", "example", ",", "would", "allow", "the", "type", "system", "to", "verify", "that", "the", "formatting", "string", "agrees", "with", "the", "types", "of", "the", "remaining", "arguments", ".", "This", "is", "in", "contrast", "to", "the", "ad-hoc", "solution", "used", "in", "OCaml", "-LSB-", "19", "-RSB-", "to", "type", "check", "the", "printf", "primitive", ",", "or", "the", "use", "of", "dependent", "types", "in", "the", "case", "of", "Cayenne", "-LSB-", "4", "-RSB-", ".", "Our", "work", "is", "analogous", "to", "designing", "type-safe", "embedded", "languages", "such", "as", "the", "one", "for", "printf", "-LSB-", "21", ",", "4", "-RSB-", ".", "Both", "problems", "involve", "determining", "static", "information", "about", "programs", "based", "on", "the", "values", "of", "embedded", "programs", ".", "In", "some", "cases", ",", "designers", "of", "typed", "languages", "simply", "extend", "the", "host", "language", "to", "include", "specific", "embedded", "languages", ".", "The", "OCaml", "language", ",", "for", "example", ",", "contains", "a", "special", "library", "for", "printf", "-LSB-", "19", "-RSB-", "and", "uses", "of", "printf", "are", "type-checked", "in", "an", "ad-hoc", "manner", ".", "Similarly", ",", "the", "GCC", "compiler", "for", "the", "C", "language", "uses", "ad-hoc", "checking", "to", "find", "errors", "in", "printf", "format", "strings", ".", "Danvy", "-LSB-", "7", "-RSB-", "and", "Hinze", "-LSB-", "14", "-RSB-", "suggest", "implementations", "of", "printf", "in", "ML", "and", "Haskell", ",", "respectively", ",", "that", "obviate", "the", "need", "for", "dependent", "types", "by", "recasting", "the", "library", "in", "terms", "of", "individual", "combinators", ".", "In", "our", "system", ",", "those", "individual", "combinators", "are", "automatically", "introduced", "during", "macro", "expansion", ".", "The", "C++", "language", "-LSB-", "26", "-RSB-", "likewise", "avoids", "the", "problem", "of", "checking", "invariants", "for", "printf", "by", "breaking", "its", "functionality", "into", "smaller", "operations", "that", "do", "not", "require", "the", "use", "of", "an", "embedded", "formatting", "language", ".", "A", "work", "more", "closely", "related", "to", "ours", "is", "the", "Cayenne", "language", "-LSB-", "4", "-RSB-", ".", "Augustsson", "uses", "a", "form", "of", "partial", "evaluation", "to", "specialize", "dependent", "types", "into", "regular", "Haskell-like", "types", "that", "can", "then", "be", "used", "by", "the", "type", "system", "to", "check", "the", "user", "'s", "program", ".", "Our", "macro", "system", "uses", "macro-expansion", "time", "computation", "to", "specialize", "expressions", "so", "that", "the", "subsequent", "flow", "analysis", "can", "compute", "precise", "value", "flow", "results", ".", "Augustsson", "'s", "dependent", "type", "system", "uses", "computation", "performed", "at", "type-checking", "time", "to", "specialize", "dependent", "types", "so", "that", "the", "rest", "of", "the", "type", "checking", "can", "compute", "precise", "type", "information", ".", "The", "specialization", "is", "done", "in", "his", "system", "through", "the", "use", "of", "type-computing", "functions", "that", "are", "specified", "by", "the", "user", "and", "evaluated", "by", "the", "type", "system", ".", "The", "main", "difference", "is", "that", "his", "system", "is", "used", "to", "compute", "specialized", "types", "and", "verify", "that", "the", "program", "is", "safe", ".", "Once", "the", "original", "program", "has", "been", "typed", "it", "is", "just", "compiled", "as-is", "with", "type", "checking", "turned", "off", ".", "This", "means", "that", "in", "the", "case", "of", "format", ",", "for", "example", ",", "the", "formatting", "string", "is", "processed", "twice", ":", "once", "at", "type", "checking", "time", "to", "prove", "the", "safety", "of", "the", "program", ",", "and", "once", "again", "at", "run", "time", "to", "compute", "the", "actual", "result", ".", "Our", "system", "is", "used", "to", "compute", "specialized", "expressions", ".", "This", "means", "that", "the", "evaluation", "of", "the", "format", "'s", "string", "needs", "to", "be", "done", "only", "once", ".", "Once", "specialized", ",", "the", "same", "program", "can", "either", "be", "run", "or", "analyzed", "to", "prove", "its", "safety", ".", "In", "both", "cases", "the", "format", "string", "will", "not", "have", "to", "be", "reprocessed", "since", "it", "has", "been", "completely", "replaced", "by", "more", "specialized", "code", ".", "Another", "difference", "is", "that", "in", "our", "system", ",", "non-specialized", "programs", "are", "still", "valid", "programs", "that", "can", "be", "analyzed", ",", "proved", "safe", ",", "and", "run", "-LRB-", "though", "the", "result", "of", "the", "analysis", "will", "probably", "be", "more", "conservative", "than", "when", "analyzing", "the", "corresponding", "partially", "evaluated", "program", ",", "so", "proving", "safety", "might", "be", "more", "difficult", "-RRB-", ".", "This", "is", "not", "possible", "in", "Cayenne", "since", "programs", "with", "dependent", "types", "can", "not", "be", "run", "without", "going", "through", "the", "partial", "evaluation", "phase", "first", ".", "Much", "work", "has", "gone", "into", "optimization", "of", "embedded", "languages", ".", "Hudak", "-LSB-", "15", "-RSB-", ",", "Elliott", "et", "al", "-LSB-", "8", "-RSB-", ",", "Backhouse", "-LSB-", "5", "-RSB-", ",", "Christensen", "-LSB-", "6", "-RSB-", ",", "and", "Veldhuizen", "-LSB-", "27", "-RSB-", "all", "discuss", "the", "use", "of", "partial", "evaluation", "to", "improve", "the", "efficiency", "of", "embedded", "languages", ",", "although", "none", "makes", "the", "connection", "between", "partial", "evaluation", "and", "static", "analysis", ".", "In", "Back-house", "'s", "thesis", "he", "discusses", "the", "need", "to", "improve", "error", "checking", "for", "embedded", "languages", ",", "but", "he", "erroneously", "concludes", "that", "``", "syntactic", "analyses", "can", "not", "be", "used", "due", "to", "the", "embedded", "nature", "of", "domain-specific", "embedded", "languages", ".", "''", "The", "Lisp", "programming", "language", "-LRB-", "-LSB-", "25", "-RSB-", ",", "Section", "8.4", "-RRB-", "provides", "for", "``", "compiler", "macros", "''", "that", "programmers", "can", "use", "to", "create", "optimized", "versions", "of", "existing", "functions", ".", "The", "compiler", "is", "not", "required", "to", "use", "them", ",", "though", ".", "To", "our", "knowledge", ",", "there", "is", "no", "literature", "showing", "how", "to", "use", "these", "compiler", "macros", "to", "improve", "the", "results", "of", "static", "analyses", ".", "Lisp", "also", "has", "support", "for", "inlining", "functions", ",", "which", "might", "help", "monovariant", "analyses", "by", "duplicating", "the", "code", "of", "a", "function", "at", "all", "its", "call", "sites", ",", "thereby", "simulating", "polyvariant", "analyses", ".", "Bigloo", "-LSB-", "23", "-RSB-", "is", "a", "Scheme", "compiler", "that", "routinely", "implements", "embedded", "languages", "via", "macros", "and", "thus", "probably", "provides", "some", "of", "the", "benefits", "presented", "in", "this", "paper", "to", "the", "compiler", "'s", "internal", "analyses", ".", "The", "compiler", "has", "a", "switch", "to", "``", "enable", "optimization", "by", "macro", "expansion", ",", "''", "though", "there", "does", "not", "seem", "to", "be", "any", "documentation", "or", "literature", "describing", "the", "exact", "effect", "of", "using", "that", "switch", ".", "Programs", "in", "embedded", "languages", "contain", "invariants", "that", "are", "not", "automatically", "enforced", "by", "their", "host", "language", ".", "We", "have", "shown", "that", "using", "macros", "to", "partially", "evaluate", "interpreters", "of", "little", "languages", "embedded", "in", "Scheme", "with", "respect", "to", "their", "input", "programs", "can", "recapture", "these", "invariants", "and", "convey", "them", "to", "a", "flow", "analysis", ".", "Because", "it", "is", "based", "on", "macros", ",", "this", "technique", "does", "not", "require", "any", "ad-hoc", "modification", "of", "either", "interpreters", "or", "analyses", "and", "is", "thus", "readily", "available", "to", "programmers", ".", "This", "makes", "it", "a", "sweet", "spot", "in", "the", "programming", "complexity", "versus", "precision", "landscape", "of", "program", "analysis", ".", "We", "intend", "to", "investigate", "the", "relationship", "between", "macros", "and", "other", "program", "analyses", "in", "a", "similar", "manner", ".", "We", "thank", "Matthias", "Felleisen", ",", "Mitchell", "Wand", ",", "and", "Kenichi", "Asai", "for", "the", "discussions", "that", "led", "to", "this", "work", "and", "for", "their", "helpful", "feedback", ".", "Thanks", "to", "Matthew", "Flatt", "for", "his", "help", "with", "the", "presentation", "of", "Scheme", "macros", ".", "Thanks", "to", "Dale", "Vaillancourt", "for", "proofreading", "the", "paper", "and", "to", "Ryan", "Culpepper", "for", "his", "macrological", "wizardry", ".", "-LSB-", "1", "-RSB-", "H.", "Abelson", "and", "G.", "J.", "Sussman", ".", "The", "Structure", "and", "Interpretation", "of", "Computer", "Programs", ".", "MIT", "Press", ",", "Cambridge", ",", "MA", ",", "1985", ".", "-LSB-", "2", "-RSB-", "A.", "Aiken", ".", "Introduction", "to", "set", "constraint-based", "program", "analysis", ".", "Science", "of", "Computer", "Programming", ",", "35:79", "111", ",", "1999", ".", "26", "-LSB-", "3", "-RSB-", "K.", "Arnold", ",", "J.", "Gosling", ",", "and", "D.", "Holmes", ".", "The", "Java", "Programming", "Language", ".", "Addison-Wesley", ",", "3d", "edition", ",", "2000", ".", "-LSB-", "4", "-RSB-", "L.", "Augustsson", ".", "Cayenne", "--", "a", "language", "with", "dependent", "types", ".", "In", "Proceedings", "of", "the", "third", "ACM", "SIGPLAN", "international", "conference", "on", "Functional", "programming", ",", "pages", "239", "250", ".", "ACM", "Press", ",", "1998", ".", "-LSB-", "5", "-RSB-", "K.", "Backhouse", ".", "Abstract", "Interpretation", "of", "Domain-Specific", "Embedded", "Languages", ".", "PhD", "thesis", ",", "Oxford", "University", ",", "2002", ".", "-LSB-", "6", "-RSB-", "N.", "H.", "Christensen", ".", "Domain-specific", "languages", "in", "software", "development", "and", "the", "relation", "to", "partial", "evaluation", ".", "PhD", "thesis", ",", "DIKU", ",", "Dept.", "of", "Computer", "Science", ",", "University", "of", "Copenhagen", ",", "Universitetsparken", "1", ",", "DK-2100", "Copenhagen", "East", ",", "Denmark", ",", "July", "2003", ".", "-LSB-", "7", "-RSB-", "O.", "Danvy", ".", "Functional", "unparsing", ".", "Journal", "of", "Functional", "Programming", ",", "8", "-LRB-", "6", "-RRB-", ":", "621", "625", ",", "1998", ".", "-LSB-", "8", "-RSB-", "C.", "Elliott", ",", "S.", "Finne", ",", "and", "O.", "de", "Moor", ".", "Compiling", "embedded", "languages", ".", "In", "SAIG", ",", "pages", "9", "27", ",", "2000", ".", "-LSB-", "9", "-RSB-", "R.", "B.", "Findler", ",", "J.", "Clements", ",", "M.", "F.", "Cormac", "Flanagan", ",", "S.", "Krishnamurthi", ",", "P.", "Steckler", ",", "and", "M.", "Felleisen", ".", "DrScheme", ":", "A", "progamming", "environment", "for", "scheme", ".", "Journal", "of", "Functional", "Programming", ",", "12", "-LRB-", "2", "-RRB-", ":", "159", "182", ",", "March", "2002", ".", "-LSB-", "10", "-RSB-", "C.", "Flanagan", "and", "M.", "Felleisen", ".", "Componential", "set-based", "analysis", ".", "ACM", "Trans", ".", "on", "Programming", "Languages", "and", "Systems", ",", "21", "-LRB-", "2", "-RRB-", ":", "369", "415", ",", "Feb.", "1999", ".", "-LSB-", "11", "-RSB-", "M.", "Flatt", ".", "Composable", "and", "compilable", "macros", ":", "you", "want", "it", "when", "?", "In", "Proceedings", "of", "the", "seventh", "ACM", "SIGPLAN", "international", "conference", "on", "Functional", "programming", ",", "pages", "72", "83", ".", "ACM", "Press", ",", "2002", ".", "-LSB-", "12", "-RSB-", "P.", "Graunke", ",", "S.", "Krishnamurthi", ",", "S.", "V.", "D.", "Hoeven", ",", "and", "M.", "Felleisen", ".", "Programming", "the", "web", "with", "high-level", "programming", "languages", ".", "In", "Programming", "Languages", "and", "Systems", ",", "10th", "European", "Symposium", "on", "Programming", ",", "ESOP", "2001", ",", "Proceedings", ",", "volume", "2028", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "122", "136", ",", "Berlin", ",", "Heidelberg", ",", "and", "New", "York", ",", "2001", ".", "Springer-Verlag", ".", "-LSB-", "13", "-RSB-", "N.", "Heintze", ".", "Set", "Based", "Program", "Analysis", ".", "PhD", "thesis", ",", "Carnegie-Mellon", "Univ.", ",", "Pittsburgh", ",", "PA", ",", "Oct.", "1992", ".", "-LSB-", "14", "-RSB-", "R.", "Hinze", ".", "Formatting", ":", "a", "class", "act", ".", "Journal", "of", "Functional", "Programming", ",", "13", "-LRB-", "5", "-RRB-", ":", "935", "944", ",", "2003", ".", "-LSB-", "15", "-RSB-", "P.", "Hudak", ".", "Modular", "domain", "specific", "languages", "and", "tools", ".", "In", "Proceedings", "of", "Fifth", "International", "Conference", "on", "Software", "Reuse", ",", "pages", "134", "142", ",", "June", "1998", ".", "-LSB-", "16", "-RSB-", "S.", "N.", "Kamin", ".", "Research", "on", "domain-specific", "embedded", "languages", "and", "program", "generators", ".", "In", "R.", "Cleaveland", ",", "M.", "Mis-love", ",", "and", "P.", "Mulry", ",", "editors", ",", "Electronic", "Notes", "in", "Theoretical", "Computer", "Science", ",", "volume", "14", ".", "Elsevier", ",", "2000", ".", "-LSB-", "17", "-RSB-", "R.", "Kelsey", ",", "W.", "Clinger", ",", "and", "J.", "R.", "-LSB-", "editors", "-RSB-", ".", "Revised", "5", "report", "on", "the", "algorithmic", "language", "Scheme", ".", "Higher-Order", "and", "Symbolic", "Computation", ",", "11", "-LRB-", "1", "-RRB-", ":", "7", "104", ",", "August", "1998", ".", "Also", "appeared", "in", "SIGPLAN", "Notices", "33:9", ",", "September", "1998", ".", "-LSB-", "18", "-RSB-", "B.", "W.", "Kernighan", "and", "D.", "M.", "Ritchie", ".", "The", "C", "programming", "language", ".", "Prentice", "Hall", "Press", ",", "1988", ".", "-LSB-", "19", "-RSB-", "X.", "Leroy", ".", "The", "Objective", "Caml", "System", ",", "release", "3.07", ",", "2003", ".", "http://caml.inria.fr/ocaml/htmlman", ".", "-LSB-", "20", "-RSB-", "P.", "Meunier", ".", "http://www.plt-scheme.org/software/", "mrflow", ".", "-LSB-", "21", "-RSB-", "M.", "Neubauer", ",", "P.", "Thiemann", ",", "M.", "Gasbichler", ",", "and", "M.", "Sperber", ".", "Functional", "logic", "overloading", ".", "In", "Proceedings", "of", "the", "29th", "ACM", "SIGPLAN-SIGACT", "symposium", "on", "Principles", "of", "programming", "languages", ",", "pages", "233", "244", ".", "ACM", "Press", ",", "2002", ".", "-LSB-", "22", "-RSB-", "J.", "Palsberg", ".", "Closure", "analysis", "in", "constraint", "form", ".", "Proc", ".", "ACM", "Trans", ".", "on", "Programming", "Languages", "and", "Systems", ",", "17", "-LRB-", "1", "-RRB-", ":", "47", "62", ",", "Jan.", "1995", ".", "-LSB-", "23", "-RSB-", "M.", "Serrano", "and", "P.", "Weis", ".", "Bigloo", ":", "A", "portable", "and", "optimizing", "compiler", "for", "strict", "functional", "languages", ".", "In", "Static", "Analysis", "Symposium", ",", "pages", "366", "381", ",", "1995", ".", "-LSB-", "24", "-RSB-", "O.", "Shivers", ".", "A", "universal", "scripting", "framework", ",", "or", "Lambda", ":", "the", "ultimate", "``", "little", "language", "''", ".", "In", "Proceedings", "of", "the", "Second", "Asian", "Computing", "Science", "Conference", "on", "Concurrency", "and", "Parallelism", ",", "Programming", ",", "Networking", ",", "and", "Security", ",", "pages", "254", "265", ".", "Springer-Verlag", ",", "1996", ".", "-LSB-", "25", "-RSB-", "G.", "L.", "Steele", ".", "COMMON", "LISP", ":", "the", "language", ".", "Digital", "Press", ",", "12", "Crosby", "Drive", ",", "Bedford", ",", "MA", "01730", ",", "USA", ",", "1984", ".", "With", "contributions", "by", "Scott", "E.", "Fahlman", "and", "Richard", "P.", "Gabriel", "and", "David", "A.", "Moon", "and", "Daniel", "L.", "Weinreb", ".", "-LSB-", "26", "-RSB-", "B.", "Stroustrup", ".", "The", "C++", "Programming", "Language", ",", "Third", "Edition", ".", "Addison-Wesley", "Longman", "Publishing", "Co.", ",", "Inc.", ",", "1997", ".", "-LSB-", "27", "-RSB-", "T.", "L.", "Veldhuizen", ".", "C++", "templates", "as", "partial", "evaluation", ".", "In", "Partial", "Evaluation", "and", "Semantic-Based", "Program", "Manipulation", ",", "pages", "13", "18", ",", "1999", ".", "-LSB-", "28", "-RSB-", "N.", "Welsh", ",", "F.", "Solsona", ",", "and", "I.", "Glover", ".", "SchemeUnit", "and", "SchemeQL", ":", "Two", "little", "languages", ".", "In", "Proceedings", "of", "the", "Third", "Workshop", "on", "Scheme", "and", "Functional", "Programming", ",", "2002", ".", "27"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["value flow analysis", "regular expression", "scheme", "flow analysis", "embedded language", "macros", "partial evaluation", "interpreter", "embedded languages"], "abstractive_keyphrases": ["set-based analysis"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "109", "document": ["Index", "Structures", "and", "Algorithms", "for", "Querying", "Distributed", "RDF", "Repositories", "A", "technical", "infrastructure", "for", "storing", ",", "querying", "and", "managing", "RDF", "data", "is", "a", "key", "element", "in", "the", "current", "semantic", "web", "development", ".", "Systems", "like", "Jena", ",", "Sesame", "or", "the", "ICS-FORTH", "RDF", "Suite", "are", "widely", "used", "for", "building", "semantic", "web", "applications", ".", "Currently", ",", "none", "of", "these", "systems", "supports", "the", "integrated", "querying", "of", "distributed", "RDF", "repositories", ".", "We", "consider", "this", "a", "major", "shortcoming", "since", "the", "semantic", "web", "is", "distributed", "by", "nature", ".", "In", "this", "paper", "we", "present", "an", "architecture", "for", "querying", "distributed", "RDF", "repositories", "by", "extending", "the", "existing", "Sesame", "system", ".", "We", "discuss", "the", "implications", "of", "our", "architecture", "and", "propose", "an", "index", "structure", "as", "well", "as", "algorithms", "for", "query", "processing", "and", "optimization", "in", "such", "a", "distributed", "context", ".", "E.", "1", "-LSB-", "Data", "-RSB-", ":", "DATA", "STRUCTURES", "--", "Distributed", "Data", "Structures", ";", "H.", "2.4", "-LSB-", "Information", "Systems", "-RSB-", ":", "DATABASE", "MANAGEMENT", "SYS-TEMS", "--", "Distributed", "Databases", ",", "Query", "Processing", "Algorithms", ",", "Performance", ",", "Design", "The", "need", "for", "handling", "multiple", "sources", "of", "knowledge", "and", "information", "is", "quite", "obvious", "in", "the", "context", "of", "semantic", "web", "applications", ".", "First", "of", "all", "we", "have", "the", "duality", "of", "schema", "and", "information", "content", "where", "multiple", "information", "sources", "can", "adhere", "to", "the", "same", "schema", ".", "Further", ",", "the", "re-use", ",", "extension", "and", "combination", "of", "multiple", "schema", "files", "is", "considered", "to", "be", "common", "practice", "on", "the", "semantic", "web", "-LSB-", "7", "-RSB-", ".", "Despite", "the", "inherently", "distributed", "nature", "of", "the", "semantic", "web", ",", "most", "current", "RDF", "infrastructures", "-LRB-", "for", "example", "-LSB-", "4", "-RSB-", "-RRB-", "store", "information", "locally", "as", "a", "single", "knowledge", "repository", ",", "i.e.", ",", "RDF", "models", "from", "remote", "sources", "are", "replicated", "locally", "and", "merged", "into", "a", "single", "model", ".", "Distribution", "is", "virtually", "retained", "through", "the", "use", "of", "namespaces", "to", "distinguish", "between", "different", "models", ".", "We", "argue", "that", "many", "interesting", "applications", "on", "the", "semantic", "web", "would", "benefit", "from", "or", "even", "require", "an", "RDF", "infrastructure", "that", "supports", "real", "distribution", "of", "information", "sources", "that", "can", "be", "accessed", "from", "a", "single", "point", ".", "Beyond", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "WWW2004", ",", "May", "17", "22", ",", "2004", ",", "New", "York", ",", "New", "York", ",", "USA", ".", "ACM", "1-58113-844-X", "/", "04/0005", ".", "the", "argument", "of", "conceptual", "adequacy", ",", "there", "are", "a", "number", "of", "technical", "reasons", "for", "real", "distribution", "in", "the", "spirit", "of", "distributed", "databases", ":", "Freshness", ":", "The", "commonly", "used", "approach", "of", "using", "a", "local", "copy", "of", "a", "remote", "source", "suffers", "from", "the", "problem", "of", "changing", "information", ".", "Directly", "using", "the", "remote", "source", "frees", "us", "from", "the", "need", "of", "managing", "change", "as", "we", "are", "always", "working", "with", "the", "original", ".", "Flexibility", ":", "Keeping", "different", "sources", "separate", "from", "each", "other", "provides", "us", "with", "a", "greater", "flexibility", "concerning", "the", "addition", "and", "removal", "of", "sources", ".", "In", "the", "distributed", "setting", ",", "we", "only", "have", "to", "adjust", "the", "corresponding", "system", "parameters", ".", "In", "many", "cases", ",", "it", "will", "even", "be", "unavoidable", "to", "adopt", "a", "distributed", "architecture", ",", "for", "example", "in", "scenarios", "in", "which", "the", "data", "is", "not", "owned", "by", "the", "person", "querying", "it", ".", "In", "this", "case", ",", "it", "will", "often", "not", "be", "permitted", "to", "copy", "the", "data", ".", "More", "and", "more", "information", "providers", ",", "however", ",", "create", "interfaces", "that", "can", "be", "used", "to", "query", "the", "information", ".", "The", "same", "holds", "for", "cases", "where", "the", "information", "sources", "are", "too", "large", "to", "just", "create", "a", "single", "model", "containing", "all", "the", "information", ",", "but", "they", "still", "can", "be", "queried", "using", "a", "special", "interface", "-LRB-", "Musicbrainz", "is", "an", "example", "of", "this", "case", "-RRB-", ".", "Further", ",", "we", "might", "want", "to", "include", "sources", "that", "are", "not", "available", "in", "RDF", ",", "but", "that", "can", "be", "wrapped", "to", "produce", "query", "results", "in", "RDF", "format", ".", "A", "typical", "example", "is", "the", "use", "of", "a", "free-text", "index", "as", "one", "source", "of", "information", ".", "Sometimes", "there", "is", "not", "even", "a", "fixed", "model", "that", "could", "be", "stored", "in", "RDF", ",", "because", "the", "result", "of", "a", "query", "is", "only", "calculated", "at", "runtime", "-LRB-", "Google", ",", "for", "instance", ",", "provides", "a", "programming", "interface", "that", "could", "be", "wrapped", "into", "an", "RDF", "source", "-RRB-", ".", "In", "all", "these", "scenarios", ",", "we", "are", "forced", "to", "access", "external", "information", "sources", "from", "an", "RDF", "infrastructure", "without", "being", "able", "to", "create", "a", "local", "copy", "of", "the", "information", "we", "want", "to", "query", ".", "On", "the", "semantic", "web", ",", "we", "almost", "always", "want", "to", "combine", "such", "external", "sources", "with", "each", "other", "and", "with", "additional", "schema", "knowledge", ".", "This", "confirms", "the", "need", "to", "consider", "an", "RDF", "infrastructure", "that", "deals", "with", "information", "sources", "that", "are", "actually", "distributed", "across", "different", "locations", ".", "In", "this", "paper", ",", "we", "address", "the", "problem", "of", "integrated", "access", "to", "distributed", "RDF", "repositories", "from", "a", "practical", "point", "of", "view", ".", "In", "particular", ",", "starting", "from", "a", "real-life", "use", "case", "where", "we", "are", "considering", "a", "number", "of", "distributed", "sources", "that", "contain", "research", "results", "in", "the", "form", "of", "publications", ",", "we", "take", "the", "existing", "RDF", "storage", "and", "retrieval", "system", "Sesame", "and", "describe", "how", "the", "architecture", "and", "the", "query", "processing", "methods", "of", "the", "system", "have", "to", "be", "extended", "in", "order", "to", "move", "to", "a", "distributed", "setting", ".", "631", "The", "paper", "is", "structured", "as", "follows", ".", "In", "Section", "2", "we", "present", "an", "extension", "of", "the", "Sesame", "architecture", "to", "multiple", ",", "distributed", "repositories", "and", "discuss", "basic", "assumptions", "and", "implications", "of", "the", "architecture", ".", "Section", "3", "presents", "source", "index", "hierarchies", "as", "suitable", "mechanisms", "to", "support", "the", "localization", "of", "relevant", "data", "during", "query", "processing", ".", "In", "Section", "4", "we", "introduce", "a", "cost", "model", "for", "processing", "queries", "in", "the", "distributed", "architecture", ",", "and", "show", "its", "use", "in", "optimizing", "query", "execution", "as", "a", "basis", "for", "the", "two-phase", "optimization", "heuristics", "for", "join", "ordering", ".", "Section", "5", "reviews", "previous", "work", "on", "index", "structures", "for", "object-oriented", "data", "bases", ".", "It", "also", "summarizes", "related", "work", "on", "query", "optimization", "particularly", "focusing", "on", "the", "join", "ordering", "problem", ".", "We", "conclude", "with", "a", "discussion", "of", "open", "problems", "and", "future", "work", ".", "Before", "discussing", "the", "technical", "aspects", "of", "distributed", "data", "and", "knowledge", "access", ",", "we", "need", "to", "put", "our", "work", "in", "context", "by", "introducing", "the", "specific", "integration", "architecture", "we", "have", "to", "deal", "with", ".", "This", "architecture", "limits", "the", "possible", "ways", "of", "accessing", "and", "processing", "data", ",", "and", "thereby", "provides", "a", "basis", "for", "defining", "some", "requirements", "for", "our", "approach", ".", "It", "is", "important", "to", "note", "that", "our", "work", "is", "based", "on", "an", "existing", "RDF", "storage", "and", "retrieval", "system", ",", "which", "more", "or", "less", "predefines", "the", "architectural", "choices", "we", "made", ".", "In", "this", "section", ",", "we", "describe", "an", "extension", "of", "the", "Sesame", "system", "-LSB-", "4", "-RSB-", "to", "distributed", "data", "sources", ".", "The", "Sesame", "architecture", "is", "flexible", "enough", "to", "allow", "a", "straightforward", "extension", "to", "a", "setting", "where", "we", "have", "to", "deal", "with", "multiple", "distributed", "RDF", "repositories", ".", "In", "the", "current", "setting", ",", "queries", ",", "expressed", "in", "Sesame", "'s", "query", "language", "SeRQL", ",", "are", "directly", "passed", "from", "the", "query", "engine", "to", "an", "RDF", "API", "-LRB-", "SAIL", "-RRB-", "that", "abstracts", "from", "the", "specific", "implementation", "of", "the", "repository", ".", "In", "the", "distributed", "setting", ",", "we", "have", "several", "repositories", "that", "can", "be", "implemented", "in", "different", "ways", ".", "In", "order", "to", "abstract", "from", "this", "technical", "heterogeneity", ",", "it", "is", "useful", "to", "introduce", "RDF", "API", "implementations", "on", "top", "of", "each", "repository", ",", "making", "them", "accessible", "in", "the", "same", "way", ".", "The", "specific", "problem", "of", "a", "distributed", "architecture", "is", "now", "that", "information", "relevant", "to", "a", "query", "might", "be", "distributed", "over", "the", "different", "sources", ".", "This", "requires", "to", "locate", "relevant", "information", ",", "retrieve", "it", ",", "and", "combine", "the", "individual", "answers", ".", "For", "this", "purpose", ",", "we", "introduce", "a", "new", "component", "between", "the", "query", "parser", "and", "the", "actual", "SAILs", "the", "mediator", "SAIL", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "In", "this", "work", ",", "we", "assume", "that", "local", "repositories", "are", "implemented", "using", "database", "systems", "that", "translate", "queries", "posed", "to", "the", "RDF", "API", "into", "SQL", "queries", "and", "use", "the", "database", "functionality", "to", "evaluate", "them", "-LRB-", "compare", "-LSB-", "5", "-RSB-", "-RRB-", ".", "This", "assumption", "has", "an", "important", "influence", "on", "the", "design", "of", "the", "distributed", "query", "processing", ":", "the", "database", "engines", "underlying", "the", "individual", "repositories", "have", "the", "opportunity", "to", "perform", "local", "optimization", "on", "the", "SQL", "queries", "they", "pose", "to", "the", "data", ".", "Therefore", "we", "do", "not", "have", "to", "perform", "optimizations", "on", "sub-queries", "that", "are", "to", "be", "forwarded", "to", "a", "single", "source", ",", "because", "the", "repository", "will", "deal", "with", "it", ".", "Our", "task", "is", "rather", "to", "determine", "which", "part", "of", "the", "overall", "query", "has", "to", "be", "sent", "to", "which", "repository", ".", "In", "the", "remainder", "of", "this", "paper", ",", "we", "describe", "an", "approach", "for", "querying", "distributed", "RDF", "sources", "that", "addresses", "these", "requirements", "implied", "by", "the", "adopted", "architecture", ".", "We", "focus", "our", "attention", "on", "index", "structures", "and", "algorithms", "implemented", "in", "the", "mediator", "SAIL", ".", "Figure", "1", ":", "Distribution", "Architecture", ".", "As", "discussed", "above", ",", "in", "order", "to", "be", "able", "to", "make", "use", "of", "the", "optimization", "mechanisms", "of", "the", "database", "engines", "underlying", "the", "different", "repositories", ",", "we", "have", "to", "forward", "entire", "queries", "to", "the", "different", "repositories", ".", "In", "the", "case", "of", "multiple", "external", "models", ",", "we", "can", "further", "speed", "up", "the", "process", "by", "only", "pushing", "down", "queries", "to", "information", "sources", "we", "can", "expect", "to", "contain", "an", "answer", ".", "The", "ultimate", "goal", "is", "to", "push", "down", "to", "a", "repository", "exactly", "that", "part", "of", "a", "more", "complex", "query", "for", "which", "a", "repository", "contains", "an", "answer", ".", "This", "part", "can", "range", "from", "a", "single", "statement", "template", "to", "the", "entire", "query", ".", "We", "can", "have", "a", "situation", "where", "a", "subset", "of", "the", "query", "result", "can", "directly", "be", "extracted", "from", "one", "source", ",", "and", "the", "rest", "has", "to", "be", "extracted", "and", "combined", "from", "different", "sources", ".", "This", "situation", "is", "illustrated", "in", "the", "following", "example", ".", "E", "XAMPLE", "1", ".", "Consider", "the", "case", "where", "we", "want", "to", "extract", "information", "about", "research", "results", ".", "This", "information", "is", "scattered", "across", "a", "variety", "of", "data", "sources", "containing", "information", "about", "publications", ",", "projects", ",", "patents", ",", "etc.", ".", "In", "order", "to", "access", "these", "sources", "in", "a", "uniform", "way", ",", "we", "use", "the", "OntoWeb", "research", "ontology", ".", "Figure", "2", "shows", "parts", "of", "this", "ontology", ".", "Figure", "2", ":", "Part", "of", "the", "OntoWeb", "Ontology", ".", "Suppose", "we", "now", "want", "to", "ask", "for", "the", "titles", "of", "articles", "by", "employees", "of", "organizations", "that", "have", "projects", "in", "the", "area", "``", "RDF", "''", ".", "The", "path", "expression", "of", "a", "corresponding", "SeRQL", "query", "would", "be", "the", "following", "1", ":", "1", "For", "the", "sake", "of", "readability", "we", "omit", "namespaces", "whenever", "they", "do", "not", "play", "a", "technical", "role", ".", "632", "-LCB-", "A", "-RCB-", "title", "-LCB-", "T", "-RCB-", ";", "author", "-LCB-", "W", "-RCB-", "affiliation", "-LCB-", "O", "-RCB-", "carriesOut", "-LCB-", "P", "-RCB-", "topic", "-LCB-", "`", "RDF", "'", "-RCB-", "Now", ",", "let", "'s", "assume", "that", "we", "have", "three", "information", "sources", "I", ",", "P", ",", "and", "Q", ".", "I", "is", "a", "publication", "data", "base", "that", "contains", "information", "about", "articles", ",", "titles", ",", "authors", "and", "their", "affiliations", ".", "P", "is", "a", "project", "data", "base", "with", "information", "about", "industrial", "projects", ",", "topics", ",", "and", "organizations", ".", "Finally", ",", "Q", "is", "a", "research", "portal", "that", "contains", "all", "of", "the", "above", "information", "for", "academic", "research", ".", "If", "we", "want", "to", "answer", "the", "query", "above", "completely", "we", "need", "all", "three", "information", "sources", ".", "By", "pushing", "down", "the", "entire", "query", "to", "Q", "we", "get", "results", "for", "academic", "research", ".", "In", "order", "to", "also", "retrieve", "the", "information", "for", "industrial", "research", ",", "we", "need", "to", "split", "up", "the", "query", ",", "push", "the", "fragment", "-LCB-", "A", "-RCB-", "title", "-LCB-", "T", "-RCB-", ";", "author", "-LCB-", "W", "-RCB-", "affiliation", "-LCB-", "O", "-RCB-", "to", "I", ",", "the", "fragment", "-LCB-", "O", "-RCB-", "carriesOut", "-LCB-", "P", "-RCB-", "topic", "-LCB-", "`", "RDF", "'", "-RCB-", "to", "P", ",", "and", "join", "the", "result", "based", "on", "the", "identity", "of", "the", "organization", ".", "The", "example", "illustrates", "the", "need", "for", "sophisticated", "indexing", "structures", "for", "deciding", "which", "part", "of", "a", "query", "to", "direct", "to", "which", "information", "source", ".", "On", "the", "one", "hand", "we", "need", "to", "index", "complex", "query", "patterns", "in", "order", "to", "be", "able", "to", "push", "down", "larger", "queries", "to", "a", "source", ";", "on", "the", "other", "hand", "we", "also", "need", "to", "be", "able", "to", "identify", "sub-queries", "needed", "for", "retrieving", "partial", "results", "from", "individual", "sources", ".", "In", "order", "to", "solve", "this", "problem", "we", "build", "upon", "existing", "work", "on", "indexing", "complex", "object", "models", "using", "join", "indices", "-LSB-", "14", "-RSB-", ".", "The", "idea", "of", "join", "indices", "is", "to", "create", "additional", "database", "tables", "that", "explic-itly", "contain", "the", "result", "of", "a", "join", "over", "a", "specific", "property", ".", "At", "runtime", ",", "rather", "than", "computing", "a", "join", ",", "the", "system", "just", "accesses", "the", "join", "index", "relation", "which", "is", "less", "computationally", "expensive", ".", "The", "idea", "of", "join", "indices", "has", "been", "adapted", "to", "deal", "with", "complex", "object", "models", ".", "The", "resulting", "index", "structure", "is", "a", "join", "index", "hierarchy", "-LSB-", "21", "-RSB-", ".", "The", "most", "general", "element", "in", "the", "hierarchy", "is", "an", "index", "table", "for", "elements", "connected", "by", "a", "certain", "path", "p", "HXXn", "I", "of", "length", "n.", "Every", "following", "level", "contains", "all", "the", "paths", "of", "a", "particular", "length", "from", "2", "paths", "of", "length", "n", "I", "at", "the", "second", "level", "of", "the", "hierarchy", "to", "n", "paths", "of", "length", "1", "at", "the", "bottom", "of", "the", "hierarchy", ".", "In", "the", "following", ",", "we", "show", "how", "the", "notion", "of", "join", "index", "hierarchies", "can", "be", "adapted", "to", "deal", "with", "the", "problem", "of", "determining", "information", "sources", "that", "contain", "results", "for", "a", "particular", "sub-query", ".", "3.1", "Source", "Index", "Hierarchies", "The", "majority", "of", "work", "in", "the", "area", "of", "object", "oriented", "databases", "is", "focused", "on", "indexing", "schema-based", "paths", "in", "complex", "object", "models", ".", "We", "can", "make", "use", "of", "this", "work", "by", "relating", "it", "to", "the", "graph-based", "interpretation", "of", "RDF", "models", ".", "More", "specifically", ",", "every", "RDF", "model", "can", "be", "seen", "as", "a", "graph", "where", "nodes", "correspond", "to", "resources", "and", "edges", "to", "properties", "linking", "these", "resources", ".", "The", "result", "of", "a", "query", "to", "such", "a", "model", "is", "a", "set", "of", "subgraphs", "corresponding", "to", "a", "path", "expression", ".", "While", "a", "path", "expression", "does", "not", "necessarily", "describe", "a", "single", "path", ",", "it", "describes", "a", "tree", "that", "can", "be", "created", "by", "joining", "a", "set", "of", "paths", ".", "Making", "use", "of", "this", "fact", ",", "we", "first", "decompose", "the", "path", "expression", "into", "a", "set", "of", "expressions", "describing", "simple", "paths", ",", "then", "forward", "the", "simpler", "path", "expressions", "to", "sources", "that", "contain", "the", "corresponding", "information", "using", "a", "path-based", "index", "structure", ",", "and", "join", "retrieved", "answers", "to", "create", "the", "result", ".", "The", "problem", "with", "using", "path", "indices", "to", "select", "information", "sources", "is", "the", "fact", "that", "the", "information", "that", "makes", "up", "a", "path", "might", "be", "distributed", "across", "different", "information", "sources", "-LRB-", "compare", "Example", "1", "-RRB-", ".", "We", "therefore", "have", "to", "use", "an", "index", "structure", "that", "also", "contains", "information", "about", "sub-paths", "without", "loosing", "the", "advantage", "of", "indexing", "complete", "paths", ".", "An", "index", "structure", "that", "combines", "these", "two", "characteristics", "is", "the", "join", "index", "hierarchy", "proposed", "in", "-LSB-", "21", "-RSB-", ".", "We", "therefore", "take", "their", "approach", "as", "a", "basis", "for", "defining", "a", "source", "index", "hierarchy", ".", "D", "EFINITION", "1", "-LRB-", "S", "CHEMA", "P", "ATH", "-RRB-", ".", "Let", "q", "a", "hY", "iY", "vY", "sY", "tY", "li", "be", "a", "labelled", "graph", "of", "an", "RDF", "model", "where", "is", "a", "set", "of", "nodes", ",", "i", "a", "set", "of", "edges", ",", "v", "a", "set", "of", "labels", ",", "sY", "t", "X", "i", "3", "and", "l", "X", "i", "3", "v.", "For", "every", "e", "P", "i", ",", "we", "have", "s@eA", "a", "r", "I", "Y", "t@eA", "a", "r", "P", "and", "l@eA", "a", "l", "e", "if", "and", "only", "if", "the", "model", "contains", "the", "triple", "@r", "I", "Y", "l", "e", "Y", "r", "P", "A", ".", "A", "path", "in", "G", "is", "a", "list", "of", "edges", "e", "H", "Y", "Y", "e", "n", "I", "such", "that", "t", "@e", "i", "A", "a", "s", "@e", "iCI", "A", "for", "all", "i", "a", "HY", "Y", "n", "P.", "Let", "p", "a", "e", "H", "Y", "Y", "e", "n", "I", "be", "a", "path", ",", "the", "corresponding", "schema", "path", "is", "the", "list", "of", "labels", "l", "H", "Y", "Y", "l", "n", "I", "such", "that", "l", "i", "a", "l", "@e", "i", "A", ".", "The", "definition", "establishes", "the", "notion", "of", "a", "path", "for", "RDF", "models", ".", "We", "can", "now", "use", "path-based", "index", "structures", "and", "adapt", "them", "to", "the", "task", "of", "locating", "path", "instances", "in", "different", "RDF", "models", ".", "The", "basic", "structure", "we", "use", "for", "this", "purpose", "is", "an", "index", "table", "of", "sources", "that", "contain", "instances", "of", "a", "certain", "path", ".", "D", "EFINITION", "2", "-LRB-", "S", "OURCE", "I", "NDEX", "-RRB-", ".", "Let", "p", "be", "a", "schema", "path", ";", "a", "source", "index", "for", "p", "is", "a", "set", "of", "pairs", "@s", "k", "Y", "n", "k", "A", "where", "s", "k", "is", "an", "information", "source", "-LRB-", "in", "particular", ",", "an", "RDF", "model", "-RRB-", "and", "the", "graph", "of", "s", "k", "contains", "exactly", "n", "k", "paths", "with", "schema", "path", "p", "and", "n", "k", "b", "H", ".", "A", "source", "index", "can", "be", "used", "to", "determine", "information", "sources", "that", "contain", "instances", "of", "a", "particular", "schema", "path", ".", "If", "our", "query", "contains", "the", "path", "p", ",", "the", "corresponding", "source", "index", "provides", "us", "with", "a", "list", "of", "information", "sources", "we", "have", "to", "forward", "the", "query", "to", "in", "order", "to", "get", "results", ".", "The", "information", "about", "the", "number", "of", "instance", "paths", "can", "be", "used", "to", "estimate", "communication", "costs", "and", "will", "be", "used", "for", "join", "ordering", "-LRB-", "see", "Section", "4", "-RRB-", ".", "So", "far", "the", "index", "satisfies", "the", "requirement", "of", "being", "able", "to", "list", "complete", "paths", "and", "push", "down", "the", "corresponding", "queries", "to", "external", "sources", ".", "In", "order", "to", "be", "able", "to", "retrieve", "information", "that", "is", "distributed", "across", "different", "sources", ",", "we", "have", "to", "extend", "the", "structure", "based", "on", "the", "idea", "of", "a", "hierarchy", "of", "indices", "for", "arbitrary", "sub-paths", ".", "The", "corresponding", "structure", "is", "defined", "as", "follows", ".", "D", "EFINITION", "3", "-LRB-", "S", "OURCE", "I", "NDEX", "H", "IERARCHY", "-RRB-", ".", "Let", "p", "a", "l", "H", "Y", "Y", "l", "n", "I", "be", "a", "schema", "path", ".", "A", "source", "index", "hierarchy", "for", "p", "is", "an", "n-tuple", "h", "n", "Y", "Y", "I", "i", "where", "n", "is", "a", "source", "index", "for", "p", "i", "is", "the", "set", "of", "all", "source", "indices", "for", "sub-paths", "of", "p", "with", "length", "i", "that", "have", "at", "least", "one", "entry", ".", "The", "most", "suitable", "way", "to", "represent", "such", "index", "structure", "is", "a", "hierarchy", ",", "where", "the", "source", "index", "of", "the", "indexed", "path", "is", "the", "root", "element", ".", "The", "hierarchy", "is", "formed", "in", "such", "a", "way", "that", "the", "subpart", "rooted", "at", "the", "source", "index", "for", "a", "path", "p", "always", "contains", "source", "indices", "for", "all", "sub-paths", "of", "p", ".", "This", "property", "will", "later", "be", "used", "in", "the", "query", "answering", "algorithm", ".", "Forming", "a", "lattice", "of", "source", "indices", ",", "a", "source", "index", "hierarchy", "contains", "information", "about", "every", "possible", "schema", "sub-path", ".", "Therefore", "we", "can", "locate", "all", "fragments", "of", "paths", "that", "might", "be", "combined", "into", "a", "query", "result", ".", "At", "the", "same", "time", ",", "we", "can", "first", "concentrate", "on", "complete", "path", "instances", "and", "successively", "investigate", "smaller", "fragments", "using", "the", "knowledge", "about", "the", "existence", "of", "longer", "paths", ".", "We", "illustrate", "this", "principle", "in", "the", "following", "example", ".", "633", "E", "XAMPLE", "2", ".", "Let", "us", "reconsider", "the", "situation", "in", "Example", "1", ".", "The", "schema", "path", "we", "want", "to", "index", "is", "given", "by", "the", "list", "-LRB-", "author", ",", "affiliation", ",", "carriesOut", ",", "topic", "-RRB-", ".", "The", "source", "index", "hierarchy", "for", "this", "path", "therefore", "contains", "source", "indices", "for", "the", "paths", "p", "HXXQ", ":", "-LRB-", "author", ",", "affiliation", ",", "carriesOut", ",", "topic", "-RRB-", "p", "HXXP", ":", "-LRB-", "author", ",", "affiliation", ",", "carriesOut", "-RRB-", ",", "p", "IXXQ", ":", "-LRB-", "affiliation", ",", "carriesOut", ",", "topic", "-RRB-", "p", "HXXI", ":", "-LRB-", "author", ",", "affiliation", "-RRB-", ",", "p", "IXXP", ":", "-LRB-", "affiliation", ",", "carriesOut", "-RRB-", ",", "p", "PXXQ", ":", "-LRB-", "carriesOut", ",", "topic", "-RRB-", "p", "H", ":", "-LRB-", "author", "-RRB-", ",", "p", "I", ":", "-LRB-", "affiliation", "-RRB-", ",", "p", "P", ":", "-LRB-", "carriesOut", "-RRB-", ",", "p", "Q", "-LRB-", "topic", "-RRB-", "Starting", "from", "the", "longest", "path", ",", "we", "compare", "our", "query", "expression", "with", "the", "index", "-LRB-", "see", "Figure", "3", "for", "an", "example", "of", "index", "contents", "-RRB-", ".", "We", "immediately", "get", "the", "information", "that", "Q", "contains", "results", ".", "Turning", "to", "sub-paths", ",", "we", "also", "find", "out", "that", "I", "contains", "results", "for", "the", "sub-path", "-LRB-", "author", ",", "affiliation", "-RRB-", "and", "P", "for", "the", "sub-path", "-LRB-", "carriesOut", ",", "topic", "-RRB-", "that", "we", "can", "join", "in", "order", "to", "compute", "results", ",", "because", "together", "both", "sub-paths", "make", "up", "the", "path", "we", "are", "looking", "for", ".", "The", "source", "indices", "also", "contain", "information", "about", "the", "fact", "that", "Q", "contains", "results", "for", "all", "sub-paths", "of", "our", "target", "path", ".", "We", "still", "have", "to", "take", "this", "information", "into", "account", ",", "because", "in", "combination", "with", "fragments", "from", "other", "sources", "we", "might", "get", "additional", "results", ".", "However", ",", "we", "do", "not", "have", "to", "consider", "joining", "sub-paths", "from", "the", "same", "source", ",", "because", "these", "results", "are", "already", "covered", "by", "longer", "paths", ".", "In", "the", "example", "we", "see", "that", "P", "will", "return", "far", "less", "results", "than", "I", "-LRB-", "because", "there", "are", "less", "projects", "than", "publications", "-RRB-", ".", "We", "can", "use", "this", "information", "to", "optimize", "the", "process", "of", "joining", "results", ".", "A", "key", "issue", "connected", "with", "indexing", "information", "sources", "is", "the", "trade-off", "between", "required", "storage", "space", "and", "computational", "properties", "of", "index-based", "query", "processing", ".", "Compared", "to", "index", "structures", "used", "to", "speed", "up", "query", "processing", "within", "an", "information", "source", ",", "a", "source", "index", "is", "relatively", "small", "as", "it", "does", "not", "encode", "information", "about", "individual", "elements", "in", "a", "source", ".", "Therefore", ",", "the", "size", "of", "the", "index", "is", "independent", "of", "the", "size", "of", "the", "indexed", "information", "sources", ".", "The", "relevant", "parameters", "in", "our", "case", "are", "the", "number", "of", "sources", "s", "and", "the", "lengths", "of", "the", "schema", "path", "n", ".", "More", "specifically", ",", "in", "the", "worst", "case", "a", "source", "index", "hierarchy", "contains", "source", "indices", "for", "every", "sub-path", "of", "the", "indexed", "schema", "path", ".", "As", "the", "number", "of", "all", "sub-path", "of", "a", "path", "is", "n", "iaI", "i", ",", "the", "worst-case", "2", "space", "complexity", "of", "a", "source", "index", "hierarchy", "is", "y", "@s", "n", "P", "A", ".", "We", "conclude", "that", "the", "length", "of", "the", "indexed", "path", "is", "the", "significant", "parameter", "here", ".", "3.2", "Query", "Answering", "Algorithm", "Using", "the", "notion", "of", "a", "source", "index", "hierarchy", ",", "we", "can", "now", "define", "a", "basic", "algorithm", "for", "answering", "queries", "using", "multiple", "sources", "of", "information", ".", "The", "task", "of", "this", "algorithm", "is", "to", "determine", "all", "possible", "combinations", "of", "sub-paths", "of", "the", "given", "query", "path", ".", "For", "each", "of", "these", "combinations", ",", "it", "then", "has", "to", "determine", "the", "sources", "containing", "results", "for", "the", "path", "fragments", ",", "retrieve", "these", "results", ",", "and", "join", "them", "into", "a", "result", "for", "the", "complete", "path", ".", "The", "main", "task", "is", "to", "guarantee", "that", "we", "indeed", "check", "all", "possible", "combinations", "of", "sub-paths", "for", "the", "2", "It", "is", "the", "case", "where", "all", "sources", "contain", "results", "for", "the", "complete", "schema", "path", ".", "query", "path", ".", "The", "easiest", "way", "of", "guaranteeing", "this", "is", "to", "use", "a", "simple", "tree-recursion", "algorithm", "that", "retrieves", "results", "for", "the", "complete", "path", ",", "then", "splits", "the", "original", "path", ",", "and", "joins", "the", "results", "of", "recursive", "calls", "for", "the", "sub-paths", ".", "In", "order", "to", "capture", "all", "possible", "splits", "this", "has", "to", "be", "done", "for", "every", "possible", "split", "point", "in", "the", "original", "path", ".", "The", "corresponding", "semi-formal", "algorithm", "is", "given", "below", "-LRB-", "Algorithm", "1", "-RRB-", ".", "Algorithm", "1", "Compute", "Answers", ".", "Require", ":", "A", "schema", "path", "p", "a", "l", "H", "Y", "Y", "l", "n", "I", "Require", ":", "A", "source", "index", "hierarchy", "h", "a", "@", "n", "Y", "Y", "I", "A", "for", "p", "for", "all", "sources", "s", "k", "in", "source", "index", "n", "do", "ANSWERS", ":", "=", "instances", "of", "schema", "path", "p", "in", "source", "s", "k", "RESULT", ":", "=", "result", "nswers", "end", "for", "if", "n", "!", "P", "then", "for", "all", "i", "a", "I", "n", "I", "do", "p", "HXXi", "I", ":", "=", "l", "H", "Y", "l", "i", "I", "p", "iXXn", "I", ":", "=", "l", "i", "Y", "l", "n", "I", "h", "HXXi", "I", ":", "=", "Sub-hierarchy", "of", "h", "rooted", "at", "the", "source", "index", "for", "p", "HXXi", "I", "h", "iXXn", "I", ":", "=", "Sub-hierarchy", "of", "h", "rooted", "at", "the", "source", "index", "for", "p", "iXXn", "I", "res", "I", ":", "=", "gomputeenswers", "@p", "HXXi", "I", "Y", "h", "HXXi", "I", "A", "res", "P", ":", "=", "gomputeenswers", "@p", "iXXn", "I", "Y", "h", "iXXn", "I", "A", "RESULT", ":", "=", "result", "join@res", "I", "Y", "res", "P", "A", "end", "for", "end", "if", "return", "result", "Note", "that", "Algorithm", "1", "is", "far", "from", "being", "optimal", "with", "respect", "to", "runtime", "performance", ".", "The", "straightforward", "recursion", "scheme", "does", "not", "take", "specific", "actions", "to", "prevent", "unnecessary", "work", "and", "it", "neither", "selects", "an", "optimal", "order", "for", "joining", "sub-paths", ".", "We", "can", "improve", "this", "situation", "by", "using", "knowledge", "about", "the", "information", "in", "the", "different", "sources", "and", "performing", "query", "optimization", ".", "In", "the", "previous", "section", "we", "described", "a", "light-weight", "index", "structure", "for", "distributed", "RDF", "querying", ".", "Its", "main", "task", "is", "to", "index", "schema", "paths", "w.r.t.", "underlying", "sources", "that", "contain", "them", ".", "Compared", "to", "instance-level", "indexing", ",", "our", "approach", "does", "not", "require", "creating", "and", "maintaining", "oversized", "indices", "since", "there", "are", "far", "fewer", "sources", "than", "there", "are", "instances", ".", "Instance", "indexing", "would", "not", "scale", "in", "the", "web", "environment", "and", "as", "mentioned", "above", "in", "many", "cases", "it", "would", "not", "even", "be", "applicable", ",", "e.g.", ",", "when", "sources", "do", "not", "allow", "replication", "of", "their", "data", "-LRB-", "which", "is", "what", "instance", "indices", "essentially", "do", "-RRB-", ".", "The", "downside", "of", "our", "approach", ",", "however", ",", "is", "that", "query", "answering", "without", "the", "index", "support", "at", "the", "instance", "level", "is", "much", "more", "computationally", "intensive", ".", "Moreover", ",", "in", "the", "context", "of", "semantic", "web", "portal", "applications", "the", "queries", "are", "not", "man-entered", "anymore", "but", "rather", "generated", "by", "a", "portal", "'s", "front-end", "-LRB-", "triggered", "by", "the", "user", "-RRB-", "and", "often", "exceed", "the", "size", "3", "which", "can", "be", "easily", "computed", "by", "using", "brute", "force", ".", "Therefore", "we", "focus", "in", "this", "section", "on", "query", "optimization", "as", "an", "important", "part", "of", "a", "distributed", "RDF", "query", "system", ".", "We", "try", "to", "avoid", "re-inventing", "the", "wheel", "and", "once", "again", "seek", "for", "inspiration", "in", "the", "database", "field", ",", "making", "it", "applicable", "by", "``", "relationizing", "''", "the", "RDF", "model", ".", "Each", "single", "schema", "path", "p", "i", "of", "length", "1", "-LRB-", "also", "called", "1-pth", "-RRB-", "can", "be", "perceived", "as", "a", "relation", "with", "two", "attributes", ":", "the", "source", "vertex", "3", "Especially", ",", "the", "length", "of", "the", "path", "expression", ".", "634", "Figure", "3", ":", "Source", "index", "hierarchy", "for", "the", "given", "query", "path", ".", "s", "@p", "i", "A", "and", "the", "target", "vertex", "t", "@p", "i", "A", ".", "A", "schema", "path", "of", "length", "more", "than", "1", "is", "modelled", "as", "a", "set", "of", "relations", "joined", "together", "by", "the", "identity", "of", "the", "adjacent", "vertices", ",", "essentially", "representing", "a", "chain", "query", "of", "joins", "as", "defined", "in", "Definition", "4", ".", "This", "relational", "view", "over", "an", "RDF", "graph", "offers", "the", "possibility", "to", "re-use", "the", "extensive", "research", "on", "join", "optimization", "in", "databases", ",", "e.g.", "-LSB-", "1", ",", "8", ",", "9", ",", "17", ",", "20", "-RSB-", ".", "Taking", "into", "account", "the", "-LRB-", "distributed", "-RRB-", "RDF", "context", "of", "the", "join", "ordering", "problem", "there", "are", "several", "specifics", "to", "note", "when", "devising", "a", "good", "query", "plan", ".", "As", "in", "distributed", "databases", ",", "communication", "costs", "significantly", "contribute", "to", "the", "overall", "cost", "of", "a", "query", "plan", ".", "Since", "in", "our", "case", "the", "distribution", "is", "assumed", "to", "be", "realized", "via", "an", "IP", "network", "with", "a", "variable", "bandwidth", ",", "the", "communications", "costs", "are", "likely", "to", "contribute", "substantially", "to", "the", "overall", "processing", "costs", ",", "which", "makes", "the", "minimization", "of", "data", "transmission", "across", "the", "network", "very", "important", ".", "Unless", "the", "underlying", "sources", "provide", "join", "capabilities", ",", "the", "data", "transmission", "can", "not", "be", "largely", "reduced", ":", "all", "-LRB-", "selected", "-RRB-", "bits", "of", "data", "from", "the", "sources", "are", "joined", "by", "the", "mediator", "and", "hence", "must", "be", "transmitted", "via", "the", "network", ".", "There", "may", "exist", "different", "dependencies", "-LRB-", "both", "structural", "and", "ex-tensional", "-RRB-", "on", "the", "way", "the", "data", "is", "distributed", ".", "If", "the", "information", "about", "such", "dependencies", "is", "available", ",", "it", "essentially", "enables", "the", "optimizer", "to", "prune", "join", "combinations", "which", "can", "not", "yield", "any", "results", ".", "The", "existence", "of", "such", "dependencies", "can", "be", "-LRB-", "to", "some", "extent", "-RRB-", "com-puted/discovered", "prior", "to", "querying", ",", "during", "the", "initial", "integration", "phase", ".", "Human", "insight", "is", ",", "however", ",", "often", "needed", "in", "order", "to", "avoid", "false", "dependency", "conclusions", ",", "which", "could", "potentially", "influence", "the", "completeness", "of", "query", "answering", ".", "The", "performance", "and", "data", "statistics", "are", "both", "necessary", "for", "the", "optimizer", "to", "make", "the", "right", "decision", ".", "In", "general", ",", "the", "more", "the", "optimizer", "knows", "about", "the", "underlying", "sources", "and", "data", ",", "the", "better", "optimized", "the", "query", "plan", "is", ".", "However", ",", "taking", "into", "account", "the", "autonomy", "of", "the", "sources", ",", "the", "necessary", "statistics", "do", "not", "have", "to", "be", "always", "available", ".", "We", "design", "our", "mediator", "to", "cope", "with", "incomplete", "statistical", "information", "in", "such", "a", "way", "that", "the", "missing", "parameters", "are", "estimated", "as", "being", "worse", "than", "those", "that", "are", "known", "-LRB-", "pessimistic", "approach", "-RRB-", ".", "Naturally", ",", "the", "performance", "of", "the", "optimizer", "is", "then", "lower", "but", "it", "increases", "steadily", "when", "the", "estimations", "are", "made", "more", "realistic", "based", "on", "the", "actual", "response", "from", "the", "underlying", "sources", ";", "this", "is", "also", "known", "as", "optimizer", "calibration", ".", "As", "indicated", "above", ",", "the", "computational", "capabilities", "of", "the", "underlying", "sources", "may", "vary", "considerably", ".", "We", "distinguish", "between", "those", "sources", "that", "can", "only", "retrieve", "the", "selected", "local", "data", "-LRB-", "pull", "up", "strategy", "-RRB-", "and", "those", "that", "can", "perform", "joins", "of", "their", "local", "and", "incoming", "external", "data", "-LRB-", "push", "down", "strategy", "-RRB-", ",", "thus", "offering", "computational", "services", "that", "could", "be", "used", "to", "achieve", "both", "a", "higher", "degree", "of", "parallelism", "and", "smaller", "data", "transmission", "over", "the", "network", ",", "e.g.", ",", "by", "applying", "semi-join", "reductions", "-LSB-", "1", "-RSB-", ".", "At", "present", ",", "however", ",", "most", "sources", "are", "capable", "only", "of", "selecting", "the", "desired", "data", "within", "their", "extent", ",", "i.e.", ",", "they", "do", "not", "offer", "the", "join", "capability", ".", "Therefore", ",", "further", "we", "focus", "mainly", "on", "local", "optimization", "at", "the", "mediator", "'s", "side", ".", "For", "this", "purpose", "we", "need", "to", "perceive", "an", "RDF", "model", "as", "a", "set", "of", "relations", "on", "which", "we", "can", "apply", "optimization", "results", "from", "the", "area", "of", "relational", "databases", ".", "In", "this", "context", "the", "problem", "of", "join", "ordering", "arises", ",", "when", "we", "want", "to", "compute", "the", "results", "for", "schema", "paths", "from", "partial", "results", "obtained", "from", "different", "sources", ".", "Creating", "the", "result", "for", "a", "schema", "corresponds", "to", "the", "problem", "of", "computing", "the", "result", "of", "a", "chain", "query", "as", "defined", "below", ":", "D", "EFINITION", "4", "-LRB-", "C", "HAIN", "Q", "UERY", "-RRB-", ".", "Let", "p", "be", "a", "schema", "path", "composed", "from", "the", "1-paths", "p", "I", "Y", "Y", "p", "n", ".", "The", "chain", "query", "of", "p", "is", "the", "n-join", "p", "I", "FG", "t", "@p", "I", "Aas", "@p", "P", "A", "p", "P", "FG", "t", "@p", "P", "Aas", "@p", "Q", "A", "p", "Q", "FG", "p", "n", ",", "where", "s", "@p", "i", "A", "and", "t", "@p", "i", "A", "are", "returning", "an", "identity", "of", "a", "source", "and", "target", "node", ",", "respectively", ".", "As", "the", "join", "condition", "and", "attributes", "follow", "the", "same", "pattern", "for", "all", "joins", "in", "the", "chain", "query", ",", "we", "omit", "them", "whenever", "they", "are", "clear", "from", "the", "context", ".", "In", "other", "words", ",", "to", "follow", "a", "path", "p", "of", "length", "2", "means", "performing", "a", "join", "between", "the", "two", "paths", "of", "length", "1", "which", "p", "is", "composed", "from", ".", "The", "problem", "of", "join", "optimization", "is", "to", "determine", "the", "right", "order", "in", "which", "the", "joins", "should", "be", "computed", ",", "such", "that", "the", "overall", "response", "time", "for", "computing", "the", "path", "instances", "is", "minimized", ".", "4", "Note", "that", "a", "chain", "query", "in", "Definition", "4", "does", "not", "include", "explicit", "joins", ",", "i.e.", ",", "those", "specified", "in", "the", "here", "clause", ",", "or", "by", "assigning", "the", "same", "variable", "names", "along", "the", "path", "expression", ".", "When", "we", "append", "these", "explicit", "joins", ",", "the", "shape", "of", "the", "query", "usually", "changes", "from", "a", "linear", "chain", "to", "a", "query", "graph", "containing", "a", "circle", "or", "a", "star", ",", "making", "the", "join", "ordering", "problem", "NP-hard", "-LSB-", "15", "-RSB-", ".", "4", "In", "case", "the", "sources", "offer", "also", "join", "capabilities", "the", "problem", "is", "not", "only", "in", "which", "order", "but", "also", "where", "the", "joins", "should", "take", "place", ".", "635", "4.1", "Space", "Complexity", "Disregarding", "the", "solutions", "obtained", "by", "the", "commutativity", "of", "joins", ",", "each", "query", "execution", "plan", "can", "be", "associated", "with", "a", "sequence", "of", "numbers", "that", "represents", "the", "order", "in", "which", "the", "relations", "are", "joined", ".", "We", "refer", "to", "this", "sequence", "as", "footprint", "of", "the", "execution", "plan", ".", "E", "XAMPLE", "3", ".", "For", "brevity", "reasons", ",", "assume", "the", "following", "name", "substitutions", "in", "the", "model", "introduced", "in", "Example", "1", ":", "the", "concept", "names", "Article", ",", "Employee", ",", "Organization", ",", "Project", ",", "ResearchTopic", "become", "a", ",", "b", ",", "c", ",", "d", ",", "e", ",", "respectively", ";", "the", "property", "names", "author", ",", "affiliation", ",", "carriesOut", ",", "topic", "are", "substituted", "with", "1", ",", "2", ",", "3", ",", "4", ",", "respectively", ".", "Figure", "4", "presents", "two", "possible", "execution", "plans", "and", "their", "footprints", ".", "Figure", "4", ":", "Two", "possible", "query", "executions", "and", "their", "footprints", ".", "If", "also", "the", "order", "of", "the", "join", "operands", "matters", ",", "i.e.", ",", "the", "commutativity", "law", "is", "considered", ",", "the", "sequence", "of", "the", "operands", "of", "each", "join", "is", "recorded", "in", "the", "footprint", "as", "well", ".", "The", "solution", "space", "consists", "of", "query", "plans", "-LRB-", "their", "footprints", "-RRB-", "which", "can", "be", "generated", ".", "We", "distinguish", "two", "cases", ":", "first", "the", "larger", "solution", "space", "of", "bushy", "trees", "and", "then", "its", "subset", "consisting", "of", "right-deep", "trees", ".", "If", "we", "allow", "for", "an", "arbitrary", "order", "of", "joins", "the", "resulting", "query", "plans", "are", "so-called", "bushy", "trees", "where", "the", "operands", "of", "a", "join", "can", "be", "both", "a", "base", "relation", "5", "or", "a", "result", "of", "a", "previous", "join", ".", "For", "a", "query", "with", "n", "joins", "there", "are", "n3", "possibilities", "of", "different", "query", "execution", "plans", "if", "we", "disregard", "the", "commutativity", "of", "joins", "and", "cross", "products", ".", "Note", "that", "in", "the", "case", "of", "bushy", "trees", ",", "there", "might", "be", "several", "footprints", "associated", "with", "one", "query", "tree", ".", "For", "instance", ",", "the", "bushy", "tree", "in", "Example", "3", "can", "be", "evaluated", "in", "different", "order", "yielding", "two", "more", "footprints", ":", "-LRB-", "2", ",", "4", ",", "1", ",", "3", "-RRB-", "or", "-LRB-", "4", ",", "2", ",", "1", ",", "3", "-RRB-", ".", "In", "our", "current", "approach", ",", "these", "footprints", "would", "be", "equivalent", "w.r.t.", "the", "cost", "they", "represent", ".", "However", ",", "treating", "them", "independently", "allows", "us", "to", "consider", "in", "the", "future", "also", "semi-join", "optimization", "-LSB-", "1", "-RSB-", "where", "their", "cost", "might", "differ", "considerably", ".", "If", "the", "commutativity", "of", "join", "is", "taken", "into", "account", ",", "there", "are", "Pn", "n", "n3", "P", "n", "different", "possibilities", "of", "ordering", "joins", "and", "their", "individual", "constituents", "-LSB-", "22", "-RSB-", ".", "However", ",", "in", "case", "of", "memory-resident", "databases", "where", "all", "data", "fits", "in", "main", "memory", ",", "the", "possibilities", "generated", "by", "the", "commutativity", "law", "can", "be", "for", "some", "join", "methods", "neglected", "as", "they", "mainly", "play", "a", "role", "in", "the", "cost", "model", "minimizing", "disk-memory", "operations", ";", "we", "discuss", "this", "issue", "further", "in", "Subsection", "4.2", ".", "We", "adopt", "the", "memory-only", "strategy", "as", "in", "our", "context", "there", "are", "always", "only", "two", "5", "A", "base", "relation", "is", "that", "part", "of", "the", "path", "which", "can", "be", "retrieved", "directly", "from", "one", "source", ".", "attributes", "per", "relation", ",", "both", "of", "them", "being", "URI", "references", "which", ",", "when", "the", "namespace", "prefix", "is", "stored", "separately", ",", "yield", "a", "very", "small", "size", ".", "Of", "course", ",", "the", "assumption", "we", "make", "here", "is", "that", "the", "Sesame", "server", "is", "equipped", "with", "a", "sufficient", "amount", "of", "memory", "to", "accommodate", "all", "intermediate", "tuples", "of", "relations", "appearing", "in", "the", "query", ".", "A", "special", "case", "of", "a", "general", "execution", "plan", "is", "a", "so-called", "right-deep", "tree", "which", "has", "the", "left-hand", "join", "operands", "consisting", "only", "of", "base", "relations", ".", "For", "a", "footprint", "that", "starts", "with", "the", "r-th", "join", "there", "are", "n", "r", "possibilities", "of", "finishing", "the", "joining", "sequence", ".", "Thus", "there", "are", "in", "total", "n", "I", "iaH", "n", "I", "i", "a", "P", "n", "I", "possibilities", "of", "different", "query", "execution", "plans", ".", "6", ".", "In", "this", "specially", "shaped", "query", "tree", "exists", "an", "execution", "pipeline", "of", "length", "n", "I", "that", "allows", "both", "for", "easier", "parallelizing", "and", "for", "shortening", "the", "response", "time", "-LSB-", "8", "-RSB-", "This", "property", "is", "very", "useful", "in", "the", "context", "of", "the", "WWW", "where", "many", "applications", "are", "built", "in", "a", "producer-consumer", "paradigm", ".", "4.2", "Cost", "Model", "The", "main", "goal", "of", "query", "optimization", "is", "to", "reduce", "the", "computational", "cost", "of", "processing", "the", "query", "both", "in", "terms", "of", "the", "transmission", "cost", "and", "the", "cost", "of", "performing", "join", "operations", "on", "the", "retrieved", "result", "fragments", ".", "In", "order", "to", "determine", "a", "good", "strategy", "for", "processing", "a", "query", ",", "we", "have", "to", "be", "able", "to", "exactly", "determine", "the", "cost", "of", "a", "query", "execution", "plan", "and", "to", "compare", "it", "to", "costs", "of", "alternative", "plans", ".", "For", "this", "purpose", ",", "we", "capture", "the", "computational", "costs", "of", "alternative", "query", "plans", "in", "a", "cost", "model", "that", "provides", "the", "basis", "for", "the", "optimization", "algorithm", "that", "is", "discussed", "later", ".", "As", "mentioned", "earlier", ",", "we", "adopt", "the", "memory-resident", "paradigm", ",", "and", "the", "cost", "we", "are", "trying", "to", "minimize", "is", "equivalent", "to", "minimizing", "the", "total", "execution", "time", ".", "There", "are", "two", "main", "factors", "that", "influence", "the", "resulting", "cost", "in", "our", "model", ".", "First", "is", "the", "cost", "of", "data", "transmission", "to", "the", "mediator", ",", "and", "second", "is", "the", "data", "processing", "cost", ".", "D", "EFINITION", "5", "-LRB-", "T", "RANSMISSION", "C", "OST", "-RRB-", ".", "The", "transmission", "cost", "of", "path", "instances", "of", "the", "schema", "path", "p", "from", "a", "source", "to", "the", "mediator", "is", "modelled", "as", "g", "p", "a", "ginit", "C", "jpj", "vngth", "p", "ksk", "g", "where", "ginit", "represents", "the", "cost", "of", "initiating", "the", "data", "transmission", ",", "jpj", "denotes", "the", "cardinality", ",", "vngth", "p", "stands", "for", "the", "length", "of", "the", "schema", "path", "p", ",", "ksk", "is", "the", "size", "of", "a", "URI", "at", "the", "source", "X", "7", "and", "g", "represents", "transmission", "cost", "per", "data", "unit", "from", "to", "the", "mediator", ".", "Since", "we", "apply", "all", "reducing", "operations", "-LRB-", "e.g.", ",", "selections", "and", "projections", "-RRB-", "prior", "to", "the", "data", "transmission", "phase", ",", "the", "data", "processing", "mainly", "consists", "of", "join", "costs", ".", "The", "cost", "of", "a", "join", "operation", "is", "influ-enced", "by", "the", "cardinality", "of", "the", "two", "operands", "and", "the", "join-method", "which", "is", "utilized", ".", "As", "we", "already", "pointed", "out", ",", "there", "are", "no", "instance", "indices", "at", "the", "mediator", "side", "that", "would", "allow", "us", "to", "use", "some", "join", "``", "shortcuts", "''", ".", "In", "the", "following", "we", "consider", "two", "join", "methods", ":", "a", "nested", "loop", "join", "and", "a", "hash", "join", "both", "without", "additional", "indexing", "support", ".", "D", "EFINITION", "6", "-LRB-", "N", "ESTED", "LOOP", "JOIN", "COST", "-RRB-", ".", "The", "processing", "cost", "of", "a", "nested", "loop", "join", "of", "two", "relations", "pY", "r", "is", "defined", "as", "xtg", "pYr", "a", "jpj", "jrj", "u@pY", "rA", ",", "where", "jxj", "denotes", "the", "cardinality", "of", "the", "relation", "x", "and", "u@pY", "rA", "represents", "the", "cost", "of", "the", "identity", "comparison", ".", "6", "The", "number", "corresponds", "to", "a", "sum", "of", "the", "n", "I-th", "line", "in", "the", "Pascal", "triangle", ".", "7", "Different", "sources", "may", "model", "URIs", "differently", ",", "however", ",", "we", "assume", "that", "at", "the", "mediator", "all", "URIs", "are", "represented", "in", "the", "same", "way", ".", "636", "Note", "that", "the", "nested", "loop", "join", "allows", "for", "a", "more", "sophisticated", "definition", "of", "object", "equality", "than", "a", "common", "URI", "comparison", ".", "In", "particular", ",", "if", "necessary", ",", "the", "basic", "URI", "comparison", "can", "be", "complemented", "by", "-LRB-", "recursive", "-RRB-", "comparisons", "of", "property", "values", "or", "mapping", "look-ups", ".", "This", "offers", "room", "to", "address", "the", "issue", "of", "URI", "diversity", "also", "known", "as", "the", "designation", "problem", ",", "when", "two", "different", "URIs", "refer", "to", "the", "same", "real-life", "object", ".", "D", "EFINITION", "7", "-LRB-", "H", "ASH", "JOIN", "COST", "-RRB-", ".", "The", "processing", "cost", "of", "a", "hash", "join", "of", "two", "relations", "pY", "r", "is", "defined", "as", "rtg", "pYr", "a", "s", "jpj", "C", "jrj", "f", ",", "where", "jxj", "denotes", "the", "cardinality", "of", "the", "relation", "x", ",", "s", "represents", "the", "cost", "of", "inserting", "a", "path", "instance", "in", "the", "hash", "table", "-LRB-", "the", "building", "factor", "-RRB-", ",", "models", "the", "cost", "of", "retrieving", "a", "bucket", "from", "the", "hash", "table", ",", "and", "f", "stands", "for", "the", "average", "number", "of", "path", "instances", "in", "the", "bucket", ".", "Unlike", "the", "previous", "join", "method", ",", "the", "hash", "join", "algorithm", "assumes", "that", "the", "object", "equality", "can", "be", "determined", "by", "a", "simple", "URI", "comparison", ",", "in", "other", "words", "that", "the", "URI", "references", "are", "consistent", "across", "the", "sources", ".", "Another", "difference", "is", "that", "in", "the", "case", "of", "the", "nested", "loop", "join", "for", "in-memory", "relations", "the", "join", "commutativity", "can", "be", "neglected", ",", "as", "the", "query", "plan", "produced", "from", "another", "query", "plan", "by", "the", "commutativity", "law", "will", "have", "exactly", "the", "same", "cost", ".", "However", ",", "in", "the", "case", "of", "the", "hash", "join", "method", "the", "order", "of", "operands", "influences", "the", "cost", "and", "thus", "the", "solution", "space", "must", "also", "include", "those", "solutions", "produced", "by", "the", "commutativity", "law", ".", "D", "EFINITION", "8", "-LRB-", "Q", "UERY", "PLAN", "COST", "-RRB-", ".", "The", "overall", "cost", "of", "a", "query", "plan", "consists", "of", "the", "sum", "of", "all", "communication", "costs", "and", "all", "join", "processing", "costs", "of", "the", "query", "tree", ".", "g", "a", "n", "iaI", "g", "p", "i", "C", "g", ",", "where", "g", "represents", "the", "join", "processing", "cost", "of", "the", "query", "tree", "and", "it", "is", "computed", "as", "a", "sum", "of", "recurrent", "applications", "of", "the", "formula", "in", "Definition", "6", "or", "7", "depending", "on", "which", "join", "method", "is", "utilized", ".", "To", "compute", "the", "cardinality", "of", "non-base", "join", "arguments", ",", "a", "join", "selectivity", "is", "used", ".", "The", "join", "selectivity", "'", "is", "defined", "as", "a", "ratio", "between", "the", "tuples", "retained", "by", "the", "join", "and", "those", "created", "by", "the", "Cartesian", "product", ":", "'", "a", "jpFGrj", "jp", "rj", ".", "As", "it", "is", "not", "possible", "to", "determine", "the", "precise", "join", "selectivity", "before", "the", "query", "is", "evaluated", ",", "'", "for", "each", "sub-path", "join", "is", "assumed", "to", "be", "estimated", "and", "available", "in", "the", "source", "index", "hierarchy", ".", "After", "the", "evaluation", "of", "each", "query", "initial", "'", "estimates", "are", "improved", "and", "made", "more", "realistic", ".", "4.3", "Heuristics", "for", "join", "ordering", "While", "the", "join", "ordering", "problem", "in", "the", "context", "of", "a", "linear/chain", "query", "can", "be", "solved", "in", "a", "polynomial", "time", "-LSB-", "12", "-RSB-", ",", "we", "have", "to", "take", "into", "account", "the", "more", "complex", "problem", "when", "also", "the", "explicit", "joins", "are", "involved", "which", "is", "proven", "to", "be", "NP-hard", "-LSB-", "15", "-RSB-", ".", "It", "is", "apparent", "that", "evaluating", "all", "possible", "join", "strategies", "for", "achieving", "the", "global", "optimum", "becomes", "quickly", "unfeasible", "for", "a", "larger", "n", ".", "In", "these", "cases", "we", "have", "to", "rely", "on", "heuristics", "that", "compute", "a", "``", "good-enough", "''", "solution", "given", "the", "constraints", ".", "In", "fact", ",", "this", "is", "a", "common", "approach", "for", "op-timizers", "in", "interactive", "systems", ".", "There", ",", "optimization", "is", "often", "about", "avoiding", "bad", "query", "plans", "in", "very", "short", "time", ",", "rather", "than", "devoting", "a", "lot", "of", "the", "precious", "CPU", "time", "to", "find", "the", "optimal", "plan", ",", "especially", ",", "when", "it", "is", "not", "so", "uncommon", "that", "the", "optimal", "plan", "improves", "the", "heuristically", "obtained", "solutions", "only", "marginally", ".", "Heuristics", "for", "the", "join", "ordering", "problem", "have", "been", "studied", "exten-sively", "in", "the", "database", "community", ".", "In", "this", "work", "we", "adopt", "the", "results", "of", "comparing", "different", "join", "ordering", "heuristics", "from", "-LSB-", "17", "-RSB-", ".", "Inspired", "from", "this", "survey", ",", "we", "chose", "to", "apply", "the", "two-phase", "optimization", "consisting", "of", "the", "iterative", "improvement", "-LRB-", "II", "-RRB-", "algorithm", "followed", "by", "the", "simulated", "annealing", "-LRB-", "SA", "-RRB-", "algorithm", "-LSB-", "20", "-RSB-", ".", "This", "combination", "performs", "very", "well", "on", "the", "class", "of", "queries", "we", "are", "interested", "in", ",", "both", "in", "the", "bushy", "and", "the", "right-deep", "tree", "solution", "space", ",", "and", "degrades", "gracefully", "under", "time", "constrains", ".", "The", "II", "algorithm", "is", "a", "simple", "greedy", "heuristics", "which", "accepts", "any", "improvement", "on", "the", "cost", "function", ".", "The", "II", "randomly", "generates", "several", "initial", "solutions", ",", "taking", "them", "as", "starting", "points", "for", "a", "walk", "in", "the", "chosen", "solution", "space", ".", "The", "actual", "traversal", "is", "performed", "by", "applying", "a", "series", "of", "random", "moves", "from", "a", "predefined", "set", ".", "The", "cost", "function", "is", "evaluated", "for", "every", "such", "move", ",", "remembering", "the", "best", "solution", "so", "far", ".", "The", "main", "idea", "of", "this", "phase", "is", "to", "descent", "rapidly", "into", "several", "local", "minima", "assuring", "aforementioned", "graceful", "degradation", ".", "For", "each", "of", "the", "sub-optimal", "solutions", ",", "the", "second", "phase", "of", "the", "SA", "algorithm", "is", "applied", ".", "The", "task", "of", "the", "SA", "phase", "is", "to", "explore", "the", "``", "neighborhood", "''", "of", "a", "prosperous", "solution", "more", "thor-oughly", ",", "hopefully", "lowering", "the", "cost", ".", "Algorithm", "2", "Simulated", "annealing", "algorithm", "Require", ":", "start", "solution", "solution", "Require", ":", "start", "temperature", "s", "empr", "solution", ":", "=", "solution", "estolution", ":", "=", "solution", "tempr", ":", "=", "s", "empr", "ost", ":", "=", "gost@estolutionA", "mingost", ":", "=", "ost", "repeat", "repeat", "newolution", ":", "=", "NEW", "-LRB-", "solution", "-RRB-", "newgost", ":", "=", "gost@newolutionA", "if", "newgost", "ost", "then", "solution", ":", "=", "newolution", "ost", ":", "=", "newCost", "else", "if", "e", "@newgost", "ostA", "tempr", "!", "exh@HXXIA", "then", "solution", ":", "=", "newolution", "ost", ":", "=", "newCost", "end", "if", "if", "ost", "`", "mingost", "then", "estolution", ":", "=", "solution", "mingost", ":", "=", "ost", "end", "if", "until", "equilibrium", "reached", "DECREASE", "-LRB-", "tempr", "-RRB-", "until", "frozen", "return", "estolution", "The", "pseudo-code", "of", "the", "SA", "phase", "is", "presented", "in", "Algorithm", "2", ".", "It", "takes", "a", "starting", "point/solution", "from", "the", "II", "phase", ",", "and", "similarly", "to", "II", "performs", "random", "moves", "from", "a", "predefined", "set", "accepting", "all", "cost", "improvements", ".", "However", ",", "unlike", "the", "II", ",", "the", "SA", "algorithm", "can", "accept", "with", "a", "certain", "probability", "also", "those", "moves", "that", "result", "in", "a", "solution", "with", "a", "higher", "cost", "than", "the", "current", "best", "solution", ".", "The", "probability", "of", "such", "acceptance", "depends", "on", "the", "temperature", "of", "the", "system", "and", "the", "cost", "difference", ".", "The", "idea", "is", "that", "at", "the", "beginning", "the", "system", "is", "hot", "and", "accepts", "easier", "the", "moves", "yielding", "even", "solutions", "with", "higher", "costs", ".", "However", ",", "as", "the", "temperature", "decreases", "the", "system", "is", "becoming", "more", "stable", ",", "strongly", "preferring", "those", "solutions", "with", "lower", "costs", ".", "The", "SA", "algorithm", "improves", "on", "the", "II", "heuristics", "by", "making", "the", "stop", "condition", "less", "prone", "to", "get", "trapped", "in", "a", "local", "minimum", ";", "SA", "stops", "when", "the", "temperature", "drops", "below", "a", "certain", "threshold", "or", "if", "the", "best", "solution", "so", "far", "was", "not", "improved", "in", "a", "number", "of", "consecutive", "637", "temperature", "decrements", ",", "the", "system", "is", "considered", "frozen", ".", "There", "are", "two", "sets", "of", "moves", ":", "one", "for", "the", "bushy", "solution", "space", "and", "one", "for", "the", "right-deep", "solution", "space", ";", "for", "details", "we", "refer", "the", "reader", "to", "-LSB-", "20", "-RSB-", ".", "Figure", "5", ":", "Acceptance", "probability", "with", "respect", "to", "the", "temperature", "and", "the", "cost", "difference", ".", "Figure", "5", "shows", "the", "acceptance", "probability", "dependency", "in", "the", "SA", "phase", "computed", "for", "the", "range", "of", "parameters", "that", "we", "used", "in", "our", "experiments", ".", "As", "we", "adopted", "the", "two-phase", "algorithm", "our", "simulations", "were", "able", "to", "reproduce", "the", "trends", "in", "results", "presented", "in", "-LSB-", "17", "-RSB-", ";", "due", "to", "the", "lack", "of", "space", "we", "omit", "the", "detail", "performance", "analysis", "and", "the", "interested", "reader", "is", "referred", "to", "the", "aforementioned", "survey", ".", "In", "this", "paper", "we", "focused", "mainly", "on", "basic", "techniques", "such", "as", "indexing", "and", "join", "ordering", ".", "Relevant", "related", "work", "is", "described", "in", "the", "remainder", "of", "this", "section", ".", "More", "advanced", "techniques", "such", "as", "site", "selection", "and", "dynamic", "data", "placement", "are", "not", "considered", ",", "because", "they", "are", "not", "supported", "by", "the", "current", "architecture", "of", "the", "system", ".", "We", "also", "do", "not", "consider", "techniques", "that", "involve", "view-based", "query", "answering", "techniques", "-LSB-", "6", "-RSB-", "because", "we", "are", "currently", "not", "considering", "the", "problem", "of", "integrating", "heterogeneous", "data", ".", "5.1", "Index", "Structures", "for", "Object", "Models", "There", "has", "been", "quite", "a", "lot", "of", "research", "on", "indexing", "object", "oriented", "databases", ".", "The", "aim", "of", "this", "work", "was", "to", "speed", "up", "querying", "and", "navigation", "in", "large", "object", "databases", ".", "The", "underlying", "idea", "of", "many", "existing", "approaches", "is", "to", "regard", "an", "object", "base", "as", "a", "directed", "graph", ",", "where", "objects", "correspond", "to", "nodes", ",", "and", "object", "properties", "to", "links", "-LSB-", "16", "-RSB-", ".", "This", "view", "directly", "corresponds", "to", "RDF", "data", ",", "that", "is", "often", "also", "regarded", "as", "a", "directed", "graph", ".", "Indices", "over", "such", "graph", "structures", "now", "describe", "paths", "in", "the", "graph", "based", "on", "a", "certain", "pattern", "normally", "provided", "by", "the", "schema", ".", "Different", "indexing", "techniques", "vary", "on", "the", "kind", "of", "path", "patterns", "they", "describe", "and", "on", "the", "structure", "of", "the", "index", ".", "Simple", "index", "structures", "only", "refer", "to", "a", "single", "property", "and", "organize", "objects", "according", "to", "the", "value", "of", "that", "property", ".", "Nested", "indices", "and", "path", "indices", "cover", "a", "complete", "path", "in", "the", "model", "that", "might", "contain", "a", "number", "of", "objects", "and", "properties", "-LSB-", "2", "-RSB-", ".", "In", "RDF", "as", "well", "as", "in", "object", "oriented", "databases", ",", "the", "inheritance", "relation", "plays", "a", "special", "role", "as", "it", "is", "connected", "with", "a", "predefined", "semantics", ".", "Special", "index", "structures", "have", "been", "developed", "to", "speed", "up", "queries", "about", "such", "hierarchies", "and", "have", "recently", "been", "rediscovered", "for", "indexing", "RDF", "data", "-LSB-", "5", "-RSB-", ".", "In", "the", "area", "of", "object-oriented", "database", "systems", ",", "these", "two", "kinds", "of", "indexing", "structures", "have", "been", "combined", "resulting", "in", "the", "so-called", "nested", "inheritance", "indices", "-LSB-", "3", "-RSB-", "and", "generalized", "nested", "inheritance", "indices", "-LSB-", "16", "-RSB-", ".", "These", "index", "structures", "directly", "represent", "implications", "of", "inheritance", "reasoning", ",", "an", "approach", "that", "is", "equivalent", "to", "indexing", "the", "deductive", "closure", "of", "the", "model", ".", "5.2", "Query", "Optimization", "There", "is", "a", "long", "tradition", "of", "work", "on", "distributed", "databases", "in", "general", "-LSB-", "13", "-RSB-", "and", "distributed", "query", "processing", "in", "particular", "-LSB-", "10", "-RSB-", ".", "The", "dominant", "problem", "is", "the", "generation", "of", "an", "optimal", "query", "plan", "that", "reduces", "execution", "costs", "as", "much", "as", "possible", "while", "guaranteeing", "completeness", "of", "the", "result", ".", "As", "described", "by", "Kossmann", "in", "-LSB-", "10", "-RSB-", ",", "the", "choice", "of", "techniques", "for", "query", "plan", "generation", "depends", "on", "the", "architecture", "of", "the", "distributed", "system", ".", "He", "discusses", "basic", "techniques", "as", "well", "as", "methods", "for", "client-server", "architectures", "and", "for", "heterogeneous", "databases", ".", "Due", "to", "our", "architectural", "limitations", "-LRB-", "e.g.", ",", "limited", "source", "capabilities", "-RRB-", "we", "focused", "on", "join-ordering", "optimization", "which", "can", "be", "performed", "in", "a", "centralized", "manner", "by", "the", "mediator", ".", "While", "some", "restricted", "cases", "of", "this", "problem", "can", "be", "solved", "in", "a", "polynomial", "time", "-LSB-", "12", ",", "11", "-RSB-", ",", "the", "general", "problem", "of", "finding", "an", "optimal", "plan", "for", "evaluating", "join", "queries", "has", "been", "proven", "to", "be", "NP-hard", "-LSB-", "15", "-RSB-", ".", "The", "approaches", "to", "tackle", "this", "problem", "can", "be", "split", "into", "several", "categories", "-LSB-", "17", "-RSB-", ":", "deterministic", "algorithms", ",", "randomized", "algorithms", ",", "and", "genetic", "algorithms", ".", "Deterministic", "algorithms", "often", "use", "techniques", "of", "dynamic", "programming", "-LRB-", "e.g.", "-LSB-", "12", "-RSB-", "-RRB-", ",", "however", ",", "due", "to", "the", "complexity", "of", "the", "problem", "they", "introduce", "simplifications", ",", "which", "render", "them", "as", "heuristics", ".", "Randomized", "algorithms", "-LRB-", "e.g.", "-LSB-", "20", ",", "19", "-RSB-", "-RRB-", ",", "perform", "a", "random", "walk", "in", "the", "solution", "space", "according", "to", "certain", "rules", ".", "After", "the", "stop-condition", "is", "fulfilled", ",", "the", "best", "solution", "found", "so", "far", "is", "declared", "as", "the", "result", ".", "Genetic", "algorithms", "-LRB-", "e.g.", "-LSB-", "18", "-RSB-", "-RRB-", "perceive", "the", "problem", "as", "biological", "evolution", ";", "they", "usually", "start", "with", "a", "random", "population", "-LRB-", "set", "of", "solutions", "-RRB-", "and", "generate", "offspring", "by", "applying", "a", "crossover", "and", "mutation", ".", "Subsequently", ",", "the", "selection", "phase", "eliminates", "weak", "members", "of", "the", "new", "population", ".", "The", "work", "reported", "in", "this", "paper", "can", "be", "seen", "as", "a", "very", "first", "step", "towards", "a", "solution", "for", "the", "problem", "of", "distributed", "processing", "of", "RDF", "queries", ".", "We", "motivated", "the", "overall", "problem", "and", "proposed", "some", "data", "structures", "and", "algorithms", "that", "deal", "with", "the", "most", "fundamental", "problems", "of", "distributed", "querying", "in", "a", "predefined", "setting", ".", "We", "identified", "a", "number", "of", "limitations", "of", "the", "current", "proposal", "with", "respect", "to", "the", "generality", "of", "the", "approach", "and", "assumptions", "made", ".", "These", "limitations", "also", "set", "the", "agenda", "for", "future", "work", "to", "be", "done", "on", "distributed", "RDF", "querying", "and", "its", "support", "in", "Sesame", ".", "Implementation", "Currently", ",", "our", "work", "on", "distributed", "query", "processing", "is", "of", "a", "purely", "theoretical", "nature", ".", "The", "design", "and", "evaluation", "of", "the", "methods", "described", "are", "based", "on", "previous", "work", "reported", "in", "the", "literature", "and", "on", "worst-case", "complexity", "estimations", ".", "The", "next", "step", "is", "to", "come", "up", "with", "a", "test", "implementation", "of", "a", "distributed", "RDF", "storage", "system", ".", "The", "implementation", "will", "follow", "the", "architecture", "introduced", "in", "the", "beginning", "of", "the", "paper", "and", "will", "be", "built", "on", "top", "of", "the", "Sesame", "storage", "and", "retrieval", "engine", ".", "The", "implementation", "will", "provide", "the", "basis", "for", "a", "more", "practical", "evaluation", "of", "our", "approach", "and", "will", "allow", "us", "to", "make", "assertions", "about", "the", "real", "system", "behavior", "in", "the", "presence", "of", "different", "data", "sets", "and", "different", "ways", "they", "are", "distributed", ".", "Such", "a", "practical", "evaluation", "will", "be", "the", "basis", "for", "further", "optimization", "of", "the", "methods", ".", "Schema-Awareness", "One", "of", "the", "limitations", "of", "the", "approach", "described", "in", "this", "paper", "concerns", "schema", "aware", "querying", "in", "a", "distributed", "setting", ".", "Even", "if", "every", "single", "repository", "is", "capable", "of", "computing", "the", "deductive", "closure", "of", "the", "model", "it", "contains", ",", "the", "overall", "638", "result", "is", "not", "necessarily", "complete", ",", "as", "schema", "information", "in", "one", "repository", "can", "have", "an", "influence", "on", "information", "in", "other", "repositories", ".", "This", "information", "could", "lead", "to", "additional", "conclusions", "if", "taken", "into", "account", "during", "query", "processing", ".", "In", "order", "to", "be", "able", "to", "deal", "with", "this", "situation", ",", "we", "need", "to", "do", "some", "additional", "reasoning", "within", "the", "mediator", "in", "order", "to", "detect", "and", "process", "dependencies", "between", "the", "different", "models", ".", "Object", "Identity", "One", "of", "the", "basic", "operations", "of", "query", "processing", "is", "the", "computation", "of", "joins", "of", "relations", "that", "correspond", "to", "individual", "properties", ".", "The", "basic", "assumption", "we", "make", "at", "this", "point", "is", "that", "we", "are", "able", "to", "uniquely", "determine", "object", "identity", ".", "Identity", "is", "essential", "because", "it", "is", "the", "main", "criterion", "that", "determines", "whether", "to", "connect", "two", "paths", "or", "not", ".", "From", "a", "pragmatic", "point", "of", "view", ",", "the", "URI", "of", "an", "RDF", "resource", "provides", "us", "with", "an", "identity", "criterion", ".", "While", "this", "may", "be", "the", "case", "in", "a", "single", "repository", ",", "it", "is", "not", "clear", "at", "all", "whether", "we", "can", "make", "this", "assumption", "in", "a", "distributed", "setting", "as", "different", "repositories", "can", "contain", "information", "about", "the", "same", "real", "world", "object", "-LRB-", "e.g.", ",", "a", "paper", "-RRB-", "and", "assign", "different", "URIs", "to", "it", ".", "To", "deal", "with", "this", "situation", "we", "have", "to", "develop", "heuristics", "capable", "of", "deciding", "whether", "two", "resources", "describe", "the", "same", "real", "world", "object", ".", "Query", "Model", "In", "order", "to", "be", "able", "to", "design", "efficient", "index", "structures", "we", "restricted", "ourselves", "to", "path", "queries", "as", "a", "query", "model", "that", "is", "directly", "supported", ".", "We", "argued", "above", "that", "tree-shaped", "queries", "can", "be", "easily", "split", "into", "a", "number", "of", "path", "queries", "that", "have", "to", "be", "joined", "afterwards", ".", "Nevertheless", ",", "this", "simplification", "does", "not", "apply", "to", "the", "optimization", "part", "which", "is", "capable", "of", "processing", "also", "different", "query", "shapes", ".", "An", "important", "aspect", "of", "future", "work", "is", "to", "extend", "our", "indexing", "approach", "to", "more", "expressive", "query", "models", "that", "also", "include", "tree", "and", "graph", "shaped", "queries", "which", "can", "be", "found", "in", "existing", "RDF", "query", "languages", ".", "It", "remains", "to", "be", "seen", "whether", "the", "same", "kind", "of", "structures", "and", "algorithms", "can", "be", "used", "for", "more", "complex", "queries", "or", "whether", "we", "have", "to", "find", "alternatives", ".", "Architecture", "The", "starting", "point", "of", "our", "investigation", "was", "a", "particular", "architecture", ",", "namely", "a", "distributed", "repository", "where", "the", "data", "is", "accessed", "at", "a", "single", "point", "but", "stored", "in", "different", "repositories", ".", "We", "further", "made", "the", "assumption", "that", "these", "repositories", "are", "read-only", ",", "i.e.", ",", "they", "only", "provide", "answers", "to", "path", "queries", "that", "they", "are", "known", "to", "contain", "some", "information", "about", ".", "An", "interesting", "question", "is", "how", "more", "flexible", "architectures", "can", "be", "supported", ".", "We", "think", "of", "architectures", "where", "information", "is", "accessed", "from", "multiple", "points", "and", "repositories", "are", "able", "to", "forward", "queries", ".", "Further", "we", "can", "imagine", "grid-based", "architectures", "where", "components", "can", "perform", "local", "query", "processing", "on", "data", "received", "from", "other", "repositories", ".", "A", "prominent", "example", "of", "such", "more", "flexible", "architectures", "are", "peer-to-peer", "systems", ".", "This", "would", "also", "bring", "a", "new", "potential", "for", "optimization", "as", "peers", "may", "collaborate", "on", "query", "evaluation", "which", "in", "turn", "may", "help", "in", "reducing", "both", "the", "communication", "and", "processing", "costs", ".", "-LSB-", "1", "-RSB-", "P.", "Bernstein", "and", "D.", "Chiu", ".", "Using", "semi-joins", "to", "solve", "relational", "queries", ".", "Journal", "of", "the", "ACM", ",", "28:25", "40", ",", "1981", ".", "-LSB-", "2", "-RSB-", "E.", "Bertino", ".", "An", "indexing", "technique", "for", "object-oriented", "databases", ".", "In", "Proceedings", "of", "the", "Seventh", "International", "Conference", "on", "Data", "Engineering", ",", "April", "8-12", ",", "1991", ",", "Kobe", ",", "Japan", ",", "pages", "160", "170", ".", "IEEE", "Computer", "Society", ",", "1991", ".", "-LSB-", "3", "-RSB-", "E.", "Bertino", "and", "P.", "Foscoli", ".", "Index", "organizations", "for", "object-oriented", "database", "systems", ".", "TKDE", ",", "7", "-LRB-", "2", "-RRB-", ":", "193", "209", ",", "1995", ".", "-LSB-", "4", "-RSB-", "J.", "Broekstra", ",", "A.", "Kampman", ",", "and", "F.", "van", "Harmelen", ".", "Sesame", ":", "A", "generic", "architecture", "for", "storing", "and", "querying", "rdf", "and", "rdf", "schema", ".", "In", "The", "Semantic", "Web", "-", "ISWC", "2002", ",", "volume", "2342", "of", "LNCS", ",", "pages", "54", "68", ".", "Springer", ",", "2002", ".", "-LSB-", "5", "-RSB-", "V.", "Christophides", ",", "D.", "Plexousakisa", ",", "M.", "Scholl", ",", "and", "S.", "Tourtounis", ".", "On", "labeling", "schemes", "for", "the", "semantic", "web", ".", "In", "Proceedings", "of", "the", "13th", "World", "Wide", "Web", "Conference", ",", "pages", "544", "555", ",", "2003", ".", "-LSB-", "6", "-RSB-", "A.", "Halevy", ".", "Answering", "queries", "using", "views", "-", "a", "survey", ".", "The", "VLDB", "Journal", ",", "10", "-LRB-", "4", "-RRB-", ":", "270", "294", ",", "2001", ".", "-LSB-", "7", "-RSB-", "J.", "Hendler", ".", "Agents", "and", "the", "semantic", "web", ".", "IEEE", "Intelligent", "Systems", ",", "-LRB-", "2", "-RRB-", ",", "2001", ".", "-LSB-", "8", "-RSB-", "H.", "Hsiao", ",", "M.", "Chen", ",", "and", "P.", "Yu", ".", "Parallel", "execution", "of", "hash", "joins", "in", "parallel", "databases", ".", "IEEE", "Transactions", "on", "Parallel", "and", "Distributed", "Systems", ",", "8:872", "883", ",", "1997", ".", "-LSB-", "9", "-RSB-", "Y.", "Ioannidis", "and", "E.", "Wong", ".", "Query", "optimization", "by", "simulated", "annealing", ".", "In", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pages", "9", "22", ".", "ACM", ":", "Press", ",", "1987", ".", "-LSB-", "10", "-RSB-", "D.", "Kossmann", ".", "The", "state", "of", "the", "art", "in", "distributed", "query", "processing", ".", "ACM", "Computing", "Surveys", ",", "32", "-LRB-", "4", "-RRB-", ":", "422", "469", ",", "2000", ".", "-LSB-", "11", "-RSB-", "G.", "Moerkotte", ".", "Constructing", "optimal", "bushy", "trees", "possibly", "containing", "cross", "products", "for", "order", "preserving", "joins", "is", "in", "p", ",", "tr-03-012", ".", "Technical", "report", ",", "University", "of", "Mannheim", ",", "2003", ".", "-LSB-", "12", "-RSB-", "K.", "Ono", "and", "G.", "M.", "Lohman", ".", "Measuring", "the", "complexity", "of", "join", "enumeration", "in", "query", "optimization", ".", "In", "16th", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "pages", "314", "325", ".", "Morgan", "Kaufmann", ",", "1990", ".", "-LSB-", "13", "-RSB-", "M.", "Ozsu", "and", "P.", "Valduriez", ".", "Principles", "of", "Distributed", "Database", "Systems", ".", "Prentice", "Hall", ",", "1991", ".", "-LSB-", "14", "-RSB-", "D.", "Rotem", ".", "Spatial", "join", "indices", ".", "In", "Proceedings", "of", "International", "Conference", "on", "Data", "Engineering", ",", "1991", ".", "-LSB-", "15", "-RSB-", "W.", "Scheufele", "and", "G.", "Moerkotte", ".", "Constructing", "optimal", "bushy", "processing", "trees", "for", "join", "queries", "is", "np-hard", ",", "tr-96-011", ".", "Technical", "report", ",", "University", "of", "Mannheim", ",", "1996", ".", "-LSB-", "16", "-RSB-", "B.", "Shidlovsky", "and", "E.", "Bertino", ".", "A", "graph-theoretic", "approach", "to", "indexing", "in", "object-oriented", "databases", ".", "In", "S.", "Y.", "W.", "Su", ",", "editor", ",", "Proceedings", "of", "the", "Twelfth", "International", "Conference", "on", "Data", "Engineering", ",", "February", "26", "-", "March", "1", ",", "1996", ",", "New", "Orleans", ",", "Louisiana", ",", "pages", "230", "237", ".", "IEEE", "Computer", "Society", ",", "1996", ".", "-LSB-", "17", "-RSB-", "M.", "Steinbrunn", ",", "G.", "Moerkotte", ",", "and", "A.", "Kemper", ".", "Heuristic", "and", "randomized", "optimization", "for", "join", "ordering", "problem", ".", "The", "VLDB", "Journal", ",", "6:191", "208", ",", "1997", ".", "-LSB-", "18", "-RSB-", "M.", "Stillger", "and", "M.", "Spiliopoulou", ".", "Genetic", "programming", "in", "database", "query", "optimization", ".", "In", "J.", "R.", "Koza", ",", "D.", "E.", "Goldberg", ",", "D.", "B.", "Fogel", ",", "and", "R.", "L.", "Riolo", ",", "editors", ",", "Genetic", "Programming", "1996", ":", "Proceedings", "of", "the", "First", "Annual", "Conference", ",", "pages", "388", "393", ".", "MIT", "Press", ",", "1996", ".", "-LSB-", "19", "-RSB-", "A.", "Swami", ".", "Optimization", "of", "large", "join", "queries", ":", "combining", "heuristics", "and", "combinatorial", "techniques", ".", "In", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pages", "367", "376", ".", "ACM", ":", "Press", ",", "1989", ".", "-LSB-", "20", "-RSB-", "A.", "Swami", "and", "A.", "Gupta", ".", "Optimization", "of", "large", "join", "queries", ".", "In", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pages", "8", "17", ".", "ACM", ":", "Press", ",", "1988", ".", "-LSB-", "21", "-RSB-", "Z.", "Xie", "and", "J.", "Han", ".", "Join", "index", "hierarchies", "for", "supporting", "efficient", "navigations", "in", "object-oriented", "databases", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "pages", "522", "533", ",", "1994", ".", "-LSB-", "22", "-RSB-", "C.", "Yu", "and", "W.", "Meng", ".", "Principles", "of", "Database", "Query", "Processing", "for", "Advanced", "Applications", ".", "Morgan", "Kaufmann", "Publishers", ",", "1998", ".", "639"], "doc_bio_tags": ["B", "I", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["repositories", "semantic web", "query optimization", "infrastructure", "join ordering problem", "rdf", "distributed architecture", "index structure", "optimization", "index structures", "external sources"], "abstractive_keyphrases": ["rdf querying"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "199", "document": ["Tracking", "Dynamics", "of", "Topic", "Trends", "Using", "a", "Finite", "Mixture", "Model", "In", "a", "wide", "range", "of", "business", "areas", "dealing", "with", "text", "data", "streams", ",", "including", "CRM", ",", "knowledge", "management", ",", "and", "Web", "monitoring", "services", ",", "it", "is", "an", "important", "issue", "to", "discover", "topic", "trends", "and", "analyze", "their", "dynamics", "in", "real-time", ".", "Specifically", "we", "consider", "the", "following", "three", "tasks", "in", "topic", "trend", "analysis", ":", "1", "-RRB-", "Topic", "Structure", "Identification", ";", "identifying", "what", "kinds", "of", "main", "topics", "exist", "and", "how", "important", "they", "are", ",", "2", "-RRB-", "Topic", "Emergence", "Detection", ";", "detecting", "the", "emergence", "of", "a", "new", "topic", "and", "recognizing", "how", "it", "grows", ",", "3", "-RRB-", "Topic", "Characterization", ";", "identifying", "the", "characteristics", "for", "each", "of", "main", "topics", ".", "For", "real", "topic", "analysis", "systems", ",", "we", "may", "require", "that", "these", "three", "tasks", "be", "performed", "in", "an", "on-line", "fashion", "rather", "than", "in", "a", "retrospective", "way", ",", "and", "be", "dealt", "with", "in", "a", "single", "framework", ".", "This", "paper", "proposes", "a", "new", "topic", "analysis", "framework", "which", "satisfies", "this", "requirement", "from", "a", "unifying", "viewpoint", "that", "a", "topic", "structure", "is", "modeled", "using", "a", "finite", "mixture", "model", "and", "that", "any", "change", "of", "a", "topic", "trend", "is", "tracked", "by", "learning", "the", "finite", "mixture", "model", "dynamically.In", "this", "framework", "we", "propose", "the", "usage", "of", "a", "time-stamp", "based", "discounting", "learning", "algorithm", "in", "order", "to", "realize", "real-time", "topic", "structure", "identification", ".", "This", "enables", "tracking", "the", "topic", "structure", "adaptively", "by", "forgetting", "out-of-date", "statistics.Further", "we", "apply", "the", "theory", "of", "dynamic", "model", "selection", "to", "detecting", "changes", "of", "main", "components", "in", "the", "finite", "mixture", "model", "in", "order", "to", "realize", "topic", "emergence", "detection.We", "demonstrate", "the", "effectiveness", "of", "our", "framework", "using", "real", "data", "collected", "at", "a", "help", "desk", "to", "show", "that", "we", "are", "able", "to", "track", "dynamics", "of", "topic", "trends", "in", "a", "timely", "fashion", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "Data", "Mining", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "In", "a", "wide", "range", "of", "business", "areas", "dealing", "with", "text", "streams", ",", "including", "CRM", ",", "knowledge", "management", ",", "and", "Web", "monitoring", "services", ",", "it", "is", "an", "important", "issue", "to", "discover", "topic", "trends", "and", "analyze", "their", "dynamics", "in", "real-time", ".", "For", "example", ",", "it", "is", "desired", "in", "the", "CRM", "area", "to", "grasp", "a", "new", "trend", "of", "topics", "in", "customers", "'", "claims", "every", "day", "and", "to", "track", "a", "new", "topic", "as", "soon", "as", "it", "emerges.A", "topic", "is", "here", "defined", "as", "a", "seminal", "event", "or", "activity.Specifically", "we", "consider", "the", "following", "three", "tasks", "in", "topic", "analysis", ":", "1", "-RRB-", "Topic", "Structure", "Identification", ";", "learning", "a", "topic", "structure", "in", "a", "text", "stream", ",", "in", "other", "words", ",", "identifying", "what", "kinds", "of", "main", "topics", "exist", "and", "how", "important", "they", "are", ".", "2", "-RRB-", "Topic", "Emergence", "Detection", ";", "detecting", "the", "emergence", "of", "a", "new", "topic", "and", "recognizing", "how", "rapidly", "it", "grows", ",", "similarly", ",", "detecting", "the", "disappearance", "of", "an", "existing", "topic", ".", "3", "-RRB-", "Topic", "Characterization", ";", "identifying", "the", "characteristics", "for", "each", "of", "main", "topics", ".", "For", "real", "topic", "analysis", "systems", ",", "we", "may", "require", "that", "these", "three", "tasks", "be", "performed", "in", "an", "on-line", "fashion", "rather", "than", "in", "a", "retrospective", "way", ",", "and", "be", "dealt", "with", "in", "a", "single", "framework", ".", "The", "main", "purpose", "of", "this", "paper", "is", "to", "propose", "a", "new", "topic", "analysis", "framework", "that", "satisfies", "the", "requirement", "as", "above", ",", "and", "to", "demonstrate", "its", "effectiveness", "through", "its", "experimental", "evaluations", "for", "real", "data", "sets", ".", "Our", "framework", "is", "designed", "from", "a", "unifying", "viewpoint", "that", "a", "topic", "structure", "in", "a", "text", "stream", "is", "modeled", "using", "a", "finite", "mixture", "model", "-LRB-", "a", "model", "of", "the", "form", "of", "a", "weighted", "average", "of", "a", "number", "of", "probabilistic", "models", "-RRB-", "and", "that", "any", "change", "of", "a", "topic", "trend", "is", "tracked", "by", "learning", "the", "finite", "mixture", "model", "dynamically.Here", "each", "topic", "corresponds", "to", "a", "single", "mixture", "component", "in", "the", "model", ".", "All", "of", "the", "tasks", "1", "-RRB-", "-3", "-RRB-", "are", "formalized", "in", "terms", "of", "a", "finite", "mixture", "model", "as", "follows", ":", "As", "for", "the", "task", "1", "-RRB-", ",", "the", "topic", "structure", "is", "identified", "by", "statistical", "parameters", "of", "a", "finite", "mixture", "model.They", "are", "learned", "using", "our", "original", "time-stamp", "based", "discounting", "learning", "algorithm", ",", "which", "incrementally", "and", "adaptively", "estimates", "statistical", "parameters", "of", "the", "model", "by", "gradually", "forgetting", "out-of-date", "statistics", ",", "making", "use", "of", "time-stamps", "of", "data.This", "makes", "the", "learning", "procedure", "adaptive", "to", "changes", "of", "the", "nature", "of", "text", "streams", ".", "As", "for", "the", "task", "2", "-RRB-", ",", "any", "change", "of", "a", "topic", "structure", "is", "rec-ognized", "by", "tracking", "the", "change", "of", "main", "components", "in", "a", "mixture", "model.We", "apply", "the", "theory", "of", "dynamic", "model", "selection", "-LSB-", "7", "-RSB-", "to", "detecting", "changes", "of", "the", "optimal", "number", "of", "811", "Industry/Government", "Track", "Poster", "main", "components", "and", "their", "organization", "in", "the", "finite", "mixture", "model.We", "may", "recognize", "that", "a", "new", "topic", "has", "emerged", "if", "a", "new", "mixture", "component", "is", "detected", "in", "the", "model", "and", "remains", "for", "a", "while.Unlike", "conventional", "approaches", "to", "statistical", "model", "selection", "under", "the", "stationary", "environment", ",", "dynamic", "model", "selection", "is", "performed", "under", "the", "non-stationary", "one", "in", "which", "the", "optimal", "model", "may", "change", "over", "time.Further", "note", "that", "we", "deal", "with", "a", "complicated", "situation", "where", "the", "dimension", "of", "input", "data", ",", "i.e.", ",", "the", "number", "of", "features", "of", "a", "text", "vector", ",", "may", "increase", "as", "time", "goes", "by", ".", "As", "for", "the", "task", "3", "-RRB-", ",", "we", "classify", "every", "text", "into", "the", "cluster", "for", "which", "the", "posterior", "probability", "is", "largest", ",", "and", "then", "we", "characterize", "each", "topic", "using", "feature", "terms", "characterizing", "texts", "classified", "into", "its", "corresponding", "cluster.These", "feature", "terms", "are", "extracted", "as", "those", "of", "highest", "information", "gain", ",", "which", "are", "computed", "in", "real-time", ".", "We", "demonstrate", "the", "validity", "of", "the", "topic", "trend", "analysis", "framework", ",", "by", "showing", "experimental", "results", "on", "its", "applications", "to", "real", "domains.Specifically", "we", "emphasize", "that", "it", "is", "really", "effective", "for", "discovering", "trends", "in", "questions", "at", "a", "help", "desk", ".", "1.2", "Related", "Work", "The", "technologies", "similar", "to", "1", "-RRB-", "-3", "-RRB-", "have", "extensively", "been", "ex-plored", "in", "the", "area", "of", "topic", "detection", "and", "tracking", "-LRB-", "TDT", "-RRB-", "-LRB-", "see", "-LSB-", "1", "-RSB-", "-RRB-", ".", "Actually", "1", "-RRB-", "and", "2", "-RRB-", "are", "closely", "related", "to", "the", "subprob-lems", "in", "TDT", "called", "topic", "tracking", "and", "new", "event", "detection", ",", "respectively.Here", "topic", "tracking", "is", "to", "classify", "texts", "into", "one", "of", "topics", "specified", "by", "a", "user", ",", "while", "new", "event", "detection", ",", "formerly", "called", "first", "story", "detection", ",", "is", "to", "identify", "texts", "that", "discuss", "a", "topic", "that", "has", "not", "already", "been", "reported", "in", "earlier", "texts.The", "latter", "problem", "is", "also", "related", "to", "work", "on", "topic-conditioned", "novelty", "detection", "by", "Yang", "et.al", ".", "-LSB-", "16", "-RSB-", ".", "In", "most", "of", "related", "TDT", "works", ",", "however", ",", "topic", "tracking", "or", "new", "event", "detection", "is", "conducted", "without", "identifying", "main", "topics", "or", "a", "topic", "structure", ",", "hence", "the", "tasks", "1", "-RRB-", "-3", "-RRB-", "can", "not", "be", "unified", "within", "a", "conventional", "TDT", "framework.Further", "topic", "timeline", "analysis", "has", "not", "been", "addressed", "in", "it", ".", "Swan", "and", "Allen", "-LSB-", "12", "-RSB-", "addressed", "the", "issue", "of", "how", "to", "auto-matically", "overview", "timelines", "of", "a", "set", "of", "news", "stories.They", "used", "the", "2", "-", "method", "to", "identify", "at", "each", "time", "a", "burst", "of", "feature", "terms", "that", "more", "frequently", "appear", "than", "at", "other", "times", ".", "Similar", "issues", "are", "addressed", "in", "the", "visualization", "community", "-LSB-", "3", "-RSB-", ".", "However", ",", "all", "of", "the", "methods", "proposed", "there", "are", "not", "designed", "to", "perform", "in", "an", "on-line", "fashion", ".", "Kleinberg", "-LSB-", "4", "-RSB-", "proposed", "a", "formal", "model", "of", "``", "bursts", "of", "ac-tivity", "''", "using", "an", "infinite-state", "automaton.This", "is", "closely", "related", "to", "topic", "emergence", "detection", "in", "our", "framework.A", "burst", "has", "a", "somewhat", "different", "meaning", "from", "a", "topic", "in", "the", "sense", "that", "the", "former", "is", "a", "series", "of", "texts", "including", "a", "specific", "feature", ",", "while", "the", "latter", "is", "a", "cluster", "of", "categorized", "texts.Hence", "topic", "structure", "identification", "and", "characterization", "can", "not", "be", "dealt", "with", "in", "his", "model.Further", "note", "that", "Kleinberg", "'s", "model", "is", "not", "designed", "for", "real-time", "analysis", "but", "for", "retrospective", "one", ".", "Related", "to", "our", "statistical", "modeling", "of", "a", "topic", "structure", ",", "Liu", "et.al", ".", "-LSB-", "2", "-RSB-", "and", "Li", "and", "Yamanishi", "-LSB-", "6", "-RSB-", "also", "proposed", "methods", "for", "topic", "analysis", "using", "a", "finite", "mixture", "model.Specifically", ",", "Liu", "et.al", ".", "considered", "the", "problem", "of", "selecting", "the", "optimal", "number", "of", "mixture", "components", "in", "the", "context", "of", "text", "clustering.In", "their", "approach", "a", "single", "model", "is", "selected", "as", "an", "optimal", "model", "under", "the", "assumption", "that", "the", "optimal", "model", "does", "not", "change", "over", "time.Meanwhile", ",", "in", "our", "approach", ",", "a", "sequence", "of", "optimal", "models", "is", "selected", "dynamically", "under", "the", "assumption", "that", "the", "optimal", "model", "may", "change", "over", "time", ".", "Related", "to", "topic", "emergence", "detection", ",", "Matsunaga", "and", "Yamanishi", "-LSB-", "7", "-RSB-", "proposed", "a", "basic", "method", "of", "dynamic", "model", "selection", ",", "by", "which", "one", "can", "dynamically", "track", "the", "change", "of", "number", "of", "components", "in", "the", "mixture", "model.However", ",", "any", "of", "all", "of", "these", "technologies", "can", "not", "straightforwardly", "be", "applied", "to", "real-time", "topic", "analysis", "in", "which", "the", "dimension", "of", "data", "may", "increase", "as", "time", "goes", "by", ".", "Related", "to", "topic", "structure", "identification", ",", "an", "on-line", "discounting", "learning", "algorithm", "for", "estimating", "parameters", "in", "a", "finite", "mixture", "model", "has", "been", "proposed", "by", "Yamanishi", "et", ".", "al.", "-LSB-", "14", "-RSB-", ".", "The", "main", "difference", "between", "our", "algorithm", "and", "theirs", "is", "that", "the", "former", "makes", "use", "of", "time-stamps", "in", "order", "to", "make", "the", "topic", "structure", "affected", "by", "a", "timeline", "of", "topics", "while", "the", "latter", "considers", "only", "the", "time-order", "of", "data", "ignoring", "their", "time-stamps", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "describes", "a", "basic", "model", "of", "topic", "structure.Section", "3", "gives", "a", "method", "for", "topic", "structure", "identification.Section", "4", "gives", "a", "method", "for", "topic", "emergence", "detection.Section", "5", "gives", "a", "method", "for", "topic", "characterization.Section", "6", "gives", "experimental", "results.Section", "7", "gives", "concluding", "remarks", ".", "We", "employ", "a", "probabilistic", "model", "called", "a", "finite", "mixture", "model", "for", "the", "representation", "of", "topic", "generation", "in", "a", "text", "stream.Let", "W", "=", "-LCB-", "w", "1", ",", ",", "w", "d", "-RCB-", "be", "the", "complete", "vocabulary", "set", "of", "the", "document", "corpus", "after", "the", "stop-words", "removal", "and", "words", "stemming", "operations.For", "a", "given", "document", "x", ",", "let", "tf", "-LRB-", "w", "i", "-RRB-", "be", "the", "term", "frequency", "of", "word", "w", "i", "in", "x.Let", "idf", "-LRB-", "w", "i", "-RRB-", "be", "the", "idf", "value", "of", "w", "i", ",", "i.", "e.", ",", "idf", "-LRB-", "w", "i", "-RRB-", "=", "log", "-LRB-", "N/df", "-LRB-", "w", "i", "-RRB-", "-RRB-", "where", "N", "is", "the", "total", "number", "of", "texts", "for", "reference", "and", "df", "-LRB-", "w", "i", "-RRB-", "is", "the", "frequency", "of", "texts", "in", "which", "w", "i", "appears.Let", "tf-idf", "-LRB-", "w", "i", "-RRB-", "be", "the", "tf-idf", "value", "of", "w", "i", "in", "x", ",", "i.", "e.", ",", "tf-idf", "-LRB-", "w", "i", "-RRB-", "=", "tf", "-LRB-", "w", "i", "-RRB-", "log", "-LRB-", "N/df", "-LRB-", "w", "i", "-RRB-", "-RRB-", ".", "We", "may", "represent", "a", "text", "x", "of", "the", "form", ":", "x", "=", "-LRB-", "tf", "-LRB-", "w", "1", "-RRB-", ",", "...", ",", "tf", "-LRB-", "w", "d", "-RRB-", "-RRB-", "or", "x", "=", "-LRB-", "tf-idf", "-LRB-", "w", "1", "-RRB-", ",", "...", ",", "tf", "-", "idf", "-LRB-", "w", "d", "-RRB-", "-RRB-", ".", "We", "may", "use", "either", "type", "of", "the", "representation", "forms", ".", "Let", "K", "be", "a", "given", "positive", "integer", "representing", "the", "number", "of", "different", "topics.We", "suppose", "that", "a", "text", "has", "only", "one", "topic", "and", "a", "text", "having", "the", "i-th", "topic", "is", "distributed", "according", "to", "the", "probability", "distribution", "with", "a", "density", ":", "p", "i", "-LRB-", "x", "|", "i", "-RRB-", "-LRB-", "i", "=", "1", ",", "2", ",", ",", "K", "-RRB-", ",", "where", "i", "is", "a", "real-valued", "parameter", "vector.We", "suppose", "here", "that", "x", "is", "distributed", "according", "to", "a", "finite", "mixture", "distribution", "-LRB-", "see", "e.g.", ",", "-LSB-", "8", "-RSB-", "-RRB-", "with", "K", "components", "given", "by", "p", "-LRB-", "x", "|", ":", "K", "-RRB-", "=", "K", "X", "i", "=", "1", "i", "p", "-LRB-", "x", "|", "i", "-RRB-", ",", "-LRB-", "1", "-RRB-", "where", "i", ">", "0", "-LRB-", "i", "=", "1", ",", ",", "K", "-RRB-", "and", "P", "K", "i", "=", "1", "i", "=", "1", ".", "We", "set", "=", "-LRB-", "1", ",", ",", "K-1", ",", "1", ",", ",", "K", "-RRB-", ".", "Here", "i", "denotes", "the", "degree", "to", "what", "the", "i-th", "topic", "is", "likely", "to", "appear", "in", "a", "text", "stream", ".", "Note", "that", "each", "component", "in", "the", "mixture", "defines", "a", "single", "cluster", "in", "the", "sense", "of", "soft-clustering", ".", "Throughout", "this", "paper", "we", "suppose", "that", "each", "p", "i", "-LRB-", "x", "|", "i", "-RRB-", "takes", "a", "form", "of", "a", "Gaussian", "density", ":", "Letting", "d", "be", "the", "dimension", "of", "812", "Industry/Government", "Track", "Poster", "Text", "Data", "Stream", "Discount", "Learning", "Finite", "Mixture", "Model", "1", "Dynamic", "Model", "Selection", "Topic", "Emergence", "Detection", "Topic", "Characteriztion", "Timeline", "of", "Topics", "Discount", "Learning", "Discount", "Learning", "Finite", "Mixture", "Model", "2", "Finite", "Mixture", "Model", "K", "Figure", "1", ":", "Topic", "Trend", "Analysis", "System", "each", "datum", ",", "p", "i", "-LRB-", "x", "|", "i", "-RRB-", "=", "i", "-LRB-", "x", "|", "i", ",", "i", "-RRB-", "-LRB-", "2", "-RRB-", "=", "1", "-LRB-", "2", "-RRB-", "d/2", "|", "i", "|", "1/2", "exp", ",", ",", "-", "12", "-LRB-", "x", "-", "i", "-RRB-", "T", "-1", "i", "-LRB-", "x", "-", "i", "-RRB-", ",", "where", "i", "is", "a", "d-dimensional", "real-valued", "vector", ",", "i", "is", "a", "d", "d-dimensional", "matrix", ",", "and", "we", "set", "i", "=", "-LRB-", "i", ",", "i", "-RRB-", ".", "In", "this", "case", "-LRB-", "1", "-RRB-", "is", "so-called", "a", "Gaussian", "mixture.Note", "that", "a", "Gaussian", "density", "may", "be", "replaced", "with", "any", "other", "form", "of", "probability", "distributions", ",", "such", "as", "a", "multinomial", "distribution", ".", "In", "terms", "of", "a", "finite", "mixture", "model", ",", "a", "topic", "structure", "is", "identified", "by", "A", "-RRB-", "the", "number", "of", "components", "K", "-LRB-", "how", "many", "topics", "exist", "-RRB-", ",", "B", "-RRB-", "the", "weight", "vector", "-LRB-", "1", ",", ",", "K", "-RRB-", "indicating", "how", "likely", "each", "topic", "appears", ",", "and", "C", "-RRB-", "the", "parameter", "values", "i", "-LRB-", "i", "=", "1", ",", ",", "K", "-RRB-", "indicating", "how", "each", "topic", "is", "distributed.A", "topic", "structure", "in", "a", "text", "stream", "must", "be", "learned", "in", "an", "on-line", "fashion.Topic", "emergence", "detection", "is", "conducted", "by", "tracking", "the", "change", "of", "main", "components", "in", "the", "mixture", "model", ".", "Topic", "characterization", "is", "conducted", "by", "classifying", "each", "text", "into", "the", "component", "for", "which", "the", "posterior", "is", "largest", "and", "then", "by", "extracting", "feature", "terms", "characterizing", "the", "classified", "texts.Topic", "drift", "may", "be", "detected", "by", "tracking", "changes", "of", "a", "parameter", "value", "i", "for", "each", "topic", "i.These", "tasks", "will", "be", "described", "in", "details", "in", "the", "sessions", "to", "follow", ".", "The", "overall", "flow", "of", "the", "tasks", "is", "illustrated", "in", "Figure", "1", ".", "A", "text", "is", "sequentially", "input", "to", "the", "system.We", "prepare", "a", "number", "of", "finite", "mixture", "models", ",", "for", "each", "of", "which", "we", "learn", "statistical", "parameters", "using", "the", "time-stamp", "based", "learning", "algorithm", "to", "perform", "topic", "identification.These", "tasks", "are", "performed", "in", "parallel.On", "the", "basis", "of", "the", "input", "data", "and", "learned", "models", ",", "we", "conduct", "dynamic", "model", "selection", "for", "choosing", "the", "optimal", "finite", "mixture", "model.We", "then", "compare", "the", "new", "optimal", "model", "with", "the", "last", "one", "to", "conduct", "topic", "emergence", "detection.Finally", "for", "each", "component", "of", "the", "optimal", "model", ",", "we", "conduct", "topic", "characterization", ".", "In", "this", "section", "we", "propose", "an", "algorithm", "for", "learning", "a", "topic", "structure", ",", "which", "we", "call", "an", "time-stamp", "based", "discounting", "topic", "learning", "algorithm", ".", "The", "algorithm", "is", "basically", "designed", "as", "a", "variant", "of", "the", "incremental", "EM", "algorithm", "for", "learning", "a", "finite", "mixture", "model", "-LRB-", "see", ",", "e.g.", ",", "Neal", "and", "Hinton", "-LSB-", "9", "-RSB-", "-RRB-", ".", "Our", "proposed", "one", "is", "distinguished", "from", "existing", "ones", "with", "regards", "to", "the", "following", "three", "main", "features", ":", "1", "-RRB-", "Adaptive", "to", "the", "change", "of", "the", "topic", "structure", ".", "The", "parameters", "are", "updated", "by", "forgetting", "out-of-date", "statistics", "as", "time", "goes", "on.This", "is", "realized", "by", "putting", "a", "larger", "weight", "to", "the", "statistics", "for", "a", "more", "recent", "data", ".", "2", "-RRB-", "Making", "use", "of", "time", "stamps", "for", "texts", ".", "Not", "only", "the", "time", "order", "of", "texts", "but", "also", "their", "time", "stamps", "are", "utilized", "to", "make", "the", "topic", "structure", "depend", "on", "the", "timeline.For", "example", ",", "for", "two", "text", "data", "x", "t", "1", ",", "x", "t", "2", "-LRB-", "t", "1", "<", "t", "2", "-RRB-", ",", "if", "the", "length", "t", "2", "-", "t", "1", "is", "larger", ",", "the", "topic", "structure", "learned", "at", "time", "t", "2", "will", "be", "less", "affected", "by", "that", "at", "time", "t", "1", ".", "3", "-RRB-", "Normalizing", "data", "of", "different", "dimensions", ".", "We", "consider", "the", "on-line", "situation", "where", "the", "dimension", "of", "a", "datum", "may", "increase", "as", "time", "goes", "by.This", "situation", "actually", "occurs", "because", "new", "words", "may", "possibly", "be", "added", "to", "the", "list", "of", "words", "every", "time", "a", "new", "text", "is", "input.Hence", "it", "is", "needed", "for", "normalizing", "data", "of", "different", "dimensions", ".", "We", "suppose", "that", "text", "data", "x", "1", ",", "x", "2", ",", "...", "are", "given", "in", "this", "order", ",", "and", "each", "has", "a", "time-stamp", "indicating", "when", "it", "appeared", ".", "Here", "is", "a", "description", "of", "the", "algorithm", ",", "in", "which", "is", "a", "discounting", "parameter", ",", "i", "denotes", "the", "posterior", "density", "of", "the", "ith", "component", ",", "and", "m", "is", "introduced", "for", "calculation", "of", "weights", "for", "old", "statistics", ".", "Time-stamp", "Based", "Discounting", "Learning", "Algorithm", "Initialization", ":", "Set", "initial", "values", "of", "-LRB-", "0", "-RRB-", "i", ",", "-LRB-", "0", "-RRB-", "i", ",", "-LRB-", "0", "-RRB-", "i", ",", "m", "-LRB-", "0", "-RRB-", "-LRB-", "i", "=", "1", ",", ",", "k", "-RRB-", ".", "Let", ">", "0", ",", "0", "<", "<", "1", "be", "given", ".", "Iteration", ":", "For", "t", "=", "1", ",", "2", ",", ".", ".", "do", "the", "following", "procedure", ".", "For", "the", "t-th", "data", "be", "x", "t", "and", "its", "time", "stamp", "be", "t", "new", ".", "Let", "the", "time", "stamp", "of", "the", "-LRB-", "t", "-", "1", "-RRB-", "-", "th", "data", "be", "t", "old", ".", "For", "i", "=", "1", ",", ",", "k", ",", "update", "the", "parameters", "according", "to", "the", "813", "Industry/Government", "Track", "Poster", "following", "rules", ":", "p", "-LRB-", "i", "|", "x", "t", "-RRB-", ":", "=", "-LRB-", "t-1", "-RRB-", "i", "p", "i", "-LRB-", "x", "t", "|", "-LRB-", "t-1", "-RRB-", "i", ",", "-LRB-", "t-1", "-RRB-", "i", "-RRB-", "P", "k", "l", "=", "1", "-LRB-", "t-1", "-RRB-", "l", "p", "l", "-LRB-", "x", "t", "|", "-LRB-", "t-1", "-RRB-", "l", ",", "-LRB-", "t-1", "-RRB-", "l", "-RRB-", "-LRB-", "t", "-RRB-", "i", ":", "=", "WA", "-LRB-", "p", "-LRB-", "i", "|", "x", "t", "-RRB-", ",", "1/k", "|", "1", ",", "-RRB-", "-LRB-", "t", "-RRB-", "i", ":", "=", "WA", "-LRB-", "-LRB-", "t", "-RRB-", "i", ",", "-LRB-", "t", "-RRB-", "i", "|", "m", "-LRB-", "t-1", "-RRB-", ",", "-", "-LRB-", "t", "new", "-", "t", "old", "-RRB-", "-RRB-", "-LRB-", "t", "-RRB-", "i", ":", "=", "WA", "-LRB-", "-LRB-", "t-1", "-RRB-", "i", ",", "x", "t", "|", "i", "m", "-LRB-", "t-1", "-RRB-", ",", "-", "-LRB-", "t", "new", "-", "t", "old", "-RRB-", "-LRB-", "t", "-RRB-", "i", "-RRB-", "-LRB-", "t", "-RRB-", "i", ":", "=", "WA", "-LRB-", "-LRB-", "t-1", "-RRB-", "i", ",", "x", "i", "x", "T", "i", "|", "i", "m", "-LRB-", "t-1", "-RRB-", ",", "-", "-LRB-", "t", "new", "-", "t", "old", "-RRB-", "-LRB-", "t", "-RRB-", "i", "-RRB-", "-LRB-", "t", "-RRB-", "i", ":", "=", "-LRB-", "t", "-RRB-", "i", "-", "i", "T", "i", "m", "-LRB-", "t", "-RRB-", ":", "=", "-LRB-", "t", "new", "-", "t", "old", "-RRB-", "m", "-LRB-", "t-1", "-RRB-", "+", "1", ",", "where", "WA", "denotes", "the", "operation", "such", "that", "WA", "-LRB-", "X", ",", "Y", "|", "A", ",", "B", "-RRB-", "=", "A", "A", "+", "B", "X", "+", "B", "A", "+", "B", "Y.", "Generally", ",", "we", "set", "the", "initial", "value", "-LRB-", "0", "-RRB-", "i", "=", "1/K", ",", "m", "-LRB-", "0", "-RRB-", "=", "0", ",", "a", "small", "value", "to", "-LRB-", "0", "-RRB-", "i", ",", "and", "set", "-LRB-", "0", "-RRB-", "i", "the", "first", "x", "t", "s", "that", "are", "different", "each", "other.This", "algorithm", "updates", "i", ",", "i", ",", "and", "i", "as", "the", "weighted", "average", "of", "the", "latest", "parameter", "value", "and", "the", "new", "statistics.The", "weight", "ratio", "is", "m", "-LRB-", "t-1", "-RRB-", ":", "-", "-LRB-", "t", "new", "-", "t", "old", "-RRB-", "for", "i", ",", "and", "i", "m", "-LRB-", "t-1", "-RRB-", ":", "-", "-LRB-", "t", "new", "-", "t", "old", "-RRB-", "-LRB-", "t", "-RRB-", "i", "for", "i", "and", "i", ",", "respectively", ".", "Note", "that", "Yamanishi", "et.al", ".", "'s", "sequentially", "discounting", "learning", "algorithm", "-LSB-", "14", "-RSB-", "can", "be", "thought", "of", "as", "a", "special", "case", "of", "this", "algorithm", "in", "which", "the", "time", "interval", "t", "l", "+1", "-", "t", "l", "is", "independent", "of", "l.In", "that", "case", "if", "we", "further", "let", "=", "1", ",", "the", "algorithm", "becomes", "an", "ordinary", "incremental", "EM", "algorithm", ".", "In", "real", "implementation", ",", "we", "supposed", "that", "i", "is", "a", "diagonal", "matrix", "for", "the", "sake", "of", "computational", "complexity", "issues.The", "scalability", "issue", "for", "dealing", "with", "a", "general", "matrix", "i", "remains", "for", "future", "study", ".", "In", "this", "section", "we", "are", "concerned", "with", "the", "issue", "of", "topic", "emergence", "detection", ",", "i.e.", ",", "tracking", "the", "emergence", "of", "a", "new", "topic.We", "reduce", "here", "this", "issue", "to", "that", "of", "selecting", "the", "optimal", "components", "in", "the", "mixture", "model", "dynamically.We", "call", "this", "statistical", "issue", "dynamic", "model", "selection", "-LRB-", "see", "also", "-LSB-", "7", "-RSB-", "-RRB-", ".", "The", "key", "idea", "of", "dynamic", "model", "selection", "is", "to", "first", "learn", "a", "finite", "mixture", "model", "with", "a", "relatively", "large", "number", "of", "components", ",", "then", "to", "select", "main", "components", "dynamically", "from", "among", "them", "on", "the", "basis", "of", "Rissanen", "'s", "predictive", "stochastic", "complexity", "-LSB-", "10", "-RSB-", ".", "The", "procedure", "of", "dynamic", "model", "selection", "is", "described", "as", "follows", ":", "Initialization", ":", "Let", "K", "max", "-LRB-", "maximum", "number", "of", "mixture", "components", "-RRB-", "and", "W", "-LRB-", "window", "size", "-RRB-", "be", "given", "positive", "integers", ".", "Set", "initial", "values", "of", "-LRB-", "0", "-RRB-", "i", ",", "-LRB-", "0", "-RRB-", "i", "=", "-LRB-", "-LRB-", "0", "-RRB-", "i", ",", "-LRB-", "0", "-RRB-", "i", "-RRB-", "-LRB-", "i", "=", "1", ",", ",", "K", "max", "-RRB-", ".", "Iteration", ":", "For", "t", "=", "1", ",", "2", ",", ",", "do", "the", "following", "procedure", "1", "to", "4", ":", "1", ".", "Model", "Class", "Construction", ":", "Let", "G", "t", "i", "be", "the", "window", "average", "of", "the", "posterior", "probability", "-LRB-", "t-W", "i", "+", "+", "t", "i", "-RRB-", "/", "W", ".", "For", "k", "=", "1", ",", ",", "K", "max", ",", "do", "the", "following", "procedure", ":", "Let", "1", ",", ",", "k", "be", "the", "indices", "of", "k", "highest", "scores", "such", "that", "G", "-LRB-", "t-1", "-RRB-", "1", "G", "-LRB-", "t-1", "-RRB-", "k", ".", "Construct", "the", "following", "mixture", "model", "with", "k", "components", ":", "For", "s", "=", "t", "-", "W", ",", ",", "t", ",", "p", "-LRB-", "t-1", "-RRB-", "-LRB-", "x", "|", "1", ",", ",", "k", "-RRB-", "=", "k-1", "X", "j", "=", "1", "-LRB-", "t-1", "-RRB-", "j", "p", "j", "-LRB-", "x", "|", "-LRB-", "t-1", "-RRB-", "j", "-RRB-", "+", "1", "k", "-1", "X", "j", "=", "1", "-LRB-", "t-1", "-RRB-", "j", "!", "U.", "where", "U", "is", "a", "uniform", "distribution", "over", "the", "domain", ".", "2", ".", "Predictive", "Stochastic", "Complexity", "Calculation", ":", "When", "the", "t-th", "input", "data", "x", "t", "with", "dimension", "d", "t", "is", "given", ",", "compute", "S", "-LRB-", "t", "-RRB-", "-LRB-", "k", "-RRB-", "=", "t", "X", "s", "=", "t-W", "''", "-", "logp", "-LRB-", "s", "-RRB-", "-LRB-", "x", "s", "|", "1", ",", ",", "k", "-RRB-", "/", "d", "s", "''", ".", "-LRB-", "3", "-RRB-", "3", ".", "Model", "Selection", ":", "Select", "k", "t", "minimizing", "S", "-LRB-", "t", "-RRB-", "-LRB-", "k", "-RRB-", ".", "Let", "p", "j", "-LRB-", "x", "|", "-LRB-", "t-1", "-RRB-", "j", "-RRB-", "-LRB-", "j", "=", "1", ",", ",", "k", "t", "-RRB-", "be", "main", "components", "at", "time", "t", ",", "which", "we", "write", "as", "-LCB-", "C", "-LRB-", "t", "-RRB-", "1", ",", "C", "-LRB-", "t", "-RRB-", "k", "t", "-RCB-", ".", "4", ".", "Estimation", "of", "Parameters", ":", "Learn", "a", "finite", "mixture", "model", "with", "K", "max", "components", "using", "the", "time-stamp", "based", "discounting", "learning", "algorithm.Let", "the", "estimated", "parameter", "be", "-LRB-", "-LRB-", "t", "-RRB-", "1", ",", ",", "-LRB-", "t", "-RRB-", "K", "max", ",", "-LRB-", "t", "-RRB-", "1", ",", ",", "-LRB-", "t", "-RRB-", "K", "max", "-RRB-", ".", "Note", "that", "the", "S", "-LRB-", "t", "-RRB-", "-LRB-", "k", "-RRB-", "can", "be", "thought", "of", "as", "a", "variant", "of", "Rissanen", "'s", "predictive", "stochastic", "complexity", "-LSB-", "10", "-RSB-", "normalized", "by", "the", "dimension", "for", "each", "datum", ",", "which", "can", "be", "interpreted", "as", "the", "total", "code", "length", "required", "for", "encoding", "a", "data", "stream", "x", "t-W", ",", "...", ",", "x", "t", "into", "a", "binary", "string", "sequentially", ".", "Once", "main", "components", "C", "-LRB-", "t", "-RRB-", "1", ",", ",", "C", "-LRB-", "t", "-RRB-", "k", "t", "are", "obtained", ",", "we", "compare", "them", "with", "C", "-LRB-", "t-1", "-RRB-", "1", ",", ",", "C", "-LRB-", "t-1", "-RRB-", "k", "t-1", "to", "check", "the", "emergence", "of", "a", "new", "topic", "or", "the", "disappearance", "of", "an", "existing", "topic", "in", "the", "following", "way.If", "a", "new", "component", "is", "selected", "at", "some", "point", "and", "remains", "for", "a", "longer", "time", "than", "a", "specified", "threshold", ",", "we", "may", "determine", "that", "a", "new", "topic", "has", "emerged", ".", "Specifically", ",", "if", "the", "optimal", "number", "k", "t", "of", "components", "becomes", "larger", "than", "k", "t-1", ",", "we", "can", "recognize", "that", "a", "new", "topic", "has", "emerged.Similarly", ",", "if", "an", "existing", "component", "is", "not", "selected", "at", "some", "time", "and", "does", "not", "appear", "any", "longer", ",", "then", "we", "may", "determine", "that", "the", "topic", "has", "disappeared", ".", "Once", "the", "optimal", "finite", "mixture", "model", "is", "obtained", ",", "we", "are", "concerned", "with", "the", "issue", "of", "how", "to", "characterize", "each", "topic.We", "address", "this", "issue", "by", "extracting", "terms", "characterizing", "each", "topic", "and", "by", "observing", "the", "growth", "or", "decay", "of", "each", "topic", "component.Details", "are", "shown", "below", ".", "A", "-RRB-", "Extracting", "terms", "characterizing", "each", "topic", ".", "We", "attempt", "to", "characterize", "each", "topic", "by", "extracting", "characteristic", "words", "for", "it.We", "perform", "this", "task", "by", "computing", "the", "information", "gain", "of", "possible", "words", ".", "In", "the", "time-stamp", "based", "discounting", "topic", "learning", "algorithm", ",", "the", "posterior", "probability", "distribution", "over", "the", "set", "of", "clusters", "is", "estimated", "every", "time", "a", "text", "data", "is", "input.According", "to", "that", "posterior", "distribution", "an", "input", "text", "will", "be", "814", "Industry/Government", "Track", "Poster", "categorized", "into", "the", "component", "for", "which", "the", "posterior", "probability", "is", "largest.This", "clustering", "task", "can", "be", "performed", "in", "an", "on-line", "fashion", ".", "After", "observing", "the", "t-th", "datum", "x", "t", ",", "for", "i", "=", "1", ",", ",", "k", ",", "let", "S", "t", "-LRB-", "i", "-RRB-", "be", "the", "set", "of", "texts", "in", "x", "t", "=", "x", "1", ",", ".", ".", ",", "x", "t", "classified", "into", "the", "i-th", "component", "and", "let", "t", "i", "be", "the", "size", "of", "S", "t", "-LRB-", "i", "-RRB-", ".", "Let", "S", "t", "=", "k", "i", "=", "1", "S", "t", "-LRB-", "i", "-RRB-", ".", "Below", "we", "show", "the", "method", "for", "computing", "the", "information", "gain", "of", "a", "term", "w", "for", "each", "topic", "component.For", "any", "term", "w", ",", "let", "S", "-LRB-", "w", "-RRB-", "be", "a", "set", "of", "vectors", "in", "S", "t", "such", "that", "the", "frequency", "of", "w", "is", "larger", "than", "a", "given", "threshold", ",", "and", "let", "m", "w", "be", "the", "size", "of", "S", "-LRB-", "w", "-RRB-", ".", "Let", "S", "-LRB-", "w", "-RRB-", "be", "a", "set", "of", "vectors", "in", "S", "t", "such", "that", "the", "frequency", "of", "w", "is", "not", "larger", "than", "the", "threshold", ",", "and", "m", "w", "be", "the", "size", "of", "S", "-LRB-", "w", "-RRB-", ".", "For", "a", "specified", "topic", "component", ",", "say", ",", "the", "i-th", "component", ",", "let", "m", "+", "w", "be", "the", "number", "of", "vectors", "in", "S", "-LRB-", "w", "-RRB-", "that", "are", "also", "included", "in", "S", "t", "-LRB-", "i", "-RRB-", ".", "Let", "m", "+", "w", "be", "the", "number", "of", "vectors", "in", "S", "-LRB-", "w", "-RRB-", "that", "are", "also", "included", "in", "S", "t", "-LRB-", "i", "-RRB-", ".", "Then", "we", "define", "the", "information", "gain", "of", "w", "for", "the", "i-th", "topic", "component", "as", "follows", ":", "IG", "-LRB-", "w", "|", "i", "-RRB-", "=", "I", "-LRB-", "t", ",", "t", "i", "-RRB-", "-", "`", "I", "-LRB-", "m", "w", ",", "m", "+", "w", "-RRB-", "+", "I", "-LRB-", "m", "w", ",", "m", "+", "w", "-RRB-", ",", "where", "I", "-LRB-", "x", ",", "y", "-RRB-", "is", "the", "information", "measure", "such", "as", "stochastic", "complexity", "-LSB-", "10", "-RSB-", ",", "extended", "stochastic", "complexity", "-LSB-", "13", "-RSB-", "-LSB-", "5", "-RSB-", ".", "The", "stochastic", "complexity", "-LSB-", "10", "-RSB-", "is", "given", "as", "follows", ":", "I", "-LRB-", "x", ",", "y", "-RRB-", "=", "xH", "''", "y", "x", "''", "+", "1", "2", "log", "''", "x", "2", "''", ",", "where", "H", "-LRB-", "x", "-RRB-", "=", "-", "x", "log", "x", "-", "-LRB-", "1", "-", "x", "-RRB-", "log", "-LRB-", "1", "-", "x", "-RRB-", "log", "-LRB-", "1", "-", "x", "-RRB-", "is", "the", "binary", "entropy", "function", ",", "and", "log", "'s", "base", "is", "2", ".", "A", "special", "case", "of", "extended", "stochastic", "complexity", "is", "given", "as", "follows", "-LSB-", "13", "-RSB-", "-LSB-", "5", "-RSB-", ":", "I", "-LRB-", "x", ",", "y", "-RRB-", "=", "min", "-LCB-", "y", ",", "x", "-", "y", "-RCB-", "+", "cpx", "log", "x", ",", "where", "c", "is", "a", "constant", ".", "We", "select", "a", "specified", "number", "of", "terms", "ws", "of", "largest", "information", "gains.We", "can", "think", "of", "them", "the", "set", "of", "terms", "characterizing", "the", "i-th", "topic", "component", ".", "The", "statistics", ":", "m", "w", ",", "m", "+", "w", ",", "m", "w", ",", "m", "+", "w", "needed", "for", "computing", "information", "gain", "can", "be", "calculated", "in", "an", "on-line", "fashion", ".", "Hence", "topic", "characterization", "task", "is", "conducted", "in", "real-time", ".", "B", "-RRB-", "Observing", "the", "growth", "or", "decay", "of", "each", "cluster", ".", "Let", "G", "-LRB-", "t", "-RRB-", "i", "be", "the", "window", "average", "of", "the", "posterior", "probability", "of", "the", "ith", "topic", "component", ",", "that", "is", ",", "G", "t", "i", "=", "-LRB-", "t-W", "i", "+", ",", ",", "+", "t", "i", "-RRB-", "/", "W", ".", "G", "-LRB-", "t", "-RRB-", "i", "increases", "when", "texts", "corresponding", "to", "the", "i-th", "topic", "is", "input", ",", "and", "decreases", "when", "the", "other", "is", "input.We", "can", "see", "how", "rapidly", "this", "topic", "grows", "by", "observing", "G", "-LRB-", "t", "-RRB-", "i", "as", "t", "goes", "by", ".", "We", "conducted", "an", "experiment", "on", "real", "data", ":", "contact", "data", "of", "a", "help", "desk", "for", "an", "internal", "e-mail", "service.An", "example", "of", "the", "data", "record", "is", "presented", "in", "Table", "1", ".", "It", "has", "the", "field", "of", "contact", "date/time", ",", "question/request", ",", "answered", "date/time", ",", "answer", ",", "and", "so", "on.The", "number", "of", "the", "records", "is", "1202", ".", "The", "date", "of", "the", "first/last", "contact", "is", "Feb", "21", "2004/May", "20", "respectively", ".", "We", "input", "contact", "dates", "as", "the", "time-stamps", ",", "and", "ques-tions/requests", "as", "the", "text", "data", "to", "our", "system.We", "set", "K", "max", "to", "50", "and", "to", "0.99", ".", "Our", "system", "ran", "on", "an", "NEC", "Express5800", "with", "1", "GHz", "Pentium", "III", "and", "a", "1", "GB", "memory.The", "system", "was", "implemented", "using", "C", ",", "and", "OS", "was", "Windows", "2000", "Server", ".", "Processing", "1202", "records", "of", "data", "took", "about", "five", "minute", ".", "Figure", "2", "shows", "the", "number", "of", "components", "k", "t", "selected", "by", "our", "system", "as", "main", "topics", ".", "The", "number", "increases", "at", "the", "Date", "k", "*", "t", "Figure", "2", ":", "Number", "of", "main", "topics", "beginning", "of", "March", ",", "and", "has", "a", "peak", "in", "the", "middle", "of", "April", ".", "Since", "a", "fiscal", "year", "begins", "at", "April", "in", "Japan", ",", "we", "can", "suppose", "that", "the", "number", "of", "topics", "at", "the", "help", "desk", "is", "increasing", "around", "the", "first", "day", "of", "April", ".", "Let", "us", "look", "into", "a", "few", "of", "the", "components", ",", "because", "we", "do", "not", "have", "enough", "space", "for", "all", "of", "the", "components.Here", ",", "we", "observe", "Component", "27", "and", "42", "in", "detail.Figure", "3", "shows", "the", "window", "averages", "G", "27", ",", "G", "42", "of", "the", "posterior", "probabilities", "and", "the", "periods", "where", "the", "components", "are", "selected", "as", "main", "topics", ".", "G", "27", "increases", "in", "the", "beginning", "of", "April", "and", "has", "the", "first", "G", "27", "G", "42", "C27", "is", "main", ".", "C42", "is", "main", ".", "Figure", "3", ":", "G", "i", "and", "Period", "of", "Component", "27", ",", "42", "peak", "at", "April", "12", ".", "Then", "it", "repeats", "increase", "and", "decrease", "until", "the", "middle", "of", "May.The", "corresponding", "component", "is", "selected", "as", "main", "from", "the", "first", "week", "of", "April", ",", "and", "remains", "as", "main", "until", "the", "middle", "of", "May", "-LRB-", "with", "short", "discontinuances", "-RRB-", ".", "G", "42", "is", "positive", "during", "April", ",", "and", "also", "the", "corresponding", "topic", "is", "main", "during", "April.The", "lines", "of", "G", "i", "s", "indicate", "how", "important", "the", "corresponding", "topics", "are", "in", "each", "time.Moreover", ",", "we", "can", "observe", "how", "the", "emerged", "topics", "grows", "and", "disappears", "from", "the", "figure.The", "topic", "corresponding", "to", "Component", "42", "emerges", "at", "the", "beginning", "of", "April", ",", "grows", "for", "two", "weeks", ",", "is", "attenuated", ",", "then", "drops", "out", "from", "the", "main", "topics", "at", "the", "end", "of", "April", ".", "Term", "``", "transfer", "''", "was", "extracted", "as", "a", "characteristic", "word", "815", "Industry/Government", "Track", "Poster", "Table", "1", ":", "Examples", "of", "help", "desk", "data", "records", "Contact", "date/time", "Question/Request", "Answered", "date/time", "Answer", ",", ",", ",", "Feb", "26", "2004", "14:05", "I", "forgot", "my", "password", ".", "How", "can", "I", "...", "Feb", "26", "2004", "14:48", "You", "can", "get", "a", "new", "...", "Feb", "26", "2004", "14:08", "Until", "what", "time", "is", "an", "account", "for", "a", "...", "Feb", "26", "2004", "14:25", "It", "is", "valid", "for", "14", "days", "after", "retirement", ".", "Feb", "26", "2004", "14:09", "Is", "it", "possible", "to", "forward", "mails", "from", "...", "Feb", "26", "2004", "15:09", "Yes", ".", "You", "can", "set", "up", "by", "...", "...", "...", "...", "...", ".", "for", "Component", "27", ".", "Texts", "classified", "into", "this", "component", "are", "questions", "like", "``", "Is", "it", "possible", "to", "use", "Service", "XXX", "after", "I", "am", "transfered", "to", "YYY", "?", "''", ".", "That", "kind", "of", "questions", "may", "increase", "around", "the", "beginning", "of", "a", "fiscal", "year", ".", "``", "Service", "ZZZ", "''", "and", "``", "failure", "''", "were", "extracted", "as", "chracteristic", "words", "for", "Component", "42", ".", "Actually", ",", "Service", "ZZZ", "failed", "in", "the", "beginning", "of", "April", ",", "then", ",", "the", "topic", "consists", "of", "related", "complaints", "and", "questions", ".", "In", "this", "way", "we", "can", "recognize", "the", "emergence", ",", "growth", ",", "and", "decay", "of", "each", "topic", "from", "the", "system.Through", "this", "example", "it", "has", "turned", "out", "that", "our", "framework", "for", "topic", "trend", "analysis", "are", "very", "effective", "for", "tracking", "dynamics", "of", "topic", "trends", "in", "contact", "data", "at", "a", "help", "desk", ".", "In", "this", "paper", "we", "have", "proposed", "a", "framework", "for", "tracking", "dynamics", "of", "topic", "trends", "using", "a", "finite", "mixture", "model.In", "this", "framework", "the", "three", "main", "tasks", ":", "topic", "structure", "identification", ",", "topic", "emergence", "detection", ",", "and", "topic", "characterization", "are", "unified", "within", "a", "single", "framework.Topic", "structure", "identification", "has", "been", "realized", "by", "our", "unique", "time-stamp", "based", "learning", "algorithm.It", "enables", "tracking", "topic", "structures", "adaptively", "by", "forgetting", "out-of-date", "statistics.Topic", "emergence", "detection", "has", "been", "realized", "on", "the", "basis", "of", "the", "theory", "of", "dynamic", "model", "selection.It", "enables", "detecting", "changes", "of", "the", "optimal", "number", "of", "components", "in", "the", "finite", "mixture", "model", "to", "check", "whether", "a", "new", "topic", "has", "appeared", "or", "not.Topic", "characterization", "has", "been", "realized", "by", "on-line", "text", "clustering", "and", "feature", "extraction", "based", "on", "information", "gain.Through", "the", "experiments", "using", "real", "data", "collected", "at", "a", "help", "desk", ",", "it", "is", "demonstrated", "that", "our", "framework", "works", "well", "in", "the", "sense", "that", "dynamics", "of", "topic", "trends", "can", "be", "tracked", "in", "a", "timely", "fashion", ".", "The", "following", "issues", "remain", "open", "for", "future", "study", ":", "Context-based", "topic", "trend", "analysis", ":", "In", "this", "paper", "we", "have", "proposed", "an", "approach", "to", "word-based", "topic", "trend", "analysis", ".", "However", ",", "we", "need", "to", "further", "analyze", "contexts", ",", "i.e.", ",", "relations", "among", "words", ",", "in", "order", "to", "more", "deeply", "analyze", "the", "semantics", "of", "topics", ".", "Multi-topics", "analysis", ":", "We", "supposed", "that", "one", "text", "comes", "from", "a", "single", "mixture", "component", "corresponding", "to", "a", "single", "topic.It", "is", "our", "future", "study", "how", "to", "deal", "with", "texts", "having", "multi", "topics", ".", "-LSB-", "1", "-RSB-", "J.Allen", ",", "R.Papka", ",", "and", "V.Lavrenko", ":", "On-line", "new", "event", "detection", "and", "tracking", ",", "in", "Proceedings", "of", "SIGIR", "International", "Conference", "on", "Information", "Retrieval", ",", "pp", ":", "37-45", ",", "1998", ".", "-LSB-", "2", "-RSB-", "X.Liu", ",", "Y.Gong", ",", "W.Xu", ",", "and", "S.Zhu", ":", "Document", "clustering", "with", "cluster", "refinement", "and", "model", "selection", "capabilities", ",", "in", "Proceedings", "of", "SIGIR", "International", "Conference", "on", "Information", "Retrieval", ",", "pp", ":", "191-198", ",", "2002", ".", "-LSB-", "3", "-RSB-", "S.Harve", ",", "B.Hetzler", ",", "and", "L.Norwell", ":", "ThemeRiver", ":", "Visualizing", "theme", "changes", "over", "time", ",", "in", "Proceesings", "of", "IEEE", "Symposium", "on", "Information", "Visualization", ",", "pp", ":", "115-123", ",", "2000", ".", "-LSB-", "4", "-RSB-", "J.Kleiberg", ":", "Bursty", "and", "hierarchical", "structure", "in", "streams", ",", "in", "Proceedings", "of", "KDD2002", ",", "pp", ":", "91-101", ",", "ACM", "Press", ",", "2003", ".", "-LSB-", "5", "-RSB-", "H.Li", "and", "K.Yamanishi", ":", "Text", "classification", "using", "ESC-based", "decision", "lists", ",", "Information", "Processing", "and", "Management", ",", "vol", ".38", "/", "3", ",", "pp", ":", "343-361", ",", "2002", ".", "-LSB-", "6", "-RSB-", "H.Li", "and", "K.Yamanishi", ":", "Topic", "analysis", "using", "a", "finite", "mixture", "model", ",", "Information", "Processing", "and", "Management", ",", "Vol", ".39", "/", "4", ",", "pp", "521-541", ",", "2003", ".", "-LSB-", "7", "-RSB-", "Y.Matsunaga", "and", "K.Yamanishi", ":", "An", "information-theoretic", "approach", "to", "detecting", "anomalous", "behaviors", ",", "in", "Information", "Technology", "Letters", "vol", ".2", "-LRB-", "Proc", ".", "of", "the", "2nd", "Forum", "on", "Information", "Technologies", "-RRB-", ",", "pp", ":", "123-124", ",", "-LRB-", "in", "Japanese", "-RRB-", "2003", ".", "-LSB-", "8", "-RSB-", "G.McLahlan", "and", "D.Peel", ":", "Finite", "Mixture", "Models", ",", "Wiley", "Series", "in", "Probability", "and", "Statistics", ",", "John", "Wiley", "and", "Sons", ",", "2000", ".", "-LSB-", "9", "-RSB-", "R.M.Neal", "and", "G.E.Hinton", ":", "A", "view", "of", "the", "EM", "algorithm", "that", "justifies", "incremental", "sparse", ",", "and", "other", "variants", ",", "Learning", "in", "Graphical", "Models", ",", "M.", "Jordan", "-LRB-", "editor", "-RRB-", ",", "MIT", "Press", ",", "Cambridge", "MA", ",", "USA", ".", "-LSB-", "10", "-RSB-", "J.Rissanen", ":", "Universal", "coding", ",", "information", ",", "and", "estimation", ",", "IEEE", "Trans", ".", "on", "Inform", ".", "Theory", ",", "30:629-636", ",", "1984", ".", "-LSB-", "11", "-RSB-", "R.Swan", "and", "J.Allen", ":", "Extracting", "significant", "time-varying", "features", "from", "text", ",", "in", "Proceedings", "of", "8th", "International", "Conference", "on", "Information", "Knowledge", "Management", ",", "pp", ":", "38-45", ",", "1999", ".", "-LSB-", "12", "-RSB-", "R.Swan", "and", "J.Allen", ":", "Automatic", "generation", "of", "overview", "timelines", ",", "in", "Proceedings", "of", "SIGIR", "International", "Conference", "on", "Information", "Retrieval", ",", "pp", ":", "49-56", ",", "2000", ".", "-LSB-", "13", "-RSB-", "K.Yamanishi", ":", "A", "Decision-theoretic", "Extension", "of", "Stochastic", "Complexity", "and", "Its", "Applications", "to", "Learning", ",", "IEEE", "Trans", ".", "on", "Inform", ".", "Theory", ",", "vol", ".44", "/", "4", ",", "pp", ":", "1424-1439", ",", "1998", ".", "-LSB-", "14", "-RSB-", "K.Yamanishi", ",", "J.Takeuchi", ",", "G.Williams", ",", "and", "P.Milne", ":", "On-line", "unsupervised", "outlier", "detection", "using", "finite", "mixtures", "with", "discounting", "learning", "algorithms", ",", "''", "in", "Proceedings", "of", "KDD2000", ",", "ACM", "Press", ",", "pp", ":", "320", "324", "2000", ".", "-LSB-", "15", "-RSB-", "Y.Yang", ",", "T.Pierce", ",", "J.G.Carbonell", ":", "A", "study", "on", "retrospective", "and", "on-line", "event", "detection", ",", "in", "Proceedings", "of", "SIGIR", "International", "Conference", "on", "Information", "Retrieval", ",", "pp", ":", "28-30", ",", "1998", ".", "-LSB-", "16", "-RSB-", "Y.Yang", ",", "J.Zang", ",", "J.Carbonell", ",", "and", "C.Jin", ":", "Topic-conditioned", "novelty", "detection", ",", "in", "Proceedings", "of", "KDD", "2002", ",", "pp", ":", "688-693", ",", "2002", ".", "816", "Industry/Government", "Track", "Poster"], "doc_bio_tags": ["B", "I", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["tracking dynamics", "topic detection and tracking", "text data streams", "data mining", "model selection", "topic trend", "topic analysis", "finite mixture model", "crm", "topic structure identification", "topic trends", "topic characterization", "information gain", "topic emergence detection"], "abstractive_keyphrases": ["text mining", "time-stamp based discounting learning algorithm", "dynamic model selection", "time-stamp based learning algorithm"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "2", "document": ["A", "Case", "Study", "on", "How", "to", "Manage", "the", "Theft", "of", "Information", "This", "paper", "shows", "the", "importance", "that", "management", "plays", "in", "the", "protection", "of", "information", "and", "in", "the", "planning", "to", "handle", "a", "security", "breach", "when", "a", "theft", "of", "information", "happens", ".", "Recent", "thefts", "of", "information", "that", "have", "hit", "major", "companies", "have", "caused", "concern", ".", "These", "thefts", "were", "caused", "by", "companies", "'", "inability", "to", "determine", "risks", "associated", "with", "the", "protection", "of", "their", "data", "and", "these", "companies", "lack", "of", "planning", "to", "properly", "manage", "a", "security", "breach", "when", "it", "occurs", ".", "It", "is", "becoming", "necessary", ",", "if", "not", "mandatory", ",", "for", "organizations", "to", "perform", "ongoing", "risk", "analysis", "to", "protect", "their", "systems", ".", "Organizations", "need", "to", "realize", "that", "the", "theft", "of", "information", "is", "a", "management", "issue", "as", "well", "as", "a", "technology", "one", ",", "and", "that", "these", "recent", "security", "breaches", "were", "mainly", "caused", "by", "business", "decisions", "by", "management", "and", "not", "a", "lack", "of", "technology", ".", "C.", "2.0", "-LSB-", "Computer-Communication", "Networks", "-RSB-", "General", "Security", "and", "protection", ".", "K.", "3.2", "-LSB-", "Computers", "And", "Education", "-RSB-", "Computer", "and", "Information", "Science", "Education", "Curriculum", ",", "Information", "systems", "education", ".", "K.", "4.1", ",", ".2", ",", "&", ".4", "-LSB-", "Computers", "and", "Society", "-RSB-", "-", ".1", "Public", "Policy", "Issues", "Abuse", "and", "crime", "involving", "computers", ",", "Computer-related", "health", "issues", ",", "Ethics", ",", "Intellectual", "property", "right", ",", "Privacy", ".", ".2", "Social", "Issues", "Abuse", "and", "crime", "involving", "computers", ".", ".4", "Electronic", "Commerce", "Security", ".", "K.", "6.5", "-LSB-", "Management", "of", "Computing", "and", "Information", "Systems", "-RSB-", "Security", "and", "Protection", "Authentication", ",", "Invasive", "software", ",", "unauthorized", "access", ".", "Management", ",", "Security", ",", "Human", "Factors", ",", "Standardization", ",", "Legal", "Aspects", ".", "After", "counter-terrorism", "and", "counter-intelligence", ",", "cyber", "crime", "is", "the", "third", "highest", "priority", "for", "the", "U.S.", "Federal", "Bureau", "-LSB-", "4", "-RSB-", ".", "With", "the", "rise", "of", "the", "theft", "of", "information", "and", "the", "lure", "of", "big", "profits", "for", "this", "stolen", "information", ",", "it", "is", "necessary", "for", "information", "systems", "to", "have", "the", "ability", "to", "protect", "this", "valuable", "asset", ".", "It", "is", "estimated", "that", "a", "credit", "card", "number", "unsupported", "by", "any", "other", "documentation", "is", "worth", "$", "10", ",", "and", "a", "credit", "history", "report", "retails", "for", "$", "60", "-LSB-", "2", "-RSB-", ".", "Recent", "breaches", "of", "information", "systems", "that", "have", "lead", "to", "thefts", "of", "information", "have", "shown", "that", "management", "practices", "and", "not", "technology", "was", "part", "of", "the", "issue", "and", "in", "some", "cases", "the", "primary", "cause", "of", "the", "theft", "of", "the", "information", ".", "With", "each", "of", "these", "thefts", ",", "there", "is", "a", "third", "party", "committing", "a", "crime", ",", "but", "in", "each", "case", ",", "risk", "analysis", "could", "have", "been", "used", "to", "avoid", "or", "to", "help", "mitigate", "the", "theft", ".", "It", "is", "becoming", "a", "necessity", "that", "companies", "examine", "their", "business", "practices", "and", "company", "policies", "to", "avoid", "risks", "associated", "with", "information", "stealing", ".", "The", "solution", "to", "information", "stealing", "does", "not", "reside", "in", "technology", "alone", "but", "also", "requires", "an", "understanding", "by", "management", "of", "the", "business", "and", "the", "risks", "associated", "with", "it", ".", "This", "paper", "examines", "the", "theft", "of", "information", "from", "different", "companies", "in", "order", "to", "explain", "the", "short", "coming", "of", "management", "practices", "that", "lead", "to", "the", "theft", ".", ".", "In", "May", "of", "2005", ",", "Citigroup", "lost", "computer", "tapes", "that", "were", "being", "sent", "to", "the", "credit", "bureau", "via", "UPS", "that", "included", "Social", "Security", "numbers", "and", "payment", "history", "information", "for", "3.9", "million", "customers", ".", "After", "this", "event", ",", "this", "New", "York", "based", "company", "has", "decided", "that", "it", "will", "start", "sending", "its", "data", "to", "the", "credit", "bureau", "electronically", "using", "encryption", "-LSB-", "8", "-RSB-", ".", "Citigroup", "should", "have", "learned", "a", "lesson", "from", "Time", "Warner", "who", "lost", "a", "shipment", "of", "backup", "tapes", "that", "contained", "personal", "information", "of", "600,000", "employees", "that", "was", "being", "sent", "to", "an", "offsite", "data", "storage", "company", "in", "March", "of", "2005", "-LSB-", "9", "-RSB-", ".", "But", "the", "question", "remains", ",", "why", "was", "Citigroup", "sending", "sensitive", "information", "unsecured", "?", "Why", "did", "they", "not", "encrypt", "the", "data", "in", "the", "first", "place", ",", "and", "why", "did", "they", "realize", "that", "these", "tapes", "could", "get", "lost", "or", "stolen", "as", "evident", "to", "what", "happened", "with", "Time", "Warner", "?", "The", "answer", "is", "because", "they", "did", "not", "correctly", "identify", "the", "risk", ".", "Citigroup", "believed", "that", "UPS", "was", "a", "secure", "method", "for", "sending", "this", "information", "and", "that", "the", "data", "would", "be", "difficult", "to", "retrieve", "off", "the", "tapes", "because", "of", "the", "hardware", "needed", "to", "read", "the", "tapes", ".", "Citigroup", "needed", "to", "evaluate", "this", "risk", "of", "properly", "protecting", "confidential", "information", "while", "in", "transmission", ".", "Now", ",", "Citigroup", "has", "the", "issue", "of", "dealing", "with", "the", "negative", "public", "associated", "with", "this", "event", ",", "and", "the", "loss", "of", "any", "potential", "customers/revenue", "it", "will", "lose", "because", "of", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Information", "Security", "Curriculum", "Development", "-LRB-", "InfoSecCD", "-RRB-", "Conference", "'", "05", ",", "September", "23-24", ",", "2005", ",", "Kennesaw", ",", "GA", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-261-5", "/", "05/0009", "...", "$", "5.00", ".", "135", "it", ".", "This", "issue", "would", "have", "been", "avoided", "if", "Citigroup", "would", "have", "properly", "identified", "this", "risk", "and", "taken", "the", "steps", "to", "protect", "this", "information", ".", "If", "the", "tapes", "were", "lost", "and", "the", "data", "was", "encrypted", ",", "then", "this", "story", "would", "have", "never", "happened", ".", "2.2", "Case", "II", ":", "ChoicePoint", "Choicepoint", "has", "made", "more", "than", "50", "acquisitions", "since", "1997", "to", "make", "it", "one", "of", "the", "largest", "collections", "of", "personal", "data", "in", "the", "United", "States", ".", "Choicepoint", "sells", "data", "``", "to", "clients", "doing", "background", "checks", "on", "job", "and", "loan", "applicants", "and", "conducting", "criminal", "investigations", "''", "-LSB-", "10", "-RSB-", ".", "On", "February", "16", ",", "2005", ",", "ChoicePoint", "went", "public", "to", "tell", "145,000", "people", "that", "identity", "thieves", "may", "have", "gained", "access", "to", "their", "personal", "information", "including", "their", "Social", "Security", "numbers", "and", "credit", "reports", ".", "``", "Authorities", "believe", "it", "was", "the", "work", "of", "a", "group", "of", "people", "who", "used", "IDs", "stolen", "from", "legitimate", "business", "people", "to", "set", "up", "phony", "businesses", "that", "contracted", "with", "ChoicePoint", "for", "ID", "checks", ",", "Bernknopf", "-LRB-", "ChoicePoint", "'s", "spoke", "person", "-RRB-", "said", "''", "-LSB-", "5", "-RSB-", ".", "With", "ChoicePoint", "'s", "security", "incident", ",", "there", "was", "no", "firewall", "hacked", ",", "or", "an", "IDS", "fooled", ".", "This", "was", "a", "deceptive", "scheme", "that", "took", "advantage", "of", "security", "holes", "in", "the", "business", "process", ".", "ChoicePoint", "'s", "CISO", ",", "Rich", "Baich", ",", "stated", "``", "The", "mislabeling", "of", "this", "event", "as", "a", "hack", "is", "killing", "ChoicePoint", ".", "It", "'s", "such", "a", "negative", "impression", "that", "suggests", "we", "failed", "to", "provide", "adequate", "protection", ".", "Fraud", "happens", "everyday", ".", "Hacks", "do", "n't", "''", "-LSB-", "10", "-RSB-", ".", "ChoicePoint", "seemed", "to", "push", "that", "they", "were", "the", "victims", "of", "fraud", ",", "and", "not", "at", "fault", ".", "The", "bottom", "line", "is", "that", "confidential", "information", "was", "stolen", ",", "and", "the", "individuals", "who", "had", "their", "information", "stolen", "do", "not", "care", "if", "it", "was", "hacker", "or", "if", "the", "company", "was", "a", "victim", "of", "fraud", ".", "ChoicePoint", "failed", "to", "identify", "holes", "in", "the", "business", "process", "to", "allow", "this", "event", "to", "happen", ".", "Which", "if", "someone", "hacked", "into", "their", "system", ",", "it", "would", "have", "lead", "to", "the", "same", "result", ",", "the", "theft", "of", "information", ".", "ChoicePoint", "needs", "to", "recognize", "that", "identifying", "risks", "with", "their", "business", "process", "is", "just", "as", "important", "as", "securing", "their", "information", "system", "from", "an", "external", "hacker", ".", "2.3", "Case", "III", ":", "Egghead.com", "Egghead", "Software", "was", "a", "company", "that", "opened", "in", "1984", "to", "sell", "computer", "hardware", "and", "software", "that", "grew", "to", "have", "more", "than", "205", "stores", "worldwide", ".", "Then", "in", "1998", "the", "company", "moved", "its", "business", "to", "the", "internet", "as", "Egghead.com", ".", "In", "December", "of", "2000", ",", "Egghead.com", "stated", "that", "``", "a", "hacker", "has", "breached", "its", "computer", "system", "and", "may", "have", "gained", "access", "to", "its", "customer", "database", "''", "-LSB-", "6", "-RSB-", ".", "Jerry", "Kaplan", ",", "Egghead.com", "'s", "co-chairman", ",", "stated", "that", "there", "was", "``", "no", "evidence", "''", "to", "support", "that", "the", "database", "with", "the", "credit", "card", "numbers", "for", "its", "customer", "was", "stolen", "but", ",", "he", "also", "could", "not", "give", "confirmation", "that", "they", "were", "not", "stolen", ".", "``", "Egghead", "'s", "inability", "to", "determine", "how", "many", "of", "it", "'s", "customers", "credit", "cards", "had", "been", "compromised", "may", "mean", "that", "the", "company", "does", "not", "have", "a", "real-time", "auditing", "system", "in", "place", ",", "said", "Paul", "Robertson", ",", "senior", "developer", "for", "security", "service", "firm", "TruSecure", "Corp.", "`", "If", "you", "do", "n't", "know", "how", "many", "credit-card", "numbers", "you", "lost", ",", "you", "are", "giving", "a", "quick", ",", "blanket", ",", "worst-case", "answer", "--", "and", "then", "finding", "out", "what", "happened", "afterwards", ",", "'", "he", "said", ".", "''", "-LSB-", "1", "-RSB-", ".", "The", "way", "that", "Egghead.com", "handled", "its", "security", "incident", "showed", "that", "they", "did", "not", "have", "a", "good", "plan", "to", "manage", "the", "theft", "of", "information", ",", "and", "it", "appeared", "as", "if", "they", "made", "the", "plan", "to", "handle", "this", "situation", "as", "it", "happened", ".", "This", "lack", "of", "planning", "and", "risk", "analysis", "by", "management", "caused", "Egghead.com", "'s", "business", "to", "suffer", "tremendously", ".", "Shortly", "thereafter", "this", "event", ",", "Egghead.com", "went", "into", "bankruptcy", ",", "and", "on", "November", "26", ",", "2001", ",", "Amazon.com", "acquired", "Egghead.com", "'s", "assets", "in", "the", "Bankruptcy", "Court", "-LSB-", "6", "-RSB-", ".", "It", "appears", "the", "inability", "for", "Egghead.com", "to", "successful", "determine", "with", "certainty", "the", "extent", "of", "information", "stolen", "caused", "more", "damage", "to", "the", "company", "'s", "reputation", "then", "the", "actual", "event", "itself", ".", "If", "Egghead.com", "had", "a", "well", "developed", "incident", "response", "plan", "in", "place", "to", "handle", "this", "security", "breach", "and", "a", "way", "to", "handle", "the", "media", "that", "followed", ",", "Egghead.com", "may", "have", "been", "able", "to", "weather", "the", "storm", "and", "stay", "in", "business", ".", "But", "all", "customer", "confidence", "was", "lost", "and", "Egghead.com", "was", "not", "able", "to", "recover", ".", "2.4", "Case", "IV", ":", "New", "Jersey", "Crime", "Ring", "Bank", "employees", "for", "Wachovia", "Corporation", ",", "Bank", "of", "America", "Corporation", ",", "Commerce", "Bancorp", "Inc.", ",", "and", "PNC", "Bank", "stole", "information", "on", "676,000", "customer", "accounts", "that", "are", "all", "New", "Jersey", "residents", ".", "It", "is", "considered", "the", "largest", "banking", "security", "breach", "in", "history", "by", "the", "U.S.", "Department", "of", "the", "Treasury", ".", "``", "The", "suspects", "pulled", "up", "the", "account", "data", "while", "working", "inside", "their", "banks", ",", "then", "printed", "out", "screen", "captures", "of", "the", "information", "or", "wrote", "it", "out", "by", "hand", ",", "Lomia", "-LRB-", "a", "New", "Jersey", "Police", "Detective", "-RRB-", "said", ".", "The", "data", "was", "then", "provided", "to", "a", "company", "called", "DRL", "Associates", "Inc.", ",", "which", "had", "been", "set", "up", "as", "a", "front", "for", "the", "operation", ".", "DRL", "advertised", "itself", "as", "a", "deadbeat-locator", "service", "and", "as", "a", "collection", "agency", ",", "but", "was", "not", "properly", "licensed", "for", "those", "activities", "by", "the", "state", ",", "police", "said", "''", "-LSB-", "13", "-RSB-", ".", "With", "this", "security", "breach", ",", "there", "was", "no", "technology", "involved", ".", "No", "hackers", "breached", "the", "information", "system", ".", "This", "was", "completely", "an", "inside", "job", ".", "The", "question", "becomes", "of", "how", "this", "could", "have", "been", "prevented", "?", "The", "answer", "is", "that", "in", "some", "cases", "the", "theft", "of", "information", "can", "not", "be", "prevented", ".", "The", "only", "the", "thing", "that", "management", "can", "do", "is", "be", "prepared", "for", "when", "it", "does", "happen", ".", "Because", "of", "incidents", "like", "this", ",", "it", "is", "becoming", "a", "duty", "of", "management", "to", "have", "an", "incident", "response", "plan", "in", "place", "long", "before", "a", "security", "breach", "happens", ".", "From", "a", "risk", "analysis", "viewpoint", ",", "an", "incident", "like", "this", "is", "difficult", "to", "detect", "and", "almost", "impossible", "to", "stop", "before", "it", "happens", ".", "But", "when", "it", "does", "happen", "and", "the", "criminals", "are", "caught", ",", "it", "becomes", "a", "necessity", "to", "punish", "the", "ones", "responsible", "to", "the", "full", "extent", "of", "the", "law", "to", "deter", "others", "from", "following", "suit", ".", "2.5", "Case", "V", ":", "LexisNexis", "LexisNexis", "is", "provider", "of", "legal", "and", "business", "data", ".", "In", "March", "of", "2005", ",", "LexisNexis", "announced", "that", "the", "information", "on", "32,000", "people", "was", "stolen", ".", "These", "breaches", "occurred", "at", "one", "of", "the", "subsidiary", "companies", ",", "Seisint", "Inc.", ".", "Seisnt", "Inc.", "was", "the", "company", "who", "was", "the", "provider", "of", "data", "to", "the", "Multistate", "Anti-Terrorism", "Information", "Exchange", "-LRB-", "MATRIX", "-RRB-", "system", ".", "``", "LexisNexis", ",", "which", "acquired", "Seisint", "of", "Boca", "Raton", ",", "Florida", ",", "in", "September", "for", "$", "775", "million", ",", "expressed", "regret", "over", "the", "incident", "and", "said", "that", "it", "is", "notifying", "the", "individuals", "whose", "information", "may", "have", "been", "accessed", "and", "will", "provide", "them", "with", "credit-monitoring", "services", "''", "-LSB-", "12", "-RSB-", ".", "In", "this", "incident", ",", "hackers", "stole", "username", "and", "passwords", "of", "legitimate", "users", "to", "access", "the", "confidential", "information", ".", "In", "a", "statement", ",", "``", "Kurt", "Sanford", ",", "president", "and", "CEO", "of", "LexisNexis", "Corporate", "and", "Federal", "Markets", ",", "said", "that", "the", "company", "will", "improve", "the", "user", "ID", "and", "password", "administration", "procedures", "that", "its", "customers", "use", "and", "will", "devote", "more", "resources", "to", "protecting", "user", "'s", "privacy", "and", "reinforcing", "the", "importance", "of", "privacy", "''", "-LSB-", "12", "-RSB-", ".", "This", "security", "breach", "is", "very", "similar", "to", "the", "incident", "that", "happened", "at", "ChoicePoint", "who", "is", "one", "of", "LexisNexis", "'s", "competitors", ".", "136", "There", "are", "several", "policies", "that", "should", "have", "been", "implemented", "that", "could", "have", "reduced", "the", "risk", "of", "this", "security", "breach", ".", "Since", "LexisNexis", "gives", "third", "parties", "access", "to", "its", "confidential", "information", ",", "there", "becomes", "a", "need", "to", "educate", "these", "organizations", "on", "certain", "practices", "to", "protect", "the", "data", ".", "Where", "was", "this", "education", ",", "and", "was", "there", "a", "lack", "of", "education", "due", "to", "the", "possible", "effect", "that", "it", "could", "have", "on", "business", "?", "Also", ",", "what", "was", "the", "password", "policy", "for", "its", "customers", "?", "LexisNexis", "has", "not", "elaborated", "on", "the", "details", "of", "the", "security", "breach", ",", "but", "considering", "the", "statement", "of", "the", "CEO", "of", "LexisNexis", "after", "the", "incident", ",", "there", "clearly", "seems", "that", "there", "was", "a", "failure", "to", "detect", "the", "risk", "associated", "with", "their", "customer", "'s", "password", "policy", "that", "could", "result", "in", "a", "theft", "of", "information", ".", "LexisNexis", "inability", "to", "properly", "assess", "this", "risk", "caused", "the", "security", "breach", ".", "Through", "education", "and", "a", "secure", "password", "administration", "policy", ",", "this", "event", "could", "have", "been", "avoided", ".", "When", "analyzing", "these", "case", "studies", ",", "an", "important", "thing", "to", "ponder", "is", "that", "for", "every", "security", "breach", "reported", ",", "how", "many", "go", "unreported", "?", "These", "security", "breaches", "could", "have", "been", "avoided", "with", "proper", "risk", "assessment", "and", "risk", "analysis", ",", "or", "at", "least", "the", "probability", "of", "a", "security", "breach", "could", "have", "been", "reduced", "greatly", ".", "For", "all", "security", "breaches", ",", "the", "prevention", "or", "at", "least", "the", "reduction", "of", "the", "probability", "of", "the", "security", "breach", "begins", "and", "ends", "with", "decisions", "that", "management", "makes", ".", "In", "an", "organization", ",", "when", "a", "security", "breach", "occurs", "it", "causes", "a", "company", "to", "re-evaluate", "their", "policies", "that", "guide", "their", "information", "security", ".", "With", "this", "rash", "of", "security", "incidents", "that", "have", "recently", "taken", "place", ",", "companies", "do", "not", "need", "to", "wait", "until", "a", "security", "breach", "happens", "to", "evaluate", "their", "security", "policies", "and", "analyze", "their", "risks", ".", "Companies", "need", "to", "have", "an", "ongoing", "risk", "analysis", "that", "is", "continually", "developed", "and", "re-developed", ".", "They", "need", "policies", "that", "are", "ever", "changing", "to", "meet", "new", "threats", "and", "new", "security", "weaknesses", "from", "a", "both", "business", "practices", "and", "technology", "viewpoints", ".", "Looking", "at", "the", "incidents", "that", "happened", "at", "ChoicePoint", ",", "LexisNexis", ",", "and", "Citigroup", ",", "these", "companies", "have", "technological", "solutions", "to", "protect", "their", "data", "from", "being", "stolen", ",", "but", "they", "failed", "at", "weighing", "equal", "importance", "the", "security", "of", "the", "data", "from", "a", "business", "issue", "perspective", ".", "This", "showed", "in", "their", "inability", "to", "properly", "evaluate", "the", "risk", "in", "the", "business", "practices", ".", "In", "several", "of", "the", "cases", ",", "the", "theft", "of", "information", "occurred", "because", "of", "the", "business", "practices", "of", "the", "company", ",", "and", "technology", "was", "not", "even", "involved", ".", "Also", ",", "companies", "need", "to", "learn", "from", "the", "mistakes", "of", "others", "because", "history", "will", "repeat", "itself", "if", "the", "lesson", "is", "not", "learned", ".", "There", "is", "an", "age", "old", "saying", "that", "is", "a", "wise", "person", "learns", "from", "their", "mistakes", ",", "but", "an", "even", "wiser", "person", "learns", "from", "the", "mistakes", "of", "others", ".", "Citigroup", "needed", "this", "advice", ".", "With", "Citigroup", "'s", "loss", "of", "their", "backup", "tapes", ",", "they", "should", "have", "learned", "from", "the", "mistake", "that", "Time", "Warner", "made", "just", "months", "earlier", ",", "but", "they", "did", "not", ".", "Security", "policies", "and", "practices", "need", "the", "flexibility", "to", "change", ",", "and", "management", "has", "a", "responsibility", "to", "make", "these", "changes", "when", "new", "threats", "or", "new", "weakness", "surface", "so", "that", "they", "can", "protect", "their", "data", ".", "Companies", "and", "organizations", "need", "to", "realize", "the", "importance", "of", "making", "information", "security", "a", "business", "issue", "as", "well", "as", "a", "technological", "one", ".", "With", "the", "issue", "that", "happened", "with", "Egghead.com", ",", "they", "did", "have", "security", "systems", "in", "place", "to", "protect", "their", "data", "from", "being", "stolen", ",", "``", "but", "it", "lacked", "the", "kind", "of", "coordinated", "organizational", "response", "necessary", "to", "convince", "customers", "and", "shareholders", "that", "their", "sensitive", "data", "were", "actually", "secure", ".", "''", "Egghead.com", "lost", "25", "%", "of", "its", "stock", "value", "when", "their", "customer", "data", "was", "stolen", "-LSB-", "7", "-RSB-", ".", "Egghead.com", "was", "not", "ready", "for", "the", "media", "storm", "that", "followed", "the", "security", "breach", "which", "ultimately", "caused", "their", "collapse", ".", "By", "making", "information", "security", "a", "business", "issue", ",", "as", "well", "as", "a", "technological", "one", ",", "companies", "can", "add", "strategic", ",", "operational", ",", "and", "organizational", "defenses", "to", "protect", "their", "data", ".", "As", "more", "identity", "thefts", "occur", ",", "companies", "that", "make", "their", "money", "from", "storing", "this", "information", "are", "going", "to", "become", "liable", ".", "''", "`", "The", "ChoicePoint", "scandal", "has", "been", "a", "wake", "up", "call", "for", "how", "vulnerable", "consumers", "are", "to", "identity", "theft", "because", "of", "the", "lack", "of", "security", "standards", "for", "the", "largely", "unregulated", "information", "broker", "industry", ",", "'", "said", "Gail", "Hillebrand", ",", "Senior", "Attorney", "for", "Consumers", "Union", "'s", "West", "Coast", "Office", ".", "`", "This", "bill", "will", "ensure", "that", "information", "brokers", "are", "held", "accountable", "for", "enforcing", "tough", "security", "practices", "to", "prevent", "thieves", "from", "gaining", "access", "to", "sensitive", "consumer", "data", ".", "And", "it", "gives", "consumers", "important", "new", "rights", "to", "examine", "the", "information", "maintained", "about", "them", "and", "to", "correct", "any", "errors", "they", "may", "find", "'", "-LSB-", "3", "-RSB-", ".", "Companies", "need", "to", "find", "the", "importance", "of", "protecting", "their", "data", "from", "both", "technology", "and", "business", "practices", "weaknesses", ".", "Companies", "view", "the", "protection", "of", "their", "data", "from", "a", "technology", "issue", ",", "but", "fail", "to", "realize", "the", "importance", "that", "management", "plays", "in", "protecting", "their", "systems", "with", "the", "creation", "of", "policies", "and", "understanding", "the", "risks", "that", "face", "their", "information", "systems", ".", "From", "a", "consumer", "standpoint", ",", "if", "a", "company", "is", "making", "profit", "from", "someone", "'s", "personal", "information", "and", "they", "fail", "to", "protect", "this", "data", ",", "should", "they", "not", "give", "some", "sort", "of", "reputation", "?", "Companies", "own", "and", "manage", "consumer", "information", ",", "and", "individuals", "have", "little", "power", "over", "their", "information", "that", "is", "controlled", "by", "these", "organizations", ".", "As", "identity", "theft", "continues", "and", "companies", "fail", "at", "protecting", "their", "data", ",", "legislation", "will", "be", "passed", "that", "will", "force", "companies", "to", "comply", "with", "regulator", "standards", "that", "may", "force", "companies", "to", "give", "this", "reputation", "to", "individuals", "who", "have", "their", "identity", "stolen", ".", "Today", ",", "there", "are", "only", "laws", "to", "protect", "data", "in", "certain", "industries", ".", "This", "includes", "the", "Health", "Insurance", "Portability", "and", "Accountability", "Act", "for", "healthcare", "and", "the", "Gramm-Leach-Bliley", "Act", "for", "financial", "services", ".", "With", "consumer", "groups", "voicing", "their", "opinions", "regarding", "the", "theft", "of", "information", "from", "companies", ",", "the", "US", "Congress", "and", "other", "state", "legislators", "are", "getting", "prepared", "to", "pass", "broader", "data", "privacy", "protection", "to", "protect", "consumers", "-LSB-", "11", "-RSB-", ".", "There", "are", "steps", "that", "companies", "and", "organizations", "need", "to", "take", "to", "protect", "themselves", "from", "the", "theft", "of", "information", ".", "First", ",", "companies", "need", "to", "be", "prepared", "when", "a", "security", "breach", "occurs", "because", "a", "risk", "to", "an", "asset", "is", "never", "zero", "percent", ".", "Organizations", "need", "to", "establish", "policies", "and", "risk", "assessments", "that", "protect", "their", "data", "from", "both", "technology", "risks", "and", "business", "practices", "well", "before", "a", "security", "breach", "occurs", ".", "This", "is", "achieved", "by", "companies", "having", "the", "organizational", "structure", "that", "allows", "management", "to", "fully", "understand", "the", "business", "processes", "and", "technology", "that", "expose", "their", "information", "systems", "to", "threats", ".", "Also", ",", "companies", "need", "the", "ability", "to", "change", "and", "adapt", "to", "new", "threats", "that", "oppose", "their", "information", ".", "It", "is", "not", "possible", "to", "prevent", "all", "security", "breaches", "that", "lead", "to", "a", "theft", "of", "information", ",", "but", "companies", "will", "need", "to", "have", "policies", "and", "practices", "in", "place", "to", "better", "protect", "the", "137", "data", ".", "Companies", "will", "need", "not", "only", "to", "weigh", "technology", "risk", "to", "their", "information", ",", "but", "also", "understand", "business", "issues", "that", "expose", "their", "information", "to", "theft", ".", "It", "no", "longer", "matters", "how", "the", "information", "stolen", ",", "whether", "it", "was", "a", "hacker", "or", "a", "social", "engineer", "that", "committed", "the", "crime", ";", "companies", "need", "to", "protect", "their", "information", "from", "all", "threats", "and", "minimize", "their", "risks", "from", "all", "aspects", ".", "-LSB-", "1", "-RSB-", "Charny", ",", "Ben", "and", "Lemos", ",", "Robert", ".", "December", "22", ",", "2000", ".", "Egghead", "Scrambles", "to", "Guage", "Damage", ".", "Retrieved", "06/19/2005", "from", "http://seclists.org/lists/isn/2000/Dec/0134.html", "-LSB-", "2", "-RSB-", "Crawford", ",", "Michael", ".", "June", "16", ",", "2005", ".", "Criminals", "Grasp", "the", "Metrics", "of", "Information", "Value", ".", "Retrieved", "06/20/2005", "from", "http://www.computerworld.com.au/index.php?id=550545875", "&", "eid", "=", "-255", "-LSB-", "3", "-RSB-", "ConsumersUnion.org", ".", "Consumers", "Union", "applauds", "Nelson", "-LRB-", "FL", "-RRB-", "bill", "to", "extend", "federal", "oversight", "to", "information", "brokers", "like", "ChoicePoint", ".", "Retrieved", "06/28/2005", "from", "http://www.consumersunion.org/pub/core_financial_services", "/", "002027.html", "-LSB-", "4", "-RSB-", "Easen", ",", "Nick", ".", "April", "21", ",", "2004", ".", "Cyber", "Crime", "is", "Right", "Under", "Your", "Nose", ".", "Retrieved", "06/25/2005", "from", "http://www.cnn.com/2004/BUSINESS/04/20/go.cyber.securi", "ty/index.html", "-LSB-", "5", "-RSB-", "Gross", ",", "Grant", ".", "February", "23", ",", "2005", ".", "ChoicePoint", "'s", "Error", "Sparks", "Talk", "of", "ID", "Theft", "Law", ".", "Retrieved", "06/22/2005", "from", "http://pcworld.com/news/article/0,aid,119790,00.asp", "-LSB-", "6", "-RSB-", "Liu", ",", "Bob", ".", "December", "3", ",", "2001", ".", "Eggheacd.com", "Becomes", "Amazon.com", "Property", ".", "Retrieved", "06/22/2005", "from", "http://www.internetnews.com/ec-news/article.php/932871", "-LSB-", "7", "-RSB-", "McKinsey", "&", "Company", ",", "Inc.", ".", "June", "6", ",", "2002", ".", "Managing", "Information", "Security", ".", "Retrieved", "06/22/2005", "from", "http://news.com.com/2009-1017-933185.html", "-LSB-", "8", "-RSB-", "McMillian", ",", "Robert", ".", "June", "7", ",", "2005", ".", "Citigroup", "to", "Encrypt", "Data", "Sent", "to", "Credit", "Bureaus", ".", "Retrieved", "06/20/2005", "from", "http://www.computerworld.com/hardwaretopics/hardware/st", "ory/0", ",10801,102315,00", ".", "html", "-LSB-", "9", "-RSB-", "Mearian", ",", "Lucas", ".", "May", "2", ",", "2005", ".", "Time", "Warner", "Says", "Data", "of", "600,000", "Workers", "Lost", ".", "Retrieved", "06/21/2005", "from", "http://www.computerworld.com/databasetopics/data/story/0", ",", "10801,101500,00", ".", "html", "-LSB-", "10", "-RSB-", "Mimoso", ",", "Michael", ".", "April", "2005", ".", "Damage", "Control", ".", "Retrieved", "06/21/2005", "from", "http://informationsecurity.techtarget.com/magItem/1,291266", ",", "sid42_gci1073914", ",00", ".", "html", "-LSB-", "11", "-RSB-", "Rasmussen", ",", "Michael", ".", "March", "3", ",", "2005", ".", "ChoicePoint", "Security", "Breach", "Will", "Lead", "to", "Increased", "Regulation", ".", "Retrieved", "06/25/2005", "from", "http://www.csoonline.com/analyst/report3416.html", "-LSB-", "12", "-RSB-", "Robert", ",", "Paul", ".", "March", "9", ",", "2005", ".", "Hackers", "Grab", "LexisNexis", "Info", "on", "32,000", "People", ".", "Retrieved", "06/24/2005", "from", "http://www.pcworld.com/resource/article/0,aid,119953,pg,1", ",", "RSS", ",", "RSS", ",00", ".", "asp", "-LSB-", "13", "-RSB-", "Weiss", ",", "Todd", ".", "May", "20", ",", "2005", ".", "Scope", "of", "Bank", "Data", "Theft", "Grows", "to", "676,000", "Customers", ".", "Retrieved", "06/24/2005", "from", "http://www.computerworld.com/securitytopics/security/cybe", "rcrime/story/0", ",10801,101903,00", ".", "html", "138"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["risk analysis", "personal information", "cyber crime", "encryption", "incident response plan", "privacy", "management issue", "information system", "confidential information", "security breach", "information security", "theft of information"], "abstractive_keyphrases": ["data protection", "information security management", "security management", "human factor", "data protection procedure", "business practises and policy", "cases of information theft"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "158", "document": ["Quality-of-Service", "in", "IP", "Services", "over", "Bluetooth", "Ad-Hoc", "Networks", "Along", "with", "the", "development", "of", "multimedia", "and", "wireless", "networking", "technologies", ",", "mobile", "multimedia", "applications", "are", "playing", "more", "important", "roles", "in", "information", "access", ".", "Quality", "of", "Service", "-LRB-", "QoS", "-RRB-", "is", "a", "critical", "issue", "in", "providing", "guaranteed", "service", "in", "a", "low", "bandwidth", "wireless", "environment", ".", "To", "provide", "Bluetooth-IP", "services", "with", "differentiated", "quality", "requirements", ",", "a", "QoS-centric", "cascading", "mechanism", "is", "proposed", "in", "this", "paper", ".", "This", "innovative", "mechanism", ",", "composed", "of", "intra-piconet", "resource", "allocation", ",", "inter-piconet", "handoff", "and", "Bluetooth-IP", "access", "modules", ",", "is", "based", "on", "the", "Bluetooth", "Network", "Encapsulation", "Protocol", "-LRB-", "BNEP", "-RRB-", "operation", "scenario", ".", "From", "our", "simulations", "the", "handoff", "connection", "time", "for", "a", "Bluetooth", "device", "is", "up", "to", "11.84", "s", "and", "the", "maximum", "average", "transmission", "delay", "is", "up", "to", "4e-05", "s", "when", "seven", "devices", "join", "a", "piconet", "simultaneously", ".", "Increasing", "the", "queue", "length", "for", "the", "Bluetooth-IP", "access", "system", "will", "decrease", "the", "traffic", "loss", "rate", "by", "0.02", "per", "1000", "IP", "packets", "at", "the", "expense", "of", "a", "small", "delay", "performance", ".", "Wireless", "communications", "have", "evolved", "rapidly", "over", "the", "past", "few", "years", ".", "Much", "attention", "has", "been", "given", "to", "research", "and", "development", "in", "wireless", "networking", "and", "personal", "mobile", "computing", "-LSB-", "10,17", "-RSB-", ".", "The", "number", "of", "computing", "and", "telecommunications", "devices", "is", "increasing", "and", "consequently", ",", "portable", "computing", "and", "communications", "devices", "like", "cellular", "phones", ",", "personal", "digital", "assistants", ",", "tablet", "PCs", "and", "home", "appliances", "are", "used", "widely", ".", "Wireless", "communication", "technologies", "will", "offer", "the", "subscriber", "greater", "flexibility", "and", "capability", "than", "ever", "before", "-LSB-", "14", "-RSB-", ".", "In", "February", "1998", ",", "mobile", "telephony", "and", "computing", "leaders", "Ericsson", ",", "Nokia", ",", "IBM", ",", "Toshiba", ",", "and", "Intel", "formed", "a", "Special", "Interest", "Group", "-LRB-", "SIG", "-RRB-", "to", "create", "a", "standard", "radio", "interface", "named", "Bluetooth", "-LSB-", "13", "-RSB-", ".", "The", "main", "aim", "of", "Bluetooth", "has", "been", "the", "development", "of", "a", "wireless", "replacement", "for", "cables", "between", "electronic", "devices", "via", "a", "universal", "radio", "link", "in", "the", "globally", "available", "and", "unlicensed", "2.4", "GHz", "Industrial", "Scientific", "and", "Medical", "-LRB-", "ISM", "-RRB-", "frequency", "band", "-LSB-", "9", "-RSB-", ".", "Bluetooth", "technologies", "have", "the", "potential", "to", "ensure", "that", "the", "best", "services", ",", "system", "resources", "and", "quality", "are", "delivered", "and", "used", "efficiently", ".", "However", ",", "global", "services", "will", "embrace", "all", "types", "of", "networks", ".", "Therefore", ",", "bluetooth-based", "service", "networks", "will", "interconnect", "with", "IPv4/v6", "existing", "networks", "to", "provide", "wide", "area", "network", "connectivity", "and", "Internet", "access", "to", "and", "between", ",", "individuals", "and", "devices", "-LSB-", "7", "-RSB-", ".", "In", "Reference", "-LSB-", "2", "-RSB-", ",", "the", "BLUEPAC", "-LRB-", "BLUEtooth", "Public", "ACcess", "-RRB-", "concepts", "presented", "ideas", "for", "enabling", "mobile", "Bluetooth", "devices", "to", "access", "local", "area", "networks", "in", "public", "areas", ",", "such", "as", "airports", ",", "train", "stations", "and", "supermarkets", ".", "The", "Bluetooth", "specification", "defined", "how", "Bluetooth-enabled", "devices", "-LRB-", "BT", "-RRB-", "can", "access", "IP", "network", "services", "using", "the", "IETF", "Point-to-Point", "Protocol", "-LRB-", "PPP", "-RRB-", "and", "the", "Bluetooth", "Network", "Encapsulation", "Protocol", "-LRB-", "BNEP", "-RRB-", "-LSB-", "12,19,20", "-RSB-", ".", "By", "mapping", "IP", "addresses", "on", "the", "corresponding", "BT", "addresses", "-LRB-", "BD_ADDR", "-RRB-", ",", "common", "access", "across", "networks", "is", "enabled", "-LSB-", "3", "-RSB-", ".", "This", "means", "that", "devices", "from", "different", "networks", "are", "allowed", "to", "discover", "and", "use", "one", "another", "'s", "services", "without", "the", "need", "for", "service", "translation", "or", "user", "interaction", ".", "To", "support", "communications", "between", "all", "Bluetooth-based", "home", "appliances", "and", "the", "existing", "IP", "world", ",", "IPv6", "over", "Bluetooth", "-LRB-", "6overBT", "-RRB-", "technology", "was", "proposed", "-LSB-", "8", "-RSB-", ".", "The", "6overBT", "technology", "suggested", "that", "no", "additional", "link", "layer", "or", "encapsulation", "protocol", "headers", "be", "used", ".", "However", ",", "the", "development", "of", "6overBT", "technology", "is", "still", "in", "progress", ".", "The", "BNEP", "protocol", "was", "referred", "to", "as", "the", "key", "technology", "in", "our", "research", ".", "What", "with", "the", "development", "of", "applications", "and", "wireless", "networking", "technologies", ",", "mobile", "multimedia", "applications", "are", "playing", "more", "important", "roles", "in", "information", "access", "-LSB-", "21", "-RSB-", ".", "To", "provide", "responsive", "multimedia", "services", "-LRB-", "high", "QoS", "-RRB-", "in", "a", "Bluetooth-IP", "mobile", "environment", ",", "a", "pre-requisite", "for", "our", "discussion", "is", "seamless", "data", "transmission", ".", "A", "cascading", "system", "with", "fair", "resource", "allocation", "scheme", ",", "seamless", "handoff", "strategy", ",", "and", "transparent", "bridging", "system", "that", "provides", "a", "way", "of", "integrating", "IP", "networks", "and", "Bluetooth-based", "service", "networks", "to", "relay", "multimedia", "applications", "within", "residual", "and", "enterprise", "is", "thus", "inevitable", "-LSB-", "6", "-RSB-", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "The", "following", "section", "describes", "Bluetooth", "background", "information", ",", "including", "the", "piconet", ",", "scatternet", ",", "IP", "over", "Bluetooth", "service", "architecture", ".", "Section", "3", "presents", "the", "proposed", "QoS-centric", "cascading", "mechanism", ",", "including", "the", "intra-piconet", "resource", "allocation", ",", "inter-piconet", "handoff", ",", "and", "Bluetooth-IP", "access", "system", ".", "The", "simulation", "model", "and", "performance", "analysis", "of", "the", "700", "W.-C", ".", "CHAN", "ET", "AL.", "queue", "length", ",", "loss", "rate", ",", "average", "delay", ",", "are", "introduced", "in", "section", "4", ".", "Section", "5", "presents", "our", "concluding", "remarks", ".", "Figure", "1", "is", "a", "Bluetooth-IP", "service", "network", "environment", ".", "When", "a", "BT", "user", "wants", "to", "receive", "a", "networked", "video", "stored", "on", "a", "remote", "video", "server", ",", "the", "BT", "-LRB-", "maybe", "a", "slave", "in", "a", "picocell", "-RRB-", "will", "initiate", "a", "connection", "procedure", "with", "the", "picocell", "master", ".", "The", "master", "initiates", "a", "connection", "procedure", "with", "the", "video", "server", "through", "the", "Bluetooth-IP", "access", "system", ".", "During", "the", "connection", "state", ",", "the", "video", "stream", "will", "be", "fed", "through", "the", "access", "system", ",", "master", "to", "BT", "user", "-LRB-", "the", "dotted", "line", "of", "figure", "1", "-RRB-", ".", "2.1", ".", "Piconet", "When", "two", "BTs", "establish", "a", "connection", ",", "one", "BT", "will", "act", "as", "master", "and", "the", "other", "as", "the", "slave", ".", "More", "BTs", "can", "join", "the", "piconet", ".", "A", "single", "piconet", "can", "accommodate", "up", "to", "seven", "active", "slaves", ".", "If", "a", "slave", "does", "not", "need", "to", "participate", "in", "the", "channel", ",", "it", "should", "still", "be", "frequency-hop", "synchronized", "and", "switch", "to", "a", "low-power", "Park", "mode", ".", "The", "master", "can", "also", "request", "that", "the", "slave", "enter", "the", "Park", "mode", "so", "the", "master", "can", "communicate", "more", "than", "seven", "slave", "BTs", ".", "The", "master", "determines", "the", "frequency-hop", "sequence", ",", "the", "timing", "and", "the", "scheduling", "of", "all", "packets", "in", "the", "piconet", ".", "Within", "a", "piconet", ",", "the", "master", "initiates", "the", "connection", "procedure", ",", "although", "the", "application", "may", "necessitate", "that", "the", "master", "and", "slave", "roles", "be", "exchanged", ".", "For", "instance", ",", "such", "an", "exchange", "is", "necessary", "when", "a", "BT", "receives", "network", "services", "through", "Bluetooth-IP", "access", "systems", ".", "In", "this", "circumstance", ",", "the", "access", "system", "provides", "an", "IP", "service", "that", "may", "be", "used", "by", "many", "other", "BTs", ".", "This", "situation", "requires", "that", "the", "access", "system", "be", "the", "master", "of", "the", "piconet", "and", "the", "other", "BTs", "to", "act", "as", "slaves", ".", "However", ",", "when", "the", "device", "is", "initially", "activated", "and", "looks", "for", "an", "access", "system", ",", "it", "may", "be", "the", "device", "initiating", "the", "connection", ".", "This", "will", "make", "the", "device", "the", "master", "and", "the", "access", "system", "the", "slave", "-LSB-", "1", "-RSB-", ".", "2.2", ".", "Scatternet", "Several", "piconets", "can", "be", "established", "and", "linked", "together", "to", "form", "an", "ad-hoc", "network", ".", "This", "is", "called", "a", "scatternet", ".", "A", "BT", "can", "participate", "in", "two", "or", "more", "overlaying", "piconets", "by", "applying", "time", "multiplexing", ".", "To", "participate", "on", "the", "proper", "channel", ",", "the", "BT", "should", "use", "the", "associated", "master", "device", "address", "and", "proper", "clock", "offset", "to", "obtain", "the", "correct", "phase", ".", "A", "BT", "can", "act", "as", "a", "slave", "in", "several", "piconets", ",", "but", "only", "as", "a", "master", "in", "a", "sin-Figure", "1", ".", "Bluetooth-IP", "service", "network", "environment", ".", "QUALITY-OF-SERVICE", "IN", "IP", "SERVICES", "701", "Figure", "2", ".", "An", "inter-piconet", "node", "in", "the", "scatternet", ".", "gle", "piconet", ":", "because", "two", "piconets", "with", "the", "same", "master", "are", "synchronous", "and", "use", "the", "same", "hopping", "sequence", ".", "This", "syn-chronization", "makes", "them", "one", "and", "the", "same", "piconet", ".", "Time", "multiplexing", "must", "be", "used", "to", "switch", "between", "piconets", ".", "In", "figure", "2", ",", "an", "inter-piconet", "node", "is", "capable", "of", "time-sharing", "between", "multiple", "piconets", ".", "This", "allows", "the", "traffic", "to", "flow", "within", "and", "between", "the", "piconets", "-LSB-", "18", "-RSB-", ".", "In", "the", "case", "of", "data", "links", "only", ",", "a", "BT", "can", "request", "to", "enter", "the", "Hold", "or", "Park", "mode", "in", "the", "current", "piconet", "during", "which", "time", "it", "may", "join", "another", "piconet", "by", "just", "changing", "the", "channel", "parameters", ".", "BTs", "in", "the", "Sniff", "mode", "may", "have", "sufficient", "time", "to", "visit", "another", "piconet", "in", "between", "the", "Sniff", "slots", ".", "If", "audio", "links", "are", "established", ",", "other", "piconets", "can", "only", "be", "visited", "in", "the", "non-reserved", "slots", ".", "2.3", ".", "IP", "networking", "The", "LAN", "Access", "profile", "defines", "IP", "service", "access", "using", "PPP", "over", "RFCOMM", ".", "TCP/IP", "runs", "on", "the", "PPP", "protocol", ".", "BTs", "can", "receive", "IP", "services", "using", "the", "PPP", "protocol", "-LSB-", "20", "-RSB-", ".", "When", "a", "BT", "wants", "to", "receive", "IP", "service", ",", "it", "will", "find", "a", "LAN", "Access", "Point", "-LRB-", "LAP", "-RRB-", "within", "radio", "range", "through", "inquiry", "and", "paging", ".", "After", "the", "data", "links", "have", "been", "setup", ",", "the", "LMP", "-LRB-", "Link_Manager", "Protocol", "-RRB-", "will", "process", "the", "master/slave", "switch", "and", "the", "L2CAP/RFCOMM/PPP", "connection", "will", "then", "be", "established", ".", "A", "suitable", "IP", "address", "is", "negotiated", "between", "devices", "in", "the", "PPP", "layer", ".", "The", "BT", "can", "forward", "IP", "packets", "through", "the", "LAP", ".", "Encapsulating", "an", "Ethernet", "packet", "inside", "a", "PPP", "packet", "is", "not", "an", "efficient", "solution", ".", "Moreover", "PPP", "is", "not", "sufficient", "for", "ad-hoc", "networks", "that", "contain", "multiple", "wireless", "hops", ".", "The", "best", "way", "of", "providing", "networking", "would", "be", "to", "Ethernet", "over", "the", "L2CAP", "layer", ".", "The", "Bluetooth", "Network", "Encapsulation", "Protocol", "-LRB-", "BNEP", "-RRB-", "was", "pursued", "by", "the", "Bluetooth", "SIG", "PAN", "working", "group", "to", "provide", "an", "Ethernet-like", "interface", "to", "IP", "services", "-LSB-", "19", "-RSB-", ",", "as", "depicted", "in", "figure", "3", ".", "From", "figure", "1", ",", "a", "BT", "that", "accesses", "multimedia", "services", "on", "the", "Internet", "may", "do", "so", "through", "a", "piconet", "or", "scatternet", ".", "QoS", "is", "critical", "in", "transmitting", "of", "different", "network", "segments", ".", "To", "provide", "Bluetooth-IP", "services", "with", "differentiated", "quality", "requirements", ",", "a", "QoS-centric", "cascading", "mechanism", "is", "proposed", "Figure", "3", ".", "BNEP", "protocol", "stack", ".", "Figure", "4", ".", "The", "proposed", "QoS-centric", "cascading", "modules", ".", "in", "our", "research", "to", "tunnel", "the", "guaranteed", "applications", ".", "The", "operational", "modules", "are", "illustrated", "in", "figure", "4", ".", "The", "innovative", "mechanism", "consists", "of", "three", "modules", ":", "intra-piconet", "resource", "allocation", ",", "inter-piconet", "handoff", "and", "Bluetooth-IP", "access", "system", ".", "These", "modules", "were", "developed", "based", "on", "the", "BNEP", "operation", "scenarios", ".", "3.1", ".", "Intra-piconet", "resource", "allocation", "Two", "service", "types", ":", "Synchronous", "Connection", "Oriented", "-LRB-", "SCO", "-RRB-", "and", "Asynchronous", "Connectionless", "Link", "-LRB-", "ACL", "-RRB-", "were", "defined", "in", "the", "Bluetooth", "service", "environment", ".", "Through", "the", "QoS", "setup", ",", "the", "ACL", "link", "can", "be", "configured", "to", "provide", "QoS", "requirements", ".", "The", "ACL", "link", "can", "be", "configured", "with", "the", "Flush", "Timeout", "setting", ",", "which", "prevents", "re-transmission", "when", "it", "is", "no", "longer", "useful", ".", "Acknowledgement", "can", "be", "received", "within", "1.25", "ms.", "This", "makes", "the", "delay", "small", "and", "it", "is", "possible", "to", "perform", "re-transmission", "for", "real-time", "applications", ".", "The", "ACL", "link", "also", "supports", "variable", "and", "asymmetrical", "bandwidth", "requirement", "applications", ".", "Currently", ",", "the", "IP", "QoS", "architecture", "is", "based", "purely", "on", "IP-layer", "decision", "making", ",", "packet", "buffering", "and", "scheduling", "through", "a", "single", "link-layer", "service", "access", "point", ".", "The", "mechanism", "in", "the", "link", "layer", "has", "better", "understanding", "of", "the", "communications", "medium", "status", ".", "However", ",", "simplicity", "has", "been", "important", "design", "objective", "for", "the", "Bluetooth", "interface", "and", "the", "number", "of", "IP-based", "protocols", "is", "becoming", "increasingly", "more", "complex", ".", "As", "depicted", "in", "figure", "5", ",", "QoS", "architecture", "at", "the", "network", "layer", "such", "as", "differentiated", "and", "integrated", "services", "provides", "different", "services", "to", "applications", ".", "These", "services", "at", "702", "W.-C", ".", "CHAN", "ET", "AL.", ".", "Figure", "5", ".", "Bluetooth", "IP", "QoS", "mechanism", ".", "Figure", "6", ".", "General", "QoS", "framework", ".", "the", "high", "layer", "are", "sufficient", "depending", "on", "the", "particular", "scenario", ".", "With", "shared", "bandwidth", "and", "a", "re-transmission", "scheme", ",", "the", "Host", "Controller", "-LRB-", "HC", "-RRB-", "buffering", "will", "invoke", "delays", ".", "The", "HC", "buffer", "size", "can", "be", "decreased", "to", "reduce", "the", "buffer", "delay", ".", "In", "bluetooth-based", "service", "layer", ",", "the", "L2CAP", "layer", "informs", "the", "remote", "side", "of", "the", "non-default", "parameters", "and", "sends", "a", "Configuration", "Request", ".", "The", "remote", "L2CAP-side", "responds", "to", "the", "Configuration", "Response", "that", "agrees", "or", "disagrees", "with", "these", "requirements", ".", "If", "the", "Configuration", "Response", "disagrees", ",", "the", "local", "side", "sends", "other", "parameters", "to", "re-negotiate", "or", "stop", "the", "connection", ".", "The", "Link", "Manager", "uses", "the", "poll", "interval", "and", "repetitions", "for", "broadcast", "packets", "to", "support", "QoS", ".", "The", "poll", "interval", ",", "which", "is", "defined", "as", "the", "maximum", "time", "between", "subsequent", "transmissions", "from", "the", "master", "to", "a", "particular", "slave", "on", "the", "ACL", "link", ",", "is", "used", "to", "support", "bandwidth", "allocation", "and", "latency", "control", ".", "Figure", "6", "depicts", "the", "general", "framework", ",", "which", "defines", "the", "basic", "functions", "required", "to", "support", "QoS", ".", "In", "figure", "6", ",", "the", "traffic", "and", "QoS", "requirements", "for", "the", "QoS", "flow", "from", "the", "high", "layer", "sends", "the", "request", "to", "the", "Resource", "Requester", "-LRB-", "RR", "-RRB-", ".", "Based", "on", "this", "request", ",", "the", "RR", "generates", "a", "resource", "request", "to", "the", "Resource", "Manager", "-LRB-", "RM", "-RRB-", ".", "When", "the", "RM", "accepts", "the", "request", "the", "RR", "configures", "parameters", "to", "the", "local", "Resource", "Allocation", "-LRB-", "RA", "-RRB-", "entity", ".", "The", "RA", "actually", "reserves", "resources", "to", "satisfy", "the", "QoS", "requirements", ".", "The", "QoS", "is", "satisfied", "by", "the", "application", "that", "receives", "the", "appropriate", "resource", ".", "In", "our", "scheme", ",", "bluetooth-based", "operation", "identifies", "the", "following", "functions", "and", "procedures", "to", "determine", "the", "amount", "of", "resources", "assigned", "to", "a", "traffic", "flow", ".", "A", "polling", "algorithm", "determines", "which", "slave", "is", "polled", "next", "and", "bandwidth", "is", "assigned", "to", "that", "slave", ".", "The", "slave", "uses", "the", "air-interface", "scheduler", "to", "determine", "which", "data", "to", "send", "when", "it", "is", "polled", ".", "An", "inter-piconet", "scheduling", "algorithm", "is", "used", "by", "the", "inter-piconet", "node", "to", "efficiently", "control", "the", "traffic", "flow", "between", "two", "piconets", ".", "Bluetooth", "also", "uses", "the", "Flush", "Timeout", "setting", "to", "determine", "the", "maximum", "delay", "involved", "with", "re-transmissions", ".", "The", "Link", "Manager", "module", "in", "the", "master", "selects", "the", "baseband", "packet", "type", "for", "transmission", "in", "the", "single", ",", "three", "and", "five", "time", "slots", "-LSB-", "4", "-RSB-", ".", "3.2", ".", "Inter-piconet", "handoff", "The", "inter-piconet", "environment", "suffers", "many", "challenges", ".", "First", ",", "the", "formation", "of", "Bluetooth", "networks", "is", "spontaneous", "and", "the", "problem", "of", "scatternet", "formation", "has", "not", "been", "defined", "in", "the", "Bluetooth", "specification", "-LSB-", "16", "-RSB-", ".", "Some", "researches", "have", "addressed", "these", "issues", "in", "the", "formation", "of", "an", "efficient", "scatternet", "-LSB-", "5,22", "-RSB-", ".", "The", "data", "sent", "forward", "between", "nodes", "must", "been", "sent", "via", "the", "master", ".", "Sometimes", "this", "data", "will", "traffic", "through", "multiple", "hops", "in", "the", "scatternet", ".", "Efficient", "routing", "protocols", "are", "needed", "for", "Bluetooth", ".", "The", "inter-piconet", "node", "as", "the", "bridge", "over", "which", "a", "piconet", "controls", "communications", "between", "piconets", ".", "Smarter", "traffic", "control", "is", "needed", "to", "coordinate", "with", "these", "masters", ".", "Different", "data", "rates", "exist", "in", "each", "link", "in", "different", "scenarios", ".", "The", "inter-piconet", "node", "becomes", "the", "bottleneck", "for", "the", "scatternet", ".", "In", "a", "piconet", ",", "the", "master", "controls", "all", "of", "the", "slaves", "in", "the", "piconet", ".", "The", "inter-piconet", "node", "joins", "more", "than", "two", "piconets", ",", "but", "it", "is", "only", "active", "in", "one", "piconet", "at", "a", "time", ".", "To", "efficiently", "move", "traffic", "between", "different", "piconets", "scheduling", "is", "needed", "to", "coordinate", "the", "inter-piconet", "and", "the", "master", ".", "In", "Reference", "-LSB-", "11", "-RSB-", ",", "inter-piconet", "-LRB-", "IPS", "-RRB-", "and", "intra-piconet", "scheduling", "-LRB-", "IPRS", "-RRB-", "were", "presented", "to", "interact", "with", "one", "another", "to", "provide", "an", "efficient", "scatternet", "scheduler", ",", "as", "illustrated", "in", "figure", "2", ".", "The", "IPS", "and", "IPRS", "must", "coordinate", "with", "one", "another", "to", "schedule", "when", "the", "inter-piconet", "node", "belongs", "to", "which", "piconet", "and", "how", "and", "when", "to", "transfer", "data", "packets", "between", "the", "different", "masters", ".", "Bluetooth", "connection", "progress", "includes", "two", "steps", ":", "the", "inquiry", "progress", "and", "the", "paging", "progress", ".", "This", "causes", "the", "bottleneck", "in", "the", "handoff", ".", "Two", "situations", "were", "discussed", "in", "BLUEPAC", ".", "When", "the", "Access", "Point", "is", "the", "master", ",", "the", "mobile", "node", "joins", "the", "piconet", "as", "a", "slave", ".", "The", "Access", "Point", "can", "efficiently", "control", "the", "traffic", "to", "the", "Internet", ".", "However", ",", "the", "disadvantage", "is", "that", "the", "Access", "Point", "must", "periodically", "enter", "the", "inquiry", "stage", "to", "find", "the", "newly", "arrived", "mobile", "node", ".", "This", "will", "interrupt", "the", "Access", "Point", "transfer", "a", "packet", "to", "the", "Internet", ".", "In", "a", "situation", "in", "which", "the", "BT", "is", "the", "master", ",", "the", "Access", "Point", "involves", "itself", "in", "multiple", "piconets", ".", "The", "BT", "can", "actively", "inquire", "the", "Access", "Point", "when", "it", "wants", "to", "connect", "to", "the", "Access", "Point", ".", "However", ",", "the", "traffic", "control", "becomes", "difficult", "and", "complex", "when", "the", "Access", "Point", "must", "switch", "between", "various", "piconets", ".", "The", "scheduler", "is", "still", "not", "supported", "for", "seamless", "handoffs", "in", "real", "time", "applications", ".", "To", "solve", "this", "problem", ",", "reference", "-LSB-", "15", "-RSB-", "proposes", "the", "Next", "Hop", "Handoff", "Protocol", "-LRB-", "NHHP", "-RRB-", "to", "support", "fast", "handoffs", ".", "The", "major", "focus", "is", "on", "reducing", "the", "connection", "time", "in", "the", "strategy", ".", "A", "scheme", "that", "passes", "the", "inquiry", "information", "to", "the", "next", "Access", "Point", "was", "used", "to", "avoid", "wasting", "time", "in", "the", "inquiry", "stage", ".", "The", "disadvantage", "is", "that", "the", "Access", "Points", "are", "divided", "into", "two", "categories", ":", "Entry", "Points", "QUALITY-OF-SERVICE", "IN", "IP", "SERVICES", "703", "which", "constantly", "make", "inquiries", "to", "the", "new", "BT", "and", "pass", "information", "to", "the", "Access", "Points", "in", "the", "internal", "regions", "have", "the", "responsibility", "in", "the", "handoff", ".", "If", "a", "newly", "arrived", "BT", "is", "initiated", "in", "an", "internal", "region", ",", "the", "scheme", "does", "n't", "work", ".", "To", "resolve", "the", "above", "problem", ",", "a", "fast", "handoff", "scheme", "was", "proposed", ".", "This", "scheme", "assumes", "Bluetooth", "service", "environment", "is", "a", "micro-cellular", "network", "architecture", ".", "However", ",", "it", "also", "adapts", "Bluetooth", "as", "a", "macro-cellular", "network", ".", "Based", "on", "the", "fast", "handoff", "mission", ",", "the", "major", "focus", "is", "reducing", "the", "connection", "procedure", "that", "causes", "significant", "delay", ".", "We", "assumed", "the", "following", "conditions", ";", "the", "Access", "Point", "and", "mobile", "BT", "periodically", "scan", "for", "page", "attempts", "and", "inquiry", "requests", ".", "To", "obtain", "seamless", "and", "efficient", "handoff", "support", ",", "the", "Access", "Point", "RF", "range", "should", "cover", "the", "nearby", "Access", "Point", ".", "The", "neighborhood", "set", "records", "all", "Access", "Point", "locations", ".", "3.2.1", ".", "Connection", "procedure", "As", "depicted", "in", "figure", "7", ",", "when", "the", "mobile", "BT", "accesses", "the", "Internet", "it", "initiates", "an", "inquiry", "to", "the", "Access", "Point", "and", "makes", "a", "connection", ".", "The", "Access", "Point", "passes", "the", "BT", "addresses", "and", "clock", "information", "to", "the", "nearest", "Access", "Point", "according", "to", "the", "neighborhood", "set", ".", "The", "nearest", "Access", "Point", "uses", "this", "information", "to", "page", "the", "BT", "and", "form", "the", "piconets", ".", "These", "piconets", "form", "the", "scatternet", "and", "the", "BT", "becomes", "the", "inter-piconet", "node", "between", "them", ".", "The", "BT", "depends", "on", "the", "received", "signal", "strength", "indicator", "-LRB-", "RSSI", "-RRB-", "to", "determine", "which", "Access", "Point", "to", "use", "to", "access", "the", "Internet", ".", "The", "BT", "is", "a", "dedicated", "Access", "Point", "only", "in", "the", "connection", "state", ".", "The", "remaining", "piconets", "are", "all", "in", "the", "Hold", "state", ".", "3.2.2", ".", "Handoff", "The", "BT", "periodically", "monitors", "the", "RSSI", "and", "bit", "error", "rate", ".", "When", "the", "RSSI", "decreases", "to", "the", "lower", "threshold", "a", "handoff", "may", "take", "place", ".", "To", "know", "where", "the", "mobile", "BT", "moves", ",", "the", "BT", "detects", "which", "RSSI", "becomes", "stronger", ".", "It", "then", "informs", "the", "Access", "Points", "and", "Foreign", "Agent", "that", "a", "handoff", "is", "imminent", "-LRB-", "figure", "8", "-LRB-", "A", "-RRB-", "-RRB-", ".", "The", "BT", "leaves", "the", "Hold", "state", "to", "the", "connection", "state", "in", "the", "piconet", "that", "contains", "the", "coming", "Access", "Point", "-LRB-", "AP0", "in", "figure", "8", "-LRB-", "B", "-RRB-", "-RRB-", ".", "The", "routing", "path", "also", "changes", "to", "a", "new", "path", ".", "Additional", "caches", "may", "be", "needed", "in", "the", "Access", "Point", "to", "avoid", "packet", "losses", ".", "The", "new", "nearest", "Access", "Point", "-LRB-", "APa", "in", "figure", "8", "-LRB-", "C", "-RRB-", "-RRB-", "in", "accordance", "with", "the", "neighbor", "set", "is", "notified", "that", "the", "mobile", "BT", "is", "within", "range", "to", "receive", "BT", "information", ".", "It", "begins", "to", "page", "the", "BT", "and", "enter", "the", "Hold", "state", "with", "the", "BT", ".", "The", "original", "connection", "state", "also", "turns", "into", "the", "Hold", "state", "in", "the", "piconet", "that", "contains", "the", "original", "access", "-LRB-", "AP1", "in", "figure", "8", "-LRB-", "D", "-RRB-", "-RRB-", ".", "When", "the", "BT", "does", "not", "seek", "access", "service", "from", "the", "Access", "Point", "it", "should", "inform", "the", "Access", "Point", "that", "it", "no", "longer", "wants", "a", "connection", ".", "A", "connection", "could", "break", "down", "without", "prior", "warning", ".", "In", "the", "Bluetooth", "specification", ",", "both", "the", "master", "and", "slave", "use", "the", "link", "supervision", "time", "to", "supervise", "the", "loss", ".", "The", "supervision", "timeout", "period", "is", "chosen", "so", "that", "the", "value", "is", "longer", "than", "the", "hold", "periods", ".", "For", "simplicity", "of", "discussion", "we", "assumed", "that", "the", "Bluetooth", "AP", "is", "the", "application", "sender", "and", "divided", "the", "architecture", "into", "two", "parts", ",", "wired", "parts", ":", "the", "correspondent", "node", "-LRB-", "CN", "-RRB-", "to", "the", "Bluetooth", "AP", "and", "wireless", "part", ":", "the", "Bluetooth", "AP", "to", "the", "mobile", "BT", "device", ".", "The", "wired", "part", "is", "the", "same", "as", "the", "current", "general", "mechanism", ".", "We", "will", "only", "discuss", "the", "mechanism", "that", "combines", "the", "wireless", "part", "and", "our", "handoff", "mechanism", "in", "the", "Bluetooth", "environment", ".", "After", "making", "a", "connection", "and", "switching", "roles", "as", "mentioned", "earlier", ",", "the", "Bluetooth", "AP", "becomes", "a", "master", ".", "As", "illustrated", "in", "figure", "9", ",", "the", "Bluetooth", "AP1", "sends", "an", "active", "PATH", "message", "to", "the", "BT", "in", "figure", "9", "-LRB-", "1", "-RRB-", ".", "After", "the", "BT", "receives", "the", "PATH", "message", ",", "if", "the", "BT", "needs", "RSVP", "Figure", "7", ".", "Connection", "procedures", ".", "704", "W.-C", ".", "CHAN", "ET", "AL.", ".", "Figure", "8", ".", "Handoff", "procedures", ".", "Figure", "9", ".", "RSVP", "messages", "for", "bluetooth", "resource", "reservation", ".", "support", ",", "it", "sends", "a", "resource", "reservation", "request", "with", "a", "RESV", "message", "to", "the", "AP1", "in", "figure", "9", "-LRB-", "2", "-RRB-", ".", "When", "the", "traffic", "specification", "contains", "a", "RSVP", "message", ",", "the", "traffic", "and", "QoS", "requirements", "for", "the", "QoS", "flow", "from", "the", "high", "layer", "sends", "a", "request", "to", "the", "Resource", "Requester", "-LRB-", "RR", "-RRB-", ".", "The", "Bluetooth", "low", "levels", "will", "thus", "coordinate", "with", "one", "another", ".", "Once", "the", "Bluetooth", "AP1", "accepts", "the", "request", ",", "the", "reservation", "along", "the", "flow", "between", "the", "AP1", "and", "BT", "is", "made", ".", "After", "this", "point", ",", "the", "Bluetooth", "AP1", "must", "have", "reservations", "in", "the", "neighboring", "APs", ".", "The", "resource", "reservation", "request", "is", "the", "same", "as", "an", "active", "reservation", ".", "The", "current", "AP1", "sends", "a", "Passive", "PATH", "message", "to", "the", "neighboring", "AP2", ".", "The", "AP2", "responds", "with", "a", "Passive", "RESV", "message", "and", "reserves", "the", "resources", "that", "the", "BT", "may", "need", ".", "Because", "Bluetooth", "can", "have", "only", "seven", "active", "slaves", "in", "a", "piconet", "at", "the", "same", "time", ",", "the", "resources", "must", "be", "used", "efficiently", ".", "One", "way", "is", "adding", "more", "Bluetooth", "devices", "in", "an", "AP", ".", "This", "can", "be", "easily", "achieved", "by", "modifying", "the", "application", "layer", ".", "As", "discussed", "before", ",", "to", "support", "seamless", "handoffs", ",", "information", "about", "the", "BT", "is", "sent", "to", "the", "AP2", "after", "the", "RSVP", "process", "is", "performed", ".", "The", "Hold", "state", "is", "maintained", "between", "the", "BT", "and", "AP2", ".", "However", ",", "if", "the", "BT", "does", "not", "need", "a", "QoS", "guarantee", ",", "Figure", "10", ".", "The", "protocol", "stack", "for", "Bluetooth-IP", "interworking", ".", "the", "QoS", "mechanism", "is", "not", "added", ".", "After", "supporting", "the", "end-to", "-", "end", "QoS", "using", "the", "RSVP", "protocol", ",", "the", "packet", "classification", "and", "scheduler", "can", "be", "used", "to", "control", "the", "traffic", ".", "3.3", ".", "Bluetooth-IP", "access", "system", "Th", "difference", "between", "existing", "Bluetooth", "piconets", "and", "IP", "LANs", "is", "the", "communication", "protocol", "stack", "illustrated", "in", "figure", "10", ".", "From", "figure", "10", ",", "these", "differences", "are", "shown", "in", "the", "lower", "OSI", "seven", "layers", ".", "The", "lower", "layers", "are", "responsible", "for", "connection", "and", "addressing", ".", "We", "therefore", "focused", "on", "the", "connection", "management", "and", "address", "resolution", "issues", "in", "our", "research", ".", "The", "access", "function", "allows", "connections", "to", "be", "established", "without", "requiring", "any", "particular", "knowledge", "or", "interaction", ".", "The", "Bluetooth-IP", "access", "system", "plays", "the", "role", "of", "bridg-ing/routing", "multimedia", "traffic", "between", "the", "various", "LANs", "and", "piconets", ".", "Their", "operational", "scenario", "is", "illustrated", "in", "figure", "11", ".", "When", "different", "piconet", "devices", "are", "connected", "directly", "to", "the", "access", "system", ",", "the", "access", "system", "function", "is", "referred", "to", "as", "a", "bridge", "-LRB-", "piconet", "Master", "and", "Slave", "role", "-RRB-", ".", "If", "a", "LAN", "host", "-LRB-", "piconet", "BT", "-RRB-", "communicates", "with", "a", "piconet", "BT", "-LRB-", "LAN", "host", "-RRB-", "through", "the", "access", "system", ",", "because", "of", "the", "different", "protocol", "stacks", "between", "the", "piconet", "and", "LAN", "networks", ",", "two", "issues", ",", "addressing", "and", "connection", "must", "be", "resolved", "in", "the", "design", ".", "QUALITY-OF-SERVICE", "IN", "IP", "SERVICES", "705", "Figure", "11", ".", "Bluetooth-IP", "interworking", "operational", "scenario", ".", "3.3.1", ".", "Address", "resolution", "To", "achieve", "the", "interconnection", "function", "in", "a", "Bluetooth-IP", "environment", ",", "the", "access", "system", "must", "refer", "to", "both", "the", "piconet", "and", "LAN", "networks", "as", "members", ".", "Thus", ",", "two", "different", "protocol", "stacks", "must", "be", "combined", "to", "form", "a", "new", "communication", "protocol", "stack", "suitable", "as", "a", "routing", "server", ".", "The", "combined", "protocol", "stack", "is", "shown", "in", "figure", "10", ".", "Using", "the", "protocol", "stack", "specifications", ",", "a", "scenario", "for", "addressing", "is", "identified", "as", "follows", ":", "Step", "1", ":", "Each", "LAN", "host", "assigns", "an", "IP", "address", ".", "Each", "host", "thus", "possesses", "two", "addresses", ";", "an", "IP", "address", "and", "a", "MAC", "address", ".", "Step", "2", ":", "Each", "piconet", "BT", "acquires", "two", "addresses", ",", "a", "BT", "address", "-LRB-", "BD_ADDR", "-RRB-", "and", "an", "IP", "address", ".", "Step", "3", ":", "A", "routing", "table", "must", "be", "built", "for", "interconnection", "in", "the", "access", "system", ".", "A", "lookup", "for", "destination", "addresses", "is", "needed", "to", "find", "the", "corresponding", "outbound", "BD_ADDR", "or", "MAC", "address", "to", "which", "the", "packet", "must", "be", "forwarded", ".", "3.3.2", ".", "Connection", "management", "Because", "the", "existing", "LAN", "is", "a", "packet", "switching", "service", "and", "BT", "connections", "are", "made", "on", "an", "ad", "hoc", "basis", ",", "interconnection", "is", "very", "difficult", ".", "To", "solve", "this", "problem", ",", "a", "mechanism", "based", "on", "IP", "services", "over", "Bluetooth", "was", "proposed", "in", "the", "Bluetooth", "specification", ".", "The", "system", "is", "as", "follows", ".", "Step", "1", ":", "Bluetooth", "adapters", "and", "an", "Ethernet", "card", "are", "embed-ded", "into", "a", "desktop", "computer", ".", "These", "adapters", "and", "card", "are", "referred", "to", "as", "network", "attachment", "units", "-LRB-", "wired", "or", "Figure", "12", ".", "The", "Bluetooth-IP", "access", "system", ".", "radio", "-RRB-", ".", "Each", "port", "in", "the", "interface", "is", "directly", "attached", "to", "different", "networks", "-LRB-", "see", "figure", "12", "-RRB-", ".", "Step", "2", ":", "The", "API", "of", "the", "Bluetooth", "adapter", "and", "the", "Ethernet", "packet", "driver", "are", "used", "to", "design", "an", "access", "system", ".", "The", "operational", "procedures", "for", "this", "system", "follow", "the", "scenario", "in", "figure", "11", ".", "The", "Bluehoc", "toolkit", "was", "used", "to", "simulate", "the", "various", "scenarios", "in", "the", "Bluetooth-IP", "service", "environment", ".", "As", "depicted", "in", "figure", "13", ",", "the", "data", "is", "dumped", "from", "the", "L2CA_DataWrite", "706", "W.-C", ".", "CHAN", "ET", "AL.", ".", "Figure", "13", ".", "L2CAP", "packet", "flow", ".", "and", "L2CA_DataRead", "into", "the", "connection", "state", ".", "The", "L2CA_DataWrite", "and", "L2CA_DataRead", "events", "are", "the", "upper-Layer", "to", "the", "L2CAP", "events", ".", "The", "L2CA_DataRead", "is", "the", "event", "that", "requests", "transfer", "for", "received", "data", "from", "the", "L2CAP", "entity", "to", "the", "upper", "layer", ".", "The", "L2CA_DataWrite", "is", "the", "event", "that", "requests", "data", "transfer", "from", "the", "upper", "layer", "to", "the", "L2CAP", "entity", "for", "transmission", "over", "an", "open", "channel", ".", "In", "the", "Bluehoc", "toolkit", "the", "connection", "procedures", "such", "as", "inquiry", "and", "paging", "are", "simulated", "according", "to", "the", "Bluetooth", "specifications", ".", "The", "master", "sends", "the", "QoS", "parameters", ",", "which", "depend", "on", "the", "application", ".", "QoS", "parameters", "are", "then", "passed", "to", "the", "Deficit", "Round", "Robin", "-LRB-", "DRR", "-RRB-", "based", "scheduler", "that", "determines", "if", "the", "connection", "can", "be", "accepted", "by", "the", "LMP", ".", "The", "DRR-based", "scheduler", "finds", "the", "appropriate", "ACL", "link", "baseband", "packet", "type", "-LRB-", "DM1", ",", "DM3", ",", "DM5", ",", "DH1", ",", "DH3", "and", "DH5", "-RRB-", "depending", "upon", "the", "application", "level", "MTU", "and", "loss", "sensitivity", ".", "The", "simulation", "applications", "include", "packetized", "voice", ",", "Telnet", "and", "FTP", ".", "4.2", ".", "Simulation", "results", "In", "figure", "14", "the", "average", "delay", "for", "various", "numbers", "of", "slaves", "using", "packetized", "voice", "in", "a", "piconet", "is", "shown", ".", "The", "voice", "application", "is", "real", "time", "and", "would", "be", "sensitive", "to", "a", "loss", "of", "several", "consecutive", "small", "packets", ".", "Figure", "15", "shows", "the", "average", "delay", "in", "the", "mixed", "traffic", "source", ".", "The", "short-packet", "delay", ",", "such", "as", "telnet", "applications", ",", "are", "significantly", "increased", "by", "the", "long-packet", "in", "the", "DRR-based", "scheduler", ".", "An", "efficient", "and", "simple", "scheme", "that", "does", "not", "add", "to", "the", "Bluetooth", "load", "is", "important", ".", "4.2.1", ".", "Queue", "length", "analysis", "The", "queue", "length", "analysis", "was", "based", "on", "the", "access", "system", "queue", "size", ".", "We", "observed", "the", "variations", "in", "queue", "length", "using", "specified", "traffic", "levels", ".", "In", "figure", "16", ",", "the", "queue", "length", "of", "the", "traffic", "from", "100", "M", "LAN", "to", "1", "M", "piconet", "increases", "very", "fast", ".", "It", "reaches", "50000", "packets", "within", "10", "s", ".", "The", "queue", "length", "for", "the", "traffic", "from", "10", "M", "LAN", "to", "1", "M", "piconet", "increases", "more", "smoothly", "and", "the", "queue", "length", "of", "the", "traffic", "from", "1", "M", "piconet", "to", "100", "M", "or", "10", "M", "LANs", "is", "almost", "zero", ".", "Figure", "14", ".", "Average", "delay", "with", "voice", "services", ".", "Figure", "15", ".", "Average", "delay", "in", "the", "mixed", "traffic", ".", "Figure", "16", ".", "Queue", "length", "analysis", ".", "4.2.2", ".", "Loss", "rate", "analysis", "In", "the", "loss", "rate", "analysis", "the", "queue", "length", "was", "changed", "to", "observe", "the", "variations", "in", "the", "loss", "rate", ".", "In", "figure", "17", ",", "when", "the", "queue", "length", "is", "smaller", "than", "1000", "packets", ",", "the", "loss", "rate", "is", "close", "to", "0.9", ".", "When", "the", "queue", "length", "increases", "to", "5000", "packets", ",", "the", "loss", "rate", "decreases", "to", "0.8", ".", "Therefore", ",", "increasing", "the", "queue", "length", "will", "decrease", "the", "traffic", "loss", "rate", ".", "The", "loss", "rate", "from", "100M", "LAN", "to", "1", "M", "piconet", "is", "a", "little", "more", "than", "that", "for", "10", "M", "LAN", "to", "1", "M", "piconet", "because", "of", "the", "difference", "in", "the", "LAN", "transport", "speed", ".", "QUALITY-OF-SERVICE", "IN", "IP", "SERVICES", "707", "Figure", "17", ".", "Loss", "rate", "analysis", ".", "Figure", "18", ".", "Throughput", "analysis", ".", "4.2.3", ".", "Throughput", "analysis", "From", "figure", "18", ",", "increasing", "the", "queue", "length", "has", "no", "effect", "on", "improving", "the", "throughput", ".", "The", "throughput", "is", "smooth", "in", "both", "the", "LAN", "to", "piconet", "and", "piconet", "to", "LAN", "traffic", ".", "4.2.4", ".", "Delay", "analysis", "From", "figure", "19", ",", "when", "the", "queue", "length", "is", "500", "packets", ",", "the", "delay", "is", "about", "0.0005", "seconds", "per", "bit", ".", "If", "the", "queue", "length", "increases", "to", "1000", "packets", ",", "the", "delay", "becomes", "almost", "double", ".", "When", "the", "queue", "length", "reaches", "5000", "packets", ",", "the", "delay", "is", "close", "to", "0.003", "seconds", "per", "bit", ".", "The", "transfer", "delay", "has", "no", "obvious", "change", "when", "the", "queue", "length", "increases", "to", "10000", "packets", ".", "In", "a", "wireless", "environment", "the", "QoS", "guarantee", "provision", "becomes", "more", "important", ".", "The", "frequent", "mobility", "of", "a", "host", "increases", "the", "service", "disruption", "in", "real-time", "applications", ".", "Even", "though", "efficient", "RSVP", "enhances", "the", "resource", "reservation", "ability", "and", "allows", "for", "requesting", "a", "specific", "QoS", "from", "the", "network", ",", "these", "mechanisms", "do", "not", "have", "enough", "QoS", "guarantee", "to", "prevent", "service", "disruption", "during", "handoff", ".", "In", "this", "paper", "a", "cascading", "mechanism", "for", "QoS", "guarantee", "in", "a", "Bluetooth-IP", "environment", "was", "proposed", ".", "A", "fast", "and", "efficient", "handoff", "scheme", "that", "supports", "BT", "roaming", "handoffs", "between", "different", "Access", "Points", "was", "proposed", ".", "Concepts", "for", "the", "mobile", "RSVP", "issues", "in", "Bluetooth", "networks", "were", "presented", "with", "our", "fast", "handoff", "mechanism", ".", "The", "Bluetooth-IP", "access", "system", "can", "be", "implemented", "using", "available", "technology", "such", "as", "Network", "Addressing", "Translation", "-LRB-", "NAT", "-RRB-", "and", "Linux", "Bluetooth", "Stack", "to", "connect", "Bluetooth", "piconets", "and", "LAN", ".", "In", "our", "simulations", "Bluetooth", "required", "a", "long", "time", "to", "process", "the", "inquiry", "and", "paging", "procedures", ".", "These", "results", "show", "that", "the", "connection", "time", "is", "up", "to", "11.84", "sec", "when", "seven", "slaves", "join", "a", "piconet", "at", "the", "same", "time", ".", "Moreover", ",", "the", "access", "system", "queue", "length", "increases", "by", "about", "10000", "packets", "per", "second", "in", "a", "100", "Mbps", "LAN", "and", "about", "1000", "packets", "per", "second", "in", "a", "10", "Mbps", "LAN", "when", "the", "traffic", "load", "is", "80", "%", ".", "In", "the", "loss", "rate", "analysis", ",", "the", "loss", "rate", "was", "close", "to", "90", "%", "when", "the", "queue", "length", "was", "less", "than", "1000", "packets", ".", "However", ",", "when", "the", "queue", "length", "increased", "to", "10000", "packets", "the", "708", "W.-C", ".", "CHAN", "ET", "AL.", ".", "Figure", "19", ".", "Delay", "analysis", ".", "loss", "rate", "decreased", "to", "70", "%", ".", "In", "the", "delay", "analysis", ",", "the", "delay", "was", "about", "0.000045", "seconds", "per", "bit", "when", "the", "queue", "length", "was", "500", "packets", ".", "The", "delay", "doubles", "when", "the", "queue", "length", "doubles", ".", "However", ",", "when", "the", "queue", "length", "is", "more", "than", "5000", "packets", "the", "delay", "has", "no", "obvious", "variance", ".", "This", "paper", "is", "a", "partial", "result", "of", "project", "no", ".", "NSC-90-2218-E-259", "-006", "conducted", "by", "National", "Dong", "Hwa", "University", "under", "the", "sponsorship", "of", "National", "Science", "Council", ",", "ROC", ".", "-LSB-", "1", "-RSB-", "M.", "Albrecht", ",", "M.", "Frank", ",", "P.", "Martini", ",", "M.", "Schetelig", ",", "A.", "Vilavaara", "and", "A.", "Wenzel", ",", "IP", "service", "over", "bluetooth", ":", "Leading", "the", "way", "to", "a", "new", "mobility", ",", "in", ":", "Proceedings", "of", "the", "International", "Conference", "on", "Local", "Computer", "Networks", "-LRB-", "1999", "-RRB-", "pp.", "143", "154", ".", "-LSB-", "2", "-RSB-", "S.", "Baatz", ",", "M.", "Frank", ",", "R.", "Gopffarth", ",", "D.", "Kassatkine", ",", "P.", "Martini", ",", "M.", "Schetelig", "and", "A.", "Vilavaara", ",", "Handoff", "support", "for", "mobility", "with", "IP", "over", "bluetooth", ",", "in", ":", "Proceedings", "of", "the", "25th", "Annual", "IEEE", "Conference", "on", "Local", "Computer", "Networks", ",", "USA", "-LRB-", "2000", "-RRB-", "pp.", "143", "154", ".", "-LSB-", "3", "-RSB-", "J.L.", "Chen", "and", "K.C.", "Yen", ",", "Transparent", "bridging", "support", "for", "bluetooth-IP", "service", "interworking", ",", "International", "Journal", "of", "Network", "Management", "12", "-LRB-", "2002", "-RRB-", "379", "386", ".", "-LSB-", "4", "-RSB-", "J.L.", "Chen", ",", "A.P.", "Shu", ",", "H.W.", "Tzeng", "and", "P.T.", "Lin", ",", "Fair", "scheduling", "for", "guaranteed", "services", "on", "personal", "area", "networks", ",", "in", ":", "Proceedings", "of", "2002", "International", "Conference", "on", "Communications", ",", "Circuits", "and", "Systems", ",", "China", "-LRB-", "2002", "-RRB-", "pp.", "440", "444", ".", "-LSB-", "5", "-RSB-", "L.", "Ching", "and", "K.Y.", "Siu", ",", "A", "bluetooth", "scatternet", "formation", "algorithm", ",", "in", ":", "Proceedings", "of", "IEEE", "Global", "Telecommunications", "Conference", ",", "Vol", ".", "5", "-LRB-", "2001", "-RRB-", "pp.", "2864", "2869", ".", "-LSB-", "6", "-RSB-", "A.", "Das", ",", "A.", "Ghose", ",", "A.", "Razdan", ",", "H.", "Saran", "and", "R.", "Shorey", ",", "Enhancing", "performance", "of", "asynchronous", "data", "traffic", "over", "the", "bluetooth", "wireless", "ad-hoc", "network", ",", "in", ":", "Proceedings", "of", "the", "IEEE", "INFOCOM", "-LRB-", "2001", "-RRB-", "pp.", "591", "600", ".", "-LSB-", "7", "-RSB-", "D.", "Famolari", "and", "P.", "Agrawal", ",", "Architecture", "and", "performance", "of", "an", "em-bedded", "IP", "bluetooth", "personal", "area", "network", ",", "in", ":", "Proceedings", "of", "the", "International", "Conference", "on", "Personal", "Wireless", "Communications", ",", "India", "-LRB-", "2000", "-RRB-", "pp.", "75", "79", ".", "-LSB-", "8", "-RSB-", "M.", "Frank", ",", "R.", "Goepffarth", ",", "W.", "Hansmann", "and", "U.", "Mueller", ",", "Transmission", "of", "native", "IPv6", "over", "bluetooth", ",", "http://www.ispras.ru/~ipv6/", "docs/draft-hansmann-6overbt-00.txt", "-LSB-", "9", "-RSB-", "C.", "Haartsen", "and", "S.", "Mattisson", ",", "Bluetooth", "a", "new", "low-power", "radio", "interface", "providing", "short-range", "connectivity", ",", "Proceedings", "of", "the", "IEEE", "88", "-LRB-", "10", "-RRB-", "-LRB-", "2000", "-RRB-", "1651", "1661", ".", "-LSB-", "10", "-RSB-", "G.", "Ivano", ",", "D.", "Paolo", "and", "F.", "Paolo", ",", "The", "role", "of", "Internet", "technology", "in", "future", "mobile", "data", "systems", ",", "IEEE", "Communications", "Magazine", "38", "-LRB-", "11", "-RRB-", "-LRB-", "2000", "-RRB-", "68", "73", ".", "-LSB-", "11", "-RSB-", "P.", "Johansson", ",", "R.", "Kapoor", ",", "M.", "Kazantzidis", "and", "M.", "Gerla", ",", "Rendezvous", "scheduling", "in", "bluetooth", "scatternets", ",", "in", ":", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Communications", ",", "Vol", ".", "1", "-LRB-", "2002", "-RRB-", "pp.", "318", "324", ".", "-LSB-", "12", "-RSB-", "D.J.Y.", "Lee", "and", "W.C.Y.", "Lee", ",", "Ricocheting", "bluetooth", ",", "in", ":", "Proceedings", "of", "the", "2nd", "International", "Conference", "on", "Microwave", "and", "Millimeter", "Wave", "Technology", "-LRB-", "2000", "-RRB-", "pp.", "432", "435", ".", "-LSB-", "13", "-RSB-", "D.G.", "Leeper", ",", "A", "long-term", "view", "of", "short-range", "wireless", ",", "IEEE", "Computer", "34", "-LRB-", "6", "-RRB-", "-LRB-", "2001", "-RRB-", "39", "44", ".", "-LSB-", "14", "-RSB-", "Y.B.", "Lin", "and", "I.", "Chlamtac", ",", "Wireless", "and", "Mobile", "Network", "Architectures", "-LRB-", "Wiley", ",", "2000", "-RRB-", ".", "-LSB-", "15", "-RSB-", "I.", "Mahadevan", "and", "K.M.", "Sivalingam", ",", "An", "architecture", "and", "experimental", "results", "for", "quality", "if", "service", "in", "mobile", "networks", "using", "RSVP", "and", "CBQ", ",", "ACM/Baltzer", "Wireless", "Networks", "Journal", "6", "-LRB-", "3", "-RRB-", "-LRB-", "2000", "-RRB-", "221", "234", ".", "-LSB-", "16", "-RSB-", "B.", "Raman", ",", "P.", "Bhagwat", "and", "S.", "Seshan", ",", "Arguments", "for", "cross-layer", "opti-mizations", "in", "Bluetooth", "scatternets", ",", "in", ":", "Proceedings", "of", "2001", "Symposium", "on", "Applications", "and", "the", "Internet", "-LRB-", "2001", "-RRB-", "pp.", "176", "184", ".", "-LSB-", "17", "-RSB-", "T.S.", "Rappaport", ",", "Wireless", "Communications", "Principles", "and", "Practice", ",", "2nd", "ed", ".", "-LRB-", "2002", "-RRB-", ".", "-LSB-", "18", "-RSB-", "T.", "Salonidis", ",", "P.", "Bhagwat", ",", "L.", "Tassiulas", "and", "R.", "LaMaire", ",", "Distributed", "topology", "construction", "of", "bluetooth", "personal", "area", "networks", ",", "in", ":", "Proceedings", "of", "the", "IEEE", "INFOCOM", "-LRB-", "2001", "-RRB-", "pp.", "1577", "1586", ".", "-LSB-", "19", "-RSB-", "The", "Bluetooth", "Special", "Interest", "Group", ",", "Bluetooth", "Network", "Encapsulation", "Protocol", "Specification", "-LRB-", "2001", "-RRB-", ".", "-LSB-", "20", "-RSB-", "The", "Bluetooth", "Special", "Interest", "Group", ",", "Documentation", "available", "at", "http://www.bluetooth.com/techn/index.asp", "-LSB-", "21", "-RSB-", "The", "Bluetooth", "Special", "Interest", "Group", ",", "Quality", "of", "service", "in", "bluetooth", "networking", ",", "http://ing.ctit.utwente.nl/WU4/", "Documents/Bluetooth_QoS_ING_A_part_I.pdf", "-LSB-", "22", "-RSB-", "V.", "Zaruba", ",", "S.", "Basagni", "and", "I.", "Chlamtac", ",", "Bluetrees-scatternet", "formation", "to", "enable", "bluetooth-based", "ad", "hoc", "networks", ",", "in", ":", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Communications", ",", "Vol", ".", "1", "-LRB-", "2001", "-RRB-", "pp.", "273", "277", ".", "QUALITY-OF-SERVICE", "IN", "IP", "SERVICES", "709", "Wah-Chun", "Chan", "received", "the", "Ph.D.", "degree", "from", "University", "of", "British", "Columbia", "in", "1965", ".", "He", "is", "cur-rently", "a", "Visiting", "Professor", "in", "the", "Department", "of", "Computer", "Science", "at", "National", "Chiao", "Tung", "University", ".", "Dr.", "Chan", "'s", "research", "interest", "has", "been", "in", "the", "areas", "of", "queueing", "theory", "and", "telecommunication", "networks", ".", "Research", "on", "telecommunication", "networks", "has", "been", "in", "the", "development", "of", "models", "for", "the", "performance", "analysis", "of", "computer", "communication", "networks", ".", "Jiann-Liang", "Chen", "received", "the", "Ph.D.", "degree", "in", "electrical", "engineering", "from", "National", "Taiwan", "University", ",", "Taipei", ",", "Taiwan", "in", "1989", ".", "Since", "August", "1997", ",", "he", "has", "been", "with", "the", "Department", "of", "Computer", "Science", "and", "Information", "Engineering", "of", "National", "Dong", "Hwa", "University", ",", "where", "he", "is", "a", "Professor", "now", ".", "His", "current", "research", "interests", "are", "directed", "at", "cellular", "mobility", "management", "and", "personal", "communication", "systems"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["quality of service", "handoff", "resource allocation", "bnep protocol"], "abstractive_keyphrases": ["bluetooth-ip access system"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "143", "document": ["On", "the", "Complexity", "of", "Computing", "Peer", "Agreements", "for", "Consistent", "Query", "Answering", "in", "Peer-to-Peer", "Data", "Integration", "Systems", "Peer-to-Peer", "-LRB-", "P2P", "-RRB-", "data", "integration", "systems", "have", "recently", "attracted", "significant", "attention", "for", "their", "ability", "to", "manage", "and", "share", "data", "dispersed", "over", "different", "peer", "sources", ".", "While", "integrating", "data", "for", "answering", "user", "queries", ",", "it", "often", "happens", "that", "inconsistencies", "arise", ",", "because", "some", "integrity", "constraints", "specified", "on", "peers", "'", "global", "schemas", "may", "be", "violated", ".", "In", "these", "cases", ",", "we", "may", "give", "semantics", "to", "the", "inconsistent", "system", "by", "suitably", "``", "repairing", "''", "the", "retrieved", "data", ",", "as", "typically", "done", "in", "the", "context", "of", "traditional", "data", "integration", "systems", ".", "However", ",", "some", "specific", "features", "of", "P2P", "systems", ",", "such", "as", "peer", "autonomy", "and", "peer", "preferences", "-LRB-", "e.g.", ",", "different", "source", "trusting", "-RRB-", ",", "should", "be", "properly", "addressed", "to", "make", "the", "whole", "approach", "effective", ".", "In", "this", "paper", ",", "we", "face", "these", "issues", "that", "were", "only", "marginally", "considered", "in", "the", "literature", ".", "We", "first", "present", "a", "formal", "framework", "for", "reasoning", "about", "autonomous", "peers", "that", "exploit", "individual", "preference", "criteria", "in", "repairing", "the", "data", ".", "The", "idea", "is", "that", "queries", "should", "be", "answered", "over", "the", "best", "possible", "database", "repairs", "with", "respect", "to", "the", "preferences", "of", "all", "peers", ",", "i.e.", ",", "the", "states", "on", "which", "they", "are", "able", "to", "find", "an", "agreement", ".", "Then", ",", "we", "investigate", "the", "computational", "complexity", "of", "dealing", "with", "peer", "agreements", "and", "of", "answering", "queries", "in", "P2P", "data", "integration", "systems", ".", "It", "turns", "out", "that", "considering", "peer", "preferences", "makes", "these", "problems", "only", "mildly", "harder", "than", "in", "traditional", "data", "integration", "systems", ".", "H.", "2.4", "-LSB-", "Database", "Management", "-RSB-", ":", "systems", "--", "Relational", "databases", ";", "F.", "2.2", "-LSB-", "Analysis", "of", "Algorithms", "and", "Problem", "Complexity", "-RSB-", ":", "Nonnumerical", "Algorithms", "and", "Problems", "Theory", ",", "Management", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "05", ",", "October", "31", "November", "5", ",", "2005", ",", "Bremen", ",", "Germany", ".", "Copyright", "2005", "ACM", "1-59593-140-6", "/", "05/0010", "...", "$", "5.00", ".", "Peer-to-Peer", "-LRB-", "P2P", "-RRB-", "data", "integration", "systems", "are", "networks", "of", "autonomous", "peers", "that", "have", "recently", "emerged", "as", "an", "effective", "architecture", "for", "decentralized", "data", "sharing", ",", "integration", ",", "and", "querying", ".", "Indeed", ",", "P2P", "systems", "offer", "transparent", "access", "to", "the", "data", "stored", "at", "-LRB-", "the", "sources", "of", "-RRB-", "each", "peer", "p", ",", "by", "means", "of", "the", "global", "schema", "equipped", "with", "p", "for", "modeling", "its", "domain", "of", "interest", ";", "moreover", ",", "pair", "of", "peers", "with", "the", "same", "domain", "of", "interest", "one", "peer", "and", "the", "system", "is", "in", "charge", "of", "accessing", "each", "peer", "containing", "relevant", "data", "separately", ",", "and", "combining", "local", "results", "into", "a", "global", "answer", "by", "suitably", "exploiting", "the", "mapping", "rules", ".", "P2P", "systems", "can", "be", "considered", "the", "natural", "evolution", "of", "traditional", "data", "integration", "systems", ",", "which", "have", "received", "considerable", "attention", "in", "the", "last", "few", "years", ",", "and", "which", "have", "already", "become", "a", "key", "technology", "for", "managing", "enormous", "amounts", "of", "information", "dispersed", "over", "many", "data", "sources", ".", "In", "fact", ",", "P2P", "systems", "have", "attracted", "significant", "attention", "recently", ",", "both", "in", "the", "development", "of", "efficient", "distributed", "algorithms", "for", "the", "retrieval", "of", "relevant", "information", "and", "for", "answering", "user", "queries", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "9", ",", "21", ",", "12", ",", "13", "-RSB-", "-RRB-", ",", "and", "in", "the", "investigation", "of", "its", "theoretical", "underpinnings", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "16", ",", "3", ",", "20", ",", "11", ",", "9", ",", "5", "-RSB-", "-RRB-", ".", "In", "this", "paper", ",", "we", "continue", "along", "this", "latter", "line", "of", "research", ",", "by", "investigating", "some", "important", "theoretical", "issues", ".", "In", "particular", ",", "we", "consider", "an", "expressive", "framework", "where", "integrity", "constraints", "are", "specified", "on", "peer", "schemas", "in", "order", "to", "enhance", "their", "expressiveness", ",", "so", "that", "each", "peer", "can", "be", "in", "fact", "considered", "a", "completely", "specified", "data", "integration", "system", ".", "In", "this", "scenario", ",", "it", "may", "happen", "that", "data", "at", "different", "peers", "are", "mutually", "inconsistent", ",", "i.e.", ",", "some", "integrity", "constraints", "are", "violated", "after", "the", "integration", "is", "carried", "out", ";", "then", ",", "a", "``", "repair", "''", "for", "the", "P2P", "system", "has", "to", "be", "computed", "-LSB-", "5", ",", "17", "-RSB-", ".", "Roughly", "speaking", ",", "repairs", "may", "be", "viewed", "as", "insertions", "or", "deletions", "of", "tuples", "at", "the", "peers", "that", "are", "able", "to", "lead", "the", "system", "to", "a", "consistent", "state", ".", "Our", "aim", "is", "to", "deal", "with", "data", "integration", "in", "P2P", "systems", ",", "by", "extending", "some", "of", "the", "ideas", "described", "in", "previous", "studies", "on", "merging", "mutually", "inconsistent", "databases", "into", "a", "single", "consistent", "theory", "-LSB-", "2", ",", "14", "-RSB-", "and", "on", "repairing", "individual", "data", "integration", "systems", "-LSB-", "8", ",", "6", ",", "4", ",", "10", "-RSB-", ".", "36", "Indeed", ",", "in", "order", "to", "be", "effective", "in", "this", "framework", ",", "the", "repair", "approach", "should", "consider", "the", "peculiarities", "of", "P2P", "systems", "and", ",", "specifically", ",", "the", "following", "two", "issues", ":", "In", "practical", "applications", ",", "peers", "often", "have", "an", "a-priori", "knowledge", "about", "the", "reliability", "of", "the", "sources", "that", ",", "in", "turn", ",", "determines", "their", "criteria", "for", "computing", "repairs", ".", "That", "is", ",", "peers", "will", "rarely", "delete", "tuples", "coming", "from", "highly", "reliable", "sources", ",", "and", "will", "try", "to", "solve", "conflicts", "by", "updating", "the", "less", "reliable", "sources", "only", ".", "Peers", "are", "autonomous", "and", "not", "benevolent", ":", "they", "rarely", "disregard", "their", "individual", "preferences", "in", "order", "to", "find", "an", "agreement", "with", "other", "peers", "on", "the", "way", "the", "repair", "should", "be", "carried", "out", ".", "Therefore", ",", "the", "presence", "of", "possibly", "contrasting", "interests", "of", "selfish", "peers", "should", "be", "accounted", "for", ",", "when", "answering", "user", "queries", ".", "Despite", "the", "wide", "interest", "in", "this", "field", ",", "none", "of", "the", "approaches", "in", "the", "literature", "considered", "the", "issue", "of", "modeling", "the", "autonomy", "of", "the", "peers", "in", "providing", "a", "semantics", "for", "the", "system", ",", "and", "therefore", "they", "implicitly", "assume", "that", "all", "the", "peers", "act", "cooperatively", "in", "the", "network", ".", "Moreover", ",", "the", "possibility", "of", "modeling", "peer", "preferences", "has", "been", "rarely", "considered", "in", "previous", "studies", ",", "even", "though", "it", "has", "been", "widely", "recognized", "to", "be", "a", "central", "issue", "for", "the", "design", "of", "quality-aware", "integration", "systems", "-LRB-", "cf.", "-LSB-", "17", "-RSB-", "-RRB-", ".", "Indeed", ",", "the", "first", "and", "almost", "isolated", "attempt", "is", "in", "-LSB-", "5", "-RSB-", ",", "where", "the", "authors", "considered", "trust", "relationships", "among", "peers", "in", "a", "simplified", "setting", "in", "which", "the", "system", "does", "not", "transitively", "propagate", "information", "through", "peers", ".", "Actually", ",", "an", "extension", "to", "the", "case", "of", "transitive", "propagations", "is", "also", "argued", ",", "but", "peers", "autonomy", "is", "not", "considered", ",", "and", "query", "answering", "is", "undecidable", "in", "presence", "of", "loops", ".", "In", "this", "paper", ",", "we", "face", "the", "above", "issues", "by", "introducing", "a", "formal", "framework", "for", "reasoning", "about", "autonomous", "peers", "that", "exploit", "individual", "preference", "criteria", "in", "repairing", "data", ".", "In", "summary", ",", "our", "contributions", "are", "the", "following", ":", "We", "preliminary", "introduce", "a", "framework", "for", "P2P", "data", "integration", "systems", ",", "where", "each", "peer", "is", "equipped", "with", "integrity", "constraints", "on", "its", "global", "schema", ".", "The", "model", "is", "simple", "yet", "very", "expressive", ",", "since", "each", "peer", "is", "assumed", "to", "be", "in", "turn", "a", "data", "integration", "system", ".", "The", "semantics", "of", "a", "P2P", "system", "is", "defined", "in", "terms", "of", "suitable", "databases", "for", "the", "peers", ",", "called", "models", ".", "We", "show", "that", "checking", "whether", "a", "system", "has", "a", "model", "can", "be", "done", "efficiently", ".", "We", "propose", "an", "approach", "to", "the", "repair", "of", "inconsistent", "P2P", "systems", "that", "focuses", "on", "data", "stored", "at", "the", "sources", ",", "rather", "than", "on", "the", "global", "schema", "-LRB-", "following", "the", "approach", "described", "by", "-LSB-", "15", "-RSB-", "for", "the", "standard", "data", "integration", "setting", "-RRB-", ".", "This", "is", "particularly", "suited", "for", "dealing", "with", "peers", ",", "as", "their", "preferences", "are", "typically", "expressed", "over", "the", "sources", ".", "Indeed", ",", "if", "repairs", "were", "considered", "on", "the", "global", "schema", ",", "suitable", "reformulations", "and", "translation", "of", "the", "preferences", "would", "be", "required", ".", "We", "investigate", "the", "effect", "of", "considering", "individual", "preferences", "on", "the", "semantics", "of", "P2P", "database", "integration", "systems", ".", "The", "idea", "is", "that", "queries", "should", "be", "answered", "over", "the", "best", "possible", "database", "repairs", "with", "respect", "to", "the", "preferences", "of", "all", "peers", ",", "i.e.", ",", "over", "the", "states", "on", "which", "they", "are", "able", "to", "find", "an", "agreement", ".", "Unfortu-nately", ",", "but", "not", "surprisingly", ",", "it", "turns", "out", "that", "considering", "autonomous", "peers", "gives", "rise", "to", "scenarios", "where", "they", "are", "not", "able", "to", "find", "any", "agreement", "on", "the", "way", "the", "integration", "should", "be", "done", ".", "The", "above", "result", "motivates", "the", "subsequent", "study", "of", "the", "complexity", "of", "dealing", "with", "peer", "agreements", "and", "of", "answering", "queries", "in", "such", "P2P", "data", "integration", "systems", ".", "We", "show", "that", "checking", "whether", "a", "given", "database", "is", "an", "agreed", "repair", "is", "a", "difficult", "task", ",", "since", "it", "is", "complete", "for", "the", "class", "co-NP", ".", "Moreover", ",", "the", "complexity", "of", "computing", "an", "agreement", "turns", "out", "to", "be", "complete", "for", "the", "functional", "class", "FPNP", ".", "Finally", ",", "we", "study", "the", "complexity", "of", "computing", "consistent", "answers", "and", "show", "that", "this", "problem", "is", "P", "2", "-", "complete", ".", "It", "follows", "that", "our", "approach", "for", "handling", "preferences", "in", "P2P", "systems", "is", "just", "mildly", "harder", "than", "the", "basic", "data", "integration", "framework", ",", "where", "in", "fact", "query", "answering", "lies", "at", "the", "first", "level", "of", "the", "polynomial", "hierarchy", "-LSB-", "8", "-RSB-", ",", "as", "well", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "briefly", "present", "some", "preliminaries", "on", "relational", "databases", ".", "In", "Section", "3", ",", "we", "introduce", "a", "simple", "formalization", "of", "P2P", "data", "integration", "systems", "and", "in", "the", "subsequent", "section", "we", "enrich", "it", "to", "take", "care", "of", "peers", "'", "preferences", ".", "The", "computational", "complexity", "of", "the", "concept", "of", "agreement", "in", "query", "answering", "is", "studied", "in", "Section", "5", ".", "Finally", ",", "in", "Section", "6", "we", "draw", "our", "conclusions", ".", "We", "recall", "the", "basic", "notions", "of", "the", "relational", "model", "with", "integrity", "constraints", ".", "For", "further", "background", "on", "relational", "database", "theory", ",", "we", "refer", "the", "reader", "to", "-LSB-", "1", "-RSB-", ".", "We", "assume", "a", "-LRB-", "possibly", "infinite", "-RRB-", "fixed", "database", "domain", "whose", "elements", "can", "be", "referenced", "by", "constants", "c", "1", ",", "...", ",", "c", "n", "under", "the", "unique", "name", "assumption", ",", "i.e.", "different", "constants", "denote", "different", "objects", ".", "These", "elements", "are", "assumed", "to", "be", "shared", "by", "all", "the", "peers", "and", "are", ",", "in", "fact", ",", "the", "constants", "that", "can", "appear", "in", "the", "P2P", "system", ".", "A", "relational", "schema", "-LRB-", "or", "simply", "schema", "-RRB-", "RS", "is", "a", "pair", ",", ",", "where", ":", "is", "a", "set", "of", "relation", "symbols", ",", "each", "with", "an", "associated", "arity", "that", "indicates", "the", "number", "of", "its", "attributes", ",", "and", "is", "a", "set", "of", "integrity", "constraints", ",", "i.e.", ",", "-LRB-", "first-order", "-RRB-", "assertions", "that", "have", "to", "be", "satisfied", "by", "each", "database", "instance", ".", "We", "deal", "with", "quantified", "constraints", ",", "i.e.", ",", "first", "order", "formulas", "of", "the", "form", ":", "~", "x.", "l", "i", "=", "1", "A", "i", "~", "y.", "m", "j", "=", "1", "B", "j", "n", "k", "=", "1", "k", ",", "-LRB-", "1", "-RRB-", "where", "l", "+", "m", ">", "0", ",", "n", "0", ",", "A", "1", ",", "...", "A", "l", "and", "B", "1", ",", "...", "B", "m", "are", "positive", "literals", ",", "1", ",", "...", "n", "are", "built-in", "literals", ",", "and", "~", "x", "and", "~", "y", "are", "lists", "of", "distinct", "variables", ".", "Actually", ",", "to", "keep", "things", "simple", ",", "we", "shall", "assume", "throughout", "the", "paper", "that", "~", "y", "is", "empty", ",", "thereby", "dealing", "with", "universally", "quantified", "constraints", ".", "We", "recall", "here", "that", "this", "kind", "of", "constraint", "covers", "most", "of", "the", "classical", "constraints", "issued", "on", "a", "relational", "schema", ",", "such", "as", "keys", ",", "functional", "dependencies", ",", "and", "exclusion", "dependencies", ".", "A", "brief", "discussion", "on", "how", "to", "generalize", "the", "results", "in", "the", "paper", "to", "other", "classes", "of", "constraints", "is", "reported", "in", "Section", "6", ".", "A", "database", "instance", "-LRB-", "or", "simply", "database", "-RRB-", "DB", "for", "a", "schema", "RS", "=", ",", "is", "a", "set", "of", "facts", "of", "the", "form", "r", "-LRB-", "t", "-RRB-", "where", "r", "is", "a", "relation", "of", "arity", "n", "in", "and", "t", "is", "an", "n-tuple", "of", "constants", "from", ".", "We", "denote", "as", "r", "DB", "the", "set", "-LCB-", "t", "|", "r", "-LRB-", "t", "-RRB-", "DB", "-RCB-", ".", "A", "database", "DB", "for", "a", "schema", "RS", "is", "said", "to", "be", "consistent", "with", "RS", "if", "it", "satisfies", "-LRB-", "in", "the", "first", "order", "logic", "sense", "-RRB-", "all", "constraints", "expressed", "on", "RS.", "37", "Figure", "1", ":", "The", "P2P", "system", "P", "r", "in", "Example", "1", ".", "A", "relational", "query", "-LRB-", "or", "simply", "query", "-RRB-", "over", "RS", "is", "a", "formula", "that", "is", "intended", "to", "extract", "tuples", "of", "elements", "from", "the", "underlying", "domain", "of", "constants", ".", "We", "assume", "that", "queries", "over", "RS", "=", ",", "are", "Unions", "of", "Conjunctive", "Queries", "-LRB-", "UCQs", "-RRB-", ",", "i.e.", ",", "formulas", "of", "the", "form", "-LCB-", "~", "x", "|", "~", "y", "1", ".", "conj", "1", "-LRB-", "~", "x", ",", "~", "y", "1", "-RRB-", "~", "y", "m", ".", "conj", "m", "-LRB-", "~", "x", ",", "~", "y", "m", "-RRB-", "-RCB-", "where", ",", "for", "each", "i", "-LCB-", "1", ",", "...", ",", "m", "-RCB-", ",", "conj", "i", "-LRB-", "~", "x", ",", "~", "y", "i", "-RRB-", "is", "a", "conjunction", "of", "atoms", "whose", "predicate", "symbols", "are", "in", ",", "and", "involve", "~", "x", "=", "X", "1", ",", "...", ",", "X", "n", "and", "~", "y", "i", "=", "Y", "i", ",1", ",", "...", ",", "Y", "i", ",", "n", "i", ",", "where", "n", "is", "the", "arity", "of", "the", "query", ",", "and", "each", "X", "k", "and", "each", "Y", "i", ",", "is", "either", "a", "variable", "or", "a", "constant", "in", ".", "Given", "a", "database", "DB", "for", "RS", ",", "the", "answer", "to", "a", "UCQ", "Q", "over", "DB", ",", "denoted", "Q", "DB", ",", "is", "the", "set", "of", "n-tuples", "of", "constants", "c", "1", ",", "...", ",", "c", "n", "such", "that", ",", "when", "substituting", "each", "X", "i", "with", "c", "i", ",", "the", "formula", "~", "y", "1", ".", "conj", "1", "-LRB-", "~", "x", ",", "~", "y", "1", "-RRB-", "~", "y", "m", ".", "conj", "m", "-LRB-", "~", "x", ",", "~", "y", "m", "-RRB-", "evaluates", "to", "true", "on", "DB", ".", "In", "this", "section", ",", "we", "introduce", "a", "simple", "framework", "for", "dealing", "with", "P2P", "systems", ".", "The", "model", "is", "not", "meant", "to", "be", "a", "novel", "comprehensive", "formalization", ",", "since", "our", "aim", "here", "is", "to", "face", "the", "problem", "of", "finding", "agreement", "among", "peers", "rather", "than", "to", "investigate", "new", "syntactic", "modeling", "features", ".", "Therefore", ",", "our", "approach", "takes", "basically", "the", "same", "perspective", "as", "-LSB-", "9", ",", "11", ",", "5", ",", "17", "-RSB-", ".", "3.1", "Basic", "Framework", "A", "P2P", "system", "P", "is", "a", "tuple", "P", ",", "I", ",", "N", ",", "map", ",", "where", "P", "is", "a", "non-empty", "set", "of", "distinct", "peers", "and", "I", ",", "N", "and", "map", "are", "functions", "whose", "meaning", "will", "be", "explained", "below", ".", "First", ",", "each", "peer", "p", "P", "is", "equipped", "with", "its", "own", "data", "integration", "system", "I", "-LRB-", "p", "-RRB-", ",", "which", "is", "formalized", "as", "a", "triple", "G", "p", ",", "S", "p", ",", "M", "p", ".", "Basically", ",", "S", "p", "is", "meant", "to", "denote", "the", "set", "of", "sources", "to", "which", "p", "is", "allowed", "to", "access", "and", "is", "in", "fact", "modeled", "as", "a", "relational", "schema", "of", "the", "form", "S", "p", "=", "p", ",", ",", "i.e.", ",", "there", "are", "no", "integrity", "constraints", "on", "the", "sources", ".", "The", "structure", "of", "the", "global", "schema", "is", ",", "instead", ",", "represented", "by", "means", "of", "the", "schema", "G", "p", "=", "p", ",", "p", ",", "whereas", "the", "relationships", "between", "the", "sources", "and", "the", "global", "schema", "are", "specified", "by", "M", "p", ",", "which", "is", "a", "set", "of", "local", "mapping", "assertions", "between", "G", "p", "and", "S", "p", ".", "We", "assume", "that", "each", "assertion", "is", "of", "the", "form", "Q", "S", "p", "Q", "G", "p", ",", "where", "Q", "S", "p", "and", "Q", "G", "p", "are", "two", "conjunctive", "queries", "of", "the", "same", "arity", "over", "the", "source", "schema", "S", "p", "and", "the", "peer", "schema", "G", "p", ",", "respectively", ".", "Example", "1", "Let", "us", "introduce", "three", "peers", ",", "namely", "p", "1", ",", "p", "2", ",", "and", "p", "3", ",", "that", "constitute", "the", "P2P", "scenario", "that", "will", "be", "used", "as", "a", "running", "example", "throughout", "this", "paper", "to", "illustrate", "technical", "definitions", ".", "The", "global", "schema", "G", "p", "1", "of", "peer", "p", "1", "consists", "of", "the", "relation", "predicate", "secretary", "-LRB-", "Employee", ",", "Manager", "-RRB-", "-LRB-", "without", "constraints", "-RRB-", ",", "the", "source", "schema", "S", "p", "1", "consists", "of", "the", "relation", "symbol", "s", "1", ",", "and", "the", "set", "M", "p", "1", "of", "the", "local", "mapping", "assertions", "is", "-LCB-", "X", ",", "Y", "|", "s", "1", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", "-LCB-", "X", ",", "Y", "|", "secretary", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", ".", "As", "for", "peer", "p", "2", ",", "the", "schema", "G", "p", "2", "consists", "of", "the", "relation", "financial", "-LRB-", "Employee", ",", "Manager", "-RRB-", "-LRB-", "without", "constraints", "-RRB-", ",", "the", "source", "schema", "consists", "of", "the", "relation", "symbol", "s", "2", ",", "and", "M", "p", "2", "=", "-LCB-", "X", ",", "Y", "|", "s", "2", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", "-LCB-", "X", ",", "Y", "|", "financial", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", ".", "The", "schema", "G", "p", "3", "of", "peer", "p", "3", "consists", "of", "the", "relations", "employee", "-LRB-", "Name", ",", "Dept", "-RRB-", "and", "boss", "-LRB-", "Employee", ",", "Manager", "-RRB-", ",", "whose", "set", "of", "constraints", "contains", "the", "assertions", "-LRB-", "quantifiers", "are", "omitted", "-RRB-", "employee", "-LRB-", "X", ",", "Y", "-RRB-", "boss", "-LRB-", "X", "1", ",", "Y", "1", "-RRB-", "X", "=", "Y", "1", "and", "boss", "-LRB-", "X", ",", "Y", "-RRB-", "boss", "-LRB-", "X", "1", ",", "Y", "1", "-RRB-", "Y", "1", "=", "X", ",", "stating", "that", "managers", "are", "never", "employees", ";", "the", "source", "schema", "S", "p", "3", "comprises", "the", "relation", "symbols", "s", "3", ";", "and", ",", "the", "set", "of", "the", "local", "mapping", "assertions", "is", "-LCB-", "X", ",", "Y", "|", "s", "3", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", "-LCB-", "X", ",", "Y", "|", "employee", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", ".", "P", "Each", "peer", "p", "P", "in", "a", "P2P", "system", "P", "=", "P", ",", "I", ",", "N", ",", "map", "is", "also", "equipped", "with", "the", "neighborhood", "function", "N", "providing", "a", "set", "of", "peers", "N", "-LRB-", "p", "-RRB-", "P", "-", "-LCB-", "p", "-RCB-", "containing", "the", "peers", "-LRB-", "called", "neighbors", "-RRB-", "who", "potentially", "have", "some", "information", "of", "interest", "to", "p.", "Intuitively", ",", "the", "neighborhood", "relation", "determines", "the", "structure", "of", "a", "P2P", "system", "P", ".", "Such", "a", "structure", "is", "better", "described", "by", "the", "dependency", "graph", "G", "-LRB-", "P", "-RRB-", "of", "P", ",", "i.e.", ",", "by", "a", "directed", "graph", "having", "P", "as", "its", "set", "of", "vertices", "and", "-LCB-", "-LRB-", "p", ",", "q", "-RRB-", "|", "q", "P", "p", "N", "-LRB-", "q", "-RRB-", "-RCB-", "as", "its", "set", "of", "edges", ".", "In", "particular", ",", "a", "peer", "q", "is", "in", "N", "-LRB-", "p", "-RRB-", "iff", "p", "is", "interested", "in", "the", "data", "exported", "by", "q", "by", "means", "of", "its", "global", "schema", ",", "i.e.", ",", "some", "of", "the", "global", "relations", "of", "p", "can", "be", "populated", "by", "means", "of", "the", "data", "coming", "from", "q", "besides", "the", "data", "coming", "from", "the", "sources", "of", "p", "itself", ".", "To", "this", "aim", ",", "map", "-LRB-", "p", "-RRB-", "defines", "the", "set", "of", "peer", "mapping", "assertions", "of", "p.", "Each", "assertion", "is", "an", "expression", "of", "the", "form", "Q", "q", "Q", "p", ",", "where", "the", "peer", "q", "N", "-LRB-", "p", "-RRB-", "is", "a", "neighbor", "of", "p", ",", "and", "Q", "q", "and", "Q", "p", "are", "two", "conjunctive", "queries", "of", "the", "same", "arity", "over", "schemas", "G", "q", "and", "G", "p", ",", "respectively", ".", "Example", "1", "-LRB-", "contd", ".", "-RRB-", "Let", "P", "r", "=", "P", "r", ",", "I", "r", ",", "N", "r", ",", "map", "r", "be", "a", "P2P", "system", ",", "where", "P", "r", "consists", "of", "three", "peers", "p", "1", ",", "p", "2", "and", "p", "3", ",", "such", "that", "N", "r", "-LRB-", "p", "1", "-RRB-", "=", "N", "r", "-LRB-", "p", "2", "-RRB-", "=", "and", "N", "r", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "p", "1", ",", "p", "2", "-RCB-", ".", "Figure", "1", "summarizes", "the", "structure", "of", "the", "system", "P", "r", "by", "showing", ",", "for", "each", "peer", ",", "its", "global", "schema", ",", "its", "source", "schema", ",", "and", "its", "local", "and", "peer", "mapping", "assertions", ".", "In", "particular", ",", "notice", "that", "the", "mapping", "assertions", "are", "such", "that", ":", "map", "-LRB-", "p", "1", "-RRB-", "=", "map", "-LRB-", "p", "2", "-RRB-", "=", ",", "and", "map", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "X", ",", "Y", "|", "financial", "-LRB-", "X", ",", "Y", "-RRB-", "-RRB-", "-RCB-", "-LCB-", "X", ",", "Y", "|", "boss", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", "-LCB-", "X", ",", "Y", "|", "secretary", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", "-LCB-", "X", ",", "Y", "|", "boss", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", ".", "P", "38", "A", "source", "database", "for", "a", "P2P", "system", "P", "is", "a", "function", "D", "assigning", "to", "each", "peer", "p", "P", "such", "that", "I", "-LRB-", "p", "-RRB-", "=", "G", "p", ",", "S", "p", ",", "M", "p", "a", "database", "instance", "D", "-LRB-", "p", "-RRB-", "for", "S", "p", ".", "A", "global", "database", "for", "P", "is", "a", "function", "B", "assigning", "to", "each", "peer", "p", "a", "database", "instance", "B", "-LRB-", "p", "-RRB-", "for", "G", "p", ".", "Usually", ",", "we", "are", "interested", "in", "global", "databases", "that", "can", "be", "``", "retrieved", "''", "from", "a", "given", "source", ",", "as", "formalized", "below", ".", "Given", "a", "source", "database", "D", "for", "P", ",", "a", "retrieved", "global", "database", "for", "D", "is", "a", "global", "database", "B", "that", "satisfies", "the", "mapping", "assertions", "M", "p", "of", "each", "peer", "p", ",", "i.e.", ",", "B", "is", "such", "that", ":", "p", "P", "and", "-LRB-", "Q", "S", "p", "Q", "G", "p", "-RRB-", "M", "p", ",", "it", "is", "the", "case", "that", "Q", "D", "-LRB-", "p", "-RRB-", "S", "p", "Q", "B", "-LRB-", "p", "-RRB-", "G", "p", ".", "We", "denote", "by", "ret", "-LRB-", "P", ",", "D", "-RRB-", "the", "set", "of", "all", "the", "retrieved", "global", "databases", "for", "D", "in", "the", "system", "P.", "Notice", "that", "in", "the", "definition", "above", "we", "are", "considering", "sound", "mappings", ":", "data", "retrieved", "from", "the", "sources", "by", "the", "mapping", "views", "are", "assumed", "to", "be", "a", "subset", "of", "the", "data", "that", "satisfy", "the", "corresponding", "global", "relation", ".", "This", "is", "a", "classical", "assumption", "in", "data", "integration", ",", "where", "sources", "in", "general", "do", "not", "provide", "all", "the", "intended", "extensions", "of", "the", "global", "schema", ",", "hence", "extracted", "data", "are", "to", "be", "considered", "sound", "but", "not", "necessarily", "complete", ".", "Example", "1", "-LRB-", "contd", ".", "-RRB-", "Let", "D", "r", "be", "a", "source", "database", "for", "the", "P2P", "system", "P", "r", "such", "that", "D", "r", "-LRB-", "p", "1", "-RRB-", "is", "-LCB-", "s", "1", "-LRB-", "Albert", ",", "Bill", "-RRB-", "-RCB-", ",", "D", "r", "-LRB-", "p", "2", "-RRB-", "consists", "of", "-LCB-", "s", "2", "-LRB-", "John", ",", "Mary", "-RRB-", ",", "s", "2", "-LRB-", "Mary", ",", "Tom", "-RRB-", "-RCB-", ",", "and", "D", "r", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "s", "3", "-LRB-", "Mary", ",", "D1", "-RRB-", "-RCB-", ".", "Consider", "also", "the", "global", "database", "B", "r", "such", "that", "B", "r", "-LRB-", "p", "1", "-RRB-", "=", "-LCB-", "secretary", "-LRB-", "Albert", ",", "Bill", "-RRB-", "-RCB-", ",", "B", "r", "-LRB-", "p", "2", "-RRB-", "=", "-LCB-", "financial", "-LRB-", "John", ",", "Mary", "-RRB-", ",", "financial", "-LRB-", "Mary", ",", "Tom", "-RRB-", "-RCB-", "and", "B", "r", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "employee", "-LRB-", "Mary", ",", "D1", "-RRB-", "-RCB-", ".", "Then", ",", "it", "is", "easy", "to", "see", "that", "B", "r", "is", "a", "retrieved", "database", "for", "D", "r", "in", "P", "r", ",", "i.e.", ",", "B", "r", "ret", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", ".", "Note", "that", "a", "global", "database", "B", "whose", "peer", "schema", "for", "some", "peer", "p", "-LCB-", "p", "1", ",", "p", "2", ",", "p", "3", "-RCB-", "is", "a", "superset", "of", "B", "r", "-LRB-", "p", "-RRB-", "is", "in", "ret", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "as", "well", "-", "we", "simply", "say", "that", "B", "is", "a", "superset", "of", "B", "r", ".", "P", "3.2", "Models", "of", "Peer-to-Peer", "Systems", "Given", "a", "source", "database", "D", ",", "it", "is", "particular", "important", "to", "investigate", "whether", "it", "is", "possible", "to", "retrieve", "from", "D", "a", "database", "which", "satisfies", "the", "semantics", "of", "the", "network", ".", "Therefore", ",", "we", "next", "define", "a", "suitable", "notion", "of", "model", "for", "a", "P2P", "system", ".", "The", "approach", "has", "been", "inspired", "by", "the", "au-toepistemic", "approach", "of", "-LSB-", "9", "-RSB-", ";", "in", "particular", ",", "we", "assume", "that", "peers", "propagate", "through", "mapping", "assertions", "only", "the", "values", "they", "really", "trust", ".", "Definition", "2", "Let", "P", "=", "P", ",", "I", ",", "N", ",", "map", "be", "a", "P2P", "system", ",", "p", "P", "a", "peer", "with", "I", "-LRB-", "p", "-RRB-", "=", "G", "p", ",", "S", "p", ",", "M", "p", "and", "G", "p", "=", "p", ",", "p", ",", "and", "D", "a", "source", "instance", "for", "P.", "Then", ",", "a", "p-model", "for", "P", "w.r.t.", "D", "is", "a", "maximal", "nonempty", "set", "of", "global", "databases", "M", "ret", "-LRB-", "P", ",", "D", "-RRB-", "such", "that", ":", "1", ".", "for", "each", "B", "M", ",", "B", "-LRB-", "p", "-RRB-", "satisfies", "the", "constraints", "in", "p", ",", "and", "2", ".", "for", "each", "assertion", "Q", "q", "Q", "p", "map", "-LRB-", "p", "-RRB-", ",", "it", "holds", ":", "B", "M", "Q", "B", "-LRB-", "q", "-RRB-", "q", "B", "M", "Q", "B", "-LRB-", "p", "-RRB-", "p", ".", "P", "Thus", ",", "according", "to", "Condition", "1", ",", "any", "databases", "in", "the", "p-model", "satisfies", "all", "the", "integrity", "constraints", "issued", "over", "the", "global", "schema", "of", "p", ";", "moreover", ",", "Condition", "2", "guarantees", "that", "peers", "communicate", "only", "those", "values", "that", "belong", "to", "all", "models", ",", "i.e.", ",", "a", "cautious", "approach", "to", "the", "propagation", "has", "been", "pursued", ".", "Finally", "we", "point", "out", "that", ",", "as", "for", "local", "mapping", "assertions", ",", "peer", "mapping", "assertions", "are", "assumed", "to", "be", "sound", ".", "Now", ",", "given", "that", "each", "peer", "singles", "out", "its", "models", ",", "a", "notion", "of", "model", "for", "the", "whole", "system", "can", "be", "easily", "stated", ".", "Definition", "3", "Let", "P", "=", "P", ",", "I", ",", "N", ",", "map", "be", "a", "P2P", "system", ".", "A", "model", "for", "P", "w.r.t.", "D", "is", "a", "maximal", "nonempty", "set", "M", "ret", "-LRB-", "P", ",", "D", "-RRB-", "of", "global", "databases", "such", "that", ",", "for", "each", "p", "P", ",", "M", "is", "a", "p-model", ".", "If", "a", "model", "for", "P", "w.r.t.", "D", "exists", ",", "we", "say", "that", "D", "satisfies", "P", ",", "denoted", "by", "D", "|", "=", "P.", "P", "For", "instance", ",", "in", "our", "running", "example", ",", "D", "r", "does", "not", "satisfy", "P", "r", ";", "indeed", ",", "the", "peer", "mapping", "assertions", "constrain", "the", "schema", "of", "p", "3", "to", "contain", "in", "every", "global", "database", "-LRB-", "retrieved", "from", "D", "r", "-RRB-", "the", "tuples", "boss", "-LRB-", "Albert", ",", "Bill", "-RRB-", ",", "boss", "-LRB-", "John", ",", "Mary", "-RRB-", ",", "boss", "-LRB-", "Mary", ",", "Tom", "-RRB-", ",", "and", "employee", "-LRB-", "Mary", ",", "D1", "-RRB-", "that", "violate", "the", "integrity", "constraints", "over", "p", "3", ",", "since", "Mary", "results", "to", "be", "both", "an", "employee", "and", "a", "manger", ".", "Therefore", ",", "retrieving", "data", "from", "D", "r", "leads", "to", "an", "inconsistent", "scenario", ".", "We", "conclude", "by", "noticing", "that", "deciding", "whether", "a", "P2P", "system", "admits", "a", "model", "can", "be", "done", "efficiently", ".", "The", "result", "can", "be", "proven", "by", "modifying", "the", "techniques", "in", "-LSB-", "9", "-RSB-", ",", "in", "order", "to", "first", "evaluate", "all", "the", "mappings", "in", "the", "network", "and", "then", "check", "for", "the", "satisfaction", "of", "the", "integrity", "constraints", "over", "peer", "schemas", ".", "Theorem", "4", "Let", "P", "=", "P", ",", "I", ",", "N", ",", "map", "be", "a", "P2P", "system", ",", "and", "D", "be", "a", "database", "instance", "for", "P.", "Then", ",", "deciding", "whether", "there", "is", "a", "model", "for", "P", "w.r.t.", "D", ",", "i.e.", ",", "D", "|", "=", "P", ",", "is", "feasible", "in", "polynomial", "time", ".", "As", "shown", "in", "our", "running", "example", ",", "in", "general", "data", "stored", "in", "local", "and", "autonomous", "sources", "are", "not", "required", "to", "satisfy", "constraints", "expressed", "on", "the", "global", "schema", "-LRB-", "for", "example", "when", "a", "key", "dependency", "on", "G", "is", "violated", "by", "data", "retrieved", "from", "the", "sources", "-RRB-", ".", "Thus", ",", "a", "P2P", "system", "may", "be", "unsatisfiable", "w.r.t.", "a", "source", "database", "D", ".", "In", "this", "section", ",", "we", "face", "the", "problem", "of", "solving", "inconsistencies", "in", "P2P", "systems", ".", "Specifically", ",", "we", "introduce", "a", "semantics", "for", "``", "repairing", "''", "a", "P2P", "system", ".", "To", "this", "aim", ",", "we", "first", "provide", "a", "model", "for", "peer", "preferences", ",", "and", "then", "show", "the", "impact", "of", "these", "individual", "preferences", "on", "the", "cost", "of", "reaching", "a", "global", "agreed", "repair", ".", "4.1", "Peer", "Preferences", "and", "Repairs", "Let", "P", "=", "P", ",", "I", ",", "N", ",", "map", "be", "a", "P2P", "system", ",", "and", "D", "be", "a", "source", "database", "instance", "for", "P.", "Next", ",", "we", "define", "a", "repair", "weighting", "function", "w", "p", "-LRB-", "P", ",", "D", "-RRB-", "for", "each", "peer", "p", ",", "encoding", "its", "preferences", "on", "candidate", "repairs", "of", "D.", "Formally", ",", "w", "p", "-LRB-", "P", ",", "D", "-RRB-", "is", "a", "polynomially-computable", "function", "assigning", ",", "to", "each", "source", "database", "instance", "D", ",", "a", "natural", "number", "that", "is", "a", "measure", "of", "the", "preference", "of", "p", "on", "having", "D", "as", "a", "repair", "for", "D", "-LRB-", "the", "lower", "the", "number", ",", "the", "more", "preferred", "the", "repair", "-RRB-", ".", "As", "a", "quite", "simple", ",", "yet", "natural", "example", "of", "weighting", "function", ",", "we", "can", "consider", "the", "evaluation", "of", "the", "number", "of", "deletions", "performed", "to", "the", "peer", "'s", "sources", ".", "In", "this", "case", ",", "we", "have", "that", "w", "p", "-LRB-", "P", ",", "D", "-RRB-", "-LRB-", "D", "-RRB-", "=", "|", "D", "-LRB-", "p", "-RRB-", "-", "D", "-LRB-", "p", "-RRB-", "|", ",", "which", "in", "fact", "corresponds", "to", "the", "size", "of", "the", "difference", "between", "D", "and", "D", "restricted", "to", "tuples", "of", "peer", "p", ".", "This", "weighting", "function", "is", "called", "cardinality-based", "in", "the", "following", ".", "Example", "1", "-LRB-", "contd", ".", "-RRB-", "Consider", "the", "source", "databases", "D", "r", "1", ",", "D", "r", "2", ",", "and", "D", "r", "3", "such", "that", ":", "D", "r", "1", "-LRB-", "p", "1", "-RRB-", "=", "D", "r", "2", "-LRB-", "p", "1", "-RRB-", "=", "D", "r", "3", "-LRB-", "p", "1", "-RRB-", "=", "D", "r", "-LRB-", "p", "1", "-RRB-", ",", "39", "D", "r", "1", "-LRB-", "p", "2", "-RRB-", "=", "-LCB-", "s", "2", "-LRB-", "John", ",", "Mary", "-RRB-", "-RCB-", ",", "D", "r", "2", "-LRB-", "p", "2", "-RRB-", "=", "-LCB-", "s", "2", "-LRB-", "Mary", ",", "Tom", "-RRB-", "-RCB-", ",", "D", "r", "3", "-LRB-", "p", "2", "-RRB-", "=", "-LCB-", "-RCB-", ",", "D", "r", "1", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "-RCB-", ",", "D", "r", "2", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "s", "3", "-LRB-", "Mary", ",", "D1", "-RRB-", "-RCB-", ",", "and", "D", "r", "3", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "s", "3", "-LRB-", "Mary", ",", "D1", "-RRB-", "-RCB-", ".", "Assume", "that", ",", "for", "each", "peer", "p", ",", "w", "p", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "-RRB-", "=", "|", "D", "-LRB-", "p", "-RRB-", "D", "r", "-LRB-", "p", "-RRB-", "|", ",", "i.e.", ",", "she", "prefers", "source", "repairs", "where", "the", "minimum", "number", "of", "tuples", "is", "deleted", "from", "D", "r", "-LRB-", "p", "-RRB-", ".", "Then", ",", "w", "p", "1", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "1", "-RRB-", "=", "w", "p", "1", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "2", "-RRB-", "=", "w", "p", "1", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "3", "-RRB-", "=", "0", ";", "w", "p", "2", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "1", "-RRB-", "=", "w", "p", "2", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "2", "-RRB-", "=", "1", ";", "w", "p", "2", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "3", "-RRB-", "=", "2", ";", "w", "p", "3", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "1", "-RRB-", "=", "1", ";", "w", "p", "3", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "2", "-RRB-", "=", "w", "p", "3", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "3", "-RRB-", "=", "0", ".", "P", "The", "problem", "of", "solving", "inconsistency", "in", "``", "classical", "''", "data", "integration", "systems", "has", "been", "traditionally", "faced", "by", "providing", "a", "semantics", "in", "terms", "of", "the", "repairs", "of", "the", "global", "databases", "that", "the", "mapping", "forces", "to", "be", "in", "the", "semantic", "of", "the", "system", "-LSB-", "4", ",", "7", ",", "6", "-RSB-", ".", "Repairs", "are", "obtained", "by", "means", "of", "addition", "and", "deletion", "of", "tuples", "according", "to", "some", "minimality", "criterion", ".", "We", "next", "propose", "a", "generalization", "of", "these", "approaches", "to", "the", "P2P", "framework", ",", "which", "takes", "into", "account", "peers", "preferences", ".", "To", "this", "aim", ",", "we", "focus", "on", "finding", "the", "proper", "set", "of", "facts", "at", "the", "sources", "that", "imply", "as", "a", "consequence", "a", "global", "database", "satisfying", "all", "integrity", "constraints", ".", "Basically", ",", "such", "a", "way", "of", "proceeding", "allows", "us", "to", "easily", "take", "into", "account", "information", "on", "preferences", "when", "trying", "to", "solve", "inconsistency", ",", "since", "repairing", "is", "performed", "by", "directly", "focusing", "on", "those", "sources", ",", "whose", "integration", "has", "caused", "inconsistency", ".", "Definition", "5", "-LRB-", "Repair", "-RRB-", "Let", "P", "be", "a", "P2P", "system", ",", "p", "a", "peer", ",", "and", "D", "and", "D", "two", "source", "databases", ".", "We", "say", "that", "D", "is", "p-minimal", "if", "D", "|", "=", "P", ",", "and", "there", "exists", "no", "source", "database", "D", "such", "that", "w", "p", "-LRB-", "P", ",", "D", "-RRB-", "-LRB-", "D", "-RRB-", "<", "w", "p", "-LRB-", "P", ",", "D", "-RRB-", "-LRB-", "D", "-RRB-", "and", "D", "|", "=", "P.", "Then", ",", "D", "is", "a", "repair", "for", "P", "w.r.t.", "D", "if", "D", "is", "p-minimal", "for", "each", "peer", "p.", "P", "Example", "1", "-LRB-", "contd", ".", "-RRB-", "It", "is", "easy", "to", "see", "that", "D", "r", "1", ",", "D", "r", "2", ",", "and", "D", "r", "3", "satisfy", "P", "r", "and", "they", "are", "both", "p", "1", "-", "minimal", ".", "Indeed", ",", "peer", "p", "1", "has", "no", "preferences", "among", "the", "three", "databases", ",", "since", "w", "p", "1", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "1", "-RRB-", "=", "w", "p", "1", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "2", "-RRB-", "=", "w", "p", "1", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "-LRB-", "D", "r", "3", "-RRB-", "=", "0", ".", "Moreover", ",", "D", "r", "1", "and", "D", "r", "2", "are", "equally", "preferred", "by", "p", "2", ",", "whereas", "D", "r", "2", "and", "D", "r", "3", "are", "equally", "preferred", "by", "p", "3", ".", "Therefore", ",", "all", "peers", "agree", "on", "D", "r", "2", ",", "which", "is", "thus", "a", "repair", "for", "D", "r", "w.r.t.", "P", "r", ".", "However", ",", "neither", "D", "r", "3", "is", "p", "2", "-", "minimal", ",", "nor", "D", "r", "1", "is", "p", "3", "-", "minimal", ",", "and", "thus", "they", "are", "not", "repairs", ".", "P", "We", "next", "define", "the", "semantics", "of", "a", "P2P", "system", ",", "in", "terms", "of", "models", "for", "those", "sources", "on", "which", "all", "the", "peers", "agree", ".", "Definition", "6", "-LRB-", "Agreement", "-RRB-", "Let", "P", "=", "P", ",", "I", ",", "N", ",", "map", "be", "a", "P2P", "system", ",", "and", "D", "be", "an", "instance", "for", "P", ".", "The", "agreement", "for", "P", "w.r.t.", "D", "is", "the", "set", "of", "all", "of", "its", "models", "w.r.t.", "some", "repair", ",", "and", "will", "be", "denoted", "by", "Agr", "-LRB-", "P", ",", "D", "-RRB-", ".", "P", "Example", "1", "-LRB-", "contd", ".", "-RRB-", "D", "r", "2", "is", "p-minimal", ",", "for", "each", "peer", "p", ",", "and", "it", "is", "easy", "to", "see", "that", "the", "set", "Agr", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", "contains", "all", "databases", "belonging", "to", "some", "model", "for", "P", "r", "w.r.t.", "D", "r", "2", ".", "In", "particular", ",", "it", "contains", "the", "supersets", "-LRB-", "satisfying", "the", "constraints", "-RRB-", "of", "the", "database", "B", "r", "2", "such", "that", "B", "r", "2", "-LRB-", "p", "1", "-RRB-", "=", "-LCB-", "secretary", "-LRB-", "Albert", ",", "Bill", "-RRB-", "-RCB-", ",", "B", "r", "2", "-LRB-", "p", "2", "-RRB-", "=", "-LCB-", "financial", "-LRB-", "Mary", ",", "Tom", "-RRB-", "-RCB-", "and", "B", "r", "2", "-LRB-", "p", "3", "-RRB-", "=", "-LCB-", "boss", "-LRB-", "Albert", ",", "Bill", "-RRB-", ",", "boss", "-LRB-", "Mary", ",", "Tom", "-RRB-", ",", "employee", "-LRB-", "Mary", ",", "D1", "-RRB-", "-RCB-", ".", "Moreover", ",", "no", "other", "global", "database", "is", "in", "Agr", "-LRB-", "P", "r", ",", "D", "r", "-RRB-", ".", "P", "We", "can", "finally", "characterize", "the", "answer", "to", "a", "user", "query", "in", "terms", "of", "the", "repairs", "for", "the", "system", ".", "Definition", "7", "Let", "P", "=", "P", ",", "I", ",", "N", ",", "map", "be", "a", "P2P", "system", ",", "let", "D", "be", "a", "source", "database", "for", "it", ",", "and", "let", "Q", "be", "a", "query", "over", "the", "schema", "of", "a", "peer", "p.", "Then", ",", "the", "answer", "to", "Q", "is", "the", "evaluation", "of", "the", "query", "over", "all", "the", "possible", "agreed", "databases", ":", "ans", "-LRB-", "Q", ",", "p", ",", "P", ",", "D", "-RRB-", "=", "B", "Agr", "-LRB-", "P", ",", "D", "-RRB-", "Q", "B", "-LRB-", "p", "-RRB-", "p", ".", "P", "For", "instance", ",", "in", "our", "running", "example", ",", "the", "answer", "to", "the", "user", "query", "-LCB-", "X", "|", "boss", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", "posed", "over", "peer", "p", "3", ",", "which", "asks", "for", "all", "employees", "that", "have", "a", "boss", ",", "is", "-LCB-", "Albert", ",", "Mary", "-RCB-", ",", "since", "this", "query", "is", "evaluated", "over", "the", "supersets", "of", "the", "database", "B", "r", "2", "retrieved", "from", "D", "r", "2", "only", ".", "We", "conclude", "the", "section", "by", "noticing", "that", "Agr", "-LRB-", "P", ",", "D", "-RRB-", "is", "just", "a", "formal", "characterization", "of", "the", "semantics", "of", "a", "P2P", "system", ".", "Usually", ",", "we", "are", "not", "interested", "in", "computing", "such", "a", "set", ";", "and", ",", "in", "fact", ",", "for", "practical", "applications", ",", "suitable", "techniques", "and", "optimization", "algorithms", "should", "be", "investigated", "to", "handle", "inconsistency", "at", "query", "time", "-LRB-", "in", "the", "spirit", "of", ",", "e.g.", ",", "-LSB-", "10", "-RSB-", "-RRB-", ".", "4.2", "The", "Price", "of", "Autonomy", "Given", "the", "framework", "presented", "so", "far", ",", "we", "are", "in", "the", "position", "of", "studying", "the", "effects", "of", "having", "autonomous", "peers", "repairing", "their", "source", "databases", "according", "to", "their", "own", "preferences", ".", "We", "next", "show", "that", ",", "in", "some", "cases", ",", "peers", "might", "not", "find", "an", "agreement", "on", "the", "way", "the", "repair", "has", "to", "be", "carried", "out", ".", "This", "is", "a", "somehow", "expected", "consequence", "of", "having", "selfish", "interested", "peers", "in", "the", "absence", "of", "a", "global", "coordination", ".", "Proposition", "8", "There", "exists", "a", "P2P", "system", "P", "and", "a", "source", "database", "D", "such", "that", "there", "is", "no", "agreement", ",", "i.e.", ",", "Agr", "-LRB-", "P", ",", "D", "-RRB-", "is", "empty", ".", "Proof", "-LSB-", "Sketch", "-RSB-", ".", "Consider", "the", "P2P", "system", "P", "=", "P", ",", "I", ",", "N", ",", "map", ",", "where", "P", "consists", "of", "the", "peers", "challenger", "-LRB-", "short", ":", "c", "-RRB-", "and", "duplicator", "-LRB-", "short", ":", "d", "-RRB-", ",", "that", "are", "mutually", "connected", ",", "i.e.", ",", "N", "-LRB-", "c", "-RRB-", "=", "-LCB-", "d", "-RCB-", "and", "N", "-LRB-", "d", "-RRB-", "=", "-LCB-", "c", "-RCB-", ".", "Peer", "c", "is", "such", "that", "I", "-LRB-", "c", "-RRB-", "=", "G", "c", ",", "S", "c", ",", "M", "c", ",", "where", "the", "schema", "G", "c", "consists", "of", "predicates", "r", "c", "-LRB-", "X", "-RRB-", "and", "mr", "d", "-LRB-", "X", "-RRB-", "with", "constraints", "r", "c", "-LRB-", "X", "-RRB-", "r", "c", "-LRB-", "Y", "-RRB-", "X", "=", "Y", "and", "r", "c", "-LRB-", "X", "-RRB-", "mr", "d", "-LRB-", "Y", "-RRB-", "X", "=", "Y", ";", "the", "source", "schema", "consists", "of", "the", "relation", "symbol", "s", "c", ";", "and", "M", "c", "contains", "only", "the", "assertion", "-LCB-", "X", "|", "s", "c", "-LRB-", "X", "-RRB-", "-RCB-", "-LCB-", "X", "|", "r", "c", "-LRB-", "X", "-RRB-", "-RCB-", ".", "Peer", "d", "is", "such", "that", "I", "-LRB-", "d", "-RRB-", "=", "G", "d", ",", "S", "d", ",", "M", "d", ",", "where", "the", "schema", "G", "d", "consists", "of", "predicates", "r", "d", "-LRB-", "X", "-RRB-", "and", "mr", "c", "-LRB-", "X", "-RRB-", "with", "constraints", "r", "d", "-LRB-", "X", "-RRB-", "r", "d", "-LRB-", "Y", "-RRB-", "X", "=", "Y", "and", "r", "d", "-LRB-", "X", "-RRB-", "mr", "c", "-LRB-", "Y", "-RRB-", "X", "=", "Y", ";", "the", "source", "schema", "consists", "of", "the", "relation", "symbol", "s", "d", ";", "and", "M", "d", "contains", "only", "the", "assertion", "-LCB-", "X", "|", "s", "d", "-LRB-", "X", "-RRB-", "-RCB-", "-LCB-", "X", "|", "r", "d", "-LRB-", "X", "-RRB-", "-RCB-", ".", "Finally", ",", "map", "-LRB-", "c", "-RRB-", "contains", "the", "assertion", "-LCB-", "X", "|", "r", "c", "-LRB-", "X", "-RRB-", "-RRB-", "-RCB-", "-LCB-", "X", "|", "mr", "c", "-LRB-", "X", "-RRB-", "-RCB-", ",", "while", "map", "-LRB-", "d", "-RRB-", "contains", "the", "assertion", "-LCB-", "X", "|", "r", "d", "-LRB-", "X", "-RRB-", "-RRB-", "-RCB-", "-LCB-", "X", "|", "mr", "d", "-LRB-", "X", "-RRB-", "-RCB-", ".", "Let", "D", "be", "a", "source", "database", "for", "P", "such", "that", "D", "-LRB-", "c", "-RRB-", "=", "-LCB-", "s", "c", "-LRB-", "0", "-RRB-", ",", "s", "c", "-LRB-", "1", "-RRB-", "-RCB-", "and", "D", "-LRB-", "d", "-RRB-", "=", "-LCB-", "s", "d", "-LRB-", "0", "-RRB-", ",", "s", "d", "-LRB-", "1", "-RRB-", "-RCB-", ".", "We", "build", "four", "source", "databases", ",", "say", "D", "1", ",", "D", "2", ",", "D", "3", "and", "D", "4", ",", "that", "satisfy", "P", ".", "They", "are", "such", "that", ":", "D", "1", "-LRB-", "c", "-RRB-", "=", "-LCB-", "-RCB-", ",", "D", "1", "-LRB-", "d", "-RRB-", "=", "-LCB-", "s", "d", "-LRB-", "0", "-RRB-", "-RCB-", ";", "D", "2", "-LRB-", "c", "-RRB-", "=", "-LCB-", "-RCB-", ",", "D", "2", "-LRB-", "d", "-RRB-", "=", "-LCB-", "s", "d", "-LRB-", "1", "-RRB-", "-RCB-", ";", "D", "3", "-LRB-", "c", "-RRB-", "=", "-LCB-", "s", "c", "-LRB-", "0", "-RRB-", "-RCB-", ",", "D", "3", "-LRB-", "d", "-RRB-", "=", "-LCB-", "-RCB-", ";", "D", "4", "-LRB-", "c", "-RRB-", "=", "-LCB-", "s", "c", "-LRB-", "1", "-RRB-", "-RCB-", ",", "D", "4", "-LRB-", "d", "-RRB-", "=", "-LCB-", "-RCB-", ".", "Notice", "that", "all", "the", "other", "databases", "satisfying", "P", "are", "proper", "subsets", "of", "these", "ones", ".", "Then", ",", "by", "assuming", "that", "each", "peer", "wants", "to", "minimize", "the", "number", "of", "deletions", "in", "D", ",", "there", "exists", "no", "source", "database", "satisfying", "P", "that", "is", "both", "c-minimal", "and", "d-minimal", ".", "In", "the", "light", "of", "Proposition", "8", ",", "it", "is", "particulary", "relevant", "to", "investigate", "the", "complexity", "of", "dealing", "with", "peer", "agreements", "40", "and", "query", "answering", "in", "such", "P2P", "data", "integration", "systems", ".", "In", "this", "section", ",", "we", "first", "present", "some", "basic", "problems", "arising", "in", "the", "proposed", "framework", ",", "and", "subsequently", "analyze", "their", "computational", "complexity", ".", "This", "analysis", "is", "a", "fundamental", "premise", "to", "devise", "effective", "and", "optimized", "implementations", ".", "5.1", "Problems", "Given", "a", "P2P", "system", "P", "and", "a", "source", "database", "D", "for", "P", ",", "we", "consider", "the", "following", "problems", ":", "RepairChecking", ":", "given", "a", "source", "instance", "D", ",", "is", "D", "a", "repair", "for", "P", "w.r.t.", "D", "?", "AgreementExistence", ":", "is", "Agr", "-LRB-", "P", ",", "D", "-RRB-", "=", "?", "AnyAgreementComputation", ":", "compute", "a", "database", "B", "in", "the", "agreement", "Agr", "-LRB-", "P", ",", "D", "-RRB-", ",", "if", "any", ".", "QueryOutputTuple", ":", "given", "a", "query", "Q", "over", "a", "peer", "schema", "G", "p", "and", "a", "tuple", "t", ",", "is", "t", "ans", "-LRB-", "Q", ",", "p", ",", "P", ",", "D", "-RRB-", "?", "Intuitively", ",", "RepairChecking", "is", "the", "very", "basic", "problem", "of", "assessing", "whether", "a", "source", "instance", "at", "hand", "satisfies", "the", "data", "integration", "system", ".", "Then", ",", "AgreementExistence", "-LRB-", "and", "its", "corresponding", "computational", "version", "AnyAgreementComputation", "-RRB-", "asks", "for", "singling", "out", "scenarios", "where", "some", "agrement", "can", "be", "in", "fact", "computed", ".", "Finally", ",", "QueryOutputTuple", "represents", "the", "problem", "characterizing", "the", "intrinsic", "complexity", "of", "a", "query", "answering", "in", "the", "proposed", "framework", ";", "indeed", ",", "it", "is", "the", "problem", "of", "deciding", "the", "membership", "of", "a", "given", "tuple", "in", "the", "result", "of", "query", "evaluation", ".", "5.2", "Results", "Our", "first", "result", "is", "that", "checking", "whether", "all", "the", "peers", "are", "satisfied", "by", "a", "given", "source", "database", "is", "a", "difficult", "task", "that", "is", "unlikely", "to", "be", "feasible", "in", "polynomial", "time", ".", "Theorem", "9", "RepairChecking", "is", "co-NP-complete", ".", "Hardness", "holds", "even", "for", "cardinality-based", "weighting", "functions", ".", "Proof", "-LSB-", "Sketch", "-RSB-", ".", "Membership", ".", "Consider", "the", "complementary", "problem", "of", "deciding", "whether", "there", "exists", "a", "peer", "p", "such", "that", "D", "is", "not", "p-minimal", ".", "This", "problem", "is", "feasible", "in", "NP", "by", "guessing", "a", "source", "database", "D", "and", "checking", "in", "that", "1", ".", "D", "|", "=", "P", ",", "and", "2", ".", "there", "exists", "a", "peer", "p", "such", "that", "w", "p", "-LRB-", "P", ",", "D", "-RRB-", "-LRB-", "D", "-RRB-", "<", "w", "p", "-LRB-", "P", ",", "D", "-RRB-", "-LRB-", "D", "-RRB-", ".", "In", "particular", ",", "1", ".", "is", "feasible", "in", "polynomial", "time", "because", "of", "Theorem", "4", ",", "and", "2", ".", "is", "feasible", "in", "polynomial", "time", "because", "our", "weighting", "functions", "are", "polynomially", "computable", ".", "Hardness", ".", "Recall", "that", "deciding", "whether", "a", "Boolean", "formula", "in", "conjunctive", "normal", "form", "=", "C", "1", "...", "C", "m", "over", "the", "variables", "X", "1", ",", "...", ",", "X", "n", "is", "not", "satisfiable", ",", "i.e.", ",", "deciding", "whether", "there", "exists", "no", "truth", "assignments", "to", "the", "variables", "making", "each", "clause", "C", "j", "true", ",", "is", "a", "co-NP-hard", "problem", ".", "We", "built", "a", "P2P", "system", "P", "such", "that", ":", "P", "contains", "a", "peer", "x", "i", "for", "each", "variable", "X", "i", ",", "a", "peer", "c", "j", "for", "each", "clause", "C", "j", ",", "and", "the", "distinguished", "peer", "e", ".", "The", "source", "schema", "of", "x", "i", "-LRB-", "resp", ".", "c", "j", "-RRB-", "consists", "of", "the", "unary", "relation", "s", "x", "i", "-LRB-", "resp", ".", "s", "c", "j", "-RRB-", ",", "whereas", "the", "global", "schema", "consists", "of", "the", "unary", "relation", "r", "x", "i", "-LRB-", "resp", ".", "r", "c", "j", "-RRB-", ".", "The", "source", "schema", "of", "e", "consists", "of", "the", "unary", "relations", "s", "e", "and", "s", "a", ",", "whereas", "its", "global", "schema", "consists", "of", "the", "unary", "relations", "r", "e", "and", "r", "a", ".", "For", "each", "source", "relation", ",", "say", "s", ",", "P", "-LRB-", "-RRB-", "contains", "a", "local", "mapping", "assertion", "of", "the", "form", "-LCB-", "X", "|", "s", "-LRB-", "X", "-RRB-", "-RCB-", "-LCB-", "X", "|", "r", "-LRB-", "X", "-RRB-", "-RCB-", ".", "Each", "global", "relation", "of", "the", "form", "r", "x", "i", "is", "equipped", "with", "the", "constraint", "r", "x", "i", "-LRB-", "X", "1", "-RRB-", "r", "x", "i", "-LRB-", "X", "2", "-RRB-", "X", "1", "=", "X", "2", ",", "stating", "that", "each", "relation", "must", "contain", "one", "atom", "at", "most", ".", "Each", "global", "relation", "of", "the", "form", "r", "c", "j", "is", "equipped", "with", "the", "constraint", "r", "c", "j", "-LRB-", "tx", "i", "-RRB-", "r", "c", "j", "-LRB-", "fx", "i", "-RRB-", ",", "where", "is", "the", "empty", "disjunction", ",", "stating", "that", "for", "each", "variable", "x", "i", ",", "r", "c", "j", "can", "not", "contain", "both", "tx", "i", "and", "fx", "i", "at", "the", "same", "time", ".", "Moreover", ",", "peer", "e", "has", "also", "the", "constraint", "r", "e", "-LRB-", "X", "1", "-RRB-", "r", "a", "-LRB-", "X", "2", "-RRB-", "X", "1", "=", "X", "2", ".", "Consider", "the", "source", "database", "D", "for", "P", "such", "that", ":", "D", "-LRB-", "x", "i", "-RRB-", "=", "-LCB-", "s", "x", "i", "-LRB-", "tx", "i", "-RRB-", ",", "s", "x", "i", "-LRB-", "fx", "i", "-RRB-", "-RCB-", ";", "for", "each", "x", "i", "occurring", "in", "c", "j", ",", "D", "-LRB-", "c", "j", "-RRB-", "=", "-LCB-", "s", "c", "j", "-LRB-", "tx", "i", "-RRB-", ",", "s", "c", "j", "-LRB-", "fx", "i", "-RRB-", "-RCB-", ";", "and", "D", "-LRB-", "e", "-RRB-", "=", "-LCB-", "s", "e", "-LRB-", "t", "-RRB-", ",", "s", "e", "-LRB-", "f", "-RRB-", ",", "s", "a", "-LRB-", "t", "-RRB-", "-RCB-", ".", "Notice", "that", "due", "to", "the", "constraints", "issued", "over", "peers", "schemas", ",", "any", "source", "database", "D", ",", "with", "D", "|", "=", "P", ",", "is", "such", "that", "|", "D", "-LRB-", "x", "i", "-RRB-", "|", "1", ",", "for", "each", "x", "i", ".", "Therefore", ",", "the", "restriction", "of", "D", "to", "the", "peers", "of", "the", "form", "x", "i", "is", "in", "one-to-one", "correspondence", "with", "a", "truth-value", "assignment", "for", ",", "denoted", "by", "-LRB-", "D", "-RRB-", ".", "Intuitively", ",", "the", "atom", "s", "x", "i", "-LRB-", "tx", "i", "-RRB-", "-LRB-", "resp", ".", "s", "x", "i", "-LRB-", "fx", "i", "-RRB-", "-RRB-", "means", "that", "variable", "X", "i", "is", "set", "to", "true", "-LRB-", "resp", ".", "false", "-RRB-", ",", "whereas", "the", "atom", "s", "c", "j", "-LRB-", "tx", "i", "-RRB-", "means", "that", "the", "clause", "C", "j", "is", "true", ",", "witnessed", "by", "the", "assignment", "for", "the", "variable", "X", "i", "occurring", "in", "c", "j", ".", "Finally", ",", "the", "peers", "mapping", "assertions", "in", "P", "are", "defined", "as", "follows", ".", "For", "each", "variable", "X", "i", "occurring", "positively", "-LRB-", "resp", ".", "negatively", "-RRB-", "in", "the", "clause", "C", "j", "there", "are", "exactly", "two", "mappings", "of", "the", "form", "-LCB-", "r", "x", "i", "-LRB-", "tx", "i", "-RRB-", "-RCB-", "-LCB-", "r", "c", "j", "-LRB-", "tx", "i", "-RRB-", "-RCB-", "and", "-LCB-", "r", "x", "i", "-LRB-", "fx", "i", "-RRB-", "-RCB-", "-LCB-", "r", "c", "j", "-LRB-", "fx", "i", "-RRB-", "-RCB-", "-LRB-", "resp", ".", "-LCB-", "r", "x", "i", "-LRB-", "fx", "i", "-RRB-", "-RCB-", "-LCB-", "r", "c", "j", "-LRB-", "tx", "i", "-RRB-", "-RCB-", "and", "-LCB-", "r", "x", "i", "-LRB-", "tx", "i", "-RRB-", "-RCB-", "-LCB-", "r", "c", "j", "-LRB-", "fx", "i", "-RRB-", "-RCB-", "-RRB-", ";", "moreover", ",", "for", "each", "clause", "C", "j", "containing", "variables", "X", "j", "1", ",", "...", ",", "X", "j", "k", ",", "there", "exists", "a", "mapping", "-LCB-", "r", "c", "j", "-LRB-", "fx", "j", "1", "-RRB-", "r", "c", "j", "-LRB-", "fx", "j", "k", "-RRB-", "-RCB-", "-LCB-", "r", "e", "-LRB-", "f", "-RRB-", "-RCB-", ".", "Figure", "2", "shows", "on", "the", "upper", "part", "the", "dependency", "graph", "G", "-LRB-", "P", "-RRB-", "for", "the", "formula", "=", "-LRB-", "X", "1", "X", "2", "-RRB-", "-LRB-", "X", "3", "-RRB-", "-LRB-", "X", "1", "X", "3", "X", "4", "-RRB-", "-LRB-", "X", "4", "-RRB-", "-LRB-", "X", "5", "X", "6", "X", "7", "-RRB-", "-LRB-", "X", "4", "X", "6", "X", "8", "-RRB-", ".", "Assume", "that", "each", "peer", "wants", "to", "minimize", "the", "number", "of", "deletions", "in", "D", ".", "Then", ",", "given", "a", "source", "database", "D", "minimal", "w.r.t.", "each", "peer", "in", "P", "but", "e", ",", "we", "can", "show", "that", "the", "above", "mappings", "encode", "an", "evaluation", "of", "the", "assignment", "-LRB-", "D", "-RRB-", ".", "In", "particular", ",", "it", "is", "easy", "to", "see", "that", "-LRB-", "D", "-RRB-", "is", "a", "satisfying", "assignment", "for", "if", "and", "only", "if", "D", "-LRB-", "e", "-RRB-", "contains", "the", "facts", "-LCB-", "s", "e", "-LRB-", "t", "-RRB-", ",", "s", "a", "-LRB-", "t", "-RRB-", "-RCB-", ",", "i.e.", ",", "one", "fact", "is", "deleted", "from", "the", "source", "of", "e", "only", ".", "Assume", ",", "now", ",", "that", "D", "is", "such", "that", "D", "-LRB-", "e", "-RRB-", "=", "-LCB-", "s", "e", "-LRB-", "f", "-RRB-", "-RCB-", ",", "i.e.", ",", "two", "facts", "are", "deleted", "from", "the", "source", "of", "e.", "Then", ",", "D", "is", "also", "e-minimal", "if", "and", "only", "if", "is", "not", "satisfiable", ".", "P", "Given", "the", "above", "complexity", "result", ",", "one", "can", "easily", "see", "that", "AnyAgreementComputation", "is", "feasible", "in", "the", "functional", "version", "of", "P", "2", ".", "Indeed", ",", "we", "can", "guess", "in", "NP", "a", "source", "instance", "D", ",", "build", "in", "polynomial", "time", "a", "model", "B", "for", "P", "w.r.t.", "D", "-LRB-", "by", "construction", "in", "Theorem", "4", "-RRB-", ",", "and", "check", "in", "co-NP", "that", "D", "is", "minimal", "for", "each", "peer", ".", "Actually", ",", "we", "can", "do", "much", "better", ".", "In", "fact", ",", "we", "next", "show", "that", "the", "problem", "is", "complete", "for", "the", "polynomial", "time", "closure", "of", "NP", ",", "and", "thus", "remains", "at", "the", "first", "level", "of", "the", "polynomial", "hierarchy", ".", "Theorem", "10", "AnyAgreementComputation", "is", "FPNP-complete", ".", "Hardness", "holds", "even", "for", "cardinality-based", "weighting", "functions", ".", "Proof", "-LSB-", "Sketch", "-RSB-", ".", "Membership", ".", "The", "problem", "can", "be", "solved", "by", "processing", "peers", "in", "a", "sequential", "manner", ".", "For", "each", "peer", "in", "P", ",", "we", "can", "find", "the", "minimum", "value", "of", "the", "associated", "preference", "function", "by", "means", "of", "a", "binary", "search", ",", "in", "which", "at", "each", "step", "we", "guess", "in", "NP", "a", "database", "instance", "and", "verify", "that", "such", "a", "preference", "holds", ".", "After", "having", "collected", "the", "minimum", "values", "for", "all", "peers", ",", "we", "conclude", "with", "a", "final", "guess", "to", "get", "a", "repair", "D", ",", "and", "a", "subsequent", "check", "that", "actually", "each", "peer", "gets", "its", "minimum", "possible", "value", "for", "P", "w.r.t.", "D.", "41", "Figure", "2", ":", "Constructions", "in", "Proofs", "of", "Complexity", "Results", ".", "Finally", ",", "a", "model", "for", "P", "w.r.t.", "D", "can", "be", "build", "in", "polynomial", "time", "-LRB-", "again", ",", "by", "construction", "in", "Theorem", "4", "-RRB-", ".", "Hardness", ".", "Let", "be", "a", "boolean", "formula", "in", "conjunctive", "normal", "form", "=", "C", "1", "...", "C", "m", "over", "the", "variables", "X", "1", ",", "...", ",", "X", "n", ".", "Assume", "that", "each", "clause", ",", "say", "C", "j", ",", "is", "equipped", "with", "a", "weight", "w", "j", "-LRB-", "natural", "number", "-RRB-", ".", "Let", "be", "an", "assignment", "for", "the", "variables", "in", ".", "Its", "weight", "is", "the", "sum", "of", "the", "weights", "of", "all", "the", "clauses", "satisfied", "in", ".", "The", "problem", "of", "computing", "the", "maximum", "weight", "over", "any", "truth", "assignment", ",", "called", "MAX", "-", "WEIGHT", "-", "SAT", ",", "is", "FPNP-complete", ".", "Consider", "again", "the", "construction", "in", "Theorem", "9", ",", "and", "modify", "P", "as", "follows", ".", "The", "source", "schema", "of", "peer", "e", "consists", "of", "the", "relation", "s", "w", ",", "whereas", "its", "global", "schema", "consists", "of", "the", "relations", "r", "w", "and", "r", "v", ",", "and", "of", "the", "constraint", "r", "v", "-LRB-", "X", "-RRB-", "r", "w", "-LRB-", "X", ",", "Y", "-RRB-", ".", "The", "local", "mappings", "of", "e", "is", "-LCB-", "X", ",", "Y", "|", "s", "w", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", "-LCB-", "X", ",", "Y", "|", "r", "w", "-LRB-", "X", ",", "Y", "-RRB-", "-RCB-", ".", "Moreover", ",", "for", "each", "clause", "c", "j", "over", "variables", "X", "j", "1", ",", "...", ",", "X", "j", "k", ",", "map", "-LRB-", "e", "-RRB-", "contains", "the", "assertion", "-LCB-", "r", "c", "j", "-LRB-", "fx", "j", "1", "-RRB-", "r", "c", "j", "-LRB-", "fx", "j", "k", "-RRB-", "-RCB-", "-LCB-", "r", "v", "-LRB-", "fc", "j", "-RRB-", "-RCB-", ".", "Let", "P", "be", "such", "a", "modified", "P2P", "system", ".", "Notice", "that", "G", "-LRB-", "P", "-RRB-", "coincides", "with", "G", "-LRB-", "P", "-RRB-", "-LRB-", "see", "again", "Figure", "2", "-RRB-", ".", "Consider", "now", "the", "database", "instance", "D", "for", "P", "obtained", "by", "modifying", "D", "such", "that", "D", "-LRB-", "e", "-RRB-", "contains", "the", "atoms", "s", "w", "-LRB-", "fc", "j", ",", "1", "-RRB-", ",", "s", "w", "-LRB-", "fc", "j", ",", "2", "-RRB-", ",", "...", "s", "w", "-LRB-", "fc", "j", ",", "w", "j", "-RRB-", "for", "each", "clause", "c", "j", ".", "Intuitively", ",", "peer", "e", "stores", "w", "j", "distinct", "atoms", "for", "each", "clause", "c", "j", ".", "Let", "D", "be", "a", "source", "instance", "that", "satisfies", "P", ".", "As", "in", "Theorem", "9", ",", "the", "restriction", "of", "D", "over", "the", "variables", "is", "in", "one-to-one", "correspondence", "with", "a", "truth", "assignment", "for", ",", "denoted", "by", "-LRB-", "D", "-RRB-", ".", "Then", ",", "it", "is", "easy", "to", "see", "that", "peer", "e", "must", "delete", "in", "D", "all", "the", "w", "j", "distinct", "atoms", "corresponding", "to", "a", "clause", "C", "j", "that", "is", "not", "satisfied", "by", "the", "assignment", "-LRB-", "D", "-RRB-", ".", "Therefore", ",", "|", "D", "-LRB-", "e", "-RRB-", "|", "=", "i", "|", "C", "i", "is", "false", "in", "-LRB-", "D", "-RRB-", "w", "i", ".", "Hence", ",", "the", "result", "easily", "follows", ",", "since", "computing", "the", "source", "instance", "that", "is", "e-minimal", ",", "say", "D", ",", "determines", "the", "maximum", "weight", "over", "any", "assignment", "for", "as", "-LRB-", "i", "w", "i", "-RRB-", "-", "|", "D", "-LRB-", "e", "-RRB-", "|", ".", "P", "We", "next", "focus", "on", "the", "AgreementExistence", "problem", ".", "Note", "that", "membership", "of", "this", "problem", "in", "P", "2", "is", "easy", "to", "proven", ",", "after", "the", "above", "theorem", ".", "However", ",", "the", "reduction", "for", "the", "hardness", "part", "we", "shall", "exploit", "here", "is", "rather", "different", ".", "Theorem", "11", "AgreementExistence", "is", "P", "2", "-", "complete", ".", "Hardness", "holds", "even", "for", "cardinality-based", "weighting", "functions", ".", "Proof", "-LSB-", "Sketch", "-RSB-", ".", "Membership", "is", "shown", "with", "the", "same", "line", "of", "reasoning", "of", "Theorem", "10", ".", "For", "the", "hardness", ",", "consider", "again", "MAX", "-", "WEIGHT", "-", "SAT", ",", "and", "the", "P", "2", "-", "complete", "problem", "of", "deciding", "whether", "it", "has", "a", "unique", "solution", ".", "Let", "P", "be", "the", "P2P", "system", "built", "in", "Theorem", "10", ",", "and", "let", "P", "be", "a", "copy", "of", "it", ",", "obtained", "by", "replacing", "each", "element", "-LRB-", "both", "relations", "and", "peers", "-RRB-", "r", "in", "P", "by", "r", ".", "Then", ",", "consider", "the", "system", "~", "P", "obtained", "as", "the", "union", "of", "P", ",", "P", "and", "a", "fresh", "peer", "u.", "Figure", "2", "shows", "the", "dependency", "graph", "G", "-LRB-", "~", "P", "-RRB-", ".", "The", "local", "schema", "of", "u", "is", "empty", ",", "while", "its", "global", "schema", "consists", "of", "the", "unary", "relation", "r", "u", "with", "the", "constraint", "n", "i", "=", "1", "r", "u", "-LRB-", "bad", "i", "-RRB-", ".", "The", "mapping", "assertions", "are", "as", "follows", ".", "For", "each", "variable", "X", "i", "in", ",", "map", "-LRB-", "u", "-RRB-", "contains", "-LCB-", "r", "x", "i", "-LRB-", "tx", "i", "-RRB-", "r", "x", "i", "-LRB-", "tx", "i", "-RRB-", "-RCB-", "-LCB-", "r", "u", "-LRB-", "bad", "i", "-RRB-", "-RCB-", "and", "-LCB-", "r", "x", "i", "-LRB-", "fx", "i", "-RRB-", "r", "x", "i", "-LRB-", "fx", "i", "-RRB-", "-RCB-", "-LCB-", "r", "u", "-LRB-", "bad", "i", "-RRB-", "-RCB-", ".", "It", "is", "worthwhile", "noting", "that", ",", "for", "the", "sake", "of", "simplicity", ",", "the", "mapping", "assertions", "are", "slightly", "more", "general", "than", "those", "allowed", "in", "the", "usual", "definition", "of", "P2P", "systems", ",", "since", "they", "involve", "joins", "among", "different", "peers", ".", "However", ",", "this", "is", "only", "a", "syntactical", "facility", ",", "as", "such", "a", "mapping", "can", "be", "easily", "simulated", "by", "introducing", "a", "suitable", "dummy", "peer", ".", "The", "idea", "of", "the", "reduction", "is", "that", ",", "if", "the", "same", "assignment", "that", "maximizes", "the", "weight", "of", "the", "satisfied", "clauses", "is", "selected", "for", "both", "P", "and", "P", ",", "then", "r", "u", "-LRB-", "bad", "i", "-RRB-", "is", "pushed", "to", "u", "-LRB-", "for", "each", "i", "-RRB-", ",", "thereby", "violating", "the", "constraint", ".", "Thus", ",", "there", "is", "a", "-LRB-", "nonempty", "-RRB-", "agreement", "in", "~", "P", "if", "and", "only", "if", "there", "are", "at", "least", "two", "such", "assignments", ".", "P", "We", "conclude", "our", "investigation", "by", "observing", "that", "query", "answering", "is", "at", "least", "as", "hard", "as", "AgreementExistence", ".", "Indeed", ",", "intuitively", ",", "if", "peers", "are", "not", "able", "to", "find", "an", "agreement", "in", "an", "inconsistent", "P2P", "system", ",", "then", "the", "answer", "to", "any", "given", "query", "will", "be", "empty", ".", "Moreover", ",", "membership", "can", "be", "proven", "by", "the", "same", "line", "of", "reasoning", "of", "Theorem", "10", ",", "and", "we", "thus", "get", "the", "following", "result", ".", "Theorem", "12", "QueryOutputTuple", "is", "P", "2", "-", "complete", ".", "Hardness", "holds", "even", "for", "cardinality-based", "weighting", "functions", ".", "In", "this", "paper", ",", "we", "investigated", "some", "important", "theoretical", "issues", "in", "P2P", "data", "integration", "systems", ".", "Specifically", ",", "we", "introduced", "a", "setting", "in", "which", "peers", "take", "into", "account", "their", "own", "preferences", "over", "data", "sources", ",", "in", "order", "to", "integrate", "data", "if", "some", "inconsistency", "arise", ".", "This", "seems", "a", "natural", "setting", "for", "such", "kind", "of", "systems", ",", "which", "has", "not", "been", "previously", "investigated", "in", "the", "literature", ".", "It", "turns", "out", "that", "there", "are", "scenarios", "where", "peers", "do", "not", "find", "any", "agreement", "on", "the", "way", "the", "repair", "should", "be", "carried", "out", ",", "and", "where", "some", "kind", "of", "centralized", "coordination", "is", "required", ".", "Actually", ",", "our", "results", "show", "that", "this", "coordination", "comes", "with", "a", "cost", "and", "some", "basic", "problems", "are", "unlikely", "to", "be", "tractable", ".", "However", ",", "the", "complexity", "of", "the", "problems", "studied", "in", "this", "paper", "are", "only", "mildly", "harder", "than", "the", "corresponding", "problems", "in", "traditional", "data", "integration", "systems", ".", "42", "This", "is", "an", "important", "feature", "of", "our", "approach", ",", "that", "paves", "the", "way", "for", "possible", "easy", "implementations", ",", "based", "on", "available", "systems", ".", "In", "particular", ",", "the", "prototypical", "implementation", "appears", "viable", "with", "minor", "efforts", "if", "done", "on", "top", "of", "integration", "systems", "that", "exploit", "a", "declarative", "approach", "to", "data", "integration", "-LRB-", "e.g.", ",", "-LSB-", "18", "-RSB-", ",", "where", "logic", "programs", "serve", "as", "executable", "logic", "specifications", "for", "the", "repair", "computation", "-RRB-", ".", "Indeed", ",", "our", "complexity", "results", "show", "that", "logic", "engines", "able", "to", "express", "all", "problems", "in", "the", "second", "level", "of", "the", "polynomial", "hierarchy", ",", "such", "as", "the", "DLV", "system", "-LSB-", "19", "-RSB-", ",", "suffices", "for", "managing", "the", "framework", ",", "once", "we", "provide", "appropriate", "logic", "specifications", ".", "A", "number", "of", "interesting", "research", "questions", "arise", "from", "this", "work", ".", "First", ",", "it", "is", "natural", "to", "ask", "whether", "the", "framework", "can", "be", "extended", "to", "the", "presence", "of", "existentially", "quantified", "constraints", ".", "This", "can", "be", "easily", "done", "for", "some", "special", "syntactic", "fragments", ",", "such", "as", "for", "non", "key-conflicting", "schemas", ",", "i.e.", ",", "global", "schemas", "enriched", "with", "inclusion", "dependencies", "and", "keys", ",", "for", "which", "decidability", "in", "the", "context", "of", "data", "integration", "systems", "has", "been", "proven", "in", "-LSB-", "7", "-RSB-", ".", "To", "this", "aim", ",", "one", "has", "to", "modify", "the", "algorithm", "in", "-LSB-", "9", "-RSB-", "to", "propagate", "information", "in", "a", "P2P", "system", "by", "accounting", "for", "mapping", "assertion", "as", "well", "as", "for", "inclusion", "dependencies", ",", "and", "eventually", "check", "that", "after", "such", "propagation", "no", "key", "has", "been", "violated", ".", "We", "conclude", "by", "noticing", "that", "an", "avenue", "of", "further", "research", "is", "to", "consider", "more", "sophisticated", "peer-agreement", "semantics", ",", "besides", "the", "Pareto-like", "approach", "described", "here", ".", "For", "instance", ",", "we", "may", "think", "of", "some", "applications", "where", "peers", "may", "form", "cooperating", "groups", ",", "or", "do", "not", "cooperate", "at", "all", ".", "Another", "line", "of", "research", "may", "lead", "to", "enrich", "the", "setting", "by", "further", "kinds", "of", "peer", "preferences", "criteria", ",", "by", "replacing", "or", "complementing", "the", "weighting", "functions", "proposed", "in", "this", "paper", ".", "The", "work", "was", "partially", "supported", "by", "the", "European", "Commission", "under", "project", "IST-2001-33570", "INFOMIX", ".", "Francesco", "Scarcello", "'s", "work", "was", "also", "supported", "by", "ICAR-CNR", ",", "Rende", ",", "Italy", ".", "-LSB-", "1", "-RSB-", "Serge", "Abiteboul", ",", "Richard", "Hull", ",", "and", "Victor", "Vianu", ".", "Foundations", "of", "Databases", ".", "Addison", "Wesley", "Publ", ".", "Co.", ",", "Reading", ",", "Massachussetts", ",", "1995", ".", "-LSB-", "2", "-RSB-", "Marcelo", "Arenas", ",", "Leopoldo", "E.", "Bertossi", ",", "and", "Jan", "Chomicki", ".", "Consistent", "query", "answers", "in", "inconsistent", "databases", ".", "In", "Proc", ".", "of", "PODS", "'", "99", ",", "pages", "68", "79", ",", "1999", ".", "-LSB-", "3", "-RSB-", "P.", "Bernstein", ",", "F.", "Giunchiglia", ",", "A.", "Kementsietsidis", ",", "J.", "Mylopoulos", ",", "L.", "Serafini", ",", "and", "I.", "Zaihrayeu", ".", "Data", "management", "for", "peer-to-peer", "computing", ":", "A", "vision", ".", "In", "Workshop", "on", "the", "Web", "and", "Databases", ",", "WebDB", ",", "2002", ".", "-LSB-", "4", "-RSB-", "Leopoldo", "Bertossi", ",", "Jan", "Chomicki", ",", "Alvaro", "Cortes", ",", "and", "Claudio", "Gutierrez", ".", "Consistent", "answers", "from", "integrated", "data", "sources", ".", "In", "Proc", ".", "of", "FQAS", "'", "02", ",", "pages", "71", "85", ",", "2002", ".", "-LSB-", "5", "-RSB-", "Leopoldo", "E.", "Bertossi", "and", "Loreto", "Bravo", ".", "Query", "answering", "in", "peer-to-peer", "data", "exchange", "systems", ".", "In", "Proc", ".", "of", "EDBT", "Workshops", "2004", ",", "pages", "476", "485", ",", "2004", ".", "-LSB-", "6", "-RSB-", "Loreto", "Bravo", "and", "Leopoldo", "Bertossi", ".", "Logic", "programming", "for", "consistently", "querying", "data", "integration", "systems", ".", "In", "Proc", ".", "of", "IJCAI", "'", "03", ",", "pages", "10", "15", ",", "2003", ".", "-LSB-", "7", "-RSB-", "Andrea", "Cal", "`", "i", ",", "Domenico", "Lembo", ",", "and", "Riccardo", "Rosati", ".", "On", "the", "decidability", "and", "complexity", "of", "query", "answering", "over", "inconsistent", "and", "incomplete", "databases", ".", "In", "Proc", ".", "of", "PODS", "'", "03", ",", "pages", "260", "271", ",", "2003", ".", "-LSB-", "8", "-RSB-", "Andrea", "Cal", "`", "i", ",", "Domenico", "Lembo", ",", "and", "Riccardo", "Rosati", ".", "Query", "rewriting", "and", "answering", "under", "constraints", "in", "data", "integration", "systems", ".", "In", "Proc", ".", "of", "IJCAI", "'", "03", ",", "pages", "16", "21", ",", "2003", ".", "-LSB-", "9", "-RSB-", "Diego", "Calvanese", ",", "Giuseppe", "De", "Giacomo", ",", "Maurizio", "Lenzerini", ",", "and", "Riccardo", "Rosati", ".", "Logical", "foundations", "of", "peer-to-peer", "data", "integration", ".", "In", "Proc", ".", "of", "PODS", "'", "04", ",", "pages", "241", "251", ",", "2004", ".", "-LSB-", "10", "-RSB-", "Thomas", "Eiter", ",", "Michael", "Fink", ",", "Gianluigi", "Greco", ",", "and", "Domenico", "Lembo", ".", "Efficient", "evaluation", "of", "logic", "programs", "for", "querying", "data", "integration", "systems", ".", "In", "Proc", ".", "of", "ICLP", "'", "03", ",", "pages", "348", "364", ",", "2003", ".", "-LSB-", "11", "-RSB-", "Enrico", "Franconi", ",", "Gabriel", "Kuper", ",", "Andrei", "Lopatenko", ",", "and", "Luciano", "Serafini", ".", "A", "robust", "logical", "and", "computational", "characterisation", "of", "peer-to-peer", "database", "systems", ".", "In", "Proc", ".", "of", "DBISP2P", "'", "03", ",", "pages", "64", "76", ",", "2003", ".", "-LSB-", "12", "-RSB-", "Enrico", "Franconi", ",", "Gabriel", "Kuper", ",", "Andrei", "Lopatenko", ",", "and", "Ilya", "Zaihrayeu", ".", "A", "distributed", "algorithm", "for", "robust", "data", "sharing", "and", "updates", "in", "p2p", "database", "networks", ".", "In", "Proc", ".", "of", "P2P", "&", "DB", "'", "04", ",", "pages", "446", "455", ",", "2004", ".", "-LSB-", "13", "-RSB-", "Enrico", "Franconi", ",", "Gabriel", "Kuper", ",", "Andrei", "Lopatenko", ",", "and", "Ilya", "Zaihrayeu", ".", "Queries", "and", "updates", "in", "the", "codb", "peer", "to", "peer", "database", "system", ".", "In", "Proc", ".", "of", "VLDB", "'", "04", ",", "pages", "1277", "1280", ",", "2004", ".", "-LSB-", "14", "-RSB-", "Gianluigi", "Greco", ",", "Sergio", "Greco", ",", "and", "Ester", "Zumpano", ".", "A", "logic", "programming", "approach", "to", "the", "integration", ",", "repairing", "and", "querying", "of", "inconsistent", "databases", ".", "In", "Proc", ".", "of", "ICLP", "'", "01", ",", "pages", "348", "364", ".", "Springer", ",", "2001", ".", "-LSB-", "15", "-RSB-", "Gianluigi", "Greco", "and", "Domenico", "Lembo", ".", "Data", "integration", "with", "prefernces", "among", "sources", ".", "In", "Proc", ".", "of", "ER", "'", "04", ",", "pages", "231", "244", ",", "2004", ".", "-LSB-", "16", "-RSB-", "Alon", "Y.", "Halevy", ",", "Zachary", "G.", "Ives", ",", "Peter", "Mork", ",", "and", "Igor", "Tatarinov", ".", "Piazza", ":", "data", "management", "infrastructure", "for", "semantic", "web", "applications", ".", "In", "Proc", ".", "of", "WWW", "'", "03", ",", "pages", "556", "567", ",", "2003", ".", "-LSB-", "17", "-RSB-", "Maurizio", "Lenzerini", ".", "Quality-aware", "peer-to-peer", "data", "integration", ".", "In", "Proc", ".", "of", "IQIS", "'", "04", ",", "2004", ".", "-LSB-", "18", "-RSB-", "Nicola", "Leone", ",", "Thomas", "Eiter", ",", "Wolfgang", "Faber", ",", "Michael", "Fink", ",", "Georg", "Gottlob", ",", "Gianluigi", "Greco", ",", "Giovambattista", "Ianni", ",", "Edyta", "Kalka", ",", "Domenico", "Lembo", ",", "Maurizio", "Lenzerini", ",", "Vincenzino", "Lio", ",", "Bartosz", "Nowicki", ",", "Riccardo", "Rosati", ",", "Marco", "Ruzzi", ",", "Witold", "Staniszkis", ",", "and", "Giorgio", "Terracina", ".", "The", "INFOMIX", "system", "for", "advanced", "integration", "of", "incomplete", "and", "inconsistent", "data", ".", "In", "Proc", ".", "of", "SIGMOD", "'", "05", ",", "pages", "915", "917", ",", "2005", ".", "-LSB-", "19", "-RSB-", "Nicola", "Leone", ",", "Gerald", "Pfeifer", ",", "Wolfgang", "Faber", ",", "Thomas", "Eiter", ",", "Georg", "Gottlob", ",", "Simona", "Perri", ",", "and", "Francesco", "Scarcello", ".", "The", "DLV", "System", "for", "Knowledge", "Representation", "and", "Reasoning", ".", "ACM", "Transaction", "on", "Cumputational", "Logic", ".", "To", "appear", ".", "-LSB-", "20", "-RSB-", "Luciano", "Serafini", ",", "Fausto", "Giunchiglia", ",", "John", "Mylopoulos", ",", "and", "Philip", "A.", "Bernstein", ".", "Local", "relational", "model", ":", "A", "logical", "formalization", "of", "database", "coordination", ".", "In", "Fourth", "International", "and", "Interdisciplinary", "Conference", "on", "Modeling", "and", "Using", "Context", ",", "CONTEXT", "2003", ",", "pages", "286", "299", ",", "2003", ".", "-LSB-", "21", "-RSB-", "Igor", "Tatarinov", "and", "Alon", "Halevy", ".", "Efficient", "query", "reformulation", "in", "peer", "data", "management", "systems", ".", "In", "Proc", ".", "of", "SIGMOD", "'", "04", ",", "pages", "539", "550", ",", "2004", ".", "43"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["data integration systems"], "abstractive_keyphrases": ["peer-to-peer systems"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "173", "document": ["Scalable", "Mining", "of", "Large", "Disk-based", "Graph", "Databases", "Mining", "frequent", "structural", "patterns", "from", "graph", "databases", "is", "an", "interesting", "problem", "with", "broad", "applications", ".", "Most", "of", "the", "previous", "studies", "focus", "on", "pruning", "unfruitful", "search", "subspaces", "effectively", ",", "but", "few", "of", "them", "address", "the", "mining", "on", "large", ",", "disk-based", "databases", ".", "As", "many", "graph", "databases", "in", "applications", "can", "not", "be", "held", "into", "main", "memory", ",", "scalable", "mining", "of", "large", ",", "disk-based", "graph", "databases", "remains", "a", "challenging", "problem", ".", "In", "this", "paper", ",", "we", "develop", "an", "effective", "index", "structure", ",", "ADI", "-LRB-", "for", "adjacency", "index", "-RRB-", ",", "to", "support", "mining", "various", "graph", "patterns", "over", "large", "databases", "that", "can", "not", "be", "held", "into", "main", "memory", ".", "The", "index", "is", "simple", "and", "efficient", "to", "build", ".", "Moreover", ",", "the", "new", "index", "structure", "can", "be", "easily", "adopted", "in", "various", "existing", "graph", "pattern", "mining", "algorithms", ".", "As", "an", "example", ",", "we", "adapt", "the", "well-known", "gSpan", "algorithm", "by", "using", "the", "ADI", "structure", ".", "The", "experimental", "results", "show", "that", "the", "new", "index", "structure", "enables", "the", "scalable", "graph", "pattern", "mining", "over", "large", "databases", ".", "In", "one", "set", "of", "the", "experiments", ",", "the", "new", "disk-based", "method", "can", "mine", "graph", "databases", "with", "one", "million", "graphs", ",", "while", "the", "original", "gSpan", "algorithm", "can", "only", "handle", "databases", "of", "up", "to", "300", "thousand", "graphs", ".", "Moreover", ",", "our", "new", "method", "is", "faster", "than", "gSpan", "when", "both", "can", "run", "in", "main", "memory", ".", "H.", "2.8", "-LSB-", "Database", "Applications", "-RSB-", ":", "Data", "Mining", "Algorithms", ",", "Performances", ".", "Mining", "frequent", "graph", "patterns", "is", "an", "interesting", "research", "problem", "with", "broad", "applications", ",", "including", "mining", "struc", "This", "research", "is", "supported", "in", "part", "by", "NSF", "grant", "IIS-0308001", "and", "National", "Natural", "Science", "Foundation", "of", "China", "-LRB-", "No.", "60303008", "-RRB-", ".", "All", "opinions", ",", "findings", ",", "conclusions", "and", "recommendations", "in", "this", "paper", "are", "those", "of", "the", "authors", "and", "do", "not", "necessarily", "reflect", "the", "views", "of", "the", "funding", "agencies", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "tural", "patterns", "from", "chemical", "compound", "databases", ",", "plan", "databases", ",", "XML", "documents", ",", "web", "logs", ",", "citation", "networks", ",", "and", "so", "forth", ".", "Several", "efficient", "algorithms", "have", "been", "proposed", "in", "the", "previous", "studies", "-LSB-", "2", ",", "5", ",", "6", ",", "8", ",", "11", ",", "9", "-RSB-", ",", "ranging", "from", "mining", "graph", "patterns", ",", "with", "and", "without", "constraints", ",", "to", "mining", "closed", "graph", "patterns", ".", "Most", "of", "the", "existing", "methods", "assume", "implicitly", "or", "explic-itly", "that", "the", "databases", "are", "not", "very", "large", ",", "and", "the", "graphs", "in", "the", "database", "are", "relatively", "simple", ".", "That", "is", ",", "either", "the", "databases", "or", "the", "major", "part", "of", "them", "can", "fit", "into", "main", "memory", ",", "and", "the", "number", "of", "possible", "labels", "in", "the", "graphs", "-LSB-", "6", "-RSB-", "is", "small", ".", "For", "example", ",", "-LSB-", "11", "-RSB-", "reports", "the", "performance", "of", "gSpan", ",", "an", "efficient", "frequent", "graph", "pattern", "mining", "algorithm", ",", "on", "data", "sets", "of", "size", "up", "to", "320", "KB", ",", "using", "a", "computer", "with", "448", "MB", "main", "memory", ".", "Clearly", ",", "the", "graph", "database", "and", "the", "projected", "databases", "can", "be", "easily", "accommodated", "into", "main", "memory", ".", "Under", "the", "large", "main", "memory", "assumption", ",", "the", "computation", "is", "CPU-bounded", "instead", "of", "I/O-bounded", ".", "Then", ",", "the", "algorithms", "focus", "on", "effective", "heuristics", "to", "prune", "the", "search", "space", ".", "Few", "of", "them", "address", "the", "concern", "of", "handling", "large", "graph", "databases", "that", "can", "not", "be", "held", "in", "main", "memory", ".", "While", "the", "previous", "studies", "have", "made", "excellent", "progress", "in", "mining", "graph", "databases", "of", "moderate", "size", ",", "mining", "large", ",", "disk-based", "graph", "databases", "remains", "a", "challenging", "problem", ".", "When", "mining", "a", "graph", "database", "that", "can", "not", "fit", "into", "main", "memory", ",", "the", "algorithms", "have", "to", "scan", "the", "database", "and", "navigate", "the", "graphs", "repeatedly", ".", "The", "computation", "becomes", "I/O-bounded", ".", "For", "example", ",", "we", "obtain", "the", "executable", "of", "gSpan", "from", "the", "authors", "and", "test", "its", "scalability", ".", "In", "one", "of", "our", "experiments", "1", ",", "we", "increase", "the", "number", "of", "graphs", "in", "the", "database", "to", "test", "the", "scalability", "of", "gSpan", "on", "the", "database", "size", ".", "gSpan", "can", "only", "handle", "up", "to", "300", "thousand", "graphs", ".", "In", "another", "experiment", ",", "we", "increase", "the", "number", "of", "possible", "labels", "in", "graphs", ".", "We", "observe", "that", "the", "runtime", "of", "gSpan", "increases", "exponentially", ".", "It", "finishes", "a", "data", "set", "of", "300", "thousand", "graphs", "with", "636", "seconds", "when", "there", "are", "only", "10", "possible", "labels", ",", "but", "needs", "15", "hours", "for", "a", "data", "set", "with", "the", "same", "size", "but", "the", "number", "of", "possible", "labels", "is", "45", "!", "This", "result", "is", "consistent", "with", "the", "results", "reported", "in", "-LSB-", "11", "-RSB-", ".", "Are", "there", "any", "real-life", "applications", "that", "need", "to", "mine", "large", "graph", "databases", "?", "The", "answer", "is", "yes", ".", "For", "example", ",", "in", "data", "integration", "of", "XML", "documents", "or", "mining", "semantic", "web", ",", "it", "is", "often", "required", "to", "find", "the", "common", "substructures", "from", "a", "huge", "collection", "of", "XML", "documents", ".", "It", "is", "easy", "to", "see", "applications", "with", "collections", "of", "millions", "of", "XML", "documents", ".", "There", "are", "1", "Details", "will", "be", "provided", "in", "Section", "6", "316", "Research", "Track", "Paper", "hundreds", "of", "even", "thousands", "of", "different", "labels", ".", "As", "another", "example", ",", "chemical", "structures", "can", "be", "modeled", "as", "graphs", ".", "A", "chemical", "database", "for", "drug", "development", "can", "contain", "millions", "of", "different", "chemical", "structures", ",", "and", "the", "number", "of", "different", "labels", "in", "the", "graphs", "can", "easily", "go", "to", "up", "to", "100", ".", "These", "large", "databases", "are", "disk-based", "and", "often", "can", "not", "be", "held", "into", "main", "memory", ".", "Why", "is", "mining", "large", "disk-based", "graph", "databases", "so", "challenging", "?", "In", "most", "of", "the", "previous", "studies", ",", "the", "major", "data", "structures", "are", "designed", "for", "being", "held", "in", "main", "memory", ".", "For", "example", ",", "the", "adjacency-list", "or", "adjacency-matrix", "representations", "are", "often", "used", "to", "represent", "graphs", ".", "Moreover", ",", "most", "of", "the", "previous", "methods", "are", "based", "on", "efficient", "random", "accesses", "to", "elements", "-LRB-", "e.g.", ",", "edges", "and", "their", "adjacent", "edges", "-RRB-", "in", "graphs", ".", "However", ",", "if", "the", "adjacency-list", "or", "adjacency-matrix", "representations", "can", "not", "be", "held", "in", "main", "memory", ",", "the", "random", "accesses", "to", "them", "become", "very", "expensive", ".", "For", "disk-based", "data", ",", "without", "any", "index", ",", "random", "accesses", "can", "be", "extremely", "costly", ".", "Can", "we", "make", "mining", "large", ",", "disk-based", "graph", "databases", "feasible", "and", "scalable", "?", "This", "is", "the", "motivation", "of", "our", "study", ".", "Since", "the", "bottleneck", "is", "the", "random", "accesses", "to", "the", "large", "disk-based", "graph", "databases", ",", "a", "natural", "idea", "is", "to", "index", "the", "graph", "databases", "properly", ".", "Designing", "effective", "and", "efficient", "index", "structures", "is", "one", "of", "the", "most", "invaluable", "exercises", "in", "database", "research", ".", "A", "good", "index", "structure", "can", "support", "a", "general", "category", "of", "data", "access", "operations", ".", "Particularly", ",", "a", "good", "index", "should", "be", "efficient", "and", "scalable", "in", "construction", "and", "maintenance", ",", "and", "fast", "for", "data", "access", ".", "Instead", "of", "inventing", "new", "algorithms", "to", "mine", "large", ",", "disk-based", "graph", "patterns", ",", "can", "we", "devise", "an", "efficient", "index", "structure", "for", "graph", "databases", "so", "that", "mining", "various", "graph", "patterns", "can", "be", "conducted", "scalably", "?", "Moreover", ",", "the", "index", "structure", "should", "be", "easy", "to", "be", "adopted", "in", "various", "existing", "methods", "with", "minor", "adaptations", ".", "Stimulated", "by", "the", "above", "thinking", ",", "in", "this", "paper", ",", "we", "study", "the", "problem", "of", "efficient", "index", "for", "scalable", "mining", "of", "large", ",", "disk-based", "graph", "databases", ",", "and", "make", "the", "following", "contributions", ".", "By", "analyzing", "the", "frequent", "graph", "pattern", "mining", "problem", "and", "the", "typical", "graph", "pattern", "mining", "algorithms", "-LRB-", "taking", "gSpan", "as", "an", "example", "-RRB-", ",", "we", "identify", "several", "bottleneck", "data", "access", "operations", "in", "mining", "large", ",", "disk-based", "graph", "databases", ".", "We", "propose", "ADI", "-LRB-", "for", "adjacency", "index", "-RRB-", ",", "an", "effective", "index", "structure", "for", "graphs", ".", "We", "show", "that", "the", "major", "operations", "in", "graph", "mining", "can", "be", "facilitated", "efficiently", "by", "an", "ADI", "structure", ".", "The", "construction", "algorithm", "of", "ADI", "structure", "is", "presented", ".", "We", "adapt", "the", "gSpan", "algorithm", "by", "using", "the", "ADI", "structure", "on", "mining", "large", ",", "disk-based", "graph", "databases", ",", "and", "achieve", "algorithm", "ADI-Mine", ".", "We", "show", "that", "ADI-Mine", "outperforms", "gSpan", "in", "mining", "complex", "graph", "databases", "and", "can", "mine", "much", "larger", "databases", "than", "gSpan", ".", "A", "systematic", "performance", "study", "is", "reported", "to", "verify", "our", "design", ".", "The", "results", "show", "that", "our", "new", "index", "structure", "and", "algorithm", "are", "scalable", "on", "large", "data", "sets", ".", "The", "remainder", "of", "the", "paper", "is", "organized", "as", "follows", ".", "We", "define", "the", "problem", "of", "frequent", "graph", "pattern", "mining", "in", "Section", "2", ".", "The", "idea", "of", "minimum", "DFS", "code", "and", "algorithm", "gSpan", "b", "b", "a", "a", "y", "z", "x", "x", "x", "x", "z", "a", "a", "b", "v3", "v2", "v1", "v0", "b", "b", "a", "a", "y", "z", "x", "x", "v3", "v2", "v0", "v1", "b", "b", "a", "a", "y", "z", "x", "x", "-LRB-", "a", "-RRB-", "Graph", "-LRB-", "b", "-RRB-", "Subgraph", "-LRB-", "c", "-RRB-", "DFS-tree", "-LRB-", "d", "-RRB-", "DFS-tree", "G", "G", "T", "1", "T", "2", "Figure", "1", ":", "Subgraph", "and", "DFS", "codes", "are", "reviewed", "in", "Section", "3", ",", "and", "the", "major", "data", "access", "operations", "in", "graph", "mining", "are", "also", "identified", ".", "The", "ADI", "structure", "is", "developed", "in", "Section", "4", ".", "The", "efficient", "algorithm", "ADI-Mine", "for", "mining", "large", ",", "disk-based", "graph", "databases", "using", "ADI", "is", "presented", "in", "Section", "5", ".", "The", "experimental", "results", "are", "reported", "in", "Section", "6", ".", "The", "related", "work", "is", "discussed", "in", "Section", "7", ".", "Section", "8", "concludes", "the", "paper", ".", "In", "this", "paper", ",", "we", "focus", "on", "undirected", "labeled", "simple", "graphs", ".", "A", "labeled", "graph", "is", "a", "4-tuple", "G", "=", "-LRB-", "V", ",", "E", ",", "L", ",", "l", "-RRB-", ",", "where", "V", "is", "a", "set", "of", "vertices", ",", "E", "V", "V", "is", "a", "set", "of", "edges", ",", "L", "is", "a", "set", "of", "labels", ",", "and", "l", ":", "V", "E", "L", "is", "a", "labeling", "function", "that", "assigns", "a", "label", "to", "an", "edge", "or", "a", "vertex", ".", "We", "denote", "the", "vertex", "set", "and", "the", "edge", "set", "of", "a", "graph", "G", "by", "V", "-LRB-", "G", "-RRB-", "and", "E", "-LRB-", "G", "-RRB-", ",", "respectively", ".", "A", "graph", "G", "is", "called", "connected", "if", "for", "any", "vertices", "u", ",", "v", "V", "-LRB-", "G", "-RRB-", ",", "there", "exist", "vertices", "w", "1", ",", "...", ",", "w", "n", "V", "-LRB-", "G", "-RRB-", "such", "that", "-LCB-", "-LRB-", "u", ",", "w", "1", "-RRB-", ",", "-LRB-", "w", "1", ",", "w", "2", "-RRB-", ",", "...", ",", "-LRB-", "w", "n-1", ",", "w", "n", "-RRB-", ",", "-LRB-", "w", "n", ",", "v", "-RRB-", "-RCB-", "E", "-LRB-", "G", "-RRB-", ".", "Frequent", "patterns", "in", "graphs", "are", "defined", "based", "on", "subgraph", "isomorphism", ".", "Definition", "1", "-LRB-", "Subgraph", "isomorphism", "-RRB-", ".", "Given", "graphs", "G", "=", "-LRB-", "V", ",", "E", ",", "L", ",", "l", "-RRB-", "and", "G", "=", "-LRB-", "V", ",", "E", ",", "L", ",", "l", "-RRB-", ".", "An", "injective", "function", "f", ":", "V", "V", "is", "called", "a", "subgraph", "isomorphism", "from", "G", "to", "G", "if", "-LRB-", "1", "-RRB-", "for", "any", "vertex", "u", "V", ",", "f", "-LRB-", "u", "-RRB-", "V", "and", "l", "-LRB-", "u", "-RRB-", "=", "l", "-LRB-", "f", "-LRB-", "u", "-RRB-", "-RRB-", ";", "and", "-LRB-", "2", "-RRB-", "for", "any", "edge", "-LRB-", "u", ",", "v", "-RRB-", "E", ",", "-LRB-", "f", "-LRB-", "u", "-RRB-", ",", "f", "-LRB-", "v", "-RRB-", "-RRB-", "E", "and", "l", "-LRB-", "u", ",", "v", "-RRB-", "=", "l", "-LRB-", "f", "-LRB-", "u", "-RRB-", ",", "f", "-LRB-", "v", "-RRB-", "-RRB-", ".", "If", "there", "exists", "a", "subgraph", "isomorphism", "from", "G", "to", "G", ",", "then", "G", "is", "called", "a", "subgraph", "of", "G", "and", "G", "is", "called", "a", "supergraph", "of", "G", ",", "denoted", "as", "G", "G.", "For", "example", ",", "the", "graph", "G", "in", "Figure", "1", "-LRB-", "b", "-RRB-", "is", "a", "subgraph", "of", "G", "in", "Figure", "1", "-LRB-", "a", "-RRB-", ".", "A", "graph", "database", "is", "a", "set", "of", "tuples", "-LRB-", "gid", ",", "G", "-RRB-", ",", "where", "gid", "is", "a", "graph", "identity", "and", "G", "is", "a", "graph", ".", "Given", "a", "graph", "database", "GDB", ",", "the", "support", "of", "a", "graph", "G", "in", "GDB", ",", "denoted", "as", "sup", "-LRB-", "G", "-RRB-", "for", "short", ",", "is", "the", "number", "of", "graphs", "in", "the", "database", "that", "are", "supergraphs", "of", "G", ",", "i.e.", ",", "|", "-LCB-", "-LRB-", "gid", ",", "G", "-RRB-", "GDB", "|", "G", "G", "-RCB-", "|", ".", "For", "a", "support", "threshold", "min", "sup", "-LRB-", "0", "min", "sup", "|", "GDB", "|", "-RRB-", ",", "a", "graph", "G", "is", "called", "a", "frequent", "graph", "pattern", "if", "sup", "-LRB-", "G", "-RRB-", "min", "sup", ".", "In", "many", "applications", ",", "users", "are", "only", "interested", "in", "the", "frequent", "recurring", "components", "of", "graphs", ".", "Thus", ",", "we", "put", "a", "constraint", "on", "the", "graph", "patterns", ":", "we", "only", "find", "the", "frequent", "graph", "patterns", "that", "are", "connected", ".", "Problem", "definition", ".", "Given", "a", "graph", "database", "GDB", "and", "a", "support", "threshold", "min", "sup", ".", "The", "problem", "of", "mining", "frequent", "connected", "graph", "patterns", "is", "to", "find", "the", "complete", "set", "of", "connected", "graphs", "that", "are", "frequent", "in", "GDB", ".", "317", "Research", "Track", "Paper", "In", "-LSB-", "11", "-RSB-", ",", "Yan", "and", "Han", "developed", "the", "lexicographic", "ordering", "technique", "to", "facilitate", "the", "graph", "pattern", "mining", ".", "They", "also", "propose", "an", "efficient", "algorithm", ",", "gSpan", ",", "one", "of", "the", "most", "efficient", "graph", "pattern", "mining", "algorithms", "so", "far", ".", "In", "this", "section", ",", "we", "review", "the", "essential", "ideas", "of", "gSpan", ",", "and", "point", "out", "the", "bottlenecks", "in", "the", "graph", "pattern", "mining", "from", "large", "disk-based", "databases", ".", "3.1", "Minimum", "DFS", "Code", "In", "order", "to", "enumerate", "all", "frequent", "graph", "patterns", "efficiently", ",", "we", "want", "to", "identify", "a", "linear", "order", "on", "a", "representation", "of", "all", "graph", "patterns", "such", "that", "if", "two", "graphs", "are", "in", "identical", "representation", ",", "then", "they", "are", "isomorphic", ".", "Moreover", ",", "all", "the", "-LRB-", "possible", "-RRB-", "graph", "patterns", "can", "be", "enumerated", "in", "the", "order", "without", "any", "redundancy", ".", "The", "depth-first", "search", "tree", "-LRB-", "DFS-tree", "for", "short", "-RRB-", "-LSB-", "3", "-RSB-", "is", "popularly", "used", "for", "navigating", "connected", "graphs", ".", "Thus", ",", "it", "is", "natural", "to", "encode", "the", "edges", "and", "vertices", "in", "a", "graph", "based", "on", "its", "DFS-tree", ".", "All", "the", "vertices", "in", "G", "can", "be", "encoded", "in", "the", "pre-order", "of", "T", ".", "However", ",", "the", "DFS-tree", "is", "generally", "not", "unique", "for", "a", "graph", ".", "That", "is", ",", "there", "can", "be", "multiple", "DFS-trees", "corresponding", "to", "a", "given", "graph", ".", "For", "example", ",", "Figures", "1", "-LRB-", "c", "-RRB-", "and", "1", "-LRB-", "d", "-RRB-", "show", "two", "DFS-trees", "of", "the", "graph", "G", "in", "Figure", "1", "-LRB-", "a", "-RRB-", ".", "The", "thick", "edges", "in", "Figures", "1", "-LRB-", "c", "-RRB-", "and", "1", "-LRB-", "d", "-RRB-", "are", "those", "in", "the", "DFS-trees", ",", "and", "are", "called", "forward", "edges", ",", "while", "the", "thin", "edges", "are", "those", "not", "in", "the", "DFS-trees", ",", "and", "are", "called", "backward", "edges", ".", "The", "vertices", "in", "the", "graph", "are", "encoded", "v", "0", "to", "v", "3", "according", "to", "the", "pre-order", "of", "the", "corresponding", "DFS-trees", ".", "To", "solve", "the", "uniqueness", "problem", ",", "a", "minimum", "DFS", "code", "notation", "is", "proposed", "in", "-LSB-", "11", "-RSB-", ".", "For", "any", "connected", "graph", "G", ",", "let", "T", "be", "a", "DFS-tree", "of", "G.", "Then", ",", "an", "edge", "is", "always", "listed", "as", "-LRB-", "v", "i", ",", "v", "j", "-RRB-", "such", "that", "i", "<", "j", ".", "A", "linear", "order", "on", "the", "edges", "in", "G", "can", "be", "defined", "as", "follows", ".", "Given", "edges", "e", "=", "-LRB-", "v", "i", ",", "v", "j", "-RRB-", "and", "e", "=", "-LRB-", "v", "i", ",", "v", "j", "-RRB-", ".", "e", "e", "if", "-LRB-", "1", "-RRB-", "when", "both", "e", "and", "e", "are", "forward", "edges", "-LRB-", "i.e.", ",", "in", "DFS-tree", "T", "-RRB-", ",", "j", "<", "j", "or", "-LRB-", "i", ">", "i", "j", "=", "j", "-RRB-", ";", "-LRB-", "2", "-RRB-", "when", "both", "e", "and", "e", "are", "backward", "edges", "-LRB-", "i.e.", ",", "edges", "not", "in", "DFS-tree", "T", "-RRB-", ",", "i", "<", "i", "or", "-LRB-", "i", "=", "i", "j", "<", "j", "-RRB-", ";", "-LRB-", "3", "-RRB-", "when", "e", "is", "a", "forward", "edge", "and", "e", "is", "a", "backward", "edge", ",", "j", "i", ";", "or", "-LRB-", "4", "-RRB-", "when", "e", "is", "a", "backward", "edge", "and", "e", "is", "a", "forward", "edge", ",", "i", "<", "j", ".", "For", "a", "graph", "G", "and", "a", "DFS-tree", "T", ",", "a", "list", "of", "all", "edges", "in", "E", "-LRB-", "G", "-RRB-", "in", "order", "is", "called", "the", "DFS", "code", "of", "G", "with", "respect", "to", "T", ",", "denoted", "as", "code", "-LRB-", "G", ",", "T", "-RRB-", ".", "For", "example", ",", "the", "DFS", "code", "with", "respect", "to", "the", "DFS-tree", "T", "1", "in", "Figure", "1", "-LRB-", "c", "-RRB-", "is", "code", "-LRB-", "G", ",", "T", "1", "-RRB-", "=", "-LRB-", "v", "0", ",", "v", "1", ",", "x", ",", "a", ",", "x", "-RRB-", "-", "-LRB-", "v", "1", ",", "v", "2", ",", "x", ",", "a", ",", "z", "-RRB-", "-", "-LRB-", "v", "2", ",", "v", "0", ",", "z", ",", "b", ",", "x", "-RRB-", "-", "-LRB-", "v", "1", ",", "v", "3", ",", "x", ",", "b", ",", "y", "-RRB-", ",", "where", "an", "edge", "-LRB-", "v", "i", ",", "v", "j", "-RRB-", "is", "written", "as", "-LRB-", "v", "i", ",", "v", "j", ",", "l", "-LRB-", "v", "i", "-RRB-", ",", "l", "-LRB-", "v", "i", ",", "v", "j", "-RRB-", ",", "l", "-LRB-", "v", "j", "-RRB-", "-RRB-", ",", "i.e.", ",", "the", "labels", "are", "included", ".", "Similarly", ",", "the", "DFS", "code", "with", "respect", "to", "the", "DFS-tree", "T", "2", "in", "Figure", "1", "-LRB-", "d", "-RRB-", "is", "code", "-LRB-", "G", ",", "T", "2", "-RRB-", "=", "-LRB-", "v", "0", ",", "v", "1", ",", "y", ",", "b", ",", "x", "-RRB-", "-", "-LRB-", "v", "1", ",", "v", "2", ",", "x", ",", "a", ",", "x", "-RRB-", "-", "-LRB-", "v", "2", ",", "v", "3", ",", "x", ",", "b", ",", "z", "-RRB-", "-LRB-", "v", "3", ",", "v", "1", ",", "z", ",", "a", ",", "x", "-RRB-", ".", "Suppose", "there", "is", "a", "linear", "order", "over", "the", "label", "set", "L.", "Then", ",", "for", "DFS-trees", "T", "1", "and", "T", "2", "on", "the", "same", "graph", "G", ",", "their", "DFS", "codes", "can", "be", "compared", "lexically", "according", "to", "the", "labels", "of", "the", "edges", ".", "For", "example", ",", "we", "have", "code", "-LRB-", "G", ",", "T", "1", "-RRB-", "<", "code", "-LRB-", "G", ",", "T", "2", "-RRB-", "in", "Figures", "1", "-LRB-", "c", "-RRB-", "and", "1", "-LRB-", "d", "-RRB-", ".", "The", "lexically", "minimum", "DFS", "code", "is", "selected", "as", "the", "representation", "of", "the", "graph", ",", "denoted", "as", "min", "-LRB-", "G", "-RRB-", ".", "In", "our", "example", "in", "Figure", "1", ",", "min", "-LRB-", "G", "-RRB-", "=", "code", "-LRB-", "G", ",", "T", "1", "-RRB-", ".", "Minimum", "DFS", "code", "has", "a", "nice", "property", ":", "two", "graphs", "G", "and", "G", "are", "isomorphic", "if", "and", "only", "if", "min", "-LRB-", "G", "-RRB-", "=", "min", "-LRB-", "G", "-RRB-", ".", "Moreover", ",", "with", "the", "minimum", "DFS", "code", "of", "graphs", ",", "the", "prob-Input", ":", "a", "DFS", "code", "s", ",", "a", "graph", "database", "GDB", "and", "min", "sup", "Output", ":", "the", "frequent", "graph", "patterns", "Method", ":", "if", "s", "is", "not", "a", "minimum", "DFS", "code", "then", "return", ";", "output", "s", "as", "a", "pattern", "if", "s", "is", "frequent", "in", "GDB", ";", "let", "C", "=", ";", "scan", "GDB", "once", ",", "find", "every", "edge", "e", "such", "that", "e", "can", "be", "concatenated", "to", "s", "to", "form", "a", "DFS", "code", "s", "e", "and", "s", "e", "is", "frequent", ";", "C", "=", "C", "-LCB-", "s", "e", "-RCB-", ";", "sort", "the", "DFS", "codes", "in", "C", "in", "lexicographic", "order", ";", "for", "each", "s", "e", "C", "in", "lexicographic", "order", "do", "call", "gSpan", "-LRB-", "s", "e", ",", "GDB", ",", "min", "sup", "-RRB-", ";", "return", ";", "Figure", "2", ":", "Algorithm", "gSpan", ".", "lem", "of", "mining", "frequent", "graph", "patterns", "is", "reduced", "to", "mining", "frequent", "minimum", "DFS", "codes", ",", "which", "are", "sequences", ",", "with", "some", "constraints", "that", "preserve", "the", "connectivity", "of", "the", "graph", "patterns", ".", "3.2", "Algorithm", "gSpan", "Based", "on", "the", "minimum", "DFS", "codes", "of", "graphs", ",", "a", "depth-first", "search", ",", "pattern-growth", "algorithm", ",", "gSpan", ",", "is", "developed", "in", "-LSB-", "11", "-RSB-", ",", "as", "shown", "in", "Figure", "2", ".", "The", "central", "idea", "is", "to", "conduct", "a", "depth-first", "search", "of", "minimum", "DFS", "codes", "of", "possible", "graph", "patterns", ",", "and", "obtain", "longer", "DFS", "codes", "of", "larger", "graph", "patterns", "by", "attaching", "new", "edges", "to", "the", "end", "of", "the", "minimum", "DFS", "code", "of", "the", "existing", "graph", "pattern", ".", "The", "anti-monotonicity", "of", "frequent", "graph", "patterns", ",", "i.e.", ",", "any", "super", "pattern", "of", "an", "infrequent", "graph", "pattern", "can", "not", "be", "frequent", ",", "is", "used", "to", "prune", ".", "Comparing", "to", "the", "previous", "methods", "on", "graph", "pattern", "mining", ",", "gSpan", "is", "efficient", ",", "since", "gSpan", "employs", "the", "smart", "idea", "of", "minimum", "DFS", "codes", "of", "graph", "patterns", "that", "facilitates", "the", "isomorphism", "test", "and", "pattern", "enumeration", ".", "Moreover", ",", "gSpan", "inherits", "the", "depth-first", "search", ",", "pattern-growth", "methodology", "to", "avoid", "any", "candidate-generation-and-test", ".", "As", "reported", "in", "-LSB-", "11", "-RSB-", ",", "the", "advantages", "of", "gSpan", "are", "verified", "by", "the", "experimental", "results", "on", "both", "real", "data", "sets", "and", "synthetic", "data", "sets", ".", "3.3", "Bottlenecks", "in", "Mining", "Disk-based", "Graph", "Databases", "Algorithm", "gSpan", "is", "efficient", "when", "the", "database", "can", "be", "held", "into", "main", "memory", ".", "For", "example", ",", "in", "-LSB-", "11", "-RSB-", ",", "gSpan", "is", "scalable", "for", "databases", "of", "size", "up", "to", "320", "KB", "using", "a", "computer", "with", "448", "MB", "main", "memory", ".", "However", ",", "it", "may", "encounter", "difficulties", "when", "mining", "large", "databases", ".", "The", "major", "overhead", "is", "that", "gSpan", "has", "to", "randomly", "access", "elements", "-LRB-", "e.g.", ",", "edges", "and", "vertices", "-RRB-", "in", "the", "graph", "database", "as", "well", "as", "the", "projections", "of", "the", "graph", "database", "many", "times", ".", "For", "databases", "that", "can", "not", "be", "held", "into", "main", "memory", ",", "the", "mining", "becomes", "I/O", "bounded", "and", "thus", "is", "costly", ".", "Random", "accesses", "to", "elements", "in", "graph", "databases", "and", "checking", "the", "isomorphism", "are", "not", "unique", "to", "gSpan", ".", "Instead", ",", "such", "operations", "are", "extensive", "in", "many", "graph", "pattern", "mining", "algorithms", ",", "such", "as", "FSG", "-LSB-", "6", "-RSB-", "-LRB-", "another", "efficient", "frequent", "graph", "pattern", "mining", "algorithm", "-RRB-", "and", "CloseGraph", "-LSB-", "9", "-RSB-", "-LRB-", "an", "efficient", "algorithm", "for", "mining", "frequent", "closed", "graph", "patterns", "-RRB-", ".", "In", "mining", "frequent", "graph", "patterns", ",", "the", "major", "data", "access", "operations", "are", "as", "follows", ".", "318", "Research", "Track", "Paper", "OP1", ":", "Edge", "support", "checking", ".", "Find", "the", "support", "of", "an", "edge", "-LRB-", "l", "u", ",", "l", "e", ",", "l", "v", "-RRB-", ",", "where", "l", "u", "and", "l", "v", "are", "the", "labels", "of", "vertices", "and", "l", "e", "is", "the", "label", "of", "the", "edge", ",", "respectively", ";", "OP2", ":", "Edge-host", "graph", "checking", ".", "For", "an", "edge", "e", "=", "-LRB-", "l", "u", ",", "l", "e", ",", "l", "v", "-RRB-", ",", "find", "the", "graphs", "in", "the", "database", "where", "e", "appears", ";", "OP3", ":", "Adjacent", "edge", "checking", ".", "For", "an", "edge", "e", "=", "-LRB-", "l", "u", ",", "l", "e", ",", "l", "v", "-RRB-", ",", "find", "the", "adjacent", "edges", "of", "e", "in", "the", "graphs", "where", "e", "appears", ",", "so", "that", "the", "adjacent", "edges", "can", "be", "used", "to", "expand", "the", "current", "graph", "pattern", "to", "larger", "ones", ".", "Each", "of", "the", "above", "operations", "may", "happen", "many", "times", "during", "the", "mining", "of", "frequent", "graph", "patterns", ".", "Without", "an", "appropriate", "index", ",", "each", "of", "the", "above", "operations", "may", "have", "to", "scan", "the", "graph", "database", "or", "its", "projections", ".", "If", "the", "database", "and", "its", "projections", "can", "not", "fit", "into", "main", "memory", ",", "the", "scanning", "and", "checking", "can", "be", "very", "costly", ".", "Can", "we", "devise", "an", "index", "structure", "so", "that", "the", "related", "information", "can", "be", "kept", "and", "all", "the", "above", "operations", "can", "be", "achieved", "using", "the", "index", "only", ",", "and", "thus", "without", "scanning", "the", "graph", "database", "and", "checking", "the", "graphs", "?", "This", "motivates", "the", "design", "of", "the", "ADI", "structure", ".", "In", "this", "section", "we", "will", "devise", "an", "effective", "data", "structure", ",", "ADI", "-LRB-", "for", "adjacency", "index", "-RRB-", ",", "to", "facilitate", "the", "scalable", "mining", "of", "frequent", "graph", "patterns", "from", "disk-based", "graph", "databases", ".", "4.1", "Data", "Structure", "The", "ADI", "index", "structure", "is", "a", "three-level", "index", "for", "edges", ",", "graph-ids", "and", "adjacency", "information", ".", "An", "example", "is", "shown", "in", "Figure", "3", ",", "where", "two", "graphs", ",", "G", "1", "and", "G", "2", ",", "are", "indexed", ".", "4.1.1", "Edge", "Table", "There", "can", "be", "many", "edges", "in", "a", "graph", "database", ".", "The", "edges", "are", "often", "retrieved", "by", "the", "labels", "during", "the", "graph", "pattern", "mining", ",", "such", "as", "in", "the", "operations", "identified", "in", "Section", "3.3", ".", "Therefore", ",", "the", "edges", "are", "indexed", "by", "their", "labels", "in", "the", "ADI", "structure", ".", "In", "ADI", ",", "an", "edge", "e", "=", "-LRB-", "u", ",", "v", "-RRB-", "is", "recorded", "as", "a", "tuple", "-LRB-", "l", "-LRB-", "u", "-RRB-", ",", "l", "-LRB-", "u", ",", "v", "-RRB-", ",", "l", "-LRB-", "v", "-RRB-", "-RRB-", "in", "the", "edge", "table", ",", "and", "is", "indexed", "by", "the", "labels", "of", "the", "vertices", ",", "i.e.", ",", "l", "-LRB-", "u", "-RRB-", "and", "l", "-LRB-", "v", "-RRB-", ",", "and", "the", "label", "of", "the", "edge", "itself", ",", "i.e.", ",", "l", "-LRB-", "u", ",", "v", "-RRB-", ".", "Each", "edge", "appears", "only", "once", "in", "the", "edge", "table", ",", "no", "matter", "how", "many", "times", "it", "appears", "in", "the", "graphs", ".", "For", "example", ",", "in", "Figure", "3", ",", "edge", "-LRB-", "A", ",", "d", ",", "C", "-RRB-", "appears", "once", "in", "graph", "G", "1", "and", "twice", "in", "graph", "G", "2", ".", "However", ",", "there", "is", "only", "one", "entry", "for", "the", "edge", "in", "the", "edge", "table", "in", "the", "ADI", "structure", ".", "All", "edges", "in", "the", "edge", "table", "in", "the", "ADI", "structure", "are", "sorted", ".", "When", "the", "edge", "table", "is", "stored", "on", "disk", ",", "a", "B", "+", "-", "tree", "is", "built", "on", "the", "edges", ".", "When", "part", "of", "the", "edge", "table", "is", "loaded", "into", "main", "memory", ",", "it", "is", "organized", "as", "a", "sorted", "list", ".", "Thus", ",", "binary", "search", "can", "be", "conducted", ".", "4.1.2", "Linked", "Lists", "of", "Graph-ids", "For", "each", "edge", "e", ",", "the", "identities", "of", "the", "graphs", "that", "contain", "e", "form", "a", "linked", "list", "of", "graph-ids", ".", "Graph-id", "G", "i", "is", "in", "the", "list", "of", "edge", "e", "if", "and", "only", "if", "there", "exists", "at", "least", "one", "instance", "of", "e", "in", "G", "i", ".", "For", "example", ",", "in", "Figure", "3", ",", "both", "G", "1", "and", "G", "2", "appear", "in", "the", "list", "of", "edge", "-LRB-", "A", ",", "d", ",", "C", "-RRB-", ",", "since", "the", "edge", "appears", "in", "G", "1", "once", "and", "in", "G", "2", "twice", ".", "Please", "note", "that", "the", "identity", "of", "graph", "G", "i", "G1", "G2", "G1", "G2", "G2", "G1", "A", "B", "C", "D", "a", "d", "d", "b", "1", "2", "3", "4", "G1", "A", "B", "C", "C", "D", "B", "a", "c", "d", "d", "d", "1", "2", "3", "4", "5", "G2", "Edges", "Block", "1", "Block", "2", "Graph-ids", "-LRB-", "on", "disk", "-RRB-", "1", "2", "2", "3", "1", "4", "3", "4", "1", "2", "1", "4", "1", "6", "2", "3", "4", "5", "-LRB-", "A", ",", "a", ",", "B", "-RRB-", "-LRB-", "A", ",", "d", ",", "C", "-RRB-", "-LRB-", "B", ",", "b", ",", "D", "-RRB-", "G2", "G1", "-LRB-", "B", ",", "c", ",", "C", "-RRB-", "-LRB-", "B", ",", "d", ",", "D", "-RRB-", "-LRB-", "C", ",", "d", ",", "D", "-RRB-", "Adjacency", "-LRB-", "on", "disk", "-RRB-", "6", "Figure", "3", ":", "An", "ADI", "structure", ".", "appears", "in", "the", "linked", "list", "of", "edge", "e", "only", "once", "if", "e", "appears", "in", "G", "i", ",", "no", "matter", "how", "many", "times", "edge", "e", "appears", "in", "G", "i", ".", "A", "list", "of", "graph-ids", "of", "an", "edge", "are", "stored", "together", ".", "Therefore", ",", "given", "an", "edge", ",", "it", "is", "efficient", "to", "retrieve", "all", "the", "identities", "of", "graphs", "that", "contain", "the", "edge", ".", "Every", "entry", "in", "the", "edge", "table", "is", "linked", "to", "its", "graph-id", "linked", "list", ".", "By", "this", "linkage", ",", "the", "operation", "OP2", ":", "edge-host", "graph", "checking", "can", "be", "conducted", "efficiently", ".", "Moreover", ",", "to", "facilitate", "operation", "OP1", ":", "edge", "support", "checking", ",", "the", "length", "of", "the", "graph-id", "linked", "list", ",", "i.e.", ",", "the", "support", "of", "an", "edge", ",", "is", "registered", "in", "the", "edge", "table", ".", "4.1.3", "Adjacency", "Information", "The", "edges", "in", "a", "graph", "are", "stored", "as", "a", "list", "of", "the", "edges", "encoded", ".", "Adjacent", "edges", "are", "linked", "together", "by", "the", "common", "vertices", ",", "as", "shown", "in", "Figure", "3", ".", "For", "example", ",", "in", "block", "1", ",", "all", "the", "vertices", "having", "the", "same", "label", "-LRB-", "e.g.", ",", "1", "-RRB-", "are", "linked", "together", "as", "a", "list", ".", "Since", "each", "edge", "has", "two", "vertices", ",", "only", "two", "pointers", "are", "needed", "for", "each", "edge", ".", "Moreover", ",", "all", "the", "edges", "in", "a", "graph", "are", "physically", "stored", "in", "one", "block", "on", "disk", "-LRB-", "or", "on", "consecutive", "blocks", "if", "more", "space", "is", "needed", "-RRB-", ",", "so", "that", "the", "information", "about", "a", "graph", "can", "be", "retrieved", "by", "reading", "one", "or", "several", "consecutive", "blocks", "from", "disk", ".", "Often", ",", "when", "the", "graph", "is", "not", "large", ",", "a", "disk-page", "-LRB-", "e.g.", ",", "of", "size", "4k", "-RRB-", "can", "hold", "more", "than", "one", "graph", ".", "Encoded", "edges", "recording", "the", "adjacency", "information", "are", "linked", "to", "the", "graph-ids", "that", "are", "further", "associated", "with", "the", "edges", "in", "the", "edge", "table", ".", "4.2", "Space", "Requirement", "The", "storage", "of", "an", "ADI", "structure", "is", "flexible", ".", "If", "the", "graph", "database", "is", "small", ",", "then", "the", "whole", "index", "can", "be", "held", "into", "main", "memory", ".", "On", "the", "other", "hand", ",", "if", "the", "graph", "database", "is", "large", "and", "thus", "the", "ADI", "structure", "can", "not", "fit", "into", "main", "319", "Research", "Track", "Paper", "memory", ",", "some", "levels", "can", "be", "stored", "on", "disk", ".", "The", "level", "of", "adjacency", "information", "is", "the", "most", "detailed", "and", "can", "be", "put", "on", "disk", ".", "If", "the", "main", "memory", "is", "too", "small", "to", "hold", "the", "graph-id", "linked", "lists", ",", "they", "can", "also", "be", "accommodated", "on", "disk", ".", "In", "the", "extreme", "case", ",", "even", "the", "edge", "table", "can", "be", "held", "on", "disk", "and", "a", "B", "+", "-", "tree", "or", "hash", "index", "can", "be", "built", "on", "the", "edge", "table", ".", "Theorem", "1", "-LRB-", "Space", "complexity", "-RRB-", ".", "For", "graph", "database", "GDB", "=", "-LCB-", "G", "1", ",", "...", ",", "G", "n", "-RCB-", ",", "the", "space", "complexity", "is", "O", "-LRB-", "n", "i", "=", "1", "|", "E", "-LRB-", "G", "i", "-RRB-", "|", "-RRB-", ".", "Proof", ".", "The", "space", "complexity", "is", "determined", "by", "the", "following", "facts", ".", "-LRB-", "1", "-RRB-", "The", "number", "of", "tuples", "in", "the", "edge", "table", "is", "equal", "to", "the", "number", "of", "distinct", "edges", "in", "the", "graph", "database", ",", "which", "is", "bounded", "by", "n", "i", "=", "1", "|", "E", "-LRB-", "G", "i", "-RRB-", "|", ";", "-LRB-", "2", "-RRB-", "The", "number", "of", "entries", "in", "the", "graph-id", "linked", "lists", "in", "the", "worst", "case", "is", "the", "number", "of", "edges", "in", "the", "graph", "database", ",", "i.e.", ",", "n", "i", "=", "1", "|", "E", "-LRB-", "G", "i", "-RRB-", "|", "again", ";", "and", "-LRB-", "3", "-RRB-", "The", "adjacency", "information", "part", "records", "every", "edge", "exactly", "once", ".", "Please", "note", "that", ",", "in", "many", "application", ",", "it", "is", "reasonable", "to", "assume", "that", "the", "edge", "table", "can", "be", "held", "into", "main", "memory", ".", "For", "example", ",", "suppose", "we", "have", "1", ",", "000", "distinct", "vertex", "labels", "and", "1", ",", "000", "distinct", "edge", "labels", ".", "There", "can", "be", "up", "to", "1000", "999", "2", "1000", "=", "4.995", "10", "8", "different", "edges", ",", "i.e.", ",", "all", "possible", "combinations", "of", "vertex", "and", "edge", "labels", ".", "Suppose", "up", "to", "1", "%", "edges", "are", "frequent", ",", "there", "are", "only", "less", "than", "5", "million", "different", "edges", ",", "and", "thus", "the", "edge", "table", "can", "be", "easily", "held", "into", "main", "memory", ".", "In", "real", "applications", ",", "the", "graphs", "are", "often", "sparse", ",", "that", "is", ",", "not", "all", "possible", "combinations", "of", "vertex", "and", "edge", "labels", "appear", "in", "the", "graphs", "as", "an", "edge", ".", "Moreover", ",", "users", "are", "often", "interested", "in", "only", "those", "frequent", "edges", ".", "That", "shrinks", "the", "edge", "table", "substantially", ".", "4.3", "Search", "Using", "ADI", "Now", ",", "let", "us", "examine", "how", "the", "ADI", "structure", "can", "facilitate", "the", "major", "data", "access", "operations", "in", "graph", "pattern", "mining", "that", "are", "identified", "in", "Section", "3.3", ".", "OP1", ":", "Edge", "support", "checking", "Once", "an", "ADI", "structure", "is", "constructed", ",", "this", "information", "is", "registered", "on", "the", "edge", "table", "for", "every", "edge", ".", "We", "only", "need", "to", "search", "the", "edge", "table", ",", "which", "is", "either", "indexed", "-LRB-", "when", "the", "table", "is", "on", "disk", "-RRB-", "or", "can", "be", "searched", "using", "binary", "search", "-LRB-", "when", "the", "table", "is", "in", "main", "memory", "-RRB-", ".", "In", "some", "cases", ",", "we", "may", "need", "to", "count", "the", "support", "of", "an", "edge", "in", "a", "subset", "of", "graphs", "G", "G.", "Then", ",", "the", "linked", "list", "of", "the", "graph-ids", "of", "the", "edge", "is", "searched", ".", "There", "is", "no", "need", "to", "touch", "any", "record", "in", "the", "adjacency", "information", "part", ".", "That", "is", ",", "we", "do", "not", "need", "to", "search", "any", "detail", "about", "the", "edges", ".", "Moreover", ",", "for", "counting", "supports", "of", "edges", "in", "projected", "databases", ",", "we", "can", "maintain", "the", "support", "of", "each", "edge", "in", "the", "current", "projected", "database", "and", "thus", "we", "do", "not", "even", "search", "the", "graph-id", "linked", "lists", ".", "OP2", ":", "Edge-host", "graph", "checking", "We", "only", "need", "to", "search", "the", "edge", "table", "for", "the", "specific", "edge", "and", "follow", "the", "link", "from", "the", "edge", "to", "the", "list", "of", "graph-ids", ".", "There", "is", "no", "need", "to", "search", "any", "detail", "from", "the", "part", "of", "adjacency", "information", ".", "OP3", ":", "Adjacent", "edge", "checking", "Again", ",", "we", "start", "from", "an", "entry", "in", "the", "edge", "table", "and", "follow", "the", "links", "to", "find", "the", "list", "of", "graphs", "where", "the", "edge", "appears", ".", "Then", ",", "only", "Input", ":", "a", "graph", "database", "GDB", "and", "min", "sup", "Output", ":", "the", "ADI", "structure", "Method", ":", "scan", "GDB", "once", ",", "find", "the", "frequent", "edges", ";", "initialize", "the", "edge", "table", "for", "frequent", "edges", ";", "for", "each", "graph", "do", "remove", "infrequent", "edges", ";", "compute", "the", "mininmum", "DFS", "code", "-LSB-", "11", "-RSB-", ";", "use", "the", "DFS-tree", "to", "encode", "the", "vertices", ";", "store", "the", "edges", "in", "the", "graph", "onto", "disk", "and", "form", "the", "adjacency", "information", ";", "for", "each", "edge", "do", "insert", "the", "graph-id", "to", "the", "graph-id", "list", "associated", "with", "the", "edge", ";", "link", "the", "graph-id", "to", "the", "related", "adjacency", "information", ";", "end", "for", "end", "for", "Figure", "4", ":", "Algorithm", "of", "ADI", "construction", ".", "the", "blocks", "containing", "the", "details", "of", "the", "instances", "of", "the", "edge", "are", "visited", ",", "and", "there", "is", "no", "need", "to", "scan", "the", "whole", "database", ".", "The", "average", "I/O", "complexity", "is", "O", "-LRB-", "log", "n", "+", "m", "+", "l", "-RRB-", ",", "where", "n", "is", "the", "number", "of", "distinct", "edges", "in", "the", "graph", ",", "m", "is", "the", "average", "number", "of", "graph-ids", "in", "the", "linked", "lists", "of", "edges", ",", "and", "l", "is", "the", "average", "number", "of", "blocks", "occupied", "by", "a", "graph", ".", "In", "many", "applications", ",", "m", "is", "orders", "of", "magnitudes", "smaller", "than", "the", "n", ",", "and", "l", "is", "a", "very", "small", "number", "-LRB-", "e.g.", ",", "1", "or", "2", "-RRB-", ".", "The", "algorithms", "for", "the", "above", "operations", "are", "simple", ".", "Limited", "by", "space", ",", "we", "omit", "the", "details", "here", ".", "As", "can", "be", "seen", ",", "once", "the", "ADI", "structure", "is", "constructed", ",", "there", "is", "no", "need", "to", "scan", "the", "database", "for", "any", "of", "the", "above", "operations", ".", "That", "is", ",", "the", "ADI", "structure", "can", "support", "the", "random", "accesses", "and", "the", "mining", "efficiently", ".", "4.4", "Construction", "of", "ADI", "Given", "a", "graph", "database", ",", "the", "corresponding", "ADI", "structure", "is", "easy", "to", "construct", "by", "scanning", "the", "database", "only", "twice", ".", "In", "the", "first", "scan", ",", "the", "frequent", "edges", "are", "identified", ".", "According", "to", "the", "apriori", "property", "of", "frequent", "graph", "patterns", ",", "only", "those", "frequent", "edges", "can", "appear", "in", "frequent", "graph", "patterns", "and", "thus", "should", "be", "indexed", "in", "the", "ADI", "structure", ".", "After", "the", "first", "scan", ",", "the", "edge", "table", "of", "frequent", "edges", "is", "initialized", ".", "In", "the", "second", "scan", ",", "graphs", "in", "the", "database", "are", "read", "and", "processed", "one", "by", "one", ".", "For", "each", "graph", ",", "the", "vertices", "are", "encoded", "according", "to", "the", "DFS-tree", "in", "the", "minimum", "DFS", "code", ",", "as", "described", "in", "-LSB-", "11", "-RSB-", "and", "Section", "3", ".", "Only", "the", "vertices", "involved", "in", "some", "frequent", "edges", "should", "be", "encoded", ".", "Then", ",", "for", "each", "frequent", "edge", ",", "the", "graph-id", "is", "inserted", "into", "the", "corresponding", "linked", "list", ",", "and", "the", "adjacency", "information", "is", "stored", ".", "The", "sketch", "of", "the", "algorithm", "is", "shown", "in", "Figure", "4", ".", "Cost", "Analysis", "There", "are", "two", "major", "costs", "in", "the", "ADI", "construction", ":", "writing", "the", "adjacency", "information", "and", "updating", "the", "linked", "lists", "of", "graph-ids", ".", "Since", "all", "edges", "in", "a", "graph", "will", "reside", "on", "a", "disk", "page", "or", "several", "consecutive", "disk", "pages", ",", "the", "writing", "of", "adjacency", "information", "is", "sequential", ".", "Thus", ",", "the", "cost", "of", "writing", "adjacency", "information", "is", "comparable", "to", "that", "of", "making", "a", "320", "Research", "Track", "Paper", "4", "3", "2", "1", "D", "C", "A", "B", "a", "d", "1", "d", "3", "d", "4", "b", "2", "a", "1", "b", "3", "d", "4", "a", "2", "4", "C", "3", "D", "2", "B", "1", "A", "d", "d", "b", "-LRB-", "a", "-RRB-", "The", "graph", "and", "the", "adjacency-lists", "1", "A", "2", "B", "3", "D", "4", "C", "1", "A", "0", "a", "0", "d", "2", "B", "a", "0", "b", "0", "3", "D", "0", "b", "0", "d", "4", "C", "d", "0", "d", "0", "-LRB-", "b", "-RRB-", "The", "adjacency-matrix", "Figure", "5", ":", "The", "adjacency-list", "and", "adjacency-matrix", "representations", "of", "graphs", ".", "copy", "of", "the", "original", "database", "plus", "some", "bookkeeping", ".", "Updating", "the", "linked", "lists", "of", "graph-ids", "requires", "random", "accesses", "to", "the", "edge", "table", "and", "the", "linked", "lists", ".", "In", "many", "cases", ",", "the", "edge", "table", "can", "be", "held", "into", "main", "memory", ",", "but", "not", "the", "linked", "list", ".", "Therefore", ",", "it", "is", "important", "to", "cache", "the", "linked", "lists", "of", "graph-ids", "in", "a", "buffer", ".", "The", "linked", "lists", "can", "be", "cached", "according", "to", "the", "frequency", "of", "the", "corresponding", "edges", ".", "Constructing", "ADI", "for", "large", ",", "disk-based", "graph", "database", "may", "not", "be", "cheap", ".", "However", ",", "the", "ADI", "structure", "can", "be", "built", "once", "and", "used", "by", "the", "mining", "many", "times", ".", "That", "is", ",", "we", "can", "build", "an", "ADI", "structure", "using", "a", "very", "low", "support", "threshold", ",", "or", "even", "set", "min", "sup", "=", "1", ".", "2", "The", "index", "is", "stored", "on", "disk", ".", "Then", ",", "the", "mining", "in", "the", "future", "can", "use", "the", "index", "directly", ",", "as", "long", "as", "the", "support", "threshold", "is", "no", "less", "than", "the", "one", "that", "is", "used", "in", "the", "ADI", "structure", "construction", ".", "4.5", "Projected", "Databases", "Using", "ADI", "Many", "depth-first", "search", ",", "pattern-growth", "algorithms", "utilize", "proper", "projected", "databases", ".", "During", "the", "depth-first", "search", "in", "graph", "pattern", "mining", ",", "the", "graphs", "containing", "the", "current", "graph", "pattern", "P", "should", "be", "collected", "and", "form", "the", "P", "projected", "database", ".", "Then", ",", "the", "further", "search", "of", "larger", "graph", "patterns", "having", "P", "as", "the", "prefix", "of", "their", "minimum", "DFS", "codes", "can", "be", "achieved", "by", "searching", "only", "the", "P", "-", "projected", "database", ".", "Interestingly", ",", "the", "projected", "databases", "can", "be", "constructed", "using", "ADI", "structures", ".", "A", "projected", "database", "can", "be", "stored", "in", "the", "form", "of", "an", "ADI", "structure", ".", "In", "fact", ",", "only", "the", "edge", "table", "and", "the", "list", "of", "graph-ids", "should", "be", "constructed", "for", "a", "new", "projected", "database", "and", "the", "adjacency", "information", "residing", "on", "disk", "can", "be", "shared", "by", "all", "projected", "databases", ".", "That", "can", "save", "a", "lot", "of", "time", "and", "space", "when", "mining", "large", "graph", "databases", "that", "contain", "many", "graph", "patterns", ",", "where", "many", "projected", "databases", "may", "have", "to", "be", "constructed", ".", "4.6", "Why", "Is", "ADI", "Good", "for", "Large", "Databases", "?", "In", "most", "of", "the", "previous", "methods", "for", "graph", "pattern", "mining", ",", "the", "adjacency-list", "or", "adjacency-matrix", "representations", "are", "used", "to", "represent", "graphs", ".", "Each", "graph", "is", "represented", "by", "an", "adjacency-matrix", "or", "a", "set", "of", "adjacency-lists", ".", "An", "example", "is", "shown", "in", "Figure", "5", ".", "2", "If", "min", "sup", "=", "1", ",", "then", "the", "ADI", "structure", "can", "be", "constructed", "by", "scanning", "the", "graph", "database", "only", "once", ".", "We", "do", "not", "need", "to", "find", "frequent", "edges", ",", "since", "every", "edge", "appearing", "in", "the", "graph", "database", "is", "frequent", ".", "In", "Figure", "5", "-LRB-", "a", "-RRB-", ",", "the", "adjacency-lists", "have", "8", "nodes", "and", "8", "pointers", ".", "It", "stores", "the", "same", "information", "as", "Block", "1", "in", "Figure", "3", ",", "where", "the", "block", "has", "4", "nodes", "and", "12", "pointers", ".", "The", "space", "requirements", "of", "adjacency-lists", "and", "ADI", "structure", "are", "comparable", ".", "From", "the", "figure", ",", "we", "can", "see", "that", "each", "edge", "in", "a", "graph", "has", "to", "be", "stored", "twice", ":", "one", "instance", "for", "each", "vertex", ".", "-LRB-", "If", "we", "want", "to", "remove", "this", "redundancy", ",", "the", "tradeoff", "is", "the", "substantial", "increase", "of", "cost", "in", "finding", "adjacency", "information", "-RRB-", ".", "In", "general", ",", "for", "a", "graph", "of", "n", "edges", ",", "the", "adjacency-list", "representation", "needs", "2n", "nodes", "and", "2n", "pointers", ".", "An", "ADI", "structure", "stores", "each", "edge", "once", ",", "and", "use", "the", "linkage", "among", "the", "edges", "from", "the", "same", "vertex", "to", "record", "the", "adjacency", "information", ".", "In", "general", ",", "for", "a", "graph", "of", "n", "edges", ",", "it", "needs", "n", "nodes", "and", "3n", "pointers", ".", "Then", ",", "what", "is", "the", "advantage", "of", "ADI", "structure", "against", "adjacency-list", "representation", "?", "The", "key", "advantage", "is", "that", "the", "ADI", "structure", "extracts", "the", "information", "about", "containments", "of", "edges", "in", "graphs", "in", "the", "first", "two", "levels", "-LRB-", "i.e.", ",", "the", "edge", "table", "and", "the", "linked", "list", "of", "graph-ids", "-RRB-", ".", "Therefore", ",", "in", "many", "operations", ",", "such", "as", "the", "edge", "support", "checking", "and", "edge-host", "graph", "checking", ",", "there", "is", "no", "need", "to", "visit", "the", "adjacency", "information", "at", "all", ".", "To", "the", "contrast", ",", "if", "the", "adjacency-list", "representation", "is", "used", ",", "every", "operation", "has", "to", "check", "the", "linked", "lists", ".", "When", "the", "database", "is", "large", "so", "that", "either", "the", "adjacency-lists", "of", "all", "graphs", "or", "the", "adjacency", "information", "in", "the", "ADI", "structure", "can", "not", "be", "accommodated", "into", "main", "memory", ",", "using", "the", "first", "two", "levels", "of", "the", "ADI", "structure", "can", "save", "many", "calls", "to", "the", "adjacency", "information", ",", "while", "the", "adjacency-lists", "of", "various", "graphs", "have", "to", "be", "transferred", "between", "the", "main", "memory", "and", "the", "disk", "many", "times", ".", "Usually", ",", "the", "adjacency-matrix", "is", "sparse", ".", "The", "adjacency-matrix", "representation", "is", "inefficient", "in", "space", "and", "thus", "is", "not", "used", ".", "With", "the", "help", "from", "the", "ADI", "structure", ",", "how", "can", "we", "improve", "the", "scalability", "and", "efficiency", "of", "frequent", "graph", "pattern", "mining", "?", "Here", ",", "we", "present", "a", "pattern-growth", "algorithm", "ADI-Mine", ",", "which", "is", "an", "improvement", "of", "algorithm", "gSpan", ".", "The", "algorithm", "is", "shown", "in", "Figure", "6", ".", "If", "the", "ADI", "structure", "is", "unavailable", ",", "then", "the", "algorithm", "scans", "the", "graph", "database", "and", "constructs", "the", "index", ".", "Otherwise", ",", "it", "just", "uses", "the", "ADI", "structure", "on", "the", "disk", ".", "The", "frequent", "edges", "can", "be", "obtained", "from", "the", "edge", "table", "in", "the", "ADI", "structure", ".", "Each", "frequent", "edge", "is", "one", "of", "the", "smallest", "frequent", "graph", "patterns", "and", "thus", "should", "be", "output", ".", "Then", ",", "the", "frequent", "edges", "should", "be", "used", "as", "the", "``", "seeds", "''", "to", "grow", "larger", "frequent", "graph", "patterns", ",", "and", "the", "frequent", "adjacent", "edges", "of", "e", "should", "be", "used", "in", "the", "pattern-growth", ".", "An", "edge", "e", "is", "a", "frequent", "adjacent", "edge", "of", "e", "if", "e", "is", "an", "adjacent", "edge", "of", "e", "in", "at", "least", "min", "sup", "graphs", ".", "The", "set", "of", "frequent", "adjacent", "edges", "can", "be", "retrieved", "efficiently", "from", "the", "ADI", "structure", "since", "the", "identities", "of", "the", "graphs", "containing", "e", "are", "indexed", "as", "a", "linked-list", ",", "and", "the", "adjacent", "edges", "are", "also", "indexed", "in", "the", "adjacency", "information", "part", "in", "the", "ADI", "structure", ".", "The", "pattern", "growth", "is", "implemented", "as", "calls", "to", "procedure", "subgraph-mine", ".", "Procedure", "subgraph-mine", "tries", "every", "frequent", "adjacent", "edge", "e", "-LRB-", "i.e.", ",", "edges", "in", "set", "F", "e", "-RRB-", "and", "checks", "whether", "e", "can", "be", "added", "into", "the", "current", "frequent", "graph", "pattern", "G", "to", "form", "a", "larger", "pattern", "G", ".", "We", "use", "the", "DFS", "code", "to", "test", "the", "redundancy", ".", "Only", "the", "patterns", "G", "whose", "DFS", "code", "is", "minimum", "is", "output", "and", "further", "grown", ".", "All", "other", "patterns", "G", "are", "either", "found", "before", "or", "will", "be", "found", "later", "at", "other", "321", "Research", "Track", "Paper", "Input", ":", "a", "graph", "database", "GDB", "and", "min", "sup", "Output", ":", "the", "complete", "set", "of", "frequent", "graph", "patterns", "Method", ":", "construct", "the", "ADI", "structure", "for", "the", "graph", "database", "if", "it", "is", "not", "available", ";", "for", "each", "frequent", "edge", "e", "in", "the", "edge", "table", "do", "output", "e", "as", "a", "graph", "pattern", ";", "from", "the", "ADI", "structure", ",", "find", "set", "F", "e", ",", "the", "set", "of", "frequent", "adjacent", "edges", "for", "e", ";", "call", "subgraph-mine", "-LRB-", "e", ",", "F", "e", "-RRB-", ";", "end", "for", "Procedure", "subgraph-mine", "Parameters", ":", "a", "frequent", "graph", "pattern", "G", ",", "and", "the", "set", "of", "frequent", "adjacent", "edges", "F", "e", "/", "/", "output", "the", "frequent", "graph", "patterns", "whose", "/", "/", "minimum", "DFS-codes", "contain", "that", "of", "G", "as", "a", "prefix", "Method", ":", "for", "each", "edge", "e", "in", "F", "e", "do", "let", "G", "be", "the", "graph", "by", "adding", "e", "into", "G", ";", "compute", "the", "DFS", "code", "of", "G", ";", "if", "the", "DFS", "code", "is", "not", "minimum", ",", "then", "return", ";", "output", "G", "as", "a", "frequent", "graph", "pattern", ";", "update", "the", "set", "F", "e", "of", "adjacent", "edges", ";", "call", "subgraph-mine", "-LRB-", "G", ",", "F", "e", "-RRB-", ";", "end", "for", "return", ";", "Figure", "6", ":", "Algorithm", "ADI-Mine", ".", "branches", ".", "The", "correctness", "of", "this", "step", "is", "guaranteed", "by", "the", "property", "of", "DFS", "code", "-LSB-", "11", "-RSB-", ".", "Once", "a", "larger", "pattern", "G", "is", "found", ",", "the", "set", "of", "adjacent", "edges", "of", "the", "current", "pattern", "should", "be", "updated", ",", "since", "the", "adjacent", "edges", "of", "the", "newly", "inserted", "edge", "should", "also", "be", "considered", "in", "the", "future", "growth", "from", "G", ".", "This", "update", "operation", "can", "be", "implemented", "efficiently", ",", "since", "the", "identities", "of", "graphs", "that", "contain", "an", "edge", "e", "are", "linked", "together", "in", "the", "ADI", "structure", ",", "and", "the", "adjacency", "information", "is", "also", "indexed", "and", "linked", "according", "to", "the", "graph-ids", ".", "Differences", "Between", "ADI-Mine", "and", "gSpan", "At", "high", "level", ",", "the", "structure", "as", "well", "as", "the", "search", "strategies", "of", "ADI-Mine", "and", "gSpan", "are", "similar", ".", "The", "critical", "difference", "is", "on", "the", "storage", "structure", "for", "graphs", "--", "ADI-Mine", "uses", "ADI", "structure", "and", "gSpan", "uses", "adjacency-list", "representation", ".", "In", "the", "recursive", "mining", ",", "the", "critical", "operation", "is", "finding", "the", "graphs", "that", "contain", "the", "current", "graph", "pattern", "-LRB-", "i.e.", ",", "the", "test", "of", "subgraph", "isomorphism", "-RRB-", "and", "finding", "the", "adjacent", "edges", "to", "grow", "larger", "graph", "patterns", ".", "The", "current", "graph", "pattern", "is", "recorded", "using", "the", "labels", ".", "Thus", ",", "the", "edges", "are", "searched", "using", "the", "labels", "of", "the", "vertices", "and", "that", "of", "the", "edges", ".", "In", "gSpan", ",", "the", "test", "of", "subgraph", "isomorphism", "is", "achieved", "by", "scanning", "the", "current", "-LRB-", "projected", "-RRB-", "database", ".", "Since", "the", "graphs", "are", "stored", "in", "adjacency-list", "representation", ",", "and", "one", "label", "may", "appear", "more", "than", "once", "in", "a", "graph", ",", "the", "search", "can", "be", "costly", ".", "For", "example", ",", "in", "graph", "G", "2", "in", "Figure", "3", ",", "in", "order", "to", "find", "an", "edge", "-LRB-", "C", ",", "d", ",", "A", "-RRB-", ",", "the", "adjacency-list", "for", "vertices", "4", "and", "6", "may", "have", "to", "be", "searched", ".", "If", "the", "graph", "is", "large", "and", "the", "labels", "appear", "multiple", "times", "in", "a", "graph", ",", "there", "may", "be", "many", "adjacency-lists", "for", "vertices", "of", "the", "same", "label", ",", "and", "the", "adjacency-lists", "are", "long", ".", "Moreover", ",", "for", "large", "graph", "database", "that", "can", "not", "be", "held", "into", "main", "memory", ",", "the", "adjacency-list", "representation", "of", "a", "graph", "has", "to", "be", "loaded", "into", "main", "memory", "before", "the", "graph", "can", "be", "searched", ".", "In", "ADI-Mine", ",", "the", "graphs", "are", "stored", "in", "the", "ADI", "structure", ".", "The", "edges", "are", "indexed", "by", "their", "labels", ".", "Then", ",", "the", "graphs", "that", "contain", "the", "edges", "can", "be", "retrieved", "immediately", ".", "Moreover", ",", "all", "edges", "with", "the", "same", "labels", "are", "linked", "together", "by", "the", "links", "between", "the", "graph-id", "and", "the", "instances", ".", "That", "helps", "the", "test", "of", "subgraph", "isomorphism", "substantially", ".", "Furthermore", ",", "using", "the", "index", "of", "edges", "by", "their", "labels", ",", "only", "the", "graphs", "that", "contain", "the", "specific", "edge", "will", "be", "loaded", "into", "main", "memory", "for", "further", "subgraph", "isomorphism", "test", ".", "Irrelevant", "graphs", "can", "be", "filtered", "out", "immediately", "by", "the", "index", ".", "When", "the", "database", "is", "too", "large", "to", "fit", "into", "main", "memory", ",", "it", "saves", "a", "substantial", "part", "of", "transfers", "of", "graphs", "between", "disk", "and", "main", "memory", ".", "In", "this", "section", ",", "we", "report", "a", "systematic", "performance", "study", "on", "the", "ADI", "structure", "and", "a", "comparison", "of", "gSpan", "and", "ADI-Mine", "on", "mining", "both", "small", ",", "memory-based", "databases", "and", "large", ",", "disk-based", "databases", ".", "We", "obtain", "the", "executable", "of", "gSpan", "from", "the", "authors", ".", "The", "ADI", "structure", "and", "algorithm", "ADI-Mine", "are", "implemented", "using", "C/C", "+", "+", ".", "6.1", "Experiment", "Setting", "All", "the", "experiments", "are", "conducted", "on", "an", "IBM", "NetFinity", "5100", "machine", "with", "an", "Intel", "PIII", "733", "MHz", "CPU", ",", "512M", "RAM", "and", "18G", "hard", "disk", ".", "The", "speed", "of", "the", "hard", "disk", "is", "10", ",", "000", "RPM", ".", "The", "operating", "system", "is", "Redhat", "Linux", "9.0", ".", "We", "implement", "a", "synthetic", "data", "generator", "following", "the", "procedure", "described", "in", "-LSB-", "6", "-RSB-", ".", "The", "data", "generator", "takes", "five", "parameters", "as", "follows", ".", "D", ":", "the", "total", "number", "of", "graphs", "in", "the", "data", "set", "T", ":", "the", "average", "number", "of", "edges", "in", "graphs", "I", ":", "the", "average", "number", "of", "edges", "in", "potentially", "frequent", "graph", "patterns", "-LRB-", "i.e.", ",", "the", "frequent", "kernels", "-RRB-", "L", ":", "the", "number", "of", "potentially", "frequent", "kernels", "N", ":", "the", "number", "of", "possible", "labels", "Please", "refer", "to", "-LSB-", "6", "-RSB-", "for", "the", "details", "of", "the", "data", "generator", ".", "For", "example", ",", "a", "data", "set", "D10kN", "4I10T", "20L200", "means", "that", "the", "data", "set", "contains", "10k", "graphs", ";", "there", "are", "4", "possible", "labels", ";", "the", "average", "number", "of", "edges", "in", "the", "frequent", "kernel", "graphs", "is", "10", ";", "the", "average", "number", "of", "edges", "in", "the", "graphs", "is", "20", ";", "and", "the", "number", "of", "potentially", "frequent", "kernels", "is", "200", ".", "Hereafter", "in", "this", "section", ",", "when", "we", "say", "``", "parameters", "''", ",", "it", "means", "the", "parameters", "for", "the", "data", "generator", "to", "create", "the", "data", "sets", ".", "In", "-LSB-", "11", "-RSB-", ",", "L", "is", "fixed", "to", "200", ".", "In", "our", "experiments", ",", "we", "also", "set", "L", "=", "200", "as", "the", "default", "value", ",", "but", "will", "test", "the", "scalability", "of", "our", "algorithm", "on", "L", "as", "well", ".", "Please", "note", "that", ",", "in", "all", "experiments", ",", "the", "runtime", "of", "ADI-Mine", "includes", "both", "the", "ADI", "construction", "time", "and", "the", "mining", "time", ".", "6.2", "Mining", "Main", "Memory-based", "Databases", "In", "this", "set", "of", "experiments", ",", "both", "gSpan", "and", "ADI-Mine", "run", "in", "main", "memory", ".", "322", "Research", "Track", "Paper", "6.2.1", "Scalability", "on", "Minimum", "Support", "Threshold", "We", "test", "the", "scalability", "of", "gSpan", "and", "ADI-Mine", "on", "the", "minimum", "support", "threshold", ".", "Data", "set", "D100kN", "30I5T", "20L200", "is", "used", ".", "The", "minimum", "support", "threshold", "varies", "from", "4", "%", "to", "10", "%", ".", "The", "results", "are", "shown", "in", "Figure", "7", "-LRB-", "a", "-RRB-", ".", "As", "can", "be", "seen", ",", "both", "gSpan", "and", "ADI-Mine", "are", "scalable", ",", "but", "ADI-Mine", "is", "about", "10", "times", "faster", ".", "We", "discussed", "the", "result", "with", "Mr.", "X.", "Yan", ",", "the", "author", "of", "gSpan", ".", "He", "confirms", "that", "counting", "frequent", "edges", "in", "gSpan", "is", "time", "consuming", ".", "On", "the", "other", "hand", ",", "the", "construction", "of", "ADI", "structure", "is", "relatively", "efficient", ".", "When", "the", "minimum", "support", "threshold", "is", "set", "to", "1", ",", "i.e.", ",", "all", "edges", "are", "indexed", ",", "the", "ADI", "structure", "uses", "approximately", "57M", "main", "memory", "and", "costs", "86", "seconds", "in", "construction", ".", "6.2.2", "Scalability", "on", "Database", "Size", "We", "test", "the", "scalability", "of", "gSpan", "and", "ADI-Mine", "on", "the", "size", "of", "databases", ".", "We", "fix", "the", "parameters", "N", "=", "30", ",", "I", "=", "5", ",", "T", "=", "20", "and", "L", "=", "200", ",", "and", "vary", "the", "number", "of", "graphs", "in", "database", "from", "50", "thousand", "to", "100", "thousand", ".", "The", "minimum", "support", "threshold", "is", "set", "to", "1", "%", "of", "the", "number", "of", "graphs", "in", "the", "database", ".", "The", "results", "are", "shown", "in", "Figure", "7", "-LRB-", "b", "-RRB-", ".", "The", "construction", "time", "of", "ADI", "structure", "is", "also", "plotted", "in", "the", "figure", ".", "Both", "the", "algorithms", "and", "the", "construction", "of", "ADI", "structure", "are", "linearly", "scalable", "on", "the", "size", "of", "databases", ".", "ADI-Mine", "is", "faster", ".", "We", "observe", "that", "the", "size", "of", "ADI", "structure", "is", "also", "scalable", ".", "For", "example", ",", "it", "uses", "28M", "when", "the", "database", "has", "50", "thousand", "graphs", ",", "and", "57M", "when", "the", "database", "has", "100", "thousand", "graphs", ".", "This", "observation", "concurs", "with", "Theorem", "1", ".", "6.2.3", "Effects", "of", "Data", "Set", "Parameters", "We", "test", "the", "scalability", "of", "the", "two", "algorithms", "on", "parameter", "N", "--", "the", "number", "of", "possible", "labels", ".", "We", "use", "data", "set", "D100kN", "20-50I5T", "20L200", ",", "that", "is", ",", "the", "N", "value", "varies", "from", "20", "to", "50", ".", "The", "minimum", "support", "threshold", "is", "fixed", "at", "1", "%", ".", "The", "results", "are", "shown", "in", "Figure", "7", "-LRB-", "c", "-RRB-", ".", "Please", "note", "that", "the", "Y", "-", "axis", "is", "in", "logarithmic", "scale", ".", "We", "can", "observe", "that", "the", "runtime", "of", "gSpan", "increases", "exponentially", "as", "N", "increases", ".", "This", "result", "is", "consistent", "with", "the", "result", "reported", "in", "-LSB-", "11", "-RSB-", ".", "3", "When", "there", "are", "many", "possible", "labels", "in", "the", "database", ",", "the", "search", "without", "index", "becomes", "dramatically", "more", "costly", ".", "Interestingly", ",", "both", "ADI-Mine", "and", "the", "construction", "of", "ADI", "structure", "are", "linearly", "scalable", "on", "N", ".", "As", "discussed", "before", ",", "the", "edge", "table", "in", "ADI", "structure", "only", "indexes", "the", "unique", "edges", "in", "a", "graph", "database", ".", "Searching", "using", "the", "indexed", "edge", "table", "is", "efficient", ".", "The", "time", "complexity", "of", "searching", "an", "edge", "by", "labels", "is", "O", "-LRB-", "log", "n", "-RRB-", ",", "where", "n", "is", "the", "number", "of", "distinct", "edges", "in", "the", "database", ".", "This", "is", "not", "affected", "by", "the", "increase", "of", "the", "possible", "labels", ".", "As", "expected", ",", "the", "size", "of", "the", "ADI", "structure", "is", "stable", ",", "about", "57M", "in", "this", "experiment", ".", "We", "use", "data", "set", "D100kN", "30I5T", "10-30L200", "to", "test", "the", "scalability", "of", "the", "two", "algorithms", "on", "parameter", "T", "--", "the", "average", "number", "of", "edges", "in", "a", "graph", ".", "The", "minimum", "support", "threshold", "is", "set", "to", "1", "%", ".", "The", "results", "are", "shown", "in", "Figure", "7", "-LRB-", "d", "-RRB-", ".", "As", "the", "number", "of", "edges", "increases", ",", "the", "graph", "becomes", "more", "complex", ".", "The", "cost", "of", "storing", "and", "searching", "the", "graph", "also", "increases", "accordingly", ".", "As", "shown", "in", "the", "figure", ",", "both", "algorithms", "and", "the", "construction", "of", "ADI", "are", "linearly", "scalable", ".", "We", "also", "test", "the", "effects", "of", "other", "parameters", ".", "The", "experimental", "results", "show", "that", "both", "gSpan", "and", "ADI-Mine", "are", "not", "3", "Please", "refer", "to", "Figures", "5", "-LRB-", "b", "-RRB-", "and", "5", "-LRB-", "c", "-RRB-", "in", "the", "UIUC", "technical", "report", "version", "of", "-LSB-", "11", "-RSB-", ".", "sensitive", "to", "I", "--", "the", "average", "number", "of", "edges", "in", "potentially", "frequent", "graph", "patterns", "--", "and", "L", "--", "the", "number", "of", "potentially", "frequent", "kernels", ".", "The", "construction", "time", "and", "space", "cost", "of", "ADI", "structures", "are", "also", "stable", ".", "The", "reason", "is", "that", "the", "effects", "of", "those", "two", "parameters", "on", "the", "distribution", "in", "the", "data", "sets", "are", "minor", ".", "Similar", "observations", "have", "been", "reported", "by", "previous", "studies", "on", "mining", "frequent", "itemsets", "and", "sequential", "patterns", ".", "Limited", "by", "space", ",", "we", "omit", "the", "details", "here", ".", "6.3", "Mining", "Disk-based", "Databases", "Now", ",", "we", "report", "the", "experimental", "results", "on", "mining", "large", ",", "disk-based", "databases", ".", "In", "this", "set", "of", "experiments", ",", "we", "reserve", "a", "block", "of", "main", "memory", "of", "fixed", "size", "for", "ADI", "structure", ".", "When", "the", "size", "is", "too", "small", "for", "the", "ADI-structure", ",", "some", "levels", "of", "the", "ADI", "structure", "are", "accommodated", "on", "disk", ".", "On", "the", "other", "hand", ",", "we", "do", "not", "confine", "the", "memory", "usage", "for", "gSpan", ".", "6.3.1", "Scalability", "on", "Database", "Size", "We", "test", "the", "scalability", "of", "both", "gSpan", "and", "ADI-Mine", "on", "the", "size", "of", "databases", ".", "We", "use", "data", "set", "D100k-1mN", "30I5T", "20L200", ".", "The", "number", "of", "graphs", "in", "the", "database", "is", "varied", "from", "100", "thousand", "to", "1", "million", ".", "The", "main", "memory", "block", "for", "ADI", "structure", "is", "limited", "to", "250M", ".", "The", "results", "are", "shown", "in", "Figure", "8", "-LRB-", "a", "-RRB-", ".", "The", "construction", "time", "of", "ADI", "structure", "is", "also", "plotted", ".", "Please", "note", "that", "the", "Y", "-", "axis", "is", "in", "logarithmic", "scale", ".", "The", "construction", "runtime", "of", "ADI", "structure", "is", "approximately", "linear", "on", "the", "database", "size", ".", "That", "is", ",", "the", "construction", "of", "the", "ADI", "index", "is", "highly", "scalable", ".", "We", "also", "measure", "the", "size", "of", "ADI", "structure", ".", "The", "results", "are", "shown", "in", "Figure", "8", "-LRB-", "b", "-RRB-", ".", "We", "can", "observe", "that", "the", "size", "of", "the", "ADI", "structure", "is", "linear", "to", "the", "database", "size", ".", "In", "this", "experiment", ",", "the", "ratio", "size", "of", "ADI", "structure", "in", "megabytes", "number", "of", "graphs", "in", "thousands", "is", "about", "0.6", ".", "When", "the", "database", "size", "is", "1", "million", ",", "the", "size", "of", "ADI", "structure", "is", "601M", ",", "which", "exceeds", "the", "main", "memory", "size", "of", "our", "machine", ".", "Even", "in", "such", "case", ",", "the", "construction", "runtime", "is", "still", "linear", ".", "As", "explained", "before", ",", "the", "construction", "of", "ADI", "structure", "makes", "sequential", "scans", "of", "the", "database", "and", "conducts", "a", "sequential", "write", "of", "the", "adjacency", "information", ".", "The", "overhead", "of", "construction", "of", "edge", "table", "and", "the", "linked", "lists", "of", "graph-ids", "is", "relatively", "small", "and", "thus", "has", "a", "minor", "effect", "on", "the", "construction", "time", ".", "While", "gSpan", "can", "handle", "databases", "of", "only", "up", "to", "300", "thousand", "graphs", "in", "this", "experiment", ",", "ADI-Mine", "can", "handle", "databases", "of", "1", "million", "graphs", ".", "The", "curve", "of", "the", "runtime", "of", "ADI-Mine", "can", "be", "divided", "into", "three", "stages", ".", "First", ",", "when", "the", "database", "has", "up", "to", "300", "thousand", "graphs", ",", "the", "ADI", "structure", "can", "be", "fully", "accommodated", "in", "main", "memory", ".", "ADI-Mine", "is", "faster", "than", "gSpan", ".", "Second", ",", "when", "the", "database", "has", "300", "to", "600", "thousand", "graphs", ",", "gSpan", "can", "not", "finish", ".", "The", "ADI", "structure", "can", "not", "be", "fully", "held", "in", "main", "memory", ".", "Some", "part", "of", "the", "adjacency", "information", "is", "put", "on", "disk", ".", "We", "see", "a", "significant", "jump", "in", "the", "runtime", "curve", "of", "ADI-Mine", "between", "the", "databases", "of", "300", "thousand", "graphs", "and", "400", "thousand", "graphs", ".", "Last", ",", "when", "the", "database", "has", "800", "thousand", "or", "more", "graphs", ",", "even", "the", "linked", "lists", "of", "graph-ids", "can", "not", "be", "fully", "put", "into", "main", "memory", ".", "Thus", ",", "another", "significant", "jump", "in", "the", "runtime", "curve", "can", "be", "observed", ".", "6.3.2", "Tradeoff", "Between", "Efficiency", "and", "Main", "Memory", "Consumption", "It", "is", "interesting", "to", "examine", "the", "tradeoff", "between", "efficiency", "and", "size", "of", "available", "main", "memory", ".", "We", "use", "data", "set", "323", "Research", "Track", "Paper", "0", "200", "400", "600", "800", "1000", "1200", "0", "2", "4", "6", "8", "10", "Runtime", "-LRB-", "second", "-RRB-", "min_sup", "-LRB-", "%", "-RRB-", "gSpan", "ADI-Mine", "0", "200", "400", "600", "800", "1000", "1200", "50", "55", "60", "65", "70", "75", "80", "85", "90", "95", "100", "Runtime", "-LRB-", "second", "-RRB-", "Number", "of", "graphs", "-LRB-", "thousand", "-RRB-", "gSpan", "ADI-Mine", "ADI-construction", "10", "100", "1000", "10000", "100000", "20", "25", "30", "35", "40", "45", "50", "Runtime", "-LRB-", "second", "-RRB-", "N", "gSpan", "ADI-Mine", "ADI-construction", "0", "500", "1000", "1500", "2000", "10", "15", "20", "25", "30", "Runtime", "-LRB-", "second", "-RRB-", "T", "gSpan", "ADI-Mine", "ADI-construction", "-LRB-", "a", "-RRB-", "scalability", "on", "min", "sup", "-LRB-", "b", "-RRB-", "Scalability", "on", "size", "-LRB-", "c", "-RRB-", "Scalability", "on", "N", "-LRB-", "d", "-RRB-", "Scalability", "on", "T", "D100kN", "30I5T", "20L200", "D50-100kN", "30I5T", "20L200", "D100kN", "20-50I5T", "20L200", "D100kN", "30I5T", "10-30L200", "min", "sup", "=", "1", "%", "min", "sup", "=", "1", "%", "min", "sup", "=", "1", "%", "Figure", "7", ":", "The", "experimental", "results", "of", "mining", "main", "memory-based", "databases", ".", "100", "1000", "10000", "100000", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "Runtime", "-LRB-", "second", "-RRB-", "Number", "of", "graphs", "-LRB-", "thousand", "-RRB-", "gSpan", "ADI-Mine", "ADI-construction", "0", "100", "200", "300", "400", "500", "600", "700", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "Size", "-LRB-", "M", "-RRB-", "Number", "of", "graphs", "-LRB-", "thousand", "-RRB-", "ADI", "structure", "0", "200", "400", "600", "800", "1000", "0", "20", "40", "60", "80", "100", "120", "140", "160", "Runtime", "-LRB-", "s", "-RRB-", "Size", "of", "available", "main", "memory", "-LRB-", "M", "-RRB-", "ADI-Mine", "-LRB-", "a", "-RRB-", "scalability", "on", "size", "-LRB-", "b", "-RRB-", "Size", "of", "ADI", "structure", "-LRB-", "c", "-RRB-", "Runtime", "vs.", "main", "memory", "D100k-1mN", "30I5T", "20L200", "D100k-1mN", "30I5T", "20L200", "D100kN", "30I5T", "20L200", "min", "sup", "=", "1", "%", "min", "sup", "=", "1", "%", "min", "sup", "=", "1", "%", "Figure", "8", ":", "The", "experimental", "results", "of", "mining", "large", "disk-based", "databases", ".", "D100kN", "30I5T", "20L200", ",", "set", "the", "minimum", "support", "threshold", "to", "1", "%", ",", "vary", "the", "main", "memory", "limit", "from", "10M", "to", "150M", "for", "ADI", "structure", ",", "and", "measure", "the", "runtime", "of", "ADI-Mine", ".", "The", "results", "are", "shown", "in", "Figure", "8", "-LRB-", "c", "-RRB-", ".", "In", "this", "experiment", ",", "the", "size", "of", "ADI", "structure", "is", "57M", ".", "The", "construction", "time", "is", "86", "seconds", ".", "The", "highest", "watermark", "of", "main", "memory", "usage", "for", "gSpan", "in", "mining", "this", "data", "set", "is", "87M", ".", "gSpan", "uses", "1161", "seconds", "in", "the", "mining", "if", "it", "has", "sufficient", "main", "memory", ".", "When", "the", "ADI", "structure", "can", "be", "completely", "loaded", "into", "main", "memory", "-LRB-", "57M", "or", "larger", "-RRB-", ",", "ADI-Mine", "runs", "fast", ".", "Further", "increase", "of", "the", "available", "main", "memory", "can", "not", "reduce", "the", "runtime", ".", "When", "the", "ADI", "structure", "can", "not", "be", "fully", "put", "into", "main", "memory", ",", "the", "runtime", "increases", ".", "The", "more", "main", "memory", ",", "the", "faster", "ADI-Mine", "runs", ".", "When", "the", "available", "main", "memory", "is", "too", "small", "to", "even", "hold", "the", "linked", "lists", "of", "graph-ids", ",", "the", "runtime", "of", "ADI-Mine", "increases", "substantially", ".", "However", ",", "it", "still", "can", "finish", "the", "mining", "with", "10M", "main", "memory", "limit", "in", "2", "hours", ".", "6.3.3", "Number", "of", "Disk", "Block", "Reads", "In", "addition", "to", "runtime", ",", "the", "efficiency", "of", "mining", "large", "disk-based", "databases", "can", "also", "be", "measured", "by", "the", "number", "of", "disk", "block", "read", "operations", ".", "Figure", "9", "-LRB-", "a", "-RRB-", "shows", "the", "number", "of", "disk", "block", "reads", "versus", "the", "minimum", "support", "threshold", ".", "When", "the", "support", "threshold", "is", "high", "-LRB-", "e.g.", ",", "9", "%", "or", "up", "-RRB-", ",", "the", "number", "of", "frequent", "edges", "is", "small", ".", "The", "ADI", "structure", "can", "be", "held", "into", "main", "memory", "and", "thus", "the", "I/O", "cost", "is", "very", "low", ".", "As", "the", "support", "threshold", "goes", "down", ",", "larger", "and", "larger", "part", "of", "the", "ADI", "structure", "is", "stored", "on", "disk", ",", "and", "the", "I/O", "cost", "increases", ".", "This", "curve", "is", "consistent", "with", "the", "trend", "in", "Figure", "7", "-LRB-", "a", "-RRB-", ".", "Figure", "9", "-LRB-", "b", "-RRB-", "shows", "the", "number", "of", "disk", "block", "reads", "versus", "the", "number", "of", "graphs", "in", "the", "database", ".", "As", "the", "database", "size", "goes", "up", ",", "the", "I/O", "cost", "increases", "exponentially", ".", "This", "explains", "the", "curve", "of", "ADI-Mine", "in", "Figure", "8", "-LRB-", "a", "-RRB-", ".", "We", "also", "test", "the", "I/O", "cost", "on", "available", "main", "memory", ".", "The", "result", "is", "shown", "in", "Figure", "9", "-LRB-", "c", "-RRB-", ",", "which", "is", "consistent", "with", "the", "trend", "of", "runtime", "curve", "in", "Figure", "8", "-LRB-", "c", "-RRB-", ".", "6.3.4", "Effects", "of", "Other", "Parameters", "We", "also", "test", "the", "effects", "of", "the", "other", "parameters", "on", "the", "efficiency", ".", "We", "observe", "similar", "trends", "as", "in", "mining", "memory-based", "databases", ".", "Limited", "by", "space", ",", "we", "omit", "the", "details", "here", ".", "6.4", "Summary", "of", "Experimental", "Results", "The", "extensive", "performance", "study", "clearly", "shows", "the", "following", ".", "First", ",", "both", "gSpan", "and", "ADI-Mine", "are", "scalable", "when", "database", "can", "be", "held", "into", "main", "memory", ".", "ADI-Mine", "is", "faster", "than", "gSpan", ".", "Second", ",", "ADI-Mine", "can", "mine", "very", "large", "graph", "databases", "by", "accommodating", "the", "ADI", "structure", "on", "disk", ".", "The", "performance", "of", "ADI-Mine", "on", "mining", "large", "disk-based", "databases", "is", "highly", "scalable", ".", "Third", ",", "the", "size", "of", "ADI", "structure", "is", "linearly", "scalable", "with", "respect", "to", "the", "size", "of", "databases", ".", "Fourth", ",", "we", "can", "control", "the", "tradeoff", "between", "the", "mining", "efficiency", "and", "the", "main", "memory", "consumption", ".", "Last", ",", "ADI-Mine", "is", "more", "scalable", "than", "gSpan", "in", "mining", "complex", "graphs", "--", "the", "graphs", "that", "have", "many", "different", "kinds", "of", "labels", ".", "The", "problem", "of", "finding", "frequent", "common", "structures", "has", "been", "studied", "since", "early", "1990s", ".", "For", "example", ",", "-LSB-", "1", ",", "7", "-RSB-", "study", "the", "the", "problem", "of", "finding", "common", "substructures", "from", "chemical", "compounds", ".", "SUBDUE", "-LSB-", "4", "-RSB-", "proposes", "an", "approximate", "algorithm", "to", "identify", "some", ",", "instead", "of", "the", "complete", "set", "of", ",", "324", "Research", "Track", "Paper", "0", "100000", "200000", "300000", "400000", "500000", "600000", "700000", "0", "2", "4", "6", "8", "10", "Number", "of", "blocks", "read", "min_sup", "-LRB-", "%", "-RRB-", "ADI-Mine", "0", "5e", "+07", "1e", "+08", "1.5", "e", "+08", "2e", "+08", "2.5", "e", "+08", "0", "200", "400", "600", "800", "1000", "Number", "of", "blocks", "read", "Number", "of", "graphs", "-LRB-", "thousand", "-RRB-", "ADI-Mine", "0", "5e", "+06", "1e", "+07", "1.5", "e", "+07", "2e", "+07", "2.5", "e", "+07", "3e", "+07", "3.5", "e", "+07", "4e", "+07", "0", "20", "40", "60", "80", "100", "120", "140", "160", "Number", "of", "blocks", "read", "Size", "of", "available", "main", "memory", "-LRB-", "M", "-RRB-", "ADI-Mine", "-LRB-", "a", "-RRB-", "#", "blocks", "vs.", "support", "threshold", "-LRB-", "b", "-RRB-", "#", "blocks", "vs.", "database", "size", "-LRB-", "c", "-RRB-", "#", "blocks", "vs.", "main", "memory", "size", "D100kN", "30I5T", "20L200", "D100k-1mN", "30I5T", "20L200", "D100kN", "30I5T", "20L200", "min", "sup", "=", "1", "%", "min", "sup", "=", "1", "%", "Figure", "9", ":", "The", "number", "of", "disk", "blocks", "read", "in", "the", "mining", ".", "frequent", "substructures", ".", "However", ",", "these", "methods", "do", "not", "aim", "at", "scalable", "algorithms", "for", "mining", "large", "graph", "databases", ".", "The", "problem", "of", "mining", "the", "complete", "set", "of", "frequent", "graph", "patterns", "is", "firstly", "explored", "by", "Inokuchi", "et", "al.", "-LSB-", "5", "-RSB-", ".", "An", "Apriori-like", "algorithm", "AGM", "is", "proposed", ".", "Kuramochi", "and", "Karypis", "-LSB-", "6", "-RSB-", "develop", "an", "efficient", "algorithm", ",", "FSG", ",", "for", "graph", "pattern", "mining", ".", "The", "major", "idea", "is", "to", "utilize", "an", "effective", "graph", "representation", ",", "and", "conduct", "the", "edge-growth", "mining", "instead", "of", "vertex-growth", "mining", ".", "Both", "AGM", "and", "FSG", "adopt", "breadth-first", "search", ".", "Recently", ",", "Yan", "and", "Han", "propose", "the", "depth-first", "search", "approach", ",", "gSpan", "-LSB-", "11", "-RSB-", "for", "graph", "mining", ".", "They", "also", "investigate", "the", "problem", "of", "mining", "frequent", "closed", "graphs", "-LSB-", "9", "-RSB-", ",", "which", "is", "a", "non-redundant", "representation", "of", "frequent", "graph", "patterns", ".", "As", "a", "latest", "result", ",", "Yan", "et", "al.", "-LSB-", "10", "-RSB-", "uses", "frequent", "graph", "patterns", "to", "index", "graphs", ".", "As", "a", "special", "case", "of", "graph", "mining", ",", "tree", "mining", "also", "receives", "intensive", "research", "recently", ".", "Zaki", "-LSB-", "12", "-RSB-", "proposes", "the", "first", "algorithm", "for", "mining", "frequent", "tree", "patterns", ".", "Although", "there", "are", "quite", "a", "few", "studies", "on", "the", "efficient", "mining", "of", "frequent", "graph", "patterns", ",", "none", "of", "them", "addresses", "the", "problem", "of", "effective", "index", "structure", "for", "mining", "large", "disk-based", "graph", "databases", ".", "When", "the", "database", "is", "too", "large", "to", "fit", "into", "main", "memory", ",", "the", "mining", "becomes", "I/O", "bounded", ",", "and", "the", "appropriate", "index", "structure", "becomes", "very", "critical", "for", "the", "scalability", ".", "In", "this", "paper", ",", "we", "study", "the", "problem", "of", "scalable", "mining", "of", "large", "disk-based", "graph", "database", ".", "The", "ADI", "structure", ",", "an", "effective", "index", "structure", ",", "is", "developed", ".", "Taking", "gSpan", "as", "a", "concrete", "example", ",", "we", "propose", "ADI-Mine", ",", "an", "efficient", "algorithm", "adopting", "the", "ADI", "structure", ",", "to", "improve", "the", "scalability", "of", "the", "frequent", "graph", "mining", "substantially", ".", "The", "ADI-Mine", "structure", "is", "a", "general", "index", "for", "graph", "mining", ".", "As", "future", "work", ",", "it", "is", "interesting", "to", "examine", "the", "effect", "of", "the", "index", "structure", "on", "improving", "other", "graph", "pattern", "mining", "methods", ",", "such", "as", "mining", "frequent", "closed", "graphs", "and", "mining", "graphs", "with", "constraints", ".", "Furthermore", ",", "devising", "index", "structures", "to", "support", "scalable", "data", "mining", "on", "large", "disk-based", "databases", "is", "an", "important", "and", "interesting", "research", "problem", "with", "extensive", "applications", "and", "industrial", "values", ".", "We", "are", "very", "grateful", "to", "Mr.", "Xifeng", "Yan", "and", "Dr.", "Jiawei", "Han", "for", "kindly", "providing", "us", "the", "executable", "of", "gSpan", "and", "answering", "our", "questions", "promptly", ".", "We", "would", "like", "to", "thank", "the", "anonymous", "reviewers", "for", "their", "insightful", "comments", ",", "which", "help", "to", "improve", "the", "quality", "of", "the", "paper", ".", "-LSB-", "1", "-RSB-", "D.M.", "Bayada", ",", "R.", "W.", "Simpson", ",", "and", "A.", "P.", "Johnson", ".", "An", "algorithm", "for", "the", "multiple", "common", "subgraph", "problem", ".", "J.", "of", "Chemical", "Information", "&", "Computer", "Sci.", ",", "32:680", "685", ",", "1992", ".", "-LSB-", "2", "-RSB-", "C.", "Borgelt", "and", "M.R.", "Berthold", ".", "Mining", "molecular", "fragments", ":", "Finding", "relevant", "substructures", "of", "molecules", ".", "In", "Proc", ".", "2002", "Int", ".", "Conf", ".", "Data", "Mining", "-LRB-", "ICDM", "'", "02", "-RRB-", ",", "Maebashi", "TERRSA", ",", "Maebashi", "City", ",", "Japan", ",", "Dec.", "2002", ".", "-LSB-", "3", "-RSB-", "Thomas", "H.", "Cormen", ",", "Charles", "E.", "Leiserson", ",", "Ronald", "L.", "Rivest", ",", "and", "Clifford", "Stein", ".", "Introduction", "to", "Algorithms", ",", "Second", "Edition", ".", "MIT", "Press", "and", "McGraw-Hill", ",", "2002", ".", "-LSB-", "4", "-RSB-", "L.", "B.", "Holder", ",", "D.", "J.", "Cook", ",", "and", "S.", "Djoko", ".", "Substructure", "discovery", "in", "the", "subdue", "system", ".", "In", "Proc", ".", "AAAI", "'94", "Workshop", "Knowledge", "Discovery", "in", "Databases", "-LRB-", "KDD", "'", "94", "-RRB-", ",", "pages", "359", "370", ",", "Seattle", ",", "WA", ",", "July", "1994", ".", "-LSB-", "5", "-RSB-", "A.", "Inokuchi", ",", "T.", "Washio", ",", "and", "H.", "Motoda", ".", "An", "apriori-based", "algorithm", "for", "mining", "frequent", "substructures", "from", "graph", "data", ".", "In", "Proc", ".", "2000", "European", "Symp", ".", "Principle", "of", "Data", "Mining", "and", "Knowledge", "Discovery", "-LRB-", "PKDD", "'", "00", "-RRB-", ",", "pages", "13", "23", ",", "Lyon", ",", "France", ",", "Sept.", "2000", ".", "-LSB-", "6", "-RSB-", "M.", "Kuramochi", "and", "G.", "Karypis", ".", "Frequent", "subgraph", "discovery", ".", "In", "Proc", ".", "2001", "Int", ".", "Conf", ".", "Data", "Mining", "-LRB-", "ICDM", "'", "01", "-RRB-", ",", "pages", "313", "320", ",", "San", "Jose", ",", "CA", ",", "Nov.", "2001", ".", "-LSB-", "7", "-RSB-", "Y.", "Takahashi", ",", "Y.", "Satoh", ",", "and", "S.", "Sasaki", ".", "Recognition", "of", "largest", "common", "fragment", "among", "a", "variety", "of", "chemical", "structures", ".", "Analytical", "Sciences", ",", "3:23", "38", ",", "1987", ".", "-LSB-", "8", "-RSB-", "N.", "Vanetik", ",", "E.", "Gudes", ",", "and", "S.E.", "Shimony", ".", "Computing", "frequent", "graph", "patterns", "from", "semistructured", "data", ".", "In", "Proc", ".", "2002", "Int", ".", "Conf", ".", "Data", "Mining", "-LRB-", "ICDM", "'", "02", "-RRB-", ",", "Maebashi", "TERRSA", ",", "Maebashi", "City", ",", "Japan", ",", "Dec.", "2002", ".", "-LSB-", "9", "-RSB-", "X.", "Yan", "and", "J.", "Han", ".", "Closegraph", ":", "Mining", "closed", "frequent", "graph", "patterns", ".", "In", "Proceedings", "of", "the", "9th", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD", "'", "03", "-RRB-", ",", "Washington", ",", "D.C", ",", "2003", ".", "-LSB-", "10", "-RSB-", "X.", "Yan", ",", "P.S.", "Yu", ",", "and", "J.", "Han", ".", "Graph", "indexing", ":", "A", "frequent", "structure-based", "approach", ".", "In", "Proc", ".", "2004", "ACM", "SIGMOD", "Int", ".", "Conf", ".", "on", "Management", "of", "Data", "-LRB-", "SIGMOD", "'", "04", "-RRB-", ",", "Paris", ",", "France", ",", "June", "2004", ".", "-LSB-", "11", "-RSB-", "Y.", "Yan", "and", "J.", "Han", ".", "gspan", ":", "Graph-based", "substructure", "pattern", "mining", ".", "In", "Proc", ".", "2002", "Int", ".", "Conf", ".", "on", "Data", "Mining", "-LRB-", "ICDM", "'", "02", "-RRB-", ",", "Maebashi", ",", "Japan", ",", "December", "2002", ".", "-LSB-", "12", "-RSB-", "M.J.", "Zaki", ".", "Efficiently", "mining", "frequent", "trees", "in", "a", "forest", ".", "In", "Proc", ".", "2002", "Int", ".", "Conf", ".", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD", "'", "02", "-RRB-", ",", "Edmonton", ",", "Alberta", ",", "Canada", ",", "July", "2002", ".", "325", "Research", "Track", "Paper"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["adi index structure", "graph databases", "frequent graph pattern", "edge table", "graph database", "dfs code", "graph mining", "gspan algorithm", "index"], "abstractive_keyphrases": ["subgraph mine", "frequent graph pattern mining", "adjacency list representation", "memory based databases", "disk bases databases"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "162", "document": ["Querying", "Bi-level", "Information", "In", "our", "research", "on", "superimposed", "information", "management", ",", "we", "have", "developed", "applications", "where", "information", "elements", "in", "the", "superimposed", "layer", "serve", "to", "annotate", ",", "comment", ",", "restructure", ",", "and", "combine", "selections", "from", "one", "or", "more", "existing", "documents", "in", "the", "base", "layer", ".", "Base", "documents", "tend", "to", "be", "unstructured", "or", "semi-structured", "-LRB-", "HTML", "pages", ",", "Excel", "spreadsheets", ",", "and", "so", "on", "-RRB-", "with", "marks", "delimiting", "selections", ".", "Selections", "in", "the", "base", "layer", "can", "be", "programmatically", "accessed", "via", "marks", "to", "retrieve", "content", "and", "context", ".", "The", "applications", "we", "have", "built", "to", "date", "allow", "creation", "of", "new", "marks", "and", "new", "superimposed", "elements", "-LRB-", "that", "use", "marks", "-RRB-", ",", "but", "they", "have", "been", "browse-oriented", "and", "tend", "to", "expose", "the", "line", "between", "superimposed", "and", "base", "layers", ".", "Here", ",", "we", "present", "a", "new", "access", "capability", ",", "called", "bi-level", "queries", ",", "that", "allows", "an", "application", "or", "user", "to", "query", "over", "both", "layers", "as", "a", "whole", ".", "Bi-level", "queries", "provide", "an", "alternative", "style", "of", "data", "integration", "where", "only", "relevant", "portions", "of", "a", "base", "document", "are", "mediated", "-LRB-", "not", "the", "whole", "document", "-RRB-", "and", "the", "superimposed", "layer", "can", "add", "information", "not", "present", "in", "the", "base", "layer", ".", "We", "discuss", "our", "framework", "for", "superimposed", "information", "management", ",", "an", "initial", "implementation", "of", "a", "bi-level", "query", "system", "with", "an", "XML", "Query", "interface", ",", "and", "suggest", "mechanisms", "to", "improve", "scalability", "and", "performance", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "--", "Information", "filtering", ",", "Retrieval", "models", ",", "H.", "2.5", "-LSB-", "Database", "Management", "-RSB-", ":", "Heterogeneous", "Databases", ".", "Management", ",", "Performance", ",", "Design", ".", "You", "are", "conducting", "background", "research", "for", "a", "paper", "you", "are", "writing", ".", "You", "have", "found", "relevant", "information", "in", "a", "variety", "of", "sources", ":", "HTML", "pages", "on", "the", "web", ",", "PDF", "documents", "on", "the", "web", "and", "on", "your", "SIGMOD", "anthology", "of", "CDs", ",", "Excel", "spreadsheets", "and", "Word", "documents", "from", "your", "past", "work", "in", "a", "related", "area", ",", "and", "so", "on", ".", "You", "identify", "relevant", "portions", "of", "the", "documents", "and", "add", "annotations", "with", "clarifications", ",", "questions", ",", "and", "conclusions", ".", "As", "you", "collect", "information", ",", "you", "frequently", "reorganize", "the", "information", "you", "have", "collected", "thus", "far", "-LRB-", "and", "your", "added", "annotations", "-RRB-", "to", "reflect", "your", "perspective", ".", "You", "intentionally", "keep", "your", "information", "structure", "loose", "so", "you", "can", "easily", "move", "things", "around", ".", "When", "you", "have", "collected", "sufficient", "information", ",", "you", "import", "it", ",", "along", "with", "your", "comments", ",", "in", "to", "a", "word-processor", "document", ".", "As", "you", "write", "your", "paper", "in", "your", "word-processor", ",", "you", "revisit", "your", "sources", "to", "see", "information", "in", "its", "context", ".", "Also", ",", "as", "you", "write", "your", "paper", "you", "reorganize", "its", "contents", ",", "including", "the", "imported", "information", ",", "to", "suit", "the", "flow", ".", "Occasionally", ",", "you", "search", "the", "imported", "annotations", ",", "selections", ",", "and", "the", "context", "of", "the", "selections", ".", "You", "mix", "some", "of", "the", "imported", "information", "with", "other", "information", "in", "the", "paper", "and", "transform", "the", "mixture", "to", "suit", "presentation", "needs", ".", "Most", "researchers", "will", "be", "familiar", "with", "manual", "approaches", "to", "the", "scenario", "we", "have", "just", "described", ".", "Providing", "computer", "support", "for", "this", "scenario", "requires", "a", "toolset", "with", "the", "following", "capabilities", ":", "1", ".", "Select", "portions", "of", "documents", "of", "many", "kinds", "-LRB-", "PDF", ",", "HTML", ",", "etc.", "-RRB-", "in", "many", "locations", "-LRB-", "web", ",", "CD", ",", "local", "file", "system", ",", "etc.", "-RRB-", ",", "and", "record", "the", "selections", ".", "2", ".", "Create", "and", "associate", "annotations", "-LRB-", "of", "varying", "structure", "-RRB-", "with", "document", "selections", ".", "3", ".", "Group", "and", "link", "document", "selections", "and", "annotations", ",", "reorganize", "them", "as", "needed", ",", "and", "possibly", "even", "maintain", "multiple", "organizations", ".", "4", ".", "See", "a", "document", "selection", "in", "its", "context", "by", "opening", "the", "document", "and", "navigating", "to", "the", "selected", "region", ",", "or", "access", "the", "context", "of", "a", "selection", "without", "launching", "its", "original", "document", ".", "5", ".", "Place", "document", "selections", "and", "annotations", "in", "traditional", "documents", "-LRB-", "such", "as", "the", "word-processor", "document", "that", "contains", "your", "paper", "-RRB-", ".", "6", ".", "Search", "and", "transform", "a", "mixture", "of", "document", "selections", ",", "annotations", ",", "and", "other", "information", ".", "Systems", "that", "support", "some", "subset", "of", "these", "capabilities", "exist", ",", "but", "no", "one", "system", "supports", "the", "complete", "set", ".", "It", "is", "hard", "to", "use", "a", "collection", "of", "systems", "to", "get", "the", "full", "set", "of", "features", "because", "the", "systems", "do", "not", "interoperate", "well", ".", "Some", "hypertext", "systems", "can", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Seventh", "International", "Workshop", "on", "the", "Web", "and", "Databases", "-LRB-", "WebDB", "2004", "-RRB-", "June", "17", "18", ",", "2004", ",", "Paris", ",", "France", ".", "Copyright", "author/owner", ".", "7", "create", "multiple", "organizations", "of", "the", "same", "information", ",", "but", "they", "tend", "to", "lack", "in", "the", "types", "of", "source", ",", "granularity", "of", "information", ",", "or", "the", "location", "of", "information", "consulted", ".", "For", "example", ",", "Dexter", "-LSB-", "6", "-RSB-", "requires", "all", "information", "consulted", "to", "be", "stored", "in", "its", "proprietary", "database", ".", "Compound", "document", "systems", "can", "address", "sub-documents", ",", "but", "they", "tend", "to", "have", "many", "display", "constraints", ".", "For", "example", ",", "OLE", "2", "-LSB-", "9", "-RSB-", "relies", "on", "original", "applications", "to", "render", "information", ".", "Neither", "type", "of", "system", "supports", "querying", "a", "mixture", "of", "document", "selections", "and", "annotations", ".", "Superimposed", "information", "management", "is", "an", "alternative", "solution", "for", "organizing", "heterogeneous", "in", "situ", "information", ",", "at", "document", "and", "sub-document", "granularity", ".", "Superimposed", "information", "-LRB-", "such", "as", "annotations", "-RRB-", "refers", "to", "data", "placed", "over", "existing", "information", "sources", "-LRB-", "base", "information", "-RRB-", "to", "help", "organize", ",", "access", ",", "connect", "and", "reuse", "information", "elements", "in", "those", "sources", "-LSB-", "8", "-RSB-", ".", "In", "our", "previous", "work", "-LSB-", "12", "-RSB-", ",", "we", "have", "described", "the", "Superimposed", "Pluggable", "Architecture", "for", "Contexts", "and", "Excerpts", "-LRB-", "SPARCE", "-RRB-", ",", "a", "middleware", "for", "superimposed", "information", "management", ",", "and", "presented", "some", "superimposed", "applications", "built", "using", "SPARCE", ".", "Together", "they", "support", "Capabilities", "1", "through", "4", ".", "In", "this", "paper", ",", "we", "show", "how", "SPARCE", "can", "be", "used", "to", "support", "Capability", "6", ".", "Details", "of", "support", "for", "Capability", "5", "are", "outside", "the", "scope", "of", "this", "paper", ".", "Before", "we", "proceed", "with", "the", "details", "of", "how", "we", "support", "Capability", "6", ",", "we", "introduce", "a", "superimposed", "application", "called", "RIDPad", "-LSB-", "12", "-RSB-", ".", "Figure", "1", "shows", "a", "RIDPad", "document", "that", "contains", "information", "selections", "and", "annotations", "related", "to", "the", "topic", "of", "information", "integration", ".", "The", "document", "shown", "contains", "eight", "items", ":", "CLIO", ",", "Definition", ",", "SchemaSQL", ",", "Related", "Systems", ",", "Goal", ",", "Model", ",", "Query", "Optimizer", ",", "and", "Press", ".", "These", "items", "are", "associated", "with", "six", "distinct", "base", "documents", "of", "three", "kinds", "--", "PDF", ",", "Excel", ",", "and", "HTML", ".", "An", "item", "has", "a", "name", ",", "a", "descriptive", "text", ",", "and", "a", "reference", "-LRB-", "called", "a", "mark", "-RRB-", "to", "a", "selection", "in", "a", "base", "document", ".", "For", "example", ",", "the", "item", "labeled", "`", "Goal", "'", "contains", "a", "mark", "into", "a", "PDF", "document", ".", "The", "boxes", "labeled", "Schematic", "Heterogeneity", "and", "Garlic", "are", "groups", ".", "A", "group", "is", "a", "named", "collection", "of", "items", "and", "other", "groups", ".", "A", "RIDPad", "document", "is", "a", "collection", "of", "items", "and", "groups", ".", "RIDPad", "affords", "many", "operations", "for", "items", "and", "groups", ".", "A", "user", "can", "create", "new", "items", "and", "groups", ",", "and", "move", "items", "between", "groups", ".", "The", "user", "can", "also", "rename", ",", "resize", ",", "and", "change", "visual", "characteristics", "such", "as", "color", "and", "font", "for", "items", "and", "groups", ".", "With", "the", "mark", "associated", "with", "an", "item", ",", "the", "user", "can", "navigate", "to", "the", "base", "layer", "if", "necessary", ",", "or", "examine", "the", "mark", "'s", "properties", "and", "browse", "context", "information", "-LRB-", "such", "as", "containing", "paragraph", "-RRB-", "from", "within", "RIDPad", "via", "a", "reusable", "Context", "Browser", "we", "have", "built", ".", "The", "operations", "RIDPAD", "affords", "are", "at", "the", "level", "of", "items", "and", "groups", ".", "However", ",", "we", "have", "seen", "the", "need", "to", "query", "and", "manipulate", "a", "RIDPad", "document", "and", "its", "base", "documents", "as", "a", "whole", ".", "For", "example", ",", "possible", "queries", "over", "the", "RIDPad", "document", "in", "Figure", "1", "include", ":", "Q1", ":", "List", "base", "documents", "used", "in", "this", "RIDPad", "document", ".", "Q2", ":", "Show", "abstracts", "of", "papers", "related", "to", "Garlic", ".", "Q3", ":", "Create", "an", "HTML", "table", "of", "contents", "from", "the", "groups", "and", "items", ".", "Query", "Q1", "examines", "the", "paths", "to", "base", "documents", "of", "marks", "associated", "with", "items", "in", "the", "RIDPad", "document", ".", "Q2", "examines", "the", "context", "of", "marks", "of", "items", "in", "the", "group", "labeled", "`", "Schematic", "Heterogeneity", ".", "'", "Q3", "transforms", "the", "contents", "of", "the", "RIDPad", "document", "to", "another", "form", "-LRB-", "table", "of", "contents", "-RRB-", ".", "In", "general", ",", "queries", "such", "as", "these", "operate", "on", "both", "superimposed", "information", "and", "base", "information", ".", "Consequently", ",", "we", "call", "them", "bi-level", "queries", ".", "Figure", "1", ":", "A", "RIDPad", "document", ".", "There", "are", "many", "possible", "choices", "on", "how", "to", "present", "the", "contents", "of", "superimposed", "documents", "-LRB-", "such", "as", "the", "RIDPad", "document", "in", "Figure", "1", "-RRB-", "and", "base", "documents", "for", "querying", ".", "We", "could", "make", "the", "division", "between", "the", "superimposed", "and", "base", "documents", "obvious", "and", "let", "the", "user", "explicitly", "follow", "marks", "from", "superimposed", "information", "to", "base", "information", ".", "Instead", ",", "our", "approach", "is", "to", "integrate", "a", "superimposed", "document", "'s", "contents", "and", "related", "base", "information", "to", "present", "a", "uniform", "representation", "of", "the", "integrated", "information", "for", "querying", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "provides", "an", "overview", "of", "SPARCE", ".", "Section", "3", "provides", "an", "overview", "of", "bi-level", "query", "systems", "and", "describes", "a", "na", "ve", "implementation", "of", "a", "bi-level", "query", "system", "along", "with", "some", "example", "bi-level", "queries", ".", "Section", "4", "discusses", "some", "applications", "and", "implementation", "alternatives", "for", "bi-level", "query", "systems", ".", "Section", "5", "briefly", "reviews", "related", "work", ".", "Section", "6", "summarizes", "the", "paper", ".", "We", "use", "the", "RIDPad", "document", "in", "Figure", "1", "for", "all", "examples", "in", "this", "paper", ".", "The", "Superimposed", "Pluggable", "Architecture", "for", "Contexts", "and", "Excerpts", "-LRB-", "SPARCE", "-RRB-", "facilitates", "management", "of", "marks", "and", "context", "information", "in", "the", "setting", "of", "superimposed", "information", "management", "-LSB-", "12", "-RSB-", ".", "A", "mark", "is", "an", "abstraction", "of", "a", "selection", "in", "a", "base", "document", ".", "Several", "mark", "implementations", "exist", ",", "typically", "one", "per", "base", "type", "-LRB-", "PDF", ",", "HTML", ",", "Excel", ",", "and", "so", "on", "-RRB-", ".", "A", "mark", "implementation", "chooses", "an", "addressing", "scheme", "appropriate", "for", "the", "base", "type", "it", "supports", ".", "For", "example", ",", "an", "MS", "Word", "mark", "implementation", "uses", "the", "starting", "and", "ending", "character", "index", "of", "a", "text", "selection", ",", "whereas", "an", "MS", "Excel", "mark", "uses", "the", "row", "and", "column", "names", "of", "the", "first", "and", "last", "cell", "in", "the", "selection", ".", "All", "mark", "implementations", "provide", "a", "common", "interface", "to", "address", "base", "information", ",", "regardless", "of", "base", "type", "or", "access", "protocol", "they", "8", "support", ".", "A", "superimposed", "application", "can", "work", "uniformly", "with", "any", "base", "type", "due", "to", "this", "common", "interface", ".", "Context", "is", "information", "concerning", "a", "base-layer", "element", ".", "Presentation", "information", "such", "as", "font", "name", ",", "containment", "information", "such", "as", "enclosing", "paragraph", "and", "section", ",", "and", "placement", "information", "such", "as", "line", "number", "are", "examples", "of", "context", "information", ".", "An", "Excerpt", "is", "the", "content", "of", "a", "marked", "base-layer", "element", ".", "-LRB-", "We", "treat", "an", "excerpt", "also", "as", "a", "context", "element", ".", "-RRB-", "Figure", "2", "shows", "the", "PDF", "mark", "corresponding", "to", "the", "item", "`", "Goal", "'", "-LRB-", "of", "the", "RIDPad", "document", "in", "Figure", "1", "-RRB-", "activated", ".", "The", "highlighted", "portion", "is", "the", "marked", "region", ".", "Table", "1", "shows", "some", "of", "the", "context", "elements", "for", "this", "mark", ".", "Figure", "2", ":", "A", "PDF", "mark", "activated", ".", "Figure", "3", "shows", "the", "SPARCE", "architecture", "reference", "model", ".", "The", "Mark", "Management", "module", "is", "responsible", "for", "operations", "on", "marks", "-LRB-", "such", "as", "creating", "and", "storing", "marks", "-RRB-", ".", "The", "Context", "Management", "module", "retrieves", "context", "information", ".", "The", "Superimposed", "Information", "Management", "module", "provides", "storage", "service", "to", "superimposed", "applications", ".", "The", "Clipboard", "is", "used", "for", "inter-process", "communication", ".", "Table", "1", ":", "Some", "context", "elements", "of", "a", "PDF", "mark", ".", "Element", "name", "Value", "Excerpt", "provide", "applications", "and", "users", "with", "...", "Garlic", "system", "Font", "name", "Times", "New", "Roman", "Enclosing", "paragraph", "Loosely", "speaking", ",", "the", "goal", "...", "Section", "Heading", "Garlic", "Overview", "SPARCE", "uses", "mediators", "-LSB-", "13", "-RSB-", "called", "context", "agents", "to", "interact", "with", "different", "base", "types", ".", "A", "context", "agent", "is", "responsible", "for", "resolving", "a", "mark", "and", "returning", "the", "set", "of", "context", "elements", "appropriate", "to", "that", "mark", ".", "A", "context", "agent", "is", "different", "from", "mediators", "used", "in", "other", "systems", "because", "it", "only", "mediates", "portions", "of", "base", "document", "a", "mark", "refers", "to", ".", "For", "example", ",", "if", "a", "mark", "refers", "to", "the", "first", "three", "lines", "of", "a", "PDF", "document", ",", "the", "mark", "'s", "context", "agent", "mediates", "those", "three", "lines", "and", "other", "regions", "immediately", "around", "the", "lines", ".", "A", "user", "could", "retrieve", "broader", "context", "information", "for", "this", "mark", ",", "but", "the", "agent", "will", "not", "do", "so", "by", "default", ".", "Figure", "3", ":", "SPARCE", "architecture", "reference", "model", ".", "A", "superimposed", "application", "allows", "creation", "of", "information", "elements", "-LRB-", "such", "as", "annotations", "-RRB-", "associated", "with", "marks", ".", "It", "can", "use", "an", "information", "model", "of", "its", "choice", "-LRB-", "SPARCE", "does", "not", "impose", "a", "model", "-RRB-", "and", "the", "model", "may", "vary", "from", "one", "application", "to", "another", ".", "For", "example", ",", "RIDPad", "uses", "a", "group-item", "model", "-LRB-", "simple", "nesting", "-RRB-", ",", "whereas", "the", "Schematics", "Browser", ",", "another", "application", "we", "have", "built", ",", "uses", "an", "ER", "model", "-LSB-", "2", ",", "12", "-RSB-", ".", "The", "superimposed", "model", "may", "be", "different", "from", "any", "of", "the", "base", "models", ".", "A", "detailed", "description", "of", "SPARCE", "is", "available", "in", "our", "previous", "work", "-LSB-", "12", "-RSB-", ".", "A", "bi-level", "query", "system", "allows", "a", "superimposed", "application", "and", "its", "user", "to", "query", "the", "superimposed", "information", "and", "base", "information", "as", "a", "whole", ".", "User", "queries", "are", "in", "a", "language", "appropriate", "to", "the", "superimposed", "model", ".", "For", "example", ",", "XQuery", "may", "be", "the", "query", "language", "if", "the", "superimposed", "model", "is", "XML", "-LRB-", "or", "a", "model", "that", "can", "be", "mapped", "to", "XML", "-RRB-", ",", "whereas", "SQL", "may", "be", "the", "query", "language", "if", "superimposed", "information", "is", "in", "the", "relational", "model", ".", "Figure", "4", ":", "Overview", "of", "a", "bi-level", "query", "system", ".", "Figure", "4", "provides", "an", "overview", "of", "a", "bi-level", "query", "system", ".", "An", "oval", "in", "the", "figure", "represents", "an", "information", "source", ".", "A", "rectangle", "denotes", "a", "process", "that", "manipulates", "information", ".", "Arrows", "indicate", "data", "flow", ".", "The", "query", "processor", "accepts", "three", "kinds", "of", "information", "--", "superimposed", ",", "mark", ",", "and", "context", ".", "Model", "transformers", "transform", "information", "from", "the", "three", "sources", "in", "to", "model", "-LRB-", "s", "-RRB-", "appropriate", "for", "querying", ".", "One", "of", "these", "transformers", ",", "the", "context", "transformer", ",", "is", "responsible", "for", "transforming", "context", "information", ".", "We", "restrict", "bi-level", "query", "systems", "to", "use", "only", "one", "superimposed", "model", "at", "a", "time", ",", "for", "practical", "reasons", ".", "Choosing", "a", "query", "language", "and", "the", "model", "for", "the", "result", "can", "be", "hard", "if", "superimposed", "models", "are", "mixed", ".", "Base", "Info", "1", "Base", "Info", "n", "Context", "Agents", "Model", "Transformers", "Mark", "Info", "Superimposed", "Info", "Query", "Processor", "Superimposed", "Application", "Superimposed", "Information", "Management", "Mark", "Management", "Context", "Management", "Clipboard", "Base", "Application", "Result", "Query", "9", "3.1", "Implementation", "We", "have", "implemented", "a", "na", "ve", "bi-level", "query", "system", "for", "the", "XML", "superimposed", "model", ".", "We", "have", "developed", "a", "transformer", "to", "convert", "RIDPad", "information", "to", "XML", ".", "We", "have", "developed", "a", "context", "transformer", "to", "convert", "context", "information", "to", "XML", ".", "We", "are", "able", "to", "use", "mark", "information", "without", "any", "transformation", "since", "SPARCE", "already", "represents", "that", "information", "in", "XML", ".", "User", "queries", "can", "be", "in", "XPath", ",", "XSLT", ",", "and", "XQuery", ".", "We", "use", "Microsoft", "'s", "XML", "SDK", "4.0", "-LSB-", "10", "-RSB-", "and", "XQuery", "demo", "implementation", "-LSB-", "11", "-RSB-", "to", "process", "queries", ".", "We", "use", "three", "XML", "elements", "to", "represent", "RIDPad", "information", "in", "XML", "-", "&", "lt", ";", "RIDPadDocument", ">", "for", "the", "document", ",", "<", "Group", ">", "for", "a", "group", ",", "and", "<", "Item", ">", "for", "an", "item", ".", "For", "each", "RIDPad", "item", ",", "the", "system", "creates", "four", "children", "nodes", "in", "the", "corresponding", "<", "Item", ">", "element", ".", "These", "children", "nodes", "correspond", "to", "the", "mark", ",", "container", "-LRB-", "base", "document", "where", "the", "mark", "is", "made", "-RRB-", ",", "application", ",", "and", "context", ".", "We", "currently", "transform", "the", "entire", "context", "of", "the", "mark", ".", "The", "XML", "data", "is", "regenerated", "if", "the", "RIDPad", "document", "changes", ".", "Figure", "5", ":", "Partial", "XML", "data", "from", "a", "RIDPad", "document", ".", "Figure", "5", "shows", "partial", "XML", "data", "generated", "from", "the", "RIDPad", "document", "in", "Figure", "1", ".", "It", "contains", "two", "<", "Group", ">", "elements", "-LRB-", "corresponding", "to", "the", "two", "groups", "in", "Figure", "1", "-RRB-", ".", "The", "`", "Garlic", "'", "element", "contains", "four", "<", "Item", ">", "elements", "-LRB-", "one", "for", "each", "item", "in", "that", "group", "in", "Figure", "1", "-RRB-", ".", "There", "is", "also", "an", "<", "Item", ">", "element", "for", "the", "group-less", "item", "CLIO", ".", "The", "<", "Item", ">", "element", "for", "`", "Goal", "'", "is", "partially", "expanded", "to", "reveal", "the", "<", "Mark", ">", ",", "<", "Container", ">", ",", "<", "Application", ">", ",", "and", "<", "Context", ">", "elements", "it", "contains", ".", "Contents", "of", "these", "elements", "are", "not", "shown", ".", "3.2", "Example", "Bi-level", "Queries", "We", "now", "provide", "bi-level", "query", "expressions", "for", "the", "queries", "Q1", "to", "Q3", "listed", "in", "Section", "1", ".", "Q1", ":", "List", "base", "documents", "used", "in", "this", "RIDPad", "document", ".", "This", "query", "must", "retrieve", "the", "path", "to", "the", "base", "document", "of", "the", "mark", "associated", "with", "each", "item", "in", "a", "RIDPad", "document", ".", "The", "following", "XQuery", "expression", "does", "just", "that", ".", "The", "Location", "element", "in", "the", "Container", "element", "contains", "the", "path", "to", "the", "document", "corresponding", "to", "the", "mark", "associated", "with", "an", "item", ".", "<", "Paths", ">", "-LCB-", "FOR", "$", "l", "IN", "document", "-LRB-", "``", "source", "''", "-RRB-", "/", "/", "Item/Container/Location", "RETURN", "<", "Path", ">", "-LCB-", "$", "l/text", "-LRB-", "-RRB-", "-RCB-", "<", "/", "Path", ">", "-RCB-", "<", "/", "Paths", ">", "Q2", ":", "Show", "abstracts", "of", "papers", "related", "to", "Garlic", ".", "This", "query", "must", "examine", "the", "context", "of", "items", "in", "the", "group", "labeled", "`", "Garlic", ".", "'", "The", "following", "XPath", "expression", "suffices", ".", "This", "expression", "returns", "the", "text", "of", "a", "context", "element", "whose", "name", "attribute", "is", "`", "Abstract", "'", ",", "but", "only", "for", "items", "in", "the", "required", "group", ".", "/", "/", "Group", "-LSB-", "@name", "=", "`", "Garlic", "'", "-RSB-", "/", "Item/Context", "/", "/", "Elemen", "t", "-LSB-", "@name", "=", "`", "Abstract", "'", "-RSB-", "/", "text", "-LRB-", "-RRB-", "Q3", ":", "Create", "an", "HTML", "table", "of", "contents", "from", "the", "groups", "and", "items", ".", "We", "use", "an", "XSLT", "style-sheet", "to", "generate", "a", "table", "of", "contents", "-LRB-", "TOC", "-RRB-", "from", "a", "RIDPad", "document", ".", "Figure", "6", "shows", "the", "query", "in", "the", "left", "panel", "and", "its", "results", "in", "the", "right", "panel", ".", "The", "right", "panel", "embeds", "an", "instance", "of", "MS", "Internet", "Explorer", ".", "The", "result", "contains", "one", "list", "item", "-LRB-", "HTML", "LI", "tag", "-RRB-", "for", "each", "group", "in", "the", "RIDPad", "document", ".", "There", "is", "also", "one", "list", "sub-item", "-LRB-", "also", "an", "HTML", "LI", "tag", "-RRB-", "for", "each", "item", "in", "a", "group", ".", "The", "group-less", "item", "CLIO", "is", "in", "the", "list", "titled", "`", "Other", "Items", ".", "'", "A", "user", "can", "save", "the", "HTML", "results", ",", "and", "open", "it", "in", "any", "browser", "outside", "our", "system", ".", "Figure", "6", ":", "RIDPAD", "document", "transformed", "to", "HTML", "TOC", ".", "The", "HTML", "TOC", "in", "Figure", "6", "shows", "that", "each", "item", "has", "a", "hyperlink", "-LRB-", "HTML", "A", "tag", "-RRB-", "attached", "to", "it", ".", "A", "hyperlink", "is", "constructed", "using", "a", "custom", "URL", "naming", "scheme", "and", "handled", "using", "a", "custom", "handler", ".", "Custom", "URLs", "are", "one", "means", "of", "implementing", "Capability", "5", "identified", "in", "Section", "1", ".", "The", "strength", "of", "the", "current", "implementation", "is", "that", "it", "retrieves", "context", "information", "for", "only", "those", "parts", "of", "base", "documents", "that", "the", "superimposed", "document", "refers", "to", "-LRB-", "via", "marks", "-RRB-", ".", "Interestingly", ",", "the", "same", "is", "also", "its", "weakness", ":", "it", "retrieves", "context", "information", "for", "all", "parts", "of", "the", "base", "documents", "the", "superimposed", "document", "refers", "to", ",", "regardless", "of", "whether", "executing", "a", "query", "requires", "those", "elements", ".", "For", "example", ",", "only", "Query", "Q2", "looks", "at", "context", "information", "-LRB-", "Q1", "looks", "only", "at", "container", "information", ",", "Q3", "looks", "at", "superimposed", "information", "and", "mark", "information", "-RRB-", ".", "However", ",", "the", "XML", "data", "generated", "includes", "context", "information", "for", "all", "queries", ".", "Generating", "data", "in", "this", "manner", "is", "both", "inefficient", "and", "unnecessary-information", "may", "be", "replicated", "-LRB-", "different", "items", "may", "use", "the", "same", "mark", "-RRB-", ",", "and", "context", "information", "can", "be", "rather", "large", "-LRB-", "the", "size", "of", "the", "complete", "context", "of", "a", "mark", "could", "exceed", "the", "size", "of", "its", "docu-10", "ment", "-RRB-", ",", "depending", "on", "what", "context", "elements", "a", "context", "agent", "provides", ".", "It", "is", "possible", "to", "get", "the", "same", "results", "by", "separating", "RIDPad", "data", "from", "the", "rest", "and", "joining", "the", "various", "information", "sources", ".", "Doing", "so", "preserves", "the", "layers", ",", "and", "potentially", "reduces", "the", "size", "of", "data", "generated", ".", "Also", ",", "it", "is", "possible", "to", "execute", "a", "query", "in-crementally", "and", "only", "generate", "or", "transform", "data", "that", "qualifies", "in", "each", "stage", "of", "execution", ".", "Figure", "7", "gives", "an", "idea", "of", "the", "proposed", "change", "to", "the", "schema", "of", "the", "XML", "data", "generated", ".", "Comparing", "with", "the", "Goal", "Item", "element", "of", "Figure", "5", ",", "we", "see", "that", "mark", ",", "container", ",", "application", ",", "and", "context", "information", "are", "no", "longer", "nested", "inside", "the", "Item", "element", ".", "Instead", ",", "an", "<", "Item", ">", "element", "has", "a", "new", "attribute", "called", "markID", ".", "In", "the", "revised", "schema", ",", "the", "RIDPad", "data", ",", "mark", ",", "container", ",", "application", ",", "and", "context", "information", "exist", "independently", "in", "separate", "documents", ",", "with", "references", "linking", "them", ".", "With", "the", "revised", "schema", ",", "no", "context", "information", "would", "be", "retrieved", "for", "Query", "Q1", ".", "Context", "information", "would", "be", "retrieved", "only", "for", "items", "in", "the", "`", "Schematic", "Heterogeneity", "'", "group", "when", "Q2", "is", "executed", ".", "Figure", "7", ":", "XML", "data", "in", "the", "revised", "schema", ".", "Preserving", "the", "layers", "of", "data", "has", "some", "disadvantages", ".", "A", "major", "disadvantage", "is", "that", "a", "user", "will", "need", "to", "use", "joins", "to", "connect", "data", "across", "layers", ".", "Such", "queries", "tend", "to", "be", "error-prone", ",", "and", "writing", "them", "can", "take", "too", "much", "time", "and", "effort", ".", "A", "solution", "would", "be", "to", "allow", "a", "user", "to", "write", "bi-level", "queries", "as", "they", "currently", "do", "-LRB-", "against", "a", "schema", "corresponding", "to", "the", "data", "in", "Figure", "5", "-RRB-", ",", "and", "have", "the", "system", "rewrite", "the", "query", "to", "match", "the", "underlying", "XML", "schema", "-LRB-", "as", "in", "Figure", "7", "-RRB-", ".", "That", "is", ",", "user", "queries", "would", "actually", "be", "expressed", "against", "a", "view", "of", "the", "actual", "data", ".", "We", "are", "currently", "pursuing", "this", "approach", "to", "bi-level", "querying", ".", "Our", "current", "approach", "of", "grabbing", "context", "information", "for", "all", "marks", "could", "be", "helpful", "in", "some", "cases", ".", "For", "example", ",", "if", "a", "query", "workload", "ends", "up", "retrieving", "context", "of", "all", "-LRB-", "or", "most", "-RRB-", "marks", ",", "the", "current", "approach", "is", "similar", "to", "materializing", "views", ",", "and", "could", "lead", "to", "faster", "overall", "query", "execution", ".", "The", "current", "implementation", "does", "not", "exploit", "relationships", "between", "superimposed", "information", "elements", ".", "For", "example", ",", "Figure", "8", "shows", "the", "RIDPad", "document", "in", "Figure", "1", "enhanced", "with", "two", "relationships", "`", "Uses", "'", "and", "`", "Addresses", "'", "from", "the", "item", "CLIO", ".", "A", "user", "may", "exploit", "these", "relationships", ",", "to", "pose", "richer", "queries", "and", "possibly", "recall", "more", "information", ".", "For", "example", ",", "with", "the", "RIDPad", "document", "in", "Figure", "8", ",", "a", "user", "could", "now", "pose", "the", "following", "queries", ":", "What", "system", "does", "CLIO", "use", "?", "How", "is", "CLIO", "related", "to", "SchemaSQL", "?", "Our", "initial", "use", "anticipated", "for", "bi-level", "queries", "was", "to", "query", "superimposed", "and", "base", "information", "as", "a", "whole", ",", "but", "we", "have", "noticed", "that", "superimposed", "application", "developers", "and", "users", "could", "use", "the", "capability", "to", "construct", "and", "format", "-LRB-", "on", "demand", "-RRB-", "superimposed", "information", "elements", "themselves", ".", "For", "example", ",", "a", "RIDPad", "item", "'s", "name", "may", "be", "a", "section", "heading", ".", "Such", "a", "representation", "of", "an", "item", "could", "be", "expressed", "as", "the", "result", "of", "a", "query", "or", "a", "transformation", ".", "Figure", "8", ":", "A", "RIDPad", "document", "with", "relationships", ".", "Bi-level", "queries", "could", "also", "be", "used", "for", "repurposing", "information", ".", "For", "example", ",", "Query", "Q3", "could", "be", "extended", "to", "include", "the", "contents", "of", "items", "-LRB-", "instead", "of", "just", "names", "-RRB-", "and", "transform", "the", "entire", "RIDPad", "document", "to", "HTML", "-LRB-", "like", "in", "Figure", "6", "-RRB-", ".", "The", "HTML", "version", "can", "then", "be", "published", "on", "the", "web", ".", "We", "have", "demonstrated", "bi-level", "queries", "using", "XML", "query", "languages", ",", "but", "superimposed", "applications", "might", "benefit", "from", "other", "query", "languages", ".", "The", "choice", "of", "the", "query", "language", "depends", "largely", "on", "the", "superimposed", "information", "model", "-LRB-", "which", "in", "turn", "depends", "on", "the", "task", "at", "hand", "-RRB-", ".", "More", "than", "one", "query", "language", "may", "be", "appropriate", "for", "some", "superimposed", "information", "models", ",", "in", "some", "superimposed", "applications", ".", "For", "example", ",", "both", "CXPath", "-LSB-", "3", "-RSB-", "and", "XQuery", "may", "be", "appropriate", "for", "some", "applications", "that", "use", "the", "XML", "superimposed", "model", ".", "The", "base", "applications", "we", "have", "worked", "with", "so", "far", "do", "not", "themselves", "have", "query", "capabilities", ".", "If", "access", "to", "context", "or", "a", "selection", "over", "context", "elements", "can", "be", "posed", "as", "a", "query", "in", "a", "base", "application", ",", "we", "might", "benefit", "from", "applying", "distributed", "query-processing", "techniques", ".", "Finally", ",", "the", "scope", "of", "a", "bi-level", "query", "is", "currently", "the", "superimposed", "layer", "and", "the", "base", "information", "accessible", "via", "the", "marks", "used", ".", "Some", "applications", "might", "benefit", "from", "including", "marks", "generated", "automatically", "-LRB-", "for", "example", ",", "using", "IR", "techniques", "-RRB-", "in", "the", "scope", "of", "a", "query", ".", "SPARCE", "differs", "from", "mediated", "systems", "such", "as", "Garlic", "-LSB-", "4", "-RSB-", "and", "MIX", "-LSB-", "1", "-RSB-", ".", "Sources", "are", "registered", "with", "SPARCE", "simply", "by", "the", "act", "of", "mark", "creation", "in", "those", "sources", ".", "Unlike", "in", "Garlic", "there", "is", "no", "need", "to", "register", "a", "source", "and", "define", "its", "schema", ".", "Unlike", "MIX", ",", "SPARCE", "does", "not", "require", "a", "DTD", "for", "a", "source", ".", "11", "METAXPath", "-LSB-", "5", "-RSB-", "allows", "a", "user", "to", "attach", "metadata", "to", "XML", "elements", ".", "It", "enhances", "XPath", "with", "an", "`", "up-shift", "'", "operator", "to", "navigate", "from", "data", "to", "metadata", "-LRB-", "and", "metadata", "to", "meta-metadata", ",", "and", "so", "on", "-RRB-", ".", "A", "user", "can", "start", "at", "any", "level", ",", "but", "only", "cross", "between", "levels", "in", "an", "upwards", "direction", ".", "In", "our", "system", ",", "it", "is", "possible", "to", "move", "both", "upwards", "and", "downwards", "between", "levels", ".", "METAXPath", "is", "designed", "to", "attach", "only", "metadata", "to", "data", ".", "A", "superimposed", "information", "element", "can", "be", "used", "to", "represent", "metadata", "about", "a", "base-layer", "element", ",", "but", "it", "has", "many", "other", "uses", ".", "CXPath", "-LSB-", "3", "-RSB-", "is", "an", "XPath-like", "query", "language", "to", "query", "concepts", ",", "not", "elements", ".", "The", "names", "used", "in", "query", "expressions", "are", "concept", "names", ",", "not", "element", "names", ".", "In", "the", "CXPath", "model", "there", "is", "no", "document", "root", "--", "all", "concepts", "are", "accessible", "from", "anywhere", ".", "For", "example", ",", "the", "CXPath", "expression", "`", "/", "Item", "'", "and", "`", "Item", "'", "are", "equivalent", ".", "They", "both", "return", "all", "Item", "elements", "when", "applied", "to", "the", "XML", "data", "in", "Figure", "5", ".", "The", "`", "/", "'", "used", "for", "navigation", "in", "XPath", "follows", "a", "relationship", "-LRB-", "possibly", "named", "-RRB-", "in", "CXPath", ".", "For", "example", ",", "the", "expression", "''", "/", "Item", "/", "-LCB-", "Uses", "-RCB-", "Group", "''", "returns", "all", "groups", "that", "are", "related", "to", "an", "item", "by", "the", "`", "Uses", "'", "relationship", "when", "applied", "to", "an", "XML", "representation", "of", "the", "RIDPad", "in", "Figure", "8", ".", "CXPath", "uses", "predefined", "mappings", "to", "translate", "CXPath", "expressions", "to", "XPath", "expressions", ".", "There", "is", "one", "mapping", "for", "each", "concept", "name", "and", "for", "each", "direction", "of", "every", "relationship", "of", "every", "XML", "source", ".", "In", "our", "system", ",", "we", "intend", "to", "support", "multiple", "sources", "without", "predefined", "mappings", ",", "but", "we", "would", "like", "our", "query", "system", "to", "operate", "at", "a", "conceptual", "level", "like", "CXPath", "does", ".", "As", "discussed", "in", "Section", "4", ",", "preserving", "the", "layers", "of", "data", ",", "yet", "allowing", "a", "user", "to", "express", "queries", "as", "if", "all", "data", "is", "in", "one", "layer", "means", "queries", "are", "expressed", "against", "views", ".", "Information", "Manifold", "-LSB-", "7", "-RSB-", "provides", "useful", "insight", "in", "to", "how", "heterogeneous", "source", "may", "be", "queried", "via", "views", ".", "That", "system", "associates", "a", "capability", "record", "with", "each", "source", "to", "describe", "its", "inputs", ",", "outputs", ",", "and", "selection", "capabilities", ".", "We", "currently", "do", "not", "have", "such", "a", "notion", "in", "our", "system", ",", "but", "we", "expect", "to", "consider", "source", "descriptions", "in", "the", "context", "of", "distributed", "query", "processing", "mentioned", "in", "Section", "4", ".", "Our", "existing", "framework", "for", "superimposed", "applications", "supports", "examination", "and", "manipulation", "of", "individual", "superimposed", "and", "base", "information", "elements", ".", "More", "global", "ways", "to", "search", "and", "manipulate", "information", "become", "necessary", "as", "the", "size", "and", "number", "of", "documents", "gets", "larger", ".", "A", "bi-level", "query", "system", "is", "a", "first", "step", "in", "that", "direction", ".", "We", "have", "an", "initial", "implementation", "of", "a", "query", "system", ",", "but", "still", "have", "a", "large", "space", "of", "design", "options", "to", "explore", ".", "This", "work", "was", "supported", "in", "part", "by", "US", "NSF", "Grant", "IIS-0086002", ".", "We", "thank", "all", "reviewers", ".", "-LSB-", "1", "-RSB-", "Baru", ",", "C.", ",", "Gupta", ",", "A.", ",", "Lud", "scher", ",", "B.", ",", "Marciano", ",", "R.", ",", "Papakonstantinou", ",", "Y.", ",", "Velikhov", ",", "P.", ",", "and", "Chu", ",", "V.", "XML-Based", "Information", "Mediation", "with", "MIX", ".", "In", "Proceedings", "of", "the", "SIGMOD", "conference", "on", "Management", "of", "Data", "-LRB-", "Philadelphia", ",", "June", ",", "1999", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "NY", ",", "1999", ",", "597-599", ".", "-LSB-", "2", "-RSB-", "Bowers", ",", "S.", ",", "Delcambre", ",", "L.", "and", "Maier", ",", "D.", "Superimposed", "Schematics", ":", "Introducing", "E-R", "Structure", "for", "In-Situ", "Information", "Selections", ".", "In", "Proceedings", "of", "ER", "2002", "-LRB-", "Tampere", ",", "Finland", ",", "October", "7-11", ",", "2002", "-RRB-", ".", "Springer", "LNCS", "2503", ",", "2002", ".", "90", "104", ".", "-LSB-", "3", "-RSB-", "Camillo", ",", "S.D.", ",", "Heuser", ",", "C.A.", ",", "and", "Mello", ",", "R.", "Querying", "Heterogeneous", "XML", "Sources", "through", "a", "Conceptual", "Schema", ".", "In", "Proceedings", "of", "ER", "2003", "-LRB-", "Chicago", ",", "October", "13-16", ",", "2003", "-RRB-", ".", "Springer", "LNCS", "2813", ",", "2003", ".", "186", "199", ".", "-LSB-", "4", "-RSB-", "Carey", ",", "M.J.", ",", "Haas", ",", "L.M.", ",", "Schwarz", ",", "P.M.", ",", "Arya", ",", "M.", ",", "Cody", ",", "W.F.", ",", "Fagin", ",", "R.", ",", "Flickner", ",", "M.", ",", "Luniewski", ",", "A.W.", ",", "Niblack", ",", "W.", ",", "Petkovic", ",", "D.", ",", "Thomas", ",", "J.", ",", "Williams", ",", "J.H.", ",", "and", "Wimmers", ",", "E.L.", "Towards", "heterogeneous", "multimedia", "information", "systems", ":", "The", "Garlic", "approach", ".", "IBM", "Technical", "Report", "RJ", "9911", ",", "1994", ".", "-LSB-", "5", "-RSB-", "Dyreson", ",", "C.E.", ",", "Bohlen", ",", "M.H.", ",", "and", "Jensen", ",", "C.S.", "METAXPath", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Dublin", "Core", "and", "Metadata", "Applications", "-LRB-", "Tokyo", ",", "Japan", ",", "October", "2001", "-RRB-", ".", "2001", ",", "17-23", ".", "-LSB-", "6", "-RSB-", "Halasz", ",", "F.G.", ",", "and", "Schwartz", ",", "F", ".", "The", "Dexter", "Hypertext", "Reference", "Model", ".", "Communications", "of", "the", "ACM", ",", "37", ",", "2", ",", "30-39", ".", "-LSB-", "7", "-RSB-", "Levy", ",", "A.Y.", ",", "Rajaraman", ",", "A.", ",", "and", "Ordille", ",", "J.J.", "Querying", "heterogeneous", "information", "sources", "using", "source", "descriptions", ".", "In", "Proceedings", "of", "VLDB", "-LRB-", "Bombay", ",", "India", "1996", "-RRB-", ".", "251-262", ".", "-LSB-", "8", "-RSB-", "Maier", ",", "D.", ",", "and", "Delcambre", ",", "L.", "Superimposed", "Information", "for", "the", "Internet", ".", "In", "Informal", "Proceedings", "of", "WebDB", "'99", "-LRB-", "Philadelphia", ",", "June", "3-4", ",", "1999", "-RRB-", ".", "1-9", ".", "-LSB-", "9", "-RSB-", "Microsoft", ".", "COM", ":", "The", "Component", "Object", "Model", "Specification", ",", "Microsoft", "Corporation", ".", "1995", ".", "-LSB-", "10", "-RSB-", "Microsoft", ".", "MS", "XML", "4.0", "Software", "Development", "Kit", ".", "Microsoft", "Corporation", ".", "Available", "online", "at", "http://msdn.microsoft.com/", "-LSB-", "11", "-RSB-", "Microsoft", ".", "XQuery", "Demo", ".", "Microsoft", "Corporation", ".", "Available", "online", "at", "http://xqueryservices.com/", "-LSB-", "12", "-RSB-", "Murthy", ",", "S.", ",", "Maier", ",", "D.", ",", "Delcambre", ",", "L.", ",", "and", "Bowers", ",", "S.", "Putting", "Integrated", "Information", "in", "Context", ":", "Superimposing", "Conceptual", "Models", "with", "SPARCE", ".", "In", "Proceedings", "of", "the", "First", "Asia-Pacific", "Conference", "of", "Conceptual", "Modeling", "-LRB-", "Dunedin", ",", "New", "Zealand", ",", "Jan.", "22", ",", "2004", "-RRB-", ".", "71-80", ".", "-LSB-", "13", "-RSB-", "Wiederhold", ",", "G.", "Mediators", "in", "the", "architecture", "of", "future", "information", "systems", ".", "IEEE", "Computer", ",", "25", ",", "3", "-LRB-", "March", "1992", "-RRB-", ".", "38", "49", ".", "12"], "doc_bio_tags": ["O", "O", "B", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "B", "B", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["sparce", "management", "hyperlink", "document", "system", "query", "metaxpath", "implementation", "information", "ridpad", "superimposed"], "abstractive_keyphrases": ["bi-level queries", "superimposed information management", "information integration"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "146", "document": ["Parallel", "Crawlers", "In", "this", "paper", "we", "study", "how", "we", "can", "design", "an", "effective", "parallel", "crawler", ".", "As", "the", "size", "of", "the", "Web", "grows", ",", "it", "becomes", "imperative", "to", "parallelize", "a", "crawling", "process", ",", "in", "order", "to", "finish", "downloading", "pages", "in", "a", "reasonable", "amount", "of", "time", ".", "We", "first", "propose", "multiple", "architectures", "for", "a", "parallel", "crawler", "and", "identify", "fundamental", "issues", "related", "to", "parallel", "crawling", ".", "Based", "on", "this", "understanding", ",", "we", "then", "propose", "metrics", "to", "evaluate", "a", "parallel", "crawler", ",", "and", "compare", "the", "proposed", "architectures", "using", "40", "million", "pages", "collected", "from", "the", "Web", ".", "Our", "results", "clarify", "the", "relative", "merits", "of", "each", "architecture", "and", "provide", "a", "good", "guideline", "on", "when", "to", "adopt", "which", "architecture", ".", "H.", "5.4", "-LSB-", "Hypertext/Hypermedia", "-RSB-", ":", "Architectures", ";", "H.", "3.4", "-LSB-", "Systems", "and", "Software", "-RSB-", ":", "Distributed", "Systems", "Management", ",", "Performance", ",", "Design", "A", "crawler", "is", "a", "program", "that", "downloads", "and", "stores", "Web", "pages", ",", "often", "for", "a", "Web", "search", "engine", ".", "Roughly", ",", "a", "crawler", "starts", "off", "by", "placing", "an", "initial", "set", "of", "URLs", ",", "S", "0", ",", "in", "a", "queue", ",", "where", "all", "URLs", "to", "be", "retrieved", "are", "kept", "and", "prioritized", ".", "From", "this", "queue", ",", "the", "crawler", "gets", "a", "URL", "-LRB-", "in", "some", "order", "-RRB-", ",", "downloads", "the", "page", ",", "extracts", "any", "URLs", "in", "the", "downloaded", "page", ",", "and", "puts", "the", "new", "URLs", "in", "the", "queue", ".", "This", "process", "is", "repeated", "until", "the", "crawler", "decides", "to", "stop", ".", "Collected", "pages", "are", "later", "used", "for", "other", "applications", ",", "such", "as", "a", "Web", "search", "engine", "or", "a", "Web", "cache", ".", "As", "the", "size", "of", "the", "Web", "grows", ",", "it", "becomes", "more", "difficult", "to", "retrieve", "the", "whole", "or", "a", "significant", "portion", "of", "the", "Web", "using", "a", "single", "process", ".", "Therefore", ",", "many", "search", "engines", "often", "run", "multiple", "processes", "in", "parallel", "to", "perform", "the", "above", "task", ",", "so", "that", "download", "rate", "is", "maximized", ".", "We", "refer", "to", "this", "type", "of", "crawler", "as", "a", "parallel", "crawler", ".", "In", "this", "paper", "we", "study", "how", "we", "should", "design", "a", "parallel", "crawler", ",", "so", "that", "we", "can", "maximize", "its", "performance", "-LRB-", "e.g.", ",", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "WWW2002", ",", "May", "7", "11", ",", "2002", ",", "Honolulu", ",", "Hawaii", ",", "USA", ".", "ACM", "1-58113-449-5", "/", "02/0005", ".", "download", "rate", "-RRB-", "while", "minimizing", "the", "overhead", "from", "parallelization", ".", "We", "believe", "many", "existing", "search", "engines", "already", "use", "some", "sort", "of", "parallelization", ",", "but", "there", "has", "been", "little", "scientific", "research", "conducted", "on", "this", "topic", ".", "Thus", ",", "little", "has", "been", "known", "on", "the", "tradeoffs", "among", "various", "design", "choices", "for", "a", "parallel", "crawler", ".", "In", "particular", ",", "we", "believe", "the", "following", "issues", "make", "the", "study", "of", "a", "parallel", "crawler", "challenging", "and", "interesting", ":", "Overlap", ":", "When", "multiple", "processes", "run", "in", "parallel", "to", "download", "pages", ",", "it", "is", "possible", "that", "different", "processes", "download", "the", "same", "page", "multiple", "times", ".", "One", "process", "may", "not", "be", "aware", "that", "another", "process", "has", "already", "downloaded", "the", "page", ".", "Clearly", ",", "such", "multiple", "downloads", "should", "be", "minimized", "to", "save", "network", "bandwidth", "and", "increase", "the", "crawler", "'s", "effectiveness", ".", "Then", "how", "can", "we", "coordinate", "the", "processes", "to", "prevent", "overlap", "?", "Quality", ":", "Often", ",", "a", "crawler", "wants", "to", "download", "``", "important", "''", "pages", "first", ",", "in", "order", "to", "maximize", "the", "``", "quality", "''", "of", "the", "downloaded", "collection", ".", "However", ",", "in", "a", "parallel", "crawler", ",", "each", "process", "may", "not", "be", "aware", "of", "the", "whole", "image", "of", "the", "Web", "that", "they", "have", "collectively", "downloaded", "so", "far", ".", "For", "this", "reason", ",", "each", "process", "may", "make", "a", "crawling", "decision", "solely", "based", "on", "its", "own", "image", "of", "the", "Web", "-LRB-", "that", "itself", "has", "downloaded", "-RRB-", "and", "thus", "make", "a", "poor", "crawling", "decision", ".", "Then", "how", "can", "we", "make", "sure", "that", "the", "quality", "of", "the", "downloaded", "pages", "is", "as", "good", "for", "a", "parallel", "crawler", "as", "for", "a", "centralized", "one", "?", "Communication", "bandwidth", ":", "In", "order", "to", "prevent", "overlap", ",", "or", "to", "improve", "the", "quality", "of", "the", "downloaded", "pages", ",", "crawling", "processes", "need", "to", "periodically", "communicate", "to", "coordinate", "with", "each", "other", ".", "However", ",", "this", "communication", "may", "grow", "significantly", "as", "the", "number", "of", "crawling", "processes", "increases", ".", "Exactly", "what", "do", "they", "need", "to", "communicate", "and", "how", "significant", "would", "this", "overhead", "be", "?", "Can", "we", "minimize", "this", "communication", "overhead", "while", "maintaining", "the", "effectiveness", "of", "the", "crawler", "?", "While", "challenging", "to", "implement", ",", "we", "believe", "that", "a", "parallel", "crawler", "has", "many", "important", "advantages", ",", "compared", "to", "a", "single-process", "crawler", ":", "Scalability", ":", "Due", "to", "enormous", "size", "of", "the", "Web", ",", "it", "is", "often", "imperative", "to", "run", "a", "parallel", "crawler", ".", "A", "single-process", "crawler", "simply", "can", "not", "achieve", "the", "required", "download", "rate", "in", "certain", "cases", ".", "Network-load", "dispersion", ":", "Multiple", "crawling", "processes", "of", "a", "parallel", "crawler", "may", "run", "at", "geographically", "distant", "124", "locations", ",", "each", "downloading", "``", "geographically-adjacent", "''", "pages", ".", "For", "example", ",", "a", "process", "in", "Germany", "may", "download", "all", "European", "pages", ",", "while", "another", "one", "in", "Japan", "crawls", "all", "Asian", "pages", ".", "In", "this", "way", ",", "we", "can", "disperse", "the", "network", "load", "to", "multiple", "regions", ".", "In", "particular", ",", "this", "dispersion", "might", "be", "necessary", "when", "a", "single", "network", "can", "not", "handle", "the", "heavy", "load", "from", "a", "large-scale", "crawl", ".", "Network-load", "reduction", ":", "In", "addition", "to", "the", "dispersing", "load", ",", "a", "parallel", "crawler", "may", "actually", "reduce", "the", "network", "load", ".", "For", "example", ",", "assume", "that", "a", "crawler", "in", "North", "America", "retrieves", "a", "page", "from", "Europe", ".", "To", "be", "downloaded", "by", "the", "crawler", ",", "the", "page", "first", "has", "to", "go", "through", "the", "network", "in", "Europe", ",", "then", "the", "Europe-to-North", "America", "inter-continental", "network", "and", "finally", "the", "network", "in", "North", "America", ".", "Instead", ",", "if", "a", "crawling", "process", "in", "Europe", "collects", "all", "European", "pages", ",", "and", "if", "another", "process", "in", "North", "America", "crawls", "all", "North", "American", "pages", ",", "the", "overall", "network", "load", "will", "be", "reduced", ",", "because", "pages", "go", "through", "only", "``", "local", "''", "networks", ".", "Note", "that", "the", "downloaded", "pages", "may", "need", "to", "be", "transferred", "later", "to", "a", "central", "location", ",", "so", "that", "a", "central", "index", "can", "be", "built", ".", "However", ",", "even", "in", "that", "case", ",", "we", "believe", "that", "the", "transfer", "can", "be", "significantly", "smaller", "than", "the", "original", "page", "download", "traffic", ",", "by", "using", "some", "of", "the", "following", "methods", ":", "Compression", ":", "Once", "the", "pages", "are", "collected", "and", "stored", ",", "it", "is", "easy", "to", "compress", "the", "data", "before", "sending", "them", "to", "a", "central", "location", ".", "Difference", ":", "Instead", "of", "sending", "the", "entire", "image", "with", "all", "downloaded", "pages", ",", "we", "may", "first", "take", "difference", "between", "previous", "image", "and", "the", "current", "one", "and", "send", "only", "this", "difference", ".", "Since", "many", "pages", "are", "static", "and", "do", "not", "change", "very", "often", ",", "this", "scheme", "can", "significantly", "reduce", "the", "network", "traffic", ".", "Summarization", ":", "In", "certain", "cases", ",", "we", "may", "need", "only", "a", "central", "index", ",", "not", "the", "original", "pages", "themselves", ".", "In", "this", "case", ",", "we", "may", "extract", "the", "necessary", "information", "for", "the", "index", "construction", "-LRB-", "e.g.", ",", "postings", "list", "-RRB-", "and", "transfer", "this", "data", "only", ".", "To", "build", "an", "effective", "web", "crawler", ",", "we", "clearly", "need", "to", "address", "many", "more", "challenges", "than", "just", "parallelization", ".", "For", "example", ",", "a", "crawler", "needs", "to", "figure", "out", "how", "often", "a", "page", "changes", "and", "how", "often", "it", "would", "revisit", "the", "page", "in", "order", "to", "maintain", "the", "page", "up", "to", "date", "-LSB-", "7", ",", "10", "-RSB-", ".", "Also", ",", "it", "has", "to", "make", "sure", "that", "a", "particular", "Web", "site", "is", "not", "flooded", "with", "its", "HTTP", "requests", "during", "a", "crawl", "-LSB-", "17", ",", "12", ",", "24", "-RSB-", ".", "In", "addition", ",", "it", "has", "to", "carefully", "select", "what", "page", "to", "download", "and", "store", "in", "its", "limited", "storage", "space", "in", "order", "to", "make", "the", "best", "use", "of", "its", "stored", "collection", "of", "pages", "-LSB-", "9", ",", "5", ",", "11", "-RSB-", ".", "While", "all", "of", "these", "issues", "are", "important", ",", "we", "focus", "on", "the", "crawler", "parallelization", "in", "this", "paper", ",", "because", "this", "problem", "has", "been", "paid", "significantly", "less", "attention", "than", "the", "others", ".", "In", "summary", ",", "we", "believe", "a", "parallel", "crawler", "has", "many", "advantages", "and", "poses", "interesting", "challenges", ".", "In", "particular", ",", "we", "believe", "our", "paper", "makes", "the", "following", "contributions", ":", "We", "identify", "major", "issues", "and", "problems", "related", "to", "a", "parallel", "crawler", "and", "discuss", "how", "we", "can", "solve", "these", "problems", ".", "We", "present", "multiple", "techniques", "for", "a", "parallel", "crawler", "and", "discuss", "their", "advantages", "and", "disadvantages", ".", "As", "far", "as", "we", "know", "most", "of", "these", "techniques", "have", "not", "been", "described", "in", "open", "literature", ".", "-LRB-", "Very", "little", "is", "known", "about", "the", "internals", "of", "crawlers", ",", "as", "they", "are", "closely", "guarded", "secrets", ".", "-RRB-", "Using", "a", "large", "dataset", "-LRB-", "40M", "web", "pages", "-RRB-", "collected", "from", "the", "Web", ",", "we", "experimentally", "compare", "the", "design", "choices", "and", "study", "their", "tradeoffs", "quantitatively", ".", "We", "propose", "various", "optimization", "techniques", "that", "can", "minimize", "the", "coordination", "effort", "between", "crawling", "processes", ",", "so", "that", "they", "can", "operate", "more", "independently", "while", "maximizing", "their", "effectiveness", ".", "1.1", "Related", "work", "Web", "crawlers", "have", "been", "studied", "since", "the", "advent", "of", "the", "Web", "-LSB-", "18", ",", "23", ",", "4", ",", "22", ",", "14", ",", "6", ",", "19", ",", "12", ",", "9", ",", "5", ",", "11", ",", "10", ",", "7", "-RSB-", ".", "These", "studies", "can", "be", "roughly", "categorized", "into", "one", "of", "the", "following", "topics", ":", "General", "architecture", "-LSB-", "22", ",", "14", ",", "6", ",", "19", ",", "12", "-RSB-", ":", "The", "work", "in", "this", "category", "describes", "the", "general", "architecture", "of", "a", "Web", "crawler", "and", "studies", "how", "a", "crawler", "works", ".", "For", "example", ",", "Reference", "-LSB-", "14", "-RSB-", "describes", "the", "architecture", "of", "the", "Compaq", "SRC", "crawler", "and", "its", "major", "design", "goals", ".", "Some", "of", "these", "studies", "briefly", "describe", "how", "the", "crawling", "task", "is", "parallelized", ".", "For", "instance", ",", "Reference", "-LSB-", "22", "-RSB-", "describes", "a", "crawler", "that", "distributes", "individual", "URLs", "to", "multiple", "machines", ",", "which", "download", "Web", "pages", "in", "parallel", ".", "The", "downloaded", "pages", "are", "then", "sent", "to", "a", "central", "machine", ",", "on", "which", "links", "are", "extracted", "and", "sent", "back", "to", "the", "crawling", "machines", ".", "However", ",", "these", "studies", "do", "not", "carefully", "compare", "various", "issues", "related", "to", "a", "parallel", "crawler", "and", "how", "design", "choices", "affect", "performance", ".", "In", "this", "paper", ",", "we", "first", "identify", "multiple", "techniques", "for", "a", "parallel", "crawler", "and", "compare", "their", "relative", "merits", "using", "real", "Web", "data", ".", "Page", "selection", "-LSB-", "9", ",", "5", ",", "11", "-RSB-", ":", "Since", "many", "crawlers", "can", "download", "only", "a", "small", "subset", "of", "the", "Web", ",", "crawlers", "need", "to", "carefully", "decide", "what", "page", "to", "download", ".", "By", "retrieving", "``", "important", "''", "or", "``", "relevant", "''", "pages", "early", ",", "a", "crawler", "may", "improve", "the", "``", "quality", "''", "of", "the", "downloaded", "pages", ".", "The", "studies", "in", "this", "category", "explore", "how", "a", "crawler", "can", "discover", "and", "identify", "``", "important", "''", "pages", "early", ",", "and", "propose", "various", "algorithms", "to", "achieve", "this", "goal", ".", "In", "our", "paper", ",", "we", "study", "how", "parallelization", "affects", "some", "of", "these", "techniques", "and", "explain", "how", "we", "can", "fix", "the", "problems", "introduced", "by", "parallelization", ".", "Page", "update", "-LSB-", "10", ",", "7", "-RSB-", ":", "Web", "crawlers", "need", "to", "update", "the", "downloaded", "pages", "periodically", ",", "in", "order", "to", "maintain", "the", "pages", "up", "to", "date", ".", "The", "studies", "in", "this", "category", "discuss", "various", "page", "revisit", "policies", "to", "maximize", "the", "``", "freshness", "''", "of", "the", "downloaded", "pages", ".", "For", "example", ",", "Reference", "-LSB-", "7", "-RSB-", "studies", "how", "a", "crawler", "should", "adjust", "revisit", "frequencies", "for", "pages", "when", "the", "pages", "change", "at", "different", "rates", ".", "We", "believe", "these", "studies", "are", "orthogonal", "to", "what", "we", "discuss", "in", "this", "paper", ".", "There", "also", "exists", "a", "significant", "body", "of", "literature", "studying", "the", "general", "problem", "of", "parallel", "and", "distributed", "computing", "-LSB-", "21", ",", "25", "-RSB-", ".", "Some", "of", "these", "studies", "focus", "on", "the", "design", "of", "efficient", "parallel", "algorithms", ".", "For", "example", ",", "References", "-LSB-", "20", ",", "16", "-RSB-", "125", "present", "various", "architectures", "for", "parallel", "computing", ",", "propose", "algorithms", "that", "solve", "various", "problems", "-LRB-", "e.g.", ",", "finding", "maximum", "cliques", "-RRB-", "under", "the", "architecture", ",", "and", "study", "the", "complexity", "of", "the", "proposed", "algorithms", ".", "While", "the", "general", "principles", "described", "are", "being", "used", "in", "our", "work", ",", "1", "none", "of", "the", "existing", "solutions", "can", "be", "directly", "applied", "to", "the", "crawling", "problem", ".", "Another", "body", "of", "literature", "designs", "and", "implements", "distributed", "operating", "systems", ",", "where", "a", "process", "can", "use", "distributed", "resources", "transparently", "-LRB-", "e.g.", ",", "distributed", "memory", ",", "distributed", "file", "systems", "-RRB-", "-LSB-", "25", ",", "1", "-RSB-", ".", "Clearly", ",", "such", "OS-level", "support", "makes", "it", "easy", "to", "build", "a", "general", "distributed", "application", ",", "but", "we", "believe", "that", "we", "can", "not", "simply", "run", "a", "centralized", "crawler", "on", "a", "distributed", "OS", "to", "achieve", "parallelism", ".", "A", "web", "crawler", "contacts", "millions", "of", "web", "sites", "in", "a", "short", "period", "of", "time", "and", "consumes", "extremely", "large", "network", ",", "storage", "and", "memory", "resources", ".", "Since", "these", "loads", "push", "the", "limit", "of", "existing", "hardwares", ",", "the", "task", "should", "be", "carefully", "partitioned", "among", "processes", "and", "they", "should", "be", "carefully", "coordinated", ".", "Therefore", ",", "a", "general-purpose", "distributed", "operating", "system", "that", "does", "not", "understand", "the", "semantics", "of", "web", "crawling", "will", "lead", "to", "unacceptably", "poor", "performance", ".", "In", "Figure", "1", "we", "illustrate", "the", "general", "architecture", "of", "a", "parallel", "crawler", ".", "A", "parallel", "crawler", "consists", "of", "multiple", "crawling", "processes", ",", "which", "we", "refer", "to", "as", "C-proc", "'s", ".", "Each", "C-proc", "performs", "the", "basic", "tasks", "that", "a", "single-process", "crawler", "conducts", ".", "It", "downloads", "pages", "from", "the", "Web", ",", "stores", "the", "pages", "locally", ",", "extracts", "URLs", "from", "the", "downloaded", "pages", "and", "follows", "links", ".", "Depending", "on", "how", "the", "C-proc", "'s", "split", "the", "download", "task", ",", "some", "of", "the", "extracted", "links", "may", "be", "sent", "to", "other", "C-proc", "'s", ".", "The", "C-proc", "'s", "performing", "these", "tasks", "may", "be", "distributed", "either", "on", "the", "same", "local", "network", "or", "at", "geographically", "distant", "locations", ".", "Intra-site", "parallel", "crawler", ":", "When", "all", "C-proc", "'s", "run", "on", "the", "same", "local", "network", "and", "communicate", "through", "a", "high", "speed", "interconnect", "-LRB-", "such", "as", "LAN", "-RRB-", ",", "we", "call", "it", "an", "intra-site", "parallel", "crawler", ".", "In", "Figure", "1", ",", "this", "scenario", "corresponds", "to", "the", "case", "where", "all", "C-proc", "'s", "run", "only", "on", "the", "local", "network", "on", "the", "top", ".", "In", "this", "case", ",", "all", "C-proc", "'s", "use", "the", "same", "local", "network", "when", "they", "download", "pages", "from", "remote", "Web", "sites", ".", "Therefore", ",", "the", "network", "load", "from", "C-proc", "'s", "is", "centralized", "at", "a", "single", "location", "where", "they", "operate", ".", "Distributed", "crawler", ":", "When", "C-proc", "'s", "run", "at", "geographically", "distant", "locations", "connected", "by", "the", "Internet", "-LRB-", "or", "a", "wide", "area", "network", "-RRB-", ",", "we", "call", "it", "a", "distributed", "crawler", ".", "For", "example", ",", "one", "C-proc", "may", "run", "in", "the", "US", ",", "crawling", "all", "US", "pages", ",", "and", "another", "C-proc", "may", "run", "in", "France", ",", "crawling", "all", "European", "pages", ".", "As", "we", "discussed", "in", "the", "introduction", ",", "a", "distributed", "crawler", "can", "disperse", "and", "even", "reduce", "the", "load", "on", "the", "overall", "network", ".", "When", "C-proc", "'s", "run", "at", "distant", "locations", "and", "communicate", "through", "the", "Internet", ",", "it", "becomes", "important", "how", "often", "and", "how", "much", "C-proc", "'s", "need", "to", "communicate", ".", "The", "bandwidth", "between", "C-proc", "'s", "may", "be", "limited", "and", "1", "For", "example", ",", "we", "may", "consider", "that", "our", "proposed", "solution", "is", "a", "variation", "of", "``", "divide", "and", "conquer", "''", "approach", ",", "since", "we", "partition", "and", "assign", "the", "Web", "to", "multiple", "processes", ".", "C-proc", "...", "C-proc", "Local", "connect", "C-proc", "collected", "pages", "queues", "of", "URLs", "to", "visit", "...", "C-proc", "Local", "connect", "NET", "INTER", "Figure", "1", ":", "General", "architecture", "of", "a", "parallel", "crawler", "1", "S", "2", "S", "1", "2", "-LRB-", "C", "-RRB-", "-LRB-", "C", "-RRB-", "b", "a", "c", "d", "e", "f", "g", "h", "i", "Figure", "2", ":", "Site", "S", "1", "is", "crawled", "by", "C", "1", "and", "site", "S", "2", "is", "crawled", "by", "C", "2", "sometimes", "unavailable", ",", "as", "is", "often", "the", "case", "with", "the", "Internet", ".", "When", "multiple", "C-proc", "'s", "download", "pages", "in", "parallel", ",", "different", "C-proc", "'s", "may", "download", "the", "same", "page", "multiple", "times", ".", "In", "order", "to", "avoid", "this", "overlap", ",", "C-proc", "'s", "need", "to", "coordinate", "with", "each", "other", "on", "what", "pages", "to", "download", ".", "This", "coordination", "can", "be", "done", "in", "one", "of", "the", "following", "ways", ":", "Independent", ":", "At", "one", "extreme", ",", "C-proc", "'s", "may", "download", "pages", "totally", "independently", "without", "any", "coordination", ".", "That", "is", ",", "each", "C-proc", "starts", "with", "its", "own", "set", "of", "seed", "URLs", "and", "follows", "links", "without", "consulting", "with", "other", "C-proc", "'s", ".", "In", "this", "scenario", ",", "downloaded", "pages", "may", "overlap", ",", "but", "we", "may", "hope", "that", "this", "overlap", "will", "not", "be", "significant", ",", "if", "all", "C-proc", "'s", "start", "from", "different", "seed", "URLs", ".", "While", "this", "scheme", "has", "minimal", "coordination", "overhead", "and", "can", "be", "very", "scalable", ",", "we", "do", "not", "directly", "study", "this", "option", "due", "to", "its", "overlap", "problem", ".", "Later", "we", "will", "consider", "an", "improved", "version", "of", "this", "option", ",", "which", "significantly", "reduces", "overlap", ".", "Dynamic", "assignment", ":", "When", "there", "exists", "a", "central", "coordinator", "that", "logically", "divides", "the", "Web", "into", "small", "partitions", "-LRB-", "using", "a", "certain", "partitioning", "function", "-RRB-", "and", "dy-namically", "assigns", "each", "partition", "to", "a", "C-proc", "for", "download", ",", "we", "call", "it", "dynamic", "assignment", ".", "For", "example", ",", "assume", "that", "a", "central", "coordinator", "partitions", "the", "Web", "by", "the", "site", "name", "of", "a", "URL", ".", "That", "is", ",", "pages", "in", "the", "same", "site", "-LRB-", "e.g.", ",", "http://cnn.com/top", ".", "html", "and", "http://cnn.com/content.html", "-RRB-", "belong", "to", "126", "the", "same", "partition", ",", "while", "pages", "in", "different", "sites", "belong", "to", "different", "partitions", ".", "Then", "during", "a", "crawl", ",", "the", "central", "coordinator", "constantly", "decides", "on", "what", "partition", "to", "crawl", "next", "-LRB-", "e.g.", ",", "the", "site", "cnn.com", "-RRB-", "and", "sends", "URLs", "within", "this", "partition", "-LRB-", "that", "have", "been", "discovered", "so", "far", "-RRB-", "to", "a", "C-proc", "as", "seed", "URLs", ".", "Given", "this", "request", ",", "the", "C-proc", "downloads", "the", "pages", "and", "extracts", "links", "from", "them", ".", "When", "the", "extracted", "links", "point", "to", "pages", "in", "the", "same", "partition", "-LRB-", "e.g.", ",", "http://cnn.com/article.html", "-RRB-", ",", "the", "C-proc", "follows", "the", "links", ",", "but", "if", "a", "link", "points", "to", "a", "page", "in", "another", "partition", "-LRB-", "e.g.", ",", "http://nytimes.com/", "index.html", "-RRB-", ",", "the", "C-proc", "reports", "the", "link", "to", "the", "central", "coordinator", ".", "The", "central", "coordinator", "later", "uses", "this", "link", "as", "a", "seed", "URL", "for", "the", "appropriate", "partition", ".", "Note", "that", "the", "Web", "can", "be", "partitioned", "at", "various", "gran-ularities", ".", "At", "one", "extreme", ",", "the", "central", "coordinator", "may", "consider", "every", "page", "as", "a", "separate", "partition", "and", "assign", "individual", "URLs", "to", "C-proc", "'s", "for", "download", ".", "In", "this", "case", ",", "a", "C-proc", "does", "not", "follow", "links", ",", "because", "different", "pages", "belong", "to", "separate", "partitions", ".", "It", "simply", "reports", "all", "extracted", "URLs", "back", "to", "the", "coordinator", ".", "Therefore", ",", "the", "communication", "between", "a", "C-proc", "and", "the", "central", "coordinator", "may", "vary", "dramatically", ",", "depending", "on", "the", "granularity", "of", "the", "partitioning", "function", ".", "Static", "assignment", ":", "When", "the", "Web", "is", "partitioned", "and", "assigned", "to", "each", "C-proc", "before", "they", "start", "to", "crawl", ",", "we", "call", "it", "static", "assignment", ".", "In", "this", "case", ",", "every", "C-proc", "knows", "which", "C-proc", "is", "responsible", "for", "which", "page", "during", "a", "crawl", ",", "and", "the", "crawler", "does", "not", "need", "a", "central", "coordinator", ".", "We", "will", "shortly", "discuss", "in", "more", "detail", "how", "C-proc", "'s", "operate", "under", "this", "scheme", ".", "In", "this", "paper", ",", "we", "mainly", "focus", "on", "static", "assignment", "because", "of", "its", "simplicity", "and", "scalability", ",", "and", "defer", "the", "study", "of", "dynamic", "assignment", "to", "future", "work", ".", "Note", "that", "in", "dynamic", "assignment", ",", "the", "central", "coordinator", "may", "become", "the", "major", "bottleneck", ",", "because", "it", "has", "to", "maintain", "a", "large", "number", "of", "URLs", "reported", "from", "all", "C-proc", "'s", "and", "has", "to", "constantly", "coordinate", "all", "C-proc", "'s", ".", "Thus", "the", "coordinator", "itself", "may", "also", "need", "to", "be", "parallelized", ".", "Under", "static", "assignment", ",", "each", "C-proc", "is", "responsible", "for", "a", "certain", "partition", "of", "the", "Web", "and", "has", "to", "download", "pages", "within", "the", "partition", ".", "However", ",", "some", "pages", "in", "the", "partition", "may", "have", "links", "to", "pages", "in", "another", "partition", ".", "We", "refer", "to", "this", "type", "of", "link", "as", "an", "inter-partition", "link", ".", "To", "illustrate", "how", "a", "C-proc", "may", "handle", "inter-partition", "links", ",", "we", "use", "Figure", "2", "as", "our", "example", ".", "In", "the", "figure", ",", "we", "assume", "two", "C-proc", "'s", ",", "C", "1", "and", "C", "2", ",", "are", "responsible", "for", "sites", "S", "1", "and", "S", "2", ",", "respectively", ".", "For", "now", ",", "we", "assume", "that", "the", "Web", "is", "partitioned", "by", "sites", "and", "that", "the", "Web", "has", "only", "S", "1", "and", "S", "2", ".", "Also", ",", "we", "assume", "that", "each", "C-proc", "starts", "its", "crawl", "from", "the", "root", "page", "of", "each", "site", ",", "a", "and", "f.", "1", ".", "Firewall", "mode", ":", "In", "this", "mode", ",", "each", "C-proc", "downloads", "only", "the", "pages", "within", "its", "partition", "and", "does", "not", "follow", "any", "inter-partition", "link", ".", "All", "inter-partition", "links", "are", "ignored", "and", "thrown", "away", ".", "For", "example", ",", "the", "links", "a", "g", ",", "c", "g", "and", "h", "d", "in", "Figure", "2", "are", "ignored", "and", "thrown", "away", "by", "C", "1", "and", "C", "2", ".", "In", "this", "mode", ",", "the", "overall", "crawler", "does", "not", "have", "any", "overlap", "in", "the", "downloaded", "pages", ",", "because", "a", "page", "can", "be", "downloaded", "by", "only", "one", "C-proc", ",", "if", "ever", ".", "However", ",", "the", "overall", "crawler", "may", "not", "download", "all", "pages", "that", "it", "has", "to", "download", ",", "because", "some", "pages", "may", "be", "reachable", "only", "through", "inter-partition", "links", ".", "For", "example", ",", "in", "Figure", "2", ",", "C", "1", "can", "download", "a", ",", "b", "and", "c", ",", "but", "not", "d", "and", "e", ",", "because", "they", "can", "be", "reached", "only", "through", "h", "d", "link", ".", "However", ",", "C-proc", "'s", "can", "run", "quite", "independently", "in", "this", "mode", ",", "because", "they", "do", "not", "conduct", "any", "run-time", "coordination", "or", "URL", "exchanges", ".", "2", ".", "Cross-over", "mode", ":", "Primarily", ",", "each", "C-proc", "downloads", "pages", "within", "its", "partition", ",", "but", "when", "it", "runs", "out", "of", "pages", "in", "its", "partition", ",", "it", "also", "follows", "inter-partition", "links", ".", "For", "example", ",", "consider", "C", "1", "in", "Figure", "2", ".", "Process", "C", "1", "first", "downloads", "pages", "a", ",", "b", "and", "c", "by", "following", "links", "from", "a", ".", "At", "this", "point", ",", "C", "1", "runs", "out", "of", "pages", "in", "S", "1", ",", "so", "it", "follows", "a", "link", "to", "g", "and", "starts", "exploring", "S", "2", ".", "After", "downloading", "g", "and", "h", ",", "it", "discovers", "a", "link", "to", "d", "in", "S", "1", ",", "so", "it", "comes", "back", "to", "S", "1", "and", "downloads", "pages", "d", "and", "e", ".", "In", "this", "mode", ",", "downloaded", "pages", "may", "clearly", "overlap", "-LRB-", "pages", "g", "and", "h", "are", "downloaded", "twice", "-RRB-", ",", "but", "the", "overall", "crawler", "can", "download", "more", "pages", "than", "the", "firewall", "mode", "-LRB-", "C", "1", "downloads", "d", "and", "e", "in", "this", "mode", "-RRB-", ".", "Also", ",", "as", "in", "the", "firewall", "mode", ",", "C-proc", "'s", "do", "not", "need", "to", "communicate", "with", "each", "other", ",", "because", "they", "follow", "only", "the", "links", "discovered", "by", "themselves", ".", "3", ".", "Exchange", "mode", ":", "When", "C-proc", "'s", "periodically", "and", "incrementally", "exchange", "inter-partition", "URLs", ",", "we", "say", "that", "they", "operate", "in", "an", "exchange", "mode", ".", "Processes", "do", "not", "follow", "inter-partition", "links", ".", "For", "example", ",", "C", "1", "in", "Figure", "2", "informs", "C", "2", "of", "page", "g", "after", "it", "downloads", "page", "a", "-LRB-", "and", "c", "-RRB-", "and", "C", "2", "transfers", "the", "URL", "of", "page", "d", "to", "C", "1", "after", "it", "downloads", "page", "h.", "Note", "that", "C", "1", "does", "not", "follow", "links", "to", "page", "g", ".", "It", "only", "transfers", "the", "links", "to", "C", "2", ",", "so", "that", "C", "2", "can", "download", "the", "page", ".", "In", "this", "way", ",", "the", "overall", "crawler", "can", "avoid", "overlap", ",", "while", "maximizing", "coverage", ".", "Note", "that", "the", "firewall", "and", "the", "cross-over", "modes", "give", "C-proc", "'s", "much", "independence", "-LRB-", "C-proc", "'s", "do", "not", "need", "to", "communicate", "with", "each", "other", "-RRB-", ",", "but", "they", "may", "download", "the", "same", "page", "multiple", "times", ",", "or", "may", "not", "download", "some", "pages", ".", "In", "contrast", ",", "the", "exchange", "mode", "avoids", "these", "problems", "but", "requires", "constant", "URL", "exchange", "between", "C-proc", "'s", ".", "3.1", "URL", "exchange", "minimization", "To", "reduce", "URL", "exchange", ",", "a", "crawler", "based", "on", "the", "exchange", "mode", "may", "use", "some", "of", "the", "following", "techniques", ":", "1", ".", "Batch", "communication", ":", "Instead", "of", "transferring", "an", "inter-partition", "URL", "immediately", "after", "it", "is", "discovered", ",", "a", "C-proc", "may", "wait", "for", "a", "while", ",", "to", "collect", "a", "set", "of", "URLs", "and", "send", "them", "in", "a", "batch", ".", "That", "is", ",", "with", "batching", ",", "a", "C-proc", "collects", "all", "inter-partition", "URLs", "until", "it", "downloads", "k", "pages", ".", "Then", "it", "partitions", "the", "collected", "URLs", "and", "sends", "them", "to", "an", "appropriate", "C-proc", ".", "Once", "these", "URLs", "are", "transferred", ",", "the", "C-proc", "then", "purges", "them", "and", "starts", "to", "collect", "a", "new", "set", "of", "URLs", "from", "the", "next", "downloaded", "pages", ".", "Note", "that", "a", "C-proc", "does", "not", "maintain", "the", "list", "of", "all", "inter-partition", "URLs", "discovered", "so", "far", ".", "It", "only", "maintains", "the", "list", "of", "inter-partition", "links", "127", "in", "the", "current", "batch", ",", "in", "order", "to", "minimize", "the", "memory", "overhead", "for", "URL", "storage", ".", "This", "batch", "communication", "has", "various", "advantages", "over", "incremental", "communication", ".", "First", ",", "it", "incurs", "less", "communication", "overhead", ",", "because", "a", "set", "of", "URLs", "can", "be", "sent", "in", "a", "batch", ",", "instead", "of", "sending", "one", "URL", "per", "message", ".", "Second", ",", "the", "absolute", "number", "of", "exchanged", "URLs", "will", "also", "decrease", ".", "For", "example", ",", "consider", "C", "1", "in", "Figure", "2", ".", "The", "link", "to", "page", "g", "appears", "twice", ",", "in", "page", "a", "and", "in", "page", "c.", "Therefore", ",", "if", "C", "1", "transfers", "the", "link", "to", "g", "after", "downloading", "page", "a", ",", "it", "needs", "to", "send", "the", "same", "URL", "again", "after", "downloading", "page", "c.", "2", "In", "contrast", ",", "if", "C", "1", "waits", "until", "page", "c", "and", "sends", "URLs", "in", "batch", ",", "it", "needs", "to", "send", "the", "URL", "for", "g", "only", "once", ".", "2", ".", "Replication", ":", "It", "is", "known", "that", "the", "number", "of", "incoming", "links", "to", "pages", "on", "the", "Web", "follows", "a", "Zipfian", "distribution", "-LSB-", "3", ",", "2", ",", "26", "-RSB-", ".", "That", "is", ",", "a", "small", "number", "of", "Web", "pages", "have", "an", "extremely", "large", "number", "of", "links", "pointing", "to", "them", ",", "while", "a", "majority", "of", "pages", "have", "only", "a", "small", "number", "of", "incoming", "links", ".", "Thus", ",", "we", "may", "significantly", "reduce", "URL", "exchanges", ",", "if", "we", "replicate", "the", "most", "``", "popular", "''", "URLs", "at", "each", "C-proc", "-LRB-", "by", "most", "popular", ",", "we", "mean", "the", "URLs", "with", "most", "incoming", "links", "-RRB-", "and", "stop", "transferring", "them", "between", "C-proc", "'s", ".", "That", "is", ",", "before", "we", "start", "crawling", "pages", ",", "we", "identify", "the", "most", "popular", "k", "URLs", "based", "on", "the", "image", "of", "the", "Web", "collected", "in", "a", "previous", "crawl", ".", "Then", "we", "replicate", "these", "URLs", "at", "each", "C-proc", ",", "so", "that", "the", "C-proc", "'s", "do", "not", "exchange", "them", "during", "a", "crawl", ".", "Since", "a", "small", "number", "of", "Web", "pages", "have", "a", "large", "number", "of", "incoming", "links", ",", "this", "scheme", "may", "significantly", "reduce", "URL", "exchanges", "between", "C-proc", "'s", ",", "even", "if", "we", "replicate", "a", "small", "number", "of", "URLs", ".", "Note", "that", "some", "of", "the", "replicated", "URLs", "may", "be", "used", "as", "the", "seed", "URLs", "for", "a", "C-proc", ".", "That", "is", ",", "if", "some", "URLs", "in", "the", "replicated", "set", "belong", "to", "the", "same", "partition", "that", "a", "C-proc", "is", "responsible", "for", ",", "the", "C-proc", "may", "use", "those", "URLs", "as", "its", "seeds", "rather", "than", "starting", "from", "other", "pages", ".", "Also", "note", "that", "it", "is", "possible", "that", "each", "C-proc", "tries", "to", "discover", "popular", "URLs", "on", "the", "fly", "during", "a", "crawl", ",", "instead", "of", "identifying", "them", "based", "on", "the", "previous", "image", ".", "For", "example", ",", "each", "C-proc", "may", "keep", "a", "``", "cache", "''", "of", "recently", "seen", "URL", "entries", ".", "This", "cache", "may", "pick", "up", "``", "popular", "''", "URLs", "automatically", ",", "because", "the", "popular", "URLs", "show", "up", "repeatedly", ".", "However", ",", "we", "believe", "that", "the", "popular", "URLs", "from", "a", "previous", "crawl", "will", "be", "a", "good", "approximation", "for", "the", "popular", "URLs", "in", "the", "current", "Web", ";", "Most", "popular", "Web", "pages", "-LRB-", "such", "as", "Yahoo!", "-RRB-", "maintain", "their", "popularity", "for", "a", "relatively", "long", "period", "of", "time", ",", "even", "if", "their", "exact", "popularity", "may", "change", "slightly", ".", "3.2", "Partitioning", "function", "So", "far", ",", "we", "have", "mainly", "assumed", "that", "the", "Web", "pages", "are", "partitioned", "by", "Web", "sites", ".", "Clearly", ",", "there", "exists", "a", "multitude", "of", "ways", "to", "partition", "the", "Web", ",", "including", "the", "following", ":", "1", ".", "URL-hash", "based", ":", "Based", "on", "the", "hash", "value", "of", "the", "URL", "of", "a", "page", ",", "we", "assign", "the", "page", "to", "a", "C-proc", ".", "In", "2", "When", "it", "downloads", "page", "c", ",", "it", "does", "not", "remember", "whether", "the", "link", "to", "g", "has", "been", "already", "sent", ".", "this", "scheme", ",", "pages", "in", "the", "same", "site", "can", "be", "assigned", "to", "different", "C-proc", "'s", ".", "Therefore", ",", "the", "locality", "of", "link", "structure", "3", "is", "not", "reflected", "in", "the", "partition", ",", "and", "there", "will", "be", "many", "inter-partition", "links", ".", "2", ".", "Site-hash", "based", ":", "Instead", "of", "computing", "the", "hash", "value", "on", "an", "entire", "URL", ",", "we", "compute", "the", "hash", "value", "only", "on", "the", "site", "name", "of", "a", "URL", "-LRB-", "e.g.", ",", "cnn.com", "in", "http", ":", "/", "/", "cnn.com/index.html", "-RRB-", "and", "assign", "the", "page", "to", "a", "C-proc", ".", "In", "this", "scheme", ",", "note", "that", "the", "pages", "in", "the", "same", "site", "will", "be", "allocated", "to", "the", "same", "partition", ".", "Therefore", ",", "only", "some", "of", "the", "inter-site", "links", "will", "be", "inter-partition", "links", ",", "and", "thus", "we", "can", "reduce", "the", "number", "of", "inter-partition", "links", "quite", "significantly", "compared", "to", "the", "URL-hash", "based", "scheme", ".", "3", ".", "Hierarchical", ":", "Instead", "of", "using", "a", "hash-value", ",", "we", "may", "partition", "the", "Web", "hierarchically", "based", "on", "the", "URLs", "of", "pages", ".", "For", "example", ",", "we", "may", "divide", "the", "Web", "into", "three", "partitions", "-LRB-", "the", "pages", "in", "the", ".", "com", "domain", ",", ".", "net", "domain", "and", "all", "other", "pages", "-RRB-", "and", "allocate", "them", "to", "three", "C-proc", "'s", ".", "Even", "further", ",", "we", "may", "decompose", "the", "Web", "by", "language", "or", "country", "-LRB-", "e.g.", ",", ".", "mx", "for", "Mexico", "-RRB-", ".", "Because", "pages", "hosted", "in", "the", "same", "domain", "or", "country", "may", "be", "more", "likely", "to", "link", "to", "pages", "in", "the", "same", "domain", ",", "scheme", "may", "have", "even", "fewer", "inter-partition", "links", "than", "the", "site-hash", "based", "scheme", ".", "In", "this", "paper", ",", "we", "do", "not", "consider", "the", "URL-hash", "based", "scheme", ",", "because", "it", "generates", "a", "large", "number", "of", "inter-partition", "links", ".", "When", "the", "crawler", "uses", "URL-hash", "based", "scheme", ",", "C-proc", "'s", "need", "to", "exchange", "much", "larger", "number", "of", "URLs", "-LRB-", "exchange", "mode", "-RRB-", ",", "and", "the", "coverage", "of", "the", "overall", "crawler", "can", "be", "much", "lower", "-LRB-", "firewall", "mode", "-RRB-", ".", "In", "addition", ",", "in", "our", "later", "experiments", ",", "we", "will", "mainly", "use", "the", "site-hash", "based", "scheme", "as", "our", "partitioning", "function", ".", "We", "chose", "this", "option", "because", "it", "is", "much", "simpler", "to", "implement", ",", "and", "because", "it", "captures", "the", "core", "issues", "that", "we", "want", "to", "study", ".", "For", "example", ",", "under", "the", "hierarchical", "scheme", ",", "it", "is", "not", "easy", "to", "divide", "the", "Web", "into", "equal", "size", "partitions", ",", "while", "it", "is", "relatively", "straightforward", "under", "the", "site-hash", "based", "scheme", ".", "4", "Also", ",", "we", "believe", "we", "can", "interpret", "the", "results", "from", "the", "site-hash", "based", "scheme", "as", "the", "upper/lower", "bound", "for", "the", "hierarchical", "scheme", ".", "For", "instance", ",", "assuming", "Web", "pages", "link", "to", "more", "pages", "in", "the", "same", "domain", ",", "the", "number", "of", "inter-partition", "links", "will", "be", "lower", "in", "the", "hierarchical", "scheme", "than", "in", "the", "site-hash", "based", "scheme", "-LRB-", "although", "we", "could", "not", "confirm", "this", "trend", "in", "our", "experiments", "-RRB-", ".", "In", "Figure", "3", ",", "we", "summarize", "the", "options", "that", "we", "have", "discussed", "so", "far", ".", "The", "right-hand", "table", "in", "the", "figure", "shows", "more", "detailed", "view", "on", "the", "static", "coordination", "scheme", ".", "In", "the", "diagram", ",", "we", "highlight", "the", "main", "focus", "of", "our", "paper", "with", "dark", "grey", ".", "That", "is", ",", "we", "mainly", "study", "the", "static", "coordination", "scheme", "-LRB-", "the", "third", "column", "in", "the", "left-hand", "table", "-RRB-", "and", "we", "use", "the", "site-hash", "based", "partitioning", "for", "our", "experiments", "-LRB-", "the", "second", "row", "in", "the", "second", "table", "-RRB-", ".", "However", ",", "during", "our", "discussion", ",", "we", "will", "also", "briefly", "explore", "the", "implications", "of", "other", "3", "According", "to", "our", "experiments", ",", "about", "90", "%", "of", "the", "links", "in", "a", "page", "point", "to", "pages", "in", "the", "same", "site", "on", "average", ".", "4", "While", "the", "sizes", "of", "individual", "Web", "sites", "vary", ",", "the", "sizes", "of", "partitions", "are", "similar", ",", "because", "each", "partition", "contains", "many", "Web", "sites", "and", "their", "average", "sizes", "are", "similar", "among", "partitions", ".", "128", "Type", "URL-hash", "Site-hash", "Hierarchical", "Distributed", "Intra-site", "Independent", "Dynamic", "Static", "Batch", "Replication", "None", "Main", "focus", "Also", "discussed", "Partitioning", "Exchange", "Coordination", "Firewall", "Cross-over", "Mode", "Not", "discussed", "further", "Figure", "3", ":", "Summary", "of", "the", "options", "discussed", "options", ".", "For", "instance", ",", "the", "firewall", "mode", "is", "an", "``", "improved", "''", "version", "of", "the", "independent", "coordination", "scheme", "-LRB-", "in", "the", "first", "table", "-RRB-", ",", "so", "our", "study", "on", "the", "firewall", "mode", "will", "show", "the", "implications", "of", "the", "independent", "coordination", "scheme", ".", "Also", ",", "we", "roughly", "estimate", "the", "performance", "of", "the", "URL-hash", "based", "scheme", "-LRB-", "first", "row", "in", "the", "second", "table", "-RRB-", "when", "we", "discuss", "the", "results", "from", "the", "site-hash", "based", "scheme", ".", "Given", "our", "table", "of", "crawler", "design", "space", ",", "it", "would", "be", "very", "interesting", "to", "see", "what", "options", "existing", "search", "engines", "selected", "for", "their", "own", "crawlers", ".", "Unfortunately", ",", "this", "information", "is", "impossible", "to", "obtain", "in", "most", "cases", "because", "companies", "consider", "their", "technologies", "proprietary", "and", "want", "to", "keep", "them", "secret", ".", "The", "only", "two", "crawler", "designs", "that", "we", "know", "of", "are", "the", "prototype", "Google", "crawler", "-LSB-", "22", "-RSB-", "-LRB-", "when", "it", "was", "developed", "at", "Stanford", "-RRB-", "and", "the", "Mercator", "crawler", "-LSB-", "15", "-RSB-", "at", "Compaq", ".", "The", "prototype", "google", "crawler", "used", "the", "intra-site", ",", "static", "and", "site-hash", "based", "scheme", "and", "ran", "in", "exchange", "mode", "-LSB-", "22", "-RSB-", ".", "The", "Mercator", "crawler", "uses", "the", "site-based", "hashing", "scheme", ".", "In", "this", "section", ",", "we", "define", "metrics", "that", "will", "let", "us", "quantify", "the", "advantages", "or", "disadvantages", "of", "different", "parallel", "crawling", "schemes", ".", "These", "metrics", "will", "be", "used", "later", "in", "our", "experiments", ".", "1", ".", "Overlap", ":", "When", "multiple", "C-proc", "'s", "are", "downloading", "Web", "pages", "simultaneously", ",", "it", "is", "possible", "that", "different", "C-proc", "'s", "download", "the", "same", "page", "multiple", "times", ".", "Multiple", "downloads", "of", "the", "same", "page", "are", "clearly", "undesirable", ".", "More", "precisely", ",", "we", "define", "the", "overlap", "of", "downloaded", "pages", "as", "N-I", "I", ".", "Here", ",", "N", "represents", "the", "total", "number", "of", "pages", "downloaded", "by", "the", "overall", "crawler", ",", "and", "I", "represents", "the", "number", "of", "unique", "pages", "downloaded", ",", "again", ",", "by", "the", "overall", "crawler", ".", "Thus", ",", "the", "goal", "of", "a", "parallel", "crawler", "is", "to", "minimize", "the", "overlap", ".", "Note", "that", "a", "parallel", "crawler", "does", "not", "have", "an", "overlap", "problem", ",", "if", "it", "is", "based", "on", "the", "firewall", "mode", "-LRB-", "Section", "3", ",", "Item", "1", "-RRB-", "or", "the", "exchange", "mode", "-LRB-", "Section", "3", ",", "Item", "3", "-RRB-", ".", "In", "these", "modes", ",", "a", "C-proc", "downloads", "pages", "only", "within", "its", "own", "partition", ",", "so", "the", "overlap", "is", "always", "zero", ".", "2", ".", "Coverage", ":", "When", "multiple", "C-proc", "'s", "run", "independently", ",", "it", "is", "possible", "that", "they", "may", "not", "download", "all", "pages", "that", "they", "have", "to", ".", "In", "particular", ",", "a", "crawler", "based", "on", "the", "firewall", "mode", "-LRB-", "Section", "3", ",", "Item", "1", "-RRB-", "may", "have", "this", "problem", ",", "because", "its", "C-proc", "'s", "do", "not", "follow", "inter-partition", "links", "nor", "exchange", "the", "links", "with", "others", ".", "To", "formalize", "this", "notion", ",", "we", "define", "the", "coverage", "of", "downloaded", "pages", "as", "I", "U", ",", "where", "U", "represents", "the", "total", "number", "of", "pages", "that", "the", "overall", "crawler", "has", "to", "download", ",", "and", "I", "is", "the", "number", "of", "unique", "pages", "downloaded", "by", "the", "overall", "crawler", ".", "For", "example", ",", "in", "Figure", "2", ",", "if", "C", "1", "downloaded", "pages", "a", ",", "b", "and", "c", ",", "and", "if", "C", "2", "downloaded", "pages", "f", "through", "i", ",", "the", "coverage", "of", "the", "overall", "crawler", "is", "7", "9", "=", "0.77", ",", "because", "it", "downloaded", "7", "pages", "out", "of", "9", ".", "3", ".", "Quality", ":", "Often", ",", "crawlers", "can", "not", "download", "the", "whole", "Web", ",", "and", "thus", "they", "try", "to", "download", "an", "``", "important", "''", "or", "``", "relevant", "''", "section", "of", "the", "Web", ".", "For", "example", ",", "a", "crawler", "may", "have", "storage", "space", "only", "for", "1", "million", "pages", "and", "may", "want", "to", "download", "the", "``", "most", "important", "''", "1", "million", "pages", ".", "To", "implement", "this", "policy", ",", "a", "crawler", "needs", "a", "notion", "of", "``", "importance", "''", "of", "pages", ",", "often", "called", "an", "importance", "metric", "-LSB-", "9", "-RSB-", ".", "For", "example", ",", "let", "us", "assume", "that", "the", "crawler", "uses", "backlink", "count", "as", "its", "importance", "metric", ".", "That", "is", ",", "the", "crawler", "considers", "a", "page", "p", "important", "when", "a", "lot", "of", "other", "pages", "point", "to", "it", ".", "Then", "the", "goal", "of", "the", "crawler", "is", "to", "download", "the", "most", "highly-linked", "1", "million", "pages", ".", "To", "achieve", "this", "goal", ",", "a", "single-process", "crawler", "may", "use", "the", "following", "method", "-LSB-", "9", "-RSB-", ":", "The", "crawler", "constantly", "keeps", "track", "of", "how", "many", "backlinks", "each", "page", "has", "from", "the", "pages", "that", "it", "has", "already", "downloaded", ",", "and", "first", "visits", "the", "page", "with", "the", "highest", "backlink", "count", ".", "Clearly", ",", "the", "pages", "downloaded", "in", "this", "way", "may", "not", "be", "the", "top", "1", "million", "pages", ",", "because", "the", "page", "selection", "is", "not", "based", "on", "the", "entire", "Web", ",", "only", "on", "what", "has", "been", "seen", "so", "far", ".", "Thus", ",", "we", "may", "formalize", "the", "notion", "of", "``", "quality", "''", "of", "downloaded", "pages", "as", "follows", "-LSB-", "9", "-RSB-", ":", "First", ",", "we", "assume", "a", "hypothetical", "oracle", "crawler", ",", "which", "knows", "the", "exact", "importance", "of", "every", "page", "under", "a", "certain", "importance", "metric", ".", "We", "assume", "that", "the", "oracle", "crawler", "downloads", "the", "most", "important", "N", "pages", "in", "total", ",", "and", "use", "P", "N", "to", "represent", "that", "set", "of", "N", "pages", ".", "We", "also", "use", "A", "N", "to", "represent", "the", "set", "of", "N", "pages", "that", "an", "actual", "crawler", "would", "download", ",", "which", "would", "not", "be", "necessarily", "the", "same", "as", "P", "N", ".", "Then", "we", "define", "|", "A", "N", "P", "N", "|", "|", "P", "N", "|", "as", "the", "quality", "of", "downloaded", "pages", "by", "the", "actual", "crawler", ".", "Under", "this", "definition", ",", "the", "quality", "represents", "the", "fraction", "of", "the", "true", "top", "N", "pages", "that", "are", "downloaded", "by", "129", "the", "crawler", ".", "Note", "that", "the", "quality", "of", "a", "parallel", "crawler", "may", "be", "worse", "than", "that", "of", "a", "single-process", "crawler", ",", "because", "many", "importance", "metrics", "depend", "on", "the", "global", "structure", "of", "the", "Web", "-LRB-", "e.g.", ",", "backlink", "count", "-RRB-", ".", "That", "is", ",", "each", "C-proc", "in", "a", "parallel", "crawler", "may", "know", "only", "the", "pages", "that", "are", "downloaded", "by", "itself", ",", "and", "thus", "have", "less", "information", "on", "page", "importance", "than", "a", "single-process", "crawler", "does", ".", "On", "the", "other", "hand", ",", "a", "single-process", "crawler", "knows", "all", "pages", "it", "has", "downloaded", "so", "far", ".", "Therefore", ",", "a", "C-proc", "in", "a", "parallel", "crawler", "may", "make", "a", "worse", "crawling", "decision", "than", "a", "single-process", "crawler", ".", "In", "order", "to", "avoid", "this", "quality", "problem", ",", "C-proc", "'s", "need", "to", "periodically", "exchange", "information", "on", "page", "importance", ".", "For", "example", ",", "if", "the", "backlink", "count", "is", "the", "importance", "metric", ",", "a", "C-proc", "may", "periodically", "notify", "other", "C-proc", "'s", "of", "how", "many", "pages", "in", "its", "partition", "have", "links", "to", "pages", "in", "other", "partitions", ".", "Note", "that", "this", "backlink", "exchange", "can", "be", "naturally", "incorporated", "in", "an", "exchange", "mode", "crawler", "-LRB-", "Section", "3", ",", "Item", "3", "-RRB-", ".", "In", "this", "mode", ",", "crawling", "processes", "exchange", "inter-partition", "URLs", "periodically", ",", "so", "a", "C-proc", "can", "simply", "count", "how", "many", "inter-partition", "links", "it", "receives", "from", "other", "C-proc", "'s", ",", "to", "count", "backlinks", "originating", "in", "other", "partitions", ".", "More", "precisely", ",", "if", "the", "crawler", "uses", "the", "batch", "communication", "technique", "-LRB-", "Section", "3.1", ",", "Item", "1", "-RRB-", ",", "process", "C", "1", "would", "send", "a", "message", "like", "-LSB-", "http://cnn", ".", "com/index.html", ",", "3", "-RSB-", "to", "C", "2", ",", "to", "notify", "that", "C", "1", "has", "seen", "3", "links", "to", "the", "page", "in", "the", "current", "batch", ".", "5", "On", "receipt", "of", "this", "message", ",", "C", "2", "then", "increases", "the", "backlink", "count", "for", "the", "page", "by", "3", "to", "reflect", "the", "inter-partition", "links", ".", "By", "incorporating", "this", "scheme", ",", "we", "believe", "that", "the", "quality", "of", "the", "exchange", "mode", "will", "be", "better", "than", "that", "of", "the", "firewall", "mode", "or", "the", "cross-over", "mode", ".", "However", ",", "note", "that", "the", "quality", "of", "an", "exchange", "mode", "crawler", "may", "vary", "depending", "on", "how", "often", "it", "exchanges", "backlink", "messages", ".", "For", "instance", ",", "if", "crawling", "processes", "exchange", "backlink", "messages", "after", "every", "page", "download", ",", "they", "will", "have", "essentially", "the", "same", "backlink", "information", "as", "a", "single-process", "crawler", "does", ".", "-LRB-", "They", "know", "backlink", "counts", "from", "all", "pages", "that", "have", "been", "downloaded", ".", "-RRB-", "Therefore", ",", "the", "quality", "of", "the", "downloaded", "pages", "would", "be", "virtually", "the", "same", "as", "that", "of", "a", "single-process", "crawler", ".", "In", "contrast", ",", "if", "C-proc", "'s", "rarely", "exchange", "backlink", "messages", ",", "they", "do", "not", "have", "``", "accurate", "''", "backlink", "counts", "from", "downloaded", "pages", ",", "so", "they", "may", "make", "poor", "crawling", "decisions", ",", "resulting", "in", "poor", "quality", ".", "Later", ",", "we", "will", "study", "how", "often", "C-proc", "'s", "should", "exchange", "backlink", "messages", "in", "order", "to", "maximize", "the", "quality", ".", "4", ".", "Communication", "overhead", ":", "The", "C-proc", "'s", "in", "a", "parallel", "crawler", "need", "to", "exchange", "messages", "to", "coordinate", "their", "work", ".", "In", "particular", ",", "C-proc", "'s", "based", "on", "the", "exchange", "mode", "-LRB-", "Section", "3", ",", "Item", "3", "-RRB-", "swap", "their", "inter-partition", "URLs", "periodically", ".", "To", "quantify", "how", "much", "communication", "is", "required", "for", "this", "exchange", ",", "we", "define", "communication", "overhead", "as", "the", "average", "number", "of", "inter-partition", "URLs", "exchanged", "per", "downloaded", "page", ".", "5", "If", "the", "C-proc", "'s", "send", "inter-partition", "URLs", "incrementally", "after", "every", "page", ",", "the", "C-proc", "'s", "can", "send", "the", "URL", "only", ",", "and", "other", "C-proc", "'s", "can", "simply", "count", "these", "URLs", ".", "Mode", "Coverage", "Overlap", "Quality", "Communication", "Firewall", "Bad", "Good", "Bad", "Good", "Cross-over", "Good", "Bad", "Bad", "Good", "Exchange", "Good", "Good", "Good", "Bad", "Table", "1", ":", "Comparison", "of", "three", "crawling", "modes", "For", "example", ",", "if", "a", "parallel", "crawler", "has", "downloaded", "1,000", "pages", "in", "total", "and", "if", "its", "C-proc", "'s", "have", "exchanged", "3,000", "inter-partition", "URLs", ",", "its", "communication", "overhead", "is", "3,000", "/", "1,000", "=", "3", ".", "Note", "that", "a", "crawler", "based", "on", "the", "the", "firewall", "and", "the", "cross-over", "mode", "do", "not", "have", "any", "communication", "overhead", ",", "because", "they", "do", "not", "exchange", "any", "inter-partition", "URLs", ".", "In", "Table", "1", ",", "we", "compare", "the", "relative", "merits", "of", "the", "three", "crawling", "modes", "-LRB-", "Section", "3", ",", "Items", "1", "3", "-RRB-", ".", "In", "the", "table", ",", "``", "Good", "''", "means", "that", "the", "mode", "is", "expected", "to", "perform", "relatively", "well", "for", "that", "metric", ",", "and", "``", "Bad", "''", "means", "that", "it", "may", "perform", "worse", "compared", "to", "other", "modes", ".", "For", "instance", ",", "the", "firewall", "mode", "does", "not", "exchange", "any", "inter-partition", "URLs", "-LRB-", "Communication", ":", "Good", "-RRB-", "and", "downloads", "pages", "only", "once", "-LRB-", "Overlap", ":", "Good", "-RRB-", ",", "but", "it", "may", "not", "download", "every", "page", "-LRB-", "Coverage", ":", "Bad", "-RRB-", ".", "Also", ",", "because", "C-proc", "'s", "do", "not", "exchange", "inter-partition", "URLs", ",", "the", "downloaded", "pages", "may", "be", "of", "lower", "quality", "than", "those", "of", "an", "exchange", "mode", "crawler", ".", "Later", ",", "we", "will", "examine", "these", "issues", "more", "quantitatively", "through", "experiments", "based", "on", "real", "Web", "data", ".", "We", "have", "discussed", "various", "issues", "related", "to", "a", "parallel", "crawler", "and", "identified", "multiple", "alternatives", "for", "its", "architecture", ".", "In", "the", "remainder", "of", "this", "paper", ",", "we", "quantitatively", "study", "these", "issues", "through", "experiments", "conducted", "on", "real", "Web", "data", ".", "In", "all", "of", "the", "following", "experiments", ",", "we", "used", "40", "million", "Web", "pages", "in", "our", "Stanford", "WebBase", "repository", ".", "Because", "the", "property", "of", "this", "dataset", "may", "significantly", "impact", "the", "result", "of", "our", "experiments", ",", "readers", "might", "be", "interested", "in", "how", "we", "collected", "these", "pages", ".", "We", "downloaded", "the", "pages", "using", "our", "Stanford", "WebBase", "crawler", "in", "December", "1999", "in", "the", "period", "of", "2", "weeks", ".", "In", "downloading", "the", "pages", ",", "the", "WebBase", "crawler", "started", "with", "the", "URLs", "listed", "in", "Open", "Directory", "-LRB-", "http://www.dmoz.org", "-RRB-", ",", "and", "followed", "links", ".", "We", "decided", "to", "use", "the", "Open", "Directory", "URLs", "as", "seed", "URLs", ",", "because", "these", "pages", "are", "the", "ones", "that", "are", "considered", "``", "important", "''", "by", "its", "maintainers", ".", "In", "addition", ",", "some", "of", "our", "local", "WebBase", "users", "were", "keenly", "interested", "in", "the", "Open", "Directory", "pages", "and", "explicitly", "requested", "that", "we", "cover", "them", ".", "The", "total", "number", "of", "URLs", "in", "the", "Open", "Directory", "was", "around", "1", "million", "at", "that", "time", ".", "Then", "conceptually", ",", "the", "WebBase", "crawler", "downloaded", "all", "these", "pages", ",", "extracted", "URLs", "within", "the", "downloaded", "pages", ",", "and", "followed", "links", "in", "a", "breadth-first", "manner", ".", "-LRB-", "The", "WebBase", "crawler", "uses", "various", "techniques", "to", "expedite", "and", "prioritize", "crawling", "process", ",", "but", "we", "believe", "these", "optimizations", "do", "not", "affect", "the", "final", "dataset", "significantly", ".", "-RRB-", "Our", "dataset", "is", "relatively", "``", "small", "''", "-LRB-", "40", "million", "pages", "-RRB-", "compared", "to", "the", "full", "Web", ",", "but", "keep", "in", "mind", "that", "using", "a", "significantly", "larger", "dataset", "would", "have", "made", "many", "of", "our", "experiments", "prohibitively", "expensive", ".", "As", "we", "will", "see", ",", "each", "of", "the", "graphs", "we", "present", "study", "multiple", "configurations", ",", "and", "for", "each", "configuration", ",", "multiple", "crawler", "runs", "were", "made", "to", "130", "2", "4", "8", "16", "32", "64", "0.2", "0.4", "0.6", "0.8", "1", "Number", "of", "C-proc", "'s", "Coverage", "n", "Figure", "4", ":", "Number", "of", "processes", "vs.", "Coverage", "64", "4096", "10000", "20000", "30000", "0.2", "0.4", "0.6", "0.8", "1", "64", "32", "8", "2", "processes", "processes", "processes", "processes", "Coverage", "Number", "of", "Seeds", "s", "Figure", "5", ":", "Number", "of", "seed", "URLs", "vs.", "Coverage", "obtain", "statistically", "valid", "data", "points", ".", "Each", "run", "involves", "simulating", "how", "one", "or", "more", "C-proc", "'s", "would", "visit", "the", "40", "million", "pages", ".", "Such", "detailed", "simulations", "are", "inherently", "very", "time", "consuming", ".", "It", "is", "clearly", "difficult", "to", "predict", "what", "would", "happen", "for", "a", "larger", "dataset", ".", "In", "the", "extended", "version", "of", "this", "paper", "-LSB-", "8", "-RSB-", ",", "we", "examine", "this", "data", "size", "issue", "a", "bit", "more", "carefully", "and", "discuss", "whether", "a", "larger", "dataset", "would", "have", "changed", "our", "conclusions", ".", "A", "firewall", "mode", "crawler", "-LRB-", "Section", "3", ",", "Item", "1", "-RRB-", "has", "minimal", "communication", "overhead", ",", "but", "it", "may", "have", "coverage", "and", "quality", "problems", "-LRB-", "Section", "4", "-RRB-", ".", "In", "this", "section", ",", "we", "quantitatively", "study", "the", "effectiveness", "of", "a", "firewall", "mode", "crawler", "using", "the", "40", "million", "pages", "in", "our", "repository", ".", "In", "particular", ",", "we", "estimate", "the", "coverage", "-LRB-", "Section", "4", ",", "Item", "2", "-RRB-", "of", "a", "firewall", "mode", "crawler", "when", "it", "employs", "n", "C-proc", "'s", "in", "parallel", ".", "-LRB-", "We", "discuss", "the", "quality", "issue", "of", "a", "parallel", "crawler", "later", ".", "-RRB-", "In", "our", "experiments", ",", "we", "considered", "the", "40", "million", "pages", "within", "our", "WebBase", "repository", "as", "the", "entire", "Web", ",", "and", "we", "used", "site-hash", "based", "partitioning", "-LRB-", "Section", "3.2", ",", "Item", "2", "-RRB-", ".", "As", "the", "seed", "URLs", ",", "each", "C-proc", "was", "given", "5", "random", "URLs", "from", "its", "own", "partition", ",", "so", "5n", "seed", "URLs", "were", "used", "in", "total", "by", "the", "overall", "crawler", ".", "-LRB-", "We", "discuss", "the", "effect", "of", "the", "number", "of", "seed", "URLs", "shortly", ".", "-RRB-", "Since", "the", "crawler", "ran", "in", "firewall", "mode", ",", "C-proc", "'s", "followed", "only", "intra-partition", "links", ",", "not", "inter-partition", "links", ".", "Under", "these", "settings", ",", "we", "let", "the", "C-proc", "'s", "run", "until", "they", "ran", "out", "of", "URLs", ".", "After", "this", "simulated", "crawling", ",", "we", "measured", "the", "overall", "coverage", "of", "the", "crawler", ".", "We", "performed", "these", "experiments", "with", "5n", "random", "seed", "URLS", "and", "repeated", "the", "experiments", "multiple", "times", "with", "different", "seed", "URLs", ".", "In", "all", "of", "the", "runs", ",", "the", "results", "were", "essentially", "the", "same", ".", "In", "Figure", "4", ",", "we", "summarize", "the", "results", "from", "the", "experiments", ".", "The", "horizontal", "axis", "represents", "n", ",", "the", "number", "of", "parallel", "C-proc", "'s", ",", "and", "the", "vertical", "axis", "shows", "the", "coverage", "of", "the", "overall", "crawler", "for", "the", "given", "experiment", ".", "Note", "that", "the", "coverage", "is", "only", "0.9", "even", "when", "n", "=", "1", "-LRB-", "a", "single-process", "-RRB-", ".", "This", "result", "is", "because", "the", "crawler", "in", "our", "experiment", "started", "with", "only", "5", "URLs", ",", "while", "the", "actual", "dataset", "was", "collected", "with", "1", "million", "seed", "URLs", ".", "Thus", ",", "some", "of", "the", "40", "million", "pages", "were", "unreachable", "from", "the", "5", "seed", "URLs", ".", "From", "the", "figure", "it", "is", "clear", "that", "the", "coverage", "decreases", "as", "the", "number", "of", "processes", "increases", ".", "This", "trend", "is", "because", "the", "number", "of", "inter-partition", "links", "increases", "as", "the", "Web", "is", "split", "into", "smaller", "partitions", ",", "and", "thus", "more", "pages", "are", "reachable", "only", "through", "inter-partition", "links", ".", "From", "this", "result", "we", "can", "see", "that", "we", "may", "run", "a", "crawler", "in", "a", "firewall", "mode", "without", "much", "decrease", "in", "coverage", "with", "fewer", "than", "4", "C-proc", "'s", ".", "For", "example", ",", "for", "the", "4-process", "case", ",", "the", "coverage", "decreases", "only", "10", "%", "from", "the", "single-process", "case", ".", "At", "the", "same", "time", ",", "we", "can", "also", "see", "that", "the", "firewall", "mode", "crawler", "becomes", "quite", "ineffective", "with", "a", "large", "number", "of", "C-proc", "'s", ".", "Less", "than", "10", "%", "of", "the", "Web", "can", "be", "downloaded", "when", "64", "C-proc", "'s", "run", "together", ",", "each", "starting", "with", "5", "seed", "URLs", ".", "Clearly", ",", "coverage", "may", "depend", "on", "the", "number", "of", "seed", "URLs", "that", "each", "C-proc", "starts", "with", ".", "To", "study", "this", "issue", ",", "we", "also", "ran", "experiments", "varying", "the", "number", "of", "seed", "URLs", ",", "s", ",", "and", "we", "show", "the", "results", "in", "Figure", "5", ".", "The", "horizontal", "axis", "in", "the", "graph", "represents", "s", ",", "the", "total", "number", "of", "seed", "URLs", "that", "the", "overall", "crawler", "used", ",", "and", "the", "vertical", "axis", "shows", "the", "coverage", "for", "that", "experiment", ".", "For", "example", ",", "when", "s", "=", "128", ",", "the", "overall", "crawler", "used", "128", "total", "seed", "URLs", ",", "each", "C-proc", "starting", "with", "2", "seed", "URLs", "when", "64", "C-proc", "'s", "ran", "in", "parallel", ".", "We", "performed", "the", "experiments", "for", "2", ",", "8", ",", "32", ",", "64", "C-proc", "cases", "and", "plotted", "their", "coverage", "values", ".", "From", "this", "figure", ",", "we", "can", "observe", "the", "following", "trends", ":", "When", "a", "large", "number", "of", "C-proc", "'s", "run", "in", "parallel", "-LRB-", "e.g.", ",", "32", "or", "64", "-RRB-", ",", "the", "total", "number", "of", "seed", "URLs", "affects", "the", "coverage", "very", "significantly", ".", "For", "example", ",", "when", "64", "processes", "run", "in", "parallel", "the", "coverage", "value", "jumps", "from", "0.4", "%", "to", "10", "%", "if", "the", "number", "of", "seed", "URLs", "increases", "from", "64", "to", "1024", ".", "When", "only", "a", "small", "number", "of", "processes", "run", "in", "parallel", "-LRB-", "e.g.", ",", "2", "or", "8", "-RRB-", ",", "coverage", "is", "not", "significantly", "affected", "by", "the", "number", "of", "seed", "URLs", ".", "While", "coverage", "increases", "slightly", "as", "s", "increases", ",", "the", "improvement", "is", "marginal", ".", "Based", "on", "these", "results", ",", "we", "draw", "the", "following", "conclusions", ":", "1", ".", "When", "a", "relatively", "small", "number", "of", "C-proc", "'s", "are", "running", "in", "parallel", ",", "a", "crawler", "using", "the", "firewall", "mode", "provides", "good", "coverage", ".", "In", "this", "case", ",", "the", "crawler", "may", "start", "with", "only", "a", "small", "number", "of", "seed", "URLs", ",", "because", "coverage", "is", "not", "much", "affected", "by", "the", "number", "of", "seed", "URLs", ".", "2", ".", "The", "firewall", "mode", "is", "not", "a", "good", "choice", "if", "the", "crawler", "wants", "to", "download", "every", "single", "page", "on", "the", "Web", ".", "The", "crawler", "may", "miss", "some", "portion", "of", "the", "Web", ",", "particularly", "when", "it", "runs", "many", "C-proc", "'s", "in", "parallel", ".", "Example", "1", ".", "-LRB-", "Generic", "search", "engine", "-RRB-", "To", "illustrate", "how", "our", "results", "could", "guide", "the", "design", "of", "a", "parallel", "crawler", ",", "consider", "the", "following", "example", ".", "Assume", "that", "to", "operate", "a", "Web", "search", "engine", ",", "we", "need", "to", "download", "1", "billion", "pages", "6", "in", "one", "6", "Currently", "the", "Web", "is", "estimated", "to", "have", "around", "1", "billion", "pages", ".", "131", "0.2", "0.4", "0.6", "0.8", "1", "0.5", "1", "1.5", "2", "2.5", "3", "overlap", "coverage", "n", "=", "64", "n", "=", "32", ":", "number", "of", "n", "'s", "C-proc", "n", "=", "4", "n", "=", "8", "n", "=", "2", "n", "=", "16", "Figure", "6", ":", "Coverage", "vs.", "Overlap", "for", "a", "cross-over", "mode", "crawler", "month", ".", "Each", "machine", "that", "we", "plan", "to", "run", "our", "C-proc", "'s", "on", "has", "10", "Mbps", "link", "to", "the", "Internet", ",", "and", "we", "can", "use", "as", "many", "machines", "as", "we", "want", ".", "Given", "that", "the", "average", "size", "of", "a", "web", "page", "is", "around", "10K", "bytes", ",", "we", "roughly", "need", "to", "download", "10", "4", "10", "9", "=", "10", "13", "bytes", "in", "one", "month", ".", "This", "download", "rate", "corresponds", "to", "34", "Mbps", ",", "and", "we", "need", "4", "machines", "-LRB-", "thus", "4", "C-proc", "'s", "-RRB-", "to", "obtain", "the", "rate", ".", "Given", "the", "results", "of", "our", "experiment", "-LRB-", "Figure", "4", "-RRB-", ",", "we", "may", "estimate", "that", "the", "coverage", "will", "be", "at", "least", "0.8", "with", "4", "C-proc", "'s", ".", "Therefore", ",", "in", "this", "scenario", ",", "the", "firewall", "mode", "may", "be", "good", "enough", ",", "unless", "it", "is", "very", "important", "to", "download", "the", "``", "entire", "''", "Web", ".", "Example", "2", ".", "-LRB-", "High", "freshness", "-RRB-", "As", "a", "second", "example", ",", "let", "us", "now", "assume", "that", "we", "have", "strong", "``", "freshness", "''", "requirement", "on", "the", "1", "billion", "pages", "and", "need", "to", "revisit", "every", "page", "once", "every", "week", ",", "not", "once", "every", "month", ".", "This", "new", "scenario", "requires", "approximately", "140", "Mbps", "for", "page", "download", ",", "and", "we", "need", "to", "run", "14", "C-proc", "'s", ".", "In", "this", "case", ",", "the", "coverage", "of", "the", "overall", "crawler", "decreases", "to", "less", "than", "0.5", "according", "to", "Figure", "4", ".", "Of", "course", ",", "the", "coverage", "could", "be", "larger", "than", "our", "conservative", "estimate", ",", "but", "to", "be", "safe", "one", "would", "probably", "want", "to", "consider", "using", "a", "crawler", "mode", "different", "than", "the", "firewall", "mode", ".", "In", "this", "section", ",", "we", "study", "the", "effectiveness", "of", "a", "cross-over", "mode", "crawler", "-LRB-", "Section", "3", ",", "Item", "2", "-RRB-", ".", "A", "cross-over", "crawler", "may", "yield", "improved", "coverage", "of", "the", "Web", ",", "since", "it", "follows", "inter-partition", "links", "when", "a", "C-proc", "runs", "out", "of", "URLs", "in", "its", "own", "partition", ".", "However", ",", "this", "mode", "incurs", "overlap", "in", "downloaded", "pages", "-LRB-", "Section", "4", ",", "Item", "1", "-RRB-", ",", "because", "a", "page", "can", "be", "downloaded", "by", "multiple", "C-proc", "'s", ".", "Therefore", ",", "the", "crawler", "increases", "its", "coverage", "at", "the", "expense", "of", "overlap", "in", "the", "downloaded", "pages", ".", "In", "Figure", "6", ",", "we", "show", "the", "relationship", "between", "the", "coverage", "and", "the", "overlap", "of", "a", "cross-over", "mode", "crawler", "obtained", "from", "the", "following", "experiments", ".", "We", "partitioned", "the", "40M", "pages", "using", "site-hash", "partitioning", "and", "assigned", "them", "to", "n", "C-proc", "'s", ".", "Each", "of", "the", "n", "C-proc", "'s", "then", "was", "given", "5", "random", "seed", "URLs", "from", "its", "partition", "and", "followed", "links", "in", "the", "cross-over", "mode", ".", "During", "this", "experiment", ",", "we", "measured", "how", "much", "overlap", "the", "overall", "crawler", "incurred", "when", "its", "coverage", "reached", "various", "points", ".", "The", "horizontal", "axis", "in", "the", "graph", "shows", "the", "coverage", "at", "a", "particular", "time", "and", "the", "vertical", "axis", "shows", "the", "overlap", "at", "the", "given", "coverage", ".", "We", "performed", "the", "experiments", "for", "n", "=", "2", ",", "4", ",", "...", ",", "64", ".", "Note", "that", "in", "most", "cases", "the", "overlap", "stays", "at", "zero", "until", "the", "coverage", "becomes", "relatively", "large", ".", "For", "example", ",", "when", "n", "=", "2", "4", "8", "16", "32", "64", "0.5", "1", "1.5", "2", "2.5", "3", "URL", "Hash", "Site", "Hash", "Communication", "overhead", "n", "Number", "of", "C-proc", "'s", "Figure", "7", ":", "Number", "of", "crawling", "processes", "vs.", "Number", "of", "URLs", "exchanged", "per", "page", "16", ",", "the", "overlap", "is", "zero", "until", "coverage", "reaches", "0.5", ".", "We", "can", "understand", "this", "result", "by", "looking", "at", "the", "graph", "in", "Figure", "4", ".", "According", "to", "that", "graph", ",", "a", "crawler", "with", "16", "C-proc", "'s", "can", "cover", "around", "50", "%", "of", "the", "Web", "by", "following", "only", "intra-partition", "links", ".", "Therefore", ",", "even", "a", "cross-over", "mode", "crawler", "will", "follow", "only", "intra-partition", "links", "until", "its", "coverage", "reaches", "that", "point", ".", "Only", "after", "that", ",", "each", "C-proc", "starts", "to", "follow", "inter-partition", "links", ",", "thus", "increasing", "the", "overlap", ".", "For", "this", "reason", ",", "we", "believe", "that", "the", "overlap", "would", "have", "been", "much", "worse", "in", "the", "beginning", "of", "the", "crawl", ",", "if", "we", "adopted", "the", "independent", "model", "-LRB-", "Section", "2", "-RRB-", ".", "By", "applying", "the", "partitioning", "scheme", "to", "C-proc", "'s", ",", "we", "make", "each", "C-proc", "stay", "in", "its", "own", "partition", "in", "the", "beginning", "and", "suppress", "the", "overlap", "as", "long", "as", "possible", ".", "While", "the", "crawler", "in", "the", "cross-over", "mode", "is", "much", "better", "than", "one", "based", "on", "the", "independent", "model", ",", "it", "is", "clear", "that", "the", "cross-over", "crawler", "still", "incurs", "quite", "significant", "overlap", ".", "For", "example", ",", "when", "4", "C-proc", "'s", "run", "in", "parallel", "in", "the", "cross-over", "mode", ",", "the", "overlap", "becomes", "almost", "2.5", "to", "obtain", "coverage", "close", "to", "1", ".", "For", "this", "reason", ",", "we", "do", "not", "recommend", "the", "crossover", "mode", ",", "unless", "it", "is", "absolutely", "necessary", "to", "download", "every", "page", "without", "any", "communication", "between", "C-proc", "'s", ".", "To", "avoid", "the", "overlap", "and", "coverage", "problems", ",", "an", "exchange", "mode", "crawler", "-LRB-", "Section", "3", ",", "Item", "3", "-RRB-", "constantly", "exchanges", "inter-partition", "URLs", "between", "C-proc", "'s", ".", "In", "this", "section", ",", "we", "study", "the", "communication", "overhead", "-LRB-", "Section", "4", ",", "Item", "4", "-RRB-", "of", "an", "exchange", "mode", "crawler", "and", "how", "much", "we", "can", "reduce", "it", "by", "replicating", "the", "most", "popular", "k", "URLs", ".", "For", "now", ",", "let", "us", "assume", "that", "a", "C-proc", "immediately", "transfers", "inter-partition", "URLs", ".", "-LRB-", "We", "will", "discuss", "batch", "communication", "later", "when", "we", "discuss", "the", "quality", "of", "a", "parallel", "crawler", ".", "-RRB-", "In", "the", "experiments", ",", "again", ",", "we", "split", "the", "40", "million", "pages", "into", "n", "partitions", "based", "on", "site-hash", "values", "and", "ran", "n", "C-proc", "'s", "in", "the", "exchange", "mode", ".", "At", "the", "end", "of", "the", "crawl", ",", "we", "measured", "how", "many", "URLs", "had", "been", "exchanged", "during", "the", "crawl", ".", "We", "show", "the", "results", "in", "Figure", "7", ".", "In", "the", "figure", ",", "the", "horizontal", "axis", "represents", "the", "number", "of", "parallel", "C-proc", "'s", ",", "n", ",", "and", "the", "vertical", "axis", "shows", "the", "communication", "overhead", "-LRB-", "the", "average", "number", "of", "URLs", "transferred", "per", "page", "-RRB-", ".", "For", "comparison", "purposes", ",", "the", "figure", "also", "shows", "the", "overhead", "for", "a", "URL-hash", "based", "scheme", ",", "although", "the", "curve", "is", "clipped", "at", "the", "top", "because", "of", "its", "large", "overhead", "values", ".", "To", "explain", "the", "graph", ",", "we", "first", "note", "that", "an", "average", "page", "has", "10", "out-links", ",", "and", "about", "9", "of", "them", "point", "to", "pages", "in", "132", "the", "same", "site", ".", "Therefore", ",", "the", "9", "links", "are", "internally", "followed", "by", "a", "C-proc", "under", "site-hash", "partitioning", ".", "Only", "the", "remaining", "1", "link", "points", "to", "a", "page", "in", "a", "different", "site", "and", "may", "be", "exchanged", "between", "processes", ".", "Figure", "7", "indicates", "that", "this", "URL", "exchange", "increases", "with", "the", "number", "of", "processes", ".", "For", "example", ",", "the", "C-proc", "'s", "exchanged", "0.4", "URLs", "per", "page", "when", "2", "processes", "ran", ",", "while", "they", "exchanged", "0.8", "URLs", "per", "page", "when", "16", "processes", "ran", ".", "Based", "on", "the", "graph", ",", "we", "draw", "the", "following", "conclusions", ":", "The", "site-hash", "based", "partitioning", "scheme", "significantly", "reduces", "communication", "overhead", ",", "compared", "to", "the", "URL-hash", "based", "scheme", ".", "We", "need", "to", "transfer", "only", "up", "to", "one", "link", "per", "page", "-LRB-", "or", "10", "%", "of", "the", "links", "-RRB-", ",", "which", "is", "significantly", "smaller", "than", "the", "URL-hash", "based", "scheme", ".", "For", "example", ",", "when", "we", "ran", "2", "C-proc", "'s", "using", "the", "URL-hash", "based", "scheme", "the", "crawler", "exchanged", "5", "links", "per", "page", "under", "the", "URL-hash", "based", "scheme", ",", "which", "was", "significantly", "larger", "than", "0.5", "links", "per", "page", "under", "the", "site-hash", "based", "scheme", ".", "The", "network", "bandwidth", "used", "for", "the", "URL", "exchange", "is", "relatively", "small", ",", "compared", "to", "the", "actual", "page", "download", "bandwidth", ".", "Under", "the", "site-hash", "based", "scheme", ",", "at", "most", "1", "URL", "will", "be", "exchanged", "per", "page", ",", "which", "is", "about", "40", "bytes", ".", "7", "Given", "that", "the", "average", "size", "of", "a", "Web", "page", "is", "10", "KB", ",", "the", "URL", "exchange", "consumes", "less", "than", "40/10K", "=", "0.4", "%", "of", "the", "total", "network", "bandwidth", ".", "However", ",", "the", "overhead", "of", "the", "URL", "exchange", "on", "the", "overall", "system", "can", "be", "quite", "significant", ".", "The", "processes", "need", "to", "exchange", "up", "to", "one", "message", "per", "page", ",", "and", "the", "message", "has", "to", "go", "through", "the", "TCP/IP", "network", "stack", "at", "the", "sender", "and", "the", "receiver", ".", "Thus", "it", "is", "copied", "to", "and", "from", "kernel", "space", "twice", ",", "incurring", "two", "context", "switches", "between", "the", "kernel", "and", "the", "user", "mode", ".", "Since", "these", "operations", "pose", "significant", "overhead", "even", "if", "the", "message", "size", "is", "small", ",", "the", "overall", "overhead", "can", "be", "important", "if", "the", "processes", "exchange", "one", "message", "per", "every", "downloaded", "page", ".", "In", "the", "extended", "version", "of", "this", "paper", "-LSB-", "8", "-RSB-", ",", "we", "also", "study", "how", "much", "we", "can", "reduce", "this", "overhead", "by", "replication", ".", "In", "short", ",", "our", "results", "indicate", "that", "we", "can", "get", "significant", "reduction", "in", "communication", "cost", "-LRB-", "between", "40", "%", "50", "%", "reduction", "-RRB-", "when", "we", "replication", "the", "most", "popular", "10,000", "100,000", "URLs", "in", "each", "C-proc", ".", "When", "we", "replicated", "more", "URLs", ",", "the", "cost", "reduction", "was", "not", "as", "dramatic", "as", "the", "first", "100,000", "URLs", ".", "Thus", ",", "we", "recommend", "replicating", "10,000", "100,000", "URLs", ".", "As", "we", "discussed", ",", "the", "quality", "-LRB-", "Section", "4", ",", "Item", "3", "-RRB-", "of", "a", "parallel", "crawler", "can", "be", "worse", "than", "that", "of", "a", "single-process", "crawler", ",", "because", "each", "C-proc", "may", "make", "crawling", "decisions", "solely", "based", "on", "the", "information", "collected", "within", "its", "own", "partition", ".", "We", "now", "study", "this", "quality", "issue", ".", "In", "the", "discussion", "we", "also", "study", "the", "impact", "of", "the", "batch", "communication", "technique", "-LRB-", "Section", "3.1", ",", "Item", "1", "-RRB-", "on", "quality", ".", "Throughout", "the", "experiments", "in", "this", "section", ",", "we", "assume", "that", "the", "crawler", "uses", "the", "number", "of", "backlinks", "to", "page", "p", "as", "the", "importance", "of", "p", ",", "or", "I", "-LRB-", "p", "-RRB-", ".", "That", "is", ",", "if", "1000", "pages", "on", "the", "7", "In", "our", "estimation", ",", "an", "average", "URL", "was", "about", "40", "bytes", "long", ".", "0", "1", "2", "4", "10", "20", "50", "100", "500", "1000", "0.025", "0.05", "0.075", "0.1", "0.125", "0.15", "0.175", "0.2", "Quality", "Number", "of", "URL", "exchanges", "2", "8", "64", "Processes", "x", "-LRB-", "a", "-RRB-", "URL", "exchange", "vs.", "Quality", "0", "1", "2", "4", "10", "20", "50", "0.2", "0.4", "0.6", "0.8", "1.0", "Number", "of", "URL", "exchanges", "2", "8", "64", "Processes", "x", "Communication", "overhead", "-LRB-", "b", "-RRB-", "URL", "exchange", "vs.", "Communication", "Figure", "8", ":", "Crawlers", "downloaded", "500K", "pages", "-LRB-", "1.2", "%", "of", "40M", "-RRB-", "Web", "have", "links", "to", "page", "p", ",", "the", "importance", "of", "p", "is", "I", "-LRB-", "p", "-RRB-", "=", "1000", ".", "Clearly", ",", "there", "exist", "many", "other", "ways", "to", "define", "the", "importance", "of", "a", "page", ",", "but", "we", "use", "this", "metric", "because", "it", "-LRB-", "or", "its", "variations", "-RRB-", "is", "being", "used", "by", "some", "existing", "search", "engines", "-LSB-", "22", ",", "13", "-RSB-", ".", "Also", ",", "note", "that", "this", "metric", "depends", "on", "the", "global", "structure", "of", "the", "Web", ".", "If", "we", "use", "an", "importance", "metric", "that", "solely", "depends", "on", "a", "page", "itself", ",", "not", "on", "the", "global", "structure", "of", "the", "Web", ",", "the", "quality", "of", "a", "parallel", "crawler", "will", "be", "essentially", "the", "same", "as", "that", "of", "a", "single", "crawler", ",", "because", "each", "C-proc", "in", "a", "parallel", "crawler", "can", "make", "good", "decisions", "based", "on", "the", "pages", "that", "it", "has", "downloaded", ".", "Under", "the", "backlink", "metric", ",", "each", "C-proc", "in", "our", "experiments", "counted", "how", "many", "backlinks", "a", "page", "has", "from", "the", "downloaded", "pages", "and", "visited", "the", "page", "with", "the", "most", "backlinks", "first", ".", "Remember", "that", "the", "C-proc", "'s", "need", "to", "periodically", "exchange", "messages", "to", "inform", "others", "of", "the", "inter-partition", "backlinks", ".", "Depending", "on", "how", "often", "they", "exchange", "messages", ",", "the", "quality", "of", "the", "downloaded", "pages", "will", "differ", ".", "For", "example", ",", "if", "C-proc", "'s", "never", "exchange", "messages", ",", "the", "quality", "will", "be", "the", "same", "as", "that", "of", "a", "firewall", "mode", "crawler", ",", "and", "if", "they", "exchange", "messages", "after", "every", "downloaded", "page", ",", "the", "quality", "will", "be", "similar", "to", "that", "of", "a", "single-process", "crawler", ".", "To", "study", "these", "issues", ",", "we", "compared", "the", "quality", "of", "the", "downloaded", "pages", "when", "C-proc", "'s", "exchanged", "backlink", "messages", "at", "various", "intervals", "and", "we", "show", "the", "results", "in", "Figures", "8", "-LRB-", "a", "-RRB-", ",", "9", "-LRB-", "a", "-RRB-", "and", "10", "-LRB-", "a", "-RRB-", ".", "Each", "graph", "shows", "the", "quality", "achieved", "by", "the", "overall", "crawler", "when", "it", "downloaded", "a", "total", "of", "500K", ",", "2M", ",", "and", "8M", "pages", ",", "respectively", ".", "The", "horizontal", "axis", "in", "the", "graphs", "represents", "the", "total", "number", "of", "URL", "exchanges", "during", "a", "crawl", ",", "x", ",", "and", "the", "vertical", "axis", "shows", "the", "quality", "for", "the", "given", "experiment", ".", "For", "example", ",", "when", "x", "=", "1", ",", "the", "C-proc", "'s", "exchanged", "backlink", "count", "information", "only", "once", "in", "the", "middle", "of", "the", "crawl", ".", "Therefore", ",", "the", "case", "when", "x", "=", "0", "represents", "the", "quality", "of", "a", "firewall", "mode", "crawler", ",", "and", "the", "case", "133", "0", "1", "2", "4", "10", "20", "50", "100", "500", "1000", "0.05", "0.1", "0.15", "0.2", "0.25", "Number", "of", "URL", "exchanges", "Quality", "2", "8", "64", "Processes", "x", "-LRB-", "a", "-RRB-", "URL", "exchange", "vs.", "Quality", "0", "1", "2", "4", "10", "20", "50", "100", "5001000", "0.25", "0.5", "0.75", "1", "2", "8", "64", "Communication", "overhead", "x", "Number", "of", "URL", "exchanges", "Processes", "-LRB-", "b", "-RRB-", "URL", "exchange", "vs.", "Communication", "Figure", "9", ":", "Crawlers", "downloaded", "2M", "pages", "-LRB-", "5", "%", "of", "40M", "-RRB-", "when", "x", "shows", "the", "quality", "of", "a", "single-process", "crawler", ".", "In", "Figures", "8", "-LRB-", "b", "-RRB-", ",", "9", "-LRB-", "b", "-RRB-", "and", "10", "-LRB-", "b", "-RRB-", ",", "we", "also", "show", "the", "communication", "overhead", "-LRB-", "Section", "4", ",", "Item", "4", "-RRB-", ";", "that", "is", ",", "the", "average", "number", "of", "-LSB-", "URL", ",", "backlink", "count", "-RSB-", "pairs", "exchanged", "per", "a", "downloaded", "page", ".", "From", "these", "figures", ",", "we", "can", "observe", "the", "following", "trends", ":", "As", "the", "number", "of", "crawling", "processes", "increases", ",", "the", "quality", "of", "downloaded", "pages", "becomes", "worse", ",", "unless", "they", "exchange", "backlink", "messages", "often", ".", "For", "example", ",", "in", "Figure", "8", "-LRB-", "a", "-RRB-", ",", "the", "quality", "achieved", "by", "a", "2-process", "crawler", "-LRB-", "0.12", "-RRB-", "is", "significantly", "higher", "than", "that", "of", "a", "64-process", "crawler", "-LRB-", "0.025", "-RRB-", "in", "the", "firewall", "mode", "-LRB-", "x", "=", "0", "-RRB-", ".", "Again", ",", "this", "result", "is", "because", "each", "C-proc", "learns", "less", "about", "the", "global", "backlink", "counts", "when", "the", "Web", "is", "split", "into", "smaller", "parts", ".", "The", "quality", "of", "the", "firewall", "mode", "crawler", "-LRB-", "x", "=", "0", "-RRB-", "is", "significantly", "worse", "than", "that", "of", "the", "single-process", "crawler", "-LRB-", "x", "-RRB-", "when", "the", "crawler", "downloads", "a", "relatively", "small", "fraction", "of", "the", "pages", "-LRB-", "Figures", "8", "-LRB-", "a", "-RRB-", "and", "9", "-LRB-", "a", "-RRB-", "-RRB-", ".", "However", ",", "the", "difference", "is", "not", "very", "significant", "when", "the", "crawler", "downloads", "a", "relatively", "large", "fraction", "-LRB-", "Figure", "10", "-LRB-", "a", "-RRB-", "-RRB-", ".", "In", "other", "experiments", ",", "when", "the", "crawler", "downloaded", "more", "than", "50", "%", "of", "the", "pages", ",", "the", "difference", "was", "almost", "negligible", "in", "any", "case", ".", "-LRB-", "Due", "to", "space", "limitations", ",", "we", "do", "not", "show", "the", "graphs", ".", "-RRB-", "Intuitively", ",", "this", "result", "makes", "sense", "because", "quality", "is", "an", "important", "issue", "only", "when", "the", "crawler", "downloads", "a", "small", "portion", "of", "the", "Web", ".", "-LRB-", "If", "the", "crawler", "will", "visit", "all", "pages", "anyway", ",", "quality", "is", "not", "relevant", ".", "-RRB-", "The", "communication", "overhead", "does", "not", "increase", "lin-early", "as", "the", "number", "of", "URL", "exchange", "increases", ".", "The", "graphs", "in", "Figures", "8", "-LRB-", "b", "-RRB-", ",", "9", "-LRB-", "b", "-RRB-", "and", "10", "-LRB-", "b", "-RRB-", "are", "not", "straight", "lines", ".", "This", "result", "is", "because", "a", "popular", "URL", "appears", "0", "1", "2", "4", "10", "20", "50", "100", "500", "1000", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "Number", "of", "URL", "exchanges", "Quality", "2", "8", "64", "Processes", "x", "-LRB-", "a", "-RRB-", "URL", "exchange", "vs.", "Quality", "0", "1", "2", "4", "10", "20", "50", "100", "500", "1000", "0.5", "0.4", "0.3", "0.2", "0.1", "2", "8", "64", "Communication", "overhead", "Processes", "x", "Number", "of", "URL", "exchanges", "-LRB-", "b", "-RRB-", "URL", "exchange", "vs.", "Communication", "Figure", "10", ":", "Crawlers", "downloaded", "8M", "pages", "-LRB-", "20", "%", "of", "40M", "-RRB-", "multiple", "times", "between", "backlink", "exchanges", ".", "Therefore", ",", "a", "popular", "URL", "can", "be", "transferred", "as", "one", "entry", "-LRB-", "URL", "and", "its", "backlink", "count", "-RRB-", "in", "the", "exchange", ",", "even", "if", "it", "appeared", "multiple", "times", ".", "This", "reduction", "increases", "as", "C-proc", "'s", "exchange", "backlink", "messages", "less", "frequently", ".", "One", "does", "not", "need", "a", "large", "number", "of", "URL", "exchanges", "to", "achieve", "high", "quality", ".", "Through", "multiple", "experiments", ",", "we", "tried", "to", "identify", "how", "often", "C-proc", "'s", "should", "exchange", "backlink", "messages", "to", "achieve", "the", "highest", "quality", "value", ".", "From", "these", "experiments", ",", "we", "found", "that", "a", "parallel", "crawler", "can", "get", "the", "highest", "quality", "values", "even", "if", "the", "processes", "communicate", "less", "than", "100", "times", "during", "a", "crawl", ".", "We", "use", "the", "following", "example", "to", "illustrate", "how", "one", "can", "use", "the", "results", "of", "our", "experiments", ".", "Example", "3", ".", "-LRB-", "Medium-Scale", "Search", "Engine", "-RRB-", "Say", "we", "plan", "to", "operate", "a", "medium-scale", "search", "engine", ",", "and", "we", "want", "to", "maintain", "about", "20", "%", "of", "the", "Web", "-LRB-", "200", "M", "pages", "-RRB-", "in", "our", "index", ".", "Our", "plan", "is", "to", "refresh", "the", "index", "once", "a", "month", ".", "The", "machines", "that", "we", "can", "use", "have", "individual", "T1", "links", "-LRB-", "1.5", "Mbps", "-RRB-", "to", "the", "Internet", ".", "In", "order", "to", "update", "the", "index", "once", "a", "month", ",", "we", "need", "about", "6.2", "Mbps", "download", "bandwidth", ",", "so", "we", "have", "to", "run", "at", "least", "5", "C-proc", "'s", "on", "5", "machines", ".", "According", "to", "Figure", "10", "-LRB-", "a", "-RRB-", "-LRB-", "20", "%", "download", "case", "-RRB-", ",", "we", "can", "achieve", "the", "highest", "quality", "if", "the", "C-proc", "'s", "exchange", "backlink", "messages", "10", "times", "during", "a", "crawl", "when", "8", "processes", "run", "in", "parallel", ".", "-LRB-", "We", "use", "the", "8", "process", "case", "because", "it", "is", "the", "closest", "number", "to", "5", ".", "-RRB-", "Also", ",", "from", "Figure", "10", "-LRB-", "b", "-RRB-", ",", "we", "can", "see", "that", "when", "C-proc", "'s", "exchange", "messages", "10", "times", "during", "a", "crawl", "they", "need", "to", "exchange", "fewer", "than", "0", ".17", "200M", "=", "34M", "-LSB-", "URL", ",", "backlink", "count", "-RSB-", "pairs", "in", "total", ".", "Therefore", ",", "the", "total", "network", "bandwidth", "used", "by", "the", "back-134", "link", "exchange", "is", "only", "-LRB-", "34M", "40", "-RRB-", "/", "-LRB-", "200M", "10K", "-RRB-", "0", ".06", "%", "of", "the", "bandwidth", "used", "by", "actual", "page", "downloads", ".", "Also", ",", "since", "the", "exchange", "happens", "only", "10", "times", "during", "a", "crawl", ",", "the", "context-switch", "overhead", "for", "message", "transfers", "-LRB-", "discussed", "in", "Section", "8", "-RRB-", "is", "minimal", ".", "Note", "that", "in", "this", "scenario", "we", "need", "to", "exchange", "10", "backlink", "messages", "in", "one", "month", "or", "one", "message", "every", "three", "days", ".", "Therefore", ",", "even", "if", "the", "connection", "between", "C-proc", "'s", "is", "unreliable", "or", "sporadic", ",", "we", "can", "still", "use", "the", "exchange", "mode", "without", "any", "problem", ".", "Crawlers", "are", "being", "used", "more", "and", "more", "often", "to", "collect", "Web", "data", "for", "search", "engine", ",", "caches", ",", "and", "data", "mining", ".", "As", "the", "size", "of", "the", "Web", "grows", ",", "it", "becomes", "increasingly", "important", "to", "use", "parallel", "crawlers", ".", "Unfortunately", ",", "almost", "nothing", "is", "known", "-LRB-", "at", "least", "in", "the", "open", "literature", "-RRB-", "about", "options", "for", "parallelizing", "crawlers", "and", "their", "performance", ".", "Our", "paper", "addresses", "this", "shortcoming", "by", "presenting", "several", "architectures", "and", "strategies", "for", "parallel", "crawlers", ",", "and", "by", "studying", "their", "performance", ".", "We", "believe", "that", "our", "paper", "offers", "some", "useful", "guidelines", "for", "crawler", "designers", ",", "helping", "them", ",", "for", "example", ",", "select", "the", "right", "number", "of", "crawling", "processes", ",", "or", "select", "the", "proper", "inter-process", "coordination", "scheme", ".", "In", "summary", ",", "the", "main", "conclusions", "of", "our", "study", "were", "the", "following", ":", "When", "a", "small", "number", "of", "crawling", "processes", "run", "in", "parallel", "-LRB-", "in", "our", "experiment", ",", "4", "or", "fewer", "-RRB-", ",", "the", "firewall", "mode", "provides", "good", "coverage", ".", "Given", "that", "firewall", "mode", "crawlers", "can", "run", "totally", "independently", "and", "are", "easy", "to", "implement", ",", "we", "believe", "that", "it", "is", "a", "good", "option", "to", "consider", ".", "The", "cases", "when", "the", "firewall", "mode", "might", "not", "be", "appropriate", "are", ":", "1", ".", "when", "we", "need", "to", "run", "more", "than", "4", "crawling", "processes", "or", "2", ".", "when", "we", "download", "only", "a", "small", "subset", "of", "the", "Web", "and", "the", "quality", "of", "the", "downloaded", "pages", "is", "important", ".", "A", "crawler", "based", "on", "the", "exchange", "mode", "consumes", "small", "network", "bandwidth", "for", "URL", "exchanges", "-LRB-", "less", "than", "1", "%", "of", "the", "network", "bandwidth", "-RRB-", ".", "It", "can", "also", "minimize", "other", "overheads", "by", "adopting", "the", "batch", "communication", "technique", ".", "In", "our", "experiments", ",", "the", "crawler", "could", "maximize", "the", "quality", "of", "the", "downloaded", "pages", ",", "even", "if", "it", "exchanged", "backlink", "messages", "fewer", "than", "100", "times", "during", "a", "crawl", ".", "By", "replicating", "between", "10,000", "and", "100,000", "popular", "URLs", ",", "we", "can", "reduce", "the", "communication", "overhead", "by", "roughly", "40", "%", ".", "Replicating", "more", "URLs", "does", "not", "significantly", "reduce", "the", "overhead", ".", "-LSB-", "1", "-RSB-", "T.", "E.", "Anderson", ",", "M.", "D.", "Dahlin", ",", "J.", "M.", "Neefe", ",", "D.", "A.", "Patterson", ",", "D.", "S.", "Roselli", ",", "and", "R.", "Y.", "Wang", ".", "Serverless", "network", "file", "systems", ".", "In", "Proc", ".", "of", "SOSP", ",", "1995", ".", "-LSB-", "2", "-RSB-", "A.", "Barabasi", "and", "R.", "Albert", ".", "Emergence", "of", "scaling", "in", "random", "networks", ".", "Science", ",", "286", "-LRB-", "509", "-RRB-", ",", "1999", ".", "-LSB-", "3", "-RSB-", "A.", "Z.", "Broder", ",", "S.", "R.", "Kumar", ",", "F.", "Maghoul", ",", "P.", "Raghavan", ",", "S.", "Rajagopalan", ",", "R.", "Stata", ",", "A.", "Tomkins", ",", "and", "J.", "L.", "Wiener", ".", "Graph", "structure", "in", "the", "web", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "2000", ".", "-LSB-", "4", "-RSB-", "M.", "Burner", ".", "Crawling", "towards", "eterneity", ":", "Building", "an", "archive", "of", "the", "world", "wide", "web", ".", "Web", "Techniques", "Magazine", ",", "2", "-LRB-", "5", "-RRB-", ",", "May", "1998", ".", "-LSB-", "5", "-RSB-", "S.", "Chakrabarti", ",", "M.", "van", "den", "Berg", ",", "and", "B.", "Dom", ".", "Focused", "crawling", ":", "A", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "1999", ".", "-LSB-", "6", "-RSB-", "J.", "Cho", "and", "H.", "Garcia-Molina", ".", "The", "evolution", "of", "the", "web", "and", "implications", "for", "an", "incremental", "crawler", ".", "In", "Proc", ".", "of", "VLDB", "Conf.", ",", "2000", ".", "-LSB-", "7", "-RSB-", "J.", "Cho", "and", "H.", "Garcia-Molina", ".", "Synchronizing", "a", "database", "to", "improve", "freshness", ".", "In", "Proc", ".", "of", "SIGMOD", "Conf.", ",", "2000", ".", "-LSB-", "8", "-RSB-", "J.", "Cho", "and", "H.", "Garcia-Molina", ".", "Parallel", "crawlers", ".", "Technical", "report", ",", "UCLA", "Computer", "Science", ",", "2002", ".", "-LSB-", "9", "-RSB-", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "and", "L.", "Page", ".", "Efficient", "crawling", "through", "URL", "ordering", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "1998", ".", "-LSB-", "10", "-RSB-", "E.", "Coffman", ",", "Jr.", ",", "Z.", "Liu", ",", "and", "R.", "R.", "Weber", ".", "Optimal", "robot", "scheduling", "for", "web", "search", "engines", ".", "Technical", "report", ",", "INRIA", ",", "1997", ".", "-LSB-", "11", "-RSB-", "M.", "Diligenti", ",", "F.", "M.", "Coetzee", ",", "S.", "Lawrence", ",", "C.", "L.", "Giles", ",", "and", "M.", "Gori", ".", "Focused", "crawling", "using", "context", "graphs", ".", "In", "Proc", ".", "of", "VLDB", "Conf.", ",", "2000", ".", "-LSB-", "12", "-RSB-", "D.", "Eichmann", ".", "The", "RBSE", "spider", ":", "Balancing", "effective", "search", "against", "web", "load", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "1994", ".", "-LSB-", "13", "-RSB-", "Google", "Inc.", "http://www.google.com", ".", "-LSB-", "14", "-RSB-", "A.", "Heydon", "and", "M.", "Najork", ".", "Mercator", ":", "A", "scalable", ",", "extensible", "web", "crawler", ".", "Word", "Wide", "Web", ",", "2", "-LRB-", "4", "-RRB-", ":", "219", "229", ",", "December", "1999", ".", "-LSB-", "15", "-RSB-", "A.", "Heydon", "and", "M.", "Najork", ".", "High-performance", "web", "crawling", ".", "Technical", "report", ",", "SRC", "Research", "Report", ",", "173", ",", "Compaq", "Systems", "Research", "Center", ",", "September", "2001", ".", "-LSB-", "16", "-RSB-", "D.", "Hirschberg", ".", "Parallel", "algorithms", "for", "the", "transitive", "closure", "and", "the", "connected", "component", "problem", ".", "In", "Proc", ".", "of", "STOC", "Conf.", ",", "1976", ".", "-LSB-", "17", "-RSB-", "M.", "Koster", ".", "Robots", "in", "the", "web", ":", "threat", "or", "treat", "?", "ConneXions", ",", "4", "-LRB-", "4", "-RRB-", ",", "April", "1995", ".", "-LSB-", "18", "-RSB-", "O.", "A.", "McBryan", ".", "GENVL", "and", "WWWW", ":", "Tools", "for", "taming", "the", "web", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "1994", ".", "-LSB-", "19", "-RSB-", "R.", "C.", "Miller", "and", "K.", "Bharat", ".", "SPHINX", ":", "a", "framework", "for", "creating", "personal", ",", "site-specific", "web", "crawlers", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "1998", ".", "-LSB-", "20", "-RSB-", "D.", "Nassimi", "and", "S.", "Sahni", ".", "Parallel", "permutation", "and", "sorting", "algorithms", "and", "a", "new", "generalized", "connection", "network", ".", "Journal", "of", "ACM", ",", "29:642", "667", ",", "July", "1982", ".", "-LSB-", "21", "-RSB-", "M.", "T.", "Ozsu", "and", "P.", "Valduriez", ".", "Principles", "of", "Distributed", "Database", "Systems", ".", "Prentice", "Hall", ",", "1999", ".", "-LSB-", "22", "-RSB-", "L.", "Page", "and", "S.", "Brin", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "1998", ".", "-LSB-", "23", "-RSB-", "B.", "Pinkerton", ".", "Finding", "what", "people", "want", ":", "Experiences", "with", "the", "web", "crawler", ".", "In", "Proc", ".", "of", "WWW", "Conf.", ",", "1994", ".", "-LSB-", "24", "-RSB-", "Robots", "exclusion", "protocol", ".", "http://info.webcrawler", ".", "com/mak/projects/robots/exclusion.html", ".", "-LSB-", "25", "-RSB-", "A.", "S.", "Tanenbaum", "and", "R.", "V.", "Renesse", ".", "Distributed", "operating", "systems", ".", "ACM", "Computing", "Surveys", ",", "17", "-LRB-", "4", "-RRB-", ",", "December", "1985", ".", "-LSB-", "26", "-RSB-", "G.", "K.", "Zipf", ".", "Human", "Behaviour", "and", "the", "Principle", "of", "Least", "Effort", ":", "an", "Introduction", "to", "Human", "Ecology", ".", "Addison-Wesley", ",", "1949", ".", "135"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["web crawler", "guideline", "architecture", "parallel crawler", "parallelization"], "abstractive_keyphrases": ["model evaluation", "web spider"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "148", "document": ["Physically-Based", "Visual", "Simulation", "on", "Graphics", "Hardware", "In", "this", "paper", ",", "we", "present", "a", "method", "for", "real-time", "visual", "simulation", "of", "diverse", "dynamic", "phenomena", "using", "programmable", "graphics", "hardware", ".", "The", "simulations", "we", "implement", "use", "an", "extension", "of", "cellular", "automata", "known", "as", "the", "coupled", "map", "lattice", "-LRB-", "CML", "-RRB-", ".", "CML", "represents", "the", "state", "of", "a", "dynamic", "system", "as", "continuous", "values", "on", "a", "discrete", "lattice", ".", "In", "our", "implementation", "we", "store", "the", "lattice", "values", "in", "a", "texture", ",", "and", "use", "pixel-level", "programming", "to", "implement", "simple", "next-state", "computations", "on", "lattice", "nodes", "and", "their", "neighbors", ".", "We", "apply", "these", "computations", "successively", "to", "produce", "interactive", "visual", "simulations", "of", "convection", ",", "reaction-diffusion", ",", "and", "boiling", ".", "We", "have", "built", "an", "interactive", "framework", "for", "building", "and", "experimenting", "with", "CML", "simulations", "running", "on", "graphics", "hardware", ",", "and", "have", "integrated", "them", "into", "interactive", "3D", "graphics", "applications", ".", "Interactive", "3D", "graphics", "environments", ",", "such", "as", "games", ",", "virtual", "environments", ",", "and", "training", "and", "flight", "simulators", "are", "becoming", "increasingly", "visually", "realistic", ",", "in", "part", "due", "to", "the", "power", "of", "graphics", "hardware", ".", "However", ",", "these", "scenes", "often", "lack", "rich", "dynamic", "phenomena", ",", "such", "as", "fluids", ",", "clouds", ",", "and", "smoke", ",", "which", "are", "common", "to", "the", "real", "world", ".", "A", "recent", "approach", "to", "the", "simulation", "of", "dynamic", "phenomena", ",", "the", "coupled", "map", "lattice", "-LSB-", "Kaneko", "1993", "-RSB-", ",", "uses", "a", "set", "of", "simple", "local", "operations", "to", "model", "complex", "global", "behavior", ".", "When", "implemented", "using", "computer", "graphics", "hardware", ",", "coupled", "map", "lattices", "-LRB-", "CML", "-RRB-", "provide", "a", "simple", ",", "fast", "and", "flexible", "method", "for", "the", "visual", "simulation", "of", "a", "wide", "variety", "of", "dynamic", "systems", "and", "phenomena", ".", "In", "this", "paper", "we", "will", "describe", "the", "implementation", "of", "CML", "systems", "with", "current", "graphics", "hardware", ",", "and", "demonstrate", "the", "flexibility", "and", "performance", "of", "these", "systems", "by", "presenting", "several", "fast", "interactive", "2D", "and", "3D", "visual", "simulations", ".", "Our", "CML", "boiling", "simulation", "runs", "at", "speeds", "ranging", "from", "8", "iterations", "per", "second", "for", "a", "128x128x128", "lattice", "to", "over", "1700", "iterations", "per", "second", "for", "a", "64x64", "lattice", ".", "Section", "2", "describes", "CML", "and", "other", "methods", "for", "simulating", "natural", "phenomena", ".", "Section", "3", "details", "our", "implementation", "of", "CML", "simulations", "on", "programmable", "graphics", "hardware", ",", "and", "Section", "4", "describes", "the", "specific", "simulations", "we", "have", "implemented", ".", "In", "Section", "5", "we", "discuss", "limitations", "of", "current", "hardware", "and", "investigate", "some", "solutions", ".", "Section", "6", "concludes", ".", "The", "standard", "approach", "to", "simulating", "natural", "phenomena", "is", "to", "solve", "equations", "that", "describe", "their", "global", "behavior", ".", "For", "example", ",", "multiple", "techniques", "have", "been", "applied", "to", "solving", "the", "Navier-Stokes", "fluid", "equations", "-LSB-", "Fedkiw", ",", "et", "al.", "2001", ";", "Foster", "and", "Metaxas", "1997", ";", "Stam", "1999", "-RSB-", ".", "While", "their", "results", "are", "typically", "numerically", "and", "visually", "accurate", ",", "many", "of", "these", "simulations", "require", "too", "much", "computation", "-LRB-", "or", "small", "lattice", "sizes", "-RRB-", "to", "be", "integrated", "into", "interactive", "graphics", "applications", "such", "as", "games", ".", "CML", "models", ",", "instead", "of", "solving", "for", "the", "global", "behavior", "of", "a", "phenomenon", ",", "model", "the", "behavior", "by", "a", "number", "of", "very", "simple", "local", "operations", ".", "When", "aggregated", ",", "these", "local", "operations", "produce", "a", "visually", "accurate", "approximation", "to", "the", "desired", "global", "behavior", ".", "Figure", "1", ":", "3D", "coupled", "map", "lattice", "simulations", "running", "on", "graphics", "hardware", ".", "Left", ":", "Boiling", ".", "Right", ":", "Reaction-Diffusion", ".", "109", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "A", "coupled", "map", "lattice", "is", "a", "mapping", "of", "continuous", "dynamic", "state", "values", "to", "nodes", "on", "a", "lattice", "that", "interact", "-LRB-", "are", "`", "coupled", "'", "-RRB-", "with", "a", "set", "of", "other", "nodes", "in", "the", "lattice", "according", "to", "specified", "rules", ".", "Coupled", "map", "lattices", "were", "developed", "by", "Kaneko", "for", "the", "purpose", "of", "studying", "spatio-temporal", "dynamics", "and", "chaos", "-LSB-", "Kaneko", "1993", "-RSB-", ".", "Since", "their", "introduction", ",", "CML", "techniques", "have", "been", "used", "extensively", "in", "the", "fields", "of", "physics", "and", "mathematics", "for", "the", "simulation", "of", "a", "variety", "of", "phenomena", ",", "including", "boiling", "-LSB-", "Yanagita", "1992", "-RSB-", ",", "convection", "-LSB-", "Yanagita", "and", "Kaneko", "1993", "-RSB-", ",", "cloud", "formation", "-LSB-", "Yanagita", "and", "Kaneko", "1997", "-RSB-", ",", "chemical", "reaction-diffusion", "-LSB-", "Kapral", "1993", "-RSB-", ",", "and", "the", "formation", "of", "sand", "ripples", "and", "dunes", "-LSB-", "Nishimori", "and", "Ouchi", "1993", "-RSB-", ".", "CML", "techniques", "were", "recently", "introduced", "to", "the", "field", "of", "computer", "graphics", "for", "the", "purpose", "of", "cloud", "modeling", "and", "animation", "-LSB-", "Miyazaki", ",", "et", "al.", "2001", "-RSB-", ".", "Lattice", "Boltzmann", "computation", "is", "a", "similar", "technique", "that", "has", "been", "used", "for", "simulating", "fluids", ",", "particles", ",", "and", "other", "classes", "of", "phenomena", "-LSB-", "Qian", ",", "et", "al.", "1996", "-RSB-", ".", "A", "CML", "is", "an", "extension", "of", "a", "cellular", "automaton", "-LRB-", "CA", "-RRB-", "-LSB-", "Toffoli", "and", "Margolus", "1987", ";", "von", "Neumann", "1966", ";", "Wolfram", "1984", "-RSB-", "in", "which", "the", "discrete", "state", "values", "of", "CA", "cells", "are", "replaced", "with", "continuous", "real", "values", ".", "Like", "CA", ",", "CML", "are", "discrete", "in", "space", "and", "time", "and", "are", "a", "versatile", "technique", "for", "modeling", "a", "wide", "variety", "of", "phenomena", ".", "Methods", "for", "animating", "cloud", "formation", "using", "cellular", "automata", "were", "presented", "in", "-LSB-", "Dobashi", ",", "et", "al.", "2000", ";", "Nagel", "and", "Raschke", "1992", "-RSB-", ".", "Discrete-state", "automata", "typically", "require", "very", "large", "lattices", "in", "order", "to", "simulate", "real", "phenomena", ",", "because", "the", "discrete", "states", "must", "be", "filtered", "in", "order", "to", "compute", "real", "values", ".", "By", "using", "continuous-valued", "state", ",", "a", "CML", "is", "able", "to", "represent", "real", "physical", "quantities", "at", "each", "of", "its", "nodes", ".", "While", "a", "CML", "model", "can", "certainly", "be", "made", "both", "numerically", "and", "visually", "accurate", "-LSB-", "Kaneko", "1993", "-RSB-", ",", "our", "implementation", "on", "graphics", "hardware", "introduces", "precision", "constraints", "that", "make", "numerically", "accurate", "simulation", "difficult", ".", "Therefore", ",", "our", "goal", "is", "instead", "to", "implement", "visually", "accurate", "simulation", "models", "on", "graphics", "hardware", ",", "in", "the", "hope", "that", "continuing", "improvement", "in", "the", "speed", "and", "precision", "of", "graphics", "hardware", "will", "allow", "numerically", "accurate", "simulation", "in", "the", "near", "future", ".", "The", "systems", "that", "have", "been", "found", "to", "be", "most", "amenable", "to", "CML", "implementation", "are", "multidimensional", "initial-value", "partial", "differential", "equations", ".", "These", "are", "the", "governing", "equations", "for", "a", "wide", "range", "of", "phenomena", "from", "fluid", "dynamics", "to", "reaction-diffusion", ".", "Based", "on", "a", "set", "of", "initial", "conditions", ",", "the", "simulation", "evolves", "forward", "in", "time", ".", "The", "only", "requirement", "is", "that", "the", "equation", "must", "first", "be", "explicitly", "discretized", "in", "space", "and", "time", ",", "which", "is", "a", "standard", "requirement", "for", "conventional", "numerical", "simulation", ".", "This", "flexibility", "means", "that", "the", "CML", "can", "serve", "as", "a", "model", "for", "a", "wide", "class", "of", "dynamic", "systems", ".", "2.1", "A", "CML", "Simulation", "Example", "To", "illustrate", "CML", ",", "we", "describe", "the", "boiling", "simulation", "of", "-LSB-", "Yanagita", "1992", "-RSB-", ".", "The", "state", "of", "this", "simulation", "is", "the", "temperature", "of", "a", "liquid", ".", "A", "heat", "plate", "warms", "the", "lower", "layer", "of", "liquid", ",", "and", "temperature", "is", "diffused", "through", "the", "liquid", ".", "As", "the", "temperature", "reaches", "a", "threshold", ",", "the", "phase", "changes", "and", "``", "bubbles", "''", "of", "high", "temperature", "form", ".", "When", "phase", "changes", "occur", ",", "newly", "formed", "bubbles", "absorb", "latent", "heat", "from", "the", "liquid", "around", "them", ",", "and", "temperature", "differences", "cause", "them", "to", "float", "upward", "under", "buoyant", "force", ".", "Yanagita", "implements", "this", "global", "behavior", "using", "four", "local", "CML", "operations", ";", "Diffusion", ",", "Phase", "change", ",", "Buoyancy", ",", "and", "Latent", "heat", ".", "Each", "of", "these", "operations", "can", "be", "written", "as", "a", "simple", "equation", ".", "Figures", "1", ",", "2", "and", "7", "-LRB-", "see", "color", "pate", "-RRB-", "show", "this", "simulation", "running", "on", "graphics", "hardware", ",", "and", "Section", "4.1", "gives", "details", "of", "our", "implementation", ".", "We", "will", "use", "this", "simulation", "as", "an", "example", "throughout", "this", "paper", ".", "Graphics", "hardware", "is", "an", "efficient", "processor", "of", "images", "it", "can", "use", "texture", "images", "as", "input", ",", "and", "outputs", "images", "via", "rendering", ".", "Images", "arrays", "of", "values", "map", "well", "to", "state", "values", "on", "a", "lattice", ".", "Two-dimensional", "lattices", "can", "be", "represented", "by", "2D", "textures", ",", "and", "3D", "lattices", "by", "3D", "textures", "or", "collections", "of", "2D", "textures", ".", "This", "natural", "correspondence", ",", "as", "well", "as", "the", "programmability", "and", "performance", "of", "graphics", "hardware", ",", "motivated", "our", "research", ".", "3.1", "Why", "Graphics", "Hardware", "?", "Our", "primary", "reason", "to", "use", "graphics", "hardware", "is", "its", "speed", "at", "imaging", "operations", "compared", "to", "a", "conventional", "CPU", ".", "The", "CML", "models", "we", "have", "implemented", "are", "very", "fast", ",", "making", "them", "well", "suited", "to", "interactive", "applications", "-LRB-", "See", "Section", "4.1", "-RRB-", ".", "GPUs", "were", "designed", "as", "efficient", "coprocessors", "for", "rendering", "and", "shading", ".", "The", "programmability", "now", "available", "in", "GPUs", "such", "as", "the", "NVIDIA", "GeForce", "3", "and", "4", "and", "the", "ATI", "Radeon", "8500", "makes", "them", "useful", "coprocessors", "for", "more", "diverse", "applications", ".", "Since", "the", "time", "between", "new", "generations", "of", "GPUs", "is", "currently", "much", "less", "than", "for", "CPUs", ",", "faster", "coprocessors", "are", "available", "more", "often", "than", "faster", "central", "processors", ".", "GPU", "performance", "tracks", "rapid", "improvements", "in", "semiconductor", "technology", "more", "closely", "than", "CPU", "performance", ".", "This", "is", "because", "CPUs", "are", "designed", "for", "high", "performance", "on", "sequential", "operations", ",", "while", "GPUs", "are", "optimized", "for", "the", "high", "parallelism", "of", "vertex", "and", "fragment", "processing", "-LSB-", "Lindholm", ",", "et", "al.", "2001", "-RSB-", ".", "Additional", "transistors", "can", "Figure", "2", ":", "A", "sequence", "of", "stills", "-LRB-", "10", "iterations", "apart", "-RRB-", "from", "a", "2D", "boiling", "simulation", "running", "on", "graphics", "hardware", ".", "110", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "therefore", "be", "used", "to", "greater", "effect", "in", "GPU", "architectures", ".", "In", "addition", ",", "programmable", "GPUs", "are", "inexpensive", ",", "readily", "available", ",", "easily", "upgradeable", ",", "and", "compatible", "with", "multiple", "operating", "systems", "and", "hardware", "architectures", ".", "More", "importantly", ",", "interactive", "computer", "graphics", "applications", "have", "many", "components", "vying", "for", "processing", "time", ".", "Often", "it", "is", "difficult", "to", "efficiently", "perform", "simulation", ",", "rendering", ",", "and", "other", "computational", "tasks", "simultaneously", "without", "a", "drop", "in", "performance", ".", "Since", "our", "intent", "is", "visual", "simulation", ",", "rendering", "is", "an", "essential", "part", "of", "any", "solution", ".", "By", "moving", "simulation", "onto", "the", "GPU", "that", "renders", "the", "results", "of", "a", "simulation", ",", "we", "not", "only", "reduce", "computational", "load", "on", "the", "main", "CPU", ",", "but", "also", "avoid", "the", "substantial", "bus", "traffic", "required", "to", "transmit", "the", "results", "of", "a", "CPU", "simulation", "to", "the", "GPU", "for", "rendering", ".", "In", "this", "way", ",", "methods", "of", "dynamic", "simulation", "on", "the", "GPU", "provide", "an", "additional", "tool", "for", "load", "balancing", "in", "complex", "interactive", "applications", ".", "Graphics", "hardware", "also", "has", "disadvantages", ".", "The", "main", "problems", "we", "have", "encountered", "are", "the", "difficulty", "of", "programming", "the", "GPU", "and", "the", "lack", "of", "high", "precision", "fragment", "operations", "and", "storage", ".", "These", "problems", "are", "related", "programming", "difficulty", "is", "increased", "by", "the", "effort", "required", "to", "ensure", "that", "precision", "is", "conserved", "wherever", "possible", ".", "These", "issues", "should", "disappear", "with", "time", ".", "Higher-level", "shading", "languages", "have", "been", "introduced", "that", "make", "hardware", "graphics", "programming", "easier", "-LSB-", "Peercy", ",", "et", "al.", "2000", ";", "Proudfoot", ",", "et", "al.", "2001", "-RSB-", ".", "The", "same", "or", "similar", "languages", "will", "be", "usable", "for", "programming", "simulations", "on", "graphics", "hardware", ".", "We", "believe", "that", "the", "precision", "of", "graphics", "hardware", "will", "continue", "to", "increase", ",", "and", "with", "it", "the", "full", "power", "of", "programmability", "will", "be", "realised", ".", "3.2", "General-Purpose", "Computation", "The", "use", "of", "computer", "graphics", "hardware", "for", "general-purpose", "computation", "has", "been", "an", "area", "of", "active", "research", "for", "many", "years", ",", "beginning", "on", "machines", "like", "the", "Ikonas", "-LSB-", "England", "1978", "-RSB-", ",", "the", "Pixel", "Machine", "-LSB-", "Potmesil", "and", "Hoffert", "1989", "-RSB-", "and", "Pixel-Planes", "5", "-LSB-", "Rhoades", ",", "et", "al.", "1992", "-RSB-", ".", "The", "wide", "deployment", "of", "GPUs", "in", "the", "last", "several", "years", "has", "resulted", "in", "an", "increase", "in", "experimental", "research", "with", "graphics", "hardware", ".", "-LSB-", "Trendall", "and", "Steward", "2000", "-RSB-", "gives", "a", "detailed", "summary", "of", "the", "types", "of", "computation", "available", "on", "modern", "GPUs", ".", "Within", "the", "realm", "of", "graphics", "applications", ",", "programmable", "graphics", "hardware", "has", "been", "used", "for", "procedural", "texturing", "and", "shading", "-LSB-", "Olano", "and", "Lastra", "1998", ";", "Peercy", ",", "et", "al.", "2000", ";", "Proudfoot", ",", "et", "al.", "2001", ";", "Rhoades", ",", "et", "al.", "1992", "-RSB-", ".", "Graphics", "hardware", "has", "also", "been", "used", "for", "volume", "visualization", "-LSB-", "Cabral", ",", "et", "al.", "1994", "-RSB-", ".", "Recently", ",", "methods", "for", "using", "current", "and", "near-future", "GPUs", "for", "ray", "tracing", "computations", "have", "been", "described", "in", "-LSB-", "Carr", ",", "et", "al.", "2002", "-RSB-", "and", "-LSB-", "Purcell", ",", "et", "al.", "2002", "-RSB-", ",", "respectively", ".", "Other", "researchers", "have", "found", "ways", "to", "use", "graphics", "hardware", "for", "non-graphics", "applications", ".", "The", "use", "of", "rasterization", "hardware", "for", "robot", "motion", "planning", "is", "described", "in", "-LSB-", "Lengyel", ",", "et", "al.", "1990", "-RSB-", ".", "-LSB-", "Hoff", ",", "et", "al.", "1999", "-RSB-", "describes", "the", "use", "of", "z-buffer", "techniques", "for", "the", "computation", "of", "Voronoi", "diagrams", ".", "The", "PixelFlow", "SIMD", "graphics", "computer", "-LSB-", "Eyles", ",", "et", "al.", "1997", "-RSB-", "was", "used", "to", "crack", "UNIX", "password", "encryption", "-LSB-", "Kedem", "and", "Ishihara", "1999", "-RSB-", ",", "and", "graphics", "hardware", "has", "been", "used", "in", "the", "computation", "of", "artificial", "neural", "networks", "-LSB-", "Bohn", "1998", "-RSB-", ".", "Our", "work", "uses", "CML", "to", "simulate", "dynamic", "phenomena", "that", "can", "be", "described", "by", "PDEs", ".", "Related", "to", "this", "is", "the", "visualization", "of", "flows", "described", "by", "PDEs", ",", "which", "has", "been", "implemented", "using", "graphics", "hardware", "to", "accelerate", "line", "integral", "convolution", "and", "Lagrangian-Eulerian", "advection", "-LSB-", "Heidrich", ",", "et", "al.", "1999", ";", "Jobard", ",", "et", "al.", "2001", ";", "Weiskopf", ",", "et", "al.", "2001", "-RSB-", ".", "NVIDIA", "has", "demonstrated", "the", "Game", "of", "Life", "cellular", "automata", "running", "on", "their", "GPUs", ",", "as", "well", "as", "a", "2D", "physically-based", "water", "simulation", "that", "operates", "much", "like", "our", "CML", "simulations", "-LSB-", "NVIDIA", "2001a", ";", "NVIDIA", "2001b", "-RSB-", ".", "3.3", "Common", "Operations", "A", "detailed", "description", "of", "the", "implementation", "of", "the", "specific", "simulations", "that", "we", "have", "modeled", "using", "CML", "would", "require", "more", "space", "than", "we", "have", "in", "this", "paper", ",", "so", "we", "will", "instead", "describe", "a", "few", "common", "CML", "operations", ",", "followed", "by", "details", "of", "their", "implementation", ".", "Our", "goal", "in", "these", "descriptions", "is", "to", "impart", "a", "feel", "for", "the", "kinds", "of", "operations", "that", "can", "be", "performed", "using", "a", "graphics", "hardware", "implementation", "of", "a", "CML", "model", ".", "3.3.1", "Diffusion", "and", "the", "Laplacian", "The", "divergence", "of", "the", "gradient", "of", "a", "scalar", "function", "is", "called", "the", "Laplacian", "-LSB-", "Weisstein", "1999", "-RSB-", ":", "2", "2", "2", "2", "2", "-LRB-", ",", "-RRB-", ".", "T", "T", "T", "x", "y", "x", "y", "=", "+", "The", "Laplacian", "is", "one", "of", "the", "most", "useful", "tools", "for", "working", "with", "partial", "differential", "equations", ".", "It", "is", "an", "isotropic", "measure", "of", "the", "second", "spatial", "derivative", "of", "a", "scalar", "function", ".", "Intuitively", ",", "it", "can", "be", "used", "to", "detect", "regions", "of", "rapid", "change", ",", "and", "for", "this", "reason", "it", "is", "commonly", "used", "for", "edge", "detection", "in", "image", "processing", ".", "The", "discretized", "form", "of", "this", "equation", "is", ":", "2", ",", "1", ",", "1", ",", ",", "1", ",", "1", ",", "4", "i", "j", "i", "j", "i", "j", "i", "j", "i", "j", "i", "j", "T", "T", "T", "T", "T", "T", "+", "+", "=", "+", "+", "+", ".", "The", "Laplacian", "is", "used", "in", "all", "of", "the", "CML", "simulations", "that", "we", "have", "implemented", ".", "If", "the", "results", "of", "the", "application", "of", "a", "Laplacian", "operator", "at", "a", "node", "T", "i", ",", "j", "are", "scaled", "and", "then", "added", "to", "the", "value", "of", "T", "i", ",", "j", "itself", ",", "the", "result", "is", "diffusion", "-LSB-", "Weisstein", "1999", "-RSB-", ":", "'", "2", ",", ",", ",", "4", "d", "i", "j", "i", "j", "i", "j", "c", "T", "T", "T", "=", "+", ".", "-LRB-", "1", "-RRB-", "Here", ",", "c", "d", "is", "the", "coefficient", "of", "diffusion", ".", "Application", "of", "this", "diffusion", "operation", "to", "a", "lattice", "state", "will", "cause", "the", "state", "to", "diffuse", "through", "the", "lattice", "1", ".", "3.3.2", "Directional", "Forces", "Most", "dynamic", "simulations", "involve", "the", "application", "of", "force", ".", "Like", "all", "operations", "in", "a", "CML", "model", ",", "forces", "are", "applied", "via", "1", "See", "Appendix", "A", "for", "details", "of", "our", "diffusion", "implementation", ".", "111", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "computations", "on", "the", "state", "of", "a", "node", "and", "its", "neighbors", ".", "As", "an", "example", ",", "we", "describe", "a", "buoyancy", "operator", "used", "in", "convection", "and", "cloud", "formation", "simulations", "-LSB-", "Miyazaki", ",", "et", "al.", "2001", ";", "Yanagita", "and", "Kaneko", "1993", ";", "Yanagita", "and", "Kaneko", "1997", "-RSB-", ".", "This", "buoyancy", "operator", "uses", "temperature", "state", "T", "to", "compute", "a", "buoyant", "velocity", "at", "a", "node", "and", "add", "it", "to", "the", "node", "'s", "vertical", "velocity", "state", ",", "v", ":", ",", ",", ",", "1", ",", "1", ",", "2", "-LSB-", "2", "-RSB-", "b", "c", "i", "j", "i", "j", "i", "j", "i", "j", "i", "j", "v", "v", "T", "T", "T", "+", "=", "+", ".", "-LRB-", "2", "-RRB-", "Equation", "-LRB-", "2", "-RRB-", "expresses", "that", "a", "node", "is", "buoyed", "upward", "if", "its", "horizontal", "neighbors", "are", "cooler", "than", "it", "is", ",", "and", "pushed", "downward", "if", "they", "are", "warmer", ".", "The", "strength", "of", "the", "buoyancy", "is", "controlled", "via", "the", "parameter", "c", "b", ".", "3.3.3", "Computation", "on", "Neighbors", "Sometimes", "an", "operation", "requires", "more", "complex", "computation", "than", "the", "arithmetic", "of", "the", "simple", "buoyancy", "operation", "described", "above", ".", "The", "buoyancy", "operation", "of", "the", "boiling", "simulation", "described", "in", "Section", "2.1", "must", "also", "account", "for", "phase", "change", ",", "and", "is", "therefore", "more", "complicated", ":", ",", ",", ",", ",", "1", ",", "1", "2", "-LSB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-RSB-", ",", "-LRB-", "-RRB-", "tanh", "-LSB-", "-LRB-", "-RRB-", "-RSB-", ".", "i", "j", "i", "j", "i", "j", "i", "j", "i", "j", "c", "T", "T", "T", "T", "T", "T", "T", "T", "+", "=", "=", "-LRB-", "3", "-RRB-", "In", "Equation", "-LRB-", "3", "-RRB-", ",", "s", "is", "the", "buoyancy", "strength", "coefficient", ",", "and", "-LRB-", "T", "-RRB-", "is", "an", "approximation", "of", "density", "relative", "to", "temperature", ",", "T", ".", "The", "hyperbolic", "tangent", "is", "used", "to", "simulate", "the", "rapid", "change", "of", "density", "of", "a", "substance", "around", "the", "phase", "change", "temperature", ",", "T", "c", ".", "A", "change", "in", "density", "of", "a", "lattice", "node", "relative", "to", "its", "vertical", "neighbors", "causes", "the", "temperature", "of", "the", "node", "to", "be", "buoyed", "upward", "or", "downward", ".", "The", "thing", "to", "notice", "in", "this", "equation", "is", "that", "simple", "arithmetic", "will", "not", "suffice", "the", "hyperbolic", "tangent", "function", "must", "be", "applied", "to", "the", "temperature", "at", "the", "neighbors", "above", "and", "below", "node", "-LRB-", "i", ",", "j", "-RRB-", ".", "We", "will", "discuss", "how", "we", "can", "compute", "arbitrary", "functions", "using", "dependent", "texturing", "in", "Section", "3.4", ".", "3.4", "State", "Representation", "and", "Storage", "Our", "goal", "is", "to", "maintain", "all", "state", "and", "operation", "of", "our", "simulations", "in", "the", "GPU", "and", "its", "associated", "memory", ".", "To", "this", "end", ",", "we", "use", "the", "frame", "buffer", "like", "a", "register", "array", "to", "hold", "transient", "state", ",", "and", "we", "use", "textures", "like", "main", "memory", "arrays", "for", "state", "storage", ".", "Since", "the", "frame", "buffer", "and", "textures", "are", "typically", "limited", "to", "storage", "of", "8-bit", "unsigned", "integers", ",", "state", "values", "must", "be", "converted", "to", "this", "format", "before", "being", "written", "to", "texture", ".", "Texture", "storage", "can", "be", "used", "for", "both", "scalar", "and", "vector", "data", ".", "Because", "of", "the", "four", "color", "channels", "used", "in", "image", "generation", ",", "two", "-", ",", "three", "-", ",", "or", "four-dimensional", "vectors", "can", "be", "stored", "in", "each", "texel", "of", "an", "RGBA", "texture", ".", "If", "scalar", "data", "are", "needed", ",", "it", "is", "often", "advantageous", "to", "store", "more", "than", "one", "scalar", "state", "in", "a", "single", "texture", "by", "using", "different", "color", "channels", ".", "In", "our", "CML", "implementation", "of", "the", "Gray-Scott", "reaction-diffusion", "system", ",", "for", "example", ",", "we", "store", "the", "concentrations", "of", "both", "reactants", "in", "the", "same", "texture", ".", "This", "is", "not", "only", "efficient", "in", "storage", "but", "also", "in", "computation", "since", "operations", "that", "act", "equivalently", "on", "both", "concentrations", "can", "be", "performed", "in", "parallel", ".", "Physical", "simulation", "also", "requires", "the", "use", "of", "signed", "values", ".", "Most", "texture", "storage", ",", "however", ",", "uses", "unsigned", "fixed-point", "values", ".", "Although", "fragment-level", "programmability", "available", "in", "current", "GPUs", "uses", "signed", "arithmetic", "internally", ",", "the", "unsigned", "data", "stored", "in", "the", "textures", "must", "be", "biased", "and", "scaled", "before", "and", "after", "processing", "-LSB-", "NVIDIA", "2002", "-RSB-", ".", "3.5", "Implementing", "CML", "Operations", "An", "iteration", "of", "a", "CML", "simulation", "consists", "of", "successive", "application", "of", "simple", "operations", "on", "the", "lattice", ".", "These", "operations", "consist", "of", "three", "steps", ":", "setup", "the", "graphics", "hardware", "rendering", "state", ",", "render", "a", "single", "quadrilateral", "fit", "to", "the", "view", "port", ",", "and", "store", "the", "rendered", "results", "into", "a", "texture", ".", "We", "refer", "to", "each", "of", "these", "setup-render-copy", "operations", "as", "a", "single", "pass", ".", "In", "practice", ",", "due", "to", "limited", "GPU", "resources", "-LRB-", "number", "of", "texture", "units", ",", "number", "of", "register", "combiners", ",", "etc.", "-RRB-", ",", "a", "CML", "operation", "may", "span", "multiple", "passes", ".", "The", "setup", "portion", "of", "a", "pass", "simply", "sets", "the", "state", "of", "the", "hardware", "to", "correctly", "perform", "the", "rest", "of", "the", "pass", ".", "To", "be", "sure", "that", "the", "correct", "lattice", "nodes", "are", "sampled", "during", "the", "pass", ",", "texels", "in", "the", "input", "textures", "must", "map", "directly", "to", "pixels", "in", "the", "output", "of", "the", "graphics", "pipeline", ".", "To", "ensure", "that", "this", "is", "true", ",", "we", "set", "the", "view", "port", "to", "the", "resolution", "of", "the", "lattice", ",", "and", "the", "view", "frustum", "to", "an", "orthographic", "view", "fit", "to", "the", "lattice", "so", "that", "there", "is", "a", "one-to-one", "mapping", "between", "pixels", "in", "the", "rendering", "buffer", "and", "texels", "in", "the", "texture", "to", "be", "updated", ".", "The", "render-copy", "portion", "of", "each", "pass", "performs", "4", "suboperations", ":", "Neighbor", "Sampling", ",", "Computation", "on", "Neighbors", ",", "New", "State", "Computation", ",", "and", "State", "Update", ".", "Figure", "3", "illustrates", "the", "mapping", "of", "the", "suboperations", "to", "graphics", "hardware", ".", "Neighbor", "sampling", "and", "Computation", "on", "Neighbors", "are", "performed", "by", "the", "programmable", "texture", "mapping", "hardware", ".", "New", "State", "Computation", "performs", "arithmetic", "on", "the", "results", "of", "the", "previous", "suboperations", "using", "programmable", "texture", "blending", ".", "Finally", ",", "State", "Update", "feeds", "the", "results", "of", "one", "pass", "to", "the", "next", "by", "rendering", "or", "copying", "the", "texture", "blending", "results", "to", "a", "texture", ".", "Neighbor", "Sampling", ":", "Since", "state", "is", "stored", "in", "textures", ",", "neighbor", "sampling", "is", "performed", "by", "offsetting", "texture", "coordinates", "toward", "the", "neighbors", "of", "the", "texel", "being", "updated", ".", "For", "example", ",", "to", "sample", "the", "four", "nearest", "neighbor", "nodes", "of", "Figure", "3", ":", "Components", "of", "a", "CML", "operation", "map", "to", "graphics", "hardware", "pipeline", "components", ".", "112", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "node", "-LRB-", "x", ",", "y", "-RRB-", ",", "the", "texture", "coordinates", "at", "the", "corners", "of", "the", "quadrilateral", "mentioned", "above", "are", "offset", "in", "the", "direction", "of", "each", "neighbor", "by", "the", "width", "of", "a", "single", "texel", ".", "Texture", "coordinate", "interpolation", "ensures", "that", "as", "rasterization", "proceeds", ",", "every", "texel", "'s", "neighbors", "will", "be", "correctly", "sampled", ".", "Note", "that", "beyond", "sampling", "just", "the", "nearest", "neighbors", "of", "a", "node", ",", "weighted", "averages", "of", "nearby", "nodes", "can", "be", "computed", "by", "exploiting", "the", "linear", "texture", "interpolation", "hardware", "available", "in", "GPUs", ".", "An", "example", "of", "this", "is", "our", "single-pass", "implementation", "of", "2D", "diffusion", ",", "described", "in", "Appendix", "A.", "Care", "must", "be", "taken", ",", "though", ",", "since", "the", "precision", "used", "for", "the", "interpolation", "coefficients", "is", "sometimes", "lower", "than", "the", "rest", "of", "the", "texture", "pipeline", ".", "Computation", "on", "Neighbors", ":", "As", "described", "in", "Section", "3.3.3", ",", "many", "simulations", "compute", "complex", "functions", "of", "the", "neighbors", "they", "sample", ".", "In", "many", "cases", ",", "these", "functions", "can", "be", "computed", "ahead", "of", "time", "and", "stored", "in", "a", "texture", "for", "use", "as", "a", "lookup", "table", ".", "The", "programmable", "texture", "shader", "functionality", "of", "recent", "GPUs", "provides", "several", "dependent", "texture", "addressing", "operations", ".", "We", "have", "implemented", "table", "lookups", "using", "the", "``", "DEPENDENT_GB_TEXTURE", "_", "2D_NV", "''", "texture", "shader", "of", "the", "GeForce", "3", ".", "This", "shader", "provides", "memory", "indirect", "texture", "addressing", "the", "green", "and", "blue", "colors", "read", "from", "one", "texture", "unit", "are", "used", "as", "texture", "coordinates", "for", "a", "lookup", "into", "a", "second", "texture", "unit", ".", "By", "binding", "the", "precomputed", "lookup", "table", "texture", "to", "the", "second", "texture", "unit", ",", "we", "can", "implement", "arbitrary", "function", "operations", "on", "the", "values", "of", "the", "nodes", "-LRB-", "Figure", "4", "-RRB-", ".", "New", "State", "Computation", ":", "Once", "we", "have", "sampled", "the", "values", "of", "neighboring", "texels", "and", "optionally", "used", "them", "for", "function", "table", "lookups", ",", "we", "need", "to", "compute", "the", "new", "state", "of", "the", "lattice", ".", "We", "use", "programmable", "hardware", "texture", "blending", "to", "perform", "arithmetic", "operations", "including", "addition", ",", "multiplication", ",", "and", "dot", "products", ".", "On", "the", "GeForce", "3", "and", "4", ",", "we", "implement", "this", "using", "register", "combiners", "-LSB-", "NVIDIA", "2002", "-RSB-", "Register", "combiners", "take", "the", "output", "of", "texture", "shaders", "and", "rasterization", "as", "input", ",", "and", "provide", "arithmetic", "operations", ",", "user-defined", "constants", ",", "and", "temporary", "registers", ".", "The", "result", "of", "these", "computations", "is", "written", "to", "the", "frame", "buffer", ".", "State", "Update", ":", "Once", "the", "new", "state", "is", "computed", ",", "we", "must", "store", "it", "in", "a", "state", "texture", ".", "In", "our", "current", "implementation", ",", "we", "copy", "the", "newly-rendered", "frame", "buffer", "to", "a", "texture", "using", "the", "glCopyTexSubImage2D", "-LRB-", "-RRB-", "instruction", "in", "OpenGL", ".", "Since", "all", "simulation", "state", "is", "stored", "in", "textures", ",", "our", "technique", "avoids", "large", "data", "transfers", "between", "the", "CPU", "and", "GPU", "during", "simulation", "and", "rendering", ".", "3.6", "Numerical", "Range", "of", "CML", "Simulations", "The", "physically", "based", "nature", "of", "CML", "simulations", "means", "that", "the", "ranges", "of", "state", "values", "for", "different", "simulations", "can", "vary", "widely", ".", "The", "graphics", "hardware", "we", "use", "to", "implement", "them", ",", "on", "the", "other", "hand", ",", "operates", "only", "on", "fixed-point", "fragment", "values", "in", "the", "range", "-LSB-", "0,1", "-RSB-", ".", "This", "means", "that", "we", "must", "normalize", "the", "range", "of", "a", "simulation", "into", "-LSB-", "0,1", "-RSB-", "before", "it", "can", "be", "implemented", "in", "graphics", "hardware", ".", "Because", "the", "hardware", "uses", "limited-precision", "fixed-point", "numbers", ",", "some", "simulations", "will", "be", "more", "robust", "to", "this", "normalization", "than", "others", ".", "The", "robustness", "of", "a", "simulation", "depends", "on", "several", "factors", ".", "Dynamic", "range", "is", "the", "ratio", "between", "a", "simulation", "'s", "largest", "absolute", "value", "and", "its", "smallest", "non-zero", "absolute", "value", ".", "If", "a", "simulation", "has", "a", "high", "dynamic", "range", ",", "it", "may", "not", "be", "robust", "to", "normalization", "unless", "the", "precision", "of", "computation", "is", "high", "enough", "to", "represent", "the", "dynamic", "range", ".", "We", "refer", "to", "a", "simulation", "'s", "resolution", "as", "the", "smallest", "absolute", "numerical", "difference", "that", "it", "must", "be", "able", "to", "discern", ".", "A", "simulation", "with", "a", "resolution", "finer", "than", "the", "resolution", "of", "the", "numbers", "used", "in", "its", "computation", "will", "not", "be", "robust", ".", "Finally", ",", "as", "the", "arithmetic", "complexity", "of", "a", "simulation", "increases", ",", "it", "will", "incur", "more", "roundoff", "error", ",", "which", "may", "reduce", "its", "robustness", "when", "using", "low-precision", "arithmetic", ".", "For", "example", ",", "the", "boiling", "simulation", "-LRB-", "Section", "4.1", "-RRB-", "has", "a", "range", "of", "approximately", "-LSB-", "0,10", "-RSB-", ",", "but", "its", "values", "do", "not", "get", "very", "close", "to", "zero", ",", "so", "its", "dynamic", "range", "is", "less", "than", "ten", ".", "Also", ",", "its", "resolution", "is", "fairly", "coarse", ",", "since", "the", "event", "to", "which", "it", "is", "most", "sensitive", "phase", "change", "is", "near", "the", "top", "of", "its", "range", ".", "For", "these", "reasons", ",", "boiling", "is", "fairly", "robust", "under", "normalization", ".", "Reaction-diffusion", "has", "a", "range", "of", "-LSB-", "0,1", "-RSB-", "so", "it", "does", "not", "require", "normalization", ".", "Its", "dynamic", "range", ",", "however", ",", "is", "on", "the", "order", "of", "10", "5", ",", "which", "is", "much", "higher", "than", "that", "of", "the", "8-bit", "numbers", "stored", "in", "textures", ".", "Fortunately", ",", "by", "scaling", "the", "coefficients", "of", "reaction-diffusion", ",", "we", "can", "reduce", "this", "dynamic", "range", "somewhat", "to", "get", "interesting", "results", ".", "However", ",", "as", "we", "describe", "in", "Section", "4.3", ",", "it", "suffers", "from", "precision", "errors", "-LRB-", "See", "Section", "5.1", "for", "more", "discussion", "of", "precision", "issues", "-RRB-", ".", "As", "more", "precision", "becomes", "available", "in", "graphics", "hardware", ",", "normalization", "will", "become", "less", "of", "an", "issue", ".", "When", "floating", "point", "computation", "is", "made", "available", ",", "simulations", "can", "be", "run", "within", "their", "natural", "ranges", ".", "We", "have", "designed", "and", "built", "an", "interactive", "framework", ",", "``", "CMLlab", "''", ",", "for", "constructing", "and", "experimenting", "with", "CML", "simulations", "-LRB-", "Figure", "5", "-RRB-", ".", "The", "user", "constructs", "a", "simulation", "from", "a", "set", "of", "general", "purpose", "operations", ",", "such", "as", "diffusion", "and", "advection", ",", "or", "special", "purpose", "operations", "designed", "for", "specific", "simulations", ",", "such", "as", "the", "buoyancy", "operations", "described", "in", "Section", "3.3", ".", "Each", "operation", "processes", "a", "set", "of", "input", "textures", "and", "produces", "a", "single", "output", "texture", ".", "The", "user", "connects", "the", "outputs", "and", "inputs", "of", "the", "selected", "operations", "into", "a", "directed", "acyclic", "graph", ".", "An", "iteration", "of", "the", "simulation", "consists", "of", "traversing", "the", "graph", "in", "depth-first", "fashion", "so", "that", "each", "operation", "is", "performed", "in", "order", ".", "The", "state", "textures", "resulting", "from", "an", "iteration", "are", "used", "as", "input", "state", "for", "the", "next", "iteration", ",", "and", "for", "displaying", "the", "simulated", "system", ".", "The", "Figure", "4", ":", "Arbitrary", "function", "lookups", "are", "implemented", "using", "dependent", "texturing", "in", "graphics", "hardware", ".", "113", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "results", "of", "intermediate", "passes", "in", "a", "simulation", "iteration", "can", "be", "displayed", "to", "the", "user", "in", "place", "of", "the", "result", "textures", ".", "This", "is", "useful", "for", "visually", "debugging", "the", "operation", "of", "a", "new", "simulation", ".", "While", "2D", "simulations", "in", "our", "framework", "use", "only", "2D", "textures", "for", "storage", "of", "lattice", "state", ",", "3D", "simulations", "can", "be", "implemented", "in", "two", "ways", ".", "The", "obvious", "way", "is", "to", "use", "3D", "textures", ".", "However", ",", "the", "poor", "performance", "of", "copying", "to", "3D", "textures", "in", "current", "driver", "implementations", "would", "make", "our", "simulations", "run", "much", "slower", ".", "Instead", ",", "we", "implement", "3D", "simulations", "using", "a", "collection", "of", "2D", "slices", "to", "represent", "the", "3D", "volume", ".", "This", "has", "disadvantages", "over", "using", "true", "3D", "textures", ".", "For", "example", ",", "we", "must", "implement", "linear", "filtering", "and", "texture", "boundary", "conditions", "-LRB-", "clamp", "or", "repeat", "-RRB-", "in", "software", ",", "wheras", "3D", "texture", "functionality", "provides", "these", "in", "hardware", ".", "It", "is", "worth", "noting", "that", "we", "trade", "optimal", "performance", "for", "flexibility", "in", "the", "CMLLab", "framework", ".", "Because", "we", "want", "to", "allow", "a", "variety", "of", "models", "to", "be", "built", "from", "a", "set", "of", "operations", ",", "we", "often", "incur", "the", "expense", "of", "some", "extra", "texture", "copies", "in", "order", "to", "keep", "operations", "separate", ".", "Thus", ",", "our", "implementation", "is", "not", "optimal", "even", "faster", "rates", "are", "achievable", "on", "the", "same", "hardware", "by", "sacrificing", "operator", "reuse", ".", "To", "demonstrate", "the", "utility", "of", "hardware", "CML", "simulation", "in", "interactive", "3D", "graphics", "applications", ",", "we", "have", "integrated", "the", "simulation", "system", "into", "a", "virtual", "environment", "built", "on", "a", "3D", "game", "engine", ",", "``", "Wild", "Magic", "''", "-LSB-", "Eberly", "2001", "-RSB-", ".", "Figure", "7", "-LRB-", "see", "color", "plate", "-RRB-", "is", "an", "image", "of", "a", "boiling", "witch", "'s", "brew", "captured", "from", "a", "real-time", "demo", "we", "built", "with", "the", "engine", ".", "The", "demo", "uses", "our", "3D", "boiling", "simulation", "-LRB-", "Section", "4.1", "-RRB-", "and", "runs", "at", "45", "frames", "per", "second", ".", "We", "will", "now", "describe", "three", "of", "the", "CML", "simulations", "that", "we", "have", "implemented", ".", "The", "test", "computer", "we", "used", "is", "a", "PC", "with", "a", "single", "2.0", "GHz", "Pentium", "4", "processor", "and", "512", "MB", "of", "RAM", ".", "Tests", "were", "performed", "on", "this", "machine", "with", "both", "an", "NVIDIA", "GeForce", "3", "Ti", "500", "GPU", "with", "64", "MB", "of", "RAM", ",", "and", "an", "NVIDIA", "GeForce", "4", "Ti", "4600", "GPU", "with", "128", "MB", "of", "RAM", ".", "4.1", "Boiling", "We", "have", "implemented", "2D", "and", "3D", "boiling", "simulations", "as", "described", "in", "-LSB-", "Yanagita", "1992", "-RSB-", ".", "Rather", "than", "simulate", "all", "components", "of", "the", "boiling", "phenomenon", "-LRB-", "temperature", ",", "pressure", ",", "velocity", ",", "phase", "of", "matter", ",", "etc.", "-RRB-", ",", "their", "model", "simulates", "only", "the", "temperature", "of", "the", "liquid", "as", "it", "boils", ".", "The", "simulation", "is", "composed", "of", "successive", "application", "of", "thermal", "diffusion", ",", "bubble", "formation", "and", "buoyancy", ",", "latent", "heat", "transfer", ".", "Sections", "3.3.1", "and", "3.3.3", "described", "the", "first", "two", "of", "these", ",", "and", "Section", "2.1", "gave", "an", "overview", "of", "the", "model", ".", "For", "details", "of", "the", "latent", "heat", "transfer", "computation", ",", "we", "refer", "the", "reader", "to", "-LSB-", "Yanagita", "1992", "-RSB-", ".", "Our", "implementation", "requires", "seven", "passes", "per", "iteration", "for", "the", "2D", "simulation", ",", "and", "9", "passes", "per", "slice", "for", "the", "3D", "simulation", ".", "Table", "1", "shows", "the", "simulation", "speed", "for", "a", "range", "of", "resolutions", ".", "For", "details", "of", "our", "boiling", "simulation", "implementation", ",", "see", "-LSB-", "Harris", "2002b", "-RSB-", ".", "4.2", "Convection", "The", "Rayleigh-B", "nard", "convection", "CML", "model", "of", "-LSB-", "Yanagita", "and", "Kaneko", "1993", "-RSB-", "simulates", "convection", "using", "four", "CML", "operations", ":", "buoyancy", "-LRB-", "described", "in", "3.3.2", "-RRB-", ",", "thermal", "diffusion", ",", "temperature", "and", "velocity", "advection", ",", "and", "viscosity", "and", "pressure", "effect", ".", "The", "viscosity", "and", "pressure", "effect", "is", "implemented", "as", "2", "grad", "-LRB-", "div", "-RRB-", "4", "v", "p", "k", "v", "v", "v", "k", "v", "=", "+", "+", ",", "where", "v", "is", "the", "velocity", ",", "k", "v", "is", "the", "viscosity", "ratio", "and", "k", "p", "is", "the", "coefficient", "of", "the", "pressure", "effect", ".", "The", "first", "two", "terms", "of", "this", "equation", "account", "for", "diffusion", "of", "the", "velocity", ",", "and", "the", "last", "term", "is", "the", "flow", "caused", "by", "the", "gradient", "of", "the", "mass", "flow", "around", "the", "lattice", "-LSB-", "Miyazaki", ",", "et", "al.", "2001", "-RSB-", ".", "See", "-LSB-", "Miyazaki", ",", "et", "al.", "2001", ";", "Yanagita", "and", "Kaneko", "1993", "-RSB-", "for", "details", "of", "the", "discrete", "implementation", "of", "this", "operation", ".", "The", "remaining", "operation", "is", "advection", "of", "temperature", "and", "velocity", "by", "the", "velocity", "field", ".", "-LSB-", "Yanagita", "and", "Kaneko", "1993", "-RSB-", "implements", "this", "by", "distributing", "state", "from", "a", "node", "to", "its", "neighbors", "according", "to", "the", "velocity", "at", "the", "node", ".", "In", "our", "implementation", ",", "this", "was", "made", "difficult", "by", "the", "precision", "Iterations", "Per", "Second", "Resolution", "Software", "GeForce", "3", "GeForce", "4", "Speedup", "64x64", "266.5", "1252.9", "1752.5", "4.7", "/", "6.6", "128x128", "61.8", "679.0", "926.6", "11.0", "/", "15.0", "256x256", "13.9", "221.3", "286.6", "15.9", "/", "20.6", "512x512", "3.3", "61.2", "82.3", "18.5", "/", "24.9", "1024x1024", ".9", "15.5", "21.6", "17.2", "/", "24", "32x32x32", "25.5", "104.3", "145.8", "4.1", "/", "5.7", "64x64x64", "3.2", "37.2", "61.8", "11.6", "/", "19.3", "128x128x128", ".4", "NA", "8.3", "NA", "/", "20.8", "Table", "1", ":", "A", "speed", "comparison", "of", "our", "hardware", "CML", "boiling", "simulation", "to", "a", "software", "version", ".", "The", "speedup", "column", "gives", "the", "speedup", "for", "both", "GeForce", "3", "and", "4", ".", "Figure", "5", ":", "CMLlab", ",", "our", "interactive", "framework", "for", "building", "and", "experimenting", "with", "CML", "simulations", ".", "114", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "limitations", "of", "the", "hardware", ",", "so", "we", "used", "a", "texture", "shader-based", "advection", "operation", "instead", ".", "This", "operation", "advects", "state", "stored", "in", "a", "texture", "using", "the", "GL_OFFSET_TEXTURE", "_", "2D_NV", "dependent", "texture", "addressing", "mode", "of", "the", "GeForce", "3", "and", "4", ".", "A", "description", "of", "this", "method", "can", "be", "found", "in", "-LSB-", "Weiskopf", ",", "et", "al.", "2001", "-RSB-", ".", "Our", "2D", "convection", "implementation", "-LRB-", "Figure", "8", "in", "the", "color", "plate", "section", "-RRB-", "requires", "10", "passes", "per", "iteration", ".", "We", "have", "not", "implemented", "a", "3D", "convection", "simulation", "because", "GeForce", "3", "and", "4", "do", "not", "have", "a", "3D", "equivalent", "of", "the", "offset", "texture", "operation", ".", "Due", "to", "the", "precision", "limitations", "of", "the", "graphics", "hardware", ",", "our", "implementation", "of", "convection", "did", "not", "behave", "exactly", "as", "described", "by", "-LSB-", "Yanagita", "and", "Kaneko", "1993", "-RSB-", ".", "We", "do", "observe", "the", "formation", "of", "convective", "rolls", ",", "but", "the", "motion", "of", "both", "the", "temperature", "and", "velocity", "fields", "is", "quite", "turbulent", ".", "We", "believe", "that", "this", "is", "a", "result", "of", "low-precision", "arithmetic", ".", "4.3", "Reaction-Diffusion", "Reaction-Diffusion", "processes", "were", "proposed", "by", "-LSB-", "Turing", "1952", "-RSB-", "and", "introduced", "to", "computer", "graphics", "by", "-LSB-", "Turk", "1991", ";", "Witkin", "and", "Kass", "1991", "-RSB-", ".", "They", "are", "a", "well-studied", "model", "for", "the", "interaction", "of", "chemical", "reactants", ",", "and", "are", "interesting", "due", "to", "their", "complex", "and", "often", "chaotic", "behavior", ".", "The", "patterns", "that", "emerge", "are", "reminiscent", "of", "patterns", "occurring", "in", "nature", "-LSB-", "Lee", ",", "et", "al.", "1993", "-RSB-", ".", "We", "implemented", "the", "Gray-Scott", "model", ",", "as", "described", "in", "-LSB-", "Pearson", "1993", "-RSB-", ".", "This", "is", "a", "two-chemical", "system", "defined", "by", "the", "initial", "value", "partial", "differential", "equations", ":", "2", "2", "2", "2", "-LRB-", "1", "-RRB-", "-LRB-", "-RRB-", ",", "u", "v", "U", "D", "U", "UV", "F", "U", "t", "V", "D", "V", "UV", "F", "k", "V", "t", "=", "+", "=", "+", "+", "where", "F", ",", "k", ",", "D", "u", ",", "and", "D", "v", ".", "are", "parameters", "given", "in", "-LSB-", "Pearson", "1993", "-RSB-", ".", "We", "have", "implemented", "2D", "and", "3D", "versions", "of", "this", "process", ",", "as", "shown", "in", "Figure", "5", "-LRB-", "2D", "-RRB-", ",", "and", "Figures", "1", "and", "9", "-LRB-", "3D", ",", "on", "color", "plate", "-RRB-", ".", "We", "found", "reaction-diffusion", "relatively", "simple", "to", "implement", "in", "our", "framework", "because", "we", "were", "able", "to", "reuse", "our", "existing", "diffusion", "operator", ".", "In", "2D", "this", "simulation", "requires", "two", "passes", "per", "iteration", ",", "and", "in", "3D", "it", "requires", "three", "passes", "per", "slice", ".", "A", "256x256", "lattice", "runs", "at", "400", "iterations", "per", "second", "in", "our", "interactive", "framework", ",", "and", "a", "128x128x32", "lattice", "runs", "at", "60", "iterations", "per", "second", ".", "The", "low", "precision", "of", "the", "GeForce", "3", "and", "4", "reduces", "the", "variety", "of", "patterns", "that", "our", "implementation", "of", "the", "Gray-Scott", "model", "produces", ".", "We", "have", "seen", "a", "variety", "of", "results", ",", "but", "much", "less", "diversity", "than", "produced", "by", "a", "floating", "point", "implementation", ".", "As", "with", "convection", ",", "this", "appears", "to", "be", "caused", "by", "the", "effects", "of", "low-precision", "arithmetic", ".", "While", "current", "GPUs", "make", "a", "good", "platform", "for", "CML", "simulation", ",", "they", "are", "not", "without", "problems", ".", "Some", "of", "these", "problems", "are", "performance", "problems", "of", "the", "current", "implementation", ",", "and", "may", "not", "be", "issues", "in", "the", "near", "future", ".", "NVIDIA", "has", "shown", "in", "the", "past", "that", "slow", "performance", "can", "often", "be", "alleviated", "via", "optimization", "of", "the", "software", "drivers", "that", "accompany", "the", "GPU", ".", "Other", "limitations", "are", "more", "fundamental", ".", "Most", "of", "the", "implementation", "limitations", "that", "we", "encountered", "were", "limitations", "that", "affected", "performance", ".", "We", "have", "found", "glCopyTexSubImage3D", "-LRB-", "-RRB-", ",", "which", "copies", "the", "frame", "buffer", "to", "a", "slice", "of", "a", "3D", "texture", ",", "to", "be", "much", "slower", "-LRB-", "up", "to", "three", "orders", "of", "magnitude", "-RRB-", "than", "glCopyTexSubImage2D", "-LRB-", "-RRB-", "for", "the", "same", "amount", "of", "data", ".", "This", "prevented", "us", "from", "using", "3D", "textures", "in", "our", "implementation", ".", "Once", "this", "problem", "is", "alleviated", ",", "we", "expect", "a", "3D", "texture", "implementation", "to", "be", "faster", "and", "easier", "to", "implement", ",", "since", "it", "will", "remove", "the", "need", "to", "bind", "multiple", "textures", "to", "sample", "neighbors", "in", "the", "third", "dimension", ".", "Also", ",", "3D", "textures", "provide", "hardware", "linear", "interpolation", "and", "boundary", "conditions", "-LRB-", "periodic", "or", "fixed", "-RRB-", "in", "all", "three", "dimensions", ".", "With", "our", "slice-based", "implementation", ",", "we", "must", "interpolate", "and", "handle", "boundary", "conditions", "in", "the", "third", "dimension", "in", "software", ".", "The", "ability", "to", "render", "to", "texture", "will", "also", "provide", "a", "speed", "improvement", ",", "as", "we", "estimate", "that", "in", "a", "complex", "3D", "simulation", ",", "much", "of", "the", "processing", "time", "is", "spent", "copying", "rendered", "data", "from", "the", "frame", "buffer", "to", "textures", "-LRB-", "typically", "one", "copy", "per", "pass", "-RRB-", ".", "When", "using", "3D", "textures", ",", "we", "will", "need", "the", "ability", "to", "render", "to", "a", "slice", "of", "a", "3D", "texture", ".", "5.1", "Precision", "The", "hardware", "limitation", "that", "causes", "the", "most", "problems", "to", "our", "implementation", "is", "precision", ".", "The", "register", "combiners", "in", "the", "GeForce", "3", "and", "4", "perform", "arithmetic", "using", "nine-bit", "signed", "fixed-point", "values", ".", "Without", "floating", "point", ",", "the", "programmer", "must", "scale", "and", "bias", "values", "to", "maintain", "them", "in", "ranges", "that", "maximize", "precision", ".", "This", "is", "not", "only", "difficult", ",", "it", "is", "subject", "to", "arithmetic", "error", ".", "Some", "simulations", "-LRB-", "such", "as", "boiling", "-RRB-", "handle", "this", "error", "well", ",", "and", "behave", "as", "predicted", "by", "a", "floating", "point", "implementation", ".", "Others", ",", "such", "as", "our", "reaction-diffusion", "implementation", ",", "are", "more", "sensitive", "to", "precision", "errors", ".", "We", "have", "done", "some", "analysis", "of", "the", "error", "introduced", "by", "low", "precision", "and", "experiments", "to", "determine", "how", "much", "precision", "is", "needed", "-LRB-", "For", "full", "details", ",", "see", "-LSB-", "Harris", "2002a", "-RSB-", "-RRB-", ".", "We", "hypothesize", "that", "the", "diffusion", "operation", "is", "very", "susceptible", "to", "Figure", "6", ":", "High-precision", "fragment", "computations", "in", "near", "future", "graphics", "hardware", "will", "enable", "accurate", "simulation", "of", "reaction-diffusion", "at", "hundreds", "of", "iterations", "per", "second", ".", "115", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "roundoff", "error", ",", "because", "in", "our", "experiments", "in", "CMLlab", ",", "iterated", "application", "of", "a", "diffusion", "operator", "never", "fully", "diffuses", "its", "input", ".", "We", "derive", "the", "error", "induced", "by", "each", "application", "of", "diffusion", "-LRB-", "in", "2D", "-RRB-", "to", "a", "node", "-LRB-", "i", ",", "j", "-RRB-", "as", ",", "3", "-LRB-", "3", "-RRB-", "4", "d", "i", "j", "d", "x", "+", "+", ",", "where", "d", "is", "the", "diffusion", "coefficient", ",", "x", "i", ",", "j", "is", "the", "value", "at", "node", "-LRB-", "i", ",", "j", "-RRB-", ",", "and", "is", "the", "amount", "of", "roundoff", "error", "in", "each", "arithmetic", "operation", ".", "Since", "d", "and", "x", "i", ",", "j", "are", "in", "the", "range", "-LSB-", "0,1", "-RSB-", ",", "this", "error", "is", "bounded", "above", "by", "4.75", "d", ".", "With", "8", "bits", "of", "precision", ",", "is", "at", "most", "2", "-9", ".", "This", "error", "is", "fairly", "large", ",", "meaning", "that", "a", "simulation", "that", "is", "sensitive", "to", "small", "numbers", "will", "quickly", "diverge", ".", "In", "an", "attempt", "to", "better", "understand", "the", "precision", "needs", "of", "our", "more", "sensitive", "simulations", ",", "we", "implemented", "a", "software", "version", "of", "our", "reaction-diffusion", "simulation", "with", "adjustable", "fixed-point", "precision", ".", "Through", "experimentation", ",", "we", "have", "found", "that", "with", "14", "or", "more", "bits", "of", "fixed-point", "precision", ",", "the", "behavior", "of", "this", "simulation", "is", "visually", "very", "similar", "to", "our", "single-precision", "floating-point", "implementation", ".", "Like", "the", "floating-point", "version", ",", "a", "diverse", "variety", "of", "patterns", "grow", ",", "evolve", ",", "and", "sometimes", "develop", "unstable", "formations", "that", "never", "cease", "to", "change", ".", "Figure", "6", "shows", "a", "variety", "of", "patterns", "generated", "with", "this", "14-bit", "fixed-point", "simulation", ".", "Graphics", "hardware", "manufacturers", "are", "quickly", "moving", "toward", "higher-quality", "pixels", ".", "This", "goal", ",", "along", "with", "increasing", "programmability", ",", "makes", "high-precision", "computation", "essential", ".", "Higher", "precision", ",", "including", "floating-point", "fragment", "values", ",", "will", "become", "a", "standard", "feature", "of", "GPUs", "in", "the", "near", "future", "-LSB-", "Spitzer", "2002", "-RSB-", ".", "With", "the", "increasing", "precision", "and", "programmability", "of", "GPUs", ",", "we", "believe", "that", "CML", "methods", "for", "simulating", "natural", "phenomena", "using", "graphics", "hardware", "will", "become", "very", "useful", ".", "In", "this", "paper", ",", "we", "have", "described", "a", "method", "for", "simulating", "a", "variety", "of", "dynamic", "phenomena", "using", "graphics", "hardware", ".", "We", "presented", "the", "coupled", "map", "lattice", "as", "a", "simple", "and", "flexible", "simulation", "technique", ",", "and", "showed", "how", "CML", "operations", "map", "to", "computer", "graphics", "hardware", "operations", ".", "We", "have", "described", "common", "CML", "operations", "and", "how", "they", "can", "be", "implemented", "on", "programmable", "GPUs", ".", "Our", "hardware", "CML", "implementation", "shows", "a", "substantial", "speed", "increase", "-LRB-", "up", "to", "25", "times", "on", "a", "GeForce", "4", "-RRB-", "over", "the", "same", "simulations", "implemented", "to", "run", "on", "a", "Pentium", "4", "CPU", ".", "However", ",", "this", "comparison", "-LRB-", "and", "the", "speedup", "numbers", "in", "Table", "1", "-RRB-", "should", "be", "taken", "with", "a", "grain", "of", "salt", ".", "While", "our", "CPU-based", "CML", "simulator", "is", "an", "efficient", ",", "straightforward", "implementation", "that", "obeys", "common", "cache", "coherence", "principles", ",", "it", "is", "not", "highly", "optimized", ",", "and", "could", "be", "accelerated", "by", "using", "vectorized", "CPU", "instructions", ".", "Our", "graphics", "hardware", "implementation", "is", "not", "highly", "optimized", "either", ".", "We", "sacrifice", "optimal", "speed", "for", "flexibility", ".", "The", "CPU", "version", "is", "also", "written", "to", "use", "single", "precision", "floats", ",", "while", "the", "GPU", "version", "uses", "fixed-point", "numbers", "with", "much", "less", "precision", ".", "Nevertheless", ",", "we", "feel", "that", "it", "would", "be", "difficult", ",", "if", "not", "impossible", ",", "to", "achieve", "a", "25x", "speedup", "over", "our", "current", "CPU", "implementation", "by", "optimizing", "the", "code", "and", "using", "lower", "precision", "numbers", ".", "A", "more", "careful", "comparison", "and", "optimized", "simulations", "on", "both", "platforms", "would", "be", "useful", "in", "the", "future", ".", "``", "CMLlab", "''", ",", "our", "flexible", "framework", "for", "building", "CML", "models", ",", "allows", "a", "user", "to", "experiment", "with", "simulations", "running", "on", "graphics", "processors", ".", "We", "have", "described", "various", "2D", "and", "3D", "simulations", "that", "we", "have", "implemented", "in", "this", "framework", ".", "We", "have", "also", "integrated", "our", "CML", "framework", "with", "a", "3D", "game", "engine", "to", "demonstrate", "the", "use", "of", "3D", "CML", "models", "in", "interactive", "scenes", "and", "virtual", "environments", ".", "In", "the", "future", ",", "we", "would", "like", "to", "add", "more", "flexibility", "to", "CMLlab", ".", "Users", "currently", "can", "not", "define", "new", ",", "custom", "operations", "without", "writing", "C++", "code", ".", "It", "would", "be", "possible", ",", "however", ",", "to", "provide", "generic", ",", "scriptable", "operators", ",", "since", "the", "user", "microcode", "that", "runs", "on", "the", "GPU", "can", "be", "dynamically", "loaded", ".", "We", "have", "described", "the", "problems", "we", "encountered", "in", "implementing", "CML", "in", "graphics", "hardware", ",", "such", "as", "limited", "precision", "and", "3D", "texturing", "performance", "problems", ".", "We", "believe", "that", "these", "problems", "will", "be", "alleviated", "in", "near", "future", "generations", "of", "graphics", "hardware", ".", "With", "the", "continued", "addition", "of", "more", "texture", "units", ",", "memory", ",", "precision", ",", "and", "more", "flexible", "programmability", ",", "graphics", "hardware", "will", "become", "an", "even", "more", "powerful", "platform", "for", "visual", "simulation", ".", "Some", "relatively", "simple", "extensions", "to", "current", "graphics", "hardware", "and", "APIs", "would", "benefit", "CML", "and", "PDE", "simulation", ".", "For", "example", ",", "the", "ability", "to", "render", "to", "3D", "textures", "could", "simplify", "and", "accelerate", "each", "pass", "of", "our", "simulations", ".", "One", "avenue", "for", "future", "research", "is", "to", "increase", "parallelization", "of", "simulations", "on", "graphics", "hardware", ".", "Currently", ",", "it", "is", "difficult", "to", "add", "multiple", "GPUs", "to", "a", "single", "computer", "because", "PCs", "have", "a", "single", "AGP", "port", ".", "If", "future", "PC", "hardware", "adds", "support", "for", "multiple", "GPUs", ",", "powerful", "multiprocessor", "machines", "could", "be", "built", "with", "these", "inexpensive", "processors", ".", "We", "plan", "to", "continue", "exploring", "the", "use", "of", "CML", "on", "current", "and", "future", "generations", "of", "graphics", "hardware", ".", "We", "are", "interested", "in", "porting", "our", "system", "to", "ATI", "Radeon", "hardware", ".", "The", "Radeon", "8500", "can", "sample", "more", "textures", "per", "pass", "and", "has", "more", "programmable", "texture", "addressing", "than", "GeForce", "3", ",", "which", "could", "add", "power", "to", "CML", "simulations", ".", "Also", ",", "our", "current", "framework", "relies", "mostly", "on", "the", "power", "of", "the", "fragment", "processing", "pipeline", ",", "and", "uses", "none", "of", "the", "power", "available", "in", "the", "programmable", "vertex", "engine", ".", "We", "could", "greatly", "increase", "the", "complexity", "of", "simulations", "by", "taking", "advantage", "of", "this", ".", "Currently", ",", "this", "would", "incur", "additional", "cost", "for", "feedback", "of", "the", "output", "of", "the", "fragment", "pipeline", "-LRB-", "through", "the", "main", "memory", "-RRB-", "and", "back", "into", "the", "vertex", "pipeline", ",", "but", "depending", "on", "the", "application", ",", "it", "may", "be", "worth", "the", "expense", ".", "GPU", "manufacturers", "could", "improve", "the", "performance", "of", "this", "feedback", "by", "allowing", "textures", "in", "memory", "to", "be", "interpreted", "as", "vertex", "meshes", "for", "processing", "by", "the", "vertex", "engine", ",", "thus", "avoiding", "unneccessary", "transfers", "back", "to", "the", "host", ".", "We", "hope", "to", "implement", "the", "cloud", "simulation", "described", "by", "-LSB-", "Miyazaki", ",", "et", "al.", "2001", "-RSB-", "in", "the", "near", "future", ",", "as", "well", "as", "other", "116", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "dynamic", "phenomena", ".", "Also", ",", "since", "the", "boiling", "simulation", "of", "-LSB-", "Yanagita", "1992", "-RSB-", "models", "only", "temperature", ",", "and", "disregards", "surface", "tension", ",", "the", "bubbles", "are", "not", "round", ".", "We", "are", "interested", "in", "extending", "this", "simulation", "to", "improve", "its", "realism", ".", "We", "plan", "to", "continue", "exploring", "the", "use", "of", "computer", "graphics", "hardware", "for", "general", "computation", ".", "As", "an", "example", ",", "the", "anisotropic", "diffusion", "that", "can", "be", "performed", "on", "a", "GPU", "may", "be", "useful", "for", "image-processing", "and", "computer", "vision", "applications", ".", "The", "authors", "would", "like", "to", "thank", "Steve", "Molnar", ",", "John", "Spitzer", "and", "the", "NVIDIA", "Developer", "Relations", "team", "for", "answering", "many", "questions", ".", "This", "work", "was", "supported", "in", "part", "by", "NVIDIA", "Corporation", ",", "US", "NIH", "National", "Center", "for", "Research", "Resources", "Grant", "Number", "P41", "RR", "02170", ",", "US", "Office", "of", "Naval", "Research", "N00014-01-1-0061", ",", "US", "Department", "of", "Energy", "ASCI", "program", ",", "and", "National", "Science", "Foundation", "grants", "ACR-9876914", "and", "IIS-0121293", ".", "A", "Implementation", "of", "Diffusion", "On", "GeForce", "3", "hardware", ",", "the", "diffusion", "operation", "can", "be", "implemented", "more", "efficiently", "than", "the", "Laplacian", "operator", "itself", ".", "To", "do", "so", ",", "we", "rewrite", "Equation", "-LRB-", "1", "-RRB-", "as", "'", ",", ",", "1", ",", "1", ",", ",", "1", ",", "1", "4", ",", "-LRB-", ",", "-RRB-", "1", "-LRB-", "1", "-RRB-", "-LRB-", "-RRB-", "4", "1", "-LSB-", "-LRB-", "1", "-RRB-", "-RSB-", ",", "4", "k", "d", "i", "j", "d", "i", "j", "i", "j", "i", "j", "i", "j", "i", "j", "d", "i", "j", "d", "n", "i", "j", "k", "c", "T", "c", "T", "T", "T", "T", "T", "c", "T", "c", "T", "+", "+", "=", "=", "+", "+", "+", "+", "=", "+", "where", "n", "k", "-LRB-", "x", ",", "y", "-RRB-", "represents", "the", "kth", "nearest", "neighbor", "of", "-LRB-", "x", ",", "y", "-RRB-", ".", "In", "this", "form", ",", "we", "see", "that", "the", "diffusion", "operator", "is", "the", "average", "of", "four", "weighted", "sums", "of", "the", "center", "texel", ",", "T", "i", ",", "j", "and", "its", "four", "nearest", "neighbor", "texels", ".", "These", "weighted", "sums", "are", "actually", "linear", "interpolation", "computations", ",", "with", "c", "d", "as", "the", "parameter", "of", "interpolation", ".", "This", "means", "that", "we", "can", "implement", "the", "diffusion", "operation", "described", "by", "Equation", "3", "by", "enabling", "linear", "texture", "filtering", ",", "and", "using", "texture", "coordinate", "offsets", "of", "c", "d", "w", ",", "where", "w", "is", "the", "width", "of", "a", "texel", "as", "described", "in", "Section", "3.5", ".", "-LSB-", "Bohn", "1998", "-RSB-", "Bohn", ",", "C.-A", ".", "Kohonen", "Feature", "Mapping", "Through", "Graphics", "Hardware", ".", "In", "Proceedings", "of", "3rd", "Int", ".", "Conference", "on", "Computational", "Intelligence", "and", "Neurosciences", "1998", ".", "1998", ".", "-LSB-", "Cabral", ",", "et", "al.", "1994", "-RSB-", "Cabral", ",", "B.", ",", "Cam", ",", "N.", "and", "Foran", ",", "J.", "Accelerated", "Volume", "Rendering", "and", "Tomographic", "Reconstruction", "Using", "Texture", "Mapping", "Hardware", ".", "In", "Proceedings", "of", "Symposium", "on", "Volume", "Visualization", "1994", ",", "91-98", ".", "1994", ".", "-LSB-", "Carr", ",", "et", "al.", "2002", "-RSB-", "Carr", ",", "N.A.", ",", "Hall", ",", "J.D.", "and", "Hart", ",", "J.C.", ".", "The", "Ray", "Engine", ".", "In", "Proceedings", "of", "SIGGRAPH", "/", "Eurographics", "Workshop", "on", "Graphics", "Hardware", "2002", ".", "2002", ".", "-LSB-", "Dobashi", ",", "et", "al.", "2000", "-RSB-", "Dobashi", ",", "Y.", ",", "Kaneda", ",", "K.", ",", "Yamashita", ",", "H.", ",", "Okita", ",", "T.", "and", "Nishita", ",", "T", ".", "A", "Simple", ",", "Efficient", "Method", "for", "Realistic", "Animation", "of", "Clouds", ".", "In", "Proceedings", "of", "SIGGRAPH", "2000", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "19-28", ".", "2000", ".", "-LSB-", "Eberly", "2001", "-RSB-", "Eberly", ",", "D.H.", "3D", "Game", "Engine", "Design", ".", "Morgan", "Kaufmann", "Publishers", ".", "2001", ".", "-LSB-", "England", "1978", "-RSB-", "England", ",", "J.N.", ".", "A", "system", "for", "interactive", "modeling", "of", "physical", "curved", "surface", "objects", ".", "In", "Proceedings", "of", "SIGGRAPH", "78", "1978", ",", "336-340", ".", "1978", ".", "-LSB-", "Eyles", ",", "et", "al.", "1997", "-RSB-", "Eyles", ",", "J.", ",", "Molnar", ",", "S.", ",", "Poulton", ",", "J.", ",", "Greer", ",", "T.", "and", "Lastra", ",", "A.", "PixelFlow", ":", "The", "Realization", ".", "In", "Proceedings", "of", "1997", "SIGGRAPH", "/", "Eurographics", "Workshop", "on", "Graphics", "Hardware", "1997", ",", "ACM", "Press", ",", "57-68", ".", "1997", ".", "-LSB-", "Fedkiw", ",", "et", "al.", "2001", "-RSB-", "Fedkiw", ",", "R.", ",", "Stam", ",", "J.", "and", "Jensen", ",", "H.W.", "Visual", "Simulation", "of", "Smoke", ".", "In", "Proceedings", "of", "SIGGRAPH", "2001", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ".", "2001", ".", "-LSB-", "Foster", "and", "Metaxas", "1997", "-RSB-", "Foster", ",", "N.", "and", "Metaxas", ",", "D.", "Modeling", "the", "Motion", "of", "a", "Hot", ",", "Turbulent", "Gas", ".", "In", "Proceedings", "of", "SIGGRAPH", "1997", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "181-188", ".", "1997", ".", "-LSB-", "Harris", "2002a", "-RSB-", "Harris", ",", "M.J.", "Analysis", "of", "Error", "in", "a", "CML", "Diffusion", "Operation", ".", "University", "of", "North", "Carolina", "Technical", "Report", "TR02-015", ".", "http://www.cs.unc.edu/~harrism/cml/dl/HarrisTR02-015.pdf", ".", "2002a", ".", "-LSB-", "Harris", "2002b", "-RSB-", "Harris", ",", "M.J.", "Implementation", "of", "a", "CML", "Boiling", "Simulation", "using", "Graphics", "Hardware", ".", "University", "of", "North", "Carolina", "Technical", "Report", "TR02-016", ".", "http://www.cs.unc.edu/~harrism/cml/dl/HarrisTR02-016.pdf", ".", "2002b", ".", "-LSB-", "Heidrich", ",", "et", "al.", "1999", "-RSB-", "Heidrich", ",", "W.", ",", "Westermann", ",", "R.", ",", "Seidel", ",", "H.-P", ".", "and", "Ertl", ",", "T.", "Applications", "of", "Pixel", "Textures", "in", "Visualization", "and", "Realistic", "Image", "Synthesis", ".", "In", "Proceedings", "of", "ACM", "Symposium", "on", "Interactive", "3D", "Graphics", "1999", ".", "1999", ".", "-LSB-", "Hoff", ",", "et", "al.", "1999", "-RSB-", "Hoff", ",", "K.E.I.", ",", "Culver", ",", "T.", ",", "Keyser", ",", "J.", ",", "Lin", ",", "M.", "and", "Manocha", ",", "D.", "Fast", "Computation", "of", "Generalized", "Voronoi", "Diagrams", "Using", "Graphics", "Hardware", ".", "In", "Proceedings", "of", "SIGGRAPH", "1999", ",", "ACM", "/", "ACM", "Press", ",", "277-286", ".", "1999", ".", "-LSB-", "Jobard", ",", "et", "al.", "2001", "-RSB-", "Jobard", ",", "B.", ",", "Erlebacher", ",", "G.", "and", "Hussaini", ",", "M.Y.", "Lagrangian-Eulerian", "Advection", "for", "Unsteady", "Flow", "Visualization", ".", "In", "Proceedings", "of", "IEEE", "Visualization", "2001", ".", "2001", ".", "-LSB-", "Kaneko", "1993", "-RSB-", "Kaneko", ",", "K.", "-LRB-", "ed", ".", "-RRB-", ",", "Theory", "and", "applications", "of", "coupled", "map", "lattices", ".", "Wiley", ",", "1993", ".", "-LSB-", "Kapral", "1993", "-RSB-", "Kapral", ",", "R.", "Chemical", "Waves", "and", "Coupled", "Map", "Lattices", ".", "in", "Kaneko", ",", "K.", "ed", ".", "Theory", "and", "Applications", "of", "Coupled", "Map", "Lattices", ",", "Wiley", ",", "135-168", ".", "1993", ".", "-LSB-", "Kedem", "and", "Ishihara", "1999", "-RSB-", "Kedem", ",", "G.", "and", "Ishihara", ",", "Y.", "Brute", "Force", "Attack", "on", "UNIX", "Passwords", "with", "SIMD", "Computer", ".", "In", "Proceedings", "of", "The", "8th", "USENIX", "Security", "Symposium", "1999", ".", "1999", ".", "-LSB-", "Lee", ",", "et", "al.", "1993", "-RSB-", "Lee", ",", "K.J.", ",", "McCormick", ",", "W.D.", ",", "Ouyang", ",", "Q.", "and", "Swinn", ",", "H.L.", "Pattern", "Formation", "by", "Interacting", "Chemical", "Fronts", ".", "Science", ",", "261", ".", "192-194", ".", "1993", ".", "-LSB-", "Lengyel", ",", "et", "al.", "1990", "-RSB-", "Lengyel", ",", "J.", ",", "Reichert", ",", "M.", ",", "Donald", ",", "B.R.", "and", "Greenberg", ",", "D.P.", "Real-Time", "Robot", "Motion", "Planning", "Using", "Rasterizing", "Computer", "Graphics", "Hardware", ".", "In", "Proceedings", "of", "SIGGRAPH", "1990", ",", "327-335", ".", "1990", ".", "117", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "-LSB-", "Lindholm", ",", "et", "al.", "2001", "-RSB-", "Lindholm", ",", "E.", ",", "Kilgard", ",", "M.", "and", "Moreton", ",", "H", ".", "A", "User", "Programmable", "Vertex", "Engine", ".", "In", "Proceedings", "of", "SIGGRAPH", "2001", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "149-158", ".", "2001", ".", "-LSB-", "Miyazaki", ",", "et", "al.", "2001", "-RSB-", "Miyazaki", ",", "R.", ",", "Yoshida", ",", "S.", ",", "Dobashi", ",", "Y.", "and", "Nishita", ",", "T", ".", "A", "Method", "for", "Modeling", "Clouds", "Based", "on", "Atmospheric", "Fluid", "Dynamics", ".", "In", "Proceedings", "of", "The", "Ninth", "Pacific", "Conference", "on", "Computer", "Graphics", "and", "Applications", "2001", ",", "IEEE", "Computer", "Society", "Press", ",", "363-372", ".", "2001", ".", "-LSB-", "Nagel", "and", "Raschke", "1992", "-RSB-", "Nagel", ",", "K.", "and", "Raschke", ",", "E.", "Self-organizing", "criticality", "in", "cloud", "formation", "?", "Physica", "A", ",", "182", ".", "519-531", ".", "1992", ".", "-LSB-", "Nishimori", "and", "Ouchi", "1993", "-RSB-", "Nishimori", ",", "H.", "and", "Ouchi", ",", "N.", "Formation", "of", "Ripple", "Patterns", "and", "Dunes", "by", "Wind-Blown", "Sand", ".", "Physical", "Review", "Letters", ",", "71", "1", ".", "197-200", ".", "1993", ".", "-LSB-", "NVIDIA", "2002", "-RSB-", "NVIDIA", ".", "NVIDIA", "OpenGL", "Extension", "Specifications", ".", "http://developer.nvidia.com/view.asp?IO=nvidia_opengl_specs", ".", "2002", ".", "-LSB-", "NVIDIA", "2001a", "-RSB-", "NVIDIA", ".", "NVIDIA", "OpenGL", "Game", "Of", "Life", "Demo", ".", "http://developer.nvidia.com/view.asp?IO=ogl_gameoflife", ".", "2001a", ".", "-LSB-", "NVIDIA", "2001b", "-RSB-", "NVIDIA", ".", "NVIDIA", "Procedural", "Texture", "Physics", "Demo", ".", "http://developer.nvidia.com/view.asp?IO=ogl_dynamic_bumpreflection", ".", "2001b", ".", "-LSB-", "Olano", "and", "Lastra", "1998", "-RSB-", "Olano", ",", "M.", "and", "Lastra", ",", "A", ".", "A", "Shading", "Language", "on", "Graphics", "Hardware", ":", "The", "PixelFlow", "Shading", "System", ".", "In", "Proceedings", "of", "SIGGRAPH", "1998", ",", "ACM", "/", "ACM", "Press", ",", "159-168", ".", "1998", ".", "-LSB-", "Pearson", "1993", "-RSB-", "Pearson", ",", "J.E.", "Complex", "Patterns", "in", "a", "Simple", "System", ".", "Science", ",", "261", ".", "189-192", ".", "1993", ".", "-LSB-", "Peercy", ",", "et", "al.", "2000", "-RSB-", "Peercy", ",", "M.S.", ",", "Olano", ",", "M.", ",", "Airey", ",", "J.", "and", "Ungar", ",", "P.J.", "Interactive", "Multi-Pass", "Programmable", "Shading", ".", "In", "Proceedings", "of", "SIGGRAPH", "2000", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "425-432", ".", "2000", ".", "-LSB-", "Potmesil", "and", "Hoffert", "1989", "-RSB-", "Potmesil", ",", "M.", "and", "Hoffert", ",", "E.M.", ".", "The", "Pixel", "Machine", ":", "A", "Parallel", "Image", "Computer", ".", "In", "Proceedings", "of", "SIGGRAPH", "89", "1989", ",", "ACM", ",", "69-78", ".", "1989", ".", "-LSB-", "Proudfoot", ",", "et", "al.", "2001", "-RSB-", "Proudfoot", ",", "K.", ",", "Mark", ",", "W.R.", ",", "Tzvetkov", ",", "S.", "and", "Hanrahan", ",", "P", ".", "A", "Real-Time", "Procedural", "Shading", "System", "for", "Programmable", "Graphics", "Hardware", ".", "In", "Proceedings", "of", "SIGGRAPH", "2001", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "159-170", ".", "2001", ".", "-LSB-", "Purcell", ",", "et", "al.", "2002", "-RSB-", "Purcell", ",", "T.J.", ",", "Buck", ",", "I.", ",", "Mark", ",", "W.R.", "and", "Hanrahan", ",", "P.", "Ray", "Tracing", "on", "Programmable", "Graphics", "Hardware", ".", "In", "Proceedings", "of", "SIGGRAPH", "2002", ",", "ACM", "/", "ACM", "Press", ".", "2002", ".", "-LSB-", "Qian", ",", "et", "al.", "1996", "-RSB-", "Qian", ",", "Y.H.", ",", "Succi", ",", "S.", "and", "Orszag", ",", "S.A.", "Recent", "Advances", "in", "Lattice", "Boltzmann", "Computing", ".", "in", "Stauffer", ",", "D.", "ed", ".", "Annual", "Reviews", "of", "Computational", "Physics", "III", ",", "World", "Scientific", ",", "195-242", ".", "1996", ".", "-LSB-", "Rhoades", ",", "et", "al.", "1992", "-RSB-", "Rhoades", ",", "J.", ",", "Turk", ",", "G.", ",", "Bell", ",", "A.", ",", "State", ",", "A.", ",", "Neumann", ",", "U.", "and", "Varshney", ",", "A.", "Real-Time", "Procedural", "Textures", ".", "In", "Proceedings", "of", "Symposium", "on", "Interactive", "3D", "Graphics", "1992", ",", "ACM", "/", "ACM", "Press", ",", "95-100", ".", "1992", ".", "-LSB-", "Spitzer", "2002", "-RSB-", "Spitzer", ",", "J.", "Shading", "and", "Game", "Development", "-LRB-", "Presentation", "on", "NVIDIA", "Technology", "-RRB-", ".", "IBM", "EDGE", "Workshop", ".", "2002", ".", "-LSB-", "Stam", "1999", "-RSB-", "Stam", ",", "J.", "Stable", "Fluids", ".", "In", "Proceedings", "of", "SIGGRAPH", "1999", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "121-128", ".", "1999", ".", "-LSB-", "Toffoli", "and", "Margolus", "1987", "-RSB-", "Toffoli", ",", "T.", "and", "Margolus", ",", "N.", "Cellular", "Automata", "Machines", ".", "The", "MIT", "Press", ".", "1987", ".", "-LSB-", "Trendall", "and", "Steward", "2000", "-RSB-", "Trendall", ",", "C.", "and", "Steward", ",", "A.J.", "General", "Calculations", "using", "Graphics", "Hardware", ",", "with", "Applications", "to", "Interactive", "Caustics", ".", "In", "Proceedings", "of", "Eurogaphics", "Workshop", "on", "Rendering", "2000", ",", "Springer", ",", "287-298", ".", "2000", ".", "-LSB-", "Turing", "1952", "-RSB-", "Turing", ",", "A.M.", ".", "The", "chemical", "basis", "of", "morphogenesis", ".", "Transactions", "of", "the", "Royal", "Society", "of", "London", ",", "B237", ".", "37-72", ".", "1952", ".", "-LSB-", "Turk", "1991", "-RSB-", "Turk", ",", "G.", "Generating", "Textures", "on", "Arbitrary", "Surfaces", "Using", "Reaction-Diffusion", ".", "In", "Proceedings", "of", "SIGGRAPH", "1991", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "289-298", ".", "1991", ".", "-LSB-", "von", "Neumann", "1966", "-RSB-", "von", "Neumann", ",", "J.", "Theory", "of", "Self-Reproducing", "Automata", ".", "University", "of", "Illinois", "Press", ".", "1966", ".", "-LSB-", "Weiskopf", ",", "et", "al.", "2001", "-RSB-", "Weiskopf", ",", "D.", ",", "Hopf", ",", "M.", "and", "Ertl", ",", "T.", "Hardware-Accelerated", "Visualization", "of", "Time-Varying", "2D", "and", "3D", "Vector", "Fields", "by", "Texture", "Advection", "via", "Programmable", "Per-Pixel", "Operations", ".", "In", "Proceedings", "of", "Vision", ",", "Modeling", ",", "and", "Visualization", "2001", ",", "439-446", ".", "2001", ".", "-LSB-", "Weisstein", "1999", "-RSB-", "Weisstein", ",", "E.W.", "CRC", "Concise", "Encyclopedia", "of", "Mathematics", ".", "CRC", "Press", ".", "1999", ".", "-LSB-", "Witkin", "and", "Kass", "1991", "-RSB-", "Witkin", ",", "A.", "and", "Kass", ",", "M.", "Reaction-Diffusion", "Textures", ".", "In", "Proceedings", "of", "SIGGRAPH", "1991", ",", "ACM", "Press", "/", "ACM", "SIGGRAPH", ",", "299-308", ".", "1991", ".", "-LSB-", "Wolfram", "1984", "-RSB-", "Wolfram", ",", "S.", "Cellular", "automata", "as", "models", "of", "complexity", ".", "Nature", ",", "311", ".", "419-424", ".", "1984", ".", "-LSB-", "Yanagita", "1992", "-RSB-", "Yanagita", ",", "T.", "Phenomenology", "of", "boiling", ":", "A", "coupled", "map", "lattice", "model", ".", "Chaos", ",", "2", "3", ".", "343-350", ".", "1992", ".", "-LSB-", "Yanagita", "and", "Kaneko", "1993", "-RSB-", "Yanagita", ",", "T.", "and", "Kaneko", ",", "K.", "Coupled", "map", "lattice", "model", "for", "convection", ".", "Physics", "Letters", "A", ",", "175", ".", "415-420", ".", "1993", ".", "-LSB-", "Yanagita", "and", "Kaneko", "1997", "-RSB-", "Yanagita", ",", "T.", "and", "Kaneko", ",", "K.", "Modeling", "and", "Characterization", "of", "Cloud", "Dynamics", ".", "Physical", "Review", "Letters", ",", "78", "22", ".", "4297-4300", ".", "1997", ".", "118", "Harris", ",", "Coombe", ",", "Scheuermann", ",", "and", "Lastra", "/", "Simulation", "on", "Graphics", "Hardware", "The", "Eurographics", "Association", "2002", ".", "Figure", "7", ":", "A", "CML", "boiling", "simulation", "running", "in", "an", "interactive", "3D", "environment", "-LRB-", "the", "steam", "is", "a", "particle", "system", "-RRB-", ".", "Figure", "9", ":", "A", "sequence", "from", "our", "3D", "version", "of", "the", "Gray-Scott", "reaction-diffusion", "model", ".", "Figure", "8", ":", "A", "CML", "convection", "simulation", ".", "The", "left", "panel", "shows", "temperature", ";", "the", "right", "panel", "shows", "2D", "velocity", "encoded", "in", "the", "blue", "and", "green", "color", "channels", ".", "160"], "doc_bio_tags": ["O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dynamic phenomena", "graphics hardware", "simulation", "coupled map lattice", "cml"], "abstractive_keyphrases": ["graphic hardware", "reaction-diffusion", "multipass rendering", "visual simulation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "159", "document": ["Web", "Question", "Answering", ":", "Is", "More", "Always", "Better", "?", "This", "paper", "describes", "a", "question", "answering", "system", "that", "is", "designed", "to", "capitalize", "on", "the", "tremendous", "amount", "of", "data", "that", "is", "now", "available", "online", ".", "Most", "question", "answering", "systems", "use", "a", "wide", "variety", "of", "linguistic", "resources", ".", "We", "focus", "instead", "on", "the", "redundancy", "available", "in", "large", "corpora", "as", "an", "important", "resource", ".", "We", "use", "this", "redundancy", "to", "simplify", "the", "query", "rewrites", "that", "we", "need", "to", "use", ",", "and", "to", "support", "answer", "mining", "from", "returned", "snippets", ".", "Our", "system", "performs", "quite", "well", "given", "the", "simplicity", "of", "the", "techniques", "being", "utilized", ".", "Experimental", "results", "show", "that", "question", "answering", "accuracy", "can", "be", "greatly", "improved", "by", "analyzing", "more", "and", "more", "matching", "passages", ".", "Simple", "passage", "ranking", "and", "n-gram", "extraction", "techniques", "work", "well", "in", "our", "system", "making", "it", "efficient", "to", "use", "with", "many", "backend", "retrieval", "engines", ".", "H.", "3.1", ".", "-LSB-", "Content", "Analysis", "and", "Indexing", "-RSB-", ",", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ".", "Algorithms", ",", "Experimentation", ".", "Question", "answering", "has", "recently", "received", "attention", "from", "the", "information", "retrieval", ",", "information", "extraction", ",", "machine", "learning", ",", "and", "natural", "language", "processing", "communities", "-LSB-", "1", "-RSB-", "-LSB-", "3", "-RSB-", "-LSB-", "19", "-RSB-", "-LSB-", "20", "-RSB-", "The", "goal", "of", "a", "question", "answering", "system", "is", "to", "retrieve", "`", "answers", "'", "to", "questions", "rather", "than", "full", "documents", "or", "even", "best-matching", "passages", "as", "most", "information", "retrieval", "systems", "currently", "do", ".", "The", "TREC", "Question", "Answering", "Track", "which", "has", "motivated", "much", "of", "the", "recent", "work", "in", "the", "field", "focuses", "on", "fact-based", ",", "short-answer", "questions", "such", "as", "``", "Who", "killed", "Abraham", "Lincoln", "?", "''", "or", "``", "How", "tall", "is", "Mount", "Everest", "?", "''", ".", "In", "this", "paper", "we", "focus", "on", "this", "kind", "of", "question", "answering", "task", ",", "although", "the", "techniques", "we", "propose", "are", "more", "broadly", "applicable", ".", "The", "design", "of", "our", "question", "answering", "system", "is", "motivated", "by", "recent", "observations", "in", "natural", "language", "processing", "that", ",", "for", "many", "applications", ",", "significant", "improvements", "in", "accuracy", "can", "be", "attained", "simply", "by", "increasing", "the", "amount", "of", "data", "used", "for", "learning", ".", "Following", "the", "same", "guiding", "principle", "we", "take", "advantage", "of", "the", "tremendous", "data", "resource", "that", "the", "Web", "provides", "as", "the", "backbone", "of", "our", "question", "answering", "system", ".", "Many", "groups", "working", "on", "question", "answering", "have", "used", "a", "variety", "of", "linguistic", "resources", "part-of-speech", "tagging", ",", "syntactic", "parsing", ",", "semantic", "relations", ",", "named", "entity", "extraction", ",", "dictionaries", ",", "WordNet", ",", "etc.", "-LRB-", "e.g.", ",", "-LSB-", "2", "-RSB-", "-LSB-", "8", "-RSB-", "-LSB-", "11", "-RSB-", "-LSB-", "12", "-RSB-", "-LSB-", "13", "-RSB-", "-LSB-", "15", "-RSB-", "-LSB-", "16", "-RSB-", "-RRB-", ".", "We", "chose", "instead", "to", "focus", "on", "the", "Web", "as", "gigantic", "data", "repository", "with", "tremendous", "redundancy", "that", "can", "be", "exploited", "for", "question", "answering", ".", "The", "Web", ",", "which", "is", "home", "to", "billions", "of", "pages", "of", "electronic", "text", ",", "is", "orders", "of", "magnitude", "larger", "than", "the", "TREC", "QA", "document", "collection", ",", "which", "consists", "of", "fewer", "than", "1", "million", "documents", ".", "This", "is", "a", "resource", "that", "can", "be", "usefully", "exploited", "for", "question", "answering", ".", "We", "view", "our", "approach", "as", "complimentary", "to", "more", "linguistic", "approaches", ",", "but", "have", "chosen", "to", "see", "how", "far", "we", "can", "get", "initially", "by", "focusing", "on", "data", "per", "se", "as", "a", "key", "resource", "available", "to", "drive", "our", "system", "design", ".", "Automatic", "QA", "from", "a", "single", ",", "small", "information", "source", "is", "extremely", "challenging", ",", "since", "there", "is", "likely", "to", "be", "only", "one", "answer", "in", "the", "source", "to", "any", "user", "'s", "question", ".", "Given", "a", "source", ",", "such", "as", "the", "TREC", "corpus", ",", "that", "contains", "only", "a", "relatively", "small", "number", "of", "formulations", "of", "answers", "to", "a", "query", ",", "we", "may", "be", "faced", "with", "the", "difficult", "task", "of", "mapping", "questions", "to", "answers", "by", "way", "of", "uncovering", "complex", "lexical", ",", "syntactic", ",", "or", "semantic", "relationships", "between", "question", "string", "and", "answer", "string", ".", "The", "need", "for", "anaphor", "resolution", "and", "synonymy", ",", "the", "presence", "of", "alternate", "syntactic", "formulations", ",", "and", "indirect", "answers", "all", "make", "answer", "finding", "a", "potentially", "challenging", "task", ".", "However", ",", "the", "greater", "the", "answer", "redundancy", "in", "the", "source", "data", "collection", ",", "the", "more", "likely", "it", "is", "that", "we", "can", "find", "an", "answer", "that", "occurs", "in", "a", "simple", "relation", "to", "the", "question", ".", "Therefore", ",", "the", "less", "likely", "it", "is", "that", "we", "will", "need", "to", "resort", "to", "solving", "the", "aforementioned", "difficulties", "facing", "natural", "language", "processing", "systems", ".", "We", "take", "advantage", "of", "the", "redundancy", "-LRB-", "multiple", ",", "differently", "phrased", ",", "answer", "occurrences", "-RRB-", "available", "when", "considering", "massive", "amounts", "of", "data", "in", "two", "key", "ways", "in", "our", "system", ".", "Enables", "Simple", "Query", "Rewrites", ".", "The", "greater", "the", "number", "of", "information", "sources", "we", "can", "draw", "from", ",", "the", "easier", "the", "task", "of", "rewriting", "the", "question", "becomes", ",", "since", "the", "answer", "is", "more", "likely", "to", "be", "expressed", "in", "different", "manners", ".", "For", "example", ",", "consider", "the", "difficulty", "of", "gleaning", "an", "answer", "to", "the", "question", "``", "Who", "killed", "Abraham", "Lincoln", "?", "''", "from", "a", "source", "which", "contains", "only", "the", "text", "``", "John", "Wilkes", "Booth", "altered", "history", "with", "a", "bullet", ".", "He", "will", "forever", "be", "known", "as", "the", "man", "who", "ended", "Abraham", "Lincoln", "'s", "life", ",", "''", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "02", ",", "August", "11-15", ",", "2002", ",", "Tampere", ",", "Finland", ".", "Copyright", "2002", "ACM", "1-58113-561-0", "/", "02/0008", "...", "$", "5.00", ".", "291", "Question", "Rewrite", "Query", "<", "Search", "Engine", ">", "Collect", "Summaries", ",", "Mine", "N-grams", "Filter", "N-Grams", "Tile", "N-Grams", "N-Best", "Answers", "Where", "is", "the", "Louvre", "Museum", "located", "?", "''", "+", "the", "Louvre", "Museum", "+", "is", "located", "''", "''", "+", "the", "Louvre", "Museum", "+", "is", "+", "in", "''", "''", "+", "the", "Louvre", "Museum", "+", "is", "near", "''", "''", "+", "the", "Louvre", "Museum", "+", "is", "''", "Louvre", "AND", "Museum", "AND", "near", "in", "Paris", "France", "59", "%", "museums", "12", "%", "hostels", "10", "%", "Figure", "1", ".", "System", "Architecture", "Question", "Rewrite", "Query", "<", "Search", "Engine", ">", "Collect", "Summaries", ",", "Mine", "N-grams", "Filter", "N-Grams", "Tile", "N-Grams", "N-Best", "Answers", "Where", "is", "the", "Louvre", "Museum", "located", "?", "''", "+", "the", "Louvre", "Museum", "+", "is", "located", "''", "''", "+", "the", "Louvre", "Museum", "+", "is", "+", "in", "''", "''", "+", "the", "Louvre", "Museum", "+", "is", "near", "''", "''", "+", "the", "Louvre", "Museum", "+", "is", "''", "Louvre", "AND", "Museum", "AND", "near", "in", "Paris", "France", "59", "%", "museums", "12", "%", "hostels", "10", "%", "Figure", "1", ".", "System", "Architecture", "versus", "a", "source", "that", "also", "contains", "the", "transparent", "answer", "string", ",", "``", "John", "Wilkes", "Booth", "killed", "Abraham", "Lincoln", ".", "''", "Facilitates", "Answer", "Mining", ".", "Even", "when", "no", "obvious", "answer", "strings", "can", "be", "found", "in", "the", "text", ",", "redundancy", "can", "improve", "the", "efficacy", "of", "question", "answering", ".", "For", "instance", ",", "consider", "the", "question", ":", "``", "How", "many", "times", "did", "Bjorn", "Borg", "win", "Wimbledon", "?", "''", "Assume", "the", "system", "is", "unable", "to", "find", "any", "obvious", "answer", "strings", ",", "but", "does", "find", "the", "following", "sentences", "containing", "``", "Bjorn", "Borg", "''", "and", "``", "Wimbledon", "''", ",", "as", "well", "as", "a", "number", ":", "-LRB-", "1", "-RRB-", "Bjorn", "Borg", "blah", "blah", "Wimbledon", "blah", "blah", "5", "blah", "-LRB-", "2", "-RRB-", "Wimbledon", "blah", "blah", "blah", "Bjorn", "Borg", "blah", "37", "blah", ".", "-LRB-", "3", "-RRB-", "blah", "Bjorn", "Borg", "blah", "blah", "5", "blah", "blah", "Wimbledon", "-LRB-", "4", "-RRB-", "5", "blah", "blah", "Wimbledon", "blah", "blah", "Bjorn", "Borg", ".", "By", "virtue", "of", "the", "fact", "that", "the", "most", "frequent", "number", "in", "these", "sentences", "is", "5", ",", "we", "can", "posit", "that", "as", "the", "most", "likely", "answer", ".", "Other", "researchers", "have", "recently", "looked", "to", "the", "web", "as", "a", "resource", "for", "question", "answering", ".", "The", "Mulder", "system", "described", "by", "Kwok", "et", "al.", "-LSB-", "14", "-RSB-", "is", "similar", "to", "our", "approach", "in", "several", "respects", ".", "For", "each", "question", ",", "Mulder", "submits", "multiple", "queries", "to", "a", "web", "search", "engine", "and", "analyzes", "the", "results", ".", "Mulder", "does", "sophisticated", "parsing", "of", "the", "query", "and", "the", "full-text", "of", "retrieved", "pages", ",", "which", "is", "far", "more", "complex", "and", "compute-intensive", "than", "our", "analysis", ".", "They", "also", "require", "global", "idf", "term", "weights", "for", "answer", "extraction", "and", "selection", ",", "which", "requires", "local", "storage", "of", "a", "database", "of", "term", "weights", ".", "They", "have", "done", "some", "interesting", "user", "studies", "of", "the", "Mulder", "interface", ",", "but", "they", "have", "not", "evaluated", "it", "with", "TREC", "queries", "nor", "have", "they", "looked", "at", "the", "importance", "of", "various", "system", "components", ".", "Clarke", "et", "al.", "-LSB-", "9", "-RSB-", "-LSB-", "10", "-RSB-", "investigated", "the", "importance", "of", "redundancy", "in", "their", "question", "answering", "system", ".", "In", "-LSB-", "9", "-RSB-", "they", "found", "that", "the", "best", "weighting", "of", "passages", "for", "question", "answering", "involves", "using", "both", "passage", "frequency", "-LRB-", "what", "they", "call", "redundancy", "-RRB-", "and", "a", "global", "idf", "term", "weight", ".", "They", "also", "found", "that", "analyzing", "more", "top-ranked", "passages", "was", "helpful", "in", "some", "cases", "and", "not", "in", "others", ".", "Their", "system", "builds", "a", "full-content", "index", "of", "a", "document", "collection", ",", "in", "this", "case", "TREC", ".", "In", "-LSB-", "10", "-RSB-", "they", "use", "web", "data", "to", "reinforce", "the", "scores", "of", "promising", "candidate", "answers", "by", "providing", "additional", "redundancy", ",", "with", "good", "success", ".", "Their", "implementation", "requires", "an", "auxiliary", "web", "corpus", "be", "available", "for", "full-text", "analysis", "and", "global", "term", "weighting", ".", "In", "our", "work", ",", "the", "web", "is", "the", "primary", "source", "of", "redundancy", "and", "we", "operate", "without", "a", "full-text", "index", "of", "documents", "or", "a", "database", "of", "global", "term", "weights", ".", "Buchholz", "'s", "Shapaqa", "NLP", "system", "-LSB-", "7", "-RSB-", "has", "been", "evaluated", "on", "both", "TREC", "and", "Web", "collections", ".", "Question", "answering", "accuracy", "was", "higher", "with", "the", "Web", "collection", "-LRB-", "although", "both", "runs", "were", "poor", "in", "absolute", "terms", "-RRB-", ",", "but", "few", "details", "about", "the", "nature", "of", "the", "differences", "are", "provided", ".", "These", "systems", "typically", "perform", "complex", "parsing", "and", "entity", "extraction", "for", "both", "queries", "and", "best", "matching", "web", "pages", "-LRB-", "-LSB-", "7", "-RSB-", "-LSB-", "14", "-RSB-", "-RRB-", ",", "which", "limits", "the", "number", "of", "web", "pages", "that", "they", "can", "analyze", "in", "detail", ".", "Other", "systems", "require", "term", "weighting", "for", "selecting", "or", "ranking", "the", "best-matching", "passages", "-LRB-", "-LSB-", "10", "-RSB-", "-LSB-", "14", "-RSB-", "-RRB-", "and", "this", "requires", "auxiliary", "data", "structures", ".", "Our", "approach", "is", "distinguished", "from", "these", "in", "its", "simplicity", "-LRB-", "simple", "rewrites", "and", "string", "matching", "-RRB-", "and", "efficiency", "in", "the", "use", "of", "web", "resources", "-LRB-", "use", "of", "only", "summaries", "and", "simple", "ranking", "-RRB-", ".", "We", "now", "describe", "how", "our", "system", "uses", "redundancy", "in", "detail", "and", "evaluate", "this", "systematically", ".", "A", "flow", "diagram", "of", "our", "system", "is", "shown", "in", "Figure", "1", ".", "The", "system", "consists", "of", "four", "main", "components", ".", "Rewrite", "Query", ".", "Given", "a", "question", ",", "the", "system", "generates", "a", "number", "of", "rewrite", "strings", ",", "which", "are", "likely", "substrings", "of", "declarative", "answers", "to", "the", "question", ".", "To", "give", "a", "simple", "example", ",", "from", "the", "question", "``", "When", "was", "Abraham", "Lincoln", "born", "?", "''", "we", "know", "that", "a", "likely", "answer", "formulation", "takes", "the", "form", "``", "Abraham", "Lincoln", "was", "born", "on", "<", "DATE", ">", "''", ".", "Therefore", ",", "we", "can", "look", "through", "the", "collection", "of", "documents", ",", "searching", "for", "such", "a", "pattern", ".", "We", "first", "classify", "the", "question", "into", "one", "of", "seven", "categories", ",", "each", "of", "which", "is", "mapped", "to", "a", "particular", "set", "of", "rewrite", "rules", ".", "Rewrite", "rule", "sets", "range", "in", "size", "from", "one", "to", "five", "rewrite", "types", ".", "The", "output", "of", "the", "rewrite", "module", "is", "a", "set", "of", "3-tuples", "of", "the", "form", "-LSB-", "string", ",", "L/R", "/", "-", ",", "weight", "-RSB-", ",", "where", "''", "string", "''", "is", "the", "reformulated", "292", "search", "query", ",", "''", "L/R", "/", "-", "''", "indicates", "the", "position", "in", "the", "text", "where", "we", "expect", "to", "find", "the", "answer", "with", "respect", "to", "the", "query", "string", "-LRB-", "to", "the", "left", ",", "right", "or", "anywhere", "-RRB-", "and", "''", "weight", "''", "reflects", "how", "much", "we", "prefer", "answers", "found", "with", "this", "particular", "query", ".", "The", "idea", "behind", "using", "a", "weight", "is", "that", "answers", "found", "using", "a", "high", "precision", "query", "-LRB-", "e.g.", ",", "``", "Abraham", "Lincoln", "was", "born", "on", "''", "-RRB-", "are", "more", "likely", "to", "be", "correct", "than", "those", "found", "using", "a", "lower", "precision", "query", "-LRB-", "e.g.", ",", "``", "Abraham", "''", "AND", "``", "Lincoln", "''", "AND", "``", "born", "''", "-RRB-", ".", "We", "do", "not", "use", "a", "parser", "or", "part-of-speech", "tagger", "for", "query", "reformulation", ",", "but", "do", "use", "a", "lexicon", "in", "order", "to", "determine", "the", "possible", "parts-of-speech", "of", "a", "word", "as", "well", "as", "its", "morphological", "variants", ".", "We", "created", "the", "rewrite", "rules", "and", "associated", "weights", "manually", "for", "the", "current", "system", ",", "although", "it", "may", "be", "possible", "to", "learn", "query-to-answer", "reformulations", "and", "weights", "-LRB-", "e.g.", "see", "Agichtein", "et", "al.", "-LSB-", "4", "-RSB-", ";", "Radev", "et", "al.", "-LSB-", "17", "-RSB-", "-RRB-", ".", "The", "rewrites", "generated", "by", "our", "system", "are", "simple", "string-based", "manipulations", ".", "For", "instance", ",", "some", "question", "types", "involve", "query", "rewrites", "with", "possible", "verb", "movement", ";", "the", "verb", "``", "is", "''", "in", "the", "question", "``", "Where", "is", "the", "Louvre", "Museum", "located", "?", "''", "should", "be", "moved", "in", "formulating", "the", "desired", "rewrite", "to", "``", "The", "Louvre", "Museum", "is", "located", "in", "''", ".", "While", "we", "might", "be", "able", "to", "determine", "where", "to", "move", "a", "verb", "by", "analyzing", "the", "sentence", "syntactically", ",", "we", "took", "a", "much", "simpler", "approach", ".", "Given", "a", "query", "such", "as", "``", "Where", "is", "w", "1", "w", "2", "...", "w", "n", "''", ",", "where", "each", "of", "the", "w", "i", "is", "a", "word", ",", "we", "generate", "a", "rewrite", "for", "each", "possible", "position", "the", "verb", "could", "be", "moved", "to", "-LRB-", "e.g.", "``", "w", "1", "is", "w", "2", "...", "w", "n", "''", ",", "``", "w", "1", "w", "2", "is", "...", "w", "n", "''", ",", "etc", "-RRB-", ".", "While", "such", "an", "approach", "results", "in", "many", "nonsensical", "rewrites", "-LRB-", "e.g.", "``", "The", "Louvre", "is", "Museum", "located", "in", "''", "-RRB-", ",", "these", "very", "rarely", "result", "in", "the", "retrieval", "of", "bad", "pages", ",", "and", "the", "proper", "movement", "position", "is", "guaranteed", "to", "be", "found", "via", "exhaustive", "search", ".", "If", "we", "instead", "relied", "on", "a", "parser", ",", "we", "would", "require", "fewer", "query", "rewrites", ",", "but", "a", "misparse", "would", "result", "in", "the", "proper", "rewrite", "not", "being", "found", ".", "For", "each", "query", "we", "also", "generate", "a", "final", "rewrite", "which", "is", "a", "backoff", "to", "a", "simple", "ANDing", "of", "the", "non-stop", "words", "in", "the", "query", ".", "We", "could", "backoff", "even", "further", "to", "ranking", "using", "a", "best-match", "retrieval", "system", "which", "does", "n't", "require", "the", "presence", "of", "all", "terms", "and", "uses", "differential", "term", "weights", ",", "but", "we", "did", "not", "find", "that", "this", "was", "necessary", "when", "using", "the", "Web", "as", "a", "source", "of", "data", ".", "There", "are", "an", "average", "of", "6.7", "rewrites", "for", "the", "500", "TREC-9", "queries", "used", "in", "the", "experiments", "described", "below", ".", "As", "an", "example", ",", "the", "rewrites", "for", "the", "query", "``", "Who", "created", "the", "character", "of", "Scrooge", "?", "''", "are", ":", "LEFT_5", "_", "``", "created", "+", "the", "character", "+", "of", "Scrooge", "''", "RIGHT_5", "_", "''", "+", "the", "character", "+", "of", "Scrooge", "+", "was", "created", "+", "by", "''", "AND_2", "_", "``", "created", "''", "AND", "''", "+", "the", "character", "''", "AND", "''", "+", "of", "Scrooge", "''", "AND_1", "_", "``", "created", "''", "AND", "``", "character", "''", "AND", "``", "Scrooge", "''", "To", "date", "we", "have", "used", "only", "simple", "string", "matching", "techniques", ".", "Soubbotin", "and", "Soubbotin", "-LSB-", "18", "-RSB-", "have", "used", "much", "richer", "regular", "expression", "matching", "to", "provide", "hints", "about", "likely", "answers", ",", "with", "very", "good", "success", "in", "TREC", "2001", ",", "and", "we", "could", "certainly", "incorporate", "some", "of", "these", "ideas", "in", "our", "rewrites", ".", "Note", "that", "many", "of", "our", "rewrites", "require", "the", "matching", "of", "stop", "words", "like", "``", "in", "''", "and", "``", "the", "''", ",", "in", "the", "above", "example", ".", "In", "our", "system", "stop", "words", "are", "important", "indicators", "of", "likely", "answers", ",", "and", "we", "do", "not", "ignore", "them", "as", "most", "ranked", "retrieval", "systems", "do", ",", "except", "in", "the", "final", "backoff", "AND", "rewrite", ".", "The", "query", "rewrites", "are", "then", "formulated", "as", "search", "engine", "queries", "and", "sent", "to", "a", "search", "engine", "from", "which", "page", "summaries", "are", "collected", "and", "analyzed", ".", "Mine", "N-Grams", ".", "From", "the", "page", "summaries", "returned", "by", "the", "search", "engine", ",", "n-grams", "are", "mined", ".", "For", "reasons", "of", "efficiency", ",", "we", "use", "only", "the", "returned", "summaries", "and", "not", "the", "full-text", "of", "the", "corresponding", "web", "page", ".", "The", "returned", "summaries", "contain", "the", "query", "terms", ",", "usually", "with", "a", "few", "words", "of", "surrounding", "context", ".", "In", "some", "cases", ",", "this", "surrounding", "context", "has", "truncated", "the", "answer", "string", ",", "which", "may", "negatively", "impact", "results", ".", "The", "summary", "text", "is", "then", "processed", "to", "retrieve", "only", "strings", "to", "the", "left", "or", "right", "of", "the", "query", "string", ",", "as", "specified", "in", "the", "rewrite", "triple", ".", "1", "-", ",", "2", "-", ",", "and", "3-grams", "are", "extracted", "from", "the", "summaries", ".", "An", "N-gram", "is", "scored", "according", "the", "weight", "of", "the", "query", "rewrite", "that", "retrieved", "it", ".", "These", "scores", "are", "summed", "across", "the", "summaries", "that", "contain", "the", "n-gram", "-LRB-", "which", "is", "the", "opposite", "of", "the", "usual", "inverse", "document", "frequency", "component", "of", "document/passage", "ranking", "schemes", "-RRB-", ".", "We", "do", "not", "count", "frequency", "of", "occurrence", "within", "a", "summary", "-LRB-", "the", "usual", "tf", "component", "in", "ranking", "schemes", "-RRB-", ".", "Thus", ",", "the", "final", "score", "for", "an", "n-gram", "is", "based", "on", "the", "rewrite", "rules", "that", "generated", "it", "and", "the", "number", "of", "unique", "summaries", "in", "which", "it", "occurred", ".", "When", "searching", "for", "candidate", "answers", ",", "we", "enforce", "the", "constraint", "that", "at", "most", "one", "stopword", "is", "permitted", "to", "appear", "in", "any", "potential", "n-gram", "answers", ".", "The", "top-ranked", "n-grams", "for", "the", "Scrooge", "query", "are", ":", "Dickens", "117", "Christmas", "Carol", "78", "Charles", "Dickens", "75", "Disney", "72", "Carl", "Banks", "54", "A", "Christmas", "41", "uncle", "31", "Filter/Reweight", "N-Grams", ".", "Next", ",", "the", "n-grams", "are", "filtered", "and", "reweighted", "according", "to", "how", "well", "each", "candidate", "matches", "the", "expected", "answer-type", ",", "as", "specified", "by", "a", "handful", "of", "handwritten", "filters", ".", "The", "system", "uses", "filtering", "in", "the", "following", "manner", ".", "First", ",", "the", "query", "is", "analyzed", "and", "assigned", "one", "of", "seven", "question", "types", ",", "such", "as", "who-question", ",", "what-question", ",", "or", "how-many-question", ".", "Based", "on", "the", "query", "type", "that", "has", "been", "assigned", ",", "the", "system", "determines", "what", "collection", "of", "filters", "to", "apply", "to", "the", "set", "of", "potential", "answers", "found", "during", "n-gram", "harvesting", ".", "The", "answers", "are", "analyzed", "for", "features", "relevant", "to", "the", "filters", ",", "and", "then", "rescored", "according", "to", "the", "presence", "of", "such", "information", ".", "A", "collection", "of", "approximately", "15", "filters", "were", "developed", "based", "on", "human", "knowledge", "about", "question", "types", "and", "the", "domain", "from", "which", "their", "answers", "can", "be", "drawn", ".", "These", "filters", "used", "surface", "string", "features", ",", "such", "as", "capitalization", "or", "the", "presence", "of", "digits", ",", "and", "consisted", "of", "handcrafted", "regular", "expression", "patterns", ".", "After", "the", "system", "has", "determined", "which", "filters", "to", "apply", "to", "a", "pool", "of", "candidate", "answers", ",", "the", "selected", "filters", "are", "applied", "to", "each", "candidate", "string", "and", "used", "to", "adjust", "the", "score", "of", "the", "string", ".", "In", "most", "cases", ",", "filters", "are", "used", "to", "boost", "the", "score", "of", "a", "potential", "answer", "when", "it", "has", "been", "determined", "to", "possess", "the", "features", "relevant", "to", "the", "query", "type", ".", "In", "other", "cases", ",", "filters", "are", "used", "to", "remove", "strings", "from", "the", "candidate", "list", "altogether", ".", "This", "type", "of", "exclusion", "was", "only", "performed", "when", "the", "set", "of", "correct", "answers", "was", "determined", "to", "be", "a", "293", "closed", "set", "-LRB-", "e.g.", "``", "Which", "continent", "...", "?", "''", "-RRB-", "or", "definable", "by", "a", "set", "of", "closed", "properties", "-LRB-", "e.g.", "``", "How", "many", "...", "?", "''", "-RRB-", ".", "Tile", "N-Grams", ".", "Finally", ",", "we", "applied", "an", "answer", "tiling", "algorithm", ",", "which", "both", "merges", "similar", "answers", "and", "assembles", "longer", "answers", "out", "of", "answer", "fragments", ".", "Tiling", "constructs", "longer", "n-grams", "from", "sequences", "of", "overlapping", "shorter", "n-grams", ".", "For", "example", ",", "``", "A", "B", "C", "''", "and", "``", "B", "C", "D", "''", "is", "tiled", "into", "``", "A", "B", "C", "D.", "''", "The", "algorithm", "proceeds", "greedily", "from", "the", "top-scoring", "candidate", "-", "all", "subsequent", "candidates", "-LRB-", "up", "to", "a", "certain", "cutoff", "-RRB-", "are", "checked", "to", "see", "if", "they", "can", "be", "tiled", "with", "the", "current", "candidate", "answer", ".", "If", "so", ",", "the", "higher", "scoring", "candidate", "is", "replaced", "with", "the", "longer", "tiled", "n-gram", ",", "and", "the", "lower", "scoring", "candidate", "is", "removed", ".", "The", "algorithm", "stops", "only", "when", "no", "n-grams", "can", "be", "further", "tiled", ".", "The", "top-ranked", "n-grams", "after", "tiling", "for", "the", "Scrooge", "query", "are", ":", "Charles", "Dickens", "117", "A", "Christmas", "Carol", "78", "Walt", "Disney", "'s", "uncle", "72", "Carl", "Banks", "54", "uncle", "31", "Our", "system", "works", "most", "efficiently", "and", "naturally", "with", "a", "backend", "retrieval", "system", "that", "returns", "best-matching", "passages", "or", "query-relevant", "document", "summaries", ".", "We", "can", ",", "of", "course", ",", "post-process", "the", "full", "text", "of", "matching", "documents", "to", "extract", "summaries", "for", "n-gram", "mining", ",", "but", "this", "is", "inefficient", "especially", "in", "Web", "applications", "where", "the", "full", "text", "of", "documents", "would", "have", "to", "be", "downloaded", "over", "the", "network", "at", "query", "time", ".", "For", "our", "experimental", "evaluations", "we", "used", "the", "first", "500", "TREC-9", "queries", "-LRB-", "201-700", "-RRB-", "-LSB-", "19", "-RSB-", ".", "For", "simplicity", "we", "ignored", "queries", "which", "are", "syntactic", "rewrites", "of", "earlier", "queries", "-LRB-", "701-893", "-RRB-", ",", "although", "including", "them", "does", "not", "change", "the", "results", "in", "any", "substantive", "way", ".", "We", "used", "the", "patterns", "provided", "by", "NIST", "for", "automatic", "scoring", ".", "A", "few", "patterns", "were", "slightly", "modified", "to", "accommodate", "the", "fact", "that", "some", "of", "the", "answer", "strings", "returned", "using", "the", "Web", "were", "not", "available", "for", "judging", "in", "TREC-9", ".", "We", "did", "this", "in", "a", "very", "conservative", "manner", "allowing", "for", "more", "specific", "correct", "answers", "-LRB-", "e.g.", ",", "Edward", "J.", "Smith", "vs.", "Edward", "Smith", "-RRB-", "but", "not", "more", "general", "ones", "-LRB-", "e.g.", ",", "Smith", "vs.", "Edward", "Smith", "-RRB-", ",", "and", "simple", "substitutions", "-LRB-", "e.g.", ",", "9", "months", "vs.", "nine", "months", "-RRB-", ".", "These", "changes", "influence", "the", "absolute", "scores", "somewhat", "but", "do", "not", "change", "relative", "performance", ",", "which", "is", "our", "focus", "here", ".", "Many", "of", "the", "TREC", "queries", "are", "time", "sensitive", "that", "is", ",", "the", "correct", "answer", "depends", "on", "when", "the", "question", "is", "asked", ".", "The", "TREC", "database", "covers", "a", "period", "of", "time", "more", "than", "10", "years", "ago", ";", "the", "Web", "is", "much", "more", "current", ".", "Because", "of", "this", "mismatch", ",", "many", "correct", "answers", "returned", "from", "the", "Web", "will", "be", "scored", "as", "incorrect", "using", "the", "TREC", "answer", "patterns", ".", "10-20", "%", "of", "the", "TREC", "queries", "have", "temporal", "dependencies", ".", "E.g.", ",", "Who", "is", "the", "president", "of", "Bolivia", "?", "What", "is", "the", "exchange", "rate", "between", "England", "and", "the", "U.", "S.", "?", "We", "did", "not", "modify", "the", "answer", "key", "to", "accommodate", "these", "time", "differences", ",", "because", "this", "is", "a", "subjective", "job", "and", "would", "make", "comparison", "with", "earlier", "TREC", "results", "impossible", ".", "For", "the", "main", "Web", "retrieval", "experiments", "we", "used", "Google", "as", "a", "backend", "because", "it", "provides", "query-relevant", "summaries", "that", "make", "our", "n-gram", "mining", "techniques", "more", "efficient", ".", "Thus", "we", "have", "access", "to", "more", "than", "2", "billion", "web", "pages", ".", "For", "some", "experiments", "in", "TREC", "retrieval", "we", "use", "the", "standard", "QA", "collection", "consisting", "of", "news", "documents", "from", "Disks", "1-5", ".", "The", "TREC", "collection", "has", "just", "under", "1", "million", "documents", "-LSB-", "19", "-RSB-", ".", "All", "runs", "are", "completely", "automatic", ",", "starting", "with", "queries", "and", "generating", "a", "ranked", "list", "of", "5", "candidate", "answers", ".", "Candidate", "answers", "are", "a", "maximum", "of", "50", "bytes", "long", ",", "and", "typically", "much", "shorter", "than", "that", ".", "We", "report", "the", "Mean", "Reciprocal", "Rank", "-LRB-", "MRR", "-RRB-", "of", "the", "first", "correct", "answer", ",", "the", "Number", "of", "Questions", "Correctly", "Answered", "-LRB-", "NumCorrect", "-RRB-", ",", "and", "the", "Proportion", "of", "Questions", "Correctly", "Answered", "-LRB-", "PropCorrect", "-RRB-", ".", "Correct", "answers", "at", "any", "rank", "are", "included", "in", "the", "number", "and", "proportion", "correct", "measures", ".", "Most", "correct", "answers", "are", "at", "the", "top", "of", "the", "list", "--", "70", "%", "of", "the", "correct", "answers", "occur", "in", "the", "first", "position", "and", "90", "%", "in", "the", "first", "or", "second", "positions", ".", "Using", "our", "system", "with", "default", "settings", "for", "query", "rewrite", "weights", ",", "number", "of", "summaries", "returned", ",", "etc.", "we", "obtain", "a", "MRR", "of", "0.507", "and", "answer", "61", "%", "of", "the", "queries", ".", "The", "average", "answer", "length", "was", "12", "bytes", ",", "so", "the", "system", "is", "really", "returning", "short", "answers", "not", "passages", ".", "This", "is", "very", "good", "performance", "and", "would", "place", "us", "near", "the", "top", "of", "50-byte", "runs", "for", "TREC-9", ".", "However", ",", "since", "we", "did", "not", "take", "part", "in", "TREC-9", "it", "is", "impossible", "to", "compare", "our", "results", "precisely", "with", "those", "systems", "-LRB-", "e.g.", ",", "we", "used", "TREC-9", "for", "tuning", "our", "TREC-10", "system", "increasing", "our", "score", "somewhat", ",", "but", "we", "return", "several", "correct", "answers", "that", "were", "not", "found", "in", "TREC-9", "thus", "decreasing", "our", "score", "somewhat", "-RRB-", ".", "Redundancy", "is", "used", "in", "two", "key", "ways", "in", "our", "data-driven", "approach", ".", "First", ",", "the", "occurrence", "of", "multiple", "linguistic", "formulations", "of", "the", "same", "answers", "increases", "the", "chances", "of", "being", "able", "to", "find", "an", "answer", "that", "occurs", "within", "the", "context", "of", "a", "simple", "pattern", "match", "with", "the", "query", ".", "Second", ",", "answer", "redundancy", "facilitates", "the", "process", "of", "answer", "extraction", "by", "giving", "higher", "weight", "to", "answers", "that", "occur", "more", "often", "-LRB-", "i.e.", ",", "in", "more", "different", "document", "summaries", "-RRB-", ".", "We", "now", "evaluate", "the", "contributions", "of", "these", "experimentally", ".", "5.1", "Number", "of", "Snippets", "We", "begin", "by", "examining", "the", "importance", "of", "redundancy", "in", "answer", "extraction", ".", "To", "do", "this", "we", "vary", "the", "number", "of", "summaries", "-LRB-", "snippets", "-RRB-", "that", "we", "get", "back", "from", "the", "search", "engine", "and", "use", "as", "input", "to", "the", "n-gram", "mining", "process", ".", "Our", "standard", "system", "uses", "100", "snippets", ".", "We", "varied", "the", "number", "of", "snippets", "from", "1", "to", "1000", ".", "The", "results", "are", "shown", "in", "Figure", "2", ".", "Performance", "improves", "sharply", "as", "the", "number", "of", "snippets", "increases", "from", "1", "to", "50", "-LRB-", "0.243", "MRR", "for", "1", "snippet", ",", "0.370", "MRR", "for", "5", ",", "0.423", "MRR", "for", "10", ",", "and", "0.501", "for", "50", "-RRB-", ",", "somewhat", "more", "slowly", "after", "that", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "1", "10", "100", "1000", "Num", "ber", "of", "Snippets", "MR", "R", "Figure", "2", ".", "MRR", "as", "a", "function", "of", "number", "of", "snippets", "returned", ".", "TREC-9", ",", "queries", "201-700", ".", "294", "-LRB-", "peaking", "0.514", "MRR", "with", "200", "snippets", "-RRB-", ",", "and", "then", "falling", "off", "somewhat", "after", "that", "as", "more", "snippets", "are", "included", "for", "n-gram", "analysis", ".", "Thus", ",", "over", "quite", "a", "wide", "range", ",", "the", "more", "snippets", "we", "consider", "in", "selecting", "and", "ranking", "n-grams", "the", "better", ".", "We", "believe", "that", "the", "slight", "drop", "at", "the", "high", "end", "is", "due", "to", "the", "increasing", "influence", "that", "the", "weaker", "rewrites", "have", "when", "many", "snippets", "are", "returned", ".", "The", "most", "restrictive", "rewrites", "return", "only", "a", "few", "matching", "documents", ".", "Increasing", "the", "number", "of", "snippets", "increases", "the", "number", "of", "the", "least", "restrictive", "matches", "-LRB-", "the", "AND", "matches", "-RRB-", ",", "thus", "swamping", "the", "restrictive", "matches", ".", "In", "addition", ",", "frequent", "n-grams", "begin", "to", "dominate", "our", "rankings", "at", "this", "point", ".", "An", "example", "of", "failures", "resulting", "from", "too", "many", "AND", "matches", "is", "Query", "594", ":", "What", "is", "the", "longest", "word", "in", "the", "English", "language", "?", "For", "this", "query", ",", "there", "are", "40", "snippets", "matching", "the", "rewrite", "``", "is", "the", "longest", "word", "in", "the", "English", "language", "''", "with", "weight", "5", ",", "40", "more", "snippets", "matching", "the", "rewrite", "``", "the", "longest", "word", "in", "the", "English", "language", "is", "''", "with", "the", "weight", "5", ",", "and", "more", "than", "100", "snippets", "matching", "the", "backoff", "AND", "query", "-LRB-", "``", "longest", "''", "AND", "``", "word", "''", "AND", "``", "English", "''", "AND", "``", "language", "''", "-RRB-", "with", "a", "weight", "of", "1", ".", "When", "100", "snippets", "are", "used", ",", "the", "precise", "rewrites", "contribute", "almost", "as", "many", "snippets", "as", "the", "AND", "rewrite", ".", "In", "this", "case", "we", "find", "the", "correct", "answer", ",", "``", "pneumonoultramicroscopicsilicovolcanokoniosis", "''", ",", "in", "the", "second", "rank", ".", "The", "first", "answer", ",", "``", "1909", "letters", "long", "''", ",", "which", "is", "incorrect", ",", "also", "matches", "many", "precise", "rewrites", "such", "as", "``", "the", "longest", "word", "in", "English", "is", "##", "letters", "long", "''", ",", "and", "we", "pick", "up", "on", "this", ".", "When", "1000", "snippets", "are", "used", ",", "the", "weaker", "AND", "rewrites", "dominate", "the", "matches", ".", "In", "this", "case", ",", "the", "correct", "answer", "falls", "to", "seventh", "on", "the", "list", "after", "``", "letters", "long", "''", ",", "``", "one", "syllable", "''", ",", "``", "is", "screeched", "''", ",", "``", "facts", "''", ",", "``", "stewardesses", "''", "and", "``", "dictionary", "''", ",", "all", "of", "which", "occur", "commonly", "in", "results", "from", "the", "least", "restrictive", "AND", "rewrite", ".", "A", "very", "common", "AND", "match", "contains", "the", "phrase", "``", "the", "longest", "one-syllable", "word", "in", "the", "English", "language", "is", "screeched", "''", ",", "and", "this", "accounts", "for", "two", "of", "our", "incorrect", "answers", ".", "Using", "differential", "term", "weighting", "of", "answer", "terms", ",", "as", "many", "retrieval", "systems", "do", ",", "should", "help", "overcome", "this", "problem", "to", "some", "extent", "but", "we", "would", "like", "to", "avoid", "maintaining", "a", "database", "of", "global", "term", "weights", ".", "Alternatively", "we", "could", "refine", "our", "weight", "accumulation", "scheme", "to", "dampen", "the", "effects", "of", "many", "weakly", "restrictive", "matches", "by", "sub-linear", "accumulation", ",", "and", "we", "are", "currently", "exploring", "several", "alternatives", "for", "doing", "this", ".", "Our", "main", "results", "on", "snippet", "redundancy", "are", "consistent", "with", "those", "reported", "by", "Clarke", "et", "al.", "-LSB-", "9", "-RSB-", ",", "although", "they", "worked", "with", "the", "much", "smaller", "TREC", "collection", ".", "They", "examined", "a", "subset", "of", "the", "TREC-9", "queries", "requiring", "a", "person", "'s", "name", "as", "the", "answer", ".", "They", "varied", "the", "number", "of", "passages", "retrieved", "-LRB-", "which", "they", "call", "depth", "-RRB-", "from", "25", "to", "100", ",", "and", "observed", "some", "improvements", "in", "MRR", ".", "When", "the", "passages", "they", "retrieved", "were", "small", "-LRB-", "250", "or", "500", "bytes", "-RRB-", "they", "found", "improvement", ",", "but", "when", "the", "passages", "were", "larger", "-LRB-", "1000", "or", "2000", "bytes", "-RRB-", "no", "improvements", "were", "observed", ".", "The", "snippets", "we", "used", "are", "shorter", "than", "250", "bytes", ",", "so", "the", "results", "are", "consistent", ".", "Clarke", "et", "al.", "-LSB-", "9", "-RSB-", "also", "explored", "a", "different", "notion", "of", "redundancy", "-LRB-", "which", "they", "refer", "to", "as", "c", "i", "-RRB-", ".", "c", "i", "is", "the", "number", "of", "different", "passages", "that", "match", "an", "answer", ".", "Their", "best", "performance", "is", "achieved", "when", "both", "c", "i", "and", "term", "weighting", "are", "used", "to", "rank", "passages", ".", "We", "too", "use", "the", "number", "of", "snippets", "that", "an", "n-gram", "occurs", "in", ".", "We", "do", "not", ",", "however", ",", "use", "global", "term", "weights", ",", "but", "have", "tried", "other", "techniques", "for", "weighting", "snippets", "as", "described", "below", ".", "5.2", "TREC", "vs.", "Web", "Databases", "Another", "way", "to", "explore", "the", "importance", "of", "redundancy", "is", "to", "run", "our", "system", "directly", "on", "the", "TREC", "documents", ".", "As", "noted", "earlier", ",", "there", "are", "three", "orders", "of", "magnitude", "more", "documents", "on", "the", "Web", "than", "in", "the", "TREC", "QA", "collection", ".", "Consequently", ",", "there", "will", "be", "fewer", "alternative", "ways", "of", "saying", "the", "same", "thing", "and", "fewer", "matching", "documents", "available", "for", "mining", "the", "candidate", "n-grams", ".", "We", "suspect", "that", "this", "lack", "of", "redundancy", "will", "limit", "the", "success", "of", "our", "approach", "when", "applied", "directly", "on", "TREC", "documents", ".", "While", "corpus", "size", "is", "an", "obvious", "and", "important", "difference", "between", "the", "TREC", "and", "Web", "collections", "there", "are", "other", "differences", "as", "well", ".", "For", "example", ",", "text", "analysis", ",", "ranking", ",", "and", "snippet", "extraction", "techniques", "will", "all", "vary", "somewhat", "in", "ways", "that", "we", "can", "not", "control", ".", "To", "better", "isolate", "the", "size", "factor", ",", "we", "also", "ran", "our", "system", "against", "another", "Web", "search", "engine", ".", "For", "these", "experiments", "we", "used", "only", "the", "AND", "rewrites", "and", "looked", "at", "the", "first", "100", "snippets", ".", "We", "had", "to", "restrict", "ourselves", "to", "AND", "rewrites", "because", "some", "of", "the", "search", "engines", "we", "used", "do", "not", "support", "the", "inclusion", "of", "stop", "words", "in", "phrases", ",", "e.g.", ",", "``", "created", "+", "the", "character", "+", "of", "Scrooge", "''", ".", "5.2.1", "TREC", "Database", "The", "TREC", "QA", "collection", "consists", "of", "just", "under", "1", "million", "documents", ".", "We", "expect", "much", "less", "redundancy", "here", "compared", "to", "the", "Web", ",", "and", "suspect", "that", "this", "will", "limit", "the", "success", "of", "our", "approach", ".", "An", "analysis", "of", "the", "TREC-9", "query", "set", "-LRB-", "201-700", "-RRB-", "shows", "that", "no", "queries", "have", "100", "judged", "relevant", "documents", ".", "Only", "10", "of", "the", "500", "questions", "have", "50", "or", "more", "relevant", "documents", ",", "which", "the", "results", "in", "Figure", "2", "suggest", "are", "required", "for", "the", "good", "system", "performance", ".", "And", "a", "very", "large", "number", "of", "queries", ",", "325", ",", "have", "fewer", "than", "10", "relevant", "documents", ".", "We", "used", "an", "Okapi", "backend", "retrieval", "engine", "for", "the", "TREC", "collection", ".", "Since", "we", "used", "only", "Boolean", "AND", "rewrites", ",", "we", "did", "not", "take", "advantage", "of", "Okapi", "'s", "best", "match", "ranking", "algorithm", ".", "However", ",", "most", "queries", "return", "fewer", "than", "100", "documents", ",", "so", "we", "wind", "up", "examining", "most", "of", "the", "matches", "anyway", ".", "We", "developed", "two", "snippet", "extraction", "techniques", "to", "generate", "query-relevant", "summaries", "for", "use", "in", "n-gram", "mining", ".", "A", "Contiguous", "technique", "returned", "the", "smallest", "window", "containing", "all", "the", "query", "terms", "along", "with", "10", "words", "of", "context", "on", "either", "side", ".", "Windows", "that", "were", "greater", "than", "500", "words", "were", "ignored", ".", "This", "approach", "is", "similar", "to", "passage", "retrieval", "techniques", "albeit", "without", "differential", "term", "weighting", ".", "A", "Non-Contiguous", "technique", "returned", "the", "union", "of", "two", "word", "matches", "along", "with", "10", "words", "of", "context", "on", "either", "side", ".", "Single", "words", "not", "previously", "covered", "are", "included", "as", "well", ".", "The", "search", "engine", "we", "used", "for", "the", "initial", "Web", "experiments", "returns", "both", "contiguous", "and", "non-contiguous", "snippets", ".", "Figure", "3", "shows", "the", "results", "of", "this", "experiment", ".", "MRR", "NumCorrect", "PropCorrect", "Web1", "0.450", "281", "0.562", "TREC", ",", "Contiguous", "Snippet", "0.186", "117", "0.234", "TREC", ",", "Non-Contiguous", "Snippet", "0.187", "128", "0.256", "AND", "Rewrites", "Only", ",", "Top", "100", "Figure", "3", ":", "Web", "vs.", "TREC", "as", "data", "source", "295", "Our", "baseline", "system", "using", "all", "rewrites", "and", "retrieving", "100", "snippets", "achieves", "0.507", "MRR", "-LRB-", "Figure", "2", "-RRB-", ".", "Using", "only", "the", "AND", "query", "rewrites", "results", "in", "worse", "performance", "for", "our", "baseline", "system", "with", "0.450", "MRR", "-LRB-", "Figure", "3", "-RRB-", ".", "More", "noticeable", "than", "this", "difference", "is", "the", "drop", "in", "performance", "of", "our", "system", "using", "TREC", "as", "a", "data", "source", "compared", "to", "using", "the", "much", "larger", "Web", "as", "a", "data", "source", ".", "MRR", "drops", "from", "0.450", "to", "0.186", "for", "contiguous", "snippets", "and", "0.187", "for", "non-contiguous", "snippets", ",", "and", "the", "proportion", "of", "questions", "answered", "correctly", "drops", "from", "56", "%", "to", "23", "%", "for", "contiguous", "snippets", "and", "26", "%", "for", "non-contiguous", "snippets", ".", "It", "is", "worth", "noting", "that", "the", "TREC", "MRR", "scores", "would", "still", "place", "this", "system", "in", "the", "top", "half", "of", "the", "systems", "for", "the", "TREC-9", "50-byte", "task", ",", "even", "though", "we", "tuned", "our", "system", "to", "work", "on", "much", "larger", "collections", ".", "However", ",", "we", "can", "do", "much", "better", "simply", "by", "using", "more", "data", ".", "The", "lack", "of", "redundancy", "in", "the", "TREC", "collection", "accounts", "for", "a", "large", "part", "of", "this", "drop", "off", "in", "performance", ".", "Clarke", "et", "al.", "-LSB-", "10", "-RSB-", "have", "also", "reported", "better", "performance", "using", "the", "Web", "directly", "for", "TREC", "2001", "questions", ".", "We", "expect", "that", "the", "performance", "difference", "between", "TREC", "and", "the", "Web", "would", "increase", "further", "if", "all", "the", "query", "rewrites", "were", "used", ".", "This", "is", "because", "there", "are", "so", "few", "exact", "phrase", "matches", "in", "TREC", "relative", "to", "the", "Web", ",", "and", "the", "precise", "matches", "improve", "performance", "by", "13", "%", "-LRB-", "0.507", "vs.", "0.450", "-RRB-", ".", "We", "believe", "that", "database", "size", "per", "se", "-LRB-", "and", "the", "associated", "redundancy", "-RRB-", "is", "the", "most", "important", "difference", "between", "the", "TREC", "and", "Web", "collections", ".", "As", "noted", "above", ",", "however", ",", "there", "are", "other", "differences", "between", "the", "systems", "such", "as", "text", "analysis", ",", "ranking", ",", "and", "snippet", "extraction", "techniques", ".", "While", "we", "can", "not", "control", "the", "text", "analysis", "and", "ranking", "components", "of", "Web", "search", "engines", ",", "we", "can", "use", "the", "same", "snippet", "extraction", "techniques", ".", "We", "can", "also", "use", "a", "different", "Web", "search", "engine", "to", "mitigate", "the", "effects", "of", "a", "specific", "text", "analysis", "and", "ranking", "algorithms", ".", "5.2.2", "Another", "Web", "Search", "Engine", "For", "these", "experiments", "we", "used", "the", "MSNSearch", "search", "engine", ".", "At", "the", "time", "of", "our", "experiments", ",", "the", "summaries", "returned", "were", "independent", "of", "the", "query", ".", "So", "we", "retrieved", "the", "full", "text", "of", "the", "top", "100", "web", "pages", "and", "applied", "the", "two", "snippet", "extraction", "techniques", "described", "above", "to", "generate", "query-relevant", "summaries", ".", "As", "before", ",", "all", "runs", "are", "completely", "automatic", ",", "starting", "with", "queries", ",", "retrieving", "web", "pages", ",", "extracting", "snippets", ",", "and", "generating", "a", "ranked", "list", "of", "5", "candidate", "answers", ".", "The", "results", "of", "these", "experiments", "are", "shown", "in", "Figure", "4", ".", "The", "original", "results", "are", "referred", "to", "as", "Web1", "and", "the", "new", "results", "as", "Web2", ".", "MRR", "NumCorrect", "PropCorrect", "Web1", "0.450", "281", "0.562", "TREC", ",", "Contiguous", "Snippet", "0.186", "117", "0.234", "TREC", ",", "Non-Contiguous", "Snippet", "0.187", "128", "0.256", "Web2", ",", "Contiguous", "Snippet", "0.355", "227", "0.454", "Web2", ",", "Non-Contiguous", "Snippet", "0.383", "243", "0.486", "AND", "Rewrites", "Only", ",", "Top", "100", "Figure", "4", ":", "Web", "vs.", "TREC", "as", "data", "source", "The", "Web2", "results", "are", "somewhat", "worse", "than", "the", "Web1", "results", ",", "but", "this", "is", "expected", "given", "that", "we", "developed", "our", "system", "using", "the", "Web1", "backend", ",", "and", "did", "not", "do", "any", "tuning", "of", "our", "snippet", "extraction", "algorithms", ".", "In", "addition", ",", "we", "believe", "that", "the", "Web2", "collection", "indexed", "somewhat", "less", "content", "than", "Web1", "at", "the", "time", "of", "our", "experiments", ",", "which", "should", "decrease", "performance", "in", "and", "of", "itself", ".", "More", "importantly", ",", "the", "Web2", "results", "are", "much", "better", "than", "the", "TREC", "results", "for", "both", "snippet", "extraction", "techniques", ",", "almost", "doubling", "MRR", "in", "both", "cases", ".", "Thus", ",", "we", "have", "shown", "that", "QA", "is", "more", "successful", "using", "another", "large", "Web", "collection", "compared", "to", "the", "small", "TREC", "collection", ".", "The", "consistency", "of", "this", "result", "across", "Web", "collections", "points", "to", "size", "and", "redundancy", "as", "the", "key", "factors", ".", "5.2.3", "Combining", "TREC", "and", "Web", "Given", "that", "the", "system", "benefits", "from", "having", "a", "large", "text", "collection", "from", "which", "to", "search", "for", "potential", "answers", ",", "then", "we", "would", "expect", "that", "combining", "both", "the", "Web", "and", "TREC", "corpus", "would", "result", "in", "even", "greater", "accuracy", ".", "We", "ran", "two", "experiments", "to", "test", "this", ".", "Because", "there", "was", "no", "easy", "way", "to", "merge", "the", "two", "corpora", ",", "we", "instead", "combined", "the", "output", "of", "QA", "system", "built", "on", "each", "corpus", ".", "For", "these", "experiments", "we", "used", "the", "original", "Web1", "system", "and", "our", "TREC", "system", ".", "We", "used", "only", "the", "AND", "query", "rewrites", ",", "looked", "at", "the", "Top1000", "search", "results", "for", "each", "rewrite", ",", "and", "used", "a", "slightly", "different", "snippet", "extraction", "technique", ".", "For", "these", "parameter", "settings", ",", "the", "base", "TREC-based", "system", "had", "a", "MRR", "of", ".262", ",", "the", "Web-based", "system", "had", "a", "MRR", "of", ".416", ".", "First", ",", "we", "ran", "an", "oracle", "experiment", "to", "assess", "the", "potential", "gain", "that", "could", "be", "attained", "by", "combining", "the", "output", "of", "the", "Web-based", "and", "TREC-based", "QA", "systems", ".", "We", "implemented", "a", "``", "switching", "oracle", "''", ",", "which", "decides", "for", "each", "question", "whether", "to", "use", "the", "output", "from", "the", "Web-based", "QA", "system", "or", "the", "TREC-based", "QA", "system", ",", "based", "upon", "which", "system", "output", "had", "a", "higher", "ranking", "correct", "answer", ".", "The", "switching", "oracle", "had", "a", "MRR", "of", ".468", ",", "a", "12.5", "%", "improvement", "over", "the", "Web-based", "system", ".", "Note", "that", "this", "oracle", "does", "not", "precisely", "give", "us", "an", "upper", "bound", ",", "as", "combining", "algorithms", "-LRB-", "such", "as", "that", "described", "below", "-RRB-", "could", "re-order", "the", "rankings", "of", "outputs", ".", "Next", ",", "we", "implemented", "a", "combining", "algorithm", "that", "merged", "the", "outputs", "from", "the", "TREC-based", "and", "Web-based", "systems", ",", "by", "having", "both", "systems", "vote", "on", "answers", ",", "where", "the", "vote", "is", "the", "score", "assigned", "to", "a", "particular", "answer", "by", "the", "system", ".", "For", "voting", ",", "we", "defined", "string", "equivalence", "such", "that", "if", "a", "string", "X", "is", "a", "substring", "of", "Y", ",", "then", "a", "vote", "for", "X", "is", "also", "a", "vote", "for", "Y", ".", "The", "combined", "system", "achieved", "a", "MRR", "of", ".433", "-LRB-", "a", "4.1", "%", "improvement", "over", "the", "Web-based", "system", "-RRB-", "and", "answered", "283", "questions", "correctly", ".", "5.3", "Snippet", "Weighting", "Until", "now", ",", "we", "have", "focused", "on", "the", "quantity", "of", "information", "available", "and", "less", "on", "its", "quality", ".", "Snippet", "weights", "are", "used", "in", "ranking", "n-grams", ".", "An", "n-gram", "weight", "is", "the", "sum", "of", "the", "weights", "for", "all", "snippets", "in", "which", "that", "n-gram", "appears", ".", "Each", "of", "our", "query", "rewrites", "has", "a", "weight", "associated", "with", "it", "reflecting", "how", "much", "we", "prefer", "answers", "found", "with", "this", "particular", "query", ".", "The", "idea", "behind", "using", "a", "weight", "is", "that", "answers", "found", "using", "a", "high", "precision", "query", "-LRB-", "e.g.", ",", "``", "Abraham", "Lincoln", "was", "born", "on", "''", "-RRB-", "are", "more", "likely", "to", "be", "correct", "than", "those", "found", "using", "a", "lower", "precision", "query", "-LRB-", "e.g.", ",", "``", "Abraham", "''", "AND", "``", "Lincoln", "''", "AND", "``", "born", "''", "-RRB-", ".", "Our", "current", "system", "has", "5", "weights", ".", "These", "rewrite", "weights", "are", "the", "only", "source", "of", "snippet", "weighting", "in", "our", "system", ".", "We", "explored", "how", "important", "these", "weight", "are", "and", "considered", "several", "other", "factors", "that", "could", "be", "used", "as", "additional", "sources", "of", "information", "for", "snippet", "weighting", ".", "Although", "we", "specify", "Boolean", "queries", ",", "the", "retrieval", "engine", "can", "provide", "a", "ranking", ",", "based", "on", "factors", "like", "link", "analyses", ",", "proximity", "of", "terms", ",", "296", "location", "of", "terms", "in", "the", "document", ",", "etc.", ".", "So", ",", "different", "weights", "can", "be", "assigned", "to", "matches", "at", "different", "positions", "in", "the", "ranked", "list", ".", "We", "also", "looked", "at", "the", "number", "of", "matching", "terms", "in", "the", "best", "fixed", "width", "window", ",", "and", "the", "widow", "size", "of", "the", "smallest", "matching", "passage", "as", "indicators", "of", "passage", "quality", ".", "Rewrite", "Wts", "uses", "our", "heuristically", "determined", "rewrite", "weights", "as", "a", "measure", "the", "quality", "of", "a", "snippet", ".", "This", "is", "the", "current", "system", "default", ".", "Equal", "Wts", "gives", "equal", "weight", "to", "all", "snippets", "regardless", "of", "the", "rewrite", "rule", "that", "generated", "them", ".", "To", "the", "extent", "that", "more", "precise", "rewrites", "retrieve", "better", "answers", ",", "we", "will", "see", "a", "drop", "in", "performance", "when", "we", "make", "all", "weights", "equal", ".", "Rank", "Wts", "uses", "the", "rank", "of", "the", "snippet", "as", "a", "measure", "of", "its", "quality", ",", "SnippetWt", "=", "-LRB-", "100-rank", "-RRB-", "/", "100", ".", "NMatch", "Wts", "uses", "the", "number", "of", "matching", "terms", "in", "a", "fixed-width", "window", "as", "the", "measure", "of", "snippet", "quality", ".", "Length", "Wts", "uses", "a", "measure", "of", "the", "length", "of", "the", "snippet", "needed", "to", "encompass", "all", "query", "terms", "as", "the", "measure", "of", "snippet", "quality", ".", "We", "also", "look", "at", "combinations", "of", "these", "factors", ".", "For", "example", ",", "Rewrite", "+", "Rank", "Wts", "uses", "both", "rewrite", "weight", "and", "rank", "according", "to", "the", "following", "formula", ",", "SnippetWt", "=", "RewriteScore", "+", "-LRB-", "100-rank", "-RRB-", "/", "100", ".", "All", "of", "these", "measures", "are", "available", "from", "query-relevant", "summaries", "returned", "by", "the", "search", "engine", "and", "do", "not", "require", "analyzing", "the", "full", "text", "of", "the", "document", ".", "The", "results", "of", "these", "experiments", "are", "presented", "in", "Figure", "4", ".", "Weighting", "MRR", "NumCorrect", "PropCorrect", "Equal", "Wts", "0.489", "298", "0.596", "Rewrite", "Wts", "-LRB-", "Default", "-RRB-", "0.507", "307", "0.614", "Rank", "Wts", "0.483", "292", "0.584", "Rewrite", "+", "Rank", "Wts", "0.508", "302", "0.604", "NMatch", "Wts", "0.506", "301", "0.602", "Length", "Wts", "0.506", "302", "0.604", "Figure", "5", ":", "Snippet", "Weighting", "Our", "current", "default", "5-level", "weighting", "scheme", "which", "reflects", "the", "specificity", "of", "the", "query", "rewrites", "does", "quite", "well", ".", "Equal", "weighting", "is", "somewhat", "worse", ",", "as", "we", "expected", ".", "Interestingly", "search", "engine", "rank", "is", "no", "better", "for", "weighting", "candidate", "n-grams", "than", "equal", "weighting", ".", "None", "of", "the", "other", "techniques", "we", "looked", "at", "surpasses", "the", "default", "weights", "in", "both", "MRR", "and", "PropCorrect", ".", "Our", "heuristic", "rewrite", "weights", "provide", "a", "simple", "and", "effective", "technique", "for", "snippet", "weighting", ",", "that", "can", "be", "used", "with", "any", "backend", "retrieval", "engine", ".", "Most", "question", "answering", "systems", "use", "IR-based", "measures", "of", "passage", "quality", ",", "and", "do", "not", "typically", "evaluate", "the", "best", "measure", "of", "similarity", "for", "purposes", "of", "extracting", "answers", ".", "Clarke", "et", "al.", "-LSB-", "9", "-RSB-", "noted", "above", "is", "an", "exception", ".", "Soubbotin", "and", "Soubbotin", "-LSB-", "18", "-RSB-", "mention", "different", "weights", "for", "different", "regular", "expression", "matches", ",", "but", "they", "did", "not", "describe", "the", "mechanism", "in", "detail", "nor", "did", "they", "evaluate", "how", "useful", "it", "is", ".", "Harabagiu", "et", "al.", "-LSB-", "11", "-RSB-", "have", "a", "kind", "of", "backoff", "strategy", "for", "matching", "which", "is", "similar", "to", "weighting", ",", "but", "again", "we", "do", "not", "know", "of", "parametric", "evaluations", "of", "its", "importance", "in", "their", "overall", "system", "performance", ".", "The", "question", "of", "what", "kinds", "of", "passages", "can", "best", "support", "answer", "mining", "for", "question", "answering", "as", "opposed", "to", "document", "retrieval", "is", "an", "interesting", "one", "that", "we", "are", "pursuing", ".", "The", "design", "of", "our", "question", "answering", "system", "was", "motivated", "by", "the", "goal", "of", "exploiting", "the", "large", "amounts", "of", "text", "data", "that", "is", "available", "on", "the", "Web", "and", "elsewhere", "as", "a", "useful", "resource", ".", "While", "many", "question", "answering", "systems", "take", "advantage", "of", "linguistic", "resources", ",", "fewer", "depend", "primarily", "on", "data", ".", "Vast", "amounts", "of", "data", "provide", "several", "sources", "of", "redundancy", "that", "our", "system", "capitalizes", "on", ".", "Answer", "redundancy", "-LRB-", "i.e.", ",", "multiple", ",", "differently", "phrased", ",", "answer", "occurrences", "-RRB-", "enables", "us", "to", "use", "only", "simple", "query", "rewrites", "for", "matching", ",", "and", "facilitates", "the", "extraction", "of", "candidate", "answers", ".", "We", "evaluated", "the", "importance", "of", "redundancy", "in", "our", "system", "parametrically", ".", "First", ",", "we", "explored", "the", "relationship", "between", "the", "number", "of", "document", "snippets", "examined", "and", "question", "answering", "accuracy", ".", "Accuracy", "improves", "sharply", "as", "the", "number", "of", "snippets", "included", "for", "n-gram", "analysis", "increases", "from", "1", "to", "50", ",", "somewhat", "more", "slowly", "after", "that", "peaking", "at", "200", "snippets", ",", "and", "then", "falls", "off", "somewhat", "after", "that", ".", "More", "is", "better", "up", "to", "a", "limit", ".", "We", "believe", "that", "we", "can", "increase", "this", "limit", "by", "improving", "our", "weight", "accumulation", "algorithm", "so", "that", "matches", "from", "the", "least", "precise", "rewrites", "do", "not", "dominate", ".", "Second", ",", "in", "smaller", "collections", "-LRB-", "like", "TREC", "-RRB-", ",", "the", "accuracy", "of", "our", "system", "drops", "sharply", ",", "although", "it", "is", "still", "quite", "reasonable", "in", "absolute", "terms", ".", "Finally", ",", "snippet", "quality", "is", "less", "important", "to", "system", "performance", "than", "snippet", "quantity", ".", "We", "have", "a", "simple", "5-level", "snippet", "weighting", "scheme", "based", "on", "the", "specificity", "of", "the", "query", "rewrite", ",", "and", "this", "appears", "to", "be", "sufficient", ".", "More", "complex", "weighting", "schemes", "that", "we", "explored", "were", "no", "more", "useful", ".", "The", "performance", "of", "our", "system", "shows", "promise", "for", "approaches", "to", "question", "answering", "which", "makes", "use", "of", "very", "large", "text", "databases", "even", "with", "minimal", "natural", "language", "processing", ".", "Our", "system", "does", "not", "need", "to", "maintain", "its", "own", "index", "nor", "does", "it", "require", "global", "term", "weights", ",", "so", "it", "can", "work", "in", "conjunction", "with", "any", "backend", "retrieval", "engine", ".", "Finally", ",", "since", "our", "system", "does", "only", "simple", "query", "transformations", "and", "n-gram", "analysis", ",", "it", "is", "efficient", "and", "scalable", ".", "One", "might", "think", "that", "our", "system", "has", "limited", "applicability", ",", "because", "it", "works", "best", "with", "large", "amounts", "of", "data", ".", "But", ",", "this", "is", "n't", "necessarily", "so", ".", "First", ",", "we", "actually", "perform", "reasonably", "well", "in", "the", "smaller", "TREC", "collection", ",", "and", "could", "perhaps", "tune", "system", "parameters", "to", "work", "even", "better", "in", "that", "environment", ".", "More", "interestingly", ",", "Brill", "et", "al.", "-LSB-", "6", "-RSB-", "described", "a", "projection", "technique", "that", "can", "be", "used", "to", "combine", "the", "wealth", "of", "data", "available", "on", "the", "Web", "with", "the", "reliability", "of", "data", "in", "smaller", "sources", "like", "TREC", "or", "an", "encyclopedia", ".", "The", "basic", "idea", "is", "to", "find", "candidate", "answers", "in", "a", "large", "and", "possibly", "noisy", "source", ",", "and", "then", "expand", "the", "query", "to", "include", "likely", "answers", ".", "The", "expanded", "queries", "can", "then", "be", "used", "on", "smaller", "but", "perhaps", "more", "reliable", "collections", "either", "directly", "to", "find", "support", "for", "the", "answer", "in", "the", "smaller", "corpus", ",", "or", "indirectly", "as", "a", "new", "query", "which", "is", "issued", "and", "mined", "as", "we", "currently", "do", ".", "This", "approach", "appears", "to", "be", "quite", "promising", ".", "Our", "approach", "seems", "least", "applicable", "in", "applications", "that", "involve", "a", "small", "amount", "of", "proprietary", "data", ".", "In", "these", "cases", ",", "one", "might", "need", "to", "do", "much", "more", "sophisticated", "analyses", "to", "map", "user", "queries", "to", "the", "exact", "lexical", "form", "that", "occur", "in", "the", "text", "collection", "rather", "than", "depend", "on", "primarily", "on", "redundancy", "as", "we", "have", "done", ".", "Although", "we", "have", "pushed", "the", "data-driven", "perspective", ",", "more", "sophisticated", "language", "analysis", "might", "help", "as", "well", "by", "providing", "more", "effective", "query", "rewrites", "or", "less", "noisy", "data", "for", "mining", ".", "297", "Most", "question", "answering", "systems", "contain", "aspects", "of", "both", "we", "use", "some", "linguistic", "knowledge", "in", "our", "small", "query", "typology", "and", "answer", "filtering", ",", "and", "more", "sophisticated", "systems", "often", "use", "simple", "pattern", "matching", "for", "things", "like", "dates", ",", "zip", "codes", ",", "etc.", ".", "There", "are", "a", "number", "of", "open", "questions", "that", "we", "hope", "to", "explore", ".", "In", "the", "short", "term", ",", "we", "would", "like", "to", "look", "systematically", "at", "the", "contributions", "of", "other", "system", "components", ".", "Brill", "et", "al.", "-LSB-", "5", "-RSB-", "have", "started", "to", "explore", "individual", "components", "in", "more", "detail", ",", "with", "interesting", "results", ".", "In", "addition", ",", "it", "is", "likely", "that", "we", "have", "made", "several", "sub-optimal", "decisions", "in", "our", "initial", "implementation", "-LRB-", "e.g.", ",", "omitting", "most", "stop", "words", "from", "answers", ",", "simple", "linear", "accumulation", "of", "scores", "over", "matching", "snippets", "-RRB-", "that", "we", "would", "like", "to", "improve", ".", "Most", "retrieval", "engines", "have", "been", "developed", "with", "the", "goal", "of", "finding", "topically", "relevant", "documents", ".", "Finding", "accurate", "answers", "may", "require", "somewhat", "different", "matching", "infrastructure", ".", "We", "are", "beginning", "to", "explore", "how", "best", "to", "generate", "snippets", "for", "use", "in", "answer", "mining", ".", "Finally", ",", "time", "is", "an", "interesting", "issue", ".", "We", "noted", "earlier", "how", "the", "correct", "answer", "to", "some", "queries", "changes", "over", "time", ".", "Time", "also", "has", "interesting", "implications", "for", "using", "redundancy", ".", "For", "example", ",", "it", "would", "take", "a", "while", "for", "a", "news", "or", "Web", "collection", "to", "correctly", "answer", "a", "question", "like", "``", "Who", "is", "the", "U.", "S.", "President", "?", "''", "just", "after", "an", "election", ".", "An", "important", "goal", "of", "our", "work", "is", "to", "get", "system", "designers", "to", "treat", "data", "as", "a", "first", "class", "resource", "that", "is", "widely", "available", "and", "exploitable", ".", "We", "have", "made", "good", "initial", "progress", ",", "and", "there", "are", "several", "interesting", "issues", "remaining", "to", "explore", ".", "-LSB-", "1", "-RSB-", "AAAI", "Spring", "Symposium", "Series", "-LRB-", "2002", "-RRB-", ".", "Mining", "Answers", "from", "Text", "and", "Knowledge", "Bases", ".", "-LSB-", "2", "-RSB-", "S.", "Abney", ",", "M.", "Collins", "and", "A.", "Singhal", "-LRB-", "2000", "-RRB-", ".", "Answer", "extraction", ".", "In", "Proceedings", "of", "the", "6", "th", "Applied", "Natural", "Language", "Processing", "Conference", "-LRB-", "ANLP", "2000", "-RRB-", ",", "296-301", ".", "-LSB-", "3", "-RSB-", "ACL-EACL", "-LRB-", "2002", "-RRB-", ".", "Workshop", "on", "Open-domain", "Question", "Answering", ".", "-LSB-", "4", "-RSB-", "E.", "Agichtein", ",", "S.", "Lawrence", "and", "L.", "Gravano", "-LRB-", "2001", "-RRB-", ".", "Learning", "search", "engine", "specific", "query", "transformations", "for", "question", "answering", ".", "In", "Proceedings", "of", "the", "10", "th", "World", "Wide", "Web", "Conference", "-LRB-", "WWW10", "-RRB-", ",", "169-178", ".", "-LSB-", "5", "-RSB-", "E.", "Brill", ",", "S.", "Dumais", "and", "M.", "Banko", "-LRB-", "2002", "-RRB-", ".", "An", "analysis", "of", "the", "AskMSR", "question-answering", "system", ".", "In", "Proceedings", "of", "2002", "Conference", "on", "Empirical", "Methods", "in", "Natural", "Language", "Processing", "-LRB-", "EMNLP", "2002", "-RRB-", ".", "-LSB-", "6", "-RSB-", "E.", "Brill", ",", "J.", "Lin", ",", "M.", "Banko", ",", "S.", "Dumais", "and", "A.", "Ng", "-LRB-", "2002", "-RRB-", ".", "Data-intensive", "question", "answering", ".", "In", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ".", "-LSB-", "7", "-RSB-", "S.", "Buchholz", "-LRB-", "2002", "-RRB-", ".", "Using", "grammatical", "relations", ",", "answer", "frequencies", "and", "the", "World", "Wide", "Web", "for", "TREC", "question", "answering", ".", "In", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ".", "-LSB-", "8", "-RSB-", "J.", "Chen", ",", "A.", "R.", "Diekema", ",", "M.", "D.", "Taffet", ",", "N.", "McCracken", ",", "N.", "E.", "Ozgencil", ",", "O.", "Yilmazel", ",", "E.", "D.", "Liddy", "-LRB-", "2002", "-RRB-", ".", "Question", "answering", ":", "CNLP", "at", "the", "TREC-10", "question", "answering", "track", ".", "In", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ".", "-LSB-", "9", "-RSB-", "C.", "Clarke", ",", "G.", "Cormack", "and", "T.", "Lyman", "-LRB-", "2001", "-RRB-", ".", "Exploiting", "redundancy", "in", "question", "answering", ".", "In", "Proceedings", "of", "the", "24", "th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "'", "2001", "-RRB-", ",", "358-365", ".", "-LSB-", "10", "-RSB-", "C.", "Clarke", ",", "G.", "Cormack", "and", "T.", "Lynam", "-LRB-", "2002", "-RRB-", ".", "Web", "reinforced", "question", "answering", ".", "In", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ".", "-LSB-", "11", "-RSB-", "S.", "Harabagiu", ",", "D.", "Moldovan", ",", "M.", "Pasca", ",", "R.", "Mihalcea", ",", "M.", "Surdeanu", ",", "R.", "Bunescu", ",", "R.", "Girju", ",", "V.", "Rus", "and", "P.", "Morarescu", "-LRB-", "2001", "-RRB-", ".", "FALCON", ":", "Boosting", "knowledge", "for", "question", "answering", ".", "In", "Proceedings", "of", "the", "Ninth", "Text", "REtrieval", "Conference", "-LRB-", "TREC-9", "-RRB-", ",", "479-488", ".", "-LSB-", "12", "-RSB-", "E.", "Hovy", ",", "L.", "Gerber", ",", "U.", "Hermjakob", ",", "M.", "Junk", "and", "C.", "Lin", "-LRB-", "2001", "-RRB-", ".", "Question", "answering", "in", "Webclopedia", ".", "In", "Proceedings", "of", "the", "Ninth", "Text", "REtrieval", "Conference", "-LRB-", "TREC-9", "-RRB-", ",", "655-664", ".", "-LSB-", "13", "-RSB-", "E.", "Hovy", ",", "U.", "Hermjakob", "and", "C.", "Lin", "-LRB-", "2002", "-RRB-", ".", "The", "use", "of", "external", "knowledge", "in", "factoid", "QA", ".", "In", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ".", "-LSB-", "14", "-RSB-", "C.", "Kwok", ",", "O.", "Etzioni", "and", "D.", "Weld", "-LRB-", "2001", "-RRB-", ".", "Scaling", "question", "answering", "to", "the", "Web", ".", "In", "Proceedings", "of", "the", "10", "th", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "'", "10", "-RRB-", ",", "150-161", ".", "-LSB-", "15", "-RSB-", "M.", "A.", "Pasca", "and", "S.", "M.", "Harabagiu", "-LRB-", "2001", "-RRB-", ".", "High", "performance", "question/answering", ".", "In", "Proceedings", "of", "the", "24", "th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "'", "2001", "-RRB-", ",", "366-374", ".", "-LSB-", "16", "-RSB-", "J.", "Prager", ",", "E.", "Brown", ",", "A.", "Coden", "and", "D.", "Radev", "-LRB-", "2000", "-RRB-", ".", "Question", "answering", "by", "predictive", "annotation", ".", "In", "Proceedings", "of", "the", "23", "rd", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "'", "2000", "-RRB-", ",", "184-191", ".", "-LSB-", "17", "-RSB-", "D.", "R.", "Radev", ",", "H.", "Qi", ",", "Z.", "Zheng", ",", "S.", "Blair-Goldensohn", ",", "Z.", "Zhang", ",", "W.", "Fan", "and", "J.", "Prager", "-LRB-", "2001", "-RRB-", ".", "Mining", "the", "web", "for", "answers", "to", "natural", "language", "questions", ".", "In", "Proceeding", "of", "the", "2001", "ACM", "CIKM", ":", "Tenth", "International", "Conference", "on", "Information", "and", "Knowledge", "Management", ",", "143-150", "-LSB-", "18", "-RSB-", "M.", "M.", "Soubbotin", "and", "S.", "M.", "Soubbotin", "-LRB-", "2002", "-RRB-", ".", "Patterns", "and", "potential", "answer", "expressions", "as", "clues", "to", "the", "right", "answers", ".", "In", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ".", "-LSB-", "19", "-RSB-", "E.", "Voorhees", "and", "D.", "Harman", ",", "Eds", ".", "-LRB-", "2001", "-RRB-", ".", "Proceedings", "of", "the", "Ninth", "Text", "REtrieval", "Conference", "-LRB-", "TREC-9", "-RRB-", ".", "NIST", "Special", "Publication", "500-249", ".", "-LSB-", "20", "-RSB-", "E.", "Voorhees", "and", "D.", "Harman", ",", "Eds", ".", "-LRB-", "2002", "-RRB-", ".", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ".", "-RRB-", ".", "NIST", "Special", "Publication", "500-250", ".", "298"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information retrieval", "natural language processing", "rewrite query", "facilitates answer mining", "machine learning", "simple passage ranking", "automatic qa", "question answering system", "trec qa", "information extraction"], "abstractive_keyphrases": ["redundancy in large corpora", "n-gram extraction techniques"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "168", "document": ["Researchexplorer", ":", "Gaining", "Insights", "Through", "Exploration", "In", "Multimedia", "Scientific", "Data", "An", "increasing", "amount", "of", "heterogeneous", "information", "about", "scientific", "research", "is", "becoming", "available", "on-line", ".", "This", "potentially", "allows", "users", "to", "explore", "the", "information", "from", "multiple", "perspectives", "and", "derive", "insights", "and", "not", "just", "raw", "data", "about", "a", "topic", "of", "interest", ".", "However", ",", "most", "current", "scientific", "information", "search", "systems", "lag", "behind", "this", "trend", ";", "being", "text-based", ",", "they", "are", "fundamentally", "incapable", "of", "dealing", "with", "multimedia", "data", ".", "An", "even", "more", "important", "limitation", "is", "that", "their", "information", "environments", "are", "information-centric", "and", "therefore", "are", "not", "suitable", "if", "insights", "are", "desired", ".", "Towards", "this", "goal", ",", "in", "this", "paper", ",", "we", "describe", "the", "design", "of", "a", "system", ",", "called", "ResearchExplorer", ",", "which", "facilitates", "exploring", "multimedia", "scientific", "data", "to", "gain", "insights", ".", "This", "is", "accomplished", "by", "providing", "an", "interaction", "environment", "for", "insights", "where", "users", "can", "explore", "multimedia", "scientific", "information", "sources", ".", "The", "multimedia", "information", "is", "united", "around", "the", "notion", "of", "research", "event", "and", "can", "be", "accessed", "in", "a", "unified", "way", ".", "Experiments", "are", "conducted", "to", "show", "how", "ResearchExplorer", "works", "and", "how", "it", "cardinally", "differs", "from", "other", "search", "systems", ".", "H.", "5.2", "-LSB-", "Information", "Interfaces", "and", "Presentation", "-RSB-", ":", "User", "Interfaces", "graphical", "user", "interfaces", ";", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "scientific", "databases", ";", "H.", "3.1", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", "indexing", "methods", ";", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "query", "formulation", ",", "search", "process", ".", "General", "Terms", ":", "Management", ",", "Design", ",", "Experimentation", ".", "Current", "web", "search", "engines", "and", "bibliography", "systems", "are", "information-centric", ".", "Before", "searching", "for", "information", ",", "users", "need", "to", "construct", "a", "query", "typically", ",", "by", "using", "some", "keywords", "to", "represent", "the", "information", "they", "want", ".", "After", "the", "query", "is", "issued", ",", "the", "system", "retrieves", "all", "information", "relevant", "to", "the", "query", ".", "The", "results", "from", "such", "queries", "are", "usually", "presented", "to", "users", "by", "listing", "all", "relevant", "hits", ".", "Thus", ",", "with", "these", "information-centric", "systems", ",", "users", "can", "find", "information", "such", "as", "a", "person", "'s", "homepage", ",", "a", "paper", ",", "a", "research", "project", "'s", "web", "page", ",", "and", "so", "on", ".", "However", ",", "when", "users", "want", "to", "know", "the", "following", "types", "of", "things", ",", "they", "are", "unable", "to", "find", "answers", "easily", "with", "current", "search", "systems", ":", "1", "-RRB-", "Evolution", "of", "a", "field", "2", "-RRB-", "People", "working", "in", "the", "field", "3", "-RRB-", "A", "person", "'s", "contribution", "to", "the", "field", "4", "-RRB-", "Classical", "papers", "-LRB-", "or", "readings", "-RRB-", "in", "the", "field", "5", "-RRB-", "Conferences/journals", "in", "the", "field", "6", "-RRB-", "How", "the", "research", "of", "a", "person", "or", "an", "organization", "-LRB-", "group", ",", "dept", ",", "university", ",", "etc", "-RRB-", "has", "evolved", ".", "The", "reasons", "why", "current", "information-centric", "search", "systems", "have", "difficulty", "to", "help", "users", "to", "find", "answers", "to", "questions", "above", "are", "due", "to", "the", "limitations", "of", "their", "information", "environments", ".", "First", ",", "some", "issues", "result", "from", "their", "data", "modeling", ".", "For", "example", ",", "to", "answer", "the", "question", "of", "``", "evolution", "of", "a", "field", "''", ",", "the", "most", "important", "information", "components", ",", "which", "are", "time", "and", "location", ",", "need", "to", "be", "captured", "and", "appropriately", "presented", "or", "utilized", ".", "However", ",", "in", "typical", "bibliography", "systems", "such", "information", "is", "rigidly", "utilized", "-LRB-", "if", "at", "all", "available", "-RRB-", "in", "the", "time-stamping", "sense", ".", "Second", ",", "many", "important", "issues", "arise", "due", "to", "the", "presentation", "methods", "utilized", "by", "such", "systems", ".", "For", "example", ",", "even", "though", "users", "can", "find", "all", "papers", "of", "a", "person", "with", "some", "systems", ",", "it", "is", "not", "easy", "for", "users", "to", "observe", "the", "trend", "if", "the", "results", "are", "just", "listed", "sequentially", ".", "As", "an", "alternative", ",", "presenting", "results", "in", "a", "visual", "form", "can", "make", "trend", "easier", "to", "identify", ".", "Third", ",", "some", "of", "the", "questions", "listed", "above", "can", "not", "be", "answered", "directly", "by", "the", "system", "because", "the", "answers", "depend", "on", "individual", "person", ".", "For", "example", ",", "different", "users", "will", "have", "different", "judgments", "on", "a", "researcher", "'s", "contribution", "to", "a", "field", ".", "To", "form", "their", "own", "thoughts", ",", "users", "may", "need", "to", "investigate", "and", "compare", "several", "factors", "many", "times", ".", "In", "this", "case", ",", "it", "is", "too", "tedious", "if", "each", "query", "is", "a", "new", "query", ".", "Thus", ",", "it", "is", "necessary", "that", "the", "system", "can", "maintain", "query", "and", "user", "states", "and", "allow", "users", "to", "refine", "queries", "dynamically", ".", "In", "other", "words", ",", "the", "user", "can", "not", "only", "query", "but", "also", "explore", "information", ".", "For", "this", "study", ",", "we", "propose", "a", "bibliography", "system", "with", "novel", "interaction", "environment", "that", "aids", "not", "just", "in", "syntactic", "query", "retrieval", "but", "also", "aids", "in", "developing", "insights", ".", "The", "goal", "of", "this", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MIR", "'", "04", ",", "October", "15", "16", ",", "2004", ",", "New", "York", ",", "New", "York", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-940-3", "/", "04/0010", "...", "$", "5.00", ".", "7", "system", "is", "to", "provide", "users", "an", "interaction", "environment", "where", "information", "is", "modeled", ",", "accessed", ",", "and", "presented", "in", "such", "a", "way", "that", "users", "can", "gain", "insights", "easily", "through", "exploration", ".", "Specifically", ",", "in", "the", "interaction", "environment", ",", "scientific", "information", "is", "modeled", "around", "the", "notion", "of", "a", "research", "event", ",", "which", "brings", "together", "all", "semantically", "related", "information", "regardless", "of", "the", "media", "-LRB-", "text", ",", "image", ",", "or", "video", "-RRB-", ",", "through", "which", "it", "is", "expressed", ".", "Thus", ",", "when", "users", "explore", "the", "information", "space", ",", "they", "can", "view", "research", "in", "multiple", "media", "formats", ".", "Further", ",", "the", "interaction", "environment", "presents", "information", "using", "multidimensional", "views", ",", "which", "include", "temporal", "and", "spatial", "views", ".", "At", "the", "same", "time", ",", "the", "interaction", "environment", "shows", "information", "of", "other", "attributes", "of", "research", ",", "like", "category", "and", "people", "information", ".", "In", "summary", ",", "the", "contribution", "of", "this", "work", "is", "to", "propose", "a", "novel", "interaction", "environment", "for", "insights", ".", "Although", "the", "system", "is", "focused", "on", "scientific", "information", ",", "we", "believe", "the", "techniques", "developed", "in", "this", "work", "are", "applicable", "to", "other", "applications", "and", "can", "work", "as", "a", "framework", "guiding", "design", "of", "interaction", "environments", "for", "insights", ".", "The", "paper", "is", "structured", "as", "follows", ".", "We", "begin", "with", "an", "introduction", "of", "interaction", "environment", "for", "insights", ".", "Section", "3", "describes", "the", "system", "architecture", ".", "Section", "4", "explains", "data", "modeling", "of", "the", "interaction", "environment", ".", "Section", "5", "presents", "how", "the", "interaction", "environment", "is", "implemented", ".", "Section", "6", "discusses", "experiments", "and", "results", ".", "Section", "7", "gives", "a", "review", "of", "related", "work", ".", "Section", "8", "concludes", ".", "Our", "goal", "in", "designing", "the", "system", "is", "to", "provide", "an", "interaction", "environment", "for", "users", "to", "explore", "multimedia", "scientific", "data", "to", "gain", "insights", "into", "research", ".", "Insight", "is", "commonly", "understood", "as", "follows", ".", "Insight", ":", "the", "clear", "-LRB-", "and", "often", "sudden", "-RRB-", "understanding", "of", "a", "complex", "situation", "-LSB-", "21", "-RSB-", ".", "From", "the", "definition", ",", "we", "can", "see", "insight", "is", "different", "from", "information", ".", "If", "insight", "is", "gained", ",", "people", "should", "be", "able", "to", "understand", "the", "inner", "nature", "of", "things", ".", "To", "illustrate", "their", "difference", ",", "we", "refer", "the", "reader", "to", "Figure", "1", ".", "In", "the", "figure", ",", "left", "part", "shows", "two", "columns", "of", "numbers", ".", "What", "these", "numbers", "convey", "to", "people", "is", "just", "information", ".", "It", "is", "very", "difficult", "for", "people", "to", "understand", "the", "relationship", "between", "numbers", "in", "these", "two", "columns", "by", "looking", "at", "numbers", "only", ".", "But", "if", "we", "show", "these", "numbers", "by", "a", "chart", "as", "in", "the", "right", "hand", ",", "people", "can", "easily", "tell", "and", "understand", "that", "the", "two", "columns", "have", "linear", "relationship", ".", "That", "is", "the", "insight", ".", "In", "this", "case", ",", "people", "gain", "insight", "by", "understanding", "relationship", ",", "which", "is", "visualized", "by", "a", "certain", "technique", ".", "In", "the", "context", "of", "research", ",", "insights", "should", "include", "clear", "understanding", "of", "different", "situations", ".", "Examples", "of", "these", "situations", "are", "a", "research", "field", ",", "a", "person", ",", "an", "organization", ",", "and", "a", "specific", "research", "event", "which", "will", "be", "defined", "later", ".", "2.2", "Key", "Characteristics", "of", "Interaction", "Environment", "for", "Insights", "An", "interaction", "environment", "for", "insights", "is", "an", "environment", "that", "helps", "users", "to", "gain", "insights", "through", "exploration", ".", "It", "consists", "of", "a", "database", "to", "store", "data", ",", "and", "user", "interface", "to", "explore", "data", ".", "Such", "an", "environment", "has", "the", "following", "key", "characteristics", ".", "1", "-RRB-", "Database", "to", "store", "information", ".", "As", "described", "in", "section", "1", ",", "spatio-temporal", "characteristics", "of", "information", "are", "critical", "to", "present", "the", "evolution", "of", "a", "situation", ".", "Clear", "understanding", "a", "situation", "often", "requires", "understanding", "how", "the", "situation", "evolves", ".", "Therefore", ",", "spatio-temporal", "aspects", "of", "information", "should", "be", "captured", "in", "data", "modeling", ".", "In", "addition", ",", "the", "data", "modeling", "should", "be", "able", "to", "unify", "multimedia", "information", ".", "Multimedia", "enables", "users", "to", "observe", "things", "using", "different", "senses", ".", "Some", "media", "can", "help", "people", "to", "understand", "quickly", ".", "Figure", "2", "shows", "such", "an", "example", ".", "By", "looking", "at", "the", "text", "at", "the", "top", ",", "people", "may", "not", "be", "able", "to", "understand", "what", "the", "paper", "``", "Content", "Based", "Image", "Synthesis", "''", "talks", "about", ".", "But", "with", "the", "help", "of", "the", "images", "below", ",", "people", "can", "get", "an", "idea", "quickly", "what", "the", "paper", "is", "about", ".", "Further", ",", "multimedia", "provides", "users", "opportunity", "to", "view", "things", "from", "different", "perspectives", ".", "This", "is", "especially", "important", "when", "clear", "understanding", "a", "situation", "requires", "examine", "the", "situation", "from", "multiple", "angles", ".", "2", "-RRB-", "User", "interface", ".", "As", "people", "gain", "insights", "by", "exploration", ",", "they", "may", "need", "to", "check", "into", "a", "situation", "repeatedly", "and", "from", "different", "viewpoints", ".", "Thus", ",", "interaction", "between", "a", "user", "and", "the", "environment", "becomes", "very", "important", ".", "The", "design", "of", "user", "interface", "should", "take", "this", "into", "consideration", ".", "We", "believe", "the", "key", "features", "of", "UI", "are", "as", "follows", ".", "a", ".", "The", "UI", "should", "support", "exploration", "of", "the", "spatial", "and", "temporal", "characteristics", "of", "information", ".", "b", ".", "The", "UI", "should", "support", "direct", "interactions", "between", "the", "users", "and", "the", "information", ".", "This", "requires", "the", "UI", "to", "have", "two", "characteristics", ":", "First", ",", "the", "UI", "should", "have", "the", "same", "query", "and", "presentation", "space", ".", "In", "other", "words", ",", "a", "window", "in", "the", "UI", "can", "not", "only", "be", "used", "to", "show", "information", "but", "also", "be", "used", "to", "specify", "queries", ".", "For", "example", ",", "time", "and", "location", "windows", "can", "show", "temporal", "and", "spatial", "information", ".", "At", "the", "same", "time", ",", "users", "can", "issue", "temporal", "and", "spatial", "queries", "in", "time", "and", "location", "windows", ".", "To", "Figure", "1", ".", "Information", "vs.", "insight", "51", "255", "153", "459", "408", "204", "102", "306", "357", "1", "5", "3", "9", "8", "4", "2", "6", "7", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "1", "2", "3", "4", "5", "6", "7", "8", "9", "8", "specify", "a", "query", ",", "the", "operation", "should", "be", "simple", "and", "direct", ".", "The", "other", "characteristic", "is", "the", "reflective", "nature", "of", "the", "UI", ".", "This", "means", "once", "information", "in", "a", "window", "is", "changed", ",", "all", "other", "windows", "will", "be", "updated", "automatically", ".", "This", "helps", "users", "to", "interact", "with", "the", "environment", "directly", "and", "effectively", ".", "c", ".", "The", "UI", "enables", "users", "to", "issue", "dynamic", "query", ".", "In", "some", "current", "interaction", "environments", ",", "users", "are", "constrained", "in", "forming", "queries", ".", "For", "example", ",", "users", "can", "only", "generate", "temporal", "query", "with", "one", "time", "interval", ".", "In", "an", "interaction", "environment", "for", "insights", ",", "users", "should", "be", "able", "to", "form", "a", "query", "with", "multiple", "choices", ".", "This", "provides", "users", "more", "flexibility", "to", "look", "into", "a", "situation", "of", "interest", ".", "d", ".", "The", "UI", "maintains", "the", "query", "state", ".", "It", "should", "know", "which", "query", "whose", "results", "are", "used", "in", "the", "search", "condition", "of", "another", "query", "and", "which", "query", "is", "based", "on", "another", "query", "'s", "results", ".", "This", "helps", "users", "not", "only", "to", "be", "aware", "to", "contexts", "but", "also", "to", "form", "complex", "queries", ".", "e", ".", "The", "UI", "should", "have", "zoom-in/zoom-out", "functionality", "that", "allows", "examining", "the", "information", "at", "different", "resolutions", ".", "When", "large", "volume", "of", "data", "is", "retrieved", ",", "there", "is", "readability", "issue", ".", "To", "address", "this", "issue", ",", "zoom-in/zoom", "-", "out", "functionality", "is", "needed", ".", "f.", "Different", "visualization", "techniques", "need", "to", "be", "used", ".", "As", "shown", "in", "figure", "1", ",", "visualization", "techniques", "help", "users", "to", "understand", "relationships", "and", "gain", "insights", ".", "However", ",", "different", "relationships", "need", "different", "visualization", "techniques", ".", "For", "example", ",", "social", "relationships", "are", "of", "network", "structure", ".", "Temporal", "relationships", "are", "two", "dimensional", ".", "To", "visualize", "these", "two", "types", "of", "relationships", "effectively", ",", "it", "requires", "different", "techniques", ".", "These", "characteristics", "will", "guide", "the", "interaction", "environment", "design", "of", "the", "system", "we", "are", "discussing", ".", "Figure", "3", "shows", "the", "high", "level", "architecture", "of", "ResearchExplorer", ".", "There", "are", "three", "main", "components", ":", "Event", "Collector", ",", "Event", "Database", "and", "Interaction", "Environment", ".", "One", "of", "the", "functions", "of", "Event", "Collector", "is", "to", "gather", "data", "from", "different", "sources", ".", "Then", "it", "parses", "and", "assimilates", "information", "around", "the", "notion", "of", "research", "event", ".", "Finally", ",", "it", "sends", "these", "data", "to", "Event", "Database", ".", "Event", "Database", "is", "a", "database", "of", "events", ".", "It", "stores", "all", "information", "around", "events", ".", "ResearchExplorer", "uses", "a", "natural", "XML", "database", "for", "Event", "Database", ".", "The", "reasons", "will", "be", "explained", "in", "next", "section", ".", "In", "this", "database", ",", "all", "information", "about", "a", "research", "event", "is", "stored", "as", "an", "XML", "file", ".", "The", "schema", "will", "be", "defined", "in", "section", "4.2", ".", "Interaction", "Environment", "consists", "of", "User", "Interface", "and", "Searcher", ".", "Through", "the", "UI", ",", "users", "form", "a", "query", ".", "The", "query", "is", "then", "converted", "into", "XPath", "format", "by", "the", "Searcher", "and", "sent", "to", "the", "Event", "Database", ".", "After", "the", "results", "are", "retrieved", "from", "the", "Event", "Database", ",", "the", "Searcher", "gets", "them", "back", "to", "the", "User", "Interface", "to", "present", "to", "users", ".", "In", "this", "paper", ",", "our", "focus", "is", "not", "on", "how", "to", "collect", "data", "or", "unify", "multimedia", "information", "by", "event", ".", "Interested", "readers", "can", "refer", "to", "-LSB-", "5", "-RSB-", "-LSB-", "6", "-RSB-", "-LSB-", "14", "-RSB-", "-LSB-", "15", "-RSB-", "-LSB-", "18", "-RSB-", "for", "information", "gathering", "and", "-LSB-", "17", "-RSB-", "for", "multimedia", "information", "assimilation", ".", "What", "we", "focus", "is", "on", "the", "design", "of", "Interaction", "Environment", "based", "on", "research", "event", ".", "As", "described", "above", ",", "the", "interaction", "environment", "for", "insights", "needs", "data", "modeling", "which", "can", "capture", "temporal", "and", "spatial", "characteristics", ",", "and", "unify", "multimedia", ".", "A", "recent", "work", "in", "-LSB-", "17", "-RSB-", "has", "proposed", "a", "unified", "multimedia", "data", "model", "that", "is", "capable", "of", "describing", "spatial-temporal", "characteristics", "of", "information", ".", "This", "model", "is", "built", "on", "the", "notion", "of", "events", ".", "Its", "efficacy", "has", "been", "demonstrated", "in", "different", "domains", "including", "modeling", "of", "multimedia", "information", "related", "to", "meetings", "-LSB-", "17", "-RSB-", "and", "personal", "Research", "Events", "Event", "Collector", "Searcher", "User", "Interface", "Data", "Event", "Database", "Figure", "3", ".", "ResearchExplorer", "architecture", ".", "query", "Interaction", "Environment", "Figure", "2", ".", "Multimedia", "helps", "understanding", ".", "Paper", "Title", ":", "Content", "Based", "Image", "Synthesis", "9", "multimedia", "information", "management", "-LSB-", "16", "-RSB-", ".", "We", "base", "our", "current", "research", "on", "these", "ideas", "and", "extend", "them", "further", "to", "the", "specific", "domain", "of", "scientific", "information", "management", ".", "In", "-LSB-", "17", "-RSB-", ",", "an", "event", "is", "defined", "as", "follows", ".", "Event", ":", "An", "event", "is", "an", "observed", "physical", "reality", "parameterized", "by", "space", "and", "the", "time", ".", "The", "observations", "describing", "the", "event", "are", "defined", "by", "the", "nature", "or", "physics", "of", "the", "observable", ",", "the", "observation", "model", ",", "and", "the", "observer", ".", "This", "definition", "was", "given", "to", "events", "in", "general", ".", "In", "order", "to", "be", "concrete", "in", "research", "domain", ",", "a", "specific", "event", "definition", "to", "research", "is", "necessary", ".", "Therefore", ",", "based", "on", "their", "definition", ",", "we", "are", "defining", "an", "event", "in", "research", "domain", ",", "which", "is", "called", "research", "event", ",", "as", "follows", ".", "Research", "event", ":", "A", "research", "event", "is", "a", "set", "of", "semantically", "correlated", "events", "within", "research", "domain", ",", "parameterized", "by", "time", ",", "location", ",", "participant", ",", "and", "content", ".", "Note", "that", "semantics", "is", "contextual", ".", "It", "depends", "on", "many", "factors", "like", "time", ",", "location", ",", "people", "etc.", ".", "Thus", ",", "a", "research", "event", "is", "flexible", ".", "For", "instance", ",", "it", "can", "be", "a", "research", "paper", ",", "a", "thesis", ",", "a", "technical", "report", ",", "a", "book", ",", "a", "patent", ",", "a", "presentation", ",", "an", "image", ",", "a", "video", ",", "or", "a", "project", "combining", "part", "or", "all", "of", "aforementioned", ".", "Semantics", "also", "depends", "on", "domain", "level", ".", "It", "is", "generated", "differently", "at", "different", "domain", "levels", "even", "though", "from", "the", "same", "event", ".", "That", "is", "because", "different", "aspects", "of", "the", "event", "are", "emphasized", "at", "different", "domain", "levels", ".", "Thus", ",", "a", "research", "event", "could", "be", "part", "of", "another", "one", ".", "For", "example", ",", "someone", "is", "talking", "is", "an", "event", "by", "itself", ".", "At", "the", "same", "time", ",", "it", "is", "part", "of", "a", "seminar", "event", "as", "well", ".", "The", "definition", "of", "a", "research", "event", "provides", "us", "with", "the", "central", "characteristics", "to", "meet", "the", "requirements", "of", "our", "application", ".", "By", "the", "definition", ",", "a", "research", "event", "is", "parameterized", "by", "time", "and", "location", ".", "It", "can", "capture", "the", "dynamics", "of", "itself", ".", "Thus", ",", "users", "can", "easily", "observe", "how", "events", "evolve", ",", "which", "is", "helpful", "to", "insight", "generation", ".", "Relationships", "between", "events", "can", "be", "shown", "in", "terms", "of", "attributes", "of", "an", "event", ".", "This", "will", "enable", "users", "to", "observe", "events", "in", "a", "big", "context", "and", "get", "deeper", "understanding", ".", "Further", ",", "all", "multimedia", "data", "is", "unified", "around", "the", "notion", "of", "a", "research", "event", ".", "Thus", ",", "a", "research", "event", "becomes", "an", "access", "point", "to", "multimedia", "data", ".", "4.2", "Semi-Structured", "Data", "Multimedia", "data", "about", "scientific", "research", "does", "not", "follow", "a", "rigid", "structure", ".", "For", "example", ",", "research", "papers", "have", "reference", "while", "images", "do", "not", "have", ".", "Even", "for", "references", ",", "the", "number", "of", "citations", "varied", "over", "different", "papers", ".", "At", "the", "same", "time", ",", "these", "data", "do", "have", "some", "common", "information", "components", "such", "as", "time", "and", "location", "information", ".", "This", "semi-structured", "characteristic", "makes", "methods", "like", "relational", "database", "for", "storing", "structured", "data", "unsuitable", ".", "Techniques", "for", "storing", "semi-structured", "data", "are", "appropriate", "instead", ".", "XML", "is", "one", "of", "the", "solutions", "to", "model", "semi-structured", "data", ".", "It", "has", "become", "very", "popular", "for", "introducing", "semantics", "in", "text", ".", "And", "it", "has", "rapidly", "replaced", "automatic", "approaches", "to", "deduce", "semantics", "from", "the", "data", "in", "text", "files", ".", "This", "approach", "to", "explicitly", "introduce", "tags", "to", "help", "processes", "compute", "semantics", "has", "been", "very", "successful", "so", "far", "-LSB-", "13", "-RSB-", ".", "Based", "on", "this", ",", "we", "choose", "XML", "to", "store", "research", "event", "information", ".", "Figure", "4", "shows", "the", "schema", "of", "XML", "files", "for", "research", "events", ".", "4.3", "Description", "of", "the", "Data", "Model", "Based", "on", "the", "definition", "of", "research", "event", ",", "four", "fundamental", "information", "components", "are", "needed", "to", "describe", "a", "research", "event", ".", "These", "components", "are", ":", "when", "the", "research", "event", "happens", ",", "where", "the", "research", "event", "occurs", ",", "who", "participates", "in", "the", "research", "event", ",", "and", "what", "the", "research", "event", "is", "about", ".", "Thus", ",", "a", "data", "model", "as", "follows", "is", "proposed", "to", "represent", "a", "research", "event", ".", "As", "shown", "in", "Figure", "5", ",", "a", "research", "event", "is", "characterized", "by", "the", "following", "attributes", ":", "Name", ",", "Time", ",", "Participant", ",", "Category", ",", "Mediasource", ",", "Subevents", ",", "and", "Free", "Attributes", ".", "Here", "Name", "refers", "to", "the", "name", "of", "a", "research", "event", ",", "Time", "refers", "to", "the", "times", "when", "the", "research", "is", "done", ",", "Participant", "refers", "to", "people", "who", "do", "the", "research", "and", "their", "affiliations", ",", "Category", "refers", "to", "the", "ACM", "Classification", "of", "the", "research", ",", "which", "can", "belong", "to", "several", "categories", ",", "Mediasource", "contains", "media", "type", "and", "source", "-LRB-", "URL", "-RRB-", "of", "the", "media", "covering", "the", "research", "event", ",", "Subevent", "refers", "to", "part", "of", "the", "research", "event", "and", "has", "the", "same", "structure", "of", "a", "research", "event", ",", "Free", "Attributes", "are", "used", "to", "capture", "media", "specific", "characteristics", "when", "needed", ",", "for", "example", ",", "it", "refers", "to", "reference", "for", "a", "paper", ".", "As", "described", "above", ",", "the", "data", "model", "encapsulates", "all", "information", "components", "of", "a", "research", "event", "by", "one", "or", "more", "attributes", ".", "When", "component", "is", "captured", "by", "Time", ",", "where", "is", "captured", "by", "Participant", "Affiliation", ",", "who", "is", "captured", "by", "Participant", ",", "and", "what", "is", "captured", "by", "Name", "and", "Categories", ".", "Multimedia", "supporting", "the", "research", "event", "is", "brought", "in", "by", "Mediasource", "attribute", ".", "4.4", "XML", "Database", "In", "ResearchExplorer", ",", "Berkeley", "DB", "XML", "-LSB-", "3", "-RSB-", "is", "chosen", "for", "Event", "Database", ".", "Berkeley", "DB", "XML", "is", "an", "application-specific", "native", "XML", "data", "manager", ".", "It", "is", "supplied", "as", "a", "library", "that", "links", "directly", "into", "the", "application", "'s", "address", "space", ".", "Berkeley", "DB", "XML", "provides", "storage", "and", "retrieval", "for", "native", "XML", "data", "and", "semi-structured", "data", ".", "So", "it", "can", "meet", "the", "requirements", "of", "Event", "Database", ".", "Figure", "4", ".", "Schema", "of", "research", "event", ".", "10", "In", "ResearchExplorer", ",", "a", "unified", "presentation-browsing-querying", "interface", "is", "used", ".", "Research", "events", "are", "shown", "in", "multidimensional", "views", ".", "As", "multimedia", "data", "is", "organized", "around", "research", "event", ",", "the", "data", "is", "presented", "by", "fundamental", "components", "of", "research", "event", ",", "i.e.", ",", "When", ",", "Where", ",", "Who", ",", "and", "What", ".", "Figure", "7", "-LRB-", "a", "-RRB-", "shows", "a", "screenshot", "of", "the", "user", "interface", "we", "developed", ".", "There", "are", "totally", "five", "windows", "plus", "a", "text", "box", ".", "In", "the", "upper", "are", "timeline", "and", "map", "windows", "showing", "time", "and", "location", "information", "of", "research", "events", ".", "In", "the", "lower", "right", ",", "there", "are", "two", "windows", "showing", "people", "and", "category", "information", ".", "The", "window", "in", "the", "lower", "left", "is", "different", "from", "those", "windows", "aforementioned", ".", "It", "is", "used", "to", "show", "multimedia", "data", "of", "research", "events", ".", "Once", "a", "research", "event", "is", "selected", ",", "multimedia", "data", "like", "papers", ",", "images", ",", "and", "videos", "are", "presented", "in", "this", "window", "and", "they", "are", "presented", "according", "to", "the", "event-subevent", "structure", ".", "Clicking", "on", "a", "specific", "media", "instance", "label", "will", "lead", "users", "to", "the", "original", "source", "of", "the", "media", "and", "trigger", "appropriate", "application", "for", "that", "particular", "kind", "of", "media", ".", "So", "users", "can", "view", "original", "media", "as", "they", "want", ".", "The", "text", "box", "is", "designed", "for", "keyword-based", "searching", ".", "It", "enables", "users", "to", "search", "information", "in", "traditional", "way", ".", "5.2", "Research", "Representation", "Time", "and", "location", "are", "the", "primary", "parameters", "based", "on", "which", "dynamics", "is", "captured", ".", "Therefore", ",", "they", "are", "depicted", "as", "the", "primary", "exploration", "dimensions", ".", "The", "way", "to", "represent", "research", "events", "in", "these", "windows", "is", "critical", ".", "In", "ResearchExplorer", ",", "two", "different", "representation", "methods", "are", "used", ".", "We", "borrowed", "idea", "of", "representing", "research", "events", "from", "-LSB-", "16", "-RSB-", "in", "the", "timeline", "window", "where", "research", "events", "are", "represented", "by", "rectangles", ".", "A", "rectangle", "spans", "the", "duration", "of", "a", "research", "event", ".", "Within", "each", "rectangle", ",", "there", "may", "be", "smaller", "rectangles", ".", "These", "smaller", "ones", "represent", "subevents", "of", "the", "research", "event", ".", "All", "rectangles", "for", "one", "research", "event", "are", "nested", "according", "to", "the", "event-subevent", "structure", ".", "The", "media", ",", "presenting", "the", "research", "event", ",", "are", "represented", "by", "icons", "in", "the", "rectangles", ".", "Icons", "are", "chosen", "intuitively", "for", "users", "to", "recognize", "easily", ".", "They", "are", "specific", "to", "each", "media", ".", "Icons", "belong", "to", "the", "same", "research", "event", "are", "grouped", "together", "in", "chronological", "order", ".", "The", "fidelity", "of", "such", "a", "representation", "is", "maintained", "during", "temporal", "zoom-in/zoom-out", "operations", "as", "described", "later", ".", "The", "recursive", "nature", "of", "the", "representation", "is", "used", "to", "capture", "aggregate", "relationships", "where", "a", "research", "event", "may", "comprise", "of", "other", "events", ".", "The", "primary", "purpose", "of", "such", "a", "representation", "is", "to", "provide", "users", "with", "a", "structural", "and", "temporal", "view", "of", "research", "events", ".", "In", "the", "map", "window", ",", "research", "events", "are", "represented", "by", "``", "dot", "maps", "''", "-LSB-", "19", "-RSB-", ".", "Each", "dot", "in", "the", "map", "shows", "a", "research", "event", "at", "the", "location", "of", "the", "dot", ".", "By", "means", "of", "dot", "maps", ",", "the", "precision", "of", "location", "information", "is", "high", ",", "and", "the", "variable", "density", "of", "dots", "conveys", "information", "about", "the", "amount", "of", "research", "events", "at", "a", "location", ".", "5.3", "What-You-See-Is-What-You-Get", "-LRB-", "WYSIWYG", "-RRB-", "In", "the", "system", ",", "WYSIWYG", "search", "is", "employed", "the", "query", "and", "presentation", "spaces", "are", "the", "same", ".", "As", "described", "above", ",", "windows", "serve", "as", "a", "way", "to", "display", "information", "and", "relationships", "of", "research", "events", ".", "These", "windows", ",", "except", "details", "window", ",", "serve", "another", "function", "in", "specifying", "queries", "as", "well", ".", "Contrary", "to", "many", "search", "interfaces", "where", "users", "specify", "several", "properties", "and", "then", "press", "a", "button", "to", "issue", "a", "query", ",", "users", "can", "issue", "a", "query", "by", "a", "simple", "operation", "in", "this", "user", "interface", ".", "For", "example", ",", "users", "can", "launch", "a", "query", "by", "specifying", "a", "time", "interval", ",", "a", "location", "region", ",", "a", "person", "'s", "name", ",", "or", "a", "research", "category", ".", "Figure", "6", "shows", "examples", "of", "these", "methods", ".", "In", "ResearchExplorer", ",", "exploration", "is", "based", "on", "sessions", ".", "Each", "session", "consists", "of", "one", "or", "more", "queries", ".", "A", "query", "is", "either", "a", "new", "session", "query", "or", "a", "refine", "query", ".", "A", "new", "session", "query", "is", "the", "first", "query", "of", "each", "session", ".", "All", "other", "queries", "in", "a", "session", "are", "refine", "queries", ".", "For", "new", "session", "query", ",", "the", "system", "retrieves", "results", "from", "the", "database", ".", "If", "it", "is", "a", "refine", "query", ",", "the", "query", "will", "not", "be", "sent", "to", "the", "database", ".", "It", "will", "be", "executed", "based", "on", "the", "results", "set", "of", "the", "new", "session", "query", "of", "that", "session", ".", "With", "this", "method", ",", "users", "can", "choose", "a", "broad", "set", "of", "results", "first", ",", "and", "then", "observe", "any", "subset", "of", "the", "results", "of", "interest", ".", "This", "is", "very", "important", "because", "knowledge", "is", "accumulated", "as", "users", "manipulate", "the", "results", "by", "choosing", "different", "perspectives", ".", "Once", "a", "refine", "query", "is", "posed", ",", "results", "of", "the", "query", "will", "be", "highlighted", "in", "all", "windows", ".", "Figure", "5", ".", "Graphical", "representation", "of", "a", "research", "event", ".", "RE", ":", "Research", "Event", "N", ":", "Name", "T", ":", "Time", "PS", ":", "Participants", "P", ":", "Participant", "PN", ":", "Participant", "'s", "Name", "FN", ":", "First", "Name", "MS", ":", "Media", "Source", "MT", ":", "Media", "Type", "S", ":", "Source", "SS", ":", "Subevents", "SE", ":", "Subevent", "FA", ":", "Free", "Attribute", "N", "T", "RE", "C", "SS", "PS", "AN", "LA", "LO", "FN", "PN", "PA", "LN", "P", "CS", "FA", "...", "...", "MT", "S", "LN", ":", "Last", "Name", "PA", ":", "Participant", "Affiliation", "AN", ":", "Affiliation", "Name", "LA", ":", "Latitude", "LO", ":", "Longitude", "CS", ":", "Categories", "C", ":", "Category", "SE", "...", "MS", "Figure", "6", ".", "Different", "query", "methods", ".", "-LRB-", "a", "-RRB-", "shows", "a", "query", "by", "time", ".", "-LRB-", "b", "-RRB-", "shows", "a", "query", "by", "a", "person", ".", "-LRB-", "c", "-RRB-", "shows", "query", "by", "specifying", "a", "region", "of", "locations", ".", "-LRB-", "d", "-RRB-", "shows", "query", "by", "category", ".", "11", "5.4", "Reflective", "UI", "In", "designing", "the", "user", "interface", ",", "multiple", "window", "coordination", "strategy", "is", "used", ".", "By", "means", "of", "this", "strategy", ",", "components", "of", "the", "user", "interface", "are", "coupled", "tightly", ".", "The", "windows", "respond", "to", "user", "activity", "in", "a", "unified", "manner", "such", "that", "user", "interaction", "in", "one", "window", "is", "reflected", "instantly", "in", "other", "windows", ".", "For", "example", ",", "when", "the", "user", "selects", "a", "research", "event", "in", "timeline", "window", ",", "this", "research", "event", "will", "be", "highlighted", "in", "the", "map", "and", "other", "windows", ".", "This", "cooperative", "visualization", "is", "effective", "in", "information", "exploration", "as", "it", "maintains", "the", "context", "as", "the", "user", "interacts", "with", "the", "data", ".", "Figure", "7", "-LRB-", "a", "-RRB-", "shows", "an", "example", "where", "a", "research", "event", "is", "selected", "and", "its", "information", "in", "other", "windows", "is", "highlighted", ".", "5.5", "Interactions", "with", "Time", "and", "Location", "Information", "In", "ResearchExplorer", ",", "both", "timeline", "and", "map", "provide", "zoom-in/zoom", "-", "out", "function", ".", "This", "makes", "it", "possible", "for", "users", "to", "look", "at", "how", "a", "research", "event", "evolves", "in", "details", ".", "The", "timeline", "has", "year", "as", "the", "highest", "level", "of", "temporal", "representation", ".", "So", "it", "'s", "likely", "that", "two", "subevents", "of", "a", "research", "event", "are", "overlapped", "when", "they", "are", "shown", "in", "year", "level", ".", "With", "zoom-in", "functionality", ",", "users", "can", "zoom", "into", "finer", "level", "to", "see", "the", "temporal", "relationship", "between", "these", "two", "subevents", ".", "The", "location", "window", "in", "ResearchExplorer", "has", "been", "implemented", "using", "an", "open", "source", "JavaBeansTM", "based", "package", "called", "OpenMapTM", "-LSB-", "2", "-RSB-", ".", "Research", "events", "are", "presented", "as", "dots", "on", "the", "map", ".", "Due", "to", "the", "size", "limitation", ",", "it", "is", "hard", "for", "users", "to", "differentiate", "events", "when", "they", "are", "close", "to", "each", "other", ".", "Similarly", "as", "in", "timeline", ",", "users", "can", "zoom", "into", "that", "area", "and", "see", "the", "events", "at", "finer", "resolution", ".", "Further", ",", "panning", "of", "the", "entire", "map", "is", "also", "supported", ".", "In", "this", "section", ",", "we", "conduct", "some", "experiments", "as", "case", "studies", ".", "These", "case", "studies", "will", "show", "how", "users", "can", "look", "into", "details", "of", "research", "events", "and", "observe", "relationships", "between", "research", "events", ".", "6.1", "Experiment", "I", ":", "Exploring", "Information", "Exploring", "information", "with", "context", "is", "one", "of", "important", "features", "of", "ResearchExplorer", ".", "With", "this", "function", ",", "users", "can", "refine", "retrieved", "results", "to", "check", "into", "different", "aspects", "of", "a", "situation", ".", "In", "this", "experiment", ",", "we", "are", "interested", "in", "how", "users", "can", "refine", "results", "as", "they", "explore", "information", ".", "Assume", "following", "information", "is", "of", "interest", ":", "Show", "all", "research", "events", "on", "AI", "during", "the", "time", "period", "from", "1989", "through", "2004", "?", "Out", "of", "the", "results", "above", ",", "show", "the", "part", "done", "in", "CA", "For", "each", "person", ",", "show", "all", "research", "events", "he/she", "participated", "in", ".", "To", "find", "answers", "to", "the", "first", "query", ",", "users", "can", "select", "the", "time", "interval", "from", "1989", "to", "2004", "and", "then", "choose", "AI", "category", "only", ".", "Figure", "7", "-LRB-", "a", "-RRB-", "shows", "all", "results", ".", "Note", "that", "the", "results", "consist", "of", "all", "research", "events", "in", "AI", ",", "but", "they", "do", "not", "include", "all", "in", "the", "world", ".", "As", "shown", "in", "the", "figure", ",", "timeline", "window", "shows", "the", "temporal", "information", "and", "temporal", "relationships", "between", "research", "events", ",", "map", "window", "shows", "the", "distribution", "of", "location", ",", "category", "window", "shows", "what", "all", "categories", "these", "research", "events", "belong", "to", ",", "participant", "window", "shows", "all", "people", "being", "involved", "in", "these", "research", "events", ".", "The", "details", "window", "shows", "all", "multimedia", "data", "about", "research", "events", ".", "In", "this", "window", ",", "a", "research", "event", "named", "``", "UMN", "MegaScout", "''", "is", "placed", "at", "the", "top", "after", "the", "rectangle", "representing", "this", "event", "is", "clicked", "in", "the", "timeline", "window", ".", "If", "we", "click", "the", "image", "thumbnails", ",", "the", "original", "images", "will", "be", "shown", ".", "Figures", "7", "-LRB-", "b", "-RRB-", "shows", "the", "three", "images", "and", "four", "videos", ".", "When", "we", "look", "at", "these", "images", "and", "video", "frames", ",", "we", "can", "have", "a", "better", "understanding", "about", "this", "research", ".", "In", "other", "words", ",", "direct", "observation", "of", "the", "multimedia", "data", "of", "a", "research", "event", "helps", "users", "to", "gain", "insights", "about", "the", "research", ".", "In", "order", "to", "answer", "the", "second", "query", ",", "we", "specify", "a", "region", "on", "the", "map", "which", "encloses", "all", "dots", "on", "CA", ".", "The", "research", "events", "are", "then", "highlighted", "in", "timeline", "windows", "as", "shown", "in", "Figure", "7", "-LRB-", "c", "-RRB-", ".", "To", "check", "research", "events", "a", "person", "participated", "in", ",", "we", "only", "need", "to", "move", "the", "mouse", "cursor", "to", "be", "over", "the", "person", "'s", "name", ".", "Similarly", ",", "all", "research", "events", "he/she", "participated", "in", "will", "be", "highlighted", ".", "6.2", "Experiment", "II", ":", "Comparisons", "with", "Other", "Systems", "In", "this", "section", ",", "we", "compare", "ResearchExplorer", "with", "other", "systems", "in", "terms", "of", "functionalities", ".", "Without", "loss", "of", "generality", ",", "we", "choose", "Google", "-LSB-", "9", "-RSB-", ",", "CiteSeer", "-LSB-", "7", "-RSB-", ",", "and", "ACM", "Digital", "Library", "-LSB-", "1", "-RSB-", "as", "examples", ".", "First", ",", "we", "compare", "the", "presentation", "methods", ".", "Figure", "8", "shows", "the", "screen", "shots", "of", "these", "systems", "after", "a", "query", "of", "``", "artificial", "intelligence", "''", "is", "issued", ".", "Compared", "with", "ResearchExplorer", ",", "these", "systems", "are", "unable", "to", "show", "how", "AI", "research", "evolves", ".", "Users", "thus", "can", "not", "get", "a", "whole", "picture", "of", "AI", "research", ",", "which", "otherwise", "is", "important", "to", "understand", "this", "area", "and", "conduct", "research", "in", "AI", ".", "Another", "comparison", "is", "done", "on", "query", "and", "explore", "functions", ".", "The", "results", "are", "shown", "in", "Table", "1", ".", "There", "are", "many", "systems", "which", "can", "search", "for", "scientific", "information", ".", "These", "systems", "can", "be", "classified", "into", "two", "categories", ".", "The", "first", "are", "bibliographical", "systems", "developed", "especially", "for", "scientific", "information", "searching", ".", "ACM", "Digital", "Library", ",", "IEEE", "Xplore", "-LSB-", "10", "-RSB-", ",", "and", "INSPEC", "-LSB-", "11", "-RSB-", "are", "good", "examples", "of", "this", "class", ".", "These", "systems", "store", "information", "about", "publications", ",", "which", "are", "from", "some", "pre-selected", "sources", ",", "in", "their", "repositories", ".", "They", "organize", "data", "by", "using", "structural", "information", "of", "publications", "like", "title", ",", "author", ",", "etc.", ".", "CiteSeer", "is", "another", "well-known", "system", "of", "this", "kind", ".", "Compared", "with", "the", "aforementioned", ",", "it", "collects", "publications", "from", "the", "web", "and", "performs", "citation", "indexing", "in", "addition", "to", "full-text", "indexing", "-LSB-", "8", "-RSB-", ".", "Another", "class", "is", "web", "search", "engine", "for", "general", "information", ".", "The", "most", "well-known", "of", "this", "type", "is", "Google", ".", "Systems", "of", "this", "class", "index", "the", "text", "contained", "in", "documents", ",", "allowing", "users", "to", "find", "information", "using", "keyword", "search", ".", "Our", "work", "differs", "significantly", "from", "these", "systems", ".", "These", "systems", "are", "designed", "to", "concentrating", "in", "information", "providing", ".", "Our", "work", "is", "focused", "on", "providing", "an", "interaction", "environment", "for", "insights", "into", "research", ".", "Other", "related", "work", "comes", "from", "research", "on", "multimedia", "experience", ".", "Boll", "and", "Westermann", "-LSB-", "4", "-RSB-", "presented", "the", "Medi", "ther", "multimedia", "event", "space", ",", "a", "decentralized", "peer-to-peer", "infrastructure", "that", "allows", "to", "publish", ",", "to", "find", "and", "to", "be", "notified", "about", "multimedia", "events", "of", "interest", ".", "Our", "focus", "was", "not", "to", "create", "a", "multimedia", "event", "space", "but", "rather", "to", "develop", "an", "interaction", "environment", "for", "users", "to", "experience", "multimedia", "events", ".", "The", "Informedia", "group", "at", "CMU", "has", "also", "worked", "on", "multimedia", "12", "experience", "-LSB-", "20", "-RSB-", ".", "However", "there", "are", "important", "differences", "here", "their", "main", "goal", "was", "to", "capture", "and", "integrate", "personal", "multimedia", "Image1", "Image3", "Image2", "Video4", "Video1", "Video2", "Video3", "-LRB-", "a", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "7", ".", "ResearchExplorer", "UI", ".", "-LRB-", "a", "-RRB-", "shows", "screen", "shot", "of", "the", "UI", ".", "-LRB-", "b", "-RRB-", "shows", "the", "images", "and", "videos", "of", "a", "research", "event", ".", "-LRB-", "c", "-RRB-", "shows", "the", "highlighted", "results", "when", "a", "spatial", "refinement", "is", "made", ".", "Figure", "8", ".", "Screen", "shots", "of", "other", "search", "systems", ".", "13", "experiences", "not", "create", "an", "environment", "for", "experiencing", "multimedia", "personally", ".", "In", "-LSB-", "12", "-RSB-", ",", "Jain", "envisioned", "the", "essence", "of", "an", "experiential", "environment", ".", "The", "main", "goal", "of", "experiential", "environment", "is", "for", "insights", ".", "Following", "this", "work", ",", "there", "are", "some", "other", "work", "on", "experiential", "environment", "-LSB-", "13", "-RSB-", "-LSB-", "16", "-RSB-", ".", "However", ",", "in", "these", "work", ",", "there", "is", "little", "discussion", "on", "experiential", "environments", ".", "Our", "work", "developed", "further", "some", "ideas", "in", "-LSB-", "12", "-RSB-", "and", "concretized", "the", "design", "framework", "of", "an", "interaction", "environment", "for", "insights", ".", "We", "have", "described", "a", "novel", "system", "which", "helps", "users", "to", "gain", "insights", "through", "exploring", "multimedia", "scientific", "data", ".", "Although", "framework", "for", "designing", "an", "interaction", "environment", "for", "insights", "is", "identified", ",", "the", "implementation", "is", "a", "first", "step", "towards", "a", "mature", "system", "for", "insights", ".", "In", "future", "work", ",", "we", "will", "build", "on", "the", "methods", "described", "here", ".", "Also", ",", "we", "will", "investigate", "more", "on", "relationships", "between", "research", "events", "and", "methodologies", "to", "present", "these", "relationships", ".", "We", "believe", "some", "of", "the", "more", "interesting", "research", "problems", "will", "be", "identified", "when", "new", "relationships", "between", "research", "events", "are", "used", "to", "help", "users", "to", "gain", "insights", ".", "We", "would", "thank", "Punit", "Gupta", "and", "Rachel", "L.", "Knickmeyer", "for", "their", "help", "on", "timeline", "and", "map", "components", "of", "ResearchExplorer", ".", "-LSB-", "1", "-RSB-", "ACM", "Digital", "Library", ",", "http://portal.acm.org/portal.cfm", ".", "-LSB-", "2", "-RSB-", "BBN", "Technologies", "-LRB-", "1999", "-RRB-", ",", "OpenMapTM", "Open", "Systems", "Mapping", "Technoloy", ",", "http://openmap.bbn.com/", ".", "-LSB-", "3", "-RSB-", "Berkeley", "DB", "XML", ",", "http://www.sleepycat.com/products/xml.shtml", ".", "-LSB-", "4", "-RSB-", "Boll", ",", "S.", ",", "and", "Westermann", ",", "U.", "Medi", "ther", "--", "an", "Event", "Space", "for", "Context-Aware", "Multimedia", "Experiences", ".", "Proc", ".", "of", "the", "2003", "ACM", "SIGMM", "Workshop", "on", "Experiential", "Telepresence", "-LRB-", "ETP", "'", "03", "-RRB-", ",", "21-30", ".", "-LSB-", "5", "-RSB-", "Brin", ",", "S.", ",", "and", "Page", ",", "L", ".", "The", "Anatomy", "of", "a", "Large-Scale", "Hypertextual", "Web", "Search", "Engine", ".", "Proc", ".", "of", "7", "th", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "'", "98", "-RRB-", ",", "107-117", ".", "-LSB-", "6", "-RSB-", "Cho", ",", "J.", ",", "Garcia-Monila", ",", "H.", ",", "and", "Page", ",", "L.", "Efficient", "Crawling", "through", "URL", "Ordering", ".", "Proc", ".", "of", "7", "th", "WWW", "Conference", "-LRB-", "1998", "-RRB-", ",", "161-172", ".", "-LSB-", "7", "-RSB-", "CiteSeer", ",", "http://citeseer.ist.psu.edu/cis", ".", "-LSB-", "8", "-RSB-", "Giles", ",", "C.", "L.", ",", "Bollacker", ",", "K.", "D.", ",", "and", "Lawrence", ",", "S.", "CiteSeer", ":", "An", "Automatic", "Citation", "Indexing", "System", ".", "The", "Third", "ACM", "Conference", "on", "Digital", "Libraries", "-LRB-", "1998", "-RRB-", ",", "89-98", ".", "-LSB-", "9", "-RSB-", "Google", ",", "http://www.google.com", ".", "-LSB-", "10", "-RSB-", "IEEE", "Xplore", ",", "http://ieeexplore.ieee.org/Xplore/DynWel.jsp", ".", "-LSB-", "11", "-RSB-", "INSPEC", ",", "http://www.iee.org/Publish/INSPEC/", ".", "-LSB-", "12", "-RSB-", "Jain", ",", "R.", "Experiential", "Computing", ".", "Communications", "of", "the", "ACM", ",", "46", ",", "7", "-LRB-", "July", "2003", "-RRB-", ",", "48-54", ".", "-LSB-", "13", "-RSB-", "Jain", ",", "R.", ",", "Kim", ",", "P.", ",", "and", "Li", ",", "Z.", "Experiential", "Meeting", "System", ".", "Proc", ".", "of", "the", "2003", "ACM", "SIGMM", "Workshop", "on", "Experiential", "Telepresence", "-LRB-", "ETP", "'", "03", "-RRB-", ",", "1-12", ".", "-LSB-", "14", "-RSB-", "Rowe", ",", "N.", "C.", "Marie-4", ":", "A", "High-Recall", ",", "Self-Improving", "Web", "Crawler", "that", "Finds", "Images", "using", "Captions", ".", "IEEE", "Intelligent", "Systems", ",", "17", ",", "4", "-LRB-", "2002", "-RRB-", ",", "8-14", ".", "-LSB-", "15", "-RSB-", "Shkapenyuk", ",", "V.", ",", "and", "Suel", ",", "T.", "Design", "and", "Implementation", "of", "a", "High-Performance", "Distributed", "Web", "Crawler", ".", "Proc", ".", "of", "the", "Intl.", ".", "Conf", ".", "on", "Data", "Engineering", "-LRB-", "ICDE", "'", "02", "-RRB-", ".", "-LSB-", "16", "-RSB-", "Singh", ",", "R.", ",", "Knickmeyer", ",", "R.", "L.", ",", "Gupta", ",", "P.", ",", "and", "Jain", ",", "R.", "Designing", "Experiential", "Environments", "for", "Management", "of", "Personal", "Multimedia", ".", "ACM", "Multimedia", "2004", ".", "To", "Appear", ".", "-LSB-", "17", "-RSB-", "Singh", ",", "R.", ",", "Li", ",", "Z.", ",", "Kim", ",", "P.", ",", "and", "Jain", ",", "R.", "Event-Based", "Modeling", "and", "Processing", "of", "Digital", "Media", ".", "1", "st", "ACM", "SIGMOD", "Workshop", "on", "Computer", "Vision", "Meets", "Databases", ",", "Paris", ",", "France", ",", "2004", ".", "-LSB-", "18", "-RSB-", "Teng", ",", "S-H.", ",", "Lu", ",", "Q.", ",", "and", "Eichstaedt", ",", "M.", "Collaborative", "Web", "Crawling", ":", "Information", "Gathering/Processing", "over", "Internet", ".", "Proc", ".", "Of", "the", "32", "nd", "Hawaii", "Intl.", ".", "Conf", ".", "on", "System", "Sciences", "-LRB-", "1999", "-RRB-", ".", "-LSB-", "19", "-RSB-", "Toyama", ",", "K.", ",", "Logan", ",", "R.", ",", "Roseway", ",", "A.", ",", "and", "Anandan", ",", "P.", "Geographic", "Location", "Tags", "on", "Digital", "Images", ".", "ACM", "Multimedia", "-LRB-", "2003", "-RRB-", ",", "156-166", ".", "-LSB-", "20", "-RSB-", "Wactlar", ",", "H.", "D.", ",", "Christel", ",", "M.", "G.", ",", "Hauptmann", "A.", "G.", ",", "and", "Gong", ",", "Y.", "Informedia", "Experience-on-Demand", ":", "Capturing", ",", "Integrating", "and", "Communicating", "Experiences", "across", "People", ",", "Time", "and", "Space", ".", "ACM", "Computing", "Surveys", "31", "-LRB-", "1999", "-RRB-", ".", "-LSB-", "21", "-RSB-", "WordNet", "2.0", "http://www.cogsci.princeton.edu/cgi-bin/webwn", ".", "Table", "1", ".", "Comparisons", "of", "ResearchExplorer", "and", "other", "systems", "Functions", "ResearchExplorer", "Google", "CiteSeer", "ACM", "Digital", "Library", "Show", "spatio-temporal", "relationships", "Yes", "No", "No", "Can", "only", "list", "results", "by", "date", "order", ".", "Same", "query", "and", "presentation", "space", "?", "Yes", "No", "No", "No", "Dynamic", "query", "Yes", "No", "No", "No", "Maintain", "query", "state", "Yes", "No", "No", "No", "Zoom-in/zoom-out", "Yes", "No", "No", "No", "Visualization", "techniques", "Multiple", "Listing", "only", "Listing", "only", "Listing", "only", "14"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["interaction environment", "event", "multimedia data", "insight", "exploration"], "abstractive_keyphrases": ["spatio-temporal data", "research event"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "183", "document": ["Stylecam", ":", "Interactive", "Stylized", "3D", "Navigation", "Using", "Integrated", "Spatial", "&", "Temporal", "Controls", "This", "paper", "describes", "StyleCam", ",", "an", "approach", "for", "authoring", "3D", "viewing", "experiences", "that", "incorporate", "stylistic", "elements", "that", "are", "not", "available", "in", "typical", "3D", "viewers", ".", "A", "key", "aspect", "of", "StyleCam", "is", "that", "it", "allows", "the", "author", "to", "significantly", "tailor", "what", "the", "user", "sees", "and", "when", "they", "see", "it", ".", "The", "resulting", "viewing", "experience", "can", "approach", "the", "visual", "richness", "and", "pacing", "of", "highly", "authored", "visual", "content", "such", "as", "television", "commercials", "or", "feature", "films", ".", "At", "the", "same", "time", ",", "StyleCam", "allows", "for", "a", "satisfying", "level", "of", "interactivity", "while", "avoiding", "the", "problems", "inherent", "in", "using", "unconstrained", "camera", "models", ".", "The", "main", "components", "of", "StyleCam", "are", "camera", "surfaces", "which", "spatially", "constrain", "the", "viewing", "camera", ";", "animation", "clips", "that", "allow", "for", "visually", "appealing", "transitions", "between", "different", "camera", "surfaces", ";", "and", "a", "simple", ",", "unified", ",", "interaction", "technique", "that", "permits", "the", "user", "to", "seamlessly", "and", "continuously", "move", "between", "spatial-control", "of", "the", "camera", "and", "temporal-control", "of", "the", "animated", "transitions", ".", "Further", ",", "the", "user", "'s", "focus", "of", "attention", "is", "always", "kept", "on", "the", "content", ",", "and", "not", "on", "extraneous", "interface", "widgets", ".", "In", "addition", "to", "describing", "the", "conceptual", "model", "of", "StyleCam", ",", "its", "current", "implementation", ",", "and", "an", "example", "authored", "experience", ",", "we", "also", "present", "the", "results", "of", "an", "evaluation", "involving", "real", "users", ".", "Computer", "graphics", "has", "reached", "the", "stage", "where", "3D", "models", "can", "be", "created", "and", "rendered", ",", "often", "in", "real", "time", "on", "commodity", "hardware", ",", "at", "a", "fidelity", "that", "is", "almost", "indistinguishable", "from", "the", "real", "thing", ".", "As", "such", ",", "it", "should", "be", "feasible", "at", "the", "consumer", "level", "to", "use", "3D", "models", "rather", "than", "2D", "images", "to", "represent", "or", "showcase", "various", "physical", "artifacts", ".", "Indeed", ",", "as", "an", "example", ",", "many", "product", "manufacturers", "'", "websites", "are", "beginning", "to", "supply", "not", "only", "professionally", "produced", "2D", "images", "of", "their", "products", ",", "but", "also", "ways", "to", "view", "their", "products", "in", "3D", ".", "Unfortunately", ",", "the", "visual", "and", "interactive", "experience", "provided", "by", "these", "3D", "viewers", "currently", "fall", "short", "of", "the", "slick", ",", "professionally", "produced", "2D", "images", "of", "the", "same", "items", ".", "For", "example", ",", "the", "quality", "of", "2D", "imagery", "in", "an", "automobile", "'s", "sales", "brochure", "typically", "provides", "a", "richer", "and", "more", "compelling", "presentation", "of", "that", "automobile", "to", "the", "user", "than", "the", "interactive", "3D", "experiences", "provided", "on", "the", "manufacturer", "'s", "website", ".", "If", "these", "3D", "viewers", "are", "to", "replace", ",", "or", "at", "the", "very", "least", "be", "at", "par", "with", ",", "the", "2D", "imagery", ",", "eliminating", "this", "r", ",", "viewpoint", "in", "the", "scene", "difference", "in", "quality", "is", "critical", ".", "The", "reasons", "for", "the", "poor", "quality", "of", "these", "3D", "viewers", "fall", "roughly", "into", "two", "categories", ".", "First", ",", "2D", "imagery", "is", "usually", "produced", "by", "professional", "artists", "and", "photographers", "who", "are", "skilled", "at", "using", "this", "well-established", "artform", "to", "convey", "information", ",", "feelings", ",", "or", "experiences", ",", "whereas", "creators", "of", "3D", "models", "do", "not", "necessarily", "have", "the", "same", "established", "skills", "and", "are", "working", "in", "an", "evolving", "medium", ".", "Howeve", "this", "problem", "will", "work", "itself", "out", "as", "the", "medium", "matures", ".", "The", "second", "issue", "is", "more", "troublesome", ".", "In", "creating", "2D", "images", "a", "photographer", "can", "carefully", "control", "most", "of", "the", "elements", "that", "make", "up", "the", "shot", "including", "lighting", "and", "viewpoint", ",", "in", "an", "attempt", "to", "ensure", "that", "a", "viewer", "receives", "the", "intended", "message", ".", "In", "contrast", ",", "3D", "viewers", "typically", "allow", "the", "user", "to", "interactively", "move", "their", "to", "view", "any", "part", "of", "the", "3D", "model", ".", "Figure", "1", ".", "StyleCam", "authored", "elements", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "UIST", "'", "02", ",", "October", "27-30", ",", "2002", ",", "Paris", ",", "FRANCE", ".", "Copyright", "2002", "ACM", "1-58113-488-6", "/", "02/0010", "...", "$", "5.00", ".", "Volume", "4", ",", "Issue", "2", "101", "This", "results", "in", "a", "host", "of", "problems", ":", "a", "user", "may", "``", "get", "lost", "''", "in", "the", "scene", ",", "view", "the", "model", "from", "awkward", "angles", "that", "present", "it", "in", "poor", "light", ",", "miss", "seeing", "important", "features", ",", "experience", "frustration", "at", "controlling", "their", "navigation", ",", "etc.", ".", "As", "such", ",", "given", "that", "the", "author", "of", "the", "3D", "model", "does", "not", "have", "control", "over", "all", "aspects", "of", "what", "the", "user", "eventually", "sees", ",", "they", "can", "not", "ensure", "that", "3D", "viewing", "conveys", "the", "intended", "messages", ".", "In", "the", "worse", "case", ",", "the", "problems", "in", "3D", "viewing", "produce", "an", "experience", "completely", "opposite", "to", "the", "authors", "intentions", "!", "The", "goal", "of", "our", "present", "research", "is", "to", "develop", "a", "system", ",", "which", "we", "call", "StyleCam", "-LRB-", "Figure", "1", "-RRB-", ",", "where", "users", "viewing", "3D", "models", "can", "be", "guaranteed", "a", "certain", "level", "of", "quality", "in", "terms", "of", "their", "visual", "and", "interactive", "experience", ".", "Further", ",", "we", "intend", "that", "the", "system", "should", "not", "only", "avoid", "the", "problems", "suggested", "earlier", ",", "but", "also", "have", "the", "capability", "to", "make", "the", "interactive", "experience", "adhere", "to", "particular", "visual", "styles", ".", "For", "example", ",", "with", "StyleCam", "one", "should", "be", "able", "to", "produce", "an", "interactive", "viewing", "experience", "for", "a", "3D", "model", "of", "an", "automobile", "``", "in", "the", "style", "of", "''", "the", "television", "commercial", "for", "that", "same", "automobile", ".", "Ultimately", ",", "a", "high-level", "goal", "of", "our", "research", "is", "to", "produce", "interactive", "3D", "viewing", "experiences", "where", ",", "to", "use", "an", "old", "saying", "from", "the", "film", "industry", ",", "``", "every", "frame", "is", "a", "Rembrandt", "''", ".", "1.1", ".", "Author", "vs.", "User", "Control", "Central", "to", "our", "research", "is", "differentiating", "between", "the", "concept", "of", "authoring", "an", "interactive", "3D", "experience", "versus", "authoring", "a", "3D", "model", "which", "the", "user", "subsequently", "views", "using", "general", "controls", ".", "If", "we", "look", "at", "the", "case", "of", "a", "typical", "3D", "viewer", "on", "the", "web", ",", "in", "terms", "of", "interaction", ",", "the", "original", "author", "of", "the", "3D", "scene", "is", "limited", "to", "providing", "somewhat", "standard", "camera", "controls", "such", "as", "pan", ",", "tumble", "and", "zoom", ".", "Essentially", ",", "control", "of", "the", "viewpoint", "is", "left", "up", "to", "the", "user", "and", "the", "author", "has", "limited", "influence", "on", "the", "overall", "experience", ".", "From", "an", "author", "'s", "perspective", "this", "is", "a", "significant", "imbalance", ".", "If", "we", "view", "an", "interactive", "experience", "by", "cinematic", "standards", ",", "an", "author", "-LRB-", "or", "director", "-RRB-", "of", "a", "movie", "has", "control", "over", "several", "major", "elements", ":", "content/art", "direction", ",", "shading/lighting", ",", "viewpoint", ",", "and", "pacing", ".", "It", "is", "these", "elements", "that", "determine", "the", "overall", "visual", "style", "of", "a", "movie", ".", "However", ",", "in", "the", "interactive", "experience", "provided", "by", "current", "3D", "viewers", ",", "by", "placing", "control", "of", "the", "viewpoint", "completely", "in", "the", "hands", "of", "the", "user", ",", "the", "author", "has", "surrendered", "control", "of", "two", "major", "elements", "of", "visual", "style", ":", "viewpoint", "and", "pacing", ".", "Thus", "we", "desire", "a", "method", "for", "creating", "3D", "interactive", "experiences", "where", "an", "author", "can", "not", "only", "determine", "the", "content", "and", "shading", "but", "also", "the", "viewpoints", "and", "pacing", ".", "However", ",", "intrinsic", "in", "any", "interactive", "system", "is", "some", "degree", "of", "user", "control", "and", "therefore", ",", "more", "accurately", ",", "our", "desire", "is", "to", "allow", "the", "author", "to", "have", "methods", "to", "significantly", "influence", "the", "viewpoints", "and", "pacing", "in", "order", "to", "create", "particular", "visual", "styles", ".", "Thus", ",", "we", "hope", "to", "strike", "a", "better", "balance", "between", "author", "and", "user", "control", ".", "In", "order", "to", "achieve", "this", "end", ",", "StyleCam", "incorporates", "an", "innovative", "interaction", "technique", "that", "seamlessly", "integrates", "spatial", "camera", "control", "with", "the", "temporal", "control", "of", "animation", "playback", ".", "In", "order", "to", "provide", "author", "control", "or", "influence", "over", "viewpoints", "and", "pacing", ",", "we", "need", "a", "way", "for", "an", "author", "to", "express", "the", "viewpoints", "and", "the", "types", "of", "pacing", "they", "are", "interested", "in", ".", "Thus", "we", "have", "developed", "three", "main", "elements", "upon", "which", "our", "StyleCam", "approach", "is", "based", ".", "1", ".", "Camera", "surfaces", "an", "author-created", "surface", "used", "to", "constrain", "the", "users", "'", "movement", "of", "the", "viewpoint", "2", ".", "Animation", "clips", "an", "author-created", "set", "of", "visual", "sequences", "and", "effects", "whose", "playback", "may", "be", "controlled", "by", "the", "user", ".", "These", "can", "include", ":", "sophisticated", "camera", "movements", ".", "Slates", "2D", "media", "such", "as", "images", ",", "movies", ",", "documents", ",", "or", "web", "pages", ".", "visual", "effects", "such", "as", "fades", ",", "wipes", ",", "and", "edits", ".", "animation", "of", "elements", "in", "the", "scene", ".", "3", ".", "Unified", "UI", "technique", "The", "user", "utilizes", "a", "single", "method", "of", "interaction", "-LRB-", "dragging", "-RRB-", "to", "control", "the", "viewpoint", ",", "animation", "clips", ",", "and", "the", "transitions", "between", "camera", "surfaces", ".", "2.1", ".", "Camera", "Surfaces", "In", "the", "motion", "picture", "industry", "a", "money-shot", "is", "a", "shot", "with", "a", "particular", "viewpoint", "that", "a", "director", "has", "deemed", "``", "important", "''", "in", "portraying", "a", "story", "or", "in", "setting", "the", "visual", "style", "of", "a", "movie", ".", "Similarly", ",", "in", "advertising", ",", "money-shots", "are", "those", "which", "are", "the", "most", "effective", "in", "conveying", "the", "intended", "message", ".", "We", "borrow", "these", "concepts", "of", "a", "money-shot", "for", "our", "StyleCam", "system", ".", "Our", "money-shots", "are", "viewpoints", "that", "an", "author", "can", "use", "to", "broadly", "determine", "what", "a", "user", "will", "see", ".", "Further", ",", "we", "use", "the", "concept", "of", "a", "camera", "surface", "as", "introduced", "by", "Hanson", "and", "Wernert", "-LSB-", "19", ",", "36", "-RSB-", ".", "When", "on", "a", "camera", "surface", ",", "the", "virtual", "camera", "'s", "spatial", "movement", "is", "constrained", "to", "that", "surface", ".", "Further", ",", "each", "camera", "surface", "is", "defined", "such", "that", "they", "incorporate", "a", "single", "money-shot", ".", "Figure", "2", "illustrates", "this", "notion", ".", "Camera", "surfaces", "can", "be", "used", "for", "various", "purposes", ".", "A", "small", "camera", "surface", "can", "be", "thought", "of", "as", "an", "enhanced", "money-shot", "where", "the", "user", "is", "allowed", "to", "move", "their", "viewpoint", "a", "bit", "in", "order", "to", "get", "a", "sense", "of", "the", "3-dimensionality", "of", "what", "they", "are", "looking", "at", ".", "Alternatively", ",", "the", "shape", "of", "the", "surface", "could", "be", "used", "to", "provide", "some", "dramatic", "camera", "movements", ",", "for", "example", ",", "sweeping", "across", "the", "front", "grill", "of", "a", "car", ".", "The", "key", "idea", "is", "that", "camera", "surfaces", "allow", "authors", "to", "conceptualize", ",", "visualize", ",", "and", "express", "particular", "ranges", "of", "viewpoints", "they", "deem", "important", ".", "Intrinsic", "in", "our", "authored", "interactions", "is", "the", "notion", "that", "multiple", "camera", "surfaces", "can", "be", "used", "to", "capture", "multiple", "money-shots", ".", "Thus", "authors", "have", "the", "ability", "to", "influence", "a", "user", "'s", "viewpoint", "broadly", ",", "by", "adding", "different", "camera", "surfaces", ",", "or", "locally", "by", "adjusting", "the", "shape", "of", "a", "camera", "102", "Volume", "4", ",", "Issue", "2", "surface", "to", "allow", "a", "user", "to", "navigate", "through", "a", "range", "of", "viewpoints", "which", "are", "similar", "to", "a", "single", "particular", "money-shot", ".", "For", "example", ",", "as", "shown", "in", "Figure", "2", ",", "camera", "surfaces", "at", "the", "front", "and", "rear", "of", "the", "car", "provide", "two", "authored", "viewpoints", "of", "these", "parts", "of", "the", "car", "in", "which", "a", "user", "can", "``", "move", "around", "a", "bit", "''", "to", "get", "a", "better", "sense", "of", "the", "shape", "of", "the", "front", "grille", "and", "rear", "tail", "design", ".", "Figure", "2", ".", "Camera", "surfaces", ".", "The", "active", "camera", "is", "at", "the", "money-shot", "viewpoint", "on", "the", "first", "camera", "surface", ".", "The", "rate", "at", "which", "a", "user", "moves", "around", "on", "a", "camera", "surface", "-LRB-", "Control-Display", "gain", "-RRB-", "can", "dramatically", "affect", "the", "style", "of", "the", "experience", ".", "In", "order", "to", "allow", "an", "author", "some", "control", "over", "visual", "pacing", ",", "we", "provide", "the", "author", "with", "the", "ability", "to", "control", "the", "rate", "at", "which", "dragging", "the", "mouse", "changes", "the", "camera", "position", "as", "it", "moves", "across", "a", "camera", "surface", ".", "The", "intention", "is", "that", "increasing/decreasing", "this", "gain", "ratio", "results", "in", "slower/faster", "camera", "movement", "and", "this", "will", "influence", "how", "fast", "a", "user", "moves", "in", "the", "scene", ",", "which", "contributes", "to", "a", "sense", "of", "pacing", "and", "visual", "style", ".", "For", "example", ",", "if", "small", "mouse", "movements", "cause", "large", "changes", "in", "viewpoint", "this", "may", "produce", "a", "feeling", "of", "fast", "action", "while", "large", "mouse", "movement", "and", "slow", "changes", "in", "movement", "produce", "a", "slow", ",", "flowing", "quality", ".", "Figure", "3", "illustrates", "an", "example", "of", "variable", "control-display", "gain", ",", "where", "the", "gain", "increases", "as", "the", "camera", "gets", "closer", "to", "the", "right", "edge", "of", "the", "camera", "surface", ".", "Figure", "3", ".", "Variable", "control-display", "gain", "on", "a", "camera", "surface", "2.2", ".", "Animation", "Clips", "To", "support", "transitions", "between", "two", "camera", "surfaces", ",", "we", "use", "animation", "clips", "as", "illustrated", "in", "Figure", "4", ".", "An", "animation", "clip", "can", "be", "thought", "of", "as", "a", "``", "path", "''", "between", "the", "edges", "of", "camera", "surfaces", ".", "When", "a", "user", "navigates", "to", "the", "edge", "of", "a", "camera", "surface", ",", "this", "triggers", "an", "animation", ".", "When", "the", "animation", "ends", ",", "they", "resume", "navigating", "at", "the", "destination", "camera", "surface", ".", "One", "obvious", "type", "of", "animation", "between", "the", "camera", "surfaces", "would", "simply", "be", "an", "automatic", "interpolation", "of", "the", "camera", "moving", "from", "its", "start", "location", "on", "the", "first", "camera", "surface", "to", "its", "end", "location", "on", "the", "second", "camera", "surface", "-LRB-", "Figure", "4a", "-RRB-", ".", "This", "is", "similar", "to", "what", "systems", "such", "as", "VRML", "do", ".", "While", "our", "system", "supports", "these", "automatic", "interpolated", "animations", ",", "we", "also", "allow", "for", "authored", ",", "stylized", ",", "animations", ".", "These", "authored", "animations", "can", "be", "any", "visual", "sequence", "and", "pacing", ",", "and", "are", "therefore", "opportunities", "for", "introducing", "visual", "style", ".", "For", "example", ",", "in", "transitioning", "from", "one", "side", "of", "the", "car", "to", "the", "other", ",", "the", "author", "may", "create", "a", "stylized", "camera", "animation", "which", "pans", "across", "the", "front", "of", "the", "car", ",", "while", "closing", "in", "on", "a", "styling", "detail", "like", "a", "front", "grille", "emblem", "-LRB-", "Figure", "4b", "-RRB-", ".", "The", "generality", "of", "using", "animation", "clips", "allows", "the", "author", "the", "stylistic", "freedom", "of", "completely", "abandoning", "the", "camera-movement", "metaphor", "for", "transitions", "between", "surfaces", "and", "expressing", "other", "types", "of", "visual", "sequences", ".", "Thus", "animation", "clips", "are", "effective", "mechanisms", "for", "introducing", "slates", "--", "2D", "visuals", "which", "are", "not", "part", "of", "the", "3D", "scene", "but", "are", "momentarily", "placed", "in", "front", "of", "the", "viewing", "camera", "as", "it", "moves", "from", "one", "camera", "surface", "to", "another", "-LRB-", "Figure", "4c", "-RRB-", ".", "For", "example", ",", "moving", "from", "a", "view", "of", "the", "front", "of", "the", "car", "to", "the", "back", "of", "the", "car", "may", "be", "accomplished", "using", "a", "2D", "image", "showing", "the", "name", "of", "the", "car", ".", "This", "mechanism", "allows", "the", "use", "of", "visual", "elements", "commonly", "found", "in", "advertising", "such", "as", "real", "action", "video", "clips", "and", "rich", "2D", "imagery", ".", "In", "the", "computer", "realm", ",", "slates", "may", "also", "contain", "elements", "such", "as", "documents", "or", "webpages", ".", "Figure", "4", ".", "Three", "example", "animated", "transitions", "between", "camera", "surfaces", ".", "-LRB-", "a", "-RRB-", "automatic", "transition", ",", "-LRB-", "b", "-RRB-", "authored", "stylized", "transition", ",", "-LRB-", "c", "-RRB-", "slate", "transition", ".", "The", "use", "of", "animation", "clips", "also", "allows", "for", "typical", "visual", "transitions", "effects", "such", "as", "cross", "fades", ",", "wipes", "etc.", ".", "In", "addition", "to", "using", "animation", "clips", "for", "transitions", "between", "camera", "surfaces", ",", "StyleCam", "also", "supports", "the", "animation", "of", "elements", "in", "the", "3D", "scene", ".", "These", "scene", "element", "animations", "can", "occur", "separately", "or", "concurrently", "with", "transition", "animations", ".", "For", "example", ",", "while", "the", "animation", "clip", "for", "the", "visual", "transition", "may", "have", "the", "camera", "sweeping", "down", "the", "side", "of", "the", "car", ",", "an", "auxiliary", "animation", "may", "open", "the", "trunk", "to", "reveal", "cargo", "space", ".", "Volume", "4", ",", "Issue", "2", "103", "The", "animation", "of", "scene", "elements", "can", "also", "be", "used", "to", "affect", "extremely", "broad", "changes", ".", "For", "example", ",", "entire", "scene", "transitions", "-LRB-", "similar", "to", "level", "changes", "in", "video", "games", "-RRB-", "may", "occur", "when", "a", "user", "hits", "the", "edge", "of", "particular", "camera", "surface", ".", "At", "the", "author", "'s", "discretion", ",", "temporal", "control", "of", "animation", "clips", "can", "either", "be", "under", "user", "control", "or", "uninterruptable", ".", "Overall", ",", "in", "terms", "of", "visual", "expression", ",", "these", "varying", "types", "of", "animation", "clips", "allow", "an", "author", "to", "provide", "rich", "visual", "experiences", "and", "therefore", "significantly", "influence", "the", "pacing", "and", "style", "of", "a", "user", "'s", "interaction", ".", "2.3", ".", "Unified", "User", "Interaction", "Technique", "While", "animation", "clips", "are", "effective", "for", "providing", "a", "means", "to", "move", "between", "camera", "surfaces", "and", "introduce", "visual", "styling", "elements", ",", "they", "also", "highlight", "the", "fundamental", "issue", "of", "arbitrating", "between", "user", "control", "and", "system", "control", ".", "At", "the", "heart", "of", "our", "system", "are", "two", "distinct", "types", "of", "behavior", ":", "1", "-RRB-", "user", "control", "of", "the", "viewpoint", ",", "and", "2", "-RRB-", "playback", "of", "animation", "clips", ".", "In", "other", "systems", "these", "two", "types", "of", "behavior", "are", "treated", "as", "distinct", "interactions", ".", "Specifically", ",", "the", "user", "must", "stop", "dragging", "the", "camera", "viewpoint", ",", "then", "click", "on", "something", "in", "the", "interface", "to", "trigger", "the", "animation", ",", "dividing", "their", "attention", "and", "interrupting", "the", "visual", "flow", ".", "In", "our", "system", "we", "wanted", "to", "use", "animations", "as", "a", "seamless", "way", "of", "facilitating", "movement", "between", "camera", "surfaces", ".", "Thus", "we", "needed", "a", "mechanism", "for", "engaging", "these", "animations", "that", "did", "not", "require", "an", "explicit", "mouse", "click", "to", "trigger", "animation", ".", "Ideally", "we", "wanted", "to", "leave", "the", "user", "with", "the", "impression", "that", "they", "``", "dragged", "''", "from", "one", "camera", "surface", "to", "another", "even", "though", "the", "transition", "between", "the", "surfaces", "was", "implemented", "as", "an", "authored", "animation", ".", "These", "two", "behaviors", "are", "fundamentally", "different", "in", "that", "viewpoint", "control", "is", "spatial", "navigation", "and", "animation", "control", "is", "temporal", "navigation", ".", "From", "a", "user", "interaction", "standpoint", ",", "spatial", "behavior", "can", "be", "thought", "of", "as", "``", "dragging", "the", "camera", "''", "while", "temporal", "control", "is", "``", "dragging", "a", "time", "slider", "''", "or", "``", "scrubbing", "''", ".", "Given", "this", "we", "required", "an", "interaction", "model", "which", "allowed", "these", "two", "types", "of", "drags", "to", "be", "combined", "together", "in", "a", "way", "that", "was", "well", "defined", ",", "controllable", ",", "and", "corresponded", "to", "user", "'s", "expectations", ".", "Figure", "5", ",", "which", "uses", "the", "finite-state-machine", "model", "to", "describe", "interaction", "as", "introduced", "by", "-LSB-", "5", ",", "26", "-RSB-", ",", "shows", "the", "interaction", "model", "we", "developed", ".", "The", "key", "feature", "of", "this", "model", "is", "the", "ability", "to", "transition", "back", "and", "forth", "from", "spatial", "to", "temporal", "control", "during", "a", "contiguous", "drag", ".", "As", "a", "user", "drags", "the", "camera", "across", "a", "camera", "surface", "-LRB-", "State", "1", ",", "Spatial", "Navigation", "-RRB-", "and", "hits", "the", "edge", "of", "the", "surface", ",", "a", "transition", "is", "made", "to", "dragging", "an", "invisible", "time", "slider", "-LRB-", "State", "2", ",", "Temporal", "Navigation", "-RRB-", ".", "As", "the", "user", "continues", "to", "drag", ",", "the", "drag", "controls", "the", "location", "in", "the", "animation", "clip", ",", "assuming", "that", "the", "author", "has", "specified", "the", "clip", "to", "be", "under", "user", "control", ".", "Upon", "reaching", "the", "end", "of", "the", "animation", ",", "a", "transition", "is", "made", "back", "to", "dragging", "the", "camera", ",", "however", ",", "on", "a", "different", ",", "destination", "camera", "surface", "-LRB-", "State", "1", "-RRB-", ".", "Button", "Up", "Clip", "Finished", "Button", "Up", "State", "0", "State", "1", "State", "2", "State", "3", "Button", "Down", "Enter", "Surface", "Exit", "Surface", "Button", "Down", "Tracking", "Dragging", "in", "Space", "Dragging", "in", "Time", "Tracking", "during", "Automatic", "Playback", "Stop", "Playback", "Spatial", "Navigation", "Temporal", "Navigation", "Figure", "5", ".", "StyleCam", "interaction", "model", ".", "The", "interaction", "model", "also", "handles", "a", "variety", "of", "reasonable", "variations", "on", "this", "type", "of", "dragging", "behavior", ".", "A", "user", "may", "stop", "moving", "when", "dragging", "an", "animation", "clip", ",", "thus", "pausing", "the", "animation", ".", "If", ",", "however", ",", "when", "in", "State", "2", "the", "user", "releases", "the", "mouse", "button", "during", "a", "drag", ",", "automatic", "playback", "is", "invoked", "to", "carry", "the", "user", "to", "the", "next", "camera", "surface", "-LRB-", "State", "3", "-RRB-", ".", "Should", "the", "user", "press", "the", "mouse", "button", "during", "this", "automatic", "playback", ",", "playback", "is", "stopped", "and", "temporal", "control", "by", "the", "user", "is", "resumed", "-LRB-", "return", "to", "State", "2", "-RRB-", ".", "We", "found", "in", "practice", "that", "this", "interaction", "design", "enhanced", "the", "user", "'s", "feeling", "of", "being", "in", "control", "throughout", "the", "entire", "experience", ".", "At", "first", "glance", ",", "it", "may", "appear", "that", "the", "incorporation", "of", "animation", "clips", "into", "StyleCam", "unnecessarily", "complicates", "its", "authoring", "and", "use", ".", "After", "all", ",", "without", "animated", "transitions", ",", "we", "would", "not", "have", "had", "to", "develop", "an", "interaction", "technique", "that", "blended", "between", "spatial", "and", "temporal", "control", ".", "Indeed", ",", "when", "we", "first", "began", "our", "research", ",", "our", "hope", "was", "to", "create", "a", "system", "that", "simply", "involved", "spatial", "control", "of", "a", "constrained", "camera", ".", "Our", "first", "variation", "used", "a", "single", "camera", "surface", "that", "surrounded", "the", "3D", "object", "of", "interest", ".", "The", "camera", "was", "constrained", "to", "remain", "normal", "to", "this", "single", "camera", "surface", "at", "all", "times", ".", "While", "this", "gave", "the", "author", "more", "control", "than", "using", "a", "simple", "unconstrained", "camera", ",", "we", "found", "that", "it", "was", "difficult", "to", "author", "a", "single", "camera", "surface", "that", "encompassed", "all", "the", "desirable", "viewpoints", "and", "interesting", "transitions", "between", "those", "viewpoints", ".", "In", "order", "to", "guarantee", "desirable", "viewpoints", ",", "we", "introduced", "the", "concept", "of", "money-shots", "that", "were", "placed", "on", "the", "single", "camera", "surface", ".", "The", "parameters", "of", "the", "camera", "were", "then", "determined", "based", "on", "its", "location", "on", "the", "camera", "surface", "and", "a", "weighted", "average", "of", "the", "surrounding", "money-shots", ".", "At", "this", "point", ",", "it", "was", "still", "difficult", "to", "author", "what", "the", "user", "would", "see", "when", "not", "directly", "on", "a", "money-shot", ".", "In", "other", "words", ",", "while", "money-shots", "worked", "well", ",", "the", "transitions", "between", "them", "worked", "poorly", ".", "To", "address", "this", "problem", "of", "unsatisfactory", "transitions", ",", "we", "first", "replaced", "the", "concept", "of", "a", "single", "global", "camera", "surface", "with", "separate", "local", "camera", "surfaces", "for", "each", "money-shot", ".", "104", "Volume", "4", ",", "Issue", "2", "Then", ",", "to", "define", "transitions", "between", "these", "local", "camera", "surfaces", ",", "we", "introduced", "the", "idea", "of", "animating", "the", "camera", ".", "This", "led", "to", "the", "use", "of", "the", "three", "types", "of", "animation", "clips", "as", "described", "earlier", ".", "Simply", "playing", "back", "the", "animation", "clips", "between", "camera", "surfaces", "gave", "users", "the", "sense", "that", "they", "lost", "control", "during", "this", "period", ".", "To", "maintain", "the", "feeling", "of", "continuous", "control", "throughout", ",", "we", "developed", "our", "integrated", "spatial-temporal", "interaction", "technique", ".", "We", "illustrate", "how", "StyleCam", "operates", "by", "an", "example", ".", "Figure", "6", "illustrates", "the", "system", "components", "and", "how", "they", "react", "to", "user", "input", ",", "as", "well", "as", "screen", "shots", "of", "what", "the", "user", "actually", "sees", ".", "The", "user", "starts", "by", "dragging", "on", "a", "camera", "surface", "-LRB-", "position", "A", "-RRB-", ".", "The", "path", "A-B", "shows", "the", "camera", "being", "dragged", "on", "the", "surface", "-LRB-", "spatial", "navigation", "-RRB-", ".", "At", "B", ",", "the", "user", "reaches", "the", "edge", "of", "the", "camera", "surface", "and", "this", "launches", "an", "animation", "that", "will", "transition", "the", "user", "from", "B", "to", "E", ".", "The", "zigzag", "path", "from", "B", "to", "D", "indicates", "that", "the", "user", "is", "scrubbing", "time", "on", "the", "animation", "-LRB-", "temporal", "navigation", "-RRB-", ".", "Position", "C", "simply", "illustrates", "an", "intermediate", "point", "in", "the", "animation", "that", "gets", "seen", "three", "times", "during", "the", "interaction", ".", "At", "position", "D", ",", "the", "user", "releases", "the", "mouse", "button", ",", "whereupon", "the", "system", "automatically", "completes", "playing", "back", "the", "remainder", "of", "the", "animation", "at", "the", "authored", "pacing", ".", "At", "position", "E", ",", "the", "user", "enters", "another", "camera", "surface", "and", "resumes", "spatial", "navigation", "of", "the", "camera", "as", "shown", "by", "path", "E-F", ".", "When", "the", "user", "exits", "this", "camera", "surface", "at", "position", "F", ",", "another", "animation", "is", "launched", "that", "will", "transition", "the", "user", "to", "position", "J", ".", "Since", "the", "user", "releases", "the", "mouse", "button", "at", "position", "F", ",", "the", "animation", "from", "F", "to", "J", "is", "played", "back", "at", "the", "authored", "pacing", ".", "Since", "this", "animation", "is", "a", "slate", "animation", ",", "the", "intermediate", "shots", "at", "positions", "G", ",", "H", ",", "and", "I", "along", "the", "path", "F", "to", "J", "are", "of", "slates", "containing", "information", "on", "the", "car", "fading", "in", "and", "out", "as", "the", "camera", "pans", "over", "the", "top", "of", "the", "car", ".", "The", "net", "result", "of", "this", "StyleCam", "experience", "is", "a", "view", "of", "the", "car", "that", "is", "far", "more", "visually", "rich", "and", "influenced", "by", "an", "author", "who", "intends", "to", "convey", "a", "certain", "message", ",", "rather", "than", "using", "simple", "camera", "controls", "as", "is", "typical", "in", "current", "3D", "viewers", ".", "Much", "prior", "research", "has", "explored", "camera", "techniques", "for", "3D", "virtual", "environments", ".", "Many", "of", "the", "techniques", "use", "a", "2D", "mouse", "or", "stylus", "as", "an", "input", "device", "and", "introduce", "metaphors", "to", "assist", "the", "user", ".", "Perhaps", "the", "most", "ubiquitous", "metaphor", ",", "the", "cinematic", "camera", ",", "enables", "users", "to", "tumble", ",", "track", "and", "dolly", "a", "viewpoint", ".", "Various", "other", "metaphors", "have", "been", "explored", "by", "researchers", ",", "including", "orbiting", "and", "flying", "-LSB-", "32", "-RSB-", ",", "through-the-lens", "control", "-LSB-", "18", "-RSB-", ",", "points", "and", "areas", "of", "interests", "Figure", "6", ".", "Example", "StyleCam", "experience", ".", "Top", ":", "system", "components", "and", "their", "reaction", "to", "user", "input", ".", "Bottom", ":", "what", "the", "user", "sees", ".", "Volume", "4", ",", "Issue", "2", "105", "-LSB-", "22", "-RSB-", ",", "using", "constraints", "-LSB-", "24", ",", "29", "-RSB-", ",", "drawing", "a", "path", "-LSB-", "21", "-RSB-", ",", "two-handed", "techniques", "-LSB-", "1", ",", "38", "-RSB-", ",", "and", "combinations", "of", "techniques", "-LSB-", "30", ",", "37", "-RSB-", ".", "Bowman", "et", ".", "al.", "present", "taxonomies", "and", "evaluations", "of", "various", "schemes", "-LSB-", "3", ",", "4", "-RSB-", ".", "Other", "techniques", "involve", "automatic", "framing", "of", "the", "areas", "of", "interest", "as", "typically", "found", "in", "game", "console", "based", "adventure", "games", "which", "use", "a", "``", "chase", "airplane", "''", "metaphor", "for", "a", "third", "person", "perspective", ".", "Systems", "that", "utilize", "higher", "degree-of-freedom", "input", "devices", "offer", "additional", "control", "and", "alternative", "metaphors", "have", "been", "investigated", ",", "including", "flying", "-LSB-", "7", ",", "34", "-RSB-", ",", "eyeball-in-hand", "-LSB-", "35", "-RSB-", ",", "and", "worlds", "in", "miniature", "-LSB-", "31", "-RSB-", ".", "The", "major", "difference", "between", "this", "body", "of", "prior", "research", "and", "our", "work", "is", "that", "we", "attempt", "to", "give", "the", "author", "substantially", "more", "influence", "over", "the", "types", "of", "views", "and", "transitions", "between", "them", "as", "the", "user", "navigates", "in", "the", "virtual", "space", ".", "Beyond", "techniques", "for", "navigating", "the", "scene", ",", "extra", "information", "can", "also", "be", "provided", "to", "aid", "navigation", ".", "These", "include", "global", "maps", "in", "addition", "to", "local", "views", "-LSB-", "12", ",", "14", "-RSB-", ",", "and", "various", "landmarks", "-LSB-", "9", ",", "33", "-RSB-", ".", "Others", "have", "investigated", "integrating", "global", "and", "local", "views", ",", "using", "various", "distorted", "spaces", "including", "``", "fisheye", "''", "views", "-LSB-", "6", ",", "15", "-RSB-", ".", "At", "present", ",", "in", "an", "attempt", "to", "keep", "the", "visual", "space", "uncluttered", ",", "our", "work", "does", "not", "have", "mechanisms", "for", "providing", "global", "information", "to", "the", "user", ",", "however", ",", "this", "is", "something", "we", "may", "incorporate", "as", "our", "system", "progresses", ".", "Approaches", "which", "give", "the", "author", "more", "influence", "include", "guided", "tours", "where", "camera", "paths", "are", "prespecified", "for", "the", "end", "user", "to", "travel", "along", ".", "Galyean", "-LSB-", "17", "-RSB-", "proposes", "a", "``", "river", "analogy", "''", "where", "a", "user", ",", "on", "a", "metaphorical", "boat", ",", "can", "deviate", "from", "the", "guided", "path", ",", "the", "river", ",", "by", "steering", "a", "conceptual", "``", "rudder", "''", ".", "Fundamental", "work", "by", "Hanson", "and", "Wernert", "-LSB-", "19", ",", "36", "-RSB-", "proposes", "``", "virtual", "sidewalks", "''", "which", "are", "authored", "by", "constructing", "virtual", "surfaces", "and", "specifying", "gaze", "direction", ",", "vistas", ",", "and", "procedural", "events", "-LRB-", "e.g.", ",", "fog", "and", "spotlights", "-RRB-", "along", "the", "sidewalk", ".", "Our", "system", "builds", "upon", "the", "guided", "tour", "and", "virtual", "sidewalk", "ideas", "but", "differs", "by", "providing", "authoring", "elements", "that", "enable", "a", "much", "more", "stylized", "experience", ".", "Specifically", ",", "we", "offer", "a", "means", "of", "presenting", "3D", ",", "2D", ",", "and", "temporal", "media", "experiences", "through", "a", "simple", ",", "unified", ",", "singular", "user", "interaction", "technique", "that", "supports", "both", "spatial", "and", "temporal", "navigation", ".", "Robotic", "planning", "algorithms", "have", "been", "used", "to", "assist", "or", "automatically", "create", "a", "guided", "tour", "of", "a", "3D", "scene", ",", "in", "some", "cases", "resulting", "in", "specific", "behaviors", "trying", "to", "satisfy", "goals", "and", "constraints", "-LSB-", "10", ",", "11", "-RSB-", ".", "Individual", "camera", "framing", "of", "a", "scene", "has", "been", "used", "to", "assist", "in", "viewing", "or", "manipulation", "tasks", "-LSB-", "27", "-RSB-", ".", "Rules", "can", "be", "defined", "for", "cameras", "to", "automatically", "frame", "a", "scene", "that", "follow", "cinematic", "principles", "such", "as", "keeping", "the", "virtual", "actors", "visible", "in", "the", "scene", ";", "or", "following", "the", "lead", "actor", "-LSB-", "20", "-RSB-", ".", "Yet", "another", "system", "-LSB-", "2", "-RSB-", "allows", "authors", "to", "define", "storyboard", "frames", "and", "the", "system", "defines", "a", "set", "of", "virtual", "cameras", "in", "the", "3D", "scene", "to", "support", "the", "visual", "composition", ".", "This", "previous", "work", "assists", "in", "the", "authoring", "aspects", "by", "ceding", "some", "control", "to", "the", "system", ".", "Our", "work", "too", "involves", "some", "automatic", "system", "control", ",", "but", "we", "emphasize", "author", "control", ".", "Image", "based", "virtual", "reality", "environments", "such", "as", "QuicktimeVR", "-LSB-", "8", "-RSB-", "utilize", "camera", "panning", "and", "zooming", "and", "allow", "users", "to", "move", "to", "defined", "vista", "points", ".", "The", "driving", "metaphor", "has", "also", "been", "used", "for", "navigating", "interactive", "video", ",", "as", "seen", "in", "the", "Movie-Maps", "system", "-LSB-", "23", "-RSB-", ".", "More", "recently", ",", "the", "Steerable", "Media", "project", "-LSB-", "25", "-RSB-", "for", "interactive", "television", "aims", "to", "retain", "the", "visual", "aesthetic", "of", "existing", "television", "but", "increase", "the", "level", "of", "user", "interactivity", ".", "The", "user", "is", "given", "the", "ability", "to", "control", "the", "content", "progression", "by", "seamlessly", "integrating", "video", "with", "augmented", "2D", "and", "3D", "graphics", ".", "While", "our", "goals", "are", "similar", "in", "that", "we", "hope", "to", "enhance", "the", "aesthetics", "of", "the", "visual", "experience", ",", "we", "differ", "in", "that", "our", "dominant", "media", "type", "is", "3D", "graphics", "with", "augmented", "temporal", "media", "-LRB-", "animations", "and", "visual", "effects", "-RRB-", "and", "traditional", "2D", "media", "-LRB-", "video", ",", "still", "images", "-RRB-", ".", "Lastly", ",", "we", "note", "that", "widely", "available", "3D", "viewers", "or", "viewing", "technologies", "such", "as", "VRML", ",", "Cult3D", ",", "Shockwave", ",", "Viewpoint", ",", "Virtools", ",", "and", "Pulse3D", ",", "are", "becoming", "very", "popular", "but", "offer", "the", "standard", "camera", "controls", "of", "vista", "points", ",", "track", ",", "tumble", ",", "and", "zoom", ".", "We", "hope", "our", "explorations", "will", "ultimately", "assist", "in", "offering", "new", "experience", "and", "interaction", "approaches", "for", "future", "incarnations", "of", "these", "3D", "viewers", ".", "StyleCam", "is", "implemented", "using", "Alias", "|", "wavefront", "'s", "MAYA", "3D", "modeling", "and", "animation", "package", ".", "We", "use", "MAYA", "to", "author", "the", "3D", "content", "to", "be", "visualized", ",", "the", "required", "camera", "surfaces", ",", "animation", "clips", ",", "and", "required", "associations", "between", "them", ".", "A", "custom", "written", "MAYA", "plugin", "allows", "the", "user", "to", "control", "their", "view", "of", "the", "3D", "content", "based", "on", "their", "mouse", "input", "and", "the", "authored", "camera", "surfaces", ",", "animation", "clips", ",", "and", "associations", ".", "The", "following", "description", "of", "our", "implementation", "assumes", "some", "knowledge", "of", "MAYA", ",", "although", "we", "have", "endeavoured", "to", "be", "as", "general", "as", "possible", "without", "sacrificing", "accuracy", ".", "6.1", ".", "Authoring", "First", ",", "money-shots", "are", "created", "by", "defining", "a", "MAYA", "camera", "with", "specific", "position", ",", "orientation", ",", "and", "other", "camera", "parameters", ".", "Then", ",", "a", "camera", "surface", "which", "intersects", "the", "position", "of", "the", "money-shot", "camera", "is", "defined", "by", "creating", "an", "appropriate", "non-trimmed", "NURBS", "surface", "within", "MAYA", ".", "To", "include", "an", "optional", "camera", "look-at", "point", ",", "the", "author", "simply", "defines", "a", "point", "in", "3D", "space", "-LRB-", "using", "a", "MAYA", "locator", "-RRB-", ".", "Finally", ",", "to", "make", "these", "components", "easily", "locatable", "by", "the", "plugin", ",", "they", "are", "grouped", "under", "a", "named", "MAYA", "node", "within", "its", "dependency", "graph", ".", "Then", ",", "StyleCam", "animation", "clips", "are", "created", "as", "one", "would", "normally", "create", "animations", "in", "MAYA", ",", "using", "its", "TRAX", "non-linear", "animation", "editor", ".", "Animation", "clips", "at", "this", "stage", "are", "given", "meaningful", ",", "consistent", ",", "names", "in", "order", "to", "facilitate", "their", "identification", "later", "when", "associating", "them", "with", "events", ".", "106", "Volume", "4", ",", "Issue", "2", "StyleCam", "allows", "the", "author", "to", "create", "scripts", "and", "associate", "them", "with", "events", ".", "Supported", "events", "are", "session", "startup", ",", "camera", "surface", "entry", ",", "camera", "surface", "exit", ",", "and", "camera", "surface", "timeout", "-LRB-", "Figure", "7", "-RRB-", ".", "We", "implement", "variable", "control-display", "gain", "on", "a", "camera", "surface", "-LRB-", "Figure", "3", "-RRB-", "by", "varying", "the", "separation", "between", "the", "isoparms", "on", "the", "NURBS", "surface", ".", "As", "shown", "in", "Figure", "4", ",", "StyleCam", "supports", "three", "types", "of", "transitions", ":", "automatic", ",", "authored", ",", "and", "slate", ".", "Automatic", "transitions", "are", "those", "that", "smoothly", "move", "the", "camera", "from", "one", "camera", "surface", "to", "another", "without", "requiring", "any", "authored", "animation", "clips", ".", "This", "is", "done", "by", "having", "the", "system", "perform", "quaternion", "-LSB-", "28", "-RSB-", "interpolation", "of", "camera", "orientation", ",", "combined", "quaternion", "and", "linear", "interpolation", "of", "camera", "position", ",", "and", "linear", "interpolation", "of", "other", "camera", "properties", "such", "as", "focal", "length", ".", "Using", "quaternion", "interpolation", "ensures", "smooth", "changes", "in", "orientation", "while", "defining", "a", "smooth", "arcing", "path", "for", "the", "position", ".", "At", "each", "time", "step", "in", "the", "transition", ",", "two", "quaternions", "representing", "the", "required", "fractional", "rotations", "of", "the", "position", "and", "orientation", "vectors", "of", "the", "camera", "are", "calculated", "and", "applied", "to", "the", "source", "vectors", ".", "In", "addition", ",", "the", "magnitude", "of", "the", "position", "vector", "is", "adjusted", "by", "linear", "interpolation", "between", "the", "source", "and", "destination", "position", "vector", "magnitudes", ".", "The", "result", "is", "a", "series", "of", "intermediate", "camera", "positions", "and", "orientations", "as", "Figure", "8", "illustrates", ".", "Figure", "7", ".", "StyleCam", "events", "The", "session", "startup", "event", "is", "triggered", "only", "once", "when", "the", "user", "initially", "begins", "using", "StyleCam", "to", "view", "a", "scene", ".", "Exit", "events", "are", "triggered", "when", "the", "user", "leaves", "a", "camera", "surface", "from", "one", "of", "four", "directions", ".", "Associated", "scripts", "can", "specify", "destination", "camera", "surfaces", "and", "types", "of", "transitions", "to", "be", "performed", ".", "Time-out", "events", "are", "triggered", "when", "the", "mouse", "is", "idle", "for", "a", "given", "duration", "while", "on", "a", "particular", "camera", "surface", ",", "and", "can", "be", "used", "to", "launch", "an", "automatic", "presentation", ".", "StyleCam", "'s", "event", "and", "script", "mechanism", "provides", "for", "the", "use", "of", "logic", "to", "dynamically", "alter", "the", "presentation", ".", "For", "example", ",", "scripts", "can", "ensure", "that", "some", "surfaces", "are", "only", "visited", "once", ",", "while", "others", "are", "shown", "only", "after", "certain", "surfaces", "have", "already", "been", "visited", ".", "6.2", ".", "Interaction", "When", "the", "StyleCam", "plugin", "is", "activated", ",", "the", "first", "money-shot", "of", "the", "first", "camera", "surface", "is", "used", "as", "the", "initial", "view", ".", "If", "a", "look-at", "point", "is", "defined", "for", "this", "camera", "surface", ",", "the", "orientation", "of", "the", "user", "camera", "is", "set", "such", "that", "the", "camera", "points", "directly", "at", "the", "look-at", "point", ".", "Otherwise", ",", "the", "orientation", "is", "set", "to", "the", "normal", "of", "the", "camera", "surface", "at", "the", "money-shot", "viewpoint", "'s", "position", ".", "Figure", "8", ".", "Combined", "quaternion", "and", "linear", "interpolation", "Authored", "transitions", "involve", "the", "playback", "of", "preauthored", "animation", "clips", ".", "This", "gives", "the", "author", "complete", "control", "over", "the", "user", "experience", "during", "the", "transition", "including", "the", "pacing", ",", "framing", "and", "visual", "effects", ".", "User", "'s", "mouse", "movements", "and", "button", "presses", "are", "monitored", "by", "the", "StyleCam", "plugin", ".", "Mouse", "drags", "result", "in", "the", "camera", "moving", "along", "the", "current", "camera", "surface", ".", "Specifically", ",", "for", "a", "given", "mouse", "displacement", "-LRB-", "dx", ",", "dy", "-RRB-", ",", "the", "new", "position", "of", "the", "camera", "on", "the", "camera", "surface", "-LRB-", "in", "uv-coordinates", "local", "to", "the", "camera", "surface", "-RRB-", "is", "given", "by", "Slate", "transitions", "are", "a", "special", "case", "of", "authored", "transitions", ".", "Used", "to", "present", "2D", "media", ",", "slate", "transitions", "are", "authored", "by", "placing", "an", "image", "plane", "in", "front", "of", "the", "camera", "as", "it", "transitions", "between", "camera", "surfaces", ".", "Various", "visual", "effects", "can", "be", "achieved", "by", "using", "multiple", "image", "planes", "simultaneously", "and", "by", "animating", "transparency", "and", "other", "parameters", "of", "these", "image", "planes", ".", "While", "the", "slate", "transition", "is", "in", "progress", ",", "the", "camera", "is", "simultaneously", "being", "smoothly", "interpolated", "towards", "the", "destination", "camera", "surface", ".", "This", "essentially", "allows", "for", "a", "``", "soft", "''", "fade", "from", "a", "camera", "view", ",", "to", "a", "slate", ",", "and", "back", ",", "as", "Figure", "9", "illustrates", ".", "-LRB-", "u1", ",", "v1", "-RRB-", "=", "-LRB-", "u0", ",", "v0", "-RRB-", "+", "c", "*", "-LRB-", "dx", ",", "dy", "-RRB-", "where", "-LRB-", "u0", ",", "v0", "-RRB-", "is", "the", "last", "position", "of", "the", "camera", ",", "and", "c", "is", "the", "gain", "constant", ".", "If", "either", "the", "u", "or", "v", "coordinate", "of", "the", "resulting", "position", "is", "not", "within", "the", "range", "-LSB-", "0,1", "-RSB-", ",", "the", "camera", "has", "left", "the", "current", "camera", "surface", ".", "At", "this", "point", ",", "the", "author-scripted", "logic", "is", "executed", "to", "determine", "the", "next", "step", ".", "First", ",", "the", "destination", "money-shot", "is", "resolved", ".", "Next", ",", "an", "appropriate", "transition", "is", "performed", "to", "move", "to", "the", "next", "camera", "surface", ".", "Volume", "4", ",", "Issue", "2", "107", "Figure", "9", ".", "Slate", "transitions", "StyleCam", "supports", "temporal", "control", "or", "``", "scrubbing", "''", "of", "animations", ".", "During", "navigation", "mode", ",", "the", "user", "'s", "mouse", "drags", "control", "the", "camera", "'s", "position", "on", "the", "camera", "surface", ".", "However", ",", "when", "the", "user", "moves", "off", "a", "camera", "surface", "into", "an", "animated", "transition", ",", "mouse", "drags", "control", "the", "-LRB-", "invisible", "-RRB-", "timeslider", "of", "the", "animation", ".", "Time", "is", "advanced", "when", "the", "mouse", "is", "dragged", "in", "the", "same", "direction", "that", "the", "camera", "exited", "the", "camera", "surface", "and", "reversed", "if", "the", "directions", "are", "also", "reversed", ".", "When", "the", "mouse", "button", "is", "released", ",", "the", "system", "takes", "over", "time", "management", "and", "smoothly", "ramps", "the", "time", "steps", "towards", "the", "animation", "'s", "original", "playback", "rate", ".", "Our", "present", "implementation", "supports", "scrubbing", "only", "for", "automatic", "transitions", ".", "Authored", "and", "slate", "transitions", "are", "currently", "uninterruptible", ".", "There", "is", "however", "no", "technical", "reason", "why", "all", "transitions", "can", "not", "support", "scrubbing", ".", "In", "future", "versions", "we", "intend", "to", "give", "the", "author", "the", "choice", "of", "determining", "whether", "or", "not", "any", "given", "transition", "is", "scrubable", ".", "This", "is", "important", "since", "in", "some", "cases", "it", "may", "be", "desirable", "to", "force", "the", "animation", "to", "playback", "uninterrupted", "at", "a", "certain", "rate", ".", "We", "conducted", "an", "informal", "user", "study", "to", "get", "a", "sense", "of", "users", "'", "initial", "reactions", "to", "using", "StyleCam", ".", "Seven", "participants", ",", "three", "of", "whom", "had", "experience", "with", "3D", "graphics", "applications", "and", "camera", "control", "techniques", ",", "and", "four", "who", "had", "never", "used", "a", "3D", "application", "or", "camera", "controls", ",", "were", "asked", "to", "explore", "a", "3D", "car", "model", "using", "StyleCam", ".", "In", "order", "to", "ensure", "the", "study", "resembled", "our", "intended", "casual", "usage", "scenario", ",", "we", "gave", "participants", "only", "minimal", "instructions", ".", "We", "explained", "the", "click-and-drag", "action", "required", "to", "manipulate", "the", "camera", ",", "a", "brief", "rationale", "for", "the", "study", ",", "and", "to", "imagine", "they", "were", "experiencing", "an", "interactive", "advertisement", "for", "that", "car", ".", "We", "did", "not", "identify", "the", "various", "components", "-LRB-", "camera", "surfaces", ",", "animated", "transitions", ",", "etc", "-RRB-", "nor", "give", "any", "details", "on", "them", ".", "This", "was", "deliberately", "done", "so", "that", "the", "participants", "could", "experience", "these", "components", "in", "action", "for", "themselves", "and", "give", "us", "feedback", "without", "knowing", "in", "advance", "of", "their", "existence", ".", "One", "very", "promising", "result", "was", "that", "none", "of", "the", "participants", "realized", "that", "they", "were", "switching", "between", "controlling", "the", "camera", "and", "controlling", "the", "time", "slider", "on", "the", "animations", ".", "They", "felt", "that", "they", "had", "the", "same", "type", "of", "control", "throughout", ",", "indicating", "that", "our", "blending", "between", "spatial", "and", "temporal", "control", "worked", "remarkably", "well", ".", "Also", "the", "simplicity", "of", "the", "interaction", "technique", "essentially", "a", "single", "click", "and", "drag", "action", "was", "immediately", "understood", "and", "usable", "by", "all", "our", "users", ".", "Another", "reaction", "from", "all", "the", "participants", "was", "that", ",", "to", "varying", "degrees", ",", "they", "sometimes", "felt", "that", "they", "were", "not", "in", "control", "of", "the", "interaction", "when", "the", "uninterruptable", "animations", "occurred", ".", "This", "was", "particularly", "acute", "when", "the", "information", "in", "the", "animations", "seemed", "unrelated", "to", "their", "current", "view", ".", "In", "these", "cases", ",", "participants", "indicated", "that", "they", "had", "no", "idea", "what", "triggered", "these", "animations", "and", "were", "often", "annoyed", "at", "the", "sudden", "interruptions", ".", "However", "when", "the", "information", "was", "relevant", "the", "interruptions", "were", "not", "as", "annoying", "and", "often", "actually", "appreciated", ".", "In", "some", "cases", "participants", "indicated", "that", "they", "would", "have", "liked", "to", "be", "able", "to", "replay", "the", "animation", "or", "to", "have", "it", "last", "longer", ".", "This", "highlights", "the", "importance", "of", "carefully", "authoring", "the", "intermingling", "of", "uninterruptable", "animations", "with", "the", "rest", "of", "the", "interaction", "experience", ".", "Participants", "also", "indicated", "that", "they", "would", "have", "liked", "the", "ability", "to", "click", "on", "individual", "parts", "of", "the", "car", "model", "in", "order", "to", "inspect", "them", "more", "closely", ".", "This", "request", "is", "not", "surprising", "since", "we", "made", "no", "effort", "in", "our", "current", "implement", "to", "support", "pointing", ".", "However", ",", "we", "believe", "that", "in", "future", "research", "StyleCam", "could", "be", "extended", "to", "include", "pointing", ".", "As", "we", "expected", ",", "all", "the", "participants", "with", "prior", "3D", "graphics", "camera", "experience", "stated", "that", "they", "at", "times", "would", "have", "liked", "full", "control", "of", "the", "camera", ",", "in", "addition", "to", "the", "constrained", "control", "we", "provided", ".", "Participants", "without", "this", "prior", "experience", ",", "however", ",", "did", "not", "ask", "for", "this", "directly", "although", "they", "indicated", "that", "there", "were", "some", "areas", "of", "the", "car", "model", "that", "they", "would", "have", "liked", "to", "see", "but", "could", "not", "get", "to", ".", "However", ",", "this", "does", "not", "necessarily", "imply", "full", "control", "of", "the", "camera", "is", "required", ".", "We", "believe", "that", "this", "issue", "can", "be", "largely", "alleviated", "at", "the", "authoring", "phase", "by", "ascertaining", "what", "users", "want", "to", "see", "for", "a", "particular", "model", "and", "ensuring", "that", "those", "features", "are", "accessible", "via", "the", "authored", "camera", "surfaces", ".", "Interestingly", ",", "the", "participant", "with", "the", "most", "3D", "graphics", "experience", "commented", "that", "the", "automatic", "transitions", "and", "smooth", "camera", "paths", "during", "those", "transitions", "were", "very", "good", "and", "that", "``", "for", "those", "who", "do", "n't", "know", "3D", "and", "stuff", ",", "this", "would", "be", "very", "good", "''", "!", "Central", "to", "our", "StyleCam", "system", "is", "the", "integration", "of", "spatial", "and", "temporal", "controls", "into", "a", "single", "user", "interaction", "model", ".", "The", "implications", "of", "this", "interaction", "model", "go", "far", "beyond", "a", "simple", "interaction", "technique", ".", "The", "blending", "of", "spatial", "and", "temporal", "control", "presents", "a", "completely", "new", "issue", "that", "an", "author", "needs", "to", "understand", "and", "consider", "when", "creating", "these", "interactive", "visual", "experiences", ".", "As", "evident", "from", "the", "comments", "of", "our", "users", ",", "temporal", "control", "can", "feel", "very", "much", "like", "spatial", "control", "even", "when", "scrubbing", "backwards", "108", "Volume", "4", ",", "Issue", "2", "in", "an", "animation", "when", "the", "animation", "consists", "of", "moving", "the", "viewing", "camera", "around", "the", "central", "object", "of", "interest", ".", "However", ",", "if", "the", "animation", "is", "not", "around", "the", "central", "object", "of", "interest", ",", "for", "example", "in", "some", "of", "our", "slate", "animations", ",", "temporal", "control", "can", "produce", "very", "different", "sensations", ".", "These", "include", "the", "feeling", "of", "moving", "backwards", "in", "time", ",", "interruption", "of", "a", "well", "paced", "animation", ",", "jarring", "or", "ugly", "visuals", ",", "and", "sometimes", "even", "nonsensical", "content", ".", "As", "a", "result", ",", "the", "author", "needs", "to", "be", "extremely", "cognizant", "of", "these", "artefacts", "and", "make", "design", "decisions", "as", "to", "when", "and", "where", "to", "relinquish", "control", "-", "and", "how", "much", "control", "-", "to", "the", "user", ".", "At", "one", "extreme", ",", "the", "author", "can", "specify", "that", "certain", "animations", "are", "completely", "uninterruptible", "by", "the", "user", ".", "In", "the", "experience", "we", "authored", "for", "our", "user", "study", ",", "we", "included", "several", "of", "these", "types", "of", "transitions", ".", "As", "discussed", "earlier", ",", "whether", "users", "favored", "this", "depended", "heavily", "on", "the", "content", ".", "In", "other", "words", ",", "in", "some", "cases", ",", "as", "authors", ",", "we", "did", "not", "make", "the", "right", "decision", ".", "Further", "improvements", "could", "include", "partially", "interruptable", "animations", ".", "For", "example", ",", "we", "may", "not", "allow", "movement", "backwards", "in", "time", "but", "allow", "the", "user", "to", "control", "the", "forward", "pacing", ".", "This", "will", "largely", "solve", "the", "nonsensical", "content", "problem", "but", "may", "still", "result", "in", "occasionally", "jarring", "visuals", ".", "If", "we", "intend", "to", "support", "these", "various", "types", "of", "control", ",", "we", "must", "also", "be", "able", "to", "set", "the", "users", "'", "expectations", "of", "what", "type", "of", "control", "they", "have", "at", "any", "given", "time", ".", "It", "is", "clear", "that", "the", "current", "StyleCam", "switching", "between", "spatial", "and", "temporal", "control", "without", "any", "explicit", "indication", "to", "the", "user", "that", "a", "switch", "is", "happening", "works", "in", "most", "cases", ".", "In", "the", "cases", "where", "it", "fails", ",", "either", "the", "visual", "content", "itself", "should", "indicate", "what", "control", "is", "possible", ",", "or", "some", "explicit", "mechanism", "is", "required", "to", "inform", "the", "user", "of", "the", "current", "or", "upcoming", "control", "possibilities", ".", "In", "addition", "to", "the", "obvious", "solution", "of", "using", "on-screen", "visual", "indicators", "-LRB-", "e.g.", ",", "changing", "cursors", "-RRB-", "to", "indicate", "state", ",", "future", "research", "could", "include", "exploring", "``", "hint-ahead", "''", "mechanisms", "that", "indicate", "upcoming", "content", "if", "the", "user", "chooses", "to", "stay", "on", "their", "current", "course", "of", "travel", ".", "For", "example", ",", "as", "the", "user", "reaches", "the", "edge", "of", "a", "camera", "surface", ",", "a", "``", "voice-over", "''", "could", "say", "something", "like", "``", "now", "we", "'re", "heading", "towards", "the", "engine", "of", "the", "car", "''", ".", "Alternatively", ",", "a", "visual", "``", "signpost", "''", "could", "fade-in", "near", "the", "cursor", "location", "to", "convey", "this", "information", ".", "These", "ideas", "coincide", "with", "research", "that", "states", "that", "navigation", "routes", "must", "be", "discoverable", "by", "the", "user", "-LSB-", "16", "-RSB-", ".", "It", "is", "very", "clear", "from", "our", "experiences", "with", "StyleCam", "that", "the", "user", "'s", "viewing", "experience", "is", "highly", "dependent", "on", "the", "talent", "and", "skill", "of", "the", "author", ".", "It", "is", "likely", "that", "skills", "from", "movie", "making", ",", "game", "authoring", ",", "advertising", ",", "and", "theme", "park", "design", "would", "all", "assist", "in", "authoring", "compelling", "experiences", ".", "However", ",", "we", "also", "realize", "that", "authoring", "skills", "from", "these", "other", "genres", "do", "not", "necessarily", "directly", "translate", "due", "to", "the", "unique", "interaction", "aspects", "of", "StyleCam", ".", "While", "StyleCam", "has", "the", "appropriate", "components", "for", "creating", "compelling", "visual", "experiences", ",", "it", "is", "still", "currently", "a", "research", "prototype", "that", "requires", "substantial", "skills", "with", "MAYA", ".", "We", "envision", "a", "more", "author-friendly", "tool", "that", "is", "based", "on", "the", "conceptual", "model", "of", "StyleCam", ".", "Some", "future", "avenues", "that", "we", "intend", "to", "explore", "include", "supporting", "soundtracks", ",", "extensions", "to", "enable", "pointing", "to", "elements", "in", "the", "3D", "scene", ",", "and", "mechanisms", "for", "authoring", "animation", "paths", "using", "alternate", "techniques", "such", "as", "Chameleon", "-LSB-", "13", "-RSB-", ".", "Finally", ",", "it", "is", "important", "to", "note", "that", "StyleCam", "is", "not", "limited", "to", "product", "or", "automobile", "visualization", ".", "Other", "domains", "such", "as", "visualization", "of", "building", "interiors", "and", "medical", "applications", "could", "also", "utilize", "the", "ideas", "presented", "in", "this", "paper", ".", "Figures", "10", ",", "11", ",", "and", "12", "illustrate", "some", "examples", ".", "We", "thank", "Scott", "Guy", "and", "Miles", "Menegon", "for", "assistance", "in", "figure", "and", "video", "creation", ".", "1", ".", "Balakrishnan", ",", "R.", ",", "&", "Kurtenbach", ",", "G.", "-LRB-", "1999", "-RRB-", ".", "Exploring", "bimanual", "camera", "control", "and", "object", "manipulation", "in", "3D", "graphics", "interfaces", ".", "ACM", "CHI", "1999", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "56-63", ".", "2", ".", "Bares", ",", "W.", ",", "McDermott", ",", "S.", ",", "Boudreaux", ",", "C.", ",", "&", "Thainimit", ",", "S.", "-LRB-", "2000", "-RRB-", ".", "Virtual", "3D", "camera", "composition", "from", "frame", "constraints", ".", "ACM", "Multimedia", ".", "p.", "177-186", ".", "3", ".", "Bowman", ",", "D.A.", ",", "Johnson", ",", "D.B.", ",", "&", "Hodges", ",", "L.F.", "-LRB-", "1997", "-RRB-", ".", "Travel", "in", "immersive", "virtual", "environments", ".", "IEEE", "VRAIS", "'97", "Virtual", "Reality", "Annual", "International", "Symposium", ".", "p.", "45-52", ".", "4", ".", "Bowman", ",", "D.A.", ",", "Johnson", ",", "D.B.", ",", "&", "Hodges", ",", "L.F.", "-LRB-", "1999", "-RRB-", ".", "Testbed", "environment", "of", "virtual", "environment", "interaction", ".", "ACM", "VRST", "'99", "Symposium", "on", "Virtual", "Reality", "Software", "and", "Technologies", ".", "p.", "26-33", ".", "5", ".", "Buxton", ",", "W.", ",", "ed", ".", "Three-state", "model", "of", "graphical", "input", ".", "Human-computer", "interaction", "-", "INTERACT", "'", "90", ",", "ed", ".", "D.", "Diaper", ".", "1990", ",", "Elsevier", "Science", "Publishers", "B.", "V.", "-LRB-", "North-Holland", "-RRB-", ":", "Amsterdam", ".", "449-456", ".", "6", ".", "Carpendale", ",", "M.S.T.", ",", "&", "Montagnese", ",", "C.A.", "-LRB-", "2001", "-RRB-", ".", "A", "framework", "for", "unifying", "presentation", "space", ".", "ACM", "UIST", "'", "2001", "Symposium", "on", "User", "Interface", "Software", "and", "Technology", ".", "p.", "61-70", ".", "7", ".", "Chapman", ",", "D.", ",", "&", "Ware", ",", "C.", "-LRB-", "1992", "-RRB-", ".", "Manipulating", "the", "future", ":", "predictor", "based", "feedback", "for", "velocity", "control", "in", "virtual", "environment", "navigation", ".", "ACM", "I3D", "'92", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "63-66", ".", "8", ".", "Chen", ",", "S.E.", "-LRB-", "1995", "-RRB-", ".", "QuickTime", "VR", ":", "An", "image-based", "approach", "to", "virtual", "environment", "navigation", ".", "ACM", "SIGGRAPH", "'95", "Conference", "on", "Computer", "Graphics", "and", "Interactive", "Techniques", ".", "p.", "29-38", ".", "9", ".", "Darken", ",", "R.", ",", "&", "Sibert", ",", "J.", "-LRB-", "1996", "-RRB-", ".", "Wayfinding", "strategies", "and", "behaviours", "in", "large", "virtual", "worlds", ".", "ACM", "CHI", "'96", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "142-149", ".", "Volume", "4", ",", "Issue", "2", "109", "10", ".", "Drucker", ",", "S.M.", ",", "Galyean", ",", "T.A.", ",", "&", "Zeltzer", ",", "D.", "-LRB-", "1992", "-RRB-", ".", "CINEMA", ":", "A", "system", "for", "procedural", "camera", "movements", ".", "ACM", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "67-70", ".", "11", ".", "Drucker", ",", "S.M.", ",", "&", "Zeltzer", ",", "D.", "-LRB-", "1994", "-RRB-", ".", "Intelligent", "camera", "control", "in", "a", "virtual", "environment", ".", "Graphics", "Interface", ".", "p.", "190-199", ".", "12", ".", "Elvins", ",", "T.", ",", "Nadeau", ",", "D.", ",", "Schul", ",", "R.", ",", "&", "Kirsh", ",", "D.", "-LRB-", "1998", "-RRB-", ".", "Worldlets", ":", "3D", "thumbnails", "for", "3D", "browsing", ".", "ACM", "CHI", "'98", "Conf", ".", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "163-170", ".", "13", ".", "Fitzmaurice", ",", "G.W.", "-LRB-", "1993", "-RRB-", ".", "Situated", "information", "spaces", "and", "spatially", "aware", "palmtop", "computers", ".", "Communications", "of", "the", "ACM", ",", "36", "-LRB-", "7", "-RRB-", ".", "p.", "38-49", ".", "14", ".", "Fukatsu", ",", "S.", ",", "Kitamura", ",", "Y.", ",", "Masaki", ",", "T.", ",", "&", "Kishino", ",", "F.", "-LRB-", "1998", "-RRB-", ".", "Intuitive", "control", "of", "bird", "'s", "eye", "overview", "images", "for", "navigation", "in", "an", "enormous", "virtual", "environment", ".", "ACM", "VRST", "'98", "Sympoisum", "on", "Virtual", "Reality", "Software", "and", "Technology", ".", "p.", "67-76", ".", "15", ".", "Furnas", ",", "G.", "-LRB-", "1986", "-RRB-", ".", "Generalized", "fisheye", "views", ".", "ACM", "CHI", "1986", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "16-23", ".", "16", ".", "Furnas", ",", "G.", "-LRB-", "1997", "-RRB-", ".", "Effective", "view", "navigation", ".", "ACM", "CHI", "'97", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "367-374", ".", "17", ".", "Galyean", ",", "T.A.", "-LRB-", "1995", "-RRB-", ".", "Guided", "navigation", "of", "virtual", "environments", ".", "ACM", "I3D", "'95", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "103-104", ".", "18", ".", "Gliecher", ",", "M.", ",", "&", "Witkin", ",", "A.", "-LRB-", "1992", "-RRB-", ".", "Through-the-lens", "camera", "control", ".", "ACM", "SIGGRAPH", "'", "Conf", ".", "on", "Computer", "Graphics", "and", "Interactive", "Techniques", ".", "p.", "331-340", ".", "19", ".", "Hanson", ",", "A.J.", ",", "&", "Wernet", ",", "E.", "-LRB-", "1997", "-RRB-", ".", "Constrained", "3D", "navigation", "with", "2D", "controllers", ".", "p.", "175-182", ".", "20", ".", "He", ",", "L.", ",", "Cohen", ",", "M.F.", ",", "&", "Salesin", ",", "D.", "-LRB-", "1996", "-RRB-", ".", "The", "virtual", "cinematographer", ":", "a", "paradigm", "for", "automatic", "real-time", "camera", "control", "and", "directing", ".", "ACM", "SIGGRAPH", "'96", "Conference", "on", "Computer", "Graphics", "and", "Interactive", "Techniques", ".", "p.", "217-224", ".", "21", ".", "Igarashi", ",", "T.", ",", "Kadobayashi", ",", "R.", ",", "Mase", ",", "K.", ",", "&", "Tanaka", ",", "H.", "-LRB-", "1998", "-RRB-", ".", "Path", "drawing", "for", "3D", "walkthrough", ".", "ACM", "UIST", "1998", "Symposium", "on", "User", "Interface", "Software", "and", "Technology", ".", "p.", "173-174", ".", "22", ".", "Jul", ",", "S.", ",", "&", "Furnas", ",", "G.", "-LRB-", "1998", "-RRB-", ".", "Critical", "zones", "in", "desert", "fog", ":", "aids", "to", "multiscale", "navigation", ".", "ACM", "Symposium", "on", "User", "Interface", "Software", "and", "Technology", ".", "p.", "97-106", ".", "23", ".", "Lippman", ",", "A.", "-LRB-", "1980", "-RRB-", ".", "Movie-maps", ":", "an", "application", "of", "the", "optical", "videodisc", "to", "computer", "graphics", ".", "ACM", "SIGGRAPH", "'80", "Conference", "on", "Computer", "Graphics", "and", "Interactive", "Techniques", ".", "p.", "32-42", ".", "24", ".", "Mackinlay", ",", "J.", ",", "Card", ",", "S.", ",", "&", "Robertson", ",", "G.", "-LRB-", "1990", "-RRB-", ".", "Rapid", "controlled", "movement", "through", "a", "virtual", "3D", "workspace", ".", "ACM", "SIGGRAPH", "1990", "Conference", "on", "Computer", "Graphics", "and", "Interactive", "Techniques", ".", "p.", "171-176", ".", "25", ".", "Marrin", ",", "C.", ",", "Myers", ",", "R.", ",", "Kent", ",", "J.", ",", "&", "Broadwell", ",", "P.", "-LRB-", "2001", "-RRB-", ".", "Steerable", "media", ":", "interactive", "television", "via", "video", "synthesis", ".", "ACM", "Conference", "on", "3D", "Technologies", "for", "the", "World", "Wide", "Web", ".", "p.", "7-14", ".", "26", ".", "Newman", ",", "W.", "-LRB-", "1968", "-RRB-", ".", "A", "system", "for", "interactive", "graphical", "programming", ".", "AFIPS", "Spring", "Joint", "Computer", "Conference", ".", "p.", "47-54", ".", "27", ".", "Phillips", ",", "C.B.", ",", "Badler", ",", "N.I.", ",", "&", "Granieri", ",", "J.", "-LRB-", "1992", "-RRB-", ".", "Automatic", "viewing", "control", "for", "3D", "direct", "manipulation", ".", "ACM", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "71-74", ".", "28", ".", "Shoemake", ",", "K.", "-LRB-", "1985", "-RRB-", ".", "Animating", "rotation", "with", "quartenion", "curves", ".", "ACM", "SIGGRAPH", "Conf", "Computer", "Graphics", "&", "Interactive", "Techniques", ".", "p.", "245-254", ".", "29", ".", "Smith", ",", "G.", ",", "Salzman", ",", "T.", ",", "&", "Stuerzlinger", ",", "W.", "-LRB-", "2001", "-RRB-", ".", "3D", "Scene", "manipulation", "with", "2D", "devices", "and", "constraints", ".", "Graphics", "Interface", ".", "p.", "135-142", ".", "30", ".", "Steed", ",", "A.", "-LRB-", "1997", "-RRB-", ".", "Efficient", "navigation", "around", "complex", "virtual", "environments", ".", "ACM", "VRST", "'97", "Conference", "on", "Virtual", "Reality", "Software", "and", "Technology", ".", "p.", "173-180", ".", "31", ".", "Stoakley", ",", "R.", ",", "Conway", ",", "M.", ",", "&", "Pausch", ",", "R.", "-LRB-", "1995", "-RRB-", ".", "Virtual", "reality", "on", "a", "WIM", ":", "Interactive", "worlds", "in", "miniature", ".", "ACM", "CHI", "1995", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "265-272", ".", "32", ".", "Tan", ",", "D.", ",", "Robertson", ",", "G.", ",", "&", "Czerwinski", ",", "M.", "-LRB-", "2001", "-RRB-", ".", "Exploring", "3D", "navigation", ":", "combining", "speed-coupled", "flying", "with", "orbiting", ".", "ACM", "CHI", "'", "2001", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "418-425", ".", "33", ".", "Vinson", ",", "N.", "-LRB-", "1999", "-RRB-", ".", "Design", "guidelines", "for", "landmarks", "to", "support", "navigation", "in", "virtual", "environments", ".", "ACM", "CHI", "'99", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ".", "p.", "278-285", ".", "34", ".", "Ware", ",", "C.", ",", "&", "Fleet", ",", "D.", "-LRB-", "1997", "-RRB-", ".", "Context", "sensitve", "flying", "interface", ".", "ACM", "I3D", "'97", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "127-130", ".", "35", ".", "Ware", ",", "C.", ",", "&", "Osborne", ",", "S.", "-LRB-", "1990", "-RRB-", ".", "Exploration", "and", "virtual", "camera", "control", "in", "virtual", "three", "dimensional", "environments", ".", "ACM", "I3D", "'90", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "175-183", ".", "36", ".", "Wernert", ",", "E.A.", ",", "&", "Hanson", ",", "A.J.", "-LRB-", "1999", "-RRB-", ".", "A", "framework", "for", "assisted", "exploration", "with", "collaboration", ".", "IEEE", "Visualization", ".", "p.", "241-248", ".", "37", ".", "Zeleznik", ",", "R.", ",", "&", "Forsberg", ",", "A.", "-LRB-", "1999", "-RRB-", ".", "UniCam", "-", "2D", "Gestural", "Camera", "Controls", "for", "3D", "Environments", ".", "ACM", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "169-173", ".", "38", ".", "Zeleznik", ",", "R.", ",", "Forsberg", ",", "A.", ",", "&", "Strauss", ",", "P.", "-LRB-", "1997", "-RRB-", ".", "Two", "pointer", "input", "for", "3D", "interaction", ".", "ACM", "I3D", "Symposium", "on", "Interactive", "3D", "Graphics", ".", "p.", "115-120", ".", "110", "Volume", "4", ",", "Issue", "2"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["camera controls", "3d viewers", "3d navigation"], "abstractive_keyphrases": ["interaction techniques", "3d visualization"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "172", "document": ["Scalable", "Data", "Aggregation", "for", "Dynamic", "Events", "in", "Sensor", "Networks", "Computing", "and", "maintaining", "network", "structures", "for", "efficient", "data", "aggregation", "incurs", "high", "overhead", "for", "dynamic", "events", "where", "the", "set", "of", "nodes", "sensing", "an", "event", "changes", "with", "time", ".", "Moreover", ",", "structured", "approaches", "are", "sensitive", "to", "the", "waiting-time", "which", "is", "used", "by", "nodes", "to", "wait", "for", "packets", "from", "their", "children", "before", "forwarding", "the", "packet", "to", "the", "sink", ".", "Although", "structure-less", "approaches", "can", "address", "these", "issues", ",", "the", "performance", "does", "not", "scale", "well", "with", "the", "network", "size", ".", "We", "propose", "a", "semi-structured", "approach", "that", "uses", "a", "structure-less", "technique", "locally", "followed", "by", "Dynamic", "Forwarding", "on", "an", "implicitly", "constructed", "packet", "forwarding", "structure", "to", "support", "network", "scalability", ".", "The", "structure", ",", "ToD", ",", "is", "composed", "of", "multiple", "shortest", "path", "trees", ".", "After", "performing", "local", "aggregation", ",", "nodes", "dynamically", "decide", "the", "forwarding", "tree", "based", "on", "the", "location", "of", "the", "sources", ".", "The", "key", "principle", "behind", "ToD", "is", "that", "adjacent", "nodes", "in", "a", "graph", "will", "have", "low", "stretch", "in", "one", "of", "these", "trees", "in", "ToD", ",", "thus", "resulting", "in", "early", "aggregation", "of", "packets", ".", "Based", "on", "simulations", "on", "a", "2000", "nodes", "network", "and", "real", "experiments", "on", "a", "105", "nodes", "Mica2-based", "network", ",", "we", "conclude", "that", "efficient", "aggregation", "in", "large", "scale", "networks", "can", "be", "achieved", "by", "our", "semi-structured", "approach", ".", "C.", "2.1", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "Network", "Architecture", "and", "Design", "--", "Wireless", "communication", "Design", ",", "Performance", "*", "This", "work", "was", "partially", "supported", "by", "NSF", "'s", "CAREER", "program", "-LRB-", "Grant", "number", "CNS", "0546630", "-RRB-", "and", "NSF", "'s", "RI", "program", "-LRB-", "Grant", "number", "CNS", "0403342", "-RRB-", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SenSys", "'", "06", ",", "November", "1", "3", ",", "2006", ",", "Boulder", ",", "Colorado", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-343-3", "/", "06/0011", "...", "$", "5.00", "Data", "aggregation", "is", "an", "effective", "technique", "for", "conserving", "communication", "energy", "in", "sensor", "networks", ".", "In", "sensor", "networks", ",", "the", "communication", "cost", "is", "often", "several", "orders", "of", "magnitude", "larger", "than", "the", "computation", "cost", ".", "Due", "to", "inherent", "redundancy", "in", "raw", "data", "collected", "from", "sensors", ",", "in-network", "data", "aggregation", "can", "often", "reduce", "the", "communication", "cost", "by", "eliminating", "redundancy", "and", "forwarding", "only", "the", "extracted", "information", "from", "the", "raw", "data", ".", "As", "reducing", "consumption", "of", "communication", "energy", "extends", "the", "network", "lifetime", ",", "it", "is", "critical", "for", "sensor", "networks", "to", "support", "in-network", "data", "aggregation", ".", "Various", "data", "aggregation", "approaches", "have", "been", "proposed", "for", "data", "gathering", "applications", "and", "event-based", "applications", ".", "These", "approaches", "make", "use", "of", "cluster", "based", "structures", "-LSB-", "1", ",", "2", "-RSB-", "or", "tree", "based", "structures", "-LSB-", "3", "8", "-RSB-", ".", "In", "data", "gathering", "applications", ",", "such", "as", "environment", "and", "habitat", "monitoring", "-LSB-", "9", "12", "-RSB-", ",", "nodes", "periodically", "report", "the", "sensed", "data", "to", "the", "sink", ".", "As", "the", "traffic", "pattern", "is", "unchanging", ",", "these", "structure-based", "approaches", "incur", "low", "maintenance", "overhead", "and", "are", "therefore", "suitable", "for", "such", "applications", ".", "However", ",", "in", "event-based", "applications", ",", "such", "as", "intrusion", "detection", "-LSB-", "13", ",", "14", "-RSB-", "and", "biological", "hazard", "detection", "-LSB-", "15", "-RSB-", ",", "the", "source", "nodes", "are", "not", "known", "in", "advance", ".", "Therefore", "the", "approaches", "that", "use", "fixed", "structures", "can", "not", "efficiently", "aggregate", "data", ",", "while", "the", "approaches", "that", "change", "the", "structure", "dynamically", "incur", "high", "maintenance", "overhead", "-LSB-", "4", ",", "5", "-RSB-", ".", "The", "goal", "of", "this", "paper", "is", "to", "design", "a", "scalable", "and", "efficient", "data", "aggregation", "protocol", "that", "incurs", "low", "maintenance", "overhead", "and", "is", "suited", "for", "event-based", "applications", ".", "Constructing", "an", "optimal", "structure", "for", "data", "aggregation", "for", "various", "aggregation", "functions", "has", "been", "proven", "to", "be", "an", "NP-hard", "problem", "-LSB-", "16", ",", "17", "-RSB-", ".", "Although", "heuristics", "can", "be", "used", "to", "construct", "structures", "for", "data", "aggregation", ",", "another", "problem", "associated", "with", "the", "convergecast", "traffic", "pattern", ",", "where", "nodes", "transmit", "their", "packets", "to", "the", "cluster-head", "or", "parent", "in", "cluster", "or", "tree", "structures", ",", "results", "in", "low", "performance", "of", "structure", "based", "data", "aggregation", "protocols", ".", "In", "-LSB-", "18", "-RSB-", "the", "simulation", "results", "show", "that", "the", "packet", "dropping", "rate", "in", "Shortest", "Path", "Tree", "-LRB-", "SPT", "-RRB-", "is", "higher", "because", "of", "heavy", "contention", "caused", "by", "the", "convergecast", "traffic", ".", "This", "results", "in", "more", "packet", "drops", "and", "increased", "delays", ".", "As", "a", "result", ",", "enforcing", "a", "fixed", "order", "of", "packet", "transmissions", "becomes", "difficult", ",", "which", "impacts", "the", "performance", "of", "data", "aggregation", "in", "structured", "approaches", ".", "Typically", ",", "packets", "have", "to", "be", "transmitted", "in", "a", "fixed", "order", "181", "from", "leaves", "to", "the", "root", "in", "a", "tree-like", "structure", "to", "achieve", "maximum", "aggregation", ".", "Dropped", "packets", "not", "only", "make", "the", "optimal", "structure", "sub-optimal", ",", "but", "also", "waste", "energy", "on", "transmitting", "packets", "that", "are", "unable", "to", "reach", "the", "sink", ".", "In", "-LSB-", "19", "-RSB-", "it", "shows", "that", "the", "performance", "gain", "by", "using", "heuristics", "to", "create", "the", "Steiner", "Minimum", "Tree", "-LRB-", "SMT", "-RRB-", "for", "aggregation", "is", "not", "significant", "compared", "with", "using", "only", "the", "Shortest", "Path", "Tree", "-LRB-", "SPT", "-RRB-", ",", "not", "to", "mention", "that", "the", "overhead", "of", "constructing", "such", "a", "structure", "may", "negate", "the", "benefit", "resulting", "from", "data", "aggregation", ".", "However", ",", "their", "conclusions", "were", "based", "on", "the", "assumption", "of", "randomly", "located", "data", "sources", ",", "which", "is", "different", "from", "the", "scenarios", "in", "event-based", "sensor", "networks", "where", "a", "set", "of", "close-by", "nodes", "is", "expected", "to", "sense", "an", "event", ".", "Realizing", "the", "shortcomings", "of", "structured", "approaches", ",", "-LSB-", "20", "-RSB-", "proposes", "an", "anycast", "based", "structure-less", "approach", "at", "the", "MAC", "layer", "to", "aggregate", "packet", ".", "It", "involves", "mechanisms", "to", "increase", "the", "chance", "of", "packets", "meeting", "at", "the", "same", "node", "-LRB-", "Spatial", "Aggregation", "-RRB-", "at", "the", "same", "time", "-LRB-", "Temporal", "Aggregation", "-RRB-", ".", "As", "the", "approach", "does", "not", "guarantee", "aggregation", "of", "all", "packets", "from", "a", "single", "event", ",", "the", "cost", "of", "forwarding", "unaggregated", "packets", "increases", "with", "the", "scale", "of", "the", "network", "and", "the", "distance", "of", "the", "event", "from", "the", "sink", ".", "To", "benefit", "from", "the", "strengths", "of", "the", "structured", "and", "the", "structure-less", "approaches", ",", "we", "propose", "a", "semi-structured", "approach", "in", "this", "paper", ".", "The", "main", "challenge", "in", "designing", "such", "a", "protocol", "is", "to", "determine", "the", "packet", "forwarding", "strategy", "in", "absence", "of", "a", "pre-constructed", "global", "structure", "to", "achieve", "early", "aggregation", ".", "Our", "approach", "uses", "a", "structure-less", "technique", "locally", "followed", "by", "Dynamic", "Forwarding", "on", "an", "implicitly", "constructed", "packet", "forwarding", "structure", "to", "support", "network", "scalability", ".", "The", "structure", ",", "ToD", "-LRB-", "Tree", "on", "Directed", "acyclic", "graph", "-RRB-", ",", "is", "composed", "of", "multiple", "shortest", "path", "trees", ".", "After", "performing", "local", "aggregation", ",", "nodes", "dynamically", "decide", "the", "forwarding", "tree", "based", "on", "the", "location", "of", "the", "source", "nodes", ".", "The", "key", "principle", "behind", "ToD", "is", "that", "adjacent", "nodes", "in", "a", "graph", "will", "have", "low", "stretch", "in", "at", "least", "one", "of", "these", "trees", "in", "ToD", ",", "thus", "resulting", "in", "early", "aggregation", "of", "packets", ".", "This", "paper", "makes", "the", "following", "contributions", ":", "We", "propose", "an", "efficient", "and", "scalable", "data", "aggregation", "mechanism", "that", "can", "achieve", "early", "aggregation", "without", "incurring", "any", "overhead", "of", "constructing", "a", "structure", ".", "We", "implement", "the", "ToD", "approach", "on", "TinyOS", "and", "compare", "its", "performance", "against", "other", "approaches", "on", "a", "105", "nodes", "sensor", "network", ".", "For", "studying", "the", "scalability", "aspects", "of", "our", "approach", ",", "we", "implement", "ToD", "in", "the", "ns2", "simulator", "and", "study", "its", "performance", "in", "networks", "of", "up", "to", "2000", "nodes", ".", "The", "organization", "of", "the", "rest", "of", "the", "paper", "is", "as", "follows", ".", "Section", "2", "presents", "background", "and", "related", "work", ".", "Section", "3", "presents", "the", "structure-less", "approach", ".", "Section", "4", "analyzes", "the", "performance", "of", "ToD", "in", "the", "worst", "case", ".", "The", "performance", "evaluation", "of", "the", "protocols", "using", "simulations", "and", "experiments", "is", "presented", "in", "Section", "5", ".", "Finally", "Section", "6", "concludes", "the", "paper", ".", "Data", "aggregation", "has", "been", "an", "active", "research", "area", "in", "sensor", "networks", "for", "its", "ability", "to", "reduce", "energy", "consumption", ".", "Some", "works", "focus", "on", "how", "to", "aggregate", "data", "from", "different", "nodes", "-LSB-", "21", "24", "-RSB-", ",", "some", "focus", "on", "how", "to", "construct", "and", "maintain", "a", "structure", "to", "facilitate", "data", "aggregation", "-LSB-", "1", "8,17,25", "30", "-RSB-", ",", "and", "some", "focus", "on", "how", "to", "efficiently", "compress", "and", "aggregate", "data", "by", "taking", "the", "correlation", "of", "data", "into", "consideration", "-LSB-", "17", ",", "31", "34", "-RSB-", ".", "As", "our", "work", "focuses", "on", "how", "to", "facilitate", "data", "aggregation", "without", "incurring", "the", "overhead", "of", "constructing", "a", "structure", ",", "we", "briefly", "describe", "the", "structure-based", "as", "well", "as", "structure-less", "approaches", "in", "current", "research", ".", "In", "-LSB-", "1,2", "-RSB-", ",", "the", "authors", "propose", "the", "LEACH", "protocol", "to", "cluster", "sensor", "nodes", "and", "let", "the", "cluster-heads", "aggregate", "data", ".", "The", "cluster-heads", "then", "communicate", "directly", "with", "the", "base", "station", ".", "PEGASIS", "-LSB-", "26", "-RSB-", "extends", "LEACH", "by", "organizing", "all", "nodes", "in", "a", "chain", "and", "letting", "nodes", "be", "the", "head", "in", "turn", ".", "-LSB-", "26", ",", "27", "-RSB-", "extend", "PEGASIS", "by", "allowing", "simultaneous", "transmission", "that", "balances", "the", "energy", "and", "delay", "cost", "for", "data", "gathering", ".", "Both", "LEACH", "and", "PEGASIS", "assume", "that", "any", "node", "in", "the", "network", "can", "reach", "the", "base-station", "directly", "in", "one-hop", ",", "which", "limits", "the", "size", "of", "the", "network", "for", "them", "to", "be", "applicable", ".", "GIT", "-LSB-", "3", "-RSB-", "uses", "a", "different", "approach", "as", "compared", "to", "LEACH", ".", "GIT", "is", "built", "on", "top", "of", "a", "routing", "protocol", ",", "Directed", "Diffusion", "-LSB-", "21,22", "-RSB-", ",", "which", "is", "one", "of", "the", "earliest", "proposed", "attribute-based", "routing", "protocols", ".", "In", "Directed", "Diffusion", ",", "data", "can", "be", "aggregated", "opportunistically", "when", "they", "meet", "at", "any", "intermediate", "node", ".", "Based", "on", "Directed", "Diffusion", ",", "the", "Greedy", "Incremental", "Tree", "-LRB-", "GIT", "-RRB-", "establishes", "an", "energy-efficient", "tree", "by", "attaching", "all", "sources", "greedily", "onto", "an", "established", "energy-efficient", "path", "and", "pruning", "less", "energy", "efficient", "paths", ".", "However", "due", "to", "the", "overhead", "of", "pruning", "branches", ",", "GIT", "might", "lead", "to", "high", "cost", "in", "moving", "event", "scenarios", ".", "In", "-LSB-", "4", ",", "5", "-RSB-", ",", "the", "authors", "propose", "DCTC", ",", "Dynamic", "Convoy", "Tree-Based", "Collaboration", ",", "to", "reduce", "the", "overhead", "of", "tree", "migration", "in", "mobile", "event", "scenarios", ".", "DCTC", "assumes", "that", "the", "distance", "to", "the", "event", "is", "known", "to", "each", "sensor", "and", "uses", "the", "node", "near", "the", "center", "of", "the", "event", "as", "the", "root", "to", "construct", "and", "maintain", "the", "aggregation", "tree", "dynamically", ".", "However", "it", "involves", "heavy", "message", "exchanges", "which", "might", "offset", "the", "benefit", "of", "aggregation", "in", "large-scale", "networks", ".", "From", "the", "simulation", "results", "in", "DCTC", "-LSB-", "5", "-RSB-", ",", "the", "energy", "consumption", "of", "tree", "expansion", ",", "pruning", "and", "reconfiguration", "is", "about", "33", "%", "of", "the", "data", "collection", ".", "In", "-LSB-", "8", "-RSB-", ",", "the", "authors", "propose", "an", "aggregation", "tree", "construction", "algorithm", "to", "simultaneously", "approximate", "the", "optimum", "trees", "for", "all", "non-decreasing", "and", "concave", "aggregation", "functions", ".", "The", "algorithm", "uses", "a", "simple", "min-cost", "perfect", "matching", "to", "construct", "the", "tree", ".", "-LSB-", "7", "-RSB-", "also", "uses", "similar", "min-cost", "matching", "process", "to", "construct", "an", "aggregation", "tree", "that", "takes", "the", "data", "fusion", "cost", "into", "consideration", ".", "Other", "works", ",", "such", "as", "SMT", "-LRB-", "Steiner", "Minimum", "Tree", "-RRB-", "and", "MST", "-LRB-", "Multiple", "Shared", "Tree", "-RRB-", "for", "multicast", "algorithms", "which", "can", "be", "used", "in", "data", "aggregation", "-LSB-", "17", ",", "19", ",", "30", "-RSB-", ",", "build", "a", "structure", "in", "advance", "for", "data", "aggregation", ".", "In", "addition", "to", "their", "complexity", "and", "overhead", ",", "they", "are", "only", "suitable", "for", "networks", "where", "the", "sources", "are", "known", "in", "advance", ".", "Therefore", "they", "are", "not", "suitable", "for", "networks", "with", "mobile", "events", ".", "Moreover", ",", "fixed", "tree", "structure", "might", "have", "long", "stretch", "between", "adjacent", "nodes", ".", "A", "stretch", "of", "two", "nodes", "u", "and", "v", "in", "a", "tree", "T", "on", "a", "graph", "G", "is", "the", "ratio", "between", "the", "distance", "from", "node", "u", "to", "v", "in", "T", "and", "their", "distance", "in", "G.", "Long", "stretch", "182", "implies", "packets", "from", "adjacent", "nodes", "have", "to", "be", "forwarded", "many", "hops", "away", "before", "they", "can", "be", "aggregated", ".", "This", "problem", "has", "been", "studied", "as", "MSST", "-LRB-", "Minimum", "Stretch", "Spanning", "Tree", "-RRB-", "-LSB-", "35", "-RSB-", "and", "MAST", "-LRB-", "Minimum", "Average", "Stretch", "Spanning", "Tree", "-RRB-", "-LSB-", "36", "-RSB-", ".", "They", "are", "also", "NP-hard", "problems", ",", "and", "it", "has", "been", "shown", "that", "for", "any", "graph", ",", "the", "lower", "bound", "of", "the", "average", "stretch", "is", "O", "-LRB-", "log", "-LRB-", "n", "-RRB-", "-RRB-", "-LSB-", "36", "-RSB-", ",", "and", "it", "can", "be", "as", "high", "as", "O", "-LRB-", "n", "-RRB-", "for", "the", "worst", "case", "-LSB-", "37", "-RSB-", ".", "Even", "for", "a", "grid", "network", ",", "it", "has", "been", "shown", "that", "the", "lower", "bound", "for", "the", "worst", "case", "is", "O", "-LRB-", "n", "-RRB-", "-LSB-", "36", "-RSB-", ".", "-LSB-", "38", "-RSB-", "proposes", "a", "polynomial", "time", "algorithm", "to", "construct", "a", "group-independent", "spanning", "tree", "that", "can", "achieve", "O", "-LRB-", "log", "-LRB-", "n", "-RRB-", "-RRB-", "stretch", ".", "However", "the", "delay", "in", "-LSB-", "38", "-RSB-", "is", "high", "in", "large", "networks", "if", "only", "nodes", "near", "the", "sink", "are", "triggered", ".", "-LSB-", "20", "-RSB-", "is", "the", "first", "proposed", "structure-less", "data", "aggregation", "protocol", "that", "can", "achieve", "high", "aggregation", "without", "incurring", "the", "overhead", "of", "structure", "approaches", ".", "-LSB-", "20", "-RSB-", "uses", "anycast", "to", "forward", "packets", "to", "one-hop", "neighbors", "that", "have", "packets", "for", "aggregation", ".", "It", "can", "efficiently", "aggregate", "packets", "near", "the", "sources", "and", "effectively", "reduce", "the", "number", "of", "transmissions", ".", "However", ",", "it", "does", "not", "guarantee", "the", "aggregation", "of", "all", "packets", "from", "a", "single", "event", ".", "As", "the", "network", "grows", ",", "the", "cost", "of", "forwarding", "packets", "that", "were", "unable", "to", "be", "aggregated", "will", "negate", "the", "benefit", "of", "energy", "saving", "resulted", "from", "eliminating", "the", "control", "overhead", ".", "In", "order", "to", "get", "benefit", "from", "structure-less", "approaches", "even", "in", "large", "networks", ",", "scalability", "has", "to", "be", "considered", "in", "the", "design", "of", "the", "aggregation", "protocol", ".", "In", "this", "paper", ",", "we", "propose", "a", "scalable", "structure-less", "protocol", ",", "ToD", ",", "that", "can", "achieve", "efficient", "aggregation", "even", "in", "large", "networks", ".", "ToD", "uses", "a", "semi-structure", "approach", "that", "does", "not", "have", "the", "long", "stretch", "problem", "in", "fixed", "structure", "nor", "incur", "structure", "maintenance", "overhead", "of", "dynamic", "structure", ",", "and", "further", "improves", "the", "performance", "of", "the", "structure-less", "approach", ".", "As", "described", "before", ",", "the", "goal", "of", "our", "protocol", "is", "to", "achieve", "aggregation", "of", "data", "near", "the", "sources", "without", "explicitly", "constructing", "a", "structure", "for", "mobile", "event", "scenarios", ".", "Aggregating", "packets", "near", "the", "sources", "is", "critical", "for", "reducing", "the", "number", "of", "transmissions", ".", "Aggregating", "without", "using", "an", "explicit", "structure", "reduces", "the", "overhead", "of", "construction", "and", "maintenance", "of", "the", "structure", ".", "In", "this", "section", ",", "we", "propose", "a", "highly", "scalable", "approach", "that", "is", "suitable", "for", "very", "large", "sensor", "networks", ".", "Our", "protocol", "is", "based", "on", "the", "Data", "Aware", "Anycast", "-LRB-", "DAA", "-RRB-", "and", "Randomized", "Waiting", "-LRB-", "RW", "-RRB-", "approaches", "1", "proposed", "in", "-LSB-", "20", "-RSB-", ".", "There", "are", "two", "phases", "in", "our", "protocol", ":", "DAA", "and", "Dynamic", "Forwarding", ".", "In", "the", "first", "phase", ",", "packets", "are", "forwarded", "and", "aggregated", "to", "a", "selected", "node", ",", "termed", "aggregator", ",", "using", "DAA", ".", "In", "DAA", "-LSB-", "20", "-RSB-", ",", "packets", "were", "destined", "to", "the", "sink", ",", "whereas", "in", "our", "approach", "they", "are", "destined", "to", "an", "aggregator", ".", "In", "the", "second", "phase", ",", "the", "leftover", "un-aggregated", "or", "partially", "aggregated", "packets", "are", "forwarded", "on", "a", "structure", ",", "termed", "Tree", "on", "DAG", "-LRB-", "ToD", "-RRB-", ",", "for", "further", "aggregation", ".", "First", "we", "briefly", "describe", "the", "DAA", "protocol", "proposed", "in", "-LSB-", "20", "-RSB-", ".", "3.1", "Data", "Aware", "Anycast", "-LSB-", "20", "-RSB-", "Data", "Aware", "Anycast", "is", "a", "structure-less", "protocol", "that", "aggregates", "packets", "by", "improving", "the", "Spatial", "and", "Temporal", "con-1", "In", "rest", "of", "this", "paper", ",", "we", "use", "DAA", "or", "Data", "Aware", "Anycast", "to", "refer", "to", "the", "combination", "of", "the", "two", "approaches", ".", "vergence", ".", "Spatial", "convergence", "and", "temporal", "convergence", "during", "transmission", "are", "two", "necessary", "conditions", "for", "aggregation", ".", "Packets", "have", "to", "be", "transmitted", "to", "the", "same", "node", "at", "the", "same", "time", "to", "be", "aggregated", ".", "Structured", "approaches", "achieve", "these", "two", "conditions", "by", "letting", "nodes", "transmit", "packets", "to", "their", "parents", "in", "the", "aggregation", "tree", "and", "parents", "wait", "for", "packets", "from", "all", "their", "children", "before", "transmitting", "the", "aggregated", "packets", ".", "Without", "explicit", "message", "exchanges", "in", "structure-less", "aggregation", ",", "nodes", "do", "not", "know", "where", "they", "should", "send", "packets", "to", "and", "how", "long", "they", "should", "wait", "for", "aggregation", ".", "Therefore", "improving", "spatial", "or", "temporal", "convergence", "is", "critical", "for", "improving", "the", "chance", "of", "aggregation", ".", "Spatial", "Convergence", "is", "achieved", "by", "using", "anycast", "to", "forward", "packets", "to", "nodes", "that", "can", "achieve", "aggregation", ".", "Anycast", "is", "a", "routing", "scheme", "whereby", "packets", "are", "forwarded", "to", "the", "best", "one", ",", "or", "any", "one", ",", "of", "a", "group", "of", "target", "destinations", "based", "on", "some", "routing", "metrics", ".", "By", "exploiting", "the", "nature", "of", "wireless", "radio", "transmission", "in", "sensor", "networks", "where", "all", "nodes", "within", "the", "transmission", "range", "can", "receive", "the", "packet", ",", "nodes", "are", "able", "to", "tell", "if", "they", "can", "aggregate", "the", "transmitting", "packet", ",", "and", "the", "anycast", "mechanism", "allows", "the", "sender", "to", "forward", "packets", "to", "any", "one", "of", "them", ".", "Transmitting", "packets", "to", "nodes", "that", "can", "achieve", "aggregation", "reduces", "the", "number", "of", "remaining", "packets", "in", "the", "network", ",", "thereby", "reducing", "the", "total", "number", "of", "transmissions", ".", "Temporal", "Convergence", "is", "used", "to", "further", "improve", "the", "aggregation", ".", "Randomized", "Waiting", "is", "a", "simple", "technique", "for", "achieving", "temporal", "convergence", ",", "in", "which", "nodes", "wait", "for", "a", "random", "delay", "before", "transmitting", ".", "In", "mobile", "event", "triggered", "networks", ",", "nodes", "are", "unable", "to", "know", "which", "nodes", "are", "triggered", "and", "have", "packets", "to", "transmit", "in", "advance", ".", "Therefore", "nodes", "can", "not", "know", "if", "they", "should", "wait", "for", "their", "upstream", "nodes", "and", "how", "long", "they", "should", "wait", "for", "aggregation", ".", "A", "naive", "approach", "of", "using", "a", "fixed", "delay", "depending", "on", "the", "distance", "to", "the", "sink", "may", "make", "the", "detection", "delay", "very", "high", ".", "For", "example", ",", "as", "shown", "in", "Fig.", "1", ",", "nodes", "closer", "to", "the", "sink", "must", "wait", "longer", "for", "packets", "from", "possible", "upstream", "nodes", "if", "fixed", "waiting", "time", "is", "employed", ".", "When", "events", "are", "closer", "to", "the", "sink", ",", "the", "longer", "delay", "chosen", "by", "nodes", "closer", "to", "the", "sink", "is", "unnecessary", ".", "Random", "delay", "is", "used", "to", "avoid", "long", "delay", "in", "large", "networks", "while", "increasing", "the", "chance", "of", "aggregation", ".", "sink", "...", "...", "=", "0", "=", "1", "=", "n-2", "=", "n-1", "=", "n", "nodes", "triggered", "by", "an", "event", "Figure", "1", ".", "Longer", "delay", "is", "unnecessary", "but", "is", "inevitable", "using", "fixed", "delay", "when", "the", "event", "is", "closer", "to", "the", "sink", ".", "Nodes", "closer", "to", "the", "sink", "have", "longer", "delay", "-LRB-", "-RRB-", "because", "they", "have", "to", "wait", "for", "packets", "from", "possible", "upstream", "nodes", ".", "When", "a", "node", "detects", "an", "event", "and", "generates", "a", "packet", "for", "reporting", ",", "it", "picks", "a", "random", "delay", "between", "0", "and", "before", "transmitting", ",", "where", "is", "a", "network", "parameter", "that", "specifies", "the", "maximum", "delay", ".", "After", "delaying", "the", "packet", ",", "the", "node", "183", "broadcasts", "an", "RTS", "packet", "containing", "an", "Aggregation", "ID", ".", "In", "-LSB-", "20", "-RSB-", ",", "the", "timestamp", "is", "used", "as", "the", "Aggregation", "ID", ",", "which", "means", "that", "packets", "generated", "at", "the", "same", "time", "can", "be", "aggregated", ".", "When", "a", "node", "receives", "an", "RTS", "packet", ",", "it", "checks", "if", "it", "has", "packets", "with", "the", "same", "Aggregation", "ID", ".", "If", "it", "does", ",", "it", "has", "higher", "priority", "for", "replying", "with", "a", "CTS", "than", "nodes", "that", "do", "not", "have", "packets", "for", "aggregation", ".", "The", "priority", "is", "decided", "by", "the", "delay", "of", "replying", "a", "CTS", "packet", ".", "Nodes", "with", "higher", "priority", "reply", "a", "CTS", "with", "shorter", "delay", ".", "If", "a", "node", "overhears", "any", "traffic", "before", "transmitting", "its", "CTS", "packet", ",", "it", "cancels", "the", "CTS", "transmission", "in", "order", "to", "avoid", "collision", "of", "multiple", "CTS", "responses", "at", "the", "sender", ".", "Therefore", ",", "nodes", "can", "send", "their", "packets", "for", "aggregation", "as", "long", "as", "at", "least", "one", "of", "its", "neighbors", "has", "a", "packet", "with", "the", "same", "Aggregation", "ID", ".", "More", "details", "and", "extensions", "of", "the", "DAA", "approach", "can", "be", "found", "in", "-LSB-", "20", "-RSB-", ".", "However", ",", "DAA", "can", "not", "guarantee", "that", "all", "packets", "will", "be", "aggregated", "into", "one", "packet", ".", "When", "more", "packets", "are", "transmitted", "from", "sources", "to", "the", "sink", "without", "aggregation", ",", "more", "energy", "is", "wasted", ".", "This", "effect", "becomes", "more", "severe", "when", "the", "network", "is", "very", "large", "and", "the", "sources", "are", "very", "far", "away", "from", "the", "sink", ".", "Therefore", ",", "instead", "of", "forwarding", "packets", "directly", "to", "the", "sink", "when", "DAA", "can", "not", "aggregate", "packets", "any", "more", ",", "we", "propose", "the", "use", "of", "Dynamic", "Forwarding", "for", "further", "packet", "aggregation", ".", "We", "now", "describe", "the", "Dynamic", "Forwarding", "and", "the", "construction", "of", "ToD", ".", "3.2", "Dynamic", "Forwarding", "over", "ToD", "sink", "nodes", "triggered", "by", "event", "B", "nodes", "triggered", "by", "event", "A", "Figure", "2", ".", "Fixed", "tree", "structure", "for", "aggregation", "can", "have", "long", "distance", "-LRB-", "link-stretch", "-RRB-", "between", "adjacent", "nodes", ",", "as", "in", "the", "case", "of", "nodes", "triggered", "by", "event", "B", ".", "In", "this", "example", "we", "assume", "that", "nodes", "in", "the", "range", "of", "event", "B", "are", "within", "transmission", "range", "of", "each", "other", ".", "We", "adopt", "the", "pre-constructed", "structure", "approach", "in", "the", "second", "phase", "to", "achieve", "further", "aggregation", ".", "Having", "a", "structure", "to", "direct", "all", "packets", "to", "a", "single", "node", "is", "inevitable", "if", "we", "want", "to", "aggregate", "all", "packets", "into", "one", ".", "Constructing", "a", "structure", "dynamically", "with", "explicit", "message", "exchanges", "incurs", "high", "overhead", ".", "Therefore", "we", "use", "an", "implicitly", "computed", "pre-constructed", "structure", "that", "remains", "unchanged", "for", "relatively", "long", "time", "periods", "-LRB-", "several", "hours", "or", "days", "-RRB-", ".", "However", ",", "using", "a", "fixed", "structure", "has", "the", "long", "stretch", "problem", "as", "described", "in", "Section", "2", ".", "Take", "Fig.", "2", "as", "an", "example", "of", "pre-computed", "tree", "structure", "where", "gray", "nodes", "are", "the", "sources", ".", "The", "fixed", "tree", "structure", "works", "well", "if", "the", "nodes", "that", "generate", "packets", "are", "triggered", "by", "event", "A", "because", "their", "packets", "can", "be", "aggregated", "immediately", "on", "the", "tree", ".", "However", ",", "if", "the", "nodes", "that", "generate", "packets", "are", "triggered", "by", "event", "B", ",", "their", "packets", "can", "not", "be", "aggregated", "even", "if", "they", "are", "adjacent", "to", "each", "other", ".", "Therefore", "we", "design", "a", "dynamic", "forwarding", "mechanism", "over", "ToD", ",", "to", "avoid", "the", "problem", "of", "long", "stretch", ".", "3.2.1", "ToD", "in", "One", "Dimensional", "Networks", "...", "...", "...", "...", ".", "network", "one", "row", "instance", "of", "the", "network", "sink", "Figure", "3", ".", "We", "illustrate", "the", "ToD", "construction", "from", "one", "row", "'s", "point", "of", "view", "to", "simplify", "the", "discussion", ".", "For", "illustrating", "the", "concept", "of", "ToD", ",", "we", "first", "describe", "the", "construction", "of", "ToD", "for", "a", "1-D", "-LRB-", "a", "single", "row", "of", "nodes", "-RRB-", "network", ",", "as", "shown", "in", "Fig.", "3", ".", "We", "assume", "that", "the", "nodes", "can", "communicate", "with", "their", "adjacent", "nodes", "in", "the", "same", "row", "through", "one", "hop", ".", "We", "define", "a", "cell", "as", "a", "square", "with", "side", "length", "where", "is", "greater", "than", "the", "maximum", "diameter", "of", "the", "area", "that", "an", "event", "can", "span", ".", "The", "network", "is", "divided", "into", "cells", ".", "These", "cells", "are", "grouped", "into", "clusters", ",", "called", "F-clusters", "-LRB-", "First-level", "clusters", "-RRB-", ".", "The", "size", "of", "the", "F-clusters", "must", "be", "large", "enough", "to", "cover", "the", "cells", "an", "event", "can", "span", ",", "which", "is", "two", "when", "we", "only", "consider", "1-D", "cells", "in", "the", "network", ".", "All", "nodes", "in", "F-clusters", "send", "their", "packets", "to", "their", "cluster-heads", ",", "called", "F-aggregators", "-LRB-", "First-level", "aggregators", "-RRB-", ".", "Note", "that", "nodes", "in", "the", "F-cluster", "can", "be", "multiple", "hops", "away", "from", "the", "F-aggregator", ".", "The", "formation", "of", "the", "clusters", "and", "the", "election", "of", "the", "aggregators", "are", "discussed", "later", "in", "Section", "3.2.3", ".", "Each", "F-aggregator", "then", "creates", "a", "shortest", "path", "to", "the", "sink", ".", "Therefore", "the", "structure", "is", "a", "shortest", "path", "tree", "where", "the", "root", "is", "the", "sink", "and", "the", "leaves", "are", "F-aggregators", ".", "We", "call", "this", "tree", "an", "F-Tree", ".", "Fig.", "4", "-LRB-", "a", "-RRB-", "shows", "the", "construction", "of", "the", "F-Tree", ".", "In", "addition", "to", "the", "F-clusters", ",", "we", "create", "the", "second", "type", "of", "clusters", ",", "S-clusters", "-LRB-", "Second-level", "clusters", "-RRB-", "for", "these", "cells", ".", "The", "size", "of", "an", "S-cluster", "must", "also", "be", "large", "enough", "to", "cover", "all", "cells", "spanned", "by", "an", "event", ",", "and", "it", "must", "interleave", "with", "the", "F-clusters", "so", "it", "can", "cover", "adjacent", "cells", "in", "different", "F-clusters", ".", "Each", "S-cluster", "also", "has", "a", "cluster-head", ",", "S-aggregator", ",", "for", "aggregating", "packets", ".", "Each", "S-aggregator", "creates", "a", "shortest", "path", "to", "the", "sink", ",", "and", "forms", "a", "second", "shortest", "path", "tree", "in", "the", "network", ".", "We", "call", "it", "S-Tree", ".", "The", "illustration", "of", "an", "S-Tree", "is", "shown", "in", "Fig.", "4", "-LRB-", "b", "-RRB-", ".", "For", "all", "sets", "of", "nearby", "cells", "that", "can", "be", "triggered", "by", "an", "event", ",", "either", "they", "will", "be", "in", "the", "same", "F-cluster", ",", "or", "they", "will", "be", "in", "the", "same", "S-cluster", ".", "This", "property", "is", "exploited", "by", "Dynamic", "Forwarding", "to", "avoid", "the", "long", "stretch", "problem", "discussed", "earlier", ".", "After", "the", "S-Tree", "is", "constructed", ",", "the", "F-aggregators", "connect", "themselves", "to", "the", "S-aggregators", "of", "S-clusters", "which", "its", "F-cluster", "overlaps", "with", ",", "as", "shown", "in", "Fig.", "4", "-LRB-", "c", "-RRB-", ".", "For", "example", ",", "in", "Fig.", "4", "-LRB-", "c", "-RRB-", ",", "the", "F-aggregator", "F4", "connects", "to", "S-aggregators", "S3", "and", "S4", "because", "its", "F-cluster", "overlaps", "with", "S-cluster", "3", "and", "4", ".", "Thus", ",", "the", "combination", "of", "F-Tree", "and", "S-Tree", "creates", "a", "Di-184", "A", "B", "C", "D", "F1", "F2", "S2", "F4", "S4", "F6", "S6", "F8", "F3", "F5", "F7", "S1", "S3", "S5", "S7", "Cells", "Other", "nodes", "in", "the", "network", "F-Aggregators", "Cells", "with", "packets", "F1", "F2", "F4", "F6", "F8", "F3", "F5", "F7", "F-Tree", "S-Tree", "Overlapping", "ToD", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "A", "B", "C", "D", "F-clusters", "A", "B", "C", "D", "S-clusters", "S-Aggregators", "S2", "S4", "S6", "S1", "S3", "S5", "S7", "Figure", "4", ".", "The", "construction", "of", "F-Tree", ",", "S-Tree", ",", "and", "ToD", ".", "-LRB-", "a", "-RRB-", "Leaf", "nodes", "are", "cells", ".", "Pairs", "of", "neighbor", "cells", "define", "F-clusters", ".", "Each", "F-cluster", "has", "an", "F-aggregator", ",", "and", "F-aggregators", "form", "the", "F-Tree", ".", "-LRB-", "b", "-RRB-", "Each", "pair", "of", "adjacent", "cells", "not", "in", "the", "same", "F-cluster", "form", "an", "S-cluster", ".", "Each", "S-cluster", "has", "an", "S-aggregator", ",", "and", "S-aggregators", "form", "the", "S-Tree", ".", "Nodes", "on", "the", "network", "boundary", "do", "not", "need", "to", "be", "in", "any", "S-cluster", ".", "-LRB-", "c", "-RRB-", "Each", "F-aggregator", "connects", "to", "two", "S-aggregators", "of", "S-clusters", "which", "its", "F-cluster", "overlaps", "with", ".", "This", "structure", "called", "the", "Tree", "on", "DAG", "or", "ToD", ".", "F-aggregator", "in", "ToD", "uses", "Dynamic", "Forwarding", "to", "forward", "packets", "to", "the", "root", ",", "or", "through", "an", "S-aggregator", "in", "the", "S-Tree", "based", "on", "where", "the", "packets", "come", "from", ".", "rected", "Acyclic", "Graph", ",", "which", "we", "refer", "to", "as", "the", "ToD", "-LRB-", "Tree", "on", "DAG", "-RRB-", ".", "Nodes", "first", "use", "the", "Data", "Aware", "Anycast", "-LRB-", "DAA", "-RRB-", "approach", "to", "aggregate", "as", "many", "packets", "as", "possible", ".", "When", "no", "further", "aggregation", "can", "be", "achieved", "by", "DAA", ",", "nodes", "forward", "their", "packets", "to", "the", "F-aggregator", "in", "its", "F-cluster", ".", "If", "an", "event", "only", "triggers", "nodes", "within", "a", "single", "F-cluster", ",", "its", "packets", "can", "be", "aggregated", "at", "the", "F-aggregator", ",", "and", "be", "forwarded", "to", "the", "sink", "using", "the", "F-Tree", ".", "However", ",", "in", "case", "the", "event", "spans", "multiple", "F-clusters", ",", "the", "corresponding", "packets", "will", "be", "forwarded", "to", "different", "F-aggregators", ".", "As", "we", "assumed", "that", "the", "event", "size", "is", "not", "larger", "than", "the", "size", "of", "a", "cell", ",", "an", "event", "on", "the", "boundary", "of", "F-clusters", "will", "only", "trigger", "nodes", "in", "cells", "on", "the", "boundary", "of", "the", "F-clusters", ".", "By", "the", "construction", "of", "S-clusters", ",", "adjacent", "cells", "on", "the", "boundary", "of", "F-clusters", "belong", "to", "the", "same", "S-cluster", ".", "Thus", ",", "F-aggregators", "can", "exploit", "the", "information", "collected", "from", "received", "packets", "to", "select", "the", "S-aggregator", "that", "is", "best", "suited", "for", "further", "aggregation", ".", "This", "information", "is", "obtained", "from", "the", "source", "of", "traffic", "that", "can", "be", "encoded", "in", "the", "packets", ".", "Often", "such", "information", "is", "readily", "available", "in", "the", "packet", ".", "Otherwise", ",", "4", "extra", "bits", "can", "be", "used", "to", "indicate", "which", "cell", "the", "packet", "comes", "from", ".", "Consider", "the", "example", "in", "Fig.", "4", "-LRB-", "c", "-RRB-", ".", "Since", "the", "maximum", "number", "of", "cells", "an", "event", "can", "span", "is", "two", ",", "either", "these", "two", "cells", "are", "in", "the", "same", "F-cluster", ",", "or", "they", "are", "in", "the", "same", "S-cluster", ".", "If", "they", "are", "in", "the", "same", "F-cluster", ",", "their", "packets", "can", "be", "aggregated", "at", "the", "F-aggregator", ".", "For", "example", ",", "if", "the", "event", "spans", "A", "and", "B", ",", "F1", "knows", "that", "no", "other", "F-cluster", "has", "packets", "for", "aggregation", ",", "and", "it", "can", "forward", "the", "packets", "using", "the", "F-Tree", ".", "If", "the", "event", "spans", "two", "cells", "that", "are", "in", "different", "F-clusters", ",", "the", "two", "F-aggregators", "in", "the", "two", "F-clusters", "will", "receive", "packets", "only", "from", "one", "of", "their", "cells", ".", "The", "F-aggregators", "then", "conjecture", "which", "F-cluster", "might", "also", "have", "packets", "based", "on", "which", "cells", "the", "packets", "come", "from", ".", "For", "example", ",", "if", "the", "event", "spans", "C", "and", "D", ",", "F4", "will", "only", "receive", "packets", "from", "C.", "Therefore", "F4", "can", "know", "either", "the", "event", "happens", "only", "in", "C", ",", "or", "the", "event", "spans", "C", "and", "D.", "Consequently", ",", "F4", "can", "forward", "packets", "to", "S4", ",", "the", "S-aggregator", "of", "its", "overlapped", "S-clusters", "covering", "C.", "Also", "F5", "will", "forward", "its", "packets", "to", "S4", "if", "packets", "only", "come", "from", "D.", "Therefore", "these", "packets", "can", "be", "aggregated", "at", "S4", ".", "Note", "that", "we", "do", "not", "specifically", "assign", "cells", "on", "the", "boundary", "of", "the", "network", "to", "any", "S-cluster", ".", "They", "do", "not", "need", "to", "be", "in", "any", "S-cluster", "if", "they", "are", "not", "adjacent", "to", "any", "other", "F-cluster", ",", "or", "they", "can", "be", "assigned", "to", "the", "same", "S-cluster", "as", "its", "adjacent", "cell", ".", "The", "ToD", "for", "the", "one", "dimensional", "network", "has", "the", "following", "property", ".", "Property", "1", ".", "For", "any", "two", "adjacent", "nodes", "in", "ToD", "in", "one", "dimensional", "network", ",", "their", "packets", "will", "be", "aggregated", "either", "at", "a", "first", "level", "aggregator", ",", "or", "will", "be", "aggregated", "at", "a", "second", "level", "aggregator", ".", "Proof", ".", "There", "are", "only", "three", "possibilities", "when", "an", "event", "triggers", "nodes", "to", "generate", "packets", ".", "If", "only", "nodes", "in", "one", "cell", "are", "triggered", "and", "generate", "the", "packets", ",", "their", "packets", "can", "be", "aggregated", "at", "one", "F-aggregator", "since", "all", "nodes", "in", "a", "cell", "reside", "185", "in", "the", "same", "F-cluster", ",", "and", "all", "packets", "in", "an", "F-cluster", "will", "be", "aggregated", "at", "the", "F-aggregator", ".", "If", "an", "event", "triggers", "nodes", "in", "two", "cells", ",", "and", "these", "two", "cells", "are", "in", "the", "same", "F-cluster", ",", "the", "packets", "can", "be", "aggregated", "at", "the", "F-aggregator", "as", "well", ".", "If", "an", "event", "triggers", "nodes", "in", "two", "cells", ",", "but", "these", "two", "cells", "are", "in", "different", "F-clusters", ",", "they", "must", "reside", "in", "the", "same", "S-cluster", "because", "S-clusters", "and", "F-clusters", "are", "interleaved", ".", "Moreover", ",", "packets", "in", "one", "F-cluster", "will", "only", "originate", "from", "the", "cell", "that", "is", "closer", "to", "the", "other", "F-cluster", "that", "also", "has", "packets", ".", "Therefore", "the", "F-aggregator", "can", "forward", "packets", "to", "the", "S-aggregator", "for", "aggregation", "accordingly", ",", "and", "packets", "will", "be", "aggregated", "at", "the", "S-aggregator", ".", "Since", "the", "cell", "is", "not", "smaller", "than", "the", "maximum", "size", "of", "an", "event", ",", "it", "is", "impossible", "for", "an", "event", "to", "trigger", "more", "than", "two", "cells", ",", "and", "this", "completes", "the", "proof", ".", "3.2.2", "ToD", "in", "Two", "Dimensional", "Networks", "Section", "3.2.1", "only", "demonstrates", "the", "construction", "for", "one", "row", "of", "nodes", "to", "illustrate", "the", "basic", "idea", "of", "dynamic", "forwarding", ",", "and", "it", "works", "because", "each", "cell", "is", "only", "adjacent", "to", "one", "-LRB-", "or", "none", ",", "if", "the", "cell", "is", "on", "the", "boundary", "of", "the", "network", "-RRB-", "of", "the", "F-clusters", ".", "Therefore", "if", "an", "event", "spans", "two", "cells", ",", "the", "two", "cells", "are", "either", "in", "the", "same", "F-cluster", "or", "in", "the", "same", "S-cluster", ",", "and", "the", "F-aggregator", "can", "conjecture", "whether", "to", "forward", "the", "packets", "to", "the", "S-aggregator", ",", "or", "to", "the", "sink", "directly", ".", "When", "we", "consider", "other", "cells", "and", "F-clusters", "in", "the", "adjacent", "row", ",", "a", "cell", "on", "the", "boundary", "of", "an", "F-cluster", "might", "be", "adjacent", "to", "multiple", "F-clusters", ".", "If", "an", "event", "spans", "multiple", "cells", ",", "each", "F-aggregator", "may", "have", "multiple", "choices", "of", "S-aggregators", "if", "the", "cells", "in", "their", "F-cluster", "are", "adjacent", "to", "multiple", "F-clusters", ".", "If", "these", "F-aggregators", "select", "different", "S-aggregators", ",", "their", "packets", "will", "not", "be", "aggregated", ".", "However", ",", "the", "ideas", "presented", "in", "1D", "networks", "can", "be", "extended", "for", "the", "2D", "networks", ".", "But", "instead", "of", "guaranteeing", "that", "packets", "will", "be", "aggregated", "within", "two", "steps", "as", "in", "the", "1D", "case", "-LRB-", "aggregating", "either", "at", "an", "F-aggregator", "or", "an", "S-aggregator", "-RRB-", ",", "the", "ToD", "in", "2D", "guarantees", "that", "the", "packets", "can", "be", "aggregated", "within", "three", "steps", ".", "We", "first", "define", "the", "cells", "and", "clusters", "in", "two", "dimensions", ".", "For", "the", "ease", "of", "understanding", ",", "we", "use", "grid", "clustering", "to", "illustrate", "the", "construction", ".", "As", "defined", "before", ",", "the", "size", "of", "a", "cell", "is", "not", "less", "than", "the", "maximum", "size", "of", "an", "event", ",", "and", "an", "F-cluster", "must", "cover", "all", "the", "cells", "that", "an", "event", "might", "span", ",", "which", "is", "four", "cells", "in", "2D", "grid-clustering", ".", "Therefore", "the", "entire", "network", "is", "divided", "into", "F-clusters", ",", "and", "each", "F-cluster", "contains", "four", "cells", ".", "The", "S-clusters", "have", "to", "cover", "all", "adjacent", "cells", "in", "different", "F-clusters", ".", "Each", "F-cluster", "and", "S-cluster", "also", "has", "a", "cluster-head", "acting", "as", "the", "aggregator", "to", "aggregate", "packets", ".", "Fig.", "5", "shows", "a", "5", "5", "network", "with", "its", "F-clusters", "and", "S-clusters", ".", "Since", "the", "size", "of", "a", "cell", "-LRB-", "one", "side", "of", "the", "square", "cell", "-RRB-", "must", "be", "greater", "or", "equal", "to", "the", "maximum", "size", "of", "an", "event", "-LRB-", "diameter", "of", "the", "event", "-RRB-", ",", "an", "event", "can", "span", "only", "one", ",", "two", ",", "three", ",", "or", "four", "cells", "as", "illustrated", "in", "Fig.", "6", ".", "If", "the", "event", "only", "spans", "cells", "in", "the", "same", "F-cluster", ",", "the", "packets", "can", "be", "aggregated", "at", "the", "F-aggregator", ".", "Therefore", "we", "only", "consider", "scenarios", "where", "an", "event", "spans", "cells", "in", "multiple", "F-clusters", ".", "-LRB-", "a", "-RRB-", "F-clusters", "-LRB-", "c", "-RRB-", "S-cluters", "A", "B", "C", "D", "-LRB-", "b", "-RRB-", "Cells", "G", "H", "I", "E", "F", "C1", "A4", "B3", "B1", "C2", "A3", "A1", "A2", "B2", "B4", "C3", "C4", "D3", "D1", "D2", "D4", "E3", "E1", "E2", "E4", "F3", "F1", "F2", "F4", "G3", "G1", "G2", "G4", "H3", "H1", "H2", "H4", "I3", "I1", "I2", "I4", "S1", "S2", "S3", "S4", "C1", "A4", "B3", "B1", "C2", "A3", "A1", "A2", "B2", "B4", "C3", "C4", "D3", "D1", "D2", "D4", "E3", "E1", "E2", "E4", "F3", "F1", "F2", "F4", "G3", "G1", "G2", "G4", "H3", "H1", "H2", "H4", "I3", "I1", "I2", "I4", "2", "2", "2", "Figure", "5", ".", "Grid-clustering", "for", "a", "two-dimension", "network", ".", "-LRB-", "a", "-RRB-", "The", "network", "is", "divided", "into", "5", "5", "F-clusters", ".", "-LRB-", "b", "-RRB-", "Each", "F-cluster", "contains", "four", "cells", ".", "For", "example", "the", "F-cluster", "A", "in", "-LRB-", "a", "-RRB-", "contains", "cell", "A1", ",", "A2", ",", "A3", ",", "and", "A4", ".", "-LRB-", "c", "-RRB-", "The", "S-clusters", "have", "to", "cover", "all", "adjacent", "cells", "in", "different", "F-clusters", ".", "Each", "S-cluster", "contains", "four", "cells", "from", "four", "different", "F-clusters", ".", "Figure", "6", ".", "The", "possible", "numbers", "of", "cells", "an", "event", "may", "span", "in", "2", "2", "cells", ",", "which", "are", "one", ",", "two", ",", "three", ",", "and", "four", "from", "left", "to", "right", ".", "The", "four", "cells", "in", "each", "case", "are", "any", "instance", "of", "four", "cells", "in", "the", "network", ".", "They", "may", "be", "in", "the", "same", "F-cluster", "or", "different", "F-clusters", ".", "Fig.", "7", "shows", "four", "basic", "scenarios", "that", "an", "F-aggregator", "may", "encounter", "when", "collecting", "all", "packets", "generated", "in", "its", "F-cluster", ".", "All", "other", "scenarios", "are", "only", "different", "combinations", "of", "these", "four", "scenarios", ".", "If", "packets", "originate", "from", "three", "or", "four", "cells", "in", "the", "same", "F-cluster", ",", "the", "F-aggregator", "knows", "that", "no", "other", "nodes", "in", "other", "F-clusters", "have", "packets", ",", "and", "it", "can", "forward", "the", "packets", "directly", "to", "the", "sink", ".", "If", "only", "one", "or", "two", "cells", "generate", "packets", ",", "it", "is", "possible", "that", "other", "F-clusters", "also", "have", "packets", ".", "We", "assume", "that", "the", "region", "spanned", "by", "an", "event", "is", "contiguous", ".", "So", "simultaneous", "occurrence", "of", "scenarios", "of", "-LRB-", "a", "-RRB-", "and", "-LRB-", "c", "-RRB-", ",", "or", "-LRB-", "b", "-RRB-", "and", "-LRB-", "d", "-RRB-", ",", "is", "impossible", "in", "the", "F-cluster", ".", "However", ",", "such", "scenarios", "are", "possible", "in", "presence", "of", "losses", "in", "a", "real", "environment", "where", "packets", "from", "third", "or", "fourth", "cluster", "are", "lost", ".", "In", "such", "cases", "the", "F-aggregator", "can", "just", "forward", "the", "packets", "directly", "to", "the", "sink", "because", "no", "other", "F-cluster", "will", "have", "packets", "from", "the", "same", "event", ".", "Figure", "7", ".", "All", "possible", "scenarios", "in", "an", "F-aggregator", "'s", "point", "of", "view", ".", "Each", "case", "shows", "3", "3", "F-clusters", ",", "and", "the", "aggregator", "of", "the", "center", "F-cluster", "is", "making", "the", "decision", ".", "The", "dark", "grayed", "squares", "are", "cells", "that", "generate", "packets", ",", "and", "the", "light", "grayed", "squares", "represent", "the", "corresponding", "S-cluster", "of", "the", "dark", "grayed", "cells", ".", "When", "the", "F-aggregator", "collects", "all", "packets", "within", "its", "cluster", ",", "it", "knows", "which", "cells", "the", "packets", "come", "from", "and", "forwards", "the", "packets", "to", "best", "suited", "S-aggregator", "for", "further", "aggregation", ".", "For", "example", ",", "if", "the", "packets", "only", "come", "from", "one", "cell", "as", "in", "case", "-LRB-", "a", "-RRB-", "in", "Fig.", "7", ",", "the", "F-aggregator", "can", "forward", "the", "packet", "to", "the", "S-aggregator", "of", "the", "S-cluster", "that", "covers", "that", "186", "cell", ".", "However", ",", "if", "packets", "come", "from", "two", "cells", "in", "an", "F-cluster", ",", "the", "two", "cells", "must", "be", "in", "different", "S-clusters", ".", "For", "example", ",", "as", "in", "Fig.", "8", "where", "the", "F-aggregator", "of", "F-cluster", "X", "receives", "packets", "from", "two", "cells", ",", "is", "the", "combination", "of", "case", "-LRB-", "a", "-RRB-", "and", "-LRB-", "b", "-RRB-", "in", "Fig.", "7", ".", "It", "is", "possible", "that", "the", "F-aggregator", "of", "F-cluster", "Y", "may", "receive", "packets", "from", "cells", "as", "in", "Fig.", "7", "-LRB-", "c", "-RRB-", ",", "-LRB-", "d", "-RRB-", ",", "or", "both", ".", "Since", "the", "F-aggregator", "of", "F-cluster", "X", "does", "not", "know", "which", "case", "the", "F-aggregator", "of", "F-cluster", "Y", "encounters", ",", "it", "does", "not", "know", "which", "S-aggregator", "to", "forward", "packets", "to", ".", "To", "guarantee", "the", "aggregation", ",", "the", "F-aggregator", "of", "F-cluster", "X", "forwards", "the", "packet", "through", "two", "S-aggregators", "that", "covers", "cell", "C1", "and", "C2", ",", "therefore", "packets", "can", "meet", "at", "least", "at", "one", "S-aggregator", ".", "If", "both", "F-aggregators", "receive", "packets", "from", "two", "cells", "in", "its", "cluster", ",", "to", "guarantee", "that", "the", "packets", "can", "meet", "at", "least", "at", "one", "S-aggregator", ",", "these", "two", "F-aggregators", "must", "select", "the", "S-aggregator", "deterministically", ".", "The", "strategy", "is", "to", "select", "the", "S-aggregator", "that", "is", "closer", "to", "the", "sink", ".", "If", "the", "packets", "meet", "at", "the", "first", "S-aggregator", ",", "it", "does", "not", "need", "to", "forward", "packets", "to", "the", "second", "S-aggregator", ".", "The", "S-aggregator", "only", "forwards", "packets", "to", "the", "second", "S-aggregator", "if", "the", "packets", "it", "received", "only", "come", "from", "two", "cells", "in", "one", "F-cluster", ".", "We", "will", "present", "a", "simplified", "construction", "later", "-LRB-", "in", "Section", "3.2.3", "-RRB-", "for", "the", "selection", "of", "S-aggregators", ".", "F-cluster", "X", "F-cluster", "Y", "S-cluster", "I", "S-cluster", "II", "C1", "C2", "C3", "Figure", "8", ".", "The", "F-aggregators", "have", "two", "choices", "for", "S-aggregators", "if", "they", "receive", "packets", "from", "two", "cells", ".", "To", "guarantee", "that", "the", "packets", "can", "meet", "at", "least", "at", "one", "S-aggregator", ",", "the", "second", "S-aggregator", "must", "wait", "longer", "than", "the", "first", "S-aggregator", ".", "Therefore", ",", "if", "the", "S-aggregator", "receives", "packets", "from", "only", "one", "cell", ",", "it", "waits", "longer", "to", "wait", "for", "possible", "packets", "forwarded", "by", "the", "other", "S-aggregator", "because", "it", "could", "be", "the", "second", "S-aggregator", "of", "the", "other", "F-aggregator", ".", "Fig.", "9", "shows", "an", "example", "of", "one", "F-aggregator", "sending", "packets", "to", "the", "first", "S-aggregator", "and", "then", "the", "second", "S-aggregator", ",", "while", "the", "other", "F-aggregator", "sends", "packets", "directly", "to", "the", "second", "S-aggregator", ".", "As", "long", "as", "the", "second", "S-aggregator", "waits", "suf-ficiently", "longer", "than", "the", "first", "S-aggregator", "the", "packets", "can", "be", "aggregated", "at", "the", "second", "S-aggregator", ".", "F-aggregators", "1", "st", "S-aggregators", "2", "nd", "S-aggregators", "Figure", "9", ".", "Depending", "on", "how", "many", "cells", "generate", "packets", "in", "its", "F-cluster", ",", "one", "F-aggregator", "sends", "packets", "to", "two", "S-aggregators", "while", "the", "other", "F-aggregator", "sends", "packets", "to", "only", "one", "S-aggregator", ".", "We", "assume", "that", "the", "sink", "is", "located", "at", "bottom-left", "of", "the", "network", ".", "The", "ToD", "for", "the", "two", "dimension", "networks", "has", "the", "following", "property", ".", "Property", "2", ".", "For", "any", "two", "adjacent", "nodes", "in", "ToD", ",", "their", "packets", "will", "be", "aggregated", "at", "the", "F-aggregator", ",", "at", "the", "1", "st", "S-aggregator", ",", "or", "at", "the", "2", "nd", "S-aggregator", ".", "Proof", ".", "First", "we", "define", "the", "F-aggregator", "X", "as", "the", "aggregator", "of", "F-cluster", "X", "and", "S-aggregator", "I", "as", "the", "aggregator", "of", "S-cluster", "I", ",", "and", "so", "forth", ".", "For", "packets", "generated", "only", "in", "one", "F-cluster", ",", "their", "packets", "can", "be", "aggregated", "at", "the", "F-aggregator", "since", "all", "packets", "in", "the", "F-cluster", "will", "be", "sent", "to", "the", "F-aggregator", ".", "If", "an", "event", "triggers", "nodes", "in", "different", "F-clusters", ",", "there", "are", "only", "three", "cases", ".", "First", ",", "only", "one", "cell", "in", "each", "F-cluster", "generates", "packets", ".", "In", "this", "case", ",", "all", "cells", "having", "packets", "will", "be", "in", "the", "same", "S-cluster", "since", "the", "adjacent", "cells", "in", "different", "F-clusters", "are", "all", "in", "the", "same", "S-cluster", ".", "Therefore", "their", "packets", "can", "be", "aggregated", "at", "the", "S-aggregator", ".", "Second", ",", "the", "event", "spans", "three", "cells", ",", "C1", ",", "C2", ",", "and", "C3", ",", "and", "two", "of", "them", "are", "in", "one", "F-cluster", "and", "one", "of", "them", "is", "in", "the", "other", "F-cluster", ".", "Without", "loss", "of", "generality", ",", "we", "assume", "that", "C1", "and", "C2", "are", "in", "the", "same", "F-cluster", ",", "F-cluster", "X", ",", "and", "C3", "is", "in", "the", "other", "F-cluster", ",", "F-cluster", "Y", ".", "Moreover", "C3", "must", "be", "adjacent", "to", "either", "C1", "or", "C2", ",", "and", "let", "us", "assume", "that", "it", "is", "C2", ".", "From", "the", "ToD", "construction", "we", "know", "that", "C2", "and", "C3", "will", "be", "in", "the", "same", "S-cluster", ",", "S-cluster", "II", ",", "and", "C1", "will", "be", "in", "another", "S-cluster", ",", "S-cluster", "I.", "Fig.", "8", "illustrates", "one", "instance", "of", "this", "case", ".", "First", "the", "F-aggregator", "X", "will", "aggregate", "packets", "from", "C1", "and", "C2", "because", "they", "are", "in", "the", "same", "F-cluster", ",", "and", "forward", "the", "aggregated", "packets", "through", "S-aggregator", "I", "to", "S-aggregator", "II", ",", "or", "the", "other", "way", "around", ",", "because", "C1", "is", "in", "S-cluster", "I", "and", "C2", "is", "in", "S-cluster", "II", ".", "F-aggregator", "Y", "will", "aggregate", "packets", "from", "C3", "and", "forward", "packets", "to", "S-aggregator", "II", "because", "C3", "is", "in", "S-cluster", "II", ".", "Because", "packets", "of", "F-aggregator", "Y", "only", "come", "from", "C3", ",", "they", "will", "have", "longer", "delay", "in", "S-aggregator", "II", "in", "order", "to", "wait", "for", "packets", "being", "forwarded", "through", "the", "other", "S-aggregator", ".", "In", "the", "mean", "time", ",", "if", "F-aggregator", "X", "forwards", "packets", "to", "S-aggregator", "II", "first", ",", "the", "packets", "can", "be", "aggregated", "at", "S-aggregator", "II", ".", "If", "F-aggregator", "X", "forwards", "packets", "to", "S-aggregator", "I", "first", ",", "S-aggregator", "I", "will", "forward", "packets", "to", "S-aggregator", "II", "with", "shorter", "delay", "because", "the", "packets", "come", "from", "two", "cells", "in", "one", "F-cluster", ",", "therefore", "their", "packets", "can", "also", "be", "aggregated", "at", "S-aggregator", "II", ".", "In", "the", "third", "case", ",", "the", "event", "spans", "four", "cells", ".", "Two", "of", "them", "will", "be", "in", "one", "F-cluster", "and", "the", "other", "two", "will", "be", "in", "the", "other", "F-cluster", ".", "Without", "loss", "of", "generality", ",", "we", "can", "assume", "that", "cells", "C1", "and", "C2", "are", "in", "F-cluster", "X", "and", "cells", "C3", "and", "C4", "are", "in", "F-cluster", "Y", ",", "and", "C1", "and", "C3", "are", "adjacent", ",", "C2", "and", "C4", "are", "adjacent", ".", "From", "the", "ToD", "construction", ",", "C1", "and", "C3", "will", "be", "in", "one", "S-cluster", ",", "S-cluster", "I", ",", "and", "C2", "and", "C4", "will", "be", "in", "the", "other", "S-cluster", ",", "S-cluster", "II", ".", "Because", "from", "S-aggregator", "I", "and", "II", ",", "F-aggregator", "X", "and", "Y", "choose", "one", "that", "is", "closer", "to", "the", "sink", "as", "the", "first", "S-aggregator", ",", "they", "will", "choose", "the", "same", "S-aggregator", ".", "Therefore", "their", "packets", "can", "be", "aggregated", "at", "the", "first", "S-aggregator", ",", "and", "this", "completes", "the", "proof", ".", "Though", "in", "this", "section", "we", "assume", "that", "the", "size", "of", "an", "event", "is", "smaller", "than", "the", "size", "of", "the", "cell", ",", "our", "approach", "can", "still", "work", "187", "correctly", "and", "perform", "more", "efficiently", "than", "DAA", "even", "if", "the", "size", "of", "the", "event", "is", "not", "known", "in", "advance", ".", "This", "is", "because", "the", "nodes", "will", "use", "Dynamic", "Forwarding", "over", "ToD", "only", "at", "second", "phase", "where", "the", "aggregation", "by", "DAA", "is", "no", "longer", "achievable", ".", "Therefore", "at", "worst", "our", "approach", "just", "falls", "back", "to", "DAA", ".", "Section", "5.1", "shows", "that", "in", "experiments", ",", "ToD", "improves", "the", "performance", "of", "DAA", "by", "27", "%", "even", "if", "the", "size", "of", "the", "event", "is", "greater", "than", "the", "size", "of", "a", "cell", ".", "3.2.3", "Clustering", "and", "Aggregator", "Selection", "In", "this", "paper", "we", "use", "grid-clustering", "to", "construct", "the", "cells", "and", "clusters", ".", "Although", "other", "clustering", "methods", ",", "such", "as", "clustering", "based", "on", "hexagonal", "or", "triangular", "tessellation", ",", "can", "also", "be", "used", ",", "we", "do", "not", "explore", "them", "further", "in", "this", "paper", ".", "In", "principle", "any", "clustering", "would", "work", "as", "long", "as", "they", "satisfy", "the", "following", "conditions", ".", "First", ",", "the", "size", "of", "the", "cell", "must", "be", "greater", "than", "or", "equal", "to", "the", "maximum", "size", "of", "an", "event", ".", "Second", ",", "the", "F-cluster", "and", "S-cluster", "must", "cover", "the", "cells", "that", "an", "event", "may", "span", ",", "and", "the", "S-cluster", "must", "cover", "the", "adjacent", "cells", "in", "different", "F-clusters", ".", "As", "opposed", "to", "defining", "an", "arbitrary", "clustering", ",", "using", "grid-clustering", "has", "two", "advantages", ".", "First", ",", "the", "size", "of", "the", "grid", "can", "be", "easily", "determined", "by", "configuring", "the", "grid", "size", "as", "a", "network", "parameter", ".", "Second", ",", "as", "long", "as", "the", "geographic", "location", "is", "known", "to", "the", "node", ",", "the", "cell", ",", "F-cluster", "and", "S-cluster", "it", "belongs", "to", "can", "be", "determined", "immediately", "without", "any", "communication", ".", "Geographic", "information", "is", "essential", "in", "sensor", "networks", ",", "therefore", "we", "assume", "that", "sensor", "nodes", "know", "their", "physical", "location", "by", "configuration", "at", "deployment", ",", "a", "GPS", "device", ",", "or", "localization", "protocols", "-LSB-", "39", ",", "40", "-RSB-", ".", "As", "a", "consequence", ",", "all", "the", "cells", ",", "F-clusters", ",", "and", "S-clusters", "can", "be", "implicitly", "constructed", ".", "After", "the", "grids", "are", "constructed", ",", "nodes", "in", "an", "F-cluster", "and", "S-cluster", "have", "to", "select", "an", "aggregator", "for", "their", "cluster", ".", "Because", "the", "node", "that", "acts", "as", "the", "aggregator", "consumes", "more", "energy", "than", "other", "nodes", ",", "nodes", "should", "play", "the", "role", "of", "aggregator", "in", "turn", "in", "order", "to", "evenly", "distribute", "the", "energy", "consumption", "among", "all", "nodes", ".", "Therefore", "the", "aggregator", "selection", "process", "must", "be", "performed", "periodically", ".", "However", "the", "frequency", "of", "updating", "the", "aggregator", "can", "be", "very", "low", ",", "from", "once", "in", "several", "hours", "to", "once", "in", "several", "days", ",", "depending", "on", "the", "capacity", "of", "the", "battery", "on", "the", "nodes", ".", "Nodes", "can", "elect", "themselves", "as", "the", "cluster-head", "with", "probability", "based", "on", "metrics", "such", "as", "the", "residual", "energy", ",", "and", "advertise", "to", "all", "nodes", "in", "its", "cluster", ".", "In", "case", "two", "nodes", "select", "themselves", "as", "the", "cluster-head", ",", "the", "node-id", "can", "be", "used", "to", "break", "the", "tie", ".", "The", "other", "approach", "is", "that", "the", "nodes", "in", "a", "cluster", "use", "a", "hash", "function", "to", "hash", "the", "current", "time", "to", "a", "node", "within", "that", "cluster", ",", "and", "use", "that", "node", "as", "the", "aggregator", ".", "Nodes", "have", "to", "know", "the", "address", "of", "all", "nodes", "in", "its", "F-cluster", "and", "sort", "them", "by", "their", "node", "id", ".", "A", "hash", "function", "hashes", "the", "current", "time", "to", "a", "number", "k", "from", "1", "to", "n", "where", "n", "is", "the", "number", "of", "nodes", "in", "its", "cluster", ",", "and", "nodes", "use", "the", "k", "th", "node", "as", "the", "aggregator", ".", "Because", "the", "frequency", "of", "changing", "the", "aggregator", "could", "be", "low", ",", "the", "time", "used", "could", "be", "in", "hours", "or", "days", ",", "therefore", "the", "time", "only", "needs", "to", "be", "coarsely", "synchronized", ",", "and", "the", "cluster-head", "election", "overhead", "can", "be", "avoided", ".", "However", ",", "the", "Dynamic", "Forwarding", "approach", "requires", "that", "each", "F-aggregator", "knows", "the", "location", "of", "S-aggregators", "of", "S-clusters", "that", "its", "F-cluster", "overlaps", "with", ".", "Therefore", "each", "time", "the", "S-aggregator", "changes", ",", "it", "has", "to", "notify", "the", "F-aggregators", ".", "To", "simplify", "the", "cluster-head", "selection", "process", "and", "avoid", "the", "overhead", "of", "propagating", "the", "update", "information", ",", "we", "delegate", "the", "role", "of", "S-aggregators", "to", "F-aggregators", ".", "Instead", "of", "selecting", "a", "node", "as", "the", "S-aggregator", "and", "changing", "it", "periodically", "for", "an", "S-cluster", ",", "we", "choose", "an", "F-cluster", ",", "called", "Aggregating", "Cluster", ",", "for", "each", "S-cluster", ",", "and", "use", "the", "F-aggregator", "of", "the", "Aggregating", "Cluster", "as", "its", "S-aggregator", ".", "The", "Aggregating", "Cluster", "of", "an", "S-cluster", "is", "the", "F-cluster", "which", "is", "closest", "to", "the", "sink", "among", "all", "F-clusters", "that", "the", "S-cluster", "overlaps", "with", ",", "as", "shown", "in", "Fig.", "10", "-LRB-", "a", "-RRB-", ",", "assuming", "that", "the", "sink", "is", "located", "on", "the", "bottom-left", "corner", ".", "Therefore", "as", "the", "F-aggregator", "changes", ",", "the", "corresponding", "S-aggregator", "changes", "as", "well", ".", "When", "an", "F-aggregator", "forwards", "a", "packet", "to", "an", "S-aggregator", ",", "it", "forwards", "the", "packet", "toward", "the", "Aggregating", "Cluster", "of", "that", "S-aggregator", ".", "When", "the", "packet", "reaches", "the", "Aggregating", "Cluster", ",", "nodes", "in", "that", "F-cluster", "know", "the", "location", "of", "its", "F-aggregator", "and", "can", "forward", "the", "packet", "to", "it", ".", "Therefore", "no", "aggregator", "update", "has", "to", "be", "propagated", "to", "neighboring", "clusters", ".", "F-cluster", "S-cluster", "The", "common", "aggregator", "for", "both", "the", "shaded", "F-cluster", "and", "S-cluster", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "F-aggregator", "F-aggregator", "and", "1", "st", "S-aggregator", "2", "nd", "S-aggregator", "Figure", "10", ".", "-LRB-", "a", "-RRB-", "The", "S-cluster", "selects", "the", "F-cluster", "closest", "to", "the", "sink", "among", "its", "overlapped", "F-clusters", ",", "assuming", "that", "the", "sink", "is", "located", "at", "the", "bottom-left", "corner", "of", "the", "network", ".", "-LRB-", "b", "-RRB-", "The", "white", "F-aggregator", "selects", "the", "F-cluster", "containing", "the", "gray", "F-aggregator", "as", "the", "aggregating", "cluster", ".", "Now", "the", "role", "of", "S-aggregators", "is", "passed", "on", "to", "the", "F-aggregators", ",", "and", "the", "F-cluster", "selected", "by", "an", "S-aggregator", "is", "the", "one", "closer", "to", "the", "sink", ".", "When", "an", "F-aggregator", "wants", "to", "forward", "packets", "to", "both", "S-aggregators", ",", "it", "selects", "the", "F-cluster", "that", "is", "closer", "to", "itself", "as", "the", "aggregating", "cluster", "of", "the", "first", "S-aggregator", "-LRB-", "could", "be", "itself", "-RRB-", "to", "reduce", "the", "number", "of", "transmissions", "between", "aggregators", ",", "as", "shown", "in", "Fig.", "10", "-LRB-", "b", "-RRB-", ".", "This", "selection", "does", "not", "affect", "the", "property", "that", "packets", "will", "eventually", "be", "aggregated", "at", "one", "aggregator", "because", "the", "S-clusters", "that", "cover", "the", "cells", "in", "two", "F-clusters", "are", "the", "same", ",", "therefore", "the", "aggregating", "cluster", "selected", "by", "two", "F-aggregators", "will", "be", "the", "same", ".", "The", "benefits", "of", "using", "this", "approach", "are", "five-fold", ".", "First", ",", "no", "leader", "election", "is", "required", "for", "S-clusters", ",", "which", "eliminates", "the", "leader", "election", "overhead", ".", "Second", ",", "nodes", "only", "need", "to", "know", "the", "F-aggregator", "of", "its", "F-cluster", ",", "which", "make", "this", "approach", "very", "scalable", ".", "Third", ",", "when", "the", "F-aggregator", "changes", ",", "the", "S-aggregator", "changes", "as", "well", ",", "but", "the", "change", "does", "not", "need", "to", "be", "propagated", "to", "other", "F-clusters", "or", "S-clusters", ".", "Fourth", ",", "if", "nodes", "choose", "the", "aggregator", "by", "hashing", "current", "time", "to", "get", "a", "node", "id", "of", "the", "aggregator", "in", "its", "cluster", ",", "188", "only", "nodes", "within", "the", "same", "F-cluster", "need", "to", "be", "synchronized", "with", "each", "other", ".", "And", "last", ",", "since", "the", "Aggregating", "Clusters", "of", "S-clusters", "are", "statically", "computed", ",", "there", "is", "no", "packet", "overhead", "for", "computing", "the", "Aggregating", "Clusters", ".", "In", "this", "section", "we", "show", "that", "the", "maximum", "distance", "between", "any", "two", "adjacent", "nodes", "in", "ToD", "only", "depends", "on", "the", "size", "of", "the", "cells", ",", "and", "is", "independent", "of", "the", "size", "of", "the", "network", ".", "We", "ignore", "the", "cost", "from", "the", "aggregator", "to", "the", "sink", "since", "for", "perfect", "aggregation", ",", "only", "one", "packet", "will", "be", "forwarded", "to", "the", "sink", "from", "the", "aggregator", ",", "therefore", "the", "cost", "is", "comparatively", "small", ".", "Compared", "to", "the", "lower", "bound", "O", "-LRB-", "n", "-RRB-", "-LSB-", "36", "-RSB-", "of", "the", "grid", "network", "for", "a", "fixed", "tree", ",", "ToD", "can", "achieve", "constant", "factor", "even", "in", "the", "worst", "case", ".", "u", "v", "s", "f", "u", "f", "v", "Figure", "11", ".", "The", "worst", "case", "scenario", "for", "ToD", ".", "The", "worst", "case", "in", "ToD", "is", "illustrated", "in", "Fig.", "11", "where", "only", "two", "adjacent", "nodes", ",", "u", "and", "v", ",", "in", "the", "corner", "of", "two", "different", "F-clusters", "generate", "packets", ",", "and", "their", "F-aggregators", ",", "f", "u", "and", "f", "v", ",", "are", "located", "at", "the", "opposite", "corner", ".", "We", "assume", "a", "dense", "deployment", "of", "sensor", "nodes", ",", "therefore", "the", "distance", "between", "two", "nodes", "can", "be", "transferred", "to", "the", "cost", "of", "transmitting", "a", "packet", "between", "these", "nodes", ".", "Fig.", "11", "is", "the", "worst", "case", "since", "if", "more", "nodes", "are", "generating", "packets", "in", "one", "cluster", ",", "it", "will", "only", "amortize", "the", "cost", "of", "sending", "packets", "from", "the", "F-aggregator", "to", "the", "S-aggregator", ",", "and", "more", "nodes", "in", "multiple", "F-clusters", "generating", "packets", "will", "only", "lower", "the", "average", "distance", ".", "We", "assume", "that", "the", "length", "of", "one", "side", "of", "the", "cell", "is", ",", "and", "two", "nodes", "are", "adjacent", "if", "their", "distance", "is", "less", "than", "a", "unit", "of", "distance", ".", "Therefore", "in", "Fig.", "11", "the", "distance", "that", "packets", "from", "u", "and", "v", "have", "to", "be", "forwarded", "before", "they", "are", "aggregated", "at", "s", "is", "the", "sum", "of", "distances", "between", "u", "to", "f", "u", "to", "s", "and", "v", "to", "f", "v", "to", "s", ",", "and", "is", "-LRB-", "22", "+", "42", "-RRB-", "+", "-LRB-", "22", "+", "4", "-RRB-", "=", "82", "+", "4", ".", "Therefore", "in", "the", "optimal", "approach", ",", "only", "one", "transmission", "is", "required", "because", "u", "and", "v", "are", "adjacent", ".", "In", "ToD", ",", "8", "2", "+", "4", "number", "of", "transmission", "is", "required", "for", "the", "worst", "case", ".", "However", ",", "since", "we", "use", "DAA", "as", "the", "aggregation", "technique", ",", "packets", "from", "adjacent", "nodes", "will", "be", "aggregated", "immediately", ".", "Therefore", "for", "the", "worst", "cast", "to", "happen", ",", "the", "distance", "between", "u", "and", "v", "must", "be", "at", "least", "2", "units", ",", "and", "our", "protocol", "has", "4", "2", "+2", "7.66", "times", "number", "of", "transmissions", "than", "optimal", ".", "The", "upper", "bound", "is", "only", "dependent", "on", "the", "size", "of", "a", "cell", ",", "and", "the", "size", "of", "the", "cell", "is", "dependent", "on", "the", "size", "of", "an", "event", ".", "This", "value", "is", "independent", "of", "the", "size", "of", "the", "network", "and", "therefore", "is", "very", "suitable", "for", "large-scale", "networks", ".", "On", "average", ",", "the", "number", "of", "transmissions", "will", "be", "much", "less", "than", "4", "2", "+", "2", "because", "first", ",", "typically", "there", "will", "be", "many", "nodes", "generating", "packets", ".", "Second", ",", "the", "distance", "between", "a", "node", "and", "its", "F-aggregator", "is", "not", "always", "2", "2", ",", "and", "the", "distances", "between", "the", "F-aggregators", "and", "the", "S-aggregator", "are", "shorter", ",", "too", ".", "Third", ",", "the", "DAA", "approach", "can", "efficiently", "aggregate", "packets", "from", "adjacent", "nodes", "thereby", "further", "reducing", "the", "number", "of", "transmissions", ".", "Therefore", "we", "expect", "the", "average", "distance", "for", "nodes", "generating", "packets", "to", "be", "much", "less", "than", "the", "worst", "case", ".", "In", "this", "section", "we", "use", "experiments", "and", "simulations", "to", "evaluate", "the", "performance", "of", "our", "semi-structured", "approach", "and", "compare", "it", "with", "other", "protocols", ".", "5.1", "Testbed", "Evaluation", "We", "conduct", "experiments", "with", "105", "Mica2-based", "nodes", "on", "a", "sensor", "testbed", ".", "The", "testbed", "consists", "of", "105", "Mica2-based", "motes", "and", "each", "mote", "is", "hooked", "onto", "a", "Stargate", ".", "The", "Stargate", "is", "a", "32-bit", "hardware", "device", "from", "CrossBow", "-LSB-", "41", "-RSB-", "running", "Linux", ",", "which", "has", "an", "Ethernet", "interface", "and", "a", "serial", "port", "for", "connecting", "a", "mote", ".", "The", "Stargates", "are", "connected", "to", "the", "server", "using", "wired", "Ethernet", ".", "Therefore", "we", "can", "program", "these", "motes", "and", "send", "messages", "and", "signals", "to", "them", "through", "Stargates", "via", "Ethernet", "connection", ".", "The", "105", "nodes", "form", "a", "7", "15", "grid", "network", "with", "3", "feet", "spacing", ".", "The", "radio", "signal", "using", "default", "transmission", "power", "covers", "a", "lot", "of", "nodes", "in", "the", "testbed", ".", "In", "our", "experiments", "we", "do", "not", "change", "the", "transmission", "power", "but", "limit", "nodes", "only", "to", "receive", "packets", "from", "nodes", "within", "two", "grid", "neighbors", "away", ",", "i.e.", "each", "node", "has", "maximum", "12", "neighbors", ".", "We", "implement", "an", "Anycast", "MAC", "protocol", "on", "top", "of", "the", "Mica2", "MAC", "layer", ".", "The", "Anycast", "MAC", "layer", "has", "its", "own", "backoff", "and", "retransmission", "mechanisms", "and", "we", "disable", "the", "ACK", "and", "backoff", "of", "the", "Mica2", "MAC", "module", ".", "The", "Anycast", "MAC", "implements", "the", "RTS-CTS-DATA-ACK", "for", "anycast", ".", "An", "event", "is", "emulated", "by", "broadcasting", "a", "message", "on", "the", "testbed", "to", "the", "Stargates", ",", "and", "the", "Stargates", "send", "the", "message", "to", "the", "Mica2", "nodes", "through", "serial", "port", ".", "The", "message", "contains", "a", "unique", "ID", "distinguishing", "packets", "generated", "at", "different", "time", ".", "When", "a", "node", "is", "triggered", "by", "an", "event", ",", "an", "event", "report", "is", "generated", ".", "If", "the", "node", "has", "to", "delay", "its", "transmission", ",", "it", "stores", "the", "packet", "in", "a", "report", "queue", ".", "Both", "the", "application", "layer", "and", "Anycast", "MAC", "layer", "can", "access", "the", "queue", ",", "therefore", "they", "can", "check", "if", "the", "node", "has", "packets", "for", "aggregation", ",", "or", "aggregate", "the", "received", "packets", "to", "packets", "in", "the", "queue", ".", "First", "we", "evaluate", "the", "following", "protocols", "on", "the", "testbed", "and", "the", "codes", "are", "available", "on-line", "2", ":", "Dynamic", "Forwarding", "over", "ToD", "-LRB-", "ToD", "-RRB-", ".", "The", "semi-structured", "approach", "we", "proposed", "in", "this", "paper", ".", "DAA", "is", "used", "to", "aggregate", "packets", "in", "each", "F-cluster", ",", "and", "aggregated", "packets", "are", "forwarded", "to", "the", "sink", "on", "ToD", ".", "Data", "Aware", "Anycast", "-LRB-", "DAA", "-RRB-", ".", "The", "structure-less", "approach", "proposed", "in", "-LSB-", "20", "-RSB-", ".", "Shortest", "Path", "Tree", "-LRB-", "SPT", "-RRB-", ".", "Nodes", "send", "packets", "to", "the", "sink", "through", "the", "shortest", "path", "tree", "immediately", "after", "sensing", "an", "event", ".", "Aggregation", "is", "opportunistic", "and", "happens", "only", "if", "two", "packets", "are", "at", "the", "same", "node", "at", "the", "same", "time", ".", "The", "shortest", "path", "tree", "is", "constructed", "immediately", "after", "the", "network", "is", "deployed", ".", "A", "message", "is", "2", "http://www.cse.ohio-state.edu/", "fank/research/tod.tar.gz", "189", "broadcast", "from", "the", "sink", "and", "flooded", "into", "the", "network", "to", "create", "a", "shortest", "path", "tree", "from", "all", "nodes", "to", "the", "sink", ".", "Shortest", "Path", "Tree", "with", "Fixed", "Delay", "-LRB-", "SPT-D", "-RRB-", "Same", "as", "the", "SPT", "approach", ",", "but", "nodes", "delay", "their", "transmission", "according", "to", "their", "height", "in", "the", "tree", "to", "wait", "for", "packets", "from", "their", "children", ".", "Due", "to", "the", "scale", "of", "the", "testbed", ",", "in", "ToD", "we", "only", "divide", "the", "network", "into", "two", "F-clusters", ",", "which", "forces", "the", "smallest", "cell", "to", "have", "only", "9", "sensor", "nodes", ".", "However", "we", "do", "not", "limit", "the", "size", "of", "an", "event", "to", "be", "smaller", "than", "the", "cell", "size", ".", "The", "event", "size", "is", "larger", "than", "the", "cell", "size", "in", "all", "following", "experiments", ".", "We", "use", "the", "normalized", "number", "of", "transmissions", "as", "the", "metric", "to", "compare", "the", "performance", "of", "these", "protocols", ".", "The", "normalized", "number", "of", "transmissions", "is", "the", "average", "number", "of", "transmissions", "performed", "in", "the", "entire", "network", "to", "deliver", "one", "unit", "of", "useful", "information", "from", "sources", "to", "the", "sink", ".", "It", "can", "be", "converted", "to", "the", "normalized", "energy", "consumption", "if", "we", "know", "the", "sending", "and", "receiving", "cost", "of", "one", "transmission", ",", "therefore", "the", "energy", "spent", "on", "data", "collection", "for", "one", "packet", "can", "be", "derived", ".", "We", "do", "not", "consider", "energy", "consumption", "on", "idle", "listening", "here", "since", "all", "nodes", "are", "fully", "active", "for", "all", "protocols", "in", "the", "experiments", "and", "simulations", ",", "and", "the", "idle", "energy", "consumption", "would", "be", "similar", "for", "all", "protocols", ".", "To", "reduce", "the", "energy", "consumption", "on", "idle", "listening", ",", "various", "duty", "cycling", "protocols", "have", "been", "proposed", ".", "However", ",", "due", "to", "the", "page", "limitation", ",", "we", "are", "unable", "to", "describe", "how", "to", "integrate", "those", "works", ".", "Fig.", "12", "shows", "the", "normalized", "number", "of", "transmissions", "for", "different", "event", "sizes", ".", "We", "fixed", "the", "location", "of", "the", "event", "and", "vary", "its", "diameter", "from", "12", "ft", "to", "36", "ft", "where", "nodes", "within", "two", "grid-hops", "to", "six", "grid-hops", "of", "the", "event", "will", "be", "triggered", "respectively", "and", "send", "packets", "to", "the", "sink", "located", "at", "one", "corner", "of", "the", "network", ".", "We", "use", "6", "seconds", "as", "maximum", "delay", "for", "all", "protocols", "except", "SPT", ".", "For", "event", "size", "less", "than", "12", "ft", ",", "there", "are", "too", "little", "nodes", "been", "triggered", "-LRB-", "less", "than", "five", "-RRB-", ",", "and", "all", "triggered", "nodes", "are", "within", "transmission", "range", ".", "Data", "aggregation", "is", "not", "so", "interesting", "in", "such", "scenario", "therefore", "we", "do", "not", "evaluate", "it", ".", "Actually", "DAA", "can", "perform", "best", "since", "all", "packets", "can", "be", "aggregated", "because", "all", "triggered", "nodes", "are", "within", "transmission", "range", "of", "each", "other", ".", "All", "protocols", "have", "better", "performance", "when", "the", "size", "of", "the", "event", "increases", "because", "packets", "have", "more", "chances", "of", "being", "aggregated", ".", "ToD", "performs", "best", "among", "all", "protocols", "in", "all", "scenarios", ".", "This", "shows", "that", "DAA", "can", "efficiently", "achieve", "early", "aggregation", "and", "the", "Dynamic", "Forwarding", "over", "ToD", "can", "effectively", "reduce", "the", "cost", "of", "directly", "forwarding", "unaggregated", "packets", "to", "the", "sink", "in", "DAA", ".", "In", "SPT-D", ",", "when", "the", "event", "size", "is", "smaller", ",", "the", "long", "stretch", "effect", "is", "more", "significant", "than", "in", "larger", "event", "scenario", ".", "When", "event", "size", "is", "large", ",", "for", "example", ",", "two-third", "of", "nodes", "in", "the", "network", "are", "triggered", "when", "the", "diameter", "of", "the", "event", "is", "36", "feet", ",", "most", "of", "the", "packets", "can", "be", "aggregated", "to", "their", "parent", "with", "one", "transmission", ".", "This", "indicates", "that", "in", "applications", "where", "most", "nodes", "are", "transmitting", ",", "the", "fixed", "structure", "such", "as", "SPT-D", "is", "better", ",", "but", "when", "only", "a", "small", "subset", "of", "nodes", "are", "transmitting", ",", "their", "performance", "degrades", "because", "of", "the", "long", "stretch", "problem", ".", "We", "notice", "that", "the", "variance", "of", "some", "results", "in", "SPT", "and", "SPT-D", "is", "very", "high", ".", "For", "example", ",", "when", "the", "event", "size", "is", "12", "feet", "in", "diameter", ",", "the", "maximum", "normalized", "number", "of", "trans-0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "4", "4.5", "36", "30", "24", "18", "12", "Normalized", "Number", "of", "Transmissions", "Event", "Size", "-LRB-", "ft", "-RRB-", "ToD", "DAA", "SPT", "SPT-D", "Figure", "12", ".", "The", "normalized", "number", "of", "transmissions", "for", "different", "event", "sizes", "from", "experiments", "on", "105", "sensors", ".", "missions", "in", "SPT-D", "is", "3", ".41", ",", "and", "the", "minimum", "value", "is", "2.41", ".", "By", "tracing", "into", "the", "detail", "experiment", "logs", "we", "found", "that", "the", "high", "variance", "is", "because", "of", "the", "different", "shortest", "path", "trees", ".", "The", "tree", "is", "re-constructed", "for", "each", "experiment", ",", "and", "therefore", "may", "change", "from", "experiment", "to", "experiment", ".", "We", "found", "that", "SPT-D", "always", "gets", "better", "performance", "in", "one", "tree", "where", "all", "sources", "are", "under", "the", "same", "subtree", ",", "and", "performs", "badly", "in", "the", "other", "tree", "where", "sources", "are", "located", "under", "two", "or", "three", "different", "subtrees", ".", "This", "further", "supports", "our", "claims", "that", "the", "long", "stretch", "problem", "in", "fixed", "structured", "approaches", "affects", "their", "performance", "significantly", ".", "The", "second", "experiment", "evaluates", "the", "performance", "of", "these", "protocols", "for", "different", "values", "of", "maximum", "delay", ".", "We", "vary", "the", "delay", "from", "0", "to", "8", "seconds", ",", "and", "all", "nodes", "in", "the", "network", "generate", "one", "packet", "every", "10", "seconds", ".", "Fig.", "13", "shows", "the", "results", ".", "As", "we", "described", ",", "the", "performance", "of", "the", "structure-based", "approaches", "heavily", "depends", "on", "the", "delay", ".", "The", "SPT-D", "performs", "worse", "than", "ToD", "when", "the", "maximum", "delay", "is", "less", "than", "five", "seconds", ",", "and", "the", "performance", "increases", "as", "the", "delay", "increases", ".", "On", "the", "contrary", ",", "the", "performance", "of", "ToD", "and", "DAA", "does", "not", "change", "for", "different", "delays", ",", "which", "is", "different", "from", "results", "observed", "in", "-LSB-", "20", "-RSB-", ".", "We", "believe", "that", "this", "is", "because", "with", "the", "default", "transmission", "power", ",", "a", "large", "number", "of", "nodes", "are", "in", "interference", "range", "when", "nodes", "transmit", ".", "Therefore", "even", "if", "nodes", "do", "not", "delay", "their", "transmissions", ",", "only", "one", "node", "can", "transmit", "at", "any", "given", "time", ".", "Other", "nodes", "will", "be", "forced", "to", "delay", ",", "which", "has", "the", "same", "effect", "as", "the", "Randomized", "Waiting", ".", "5.2", "Large", "Scale", "Simulation", "To", "evaluate", "and", "compare", "the", "performance", "and", "scalability", "of", "ToD", "with", "other", "approaches", "requires", "a", "large", "sensor", "network", ",", "which", "is", "currently", "unavailable", "in", "real", "experiments", ".", "Therefore", "we", "resort", "to", "simulations", ".", "In", "this", "section", "we", "use", "the", "ns2", "network", "simulator", "to", "evaluate", "these", "protocols", ".", "Besides", "ToD", ",", "DAA", ",", "and", "SPT", ",", "we", "evaluate", "OPT", ",", "Optimal", "Aggregation", "Tree", ",", "to", "replace", "the", "SPT-D", "protocol", ".", "In", "OPT", ",", "nodes", "forward", "their", "packets", "on", "an", "aggregation", "tree", "rooted", "at", "the", "center", "of", "the", "event", ".", "Nodes", "know", "where", "to", "forward", "packets", "to", "and", "how", "long", "to", "wait", ".", "The", "tree", "is", "constructed", "in", "advance", "and", "changes", "when", "the", "event", "moves", "assuming", "the", "location", "and", "mobility", "of", "the", "event", "are", "known", ".", "190", "1", "1.2", "1.4", "1.6", "1.8", "2", "2.2", "0", "1", "2", "3", "4", "5", "6", "7", "8", "Normalized", "Number", "of", "Transmissions", "Maximum", "Delay", "-LRB-", "s", "-RRB-", "ToD", "DAA", "SPT", "SPT-D", "Figure", "13", ".", "The", "normalized", "number", "of", "transmissions", "for", "different", "maximum", "delays", "from", "experiments", "on", "105", "sensors", ".", "Ideally", "only", "n", "-", "1", "transmissions", "are", "required", "for", "n", "sources", ".", "This", "is", "the", "lower", "bound", "for", "any", "structure", ",", "therefore", "we", "use", "it", "as", "the", "optimal", "case", ".", "This", "approach", "is", "similar", "to", "the", "aggregation", "tree", "proposed", "in", "-LSB-", "4", "-RSB-", "but", "without", "its", "tree", "construction", "and", "migration", "overhead", ".", "We", "do", "not", "evaluate", "SPT-D", "in", "simulation", "because", "SPT-D", "is", "not", "practical", "in", "the", "large", "scale", "network", ".", "In", "the", "largest", "simulation", "scenario", ",", "the", "network", "is", "a", "58-hop", "network", ".", "According", "to", "the", "simulation", "in", "smaller", "network", ",", "SPT-D", "gets", "best", "performance", "when", "the", "delay", "of", "each", "hop", "is", "about", "0", ".64", "seconds", ".", "This", "makes", "nodes", "closer", "to", "the", "sink", "have", "about", "36", "seconds", "delay", "in", "SPT-D", ",", "which", "is", "not", "advisable", ".", "We", "perform", "simulations", "of", "these", "protocols", "on", "a", "2000m", "1200m", "grid", "network", "with", "35m", "node", "separation", ",", "therefore", "there", "are", "a", "total", "of", "1938", "nodes", "in", "the", "network", ".", "The", "data", "rate", "of", "the", "radio", "is", "38", ".4", "Kbps", "and", "the", "transmission", "range", "of", "the", "nodes", "is", "slightly", "higher", "than", "50m", ".", "An", "event", "moves", "in", "the", "network", "using", "the", "random", "way-point", "mobility", "model", "at", "the", "speed", "of", "10m", "/", "s", "for", "400", "seconds", ".", "The", "event", "size", "is", "400m", "in", "diameter", ".", "The", "nodes", "triggered", "by", "an", "event", "will", "send", "packets", "every", "five", "seconds", "to", "the", "sink", "located", "at", "-LRB-", "0,0", "-RRB-", ".", "The", "aggregation", "function", "evaluated", "here", "is", "perfect", "aggregation", ",", "i.e.", "all", "packets", "can", "be", "aggregated", "into", "one", "packet", "without", "increasing", "the", "packet", "size", ".", "5.3", "Event", "Size", "We", "first", "evaluate", "the", "performance", "for", "these", "protocols", "on", "different", "number", "of", "nodes", "generating", "the", "packets", ".", "This", "simulation", "reflects", "the", "performance", "of", "each", "protocol", "for", "different", "event", "sizes", ".", "We", "study", "the", "performance", "for", "4", "mobility", "scenarios", "and", "show", "the", "average", ",", "maximum", ",", "and", "minimum", "values", "of", "the", "results", ".", "Fig.", "14", "-LRB-", "a", "-RRB-", "shows", "the", "result", "of", "normalized", "number", "of", "transmissions", ".", "ToD", "improves", "the", "performance", "of", "DAA", "and", "SPT", "by", "30", "%", "and", "85", "%", ",", "and", "is", "25", "%", "higher", "than", "OPT", ".", "However", "OPT", "has", "the", "best", "performance", "by", "using", "the", "aggregation", "tree", "that", "keeps", "changing", "when", "event", "moves", "but", "its", "overhead", "is", "not", "considered", "in", "the", "simulation", ".", "SPT", "has", "very", "poor", "performance", "since", "its", "aggregation", "is", "opportunistic", ".", "Except", "the", "SPT", ",", "the", "performance", "of", "all", "other", "protocols", "is", "quite", "steady", ".", "This", "shows", "that", "they", "are", "quite", "scalable", "in", "terms", "of", "the", "event", "size", ".", "Fig.", "14", "-LRB-", "b", "-RRB-", "and", "-LRB-", "c", "-RRB-", "show", "the", "total", "number", "of", "transmissions", "and", "total", "units", "of", "useful", "information", "received", "by", "the", "sink", ".", "As", "observed", "in", "-LSB-", "20", "-RSB-", ",", "DAA", "and", "ToD", "have", "higher", "number", "of", "received", "packets", "than", "OPT", "due", "to", "the", "ability", "of", "structure-less", "aggregation", "to", "aggregate", "packets", "early", "and", "scatter", "them", "away", "from", "each", "other", "to", "reduce", "contention", ".", "ToD", "performs", "better", "than", "DAA", "in", "terms", "of", "the", "normalized", "number", "of", "transmissions", "because", "of", "its", "ability", "to", "aggregate", "packets", "at", "nodes", "closer", "to", "the", "source", ",", "and", "thus", "it", "reduces", "the", "cost", "of", "forwarding", "packets", "from", "sources", "to", "the", "sink", ".", "5.4", "Scalability", "In", "this", "set", "of", "simulations", "we", "evaluate", "the", "scalability", "of", "our", "protocol", "since", "our", "goal", "is", "to", "design", "a", "scalable", "data", "aggregation", "protocol", ".", "If", "a", "protocol", "is", "not", "scalable", ",", "its", "performance", "will", "degrade", "as", "the", "size", "of", "the", "network", "increases", ".", "To", "evaluate", "the", "scalability", "of", "a", "protocol", ",", "we", "limit", "an", "event", "to", "move", "only", "in", "a", "bounded", "region", "at", "a", "certain", "distance", "from", "the", "sink", "to", "simulate", "the", "effect", "of", "different", "network", "sizes", ".", "We", "limit", "an", "event", "to", "move", "within", "a", "400m", "1200m", "rectangle", ",", "and", "change", "the", "distance", "of", "the", "rectangle", "to", "the", "sink", "from", "200m", "to", "1400m", ",", "as", "shown", "in", "Fig.", "15", ".", "In", "order", "to", "be", "fair", "to", "all", "scenarios", ",", "we", "limit", "the", "event", "not", "to", "move", "closer", "than", "200m", "to", "the", "network", "boundary", "such", "that", "the", "number", "of", "nodes", "triggered", "by", "the", "event", "does", "not", "change", "drastically", ".", "2000m", "1200m", "200m", "400m", "200m", "Figure", "15", ".", "The", "simulation", "scenario", "for", "scalability", ".", "The", "event", "is", "limited", "to", "move", "only", "within", "a", "small", "gray", "rectangle", "in", "each", "simulation", ".", "Fig.", "16", "shows", "the", "results", "of", "the", "scalability", "simulation", ".", "The", "performance", "of", "ToD", "and", "OPT", "remains", "steady", ",", "and", "ToD", "is", "22", "%", "higher", "than", "OPT", ".", "This", "shows", "that", "ToD", "is", "quite", "scalable", "as", "its", "performance", "does", "not", "degrade", "as", "the", "size", "of", "the", "network", "increases", ".", "The", "performance", "of", "both", "DAA", "and", "SPT", "degrades", "as", "the", "size", "of", "the", "network", "increases", ".", "The", "normalized", "number", "of", "transmissions", "for", "DAA", "and", "SPT", "doubled", "when", "the", "event", "moves", "from", "the", "closest", "rectangle", "-LRB-", "to", "the", "sink", "-RRB-", "to", "the", "farthest", "rectangle", ".", "Fig.", "16", "-LRB-", "c", "-RRB-", "shows", "the", "number", "of", "packets", "received", "at", "the", "sink", "per", "event", ".", "If", "all", "packets", "can", "be", "aggregated", "near", "the", "event", "and", "forwarded", "to", "the", "sink", ",", "the", "sink", "will", "receive", "only", "one", "packet", ".", "Conversely", ",", "more", "packets", "received", "at", "the", "sink", "shows", "that", "fewer", "aggregations", "happened", "in", "the", "network", ".", "The", "cost", "of", "forwarding", "more", "packets", "to", "the", "sink", "increases", "rapidly", "as", "the", "size", "of", "the", "network", "increases", ".", "We", "can", "see", "that", "in", "both", "DAA", "and", "SPT", "the", "sink", "receives", "many", "packets", ".", "Though", "the", "number", "of", "packets", "received", "at", "the", "sink", "remains", "quite", "steady", ",", "the", "total", "number", "of", "transmissions", "increases", "linearly", "as", "the", "distance", "from", "the", "sources", "to", "the", "sink", "increases", ".", "Ideally", "the", "number", "of", "received", "packets", "at", "sink", "is", "1", ",", "if", "all", "packets", "can", "be", "aggregated", "at", "the", "aggregator", ".", "However", "the", "number", "of", "received", "packets", "at", "sink", "is", "higher", "than", "1", "in", "ToD", "191", "0", "5", "10", "15", "20", "25", "30", "35", "500", "400", "300", "200", "Normalized", "Number", "of", "Transmissions", "Event", "Size", "-LRB-", "m", "-RRB-", "ToD", "DAA", "SPT", "OPT", "0", "10000", "20000", "30000", "40000", "50000", "60000", "70000", "80000", "90000", "100000", "500", "400", "300", "200", "Number", "of", "Total", "Transmissions", "Event", "Size", "-LRB-", "m", "-RRB-", "ToD", "DAA", "SPT", "OPT", "0", "2000", "4000", "6000", "8000", "10000", "12000", "14000", "16000", "500", "400", "300", "200", "Unit", "of", "Received", "Information", "Event", "Size", "-LRB-", "m", "-RRB-", "ToD", "DAA", "SPT", "OPT", "-LRB-", "a", "-RRB-", "Normalized", "number", "of", "transmissions", "-LRB-", "b", "-RRB-", "Number", "of", "transmissions", "-LRB-", "c", "-RRB-", "Unit", "of", "received", "information", "Figure", "14", ".", "The", "simulation", "results", "for", "different", "event", "sizes", ".", "and", "OPT", ".", "This", "is", "because", "the", "delay", "in", "CSMA-based", "MAC", "protocol", "can", "not", "be", "accurately", "predicted", "therefore", "the", "aggregator", "might", "send", "the", "packet", "to", "the", "sink", "before", "all", "packets", "are", "forwarded", "to", "it", ".", "Though", "the", "cost", "of", "forwarding", "the", "unaggregated", "packets", "from", "aggregator", "to", "the", "sink", "in", "ToD", "and", "OPT", "also", "increases", "when", "the", "size", "of", "the", "network", "increases", ",", "the", "increase", "is", "comparably", "smaller", "than", "DAA", "and", "SPT", "because", "few", "packets", "are", "forwarded", "to", "the", "sink", "without", "aggregation", ".", "We", "observe", "that", "the", "number", "of", "received", "packets", "at", "the", "sink", "in", "ToD", "is", "higher", "when", "the", "event", "is", "closer", "to", "the", "sink", ".", "In", "our", "simulation", ",", "nodes", "in", "the", "same", "F-cluster", "as", "the", "sink", "will", "always", "use", "sink", "as", "the", "F-aggregator", "because", "we", "assume", "that", "the", "sink", "is", "wire", "powered", "therefore", "there", "is", "no", "need", "to", "delegate", "the", "role", "of", "aggregator", "to", "other", "nodes", "in", "order", "to", "evenly", "distribute", "the", "energy", "consumption", ".", "5.5", "Cell", "Size", "The", "above", "simulations", "use", "the", "maximum", "size", "of", "an", "event", "as", "the", "cell", "size", ".", "As", "we", "described", "in", "Section", "3.2.2", ",", "this", "ensures", "that", "the", "Dynamic", "Forwarding", "can", "aggregate", "all", "packets", "at", "an", "S-aggregator", ",", "and", "the", "cost", "of", "forwarding", "the", "aggregated", "packets", "to", "the", "sink", "is", "minimized", ".", "However", ",", "large", "cell", "size", "increases", "the", "cost", "of", "aggregating", "packets", "to", "the", "aggregator", "as", "we", "use", "DAA", "as", "the", "aggregation", "technique", "in", "an", "F-cluster", ".", "In", "this", "section", "we", "evaluate", "the", "impact", "of", "the", "size", "of", "a", "cell", "on", "the", "performance", "of", "ToD", ".", "We", "vary", "the", "cell", "size", "from", "50m", "50m", "to", "800m", "800m", "and", "run", "simulations", "for", "three", "different", "event", "sizes", ",", "which", "are", "200m", ",", "400m", ",", "and", "600m", "in", "diameter", ".", "The", "results", "are", "collected", "from", "five", "different", "event", "mobility", "patterns", "and", "shown", "in", "Fig.", "17", ".", "When", "the", "size", "of", "cell", "is", "larger", "than", "the", "event", "size", ",", "the", "performance", "is", "worse", "because", "the", "cost", "of", "aggregating", "packets", "to", "F-aggregator", "increases", ",", "but", "the", "cost", "of", "forwarding", "packets", "from", "S-aggregator", "does", "not", "change", ".", "When", "the", "size", "of", "cell", "is", "too", "small", ",", "the", "cost", "of", "forwarding", "packets", "to", "sink", "increases", "because", "packets", "will", "be", "aggregated", "at", "different", "F-aggregators", "and", "more", "packets", "will", "be", "forwarded", "to", "the", "sink", "without", "further", "aggregation", ".", "In", "general", ",", "when", "the", "size", "of", "the", "F-cluster", "is", "small", "enough", "to", "only", "contain", "one", "node", ",", "or", "when", "the", "size", "of", "the", "F-cluster", "is", "large", "enough", "to", "include", "all", "nodes", "in", "the", "network", ",", "ToD", "just", "downgrades", "to", "DAA", ".", "ToD", "has", "the", "best", "performance", "when", "the", "cell", "size", "is", "100m", "100m", "-LRB-", "F-cluster", "size", "is", "200m", "200m", "-RRB-", "when", "the", "event", "size", "is", "200m", "in", "diameter", ".", "When", "the", "diameter", "of", "an", "event", "is", "400m", "and", "600m", ",", "using", "200m", "200m", "as", "the", "cell", "size", "has", "the", "best", "performance", "-LRB-", "F-cluster", "size", "is", "400m", "400m", "-RRB-", ".", "This", "shows", "that", "the", "ToD", "performance", "can", "be", "further", "optimized", "by", "selecting", "the", "appropriate", "cell", "size", ".", "To", "explore", "the", "relation", "between", "the", "event", "and", "cell", "size", "for", "optimization", "will", "be", "part", "of", "our", "future", "work", ".", "In", "this", "paper", "we", "propose", "a", "semi-structured", "approach", "that", "locally", "uses", "a", "structure-less", "technique", "followed", "by", "Dynamic", "Forwarding", "on", "an", "implicitly", "constructed", "packet", "forwarding", "structure", ",", "ToD", ",", "to", "support", "network", "scalability", ".", "ToD", "avoids", "the", "long", "stretch", "problem", "in", "fixed", "structured", "approaches", "and", "eliminates", "the", "overhead", "of", "construction", "and", "maintenance", "of", "dynamic", "structures", ".", "We", "evaluate", "its", "performance", "using", "real", "experiments", "on", "a", "testbed", "of", "105", "sensor", "nodes", "and", "simulations", "on", "2000", "node", "networks", ".", "Based", "on", "our", "studies", "we", "find", "that", "ToD", "is", "highly", "scalable", "and", "it", "performs", "close", "to", "the", "optimal", "structured", "approach", ".", "Therefore", ",", "it", "is", "very", "suitable", "for", "conserving", "energy", "and", "extending", "the", "lifetime", "of", "large", "scale", "sensor", "networks", ".", "-LSB-", "1", "-RSB-", "W.", "Heinzelman", ",", "A.", "Chandrakasan", ",", "and", "H.", "Balakrishnan", ",", "``", "Energy-Efficient", "Communication", "Protocol", "for", "Wireless", "Microsensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "33rd", "Annual", "Hawaii", "International", "Conference", "on", "System", "Sciences", ",", "vol", ".", "2", ",", "January", "2000", ".", "-LSB-", "2", "-RSB-", "W.", "Heinzelman", ",", "A.", "Chandrakasan", ",", "and", "H.", "Balakrishnan", ",", "``", "An", "Application-Specific", "Protocol", "Architecture", "for", "Wireless", "Microsensor", "Networks", ",", "''", "in", "IEEE", "Transactions", "on", "Wireless", "Communications", ",", "vol", ".", "1", ",", "October", "2002", ",", "pp.", "660", "670", ".", "-LSB-", "3", "-RSB-", "C.", "Intanagonwiwat", ",", "D.", "Estrin", ",", "and", "R.", "Goviindan", ",", "``", "Impact", "of", "Network", "Density", "on", "Data", "Aggregation", "in", "Wireless", "Sensor", "Networks", ",", "''", "in", "Technical", "Report", "01-750", ",", "University", "of", "Southern", "California", ",", "November", "2001", ".", "-LSB-", "4", "-RSB-", "W.", "Zhang", "and", "G.", "Cao", ",", "``", "Optimizing", "Tree", "Reconfiguration", "for", "Mobile", "Target", "Tracking", "in", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "INFOCOM", "2004", ",", "vol", ".", "4", ",", "March", "2004", ",", "pp.", "2434", "2445", ".", "192", "0", "5", "10", "15", "20", "25", "30", "35", "40", "400", "600", "800", "1000", "1200", "1400", "1600", "Normalized", "Number", "of", "Transmissions", "Distance", "to", "the", "Sink", "-LRB-", "m", "-RRB-", "ToD", "DAA", "SPT", "OPT", "0", "2", "4", "6", "8", "10", "400", "600", "800", "1000", "1200", "1400", "1600", "Normalized", "Number", "of", "Transmissions", "Distance", "to", "the", "Sink", "-LRB-", "m", "-RRB-", "ToD", "DAA", "OPT", "0", "5", "10", "15", "20", "400", "600", "800", "1000", "1200", "1400", "1600", "Number", "of", "Received", "Packets", "Distance", "to", "the", "Sink", "-LRB-", "m", "-RRB-", "ToD", "DAA", "SPT", "OPT", "-LRB-", "a", "-RRB-", "Normalized", "number", "of", "transmission", "-LRB-", "b", "-RRB-", "Zoom", "in", "of", "Fig.", "16", "-LRB-", "a", "-RRB-", "-LRB-", "c", "-RRB-", "Number", "of", "received", "packets", "Figure", "16", ".", "The", "simulation", "results", "for", "difference", "distances", "from", "the", "event", "to", "the", "sink", ".", "3", "3.5", "4", "4.5", "5", "5.5", "6", "6.5", "7", "7.5", "8", "100", "200", "300", "400", "500", "600", "700", "800", "Normalized", "Number", "of", "Transmissions", "Cell", "Size", "-LRB-", "m", "-RRB-", "200m", "400m", "600m", "0", "10000", "20000", "30000", "40000", "50000", "60000", "70000", "80000", "90000", "100", "200", "300", "400", "500", "600", "700", "800", "Number", "of", "Total", "Transmissions", "Cell", "Size", "-LRB-", "m", "-RRB-", "200m", "400m", "600m", "0", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "1100", "100", "200", "300", "400", "500", "600", "700", "800", "Number", "of", "Received", "Packets", "Cell", "Size", "-LRB-", "m", "-RRB-", "200m", "400m", "600m", "-LRB-", "a", "-RRB-", "Normalized", "number", "of", "transmissions", "-LRB-", "b", "-RRB-", "Number", "of", "transmissions", "-LRB-", "c", "-RRB-", "Number", "of", "received", "packets", "Figure", "17", ".", "The", "simulation", "results", "for", "difference", "cell", "sizes", ".", "-LSB-", "5", "-RSB-", "W.", "Zhang", "and", "G.", "Cao", ",", "``", "DCTC", ":", "Dynamic", "Convoy", "Tree-based", "Collaboration", "for", "Target", "Tracking", "in", "Sensor", "Networks", ",", "''", "in", "IEEE", "Transactions", "on", "Wireless", "Communications", ",", "vol", ".", "3", ",", "September", "2004", ",", "pp.", "1689", "1701", ".", "-LSB-", "6", "-RSB-", "M.", "Ding", ",", "X.", "Cheng", ",", "and", "G.", "Xue", ",", "``", "Aggregation", "Tree", "Construction", "in", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "58th", "IEEE", "Vehicular", "Technology", "Conference", ",", "vol", ".", "4", ",", "October", "2003", ",", "pp.", "2168", "2172", ".", "-LSB-", "7", "-RSB-", "H.", "Luo", ",", "J.", "Luo", ",", "and", "Y.", "Liu", ",", "``", "Energy", "Efficient", "Routing", "with", "Adaptive", "Data", "Fusion", "in", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "Third", "ACM/SIGMOBILEe", "Workshop", "on", "Foundations", "of", "Mobile", "Computing", ",", "August", "2005", ".", "-LSB-", "8", "-RSB-", "A.", "Goel", "and", "D.", "Estrin", ",", "``", "Simultaneous", "Optimization", "for", "Concave", "Costs", ":", "Single", "Sink", "Aggregation", "or", "Single", "Source", "Buy-at-Bulk", ",", "''", "in", "Proceedings", "of", "the", "14th", "Annual", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", ",", "2003", ".", "-LSB-", "9", "-RSB-", "``", "Networked", "Infomechanical", "Systems", ",", "''", "http://www.cens.ucla.edu", ".", "-LSB-", "10", "-RSB-", "``", "Center", "for", "Embedded", "Networked", "Sensing", "at", "UCLA", ",", "''", "http://www.cens.ucla.edu", ".", "-LSB-", "11", "-RSB-", "J.", "Polastre", ",", "``", "Design", "and", "Implementation", "of", "Wireless", "Sensor", "Networks", "for", "Habitat", "Mon", "itoring", ",", "''", "Master", "'s", "Thesis", ",", "University", "of", "California", "at", "Berkeley", ",", "Spring", "2003", ".", "-LSB-", "12", "-RSB-", "A.", "Mainwaring", ",", "R.", "Szewczyk", ",", "J.", "Anderson", ",", "and", "J.", "Polastre", ",", "``", "Habitat", "Monitoring", "on", "Great", "Duck", "Island", ",", "''", "http://www.greatduckisland.net", ".", "-LSB-", "13", "-RSB-", "A.", "Arora", ",", "P.", "Dutta", ",", "and", "S.", "Bapat", ",", "``", "Line", "in", "the", "Sand", ":", "A", "Wireless", "Sensor", "Network", "for", "Target", "Detection", ",", "Classification", ",", "and", "Tracking", ",", "''", "OSU-CISRC-12", "/", "03-TR71", ",", "2003", ".", "-LSB-", "14", "-RSB-", "``", "ExScal", ",", "''", "http://www.cast.cse.ohio-state.edu/exscal/", ".", "-LSB-", "15", "-RSB-", "S.", "Corporation", ",", "``", "Chemical/Bio", "Defense", "and", "Sensor", "Networks", ",", "''", "http://www.sentel.com/html/chemicalbio.html", ".", "-LSB-", "16", "-RSB-", "E.", "L.", "Lawler", ",", "J.", "K.", "Lenstra", ",", "A.", "H.", "G.", "R.", "Kan", ",", "and", "D.", "B.", "Shmoys", ",", "The", "Traveling", "Salesman", "Problem", ":", "A", "Guided", "Tour", "of", "Combinatorial", "Optimization", ".", "John", "Wiley", "&", "Sons", ",", "1985", ".", "-LSB-", "17", "-RSB-", "R.", "Cristescu", ",", "B.", "Beferull-Lozano", ",", "and", "M.", "Vetterli", ",", "``", "On", "Network", "Correlated", "Data", "Gathering", ",", "''", "in", "Proceedings", "of", "the", "23rd", "Annual", "Joint", "Conference", "of", "the", "IEEE", "Computer", "and", "Communications", "Societies", ",", "vol", ".", "4", ",", "March", "2004", ",", "pp.", "2571", "2582", ".", "-LSB-", "18", "-RSB-", "K.", "W.", "Fan", ",", "S.", "Liu", ",", "and", "P.", "Sinha", ",", "``", "Structure-free", "Data", "Aggregation", "in", "Sensor", "Networks", ",", "''", "in", "OSU-CISRC-4", "/", "06-TR35", ",", "Technical", "Report", ",", "Dept", "of", "CSE", ",", "OSU", ",", "April", "2006", ".", "-LSB-", "19", "-RSB-", "Y.", "Zhu", ",", "K.", "Sundaresan", ",", "and", "R.", "Sivakumar", ",", "``", "Practical", "Limits", "on", "Achievable", "Energy", "Improvements", "and", "193", "Useable", "Delay", "Tolerance", "in", "Correlation", "Aware", "Data", "Gathering", "in", "Wireless", "Sensor", "Networks", ",", "''", "in", "IEEE", "Second", "Annual", "IEEE", "Communications", "Society", "Conference", "on", "Sensor", "and", "Ad", "Hoc", "Communications", "and", "Networks", ",", "September", "2005", ".", "-LSB-", "20", "-RSB-", "K.", "W.", "Fan", ",", "S.", "Liu", ",", "and", "P.", "Sinha", ",", "``", "On", "the", "potential", "of", "Structure-free", "Data", "Aggregation", "in", "Sensor", "Networks", ",", "''", "in", "To", "be", "appear", "in", "Proceedings", "of", "INFOCOM", "2006", ",", "April", "2006", ".", "-LSB-", "21", "-RSB-", "C.", "Intanagonwiwat", ",", "R.", "Govindan", ",", "and", "D.", "Estrin", ",", "``", "Directed", "Diffusion", ":", "A", "Scalable", "and", "Robust", "Communication", "Paradigm", "for", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "6th", "Annual", "International", "Conference", "on", "Mobile", "Computing", "and", "Networking", ",", "August", "2000", ",", "pp.", "56", "67", ".", "-LSB-", "22", "-RSB-", "C.", "Intanagonwiwat", ",", "R.", "Govindan", ",", "D.", "Estrin", ",", "J.", "Heidemann", ",", "and", "F.", "Silva", ",", "``", "Directed", "Diffusion", "for", "Wireless", "Sensor", "Networking", ",", "''", "in", "IEEE/ACM", "Transactions", "on", "Networking", ",", "vol", ".", "11", ",", "February", "2003", ",", "pp.", "2", "16", ".", "-LSB-", "23", "-RSB-", "S.", "Madden", ",", "M.", "J.", "Franklin", ",", "J.", "M.", "Hellerstein", ",", "and", "W.", "Hong", ",", "``", "TAG", ":", "a", "Tiny", "AGgregation", "Service", "for", "Ad-Hoc", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "5th", "symposium", "on", "Operating", "systems", "design", "and", "implementation", ",", "December", "2002", ",", "pp.", "131", "146", ".", "-LSB-", "24", "-RSB-", "S.", "Madden", ",", "R.", "Szewczyk", ",", "M.", "J.", "Franklin", ",", "and", "D.", "Culler", ",", "``", "Supporting", "Aggregate", "Queries", "Over", "Ad-Hoc", "Wireless", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "4th", "IEEE", "Workshop", "on", "Mobile", "Computing", "Systems", "and", "Applications", ",", "June", "2004", ",", "pp.", "49", "58", ".", "-LSB-", "25", "-RSB-", "S.", "Lindsey", ",", "C.", "S.", "Raghavendra", ",", "and", "K.", "M.", "Sivalingam", ",", "``", "Data", "Gathering", "in", "Sensor", "Networks", "using", "the", "Energy", "*", "Delay", "Metric", ",", "''", "in", "Proceedings", "15th", "International", "Parallel", "and", "Distributed", "Processing", "Symposium", ",", "April", "2001", ",", "pp.", "2001", "2008", ".", "-LSB-", "26", "-RSB-", "S.", "Lindsey", "and", "C.", "Raghavendra", ",", "``", "PEGASIS", ":", "Power-efficient", "gathering", "in", "sensor", "information", "systems", ",", "''", "in", "Proceedings", "of", "IEEE", "Aerospace", "Conference", ",", "vol", ".", "3", ",", "March", "2002", ",", "pp.", "1125", "1130", ".", "-LSB-", "27", "-RSB-", "S.", "Lindsey", ",", "C.", "Raghavendra", ",", "and", "K.", "M.", "Sivalingam", ",", "``", "Data", "Gathering", "Algorithms", "in", "Sensor", "Networks", "Using", "Energy", "Metrics", ",", "''", "in", "IEEE", "Transactions", "on", "Parallel", "and", "Distributed", "Systems", ",", "vol", ".", "13", ",", "September", "2002", ",", "pp.", "924", "935", ".", "-LSB-", "28", "-RSB-", "J.", "Wong", ",", "R.", "Jafari", ",", "and", "M.", "Potkonjak", ",", "``", "Gateway", "placement", "for", "latency", "and", "energy", "efficient", "data", "aggregation", ",", "''", "in", "29th", "Annual", "IEEE", "International", "Conference", "on", "Local", "Computer", "Networks", ",", "November", "2004", ",", "pp.", "490", "497", ".", "-LSB-", "29", "-RSB-", "B.", "J.", "Culpepper", ",", "L.", "Dung", ",", "and", "M.", "Moh", ",", "``", "Design", "and", "Analysis", "of", "Hybrid", "Indirect", "Transmissions", "-LRB-", "HIT", "-RRB-", "for", "Data", "Gathering", "in", "Wireless", "Micro", "Sensor", "Networks", ",", "''", "in", "ACM", "SIGMOBILE", "Mobile", "Computing", "and", "Communications", "Review", ",", "vol", ".", "8", ",", "January", "2004", ",", "pp.", "61", "83", ".", "-LSB-", "30", "-RSB-", "H.", "F.", "Salama", ",", "D.", "S.", "Reeves", ",", "and", "Y.", "Viniotis", ",", "``", "Evaluation", "of", "Multicast", "Routing", "Algorithms", "for", "Real-time", "Communication", "on", "High-speed", "Networks", ",", "''", "in", "IEEE", "Journal", "on", "Selected", "Area", "in", "Communications", ",", "vol", ".", "15", ",", "April", "1997", ".", "-LSB-", "31", "-RSB-", "A.", "Scaglione", "and", "S.", "D.", "Servetto", ",", "``", "On", "the", "Interdependence", "of", "Routing", "and", "Data", "Compression", "in", "Multi-Hop", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "8th", "Annual", "International", "Conference", "on", "Mobile", "Computing", "and", "Networking", ",", "September", "2002", ",", "pp.", "140", "147", ".", "-LSB-", "32", "-RSB-", "A.", "Scaglione", ",", "``", "Routing", "and", "Data", "Compression", "in", "Sensor", "Networks", ":", "Stochastic", "Models", "for", "Sensor", "Data", "that", "Guarantee", "Scalability", ",", "''", "in", "Proceedings", "of", "IEEE", "International", "Symposium", "on", "Information", "Theory", ",", "June", "2003", ",", "p.", "174", ".", "-LSB-", "33", "-RSB-", "R.", "Cristescu", "and", "M.", "Vetterli", ",", "``", "Power", "Efficient", "Gathering", "of", "Correlated", "Data", ":", "Optimization", ",", "NP-Completeness", "and", "Heuristics", ",", "''", "in", "Summaries", "of", "MobiHoc", "2003", "posters", ",", "vol", ".", "7", ",", "July", "2003", ",", "pp.", "31", "32", ".", "-LSB-", "34", "-RSB-", "S.", "Pattern", ",", "B.", "Krishnamachari", ",", "and", "R.", "Govindan", ",", "``", "The", "Impact", "of", "Spatial", "Correlation", "on", "Routing", "with", "Compression", "in", "Wireless", "Sensor", "Networks", ",", "''", "in", "Proceedings", "of", "the", "3rd", "International", "Symposium", "on", "Information", "Processing", "in", "Sensor", "Networks", ",", "April", "2004", ",", "pp.", "28", "35", ".", "-LSB-", "35", "-RSB-", "L.", "Cai", "and", "D.", "Corneil", ",", "``", "Tree", "Spanners", ",", "''", "in", "SIAM", "Journal", "of", "Discrete", "Mathematics", ",", "vol", ".", "8", ",", "1995", ".", "-LSB-", "36", "-RSB-", "N.", "Alon", ",", "R.", "M.", "Karp", ",", "D.", "Peleg", ",", "and", "D.", "West", ",", "``", "A", "graph", "theoretic", "game", "and", "its", "application", "to", "the", "k-server", "problem", ",", "''", "in", "SIAM", "Journal", "of", "Computing", ",", "vol", ".", "24", ",", "1995", ".", "-LSB-", "37", "-RSB-", "D.", "Peleg", "and", "D.", "Tendler", ",", "``", "Low", "Stretch", "Spanning", "Trees", "for", "Planar", "Graphs", ",", "''", "in", "Technical", "Report", "MCS01-14", ",", "Mathematics", "&", "Computer", "Sience", ",", "Weizmann", "Institute", "Of", "Sience", ",", "2001", ".", "-LSB-", "38", "-RSB-", "L.", "Jia", ",", "G.", "Noubir", ",", "R.", "Rajaraman", ",", "and", "R.", "Sundaram", ",", "``", "GIST", ":", "Group-Independent", "Spanning", "Tree", "for", "Data", "Aggregation", "in", "Dense", "Sensor", "Networks", ",", "''", "in", "International", "Conference", "on", "Distributed", "Computing", "in", "Sensor", "Systems", ",", "June", "2006", ".", "-LSB-", "39", "-RSB-", "N.", "Bulusu", ",", "J.", "Heidemann", ",", "and", "D.", "Estrin", ",", "``", "GPS-less", "Low", "Cost", "Outdoor", "Localization", "For", "Very", "Small", "Devices", ",", "''", "in", "IEEE", "Personal", "Communications", ",", "Special", "Issue", "on", "``", "Smart", "Spaces", "and", "Environments", "''", ",", "vol", ".", "7", ",", "October", "2000", ".", "-LSB-", "40", "-RSB-", "D.", "Moore", ",", "J.", "Leonard", ",", "D.", "Rus", ",", "and", "S.", "Teller", ",", "``", "Robust", "Distributed", "Network", "Localization", "with", "Noisy", "Range", "Measurements", ",", "''", "in", "Proceedings", "of", "2nd", "ACM", "Sensys", ",", "pp.", "50", "61", ".", "-LSB-", "41", "-RSB-", "Crossbow", ",", "``", "Crossbow", ",", "''", "http://www.xbow.com", ".", "194"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["tod", "data aggregation"], "abstractive_keyphrases": ["structure-free", "anycasting"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "166", "document": ["Real-world", "Oriented", "Information", "Sharing", "Using", "Social", "Networks", "While", "users", "disseminate", "various", "information", "in", "the", "open", "and", "widely", "distributed", "environment", "of", "the", "Semantic", "Web", ",", "determination", "of", "who", "shares", "access", "to", "particular", "information", "is", "at", "the", "center", "of", "looming", "privacy", "concerns", ".", "We", "propose", "a", "real-world", "-", "oriented", "information", "sharing", "system", "that", "uses", "social", "networks", ".", "The", "system", "automatically", "obtains", "users", "'", "social", "relationships", "by", "mining", "various", "external", "sources", ".", "It", "also", "enables", "users", "to", "analyze", "their", "social", "networks", "to", "provide", "awareness", "of", "the", "information", "dissemination", "process", ".", "Users", "can", "determine", "who", "has", "access", "to", "particular", "information", "based", "on", "the", "social", "relationships", "and", "network", "analysis", ".", "H.", "5.3", "-LSB-", "Information", "Interfaces", "AND", "Presentation", "-RSB-", ":", "Group", "and", "Organizational", "Interfaces", "--", "collaborative", "computing", ",", "computer-supported", "cooperative", "work", ",", "web-based", "interaction", "Design", ",", "Human", "Factors", "With", "the", "current", "development", "of", "tools", "and", "sites", "that", "enable", "users", "to", "create", "Web", "content", ",", "users", "have", "become", "able", "to", "easily", "disseminate", "various", "information", ".", "For", "example", ",", "users", "create", "Weblogs", ",", "which", "are", "diary-like", "sites", "that", "include", "various", "public", "and", "private", "information", ".", "Furthermore", ",", "the", "past", "year", "has", "witnessed", "the", "emergence", "of", "social", "networking", "sites", "that", "allow", "users", "to", "maintain", "an", "online", "network", "of", "friends", "or", "associates", "for", "social", "or", "business", "purposes", ".", "Therein", ",", "data", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "GROUP", "'", "05", ",", "November", "6-9", ",", "2005", ",", "Sanibel", "Island", ",", "Florida", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-223-2", "/", "05/0011", "...", "$", "5.00", ".", "related", "to", "millions", "of", "people", "and", "their", "relationships", "are", "publicly", "available", "on", "the", "Web", ".", "Although", "these", "tools", "and", "sites", "enable", "users", "to", "easily", "disseminate", "information", "on", "the", "Web", ",", "users", "sometimes", "have", "difficulty", "in", "sharing", "information", "with", "the", "right", "people", "and", "frequently", "have", "privacy", "concerns", "because", "it", "is", "difficult", "to", "determine", "who", "has", "access", "to", "particular", "information", "on", "such", "applications", ".", "Some", "tools", "and", "applications", "provide", "control", "over", "information", "access", ".", "For", "example", ",", "Friendster", ",", "a", "huge", "social", "networking", "site", ",", "offers", "several", "levels", "of", "control", "from", "``", "public", "information", "''", "to", "``", "only", "for", "friends", "''", ".", "However", ",", "it", "provides", "only", "limited", "support", "for", "access", "control", ".", "An", "appropriate", "information", "sharing", "system", "that", "enables", "all", "users", "to", "control", "the", "dissemination", "of", "their", "information", "is", "needed", "to", "use", "tools", "and", "sites", "such", "as", "Weblog", ",", "Wiki", ",", "and", "social", "networking", "services", "fully", "as", "an", "infrastructure", "of", "disseminating", "and", "sharing", "information", ".", "In", "the", "absence", "of", "such", "a", "system", ",", "a", "user", "would", "feel", "unsafe", "and", "would", "therefore", "be", "discouraged", "from", "disseminating", "information", ".", "How", "can", "we", "realize", "such", "an", "information", "sharing", "system", "on", "the", "Web", "?", "One", "clue", "exists", "in", "the", "information", "sharing", "processes", "of", "the", "real", "world", ".", "Information", "availability", "is", "often", "closely", "guarded", "and", "shared", "only", "with", "the", "people", "of", "one", "'s", "social", "relationships", ".", "Confidential", "project", "documents", "which", "have", "limited", "distribution", "within", "a", "division", "of", "company", ",", "might", "be", "made", "accessible", "to", "other", "colleagues", "who", "are", "concerned", "with", "the", "project", ".", "Private", "family", "photographs", "might", "be", "shared", "not", "only", "with", "relatives", ",", "but", "also", "with", "close", "friends", ".", "A", "professor", "might", "access", "a", "private", "research", "report", "of", "her", "student", ".", "We", "find", "that", "social", "relationships", "play", "an", "important", "role", "in", "the", "process", "of", "disseminating", "and", "receiving", "information", ".", "This", "paper", "presents", "a", "real-world", "oriented", "information", "sharing", "system", "using", "social", "networks", ".", "It", "enables", "users", "to", "control", "the", "information", "dissemination", "process", "within", "social", "networks", ".", "The", "remainder", "of", "this", "paper", "is", "organized", "as", "follows", ":", "section", "2", "describes", "the", "proposed", "information", "sharing", "system", "using", "social", "networks", ".", "In", "section", "3", ",", "we", "describe", "the", "application", "of", "our", "system", ".", "Finally", ",", "we", "conclude", "this", "paper", "in", "section", "4", ".", "Figure", "1", "depicts", "the", "architecture", "of", "the", "proposed", "information", "sharing", "system", ".", "The", "system", "functions", "as", "a", "``", "plug-in", "''", "for", "applications", "so", "that", "external", "applications", "enable", "users", "to", "leverage", "social", "networks", "to", "manage", "their", "information", "dis-81", "Social", "network", "analysis", "Applications", "for", "Information", "Sharing", "e.g.", "Weblog", ",", "Wiki", ",", "CMS", ",", "SNS", "etc", "Contents", "Data", "Access", "control", "List", "Editor", "Access", "control", "Data", "-LRB-", "XACML", "-RRB-", "Social", "networks", "extraction", "Web", "Web", "pages", ",", "SNS", ",", "FOAF", ",", "etc", "Email", "Sensors", "Social", "networks", "Editor", "Social", "networks", "Data", "-LRB-", "FOAF", "-RRB-", "Edit", "social", "networks", "Edit", "access", "control", "list", "Contents", "data", "Access", "to", "contents", "Access", "permission", "User", "data", "Figure", "1", ":", "Architecture", "of", "the", "proposed", "information", "sharing", "system", "Birthplace", ":", "Kagawa", ",", "Japan", "Workplace", ":", "AIST", "Job", ":", "CS", "researcher", "Research", "topics", ":", "Web", "University", ":", "Tokyo", "univ.", ".", "Interest", ":", "Sumo", "wrestling", "...", "person", "Properties", "Birthplace", ":", "Los", "Angels", ",", "US", "Workplace", ":", "Washington", "Univ.", ".", "Job", ":", "CS", "researcher", "Research", "topics", ":", "Web", "University", ":", "UC", "California", "Interest", ":", "Sumo", "wrestling", "...", "person", "Properties", "Birthplace", ":", "Kagawa", ",", "Japan", "Workplace", ":", "AIST", "Job", ":", "CS", "researcher", "Research", "topics", ":", "Web", "University", ":", "Tokyo", "univ.", ".", "Interest", ":", "Sumo", "wrestling", "...", "person", "Properties", "Birthplace", ":", "Los", "Angels", ",", "US", "Workplace", ":", "Washington", "Univ.", ".", "Job", ":", "CS", "researcher", "Research", "topics", ":", "Web", "University", ":", "UC", "California", "Interest", ":", "Sumo", "wrestling", "...", "person", "Properties", "person", "person", "Event", "Participate", "Common", "Event-participation", "relationship", "Common", "property", "relationship", "Figure", "2", ":", "Two", "kinds", "of", "relationships", "semination", ".", "A", "user", "can", "attach", "an", "access", "control", "list", "to", "his", "content", "using", "his", "social", "network", "when", "creating", "content", "on", "an", "application", ".", "Then", ",", "when", "the", "application", "receives", "a", "request", "to", "access", "the", "content", ",", "it", "determines", "whether", "to", "grant", "the", "request", "based", "on", "the", "access", "control", "list", ".", "Because", "users", "determine", "the", "access", "control", "to", "information", "based", "on", "the", "social", "network", ",", "the", "system", "requires", "social", "network", "data", ".", "The", "system", "obtains", "users", "'", "social", "networks", "automatically", "by", "mining", "various", "external", "sources", "such", "as", "Web", ",", "emails", ",", "and", "sensor", "information", ";", "subsequently", ",", "it", "maintains", "a", "database", "of", "the", "social", "network", "information", ".", "Users", "can", "adjust", "the", "network", "if", "necessary", ".", "The", "system", "enables", "users", "to", "analyze", "their", "social", "network", "to", "provide", "awareness", "of", "the", "information", "dissemination", "process", "within", "the", "social", "network", ".", "Using", "social", "relationships", "and", "the", "results", "of", "social", "network", "analyses", ",", "users", "can", "decide", "who", "can", "access", "their", "information", ".", "Currently", ",", "the", "proposed", "system", "is", "applied", "to", "an", "academic", "society", "because", "researchers", "have", "various", "social", "relationships", "-LRB-", "e.g.", ",", "from", "a", "student", "to", "a", "professor", ",", "from", "a", "company", "to", "a", "university", "-RRB-", "through", "their", "activities", "such", "as", "meetings", ",", "projects", ",", "and", "conferences", ".", "Importantly", ",", "they", "often", "need", "to", "share", "various", "information", "such", "as", "papers", ",", "ideas", ",", "reports", ",", "and", "schedules", ".", "Sometimes", ",", "such", "information", "includes", "private", "or", "confidential", "information", "that", "ought", "only", "to", "be", "shared", "with", "appropriate", "people", ".", "In", "addition", ",", "researchers", "have", "an", "interest", "in", "managing", "the", "information", "availability", "of", "their", "social", "relationships", ".", "The", "information", "of", "social", "relationships", "of", "an", "academic", "society", ",", "in", "particular", "computer", "science", ",", "is", "easily", "available", "online", "to", "a", "great", "degree", ".", "Such", "information", "is", "important", "to", "obtain", "social", "networks", "automatically", ".", "Hereafter", ",", "we", "explain", "in", "detail", "how", "social", "networks", "are", "modeled", ",", "extracted", "and", "analyzed", ".", "Then", "we", "explain", "how", "users", "can", "decide", "to", "control", "information", "access", "using", "social", "networks", ".", "2.1", "Representation", "of", "Social", "Relationships", "With", "the", "variety", "of", "social", "relationships", "that", "exist", "in", "the", "real", "world", ",", "a", "salient", "problem", "has", "surfaced", ":", "integration", "and", "consolidation", "on", "a", "semantic", "basis", ".", "The", "representation", "of", "social", "relationships", "must", "be", "sufficiently", "fine-grained", "that", "we", "can", "capture", "all", "details", "from", "individual", "sources", "of", "information", "in", "a", "way", "that", "these", "can", "be", "recombined", "later", "and", "taken", "as", "evidence", "of", "a", "certain", "relationship", ".", "Several", "representations", "of", "social", "relationships", "exist", ".", "For", "example", ",", "social", "network", "sites", "often", "simplify", "the", "relationship", "as", "``", "friend", "''", "or", "``", "acquaintance", "''", ".", "In", "the", "Friend", "of", "a", "Friend", "-LRB-", "FOAF", "-RRB-", "-LSB-", "1", "-RSB-", "vocabulary", ",", "which", "is", "one", "of", "the", "Semantic", "Web", "'s", "largest", "and", "most", "popular", "ontologies", "for", "describing", "people", "and", "whom", "they", "know", ",", "many", "kinds", "of", "relationships", "between", "people", "are", "deliberately", "simplified", "as", "``", "knows", "''", "relations", ".", "A", "rich", "ontological", "consideration", "of", "social", "relationships", "is", "needed", "for", "characterization", "and", "analysis", "of", "individual", "social", "networks", ".", "We", "define", "two", "kinds", "of", "social", "relationship", "-LRB-", "Fig.", "2", "-RRB-", "-LSB-", "7", "-RSB-", ".", "The", "first", "basic", "structure", "of", "social", "relationship", "is", "a", "person", "'s", "participation", "in", "an", "event", ".", "Social", "relationships", "come", "into", "existence", "through", "events", "involving", "two", "or", "more", "individuals", ".", "Such", "events", "might", "not", "require", "personal", "contact", ",", "but", "they", "must", "involve", "social", "interaction", ".", "From", "this", "event", ",", "social", "relationships", "begin", "a", "lifecycle", "of", "their", "own", ",", "during", "which", "the", "characteristics", "of", "the", "relationship", "might", "change", "through", "interaction", "or", "the", "lack", "thereof", ".", "An", "event", "is", "classified", "as", "perdu-rant", "in", "the", "DOLCE", "ontology", "-LSB-", "6", "-RSB-", ",", "which", "is", "a", "popular", "ontology", ".", "For", "example", ",", "an", "event", "might", "be", "a", "meeting", ",", "a", "conference", ",", "a", "baseball", "game", ",", "a", "walk", ",", "etc.", ".", "Assume", "that", "person", "A", "and", "person", "B", "participate", "in", "Event", "X", ".", "In", "that", "situation", ",", "we", "note", "that", "A", "and", "B", "share", "an", "event", "co-participation", "relationship", "under", "event", "X", ".", "A", "social", "relationship", "might", "have", "various", "social", "roles", "asso-ciated", "with", "it", ".", "For", "example", ",", "a", "student-professor", "relationship", "within", "a", "university", "setting", "includes", "an", "individual", "playing", "the", "role", "of", "a", "professor", ";", "another", "individual", "plays", "the", "role", "of", "a", "student", ".", "If", "A", "and", "B", "take", "the", "same", "role", "to", "Event", "X", ",", "they", "are", "in", "a", "same", "role", "relationship", "under", "event", "X", "-LRB-", "e.g.", ",", "students", "at", "a", "class", ",", "colleagues", "in", "a", "workspace", "-RRB-", ".", "If", "A", "can", "not", "take", "over", "B", "'s", "role", "or", "vice", "versa", ",", "A", "and", "B", "are", "in", "a", "role-sharing", "relationship", "-LRB-", "e.g.", ",", "a", "professor", "and", "students", ",", "a", "project", "leader", "and", "staff", "-RRB-", ".", "Another", "kind", "of", "social", "relationship", "is", "called", "a", "common", "property", "relationship", ".", "Sharing", "the", "same", "property", "value", "generates", "a", "common", "property", "relationship", "between", "people", ".", "For", "example", ",", "person", "A", "and", "person", "B", "have", "a", "common", "working", "place", ",", "common", "interests", ",", "and", "common", "experiences", ".", "Consequently", ",", "they", "are", "in", "a", "common", "property", "relationship", "with", "regard", "to", "those", "common", "properties", ".", "2.2", "Extraction", "of", "Social", "Networks", "If", "two", "persons", "are", "in", "either", "an", "event", "co-participation", "relationship", "or", "a", "common", "property", "relationship", ",", "they", "often", "communicate", ".", "The", "communication", "media", "can", "be", "diverse", ":", "82", "Figure", "3", ":", "Editor", "for", "social", "relationships", "Figure", "4", ":", "Editor", "for", "analyzing", "social", "networks", "and", "assigning", "an", "access", "control", "list", "to", "content", "face-to-face", "conversation", ",", "telephone", "call", ",", "email", ",", "chat", ",", "online", "communication", "on", "Weblogs", ",", "and", "so", "on", ".", "If", "we", "wish", "to", "discover", "the", "social", "relationship", "by", "observation", ",", "we", "must", "estimate", "relationships", "from", "superficial", "communication", ".", "The", "emerging", "field", "of", "social", "network", "mining", "provides", "methods", "for", "discovering", "social", "interactions", "and", "networks", "from", "legacy", "sources", "such", "as", "web", "pages", ",", "databases", ",", "mailing", "lists", ",", "and", "personal", "emails", ".", "Currently", ",", "we", "use", "three", "kinds", "of", "information", "sources", "to", "obtain", "social", "relationships", "using", "mining", "techniques", ".", "From", "the", "Web", ",", "we", "extract", "social", "networks", "using", "a", "search", "engine", "and", "the", "co-occurrence", "of", "two", "persons", "'", "names", "on", "the", "Web", ".", "Consequently", ",", "we", "can", "determine", "the", "following", "relationships", "among", "researchers", ":", "Coauthor", ",", "Same", "affiliation", ",", "Same", "project", ",", "Same", "event", "-LRB-", "participants", "of", "the", "same", "conference", ",", "workshop", ",", "etc.", "-RRB-", "-LSB-", "8", "-RSB-", ".", "Coauthor", "and", "Same", "event", "correspond", "to", "an", "event", "co-participation", "relationship", ".", "Same", "affiliation", "and", "same", "project", "correspond", "to", "a", "common", "property", "relationship", ".", "We", "are", "also", "using", "other", "sources", "such", "as", "email", "and", "sensors", "-LRB-", "we", "are", "developing", "a", "device", "that", "detects", "users", "within", "social", "spaces", "such", "as", "parties", "and", "conferences", "-RRB-", "to", "obtain", "social", "relationships", ".", "Necessarily", ",", "the", "quality", "of", "information", "obtained", "by", "mining", "is", "expected", "to", "be", "inferior", "to", "that", "of", "manually", "authored", "profiles", ".", "We", "can", "reuse", "those", "data", "if", "a", "user", "has", "already", "declared", "his", "relationships", "in", "FOAF", "or", "profiles", "of", "social", "networking", "services", ".", "Although", "users", "might", "find", "it", "difficult", "and", "demanding", "to", "record", "social", "relations", ",", "it", "would", "be", "beneficial", "to", "ask", "users", "to", "provide", "information", "to", "obtain", "social", "relationships", ".", "In", "addition", "to", "the", "relationship", "type", ",", "another", "factor", "of", "the", "social", "relationship", "is", "tie", "strength", ".", "Tie", "strength", "itself", "is", "a", "complex", "construct", "of", "several", "characteristics", "of", "social", "relations", ".", "It", "is", "definable", "as", "affective", ",", "frequency", ",", "trust", ",", "comple-mentarity", ",", "etc.", ".", "No", "consensus", "for", "defining", "and", "measuring", "them", "exists", ",", "which", "means", "that", "people", "use", "different", "elicita-tion", "methods", "when", "it", "comes", "to", "determining", "tie", "strength", ".", "For", "example", ",", "Orkut", ",", "a", "huge", "social", "networking", "service", ",", "allows", "description", "of", "the", "strength", "of", "friendship", "relations", "on", "a", "five-point", "scale", "from", "``", "have", "n't", "met", "''", "to", "``", "best", "friend", "''", ",", "whereas", "other", "sites", "might", "choose", "other", "scales", "or", "terms", ".", "In", "our", "system", ",", "we", "use", "trust", "as", "a", "parameter", "of", "tie", "strength", ".", "Trust", "has", "several", "very", "specific", "definitions", ".", "In", "-LSB-", "4", "-RSB-", ",", "Golbeck", "describes", "trust", "as", "credibility", "or", "reliability", "in", "a", "human", "sense", ":", "``", "how", "much", "credence", "should", "I", "give", "to", "what", "this", "person", "speaks", "about", "''", "and", "``", "based", "on", "what", "my", "friends", "say", ",", "how", "much", "should", "I", "trust", "this", "new", "person", "?", "''", "In", "the", "context", "of", "information", "sharing", ",", "trust", "can", "be", "regarded", "as", "reliability", "regarding", "``", "how", "a", "person", "will", "handle", "my", "information", "''", ".", "Users", "can", "give", "trust", "directly", "in", "a", "numerical", "value", "to", "a", "person", "in", "his", "relation", ".", "Alternatively", ",", "trust", "is", "obtainable", "automatically", "as", "authori-tativeness", "of", "each", "person", "using", "the", "social", "network", "-LSB-", "8", "-RSB-", ".", "The", "obtained", "social", "network", "data", "are", "integrated", "as", "extended", "FOAF", "files", "and", "stored", "in", "database", ".", "Users", "can", "adjust", "networks", "if", "needed", "-LRB-", "Fig.", "3", "-RRB-", ".", "The", "social", "relationship", "and", "its", "tie", "strength", "become", "guiding", "principles", "when", "a", "user", "determines", "an", "access", "control", "list", "to", "information", ".", "2.3", "Social", "Network", "Analysis", "for", "Information", "Sharing", "The", "system", "enables", "users", "to", "analyze", "their", "social", "networks", "to", "provide", "awareness", "of", "the", "information", "dissemination", "process", "within", "the", "social", "network", ".", "Social", "network", "analysis", "-LRB-", "SNA", "-RRB-", "is", "distinguishable", "from", "other", "fields", "of", "sociology", "by", "its", "focus", "on", "relationships", "between", "actors", "rather", "than", "attributes", "of", "actors", ",", "a", "network", "view", ",", "and", "a", "belief", "that", "structure", "affects", "substantive", "outcomes", ".", "Because", "an", "actor", "'s", "position", "in", "a", "network", "affects", "information", "dissemination", ",", "SNA", "provides", "an", "important", "implication", "for", "information", "sharing", "on", "the", "social", "network", ".", "For", "example", ",", "occupying", "a", "favored", "position", "means", "that", "the", "actor", "will", "have", "better", "access", "to", "information", ",", "resources", ",", "and", "social", "support", ".", "The", "SNA", "models", "are", "based", "on", "graphs", ",", "with", "graph", "measures", ",", "such", "as", "centrality", ",", "that", "are", "defined", "using", "a", "sociological", "interpretation", "of", "graph", "structure", ".", "Freeman", "proposes", "numerous", "ways", "to", "measure", "centrality", "-LSB-", "2", "-RSB-", ".", "Considering", "a", "social", "network", "of", "actors", ",", "the", "simplest", "measure", "is", "to", "count", "the", "number", "of", "others", "with", "whom", "an", "actor", "maintains", "relations", ".", "The", "actor", "with", "the", "most", "connections", ",", "the", "highest", "degree", ",", "is", "most", "central", ".", "This", "measure", "is", "called", "degreeness", ".", "Another", "measure", "is", "closeness", ",", "which", "calculates", "the", "distance", "from", "each", "actor", "in", "the", "network", "to", "every", "other", "actor", "based", "on", "connections", "among", "all", "network", "members", ".", "Central", "actors", "are", "closer", "to", "all", "others", "than", "are", "other", "actors", ".", "A", "third", "measure", "is", "betweenness", ",", "which", "examines", "the", "extent", "to", "which", "an", "actor", "is", "situated", "among", "others", "in", "the", "network", ",", "the", "extent", "to", "which", "83", "Figure", "5", ":", "Web", "site", "for", "sharing", "research", "information", "information", "must", "pass", "through", "them", "to", "get", "to", "others", ",", "and", "consequently", ",", "the", "extent", "to", "which", "they", "are", "exposed", "to", "information", "circulation", "within", "the", "network", ".", "If", "the", "betweenness", "of", "an", "actor", "is", "high", ",", "it", "frequently", "acts", "as", "a", "local", "bridge", "that", "connects", "the", "individual", "to", "other", "actors", "outside", "a", "group", ".", "In", "terms", "of", "network", "ties", ",", "this", "kind", "of", "bridge", "is", "well", "known", "as", "Granovetter", "'s", "``", "weak", "tie", "''", "-LSB-", "5", "-RSB-", ",", "which", "contrasts", "with", "``", "strong", "tie", "''", "within", "a", "densely-closed", "group", ".", "As", "the", "weak", "tie", "becomes", "a", "bridge", "between", "different", "groups", ",", "a", "large", "community", "often", "breaks", "up", "to", "a", "set", "of", "closely", "knit", "group", "of", "individuals", ",", "woven", "together", "more", "loosely", "according", "to", "occasional", "interaction", "among", "groups", ".", "Based", "on", "this", "theory", ",", "social", "network", "analysis", "offers", "a", "number", "of", "clustering", "algorithms", "for", "identifying", "communities", "based", "on", "network", "data", ".", "The", "system", "provides", "users", "with", "these", "network", "analyses", "-LRB-", "Fig.", "4", "-RRB-", "so", "that", "they", "can", "decide", "who", "can", "access", "their", "information", ".", "For", "example", ",", "if", "user", "wants", "to", "diffuse", "her", "information", ",", "she", "might", "consider", "granting", "access", "to", "a", "person", "-LRB-", "with", "certain", "trust", "-RRB-", "who", "has", "both", "high", "degreeness", "and", "betweenness", ".", "On", "the", "other", "hand", ",", "she", "must", "be", "aware", "of", "betweenness", "when", "the", "information", "is", "private", "or", "confidential", ".", "Clustering", "is", "useful", "when", "a", "user", "wishes", "to", "share", "information", "within", "a", "certain", "group", ".", "To", "demonstrate", "and", "evaluate", "our", "system", ",", "we", "developed", "a", "community", "site", "-LRB-", "Fig.", "5", "-RRB-", "using", "communication", "tools", "such", "as", "Weblogs", ",", "Wikis", ",", "and", "Forums", ".", "By", "that", "system", ",", "studies", "from", "different", "organizations", "and", "projects", "can", "be", "disseminated", "and", "their", "information", "thereby", "shared", ".", "Users", "can", "share", "various", "information", "such", "as", "papers", ",", "ideas", ",", "reports", ",", "and", "schedules", "at", "the", "site", ".", "Our", "system", "is", "integrated", "into", "a", "site", "that", "provides", "access", "control", "to", "that", "information", ".", "Integrating", "our", "system", "takes", "advantage", "of", "the", "open", "and", "information", "nature", "of", "the", "communication", "tools", ".", "It", "also", "maintains", "the", "privacy", "of", "the", "content", "and", "activities", "of", "those", "applications", ".", "Users", "can", "manage", "their", "social", "networks", "-LRB-", "Fig.", "3", "-RRB-", "and", "attach", "the", "access", "control", "list", "to", "their", "content", "-LRB-", "e.g.", ",", "Blog", "entries", ",", "profiles", ",", "and", "Wiki", "pages", "-RRB-", "using", "extracted", "social", "relationships", "and", "social", "network", "analysis", "-LRB-", "Fig.", "4", "-RRB-", ".", "Once", "a", "user", "determines", "the", "access", "control", "list", ",", "she", "can", "save", "it", "as", "her", "information", "access", "policy", "for", "corresponding", "content", ".", "The", "access", "policy", "is", "described", "using", "extended", "eXtensible", "Access", "Control", "Markup", "Language", "-LRB-", "XACML", "-RRB-", "and", "is", "stored", "in", "a", "database", ".", "She", "can", "reuse", "and", "modify", "the", "previous", "policy", "if", "she", "subsequently", "creates", "a", "similar", "content", ".", "One", "feature", "of", "our", "system", "is", "that", "it", "is", "easily", "adaptable", "to", "new", "applications", "because", "of", "its", "plug-and-play", "design", ".", "We", "are", "planning", "to", "integrate", "it", "into", "various", "Web", "sites", "and", "applications", "such", "as", "social", "network", "sites", "and", "RSS", "readers", ".", "Goecks", "and", "Mynatt", "propose", "a", "Saori", "infrastructure", "that", "also", "uses", "social", "networks", "for", "information", "sharing", "-LSB-", "3", "-RSB-", ".", "They", "obtain", "social", "networks", "from", "users", "'", "email", "messages", "and", "provide", "sharing", "policies", "based", "on", "the", "type", "of", "information", ".", "We", "obtain", "social", "networks", "from", "various", "sources", "and", "integrate", "them", "into", "FOAF", "files", ".", "This", "facilitates", "the", "importation", "and", "maintenance", "of", "social", "network", "data", ".", "Another", "feature", "is", "that", "our", "system", "enables", "users", "to", "analyze", "their", "social", "networks", ".", "Thereby", ",", "users", "can", "control", "information", "dissemination", "more", "effectively", "and", "flexibly", "than", "through", "the", "use", "of", "pre-defined", "policies", ".", "As", "users", "increasingly", "disseminate", "their", "information", "on", "the", "Web", ",", "privacy", "concerns", "demand", "that", "access", "to", "particular", "information", "be", "limited", ".", "We", "propose", "a", "real-world", "oriented", "information", "sharing", "system", "using", "social", "networks", ".", "It", "enables", "users", "to", "control", "the", "information", "dissemination", "process", "within", "social", "networks", ",", "just", "as", "they", "are", "in", "the", "real", "world", ".", "Future", "studies", "will", "evaluate", "the", "system", "with", "regard", "to", "how", "it", "contributes", "to", "wider", "and", "safer", "information", "sharing", "than", "it", "would", "otherwise", ".", "We", "will", "also", "develop", "a", "distributed", "system", "that", "can", "be", "used", "fully", "on", "the", "current", "Web", ".", "-LSB-", "1", "-RSB-", "D.", "Brickley", "and", "L.", "Miller", ".", "FOAF", ":", "the", "`", "friend", "of", "a", "friend", "'", "vocabulary", ".", "http://xmlns", ".", "com/foaf/0", ".1", "/", ",", "2004", ".", "-LSB-", "2", "-RSB-", "L.", "C.", "Freeman", ".", "Centrality", "in", "social", "networks", ":", "Conceptual", "clarification", ",", "Social", "Networks", ",", "Vol", ".1", ",", "pp.", "215", "239", ",", "1979", ".", "-LSB-", "3", "-RSB-", "J.", "Goecks", "and", "E.", "D.", "Mynatt", ".", "Leveraging", "Social", "Networks", "for", "Information", "Sharing", "In", "Proc", ".", "of", "CSCW", "'", "04", ",", "2004", ".", "-LSB-", "4", "-RSB-", "J.", "Golbeck", ",", "J.", "Hendler", ",", "and", "B.", "Parsia", ".", "Trust", "networks", "on", "the", "semantic", "web", ",", "in", "Proc", ".", "WWW", "2003", ",", "2003", ".", "-LSB-", "5", "-RSB-", "M.", "Granovetter", ".", "Strength", "of", "weak", "ties", ",", "American", "Journal", "of", "Sociology", ",", "Vol", ".18", ",", "pp.", "1360", "1380", ",", "1973", ".", "-LSB-", "6", "-RSB-", "C.", "Masolo", ",", "S.", "Borgo", ",", "A.", "Gangemi", ",", "N.", "Guarinno", ",", "and", "A.", "Oltramari", ".", "WonderWeb", "Deliverable", "D18", ",", "http://wonderweb.semanticweb.org/deliverable/D18.shtml", "-LSB-", "7", "-RSB-", "Y.", "Matsuo", ",", "M.", "Hamasaki", ",", "J.", "Mori", ",", "H.", "Takeda", "and", "K.", "Hasida", ".", "Ontological", "Consideration", "on", "Human", "Relationship", "Vocabulary", "for", "FOAF", ".", "In", "Proc", ".", "of", "the", "1st", "Workshop", "on", "Friend", "of", "a", "Friend", ",", "Social", "Networking", "and", "Semantic", "Web", ",", "2004", ".", "-LSB-", "8", "-RSB-", "Y.", "Matsuo", ",", "H.", "Tomobe", ",", "K.", "Hasida", ",", "M.", "Ishiz", "uka", ".", "Finding", "Social", "Network", "for", "Trust", "Calculation", ".", "In", "Proc", ".", "of", "16th", "European", "Conference", "on", "Artificial", "Intelligence", ",", "2004", ".", "84"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["social network", "information sharing"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "140", "document": ["Modeling", "Node", "Compromise", "Spread", "in", "Wireless", "Sensor", "Networks", "Using", "Epidemic", "Theory", "Motivated", "by", "recent", "surfacing", "viruses", "that", "can", "spread", "over", "the", "air", "interfaces", ",", "in", "this", "paper", ",", "we", "investigate", "the", "potential", "disastrous", "threat", "of", "node", "compromise", "spreading", "in", "wireless", "sensor", "networks", ".", "Originating", "from", "a", "single", "infected", "node", ",", "we", "assume", "such", "a", "compromise", "can", "propagate", "to", "other", "sensor", "nodes", "via", "communication", "and", "preestablished", "mutual", "trust", ".", "We", "focus", "on", "the", "possible", "epidemic", "breakout", "of", "such", "propagations", "where", "the", "whole", "network", "may", "fall", "victim", "to", "the", "attack", ".", "Based", "on", "epidemic", "theory", ",", "we", "model", "and", "analyze", "this", "spreading", "process", "and", "identify", "key", "factors", "determining", "potential", "outbreaks", ".", "In", "particular", ",", "we", "perform", "our", "study", "on", "random", "graphs", "precisely", "constructed", "according", "to", "the", "parameters", "of", "the", "network", ",", "such", "as", "distance", ",", "key", "sharing", "constrained", "communication", "and", "node", "recovery", ",", "thereby", "reflecting", "the", "true", "characteristics", "therein", ".", "The", "analytical", "results", "provide", "deep", "insights", "in", "designing", "potential", "defense", "strategies", "against", "this", "threat", ".", "Furthermore", ",", "through", "extensive", "simulations", ",", "we", "validate", "our", "model", "and", "perform", "investigations", "on", "the", "system", "dynamics", ".", "Index", "Terms", "--", "Sensor", "Networks", ",", "Epidemiology", ",", "Random", "Key", "Predistribution", ",", "Random", "Graph", ".", "As", "wireless", "sensor", "networks", "are", "unfolding", "their", "vast", "potential", "in", "a", "plethora", "of", "application", "environments", "-LSB-", "1", "-RSB-", ",", "security", "still", "remains", "one", "of", "the", "most", "critical", "challenges", "yet", "to", "be", "fully", "addressed", ".", "In", "particular", ",", "a", "vital", "problem", "in", "the", "highly", "distributed", "and", "resource", "constrained", "environment", "is", "node", "compromise", ",", "where", "a", "sensor", "node", "can", "be", "completely", "captured", "and", "manipulated", "by", "the", "adversary", ".", "While", "extensive", "work", "has", "focused", "on", "designing", "schemes", "that", "can", "either", "defend", "and", "delay", "node", "capture", "or", "timely", "identify", "and", "revoke", "compromised", "nodes", "themselves", "-LSB-", "5", "-RSB-", ",", "little", "attention", "has", "been", "paid", "to", "the", "node", "compromise", "process", "itself", ".", "Inspired", "by", "recently", "emerged", "viruses", "that", "can", "spread", "over", "air", "interfaces", ",", "we", "identify", "in", "this", "paper", "the", "threat", "of", "epidemic", "spreading", "of", "node", "compromises", "in", "large", "scale", "wireless", "sensor", "networks", "and", "present", "a", "model", "that", "captures", "the", "unique", "characteristic", "of", "wireless", "sensor", "networks", "in", "conjunction", "with", "pairwise", "key", "schemes", ".", "In", "particular", ",", "we", "identify", "the", "key", "factors", "determining", "the", "potential", "epidemic", "outbreaks", "that", "in", "turn", "can", "be", "employed", "to", "devise", "corresponding", "defense", "strategies", ".", "A.", "Motivation", "Due", "to", "its", "scarce", "resources", "and", "hence", "low", "defense", "capabilities", ",", "node", "compromises", "can", "be", "expected", "to", "be", "common", "phenomena", "for", "wireless", "sensor", "networks", "in", "unattended", "and", "hostile", "environments", ".", "While", "extensive", "research", "efforts", ",", "including", "those", "from", "ourselves", "-LSB-", "15", "-RSB-", ",", "have", "been", "engineered", "toward", "designing", "resilient", "network", "security", "mechanisms", "-LSB-", "12", "-RSB-", ",", "-LSB-", "13", "-RSB-", ",", "the", "compromise", "itself", "and", "in", "particular", "the", "propagation", "of", "node", "compromise", "-LRB-", "possible", "epidemics", "-RRB-", "have", "attracted", "little", "attention", ".", "While", "node", "compromise", ",", "thanks", "to", "physical", "capture", "and", "succeeding", "analysis", ",", "is", "naturally", "constrained", "by", "the", "adver-sary", "'s", "capability", ",", "software", "originated", "compromises", "can", "be", "much", "more", "damaging", ".", "Specifically", ",", "the", "recently", "surfaced", "virus", "Cabir", "1", "that", "can", "spread", "over", "the", "air", "interface", "has", "unveiled", "a", "disastrous", "threat", "for", "wireless", "sensor", "networks", ".", "Inescapably", ",", "viruses", "targeting", "wireless", "sensor", "networks", "will", "emerge", ".", "Consequently", ",", "node", "compromise", "by", "way", "of", "virus", "spreading", "-LRB-", "over", "the", "air", "interface", "-RRB-", "can", "effortlessly", "devastate", "the", "entire", "network", "in", "a", "short", "period", "of", "time", ".", "With", "recent", "advancements", "on", "sensor", "design", "empowering", "nodes", "such", "as", "MICA2", "motes", "with", "over-the-air", "programmability", ",", "the", "network", "becomes", "vulnerable", "to", "the", "above", "described", "attack", ".", "Even", "worse", ",", "the", "inherent", "dense", ",", "large", "scale", "nature", "of", "sensor", "networks", "undoubtedly", "further", "facilitates", "the", "virus", "propagation", ".", "While", "virus", "spreading", "over", "the", "internet", "has", "been", "widely", "studied", ",", "and", "notably", "by", "means", "of", "epidemic", "theory", "-LSB-", "2", "-RSB-", ",", "-LSB-", "3", "-RSB-", ",", "the", "distance", "and", "pairwise", "key", "restricted", "communication", "pattern", "in", "wireless", "sensor", "networks", "uniquely", "distinguish", "the", "phenomena", "from", "those", "on", "the", "Internet", ".", "B", ".", "Our", "Contribution", "In", "this", "paper", ",", "we", "investigate", "the", "spreading", "process", "of", "node", "compromise", "in", "large", "scale", "wireless", "sensor", "networks", ".", "1", "http://www.f-secure.com/v-descs/cabir.shtml", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "Starting", "from", "a", "single", "point", "of", "failure", ",", "we", "assume", "that", "the", "adversary", "can", "effectively", "compromise", "neighboring", "nodes", "through", "wireless", "communication", "and", "thus", "can", "threat", "the", "whole", "network", "without", "engaging", "in", "full", "scale", "physical", "attacks", ".", "In", "particular", ",", "due", "to", "security", "schemes", "employed", "by", "the", "sensor", "networks", ",", "we", "assume", "that", "communication", "can", "only", "be", "performed", "when", "neighboring", "nodes", "can", "establish", "mutual", "trust", "by", "authenticating", "a", "common", "key", ".", "Therefore", ",", "node", "compromise", "is", "not", "only", "determined", "by", "the", "deployment", "of", "sensor", "nodes", "which", "in", "turn", "affects", "node", "density", ",", "but", "also", "determined", "by", "the", "pairwise", "key", "scheme", "employed", "therein", ".", "By", "incorporating", "these", "factors", "of", "the", "networks", ",", "we", "propose", "an", "epidemiological", "model", "to", "investigate", "the", "probability", "of", "a", "breakout", "-LRB-", "compromise", "of", "the", "whole", "network", "-RRB-", "and", "if", "not", ",", "the", "sizes", "of", "the", "affected", "components", "-LRB-", "compromised", "clusters", "of", "nodes", "-RRB-", ".", "Furthermore", ",", "we", "analyze", "the", "effect", "of", "node", "recovery", "in", "an", "active", "infection", "scenario", "and", "obtain", "critical", "values", "for", "these", "parameters", "that", "result", "in", "an", "outbreak", ".", "Through", "extensive", "simulations", ",", "we", "show", "that", "our", "analytical", "results", "can", "closely", "capture", "the", "effects", "in", "a", "wide", "range", "of", "network", "setups", ".", "The", "remainder", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "II", "we", "present", "the", "preliminaries", ",", "including", "the", "threat", "model", ",", "random", "key", "pre-distribution", ",", "and", "epidemic", "theory", ".", "In", "Section", "III", ",", "we", "study", "the", "compromise", "propagation", "without", "node", "recovery", "and", "with", "node", "recovery", ",", "and", "detail", "our", "analytical", "results", ".", "We", "perform", "experimental", "study", "in", "Section", "IV", ".", "Related", "work", "is", "presented", "in", "Section", "V", "and", "we", "conclude", "in", "Section", "VI", ".", "In", "this", "section", ",", "we", "present", "our", "threat", "model", "and", "briefly", "overview", "pairwise", "key", "distribution", "in", "wireless", "sensor", "networks", "and", "epidemic", "theory", ".", "A.", "Threat", "model", "We", "assume", "that", "a", "compromised", "node", ",", "by", "directly", "communicating", "with", "a", "susceptible", "node", ",", "can", "spread", "the", "infection", "and", "conduce", "to", "the", "compromise", "of", "the", "susceptible", "node", ".", "Communication", "among", "sensor", "nodes", "is", "not", "only", "constrained", "by", "their", "distances", ",", "but", "also", "shall", "be", "secured", "and", "thus", "determined", "by", "the", "probability", "of", "pairwise", "key", "sharing", ".", "Therefore", ",", "the", "spreading", "of", "node", "compromise", "is", "dependent", "on", "the", "network", "deployment", "strategy", "and", "the", "pairwise", "key", "scheme", "employed", "therein", ".", "We", "assume", "that", "the", "``", "seed", "''", "compromise", "node", "could", "be", "originated", "by", "an", "adversary", "through", "physical", "capture", "and", "analysis", "of", "that", "node", "or", "by", "other", "similar", "means", ".", "The", "spread", "of", "node", "compromise", "in", "a", "wireless", "sensor", "network", ",", "particularly", "thanks", "to", "its", "dense", "nature", ",", "can", "lead", "to", "an", "epidemic", "effect", "where", "the", "whole", "network", "will", "get", "infected", ".", "We", "consider", "this", "epidemic", "effect", "as", "the", "key", "threat", "to", "the", "network", "and", "hence", "the", "investigation", "target", "of", "this", "paper", ".", "B.", "Pairwise", "Key", "Pre-distribution", "As", "the", "pairwise", "key", "scheme", "affects", "the", "communication", "and", "hence", "the", "propagation", "of", "the", "node", "compromise", ",", "we", "provide", "below", ",", "a", "brief", "overview", "of", "the", "key", "distribution", "schemes", "in", "wireless", "sensor", "networks", ".", "Due", "to", "the", "severe", "resource", "constraint", "of", "wireless", "sensor", "networks", "and", "limited", "networking", "bandwidth", ",", "proposed", "pairwise", "key", "schemes", "have", "commonly", "adopted", "the", "predistribution", "approach", "instead", "of", "online", "key", "management", "schemes", "with", "prohibitive", "resource", "consumption", ".", "The", "concept", "of", "pre-distribution", "was", "originated", "from", "-LSB-", "11", "-RSB-", ",", "where", "the", "authors", "propose", "to", "assign", "a", "number", "of", "keys", ",", "termed", "key", "ring", "randomly", "drawn", "from", "a", "key", "pool", ".", "If", "two", "neighboring", "nodes", "share", "a", "common", "key", "on", "their", "key", "rings", ",", "a", "shared", "pairwise", "key", "exists", "and", "a", "secure", "communication", "can", "be", "established", ".", "Pre-distribution", "schemes", "that", "rely", "on", "bivariate", "polynomials", "is", "discussed", "in", "-LSB-", "13", "-RSB-", ".", "In", "this", "scheme", ",", "each", "sensor", "node", "is", "pre-distributed", "a", "set", "of", "polynomials", ".", "Two", "sensor", "nodes", "with", "the", "same", "polynomials", "can", "respectively", "derive", "the", "same", "key", ".", "Regardless", "of", "the", "specific", "key", "distribution", "scheme", ",", "a", "common", "parameter", "capturing", "the", "performance", "is", "the", "probability", "that", "two", "neighbors", "can", "directly", "establish", "a", "secure", "communication", ".", "We", "denote", "this", "probability", "by", "q", ".", "As", "it", "shall", "be", "revealed", "later", ",", "q", "plays", "an", "important", "role", "in", "the", "spreading", "of", "node", "compromise", ",", "because", "direct", "communication", ",", "as", "explained", "in", "the", "threat", "model", ",", "can", "result", "in", "propagation", "of", "malicious", "code", ".", "C.", "Node", "Recovery", "In", "the", "event", "that", "a", "node", "is", "compromised", ",", "its", "secrets", "will", "be", "revealed", "to", "the", "attacker", ".", "The", "network", "may", "attempt", "to", "recover", "the", "particular", "node", ".", "Recovery", "might", "be", "realized", "in", "several", "possible", "ways", ".", "For", "example", ",", "the", "keys", "of", "the", "nodes", "might", "be", "revoked", "and", "the", "node", "may", "be", "given", "a", "fresh", "set", "of", "secret", "keys", ".", "In", "this", "context", ",", "key", "revocation", ",", "which", "refers", "to", "the", "task", "of", "securely", "removing", "keys", "that", "are", "known", "to", "be", "compromised", ",", "has", "been", "investigated", "as", "part", "of", "the", "key", "management", "schemes", ",", "for", "example", "in", "-LSB-", "5", "-RSB-", ".", "Moreover", ",", "recovery", "can", "also", "be", "achieved", "by", "simply", "removing", "the", "compromised", "node", "from", "the", "network", ",", "for", "example", "by", "announcing", "a", "blacklist", ",", "or", "simply", "reload", "the", "node", "'s", "programs", ".", "More", "sophisticated", "methods", "may", "include", "immunizing", "a", "node", "with", "an", "appropriate", "antivirus", "patch", "that", "might", "render", "the", "node", "immune", "from", "the", "same", "virus", "attack", ".", "Regardless", ",", "in", "our", "analysis", ",", "we", "will", "study", "virus", "spreading", "under", "the", "two", "cases", "respectively", "depending", "on", "whether", "a", "node", "can", "be", "recovered", "or", "not", ".", "D.", "Epidemic", "Theory", "Originally", ",", "epidemic", "theory", "concerns", "about", "contagious", "diseases", "spreading", "in", "the", "human", "society", ".", "The", "key", "feature", "of", "epidemiology", "-LSB-", "2", "-RSB-", ",", "-LSB-", "7", "-RSB-", "is", "the", "measurement", "of", "infection", "outcomes", "in", "relation", "to", "a", "population", "at", "risk", ".", "The", "population", "at", "risk", "basically", "comprises", "of", "the", "set", "of", "people", "who", "possess", "a", "susceptibility", "factor", "with", "respect", "to", "the", "infection", ".", "This", "factor", "is", "dependent", "on", "several", "parameters", "including", "exposure", ",", "spreading", "rate", ",", "previous", "frequency", "of", "occurrence", "etc.", ",", "which", "define", "the", "potential", "of", "the", "disease", "causing", "the", "infection", ".", "Example", "models", "characterizing", "the", "infection", "spreading", "process", "include", "the", "Susceptible", "Infected", "Susceptible", "-LRB-", "SIS", "-RRB-", "Model", ",", "Susceptible", "Infected", "Recovered", "-LRB-", "SIR", "-RRB-", "Model", "etc.", ".", "In", "the", "former", ",", "a", "susceptible", "individual", "acquires", "infection", "and", "then", "after", "an", "infectious", "period", ",", "-LRB-", "i.e.", ",", "the", "time", "2", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "the", "infection", "persists", "-RRB-", ",", "the", "individual", "becomes", "susceptible", "again", ".", "On", "the", "other", "hand", ",", "in", "the", "latter", ",", "the", "individual", "recovers", "and", "becomes", "immune", "to", "further", "infections", ".", "Of", "particular", "interest", "is", "the", "phase", "transition", "of", "the", "spreading", "process", "that", "is", "dependent", "on", "an", "epidemic", "threshold", ":", "if", "the", "epidemic", "parameter", "is", "above", "the", "threshold", ",", "the", "infection", "will", "spread", "out", "and", "become", "persistent", ";", "on", "the", "contrary", ",", "if", "the", "parameter", "is", "below", "the", "threshold", ",", "the", "virus", "will", "die", "out", ".", "Epidemic", "theory", "indeed", "has", "been", "borrowed", "to", "the", "networking", "field", "to", "investigate", "virus", "spreading", ".", "In", "this", "paper", ",", "we", "will", "mainly", "rely", "on", "a", "random", "graph", "model", "to", "characterize", "the", "unique", "connectivity", "of", "the", "sensor", "network", "and", "perform", "the", "epidemic", "study", "-LSB-", "8", "-RSB-", ",", "-LSB-", "10", "-RSB-", ".", "In", "this", "section", ",", "we", "analyze", "the", "propagation", "of", "node", "compromise", "originating", "from", "a", "single", "node", "that", "has", "been", "affected", ".", "Our", "focus", "is", "to", "study", "the", "outbreak", "point", "of", "the", "epidemic", "effect", "where", "the", "whole", "network", "will", "fall", "victim", "to", "the", "compromise", "procedure", ".", "Our", "key", "method", "is", "to", "characterize", "the", "sensor", "network", ",", "including", "its", "key", "distribution", ",", "by", "mathematically", "formulating", "it", "as", "a", "random", "graph", "whose", "key", "parameters", "are", "precisely", "determined", "by", "those", "of", "the", "sensor", "network", ".", "Therefore", ",", "the", "investigation", "of", "epidemic", "phenomena", "can", "be", "performed", "on", "the", "random", "graph", "instead", ".", "Following", "this", "approach", ",", "we", "observe", "the", "epidemic", "process", "under", "two", "scenarios", ":", "without", "node", "recovery", "and", "with", "node", "recovery", ",", "depending", "on", "whether", "infected", "nodes", "will", "be", "recovered", "by", "external", "measures", "like", "key", "revocation", ",", "immunization", ",", "etc.", ".", "A.", "Network", "Model", "as", "Random", "Graph", "Assume", "that", "sensor", "nodes", "are", "uniformly", "deployed", "in", "a", "disc", "area", "with", "radius", "R.", "Let", "=", "N", "R", "2", "denote", "the", "node", "density", "of", "the", "network", "where", "N", "is", "the", "total", "number", "of", "the", "nodes", ".", "For", "a", "sensor", "node", "with", "communication", "range", "r", ",", "the", "probability", "that", "l", "nodes", "are", "within", "its", "communication", "range", "is", "given", "by", "p", "-LRB-", "l", "-RRB-", "=", "nl", "p", "l", "-LRB-", "1", "-", "p", "-RRB-", "n-l", "-LRB-", "1", "-RRB-", "where", "p", "is", "defined", "by", "p", "=", "r", "2", "R", "2", "=", "r", "2", "N", ".", "-LRB-", "2", "-RRB-", "Thus", "p", "is", "the", "probability", "of", "a", "link", "existing", "at", "the", "physical", "level", ",", "i.e.", ",", "whether", "the", "two", "nodes", "fall", "within", "their", "respective", "communication", "ranges", ".", "We", "further", "assume", "that", "the", "probability", "that", "two", "neighboring", "nodes", "sharing", "at", "least", "one", "key", "in", "the", "random", "predistribution", "pairwise", "key", "is", "q.", "Notice", "that", "q", "is", "determined", "by", "the", "specific", "pairwise", "key", "scheme", "employed", ".", "For", "a", "particular", "node", "having", "l", "neighboring", "nodes", ",", "the", "probability", "that", "there", "are", "k", "nodes", ",", "k", "l", ",", "sharing", "at", "least", "one", "key", "with", "it", "is", "given", "by", "p", "-LRB-", "k", "|", "l", "-RRB-", "=", "lk", "q", "k", "-LRB-", "1", "-", "q", "-RRB-", "l-k", "-LRB-", "3", "-RRB-", "Therefore", ",", "the", "probability", "of", "having", "k", "neighboring", "nodes", "sharing", "at", "least", "one", "key", "is", "p", "-LRB-", "k", "-RRB-", "=", "l", "=", "k", "p", "-LRB-", "l", "-RRB-", "p", "-LRB-", "k", "|", "l", "-RRB-", "-LRB-", "4", "-RRB-", "=", "l", "=", "k", "n", "l", "p", "l", "-LRB-", "1", "-", "p", "-RRB-", "n-l", "l", "k", "q", "k", "-LRB-", "1", "-", "q", "-RRB-", "l-k", "-LRB-", "5", "-RRB-", "Thus", ",", "based", "on", "both", "physical", "proximity", "and", "the", "probability", "of", "key", "sharing", "between", "neighbors", ",", "we", "get", "a", "degree", "distribution", "p", "-LRB-", "k", "-RRB-", ".", "Notice", "that", "this", "degree", "distribution", "can", "be", "employed", "to", "generate", "a", "random", "graph", "G", ".", "Since", "G", "possesses", "the", "same", "property", "in", "terms", "of", "secure", "communication", "pattern", "as", "the", "sensor", "network", "of", "concern", ",", "we", "will", "next", "perform", "the", "analysis", "on", "G", "instead", ".", "B.", "Compromise", "Spread", "Without", "Node", "Recovery", "Given", "the", "random", "graph", "construction", ",", "we", "now", "analyze", "the", "case", "of", "compromise", "spread", "when", "no", "node", "recovery", "is", "performed", ".", "In", "other", "words", ",", "a", "compromised", "sensor", "node", "will", "remain", "infectious", "indefinitely", ".", "Let", "G", "0", "-LRB-", "x", "-RRB-", "be", "the", "generating", "function", "of", "the", "degree", "distribution", "of", "a", "randomly", "chosen", "vertex", "in", "G", "and", "is", "defined", "by", "G", "0", "-LRB-", "x", "-RRB-", "=", "k", "=", "0", "p", "-LRB-", "k", "-RRB-", "x", "k", "-LRB-", "6", "-RRB-", "Moreover", ",", "with", "G", "1", "-LRB-", "x", "-RRB-", "given", "by", "G", "1", "-LRB-", "x", "-RRB-", "=", "1", "G", "0", "-LRB-", "1", "-RRB-", "G", "0", "-LRB-", "x", "-RRB-", "-LRB-", "7", "-RRB-", "and", "with", "denoting", "the", "infection", "probability", "of", "a", "node", "being", "infected", "by", "communicating", "with", "a", "compromised", "node", ",", "then", "following", "the", "analysis", "presented", "in", "-LSB-", "8", "-RSB-", ",", "the", "average", "size", "of", "the", "outbreak", "is", "derived", "as", "s", "=", "1", "+", "G", "0", "-LRB-", "1", "-RRB-", "1", "-", "G", "1", "-LRB-", "1", "-RRB-", ".", "-LRB-", "8", "-RRB-", "Infection", "probability", "essentially", "captures", "the", "spreading", "capability", "of", "the", "virus", "that", "could", "compromise", "the", "network", ":", "the", "larger", "it", "is", ",", "the", "stronger", "the", "virus", "is", ".", "We", "assume", "that", "its", "value", "can", "be", "obtained", "by", "means", "of", "measurement", "or", "analysis", ".", "Given", "the", "above", "result", ",", "we", "can", "see", "that", "the", "outbreak", "point", "for", "the", "network", "is", "=", "1/G", "1", "-LRB-", "1", "-RRB-", "which", "marks", "the", "onset", "of", "an", "epidemic", ".", "For", ">", "1/G", "1", "-LRB-", "1", "-RRB-", "we", "have", "an", "epidemic", "in", "the", "form", "of", "a", "giant", "component", "in", "the", "random", "network", "and", "the", "size", "S", "of", "the", "epidemic", ",", "where", "S", "denotes", "the", "expected", "fraction", "of", "the", "network", "that", "will", "be", "compromised", "if", "an", "outbreak", "happens", ",", "is", "given", "by", "S", "=", "1", "-", "G", "0", "-LRB-", "u", "-RRB-", ".", "Here", "u", "is", "the", "root", "of", "the", "self-consistency", "relation", "u", "=", "G", "1", "-LRB-", "u", "-RRB-", ".", "Intuitively", ",", "the", "above", "conclusion", "reveals", "that", "if", "1/G", "1", "-LRB-", "1", "-RRB-", ",", "the", "component", "of", "compromised", "nodes", "is", "finite", "3", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "Infection", "Probability", "-LRB-", "-RRB-", "Size", "of", "Cluster", "Compromised", "q", "=", "0.01", "q", "=", "0.02", "q", "=", "0.04", "q", "=", "0.1", "q", "=", "Key", "Sharing", "Prob", "-LRB-", "a", "-RRB-", "Non-epidemic", "cluster", "size", "vs.", "infection", "probability", "-LRB-", "-RRB-", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Infection", "Probability", "-LRB-", "-RRB-", "Fraction", "of", "Network", "Compromised", "q", "=", "0.01", "q", "=", "0.02", "q", "=", "0.04", "q", "=", "0.1", "q", "=", "Key", "Sharing", "Prob", "-LRB-", "b", "-RRB-", "Epidemic", "size", "vs.", "infection", "probability", "-LRB-", "-RRB-", "Fig.", "1", ".", "Size", "of", "compromised", "node", "clusters", ":", "-LRB-", "a", "-RRB-", "depicts", "the", "average", "size", "of", "infected", "clusters", "when", "there", "is", "no", "epidemic", "and", "-LRB-", "b", "-RRB-", "shows", "the", "epidemic", "size", "as", "the", "fraction", "of", "the", "entire", "network", ".", "The", "point", "where", "non-zero", "value", "appears", "indicates", "the", "transition", "from", "non-epidemic", "to", "epidemic", "in", "size", "regardless", "of", "the", "size", "of", "the", "network", "and", "each", "node", "'s", "probability", "of", "being", "compromised", "is", "zero", "for", "large", "networks", ".", "On", "the", "contrary", ",", "if", ">", "1/G", "1", "-LRB-", "1", "-RRB-", ",", "there", "always", "exists", "a", "finite", "probability", "for", "a", "node", "to", "be", "compromised", ".", "Fig.", "1", "depicts", "this", "effect", "for", "a", "network", "with", "N", "=", "1000", "nodes", "with", "different", "key", "sharing", "probabilities", "q", ".", "The", "underlying", "physical", "topology", ",", "determined", "by", "the", "communication", "range", "and", "node", "density", ",", "has", "an", "average", "edge", "probability", "of", "p", "=", "0.25", ".", "Given", "the", "physical", "deployment", ",", "we", "vary", "the", "probability", "of", "direct", "pairwise", "key", "sharing", "-LRB-", "q", "-RRB-", "and", "study", "the", "point", "of", "outbreak", ".", "As", "we", "can", "see", "in", "Fig.", "1", ",", "while", "undoubtedly", "increasing", "q", "can", "facilitate", "communication", "in", "the", "network", ",", "the", "network", "also", "becomes", "more", "vulnerable", "to", "virus", "spreading", ".", "Specifically", ",", "when", "q", "=", "0.01", ",", "network", "wide", "breakout", "is", "only", "possible", "when", "a", "compromised", "node", "has", "an", "infection", "probability", "-LRB-", "-RRB-", "larger", "than", "0.4", "to", "infect", "a", "neighbor", ".", "We", "note", "that", "in", "this", "case", ",", "we", "have", "an", "average", "node", "degree", "of", "2.5", ".", "On", "the", "contrary", ",", "this", "probability", "only", "needs", "to", "be", "around", "0.05", "when", "q", "=", "0.1", "which", "subsequently", "makes", "the", "node", "degree", "25", ".", "Fig.", "1", "-LRB-", "b", "-RRB-", "illustrates", "the", "fraction", "of", "the", "network", "that", "is", "ultimately", "infected", "as", "the", "infection", "probability", "is", "increased", "beyond", "the", "critical", "point", "of", "the", "onset", "of", "outbreak", ".", "For", "instance", ",", "we", "observe", "that", "when", "q", "=", "0.1", ",", "the", "whole", "network", "is", "compromised", "with", "a", "value", "of", "less", "than", "0.2", ".", "On", "the", "contrary", ",", "with", "q", "=", "0.01", ",", "80", "%", "of", "the", "network", "could", "be", "compromised", "with", "only", "a", "high", "value", "of", "=", "0.8", ".", "In", "summary", ",", "Fig.", "1", "clearly", "indicates", "the", "tradeoff", "between", "key", "sharing", "probability", "among", "sensor", "nodes", "and", "the", "vulnerability", "of", "the", "network", "to", "compromise", ".", "C.", "Compromise", "Spread", "With", "Node", "Recovery", "In", "this", "case", ",", "we", "assume", "that", "the", "network", "has", "the", "capability", "to", "recover", "some", "of", "the", "compromised", "nodes", "by", "either", "immunization", "or", "removal", "from", "the", "network", ".", "To", "capture", "this", "recovery", "effect", ",", "we", "assume", "that", "an", "infected", "node", "recovers", "or", "is", "removed", "from", "the", "network", "after", "an", "average", "duration", "of", "infectivity", ".", "In", "other", "words", ",", "a", "node", "in", "the", "sensor", "network", "remains", "infective", "for", "an", "average", "period", "after", "which", "it", "is", "immunized", ".", "During", "this", "infective", "period", ",", "the", "node", "transmits", "the", "epidemic", "to", "its", "neighbors", "with", "the", "infection", "rate", ",", "denoting", "the", "probability", "of", "infection", "per", "unit", "time", ".", "Evidently", ",", "the", "parameter", "is", "critical", "to", "the", "analysis", "as", "it", "measures", "how", "soon", "a", "compromised", "node", "recovers", ".", "Naturally", ",", "we", "will", "perform", "our", "analysis", "following", "the", "SIR", "model", "in", "epidemic", "theory", "-LSB-", "10", "-RSB-", ",", "-LSB-", "8", "-RSB-", ".", "First", ",", "consider", "a", "pair", "of", "adjacent", "nodes", "where", "one", "is", "infected", "and", "the", "other", "is", "susceptible", ".", "If", "T", "denotes", "the", "compromise", "transmission", "probability", ",", "given", "the", "above", "definitions", "for", "and", ",", "we", "can", "say", "that", "the", "probability", "that", "the", "disease", "will", "not", "be", "transmitted", "from", "the", "infected", "to", "the", "susceptible", "is", "given", "by", "1", "-", "T", "=", "lim", "t0", "-LRB-", "1", "-", "t", "-RRB-", "/", "t", "=", "e", ".", "-LRB-", "9", "-RRB-", "Subsequently", ",", "we", "have", "the", "transmission", "probability", "T", "=", "1", "-", "e", ".", "In", "other", "words", ",", "the", "compromise", "propagation", "can", "be", "considered", "as", "a", "Poisson", "process", ",", "with", "average", ".", "The", "outcome", "of", "this", "process", "is", "the", "same", "as", "bond", "percolation", "and", "T", "is", "basically", "analogous", "to", "the", "bond", "occupation", "probability", "on", "the", "graph", "representing", "the", "key", "sharing", "network", ".", "Thus", ",", "the", "outbreak", "size", "would", "be", "precisely", "the", "size", "of", "the", "cluster", "of", "vertices", "that", "can", "be", "reached", "from", "the", "initial", "vertex", "-LRB-", "infected", "node", "-RRB-", "by", "traversing", "only", "occupied", "edges", "which", "are", "occupied", "with", "probability", "T", ".", "Notice", "that", "T", "explicitly", "captures", "node", "recovery", "in", "terms", "of", "the", "parameter", ".", "Replacing", "with", "T", "in", "Equation", "8", ",", "and", "following", "similar", "steps", ",", "we", "get", "the", "size", "of", "the", "average", "cluster", "as", "s", "=", "1", "+", "T", "G", "0", "-LRB-", "1", "-RRB-", "1", "-", "T", "G", "1", "-LRB-", "1", "-RRB-", ".", "-LRB-", "10", "-RRB-", "and", "the", "epidemic", "size", "is", "obtained", "by", "S", "=", "1", "-", "G", "0", "-LRB-", "u", ";", "T", "-RRB-", ".", "-LRB-", "11", "-RRB-", "where", "u", "is", "obtained", "by", "u", "=", "1", "-", "G", "1", "-LRB-", "u", ";", "T", "-RRB-", ",", "-LRB-", "12", "-RRB-", "4", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "0", "50", "100", "150", "0", "50", "100", "150", "Infectivity", "Duration", "Size", "of", "Cluster", "Compromised", "=", "0.01", "=", "0.02", "=", "0.04", "=", "0.2", "=", "Infection", "rate", "-LRB-", "a", "-RRB-", "Non-epidemic", "cluster", "size", "vs.", "infectivity", "duration", "0", "50", "100", "150", "200", "250", "300", "350", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Infectivity", "Duration", "Fraction", "of", "Network", "Compromised", "=", "0.01", "=", "0.02", "=", "0.04", "=", "0.08", "=", "0.2", "=", "infection", "rate", "-LRB-", "b", "-RRB-", "Epidemic", "size", "vs.", "infectivity", "duration", "Fig.", "2", ".", "Size", "of", "compromised", "node", "clusters", ":", "-LRB-", "a", "-RRB-", "depicts", "the", "average", "size", "of", "infected", "clusters", "when", "there", "is", "no", "epidemic", "and", "-LRB-", "b", "-RRB-", "shows", "the", "epidemic", "size", "as", "the", "fraction", "of", "the", "entire", "network", ".", "The", "point", "where", "non-zero", "value", "appears", "indicates", "the", "transition", "from", "non-epidemic", "to", "epidemic", "and", "G", "0", "-LRB-", "u", ";", "T", "-RRB-", "and", "G", "1", "-LRB-", "u", ";", "T", "-RRB-", "are", "given", "respectively", "by", "G", "0", "-LRB-", "u", ";", "T", "-RRB-", "=", "G", "0", "-LRB-", "1", "+", "-LRB-", "u", "-", "1", "-RRB-", "T", "-RRB-", ",", "-LRB-", "13", "-RRB-", "and", "G", "1", "-LRB-", "u", ";", "T", "-RRB-", "=", "G", "1", "-LRB-", "1", "+", "-LRB-", "u", "-", "1", "-RRB-", "T", "-RRB-", ".", "-LRB-", "14", "-RRB-", "Fig.", "2", "summarizes", "this", "effect", ",", "depicting", "the", "epidemic", "outbreak", "against", "the", "average", "recovery", "time", "for", "the", "respective", "infection", "rates", ".", "The", "plots", "are", "for", "a", "sensor", "network", "with", "typical", "average", "degree", "of", "10", ".", "In", "Fig.", "2", "-LRB-", "a", "-RRB-", ",", "we", "can", "identify", "the", "average", "duration", "that", "an", "infected", "node", "is", "allowed", "to", "remain", "infective", "before", "an", "epidemic", "outbreak", "occurs", ".", "We", "notice", "that", ",", "when", "the", "infection", "rate", "is", "0.01", ",", "infected", "nodes", "have", "to", "be", "recovered/removed", "on", "the", "average", "in", "less", "than", "100", "time", "units", "in", "order", "to", "prevent", "an", "epidemic", ".", "As", "expected", ",", "this", "time", "is", "much", "lower", "when", "the", "infection", "rate", "is", "0.2", ".", "Fig.", "2", "-LRB-", "b", "-RRB-", "depicts", "the", "epidemic", "outbreak", "point", "for", "different", "infection", "rates", "in", "terms", "of", "the", "average", "duration", "of", "infectivity", "of", "a", "node", ".", "We", "remark", "that", "both", "the", "analytical", "and", "experimental", "results", "have", "significant", "implication", "for", "security", "scheme", "design", "in", "terms", "of", "revoking/immunizing", "compromised", "nodes", "in", "wireless", "sensor", "networks", ":", "it", "dictates", "the", "speed", "at", "which", "the", "network", "must", "react", "in", "order", "to", "contain/prevent", "the", "effect", "of", "network", "wide", "epidemic", ".", "We", "employ", "a", "discrete", "event-driven", "simulation", "to", "accu-rately", "simulate", "the", "propagation", "of", "the", "infection", "spreading", "process", ".", "In", "this", "section", ",", "we", "first", "outline", "our", "discrete-event", "driven", "simulation", "model", "for", "the", "gradual", "progress", "of", "the", "spread", "of", "node", "compromise", ".", "Then", "we", "use", "this", "model", "to", "capture", "the", "time", "dynamics", "of", "the", "spread", "of", "the", "compromise", "in", "the", "whole", "population", ".", "A.", "Simulation", "Setup", "In", "our", "simulation", ",", "we", "assume", "the", "number", "of", "sensor", "nodes", "in", "the", "network", "to", "be", "1000", ".", "The", "sensor", "network", "is", "produced", "by", "uniformly", "distributing", "the", "sensors", "in", "a", "1200", "1200", "unit", "2", "area", ".", "The", "communication", "range", "of", "each", "node", "is", "assumed", "to", "be", "100", "units", ".", "Our", "goal", "is", "to", "make", "the", "physical", "network", "fairly", "connected", "with", "an", "average", "node", "degree", "of", "around", "20", "to", "25", ".", "We", "use", "the", "key", "sharing", "probability", "on", "top", "of", "this", "network", "to", "further", "reduce", "the", "average", "node", "degree", "of", "the", "final", "key", "sharing", "network", "to", "typical", "values", "of", "3", "and", "10", ".", "We", "employ", "the", "random", "key", "pre-distribution", "scheme", "described", "in", "-LSB-", "11", "-RSB-", "to", "establish", "the", "pairwise", "key", "among", "sensor", "nodes", ".", "By", "tuning", "the", "parameters", "of", "the", "scheme", ",", "we", "can", "achieve", "any", "specific", "values", "for", "the", "probability", "of", "any", "two", "neighbors", "to", "share", "at", "least", "one", "key", ".", "Our", "simulation", "works", "in", "two", "phases", ".", "In", "the", "first", "phase", ",", "we", "form", "the", "network", "where", "each", "node", "identifies", "its", "set", "of", "neighbors", "and", "entries", "are", "made", "into", "a", "neighbor", "table", ".", "The", "average", "degree", "of", "the", "key", "sharing", "network", "is", "controlled", "by", "changing", "the", "value", "of", "the", "key", "sharing", "probability", "between", "neighbors", ".", "The", "entry", "for", "each", "node", "in", "the", "neighborhood", "table", "can", "indicate", "whether", "a", "node", "is", "susceptible", ",", "infected", "or", "recovered", ".", "We", "use", "typical", "values", "obtained", "for", "the", "average", "node", "degree", "of", "the", "network", ",", "namely", ",", "3", "and", "10", ".", "In", "the", "second", "phase", ",", "we", "simulate", "actual", "virus", "propagation", ".", "Initially", ",", "at", "t", "=", "0", ",", "the", "number", "of", "infected", "nodes", ",", "denoted", "by", "I", "-LRB-", "0", "-RRB-", "is", "set", "to", "be", "1", ".", "At", "any", "time", "point", "t", ",", "the", "population", "is", "divided", "into", "the", "group", "of", "susceptible", "nodes", ",", "S", "-LRB-", "t", "-RRB-", ",", "and", "the", "group", "of", "infected", "nodes", ",", "I", "-LRB-", "t", "-RRB-", ".", "In", "the", "situation", "where", "we", "have", "nodes", "that", "are", "immunized", "and", "thus", "recovered", ",", "we", "denote", "that", "this", "set", "of", "recovered", "nodes", "by", "R", "-LRB-", "t", "-RRB-", ".", "The", "sub-population", "dynamics", "is", "obtained", "by", "observing", "the", "population", "counts", "after", "fixed", "simulation", "intervals", "of", "1", "time", "unit", ".", "We", "assume", "that", "the", "time", "it", "takes", "for", "an", "infected", "node", "to", "infect", "its", "susceptible", "neighbor", "is", "negative", "exponentially", "distributed", "with", "a", "mean", "of", "1", "unit", "time", ".", "There", "are", "two", "simulation", "scenarios", "corresponding", "to", "our", "analysis", ".", "B.", "Simulation", "Results", "and", "Discussion", "1", "-RRB-", "Simulation", "Results", "for", "No", "Recovery", "Case", ":", "The", "simulation", "results", "for", "the", "case", "without", "recovery", "are", "shown", "5", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "0", "100", "200", "300", "400", "500", "600", "700", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "compromised", "nodes", "Growth", "of", "infected", "nodes", "with", "time", "=", "0.05", "=", "0.1", "=", "0.2", "=", "0.3", "N", "=", "1000", "z", "=", "5", "-LRB-", "a", "-RRB-", "Average", "node", "degree", "=", "5", "0", "100", "200", "300", "400", "500", "600", "700", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "compromised", "nodes", "Growth", "of", "infected", "nodes", "with", "time", "=", "0.05", "=", "0.1", "=", "0.2", "=", "0.3", "N", "=", "1000", "Avg", "Degree", "z", "=", "10", "=", "Infection", "Prob", "-LRB-", "b", "-RRB-", "Average", "node", "degree", "=", "10", "Fig.", "3", ".", "System", "dynamics", "without", "recovery", "in", "Fig.", "3", ".", "We", "vary", "the", "value", "of", "the", "infection", "probability", "under", "different", "network", "connectivities", "and", "study", "the", "time", "dynamics", "of", "the", "infected", "population", ".", "We", "notice", ",", "as", "expected", ",", "that", "an", "increase", "in", "the", "average", "node", "degree", "from", "5", "to", "10", "has", "an", "impact", "on", "the", "rate", "of", "compromise", "of", "the", "network", ".", "For", "instance", ",", "the", "curve", "with", "the", "lowest", "value", "-LRB-", "0.05", "-RRB-", "has", "compromised", "the", "entire", "network", "by", "simulation", "time", "700", "when", "the", "average", "node", "degree", "is", "10", ".", "However", ",", "with", "the", "node", "degree", "at", "5", ",", "a", "value", "of", "0.05", "could", "compromise", "upto", "70", "%", "of", "the", "network", "by", "that", "same", "simulation", "time", ".", "Thus", ",", "we", "find", "that", "in", "the", "no-recovery", "case", "the", "two", "key", "parameters", "affecting", "the", "network", "compromise", "rate", "are", "infection", "probability", "and", "the", "average", "node", "degree", ".", "2", "-RRB-", "Simulation", "Results", "for", "Recovery", "Case", ":", "Fig.", "4", "and", "5", "show", "the", "simulation", "results", "for", "the", "three", "sub-populations", "-LRB-", "infected", ",", "immunized", ",", "and", "susceptible", "-RRB-", "in", "the", "situation", "where", "nodes", "do", "recover", ".", "In", "Fig.", "4", "we", "see", "the", "effects", "of", "the", "infectivity", "duration", "and", "infection", "rate", "on", "the", "dynamics", "of", "the", "epidemic", ".", "In", "Fig.", "4", "-LRB-", "c", "-RRB-", ",", "the", "highest", "point", "is", "reached", "very", "fast", "because", "of", "the", "high", "value", "of", ".", "Thereafter", ",", "its", "recovery", "also", "takes", "less", "time", ".", "However", ",", "in", "Fig.", "4", "-LRB-", "a", "-RRB-", ",", "is", "smaller", "but", "0", "is", "higher", "-LRB-", "i.e.", ",", "30", "-RRB-", ",", "the", "infection", "rises", "slowly", "and", "also", "falls", "slowly", "because", "of", "the", "high", "recovery", "time", ".", "In", "comparison", ",", "Fig.", "5", "has", "better", "connectivity", "of", "average", "node", "degree", "of", "5", "which", "in", "turn", "increases", "the", "rate", "of", "infection", "significantly", ".", "Comparing", "Fig.", "4", "-LRB-", "c", "-RRB-", "and", "Fig.", "5", "-LRB-", "c", "-RRB-", ",", "we", "observe", "that", "infection", "penetration", "is", "higher", "in", "the", "latter", "even", "in", "presence", "of", "a", "smaller", "value", "of", ".", "In", "Fig.", "5", "-LRB-", "c", "-RRB-", ",", "it", "shows", "that", "even", "with", "a", "low", "value", "of", ",", "the", "infection", "still", "rises", "to", "above", "60", "%", ".", "Therefore", ",", "we", "observe", "that", "network", "connectivity", "has", "a", "high", "impact", "on", "the", "infection", "propagation", "and", "on", "the", "speed", "of", "reaching", "the", "maximal", "point", "of", "outbreak", ".", "However", ",", "thereafter", "during", "the", "recover", "phase", ",", "0", "affects", "aggressively", "the", "time", "it", "takes", "to", "recover", "the", "whole", "network", ".", "The", "mathematical", "modeling", "of", "epidemics", "is", "well", "documented", "-LSB-", "2", "-RSB-", ",", "-LSB-", "7", "-RSB-", ".", "In", "fact", ",", "visualizing", "the", "population", "as", "a", "complex", "network", "of", "interacting", "individuals", "has", "resulted", "in", "the", "analysis", "of", "epidemics", "from", "a", "network", "or", "graph", "theoretic", "point", "of", "view", "-LSB-", "8", "-RSB-", ",", "-LSB-", "9", "-RSB-", ",", "-LSB-", "10", "-RSB-", ".", "Node", "compromise", "in", "sensor", "networks", "and", "the", "need", "for", "their", "security", "has", "also", "received", "immense", "attention", "-LSB-", "4", "-RSB-", ".", "A", "large", "portion", "of", "current", "research", "on", "security", "in", "sensor", "networks", "has", "been", "focused", "on", "protocols", "and", "schemes", "for", "securing", "the", "communication", "between", "nodes", "-LSB-", "12", "-RSB-", ",", "-LSB-", "13", "-RSB-", ".", "Revocation", "of", "keys", "of", "compromised", "nodes", "has", "been", "studied", "in", "-LSB-", "14", "-RSB-", ".", "In", "-LSB-", "4", "-RSB-", ",", "the", "authors", "demonstrate", "the", "ease", "with", "which", "a", "sensor", "node", "can", "be", "compromised", "and", "all", "its", "information", "extracted", ".", "Unfortunately", ",", "little", "work", "has", "been", "done", "on", "the", "defense", "strategies", "when", "the", "compromise", "of", "a", "single", "node", "could", "be", "used", "to", "compromise", "other", "nodes", "over", "the", "air", ".", "In", "this", "paper", ",", "we", "take", "the", "first", "step", "to", "model", "this", "potential", "disastrous", "propagation", ".", "In", "-LSB-", "6", "-RSB-", ",", "the", "authors", "used", "an", "epidemic", "modeling", "technique", "for", "information", "dissemination", "in", "a", "MANET", ".", "However", ",", "they", "assumed", "homogeneous", "mixing", "which", "is", "not", "possible", "in", "a", "static", "sensor", "network", "as", "ours", ".", "In", "our", "work", ",", "we", "adopted", "some", "of", "the", "results", "presented", "in", "-LSB-", "8", "-RSB-", "where", "the", "author", "proposes", "a", "percolation", "theory", "based", "evaluation", "of", "the", "spread", "of", "an", "epidemic", "on", "graphs", "with", "given", "degree", "distributions", ".", "However", ",", "little", "has", "been", "shown", "there", "on", "the", "temporal", "dynamics", "of", "the", "epidemic", "spread", "and", "the", "authors", "only", "studied", "the", "final", "outcome", "of", "an", "infection", "spread", ".", "In", "this", "paper", ",", "we", "investigate", "the", "potential", "threat", "for", "compromise", "propagation", "in", "wireless", "sensor", "networks", ".", "Based", "on", "epidemic", "theory", ",", "we", "model", "the", "process", "of", "compromise", "spreading", "from", "a", "single", "node", "to", "the", "whole", "network", ".", "In", "particular", ",", "we", "focus", "on", "the", "key", "network", "parameters", "that", "determine", "a", "potential", "epidemic", "outbreak", "in", "the", "network", ".", "Due", "to", "the", "unique", "distance", "and", "key", "sharing", "constrained", "communication", "pattern", ",", "we", "resort", "to", "a", "random", "graph", "model", "which", "is", "precisely", "generated", "according", "to", "the", "parameters", "of", "the", "real", "sensor", "network", "and", "perform", "the", "study", "on", "the", "graph", ".", "Furthermore", ",", "we", "introduce", "the", "effect", "of", "node", "recovery", "after", "compromise", "and", "adapt", "our", "model", "to", "accommodate", "this", "effect", ".", "Our", "results", "reveal", "key", "network", "parameters", "in", "defending", "and", "containing", "potential", "epidemics", ".", "In", "particular", ",", "6", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "0", "100", "200", "300", "400", "500", "600", "700", "-0.2", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "Network", "Dynamics", "of", "the", "Infected", ",", "Susceptible", "and", "Revoked", "nodes", "Susceptible", "S", "-LRB-", "t", "-RRB-", "Infected", "I", "-LRB-", "t", "-RRB-", "Recovered", "R", "-LRB-", "t", "-RRB-", "Average", "Degree", "z", "=", "3", "Infection", "Prob", "=", "0.6", "-LRB-", "a", "-RRB-", "0", "=", "30", "0", "100", "200", "300", "400", "500", "600", "700", "-0.2", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "Network", "Dynamics", "of", "the", "Infected", ",", "Susceptible", "and", "Revoked", "nodes", "S", "-LRB-", "t", "-RRB-", "I", "-LRB-", "t", "-RRB-", "R", "-LRB-", "t", "-RRB-", "z", "=", "3", "=", "0.7", "-LRB-", "b", "-RRB-", "0", "=", "20", "0", "100", "200", "300", "400", "500", "600", "700", "-0.2", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "Network", "Dynamics", "of", "the", "Infected", ",", "Susceptible", "and", "Revoked", "nodes", "S", "-LRB-", "t", "-RRB-", "I", "-LRB-", "t", "-RRB-", "R", "-LRB-", "t", "-RRB-", "z", "=", "3", "=", "0.9", "-LRB-", "c", "-RRB-", "0", "=", "10", "Fig.", "4", ".", "The", "dynamics", "of", "the", "population", "with", "recovery", "for", "average", "degree", "of", "3", "0", "100", "200", "300", "400", "500", "600", "700", "-0.2", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "Network", "Dynamics", "of", "the", "Infected", ",", "Susceptible", "and", "Revoked", "nodes", "Susceptible", "S", "-LRB-", "t", "-RRB-", "Infected", "I", "-LRB-", "t", "-RRB-", "Recovered", "R", "-LRB-", "t", "-RRB-", "Average", "Degree", "z", "=", "10", "Infection", "Prob", "=", "0.15", "-LRB-", "a", "-RRB-", "0", "=", "30", "0", "100", "200", "300", "400", "500", "600", "700", "-0.2", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "Network", "Dynamics", "of", "the", "Infected", ",", "Susceptible", "and", "Revoked", "nodes", "S", "-LRB-", "t", "-RRB-", "I", "-LRB-", "t", "-RRB-", "R", "-LRB-", "t", "-RRB-", "z", "=", "10", "=", "0.17", "-LRB-", "b", "-RRB-", "0", "=", "20", "0", "100", "200", "300", "400", "500", "600", "700", "-0.2", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "Time", "-LRB-", "t", "-RRB-", "Fraction", "of", "Network", "Dynamics", "of", "the", "Infected", ",", "Susceptible", "and", "Revoked", "nodes", "S", "-LRB-", "t", "-RRB-", "I", "-LRB-", "t", "-RRB-", "R", "-LRB-", "t", "-RRB-", "z", "=", "10", "=", "0.2", "-LRB-", "c", "-RRB-", "0", "=", "10", "Fig.", "5", ".", "The", "dynamics", "of", "the", "population", "with", "recovery", "for", "average", "degree", "of", "10", "the", "result", "provides", "benchmark", "time", "period", "for", "the", "network", "to", "recover", "a", "node", "in", "order", "to", "defend", "against", "the", "epidemic", "spreading", ".", "Our", "extensive", "simulation", "results", "validate", "our", "analyses", "and", "moreover", ",", "provide", "insights", "of", "the", "dynamics", "of", "the", "system", "in", "terms", "of", "temporal", "evolution", ".", "-LSB-", "1", "-RSB-", "I", "Akyildiz", ",", "W.", "Su", ",", "Y", "Sankarasubramaniam", ",", "and", "E.", "Cayirci", ",", "``", "A", "Survey", "on", "sensor", "networks", ",", "''", "IEEE", "Communications", "Magazine", ",", "vol", ".", "40", ",", "no.", "8", ",", "2002", ".", "-LSB-", "2", "-RSB-", "R.", "M.", "Anderson", "and", "R.", "M.", "May", ",", "``", "Infectious", "Diseases", "of", "Human", ":", "Dynamics", "and", "Control", "''", "-LRB-", "Oxford", "Univ.", ".", "Press", ",", "Oxford", ",", "1991", "-RRB-", ".", "-LSB-", "3", "-RSB-", "S.", "Staniford", ",", "V.", "Paxson", ",", "and", "N.", "Weaver", ".", "``", "How", "to", "Own", "the", "Internet", "in", "Your", "Spare", "Time", "''", ".", "In", "11th", "Usenix", "Security", "Symposium", ",", "San", "Francisco", ",", "August", ",", "2002", ".", "-LSB-", "4", "-RSB-", "C.", "Hartung", ",", "J.", "Balasalle", ",", "and", "R.", "Han", ",", "``", "Node", "Compromise", "in", "Sensor", "Networks", ":", "The", "Need", "for", "Secure", "Systems", "''", ",", "Technical", "Report", "CU-CS", "-990-05", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "5", "-RSB-", "H.", "Chan", ",", "V.", "D.", "Gligor", ",", "A.", "Perrig", ",", "G.", "Muralidharan", ",", "``", "On", "the", "Distribution", "and", "Revocation", "of", "Cryptographic", "Keys", "in", "Sensor", "Networks", "''", ",", "IEEE", "Transactions", "on", "Dependable", "and", "Secure", "Computing", "2005", ".", "-LSB-", "6", "-RSB-", "A.", "Khelil", ",", "C.", "Becker", ",", "J.", "Tian", ",", "K.", "Rothermel", ",", "``", "An", "Epidemic", "Model", "for", "Information", "Diffusion", "in", "MANETs", "''", ",", "MSWiM", "2002", ",", "pages", "54-60", ".", "-LSB-", "7", "-RSB-", "N.", "T.", "J.", "Bailey", ",", "``", "The", "Mathematical", "Theory", "of", "Infectious", "Diseases", "and", "its", "Applications", "''", ".", "Hafner", "Press", ",", "New", "York", "-LRB-", "1975", "-RRB-", "-LSB-", "8", "-RSB-", "M.", "E.", "J.", "Newman", ",", "``", "Spread", "of", "epidemic", "disease", "on", "networks", "''", ",", "Phys", ".", "Rev.", "E", ",", "66", "-LRB-", "2002", "-RRB-", ",", "art", ".", "no.", "016128", ".", "-LSB-", "9", "-RSB-", "C.", "Moore", "and", "M.", "E.", "J.", "Newman", ",", "``", "Epidemics", "and", "percolation", "in", "small", "-", "world", "networks", "''", ".", "Phys", ".", "Rev.", "E", "61", ",", "5678-5682", "-LRB-", "2000", "-RRB-", "-LSB-", "10", "-RSB-", "P.", "Grassberger", ",", "``", "On", "the", "critical", "behavior", "of", "the", "general", "epidemic", "process", "and", "dynamic", "percolation", "''", ",", "Math", ".", "Biosc", ".", "63", "-LRB-", "1983", "-RRB-", "157", ".", "-LSB-", "11", "-RSB-", "L", "Eschenauer", "and", "V.", "D.", "Gligor", ".", "``", "A", "key-management", "scheme", "for", "distributed", "sensor", "networks", "''", ",", "in", "Proc", ".", "of", "the", "9th", "Computer", "Communication", "Security", "-", "CCS", "'", "02", ",", "pages", "41", "47", ",", "Washington", "D.C.", ",", "USA", ",", "November", "2002", ".", "-LSB-", "12", "-RSB-", "H.", "Chan", ",", "A.", "Perrig", ",", "and", "D.", "Song", ",", "``", "Random", "key", "predistribution", "schemes", "for", "sensor", "networks", "''", ",", "in", "Proc", ".", "of", "the", "IEEE", "Symposium", "on", "Research", "in", "Security", "and", "Privacy", "-", "SP", "'", "03", ",", "pages", "197", "215", ",", "Washington", "D.C.", ",", "USA", ",", "May", "2003", ".", "-LSB-", "13", "-RSB-", "Donggang", "Liu", "and", "Peng", "Ning", ",", "``", "Establishing", "pairwise", "keys", "in", "distributed", "sensor", "networks", "''", ",", "in", "Proc", ".", "of", "the", "10th", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", "-", "CCS", "'", "03", ",", "pages", "52", "61", ",", "Washington", "D.C.", ",", "USA", ",", "October", "2003", ".", "-LSB-", "14", "-RSB-", "H.", "Chan", ";", "V.D.", "Gligor", ",", "A.", "Perrig", ",", "G.", "Muralidharan", ",", "``", "On", "the", "Distribution", "and", "Revocation", "of", "Cryptographic", "Keys", "in", "Sensor", "Networks", "''", ",", "IEEE", "Transactions", "on", "Dependable", "and", "Secure", "Computing", ",", "Volume", "2", ",", "Issue", "3", ",", "July-Sept", ".", "2005", "-LSB-", "15", "-RSB-", "A.", "Chadha", ",", "Y.", "Liu", ".", "and", "S.", "Das", ",", "``", "Group", "key", "distribution", "via", "local", "collaboration", "in", "wireless", "sensor", "networks", ",", "''", "in", "Proceedings", "of", "the", "IEEE", "SECON", "2005", ",", "Santa", "Clara", ",", "CA", ",", "Sept.", "2005", ".", "7", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["random key predistribution", "epidemiology", "random graph", "sensor networks"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "22", "document": ["A", "Two-Phase", "Sampling", "Technique", "for", "Information", "Extraction", "from", "Hidden", "Web", "Databases", "Hidden", "Web", "databases", "maintain", "a", "collection", "of", "specialised", "documents", ",", "which", "are", "dynamically", "generated", "in", "response", "to", "users", "'", "queries", ".", "However", ",", "the", "documents", "are", "generated", "by", "Web", "page", "templates", ",", "which", "contain", "information", "that", "is", "irrelevant", "to", "queries", ".", "This", "paper", "presents", "a", "Two-Phase", "Sampling", "-LRB-", "2PS", "-RRB-", "technique", "that", "detects", "templates", "and", "extracts", "query-related", "information", "from", "the", "sampled", "documents", "of", "a", "database", ".", "In", "the", "first", "phase", ",", "2PS", "queries", "databases", "with", "terms", "contained", "in", "their", "search", "interface", "pages", "and", "the", "subsequently", "sampled", "documents", ".", "This", "process", "retrieves", "a", "required", "number", "of", "documents", ".", "In", "the", "second", "phase", ",", "2PS", "detects", "Web", "page", "templates", "in", "the", "sampled", "documents", "in", "order", "to", "extract", "information", "relevant", "to", "queries", ".", "We", "test", "2PS", "on", "a", "number", "of", "real-world", "Hidden", "Web", "databases", ".", "Experimental", "results", "demonstrate", "that", "2PS", "effectively", "eliminates", "irrelevant", "information", "contained", "in", "Web", "page", "templates", "and", "generates", "terms", "and", "frequencies", "with", "improved", "accuracy", ".", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Online", "Information", "Services", "Web-based", "services", ".", "Algorithms", ",", "Experimentation", ".", "An", "increasing", "number", "of", "databases", "on", "the", "Web", "maintain", "a", "collection", "of", "documents", "such", "as", "archives", ",", "user", "manuals", "or", "news", "articles", ".", "These", "databases", "dynamically", "generate", "documents", "in", "response", "to", "users", "'", "queries", "and", "are", "referred", "to", "as", "Hidden", "Web", "databases", "-LSB-", "5", "-RSB-", ".", "As", "the", "number", "of", "databases", "proliferates", ",", "it", "has", "become", "prohibitive", "for", "specialised", "search", "services", "-LRB-", "such", "as", "search.com", "-RRB-", "to", "evaluate", "databases", "individually", "in", "order", "to", "answer", "users", "'", "queries", ".", "Current", "techniques", "such", "as", "database", "selection", "and", "categorisation", "have", "been", "employed", "to", "enhance", "the", "effectiveness", "of", "information", "retrieval", "from", "databases", "-LSB-", "2", ",", "5", ",", "10", ",", "11", ",", "15", "-RSB-", ".", "In", "the", "domain", "of", "the", "Hidden", "Web", ",", "knowledge", "about", "the", "contents", "of", "databases", "is", "often", "unavailable", ".", "Existing", "approaches", "such", "as", "in", "-LSB-", "2", ",", "10", ",", "15", "-RSB-", "acquire", "knowledge", "through", "sampling", "documents", "from", "databases", ".", "For", "instance", ",", "query-based", "sampling", "-LSB-", "2", "-RSB-", "queries", "databases", "with", "terms", "that", "are", "randomly", "selected", "from", "those", "contained", "in", "the", "sampled", "documents", ".", "The", "techniques", "in", "-LSB-", "10", ",", "15", "-RSB-", "sample", "databases", "with", "terms", "obtained", "from", "Web", "logs", "to", "retrieve", "additional", "topic", "terms", ".", "A", "major", "issue", "associated", "with", "existing", "techniques", "is", "that", "they", "also", "extract", "information", "irrelevant", "to", "queries", ".", "That", "is", ",", "information", "extracted", "is", "often", "found", "in", "Web", "page", "templates", ",", "which", "contain", "navigation", "panels", ",", "search", "interfaces", "and", "advertisements", ".", "Consequently", ",", "the", "accuracy", "of", "terms", "and", "frequencies", "generated", "from", "sampled", "documents", "has", "been", "reduced", ".", "In", "addition", ",", "approximate", "string", "matching", "techniques", "are", "adopted", "by", "-LSB-", "13", "-RSB-", "to", "extract", "information", "from", "Web", "pages", ",", "but", "this", "approach", "is", "limited", "to", "textual", "contents", "only", ".", "Alternatively", ",", "the", "approaches", "proposed", "in", "-LSB-", "3", ",", "4", "-RSB-", "analyse", "Web", "pages", "in", "tree-like", "structures", ".", "However", ",", "such", "an", "approach", "requires", "Web", "pages", "with", "well-conformed", "HTML", "tag", "trees", ".", "Furthermore", ",", "-LSB-", "3", "-RSB-", "discovers", "dynamically", "generated", "objects", "from", "Web", "pages", ",", "which", "are", "clustered", "into", "groups", "of", "similar", "structured", "pages", "based", "on", "a", "set", "of", "pre-defined", "templates", ",", "such", "as", "exception", "page", "templates", "and", "result", "page", "templates", ".", "In", "this", "paper", ",", "we", "propose", "a", "sampling", "and", "extraction", "technique", ",", "which", "is", "referred", "to", "as", "Two-Phase", "Sampling", "-LRB-", "2PS", "-RRB-", ".", "2PS", "aims", "to", "extract", "information", "relevant", "to", "queries", "in", "order", "to", "acquire", "information", "contents", "of", "underlying", "databases", ".", "Our", "technique", "is", "applied", "in", "two", "phases", ".", "First", ",", "it", "randomly", "selects", "a", "term", "from", "those", "found", "in", "the", "search", "interface", "pages", "of", "a", "database", "to", "initiate", "the", "process", "of", "sampling", "documents", ".", "Subsequently", ",", "2PS", "queries", "the", "database", "with", "terms", "randomly", "selected", "from", "those", "contained", "in", "the", "sampled", "documents", ".", "Second", ",", "2PS", "detects", "Web", "page", "templates", "and", "extracts", "query-related", "information", "from", "which", "terms", "and", "frequencies", "are", "generated", "to", "summarise", "the", "database", "contents", ".", "Our", "approach", "utilises", "information", "contained", "in", "search", "interface", "pages", "of", "a", "database", "to", "initiate", "the", "sampling", "process", ".", "This", "differs", "from", "current", "sampling", "techniques", "such", "as", "query-based", "sampling", ",", "which", "performs", "an", "initial", "query", "with", "a", "frequently", "used", "term", ".", "Furthermore", ",", "2PS", "extracts", "terms", "that", "are", "relevant", "to", "queries", "thus", "generating", "statistics", "-LRB-", "i.e.", ",", "terms", "and", "frequencies", "-RRB-", "that", "represent", "database", "contents", "with", "improved", "accuracy", ".", "By", "contrast", ",", "the", "approaches", "in", "-LSB-", "2", ",", "10", ",", "15", "-RSB-", "extract", "all", "terms", "from", "sampled", "documents", ",", "including", "those", "contained", "in", "Web", "page", "templates", ".", "Consequently", ",", "information", "that", "is", "irrelevant", "to", "queries", "is", "also", "extracted", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "WIDM", "'", "04", ",", "November", "12", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-978-0", "/", "04/0011", "...", "$", "5.00", ".", "1", "Figure", "1", ".", "The", "Two-Phase", "Sampling", "-LRB-", "2PS", "-RRB-", "technique", ".", "2PS", "is", "implemented", "as", "a", "prototype", "system", "and", "tested", "on", "a", "number", "of", "real-world", "Hidden", "Web", "databases", ",", "which", "contain", "computer", "manuals", ",", "healthcare", "archives", "and", "news", "articles", ".", "Experimental", "results", "show", "that", "our", "technique", "effectively", "detects", "Web", "page", "templates", "and", "generates", "terms", "and", "frequencies", "-LRB-", "from", "sampled", "documents", "-RRB-", "that", "are", "relevant", "to", "the", "queries", ".", "The", "remainder", "of", "the", "paper", "is", "organised", "as", "follows", ".", "Section", "2", "introduces", "current", "approaches", "to", "the", "discovery", "of", "information", "contents", "of", "Hidden", "Web", "databases", ".", "Related", "work", "on", "the", "information", "extraction", "from", "Web", "pages", "or", "dynamically", "generated", "documents", "is", "also", "discussed", ".", "Section", "3", "describes", "the", "proposed", "2PS", "technique", ".", "Section", "4", "presents", "experimental", "results", ".", "Section", "5", "concludes", "the", "paper", ".", "A", "major", "area", "of", "current", "research", "into", "the", "information", "retrieval", "of", "Hidden", "Web", "databases", "focuses", "on", "the", "automatic", "discovery", "of", "information", "contents", "of", "databases", ",", "in", "order", "to", "facilitate", "their", "selection", "or", "categorisation", ".", "For", "instance", ",", "the", "technique", "proposed", "in", "-LSB-", "6", "-RSB-", "analyses", "the", "hyperlink", "structures", "of", "databases", "in", "order", "to", "facilitate", "the", "search", "for", "databases", "that", "are", "similar", "in", "content", ".", "The", "approach", "adopted", "by", "-LSB-", "10", ",", "15", "-RSB-", "examines", "the", "textual", "contents", "of", "search", "interface", "pages", "maintained", "by", "data", "sources", "to", "gather", "information", "about", "database", "contents", ".", "A", "different", "approach", "is", "to", "retrieve", "actual", "documents", "to", "acquire", "such", "information", ".", "However", ",", "in", "the", "domain", "of", "Hidden", "Web", "databases", ",", "it", "is", "difficult", "to", "obtain", "all", "documents", "from", "a", "database", ".", "Therefore", ",", "a", "number", "of", "research", "studies", "-LSB-", "2", ",", "10", ",", "15", "-RSB-", "obtain", "information", "by", "retrieving", "a", "set", "of", "documents", "through", "sampling", ".", "For", "instance", ",", "query-based", "sampling", "-LSB-", "2", "-RSB-", "queries", "databases", "with", "terms", "that", "are", "randomly", "selected", "from", "those", "contained", "in", "the", "sampled", "documents", ".", "The", "techniques", "in", "-LSB-", "10", ",", "15", "-RSB-", "sample", "databases", "with", "terms", "extracted", "from", "Web", "logs", "to", "obtain", "additional", "topic", "terms", ".", "These", "techniques", "generate", "terms", "and", "frequencies", "from", "sampled", "documents", ",", "which", "are", "referred", "to", "as", "Language", "Models", "-LSB-", "2", "-RSB-", ",", "Textual", "Models", "-LSB-", "10", ",", "15", "-RSB-", "or", "Centroids", "-LSB-", "11", "-RSB-", ".", "A", "key", "issue", "associated", "with", "the", "aforementioned", "sampling", "techniques", "is", "that", "they", "extract", "information", "that", "is", "often", "irrelevant", "to", "queries", ",", "since", "information", "contained", "in", "Web", "page", "templates", "such", "as", "navigation", "panels", ",", "search", "interfaces", "and", "advertisements", "is", "also", "extracted", ".", "For", "example", ",", "a", "language", "model", "generated", "from", "the", "sampled", "documents", "of", "the", "Combined", "Health", "Information", "Database", "-LRB-", "CHID", "-RRB-", "contains", "terms", "-LRB-", "such", "as", "`", "author", "'", "and", "`", "format", "'", "-RRB-", "with", "high", "frequencies", ".", "These", "terms", "are", "not", "relevant", "to", "queries", "but", "are", "used", "for", "descriptive", "purposes", ".", "Consequently", ",", "the", "accuracy", "of", "terms", "and", "frequencies", "generated", "from", "sampled", "documents", "has", "been", "reduced", ".", "The", "use", "of", "additional", "stop-word", "lists", "has", "been", "considered", "in", "-LSB-", "2", "-RSB-", "to", "eliminate", "irrelevant", "terms", "-", "but", "it", "is", "maintained", "that", "such", "a", "technique", "can", "be", "difficult", "to", "apply", "in", "practice", ".", "Existing", "techniques", "in", "information", "extraction", "from", "Web", "pages", "are", "of", "varying", "degrees", "of", "complexity", ".", "For", "instance", ",", "approximate", "string", "matching", "techniques", "are", "adopted", "by", "-LSB-", "13", "-RSB-", "to", "extract", "texts", "that", "are", "different", ".", "This", "approach", "is", "limited", "to", "finding", "textual", "similarities", "and", "differences", ".", "The", "approaches", "proposed", "in", "-LSB-", "3", ",", "4", "-RSB-", "analyse", "textual", "contents", "and", "tag", "structures", "in", "order", "to", "extract", "data", "from", "Web", "pages", ".", "However", ",", "such", "an", "approach", "requires", "Web", "pages", "that", "are", "produced", "with", "well-conformed", "HTML", "tag-trees", ".", "Computation", "is", "also", "needed", "to", "convert", "and", "analyse", "Web", "pages", "in", "a", "tree-like", "structure", ".", "Moreover", ",", "-LSB-", "3", "-RSB-", "identifies", "Web", "page", "templates", "based", "on", "a", "number", "of", "pre-defined", "templates", ",", "such", "as", "exception", "page", "templates", "and", "result", "page", "templates", ".", "Our", "technique", "examines", "Web", "documents", "based", "on", "textual", "contents", "and", "the", "neighbouring", "tag", "structures", "rather", "than", "analysing", "their", "contents", "in", "a", "tree-like", "structure", ".", "We", "also", "detect", "information", "contained", "in", "different", "templates", "through", "which", "documents", "are", "generated", ".", "Therefore", ",", "it", "is", "not", "restricted", "to", "a", "pre-defined", "set", "of", "page", "templates", ".", "Furthermore", ",", "we", "focus", "on", "databases", "that", "contain", "documents", "such", "as", "archives", "and", "new", "articles", ".", "A", "distinct", "characteristic", "of", "documents", "found", "in", "such", "a", "domain", "is", "that", "the", "content", "of", "a", "document", "is", "often", "accompanied", "by", "other", "information", "for", "supplementary", "or", "navigation", "purposes", ".", "The", "proposed", "2PS", "technique", "detects", "and", "eliminates", "information", "contained", "in", "templates", "in", "order", "to", "extract", "the", "content", "of", "a", "document", ".", "This", "differs", "from", "the", "approaches", "in", "-LSB-", "1", ",", "4", "-RSB-", ",", "which", "attempt", "to", "extract", "a", "set", "of", "data", "from", "Web", "pages", "presented", "in", "a", "particular", "pattern", ".", "For", "example", ",", "the", "Web", "pages", "of", "a", "bookstore", "Web", "site", "contain", "information", "about", "authors", "followed", "by", "their", "associated", "list", "of", "publications", ".", "However", ",", "in", "the", "domain", "of", "document", "databases", ",", "information", "contained", "in", "dynamically", "generated", "Web", "pages", "is", "often", "presented", "in", "a", "structured", "fashion", "but", "irrelevant", "to", "queries", ".", "Other", "research", "studies", "-LSB-", "9", ",", "8", ",", "12", "-RSB-", "are", "specifically", "associated", "with", "the", "extraction", "of", "data", "from", "query", "forms", "in", "order", "to", "further", "the", "retrieval", "of", "information", "from", "the", "underlying", "databases", ".", "This", "section", "presents", "the", "proposed", "technique", "for", "extracting", "information", "from", "Hidden", "Web", "document", "databases", "in", "two", "phases", ",", "which", "we", "refer", "to", "as", "Two-Phase", "Sampling", "-LRB-", "2PS", "-RRB-", ".", "Figure", "1", "depicts", "the", "process", "of", "sampling", "a", "database", "and", "extracting", "query-related", "2", "information", "from", "the", "sampled", "documents", ".", "In", "phase", "one", ",", "2PS", "obtains", "randomly", "sampled", "documents", ".", "In", "phase", "two", ",", "it", "detects", "Web", "page", "templates", ".", "This", "extracts", "information", "relevant", "to", "the", "queries", "and", "then", "generates", "terms", "and", "frequencies", "to", "summarise", "the", "database", "content", ".", "The", "two", "phases", "are", "detailed", "in", "section", "3.1", "and", "3.2", ".", "3.1", "Phase", "One", ":", "Document", "Sampling", "In", "the", "first", "phase", "we", "initiate", "the", "process", "of", "sampling", "documents", "from", "a", "database", "with", "a", "randomly", "selected", "term", "from", "those", "contained", "in", "the", "search", "interface", "pages", "of", "the", "database", ".", "This", "retrieves", "top", "N", "documents", "where", "N", "represents", "the", "number", "of", "documents", "that", "are", "the", "most", "relevant", "to", "the", "query", ".", "A", "subsequent", "query", "term", "is", "then", "randomly", "selected", "from", "terms", "extracted", "from", "the", "sampled", "documents", ".", "This", "process", "is", "repeated", "until", "a", "required", "number", "of", "documents", "are", "sampled", ".", "The", "sampled", "documents", "are", "stored", "locally", "for", "further", "analysis", ".", "Figure", "2", "illustrates", "the", "algorithm", "that", "obtains", "a", "number", "of", "randomly", "sampled", "documents", ".", "t", "q", "denotes", "a", "term", "extracted", "from", "the", "search", "interface", "pages", "of", "a", "database", ",", "D.", "qt", "p", "represents", "a", "query", "term", "selected", "from", "a", "collection", "of", "terms", ",", "Q", ",", "qt", "p", "Q", ",", "1", "p", "m", ";", "where", "m", "is", "the", "distinct", "number", "of", "terms", "extracted", "from", "the", "search", "interface", "pages", "and", "the", "documents", "that", "have", "been", "sampled", ".", "R", "represents", "the", "set", "of", "documents", "randomly", "sampled", "from", "D.", "t", "r", "is", "a", "term", "extracted", "from", "d", "i", ".", "d", "i", "represents", "a", "sampled", "document", "from", "D", ",", "d", "i", "D", ",", "1", "i", "n", ",", "where", "n", "is", "the", "number", "of", "document", "to", "sample", ".", "Figure", "2", ".", "The", "algorithm", "for", "sampling", "documents", "from", "a", "database", ".", "2PS", "differs", "from", "query-based", "sampling", "in", "terms", "of", "selecting", "an", "initial", "query", ".", "The", "latter", "selects", "an", "initial", "term", "from", "a", "list", "of", "frequently", "used", "terms", ".", "2PS", "initiates", "the", "sampling", "process", "with", "a", "term", "randomly", "selected", "from", "those", "contained", "in", "the", "search", "interface", "pages", "of", "the", "database", ".", "This", "utilises", "a", "source", "of", "information", "that", "is", "closely", "related", "to", "its", "content", ".", "Moreover", ",", "2PS", "analyses", "the", "sampled", "documents", "in", "the", "second", "phase", "in", "order", "to", "extract", "query-related", "information", ".", "By", "contrast", ",", "query-based", "sampling", "does", "not", "analyse", "their", "contents", "to", "determine", "whether", "terms", "are", "relevant", "to", "queries", ".", "3.2", "Phase", "Two", ":", "Document", "Content", "Extraction", "and", "Summarisation", "The", "documents", "sampled", "from", "the", "first", "phase", "are", "further", "analysed", "in", "order", "to", "extract", "information", "relevant", "to", "the", "queries", ".", "This", "is", "then", "followed", "by", "the", "generation", "of", "terms", "and", "frequencies", "to", "represent", "the", "content", "of", "the", "underlying", "database", ".", "This", "phase", "is", "carried", "out", "through", "the", "following", "processes", ".", "3.2.1", "Generate", "Document", "Content", "Representations", "The", "content", "of", "each", "sampled", "document", "is", "converted", "into", "a", "list", "of", "text", "and", "tag", "segments", ".", "Tag", "segments", "include", "start", "tags", ",", "end", "tags", "and", "single", "tags", "specified", "in", "HyperText", "Markup", "Language", "-LRB-", "HTML", "-RRB-", ".", "Text", "segments", "are", "text", "that", "resides", "between", "two", "tag", "segments", ".", "The", "document", "content", "is", "then", "represented", "by", "text", "segments", "and", "their", "neighbouring", "tag", "segments", ",", "which", "we", "refer", "to", "as", "Text", "with", "Neighbouring", "Adjacent", "Tag", "Segments", "-LRB-", "TNATS", "-RRB-", ".", "The", "neighbouring", "adjacent", "tag", "segments", "of", "a", "text", "segment", "are", "defined", "as", "the", "list", "of", "tag", "segments", "that", "are", "located", "immediately", "before", "and", "after", "the", "text", "segment", "until", "another", "text", "segment", "is", "reached", ".", "The", "neighbouring", "tag", "segments", "of", "a", "text", "segment", "describe", "how", "the", "text", "segment", "is", "structured", "and", "its", "relation", "to", "the", "nearest", "text", "segments", ".", "Assume", "that", "a", "document", "contains", "n", "segments", ",", "a", "text", "segment", ",", "txs", ",", "is", "defined", "as", ":", "txs", "=", "-LRB-", "tx", "i", ",", "tg-lst", "j", ",", "tg-lst", "k", "-RRB-", ",", "where", "tx", "i", "is", "the", "textual", "content", "of", "the", "i", "th", "text", "segment", ",", "1", "i", "n", ";", "tg-lst", "j", "represents", "p", "tag", "segments", "located", "before", "tx", "i", "and", "tg-lst", "k", "represents", "q", "tag", "segments", "located", "after", "tx", "i", "until", "another", "text", "segment", "is", "reached", ".", "tg-lst", "j", "=", "-LRB-", "tg", "1", ",", "...", ",", "tg", "p", "-RRB-", ",", "1", "j", "p", "and", "tg-lst", "k", "=", "-LRB-", "tg", "1", ",", "...", ",", "tg", "q", "-RRB-", ",", "1", "k", "q.", "Algorithm", "SampleDocument", "Extract", "t", "q", "from", "search", "interface", "pages", "of", "D", ",", "Q", "=", "t", "q", "For", "i", "=", "1", "to", "n", "Randomly", "select", "qt", "p", "from", "Q", "If", "-LRB-", "qt", "p", "has", "not", "been", "selected", "previously", "-RRB-", "Execute", "the", "query", "with", "qt", "p", "on", "D", "j", "=", "0", "While", "j", "<", "=", "N", "If", "-LRB-", "d", "i", "R", "-RRB-", "Retrieve", "d", "i", "from", "D", "Extract", "t", "r", "from", "d", "i", ",", "R", "=", "d", "i", "Q", "=", "t", "r", "Increase", "j", "by", "1", "End", "if", "End", "while", "End", "if", "End", "for", "Figure", "3", ".", "A", "template-generated", "document", "from", "CHID", ".", "Figure", "3", "shows", "a", "template-generated", "document", "retrieved", "from", "the", "CHID", "database", ".", "The", "source", "code", "for", "this", "document", "is", "given", "in", "Figure", "4", ".", "For", "example", ",", "text", "segment", ",", "`", "1", ".", "Equipos", "Mas", "Seguros", ":", "Si", "Te", "Inyectas", "Drogas", ".", "'", ",", "can", "be", "identified", "by", "the", "text", "-LRB-", "i.e.", ",", "`", "1", ".", "Equipos", "Mas", "Seguros", ":", "Si", "Te", "Inyectas", "Drogas", ".", "'", "-RRB-", "and", "its", "neighbouring", "tag", "segments", ".", "These", "include", "the", "list", "of", "tags", "located", "before", "the", "text", "-LRB-", "i.e.", ",", "<", "/", "TITLE", ">", ",", "<", "/", "HEAD", ">", ",", "<", "BODY", ">", ",", "<", "HR", ">", ",", "<", "H3", ">", ",", "<", "B", ">", "and", "<", "I", ">", "-RRB-", "and", "the", "neighbouring", "tags", "located", "after", "the", "text", "-LRB-", "i.e.", ",", "<", "/", "I", ">", ",", "<", "/", "B", ">", ",", "<", "/", "H3", ">", ",", "<", "I", ">", "and", "<", "B", ">", "-RRB-", ".", "Thus", ",", "this", "segment", "is", "then", "represented", "as", "-LRB-", "`", "1", ".", "Equipos", "Mas", "Seguros", ":", "Si", "Te", "Inyectas", "Drogas", ".", "'", ",", "-LRB-", "<", "/", "TITLE", ">", ",", "<", "/", "HEAD", ">", ",", "<", "BODY", ">", ",", "<", "HR", ">", ",", "<", "H3", ">", ",", "<", "B", ">", ",", "<", "I", ">", "-RRB-", ",", "-LRB-", "<", "/", "I", ">", ",", "<", "/", "B", ">", ",", "<", "/", "H3", ">", ",", "<", "I", ">", ",", "<", "B", ">", "-RRB-", "-RRB-", ".", "Figure", "5", "shows", "the", "content", "3", "representation", "of", "the", "CHID", "document", "-LRB-", "given", "in", "Figure", "3", "-RRB-", "generated", "based", "on", "TNATS", ".", "Given", "a", "sampled", "document", ",", "d", ",", "with", "n", "text", "segments", ",", "the", "content", "of", "d", "is", "then", "represented", "as", ":", "Content", "-LRB-", "d", "-RRB-", "=", "-LCB-", "txs", "1", ",", "...", ",", "txs", "n", "-RCB-", ",", "where", "txs", "i", "represents", "a", "text", "segment", ",", "1", "i", "n.", "Figure", "4", ".", "The", "source", "code", "for", "the", "CHID", "document", ".", "Figure", "5", ".", "The", "content", "representation", "of", "the", "CHID", "document", "using", "TNATS", ".", "3.2.2", "Detect", "Templates", "In", "the", "domain", "of", "Hidden", "Web", "databases", ",", "documents", "are", "often", "presented", "to", "users", "through", "one", "or", "more", "templates", ".", "Templates", "are", "typically", "employed", "in", "order", "to", "describe", "document", "contents", "or", "to", "assist", "users", "in", "navigation", ".", "For", "example", ",", "information", "contained", "in", "the", "document", "-LRB-", "as", "shown", "in", "Figure", "3", "-RRB-", "can", "be", "classified", "into", "the", "two", "following", "categories", ":", "-LRB-", "i", "-RRB-", "Template-Generated", "Information", ".", "This", "includes", "information", "such", "as", "navigation", "panels", ",", "search", "interfaces", "and", "advertisements", ".", "In", "addition", ",", "information", "may", "be", "given", "to", "describe", "the", "content", "of", "a", "document", ".", "Such", "information", "is", "irrelevant", "to", "a", "user", "'s", "query", ".", "For", "example", ",", "navigation", "links", "-LRB-", "such", "as", "`", "Next", "Doc", "'", "and", "`", "Last", "Doc", "'", "-RRB-", "and", "headings", "-LRB-", "such", "`", "Subfile", "'", "and", "`", "Format", "'", "-RRB-", "are", "found", "in", "the", "document", ".", "-LRB-", "ii", "-RRB-", "Query-Related", "Information", ".", "This", "information", "is", "retrieved", "in", "response", "to", "a", "user", "'s", "query", ",", "i.e.", ",", "`", "1", ".", "Equipos", "Mas", "Seguros", ":", "Si", "Te", "Inyectas", "Drogas", ".", "...", "'", ".", "The", "2PS", "technique", "detects", "Web", "page", "templates", "employed", "by", "databases", "to", "generate", "documents", "in", "order", "to", "extract", "information", "that", "is", "relevant", "to", "queries", ".", "Figure", "6", "describes", "the", "algorithm", "that", "detects", "information", "contained", "in", "Web", "page", "templates", "from", "n", "sampled", "documents", ".", "d", "i", "represents", "a", "sampled", "document", "from", "the", "database", "D", ",", "d", "i", ",", "D", ",", "1", "i", "n.", "Content", "-LRB-", "d", "i", "-RRB-", "denotes", "the", "content", "representation", "of", "d", "i", ".", "...", "<", "HTML", ">", "<", "HEAD", ">", "<", "TITLE", ">", "CHID", "Document", "<", "/", "TITLE", ">", "<", "/", "HEAD", ">", "<", "BODY", ">", "<", "HR", ">", "<", "H3", ">", "<", "B", ">", "<", "I", ">", "1", ".", "Equipos", "Mas", "Seguros", ":", "Si", "Te", "Inyectas", "Drogas", ".", "<", "/", "I", ">", "<", "/", "B", ">", "<", "/", "H3", ">", "<", "I", ">", "<", "B", ">", "Subfile", ":", "<", "/", "B", ">", "<", "/", "I", ">", "AIDS", "Education", "<", "BR", ">", "<", "I", ">", "<", "B", ">", "Format", "-LRB-", "FM", "-RRB-", ":", "<", "/", "B", ">", "<", "/", "I", ">", "08", "-", "Brochure", ".", "<", "BR", ">", "...", "Algorithm", "DetectTemplate", "For", "i", "=", "1", "to", "n", "If", "T", "=", "If", "S", "=", "S", "=", "d", "i", "Else", "if", "S", "While", "l", "<", "=", "s", "AND", "T", "=", "Compare", "-LRB-", "Content", "-LRB-", "d", "i", "-RRB-", ",", "Content", "-LRB-", "d", "l", "-RRB-", "-RRB-", "If", "Content", "-LRB-", "d", "i", "-RRB-", "Content", "-LRB-", "d", "l", "-RRB-", "wpt", "k", "=", "Content", "-LRB-", "d", "i", "-RRB-", "Content", "-LRB-", "d", "l", "-RRB-", ",", "Store", "wpt", "k", ",", "T", "=", "wpt", "k", "Delete", "-LRB-", "Content", "-LRB-", "d", "i", "-RRB-", "Content", "-LRB-", "d", "l", "-RRB-", "-RRB-", "from", "Content", "-LRB-", "d", "i", "-RRB-", ",", "Content", "-LRB-", "d", "l", "-RRB-", "G", "k", "=", "d", "i", ",", "G", "k", "=", "d", "l", "Delete", "d", "l", "from", "S", "End", "if", "End", "while", "If", "T", "=", "S", "=", "d", "i", "End", "if", "End", "if", "Else", "if", "T", "While", "k", "<", "=", "r", "AND", "d", "i", "G", "k", "Compare", "-LRB-", "Content", "-LRB-", "wpt", "k", "-RRB-", ",", "Content", "-LRB-", "d", "i", "-RRB-", "-RRB-", "If", "Content", "-LRB-", "wpt", "k", "-RRB-", "Content", "-LRB-", "d", "i", "-RRB-", "Delete", "-LRB-", "Content", "-LRB-", "wpt", "k", "-RRB-", "Content", "-LRB-", "d", "i", "-RRB-", "-RRB-", "from", "Content", "-LRB-", "d", "i", "-RRB-", "G", "k", "=", "d", "i", "End", "if", "End", "while", "If", "S", "AND", "d", "i", "G", "k", "While", "l", "<", "=", "s", "AND", "d", "i", "G", "k", "Compare", "-LRB-", "Content", "-LRB-", "d", "i", "-RRB-", ",", "Content", "-LRB-", "d", "l", "-RRB-", "-RRB-", "If", "Content", "-LRB-", "d", "i", "-RRB-", "Content", "-LRB-", "d", "l", "-RRB-", "wpt", "k", "=", "Content", "-LRB-", "d", "i", "-RRB-", "Content", "-LRB-", "d", "l", "-RRB-", "Store", "wpt", "k", ",", "T", "=", "wpt", "k", "Delete", "-LRB-", "Content", "-LRB-", "d", "i", "-RRB-", "Content", "-LRB-", "d", "l", "-RRB-", "-RRB-", "from", "Content", "-LRB-", "d", "i", "-RRB-", ",", "Content", "-LRB-", "d", "l", "-RRB-", "G", "k", "=", "d", "i", ",", "G", "k", "=", "d", "l", "Delete", "d", "l", "from", "S", "End", "if", "End", "while", "End", "if", "If", "d", "i", "G", "k", "S", "=", "d", "i", "End", "if", "End", "if", "End", "for", "...", "`", "CHID", "Document", "'", ",", "-LRB-", "<", "HTML", ">", ",", "<", "HEAD", ">", ",", "<", "TITLE", ">", "-RRB-", ",", "-LRB-", "<", "/", "TITLE", ">", ",", "<", "/", "HEAD", ">", ",", "<", "BODY", ">", ",", "<", "HR", ">", ",", "<", "H3", ">", ",", "<", "B", ">", ",", "<", "I", ">", "-RRB-", ";", "`", "1", ".", "Equipos", "Mas", "Seguros", ":", "Si", "Te", "Inyectas", "Drogas", ".", "'", ",", "-LRB-", "<", "/", "TITLE", ">", ",", "<", "/", "HEAD", ">", ",", "<", "BODY", ">", ",", "<", "HR", ">", ",", "<", "H3", ">", ",", "<", "B", ">", ",", "<", "I", ">", "-RRB-", ",", "-LRB-", "<", "/", "I", ">", ",", "<", "/", "B", ">", ",", "<", "/", "H3", ">", ",", "<", "I", ">", ",", "<", "B", ">", "-RRB-", ";", "`", "Subfile", ":", "'", ",", "-LRB-", "<", "/", "I", ">", ",", "<", "/", "B", ">", ",", "<", "/", "H3", ">", ",", "<", "I", ">", ",", "<", "B", ">", "-RRB-", ",", "-LRB-", "<", "/", "B", ">", ",", "<", "/", "I", ">", "-RRB-", ";", "`", "AIDS", "Education", "'", ",", "-LRB-", "<", "/", "B", ">", ",", "<", "/", "I", ">", "-RRB-", ",", "-LRB-", "<", "BR", ">", ",", "<", "I", ">", ",", "<", "B", ">", "-RRB-", ";", "`", "Format", "-LRB-", "FM", "-RRB-", ":", "'", ",", "-LRB-", "<", "BR", ">", ",", "<", "I", ">", ",", "<", "B", ">", "-RRB-", ",", "-LRB-", "<", "/", "B", ">", ",", "<", "/", "I", ">", "-RRB-", ";", "...", "Figure", "6", ".", "The", "algorithm", "for", "detecting", "and", "eliminating", "the", "information", "contained", "in", "Web", "page", "templates", ".", "4", "Similar", "to", "the", "representation", "for", "the", "contents", "of", "sampled", "documents", ",", "the", "content", "of", "a", "Web", "page", "template", ",", "wpt", ",", "is", "represented", "as", "Content", "-LRB-", "wpt", "-RRB-", "=", "-LCB-", "txs", "1", ",", "...", ",", "txs", "q", "-RCB-", ",", "where", "q", "is", "the", "number", "of", "text", "segments", ",", "txs", "j", ",", "1", "j", "q.", "T", "represents", "a", "set", "of", "templates", "detected", ".", "T", "=", "-LCB-", "wpt", "1", ",", "...", ",", "wpt", "r", "-RCB-", ",", "where", "r", "is", "the", "distinct", "number", "of", "templates", ",", "wpt", "k", ",", "1", "k", "r.", "G", "k", "represents", "a", "group", "of", "documents", "generated", "from", "wpt", "k", ".", "Furthermore", ",", "S", "represents", "the", "sampled", "documents", "from", "which", "no", "templates", "have", "yet", "been", "detected", ".", "Thus", ",", "S", "=", "-LCB-", "d", "1", ",", "...", ",", "d", "s", "-RCB-", ",", "where", "s", "is", "the", "number", "of", "temporarily", "stored", "document", ",", "d", "l", ",", "1", "l", "s", ".", "The", "process", "of", "detecting", "templates", "is", "executed", "until", "all", "sampled", "documents", "are", "analysed", ".", "This", "results", "in", "the", "identification", "of", "one", "or", "more", "templates", ".", "For", "each", "template", ",", "two", "or", "more", "documents", "are", "assigned", "to", "a", "group", "associated", "with", "the", "template", "from", "which", "the", "documents", "are", "generated", ".", "Each", "document", "contains", "text", "segments", "that", "are", "not", "found", "in", "their", "respective", "template", ".", "These", "text", "segments", "are", "partially", "related", "to", "their", "queries", ".", "In", "addition", "to", "a", "set", "of", "templates", ",", "the", "content", "representations", "of", "zero", "or", "more", "documents", "in", "which", "no", "matched", "patterns", "are", "found", "are", "stored", ".", "3.2.3", "Extract", "Query-Related", "Information", "This", "process", "analyses", "a", "group", "of", "documents", "associated", "with", "each", "template", "from", "which", "documents", "are", "generated", ".", "It", "further", "identifies", "any", "repeated", "patterns", "from", "the", "remaining", "text", "segments", "of", "the", "documents", "in", "order", "to", "extract", "query-related", "information", ".", "We", "compute", "cosine", "similarity", "-LSB-", "14", "-RSB-", "given", "in", "-LRB-", "1", "-RRB-", "to", "determine", "the", "similarities", "between", "the", "text", "segments", "of", "different", "documents", "that", "are", "associated", "the", "template", "where", "the", "documents", "are", "generated", ".", "The", "textual", "content", "of", "each", "text", "segment", "is", "represented", "as", "a", "vector", "of", "terms", "with", "weights", ".", "The", "weight", "of", "a", "term", "is", "obtained", "by", "its", "occurrence", "in", "the", "segment", ".", "where", "txs", "i", "and", "txs", "j", "represent", "two", "text", "segments", "in", "a", "document", ";", "tw", "ik", "is", "the", "weight", "of", "term", "k", "in", "txs", "i", ",", "and", "tw", "jk", "is", "the", "weight", "of", "term", "k", "in", "txs", "j", ".", "This", "is", "only", "applied", "to", "text", "segments", "with", "identical", "adjacent", "tag", "segments", ".", "Two", "segments", "are", "considered", "to", "be", "similar", "if", "their", "similarity", "exceeds", "a", "threshold", "value", ".", "The", "threshold", "value", "is", "determined", "experimentally", ".", "The", "algorithm", "that", "extracts", "information", "relevant", "to", "queries", "is", "illustrated", "in", "Figure", "7", ".", "d", "a", "and", "d", "b", "represent", "the", "sampled", "documents", "from", "the", "database", ",", "D", ",", "d", "a", ",", "d", "b", "G", "k", ",", "where", "G", "k", "denotes", "a", "group", "of", "documents", "associated", "with", "the", "template", ",", "wpt", "k", ",", "from", "which", "the", "documents", "are", "generated", ".", "tx", "m", "represents", "the", "textual", "content", "of", "a", "text", "segment", ",", "txs", "m", ",", "contained", "in", "d", "i", ",", "d", "i", "G", "k", ".", "tx", "n", "represents", "the", "textual", "content", "of", "a", "text", "segment", ",", "txs", "n", ",", "contained", "in", "d", "l", ",", "d", "l", "S.", "S", "represents", "the", "sampled", "documents", "from", "which", "no", "templates", "are", "detected", ".", "The", "results", "of", "the", "above", "algorithm", "extract", "text", "segments", "with", "different", "tag", "structures", ".", "It", "also", "extracts", "text", "segments", "that", "have", "identical", "adjacent", "tag", "structures", "but", "are", "significantly", "different", "in", "their", "textual", "contents", ".", "Figure", "8", "shows", "the", "information", "extracted", "from", "the", "document", "content", "-LRB-", "given", "in", "Figure", "4", "-RRB-", "as", "a", "result", "of", "eliminating", "information", "contained", "in", "the", "Web", "page", "template", ".", "3.2.4", "Generate", "Content", "Summary", "Frequencies", "are", "computed", "for", "the", "terms", "extracted", "from", "randomly", "sampled", "documents", ".", "These", "summarise", "the", "information", "content", "of", "a", "database", ",", "which", "we", "refer", "to", "as", "Content", "Summary", ".", "Algorithm", "ExtractQueryInfo", "For", "each", "-LRB-", "d", "a", "G", "k", "-RRB-", "For", "each", "-LRB-", "d", "b", "G", "k", "-RRB-", ",", "d", "a", "d", "b", "Compare", "-LRB-", "Content", "-LRB-", "d", "a", "-RRB-", ",", "Content", "-LRB-", "d", "b", "-RRB-", "-RRB-", "If", "Content", "-LRB-", "d", "a", "-RRB-", "Content", "-LRB-", "d", "b", "-RRB-", "Delete", "-LRB-", "Content", "-LRB-", "d", "a", "-RRB-", "Content", "-LRB-", "d", "b", "-RRB-", "-RRB-", "from", "Content", "-LRB-", "d", "a", "-RRB-", ",", "Content", "-LRB-", "d", "b", "-RRB-", "End", "if", "End", "for", "End", "for", "For", "each", "-LRB-", "d", "i", "G", "k", "-RRB-", "Extract", "tx", "m", "of", "txs", "m", "from", "Content", "-LRB-", "d", "i", "-RRB-", "End", "for", "For", "each", "-LRB-", "d", "l", "S", "-RRB-", "Extract", "tx", "n", "of", "txs", "n", "from", "Content", "-LRB-", "d", "l", "-RRB-", "End", "for", "Figure", "7", ".", "The", "algorithm", "for", "extracting", "query-related", "information", "from", "template-generated", "documents", ".", "1", ".", "Equipos", "Mas", "Seguros", ":", "Si", "Te", "Inyectas", "Drogas", ".", "AIDS", "Education", "...", "=", "=", "=", "=", "t", "k", "jk", "t", "k", "t", "k", "ik", "jk", "ik", "j", "i", "tw", "tw", "tw", "tw", "txs", "txs", "COSINE", "1", "2", "1", "1", "2", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", ".", "-LRB-", "1", "-RRB-", "Figure", "8", ".", "The", "query-related", "information", "extracted", "from", "the", "CHID", "document", ".", "Previous", "experiments", "in", "-LSB-", "2", "-RSB-", "demonstrate", "that", "a", "number", "of", "randomly", "sampled", "documents", "-LRB-", "i.e.", ",", "300", "documents", "-RRB-", "sufficiently", "represent", "the", "information", "content", "of", "a", "database", ".", "In", "the", "domain", "of", "Hidden", "Web", "databases", ",", "the", "inverse", "document", "frequency", "-LRB-", "idf", "-RRB-", ",", "used", "in", "traditional", "information", "retrieval", ",", "is", "not", "applicable", ",", "since", "the", "total", "number", "of", "documents", "in", "a", "database", "is", "often", "unknown", ".", "Therefore", ",", "document", "frequency", "-LRB-", "df", "-RRB-", ",", "collection", "term", "frequency", "-LRB-", "ctf", "-RRB-", "and", "average", "term", "frequency", "-LRB-", "avg_tf", "-RRB-", "initially", "used", "in", "-LSB-", "2", "-RSB-", "are", "applied", "in", "this", "paper", ".", "We", "consider", "the", "following", "frequencies", "to", "compute", "the", "content", "summary", "of", "a", "Hidden", "Web", "database", ".", "Document", "frequency", "-LRB-", "df", "-RRB-", ":", "the", "number", "of", "documents", "in", "the", "collection", "of", "documents", "sampled", "that", "contain", "term", "t", ",", "where", "d", "is", "the", "document", "and", "f", "is", "the", "frequency", "Collection", "term", "frequency", "-LRB-", "ctf", "-RRB-", ":", "the", "occurrence", "of", "a", "term", "in", "the", "collection", "of", "documents", "sampled", ",", "where", "c", "is", "the", "collection", ",", "t", "is", "the", "term", "and", "f", "is", "the", "frequency", "Average", "term", "frequency", "-LRB-", "avg_tf", "-RRB-", ":", "the", "average", "frequency", "of", "a", "term", "obtained", "from", "dividing", "collection", "term", "frequency", "by", "document", "frequency", "-LRB-", "i.e.", ",", "avg_tf", "=", "ctf", "/", "df", "-RRB-", "5", "Table", "1", ".", "3", "Hidden", "Web", "databases", "used", "in", "the", "experiments", "Database", "URL", "Subject", "Content", "Template", "Help", "Site", "www.help-site.com", "Computer", "manuals", "Homogeneous", "Multiple", "templates", "CHID", "www.chid.nih.gov", "Healthcare", "articles", "Homogeneous", "Single", "template", "Wired", "News", "www.wired.com", "General", "news", "articles", "Heterogeneous", "Single", "template", "The", "content", "summary", "of", "a", "document", "database", "is", "defined", "as", "follows", ".", "Assume", "that", "a", "Hidden", "Web", "database", ",", "D", ",", "is", "sampled", "with", "N", "documents", ".", "Each", "sampled", "document", ",", "d", ",", "is", "represented", "as", "a", "vector", "of", "terms", "and", "their", "associated", "weights", "-LSB-", "14", "-RSB-", ".", "Thus", "d", "=", "-LRB-", "w", "1", ",", "...", ",", "w", "m", "-RRB-", ",", "where", "w", "i", "is", "the", "weight", "of", "term", "t", "i", ",", "and", "m", "is", "the", "number", "of", "distinct", "terms", "in", "d", "D", ",", "1", "i", "m.", "Each", "w", "i", "is", "computed", "using", "term", "frequency", "metric", ",", "avg_tf", "-LRB-", "i.", "e.", ",", "w", "i", "=", "ctf", "i", "/", "df", "i", "-RRB-", ".", "The", "content", "summary", "is", "then", "denoted", "as", "CS", "-LRB-", "D", "-RRB-", ",", "which", "is", "generated", "from", "the", "vectors", "of", "sampled", "documents", ".", "Assume", "that", "n", "is", "the", "number", "of", "distinct", "terms", "in", "all", "sampled", "documents", ".", "CS", "-LRB-", "D", "-RRB-", "is", ",", "therefore", ",", "expressed", "as", "a", "vector", "of", "terms", ":", "CS", "-LRB-", "D", "-RRB-", "=", "-LCB-", "w", "1", ",", "...", ",", "w", "n", "-RCB-", ",", "where", "w", "i", "is", "computed", "by", "adding", "the", "weights", "of", "t", "i", "in", "the", "documents", "sampled", "from", "D", "and", "dividing", "the", "sum", "by", "the", "number", "of", "sampled", "documents", "that", "contain", "t", "i", ",", "1", "i", "n", ".", "This", "section", "reports", "on", "a", "number", "of", "experiments", "conducted", "to", "assess", "the", "effectiveness", "of", "the", "2PS", "technique", "in", "terms", "of", ":", "-LRB-", "i", "-RRB-", "detecting", "Web", "page", "templates", ",", "and", "-LRB-", "ii", "-RRB-", "extracting", "relevant", "information", "from", "the", "documents", "of", "a", "Hidden", "Web", "databases", "through", "sampling", ".", "The", "experimental", "results", "are", "compared", "with", "those", "from", "query-based", "sampling", "-LRB-", "abbreviated", "as", "QS", "-RRB-", ".", "We", "compare", "2PS", "with", "QS", "as", "it", "is", "a", "well-established", "technique", "and", "has", "also", "been", "widely", "adopted", "by", "other", "relevant", "studies", "-LSB-", "5", ",", "10", ",", "11", ",", "15", "-RSB-", ".", "Experiments", "are", "carried", "out", "on", "three", "real-world", "Hidden", "Web", "document", "databases", "including", "Help", "Site", ",", "CHID", "and", "Wired", "News", ",", "which", "provide", "information", "about", "user", "manuals", ",", "healthcare", "archives", "and", "news", "articles", ",", "respectively", ".", "Table", "1", "summarises", "these", "databases", "in", "terms", "of", "their", "subjects", ",", "contents", "and", "templates", "employed", ".", "For", "instance", ",", "Help", "Site", "and", "CHID", "contain", "documents", "relating", "to", "subjects", "on", "computing", "and", "healthcare", ",", "respectively", ".", "Their", "information", "contents", "are", "homogeneous", "in", "nature", ".", "By", "contrast", ",", "Wired", "News", "contains", "articles", "that", "relate", "to", "different", "subjects", "of", "interest", ".", "Where", "the", "number", "of", "templates", "is", "concerned", ",", "CHID", "and", "Wired", "News", "generate", "documents", "from", "one", "Web", "page", "template", ".", "Help", "Site", "maintains", "a", "collection", "of", "documents", "produced", "by", "other", "information", "sources", ".", "Subsequently", ",", "different", "Web", "page", "templates", "are", "found", "in", "Help", "Site", "sampled", "documents", ".", "The", "experiment", "conducted", "using", "QS", "initiates", "the", "first", "query", "to", "a", "database", "with", "a", "frequently", "used", "term", "to", "obtain", "a", "set", "of", "sampled", "documents", ".", "Subsequent", "query", "terms", "are", "randomly", "selected", "from", "those", "contained", "in", "the", "sampled", "documents", ".", "It", "extracts", "terms", "-LRB-", "including", "terms", "contained", "in", "Web", "page", "templates", "-RRB-", "and", "updates", "the", "frequencies", "after", "each", "document", "is", "sampled", ".", "By", "contrast", ",", "2PS", "initiates", "the", "sampling", "process", "with", "a", "term", "contained", "in", "the", "search", "interface", "pages", "of", "a", "database", ".", "In", "addition", ",", "2PS", "analyses", "the", "sampled", "documents", "in", "the", "second", "phase", "in", "order", "to", "extract", "query-related", "information", ",", "from", "which", "terms", "and", "frequencies", "are", "generated", ".", "Experimental", "results", "in", "-LSB-", "2", "-RSB-", "conclude", "that", "QS", "obtains", "approximately", "80", "%", "of", "terms", "from", "a", "database", ",", "when", "300", "documents", "are", "sampled", "and", "top", "4", "documents", "are", "retrieved", "for", "each", "query", ".", "These", "two", "parameters", "are", "used", "to", "obtain", "results", "for", "our", "experiments", "in", "which", "terms", "and", "frequencies", "are", "generated", "for", "QS", "and", "2PS", "after", "300", "documents", "have", "been", "sampled", ".", "The", "results", "generated", "from", "QS", "provide", "the", "baseline", "for", "the", "experiments", ".", "Three", "sets", "of", "samples", "are", "obtained", "for", "each", "database", "and", "300", "documents", "are", "retrieved", "for", "each", "sample", ".", "First", ",", "we", "manually", "examine", "each", "set", "of", "sampled", "documents", "to", "obtain", "the", "number", "of", "Web", "page", "templates", "used", "to", "generate", "the", "documents", ".", "This", "is", "then", "compared", "with", "the", "number", "of", "templates", "detected", "by", "2PS", ".", "The", "detection", "of", "Web", "page", "templates", "from", "the", "sampled", "documents", "is", "important", "as", "this", "determines", "whether", "irrelevant", "information", "is", "effectively", "eliminated", ".", "Next", ",", "we", "compare", "the", "number", "of", "relevant", "terms", "-LRB-", "from", "top", "50", "terms", "-RRB-", "retrieved", "using", "2PS", "with", "the", "number", "obtained", "by", "QS", ".", "Terms", "are", "ranked", "according", "to", "their", "ctf", "frequencies", "to", "determine", "their", "relevancy", "to", "the", "queries", ".", "This", "frequency", "represents", "the", "occurrences", "of", "a", "term", "contained", "in", "the", "sampled", "documents", ".", "Ctf", "frequencies", "are", "used", "to", "demonstrate", "the", "effectiveness", "of", "extracting", "query-related", "information", "from", "sampled", "documents", "since", "the", "terms", "extracted", "from", "Web", "page", "templates", "are", "often", "ranked", "with", "high", "ctf", "frequencies", ".", "Table", "2", ".", "The", "number", "of", "templates", "employed", "by", "databases", "and", "the", "number", "detected", "by", "2PS", "Number", "of", "templates", "Databases", "Employed", "Detected", "Sample", "1", "17", "15", "Sample", "2", "17", "16", "Help", "Site", "Sample", "3", "19", "17", "Sample", "1", "1", "1", "Sample", "2", "1", "1", "CHID", "Sample", "3", "1", "1", "Sample", "1", "1", "1", "Sample", "2", "1", "1", "Wired", "News", "Sample", "3", "1", "1", "Experimental", "results", "for", "QS", "and", "2PS", "are", "summarised", "as", "follows", ".", "Firstly", ",", "Table", "2", "gives", "the", "number", "of", "Web", "page", "templates", "employed", "by", "the", "databases", "and", "the", "number", "detected", "by", "2PS", ".", "It", "shows", "that", "2PS", "effectively", "identifies", "the", "number", "of", "templates", "found", "in", "the", "sampled", "documents", ".", "However", ",", "a", "small", "number", "of", "templates", "are", "not", "detected", "from", "Help", "Site", ".", "For", "instance", ",", "2PS", "does", "not", "detect", "two", "of", "the", "templates", "from", "the", "first", "set", "of", "sampled", "documents", ",", "since", "the", "two", "templates", "are", "very", "similar", "in", "terms", "of", "content", "and", "structure", ".", "6", "Table", "3", "summarises", "the", "number", "of", "relevant", "terms", "-LRB-", "from", "top", "50", "terms", "ranked", "according", "to", "their", "ctf", "frequencies", "-RRB-", "obtained", "for", "the", "three", "databases", ".", "These", "terms", "are", "retrieved", "using", "2PS", "and", "QS", ".", "We", "determine", "the", "relevancy", "of", "a", "term", "by", "examining", "whether", "the", "term", "is", "found", "in", "Web", "page", "templates", ".", "Table", "3", "gives", "the", "number", "of", "retrieved", "terms", "that", "do", "not", "appear", "in", "Web", "page", "templates", ".", "The", "results", "show", "that", "2PS", "obtains", "more", "relevant", "terms", ".", "For", "instance", ",", "in", "the", "first", "set", "of", "documents", "sampled", "from", "CHID", "using", "2PS", ",", "the", "number", "of", "relevant", "terms", "retrieved", "is", "47", ".", "By", "comparison", ",", "the", "number", "of", "terms", "obtained", "for", "QS", "is", "20", ".", "The", "results", "generated", "from", "CHID", "and", "Wired", "News", "demonstrate", "that", "2PS", "retrieves", "more", "relevant", "terms", ",", "as", "a", "large", "number", "of", "terms", "contained", "in", "the", "templates", "have", "been", "successfully", "eliminated", "from", "the", "top", "50", "terms", ".", "However", ",", "the", "elimination", "of", "template", "terms", "is", "less", "noticeable", "for", "Help", "Site", ".", "Our", "observation", "is", "that", "template", "terms", "attain", "high", "frequencies", "since", "the", "CHID", "and", "Wired", "News", "databases", "generate", "documents", "using", "a", "single", "Web", "page", "template", ".", "By", "comparison", ",", "a", "larger", "number", "of", "Web", "page", "templates", "are", "found", "in", "the", "documents", "sampled", "from", "Help", "Site", ".", "As", "a", "result", ",", "terms", "contained", "in", "the", "templates", "do", "not", "attain", "high", "frequencies", "as", "those", "found", "in", "the", "templates", "employed", "by", "CHID", "and", "Wired", "News", ".", "Table", "4", "and", "5", "show", "the", "results", "of", "the", "top", "50", "terms", "ranked", "according", "to", "their", "ctf", "frequencies", "retrieved", "from", "the", "first", "set", "of", "sampled", "documents", "of", "the", "CHID", "database", ".", "Table", "4", "shows", "the", "top", "50", "terms", "retrieved", "for", "QS", "whereby", "terms", "contained", "in", "Web", "page", "templates", "are", "not", "excluded", ".", "As", "a", "result", ",", "a", "number", "of", "terms", "-LRB-", "such", "as", "`", "author", "'", ",", "`", "language", "'", "and", "`", "format", "'", "-RRB-", "have", "attained", "much", "higher", "frequencies", ".", "By", "contrast", ",", "Table", "5", "lists", "the", "top", "50", "terms", "retrieved", "using", "2PS", ".", "Our", "technique", "eliminates", "terms", "-LRB-", "such", "as", "`", "author", "'", "and", "`", "format", "'", "-RRB-", "and", "obtains", "terms", "-LRB-", "such", "as", "`", "treatment", "'", ",", "`", "disease", "'", "and", "`", "immunodeficiency", "'", "-RRB-", "in", "the", "higher", "rank", ".", "Table", "3", ".", "The", "number", "of", "relevant", "terms", "retrieved", "-LRB-", "from", "top", "50", "terms", "-RRB-", "according", "to", "ctf", "frequencies", "Number", "of", "relevant", "terms", "Databases", "QS", "2PS", "Sample", "1", "46", "48", "Sample", "2", "47", "48", "Help", "Site", "Sample", "3", "46", "48", "Sample", "1", "20", "47", "Sample", "2", "19", "47", "CHID", "Sample", "3", "20", "47", "Sample", "1", "14", "42", "Sample", "2", "10", "43", "Wired", "News", "Sample", "3", "11", "39", "This", "paper", "presents", "a", "sampling", "and", "extraction", "technique", ",", "2PS", ",", "which", "utilises", "information", "that", "is", "contained", "in", "the", "search", "interface", "pages", "and", "documents", "of", "a", "database", "in", "the", "sampling", "process", ".", "This", "technique", "extracts", "information", "relevant", "to", "queries", "from", "the", "sampled", "documents", "in", "order", "to", "generate", "terms", "and", "frequencies", "with", "improved", "accuracy", ".", "Experimental", "results", "demonstrate", "that", "our", "technique", "effectively", "eliminates", "information", "contained", "in", "Web", "page", "templates", ",", "thus", "attaining", "terms", "and", "frequencies", "that", "are", "of", "a", "higher", "degree", "of", "relevancy", ".", "This", "can", "also", "enhance", "the", "effectiveness", "of", "categorisation", "in", "which", "such", "statistics", "are", "used", "to", "represent", "the", "information", "contents", "of", "underlying", "databases", ".", "We", "obtain", "promising", "results", "by", "applying", "2PS", "in", "the", "experiments", "on", "three", "databases", "that", "differ", "in", "nature", ".", "However", ",", "experiments", "on", "a", "larger", "number", "of", "Hidden", "Web", "databases", "are", "required", "in", "order", "to", "further", "assess", "the", "effectiveness", "of", "the", "proposed", "technique", ".", "Table", "4", ".", "Top", "50", "terms", "and", "frequencies", "ranked", "according", "to", "ctf", "generated", "from", "CHID", "when", "QS", "is", "applied", "Rank", "Term", "Rank", "Term", "Rank", "Term", "1", "hiv", "18", "document", "35", "lg", "2", "aids", "19", "disease", "36", "ve", "3", "information", "20", "published", "37", "yr", "4", "health", "21", "physical", "38", "ac", "5", "prevention", "22", "subfile", "39", "corporate", "6", "education", "23", "audience", "40", "mj", "7", "tb", "24", "update", "41", "description", "8", "accession", "25", "verification", "42", "www", "9", "number", "26", "major", "43", "cn", "10", "author", "27", "pamphlet", "44", "pd", "11", "persons", "28", "chid", "45", "english", "12", "language", "29", "human", "46", "national", "13", "sheet", "30", "date", "47", "public", "14", "format", "31", "abstract", "48", "immunodeficiency", "15", "treatment", "32", "code", "49", "virus", "16", "descriptors", "33", "ab", "50", "org", "17", "availability", "34", "fm", "7", "Table", "5", ".", "Top", "50", "terms", "and", "frequencies", "ranked", "according", "to", "ctf", "generated", "from", "CHID", "when", "2PS", "is", "applied", "Rank", "Term", "Rank", "Term", "Rank", "Term", "1", "hiv", "18", "education", "35", "testing", "2", "aids", "19", "virus", "36", "programs", "3", "information", "20", "org", "37", "services", "4", "health", "21", "notes", "38", "clinical", "5", "prevention", "22", "nt", "39", "people", "6", "tb", "23", "cdc", "40", "hepatitis", "7", "persons", "24", "service", "41", "community", "8", "sheet", "25", "box", "42", "world", "9", "treatment", "26", "research", "43", "listed", "10", "disease", "27", "department", "44", "professionals", "11", "human", "28", "positive", "45", "training", "12", "pamphlet", "29", "tuberculosis", "46", "diseases", "13", "www", "30", "control", "47", "accession", "14", "http", "31", "drug", "48", "network", "15", "national", "32", "discusses", "49", "general", "16", "public", "33", "ill", "50", "std", "17", "immunodeficiency", "34", "organizations", "-LSB-", "1", "-RSB-", "Arasu", ",", "A.", "and", "Garcia-Molina", ",", "H.", "Extracting", "Structured", "Data", "from", "Web", "Pages", ".", "In", "Proceedings", "of", "the", "2003", "ACM", "SIGMOD", "International", "Conference", "on", "Management", ",", "2003", ",", "337-348", ".", "-LSB-", "2", "-RSB-", "Callan", ",", "J.", "and", "Connell", ",", "M.", "Query-Based", "Sampling", "of", "Text", "Databases", ".", "ACM", "Transactions", "on", "Information", "Systems", "-LRB-", "TOIS", "-RRB-", ",", "Vol", ".", "19", ",", "No.", "2", ",", "2001", ",", "97-130", ".", "-LSB-", "3", "-RSB-", "Caverlee", ",", "J.", ",", "Buttler", ",", "D.", "and", "Liu", ",", "L.", "Discovering", "Objects", "in", "Dynamically-Generated", "Web", "Pages", ".", "Technical", "report", ",", "Georgia", "Institute", "of", "Technology", ",", "2003", ".", "-LSB-", "4", "-RSB-", "Crescenzi", ",", "V.", ",", "Mecca", ",", "G.", "and", "Merialdo", ",", "P.", "ROADRUNNER", ":", "Towards", "Automatic", "Data", "Extraction", "from", "Large", "Web", "Sites", ",", "In", "Proceedings", "of", "the", "27th", "International", "Conference", "on", "Very", "Large", "Data", "Bases", "-LRB-", "VLDB", "-RRB-", ",", "2001", ",", "109-118", ".", "-LSB-", "5", "-RSB-", "Gravano", ",", "L.", ",", "Ipeirotis", ",", "P.", "G.", "and", "Sahami", ",", "M.", "QProber", ":", "A", "System", "for", "Automatic", "Classification", "of", "Hidden-Web", "Databases", ".", "ACM", "Transactions", "on", "Information", "Systems", "-LRB-", "TOIS", "-RRB-", ",", "Vol", ".", "21", ",", "No.", "1", ",", "2003", ".", "-LSB-", "6", "-RSB-", "He", ",", "M.", "and", "Drobnik", ",", "O.", "Clustering", "Specialised", "Web-databases", "by", "Exploiting", "Hyperlinks", ".", "In", "Proceedings", "of", "the", "Second", "Asian", "Digital", "Library", "Conference", ",", "1999", ".", "-LSB-", "7", "-RSB-", "Hedley", ",", "Y.L.", ",", "Younas", ",", "M.", ",", "James", ",", "A.", "and", "Sanderson", "M.", "Query-Related", "Data", "Extraction", "of", "Hidden", "Web", "Documents", ".", "In", "Proceedings", "of", "the", "27th", "Annual", "International", "ACM", "SIGIR", "Conference", ",", "2004", ",", "558-559", ".", "-LSB-", "8", "-RSB-", "Lage", ",", "J.", "P.", ",", "da", "Silva", ",", "A.", "S.", ",", "Golgher", ",", "P.", "B.", "and", "Laender", ",", "A.", "H.", "F.", "Automatic", "Generation", "of", "Agents", "for", "Collecting", "Hidden", "Web", "Pages", "for", "Data", "Extraction", ".", "Data", "&", "Knowledge", "Engineering", ",", "Vol", ".", "49", ",", "No.", "2", ",", "2004", ",", "177-196", ".", "-LSB-", "9", "-RSB-", "Liddle", ",", "S.W.", ",", "Yau", ",", "S.H.", "and", "Embley", ",", "D.", "W.", "On", "the", "Automatic", "Extraction", "of", "Data", "from", "the", "Hidden", "Web", ".", "In", "Proceedings", "of", "the", "20th", "International", "Conference", "on", "Conceptual", "Modeling", ",", "-LRB-", "ER", "-RRB-", "Workshops", ",", "2001", ",", "212-226", ".", "-LSB-", "10", "-RSB-", "Lin", ",", "K.I.", "and", "Chen", ",", "H.", "Automatic", "Information", "Discovery", "from", "the", "Invisible", "Web", ".", "International", "Conference", "on", "Information", "Technology", ":", "Coding", "and", "Computing", "-LRB-", "ITCC", "-RRB-", ",", "2002", ",", "332-337", ".", "-LSB-", "11", "-RSB-", "Meng", ",", "W.", ",", "Wang", ",", "W.", ",", "Sun", ",", "H.", "and", "Yu", ",", "C.", "Concept", "Hierarchy", "Based", "Text", "Database", "Categorization", ".", "International", "Journal", "on", "Knowledge", "and", "Information", "Systems", ",", "Vol", ".", "4", ",", "No.", "2", ",", "2002", ",", "132-150", ".", "-LSB-", "12", "-RSB-", "Raghavan", ",", "S.", "and", "Garcia-Molina", ",", "H.", "Crawling", "the", "Hidden", "Web", ".", "In", "Proceedings", "of", "the", "27th", "International", "Conference", "on", "Very", "Large", "Databases", "-LRB-", "VLDB", "-RRB-", ",", "2001", ",", "129-138", ".", "-LSB-", "13", "-RSB-", "Rahardjo", ",", "B.", "and", "Yap", ",", "R.", "Automatic", "Information", "Extraction", "from", "Web", "Pages", ",", "In", "Proceedings", "of", "the", "24th", "Annual", "International", "ACM", "SIGIR", "Conference", ",", "2001", ",", "430-431", ".", "-LSB-", "14", "-RSB-", "Salton", ",", "G.", "and", "McGill", ",", "M.", "Introduction", "to", "Modern", "Information", "Retrieval", ".", "New", "York", ",", "McCraw-Hill", ",", "1983", ".", "-LSB-", "15", "-RSB-", "Sugiura", ",", "A.", "and", "Etzioni", ",", "O.", "Query", "Routing", "for", "Web", "Search", "Engines", ":", "Architecture", "and", "Experiments", ".", "In", "Proceedings", "of", "the", "9th", "International", "World", "Wide", "Web", "Conference", ":", "The", "Web", ":", "The", "Next", "Generation", ",", "2000", ",", "417-430", ".", "8"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["web page templates", "string matching techniques", "neighbouring adjacent tag segments", "hidden web databases", "search interface pages", "document sampling", "information extraction"], "abstractive_keyphrases": ["irrelavant information extraction", "query-based sampling", "hypertext markup langauges", "2-phase sampling technique"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "153", "document": ["Protected", "Interactive", "3D", "Graphics", "Via", "Remote", "Rendering", "Valuable", "3D", "graphical", "models", ",", "such", "as", "high-resolution", "digital", "scans", "of", "cultural", "heritage", "objects", ",", "may", "require", "protection", "to", "prevent", "piracy", "or", "misuse", ",", "while", "still", "allowing", "for", "interactive", "display", "and", "manipulation", "by", "a", "widespread", "audience", ".", "We", "have", "investigated", "techniques", "for", "protecting", "3D", "graphics", "content", ",", "and", "we", "have", "developed", "a", "remote", "rendering", "system", "suitable", "for", "sharing", "archives", "of", "3D", "models", "while", "protecting", "the", "3D", "geometry", "from", "unauthorized", "extraction", ".", "The", "system", "consists", "of", "a", "3D", "viewer", "client", "that", "includes", "low-resolution", "versions", "of", "the", "3D", "models", ",", "and", "a", "rendering", "server", "that", "renders", "and", "returns", "images", "of", "high-resolution", "models", "according", "to", "client", "requests", ".", "The", "server", "implements", "a", "number", "of", "defenses", "to", "guard", "against", "3D", "reconstruction", "attacks", ",", "such", "as", "monitoring", "and", "limiting", "request", "streams", ",", "and", "slightly", "perturbing", "and", "distorting", "the", "rendered", "images", ".", "We", "consider", "several", "possible", "types", "of", "reconstruction", "attacks", "on", "such", "a", "rendering", "server", ",", "and", "we", "examine", "how", "these", "attacks", "can", "be", "defended", "against", "without", "excessively", "compromising", "the", "interactive", "experience", "for", "non-malicious", "users", ".", "CR", "Categories", ":", "I.", "3.2", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Graphics", "Systems-Remote", "systems", "Protecting", "digital", "information", "from", "theft", "and", "misuse", ",", "a", "subset", "of", "the", "digital", "rights", "management", "problem", ",", "has", "been", "the", "subject", "of", "much", "research", "and", "many", "attempted", "practical", "solutions", ".", "Efforts", "to", "protect", "software", ",", "databases", ",", "digital", "images", ",", "digital", "music", "files", ",", "and", "other", "content", "are", "ubiquitous", ",", "and", "data", "security", "is", "a", "primary", "concern", "in", "the", "design", "of", "modern", "computing", "systems", "and", "processes", ".", "However", ",", "there", "have", "been", "few", "technological", "solutions", "to", "specifically", "protect", "interactive", "3D", "graphics", "content", ".", "The", "demand", "for", "protecting", "3D", "graphical", "models", "is", "significant", ".", "Contemporary", "3D", "digitization", "technologies", "allow", "for", "the", "reliable", "and", "efficient", "creation", "of", "accurate", "3D", "models", "of", "many", "physical", "objects", ",", "and", "a", "number", "of", "sizable", "archives", "of", "such", "objects", "have", "been", "created", ".", "The", "Stanford", "Digital", "Michelangelo", "Project", "-LSB-", "Levoy", "et", "al.", "2000", "-RSB-", ",", "for", "example", ",", "has", "created", "a", "high-resolution", "digital", "archive", "of", "10", "large", "statues", "of", "Michelangelo", ",", "including", "the", "David", ".", "These", "statues", "represent", "the", "artistic", "patrimony", "of", "Italy", "'s", "cultural", "institutions", ",", "and", "the", "contract", "with", "the", "Italian", "authorities", "permits", "the", "distribution", "of", "the", "3D", "models", "only", "to", "established", "scholars", "for", "non-commercial", "use", ".", "Though", "all", "parties", "involved", "would", "like", "the", "models", "to", "be", "widely", "available", "for", "constructive", "purposes", ",", "were", "the", "digital", "3D", "model", "of", "the", "David", "to", "be", "distributed", "in", "an", "unprotected", "fashion", ",", "it", "would", "soon", "be", "pirated", ",", "and", "simulated", "marble", "replicas", "would", "be", "manufactured", "outside", "the", "provisions", "of", "the", "parties", "authorizing", "the", "creation", "of", "the", "model", ".", "Digital", "3D", "archives", "of", "archaeological", "artifacts", "are", "another", "example", "of", "3D", "models", "often", "requiring", "piracy", "protection", ".", "Curators", "of", "such", "artifact", "collections", "are", "increasingly", "turning", "to", "3D", "digitization", "as", "a", "way", "to", "preserve", "and", "widen", "scholarly", "usage", "of", "their", "holdings", ",", "by", "allowing", "virtual", "display", "and", "object", "examination", "over", "the", "Internet", ",", "for", "example", ".", "However", ",", "the", "owners", "and", "maintainers", "of", "the", "artifacts", "often", "desire", "to", "maintain", "strict", "control", "over", "the", "use", "of", "the", "3D", "data", "and", "to", "guard", "against", "theft", ".", "An", "example", "of", "such", "a", "collection", "is", "-LSB-", "Stanford", "Digital", "Forma", "Urbis", "Project", "2004", "-RSB-", ",", "in", "which", "over", "one", "thousand", "fragments", "of", "an", "ancient", "Roman", "map", "were", "digitized", "and", "are", "being", "made", "available", "through", "a", "web-based", "database", ",", "providing", "that", "the", "3D", "models", "can", "be", "adequately", "protected", ".", "Other", "application", "areas", "such", "as", "entertainment", "and", "online", "commerce", "may", "also", "require", "protection", "for", "3D", "graphics", "content", ".", "3D", "character", "models", "developed", "for", "use", "in", "motion", "pictures", "are", "often", "repurposed", "for", "widespread", "use", "in", "video", "games", "and", "promotional", "materials", ".", "Such", "models", "represent", "valuable", "intellectual", "property", ",", "and", "solutions", "for", "preventing", "their", "piracy", "from", "these", "interactive", "applications", "would", "be", "very", "useful", ".", "In", "some", "cases", ",", "such", "as", "3D", "body", "scans", "of", "high", "profile", "actors", ",", "content", "developers", "may", "be", "reluctant", "to", "distribute", "the", "3D", "models", "without", "sufficient", "control", "over", "reuse", ".", "In", "the", "area", "of", "online", "commerce", ",", "a", "number", "of", "Internet", "content", "developers", "have", "reported", "an", "unwillingness", "of", "clients", "to", "pursue", "3D", "graphics", "projects", "specifically", "due", "to", "the", "lack", "of", "ability", "to", "prevent", "theft", "of", "the", "3D", "content", "-LSB-", "Ressler", "2001", "-RSB-", ".", "Prior", "technical", "research", "in", "the", "area", "of", "intellectual", "property", "protections", "for", "3D", "data", "has", "primarily", "concentrated", "on", "3D", "digital", "watermarking", "techniques", ".", "Over", "30", "papers", "in", "the", "last", "7", "years", "describe", "steganographic", "approaches", "to", "embedding", "hidden", "information", "into", "3D", "graphical", "models", ",", "with", "varying", "degrees", "of", "robustness", "to", "attacks", "that", "seek", "to", "disable", "watermarks", "through", "alterations", "to", "the", "3D", "shape", "or", "data", "representation", ".", "Many", "of", "the", "most", "successful", "3D", "watermarking", "schemes", "are", "based", "on", "spread-spectrum", "frequency", "domain", "transformations", ",", "which", "embed", "watermarks", "at", "multiple", "scales", "by", "introducing", "controlled", "perturbations", "into", "the", "coordinates", "of", "the", "3D", "model", "vertices", "-LSB-", "Praun", "et", "al.", "1999", ";", "Ohbuchi", "et", "al.", "2002", "-RSB-", ".", "Complementary", "technologies", "search", "collections", "of", "3D", "models", "and", "examine", "them", "for", "the", "presence", "of", "digital", "watermarks", ",", "in", "an", "effort", "to", "detect", "piracy", ".", "We", "believe", "that", "for", "the", "digital", "representations", "of", "highly", "valuable", "3D", "objects", "such", "as", "cultural", "heritage", "artifacts", ",", "it", "is", "not", "sufficient", "to", "detect", "piracy", "after", "the", "fact", ";", "we", "must", "instead", "prevent", "it", ".", "The", "computer", "industry", "has", "experimented", "with", "a", "number", "of", "techniques", "for", "preventing", "unauthorized", "use", "and", "copying", "of", "computer", "software", "and", "digital", "data", ".", "These", "techniques", "have", "included", "physical", "dongles", ",", "software", "access", "keys", ",", "node-locked", "licensing", "schemes", ",", "copy", "prevention", "software", ",", "program", "and", "data", "obfuscation", ",", "and", "encryption", "with", "embedded", "keys", ".", "Most", "such", "schemes", "are", "either", "broken", "or", "bypassed", "by", "determined", "attackers", ",", "and", "cause", "undue", "inconvenience", "and", "expense", "for", "non-malicious", "users", ".", "High-profile", "data", "and", "software", "is", "particularly", "susceptible", "to", "being", "quickly", "targeted", "by", "attackers", ".", "695", "2004", "ACM", "0730-0301/04", "/", "0800-0695", "$", "5.00", "Fortunately", ",", "3D", "graphics", "data", "differs", "from", "most", "other", "forms", "of", "digital", "media", "in", "that", "the", "presentation", "format", ",", "2D", "images", ",", "is", "fundamen-tally", "different", "from", "the", "underlying", "representation", "-LRB-", "3D", "geometry", "-RRB-", ".", "Usually", ",", "3D", "graphics", "data", "is", "displayed", "as", "a", "projection", "onto", "a", "2D", "display", "device", ",", "resulting", "in", "tremendous", "information", "loss", "for", "single", "views", ".", "This", "property", "supports", "an", "optimistic", "view", "that", "3D", "graphics", "systems", "can", "be", "designed", "that", "maintain", "usability", "and", "utility", ",", "while", "not", "being", "as", "vulnerable", "to", "piracy", "as", "other", "types", "of", "digital", "content", ".", "In", "this", "paper", ",", "we", "address", "the", "problem", "of", "preventing", "the", "piracy", "of", "3D", "models", ",", "while", "still", "allowing", "for", "their", "interactive", "display", "and", "manipulation", ".", "Specifically", ",", "we", "attempt", "to", "provide", "a", "solution", "for", "maintainers", "of", "large", "collections", "of", "high-resolution", "static", "3D", "models", ",", "such", "as", "the", "digitized", "cultural", "heritage", "artifacts", "described", "above", ".", "The", "methods", "we", "develop", "aim", "to", "protect", "both", "the", "geometric", "shape", "of", "the", "3D", "models", ",", "as", "well", "as", "their", "particular", "geometric", "representation", ",", "such", "as", "the", "3D", "mesh", "vertex", "coordinates", ",", "surface", "normals", ",", "and", "connectivity", "information", ".", "We", "accept", "that", "the", "coarse", "shape", "of", "visible", "objects", "can", "be", "easily", "reproduced", "regardless", "of", "our", "protection", "efforts", ",", "so", "we", "concentrate", "on", "defending", "the", "high-resolution", "geometric", "details", "of", "3D", "models", ",", "which", "may", "have", "been", "most", "expensive", "to", "model", "or", "measure", "-LRB-", "perhaps", "requiring", "special", "access", "and", "advanced", "3D", "digitizing", "technology", "-RRB-", ",", "and", "which", "are", "most", "valuable", "in", "exhibiting", "fidelity", "to", "the", "original", "object", ".", "In", "the", "following", "paper", "sections", ",", "we", "first", "examine", "the", "graphics", "pipeline", "to", "identify", "its", "possible", "points", "of", "attack", ",", "and", "then", "propose", "several", "possible", "techniques", "for", "protecting", "3D", "graphics", "data", "from", "such", "attacks", ".", "Our", "experimentation", "with", "these", "techniques", "led", "us", "to", "conclude", "that", "remote", "rendering", "provides", "the", "best", "solution", "for", "protecting", "3D", "graphical", "models", ",", "and", "we", "describe", "the", "design", "and", "implementation", "of", "a", "prototype", "system", "in", "Section", "4", ".", "Section", "5", "describes", "some", "types", "of", "reconstruction", "attacks", "against", "such", "a", "remote", "rendering", "system", "and", "the", "initial", "results", "of", "our", "efforts", "to", "guard", "against", "them", ".", "Figure", "1", "shows", "a", "simple", "abstraction", "of", "the", "graphics", "pipeline", "for", "purposes", "of", "identifying", "possible", "attacks", "to", "recover", "3D", "geometry", ".", "We", "note", "several", "places", "in", "the", "pipeline", "where", "attacks", "may", "occur", ":", "3D", "model", "file", "reverse-engineering", ".", "Fig.", "1", "-LRB-", "a", "-RRB-", ".", "3D", "graphics", "models", "are", "typically", "distributed", "to", "users", "in", "data", "streams", "such", "as", "files", "in", "common", "file", "formats", ".", "One", "approach", "to", "protecting", "the", "data", "is", "to", "obfuscate", "or", "encrypt", "the", "data", "file", ".", "If", "the", "user", "has", "full", "access", "to", "the", "data", "file", ",", "such", "encryptions", "can", "be", "reverse-engineered", "and", "broken", ",", "and", "the", "3D", "geometry", "data", "is", "then", "completely", "unprotected", ".", "Tampering", "with", "the", "viewing", "application", ".", "Fig.", "1", "-LRB-", "b", "-RRB-", ".", "A", "3D", "viewer", "application", "is", "typically", "used", "to", "display", "the", "3D", "model", "and", "allow", "for", "its", "manipulation", ".", "Techniques", "such", "program", "tracing", ",", "memory", "dumping", ",", "and", "code", "replacement", "are", "practiced", "by", "attackers", "to", "obtain", "access", "to", "data", "in", "use", "by", "application", "programs", ".", "Graphics", "driver", "tampering", ".", "Fig.", "1", "-LRB-", "c", "-RRB-", ".", "Because", "the", "3D", "geometry", "usually", "passes", "through", "the", "graphics", "driver", "software", "on", "its", "way", "to", "the", "GPU", ",", "the", "driver", "is", "vulnerable", "to", "tampering", ".", "Attackers", "can", "replace", "graphics", "drivers", "with", "malicious", "or", "instrumented", "versions", "to", "capture", "streams", "of", "3D", "vertex", "data", ",", "for", "example", ".", "Such", "replacement", "drivers", "are", "widely", "distributed", "for", "purposes", "of", "tracing", "and", "debugging", "graphics", "programs", ".", "Reconstruction", "from", "the", "framebuffer", ".", "Fig.", "1", "-LRB-", "d", "-RRB-", ".", "Because", "the", "framebuffer", "holds", "the", "result", "of", "the", "rendered", "scene", ",", "its", "contents", "can", "be", "used", "by", "sophisticated", "attackers", "to", "reconstruct", "the", "model", "geometry", ",", "using", "computer", "vision", "3D", "reconstruction", "techniques", ".", "The", "Figure", "1", ":", "Abstracted", "graphics", "pipeline", "showing", "possible", "attack", "locations", "-LRB-", "a-e", "-RRB-", ".", "These", "attacks", "are", "described", "in", "the", "text", ".", "framebuffer", "contents", "may", "even", "include", "depth", "values", "for", "each", "pixel", ",", "and", "attackers", "may", "have", "precise", "control", "over", "the", "rendering", "parameters", "used", "to", "create", "the", "scene", "-LRB-", "viewing", "and", "projection", "transformations", ",", "lighting", ",", "etc.", "-RRB-", ".", "This", "potentially", "creates", "a", "perfect", "opportunity", "for", "computer", "vision", "reconstruction", ",", "as", "the", "synthetic", "model", "data", "and", "controlled", "parameters", "do", "not", "suffer", "from", "the", "noise", ",", "calibration", ",", "and", "imprecision", "problems", "that", "make", "robust", "real", "world", "vision", "with", "real", "sensors", "very", "difficult", ".", "Reconstruction", "from", "the", "final", "image", "display", ".", "Fig.", "1", "-LRB-", "e", "-RRB-", ".", "Regardless", "of", "whatever", "protections", "a", "graphics", "system", "can", "guarantee", "throughout", "the", "pipeline", ",", "the", "rendered", "images", "finally", "displayed", "to", "the", "user", "are", "accessible", "to", "attackers", ".", "Just", "as", "audio", "signals", "may", "be", "recorded", "by", "external", "devices", "when", "sound", "is", "played", "through", "speakers", ",", "the", "video", "signals", "or", "images", "displayed", "on", "a", "computer", "monitor", "may", "be", "recorded", "with", "a", "variety", "of", "video", "devices", ".", "The", "images", "so", "gathered", "may", "be", "used", "as", "input", "to", "computer", "vision", "reconstruction", "attacks", "such", "as", "those", "possible", "when", "the", "attacker", "has", "access", "to", "the", "framebuffer", "itself", ",", "though", "the", "images", "may", "be", "of", "degraded", "quality", ",", "unless", "a", "perfect", "digital", "video", "signal", "-LRB-", "such", "as", "DVI", "-RRB-", "is", "available", ".", "In", "light", "of", "the", "possible", "attacks", "in", "the", "graphics", "pipeline", "as", "described", "in", "the", "previous", "section", ",", "we", "have", "considered", "a", "number", "of", "approaches", "for", "sharing", "and", "rendering", "protected", "3D", "graphics", ".", "Software-only", "rendering", ".", "A", "3D", "graphics", "viewing", "system", "that", "does", "not", "make", "use", "of", "hardware", "acceleration", "may", "be", "easier", "to", "protect", "from", "the", "application", "programmer", "'s", "point", "of", "view", ".", "Displaying", "graphics", "with", "a", "GPU", "can", "require", "transferring", "the", "graphics", "data", "in", "precisely", "known", "and", "open", "formats", ",", "through", "a", "graphics", "driver", "and", "hardware", "path", "that", "is", "often", "out", "of", "the", "programmer", "'s", "control", ".", "A", "custom", "3D", "viewing", "application", "with", "software", "rendering", "allows", "the", "3D", "content", "distributor", "to", "encrypt", "or", "obfuscate", "the", "data", "in", "a", "specific", "manner", ",", "all", "the", "way", "through", "the", "graphics", "pipeline", "until", "display", ".", "Hybrid", "hardware/software", "rendering", ".", "Hybrid", "hardware", "and", "software", "rendering", "schemes", "can", "be", "used", "to", "take", "at", "least", "some", "advantage", "of", "hardware", "accelerated", "rendering", ",", "while", "benefiting", "from", "software", "rendering", "'s", "protections", "as", "described", "above", ".", "In", "one", "such", "scheme", ",", "a", "small", "but", "critically", "important", "portion", "of", "a", "protected", "model", "'s", "geometry", "-LRB-", "such", "as", "the", "nose", "of", "a", "face", "-RRB-", "is", "rendered", "in", "software", ",", "while", "the", "rest", "of", "the", "model", "is", "rendered", "normally", "with", "the", "accelerated", "GPU", "hardware", ".", "This", "technique", "serves", "as", "a", "deterrent", "to", "attackers", "tampering", "with", "the", "graphics", "drivers", "or", "hardware", "path", ",", "but", "the", "two-phase", "drawing", "with", "readback", "of", "the", "color", "and", "depth", "buffers", "can", "incur", "a", "696", "performance", "hit", ",", "and", "may", "require", "special", "treatment", "to", "avoid", "artifacts", "on", "the", "border", "of", "the", "composition", "of", "the", "two", "images", ".", "In", "another", "hybrid", "rendering", "scheme", ",", "the", "3D", "geometry", "is", "transformed", "and", "per-vertex", "lighting", "computations", "are", "performed", "in", "software", ".", "The", "depth", "values", "computed", "for", "each", "vertex", "are", "distorted", "in", "a", "manner", "that", "still", "preserves", "the", "correct", "relative", "depth", "ordering", ",", "while", "concealing", "the", "actual", "model", "geometry", "as", "much", "as", "possible", ".", "The", "GPU", "is", "then", "used", "to", "complete", "rendering", ",", "performing", "rasteri-zation", ",", "texturing", ",", "etc.", ".", "Such", "a", "technique", "potentially", "keeps", "the", "3D", "vertex", "stream", "hidden", "from", "attackers", ",", "but", "the", "distortions", "of", "the", "depth", "buffer", "values", "may", "impair", "certain", "graphics", "operations", "-LRB-", "fog", "computation", ",", "some", "shadow", "techniques", "-RRB-", ",", "and", "the", "geometry", "may", "need", "to", "be", "coarsely", "depth", "sorted", "so", "that", "Z-interpolation", "can", "still", "be", "performed", "in", "a", "linear", "space", ".", "Deformations", "of", "the", "geometry", ".", "Small", "deformations", "in", "large", "2D", "images", "displayed", "on", "the", "Internet", "are", "sometimes", "used", "as", "a", "defense", "against", "image", "theft", ";", "zoomed", "higher", "resolution", "sub-images", "with", "varying", "deformations", "can", "not", "be", "captured", "and", "easily", "reassembled", "into", "a", "whole", ".", "A", "similar", "idea", "can", "be", "used", "with", "3D", "data", ":", "subtle", "3D", "deformations", "are", "applied", "to", "geometry", "before", "the", "vertices", "are", "passed", "to", "the", "graphics", "driver", ".", "The", "deformations", "are", "chosen", "so", "as", "to", "vary", "smoothly", "as", "the", "view", "of", "the", "model", "changes", ",", "and", "to", "prohibit", "recovery", "of", "the", "original", "coordinates", "by", "averaging", "the", "deformations", "over", "time", ".", "Even", "if", "an", "attacker", "is", "able", "to", "access", "the", "stream", "of", "3D", "data", "after", "it", "is", "deformed", ",", "they", "will", "encounter", "great", "difficulty", "reconstructing", "a", "high-resolution", "version", "of", "the", "whole", "model", "due", "to", "the", "distortions", "that", "have", "been", "introduced", ".", "Hardware", "decryption", "in", "the", "GPU", ".", "One", "sound", "approach", "to", "providing", "for", "protected", "3D", "graphics", "is", "to", "encrypt", "the", "3D", "model", "data", "with", "public-key", "encryption", "at", "creation", "time", ",", "and", "then", "implement", "custom", "GPUs", "that", "accept", "encrypted", "data", ",", "and", "perform", "on-chip", "decryption", "and", "rendering", ".", "Additional", "system-level", "protections", "would", "need", "to", "be", "implemented", "to", "prevent", "readback", "of", "framebuffer", "and", "other", "video", "memory", ",", "and", "to", "place", "potential", "restrictions", "on", "the", "command", "stream", "sent", "to", "the", "GPU", ",", "in", "order", "to", "prevent", "recovery", "of", "the", "3D", "data", ".", "Image-based", "rendering", ".", "Since", "our", "goal", "is", "to", "protect", "the", "3D", "geometry", "of", "graphic", "models", ",", "one", "technique", "is", "to", "distribute", "the", "models", "using", "image-based", "representations", ",", "which", "do", "not", "explicitly", "include", "the", "complete", "geometry", "data", ".", "Examples", "of", "such", "representations", "include", "light", "fields", "and", "Lumigraphs", "-LSB-", "Levoy", "and", "Hanrahan", "1996", ";", "Gortler", "et", "al.", "1996", "-RSB-", ",", "both", "of", "which", "are", "highly", "amenable", "to", "interactive", "display", ".", "Remote", "rendering", ".", "A", "final", "approach", "to", "secure", "3D", "graphics", "is", "to", "retain", "the", "3D", "model", "data", "on", "a", "secure", "server", ",", "under", "the", "control", "of", "the", "content", "owner", ",", "and", "pass", "only", "2D", "rendered", "images", "of", "the", "models", "back", "to", "client", "requests", ".", "Very", "low-resolution", "versions", "of", "the", "models", ",", "for", "which", "piracy", "is", "not", "a", "concern", ",", "can", "be", "distributed", "with", "special", "client", "programs", "to", "allow", "for", "interactive", "performance", "during", "manipulation", "of", "the", "3D", "model", ".", "This", "method", "relies", "on", "good", "network", "bandwidth", "between", "the", "client", "and", "server", ",", "and", "may", "require", "significant", "server", "resources", "to", "do", "the", "rendering", "for", "all", "client", "requests", ",", "but", "it", "is", "vulnerable", "primarily", "only", "to", "reconstruction", "attacks", ".", "Discussion", ".", "We", "have", "experimented", "with", "several", "of", "the", "3D", "model", "protection", "approaches", "described", "above", ".", "For", "example", ",", "our", "first", "protected", "3D", "model", "viewer", "was", "an", "encrypted", "version", "of", "the", "``", "QS-plat", "''", "-LSB-", "Rusinkiewicz", "and", "Levoy", "2000", "-RSB-", "point-based", "rendering", "system", ",", "which", "omits", "geometric", "connectivity", "information", ".", "The", "3D", "model", "files", "were", "encrypted", "using", "a", "strong", "symmetric", "block", "cipher", "scheme", ",", "and", "the", "decryption", "key", "was", "hidden", "in", "a", "heavily", "obfuscated", "3D", "model", "viewer", "program", ",", "using", "modern", "program", "obfuscation", "techniques", "-LSB-", "Collberg", "and", "Thomborson", "2000", "-RSB-", ".", "Vertex", "data", "was", "decrypted", "on", "demand", "during", "rendering", ",", "so", "that", "only", "a", "very", "small", "portion", "of", "the", "decrypted", "model", "was", "ever", "in", "memory", ",", "and", "only", "software", "rendering", "modes", "were", "used", ".", "Unfortunately", ",", "systems", "such", "as", "this", "ultimately", "rely", "on", "``", "security", "through", "obfuscation", ",", "''", "which", "is", "theoretically", "unsound", "from", "a", "computer", "security", "point", "of", "view", ".", "Given", "enough", "time", "and", "resources", ",", "an", "attacker", "will", "be", "able", "to", "discover", "the", "embedded", "encryption", "key", "or", "otherwise", "reverse-engineer", "the", "protections", "on", "the", "3D", "data", ".", "For", "this", "reason", ",", "any", "of", "the", "3D", "graphics", "protection", "techniques", "that", "make", "the", "actual", "3D", "data", "available", "to", "potential", "attackers", "in", "software", "can", "be", "broken", "-LSB-", "Schneier", "2000", "-RSB-", ".", "It", "is", "possible", "that", "future", "``", "trusted", "comput-ing", "''", "platforms", "for", "general", "purpose", "computers", "will", "be", "available", "that", "make", "software", "tampering", "difficult", "or", "impossible", ",", "but", "such", "systems", "are", "not", "widely", "deployed", "today", ".", "Similarly", ",", "the", "idea", "of", "a", "GPU", "with", "decryption", "capability", "has", "theoretical", "merit", ",", "but", "it", "will", "be", "some", "years", "before", "such", "hardware", "is", "widely", "available", "for", "standard", "PC", "computing", "environments", ",", "if", "ever", ".", "Thus", ",", "for", "providing", "practical", ",", "robust", ",", "anti-piracy", "protections", "for", "3D", "data", ",", "we", "gave", "strongest", "consideration", "to", "purely", "image-based", "representations", "and", "to", "remote", "rendering", ".", "Distributing", "light", "fields", "at", "the", "high", "resolutions", "necessary", "would", "involve", "huge", ",", "unwieldy", "file", "sizes", ",", "would", "not", "allow", "for", "any", "geometric", "operations", "on", "the", "data", "-LRB-", "such", "as", "surface", "measurements", "performed", "by", "archaeologists", "-RRB-", ",", "and", "would", "still", "give", "attackers", "unlimited", "access", "to", "the", "light", "field", "for", "purposes", "of", "performing", "3D", "reconstruction", "attacks", "using", "computer", "vision", "algorithms", ".", "For", "these", "reasons", ",", "we", "finally", "concluded", "that", "the", "last", "technique", ",", "remote", "rendering", ",", "offers", "the", "best", "solution", "for", "protecting", "interactive", "3D", "graphics", "content", ".", "Remote", "rendering", "has", "been", "used", "before", "in", "networked", "environments", "for", "3D", "visualization", ",", "although", "we", "are", "not", "aware", "of", "a", "system", "specifically", "designed", "to", "use", "remote", "rendering", "for", "purposes", "of", "security", "and", "3D", "content", "protection", ".", "Remote", "rendering", "systems", "have", "been", "previously", "implemented", "to", "take", "advantage", "of", "off-site", "specialized", "rendering", "capabilities", "not", "available", "in", "client", "systems", ",", "such", "as", "intensive", "volume", "rendering", "-LSB-", "Engel", "et", "al.", "2000", "-RSB-", ",", "and", "researchers", "have", "developed", "special", "algorithmic", "approaches", "to", "support", "efficient", "distribution", "of", "rendering", "loads", "and", "data", "transmission", "between", "rendering", "servers", "and", "clients", "-LSB-", "Levoy", "1995", ";", "Yoon", "and", "Neumann", "2000", "-RSB-", ".", "Remote", "rendering", "of", "2D", "graphical", "content", "is", "common", "for", "Internet", "services", "such", "as", "online", "map", "sites", ";", "only", "small", "portions", "of", "the", "whole", "database", "are", "viewed", "by", "users", "at", "one", "time", ",", "and", "protection", "of", "the", "entire", "2D", "data", "corpus", "from", "theft", "via", "image", "harvesting", "may", "be", "a", "factor", "in", "the", "design", "of", "these", "systems", ".", "To", "test", "our", "ideas", "for", "providing", "controlled", ",", "protected", "interactive", "access", "to", "collections", "of", "3D", "graphics", "models", ",", "we", "have", "implemented", "a", "remote", "rendering", "system", "with", "a", "client-server", "architecture", ",", "as", "described", "below", ".", "4.1", "Client", "Description", "Users", "of", "our", "protected", "graphics", "system", "employ", "a", "specially-designed", "3D", "viewing", "program", "to", "interactively", "view", "protected", "3D", "content", ".", "This", "client", "program", "is", "implemented", "as", "an", "OpenGL", "and", "wxWindows-based", "3D", "viewer", ",", "with", "menus", "and", "GUI", "dialogs", "to", "control", "various", "viewing", "and", "networking", "parameters", "-LRB-", "Figure", "2", "-RRB-", ".", "The", "client", "program", "includes", "very", "low-resolution", ",", "decimated", "versions", "of", "the", "3D", "models", ",", "which", "can", "be", "interactively", "rotated", ",", "zoomed", ",", "and", "re-lit", "by", "the", "user", "in", "real-time", ".", "When", "the", "user", "stops", "manipulating", "the", "low-resolution", "model", ",", "detected", "via", "a", "``", "mouse", "up", "''", "event", ",", "the", "client", "program", "queries", "the", "remote", "rendering", "server", "via", "the", "network", "for", "a", "697", "Figure", "2", ":", "Screenshot", "of", "the", "client", "program", ".", "high-resolution", "rendered", "image", "corresponding", "to", "the", "selected", "rendering", "parameters", ".", "These", "parameters", "include", "the", "3D", "model", "name", ",", "viewpoint", "position", "and", "orientation", ",", "and", "lighting", "conditions", ".", "When", "the", "server", "passes", "the", "rendered", "image", "back", "to", "the", "client", "program", ",", "it", "replaces", "the", "low-resolution", "rendering", "seen", "by", "the", "user", "-LRB-", "Figure", "3", "-RRB-", ".", "On", "computer", "networks", "with", "reasonably", "low", "latencies", ",", "the", "user", "thus", "has", "the", "impression", "of", "manipulating", "a", "high-resolution", "version", "of", "the", "model", ".", "In", "typical", "usage", "for", "cultural", "heritage", "artifacts", ",", "we", "use", "models", "with", "approximately", "10,000", "polygons", "for", "the", "low", "resolution", "version", ",", "whereas", "the", "server-side", "models", "often", "contain", "tens", "of", "millions", "polygons", ".", "Such", "low-resolution", "model", "complexities", "are", "of", "little", "value", "to", "potential", "thieves", ",", "yet", "still", "provide", "enough", "clues", "for", "the", "user", "to", "navigate", ".", "The", "client", "viewer", "could", "be", "further", "extended", "to", "cache", "the", "most", "recent", "images", "returned", "from", "the", "server", "and", "projec-tively", "texture", "map", "them", "onto", "the", "low-resolution", "model", "as", "long", "as", "they", "remain", "valid", "during", "subsequent", "rotation", "and", "zooming", "actions", ".", "4.2", "Server", "Description", "The", "remote", "rendering", "server", "receives", "rendering", "requests", "from", "users", "'", "client", "programs", ",", "renders", "corresponding", "images", ",", "and", "passes", "them", "back", "to", "the", "clients", ".", "The", "rendering", "server", "is", "implemented", "as", "a", "module", "running", "under", "the", "Apache", "2.0", "HTTP", "Server", ";", "as", "such", ",", "the", "module", "communicates", "with", "client", "programs", "using", "the", "standard", "HTTP", "protocol", ",", "and", "takes", "advantage", "of", "the", "wide", "variety", "of", "access", "protection", "and", "monitoring", "tools", "built", "into", "Apache", ".", "The", "rendering", "server", "module", "is", "based", "upon", "the", "FastCGI", "Apache", "module", ",", "and", "allows", "for", "multiple", "rendering", "processes", "to", "be", "spread", "across", "any", "number", "of", "server", "hardware", "nodes", ".", "As", "render", "requests", "are", "received", "from", "clients", ",", "the", "rendering", "server", "checks", "their", "validity", "and", "dispatches", "the", "valid", "requests", "to", "a", "GPU", "for", "OpenGL", "hardware-accelerated", "rendering", ".", "The", "rendered", "images", "are", "read", "back", "from", "the", "framebuffer", ",", "compressed", "using", "JPEG", "compression", ",", "and", "returned", "to", "the", "client", ".", "If", "multiple", "requests", "from", "the", "same", "client", "are", "pending", "-LRB-", "such", "as", "if", "the", "user", "rapidly", "changes", "views", "while", "on", "a", "slow", "network", "-RRB-", ",", "earlier", "requests", "are", "discarded", ",", "and", "only", "the", "most", "recent", "is", "rendered", ".", "The", "server", "uses", "level-of-detail", "techniques", "to", "speed", "the", "rendering", "of", "highly", "complex", "models", ",", "and", "lower", "level-of", "-", "detail", "renderings", "can", "be", "used", "during", "times", "of", "high", "server", "load", "to", "maintain", "high", "throughput", "rates", ".", "In", "practice", ",", "an", "individual", "server", "node", "with", "a", "Pentium", "4", "CPU", "and", "an", "NVIDIA", "GeForce4", "video", "card", "can", "handle", "a", "maximum", "of", "8", "typical", "client", "requests", "per", "second", ";", "the", "Figure", "3", ":", "Client-side", "low", "resolution", "-LRB-", "left", "-RRB-", "and", "server-side", "high", "resolution", "-LRB-", "right", "-RRB-", "model", "renderings", ".", "bottlenecks", "are", "in", "the", "rendering", "and", "readback", "-LRB-", "about", "100", "milliseconds", "-RRB-", ",", "and", "in", "the", "JPEG", "compression", "-LRB-", "approximately", "25", "milliseconds", "-RRB-", ".", "Incoming", "request", "sizes", "are", "about", "700", "bytes", "each", ",", "and", "the", "images", "returned", "from", "our", "deployed", "servers", "average", "30", "kB", "per", "request", ".", "4.3", "Server", "Defenses", "In", "Section", "2", ",", "we", "enumerated", "several", "possible", "places", "in", "the", "graphics", "pipeline", "that", "an", "attacker", "could", "steal", "3D", "graphics", "data", ".", "The", "benefit", "of", "using", "remote", "rendering", "is", "that", "it", "leaves", "only", "3D", "reconstruction", "from", "2D", "images", "in", "the", "framebuffer", "or", "display", "device", "as", "possible", "attacks", ".", "General", "3D", "reconstruction", "from", "images", "constitutes", "a", "very", "difficult", "computer", "vision", "problem", ",", "as", "evidenced", "by", "the", "great", "amount", "of", "research", "effort", "being", "expended", "to", "design", "and", "build", "robust", "computer", "vision", "systems", ".", "However", ",", "synthetic", "3D", "graphics", "renderings", "can", "be", "particularly", "susceptible", "to", "reconstruction", "because", "the", "attacker", "may", "be", "able", "to", "exactly", "specify", "the", "parameters", "used", "to", "create", "the", "images", ",", "there", "is", "a", "low", "human", "cost", "to", "harvest", "a", "large", "number", "of", "images", ",", "and", "synthetic", "images", "are", "potentially", "perfect", ",", "with", "no", "sensor", "noise", "or", "miscalibration", "errors", ".", "Thus", ",", "it", "is", "still", "necessary", "to", "defend", "the", "remote", "rendering", "system", "from", "reconstruction", "attacks", ";", "below", ",", "we", "describe", "a", "number", "of", "such", "defenses", "that", "we", "have", "implemented", "in", "combination", "for", "our", "server", ".", "Session-based", "defenses", ".", "Client", "programs", "that", "access", "the", "remote", "rendering", "system", "are", "uniquely", "identified", "during", "the", "course", "of", "a", "usage", "session", ".", "This", "allows", "the", "server", "to", "monitor", "and", "track", "the", "specific", "sequence", "of", "rendering", "requests", "made", "by", "each", "client", ".", "Automatic", "analysis", "of", "the", "server", "logs", "allows", "suspicious", "request", "streams", "to", "be", "classified", ",", "such", "as", "an", "unusually", "high", "number", "of", "requests", "per", "unit", "time", ",", "or", "a", "particular", "pattern", "of", "requests", "that", "is", "indicative", "of", "an", "image", "harvesting", "program", ".", "High", "quality", "computer", "vision", "reconstructions", "often", "require", "a", "large", "number", "of", "images", "that", "densely", "sample", "the", "space", "of", "possible", "views", ",", "so", "we", "are", "able", "to", "effectively", "identify", "such", "access", "patterns", "and", "terminate", "service", "to", "those", "clients", ".", "We", "can", "optionally", "require", "recurrent", "user", "authentication", "in", "order", "to", "further", "deter", "some", "image", "harvesting", "attacks", ",", "although", "a", "coalition", "of", "users", "mounting", "a", "low-rate", "distributed", "attack", "from", "multiple", "IP", "addresses", "could", "still", "defeat", "such", "session-based", "defenses", ".", "Obfuscation", ".", "Although", "we", "do", "not", "rely", "on", "obfuscation", "to", "protect", "the", "3D", "model", "data", ",", "we", "do", "use", "obfuscation", "techniques", "on", "the", "client", "side", "of", "the", "system", "to", "discourage", "and", "slow", "down", "certain", "attacks", ".", "The", "low-resolution", "models", "that", "are", "distributed", "with", "the", "client", "viewer", "program", "are", "encrypted", "using", "an", "RC4-variant", "stream", "cipher", ",", "and", "the", "keys", "are", "embedded", "in", "the", "viewer", "and", "heavily", "obfuscated", ".", "The", "rendering", "request", "messages", "sent", "from", "the", "client", "to", "the", "server", "are", "also", "encrypted", "with", "heavily", "obfuscated", "keys", ".", "These", "encryptions", "simply", "serve", "as", "another", "line", "of", "defense", ";", "even", "if", "they", "were", "broken", ",", "attackers", "would", "still", "not", "be", "able", "to", "gain", "access", "to", "the", "high", "resolution", "3D", "data", "except", "through", "reconstruction", "from", "2D", "images", ".", "698", "Limitations", "on", "valid", "rendering", "requests", ".", "As", "a", "further", "defense", ",", "we", "provide", "the", "capability", "in", "our", "client", "and", "remote", "server", "to", "constrain", "the", "viewing", "conditions", ".", "Some", "models", "may", "have", "particular", "``", "stayout", "''", "regions", "defined", "that", "disallow", "certain", "viewing", "and", "lighting", "angles", ",", "thus", "keeping", "attackers", "from", "being", "able", "to", "reconstruct", "a", "complete", "model", ".", "For", "the", "particular", "purpose", "of", "defending", "against", "the", "enumeration", "attacks", "described", "in", "Section", "5.1", ",", "we", "put", "restrictions", "on", "the", "class", "of", "projection", "transformations", "allowed", "to", "be", "requested", "by", "users", "-LRB-", "requiring", "a", "perspective", "projection", "with", "particular", "fixed", "field", "of", "view", "and", "near", "and", "far", "planes", "-RRB-", ",", "and", "we", "prevent", "viewpoints", "within", "a", "small", "offset", "of", "the", "model", "surface", ".", "Perturbations", "and", "distortions", ".", "Passive", "3D", "computer", "vision", "reconstructions", "of", "real-world", "objects", "from", "real-world", "images", "are", "usually", "of", "relatively", "poor", "quality", "compared", "to", "the", "original", "object", ".", "This", "failure", "inspires", "the", "belief", "that", "we", "can", "protect", "our", "synthetically", "rendered", "models", "from", "reconstruction", "by", "introducing", "into", "the", "images", "the", "same", "types", "of", "obstacles", "known", "to", "plague", "vision", "algorithms", ".", "The", "particular", "perturbations", "and", "distortions", "that", "we", "use", "are", "described", "below", ";", "we", "apply", "these", "defenses", "to", "the", "images", "only", "to", "the", "degree", "that", "they", "do", "not", "distract", "the", "user", "viewing", "the", "models", ".", "Additionally", ",", "these", "defenses", "are", "applied", "in", "a", "pseudorandomly", "generated", "manner", "for", "each", "different", "rendering", "request", ",", "so", "that", "attackers", "can", "not", "systematically", "determine", "and", "reverse", "their", "effects", ",", "even", "if", "the", "specific", "form", "of", "the", "defenses", "applied", "is", "known", "-LRB-", "such", "as", "if", "the", "source", "code", "for", "the", "rendering", "server", "is", "available", "-RRB-", ".", "Rendering", "requests", "with", "identical", "parameters", "are", "mapped", "to", "the", "same", "set", "of", "perturbations", ",", "in", "order", "to", "deter", "attacks", "which", "attempt", "to", "defeat", "these", "defenses", "by", "averaging", "multiple", "images", "obtained", "under", "the", "same", "viewing", "conditions", ".", "Perturbed", "viewing", "parameters", "We", "pseudorandomly", "introduce", "subtle", "perturbations", "into", "the", "view", "transformation", "matrix", "for", "the", "images", "rendered", "by", "the", "server", ";", "these", "perturbations", "have", "the", "effect", "of", "slightly", "rotating", ",", "translating", ",", "scaling", ",", "and", "shearing", "the", "model", ".", "The", "range", "of", "these", "distortions", "is", "bounded", "such", "that", "no", "point", "in", "the", "rendered", "image", "is", "further", "than", "either", "m", "object", "space", "units", "or", "n", "pixels", "from", "its", "corresponding", "point", "in", "an", "unperturbed", "view", ".", "In", "practice", ",", "we", "generally", "set", "m", "proportional", "to", "the", "size", "of", "the", "model", "'s", "geometry", "being", "protected", ",", "and", "use", "values", "of", "n", "=", "15", "pixels", ",", "as", "experience", "has", "shown", "that", "users", "can", "be", "distracted", "by", "larger", "shifts", "between", "consecutively", "displayed", "images", ".", "Perturbed", "lighting", "parameters", "We", "pseudorandomly", "introduce", "subtle", "perturbations", "into", "the", "lighting", "parameters", "used", "to", "render", "the", "images", ";", "these", "perturbations", "include", "modifying", "the", "lighting", "direction", "specified", "in", "the", "client", "request", ",", "as", "well", "as", "addition", "of", "randomly", "changing", "secondary", "lighting", "to", "illuminate", "the", "model", ".", "Users", "are", "somewhat", "sensitive", "to", "shifts", "in", "the", "overall", "scene", "intensity", "and", "shading", ",", "so", "the", "primary", "light", "direction", "perturbations", "used", "are", "generally", "fairly", "small", "-LRB-", "maximum", "of", "10", "for", "typical", "models", ",", "which", "are", "rendered", "using", "the", "OpenGL", "local", "lighting", "model", "-RRB-", ".", "High-frequency", "noise", "added", "to", "the", "images", "We", "introduce", "two", "types", "of", "high-frequency", "noise", "artifacts", "into", "the", "rendered", "images", ".", "The", "first", ",", "JPEG", "artifacts", ",", "are", "a", "convenient", "result", "of", "the", "compression", "scheme", "applied", "to", "the", "images", "returned", "from", "the", "server", ".", "At", "high", "compression", "levels", "-LRB-", "we", "use", "a", "maximum", "libjpeg", "quality", "factor", "of", "50", "-RRB-", ",", "the", "quantization", "of", "DCT", "coefficients", "used", "in", "JPEG", "compression", "creates", "``", "blocking", "''", "discontinuities", "in", "the", "images", ",", "and", "adds", "noise", "in", "areas", "of", "sharp", "contrast", ".", "These", "artifacts", "create", "problems", "for", "low-level", "computer", "vision", "image", "processing", "algorithms", ",", "while", "the", "design", "of", "JPEG", "compression", "specifically", "seeks", "to", "minimize", "the", "overall", "perceptual", "loss", "of", "image", "quality", "for", "human", "users", ".", "Additionally", ",", "we", "add", "pseudorandomly", "generated", "monochromatic", "Gaussian", "noise", "to", "the", "images", ",", "implemented", "efficiently", "by", "blending", "noise", "textures", "during", "hardware", "rendering", "on", "the", "server", ".", "The", "added", "noise", "defends", "against", "computer", "vision", "attacks", "by", "making", "background", "segmentation", "more", "difficult", ",", "and", "by", "breaking", "up", "the", "highly", "regular", "shading", "patterns", "of", "the", "synthetic", "renderings", ".", "Interestingly", ",", "users", "are", "not", "generally", "distracted", "by", "the", "added", "noise", ",", "but", "have", "even", "commented", "that", "the", "rendered", "models", "often", "appear", "``", "more", "realistic", "''", "with", "the", "high-frequency", "variations", "caused", "by", "the", "noise", ".", "One", "drawback", "of", "the", "added", "noise", "is", "that", "the", "increased", "entropy", "of", "the", "images", "can", "result", "in", "significantly", "larger", "compressed", "file", "sizes", ";", "we", "address", "this", "in", "part", "by", "primarily", "limiting", "the", "application", "of", "noise", "to", "the", "non-background", "regions", "of", "the", "image", "via", "stenciled", "rendering", ".", "Low-frequency", "image", "distortions", "Just", "as", "real", "computer", "vision", "lens", "and", "sensor", "systems", "sometimes", "suffer", "from", "image", "distortions", "due", "to", "miscalibration", ",", "we", "can", "effectively", "simulate", "and", "extend", "these", "distortions", "in", "the", "rendering", "server", ".", "Subtle", "non-linear", "radial", "distortions", ",", "pinching", ",", "and", "low-frequency", "waves", "can", "be", "efficiently", "implemented", "with", "vertex", "shaders", ",", "or", "with", "two-pass", "rendering", "of", "the", "image", "as", "a", "texture", "onto", "a", "non-uniform", "mesh", ",", "accelerated", "with", "the", "``", "render", "to", "texture", "''", "capabilities", "of", "modern", "graphics", "hardware", ".", "Due", "to", "the", "variety", "of", "random", "perturbations", "and", "distortions", "that", "are", "applied", "to", "the", "images", "returned", "from", "the", "rendering", "server", ",", "there", "is", "a", "risk", "of", "distracting", "the", "user", ",", "as", "the", "rendered", "3D", "model", "exhibits", "changes", "from", "frame", "to", "frame", ",", "even", "when", "the", "user", "makes", "very", "minor", "adjustments", "to", "the", "view", ".", "However", ",", "we", "have", "found", "that", "the", "brief", "switch", "to", "the", "lower", "resolution", "model", "in", "between", "display", "of", "the", "high", "resolution", "perturbed", "images", ",", "inherent", "to", "our", "remote", "rendering", "scheme", ",", "very", "effectively", "masks", "these", "changes", ".", "This", "masking", "of", "changes", "is", "attributed", "to", "the", "visual", "perception", "phenomenon", "known", "as", "change", "blindness", "-LSB-", "Simons", "and", "Levin", "1997", "-RSB-", ",", "in", "which", "significant", "changes", "occurring", "in", "full", "view", "are", "not", "noticed", "due", "to", "a", "brief", "disruption", "in", "visual", "continuity", ",", "such", "as", "a", "``", "flicker", "''", "introduced", "between", "successive", "images", ".", "In", "this", "section", "we", "consider", "several", "classes", "of", "attacks", ",", "in", "which", "sets", "of", "images", "may", "be", "gathered", "from", "our", "remote", "rendering", "server", "to", "make", "3D", "reconstructions", "of", "the", "model", ",", "and", "we", "analyze", "their", "efficacy", "against", "the", "countermeasures", "we", "have", "implemented", ".", "5.1", "Enumeration", "Attacks", "The", "rendering", "server", "responds", "to", "rendering", "requests", "from", "users", "specifying", "the", "viewing", "conditions", "for", "the", "rendered", "images", ".", "This", "ability", "for", "precise", "specification", "can", "be", "exploited", "by", "attackers", ",", "as", "they", "can", "potentially", "explore", "the", "entire", "3D", "model", "space", ",", "using", "the", "returned", "images", "to", "discover", "the", "location", "of", "the", "3D", "model", "to", "any", "arbitrary", "precision", ".", "In", "practice", ",", "these", "attacks", "involve", "enumerating", "many", "small", "cells", "in", "a", "voxel", "grid", ",", "and", "testing", "each", "such", "voxel", "to", "determine", "intersection", "with", "the", "remote", "high-resolution", "model", "'s", "surface", ";", "thus", "we", "term", "them", "enumeration", "attacks", ".", "Once", "this", "enumeration", "process", "is", "complete", ",", "occupied", "cells", "of", "the", "voxel", "grid", "are", "exported", "as", "a", "point", "cloud", "and", "then", "input", "to", "a", "surface", "reconstruction", "algorithm", ".", "In", "the", "plane", "sweep", "enumeration", "attack", ",", "the", "view", "frustum", "is", "specified", "as", "a", "rectangular", ",", "one-voxel-thick", "``", "plane", ",", "''", "and", "is", "swept", "over", "the", "model", "-LRB-", "Figure", "4", "-LRB-", "a", "-RRB-", "-RRB-", ".", "Each", "requested", "image", "represents", "one", "slice", "of", "the", "model", "'s", "surface", ",", "and", "each", "pixel", "of", "each", "image", "corresponds", "to", "a", "single", "voxel", ".", "A", "simple", "comparison", "of", "each", "image", "pixel", "against", "the", "expected", "background", "color", "is", "performed", "to", "determine", "whether", "that", "699", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "4", ":", "Enumeration", "Attacks", ":", "-LRB-", "a", "-RRB-", "the", "plane", "sweep", "enumeration", "attack", "sweeps", "a", "one-voxel", "thick", "orthographic", "view", "frustum", "over", "the", "model", ",", "-LRB-", "b", "-RRB-", "the", "near", "plane", "sweep", "enumeration", "attack", "sweeps", "the", "viewpoint", "over", "the", "model", ",", "marking", "voxels", "where", "the", "model", "surface", "is", "clipped", "by", "the", "near", "plane", ".", "pixel", "is", "a", "model", "surface", "or", "background", "pixel", ".", "Sweeps", "from", "multiple", "view", "angles", "-LRB-", "such", "as", "the", "six", "faces", "of", "the", "voxels", "-RRB-", "are", "done", "to", "catch", "backfacing", "polygons", "that", "may", "not", "be", "visible", "from", "a", "particular", "angle", ".", "These", "redundant", "multiple", "sweeps", "also", "allow", "the", "attacker", "to", "be", "liberal", "about", "ignoring", "questionable", "background", "pixels", "that", "may", "occur", ",", "such", "as", "if", "low-amplitude", "background", "noise", "or", "JPEG", "compression", "is", "being", "used", "as", "a", "defense", "on", "the", "server", ".", "Our", "experiments", "demonstrate", "that", "the", "remote", "model", "can", "be", "efficiently", "reconstructed", "against", "a", "defenseless", "server", "using", "this", "attack", "-LRB-", "Figure", "5", "-LRB-", "b", "-RRB-", "-RRB-", ".", "Perturbing", "viewing", "parameters", "can", "be", "an", "effective", "defense", "against", "this", "attack", ";", "the", "maximum", "reconstruction", "resolution", "will", "be", "limited", "by", "the", "maximum", "relative", "displacement", "that", "an", "individual", "model", "surface", "point", "undergoes", ".", "Figure", "5", "-LRB-", "c", "-RRB-", "shows", "the", "results", "of", "a", "reconstruction", "attempt", "against", "a", "server", "pseudorandomly", "perturbing", "the", "viewing", "direction", "by", "up", "to", "0.3", "in", "the", "returned", "images", ".", "Since", "plane", "sweep", "enumeration", "relies", "on", "the", "correspondence", "between", "image", "pixels", "and", "voxels", ",", "image", "warps", "can", "also", "be", "effective", "as", "a", "defense", ".", "The", "large", "number", "of", "remote", "image", "requests", "required", "for", "plane", "sweep", "enumeration", "-LRB-", "O", "-LRB-", "n", "-RRB-", "requests", "for", "an", "n", "n", "n", "voxel", "grid", "-RRB-", "and", "the", "unusual", "request", "parameters", "may", "look", "suspicious", "and", "trigger", "the", "rendering", "server", "log", "analysis", "monitors", ".", "Plane", "sweep", "enumeration", "attacks", "can", "be", "completely", "nullified", "by", "limiting", "user", "control", "of", "the", "view", "frustum", "parameters", ",", "which", "we", "implement", "in", "our", "system", "and", "use", "for", "valuable", "models", ".", "Another", "enumeration", "attack", ",", "near", "plane", "sweep", "enumeration", ",", "involves", "sweeping", "the", "viewpoint", "-LRB-", "and", "thus", "the", "near", "plane", "-RRB-", "over", "the", "model", ",", "checking", "when", "the", "model", "surface", "is", "clipped", "by", "the", "near", "plane", "and", "marking", "voxels", "when", "this", "happens", "-LRB-", "Figure", "4", "-LRB-", "b", "-RRB-", "-RRB-", ".", "The", "attacker", "knows", "that", "the", "near", "plane", "has", "clipped", "the", "model", "when", "a", "pixel", "previously", "containing", "the", "model", "surface", "begins", "to", "be", "classified", "as", "the", "background", ".", "In", "order", "to", "determine", "which", "voxel", "each", "image", "pixel", "corresponds", "to", ",", "the", "attacker", "must", "know", "two", "related", "parameters", ":", "the", "distance", "between", "the", "viewpoint", "position", "and", "the", "near", "plane", ",", "and", "the", "field", "of", "view", ".", "These", "parameters", "can", "be", "easily", "discovered", ".", "The", "near", "plane", "distance", "can", "be", "determined", "by", "first", "obtaining", "the", "exact", "location", "of", "one", "feature", "point", "on", "the", "model", "surface", "through", "triangulation", "of", "multiple", "rendering", "requests", "and", "then", "moving", "the", "viewpoint", "slowly", "toward", "that", "point", "on", "the", "model", ".", "When", "the", "near", "plane", "clips", "the", "feature", "point", ",", "the", "distance", "between", "that", "point", "and", "the", "view", "position", "equals", "the", "near", "plane", "distance", ".", "The", "horizontal", "and", "vertical", "field", "of", "view", "angles", "can", "be", "obtained", "by", "moving", "the", "viewpoint", "slowly", "toward", "the", "model", "surface", ",", "stopping", "when", "any", "surface", "point", "becomes", "clipped", "by", "the", "near", "plane", ".", "The", "viewpoint", "is", "then", "moved", "a", "small", "amount", "perpendicular", "to", "its", "original", "direction", "of", "motion", "such", "that", "the", "clipped", "point", "moves", "slightly", "relative", "to", "the", "view", "but", "stays", "on", "the", "new", "image", "-LRB-", "near", "plane", "-RRB-", ".", "Since", "the", "near", "plane", "distance", "has", "already", "been", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "d", "-RRB-", "Figure", "5", ":", "3D", "reconstruction", "results", "from", "enumeration", "attacks", ":", "-LRB-", "a", "-RRB-", "original", "3D", "model", ",", "-LRB-", "b", "-RRB-", "plane", "sweep", "attack", "against", "defenseless", "server", "-LRB-", "6", "passes", ",", "3,168", "total", "rendered", "images", "-RRB-", ",", "-LRB-", "c", "-RRB-", "plane", "sweep", "attack", "against", "0.3", "viewing", "direction", "perturbation", "defense", "-LRB-", "6", "passes", ",", "3,168", "total", "rendered", "images", "-RRB-", ",", "-LRB-", "d", "-RRB-", "near", "plane", "sweep", "attack", "against", "defenseless", "server", "-LRB-", "6", "passes", ",", "7,952", "total", "rendered", "images", "-RRB-", ".", "obtained", ",", "the", "field", "of", "view", "angle", "-LRB-", "horizontal", "or", "vertical", "depending", "on", "direction", "of", "motion", "-RRB-", "can", "be", "obtained", "from", "the", "relative", "motion", "of", "the", "clipped", "point", "across", "the", "image", ".", "Because", "the", "near", "plane", "is", "usually", "small", "compared", "to", "the", "dimensions", "of", "the", "model", ",", "many", "sweeps", "must", "be", "tiled", "in", "order", "to", "attain", "full", "coverage", ".", "Sweeps", "must", "also", "be", "made", "in", "several", "directions", "to", "ensure", "that", "all", "model", "faces", "are", "seen", ".", "Because", "this", "attack", "relies", "on", "seeing", "the", "background", "to", "determine", "when", "the", "near", "plane", "has", "clipped", "a", "surface", ",", "concave", "model", "geometries", "will", "present", "a", "problem", "for", "surface", "detection", ".", "Although", "sweeps", "from", "multiple", "directions", "will", "help", ",", "this", "problem", "is", "not", "completely", "avoidable", ".", "Figure", "5", "-LRB-", "d", "-RRB-", "illustrates", "this", "problem", ",", "showing", "a", "case", "in", "which", "six", "sweeps", "have", "not", "fully", "captured", "all", "the", "surface", "geometry", ".", "Viewing", "parameter", "perturbations", "and", "image", "warps", "will", "nearly", "destroy", "the", "effectiveness", "of", "near", "plane", "sweep", "enumeration", "attacks", ",", "as", "they", "can", "make", "it", "very", "difficult", "to", "determine", "where", "the", "surface", "lies", "and", "where", "it", "does", "not", "near", "silhouette", "edges", "-LRB-", "pixels", "near", "these", "edges", "will", "change", "erratically", "between", "surface", "and", "background", "-RRB-", ".", "The", "most", "solid", "defense", "against", "this", "attack", "is", "to", "prevent", "views", "within", "a", "certain", "small", "offset", "of", "the", "model", "surface", ".", "This", "defense", ",", "which", "we", "use", "in", "our", "system", "to", "protect", "valuable", "models", ",", "prevents", "the", "near", "plane", "from", "ever", "clipping", "the", "model", "surface", "and", "thereby", "completely", "nullifies", "this", "attack", ".", "5.2", "Shape-from-silhouette", "Attacks", "Shape-from-silhouette", "-LSB-", "Slabaugh", "et", "al.", "2001", "-RSB-", "is", "one", "well", "studied", ",", "robust", "technique", "for", "extracting", "a", "3D", "model", "from", "a", "set", "of", "images", ".", "The", "method", "consists", "of", "segmenting", "the", "object", "pixels", "from", "the", "background", "in", "each", "image", ",", "then", "intersecting", "in", "space", "their", "resulting", "extended", "truncated", "silhouettes", ",", "and", "finally", "computing", "the", "surface", "of", "the", "resulting", "shape", ".", "The", "main", "limitation", "of", "this", "technique", "is", "that", "only", "a", "visual", "hull", "-LSB-", "Laurentini", "1994", "-RSB-", "of", "the", "3D", "shape", "can", "be", "recovered", ";", "the", "line-concave", "parts", "of", "the", "model", "are", "beyond", "the", "capabilities", "of", "the", "reconstruction", ".", "Thus", ",", "the", "effectiveness", "of", "this", "attack", "depends", "on", "the", "specific", "geometric", "characteristics", "of", "the", "object", ";", "the", "high-resolution", "3D", "models", "that", "we", "target", "often", "have", "many", "concavities", "that", "are", "difficult", "or", "impossible", "to", "fully", "recover", "using", "shape-from-silhouette", ".", "However", ",", "this", "attack", "may", "also", "be", "of", "use", "to", "attackers", "700", "Figure", "6", ":", "The", "160", "viewpoints", "used", "to", "reconstruct", "the", "model", "with", "a", "shape-from-silhouette", "attack", ";", "results", "are", "shown", "in", "Figure", "7", ".", "to", "obtain", "a", "coarse", ",", "low-resolution", "version", "of", "the", "model", ",", "if", "they", "are", "unable", "to", "break", "through", "the", "obfuscation", "protections", "we", "use", "for", "the", "low-resolution", "models", "distributed", "with", "the", "client", ".", "To", "measure", "the", "potential", "of", "a", "shape-from-silhouette", "attack", "against", "our", "protected", "graphics", "system", ",", "we", "have", "conducted", "reconstruction", "experiments", "on", "a", "3D", "model", "of", "the", "David", "as", "served", "via", "the", "rendering", "server", ",", "using", "a", "shape-from-silhouette", "implementation", "described", "in", "-LSB-", "Tarini", "et", "al.", "2002", "-RSB-", ".", "With", "all", "server", "defenses", "disabled", ",", "160", "images", "were", "harvested", "from", "a", "variety", "of", "viewpoints", "around", "the", "model", "-LRB-", "Figure", "6", "-RRB-", ";", "these", "viewpoints", "were", "selected", "incrementally", ",", "with", "later", "viewpoints", "chosen", "to", "refine", "the", "reconstruction", "accuracy", "as", "measured", "during", "the", "process", ".", "The", "resulting", "3D", "reconstruction", "is", "shown", "in", "Figure", "7", "-LRB-", "b", "-RRB-", ".", "Several", "of", "the", "perturbation", "and", "distortion", "defenses", "implemented", "in", "our", "server", "are", "effective", "against", "the", "shape-from-silhouette", "attack", ".", "Results", "from", "experiments", "showing", "the", "reconstructed", "model", "quality", "with", "server", "defenses", "independently", "enabled", "are", "shown", "in", "Figures", "7", "-LRB-", "c-g", "-RRB-", ".", "Small", "perturbations", "in", "the", "viewing", "parameters", "were", "particularly", "effective", "at", "decreasing", "the", "quality", "of", "the", "reconstructed", "model", ",", "as", "would", "be", "expected", ";", "Niem", "-LSB-", "1997", "-RSB-", "performed", "an", "error", "analysis", "of", "silhouette-based", "modeling", "techniques", "and", "showed", "the", "linear", "relationship", "between", "error", "in", "the", "estimation", "of", "the", "view", "position", "and", "error", "in", "the", "resulting", "reconstruction", ".", "Perturbations", "in", "the", "images", "returned", "from", "the", "server", ",", "such", "as", "radial", "distortion", "and", "small", "random", "shifts", ",", "were", "also", "effective", ".", "Combining", "the", "different", "perturbation", "defenses", ",", "as", "they", "are", "implemented", "in", "our", "remote", "rendering", "system", ",", "makes", "for", "further", "deterioration", "of", "the", "reconstructed", "model", "quality", "-LRB-", "Figure", "7", "-LRB-", "h", "-RRB-", "-RRB-", ".", "High", "frequency", "noise", "and", "JPEG", "defenses", "in", "the", "server", "images", "can", "increase", "the", "difficulty", "of", "segmenting", "the", "object", "from", "the", "background", ".", "However", ",", "shape-from-silhouette", "software", "implementa-tions", "with", "specially", "tuned", "image", "processing", "operations", "can", "take", "the", "noise", "characteristics", "into", "account", "to", "help", "classify", "pixels", "accurately", ".", "The", "intersection", "stage", "of", "shape-from-silhouette", "reconstruction", "algorithms", "makes", "them", "innately", "robust", "with", "respect", "to", "background", "pixels", "misclassified", "as", "foreground", ".", "5.3", "Stereo", "Correspondence-based", "Attacks", "Stereo", "reconstruction", "is", "another", "well", "known", "3D", "computer", "vision", "technique", ".", "Stereo", "pairs", "of", "similarly", "neighborhooded", "pixels", "are", "detected", ",", "and", "the", "position", "of", "the", "corresponding", "point", "on", "the", "3D", "surface", "is", "found", "via", "the", "intersection", "of", "epipolar", "lines", ".", "Of", "particular", "relevance", "to", "our", "remote", "rendering", "system", ",", "Debevec", "et", "al.", "-LSB-", "1996", "-RSB-", "showed", "that", "the", "reconstruction", "task", "can", "be", "made", "easier", "and", "more", "accurate", "if", "an", "approximate", "low", "resolution", "model", "is", "available", ",", "by", "warping", "the", "images", "over", "it", "before", "performing", "the", "stereo", "matching", ".", "-LRB-", "a", "-RRB-", "E", "=", "0", "-LRB-", "b", "-RRB-", "E", "=", "4.5", "-LRB-", "c", "-RRB-", "E", "=", "13.5", "-LRB-", "d", "-RRB-", "E", "=", "45.5", "-LRB-", "e", "-RRB-", "E", "=", "11.6", "-LRB-", "f", "-RRB-", "E", "=", "9.3", "-LRB-", "g", "-RRB-", "E", "=", "16.2", "-LRB-", "h", "-RRB-", "E", "=", "26.6", "Figure", "7", ":", "Performance", "of", "shape-from-silhouette", "reconstructions", "against", "various", "server", "defenses", ".", "Error", "values", "-LRB-", "E", "-RRB-", "measure", "the", "mean", "surface", "distance", "-LRB-", "mm", "-RRB-", "from", "the", "5m", "tall", "original", "model", ".", "Top", "row", ":", "-LRB-", "a", "-RRB-", "original", "model", ",", "-LRB-", "b", "-RRB-", "reconstruction", "from", "defenseless", "server", ",", "reconstruction", "with", "-LRB-", "c", "-RRB-", "0.5", "and", "-LRB-", "d", "-RRB-", "2.0", "perturbations", "of", "the", "view", "direction", ".", "Bottom", "row", ":", "-LRB-", "e", "-RRB-", "reconstruction", "with", "a", "random", "image", "offset", "of", "4", "pixels", ",", "with", "-LRB-", "f", "-RRB-", "1.2", "%", "and", "-LRB-", "g", "-RRB-", "2.5", "%", "radial", "image", "distortion", ",", "and", "-LRB-", "h", "-RRB-", "reconstruction", "against", "combined", "defenses", "-LRB-", "1.0", "view", "perturbation", ",", "2", "pixel", "random", "offset", ",", "and", "1.2", "%", "radial", "image", "distortion", "-RRB-", ".", "Ultimately", ",", "however", ",", "stereo", "correspondence", "techniques", "usually", "rely", "on", "matching", "detailed", ",", "high-frequency", "features", "in", "order", "to", "yield", "high-resolution", "reconstruction", "results", ".", "The", "smoothly", "shaded", "3D", "computer", "models", "generated", "by", "laser", "scanning", "that", "we", "share", "via", "our", "remote", "rendering", "system", "thus", "present", "significant", "problems", "to", "basic", "two-frame", "stereo", "matching", "algorithms", ".", "When", "we", "add", "in", "the", "server", "defenses", "such", "as", "image-space", "high", "frequency", "noise", ",", "and", "slight", "perturbations", "in", "the", "viewing", "and", "lighting", "parameters", ",", "the", "stereo", "matching", "task", "becomes", "even", "more", "ill-posed", ".", "Other", "stereo", "research", "such", "as", "-LSB-", "Scharstein", "and", "Szeliski", "2002", "-RSB-", "also", "reports", "great", "difficulty", "in", "stereo", "reconstruction", "of", "noise-contaminated", ",", "low-texture", "synthetic", "scenes", ".", "Were", "we", "to", "distribute", "3D", "models", "with", "high", "resolution", "textures", "applied", "to", "their", "surfaces", ",", "stereo", "correspondence", "methods", "may", "be", "a", "more", "effective", "attack", ".", "5.4", "Shape-from-shading", "Attacks", "Shape-from-shading", "attacks", "represent", "another", "family", "of", "computer", "vision", "techniques", "for", "reconstructing", "the", "shape", "of", "a", "3D", "object", "-LRB-", "see", "-LSB-", "Zhang", "et", "al.", "1999", "-RSB-", "for", "a", "survey", "-RRB-", ".", "The", "primary", "attack", "on", "our", "remote", "rendering", "system", "that", "we", "consider", "in", "this", "class", "involves", "first", "701", "-LRB-", "a", "-RRB-", "E", "=", "0", "-LRB-", "b", "-RRB-", "E", "=", "1.9", "-LRB-", "c", "-RRB-", "E", "=", "1.0", "-LRB-", "d", "-RRB-", "E", "=", "1.1", "-LRB-", "e", "-RRB-", "E", "=", "1.7", "-LRB-", "f", "-RRB-", "E", "=", "2.0", "Figure", "8", ":", "Performance", "of", "shape-from-shading", "reconstruction", "attacks", ".", "Error", "values", "-LRB-", "E", "-RRB-", "measure", "the", "mean", "surface", "distance", "-LRB-", "mm", "-RRB-", "from", "the", "original", "model", ".", "Top", "row", ":", "-LRB-", "a", "-RRB-", "original", "model", ",", "-LRB-", "b", "-RRB-", "low-resolution", "base", "mesh", ",", "-LRB-", "c", "-RRB-", "reconstruction", "from", "defenseless", "server", ".", "Bottom", "row", ":", "reconstruction", "results", "against", "-LRB-", "d", "-RRB-", "high-frequency", "image", "noise", ",", "-LRB-", "e", "-RRB-", "complicated", "lighting", "model", "-LRB-", "3", "lights", "-RRB-", ",", "and", "-LRB-", "f", "-RRB-", "viewing", "angle", "perturbation", "-LRB-", "up", "to", "1.0", "-RRB-", "defenses", ".", "obtaining", "several", "images", "from", "the", "same", "viewpoint", "under", "varying", ",", "known", "lighting", "conditions", ".", "Then", ",", "using", "photometric", "stereo", "methods", ",", "a", "normal", "is", "computed", "for", "each", "pixel", "by", "solving", "a", "system", "of", "rendering", "equations", ".", "The", "resulting", "normal", "map", "can", "be", "registered", "and", "applied", "to", "an", "available", "approximate", "3D", "geometry", ",", "such", "as", "the", "low-resolution", "model", "used", "by", "the", "client", ",", "or", "one", "obtained", "from", "another", "reconstruction", "technique", "such", "as", "shape-from-silhouette", ".", "This", "coarse", "normal-mapped", "model", "itself", "may", "be", "of", "value", "to", "some", "attackers", ":", "when", "rendered", "it", "will", "show", "convincing", "3D", "high", "frequency", "details", "that", "can", "be", "shaded", "under", "new", "lighting", "conditions", ",", "though", "with", "artifacts", "at", "silhouettes", ".", "However", ",", "the", "primary", "purpose", "of", "our", "system", "is", "to", "protect", "the", "high-resolution", "3D", "geometry", ",", "which", "if", "stolen", "could", "be", "used", "maliciously", "for", "shape", "analysis", "or", "to", "create", "replicas", ".", "Thus", ",", "a", "greater", "risk", "is", "posed", "if", "the", "normal", "map", "is", "integrated", "by", "the", "attacker", "to", "compute", "a", "displacement", "map", ",", "and", "the", "results", "are", "used", "to", "displace", "a", "refined", "version", "of", "the", "low-resolution", "model", "mesh", ".", "Following", "this", "procedure", "with", "images", "harvested", "from", "a", "defenseless", "remote", "rendering", "server", "and", "using", "a", "low-resolution", "client", "model", ",", "we", "were", "able", "to", "successfully", "reconstruct", "a", "high-resolution", "3D", "model", ".", "The", "results", "shown", "in", "Figure", "8", "-LRB-", "c", "-RRB-", "depict", "a", "reconstruction", "of", "the", "David", "'s", "head", "produced", "from", "200", "1600x1114", "pixel", "images", "taken", "from", "10", "viewpoints", ",", "with", "20", "lighting", "positions", "used", "at", "each", "viewpoint", ",", "assuming", "a", "known", ",", "single-illuminant", "OpenGL", "lighting", "model", "and", "using", "a", "10,000", "polygon", "low-resolution", "model", "-LRB-", "Fig.", "8", "-LRB-", "b", "-RRB-", "-RRB-", "of", "the", "whole", "statue", ".", "Some", "of", "the", "rendering", "server", "defenses", ",", "such", "as", "adding", "high-frequency", "noise", "to", "the", "images", ",", "can", "be", "compensated", "for", "by", "attackers", "by", "simply", "adding", "enough", "input", "images", "to", "increase", "the", "robustness", "of", "the", "photometric", "stereo", "solution", "step", "-LRB-", "although", "harvesting", "too", "many", "images", "will", "eventually", "trigger", "the", "rendering", "server", "log", "analysis", "monitors", "-RRB-", ".", "Figure", "8", "-LRB-", "d", "-RRB-", "shows", "the", "high", "quality", "reconstruction", "result", "possible", "when", "only", "random", "Gaussian", "noise", "is", "used", "as", "a", "defense", ".", "More", "effective", "defenses", "against", "shape-from-shading", "attacks", "include", "viewing", "and", "lighting", "perturbations", "and", "low-frequency", "image", "distortions", ",", "which", "can", "make", "it", "difficult", "to", "precisely", "register", "images", "onto", "the", "low-resolution", "model", ",", "and", "can", "disrupt", "the", "photometric", "stereo", "solution", "step", "without", "a", "large", "number", "of", "aligned", "input", "images", ".", "Figure", "8", "-LRB-", "e", "-RRB-", "shows", "a", "diminished", "quality", "reconstruction", "when", "the", "rendering", "server", "complicates", "the", "lighting", "model", "by", "using", "3", "perturbed", "light", "sources", "with", "a", "Phong", "component", "unknown", "to", "the", "attacker", ",", "and", "Figure", "8", "-LRB-", "f", "-RRB-", "shows", "the", "significant", "loss", "of", "geometric", "detail", "in", "the", "reconstruction", "when", "the", "server", "randomly", "perturbs", "the", "viewing", "direction", "by", "up", "to", "1.0", "-LRB-", "note", "that", "the", "reconstruction", "error", "exceeds", "that", "of", "the", "starting", "base", "mesh", "-RRB-", ".", "The", "quality", "of", "the", "base", "mesh", "is", "an", "important", "determinant", "in", "the", "success", "of", "this", "particular", "attack", ".", "For", "example", ",", "repeating", "the", "experiment", "of", "Figure", "8", "with", "a", "more", "accurate", "base", "mesh", "of", "30,000", "polygons", "yields", "results", "of", "E", "=", "0.8", ",", "E", "=", "0.6", ",", "and", "E", "=", "0.7", "for", "the", "conditions", "of", "Figures", "8", "-LRB-", "b", "-RRB-", ",", "8", "-LRB-", "c", "-RRB-", ",", "and", "8", "-LRB-", "e", "-RRB-", ",", "respectively", ".", "This", "reliance", "on", "an", "accurate", "low-resolution", "base", "mesh", "for", "the", "3D", "model", "reconstruction", "is", "a", "potential", "weak", "point", "of", "the", "attack", ";", "attackers", "may", "be", "deterred", "by", "the", "effort", "required", "to", "reverse-engineer", "the", "protections", "guarding", "the", "low-resolution", "model", "or", "to", "reconstruct", "an", "acceptable", "base", "mesh", "from", "harvested", "images", "using", "another", "technique", ".", "5.5", "Discussion", "Because", "we", "know", "of", "no", "single", "mechanism", "for", "guaranteeing", "the", "security", "of", "3D", "content", "delivered", "through", "a", "rendering", "server", ",", "we", "have", "instead", "taken", "a", "systems-based", "approach", ",", "implementing", "multiple", "defenses", "and", "using", "them", "in", "combination", ".", "Moreover", ",", "we", "know", "of", "no", "formalism", "for", "rigorously", "analyzing", "the", "security", "provided", "by", "our", "defenses", ";", "the", "reconstruction", "attacks", "that", "we", "have", "empirically", "considered", "here", "are", "merely", "representative", "of", "the", "possible", "threats", ".", "Of", "the", "reconstruction", "attacks", "we", "have", "experimented", "with", "so", "far", ",", "the", "shape-from-shading", "approach", "has", "yielded", "the", "best", "results", "against", "our", "defended", "rendering", "server", ".", "Enumeration", "attacks", "are", "easily", "foiled", "when", "the", "user", "'s", "control", "over", "the", "viewpoint", "and", "view", "frustum", "is", "constrained", ",", "pure", "shape-from-silhouette", "methods", "are", "limited", "to", "reconstructing", "a", "visual", "hull", ",", "and", "two-frame", "stereo", "algorithms", "rely", "on", "determining", "accurate", "correspondences", "which", "is", "difficult", "with", "the", "synthetic", ",", "untextured", "models", "we", "are", "attempting", "to", "protect", ".", "Attackers", "could", "improve", "the", "results", "of", "the", "shape-from-shading", "algorithm", "against", "our", "perturbation", "defenses", "by", "explicitly", "modeling", "the", "distortions", "and", "trying", "to", "take", "them", "into", "account", "in", "the", "optimization", "step", ",", "or", "alternatively", "by", "attempting", "to", "align", "the", "images", "by", "interactively", "establishing", "point", "to", "point", "correspondences", "or", "using", "an", "automatic", "technique", "such", "as", "-LSB-", "Lensch", "et", "al.", "2001", "-RSB-", ".", "Such", "procedures", "for", "explicitly", "modeling", "the", "server", "defenses", ",", "or", "correcting", "for", "them", "via", "manual", "specification", "of", "correspondences", ",", "are", "applicable", "to", "any", "style", "of", "reconstruction", "attempt", ".", "To", "combat", "these", "attacks", ",", "we", "must", "rely", "on", "the", "combined", "discouraging", "effect", "of", "multiple", "defenses", "running", "simultaneously", ",", "which", "increases", "the", "number", "of", "degrees", "of", "freedom", "of", "perturbation", "to", "a", "level", "that", "would", "be", "difficult", "and", "time-consuming", "to", "overcome", ".", "Some", "of", "our", "rendering", "server", "defenses", ",", "such", "as", "the", "lighting", "model", "and", "non-linear", "image", "distortions", ",", "can", "be", "increased", "arbitrarily", "in", "their", "complexity", ".", "Likewise", ",", "the", "magnitude", "of", "server", "defense", "perturbations", "can", "be", "increased", "with", "a", "corresponding", "decrease", "in", "the", "fidelity", "of", "the", "rendered", "images", ".", "Ultimately", ",", "no", "fixed", "set", "of", "defenses", "is", "bulletproof", "against", "a", "sophisticated", ",", "malicious", "attacker", "with", "enough", "resources", "at", "their", "disposal", ",", "and", "one", "is", "inevitably", "led", "to", "an", "``", "arms", "race", "''", "between", "attacks", "and", "countermeasures", "such", "as", "we", "have", "implemented", ".", "As", "the", "expense", "required", "to", "overcome", "our", "remote", "rendering", "server", "defenses", "becomes", "greater", ",", "determined", "attackers", "may", "instead", "turn", "to", "reaching", "their", "piracy", "goals", "via", "non-reconstruction-based", "methods", "beyond", "the", "scope", "of", "this", "paper", ",", "such", "as", "computer", "network", "intrusion", "or", "exploitation", "of", "non-technical", "human", "factors", ".", "702", "A", "prototype", "of", "our", "remote", "rendering", "system", "-LRB-", "ScanView", ",", "available", "at", "http://graphics.stanford.edu/software/scanview/", "-RRB-", "has", "been", "deployed", "to", "share", "3D", "models", "from", "a", "major", "cultural", "heritage", "archive", ",", "the", "Digital", "Michelangelo", "Project", "-LSB-", "Levoy", "et", "al.", "2000", "-RSB-", ",", "as", "well", "as", "other", "collections", "of", "archaeological", "artifacts", "that", "require", "protected", "usage", ".", "In", "the", "several", "months", "since", "becoming", "publically", "available", ",", "more", "than", "4,000", "users", "have", "installed", "the", "client", "program", "on", "their", "personal", "computers", "and", "accessed", "the", "remote", "servers", "to", "view", "the", "protected", "3D", "models", ".", "The", "users", "have", "included", "art", "students", ",", "art", "scholars", ",", "art", "enthusiasts", ",", "and", "sculptors", "examining", "high-resolution", "artworks", ",", "as", "well", "as", "archaeologists", "examining", "particular", "artifacts", ".", "Few", "of", "these", "individuals", "would", "have", "qualified", "under", "the", "strict", "guidelines", "required", "to", "obtain", "completely", "unrestricted", "access", "to", "the", "models", ",", "so", "the", "protected", "remote", "rendering", "system", "has", "enabled", "large", ",", "entirely", "new", "groups", "of", "users", "access", "to", "3D", "graphical", "models", "for", "professional", "study", "and", "enjoyment", ".", "Reports", "from", "users", "of", "the", "system", "have", "been", "uniformly", "positive", "and", "enthusiastic", ".", "Fetching", "high-resolution", "renderings", "over", "intercontinental", "broadband", "Internet", "connections", "takes", "less", "than", "2", "seconds", "of", "latency", ",", "while", "fast", "continental", "connections", "generally", "experience", "latencies", "dominated", "by", "the", "rendering", "server", "'s", "processing", "time", "-LRB-", "around", "150", "ms", "-RRB-", ".", "The", "rendering", "server", "architecture", "can", "scale", "up", "to", "support", "an", "arbitrary", "number", "of", "requests", "per", "second", "by", "adding", "additional", "CPU", "and", "GPU", "nodes", ",", "and", "rendering", "servers", "can", "be", "installed", "at", "distributed", "locations", "around", "the", "world", "to", "reduce", "intercontinental", "latencies", "if", "desired", ".", "Our", "log", "analysis", "defenses", "have", "detected", "multiple", "episodes", "of", "system", "users", "attempting", "to", "harvest", "large", "sets", "of", "images", "from", "the", "server", "for", "purposes", "of", "later", "3D", "reconstruction", "attempts", ",", "though", "these", "incidents", "were", "determined", "to", "be", "non-malicious", ".", "In", "general", ",", "the", "monitoring", "capabilities", "of", "a", "remote", "rendering", "server", "are", "useful", "for", "reasons", "beyond", "just", "security", ",", "as", "the", "server", "logs", "provide", "complete", "accounts", "of", "all", "usage", "of", "the", "3D", "models", "in", "the", "archive", ",", "which", "can", "be", "valuable", "information", "for", "archive", "managers", "to", "gauge", "popularity", "of", "individual", "models", "and", "understand", "user", "interaction", "patterns", ".", "Our", "plans", "for", "future", "work", "include", "further", "investigation", "of", "computer", "vision", "techniques", "that", "address", "3D", "reconstruction", "of", "synthetic", "data", "under", "antagonistic", "conditions", ",", "and", "analysis", "of", "their", "efficacy", "against", "the", "various", "rendering", "server", "defenses", ".", "More", "sophisticated", "extensions", "to", "the", "basic", "vision", "approaches", "described", "above", ",", "such", "as", "multi-view", "stereo", "algorithms", ",", "and", "robust", "hybrid", "vision", "algorithms", "which", "combine", "the", "strengths", "of", "different", "reconstruction", "techniques", ",", "can", "present", "difficult", "challenges", "to", "protecting", "the", "models", ".", "Another", "direction", "of", "research", "is", "to", "consider", "how", "to", "allow", "users", "a", "greater", "degree", "of", "geometric", "analysis", "of", "the", "protected", "3D", "models", "without", "further", "exposing", "the", "data", "to", "theft", ";", "scholarly", "and", "professional", "users", "have", "expressed", "interest", "in", "measuring", "distances", "and", "plotting", "profiles", "of", "3D", "objects", "for", "analytical", "purposes", "beyond", "the", "simple", "3D", "viewing", "supported", "in", "the", "current", "system", ".", "Finally", ",", "we", "are", "continuing", "to", "investigate", "alternative", "approaches", "to", "protecting", "3D", "graphics", ",", "designing", "specialized", "systems", "which", "make", "data", "security", "a", "priority", "while", "potentially", "sacrificing", "some", "general", "purpose", "computing", "platform", "capabilities", ".", "The", "GPU", "decryption", "scheme", "described", "herein", ",", "for", "example", ",", "is", "one", "such", "idea", "that", "may", "be", "appropriate", "for", "console", "devices", "and", "other", "custom", "graphics", "systems", ".", "Acknowledgements", "We", "thank", "Kurt", "Akeley", ",", "Sean", "Anderson", ",", "Jonathan", "Berger", ",", "Dan", "Boneh", ",", "Ian", "Buck", ",", "James", "Davis", ",", "Pat", "Hanrahan", ",", "Hughes", "Hoppe", ",", "David", "Kirk", ",", "Matthew", "Papakipos", ",", "Nick", "Triantos", ",", "and", "the", "anonymous", "reviewers", "for", "their", "useful", "feedback", ",", "and", "Szymon", "Rusinkiewicz", "for", "sharing", "code", ".", "This", "work", "has", "been", "supported", "in", "part", "by", "NSF", "contract", "IIS", "0113427", ",", "the", "Max", "Planck", "Center", "for", "Visual", "Computing", "and", "Communication", ",", "and", "the", "EU", "IST-2001", "-32641", "ViHAP3D", "Project", ".", "C", "OLLBERG", ",", "C.", ",", "AND", "T", "HOMBORSON", ",", "C.", "2000", ".", "Watermarking", ",", "tamper-proofing", ",", "and", "obfuscation", ":", "Tools", "for", "software", "protection", ".", "Tech", ".", "Rep.", "170", ",", "Dept.", "of", "Computer", "Science", ",", "The", "University", "of", "Auckland", ".", "D", "EBEVEC", ",", "P.", ",", "T", "AYLOR", ",", "C.", ",", "AND", "M", "ALIK", ",", "J.", "1996", ".", "Modeling", "and", "rendering", "architecture", "from", "photographs", ":", "A", "hybrid", "geometry", "-", "and", "image-based", "approach", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "96", ",", "11", "20", ".", "E", "NGEL", ",", "K.", ",", "H", "ASTREITER", ",", "P.", ",", "T", "OMANDL", ",", "B.", ",", "E", "BERHARDT", ",", "K.", ",", "AND", "E", "RTL", ",", "T.", "2000", ".", "Combining", "local", "and", "remote", "visualization", "techniques", "for", "interactive", "volume", "rendering", "in", "medical", "applications", ".", "In", "Proc", ".", "of", "IEEE", "Visualization", "2000", ",", "449", "452", ".", "G", "ORTLER", ",", "S.", ",", "G", "RZESZCZUK", ",", "R.", ",", "S", "ZELISKI", ",", "R.", ",", "AND", "C", "OHEN", ",", "M.", "F.", "1996", ".", "The", "lumigraph", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "96", ",", "43", "54", ".", "L", "AURENTINI", ",", "A.", "1994", ".", "The", "visual", "hull", "concept", "for", "silhouette-based", "image", "understanding", ".", "IEEE", "Trans", ".", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", "16", ",", "2", ",", "150", "162", ".", "L", "ENSCH", ",", "H.", "P.", ",", "H", "EIDRICH", ",", "W.", ",", "AND", "S", "EIDEL", ",", "H.-P", ".", "2001", ".", "A", "silhouette-based", "algorithm", "for", "texture", "registration", "and", "stitching", ".", "Graphical", "Models", "63", ",", "245", "262", ".", "L", "EVOY", ",", "M.", ",", "AND", "H", "ANRAHAN", ",", "P.", "1996", ".", "Light", "field", "rendering", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "96", ",", "31", "42", ".", "L", "EVOY", ",", "M.", ",", "P", "ULLI", ",", "K.", ",", "C", "URLESS", ",", "B.", ",", "R", "USINKIEWICZ", ",", "S.", ",", "K", "OLLER", ",", "D.", ",", "P", "EREIRA", ",", "L.", ",", "G", "INZTON", ",", "M.", ",", "A", "NDERSON", ",", "S.", ",", "D", "AVIS", ",", "J.", ",", "G", "INSBERG", ",", "J.", ",", "S", "HADE", ",", "J.", ",", "AND", "F", "ULK", ",", "D.", "2000", ".", "The", "digital", "michelangelo", "project", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "2000", ",", "131", "144", ".", "L", "EVOY", ",", "M.", "1995", ".", "Polygon-assisted", "jpeg", "and", "mpeg", "compression", "of", "synthetic", "images", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "95", ",", "21", "28", ".", "N", "IEM", ",", "W.", "1997", ".", "Error", "analysis", "for", "silhouette-based", "3d", "shape", "estimation", "from", "multiple", "views", ".", "In", "International", "Workshop", "on", "Synthetic-Natural", "Hybrid", "Coding", "and", "3D", "Imaging", ".", "O", "HBUCHI", ",", "R.", ",", "M", "UKAIYAMA", ",", "A.", ",", "AND", "T", "AKAHASHI", ",", "S.", "2002", ".", "A", "frequency-domain", "approach", "to", "watermarking", "3d", "shapes", ".", "Computer", "Graphics", "Forum", "21", ",", "3", ".", "P", "RAUN", ",", "E.", ",", "H", "OPPE", ",", "H.", ",", "AND", "F", "INKELSTEIN", ",", "A.", "1999", ".", "Robust", "mesh", "watermarking", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "99", ",", "49", "56", ".", "R", "ESSLER", ",", "S.", ",", "2001", ".", "Web3d", "security", "discussion", ".", "Online", "article", ":", "http://web3d.about.com/library/weekly/aa013101a.htm", ".", "R", "USINKIEWICZ", ",", "S.", ",", "AND", "L", "EVOY", ",", "M.", "2000", ".", "QSplat", ":", "A", "multiresolution", "point", "rendering", "system", "for", "large", "meshes", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "2000", ",", "343", "352", ".", "S", "CHARSTEIN", ",", "D.", ",", "AND", "S", "ZELISKI", ",", "R.", "2002", ".", "A", "taxonomy", "and", "evaluation", "of", "dense", "two-frame", "stereo", "correspondence", "algorithms", ".", "International", "Journal", "of", "Computer", "Vision", "47", ",", "1", "3", ",", "7", "42", ".", "S", "CHNEIER", ",", "B.", "2000", ".", "The", "fallacy", "of", "trusted", "client", "software", ".", "Information", "Security", "-LRB-", "August", "-RRB-", ".", "S", "IMONS", ",", "D.", ",", "AND", "L", "EVIN", ",", "D.", "1997", ".", "Change", "blindness", ".", "Trends", "in", "Cognitive", "Sciences", "1", ",", "7", ",", "261", "267", ".", "S", "LABAUGH", ",", "G.", ",", "C", "ULBERTSON", ",", "B.", ",", "M", "ALZBENDER", ",", "T.", ",", "AND", "S", "CHAFER", ",", "R.", "2001", ".", "A", "survey", "of", "methods", "for", "volumetric", "scene", "reconstruction", "from", "photographs", ".", "In", "Proc", ".", "of", "the", "Joint", "IEEE", "TCVG", "and", "Eurographics", "Workshop", "-LRB-", "VolumeGraphics-01", "-RRB-", ",", "Springer-Verlag", ",", "81", "100", ".", "S", "TANFORD", "D", "IGITAL", "F", "ORMA", "U", "RBIS", "P", "ROJECT", ",", "2004", ".", "http://formaurbis.stanford.edu", ".", "T", "ARINI", ",", "M.", ",", "C", "ALLIERI", ",", "M.", ",", "M", "ONTANI", ",", "C.", ",", "R", "OCCHINI", ",", "C.", ",", "O", "LSSON", ",", "K.", ",", "AND", "P", "ERSSON", ",", "T.", "2002", ".", "Marching", "intersections", ":", "An", "efficient", "approach", "to", "shape-from-silhouette", ".", "In", "Proceedings", "of", "the", "Conference", "on", "Vision", ",", "Modeling", ",", "and", "Visualization", "-LRB-", "VMV", "2002", "-RRB-", ",", "255", "262", ".", "Y", "OON", ",", "I.", ",", "AND", "N", "EUMANN", ",", "U.", "2000", ".", "Web-based", "remote", "rendering", "with", "IBRAC", ".", "Computer", "Graphics", "Forum", "19", ",", "3", ".", "Z", "HANG", ",", "R.", ",", "T", "SAI", ",", "P.-S.", ",", "C", "RYER", ",", "J.", "E.", ",", "AND", "S", "HAH", ",", "M.", "1999", ".", "Shape", "from", "shading", ":", "A", "survey", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", "21", ",", "8", ",", "690", "706", ".", "703"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["remote rendering", "security", "digital rights management", "3d models"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "161", "document": ["Query", "Type", "Classification", "for", "Web", "Document", "Retrieval", "The", "heterogeneous", "Web", "exacerbates", "IR", "problems", "and", "short", "user", "queries", "make", "them", "worse", ".", "The", "contents", "of", "web", "documents", "are", "not", "enough", "to", "find", "good", "answer", "documents", ".", "Link", "information", "and", "URL", "information", "compensates", "for", "the", "insufficiencies", "of", "content", "information", ".", "However", ",", "static", "combination", "of", "multiple", "evidences", "may", "lower", "the", "retrieval", "performance", ".", "We", "need", "different", "strategies", "to", "find", "target", "documents", "according", "to", "a", "query", "type", ".", "We", "can", "classify", "user", "queries", "as", "three", "categories", ",", "the", "topic", "relevance", "task", ",", "the", "homepage", "finding", "task", ",", "and", "the", "service", "finding", "task", ".", "In", "this", "paper", ",", "a", "user", "query", "classification", "scheme", "is", "proposed", ".", "This", "scheme", "uses", "the", "difference", "of", "distribution", ",", "mutual", "information", ",", "the", "usage", "rate", "as", "anchor", "texts", ",", "and", "the", "POS", "information", "for", "the", "classification", ".", "After", "we", "classified", "a", "user", "query", ",", "we", "apply", "different", "algorithms", "and", "information", "for", "the", "better", "results", ".", "For", "the", "topic", "relevance", "task", ",", "we", "emphasize", "the", "content", "information", ",", "on", "the", "other", "hand", ",", "for", "the", "homepage", "finding", "task", ",", "we", "emphasize", "the", "Link", "information", "and", "the", "URL", "information", ".", "We", "could", "get", "the", "best", "performance", "when", "our", "proposed", "classification", "method", "with", "the", "OKAPI", "scoring", "algorithm", "was", "used", ".", "H.", "4", ".", "m", "-LSB-", "Information", "Systems", "Applications", "-RSB-", ":", "Miscellaneous", "Experimentation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "03", ",", "July", "28", "August", "1", ",", "2003", ",", "Toronto", ",", "Canada", "Copyright", "2003", "ACM", "1-58113-646-3", "/", "03/0007", "...", "$", "5.00", ".", "The", "Web", "is", "rich", "with", "various", "sources", "of", "information", ".", "It", "contains", "the", "contents", "of", "documents", ",", "web", "directories", ",", "multi-media", "data", ",", "user", "profiles", "and", "so", "on", ".", "The", "massive", "and", "heterogeneous", "web", "document", "collections", "as", "well", "as", "the", "unpredictable", "querying", "behaviors", "of", "typical", "web", "searchers", "exacerbate", "Information", "Retrieval", "-LRB-", "IR", "-RRB-", "problems", ".", "Retrieval", "approaches", "based", "on", "the", "single", "source", "of", "evidence", "suffer", "from", "weakness", "that", "can", "hurt", "the", "retrieval", "performance", "in", "certain", "situations", "-LSB-", "5", "-RSB-", ".", "For", "example", ",", "content-based", "IR", "approaches", "have", "a", "difficulty", "in", "dealing", "with", "the", "diversity", "in", "vocabulary", "and", "the", "quality", "of", "web", "documents", ",", "while", "link-based", "approaches", "can", "suffer", "from", "an", "incomplete", "or", "noisy", "link", "structure", ".", "Combining", "multiple", "evidences", "compensates", "for", "the", "weakness", "of", "a", "single", "evidence", "-LSB-", "17", "-RSB-", ".", "Fusion", "IR", "studies", "have", "repeatedly", "shown", "that", "combining", "multiple", "sources", "of", "evidence", "can", "improve", "retrieval", "performance", "-LSB-", "5", "-RSB-", "-LSB-", "17", "-RSB-", ".", "However", ",", "previous", "studies", "did", "not", "consider", "a", "user", "query", "in", "combining", "evidences", "-LSB-", "5", "-RSB-", "-LSB-", "7", "-RSB-", "-LSB-", "10", "-RSB-", "-LSB-", "17", "-RSB-", ".", "Not", "only", "documents", "in", "the", "Web", "but", "also", "users", "'", "queries", "are", "diverse", ".", "For", "example", ",", "for", "user", "query", "`", "Mutual", "Information", "'", ",", "if", "we", "count", "on", "link", "information", "too", "highly", ",", "well-known", "site", "that", "has", "`", "mutual", "funds", "'", "and", "`", "information", "'", "as", "index", "terms", "gets", "the", "higher", "rank", ".", "For", "user", "query", "`", "Britney", "'s", "Fan", "Club", "'", ",", "if", "we", "use", "content", "information", "too", "highly", ",", "yahoo", "or", "lycos", "'s", "web", "directory", "pages", "get", "the", "higher", "rank", ",", "instead", "of", "the", "Britney", "'s", "fan", "club", "site", ".", "Like", "these", "examples", ",", "combining", "content", "information", "and", "link", "information", "is", "not", "always", "good", ".", "We", "have", "to", "use", "different", "strategies", "to", "meet", "the", "need", "of", "a", "user", ".", "User", "queries", "can", "be", "classified", "as", "three", "categories", "according", "to", "their", "intent", "-LSB-", "4", "-RSB-", ".", "topic", "relevance", "task", "-LRB-", "informational", "-RRB-", "homepage", "finding", "task", "-LRB-", "navigational", "-RRB-", "service", "finding", "task", "-LRB-", "transactional", "-RRB-", "The", "topic", "relevance", "task", "is", "a", "traditional", "ad", "hoc", "retrieval", "task", "where", "web", "documents", "are", "ranked", "by", "decreasing", "likelihood", "of", "meeting", "the", "information", "need", "provided", "in", "a", "user", "query", "-LSB-", "8", "-RSB-", ".", "For", "example", ",", "`", "What", "is", "a", "prime", "factor", "?", "'", "or", "`", "prime", "factor", "'", "is", "a", "query", "of", "the", "topic", "relevance", "task", ".", "The", "goal", "of", "this", "query", "is", "finding", "the", "meaning", "of", "`", "prime", "factor", "'", ".", "The", "homepage", "finding", "task", "is", "a", "known-item", "task", "where", "the", "goal", "is", "to", "find", "the", "homepage", "-LRB-", "or", "site", "entry", "page", "-RRB-", "of", "the", "site", "described", "in", "a", "user", "query", ".", "Users", "are", "interested", "in", "finding", "a", "certain", "site", ".", "For", "example", ",", "`", "Where", "is", "the", "site", "of", "John", "Hopkins", "Medical", "Institutions", "?", "'", "or", "`", "John", "Hopkins", "Medical", "Institutions", "'", "is", "a", "query", "of", "the", "homepage", "finding", "task", ".", "The", "goal", "of", "this", "query", "is", "finding", "the", "entry", "page", "of", "`", "John", "Hopkins", "Medical", "Institutions", "'", ".", "The", "service", "finding", "task", "is", "a", "task", "where", "the", "goal", "is", "to", "find", "64", "web", "documents", "that", "provide", "the", "service", "described", "in", "a", "user", "query", ".", "For", "example", ",", "`", "Where", "can", "I", "buy", "concert", "tickets", "?", "'", "or", "`", "buy", "concert", "tickets", "'", "is", "a", "query", "of", "the", "service", "finding", "task", ".", "The", "goal", "of", "this", "query", "is", "finding", "documents", "where", "they", "can", "buy", "concert", "tickets", ".", "Users", "may", "want", "different", "documents", "with", "the", "same", "query", ".", "We", "can", "not", "always", "tell", "the", "class", "of", "a", "query", "clearly", ".", "But", "we", "can", "tell", "most", "people", "want", "a", "certain", "kind", "of", "documents", "with", "this", "query", ".", "In", "this", "paper", ",", "we", "calculate", "the", "probability", "that", "the", "class", "of", "a", "user", "query", "is", "the", "topic", "relevance", "task", "or", "the", "homepage", "finding", "task", ".", "Based", "on", "this", "probability", ",", "we", "combine", "multiple", "evidences", "dynamically", ".", "In", "this", "paper", ",", "we", "consider", "the", "topic", "relevance", "task", "and", "the", "homepage", "finding", "task", "only", ".", "Because", "the", "proposed", "method", "is", "based", "on", "the", "difference", "of", "databases", ",", "we", "can", "apply", "the", "same", "method", "to", "classify", "the", "service", "finding", "task", ".", "In", "this", "paper", ",", "we", "present", "a", "user", "query", "classification", "method", "and", "a", "combining", "method", "for", "each", "query", "type", ".", "In", "section", "2", ",", "we", "describe", "various", "types", "of", "information", "-LRB-", "Content", ",", "Link", ",", "and", "URL", "information", "-RRB-", ".", "Section", "3", "lists", "the", "differences", "of", "search", "tasks", "and", "the", "properties", "of", "Content", ",", "Link", ",", "and", "URL", "information", ".", "In", "section", "4", ",", "we", "present", "the", "model", "of", "a", "query", "classification", ".", "In", "section", "5", ",", "we", "experiment", "with", "our", "proposed", "model", ".", "Conclusion", "is", "described", "in", "section", "6", ".", "In", "this", "section", ",", "we", "explain", "various", "sources", "of", "information", "for", "the", "web", "document", "retrieval", ".", "There", "are", "three", "types", "of", "information", ",", "Content", "information", ",", "Link", "information", ",", "and", "URL", "information", ".", "2.1", "Content", "Information", "There", "are", "multiple", "types", "of", "representations", "for", "a", "document", ".", "These", "representations", "typically", "contain", "titles", ",", "anchor", "texts", ",", "and", "main", "body", "texts", "-LSB-", "5", "-RSB-", ".", "A", "title", "provides", "the", "main", "idea", "and", "the", "brief", "explanation", "of", "a", "web", "document", ".", "An", "anchor", "text", "provides", "the", "description", "of", "linked", "web", "documents", "and", "files", ".", "An", "anchor", "text", "often", "provides", "more", "accurate", "description", "of", "a", "web", "document", "than", "the", "document", "itself", ".", "We", "usually", "use", "tf", "and", "df", "to", "calculate", "the", "relevance", "of", "a", "given", "web", "documents", "-LSB-", "1", "-RSB-", ".", "tf", "is", "the", "raw", "frequency", "of", "a", "given", "term", "inside", "a", "document", ".", "It", "provides", "one", "measure", "of", "how", "well", "that", "term", "describes", "the", "document", "contents", ".", "df", "is", "the", "number", "of", "documents", "in", "which", "the", "index", "term", "appears", ".", "The", "motivation", "for", "using", "an", "inverse", "document", "frequency", "is", "that", "terms", "that", "appear", "in", "many", "documents", "are", "not", "very", "useful", "for", "distinguishing", "a", "relevant", "document", "from", "a", "non-relevant", "one", ".", "There", "are", "various", "scoring", "algorithms", "that", "use", "tf", "and", "df", ".", "These", "scoring", "algorithms", "include", "the", "normalization", "and", "the", "combination", "of", "each", "factor", ",", "tf", "and", "df", ".", "2.2", "Link", "Information", "A", "hyperlink", "in", "a", "web", "document", "is", "a", "kind", "of", "citation", ".", "The", "essential", "idea", "is", "that", "if", "page", "u", "has", "a", "link", "to", "page", "v", ",", "then", "the", "author", "of", "u", "is", "implicitly", "assigning", "some", "importance", "to", "page", "v", ".", "Since", "we", "can", "represent", "the", "Web", "as", "a", "graph", ",", "we", "can", "use", "graph", "theories", "to", "help", "us", "make", "a", "search", "engine", "that", "returns", "the", "most", "important", "pages", "first", ".", "The", "PageRank", "or", "P", "R", "-LRB-", "A", "-RRB-", "of", "a", "page", "A", "is", "given", "as", "follows", "-LSB-", "13", "-RSB-", ".", "P", "R", "-LRB-", "A", "-RRB-", "=", "-LRB-", "1", "-", "d", "-RRB-", "+", "-LRB-", "1", "-RRB-", "d", "-LRB-", "P", "R", "-LRB-", "T", "1", "-RRB-", "/", "C", "-LRB-", "T", "1", "-RRB-", "+", "...", "+", "P", "R", "-LRB-", "T", "n", "-RRB-", "/", "C", "-LRB-", "T", "n", "-RRB-", "-RRB-", "We", "assume", "page", "A", "has", "pages", "T", "1", "...", "T", "n", "that", "point", "to", "it", ".", "The", "parameter", "d", "is", "a", "damping", "factor", "that", "can", "be", "set", "between", "0", "and", "1", ".", "Also", "C", "-LRB-", "A", "-RRB-", "is", "defined", "as", "the", "number", "of", "links", "going", "out", "of", "a", "page", "A.", "P", "R", "-LRB-", "A", "-RRB-", "can", "be", "calculated", "using", "a", "simple", "iterative", "algorithm", ",", "and", "corresponds", "to", "the", "principal", "eigenvector", "of", "the", "normalized", "link", "matrix", "of", "the", "Web", "-LSB-", "3", "-RSB-", ".", "2.3", "URL", "Information", "The", "URL", "string", "of", "a", "site", "entry", "page", "often", "contains", "the", "name", "or", "acronym", "of", "the", "corresponding", "organization", ".", "Therefore", ",", "an", "obvious", "way", "of", "exploiting", "URL", "information", "is", "trying", "to", "match", "query", "terms", "and", "URL", "terms", ".", "Additionally", ",", "URLs", "of", "site", "entry", "pages", "tend", "to", "be", "higher", "in", "a", "server", "'s", "directory", "tree", "than", "other", "web", "documents", ",", "i.e.", "the", "number", "of", "slashes", "-LRB-", "`", "/", "'", "-RRB-", "in", "an", "entry", "page", "URL", "tends", "to", "be", "relatively", "small", ".", "Kraaij", "et", "al.", "suggested", "4", "types", "of", "URLs", "-LSB-", "16", "-RSB-", ".", "root", ":", "a", "domain", "name", "-LRB-", "e.g.", "http://trec.nist.gov", "-RRB-", "subroot", ":", "a", "domain", "name", "followed", "by", "a", "single", "directory", "-LRB-", "e.g.", "http://trec.nist.gov/pubs/", "-RRB-", "path", ":", "a", "domain", "name", "followed", "by", "an", "arbitrarily", "deep", "path", "-LRB-", "e.g.", "http://trec.nist.gov/pubs/trec9/papers", "-RRB-", "file", ":", "anything", "ending", "in", "a", "filename", "other", "than", "`", "in-dex", ".", "html", "'", "-LRB-", "e.g.", "http://trec.nist.gov/pubs/trec9/t9proc.html", "-RRB-", "Kraaij", "et", "al.", "estimated", "a", "prior", "probability", "-LRB-", "URLprior", "-RRB-", "of", "being", "an", "entry", "page", "on", "the", "basis", "of", "the", "URL", "type", "for", "all", "URL", "types", "t", "-LRB-", "root", ",", "subroot", ",", "path", ",", "and", "file", "-RRB-", ".", "2.4", "Combination", "of", "Information", "We", "can", "combine", "results", "of", "each", "search", "engine", "or", "scores", "of", "each", "measure", "to", "get", "better", "results", ".", "Croft", "proposed", "the", "IN-QUERY", "retrieval", "system", ",", "based", "on", "the", "inference", "network", ",", "to", "combine", "multiple", "evidences", "-LSB-", "5", "-RSB-", ".", "The", "inference", "network", "model", "is", "a", "general", "model", "for", "combining", "information", ".", "It", "is", "data-level", "fusion", ".", "The", "model", "is", "based", "on", "probabilistic", "updating", "of", "the", "values", "of", "nodes", "in", "the", "network", ",", "and", "many", "retrieval", "techniques", "and", "information", "can", "be", "implemented", "by", "config-uring", "the", "network", "properly", ".", "Several", "researchers", "have", "experimented", "with", "linearly", "combining", "the", "normalized", "relevance", "scores", "-LRB-", "s", "i", "-RRB-", "given", "to", "each", "document", "-LSB-", "7", "-RSB-", "-LSB-", "10", "-RSB-", "-LSB-", "16", "-RSB-", ".", "score", "-LRB-", "d", "-RRB-", "=", "i", "i", "s", "i", "-LRB-", "d", "-RRB-", "-LRB-", "2", "-RRB-", "It", "requires", "training", "for", "the", "weight", "i", "given", "to", "each", "input", "system", ".", "For", "example", ",", "we", "can", "get", "a", "better", "result", "by", "combining", "content", "information", "and", "URL", "type", "information", "with", "the", "following", "weight", "-LSB-", "16", "-RSB-", ".", "score", "-LRB-", "d", "-RRB-", "=", "0.7", "content", "+", "0.3", "URLprior", "-LRB-", "3", "-RRB-", "In", "this", "section", ",", "we", "show", "properties", "of", "Content", "information", ",", "Link", "information", ",", "and", "URL", "information", "in", "each", "search", "task", ".", "Besides", ",", "we", "will", "propose", "the", "method", "for", "linearly", "combining", "information", "for", "each", "task", ".", "65", "We", "use", "TREC", "data", "collection", ",", "to", "show", "the", "differences", "of", "each", "search", "task", ".", "We", "made", "a", "simple", "search", "engine", "that", "use", "the", "variation", "of", "the", "OKAPI", "scoring", "function", "-LSB-", "15", "-RSB-", ".", "Given", "a", "query", "Q", ",", "the", "scoring", "formula", "is", ":", "score", "=", "t", "-LRB-", "QD", "d", "-RRB-", "T", "F", "d", ",", "t", "IDF", "t", "-LRB-", "4", "-RRB-", "T", "F", "d", ",", "t", "=", "0.4", "+", "0.6", "tf", "d", ",", "t", "tf", "d", ",", "t", "+", "0.5", "+", "1.5", "doclen", "d", "avg", "doclen", "-LRB-", "5", "-RRB-", "IDF", "t", "=", "log", "-LRB-", "N", "+", "0.5", "df", "t", "-RRB-", "/", "log", "-LRB-", "N", "+", "1", "-RRB-", "-LRB-", "6", "-RRB-", "N", "is", "the", "number", "of", "documents", "in", "the", "collection", ".", "tf", "d", ",", "t", "is", "the", "number", "of", "occurrences", "of", "an", "index", "term", "t", "in", "a", "document", "d", ",", "and", "df", "t", "is", "the", "number", "of", "documents", "in", "which", "t", "occurs", ".", "We", "use", "the", "data", "for", "the", "web", "track", ",", "the", "10-gigabyte", "WT10g", "collection", "-LSB-", "2", "-RSB-", ",", "distributed", "by", "CSIRO", "-LSB-", "6", "-RSB-", ".", "We", "use", "TREC-2001", "topic", "relevance", "task", "queries", "-LRB-", "topics", "501-550", "-RRB-", "for", "the", "topic", "relevance", "task", ",", "and", "145", "queries", "for", "the", "homepage", "finding", "task", "-LSB-", "8", "-RSB-", ".", "For", "the", "homepage", "finding", "task", ",", "NIST", "found", "a", "homepage", "within", "WT10g", "and", "then", "composed", "a", "query", "designed", "to", "locate", "it", ".", "We", "used", "the", "anchor", "text", "representation", "-LRB-", "Anchor", "-RRB-", "and", "the", "common", "content", "text", "representation", "-LRB-", "Common", "-RRB-", "for", "indexing", ".", "Every", "document", "in", "the", "anchor", "text", "representation", "has", "anchor", "texts", "and", "the", "title", "as", "content", ",", "and", "excludes", "a", "body", "text", ".", "Consequently", "the", "anchor", "text", "representation", "has", "brief", "or", "main", "explanations", "of", "a", "document", ".", "We", "used", "two", "other", "evidences", "for", "a", "scoring", "function", "besides", "the", "OKAPI", "score", ".", "One", "is", "URLprior", "for", "URL", "information", "and", "the", "other", "is", "PageRank", "for", "Link", "information", ".", "We", "linearly", "interpolated", "Content", "information", "-LRB-", "OKAPI", "score", "-RRB-", ",", "URLprior", ",", "and", "PageRank", ".", "We", "call", "this", "interpolation", "as", "CMB", ".", "rel", "-LRB-", "d", "-RRB-", "=", "0.65", "Content", "Information", "+", "-LRB-", "7", "-RRB-", "0.25", "URL", "Information", "+", "0.1", "Link", "Information", "We", "used", "`", "and", "'", "and", "`", "sum", "'", "operators", "for", "matching", "query", "terms", "-LSB-", "1", "-RSB-", ".", "`", "and", "'", "operator", "means", "that", "the", "result", "document", "has", "all", "query", "terms", "in", "it", ".", "`", "sum", "'", "operator", "means", "that", "a", "result", "document", "has", "at", "least", "one", "query", "term", "in", "it", ".", "Table", "1", "shows", "the", "average", "precision", "of", "the", "topic", "relevance", "task", "and", "the", "MRR", "of", "the", "homepage", "finding", "task", "-LSB-", "8", "-RSB-", ".", "The", "first", "column", "in", "the", "table", "1", "means", "the", "method", "that", "we", "used", "for", "indexing", "and", "scoring", ".", "For", "example", ",", "`", "Anchor", "and", "CMB", "'", "means", "that", "we", "used", "the", "anchor", "text", "representation", "for", "indexing", ",", "`", "and", "'", "operator", "for", "query", "matching", ",", "and", "the", "OKAPI", "score", ",", "PageRank", "and", "URLprior", "for", "scoring", ".", "The", "average", "precision", "is", "defined", "as", "the", "average", "of", "the", "precision", "obtained", "at", "the", "rank", "of", "each", "relevant", "document", ".", "P", "avg", "=", "1", "|", "R", "|", "d", "R", "R", "r", "-LRB-", "d", "-RRB-", "r", "-LRB-", "d", "-RRB-", "-LRB-", "8", "-RRB-", "R", "is", "the", "set", "of", "all", "relevant", "documents", "and", "R", "r", "-LRB-", "d", "-RRB-", "is", "the", "set", "of", "relevant", "documents", "with", "rank", "r", "-LRB-", "d", "-RRB-", "or", "better", ".", "MRR", "-LRB-", "Mean", "Reciprocal", "Rank", "-RRB-", "is", "the", "main", "evaluation", "measure", "for", "the", "homepage", "finding", "task", ".", "MRR", "is", "based", "on", "the", "rank", "of", "the", "first", "correct", "document", "-LRB-", "answer", "i", "rank", "-RRB-", "according", "to", "the", "Table", "1", ":", "Topic", "Relevance", "Task", "vs.", "Homepage", "Finding", "Task", "Topic", "Homepage", "model", "P", "avg", "MRR", "Anchor", "and", "0.031", "0.297", "Anchor", "and", "CMB", "0.031", "0.431", "Anchor", "sum", "0.034", "0.351", "Anchor", "sum", "CMB", "0.034", "0.583", "Common", "and", "0.131", "0.294", "Common", "and", "CMB", "0.122", "0.580", "Common", "sum", "0.182", "0.355", "Common", "sum", "CMB", "0.169", "0.673", "MAX", "0.226", "0.774", "AVG", "0.145", "0.432", "following", "formula", ":", "M", "RR", "=", "1", "#queries", "#queries", "i", "=", "1", "1", "answer", "i", "rank", "-LRB-", "9", "-RRB-", "M", "AX", "represents", "the", "best", "score", "of", "a", "search", "engine", "that", "submitted", "in", "TREC-2001", ".", "AV", "G", "represents", "the", "average", "score", "of", "all", "search", "engines", "that", "submitted", "in", "TREC-2001", ".", "We", "got", "the", "better", "result", "with", "the", "common", "content", "text", "representation", "than", "the", "anchor", "text", "representation", "in", "the", "topic", "relevance", "task", ".", "A", "title", "and", "anchor", "texts", "do", "not", "have", "enough", "information", "for", "the", "topic", "relevance", "task", ".", "On", "the", "other", "hand", ",", "we", "could", "get", "the", "similar", "performance", "with", "the", "anchor", "text", "representation", "in", "the", "homepage", "finding", "task", ".", "URL", "information", "and", "Link", "information", "are", "good", "for", "the", "homepage", "finding", "task", "but", "bad", "for", "the", "topic", "relevance", "task", ".", "In", "the", "topic", "relevance", "task", ",", "we", "lost", "our", "performance", "by", "combining", "URL", "and", "Link", "information", ".", "The", "query", "of", "the", "topic", "relevance", "task", "usually", "consists", "of", "main", "keywords", "that", "are", "relevant", "to", "some", "concept", "or", "the", "explanation", "of", "what", "they", "want", "to", "know", ".", "However", ",", "we", "can", "not", "assume", "that", "other", "people", "use", "same", "expressions", "and", "keywords", "to", "explain", "what", "a", "user", "wants", "to", "know", ".", "Therefore", "we", "could", "not", "get", "a", "good", "result", "with", "`", "and", "'", "operator", "in", "the", "topic", "relevance", "task", ".", "But", "on", "the", "other", "hand", "the", "query", "of", "the", "homepage", "finding", "task", "consists", "of", "entity", "names", "or", "proper", "nouns", ".", "Therefore", "we", "could", "have", "good", "results", "with", "`", "and", "'", "operator", "when", "we", "can", "have", "a", "result", "document", ".", "However", ",", "the", "MRR", "of", "`", "Anchor", "and", "CMB", "'", "is", "lower", "than", "that", "of", "`", "Common", "sum", "CMB", "'", "in", "the", "homepage", "finding", "task", ".", "`", "Anchor", "and", "CMB", "'", "method", "did", "not", "retrieve", "a", "document", "for", "31", "queries", ".", "To", "compensate", "for", "this", "sparseness", "problem", ",", "we", "combined", "the", "results", "of", "`", "Anchor", "and", "CMB", "'", "and", "`", "Common", "sum", "CMB", "'", ".", "This", "combined", "result", "showed", "0.730", "in", "the", "homepage", "finding", "task", ".", "When", "we", "combined", "the", "results", "of", "`", "Anchor", "and", "'", "and", "`", "Common", "sum", "'", ",", "it", "showed", "0.173", "in", "the", "topic", "relevance", "task", ".", "This", "implies", "that", "the", "result", "documents", "with", "`", "and", "'", "operator", "are", "good", "and", "useful", "in", "the", "homepage", "finding", "task", ".", "We", "can", "conclude", "that", "we", "need", "different", "retrieval", "strategies", "according", "to", "the", "category", "of", "a", "query", ".", "We", "have", "to", "use", "the", "field", "information", "-LRB-", "title", ",", "body", ",", "and", "anchor", "text", "-RRB-", "of", "each", "term", ",", "and", "combine", "evidences", "dynamically", "to", "get", "good", "results", ".", "In", "the", "topic", "relevance", "task", ",", "the", "body", "text", "of", "a", "document", "is", "good", "for", "indexing", ",", "`", "sum", "'", "operator", "is", "good", "for", "query", "term", "matching", ",", "66", "and", "combining", "URL", "and", "Link", "information", "are", "useless", ".", "On", "the", "other", "hand", ",", "in", "the", "homepage", "finding", "task", ",", "anchor", "texts", "and", "titles", "are", "useful", "for", "indexing", ",", "`", "and", "'", "operator", "is", "also", "good", "for", "query", "term", "matching", ",", "and", "URL", "and", "Link", "information", "is", "useful", ".", "By", "combining", "results", "from", "main", "body", "text", "and", "anchor", "texts", "and", "titles", "we", "can", "have", "the", "better", "performance", ".", "In", "this", "section", ",", "we", "present", "the", "method", "for", "making", "a", "language", "model", "for", "a", "user", "query", "classification", ".", "4.1", "Preparation", "for", "Language", "Model", "We", "may", "use", "the", "question", "type", "of", "a", "query", "to", "classify", "the", "category", "of", "a", "user", "query", ".", "For", "example", ",", "``", "What", "is", "a", "two", "electrode", "vacuum", "tube", "?", "''", "is", "a", "query", "of", "the", "topic", "relevance", "task", ".", "``", "Where", "is", "the", "site", "of", "SONY", "?", "''", "is", "a", "query", "of", "the", "homepage", "finding", "task", ".", "We", "can", "assume", "the", "category", "of", "a", "query", "with", "an", "interrogative", "pronoun", "and", "cue", "expressions", "-LRB-", "e.g.", "`", "the", "site", "of", "'", "-RRB-", ".", "However", ",", "people", "do", "not", "provide", "natural", "language", "queries", "to", "a", "search", "engine", ".", "They", "usually", "use", "keywords", "for", "their", "queries", ".", "It", "is", "not", "easy", "to", "anticipate", "natural", "language", "queries", ".", "In", "this", "paper", ",", "we", "assume", "that", "users", "provide", "only", "main", "keywords", "for", "their", "queries", ".", "We", "define", "a", "query", "Q", "as", "the", "set", "of", "words", ".", "Q", "=", "-LCB-", "w", "1", ",", "w", "2", ",", "...", ",", "w", "n", "-RCB-", "-LRB-", "10", "-RRB-", "To", "see", "the", "characteristics", "of", "each", "query", "class", ",", "we", "use", "two", "query", "sets", ".", "For", "the", "topic", "relevance", "task", ",", "TREC-2000", "topic", "relevance", "task", "queries", "-LRB-", "topics", "451-500", "-RRB-", "are", "used", ".", "For", "the", "homepage", "finding", "task", ",", "queries", "for", "randomly", "selected", "100", "homepages", "1", "are", "used", ".", "We", "call", "them", "QU", "ERY", "T", "-", "T", "RAIN", "and", "QU", "ERY", "H", "-", "T", "RAIN", ".", "We", "divided", "WT10g", "into", "two", "sets", ",", "DB", "T", "OP", "IC", "and", "DB", "HOM", "E", ".", "If", "the", "URL", "type", "of", "a", "document", "is", "`", "root", "'", "type", ",", "we", "put", "this", "document", "to", "DB", "HOM", "E", ".", "Others", "are", "added", "to", "DB", "T", "OP", "IC", ".", "According", "to", "the", "report", "of", "-LSB-", "16", "-RSB-", ",", "our", "division", "method", "can", "get", "site", "entry", "pages", "with", "71.7", "%", "precision", ".", "Additionally", "we", "put", "virtual", "documents", "into", "DB", "HOM", "E", "with", "anchor", "texts", ".", "If", "a", "linked", "document", "is", "in", "DB", "T", "OP", "IC", ",", "then", "we", "make", "a", "virtual", "document", "that", "consists", "of", "anchor", "texts", "and", "put", "it", "into", "DB", "HOM", "E", ".", "If", "a", "linked", "document", "is", "in", "DB", "HOM", "E", ",", "then", "we", "add", "anchor", "texts", "to", "the", "original", "document", ".", "Usually", "a", "site", "entry", "page", "does", "not", "have", "many", "words", ".", "It", "is", "not", "an", "explanatory", "document", "for", "some", "topic", "or", "concept", ",", "but", "the", "brief", "explanation", "of", "a", "site", ".", "We", "can", "assume", "that", "site", "entry", "pages", "have", "the", "different", "usage", "of", "words", ".", "If", "we", "find", "distinctive", "features", "for", "site", "entry", "pages", ",", "then", "we", "can", "discriminate", "the", "category", "of", "a", "given", "query", ".", "#DB", "T", "OP", "IC", "and", "#DB", "HOM", "E", "mean", "the", "number", "of", "documents", "in", "the", "DB", "T", "OP", "IC", "and", "DB", "HOM", "E", "respectively", ".", "However", ",", "most", "documents", "in", "the", "DB", "HOM", "E", "have", "a", "short", "length", ",", "we", "normalized", "the", "number", "of", "documents", "with", "the", "following", "equation", ".", "#DB", "T", "OP", "IC", "=", "#", "of", "documents", "in", "DB", "T", "OP", "IC", "-LRB-", "11", "-RRB-", "#DB", "HOM", "E", "=", "#", "of", "documents", "in", "DB", "HOM", "E", "-LRB-", "12", "-RRB-", "avg", "doclength", "HOM", "E", "avg", "doclength", "T", "OP", "IC", "1", "available", "at", "http://www.ted.cmis.csiro.au/TRECWeb/Qrels/", "4.2", "Distribution", "of", "Query", "Terms", "`", "Earthquake", "'", "occurs", "more", "frequently", "in", "DB", "T", "OP", "IC", ".", "But", "`", "Hunt", "Memorial", "Library", "'", "shows", "the", "high", "relative", "frequency", "in", "DB", "HOM", "E", ".", "General", "terms", "tend", "to", "have", "same", "distribution", "regardless", "of", "the", "database", ".", "If", "the", "difference", "of", "distribution", "is", "larger", "than", "expected", ",", "this", "tells", "whether", "a", "given", "query", "is", "in", "the", "topic", "relevance", "task", "class", "or", "the", "homepage", "finding", "task", "class", ".", "We", "can", "calculate", "the", "occurrence", "ratio", "of", "a", "query", "with", "the", "following", "equation", "-LSB-", "11", "-RSB-", ".", "Dist", "-LRB-", "w", "1", ",", "...", ",", "w", "n", "-RRB-", "=", "n", "C", "-LRB-", "w", "1", ",", "...", ",", "w", "n", "-RRB-", "n", "i", "=", "1", "C", "-LRB-", "w", "i", "-RRB-", "-LRB-", "13", "-RRB-", "C", "-LRB-", "w", "-RRB-", "is", "the", "number", "of", "documents", "that", "have", "w", "as", "an", "index", "term", ".", "df", "of", "w", "is", "used", "for", "C", "-LRB-", "w", "-RRB-", ".", "C", "-LRB-", "w", "1", ",", "...", ",", "w", "n", "-RRB-", "is", "the", "number", "of", "documents", "that", "have", "all", "w", "1", ",", "...", ",", "w", "n", "as", "index", "terms", ".", "To", "see", "the", "distribution", "difference", "of", "a", "query", ",", "we", "use", "the", "following", "ratio", "equation", ".", "dif", "f", "Dist", "-LRB-", "Q", "-RRB-", "=", "Dist", "HOM", "E", "-LRB-", "Q", "-RRB-", "Dist", "T", "OP", "IC", "-LRB-", "Q", "-RRB-", "-LRB-", "14", "-RRB-", "If", "a", "query", "has", "only", "one", "term", ",", "we", "use", "the", "chi-square", "-LSB-", "11", "-RSB-", ".", "We", "make", "a", "2-by-2", "table", "for", "the", "given", "word", "`", "w", "'", ".", "word", "=", "w", "word", "=", "w", "DB", "T", "OP", "IC", "a", "b", "DB", "HOM", "E", "c", "d", "a", "+", "b", "=", "#DB", "T", "OP", "IC", "and", "c", "+", "d", "=", "#DB", "HOM", "E", ".", "`", "a", "'", "is", "the", "frequency", "of", "the", "word", "`", "w", "'", "in", "the", "DB", "T", "OP", "IC", "and", "`", "c", "'", "is", "the", "frequency", "of", "the", "word", "`", "w", "'", "in", "the", "DB", "HOM", "E", ".", "The", "chi-square", "value", "shows", "the", "dependence", "of", "the", "word", "`", "w", "'", "and", "DB", ".", "If", "the", "chi-square", "value", "of", "the", "word", "`", "w", "'", "is", "high", ",", "then", "`", "w", "'", "is", "a", "special", "term", "of", "DB", "T", "OP", "IC", "or", "DB", "HOM", "E", ".", "We", "classify", "these", "words", "that", "have", "a", "high", "chi-square", "value", "according", "to", "the", "df", ".", "If", "`", "w", "'", "has", "a", "high", "df", "then", "the", "word", "`", "w", "'", "is", "the", "topic", "relevance", "task", "query", ".", "Otherwise", "`", "w", "'", "is", "the", "homepage", "finding", "task", "query", ".", "For", "example", ",", "`", "f", "ast", "'", "shows", "the", "high", "chi-square", "value", ",", "since", "it", "is", "used", "a", "lot", "to", "modify", "proper", "names", ".", "However", ",", "one", "word", "`", "f", "ast", "'", "is", "not", "the", "proper", "name", ".", "We", "classify", "a", "word", "that", "has", "a", "high", "chi-square", "and", "a", "high", "df", "into", "the", "topic", "relevance", "task", ".", "If", "the", "chi-square", "value", "of", "the", "word", "`", "w", "'", "is", "low", ",", "then", "`", "w", "'", "is", "a", "general", "term", ".", "Fig.", "2", "shows", "the", "results", "of", "dif", "f", "Dist", "of", "queries", "that", "have", "at", "least", "two", "query", "terms", ".", "The", "mean", "values", "of", "QU", "ERY", "T", "-", "T", "RAIN", "'s", "dif", "f", "Dist", "and", "QU", "ERY", "H", "-", "T", "RAIN", "'s", "dif", "f", "Dist", "are", "0.5138", "and", "1.1", "respectively", ".", "As", "the", "value", "of", "dif", "f", "Dist", "of", "a", "given", "query", "is", "higher", ",", "we", "can", "have", "confidence", "that", "the", "query", "has", "special", "terms", ".", "On", "the", "other", "hand", ",", "if", "the", "score", "of", "dif", "f", "Dist", "is", "near", "the", "mean", "value", "of", "QU", "ERY", "T", "-", "T", "RAIN", ",", "it", "means", "the", "query", "has", "general", "terms", ",", "not", "a", "special", "expression", ".", "We", "calculate", "the", "possibility", "that", "a", "given", "query", "is", "in", "each", "class", "with", "the", "mean", "value", "and", "the", "standard", "deviation", ".", "However", ",", "there", "are", "queries", "that", "show", "high", "dif", "f", "DIST", "in", "QU", "ERY", "T", "-", "T", "RAIN", ".", "For", "example", ",", "`", "Jenniffer", "Aniston", "'", "and", "`", "Chevrolet", "Trucks", "'", "showed", "2.04", "and", "0.76", "respectively", ".", "Usually", "proper", "names", "showed", "high", "dif", "f", "DIST", "values", ".", "If", "a", "proper", "name", "is", "frequently", "used", "in", "the", "DB", "HOM", "E", ",", "then", "we", "can", "think", "of", "it", "as", "the", "name", "of", "the", "site", ".", "4.3", "Mutual", "Information", "There", "are", "two", "or", "more", "words", "that", "co-occur", "frequently", ".", "These", "words", "may", "have", "syntactic", "or", "semantic", "relations", "to", "67", "if", "length", "-LRB-", "Q", "-RRB-", "=", "1", "then", "calculate", "the", "2", "of", "Q", "if", "2", ">", "18", "then", "if", "df", "of", "a", "query", ">", "65", "the", "topic", "relevance", "task", "else", "the", "homepage", "finding", "task", "else", "the", "topic", "relevance", "task", "else", "calculate", "distributions", "of", "a", "query", "in", "each", "database", "calculate", "dif", "f", "Dist", "-LRB-", "Q", "-RRB-", "if", "dif", "f", "Dist", "-LRB-", "Q", "-RRB-", ">", "the", "homepage", "finding", "task", "else", "unknown", "Figure", "1", ":", "The", "Algorithm", "of", "Distribution", "Difference", "Method", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "0.1", "0.3", "0.5", "0.7", "0.9", "1.1", "1.3", "1.5", "Ratio", "of", "Distribution", "Difference", "P", "e", "r", "c", "e", "n", "t", "a", "g", "e", "o", "f", "O", "b", "se", "r", "v", "at", "i", "o", "n", "s", "QUERY-TOPIC-TRAIN", "QUERY-HOMEPAGE-TRAIN", "Figure", "2", ":", "Distribution", "of", "Queries", "each", "other", ".", "We", "say", "these", "words", "have", "some", "dependency", ".", "For", "example", ",", "`", "tornadoes", "formed", "'", "shows", "similar", "dependency", "regardless", "of", "the", "database", ".", "But", "`", "Fan", "Club", "'", "has", "a", "high", "dependency", "in", "DB", "HOM", "E", "set", ".", "This", "means", "that", "`", "tornadoes", "formed", "'", "is", "a", "general", "usage", "of", "words", "but", "`", "Fan", "Club", "'", "is", "a", "special", "usage", "in", "DB", "HOM", "E", ".", "Therefore", ",", "the", "dependency", "of", "`", "Fan", "Club", "'", "can", "be", "the", "key", "clue", "of", "guessing", "the", "category", "of", "a", "user", "query", ".", "If", "the", "difference", "of", "dependency", "of", "each", "term", "is", "larger", "than", "expected", ",", "this", "tells", "whether", "a", "given", "query", "is", "the", "topic", "relevance", "task", "or", "the", "homepage", "finding", "task", ".", "For", "two", "variables", "A", "and", "B", ",", "we", "can", "calculate", "the", "dependency", "with", "mutual", "information", ",", "I", "-LRB-", "A", ";", "B", "-RRB-", "-LSB-", "9", "-RSB-", ".", "We", "use", "the", "pointwise", "mutual", "information", "I", "-LRB-", "x", ",", "y", "-RRB-", "to", "calculate", "the", "dependency", "of", "terms", "in", "a", "query", "-LSB-", "11", "-RSB-", ".", "I", "-LRB-", "A", ";", "B", "-RRB-", "=", "H", "-LRB-", "A", "-RRB-", "+", "H", "-LRB-", "B", "-RRB-", "-", "H", "-LRB-", "A", ",", "B", "-RRB-", "=", "a", ",", "b", "p", "-LRB-", "a", ",", "b", "-RRB-", "log", "p", "-LRB-", "a", ",", "b", "-RRB-", "p", "-LRB-", "a", "-RRB-", "p", "-LRB-", "b", "-RRB-", "-LRB-", "15", "-RRB-", "I", "-LRB-", "x", ",", "y", "-RRB-", "=", "log", "p", "-LRB-", "x", ",", "y", "-RRB-", "p", "-LRB-", "x", "-RRB-", "p", "-LRB-", "y", "-RRB-", "-LRB-", "16", "-RRB-", "We", "extend", "pointwise", "mutual", "information", "for", "three", "variables", ".", "We", "use", "the", "set", "theory", "to", "calculate", "the", "value", "of", "an", "0", "%", "5", "%", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "0.25", "0.75", "1.25", "1.75", "2.25", "2.75", "3.25", "3.75", "4.25", "4.75", "5.25", "Ratio", "of", "MI", "Difference", "P", "e", "r", "c", "e", "n", "t", "a", "g", "e", "o", "f", "O", "b", "s", "e", "r", "v", "a", "t", "i", "o", "n", "QUERY-TOPIC-TRAIN", "QUERY-HOMEPAGE-TRAIN", "Figure", "3", ":", "Mutual", "Information", "of", "Queries", "intersection", "part", ",", "like", "two", "variables", "problem", ".", "I", "-LRB-", "A", ";", "B", ";", "C", "-RRB-", "=", "H", "-LRB-", "A", ",", "B", ",", "C", "-RRB-", "-", "H", "-LRB-", "A", "-RRB-", "-", "H", "-LRB-", "B", "-RRB-", "-", "H", "-LRB-", "C", "-RRB-", "+", "I", "-LRB-", "A", ";", "B", "-RRB-", "+", "I", "-LRB-", "B", ";", "C", "-RRB-", "+", "I", "-LRB-", "C", ";", "A", "-RRB-", "=", "a", ",", "b", ",", "c", "p", "-LRB-", "a", ",", "b", ",", "c", "-RRB-", "log", "p", "-LRB-", "a", ",", "b", "-RRB-", "p", "-LRB-", "b", ",", "c", "-RRB-", "p", "-LRB-", "c", ",", "a", "-RRB-", "p", "-LRB-", "a", ",", "b", ",", "c", "-RRB-", "p", "-LRB-", "a", "-RRB-", "p", "-LRB-", "b", "-RRB-", "p", "-LRB-", "c", "-RRB-", "-LRB-", "17", "-RRB-", "I", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "=", "log", "p", "-LRB-", "x", ",", "y", "-RRB-", "p", "-LRB-", "y", ",", "z", "-RRB-", "p", "-LRB-", "z", ",", "x", "-RRB-", "p", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "p", "-LRB-", "x", "-RRB-", "p", "-LRB-", "y", "-RRB-", "p", "-LRB-", "z", "-RRB-", "-LRB-", "18", "-RRB-", "In", "principle", ",", "p", "-LRB-", "x", ",", "y", "-RRB-", "means", "the", "probability", "that", "x", "and", "y", "are", "co-occurred", "in", "a", "specific", "distance", "-LSB-", "11", "-RSB-", ".", "Usually", "x", "and", "y", "are", "consecutive", "words", ".", "Since", "the", "number", "of", "words", "and", "documents", "are", "so", "huge", "in", "IR", "domain", ",", "it", "is", "not", "easy", "to", "keep", "statistics", ".", "Our", "measure", "assume", "that", "x", "and", "y", "are", "co-occurred", "in", "a", "document", ".", "We", "use", "df", "of", "a", "given", "term", "to", "calculate", "the", "number", "of", "documents", "that", "contain", "a", "term", ".", "Like", "the", "distribution", "difference", "measure", ",", "we", "use", "the", "ratio", "difference", "equation", "to", "see", "the", "difference", "of", "MI", ".", "If", "pointwise", "mutual", "information", "is", "below", "zero", "then", "we", "use", "zero", ".", "dif", "f", "M", "I", "-LRB-", "Q", "-RRB-", "=", "M", "I", "HOM", "E", "-LRB-", "Q", "-RRB-", "M", "I", "T", "OP", "IC", "-LRB-", "Q", "-RRB-", "-LRB-", "19", "-RRB-", "Fig.", "3", "shows", "the", "results", "of", "dif", "f", "M", "I", ".", "The", "mean", "values", "of", "QU", "ERY", "T", "-", "T", "RAIN", "'s", "dif", "f", "M", "I", "and", "QU", "ERY", "H", "-", "T", "RAIN", "'s", "dif", "f", "M", "I", "are", "1.9", "and", "2.7", "respectively", ".", "For", "example", ",", "the", "topic", "relevance", "task", "query", "`", "mexican", "food", "culture", "'", "showed", "1.0", ",", "but", "the", "homepage", "finding", "task", "query", "`", "Newave", "IFMO", "'", "showed", "7.5", ".", "QU", "ERY", "H", "-", "T", "RAIN", "gets", "a", "slightly", "high", "standard", "deviation", ".", "It", "means", "that", "the", "query", "of", "QU", "ERY", "H", "-", "T", "RAIN", "has", "different", "MI", "in", "DB", "HOM", "E", ".", "As", "the", "value", "of", "dif", "f", "M", "I", "is", "higher", ",", "we", "can", "have", "confidence", "that", "the", "query", "has", "a", "special", "dependency", ".", "We", "calculate", "the", "possibility", "that", "a", "given", "query", "is", "in", "each", "class", "with", "the", "mean", "value", "and", "the", "standard", "deviation", ".", "4.4", "Usage", "Rate", "as", "an", "Anchor", "Text", "If", "query", "terms", "appear", "in", "titles", "and", "anchor", "texts", "frequently", ",", "this", "tells", "the", "category", "of", "a", "given", "query", "is", "the", "homepage", "finding", "task", ".", "Titles", "and", "anchor", "texts", "are", "usually", "entity", "names", "or", "proper", "nouns", ",", "the", "usage", "rate", "shows", "the", "probability", "that", "given", "terms", "are", "special", "terms", ".", "use", "Anchor", "-LRB-", "w", "1", ",", "...", ",", "w", "n", "-RRB-", "=", "-LRB-", "20", "-RRB-", "C", "SIT", "E", "AN", "CHOR", "-LRB-", "w", "1", ",", "...", ",", "w", "n", "-RRB-", "-", "C", "SIT", "E", "-LRB-", "w", "1", ",", "...", ",", "w", "n", "-RRB-", "C", "SIT", "E", "-LRB-", "w", "1", ",", "w", "2", ",", "...", ",", "w", "n", "-RRB-", "68", "C", "SIT", "E", "-LRB-", "w", "-RRB-", "means", "the", "number", "of", "site", "entry", "documents", "that", "have", "w", "as", "an", "index", "term", ".", "C", "SIT", "E", "AN", "CHOR", "-LRB-", "w", "-RRB-", "means", "the", "number", "of", "site", "entry", "documents", "and", "anchor", "texts", "that", "have", "w", "as", "an", "index", "term", ".", "4.5", "POS", "information", "Since", "the", "homepage", "finding", "task", "queries", "are", "proper", "names", ",", "they", "do", "not", "usually", "contain", "a", "verb", ".", "However", ",", "some", "topic", "relevance", "task", "queries", "include", "a", "verb", "to", "explain", "what", "he", "or", "she", "wants", "to", "know", ".", "For", "example", ",", "`", "How", "are", "tornadoes", "formed", "?", "'", "or", "briefly", "`", "tornadoes", "formed", "'", "contain", "a", "verb", "`", "formed", "'", ".", "If", "a", "query", "has", "a", "verb", "except", "the", "`", "be", "'", "verb", ",", "then", "we", "classified", "it", "into", "the", "topic", "relevance", "task", ".", "4.6", "Combination", "of", "Measures", "The", "difference", "of", "distribution", "method", "can", "apply", "more", "queries", "than", "the", "difference", "of", "MI", ".", "The", "usage", "rate", "as", "anchor", "texts", "and", "the", "POS", "information", "show", "small", "coverage", ".", "However", ",", "four", "measures", "cover", "different", "queries", ".", "Therefore", ",", "we", "can", "have", "more", "confidence", "and", "more", "coverage", "by", "combining", "these", "measures", ".", "We", "use", "a", "different", "combination", "equation", "as", "the", "number", "of", "query", "terms", ".", "If", "the", "query", "has", "2", "and", "3", "terms", "in", "it", ",", "we", "use", "pointwise", "mutual", "information", "also", ".", "S", "-LRB-", "Q", "-RRB-", "=", "diff", "Dist", "-LRB-", "Q", "-RRB-", "+", "diff", "M", "I", "-LRB-", "Q", "-RRB-", "+", "-LRB-", "21", "-RRB-", "use", "Anchor", "-LRB-", "Q", "-RRB-", "+", "P", "OS", "inf", "o", "-LRB-", "Q", "-RRB-", "We", "choose", ",", ",", ",", "and", "with", "train", "data", "-LRB-", "QU", "ERY", "T", "-", "T", "RAIN", "and", "QU", "ERY", "H", "-", "T", "RAIN", "-RRB-", ".", "If", "`", "S", "-LRB-", "Q", "-RRB-", "'", "score", "is", "not", "high", "or", "low", "enough", ",", "then", "we", "make", "no", "decision", ".", "In", "this", "section", ",", "we", "show", "the", "efficiency", "of", "a", "user", "query", "classification", ".", "5.1", "Query", "Classification", "We", "used", "four", "query", "sets", "for", "experimenting", "our", "query", "classification", "method", ".", "QU", "ERY", "T", "-", "T", "RAIN", "and", "QU", "ERY", "H", "-", "T", "RAIN", "are", "used", "for", "training", "-LRB-", "TRAIN", "-RRB-", ".", "TREC-2001", "topic", "relevance", "task", "queries", "-LRB-", "Topic", "501-550", "-RRB-", "and", "TREC-2001", "homepage", "finding", "task", "queries", "-LRB-", "1-145", "-RRB-", "are", "used", "for", "testing", "-LRB-", "TEST", "-RRB-", ".", "We", "call", "two", "test", "sets", "as", "QU", "ERY", "T", "-", "T", "EST", "and", "QU", "ERY", "H", "-", "T", "EST", ".", "We", "used", "WT10g", "for", "making", "a", "classification", "model", ".", "We", "classified", "queries", "with", "our", "proposed", "method", ".", "If", "the", "score", "`", "S", "-LRB-", "Q", "-RRB-", "'", "is", "high", "enough", "to", "tell", "that", "a", "given", "query", "is", "in", "the", "topic", "relevance", "task", "or", "the", "homepage", "finding", "task", "query", ",", "then", "we", "assigned", "the", "query", "type", "to", "it", ".", "For", "other", "cases", ",", "we", "did", "not", "classify", "a", "query", "category", ".", "Table", "2", "shows", "the", "classification", "result", "of", "our", "proposed", "language", "model", ".", "Table", "2", ":", "Query", "Classification", "Result", "QUERY", "TRAIN", "TEST", "Measure", "Precision", "Recall", "Precision", "Recall", "Dist", ".", "77.3", "%", "38.7", "%", "82.1", "%", "28.2", "%", "MI", "90.9", "%", "20.0", "%", "78.2", "%", "29.9", "%", "Anchor", "73.6", "%", "35.3", "%", "82.4", "%", "35.9", "%", "POS", "100", "%", "9.3", "%", "96.4", "%", "13.8", "%", "All", "81.1", "%", "57.3", "%", "91.7", "%", "61.5", "%", "By", "combining", "each", "measure", ",", "we", "could", "apply", "our", "method", "to", "more", "queries", "and", "increase", "precision", "and", "recall", ".", "Our", "pro-Table", "3", ":", "Average", "Precision", "of", "the", "Topic", "Relevance", "Task", "model", "OKAPI", "TF-IDF", "KL", "DIR", "MIXFB", "KL", "D", "Lemur", "0.182", "0.170", "0.210", "0.219", "MLemur", "0.169", "0.159", "0.200", "0.209", "Table", "4", ":", "MRR", "of", "the", "Homepage", "Finding", "Task", "model", "OKAPI", "TF-IDF", "KL", "DIR", "MIXFB", "KL", "D", "Lemur", "0.355", "0.340", "0.181", "0.144", "MLemur", "0.673", "0.640", "0.447", "0.360", "posed", "method", "shows", "the", "better", "result", "in", "the", "test", "set", ".", "This", "is", "due", "to", "the", "characteristics", "of", "the", "query", "set", ".", "There", "are", "7", "queries", "that", "have", "a", "verb", "in", "QU", "ERY", "T", "-", "T", "RAIN", "and", "28", "queries", "in", "QU", "ERY", "T", "-", "T", "EST", ".", "We", "can", "assume", "that", "the", "POS", "information", "is", "good", "information", ".", "The", "main", "reason", "of", "misclassification", "is", "wrong", "division", "of", "WT10g", ".", "Since", "our", "method", "usually", "gives", "the", "high", "score", "to", "the", "proper", "name", ",", "we", "need", "correct", "information", "to", "distinguish", "a", "proper", "name", "from", "a", "site", "name", ".", "We", "tried", "to", "make", "DB", "HOM", "E", "automatically", ".", "However", ",", "some", "root", "pages", "are", "not", "site", "entry", "pages", ".", "We", "need", "a", "more", "sophisticated", "division", "method", ".", "There", "is", "a", "case", "that", "a", "verb", "is", "in", "the", "homepage", "finding", "task", "query", ".", "`", "Protect", "&", "Preserve", "'", "is", "the", "homepage", "finding", "task", "query", "but", "`", "protect", "'", "and", "`", "preserve", "'", "are", "verbs", ".", "However", ",", "`", "Protect", "'", "and", "`", "Preserve", "'", "start", "with", "a", "capital", "letter", ".", "We", "can", "correct", "wrong", "POS", "tags", ".", "There", "are", "queries", "in", "QU", "ERY", "T", "-", "T", "EST", "that", "look", "like", "queries", "of", "QU", "ERY", "H", "-", "T", "EST", ".", "For", "example", ",", "`", "Dodge", "Recalls", "'", "is", "used", "to", "find", "documents", "that", "report", "on", "the", "recall", "of", "any", "dodge", "automobile", "products", ".", "But", "user", "may", "want", "to", "find", "the", "entry", "page", "of", "`", "Dodge", "recall", "'", ".", "This", "is", "due", "to", "the", "use", "of", "main", "keywords", "instead", "of", "a", "natural", "language", "query", ".", "There", "are", "6", "queries", "in", "QU", "ERY", "T", "-", "T", "EST", "and", "6", "queries", "in", "QU", "ERY", "H", "-", "T", "EST", "that", "do", "not", "have", "a", "result", "document", "that", "has", "all", "query", "terms", "in", "it", ".", "We", "could", "not", "use", "our", "method", "to", "them", ".", "WT10g", "is", "not", "enough", "to", "extract", "probability", "information", "for", "these", "two", "query", "sets", ".", "To", "make", "up", "this", "sparseness", "problem", ",", "we", "need", "a", "different", "indexing", "terms", "extraction", "module", ".", "We", "have", "to", "consider", "special", "parsing", "technique", "for", "URL", "strings", "and", "acronyms", "in", "a", "document", ".", "Also", "we", "need", "a", "query", "expansion", "technique", "to", "get", "a", "better", "result", ".", "5.2", "The", "Improvement", "of", "IR", "Performance", "We", "used", "the", "Lemur", "Toolkit", "-LSB-", "12", "-RSB-", "to", "make", "a", "general", "search", "engine", "for", "the", "topic", "relevance", "task", ".", "The", "Lemur", "Toolkit", "is", "an", "information", "retrieval", "toolkit", "designed", "with", "language", "modeling", "in", "mind", ".", "The", "Lemur", "Toolkit", "supports", "several", "retrieval", "algorithms", ".", "These", "algorithms", "include", "a", "dot-product", "function", "using", "TF-IDF", "weighting", "algorithm", ",", "the", "Kullback-Leibler", "-LRB-", "KL", "-RRB-", "divergence", "algorithm", ",", "the", "OKAPI", "retrieval", "algorithm", ",", "the", "feedback", "retrieval", "algorithm", "and", "the", "mixture", "model", "of", "Dirichlet", "smoothing", ",", "MIXFB", "KL", "D", "-LSB-", "14", "-RSB-", ".", "For", "the", "homepage", "finding", "task", ",", "we", "add", "the", "URLprior", "probability", "of", "a", "URL", "string", "to", "the", "Lemur", "Toolkit", ".", "Besides", "Link", "information", ",", "we", "add", "the", "PageRank", "of", "a", "document", ".", "We", "normalized", "PageRank", "values", ",", "so", "the", "max", "value", "is", "100", "and", "the", "min", "value", "is", "0", ".", "First", "we", "extracted", "top", "1,000", "results", "with", "the", "Lemur", "Toolkit", ".", "69", "Table", "5", ":", "The", "Retrieval", "Performance", "with", "Classification", "Method", "OKAPI", "TF-IDF", "MIXFB", "KL", "D", "Measure", "DEFAULT", "TOPIC", "HOME", "TOPIC", "HOME", "TOPIC", "HOME", "Dist", ".", "TOPIC", "0.178", "0.469", "0.168", "0.447", "0.216", "0.226", "Dist", ".", "HOME", "0.174", "0.666", "0.164", "0.633", "0.212", "0.359", "MI", "TOPIC", "0.179", "0.465", "0.168", "0.445", "0.218", "0.233", "MI", "HOME", "0.169", "0.673", "0.159", "0.640", "0.209", "0.360", "Anchor", "TOPIC", "0.176", "0.513", "0.165", "0.489", "0.215", "0.232", "Anchor", "HOME", "0.169", "0.666", "0.159", "0.633", "0.209", "0.359", "POS", "TOPIC", "0.182", "0.355", "0.170", "0.340", "0.219", "0.144", "POS", "HOME", "0.173", "0.673", "0.163", "0.640", "0.212", "0.354", "All", "TOPIC", "0.180", "0.552", "0.168", "0.528", "0.217", "0.280", "All", "HOME", "0.173", "0.666", "0.163", "0.633", "0.212", "0.353", "Then", "we", "combined", "URL", "information", "and", "Link", "information", "to", "reorder", "results", "with", "the", "equation", "Eq", ".", "7", ".", "We", "presented", "top", "1,000", "documents", "as", "the", "answer", "in", "the", "topic", "relevance", "task", ",", "and", "100", "documents", "in", "the", "homepage", "finding", "task", ".", "We", "call", "this", "modified", "Toolkit", "as", "MLemur", "Toolkit", ".", "Table", "3", "and", "4", "show", "results", "of", "the", "topic", "relevance", "task", "and", "the", "homepage", "finding", "task", "that", "use", "the", "Lemur", "Toolkit", "and", "the", "MLemur", "Toolkit", ".", "MIXFB", "KL", "D", "showed", "the", "good", "result", "in", "the", "topic", "relevance", "task", "but", "showed", "the", "poor", "result", "in", "the", "homepage", "finding", "task", ".", "We", "can", "say", "that", "a", "good", "information", "retrieval", "algorithm", "for", "the", "topic", "relevance", "task", "is", "not", "always", "good", "for", "the", "homepage", "finding", "task", ".", "We", "chose", "three", "algorithms", ",", "the", "OKAPI", ",", "the", "TF-IDF", ",", "and", "the", "MIXFB", "KL", "D", "that", "got", "the", "best", "and", "worst", "score", "in", "each", "task", ",", "for", "the", "test", "of", "performance", "improvement", "by", "query", "type", "classification", ".", "Table", "5", "shows", "the", "change", "of", "performance", ".", "`", "DEFAULT", "'", "means", "the", "default", "category", "for", "an", "unclassified", "query", ".", "Digits", "in", "the", "TOPIC", "column", "and", "the", "HOME", "column", "are", "average", "precision", "and", "MRR", "respectively", ".", "From", "the", "result", ",", "the", "OKAPI", "algorithm", "and", "the", "homepage", "finding", "task", "as", "a", "default", "class", "method", "shows", "the", "good", "performance", ".", "5.3", "Discussion", "To", "classify", "a", "query", "type", ",", "we", "need", "the", "document", "frequency", "of", "a", "query", "term", "in", "each", "database", ".", "This", "lowers", "the", "system", "efficiency", ".", "However", ",", "we", "may", "create", "two", "databases", "as", "proposed", "in", "this", "paper", "for", "indexing", ".", "We", "retrieve", "two", "result", "document", "sets", "from", "each", "database", "and", "classify", "a", "query", "type", "at", "the", "same", "time", ".", "And", "then", "according", "to", "the", "category", "of", "a", "query", ",", "merge", "two", "results", ".", "From", "table", "1", ",", "merging", "the", "results", "of", "the", "anchor", "text", "representation", "and", "the", "common", "content", "representation", "shows", "good", "performance", ".", "We", "need", "more", "work", "to", "unify", "the", "query", "classification", "work", "and", "the", "document", "retrieval", ".", "In", "this", "paper", ",", "we", "proposed", "a", "user", "query", "classification", "method", "for", "the", "topic", "relevance", "task", "and", "the", "homepage", "finding", "task", ".", "The", "queries", "of", "the", "homepage", "finding", "task", "usually", "consist", "of", "entity", "names", "or", "proper", "nouns", ".", "However", "queries", "of", "the", "service", "finding", "task", "have", "verbs", "for", "the", "service", "definition", ".", "For", "example", ",", "``", "Where", "can", "I", "buy", "concert", "tickets", "?", "''", "has", "`", "buy", "'", "as", "the", "service", "definition", ".", "To", "find", "these", "cue", "expressions", ",", "we", "need", "more", "sophisticated", "analysis", "of", "anchor", "texts", ".", "Since", "the", "service", "in", "the", "Web", "is", "provided", "as", "a", "program", ",", "there", "is", "a", "trigger", "button", ".", "Mostly", "these", "trigger", "buttons", "are", "explained", "by", "anchor", "texts", ".", "We", "have", "to", "distinguish", "an", "entity", "name", "and", "an", "action", "verb", "from", "anchor", "texts", ".", "We", "have", "to", "change", "measures", "for", "the", "query", "classification", "from", "a", "word", "unit", "to", "entity", "and", "action", "units", ".", "User", "query", "classification", "can", "be", "applied", "to", "various", "areas", ".", "MetaSearch", "is", "the", "search", "algorithm", "that", "combines", "results", "of", "each", "search", "engine", "to", "get", "the", "better", "result", "-LSB-", "7", "-RSB-", ".", "-LSB-", "10", "-RSB-", "proposed", "CombMNZ", ",", "Multiply", "by", "NonZeros", ",", "is", "better", "than", "other", "scoring", "algorithm", ",", "CombSUM", ",", "Summed", "similarity", "over", "systems", ".", "But", "if", "we", "consider", "the", "homepage", "finding", "task", ",", "we", "are", "in", "a", "different", "situation", ".", "Table", "6", "and", "7", "show", "the", "improvement", "of", "performance", "of", "MetaSearch", "algorithms", ".", "We", "had", "an", "experiment", "with", "random", "samplings", "of", "2", ",", "3", ",", "4", ",", "and", "5", "engine", "results", ".", "The", "score", "is", "the", "average", "improvement", "of", "100", "tests", ".", "CombMNZ", "was", "good", "for", "the", "topic", "relevance", "task", ",", "but", "CombSUM", "was", "good", "for", "the", "homepage", "finding", "task", ".", "It", "also", "tells", ",", "we", "need", "different", "strategies", "for", "MetaSearch", "as", "the", "class", "of", "a", "query", ".", "Table", "6", ":", "Performance", "of", "MetaSearch", "in", "the", "Topic", "Relevance", "Task", "engine", "#", "2", "3", "4", "5", "CombSUM", "-2.4", "%", "4.4", "%", "3.7", "%", "4.8", "%", "CombMNZ", "-1.2", "%", "5.7", "%", "5.3", "%", "5.8", "%", "Table", "7", ":", "Performance", "of", "Metasearch", "in", "the", "Homepage", "Finding", "Task", "engine", "#", "2", "3", "4", "5", "CombSUM", "-4.5", "%", "0.7", "%", "-0.9", "%", "0.8", "%", "CombMNZ", "-6.0", "%", "-0.4", "%", "-4.5", "%", "-2.4", "%", "We", "have", "various", "forms", "of", "resources", "in", "the", "Web", ",", "and", "consequently", "purposes", "of", "user", "queries", "are", "diverse", ".", "We", "can", "classify", "user", "queries", "as", "three", "categories", ",", "the", "topic", "relevance", "task", ",", "the", "homepage", "finding", "task", ",", "and", "the", "service", "finding", "task", ".", "Search", "engines", "need", "different", "strategies", "to", "meet", "the", "purpose", "of", "a", "user", "query", ".", "For", "example", ",", "URL", "information", "and", "Link", "information", "are", "bad", "for", "the", "topic", "relevance", "task", ",", "but", "on", "the", "other", "hand", ",", "they", "are", "good", "for", "the", "homepage", "finding", "task", ".", "We", "made", "two", "representative", "databases", ",", "DB", "HOM", "E", "70", "and", "DB", "T", "OP", "IC", ",", "for", "each", "task", ".", "To", "make", "databases", ",", "we", "divided", "text", "collection", "by", "the", "URL", "type", "of", "a", "web", "document", ".", "If", "the", "URL", "of", "a", "document", "contains", "a", "host", "name", "only", ",", "then", "we", "put", "it", "into", "DB", "HOM", "E", ".", "Also", "we", "make", "a", "virtual", "document", "with", "an", "anchor", "text", "and", "put", "it", "into", "DB", "HOM", "E", ".", "Other", "documents", "are", "put", "into", "DB", "T", "OP", "IC", ".", "If", "given", "query", "'s", "distributions", "in", "DB", "HOM", "E", "and", "DB", "T", "OP", "IC", "are", "different", ",", "then", "this", "tells", "a", "given", "query", "is", "not", "a", "general", "word", ".", "Therefore", ",", "we", "can", "assume", "the", "category", "of", "a", "given", "query", "is", "in", "the", "homepage", "finding", "task", ".", "Likewise", ",", "the", "difference", "of", "dependency", ",", "Mutual", "Information", ",", "and", "the", "usage", "rate", "as", "anchor", "texts", "tell", "whether", "a", "given", "query", "is", "in", "the", "homepage", "finding", "task", "or", "not", ".", "We", "tested", "the", "proposed", "classification", "method", "with", "two", "query", "sets", ",", "QU", "ERY", "T", "-", "T", "EST", "and", "QU", "ERY", "H", "-", "T", "EST", ".", "The", "usage", "rate", "as", "anchor", "texts", "and", "the", "POS", "information", "show", "small", "coverage", ".", "On", "the", "other", "hand", ",", "distribution", "difference", "and", "dependency", "showed", "good", "precision", "and", "coverage", ".", "Also", "each", "classifier", "applied", "to", "different", "queries", ".", "We", "could", "get", "the", "better", "precision", "and", "recall", "by", "combining", "each", "classifier", ".", "We", "got", "91.7", "%", "precision", "and", "61.5", "%", "recall", ".", "After", "we", "classified", "the", "category", "of", "a", "query", ",", "we", "used", "different", "information", "for", "a", "search", "engine", ".", "For", "the", "topic", "relevance", "task", ",", "Content", "information", "such", "as", "TFIDF", "is", "used", ".", "For", "the", "homepage", "finding", "task", ",", "Link", "information", "and", "URL", "information", "besides", "content", "information", "are", "used", ".", "We", "tested", "our", "dynamic", "combining", "method", ".", "From", "the", "result", ",", "our", "classification", "method", "showed", "the", "best", "result", "with", "the", "OKAPI", "scoring", "algorithm", ".", "We", "would", "like", "to", "thank", "Jamie", "Callan", "for", "providing", "useful", "experiment", "data", "and", "the", "Lemur", "toolkit", ".", "-LSB-", "1", "-RSB-", "R.", "Baeza-Yates", "and", "B.", "Ribeiro-Neto", ".", "Modern", "Information", "Retrieval", ".", "ACM", "PRESS", "BOOKS", ",", "1999", ".", "-LSB-", "2", "-RSB-", "P.", "Bailey", ",", "N.", "Craswell", ",", "and", "D.", "Hawking", ".", "Engineering", "a", "multi-purpose", "test", "collection", "for", "web", "retrieval", "experiments", ".", "Information", "Processing", "and", "Management", ",", "to", "appear", ".", "-LSB-", "3", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "Web", "search", "engine", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "30", "-LRB-", "1-7", "-RRB-", ":", "107", "117", ",", "1998", ".", "-LSB-", "4", "-RSB-", "A.", "Broder", ".", "A", "taxonomy", "of", "web", "search", ".", "SIGIR", "Forum", ",", "36", "-LRB-", "2", "-RRB-", ",", "2002", ".", "-LSB-", "5", "-RSB-", "W.", "B.", "Croft", ".", "Combining", "approaches", "to", "information", "retrieval", ".", "In", "Advances", "in", "Information", "Retrieval", ":", "Recent", "Research", "from", "the", "Center", "for", "Intelligent", "Information", "Retrieval", ",", "pages", "1", "36", ".", "Kluwer", "Academic", "Publishers", ",", "2000", ".", "-LSB-", "6", "-RSB-", "CSIRO", ".", "Web", "research", "collections", "-", "trec", "web", "track", ".", "www.ted.cmis.csiro.au", "/", "TRECWeb", "/", ",", "2001", ".", "-LSB-", "7", "-RSB-", "E.", "Fox", "and", "J.", "Shaw", ".", "Combination", "of", "multiple", "searches", ".", "In", "Text", "REtrieval", "Conference", "-LRB-", "TREC-1", "-RRB-", ",", "pages", "243", "252", ",", "1993", ".", "-LSB-", "8", "-RSB-", "D.", "Hawking", "and", "N.", "Craswell", ".", "Overview", "of", "the", "trec-2001", "web", "track", ".", "In", "Text", "REtrieval", "Conference", "-LRB-", "TREC-10", "-RRB-", ",", "pages", "61", "67", ",", "2001", ".", "-LSB-", "9", "-RSB-", "E.", "Jaynes", ".", "Information", "theory", "and", "statistical", "mechanics", ".", "Physics", "Review", ",", "106", "-LRB-", "4", "-RRB-", ":", "620", "630", ",", "1957", ".", "-LSB-", "10", "-RSB-", "J.", "H.", "Lee", ".", "Analyses", "of", "multiple", "evidence", "combination", ".", "In", "Proceedings", "of", "the", "20th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "267", "276", ",", "1997", ".", "-LSB-", "11", "-RSB-", "C.", "D.", "Manning", "and", "H.", "Schutze", ".", "Foundations", "of", "Statistical", "Natural", "Language", "Processing", ".", "The", "MIT", "Press", ",", "1999", ".", "-LSB-", "12", "-RSB-", "P.", "Ogilvie", "and", "J.", "Callan", ".", "Experiments", "using", "the", "lemur", "toolkit", ".", "In", "Text", "REtrieval", "Conference", "-LRB-", "TREC-10", "-RRB-", "http://www-2.cs.cmu.edu/", "lemur", ",", "pages", "103", "108", ",", "2001", ".", "-LSB-", "13", "-RSB-", "L.", "Page", ",", "S.", "Brin", ",", "R.", "Motwani", ",", "and", "T.", "Winograd", ".", "The", "pagerank", "citation", "ranking", ":", "Bringing", "order", "to", "the", "web", ".", "Technical", "report", ",", "Stanford", "Digital", "Library", "Technologies", "Project", ",", "1998", ".", "-LSB-", "14", "-RSB-", "J.", "M.", "Ponte", ".", "Language", "models", "for", "relevance", "feedback", ".", "In", "W.", "B.", "Croft", ",", "editor", ",", "Advances", "in", "Information", "Retrieval", ":", "Recent", "Research", "from", "the", "Center", "for", "Intelligent", "Information", "Retrieval", ",", "pages", "73", "95", ".", "Kluwer", "Academic", "Publishers", ",", "2000", ".", "-LSB-", "15", "-RSB-", "S.", "E.", "Robertson", ",", "S.", "Walker", ",", "S.", "Jones", ",", "M.", "Hancock-Beaulieu", ",", "and", "M.", "Gatford", ".", "Okapi", "at", "trec-3", ".", "In", "Text", "REtrieval", "Conference", "-LRB-", "TREC-2", "-RRB-", ",", "pages", "109", "126", ",", "1994", ".", "-LSB-", "16", "-RSB-", "T.", "Westerveld", ",", "W.", "Kraaij", ",", "and", "D.", "Hiemstra", ".", "Retrieving", "web", "pages", "using", "content", ",", "links", ",", "urls", "and", "anchors", ".", "In", "Text", "REtrieval", "Conference", "-LRB-", "TREC-10", "-RRB-", ",", "pages", "663", "672", ",", "2001", ".", "-LSB-", "17", "-RSB-", "K.", "Yang", ".", "Combining", "text", "and", "link-based", "retrieval", "methods", "for", "web", "ir", ".", "In", "Text", "REtrieval", "Conference", "-LRB-", "TREC-10", "-RRB-", ",", "pages", "609", "618", ",", "2001", ".", "71"], "doc_bio_tags": ["B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["rate", "model", "query classification", "combination of multiple evidences", "link information", "web document", "task", "url information", "query", "ir", "url", "improvement", "frequency", "information"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "141", "document": ["Modelling", "Adversaries", "and", "Security", "Objectives", "for", "Routing", "Protocols", "in", "Wireless", "Sensor", "Networks", "The", "literature", "is", "very", "broad", "considering", "routing", "protocols", "in", "wireless", "sensor", "networks", "-LRB-", "WSNs", "-RRB-", ".", "However", ",", "security", "of", "these", "routing", "protocols", "has", "fallen", "beyond", "the", "scope", "so", "far", ".", "Routing", "is", "a", "fundamental", "functionality", "in", "wireless", "networks", ",", "thus", "hostile", "interventions", "aiming", "to", "disrupt", "and", "degrade", "the", "routing", "service", "have", "a", "serious", "impact", "on", "the", "overall", "operation", "of", "the", "entire", "network", ".", "In", "order", "to", "analyze", "the", "security", "of", "routing", "protocols", "in", "a", "precise", "and", "rigorous", "way", ",", "we", "propose", "a", "formal", "framework", "encompassing", "the", "definition", "of", "an", "adversary", "model", "as", "well", "as", "the", "``", "general", "''", "definition", "of", "secure", "routing", "in", "sensor", "networks", ".", "Both", "definitions", "take", "into", "account", "the", "feasible", "goals", "and", "capabilities", "of", "an", "adversary", "in", "sensor", "environments", "and", "the", "variety", "of", "sensor", "routing", "protocols", ".", "In", "spirit", ",", "our", "formal", "model", "is", "based", "on", "the", "simulation", "paradigm", "that", "is", "a", "successfully", "used", "technique", "to", "prove", "the", "security", "of", "various", "cryptographic", "protocols", ".", "However", ",", "we", "also", "highlight", "some", "differences", "between", "our", "model", "and", "other", "models", "that", "have", "been", "proposed", "for", "wired", "or", "wireless", "networks", ".", "Finally", ",", "we", "illustrate", "the", "practical", "usage", "of", "our", "model", "by", "presenting", "the", "formal", "description", "of", "a", "simple", "attack", "against", "an", "authenticated", "routing", "protocol", ",", "which", "is", "based", "on", "the", "well-known", "TinyOS", "routing", ".", "C.", "2.2", "-LSB-", "Computer", "Systems", "Organization", "-RSB-", ":", "Computer-Communication", "Networks", "--", "Network", "Protocols", "Algorithms", ",", "Design", ",", "Security", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SASN", "'", "06", ",", "October", "30", ",", "2006", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-554-1", "/", "06/0010", "...", "$", "5.00", ".", "Routing", "is", "a", "fundamental", "function", "in", "every", "network", "that", "is", "based", "on", "multi-hop", "communications", ",", "and", "wireless", "sensor", "networks", "are", "no", "exceptions", ".", "Consequently", ",", "a", "multitude", "of", "routing", "protocols", "have", "been", "proposed", "for", "sensor", "networks", "in", "the", "recent", "past", ".", "However", ",", "most", "of", "these", "protocols", "have", "not", "been", "designed", "with", "security", "requirements", "in", "mind", ".", "This", "means", "that", "they", "can", "badly", "fail", "in", "hostile", "environments", ".", "Paradoxically", ",", "research", "on", "wireless", "sensor", "networks", "have", "been", "mainly", "fuelled", "by", "their", "potential", "applications", "in", "military", "settings", "where", "the", "environment", "is", "hostile", ".", "The", "natural", "question", "that", "may", "arise", "is", "why", "then", "security", "of", "routing", "protocols", "for", "sensor", "networks", "has", "fallen", "beyond", "the", "scope", "of", "research", "so", "far", ".", "We", "believe", "that", "one", "important", "reason", "for", "this", "situation", "is", "that", "the", "design", "principles", "of", "secure", "routing", "protocols", "for", "wireless", "sensor", "networks", "are", "poorly", "understood", "today", ".", "First", "of", "all", ",", "there", "is", "no", "clear", "definition", "of", "what", "secure", "routing", "should", "mean", "in", "this", "context", ".", "Instead", ",", "the", "usual", "approach", ",", "exemplified", "in", "-LSB-", "10", "-RSB-", ",", "is", "to", "list", "different", "types", "of", "possible", "attacks", "against", "routing", "in", "wireless", "sensor", "networks", ",", "and", "to", "define", "routing", "security", "implicitly", "as", "resistance", "to", "-LRB-", "some", "of", "-RRB-", "these", "attacks", ".", "However", ",", "there", "are", "several", "problems", "with", "this", "approach", ".", "For", "instance", ",", "a", "given", "protocol", "may", "resist", "a", "different", "set", "of", "attacks", "than", "another", "one", ".", "How", "to", "compare", "these", "protocols", "?", "Shall", "we", "call", "them", "both", "secure", "routing", "protocols", "?", "Or", "on", "what", "grounds", "should", "we", "declare", "one", "protocol", "more", "secure", "than", "another", "?", "Another", "problem", "is", "that", "it", "is", "quite", "difficult", "to", "carry", "out", "a", "rigorous", "analysis", "when", "only", "a", "list", "of", "potential", "attack", "types", "are", "given", ".", "How", "can", "we", "be", "sure", "that", "all", "possible", "attacks", "of", "a", "given", "type", "has", "been", "considered", "in", "the", "analysis", "?", "It", "is", "not", "surprising", "that", "when", "having", "such", "a", "vague", "idea", "about", "what", "to", "achieve", ",", "one", "can", "not", "develop", "the", "necessary", "design", "principles", ".", "It", "is", "possible", "to", "come", "up", "instead", "with", "some", "countermeasures", ",", "similar", "to", "the", "ones", "described", "in", "-LSB-", "10", "-RSB-", ",", "which", "are", "potentially", "usefully", "to", "thwart", "some", "specific", "types", "of", "attacks", ",", "but", "it", "remains", "unclear", "how", "to", "put", "these", "ingredients", "together", "in", "order", "to", "obtain", "a", "secure", "and", "efficient", "routing", "protocol", "at", "the", "end", ".", "In", "order", "to", "remedy", "this", "situation", ",", "we", "propose", "to", "base", "the", "design", "of", "secure", "routing", "protocols", "for", "wireless", "sensor", "networks", "on", "a", "formal", "security", "model", ".", "While", "the", "benefit", "of", "formal", "models", "is", "not", "always", "clear", "-LRB-", "indeed", ",", "in", "some", "cases", ",", "they", "tend", "to", "be", "overly", "complicated", "compared", "to", "what", "they", "achieve", "-RRB-", ",", "we", "have", "already", "demonstrated", "their", "advantages", "in", "the", "context", "of", "ad", "hoc", "network", "routing", "protocols", ".", "More", "specifically", ",", "we", "developed", "formal", "security", "models", "in", "-LSB-", "4", ",", "1", ",", "2", "-RSB-", ",", "and", "we", "successfully", "used", "them", "to", "prove", "the", "security", "of", "some", "49", "ad", "hoc", "network", "routing", "protocols", ",", "and", "to", "find", "security", "holes", "in", "others", ".", "The", "idea", "here", "is", "to", "use", "the", "same", "approach", "in", "the", "context", "of", "wireless", "sensor", "networks", ".", "The", "rationale", "is", "that", "routing", "protocols", "in", "sensor", "networks", "are", "somewhat", "similar", "to", "those", "in", "ad", "hoc", "networks", ",", "hence", "they", "have", "similar", "pitfalls", "and", "they", "can", "be", "modeled", "in", "a", "similar", "way", ".", "Thus", ",", "in", "this", "paper", ",", "we", "present", "a", "formal", "model", ",", "in", "which", "security", "of", "routing", "is", "precisely", "defined", ",", "and", "which", "can", "serve", "as", "the", "basis", "for", "rigorous", "security", "analysis", "of", "routing", "protocols", "proposed", "for", "wireless", "sensor", "networks", ".", "Our", "model", "is", "based", "on", "the", "simulation", "paradigm", ",", "where", "security", "is", "defined", "in", "terms", "of", "indistinguishability", "between", "an", "ideal-world", "model", "of", "the", "system", "-LRB-", "where", "certain", "attacks", "are", "not", "possible", "by", "definition", "-RRB-", "and", "the", "real-world", "model", "of", "the", "system", "-LRB-", "where", "the", "adversary", "is", "not", "constrained", ",", "except", "that", "he", "must", "run", "in", "time", "polynomial", "-RRB-", ".", "This", "is", "a", "standard", "approach", "for", "defining", "security", ",", "however", ",", "it", "must", "be", "adopted", "carefully", "to", "the", "specific", "environment", "of", "wireless", "sensor", "networks", ".", "Similar", "to", "-LSB-", "4", "-RSB-", ",", "in", "this", "paper", ",", "we", "develop", "an", "adversary", "model", "that", "is", "different", "from", "the", "standard", "Dolev-Yao", "model", ",", "where", "the", "adversary", "can", "control", "all", "communications", "in", "the", "system", ".", "In", "wireless", "sensor", "networks", ",", "the", "adversary", "uses", "wireless", "devices", "to", "attack", "the", "systems", ",", "and", "it", "is", "more", "reasonable", "to", "assume", "that", "the", "adversary", "can", "interfere", "with", "communications", "only", "within", "its", "power", "range", ".", "In", "addition", ",", "we", "must", "also", "model", "the", "broadcast", "nature", "of", "radio", "communications", ".", "However", ",", "in", "addition", "to", "the", "model", "described", "in", "-LSB-", "4", "-RSB-", ",", "here", "we", "take", "into", "account", "that", "there", "are", "some", "attacks", "which", "exploit", "the", "constraint", "energy", "supply", "of", "sensor", "nodes", "-LRB-", "e.g.", ",", "the", "adversary", "decreases", "the", "network", "lifetime", "by", "diverting", "the", "traffic", "in", "order", "to", "overload", ",", "and", "thus", ",", "deplete", "some", "sensor", "nodes", "-RRB-", ".", "Hence", ",", "we", "explicitly", "model", "the", "energy", "consumption", "caused", "by", "sending", "a", "message", "between", "each", "pair", "of", "nodes", "in", "the", "network", ".", "Another", "difference", "with", "respect", "to", "the", "model", "of", "-LSB-", "4", "-RSB-", "lies", "in", "the", "definition", "of", "the", "outputs", "of", "the", "ideal-world", "and", "the", "real-world", "models", ".", "It", "is", "tempting", "to", "consider", "the", "state", "stored", "in", "the", "routing", "tables", "of", "the", "nodes", "as", "the", "output", ",", "but", "an", "adversary", "can", "distort", "that", "state", "in", "unavoidable", "ways", ".", "This", "means", "that", "if", "we", "based", "our", "definition", "of", "security", "on", "the", "indistinguishability", "of", "the", "routing", "states", "in", "the", "ideal-world", "and", "in", "the", "real-world", "models", ",", "then", "no", "routing", "protocol", "would", "satisfy", "it", ".", "Hence", ",", "we", "define", "the", "output", "of", "the", "models", "as", "a", "suitable", "function", "of", "the", "routing", "state", ",", "which", "hides", "the", "unavoidable", "distortions", "in", "the", "states", ".", "This", "function", "may", "be", "different", "for", "different", "types", "of", "routing", "protocols", ",", "but", "the", "general", "approach", "of", "comparing", "the", "outputs", "of", "this", "function", "in", "the", "ideal-world", "and", "in", "the", "real-world", "models", "remain", "the", "same", ".", "For", "instance", ",", "this", "function", "could", "be", "the", "average", "length", "of", "the", "shortest", "pathes", "between", "the", "sensor", "nodes", "and", "the", "base", "station", ";", "then", ",", "even", "if", "the", "routing", "tables", "of", "the", "nodes", "would", "not", "always", "be", "the", "same", "in", "the", "ideal-world", "and", "in", "the", "real-world", "models", ",", "the", "protocol", "would", "still", "be", "secure", "given", "that", "the", "difference", "between", "the", "distributions", "of", "the", "average", "length", "of", "the", "shortest", "pathes", "in", "the", "two", "models", "is", "negligibly", "small", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ":", "In", "Section", "2", ",", "we", "present", "the", "elements", "of", "our", "formal", "model", ",", "which", "includes", "the", "presentation", "of", "the", "adversary", "model", "adopted", "to", "wireless", "sensor", "networks", ",", "the", "description", "of", "the", "ideal-world", "and", "the", "real-world", "models", ",", "the", "general", "definition", "of", "the", "output", "of", "these", "models", ",", "as", "well", "as", "the", "definition", "of", "routing", "security", ".", "Then", ",", "in", "Section", "3", ",", "we", "illustrate", "the", "usage", "of", "our", "model", "by", "representing", "in", "it", "a", "known", "insecurity", "of", "an", "authenticated", "version", "of", "the", "TinyOS", "routing", "protocol", ".", "Finally", ",", "in", "Section", "4", ",", "we", "report", "on", "some", "related", "work", ",", "and", "in", "Section", "5", ",", "we", "conclude", "the", "paper", ".", "We", "must", "note", "that", "the", "work", "described", "in", "this", "paper", "is", "a", "work", "in", "progress", ",", "and", "it", "should", "be", "considered", "as", "such", ".", "In", "particular", ",", "the", "reader", "will", "not", "find", "security", "proofs", "in", "this", "paper", ".", "There", "are", "two", "reasons", "for", "this", ":", "first", ",", "we", "are", "still", "developing", "the", "proof", "techniques", ",", "and", "second", ",", "we", "have", "not", "identified", "yet", "any", "routing", "protocols", "that", "would", "be", "secure", "in", "our", "model", ".", "The", "adversary", "is", "represented", "by", "adversarial", "nodes", "in", "the", "network", ".", "An", "adversarial", "node", "can", "correspond", "to", "an", "ordinary", "sensor", "node", ",", "or", "a", "more", "resourced", "laptop-class", "device", ".", "In", "the", "former", "case", ",", "the", "adversary", "may", "deploy", "some", "corrupted", "sensor-class", "devices", "or", "may", "capture", "some", "honest", "sensor", "nodes", ".", "In", "the", "latter", "case", ",", "he", "has", "a", "laptop-class", "device", "with", "a", "powerful", "antenna", "and", "unconstrained", "energy", "supply", ".", "All", "of", "these", "adversarial", "nodes", "may", "be", "able", "to", "communicate", "in", "out-of-band", "channels", "-LRB-", "e.g.", ",", "other", "frequency", "channel", "or", "direct", "wired", "connection", "-RRB-", ",", "which", "may", "be", "used", "to", "create", "wormholes", ".", "In", "general", ",", "when", "capturing", "honest", "sensor", "nodes", ",", "the", "adversary", "may", "be", "able", "to", "compromise", "their", "cryptographic", "secrets", "-LRB-", "assuming", "that", "such", "secrets", "are", "used", "in", "the", "system", "-RRB-", ".", "However", ",", "in", "this", "paper", ",", "we", "assume", "that", "the", "adversary", "can", "not", "compromise", "cryptographic", "material", ".", "This", "is", "certainly", "a", "simplifying", "assumption", ",", "and", "we", "intend", "to", "relax", "it", "in", "our", "future", "work", ".", "The", "adversary", "attacking", "the", "routing", "protocol", "primarily", "intends", "to", "shorten", "the", "network", "lifetime", ",", "degrade", "the", "packet", "delivery", "ratio", ",", "increase", "his", "control", "over", "traffic", ",", "and", "increase", "network", "delay", ".", "Some", "of", "these", "goals", "are", "highly", "correlated", ";", "e.g.", ",", "increasing", "hostile", "control", "over", "traffic", "may", "also", "cause", "the", "network", "delay", "to", "be", "increased", ".", "In", "order", "to", "achieve", "the", "aforementioned", "goals", ",", "the", "adversary", "is", "able", "to", "perform", "simple", "message", "manipulations", ":", "fab-ricated", "message", "injection", ",", "message", "deletion", ",", "message", "modification", "and", "re-ordering", "of", "message", "sequences", ".", "In", "the", "followings", ",", "we", "describe", "how", "the", "adversary", "can", "perform", "message", "deletion", "and", "injection", "in", "a", "wireless", "sensor", "network", ".", "Re-ordering", "of", "message", "sequences", "is", "straightforward", "using", "message", "deletion", "and", "insertion", ",", "thus", ",", "we", "do", "not", "elaborate", "it", "further", ".", "Basically", ",", "an", "adversarial", "node", "can", "affect", "the", "communication", "of", "two", "honest", "nodes", "in", "two", "cases", ":", "In", "the", "first", "case", ",", "an", "adversarial", "node", "relays", "messages", "between", "honest", "nodes", "which", "are", "not", "able", "to", "communicate", "directly", "with", "each", "other", ".", "In", "the", "second", "case", ",", "the", "honest", "nodes", "can", "also", "reach", "each", "other", ",", "and", "the", "adversarial", "node", "can", "also", "hear", "the", "nodes", "'", "communication", ",", "i.e.", ",", "he", "can", "send", "and", "receive", "messages", "to/from", "both", "honest", "nodes", ".", "We", "further", "assume", "that", "communication", "range", "implies", "interference", "range", ",", "and", "vice-versa", ".", "In", "case", "of", "adversarial", "relaying", "of", "messages", "between", "the", "nodes", ",", "all", "of", "the", "message", "manipulations", "are", "quite", "straightforward", ".", "On", "the", "contrary", ",", "if", "the", "honest", "nodes", "can", "also", "communicate", "with", "each", "other", ",", "message", "manipulations", "must", "be", "performed", "in", "a", "very", "sophisticated", "way", ".", "The", "adversarial", "node", "can", "inject", "messages", "easily", ",", "but", "deletion", "and", "modification", "re-50", "quire", "jamming", "capability", ".", "Message", "deletion", "may", "be", "achieved", "by", "employing", "various", "selective", "jamming", "techniques", "against", "either", "the", "sender", "node", "or", "the", "receiver", "node", ".", "Message", "modification", "is", "only", "feasible", ",", "if", "both", "the", "sender", "and", "the", "receiver", "nodes", "are", "within", "the", "communication", "range", "of", "the", "adversarial", "node", ".", "Here", ",", "we", "sketch", "two", "scenarios", "for", "message", "modification", ",", "which", "are", "illustrated", "on", "Figure", "1", ".", "By", "these", "simple", "examples", ",", "we", "intend", "to", "point", "out", "the", "feasibility", "of", "message", "modification", "assuming", "even", "direct", "communication", "between", "the", "sender", "and", "the", "receiver", "node", ".", "Scenario", "1", ":", "There", "are", "two", "honest", "nodes", "X", "and", "Y", ",", "and", "node", "X", "intends", "to", "send", "a", "message", "m", "to", "node", "Y", ".", "A", "1", "and", "A", "2", "are", "adversarial", "nodes", ",", "where", "A", "2", "is", "able", "to", "interfere", "with", "Y", "'s", "communication", ",", "but", "not", "with", "X", "'s", "and", "A", "1", "'s", "communication", ".", "Let", "A", "1", "be", "in", "the", "communication", "range", "of", "X", "and", "Y", ",", "whereas", "A", "2", "can", "only", "communicate", "with", "Y", ".", "When", "X", "transmits", "m", "to", "Y", ",", "node", "A", "1", "overhears", "m", ",", "meanwhile", "A", "2", "performs", "jamming", "to", "cause", "Y", "not", "to", "be", "able", "to", "receive", "m", ".", "In", "order", "to", "take", "this", "action", ",", "A", "1", "and", "A", "2", "are", "connected", "by", "an", "out-of-band", "channel", ",", "thus", ",", "A", "1", "can", "send", "a", "signal", "to", "A", "2", "when", "A", "2", "should", "start", "jamming", "Y", "'s", "communication", ".", "It", "is", "also", "feasible", "that", "A", "2", "performs", "constant", "jamming", "for", "a", "certain", "amount", "of", "time", ",", "afterwards", ",", "A", "1", "can", "send", "the", "modified", "message", "m", "to", "Y", ".", "Scenario", "2", ":", "In", "this", "scenario", ",", "there", "is", "only", "one", "adversarial", "node", "denoted", "by", "A", ".", "We", "assume", "that", "transmitting", "a", "message", "from", "the", "routing", "sublayer", "consists", "of", "passing", "the", "message", "to", "the", "data-link", "layer", ",", "which", ",", "after", "processing", "the", "message", ",", "also", "passes", "it", "further", "to", "the", "physical", "layer", ".", "The", "data-link", "layer", "uses", "CRC", "in", "order", "to", "provide", "some", "protection", "against", "faults", "in", "noisy", "channels", ";", "a", "sender", "generally", "appends", "a", "frame", "check", "sequence", "to", "each", "frame", "-LRB-", "e.g.", ",", "see", "-LSB-", "7", "-RSB-", "-RRB-", ".", "The", "adversary", "can", "exploit", "this", "CRC", "mechanism", "to", "modify", "a", "message", "in", "the", "following", "way", "-LRB-", "illustrated", "on", "Figure", "1", "-RRB-", ".", "When", "X", "transmits", "message", "m", "to", "Y", ",", "node", "A", "also", "overhears", "m", ",", "in", "particular", ",", "he", "can", "see", "the", "frame", "-LRB-", "s", "-RRB-", "belonging", "to", "m", ".", "A", "intends", "to", "modify", "message", "m.", "Here", ",", "we", "must", "note", "that", "most", "messages", "originated", "from", "the", "routing", "sublayer", "are", "composed", "of", "only", "one", "frame", "per", "message", "in", "the", "data-link", "layer", "due", "to", "performance", "reasons", ",", "especially", "when", "they", "are", "used", "to", "discover", "routing", "topology", ".", "Upon", "reception", "of", "the", "frame", "corresponding", "to", "the", "message", ",", "the", "adversary", "can", "corrupt", "the", "frame", "check", "sequence", "by", "jamming", "once", "the", "data", "field", "of", "the", "frame", "has", "been", "received", ".", "This", "causes", "node", "Y", "to", "drop", "the", "frame", "-LRB-", "and", "the", "message", "-RRB-", ",", "since", "Y", "detects", "that", "the", "last", "frame", "is", "incorrect", ",", "and", "waits", "for", "retransmission", ".", "At", "this", "point", ",", "if", "some", "acknowledgement", "mechanism", "is", "in", "use", ",", "A", "should", "send", "an", "acknowledgement", "to", "X", "so", "that", "it", "does", "not", "re-send", "the", "original", "frame", ".", "In", "addition", ",", "A", "retransmits", "message", "m", "in", "the", "name", "of", "X", ",", "where", "m", "is", "the", "modified", "message", ".", "The", "feasibility", "of", "jamming", "attacks", "is", "studied", "and", "demonstrated", "in", "-LSB-", "17", "-RSB-", ".", "Although", ",", "the", "authors", "conclude", "in", "that", "paper", "that", "the", "success", "of", "jamming", "attacks", "mainly", "depend", "on", "the", "distance", "of", "the", "honest", "nodes", "and", "the", "jammer", "node", ",", "various", "jamming", "techniques", "has", "been", "presented", "there", "that", "can", "severely", "interfere", "with", "the", "normal", "operation", "of", "the", "network", ".", "2.2", "Network", "model", "We", "assume", "that", "each", "honest", "device", "has", "exactly", "one", "antenna", "in", "the", "network", ".", "If", "the", "adversary", "uses", "several", "antennas", "we", "represent", "each", "of", "them", "by", "a", "distinct", "node", ".", "The", "network", "nodes", "are", "considered", "to", "be", "static", ",", "and", "we", "further", "assume", "that", "there", "is", "a", "single", "base", "station", "in", "the", "network", ".", "Let", "us", "denote", "the", "honest", "nodes", "in", "the", "network", "by", "v", "0", ",", "v", "1", ",", "...", ",", "v", "k", ",", "where", "v", "0", "denotes", "the", "base", "station", ".", "Similarly", ",", "v", "k", "+1", ",", "...", ",", "v", "k", "+", "m", "represent", "the", "adversarial", "nodes", ".", "The", "set", "of", "all", "nodes", "is", "denoted", "by", "V", ".", "Furthermore", ",", "n", "denotes", "the", "number", "of", "all", "nodes", "in", "the", "network", ",", "i.e.", ",", "n", "=", "|", "V", "|", "=", "k", "+", "m", "+", "1", ".", "For", "each", "pair", "of", "nodes", "v", "i", "and", "v", "j", ",", "we", "define", "e", "v", "i", ",", "v", "j", "to", "be", "the", "energy", "level", "needed", "to", "transmit", "a", "message", "from", "v", "i", "to", "v", "j", ",", "where", "v", "i", ",", "v", "j", "V", ".", "This", "values", "can", "be", "ordered", "in", "a", "matrix", "with", "size", "n", "n", ",", "called", "reachability", "matrix", ",", "and", "it", "is", "denoted", "by", "E.", "1", "In", "the", "rest", ",", "if", "we", "intend", "to", "emphasize", "the", "distinction", "between", "the", "honest", "and", "the", "adversarial", "nodes", "in", "the", "notation", ",", "we", "prefer", "to", "denote", "the", "adversarial", "nodes", "by", "v", "1", ",", "...", ",", "v", "m", "-LRB-", "where", "v", "=", "v", "k", "+", ",", "1", "m", "-RRB-", ".", "For", "the", "sake", "of", "simplicity", ",", "we", "also", "assume", "that", "at", "least", "energy", "e", "v", "i", ",", "v", "j", "is", "needed", "for", "node", "v", "i", "to", "interfere", "with", "node", "v", "j", "'s", "packet", "reception", ".", "This", "means", "that", "if", "v", "i", "can", "reach", "v", "j", ",", "then", "v", "i", "can", "also", "interfere", "with", "all", "the", "communication", "of", "v", "j", ".", "Let", "us", "assume", "that", "each", "node", "uses", "a", "globally", "unique", "identifier", "in", "the", "network", ",", "and", "these", "identifiers", "are", "authenticated", "in", "some", "way", "-LRB-", "e.g.", ",", "by", "symmetric", "keys", "-RRB-", ".", "We", "denote", "the", "set", "of", "these", "identifiers", "by", "L", ",", "and", "there", "is", "a", "function", "L", ":", "V", "L", "-LCB-", "undef", "-RCB-", "that", "assigns", "an", "identifier", "to", "each", "node", ",", "where", "undef", "/", "L", ".", "According", "to", "our", "adversary", "model", "described", "in", "Subsection", "2.1", ",", "we", "assume", "that", "the", "adversary", "has", "no", "-LRB-", "authenticated", "-RRB-", "identifier", "in", "the", "network", ",", "i.e.", ",", "L", "-LRB-", "v", "j", "-RRB-", "=", "undef", "for", "all", "1", "j", "m", ".", "We", "also", "introduce", "a", "cost", "function", "C", ":", "V", "R", ",", "which", "assigns", "a", "cost", "to", "each", "node", "-LRB-", "e.g.", ",", "the", "remaining", "energy", "in", "the", "battery", ",", "or", "constant", "1", "to", "each", "node", "in", "order", "to", "represent", "hop-count", "-RRB-", ".", "Configuration", ":", "A", "configuration", "conf", "is", "a", "quadruple", "-LRB-", "V", ",", "L", ",", "E", ",", "C", "-RRB-", "that", "consists", "of", "the", "set", "of", "nodes", ",", "the", "labelling", "function", ",", "the", "reachability", "matrix", ",", "and", "the", "cost", "function", "of", "nodes", ".", "2.3", "Security", "objective", "function", "Diverse", "sensor", "applications", "entail", "different", "requirements", "for", "routing", "protocols", ".", "For", "instance", ",", "remote", "surveillance", "applications", "may", "require", "minimal", "delay", "for", "messages", ",", "while", "sensor", "applications", "performing", "some", "statistical", "measurements", "favour", "routing", "protocols", "prolonging", "network", "lifetime", ".", "The", "diversity", "of", "routing", "protocols", "is", "caused", "by", "these", "conflicting", "requirements", ":", "e.g.", ",", "shortest-path", "routing", "algorithms", "can", "not", "maximize", "the", "network", "lifetime", ",", "since", "always", "choosing", "the", "same", "nodes", "to", "forward", "messages", "causes", "these", "nodes", "to", "run", "out", "of", "their", "energy", "supply", "sooner", ".", "Several", "sensor", "routing", "protocols", "use", "a", "trade-off", "to", "satisfy", "conflicting", "requirements", "-LSB-", "16", ",", "11", "-RSB-", ".", "This", "small", "argument", "also", "points", "out", "that", "one", "can", "not", "judge", "the", "utility", "of", "all", "routing", "protocols", "uniformly", ".", "Without", "a", "unified", "metric", "of", "utility", "we", "can", "not", "refine", "our", "security", "objectives", "for", "routing", "protocols", ".", "By", "the", "above", "argument", ",", "a", "routing", "protocol", "that", "is", "secure", "against", "attacks", "aiming", "at", "decreasing", "network-lifetime", "can", "not", "be", "secure", "against", "attacks", "aiming", "at", "increasing", "network", "delay", ".", "We", "model", "the", "negatively", "correlated", "requirements", "of", "routing", ",", "and", "essentially", ",", "our", "security", "objectives", "in", "a", "very", "general", "manner", ".", "We", "represent", "the", "output", "of", "a", "routing", "protocol", ",", "which", "is", "actually", "the", "ensemble", "of", "the", "routing", "entries", "of", "the", "honest", "nodes", ",", "with", "a", "given", "con-1", "In", "this", "paper", ",", "the", "rows", "and", "the", "columns", "of", "all", "matrices", "are", "numbered", "from", "zero", ".", "51", "Node", "X", "Node", "A", "2", "Node", "A", "1", "Node", "Y", "1", ":", "m", "1", ":", "jam", "1", ":", "m", "2", ":", "m", "Node", "X", "Node", "Y", "Node", "A", "1", ":", "m", "1", ":", "m", "1", ":", "jam", "2", ":", "m", "Figure", "1", ":", "Message", "modification", "performed", "by", "the", "cooperation", "of", "two", "adversarial", "nodes", "A", "1", "and", "A", "2", "-LRB-", "on", "the", "right-hand", "side", "-RRB-", "in", "Scenario", "1", ",", "and", "employing", "overhearing", ",", "jamming", ",", "and", "relaying", "with", "a", "single", "adversarial", "node", "A", "-LRB-", "on", "the", "left-hand", "side", "-RRB-", "in", "Scenario", "2", ".", "Honest", "nodes", "are", "labelled", "by", "X", "and", "Y", ".", "Arrows", "between", "nodes", "illustrate", "the", "direction", "of", "communication", ",", "the", "sequence", "of", "message", "exchanges", "are", "also", "depicted", "on", "these", "arrows", ".", "Dashed", "arrows", "illustrate", "failed", "message", "delivery", "caused", "by", "jamming", ".", "figuration", "conf", "by", "a", "matrix", "T", "conf", "with", "size", "k", "+", "1", "k", "+", "1", ".", "2", "T", "conf", "i", ",", "j", "=", "1", ",", "if", "honest", "node", "v", "i", "sends", "every", "message", "to", "an", "honest", "node", "identified", "by", "L", "-LRB-", "v", "j", "-RRB-", "in", "order", "to", "deliver", "the", "message", "to", "the", "base", "station", ",", "otherwise", "let", "T", "conf", "i", ",", "j", "be", "0", ".", "In", "the", "rest", "of", "the", "paper", ",", "we", "shortly", "refer", "to", "the", "result", "of", "a", "routing", "protocol", "with", "a", "given", "configuration", "as", "a", "routing", "topology", ",", "which", "can", "be", "considered", "as", "a", "directed", "graph", "described", "by", "matrix", "T", "conf", ".", "In", "the", "following", ",", "we", "will", "omit", "the", "index", "conf", "of", "T", "when", "the", "configuration", "can", "be", "unambiguously", "determined", "in", "a", "given", "context", ".", "In", "fact", ",", "T", "conf", "is", "a", "random", "variable", ",", "where", "the", "ran-domness", "is", "caused", "by", "the", "sensor", "readings", "initiated", "randomly", "by", "the", "environment", ",", "processing", "and", "transmission", "time", "of", "the", "sensed", "data", ",", "etc.", ".", "Let", "us", "denote", "the", "set", "of", "all", "configurations", "by", "G.", "Furthermore", ",", "T", "denotes", "the", "set", "of", "the", "routing", "topologies", "of", "all", "configurations", ".", "The", "security", "objective", "function", "F", ":", "G", "T", "R", "assigns", "a", "real", "number", "to", "a", "random", "routing", "topology", "of", "a", "configuration", ".", "This", "function", "intends", "to", "distinguish", "``", "attacked", "''", "topologies", "from", "``", "non-attacked", "''", "topologies", "based", "on", "a", "well-defined", "security", "objective", ".", "We", "note", "that", "the", "definition", "of", "F", "is", "protocol", "dependent", ".", "For", "example", ",", "let", "us", "consider", "routing", "protocols", "that", "build", "a", "routing", "tree", ",", "where", "the", "root", "is", "the", "base", "station", ".", "We", "can", "compare", "routing", "trees", "based", "on", "network", "lifetime", "by", "the", "following", "security", "objective", "function", "F", "-LRB-", "conf", ",", "T", "conf", "-RRB-", "=", "1", "k", "k", "X", "i", "=", "1", "E", "-LRB-", "v", "i", ",", "conf", ",", "T", "conf", "-RRB-", "where", "E", ":", "V", "G", "T", "R", "assigns", "the", "overall", "energy", "consumption", "of", "the", "path", "from", "a", "node", "v", "i", "to", "v", "0", "-LRB-", "the", "base", "station", "-RRB-", "in", "a", "routing", "tree", "of", "a", "configuration", ".", "Since", "T", "conf", "is", "a", "random", "variable", ",", "the", "output", "of", "F", "is", "a", "random", "variable", "too", ".", "If", "the", "distribution", "of", "this", "output", "in", "the", "presence", "of", "an", "attacker", "non-negligibly", "differs", "from", "the", "distribution", "when", "there", "'s", "no", "attacker", ",", "then", "the", "protocol", "is", "not", "secure", ".", "If", "we", "intend", "to", "compare", "routing", "trees", "based", "on", "network", "delay", "a", "simple", "security", "objective", "function", "may", "be", "F", "-LRB-", "conf", ",", "T", "conf", "-RRB-", "=", "1", "k", "k", "X", "i", "=", "1", "M", "-LRB-", "v", "i", ",", "conf", ",", "T", "conf", "-RRB-", "where", "M", ":", "V", "G", "T", "R", "assigns", "the", "length", "of", "the", "path", "from", "a", "node", "to", "v", "0", "in", "a", "routing", "topology", "of", "a", "configuration", ".", "2", "Of", "course", ",", "here", "we", "only", "consider", "the", "result", "of", "the", "protocol", "with", "respect", "to", "the", "honest", "nodes", ",", "since", "the", "adversarial", "nodes", "may", "not", "follow", "the", "protocol", "rules", "faithfully", ".", "2.4", "Dynamic", "model", "Following", "the", "simulation", "paradigm", ",", "we", "define", "a", "real-world", "model", "and", "an", "ideal-world", "model", ".", "The", "real-world", "model", "represents", "the", "real", "operation", "of", "the", "protocol", "and", "the", "ideal-world", "model", "describes", "how", "the", "system", "should", "work", "ideally", ".", "Both", "models", "contain", "an", "adversary", ".", "The", "real-world", "adversary", "is", "not", "constrained", "apart", "from", "requiring", "it", "to", "run", "in", "time", "polynomial", ".", "This", "enables", "us", "to", "be", "concerned", "with", "arbitrary", "feasible", "attacks", ".", "In", "addition", ",", "the", "ideal-world", "adversary", "is", "constrained", "in", "a", "way", "that", "it", "can", "not", "modify", "messages", "and", "inject", "extra", "ones", "due", "to", "the", "construction", "of", "the", "ideal-world", "system", ".", "In", "other", "words", ",", "all", "attacks", "that", "modify", "or", "inject", "any", "messages", "is", "unsuccessful", "in", "the", "ideal-world", "system", ".", "However", ",", "the", "ideal-world", "adversary", "can", "perform", "attacks", "that", "are", "unavoidable", "or", "very", "costly", "to", "defend", "against", "-LRB-", "e.g.", ",", "message", "deletion", "-RRB-", ".", "Once", "the", "models", "are", "defined", ",", "the", "goal", "is", "to", "prove", "that", "for", "any", "real-world", "adversary", ",", "there", "exist", "an", "ideal-world", "adversary", "that", "can", "achieve", "essentially", "the", "same", "effects", "in", "the", "ideal-world", "model", "as", "those", "achieved", "by", "the", "real-world", "adversary", "in", "the", "real-world", "model", "-LRB-", "i.e.", ",", "the", "ideal-world", "adversary", "can", "simulate", "the", "real-world", "adversary", "-RRB-", ".", "2.4.1", "Real-world", "model", "The", "real-world", "model", "that", "corresponds", "to", "a", "configuration", "conf", "=", "-LRB-", "V", ",", "L", ",", "E", ",", "C", "-RRB-", "and", "adversary", "A", "is", "denoted", "by", "sys", "real", "conf", ",", "A", ",", "and", "it", "is", "illustrated", "on", "Figure", "2", ".", "We", "model", "the", "operation", "of", "the", "protocol", "participants", "by", "interactive", "and", "probabilistic", "Turing", "machines", ".", "Correspondingly", ",", "we", "represent", "the", "adversary", ",", "the", "honest", "sensor", "nodes", ",", "and", "the", "broadcast", "nature", "of", "the", "radio", "communication", "by", "machines", "A", ",", "M", "i", ",", "and", "C", ",", "respectively", ".", "These", "machines", "communicate", "with", "each", "other", "via", "common", "tapes", ".", "Each", "machine", "must", "be", "initialized", "with", "some", "input", "data", "-LRB-", "e.g.", ",", "cryptographic", "keys", ",", "reachability", "matrix", ",", "etc.", "-RRB-", ",", "which", "determines", "its", "initial", "state", ".", "Moreover", ",", "the", "machines", "are", "also", "provided", "with", "some", "random", "input", "-LRB-", "the", "coin", "flips", "to", "be", "used", "during", "the", "operation", "-RRB-", ".", "Once", "the", "machines", "have", "been", "initialized", ",", "the", "computation", "begins", ".", "The", "machines", "operate", "in", "a", "reactive", "manner", ",", "i.e.", ",", "they", "need", "to", "be", "activated", "in", "order", "to", "perform", "some", "computation", ".", "When", "a", "machine", "is", "activated", ",", "it", "reads", "the", "content", "of", "its", "input", "tapes", ",", "processes", "the", "received", "data", ",", "updates", "its", "internal", "state", ",", "writes", "some", "output", "on", "its", "output", "tapes", ",", "and", "goes", "back", "to", "sleep", ".", "The", "machines", "are", "activated", "in", "rounds", "by", "a", "hypothetic", "scheduler", ",", "and", "each", "machine", "in", "each", "round", "is", "activated", "only", "once", ".", "The", "order", "of", "activation", "is", "arbitrary", "with", "the", "only", "restriction", "that", "C", "must", "be", "activated", "at", "the", "end", "of", "the", "rounds", ".", "52", "Now", ",", "we", "present", "the", "machines", "in", "more", "details", ":", "Machine", "C", ".", "This", "machine", "is", "intended", "to", "model", "the", "radio", "communication", ".", "It", "has", "input", "tapes", "out", "i", "and", "out", "j", ",", "from", "which", "it", "reads", "messages", "written", "by", "M", "i", "and", "A", ",", "resp", ".", "It", "also", "has", "output", "tapes", "in", "i", "and", "in", "j", ",", "on", "which", "it", "writes", "messages", "to", "M", "i", "and", "A", ",", "resp", ".", "C", "is", "also", "initialized", "by", "matrix", "E", "at", "the", "beginning", "of", "the", "computation", ".", "Messages", "on", "tape", "out", "i", "can", "have", "the", "format", "-LRB-", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", ",", "where", "sndr", "L", "is", "the", "identifier", "of", "the", "sender", ",", "cont", "is", "the", "message", "content", ",", "e", "is", "the", "energy", "level", "to", "be", "used", "to", "determine", "the", "range", "of", "transmission", ",", "and", "dest", "is", "the", "identifier", "of", "the", "intended", "destination", "dest", "L", "-LCB-", "-RCB-", ",", "where", "indicates", "broadcast", "message", ".", "Messages", "on", "tape", "out", "j", "can", "have", "the", "following", "formats", ":", "-LRB-", "MSG", ",", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", ":", "MSG", "message", "models", "a", "normal", "broadcast", "message", "sent", "by", "the", "adversary", "to", "machine", "C", "with", "sender", "identifier", "sndr", "L", ",", "message", "content", "cont", ",", "energy", "level", "e", ",", "and", "identifier", "of", "the", "intended", "destination", "dest", "L", "-LCB-", "-RCB-", ".", "-LRB-", "JAM", ",", "e", "-RRB-", ":", "Special", "JAM", "message", ",", "that", "is", "sent", "by", "the", "adversary", "to", "machine", "C", ",", "models", "the", "jamming", "capability", "of", "the", "adversary", ".", "When", "machine", "C", "receives", "a", "message", "JAM", ",", "it", "performs", "the", "requested", "jamming", "by", "deleting", "all", "messages", "in", "the", "indicated", "range", "e", "around", "the", "jamming", "node", ",", "which", "means", "that", "those", "deleted", "messages", "are", "not", "delivered", "to", "the", "nodes", "-LRB-", "including", "the", "jammer", "node", "itself", "-RRB-", "within", "the", "jamming", "range", ".", "-LRB-", "DEL", ",", "tar", ",", "e", "-RRB-", ":", "Special", "DEL", "message", ",", "that", "is", "sent", "by", "the", "adversary", "to", "machine", "C", ",", "models", "the", "modification", "capability", "of", "the", "adversary", ".", "When", "receiving", "a", "message", "DEL", "with", "identifier", "tar", "L", ",", "machine", "C", "does", "not", "deliver", "any", "messages", "sent", "by", "node", "v", "V", ",", "where", "L", "-LRB-", "v", "-RRB-", "=", "tar", ",", "if", "v", "is", "within", "the", "indicated", "range", "e", ",", "except", "the", "adversarial", "node", "itself", "that", "will", "receive", "the", "deleted", "messages", ".", "This", "models", "the", "sophisticated", "jamming", "technique", "that", "we", "described", "in", "Subsection", "2.1", ".", "In", "a", "more", "formal", "way", ",", "when", "reading", "a", "message", "msg", "in", "=", "-LRB-", "MSG", ",", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", "from", "out", "j", ",", "C", "determines", "the", "nodes", "which", "receive", "the", "message", "by", "calculating", "the", "set", "of", "nodes", "V", "e", "V", ",", "such", "that", "for", "all", "v", "V", "e", "e", "v", "j", ",", "v", "e.", "Finally", ",", "C", "processes", "msg", "in", "as", "follows", ".", "1", ".", "if", "dest", "L", "-LCB-", "-RCB-", ",", "then", "C", "writes", "msg", "out", "=", "-LRB-", "sndr", ",", "cont", ",", "dest", "-RRB-", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "honest", "nodes", "in", "V", "e", "msg", "out", "=", "-LRB-", "MSG", ",", "sndr", ",", "cont", ",", "dest", "-RRB-", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "adversarial", "nodes", "in", "V", "e", "\\", "-LCB-", "v", "j", "-RCB-", "2", ".", "otherwise", "C", "discards", "msg", "in", "When", "reading", "a", "message", "msg", "in", "=", "-LRB-", "JAM", ",", "e", "-RRB-", "from", "out", "j", ",", "C", "determines", "the", "set", "of", "nodes", "which", "receive", "the", "message", "by", "calculating", "V", "e", "V", ",", "such", "that", "for", "all", "v", "V", "e", "e", "v", "j", ",", "v", "e.", "Afterwards", ",", "C", "does", "not", "write", "any", "messages", "within", "the", "same", "round", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "V", "e", ".", "When", "reading", "a", "message", "msg", "in", "=", "-LRB-", "DEL", ",", "tar", ",", "e", "-RRB-", "from", "out", "j", ",", "C", "determines", "the", "set", "of", "nodes", "which", "receive", "the", "message", "by", "calculating", "V", "e", "V", ",", "such", "that", "for", "all", "v", "V", "e", "e", "v", "j", ",", "v", "e.", "Finally", ",", "C", "processes", "msg", "in", "as", "follows", ".", "1", ".", "if", "there", "exists", "v", "x", "V", "e", "-LRB-", "1", "x", "k", "-RRB-", ",", "such", "that", "L", "-LRB-", "v", "x", "-RRB-", "=", "tar", ",", "then", "C", "does", "not", "write", "any", "messages", "within", "the", "same", "round", "from", "tape", "out", "x", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "V", "e", "\\", "-LCB-", "v", "j", "-RCB-", "2", ".", "otherwise", "C", "discards", "msg", "in", "When", "reading", "a", "message", "msg", "in", "=", "-LRB-", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", "from", "out", "i", ",", "C", "determines", "the", "set", "of", "nodes", "which", "receive", "the", "message", "by", "calculating", "V", "e", "V", ",", "such", "that", "for", "all", "v", "V", "e", "e", "v", "j", ",", "v", "e.", "Finally", ",", "C", "processes", "msg", "in", "as", "follows", ".", "1", ".", "if", "dest", "L", "-LCB-", "-RCB-", ",", "then", "C", "writes", "msg", "out", "=", "-LRB-", "sndr", ",", "cont", ",", "dest", "-RRB-", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "honest", "nodes", "in", "V", "e", "\\", "-LCB-", "v", "i", "-RCB-", "msg", "out", "=", "-LRB-", "MSG", ",", "sndr", ",", "cont", ",", "dest", "-RRB-", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "adversarial", "nodes", "in", "V", "e", "2", ".", "otherwise", "C", "discards", "msg", "in", "Machine", "M", "i", ".", "This", "machine", "models", "the", "operation", "of", "honest", "sensor", "nodes", ",", "and", "it", "corresponds", "to", "node", "v", "i", ".", "It", "has", "input", "tape", "in", "i", "and", "output", "tape", "out", "i", ",", "which", "are", "shared", "with", "machine", "C", ".", "The", "format", "of", "input", "messages", "must", "be", "-LRB-", "sndr", ",", "cont", ",", "dest", "-RRB-", ",", "where", "dest", "L", "-LCB-", "-RCB-", ".", "The", "format", "of", "output", "messages", "must", "be", "-LRB-", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", ",", "where", "sndr", "must", "be", "L", "-LRB-", "v", "i", "-RRB-", ",", "dest", "L", "-LCB-", "-RCB-", ",", "and", "e", "indicates", "the", "transmission", "range", "of", "the", "message", "for", "C", ".", "When", "this", "machine", "reaches", "one", "of", "its", "final", "states", "or", "there", "is", "a", "time-out", "during", "the", "computation", "process", ",", "it", "outputs", "its", "routing", "table", ".", "Machine", "A", ".", "This", "machine", "models", "the", "adversary", "logic", ".", "Encapsulating", "each", "adversarial", "node", "into", "a", "single", "machine", "allows", "us", "to", "model", "wormholes", "inside", "A", ".", "One", "can", "imagine", "that", "the", "adversary", "deploy", "several", "antennas", "in", "the", "network", "field", ",", "which", "are", "connected", "to", "a", "central", "adversary", "logic", ".", "In", "this", "convention", ",", "node", "v", "j", "corresponds", "to", "an", "adversarial", "antenna", ",", "which", "is", "modelled", "by", "input", "tape", "in", "j", "and", "output", "tape", "out", "j", ".", "These", "tapes", "are", "shared", "with", "machine", "C", ".", "The", "format", "of", "input", "messages", "must", "be", "msg", "in", "=", "-LRB-", "MSG", ",", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", ",", "where", "dest", "L", "-LCB-", "-RCB-", ".", "The", "format", "of", "output", "messages", "msg", "out", "can", "be", "-LRB-", "MSG", ",", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", ",", "where", "dest", "L", "-LCB-", "-RCB-", "and", "e", "indicates", "the", "transmission", "range", "of", "the", "message", ";", "-LRB-", "JAM", ",", "e", "-RRB-", ",", "where", "e", "indicates", "the", "range", "of", "jamming", ";", "-LRB-", "DEL", ",", "tar", ",", "e", "-RRB-", ",", "where", "e", "indicates", "the", "range", "of", "selective", "jamming", ",", "and", "tar", "L", ".", "The", "computation", "ends", ",", "when", "all", "machines", "M", "i", "reach", "their", "final", "states", ",", "or", "there", "is", "a", "time-out", ".", "The", "output", "of", "sys", "real", "conf", ",", "A", "is", "the", "value", "of", "the", "security", "objective", "function", "F", "applied", "to", "the", "resulted", "routing", "topology", "defined", "in", "Subsection", "2.3", "and", "configuration", "conf", ".", "The", "routing", "topology", "is", "represented", "by", "53", "C", "M", "0", "...", "in", "0", "out", "0", "in", "1", "out", "1", "in", "2", "out", "2", "A", "M", "1", "out", "1", "in", "1", "M", "k", "out", "k", "in", "k", "in", "m", "out", "m", "...", "C", "M", "0", "...", "in", "0", "out", "0", "in", "1", "out", "1", "in", "2", "out", "2", "M", "1", "out", "1", "in", "1", "M", "k", "out", "k", "in", "k", "in", "m", "out", "m", "...", "A", "Figure", "2", ":", "The", "real-world", "model", "-LRB-", "on", "the", "left-hand", "side", "-RRB-", "and", "the", "ideal-world", "model", "-LRB-", "on", "the", "right-hand", "side", "-RRB-", ".", "the", "ensemble", "of", "the", "routing", "entries", "of", "machines", "M", "i", ".", "We", "denote", "the", "output", "by", "Out", "real", ",", "F", "conf", ",", "A", "-LRB-", "r", "-RRB-", ",", "where", "r", "is", "the", "random", "input", "of", "the", "model", ".", "In", "addition", ",", "Out", "real", ",", "F", "conf", ",", "A", "will", "denote", "the", "random", "variable", "describing", "Out", "real", ",", "F", "conf", ",", "A", "-LRB-", "r", "-RRB-", "when", "r", "is", "chosen", "uniformly", "at", "random", ".", "2.4.2", "Ideal-world", "model", "The", "ideal-world", "model", "-LRB-", "illustrated", "on", "Figure", "2", "-RRB-", "that", "corresponds", "to", "a", "configuration", "conf", "=", "-LRB-", "V", ",", "L", ",", "E", ",", "C", "-RRB-", "and", "adversary", "A", "is", "denoted", "by", "sys", "ideal", "conf", ",", "A", ".", "The", "ideal-world", "model", "is", "identical", "to", "the", "real-world", "model", "with", "the", "exception", "that", "the", "ideal-world", "adversary", "can", "not", "modify", "and", "inject", "extra", "messages", ".", "However", ",", "he", "is", "allowed", "to", "simply", "drop", "any", "messages", "or", "perform", "jamming", ",", "since", "these", "attacks", "are", "unavoidable", ",", "or", "at", "least", ",", "they", "are", "too", "costly", "to", "defend", "against", ".", "Our", "model", "is", "considered", "to", "be", "ideal", "in", "this", "sense", ".", "Comparing", "to", "the", "real-world", "model", ",", "we", "replace", "machine", "C", "with", "machine", "C", "and", "machine", "A", "with", "machine", "A", "in", "order", "to", "implement", "our", "restricted", "ideal-world", "adversary", ".", "Hence", ",", "we", "only", "detail", "the", "operation", "of", "C", "and", "A", "here", ",", "since", "M", "i", "are", "the", "same", "as", "in", "the", "real-world", "model", ".", "Receiving", "an", "MSG", "message", "from", "machines", "M", "i", ",", "C", "internally", "stores", "that", "message", "with", "a", "unique", "message", "identifier", "in", "its", "internal", "store", ".", "Delivering", "any", "MSG", "message", "to", "A", ",", "C", "also", "includes", "the", "message", "identifier", "into", "the", "message", ".", "A", "can", "send", "an", "MSG", "message", "to", "C", "with", "a", "different", "format", ";", "it", "only", "contains", "an", "identifier", "id", "and", "an", "energy", "level", "e.", "Upon", "the", "reception", "of", "such", "a", "message", ",", "C", "searches", "for", "the", "original", "message", "which", "is", "associated", "with", "identifier", "id", "in", "its", "internal", "store", ",", "and", "delivers", "this", "stored", "message", "using", "the", "energy", "level", "e.", "Although", "A", "also", "receives", "the", "original", "message", "with", "its", "associated", "identifier", "from", "C", ",", "he", "is", "not", "able", "to", "modify", "that", ",", "since", "C", "only", "accepts", "a", "message", "identifier", "issued", "by", "himself", "and", "an", "energy", "level", "from", "A", ".", "In", "other", "words", ",", "A", "can", "only", "delete", "messages", ",", "since", "A", "can", "also", "send", "special", "DEL", "and", "JAM", "messages", "to", "C", ".", "We", "elaborate", "the", "operation", "of", "C", "and", "A", "in", "a", "more", "formal", "way", "as", "follows", ".", "A", "and", "C", "communicate", "via", "tapes", "in", "j", "and", "out", "j", ".", "Machine", "C", ".", "It", "has", "input", "tapes", "out", "i", "and", "out", "j", ",", "from", "which", "it", "reads", "messages", "written", "by", "M", "i", "and", "A", ",", "resp", ".", "It", "also", "has", "output", "tapes", "in", "i", "and", "in", "j", ",", "on", "which", "it", "writes", "messages", "to", "M", "i", "and", "A", ",", "resp", ".", "C", "is", "also", "initialized", "by", "matrix", "E", ".", "In", "addition", ",", "it", "sets", "its", "internal", "variable", "id", "C", "to", "1", "at", "the", "beginning", "of", "the", "computation", ".", "C", "interacts", "with", "machines", "M", "i", "in", "a", "similar", "way", "as", "C", "does", "in", "the", "real-world", "model", ";", "when", "reading", "a", "message", "msg", "in", "=", "-LRB-", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", "from", "out", "i", ",", "C", "processes", "msg", "in", "identically", "to", "C", "in", "the", "real-world", "model", "only", "with", "one", "exception", ":", "Before", "writing", "msg", "in", "=", "-LRB-", "MSG", ",", "id", "C", ",", "sndr", ",", "cont", ",", "dest", "-RRB-", "to", "output", "tapes", "in", "j", ",", "C", "internally", "stores", "msg", "in", "in", "set", "S", ".", "After", "writing", "msg", "in", "to", "output", "tapes", "in", "j", ",", "C", "increments", "id", "C", "by", "one", ".", "Therefore", ",", "C", "knows", "what", "messages", "are", "passed", "to", "A", "from", "M", "i", ".", "Messages", "on", "out", "j", "can", "have", "the", "formats", ":", "-LRB-", "MSG", ",", "id", ",", "e", "-RRB-", ":", "MSG", "message", "models", "a", "normal", "broadcast", "message", "sent", "by", "the", "ideal-world", "adversary", "to", "machine", "C", ",", "where", "e", "indicates", "the", "transmission", "range", "of", "the", "message", "identified", "by", "id", ".", "-LRB-", "JAM", ",", "e", "-RRB-", ":", "Special", "JAM", "message", ",", "that", "is", "sent", "by", "the", "adversary", "to", "machine", "C", ",", "models", "the", "jamming", "capability", "of", "the", "ideal-world", "adversary", ",", "where", "e", "indicates", "the", "range", "of", "jamming", ".", "-LRB-", "DEL", ",", "tar", ",", "e", "-RRB-", ":", "Special", "DEL", "message", ",", "that", "is", "sent", "by", "the", "adversary", "to", "machine", "C", ",", "models", "the", "modification", "capability", "of", "the", "ideal-world", "adversary", ",", "where", "e", "indicates", "the", "range", "of", "selective", "jamming", ",", "and", "tar", "L", ".", "When", "reading", "a", "message", "msg", "in", "=", "-LRB-", "MSG", ",", "id", ",", "e", "-RRB-", "from", "out", "j", ",", "machine", "C", "operates", "differently", "from", "C.", "C", "determines", "the", "set", "of", "nodes", "which", "receive", "the", "message", "by", "calculating", "V", "e", "V", ",", "such", "that", "for", "all", "v", "V", "e", "e", "v", "j", ",", "v", "e.", "Finally", ",", "C", "processes", "msg", "in", "as", "follows", ".", "1", ".", "if", "1", "id", "id", "C", ",", "then", "C", "searches", "the", "msg", "=", "-LRB-", "MSG", ",", "id", ",", "sndr", ",", "cont", ",", "dest", "-RRB-", "in", "S", "such", "that", "id", "equals", "to", "id", ",", "and", "C", "writes", "msg", "out", "=", "-LRB-", "sndr", ",", "cont", ",", "dest", "-RRB-", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "honest", "nodes", "in", "V", "e", "msg", "out", "=", "-LRB-", "MSG", ",", "id", ",", "sndr", ",", "cont", ",", "dest", "-RRB-", "to", "the", "input", "tapes", "of", "machines", "corresponding", "to", "adversarial", "nodes", "in", "V", "e", "\\", "-LCB-", "v", "j", "-RCB-", "2", ".", "otherwise", "C", "discards", "msg", "in", "When", "reading", "a", "message", "msg", "in", "=", "-LRB-", "JAM", ",", "e", "-RRB-", "or", "msg", "in", "=", "-LRB-", "DEL", ",", "tar", ",", "e", "-RRB-", "from", "out", "j", ",", "machine", "C", "operates", "the", "same", "54", "way", "as", "C", "does", "in", "case", "of", "the", "corresponding", "message", "formats", ".", "Machine", "A", ".", "It", "has", "output", "tapes", "out", "j", "and", "input", "tapes", "in", "j", ".", "The", "format", "of", "messages", "on", "input", "tape", "in", "j", "must", "be", "msg", "in", "=", "-LRB-", "MSG", ",", "id", ",", "sndr", ",", "cont", ",", "e", ",", "dest", "-RRB-", ",", "where", "dest", "L", "-LCB-", "-RCB-", ".", "The", "format", "of", "output", "messages", "msg", "out", "can", "be", "-LRB-", "MSG", ",", "id", ",", "e", "-RRB-", ",", "where", "id", "is", "a", "message", "identifier", "and", "e", "indicates", "the", "transmission", "range", "of", "the", "message", "identified", "by", "id", ";", "-LRB-", "JAM", ",", "e", "-RRB-", ",", "where", "e", "indicates", "the", "range", "of", "jamming", ";", "-LRB-", "DEL", ",", "tar", ",", "e", "-RRB-", ",", "where", "e", "indicates", "the", "range", "of", "selective", "jamming", ",", "and", "tar", "L", ".", "The", "computation", "ends", ",", "when", "all", "machines", "M", "i", "reach", "their", "final", "states", ",", "or", "there", "is", "a", "time-out", ".", "Similar", "to", "the", "real-world", "model", ",", "the", "output", "of", "sys", "ideal", "conf", ",", "A", "is", "the", "value", "of", "the", "security", "objective", "function", "F", "applied", "to", "the", "resulted", "routing", "topology", "and", "configuration", "conf", ".", "The", "routing", "topology", "is", "represented", "by", "the", "ensemble", "of", "the", "routing", "entries", "of", "machines", "M", "i", ".", "We", "denote", "the", "output", "by", "Out", "ideal", ",", "F", "conf", ",", "A", "-LRB-", "r", "-RRB-", ",", "where", "r", "is", "the", "random", "input", "of", "the", "model", ".", "Moreover", ",", "Out", "ideal", ",", "F", "conf", ",", "A", "will", "denote", "the", "random", "variable", "describing", "Out", "ideal", ",", "F", "conf", ",", "A", "-LRB-", "r", "-RRB-", "when", "r", "is", "chosen", "uniformly", "at", "random", ".", "2.5", "Definition", "of", "secure", "routing", "Let", "us", "denote", "the", "security", "parameter", "of", "the", "model", "by", "-LRB-", "e.g.", ",", "is", "the", "key", "length", "of", "the", "cryptographic", "primitive", "employed", "in", "the", "routing", "protocol", ",", "such", "as", "digital", "signature", ",", "MAC", ",", "etc.", "-RRB-", ".", "Based", "on", "the", "model", "described", "in", "the", "previous", "subsections", ",", "we", "define", "routing", "security", "as", "follows", ":", "Definition", "1", "-LRB-", "Statistical", "security", "-RRB-", ".", "A", "routing", "protocol", "is", "statistically", "secure", "with", "security", "objective", "function", "F", ",", "if", "for", "any", "configuration", "conf", "and", "any", "real-world", "adversary", "A", ",", "there", "exists", "an", "ideal-world", "adversary", "A", ",", "such", "that", "Out", "real", ",", "F", "conf", ",", "A", "is", "statistically", "indistinguishable", "from", "Out", "ideal", ",", "F", "conf", ",", "A", ".", "Two", "random", "variables", "are", "statistically", "indistinguishable", "if", "the", "L", "1", "distance", "of", "their", "distributions", "is", "a", "negligible", "function", "of", "the", "security", "parameter", ".", "Intuitively", ",", "if", "a", "routing", "protocol", "is", "statistically", "secure", ",", "then", "any", "system", "using", "this", "routing", "protocol", "can", "not", "satisfy", "its", "security", "objectives", "represented", "by", "function", "F", "only", "with", "a", "probability", "that", "is", "a", "negligible", "function", "of", ".", "This", "negligible", "probability", "is", "related", "to", "the", "fact", "that", "the", "adversary", "can", "always", "forge", "the", "cryptographic", "primitives", "-LRB-", "e.g.", ",", "generate", "a", "valid", "digital", "signature", "-RRB-", "with", "a", "very", "small", "probability", "depending", "on", "the", "value", "of", ".", "In", "this", "section", ",", "we", "present", "an", "authenticated", "routing", "mechanism", "based", "on", "the", "well-known", "TinyOS", "routing", ",", "and", "we", "show", "that", "it", "is", "not", "secure", "in", "our", "model", "for", "a", "given", "security", "objective", "function", "representing", "a", "very", "minimal", "security", "requirement", ".", "3.1", "Operation", "of", "an", "authenticated", "routing", "protocol", "Originally", ",", "the", "authors", "of", "TinyOS", "implemented", "a", "very", "simple", "routing", "protocol", ",", "where", "each", "node", "uses", "a", "globally", "unique", "identifier", ".", "The", "base", "station", "periodically", "initiates", "a", "routing", "topology", "discovery", "by", "flooding", "the", "network", "by", "a", "beacon", "message", ".", "Upon", "reception", "of", "the", "first", "beacon", "within", "a", "single", "beaconing", "interval", ",", "each", "sensor", "node", "stores", "the", "identifier", "of", "the", "node", ",", "from", "which", "it", "received", "the", "beacon", ",", "as", "its", "parent", "-LRB-", "aka", ".", "next-hop", "towards", "the", "base", "station", "-RRB-", ",", "and", "then", "re-broadcasts", "the", "beacon", "after", "changing", "the", "sender", "identifier", "to", "its", "own", "identifier", ".", "As", "for", "each", "node", "only", "one", "parent", "is", "stored", ",", "the", "resulted", "routing", "topology", "is", "a", "tree", ".", "Every", "sensor", "node", "receiving", "a", "data", "packet", "forwards", "that", "towards", "the", "base", "station", "by", "sending", "the", "packet", "to", "its", "parent", ".", "A", "lightweight", "cryptographic", "extension", "is", "employed", "in", "-LSB-", "14", "-RSB-", "in", "order", "to", "authenticate", "the", "beacon", "by", "the", "base", "station", ".", "This", "authenticated", "variant", "of", "TinyOS", "routing", "uses", "Tesla", "scheme", "to", "provide", "integrity", "for", "the", "beacon", ";", "each", "key", "is", "disclosed", "by", "the", "next", "beacon", "in", "the", "subsequent", "beaconing", "interval", ".", "We", "remark", "that", "this", "protocol", "has", "only", "been", "defined", "informally", "that", "inspired", "us", "to", "present", "a", "new", "protocol", ",", "which", "provides", "the", "``", "same", "''", "security", "as", "the", "authenticated", "routing", "protocol", "in", "-LSB-", "14", "-RSB-", ",", "but", "due", "to", "its", "simplicity", "it", "fits", "more", "in", "demonstrating", "the", "usage", "of", "our", "model", ".", "Consequently", ",", "the", "presented", "attack", "against", "this", "new", "protocol", "also", "works", "against", "the", "protocol", "in", "-LSB-", "14", "-RSB-", ".", "We", "must", "note", "again", "that", "this", "protocol", "is", "only", "intended", "to", "present", "the", "usefulness", "of", "our", "model", "rather", "than", "to", "be", "considered", "as", "a", "proposal", "of", "a", "new", "sensor", "routing", "protocol", ".", "We", "assume", "that", "the", "base", "station", "B", "has", "a", "public-private", "key", "pair", ",", "where", "the", "public", "key", "is", "denoted", "by", "K", "pub", ".", "Furthermore", ",", "it", "is", "assumed", "that", "each", "sensor", "node", "is", "also", "deployed", "with", "K", "pub", ",", "and", "they", "are", "capable", "to", "perform", "digital", "signature", "verification", "with", "K", "pub", "as", "well", "as", "to", "store", "some", "beacons", "in", "its", "internal", "memory", ".", "We", "note", "that", "B", "never", "relays", "messages", "between", "sensor", "nodes", ".", "Initially", ",", "B", "creates", "a", "beacon", ",", "that", "contains", "a", "constant", "message", "identifier", "BEACON", ",", "a", "randomly", "generated", "number", "rnd", ",", "the", "identifier", "of", "the", "base", "station", "Id", "B", ",", "and", "a", "digital", "signature", "sig", "B", "generated", "on", "the", "previous", "elements", "except", "Id", "B", ".", "Afterwards", ",", "the", "base", "station", "floods", "the", "network", "by", "broadcasting", "this", "beacon", ":", "B", ":", "msg", "1", "=", "-LRB-", "BEACON", ",", "rnd", ",", "Id", "B", ",", "sig", "B", "-RRB-", "Each", "sensor", "node", "X", "receiving", "msg", "1", "checks", "whether", "it", "has", "already", "received", "a", "beacon", "with", "the", "same", "rnd", "in", "conjunction", "with", "a", "correct", "signature", "before", ".", "If", "it", "is", "true", ",", "the", "node", "discards", "msg", "1", ",", "otherwise", "it", "verifies", "sig", "B", ".", "If", "the", "verification", "is", "successful", ",", "then", "X", "sets", "Id", "B", "as", "its", "parent", ",", "stores", "msg", "1", "in", "its", "internal", "memory", ",", "and", "re-broadcasts", "the", "beacon", "by", "changing", "the", "sender", "identifier", "Id", "B", "to", "its", "own", "identifier", "Id", "X", ":", "X", ":", "msg", "2", "=", "-LRB-", "BEACON", ",", "rnd", ",", "Id", "X", ",", "sig", "B", "-RRB-", "If", "the", "signature", "verification", "is", "unsuccessful", ",", "then", "X", "discards", "msg", "1", ".", "Every", "sensor", "node", "receiving", "msg", "2", "performs", "the", "same", "steps", "what", "X", "has", "done", "before", ".", "Optionally", ",", "B", "can", "initiate", "this", "topology", "construction", "periodically", "by", "broadcasting", "a", "new", "beacon", "with", "different", "rnd", ".", "In", "the", "rest", ",", "we", "shortly", "refer", "to", "this", "protocol", "as", "ABEM", "-LRB-", "Authenticated", "Beaconing", "Mechanism", "-RRB-", ".", "3.2", "Formalization", "of", "a", "simple", "attack", "A", "simple", "security", "objective", "is", "to", "guarantee", "the", "correctness", "of", "all", "routing", "entries", "in", "the", "network", ".", "Namely", ",", "it", "is", "desirable", "that", "a", "sender", "node", "v", "i", "is", "always", "able", "to", "reach", "node", "v", "j", ",", "if", "v", "i", "set", "L", "-LRB-", "v", "j", "-RRB-", "as", "its", "parent", "identifier", "earlier", ".", "It", "means", "that", "if", "55", "node", "v", "i", "sets", "node", "L", "-LRB-", "v", "j", "-RRB-", "as", "its", "parent", "identifier", ",", "then", "E", "i", ",", "j", "should", "contain", "a", "finite", "value", ",", "or", "v", "i", "as", "well", "as", "v", "j", "should", "have", "an", "adversarial", "neighboring", "node", "v", "1", "and", "v", "2", ",", "resp.", ",", "such", "that", "E", "i", ",", "k", "+", "1", "and", "E", "k", "+", "2", ",", "j", "are", "finite", "values", ",", "where", "1", "1", ",", "2", "m", "and", "1", "=", "2", "may", "hold", ".", "In", "order", "to", "formalize", "this", "minimal", "security", "requirement", ",", "we", "introduce", "the", "following", "security", "objective", "function", "F", "ABEM", "-LRB-", "conf", ",", "T", "-RRB-", "=", "8", "<", ":", "1", ",", "if", "i", ",", "j", ":", "T", "i", ",", "j", "E", "i", ",", "j", "`", "Q", "m", "=", "1", "E", "i", ",", "k", "+", "+", "Q", "m", "=", "1", "E", "k", "+", ",", "j", "=", "0", "0", ",", "otherwise", "where", "we", "derive", "matrix", "E", "with", "size", "n", "n", "from", "E", ",", "so", "that", "E", "i", ",", "j", "=", "1", ",", "if", "E", "i", ",", "j", "=", ",", "otherwise", "E", "i", ",", "j", "=", "0", ".", "In", "other", "words", ",", "E", "i", ",", "j", "=", "1", ",", "if", "v", "i", "can", "not", "send", "a", "message", "directly", "to", "v", "j", ",", "otherwise", "E", "i", ",", "j", "=", "0", ".", "We", "will", "show", "that", "ABEM", "is", "not", "secure", "in", "our", "model", "for", "security", "objective", "function", "F", "ABEM", ".", "In", "particular", ",", "we", "present", "a", "configuration", "conf", "and", "an", "adversary", "A", ",", "for", "which", "there", "does", "n't", "exist", "any", "ideal-world", "adversary", "A", ",", "such", "that", "Out", "real", ",", "F", "ABEM", "conf", ",", "A", "is", "statistically", "indistinguishable", "from", "Out", "ideal", ",", "F", "ABEM", "conf", ",", "A", ".", "Equivalently", ",", "we", "show", "that", "for", "a", "real-world", "adversary", "A", ",", "F", "ABEM", "-LRB-", "conf", ",", "T", "-RRB-", "=", "0", "with", "a", "probability", "that", "is", "a", "non-negligible", "function", "of", "in", "the", "real-world", "model", ",", "while", "F", "ABEM", "-LRB-", "conf", ",", "T", "-RRB-", "=", "0", "with", "probability", "zero", "for", "every", "ideal-world", "adversary", "A", "in", "the", "ideal-world", "model", ",", "where", "T", "describes", "the", "routing", "topology", "in", "the", "ideal-world", "model", ".", "Moreover", ",", "the", "success", "probability", "of", "the", "real-world", "adversary", "A", "described", "below", "is", "independent", "from", ".", "v", "0", ",", "B", "v", "1", ",", "X", "v", "2", ",", "Y", "v", "1", "=", "v", "3", "v", "0", ",", "B", "v", "1", ",", "X", "v", "2", ",", "Y", "v", "1", "=", "v", "3", "Figure", "3", ":", "A", "simple", "attack", "against", "ABEM", ".", "v", "0", ",", "v", "1", ",", "and", "v", "2", "are", "honest", "nodes", "with", "identifiers", "L", "-LRB-", "v", "0", "-RRB-", "=", "B", ",", "L", "-LRB-", "v", "1", "-RRB-", "=", "X", ",", "and", "L", "-LRB-", "v", "2", "-RRB-", "=", "Y", ",", "whereas", "v", "1", "is", "an", "adversarial", "node", ".", "E", "1,0", ",", "E", "3,0", ",", "E", "2,3", "are", "finite", "values", ",", "and", "E", "3,1", "=", "E", "2,0", "=", "E", "2,1", "=", ".", "Links", "are", "assumed", "to", "be", "symmetric", ",", "i.e.", ",", "E", "i", ",", "j", "=", "E", "j", ",", "i", ".", "The", "configuration", "is", "illustrated", "on", "the", "left-hand", "side", ",", "where", "a", "dashed", "line", "denotes", "a", "direct", "link", ".", "In", "the", "routing", "topology", "of", "the", "real-world", "model", ",", "on", "the", "right-hand", "side", ",", "v", "2", "sets", "X", "as", "its", "parent", "identifier", ",", "however", ",", "E", "2,1", "=", "and", "E", "3,1", "=", ".", "The", "configuration", "conf", "and", "the", "result", "of", "the", "attack", "is", "depicted", "on", "Figure", "3", ".", "We", "assume", "that", "the", "base", "station", "broadcasts", "only", "a", "single", "beacon", "during", "the", "computational", "process", ",", "i.e.", ",", "only", "a", "single", "beaconing", "interval", "is", "analyzed", "in", "our", "model", ".", "At", "the", "beginning", ",", "the", "base", "station", "B", "floods", "the", "network", "by", "a", "beacon", "B", ":", "msg", "1", "=", "-LRB-", "BEACON", ",", "rnd", ",", "B", ",", "sig", "B", "-RRB-", "Both", "adversarial", "node", "v", "1", "and", "honest", "node", "X", "receive", "this", "beacon", ",", "and", "X", "sets", "B", "as", "its", "parent", ",", "since", "the", "verification", "of", "the", "signature", "is", "successful", ".", "X", "modifies", "the", "beacon", "by", "replacing", "sender", "identifier", "B", "to", "X", ",", "and", "broadcasts", "the", "resulted", "beacon", ":", "X", ":", "msg", "2", "=", "-LRB-", "BEACON", ",", "rnd", ",", "X", ",", "sig", "B", "-RRB-", "In", "parallel", ",", "v", "1", "modifies", "the", "beacon", "by", "replacing", "sender", "identifier", "B", "to", "X", ",", "and", "broadcasts", "the", "resulted", "beacon", ":", "v", "1", ":", "msg", "2", "=", "-LRB-", "BEACON", ",", "rnd", ",", "X", ",", "sig", "B", "-RRB-", "Upon", "the", "reception", "of", "msg", "2", ",", "node", "Y", "sets", "X", "as", "its", "parent", ",", "since", "sig", "B", "is", "correct", ".", "In", "the", "real-world", "model", ",", "these", "actions", "result", "T", "2,1", "=", "1", ",", "which", "implies", "that", "F", "ABEM", "-LRB-", "conf", ",", "T", "-RRB-", "=", "0", ".", "On", "the", "contrary", ",", "F", "ABEM", "-LRB-", "conf", ",", "T", "-RRB-", "never", "equals", "to", "0", ",", "where", "T", "represents", "the", "routing", "topology", "in", "the", "ideal-world", "model", ".", "Let", "us", "assume", "that", "F", "ABEM", "-LRB-", "conf", ",", "T", "-RRB-", "=", "0", ",", "which", "means", "that", "T", "1,2", "=", "1", "or", "T", "2,1", "=", "1", ".", "T", "1,2", "=", "1", "is", "only", "possible", ",", "if", "X", "receives", "msg", "3", "=", "-LRB-", "BEACON", ",", "rnd", ",", "Y", ",", "sig", "B", "-RRB-", "However", ",", "it", "yields", "contradiction", ",", "since", "E", "3,1", "=", "E", "2,1", "=", ",", "and", "B", "never", "broadcasts", "msg", "3", ".", "Similarly", ",", "if", "T", "2,1", "=", "1", "then", "Y", "must", "receive", "msg", "2", ",", "which", "means", "that", "v", "1", "must", "broadcast", "msg", "2", ".", "Conversely", ",", "B", "never", "broadcasts", "msg", "2", ",", "and", "E", "3,1", "=", ".", "Therefore", ",", "v", "1", "can", "only", "broadcast", "msg", "2", ",", "if", "he", "successfully", "modifies", "msg", "1", "or", "forges", "msg", "2", ".", "However", ",", "it", "also", "contradicts", "our", "assumption", "that", "the", "ideal-world", "adversary", "can", "not", "modify", "and", "inject", "messages", "in", "the", "ideal-world", "model", ".", "In", "-LSB-", "10", "-RSB-", ",", "the", "authors", "map", "some", "adversary", "capabilities", "and", "some", "feasible", "attacks", "against", "routing", "in", "wireless", "sensor", "networks", ",", "and", "they", "define", "routing", "security", "implicitly", "as", "resistance", "to", "-LRB-", "some", "of", "-RRB-", "these", "attacks", ".", "Hence", ",", "the", "security", "of", "sensor", "routing", "is", "only", "defined", "informally", ",", "and", "the", "countermeasures", "are", "only", "related", "to", "specific", "attacks", ".", "In", "this", "way", ",", "we", "even", "can", "not", "compare", "the", "sensor", "routing", "protocols", "in", "terms", "of", "security", ".", "Another", "problem", "with", "this", "approach", "is", "the", "lack", "of", "a", "formal", "model", ",", "where", "the", "security", "of", "sensor", "routing", "can", "be", "described", "in", "a", "precise", "and", "rigorous", "way", ".", "While", "secure", "messaging", "and", "key-exchange", "protocols", "are", "classical", "and", "well-studied", "problems", "in", "traditional", "networks", "-LSB-", "3", ",", "15", "-RSB-", ",", "formal", "modelling", "of", "secure", "routing", "in", "sensor", "networks", "has", "not", "been", "considered", "so", "far", ".", "The", "adversarial", "nodes", "are", "also", "classified", "into", "the", "groups", "of", "sensor-class", "and", "laptop-class", "nodes", "in", "-LSB-", "10", "-RSB-", ",", "but", "the", "capabilities", "of", "an", "adversarial", "node", "regarding", "message", "manipulations", "are", "not", "discussed", ".", "The", "simulation", "paradigm", "is", "described", "in", "-LSB-", "15", ",", "5", "-RSB-", ".", "These", "models", "were", "mainly", "proposed", "with", "wired", "networks", "in", "mind", "typically", "implemented", "on", "the", "well-known", "Internet", "architecture", ",", "and", "the", "wireless", "context", "is", "not", "focused", "there", ".", "In", "our", "opinion", ",", "the", "multi-hop", "nature", "of", "communications", "is", "an", "inherent", "characteristic", "of", "wireless", "sensor", "networks", ",", "therefore", ",", "it", "should", "be", "explicitly", "modelled", ".", "In", "more", "particular", ",", "the", "broadcast", "nature", "of", "communication", "enables", "a", "party", "to", "overhear", "the", "transmission", "of", "a", "message", "that", "was", "not", "destined", "to", "him", ",", "however", ",", "this", "transmission", "can", "be", "received", "only", "in", "a", "certain", "range", "of", "the", "sender", ".", "The", "size", "of", "this", "range", "is", "determined", "by", "the", "power", "at", "which", "the", "sender", "sent", "the", "message", ".", "Another", "deviation", "from", "-LSB-", "15", "-RSB-", "is", "the", "usage", "of", "the", "security", "objective", "function", "in", "the", "definition", "of", "security", ".", "In", "-LSB-", "15", "-RSB-", ",", "the", "56", "indistinguishability", "is", "defined", "on", "the", "view", "of", "the", "honest", "parties", "-LRB-", "on", "their", "input", ",", "states", ",", "and", "output", "-RRB-", "in", "the", "ideal-world", "and", "in", "the", "real-world", "models", ".", "However", ",", "an", "adversary", "can", "distort", "the", "states", "of", "the", "honest", "parties", "in", "unavoidable", "ways", ",", "and", "hence", ",", "the", "classical", "definition", "would", "be", "too", "strong", "and", "no", "routing", "protocol", "would", "satisfy", "it", ".", "On", "the", "other", "hand", ",", "our", "model", "is", "compliant", "with", "-LSB-", "15", "-RSB-", "considering", "high-level", "connections", "between", "nodes", ".", "In", "-LSB-", "15", "-RSB-", ",", "the", "standard", "cryptographic", "system", "allows", "us", "to", "define", "each", "high-level", "connection", "as", "secure", "-LRB-", "private", "and", "authentic", "-RRB-", ",", "authenticated", "-LRB-", "only", "authentic", "-RRB-", ",", "and", "insecure", "-LRB-", "neither", "private", "nor", "authentic", "-RRB-", ".", "In", "this", "taxonomy", ",", "the", "communication", "channel", "between", "two", "honest", "nodes", "can", "be", "either", "insecure", "or", "secure", "in", "our", "model", ".", "If", "an", "adversarial", "node", "is", "placed", "in", "the", "communication", "range", "of", "one", "of", "the", "communicating", "nodes", ",", "then", "it", "is", "considered", "to", "be", "an", "insecure", "channel", ".", "If", "the", "adversary", "can", "reach", "none", "of", "the", "communicating", "nodes", ",", "the", "channel", "between", "that", "nodes", "is", "hidden", "from", "the", "adversary", ",", "and", "thus", ",", "it", "is", "considered", "to", "be", "secure", ".", "Although", "some", "prior", "works", "-LSB-", "18", ",", "12", "-RSB-", "also", "used", "formal", "techniques", "to", "model", "the", "security", "of", "multi-hop", "routing", "protocols", ",", "these", "ones", "were", "mainly", "proposed", "for", "ad", "hoc", "routing", ".", "Moreover", ",", "the", "model", "proposed", "in", "-LSB-", "12", "-RSB-", "is", "based", "on", "CPAL-ES", ",", "and", "the", "model", "in", "-LSB-", "18", "-RSB-", "is", "similar", "to", "the", "strand", "spaces", "model", ".", "Both", "of", "these", "formal", "techniques", "differ", "from", "the", "simulation", "paradigm", ".", "Our", "work", "is", "primarily", "based", "on", "-LSB-", "4", ",", "1", "-RSB-", ".", "Here", ",", "the", "authors", "also", "use", "the", "simulation", "paradigm", "to", "prove", "the", "security", "of", "routing", "protocols", "in", "wireless", "ad-hoc", "networks", ".", "However", ",", "our", "model", "differs", "from", "the", "models", "in", "-LSB-", "4", ",", "1", "-RSB-", "in", "two", "ways", ":", "Adversary", "model", ":", "The", "adversary", "in", "-LSB-", "4", "-RSB-", "and", "-LSB-", "1", "-RSB-", "is", "assumed", "to", "have", "the", "same", "resources", "and", "communication", "capabilities", "as", "an", "ordinary", "node", "in", "the", "network", ".", "Therefore", ",", "that", "adversary", "model", "deviates", "from", "the", "so-called", "Dolev-Yao", "model", "in", "-LSB-", "6", "-RSB-", ".", "In", "our", "work", ",", "the", "adversary", "also", "uses", "wireless", "devices", "to", "attack", "the", "systems", ",", "and", "it", "is", "reasonable", "to", "assume", "that", "the", "adversary", "can", "interfere", "with", "communications", "only", "within", "its", "power", "range", ".", "The", "adversarial", "nodes", "belonging", "to", "the", "sensor-class", "nodes", "has", "the", "same", "resources", "and", "communication", "capabilities", "as", "an", "ordinary", "sensor", "node", ",", "but", "a", "more", "resourced", "adversarial", "node", "-LRB-", "e.g.", ",", "laptops", "-RRB-", "may", "affect", "the", "overall", "communication", "of", "an", "entire", "part", "of", "the", "network", "depending", "on", "the", "power", "range", "of", "the", "resourced", "adversarial", "device", ".", "That", "resourced", "devices", "also", "make", "the", "adversary", "able", "to", "perform", "more", "sophisticated", "message", "manipulations", ".", "Modelling", "security", "objectives", ":", "In", "ad", "hoc", "networks", ",", "nodes", "construct", "routes", "between", "a", "source", "and", "a", "destination", "-LSB-", "13", ",", "8", "-RSB-", ",", "whereas", "sensor", "nodes", "should", "build", "a", "complete", "routing", "topology", "for", "the", "entire", "network", ".", "In", "case", "of", "sensor", "networks", ",", "the", "only", "destination", "for", "all", "nodes", "is", "the", "base", "station", "-LSB-", "9", "-RSB-", ".", "In", "addition", ",", "sensor", "nodes", "are", "resource", "constrained", ",", "which", "implies", "that", "we", "also", "need", "to", "model", "the", "energy", "consumption", "of", "sensor", "nodes", ",", "since", "several", "attacks", "impacts", "the", "network", "lifetime", ".", "These", "differences", "from", "ad", "hoc", "networks", "has", "yielded", "a", "wide", "range", "of", "sensor", "applications", ",", "and", "thus", ",", "sensor", "routing", "protocols", "-LSB-", "9", "-RSB-", "are", "much", "diverse", "than", "ad", "hoc", "routing", "protocols", ".", "Hence", ",", "the", "security", "objectives", "can", "not", "be", "modelled", "uniformly", "for", "sensor", "routing", "protocols", ".", "In", "this", "paper", ",", "we", "proposed", "a", "formal", "security", "model", "for", "routing", "protocols", "in", "wireless", "sensor", "networks", ".", "Our", "model", "is", "based", "on", "the", "well-known", "simulation", "paradigm", ",", "but", "it", "differs", "from", "previously", "proposed", "models", "in", "several", "important", "aspects", ".", "First", "of", "all", ",", "the", "adversary", "model", "is", "carefully", "adopted", "to", "the", "specific", "characteristics", "of", "wireless", "sensor", "networks", ".", "In", "our", "model", ",", "the", "adversary", "is", "not", "all-powerful", ",", "but", "it", "can", "only", "interfere", "with", "communications", "within", "its", "own", "radio", "range", ".", "A", "second", "important", "contribution", "is", "that", "we", "defined", "the", "output", "of", "the", "dynamic", "models", "that", "represent", "the", "ideal", "and", "the", "real", "operations", "of", "the", "system", "as", "a", "suitable", "function", "of", "the", "routing", "state", "of", "the", "honest", "nodes", ",", "instead", "of", "just", "using", "the", "routing", "state", "itself", "as", "the", "output", ".", "We", "expect", "that", "this", "will", "allow", "us", "to", "model", "different", "types", "of", "routing", "protocols", "in", "a", "common", "framework", ".", "In", "addition", ",", "this", "approach", "hides", "the", "unavoidable", "distortions", "caused", "by", "the", "adversary", "in", "the", "routing", "state", ",", "and", "in", "this", "way", ",", "it", "makes", "our", "definition", "of", "routing", "security", "satisfiable", ".", "As", "an", "illustrative", "example", ",", "we", "considered", "an", "authenticated", "version", "of", "the", "TinyOS", "beaconing", "routing", "protocol", ",", "and", "we", "showed", "how", "an", "attack", "against", "this", "protocol", "can", "be", "represented", "in", "our", "formal", "model", ".", "As", "we", "mentioned", "in", "the", "Introduction", ",", "this", "paper", "is", "a", "workin", "-", "progress", "paper", ".", "In", "particular", ",", "we", "have", "presented", "neither", "a", "new", "secure", "routing", "protocol", "designed", "with", "the", "help", "of", "our", "formal", "model", ",", "nor", "a", "detailed", "security", "proof", "carried", "out", "within", "our", "model", ".", "These", "are", "left", "for", "future", "study", ".", "We", "must", "note", ",", "however", ",", "that", "the", "generality", "of", "the", "simulation", "paradigm", "and", "the", "fact", "that", "we", "could", "represent", "a", "known", "attack", "against", "the", "authenticated", "TinyOS", "protocol", "in", "our", "model", "make", "us", "confident", "that", "we", "are", "on", "the", "right", "track", ".", "The", "work", "described", "in", "this", "paper", "is", "based", "on", "results", "of", "IST", "FP6", "STREP", "UbiSec", "&", "Sens", "-LRB-", "http://www.ist-ubisecsens.org", "-RRB-", ".", "UbiSec", "&", "Sens", "receives", "research", "funding", "from", "the", "European", "Community", "'s", "Sixth", "Framework", "Programme", ".", "Apart", "from", "this", ",", "the", "European", "Commission", "has", "no", "responsibility", "for", "the", "content", "of", "this", "paper", ".", "The", "information", "in", "this", "document", "is", "provided", "as", "is", "and", "no", "guarantee", "or", "warranty", "is", "given", "that", "the", "information", "is", "fit", "for", "any", "particular", "purpose", ".", "The", "user", "thereof", "uses", "the", "information", "at", "its", "sole", "risk", "and", "liability", ".", "The", "work", "presented", "in", "this", "paper", "has", "also", "been", "partially", "supported", "by", "the", "Hungarian", "Scientific", "Research", "Fund", "-LRB-", "contract", "number", "T046664", "-RRB-", ".", "The", "first", "author", "has", "been", "further", "supported", "by", "the", "HSN", "Lab", ".", "The", "second", "author", "has", "been", "supported", "by", "the", "Hungarian", "Ministry", "of", "Education", "-LRB-", "B", "O2003/70", "-RRB-", ".", "-LSB-", "1", "-RSB-", "G.", "Acs", ",", "L.", "Butty", "an", ",", "and", "I.", "Vajda", ".", "Provable", "Security", "of", "On-Demand", "Distance", "Vector", "Routing", "in", "Wireless", "Ad", "Hoc", "Networks", ".", "In", "Proceedings", "of", "the", "Second", "European", "Workshop", "on", "Security", "and", "Privacy", "in", "Ad", "Hoc", "and", "Sensor", "Networks", "-LRB-", "ESAS", "2005", "-RRB-", ",", "July", "2005", ".", "-LSB-", "2", "-RSB-", "G.", "Acs", ",", "L.", "Butty", "an", ",", "and", "I.", "Vajda", ".", "Provably", "Secure", "On-demand", "Source", "Routing", "in", "Mobile", "Ad", "Hoc", "Networks", ".", "To", "appear", "in", "IEEE", "Transactions", "on", "Mobile", "Computing", ".", "-LSB-", "3", "-RSB-", "M.", "Bellare", ",", "R.", "Canetti", ",", "and", "H.", "Krawczyk", ".", "A", "modular", "approach", "to", "the", "design", "and", "analysis", "of", "authentication", "57", "and", "key", "exchange", "protocols", ".", "In", "Proceedings", "of", "the", "ACM", "Symposium", "on", "the", "Theory", "of", "Computing", ",", "1998", ".", "-LSB-", "4", "-RSB-", "L.", "Butty", "an", "and", "I.", "Vajda", ".", "Towards", "provable", "security", "for", "ad", "hoc", "routing", "protocols", ".", "In", "Proceedings", "of", "the", "ACM", "Workshop", "on", "Security", "in", "Ad", "Hoc", "and", "Sensor", "Networks", "-LRB-", "SASN", "-RRB-", ",", "October", "2004", ".", "-LSB-", "5", "-RSB-", "R.", "Canetti", ".", "Universally", "composable", "security", ":", "A", "new", "paradigm", "for", "cryptographic", "protocols", ".", "In", "Proceedings", "of", "the", "42nd", "IEEE", "Symposium", "on", "Foundations", "of", "Computer", "Science", "-LRB-", "FOCS", "-RRB-", ",", "2001", ".", "-LSB-", "6", "-RSB-", "D.", "Dolev", "and", "A.", "C.", "Yao", ".", "On", "the", "Security", "of", "Public", "Key", "Protocols", ".", "In", "IEEE", "Transactions", "on", "Information", "Theory", "29", "-LRB-", "2", "-RRB-", ",", "1983", ".", "-LSB-", "7", "-RSB-", "IEEE", "Standard", "for", "Information", "technology", "--", "Telecommunications", "and", "information", "exchange", "between", "systems", "--", "Local", "and", "metropolitan", "area", "networks", "--", "Specific", "requirements", ".", "Part", "15.4", ":", "Wireless", "Medium", "Access", "Control", "-LRB-", "MAC", "-RRB-", "and", "Physical", "Layer", "-LRB-", "PHY", "-RRB-", "Specifications", "for", "Low-Rate", "Wireless", "Personal", "Area", "Networks", "-LRB-", "LR-WPANs", "-RRB-", ",", "2003", ".", "-LSB-", "8", "-RSB-", "D.", "Johnson", "and", "D.", "Maltz", ".", "Dynamic", "source", "routing", "in", "ad", "hoc", "wireless", "networks", ".", "In", "Mobile", "Computing", ",", "edited", "by", "Tomasz", "Imielinski", "and", "Hank", "Korth", ",", "Chapter", "5", ",", "pages", "153-181", ".", "Kluwer", "Academic", "Publisher", ",", "1996", ".", "-LSB-", "9", "-RSB-", "J.", "N.", "Al-Karaki", "and", "A.", "E.", "Kamal", ".", "Routing", "techniques", "in", "wireless", "sensor", "networks", ":", "a", "survey", ".", "In", "IEEE", "Wireless", "Communications", ",", "Volume", "11", ",", "pp.", "6-28", ",", "2004", ".", "-LSB-", "10", "-RSB-", "C.", "Karlof", ",", "D.", "Wagner", ".", "Secure", "routing", "in", "wireless", "sensor", "networks", ":", "attacks", "and", "countermeasures", ".", "In", "Ad", "Hoc", "Networks", ",", "Volume", "1", ",", "2003", ".", "-LSB-", "11", "-RSB-", "Q.", "Li", ",", "J.", "Aslam", ",", "and", "D.", "Rus", ".", "Hierarchical", "Power-aware", "Routing", "in", "Sensor", "Networks", ".", "In", "Proceedings", "of", "the", "DIMACS", "Workshop", "on", "Pervasive", "Networking", ",", "May", ",", "2001", ".", "-LSB-", "12", "-RSB-", "J.", "Marshall", ".", "An", "Analysis", "of", "the", "Secure", "Routing", "Protocol", "for", "mobile", "ad", "hoc", "network", "route", "discovery", ":", "using", "intuitive", "reasoning", "and", "formal", "verification", "to", "identify", "flaws", ".", "MSc", "thesis", ",", "Department", "of", "Computer", "Science", ",", "Florida", "State", "University", ",", "April", "2003", ".", "-LSB-", "13", "-RSB-", "C.", "Perkins", "and", "E.", "Royer", ".", "Ad", "hoc", "on-demand", "distance", "vector", "routing", ".", "In", "Proceedings", "of", "the", "IEEE", "Workshop", "on", "Mobile", "Computing", "Systems", "and", "Applications", ",", "pp.", "90-100", ",", "February", "1999", ".", "-LSB-", "14", "-RSB-", "A.", "Perrig", ",", "R.", "Szewczyk", ",", "V.", "Wen", ",", "D.", "Culler", ",", "J.", "D.", "Tygar", ".", "SPINS", ":", "Security", "Protocols", "for", "Sensor", "Networks", ".", "In", "Wireless", "Networks", "Journal", "-LRB-", "WINE", "-RRB-", ",", "Volume", "8", ",", "September", "2002", ".", "-LSB-", "15", "-RSB-", "B.", "Pfitzman", "and", "M.", "Waidner", ".", "A", "model", "for", "asynchronous", "reactive", "systems", "and", "its", "application", "to", "secure", "message", "transmission", ".", "In", "Proceedings", "of", "the", "22nd", "IEEE", "Symposium", "on", "Security", "&", "Privacy", ",", "2001", ".", "-LSB-", "16", "-RSB-", "S.", "Singh", ",", "M.", "Woo", ",", "and", "C.", "Raghavendra", ".", "Power-Aware", "Routing", "in", "Mobile", "Ad", "Hoc", "Networks", ".", "In", "Proceedings", "of", "the", "Fourth", "Annual", "ACM/IEEE", "International", "Conference", "on", "Mobile", "Computing", "and", "Networking", "-LRB-", "MobiCom", "'", "98", "-RRB-", ",", "Oct.", "1998", ".", "-LSB-", "17", "-RSB-", "W.", "Xu", ",", "W.", "Trappe", ",", "Y.", "Zhang", "and", "T.", "Wood", ".", "The", "Feasibility", "of", "Launching", "and", "Detecting", "Jamming", "Attacks", "in", "Wireless", "Networks", ".", "In", "Proceedings", "of", "the", "6th", "ACM", "International", "Symposium", "on", "Mobile", "Ad", "Hoc", "Networking", "and", "Computing", "-LRB-", "MobiHoc", "'", "05", "-RRB-", ",", "May", "2005", ".", "-LSB-", "18", "-RSB-", "S.", "Yang", "and", "J.", "Baras", ".", "Modeling", "vulnerabilities", "of", "ad", "hoc", "routing", "protocols", ".", "In", "Proceedings", "of", "the", "ACM", "Workshop", "on", "Security", "of", "Ad", "Hoc", "and", "Sensor", "Networks", ",", "October", "2003", ".", "58"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["provable security", "sensor networks", "routing protocols", "adversary model"], "abstractive_keyphrases": ["simulatability"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "167", "document": ["Remote", "Access", "to", "Large", "Spatial", "Databases", "Enterprises", "in", "the", "public", "and", "private", "sectors", "have", "been", "making", "their", "large", "spatial", "data", "archives", "available", "over", "the", "Internet", ".", "However", ",", "interactive", "work", "with", "such", "large", "volumes", "of", "online", "spatial", "data", "is", "a", "challenging", "task", ".", "We", "propose", "two", "efficient", "approaches", "to", "remote", "access", "to", "large", "spatial", "data", ".", "First", ",", "we", "introduce", "a", "client-server", "architecture", "where", "the", "work", "is", "distributed", "between", "the", "server", "and", "the", "individual", "clients", "for", "spatial", "query", "evaluation", ",", "data", "visualization", ",", "and", "data", "management", ".", "We", "enable", "the", "minimization", "of", "the", "requirements", "for", "system", "resources", "on", "the", "client", "side", "while", "maximizing", "system", "responsiveness", "as", "well", "as", "the", "number", "of", "connections", "one", "server", "can", "handle", "concurrently", ".", "Second", ",", "for", "prolonged", "periods", "of", "access", "to", "large", "online", "data", ",", "we", "introduce", "APPOINT", "-LRB-", "an", "Approach", "for", "Peer-to-Peer", "Offloading", "the", "INTernet", "-RRB-", ".", "This", "is", "a", "centralized", "peer-to-peer", "approach", "that", "helps", "Internet", "users", "transfer", "large", "volumes", "of", "online", "data", "efficiently", ".", "In", "APPOINT", ",", "active", "clients", "of", "the", "client-server", "architecture", "act", "on", "the", "server", "'s", "behalf", "and", "communicate", "with", "each", "other", "to", "decrease", "network", "latency", ",", "improve", "service", "bandwidth", ",", "and", "resolve", "server", "congestions", ".", "C.", "2.4", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "Distributed", "Systems", "--", "Client/server", ",", "Distributed", "applications", ",", "Distributed", "databases", ";", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "--", "Spatial", "databases", "and", "GIS", "This", "work", "was", "supported", "in", "part", "by", "the", "National", "Science", "Foundation", "under", "Grants", "EIA-99-00268", ",", "EIA-99-01636", ",", "EAR-99-05844", ",", "IIS-00-86162", ",", "and", "EIA-00-91474", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "GIS", "'", "02", ",", "November", "8", "9", ",", "2002", ",", "McLean", ",", "Virginia", ",", "USA", ".", "Copyright", "2002", "ACM", "1-58113-591", "-2", "/", "02/0011", "...", "$", "5", ".", "00", ".", "Performance", ",", "Management", "In", "recent", "years", ",", "enterprises", "in", "the", "public", "and", "private", "sectors", "have", "provided", "access", "to", "large", "volumes", "of", "spatial", "data", "over", "the", "Internet", ".", "Interactive", "work", "with", "such", "large", "volumes", "of", "online", "spatial", "data", "is", "a", "challenging", "task", ".", "We", "have", "been", "developing", "an", "interactive", "browser", "for", "accessing", "spatial", "online", "databases", ":", "the", "SAND", "-LRB-", "Spatial", "and", "Non-spatial", "Data", "-RRB-", "Internet", "Browser", ".", "Users", "of", "this", "browser", "can", "interactively", "and", "visually", "manipulate", "spatial", "data", "remotely", ".", "Unfortunately", ",", "interactive", "remote", "access", "to", "spatial", "data", "slows", "to", "a", "crawl", "without", "proper", "data", "access", "mechanisms", ".", "We", "developed", "two", "separate", "methods", "for", "improving", "the", "system", "performance", ",", "together", ",", "form", "a", "dynamic", "network", "infrastructure", "that", "is", "highly", "scalable", "and", "provides", "a", "satisfactory", "user", "experience", "for", "interactions", "with", "large", "volumes", "of", "online", "spatial", "data", ".", "The", "core", "functionality", "responsible", "for", "the", "actual", "database", "operations", "is", "performed", "by", "the", "server-based", "SAND", "system", ".", "SAND", "is", "a", "spatial", "database", "system", "developed", "at", "the", "University", "of", "Maryland", "-LSB-", "12", "-RSB-", ".", "The", "client-side", "SAND", "Internet", "Browser", "provides", "a", "graphical", "user", "interface", "to", "the", "facilities", "of", "SAND", "over", "the", "Internet", ".", "Users", "specify", "queries", "by", "choosing", "the", "desired", "selection", "conditions", "from", "a", "variety", "of", "menus", "and", "dialog", "boxes", ".", "SAND", "Internet", "Browser", "is", "Java-based", ",", "which", "makes", "it", "deployable", "across", "many", "platforms", ".", "In", "addition", ",", "since", "Java", "has", "often", "been", "installed", "on", "target", "computers", "beforehand", ",", "our", "clients", "can", "be", "deployed", "on", "these", "systems", "with", "little", "or", "no", "need", "for", "any", "additional", "software", "installation", "or", "customiza-tion", ".", "The", "system", "can", "start", "being", "utilized", "immediately", "without", "any", "prior", "setup", "which", "can", "be", "extremely", "beneficial", "in", "time-sensitive", "usage", "scenarios", "such", "as", "emergencies", ".", "There", "are", "two", "ways", "to", "deploy", "SAND", ".", "First", ",", "any", "standard", "Web", "browser", "can", "be", "used", "to", "retrieve", "and", "run", "the", "client", "piece", "-LRB-", "SAND", "Internet", "Browser", "-RRB-", "as", "a", "Java", "application", "or", "an", "applet", ".", "This", "way", ",", "users", "across", "various", "platforms", "can", "continuously", "access", "large", "spatial", "data", "on", "a", "remote", "location", "with", "little", "or", "1", "5", "no", "need", "for", "any", "preceding", "software", "installation", ".", "The", "second", "option", "is", "to", "use", "a", "stand-alone", "SAND", "Internet", "Browser", "along", "with", "a", "locally-installed", "Internet-enabled", "database", "management", "system", "-LRB-", "server", "piece", "-RRB-", ".", "In", "this", "case", ",", "the", "SAND", "Internet", "Browser", "can", "still", "be", "utilized", "to", "view", "data", "from", "remote", "locations", ".", "However", ",", "frequently", "accessed", "data", "can", "be", "downloaded", "to", "the", "local", "database", "on", "demand", ",", "and", "subsequently", "accessed", "locally", ".", "Power", "users", "can", "also", "upload", "large", "volumes", "of", "spatial", "data", "back", "to", "the", "remote", "server", "using", "this", "enhanced", "client", ".", "We", "focused", "our", "efforts", "in", "two", "directions", ".", "We", "first", "aimed", "at", "developing", "a", "client-server", "architecture", "with", "efficient", "caching", "methods", "to", "balance", "local", "resources", "on", "one", "side", "and", "the", "significant", "latency", "of", "the", "network", "connection", "on", "the", "other", ".", "The", "low", "bandwidth", "of", "this", "connection", "is", "the", "primary", "concern", "in", "both", "cases", ".", "The", "outcome", "of", "this", "research", "primarily", "addresses", "the", "issues", "of", "our", "first", "type", "of", "usage", "-LRB-", "i.e.", ",", "as", "a", "remote", "browser", "application", "or", "an", "applet", "-RRB-", "for", "our", "browser", "and", "other", "similar", "applications", ".", "The", "second", "direction", "aims", "at", "helping", "users", "that", "wish", "to", "manipulate", "large", "volumes", "of", "online", "data", "for", "prolonged", "periods", ".", "We", "have", "developed", "a", "centralized", "peer-to", "-", "peer", "approach", "to", "provide", "the", "users", "with", "the", "ability", "to", "transfer", "large", "volumes", "of", "data", "-LRB-", "i.e.", ",", "whole", "data", "sets", "to", "the", "local", "database", "-RRB-", "more", "efficiently", "by", "better", "utilizing", "the", "distributed", "network", "resources", "among", "active", "clients", "of", "a", "client-server", "architecture", ".", "We", "call", "this", "architecture", "APPOINT", "-", "Approach", "for", "Peer-to-Peer", "Offloading", "the", "INTernet", ".", "The", "results", "of", "this", "research", "addresses", "primarily", "the", "issues", "of", "the", "second", "type", "of", "usage", "for", "our", "SAND", "Internet", "Browser", "-LRB-", "i.e.", ",", "as", "a", "stand-alone", "application", "-RRB-", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "describes", "our", "client-server", "approach", "in", "more", "detail", ".", "Section", "3", "focuses", "on", "APPOINT", ",", "our", "peer-to-peer", "approach", ".", "Section", "4", "discusses", "our", "work", "in", "relation", "to", "existing", "work", ".", "Section", "5", "outlines", "a", "sample", "SAND", "Internet", "Browser", "scenario", "for", "both", "of", "our", "remote", "access", "approaches", ".", "Section", "6", "contains", "concluding", "remarks", "as", "well", "as", "future", "research", "directions", ".", "Traditionally", ",", "Geographic", "Information", "Systems", "-LRB-", "GIS", "-RRB-", "such", "as", "ArcInfo", "from", "ESRI", "-LSB-", "2", "-RSB-", "and", "many", "spatial", "databases", "are", "designed", "to", "be", "stand-alone", "products", ".", "The", "spatial", "database", "is", "kept", "on", "the", "same", "computer", "or", "local", "area", "network", "from", "where", "it", "is", "visualized", "and", "queried", ".", "This", "architecture", "allows", "for", "instantaneous", "transfer", "of", "large", "amounts", "of", "data", "between", "the", "spatial", "database", "and", "the", "visualization", "module", "so", "that", "it", "is", "perfectly", "reasonable", "to", "use", "large-bandwidth", "protocols", "for", "communication", "between", "them", ".", "There", "are", "however", "many", "applications", "where", "a", "more", "distributed", "approach", "is", "desirable", ".", "In", "these", "cases", ",", "the", "database", "is", "maintained", "in", "one", "location", "while", "users", "need", "to", "work", "with", "it", "from", "possibly", "distant", "sites", "over", "the", "network", "-LRB-", "e.g.", ",", "the", "Internet", "-RRB-", ".", "These", "connections", "can", "be", "far", "slower", "and", "less", "reliable", "than", "local", "area", "networks", "and", "thus", "it", "is", "desirable", "to", "limit", "the", "data", "flow", "between", "the", "database", "-LRB-", "server", "-RRB-", "and", "the", "visualization", "unit", "-LRB-", "client", "-RRB-", "in", "order", "to", "get", "a", "timely", "response", "from", "the", "system", ".", "Our", "client-server", "approach", "-LRB-", "Figure", "1", "-RRB-", "allows", "the", "actual", "database", "engine", "to", "be", "run", "in", "a", "central", "location", "maintained", "by", "spatial", "database", "experts", ",", "while", "end", "users", "acquire", "a", "Java-based", "client", "component", "that", "provides", "them", "with", "a", "gateway", "into", "the", "SAND", "spatial", "database", "engine", ".", "Our", "client", "is", "more", "than", "a", "simple", "image", "viewer", ".", "Instead", ",", "it", "operates", "on", "vector", "data", "allowing", "the", "client", "to", "execute", "many", "operations", "such", "as", "zooming", "or", "locational", "queries", "locally", ".", "In", "Figure", "1", ":", "SAND", "Internet", "Browser", "--", "Client-Server", "architecture", ".", "essence", ",", "a", "simple", "spatial", "database", "engine", "is", "run", "on", "the", "client", ".", "This", "database", "keeps", "a", "copy", "of", "a", "subset", "of", "the", "whole", "database", "whose", "full", "version", "is", "maintained", "on", "the", "server", ".", "This", "is", "a", "concept", "similar", "to", "`", "caching", "'", ".", "In", "our", "case", ",", "the", "client", "acts", "as", "a", "lightweight", "server", "in", "that", "given", "data", ",", "it", "evaluates", "queries", "and", "provides", "the", "visualization", "module", "with", "objects", "to", "be", "displayed", ".", "It", "initiates", "communication", "with", "the", "server", "only", "in", "cases", "where", "it", "does", "not", "have", "enough", "data", "stored", "locally", ".", "Since", "the", "locally", "run", "database", "is", "only", "updated", "when", "additional", "or", "newer", "data", "is", "needed", ",", "our", "architecture", "allows", "the", "system", "to", "minimize", "the", "network", "traffic", "between", "the", "client", "and", "the", "server", "when", "executing", "the", "most", "common", "user-side", "operations", "such", "as", "zooming", "and", "panning", ".", "In", "fact", ",", "as", "long", "as", "the", "user", "explores", "one", "region", "at", "a", "time", "-LRB-", "i.e.", ",", "he", "or", "she", "is", "not", "panning", "all", "over", "the", "database", "-RRB-", ",", "no", "additional", "data", "needs", "to", "be", "retrieved", "after", "the", "initial", "population", "of", "the", "client-side", "database", ".", "This", "makes", "the", "system", "much", "more", "responsive", "than", "the", "Web", "mapping", "services", ".", "Due", "to", "the", "complexity", "of", "evaluating", "arbitrary", "queries", "-LRB-", "i.e.", ",", "more", "complex", "queries", "than", "window", "queries", "that", "are", "needed", "for", "database", "visualization", "-RRB-", ",", "we", "do", "not", "perform", "user-specified", "queries", "on", "the", "client", ".", "All", "user", "queries", "are", "still", "evaluated", "on", "the", "server", "side", "and", "the", "results", "are", "downloaded", "onto", "the", "client", "for", "display", ".", "However", ",", "assuming", "that", "the", "queries", "are", "selective", "enough", "-LRB-", "i.e.", ",", "there", "are", "far", "fewer", "elements", "returned", "from", "the", "query", "than", "the", "number", "of", "elements", "in", "the", "database", "-RRB-", ",", "the", "response", "delay", "is", "usually", "within", "reasonable", "limits", ".", "2.1", "Client-Server", "Communication", "As", "mentioned", "above", ",", "the", "SAND", "Internet", "Browser", "is", "a", "client", "piece", "of", "the", "remotely", "accessible", "spatial", "database", "server", "built", "around", "the", "SAND", "kernel", ".", "In", "order", "to", "communicate", "with", "the", "server", ",", "whose", "application", "programming", "interface", "-LRB-", "API", "-RRB-", "is", "a", "Tcl-based", "scripting", "language", ",", "a", "servlet", "specifically", "designed", "to", "interface", "the", "SAND", "Internet", "Browser", "with", "the", "SAND", "kernel", "is", "required", "on", "the", "server", "side", ".", "This", "servlet", "listens", "on", "a", "given", "port", "of", "the", "server", "for", "incoming", "requests", "from", "the", "client", ".", "It", "translates", "these", "requests", "into", "the", "SAND-Tcl", "language", ".", "Next", ",", "it", "transmits", "these", "SAND-Tcl", "commands", "or", "scripts", "to", "the", "SAND", "kernel", ".", "After", "results", "are", "provided", "by", "the", "kernel", ",", "the", "servlet", "fetches", "and", "processes", "them", ",", "and", "then", "sends", "those", "results", "back", "to", "the", "originating", "client", ".", "Once", "the", "Java", "servlet", "is", "launched", ",", "it", "waits", "for", "a", "client", "to", "initiate", "a", "connection", ".", "It", "handles", "both", "requests", "for", "the", "actual", "client", "Java", "code", "-LRB-", "needed", "when", "the", "client", "is", "run", "as", "an", "applet", "-RRB-", "and", "the", "SAND", "traffic", ".", "When", "the", "client", "piece", "is", "launched", ",", "it", "connects", "back", "to", "the", "SAND", "servlet", ",", "the", "communication", "is", "driven", "by", "the", "client", "piece", ";", "the", "server", "only", "responds", "to", "the", "client", "'s", "queries", ".", "The", "client", "initiates", "a", "transaction", "by", "6", "sending", "a", "query", ".", "The", "Java", "servlet", "parses", "the", "query", "and", "creates", "a", "corresponding", "SAND-Tcl", "expression", "or", "script", "in", "the", "SAND", "kernel", "'s", "native", "format", ".", "It", "is", "then", "sent", "to", "the", "kernel", "for", "evaluation", "or", "execution", ".", "The", "kernel", "'s", "response", "naturally", "depends", "on", "the", "query", "and", "can", "be", "a", "boolean", "value", ",", "a", "number", "or", "a", "string", "representing", "a", "value", "-LRB-", "e.g.", ",", "a", "default", "color", "-RRB-", "or", ",", "a", "whole", "tuple", "-LRB-", "e.g.", ",", "in", "response", "to", "a", "nearest", "tuple", "query", "-RRB-", ".", "If", "a", "script", "was", "sent", "to", "the", "kernel", "-LRB-", "e.g.", ",", "requesting", "all", "the", "tuples", "matching", "some", "criteria", "-RRB-", ",", "then", "an", "arbitrary", "amount", "of", "data", "can", "be", "returned", "by", "the", "SAND", "server", ".", "In", "this", "case", ",", "the", "data", "is", "first", "compressed", "before", "it", "is", "sent", "over", "the", "network", "to", "the", "client", ".", "The", "data", "stream", "gets", "decompressed", "at", "the", "client", "before", "the", "results", "are", "parsed", ".", "Notice", ",", "that", "if", "another", "spatial", "database", "was", "to", "be", "used", "instead", "of", "the", "SAND", "kernel", ",", "then", "only", "a", "simple", "modification", "to", "the", "servlet", "would", "need", "to", "be", "made", "in", "order", "for", "the", "SAND", "Internet", "Browser", "to", "function", "properly", ".", "In", "particular", ",", "the", "queries", "sent", "by", "the", "client", "would", "need", "to", "be", "recoded", "into", "another", "query", "language", "which", "is", "native", "to", "this", "different", "spatial", "database", ".", "The", "format", "of", "the", "protocol", "used", "for", "communication", "between", "the", "servlet", "and", "the", "client", "is", "unaffected", ".", "Many", "users", "may", "want", "to", "work", "on", "a", "complete", "spatial", "data", "set", "for", "a", "prolonged", "period", "of", "time", ".", "In", "this", "case", ",", "making", "an", "initial", "investment", "of", "downloading", "the", "whole", "data", "set", "may", "be", "needed", "to", "guarantee", "a", "satisfactory", "session", ".", "Unfortunately", ",", "spatial", "data", "tends", "to", "be", "large", ".", "A", "few", "download", "requests", "to", "a", "large", "data", "set", "from", "a", "set", "of", "idle", "clients", "waiting", "to", "be", "served", "can", "slow", "the", "server", "to", "a", "crawl", ".", "This", "is", "due", "to", "the", "fact", "that", "the", "common", "client-server", "approach", "to", "transferring", "data", "between", "the", "two", "ends", "of", "a", "connection", "assumes", "a", "designated", "role", "for", "each", "one", "of", "the", "ends", "-LRB-", "i.e", ",", "some", "clients", "and", "a", "server", "-RRB-", ".", "We", "built", "APPOINT", "as", "a", "centralized", "peer-to-peer", "system", "to", "demonstrate", "our", "approach", "for", "improving", "the", "common", "client-server", "systems", ".", "A", "server", "still", "exists", ".", "There", "is", "a", "central", "source", "for", "the", "data", "and", "a", "decision", "mechanism", "for", "the", "service", ".", "The", "environment", "still", "functions", "as", "a", "client-server", "environment", "under", "many", "circumstances", ".", "Yet", ",", "unlike", "many", "common", "client-server", "environments", ",", "APPOINT", "maintains", "more", "information", "about", "the", "clients", ".", "This", "includes", ",", "inventories", "of", "what", "each", "client", "downloads", ",", "their", "availabilities", ",", "etc.", ".", "When", "the", "client-server", "service", "starts", "to", "perform", "poorly", "or", "a", "request", "for", "a", "data", "item", "comes", "from", "a", "client", "with", "a", "poor", "connection", "to", "the", "server", ",", "APPOINT", "can", "start", "appointing", "appropriate", "active", "clients", "of", "the", "system", "to", "serve", "on", "behalf", "of", "the", "server", ",", "i.e.", ",", "clients", "who", "have", "already", "volunteered", "their", "services", "and", "can", "take", "on", "the", "role", "of", "peers", "-LRB-", "hence", ",", "moving", "from", "a", "client-server", "scheme", "to", "a", "peer-to-peer", "scheme", "-RRB-", ".", "The", "directory", "service", "for", "the", "active", "clients", "is", "still", "performed", "by", "the", "server", "but", "the", "server", "no", "longer", "serves", "all", "of", "the", "requests", ".", "In", "this", "scheme", ",", "clients", "are", "used", "mainly", "for", "the", "purpose", "of", "sharing", "their", "networking", "resources", "rather", "than", "introducing", "new", "content", "and", "hence", "they", "help", "offload", "the", "server", "and", "scale", "up", "the", "service", ".", "The", "existence", "of", "a", "server", "is", "simpler", "in", "terms", "of", "management", "of", "dynamic", "peers", "in", "comparison", "to", "pure", "peer-to", "-", "peer", "approaches", "where", "a", "flood", "of", "messages", "to", "discover", "who", "is", "still", "active", "in", "the", "system", "should", "be", "used", "by", "each", "peer", "that", "needs", "to", "make", "a", "decision", ".", "The", "server", "is", "also", "the", "main", "source", "of", "data", "and", "under", "regular", "circumstances", "it", "may", "not", "forward", "the", "service", ".", "Data", "is", "assumed", "to", "be", "formed", "of", "files", ".", "A", "single", "file", "forms", "the", "atomic", "means", "of", "communication", ".", "APPOINT", "optimizes", "requests", "with", "respect", "to", "these", "atomic", "requests", ".", "Frequently", "accessed", "data", "sets", "are", "replicated", "as", "a", "byproduct", "of", "having", "been", "requested", "by", "a", "large", "number", "of", "users", ".", "This", "opens", "up", "the", "potential", "for", "bypassing", "the", "server", "in", "future", "downloads", "for", "the", "data", "by", "other", "users", "as", "there", "are", "now", "many", "new", "points", "of", "access", "to", "it", ".", "Bypassing", "the", "server", "is", "useful", "when", "the", "server", "'s", "bandwidth", "is", "limited", ".", "Existence", "of", "a", "server", "assures", "that", "unpopular", "data", "is", "also", "available", "at", "all", "times", ".", "The", "service", "depends", "on", "the", "availability", "of", "the", "server", ".", "The", "server", "is", "now", "more", "resilient", "to", "congestion", "as", "the", "service", "is", "more", "scalable", ".", "Backups", "and", "other", "maintenance", "activities", "are", "already", "being", "performed", "on", "the", "server", "and", "hence", "no", "extra", "administrative", "effort", "is", "needed", "for", "the", "dynamic", "peers", ".", "If", "a", "peer", "goes", "down", ",", "no", "extra", "precautions", "are", "taken", ".", "In", "fact", ",", "APPOINT", "does", "not", "require", "any", "additional", "resources", "from", "an", "already", "existing", "client-server", "environment", "but", ",", "instead", ",", "expands", "its", "capability", ".", "The", "peers", "simply", "get", "on", "to", "or", "get", "off", "from", "a", "table", "on", "the", "server", ".", "Uploading", "data", "is", "achieved", "in", "a", "similar", "manner", "as", "downloading", "data", ".", "For", "uploads", ",", "the", "active", "clients", "can", "again", "be", "utilized", ".", "Users", "can", "upload", "their", "data", "to", "a", "set", "of", "peers", "other", "than", "the", "server", "if", "the", "server", "is", "busy", "or", "resides", "in", "a", "distant", "location", ".", "Eventually", "the", "data", "is", "propagated", "to", "the", "server", ".", "All", "of", "the", "operations", "are", "performed", "in", "a", "transparent", "fashion", "to", "the", "clients", ".", "Upon", "initial", "connection", "to", "the", "server", ",", "they", "can", "be", "queried", "as", "to", "whether", "or", "not", "they", "want", "to", "share", "their", "idle", "networking", "time", "and", "disk", "space", ".", "The", "rest", "of", "the", "operations", "follow", "transparently", "after", "the", "initial", "contact", ".", "APPOINT", "works", "on", "the", "application", "layer", "but", "not", "on", "lower", "layers", ".", "This", "achieves", "platform", "independence", "and", "easy", "deploy-ment", "of", "the", "system", ".", "APPOINT", "is", "not", "a", "replacement", "but", "an", "addition", "to", "the", "current", "client-server", "architectures", ".", "We", "developed", "a", "library", "of", "function", "calls", "that", "when", "placed", "in", "a", "client-server", "architecture", "starts", "the", "service", ".", "We", "are", "developing", "advanced", "peer", "selection", "schemes", "that", "incorporate", "the", "location", "of", "active", "clients", ",", "bandwidth", "among", "active", "clients", ",", "data-size", "to", "be", "transferred", ",", "load", "on", "active", "clients", ",", "and", "availability", "of", "active", "clients", "to", "form", "a", "complete", "means", "of", "selecting", "the", "best", "clients", "that", "can", "become", "efficient", "alternatives", "to", "the", "server", ".", "With", "APPOINT", "we", "are", "defining", "a", "very", "simple", "API", "that", "could", "be", "used", "within", "an", "existing", "client-server", "system", "easily", ".", "Instead", "of", "denial", "of", "service", "or", "a", "slow", "connection", ",", "this", "API", "can", "be", "utilized", "to", "forward", "the", "service", "appropriately", ".", "The", "API", "for", "the", "server", "side", "is", ":", "start", "-LRB-", "serverPortNo", "-RRB-", "makeFileAvailable", "-LRB-", "file", ",", "location", ",", "boolean", "-RRB-", "callback", "receivedFile", "-LRB-", "file", ",", "location", "-RRB-", "callback", "errorReceivingFile", "-LRB-", "file", ",", "location", ",", "error", "-RRB-", "stop", "-LRB-", "-RRB-", "Similarly", "the", "API", "for", "the", "client", "side", "is", ":", "start", "-LRB-", "clientPortNo", ",", "serverPortNo", ",", "serverAddress", "-RRB-", "makeFileAvailable", "-LRB-", "file", ",", "location", ",", "boolean", "-RRB-", "receiveFile", "-LRB-", "file", ",", "location", "-RRB-", "sendFile", "-LRB-", "file", ",", "location", "-RRB-", "stop", "-LRB-", "-RRB-", "The", "server", ",", "after", "starting", "the", "APPOINT", "service", ",", "can", "make", "all", "of", "the", "data", "files", "available", "to", "the", "clients", "by", "using", "the", "makeFileAvailable", "method", ".", "This", "will", "enable", "APPOINT", "to", "treat", "the", "server", "as", "one", "of", "the", "peers", ".", "The", "two", "callback", "methods", "of", "the", "server", "are", "invoked", "when", "a", "file", "is", "received", "from", "a", "client", ",", "or", "when", "an", "error", "is", "encountered", "while", "receiving", "a", "file", "from", "a", "client", ".", "APPOINT", "guar-7", "Figure", "2", ":", "The", "localization", "operation", "in", "APPOINT", ".", "antees", "that", "at", "least", "one", "of", "the", "callbacks", "will", "be", "called", "so", "that", "the", "user", "-LRB-", "who", "may", "not", "be", "online", "anymore", "-RRB-", "can", "always", "be", "notified", "-LRB-", "i.e.", ",", "via", "email", "-RRB-", ".", "Clients", "localizing", "large", "data", "files", "can", "make", "these", "files", "available", "to", "the", "public", "by", "using", "the", "makeFileAvailable", "method", "on", "the", "client", "side", ".", "For", "example", ",", "in", "our", "SAND", "Internet", "Browser", ",", "we", "have", "the", "localization", "of", "spatial", "data", "as", "a", "function", "that", "can", "be", "chosen", "from", "our", "menus", ".", "This", "functionality", "enables", "users", "to", "download", "data", "sets", "completely", "to", "their", "local", "disks", "before", "starting", "their", "queries", "or", "analysis", ".", "In", "our", "implementation", ",", "we", "have", "calls", "to", "the", "APPOINT", "service", "both", "on", "the", "client", "and", "the", "server", "sides", "as", "mentioned", "above", ".", "Hence", ",", "when", "a", "localization", "request", "comes", "to", "the", "SAND", "Internet", "Browser", ",", "the", "browser", "leaves", "the", "decisions", "to", "optimally", "find", "and", "localize", "a", "data", "set", "to", "the", "APPOINT", "service", ".", "Our", "server", "also", "makes", "its", "data", "files", "available", "over", "APPOINT", ".", "The", "mechanism", "for", "the", "localization", "operation", "is", "shown", "with", "more", "details", "from", "the", "APPOINT", "protocols", "in", "Figure", "2", ".", "The", "upload", "operation", "is", "performed", "in", "a", "similar", "fashion", ".", "There", "has", "been", "a", "substantial", "amount", "of", "research", "on", "remote", "access", "to", "spatial", "data", ".", "One", "specific", "approach", "has", "been", "adopted", "by", "numerous", "Web-based", "mapping", "services", "-LRB-", "MapQuest", "-LSB-", "5", "-RSB-", ",", "MapsOnUs", "-LSB-", "6", "-RSB-", ",", "etc.", "-RRB-", ".", "The", "goal", "in", "this", "approach", "is", "to", "enable", "remote", "users", ",", "typically", "only", "equipped", "with", "standard", "Web", "browsers", ",", "to", "access", "the", "company", "'s", "spatial", "database", "server", "and", "retrieve", "information", "in", "the", "form", "of", "pictorial", "maps", "from", "them", ".", "The", "solution", "presented", "by", "most", "of", "these", "vendors", "is", "based", "on", "performing", "all", "the", "calculations", "on", "the", "server", "side", "and", "transferring", "only", "bitmaps", "that", "represent", "results", "of", "user", "queries", "and", "commands", ".", "Although", "the", "advantage", "of", "this", "solution", "is", "the", "minimization", "of", "both", "hardware", "and", "software", "resources", "on", "the", "client", "site", ",", "the", "resulting", "product", "has", "severe", "limitations", "in", "terms", "of", "available", "functionality", "and", "response", "time", "-LRB-", "each", "user", "action", "results", "in", "a", "new", "bitmap", "being", "transferred", "to", "the", "client", "-RRB-", ".", "Work", "described", "in", "-LSB-", "9", "-RSB-", "examines", "a", "client-server", "architecture", "for", "viewing", "large", "images", "that", "operates", "over", "a", "low-bandwidth", "network", "connection", ".", "It", "presents", "a", "technique", "based", "on", "wavelet", "transformations", "that", "allows", "the", "minimization", "of", "the", "amount", "of", "data", "needed", "to", "be", "transferred", "over", "the", "network", "between", "the", "server", "and", "the", "client", ".", "In", "this", "case", ",", "while", "the", "server", "holds", "the", "full", "representation", "of", "the", "large", "image", ",", "only", "a", "limited", "amount", "of", "data", "needs", "to", "be", "transferred", "to", "the", "client", "to", "enable", "it", "to", "display", "a", "currently", "requested", "view", "into", "the", "image", ".", "On", "the", "client", "side", ",", "the", "image", "is", "reconstructed", "into", "a", "pyramid", "representation", "to", "speed", "up", "zooming", "and", "panning", "operations", ".", "Both", "the", "client", "and", "the", "server", "keep", "a", "common", "mask", "that", "indicates", "what", "parts", "of", "the", "image", "are", "available", "on", "the", "client", "and", "what", "needs", "to", "be", "requested", ".", "This", "also", "allows", "dropping", "unnecessary", "parts", "of", "the", "image", "from", "the", "main", "memory", "on", "the", "server", ".", "Other", "related", "work", "has", "been", "reported", "in", "-LSB-", "16", "-RSB-", "where", "a", "client-server", "architecture", "is", "described", "that", "is", "designed", "to", "provide", "end", "users", "with", "access", "to", "a", "server", ".", "It", "is", "assumed", "that", "this", "data", "server", "manages", "vast", "databases", "that", "are", "impractical", "to", "be", "stored", "on", "individual", "clients", ".", "This", "work", "blends", "raster", "data", "management", "-LRB-", "stored", "in", "pyramids", "-LSB-", "22", "-RSB-", "-RRB-", "with", "vector", "data", "stored", "in", "quadtrees", "-LSB-", "19", ",", "20", "-RSB-", ".", "For", "our", "peer-to-peer", "transfer", "approach", "-LRB-", "APPOINT", "-RRB-", ",", "Nap-ster", "is", "the", "forefather", "where", "a", "directory", "service", "is", "centralized", "on", "a", "server", "and", "users", "exchange", "music", "files", "that", "they", "have", "stored", "on", "their", "local", "disks", ".", "Our", "application", "domain", ",", "where", "the", "data", "is", "already", "freely", "available", "to", "the", "public", ",", "forms", "a", "prime", "candidate", "for", "such", "a", "peer-to-peer", "approach", ".", "Gnutella", "is", "a", "pure", "-LRB-", "decentralized", "-RRB-", "peer-to-peer", "file", "exchange", "system", ".", "Unfortunately", ",", "it", "suffers", "from", "scalability", "issues", ",", "i.e.", ",", "floods", "of", "messages", "between", "peers", "in", "order", "to", "map", "connectivity", "in", "the", "system", "are", "required", ".", "Other", "systems", "followed", "these", "popular", "systems", ",", "each", "addressing", "a", "different", "flavor", "of", "sharing", "over", "the", "Internet", ".", "Many", "peer-to-peer", "storage", "systems", "have", "also", "recently", "emerged", ".", "PAST", "-LSB-", "18", "-RSB-", ",", "Eternity", "Service", "-LSB-", "7", "-RSB-", ",", "CFS", "-LSB-", "10", "-RSB-", ",", "and", "OceanStore", "-LSB-", "15", "-RSB-", "are", "some", "peer-to-peer", "storage", "systems", ".", "Some", "of", "these", "systems", "have", "focused", "on", "anonymity", "while", "others", "have", "focused", "on", "persistence", "of", "storage", ".", "Also", ",", "other", "approaches", ",", "like", "SETI@Home", "-LSB-", "21", "-RSB-", ",", "made", "other", "resources", ",", "such", "as", "idle", "CPUs", ",", "work", "together", "over", "the", "Internet", "to", "solve", "large", "scale", "computational", "problems", ".", "Our", "goal", "is", "different", "than", "these", "approaches", ".", "With", "APPOINT", ",", "we", "want", "to", "improve", "existing", "client-server", "systems", "in", "terms", "of", "performance", "by", "using", "idle", "networking", "resources", "among", "active", "clients", ".", "Hence", ",", "other", "issues", "like", "anonymity", ",", "decentralization", ",", "and", "persistence", "of", "storage", "were", "less", "important", "in", "our", "decisions", ".", "Confirming", "the", "authenticity", "of", "the", "indirectly", "delivered", "data", "sets", "is", "not", "yet", "addressed", "with", "APPOINT", ".", "We", "want", "to", "expand", "our", "research", ",", "in", "the", "future", ",", "to", "address", "this", "issue", ".", "From", "our", "perspective", ",", "although", "APPOINT", "employs", "some", "of", "the", "techniques", "used", "in", "peer-to-peer", "systems", ",", "it", "is", "also", "closely", "related", "to", "current", "Web", "caching", "architectures", ".", "Squirrel", "-LSB-", "13", "-RSB-", "forms", "the", "middle", "ground", ".", "It", "creates", "a", "pure", "peer-to-peer", "collaborative", "Web", "cache", "among", "the", "Web", "browser", "caches", "of", "the", "machines", "in", "a", "local-area", "network", ".", "Except", "for", "this", "recent", "peer-to-peer", "approach", ",", "Web", "caching", "is", "mostly", "a", "well-studied", "topic", "in", "the", "realm", "of", "server/proxy", "level", "caching", "-LSB-", "8", ",", "11", ",", "14", ",", "17", "-RSB-", ".", "Collaborative", "Web", "caching", "systems", ",", "the", "most", "relevant", "of", "these", "for", "our", "research", ",", "focus", "on", "creating", "either", "a", "hierarchical", ",", "hash-based", ",", "central", "directory-based", ",", "or", "multicast-based", "caching", "schemes", ".", "We", "do", "not", "compete", "with", "these", "approaches", ".", "In", "fact", ",", "APPOINT", "can", "work", "in", "tandem", "with", "collaborative", "Web", "caching", "if", "they", "are", "deployed", "together", ".", "We", "try", "to", "address", "the", "situation", "where", "a", "request", "arrives", "at", "a", "server", ",", "meaning", "all", "the", "caches", "report", "a", "miss", ".", "Hence", ",", "the", "point", "where", "the", "server", "is", "reached", "can", "be", "used", "to", "take", "a", "central", "decision", "but", "then", "the", "actual", "service", "request", "can", "be", "forwarded", "to", "a", "set", "of", "active", "clients", ",", "i.e.", ",", "the", "down-8", "load", "and", "upload", "operations", ".", "Cache", "misses", "are", "especially", "common", "in", "the", "type", "of", "large", "data-based", "services", "on", "which", "we", "are", "working", ".", "Most", "of", "the", "Web", "caching", "schemes", "that", "are", "in", "use", "today", "employ", "a", "replacement", "policy", "that", "gives", "a", "priority", "to", "replacing", "the", "largest", "sized", "items", "over", "smaller-sized", "ones", ".", "Hence", ",", "these", "policies", "would", "lead", "to", "the", "immediate", "replacement", "of", "our", "relatively", "large", "data", "files", "even", "though", "they", "may", "be", "used", "frequently", ".", "In", "addition", ",", "in", "our", "case", ",", "the", "user", "community", "that", "accesses", "a", "certain", "data", "file", "may", "also", "be", "very", "dispersed", "from", "a", "network", "point", "of", "view", "and", "thus", "can", "not", "take", "advantage", "of", "any", "of", "the", "caching", "schemes", ".", "Finally", ",", "none", "of", "the", "Web", "caching", "methods", "address", "the", "symmetric", "issue", "of", "large", "data", "uploads", ".", "FedStats", "-LSB-", "1", "-RSB-", "is", "an", "online", "source", "that", "enables", "ordinary", "citizens", "access", "to", "official", "statistics", "of", "numerous", "federal", "agencies", "without", "knowing", "in", "advance", "which", "agency", "produced", "them", ".", "We", "are", "using", "a", "FedStats", "data", "set", "as", "a", "testbed", "for", "our", "work", ".", "Our", "goal", "is", "to", "provide", "more", "power", "to", "the", "users", "of", "FedStats", "by", "utilizing", "the", "SAND", "Internet", "Browser", ".", "As", "an", "example", ",", "we", "looked", "at", "two", "data", "files", "corresponding", "to", "Environmen-tal", "Protection", "Agency", "-LRB-", "EPA", "-RRB-", "-", "regulated", "facilities", "that", "have", "chlorine", "and", "arsenic", ",", "respectively", ".", "For", "each", "file", ",", "we", "had", "the", "following", "information", "available", ":", "EPA-ID", ",", "name", ",", "street", ",", "city", ",", "state", ",", "zip", "code", ",", "latitude", ",", "longitude", ",", "followed", "by", "flags", "to", "indicate", "if", "that", "facility", "is", "in", "the", "following", "EPA", "programs", ":", "Hazardous", "Waste", ",", "Wastewater", "Discharge", ",", "Air", "Emissions", ",", "Abandoned", "Toxic", "Waste", "Dump", ",", "and", "Active", "Toxic", "Release", ".", "We", "put", "this", "data", "into", "a", "SAND", "relation", "where", "the", "spatial", "attribute", "`", "location", "'", "corresponds", "to", "the", "latitude", "and", "longitude", ".", "Some", "queries", "that", "can", "be", "handled", "with", "our", "system", "on", "this", "data", "include", ":", "1", ".", "Find", "all", "EPA-regulated", "facilities", "that", "have", "arsenic", "and", "participate", "in", "the", "Air", "Emissions", "program", ",", "and", ":", "-LRB-", "a", "-RRB-", "Lie", "in", "Georgia", "to", "Illinois", ",", "alphabetically", ".", "-LRB-", "b", "-RRB-", "Lie", "within", "Arkansas", "or", "30", "miles", "within", "its", "border", ".", "-LRB-", "c", "-RRB-", "Lie", "within", "30", "miles", "of", "the", "border", "of", "Arkansas", "-LRB-", "i.e.", ",", "both", "sides", "of", "the", "border", "-RRB-", ".", "2", ".", "For", "each", "EPA-regulated", "facility", "that", "has", "arsenic", ",", "find", "all", "EPA-regulated", "facilities", "that", "have", "chlorine", "and", ":", "-LRB-", "a", "-RRB-", "That", "are", "closer", "to", "it", "than", "to", "any", "other", "EPA-regulated", "facility", "that", "has", "arsenic", ".", "-LRB-", "b", "-RRB-", "That", "participate", "in", "the", "Air", "Emissions", "program", "and", "are", "closer", "to", "it", "than", "to", "any", "other", "EPA-regulated", "facility", "which", "has", "arsenic", ".", "In", "order", "to", "avoid", "reporting", "a", "particular", "facility", "more", "than", "once", ",", "we", "use", "our", "`", "group", "by", "EPA-ID", "'", "mechanism", ".", "Figure", "3", "illustrates", "the", "output", "of", "an", "example", "query", "that", "finds", "all", "arsenic", "sites", "within", "a", "given", "distance", "of", "the", "border", "of", "Arkansas", ".", "The", "sites", "are", "obtained", "in", "an", "incremental", "manner", "with", "respect", "to", "a", "given", "point", ".", "This", "ordering", "is", "shown", "by", "using", "different", "color", "shades", ".", "With", "this", "example", "data", ",", "it", "is", "possible", "to", "work", "with", "the", "SAND", "Internet", "Browser", "online", "as", "an", "applet", "-LRB-", "connecting", "to", "a", "remote", "server", "-RRB-", "or", "after", "localizing", "the", "data", "and", "then", "opening", "it", "locally", ".", "In", "the", "first", "case", ",", "for", "each", "action", "taken", ",", "the", "client-server", "architecture", "will", "decide", "what", "to", "ask", "for", "from", "the", "server", ".", "In", "the", "latter", "case", ",", "the", "browser", "will", "use", "the", "peer-to", "-", "peer", "APPOINT", "architecture", "for", "first", "localizing", "the", "data", ".", "An", "overview", "of", "our", "efforts", "in", "providing", "remote", "access", "to", "large", "spatial", "data", "has", "been", "given", ".", "We", "have", "outlined", "our", "approaches", "and", "introduced", "their", "individual", "elements", ".", "Our", "client-server", "approach", "improves", "the", "system", "performance", "by", "using", "efficient", "caching", "methods", "when", "a", "remote", "server", "is", "accessed", "from", "thin-clients", ".", "APPOINT", "forms", "an", "alternative", "approach", "that", "improves", "performance", "under", "an", "existing", "client-server", "system", "by", "using", "idle", "client", "resources", "when", "individual", "users", "want", "work", "on", "a", "data", "set", "for", "longer", "periods", "of", "time", "using", "their", "client", "computers", ".", "For", "the", "future", ",", "we", "envision", "development", "of", "new", "efficient", "algorithms", "that", "will", "support", "large", "online", "data", "transfers", "within", "our", "peer-to-peer", "approach", "using", "multiple", "peers", "simultane-ously", ".", "We", "assume", "that", "a", "peer", "-LRB-", "client", "-RRB-", "can", "become", "unavail-able", "at", "any", "anytime", "and", "hence", "provisions", "need", "to", "be", "in", "place", "to", "handle", "such", "a", "situation", ".", "To", "address", "this", ",", "we", "will", "augment", "our", "methods", "to", "include", "efficient", "dynamic", "updates", ".", "Upon", "completion", "of", "this", "step", "of", "our", "work", ",", "we", "also", "plan", "to", "run", "comprehensive", "performance", "studies", "on", "our", "methods", ".", "Another", "issue", "is", "how", "to", "access", "data", "from", "different", "sources", "in", "different", "formats", ".", "In", "order", "to", "access", "multiple", "data", "sources", "in", "real", "time", ",", "it", "is", "desirable", "to", "look", "for", "a", "mechanism", "that", "would", "support", "data", "exchange", "by", "design", ".", "The", "XML", "protocol", "-LSB-", "3", "-RSB-", "has", "emerged", "to", "become", "virtually", "a", "standard", "for", "describing", "and", "communicating", "arbitrary", "data", ".", "GML", "-LSB-", "4", "-RSB-", "is", "an", "XML", "variant", "that", "is", "becoming", "increasingly", "popular", "for", "exchange", "of", "geographical", "data", ".", "We", "are", "currently", "working", "on", "making", "SAND", "XML-compatible", "so", "that", "the", "user", "can", "instantly", "retrieve", "spatial", "data", "provided", "by", "various", "agencies", "in", "the", "GML", "format", "via", "their", "Web", "services", "and", "then", "explore", ",", "query", ",", "or", "process", "this", "data", "further", "within", "the", "SAND", "framework", ".", "This", "will", "turn", "the", "SAND", "system", "into", "a", "universal", "tool", "for", "accessing", "any", "spatial", "data", "set", "as", "it", "will", "be", "deployable", "on", "most", "platforms", ",", "work", "efficiently", "given", "large", "amounts", "of", "data", ",", "be", "able", "to", "tap", "any", "GML-enabled", "data", "source", ",", "and", "provide", "an", "easy", "to", "use", "graphical", "user", "interface", ".", "This", "will", "also", "convert", "the", "SAND", "system", "from", "a", "research-oriented", "prototype", "into", "a", "product", "that", "could", "be", "used", "by", "end", "users", "for", "accessing", ",", "viewing", ",", "and", "analyzing", "their", "data", "efficiently", "and", "with", "minimum", "effort", ".", "-LSB-", "1", "-RSB-", "Fedstats", ":", "The", "gateway", "to", "statistics", "from", "over", "100", "U.S.", "federal", "agencies", ".", "http://www.fedstats.gov/", ",", "2001", ".", "-LSB-", "2", "-RSB-", "Arcinfo", ":", "Scalable", "system", "of", "software", "for", "geographic", "data", "creation", ",", "management", ",", "integration", ",", "analysis", ",", "and", "dissemination", ".", "http://www.esri.com/software/", "arcgis/arcinfo/index.html", ",", "2002", ".", "-LSB-", "3", "-RSB-", "Extensible", "markup", "language", "-LRB-", "xml", "-RRB-", ".", "http://www.w3.org/XML/", ",", "2002", ".", "-LSB-", "4", "-RSB-", "Geography", "markup", "language", "-LRB-", "gml", "-RRB-", "2.0", ".", "http://opengis.net/gml/01-029/GML2.html", ",", "2002", ".", "-LSB-", "5", "-RSB-", "Mapquest", ":", "Consumer-focused", "interactive", "mapping", "site", "on", "the", "web", ".", "http://www.mapquest.com", ",", "2002", ".", "-LSB-", "6", "-RSB-", "Mapsonus", ":", "Suite", "of", "online", "geographic", "services", ".", "http://www.mapsonus.com", ",", "2002", ".", "-LSB-", "7", "-RSB-", "R.", "Anderson", ".", "The", "Eternity", "Service", ".", "In", "Proceedings", "of", "the", "PRAGOCRYPT", "'", "96", ",", "pages", "242", "252", ",", "Prague", ",", "Czech", "Republic", ",", "September", "1996", ".", "-LSB-", "8", "-RSB-", "L.", "Breslau", ",", "P.", "Cao", ",", "L.", "Fan", ",", "G.", "Phillips", ",", "and", "S.", "Shenker", ".", "Web", "caching", "and", "Zipf-like", "distributions", ":", "9", "Figure", "3", ":", "Sample", "output", "from", "the", "SAND", "Internet", "Browser", "--", "Large", "dark", "dots", "indicate", "the", "result", "of", "a", "query", "that", "looks", "for", "all", "arsenic", "sites", "within", "a", "given", "distance", "from", "Arkansas", ".", "Different", "color", "shades", "are", "used", "to", "indicate", "ranking", "order", "by", "the", "distance", "from", "a", "given", "point", ".", "Evidence", "and", "implications", ".", "In", "Proceedings", "of", "the", "IEEE", "Infocom", "'", "99", ",", "pages", "126", "134", ",", "New", "York", ",", "NY", ",", "March", "1999", ".", "-LSB-", "9", "-RSB-", "E.", "Chang", ",", "C.", "Yap", ",", "and", "T.", "Yen", ".", "Realtime", "visualization", "of", "large", "images", "over", "a", "thinwire", ".", "In", "R.", "Yagel", "and", "H.", "Hagen", ",", "editors", ",", "Proceedings", "IEEE", "Visualization", "'97", "-LRB-", "Late", "Breaking", "Hot", "Topics", "-RRB-", ",", "pages", "45", "48", ",", "Phoenix", ",", "AZ", ",", "October", "1997", ".", "-LSB-", "10", "-RSB-", "F.", "Dabek", ",", "M.", "F.", "Kaashoek", ",", "D.", "Karger", ",", "R.", "Morris", ",", "and", "I.", "Stoica", ".", "Wide-area", "cooperative", "storage", "with", "CFS", ".", "In", "Proceedings", "of", "the", "ACM", "SOSP", "'", "01", ",", "pages", "202", "215", ",", "Banff", ",", "AL", ",", "October", "2001", ".", "-LSB-", "11", "-RSB-", "A.", "Dingle", "and", "T.", "Partl", ".", "Web", "cache", "coherence", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "28", "-LRB-", "7-11", "-RRB-", ":", "907", "920", ",", "May", "1996", ".", "-LSB-", "12", "-RSB-", "C.", "Esperan", "ca", "and", "H.", "Samet", ".", "Experience", "with", "SAND/Tcl", ":", "a", "scripting", "tool", "for", "spatial", "databases", ".", "Journal", "of", "Visual", "Languages", "and", "Computing", ",", "13", "-LRB-", "2", "-RRB-", ":", "229", "255", ",", "April", "2002", ".", "-LSB-", "13", "-RSB-", "S.", "Iyer", ",", "A.", "Rowstron", ",", "and", "P.", "Druschel", ".", "Squirrel", ":", "A", "decentralized", "peer-to-peer", "Web", "cache", ".", "Rice", "University/Microsoft", "Research", ",", "submitted", "for", "publication", ",", "2002", ".", "-LSB-", "14", "-RSB-", "D.", "Karger", ",", "A.", "Sherman", ",", "A.", "Berkheimer", ",", "B.", "Bogstad", ",", "R.", "Dhanidina", ",", "K.", "Iwamoto", ",", "B.", "Kim", ",", "L.", "Matkins", ",", "and", "Y.", "Yerushalmi", ".", "Web", "caching", "with", "consistent", "hashing", ".", "Computer", "Networks", ",", "31", "-LRB-", "11-16", "-RRB-", ":", "1203", "1213", ",", "May", "1999", ".", "-LSB-", "15", "-RSB-", "J.", "Kubiatowicz", ",", "D.", "Bindel", ",", "Y.", "Chen", ",", "S.", "Czerwinski", ",", "P.", "Eaton", ",", "D.", "Geels", ",", "R.", "Gummadi", ",", "S.", "Rhea", ",", "H.", "Weatherspoon", ",", "W.", "Weimer", ",", "C.", "Wells", ",", "and", "B.", "Zhao", ".", "OceanStore", ":", "An", "architecture", "for", "global-scale", "persistent", "store", ".", "In", "Proceedings", "of", "the", "ACM", "ASPLOS", "'", "00", ",", "pages", "190", "201", ",", "Cambridge", ",", "MA", ",", "November", "2000", ".", "-LSB-", "16", "-RSB-", "M.", "Potmesil", ".", "Maps", "alive", ":", "viewing", "geospatial", "information", "on", "the", "WWW", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "29", "-LRB-", "8", "13", "-RRB-", ":", "1327", "1342", ",", "September", "1997", ".", "Also", "Hyper", "Proceedings", "of", "the", "6th", "International", "World", "Wide", "Web", "Conference", ",", "Santa", "Clara", ",", "CA", ",", "April", "1997", ".", "-LSB-", "17", "-RSB-", "M.", "Rabinovich", ",", "J.", "Chase", ",", "and", "S.", "Gadde", ".", "Not", "all", "hits", "are", "created", "equal", ":", "Cooperative", "proxy", "caching", "over", "a", "wide-area", "network", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "30", "-LRB-", "22-23", "-RRB-", ":", "2253", "2259", ",", "November", "1998", ".", "-LSB-", "18", "-RSB-", "A.", "Rowstron", "and", "P.", "Druschel", ".", "Storage", "management", "and", "caching", "in", "PAST", ",", "a", "large-scale", ",", "persistent", "peer-to-peer", "storage", "utility", ".", "In", "Proceedings", "of", "the", "ACM", "SOSP", "'", "01", ",", "pages", "160", "173", ",", "Banff", ",", "AL", ",", "October", "2001", ".", "-LSB-", "19", "-RSB-", "H.", "Samet", ".", "Applications", "of", "Spatial", "Data", "Structures", ":", "Computer", "Graphics", ",", "Image", "Processing", ",", "and", "GIS", ".", "Addison-Wesley", ",", "Reading", ",", "MA", ",", "1990", ".", "-LSB-", "20", "-RSB-", "H.", "Samet", ".", "The", "Design", "and", "Analysis", "of", "Spatial", "Data", "Structures", ".", "Addison-Wesley", ",", "Reading", ",", "MA", ",", "1990", ".", "-LSB-", "21", "-RSB-", "SETI@Home", ".", "http://setiathome.ssl.berkeley.edu/", ",", "2001", ".", "-LSB-", "22", "-RSB-", "L.", "J.", "Williams", ".", "Pyramidal", "parametrics", ".", "Computer", "Graphics", ",", "17", "-LRB-", "3", "-RRB-", ":", "1", "11", ",", "July", "1983", ".", "Also", "Proceedings", "of", "the", "SIGGRAPH", "'83", "Conference", ",", "Detroit", ",", "July", "1983", ".", "10"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["gis", "internet"], "abstractive_keyphrases": ["client/server", "peer-to-peer"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "180", "document": ["Simulating", "Option", "Prices", "And", "Sensitivities", "By", "Higher", "Rank", "Lattice", "Rules", "In", "this", "paper", "we", "introduce", "the", "intermediate", "rank", "or", "higher", "rank", "lattice", "rule", "for", "the", "general", "case", "when", "the", "number", "of", "quadrature", "points", "is", "n", "t", "m", ",", "where", "m", "is", "a", "composite", "integer", ",", "t", "is", "the", "rank", "of", "the", "rule", ",", "n", "is", "an", "integer", "such", "that", "-LRB-", "n", ",", "m", "-RRB-", "=", "1", ".", "Our", "emphasis", "is", "the", "applications", "of", "higher", "rank", "lattice", "rules", "to", "a", "class", "of", "option", "pricing", "problems", ".", "The", "higher", "rank", "lattice", "rules", "are", "good", "candidates", "for", "applications", "to", "finance", "based", "on", "the", "following", "reasons", ":", "the", "higher", "rank", "lattice", "rule", "has", "better", "asymptotic", "convergence", "rate", "than", "the", "conventional", "good", "lattice", "rule", "does", "and", "searching", "higher", "rank", "lattice", "points", "is", "much", "faster", "than", "that", "of", "good", "lattice", "points", "for", "the", "same", "number", "of", "quadrature", "points", ";", "furthermore", ",", "numerical", "tests", "for", "application", "to", "option", "pricing", "problems", "showed", "that", "the", "higher", "rank", "lattice", "rules", "are", "not", "worse", "than", "the", "conventional", "good", "lattice", "rule", "on", "average", ".", "It", "is", "well", "known", "in", "scientific", "computation", "that", "Monte", "Carlo", "-LRB-", "MC", "-RRB-", "simulation", "method", "is", "the", "main", "method", "to", "deal", "with", "high", "dimensional", "-LRB-", "4", "-RRB-", "problems", ".", "The", "main", "drawback", "for", "this", "method", "is", "that", "it", "converges", "slowly", "with", "convergence", "rate", "O", "-LRB-", "1", "N", "-RRB-", ",", "where", "N", "is", "the", "number", "of", "points", "-LRB-", "or", "samples", "or", "simulations", "-RRB-", ",", "even", "after", "using", "various", "variance", "reduction", "methods", ".", "To", "speed", "it", "up", ",", "researchers", "use", "quasi-random", "or", "low-discrepancy", "point", "sets", ",", "instead", "of", "using", "pseudo-random", "point", "sets", ".", "This", "is", "the", "so", "called", "quasi-Monte", "Carlo", "-LRB-", "QMC", "-RRB-", "method", ".", "There", "are", "two", "classes", "of", "low-discrepancy", "sequences", "-LRB-", "LDS", "-RRB-", ".", "The", "first", "one", "is", "constructive", "LDS", ",", "such", "as", "Halton", "'s", "sequence", ",", "Sobol", "'s", "sequence", ",", "Faure", "'s", "sequence", ",", "and", "Nieder-reiter", "'s", "-LRB-", "t", ",", "m", ",", "s", "-RRB-", "-", "nets", "and", "-LRB-", "t", ",", "s", "-RRB-", "-", "sequence", ".", "This", "kind", "of", "LDS", "has", "convergence", "rate", "O", "-LRB-", "-LRB-", "log", "N", "-RRB-", "s", "N", "-RRB-", ",", "where", "s", "is", "the", "dimension", "of", "the", "problem", ",", "N", "is", ",", "again", ",", "the", "number", "of", "points", ".", "The", "second", "class", "is", "the", "integration", "lattice", "points", ",", "for", "example", ",", "good", "lattice", "points", "-LRB-", "GLP", "-RRB-", ".", "This", "type", "of", "LDS", "has", "convergence", "rate", "O", "-LRB-", "-LRB-", "log", "N", "-RRB-", "s", "N", "-RRB-", ",", "where", ">", "1", "is", "a", "parameter", "related", "to", "the", "smoothness", "of", "the", "integrand", ",", "s", "and", "N", "are", "the", "same", "as", "above", ".", "The", "monograph", "by", "Niederreiter", "-LSB-", "1", "-RSB-", "gives", "very", "detailed", "information", "on", "constructive", "LDS", "and", "good", "lattice", "points", ",", "while", "the", "monograph", "by", "Hua", "and", "Wang", "-LSB-", "2", "-RSB-", "and", "Sloan", "and", "Joe", "-LSB-", "3", "-RSB-", "describe", "good", "lattice", "rules", "in", "detail", ".", "Unlike", "the", "constructive", "sequences", ",", "the", "construction", "of", "good", "lattice", "points", "is", "not", "constructive", "in", "the", "sense", "that", "they", "could", "be", "found", "only", "by", "computer", "searches", "-LRB-", "except", "in", "the", "2", "-", "dimensional", "case", ",", "where", "good", "lattice", "points", "can", "be", "constructed", "by", "using", "the", "Fibonacci", "numbers", "-RRB-", ".", "Such", "searches", "are", "usually", "very", "time", "consuming", ",", "especially", "when", "the", "number", "of", "points", "is", "large", "or", "the", "dimension", "is", "high", ",", "or", "both", ".", "Therefore", ",", "to", "develop", "algorithms", "which", "can", "be", "used", "in", "finding", "good", "lattice", "points", "fast", "is", "of", "practical", "importance", ".", "This", "paper", "discusses", "the", "applications", "of", "the", "intermediate", "rank", "or", "higher", "rank", "lattice", "rules", "-LRB-", "HRLR", "-RRB-", "to", "option", "pricing", "problems", ".", "The", "motivations", "of", "using", "higher", "rank", "lattice", "points", "are", "as", "follows", ".", "For", "a", "class", "of", "finance", "problems", ",", "we", "found", "that", "using", "the", "randomized", "good", "lattice", "points", "-LRB-", "GLP", "-RRB-", "can", "reach", "much", "better", "convergence", "than", "the", "randomized", "constructive", "quasi-random", "sequences", "-LRB-", "such", "as", ",", "Sobol", "sequence", "-RRB-", ",", "let", "alone", "the", "pseudo-random", "point", "sets", ",", "see", "-LSB-", "4", "-RSB-", "about", "this", "-LRB-", "in", "that", "paper", ",", "the", "lattice", "points", "were", "taken", "from", "-LSB-", "2", "-RSB-", "-RRB-", ".", "The", "theory", "given", "in", "Section", "2", "shows", "that", "the", "error", "bound", "of", "a", "higher", "rank", "lattice", "rule", "is", "smaller", "than", "that", "of", "a", "good", "lattice", "rule", ",", "at", "least", "asymptotically", ".", "And", "searching", "higher", "rank", "lattice", "points", "is", "much", "faster", "than", "searching", "good", "lattice", "points", ".", "Our", "extensive", "numerical", "results", "confirmed", "this", "fact", ".", "Some", "results", "are", "listed", "in", "Section", "2", ".", "Furthermore", ",", "the", "results", "in", "Section", "3", "showed", "that", "the", "standard", "errors", "of", "the", "randomized", "higher", "rank", "lattice", "points", "are", "smaller", "than", "those", "of", "the", "randomized", "good", "lattice", "points", "-LRB-", "most", "of", "the", "times", "-RRB-", ",", "which", "are", "much", "smaller", "than", "the", "standard", "errors", "of", "the", "randomized", "Sobol", "sequence", ",", "when", "these", "quasi-random", "point", "sets", "are", "applied", "to", "some", "financial", "derivative", "pricing", "problems", "in", "simulating", "option", "values", "and", "sensitivities", ".", "Detailed", "information", "about", "lattice", "rules", "can", "be", "found", "in", "the", "literature", ",", "such", "as", "-LSB-", "1", "-RSB-", ",", "-LSB-", "2", "-RSB-", "and", "-LSB-", "3", "-RSB-", ".", "We", "start", "to", "introduce", "lattice", "rules", "briefly", "by", "considering", "an", "integral", "530-113", "258", "If", "=", "C", "s", "f", "-LRB-", "x", "-RRB-", "dx", ",", "-LRB-", "1", "-RRB-", "where", "C", "s", "=", "-LSB-", "0", ",", "1", "-RSB-", "s", "is", "the", "s-dimensional", "unit", "hyper-cube", ",", "f", "-LRB-", "x", "-RRB-", "is", "one-periodic", "in", "each", "component", "of", "x", ",", "i.e.", "f", "-LRB-", "x", "-RRB-", "=", "f", "-LRB-", "x", "+", "z", "-RRB-", ",", "z", "Z", "s", "-LRB-", "the", "set", "of", "s", "-", "dimensional", "integer", "points", "-RRB-", ",", "x", "R", "s", "-LRB-", "the", "s-dimensional", "real", "space", "-RRB-", ".", "An", "s-dimensional", "integration", "lattice", "L", "is", "a", "discrete", "subset", "of", "R", "s", "that", "is", "closed", "under", "addition", "and", "subtraction", "and", "contains", "Z", "s", "as", "a", "subset", ".", "A", "lattice", "rule", "for", "-LRB-", "1", "-RRB-", "is", "a", "rule", "of", "the", "form", "Qf", "=", "1", "N", "N", "-1", "j", "=", "0", "f", "-LRB-", "x", "j", "-RRB-", ",", "-LRB-", "2", "-RRB-", "where", "-LCB-", "x", "0", ",", ",", "x", "N", "-1", "-RCB-", "L", "U", "s", "with", "U", "s", "=", "-LSB-", "0", ",", "1", "-RRB-", "s", ",", "N", "is", "called", "the", "order", "of", "the", "rule", ".", "Now", "we", "consider", "the", "intermediate", "rank", "or", "higher", "rank", "lattice", "rules", ",", "i.e.", "rules", "of", "the", "form", "Q", "t", "f", "=", "1", "n", "t", "m", "n-1", "k", "t", "=", "0", "n-1", "k", "1", "=", "0", "m-1", "j", "=", "0", "f", "-LRB-", "-LCB-", "j", "m", "g", "+", "k", "1", "n", "y", "1", "+", "+", "k", "t", "n", "y", "t", "-RCB-", "-RRB-", "-LRB-", "3", "-RRB-", "for", "1", "t", "s", ",", "where", "-LRB-", "m", ",", "n", "-RRB-", "=", "1", "and", "g", ",", "y", "1", ",", ",", "y", "t", "Z", "s", ".", "Notice", "that", "t", "=", "0", "or", "t", "=", "1", "and", "n", "=", "1", "in", "-LRB-", "3", "-RRB-", "is", "just", "the", "conventional", "good", "lattice", "points", "rule", "-LRB-", "we", "refer", "it", "to", "the", "rank-1", "rule", "in", "this", "paper", "-RRB-", ".", "Under", "some", "conditions", "-LRB-", "see", ",", "for", "example", ",", "Theorem", "7.1", ",", "-LSB-", "3", "-RSB-", "-RRB-", "on", "g", ",", "y", "1", ",", ",", "y", "t", ",", "the", "points", "in", "-LRB-", "3", "-RRB-", "are", "distinct", ",", "so", "that", "Q", "t", "is", "a", "lattice", "rule", "of", "order", "N", "=", "n", "t", "m", ",", "and", "it", "has", "rank", "t.", "Korobov", "-LRB-", "1959", "-RRB-", "gave", "the", "first", "existence", "of", "good", "lattice", "points", "in", "the", "case", "where", "N", "is", "a", "prime", "number", ".", "Niederreiter", "-LRB-", "1978", "-RRB-", "extended", "the", "existence", "to", "general", "number", "N", ".", "Disney", "and", "Sloan", "proved", "the", "existence", "and", "obtained", "the", "best", "asymptotic", "convergence", "rate", "for", "general", "N", "in", "good", "lattice", "points", "case", ".", "The", "existence", "of", "good", "rank", "t", "rules", "can", "be", "established", ",", "but", "much", "more", "complicated", ".", "We", "introduce", "Definition", "1", ".", "For", "any", "integer", "N", "2", ",", "let", "G", "=", "G", "-LRB-", "N", "-RRB-", "=", "-LCB-", "g", "=", "-LRB-", "g", "1", ",", ",", "g", "s", "-RRB-", "Z", "s", ",", "-LRB-", "g", "j", ",", "N", "-RRB-", "=", "1", "and", "-", "N/2", "<", "g", "j", "N/2", ",", "1", "j", "s", "-RCB-", ".", "Let", "y", "1", ",", ",", "y", "t", "Z", "s", "be", "fixed", ".", "The", "mean", "of", "P", "-LRB-", "Q", "t", "-RRB-", "over", "G", "is", "M", "-LRB-", "n", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", "=", "1", "Card", "-LRB-", "G", "-RRB-", "gG", "P", "-LRB-", "Q", "t", "-RRB-", ",", ">", "1", "-LRB-", "4", "-RRB-", "For", "the", "sake", "of", "simplicity", ",", "Sloan", "et", "al", "chose", "the", "special", "form", "of", "y", "j", "with", "all", "the", "components", "0", "except", "the", "jth", "which", "is", "1", "-", "the", "so-called", "copying", "rule", ".", "Thus", "-LRB-", "3", "-RRB-", "becomes", "Q", "t", "f", "=", "1", "n", "t", "m", "n-1", "k", "t", "=", "0", "n-1", "k", "1", "=", "0", "m-1", "j", "=", "0", "f", "-LRB-", "-LCB-", "j", "m", "g", "+", "-LRB-", "k", "1", ",", ",", "k", "t", ",", "0", ",", ",", "0", "-RRB-", "n", "-RCB-", "-RRB-", ".", "-LRB-", "5", "-RRB-", "With", "this", "choice", ",", "P", "-LRB-", "Q", "t", "-RRB-", "is", "easily", "calculated", "as", "follows", ".", "For", ">", "1", ",", "1", "t", "s", "and", "n", "2", ",", "define", "f", "-LRB-", "n", "-RRB-", ",", "t", "-LRB-", "x", "-RRB-", "=", "-LRB-", "t", "j", "=", "1", "F", "-LRB-", "n", "-RRB-", "-LRB-", "x", "j", "-RRB-", "-RRB-", "s", "k", "=", "t", "+1", "F", "-LRB-", "x", "k", "-RRB-", ",", "-LRB-", "6", "-RRB-", "where", "F", "-LRB-", "n", "-RRB-", "-LRB-", "x", "-RRB-", "=", "1", "+", "1", "n", "hZ", "|", "h", "|", "e", "-LRB-", "hx", "-RRB-", ",", "and", "F", "-LRB-", "x", "-RRB-", "=", "1", "+", "hZ", "|", "h", "|", "e", "-LRB-", "hx", "-RRB-", ".", "If", "Q", "-LRB-", "n", "-RRB-", "t", "f", "is", "the", "m-point", "lattice", "rule", "defined", "by", "Q", "-LRB-", "n", "-RRB-", "t", "f", "=", "1", "m", "m-1", "j", "=", "0", "f", "-LRB-", "-LCB-", "jn", "m", "g", "1", ",", ",", "jn", "m", "g", "t", ",", "j", "m", "g", "t", "+1", ",", ",", "j", "m", "g", "s", "-RCB-", "-RRB-", ",", "-LRB-", "7", "-RRB-", "then", "P", "-LRB-", "Q", "t", "-RRB-", "=", "Q", "-LRB-", "n", "-RRB-", "t", "f", "-LRB-", "n", "-RRB-", ",", "t", "-", "1", ".", "-LRB-", "8", "-RRB-", "For", "1", "t", "s", "and", "g", "=", "-LRB-", "g", "1", ",", ",", "g", "s", "-RRB-", "G", ",", "denote", "w", "=", "-LRB-", "ng", "1", ",", ",", "ng", "t", ",", "g", "t", "+1", ",", ",", "g", "s", "-RRB-", ",", "and", "r", "t", "-LRB-", "h", "-RRB-", "=-LRB-", "t", "j", "=", "1", "r", "-LRB-", "nh", "j", "-RRB-", "-RRB-", "s", "k", "=", "t", "+1", "r", "-LRB-", "h", "k", "-RRB-", ",", "h", "=", "-LRB-", "h", "1", ",", ",", "h", "s", "-RRB-", ".", "Then", "applying", "the", "rank-1", "lattice", "rule", "with", "generating", "vector", "w", ",", "we", "have", "P", "-LRB-", "Q", "t", "-RRB-", "=", "h", "w0", "-LRB-", "mod", "m", "-RRB-", "r", "t", "-LRB-", "h", "-RRB-", "-1", ".", "-LRB-", "9", "-RRB-", "The", "existence", "of", "good", "rank-t", "rules", "and", "the", "error", "bounds", "for", "prime", "m", "was", "established", "by", "Joe", "and", "Sloan", "-LRB-", "Theorem", "7.4", ",", "-LSB-", "3", "-RSB-", "-RRB-", ".", "The", "corresponding", "results", "for", "general", "m", "were", "discovered", "and", "proved", "in", "-LSB-", "5", "-RSB-", ",", "and", "is", "stated", "below", ".", "Theorem", "1", ".", "For", ">", "1", ",", "1", "t", "s", ",", "n", "1", "integer", ",", "m", ">", "0", "any", "integer", "with", "-LRB-", "n", ",", "m", "-RRB-", "=", "1", ",", "then", "M", "-LRB-", "n", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", "=", "1", "m", "t", "k", "=", "0", "s-t", "l", "=", "0", "-LRB-", "t", "k", "-RRB-", "-LRB-", "s-t", "l", "-RRB-", "-LRB-", "2", "-LRB-", "-RRB-", "-RRB-", "n", "k", "k", "+", "l", "p", "|", "m", "F", ",", "k", "+", "l", "-LRB-", "p", "-RRB-", "-", "1", ",", "-LRB-", "10", "-RRB-", "where", "the", "product", "is", "over", "all", "prime", "factors", "p", "of", "m", ",", "p", "is", "the", "highest", "power", "of", "p", "dividing", "m", ",", "p", "|", "m", "F", ",0", "-LRB-", "p", "-RRB-", "=", "m", ",", "and", "for", "k", "1", ",", "F", ",", "k", "-LRB-", "p", "-RRB-", "is", "given", "by", "F", ",", "k", "-LRB-", "p", "-RRB-", "=", "1", "+", "-LRB-", "-1", "-RRB-", "k", "-LRB-", "1", "-", "1/p", "-1", "-RRB-", "k", "-LRB-", "1", "-", "1/p", "-LRB-", "k-1", "-RRB-", "-RRB-", "-LRB-", "p", "-", "1", "-RRB-", "k-1", "-LRB-", "1", "-", "1/p", "k-1", "-RRB-", ".", "-LRB-", "11", "-RRB-", "Remark", ":", "Using", "the", "Binomial", "Theorem", ",", "we", "can", "obtain", "the", "result", "of", "Theorem", "7.4", "in", "-LSB-", "3", "-RSB-", "-LRB-", "the", "case", "when", "m", "is", "prime", "-RRB-", "from", "Theorem", "1", ",", "since", "the", "assumption", "that", "m", "is", "prime", "and", "n", "is", "not", "a", "multiple", "of", "m", "implies", "that", "-LRB-", "n", ",", "m", "-RRB-", "=", "1", ".", "Moreover", ",", "the", "result", "of", "Theorem", "1", "also", "holds", "for", "n", "=", "1", "or", "t", "=", "0", ".", "In", "either", "case", ",", "the", "right", "hand", "side", "of", "-LRB-", "10", "-RRB-", "is", "just", "259", "the", "case", "of", "rank-1", "in", "-LSB-", "3", "-RSB-", ",", "and", "if", "n", "2", "and", "t", "=", "s", ",", "then", "we", "obtain", "the", "result", "of", "maximal", "rank", "case", "in", "-LSB-", "3", "-RSB-", ".", "Now", "as", "in", "the", "case", "of", "rank-1", ",", "we", "give", "an", "upper", "bound", "for", "M", "-LRB-", "n", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", "and", "hence", "P", "-LRB-", "Q", "t", "-RRB-", ".", "Corollary", "1", ".", "Under", "the", "conditions", "of", "Theorem", "1", ",", "we", "have", "M", "-LRB-", "n", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", "4", "-LRB-", "-RRB-", "2", "-LRB-", "m", "-RRB-", "-LSB-", "-LRB-", "s-t", "2", "-RRB-", "+", "1", "n", "2", "-LRB-", "t", "2", "-RRB-", "+", "-LRB-", "s", "-", "t", "-RRB-", "t", "n", "-RSB-", "+", "1", "m", "-LCB-", "-LSB-", "a", "-LRB-", "1", "+", "2", "-LRB-", "-RRB-", "-RRB-", "s-t", "+", "b", "-LRB-", "1", "-", "2", "-LRB-", "-RRB-", "-RRB-", "s-t", "-RSB-", "+", "-LSB-", "a", "-LRB-", "1", "+", "2", "-LRB-", "-RRB-", "n", "-RRB-", "t", "+", "b", "-LRB-", "1", "-", "2", "-LRB-", "-RRB-", "n", "-RRB-", "t", "-RSB-", "+", "1", "n", "-LSB-", "a", "-LRB-", "1", "+", "2", "-LRB-", "-RRB-", "-RRB-", "s", "+", "b", "-LRB-", "1", "-", "2", "-LRB-", "-RRB-", "-RRB-", "s", "-RSB-", "-RCB-", ",", "-LRB-", "12", "-RRB-", "where", "-LRB-", "s-t", "2", "-RRB-", "=", "1", "for", "s", "-", "t", "<", "2", ",", "-LRB-", "t", "2", "-RRB-", "=", "1", ",", "for", "t", "<", "2", ";", "a", "=", "-LRB-", "3", "-RRB-", "-LRB-", "6", "-RRB-", "+", "1", "2", "1.68", ",", "and", "b", "=", "a", "-", "1", ".", "Hence", "M", "-LRB-", "n", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", "=", "O", "-LRB-", "log", "log", "m", "m", "-RRB-", ",", "asm", ".", "-LRB-", "13", "-RRB-", "Theorem", "2", ".", "Let", "-LRB-", "m", "-RRB-", "=", "-LRB-", "1", "-", "s", "/", "log", "m", "-RRB-", "-1", ".", "If", "m", ">", "e", "s", "/", "-LRB-", "-1", "-RRB-", "then", "there", "is", "a", "g", "G", "such", "that", "P", "-LRB-", "Q", "t", "-RRB-", "M", "-LRB-", "n", "-RRB-", "-LRB-", "m", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", "/", "-LRB-", "m", "-RRB-", ".", "-LRB-", "14", "-RRB-", "If", "s", "3", ",", "then", "M", "-LRB-", "n", "-RRB-", "-LRB-", "m", "-RRB-", ",", "t", "-LRB-", "N", "-RRB-", "/", "-LRB-", "m", "-RRB-", "1", "n", "t", "-LRB-", "2e", "s", "-RRB-", "s", "-LRB-", "log", "m", "-RRB-", "s", "m", "-LRB-", "15", "-RRB-", "as", "m", ",", "where", "f", "-LRB-", "x", "-RRB-", "h", "-LRB-", "x", "-RRB-", "as", "x", "means", "lim", "x", "f", "-LRB-", "x", "-RRB-", "h", "-LRB-", "x", "-RRB-", "=", "1", ".", "It", "is", "hard", "to", "obtain", "a", "precise", "comparison", "result", "between", "the", "mean", "for", "the", "case", "of", "t", "=", "0", ",", "i.e.", ",", "M", "-LRB-", "n", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", ",", "and", "the", "corresponding", "mean", "for", "the", "case", "of", "t", "=", "0", "rule", ",", "i.e.", ",", "M", "-LRB-", "n", "t", "m", "-RRB-", ",", "even", "when", "m", "is", "prime", ",", "as", "pointed", "out", "in", "-LSB-", "3", "-RSB-", ".", "Notice", "that", "the", "number", "of", "points", "for", "rank", "t", "rule", "is", "n", "t", "m", ",", "and", "we", "should", "use", "the", "same", "number", "of", "points", "when", "comparing", "efficiency", "or", "convergence", "rate", "among", "different", "methods", ".", "We", "give", "an", "approximate", "result", "on", "this", "direction", "based", "on", "-LRB-", "15", "-RRB-", "and", "a", "result", "in", "-LSB-", "3", "-RSB-", "similar", "to", "-LRB-", "15", "-RRB-", ".", "Corollary", "2", ".", "For", ">", "1", ",", "1", "t", "s", ",", "n", "1", "integer", ",", "m", ">", "0", "any", "integer", "with", "-LRB-", "n", ",", "m", "-RRB-", "=", "1", ",", "let", "1", "-LRB-", "m", "-RRB-", "=", "-LRB-", "1", "-", "s", "/", "log", "m", "-RRB-", "-1", ",", "2", "-LRB-", "n", "t", "m", "-RRB-", "=", "-LRB-", "1", "-", "s", "/", "log", "-LRB-", "n", "t", "m", "-RRB-", "-RRB-", "-1", ".", "If", "m", ">", "e", "s", "/", "-LRB-", "-1", "-RRB-", "then", "M", "-LRB-", "n", "-RRB-", "1", "-LRB-", "m", "-RRB-", ",", "t", "-LRB-", "m", "-RRB-", "/", "1", "-LRB-", "m", "-RRB-", "M", "2", "-LRB-", "n", "t", "m", "-RRB-", "-LRB-", "n", "t", "m", "-RRB-", "/", "2", "-LRB-", "n", "t", "m", "-RRB-", "log", "m", "log", "m", "+", "t", "log", "n", "s", "<", "1", ".", "-LRB-", "16", "-RRB-", "From", "Corollary", "2", ",", "we", "can", "roughly", "see", "that", "P", "-LRB-", "Q", "t", "-RRB-", "<", "P", "-LRB-", "Q", "1", "-RRB-", "for", "t", ">", "1", "with", "the", "same", "order", "-LRB-", "number", "of", "points", "-RRB-", "for", "both", "rules", ",", "at", "least", "asymptotically", ".", "Our", "numerical", "tests", "showed", "that", "it", "is", "true", "even", "for", "small", "number", "of", "points", ".", "Furthermore", ",", "higher", "rank", "good", "lattice", "points", "can", "also", "be", "found", "by", "computer", "search", "via", "minimizing", "P", "-LRB-", "Q", "t", "-RRB-", "based", "on", "-LRB-", "8", "-RRB-", ",", "but", "using", "m", "instead", "of", "using", "n", "t", "m", "-LRB-", "as", "in", "the", "case", "of", "good", "lattice", "points", "-RRB-", ".", "Therefore", ",", "searching", "higher", "rank", "lattice", "points", "is", "much", "faster", "than", "searching", "rank-1", "lattice", "points", ".", "Usually", ",", "the", "good", "lattice", "points", "were", "found", "by", "searching", "Korobov", "type", "g", "=", "-LRB-", "1", ",", "b", ",", "b", "2", ",", "...", ",", "b", "s-1", "-RRB-", "mod", "m", "-LRB-", "compo-nentwise", "-RRB-", "with", "-LRB-", "b", ",", "m", "-RRB-", "=", "1", ".", "Sloan", "and", "Reztsov", "proposed", "a", "new", "searching", "algorithm", "-", "the", "component-by-component", "method", ".", "We", "searched", "extensively", "for", "both", "types", "of", "points", ".", "Based", "on", "the", "search", "results", "we", "found", "that", "these", "two", "types", "of", "lattice", "points", "are", "comparable", "in", "both", "errors", "and", "searching", "times", "for", "the", "same", "rank", "and", "the", "same", "number", "of", "points", ".", "We", "only", "report", "the", "Korobov", "type", "lattice", "points", "here", "limited", "to", "space", ".", "So", "far", "as", "we", "know", ",", "the", "theory", "of", "copying", "higher", "rank", "lattice", "rule", "is", "valid", "under", "the", "assumption", "that", "-LRB-", "n", ",", "m", "-RRB-", "=", "1", ".", "We", "conjecture", "that", "this", "restriction", "can", "be", "relaxed", ".", "We", "are", "unable", "to", "prove", "this", "yet", "so", "far", ".", "But", "our", "numerical", "results", "strongly", "support", "our", "conjecture", ",", "see", "Table", "1", "-LRB-", "only", "partial", "results", "are", "listed", "-RRB-", ".", "In", "this", "table", ",", "the", "comparison", "is", "based", "on", "the", "same", "number", "of", "points", ",", "where", "Kor", "t0", "stands", "for", "the", "Korobov", "type", "lattice", "points", "with", "t", "=", "0", "-LRB-", "i.e.", ",", "rank-1", "case", "-RRB-", ",", "sim-ilarly", "for", "Kor", "t4", ".", "Time", "is", "measured", "in", "seconds", ".", "Whenever", "time", "is", "zero", ",", "it", "just", "means", "that", "the", "time", "used", "in", "searching", "is", "less", "than", "0.5", "seconds", ".", "The", "CPU", "times", "used", "in", "searching", "may", "be", "machine", "dependent", ".", "Dev-C", "+", "+", "was", "used", "as", "our", "programming", "language", "-LRB-", "run", "on", "a", "laptop", "under", "Windows", "system", "-RRB-", ".", "In", "order", "to", "measure", "CPU", "time", "as", "precise", "as", "possible", ",", "all", "the", "programs", "were", "run", "on", "the", "same", "machine", "and", "only", "one", "program", ",", "no", "any", "other", "programs", ",", "was", "run", "one", "at", "a", "time", "on", "the", "machine", ".", "Our", "searching", "results", "showed", "that", "within", "the", "same", "type", "of", "lattice", "points", ",", "the", "higher", "the", "rank", ",", "the", "smaller", "the", "P", "2", ",", "and", "the", "faster", "the", "search", ".", "The", "search", "time", "for", "rank", "=", "4", "in", "the", "case", "of", "number", "of", "point", "=", "32768", "is", "about", "1", "second", ",", "those", "for", "all", "the", "other", "cases", "are", "less", "than", "0.5", "seconds", ".", "Table", "1", ":", "Computer", "search", "results", "of", "t", "=", "0", "and", "t", "=", "4", ",", "with", "-LRB-", "n", ",", "m", "-RRB-", "=", "1", ",", "n", "=", "2", ",", "m", "=", "a", "power", "of", "2", ",", "dimension", "=", "5", ".", "Kor", "t0", "Kor", "t4", "2", "t", "m", "b", "P", "2", "Time", "b", "P", "2", "1024", "189", "0.735", "0", "5", "0.373", "2048", "453", "0.264", "1", "27", "0.164", "4096", "1595", "0.121", "3", "21", "0.067", "8192", "2099", "0.048", "10", "61", "0.026", "16384", "2959", "0.018", "43", "35", "0.010", "32768", "1975", "0.007", "169", "131", "0.004", "Under", "the", "Black-Scholes", "framework", ",", "many", "European", "options", "can", "be", "expressed", "in", "terms", "of", "multivariate", "normal", "distributions", ".", "Examples", "are", "options", "on", "maximum", "and", "minimum", "of", "n", "assets", ",", "discrete", "lookback", "options", ",", "discrete", "shout", "options", ",", "discrete", "partial", "barrier", "options", ",", "reset", "options", ",", "etc.", ",", "see", "-LSB-", "6", "-RSB-", "and", "the", "references", "therein", ".", "In", "this", "section", ",", "we", "apply", "both", "the", "Monte", "Carlo", "and", "the", "quasi-Monte", "Carlo", "methods", "to", "applied", "finance", "area-260", "option", "pricing", ",", "and", "compare", "the", "efficiencies", "among", "different", "methods", ".", "For", "the", "quasi-Monte", "Carlo", "methods", ",", "we", "use", "Sobol", "sequence", "and", "both", "rank-1", "and", "higher", "rank", "lattice", "points", ".", "The", "Sobol", "sequence", "is", "usually", "the", "best", "among", "the", "constructive", "LDS", "based", "on", "our", "tests", ".", "To", "compare", "the", "efficiencies", "of", "different", "methods", ",", "we", "need", "a", "benchmark", "for", "fair", "comparisons", ".", "If", "the", "exact", "value", "of", "the", "quantity", "to", "be", "estimated", "can", "be", "found", ",", "then", "we", "use", "the", "absolute", "error", "or", "relative", "error", "for", "comparison", ".", "Otherwise", ",", "we", "use", "the", "standard", "error", "-LRB-", "stderr", "-RRB-", "for", "comparison", ".", "Here", "stderr", "=", "N", ",", "where", "2", "is", "the", "unbiased", "sample", "variance", ",", "N", "is", "the", "sample", "size", ".", "For", "LDS", "sequences", ",", "we", "define", "the", "standard", "error", "by", "introducing", "random", "shift", "as", "follows", ".", "Assume", "that", "we", "estimate", "=", "E", "-LSB-", "f", "-LRB-", "x", "-RRB-", "-RSB-", ",", "where", "x", "is", "an", "s-dimensional", "random", "vector", ".", "Let", "-LCB-", "x", "i", "-RCB-", "m", "i", "=", "1", "C", "s", "be", "a", "finite", "LDS", "sequence", ",", "-LCB-", "r", "j", "-RCB-", "n", "j", "=", "1", "C", "s", "be", "a", "finite", "sequence", "of", "random", "vectors", ".", "For", "each", "fixed", "j", ",", "we", "have", "a", "sequence", "-LCB-", "y", "-LRB-", "j", "-RRB-", "i", "-RCB-", "m", "i", "=", "1", "with", "y", "-LRB-", "j", "-RRB-", "i", "=", "x", "i", "+", "r", "j", ".", "It", "can", "be", "shown", "that", "such", "a", "sequence", "still", "has", "the", "same", "convergence", "rate", "as", "the", "original", "one", ".", "Denote", "j", "=", "1", "m", "m", "i", "=", "1", "f", "-LRB-", "y", "-LRB-", "j", "-RRB-", "i", "-RRB-", "and", "=", "1", "n", "n", "j", "=", "1", "j", ".", "The", "unbiased", "sample", "variance", "is", "2", "=", "n", "j", "=", "1", "-LRB-", "j", "-", "-RRB-", "2", "n-1", "=", "n", "n", "j", "=", "1", "2", "j", "n", "j", "=", "1", "j", "2", "-LRB-", "n-1", "-RRB-", "n", ".", "Then", "the", "standard", "error", "is", "defined", "by", "stderr", "=", "n", ".", "The", "efficiency", "of", "a", "QMC", "method", "-LRB-", "after", "randomization", "-RRB-", "over", "the", "MC", "method", "is", "defined", "as", "the", "ratio", "of", "the", "standard", "error", "of", "the", "MC", "method", "to", "the", "standard", "error", "of", "a", "QMC", "method", "-LRB-", "both", "methods", "have", "the", "same", "number", "of", "points", ",", "otherwise", "the", "comparison", "is", "not", "fair", "-RRB-", ".", "As", "an", "example", ",", "let", "us", "consider", "the", "computation", "of", "call", "options", "on", "maximum", "of", "s", "assets", ".", "Using", "martingale", "method", ",", "Dufresne", "et", "al", "derived", "in", "-LSB-", "7", "-RSB-", "that", "the", "value", "of", "a", "call", "option", "can", "be", "expressed", "in", "terms", "of", "multivariate", "normal", "distributions", ":", "V", "=", "V", "s", "max", "-LRB-", "-LCB-", "S", "i", "-RCB-", ",", "-LCB-", "i", "-RCB-", ",", "0", ",", "r", ",", "q", ",", "-RRB-", "=", "s", "i", "=", "1", "S", "i", "e", "-", "q", "i", "T", "N", "s", "-LRB-", "e", "i1", ",", "...", ",", "e", "i,i-1", ",", "d", "-LRB-", "i", "-RRB-", "i", "-LRB-", "K", ",", "T", "-RRB-", ",", "e", "i", ",", "i", "+1", ",", "e", "is", ";", "i", "-RRB-", "Ke", "-", "rT", "1", "-", "N", "s", "-LRB-", "-", "d", "Q", "1", "-LRB-", "K", ",", "T", "-RRB-", ",", "...", ",", "-", "d", "Q", "s", "-LRB-", "K", ",", "T", "-RRB-", ";", "0", "-RRB-", "-LRB-", "17", "-RRB-", "where", "e", "ik", "=", "log", "-LRB-", "S", "i", "/", "S", "k", "-RRB-", "+", "T", "2", "ik", "/", "2", "ik", "T", ",", "ik", "=", "2", "i", "-", "2", "i", "k", "+", "2", "k", ",", "d", "-LRB-", "i", "-RRB-", "i", "-LRB-", "K", ",", "T", "-RRB-", "=", "log", "-LRB-", "S", "i", "/", "K", "-RRB-", "+", "-LRB-", "r", "+", "2", "i", "/", "2", "-RRB-", "T", "i", "T", ",", "d", "Q", "i", "-LRB-", "K", ",", "T", "-RRB-", "=", "log", "-LRB-", "S", "i", "/", "K", "-RRB-", "+", "-LRB-", "r", "2", "i", "/", "2", "-RRB-", "T", "i", "T", ",", "0", "=", "-LRB-", "jk", "-RRB-", "s", "s", "and", "for", "i", "=", "1", ",", "...", ",", "s", ",", "i", "=", "-LRB-", "-LRB-", "i", "-RRB-", "jk", "-RRB-", "s", "s", "with", "-LRB-", "i", "-RRB-", "jk", "=", "2", "i", "+", "jk", "j", "k", "ij", "i", "j", "ik", "i", "k", "ij", "ik", ",", "j", ",", "k", "=", "i", ";", "-LRB-", "i", "-RRB-", "ik", "=", "i", "ik", "k", "ik", ",", "i", "=", "k", ";", "ii", "=", "1", ".", "Thus", ",", "in", "order", "to", "estimate", "the", "option", "values", ",", "we", "need", "to", "estimate", "the", "following", "s-variate", "normal", "distribution", "H", "-LRB-", "a", ",", "-RRB-", "=", "1", "det", "-LRB-", "-RRB-", "-LRB-", "2", "-RRB-", "s", "a", "1", "a", "s", "exp", "-LRB-", "1", "2", "x", "t", "-1", "x", "-RRB-", "dx", ",", "where", "a", "=", "-LRB-", "a", "1", ",", "a", "2", ",", "...", ",", "a", "s", "-RRB-", ",", "-", "a", "i", "+", "-LRB-", "i", "=", "1", ",", "2", ",", "...", ",", "s", "-RRB-", ",", "x", "R", "s", ",", "dx", "=", "dx", "1", "...", "dx", "s", ",", "=", "-LRB-", "ij", "-RRB-", "s", "s", "is", "a", "positive", "definite", "correlation", "matrix", ".", "Details", "about", "the", "computation", "of", "multivariate", "normal", "distributions", "can", "be", "found", "in", "-LSB-", "8", "-RSB-", ".", "Notice", "that", "after", "the", "transformation", ",", "the", "s-dimensional", "integral", "for", "H", "-LRB-", "a", ",", "-RRB-", "is", "transformed", "into", "an", "s", "-", "1", "dimensional", "integral", ".", "For", "the", "numerical", "demonstration", ",", "we", "consider", "a", "call", "option", "on", "maximum", "of", "6", "stocks", ".", "In", "our", "simulations", ",", "each", "method", "was", "randomly", "shifted", ",", "including", "the", "MC", "method", ",", "so", "that", "each", "method", "has", "the", "same", "number", "of", "points", ".", "We", "took", "the", "number", "of", "random", "shifts", "to", "be", "10", ",", "other", "parameters", "are", "s", "=", "6", ",", "K", "-LCB-", "$", "90", ",", "$", "100", ",", "$", "110", "-RCB-", ",", "r", "=", "10", "%", ",", "S", "i", "=", "$", "100", ",", "i", "=", "0.2", ",", "ij", "=", "0.5", ",", "i", "=", "j", ",", "i", ",", "j", "=", "1", ",", "...", ",", "6", ".", "Besides", "the", "option", "values", ",", "the", "option", "sensitivities", "or", "Greek", "letters", "i", "=", "V", "S", "i", ",", "ij", "=", "2", "V", "S", "i", "S", "j", ",", "V", "i", "=", "V", "i", ",", "=", "V", "T", "and", "=", "V", "r", "are", "very", "important", "quantities", "in", "financial", "risk", "management", "and", "trading", ".", "They", "are", "usually", "harder", "to", "obtain", "than", "the", "option", "values", "themselves", ".", "The", "results", "where", "K", "=", "$", "100", "are", "listed", "in", "the", "following", "Tables", "2", ",", "3", "and", "4", ",", "and", "the", "results", "where", "K", "=", "$", "90", "and", "K", "=", "$", "110", "are", "similar", "and", "are", "omitted", "here", ".", "In", "these", "tables", ",", "column", "1", "contains", "the", "numbers", "of", "points", ",", "numbers", "in", "the", "MC", "column", "are", "the", "standard", "errors", ",", "those", "in", "the", "columns", "of", "quasi-Monte", "Carlo", "methods", "are", "efficiencies", "of", "the", "corresponding", "methods", "over", "the", "Monte", "Carlo", "method", ".", "Here", "we", "do", "not", "include", "the", "CPU", "times", "for", "different", "methods", "since", "these", "programs", "were", "run", "on", "a", "main-frame", "using", "UNIX", "system", ",", "and", "there", "were", "many", "other", "programs", "were", "also", "running", "at", "the", "time", "I", "ran", "these", "programs", ".", "And", "I", "think", "that", "the", "CPU", "times", "measured", "in", "this", "way", "are", "not", "precise", ".", "Table", "2", ":", "Comparison", "of", "estimated", "call", "option", "values", "and", "efficiencies", ",", "the", "option", "value", "is", "$", "28.81", "with", "standard", "error", "1.5099e-06", "obtained", "by", "higher", "rank", "lattice", "rule", "-LRB-", "rank", "=", "4", "-RRB-", "using", "2", "14", "=", "16384", "points", "with", "10", "random", "shifts", ".", "The", "standard", "error", "is", "zero", "in", "my", "simulation", "by", "the", "same", "rule", "using", "2", "15", "=", "32768", "points", "with", "10", "random", "shifts", ".", "N", "MC", "Sobol", "Kor", "t0", "Kor", "t4", "2", "10", "0.6832", "10.8", "219.9", "200.5", "2", "11", "0.4834", "27.8", "666.8", "1194.9", "2", "12", "0.3413", "39.6", "2104.7", "371.8", "2", "13", "0.2409", "41.2", "18129.2", "22758.4", "2", "14", "0.1703", "110.2", "30156.0", "112804.8", "2", "15", "0.1206", "101.3", "253540.7", "*", "From", "Table", "2", ",", "we", "observed", "that", "the", "randomized", "lattice", "rules", "achieve", "much", "better", "results", "than", "the", "randomized", "Sobol", "'s", "sequence", "does", ",", "the", "latter", "is", "about", "10", "to", "110", "time", "more", "efficient", "than", "the", "MC", "method", ".", "The", "randomized", "Korobov", "type", "higher", "rank", "lattice", "points", "beat", "the", "randomized", "261", "rank-1", "lattice", "points", ",", "except", "when", "N", "=", "2", "10", "=", "1024", "and", "2", "12", "=", "4096", ".", "Table", "3", ":", "Comparison", "of", "estimated", "option", "sensitivity", "-LRB-", "Greek", "letter", ",", "1", "in", "this", "table", "-RRB-", "values", "and", "efficiencies", ",", "the", "value", "of", "1", "is", "0.1898", "with", "standard", "error", "4.4427E-09", "obtained", "by", "higher", "rank", "lattice", "rule", "-LRB-", "rank", "=", "4", "-RRB-", "using", "2", "15", "=", "32768", "points", "with", "10", "random", "shifts", ".", "N", "MC", "Sobol", "Kor", "t0", "Kor", "t4", "2", "10", "0.0151", "7.3", "135.5", "98.1", "2", "11", "0.0107", "10.7", "330.8", "1226.6", "2", "12", "0.0077", "9.9", "900.7", "110.7", "2", "13", "0.0054", "19.7", "8861.8", "9833.5", "2", "14", "0.0038", "30.7", "24742.9", "70692.9", "2", "15", "0.0027", "42.8", "137025.0", "605473.8", "Again", ",", "the", "randomized", "lattice", "rules", "are", "much", "more", "efficient", "than", "the", "randomized", "Sobol", "'s", "sequence", ",", "the", "latter", "is", "about", "8", "to", "43", "time", "more", "efficient", "than", "the", "MC", "method", ".", "Kor", "t4", "is", "more", "efficient", "than", "Kor", "t0", "except", "when", "N", "=", "2", "10", "=", "1024", "and", "2", "12", "=", "4096", ".", "Table", "4", ":", "Comparison", "of", "estimated", "gamma", "-LRB-", "11", "=", "2", "V", "S", "2", "1", "-RRB-", "values", "and", "efficiencies", ",", "the", "value", "of", "11", "is", "0.01631", "with", "standard", "error", "1.2418e-09", "obtained", "by", "higher", "rank", "lattice", "rule", "-LRB-", "rank", "=", "4", "-RRB-", "using", "2", "15", "=", "32768", "points", "with", "10", "random", "shifts", ".", "N", "MC", "Sobol", "Kor", "t0", "Kor", "t4", "2", "10", "4.6E-4", "8.0", "107.6", "12.8", "2", "11", "3.3E-4", "14.0", "118.6", "223.7", "2", "12", "2.3E-4", "19.6", "484.3", "30.3", "2", "13", "1.7E-4", "22.6", "4217.8", "4457.5", "2", "14", "1.2E-4", "24.1", "3108.7", "28713.5", "2", "15", "8.2E-5", "40.0", "108047.3", "66385.4", "The", "conclusion", "is", "similar", "to", "that", "of", "Table", "3", ".", "The", "randomized", "Kor", "t4", "is", "more", "efficient", "than", "the", "randomized", "Kor", "t0", "except", "when", "N", "=", "2", "10", "=", "1024", ",", "2", "12", "=", "4096", "and", "2", "15", "=", "32768", ".", "In", "our", "simulations", ",", "the", "pseudo", "random", "number", "generator", "we", "used", "is", "ran2", "-LRB-", "-RRB-", "in", "-LSB-", "9", "-RSB-", ".", "The", "periodizing", "function", "used", "is", "-LRB-", "x", "-RRB-", "=", "1", "2", "-LRB-", "2x", "-", "sin", "-LRB-", "2x", "-RRB-", "-RRB-", ".", "In", "this", "paper", ",", "We", "introduced", "the", "higher", "rank", "lattice", "rules", "and", "gave", "a", "general", "expression", "for", "the", "average", "of", "P", "-LRB-", "Q", "t", "-RRB-", "for", "higher", "rank", "lattice", "rule", "over", "a", "subset", "of", "Z", "s", ",", "an", "upper", "bound", "and", "an", "asymptotic", "rate", "for", "higher", "rank", "lattice", "rule", ".", "The", "results", "recovered", "the", "cases", "of", "good", "lattice", "rule", "and", "maximal", "rank", "rule", ".", "Computer", "search", "results", "showed", "that", "P", "2", "s", "by", "the", "higher", "rank", "lattice", "rule", "were", "smaller", "than", "those", "by", "good", "lattice", "rule", ",", "while", "searching", "higher", "rank", "lattice", "points", "was", "much", "faster", "than", "that", "of", "good", "lattice", "points", "for", "the", "same", "number", "of", "quadrature", "points", ".", "Numerical", "tests", "for", "applications", "to", "an", "option", "pricing", "problem", "showed", "that", "the", "higher", "rank", "lattice", "rules", "-LRB-", "t", ">", "0", "-RRB-", "usually", "beat", "the", "conventional", "good", "lattice", "rule", "-LRB-", "t", "=", "0", "case", "-RRB-", ".", "Both", "of", "these", "rules", "showed", "significant", "superiority", "over", "the", "Sobol", "sequence", ".", "Our", "tests", "-LRB-", "not", "listed", "here", "-RRB-", "on", "other", "types", "of", "options", "showed", "similar", "efficiency", "gains", "of", "higher", "rank", "lattice", "rules", "over", "good", "lattice", "rules", ",", "though", "the", "gains", "may", "vary", ".", "Since", "searching", "higher", "rank", "lattice", "points", "is", "much", "faster", "than", "that", "of", "rank", "-", "1", "lattice", "points", "-LRB-", "say", "the", "rank", "is", "larger", "than", "2", "-RRB-", ";", "the", "search", "algorithm", "is", "simple", ";", "and", "the", "values", "of", "P", "2", "for", "higher", "rank", "lattice", "points", "are", "smaller", "than", "that", "for", "the", "rank", "-", "1", "points", ";", "furthermore", ",", "-LRB-", "standard", "-RRB-", "errors", "obtained", "by", "higher", "rank", "lattice", "rules", "to", "practical", "problems", "are", "not", "worse", "than", "those", "by", "the", "rank", "-", "1", "rules", "on", "average", ",", "the", "higher", "rank", "lattice", "rules", "are", "good", "candidates", "for", "applications", ".", "One", "unsolved", "problem", "in", "lattice", "rules", "-LRB-", "whether", "high", "rank", "or", "not", "-RRB-", "is", "the", "periodizing", "seems", "not", "work", "well", "in", "high", "dimensions", ".", "It", "needs", "futher", "exploration", ".", "This", "research", "was", "partially", "supported", "by", "an", "Natural", "Sciences", "and", "Engineering", "Research", "Council", "of", "Canada", "-LRB-", "NSERC", "-RRB-", "grant", ".", "-LSB-", "1", "-RSB-", "H.", "Niederreiter", ",", "Random", "Number", "Generation", "and", "Quasi-Monte", "Carlo", "Methods", ",", "SIAM", ",", "Philadelphia", ",", "1992", ".", "-LSB-", "2", "-RSB-", "L.", "Hua", "and", "Y.", "Wang", ",", "Applications", "of", "Number", "Theory", "in", "Numerical", "Analysis", ",", "Springer-Verlag", ",", "1980", ".", "-LSB-", "3", "-RSB-", "I.", "H.", "Sloan", "and", "S.", "Joe", ",", "Lattice", "Methods", "for", "Multiple", "Integration", ",", "Oxford", "University", "Press", ",", "New", "York", ",", "1994", ".", "-LSB-", "4", "-RSB-", "P.", "Boyle", ",", "Y.", "Lai", "and", "K.", "S.", "Tan", ",", "Pricing", "Options", "Using", "lattice", "rules", ",", "North", "American", "Actuarial", "Journal", ",", "9", "-LRB-", "3", "-RRB-", ",", "2005", ",", "50-76", ".", "-LSB-", "5", "-RSB-", "Y.", "Lai", ",", "Monte", "Carlo", "and", "Quasi-Monte", "Carlo", "Methods", "and", "Their", "Applications", ",", "Ph.", "D", "Dissertation", ",", "Department", "of", "Mathematics", ",", "Claremont", "Graduate", "University", ",", "California", ",", "USA", ",", "2000", ".", "-LSB-", "6", "-RSB-", "P.", "Zhang", ",", "Exotic", "Options", ",", "2nd", "edition", ",", "World", "Scientific", ",", "1998", ".", "-LSB-", "7", "-RSB-", "P.C.", "Dufresne", ",", "W.", "Keirstead", "and", "M.", "P.", "Ross", ",", "Pricing", "Derivatives", "the", "Martingale", "Way", ",", "working", "paper", ",", "1996", ".", "-LSB-", "8", "-RSB-", "Y.", "Lai", ",", "Effcient", "Computations", "of", "Multivariate", "Normal", "Distributions", "with", "Applications", "to", "Finance", ",", "working", "paper", ",", "Departmetn", "of", "Mathematics", ",", "Wilfrid", "Laurier", "University", ",", "Waterloo", ",", "Ontario", ",", "Canada", ",", "2005", ".", "-LSB-", "9", "-RSB-", "W.", "H.", "Press", ",", "S.", "A.", "Teukolsky", ",", "W.", "T.", "Vetterling", "and", "B.", "P.", "Flannery", ",", "Numerical", "recipes", "in", "C", ":", "The", "Art", "of", "Scientific", "Computing", ",", "Cambridge", "University", "Press", ",", "1992", ".", "262"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["option pricing", "lattice rules"], "abstractive_keyphrases": ["simulation of multivariate integrations", "monte carlo and quasi-monte carlo methods"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "209", "document": ["Using", "Roles", "and", "Business", "Objects", "to", "Model", "and", "Understand", "Business", "Processes", "Business", "process", "modeling", "focus", "on", "describing", "how", "activities", "interact", "with", "other", "business", "objects", "while", "sustaining", "the", "organization", "'s", "strategy", ".", "Business", "objects", "are", "object-oriented", "representations", "of", "organizational", "concepts", ",", "such", "as", "resources", "and", "actors", ",", "which", "collaborate", "with", "one", "another", "in", "order", "to", "achieve", "business", "goals", ".", "These", "objects", "exhibit", "different", "behavior", "according", "to", "each", "specific", "collaboration", "context", ".", "This", "means", "the", "perception", "of", "a", "business", "object", "depends", "on", "its", "collaborations", "with", "other", "objects", ".", "Business", "process", "modeling", "techniques", "do", "not", "clearly", "separate", "the", "multiple", "collaborative", "aspects", "of", "a", "business", "object", "from", "its", "internal", "aspects", ",", "making", "it", "difficult", "to", "understand", "objects", "which", "are", "used", "in", "different", "contexts", ",", "thus", "hindering", "reuse", ".", "To", "cope", "with", "such", "issues", ",", "this", "paper", "proposes", "using", "role", "modeling", "as", "a", "separation", "of", "concerns", "mechanism", "to", "increase", "the", "understandability", "and", "reusability", "of", "business", "process", "models", ".", "The", "approach", "divides", "a", "business", "process", "model", "into", "a", "business", "object", "model", "and", "a", "role", "model", ".", "The", "business", "object", "models", "deals", "with", "specifying", "the", "structure", "and", "intrinsic", "behavior", "of", "business", "objects", "while", "the", "role", "model", "specifies", "its", "collaborative", "aspects", ".", "D.", "2.9", "-LSB-", "Management", "-RSB-", ":", "Software", "Process", "Models", "D.", "2.10", "-LSB-", "Design", "-RSB-", ":", "Methodologies", "H.", "1.0", "-LSB-", "Models", "and", "Principles", "-RSB-", ":", "General", "Representing", "and", "keeping", "the", "alignment", "between", "the", "multiple", "elements", "of", "an", "organization", "is", "fundamental", "to", "understand", "how", "it", "operates", "and", "how", "it", "can", "be", "adapted", "to", "cope", "with", "a", "changing", "business", "environment", "-LSB-", "5", "-RSB-", ".", "This", "requires", "understanding", "how", "business", "activities", "interact", "and", "are", "aligned", "with", "other", "organizational", "elements", "while", "supporting", "the", "operation", "of", "the", "business", ".", "In", "the", "past", "years", ",", "significant", "work", ",", "particularly", "in", "the", "area", "of", "business", "process", "modeling", "has", "been", "proposed", ",", "ranging", "from", "general", "modeling", "concepts", "to", "business", "automation", "languages", "-LSB-", "10", ",", "16", ",", "17", ",", "18", "-RSB-", ".", "Business", "process", "modeling", "can", "be", "used", "for", "multiple", "purposes", ",", "such", "as", "facilitating", "human", "understanding", "and", "communication", "-LSB-", "29", "-RSB-", ",", "supporting", "process", "improvement", "and", "re-engineering", "through", "business", "process", "analysis", "and", "simulation", "-LSB-", "8", ",", "17", "-RSB-", "and", "automating", "the", "execution", "of", "business", "processes", "-LSB-", "1", ",", "22", "-RSB-", ".", "A", "business", "process", "model", "captures", "the", "relationships", "that", "are", "meaningful", "to", "the", "business", "between", "different", "organizational", "concepts", ",", "such", "as", "activities", ",", "the", "resources", "used", "by", "activities", "and", "the", "human", "or", "automated", "actors", "who", "perform", "these", "activities", ".", "Identifying", "the", "properties", "and", "relationships", "of", "these", "concepts", "is", "fundamental", "to", "help", "understanding", "and", "evolving", "the", "business", "since", "it", "facilitates", "the", "communication", "between", "stakeholders", ",", "business", "specialists", "and", "support", "system", "specialists", ".", "We", "model", "business", "concepts", "as", "classes", "of", "business", "objects", "in", "a", "consistent", "object-oriented", "glossary", "of", "business", "concepts", "from", "where", "objects", "can", "be", "composed", ",", "specialized", "and", "reused", ".", "However", ",", "fully", "characterizing", "the", "type", "of", "a", "business", "object", ",", "its", "properties", "and", "relationships", "is", "not", "straightforward", ".", "This", "results", "from", "a", "business", "object", "generally", "being", "used", "in", "different", "contexts", "and", "relating", "to", "several", "other", "business", "objects", "in", "the", "organization", ".", "For", "example", ",", "a", "business", "object", "modeling", "a", "Product", "may", "be", "brought", "into", "play", "in", "several", "processes", ",", "such", "as", "Manufacturing", ",", "Logistics", "and", "Selling", ".", "In", "each", "of", "these", "contexts", ",", "it", "relates", "with", "different", "activities", "and", "resources", ",", "displaying", "different", "and", "possibly", "overlapping", "properties", "and", "behavior", "that", "are", "context-dependent", ".", "This", "means", "the", "object", "acts", "as", "a", "multi-dimensional", "concept", ".", "If", "business", "objects", "are", "modeled", "as", "one-dimensional", "concepts", ",", "i.e.", "without", "its", "properties", "and", "behavior", "being", "described", "as", "dependent", "on", "the", "context", ",", "then", "the", "objects", "will", "not", "have", "explicit", "information", "on", "how", "to", "guide", "the", "design", "of", "a", "business", "support", "system", "that", "is", "able", "to", "cope", "with", "evolution", ".", "For", "example", ",", "if", "the", "Manufacturing", "process", "changes", ",", "there", "may", "be", "changes", "to", "the", "Product", "object", ".", "However", ",", "if", "the", "Product", "object", "does", "not", "explicitly", "represent", "the", "aspects", "related", "to", "its", "manufacture", ",", "then", "there", "will", "be", "no", "information", "on", "the", "properties", "requiring", "modifications", ".", "This", "paper", "focus", "on", "describing", "on", "how", "to", "break", "up", "the", "universe", "of", "process", "modeling", "and", "its", "business", "objects", "into", "different", "aspects", "or", "areas", "of", "concern", ",", "of", "which", "each", "can", "then", "be", "handled", "independ-ently", "and", "later", "composed", "to", "synthesize", "a", "complete", "model", ".", "To", "do", "so", ",", "we", "propose", "defining", "two", "complementary", "conceptual", "models", ",", "a", "role", "model", "and", "a", "business", "object", "model", ".", "The", "role", "model", "describes", "business", "object", "collaborations", "and", "the", "properties", "of", "business", "objects", "that", "are", "concerned", "with", "each", "role", ",", "being", "each", "role", "a", "type", "on", "its", "own", ".", "The", "business", "object", "model", "describes", "the", "structure", "and", "the", "properties", "of", "a", "business", "object", "that", "are", "independent", "of", "a", "specific", "context", ".", "The", "relationships", "between", "business", "objects", "are", "specified", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SAC", "'", "05", ",", "March", "13", "17", ",", "2005", ",", "Santa", "Fe", ",", "NM", ",", "USA", ".", "Copyright", "2005", "ACM", "1-58113-964-0", "/", "05/0003", "...", "$", "5.00", ".", "1308", "2005", "ACM", "Symposium", "on", "Applied", "Computing", "by", "roles", "the", "objects", "play", "while", "collaborating", ".", "We", "argue", "that", "using", "roles", "and", "business", "objects", "to", "model", "business", "processes", "improves", "the", "understandability", "of", "the", "individual", "business", "objects", "and", "of", "the", "process", "model", ".", "It", "also", "improves", "model", "reengineering", "since", "it", "promotes", "reuse", "and", "makes", "explicit", "the", "dependencies", "between", "the", "model", "elements", ".", "The", "remainder", "of", "this", "paper", "is", "structured", "as", "follows", ":", "next", "section", "reviews", "some", "of", "the", "research", "on", "business", "process", "modeling", ".", "Section", "3", "reviews", "role", "modeling", ",", "describes", "how", "roles", "can", "be", "identified", "and", "defines", "the", "concepts", "of", "business", "objects", "and", "role", ".", "Section", "4", "presents", "how", "the", "business", "object", "and", "the", "role", "model", "can", "describe", "a", "business", "process", ",", "followed", "by", "an", "example", "of", "application", "in", "section", "5", ".", "Finally", ",", "section", "6", "sets", "out", "the", "conclusions", "and", "future", "work", ".", "The", "Workflow", "Reference", "Model", "-LSB-", "31", "-RSB-", "defines", "a", "business", "process", "as", "a", "set", "of", "one", "or", "more", "connected", "activities", ",", "which", "collectively", "realize", "a", "business", "objective", "or", "policy", "goal", ",", "normally", "within", "the", "context", "of", "an", "organizational", "structure", "defining", "functional", "responsibilities", "and", "relationships", ".", "This", "definition", "extends", "the", "definition", "proposed", "by", "Davenport", "and", "Short", "-LSB-", "7", "-RSB-", "stating", "that", "a", "business", "process", "is", "a", "set", "of", "logically", "related", "tasks", "performed", "to", "achieve", "a", "defined", "business", "outcome", ".", "Most", "approaches", "to", "business", "process", "modeling", "concentrate", "on", "some", "sort", "of", "process", "map", "or", "diagram", ",", "which", "shows", "how", "activities", "are", "scheduled", "in", "the", "course", "of", "a", "business", "process", ".", "Indeed", ",", "there", "is", "little", "disagreement", "about", "the", "key", "elements", "process", "diagrams", ".", "There", "are", "usually", "ways", "to", "represent", "decision", "points", "and", "to", "express", "various", "activity", "coordination", "patterns", ",", "such", "as", "sequential", "flow", ",", "branching", "and", "parallel", "execution", ".", "Some", "techniques", "introduce", "swim-lanes", "to", "indicate", "the", "responsibilities", "of", "participants", ",", "such", "as", "departments", "or", "individuals", ".", "This", "allows", "representing", "the", "activities", "performed", "by", "actors", "in", "the", "context", "of", "a", "process", ".", "Two", "representative", "coordination-oriented", "business", "process", "modeling", "techniques", "that", "make", "use", "of", "actors", ",", "activities", "and", "swim-lanes", "are", "Role", "Interaction", "Networks", "-LSB-", "24", "-RSB-", "and", "Role", "Activity", "Diagrams", "-LSB-", "21", "-RSB-", ".", "Role", "Activity", "Diagrams", "provide", "the", "means", "to", "identify", "roles", "and", "interactions", ".", "Roles", "organize", "a", "process", "'", "activities", "into", "sets", "of", "operations", "associated", "with", "a", "given", "participant", "in", "the", "process", ".", "Interactions", "show", "the", "dependencies", "between", "those", "participants", ".", "While", "this", "approach", "improves", "the", "understandability", "of", "a", "process", "model", "since", "it", "depicts", "what", "a", "participant", "does", "in", "a", "process", ",", "it", "falls", "short", "to", "explain", "the", "behavior", "of", "the", "business", "objects", "in", "a", "specific", "context", "of", "interaction", ".", "Additionally", ",", "roles", "are", "defined", "as", "groups", "of", "activities", "and", "not", "as", "types", ",", "so", "they", "can", "not", "be", "explicitly", "composed", "or", "specialized", ".", "Business", "process", "modeling", "is", "not", "limited", "to", "process", "diagrams", ".", "The", "focus", "of", "this", "paper", "is", "not", "on", "process", "diagrams", "but", "on", "describing", "the", "roles", "that", "are", "used", "to", "specify", "the", "responsibilities", "of", "business", "objects", ".", "A", "business", "object", "is", "the", "model", "of", "a", "concept", "in", "the", "business", "universe", "of", "discourse", ".", "It", "plays", "roles", "in", "a", "business", "process", "by", "means", "of", "participating", "in", "different", "activities", ".", "Business", "objects", "participate", "in", "different", "business", "processes", "in", "different", "contexts", ",", "thus", "playing", "multiple", "roles", ".", "It", "is", "important", "to", "note", "that", "process", "diagrams", "do", "not", "fully", "describe", "the", "business", "object", "structure", "and", "relationships", ",", "and", "do", "not", "emphasize", "why", "activities", "are", "performed", "or", "roles", "are", "enacted", ".", "Besides", ",", "they", "only", "identify", "actor", "roles", ",", "i.e.", "the", "roles", "of", "the", "performer", "of", "an", "activity", ".", "This", "means", ",", "for", "example", ",", "that", "the", "properties", "of", "a", "resource", "that", "is", "used", "by", "multiple", "activities", "are", "not", "separated", "according", "to", "its", "usage", "context", ".", "The", "next", "section", "introduces", "the", "fundamental", "concepts", "behind", "role", "theory", "and", "role", "modeling", ".", "In", "the", "late", "1920s", ",", "role", "theory", "started", "to", "generated", "interest", "among", "social", "scientists", "from", "many", "backgrounds", ",", "such", "as", "psychology", "and", "sociology", ".", "Its", "central", "concern", "has", "been", "with", "patterns", "of", "human", "conduct", ",", "context", "and", "social", "structure", "as", "well", "as", "with", "individual", "response", ".", "The", "motivation", "for", "roles", "is", "to", "allow", "particular", "viewpoints", "regarding", "the", "factors", "presumed", "to", "be", "influential", "in", "governing", "behavior", ".", "It", "lies", "on", "a", "theatrical", "analogy", "of", "actors", "playing", "parts", "or", "roles", "in", "a", "play", ".", "As", "Biddle", "and", "Thomas", "-LSB-", "4", "-RSB-", "have", "stated", ":", "``", "When", "actors", "portray", "a", "character", "in", "a", "play", ",", "their", "performance", "is", "determined", "by", "the", "script", ",", "the", "director", "'s", "instructions", ",", "the", "performances", "of", "fellow", "actors", ",", "and", "reactions", "of", "the", "audience", "as", "well", "as", "by", "the", "acting", "talents", "of", "the", "players", ".", "Apart", "from", "differences", "between", "actors", "in", "the", "interpretation", "of", "their", "parts", ",", "the", "performance", "of", "each", "actor", "is", "pro-grammed", "by", "all", "of", "these", "external", "factors", ";", "consequently", ",", "there", "are", "significant", "similarities", "in", "the", "performances", "of", "actors", "taking", "the", "same", "part", ",", "no", "matter", "who", "the", "actual", "actors", "are", ".", "''", "There", "are", "many", "complementary", "definitions", "for", "the", "concept", "of", "role", "but", "still", "there", "is", "no", "consensus", "on", "the", "properties", "to", "represent", "it", ".", "In", "the", "late", "1970s", ",", "sociological", "role", "theorists", "defined", "a", "role", "as", "``", "a", "comprehensive", "pattern", "for", "behavior", "and", "attitude", "''", "-LSB-", "26", "-RSB-", "or", "as", "``", "be-havioral", "repertoire", "characteristic", "of", "a", "person", "or", "a", "position", "''", "-LSB-", "3", "-RSB-", ".", "Nonetheless", ",", "the", "concept", "of", "role", "is", "used", "in", "computer", "science", "and", "software", "engineering", "as", "a", "modeling", "technique", "that", "deals", "with", "separation", "of", "concerns", ",", "i.e.", "the", "separation", "of", "the", "behavioral", "repertoire", "characteristics", "of", "some", "concept", ".", "It", "is", "used", "in", "methodologies", "such", "as", "RM-ODP", "-LSB-", "14", "-RSB-", "and", "in", "several", "object-oriented", "frameworks", "-LSB-", "10", ",", "12", ",", "14", ",", "15", ",", "25", "-RSB-", ".", "3.1", "Business", "Objects", "and", "Roles", "Modeling", "is", "an", "abstraction", "technique", "that", "consists", "of", "identifying", "concepts", "of", "interest", "in", "some", "universe", "of", "discourse", "and", "representing", "its", "essential", "features", "for", "a", "specific", "purpose", "in", "a", "model", ".", "In", "business", "modeling", ",", "the", "universe", "of", "discourse", "corresponds", "to", "what", "is", "per-ceived", "of", "an", "organization", "as", "being", "reality", "by", "business", "domain", "experts", ".", "Ontologies", "typically", "distinguish", "entities", "-LRB-", "nouns", "-RRB-", "from", "activities", "-LRB-", "verbs", "-RRB-", ".", "Entities", "are", "things", "that", "exist", "in", "the", "business", ",", "either", "concrete", "-LRB-", "e.g.", "a", "person", "-RRB-", "or", "abstract", "-LRB-", "e.g.", "an", "organization", "-RRB-", ".", "Activities", "are", "things", "that", "happen", "in", "the", "business", ".", "Activities", "make", "use", "of", "the", "business", "entities", ".", "We", "model", "both", "of", "these", "concepts", "as", "business", "objects", ".", "A", "business", "object", "is", "then", "the", "super", "type", "of", "all", "objects", "that", "represent", "business", "concepts", "with", "a", "well-defined", "boundary", "and", "identity", ".", "It", "encapsulates", "the", "definition", ",", "attributes", ",", "behavior", "and", "relationships", "to", "other", "business", "objects", "-LSB-", "20", "-RSB-", ".", "The", "state", "of", "a", "business", "object", "is", "characterized", "by", "the", "values", "of", "its", "attributes", ".", "The", "behavior", "is", "given", "by", "the", "actions", "that", "the", "business", "object", "is", "capable", "of", "performing", "to", "fulfill", "its", "purpose", ",", "including", "changing", "its", "intrinsic", "attributes", "and", "collaborating", "with", "other", "business", "objects", ".", "Business", "objects", "have", "intrinsic", "and", "extrinsic", "features", ".", "Intrinsic", "features", "describe", "it", "in", "isolation", ",", "while", "extrinsic", "features", "arise", "from", "the", "relationships", "or", "collaborations", "with", "other", "business", "objects", ".", "For", "example", ",", "a", "Person", "has", "intrinsic", "features", "such", "as", "Age", "and", "Sex", ",", "and", "extrinsic", "features", "such", "as", "Job", "Position", "and", "Salary", ",", "which", "derive", "from", "a", "transitory", "relationship", "between", "the", "Person", "and", "some", "Organization", "or", "Company", ".", "Intrinsic", "features", "may", "change", "over", "time", "-LRB-", "e.g.", "Age", "-RRB-", "but", "always", "characterize", "the", "object", ".", "However", ",", "extrinsic", "features", "may", "become", "inappropriate", "-LRB-", "e.g.", "the", "Job", "Position", "property", "is", "not", "relevant", "when", "characterizing", "an", "unemployed", "person", "-RRB-", ".", "One", "way", "to", "separate", "the", "intrinsic", "features", "from", "the", "extrinsic", "features", "of", "an", "object", "is", "by", "means", "of", "roles", "-LSB-", "4", ",", "15", ",", "23", "-RSB-", ".", "Roles", ",", "as", "a", "modeling", "construct", ",", "aim", "at", "separating", "the", "concerns", "that", "arise", "from", "1309", "business", "object", "collaborations", ".", "We", "define", "a", "role", "as", "the", "observable", "behavioral", "of", "a", "business", "object", "defined", "in", "a", "specific", "collaboration", "context", ".", "Thus", ",", "a", "role", "represents", "the", "extrinsic", "features", "of", "a", "business", "object", "when", "it", "collaborates", "with", "other", "business", "objects", ".", "3.2", "Identifying", "Roles", "To", "distinguish", "roles", "from", "entities", ",", "Guarino", "et", "al.", "proposed", "two", "criteria", "-LSB-", "11", "-RSB-", ".", "A", "role", "is", "a", "type", "that", "-LRB-", "1", "-RRB-", "is", "founded", "and", "-LRB-", "2", "-RRB-", "lacks", "semantic", "rigidity", ".", "Something", "is", "founded", "if", "it", "is", "defined", "in", "terms", "of", "relationships", "with", "other", "things", "in", "a", "given", "context", ".", "For", "instance", ",", "the", "concept", "of", "Reader", "is", "founded", "since", "for", "a", "Person", "to", "be", "a", "Reader", "there", "must", "be", "something", "being", "read", ".", "Conversely", ",", "a", "Person", "is", "not", "founded", "for", "the", "reason", "that", "its", "intrinsic", "properties", "are", "defined", "on", "their", "own", "regardless", "of", "the", "collaborations", "with", "other", "things", ".", "Something", "is", "semantically", "rigid", "if", "its", "identity", "directly", "depends", "on", "being", "kind", "of", "some", "class", ".", "A", "Book", "is", "semantically", "rigid", "since", "its", "identity", "is", "still", "that", "of", "a", "Book", "regardless", "someone", "is", "reading", "it", "or", "not", ".", "In", "contrast", ",", "Reader", "is", "not", "rigid", "because", "an", "entity", "filling", "the", "role", "of", "Reader", "retains", "its", "identity", "outside", "the", "context", "of", "that", "role", ".", "For", "example", ",", "a", "Person", "is", "a", "Reader", "while", "reading", "a", "Book", ",", "but", "when", "it", "stops", "reading", "it", ",", "it", "is", "still", "a", "Person", ".", "Therefore", ",", "roles", "are", "founded", ",", "semantically", "non-rigid", "types", "while", "entities", "are", "non-founded", ",", "semantically", "rigid", "types", ".", "The", "proposed", "approach", "deals", "with", "decomposing", "the", "business", "process", "modeling", "universe", "into", "two", "complementary", "models", ",", "the", "business", "object", "model", "and", "the", "role", "model", ",", "and", "later", "binding", "these", "two", "models", "into", "an", "integrated", "specification", "of", "the", "business", "process", ".", "The", "business", "object", "model", "deals", "with", "the", "structure", "and", "intrinsic", "properties", "of", "business", "objects", ".", "Here", ",", "a", "process", "is", "modeled", "as", "a", "network", "of", "business", "objects", ".", "However", ",", "business", "objects", "relate", "to", "other", "business", "objects", "in", "specific", "contexts", "and", "are", "often", "used", "in", "more", "than", "one", "context", ",", "where", "they", "may", "play", "different", "roles", ".", "So", ",", "the", "roles", "for", "a", "business", "object", "only", "need", "to", "be", "included", "in", "its", "definition", "when", "the", "object", "acts", "in", "the", "collaboration", "contexts", "described", "by", "the", "roles", ".", "It", "is", "also", "impossible", "to", "forecast", "all", "of", "the", "possible", "roles", "of", "a", "business", "object", ".", "Thus", ",", "adding", "superfluous", "roles", "to", "the", "object", "impairs", "several", "design", "quality", "attributes", "such", "as", "understandability", ",", "maintainability", "and", "reusability", ".", "To", "deal", "with", "such", "a", "concern", ",", "roles", "and", "business", "objects", "should", "be", "dealt", "with", "separately", "and", "later", "bound", "together", ".", "The", "concept", "of", "role", "allows", "a", "system", "to", "be", "decomposed", "into", "a", "set", "of", "business", "objects", "capable", "of", "clearly", "separating", "core", "parts", "and", "collaboration-dependent", "parts", "and", "then", "to", "abstract", "and", "compose", "such", "objects", ".", "Consequently", ",", "a", "set", "of", "roles", "helps", "business", "objects", "to", "be", "defined", "to", "be", "more", "reusable", "and", "extensible", ".", "Roles", "may", "also", "be", "reused", "as", "an", "independent", "unit", "encapsulating", "specific", "collaborations", ".", "Roles", "are", "organized", "into", "role", "models", ",", "which", "deal", "with", "specifying", "the", "network", "of", "related", "roles", "required", "for", "a", "collaboration", "to", "happen", ".", "We", "propose", "defining", "and", "represented", "both", "of", "these", "models", "using", "the", "Unified", "Modeling", "Language", "-LSB-", "19", "-RSB-", "since", "its", "graphical", "syntax", "and", "semantics", "is", "well-know", "by", "software", "specialists", "and", ",", "although", "to", "a", "lesser", "scale", ",", "by", "business", "specialists", ".", "However", ",", "the", "standard", "UML", "does", "not", "have", "explicit", "constructs", "to", "represent", "the", "required", "business", "domain", "concepts", ".", "We", "make", "use", "of", "the", "UML", "extensibility", "package", "to", "define", "such", "concepts", ".", "The", "extensibility", "package", "specifies", "how", "UML", "model", "elements", "can", "be", "extended", "and", "customized", "with", "new", "graphical", "representations", "and", "new", "semantics", "by", "specifying", "stereotypes", ",", "tagged", "values", "and", "constraints", ".", "A", "coherent", "set", "of", "such", "extensions", "defined", "for", "a", "specific", "purpose", "makes", "up", "a", "UML", "profile", "-LSB-", "2", ",", "19", "-RSB-", ".", "The", "next", "subsections", "describe", "how", "the", "business", "object", "models", "and", "role", "models", "are", "represented", ".", "4.1", "The", "Business", "Object", "Model", "The", "business", "object", "model", "specifies", "the", "structure", "and", "intrinsic", "properties", "of", "business", "objects", ".", "Business", "objects", "are", "coordinated", "towards", "the", "achievement", "of", "goals", "that", "describe", "why", "actions", "occur", ".", "A", "business", "process", "describes", "how", "objects", "are", "coordinated", ".", "Figure", "1", ".", "Classes", "in", "the", "business", "object", "model", "profile", ".", "Figure", "1", "is", "a", "class", "diagram", "describing", "the", "UML", "stereotypes", "-LRB-", "classes", "in", "white", "-RRB-", "that", "are", "used", "in", "the", "business", "object", "model", ".", "A", "Business", "Object", "is", "a", "UML", "Class", "and", "it", "is", "specialized", "as", "a", "noun", "or", "verb", "by", "means", "of", "the", "Entity", "and", "Activity", "class", "stereotypes", ".", "Business", "object", "models", "are", "represented", "as", "UML", "class", "diagrams", "and", "the", "intrinsic", "behavior", "of", "its", "objects", "is", "represented", "using", "UML", "'s", "behavioral", "diagrams", ".", "Note", "that", "collaborations", "between", "business", "objects", "are", "not", "represented", "in", "this", "model", "but", "in", "the", "role", "model", ".", "The", "stereotypes", "within", "the", "business", "object", "model", "can", "be", "summa-rized", "as", "follows", ":", "Business", "Object", ":", "an", "abstraction", "of", "a", "concept", "of", "interest", "in", "the", "organization", ".", "It", "is", "a", "UML", "Class", ".", "Activity", ":", "a", "specialization", "of", "Business", "Object", ".", "It", "is", "a", "verb", "describing", "how", "a", "piece", "of", "work", "is", "performed", ".", "Activities", "are", "performed", "by", "Actors", ",", "and", "operate", "over", "Business", "Objects", ",", "especially", "those", "acting", "as", "Resources", ".", "Entity", ":", "a", "specialization", "of", "Business", "Object", ".", "It", "is", "a", "noun", "describing", "a", "concrete", "or", "abstract", "business", "concept", ".", "Resource", ":", "a", "specialization", "of", "Entity", ",", "which", "is", "the", "input", "or", "output", "of", "an", "Activity", ".", "It", "represents", "things", "such", "as", "materials", "or", "information", ".", "Actor", ":", "a", "specialization", "of", "Entity", ".", "It", "is", "someone", "-LRB-", "a", "human", "actor", "-RRB-", "or", "something", "-LRB-", "an", "automated", "actor", ",", "such", "as", "an", "information", "system", "or", "a", "production", "machine", "-RRB-", "that", "can", "perform", "the", "actions", "required", "by", "an", "Activity", ".", "Goal", ":", "a", "specialization", "of", "Entity", "that", "represents", "a", "measurable", "state", "that", "the", "organization", "intends", "to", "achieve", ".", "Goals", "are", "achieved", "by", "Business", "Objects", ",", "especially", "Activities", ".", "A", "business", "process", "is", "composed", "of", "Activities", "that", "use", "input", "Resources", ",", "such", "as", "materials", "or", "information", ",", "to", "produce", "output", "Resources", ".", "Nevertheless", ",", "the", "input", "of", "an", "Activity", "may", "be", "any", "other", "Business", "Object", "or", "a", "composition", "of", "Business", "Objects", ".", "For", "instance", ",", "changing", "or", "reengineering", "a", "business", "process", "is", "in", "itself", "a", "process", ".", "This", "process", "takes", "as", "input", "a", "business", "object", "model", "-LRB-", "i.e.", "a", "network", "of", "relationships", "between", "business", "objects", "-RRB-", "and", "produces", "a", "modified", "model", ".", "Therefore", ",", "the", "composed", "business", "object", "model", "is", "being", "used", "as", "a", "resource", "in", "this", "context", ".", "Activities", "are", "performed", "to", "achieve", "specific", "business", "Goals", ".", "Analyzing", "Goals", "and", "their", "relationships", "with", "the", "Activities", "produces", "an", "alignment", "measure", "between", "the", "processes", "and", "the", "organization", "'s", "operational", "strategy", ".", "The", "Activities", "of", "a", "business", "process", "are", "not", "1310", "autonomous", "in", "the", "sense", "they", "require", "one", "or", "more", "Actor", "or", "Business", "Support", "Systems", "to", "perform", "them", ".", "Actors", "represent", "people", ",", "systems", "-LRB-", "mechanical", "or", "computer", "based", "-RRB-", "or", "a", "combination", "of", "both", ".", "At", "a", "large", "scale", ",", "business", "processes", "are", "aggregated", "into", "value", "chains", "-LRB-", "which", "are", "also", "business", "processes", "-RRB-", "that", "produce", "a", "measurable", "value", "that", "is", "visible", "to", "external", "customers", ".", "Figure", "2", ".", "Example", "of", "activity", "composition", "and", "specialization", ".", "Business", "objects", "are", "classes", "conforming", "to", "a", "type", ".", "They", "can", "be", "specialized", "and", "composed", "just", "like", "ordinary", "objects", ".", "Figure", "2", "shows", "an", "example", "of", "a", "class", "diagram", "depicting", "composition", "and", "specialization", ".", "Each", "chevron", "icon", "represents", "an", "activity", "or", "process", "as", "previously", "defined", ".", "The", "Sell", "Product", "activity", "is", "composed", "by", "a", "set", "of", "sub-activities", "such", "as", "Identify", "Customers", "and", "Handle", "Order", ".", "These", "activities", "can", "be", "further", "decomposed", "into", "actions", "that", "are", "more", "refined", ".", "The", "activity", "Sell", "Product", "is", "specialized", "as", "Sell", "by", "Mail", "Order", "and", "Sell", "Online", ".", "Note", "that", "composition", "and", "specialization", "do", "not", "imply", "any", "collaboration", "constraints", "between", "the", "activities", ".", "4.2", "The", "Role", "Model", "Roles", "are", "a", "separation", "of", "concerns", "mechanism", "that", "allows", "business", "objects", "to", "be", "observed", "from", "different", "perspectives", ".", "Role", "models", "identify", "roles", "as", "types", "and", "describe", "the", "network", "of", "roles", "required", "for", "a", "specific", "collaboration", "to", "happen", ".", "As", "a", "player", "of", "a", "collaboration", ",", "a", "role", "defines", "the", "set", "of", "extrinsic", "properties", "and", "behavior", "necessary", "to", "realize", "its", "participating", "collaborations", ".", "Figure", "3", ".", "Representation", "of", "a", "role", "model", "package", "-LRB-", "left", "-RRB-", ".", "Pair", "or", "related", "roles", "-LRB-", "right", "-RRB-", ".", "Role", "models", "are", "represented", "as", "UML", "packages", "with", "two", "compartments", "-LRB-", "v.", "Figure", "3", ",", "left", "-RRB-", ".", "The", "bottom", "compartment", "of", "the", "role", "model", "is", "a", "standard", "UML", "activity", "or", "interaction", "diagram", "describing", "how", "the", "roles", "are", "orchestrated", ".", "The", "top", "compartment", "of", "the", "package", "depicts", "the", "roles", "within", "the", "role", "model", ".", "Roles", "are", "represented", "by", "rounded", "rectangles", ",", "connected", "by", "a", "navigable", "collaboration", "relationship", "between", "the", "roles", ".", "The", "representation", "of", "a", "role", "always", "shows", "its", "name", ".", "Optionally", ",", "it", "also", "depicts", "in", "parenthesis", "the", "name", "of", "the", "role", "model", "to", "where", "the", "role", "belongs", "so", "that", "its", "scope", "is", "clearly", "defined", "-LRB-", "v.", "Figure", "3", ",", "right", "-RRB-", ".", "Figure", "4", "show", "an", "example", "of", "three", "role", "collaborations", "contained", "in", "two", "role", "models", ".", "The", "Tutorship", "role", "model", "defines", "a", "collaboration", "pattern", "between", "two", "roles", ",", "Tutor", "and", "Student", ".", "In", "this", "Course", "role", "model", "defines", "two", "pairs", "of", "collaborations", ":", "Participant", "/", "Taken", "Course", "and", "Lecturer", "/", "Given", "Course", ".", "Figure", "4", ".", "Example", "of", "role", "collaborations", ".", "Roles", "are", "modeled", "as", "classes", "and", "represented", "in", "class", "diagrams", "Methods", "and", "attributes", "concerning", "the", "specific", "collaboration", "context", "can", "be", "specified", "in", "the", "class", "diagram", ".", "Roles", "can", "also", "be", "constrained", ".", "A", "constraint", "asserts", "conditions", "between", "the", "roles", "in", "a", "role", "model", ".", "It", "can", "be", "expressed", "informally", "or", "formally", "-LRB-", "e.g.", "in", "plain", "text", "or", "OCL", "-RRB-", ".", "An", "example", "of", "a", "constraint", "is", "disallowing", "two", "roles", "to", "be", "played", "simultaneously", "by", "the", "same", "player", ",", "such", "as", "forbidding", "an", "object", "playing", "the", "role", "of", "Tutor", "and", "that", "of", "Student", "simultaneously", "and", "in", "the", "same", "context", ".", "Figure", "5", ".", "Example", "of", "role", "specialization", ".", "Figure", "5", "is", "a", "class", "diagram", "that", "shows", "how", "the", "Teacher", "role", "is", "specialized", "as", "Tutor", "and", "Lecturer", ".", "Role", "specialization", "means", "that", "if", "a", "business", "object", "is", "able", "to", "play", "a", "child", "role", ",", "then", "it", "is", "also", "able", "to", "play", "the", "super", "role", ".", "We", "have", "not", "yet", "found", "the", "need", "to", "define", "abstract", "roles", ",", "i.e.", ",", "a", "role", "that", "may", "only", "have", "its", "non-abstract", "speciali-zations", "instantiated", ".", "4.3", "Binding", "Roles", "to", "Objects", "Roles", "are", "bound", "to", "business", "objects", "pertaining", "to", "a", "given", "business", "object", "model", ".", "The", "binding", "is", "accomplished", "via", "the", "play", "relationship", "stereotype", ",", "which", "links", "a", "business", "object", "to", "a", "role", ".", "It", "means", "the", "business", "object", "is", "able", "to", "exhibit", "or", "play", "the", "behavior", "specified", "by", "the", "target", "role", ".", "Figure", "6", ".", "Binding", "roles", "to", "business", "objects", ".", "Figure", "6", "shows", "a", "class", "diagram", "where", "the", "pairs", "of", "roles", "Tutor", "/", "Student", ",", "Lecturer", "/", "Given", "Course", "and", "Participant", "/", "Taken", "Course", "defined", "earlier", "in", "Figure", "4", "and", "Figure", "5", ",", "are", "bound", "to", "two", "different", "business", "objects", ",", "Person", "and", "Course", ".", "The", "binding", "between", "objects", "and", "roles", "is", "depicted", "as", "a", "strong", "arrow", ".", "The", "light", "arrow", "represents", "the", "relationships", "between", "roles", ".", "The", "model", "also", "defines", "a", "constraint", "in", "the", "Tutorship", "role", "model", ".", "It", "asserts", "that", "the", "instances", "actually", "playing", "the", "Tutor", "and", "Student", "role", "must", "be", "distinct", ".", "In", "this", "example", ",", "it", "means", "the", "Person", "acting", "as", "a", "Tutor", "and", "the", "Person", "acting", "as", "Student", "must", "be", "different", "objects", ",", "as", "expected", ".", "1311", "Figure", "7", "shows", "two", "base", "role", "models", ",", "Supply", "and", "Pay", "and", "a", "composed", "role", "model", ",", "Purchase", ".", "Each", "role", "is", "a", "class", "and", "has", "methods", "and", "attributes", "concerning", "the", "specific", "collaboration", "context", "-LRB-", "e.g.", "the", "Supplier", "role", "in", "the", "Supply", "role", "model", "has", "the", "inquire", "and", "order", "methods", "-RRB-", ".", "The", "Purchase", "role", "model", "describes", "the", "collaborations", "between", "a", "Client", "and", "a", "Supplier", ",", "while", "the", "Pay", "role", "model", ",", "specifies", "Payer", "and", "Payee", ".", "Figure", "7", ".", "Supply", ",", "Pay", "and", "Purchase", "role", "models", ".", "Purchase", "is", "composed", "of", "the", "role", "model", "Supply", "and", "role", "model", "Pay", ".", "The", "Purchase", "role", "model", "is", "a", "composition", "of", "the", "Supply", "and", "Pay", "role", "models", ".", "A", "purchase", "results", "from", "supplying", "a", "product", "and", "paying", "for", "it", ".", "Figure", "8", "shows", "the", "binding", "of", "the", "roles", "within", "the", "Purchase", "role", "model", "to", "a", "set", "of", "business", "objects", ".", "In", "the", "first", "case", ",", "a", "Retailer", "acts", "as", "the", "Client", "and", "Payer", "to", "a", "Producer", "who", "is", "a", "Supplier", "and", "a", "Payee", "to", "the", "Retailer", ".", "However", ",", "the", "Retailer", "also", "acts", "as", "a", "Supplier", "-LRB-", "and", "a", "Payee", "-RRB-", "to", "a", "customer", ".", "Client", "-LRB-", "BankClient", "-RRB-", "play", "play", "play", "play", "play", "play", "Supplier", "-LRB-", "Purchase", "-RRB-", "Client", "-LRB-", "Purchase", "-RRB-", "Supplier", "-LRB-", "Purchase", "-RRB-", "Client", "-LRB-", "Purchase", "-RRB-", "business", "object", "Customer", "Payer", "-LRB-", "Purchase", "-RRB-", "Payee", "-LRB-", "Purchase", "-RRB-", "business", "object", "Bank", "B", "Banker", "-LRB-", "BankClient", "-RRB-", "Payer", "-LRB-", "Purchase", "-RRB-", "play", "Payee", "-LRB-", "Purchase", "-RRB-", "business", "object", "Bank", "A", "Banker", "-LRB-", "BankClient", "-RRB-", "Client", "-LRB-", "BankClient", "-RRB-", "play", "business", "object", "Producer", "business", "object", "Retailer", "Figure", "8", ".", "Binding", "roles", "to", "business", "objects", ".", "This", "paper", "has", "presented", "the", "fundamental", "concepts", "towards", "a", "conceptual", "object-oriented", "framework", "for", "role-based", "business", "process", "modeling", ".", "It", "relies", "on", "defining", "two", "distinct", "models", ".", "The", "business", "object", "model", "focus", "on", "describing", "the", "components", "of", "a", "business", "process", "-LRB-", "activities", ",", "goals", ",", "resources", "and", "actors", "-RRB-", "as", "business", "objects", ".", "This", "model", "depicts", "the", "type", "of", "each", "business", "object", ",", "its", "intrinsic", "behavior", "and", "properties", "but", "does", "not", "address", "the", "representation", "of", "the", "object", "'s", "features", "that", "are", "related", "to", "its", "collaborations", "with", "other", "objects", ".", "The", "role", "model", "depicts", "the", "collaborative", "behavior", "between", "roles", "and", "the", "constraints", "that", "regulate", "them", ".", "Roles", "are", "bound", "to", "business", "objects", "in", "a", "specific", "business", "object", "model", ",", "thus", "defining", "their", "usage", "context", ".", "This", "model", "describes", "roles", "as", "types", "on", "their", "own", "that", "can", "be", "specialized", "and", "aggregated", ".", "Role", "reuse", "is", "possible", "whenever", "the", "semantics", "of", "the", "interaction", "pattern", "is", "the", "same", ",", "regardless", "of", "the", "interaction", "context", ".", "The", "proposed", "approach", "separates", "the", "specification", "of", "the", "intrinsic", "features", "of", "a", "business", "object", "from", "its", "extrinsic", "features", ",", "meaning", "that", "the", "properties", "and", "behavior", "that", "arise", "from", "the", "collaborations", "with", "other", "objects", "are", "separated", "from", "the", "properties", "concerning", "the", "object", ".", "This", "separation", "results", "in", "an", "increase", "of", "the", "understandability", "of", "the", "business", "process", "since", "each", "different", "aspect", "of", "the", "business", "object", "may", "be", "discussed", ",", "analyzed", "and", "dealt", "with", "separately", ".", "Additionally", "roles", "also", "contribute", "to", "keep", "the", "alignment", "between", "the", "multiple", "organizational", "levels", "where", "a", "business", "process", "is", "defined", ".", "When", "a", "business", "object", "specified", "at", "business", "level", "is", "mapped", "to", "a", "component", "at", "business", "process", "support", "systems", "level", ",", "roles", "provide", "information", "on", "how", "to", "design", "the", "component", "so", "that", "changes", "to", "other", "levels", "can", "be", "traced", "and", "managed", ".", "Since", "the", "collaborative", "aspects", "of", "a", "business", "object", "are", "specified", "outside", "the", "object", "as", "roles", ",", "changes", "to", "a", "business", "process", "only", "interfere", "with", "the", "roles", "which", "derive", "from", "the", "corresponding", "activities", ",", "leaving", "the", "intrinsic", "properties", "of", "the", "object", "and", "its", "remaining", "roles", "un-changed", ".", "This", "means", "that", "only", "the", "implementation", "of", "the", "concerned", "roles", "needs", "modifications", ".", "The", "same", "reasoning", "applies", "the", "other", "way", "around", ".", "When", "the", "implementation", "of", "a", "specific", "role", "or", "business", "object", "is", "changed", "due", "to", "technical", "modifications", "or", "to", "the", "evolution", "of", "the", "software", ",", "these", "changes", "can", "be", "traced", "up", "to", "the", "processes", "and", "goals", "depending", "on", "it", ".", "The", "value", "of", "using", "role", "modeling", "increases", "with", "the", "need", "of", "making", "explicit", "the", "patterns", "of", "interaction", "between", "business", "objects", ".", "This", "is", "the", "case", "of", "processes", "where", "its", "business", "objects", "relate", "to", "several", "other", "business", "objects", ".", "In", "this", "case", ",", "understanding", "and", "reengineering", "such", "a", "process", "is", "often", "difficult", "due", "to", "the", "number", "of", "dependencies", "between", "objects", ",", "which", "are", "not", "separated", "or", "organized", "according", "to", "the", "interaction", "context", ".", "This", "also", "makes", "difficult", "to", "abstract", "common", "behavior", "patterns", "so", "that", "the", "business", "process", "elements", "may", "be", "reused", "in", "other", "contexts", ".", "We", "are", "currently", "extending", "this", "framework", "to", "enhance", "the", "representation", "of", "the", "interaction", "between", "business", "objects", "and", "the", "corresponding", "business", "support", "systems", ".", "The", "goal", "is", "to", "analyze", "the", "gap", "between", "the", "existing", "human", "skills", "and", "information", "system", "services", "of", "an", "organization", "and", "the", "requirements", "imposed", "by", "the", "as-is", "and", "to-be", "business", "models", "so", "that", "the", "alignment", "between", "these", "two", "levels", "may", "be", "improved", ".", "1", ".", "W.Aalst", ",", "K.Hee", ",", "Workflow", "Management", ",", "MIT", "Press", ",", "2002", ".", "2", ".", "S.Alhir", ",", "Unified", "Modeling", "Language", "Extension", "Mechanisms", ",", "Distributed", "Computing", ",", "1998", ".", "3", ".", "C.", "Bachman", ",", "M.", "Daya", ".", "The", "role", "concept", "in", "data", "models", ",", "Proceedings", "of", "the", "3", "rd", "International", "Conference", "on", "VLDB", ",", "1977", ".", "4", ".", "B.", "Biddle", ",", "E.", "Thomas", ",", "Role", "Theory", ",", "Concepts", "and", "Research", ",", "Kluwer", "Publishers", ",", "1979", ".", "1312", "5", ".", "Y.", "Chan", ",", "Why", "Have", "n't", "We", "Mastered", "Alignment", "?", ":", "The", "Importance", "of", "the", "Informal", "Organization", "Structure", ",", "MISQ", "Executive", ",", "Vol", ".1", ",", "No.", "2", ",", "2002", ".", "6", ".", "B.", "Curtis", ",", "M.", "Kelner", ",", "J.", "Over", ",", "Process", "Modeling", ",", "Communications", "of", "the", "ACM", ",", "Vol", ".", "35", ",", "No.", "9", ",", "1992", ".", "7", ".", "T.", "Davenport", ",", "J.", "Short", ",", "The", "New", "Industrial", "Engineering", ":", "Information", "Technology", "and", "Business", "Process", "Redesign", ".", "Sloan", "Management", "Review", ",", "1990", ".", "8", ".", "H.", "Eertink", ",", "W.", "Janssen", ",", "P.", "Luttighuis", ",", "W.", "Teeuw", ",", "C.", "Vissers", ",", "A", "Business", "Process", "Design", "Language", ",", "World", "Congress", "on", "Formal", "Methods", ",", "Springer", ",", "1999", ",", "pp.", "76-95", ".", "9", ".", "H.", "Eriksson", ",", "M.", "Penker", ",", "Business", "Modeling", "with", "UML", ",", "OMG", "Press", ",", "2001", ".", "10", ".", "G.", "Gottlob", ",", "M.", "Schrefl", ",", "B.", "R", "ck", ",", "Extending", "Object-Oriented", "Systems", "with", "Roles", ",", "ACM", "Transactions", "on", "Information", "Systems", ",", "Vol", ",", "14", ",", "1996", "pp.", "268-296", ".", "11", ".", "N.", "Guarino", ",", "M.", "Carrara", ",", "and", "P.", "Giaretta", ".", "An", "ontology", "of", "meta-level", "categories", ".", "Proceedings", "of", "the", "Fourth", "International", "Conference", "on", "Knowledge", "Representation", "and", "Reasoning", ",", "pages", "270", "280", ".", "Morgan", "Kaufmann", ",", "1994", ".", "12", ".", "T.", "Halpin", ",", "Augmenting", "UML", "with", "Fact-orientation", ",", "34th", "Hawaii", "International", "Conference", "on", "System", "Sciences", ",", "IEEE", "Press", ",", "Hawaii", ",", "USA", ",", "2001", ".", "13", ".", "ISO", ",", "ISO/IEC", "10746", "ODP", "Reference", "Model", ",", "International", "Standards", "Organization", ",", "1995", ".", "14", ".", "E.", "Kendall", ",", "Agent", "Roles", "and", "Role", "Models", ",", "New", "Abstractions", "for", "Multiagent", "System", "Analysis", "and", "Design", ",", "International", "Workshop", "on", "Intelligent", "Agents", ",", "1998", ".", "15", ".", "B.", "Kristiansen", ",", "Object-Oriented", "Modeling", "with", "Roles", ",", "1", "st", "Conference", "on", "Object", "Information", "Systems", ",", "1996", ".", "16", ".", "M.", "Madhavji", ",", "The", "Process", "Cycle", ",", "Software", "Engineering", "Journal", ",", "Vol", ".", "6", ",", "No.", "5", ",", "1991", ".", "17", ".", "C.", "McGowan", ",", "L.", "Bohmer", ",", "Model-based", "business", "process", "improvement", ",", "15thInternational", "Conference", "on", "Software", "Engineering", ",", "IEEE", "Computer", "Society", "Press", ",", "1993", ".", "18", ".", "D.", "Miers", ",", "Business", "Process", "Engineering", ",", "C-T", "Colin", ",", "Kogan", "Page", ",", "London", ",", "1996", ".", "19", ".", "OMG", ",", "Unified", "Modeling", "Language", "Specification", ",", "Version", "1.5", ",", "formal/03", "-03-01", ",", "2003", ".", "20", ".", "OMG", ",", "Business", "Object", "Management", "Special", "Interest", "Group", "-LRB-", "BOMSIG", "-RRB-", "Glossary", "of", "Terms", ",", "1995", ".", "21", ".", "M.", "Ould", ",", "Business", "Processes", ",", "Modeling", "and", "Analysis", "for", "Reengineering", "and", "Improvement", ",", "John", "Wiley", "&", "Sons", ",", "1995", ".", "22", ".", "A.", "Scheer", ",", "ARIS", "Business", "Process", "Modeling", ",", "2", "nd", "edition", ",", "Springer", ",", "1999", ".", "23", ".", "T.", "Reenskaug", "et", "al.", ",", "Working", "With", "Objects", ":", "The", "OOram", "Software", "Engineering", "Method", ".", "ManningPublication", "Co.", ",", "1996", ".", "24", ".", "B.", "Singh", ",", "G.", "Rein", ".", "Role", "Interaction", "Nets", "-LRB-", "RINs", "-RRB-", ":", "A", "Process", "Description", "Formalism", ",", "MCC", ",", "1992", "25", ".", "D.", "Taylor", ",", "Business", "Engineering", "with", "Object", "Technology", ",", "John", "Wiley", "&", "Sons", ",", "1995", ".", "26", ".", "R.", "Turner", ",", "Strategy", "for", "Developing", "an", "Integrated", "Role", "Theory", ".", "Humboldt", "Journal", "of", "Sociology", "and", "Religion", "7", ":", "123-139", ",", "1979", ".", "27", ".", "M.", "Uschold", ",", "M.", "King", ",", "S.", "Moralee", ",", "Y.", "Zorgios", ",", "The", "Enterprise", "Ontology", ",", "The", "Knowledge", "Engineering", "Review", ",", "Vol", ".", "13", ",", "1998", ".", "28", ".", "E.", "Verharen", ",", "A", "Language-Action", "Perspective", "on", "the", "Design", "of", "Cooperative", "Information", "Agents", ",", "CIP-Gegevens", "Koninklijke", "Biibliotheek", ",", "1997", ".", "29", ".", "T.", "Walford", ",", "Business", "Process", "Implementation", "for", "IT", "Professionals", "and", "Managers", ",", "Arthech", "House", ",", "MA", ",", "1999", ".", "30", ".", "E.", "Yourdon", ",", "Modern", "Structured", "Analysis", ",", "Prentice-Hall", ",", "Englewood", "Cliffs", ",", "NJ", ",", "1989", ".", "31", ".", "Workflow", "Management", "Coalition", ",", "The", "Workflow", "Reference", "Model", ",", "1995", "1313"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["business object", "role modeling", "business process modeling"], "abstractive_keyphrases": ["organizational engineering"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "182", "document": ["Sparsha", ":", "A", "Comprehensive", "Indian", "Language", "Toolset", "for", "the", "Blind", "Braille", "and", "audio", "feedback", "based", "systems", "have", "vastly", "improved", "the", "lives", "of", "the", "visually", "impaired", "across", "a", "wide", "majority", "of", "the", "globe", ".", "However", ",", "more", "than", "13", "million", "visually", "impaired", "people", "in", "the", "Indian", "sub-continent", "could", "not", "benefit", "much", "from", "such", "systems", ".", "This", "was", "primarily", "due", "to", "the", "difference", "in", "the", "technology", "required", "for", "Indian", "languages", "compared", "to", "those", "corresponding", "to", "other", "popular", "languages", "of", "the", "world", ".", "In", "this", "paper", ",", "we", "describe", "the", "Sparsha", "toolset", ".", "The", "contribution", "made", "by", "this", "research", "has", "enabled", "the", "visually", "impaired", "to", "read", "and", "write", "in", "Indian", "vernaculars", "with", "the", "help", "of", "a", "computer", ".", "D.", "0", "-LSB-", "Software", "-RSB-", ":", "General", "General", "Terms", ":", "Human", "Factors", ",", "Experimentation", ".", "The", "advent", "of", "computer", "systems", "has", "opened", "up", "many", "avenues", "for", "the", "visually", "impaired", ".", "They", "have", "benefited", "immensely", "from", "computer", "based", "systems", "like", "automatic", "text-to-Braille", "translation", "systems", "and", "audio", "feedback", "based", "virtual", "environments", ".", "Automatic", "text-to-Braille", "translation", "systems", "are", "widely", "available", "for", "languages", "like", "English", ",", "French", ",", "Spanish", ",", "Portuguese", ",", "and", "Swedish", "-LSB-", "7", ",", "26", ",", "18", ",", "16", "-RSB-", ".", "Similarly", "audio", "feedback", "based", "interfaces", "like", "screen", "readers", "are", "available", "for", "English", "and", "other", "languages", "-LSB-", "ref", "c", ",", "8", ",", "20", "-RSB-", ".", "These", "technologies", "have", "enabled", "the", "visually", "impaired", "to", "communicate", "effectively", "with", "other", "sighted", "people", "and", "also", "harness", "the", "power", "of", "the", "Internet", ".", "However", ",", "most", "of", "these", "technologies", "remained", "unusable", "to", "the", "large", "visually", "impaired", "population", "in", "the", "Indian", "sub-continent", "-LSB-", "17", "-RSB-", ".", "This", "crisis", "can", "be", "attributed", "to", "primarily", "two", "reasons", ".", "First", ",", "the", "languages", "in", "the", "mentioned", "region", "differ", "widely", "from", "other", "popular", "languages", "in", "the", "world", ",", "like", "English", ".", "These", "languages", "or", "vernaculars", "also", "use", "relatively", "complex", "scripts", "for", "writing", ".", "Hence", ",", "the", "technologies", "used", "for", "English", "and", "other", "such", "languages", "can", "not", "be", "easily", "extended", "to", "these", "languages", ".", "Secondly", ",", "the", "development", "of", "these", "technologies", "for", "Indian", "languages", ",", "right", "from", "scratch", ",", "is", "not", "trivial", "as", "the", "various", "Indian", "languages", "also", "differ", "significantly", "amongst", "themselves", ".", "The", "Sparsha", "toolset", "uses", "a", "number", "of", "innovative", "techniques", "to", "overcome", "the", "above", "mentioned", "challenges", "and", "provides", "a", "unified", "framework", "for", "a", "large", "number", "of", "popular", "Indian", "languages", ".", "Each", "of", "the", "tools", "of", "Sparsha", "will", "be", "discussed", "in", "detail", "in", "the", "following", "sections", ".", "Apart", "from", "English", "the", "languages", "supported", "by", "Sparsha", "include", "Hindi", ",", "Bengali", ",", "Assamese", ",", "Marathi", ",", "Gujarati", ",", "Oriya", ",", "Telugu", "and", "Kannada", ".", "The", "motivation", "for", "this", "work", "is", "to", "enable", "the", "visually", "impaired", "to", "read", "and", "write", "in", "all", "Indian", "languages", ".", "The", "toolset", "set", "has", "been", "named", "Sparsha", "since", "the", "word", "``", "Sparsha", "''", "means", "``", "touch", "''", "in", "Hindi", ",", "something", "which", "is", "closely", "associated", "with", "how", "Braille", "is", "read", ".", "Bharati", "Braille", "is", "a", "standard", "for", "writing", "text", "in", "Indian", "languages", "using", "the", "six", "dot", "format", "of", "Braille", ".", "It", "uses", "a", "single", "script", "to", "represent", "all", "Indian", "languages", ".", "This", "is", "done", "by", "assigning", "the", "same", "Braille", "cell", "to", "characters", "in", "different", "languages", "that", "are", "phonetically", "equivalent", ".", "In", "other", "words", ",", "the", "same", "combination", "of", "dots", "in", "a", "cell", "may", "represent", "different", "characters", "in", "each", "of", "the", "different", "Indian", "languages", ".", "However", ",", "a", "single", "character", "in", "an", "Indian", "language", "may", "be", "represented", "by", "more", "than", "one", "Braille", "cell", ".", "The", "above", "mentioned", "characteristics", "of", "Bharati", "Braille", "code", "is", "illustrated", "in", "Figure", "1", ".", "There", "are", "many", "other", "issues", "and", "rules", "related", "to", "Bharati", "Braille", ".", "These", "will", "be", "discussed", "in", "the", "following", "sections", "along", "with", "the", "methods", "used", "for", "implementing", "them", ".", "Braille", "a", "k", "T", "''", "-RCB-", "Hindi", "Bengali", "Kannada", "Oriya", "Figure", "1", ".", "Examples", "of", "characters", "in", "Indian", "languages", "and", "their", "corresponding", "Bharati", "Braille", "representation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ASSETS", "'", "05", ",", "October", "9", "12", ",", "2005", ",", "Baltimore", ",", "Maryland", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-159-7", "/", "05/00", "10", "...", "$", "5.00", ".", "114", "2.1", "Transliteration", "to", "Bharati", "Braille", "As", "shown", "in", "Figure", "1", ",", "characters", "from", "different", "Indian", "languages", "can", "be", "mapped", "to", "the", "same", "Braille", "representation", ".", "Thus", ",", "in", "order", "to", "implement", "this", ",", "the", "system", "uses", "separate", "code", "tables", "for", "each", "of", "the", "languages", "and", "depending", "on", "the", "users", "choice", "of", "input", "language", "the", "corresponding", "code", "table", "is", "used", ".", "The", "said", "method", "of", "implementation", "also", "makes", "the", "system", "highly", "scalable", "and", "allows", "the", "inclusion", "of", "more", "languages", "in", "future", "if", "required", ".", "For", "instance", "this", "technique", "is", "being", "used", "successfully", "to", "extend", "the", "system", "to", "include", "Urdu", "and", "Sinhala", ".", "This", "work", "is", "expected", "to", "be", "completed", "in", "the", "near", "future", ".", "Figure", "2", ".", "Formation", "of", "Conjugates", "Another", "important", "aspect", "of", "Indian", "languages", "is", "the", "formation", "of", "consonant", "clusters", "or", "conjugates", ".", "In", "traditional", "hand", "written", "text", "this", "may", "be", "expressed", "conceptually", "as", "the", "first", "consonant", "followed", "by", "a", "special", "character", "called", "halanth", "which", "in", "turn", "is", "followed", "by", "the", "second", "character", ".", "The", "consonant", "cluster", "may", "again", "be", "followed", "by", "a", "vowel", ".", "However", ",", "the", "visual", "representation", "of", "such", "a", "consonant", "cluster", "or", "conjugate", "may", "be", "quite", "different", "from", "the", "visual", "representation", "of", "each", "of", "the", "individual", "consonants", "included", "in", "it", ",", "as", "shown", "in", "Figure", "2", ".", "However", ",", "while", "translating", "the", "same", "text", "into", "Bharati", "Braille", "the", "special", "character", "halanth", "must", "precede", "both", "the", "consonants", "to", "be", "combined", "into", "a", "single", "conjugate", ".", "The", "above", "constraints", "necessarily", "mean", "that", "the", "Braille", "translation", "for", "a", "particular", "character", "also", "depends", "on", "the", "sequence", "of", "characters", "preceding", "and", "following", "it", ".", "Hence", ",", "in", "order", "to", "perform", "the", "tasks", "efficiently", "the", "system", "uses", "a", "finite", "state", "machine", "based", "approach", "similar", "to", "that", "of", "lexical", "analyzers", "-LSB-", "3", ",", "6", "-RSB-", ".", "The", "mentioned", "approach", "also", "proves", "to", "be", "suitable", "for", "handling", "other", "issues", "associated", "with", "standard", "Braille", "translation", "like", "detection", "of", "opening", "and", "closing", "quotation", "marks", ",", "string", "of", "uppercase", "characters", ".", "Apart", "from", "Indian", "languages", "the", "Sparsha", "system", "supports", "the", "translation", "of", "English", "language", "texts", "into", "grade", "1", "and", "grade", "2", "Braille", ".", "The", "system", "maintains", "a", "database", "of", "all", "standard", "Braille", "contractions", "which", "is", "used", "for", "generating", "grade", "2", "Braille", ".", "Furthermore", ",", "the", "system", "allows", "the", "user", "to", "add", "new", "contractions", "to", "the", "existing", "database", ".", "The", "Sparsha", "system", "also", "supports", "the", "proper", "translation", "of", "a", "document", "containing", "text", "both", "in", "English", "as", "well", "as", "an", "Indian", "Language", ".", "According", "to", "standard", "Braille", "notations", "-LSB-", "11", "-RSB-", "the", "change", "in", "language", "is", "indicated", "through", "the", "proper", "use", "of", "the", "letter", "sign", ".", "However", ",", "a", "single", "document", "containing", "text", "in", "more", "than", "one", "Indian", "language", "can", "not", "be", "translated", "into", "Braille", ",", "such", "that", "the", "reader", "is", "able", "to", "distinguish", "each", "of", "the", "languages", "correctly", ".", "This", "is", "due", "to", "the", "following", "reason", ".", "As", "mentioned", "previously", "the", "same", "Braille", "representation", "can", "refer", "to", "different", "characters", "in", "different", "Indian", "languages", ",", "this", "leads", "to", "the", "inherent", "ambiguity", ".", "Figure", "3", ".", "A", "screenshot", "of", "the", "interface", "for", "translating", "and", "editing", "Braille", "in", "the", "Sparsha", "system", "2.2", "Reverse", "transliteration", "The", "Sparsha", "system", "allows", "reverse", "transliteration", "of", "Braille", "to", "text", "both", "for", "Indian", "languages", "as", "well", "as", "English", ".", "This", "allows", "the", "visually", "impaired", "to", "communicate", "seamlessly", "with", "other", "sighted", "people", ".", "The", "Braille", "code", "to", "be", "translated", "may", "be", "entered", "into", "the", "computer", "using", "a", "standard", "six", "key", "Braille", "keyboard", ".", "After", "translating", "the", "Braille", "code", "into", "text", ",", "the", "visually", "readable", "text", "may", "then", "be", "checked", "for", "correctness", "using", "a", "file", "reading", "system", "which", "will", "be", "described", "in", "later", "section", ".", "In", "order", "to", "achieve", "reverse", "translation", "from", "Braille", "to", "text", ",", "the", "system", "uses", "a", "finite", "state", "machine", "based", "approach", "similar", "to", "that", "used", "for", "translating", "text", "to", "Braille", "as", "described", "previously", ".", "The", "task", "of", "reverse", "translation", "also", "uses", "the", "code", "tables", "corresponding", "to", "the", "language", "to", "which", "the", "text", "is", "being", "translated", ".", "Thus", "the", "system", "can", "easily", "be", "extended", "to", "other", "languages", "just", "by", "adding", "the", "corresponding", "code", "tables", "to", "achieve", "both", "forward", "and", "reverse", "translation", ".", "2.3", "Methods", "of", "Input", "-", "Output", "Sparsha", "can", "accept", "English", "text", ",", "for", "translation", ",", "in", "the", "form", "of", "plain", "text", "files", ",", "HTML", "-LRB-", "hyper", "text", "markup", "language", "-RRB-", "files", "and", "Microsoft", "Word", "documents", ".", "Apart", "from", "English", "the", "Sparsha", "Braille", "translation", "system", ",", "as", "described", ",", "can", "take", "input", "text", "in", "Indian", "languages", ".", "This", "input", "can", "be", "given", "to", "the", "system", "in", "a", "number", "of", "forms", "as", "follows", ":", "ISCII", "-LRB-", "Indian", "Script", "Code", "for", "Information", "Interchange", "-RRB-", "-LSB-", "24", "-RSB-", "documents", "generated", "by", "applications", "like", "iLeap", "-LSB-", "10", "-RSB-", "LP2", "documents", "generated", "by", "iLeap", "-LSB-", "10", "-RSB-", "Unicode", "text", "generated", "by", "any", "standard", "editor", "supporting", "Unicode", "-LSB-", "25", "-RSB-", ".", "This", "technique", "will", "be", "discussed", "in", "detail", "in", "a", "later", "section", "The", "output", "of", "the", "Braille", "translation", "can", "be", "obtained", "on", "a", "large", "variety", "of", "commercial", "Braille", "embossers", "-LSB-", "23", "-RSB-", ".", "The", "Sparsha", "system", "has", "been", "tested", "on", "the", "following", "Braille", "embossers", ":", "Index", "Basic-S", "Index", "Basic-D", "Index", "4X4", "PRO", "+", "+", "+", "=", "115", "Braillo", "400", "Modified", "Perkins", "Brailler", "-LSB-", "15", "-RSB-", "Alternatively", "the", "output", "may", "be", "obtained", "on", "tactile", "Braille", "displays", "-LSB-", "1", "-RSB-", ".", "At", "the", "time", "of", "this", "development", "there", "existed", "a", "few", "translators", "for", "converting", "mathematics", "to", "Braille", "-LSB-", "b", "-RSB-", ".", "However", ",", "these", "were", "found", "to", "be", "unsuitable", "for", "the", "visually", "impaired", "in", "the", "Indian", "sub-continent", "due", "to", "a", "number", "of", "reasons", ".", "Firstly", "the", "Braille", "code", "used", "for", "mathematics", "in", "India", "is", "slightly", "different", "from", "those", "used", "in", "other", "parts", "of", "the", "world", "-LSB-", "4", "-RSB-", ",", "however", ",", "it", "bears", "close", "resemblance", "to", "the", "Nemeth", "code", "-LSB-", "5", "-RSB-", ".", "Secondly", "the", "interleaving", "of", "Braille", "mathematics", "with", "text", "in", "Indian", "languages", "was", "also", "not", "possible", "with", "the", "available", "systems", ".", "Thirdly", "many", "of", "these", "systems", "require", "a", "working", "knowledge", "of", "LaTex", "-LSB-", "13", "-RSB-", ".", "This", "can", "not", "be", "expected", "from", "every", "user", ".", "Finally", ",", "most", "of", "these", "systems", "are", "unaffordable", "to", "the", "visually", "impaired", "in", "the", "Indian", "sub-continent", ".", "The", "above", "mentioned", "reasons", "warranted", "the", "development", "of", "a", "mathematics-to-Braille", "translation", "system", "for", "the", "Indian", "subcontinent", ".", "The", "system", "thus", "developed", "can", "translate", "almost", "all", "mathematic", "and", "scientific", "notations", ".", "It", "also", "allows", "the", "user", "to", "interleave", "mathematic", "and", "scientific", "expressions", "with", "text", "in", "both", "Indian", "languages", "and", "English", ".", "In", "order", "to", "allow", "the", "user", "to", "write", "complex", "mathematic", "and", "scientific", "expressions", ",", "the", "system", "provides", "a", "special", "editor", "for", "the", "purpose", ".", "The", "above", "mentioned", "editor", "is", "named", "``", "Nemeth", "editor", "''", "after", "Abraham", "Nemeth", "-LSB-", "t", "-RSB-", ".", "Thus", "the", "user", "is", "exempted", "from", "the", "task", "of", "learning", "LaTex", ".", "The", "editor", "provides", "a", "GUI", "-LRB-", "Graphic", "User", "Interface", "-RRB-", "as", "shown", "in", "Figure", "4", "for", "writing", "a", "mathematic", "or", "scientific", "expression", "in", "a", "form", "similar", "to", "that", "used", "by", "LaTex", ".", "This", "string", "can", "then", "be", "readily", "converted", "into", "Braille", "by", "the", "translation", "engine", ".", "However", ",", "the", "mathematical", "expression", "formed", "by", "the", "editor", "must", "be", "enclosed", "within", "a", "pair", "of", "special", "character", "sequences", ".", "This", "needs", "to", "be", "done", "so", "that", "when", "the", "mathematic", "or", "scientific", "expression", "is", "embedded", "within", "another", "English", "or", "Indian", "language", "text", ",", "it", "is", "properly", "translated", "to", "Braille", "using", "the", "standard", "for", "mathematic", "and", "scientific", "notation", ".", "Figure", "4", ".", "Screenshot", "of", "the", "Nemeth", "Editor", "The", "selection", "of", "mathematical", "symbols", "and", "notations", "is", "done", "by", "the", "user", "in", "a", "menu", "driven", "fashion", "using", "the", "GUI", ".", "The", "set", "of", "all", "mathematic", "and", "scientific", "notations", "is", "partitioned", "in", "to", "separate", "collections", ",", "each", "consisting", "of", "similar", "notations", ".", "Alternatively", "the", "text", "may", "be", "entered", "by", "the", "user", "in", "a", "LaTex", "like", "format", "using", "any", "standard", "text", "editor", ".", "Elementary", "tactile", "graphics", "is", "one", "of", "the", "best", "methods", "for", "introducing", "certain", "subjects", ",", "like", "geometry", ",", "to", "visually", "impaired", "students", ".", "However", ",", "such", "tactile", "graphics", "have", "remained", "outside", "the", "reach", "of", "the", "common", "man", ".", "This", "is", "due", "to", "the", "fact", "that", "sophisticated", "Braille", "embossers", "and", "expensive", "image", "conversion", "software", "are", "necessary", "for", "the", "purpose", ".", "Sparsha", "Chitra", "aims", "to", "provide", "relatively", "simple", "tactile", "graphics", "which", "can", "be", "obtained", "even", "by", "using", "low", "cost", "Braille", "embossers", "like", "the", "modified", "Perkins", "Brailler", "-LSB-", "15", "-RSB-", ".", "In", "other", "words", "no", "assumptions", "have", "been", "about", "any", "special", "feature", "of", "the", "Braille", "embosser", "being", "used", ".", "This", "allows", "tactile", "graphics", "to", "be", "embossed", "using", "just", "the", "Braille", "embossing", "capability", "of", "the", "embosser", ".", "The", "tactile", "graphics", "obtained", "from", "any", "image", "may", "be", "viewed", "and", "edited", "before", "finally", "being", "embossed", ".", "The", "image", "may", "also", "be", "scaled", "up", "or", "down", "to", "a", "size", "suitable", "for", "embossing", ".", "The", "system", "also", "allows", "the", "image", "color", "to", "be", "inverted", "in", "order", "to", "improve", "the", "contrast", ".", "Sparsha", "Chitra", "takes", "its", "input", "in", "HTML", "format", "such", "that", "additional", "text", "can", "be", "included", "along", "with", "the", "tactile", "representation", "of", "the", "image", ".", "Sparsha", "is", "the", "feeling", "of", "touch", "and", "``", "Chitra", "''", "in", "Hindi", "means", "``", "picture", "''", "and", "thus", "this", "tool", "is", "named", "Sparsha", "Chitra", ".", "The", "primary", "limitation", "of", "this", "tool", "is", "that", "complex", "images", "can", "not", "be", "represented", "very", "clearly", ".", "However", ",", "the", "effect", "of", "this", "drawback", "is", "mitigated", "by", "the", "fact", "that", "the", "amount", "of", "detail", "that", "can", "be", "observed", "through", "touch", "is", "also", "limited", ".", "Furthermore", "the", "size", "of", "the", "tactile", "image", "is", "restricted", "by", "the", "bounds", "imposed", "by", "the", "sheet", "on", "which", "it", "is", "embossed", ".", "The", "functions", "for", "scaling", "the", "tactile", "image", "may", "prove", "to", "be", "useful", "in", "such", "a", "case", ".", "Figure", "5", ".", "Screenshot", "of", "Spasha", "Chitra", "In", "order", "to", "enter", "text", "into", "the", "computer", ",", "in", "English", ",", "a", "visually", "impaired", "user", "can", "take", "the", "help", "of", "any", "standard", "screen", "reader", "-LSB-", "12", ",", "8", ",", "20", "-RSB-", ".", "Screen", "readers", "have", "proved", "to", "be", "vital", "to", "visually", "impaired", "computer", "users", "-LSB-", "19", "-RSB-", ".", "Such", "screen", "readers", "are", "commercially", "available", ".", "However", ",", "such", "screen", "readers", "are", "not", "available", "for", "Indian", "languages", ".", "116", "This", "was", "primarily", "due", "to", "the", "reasons", "mentioned", "at", "the", "beginning", "of", "this", "paper", ".", "The", "file", "reader", "which", "will", "be", "described", "in", "this", "section", "will", "redeem", "the", "situation", "and", "allow", "the", "user", "to", "type", "in", "text", "in", "Indian", "languages", "using", "Microsoft", "Word", ".", "For", "performing", "other", "tasks", "related", "to", "the", "operating", "system", "the", "user", "may", "use", "any", "of", "the", "standard", "screen", "readers", ".", "The", "construction", "of", "such", "a", "file", "reader", "requires", "a", "number", "of", "vital", "components", "-LSB-", "2", "-RSB-", ".", "These", "include", "text-to-speech", "engines", "for", "Indian", "languages", ",", "fonts", "for", "Indian", "languages", ",", "keyboard", "layouts", "for", "them", ",", "proper", "rendering", "engines", "and", "a", "text", "editor", "which", "can", "support", "Indian", "languages", ".", "Each", "of", "these", "components", "will", "be", "described", "briefly", "in", "the", "following", "sections", ".", "This", "will", "be", "followed", "by", "a", "description", "of", "the", "overall", "architecture", "of", "the", "system", "and", "its", "functioning", ".", "5.2", "Speech", "synthesis", "system", "A", "speech", "synthesis", "system", "is", "vital", "for", "the", "functioning", "of", "any", "screen", "reader", ".", "It", "is", "responsible", "for", "producing", "human", "voice", "rendition", "of", "the", "text", "provided", "to", "it", "by", "the", "screen", "reader", ".", "In", "case", "of", "screen", "readers", "the", "speech", "synthesis", "system", "should", "be", "able", "to", "deliver", "the", "voice", "in", "real-time", ".", "This", "is", "necessary", "for", "visually", "impaired", "users", "to", "get", "instantaneous", "audio", "feedback", ".", "A", "multilingual", "screen", "reader", "necessarily", "needs", "a", "speech", "synthesis", "system", "for", "each", "of", "the", "languages", "that", "it", "supports", ".", "The", "mentioned", "file", "reader", "uses", "a", "speech", "synthesis", "engine", "for", "Indian", "languages", "called", "Shruti", "-LSB-", "22", "-RSB-", ".", "Shruti", "support", "two", "popular", "Indian", "languages", "namely", "Hindi", "and", "Bengali", ".", "It", "uses", "a", "method", "of", "di-phone", "concatenation", "for", "speech", "synthesis", ".", "This", "allows", "the", "speech", "synthesis", "system", "to", "produce", "reasonable", "real-time", "performance", ",", "at", "the", "same", "time", "maintaining", "a", "low", "memory", "space", "requirement", ".", "5.3", "Fonts", "and", "Rendering", "There", "are", "number", "issues", "involved", "with", "Indian", "language", "fonts", "and", "their", "rendering", ".", "This", "is", "due", "to", "the", "fact", "that", "Indian", "language", "scripts", "are", "generally", "complex", "in", "nature", ".", "The", "Microsoft", "Windows", "system", "can", "be", "configure", "for", "correctly", "rendering", "these", "complex", "Indian", "language", "scripts", ".", "Correct", "rendering", "of", "fonts", "is", "achieved", "through", "the", "use", "of", "Uniscribe", "-LRB-", "Unicode", "Script", "Processor", "-RRB-", "and", "OTLS", "-LRB-", "OpenType", "Layout", "Services", "-RRB-", "libraries", "-LSB-", "9", ",", "14", "-RSB-", ".", "Furthermore", "glyph", "substitution", "and", "glyph", "repositioning", ",", "as", "shown", "in", "Figure", "2", ",", "are", "closely", "associated", "with", "the", "rendering", "of", "text", "in", "Indian", "languages", ".", "For", "this", "reason", "OpenType", "fonts", "have", "been", "found", "to", "be", "suitable", "for", "Indian", "languages", "as", "they", "carry", ",", "within", "the", "font", "file", ",", "explicit", "information", "about", "glyph", "substitution", "and", "glyph", "positioning", ".", "This", "maintained", "in", "the", "form", "of", "two", "tables", "namely", "GSUB", "-LRB-", "Glyph", "Substitution", "-RRB-", "and", "GPOS", "-LRB-", "Glyph", "Positioning", "-RRB-", ".", "5.4", "Editor", "for", "Indian", "Languages", "A", "number", "of", "text", "editor", "are", "available", "for", "Indian", "languages", ".", "Many", "of", "these", "editors", "are", "difficult", "to", "use", "and", "are", "non-intuitive", ".", "On", "the", "other", "hand", "it", "has", "been", "observed", "that", "Microsoft", "Word", "XP", "-LRB-", "Word", "2002", "-RRB-", "performs", "reasonably", "well", "for", "Indian", "languages", "when", "proper", "fonts", "and", "rendering", "engines", "are", "used", ".", "Thus", ",", "Microsoft", "Word", "has", "been", "used", "instead", "of", "creating", "a", "new", "editor", "for", "the", "file", "reading", "application", "as", "shown", "in", "Figure", "7", ".", "Microsoft", "Word", "also", "provides", "certain", "additional", "features", "which", "have", "been", "used", "extensively", "for", "the", "development", "of", "the", "file", "reader", ".", "These", "features", "have", "been", "discussed", "in", "detail", "in", "the", "following", "paragraphs", ".", "The", "use", "of", "Microsoft", "Word", "also", "motivates", "visually", "impaired", "users", "to", "switch", "to", "main", "stream", "applications", "and", "also", "eliminates", "the", "effort", "of", "learning", "another", "system", ".", "Microsoft", "Word", "supports", "Unicode", "-LSB-", "25", "-RSB-", ",", "hence", "it", "can", "accept", "text", "in", "any", "Indian", "language", ".", "However", ",", "in", "order", "to", "enter", "text", "in", "an", "Indian", "language", "in", "the", "Windows", "system", "a", "keyboard", "layout", "or", "IME", "-LRB-", "Input", "Method", "Editor", "-RRB-", "-LSB-", "21", "-RSB-", "for", "that", "language", "is", "required", ".", "Keyboard", "layouts", "are", "available", "for", "some", "popular", "Indian", "languages", "like", "Hindi", ".", "For", "other", "Indian", "languages", "it", "may", "have", "to", "be", "created", ".", "In", "our", "case", "a", "keyboard", "layout", "had", "to", "be", "created", "for", "Bengali", ".", "Figure", "6", ".", "File", "reader", "System", "Architecture", "117", "The", "capabilities", "of", "the", "Microsoft", "Word", "can", "be", "extended", "using", "COM", "-LRB-", "Component", "Object", "Model", "-RRB-", "Add-Ins", ".", "Such", "Add-Ins", "are", "basically", "programs", "that", "run", "within", "the", "framework", "provided", "by", "Microsoft", "Word", ".", "The", "file", "reader", "has", "been", "developed", "in", "the", "form", "of", "such", "an", "Add-In", ".", "It", "interacts", "closely", "with", "the", "editor", "to", "provide", "necessary", "audio", "feedback", "for", "text", "in", "Indian", "languages", ".", "Such", "interaction", "takes", "place", "through", "the", "object", "model", "exposed", "by", "Microsoft", "Word", ".", "The", "file", "reader", "may", "be", "configured", "to", "start", "up", "every", "time", "Microsoft", "Word", "is", "used", ".", "5.5", "Overall", "System", "Structure", "and", "Operation", "The", "overall", "architectural", "structure", "of", "the", "file", "reader", "system", "is", "shown", "in", "Figure", "6", ".", "Most", "of", "the", "components", "of", "the", "system", "shown", "in", "the", "figure", "have", "been", "discussed", "in", "the", "last", "few", "sections", ".", "The", "interaction", "between", "the", "different", "components", "and", "how", "they", "operate", "as", "a", "system", "will", "be", "discussed", "in", "this", "section", ".", "Keyboard", "hooks", "are", "placed", "within", "the", "operating", "system", "by", "the", "file", "reader", "Add-In", ".", "The", "keyboard", "hooks", "are", "responsible", "for", "trapping", "the", "keystrokes", "entered", "by", "the", "user", "through", "the", "keyboard", ".", "A", "copy", "of", "the", "entered", "keystrokes", "is", "passed", "to", "the", "file", "reader", "Add-In", ".", "The", "keystrokes", "are", "then", "passed", "to", "the", "keyboard", "layout", "or", "IME", "which", "is", "integrated", "with", "the", "operating", "system", ".", "The", "keyboard", "layout", "translates", "the", "keystrokes", "into", "Unicode", "characters", "and", "passes", "them", "to", "the", "editor", ".", "Figure", "7", ".", "Screenshot", "of", "the", "file", "reader", "in", "operation", "using", "Microsoft", "Word", "In", "the", "mean", "while", "the", "file-reader", "Add-In", ",", "on", "receiving", "the", "keystrokes", ",", "provides", "appropriate", "audio", "feedback", "by", "invoking", "the", "speech", "synthesis", "engine", ".", "Again", ",", "certain", "combinations", "of", "keystrokes", "are", "recognized", "by", "the", "file", "reader", "Add-In", "as", "special", "commands", ".", "These", "request", "the", "file", "reader", "to", "read", "out", "a", "certain", "portions", "of", "the", "text", ".", "This", "selected", "text", "is", "then", "passed", "to", "the", "speech", "synthesis", "system", "for", "producing", "human", "voice", "rendition", ".", "Thus", "providing", "an", "audio", "feedback", "based", "virtual", "environment", "for", "Indian", "languages", ".", "The", "file", "reader", "can", "be", "further", "extended", "to", "provide", "full", "screen", "reading", "functionality", "by", "using", "Microsoft", "Active", "Accessibility", ".", "A", "subset", "of", "the", "Sparsha", "system", "known", "as", "the", "Bharati", "Braille", "Transliteration", "System", "*", "has", "been", "deployed", "by", "Webel", "Mediatronics", "Limited", "in", "a", "number", "of", "organizations", "for", "the", "visually", "impaired", "all", "over", "India", "as", "a", "part", "of", "a", "project", "sponsored", "by", "the", "Ministry", "of", "Communication", "and", "Information", "Technology", ",", "Government", "of", "India", ".", "As", "a", "result", "of", "these", "field", "tests", "the", "system", "underwent", "an", "iterative", "process", "of", "refinement", "to", "reach", "its", "current", "form", ".", "A", "plethora", "of", "request", "and", "suggestions", "from", "visually", "impaired", "users", "led", "to", "the", "development", "and", "inclusion", "of", "a", "number", "of", "additional", "features", "and", "tools", "that", "were", "added", "to", "the", "toolset", ".", "These", "include", "the", "Sparsha", "Chitra", "and", "the", "file", "readers", "for", "Indian", "languages", ".", "The", "process", "of", "continuous", "feedback", "helped", "the", "Sparsha", "toolset", "mature", "over", "the", "years", ".", "It", "also", "helped", "in", "weeding", "out", "many", "bugs", "and", "shortcomings", "of", "the", "initial", "versions", "of", "the", "system", ".", "6.2", "Obtained", "Results", "The", "Sparsha", "system", "is", "under", "a", "continuing", "process", "of", "use", "and", "evaluation", ".", "This", "feedback", "is", "being", "used", "to", "make", "the", "system", "more", "usable", "to", "the", "visually", "impaired", "and", "to", "enhance", "the", "features", "provided", "by", "the", "system", ".", "Training", "and", "deployment", "of", "the", "system", "has", "also", "been", "carried", "out", "at", "a", "number", "of", "premier", "organizations", "for", "the", "visually", "impaired", ".", "These", "include", "The", "National", "Association", "for", "the", "Blind", ",", "Delhi", "Blind", "Peoples", "'", "Association", ",", "Ahmedabad", "National", "Institute", "for", "the", "Visually", "Handicapped", ",", "Dehradun", "The", "Braille", "translation", "system", "has", "been", "tested", "on", "a", "large", "number", "of", "computers", "in", "these", "organizations", ".", "The", "typical", "performance", "characteristics", "of", "the", "Sparsha", "Braille", "translation", "system", "is", "as", "shown", "in", "Figure", "8", ".", "The", "performance", "characteristics", "have", "been", "measured", "for", "two", "different", "personal", "computer", "systems", ".", "English", "Grade", "-", "II", "Braille", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "200\u00a0600\u00a01000\u00a01400", "1800\u00a02200\u00a02600\u00a03000", "3400\u00a03800\u00a05000", "Word", "Count", "Ti", "m", "e", "-LRB-", "m", "i", "l", "l", "i", "s", "e", "c", "on", "ds", "-RRB-", "P4", "P3", "-LRB-", "a", "-RRB-", "Grade", "-", "I", "Braille", "0", "100", "200", "300", "400", "500", "200\u00a0600\u00a01000\u00a01400", "1800\u00a02200\u00a02600\u00a03000", "3400\u00a03800\u00a05000", "Word", "Count", "T", "i", "m", "e", "-LRB-", "m", "illis", "e", "c", "onds", "-RRB-", "P4", "-", "English", "P4", "-", "Indian", "Languages", "P3", "-", "English", "P3", "-", "Indian", "Languages", "-LRB-", "b", "-RRB-", "Figure", "8", ".", "Graphs", "showing", "the", "computation", "time", "taken", "during", "Braille", "translation", "for", "-LRB-", "a", "-RRB-", "Grade", "II", "English", "-LRB-", "b", "-RRB-", "Grade", "I", "English", "and", "Indian", "languages", "118", "The", "computers", "have", "the", "following", "specifications", "-LRB-", "Processor", "Type", ",", "Primary", "Memory", ",", "Hard", "disk", "-RRB-", ":", "Intel", "Pentiun", "4", "3", "GHz", ",", "512", "MB", ",", "80", "GB", "referred", "to", "as", "P4", "Intel", "Pentium", "III", "550", "MHz", ",", "256", "MB", ",", "40", "GB", "referred", "to", "as", "P3", "The", "Sparsha", "Chitra", "tool", "was", "tested", "by", "visually", "impaired", "users", "and", "the", "obtained", "results", "are", "given", "in", "Figure", "9", ".", "This", "was", "done", "by", "handing", "them", "sheets", "of", "paper", "Braille", "paper", "with", "tactile", "diagrams", "created", "by", "Sparsha", "Chitra", "and", "asking", "them", "to", "guess", "the", "image", "on", "the", "sheets", ".", "Correct", "guess", "40", "%", "Can", "not", "guess", "20", "%", "Close", "guess", "35", "%", "Wrong", "guess", "5", "%", "Figure", "9", ".", "User", "response", "to", "tactile", "images", "generated", "by", "Sparsha", "Chitra", "Most", "of", "these", "images", "were", "geometric", "figures", ".", "The", "majority", "of", "the", "guesses", "were", "correct", "while", "a", "large", "percentage", "of", "the", "guesses", "were", "very", "close", "like", "identifying", "a", "rectangle", "as", "square", "or", "a", "triangle", "as", "a", "mountain", ".", "Such", "misinterpretations", "often", "occur", "due", "to", "lack", "of", "color", "information", "or", "misjudging", "dimensions", "which", "is", "indeed", "quite", "difficult", "estimate", "from", "tactile", "representations", ".", "The", "file", "reader", "tool", "needs", "extensive", "training", "before", "a", "na", "ve", "user", "can", "use", "it", "efficiently", ".", "Visually", "impaired", "users", "who", "are", "already", "familiar", "with", "Jaws", "or", "other", "screen", "readers", "can", "adapt", "to", "this", "system", "very", "quickly", ".", "This", "tool", "was", "primarily", "tested", "by", "visually", "impaired", "users", "having", "reasonable", "experience", "with", "Jaws", ".", "0", "5", "10", "15", "20", "25", "30", "Jaws", "File", "reader", "for", "Indian", "Languages", "W", "o", "rd", "s", "p", "e", "r", "M", "i", "n", "u", "t", "e", "Figure", "10", ".", "Comparison", "of", "the", "typing", "speed", "of", "a", "visually", "impaired", "user", "using", "Jaws", "and", "the", "Indian", "language", "file", "reader", "The", "Indian", "language", "file", "reader", "could", "not", "be", "experimented", "with", "a", "large", "number", "of", "users", "since", "a", "good", "level", "of", "expertise", "with", "screen", "readers", "is", "required", "for", "using", "the", "file", "reader", "efficiently", ".", "The", "experimental", "results", "shown", "in", "Figure", "10", "and", "11", "pertain", "to", "a", "particular", "visually", "impaired", "user", "having", "some", "experience", "with", "Jaws", ".", "The", "experiments", "were", "carried", "out", "by", "dictating", "a", "paragraph", "of", "about", "hundred", "words", "to", "the", "user", "while", "he", "typed", "it", "into", "the", "computer", "using", "the", "Indian", "language", "file", "reader", ".", "However", ",", "this", "is", "only", "a", "preliminary", "experiment", ".", "It", "was", "also", "found", "that", "both", "the", "typing", "speed", "and", "the", "error", "rates", "improved", "significantly", "with", "practice", ".", "No", "Errors", "10", "%", "One", "Error", "30", "%", "Two", "Errors", "40", "%", "More", "than", "2", "Errors", "20", "%", "Figure", "11", ".", "Number", "of", "words", "with", "errors", "for", "every", "ten", "words", "The", "Sparsha", "toolset", "is", "in", "the", "process", "of", "being", "extended", "to", "a", "number", "of", "other", "languages", "in", "the", "Indian", "subcontinent", ".", "This", "includes", "Urdu", "and", "Sinhala", ".", "The", "file", "reader", "in", "the", "Sparsha", "toolset", "is", "also", "limited", "by", "the", "availability", "of", "text", "to", "speech", "synthesis", "engines", "for", "all", "Indian", "languages", ".", "Hopefully", "these", "will", "be", "available", "in", "the", "near", "future", "and", "allow", "the", "system", "to", "be", "extended", "to", "more", "languages", ".", "It", "is", "also", "envisioned", "that", "the", "Sparsha", "system", "will", "be", "ported", "to", "mobile", "handheld", "systems", ".", "This", "will", "enable", "the", "visually", "impaired", "to", "communicate", "on", "the", "move", ".", "As", "of", "now", ",", "the", "required", "text", "to", "speech", "synthesis", "engines", "have", "been", "ported", "onto", "the", "Microsoft", "Pocket", "PC", "platform", "as", "well", "as", "on", "an", "ARM-Linux", "platform", ".", "It", "is", "only", "a", "matter", "of", "time", "before", "the", "file", "reader", "becomes", "functional", "on", "such", "mobile", "platforms", ".", "The", "Sparsha", "system", "named", "after", "the", "feeling", "of", "touch", "has", "been", "the", "first", "attempt", "to", "help", "visually", "impaired", "users", ",", "in", "the", "Indian", "subcontinent", ",", "read", "and", "write", "in", "their", "native", "tongues", ".", "In", "this", "paper", "the", "various", "aspects", "of", "Indian", "languages", "and", "how", "they", "differ", "from", "other", "languages", "in", "the", "world", "has", "been", "explained", ".", "It", "also", "been", "discussed", "how", "these", "issues", "have", "been", "tackled", "in", "the", "Sparsha", "system", ".", "The", "paper", "describes", "in", "depth", "the", "various", "tools", "included", "in", "the", "Sparsha", "toolset", ".", "These", "tools", "form", "a", "comprehensive", "toolset", "for", "Indian", "languages", ".", "It", "can", "be", "hoped", "that", "the", "Sparsha", "system", "would", "help", "increase", "the", "literacy", "rates", "among", "the", "13", "million", "visually", "impaired", "in", "the", "Indian", "subcontinent", ".", "The", "authors", "would", "like", "to", "thank", "Media", "Lab", "Asia", "for", "sponsoring", "a", "part", "of", "the", "work", "related", "to", "the", "file", "reader", ".", "The", "authors", "would", "also", "like", "to", "thank", "the", "National", "Association", "for", "the", "Blind", ",", "Delhi", "and", "many", "other", "organizations", "for", "the", "blind", "for", "their", "sustained", "help", "and", "cooperation", "during", "the", "entire", "development", "process", ".", "The", "authors", "owe", "special", "thanks", "to", "Mr.", "Samit", "Patra", ",", "Director", ",", "Electrosoft", "Consultants", "for", "his", "enormous", "help", "with", "many", "technical", "aspects", "of", "the", "work", ".", "119", "-LSB-", "1", "-RSB-", "Basu", "Anupam", ",", "Roy", "S.", ",", "Dutta", "P.", "and", "Banerjee", "S.", ",", "``", "A", "PC", "Based", "Multi-user", "Braille.Reading", "System", "for", "the", "Blind", "Libraries", "''", ",", "IEEE", "Transactions", "on", "Rehabilitation", "Engineering", ",", "Vol", ".", "6", ",", "No.", "1", ",", "March", "1998", ",", "pp.", "60", "--", "68", "-LSB-", "2", "-RSB-", "Blenkhorn", ",", "P.", "``", "Requirements", "for", "Screen", "Access", "Software", "using", "Synthetic", "Speech", "''", ".", "Journal", "of", "Microcomputer", "Applications", ",", "16", ",", "243-248", ",", "1993", ".", "-LSB-", "3", "-RSB-", "Blenkhorn", "Paul", ",", "``", "A", "System", "for", "Converting", "Braille", "to", "Print", "''", ",", "IEEE", "Transactions", "on", "Rehabilitation", "Engineering", ",", "Vol", ".", "3", ",", "No", ".", "2", ",", "June", "1995", ",", "pp.", "215-221", "-LSB-", "4", "-RSB-", "Braille", "Mathematics", "Code", "for", "India", "Manual", ",", "Prepared", "under", "the", "project", "``", "Adoption", "and", "Introduction", "of", "an", "Appropriate", "Braille", "Mathematics", "Code", "for", "India", "''", ",", "sponsored", "by", "UNICEF", ",", "Published", "by", "National", "Institute", "for", "Visually", "Handicapped", ",", "Dehra", "Dun", "and", "National", "Association", "for", "the", "Blind", ",", "Bombay", ",", "India", "-LSB-", "5", "-RSB-", "Cranmer", "T.", "V.", "and", "Abraham", "Nemeth", ",", "A", "Uniform", "Braille", "Code", ",", "memo", "to", "the", "members", "of", "the", "BANA", "Board", "-LRB-", "January", "15", ",", "1991", "-RRB-", ";", "Available", "at", ":", "http://www.nfb.org", "or", "http://world.std.com/~iceb/", "-LSB-", "6", "-RSB-", "Das", ",", "P.K.", ";", "Das", ",", "R.", ";", "Chaudhuri", ",", "A.", ",", "``", "A", "computerised", "Braille", "transcriptor", "for", "the", "visually", "handicapped", "''", ".", "Engineering", "in", "Medicine", "and", "Biology", "Society", ",", "1995", "and", "14th", "Conference", "of", "the", "Biomedical", "Engineering", "Society", "of", "India", ".", "An", "International", "Meeting", ",", "Proceedings", "of", "the", "First", "Regional", "Conference", ",", "IEEE", ".", "15-18", "Feb.", "1995", "Page", "-LRB-", "s", "-RRB-", ":", "3/7", "-", "3/8", "-LSB-", "7", "-RSB-", "Duxbury", "Braille", "Translator", ",", "2000", ",", "http://www.duxburysystems.com/products.asp", "-LSB-", "8", "-RSB-", "HAL", ".", "Dolphin", "Computer", "Access", ",", "http://www.dolphinuk.co.uk/products/hal.htm", "-LSB-", "9", "-RSB-", "Hudson", ",", "John", "for", "Microsoft", "Typography", ",", "``", "Windows", "Glyph", "Processing", ":", "an", "Open", "Type", "Primer", "''", ",", "November", "2000", ",", "http://www.microsoft.com/typography/glyph%20processing/i", "ntro.mspx", "-LSB-", "10", "-RSB-", "iLeap", ".", "Centre", "for", "Development", "of", "Advanced", "Computing", ".", "http://www.cdacindia.com/html/gist/products/ileap.asp", "-LSB-", "11", "-RSB-", "International", "Council", "on", "English", "Braille", "-LRB-", "ICEB", "-RRB-", ",", "Unified", "English", "Braille", "Code", "-LRB-", "UEBC", "-RRB-", "Research", "Project", ",", "http://www.iceb.org/ubc.html", "-LSB-", "12", "-RSB-", "JAWS", "for", "Window", ".", "Freedom", "Scientific", ".", "http://www.freedomscientific.com/fs_products/software_jaws", ".", "asp", "-LSB-", "13", "-RSB-", "Lamport", "L.", "LaTeX", "-", "A", "Document", "Preparation", "System", ",", "Addison-Wesley", ",", "1985", ",", "ISBN", "0-201-15790-X", ".", "-LSB-", "14", "-RSB-", "Microsoft", "Typography", ",", "``", "Specifications", ":", "overview", "''", ",", "http://www.microsoft.com/typography/SpecificationsOvervie", "w.mspx", "-LSB-", "15", "-RSB-", "Modified", "Perkins", "Brailler", ",", "Webel", "Mediatronics", "Limited", ".", "http://www.braille-aids.com/emboss.htm", "-LSB-", "16", "-RSB-", "MONTY", ",", "VisuAide", ".", "http://www.visuaide.com/monty.html", "-LSB-", "17", "-RSB-", "National", "Association", "for", "the", "Blind", ",", "India", ",", "2002", ".", "Available", "at", "http://www.nabindia.org/sited/infor06.htm", "-LSB-", "18", "-RSB-", "NFBTRANS", ".", "National", "Federation", "of", "the", "Blind", ",", "2004", ",", "http://www.nfb.org/nfbtrans.htm", "-LSB-", "19", "-RSB-", "Pennington", "C.A.", "and", "McCoy", "K.F.", ",", "Providing", "Intelligent", "Language", "Feedback", "or", "Augmentative", "Communication", "Users", ",", "Springer-Verlag", ",", "1998", ".", "-LSB-", "20", "-RSB-", "Raman", "T.V.", "-LRB-", "1996", "-RRB-", ".", "``", "Emacspeak", "a", "speech", "interface", "''", ".", "Proceedings", "of", "CHI96", ",", "April", "1996", "-LSB-", "21", "-RSB-", "Rolfe", ",", "Russ", "``", "What", "is", "an", "IME", "-LRB-", "Input", "Method", "Editor", "-RRB-", "and", "how", "do", "I", "use", "it", "?", "''", "http://www.microsoft.com/globaldev/handson", "-LSB-", "22", "-RSB-", "Shruti", ",", "Media", "Lab", "Asia", "Research", "Laboratory", ",", "Indian", "Institute", "of", "Technology", ",", "Kharagpur", ".", "http://www.mla.iitkgp.ernet.in/projects/shruti.html", "-LSB-", "23", "-RSB-", "Taylor", "Anne", ",", "``", "Choosing", "your", "Braille", "Embosser", "''", ",", "Braille", "Monitor", ",", "October", "200", ".", "Available", "at", "http://www.nfb.org/bm/bm01/bm0110/bm011007.htm", "-LSB-", "24", "-RSB-", "Technology", "Development", "for", "Indian", "Languages", ",", "Department", "of", "Information", "Technology", ",", "Ministry", "of", "Communication", "&", "Information", "Technology", ",", "Government", "of", "India", ".", "Available", "at", "http://tdil.mit.gov.in/standards.htm", "-LSB-", "25", "-RSB-", "Unicode", ".", "http://www.unicode.org", "-LSB-", "26", "-RSB-", "WinBraille", ".", "Index", "Braille", ".", "http://www.braille.se/downloads/winbraille.htm", "120"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O"], "extractive_keyphrases": ["indian languages", "braille", "audio feedback"], "abstractive_keyphrases": ["visual impairment"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "152", "document": ["Proportional", "Search", "Interface", "Usability", "Measures", "Speed", ",", "accuracy", ",", "and", "subjective", "satisfaction", "are", "the", "most", "common", "measures", "for", "evaluating", "the", "usability", "of", "search", "user", "interfaces", ".", "However", ",", "these", "measures", "do", "not", "facilitate", "comparisons", "optimally", "and", "they", "leave", "some", "important", "aspects", "of", "search", "user", "interfaces", "uncovered", ".", "We", "propose", "new", ",", "proportional", "measures", "to", "supplement", "the", "current", "ones", ".", "Search", "speed", "is", "a", "normalized", "measure", "for", "the", "speed", "of", "a", "search", "user", "interface", "expressed", "in", "answers", "per", "minute", ".", "Qualified", "search", "speed", "reveals", "the", "trade-off", "between", "speed", "and", "accuracy", "while", "immediate", "search", "accuracy", "addresses", "the", "need", "to", "measure", "success", "in", "typical", "web", "search", "behavior", "where", "only", "the", "first", "few", "results", "are", "interesting", ".", "The", "proposed", "measures", "are", "evaluated", "by", "applying", "them", "to", "raw", "data", "from", "two", "studies", "and", "comparing", "them", "to", "earlier", "measures", ".", "The", "evaluations", "indicate", "that", "they", "have", "desirable", "features", ".", "ACM", "Classification", "Keywords", "H5", ".2", ".", "Information", "interfaces", "and", "presentation", "-LRB-", "e.g.", ",", "HCI", "-RRB-", ":", "User", "Interfaces", ":", "Evaluation/methodology", ".", "H3", ".3", ".", "Information", "Storage", "and", "Retrieval", ":", "Information", "Search", "and", "Retrieval", ":", "Search", "Process", ".", "In", "order", "to", "study", "the", "usability", "of", "search", "user", "interfaces", "we", "need", "proper", "measures", ".", "In", "the", "literature", ",", "speed", ",", "accuracy", "and", "subjective", "satisfaction", "measures", "are", "common", "and", "reveal", "interesting", "details", ".", "They", "have", ",", "however", ",", "a", "few", "shortcomings", "that", "call", "for", "additional", "measures", ".", "First", ",", "comparing", "results", "even", "within", "one", "experiment", "--", "let", "alone", "between", "different", "experiments", "--", "is", "hard", "because", "the", "measures", "are", "not", "typically", "normalized", "in", "the", "research", "reports", "but", "multiple", "raw", "numbers", "-LRB-", "like", "answers", "found", "and", "time", "used", "-RRB-", "are", "reported", ".", "Of", "course", ",", "unbiased", "comparison", "between", "studies", "will", "always", "be", "difficult", "as", "the", "test", "setup", "has", "a", "big", "effect", "on", "the", "results", ",", "but", "the", "problem", "is", "compounded", "by", "the", "presentation", "of", "multiple", "task", "dependent", "measures", ".", "A", "good", "measure", "would", "be", "as", "simple", "as", "possible", ",", "yet", "it", "must", "not", "discard", "relevant", "information", ".", "Second", ",", "the", "current", "measures", "do", "not", "reveal", "the", "sources", "of", "speed", "differences", ".", "In", "particular", ",", "the", "relation", "between", "speed", "and", "accuracy", "may", "be", "hard", "to", "understand", "since", "the", "current", "measures", "for", "those", "dimensions", "are", "completely", "separate", ".", "For", "example", ",", "it", "is", "essential", "to", "know", "if", "the", "increase", "in", "speed", "is", "due", "to", "careless", "behavior", "or", "better", "success", ".", "Third", ",", "in", "the", "web", "environment", ",", "a", "typical", "goal", "for", "a", "search", "is", "to", "find", "just", "a", "few", "good", "enough", "answers", "to", "a", "question", ".", "This", "is", "demonstrated", "by", "studies", "that", "show", "that", "about", "half", "of", "the", "users", "only", "view", "one", "or", "two", "result", "pages", "per", "query", "-LSB-", "11", "-RSB-", ".", "Current", "search", "user", "interface", "usability", "measures", "do", "not", "capture", "the", "success", "of", "such", "a", "behavior", "very", "well", ".", "In", "order", "to", "address", "these", "problems", ",", "we", "present", "three", "new", "proportional", ",", "normalized", "usability", "measures", ".", "The", "new", "measures", "are", "designed", "for", "the", "result", "evaluation", "phase", "of", "the", "search", "process", "-LSB-", "10", "-RSB-", "where", "real", "users", "are", "involved", ".", "Search", "speed", "is", "a", "normalized", "speed", "measure", "expressed", "in", "answers", "per", "minute", ".", "It", "makes", "within", "study", "comparisons", "simple", "and", "between", "studies", "bit", "more", "feasible", ".", "Qualified", "search", "speed", "is", "a", "combination", "of", "speed", "and", "accuracy", "measures", "that", "reveals", "the", "tradeoff", "between", "speed", "and", "accuracy", ".", "It", "shows", "the", "source", "of", "speed", "differences", "in", "terms", "of", "accuracy", "and", "is", "also", "measured", "in", "answers", "per", "minute", ".", "Immediate", "search", "accuracy", "is", "a", "measure", "that", "captures", "the", "success", "of", "result", "evaluation", "when", "only", "the", "first", "few", "hits", "are", "interesting", ".", "These", "new", "measures", "are", "evaluated", "by", "applying", "them", "to", "data", "from", "real", "experiments", "and", "comparing", "them", "to", "conventional", "measures", ".", "In", "usability", "evaluations", ",", "the", "measurements", "are", "typically", "based", "on", "the", "three", "major", "components", "of", "usability", ":", "effectiveness", ",", "efficiency", ",", "and", "satisfaction", "-LSB-", "3", ",", "4", "-RSB-", ".", "International", "ISO", "9241-11", "standard", "-LSB-", "4", "-RSB-", "defines", "effectiveness", "as", "the", "``", "accuracy", "and", "completeness", "with", "which", "the", "users", "achieve", "specified", "goals", "''", "and", "efficiency", "as", "``", "resources", "expended", "in", "relation", "to", "the", "accuracy", "and", "completeness", "with", "which", "users", "achieve", "goals", "''", ".", "According", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "NordiCHI", "'", "04", ",", "October", "23-27", ",", "2004", "Tampere", ",", "Finland", "Copyright", "2004", "ACM", "1-58113-857-1", "/", "04/10", "...", "$", "5.00", "365", "to", "the", "standard", ",", "efficiency", "measure", "divides", "the", "effectiveness", "-LRB-", "achieved", "results", "-RRB-", "by", "the", "resources", "used", "-LRB-", "e.g.", "time", ",", "human", "effort", ",", "or", "cost", "-RRB-", ".", "In", "this", "work", ",", "we", "will", "leave", "satisfaction", "measures", "out", "of", "the", "discussion", "and", "concentrate", "on", "objective", "quantitative", "measures", ".", "Usability", "measurements", "are", "strongly", "domain", "dependent", ".", "In", "the", "search", "user", "interface", "domain", "effectiveness", "is", "typically", "measured", "in", "terms", "of", "accuracy", "-LRB-", "which", "is", "recognized", "as", "an", "example", "measure", "in", "the", "ISO", "standard", "as", "well", "-RRB-", ".", "Time", "-LRB-", "speed", "of", "use", "-RRB-", "is", "typically", "used", "as", "the", "critical", "resource", "when", "calculating", "the", "efficiency", ".", "In", "the", "following", "we", "will", "discuss", "measuring", "practices", "in", "typical", "studies", "evaluating", "search", "user", "interfaces", ".", "Note", "that", "although", "almost", "every", "study", "in", "the", "information", "retrieval", "community", "deals", "with", "searching", ",", "they", "tend", "to", "focus", "on", "system", "performance", "-LSB-", "8", "-RSB-", "and", "thus", "only", "a", "few", "studies", "are", "mentioned", "here", ".", "Speed", "Measures", "The", "basic", "approach", "for", "measuring", "the", "speed", "is", "simply", "to", "measure", "the", "time", "required", "for", "performing", "a", "task", ",", "but", "the", "actual", "implementation", "differs", "from", "study", "to", "study", ".", "In", "early", "evaluations", "of", "the", "Scatter/Gather", "system", "by", "Pirolli", "et", "al.", "-LSB-", "6", "-RSB-", ",", "times", "were", "recorded", "simply", "on", "a", "task", "basis", ".", "In", "the", "results", "they", "reported", "how", "many", "minutes", "it", "took", ",", "on", "average", ",", "to", "complete", "a", "task", ".", "In", "the", "study", "by", "Dumais", "et", "al.", ".", "-LSB-", "2", "-RSB-", ",", "roughly", "the", "same", "method", "was", "used", ",", "except", "that", "the", "times", "were", "divided", "into", "categories", "according", "to", "the", "difficulty", "of", "the", "task", ".", "Sebrechts", "et", "al.", "-LSB-", "9", "-RSB-", "used", "a", "different", "categorization", "method", "where", "task", "execution", "times", "were", "divided", "into", "categories", "according", "to", "the", "subject", "'s", "computer", "experience", ".", "Time", "measurements", "can", "also", "be", "recorded", "in", "a", "somewhat", "reversed", "manner", "as", "Pratt", "and", "Fagan", "-LSB-", "7", "-RSB-", "did", ".", "They", "reported", "how", "many", "results", "users", "found", "in", "four", "minutes", ".", "This", "is", "close", "to", "measuring", "speed", "-LRB-", "achievement", "/", "time", "-RRB-", ",", "but", "this", "normalization", "to", "four", "minutes", "is", "arbitrary", "and", "does", "not", "facilitate", "comparisons", "optimally", ".", "In", "a", "study", "by", "Dennis", "et", "al.", "-LSB-", "1", "-RSB-", ",", "the", "time", "to", "bookmark", "a", "result", "page", "was", "measured", "and", "only", "one", "page", "was", "bookmarked", "per", "task", ".", "This", "setup", "makes", "the", "comparison", "fairly", "easy", "since", "the", "reported", "time", "tells", "how", "much", "time", "it", "takes", "to", "find", "a", "result", "with", "the", "given", "user", "interface", ".", "However", ",", "this", "desirable", "feature", "was", "caused", "by", "the", "setup", "where", "only", "one", "result", "was", "chosen", ",", "and", "other", "types", "of", "tasks", "were", "not", "considered", ".", "Accuracy", "Measures", "Accuracy", "measures", "are", "based", "on", "the", "notion", "of", "relevance", "which", "is", "typically", "determined", "by", "independent", "judges", "in", "relation", "to", "a", "task", ".", "In", "information", "retrieval", "studies", ",", "accuracy", "is", "typically", "a", "combination", "of", "two", "measures", ":", "recall", "and", "precision", ".", "Recall", "describes", "the", "amount", "of", "relevant", "results", "found", "in", "a", "search", "in", "a", "relation", "to", "all", "the", "relevant", "results", "in", "the", "collection", ".", "As", "a", "perfect", "query", "in", "terms", "of", "recall", "could", "return", "all", "the", "entries", "in", "the", "collection", ",", "it", "is", "counterbalanced", "with", "the", "precision", "measure", ".", "Precision", "describes", "how", "clean", "the", "result", "set", "is", "by", "describing", "the", "density", "of", "relevant", "results", "in", "it", ".", "Precision", ",", "like", "recall", ",", "is", "expressed", "by", "a", "percentage", "number", "which", "states", "the", "proportion", "of", "relevant", "targets", "in", "the", "result", "set", ".", "Recall", "and", "precision", "measures", "are", "designed", "for", "measuring", "the", "success", "of", "a", "query", ".", "In", "contrast", ",", "when", "the", "success", "of", "the", "result", "evaluation", "process", "is", "studied", ",", "the", "users", "need", "to", "complete", "the", "process", "by", "selecting", "the", "interesting", "results", ".", "Measures", "are", "then", "based", "on", "analyzing", "the", "true", "success", "of", "the", "selections", ".", "Recall", "and", "precision", "measures", "are", "used", "here", "too", ",", "but", "the", "calculation", "is", "different", ".", "In", "these", "cases", "recall", "describes", "the", "amount", "of", "relevant", "results", "selected", "in", "relation", "to", "the", "amount", "of", "them", "in", "the", "result", "set", ".", "Precision", ",", "on", "the", "other", "hand", ",", "describes", "the", "density", "of", "relevant", "results", "among", "the", "selected", "results", ".", "Veerasamy", "and", "Heikes", "-LSB-", "13", "-RSB-", "used", "such", "measures", "-LRB-", "called", "interactive", "recall", "and", "interactive", "precision", "-RRB-", "in", "their", "study", "of", "a", "graphical", "display", "of", "retrieval", "studies", ".", "They", "asked", "participants", "to", "judge", "the", "relevance", "of", "the", "results", "in", "order", "to", "get", "the", "users", "'", "idea", "of", "the", "document", "relevance", ".", "Pirolli", "et", "al.", "-LSB-", "6", "-RSB-", "used", "only", "the", "precision", "measure", "in", "their", "test", "of", "the", "Scatter/Gather", "system", ".", "The", "selection", "of", "the", "results", "was", "implemented", "by", "a", "save", "functionality", ".", "Dennis", "et", "al.", "-LSB-", "1", "-RSB-", "used", "an", "approach", "where", "they", "reported", "the", "average", "relevance", "of", "the", "results", "found", "with", "a", "given", "user", "interface", ".", "Relevant", "results", "were", "indicated", "by", "bookmarking", "them", ".", "Further", "variations", "of", "the", "measures", "where", "user", "interaction", "is", "taken", "into", "account", "in", "accuracy", "evaluation", "were", "proposed", "and", "used", "by", "Veerasamy", "and", "Belkin", "-LSB-", "12", "-RSB-", ".", "Information", "Foraging", "Theory", "Stuart", "Card", ",", "Peter", "Pirolli", "and", "colleagues", "have", "made", "extensive", "research", "on", "information", "foraging", "theory", "-LSB-", "5", "-RSB-", "in", "Xerox", "Parc", "and", "the", "results", "are", "relevant", "here", "as", "well", ".", "In", "its", "conventional", "form", "information", "foraging", "theory", "states", "that", "the", "rate", "of", "gain", "of", "valuable", "information", "-LRB-", "R", "-RRB-", "can", "be", "calculated", "using", "the", "formula", ":", "W", "B", "T", "T", "G", "R", "+", "=", "-LRB-", "1", "-RRB-", "In", "the", "formula", ",", "G", "is", "the", "amount", "of", "gained", "information", ",", "T", "B", "is", "the", "total", "time", "spent", "between", "information", "patches", "and", "T", "W", "is", "the", "total", "time", "spent", "within", "an", "information", "patch", "-LSB-", "5", "-RSB-", ".", "An", "information", "patch", "is", "understood", "to", "mean", "a", "collection", "of", "information", "such", "as", "a", "document", "collection", ",", "a", "search", "result", "collection", "or", "even", "a", "single", "document", "that", "can", "be", "seen", "to", "be", "a", "collection", "of", "information", "that", "requires", "some", "actions", "for", "digesting", "the", "information", ".", "In", "the", "information", "foraging", "process", ",", "the", "forager", "navigates", "first", "between", "patches", "and", "then", "finds", "actual", "meaningful", "information", "within", "a", "patch", ".", "The", "process", "is", "then", "started", "over", "by", "seeking", "a", "new", "patch", ".", "If", "we", "discard", "the", "separation", "of", "two", "different", "types", "of", "activities", "-LRB-", "between", "and", "within", "patches", "-RRB-", "for", "simplicity", ",", "equation", "1", "states", "the", "information", "gain", "rate", "in", "terms", "of", "time", "unit", ".", "This", "matches", "with", "common", "practices", "in", "the", "field", "and", "is", "the", "basis", "for", "our", "proposed", "measurements", "as", "well", ".", "366", "The", "gap", "that", "is", "left", "in", "the", "information", "foraging", "theory", "in", "a", "relation", "to", "making", "concrete", "measurements", ",", "is", "the", "definition", "of", "information", "gain", ".", "The", "gap", "is", "well", "justified", "as", "the", "definition", "would", "unnecessarily", "reduce", "the", "scope", "of", "the", "theory", ".", "On", "the", "other", "hand", ",", "when", "we", "deal", "with", "concrete", "problems", ",", "we", "can", "be", "more", "specific", "and", "thus", "obtain", "preciseness", ".", "This", "is", "our", "approach", "here", ":", "we", "apply", "the", "basic", "relationships", "stated", "in", "the", "information", "foraging", "theory", "and", "provide", "meaningful", "ways", "of", "measuring", "the", "gain", ".", "All", "this", "is", "done", "in", "the", "context", "of", "evaluating", "search", "user", "interfaces", "in", "the", "search", "result", "evaluation", "phase", ".", "We", "will", "get", "back", "to", "this", "topic", "in", "the", "discussions", "of", "the", "new", "measures", "to", "see", "their", "relationship", "to", "the", "information", "foraging", "theory", "in", "more", "detail", ".", "We", "will", "evaluate", "the", "proposed", "measures", "using", "data", "from", "an", "experiment", "of", "ours", ".", "This", "experiment", "was", "conducted", "to", "evaluate", "a", "new", "search", "user", "interface", "idea", "by", "comparing", "it", "to", "the", "de", "facto", "standard", "solution", ".", "Our", "proposed", "user", "interface", "used", "automatically", "calculated", "categories", "for", "facilitating", "the", "result", "access", "-LRB-", "Figure", "1", ",", "left", "-RRB-", ".", "As", "the", "categories", "we", "used", "the", "most", "common", "words", "and", "phrases", "found", "within", "the", "result", "titles", "and", "text", "summaries", "-LRB-", "snippets", "-RRB-", ".", "Stop", "word", "list", "and", "a", "simple", "stemmer", "were", "used", "for", "improving", "the", "quality", "of", "the", "categories", "-LRB-", "e.g.", "discarding", "very", "common", "words", "such", "as", "`", "and", "'", "or", "`", "is", "'", "-RRB-", ".", "As", "the", "category", "word", "-LRB-", "or", "phrase", "-RRB-", "selection", "was", "based", "solely", "on", "the", "word", "frequencies", ",", "the", "categories", "were", "neither", "exclusive", "nor", "exhaustive", ".", "There", "was", "a", "special", "built-in", "category", "for", "accessing", "all", "the", "results", "as", "one", "long", "list", ".", "The", "hypothesis", "behind", "the", "category", "user", "interface", "was", "such", "that", "it", "would", "allow", "users", "to", "identify", "and", "locate", "interesting", "results", "easier", "and", "faster", "than", "the", "conventional", "solution", ".", "The", "calculated", "categories", "were", "presented", "to", "the", "user", "as", "a", "list", "beside", "the", "actual", "result", "list", ".", "When", "a", "category", "was", "selected", "from", "the", "list", ",", "the", "result", "listing", "was", "filtered", "to", "display", "only", "those", "result", "items", "that", "contained", "the", "selected", "word", "or", "phrase", ".", "There", "were", "a", "total", "of", "150", "results", "that", "the", "user", "could", "access", "and", "from", "which", "the", "categories", "were", "computed", ".", "Participants", "There", "were", "20", "volunteer", "participants", "-LRB-", "8", "male", ",", "12", "female", "-RRB-", "in", "the", "experiment", ".", "Their", "average", "age", "was", "35", "years", "varying", "from", "19", "to", "57", "years", "and", "they", "were", "recruited", "from", "the", "local", "university", ".", "Almost", "all", "of", "the", "participants", "can", "be", "regarded", "as", "experienced", "computer", "users", ",", "but", "none", "of", "them", "was", "an", "information", "technology", "professional", ".", "Apparatus", "There", "were", "two", "user", "interfaces", "to", "access", "the", "search", "results", ":", "1", ".", "The", "category", "interface", "-LRB-", "category", "UI", ",", "Figure", "1", ",", "left", "-RRB-", "presented", "the", "users", "with", "a", "list", "of", "15", "automatically", "generated", "categories", "on", "the", "left", "side", "of", "the", "user", "interface", ".", "When", "the", "user", "selected", "a", "category", ",", "the", "corresponding", "results", "were", "shown", "on", "the", "right", "side", "of", "the", "user", "interface", "much", "like", "in", "popular", "e-mail", "clients", ".", "2", ".", "The", "reference", "interface", "-LRB-", "reference", "UI", ",", "Figure", "1", ",", "right", "-RRB-", "was", "a", "Google", "web", "search", "engine", "imitation", "showing", "results", "in", "separate", "pages", ",", "ten", "results", "per", "page", ".", "The", "order", "of", "the", "results", "was", "defined", "by", "the", "search", "engine", "-LRB-", "Google", "-RRB-", ".", "In", "the", "bottom", "of", "the", "window", ",", "there", "were", "controls", "to", "browse", "the", "pages", "in", "order", "-LRB-", "Previous", "and", "Figure", "1", ".", "Compared", "user", "interfaces", "in", "our", "experiment", ".", "Category", "user", "interface", "on", "the", "left", ",", "reference", "user", "interface", "on", "the", "right", ".", "367", "Next", "buttons", "-RRB-", "or", "in", "random", "order", "-LRB-", "a", "radio", "button", "for", "each", "page", "-RRB-", ".", "There", "were", "15", "pages", "so", "that", "the", "participants", "could", "access", "a", "total", "of", "150", "results", ".", "Design", "and", "Procedure", "The", "experiment", "had", "search", "user", "interface", "as", "the", "only", "independent", "variable", "with", "two", "values", ":", "category", "UI", "and", "reference", "UI", ".", "The", "values", "of", "the", "independent", "variable", "were", "varied", "within", "the", "subjects", "and", "thus", "the", "analysis", "was", "done", "using", "repeated", "measures", "tools", ".", "As", "dependent", "variables", "we", "measured", ":", "1", "-RRB-", "time", "to", "accomplish", "a", "task", "in", "seconds", ",", "2", "-RRB-", "number", "of", "results", "selected", "for", "a", "task", ",", "3", "-RRB-", "relevance", "of", "selected", "result", "in", "a", "three", "step", "scale", "-LRB-", "relevant", ",", "related", ",", "not", "relevant", "-RRB-", ",", "and", "4", "-RRB-", "subjective", "attitudes", "towards", "the", "systems", ".", "The", "experiments", "were", "carried", "out", "in", "a", "usability", "laboratory", ".", "One", "experiment", "lasted", "approximately", "45", "minutes", "and", "contained", "18", "-LRB-", "9", "+9", "-RRB-", "information", "seeking", "tasks", "in", "two", "blocks", ":", "one", "carried", "out", "with", "the", "category", "interface", "and", "the", "other", "using", "the", "reference", "interface", ".", "The", "order", "of", "the", "blocks", "and", "the", "tasks", "were", "counterbalanced", "between", "the", "participants", ".", "For", "each", "task", ",", "there", "was", "a", "ready-made", "query", "and", "users", "did", "not", "-LRB-", "re", "-RRB-", "formulate", "the", "queries", "themselves", ".", "This", "kind", "of", "restriction", "in", "the", "setup", "was", "necessary", "to", "properly", "focus", "on", "measuring", "the", "success", "in", "the", "result", "evaluation", "phase", "of", "the", "search", ".", "The", "actual", "task", "of", "the", "participant", "was", "to", "``", "collect", "as", "many", "relevant", "results", "for", "the", "information", "seeking", "task", "as", "possible", "as", "fast", "as", "you", "can", "''", ".", "The", "participants", "collected", "results", "by", "using", "check", "boxes", "that", "were", "available", "beside", "each", "result", "item", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "In", "the", "test", "situation", "there", "were", "two", "windows", "in", "the", "computer", "desktop", ".", "The", "task", "window", "displayed", "information", "seeking", "tasks", "for", "the", "participants", "who", "were", "instructed", "to", "first", "read", "the", "task", "description", ",", "then", "push", "the", "`", "Start", "'", "button", "in", "the", "task", "window", "and", "promptly", "proceed", "to", "accomplish", "the", "task", "in", "the", "search", "window", ".", "Upon", "task", "completion", "-LRB-", "participant", "'s", "own", "decision", "or", "time-out", "-RRB-", ",", "the", "participants", "were", "instructed", "to", "push", "the", "`", "Done", "'", "button", "in", "the", "task", "window", ".", "The", "time", "between", "`", "Start", "'", "and", "`", "Done", "'", "button", "presses", "was", "measured", "as", "the", "total", "time", "for", "the", "task", ".", "This", "timing", "scheme", "was", "explained", "to", "the", "participants", ".", "Time", "for", "each", "task", "was", "limited", "to", "one", "minute", ".", "Accuracy", "measures", "are", "based", "on", "ratings", "done", "by", "the", "experimenter", "-LRB-", "one", "person", "-RRB-", ".", "The", "rating", "judgments", "were", "made", "based", "solely", "on", "the", "task", "description", "and", "the", "very", "same", "result", "title", "and", "summary", "texts", "that", "the", "participants", "saw", "in", "the", "experiment", ".", "Actual", "result", "pages", "were", "not", "used", "because", "it", "would", "have", "added", "an", "extra", "variable", "into", "the", "design", "-LRB-", "result", "summary", "vs.", "page", "relation", "-RRB-", ",", "which", "we", "did", "not", "wish", ".", "All", "the", "tasks", "had", "at", "least", "two", "defining", "concepts", "like", "in", "``", "Find", "pictures", "of", "planet", "Mars", "''", ".", "For", "relevant", "results", ",", "all", "of", "the", "concepts", "was", "required", "to", "be", "present", "in", "some", "form", "-LRB-", "different", "wording", "was", "of", "course", "allowed", "-RRB-", ".", "Related", "results", "were", "those", "where", "only", "the", "most", "dominant", "concept", "was", "present", "-LRB-", "e.g.", "planet", "Mars", "-RRB-", ".", "Rest", "of", "the", "results", "was", "considered", "to", "be", "not", "relevant", ".", "For", "comparing", "the", "proposed", "measures", "we", "present", "here", "the", "results", "of", "our", "experiment", "using", "the", "conventional", "measures", ":", "time", ",", "number", "of", "results", ",", "and", "precision", ".", "The", "time", "measure", "did", "not", "reveal", "very", "interesting", "results", ",", "because", "the", "test", "setup", "limited", "the", "total", "time", "for", "one", "task", "to", "one", "minute", ".", "Thus", "the", "mean", "times", "for", "conditions", "were", "close", "to", "each", "other", ":", "56.6", "seconds", "-LRB-", "sd", "=", "5.5", "-RRB-", "for", "the", "category", "UI", "and", "58.3", "seconds", "-LRB-", "sd", "=", "3.5", "-RRB-", "for", "the", "reference", "UI", ".", "The", "difference", "is", "not", "statistically", "significant", "as", "repeated", "measures", "analysis", "of", "variance", "-LRB-", "ANOVA", "-RRB-", "gives", "F", "-LRB-", "1,19", "-RRB-", "=", "3.65", ",", "ns", ".", "In", "contrast", ",", "number", "of", "results", "revealed", "a", "difference", ".", "When", "using", "the", "category", "UI", "the", "participants", "were", "able", "to", "find", "on", "average", "5.1", "-LRB-", "sd", "=", "2.1", "-RRB-", "results", "per", "task", "whereas", "using", "the", "reference", "UI", "yielded", "on", "average", "3.9", "-LRB-", "sd", "=", "1.2", "-RRB-", "selections", ".", "The", "difference", "is", "significant", "since", "ANOVA", "gives", "F", "-LRB-", "1,19", "-RRB-", "=", "9.24", ",", "p", "<", ".01", ".", "Precision", "measure", "gave", "also", "a", "statistically", "significant", "difference", ".", "When", "using", "the", "category", "UI", "on", "average", "65", "%", "-LRB-", "sd", "=", "13", "-RRB-", "of", "the", "participants", "'", "selections", "were", "relevant", "in", "a", "relation", "to", "the", "task", ".", "The", "corresponding", "number", "for", "the", "reference", "UI", "was", "49", "%", "-LRB-", "sd", "=", "15", "-RRB-", ".", "ANOVA", "gave", "F", "-LRB-", "1,19", "-RRB-", "=", "14.49", ",", "p", "<", ".01", ".", "The", "results", "are", "compatible", "with", "other", "studies", "done", "with", "similar", "categorizing", "search", "user", "interfaces", ".", "For", "example", ",", "Pratt", "and", "Fagan", "-LSB-", "7", "-RSB-", "have", "also", "reported", "similar", "results", "in", "favor", "of", "categorizing", "user", "interface", ".", "When", "categories", "work", ",", "they", "enhance", "the", "result", "evaluation", "process", "by", "reducing", "the", "number", "of", "items", "that", "need", "to", "be", "evaluated", ".", "Users", "find", "interesting", "looking", "categories", "and", "evaluate", "only", "the", "results", "within", "those", "categories", ".", "Concentration", "of", "relevant", "documents", "in", "the", "interesting", "categories", "is", "higher", "than", "in", "the", "whole", "result", "set", ".", "In", "order", "to", "make", "the", "comparison", "of", "speed", "measures", "easier", ",", "we", "suggest", "a", "proportional", "measure", ".", "When", "the", "search", "time", "and", "number", "of", "results", "are", "combined", "into", "one", "measure", ",", "just", "like", "in", "measuring", "physical", "speed", "by", "kilometers", "or", "miles", "per", "hour", ",", "we", "get", "a", "search", "user", "interface", "search", "speed", "measure", "expressed", "in", "answers", "per", "minute", "-LRB-", "APM", "-RRB-", ".", "It", "is", "calculated", "by", "dividing", "the", "number", "of", "answers", "found", "by", "the", "time", "it", "took", "to", "find", "them", ":", "searched", "minutes", "found", "ans/wers", "speed", "search", "=", "-LRB-", "2", "-RRB-", "In", "relation", "to", "the", "ISO-9241-11", "standard", "this", "is", "an", "efficiency", "measure", "whereas", "the", "plain", "number", "of", "answers", "is", "an", "-LRB-", "simple", "-RRB-", "effectiveness", "measure", ".", "In", "terms", "of", "information", "foraging", "theory", ",", "we", "replace", "the", "G", "term", "in", "equation", "1", "with", "number", "of", "results", "found", "and", "the", "time", "is", "normalized", "to", "minutes", ".", "This", "concretizes", "the", "rate", "-LRB-", "R", "-RRB-", "in", "equation", "1", "to", "be", "answers", "per", "minute", ".", "The", "structure", "of", "equations", "1", "and", "2", "is", "essentially", "the", "same", ".", "368", "Whenever", "two", "-LRB-", "or", "more", "-RRB-", "measures", "are", "reduced", "into", "one", ",", "there", "is", "a", "risk", "of", "loosing", "relevant", "information", ".", "This", "is", "the", "case", "here", "as", "well", ".", "The", "proposed", "measure", "does", "not", "make", "the", "distinction", "between", "a", "situation", "where", "one", "answer", "is", "found", "in", "10", "seconds", "and", "a", "situation", "where", "four", "answers", "are", "found", "in", "40", "seconds", ".", "In", "both", "cases", "the", "speed", "is", "6", "answers", "per", "minute", "and", "the", "details", "of", "the", "situation", "are", "lost", "in", "the", "measurement", ".", "However", ",", "we", "feel", "that", "speed", "measure", "is", "nevertheless", "correct", "also", "in", "this", "case", ".", "The", "situation", "can", "be", "compared", "to", "driving", "50", "km/h", "for", "10", "or", "40", "minutes", ".", "The", "traveled", "distance", "is", "different", ",", "but", "the", "speed", "is", "the", "same", ".", "This", "means", "that", "proposed", "speed", "measure", "does", "not", "apply", "in", "every", "situation", "and", "attention", "must", "be", "paid", "in", "measurement", "selection", ".", "The", "problem", "of", "reducing", "two", "measures", "into", "one", "has", "also", "been", "thoroughly", "discussed", "by", "Shumin", "Zhai", "-LSB-", "14", "-RSB-", "in", "the", "context", "of", "input", "devices", ".", "He", "points", "out", "that", "reduction", "of", "two", "Fitts", "'", "law", "variables", "-LRB-", "a", "and", "b", "-RRB-", "in", "calculating", "throughput", "of", "an", "input", "device", "leads", "to", "a", "measure", "that", "is", "dependent", "of", "the", "task", ".", "The", "same", "problem", "does", "not", "apply", "here", "as", "our", "situation", "is", "not", "related", "to", "Fitts", "'", "law", ".", "However", ",", "our", "measure", "is", "dependent", "on", "the", "task", ",", "but", "it", "is", "not", "dependent", "of", "the", "used", "time", "or", "the", "number", "of", "results", "collected", "like", "previous", "measures", ".", "Evaluation", "In", "order", "to", "evaluate", "the", "suggested", "measure", "it", "was", "applied", "to", "the", "results", "of", "Scatter/Gather", "evaluation", "by", "Pirolli", "et", "al.", "-LSB-", "6", "-RSB-", ".", "In", "their", "experiment", "the", "task", "was", "to", "find", "relevant", "documents", "for", "a", "given", "topic", ".", "The", "table", "below", "summarizes", "the", "results", "-LRB-", "SS", "=", "similarity", "search", ",", "SG", "=", "scatter/gather", "-RRB-", ":", "Measurement", "SS", "SG", "Original", "Time", "used", "in", "minutes", "10.10", "30.64", "Number", "of", "answers", "16.44", "12.26", "Search", "speed", "Answers", "per", "minute", "1.62", "0.40", "The", "first", "two", "rows", "show", "the", "actual", "numbers", "reported", "in", "the", "paper", "while", "the", "third", "row", "shows", "the", "same", "results", "in", "answers", "per", "minute", ".", "It", "is", "arguably", "easier", "to", "understand", "the", "relationship", "between", "the", "two", "user", "interfaces", "from", "the", "normalized", "search", "speed", "measure", ".", "It", "communicates", "that", "the", "SS", "condition", "was", "roughly", "four", "times", "faster", "than", "the", "SG", "condition", ".", "The", "relation", "is", "hard", "to", "see", "from", "the", "original", "results", ".", "In", "addition", ",", "measurements", "can", "be", "easily", "related", "to", "one", "'s", "own", "experiences", "with", "similar", "user", "interfaces", "because", "of", "the", "normalization", ".", "In", "the", "second", "table", "below", ",", "the", "search", "speed", "measure", "is", "applied", "to", "the", "data", "from", "our", "own", "experiment", ".", "Here", "the", "difference", "between", "raw", "numbers", "and", "normalized", "measure", "is", "not", "as", "large", "as", "in", "the", "previous", "example", "because", "the", "time", "used", "for", "the", "tasks", "is", "roughly", "the", "same", "in", "both", "cases", "due", "to", "the", "test", "setup", ".", "Nevertheless", ",", "the", "suggested", "measure", "makes", "the", "comparison", "easier", ".", "Note", "also", "that", "the", "fairly", "large", "difference", "with", "the", "speeds", "in", "the", "experiment", "by", "Pirolli", "et", "al.", "is", "presumably", "due", "to", "experiment", "set-up", "-LRB-", "tasks", ",", "conditions", ",", "equipment", ",", "etc.", "-RRB-", ".", "Measurement", "Category", "UI", "Reference", "UI", "Raw", "numbers", "Time", "used", "in", "minutes", "0.94", "0.97", "Number", "of", "answers", "5.1", "3.9", "Search", "speed", "Answers", "per", "minute", "5.4", "4.0", "When", "an", "analysis", "of", "variance", "is", "calculated", "on", "the", "answers", "per", "minute", "measure", ",", "we", "see", "a", "bit", "stronger", "result", "compared", "to", "the", "conventional", "measures", "where", "just", "the", "number", "of", "results", "revealed", "significant", "difference", ".", "Here", "ANOVA", "gives", "F", "-LRB-", "1,19", "-RRB-", "=", "11.3", ",", "p", "<", ".01", ".", "Slight", "increase", "in", "the", "F", "statistic", "is", "due", "to", "the", "combination", "of", "two", "measures", "that", "both", "have", "a", "difference", "in", "the", "same", "direction", ".", "In", "summary", ",", "search", "speed", "measures", "the", "same", "phenomena", "as", "the", "previously", "used", "measures", "-LRB-", "it", "is", "calculated", "from", "the", "same", "numbers", "-RRB-", "and", "it", "can", "make", "distinctions", "between", "the", "measured", "objects", ".", "Previously", "used", "recall", "and", "precision", "measures", "do", "not", "directly", "tell", "where", "possible", "speed", "differences", "come", "from", "or", "what", "the", "relation", "between", "speed", "and", "accuracy", "is", ".", "The", "suggested", "qualified", "search", "speed", "measure", "refines", "the", "search", "speed", "measure", "with", "categories", "of", "relevance", "to", "address", "this", "shortcoming", ".", "To", "keep", "the", "measure", "understandable", "and", "robust", ",", "we", "use", "only", "two", "or", "three", "categories", "of", "relevance", ".", "Like", "the", "previous", "measure", ",", "the", "qualified", "search", "speed", "is", "also", "measured", "in", "answers", "per", "minute", ",", "with", "a", "distinction", "that", "the", "speed", "is", "calculated", "separately", "for", "each", "relevance", "category", "according", "to", "the", "equation", "3", ".", "There", "RCi", "stands", "for", "relevance", "category", "i", "-LRB-", "typical", "categories", "are", "e.g.", "relevant", "and", "irrelevant", "-RRB-", ".", "searched", "minutes", "found", "answers", "speed", "search", "qualified", "RCi", "RCi", "=", "-LRB-", "3", "-RRB-", "Note", "that", "the", "sum", "over", "all", "relevance", "categories", "equals", "to", "the", "normal", "search", "speed", ".", "When", "qualified", "search", "speed", "is", "described", "in", "information", "foraging", "terminology", ",", "we", "can", "see", "that", "the", "gain", "is", "now", "defined", "more", "precisely", "than", "with", "search", "speed", ".", "While", "search", "speed", "takes", "into", "account", "only", "the", "number", "of", "results", ",", "qualified", "search", "speed", "adds", "the", "quality", "of", "the", "results", "into", "the", "equation", ".", "In", "essence", ",", "this", "gives", "us", "a", "more", "accurate", "estimate", "of", "the", "gain", "of", "information", ",", "and", "thus", "a", "more", "accurate", "rate", "of", "information", "gain", ".", "Note", "that", "this", "shows", "also", "in", "the", "rate", "magnitude", ":", "rate", "is", "now", "stated", "in", "-LRB-", "e.g.", "-RRB-", "number", "of", "relevant", "results", "per", "minute", ".", "Evaluation", "When", "the", "qualified", "search", "speed", "measure", "is", "applied", "to", "the", "data", "of", "our", "experiment", "and", "compared", "to", "the", "simple", "measure", "of", "precision", ",", "a", "few", "observations", "can", "be", "made", ".", "First", ",", "the", "proposed", "measure", "preserves", "the", "statistically", "significant", "369", "difference", "that", "was", "observed", "with", "the", "conventional", "precision", "measure", ".", "ANOVA", "for", "the", "speed", "of", "acquiring", "relevant", "results", "gives", "F", "-LRB-", "1,19", "-RRB-", "=", "32.4", ",", "p", "<", ".01", ".", "Second", ",", "both", "measures", "-LRB-", "Figure", "2", "-RRB-", "convey", "roughly", "the", "same", "information", "about", "the", "precision", "of", "the", "user", "interfaces", "including", ":", "1", "-RRB-", "with", "the", "category", "UI", "more", "than", "half", "of", "the", "selected", "results", "were", "relevant", "whereas", "with", "the", "reference", "UI", "about", "half", "of", "the", "results", "were", "relevant", ",", "and", "2", "-RRB-", "using", "the", "category", "UI", "participants", "were", "more", "successful", "in", "terms", "of", "precision", ".", "However", ",", "with", "the", "suggested", "qualified", "search", "speed", "measure", ",", "the", "amplitude", "of", "difference", "in", "precision", "is", "not", "obvious", "and", "thus", "the", "new", "measure", "can", "not", "replace", "the", "old", "one", ".", "Third", ",", "in", "addition", "to", "what", "can", "be", "seen", "in", "the", "precision", "chart", ",", "the", "qualified", "search", "speed", "chart", "-LRB-", "Figure", "2", "-RRB-", "reveals", "some", "interesting", "data", ".", "It", "shows", "that", "the", "improvement", "in", "speed", "is", "due", "to", "the", "fact", "that", "participants", "have", "been", "able", "to", "select", "more", "relevant", "results", "while", "the", "proportion", "of", "not", "relevant", "results", "decreased", "a", "bit", ".", "The", "same", "information", "could", "surely", "be", "acquired", "by", "combining", "conventional", "speed", "and", "precision", "measures", ",", "but", "when", "the", "information", "is", "visible", "in", "one", "figure", "it", "is", "arguably", "easier", "to", "find", "such", "a", "relationship", ".", "Note", "also", "that", "although", "the", "new", "measure", "is", "mainly", "concerned", "about", "the", "accuracy", "of", "use", ",", "it", "informs", "the", "reader", "simultaneously", "about", "the", "speed", "of", "use", "as", "well", ".", "Figure", "3", "makes", "a", "comparison", "between", "the", "new", "measure", "and", "the", "original", "precision", "measure", "using", "the", "data", "collected", "in", "the", "Scatter/Gather", "experiment", "-LSB-", "6", "-RSB-", ".", "Here", "it", "is", "worthwhile", "to", "note", "that", "even", "though", "precision", "measures", "are", "close", "to", "those", "in", "the", "previous", "example", ",", "the", "qualified", "search", "speed", "measure", "reveals", "large", "differences", "between", "the", "conditions", ".", "Qualified", "search", "speed", "seems", "to", "reveal", "the", "tradeoff", "between", "accuracy", "and", "speed", "convincingly", "in", "this", "case", ".", "We", "can", "also", "notice", "that", "both", "conditions", "here", "are", "much", "slower", "than", "those", "in", "Figure", "2", "as", "the", "qualified", "search", "speed", "is", "normalized", "just", "like", "the", "simpler", "search", "speed", ".", "It", "is", "notable", "that", "qualified", "search", "speed", "does", "not", "measure", "the", "same", "phenomena", "as", "precision", "and", "thus", "they", "are", "not", "replaceable", ".", "We", "can", "image", "a", "situation", "where", "high", "qualified", "speed", "is", "associated", "with", "low", "precision", "and", "vice", "versa", ".", "In", "reality", "this", "could", "happen", "when", "users", "try", "to", "be", "very", "precise", "in", "one", "condition", "and", "very", "fast", "in", "another", ".", "On", "the", "other", "hand", ",", "we", "saw", "that", "qualified", "evaluation", "speed", "can", "make", "clear", "distinctions", "between", "user", "interfaces", ",", "which", "is", "a", "compulsory", "quality", "for", "a", "useful", "measure", ".", "The", "last", "suggested", "measure", "captures", "the", "success", "of", "typical", "web", "search", "behavior", ".", "In", "such", "a", "task", ",", "the", "user", "wants", "to", "find", "a", "piece", "of", "information", "that", "would", "be", "good", "enough", "for", "an", "information", "need", "and", "overall", "speed", "and", "accuracy", "are", "not", "as", "important", "as", "quick", "success", ".", "The", "measure", "is", "called", "immediate", "accuracy", "and", "it", "is", "expressed", "as", "a", "success", "rate", ".", "The", "success", "rate", "states", "the", "proportion", "of", "cases", "where", "at", "least", "one", "relevant", "result", "is", "found", "by", "the", "n", "th", "selection", ".", "For", "applying", "the", "measure", ",", "the", "order", "of", "each", "result", "selection", "must", "be", "stored", "and", "the", "relevance", "of", "them", "must", "be", "judged", "against", "the", "task", ".", "The", "selections", "for", "each", "task", "and", "participant", "are", "then", "gone", "through", "in", "the", "order", "they", "were", "made", "and", "the", "frequency", "of", "first", "relevant", "result", "finding", "is", "calculated", "for", "each", "selection", "-LRB-", "first", ",", "second", ",", "and", "so", "on", "-RRB-", ".", "When", "this", "figure", "is", "divided", "by", "the", "total", "number", "of", "observations", "-LRB-", "number", "of", "participants", "*", "number", "of", "tasks", "-RRB-", "we", "get", "the", "percentage", "of", "first", "relevant", "result", "found", "per", "each", "selection", ".", "Equation", "4", "shows", "the", "calculation", "more", "formally", ",", "there", "n", "stands", "for", "n", "th", "selection", ".", "ns", "observatio", "of", "number", "total", "n", "results", "relevant", "first", "of", "number", "n", "accuracy", "immediate", "=", "-LRB-", "4", "-RRB-", "When", "the", "figures", "calculated", "with", "equation", "4", "are", "plotted", "into", "a", "cumulative", "line", "chart", "-LRB-", "Figure", "4", "-RRB-", "we", "can", "see", "when", "at", "least", "one", "relevant", "result", "is", "found", "on", "average", ".", "For", "example", ",", "-LRB-", "in", "Figure", "4", "-RRB-", "after", "the", "second", "selection", "in", "79", "%", "of", "the", "cases", "at", "least", "one", "relevant", "result", "is", "found", "when", "using", "the", "category", "user", "interface", ".", "Notice", "also", "that", "the", "lines", "do", "not", "reach", "the", "100", "%", "value", ".", "This", "means", "that", "in", "some", "of", "the", "cases", "the", "users", "were", "not", "able", "to", "find", "any", "relevant", "results", ".", "When", "looking", "back", "to", "information", "foraging", "theory", ",", "this", "measure", "takes", "us", "to", "a", "different", "approach", "compared", "to", "the", "previous", "ones", ".", "This", "measure", "abandons", "time", "as", "the", "limiting", "Figure", "3", ".", "Qualified", "search", "speed", "measure", "compared", "to", "precision", "measure", "in", "the", "Scatter/Gather", "study", "-LSB-", "4", "-RSB-", ".", "Figure", "2", ".", "Qualified", "search", "speed", "measure", "compared", "to", "precision", "measure", "of", "data", "gathered", "in", "our", "own", "study", ".", "370", "resource", "against", "which", "the", "gain", "is", "compared", "and", "replaces", "it", "by", "selection", "ordinal", "-LRB-", "remember", "that", "ISO", "standard", "leaves", "the", "choice", "of", "resource", "up", "to", "the", "domain", "-RRB-", ".", "As", "this", "new", "resource", "is", "discrete", "in", "nature", ",", "the", "expression", "of", "the", "measure", "as", "a", "single", "figure", "-LRB-", "rate", "-RRB-", "becomes", "hard", "and", "thus", ",", "for", "example", ",", "a", "cumulative", "chart", "is", "preferred", "for", "easily", "interpretable", "figures", ".", "From", "another", "perspective", "of", "information", "foraging", "theory", ",", "we", "can", "say", "that", "immediate", "accuracy", "is", "a", "measure", "for", "estimating", "the", "beginning", "of", "the", "within", "patch", "gain", "slope", ".", "Note", ",", "that", "it", "is", "only", "an", "estimation", "of", "the", "beginning", "of", "the", "slope", "as", "all", "subsequent", "relevant", "selections", "are", "discarded", "in", "this", "measure", ".", "In", "this", "view", ",", "we", "define", "an", "information", "patch", "to", "be", "a", "search", "result", "set", ".", "Evaluation", "The", "evaluation", "is", "based", "only", "on", "our", "own", "data", "because", "the", "measure", "requires", "information", "that", "is", "typically", "not", "reported", "in", "the", "publications", ".", "Figure", "4", "shows", "that", "the", "user", "orientates", "faster", "while", "using", "the", "category", "UI", "as", "the", "first", "selection", "produces", "already", "a", "relevant", "result", "in", "56", "%", "of", "the", "cases", ".", "In", "contrast", ",", "the", "reference", "UI", "produces", "a", "relevant", "result", "in", "40", "%", "of", "the", "first", "selections", ".", "By", "the", "second", "selection", ",", "the", "difference", "is", "bit", "greater", "since", "in", "79", "%", "of", "the", "cases", "the", "users", "have", "found", "at", "least", "one", "relevant", "result", "with", "the", "category", "UI", ",", "while", "the", "corresponding", "number", "for", "the", "reference", "UI", "is", "62", "%", ".", "In", "the", "analysis", "of", "cumulative", "data", ",", "the", "most", "interesting", "points", "are", "those", "where", "the", "difference", "between", "compared", "measurements", "changes", ".", "Change", "points", "are", "most", "important", "because", "cumulative", "figures", "will", "preserve", "the", "difference", "if", "not", "further", "changes", "happen", ".", "In", "our", "case", "the", "difference", "is", "made", "at", "the", "first", "selection", "and", "remains", "virtually", "the", "same", "afterwards", ".", "This", "difference", "is", "statistically", "significant", "as", "ANOVA", "gives", "F", "-LRB-", "1,19", "-RRB-", "=", "12.5", ",", "p", "<", ".01", "and", "it", "is", "preserved", "throughout", "the", "selections", "-LRB-", "F", "-LRB-", "1,19", "-RRB-", "10.4", ",", "p", "<", ".01", "for", "all", "subsequent", "selections", "-RRB-", ".", "Findings", "of", "Spink", "et", "al.", ".", "-LSB-", "11", "-RSB-", "stated", "that", "users", "only", "select", "one", "or", "two", "results", "per", "query", ".", "Immediate", "accuracy", "allows", "us", "to", "see", "the", "success", "of", "the", "studied", "user", "interface", "in", "such", "a", "case", ".", "We", "can", "focus", "on", "a", "given", "selection", "and", "quickly", "see", "the", "success", "rate", "at", "that", "point", ".", "Note", "that", "this", "kind", "of", "information", "is", "not", "available", "using", "the", "conventional", "accuracy", "measures", "and", "straightforward", "speed", "measures", ".", "Immediate", "Success", "Speed", "Another", "fairly", "simple", "and", "obvious", "way", "for", "measuring", "immediate", "success", "would", "be", "to", "record", "the", "time", "to", "the", "first", "relevant", "result", ".", "We", "did", "try", "this", "measure", "as", "well", ",", "but", "found", "a", "problem", ".", "In", "our", "experiment", ",", "the", "average", "time", "to", "find", "the", "first", "relevant", "result", "was", "practically", "the", "same", "in", "both", "cases", "-LRB-", "20", "and", "21", "seconds", "for", "category", "and", "reference", "UI", "respectively", "-RRB-", "and", "there", "was", "no", "statistically", "significant", "difference", ".", "This", "could", ",", "of", "course", ",", "be", "the", "true", "situation", ",", "but", "the", "amount", "of", "relevant", "results", "suggested", "the", "opposite", ".", "The", "problem", "comes", "from", "the", "fact", "that", "the", "first", "relevant", "result", "is", "not", "always", "found", ".", "With", "the", "category", "UI", "users", "were", "not", "able", "to", "find", "a", "single", "relevant", "result", "for", "a", "task", "in", "10", "%", "of", "the", "cases", "whereas", "the", "same", "number", "for", "reference", "UI", "was", "21", "%", ".", "We", "felt", "that", "this", "is", "a", "big", "difference", "and", "that", "it", "should", "be", "visible", "in", "the", "measurement", "as", "well", ".", "However", ",", "we", "were", "not", "able", "to", "come", "up", "with", "a", "reasonable", "solution", "for", "normalizing", "the", "time", "measurement", "in", "this", "respect", "and", "thus", "the", "measurement", "is", "not", "promoted", "as", "such", ".", "In", "addition", ",", "the", "results", "of", "Spink", "et", "al.", "-LSB-", "11", "-RSB-", "suggest", "that", "the", "time", "to", "first", "relevant", "result", "is", "not", "very", "important", "for", "the", "search", "process", ".", "Since", "searchers", "tend", "to", "open", "only", "one", "or", "two", "results", ",", "the", "time", "does", "not", "seem", "to", "be", "the", "limiting", "factor", ",", "but", "the", "number", "of", "result", "selections", "is", ".", "This", "supports", "also", "the", "choice", "of", "immediate", "accuracy", "over", "the", "time", "to", "the", "first", "relevant", "result", ".", "Our", "goal", "was", "to", "provide", "search", "user", "interface", "designers", ",", "researchers", ",", "and", "evaluators", "with", "additional", "measures", "that", "would", "complement", "the", "current", "ones", ".", "The", "first", "problem", "with", "them", "is", "that", "result", "comparison", "is", "hard", ",", "even", "within", "one", "experiment", ".", "Proportional", "measures", "makes", "within", "study", "comparisons", "easy", "and", "in", "addition", "they", "let", "readers", "relate", "their", "previous", "experience", "better", "to", "the", "presented", "results", ".", "We", "proposed", "normalized", "search", "speed", "measure", "that", "is", "expressed", "in", "answers", "per", "minute", ".", "As", "the", "measure", "combines", "two", "figures", "-LRB-", "number", "of", "answers", "and", "time", "searched", "-RRB-", "into", "one", "proportional", "number", ",", "it", "makes", "the", "comparisons", "within", "an", "experiment", "easy", "and", "between", "experiments", "bit", "more", "feasible", ".", "The", "second", "shortcoming", "of", "the", "current", "measures", "is", "the", "fact", "that", "it", "is", "difficult", "to", "see", "the", "tradeoff", "between", "speed", "and", "accuracy", ".", "To", "address", "this", "problem", ",", "we", "proposed", "the", "qualified", "search", "speed", "measure", "that", "divides", "the", "search", "Immediate", "Accuracy", "0", "%", "20", "%", "40", "%", "60", "%", "80", "%", "100", "%", "1", ".", "2", ".", "3", ".", "4", ".", "5", ".", "6", ".", "7", ".", "8", ".", "selection", "success", "rate", "Category", "UI", "Reference", "UI", "Figure", "4", ".", "Immediate", "accuracy", "of", "category", "UI", "and", "reference", "UI", ".", "The", "measure", "shows", "the", "proportion", "of", "the", "cases", "where", "a", "relevant", "result", "have", "been", "found", "at", "n", "th", "selection", ".", "371", "speed", "measure", "into", "relevance", "categories", ".", "The", "measure", "allows", "readers", "to", "see", "what", "the", "source", "of", "speed", "in", "terms", "of", "accuracy", "is", ".", "In", "the", "evaluation", "we", "showed", "that", "conventional", "measures", "may", "only", "tell", "the", "half", "of", "the", "story", ".", "For", "instance", ",", "in", "the", "case", "of", "the", "Scatter/Gather", "experiment", "the", "precision", "measure", "showed", "only", "moderate", "difference", "between", "the", "systems", "whereas", "qualified", "speed", "revealed", "a", "vast", "difference", "in", "the", "gain", "of", "relevant", "results", ".", "Combining", "speed", "and", "accuracy", "measures", "is", "particularly", "effective", "in", "such", "a", "case", "as", "it", "eliminates", "the", "need", "to", "mentally", "combine", "the", "two", "measures", "-LRB-", "speed", "and", "accuracy", "-RRB-", ".", "The", "third", "weakness", "of", "the", "current", "measures", "is", "their", "inability", "to", "capture", "users", "'", "success", "in", "typical", "web", "search", "behavior", "where", "the", "first", "good", "enough", "result", "is", "looked", "for", ".", "We", "proposed", "the", "immediate", "accuracy", "measure", "to", "solve", "this", "flaw", ".", "Immediate", "accuracy", "shows", "the", "proportion", "of", "the", "cases", "where", "the", "users", "are", "able", "to", "find", "at", "least", "one", "relevant", "result", "per", "n", "th", "result", "selection", ".", "It", "allows", "readers", "to", "see", "how", "well", "and", "how", "fast", "the", "users", "can", "orient", "themselves", "to", "the", "task", "with", "the", "given", "user", "interface", ".", "As", "the", "measurements", "are", "made", "based", "on", "finding", "the", "first", "relevant", "result", ",", "the", "reader", "can", "compare", "how", "well", "different", "solutions", "support", "users", "'", "goal", "of", "finding", "the", "first", "relevant", "answer", "-LRB-", "and", "presumably", "few", "others", "as", "well", "-RRB-", "to", "the", "search", "task", ".", "The", "proposed", "measures", "are", "not", "intended", "to", "replace", "the", "old", "measures", ",", "but", "rather", "to", "complement", "them", ".", "They", "lessen", "the", "mental", "burden", "posed", "to", "the", "reader", "as", "important", "information", "of", "different", "type", "-LRB-", "e.g.", "speed", ",", "accuracy", "-RRB-", "is", "combined", "into", "one", "proportional", "measure", ".", "In", "summary", ",", "the", "proposed", "measures", "capture", "important", "characteristics", "of", "search", "user", "interface", "usability", "and", "communicate", "them", "effectively", ".", "The", "issue", "of", "making", "comparisons", "between", "experiments", "is", "not", "completely", "solved", "by", "these", "new", "measures", ".", "We", "feel", "that", "the", "problem", "is", "not", "in", "the", "properties", "of", "the", "new", "measures", "but", "in", "the", "nature", "of", "the", "phenomena", "to", "be", "measured", ".", "In", "the", "context", "of", "search", "user", "interfaces", "the", "test", "settings", "have", "a", "huge", "effect", "on", "the", "results", "that", "can", "not", "be", "solved", "simply", "with", "new", "measures", ".", "One", "solution", "for", "the", "problem", "could", "be", "test", "setup", "standardization", ".", "In", "the", "TREC", "interactive", "track", "such", "an", "effort", "have", "been", "taken", ",", "but", "it", "seems", "that", "the", "wide", "variety", "of", "research", "questions", "connected", "to", "searching", "can", "not", "be", "addressed", "with", "a", "single", "standard", "test", "setup", ".", "This", "work", "was", "supported", "by", "the", "Graduate", "School", "in", "User", "Centered", "Information", "Technology", "-LRB-", "UCIT", "-RRB-", ".", "I", "would", "like", "to", "thank", "Scott", "MacKenzie", ",", "Kari-Jouko", "R", "ih", ",", "Poika", "Isokoski", ",", "and", "Natalie", "Jhaveri", "for", "invaluable", "comments", "and", "encouragement", ".", "1", ".", "Dennis", ",", "S.", ",", "Bruza", ",", "P.", ",", "McArthur", ",", "R.", "Web", "Searching", ":", "A", "Process-Oriented", "Experimental", "Study", "of", "Three", "Interactive", "Search", "Paradigms", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "and", "Technology", ",", "Vol", ".", "53", ",", "No.", "2", ",", "2002", ",", "120-133", ".", "2", ".", "Dumais", ",", "S.", ",", "Cutrell", ",", "E.", ",", "Chen", ",", "H.", "Optimizing", "Search", "by", "Showing", "Results", "in", "Context", ".", "Proceedings", "of", "ACM", "CHI", "'01", "-LRB-", "Seattle", ",", "USA", "-RRB-", ",", "ACM", "Press", ",", "2001", ",", "277-284", ".", "3", ".", "Fr", "kj", "r", ",", "E.", ",", "Hertzum", ",", "M.", ",", "Hornb", "k", ",", "K.", "Measuring", "Usability", ":", "Are", "Effectiveness", ",", "Efficiency", ",", "and", "Satisfaction", "Really", "Correlated", "?", "Proceedings", "of", "ACM", "CHI", "'", "2000", "-LRB-", "The", "Hague", ",", "Netherlands", "-RRB-", ",", "ACM", "Press", ",", "2000", ",", "345-352", ".", "4", ".", "ISO", "9241-11", ":", "Ergonomic", "requirements", "for", "office", "work", "with", "visual", "display", "terminals", "-LRB-", "VDTs", "-RRB-", "-", "Part", "11", ":", "Guidance", "on", "usability", ",", "International", "Organization", "for", "Standardization", ",", "March", "1998", ".", "5", ".", "Pirolli", ",", "P.", "and", "Card", ",", "S.", "Information", "Foraging", ".", "Psychological", "Review", ",", "1999", ",", "Vol", ".", "106", ",", "No.", "4", ",", "643-675", ".", "6", ".", "Pirolli", ",", "P.", ",", "Schank", ",", "P.", ",", "Hearst", ",", "M.", ",", "Diehl", ",", "C.", "Scatter/Gather", "Browsing", "Communicates", "the", "Topic", "Structure", "of", "a", "Very", "Large", "Text", "Collection", ".", "Proceedings", "of", "ACM", "CHI", "'96", "-LRB-", "Vancouver", ",", "Canada", "-RRB-", ",", "ACM", "Press", ",", "1996", ",", "213-220", ".", "7", ".", "Pratt", ",", "W.", ",", "Fagan", ",", "L", ".", "The", "Usefulness", "of", "Dynamically", "Categorizing", "Search", "Results", ".", "Journal", "of", "the", "American", "Medical", "Informatics", "Association", ",", "Vol", ".", "7", ",", "No", ".", "6", ",", "Nov/Dec", "2000", ",", "605-617", ".", "8", ".", "Saracevic", ",", "T.", "Evaluation", "of", "Evaluation", "in", "Information", "Retrieval", ".", "Proceedings", "of", "ACM", "SIGIR", "'95", "-LRB-", "Seattle", ",", "USA", "-RRB-", ",", "ACM", "Press", ",", "1995", ",", "138-146", ".", "9", ".", "Sebrechts", ",", "M.", ",", "Vasilakis", ",", "J.", ",", "Miller", ",", "M.", ",", "Cugini", ",", "J.", ",", "Laskowski", ",", "S.", "Visualization", "of", "Search", "Results", ":", "A", "Comparative", "Evaluation", "of", "Text", ",", "2D", ",", "and", "3D", "Interfaces", ".", "Proceedings", "of", "ACM", "SIGIR", "'99", "-LRB-", "Berkeley", ",", "USA", "-RRB-", ",", "ACM", "Press", ",", "1999", ".", "10", ".", "Shneiderman", ",", "B.", ",", "Byrd", ",", "D.", ",", "Croft", ",", "B.", "Clarifying", "Search", ":", "A", "User-Interface", "Framework", "for", "Text", "Searches", ".", "D-Lib", "Magazine", ",", "January", "1997", ".", "11", ".", "Spink", ",", "A.", ",", "Wolfram", ",", "D.", ",", "Jansen", ",", "M.", ",", "and", "Saracevic", ",", "T.", ":", "Searching", "the", "Web", ":", "The", "Public", "and", "Their", "Queries", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "and", "Technology", ",", "2001", ",", "Vol", ".", "52", ",", "No.", "6", ",", "226-234", ".", "12", ".", "Veerasamy", ",", "A.", ",", "Belkin", ",", "N.", "Evaluation", "of", "a", "Tool", "for", "Visualization", "of", "Information", "Retrieval", "Results", ".", "Proceedings", "of", "ACM", "SIGIR", "'96", "-LRB-", "Zurich", ",", "Switzerland", "-RRB-", ",", "ACM", "Press", ",", "1996", ",", "85-92", ".", "13", ".", "Veerasamy", ",", "A.", ",", "Heikes", ",", "R.", "Effectiveness", "of", "a", "Graphical", "Display", "of", "Retrieval", "Results", ".", "Proceedings", "of", "ACM", "SIGIR", "'97", "-LRB-", "Philadelphia", ",", "USA", "-RRB-", ",", "ACM", "Press", ",", "1997", ",", "236-244", ".", "14", ".", "Zhai", ",", "S.", "On", "the", "validity", "of", "Throughput", "as", "a", "Characteristic", "of", "Computer", "Input", ".", "IBM", "Research", "Report", ",", "RJ", "10253", ",", "IBM", "Research", "Division", ".", "August", "2002", ".", "372"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["speed", "search user interface", "accuracy"], "abstractive_keyphrases": ["usability measure", "usability evaluation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "178", "document": ["Significance", "of", "Gene", "Ranking", "for", "Classification", "of", "Microarray", "Samples", "Many", "methods", "for", "classification", "and", "gene", "selection", "with", "microarray", "data", "have", "been", "developed", ".", "These", "methods", "usually", "give", "a", "ranking", "of", "genes", ".", "Evaluating", "the", "statistical", "significance", "of", "the", "gene", "ranking", "is", "important", "for", "understanding", "the", "results", "and", "for", "further", "biological", "investigations", ",", "but", "this", "question", "has", "not", "been", "well", "addressed", "for", "machine", "learning", "methods", "in", "existing", "works", ".", "Here", ",", "we", "address", "this", "problem", "by", "formulating", "it", "in", "the", "framework", "of", "hypothesis", "testing", "and", "propose", "a", "solution", "based", "on", "resampling", ".", "The", "proposed", "r-test", "methods", "convert", "gene", "ranking", "results", "into", "position", "p-values", "to", "evaluate", "the", "significance", "of", "genes", ".", "The", "methods", "are", "tested", "on", "three", "real", "microarray", "data", "sets", "and", "three", "simulation", "data", "sets", "with", "support", "vector", "machines", "as", "the", "method", "of", "classification", "and", "gene", "selection", ".", "The", "obtained", "position", "p-values", "help", "to", "determine", "the", "number", "of", "genes", "to", "be", "selected", "and", "enable", "scientists", "to", "analyze", "selection", "results", "by", "sophisticated", "multivariate", "methods", "under", "the", "same", "statistical", "inference", "paradigm", "as", "for", "simple", "hypothesis", "testing", "methods", ".", "A", "N", "important", "application", "of", "DNA", "microarray", "technologies", "in", "functional", "genomics", "is", "to", "classify", "samples", "according", "to", "their", "gene", "expression", "profiles", ",", "e.g.", ",", "to", "classify", "cancer", "versus", "normal", "samples", "or", "to", "classify", "different", "types", "or", "subtypes", "of", "cancer", ".", "Selecting", "genes", "that", "are", "informative", "for", "the", "classification", "is", "one", "key", "issue", "for", "understanding", "the", "biology", "behind", "the", "classification", "and", "an", "important", "step", "toward", "discovering", "those", "genes", "responsible", "for", "the", "distinction", ".", "For", "this", "purpose", ",", "researchers", "have", "applied", "a", "number", "of", "test", "statistics", "or", "discriminant", "criteria", "to", "find", "genes", "that", "are", "differentially", "expressed", "between", "the", "investigated", "classes", "-LSB-", "1", "-RSB-", ",", "-LSB-", "2", "-RSB-", ",", "-LSB-", "3", "-RSB-", ",", "-LSB-", "4", "-RSB-", ",", "-LSB-", "5", "-RSB-", ",", "-LSB-", "6", "-RSB-", ",", "-LSB-", "7", "-RSB-", ".", "This", "category", "of", "gene", "selection", "methods", "is", "usually", "referred", "to", "as", "the", "filtering", "method", "since", "the", "gene", "selection", "step", "usually", "plays", "the", "role", "of", "filtering", "the", "genes", "before", "doing", "classification", "with", "some", "other", "methods", ".", "Another", "category", "of", "methods", "is", "the", "so-called", "wrapper", "methods", ",", "which", "use", "the", "classification", "performance", "itself", "as", "the", "criterion", "for", "selecting", "the", "genes", "and", "genes", "are", "usually", "selected", "in", "a", "recursive", "fashion", "-LSB-", "8", "-RSB-", ",", "-LSB-", "9", "-RSB-", ",", "-LSB-", "10", "-RSB-", ",", "-LSB-", "11", "-RSB-", ",", "-LSB-", "12", "-RSB-", ".", "A", "representative", "method", "of", "this", "category", "is", "SVM-RFE", "based", "on", "support", "vector", "machines", "-LRB-", "SVM", "-RRB-", ",", "which", "uses", "linear", "SVM", "to", "classify", "the", "samples", "and", "ranks", "the", "contribution", "of", "the", "genes", "in", "the", "classifier", "by", "their", "squared", "weights", "-LSB-", "10", "-RSB-", ".", "All", "these", "selection", "methods", "produce", "rankings", "of", "the", "genes", ".", "When", "a", "test", "statistic", ",", "such", "as", "the", "t-test", ",", "F-test", ",", "or", "bootstrap", "test", ",", "is", "used", "as", "the", "criterion", ",", "the", "ranking", "is", "attached", "by", "p-values", "derived", "from", "the", "null", "distribution", "of", "the", "test", "statistic", ",", "which", "reflects", "the", "probability", "of", "a", "gene", "showing", "the", "observed", "difference", "between", "the", "classes", "simply", "due", "to", "chance", ".", "Such", "p-values", "give", "biologists", "a", "clear", "understanding", "of", "the", "information", "that", "the", "genes", "probably", "contain", ".", "The", "availability", "of", "the", "p-value", "makes", "it", "possible", "to", "investigate", "the", "microarray", "data", "under", "the", "solid", "framework", "of", "statistical", "inference", "and", "many", "theoretical", "works", "have", "been", "built", "based", "on", "the", "extension", "of", "the", "concept", "of", "p-value", ",", "such", "as", "the", "false", "discovery", "rate", "-LRB-", "FDR", "-RRB-", "study", "-LSB-", "13", "-RSB-", ".", "Existing", "gene", "selection", "methods", "that", "come", "with", "p-values", "are", "of", "the", "filtering", "category", "and", "are", "all", "univariate", "methods", ".", "To", "consider", "possible", "combinatorial", "effects", "of", "genes", ",", "most", "wrapper", "methods", "adopt", "more", "sophisticated", "multivariate", "machine", "learning", "strategies", "such", "as", "SVMs", "and", "neural", "networks", ".", "These", "have", "been", "shown", "in", "many", "experiments", "to", "be", "more", "powerful", "in", "terms", "of", "classification", "accuracy", ".", "However", ",", "for", "gene", "selection", ",", "the", "gene", "rankings", "produced", "with", "these", "methods", "do", "not", "come", "with", "a", "measure", "of", "statistical", "significance", ".", "The", "ranking", "is", "only", "a", "relative", "order", "of", "genes", "according", "to", "their", "relevance", "to", "the", "classifier", ".", "There", "is", "no", "clear", "evaluation", "of", "a", "gene", "'s", "contribution", "to", "the", "classification", ".", "For", "example", ",", "if", "a", "gene", "is", "ranked", "50th", "according", "to", "its", "weight", "in", "the", "SVM", "classifier", ",", "it", "is", "only", "safe", "to", "say", "that", "this", "gene", "is", "perhaps", "more", "informative", "than", "the", "gene", "ranked", "at", "51st", ".", "However", ",", "there", "is", "no", "way", "to", "describe", "how", "significant", "it", "is", "and", "there", "is", "no", "ground", "to", "compare", "the", "information", "it", "contains", "with", "a", "gene", "also", "ranked", "as", "50th", "by", "the", "same", "method", "in", "another", "experiment", ".", "This", "nature", "of", "relative", "ranking", "makes", "it", "hard", "to", "interpret", "and", "further", "explore", "the", "gene", "selection", "results", "achieved", "with", "such", "advanced", "machine", "learning", "methods", ".", "For", "example", ",", "it", "is", "usually", "difficult", "to", "decide", "on", "the", "proper", "number", "of", "genes", "to", "be", "selected", "in", "a", "specific", "study", "with", "such", "machine", "learning", "methods", ".", "Most", "existing", "works", "usually", "select", "a", "subgroup", "of", "genes", "with", "some", "heuristi-cally", "decided", "numbers", "or", "thresholds", "-LSB-", "6", "-RSB-", ",", "-LSB-", "8", "-RSB-", ",", "-LSB-", "10", "-RSB-", ".", "The", "advanced", "estimation", "techniques", ",", "such", "as", "FDR", ",", "based", "on", "significance", "measures", "do", "not", "apply", "for", "such", "methods", ".", "312", "IEEE/ACM", "TRANSACTIONS", "ON", "COMPUTATIONAL", "BIOLOGY", "AND", "BIOINFORMATICS", ",", "VOL", ".", "3", ",", "NO.", "3", ",", "JULY-SEPTEMBER", "2006", ".", "C.", "Zhang", "is", "with", "the", "Cold", "Spring", "Harbor", "Laboratory", "and", "the", "Department", "of", "Biomedical", "Engineering", ",", "State", "University", "of", "New", "York", "at", "Stony", "Brook", ",", "NY", "11794", ".", "E-mail", ":", "zhangc@cshl.edu", ".", ".", "X.", "Lu", "and", "X.", "Zhang", "are", "with", "the", "MOE", "Key", "Laboratory", "of", "Bioinformatics", "/", "Department", "of", "Automation", ",", "Tsinghua", "University", ",", "Beijing", "100084", ",", "China", ".", "E-mail", ":", "lxs97@mails.tsinghua.edu.cn", ",", "zhangxg@tsinghua.edu.cn", ".", "Manuscript", "received", "28", "Sept.", "2004", ";", "revised", "14", "May", "2005", ";", "accepted", "5", "Oct.", "2005", ";", "published", "online", "31", "July", "2006", ".", "For", "information", "on", "obtaining", "reprints", "of", "this", "article", ",", "please", "send", "e-mail", "to", ":", "tcbb@computer.org", ",", "and", "reference", "IEEECS", "Log", "Number", "TCBB-0159-0904", ".", "1545-5963/06", "/", "$", "20.00", "2006", "IEEE", "Published", "by", "the", "IEEE", "CS", ",", "CI", ",", "and", "EMB", "Societies", "&", "the", "ACM", "Evaluating", "the", "statistical", "significance", "of", "the", "detected", "signal", "is", "the", "central", "idea", "in", "the", "paradigm", "of", "statistical", "inference", "from", "experimental", "data", ".", "There", "should", "be", "an", "equivalent", "study", "on", "those", "machine-learning-based", "multivariate", "gene", "selection", "methods", "which", "produce", "ranks", "according", "to", "their", "own", "criteria", ".", "Strategies", "such", "as", "permutation", "can", "be", "utilized", "to", "assess", "the", "significance", "of", "the", "classification", "accuracy", ",", "but", "they", "do", "not", "measure", "the", "significance", "of", "the", "selected", "genes", "directly", ".", "Surprisingly", ",", "this", "question", "has", "not", "been", "addressed", "by", "the", "statistics", "or", "bioinformatics", "community", "in", "existing", "literature", ".", "We", "therefore", "propose", "that", "the", "question", "be", "asked", "in", "this", "way", ":", "For", "an", "observed", "ranking", "of", "genes", "by", "a", "certain", "method", ",", "what", "is", "the", "probability", "that", "a", "gene", "is", "ranked", "at", "or", "above", "the", "observed", "position", "due", "to", "chance", "-LRB-", "by", "the", "same", "method", "-RRB-", "if", "the", "gene", "is", ",", "in", "fact", ",", "not", "informative", "to", "the", "classification", "?", "-LRB-", "``", "Being", "informative", "''", "is", "in", "the", "sense", "of", "the", "criteria", "defined", "or", "implied", "by", "the", "classification", "and", "ranking", "method", ".", "It", "may", "have", "different", "meanings", "for", "different", "methods", ".", "-RRB-", "We", "call", "this", "problem", "the", "significance", "of", "gene", "ranking", "or", "feature", "ranking", ".", "We", "raise", "this", "problem", "in", "this", "paper", "and", "describe", "our", "strategy", "toward", "a", "solution", ".", "The", "problem", "is", "discussed", "in", "the", "context", "of", "microarray", "classification", "of", "cancer", "samples", ",", "but", "the", "philosophy", "and", "methodology", "is", "not", "restricted", "to", "this", "scenario", ".", "Suppose", "a", "microarray", "data", "set", "contains", "m", "cases", "X", "fx", "i", ";", "i", "1", ";", ";", "m", "g.", "Each", "case", "is", "characterized", "by", "a", "vector", "of", "the", "expression", "values", "of", "n", "genes", "x", "i", "x", "i1", ";", "x", "i2", ";", ";", "x", "in", "T", "2", "R", "n", ";", "i", "1", ";", ";", "m", ".", "Each", "gene", "is", "a", "vector", "of", "their", "expression", "values", "across", "the", "cases", "g", "j", "x", "1j", ";", "x", "2j", ";", ";", "x", "mj", "T", "and", "we", "denote", "the", "set", "of", "all", "genes", "a", "s", "G", "fg", "j", ";", "j", "1", ";", ";", "n", "g.", "E", "a", "c", "h", "c", "a", "s", "e", "h", "a", "s", "a", "l", "a", "b", "e", "l", "y", "i", "f", "1", ";", "1g", ",", "i", "1", ";", ";", "m", "indicating", "the", "class", "it", "belongs", "to", "among", "the", "studied", "two", "classes", ",", "e.g.", ",", "normal", "versus", "cancer", ",", "or", "two", "subtypes", "of", "a", "cancer", ",", "etc.", ".", "Among", "the", "n", "genes", ",", "usually", "some", "are", "informative", "to", "the", "classification", "and", "some", "are", "not", ",", "but", "we", "do", "not", "know", "which", "genes", "are", "informative", "and", "which", "are", "not", ".", "For", "the", "convenience", "of", "description", ",", "we", "denote", "the", "set", "of", "informative", "genes", "as", "I", "G", "and", "that", "of", "the", "uninformative", "genes", "as", "U", "G", ".", "To", "simplify", "the", "problem", ",", "we", "assume", "that", "I", "G", "\\", "U", "G", "and", "I", "G", "-LSB-", "U", "G", "G", ":", "1", "The", "goal", "is", "to", "build", "a", "classifier", "that", "can", "predict", "the", "classes", "^", "y", "i", "of", "the", "cases", "from", "x", "i", "and", ",", "at", "the", "same", "time", ",", "to", "identify", "the", "genes", "that", "most", "likely", "belong", "to", "I", "G", ".", "The", "former", "task", "is", "called", "classification", "and", "the", "latter", "one", "is", "called", "gene", "selection", ".", "In", "the", "current", "study", ",", "we", "assume", "that", "there", "has", "already", "been", "a", "ranking", "method", "RM", "which", "produces", "a", "ranking", "position", "for", "each", "gene", "according", "to", "some", "criterion", "assessing", "the", "gene", "'s", "relevance", "with", "the", "classification", ":", "r", "j", "rank", "g", "j", "j", "x", "i", ";", "y", "i", ";", "i", "1", ";", ";", "m", "f", "g", ";", "j", "1", ";", ";", "n", "2", "and", "we", "do", "not", "distinguish", "the", "specific", "types", "of", "the", "RM", ".", "The", "ranking", "is", "obtained", "based", "on", "the", "samples", ",", "thus", "r", "j", "is", "a", "random", "variable", ".", "The", "significance-of-ranking", "problem", "is", "to", "calculate", "the", "following", "probability", ":", "p", "r", "j", "4", "P", "rank", "g", "j", "r", "j", "jg", "j", "2", "U", "G", ";", "3", "i.e.", ",", "given", "a", "gene", "is", "uninformative", "to", "the", "classification", "-LRB-", "according", "to", "RM", "'s", "criterion", "-RRB-", ",", "what", "is", "the", "probability", "that", "it", "is", "ranked", "at", "or", "above", "the", "observed", "ranking", "position", "by", "the", "ranking", "method", "?", "We", "call", "this", "probability", "the", "p-value", "of", "a", "gene", "'s", "ranking", "position", "or", ",", "simply", ",", "position", "p-value", ".", "This", "significance-of-ranking", "problem", "is", "distinct", "from", "existing", "statistics", "for", "testing", "differentially", "expressed", "genes", "in", "several", "aspects", ".", "It", "applies", "to", "more", "complicated", "multivariate", "classification", "and", "gene", "selection", "methods", ".", "Even", "when", "it", "is", "applied", "on", "gene", "ranking", "methods", "based", "on", "univariate", "hypothesis", "tests", "like", "t-test", ",", "the", "position", "p-value", "is", "different", "with", "the", "t-test", "p-value", "by", "definition", ".", "The", "t-test", "p-value", "of", "a", "gene", "is", "calculated", "from", "the", "expression", "values", "of", "this", "gene", "in", "the", "two", "sample", "sets", "by", "comparing", "with", "the", "assumed", "null", "distribution", "model", "when", "the", "gene", "is", "not", "differentially", "expressed", "in", "the", "two", "classes", ".", "The", "position", "p-value", "of", "a", "single", "gene", ",", "however", ",", "is", "defined", "on", "its", "context", ",", "in", "the", "sense", "that", "its", "value", "depends", "not", "only", "on", "the", "expression", "of", "this", "gene", "in", "the", "samples", ",", "but", "also", "on", "other", "genes", "in", "the", "same", "data", "set", ".", "A", "gene", "with", "the", "same", "expression", "values", "may", "have", "different", "position", "p-values", "in", "different", "data", "sets", ".", "The", "null", "distributions", "of", "ranks", "of", "uninformative", "genes", "are", "different", "in", "different", "data", "sets", "and", ",", "therefore", ",", "the", "foremost", "challenge", "for", "solving", "the", "problem", "is", "that", "the", "null", "distribution", "has", "to", "be", "estimated", "from", "the", "specific", "data", "set", "under", "investigation", ".", "The", "significance-of-ranking", "problem", "is", "formulated", "as", "a", "hypothesis", "testing", "problem", ".", "The", "null", "hypothesis", "is", "that", "the", "gene", "is", "not", "informative", "or", "g", "j", "2", "U", "G", ",", "the", "alternative", "hypothesis", "is", "g", "j", "2", "I", "G", "-LRB-", "the", "gene", "is", "informative", "-RRB-", "since", "we", "have", "assumption", "-LRB-", "1", "-RRB-", "and", "the", "statistic", "to", "be", "used", "to", "test", "the", "hypothesis", "is", "the", "ranking", "position", ".", "As", "in", "standard", "hypothesis", "testing", ",", "the", "key", "to", "solving", "the", "problem", "is", "to", "obtain", "the", "distribution", "of", "the", "statistic", "under", "the", "null", "hypothesis", ",", "i.e.", ",", "the", "distribution", "of", "the", "ranks", "of", "uninformative", "genes", ":", "P", "r", "jg", "2", "U", "G", ":", "4", "For", "the", "extreme", "case", "when", "I", "G", "-LRB-", "all", "the", "genes", "are", "uninformative", "-RRB-", "and", "the", "ranking", "method", "is", "not", "biased", ",", "it", "is", "obvious", "that", "the", "null", "distribution", "is", "uniform", ".", "In", "a", "real", "microarray", "data", "set", ",", "however", ",", "usually", "some", "genes", "are", "informative", "and", "some", "are", "not", ",", "thus", "the", "uniform", "null", "distribution", "is", "not", "applicable", ".", "The", "null", "rank", "distribution", "in", "a", "practical", "investigation", "depends", "on", "many", "factors", ",", "including", "the", "separability", "of", "the", "two", "classes", ",", "the", "underlying", "number", "of", "informative", "genes", ",", "the", "power", "of", "the", "ranking", "method", ",", "the", "sample", "size", ",", "etc.", ".", "The", "characteristics", "of", "these", "factors", "are", "not", "well", "understood", "in", "either", "statistics", "or", "biology", "and", ",", "therefore", ",", "we", "have", "to", "estimate", "an", "empirical", "null", "distribution", "from", "the", "data", "set", "itself", ".", "We", "propose", "to", "tackle", "this", "problem", "in", "two", "steps", ".", "First", ",", "we", "identify", "a", "set", "of", "putative", "uninformative", "genes", "-LRB-", "PUGs", "-RRB-", "which", "are", "a", "subset", "of", "U", "G", ".", "This", "is", "possible", "in", "practice", "because", ",", "although", "we", "do", "not", "know", "U", "G", ",", "discovering", "a", "number", "of", "genes", "that", "are", "irrelevant", "to", "the", "classification", "is", "usually", "not", "hard", "in", "most", "microarray", "data", "sets", ".", "We", "denote", "the", "identified", "subset", "as", "ZHANG", "ET", "AL.", ":", "SIGNIFICANCE", "OF", "GENE", "RANKING", "FOR", "CLASSIFICATION", "OF", "MICROARRAY", "SAMPLES", "313", "U", "0G", ".", "The", "next", "step", "is", "to", "estimate", "the", "null", "distribution", "of", "ranks", "with", "the", "ranking", "positions", "of", "these", "PUGs", ".", "From", "the", "original", "data", "set", ",", "we", "resample", "L", "new", "data", "sets", "and", "apply", "the", "ranking", "method", "on", "each", "of", "them", ",", "producing", ",", "for", "each", "gene", "L", ",", "ranks", "r", "l", "j", ";", "l", "1", ";", ";", "L", ".", "In", "our", "implementa-tion", ",", "we", "randomly", "resample", "half", "of", "the", "cases", "in", "the", "original", "data", "set", "each", "time", ".", "Other", "resampling", "schemes", "such", "as", "bootstrapping", "can", "also", "be", "used", "to", "obtain", "similar", "results", "according", "to", "our", "experiments", "-LRB-", "data", "not", "shown", "-RRB-", ".", "Since", ",", "usually", ",", "the", "size", "of", "U", "G", "is", "much", "larger", "than", "that", "of", "I", "G", "-LRB-", "i.e.", ",", "most", "genes", "are", "uninformative", "-RRB-", ",", "if", "a", "gene", "tends", "to", "always", "be", "ranked", "at", "the", "bottom", "in", "the", "L", "rankings", ",", "it", "is", "very", "likely", "that", "the", "gene", "is", "an", "uninformative", "one", ".", "Thus", ",", "we", "define", "r", "j", "as", "the", "average", "position", "of", "gene", "j", "in", "the", "L", "rankings", ",", "r", "j", "1", "L", "X", "L", "l", "1", "r", "l", "j", ";", "j", "1", ";", ";", "n", "5", "and", "select", "the", "bottom", "k", "genes", "with", "the", "largest", "r", "j", "as", "the", "PUGs", "to", "form", "U", "0G", ",", "where", "k", "is", "a", "preset", "number", ".", "We", "rewrite", "U", "0G", "as", "U", "0k", "G", "when", "we", "need", "to", "emphasize", "the", "role", "of", "k", "in", "this", "procedure", ".", "We", "assume", "that", "U", "0k", "G", "is", "a", "random", "sample", "of", "U", "G", "and", "r", "l", "j", ",", "l", "1", ";", ";", "L", "for", "g", "j", "2", "U", "0k", "G", "is", "a", "random", "sample", "from", "the", "underlying", "null", "distribution", "of", "the", "ranks", "of", "uninformative", "genes", ".", "Thus", ",", "we", "have", "k", "L", "observations", "of", "the", "null", "distribution", "of", "ranks", "from", "which", "we", "estimate", "the", "null", "distribution", "using", "a", "histogram", ".", "More", "sophisticated", "non-parametric", "methods", "can", "be", "adopted", "to", "fit", "the", "distribution", "if", "necessary", ".", "We", "denote", "the", "estimated", "null", "distribution", "as", "^", "P", "r", "jg", "2", "U", "G", "P", "histogram", "r", "l", "j", "jg", "j", "2", "U", "0k", "G", ":", "6", "With", "this", "estimated", "null", "distribution", ",", "the", "calculation", "of", "the", "position", "p-value", "is", "straightforward", ":", "For", "gene", "i", "with", "ranking", "position", "r", "i", ",", "^", "p", "r", "i", "^", "P", "r", "r", "i", "jg", "2", "U", "G", "P", "histogram", "r", "l", "j", "r", "i", "jg", "j", "2", "U", "0k", "G", ":", "7", "Applying", "this", "on", "all", "the", "genes", ",", "we", "convert", "the", "ranking", "list", "to", "a", "list", "of", "position", "p-values", "reflecting", "the", "significance", "of", "the", "genes", "'", "being", "informative", "to", "the", "classification", ".", "This", "whole", "procedure", "for", "estimating", "the", "p-value", "of", "a", "ranking", "is", "illustrated", "in", "Fig.", "1", ".", "We", "name", "this", "scheme", "the", "r-test", "and", "call", "the", "position", "p-value", "thus", "calculated", "the", "r-test", "p-value", ".", "One", "important", "problem", "with", "the", "r-test", "scheme", "is", "the", "selection", "of", "the", "PUGs", ".", "Ideally", ",", "the", "ranks", "used", "to", "select", "PUGs", "and", "the", "ranks", "used", "to", "estimate", "null", "distribution", "should", "be", "independent", ".", "However", ",", "this", "is", "impractical", "in", "that", "314", "IEEE/ACM", "TRANSACTIONS", "ON", "COMPUTATIONAL", "BIOLOGY", "AND", "BIOINFORMATICS", ",", "VOL", ".", "3", ",", "NO.", "3", ",", "JULY-SEPTEMBER", "2006", "Fig.", "1", ".", "The", "diagram", "showing", "the", "principle", "of", "r-test", "-LRB-", "pr-test", "-RRB-", ".", "-LRB-", "a", "-RRB-", "A", "number", "-LRB-", "L", "-RRB-", "of", "new", "data", "sets", "is", "resampled", "from", "the", "original", "data", "set", ".", "A", "ranking", "is", "generated", "for", "each", "new", "data", "set", "with", "the", "ranking", "method", ",", "resulting", "in", "a", "total", "of", "L", "rankings", ".", "-LRB-", "b", "-RRB-", "The", "genes", "are", "ordered", "by", "their", "average", "positions", "of", "the", "L", "rankings", ".", "The", "horizontal", "axis", "is", "genes", "by", "this", "order", "and", "the", "vertical", "axis", "is", "ranking", "position", "in", "the", "resample", "experiments", ".", "For", "each", "gene", ",", "its", "ranking", "positions", "in", "the", "L", "experiments", "are", "drawn", "in", "a", "box", "plot", ",", "with", "a", "short", "dash", "in", "the", "middle", "showing", "the", "median", ".", "-LRB-", "c", "-RRB-", "From", "the", "bottom", "-LRB-", "rightmost", "-RRB-", "of", "the", "ordered", "gene", "list", ",", "k", "genes", "are", "selected", "as", "putative", "uninformative", "genes", "or", "PUGs", ".", "The", "box-plots", "of", "the", "ranks", "of", "the", "k", "PUGs", "are", "illustrated", "in", "this", "enlarged", "image", ".", "The", "null", "distribution", "of", "ranks", "of", "uninformative", "genes", "is", "to", "be", "estimated", "from", "these", "ranks", ".", "-LRB-", "d", "-RRB-", "An", "example", "null", "distribution", "estimated", "from", "PUGs", ".", "For", "each", "gene", "on", "the", "microarray", ",", "its", "actual", "ranking", "is", "compared", "with", "the", "null", "distribution", "to", "calculate", "the", "position", "p-value", "of", "the", "gene", "being", "noninformative", ".", "For", "mr-test", "and", "tr-test", ",", "the", "average", "position", "in", "the", "L", "rankings", "is", "used", "in", "the", "calculation", "of", "the", "p", "*", "-", "value", ".", "In", "tr-test", ",", "the", "PUGs", "are", "not", "selected", "from", "the", "bottom", "of", "the", "ranking", ",", "but", "rather", "from", "the", "genes", "with", "the", "largest", "t-test", "p-values", ".", "there", "is", "actually", "only", "one", "data", "set", "available", ".", "In", "our", "strategy", ",", "the", "same", "ranks", "are", "used", "to", "estimate", "both", "PUGs", "and", "the", "distribution", "of", "their", "ranks", ".", "This", "is", "an", "unplanned", "test", "in", "the", "sense", "that", "the", "PUGs", "are", "defined", "after", "the", "ranks", "are", "observed", "-LSB-", "14", "-RSB-", ".", "The", "PUGs", "in", "U", "0k", "G", "are", "not", "an", "unbiased", "estimate", "of", "U", "G", ".", "In", "the", "extreme", "case", "when", "k", "is", "small", ",", "uninformative", "genes", "that", "are", "ranked", "higher", "are", "underrepresented", "and", "the", "ranks", "of", "U", "0k", "G", "might", "represent", "only", "a", "tail", "of", "the", "ranks", "of", "U", "G", "on", "the", "right", ".", "If", "this", "happens", ",", "it", "will", "cause", "an", "overoptimistic", "estimation", "of", "the", "r-test", "p-values", "and", "result", "in", "more", "genes", "being", "claimed", "significant", ".", "Therefore", ",", "we", "propose", "two", "modified", "strategies", "to", "compensate", "for", "the", "possible", "bias", ".", "4.1", "Modified", "r-Test", "with", "Average", "Ranks", "In", "-LRB-", "7", "-RRB-", ",", "the", "position", "p-value", "is", "calculated", "by", "comparing", "the", "rank", "r", "i", "of", "gene", "g", "i", "obtained", "from", "the", "whole", "data", "set", "with", "the", "estimated", "null", "distribution", ".", "Intuitively", ",", "when", "the", "sample", "size", "is", "small", ",", "one", "single", "ranking", "based", "on", "a", "small", "sample", "set", "can", "have", "a", "large", "variance", ",", "especially", "when", "all", "or", "most", "of", "the", "genes", "are", "uninformative", ".", "We", "propose", "replacing", "the", "rank", "r", "i", "by", "the", "r", "i", "defined", "in", "-LRB-", "5", "-RRB-", ",", "i.e.", ",", "to", "use", "the", "average", "position", "of", "gene", "g", "i", "in", "the", "L", "resampling", "experiments", "as", "the", "estimate", "of", "the", "true", "rank", ",", "and", "to", "calculate", "the", "position", "p-value", "with", "this", "estimated", "rank", "rather", "than", "the", "single", "observation", "of", "the", "rank", ":", "p", "r", "i", "^", "P", "r", "r", "i", "jg", "2", "U", "G", "P", "histogram", "r", "l", "j", "r", "i", "jg", "j", "2", "U", "0k", "G", ":", "8", "The", "estimated", "null", "distribution", "is", "the", "distribution", "of", "single", "ranks", "of", "putative", "uninformative", "genes", ",", "but", "the", "r", "i", "to", "be", "compared", "to", "it", "is", "the", "averaged", "rank", "and", "-LRB-", "8", "-RRB-", "is", "no", "longer", "a", "p-value", "in", "the", "strict", "sense", ".", "Therefore", ",", "we", "name", "it", "p", "*", "-", "value", "instead", "and", "call", "this", "modified", "r-test", "the", "mr-test", "for", "convenience", ".", "Ideally", ",", "if", "a", "gene", "is", "informative", "to", "the", "classification", "and", "the", "ranking", "method", "can", "consistently", "rank", "the", "gene", "according", "this", "information", "on", "both", "the", "whole", "data", "set", "and", "on", "the", "resampled", "subsets", ",", "we", "'ll", "have", "r", "i", "r", "i", ";", "for", "g", "i", "2", "I", "G", ";", "9", "in", "which", "case", "the", "p", "*", "-", "value", "will", "be", "equivalent", "to", "the", "original", "r-test", "p-value", "for", "these", "genes", ".", "In", "practice", ",", "when", "the", "sample", "size", "is", "small", "and", "the", "signal", "in", "some", "informative", "genes", "are", "not", "so", "strong", ",", "we", "always", "have", "r", "i", "r", "i", "when", "r", "i", "is", "small", ";", "therefore", ",", "the", "estimated", "ranks", "move", "toward", "the", "right", "on", "the", "rank", "distribution", "comparing", "with", "the", "single-run", "ranks", ",", "which", ",", "as", "an", "effect", ",", "can", "be", "a", "compensation", "to", "the", "bias", "in", "the", "estimated", "null", "distribution", ".", "-LRB-", "For", "the", "genes", "ranked", "in", "the", "lower", "half", "of", "the", "list", ",", "the", "averaged", "rank", "will", "move", "leftward", ",", "but", "these", "genes", "are", "not", "of", "interest", "to", "us", "in", "this", "study", "since", "we", "assume", "only", "a", "minority", "of", "the", "genes", "can", "be", "informative", ".", "-RRB-", "4.2", "Independent", "Selection", "of", "PUGs", "The", "ultimate", "reason", "that", "may", "cause", "biased", "estimation", "of", "the", "null", "distribution", "is", "that", "the", "PUGs", "in", "the", "above", "r-test", "scheme", "are", "estimated", "from", "the", "same", "ranking", "information", "as", "that", "being", "used", "for", "the", "calculation", "of", "the", "test", "statistics", ".", "A", "solution", "is", "to", "select", "a", "group", "of", "PUGs", "that", "are", "an", "unbiased", "sample", "from", "the", "U", "G", ".", "This", "is", "a", "big", "challenge", "because", "estimating", "the", "rank", "position", "distribution", "of", "U", "G", "is", "the", "question", "itself", ".", "When", "the", "ranking", "method", "RM", "is", "a", "multivariate", "one", "such", "as", "SVM-based", "methods", ",", "the", "ranking", "of", "the", "genes", "will", "not", "directly", "depend", "on", "the", "differences", "of", "single", "genes", "between", "the", "classes", ".", "We", "therefore", "can", "use", "a", "univariate", "statistic", "such", "as", "the", "t-test", "to", "select", "a", "group", "of", "nondifferentially", "expressed", "genes", "as", "the", "PUGs", "since", "these", "genes", "will", "have", "a", "high", "probability", "of", "not", "being", "informative", "as", "they", "are", "basically", "the", "same", "in", "the", "two", "classes", ".", "This", "selection", "will", "be", "less", "correlated", "with", "the", "ranking", "by", "RM", ".", "Applying", "a", "threshold", "on", "the", "t-test", "p-value", "p", "t", ",", "we", "select", "the", "PUG", "set", "U", "0", "G", "as", ":", "U", "0", "G", "4", "g", "j", "jg", "j", "2", "G", ";", "p", "t", "g", "j", "10", "and", "estimate", "the", "null", "position", "distribution", "according", "the", "ranking", "of", "the", "U", "0", "G", "genes", "by", "RM", "in", "the", "resampled", "data", ":", "^", "P", "t", "r", "jg", "2", "U", "G", "P", "histogram", "r", "l", "j", "jg", "j", "2", "U", "0", "G", ":", "11", "The", "position", "p", "*", "-", "value", "of", "a", "gene", "ranked", "on", "average", "at", "r", "i", "is", "calculated", "as", ":", "^", "p", "r", "i", "^", "P", "t", "r", "r", "i", "jg", "2", "U", "G", "P", "histogram", "r", "l", "j", "r", "i", "jg", "j", "2", "U", "0", "G", ":", "12", "For", "the", "convenience", "of", "discussion", ",", "we", "call", "this", "strategy", "the", "tr-test", "and", "call", "the", "primary", "r-test", "defined", "by", "-LRB-", "7", "-RRB-", "the", "pr-test", ".", "We", "view", "the", "pr-test", ",", "mr-test", ",", "and", "tr-test", "as", "three", "specific", "methods", "under", "the", "general", "r-test", "scheme", ".", "It", "should", "be", "noted", "that", "if", "the", "ranking", "produced", "by", "RM", "is", "highly", "correlated", "with", "t-test", "ranking", ",", "the", "result", "of", "tr-test", "will", "be", "close", "to", "that", "of", "the", "original", "pr-test", ".", "On", "the", "other", "hand", ",", "since", "insignificant", "genes", "evaluated", "individually", "may", "not", "necessarily", "be", "uninformative", "when", "combined", "with", "certain", "other", "genes", ",", "the", "PUGs", "selected", "by", "-LRB-", "10", "-RRB-", "may", "include", "informative", "genes", "for", "RM", ".", "Therefore", ",", "the", "estimated", "null", "distribution", "may", "bias", "toward", "the", "left", "end", "in", "some", "situations", ",", "making", "the", "results", "overconservative", ".", "However", ",", "in", "the", "experiments", "described", "below", ",", "it", "is", "observed", "that", "the", "tr-test", "results", "are", "not", "sensitive", "to", "changes", "in", "the", "p-value", "cut-offs", "used", "for", "selecting", "PUGs", "-LRB-", "10", "-RRB-", ",", "which", "is", "an", "implication", "that", "the", "method", "is", "not", "very", "biased", ".", "5.1", "r-Test", "with", "SVM", "Gene", "Ranking", "Due", "to", "the", "good", "generalization", "ability", "of", "support", "vector", "machines", "-LRB-", "SVM", "-RRB-", "-LSB-", "15", "-RSB-", ",", "they", "are", "regarded", "as", "one", "of", "the", "best", "multivariate", "algorithms", "for", "classifying", "microarray", "data", "-LSB-", "9", "-RSB-", ",", "-LSB-", "10", "-RSB-", ",", "-LSB-", "16", "-RSB-", ".", "In", "the", "experiments", "for", "r-test", "in", "this", "work", ",", "we", "adopted", "linear", "SVM", "as", "the", "ranking", "machine", "RM", ".", "The", "linear", "SVM", "is", "trained", "with", "all", "genes", "in", "the", "data", "set", ",", "producing", "the", "discriminate", "function", "f", "x", "w", "x", "b", ";", "13", "where", "w", "P", "n", "i", "1", "i", "y", "i", "x", "i", "and", "i", "are", "the", "solutions", "of", "the", "following", "quadratic", "programming", "problem", ":", "L", "p", "1", "2", "w", "k", "k", "2", "X", "n", "i", "1", "i", "y", "i", "x", "i", "w", "b", "X", "n", "i", "1", "i", ":", "14", "Following", "-LSB-", "10", "-RSB-", ",", "the", "contribution", "of", "each", "gene", "in", "the", "classifier", "can", "be", "evaluated", "by", "ZHANG", "ET", "AL.", ":", "SIGNIFICANCE", "OF", "GENE", "RANKING", "FOR", "CLASSIFICATION", "OF", "MICROARRAY", "SAMPLES", "315", "DL", "p", "1", "=", "2", "@", "2", "L", "p", "@w", "2", "i", "Dw", "i", "2", "w", "i", "2", "15", "and", ",", "thus", ",", "the", "genes", "are", "ranked", "by", "w", "i", "2", ".", "There", "are", "other", "ways", "of", "assessing", "the", "relative", "contribution", "of", "the", "genes", "in", "a", "SVM", "classifier", "-LSB-", "17", "-RSB-", ",", "but", ",", "since", "the", "scope", "of", "this", "paper", "is", "not", "to", "discuss", "the", "ranking", "method", ",", "we", "adopt", "the", "ranking", "criterion", "given", "in", "-LRB-", "15", "-RRB-", "here", ".", "The", "ranking", "only", "reflects", "the", "relative", "importance", "of", "the", "genes", "in", "the", "classifier", ",", "but", "can", "not", "reveal", "how", "important", "each", "gene", "is", ".", "The", "r-test", "converts", "the", "ranking", "to", "position", "p-values", "-LRB-", "or", "p", "*", "-", "values", "-RRB-", "to", "evaluate", "the", "significance", ".", "5.2", "Data", "Sets", "Experiments", "were", "done", "on", "six", "microarray", "data", "sets", ":", "three", "real", "data", "sets", "and", "three", "simulated", "data", "sets", ".", "The", "leukemia", "data", "set", "-LSB-", "1", "-RSB-", "contains", "the", "expression", "of", "7,129", "genes", "-LRB-", "probe", "sets", "-RRB-", "of", "72", "cases", ",", "47", "of", "them", "are", "of", "the", "ALL", "class", "and", "25", "are", "of", "the", "AML", "class", ".", "The", "colon", "cancer", "data", "set", "-LSB-", "18", "-RSB-", "contains", "2,000", "genes", "of", "62", "cases", ",", "among", "which", "40", "are", "from", "colon", "cancers", "and", "22", "from", "normal", "tissues", ".", "These", "two", "data", "sets", "have", "been", "widely", "used", "as", "benchmark", "sets", "in", "many", "methodology", "studies", ".", "Another", "data", "set", "used", "in", "this", "study", "is", "a", "breast", "cancer", "data", "set", "-LSB-", "19", "-RSB-", "containing", "12,625", "genes", "-LRB-", "probe", "sets", "-RRB-", "of", "85", "cases", ".", "The", "data", "set", "is", "used", "to", "study", "the", "classification", "of", "two", "subclasses", "of", "breast", "cancer", ".", "Forty-two", "of", "the", "cases", "are", "of", "class", "1", "and", "43", "are", "of", "class", "2", ".", "Simulated", "data", "sets", "were", "generated", "to", "investigate", "the", "properties", "of", "the", "methods", "in", "different", "situations", ".", "The", "first", "case", "is", "for", "an", "extreme", "situation", "where", "none", "of", "the", "genes", "are", "informative", ".", "The", "simulated", "data", "set", "contains", "1,000", "genes", "and", "100", "cases", ".", "The", "expression", "values", "of", "the", "genes", "are", "independently", "generated", "from", "normal", "distributions", "with", "randomized", "means", "and", "variations", "in", "a", "given", "range", ".", "The", "100", "cases", "are", "generated", "with", "the", "same", "model", ",", "but", "are", "assigned", "arbitrarily", "to", "two", "fake", "classes", "-LRB-", "50", "cases", "in", "each", "class", "-RRB-", ".", "So", ",", "the", "two", "classes", "are", ",", "in", "fact", ",", "not", "separable", "and", "all", "the", "genes", "are", "uninformative", ".", "We", "refer", "to", "this", "data", "set", "as", "the", "``", "fake-class", "''", "data", "set", "in", "the", "following", "description", ".", "Each", "of", "the", "other", "two", "simulated", "data", "sets", "also", "contains", "1,000", "genes", "and", "100", "cases", "of", "two", "classes", "-LRB-", "50", "cases", "in", "each", "class", "-RRB-", ".", "In", "one", "data", "set", "-LRB-", "we", "call", "it", "``", "simu-1", "''", "-RRB-", ",", "700", "of", "the", "genes", "follow", "N", "-LRB-", "0", ",", "1", "-RRB-", "for", "both", "classes", "and", "the", "300", "genes", "follow", "N", "-LRB-", "0.25", ",", "1", "-RRB-", "for", "class", "1", "and", "N", "-LRB-", "-0.25", ",", "1", "-RRB-", "for", "class", "2", ".", "In", "the", "other", "data", "set", "-LRB-", "we", "call", "it", "``", "simu-2", "''", "-RRB-", ",", "700", "of", "the", "genes", "follow", "N", "-LRB-", "0", ",", "1", "-RRB-", "for", "both", "classes", "and", "the", "300", "genes", "follow", "N", "-LRB-", "0.5", ",", "1", "-RRB-", "for", "class", "1", "and", "N", "-LRB-", "-0.5", ",", "1", "-RRB-", "for", "class", "2", ".", "With", "these", "two", "simulated", "data", "sets", ",", "we", "hope", "to", "mimic", "situations", "where", "there", "are", "weak", "and", "strong", "classification", "signals", "in", "the", "data", ".", "All", "the", "data", "sets", "except", "simu-1", "and", "simu-2", "were", "standardized", "to", "0-mean", "and", "standard", "deviation", "1", "first", "across", "the", "cases", "and", "then", "across", "the", "genes", ".", "This", "is", "to", "prevent", "possible", "bias", "in", "the", "ranking", "affected", "by", "the", "scaling", ".", "In", "practical", "investigations", ",", "this", "step", "might", "not", "be", "needed", "or", "might", "need", "to", "be", "done", "in", "some", "other", "way", "according", "to", "the", "specific", "situation", "of", "the", "data", "and", "the", "specific", "ranking", "methods", "to", "be", "adopted", ".", "The", "six", "data", "sets", "used", "in", "our", "experiments", "represent", "different", "levels", "of", "separability", "of", "the", "investigated", "classes", ".", "For", "the", "leukemia", "data", "set", ",", "almost", "perfect", "classification", "accuracy", "has", "been", "achieved", "-LSB-", "1", "-RSB-", ",", "-LSB-", "9", "-RSB-", ",", "-LSB-", "10", "-RSB-", ",", "so", "it", "represents", "a", "relatively", "easy", "classification", "task", ".", "For", "the", "colon", "cancer", "data", "set", ",", "the", "samples", "can", "still", "be", "well", "separated", ",", "but", "with", "some", "errors", "-LSB-", "10", "-RSB-", ",", "-LSB-", "18", "-RSB-", ".", "The", "two", "subclasses", "studied", "in", "the", "breast", "cancer", "data", "set", "are", "hardly", "separable", "as", "observed", "in", "this", "data", "set", ",", "but", "it", "is", "believed", "that", "there", "could", "be", "some", "degree", "of", "separability", "-LSB-", "20", "-RSB-", ",", "-LSB-", "21", "-RSB-", ".", "The", "fake-class", "simulation", "represents", "a", "situation", "where", "the", "two", "classes", "are", "completely", "nonseparable", "and", "the", "simu-1", "and", "simu-2", "simulation", "represents", "an", "ideal", "situation", "where", "separation", "is", "defined", "on", "a", "subset", "of", "the", "genes", "and", "the", "uninformative", "genes", "are", "i.i.d.", "To", "check", "the", "classification", "accuracy", "that", "can", "be", "achieved", "on", "these", "data", "sets", ",", "we", "randomly", "split", "them", "into", "independent", "training", "and", "test", "sets", "and", "applied", "linear", "SVM", "on", "them", ".", "These", "experiments", "were", "done", "200", "times", "for", "each", "data", "set", "and", "the", "classification", "accuracy", "obtained", "at", "different", "gene", "selection", "levels", "is", "summarized", "in", "Table", "1", ".", "It", "can", "be", "seen", "that", "the", "accuracies", "are", "consistent", "with", "the", "reports", "in", "the", "literature", "and", "with", "the", "design", "of", "the", "simulations", ".", "-LRB-", "Note", "that", "the", "error", "rates", "reported", "here", "are", "independent", "test", "results", "based", "on", "only", "half", "of", "the", "samples", "for", "training", ",", "so", "they", "are", "larger", "than", "the", "cross-validation", "errors", "reported", "elsewhere", ".", "The", "scope", "of", "this", "paper", "is", "not", "to", "improve", "or", "discuss", "classification", "accuracy", ".", "-RRB-", "316", "IEEE/ACM", "TRANSACTIONS", "ON", "COMPUTATIONAL", "BIOLOGY", "AND", "BIOINFORMATICS", ",", "VOL", ".", "3", ",", "NO.", "3", ",", "JULY-SEPTEMBER", "2006", "TABLE", "1", "Separability", "of", "the", "Classes", "of", "the", "Six", "Data", "Sets", "5.3", "Number", "of", "Significant", "Genes", "According", "to", "the", "mr-Test", "and", "tr-Test", "We", "systematically", "experimented", "with", "the", "SVM-based", "pr-test", ",", "mr-test", ",", "and", "tr-test", "methods", "on", "the", "six", "data", "sets", "and", "studied", "the", "number", "of", "genes", "claimed", "as", "significantly", "informative", "with", "each", "method", "at", "various", "significant", "levels", ".", "The", "results", "of", "the", "pr-test", "are", "affected", "by", "different", "choices", "of", "the", "number", "k", "of", "selected", "PUGs", "-LRB-", "data", "not", "shown", "-RRB-", ",", "indicating", "that", "the", "pr-test", "can", "be", "very", "biased", "unless", "we", "know", "the", "accurate", "number", "of", "informative", "genes", ".", "Therefore", ",", "we", "focus", "on", "the", "mr-test", "and", "tr-test", "in", "the", "following", "discussion", ".", "Table", "2", "shows", "the", "number", "of", "significant", "genes", "according", "to", "the", "mr-test", "at", "different", "p", "*", "-", "value", "levels", ",", "with", "different", "choices", "of", "ks", "on", "the", "six", "data", "sets", ".", "Comparing", "with", "the", "pr-test", "results", ",", "the", "mr-test", "results", "are", "less", "sensitive", "to", "changes", "in", "the", "number", "k", ".", "This", "is", "especially", "true", "when", "there", "are", "ideal", "classification", "signals", ",", "as", "in", "the", "simu-2", "data", ",", "where", "we", "can", "see", "a", "more", "than", "10-fold", "change", "of", "k", "causes", "only", "little", "variance", "in", "the", "estimated", "gene", "numbers", ".", "With", "p", "*", "-", "value", "levels", "from", "0.001", "to", "0.1", ",", "the", "estimated", "significant", "gene", "numbers", "are", "all", "around", "the", "correct", "number", "-LRB-", "300", "-RRB-", ".", "The", "claimed", "significant", "genes", "are", "all", "those", "true", "informative", "genes", "in", "the", "model", "when", "the", "estimated", "genes", "are", "less", "than", "300", ".", "For", "the", "situations", "where", "the", "number", "of", "estimated", "informative", "genes", "is", "larger", "than", "300", ",", "all", "the", "true", "informative", "genes", "are", "discovered", ".", "When", "the", "data", "are", "less", "ideal", ",", "we", "see", "that", "the", "results", "are", "stable", "within", "a", "smaller", "variation", "of", "k", ".", "More", "experiment", "results", "with", "larger", "variations", "in", "the", "choice", "of", "k", "are", "provided", "in", "the", "supplemental", "material", ",", "which", "can", "be", "found", "on", "the", "Computer", "Society", "Digital", "Library", "at", "http", ":", "/", "/", "computer.org/tcbb/archives.htm", ".", "From", "Table", "2", ",", "it", "can", "also", "be", "observed", "that", "the", "number", "of", "significant", "genes", "is", "not", "directly", "correlated", "with", "the", "classification", "accuracy", ".", "For", "example", ",", "the", "breast", "cancer", "data", "and", "fake-class", "data", "both", "look", "nonseparable", "according", "to", "the", "classification", "errors", "-LRB-", "Table", "1", "-RRB-", ",", "However", ",", "for", "the", "breast", "cancer", "data", ",", "more", "than", "200", "genes", "are", "identified", "as", "significantly", "informative", "among", "the", "12,625", "genes", "-LRB-", "1:6", "%", "-RRB-", "at", "the", "p", "*", "-", "value", "=", "0.01", "level", ",", "but", ",", "for", "the", "fake-class", "data", ",", "this", "number", "is", "only", "about", "0.4", "percent", "of", "the", "1,000", "genes", ".", "Results", "of", "the", "tr-test", "with", "different", "t-test", "p-value", "cut-offs", "are", "shown", "in", "Table", "3", ".", "It", "can", "be", "seen", "that", "different", "cut-offs", "result", "in", "different", "numbers", "of", "PUGs", ",", "but", "the", "variation", "in", "estimated", "position", "p", "*", "-", "values", "due", "to", "PUG", "number", "difference", "is", "even", "smaller", "than", "in", "the", "mr-test", ".", "This", "implies", "that", "the", "tr-test", "results", "are", "not", "biased", "by", "the", "selection", "of", "PUGs", "since", ",", "if", "the", "PUG", "selection", "was", "biased", ",", "different", "numbers", "of", "PUGs", "at", "t-test", "p-value", "cut-offs", "would", "have", "caused", "different", "degrees", "of", "bias", "and", "the", "results", "would", "have", "varied", "greatly", ".", "Comparing", "between", "Table", "2", "and", "Table", "3", ",", "as", "well", "as", "the", "results", "in", "the", "supplemental", "material", ",", "which", "can", "be", "found", "on", "the", "Computer", "Society", "Digital", "Library", "at", "http://computer", ".", "org/tcbb/archives.htm", ",", "we", "observe", "that", ",", "for", "the", "mr-test", ",", "although", "there", "is", "a", "range", "of", "k", "for", "each", "data", "set", "in", "which", "the", "results", "are", "not", "very", "sensitive", "to", "variations", "of", "k", ",", "this", "range", "can", "be", "different", "with", "different", "data", "sets", ".", "On", "the", "other", "hand", ",", "for", "the", "tr-test", ",", "within", "the", "same", "ranges", "of", "cut-off", "t-test", "p-values", ",", "results", "on", "all", "the", "data", "sets", "show", "good", "consistency", "with", "regard", "to", "variations", "in", "the", "cut-off", "value", ".", "This", "makes", "the", "tr-test", "more", "applicable", "since", "users", "do", "not", "need", "to", "tune", "the", "parameter", "specifically", "to", "each", "data", "set", ".", "Comparing", "the", "number", "of", "genes", "selected", "by", "the", "tr-test", "and", "mr-test", "-LRB-", "Table", "2", "and", "Table", "3", "-RRB-", ",", "it", "is", "obvious", "that", "the", "tr-test", "is", "more", "stringent", "and", "selects", "much", "fewer", "genes", "than", "ZHANG", "ET", "AL.", ":", "SIGNIFICANCE", "OF", "GENE", "RANKING", "FOR", "CLASSIFICATION", "OF", "MICROARRAY", "SAMPLES", "317", "TABLE", "2", "The", "Number", "of", "Genes", "Selected", "at", "Various", "r-Test", "p", "*", "-", "Value", "Levels", "with", "SVM", "the", "mr-test", "on", "the", "real", "data", "sets", ".", "The", "differences", "are", "smaller", "on", "the", "simulated", "data", ".", "Similarly", "to", "the", "results", "of", "the", "mr-test", ",", "almost", "all", "the", "informative", "genes", "in", "simu-2", "data", "can", "be", "recovered", "at", "p", "*", "-", "value", "levels", "from", "0.001", "to", "0.05", "and", "there", "are", "only", "a", "very", "few", "false-positive", "genes", "-LRB-", "e.g.", ",", "the", "307", "genes", "selected", "at", "p", "*", "-", "value", "=", "0.05", "contains", "all", "the", "300", "true-positive", "genes", "and", "seven", "false-positive", "genes", "-RRB-", ".", "This", "shows", "that", "the", "SVM", "method", "is", "good", "in", "both", "sensitivity", "and", "specificity", "in", "selecting", "the", "true", "informative", "genes", "for", "such", "ideal", "case", ",", "and", "both", "of", "the", "two", "r-test", "methods", "can", "detect", "the", "correct", "number", "of", "informative", "genes", "at", "a", "wide", "range", "of", "significance", "levels", ".", "For", "simu-1", "data", ",", "not", "all", "the", "informative", "genes", "can", "be", "recovered", "in", "the", "experiments", ".", "This", "reflects", "the", "fact", "of", "the", "large", "overlap", "of", "the", "two", "distributions", "in", "this", "weak", "model", ".", "Many", "of", "original", "300", "``", "informative", "''", "genes", "are", "actually", "not", "statistically", "significant", "in", "the", "contexts", "of", "both", "univariate", "methods", "and", "multivariate", "methods", ".", "For", "the", "real", "data", "sets", ",", "there", "are", "no", "known", "answers", "for", "the", "``", "true", "''", "number", "of", "informative", "genes", ".", "The", "mr-test", "uses", "the", "tail", "in", "the", "ranking", "list", "to", "estimate", "the", "null", "distribution", "for", "assessing", "the", "significance", "of", "the", "genes", "on", "the", "top", "of", "the", "list", ",", "therefore", "there", "is", "a", "higher", "possibility", "of", "the", "p", "*", "-", "values", "being", "underestimated", ",", "although", "this", "has", "been", "partially", "compen-sated", "by", "using", "the", "average", "rank", "positions", ".", "Thus", ",", "the", "number", "of", "genes", "being", "claimed", "significant", "by", "mr-test", "might", "be", "overestimated", ".", "In", "this", "sense", ",", "the", "tr-test", "scheme", "provides", "a", "more", "unbiased", "estimation", "of", "the", "null", "distribution", ",", "which", "is", "supported", "by", "the", "decreased", "sensitivity", "to", "PUG", "numbers", ".", "With", "the", "tr-test", ",", "at", "the", "0.05", "p", "*", "-", "value", "level", ",", "we", "get", "about", "410", "significant", "genes", "from", "the", "7,129", "genes", "-LRB-", "5.75", "percent", "-RRB-", "in", "the", "leukemia", "data", ".", "On", "the", "other", "two", "real", "data", "sets", ",", "the", "results", "tend", "to", "be", "too", "conservative", ":", "about", "13", "out", "of", "2,000", "genes", "-LRB-", "0.65", "percent", "-RRB-", "in", "the", "colon", "cancer", "data", "and", "50", "out", "of", "12,625", "genes", "-LRB-", "0.4", "percent", "-RRB-", "in", "the", "breast", "cancer", "data", "are", "claimed", "as", "significant", "at", "this", "level", ".", "It", "should", "be", "noted", "that", "the", "PUGs", "selected", "according", "to", "the", "t-test", "may", "contain", "informative", "genes", "for", "SVM", ",", "which", "considers", "the", "combined", "effects", "of", "genes", ".", "This", "will", "cause", "the", "number", "of", "genes", "called", "significant", "by", "the", "tr-test", "to", "be", "underestimated", ".", "This", "is", "especially", "true", "for", "data", "sets", "in", "which", "the", "major", "classification", "signal", "exists", "in", "the", "combinatorial", "effects", "of", "genes", "instead", "of", "differences", "in", "single", "genes", ".", "The", "correct", "answer", "may", "be", "somewhere", "between", "the", "two", "estimations", "of", "the", "tr-test", "and", "mr-test", ".", "When", "the", "signal", "is", "strong", ",", "the", "two", "estimations", "will", "be", "close", "as", "we", "see", "in", "the", "simu-2", "data", ".", "In", "practice", ",", "one", "can", "choose", "which", "one", "to", "use", "according", "to", "whether", "the", "purpose", "is", "to", "discover", "more", "possibly", "informative", "genes", "or", "to", "discover", "a", "more", "manageable", "set", "of", "significant", "genes", "for", "follow-up", "investigations", ".", "Statistical", "hypothesis", "testing", "is", "a", "fundamental", "framework", "for", "scientific", "inference", "from", "observations", ".", "Unfortunately", ",", "existing", "hypothesis", "testing", "methods", "are", "not", "sufficient", "to", "handle", "high-dimensional", "multivariate", "analysis", "problems", "arising", "from", "current", "high-throughput", "genomic", "and", "proteomic", "studies", ".", "Many", "new", "data", "mining", "techniques", "have", "been", "developed", "both", "in", "statistics", "and", "in", "the", "machine", "learning", "field", ".", "These", "methods", "are", "powerful", "in", "analyzing", "complicated", "high-dimensional", "data", "and", "helped", "greatly", "in", "functional", "genomics", "and", "proteomics", "studies", ".", "However", ",", "the", "analysis", "of", "the", "statistical", "significance", "of", "data", "mining", "results", "has", "not", "been", "paid", "enough", "attention", ".", "One", "reason", "might", "be", "that", "many", "methods", "are", "rooted", "in", "techniques", "aimed", "at", "solving", "problems", "in", "engineering", "and", "technological", "applications", "rather", "than", "in", "scientific", "discoveries", ".", "As", "an", "example", ",", "many", "machine-learning", "-", "based", "gene", "selection", "and", "classification", "methods", "may", "achieve", "very", "good", "performance", "in", "solving", "the", "specific", "classification", "problems", ",", "but", "the", "results", "are", "usually", "of", "a", "318", "IEEE/ACM", "TRANSACTIONS", "ON", "COMPUTATIONAL", "BIOLOGY", "AND", "BIOINFORMATICS", ",", "VOL", ".", "3", ",", "NO.", "3", ",", "JULY-SEPTEMBER", "2006", "TABLE", "3", "The", "Number", "of", "Genes", "Selected", "at", "Various", "Position", "p-Value", "Levels", "by", "tr-Test", "with", "SVM", "``", "black-box", "''", "type", "and", "judging", "the", "significance", "of", "the", "features", "being", "used", "for", "the", "classification", "was", "usually", "not", "deemed", "important", ".", "This", "fact", "compromises", "their", "further", "contribution", "in", "helping", "biologists", "to", "understand", "the", "mechanisms", "underlying", "the", "investigated", "disease", "classification", ".", "This", "paper", "raises", "the", "problem", "of", "the", "significance", "of", "gene", "rankings", "in", "microarray", "classification", "study", "and", "proposes", "a", "solution", "strategy", "called", "the", "r-test", "that", "converts", "the", "ranking", "of", "genes", "obtained", "with", "any", "method", "to", "position", "p-values", "-LRB-", "p", "*", "-", "values", "-RRB-", "that", "reflect", "the", "significance", "of", "the", "genes", "being", "informative", ".", "The", "concept", "of", "this", "question", "is", "important", "and", "the", "formulation", "and", "solution", "are", "challenging", "for", "several", "reasons", "as", "addressed", "in", "the", "paper", ".", "First", "of", "all", ",", "the", "definition", "of", "a", "gene", "being", "informative", "to", "the", "classification", "may", "not", "yet", "be", "completely", "clear", "for", "many", "classification", "methods", ".", "Even", "under", "the", "same", "criterion", ",", "there", "may", "not", "be", "a", "clear", "boundary", "between", "informative", "and", "uninformative", "genes", ".", "A", "biological", "status", "may", "be", "affected", "by", "several", "genes", "with", "different", "levels", "of", "contribution", "and", "it", "may", "affect", "the", "expression", "of", "many", "other", "genes", ".", "Differences", "between", "individuals", "and", "instrumental", "noises", "may", "make", "the", "genes", "that", "have", "no", "relation", "with", "the", "studied", "biological", "process", "show", "some", "relevancy", "in", "the", "limited", "samples", ".", "All", "these", "-LRB-", "and", "other", "-RRB-", "complexities", "make", "it", "hard", "to", "mathematically", "model", "microarray", "data", ".", "We", "propose", "the", "r-test", "methods", "based", "on", "intuitive", "reasoning", "under", "certain", "assumptions", "about", "the", "nature", "of", "the", "data", ".", "As", "shown", "in", "the", "experiments", ",", "the", "methods", "provide", "reasonable", "solutions", ",", "but", "the", "decision", "by", "the", "mr-test", "and", "tr-test", "method", "can", "be", "very", "different", "for", "some", "situations", ".", "Theoretically", ",", "rigorous", "methods", "are", "still", "to", "be", "developed", ".", "Under", "the", "proposed", "r-test", "framework", ",", "the", "key", "issue", "is", "the", "choice", "of", "putative", "uninformative", "genes", "or", "PUGs", ".", "Since", "the", "null", "distribution", "has", "to", "be", "estimated", "from", "the", "data", "themselves", ",", "avoiding", "bias", "in", "the", "estimation", "is", "the", "most", "challenging", "task", ".", "Besides", "the", "methods", "used", "by", "the", "mr-test", "and", "tr-test", ",", "we", "have", "also", "tried", "several", "other", "ways", "to", "tackle", "the", "problem", ",", "including", "selecting", "the", "PUGs", "according", "to", "the", "distribution", "of", "the", "ranks", "of", "all", "genes", "in", "the", "resample", "experiments", ",", "deciding", "the", "number", "of", "PUGs", "recursively", "according", "to", "the", "rank", "with", "an", "EM-like", "strategy", ",", "selection", "of", "an", "independent", "set", "of", "PUGs", "by", "fold-change", ",", "etc.", ".", "Different", "resampling", "strategy", "has", "also", "been", "experimented", "with", ".", "Among", "these", "efforts", ",", "the", "reported", "mr-test", "and", "tr-test", "give", "the", "most", "satisfactory", "results", ".", "They", "both", "perform", "perfectly", "on", "ideal", "simulations", ".", "For", "practical", "cases", ",", "the", "mr-test", "has", "a", "tendency", "to", "be", "overoptimistic", "by", "claiming", "more", "significant", "genes", "and", "the", "tr-test", "has", "a", "tendency", "to", "be", "conservative", "by", "approving", "only", "a", "small", "number", "of", "significant", "genes", ".", "Note", "that", "both", "r-test", "schemes", "do", "not", "change", "the", "ranking", "itself", ";", "therefore", ",", "it", "is", "the", "role", "of", "the", "classification", "and", "gene", "selection", "method", "-LRB-", "the", "RM", "-RRB-", "to", "guarantee", "that", "the", "ranking", "itself", "is", "reasonable", "for", "the", "biological", "investigation", ".", "The", "r-test", "only", "helps", "to", "decide", "on", "the", "number", "of", "genes", "to", "be", "selected", "from", "the", "list", "at", "given", "significance", "levels", ".", "Since", "there", "is", "currently", "no", "theoretical", "solution", "to", "completely", "avoid", "estimation", "bias", ",", "one", "can", "make", "a", "choice", "between", "mr-test", "and", "tr-test", "results", "by", "balancing", "between", "the", "two", "opposite", "trends", "of", "possible", "biases", "according", "to", "the", "particular", "biological", "problem", "at", "hand", ".", "The", "authors", "would", "like", "to", "thank", "Drs.", "J.D.", "Iglehart", "and", "A.L.", "Richardson", "for", "providing", "them", "with", "their", "microarray", "data", "for", "the", "experiments", ".", "They", "would", "also", "like", "to", "thank", "the", "editor", "and", "reviewers", "for", "their", "valuable", "suggestions", "that", "contributed", "a", "lot", "to", "the", "work", ".", "They", "thank", "Dustin", "Schones", "for", "helping", "to", "improve", "their", "writing", ".", "This", "work", "is", "supported", "in", "part", "by", "NSFC", "projects", "60275007", ",", "60234020", ",", "and", "the", "National", "Basic", "Research", "Program", "-LRB-", "2004CB518605", "-RRB-", "of", "China", ".", "This", "work", "was", "performed", "while", "Chaolin", "Zhang", "was", "with", "the", "MOE", "Key", "Laboratory", "of", "Bioinformatics/Department", "of", "Automation", ",", "Tsinghua", "University", ",", "Beijing", ".", "Chaolin", "Zhang", "and", "Xuesong", "Lu", "contributed", "equally", "in", "this", "work", "and", "should", "be", "regarded", "as", "joint", "authors", ".", "The", "corresponding", "author", "is", "Xuegong", "Zhang", ".", "-LSB-", "1", "-RSB-", "T.R.", "Golub", ",", "D.K.", "Slonim", ",", "P.", "Tamayo", ",", "C.", "Huard", ",", "M.", "Gaasenbeek", ",", "J.P.", "Mesirov", ",", "H.", "Coller", ",", "M.L.", "Loh", ",", "J.R.", "Downing", ",", "M.A.", "Caligiuri", ",", "C.D.", "Bloomfield", ",", "and", "E.S.", "Lander", ",", "``", "Molecular", "Classification", "of", "Cancer", ":", "Class", "Discovery", "and", "Class", "Prediction", "by", "Gene", "Expression", "Monitoring", ",", "''", "Science", ",", "vol", ".", "286", ",", "no.", "5439", ",", "pp.", "531-537", ",", "1999", ".", "-LSB-", "2", "-RSB-", "C.-A", ".", "Tsai", ",", "Y.-J", ".", "Chen", ",", "and", "J.J.", "Chen", ",", "``", "Testing", "for", "Differentially", "Expressed", "Genes", "with", "Microarray", "Data", ",", "''", "Nuclear", "Acids", "Research", ",", "vol", ".", "31", ",", "no.", "9", ",", "p.", "e52", ",", "2003", ".", "-LSB-", "3", "-RSB-", "M.S.", "Pepe", ",", "G.", "Longton", ",", "G.L.", "Anderson", ",", "and", "M.", "Schummer", ",", "``", "Selecting", "Differentially", "Expressed", "Genes", "from", "Microarray", "Experiments", ",", "''", "Biometrics", ",", "vol", ".", "59", ",", "no.", "1", ",", "pp.", "133-142", ",", "2003", ".", "-LSB-", "4", "-RSB-", "P.", "Broberg", ",", "``", "Statistical", "Methods", "for", "Ranking", "Differentially", "Expressed", "Genes", ",", "''", "Genome", "Biology", ",", "vol", ".", "4", ",", "no.", "6", ",", "p.", "R41", ",", "2003", ".", "-LSB-", "5", "-RSB-", "W.", "Pan", ",", "``", "A", "Comparative", "Review", "of", "Statistical", "Methods", "for", "Discovering", "Differentially", "Expressed", "Genes", "in", "Replicated", "Microarray", "Experiments", ",", "''", "Bioinformatics", ",", "vol", ".", "18", ",", "no.", "4", ",", "pp.", "546-554", ",", "2002", ".", "-LSB-", "6", "-RSB-", "S.", "Ramaswamy", ",", "K.N.", "Ross", ",", "E.S.", "Lander", ",", "and", "T.R.", "Golub", ",", "``", "A", "Molecular", "Signature", "of", "Metastasis", "in", "Primary", "Solid", "Tumors", ",", "''", "Nature", "Genetics", ",", "vol", ".", "33", ",", "no.", "1", ",", "pp.", "49-54", ",", "2003", ".", "-LSB-", "7", "-RSB-", "L.J.", "van", "'", "t", "Veer", ",", "H.", "Dai", ",", "M.J.", "van", "de", "Vijver", ",", "Y.D.", "He", ",", "A.A.M.", "Hart", ",", "M.", "Mao", ",", "H.L.", "Peterse", ",", "K.", "van", "der", "Kooy", ",", "M.J.", "Marton", ",", "A.T.", "Witteveen", ",", "G.J.", "Schreiber", ",", "R.M.", "Kerkhoven", ",", "C.", "Roberts", ",", "P.S.", "Linsley", ",", "R.", "Bernards", ",", "and", "S.H.", "Friend", ",", "``", "Gene", "Expression", "Profiling", "Predicts", "Clinical", "Outcome", "of", "Breast", "Cancer", ",", "''", "Nature", ",", "vol", ".", "415", ",", "no.", "6871", ",", "pp.", "530-536", ",", "2002", ".", "-LSB-", "8", "-RSB-", "M.", "Xiong", ",", "X.", "Fang", ",", "and", "J.", "Zhao", ",", "``", "Biomarker", "Identification", "by", "Feature", "Wrappers", ",", "''", "Genome", "Research", ",", "vol", ".", "11", ",", "no.", "11", ",", "pp.", "1878-1887", ",", "2001", ".", "-LSB-", "9", "-RSB-", "X.", "Zhang", "and", "H.", "Ke", ",", "``", "ALL/AML", "Cancer", "Classification", "by", "Gene", "Expression", "Data", "Using", "SVM", "and", "CSVM", "Approach", ",", "''", "Proc", ".", "Conf", ".", "Genome", "Informatics", ",", "pp.", "237-239", ",", "2000", ".", "-LSB-", "10", "-RSB-", "I.", "Guyon", ",", "J.", "Weston", ",", "S.", "Barnhill", ",", "and", "V.", "Vapnik", ",", "``", "Gene", "Selection", "for", "Cancer", "Classification", "Using", "Support", "Vector", "Machines", ",", "''", "Machine", "Learning", ",", "vol", ".", "46", ",", "pp.", "389-422", ",", "2002", ".", "-LSB-", "11", "-RSB-", "C.", "Furlanello", ",", "M.", "Serafini", ",", "S.", "Merler", ",", "and", "G.", "Jurman", ",", "``", "Entropy-Based", "Gene", "Ranking", "without", "Selection", "Bias", "for", "the", "Predictive", "Classification", "of", "Microarray", "Data", ",", "''", "BMC", "Bioinformatics", ",", "vol", ".", "4", ",", "no.", "1", ",", "p.", "54", ",", "2003", ".", "-LSB-", "12", "-RSB-", "H.", "Yu", ",", "J.", "Yang", ",", "W.", "Wang", ",", "and", "J.", "Han", ",", "``", "Discovering", "Compact", "and", "Highly", "Discriminative", "Features", "or", "Feature", "Combinations", "of", "Drug", "Activities", "Using", "Support", "Vector", "Machines", ",", "''", "Proc", ".", "2003", "IEEE", "Bioinformatics", "Conf", ".", "-LRB-", "CSB", "'", "03", "-RRB-", ",", "2003", ".", "-LSB-", "13", "-RSB-", "J.D.", "Storey", "and", "R.", "Tibshirani", ",", "``", "Statistical", "Significance", "for", "Genome", "Wide", "Studies", ",", "''", "Proc", ".", "Nat'l", "Academy", "of", "Science", "USA", ",", "vol", ".", "100", ",", "no.", "16", ",", "pp.", "9440-9445", ",", "2003", ".", "-LSB-", "14", "-RSB-", "R.R.", "Sokal", "and", "F.J.", "Rohlf", ",", "Biometry", ".", "San", "Francisco", ":", "Freeman", ",", "1995", ".", "-LSB-", "15", "-RSB-", "V.", "Vapnik", ",", "The", "Nature", "of", "Statistical", "Learning", "Theory", ".", "Springer-Verlag", ",", "1995", ".", "-LSB-", "16", "-RSB-", "S.", "Ramaswamy", ",", "P.", "Tamayo", ",", "R.", "Rifkin", ",", "S.", "Mukherjee", ",", "C.-H", ".", "Yeang", ",", "M.", "Angelo", ",", "C.", "Ladd", ",", "M.", "Reich", ",", "E.", "Latulippe", ",", "J.P.", "Mesirov", ",", "T.", "Poggio", ",", "W.", "Gerald", ",", "M.", "Loda", ",", "E.S.", "Lander", ",", "and", "T.R.", "Golub", ",", "``", "Multiclass", "Cancer", "Diagnosis", "Using", "Tumor", "Gene", "Expression", "Signatures", ",", "''", "Proc", ".", "Nat'l", "Academy", "of", "Sciences", ",", "vol", ".", "98", ",", "no.", "26", ",", "pp.", "15149-15154", ",", "2001", ".", "ZHANG", "ET", "AL.", ":", "SIGNIFICANCE", "OF", "GENE", "RANKING", "FOR", "CLASSIFICATION", "OF", "MICROARRAY", "SAMPLES", "319", "-LSB-", "17", "-RSB-", "X.", "Zhang", "and", "W.H.", "Wong", ",", "``", "Recursive", "Sample", "Classification", "and", "Gene", "Selection", "Based", "on", "SVM", ":", "Method", "and", "Software", "Description", ",", "''", "technical", "report", ",", "Dept.", "of", "Biostatistics", ",", "Harvard", "School", "of", "Public", "Health", ",", "2001", ".", "-LSB-", "18", "-RSB-", "U.", "Alon", ",", "N.", "Barkai", ",", "D.A.", "Notterman", ",", "K.", "Gish", ",", "S.", "Ybarra", ",", "D.", "Mack", ",", "and", "A.J.", "Levine", ",", "``", "Broad", "Patterns", "of", "Gene", "Expression", "Revealed", "by", "Clustering", "Analysis", "of", "Tumor", "and", "Normal", "Colon", "Tissues", "Probed", "by", "Oligonucleotide", "Arrays", ",", "''", "Proc", ".", "Nat'l", "Academy", "of", "Sciences", ",", "vol", ".", "96", ",", "no.", "12", ",", "pp.", "6745-6750", ",", "1999", ".", "-LSB-", "19", "-RSB-", "Z.C.", "Wang", ",", "M.", "Lin", ",", "L.-J", ".", "Wei", ",", "C.", "Li", ",", "A.", "Miron", ",", "G.", "Lodeiro", ",", "L.", "Harris", ",", "S.", "Ramaswamy", ",", "D.M.", "Tanenbaum", ",", "M.", "Meyerson", ",", "J.D.", "Iglehart", ",", "and", "A.", "Richardson", ",", "``", "Loss", "of", "Heterozygosity", "and", "Its", "Correlation", "with", "Expression", "Profiles", "in", "Subclasses", "of", "Invasive", "Breast", "Cancers", ",", "''", "Cancer", "Research", ",", "vol", ".", "64", ",", "no.", "1", ",", "pp.", "64-71", ",", "2004", ".", "-LSB-", "20", "-RSB-", "E.", "Huang", ",", "S.H.", "Cheng", ",", "H.", "Dressman", ",", "J.", "Pittman", ",", "M.H.", "Tsou", ",", "C.F.", "Horng", ",", "A.", "Bild", ",", "E.S.", "Iversen", ",", "M.", "Liao", ",", "and", "C.M.", "Chen", ",", "``", "Gene", "Expression", "Predictors", "of", "Breast", "Cancer", "Outcomes", ",", "''", "The", "Lancet", ",", "vol", ".", "361", ",", "no.", "9369", ",", "pp.", "1590-1596", ",", "2003", ".", "-LSB-", "21", "-RSB-", "M.", "West", ",", "C.", "Blanchette", ",", "H.", "Dressman", ",", "E.", "Huang", ",", "S.", "Ishida", ",", "R.", "Spang", ",", "H.", "Zuzan", ",", "J.A.", "Olson", "Jr.", ",", "J.R.", "Marks", ",", "and", "J.R.", "Nevins", ",", "``", "Predicting", "the", "Clinical", "Status", "of", "Human", "Breast", "Cancer", "by", "Using", "Gene", "Expression", "Profiles", ",", "''", "Proc", ".", "Nat'l", "Academy", "of", "Sciences", ",", "vol", ".", "98", ",", "no.", "20", ",", "pp.", "11462-11467", ",", "2001", ".", "Chaolin", "Zhang", "received", "the", "BE", "degree", "from", "the", "Department", "of", "Automation", "at", "Tsinghua", "University", ",", "Beijing", ",", "China", ",", "in", "2002", ".", "From", "2002", "to", "2004", ",", "he", "worked", "as", "a", "graduate", "student", "on", "machine", "learning", "applications", "in", "microarray", "data", "analysis", "and", "literature", "mining", "at", "the", "MOE", "Key", "Laboratory", "of", "Bioinformatics", ",", "Tsinghua", "University", ".", "He", "is", "now", "a", "PhD", "student", "at", "Cold", "Spring", "Harbor", "Laboratory", "and", "the", "Department", "of", "Biomedical", "Engineering", ",", "the", "State", "University", "of", "New", "York", "at", "Stony", "Brook", ".", "Xuesong", "Lu", "received", "the", "BE", "degree", "from", "the", "Department", "of", "Automation", ",", "Tsinghua", "University", ",", "Beijing", ",", "China", ",", "in", "2001", ".", "He", "is", "currently", "a", "PhD", "candidate", "in", "the", "Department", "of", "Automation", "and", "the", "MOE", "Key", "Laboratory", "of", "Bioinformatics", "at", "Tsinghua", "University", ",", "Beijing", ",", "China", ".", "His", "research", "interests", "include", "microarray", "data", "mining", ",", "gene", "network", "modeling", ",", "and", "literature", "mining", ".", "Xuegong", "Zhang", "received", "the", "PhD", "degree", "in", "pattern", "recognition", "and", "intelligent", "systems", "from", "Tsinghua", "University", ",", "Beijing", ",", "China", ",", "in", "1994", ".", "He", "is", "currently", "a", "professor", "in", "the", "Department", "of", "Automation", "and", "the", "MOE", "Key", "Laboratory", "of", "Bioinformatics", "at", "Tsinghua", "University", ".", "His", "research", "interests", "include", "machine", "learning", "and", "pattern", "recognition", ",", "bioinformatics", ",", "computa-tional", "genomics", ",", "and", "systems", "biology", ".", ".", "For", "more", "information", "on", "this", "or", "any", "other", "computing", "topic", ",", "please", "visit", "our", "Digital", "Library", "at", "www.computer.org/publications/dlib", ".", "320", "IEEE/ACM", "TRANSACTIONS", "ON", "COMPUTATIONAL", "BIOLOGY", "AND", "BIOINFORMATICS", ",", "VOL", ".", "3", ",", "NO.", "3", ",", "JULY-SEPTEMBER", "2006"], "doc_bio_tags": ["B", "I", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["gene selection", "microarray data analysis", "significance of gene ranking", "classification"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "151", "document": ["Probabilistic", "Author-Topic", "Models", "for", "Information", "Discovery", "We", "propose", "a", "new", "unsupervised", "learning", "technique", "for", "extracting", "information", "from", "large", "text", "collections", ".", "We", "model", "documents", "as", "if", "they", "were", "generated", "by", "a", "two-stage", "stochastic", "process", ".", "Each", "author", "is", "represented", "by", "a", "probability", "distribution", "over", "topics", ",", "and", "each", "topic", "is", "represented", "as", "a", "probability", "distribution", "over", "words", "for", "that", "topic", ".", "The", "words", "in", "a", "multi-author", "paper", "are", "assumed", "to", "be", "the", "result", "of", "a", "mixture", "of", "each", "authors", "'", "topic", "mixture", ".", "The", "topic-word", "and", "author-topic", "distributions", "are", "learned", "from", "data", "in", "an", "unsupervised", "manner", "using", "a", "Markov", "chain", "Monte", "Carlo", "algorithm", ".", "We", "apply", "the", "methodology", "to", "a", "large", "corpus", "of", "160,000", "abstracts", "and", "85,000", "authors", "from", "the", "well-known", "CiteSeer", "digital", "library", ",", "and", "learn", "a", "model", "with", "300", "topics", ".", "We", "discuss", "in", "detail", "the", "interpretation", "of", "the", "results", "discovered", "by", "the", "system", "including", "specific", "topic", "and", "author", "models", ",", "ranking", "of", "authors", "by", "topic", "and", "topics", "by", "author", ",", "significant", "trends", "in", "the", "computer", "science", "literature", "between", "1990", "and", "2002", ",", "parsing", "of", "abstracts", "by", "topics", "and", "authors", "and", "detection", "of", "unusual", "papers", "by", "specific", "authors", ".", "An", "online", "query", "interface", "to", "the", "model", "is", "also", "discussed", "that", "allows", "interactive", "exploration", "of", "author-topic", "models", "for", "corpora", "such", "as", "CiteSeer", ".", "I.", "2.6", "-LSB-", "Artificial", "Intelligence", "-RSB-", ":", "Learning", "algorithms", ",", "experimentation", "With", "the", "advent", "of", "the", "Web", "and", "various", "specialized", "digital", "libraries", ",", "the", "automatic", "extraction", "of", "useful", "information", "from", "text", "has", "become", "an", "increasingly", "important", "research", "area", "in", "data", "mining", ".", "In", "this", "paper", "we", "discuss", "a", "new", "algo-Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "rithm", "that", "extracts", "both", "the", "topics", "expressed", "in", "large", "text", "document", "collections", "and", "models", "how", "the", "authors", "of", "documents", "use", "those", "topics", ".", "The", "methodology", "is", "illustrated", "using", "a", "sample", "of", "160,000", "abstracts", "and", "80,000", "authors", "from", "the", "well-known", "CiteSeer", "digital", "library", "of", "computer", "science", "research", "papers", "-LRB-", "Lawrence", ",", "Giles", ",", "and", "Bollacker", ",", "1999", "-RRB-", ".", "The", "algorithm", "uses", "a", "probabilistic", "model", "that", "represents", "topics", "as", "probability", "distributions", "over", "words", "and", "documents", "as", "being", "composed", "of", "multiple", "topics", ".", "A", "novel", "feature", "of", "our", "model", "is", "the", "inclusion", "of", "author", "models", ",", "in", "which", "authors", "are", "modeled", "as", "probability", "distributions", "over", "topics", ".", "The", "author-topic", "models", "can", "be", "used", "to", "support", "a", "variety", "of", "interactive", "and", "exploratory", "queries", "on", "the", "set", "of", "documents", "and", "authors", ",", "including", "analysis", "of", "topic", "trends", "over", "time", ",", "finding", "the", "authors", "who", "are", "most", "likely", "to", "write", "on", "a", "given", "topic", ",", "and", "finding", "the", "most", "unusual", "paper", "written", "by", "a", "given", "author", ".", "Bayesian", "unsupervised", "learning", "is", "used", "to", "fit", "the", "model", "to", "a", "document", "collection", ".", "Supervised", "learning", "techniques", "for", "automated", "categorization", "of", "documents", "into", "known", "classes", "or", "topics", "has", "received", "considerable", "attention", "in", "recent", "years", "-LRB-", "e.g.", ",", "Yang", ",", "1998", "-RRB-", ".", "For", "many", "document", "collections", ",", "however", ",", "neither", "predefined", "topics", "nor", "labeled", "documents", "may", "be", "available", ".", "Furthermore", ",", "there", "is", "considerable", "motivation", "to", "uncover", "hidden", "topic", "structure", "in", "large", "corpora", ",", "particularly", "in", "rapidly", "changing", "fields", "such", "as", "computer", "science", "and", "biology", ",", "where", "predefined", "topic", "categories", "may", "not", "accurately", "reflect", "rapidly", "evolving", "content", ".", "Automatic", "extraction", "of", "topics", "from", "text", ",", "via", "unsupervised", "learning", ",", "has", "been", "addressed", "in", "prior", "work", "using", "a", "number", "of", "different", "approaches", ".", "One", "general", "approach", "is", "to", "represent", "the", "high-dimensional", "term", "vectors", "in", "a", "lower-dimensional", "space", ".", "Local", "regions", "in", "the", "lower-dimensional", "space", "can", "then", "be", "associated", "with", "specific", "topics", ".", "For", "example", ",", "the", "WEBSOM", "system", "-LRB-", "Lagus", "et", "al.", "1999", "-RRB-", "uses", "nonlinear", "dimensionality", "reduction", "via", "self-organizing", "maps", "to", "represent", "term", "vectors", "in", "a", "two-dimensional", "layout", ".", "Linear", "projection", "techniques", ",", "such", "as", "latent", "semantic", "indexing", "-LRB-", "LSI", "-RRB-", ",", "are", "also", "widely", "used", "-LRB-", "Berry", ",", "Dumais", ",", "and", "O", "'", "Brien", ",", "1995", "-RRB-", ".", "For", "example", ",", "Deerwester", "et", "al.", "-LRB-", "1990", "-RRB-", ",", "while", "not", "using", "the", "term", "``", "topics", "''", "per", "se", ",", "state", ":", "Roughly", "speaking", ",", "these", "factors", "may", "be", "thought", "of", "as", "artificial", "concepts", ";", "they", "represent", "extracted", "common", "meaning", "components", "of", "many", "different", "words", "and", "documents", ".", "Research", "Track", "Paper", "306", "A", "somewhat", "different", "approach", "is", "to", "cluster", "the", "documents", "into", "groups", "containing", "similar", "semantic", "content", ",", "using", "any", "of", "a", "variety", "of", "well-known", "document", "clustering", "techniques", "-LRB-", "e.g.", ",", "Cutting", "et", "al.", ",", "1992", ";", "McCallum", ",", "Nigam", ",", "and", "Ungar", ",", "2000", ";", "Popescul", "et", "al.", ",", "2000", "-RRB-", ".", "Each", "cluster", "of", "documents", "can", "then", "be", "associated", "with", "a", "latent", "topic", "-LRB-", "e.g.", ",", "as", "represented", "by", "the", "mean", "term", "vector", "for", "documents", "in", "the", "cluster", "-RRB-", ".", "While", "clustering", "can", "provide", "useful", "broad", "information", "about", "topics", ",", "clusters", "are", "inherently", "limited", "by", "the", "fact", "that", "each", "document", "is", "-LRB-", "typically", "-RRB-", "only", "associated", "with", "one", "cluster", ".", "This", "is", "often", "at", "odds", "with", "the", "multi-topic", "nature", "of", "text", "documents", "in", "many", "contexts", ".", "In", "particular", ",", "combinations", "of", "diverse", "topics", "within", "a", "single", "document", "are", "difficult", "to", "represent", ".", "For", "example", ",", "this", "present", "paper", "contains", "at", "least", "two", "significantly", "different", "topics", ":", "document", "modeling", "and", "Bayesian", "estimation", ".", "For", "this", "reason", ",", "other", "representations", "-LRB-", "such", "as", "those", "discussed", "below", "-RRB-", "that", "allow", "documents", "to", "be", "composed", "of", "multiple", "topics", "generally", "provide", "better", "models", "for", "sets", "of", "documents", "-LRB-", "e.g.", ",", "better", "out", "of", "sample", "predictions", ",", "Blei", ",", "Ng", ",", "and", "Jordan", "-LRB-", "2003", "-RRB-", "-RRB-", ".", "Hofmann", "-LRB-", "1999", "-RRB-", "introduced", "the", "aspect", "model", "-LRB-", "also", "referred", "to", "as", "probabilistic", "LSI", ",", "or", "pLSI", "-RRB-", "as", "a", "probabilistic", "alternative", "to", "projection", "and", "clustering", "methods", ".", "In", "pLSI", ",", "topics", "are", "modeled", "as", "multinomial", "probability", "distributions", "over", "words", ",", "and", "documents", "are", "assumed", "to", "be", "generated", "by", "the", "activation", "of", "multiple", "topics", ".", "While", "the", "pLSI", "model", "produced", "impressive", "results", "on", "a", "number", "of", "text", "document", "problems", "such", "as", "information", "retrieval", ",", "the", "parameterization", "of", "the", "model", "was", "susceptible", "to", "overfitting", "and", "did", "not", "provide", "a", "straightforward", "way", "to", "make", "inferences", "about", "new", "documents", "not", "seen", "in", "the", "training", "data", ".", "Blei", ",", "Ng", ",", "and", "Jordan", "-LRB-", "2003", "-RRB-", "addressed", "these", "limitations", "by", "proposing", "a", "more", "general", "Bayesian", "probabilistic", "topic", "model", "called", "latent", "Dirichlet", "allocation", "-LRB-", "LDA", "-RRB-", ".", "The", "parameters", "of", "the", "LDA", "model", "-LRB-", "the", "topic-word", "and", "document-topic", "distributions", "-RRB-", "are", "estimated", "using", "an", "approximation", "technique", "known", "as", "variational", "EM", ",", "since", "standard", "estimation", "methods", "are", "intractable", ".", "Griffiths", "and", "Steyvers", "-LRB-", "2004", "-RRB-", "showed", "how", "Gibbs", "sampling", ",", "a", "Markov", "chain", "Monte", "Carlo", "technique", ",", "could", "be", "applied", "in", "this", "model", ",", "and", "illustrated", "this", "approach", "using", "11", "years", "of", "abstract", "data", "from", "the", "Proceedings", "of", "the", "National", "Academy", "of", "Sciences", ".", "Our", "focus", "here", "is", "to", "extend", "the", "probabilistic", "topic", "models", "to", "include", "authorship", "information", ".", "Joint", "author-topic", "modeling", "has", "received", "little", "or", "no", "attention", "as", "far", "as", "we", "are", "aware", ".", "The", "areas", "of", "stylometry", ",", "authorship", "attribution", ",", "and", "forensic", "linguistics", "focus", "on", "the", "problem", "of", "identifying", "what", "author", "wrote", "a", "given", "piece", "of", "text", ".", "For", "example", ",", "Mosteller", "and", "Wallace", "-LRB-", "1964", "-RRB-", "used", "Bayesian", "techniques", "to", "infer", "whether", "Hamilton", "or", "Madison", "was", "the", "more", "likely", "author", "of", "disputed", "Federalist", "papers", ".", "More", "recent", "work", "of", "a", "similar", "nature", "includes", "authorship", "analysis", "of", "a", "purported", "poem", "by", "Shakespeare", "-LRB-", "Thisted", "and", "Efron", ",", "1987", "-RRB-", ",", "identifying", "authors", "of", "software", "programs", "-LRB-", "Gray", ",", "Sallis", ",", "and", "MacDonell", ",", "1997", "-RRB-", ",", "and", "the", "use", "of", "techniques", "such", "as", "support", "vector", "machines", "-LRB-", "Diederich", "et", "al.", ",", "2003", "-RRB-", "for", "author", "identification", ".", "These", "author", "identification", "methods", "emphasize", "the", "use", "of", "distinctive", "stylistic", "features", "-LRB-", "such", "as", "sentence", "length", "-RRB-", "that", "characterize", "a", "specific", "author", ".", "In", "contrast", ",", "the", "models", "we", "present", "here", "focus", "on", "extracting", "the", "general", "semantic", "content", "of", "a", "document", ",", "rather", "than", "the", "stylistic", "details", "of", "how", "it", "was", "written", ".", "For", "example", ",", "in", "our", "model", "we", "omit", "common", "``", "stop", "''", "words", "since", "they", "are", "generally", "irrelevant", "to", "the", "topic", "of", "the", "document", "--", "however", ",", "the", "distributions", "of", "stop", "words", "can", "be", "quite", "useful", "in", "stylometry", ".", "While", "``", "topic", "''", "information", "could", "be", "usefully", "combined", "with", "stylistic", "features", "for", "author", "classification", "we", "do", "not", "pursue", "this", "idea", "in", "this", "particular", "paper", ".", "Graph-based", "and", "network-based", "models", "are", "also", "frequently", "used", "as", "a", "basis", "for", "representation", "and", "analysis", "of", "relations", "among", "scientific", "authors", ".", "For", "example", ",", "Newman", "-LRB-", "2001", "-RRB-", ",", "Mutschke", "-LRB-", "2003", "-RRB-", "and", "Erten", "et", "al.", "-LRB-", "2003", "-RRB-", "use", "methods", "from", "bibliometrics", ",", "social", "networks", ",", "and", "graph", "theory", "to", "analyze", "and", "visualize", "co-author", "and", "citation", "relations", "in", "the", "scientific", "literature", ".", "Kautz", ",", "Selman", ",", "and", "Shah", "-LRB-", "1997", "-RRB-", "developed", "the", "interactive", "ReferralWeb", "system", "for", "exploring", "networks", "of", "computer", "scientists", "working", "in", "artificial", "intelligence", "and", "information", "retrieval", ",", "and", "White", "and", "Smyth", "-LRB-", "2003", "-RRB-", "used", "PageRank-style", "ranking", "algorithms", "to", "analyze", "co-author", "graphs", ".", "In", "all", "of", "this", "work", "only", "the", "network", "con-nectivity", "information", "is", "used", "--", "the", "text", "information", "from", "the", "underlying", "documents", "is", "not", "used", "in", "modeling", ".", "Thus", ",", "while", "the", "grouping", "of", "authors", "via", "these", "network", "models", "can", "implicitly", "provide", "indications", "of", "latent", "topics", ",", "there", "is", "no", "explicit", "representation", "of", "the", "topics", "in", "terms", "of", "the", "text", "content", "-LRB-", "the", "words", "-RRB-", "of", "the", "documents", ".", "The", "novelty", "of", "the", "work", "described", "in", "this", "paper", "lies", "in", "the", "proposal", "of", "a", "probabilistic", "model", "that", "represents", "both", "authors", "and", "topics", ",", "and", "the", "application", "of", "this", "model", "to", "a", "large", "well-known", "document", "corpus", "in", "computer", "science", ".", "As", "we", "will", "show", "later", "in", "the", "paper", ",", "the", "model", "provides", "a", "general", "framework", "for", "exploration", ",", "discovery", ",", "and", "query-answering", "in", "the", "context", "of", "the", "relationships", "of", "author", "and", "topics", "for", "large", "document", "collections", ".", "The", "outline", "of", "the", "paper", "is", "as", "follows", ":", "in", "Section", "2", "we", "describe", "the", "author-topic", "model", "and", "outline", "how", "the", "parameters", "of", "the", "model", "-LRB-", "the", "topic-word", "distributions", "and", "author-topic", "distributions", "-RRB-", "can", "be", "learned", "from", "training", "data", "consisting", "of", "documents", "with", "known", "authors", ".", "Section", "3", "illustrates", "the", "application", "of", "the", "model", "to", "a", "large", "collection", "of", "abstracts", "from", "the", "CiteSeer", "system", ",", "with", "examples", "of", "specific", "topics", "and", "specific", "author", "models", "that", "are", "learned", "by", "the", "algorithm", ".", "In", "Section", "4", "we", "illustrate", "a", "number", "of", "applications", "of", "the", "model", ",", "including", "the", "characterization", "of", "topic", "trends", "over", "time", "-LRB-", "which", "provides", "some", "interesting", "insights", "on", "the", "direction", "of", "research", "in", "computer", "science", "-RRB-", ",", "and", "the", "characterization", "of", "which", "papers", "are", "most", "typical", "and", "least", "typical", "for", "a", "given", "author", ".", "An", "online", "query", "interface", "to", "the", "system", "is", "described", "in", "Section", "5", ",", "allowing", "users", "to", "query", "the", "model", "over", "the", "Web", "--", "an", "interesting", "feature", "of", "the", "model", "is", "the", "coupling", "of", "Bayesian", "sampling", "and", "relational", "database", "technology", "to", "answer", "queries", "in", "real-time", ".", "Section", "6", "contains", "a", "brief", "discussion", "of", "future", "directions", "and", "concluding", "comments", ".", "The", "author-topic", "model", "reduces", "the", "process", "of", "writing", "a", "scientific", "document", "to", "a", "simple", "series", "of", "probabilistic", "steps", ".", "The", "model", "not", "only", "discovers", "what", "topics", "are", "expressed", "in", "a", "document", ",", "but", "also", "which", "authors", "are", "associated", "with", "each", "topic", ".", "To", "simplify", "the", "representation", "of", "documents", ",", "we", "use", "a", "bag", "of", "words", "assumption", "that", "reduces", "each", "document", "to", "a", "Research", "Track", "Paper", "307", "x", "z", "w", "D", "K", "T", "d", "a", "Given", "the", "set", "of", "co-authors", ":", "N", "d", "1", ".", "Choose", "an", "author", "2", ".", "Choose", "a", "topic", "given", "the", "author", "3", ".", "Choose", "a", "word", "given", "the", "topic", "Figure", "1", ":", "The", "graphical", "model", "for", "the", "author-topic", "model", "using", "plate", "notation", ".", "vector", "of", "counts", ",", "where", "each", "vector", "element", "corresponds", "to", "the", "number", "of", "times", "a", "term", "appears", "in", "the", "document", ".", "Each", "author", "is", "associated", "with", "a", "multinomial", "distribution", "over", "topics", ".", "A", "document", "with", "multiple", "authors", "has", "a", "distribution", "over", "topics", "that", "is", "a", "mixture", "of", "the", "distributions", "associated", "with", "the", "authors", ".", "When", "generating", "a", "document", ",", "an", "author", "is", "chosen", "at", "random", "for", "each", "individual", "word", "in", "the", "document", ".", "This", "author", "picks", "a", "topic", "from", "his", "or", "her", "multinomial", "distribution", "over", "topics", ",", "and", "then", "samples", "a", "word", "from", "the", "multinomial", "distribution", "over", "words", "associated", "with", "that", "topic", ".", "This", "process", "is", "repeated", "for", "all", "words", "in", "the", "document", ".", "In", "the", "model", ",", "the", "authors", "produce", "words", "from", "a", "set", "of", "T", "topics", ".", "When", "T", "is", "kept", "relatively", "small", "relative", "to", "the", "number", "of", "authors", "and", "vocabulary", "size", ",", "the", "author-topic", "model", "applies", "a", "form", "of", "dimensionality", "reduction", "to", "documents", ";", "topics", "are", "learned", "which", "capture", "the", "variability", "in", "word", "choice", "across", "a", "large", "set", "of", "documents", "and", "authors", ".", "In", "our", "simulations", ",", "we", "use", "300", "topics", "-LRB-", "see", "Rosen-Zvi", "et", "al.", "-LRB-", "2004", "-RRB-", "for", "an", "exploration", "of", "different", "numbers", "of", "topics", "-RRB-", ".", "Figure", "1", "illustrates", "the", "generative", "process", "with", "a", "graphical", "model", "using", "plate", "notation", ".", "For", "readers", "not", "familiar", "with", "plate", "notation", ",", "shaded", "and", "unshaded", "variables", "indicate", "observed", "and", "latent", "variables", "respectively", ".", "An", "arrow", "indicates", "a", "conditional", "dependency", "between", "variables", "and", "plates", "-LRB-", "the", "boxes", "in", "the", "figure", "-RRB-", "indicate", "repeated", "sampling", "with", "the", "number", "of", "repetitions", "given", "by", "the", "variable", "in", "the", "bottom", "-LRB-", "see", "Buntine", "-LRB-", "1994", "-RRB-", "for", "an", "introduction", "-RRB-", ".", "In", "the", "author-topic", "model", ",", "observed", "variables", "not", "only", "include", "the", "words", "w", "in", "a", "document", "but", "also", "the", "set", "of", "coauthors", "A", "d", "on", "each", "document", "d.", "Currently", ",", "the", "model", "does", "not", "specify", "the", "generative", "process", "of", "how", "authors", "choose", "to", "collaborate", ".", "Instead", ",", "we", "assume", "the", "model", "is", "provided", "with", "the", "authorship", "information", "on", "every", "document", "in", "the", "collection", ".", "Each", "author", "-LRB-", "from", "a", "set", "of", "K", "authors", "-RRB-", "is", "associated", "with", "a", "multinomial", "distribution", "over", "topics", ",", "represented", "by", ".", "Each", "topic", "is", "associated", "with", "a", "multinomial", "distribution", "over", "words", ",", "represented", "by", ".", "The", "multinomial", "distributions", "and", "have", "a", "symmetric", "Dirichlet", "prior", "with", "hyperparame-ters", "and", "-LRB-", "see", "Rosen-Zvi", "et", "al.", "-LRB-", "2004", "-RRB-", "for", "details", "-RRB-", ".", "For", "each", "word", "in", "the", "document", ",", "we", "sample", "an", "author", "x", "uni-formly", "from", "A", "d", ",", "then", "sample", "a", "topic", "z", "from", "the", "multinomial", "distribution", "associated", "with", "author", "x", "and", "sample", "a", "word", "w", "from", "a", "multinomial", "topic", "distribution", "associated", "with", "topic", "z", ".", "This", "sampling", "process", "is", "repeated", "N", "times", "to", "form", "document", "d.", "2.2", "Bayesian", "Estimation", "of", "the", "Model", "Parameters", "The", "author-topic", "model", "includes", "two", "sets", "of", "unknown", "parameters", "--", "the", "K", "author-topic", "distributions", ",", "and", "the", "T", "topic", "distributions", "--", "as", "well", "as", "the", "latent", "variables", "corresponding", "to", "the", "assignments", "of", "individual", "words", "to", "topics", "z", "and", "authors", "x", ".", "The", "Expectation-Maximization", "-LRB-", "EM", "-RRB-", "algorithm", "is", "a", "standard", "technique", "for", "estimating", "parameters", "in", "models", "with", "latent", "variables", ",", "finding", "a", "mode", "of", "the", "posterior", "distribution", "over", "parameters", ".", "However", ",", "when", "applied", "to", "probabilistic", "topic", "models", "-LRB-", "Hofmann", ",", "1999", "-RRB-", ",", "this", "approach", "is", "susceptible", "to", "local", "maxima", "and", "computationally", "inefficient", "-LRB-", "see", "Blei", ",", "Ng", ",", "and", "Jordan", ",", "2003", "-RRB-", ".", "We", "pursue", "an", "alternative", "parameter", "estimation", "strategy", ",", "outlined", "by", "Griffiths", "and", "Steyvers", "-LRB-", "2004", "-RRB-", ",", "using", "Gibbs", "sampling", ",", "a", "Markov", "chain", "Monte", "Carlo", "algorithm", "to", "sample", "from", "the", "posterior", "distribution", "over", "parameters", ".", "Instead", "of", "estimating", "the", "model", "parameters", "directly", ",", "we", "evaluate", "the", "posterior", "distribution", "on", "just", "x", "and", "z", "and", "then", "use", "the", "results", "to", "infer", "and", ".", "For", "each", "word", ",", "the", "topic", "and", "author", "assignment", "are", "sam-pled", "from", ":", "P", "-LRB-", "z", "i", "=", "j", ",", "x", "i", "=", "k", "|", "w", "i", "=", "m", ",", "z", "-", "i", ",", "x", "-", "i", "-RRB-", "C", "W", "T", "mj", "+", "m", "C", "W", "T", "m", "j", "+", "V", "C", "AT", "kj", "+", "j", "C", "AT", "kj", "+", "T", "-LRB-", "1", "-RRB-", "where", "z", "i", "=", "j", "and", "x", "i", "=", "k", "represent", "the", "assignments", "of", "the", "ith", "word", "in", "a", "document", "to", "topic", "j", "and", "author", "k", "respectively", ",", "w", "i", "=", "m", "represents", "the", "observation", "that", "the", "ith", "word", "is", "the", "mth", "word", "in", "the", "lexicon", ",", "and", "z", "-", "i", ",", "x", "-", "i", "represent", "all", "topic", "and", "author", "assignments", "not", "including", "the", "ith", "word", ".", "Furthermore", ",", "C", "W", "T", "mj", "is", "the", "number", "of", "times", "word", "m", "is", "assigned", "to", "topic", "j", ",", "not", "including", "the", "current", "instance", ",", "and", "C", "AT", "kj", "is", "the", "number", "of", "times", "author", "k", "is", "assigned", "to", "topic", "j", ",", "not", "including", "the", "current", "instance", ",", "and", "V", "is", "the", "size", "of", "the", "lexicon", ".", "During", "parameter", "estimation", ",", "the", "algorithm", "only", "needs", "to", "keep", "track", "of", "a", "V", "T", "-LRB-", "word", "by", "topic", "-RRB-", "count", "matrix", ",", "and", "a", "K", "T", "-LRB-", "author", "by", "topic", "-RRB-", "count", "matrix", ",", "both", "of", "which", "can", "be", "represented", "efficiently", "in", "sparse", "format", ".", "From", "these", "count", "matrices", ",", "we", "can", "easily", "estimate", "the", "topic-word", "distributions", "and", "author-topic", "distributions", "by", ":", "mj", "=", "C", "W", "T", "mj", "+", "m", "C", "W", "T", "m", "j", "+", "V", "-LRB-", "2", "-RRB-", "kj", "=", "C", "AT", "kj", "+", "j", "C", "AT", "kj", "+", "T", "-LRB-", "3", "-RRB-", "where", "mj", "is", "the", "probability", "of", "using", "word", "m", "in", "topic", "j", ",", "and", "kj", "is", "the", "probability", "of", "using", "topic", "j", "by", "author", "k", ".", "These", "values", "correspond", "to", "the", "predictive", "distributions", "over", "new", "words", "w", "and", "new", "topics", "z", "conditioned", "on", "w", "and", "z", ".", "We", "start", "the", "algorithm", "by", "assigning", "words", "to", "random", "topics", "and", "authors", "-LRB-", "from", "the", "set", "of", "authors", "on", "the", "document", "-RRB-", ".", "Each", "Gibbs", "sample", "then", "constitutes", "applying", "Equation", "-LRB-", "1", "-RRB-", "to", "every", "word", "token", "in", "the", "document", "collection", ".", "This", "sampling", "process", "is", "repeated", "for", "I", "iterations", ".", "In", "this", "paper", "we", "primarily", "focus", "on", "results", "based", "on", "a", "single", "sample", "so", "that", "specific", "topics", "can", "be", "identified", "and", "interpreted", "--", "in", "tasks", "involving", "prediction", "of", "words", "and", "authors", "one", "can", "average", "over", "topics", "and", "use", "multiple", "samples", "when", "doing", "so", "-LRB-", "Rosen-Zvi", "et", "al.", ",", "2004", "-RRB-", ".", "Research", "Track", "Paper", "308", "WORD", "PROB", ".", "WORD", "PROB", ".", "WORD", "PROB", ".", "WORD", "PROB", ".", "PATTERNS", "0.1965", "USER", "0.3290", "MAGNETIC", "0.0155", "METHODS", "0.5319", "PATTERN", "0.1821", "INTERFACE", "0.1378", "STARS", "0.0145", "METHOD", "0.1403", "MATCHING", "0.1375", "USERS", "0.1060", "SOLAR", "0.0135", "TECHNIQUES", "0.0442", "MATCH", "0.0337", "INTERFACES", "0.0498", "EMISSION", "0.0127", "DEVELOPED", "0.0216", "TEXT", "0.0242", "SYSTEM", "0.0434", "MASS", "0.0125", "APPLIED", "0.0162", "PRESENT", "0.0207", "INTERACTION", "0.0296", "OBSERVATIONS", "0.0120", "BASED", "0.0153", "MATCHES", "0.0167", "INTERACTIVE", "0.0214", "STAR", "0.0118", "APPROACHES", "0.0133", "PAPER", "0.0126", "USABILITY", "0.0132", "RAY", "0.0112", "COMPARE", "0.0113", "SHOW", "0.0124", "GRAPHICAL", "0.0092", "GALAXIES", "0.0105", "PRACTICAL", "0.0112", "APPROACH", "0.0099", "PROTOTYPE", "0.0086", "OBSERVED", "0.0098", "STANDARD", "0.0102", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "Navarro_G", "0.0133", "Shneiderman_B", "0.0051", "Falcke_H", "0.0140", "Srinivasan_A", "0.0018", "Amir_A", "0.0099", "Rauterberg_M", "0.0046", "Linsky_J", "0.0082", "Mooney_R", "0.0018", "Gasieniec_L", "0.0062", "Harrison_M", "0.0025", "Butler_R", "0.0077", "Owren_B", "0.0018", "Baeza-Yates_R", "0.0048", "Winiwarter_W", "0.0024", "Knapp_G", "0.0067", "Warnow_T", "0.0016", "Baker_B", "0.0042", "Ardissono_L", "0.0021", "Bjorkman_K", "0.0065", "Fensel_D", "0.0016", "Arikawa_S", "0.0041", "Billsus_D", "0.0019", "Kundu_M", "0.0060", "Godsill_S", "0.0014", "Crochemore_M", "0.0037", "Catarci_T", "0.0017", "Christensen-D_J", "0.0057", "Saad_Y", "0.0014", "Rytter_W", "0.0034", "St_R", "0.0017", "Mursula_K", "0.0054", "Hansen_J", "0.0013", "Raffinot_M", "0.0032", "Picard_R", "0.0016", "Cranmer_S", "0.0051", "Zhang_Y", "0.0013", "Ukkonen_E", "0.0032", "Zukerman_I", "0.0016", "Nagar_N", "0.0050", "Dietterich_T", "0.0013", "WORD", "PROB", ".", "WORD", "PROB", ".", "WORD", "PROB", ".", "WORD", "PROB", ".", "DATA", "0.1622", "PROBABILISTIC", "0.0869", "RETRIEVAL", "0.1208", "QUERY", "0.1406", "MINING", "0.0657", "BAYESIAN", "0.0791", "INFORMATION", "0.0613", "QUERIES", "0.0947", "DISCOVERY", "0.0408", "PROBABILITY", "0.0740", "TEXT", "0.0461", "DATABASE", "0.0932", "ATTRIBUTES", "0.0343", "MODEL", "0.0533", "DOCUMENTS", "0.0385", "DATABASES", "0.0468", "ASSOCIATION", "0.0328", "MODELS", "0.0466", "INDEXING", "0.0369", "DATA", "0.0426", "LARGE", "0.0279", "PROBABILITIES", "0.0308", "DOCUMENT", "0.0316", "RELATIONAL", "0.0384", "DATABASES", "0.0257", "INFERENCE", "0.0306", "QUERY", "0.0261", "JOIN", "0.0188", "KNOWLEDGE", "0.0175", "CONDITIONAL", "0.0274", "CONTENT", "0.0256", "PROCESSING", "0.0165", "PATTERNS", "0.0174", "PRIOR", "0.0273", "SEARCH", "0.0174", "SOURCES", "0.0114", "ITEMS", "0.0173", "POSTERIOR", "0.0228", "RELEVANCE", "0.0171", "OPTIMIZATION", "0.0110", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "Han_J", "0.0164", "Koller_D", "0.0104", "Oard_D", "0.0097", "Levy_A", "0.0092", "Zaki_M", "0.0089", "Heckerman_D", "0.0079", "Hawking_D", "0.0065", "Naughton_J", "0.0078", "Liu_B", "0.0071", "Ghahramani_Z", "0.0060", "Croft_W", "0.0057", "Suciu_D", "0.0075", "Cheung_D", "0.0066", "Friedman_N", "0.0060", "Jones_K", "0.0053", "Raschid_L", "0.0075", "Shim_K", "0.0051", "Myllymaki_P", "0.0057", "Schauble_P", "0.0052", "DeWitt_D", "0.0062", "Mannila_H", "0.0049", "Lukasiewicz_T", "0.0054", "Voorhees_E", "0.0050", "Widom_J", "0.0058", "Rastogi_R", "0.0049", "Geiger_D", "0.0045", "Callan_J", "0.0046", "Abiteboul_S", "0.0057", "Ganti_V", "0.0048", "Muller_P", "0.0044", "Fuhr_N", "0.0042", "Chu_W", "0.0055", "Toivonen_H", "0.0043", "Berger_J", "0.0044", "Smeaton_A", "0.0042", "Libkin_L", "0.0054", "Liu_H", "0.0043", "Xiang_Y", "0.0042", "Sanderson_M", "0.0041", "Kriegel_H", "0.0054", "TOPIC", "29", "TOPIC", "58", "TOPIC", "298", "TOPIC", "139", "TOPIC", "52", "TOPIC", "95", "TOPIC", "293", "TOPIC", "68", "Figure", "2", ":", "Eight", "example", "topics", "extracted", "from", "the", "CiteSeer", "database", ".", "Each", "is", "illustrated", "with", "the", "10", "most", "likely", "words", "and", "authors", "with", "corresponding", "probabilities", ".", "WORD", "PROB", ".", "WORD", "PROB", ".", "WORD", "PROB", ".", "WORD", "PROB", ".", "DATA", "0.1468", "PROBABILISTIC", "0.0826", "RETRIEVAL", "0.1381", "QUERY", "0.1699", "MINING", "0.0631", "BAYESIAN", "0.0751", "INFORMATION", "0.0600", "QUERIES", "0.1209", "DISCOVERY", "0.0396", "PROBABILITY", "0.0628", "INDEX", "0.0529", "JOIN", "0.0258", "ATTRIBUTES", "0.0392", "MODEL", "0.0364", "INDEXING", "0.0469", "DATA", "0.0212", "ASSOCIATION", "0.0316", "PROBABILITIES", "0.0313", "QUERY", "0.0319", "OPTIMIZATION", "0.0171", "RULES", "0.0252", "INFERENCE", "0.0294", "CONTENT", "0.0299", "PROCESSING", "0.0162", "PATTERNS", "0.0210", "MODELS", "0.0273", "BASED", "0.0224", "RELATIONAL", "0.0131", "LARGE", "0.0207", "CONDITIONAL", "0.0262", "SEARCH", "0.0219", "DATABASE", "0.0128", "ATTRIBUTE", "0.0183", "DISTRIBUTION", "0.0261", "RELEVANCE", "0.0212", "AGGREGATION", "0.0117", "DATABASES", "0.0179", "PRIOR", "0.0259", "SIMILARITY", "0.0178", "RESULT", "0.0106", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "AUTHOR", "PROB", ".", "Han_J", "0.0157", "Koller_D", "0.0109", "Oard_D", "0.0080", "Naughton_J", "0.0103", "Zaki_M", "0.0104", "Heckerman_D", "0.0079", "Voorhees_E", "0.0053", "Suciu_D", "0.0091", "Liu_B", "0.0080", "Friedman_N", "0.0076", "Hawking_D", "0.0053", "Levy_A", "0.0080", "Cheung_D", "0.0075", "Ghahramani_Z", "0.0060", "Schauble_P", "0.0051", "DeWitt_D", "0.0077", "Hamilton_H", "0.0058", "Lukasiewicz_T", "0.0053", "Croft_W", "0.0051", "Wong_L", "0.0071", "Mannila_H", "0.0056", "Myllymaki_P", "0.0053", "Jones_K", "0.0041", "Ross_K", "0.0067", "Brin_S", "0.0055", "Poole_D", "0.0050", "Bruza_P", "0.0041", "Kriegel_H", "0.0055", "Ganti_V", "0.0050", "Xiang_Y", "0.0048", "Lee_D", "0.0040", "Mumick_I", "0.0054", "Liu_H", "0.0050", "vanderGaag_L", "0.0047", "Smeaton_A", "0.0040", "Raschid_L", "0.0053", "Toivonen_H", "0.0049", "Berger_J", "0.0040", "Callan_J", "0.0039", "Kossmann_D", "0.0053", "TOPIC", "276", "TOPIC", "158", "TOPIC", "213", "TOPIC", "15", "Figure", "3", ":", "The", "four", "most", "similar", "topics", "to", "the", "topics", "in", "the", "bottom", "row", "of", "Figure", "2", ",", "obtained", "from", "a", "different", "Markov", "chain", "run", ".", "Our", "collection", "of", "CiteSeer", "abstracts", "contains", "D", "=", "162", ",", "489", "abstracts", "with", "K", "=", "85", ",", "465", "authors", ".", "We", "preprocessed", "the", "text", "by", "removing", "all", "punctuation", "and", "common", "stop", "words", ".", "This", "led", "to", "a", "vocabulary", "size", "of", "V", "=", "30", ",", "799", ",", "and", "a", "total", "of", "11", ",", "685", ",", "514", "word", "tokens", ".", "There", "is", "inevitably", "some", "noise", "in", "data", "of", "this", "form", "given", "that", "many", "of", "the", "fields", "-LRB-", "paper", "title", ",", "author", "names", ",", "year", ",", "abstract", "-RRB-", "were", "extracted", "automatically", "by", "CiteSeer", "from", "PDF", "or", "postscript", "or", "other", "document", "formats", ".", "We", "chose", "the", "simple", "convention", "of", "identifying", "authors", "by", "their", "first", "initial", "and", "second", "name", ",", "e.g.", ",", "A", "Einstein", ",", "given", "that", "multiple", "first", "initials", "or", "fully", "spelled", "first", "names", "were", "only", "available", "for", "a", "relatively", "small", "fraction", "of", "papers", ".", "This", "means", "of", "course", "that", "for", "some", "very", "common", "names", "-LRB-", "e.g.", ",", "J", "Wang", "or", "J", "Smith", "-RRB-", "there", "will", "be", "multiple", "actual", "individuals", "represented", "by", "a", "single", "name", "in", "the", "model", ".", "This", "is", "a", "known", "limitation", "of", "working", "with", "this", "type", "of", "data", "-LRB-", "e.g.", ",", "see", "Newman", "-LRB-", "2001", "-RRB-", "for", "further", "discussion", "-RRB-", ".", "There", "are", "algorithmic", "techniques", "that", "could", "be", "used", "to", "automatically", "resolve", "these", "identity", "problems-however", ",", "in", "this", "paper", ",", "we", "do", "n't", "pursue", "these", "options", "and", "instead", "for", "simplicity", "work", "with", "the", "first-initial/last-name", "representation", "of", "individual", "authors", ".", "In", "our", "simulations", ",", "the", "number", "of", "topics", "T", "was", "fixed", "at", "300", "and", "the", "smoothing", "parameters", "and", "-LRB-", "Figure", "1", "-RRB-", "were", "set", "at", "0.16", "and", "0.01", "respectively", ".", "We", "ran", "5", "independent", "Gibbs", "sampling", "chains", "for", "2000", "iterations", "each", ".", "On", "a", "2", "GHz", "PC", "workstation", ",", "each", "iteration", "took", "400", "seconds", ",", "leading", "to", "a", "total", "run", "time", "on", "the", "order", "of", "several", "days", "per", "chain", ".", "3.2", "Author-Topic", "and", "Topic-Word", "Models", "for", "the", "CiteSeer", "Database", "We", "now", "discuss", "the", "author-topic", "and", "topic-word", "distributions", "learned", "from", "the", "CiteSeer", "data", ".", "Figure", "2", "illustrates", "eight", "different", "topics", "-LRB-", "out", "of", "300", "-RRB-", ",", "obtained", "at", "the", "2000th", "iteration", "of", "a", "particular", "Gibbs", "sampler", "run", ".", "Each", "table", "in", "Figure", "2", "shows", "the", "10", "words", "that", "are", "most", "likely", "to", "be", "produced", "if", "that", "topic", "is", "activated", ",", "and", "the", "10", "authors", "who", "are", "most", "likely", "to", "have", "produced", "a", "word", "if", "it", "is", "known", "to", "have", "come", "from", "that", "topic", ".", "The", "words", "associated", "with", "each", "topic", "are", "quite", "intuitive", "and", ",", "indeed", ",", "quite", "precise", "in", "the", "sense", "of", "conveying", "a", "semantic", "summary", "of", "a", "particular", "field", "of", "research", ".", "The", "authors", "associated", "with", "each", "topic", "are", "also", "quite", "representative", "--", "note", "that", "the", "top", "10", "authors", "associated", "with", "a", "topic", "by", "the", "model", "are", "not", "necessarily", "the", "most", "well-known", "authors", "in", "that", "area", ",", "but", "rather", "are", "the", "authors", "who", "tend", "to", "produce", "the", "most", "words", "for", "that", "topic", "-LRB-", "in", "the", "CiteSeer", "abstracts", "-RRB-", ".", "The", "first", "3", "topics", "at", "the", "top", "of", "Figure", "2", ",", "topics", "#", "163", ",", "#", "87", "and", "#", "20", "show", "examples", "of", "3", "quite", "specific", "and", "precise", "topics", "on", "string", "matching", ",", "human-computer", "interaction", ",", "and", "astronomy", "respectively", ".", "The", "bottom", "four", "topics", "-LRB-", "#", "205", ",", "#", "209", ",", "#", "289", ",", "and", "#", "10", "-RRB-", "are", "examples", "of", "topics", "with", "direct", "relevance", "to", "data", "mining", "--", "namely", "data", "mining", "itself", ",", "probabilistic", "learning", ",", "information", "retrieval", ",", "and", "database", "querying", "and", "indexing", ".", "The", "model", "includes", "several", "other", "topics", "related", "to", "data", "mining", ",", "such", "as", "predictive", "modeling", "and", "neural", "networks", ",", "as", "well", "as", "topics", "that", "span", "the", "full", "range", "of", "research", "areas", "encompassed", "by", "documents", "in", "CiteSeer", ".", "The", "full", "list", "is", "available", "at", "http://www.datalab.uci.edu/author-topic", ".", "Topic", "#", "273", "-LRB-", "top", "right", "Figure", "2", "-RRB-", "provides", "an", "example", "of", "a", "Research", "Track", "Paper", "309", "topic", "that", "is", "not", "directly", "related", "to", "a", "specific", "research", "area", ".", "A", "fraction", "of", "topics", ",", "perhaps", "10", "to", "20", "%", ",", "are", "devoted", "to", "``", "non-research", "-", "specific", "''", "topics", ",", "the", "``", "glue", "''", "that", "makes", "up", "our", "research", "papers", ",", "including", "general", "terminology", "for", "describing", "methods", "and", "experiments", ",", "funding", "acknowledgments", "and", "parts", "of", "addresses", "-LRB-", "which", "inadvertently", "crept", "in", "to", "the", "abstracts", "-RRB-", ",", "and", "so", "forth", ".", "We", "found", "that", "the", "topics", "obtained", "from", "different", "Gibbs", "sampling", "runs", "were", "quite", "stable", ".", "For", "example", ",", "Figure", "3", "shows", "the", "4", "most", "similar", "topics", "to", "the", "topics", "in", "the", "bottom", "row", "of", "Figure", "2", ",", "but", "from", "a", "different", "run", ".", "There", "is", "some", "variability", "in", "terms", "of", "ranking", "of", "specific", "words", "and", "authors", "for", "each", "topic", ",", "and", "in", "the", "exact", "values", "of", "the", "associated", "probabilities", ",", "but", "overall", "the", "topics", "match", "very", "closely", ".", "Of", "the", "original", "162,489", "abstracts", "in", "our", "data", "set", ",", "estimated", "years", "of", "publication", "were", "provided", "by", "CiteSeer", "for", "130", ",", "545", "of", "these", "abstracts", ".", "There", "is", "a", "steady", "-LRB-", "and", "well-known", "-RRB-", "increase", "year", "by", "year", "in", "the", "number", "of", "online", "documents", "through", "the", "1990", "'s", ".", "From", "1999", "through", "2002", ",", "however", ",", "the", "number", "of", "documents", "for", "which", "the", "year", "is", "known", "drops", "off", "sharply-the", "years", "2001", "and", "2002", "in", "particular", "are", "under-represented", "in", "this", "set", ".", "This", "is", "due", "to", "fact", "that", "it", "is", "easier", "for", "CiteSeer", "to", "determine", "the", "date", "of", "publication", "of", "older", "documents", ",", "e.g.", ",", "by", "using", "citations", "to", "these", "documents", ".", "We", "used", "the", "yearly", "data", "to", "analyze", "trends", "in", "topics", "over", "time", ".", "Using", "the", "same", "300", "topic", "model", "described", "earlier", ",", "the", "documents", "were", "partitioned", "by", "year", ",", "and", "for", "each", "year", "all", "of", "the", "words", "were", "assigned", "to", "their", "most", "likely", "topic", "using", "the", "model", ".", "The", "fraction", "of", "words", "assigned", "to", "each", "topic", "for", "a", "given", "year", "was", "then", "calculated", "for", "each", "of", "the", "300", "topics", "and", "for", "each", "year", "from", "1990", "to", "2002", ".", "These", "fractions", "provide", "interesting", "and", "useful", "indicators", "of", "relative", "topic", "popularity", "in", "the", "research", "literature", "in", "recent", "years", ".", "Figure", "4", "shows", "the", "results", "of", "plotting", "several", "different", "topics", ".", "Each", "topic", "is", "indicated", "in", "the", "legend", "by", "the", "five", "most", "probable", "words", "in", "the", "topic", ".", "The", "top", "left", "plot", "shows", "a", "steady", "increase", "-LRB-", "roughly", "three-fold", "-RRB-", "in", "machine", "learning", "and", "data", "mining", "topics", ".", "The", "top", "right", "plot", "shows", "a", "``", "tale", "of", "two", "topics", "''", ":", "an", "increase", "in", "information-retrieval", "coupled", "to", "an", "apparent", "decrease", "in", "natural", "language", "processing", ".", "On", "the", "second", "row", ",", "on", "the", "left", "we", "see", "a", "steady", "decrease", "in", "two", "``", "classical", "''", "computer", "science", "topics", ",", "operating", "systems", "and", "programming", "languages", ".", "On", "the", "right", ",", "however", ",", "we", "see", "the", "reverse", "behavior", ",", "namely", "a", "corresponding", "substantial", "growth", "in", "Web-related", "topics", ".", "In", "the", "third", "row", ",", "the", "left", "plot", "illustrates", "trends", "within", "database", "research", ":", "a", "decrease", "in", "the", "transaction", "and", "concurrency-related", "topic", ",", "query-related", "research", "holding", "steady", "over", "time", ",", "and", "a", "slow", "but", "steady", "increase", "in", "integration-related", "database", "research", ".", "The", "plot", "on", "the", "right", "in", "the", "third", "row", "illustrates", "the", "changing", "fortunes", "of", "security-related", "research", "--", "a", "decline", "in", "the", "early", "90", "'s", "but", "then", "a", "seemingly", "dramatic", "upward", "trend", "starting", "around", "1995", ".", "The", "lower", "left", "plot", "on", "the", "bottom", "row", "illustrates", "the", "somewhat", "noisy", "trends", "of", "three", "topics", "that", "were", "``", "hot", "''", "in", "the", "1990", "'s", ":", "neural", "networks", "exhibits", "a", "steady", "decline", "since", "the", "early", "1990", "'s", "-LRB-", "as", "machine", "learning", "has", "moved", "on", "to", "areas", "such", "as", "support", "vector", "machines", "-RRB-", ",", "genetic", "algorithms", "appears", "to", "be", "relatively", "stable", ",", "and", "wavelets", "may", "have", "peaked", "in", "the", "1994", "98", "time", "period", ".", "Finally", ",", "as", "with", "any", "large", "data", "set", "there", "are", "always", "some", "surprises", "in", "store", ".", "The", "final", "figure", "on", "the", "bottom", "right", "shows", "two", "somewhat", "unexpected", "``", "topics", "''", ".", "The", "first", "topic", "consists", "entirely", "of", "French", "words", "-LRB-", "in", "fact", "the", "model", "discovered", "3", "such", "French", "language", "topics", "-RRB-", ".", "The", "apparent", "peaking", "of", "French", "words", "in", "the", "mid-1990s", "is", "likely", "to", "be", "an", "artifact", "of", "how", "CiteSeer", "preprocesses", "data", "rather", "than", "any", "indication", "of", "French", "research", "productivity", ".", "The", "lower", "curve", "corresponds", "to", "a", "topic", "consisting", "of", "largely", "Greek", "letters", ",", "presumably", "from", "more", "theoretically", "oriented", "papers", "--", "fans", "of", "theory", "may", "be", "somewhat", "dismayed", "to", "see", "that", "there", "is", "an", "apparent", "steady", "decline", "in", "the", "relative", "frequency", "of", "Greek", "letters", "in", "abstracts", "since", "the", "mid-1990s", "!", "The", "time-trend", "results", "above", "should", "be", "interpreted", "with", "some", "caution", ".", "As", "mentioned", "earlier", ",", "the", "data", "for", "2001", "and", "2002", "are", "relatively", "sparse", "compared", "to", "earlier", "years", ".", "In", "addition", ",", "the", "numbers", "are", "based", "on", "a", "rather", "skewed", "sample", "-LRB-", "online", "documents", "obtained", "by", "the", "CiteSeer", "system", "for", "which", "years", "are", "known", "-RRB-", ".", "Furthermore", ",", "the", "fractions", "per", "year", "only", "indicate", "the", "relative", "number", "of", "words", "assigned", "to", "a", "topic", "by", "the", "model", "and", "make", "no", "direct", "assessment", "of", "the", "quality", "or", "importance", "of", "a", "particular", "sub-area", "of", "computer", "science", ".", "Nonetheless", ",", "despite", "these", "caveats", ",", "the", "results", "are", "quite", "informative", "and", "indicate", "substantial", "shifts", "in", "research", "topics", "within", "the", "field", "of", "computer", "science", ".", "In", "terms", "of", "related", "work", ",", "Popescul", "et", "al.", "-LRB-", "2000", "-RRB-", "investi-gated", "time", "trends", "in", "CiteSeer", "documents", "using", "a", "document", "clustering", "approach", ".", "31K", "documents", "were", "clustered", "into", "15", "clusters", "based", "on", "co-citation", "information", "while", "the", "text", "information", "in", "the", "documents", "was", "not", "used", ".", "Our", "author-topic", "model", "uses", "the", "opposite", "approach", ".", "In", "effect", "we", "use", "the", "text", "information", "directly", "to", "discover", "topics", "and", "do", "not", "explic-itly", "model", "the", "``", "author", "network", "''", "-LRB-", "although", "implicitly", "the", "co-author", "connections", "are", "used", "by", "the", "model", "-RRB-", ".", "A", "direct", "quantitative", "comparison", "is", "difficult", ",", "but", "we", "can", "say", "that", "our", "model", "with", "300", "topics", "appears", "to", "produce", "much", "more", "noticeable", "and", "precise", "time-trends", "than", "the", "15-cluster", "model", ".", "4.2", "Topics", "and", "Authors", "for", "New", "Documents", "In", "many", "applications", ",", "we", "would", "like", "to", "quickly", "assess", "the", "topic", "and", "author", "assignments", "for", "new", "documents", "not", "contained", "in", "our", "subset", "of", "the", "CiteSeer", "collection", ".", "Because", "our", "Monte", "Carlo", "algorithm", "requires", "significant", "processing", "time", "for", "160K", "documents", ",", "it", "would", "be", "computationally", "inefficient", "to", "rerun", "the", "algorithm", "for", "every", "new", "document", "added", "to", "the", "collection", "-LRB-", "even", "though", "from", "a", "Bayesian", "inference", "viewpoint", "this", "is", "the", "optimal", "approach", "-RRB-", ".", "Our", "strategy", "instead", "is", "to", "apply", "an", "efficient", "Monte", "Carlo", "algorithm", "that", "runs", "only", "on", "the", "word", "tokens", "in", "the", "new", "document", ",", "leading", "quickly", "to", "likely", "assignments", "of", "words", "to", "authors", "and", "topics", ".", "We", "start", "by", "assigning", "words", "randomly", "to", "co-authors", "and", "topics", ".", "We", "then", "sample", "new", "assignments", "of", "words", "to", "topics", "and", "authors", "by", "applying", "Equation", "1", "only", "to", "the", "word", "tokens", "in", "the", "new", "document", "each", "time", "temporarily", "updating", "the", "count", "matrices", "C", "W", "T", "and", "C", "AT", ".", "The", "resulting", "assignments", "of", "words", "to", "authors", "and", "topics", "can", "be", "saved", "after", "a", "few", "iterations", "-LRB-", "10", "iterations", "in", "our", "simulations", "-RRB-", ".", "Figure", "5", "shows", "an", "example", "of", "this", "type", "of", "inference", ".", "Abstracts", "from", "two", "authors", ",", "B", "Scholkopf", "and", "A", "Darwiche", "were", "combined", "together", "into", "1", "``", "pseudo-abstract", "''", "and", "the", "docu-Research", "Track", "Paper", "310", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "1", "2", "3", "4", "5", "6", "7", "8", "x", "10", "-3", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "114", ":", "regression-variance-estimator", "-", "estimators-bias", "153", ":", "classification-training-classifier", "-", "classifiers-generalization", "205", ":", "data-mining-attributes-discovery", "-", "association", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "2", "3", "4", "5", "6", "7", "8", "x", "10", "-3", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "280", ":", "language-semantic-natural", "-", "linguistic-grammar", "289", ":", "retrieval-text-documents", "-", "information-document", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "x", "10", "-3", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "60", ":", "programming-language-concurrent", "-", "languages-implementation", "139", ":", "system-operating-file", "-", "systems-kernel", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "0", "0.002", "0.004", "0.006", "0.008", "0.01", "0.012", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "7", ":", "web-user-world-wide-users", "80", ":", "mobile-wireless-devices", "-", "mobility-ad", "275", ":", "multicast-multimedia-media", "-", "delivery-applications", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "x", "10", "-3", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "10", ":", "query-queries-index-data-join", "261", ":", "transaction-transactions", "-", "concurrency-copy-copies", "194", ":", "integration-view-views-data", "-", "incremental", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "1", "2", "3", "4", "5", "6", "7", "8", "9", "x", "10", "-3", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "120", ":", "security-secure-access-key-authentication", "240", ":", "key-attack-encryption-hash-keys", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "1", "2", "3", "4", "5", "6", "7", "x", "10", "-3", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "23", ":", "neural-networks-network-training-learning", "35", ":", "wavelet-operator-operators-basis", "-", "coefficients", "242", ":", "genetic-evolutionary-evolution-population-ga", "1990", "1992", "1994", "1996", "1998", "2000", "2002", "0", "0.002", "0.004", "0.006", "0.008", "0.01", "0.012", "Year", "Fraction", "of", "Words", "Assigned", "to", "Topic", "47", ":", "la-les-une-nous-est", "157", ":", "gamma-delta-ff-omega-oe", "Figure", "4", ":", "Topic", "trends", "for", "research", "topics", "in", "computer", "science", ".", "Research", "Track", "Paper", "311", "-LSB-", "AUTH1", "=", "Scholkopf_B", "-LRB-", "69", "%", ",", "31", "%", "-RRB-", "-RSB-", "-LSB-", "AUTH2", "=", "Darwiche_A", "-LRB-", "72", "%", ",", "28", "%", "-RRB-", "-RSB-", "A", "method", "1", "is", "described", "which", "like", "the", "kernel", "1", "trick", "1", "in", "support", "1", "vector", "1", "machines", "1", "SVMs", "1", "lets", "us", "generalize", "distance", "1", "based", "2", "algorithms", "to", "operate", "in", "feature", "1", "spaces", "usually", "nonlinearly", "related", "to", "the", "input", "1", "space", "This", "is", "done", "by", "identifying", "a", "class", "of", "kernels", "1", "which", "can", "be", "represented", "as", "norm", "1", "based", "2", "distances", "1", "in", "Hilbert", "spaces", "It", "turns", "1", "out", "that", "common", "kernel", "1", "algorithms", "such", "as", "SVMs", "1", "and", "kernel", "1", "PCA", "1", "are", "actually", "really", "distance", "1", "based", "2", "algorithms", "and", "can", "be", "run", "2", "with", "that", "class", "of", "kernels", "1", "too", "As", "well", "as", "providing", "1", "a", "useful", "new", "insight", "1", "into", "how", "these", "algorithms", "work", "the", "present", "2", "work", "can", "form", "the", "basis", "1", "for", "conceiving", "new", "algorithms", "This", "paper", "presents", "2", "a", "comprehensive", "approach", "for", "model", "2", "based", "2", "diagnosis", "2", "which", "includes", "proposals", "for", "characterizing", "and", "computing", "2", "preferred", "2", "diagnoses", "2", "assuming", "that", "the", "system", "2", "description", "2", "is", "augmented", "with", "a", "system", "2", "structure", "2", "a", "directed", "2", "graph", "2", "explicating", "the", "interconnections", "between", "system", "2", "components", "2", "Specifically", "we", "first", "introduce", "the", "notion", "of", "a", "consequence", "2", "which", "is", "a", "syntactically", "2", "unconstrained", "propositional", "2", "sentence", "2", "that", "characterizes", "all", "consistency", "2", "based", "2", "diagnoses", "2", "and", "show", "2", "that", "standard", "2", "characterizations", "of", "diagnoses", "2", "such", "as", "minimal", "conflicts", "1", "correspond", "to", "syntactic", "2", "variations", "1", "on", "a", "consequence", "2", "Second", "we", "propose", "a", "new", "syntactic", "2", "variation", "on", "the", "consequence", "2", "known", "as", "negation", "2", "normal", "form", "NNF", "and", "discuss", "its", "merits", "compared", "to", "standard", "variations", "Third", "we", "introduce", "a", "basic", "algorithm", "2", "for", "computing", "consequences", "in", "NNF", "given", "a", "structured", "system", "2", "description", "We", "show", "that", "if", "the", "system", "2", "structure", "2", "does", "not", "contain", "cycles", "2", "then", "there", "is", "always", "a", "linear", "size", "2", "consequence", "2", "in", "NNF", "which", "can", "be", "computed", "in", "linear", "time", "2", "For", "arbitrary", "1", "system", "2", "structures", "2", "we", "show", "a", "precise", "connection", "between", "the", "complexity", "2", "of", "computing", "2", "consequences", "and", "the", "topology", "of", "the", "underlying", "system", "2", "structure", "2", "Finally", "we", "present", "2", "an", "algorithm", "2", "that", "enumerates", "2", "the", "preferred", "2", "diagnoses", "2", "characterized", "by", "a", "consequence", "2", "The", "algorithm", "2", "is", "shown", "1", "to", "take", "linear", "time", "2", "in", "the", "size", "2", "of", "the", "consequence", "2", "if", "the", "preference", "criterion", "1", "satisfies", "some", "general", "conditions", "Figure", "5", ":", "Automated", "labeling", "of", "a", "pseudo-abstract", "from", "two", "authors", "by", "the", "model", ".", "ment", "treated", "as", "if", "they", "had", "both", "written", "it", ".", "These", "two", "authors", "work", "in", "relatively", "different", "but", "not", "entirely", "unrelated", "sub-areas", "of", "computer", "science", ":", "Scholkopf", "in", "machine", "learning", "and", "Darwiche", "in", "probabilistic", "reasoning", ".", "The", "document", "is", "then", "parsed", "by", "the", "model", ".", "i.e.", ",", "words", "are", "assigned", "to", "these", "authors", ".", "We", "would", "hope", "that", "the", "author-topic", "model", ",", "conditioned", "now", "on", "these", "two", "authors", ",", "can", "separate", "the", "combined", "abstract", "into", "its", "component", "parts", ".", "Figure", "5", "shows", "the", "results", "after", "the", "model", "has", "classified", "each", "word", "according", "to", "the", "most", "likely", "author", ".", "Note", "that", "the", "model", "only", "sees", "a", "bag", "of", "words", "and", "is", "not", "aware", "of", "the", "word", "order", "that", "we", "see", "in", "the", "figure", ".", "For", "readers", "viewing", "this", "in", "color", ",", "the", "more", "red", "a", "word", "is", "the", "more", "likely", "it", "is", "to", "have", "been", "generated", "-LRB-", "according", "to", "the", "model", "-RRB-", "by", "Scholkopf", "-LRB-", "and", "blue", "for", "Darwiche", "-RRB-", ".", "For", "readers", "viewing", "the", "figure", "in", "black", "and", "white", ",", "the", "superscript", "1", "indicates", "words", "classified", "by", "the", "model", "for", "Scholkopf", ",", "and", "superscript", "2", "for", "Darwiche", ".", "The", "results", "show", "that", "all", "of", "the", "significant", "content", "words", "-LRB-", "such", "as", "kernel", ",", "support", ",", "vector", ",", "diagnoses", ",", "directed", ",", "graph", "-RRB-", "are", "classified", "correctly", ".", "As", "we", "might", "expect", "most", "of", "the", "``", "er-rors", "''", "are", "words", "-LRB-", "such", "as", "``", "based", "''", "or", "``", "criterion", "''", "-RRB-", "that", "are", "not", "specific", "to", "either", "authors", "'", "area", "of", "research", ".", "Were", "we", "to", "use", "word", "order", "in", "the", "classification", ",", "and", "classify", "-LRB-", "for", "example", "-RRB-", "whole", "sentences", ",", "the", "accuracy", "would", "increase", "further", ".", "As", "it", "is", ",", "the", "model", "correctly", "classifies", "69", "%", "of", "Scholkopf", "'s", "words", "and", "72", "%", "of", "Darwiche", "'s", ".", "4.3", "Detecting", "the", "Most", "Surprising", "and", "Least", "Surprising", "Papers", "for", "an", "Author", "In", "Tables", "1", "through", "3", "we", "used", "the", "model", "to", "score", "papers", "attributed", "to", "three", "well-known", "researchers", "in", "computer", "science", "-LRB-", "Christos", "Faloutsos", ",", "Michael", "Jordan", ",", "and", "Tom", "Mitchell", "-RRB-", ".", "For", "each", "document", "for", "each", "of", "these", "authors", "we", "calculate", "a", "perplexity", "score", ".", "Perplexity", "is", "widely", "used", "in", "language", "modeling", "to", "assess", "the", "predictive", "power", "of", "a", "model", ".", "It", "is", "a", "measure", "of", "how", "surprising", "the", "words", "are", "from", "the", "model", "'s", "perspective", ",", "loosely", "equivalent", "to", "the", "effective", "branching", "factor", ".", "Formally", ",", "the", "perplexity", "score", "of", "a", "new", "unobserved", "document", "d", "that", "contains", "a", "set", "of", "words", "W", "d", "and", "conditioned", "on", "a", "topic", "model", "for", "a", "specific", "author", "a", "is", ":", "Perplexity", "-LRB-", "W", "d", "|", "a", "-RRB-", "=", "exp", "-", "log", "p", "-LRB-", "W", "d", "|", "a", "-RRB-", "|", "W", "d", "|", "where", "p", "-LRB-", "W", "d", "|", "a", "-RRB-", "is", "the", "probability", "assigned", "by", "the", "author", "topic", "model", "to", "the", "words", "W", "d", "conditioned", "on", "the", "single", "author", "a", ",", "and", "|", "W", "d", "|", "is", "the", "number", "of", "words", "in", "the", "document", ".", "Even", "if", "the", "document", "was", "written", "by", "multiple", "authors", "we", "evaluate", "the", "perplexity", "score", "relative", "to", "a", "single", "author", "in", "order", "to", "judge", "perplexity", "relative", "to", "that", "individual", ".", "Our", "goal", "here", "is", "not", "to", "evaluate", "the", "out-of-sample", "predictive", "power", "of", "the", "model", ",", "but", "to", "explore", "the", "range", "of", "perplexity", "scores", "that", "the", "model", "assigns", "to", "papers", "from", "specific", "authors", ".", "Lower", "scores", "imply", "that", "the", "words", "w", "are", "less", "surprising", "to", "the", "model", "-LRB-", "lower", "bounded", "by", "zero", "-RRB-", ".", "In", "particular", "we", "are", "interested", "in", "the", "abstracts", "that", "the", "model", "considers", "most", "surprising", "-LRB-", "highest", "perplexity", "-RRB-", "and", "least", "surprising", "-LRB-", "lowest", "perplexity", "-RRB-", "--", "in", "each", "table", "we", "list", "the", "2", "abstracts", "with", "the", "highest", "perplexity", "scores", ",", "the", "median", "perplexity", ",", "and", "the", "2", "abstracts", "with", "the", "lowest", "perplexity", "scores", ".", "Table", "1", "for", "Christos", "Faloutsos", "shows", "that", "the", "two", "papers", "with", "the", "highest", "perplexities", "have", "significantly", "higher", "perplexity", "scores", "than", "the", "median", "and", "the", "two", "lowest", "perplexity", "papers", ".", "The", "high", "perplexity", "papers", "are", "related", "to", "``", "query", "by", "example", "''", "and", "the", "QBIC", "image", "database", "system", ",", "while", "the", "low", "perplexity", "papers", "are", "on", "high-dimensional", "indexing", ".", "As", "far", "as", "the", "topic", "model", "for", "Faloutsos", "is", "concerned", ",", "the", "indexing", "papers", "are", "much", "more", "typical", "of", "his", "work", "than", "the", "query", "by", "example", "papers", ".", "Tables", "2", "and", "3", "provide", "interesting", "examples", "in", "that", "the", "most", "perplexing", "papers", "-LRB-", "from", "the", "model", "'s", "viewpoint", "-RRB-", "for", "each", "author", "are", "papers", "that", "the", "author", "did", "not", "write", "at", "all", ".", "As", "mentioned", "earlier", ",", "by", "combining", "all", "T", "Mitchell", "'s", "and", "M", "Jordan", "'s", "together", ",", "the", "data", "set", "may", "contain", "authors", "who", "are", "different", "from", "Tom", "Mitchell", "at", "CMU", "and", "Michael", "Jordan", "at", "Berkeley", ".", "Thus", ",", "the", "highest", "perplexity", "paper", "for", "T", "Mitchell", "is", "in", "fact", "authored", "by", "a", "Toby", "Mitchell", "and", "is", "on", "the", "topic", "of", "estimating", "radiation", "doses", "-LRB-", "quite", "different", "from", "the", "machine", "learning", "work", "of", "Tom", "Mitchell", "-RRB-", ".", "Similarly", ",", "for", "Michael", "Jordan", ",", "the", "most", "perplexing", "paper", "is", "on", "software", "Research", "Track", "Paper", "312", "Table", "1", ":", "Papers", "ranked", "by", "perplexity", "for", "C.", "Faloutsos", ",", "from", "31", "documents", ".", "Paper", "Title", "Perplexity", "Score", "MindReader", ":", "Querying", "databases", "through", "multiple", "examples", "1503.7", "Efficient", "and", "effective", "querying", "by", "image", "content", "1498.2", "MEDIAN", "SCORE", "603.5", "Beyond", "uniformity", "and", "independence", ":", "analysis", "of", "R-trees", "using", "the", "concept", "of", "fractal", "dimension", "288.9", "The", "TV-tree", ":", "an", "index", "structure", "for", "high-dimensional", "data", "217.2", "Table", "2", ":", "Papers", "ranked", "by", "perplexity", "for", "M.", "Jordan", ",", "from", "33", "documents", ".", "Paper", "Title", "Perplexity", "Score", "Software", "configuration", "management", "in", "an", "object", "oriented", "database", "1386.0", "Are", "arm", "trajectories", "planned", "in", "kinematic", "or", "dynamic", "coordinates", "?", "An", "adaptation", "study", "1319.2", "MEDIAN", "SCORE", "372.4", "On", "convergence", "properties", "of", "the", "EM", "algorithm", "for", "Gaussian", "mixtures", "180.0", "Supervised", "learning", "from", "incomplete", "data", "via", "an", "EM", "approach", "179.0", "Table", "3", ":", "Papers", "ranked", "by", "perplexity", "for", "T.", "Mitchell", "from", "15", "documents", ".", "Paper", "Title", "Perplexity", "Score", "A", "method", "for", "estimating", "occupational", "radiation", "dose", "to", "individuals", ",", "using", "weekly", "dosimetry", "data", "2002.9", "Text", "classification", "from", "labeled", "and", "unlabeled", "documents", "using", "EM", "845.4", "MEDIAN", "SCORE", "411.5", "Learning", "one", "more", "thing", "266.5", "Explanation", "based", "learning", "for", "mobile", "robot", "perception", "264.2", "configuration", "management", "and", "was", "written", "by", "Mick", "Jordan", "of", "Sun", "Microsystems", ".", "In", "fact", ",", "of", "the", "7", "most", "perplexing", "papers", "for", "M", "Jordan", ",", "6", "are", "on", "software", "management", "and", "the", "JAVA", "programming", "language", ",", "all", "written", "by", "Mick", "Jordan", ".", "However", ",", "the", "2nd", "most", "perplexing", "paper", "was", "in", "fact", "coauthored", "by", "Michael", "Jordan", ",", "but", "in", "the", "area", "of", "modeling", "of", "motor", "planning", ",", "which", "is", "a", "far", "less", "common", "topic", "compared", "to", "the", "machine", "learning", "papers", "that", "Jordan", "typically", "writes", ".", "We", "have", "built", "a", "JAVA-based", "query", "interface", "tool", "that", "supports", "interactive", "querying", "of", "the", "model", "1", ".", "The", "tool", "allows", "a", "user", "to", "query", "about", "authors", ",", "topics", ",", "documents", ",", "or", "words", ".", "For", "example", ",", "given", "a", "query", "on", "a", "particular", "author", "the", "tool", "retrieves", "and", "displays", "the", "most", "likely", "topics", "and", "their", "probabilities", "for", "that", "author", ",", "the", "5", "most", "probable", "words", "for", "each", "topic", ",", "and", "the", "document", "titles", "in", "the", "database", "for", "that", "author", ".", "Figure", "6", "-LRB-", "a", "-RRB-", "-LRB-", "top", "panel", "-RRB-", "shows", "the", "result", "of", "querying", "on", "Pazzani", "M", "and", "the", "resulting", "topic", "distribution", "-LRB-", "highly-ranked", "topics", "include", "machine", "learning", ",", "classification", ",", "rule-based", "systems", ",", "data", "mining", ",", "and", "information", "retrieval", "-RRB-", ".", "Mouse-clicking", "on", "one", "of", "the", "topics", "-LRB-", "e.g.", ",", "the", "data", "mining", "topic", "as", "shown", "in", "the", "figure", "-RRB-", "produces", "the", "screen", "display", "to", "the", "left", "-LRB-", "Figure", "6", "-LRB-", "b", "-RRB-", "-RRB-", ".", "The", "most", "likely", "words", "for", "this", "topic", "and", "the", "most", "likely", "authors", "given", "a", "word", "from", "this", "topic", "are", "then", "displayed", ".", "We", "have", "found", "this", "to", "be", "a", "useful", "technique", "for", "interactively", "exploring", "topics", "and", "authors", ",", "e.g.", ",", "which", "authors", "are", "active", "in", "a", "particular", "research", "area", ".", "Similarly", ",", "one", "can", "click", "on", "a", "particular", "paper", "-LRB-", "e.g.", ",", "the", "paper", "A", "Learning", "Agent", "for", "Wireless", "News", "Access", "as", "shown", "in", "the", "lower", "screenshot", "-LRB-", "Figure", "6", "-LRB-", "c", "-RRB-", "-RRB-", "and", "the", "display", "in", "the", "panel", "to", "the", "right", "is", "then", "produced", ".", "This", "display", "shows", "the", "words", "in", "the", "documents", "and", "their", "counts", ",", "the", "probability", "distribution", "over", "topics", "for", "the", "paper", "given", "the", "word", "counts", "1", "A", "prototype", "online", "version", "of", "the", "tool", "can", "be", "accessed", "at", "http://www.datalab.uci.edu/author-topic", ".", "-LRB-", "ranked", "by", "highest", "probability", "first", "-RRB-", ",", "and", "a", "probability", "distribution", "over", "authors", ",", "based", "on", "the", "proportion", "of", "words", "assigned", "by", "the", "model", "to", "each", "topic", "and", "author", "respectively", ".", "The", "system", "is", "implemented", "using", "a", "combination", "of", "a", "relational", "database", "and", "real-time", "Bayesian", "estimation", "-LRB-", "a", "relatively", "rare", "combination", "of", "these", "technologies", "for", "a", "real-time", "query-answering", "system", "as", "far", "as", "we", "are", "aware", "-RRB-", ".", "We", "use", "a", "database", "to", "store", "and", "index", "both", "-LRB-", "a", "-RRB-", "the", "sparse", "author-topic", "and", "topic-word", "count", "matrices", "that", "are", "learned", "by", "our", "algorithm", "from", "the", "training", "data", ",", "and", "-LRB-", "b", "-RRB-", "various", "tables", "describing", "the", "data", "such", "as", "document-word", ",", "document-author", ",", "and", "document-title", "tables", ".", "For", "a", "large", "document", "set", "such", "as", "CiteSeer", "-LRB-", "and", "with", "300", "topics", "-RRB-", "these", "tables", "can", "run", "into", "the", "hundred", "'s", "of", "megabytes", "of", "memory", "--", "thus", ",", "we", "do", "not", "load", "them", "into", "main", "memory", "automatically", "but", "instead", "issue", "SQL", "commands", "to", "retrieve", "the", "relevant", "records", "in", "real-time", ".", "For", "most", "of", "the", "queries", "we", "have", "implemented", "to", "date", "the", "queries", "can", "be", "answered", "by", "simple", "table", "lookup", "followed", "by", "appropriate", "normalization", "-LRB-", "if", "needed", "-RRB-", "of", "the", "stored", "counts", "to", "generate", "conditional", "probabilities", ".", "For", "example", ",", "displaying", "the", "topic", "distribution", "for", "a", "specific", "author", "is", "simply", "a", "matter", "of", "retrieving", "the", "appropriate", "record", ".", "However", ",", "when", "a", "document", "is", "the", "basis", "of", "a", "query", "-LRB-", "e.g.", ",", "as", "in", "the", "lower", "screenshot", ",", "Figure", "6", "-LRB-", "c", "-RRB-", "-RRB-", "we", "must", "compute", "in", "real-time", "the", "conditional", "distribution", "of", "the", "fraction", "of", "words", "assigned", "to", "each", "topic", "and", "author", ",", "a", "calculation", "that", "can", "not", "be", "computed", "in", "closed", "form", ".", "This", "requires", "retrieving", "all", "the", "relevant", "word-topic", "counts", "for", "the", "words", "in", "the", "document", "via", "SQL", ",", "then", "executing", "the", "estimation", "algorithm", "outlined", "in", "Section", "4.2", "in", "real-time", "using", "Gibbs", "sampling", ",", "and", "displaying", "the", "results", "to", "the", "user", ".", "The", "user", "can", "change", "adjust", "the", "burn-in", "time", ",", "the", "number", "of", "samples", "and", "the", "lag", "time", "in", "the", "sampling", "algorithm", "--", "typically", "we", "have", "found", "that", "as", "few", "as", "10", "Gibbs", "samples", "gives", "quite", "reasonable", "results", "-LRB-", "and", "takes", "on", "the", "order", "of", "1", "or", "2", "seconds", "depending", "on", "the", "machine", "being", "used", "other", "factors", "-RRB-", ".", "Research", "Track", "Paper", "313", "-LRB-", "b", "-RRB-", "-LRB-", "a", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "6", ":", "Examples", "of", "screenshots", "from", "the", "interactive", "query", "browser", "for", "the", "author-topic", "model", "with", "-LRB-", "a", "-RRB-", "querying", "on", "author", "Pazzani", "M", ",", "-LRB-", "b", "-RRB-", "querying", "on", "a", "topic", "-LRB-", "data", "mining", "-RRB-", "relevant", "to", "that", "author", ",", "and", "-LRB-", "c", "-RRB-", "querying", "on", "a", "particular", "document", "written", "by", "the", "author", ".", "Research", "Track", "Paper", "314", "We", "have", "introduced", "a", "probabilistic", "algorithm", "that", "can", "that", "can", "automatically", "extract", "information", "about", "authors", ",", "topics", ",", "and", "documents", "from", "large", "text", "corpora", ".", "The", "method", "uses", "a", "generative", "probabilistic", "model", "that", "links", "authors", "to", "observed", "words", "in", "documents", "via", "latent", "topics", ".", "We", "demon-strated", "that", "Bayesian", "estimation", "can", "be", "used", "to", "learn", "such", "author-topic", "models", "from", "very", "large", "text", "corpora", ",", "using", "CiteSeer", "abstracts", "as", "a", "working", "example", ".", "The", "resulting", "CiteSeer", "author-topic", "model", "was", "shown", "to", "extract", "substantial", "novel", "``", "hidden", "''", "information", "from", "the", "set", "of", "abstracts", ",", "including", "topic", "time-trends", ",", "author-topic", "relations", ",", "unusual", "papers", "for", "specific", "authors", "and", "so", "forth", ".", "Other", "potential", "applications", "not", "discussed", "here", "include", "recommending", "potential", "reviewers", "for", "a", "paper", "based", "on", "both", "the", "words", "in", "the", "paper", "and", "the", "names", "of", "the", "authors", ".", "Even", "though", "the", "underlying", "probabilistic", "model", "is", "quite", "simple", ",", "and", "ignores", "several", "aspects", "of", "real-world", "document", "generation", "-LRB-", "such", "as", "topic", "correlation", ",", "author", "interaction", ",", "and", "so", "forth", "-RRB-", ",", "it", "nonetheless", "provides", "a", "useful", "first", "step", "in", "understanding", "author-topic", "structure", "in", "large", "text", "corpora", ".", "We", "would", "like", "to", "thank", "Steve", "Lawrence", ",", "C.", "Lee", "Giles", ",", "and", "Isaac", "Council", "for", "providing", "the", "CiteSeer", "data", "used", "in", "this", "paper", ".", "We", "also", "thank", "Momo", "Alhazzazi", ",", "Amnon", "Meyers", ",", "and", "Joshua", "O'Madadhain", "for", "assistance", "in", "software", "development", "and", "data", "preprocessing", ".", "The", "research", "in", "this", "paper", "was", "supported", "in", "part", "by", "the", "National", "Science", "Foundation", "under", "Grant", "IRI-9703120", "via", "the", "Knowledge", "Discovery", "and", "Dissemination", "-LRB-", "KD-D", "-RRB-", "program", ".", "Blei", ",", "D.", "M.", ",", "Ng", ",", "A.", "Y.", ",", "and", "Jordan", ",", "M.", "I.", ",", "-LRB-", "2003", "-RRB-", "Latent", "Dirichlet", "allocation", ",", "Journal", "of", "Machine", "Learning", "Research", "3", ",", "pp.", "993", "1022", ".", "Buntine", ",", "W.L.", "-LRB-", "1994", "-RRB-", "Operations", "for", "learning", "with", "graphical", "models", ",", "Journal", "of", "Artificial", "Intelligence", "Research", "2", ",", "pp.", "159-225", ".", "Cutting", ",", "D.", ",", "Karger", ",", "D.", "R.", ",", "Pederson", ",", "J.", ",", "and", "Tukey", ",", "J.", "W.", "-LRB-", "1992", "-RRB-", "Scatter/Gather", ":", "a", "cluster-based", "approach", "to", "browsing", "large", "document", "collections", ",", "in", "Proceedings", "of", "the", "15th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pp.", "318", "329", ".", "Deerwester", ",", "S.", "C.", ",", "Dumais", ",", "S.", "T.", ",", "Landauer", ",", "T.", "K.", ",", "Furnas", ",", "G.", "W.", ",", "and", "Harshman", ",", "R.", "A.", "-LRB-", "1990", "-RRB-", "Indexing", "by", "latent", "semantic", "analysis", ",", "Journal", "of", "the", "American", "Society", "of", "Information", "Science", ",", "41", "-LRB-", "6", "-RRB-", ",", "pp.", "391", "407", ".", "Diederich", ",", "J.", ",", "Kindermann", ",", "J.", ",", "Leopold", ",", "E.", ",", "and", "Paass", ",", "G.", "-LRB-", "2003", "-RRB-", "Authorship", "attribution", "with", "support", "vector", "machines", ",", "Applied", "Intelligence", "19", "-LRB-", "1", "-RRB-", ".", "Erten", ",", "C.", ",", "Harding", ",", "P.", "J.", ",", "Kobourov", ",", "S.", "G.", ",", "Wampler", ",", "K.", ",", "and", "Yee", ",", "G.", "-LRB-", "2003", "-RRB-", "Exploring", "the", "computing", "literature", "using", "temporal", "graph", "visualization", ",", "Technical", "Report", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Arizona", ".", "Gray", ",", "A.", ",", "Sallis", ",", "P.", ",", "MacDonell", ",", "S.", "-LRB-", "1997", "-RRB-", "Software", "forensics", ":", "Extending", "authorship", "analysis", "techniques", "to", "computer", "programs", ",", "Proceedings", "of", "the", "3rd", "Biannual", "Conference", "of", "the", "International", "Association", "of", "Forensic", "Linguists", "-LRB-", "IAFL", "-RRB-", ",", "Durham", "NC", ".", "Griffiths", ",", "T.", "L.", ",", "and", "Steyvers", ",", "M.", "-LRB-", "2004", "-RRB-", "Finding", "scientific", "topics", ",", "Proceedings", "of", "the", "National", "Academy", "of", "Sciences", ",", "101", "-LRB-", "suppl", ".", "1", "-RRB-", ",", "5228", "5235", ".", "Hofmann", ",", "T.", "-LRB-", "1999", "-RRB-", "Probabilistic", "latent", "semantic", "indexing", ",", "in", "Proceedings", "of", "the", "22nd", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "'", "99", "-RRB-", ".", "Kautz", ",", "H.", ",", "Selman", ",", "B.", ",", "and", "Shah", ",", "M.", "-LRB-", "1997", "-RRB-", "Referral", "Web", ":", "Combining", "social", "networks", "and", "collaborative", "filtering", ",", "Communications", "of", "the", "ACM", ",", "3", ",", "pp.", "63", "65", ".", "Lagus", ",", "K", ",", "Honkela", ",", "T.", ",", "Kaski", ",", "S.", ",", "and", "Kohonen", ",", "T.", "-LRB-", "1999", "-RRB-", "WEBSOM", "for", "textual", "data", "mining", ",", "Artificial", "Intelligence", "Review", ",", "13", "-LRB-", "5", "6", "-RRB-", ",", "pp.", "345", "364", ".", "Lawrence", ",", "S.", ",", "Giles", ",", "C.", "L.", ",", "and", "Bollacker", ",", "K.", "-LRB-", "1999", "-RRB-", "Digital", "libraries", "and", "autonomous", "citation", "indexing", ",", "IEEE", "Computer", ",", "32", "-LRB-", "6", "-RRB-", ",", "pp.", "67", "71", ".", "McCallum", ",", "A.", ",", "Nigam", ",", "K.", ",", "and", "Ungar", ",", "L.", "-LRB-", "2000", "-RRB-", "Efficient", "clustering", "of", "high-dimensional", "data", "sets", "with", "application", "to", "reference", "matching", ",", "in", "Proceedings", "of", "the", "Sixth", "ACM", "SIGKDD", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "169", "178", ".", "Mosteller", ",", "F.", ",", "and", "Wallace", ",", "D.", "-LRB-", "1964", "-RRB-", "Applied", "Bayesian", "and", "Classical", "Inference", ":", "The", "Case", "of", "the", "Federalist", "Papers", ",", "Springer-Verlag", ".", "Mutschke", ",", "P.", "-LRB-", "2003", "-RRB-", "Mining", "networks", "and", "central", "entities", "in", "digital", "libraries", ":", "a", "graph", "theoretic", "approach", "applied", "to", "co-author", "networks", ",", "Intelligent", "Data", "Analysis", "2003", ",", "Lecture", "Notes", "in", "Computer", "Science", "2810", ",", "Springer", "Verlag", ",", "pp.", "155", "166", "Newman", ",", "M.", "E.", "J.", "-LRB-", "2001", "-RRB-", "Scientific", "collaboration", "networks", ":", "I.", "Network", "construction", "and", "fundamental", "results", ",", "Physical", "Review", "E", ",", "64", ",", "016131", ".", "Popescul", ",", "A.", ",", "Flake", ",", "G.", "W.", ",", "Lawrence", ",", "S.", ",", "Ungar", ",", "L.", "H.", ",", "and", "Giles", ",", "C.", "L.", "-LRB-", "2000", "-RRB-", "Clustering", "and", "identifying", "temporal", "trends", "in", "document", "databases", ",", "IEEE", "Advances", "in", "Digital", "Libraries", ",", "ADL", "2000", ",", "pp.", "173", "182", ".", "Rosen-Zvi", ",", "M.", ",", "Griffiths", ",", "T.", ",", "Steyvers", ",", "M.", ",", "Smyth", ",", "P.", "-LRB-", "2004", "-RRB-", "The", "author-topic", "model", "for", "authors", "and", "documents", ",", "Proceedings", "of", "the", "20th", "UAI", "Conference", ",", "July", "2004", ".", "Thisted", ",", "B.", ",", "and", "Efron", ",", "R.", "-LRB-", "1987", "-RRB-", "Did", "Shakespeare", "write", "a", "newly", "discovered", "poem", "?", ",", "Biometrika", ",", "pp.", "445", "455", ".", "White", ",", "S.", "and", "Smyth", ",", "P.", "-LRB-", "2003", "-RRB-", "Algorithms", "for", "estimating", "relative", "importance", "in", "networks", ",", "in", "Proceedings", "of", "the", "Ninth", "ACM", "SIGKDD", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "266", "275", ".", "Yang", ",", "Y.", "-LRB-", "1999", "-RRB-", "An", "evaluation", "of", "statistical", "approaches", "to", "text", "categorization", ",", "Information", "Retrieval", ",", "1", ",", "pp.", "69", "90", ".", "Research", "Track", "Paper", "315"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["gibbs sampling", "unsupervised learning"], "abstractive_keyphrases": ["text modeling"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "157", "document": ["Putting", "Integrated", "Information", "in", "Context", ":", "Superimposing", "Conceptual", "Models", "with", "SPARCE", "A", "person", "working", "with", "diverse", "information", "sources", "--", "with", "possibly", "different", "formats", "and", "information", "models", "--", "may", "recognize", "and", "wish", "to", "express", "conceptual", "structures", "that", "are", "not", "explicitly", "present", "in", "those", "sources", ".", "Rather", "than", "replicate", "the", "portions", "of", "interest", "and", "recast", "them", "into", "a", "single", ",", "combined", "data", "source", ",", "we", "leave", "base", "information", "where", "it", "is", "and", "superimpose", "a", "conceptual", "model", "that", "is", "appropriate", "to", "the", "task", "at", "hand", ".", "This", "superimposed", "model", "can", "be", "distinct", "from", "the", "model", "-LRB-", "s", "-RRB-", "employed", "by", "the", "sources", "in", "the", "base", "layer", ".", "An", "application", "that", "superimposes", "a", "new", "conceptual", "model", "over", "diverse", "sources", ",", "with", "varying", "capabilities", ",", "needs", "to", "accommodate", "the", "various", "types", "of", "information", "and", "differing", "access", "protocols", "for", "the", "base", "information", "sources", ".", "The", "Superimposed", "Pluggable", "Architecture", "for", "Contexts", "and", "Excerpts", "-LRB-", "SPARCE", "-RRB-", "defines", "a", "collection", "of", "architectural", "abstractions", ",", "placed", "between", "superimposed", "and", "base", "applications", ",", "to", "demarcate", "and", "revisit", "information", "elements", "inside", "base", "sources", "and", "provide", "access", "to", "content", "and", "context", "for", "elements", "inside", "these", "sources", ".", "SPARCE", "accommodates", "new", "base", "information", "types", "without", "altering", "existing", "superimposed", "applications", ".", "In", "this", "paper", ",", "we", "briefly", "introduce", "several", "superimposed", "applications", "that", "we", "have", "built", ",", "and", "describe", "the", "conceptual", "model", "each", "superimposes", ".", "We", "then", "focus", "on", "the", "use", "of", "context", "in", "superimposed", "applications", ".", "We", "describe", "how", "SPARCE", "supports", "context", "and", "excerpts", ".", "We", "demonstrate", "how", "SPARCE", "facilitates", "building", "superimposed", "applications", "by", "describing", "its", "use", "in", "building", "our", "two", ",", "quite", "diverse", "applications", ".", "When", "a", "physician", "prepares", "for", "rounds", "in", "a", "hospital", "intensive", "care", "unit", ",", "she", "often", "creates", "a", "quick", "synopsis", "of", "important", "problems", ",", "with", "relevant", "lab", "tests", "or", "observations", ",", "for", "each", "patient", ",", "as", "shown", "in", "Figure", "1", ".", "The", "information", "Copyright", "2004", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "the", "1st", "Asia-Pacific", "Conference", "on", "Conceptual", "Modelling", "-LRB-", "APCCM", "2004", "-RRB-", ",", "Dunedin", ",", "New", "Zealand", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "31", ".", "Sven", "Hartmann", "and", "John", "Roddick", ",", "Eds", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "is", "largely", "copied", "from", "elsewhere", ",", "e.g.", ",", "from", "the", "patient", "medical", "record", ",", "or", "the", "laboratory", "system", ".", "Although", "the", "underlying", "data", "sources", "use", "various", "information", "structures", ",", "including", "dictated", "free", "text", ",", "tabular", "results", "and", "formatted", "reports", ",", "the", "physician", "may", "organize", "the", "selected", "information", "items", "into", "the", "simple", "cells", "or", "groups", "as", "shown", "in", "Figure", "1", "-LRB-", "without", "concern", "for", "the", "format", "or", "information", "model", "of", "the", "base", "sources", "-RRB-", ".", "Each", "row", "contains", "information", "about", "a", "single", "patient", ",", "with", "the", "four", "columns", "containing", "patient", "identifying", "information", ",", "-LRB-", "a", "subset", "of", "-RRB-", "the", "patient", "'s", "current", "problems", ",", "-LRB-", "a", "subset", "of", "-RRB-", "recent", "lab", "results", "or", "other", "reports", ",", "and", "notes", "-LRB-", "including", "a", "``", "To", "Do", "''", "list", "for", "the", "patient", "-RRB-", ".", "While", "the", "information", "elements", "selected", "for", "this", "synopsis", "will", "generally", "suffice", "for", "the", "task", "at", "hand", "-LRB-", "patient", "rounds", "-RRB-", ",", "the", "physician", "may", "need", "to", "view", "an", "element", "-LRB-", "such", "as", "a", "problem", "or", "a", "lab", "result", "-RRB-", "in", "the", "original", "source", "-LSB-", "Gorman", "2000", ",", "Ash", "2001", "-RSB-", ".", "However", ",", "this", "paper", "artefact", "obviously", "provides", "no", "means", "of", "automatically", "returning", "to", "the", "original", "context", "of", "an", "information", "element", ".", "In", "an", "ICU", ",", "we", "have", "observed", "a", "clinician", "actively", "working", "with", "a", "potentially", "diverse", "set", "of", "underlying", "information", "sources", "as", "she", "prepares", "to", "visit", "a", "patient", ",", "selecting", "bits", "of", "information", "from", "the", "various", "information", "sources", ",", "organizing", "them", "to", "suit", "the", "current", "purpose", ",", "possibly", "elaborating", "them", "with", "highlighting", "or", "annotation", ",", "or", "mixing", "them", "with", "new", "additional", "information", ",", "including", "new", "relationships", "among", "bits", "of", "information", "-LSB-", "Gorman", "2000", "-RSB-", ".", "In", "our", "work", "-LSB-", "Delcambre", "2001", "-RSB-", ",", "we", "have", "put", "forth", "the", "notion", "of", "superimposed", "information", "for", "use", "in", "such", "scenarios", ".", "The", "superimposed", "layer", "contains", "marks", ",", "which", "are", "encapsulated", "addresses", ",", "to", "the", "information", "elements", "of", "interest", "in", "the", "base", "layer", ".", "More", "than", "that", ",", "the", "superimposed", "layer", "may", "contain", "additional", "information", "-LRB-", "beyond", "marks", "-RRB-", "and", "may", "be", "structured", "according", "to", "an", "appropriate", "conceptual", "model", ".", "We", "are", "particularly", "interested", "in", "viewing", "and", "manipulating", "base", "information", "using", "tools", "appropriate", "for", "the", "information", "source", "-LRB-", "e.g.", ",", "Microsoft", "Word", "for", ".", "doc", "files", ",", "Adobe", "Acrobat", "for", ".", "PDF", "files", ",", "and", "an", "electronic", "medical", "record", "system", "for", "patient", "data", "-RRB-", ".", "We", "have", "built", "several", "superimposed", "applications", "that", "use", "conceptual", "models", "that", "are", "quite", "different", "from", "those", "of", "any", "of", "the", "underlying", "base", "information", "sources", ".", "In", "past", "work", "we", "have", "implemented", "superimposed", "applications", "and", "models", "that", "rely", "solely", "on", "the", "ability", "of", "a", "base", "application", "to", "create", "a", "mark", "and", "to", "return", "to", "the", "marked", "region", ".", "In", "this", "paper", ",", "we", "explore", "the", "use", "of", "excerpts", "and", "context", "for", "marks", "in", "superimposed", "applica-71", "tions", ".", "An", "excerpt", "consists", "of", "the", "extracted", "content", "for", "a", "mark", "and", "the", "context", "contains", "additional", "descriptive", "information", "-LRB-", "such", "as", "section", "heading", "and", "font", "characteristics", "-RRB-", "about", "the", "marked", "information", ".", "In", "Section", "2", "we", "present", "two", "superimposed", "applications", "that", "superimpose", "a", "new", "conceptual", "model", "over", "the", "base", "information", "-LRB-", "which", "is", "largely", "text", "documents", "-RRB-", ",", "and", "makes", "use", "of", "excerpt", "and", "mark", "capabilities", ".", "In", "Section", "3", "we", "describe", "the", "notion", "of", "excerpts", "and", "contexts", "in", "more", "detail", "and", "provide", "the", "rationale", "for", "using", "middleware", "to", "access", "them", ".", "The", "main", "contribution", "of", "this", "paper", "is", "our", "architecture", "for", "building", "superimposed", "applications", "called", "the", "Superimposed", "Pluggable", "Architecture", "for", "Contexts", "and", "Excerpts", "-LRB-", "SPARCE", "-RRB-", ",", "presented", "in", "Section", "4", ".", "This", "architecture", "makes", "it", "easy", "for", "a", "developer", "to", "build", "superimposed", "applications", ",", "including", "those", "that", "superimpose", "a", "conceptual", "model", "that", "is", "different", "from", "any", "of", "the", "base", "conceptual", "models", ".", "The", "paper", "concludes", "with", "a", "discussion", "of", "how", "to", "structure", "and", "access", "context", ",", "a", "summary", "of", "related", "work", ",", "and", "conclusions", "and", "plans", "for", "future", "work", ",", "in", "Sections", "5", ",", "6", ",", "and", "7", ",", "respectively", ".", "We", "present", "two", "superimposed", "applications", "built", "using", "SPARCE", "to", "demonstrate", "the", "ability", "to", "superimpose", "different", "conceptual", "models", ",", "over", "the", "same", "corpus", "of", "base", "information", ".", "These", "applications", "are", "designed", "for", "use", "in", "the", "Appeals", "Decision", "Process", "in", "the", "Forest", "Services", "of", "the", "US", "Department", "of", "Agriculture", "-LRB-", "USFS", "-RRB-", ".", "USFS", "routinely", "makes", "decisions", "to", "solve", "-LRB-", "or", "prevent", "-RRB-", "problems", "concerning", "forests", ".", "The", "public", "may", "appeal", "any", "USFS", "decision", "after", "it", "is", "announced", ".", "The", "appeal", "process", "begins", "with", "a", "set", "period", "of", "time", "during", "which", "an", "appellant", "can", "send", "in", "an", "appeal", "letter", "that", "raises", "one", "or", "more", "issue", "with", "a", "USFS", "decision", "or", "the", "decision-making", "process", ".", "A", "USFS", "editor", "processes", "all", "appeal", "letters", "pertaining", "to", "a", "decision", "and", "prepares", "an", "appeal", "packet", "for", "a", "reviewing", "officer", ".", "An", "appeal", "packet", "contains", "all", "documents", "a", "reviewing", "officer", "might", "need", "to", "consult", "while", "formulating", "a", "recommended", "decision", "about", "the", "complete", "set", "of", "issues", "raised", "in", "the", "appeals", ".", "This", "set", "of", "documents", "is", "called", "the", "Records", ",", "Information", ",", "and", "Documentation", "-LRB-", "RID", "-RRB-", "section", "of", "the", "appeal", "packet", ".", "This", "section", "contains", "a", "RID", "letter", "that", "lists", "the", "issues", "raised", "and", "a", "summary", "response", "for", "each", "issue", ".", "An", "Editor", "synthesizes", "a", "RID", "letter", "using", "documents", "in", "the", "RID", "such", "as", "the", "Decision", "Notice", ",", "the", "Environmental", "Assessment", ",", "the", "Finding", "of", "No", "Significant", "Impact", "-LRB-", "FONSI", "-RRB-", ",", "and", "specialists", "'", "reports", ".", "In", "the", "RID", "letter", ",", "the", "editor", "presents", "information", "from", "other", "documents", "in", "a", "variety", "of", "forms", "such", "as", "excerpts", ",", "summaries", ",", "and", "commentaries", ".", "In", "addition", ",", "the", "editor", "documents", "the", "location", "and", "identity", "of", "the", "information", "sources", "referenced", "in", "the", "RID", "letter", ".", "2.1", "RIDPad", "Composing", "a", "RID", "letter", "requires", "an", "editor", "to", "maintain", "a", "large", "working", "set", "of", "information", ".", "Since", "it", "is", "not", "unusual", "for", "an", "editor", "to", "be", "charged", "with", "preparing", "appeal", "packets", "for", "several", "decisions", "simultaneously", ",", "the", "editor", "may", "need", "to", "maintain", "several", "threads", "of", "organization", ".", "Though", "using", "documents", "in", "electronic", "form", "can", "be", "helpful", ",", "such", "use", "does", "not", "necessarily", "alleviate", "all", "problems", ".", "For", "example", ",", "the", "editor", "still", "needs", "to", "document", "the", "identity", "and", "location", "of", "information", ".", "In", "using", "electronic", "documents", ",", "the", "editor", "may", "have", "to", "cope", "with", "more", "than", "a", "dozen", "documents", "simultaneously", ".", "RIDPad", "is", "a", "superimposed", "application", "for", "the", "USFS", "appeal", "process", ".", "A", "USFS", "editor", "can", "use", "this", "application", "to", "collect", "and", "organize", "information", "needed", "to", "prepare", "a", "RID", "letter", ".", "A", "RIDPad", "instance", "is", "a", "collection", "of", "items", "and", "groups", ".", "An", "item", "is", "a", "superimposed", "information", "element", "associated", "with", "a", "mark", ".", "It", "has", "a", "name", "and", "a", "description", ".", "The", "name", "is", "user-defined", "and", "the", "description", "is", "the", "text", "excerpt", "from", "the", "associated", "mark", ".", "A", "group", "is", "a", "convenient", "collection", "of", "items", "and", "other", "groups", ".", "Figure", "2", "shows", "a", "RIDPad", "instance", "with", "information", "concerning", "the", "``", "Road", "18", "Caves", "''", "decision", "-LRB-", "made", "in", "the", "Pacific", "Northwest", "Region", "of", "USFS", "-RRB-", ".", "The", "instance", "shown", "has", "eight", "items", "-LRB-", "labeled", "Summary", ",", "Details", ",", "Comparison", "of", "Issues", ",", "Alternative", "A", ",", "Alternative", "B", ",", "Statement", ",", "Details", ",", "and", "FONSI", "-RRB-", "in", "four", "groups", "-LRB-", "labeled", "Environmental", "Assessment", ",", "Proposed", "Action", ",", "Other", "Alternatives", ",", "and", "Decision", "-RRB-", ".", "The", "group", "labeled", "``", "Environmental", "Assessment", "''", "contains", "two", "other", "groups", ".", "Figure", "1", ":", "-LRB-", "Hand-drawn", "-RRB-", "Information", "summary", "as", "prepared", "by", "a", "resident", "prior", "to", "conducting", "rounds", "in", "a", "hospital", "intensive", "care", "unit", "-LRB-", "used", "with", "permission", "-RRB-", "72", "The", "information", "in", "the", "instance", "shown", "comes", "from", "three", "distinct", "base", "documents", "in", "two", "different", "base", "applications", ".", "-LRB-", "The", "item", "labeled", "``", "Comparison", "of", "Issues", "''", "contains", "an", "MS", "Excel", "mark", ";", "all", "other", "items", "contain", "MS", "Word", "marks", ".", "-RRB-", "All", "items", "were", "created", "using", "base-layer", "support", "included", "in", "the", "current", "implementation", "of", "SPARCE", ".", "Figure", "2", ":", "A", "RIDPad", "Instance", "RIDPad", "affords", "many", "operations", "on", "items", "and", "groups", ".", "A", "user", "can", "create", "new", "items", "and", "groups", ",", "and", "move", "items", "between", "groups", ".", "The", "user", "can", "also", "rename", ",", "resize", ",", "and", "change", "visual", "characteristics", "such", "as", "colour", "and", "font", "for", "items", "and", "groups", ".", "With", "the", "mark", "associated", "with", "an", "item", ",", "the", "user", "can", "navigate", "to", "the", "base", "layer", "if", "necessary", ",", "or", "browse", "the", "mark", "'s", "context", "from", "within", "RIDPad", "via", "the", "Context", "Browser", "-LRB-", "as", "shown", "in", "Figure", "3", "-RRB-", ".", "Briefly", ",", "the", "Context", "Browser", "is", "a", "superimposed", "application", "window", "with", "information", "related", "to", "a", "mark", ".", "Figure", "3", "shows", "the", "Context", "Browser", "for", "the", "item", "labelled", "``", "FONSI", "''", ".", "From", "the", "context", "elements", "listed", "on", "the", "left", "we", "see", "that", "this", "item", "has", "both", "content", "and", "presentation", "kinds", "of", "context", "elements", ".", "The", "browser", "displays", "the", "value", "of", "the", "selected", "context", "element", "to", "the", "right", ".", "The", "formatted", "text", "content", "is", "currently", "selected", "and", "displayed", "in", "the", "browser", ".", "Figure", "3", ":", "Context", "of", "a", "RIDPad", "Item", "RIDPad", "superimposes", "a", "simple", "conceptual", "model", "over", "the", "selected", "base", "information", "with", "Group", "and", "Item", "as", "the", "only", "model", "constructors", ".", "A", "group", "contains", "a", "name", ",", "size", ",", "location", ",", "and", "an", "ID", ".", "An", "item", "contains", "a", "name", ",", "description", ",", "size", ",", "location", ",", "and", "an", "ID", ".", "Items", "can", "occur", "within", "a", "Group", "and", "Groups", "can", "be", "nested", "within", "a", "Group", ".", "Figure", "4", "shows", "the", "model", "as", "a", "UML", "Class", "Diagram", ".", "The", "class", "RIDPadDoc", "represents", "the", "RIDPad", "instance", "which", "includes", "information", "that", "will", "likely", "be", "used", "to", "prepare", "the", "RIDPad", "document", ".", "Figure", "4", ":", "RIDPad", "Information", "Model", "-LRB-", "Simplified", "-RRB-", "2.2", "Schematics", "Browser", "Appeal", "letters", "from", "different", "appellants", "in", "the", "USFS", "appeal", "process", "tend", "to", "share", "features", ".", "They", "all", "contain", "appellant", "names", "and", "addresses", ",", "refer", "to", "a", "Decision", "Notice", ",", "and", "raise", "issues", ".", "Such", "similarities", "suggest", "a", "schema", "for", "appeal", "letters", ".", "A", "superimposed", "schematic", "is", "an", "E-R", "schema", "superimposed", "over", "base", "information", "-LSB-", "Bowers", "2002", "-RSB-", ".", "The", "Schematics", "Browser", "-LRB-", "see", "Figure", "5", "-RRB-", "is", "a", "superimposed", "application", "that", "demonstrates", "the", "use", "of", "superimposed", "schematics", ".", "It", "is", "meant", "to", "allow", "USFS", "personnel", "to", "consider", "a", "set", "of", "appeal", "decisions", "to", "look", "for", "important", "issues", "or", "trends", ".", "The", "Schematics", "Browser", "might", "be", "used", "to", "support", "strategic", "planning", "activities", ".", "Figure", "5", ":", "Schematics", "Browser", "Name", "RIDPadDoc", "ID", "Name", "Size", "Location", "Group", "ID", "Name", "Description", "Size", "Location", "Item", "Belongs", "to", "0", ".", ".1", "*", "0", ".", ".1", "*", "0", ".", ".1", "Contains", "*", "0", ".", ".1", "*", "ID", "Address", "Mark", "73", "Figure", "5", "shows", "an", "instance", "of", "a", "USFS", "appeal", "decision", "schematic", "opened", "in", "the", "Schematics", "Browser", ".", "The", "upper", "left", "frame", "lists", "instances", "of", "the", "appeal", "decision", "schematic", ".", "The", "user", "can", "select", "one", "of", "these", "instances", ",", "and", "then", "use", "the", "large", "middle", "frame", "to", "browse", "through", "information", "associated", "with", "the", "decision", ".", "The", "``", "1997", "Ranch", "House", "Timber", "Sale", "''", "appeal", "decision", "is", "selected", "in", "Figure", "5", ".", "This", "schematic", "allows", "the", "user", "to", "easily", "browse", "from", "a", "particular", "issue", "to", "the", "appeal", "letter", "-LRB-", "s", "-RRB-", "where", "the", "issue", "was", "raised", "to", "the", "appellant", "who", "raised", "the", "issue", ",", "for", "example", ".", "Marks", "into", "any", "number", "of", "base", "sources", "can", "be", "associated", "with", "entities", ",", "relationships", ",", "and", "attributes", "-LRB-", "but", "only", "one", "mark", "per", "entity", "and", "attribute", "-RRB-", ".", "When", "an", "entity", ",", "relationship", ",", "or", "an", "attribute", "has", "an", "associated", "mark", ",", "a", "user", "can", "either", "visit", "the", "base", "layer", "or", "choose", "to", "view", "the", "excerpt", "from", "within", "the", "browser", ".", "Figure", "6", "shows", "a", "simplified", "version", "of", "the", "information", "model", "the", "Schematics", "Browser", "uses", "in", "superimposing", "the", "E-R", "model", "over", "base", "information", ".", "The", "browser", "stores", "all", "superimposed", "information", "in", "a", "relational", "database", ".", "This", "structure", "is", "a", "simple", "generic", "model", "that", "accommodates", "arbitrary", "Entity-Relationship", "style", "schematics", ".", "Name", "Schematic", "ID", "Name", "Description", "Entity", "ID", "Name", "Value", "Attribute", "1", "1", ".", ".", "*", "1", "*", "1", "*", "ID", "Address", "Mark", "ID", "Name", "SchematicInst", "ID", "Address", "Mark", "Figure", "6", ":", "Schematics", "Browser", "'s", "Information", "Model", "Figure", "7", "uses", "the", "Schematic", "Browser", "'s", "meta", "model", "to", "show", "a", "partial", "superimposed", "schematic", "instance", ".", "It", "shows", "an", "instance", "of", "the", "``", "1997", "Ranch", "House", "Timber", "Sale", "''", "appeal", "decision", "schematic", "-LRB-", "also", "shown", "in", "Figure", "5", "-RRB-", "and", "an", "Issue", "entity", ".", "It", "also", "shows", "the", "two", "attribute", "instances", ",", "desc", "and", "number", ",", "of", "the", "Issue", "entity", ".", "The", "desc", "attribute", "is", "associated", "with", "a", "mark", "instance", "-LRB-", "ID", "41", "-RRB-", ".", "In", "this", "simple", "implementation", ",", "the", "schematic", "instance", "data", "has", "its", "corresponding", "type", "information", "stored", "in", "the", "Name", "field", ".", "2.3", "Impact", "of", "Superimposed", "Information", "on", "Conceptual", "Model", "-LRB-", "s", "-RRB-", "Superimposed", "information", "introduces", "one", "significant", "modeling", "construct", "the", "mark", ".", "The", "mark", "spans", "between", "information", "at", "the", "superimposed", "layer", "and", "information", "in", "the", "various", "base", "layer", "sources", ".", "The", "mark", "thus", "serves", "as", "a", "bridge", "between", "the", "conceptual", "model", "used", "in", "the", "superimposed", "layer", "and", "the", "conceptual", "model", "used", "in", "a", "base", "information", "source", ".", "Name", "=", "Appeal", "Decision", ":", "Schematic", "ID", "=", "2", "Name", "=", "1997", "Ranch", "House", "Timber", "Sale", ":", "SchematicInst", "ID", "=", "1", "Name", "=", "Issue", "Description", "=", "Failed", "to", "meet", "Treaty", "and", "trust", "obligations", ":", "Entity", "ID", "=", "1", "Name", "=", "desc", "Value", "=", "The", "Forest", "Service", "i.", ".", ".", ":", "Attribute", "ID", "=", "2", "Name", "=", "number", "Value", "=", "1", ":", "Attribute", "ID", "=", "41", "Address", "=", "Win1997.pdf", "|", "1", "|", "79", "|", "115", ":", "Mark", "Figure", "7", ":", "Partial", "Superimposed", "Schematic", "Instance", "In", "the", "RIDPad", "application", ",", "the", "superimposed", "model", "consists", "of", "groups", "and", "items", ",", "where", "groups", "can", "be", "nested", ".", "This", "model", "is", "somewhat", "like", "a", "simplified", "XML", "model", "where", "groups", "are", "analogous", "to", "elements", ".", "But", "one", "important", "difference", "is", "that", "items", "contain", "marks", ",", "as", "opposed", "to", "PCDATA", "or", "other", "content", ".", "In", "a", "similar", "manner", ",", "the", "Schematics", "Browser", "uses", "a", "superimposed", "model", "that", "is", "similar", "to", "an", "entity-relationship", "model", ",", "but", "marks", "may", "appear", "as", "attribute", "values", ".", "In", "addition", ",", "each", "entity", "and", "relationship", "instance", "may", "be", "anchored", ",", "i.e.", ",", "may", "be", "in", "one-to-one", "correspondence", "with", "a", "mark", ".", "Any", "superimposed", "application", ",", "by", "definition", ",", "includes", "marks", "in", "the", "superimposed", "layer", ".", "Thus", ",", "the", "conceptual", "model", "used", "in", "the", "superimposed", "layer", "must", ",", "necessarily", ",", "be", "extended", "to", "include", "marks", "in", "some", "manner", ".", "The", "use", "of", "marks", "has", "no", "impact", "on", "the", "conceptual", "model", "of", "the", "base", "layer", ".", "In", "fact", ",", "the", "use", "of", "marks", ",", "in", "general", ",", "requires", "no", "change", "to", "the", "base", "information", "or", "the", "base", "application", ".", "Marks", "encapsulate", "an", "address", "to", "an", "information", "element", "in", "the", "base", "source", ".", "Thus", ",", "the", "use", "of", "marks", "requires", "an", "addressing", "scheme", "for", "each", "base", "source", "that", "participates", "in", "a", "superimposed", "application", ".", "The", "addressing", "scheme", "may", "exploit", "the", "data", "model", "of", "the", "base", "information", "source", ".", "As", "an", "example", ",", "we", "could", "use", "XPath", "expressions", "to", "address", "information", "elements", "in", "an", "XML", "document", ".", "It", "is", "also", "possible", "to", "use", "addressing", "schemes", "that", "are", "independent", "of", "the", "data", "model", "used", "in", "the", "base", "information", "source", ".", "For", "example", ",", "a", "MS", "Word", "document", "could", "be", "converted", "to", "a", "PDF", "document", "and", "a", "user", "could", "create", "a", "mark", "using", "a", "bounding", "box", "where", "the", "interior", "of", "the", "box", "contains", "parts", "of", "individual", "characters", ".", "Regardless", "of", "the", "addressing", "scheme", "used", "in", "a", "mark", ",", "the", "superimposed", "layer", "is", "shielded", "from", "the", "details", "of", "the", "addressing", "scheme", "as", "well", "as", "the", "details", "of", "the", "conceptual", "model", "used", "in", "the", "base", "information", "source", ".", "Superimposed", "applications", "may", "want", "to", "incorporate", "contents", "of", "base-layer", "elements", "in", "the", "superimposed", "layer", ".", "For", "example", ",", "an", "application", "might", "use", "the", "extracted", "base-layer", "content", "as", "the", "label", "of", "a", "superimposed", "element", ".", "We", "call", "the", "contents", "of", "a", "base-layer", "element", "an", "excerpt", ".", "An", "excerpt", "can", "be", "of", "various", "types", ".", "For", "example", "it", "may", "be", "plain", "text", ",", "formatted", "text", ",", "or", "an", "image", ".", "An", "excerpt", "of", "one", "74", "type", "could", "also", "be", "transformed", "into", "other", "types", ".", "For", "example", ",", "formatted", "text", "in", "a", "word", "processor", "could", "also", "be", "seen", "as", "plain", "text", ",", "or", "as", "a", "graphical", "image", ".", "In", "addition", "to", "excerpts", ",", "applications", "may", "use", "other", "information", "related", "to", "base-layer", "elements", ".", "For", "example", ",", "an", "application", "may", "group", "superimposed", "information", "by", "the", "section", "in", "which", "the", "base-layer", "elements", "reside", ".", "To", "do", "so", ",", "the", "application", "needs", "to", "retrieve", "the", "section", "heading", "-LRB-", "assuming", "one", "exists", "-RRB-", "of", "each", "base-layer", "element", ".", "We", "call", "information", "concerning", "a", "base-layer", "element", ",", "retrieved", "from", "the", "base", "layer", ",", "its", "context", ".", "Presentation", "information", "such", "as", "font", "name", "and", "location", "information", "such", "as", "line", "number", "might", "be", "included", "in", "the", "context", "of", "a", "mark", ".", "The", "context", "of", "a", "base-layer", "element", "may", "contain", "more", "than", "one", "piece", "of", "information", "related", "to", "the", "base-layer", "element", ".", "Each", "such", "piece", "of", "information", "is", "a", "context", "element", "-LRB-", "and", "context", "is", "a", "collection", "of", "context", "elements", "-RRB-", ".", "Figure", "8", ":", "A", "Base-Layer", "Selection", "Figure", "8", "shows", "a", "fragment", "of", "an", "HTML", "page", "as", "displayed", "by", "a", "web", "browser", ".", "The", "highlighted", "region", "of", "the", "fragment", "is", "the", "marked", "region", ".", "Table", "1", "shows", "an", "excerpt", "and", "a", "few", "context", "elements", "of", "this", "marked", "region", ".", "The", "column", "on", "the", "left", "lists", "names", "of", "context", "elements", "whereas", "the", "column", "on", "the", "right", "shows", "values", "of", "those", "context", "elements", ".", "Name", "Value", "Excerpt", "Cheatgrass", ",", "Bromus", "tectorum", ",", "grows", "near", "many", "caves", "in", "this", "project", "area", ".", "HTML", "Cheatgrass", ",", "<", "i", ">", "Bromus", "tectorum", "<", "/", "i", ">", ",", "grows", "near", "many", "caves", "in", "this", "project", "area", ".", "Font", "name", "-LRB-", "Inherited", "-RRB-", "Times", "New", "Roman", "Font", "size", "-LRB-", "Inherited", "-RRB-", "12", "Table", "1", ":", "Sample", "Context", "Elements", "of", "an", "HTML", "Mark", "Note", "that", "superimposed", "applications", "may", "access", "context", "information", "that", "a", "user", "might", "not", "explicitly", "access", "-LRB-", "or", "even", "be", "aware", "of", "-RRB-", ".", "For", "example", ",", "consider", "the", "marked", "region", "shown", "in", "Figure", "8", ".", "The", "HTML", "markup", "for", "this", "region", "-LRB-", "shown", "in", "Table", "1", "-RRB-", "does", "not", "contain", "font", "information", ".", "If", "a", "superimposed", "application", "needs", "to", "display", "the", "mark", "'s", "excerpt", "exactly", "as", "it", "is", "in", "the", "base", "layer", ",", "the", "application", "needs", "to", "examine", "the", "markup", "of", "the", "enclosing", "element", ",", "possibly", "traversing", "to", "the", "beginning", "of", "the", "document", "-LRB-", "because", "font", "characteristics", "can", "be", "inherited", "in", "HTML", "-RRB-", ".", "The", "superimposed", "application", "may", "also", "need", "to", "examine", "the", "configuration", "of", "the", "Web", "browser", "to", "retrieve", "some", "or", "all", "of", "the", "format", "specification", ".", "Several", "kinds", "of", "context", "are", "possible", "for", "a", "mark", ".", "The", "following", "is", "a", "representative", "list", "of", "context", "kinds", "along", "with", "example", "context", "elements", "for", "each", "kind", ".", "Content", ":", "Text", ",", "graphics", ".", "Presentation", ":", "Font", "name", ",", "color", ".", "Placement", ":", "Line", "number", ",", "section", ".", "Sub-structure", ":", "Rows", ",", "sentences", ".", "Topology", ":", "Next", "sentence", ",", "next", "paragraph", ".", "Container", ":", "Containing", "paragraph", ",", "document", ".", "Application", ":", "Options", ",", "preferences", ".", "Contexts", "can", "vary", "across", "base-layer", "types", ".", "For", "example", ",", "the", "context", "of", "a", "mark", "to", "a", "region", "in", "a", "graphics-format", "base", "layer", "might", "include", "background", "colour", "and", "foreground", "colour", ",", "but", "not", "font", "name", ".", "However", ",", "the", "context", "of", "a", "mark", "to", "a", "selection", "in", "a", "web", "page", "might", "include", "all", "three", "elements", ".", "Contexts", "can", "also", "vary", "between", "marks", "of", "the", "same", "base-layer", "type", ".", "For", "example", ",", "an", "MS", "Word", "mark", "to", "text", "situated", "inside", "a", "table", "may", "have", "a", "``", "column", "heading", "''", "context", "element", ",", "but", "a", "mark", "to", "text", "not", "situated", "in", "a", "table", "does", "not", "include", "that", "context", "element", ".", "Lastly", ",", "the", "context", "of", "a", "mark", "itself", "may", "change", "with", "time", ".", "For", "example", ",", "the", "context", "of", "a", "mark", "to", "a", "figure", "inside", "a", "document", "includes", "a", "``", "caption", "''", "context", "element", "only", "as", "long", "as", "a", "caption", "is", "attached", "to", "that", "figure", ".", "Supporting", "excerpts", "and", "contexts", "for", "marks", "are", "a", "natural", "extension", "of", "our", "original", "notion", "of", "mark", "as", "an", "encapsulated", "address", ".", "Because", "we", "use", "the", "same", "mechanism", "to", "support", "both", "contexts", "and", "excerpts", ",", "we", "will", "often", "use", "the", "term", "``", "context", "''", "broadly", "to", "refer", "to", "both", "kinds", "of", "information", "about", "a", "base-layer", "element", ".", "Accessing", "information", "inside", "diverse", "base-layer", "types", "requires", "superimposed", "applications", "to", "work", "with", "a", "variety", "of", "base", "information", "models", ",", "addressing", "mechanisms", ",", "and", "access", "protocols", ".", "In", "addition", ",", "base", "applications", "may", "have", "different", "capabilities", ".", "For", "example", ",", "base", "applications", "may", "vary", "in", "their", "support", "for", "navigation", "or", "querying", ",", "but", "users", "of", "superimposed", "applications", "may", "want", "to", "navigate", "through", "selected", "base", "information", "elements", "seamlessly", "and", "uniformly", ",", "e.g.", ",", "using", "the", "Schematics", "Browser", ".", "We", "use", "middleware", "to", "ease", "communication", "between", "the", "two", "layers", "and", "make", "up", "for", "deficiencies", "of", "base", "applications", ".", "And", "we", "want", "the", "middleware", "to", "allow", "independent", "evolution", "of", "components", "in", "these", "layers", ".", "By", "providing", "a", "uniform", "interface", "to", "base", "information", "and", "its", "context", ",", "the", "middleware", "reduces", "the", "complexity", "of", "superimposed", "applications", "and", "allows", "superimposed", "application", "developers", "to", "focus", "on", "the", "needs", "of", "their", "applications", "such", "as", "the", "intricacies", "of", "the", "conceptual", "model", "they", "aim", "to", "superimpose", ".", "The", "Superimposed", "Pluggable", "Architecture", "for", "Contexts", "and", "Excerpts", "-LRB-", "SPARCE", "-RRB-", "is", "a", "middleware", "for", "mark", "and", "context", "management", "-LSB-", "Murthy", "2003", "-RSB-", ".", "It", "is", "designed", "to", "be", "extensible", "in", "terms", "of", "supporting", "new", "base-layer", "types", "75", "and", "contexts", ",", "without", "adversely", "affecting", "existing", "superimposed", "applications", ".", "Figure", "9", ":", "SPARCE", "Reference", "Model", "Figure", "9", "shows", "a", "reference", "model", "for", "SPARCE", ".", "The", "Mark", "Management", "module", "implements", "operations", "such", "as", "mark", "creation", ".", "It", "also", "maintains", "a", "repository", "of", "marks", ".", "The", "Context", "Management", "module", "is", "responsible", "for", "retrieving", "context", "of", "base", "information", ".", "This", "module", "depends", "on", "the", "Mark", "Management", "module", "to", "locate", "information", "inside", "base", "layers", ".", "The", "Clipboard", "module", "is", "modelled", "after", "the", "Clipboard", "object", "in", "operating", "systems", "such", "as", "Macintosh", "and", "MS", "Windows", ".", "The", "Superimposed", "Information", "Management", "module", "provides", "storage", "service", "to", "superimposed", "applications", ".", "We", "have", "developed", "a", "generic", "representation", "for", "information", ",", "called", "the", "Uni-Level", "Description", "-LSB-", "Bowers", "2003", "-RSB-", ",", "that", "can", "represent", "information", "-LRB-", "including", "superimposed", "information", "-RRB-", "structured", "according", "to", "various", "data", "models", "or", "representation", "schemes", ",", "such", "as", "XML", ",", "RDF", "or", "database", "models", ",", "in", "a", "uniform", "way", ".", "In", "this", "architecture", ",", "superimposed", "applications", "can", "choose", "whether", "they", "use", "this", "module", "for", "storage", ",", "or", "another", "storage", "manager", ".", "4.1", "Key", "Abstractions", "Table", "2", "provides", "a", "brief", "description", "of", "the", "classes", "and", "interfaces", "SPARCE", "uses", "for", "mark", "and", "context", "management", ".", "SPARCE", "supports", "context", "for", "three", "classes", "of", "objects", ":", "marks", ",", "containers", ",", "and", "applications", "-LRB-", "using", "the", "classes", "Mark", ",", "Container", ",", "and", "Application", "respectively", "-RRB-", ".", "A", "Container", "is", "an", "abstraction", "for", "a", "base", "document", "-LRB-", "or", "a", "portion", "of", "that", "document", "-RRB-", ".", "An", "Application", "is", "an", "abstraction", "for", "a", "base", "application", ".", "SPARCE", "also", "defines", "the", "interface", "Context-Aware", "Object", "to", "any", "base-layer", "element", "that", "supports", "context", ".", "The", "classes", "Mark", ",", "Container", ",", "and", "Application", "implement", "this", "interface", ".", "Superimposed", "applications", "use", "the", "class", "SPARCE", "Manager", "to", "create", "new", "marks", "and", "to", "retrieve", "existing", "marks", ".", "The", "SPARCE", "Manager", "maintains", "a", "repository", "of", "marks", ".", "SPARCE", "treats", "context", "as", "a", "property", "set", "-LRB-", "a", "collection", "of", "name-value", "pairs", "-RRB-", ".", "Context", "is", "the", "entire", "set", "of", "properties", "of", "a", "base-layer", "element", "and", "a", "context", "element", "is", "any", "one", "property", ".", "For", "example", ",", "the", "text", "excerpt", "and", "font", "name", "of", "a", "mark", "are", "context", "elements", ".", "Modelling", "context", "as", "a", "property", "set", "makes", "it", "possible", "to", "support", "a", "variety", "of", "contexts", ",", "both", "across", "and", "within", "base", "layers", ",", "without", "affecting", "existing", "superimposed", "applications", ".", "This", "model", "also", "provides", "a", "uniform", "interface", "to", "context", "of", "any", "base-layer", "element", ",", "for", "any", "base-layer", "type", ".", "SPARCE", "uses", "the", "interface", "Context", "Agent", "to", "achieve", "its", "extensibility", "goal", ".", "A", "class", "that", "implements", "this", "interface", "takes", "a", "context-aware", "object", "and", "returns", "its", "context", ".", "That", "is", ",", "SPARCE", "does", "not", "access", "base-layer", "elements", "or", "their", "contexts", "directly", ".", "It", "uses", "external", "agents", "to", "do", "so", "on", "its", "behalf", ".", "However", ",", "SPARCE", "is", "responsible", "for", "associating", "a", "context-aware", "object", "with", "an", "appropriate", "context", "agent", ".", "The", "SPARCE", "Manager", "obtains", "the", "name", "of", "the", "class", "that", "will", "be", "the", "context", "agent", "for", "a", "mark", "from", "the", "description", "of", "the", "marks", ".", "The", "SPARCE", "Manager", "instantiates", "the", "context", "agent", "class", "by", "name", "whenever", "a", "superimposed", "application", "accesses", "the", "context", "of", "a", "context-aware", "object", ".", "Typically", ",", "there", "is", "one", "implementation", "of", "the", "context", "agent", "interface", "per", "base-layer", "type", ".", "For", "example", ",", "a", "PDF", "Agent", "is", "an", "implementation", "of", "this", "interface", "for", "use", "with", "PDF", "documents", ".", "A", "context", "agent", "implementation", "determines", "the", "constitution", "of", "context", "for", "its", "context-aware", "objects", ".", "SPARCE", "does", "not", "require", "an", "implementation", "to", "support", "particular", "context", "elements", "-LRB-", "nor", "does", "it", "prevent", "an", "implementation", "from", "defining", "any", "context", "element", "-RRB-", ".", "However", ",", "we", "expect", "implementations", "to", "support", "kinds", "of", "context", "elements", "commonly", "expected", "-LRB-", "such", "as", "those", "listed", "in", "Section", "3", "-RRB-", ",", "and", "use", "meaningful", "names", "for", "context", "kinds", "and", "elements", ".", "Class/Interface", "Description", "Mark", "A", "mark", "to", "base-layer", "information", ".", "Container", "The", "base", "document", "-LRB-", "or", "a", "portion", "of", "it", "-RRB-", "in", "which", "a", "mark", "is", "made", ".", "Application", "The", "base", "application", "in", "which", "a", "mark", "is", "made", ".", "Context-Aware", "Object", "-LRB-", "interface", "-RRB-", "Interface", "to", "any", "base-layer", "element", "able", "to", "provide", "context", ".", "Classes", "Mark", ",", "Container", ",", "and", "Application", "implement", "this", "interface", ".", "Context", "Context", "of", "a", "context-aware", "object", ".", "It", "is", "a", "collection", "of", "context", "elements", ".", "Context", "Element", "A", "single", "piece", "of", "context", "information", "about", "a", "context-aware", "object", ".", "Context", "Agent", "-LRB-", "interface", "-RRB-", "Interface", "to", "any", "base-layer", ".", "An", "implementation", "will", "retrieve", "context", "from", "a", "context-aware", "object", ".", "SPARCE", "Manager", "Creates", ",", "stores", ",", "and", "retrieves", "marks", ";", "associates", "context-aware", "objects", "with", "appropriate", "context", "agents", ".", "Table", "2", ":", "SPARCE", "Classes", "and", "Interfaces", "4.2", "Creating", "Marks", "A", "user", "initiates", "mark", "creation", "after", "selecting", "some", "information", "in", "a", "base", "application", ".", "The", "mark", "creation", "process", "consists", "of", "two", "steps", ":", "-LRB-", "1", "-RRB-", "generating", "the", "address", "of", "the", "selected", "base", "information", ",", "perhaps", "with", "other", "auxiliary", "information", "-LRB-", "collectively", "called", "mark", "fodder", "-RRB-", "and", "-LRB-", "2", "-RRB-", "creating", "a", "mark", "object", "in", "the", "mark", "repository", ".", "The", "address", "contained", "in", "mark", "fodder", "uses", "the", "addressing", "mechanism", "appropriate", "for", "the", "base", "information", "source", ".", "For", "example", ",", "the", "address", "to", "information", "inside", "a", "PDF", "document", "contains", "the", "page", "number", "and", "the", "starting", "and", "ending", "word", "indexes", ";", "the", "address", "to", "a", "selection", "in", "a", "spreadsheet", "contains", "the", "row", "and", "column", "numbers", "for", "the", "first", "and", "last", "cell", "in", "the", "selection", ".", "-LRB-", "Other", "addressing", "schemes", "are", "possible", "for", "these", "base", "types", ".", "-RRB-", "Superimposed", "Application", "Superimposed", "Information", "Management", "Mark", "Management", "Context", "Management", "Clipboard", "Base", "Application", "76", "Figure", "10", "depicts", "two", "possible", "mark-creation", "scenarios", "as", "a", "UML", "Use", "Case", "Diagram", ".", "-LRB-", "The", "boxes", "in", "this", "figure", "denote", "system", "boundaries", ";", "the", "broken", "arrows", "denote", "object", "flows", ".", "-RRB-", "In", "both", "scenarios", ",", "a", "user", "starts", "mark", "creation", "in", "a", "base", "application", "and", "completes", "it", "in", "a", "superimposed", "application", ".", "In", "the", "first", "scenario", ",", "labelled", "``", "Copy", "''", ",", "the", "user", "is", "able", "to", "use", "the", "normal", "copy", "operation", ",", "e.g.", ",", "of", "a", "word", "processor", ",", "to", "create", "the", "mark", "fodder", ".", "In", "the", "``", "Mark", "''", "use", "case", ",", "the", "user", "invokes", "a", "newly", "introduced", "function", "-LRB-", "such", "as", "the", "Mark", "menu", "item", "shown", "in", "Figure", "8", "-RRB-", ".", "The", "superimposed", "application", "retrieves", "the", "mark", "fodder", "from", "the", "Clipboard", ",", "and", "passes", "it", "to", "the", "SPARCE", "Manager", ".", "The", "SPARCE", "Manager", "creates", "a", "mark", "object", "-LRB-", "from", "the", "fodder", "-RRB-", ",", "assigns", "it", "a", "unique", "ID", ",", "stores", "it", "in", "the", "mark", "repository", ",", "and", "returns", "the", "new", "object", "to", "the", "superimposed", "application", ".", "Copy", "User", "Mark", "Base", "Application", "Clipboard", "Operating", "System", "Complete", "Superimposed", "Application", "Figure", "10", ":", "Two", "Mark-creation", "Scenarios", "The", "first", "scenario", "allows", "a", "user", "to", "select", "base", "information", "in", "a", "preferred", "base", "application", "and", "copy", "it", "to", "the", "Clipboard", "without", "having", "to", "learn", "any", "new", "application", ",", "tool", ",", "or", "process", "to", "create", "marks", ".", "However", ",", "supporting", "this", "scenario", "requires", "cooperative", "base", "applications", "such", "as", "Microsoft", "Word", "and", "Excel", ".", "Some", "base", "applications", "do", "not", "directly", "support", "Clipboard", "operations", ",", "but", "they", "provide", "mechanisms", "-LRB-", "such", "as", "plug-ins", "or", "add-ins", "-RRB-", "to", "extend", "their", "environments", ".", "A", "special", "mark", "creation", "tool", "or", "menu", "option", "can", "be", "inserted", "in", "to", "the", "user", "interface", "of", "such", "applications", ".", "The", "Mark", "use", "case", "in", "Figure", "10", "demonstrates", "this", "scenario", ".", "Early", "versions", "of", "Adobe", "Acrobat", "and", "Netscape", "Navigator", "are", "examples", "of", "base", "applications", "in", "this", "category", ".", "Figure", "11", "shows", "the", "internal", "representation", "of", "a", "mark", ".", "This", "mark", "corresponds", "to", "the", "selection", "in", "the", "HTML", "page", "shown", "in", "Figure", "8", ".", "Superimposed", "applications", "do", "not", "have", "visibility", "of", "a", "mark", "'s", "internal", "representation", ".", "They", "simply", "use", "the", "mark", "'s", "interface", "to", "access", "its", "details", ".", "4.3", "Accessing", "Marks", "and", "Context", "A", "superimposed", "application", "sends", "a", "mark", "ID", "to", "the", "SPARCE", "Manager", "to", "retrieve", "the", "corresponding", "mark", "object", "from", "the", "marks", "repository", ".", "The", "SPARCE", "Manager", "instantiates", "an", "implementation", "of", "the", "context", "agent", "interface", "that", "is", "appropriate", "for", "the", "mark", ".", "The", "superimposed", "application", "can", "work", "with", "the", "mark", "object", "directly", "-LRB-", "for", "example", ",", "to", "navigate", "to", "the", "base", "layer", "-RRB-", "or", "can", "interact", "with", "the", "mark", "'s", "context", "agent", "object", "-LRB-", "for", "example", ",", "to", "retrieve", "mark", "context", "-RRB-", ".", "With", "a", "context", "object", "in", "hand", ",", "a", "superimposed", "application", "can", "find", "out", "what", "context", "elements", "are", "available", ".", "It", "can", "also", "retrieve", "values", "for", "context", "elements", "of", "interest", ".", "The", "superimposed", "application", "may", "use", "a", "context-element", "'s", "value", "in", "various", "ways", ".", "For", "example", ",", "it", "may", "use", "the", "text", "content", "of", "the", "mark", "as", "a", "label", ",", "or", "it", "may", "apply", "the", "font", "characteristics", "of", "the", "marked", "region", "to", "some", "superimposed", "information", ".", "<", "Mark", "ID", "=", "``", "HTML2003Apr22065837YZXsmurthy", "''", ">", "<", "Agent", ">", "HTMLAgents.IEAgent", "<", "/", "Agent", ">", "<", "Class", ">", "HTMLMark", "<", "/", "Class", ">", "<", "Address", ">", "4398", "|", "4423", "<", "/", "Address", ">", "<", "Description", "/", ">", "Noxius", "Weeds", "in", "ea1.html", "<", "/", "Description", ">", "<", "Excerpt", ">", "Cheatgrass", ",", "Bromus", "tectorum", ",", "grows", "near", "many", "caves", "in", "this", "project", "area", ".", "<", "/", "Excerpt", ">", "<", "Who", ">", "smurthy", "<", "/", "Who", ">", "<", "Where", ">", "YZX", "<", "/", "Where", ">", "<", "When", ">", "2003-04-22", "06:58:37", "<", "/", "When", ">", "<", "ContainerID", ">", "cdocsea1html", "<", "/", "ContainerID", ">", "<", "/", "Mark", ">", "Figure", "11", ":", "Internal", "Representation", "of", "a", "Mark", "For", "ease", "of", "use", ",", "our", "design", "also", "allows", "the", "application", "to", "retrieve", "the", "value", "of", "a", "context", "element", "from", "the", "context-aware", "object", "or", "even", "from", "the", "context-agent", "object", ".", "An", "application", "developer", "may", "choose", "the", "access", "path", "that", "is", "most", "convenient", "to", "his", "or", "her", "particular", "situation", ".", "4.4", "Implementation", "We", "have", "implemented", "SPARCE", "for", "Microsoft-Windows", "operating", "systems", "using", "ActiveX", "technology", "-LSB-", "COM", "-RSB-", ".", "The", "current", "implementation", "includes", "support", "for", "the", "following", "base", "applications", ":", "MS", "Word", ",", "MS", "Excel", ",", "Adobe", "Acrobat", "-LRB-", "PDF", "files", "-RRB-", ",", "and", "MS", "Windows", "Media", "Player", "-LRB-", "a", "variety", "of", "audio/video", "file", "types", "-RRB-", ".", "The", "agents", "for", "these", "base", "applications", "support", "the", "following", "kinds", "of", "context", ":", "content", ",", "presentation", ",", "containment", ",", "placement", ",", "sub-structure", ",", "topology", ",", "document", ",", "and", "application", ".", "-LRB-", "Some", "possible", "context", "elements", "of", "these", "kinds", "are", "listed", "in", "Section", "3", ".", "-RRB-", "We", "have", "implemented", "reusable", "view", "facilities", "such", "as", "the", "Context", "Browser", "to", "display", "the", "complete", "context", "of", "a", "context-aware", "object", ",", "and", "tabbed", "property", "pages", "to", "display", "properties", "of", "context-aware", "objects", ".", "We", "have", "also", "implemented", "a", "few", "testing", "aids", ".", "For", "example", ",", "we", "have", "implemented", "a", "generic", "context", "agent", "with", "limited", "functionality", "-LRB-", "that", "can", "be", "used", "with", "any", "base-layer", "type", "-RRB-", "to", "test", "integration", "with", "new", "base-layer", "types", ".", "The", "Context", "Browser", "is", "also", "a", "good", "testing", "tool", "when", "support", "for", "a", "new", "a", "base", "type", "is", "added", "or", "when", "definition", "of", "context", "is", "altered", "for", "a", "base", "type", ".", "4.5", "Extensibility", "Supporting", "new", "context", "elements", "is", "straightforward", "in", "SPARCE", ":", "The", "new", "context", "element", "name", "is", "just", "added", "to", "the", "property", "set", ".", "Superimposed", "applications", "may", "ignore", "the", "new", "context", "elements", "if", "they", "are", "not", "capable", "of", "handling", "them", ".", "Supporting", "new", "base-layer", "types", "is", "more", "involved", ".", "It", "requires", "a", "developer", "to", "understand", "the", "base", "layer", "and", "its", "addressing", "mechanisms", ".", "The", "developer", "must", "implement", "the", "context", "agent", "interface", "for", "the", "base-layer", "type", ".", "And", "the", "developer", "must", "implement", "a", "means", "to", "allow", "users", "to", "77", "select", "regions", "within", "this", "type", "of", "base", "information", "and", "copy", "mark", "fodder", "to", "the", "Clipboard", ".", "As", "we", "mention", "in", "Section", "4.2", ",", "the", "developer", "might", "be", "able", "to", "exploit", "extensibility", "mechanisms", "of", "base", "applications", "for", "creating", "mark", "fodder", ".", "We", "have", "used", "the", "extensibility", "mechanism", "to", "add", "support", "for", "MS", "Word", ",", "MS", "Excel", ",", "Adobe", "Acrobat", ",", "and", "MS", "Windows", "Media", "Player", ".", "It", "took", "us", "about", "7-12", "hours", "to", "support", "each", "of", "these", "base", "types", ".", "The", "SPARCE", "implementation", "and", "the", "superimposed", "applications", "were", "not", "changed", "or", "recompiled", "when", "new", "base", "types", "were", "added", ".", "4.6", "Evaluation", "Our", "observations", "show", "that", "developing", "superimposed", "applications", "with", "SPARCE", "is", "relatively", "easy", ".", "Although", "the", "effort", "required", "to", "develop", "a", "superimposed", "application", "depends", "on", "the", "specifics", "of", "that", "application", ",", "using", "abstractions", "such", "as", "marks", "and", "contexts", "alleviate", "the", "need", "to", "model", "those", "entities", "in", "each", "application", ".", "For", "example", ",", "RIDPad", "is", "a", "complex", "application", "due", "to", "its", "graphical", "nature", "and", "the", "variety", "of", "operations", "it", "supports", ".", "However", ",", "we", "were", "able", "to", "develop", "that", "application", "in", "approximately", "30", "hours", ".", "As", "we", "added", "support", "for", "new", "base", "types", "using", "the", "extensibility", "mechanism", "of", "SPARCE", ",", "RIDPad", "was", "able", "to", "automatically", "work", "with", "the", "new", "base", "types", ".", "The", "original", "Schematics", "Browser", "application", "worked", "only", "with", "PDF", "files", ".", "The", "application", "was", "responsible", "for", "managing", "marks", "and", "interacting", "with", "Adobe", "Acrobat", ".", "The", "application", "had", "no", "context-management", "capabilities", ".", "We", "altered", "this", "application", "to", "use", "SPARCE", "and", "it", "instantaneously", "had", "access", "to", "all", "base-layer", "types", "SPARCE", "supported", "-LRB-", "and", "those", "it", "will", "support", "in", "future", "-RRB-", ".", "In", "addition", ",", "it", "also", "had", "access", "to", "context", "of", "base", "information", ".", "In", "less", "than", "7", "hours", ",", "we", "were", "able", "to", "alter", "the", "Schematics", "Browser", "to", "use", "SPARCE", ".", "There", "are", "many", "ways", "to", "deploy", "the", "components", "of", "SPARCE", "and", "its", "applications", "-LRB-", "based", "on", "application", "and", "user", "needs", "-RRB-", ".", "For", "example", ",", "RIDPad", "is", "expected", "to", "be", "a", "single-user", "application", ".", "Thus", ",", "all", "components", "of", "RIDPad", "and", "SPARCE", "may", "run", "on", "a", "single", "computer", ".", "In", "contrast", ",", "the", "Schematics", "Browser", "is", "likely", "to", "be", "used", "by", "many", "USFS", "personnel", "to", "browse", "schematic", "instances", "of", "past", "appeal", "decisions", ".", "That", "is", ",", "shared", "repositories", "of", "superimposed", "information", "and", "marks", "can", "be", "useful", ".", "Based", "on", "such", "analyses", ",", "we", "are", "currently", "in", "the", "process", "of", "evaluating", "different", "deployment", "configurations", "of", "SPARCE", "and", "its", "applications", ".", "In", "addition", "to", "studying", "performance", "of", "these", "configurations", ",", "we", "intend", "to", "explore", "the", "benefits", "of", "caching", "context", "information", ".", "One", "of", "the", "areas", "of", "SPARCE", "design", "we", "are", "still", "exploring", "is", "the", "representation", "of", "context", ".", "We", "have", "considered", "defining", "contexts", "via", "data", "types", "-LRB-", "say", ",", "a", "context", "type", "for", "each", "base", "type", "-RRB-", ",", "but", "feel", "that", "approach", "would", "be", "too", "restrictive", ".", "The", "set", "of", "context", "elements", "available", "for", "a", "mark", "might", "vary", "across", "a", "document", ".", "For", "example", ",", "a", "mark", "in", "a", "Word", "document", "might", "have", "a", "``", "column", "name", "''", "context", "element", "if", "it", "is", "in", "a", "table", ",", "but", "not", "otherwise", ".", "It", "is", "even", "possible", "that", "the", "context", "elements", "available", "for", "a", "single", "mark", "may", "change", "over", "time", ".", "For", "instance", ",", "the", "``", "image", "''", "context", "element", "might", "only", "be", "available", "while", "the", "invocation", "of", "the", "base", "application", "in", "which", "the", "mark", "was", "originally", "created", "is", "still", "running", ".", "A", "context", "type", "could", "define", "all", "possible", "context", "elements", ",", "where", "a", "particular", "mark", "produces", "null", "values", "on", "elements", "undefined", "for", "it", ",", "but", "that", "approach", "complicates", "the", "application", "programming", "interface", "-LRB-", "especially", "for", "context", "elements", "of", "scalar", "types", "such", "as", "numbers", "and", "strings", "-RRB-", ".", "Another", "issue", "with", "types", "is", "making", "it", "possible", "to", "write", "a", "superimposed", "application", "without", "specifying", "in", "advance", "all", "the", "base", "sources", "it", "will", "be", "used", "with", "-LRB-", "and", "their", "context", "types", "-RRB-", ".", "We", "have", "demonstrated", "with", "our", "current", "approach", "the", "ability", "of", "a", "superimposed", "application", "to", "work", "with", "new", "context", "agents", "without", "modifying", "the", "application", ".", "The", "superimposed", "application", "can", "make", "use", "of", "any", "context", "elements", "it", "knows", "about", "-LRB-", "from", "the", "elements", "the", "new", "agent", "supplies", "-RRB-", ".", "While", "inheritance", "schemes", "can", "support", "some", "polymorphism", "in", "types", ",", "they", "do", "not", "seem", "adequate", "to", "support", "the", "arbitrary", "kinds", "of", "overlap", "we", "have", "seen", "among", "context", "elements", "across", "base", "types", ".", "Another", "issue", "is", "the", "internal", "structure", "of", "a", "context", ".", "Cur-rently", "a", "context", "is", "a", "property", "set", "of", "context", "elements", ",", "where", "each", "element", "is", "a", "name-value", "pair", ".", "Context", "elements", "also", "have", "kinds", "-LRB-", "such", "as", "presentation", "and", "substructure", "-RRB-", ",", "which", "allows", "grouping", "context", "elements", "in", "user", "interfaces", ".", "We", "are", "considering", "giving", "contexts", "an", "explicit", "hierarchical", "structure", ".", "There", "are", "several", "alternatives", "for", "such", "an", "approach", ":", "Make", "a", "context", "a", "compound", "object", "capable", "of", "holding", "sub-contexts", ",", "use", "of", "qualified", "names", "-LRB-", "for", "example", ",", "format.font.fontsize", "-RRB-", ",", "or", "employ", "a", "hierarchical", "namespace", "as", "in", "a", "directory", "structure", ".", "We", "do", "not", "see", "great", "differences", "in", "these", "three", "alternatives", ".", "The", "advantage", "of", "some", "kind", "of", "hierarchical", "structure", ",", "however", ",", "versus", "the", "current", "flat", "structure", "might", "come", "in", "the", "interface", "between", "superimposed", "applications", "and", "the", "context", "agent", ".", "Rather", "than", "the", "application", "asking", "for", "context", "elements", "individually", "-LRB-", "or", "for", "all", "context", "elements", "-RRB-", ",", "it", "could", "ask", "for", "a", "particular", "subgroup", "of", "elements", "of", "interest", ".", "A", "methodological", "issue", "related", "to", "context", "structure", "is", "how", "to", "coordinate", "the", "naming", "of", "context", "elements", "across", "multiple", "base", "types", "and", "multiple", "superimposed", "applications", ".", "There", "is", "no", "requirement", "currently", "that", "the", "``", "same", "''", "context", "element", "be", "named", "the", "same", "thing", "for", "different", "base", "types", "-LRB-", "or", ",", "in", "fact", ",", "in", "alternative", "context", "agents", "for", "the", "same", "base", "type", "-RRB-", ".", "Even", "if", "the", "same", "name", "is", "used", ",", "the", "types", "of", "the", "associated", "values", "could", "be", "different", ".", "With", "an", "individual", "or", "small", "group", "writing", "context", "agents", "and", "superimposed", "applications", ",", "informal", "methods", "will", "work", "for", "consistency", "in", "naming", ".", "However", ",", "a", "more", "structured", "process", "will", "be", "needed", "at", "the", "point", "that", "context", "agents", "and", "superimposed", "applications", "are", "being", "produced", "by", "different", "organizations", "Memex", "and", "Evolutionary", "List", "File", "were", "visionary", "proposals", "for", "organizing", "information", "from", "diverse", "sources", "-LSB-", "Bush", "1945", ",", "Nelson", "1965", "-RSB-", ".", "Hypertext", "and", "compound", "document", "models", "are", "two", "classes", "of", "systems", "that", "attempt", "to", "realize", "these", "visions", ".", "Hypertext", "systems", "are", "helpful", "in", "78", "preparing", "information", "for", "non-linear", "media", ".", "Although", "designed", "to", "help", "organize", "information", ",", "they", "tend", "to", "be", "limited", "in", "the", "types", "of", "source", ",", "granularity", "of", "information", ",", "and", "location", "of", "information", "that", "can", "be", "organized", ".", "For", "example", ",", "NoteCards", "and", "Dexter", "both", "require", "information", "consulted", "to", "be", "stored", "in", "a", "proprietary", "database", "-LSB-", "Halasz", "1987", ",", "1994", "-RSB-", ".", "Intermedia", "can", "address", "base", "information", "only", "at", "sub-document", "granularity", "-LSB-", "Yankelovich", "1988", "-RSB-", ".", "Hypertext", "systems", "typically", "do", "not", "support", "retrieval", "of", "contextual", "information", "from", "sources", ".", "Compound", "document", "systems", "are", "helpful", "in", "preparing", "information", "for", "linear", "media", "-LRB-", "such", "as", "paper", "-RRB-", ".", "They", "can", "address", "base", "information", "at", "both", "document", "and", "sub-document", "granularity", ",", "but", "they", "tend", "to", "constrain", "display", "models", "of", "tools", "developed", ".", "For", "example", ",", "OLE", "2", "requires", "rectangular", "display", "areas", "-LSB-", "COM", "-RSB-", ".", "Like", "SPARCE", "-LRB-", "and", "unlike", "hypertext", "systems", "-RRB-", ",", "compound", "document", "systems", "provide", "architectural", "support", "for", "building", "applications", ".", "Compound", "document", "systems", "support", "only", "retrieval", "of", "contents", ".", "Information", "sources", "decide", "the", "content", ",", "its", "format", ",", "and", "geometry", ".", "Table", "3", "provides", "a", "brief", "comparison", "of", "SPARCE", "with", "hypertext", "and", "compound", "document", "systems", ".", "NoteCards", ",", "Intermedia", ",", "and", "Dexter", "are", "hypertext", "systems", ".", "OpenDoc", "-LSB-", "Apple", "1994", "-RSB-", "and", "OLE", "2", "are", "compound", "document", "systems", ".", "No", "teC", "a", "r", "d", "s", "In", "te", "rm", "e", "d", "ia", "De", "x", "t", "er", "Op", "e", "n", "D", "o", "c", "OLE", "2", "SPAR", "C", "E", "Base", "types", "2", "3", "Any", "Any", "Any", "Any", "Base", "location", "Custom", "Files", "Custom", "Any", "Any", "Any", "Base", "granularity", "Whole", "Part", "Both", "Both", "Both", "Both", "Context", "kinds", "None", "None", "None", "Content", "Content", "Many", "Table", "3", ":", "SPARCE", "Compared", "with", "Related", "Systems", "Multivalent", "documents", "-LSB-", "Phelps", "2000b", "-RSB-", "allow", "multiple", "behaviours", "to", "be", "superimposed", "on", "to", "a", "single", "base", "document", "using", "an", "abstraction", "similar", "to", "the", "context-agent", "interface", "in", "SPARCE", ".", "The", "system", "uses", "contents", "of", "a", "region", "of", "interest", "-LRB-", "and", "its", "surrounding", "-RRB-", ",", "but", "only", "to", "address", "that", "region", "-LSB-", "Phelps", "2000a", "-RSB-", ".", "In", "the", "area", "related", "to", "dynamism", "and", "representation", "of", "context", ",", "OLE", "Automation", "-LSB-", "Microsoft", "1996", "-RSB-", "provides", "an", "interesting", "comparison", "to", "our", "approach", ".", "An", "OLE", "automation", "object", "exposes", "an", "interface", "to", "the", "type", "information", "object", "-LRB-", "ITypeInfo", "-RRB-", "that", "corresponds", "to", "itself", ".", "The", "type", "information", "object", "is", "resident", "in", "a", "type", "library", "-LRB-", "that", "contains", "type", "information", "for", "possibly", "many", "automation", "object", "types", "-RRB-", ".", "Changing", "type", "information", "-LRB-", "deleting", "members", "or", "adding", "new", "members", "-RRB-", "requires", "creation", "of", "a", "new", "type-information", "object", "and", "a", "new", "type", "library", ".", "Although", "the", "framework", "allows", "each", "instance", "of", "an", "object", "type", "to", "return", "a", "different", "type-information", "object", ",", "the", "requirement", "to", "create", "new", "type", "information", "and", "a", "type", "library", "makes", "it", "impractical", "to", "do", "so", ".", "Consequently", ",", "type", "information", "of", "an", "OLE", "automation", "object", "tends", "to", "include", "all", "possible", "elements", ",", "without", "regard", "to", "whether", "those", "members", "are", "relevant", "in", "a", "given", "situation", ".", "For", "example", ",", "the", "type", "information", "for", "a", "Range", "object", "of", "a", "MS", "Word", "document", "contains", "over", "30", "members", "-LSB-", "Microsoft", "-RSB-", ".", "The", "value", "of", "a", "member", "of", "scalar", "type", "that", "is", "not", "applicable", "for", "a", "given", "Range", "object", "will", "be", "equivalent", "of", "NULL", "-LRB-", "and", "the", "inapplicable", "collection-type", "members", "will", "be", "empty", "-RRB-", ".", "In", "SPARCE", ",", "the", "context", "of", "a", "mark", "contains", "only", "those", "elements", "that", "apply", "to", "the", "mark", ".", "It", "might", "seem", "that", "links", "in", "OLE", "2", "compound", "documents", "provide", "similar", "functionality", "to", "marks", ".", "An", "OLE", "2", "compound", "document", "supports", "only", "retrieval", "of", "contents", "from", "links", ".", "It", "does", "not", "provide", "a", "mechanism", "from", "within", "a", "compound", "document", "to", "obtain", "the", "OLE", "automation", "object", "that", "corresponds", "to", "a", "link", "-LRB-", "even", "when", "the", "link", "source", "defines", "an", "automation", "object", "corresponding", "to", "the", "region", "the", "link", "represents", "-RRB-", ".", "As", "a", "consequence", ",", "context-like", "information", "about", "the", "linked", "region", "can", "not", "be", "accessed", "via", "the", "link", "directly", ".", "For", "example", ",", "linking", "a", "selection", "S", "from", "the", "main", "body", "of", "MS", "Word", "document", "D1", "into", "Word", "document", "D2", "makes", "D2", "a", "compound", "document", ".", "However", ",", "the", "Range", "object", "for", "S", "-LRB-", "which", "is", "available", "in", "D1", "-RRB-", "is", "not", "accessible", "through", "the", "link", "in", "D2", ".", "A", "user", "needing", "more", "information", "about", "S", "must", "navigate", "to", "the", "source", "document", "D1", ".", "SPARCE", "not", "only", "provides", "the", "ability", "to", "link", "information", "via", "marks", ",", "it", "also", "provides", "access", "to", "context", "of", "the", "mark", "through", "the", "mark", "itself", ".", "One", "way", "to", "view", "our", "work", "is", "that", "we", "have", "extended", "the", "standard", "modelling", "building", "blocks", "-LRB-", "integers", ",", "floats", ",", "dates", ",", "strings", ",", "etc.", "-RRB-", "with", "a", "new", "primitive", "--", "mark", "--", "that", "encapsulates", "an", "information", "element", "from", "an", "external", "source", ".", "A", "conceptual", "model", "-LRB-", "extended", "to", "be", "a", "superimposed", "model", "-RRB-", "can", "permit", "the", "use", "of", "marks", "in", "any", "of", "its", "structuring", "constructs", "-LRB-", "tuples", ",", "relationships", ",", "attributes", ",", "entities", ",", "etc.", "-RRB-", ",", "without", "regard", "to", "the", "complexities", "of", "the", "underlying", "element", ".", "Support", "for", "context", "allows", "superimposed", "applications", "to", "extract", "information", "from", "that", "element", "and", "its", "surrounding", "elements", "or", "the", "information", "source", "in", "a", "controlled", "manner", ",", "to", "augment", "what", "is", "explicitly", "stored", "in", "the", "superimposed", "model", ".", "As", "a", "means", "to", "provide", "``", "new", "models", "for", "old", "data", ",", "''", "our", "approach", "is", "quite", "different", "from", "data", "integration", "approaches", "such", "as", "mediators", "and", "data", "warehouses", ".", "Such", "approaches", "seek", "to", "provide", "an", "integrated", "view", "through", "a", "global", "schema", "describing", "base", "information", "that", "faithfully", "reflects", "the", "structure", "of", "the", "base", "source", ".", "In", "our", "work", ",", "we", "are", "exploring", "the", "use", "of", "selected", "base", "information", "elements", "-LRB-", "using", "marks", "-RRB-", ".", "Note", "that", "the", "selection", "of", "marks", "is", "often", "performed", "manually", ",", "by", "a", "domain", "expert", "-LRB-", "e.g.", ",", "a", "clinician", "or", "a", "USFS", "scientist", "-RRB-", ",", "for", "a", "specific", "purpose", "-LRB-", "e.g.", ",", "to", "treat", "a", "patient", "or", "prepare", "a", "RID", "-RRB-", ".", "We", "have", "no", "requirement", "to", "represent", "the", "structure", "or", "relationships", "present", "within", "the", "base", "layer", ".", "Rather", ",", "we", "rely", "on", "the", "original", "application", "to", "provide", "interpretation", "for", "a", "mark", "and", ",", "if", "appropriate", ",", "to", "describe", "any", "relationships", "among", "marks", ".", "Standard", "integration", "approaches", "describe", "information", "from", "various", "sources", "and", "expect", "the", "mediator", "to", "be", "responsible", "for", "its", "interpretation", ".", "79", "The", "superimposed", "layer", ",", "by", "definition", ",", "allows", "the", "user", "to", "mix", "marks", "with", "additional", "information", "that", "may", "not", "exist", "in", "any", "of", "the", "base", "information", "sources", ".", "Such", "information", "may", "augment", "the", "base", "layer", ",", "e.g.", ",", "by", "making", "implicit", "information", "explicit", "-LRB-", "e.g.", ",", "``", "this", "issue", "relates", "only", "to", "Alternative", "A", "''", "-RRB-", "or", "by", "providing", "commentary", ".", "Another", "use", "of", "superimposed", "information", "is", "to", "link", "related", "information", "from", "multiple", "sources", ",", "e.g.", ",", "by", "placing", "marks", "in", "the", "same", "group", "or", "by", "explicitly", "linking", "between", "information", "elements", "in", "two", "sources", ".", "Finally", ",", "the", "superimposed", "approach", "permits", "reinterpretations", "that", "are", "much", "less", "structured", "than", "the", "original", ".", "For", "example", ",", "base", "information", "elements", "can", "be", "grouped", "or", "linked", "without", "having", "to", "observe", "any", "type", "constraints", "imposed", "in", "the", "original", "source", ".", "Exploring", "different", "representations", "of", "context", "and", "ways", "to", "reconcile", "context", "definition", "from", "different", "context", "agents", "is", "one", "area", "of", "our", "future", "work", ".", "Understanding", "the", "needs", "of", "new", "superimposed", "conceptual", "models", "-LRB-", "other", "than", "those", "we", "have", "described", "-RRB-", ",", "and", "exploiting", "contexts", "to", "superimpose", "richer", "conceptual", "models", "is", "another", "area", "of", "our", "interest", ".", "A", "natural", "application", "of", "superimposed", "conceptual", "models", "would", "be", "to", "create", "means", "of", "querying", "jointly", "over", "superimposed", "and", "base", "information", ".", "We", "are", "also", "interested", "in", "superimposed", "applications", "that", "facilitate", "``", "schema", "later", "''", "organization", "of", "diverse", "information", ".", "That", "is", ",", "a", "user", "can", "start", "accumulating", "and", "arranging", "information", "items", "of", "interest", ",", "and", "--", "as", "he", "or", "she", "starts", "forming", "a", "mental", "conceptual", "model", "--", "incrementally", "define", "a", "superimposed", "model", "that", "reflects", "it", ".", "This", "work", "has", "been", "supported", "by", "US", "NSF", "grants", "IIS", "9817492", "and", "IIS", "0086002", ".", "We", "thank", "John", "Davis", "for", "helping", "us", "understand", "the", "USFS", "appeal", "process", ".", "We", "also", "thank", "the", "anonymous", "reviewers", "for", "their", "comments", ".", "Acrobat", "SDK", ":", "Acrobat", "Software", "Development", "Kit", ",", "Adobe", "Systems", "Incorporated", ".", "Apple", "-LRB-", "1994", "-RRB-", ":", "The", "OpenDoc", "Technical", "Summary", ".", "Apple", "World", "Wide", "Developers", "Conference", "Technologies", "CD", ",", "San", "Jose", ";", "CA", ".", "Ash", ",", "J.", ",", "Gorman", "P.", ",", "Lavelle", ",", "M.", ",", "Lyman", "J.", ",", "Delcambre", ",", "L.", ",", "Maier", ",", "D.", ",", "Bowers", ",", "S.", "and", "Weaver", ",", "M.", "-LRB-", "2001", "-RRB-", ":", "Bundles", ":", "Meeting", "Clinical", "Information", "Needs", ".", "Bulletin", "of", "the", "Medical", "Library", "Association", "89", "-LRB-", "3", "-RRB-", ":", "294-296", ".", "Bowers", ",", "S.", ",", "Delcambre", ",", "L.", "and", "Maier", ",", "D.", "-LRB-", "2002", "-RRB-", ":", "Superimposed", "Schematics", ":", "Introducing", "E-R", "Structure", "for", "In-Situ", "Information", "Selections", ".", "Proc", ".", "ER", "2002", ",", "pp", "90", "104", ",", "Springer", "LNCS", "2503", ".", "Bowers", ",", "S.", "and", "Delcambre", ",", "L.", "-LRB-", "2003", "-RRB-", ":", "The", "Uni-Level", "Description", ":", "A", "Uniform", "Framework", "for", "Representing", "Information", "in", "Multiple", "Data", "Models", ".", "Proc", ".", "of", "the", "22", "nd", "International", "Conference", "on", "Conceptual", "Modeling", "-LRB-", "ER", "2003", "-RRB-", ",", "Chicago", ",", "IL", ",", "October", "2003", ".", "Bush", ",", "V.", "-LRB-", "1945", "-RRB-", ":", "As", "We", "May", "Think", ".", "The", "Atlantic", "Monthly", ";", "1945", ";", "July", ".", "Delcambre", ",", "L.", ",", "Maier", ",", "D.", ",", "Bowers", ",", "S.", ",", "Weaver", ",", "M.", ",", "Deng", ",", "L.", ",", "Gorman", ",", "P.", ",", "Ash", ",", "J.", ",", "Lavelle", ",", "M.", "and", "Lyman", ",", "J.", "-LRB-", "2001", "-RRB-", ":", "Bundles", "in", "Captivity", ":", "An", "Application", "of", "Superimposed", "Information", ".", "Proc", ".", "ICDE", "2001", ",", "Heidelberg", ",", "Germany", ",", "pp", "111-120", ".", "Gorman", ",", "P.", ",", "Ash", ",", "J.", ",", "Lavelle", ",", "M.", ",", "Lyman", ",", "J.", ",", "Delcambre", ",", "L.", "and", "Maier", ",", "D.", "-LRB-", "2000", "-RRB-", ":", "Bundles", "in", "the", "wild", ":", "Managing", "information", "to", "solve", "problems", "and", "maintain", "situation", "awareness", ".", "Lib", ".", "Trends", "2000", "49", "-LRB-", "2", "-RRB-", ":", "266-289", ".", "Halasz", ",", "F.G.", ",", "Moran", ",", "T.P.", "and", "Trigg", ",", "R.H.", "-LRB-", "1987", "-RRB-", ":", "NoteCards", "in", "a", "Nutshell", ".", "Proc", ".", "ACM", "CHI+GI", "Conference", ",", "New", "York", ",", "NY", ",", "pp", "45-52", ",", "ACM", "Press", ".", "Halasz", ",", "F.G.", "and", "Schwartz", ",", "F.", "-LRB-", "1994", "-RRB-", ":", "The", "Dexter", "Hypertext", "Reference", "Model", ".", "Communications", "of", "the", "ACM", ",", "37", "-LRB-", "2", "-RRB-", ":", "30-39", ",", "ACM", "Press", ".", "Maier", ",", "D.", "and", "Delcambre", ",", "L.", "-LRB-", "1999", "-RRB-", ":", "Superimposed", "Information", "for", "the", "Internet", ".", "Proc", ".", "WebDB", "1999", "-LRB-", "informal", "-RRB-", ",", "Philadelphia", ",", "PA", ",", "pp", "1-9", ".", "COM", ":", "The", "Component", "Object", "Model", "Specification", ",", "Microsoft", "Corporation", ".", "Microsoft", "Corporation", ".", "-LRB-", "1996", "-RRB-", ":", "OLE", "Automation", "Pro-"], "doc_bio_tags": ["O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["superimposed information", "context", "conceptual modelling", "excerpts"], "abstractive_keyphrases": ["software architecture", "sparce ."], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "204", "document": ["Unified", "Utility", "Maximization", "Framework", "for", "Resource", "Selection", "This", "paper", "presents", "a", "unified", "utility", "framework", "for", "resource", "selection", "of", "distributed", "text", "information", "retrieval", ".", "This", "new", "framework", "shows", "an", "efficient", "and", "effective", "way", "to", "infer", "the", "probabilities", "of", "relevance", "of", "all", "the", "documents", "across", "the", "text", "databases", ".", "With", "the", "estimated", "relevance", "information", ",", "resource", "selection", "can", "be", "made", "by", "explicitly", "optimizing", "the", "goals", "of", "different", "applications", ".", "Specifically", ",", "when", "used", "for", "database", "recommendation", ",", "the", "selection", "is", "optimized", "for", "the", "goal", "of", "high-recall", "-LRB-", "include", "as", "many", "relevant", "documents", "as", "possible", "in", "the", "selected", "databases", "-RRB-", ";", "when", "used", "for", "distributed", "document", "retrieval", ",", "the", "selection", "targets", "the", "high-precision", "goal", "-LRB-", "high", "precision", "in", "the", "final", "merged", "list", "of", "documents", "-RRB-", ".", "This", "new", "model", "provides", "a", "more", "solid", "framework", "for", "distributed", "information", "retrieval", ".", "Empirical", "studies", "show", "that", "it", "is", "at", "least", "as", "effective", "as", "other", "state-of-the-art", "algorithms", ".", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "Algorithms", "Conventional", "search", "engines", "such", "as", "Google", "or", "AltaVista", "use", "ad-hoc", "information", "retrieval", "solution", "by", "assuming", "all", "the", "searchable", "documents", "can", "be", "copied", "into", "a", "single", "centralized", "database", "for", "the", "purpose", "of", "indexing", ".", "Distributed", "information", "retrieval", ",", "also", "known", "as", "federated", "search", "-LSB-", "1,4,7,11,14,22", "-RSB-", "is", "different", "from", "ad-hoc", "information", "retrieval", "as", "it", "addresses", "the", "cases", "when", "documents", "can", "not", "be", "acquired", "and", "stored", "in", "a", "single", "database", ".", "For", "example", ",", "``", "Hidden", "Web", "''", "contents", "-LRB-", "also", "called", "``", "invisible", "''", "or", "``", "deep", "''", "Web", "contents", "-RRB-", "are", "information", "on", "the", "Web", "that", "can", "not", "be", "accessed", "by", "the", "conventional", "search", "engines", ".", "Hidden", "web", "contents", "have", "been", "estimated", "to", "be", "2-50", "-LSB-", "19", "-RSB-", "times", "larger", "than", "the", "contents", "that", "can", "be", "searched", "by", "conventional", "search", "engines", ".", "Therefore", ",", "it", "is", "very", "important", "to", "search", "this", "type", "of", "valuable", "information", ".", "The", "architecture", "of", "distributed", "search", "solution", "is", "highly", "influenced", "by", "different", "environmental", "characteristics", ".", "In", "a", "small", "local", "area", "network", "such", "as", "small", "company", "environments", ",", "the", "information", "providers", "may", "cooperate", "to", "provide", "corpus", "statistics", "or", "use", "the", "same", "type", "of", "search", "engines", ".", "Early", "distributed", "information", "retrieval", "research", "focused", "on", "this", "type", "of", "cooperative", "environments", "-LSB-", "1,8", "-RSB-", ".", "On", "the", "other", "side", ",", "in", "a", "wide", "area", "network", "such", "as", "very", "large", "corporate", "environments", "or", "on", "the", "Web", "there", "are", "many", "types", "of", "search", "engines", "and", "it", "is", "difficult", "to", "assume", "that", "all", "the", "information", "providers", "can", "cooperate", "as", "they", "are", "required", ".", "Even", "if", "they", "are", "willing", "to", "cooperate", "in", "these", "environments", ",", "it", "may", "be", "hard", "to", "enforce", "a", "single", "solution", "for", "all", "the", "information", "providers", "or", "to", "detect", "whether", "information", "sources", "provide", "the", "correct", "information", "as", "they", "are", "required", ".", "Many", "applications", "fall", "into", "the", "latter", "type", "of", "uncooperative", "environments", "such", "as", "the", "Mind", "project", "-LSB-", "16", "-RSB-", "which", "integrates", "non-cooperating", "digital", "libraries", "or", "the", "QProber", "system", "-LSB-", "9", "-RSB-", "which", "supports", "browsing", "and", "searching", "of", "uncooperative", "hidden", "Web", "databases", ".", "In", "this", "paper", ",", "we", "focus", "mainly", "on", "uncooperative", "environments", "that", "contain", "multiple", "types", "of", "independent", "search", "engines", ".", "There", "are", "three", "important", "sub-problems", "in", "distributed", "information", "retrieval", ".", "First", ",", "information", "about", "the", "contents", "of", "each", "individual", "database", "must", "be", "acquired", "-LRB-", "resource", "representation", "-RRB-", "-LSB-", "1,8,21", "-RSB-", ".", "Second", ",", "given", "a", "query", ",", "a", "set", "of", "resources", "must", "be", "selected", "to", "do", "the", "search", "-LRB-", "resource", "selection", "-RRB-", "-LSB-", "5,7,21", "-RSB-", ".", "Third", ",", "the", "results", "retrieved", "from", "all", "the", "selected", "resources", "have", "to", "be", "merged", "into", "a", "single", "final", "list", "before", "it", "can", "be", "presented", "to", "the", "end", "user", "-LRB-", "retrieval", "and", "results", "merging", "-RRB-", "-LSB-", "1,5,20,22", "-RSB-", ".", "Many", "types", "of", "solutions", "exist", "for", "distributed", "information", "retrieval", ".", "Invisible-web.net", "1", "provides", "guided", "browsing", "of", "hidden", "Web", "databases", "by", "collecting", "the", "resource", "descriptions", "of", "these", "databases", "and", "building", "hierarchies", "of", "classes", "that", "group", "them", "by", "similar", "topics", ".", "A", "database", "recommendation", "system", "goes", "a", "step", "further", "than", "a", "browsing", "system", "like", "Invisible-web.net", "by", "recommending", "most", "relevant", "information", "sources", "to", "users", "'", "queries", ".", "It", "is", "composed", "of", "the", "resource", "description", "and", "the", "1", "http://www.invisible-web.net", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "04", ",", "November", "8", "--", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-874-1", "/", "/", "04/0011", "...", "$", "5.00", ".", "32", "resource", "selection", "components", ".", "This", "solution", "is", "useful", "when", "the", "users", "want", "to", "browse", "the", "selected", "databases", "by", "themselves", "instead", "of", "asking", "the", "system", "to", "retrieve", "relevant", "documents", "automatically", ".", "Distributed", "document", "retrieval", "is", "a", "more", "sophisticated", "task", ".", "It", "selects", "relevant", "information", "sources", "for", "users", "'", "queries", "as", "the", "database", "recommendation", "system", "does", ".", "Furthermore", ",", "users", "'", "queries", "are", "forwarded", "to", "the", "corresponding", "selected", "databases", "and", "the", "returned", "individual", "ranked", "lists", "are", "merged", "into", "a", "single", "list", "to", "present", "to", "the", "users", ".", "The", "goal", "of", "a", "database", "recommendation", "system", "is", "to", "select", "a", "small", "set", "of", "resources", "that", "contain", "as", "many", "relevant", "documents", "as", "possible", ",", "which", "we", "call", "a", "high-recall", "goal", ".", "On", "the", "other", "side", ",", "the", "effectiveness", "of", "distributed", "document", "retrieval", "is", "often", "measured", "by", "the", "Precision", "of", "the", "final", "merged", "document", "result", "list", ",", "which", "we", "call", "a", "high-precision", "goal", ".", "Prior", "research", "indicated", "that", "these", "two", "goals", "are", "related", "but", "not", "identical", "-LSB-", "4,21", "-RSB-", ".", "However", ",", "most", "previous", "solutions", "simply", "use", "effective", "resource", "selection", "algorithm", "of", "database", "recommendation", "system", "for", "distributed", "document", "retrieval", "system", "or", "solve", "the", "inconsistency", "with", "heuristic", "methods", "-LSB-", "1,4,21", "-RSB-", ".", "This", "paper", "presents", "a", "unified", "utility", "maximization", "framework", "to", "integrate", "the", "resource", "selection", "problem", "of", "both", "database", "recommendation", "and", "distributed", "document", "retrieval", "together", "by", "treating", "them", "as", "different", "optimization", "goals", ".", "First", ",", "a", "centralized", "sample", "database", "is", "built", "by", "randomly", "sampling", "a", "small", "amount", "of", "documents", "from", "each", "database", "with", "query-based", "sampling", "-LSB-", "1", "-RSB-", ";", "database", "size", "statistics", "are", "also", "estimated", "-LSB-", "21", "-RSB-", ".", "A", "logistic", "transformation", "model", "is", "learned", "off", "line", "with", "a", "small", "amount", "of", "training", "queries", "to", "map", "the", "centralized", "document", "scores", "in", "the", "centralized", "sample", "database", "to", "the", "corresponding", "probabilities", "of", "relevance", ".", "Second", ",", "after", "a", "new", "query", "is", "submitted", ",", "the", "query", "can", "be", "used", "to", "search", "the", "centralized", "sample", "database", "which", "produces", "a", "score", "for", "each", "sampled", "document", ".", "The", "probability", "of", "relevance", "for", "each", "document", "in", "the", "centralized", "sample", "database", "can", "be", "estimated", "by", "applying", "the", "logistic", "model", "to", "each", "document", "'s", "score", ".", "Then", ",", "the", "probabilities", "of", "relevance", "of", "all", "the", "-LRB-", "mostly", "unseen", "-RRB-", "documents", "among", "the", "available", "databases", "can", "be", "estimated", "using", "the", "probabilities", "of", "relevance", "of", "the", "documents", "in", "the", "centralized", "sample", "database", "and", "the", "database", "size", "estimates", ".", "For", "the", "task", "of", "resource", "selection", "for", "a", "database", "recommendation", "system", ",", "the", "databases", "can", "be", "ranked", "by", "the", "expected", "number", "of", "relevant", "documents", "to", "meet", "the", "high-recall", "goal", ".", "For", "resource", "selection", "for", "a", "distributed", "document", "retrieval", "system", ",", "databases", "containing", "a", "small", "number", "of", "documents", "with", "large", "probabilities", "of", "relevance", "are", "favored", "over", "databases", "containing", "many", "documents", "with", "small", "probabilities", "of", "relevance", ".", "This", "selection", "criterion", "meets", "the", "high-precision", "goal", "of", "distributed", "document", "retrieval", "application", ".", "Furthermore", ",", "the", "Semi-supervised", "learning", "-LRB-", "SSL", "-RRB-", "-LSB-", "20,22", "-RSB-", "algorithm", "is", "applied", "to", "merge", "the", "returned", "documents", "into", "a", "final", "ranked", "list", ".", "The", "unified", "utility", "framework", "makes", "very", "few", "assumptions", "and", "works", "in", "uncooperative", "environments", ".", "Two", "key", "features", "make", "it", "a", "more", "solid", "model", "for", "distributed", "information", "retrieval", ":", "i", "-RRB-", "It", "formalizes", "the", "resource", "selection", "problems", "of", "different", "applications", "as", "various", "utility", "functions", ",", "and", "optimizes", "the", "utility", "functions", "to", "achieve", "the", "optimal", "results", "accordingly", ";", "and", "ii", "-RRB-", "It", "shows", "an", "effective", "and", "efficient", "way", "to", "estimate", "the", "probabilities", "of", "relevance", "of", "all", "documents", "across", "databases", ".", "Specifically", ",", "the", "framework", "builds", "logistic", "models", "on", "the", "centralized", "sample", "database", "to", "transform", "centralized", "retrieval", "scores", "to", "the", "corresponding", "probabilities", "of", "relevance", "and", "uses", "the", "centralized", "sample", "database", "as", "the", "bridge", "between", "individual", "databases", "and", "the", "logistic", "model", ".", "The", "human", "effort", "-LRB-", "relevance", "judgment", "-RRB-", "required", "to", "train", "the", "single", "centralized", "logistic", "model", "does", "not", "scale", "with", "the", "number", "of", "databases", ".", "This", "is", "a", "large", "advantage", "over", "previous", "research", ",", "which", "required", "the", "amount", "of", "human", "effort", "to", "be", "linear", "with", "the", "number", "of", "databases", "-LSB-", "7,15", "-RSB-", ".", "The", "unified", "utility", "framework", "is", "not", "only", "more", "theoretically", "solid", "but", "also", "very", "effective", ".", "Empirical", "studies", "show", "the", "new", "model", "to", "be", "at", "least", "as", "accurate", "as", "the", "state-of-the-art", "algorithms", "in", "a", "variety", "of", "configurations", ".", "The", "next", "section", "discusses", "related", "work", ".", "Section", "3", "describes", "the", "new", "unified", "utility", "maximization", "model", ".", "Section", "4", "explains", "our", "experimental", "methodology", ".", "Sections", "5", "and", "6", "present", "our", "experimental", "results", "for", "resource", "selection", "and", "document", "retrieval", ".", "Section", "7", "concludes", ".", "There", "has", "been", "considerable", "research", "on", "all", "the", "sub-problems", "of", "distributed", "information", "retrieval", ".", "We", "survey", "the", "most", "related", "work", "in", "this", "section", ".", "The", "first", "problem", "of", "distributed", "information", "retrieval", "is", "resource", "representation", ".", "The", "STARTS", "protocol", "is", "one", "solution", "for", "acquiring", "resource", "descriptions", "in", "cooperative", "environments", "-LSB-", "8", "-RSB-", ".", "However", ",", "in", "uncooperative", "environments", ",", "even", "the", "databases", "are", "willing", "to", "share", "their", "information", ",", "it", "is", "not", "easy", "to", "judge", "whether", "the", "information", "they", "provide", "is", "accurate", "or", "not", ".", "Furthermore", ",", "it", "is", "not", "easy", "to", "coordinate", "the", "databases", "to", "provide", "resource", "representations", "that", "are", "compatible", "with", "each", "other", ".", "Thus", ",", "in", "uncooperative", "environments", ",", "one", "common", "choice", "is", "query-based", "sampling", ",", "which", "randomly", "generates", "and", "sends", "queries", "to", "individual", "search", "engines", "and", "retrieves", "some", "documents", "to", "build", "the", "descriptions", ".", "As", "the", "sampled", "documents", "are", "selected", "by", "random", "queries", ",", "query-based", "sampling", "is", "not", "easily", "fooled", "by", "any", "adversarial", "spammer", "that", "is", "interested", "to", "attract", "more", "traffic", ".", "Experiments", "have", "shown", "that", "rather", "accurate", "resource", "descriptions", "can", "be", "built", "by", "sending", "about", "80", "queries", "and", "downloading", "about", "300", "documents", "-LSB-", "1", "-RSB-", ".", "Many", "resource", "selection", "algorithms", "such", "as", "gGlOSS/vGlOSS", "-LSB-", "8", "-RSB-", "and", "CORI", "-LSB-", "1", "-RSB-", "have", "been", "proposed", "in", "the", "last", "decade", ".", "The", "CORI", "algorithm", "represents", "each", "database", "by", "its", "terms", ",", "the", "document", "frequencies", "and", "a", "small", "number", "of", "corpus", "statistics", "-LRB-", "details", "in", "-LSB-", "1", "-RSB-", "-RRB-", ".", "As", "prior", "research", "on", "different", "datasets", "has", "shown", "the", "CORI", "algorithm", "to", "be", "the", "most", "stable", "and", "effective", "of", "the", "three", "algorithms", "-LSB-", "1,17,18", "-RSB-", ",", "we", "use", "it", "as", "a", "baseline", "algorithm", "in", "this", "work", ".", "The", "relevant", "document", "distribution", "estimation", "-LRB-", "ReDDE", "-LSB-", "21", "-RSB-", "-RRB-", "resource", "selection", "algorithm", "is", "a", "recent", "algorithm", "that", "tries", "to", "estimate", "the", "distribution", "of", "relevant", "documents", "across", "the", "available", "databases", "and", "ranks", "the", "databases", "accordingly", ".", "Although", "the", "ReDDE", "algorithm", "has", "been", "shown", "to", "be", "effective", ",", "it", "relies", "on", "heuristic", "constants", "that", "are", "set", "empirically", "-LSB-", "21", "-RSB-", ".", "The", "last", "step", "of", "the", "document", "retrieval", "sub-problem", "is", "results", "merging", ",", "which", "is", "the", "process", "of", "transforming", "database-specific", "33", "document", "scores", "into", "comparable", "database-independent", "document", "scores", ".", "The", "semi", "supervised", "learning", "-LRB-", "SSL", "-RRB-", "-LSB-", "20,22", "-RSB-", "result", "merging", "algorithm", "uses", "the", "documents", "acquired", "by", "query-based", "sampling", "as", "training", "data", "and", "linear", "regression", "to", "learn", "the", "database-specific", ",", "query-specific", "merging", "models", ".", "These", "linear", "models", "are", "used", "to", "convert", "the", "database-specific", "document", "scores", "into", "the", "approximated", "centralized", "document", "scores", ".", "The", "SSL", "algorithm", "has", "been", "shown", "to", "be", "effective", "-LSB-", "22", "-RSB-", ".", "It", "serves", "as", "an", "important", "component", "of", "our", "unified", "utility", "maximization", "framework", "-LRB-", "Section", "3", "-RRB-", ".", "In", "order", "to", "achieve", "accurate", "document", "retrieval", "results", ",", "many", "previous", "methods", "simply", "use", "resource", "selection", "algorithms", "that", "are", "effective", "of", "database", "recommendation", "system", ".", "But", "as", "pointed", "out", "above", ",", "a", "good", "resource", "selection", "algorithm", "optimized", "for", "high-recall", "may", "not", "work", "well", "for", "document", "retrieval", ",", "which", "targets", "the", "high-precision", "goal", ".", "This", "type", "of", "inconsistency", "has", "been", "observed", "in", "previous", "research", "-LSB-", "4,21", "-RSB-", ".", "The", "research", "in", "-LSB-", "21", "-RSB-", "tried", "to", "solve", "the", "problem", "with", "a", "heuristic", "method", ".", "The", "research", "most", "similar", "to", "what", "we", "propose", "here", "is", "the", "decision-theoretic", "framework", "-LRB-", "DTF", "-RRB-", "-LSB-", "7,15", "-RSB-", ".", "This", "framework", "computes", "a", "selection", "that", "minimizes", "the", "overall", "costs", "-LRB-", "e.g.", ",", "retrieval", "quality", ",", "time", "-RRB-", "of", "document", "retrieval", "system", "and", "several", "methods", "-LSB-", "15", "-RSB-", "have", "been", "proposed", "to", "estimate", "the", "retrieval", "quality", ".", "However", ",", "two", "points", "distinguish", "our", "research", "from", "the", "DTF", "model", ".", "First", ",", "the", "DTF", "is", "a", "framework", "designed", "specifically", "for", "document", "retrieval", ",", "but", "our", "new", "model", "integrates", "two", "distinct", "applications", "with", "different", "requirements", "-LRB-", "database", "recommendation", "and", "distributed", "document", "retrieval", "-RRB-", "into", "the", "same", "unified", "framework", ".", "Second", ",", "the", "DTF", "builds", "a", "model", "for", "each", "database", "to", "calculate", "the", "probabilities", "of", "relevance", ".", "This", "requires", "human", "relevance", "judgments", "for", "the", "results", "retrieved", "from", "each", "database", ".", "In", "contrast", ",", "our", "approach", "only", "builds", "one", "logistic", "model", "for", "the", "centralized", "sample", "database", ".", "The", "centralized", "sample", "database", "can", "serve", "as", "a", "bridge", "to", "connect", "the", "individual", "databases", "with", "the", "centralized", "logistic", "model", ",", "thus", "the", "probabilities", "of", "relevance", "of", "documents", "in", "different", "databases", "can", "be", "estimated", ".", "This", "strategy", "can", "save", "large", "amount", "of", "human", "judgment", "effort", "and", "is", "a", "big", "advantage", "of", "the", "unified", "utility", "maximization", "framework", "over", "the", "DTF", "especially", "when", "there", "are", "a", "large", "number", "of", "databases", ".", "The", "Unified", "Utility", "Maximization", "-LRB-", "UUM", "-RRB-", "framework", "is", "based", "on", "estimating", "the", "probabilities", "of", "relevance", "of", "the", "-LRB-", "mostly", "unseen", "-RRB-", "documents", "available", "in", "the", "distributed", "search", "environment", ".", "In", "this", "section", "we", "describe", "how", "the", "probabilities", "of", "relevance", "are", "estimated", "and", "how", "they", "are", "used", "by", "the", "Unified", "Utility", "Maximization", "model", ".", "We", "also", "describe", "how", "the", "model", "can", "be", "optimized", "for", "the", "high-recall", "goal", "of", "a", "database", "recommendation", "system", "and", "the", "high-precision", "goal", "of", "a", "distributed", "document", "retrieval", "system", ".", "3.1", "Estimating", "Probabilities", "of", "Relevance", "As", "pointed", "out", "above", ",", "the", "purpose", "of", "resource", "selection", "is", "high-recall", "and", "the", "purpose", "of", "document", "retrieval", "is", "high-precision", ".", "In", "order", "to", "meet", "these", "diverse", "goals", ",", "the", "key", "issue", "is", "to", "estimate", "the", "probabilities", "of", "relevance", "of", "the", "documents", "in", "various", "databases", ".", "This", "is", "a", "difficult", "problem", "because", "we", "can", "only", "observe", "a", "sample", "of", "the", "contents", "of", "each", "database", "using", "query-based", "sampling", ".", "Our", "strategy", "is", "to", "make", "full", "use", "of", "all", "the", "available", "information", "to", "calculate", "the", "probability", "estimates", ".", "3.1.1", "Learning", "Probabilities", "of", "Relevance", "In", "the", "resource", "description", "step", ",", "the", "centralized", "sample", "database", "is", "built", "by", "query-based", "sampling", "and", "the", "database", "sizes", "are", "estimated", "using", "the", "sample-resample", "method", "-LSB-", "21", "-RSB-", ".", "At", "the", "same", "time", ",", "an", "effective", "retrieval", "algorithm", "-LRB-", "Inquery", "-LSB-", "2", "-RSB-", "-RRB-", "is", "applied", "on", "the", "centralized", "sample", "database", "with", "a", "small", "number", "-LRB-", "e.g.", ",", "50", "-RRB-", "of", "training", "queries", ".", "For", "each", "training", "query", ",", "the", "CORI", "resource", "selection", "algorithm", "-LSB-", "1", "-RSB-", "is", "applied", "to", "select", "some", "number", "-LRB-", "e.g.", ",", "10", "-RRB-", "of", "databases", "and", "retrieve", "50", "document", "ids", "from", "each", "database", ".", "The", "SSL", "results", "merging", "algorithm", "-LSB-", "20,22", "-RSB-", "is", "used", "to", "merge", "the", "results", ".", "Then", ",", "we", "can", "download", "the", "top", "50", "documents", "in", "the", "final", "merged", "list", "and", "calculate", "their", "corresponding", "centralized", "scores", "using", "Inquery", "and", "the", "corpus", "statistics", "of", "the", "centralized", "sample", "database", ".", "The", "centralized", "scores", "are", "further", "normalized", "-LRB-", "divided", "by", "the", "maximum", "centralized", "score", "for", "each", "query", "-RRB-", ",", "as", "this", "method", "has", "been", "suggested", "to", "improve", "estimation", "accuracy", "in", "previous", "research", "-LSB-", "15", "-RSB-", ".", "Human", "judgment", "is", "acquired", "for", "those", "documents", "and", "a", "logistic", "model", "is", "built", "to", "transform", "the", "normalized", "centralized", "document", "scores", "to", "probabilities", "of", "relevance", "as", "follows", ":", "-LRB-", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "exp", "-LRB-", "1", "-RRB-", "-RRB-", "-LRB-", "exp", "-LRB-", "|", "-RRB-", "-LRB-", "_", "_", "d", "S", "b", "a", "d", "S", "b", "a", "d", "rel", "P", "d", "R", "c", "c", "c", "c", "c", "c", "+", "+", "+", "=", "=", "-LRB-", "1", "-RRB-", "where", "-RRB-", "-LRB-", "_", "d", "S", "c", "is", "the", "normalized", "centralized", "document", "score", "and", "a", "c", "and", "b", "c", "are", "the", "two", "parameters", "of", "the", "logistic", "model", ".", "These", "two", "parameters", "are", "estimated", "by", "maximizing", "the", "probabilities", "of", "relevance", "of", "the", "training", "queries", ".", "The", "logistic", "model", "provides", "us", "the", "tool", "to", "calculate", "the", "probabilities", "of", "relevance", "from", "centralized", "document", "scores", ".", "3.1.2", "Estimating", "Centralized", "Document", "Scores", "When", "the", "user", "submits", "a", "new", "query", ",", "the", "centralized", "document", "scores", "of", "the", "documents", "in", "the", "centralized", "sample", "database", "are", "calculated", ".", "However", ",", "in", "order", "to", "calculate", "the", "probabilities", "of", "relevance", ",", "we", "need", "to", "estimate", "centralized", "document", "scores", "for", "all", "documents", "across", "the", "databases", "instead", "of", "only", "the", "sampled", "documents", ".", "This", "goal", "is", "accomplished", "using", ":", "the", "centralized", "scores", "of", "the", "documents", "in", "the", "centralized", "sample", "database", ",", "and", "the", "database", "size", "statistics", ".", "We", "define", "the", "database", "scale", "factor", "for", "the", "i", "th", "database", "as", "the", "ratio", "of", "the", "estimated", "database", "size", "and", "the", "number", "of", "documents", "sampled", "from", "this", "database", "as", "follows", ":", "^", "_", "i", "i", "i", "db", "db", "db", "samp", "N", "SF", "N", "=", "-LRB-", "2", "-RRB-", "where", "^", "i", "db", "N", "is", "the", "estimated", "database", "size", "and", "_", "i", "db", "samp", "N", "is", "the", "number", "of", "documents", "from", "the", "i", "th", "database", "in", "the", "centralized", "sample", "database", ".", "The", "intuition", "behind", "the", "database", "scale", "factor", "is", "that", ",", "for", "a", "database", "whose", "scale", "factor", "is", "50", ",", "if", "one", "document", "from", "this", "database", "in", "the", "centralized", "sample", "database", "has", "a", "centralized", "document", "score", "of", "0.5", ",", "we", "may", "guess", "that", "there", "are", "about", "50", "documents", "in", "that", "database", "which", "have", "scores", "of", "about", "0.5", ".", "Actually", ",", "we", "can", "apply", "a", "finer", "non-parametric", "linear", "interpolation", "method", "to", "estimate", "the", "centralized", "document", "score", "curve", "for", "each", "database", ".", "Formally", ",", "we", "rank", "all", "the", "sampled", "documents", "from", "the", "i", "th", "database", "by", "their", "centralized", "document", "34", "scores", "to", "get", "the", "sampled", "centralized", "document", "score", "list", "-LCB-", "S", "c", "-LRB-", "ds", "i1", "-RRB-", ",", "S", "c", "-LRB-", "ds", "i2", "-RRB-", ",", "S", "c", "-LRB-", "ds", "i3", "-RRB-", ",", "...", "-RCB-", "for", "the", "i", "th", "database", ";", "we", "assume", "that", "if", "we", "could", "calculate", "the", "centralized", "document", "scores", "for", "all", "the", "documents", "in", "this", "database", "and", "get", "the", "complete", "centralized", "document", "score", "list", ",", "the", "top", "document", "in", "the", "sampled", "list", "would", "have", "rank", "SF", "dbi", "/", "2", ",", "the", "second", "document", "in", "the", "sampled", "list", "would", "rank", "SF", "dbi", "3/2", ",", "and", "so", "on", ".", "Therefore", ",", "the", "data", "points", "of", "sampled", "documents", "in", "the", "complete", "list", "are", ":", "-LCB-", "-LRB-", "SF", "dbi", "/", "2", ",", "S", "c", "-LRB-", "ds", "i1", "-RRB-", "-RRB-", ",", "-LRB-", "SF", "dbi", "3/2", ",", "S", "c", "-LRB-", "ds", "i2", "-RRB-", "-RRB-", ",", "-LRB-", "SF", "dbi", "5/2", ",", "S", "c", "-LRB-", "ds", "i3", "-RRB-", "-RRB-", ",", "...", "-RCB-", ".", "Piecewise", "linear", "interpolation", "is", "applied", "to", "estimate", "the", "centralized", "document", "score", "curve", ",", "as", "illustrated", "in", "Figure", "1", ".", "The", "complete", "centralized", "document", "score", "list", "can", "be", "estimated", "by", "calculating", "the", "values", "of", "different", "ranks", "on", "the", "centralized", "document", "curve", "as", ":", "-RSB-", ",", "1", "-LSB-", ",", "-RRB-", "-LRB-", "S", "^", "^", "c", "i", "db", "ij", "N", "j", "d", ".", "It", "can", "be", "seen", "from", "Figure", "1", "that", "more", "sample", "data", "points", "produce", "more", "accurate", "estimates", "of", "the", "centralized", "document", "score", "curves", ".", "However", ",", "for", "databases", "with", "large", "database", "scale", "ratios", ",", "this", "kind", "of", "linear", "interpolation", "may", "be", "rather", "inaccurate", ",", "especially", "for", "the", "top", "ranked", "-LRB-", "e.g.", ",", "-LSB-", "1", ",", "SF", "dbi", "/", "2", "-RSB-", "-RRB-", "documents", ".", "Therefore", ",", "an", "alternative", "solution", "is", "proposed", "to", "estimate", "the", "centralized", "document", "scores", "of", "the", "top", "ranked", "documents", "for", "databases", "with", "large", "scale", "ratios", "-LRB-", "e.g.", ",", "larger", "than", "100", "-RRB-", ".", "Specifically", ",", "a", "logistic", "model", "is", "built", "for", "each", "of", "these", "databases", ".", "The", "logistic", "model", "is", "used", "to", "estimate", "the", "centralized", "document", "score", "of", "the", "top", "1", "document", "in", "the", "corresponding", "database", "by", "using", "the", "two", "sampled", "documents", "from", "that", "database", "with", "highest", "centralized", "scores", ".", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "exp", "-LRB-", "1", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "exp", "-LRB-", "-RRB-", "-LRB-", "2", "2", "1", "1", "0", "2", "2", "1", "1", "0", "^", "1", "i", "c", "i", "i", "c", "i", "i", "i", "c", "i", "i", "c", "i", "i", "i", "c", "ds", "S", "ds", "S", "ds", "S", "ds", "S", "d", "S", "+", "+", "+", "+", "+", "=", "-LRB-", "3", "-RRB-", "0", "i", ",", "1", "i", "and", "2", "i", "are", "the", "parameters", "of", "the", "logistic", "model", ".", "For", "each", "training", "query", ",", "the", "top", "retrieved", "document", "of", "each", "database", "is", "downloaded", "and", "the", "corresponding", "centralized", "document", "score", "is", "calculated", ".", "Together", "with", "the", "scores", "of", "the", "top", "two", "sampled", "documents", ",", "these", "parameters", "can", "be", "estimated", ".", "After", "the", "centralized", "score", "of", "the", "top", "document", "is", "estimated", ",", "an", "exponential", "function", "is", "fitted", "for", "the", "top", "part", "-LRB-", "-LSB-", "1", ",", "SF", "dbi", "/", "2", "-RSB-", "-RRB-", "of", "the", "centralized", "document", "score", "curve", "as", ":", "-RSB-", "2", "/", ",", "1", "-LSB-", "-RRB-", "*", "exp", "-LRB-", "-RRB-", "-LRB-", "1", "0", "^", "i", "db", "i", "i", "ij", "c", "SF", "j", "j", "d", "S", "+", "=", "-LRB-", "4", "-RRB-", "^", "0", "1", "1", "log", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "i", "c", "i", "i", "S", "d", "=", "-LRB-", "5", "-RRB-", "-RRB-", "1", "2", "/", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "log", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "log", "-LRB-", "^", "1", "1", "1", "=", "i", "db", "i", "c", "i", "c", "i", "SF", "d", "S", "ds", "S", "-LRB-", "6", "-RRB-", "The", "two", "parameters", "0", "i", "and", "1", "i", "are", "fitted", "to", "make", "sure", "the", "exponential", "function", "passes", "through", "the", "two", "points", "-LRB-", "1", ",", "^", "1", "-RRB-", "-LRB-", "i", "c", "d", "S", "-RRB-", "and", "-LRB-", "SF", "dbi", "/", "2", ",", "S", "c", "-LRB-", "ds", "i1", "-RRB-", "-RRB-", ".", "The", "exponential", "function", "is", "only", "used", "to", "adjust", "the", "top", "part", "of", "the", "centralized", "document", "score", "curve", "and", "the", "lower", "part", "of", "the", "curve", "is", "still", "fitted", "with", "the", "linear", "interpolation", "method", "described", "above", ".", "The", "adjustment", "by", "fitting", "exponential", "function", "of", "the", "top", "ranked", "documents", "has", "been", "shown", "empirically", "to", "produce", "more", "accurate", "results", ".", "From", "the", "centralized", "document", "score", "curves", ",", "we", "can", "estimate", "the", "complete", "centralized", "document", "score", "lists", "accordingly", "for", "all", "the", "available", "databases", ".", "After", "the", "estimated", "centralized", "document", "scores", "are", "normalized", ",", "the", "complete", "lists", "of", "probabilities", "of", "relevance", "can", "be", "constructed", "out", "of", "the", "complete", "centralized", "document", "score", "lists", "by", "Equation", "1", ".", "Formally", "for", "the", "i", "th", "database", ",", "the", "complete", "list", "of", "probabilities", "of", "relevance", "is", ":", "-RSB-", ",", "1", "-LSB-", ",", "-RRB-", "-LRB-", "R", "^", "^", "i", "db", "ij", "N", "j", "d", ".", "3.2", "The", "Unified", "Utility", "Maximization", "Model", "In", "this", "section", ",", "we", "formally", "define", "the", "new", "unified", "utility", "maximization", "model", ",", "which", "optimizes", "the", "resource", "selection", "problems", "for", "two", "goals", "of", "high-recall", "-LRB-", "database", "recommendation", "-RRB-", "and", "high-precision", "-LRB-", "distributed", "document", "retrieval", "-RRB-", "in", "the", "same", "framework", ".", "In", "the", "task", "of", "database", "recommendation", ",", "the", "system", "needs", "to", "decide", "how", "to", "rank", "databases", ".", "In", "the", "task", "of", "document", "retrieval", ",", "the", "system", "not", "only", "needs", "to", "select", "the", "databases", "but", "also", "needs", "to", "decide", "how", "many", "documents", "to", "retrieve", "from", "each", "selected", "database", ".", "We", "generalize", "the", "database", "recommendation", "selection", "process", ",", "which", "implicitly", "recommends", "all", "documents", "in", "every", "selected", "database", ",", "as", "a", "special", "case", "of", "the", "selection", "decision", "for", "the", "document", "retrieval", "task", ".", "Formally", ",", "we", "denote", "d", "i", "as", "the", "number", "of", "documents", "we", "would", "like", "to", "retrieve", "from", "the", "i", "th", "database", "and", ",", "...", "-RCB-", ",", "-LCB-", "2", "1", "d", "d", "d", "=", "as", "a", "selection", "action", "for", "all", "the", "databases", ".", "The", "database", "selection", "decision", "is", "made", "based", "on", "the", "complete", "lists", "of", "probabilities", "of", "relevance", "for", "all", "the", "databases", ".", "The", "complete", "lists", "of", "probabilities", "of", "relevance", "are", "inferred", "from", "all", "the", "available", "information", "specifically", "s", "R", ",", "which", "stands", "for", "the", "resource", "descriptions", "acquired", "by", "query-based", "sampling", "and", "the", "database", "size", "estimates", "acquired", "by", "sample-resample", ";", "c", "S", "stands", "for", "the", "centralized", "document", "scores", "of", "the", "documents", "in", "the", "centralized", "sample", "database", ".", "If", "the", "method", "of", "estimating", "centralized", "document", "scores", "and", "probabilities", "of", "relevance", "in", "Section", "3.1", "is", "acceptable", ",", "then", "the", "most", "probable", "complete", "lists", "of", "probabilities", "of", "relevance", "can", "be", "derived", "and", "we", "denote", "them", "as", "1", "^", "^", "*", "1", "-LCB-", "-LRB-", "R", "-LRB-", "-RRB-", ",", "-LSB-", "1", ",", "-RSB-", "-RRB-", ",", "db", "j", "d", "j", "N", "=", "2", "^", "^", "2", "-LRB-", "R", "-LRB-", "-RRB-", ",", "-LSB-", "1", ",", "-RSB-", "-RRB-", ",", "...", "-RCB-", "db", "j", "d", "j", "N", ".", "Random", "vector", "denotes", "an", "arbitrary", "set", "of", "complete", "lists", "of", "probabilities", "of", "relevance", "and", "-RRB-", ",", "|", "-LRB-", "c", "s", "S", "R", "P", "as", "the", "probability", "of", "generating", "this", "set", "of", "lists", ".", "Finally", ",", "to", "each", "selection", "action", "d", "and", "a", "set", "of", "complete", "lists", "of", "Figure", "1", ".", "Linear", "interpolation", "construction", "of", "the", "complete", "centralized", "document", "score", "list", "-LRB-", "database", "scale", "factor", "is", "50", "-RRB-", ".", "35", "probabilities", "of", "relevance", ",", "we", "associate", "a", "utility", "function", "-RRB-", ",", "-LRB-", "d", "U", "which", "indicates", "the", "benefit", "from", "making", "the", "d", "selection", "when", "the", "true", "complete", "lists", "of", "probabilities", "of", "relevance", "are", ".", "Therefore", ",", "the", "selection", "decision", "defined", "by", "the", "Bayesian", "framework", "is", ":", "d", "S", "R", "P", "d", "U", "d", "c", "s", "d", "-RRB-", ".", "|", "-LRB-", "-RRB-", ",", "-LRB-", "max", "arg", "*", "=", "-LRB-", "7", "-RRB-", "One", "common", "approach", "to", "simplify", "the", "computation", "in", "the", "Bayesian", "framework", "is", "to", "only", "calculate", "the", "utility", "function", "at", "the", "most", "probable", "parameter", "values", "instead", "of", "calculating", "the", "whole", "expectation", ".", "In", "other", "words", ",", "we", "only", "need", "to", "calculate", "-RRB-", ",", "-LRB-", "*", "d", "U", "and", "Equation", "7", "is", "simplified", "as", "follows", ":", "-RRB-", ",", "-LRB-", "max", "arg", "*", "*", "d", "U", "d", "d", "=", "-LRB-", "8", "-RRB-", "This", "equation", "serves", "as", "the", "basic", "model", "for", "both", "the", "database", "recommendation", "system", "and", "the", "document", "retrieval", "system", ".", "3.3", "Resource", "Selection", "for", "High-Recall", "High-recall", "is", "the", "goal", "of", "the", "resource", "selection", "algorithm", "in", "federated", "search", "tasks", "such", "as", "database", "recommendation", ".", "The", "goal", "is", "to", "select", "a", "small", "set", "of", "resources", "-LRB-", "e.g.", ",", "less", "than", "N", "sdb", "databases", "-RRB-", "that", "contain", "as", "many", "relevant", "documents", "as", "possible", ",", "which", "can", "be", "formally", "defined", "as", ":", "=", "=", "i", "N", "j", "ij", "i", "i", "db", "d", "d", "I", "d", "U", "^", "1", "^", "*", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "-LRB-", "9", "-RRB-", "I", "-LRB-", "d", "i", "-RRB-", "is", "the", "indicator", "function", ",", "which", "is", "1", "when", "the", "i", "th", "database", "is", "selected", "and", "0", "otherwise", ".", "Plug", "this", "equation", "into", "the", "basic", "model", "in", "Equation", "8", "and", "associate", "the", "selected", "database", "number", "constraint", "to", "obtain", "the", "following", ":", "sdb", "i", "i", "i", "N", "j", "ij", "i", "d", "N", "d", "I", "to", "Subject", "d", "d", "I", "d", "i", "db", "=", "=", "=", "-RRB-", "-LRB-", ":", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "max", "arg", "^", "1", "^", "*", "-LRB-", "10", "-RRB-", "The", "solution", "of", "this", "optimization", "problem", "is", "very", "simple", ".", "We", "can", "calculate", "the", "expected", "number", "of", "relevant", "documents", "for", "each", "database", "as", "follows", ":", "=", "=", "i", "db", "i", "N", "j", "ij", "Rd", "d", "N", "^", "1", "^", "^", "-RRB-", "-LRB-", "R", "-LRB-", "11", "-RRB-", "The", "N", "sdb", "databases", "with", "the", "largest", "expected", "number", "of", "relevant", "documents", "can", "be", "selected", "to", "meet", "the", "high-recall", "goal", ".", "We", "call", "this", "the", "UUM/HR", "algorithm", "-LRB-", "Unified", "Utility", "Maximization", "for", "High-Recall", "-RRB-", ".", "3.4", "Resource", "Selection", "for", "High-Precision", "High-Precision", "is", "the", "goal", "of", "resource", "selection", "algorithm", "in", "federated", "search", "tasks", "such", "as", "distributed", "document", "retrieval", ".", "It", "is", "measured", "by", "the", "Precision", "at", "the", "top", "part", "of", "the", "final", "merged", "document", "list", ".", "This", "high-precision", "criterion", "is", "realized", "by", "the", "following", "utility", "function", ",", "which", "measures", "the", "Precision", "of", "retrieved", "documents", "from", "the", "selected", "databases", ".", "=", "=", "i", "d", "j", "ij", "i", "i", "d", "d", "I", "d", "U", "1", "^", "*", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "-LRB-", "12", "-RRB-", "Note", "that", "the", "key", "difference", "between", "Equation", "12", "and", "Equation", "9", "is", "that", "Equation", "9", "sums", "up", "the", "probabilities", "of", "relevance", "of", "all", "the", "documents", "in", "a", "database", ",", "while", "Equation", "12", "only", "considers", "a", "much", "smaller", "part", "of", "the", "ranking", ".", "Specifically", ",", "we", "can", "calculate", "the", "optimal", "selection", "decision", "by", ":", "=", "=", "i", "d", "j", "ij", "i", "d", "i", "d", "d", "I", "d", "1", "^", "*", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "max", "arg", "-LRB-", "13", "-RRB-", "Different", "kinds", "of", "constraints", "caused", "by", "different", "characteristics", "of", "the", "document", "retrieval", "tasks", "can", "be", "associated", "with", "the", "above", "optimization", "problem", ".", "The", "most", "common", "one", "is", "to", "select", "a", "fixed", "number", "-LRB-", "N", "sdb", "-RRB-", "of", "databases", "and", "retrieve", "a", "fixed", "number", "-LRB-", "N", "rdoc", "-RRB-", "of", "documents", "from", "each", "selected", "database", ",", "formally", "defined", "as", ":", "0", ",", "-RRB-", "-LRB-", ":", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "max", "arg", "1", "^", "*", "=", "=", "=", "=", "i", "rdoc", "i", "sdb", "i", "i", "i", "d", "j", "ij", "i", "d", "d", "if", "N", "d", "N", "d", "I", "to", "Subject", "d", "d", "I", "d", "i", "-LRB-", "14", "-RRB-", "This", "optimization", "problem", "can", "be", "solved", "easily", "by", "calculating", "the", "number", "of", "expected", "relevant", "documents", "in", "the", "top", "part", "of", "the", "each", "database", "'s", "complete", "list", "of", "probabilities", "of", "relevance", ":", "=", "=", "rdoc", "i", "N", "j", "ij", "Rd", "Top", "d", "N", "1", "^", "^", "_", "-RRB-", "-LRB-", "R", "-LRB-", "15", "-RRB-", "Then", "the", "databases", "can", "be", "ranked", "by", "these", "values", "and", "selected", ".", "We", "call", "this", "the", "UUM/HP-FL", "algorithm", "-LRB-", "Unified", "Utility", "Maximization", "for", "High-Precision", "with", "Fixed", "Length", "document", "rankings", "from", "each", "selected", "database", "-RRB-", ".", "A", "more", "complex", "situation", "is", "to", "vary", "the", "number", "of", "retrieved", "documents", "from", "each", "selected", "database", ".", "More", "specifically", ",", "we", "allow", "different", "selected", "databases", "to", "return", "different", "numbers", "of", "documents", ".", "For", "simplification", ",", "the", "result", "list", "lengths", "are", "required", "to", "be", "multiples", "of", "a", "baseline", "number", "10", ".", "-LRB-", "This", "value", "can", "also", "be", "varied", ",", "but", "for", "simplification", "it", "is", "set", "to", "10", "in", "this", "paper", ".", "-RRB-", "This", "restriction", "is", "set", "to", "simulate", "the", "behavior", "of", "commercial", "search", "engines", "on", "the", "Web", ".", "-LRB-", "Search", "engines", "such", "as", "Google", "and", "AltaVista", "return", "only", "10", "or", "20", "document", "ids", "for", "every", "result", "page", ".", "-RRB-", "This", "procedure", "saves", "the", "computation", "time", "of", "calculating", "optimal", "database", "selection", "by", "allowing", "the", "step", "of", "dynamic", "programming", "to", "be", "10", "instead", "of", "1", "-LRB-", "more", "detail", "is", "discussed", "latterly", "-RRB-", ".", "For", "further", "simplification", ",", "we", "restrict", "to", "select", "at", "most", "100", "documents", "from", "each", "database", "-LRB-", "d", "i", "<", "=", "100", "-RRB-", "Then", ",", "the", "selection", "optimization", "problem", "is", "formalized", "as", "follows", ":", "-RSB-", "10", ".", ".", ",", ",", "2", ",", "1", ",", "0", "-LSB-", ",", "*", "10", "-RRB-", "-LRB-", ":", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "max", "arg", "_", "1", "^", "*", "=", "=", "=", "=", "=", "k", "k", "d", "N", "d", "N", "d", "I", "to", "Subject", "d", "d", "I", "d", "i", "rdoc", "Total", "i", "i", "sdb", "i", "i", "i", "d", "j", "ij", "i", "d", "i", "-LRB-", "16", "-RRB-", "N", "Total_rdoc", "is", "the", "total", "number", "of", "documents", "to", "be", "retrieved", ".", "Unfortunately", ",", "there", "is", "no", "simple", "solution", "for", "this", "optimization", "problem", "as", "there", "are", "for", "Equations", "10", "and", "14", ".", "However", ",", "a", "36", "dynamic", "programming", "algorithm", "can", "be", "applied", "to", "calculate", "the", "optimal", "solution", ".", "The", "basic", "steps", "of", "this", "dynamic", "programming", "method", "are", "described", "in", "Figure", "2", ".", "As", "this", "algorithm", "allows", "retrieving", "result", "lists", "of", "varying", "lengths", "from", "each", "selected", "database", ",", "it", "is", "called", "UUM/HP-VL", "algorithm", ".", "After", "the", "selection", "decisions", "are", "made", ",", "the", "selected", "databases", "are", "searched", "and", "the", "corresponding", "document", "ids", "are", "retrieved", "from", "each", "database", ".", "The", "final", "step", "of", "document", "retrieval", "is", "to", "merge", "the", "returned", "results", "into", "a", "single", "ranked", "list", "with", "the", "semi-supervised", "learning", "algorithm", ".", "It", "was", "pointed", "out", "before", "that", "the", "SSL", "algorithm", "maps", "the", "database-specific", "scores", "into", "the", "centralized", "document", "scores", "and", "builds", "the", "final", "ranked", "list", "accordingly", ",", "which", "is", "consistent", "with", "all", "our", "selection", "procedures", "where", "documents", "with", "higher", "probabilities", "of", "relevance", "-LRB-", "thus", "higher", "centralized", "document", "scores", "-RRB-", "are", "selected", ".", "It", "is", "desirable", "to", "evaluate", "distributed", "information", "retrieval", "algorithms", "with", "testbeds", "that", "closely", "simulate", "the", "real", "world", "applications", ".", "The", "TREC", "Web", "collections", "WT2g", "or", "WT10g", "-LSB-", "4,13", "-RSB-", "provide", "a", "way", "to", "partition", "documents", "by", "different", "Web", "servers", ".", "In", "this", "way", ",", "a", "large", "number", "-LRB-", "O", "-LRB-", "1000", "-RRB-", "-RRB-", "of", "databases", "with", "rather", "diverse", "contents", "could", "be", "created", ",", "which", "may", "make", "this", "testbed", "a", "good", "candidate", "to", "simulate", "the", "operational", "environments", "such", "as", "open", "domain", "hidden", "Web", ".", "However", ",", "two", "weakness", "of", "this", "testbed", "are", ":", "i", "-RRB-", "Each", "database", "contains", "only", "a", "small", "amount", "of", "document", "-LRB-", "259", "documents", "by", "average", "for", "WT2g", "-RRB-", "-LSB-", "4", "-RSB-", ";", "and", "ii", "-RRB-", "The", "contents", "of", "WT2g", "or", "WT10g", "are", "arbitrarily", "crawled", "from", "the", "Web", ".", "It", "is", "not", "likely", "for", "a", "hidden", "Web", "database", "to", "provide", "personal", "homepages", "or", "web", "pages", "indicating", "that", "the", "pages", "are", "under", "construction", "and", "there", "is", "no", "useful", "information", "at", "all", ".", "These", "types", "of", "web", "pages", "are", "contained", "in", "the", "WT2g/WT10g", "datasets", ".", "Therefore", ",", "the", "noisy", "Web", "data", "is", "not", "similar", "with", "that", "of", "high-quality", "hidden", "Web", "database", "contents", ",", "which", "are", "usually", "organized", "by", "domain", "experts", ".", "Another", "choice", "is", "the", "TREC", "news/government", "data", "-LSB-", "1,15,17", ",", "18,21", "-RSB-", ".", "TREC", "news/government", "data", "is", "concentrated", "on", "relatively", "narrow", "topics", ".", "Compared", "with", "TREC", "Web", "data", ":", "i", "-RRB-", "The", "news/government", "documents", "are", "much", "more", "similar", "to", "the", "contents", "provided", "by", "a", "topic-oriented", "database", "than", "an", "arbitrary", "web", "page", ",", "ii", "-RRB-", "A", "database", "in", "this", "testbed", "is", "larger", "than", "that", "of", "TREC", "Web", "data", ".", "By", "average", "a", "database", "contains", "thousands", "of", "documents", ",", "which", "is", "more", "realistic", "than", "a", "database", "of", "TREC", "Web", "data", "with", "about", "250", "documents", ".", "As", "the", "contents", "and", "sizes", "of", "the", "databases", "in", "the", "TREC", "news/government", "testbed", "are", "more", "similar", "with", "that", "of", "a", "topic-oriented", "database", ",", "it", "is", "a", "good", "candidate", "to", "simulate", "the", "distributed", "information", "retrieval", "environments", "of", "large", "organizations", "-LRB-", "companies", "-RRB-", "or", "domain-specific", "hidden", "Web", "sites", ",", "such", "as", "West", "that", "provides", "access", "to", "legal", ",", "financial", "and", "news", "text", "databases", "-LSB-", "3", "-RSB-", ".", "As", "most", "current", "distributed", "information", "retrieval", "systems", "are", "developed", "for", "the", "environments", "of", "large", "organizations", "-LRB-", "companies", "-RRB-", "or", "domain-specific", "hidden", "Web", "other", "than", "open", "domain", "hidden", "Web", ",", "TREC", "news/government", "testbed", "was", "chosen", "in", "this", "work", ".", "Trec123-100col-bysource", "testbed", "is", "one", "of", "the", "most", "used", "TREC", "news/government", "testbed", "-LSB-", "1,15,17,21", "-RSB-", ".", "It", "was", "chosen", "in", "this", "work", ".", "Three", "testbeds", "in", "-LSB-", "21", "-RSB-", "with", "skewed", "database", "size", "distributions", "and", "different", "types", "of", "relevant", "document", "distributions", "were", "also", "used", "to", "give", "more", "thorough", "simulation", "for", "real", "environments", ".", "Trec123-100col-bysource", ":", "100", "databases", "were", "created", "from", "TREC", "CDs", "1", ",", "2", "and", "3", ".", "They", "were", "organized", "by", "source", "and", "publication", "date", "-LSB-", "1", "-RSB-", ".", "The", "sizes", "of", "the", "databases", "are", "not", "skewed", ".", "Details", "are", "in", "Table", "1", ".", "Three", "testbeds", "built", "in", "-LSB-", "21", "-RSB-", "were", "based", "on", "the", "trec123-100col-bysource", "testbed", ".", "Each", "testbed", "contains", "many", "``", "small", "''", "databases", "and", "two", "large", "databases", "created", "by", "merging", "about", "10-20", "small", "databases", "together", ".", "Input", ":", "Complete", "lists", "of", "probabilities", "of", "relevance", "for", "all", "the", "|", "DB", "|", "databases", ".", "Output", ":", "Optimal", "selection", "solution", "for", "Equation", "16", ".", "i", "-RRB-", "Create", "the", "three-dimensional", "array", ":", "Sel", "-LRB-", "1", ".", ".", "|", "DB", "|", ",", "1", ".", ".", "N", "Total_rdoc", "/", "10", ",", "1", ".", ".", "N", "sdb", "-RRB-", "Each", "Sel", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "is", "associated", "with", "a", "selection", "decision", "xyz", "d", ",", "which", "represents", "the", "best", "selection", "decision", "in", "the", "condition", ":", "only", "databases", "from", "number", "1", "to", "number", "x", "are", "considered", "for", "selection", ";", "totally", "y", "*", "10", "documents", "will", "be", "retrieved", ";", "only", "z", "databases", "are", "selected", "out", "of", "the", "x", "database", "candidates", ".", "And", "Sel", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "is", "the", "corresponding", "utility", "value", "by", "choosing", "the", "best", "selection", ".", "ii", "-RRB-", "Initialize", "Sel", "-LRB-", "1", ",", "1", ".", ".", "N", "Total_rdoc", "/", "10", ",", "1", ".", ".", "N", "sdb", "-RRB-", "with", "only", "the", "estimated", "relevance", "information", "of", "the", "1", "st", "database", ".", "iii", "-RRB-", "Iterate", "the", "current", "database", "candidate", "i", "from", "2", "to", "|", "DB", "|", "For", "each", "entry", "Sel", "-LRB-", "i", ",", "y", ",", "z", "-RRB-", ":", "Find", "k", "such", "that", ":", "-RRB-", "10", ",", "min", "-LRB-", "1", ":", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "1", ",", ",", "1", "-LRB-", "-LRB-", "max", "arg", "*", "10", "^", "*", "y", "k", "to", "subject", "d", "R", "z", "k", "y", "i", "Sel", "k", "k", "j", "ij", "k", "+", "=", "-RRB-", ",", ",", "1", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "1", ",", ",", "1", "-LRB-", "-LRB-", "*", "*", "10", "^", "*", "z", "y", "i", "Sel", "d", "R", "z", "k", "y", "i", "Sel", "If", "k", "j", "ij", "&", "gt", ";", "+", "This", "means", "that", "we", "should", "retrieve", "*", "10", "k", "documents", "from", "the", "i", "th", "database", ",", "otherwise", "we", "should", "not", "select", "this", "database", "and", "the", "previous", "best", "solution", "Sel", "-LRB-", "i-1", ",", "y", ",", "z", "-RRB-", "should", "be", "kept", ".", "Then", "set", "the", "value", "of", "iyz", "d", "and", "Sel", "-LRB-", "i", ",", "y", ",", "z", "-RRB-", "accordingly", ".", "iv", "-RRB-", "The", "best", "selection", "solution", "is", "given", "by", "_", "/", "10", "|", "|", "Toral", "rdoc", "sdb", "DB", "N", "N", "d", "and", "the", "corresponding", "utility", "value", "is", "Sel", "-LRB-", "|", "DB", "|", ",", "N", "Total_rdoc", "/", "10", ",", "N", "sdb", "-RRB-", ".", "Figure", "2", ".", "The", "dynamic", "programming", "optimization", "procedure", "for", "Equation", "16", ".", "Table1", ":", "Testbed", "statistics", ".", "Number", "of", "documents", "Size", "-LRB-", "MB", "-RRB-", "Testbed", "Size", "-LRB-", "GB", "-RRB-", "Min", "Avg", "Max", "Min", "Avg", "Max", "Trec123", "3.2", "752", "10782", "39713", "28", "32", "42", "Table2", ":", "Query", "set", "statistics", ".", "Name", "TREC", "Topic", "Set", "TREC", "Topic", "Field", "Average", "Length", "-LRB-", "Words", "-RRB-", "Trec123", "51-150", "Title", "3.1", "37", "Trec123-2ldb-60col", "-LRB-", "``", "representative", "''", "-RRB-", ":", "The", "databases", "in", "the", "trec123-100col-bysource", "were", "sorted", "with", "alphabetical", "order", ".", "Two", "large", "databases", "were", "created", "by", "merging", "20", "small", "databases", "with", "the", "round-robin", "method", ".", "Thus", ",", "the", "two", "large", "databases", "have", "more", "relevant", "documents", "due", "to", "their", "large", "sizes", ",", "even", "though", "the", "densities", "of", "relevant", "documents", "are", "roughly", "the", "same", "as", "the", "small", "databases", ".", "Trec123-AP-WSJ-60col", "-LRB-", "``", "relevant", "''", "-RRB-", ":", "The", "24", "Associated", "Press", "collections", "and", "the", "16", "Wall", "Street", "Journal", "collections", "in", "the", "trec123-100col-bysource", "testbed", "were", "collapsed", "into", "two", "large", "databases", "APall", "and", "WSJall", ".", "The", "other", "60", "collections", "were", "left", "unchanged", ".", "The", "APall", "and", "WSJall", "databases", "have", "higher", "densities", "of", "documents", "relevant", "to", "TREC", "queries", "than", "the", "small", "databases", ".", "Thus", ",", "the", "two", "large", "databases", "have", "many", "more", "relevant", "documents", "than", "the", "small", "databases", ".", "Trec123-FR-DOE-81col", "-LRB-", "``", "nonrelevant", "''", "-RRB-", ":", "The", "13", "Federal", "Register", "collections", "and", "the", "6", "Department", "of", "Energy", "collections", "in", "the", "trec123-100col-bysource", "testbed", "were", "collapsed", "into", "two", "large", "databases", "FRall", "and", "DOEall", ".", "The", "other", "80", "collections", "were", "left", "unchanged", ".", "The", "FRall", "and", "DOEall", "databases", "have", "lower", "densities", "of", "documents", "relevant", "to", "TREC", "queries", "than", "the", "small", "databases", ",", "even", "though", "they", "are", "much", "larger", ".", "100", "queries", "were", "created", "from", "the", "title", "fields", "of", "TREC", "topics", "51-150", ".", "The", "queries", "101-150", "were", "used", "as", "training", "queries", "and", "the", "queries", "51-100", "were", "used", "as", "test", "queries", "-LRB-", "details", "in", "Table", "2", "-RRB-", ".", "4.2", "Search", "Engines", "In", "the", "uncooperative", "distributed", "information", "retrieval", "environments", "of", "large", "organizations", "-LRB-", "companies", "-RRB-", "or", "domain-specific", "hidden", "Web", ",", "different", "databases", "may", "use", "different", "types", "of", "search", "engine", ".", "To", "simulate", "the", "multiple", "type-engine", "environment", ",", "three", "different", "types", "of", "search", "engines", "were", "used", "in", "the", "experiments", ":", "INQUERY", "-LSB-", "2", "-RSB-", ",", "a", "unigram", "statistical", "language", "model", "with", "linear", "smoothing", "-LSB-", "12,20", "-RSB-", "and", "a", "TFIDF", "retrieval", "algorithm", "with", "``", "ltc", "''", "weight", "-LSB-", "12,20", "-RSB-", ".", "All", "these", "algorithms", "were", "implemented", "with", "the", "Lemur", "toolkit", "-LSB-", "12", "-RSB-", ".", "These", "three", "kinds", "of", "search", "engines", "were", "assigned", "to", "the", "databases", "among", "the", "four", "testbeds", "in", "a", "round-robin", "manner", ".", "All", "four", "testbeds", "described", "in", "Section", "4", "were", "used", "in", "the", "experiments", "to", "evaluate", "the", "resource", "selection", "effectiveness", "of", "the", "database", "recommendation", "system", ".", "The", "resource", "descriptions", "were", "created", "using", "query-based", "sampling", ".", "About", "80", "queries", "were", "sent", "to", "each", "database", "to", "download", "300", "unique", "documents", ".", "The", "database", "size", "statistics", "were", "estimated", "by", "the", "sample-resample", "method", "-LSB-", "21", "-RSB-", ".", "Fifty", "queries", "-LRB-", "101-150", "-RRB-", "were", "used", "as", "training", "queries", "to", "build", "the", "relevant", "logistic", "model", "and", "to", "fit", "the", "exponential", "functions", "of", "the", "centralized", "document", "score", "curves", "for", "large", "ratio", "databases", "-LRB-", "details", "in", "Section", "3.1", "-RRB-", ".", "Another", "50", "queries", "-LRB-", "51-100", "-RRB-", "were", "used", "as", "test", "data", ".", "Resource", "selection", "algorithms", "of", "database", "recommendation", "systems", "are", "typically", "compared", "using", "the", "recall", "metric", "n", "R", "-LSB-", "1,17,18,21", "-RSB-", ".", "Let", "B", "denote", "a", "baseline", "ranking", ",", "which", "is", "often", "the", "RBR", "-LRB-", "relevance", "based", "ranking", "-RRB-", ",", "and", "E", "as", "a", "ranking", "provided", "by", "a", "resource", "selection", "algorithm", ".", "And", "let", "B", "i", "and", "E", "i", "denote", "the", "number", "of", "relevant", "documents", "in", "the", "i", "th", "ranked", "database", "of", "B", "or", "E", ".", "Then", "R", "n", "is", "defined", "as", "follows", ":", "=", "=", "=", "k", "i", "i", "k", "i", "i", "k", "B", "E", "R", "1", "1", "-LRB-", "17", "-RRB-", "Usually", "the", "goal", "is", "to", "search", "only", "a", "few", "databases", ",", "so", "our", "figures", "only", "show", "results", "for", "selecting", "up", "to", "20", "databases", ".", "The", "experiments", "summarized", "in", "Figure", "3", "compared", "the", "effectiveness", "of", "the", "three", "resource", "selection", "algorithms", ",", "namely", "the", "CORI", ",", "ReDDE", "and", "UUM/HR", ".", "The", "UUM/HR", "algorithm", "is", "described", "in", "Section", "3.3", ".", "It", "can", "be", "seen", "from", "Figure", "3", "that", "the", "ReDDE", "and", "UUM/HR", "algorithms", "are", "more", "effective", "-LRB-", "on", "the", "representative", ",", "relevant", "and", "nonrelevant", "testbeds", "-RRB-", "or", "as", "good", "as", "-LRB-", "on", "the", "Trec123-100Col", "testbed", "-RRB-", "the", "CORI", "resource", "selection", "algorithm", ".", "The", "UUM/HR", "algorithm", "is", "more", "effective", "than", "the", "ReDDE", "algorithm", "on", "the", "representative", "and", "relevant", "testbeds", "and", "is", "about", "the", "same", "as", "the", "ReDDE", "algorithm", "on", "the", "Trec123-100Col", "and", "the", "nonrelevant", "testbeds", ".", "This", "suggests", "that", "the", "UUM/HR", "algorithm", "is", "more", "robust", "than", "the", "ReDDE", "algorithm", ".", "It", "can", "be", "noted", "that", "when", "selecting", "only", "a", "few", "databases", "on", "the", "Trec123-100Col", "or", "the", "nonrelevant", "testbeds", ",", "the", "ReDEE", "algorithm", "has", "a", "small", "advantage", "over", "the", "UUM/HR", "algorithm", ".", "We", "attribute", "this", "to", "two", "causes", ":", "i", "-RRB-", "The", "ReDDE", "algorithm", "was", "tuned", "on", "the", "Trec123-100Col", "testbed", ";", "and", "ii", "-RRB-", "Although", "the", "difference", "is", "small", ",", "this", "may", "suggest", "that", "our", "logistic", "model", "of", "estimating", "probabilities", "of", "relevance", "is", "not", "accurate", "enough", ".", "More", "training", "data", "or", "a", "more", "sophisticated", "model", "may", "help", "to", "solve", "this", "minor", "puzzle", ".", "Collections", "Selected", ".", "Collections", "Selected", ".", "Trec123-100Col", "Testbed", ".", "Representative", "Testbed", ".", "Collection", "Selected", ".", "Collection", "Selected", ".", "Relevant", "Testbed", ".", "Nonrelevant", "Testbed", ".", "Figure", "3", ".", "Resource", "selection", "experiments", "on", "the", "four", "testbeds", ".", "38", "For", "document", "retrieval", ",", "the", "selected", "databases", "are", "searched", "and", "the", "returned", "results", "are", "merged", "into", "a", "single", "final", "list", ".", "In", "all", "of", "the", "experiments", "discussed", "in", "this", "section", "the", "results", "retrieved", "from", "individual", "databases", "were", "combined", "by", "the", "semi-supervised", "learning", "results", "merging", "algorithm", ".", "This", "version", "of", "the", "SSL", "algorithm", "-LSB-", "22", "-RSB-", "is", "allowed", "to", "download", "a", "small", "number", "of", "returned", "document", "texts", "``", "on", "the", "fly", "''", "to", "create", "additional", "training", "data", "in", "the", "process", "of", "learning", "the", "linear", "models", "which", "map", "database-specific", "document", "scores", "into", "estimated", "centralized", "document", "scores", ".", "It", "has", "been", "shown", "to", "be", "very", "effective", "in", "environments", "where", "only", "short", "result-lists", "are", "retrieved", "from", "each", "selected", "database", "-LSB-", "22", "-RSB-", ".", "This", "is", "a", "common", "scenario", "in", "operational", "environments", "and", "was", "the", "case", "for", "our", "experiments", ".", "Document", "retrieval", "effectiveness", "was", "measured", "by", "Precision", "at", "the", "top", "part", "of", "the", "final", "document", "list", ".", "The", "experiments", "in", "this", "section", "were", "conducted", "to", "study", "the", "document", "retrieval", "effectiveness", "of", "five", "selection", "algorithms", ",", "namely", "the", "CORI", ",", "ReDDE", ",", "UUM/HR", ",", "UUM/HP-FL", "and", "UUM/HP-VL", "algorithms", ".", "The", "last", "three", "algorithms", "were", "proposed", "in", "Section", "3", ".", "All", "the", "first", "four", "algorithms", "selected", "3", "or", "5", "databases", ",", "and", "50", "documents", "were", "retrieved", "from", "each", "selected", "database", ".", "The", "UUM/HP-FL", "algorithm", "also", "selected", "3", "or", "5", "databases", ",", "but", "it", "was", "allowed", "to", "adjust", "the", "number", "of", "documents", "to", "retrieve", "from", "each", "selected", "database", ";", "the", "number", "retrieved", "was", "constrained", "to", "be", "from", "10", "to", "100", ",", "and", "a", "multiple", "of", "10", ".", "The", "Trec123-100Col", "and", "representative", "testbeds", "were", "selected", "for", "document", "retrieval", "as", "they", "represent", "two", "extreme", "cases", "of", "resource", "selection", "effectiveness", ";", "in", "one", "case", "the", "CORI", "algorithm", "is", "as", "good", "as", "the", "other", "algorithms", "and", "in", "the", "other", "case", "it", "is", "quite", "Table", "5", ".", "Precision", "on", "the", "representative", "testbed", "when", "3", "databases", "were", "selected", ".", "-LRB-", "The", "first", "baseline", "is", "CORI", ";", "the", "second", "baseline", "for", "UUM/HP", "methods", "is", "UUM/HR", ".", "-RRB-", "Precision", "at", "Doc", "Rank", "CORI", "ReDDE", "UUM/HR", "UUM/HP-FL", "UUM/HP-VL", "5", "docs", "0.3720", "0.4080", "-LRB-", "+9.7", "%", "-RRB-", "0.4640", "-LRB-", "+24.7", "%", "-RRB-", "0.4600", "-LRB-", "+23.7", "%", "-RRB-", "-LRB-", "-0.9", "%", "-RRB-", "0.5000", "-LRB-", "+34.4", "%", "-RRB-", "-LRB-", "+7.8", "%", "-RRB-", "10", "docs", "0.3400", "0.4060", "-LRB-", "+19.4", "%", "-RRB-", "0.4600", "-LRB-", "+35.3", "%", "-RRB-", "0.4540", "-LRB-", "+33.5", "%", "-RRB-", "-LRB-", "-1.3", "%", "-RRB-", "0.4640", "-LRB-", "+36.5", "%", "-RRB-", "-LRB-", "+0.9", "%", "-RRB-", "15", "docs", "0.3120", "0.3880", "-LRB-", "+24.4", "%", "-RRB-", "0.4320", "-LRB-", "+38.5", "%", "-RRB-", "0.4240", "-LRB-", "+35.9", "%", "-RRB-", "-LRB-", "-1.9", "%", "-RRB-", "0.4413", "-LRB-", "+41.4", "%", "-RRB-", "-LRB-", "+2.2", "-RRB-", "20", "docs", "0.3000", "0.3750", "-LRB-", "+25.0", "%", "-RRB-", "0.4080", "-LRB-", "+36.0", "%", "-RRB-", "0.4040", "-LRB-", "+34.7", "%", "-RRB-", "-LRB-", "-1.0", "%", "-RRB-", "0.4240", "-LRB-", "+41.3", "%", "-RRB-", "-LRB-", "+4.0", "%", "-RRB-", "30", "docs", "0.2533", "0.3440", "-LRB-", "+35.8", "%", "-RRB-", "0.3847", "-LRB-", "+51.9", "%", "-RRB-", "0.3747", "-LRB-", "+47.9", "%", "-RRB-", "-LRB-", "-2.6", "%", "-RRB-", "0.3887", "-LRB-", "+53.5", "%", "-RRB-", "-LRB-", "+1.0", "%", "-RRB-", "Table", "6", ".", "Precision", "on", "the", "representative", "testbed", "when", "5", "databases", "were", "selected", ".", "-LRB-", "The", "first", "baseline", "is", "CORI", ";", "the", "second", "baseline", "for", "UUM/HP", "methods", "is", "UUM/HR", ".", "-RRB-", "Precision", "at", "Doc", "Rank", "CORI", "ReDDE", "UUM/HR", "UUM/HP-FL", "UUM/HP-VL", "5", "docs", "0.3960", "0.4080", "-LRB-", "+3.0", "%", "-RRB-", "0.4560", "-LRB-", "+15.2", "%", "-RRB-", "0.4280", "-LRB-", "+8.1", "%", "-RRB-", "-LRB-", "-6.1", "%", "-RRB-", "0.4520", "-LRB-", "+14.1", "%", "-RRB-", "-LRB-", "-0.9", "%", "-RRB-", "10", "docs", "0.3880", "0.4060", "-LRB-", "+4.6", "%", "-RRB-", "0.4280", "-LRB-", "+10.3", "%", "-RRB-", "0.4460", "-LRB-", "+15.0", "%", "-RRB-", "-LRB-", "+4.2", "%", "-RRB-", "0.4560", "-LRB-", "+17.5", "%", "-RRB-", "-LRB-", "+6.5", "%", "-RRB-", "15", "docs", "0.3533", "0.3987", "-LRB-", "+12.9", "%", "-RRB-", "0.4227", "-LRB-", "+19.6", "%", "-RRB-", "0.4440", "-LRB-", "+25.7", "%", "-RRB-", "-LRB-", "+5.0", "%", "-RRB-", "0.4453", "-LRB-", "+26.0", "%", "-RRB-", "-LRB-", "+5.4", "%", "-RRB-", "20", "docs", "0.3330", "0.3960", "-LRB-", "+18.9", "%", "-RRB-", "0.4140", "-LRB-", "+24.3", "%", "-RRB-", "0.4290", "-LRB-", "+28.8", "%", "-RRB-", "-LRB-", "+3.6", "%", "-RRB-", "0.4350", "-LRB-", "+30.6", "%", "-RRB-", "-LRB-", "+5.1", "%", "-RRB-", "30", "docs", "0.2967", "0.3740", "-LRB-", "+26.1", "%", "-RRB-", "0.4013", "-LRB-", "+35.3", "%", "-RRB-", "0.3987", "-LRB-", "+34.4", "%", "-RRB-", "-LRB-", "-0.7", "%", "-RRB-", "0.4060", "-LRB-", "+36.8", "%", "-RRB-", "-LRB-", "+1.2", "%", "-RRB-", "Table", "3", ".", "Precision", "on", "the", "trec123-100col-bysource", "testbed", "when", "3", "databases", "were", "selected", ".", "-LRB-", "The", "first", "baseline", "is", "CORI", ";", "the", "second", "baseline", "for", "UUM/HP", "methods", "is", "UUM/HR", ".", "-RRB-", "Precision", "at", "Doc", "Rank", "CORI", "ReDDE", "UUM/HR", "UUM/HP-FL", "UUM/HP-VL", "5", "docs", "0.3640", "0.3480", "-LRB-", "-4.4", "%", "-RRB-", "0.3960", "-LRB-", "+8.8", "%", "-RRB-", "0.4680", "-LRB-", "+28.6", "%", "-RRB-", "-LRB-", "+18.1", "%", "-RRB-", "0.4640", "-LRB-", "+27.5", "%", "-RRB-", "-LRB-", "+17.2", "%", "-RRB-", "10", "docs", "0.3360", "0.3200", "-LRB-", "-4.8", "%", "-RRB-", "0.3520", "-LRB-", "+4.8", "%", "-RRB-", "0.4240", "-LRB-", "+26.2", "%", "-RRB-", "-LRB-", "+20.5", "%", "-RRB-", "0.4220", "-LRB-", "+25.6", "%", "-RRB-", "-LRB-", "+19.9", "%", "-RRB-", "15", "docs", "0.3253", "0.3187", "-LRB-", "-2.0", "%", "-RRB-", "0.3347", "-LRB-", "+2.9", "%", "-RRB-", "0.3973", "-LRB-", "+22.2", "%", "-RRB-", "-LRB-", "+15.7", "%", "-RRB-", "0.3920", "-LRB-", "+20.5", "%", "-RRB-", "-LRB-", "+17.1", "%", "-RRB-", "20", "docs", "0.3140", "0.2980", "-LRB-", "-5.1", "%", "-RRB-", "0.3270", "-LRB-", "+4.1", "%", "-RRB-", "0.3720", "-LRB-", "+18.5", "%", "-RRB-", "-LRB-", "+13.8", "%", "-RRB-", "0.3700", "-LRB-", "+17.8", "%", "-RRB-", "-LRB-", "+13.2", "%", "-RRB-", "30", "docs", "0.2780", "0.2660", "-LRB-", "-4.3", "%", "-RRB-", "0.2973", "-LRB-", "+6.9", "%", "-RRB-", "0.3413", "-LRB-", "+22.8", "%", "-RRB-", "-LRB-", "+14.8", "%", "-RRB-", "0.3400", "-LRB-", "+22.3", "%", "-RRB-", "-LRB-", "+14.4", "%", "-RRB-", "Table", "4", ".", "Precision", "on", "the", "trec123-100col-bysource", "testbed", "when", "5", "databases", "were", "selected", ".", "-LRB-", "The", "first", "baseline", "is", "CORI", ";", "the", "second", "baseline", "for", "UUM/HP", "methods", "is", "UUM/HR", ".", "-RRB-", "Precision", "at", "Doc", "Rank", "CORI", "ReDDE", "UUM/HR", "UUM/HP-FL", "UUM/HP-VL", "5", "docs", "0.4000", "0.3920", "-LRB-", "-2.0", "%", "-RRB-", "0.4280", "-LRB-", "+7.0", "%", "-RRB-", "0.4680", "-LRB-", "+17.0", "%", "-RRB-", "-LRB-", "+9.4", "%", "-RRB-", "0.4600", "-LRB-", "+15.0", "%", "-RRB-", "-LRB-", "+7.5", "%", "-RRB-", "10", "docs", "0.3800", "0.3760", "-LRB-", "-1.1", "%", "-RRB-", "0.3800", "-LRB-", "+0.0", "%", "-RRB-", "0.4180", "-LRB-", "+10.0", "%", "-RRB-", "-LRB-", "+10.0", "%", "-RRB-", "0.4320", "-LRB-", "+13.7", "%", "-RRB-", "-LRB-", "+13.7", "%", "-RRB-", "15", "docs", "0.3560", "0.3560", "-LRB-", "+0.0", "%", "-RRB-", "0.3720", "-LRB-", "+4.5", "%", "-RRB-", "0.3920", "-LRB-", "+10.1", "%", "-RRB-", "-LRB-", "+5.4", "%", "-RRB-", "0.4080", "-LRB-", "+14.6", "%", "-RRB-", "-LRB-", "+9.7", "%", "-RRB-", "20", "docs", "0.3430", "0.3390", "-LRB-", "-1.2", "%", "-RRB-", "0.3550", "-LRB-", "+3.5", "%", "-RRB-", "0.3710", "-LRB-", "+8.2", "%", "-RRB-", "-LRB-", "+4.5", "%", "-RRB-", "0.3830", "-LRB-", "+11.7", "%", "-RRB-", "-LRB-", "+7.9", "%", "-RRB-", "30", "docs", "0.3240", "0.3140", "-LRB-", "-3.1", "%", "-RRB-", "0.3313", "-LRB-", "+2.3", "%", "-RRB-", "0.3500", "-LRB-", "+8.0", "%", "-RRB-", "-LRB-", "+5.6", "%", "-RRB-", "0.3487", "-LRB-", "+7.6", "%", "-RRB-", "-LRB-", "+5.3", "%", "-RRB-", "39", "a", "lot", "worse", "than", "the", "other", "algorithms", ".", "Tables", "3", "and", "4", "show", "the", "results", "on", "the", "Trec123-100Col", "testbed", ",", "and", "Tables", "5", "and", "6", "show", "the", "results", "on", "the", "representative", "testbed", ".", "On", "the", "Trec123-100Col", "testbed", ",", "the", "document", "retrieval", "effectiveness", "of", "the", "CORI", "selection", "algorithm", "is", "roughly", "the", "same", "or", "a", "little", "bit", "better", "than", "the", "ReDDE", "algorithm", "but", "both", "of", "them", "are", "worse", "than", "the", "other", "three", "algorithms", "-LRB-", "Tables", "3", "and", "4", "-RRB-", ".", "The", "UUM/HR", "algorithm", "has", "a", "small", "advantage", "over", "the", "CORI", "and", "ReDDE", "algorithms", ".", "One", "main", "difference", "between", "the", "UUM/HR", "algorithm", "and", "the", "ReDDE", "algorithm", "was", "pointed", "out", "before", ":", "The", "UUM/HR", "uses", "training", "data", "and", "linear", "interpolation", "to", "estimate", "the", "centralized", "document", "score", "curves", ",", "while", "the", "ReDDE", "algorithm", "-LSB-", "21", "-RSB-", "uses", "a", "heuristic", "method", ",", "assumes", "the", "centralized", "document", "score", "curves", "are", "step", "functions", "and", "makes", "no", "distinction", "among", "the", "top", "part", "of", "the", "curves", ".", "This", "difference", "makes", "UUM/HR", "better", "than", "the", "ReDDE", "algorithm", "at", "distinguishing", "documents", "with", "high", "probabilities", "of", "relevance", "from", "low", "probabilities", "of", "relevance", ".", "Therefore", ",", "the", "UUM/HR", "reflects", "the", "high-precision", "retrieval", "goal", "better", "than", "the", "ReDDE", "algorithm", "and", "thus", "is", "more", "effective", "for", "document", "retrieval", ".", "The", "UUM/HR", "algorithm", "does", "not", "explicitly", "optimize", "the", "selection", "decision", "with", "respect", "to", "the", "high-precision", "goal", "as", "the", "UUM/HP-FL", "and", "UUM/HP-VL", "algorithms", "are", "designed", "to", "do", ".", "It", "can", "be", "seen", "that", "on", "this", "testbed", ",", "the", "UUM/HP-FL", "and", "UUM/HP-VL", "algorithms", "are", "much", "more", "effective", "than", "all", "the", "other", "algorithms", ".", "This", "indicates", "that", "their", "power", "comes", "from", "explicitly", "optimizing", "the", "high-precision", "goal", "of", "document", "retrieval", "in", "Equations", "14", "and", "16", ".", "On", "the", "representative", "testbed", ",", "CORI", "is", "much", "less", "effective", "than", "other", "algorithms", "for", "distributed", "document", "retrieval", "-LRB-", "Tables", "5", "and", "6", "-RRB-", ".", "The", "document", "retrieval", "results", "of", "the", "ReDDE", "algorithm", "are", "better", "than", "that", "of", "the", "CORI", "algorithm", "but", "still", "worse", "than", "the", "results", "of", "the", "UUM/HR", "algorithm", ".", "On", "this", "testbed", "the", "three", "UUM", "algorithms", "are", "about", "equally", "effective", ".", "Detailed", "analysis", "shows", "that", "the", "overlap", "of", "the", "selected", "databases", "between", "the", "UUM/HR", ",", "UUM/HP-FL", "and", "UUM/HP-VL", "algorithms", "is", "much", "larger", "than", "the", "experiments", "on", "the", "Trec123-100Col", "testbed", ",", "since", "all", "of", "them", "tend", "to", "select", "the", "two", "large", "databases", ".", "This", "explains", "why", "they", "are", "about", "equally", "effective", "for", "document", "retrieval", ".", "In", "real", "operational", "environments", ",", "databases", "may", "return", "no", "document", "scores", "and", "report", "only", "ranked", "lists", "of", "results", ".", "As", "the", "unified", "utility", "maximization", "model", "only", "utilizes", "retrieval", "scores", "of", "sampled", "documents", "with", "a", "centralized", "retrieval", "algorithm", "to", "calculate", "the", "probabilities", "of", "relevance", ",", "it", "makes", "database", "selection", "decisions", "without", "referring", "to", "the", "document", "scores", "from", "individual", "databases", "and", "can", "be", "easily", "generalized", "to", "this", "case", "of", "rank", "lists", "without", "document", "scores", ".", "The", "only", "adjustment", "is", "that", "the", "SSL", "algorithm", "merges", "ranked", "lists", "without", "document", "scores", "by", "assigning", "the", "documents", "with", "pseudo-document", "scores", "normalized", "for", "their", "ranks", "-LRB-", "In", "a", "ranked", "list", "of", "50", "documents", ",", "the", "first", "one", "has", "a", "score", "of", "1", ",", "the", "second", "has", "a", "score", "of", "0.98", "etc", "-RRB-", ",", "which", "has", "been", "studied", "in", "-LSB-", "22", "-RSB-", ".", "The", "experiment", "results", "on", "trec123-100Col-bysource", "testbed", "with", "3", "selected", "databases", "are", "shown", "in", "Table", "7", ".", "The", "experiment", "setting", "was", "the", "same", "as", "before", "except", "that", "the", "document", "scores", "were", "eliminated", "intentionally", "and", "the", "selected", "databases", "only", "return", "ranked", "lists", "of", "document", "ids", ".", "It", "can", "be", "seen", "from", "the", "results", "that", "the", "UUM/HP-FL", "and", "UUM/HP-VL", "work", "well", "with", "databases", "returning", "no", "document", "scores", "and", "are", "still", "more", "effective", "than", "other", "alternatives", ".", "Other", "experiments", "with", "databases", "that", "return", "no", "document", "scores", "are", "not", "reported", "but", "they", "show", "similar", "results", "to", "prove", "the", "effectiveness", "of", "UUM/HP-FL", "and", "UUM/HP-VL", "algorithms", ".", "The", "above", "experiments", "suggest", "that", "it", "is", "very", "important", "to", "optimize", "the", "high-precision", "goal", "explicitly", "in", "document", "retrieval", ".", "The", "new", "algorithms", "based", "on", "this", "principle", "achieve", "better", "or", "at", "least", "as", "good", "results", "as", "the", "prior", "state-of-the-art", "algorithms", "in", "several", "environments", ".", "Distributed", "information", "retrieval", "solves", "the", "problem", "of", "finding", "information", "that", "is", "scattered", "among", "many", "text", "databases", "on", "local", "area", "networks", "and", "Internets", ".", "Most", "previous", "research", "use", "effective", "resource", "selection", "algorithm", "of", "database", "recommendation", "system", "for", "distributed", "document", "retrieval", "application", ".", "We", "argue", "that", "the", "high-recall", "resource", "selection", "goal", "of", "database", "recommendation", "and", "high-precision", "goal", "of", "document", "retrieval", "are", "related", "but", "not", "identical", ".", "This", "kind", "of", "inconsistency", "has", "also", "been", "observed", "in", "previous", "work", ",", "but", "the", "prior", "solutions", "either", "used", "heuristic", "methods", "or", "assumed", "cooperation", "by", "individual", "databases", "-LRB-", "e.g.", ",", "all", "the", "databases", "used", "the", "same", "kind", "of", "search", "engines", "-RRB-", ",", "which", "is", "frequently", "not", "true", "in", "the", "uncooperative", "environment", ".", "In", "this", "work", "we", "propose", "a", "unified", "utility", "maximization", "model", "to", "integrate", "the", "resource", "selection", "of", "database", "recommendation", "and", "document", "retrieval", "tasks", "into", "a", "single", "unified", "framework", ".", "In", "this", "framework", ",", "the", "selection", "decisions", "are", "obtained", "by", "optimizing", "different", "objective", "functions", ".", "As", "far", "as", "we", "know", ",", "this", "is", "the", "first", "work", "that", "tries", "to", "view", "and", "theoretically", "model", "the", "distributed", "information", "retrieval", "task", "in", "an", "integrated", "manner", ".", "The", "new", "framework", "continues", "a", "recent", "research", "trend", "studying", "the", "use", "of", "query-based", "sampling", "and", "a", "centralized", "sample", "database", ".", "A", "single", "logistic", "model", "was", "trained", "on", "the", "centralized", "Table", "7", ".", "Precision", "on", "the", "trec123-100col-bysource", "testbed", "when", "3", "databases", "were", "selected", "-LRB-", "The", "first", "baseline", "is", "CORI", ";", "the", "second", "baseline", "for", "UUM/HP", "methods", "is", "UUM/HR", ".", "-RRB-", "-LRB-", "Search", "engines", "do", "not", "return", "document", "scores", "-RRB-", "Precision", "at", "Doc", "Rank", "CORI", "ReDDE", "UUM/HR", "UUM/HP-FL", "UUM/HP-VL", "5", "docs", "0.3520", "0.3240", "-LRB-", "-8.0", "%", "-RRB-", "0.3680", "-LRB-", "+4.6", "%", "-RRB-", "0.4520", "-LRB-", "+28.4", "%", "-RRB-", "-LRB-", "+22.8", "%", "-RRB-", "0.4520", "-LRB-", "+28.4", "%", "-RRB-", "-LRB-", "+22.8", "-RRB-", "10", "docs", "0.3320", "0.3140", "-LRB-", "-5.4", "%", "-RRB-", "0.3340", "-LRB-", "+0.6", "%", "-RRB-", "0.4120", "-LRB-", "+24.1", "%", "-RRB-", "-LRB-", "+23.4", "%", "-RRB-", "0.4020", "-LRB-", "+21.1", "%", "-RRB-", "-LRB-", "+20.4", "%", "-RRB-", "15", "docs", "0.3227", "0.2987", "-LRB-", "-7.4", "%", "-RRB-", "0.3280", "-LRB-", "+1.6", "%", "-RRB-", "0.3920", "-LRB-", "+21.5", "%", "-RRB-", "-LRB-", "+19.5", "%", "-RRB-", "0.3733", "-LRB-", "+15.7", "%", "-RRB-", "-LRB-", "+13.8", "%", "-RRB-", "20", "docs", "0.3030", "0.2860", "-LRB-", "-5.6", "%", "-RRB-", "0.3130", "-LRB-", "+3.3", "%", "-RRB-", "0.3670", "-LRB-", "+21.2", "%", "-RRB-", "-LRB-", "+17.3", "%", "-RRB-", "0.3590", "-LRB-", "+18.5", "%", "-RRB-", "-LRB-", "+14.7", "%", "-RRB-", "30", "docs", "0.2727", "0.2640", "-LRB-", "-3.2", "%", "-RRB-", "0.2900", "-LRB-", "+6.3", "%", "-RRB-", "0.3273", "-LRB-", "+20.0", "%", "-RRB-", "-LRB-", "+12.9", "%", "-RRB-", "0.3273", "-LRB-", "+20.0", "%", "-RRB-", "-LRB-", "+12.9", "%", "-RRB-", "40", "sample", "database", "to", "estimate", "the", "probabilities", "of", "relevance", "of", "documents", "by", "their", "centralized", "retrieval", "scores", ",", "while", "the", "centralized", "sample", "database", "serves", "as", "a", "bridge", "to", "connect", "the", "individual", "databases", "with", "the", "centralized", "logistic", "model", ".", "Therefore", ",", "the", "probabilities", "of", "relevance", "for", "all", "the", "documents", "across", "the", "databases", "can", "be", "estimated", "with", "very", "small", "amount", "of", "human", "relevance", "judgment", ",", "which", "is", "much", "more", "efficient", "than", "previous", "methods", "that", "build", "a", "separate", "model", "for", "each", "database", ".", "This", "framework", "is", "not", "only", "more", "theoretically", "solid", "but", "also", "very", "effective", ".", "One", "algorithm", "for", "resource", "selection", "-LRB-", "UUM/HR", "-RRB-", "and", "two", "algorithms", "for", "document", "retrieval", "-LRB-", "UUM/HP-FL", "and", "UUM/HP-VL", "-RRB-", "are", "derived", "from", "this", "framework", ".", "Empirical", "studies", "have", "been", "conducted", "on", "testbeds", "to", "simulate", "the", "distributed", "search", "solutions", "of", "large", "organizations", "-LRB-", "companies", "-RRB-", "or", "domain-specific", "hidden", "Web", ".", "Furthermore", ",", "the", "UUM/HP-FL", "and", "UUM/HP-VL", "resource", "selection", "algorithms", "are", "extended", "with", "a", "variant", "of", "SSL", "results", "merging", "algorithm", "to", "address", "the", "distributed", "document", "retrieval", "task", "when", "selected", "databases", "do", "not", "return", "document", "scores", ".", "Experiments", "have", "shown", "that", "these", "algorithms", "achieve", "results", "that", "are", "at", "least", "as", "good", "as", "the", "prior", "state-of-the-art", ",", "and", "sometimes", "considerably", "better", ".", "Detailed", "analysis", "indicates", "that", "the", "advantage", "of", "these", "algorithms", "comes", "from", "explicitly", "optimizing", "the", "goals", "of", "the", "specific", "tasks", ".", "The", "unified", "utility", "maximization", "framework", "is", "open", "for", "different", "extensions", ".", "When", "cost", "is", "associated", "with", "searching", "the", "online", "databases", ",", "the", "utility", "framework", "can", "be", "adjusted", "to", "automatically", "estimate", "the", "best", "number", "of", "databases", "to", "search", "so", "that", "a", "large", "amount", "of", "relevant", "documents", "can", "be", "retrieved", "with", "relatively", "small", "costs", ".", "Another", "extension", "of", "the", "framework", "is", "to", "consider", "the", "retrieval", "effectiveness", "of", "the", "online", "databases", ",", "which", "is", "an", "important", "issue", "in", "the", "operational", "environments", ".", "All", "of", "these", "are", "the", "directions", "of", "future", "research", ".", "This", "research", "was", "supported", "by", "NSF", "grants", "EIA-9983253", "and", "IIS-0118767", ".", "Any", "opinions", ",", "findings", ",", "conclusions", ",", "or", "recommendations", "expressed", "in", "this", "paper", "are", "the", "authors", "'", ",", "and", "do", "not", "necessarily", "reflect", "those", "of", "the", "sponsor", ".", "-LSB-", "1", "-RSB-", "J.", "Callan", ".", "-LRB-", "2000", "-RRB-", ".", "Distributed", "information", "retrieval", ".", "In", "W.B.", "Croft", ",", "editor", ",", "Advances", "in", "Information", "Retrieval", ".", "Kluwer", "Academic", "Publishers", ".", "-LRB-", "pp.", "127-150", "-RRB-", ".", "-LSB-", "2", "-RSB-", "J.", "Callan", ",", "W.B.", "Croft", ",", "and", "J.", "Broglio", ".", "-LRB-", "1995", "-RRB-", ".", "TREC", "and", "TIPSTER", "experiments", "with", "INQUERY", ".", "Information", "Processing", "and", "Management", ",", "31", "-LRB-", "3", "-RRB-", ".", "-LRB-", "pp.", "327-343", "-RRB-", ".", "-LSB-", "3", "-RSB-", "J.", "G.", "Conrad", ",", "X.", "S.", "Guo", ",", "P.", "Jackson", "and", "M.", "Meziou", ".", "-LRB-", "2002", "-RRB-", ".", "Database", "selection", "using", "actual", "physical", "and", "acquired", "logical", "collection", "resources", "in", "a", "massive", "domain-specific", "operational", "environment", ".", "Distributed", "search", "over", "the", "hidden", "web", ":", "Hierarchical", "database", "sampling", "and", "selection", ".", "In", "Proceedings", "of", "the", "28", "th", "International", "Conference", "on", "Very", "Large", "Databases", "-LRB-", "VLDB", "-RRB-", ".", "-LSB-", "4", "-RSB-", "N.", "Craswell", ".", "-LRB-", "2000", "-RRB-", ".", "Methods", "for", "distributed", "information", "retrieval", ".", "Ph.", "D.", "thesis", ",", "The", "Australian", "Nation", "University", ".", "-LSB-", "5", "-RSB-", "N.", "Craswell", ",", "D.", "Hawking", ",", "and", "P.", "Thistlewaite", ".", "-LRB-", "1999", "-RRB-", ".", "Merging", "results", "from", "isolated", "search", "engines", ".", "In", "Proceedings", "of", "10th", "Australasian", "Database", "Conference", ".", "-LSB-", "6", "-RSB-", "D.", "D'Souza", ",", "J.", "Thom", ",", "and", "J.", "Zobel", ".", "-LRB-", "2000", "-RRB-", ".", "A", "comparison", "of", "techniques", "for", "selecting", "text", "collections", ".", "In", "Proceedings", "of", "the", "11th", "Australasian", "Database", "Conference", ".", "-LSB-", "7", "-RSB-", "N.", "Fuhr", ".", "-LRB-", "1999", "-RRB-", ".", "A", "Decision-Theoretic", "approach", "to", "database", "selection", "in", "networked", "IR", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "17", "-LRB-", "3", "-RRB-", ".", "-LRB-", "pp.", "229-249", "-RRB-", ".", "-LSB-", "8", "-RSB-", "L.", "Gravano", ",", "C.", "Chang", ",", "H.", "Garcia-Molina", ",", "and", "A.", "Paepcke", ".", "-LRB-", "1997", "-RRB-", ".", "STARTS", ":", "Stanford", "proposal", "for", "internet", "meta-searching", ".", "In", "Proceedings", "of", "the", "20th", "ACM-SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ".", "-LSB-", "9", "-RSB-", "L.", "Gravano", ",", "P.", "Ipeirotis", "and", "M.", "Sahami", ".", "-LRB-", "2003", "-RRB-", ".", "QProber", ":", "A", "System", "for", "Automatic", "Classification", "of", "Hidden-Web", "Databases", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "21", "-LRB-", "1", "-RRB-", ".", "-LSB-", "10", "-RSB-", "P.", "Ipeirotis", "and", "L.", "Gravano", ".", "-LRB-", "2002", "-RRB-", ".", "Distributed", "search", "over", "the", "hidden", "web", ":", "Hierarchical", "database", "sampling", "and", "selection", ".", "In", "Proceedings", "of", "the", "28th", "International", "Conference", "on", "Very", "Large", "Databases", "-LRB-", "VLDB", "-RRB-", ".", "-LSB-", "11", "-RSB-", "InvisibleWeb.com", ".", "http://www.invisibleweb.com", "-LSB-", "12", "-RSB-", "The", "lemur", "toolkit", ".", "http://www.cs.cmu.edu/~lemur", "-LSB-", "13", "-RSB-", "J.", "Lu", "and", "J.", "Callan", ".", "-LRB-", "2003", "-RRB-", ".", "Content-based", "information", "retrieval", "in", "peer-to-peer", "networks", ".", "In", "Proceedings", "of", "the", "12th", "International", "Conference", "on", "Information", "and", "Knowledge", "Management", ".", "-LSB-", "14", "-RSB-", "W.", "Meng", ",", "C.T.", "Yu", "and", "K.L.", "Liu", ".", "-LRB-", "2002", "-RRB-", "Building", "efficient", "and", "effective", "metasearch", "engines", ".", "ACM", "Comput", ".", "Surv", ".", "34", "-LRB-", "1", "-RRB-", ".", "-LSB-", "15", "-RSB-", "H.", "Nottelmann", "and", "N.", "Fuhr", ".", "-LRB-", "2003", "-RRB-", ".", "Evaluating", "different", "method", "of", "estimating", "retrieval", "quality", "for", "resource", "selection", ".", "In", "Proceedings", "of", "the", "25th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ".", "-LSB-", "16", "-RSB-", "H.", ",", "Nottelmann", "and", "N.", ",", "Fuhr", ".", "-LRB-", "2003", "-RRB-", ".", "The", "MIND", "architecture", "for", "heterogeneous", "multimedia", "federated", "digital", "libraries", ".", "ACM", "SIGIR", "2003", "Workshop", "on", "Distributed", "Information", "Retrieval", ".", "-LSB-", "17", "-RSB-", "A.L.", "Powell", ",", "J.C.", "French", ",", "J.", "Callan", ",", "M.", "Connell", ",", "and", "C.L.", "Viles", ".", "-LRB-", "2000", "-RRB-", ".", "The", "impact", "of", "database", "selection", "on", "distributed", "searching", ".", "In", "Proceedings", "of", "the", "23rd", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ".", "-LSB-", "18", "-RSB-", "A.L.", "Powell", "and", "J.C.", "French", ".", "-LRB-", "2003", "-RRB-", ".", "Comparing", "the", "performance", "of", "database", "selection", "algorithms", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "21", "-LRB-", "4", "-RRB-", ".", "-LRB-", "pp.", "412-456", "-RRB-", ".", "-LSB-", "19", "-RSB-", "C.", "Sherman", "-LRB-", "2001", "-RRB-", ".", "Search", "for", "the", "invisible", "web", ".", "Guardian", "Unlimited", ".", "-LSB-", "20", "-RSB-", "L.", "Si", "and", "J.", "Callan", ".", "-LRB-", "2002", "-RRB-", ".", "Using", "sampled", "data", "and", "regression", "to", "merge", "search", "engine", "results", ".", "In", "Proceedings", "of", "the", "25th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ".", "-LSB-", "21", "-RSB-", "L.", "Si", "and", "J.", "Callan", ".", "-LRB-", "2003", "-RRB-", ".", "Relevant", "document", "distribution", "estimation", "method", "for", "resource", "selection", ".", "In", "Proceedings", "of", "the", "26th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ".", "-LSB-", "22", "-RSB-", "L.", "Si", "and", "J.", "Callan", ".", "-LRB-", "2003", "-RRB-", ".", "A", "Semi-Supervised", "learning", "method", "to", "merge", "search", "engine", "results", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "21", "-LRB-", "4", "-RRB-", ".", "-LRB-", "pp.", "457-491", "-RRB-", ".", "41"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["resource selection", "distributed information retrieval"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "185", "document": ["Tactons", ":", "Structured", "Tactile", "Messages", "for", "Non-Visual", "Information", "Display", "Tactile", "displays", "are", "now", "becoming", "available", "in", "a", "form", "that", "can", "be", "easily", "used", "in", "a", "user", "interface", ".", "This", "paper", "describes", "a", "new", "form", "of", "tactile", "output", ".", "Tactons", ",", "or", "tactile", "icons", ",", "are", "structured", ",", "abstract", "messages", "that", "can", "be", "used", "to", "communicate", "messages", "non-visually", ".", "A", "range", "of", "different", "parameters", "can", "be", "used", "for", "Tacton", "construction", "including", ":", "frequency", ",", "amplitude", "and", "duration", "of", "a", "tactile", "pulse", ",", "plus", "other", "parameters", "such", "as", "rhythm", "and", "location", ".", "Tactons", "have", "the", "potential", "to", "improve", "interaction", "in", "a", "range", "of", "different", "areas", ",", "particularly", "where", "the", "visual", "display", "is", "overloaded", ",", "limited", "in", "size", "or", "not", "available", ",", "such", "as", "interfaces", "for", "blind", "people", "or", "in", "mobile", "and", "wearable", "devices", ".", ".", "This", "paper", "describes", "Tactons", ",", "the", "parameters", "used", "to", "construct", "them", "and", "some", "possible", "ways", "to", "design", "them", ".", "Examples", "of", "where", "Tactons", "might", "prove", "useful", "in", "user", "interfaces", "are", "given", ".", "The", "area", "of", "haptic", "-LRB-", "touch-based", "-RRB-", "human", "computer", "interaction", "-LRB-", "HCI", "-RRB-", "has", "grown", "rapidly", "over", "the", "last", "few", "years", ".", "A", "range", "of", "new", "applications", "has", "become", "possible", "now", "that", "touch", "can", "be", "used", "as", "an", "interaction", "technique", "-LRB-", "Wall", "et", "al.", ",", "2002", "-RRB-", ".", "However", ",", "most", "current", "haptic", "devices", "have", "scant", "provision", "for", "tactile", "stimulation", ",", "being", "primarily", "pro-grammable", ",", "constrained", "motion", "force-feedback", "devices", "for", "kinaesthetic", "display", ".", "The", "cutaneous", "-LRB-", "skin-based", "-RRB-", "component", "is", "ignored", "even", "though", "it", "is", "a", "key", "part", "of", "our", "experience", "of", "touch", "-LRB-", "van", "Erp", ",", "2002", "-RRB-", ".", "It", "is", ",", "for", "example", ",", "important", "for", "recognising", "texture", ",", "and", "detecting", "slip", ",", "compliance", "and", "direction", "of", "edges", ".", "As", "Tan", "-LRB-", "1997", "-RRB-", "says", "``", "In", "the", "general", "area", "of", "human-computer", "interfaces", "...", "the", "tactual", "sense", "is", "still", "underutilised", "compared", "with", "vision", "and", "audition", "''", ".", "One", "reason", "for", "this", "is", "that", ",", "until", "recently", ",", "the", "technology", "for", "tactile", "displays", "was", "limited", ".", "Tactile", "displays", "are", "not", "new", "but", "they", "have", "not", "received", "much", "attention", "from", "HCI", "researchers", "as", "they", "are", "often", "engineering", "prototypes", "or", "designed", "for", "very", "specific", "ap", "Copyright", "2004", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "the", "5th", "Australasian", "User", "Interface", "Conference", "-LRB-", "AUIC2004", "-RRB-", ",", "Dunedin", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "28", ".", "A.", "Cockburn", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "plications", "-LRB-", "Kaczmarek", "et", "al.", ",", "1991", "-RRB-", ".", "They", "have", "been", "used", "in", "areas", "such", "as", "tele-operation", "or", "displays", "for", "blind", "people", "to", "provide", "sensory", "substitution", "where", "one", "sense", "is", "used", "to", "receive", "information", "normally", "received", "by", "another", "-LRB-", "Kaczmarek", "et", "al.", "-RRB-", ".", "Most", "of", "the", "development", "of", "these", "devices", "has", "taken", "place", "in", "robotics", "or", "engineering", "labs", "and", "has", "focused", "on", "the", "challenges", "inherent", "in", "building", "low", "cost", ",", "high-resolution", "devices", "with", "realistic", "size", ",", "power", "and", "safety", "performance", ".", "Little", "research", "has", "gone", "into", "how", "they", "might", "actually", "be", "used", "at", "the", "user", "interface", ".", "Devices", "are", "now", "available", "that", "allow", "the", "use", "of", "tactile", "displays", "so", "the", "time", "is", "right", "to", "think", "about", "how", "they", "might", "be", "used", "to", "improve", "interaction", ".", "In", "this", "paper", "the", "concept", "of", "Tactons", ",", "or", "tactile", "icons", ",", "is", "introduced", "as", "a", "new", "communication", "method", "to", "complement", "graphical", "and", "auditory", "feedback", "at", "the", "user", "interface", ".", "Tactons", "are", "structured", ",", "abstract", "messages", "that", "can", "be", "used", "to", "communicate", "messages", "non-visually", ".", "Conveying", "structured", "messages", "through", "touch", "will", "be", "very", "useful", "in", "areas", "such", "as", "wearable", "computing", "where", "screens", "are", "limited", ".", "The", "paper", "gives", "some", "background", "to", "the", "perception", "and", "use", "of", "tactile", "stimuli", "and", "then", "describes", "the", "design", "of", "Tactons", ".", "It", "finishes", "with", "examples", "of", "potential", "uses", "for", "Tactons", ".", "The", "skin", "is", "the", "largest", "organ", "in", "the", "body", ",", "about", "2", "m", "2", "in", "the", "average", "male", "-LRB-", "Montagu", ",", "1971", "-RRB-", ".", "Little", "direct", "use", "is", "made", "of", "it", "for", "displaying", "information", "in", "human-computer", "interfaces", "-LRB-", "Tan", "and", "Pentland", ",", "1997", ",", "van", "Erp", ",", "2002", "-RRB-", ",", "yet", "a", "touch", "on", "the", "hand", "or", "other", "parts", "of", "the", "body", "is", "a", "very", "rich", "experience", ".", "The", "skin", "can", "therefore", "potentially", "be", "used", "as", "a", "medium", "to", "communicate", "information", ".", "As", "a", "receiving", "instrument", "the", "skin", "combines", "important", "aspects", "of", "the", "eye", "and", "the", "ear", ",", "with", "high", "acuity", "in", "both", "space", "and", "time", "-LRB-", "Gunther", ",", "2001", "-RRB-", "giving", "it", "good", "potential", "as", "a", "communication", "medium", ".", "The", "human", "sense", "of", "touch", "can", "be", "roughly", "split", "in", "to", "two", "parts", ":", "kinaesthetic", "and", "cutaneous", ".", "``", "Kinaesthetic", "''", "is", "often", "used", "as", "catch-all", "term", "to", "describe", "the", "information", "arising", "from", "forces", "and", "positions", "sensed", "by", "the", "muscles", "and", "joints", ".", "Force-feedback", "haptic", "devices", "-LRB-", "such", "as", "the", "PHANToM", "from", "SensAble", "-RRB-", "are", "used", "to", "present", "information", "to", "the", "kinaesthetic", "sense", ".", "Cutaneous", "perception", "refers", "to", "the", "mechanoreceptors", "contained", "within", "the", "skin", ",", "and", "includes", "the", "sensations", "of", "vibration", ",", "temperature", ",", "pain", "and", "indentation", ".", "Tactile", "devices", "are", "used", "to", "present", "feedback", "to", "the", "cutaneous", "sense", ".", "15", "Current", "haptic", "devices", "use", "force-feedback", "to", "present", "kinaesthetic", "stimuli", ".", "This", "works", "well", "for", "some", "aspects", "of", "touch", "-LRB-", "e.g.", "identifying", "the", "geometric", "properties", "of", "objects", "-RRB-", "but", "is", "poor", "for", "features", "such", "as", "texture", "-LRB-", "normally", "perceived", "cutaneously", "-RRB-", ".", "Oakley", "et", "al.", "-LRB-", "2000", "-RRB-", "found", "that", "trying", "to", "use", "texture", "in", "a", "user", "interface", "with", "a", "force-feedback", "device", "actually", "reduced", "user", "performance", ".", "One", "reason", "for", "this", "is", "that", "the", "textures", "had", "to", "be", "made", "large", "so", "that", "they", "could", "be", "perceived", "kinaesthetically", ",", "but", "they", "then", "perturbed", "users", "'", "movements", ".", "The", "use", "of", "a", "tactile", "haptic", "device", "to", "present", "texture", "would", "not", "have", "this", "problem", "as", "small", "indentations", "in", "the", "fingertip", "would", "not", "affect", "hand", "movements", ".", "At", "present", ",", "however", ",", "there", "are", "no", "haptic", "devices", "that", "do", "a", "good", "job", "of", "presenting", "both", "tactile", "and", "force-feedback", "cues", "to", "users", ".", "Current", "force-feedback", "devices", "use", "a", "point", "interaction", "model", ";", "the", "user", "is", "represented", "by", "a", "single", "point", "of", "contact", "corresponding", "to", "the", "tip", "of", "a", "stylus", ".", "This", "is", "analogous", "to", "exploring", "the", "world", "by", "remote", "contact", "through", "a", "stick", "thus", "depriving", "the", "user", "of", "the", "rich", ",", "spatially", "varying", "cutaneous", "cues", "that", "arise", "on", "the", "finger", "pad", "when", "contacting", "a", "real", "object", "-LRB-", "Wall", "and", "Harwin", ",", "2001", "-RRB-", ".", "Users", "must", "integrate", "temporally", "varying", "cues", "as", "they", "traverse", "the", "structure", "of", "virtual", "objects", "with", "the", "single", "point", "of", "contact", ",", "which", "places", "considerable", "demands", "on", "short-term", "memory", "-LRB-", "Jansson", "and", "Larsson", ",", "2002", "-RRB-", ".", "Even", "when", "exploring", "simple", "geometric", "primitives", ",", "performance", "is", "greatly", "reduced", "compared", "to", "natural", "touch", ".", "Lederman", "and", "Klatzky", "-LRB-", "1999", "-RRB-", "have", "shown", "that", "such", "removal", "of", "cutaneous", "input", "to", "the", "fingertip", "impedes", "perception", "of", "edge", "direction", ",", "which", "is", "an", "essential", "component", "of", "understanding", "haptic", "objects", ".", "It", "can", "therefore", "be", "seen", "that", "tactile", "feedback", "and", "cutaneous", "perception", "are", "key", "parts", "of", "touch", "that", "must", "be", "incorporated", "into", "haptic", "displays", "if", "they", "are", "to", "be", "effective", "and", "usable", ".", "2.1", "Vibrotactile", "actuators", "There", "are", "two", "basic", "types", "of", "vibrotactile", "display", "device", ".", "These", "evoke", "tactile", "sensations", "using", "mechanical", "vibration", "of", "the", "skin", "-LRB-", "usually", "in", "the", "range", "10-500Hz", "-RRB-", "-LRB-", "Kaczmarek", "et", "al.", ",", "1991", "-RRB-", ".", "This", "is", "commonly", "done", "by", "vibrating", "a", "small", "plate", "pressed", "against", "the", "skin", "or", "via", "a", "pin", "or", "array", "of", "pins", "on", "the", "fingertip", ".", "These", "are", "very", "easy", "to", "control", "from", "standard", "PC", "hardware", ".", "Other", "types", "of", "actuator", "technology", "are", "available", ",", "including", "pneumatic", "and", "electrotactile", "-LRB-", "Stone", ",", "2000", "-RRB-", ",", "but", "these", "tend", "to", "be", "bulkier", "and", "harder", "to", "control", "so", "are", "less", "useful", "in", "many", "situations", ".", "Figure", "1", ":", "The", "pins", "arrays", "on", "the", "VirTouch", "tactile", "mouse", "-LRB-", "www.virtouch.com", "-RRB-", ".", "The", "first", "type", "of", "vibrotactile", "display", "uses", "a", "pin", "or", "array", "of", "small", "pins", "-LRB-", "e.g.", "the", "VirTouch", "mouse", "in", "Figure", "1", "or", "those", "produced", "by", "Summers", "et", "al.", "-LRB-", "2001", "-RRB-", "-RRB-", "to", "stimulate", "the", "fingertip", ".", "Such", "devices", "can", "present", "very", "fine", "cues", "for", "surface", "texture", ",", "edges", ",", "lines", ",", "etc.", ".", "The", "second", "type", "uses", "larger", "point-contact", "stimulators", "-LRB-", "e.g.", "Figure", "2", "or", "alternatively", "small", "loudspeaker", "cones", "playing", "tones", ",", "or", "other", "simple", "vibrating", "actuators", "placed", "against", "the", "skin", "as", "used", "by", "Tan", "-LRB-", "1997", "-RRB-", "and", "in", "devices", "such", "as", "the", "CyberTouch", "glove", "www.immersion.com", "-RRB-", ".", "The", "cues", "here", "are", "much", "lower", "resolution", "but", "can", "exert", "more", "force", ";", "they", "can", "also", "be", "distributed", "over", "the", "body", "to", "allow", "multiple", "simultaneous", "cues", "-LRB-", "often", "mounted", "in", "a", "vest", "on", "the", "user", "'s", "back", "or", "in", "a", "belt", "around", "the", "waist", "-RRB-", ".", "These", "devices", "are", "both", "easy", "to", "control", "and", "use", ".", "For", "a", "full", "review", "see", "Kaczmarek", "et", "al.", ".", "-LRB-", "1991", "-RRB-", ".", "Figure", "2", ":", "Audiological", "Engineering", "Corp.", ".", "VBW32", "transducers", "-LRB-", "www.tactaid.com", "-RRB-", ".", "2.2", "Previous", "work", "on", "tactile", "display", "One", "common", "form", "of", "tactile", "output", "is", "Braille", ",", "and", "dynamic", "Braille", "cells", "are", "available", ".", "A", "display", "is", "made", "up", "of", "a", "line", "of", "`", "soft", "'", "cells", "-LRB-", "often", "40", "or", "80", "-RRB-", ",", "each", "with", "6", "or", "8", "pins", "that", "move", "up", "and", "down", "to", "represent", "the", "dots", "of", "a", "Braille", "cell", ".", "The", "user", "can", "read", "a", "line", "of", "Braille", "cells", "by", "touching", "the", "pins", "of", "each", "cell", "as", "they", "pop", "up", "-LRB-", "for", "more", "information", "see", "www.tiresias.org", "-RRB-", ".", "The", "focus", "of", "the", "work", "reported", "here", "is", "not", "on", "Braille", "as", "it", "tends", "to", "be", "used", "mainly", "for", "representing", "text", "-LRB-", "although", "other", "notations", "are", "used", ",", "e.g.", "music", "-RRB-", "and", "the", "cells", "are", "very", "low", "resolution", "-LRB-", "8", "pins", "maximum", "-RRB-", ".", "These", "displays", "are", "also", "very", "expensive", "with", "an", "80", "cell", "display", "costing", "around", "4000", ".", "There", "have", "been", "many", "other", "tactile", "devices", "for", "blind", "people", ",", "such", "as", "the", "Optacon", "-LRB-", "TeleSensory", "Inc.", "-RRB-", ",", "which", "used", "an", "array", "of", "144", "pins", "to", "display", "the", "input", "from", "a", "camera", "to", "the", "fingertip", ",", "but", "again", "these", "are", "mainly", "used", "for", "reading", "text", ".", "Pin", "arrays", "produce", "Braille", "but", "can", "do", "much", "more", ",", "especially", "the", "higher", "resolution", "displays", "such", "as", "shown", "in", "Figure", "1", ".", "Our", "research", "also", "builds", "on", "the", "work", "that", "has", "been", "done", "on", "tactile", "graphics", "for", "blind", "people", "-LRB-", "this", "mainly", "takes", "the", "form", "of", "raised", "lines", "and", "dots", "on", "special", "`", "swell", "'", "paper", "-RRB-", ".", "Kurze", "-LRB-", "1997", ",", "1998", "-RRB-", "and", "Challis", "-LRB-", "2001", "-RRB-", "have", "developed", "guidelines", "which", "allow", "images", "and", "objects", "to", "be", "presented", "that", "are", "understandable", "through", "touch", "by", "blind", "users", ".", "Two", "other", "examples", "show", "that", "the", "cutaneous", "sense", "is", "very", "effective", "for", "communication", ".", "Firstly", ",", "Tadoma", "is", "a", "tactile", "language", "used", "by", "deaf/blind", "people", ".", "The", "transmitter", "speaks", "normally", "and", "the", "receiver", "puts", "a", "hand", "on", "the", "face", "of", "the", "speaker", ",", "covering", "the", "mouth", "and", "neck", "-LRB-", "Tan", "and", "Pentland", ",", "2001", "-RRB-", ".", "Tadoma", "users", "can", "listen", "at", "very", "high", "16", "speeds", "-LRB-", "normal", "speaking", "speed", "for", "experts", "-RRB-", "and", "pick", "up", "subtleties", "of", "the", "speech", "such", "as", "accent", ".", "In", "the", "second", "example", ",", "Geldard", "-LRB-", "1957", "-RRB-", "taught", "participants", "a", "simple", "tactile", "language", "of", "45", "symbols", ",", "using", "three", "intensities", ",", "three", "durations", "and", "five", "locations", "on", "the", "chest", ".", "Participants", "were", "able", "to", "learn", "the", "alphabet", "quickly", "and", "could", "recognise", "up", "to", "38", "words", "per", "minute", "in", "some", "cases", ".", "Other", "sensory", "substitution", "systems", "convert", "sound", "into", "vibration", "for", "hearing-impaired", "people", "-LRB-", "e.g.", "the", "TactAid", "system", "from", "Audiological", "Engineering", "-RRB-", ".", "Again", "this", "shows", "that", "cutaneous", "perception", "is", "very", "powerful", "and", "if", "we", "can", "make", "use", "of", "it", "at", "the", "user", "interfaces", "we", "will", "have", "a", "rich", "new", "way", "to", "present", "information", "to", "users", ".", "Research", "and", "existing", "applications", "have", "shown", "that", "the", "cutaneous", "sense", "is", "a", "very", "powerful", "method", "of", "receiving", "information", ".", "Other", "work", "has", "shown", "that", "it", "can", "be", "used", "in", "user", "interfaces", "and", "wearable", "computers", "-LRB-", "Gemperle", "et", "al.", ",", "1998", "-RRB-", ".", "Tan", "has", "begun", "to", "investigate", "the", "use", "of", "tactile", "displays", "on", "wearable", "computers", "-LRB-", "Tan", "and", "Pentland", ",", "1997", "-RRB-", ".", "She", "used", "a", "3x3", "grid", "of", "stimulators", "on", "a", "user", "'s", "back", "to", "provide", "navigation", "information", ".", "Informal", "results", "suggested", "it", "was", "useful", "but", "no", "formal", "evaluation", "has", "taken", "place", ".", "Other", "relevant", "work", "has", "taken", "place", "in", "aircraft", "cockpits", "to", "provide", "pilots", "with", "navigation", "information", "-LRB-", "van", "Veen", "and", "van", "Erp", ",", "2001", ",", "Rupert", ",", "2000", "-RRB-", ".", "In", "these", "examples", "only", "simple", "tactile", "cues", "for", "direction", "have", "been", "provided", ".", "For", "example", ",", "an", "actuator", "maybe", "vibrated", "on", "one", "side", "of", "the", "body", "to", "indicate", "the", "direction", "to", "turn", ".", "More", "sophisticated", "cues", "could", "be", "used", "to", "provide", "much", "more", "information", "to", "users", "without", "them", "needing", "to", "use", "their", "eyes", ".", "Gunther", "et", "al.", "have", "used", "tactile", "cues", "to", "present", "`", "musical", "'", "compositions", "to", "users", "-LRB-", "Gunther", ",", "2001", ",", "Gunther", "et", "al.", ",", "2002", "-RRB-", ".", "They", "say", ":", "``", "The", "approach", "taken", "...", "views", "haptic", "technologies", "in", "particular", "the", "vibrotactile", "stimulator", "as", "independent", "output", "devices", "to", "be", "used", "in", "conjunction", "with", "the", "composition", "and", "perception", "of", "music", ".", "Vibrotactile", "stimuli", "are", "viewed", "not", "as", "signals", "carrying", "information", "per", "se", ",", "but", "as", "aesthetic", "artifacts", "themselves", "''", ".", "He", "used", "an", "array", "of", "13", "transducers", "across", "the", "body", "of", "a", "`", "listener", "'", "so", "that", "he/she", "could", "experience", "the", "combined", "sonic/tactile", "presentation", ".", "Gunther", "created", "a", "series", "of", "compositions", "played", "to", "listeners", "who", "appeared", "to", "enjoy", "them", ".", "This", "work", "was", "artistic", "in", "nature", "so", "no", "formal", "usability", "assessments", "were", "made", "but", "the", "listeners", "all", "liked", "the", "experience", ".", "In", "order", "to", "create", "a", "tactile", "composition", "-LRB-", "the", "same", "is", "true", "for", "the", "Tactons", "described", "below", "-RRB-", "a", "good", "understanding", "of", "the", "experience", "of", "touch", "is", "needed", ".", "However", ",", "as", "Gunther", "et", "al.", "suggest", ":", "``", "It", "is", "indeed", "premature", "to", "hammer", "out", "the", "details", "of", "a", "language", "for", "tactile", "composition", ".", "It", "seems", "more", "productive", "at", "this", "point", "in", "time", "to", "identify", "the", "underpinnings", "of", "such", "a", "language", ",", "specifically", "those", "dimensions", "of", "tactile", "stimuli", "that", "can", "be", "manipulated", "to", "form", "the", "basic", "vocabulary", "elements", "of", "a", "compositional", "lan-guage", "''", ".", "Research", "is", "needed", "to", "gain", "a", "more", "systematic", "understanding", "of", "cutaneous", "perception", "for", "use", "in", "the", "presentation", "of", "such", "messages", ".", "Enriquez", "and", "MacLean", "-LRB-", "2003", "-RRB-", "recently", "proposed", "`", "haptic", "icons", "'", ",", "which", "they", "define", "as", "``", "brief", "programmed", "forces", "applied", "to", "a", "user", "through", "a", "haptic", "interface", ",", "with", "the", "role", "of", "communicating", "a", "simple", "idea", "in", "a", "manner", "similar", "to", "visual", "or", "auditory", "icons", "''", ".", "The", "problem", "they", "are", "trying", "to", "address", "is", "different", "to", "that", "of", "Tactons", ",", "as", "they", "say", "``", "With", "the", "introduction", "of", "``", "active", "''", "haptic", "interfaces", ",", "a", "single", "handle", "e.g.", "a", "knob", "or", "a", "joystick", "can", "control", "several", "different", "and", "perhaps", "unrelated", "functions", ".", "These", "multi-function", "controllers", "can", "no", "longer", "be", "differentiated", "from", "one", "another", "by", "position", ",", "shape", "or", "texture", "...", "Active", "haptic", "icons", ",", "or", "``", "hapticons", "''", ",", "may", "be", "able", "to", "solve", "this", "problem", "by", "rendering", "haptically", "distinct", "and", "meaningful", "sensations", "for", "the", "different", "functions", "''", ".", "These", "use", "one", "degree-of", "-", "freedom", "force-feedback", "devices", ",", "rather", "than", "tactile", "displays", ",", "so", "encode", "information", "very", "differently", "to", "Tactons", ".", "They", "report", "the", "construction", "of", "a", "tool", "to", "allow", "a", "user", "to", "create", "and", "edit", "haptic", "icons", ".", "This", "is", "early", "work", "and", "they", "do", "not", "report", "results", "from", "the", "use", "of", "hapticons", "in", "any", "interfaces", ".", "Their", "results", ",", "however", ",", "will", "be", "directly", "relevant", "to", "Tactons", ".", "Given", "that", "the", "cutaneous", "sense", "is", "rich", "and", "a", "powerful", "communication", "medium", "currently", "little", "utilised", "in", "HCI", ",", "how", "can", "we", "make", "effective", "use", "of", "it", "?", "One", "approach", "is", "to", "use", "it", "to", "render", "objects", "from", "the", "real", "world", "more", "realisti-cally", "in", "virtual", "environments", ",", "for", "example", "in", "improving", "the", "presentation", "of", "texture", "in", "haptic", "devices", ".", "It", "could", "also", "be", "used", "to", "improve", "targeting", "in", "desktop", "interactions", "along", "the", "lines", "suggested", "by", "Oakley", "et", "al.", "-LRB-", "2000", "-RRB-", ".", "In", "this", "paper", "it", "is", "suggested", "that", "it", "can", "additionally", "be", "used", "to", "present", "structured", "informational", "messages", "to", "users", ".", "Tactons", "are", "structured", ",", "abstract", "messages", "that", "can", "be", "used", "to", "communicate", "complex", "concepts", "to", "users", "non-visually", ".", "Shneiderman", "-LRB-", "1998", "-RRB-", "defines", "an", "icon", "as", "``", "an", "image", ",", "picture", "or", "symbol", "representing", "a", "concept", "''", ".", "Tactons", "can", "represent", "complex", "interface", "concepts", ",", "objects", "and", "actions", "very", "con-cisely", ".", "Visual", "icons", "and", "their", "auditory", "equivalent", "earcons", "-LRB-", "Blattner", "et", "al.", ",", "1989", ",", "Brewster", "et", "al.", ",", "1994", "-RRB-", "are", "very", "powerful", "ways", "of", "displaying", "information", "but", "there", "is", "currently", "no", "tactile", "equivalent", ".", "In", "the", "visual", "domain", "there", "is", "text", "and", "its", "counterpart", "the", "icon", ",", "the", "same", "is", "true", "in", "sound", "with", "synthetic", "speech", "and", "the", "earcon", ".", "In", "the", "tactile", "domain", "there", "is", "Braille", "but", "it", "has", "no", "`", "iconic", "'", "counterpart", ".", "Tactons", "fill", "this", "gap", ".", "Icons/Earcons/Tactons", "form", "a", "simple", ",", "efficient", "language", "to", "represent", "concepts", "at", "the", "user", "interface", ".", "Tactons", "are", "similar", "to", "Braille", "in", "the", "same", "way", "that", "visual", "icons", "are", "similar", "to", "text", ",", "or", "earcons", "are", "similar", "to", "synthetic", "speech", ".", "For", "example", ",", "visual", "icons", "can", "convey", "complex", "information", "in", "a", "very", "small", "amount", "of", "screen", "space", ",", "much", "smaller", "than", "for", "a", "textual", "description", ".", "Earcons", "convey", "information", "in", "a", "small", "amount", "of", "time", "as", "compared", "to", "synthetic", "speech", ".", "Tactons", "can", "convey", "information", "in", "a", "smaller", "amount", "of", "space", "and", "time", "than", "Braille", ".", "Research", "will", "also", "show", "which", "form", "of", "iconic", "display", "is", "most", "suitable", "for", "which", "type", "of", "information", ".", "Visual", "icons", "are", "good", "for", "spatial", "information", ",", "earcons", "for", "temporal", ".", "One", "property", "of", "Tactons", "is", "that", "they", "operate", "both", "spatially", "and", "temporally", "so", "they", "can", "complement", "both", "icons", "and", "earcons", ".", "Further", "research", "is", "needed", "to", "understand", "how", "these", "different", "types", "of", "feedback", "work", "together", ".", "17", "Using", "speech", "as", "an", "example", "from", "the", "auditory", "domain", ":", "presenting", "information", "in", "speech", "is", "slow", "because", "of", "its", "serial", "nature", ";", "to", "assimilate", "information", "the", "user", "must", "hear", "a", "spoken", "message", "from", "beginning", "to", "end", "and", "many", "words", "may", "have", "to", "be", "comprehended", "before", "the", "message", "can", "be", "understood", ".", "With", "earcons", "the", "messages", "are", "shorter", "and", "therefore", "more", "rapidly", "heard", ",", "speeding", "up", "interactions", ".", "The", "same", "is", "true", "of", "Tactons", "when", "compared", "to", "Braille", ".", "Speech", "suffers", "from", "many", "of", "the", "same", "problems", "as", "graphical", "text", "in", "text-based", "computer", "systems", ",", "as", "this", "is", "also", "a", "serial", "medium", ".", "Barker", "&", "Manji", "-LRB-", "1989", "-RRB-", "claim", "that", "an", "important", "limitation", "of", "text", "is", "its", "lack", "of", "expressive", "capability", ":", "It", "may", "take", "many", "words", "to", "describe", "a", "fairly", "simple", "concept", ".", "Graphical", "iconic", "displays", "were", "introduced", "that", "speeded", "up", "interactions", "as", "users", "could", "see", "a", "picture", "of", "the", "thing", "they", "wanted", "instead", "of", "having", "to", "read", "its", "name", "from", "a", "list", "-LRB-", "Barker", "and", "Manji", ",", "1989", "-RRB-", ".", "In", "the", "same", "way", ",", "an", "encoded", "tactile", "message", "may", "be", "able", "to", "communicate", "its", "information", "in", "fewer", "symbols", ".", "The", "user", "feels", "the", "Tacton", "then", "recalls", "its", "meaning", "rather", "than", "having", "the", "meaning", "described", "in", "Braille", "-LRB-", "or", "speech", "or", "text", "-RRB-", ".", "The", "icon", "is", "also", "-LRB-", "in", "principle", "-RRB-", "universal", ":", "it", "means", "the", "same", "thing", "in", "different", "languages", "and", "the", "Tacton", "would", "have", "similar", "universality", ".", "Tactons", "are", "created", "by", "encoding", "information", "using", "the", "parameters", "of", "cutaneous", "perception", ".", "The", "encoding", "is", "similar", "to", "that", "of", "earcons", "in", "sound", "-LRB-", "Blattner", "et", "al.", ",", "1989", ",", "Brewster", "et", "al.", ",", "1994", "-RRB-", "where", "each", "of", "the", "musical", "parameters", "-LRB-", "e.g.", "timbre", ",", "frequency", ",", "amplitude", "-RRB-", "is", "varied", "to", "encode", "information", ".", "Similar", "parameters", "can", "be", "used", "for", "Tactons", "-LRB-", "although", "their", "relative", "importance", "is", "different", "-RRB-", ".", "As", "suggested", "by", "Blattner", ",", "short", "motifs", "could", "be", "used", "to", "represent", "simple", "objects", "or", "actions", "and", "these", "can", "then", "be", "combined", "in", "different", "ways", "to", "represent", "more", "complex", "messages", "and", "concepts", ".", "As", "Tactons", "are", "abstract", "the", "mapping", "between", "the", "Tacton", "and", "what", "it", "represents", "must", "be", "learned", ",", "but", "work", "on", "earcons", "has", "shown", "that", "learning", "can", "take", "place", "quickly", "-LRB-", "Brewster", ",", "1998b", "-RRB-", ".", "The", "properties", "that", "can", "be", "manipulated", "for", "Tactons", "are", "similar", "to", "those", "used", "in", "the", "creation", "of", "earcons", ".", "The", "parameters", "for", "manipulation", "also", "vary", "depending", "on", "the", "type", "of", "transducer", "used", ";", "not", "all", "transducers", "allow", "all", "types", "of", "parameters", ".", "The", "general", "basic", "parameters", "are", ":", "Frequency", ":", "A", "range", "of", "frequencies", "can", "be", "used", "to", "differentiate", "Tactons", ".", "The", "range", "of", "20", "1000", "Hz", "is", "perceivable", "but", "maximum", "sensitivity", "occurs", "around", "250", "Hz", "-LRB-", "Gunther", "et", "al.", ",", "2002", "-RRB-", ".", "The", "number", "of", "discrete", "values", "that", "can", "be", "differentiated", "is", "not", "well", "understood", ",", "but", "Gill", "-LRB-", "2003", "-RRB-", "suggests", "that", "a", "maximum", "of", "nine", "different", "levels", "can", "be", "used", ".", "As", "in", "audition", ",", "a", "change", "in", "amplitude", "leads", "to", "a", "change", "in", "the", "perception", "of", "frequency", "so", "this", "has", "an", "impact", "on", "the", "use", "of", "frequency", "as", "a", "cue", ".", "The", "number", "of", "levels", "of", "frequency", "that", "can", "be", "discriminated", "also", "depends", "on", "whether", "the", "cues", "are", "presented", "in", "a", "relative", "or", "absolute", "way", ".", "Making", "relative", "comparisons", "between", "stimuli", "is", "much", "easier", "than", "absolute", "identification", ",", "which", "will", "lead", "to", "much", "fewer", "discriminable", "values", ",", "as", "shown", "in", "the", "work", "on", "earcon", "design", "-LRB-", "Brewster", "et", "al.", ",", "1994", "-RRB-", ".", "Amplitude", ":", "Intensity", "of", "stimulation", "can", "be", "used", "to", "encode", "values", "to", "present", "information", "to", "the", "user", ".", "Gunther", "-LRB-", "2002", "-RRB-", "reports", "that", "the", "intensity", "range", "extends", "to", "55", "dB", "above", "the", "threshold", "of", "detection", ";", "above", "this", "pain", "occurs", ".", "Craig", "and", "Sherrick", "-LRB-", "1982", "-RRB-", "indicate", "that", "perception", "deteriorates", "above", "28", "dB", "so", "this", "would", "seem", "to", "be", "a", "useful", "maximum", ".", "Gunther", "-LRB-", "2001", "-RRB-", "reports", "that", "various", "values", ",", "ranging", "from", "0.4", "dB", "to", "3.2", "dB", ",", "have", "been", "reported", "for", "the", "just", "noticeable", "difference", "-LRB-", "JND", "-RRB-", "value", "for", "intensity", ".", "Gill", "states", "that", "that", "no", "more", "than", "four", "different", "intensities", "should", "be", "used", "-LRB-", "Gill", ",", "2003", "-RRB-", ".", "Again", "the", "number", "of", "useful", "discriminable", "values", "will", "depend", "on", "absolute", "or", "relative", "presentation", "of", "stimuli", ".", "Due", "to", "the", "interactions", "between", "this", "and", "frequency", "several", "researchers", "have", "suggested", "that", "they", "be", "combined", "into", "a", "single", "parameter", "to", "simplify", "design", "Waveform", ":", "The", "perception", "of", "wave", "shape", "is", "much", "more", "limited", "than", "with", "the", "perception", "of", "timbre", "in", "sound", ".", "Users", "can", "differentiate", "sine", "waves", "and", "square", "waves", "but", "more", "subtle", "differences", "are", "more", "difficult", "-LRB-", "Gunther", ",", "2001", "-RRB-", ".", "This", "limits", "the", "number", "of", "different", "values", "that", "can", "be", "encoded", "and", "makes", "this", "a", "much", "less", "important", "variable", "than", "it", "is", "in", "earcon", "design", "-LRB-", "where", "it", "is", "one", "of", "the", "key", "variables", "-RRB-", ".", "Duration", ":", "Pulses", "of", "different", "durations", "can", "encode", "information", ".", "Gunther", "-LRB-", "2001", "-RRB-", "investigated", "a", "range", "of", "subjective", "responses", "to", "pulses", "of", "different", "durations", ".", "He", "found", "that", "stimuli", "lasting", "less", "than", "0.1", "seconds", "were", "perceived", "as", "taps", "or", "jabs", "whereas", "stimuli", "of", "longer", "duration", ",", "when", "combined", "with", "gradual", "attacks", "and", "decays", ",", "may", "be", "perceived", "as", "smoothly", "flowing", "tactile", "phrases", ".", "He", "suggests", "combining", "duration", "with", "alterations", "in", "the", "envelope", "of", "a", "vibration", ",", "e.g.", "an", "abrupt", "attack", "feels", "like", "a", "tap", "against", "the", "skin", ",", "a", "gradual", "attack", "feels", "like", "something", "rising", "up", "out", "of", "the", "skin", ".", "Rhythm", ":", "Building", "on", "from", "duration", ",", "groups", "of", "pulses", "of", "different", "durations", "can", "be", "composed", "into", "rhythmic", "units", ".", "This", "is", "a", "very", "powerful", "cue", "in", "both", "sound", "and", "touch", ".", "Gunther", "-LRB-", "2001", "-RRB-", "suggests", "that", "differences", "in", "duration", "can", "be", "used", "to", "group", "events", "when", "multiple", "events", "occur", "on", "the", "same", "area", "of", "skin", ".", "Specific", "transducer", "types", "allow", "other", "parameters", "to", "be", "used", ":", "Body", "location", ":", "Spatially", "distributed", "transducers", "can", "encode", "information", "in", "the", "position", "of", "stimulation", "across", "the", "body", ".", "The", "choice", "of", "body", "location", "for", "vibrotactile", "display", "is", "important", ",", "as", "different", "locations", "have", "different", "levels", "of", "sensitivity", "and", "spatial", "acuity", ".", "A", "display", "may", "make", "use", "of", "several", "body", "locations", ",", "so", "that", "the", "location", "can", "be", "used", "as", "another", "parameter", ",", "or", "can", "be", "used", "to", "group", "tactile", "stimuli", ".", "The", "fingers", "are", "often", "used", "for", "vibrotactile", "displays", "because", "of", "their", "high", "sensitivity", "to", "small", "amplitudes", "and", "their", "high", "spatial", "acuity", "-LRB-", "Craig", "and", "Sherrick", ",", "1982", "-RRB-", ".", "However", ",", "the", "fingers", "are", "often", "required", "for", "other", "tasks", ",", "so", "other", "body", "locations", "may", "be", "more", "suitable", ".", "Craig", "and", "Sherrick", "suggest", "the", "back", ",", "thigh", "and", "abdomen", "as", "other", "suitable", "body", "locations", ".", "They", "report", "that", ",", "once", "subjects", "have", "been", "trained", "in", "vibrotactile", "pattern", "recognition", "on", "the", "back", ",", "they", "can", "almost", "immediately", "recognise", "the", "same", "patterns", "when", "they", "are", "presented", "to", "the", "thigh", "or", "abdomen", ".", "This", "transfer", "also", "occurs", "to", "some", "extent", "when", "patterns", "are", "18", "presented", "to", "different", "fingers", "after", "training", "on", "one", "finger", ",", "but", "is", "not", "so", "immediate", ".", "Certain", "body", "locations", "are", "particularly", "suitable", ",", "or", "particularly", "unsuitable", ",", "for", "certain", "types", "of", "vibrotactile", "displays", ".", "For", "example", ",", "transducers", "should", "not", "be", "placed", "on", "or", "near", "the", "head", ",", "as", "this", "can", "cause", "leakage", "of", "vibrations", "into", "the", "ears", ",", "resulting", "in", "unwanted", "sounds", "-LRB-", "Gunther", "et", "al.", ",", "2002", "-RRB-", ".", "An", "example", "of", "a", "suitable", "body", "location", "is", "in", "Gunther", "'s", "Skinscape", "display", ",", "where", "he", "positions", "low", "frequency", "transducers", "on", "the", "torso", "as", "this", "is", "where", "low", "frequencies", "are", "felt", "when", "loud", "music", "is", "heard", ".", "The", "method", "of", "attaching", "the", "transducers", "to", "a", "user", "'s", "body", "is", "also", "important", ".", "The", "pressure", "of", "the", "transducer", "against", "the", "body", "has", "a", "significant", "effect", "on", "the", "user", "'s", "perception", "of", "the", "vibrations", ".", "Transducers", "should", "rest", "lightly", "on", "the", "skin", ",", "allowing", "the", "user", "to", "feel", "the", "vibration", "against", "the", "skin", ",", "and", "to", "isolate", "the", "location", "of", "the", "vibration", "with", "ease", ".", "Exerting", "too", "much", "pressure", "with", "the", "transducer", "against", "the", "user", "'s", "body", "will", "cause", "the", "vibrations", "to", "be", "felt", "in", "the", "bone", "structure", ",", "making", "them", "less", "isolated", "due", "to", "skeletal", "conduction", ".", "In", "addition", ",", "tightening", "the", "straps", "holding", "the", "transducer", "to", "achieve", "this", "level", "of", "pressure", "may", "impede", "circulation", "-LRB-", "Gunther", ",", "2001", "-RRB-", ".", "Rupert", "-LRB-", "2000", "-RRB-", "suggests", "using", "the", "full", "torso", "for", "displaying", "3D", "information", ",", "with", "128", "transducers", "distributed", "over", "the", "body", ".", "His", "system", "displays", "information", "to", "pilots", "about", "the", "location", "of", "objects", "around", "them", "in", "3D", "space", ",", "by", "stimulating", "the", "transducers", "at", "the", "part", "of", "their", "body", "corresponding", "to", "the", "location", "of", "the", "object", "in", "3D", "space", "around", "them", ".", "This", "could", "be", "used", "to", "indicate", "horizons", ",", "borders", ",", "targets", ",", "or", "other", "aircraft", ".", "Spatiotemporal", "patterns", ":", "Related", "to", "position", "and", "rhythm", ",", "spatial", "patterns", "can", "also", "be", "``", "drawn", "''", "on", "the", "user", "'s", "body", ".", "For", "example", ",", "if", "a", "user", "has", "a", "3x3", "array", "of", "stimulators", "lo-cated", "on", "his/her", "back", ",", "lines", "and", "geometric", "shapes", "can", "be", "``", "drawn", "''", "on", "the", "back", ",", "by", "stimulating", ",", "in", "turn", ",", "the", "stimulators", "that", "make", "up", "that", "shape", ".", "In", "Figure", "3", ",", "an", "`", "L'", "shaped", "gesture", "can", "be", "drawn", "by", "activating", "the", "stimulators", ":", "1-4-78", "-9", "in", "turn", ".", "Patterns", "can", "move", "about", "the", "body", ",", "varying", "in", "time", "and", "location", "to", "encode", "information", ".", "Cholewiak", "-LRB-", "1996", "-RRB-", "and", "Sherrick", "-LRB-", "1985", "-RRB-", "have", "also", "looked", "at", "low-level", "perception", "of", "distributed", "tactile", "cues", ".", ".", "Figure", "3", ":", "``", "Drawing", "''", "an", "L-shaped", "gesture", ".", "Now", "that", "the", "basic", "parameters", "for", "Tactons", "have", "been", "described", ",", "we", "will", "give", "some", "examples", "of", "how", "they", "might", "be", "designed", "to", "convey", "information", ".", "The", "fundamental", "design", "of", "Tactons", "is", "similar", "to", "that", "of", "earcons", ".", "4.1", "Compound", "Tactons", "A", "simple", "set", "of", "Tactons", "could", "be", "created", "as", "in", "Figure", "4", ".", "A", "high-frequency", "pulse", "that", "increases", "in", "intensity", "could", "represent", "`", "Create", "'", ",", "a", "lower", "frequency", "pulse", "that", "decreases", "in", "intensity", "could", "represent", "`", "Delete", "'", ".", "A", "two", "note", "falling", "Tacton", "could", "represent", "a", "file", "and", "a", "two", "rising", "notes", "a", "folder", ".", "The", "mapping", "is", "abstract", ";", "there", "is", "no", "intuitive", "link", "between", "what", "the", "user", "feels", "and", "what", "it", "represents", ".", "Create", "Delete", "File", "Folder", "Create", "File", "Delete", "Folder", "Figure", "4", ":", "Compound", "Tactons", "-LRB-", "after", "Blattner", "et", "al.", ",", "1989", "-RRB-", ".", "These", "Tactons", "can", "then", "be", "combined", "to", "create", "compound", "messages", ".", "For", "example", ",", "`", "create", "file", "'", "or", "`", "delete", "folder", "'", ".", "The", "set", "of", "basic", "elements", "could", "be", "extended", "and", "a", "simple", "language", "of", "tactile", "elements", "created", "to", "provide", "feedback", "in", "a", "user", "interface", ".", "4.2", "Hierarchical", "Tactons", "Tactons", "could", "also", "be", "combined", "in", "a", "hierarchical", "way", ",", "as", "shown", "in", "Figure", "5", ".", "Each", "Tacton", "is", "a", "node", "in", "a", "tree", "and", "inherits", "properties", "from", "the", "levels", "above", "it", ".", "Figure", "5", "shows", "a", "hierarchy", "of", "Tactons", "representing", "a", "hypothetical", "family", "of", "errors", ".", "The", "top", "of", "the", "tree", "is", "a", "family", "Tacton", "which", "has", "a", "basic", "rhythm", "played", "using", "a", "sinewave", "-LRB-", "a", "different", "family", "of", "errors", "would", "use", "a", "different", "rhythm", "so", "that", "they", "are", "not", "confused", "-RRB-", ".", "The", "rhythmic", "structure", "of", "Level", "2", "inherits", "the", "Tacton", "from", "Level", "1", "and", "adds", "to", "it", ".", "In", "this", "case", "a", "second", ",", "higher", "frequency", "Tacton", "played", "with", "a", "squarewave", ".", "At", "Level", "3", "the", "tempo", "of", "the", "two", "Tactons", "is", "changed", ".", "In", "this", "way", "a", "hierarchical", "structure", "can", "be", "presented", ".", "The", "other", "parameters", "discussed", "above", "could", "be", "used", "to", "add", "further", "levels", ".", "4.3", "Transformational", "Tactons", "A", "third", "type", "of", "Tacton", "is", "the", "Transformational", "Tacton", ".", "These", "have", "several", "properties", ",", "each", "represented", "by", "a", "different", "tactile", "parameter", ".", "For", "example", ",", "if", "Transformational", "Tactons", "were", "used", "to", "represent", "files", "in", "a", "computer", "interface", ",", "the", "file", "type", "could", "be", "represented", "by", "rhythm", ",", "size", "by", "frequency", ",", "and", "creation", "date", "by", "body", "location", ".", "Each", "file", "type", "would", "be", "mapped", "to", "a", "unique", "rhythm", ".", "Therefore", ",", "two", "files", "of", "the", "same", "type", ",", "and", "same", "size", ",", "but", "different", "creation", "date", "would", "share", "the", "same", "rhythm", "and", "frequency", ",", "but", "would", "be", "presented", "to", "a", "different", "body", "location", ".", "If", "two", "files", "were", "of", "different", "types", "but", "the", "same", "size", "they", "would", "be", "represented", "by", "different", "rhythms", "with", "the", "same", "frequency", ".", "19", "We", "are", "interested", "in", "three", "areas", "of", "use", "for", "Tactons", ",", "although", "there", "are", "many", "others", "where", "they", "have", "potential", "to", "improve", "usability", ".", "5.1", "Enhancements", "of", "desktop", "interfaces", "The", "first", ",", "and", "simplest", ",", "area", "of", "interest", "is", "in", "the", "addition", "of", "Tactons", "to", "desktop", "graphical", "interfaces", ".", "The", "addition", "of", "earcons", "to", "desktops", "has", "shown", "many", "advantages", "in", "terms", "of", "reduced", "errors", ",", "reduced", "times", "to", "complete", "tasks", "and", "lowered", "workload", "-LRB-", "Brewster", ",", "1998a", "-RRB-", ".", "One", "problem", "with", "audio", "is", "that", "users", "believe", "that", "it", "may", "be", "annoying", "to", "use", "-LRB-", "although", "no", "research", "has", "actually", "shown", "this", "to", "be", "the", "case", "-RRB-", "and", "it", "has", "the", "potential", "to", "annoy", "others", "nearby", "-LRB-", "for", "a", "discussion", "see", "-LRB-", "Brewster", ",", "2002", "-RRB-", "-RRB-", ".", "The", "addition", "of", "Tactons", "to", "widgets", "has", "the", "same", "potential", "to", "indicate", "usability", "problems", "but", "without", "the", "potential", "to", "annoy", ".", "One", "reason", "for", "enhancing", "standard", "desktop", "interfaces", "is", "that", "users", "can", "become", "overloaded", "with", "visual", "information", "on", "large", ",", "high-resolution", "displays", ".", "In", "highly", "complex", "graphical", "displays", "users", "must", "concentrate", "on", "one", "part", "of", "the", "display", "to", "perceive", "the", "visual", "feedback", ",", "so", "that", "feedback", "from", "another", "part", "may", "be", "missed", ".", "This", "becomes", "very", "important", "in", "situations", "where", "users", "must", "notice", "and", "deal", "with", "large", "amounts", "of", "dynamic", "data", "or", "output", "from", "multiple", "applications", "or", "tasks", ".", "If", "information", "about", "secondary", "tasks", "was", "presented", "through", "touch", "then", "users", "could", "concentrate", "their", "visual", "attention", "on", "the", "primary", "one", "but", "feel", "information", "about", "the", "others", ".", "As", "a", "simple", "example", ",", "the", "display", "of", "a", "progress", "bar", "widget", "could", "be", "presented", "tactually", ".", "Two", "sets", "of", "tactile", "pulses", "could", "be", "used", "to", "indicate", "the", "current", "and", "end", "points", "of", "a", "download", ".", "The", "time", "between", "the", "two", "pulses", "would", "indicate", "the", "amount", "of", "time", "remaining", ",", "the", "closer", "the", "two", "pulses", "the", "nearer", "the", "download", "is", "to", "finishing", ".", "The", "two", "pulses", "could", "use", "different", "waveforms", "to", "ensure", "they", "were", "not", "confused", ".", "Different", "rhythms", "for", "each", "pulse", "could", "be", "used", "to", "indicate", "different", "types", "of", "downloads", ".", "If", "a", "more", "sophisticated", "set", "of", "transducers", "on", "a", "belt", "around", "the", "waist", "was", "available", "then", "the", "position", "of", "a", "pulse", "moving", "around", "the", "body", "in", "a", "clockwise", "direction", "-LRB-", "starting", "from", "the", "front", "-RRB-", "would", "give", "information", "about", "progress", ":", "when", "the", "pulse", "was", "at", "the", "right", "side", "of", "the", "body", "the", "download", "would", "be", "25", "%", "of", "the", "way", "through", ",", "when", "it", "was", "on", "the", "left", "hand", "side", "75", "%", ",", "and", "when", "it", "got", "back", "around", "to", "the", "front", "it", "would", "be", "finished", ".", "There", "would", "be", "no", "need", "for", "any", "visual", "presentation", "of", "the", "progress", "bar", ",", "allowing", "users", "to", "focus", "their", "visual", "attention", "on", "the", "main", "task", "they", "are", "involved", "with", ".", "Tactons", "could", "also", "be", "used", "to", "enhance", "interactions", "with", "buttons", ",", "scrollbars", ",", "menus", ",", "etc.", "to", "indicate", "when", "users", "are", "on", "targets", "and", "when", "certain", "types", "of", "errors", "occur", ".", "Others", "have", "shown", "that", "basic", "tactile", "feedback", "can", "improve", "pointing", "and", "steering", "type", "interactions", "-LRB-", "Akamatsu", "et", "al.", ",", "1995", ",", "Campbell", "et", "al.", ",", "1999", "-RRB-", ".", "There", "are", "some", "commercial", "systems", "that", "give", "simple", "tactile", "feedback", "in", "desktop", "user", "interfaces", ",", "e.g.", "the", "software", "that", "comes", "with", "the", "Logitech", "iFeel", "mouse", "-LRB-", "www.logitech.com", "-RRB-", ".", "This", "provides", "basic", "targeting", ":", "a", "brief", "pulse", "is", "played", ",", "for", "example", ",", "when", "a", "user", "moves", "over", "a", "target", ".", "We", "believe", "there", "is", "much", "more", "that", "can", "be", "presented", "with", "tactile", "feedback", ".", "5.2", "Visually", "impaired", "users", "Tactons", "will", "be", "able", "to", "work", "alongside", "Braille", "in", "tactile", "displays", "for", "blind", "and", "visually", "impaired", "users", ",", "in", "the", "same", "way", "as", "earcons", "work", "alongside", "synthetic", "speech", ".", "They", "will", "allow", "information", "to", "be", "delivered", "more", "efficiently", ".", "In", "addition", ",", "hierarchical", "Tactons", "could", "help", "users", "navigate", "Sine", "Sine", "Square", "Error", "Operating", "system", "error", "Execution", "error", "Sine", "Square", "Overflow", "Sine", "Square", "Underflow", "Sine", "Square", "Fast", "tempo", "Slow", "tempo", "Figure", "5", ":", "Hierarchical", "Tacton", "composition", ".", "Level", "1", "Level", "2", "Level", "3", "20", "around", "Braille", "media", "by", "providing", "navigation", "information", "-LRB-", "Brewster", ",", "1998b", "-RRB-", ".", "One", "of", "our", "main", "interests", "is", "in", "using", "Tactons", "to", "improve", "access", "to", "graphical", "information", "non-visually", ".", "Text", "can", "be", "rendered", "in", "a", "relatively", "straightforward", "manner", "by", "speech", "or", "Braille", ",", "but", "graphics", "are", "more", "problematic", ".", "One", "area", "that", "we", "and", "others", "have", "focused", "on", "is", "visualisation", "for", "blind", "people", ".", "Understanding", "and", "manipulating", "information", "using", "visualisations", "such", "as", "graphs", ",", "tables", ",", "bar", "charts", "and", "3D", "plots", "is", "very", "common", "for", "sighted", "people", ".", "The", "skills", "needed", "are", "learned", "early", "in", "school", "and", "then", "used", "throughout", "life", ",", "for", "example", ",", "in", "analysing", "information", "or", "managing", "home", "finances", ".", "The", "basic", "skills", "needed", "for", "creating", "and", "manipulating", "graphs", "are", "necessary", "for", "all", "parts", "of", "education", "and", "employment", ".", "Blind", "people", "have", "very", "restricted", "access", "to", "information", "presented", "in", "these", "visual", "ways", "-LRB-", "Edwards", ",", "1995", "-RRB-", ".", "As", "Wise", "et", "al.", "-LRB-", "2001", "-RRB-", "say", "``", "Inac-cessibility", "of", "instructional", "materials", ",", "media", ",", "and", "technologies", "used", "in", "science", ",", "engineering", ",", "and", "mathematics", "education", "severely", "restricts", "the", "ability", "of", "students", "with", "little", "or", "no", "sight", "to", "excel", "in", "these", "disciplines", "''", ".", "To", "allow", "blind", "people", "to", "gain", "the", "skills", "needed", "for", "the", "workplace", "new", "technologies", "are", "necessary", "to", "make", "visualisations", "usable", ".", "Tactons", "provide", "another", "route", "through", "which", "information", "can", "be", "presented", ".", "Research", "has", "shown", "that", "using", "haptic", "devices", "is", "an", "effective", "way", "of", "presenting", "graphical", "information", "non-visually", "-LRB-", "Yu", "and", "Brewster", ",", "2003", ",", "Wies", "et", "al.", ",", "2001", ",", "Van", "Scoy", "et", "al.", ",", "2000", "-RRB-", ".", "The", "most", "common", "approach", "has", "been", "to", "use", "haptic", "devices", "to", "present", "graphs", ",", "tables", "or", "3D", "plots", "that", "users", "can", "feel", "kinaesthetically", "by", "tracing", "a", "line", "or", "shape", "with", "a", "finger", "using", "a", "device", "like", "the", "PHANToM", "-LRB-", "www.sensable.com", "-RRB-", ".", "Lederman", "and", "Klatzky", "-LRB-", "1999", "-RRB-", "have", "shown", "that", "removal", "of", "cutaneous", "input", "to", "the", "fingertip", "impedes", "perception", "of", "edge", "direction", ",", "which", "is", "an", "essential", "component", "of", "tracing", "a", "haptic", "line", "graph", ".", "This", "lack", "of", "cutaneous", "stimulation", "leads", "to", "problems", "with", "navigation", "-LRB-", "exploring", "using", "a", "single", "point", "of", "contact", "means", "it", "is", "difficult", "to", "locate", "items", "as", "there", "is", "no", "context", ",", "which", "can", "be", "given", "in", "a", "tactile", "display", "-RRB-", ",", "exploring", "small", "scale", "features", "-LRB-", "these", "would", "be", "perceived", "cutaneously", "on", "the", "finger", "pad", "in", "real", "life", "-RRB-", ",", "and", "information", "overload", "-LRB-", "all", "haptic", "information", "is", "perceived", "kinaesthetically", "rather", "than", "being", "shared", "with", "cutaneous", "perception", "-RRB-", ".", "Incorporating", "a", "tactile", "display", "into", "a", "force-feedback", "device", "will", "alleviate", "many", "of", "these", "problems", "and", "potentially", "increase", "user", "efficiency", "and", "comprehension", "of", "visualisations", ".", "Tactons", "could", "be", "presented", "as", "the", "user", "moves", "the", "force-feedback", "device", "over", "the", "visualisation", ".", "Dimensions", "of", "the", "data", "can", "be", "encoded", "into", "a", "Tacton", "to", "give", "information", "about", "the", "current", "point", ",", "using", "the", "parameters", "described", "in", "Section", "4", ".", "This", "would", "allow", "more", "data", "to", "be", "presented", "more", "efficiently", ".", "For", "example", ",", "with", "multidimensional", "data", "one", "dimension", "might", "be", "mapped", "to", "the", "frequency", "of", "a", "pulse", "in", "a", "Tacton", ",", "another", "might", "map", "to", "rhythm", "and", "another", "to", "body", "locatoin", ".", "As", "the", "user", "moves", "about", "the", "data", "he/she", "would", "feel", "the", "different", "parameters", ".", "In", "addition", "to", "the", "finger", "pad", ",", "we", "can", "also", "include", "tactile", "displays", "to", "other", "parts", "of", "the", "body", "-LRB-", "e.g.", "to", "the", "back", "-RRB-", "using", "spatially", "distributed", "transducers", "to", "provide", "even", "more", "display", "area", ".", "As", "long", "as", "this", "is", "done", "in", "a", "comprehensible", "manner", "users", "will", "be", "able", "to", "gain", "access", "to", "their", "data", "in", "a", "much", "more", "effective", "way", "than", "with", "current", "force-feedback", "only", "visualisation", "tools", ".", "5.3", "Mobile", "and", "wearable", "devices", "Our", "other", "main", "application", "area", "is", "mobile", "and", "wearable", "device", "displays", "-LRB-", "for", "both", "sighted", "and", "blind", "people", "-RRB-", ".", "Mobile", "telephones", "and", "handheld", "computers", "are", "currently", "one", "of", "the", "fastest", "growth", "areas", "of", "computing", "and", "this", "growth", "will", "extend", "into", "more", "sophisticated", ",", "fully", "wearable", "computers", "in", "the", "future", ".", "One", "problem", "with", "these", "devices", "is", "their", "limited", "output", "capabilities", ".", "Their", "small", "displays", "easily", "become", "cluttered", "with", "information", "and", "widgets", "and", "this", "makes", "interface", "design", "difficult", ".", "In", "addition", ",", "users", "are", "not", "always", "looking", "at", "the", "display", "of", "a", "device", "as", "they", "must", "walk", "or", "navigate", "through", "their", "environment", "which", "requires", "visual", "attention", ".", "One", "way", "to", "solve", "this", "problem", "is", "to", "use", "other", "display", "modalities", "and", "so", "reduce", "demands", "on", "visual", "display", ",", "or", "replace", "it", "if", "not", "available", ".", "Work", "has", "gone", "into", "using", "speech", "and", "non-speech", "sounds", "to", "overcome", "the", "display", "bottleneck", ".", "Tactile", "displays", "have", "great", "potential", "here", "too", "but", "are", "much", "less", "well", "investigated", ".", "Sound", "has", "many", "advantages", "but", "it", "can", "be", "problematic", ";", "in", "loud", "environments", "it", "can", "be", "impossible", "to", "hear", "auditory", "output", "from", "a", "device", ",", "in", "quiet", "places", "the", "audio", "may", "be", "disturbing", "to", "others", "nearby", ".", "Blind", "people", "often", "do", "not", "like", "to", "wear", "headphones", "when", "outdoors", "as", "they", "mask", "important", "environmental", "sounds", ".", "Tactile", "displays", "do", "not", "suffer", "from", "these", "problems", "-LRB-", "although", "there", "may", "be", "other", "problems", "for", "example", ",", "perceiving", "tactile", "stimuli", "whilst", "running", "due", "to", "the", "difficulties", "of", "keeping", "the", "transducers", "in", "contact", "with", "the", "skin", "-RRB-", ".", "Mobile", "telephones", "commonly", "have", "a", "very", "simple", "point-contact", "tactile", "stimulator", "built-in", "that", "can", "alert", "the", "user", "to", "a", "call", ".", "These", "are", "often", "only", "able", "to", "produce", "pulses", "of", "different", "durations", ".", "A", "pin", "array", "would", "be", "possible", "on", "such", "a", "device", "as", "the", "user", "will", "be", "holding", "it", "in", "a", "hand", "when", "in", "use", ".", "Such", "a", "sophisticated", "tactile", "display", "could", "do", "much", "more", ",", "e.g.", "it", "could", "give", "information", "on", "the", "caller", ",", "replace", "or", "enhance", "items", "on", "the", "display", "-LRB-", "like", "icons", ",", "progress", "indicators", ",", "games", "-RRB-", "or", "aid", "in", "the", "navigation", "of", "the", "devices", "'", "menus", "so", "that", "the", "user", "does", "not", "need", "to", "look", "at", "the", "screen", ".", "In", "a", "wearable", "device", "users", "could", "have", "body", "mounted", "transducers", "so", "that", "information", "can", "be", "displayed", "over", "their", "body", ".", "In", "the", "simplest", "case", "this", "could", "be", "used", "to", "give", "directional", "information", "by", "vibrating", "one", "side", "of", "the", "body", "or", "other", "to", "indicate", "which", "way", "to", "turn", "-LRB-", "Tan", "and", "Pentland", ",", "1997", "-RRB-", ".", "A", "belt", "of", "transducers", "around", "the", "waist", "could", "give", "a", "compass-like", "display", "of", "direction", ";", "a", "pulse", "could", "be", "played", "continuously", "at", "north", "so", "the", "user", "can", "maintain", "orientation", "after", "turning", "-LRB-", "useful", "when", "navigating", "in", "the", "dark", "-RRB-", "or", "at", "the", "position", "around", "the", "waist", "corresponding", "to", "the", "direction", "in", "which", "to", "head", ".", "A", "more", "sophisticated", "display", "might", "give", "information", "about", "the", "user", "'s", "context", ".", "For", "example", ",", "presenting", "Tactons", "describing", "information", "such", "as", "the", "type", "of", "building", "-LRB-", "shop", ",", "bank", ",", "office-block", ",", "house", "-RRB-", ",", "the", "type", "of", "shop", "-LRB-", "clothes", ",", "phones", ",", "food", ",", "furniture", "-RRB-", "the", "price-bracket", "of", "a", "shop", "-LRB-", "budget", ",", "mid-range", ",", "expensive", "-RRB-", ",", "or", "information", "more", "related", "to", "the", "concerns", "of", "visually", "impaired", "people", ",", "such", "as", "the", "number", "of", "stairs", "leading", "up", "to", "the", "entrance", "-LRB-", "for", "firefighters", ",", "whose", "vision", "is", "impaired", "21", "due", "to", "smoke", "and", "flames", ",", "a", "tactile", "display", "could", "also", "provide", "information", "on", "the", "location", "of", "rooms", "and", "exits", "in", "a", "burning", "building", "-RRB-", ".", "A", "tactile", "display", "could", "also", "present", "information", "on", "stock", "market", "data", "-LRB-", "building", "on", "from", "the", "work", "on", "tactile", "visualisation", "in", "the", "section", "above", "-RRB-", "so", "that", "users", "could", "keep", "track", "of", "trades", "whilst", "away", "from", "the", "office", ".", "Such", "tactile", "displays", "could", "also", "work", "alongside", "auditory", "or", "visual", "ones", ".", "This", "paper", "has", "laid", "out", "some", "of", "the", "foundations", "of", "information", "display", "through", "Tactons", ".", "There", "is", "still", "much", "work", "to", "be", "done", "to", "fully", "understand", "how", "they", "should", "be", "designed", "and", "used", ".", "There", "are", "many", "lower", "level", "perceptual", "questions", "to", "be", "addressed", "before", "higher", "level", "design", "issues", "can", "be", "investigated", ".", "Many", "of", "the", "parameters", "of", "touch", "described", "in", "Section", "4", "are", "not", "fully", "understood", "and", "the", "full", "usable", "ranges", "of", "the", "parameters", "are", "not", "known", ".", "Studies", "need", "to", "be", "undertaken", "to", "explore", "the", "parameter", "space", "so", "that", "the", "relative", "importance", "of", "the", "different", "parameters", "can", "be", "discovered", ".", "Once", "the", "range", "of", "parameters", "is", "understood", "then", "the", "construction", "of", "Tactons", "can", "be", "examined", ".", "Basic", "studies", "are", "needed", "to", "understand", "how", "the", "parameters", "can", "be", "combined", "to", "construct", "Tactons", ".", "Parameters", "which", "work", "well", "alone", "may", "not", "work", "well", "when", "combined", "with", "others", "into", "a", "Tacton", ".", "For", "example", ",", "one", "parameter", "may", "mask", "another", ".", "When", "the", "basic", "design", "of", "Tactons", "is", "understood", "the", "composition", "of", "simple", "Tactons", "into", "more", "complex", "messages", ",", "encoding", "hierarchical", "information", "into", "Tactons", ",", "and", "their", "learnability", "and", "memorability", "can", "be", "investigated", ".", "The", "concurrent", "presentation", "of", "multiple", "Tactons", "must", "also", "be", "studied", ".", "These", "studies", "will", "answer", "some", "of", "the", "main", "questions", "regarding", "the", "usability", "of", "Tactons", "and", "a", "good", "understanding", "of", "their", "design", "and", "usability", "will", "have", "been", "a-chieved", ".", "Another", "important", "task", "is", "to", "investigate", "the", "strong", "relationships", "between", "hearing", "and", "touch", "by", "examining", "cross-modal", "uses", "of", "audio", "and", "tactile", "multimodal", "displays", "-LRB-", "Spence", "and", "Driver", ",", "1997", "-RRB-", ",", "e.g.", "combined", "audio", "and", "tactile", "cues", ",", "redundant", "tactile", "and", "audio", "cues", ",", "and", "moving", "from", "an", "audio", "to", "a", "tactile", "presentation", "of", "the", "same", "information", "-LRB-", "and", "vice", "versa", "-RRB-", ".", "This", "is", "important", "in", "a", "mo-bile/wearable", "context", "because", "at", "different", "times", "different", "display", "techniques", "might", "be", "appropriate", ".", "For", "example", ",", "audio", "might", "be", "inappropriate", "in", "a", "very", "noisy", "environment", ",", "or", "tactile", "cues", "might", "be", "masked", "when", "the", "user", "is", "running", ".", "One", "important", "issue", "is", "to", "identify", "the", "types", "of", "information", "best", "presented", "in", "sound", "and", "those", "best", "presented", "tactually", ".", "For", "example", ",", "the", "range", "of", "the", "vibrotactile", "frequency", "response", "is", "roughly", "20", "times", "less", "than", "that", "of", "the", "auditory", "system", ".", "Such", "discrepancies", "must", "be", "accounted", "for", "when", "performing", "cross-modal", "mappings", "from", "hearing", "to", "touch", ".", "In", "conclusion", ",", "this", "paper", "has", "proposed", "a", "new", "form", "of", "tactile", "output", "called", "Tactons", ".", "These", "are", "structured", "tactile", "messages", "that", "can", "be", "used", "to", "communicate", "information", ".", "Tactile", "output", "is", "underused", "in", "current", "interfaces", "and", "Tactons", "provide", "a", "way", "of", "addressing", "this", "problem", ".", "The", "basic", "parameters", "have", "been", "described", "and", "design", "issues", "discussed", ".", "A", "technique", "is", "now", "available", "to", "allow", "tactile", "display", "to", "form", "a", "significant", "part", "of", "the", "set", "of", "interaction", "and", "display", "techniques", "that", "can", "be", "used", "to", "communicate", "with", "users", "at", "the", "interface", ".", "This", "research", "was", "conducted", "when", "Brewster", "was", "on", "sabbatical", "in", "the", "Department", "of", "Computer", "Science", "at", "the", "University", "of", "Canterbury", ",", "Christchurch", ",", "New", "Zealand", ".", "Thanks", "to", "Andy", "Cockburn", "for", "his", "thoughts", "and", "comments", "on", "this", "work", ".", "The", "sabbatical", "was", "funded", "by", "an", "Erskine", "Fellowship", "from", "the", "University", "of", "Canterbury", ".", "The", "work", "was", "part", "funded", "by", "EPSRC", "grant", "GR/S53244", ".", "Brown", "is", "funded", "by", "an", "EPSRC", "studentship", ".", "Akamatsu", ",", "M.", ",", "MacKenzie", ",", "I.", "S.", "and", "Hasbrouq", ",", "T.", "-LRB-", "1995", "-RRB-", ":", "A", "comparison", "of", "tactile", ",", "auditory", ",", "and", "visual", "feedback", "in", "a", "pointing", "task", "using", "a", "mouse-type", "device", ".", "Ergonomics", ",", "38", ",", "816-827", ".", "Barker", ",", "P.", "G.", "and", "Manji", ",", "K.", "A.", "-LRB-", "1989", "-RRB-", ":", "Pictorial", "dialogue", "methods", ".", "International", "Journal", "of", "Man-Machine", "Studies", ",", "31", ",", "323-347", ".", "Blattner", ",", "M.", ",", "Sumikawa", ",", "D.", "and", "Greenberg", ",", "R.", "-LRB-", "1989", "-RRB-", ":", "Earcons", "and", "icons", ":", "Their", "structure", "and", "common", "design", "principles", ".", "Human", "Computer", "Interaction", ",", "4", ",", "11-44", ".", "Brewster", ",", "S.", "A.", "-LRB-", "1998a", "-RRB-", ":", "The", "design", "of", "sonically-enhanced", "widgets", ".", "Interacting", "with", "Computers", ",", "11", ",", "211-235", ".", "Brewster", ",", "S.", "A.", "-LRB-", "1998b", "-RRB-", ":", "Using", "Non-Speech", "Sounds", "to", "Provide", "Navigation", "Cues", ".", "ACM", "Transactions", "on", "Computer-Human", "Interaction", ",", "5", ",", "224-259", ".", "Brewster", ",", "S.", "A.", "-LRB-", "2002", "-RRB-", ":", "Chapter", "12", ":", "Non-speech", "auditory", "output", ".", "In", "The", "Human", "Computer", "Interaction", "Handbook", "-LRB-", "Eds", ",", "Jacko", ",", "J.", "and", "Sears", ",", "A.", "-RRB-", "Lawrence", "Erlbaum", "Associates", ",", "pp.", "220-239", ".", "Brewster", ",", "S.", "A.", ",", "Wright", ",", "P.", "C.", "and", "Edwards", ",", "A.", "D.", "N.", "-LRB-", "1994", "-RRB-", ":", "A", "detailed", "investigation", "into", "the", "effectiveness", "of", "earcons", ".", "In", "Auditory", "Display", "-LRB-", "Ed", ",", "Kramer", ",", "G.", "-RRB-", "Addison", "-", "Wesley", ",", "Reading", ",", "MA", ",", "pp.", "471-498", ".", "Campbell", ",", "C.", ",", "Zhai", ",", "S.", ",", "May", ",", "K.", "and", "Maglio", ",", "P.", "-LRB-", "1999", "-RRB-", ":", "What", "You", "Feel", "Must", "Be", "What", "You", "See", ":", "Adding", "Tactile", "Feedback", "to", "the", "Trackpoint", ".", "Proceedings", "of", "IFIP", "INTERACT", "'", "99", ",", "Edinburgh", ",", "UK", ",", "383-390", ",", "IOS", "Press", "Challis", ",", "B.", "and", "Edwards", ",", "A.", "D.", "N.", "-LRB-", "2001", "-RRB-", ":", "Design", "principles", "for", "tactile", "interaction", ".", "In", "Haptic", "Human-Computer", "Interaction", ",", "Vol", ".", "2058", "-LRB-", "Eds", ",", "Brewster", ",", "S.", "A.", "and", "Murray-Smith", ",", "R.", "-RRB-", "Springer", "LNCS", ",", "Berlin", ",", "Germany", ",", "pp.", "17-24", ".", "Cholewiak", ",", "R.", "W.", "and", "Collins", ",", "A.", "-LRB-", "1996", "-RRB-", ":", "Vibrotactile", "pattern", "discrimination", "and", "communality", "at", "several", "body", "sites", ".", "Perception", "and", "Psychophysics", ",", "57", ",", "724-737", ".", "Craig", ",", "J.", "C.", "and", "Sherrick", ",", "C.", "E.", "-LRB-", "1982", "-RRB-", ":", "Dynamic", "Tactile", "Displays", ".", "In", "Tactual", "Perception", ":", "A", "Sourcebook", "-LRB-", "Ed", ",", "Foulke", ",", "E.", "-RRB-", "Cambridge", "University", "Press", ",", "pp.", "209-233", ".", "22", "Edwards", ",", "A.", "D.", "N.", "-LRB-", "Ed", ".", "-RRB-", "-LRB-", "1995", "-RRB-", "Extra-Ordinary", "Human-Computer", "Interaction", ",", "Cambridge", "University", "Press", ",", "Cambridge", ",", "UK", ".", "Enriquez", ",", "M.", "J.", "and", "Maclean", ",", "K.", "-LRB-", "2003", "-RRB-", ":", "The", "Hapticon", "editor", ":", "A", "tool", "in", "support", "of", "haptic", "communication", "research", ".", "Haptics", "Symposium", "2003", ",", "Los", "Angeles", ",", "CA", ",", "356-362", ",", "IEEE", "Press", "Geldard", ",", "F.", "A.", "-LRB-", "1957", "-RRB-", ":", "Adventures", "in", "tactile", "literacy", ".", "The", "American", "Psychologist", ",", "12", ",", "115-124", ".", "Gemperle", ",", "F.", ",", "Kasabach", ",", "C.", ",", "Stivoric", ",", "J.", ",", "Bauer", ",", "M.", "and", "Martin", ",", "R.", "-LRB-", "1998", "-RRB-", ":", "Design", "for", "wearability", ".", "Proceedings", "of", "Second", "International", "Symposium", "on", "Wearable", "Computers", ",", "Los", "Alamitos", ",", "CA", ",", "116-122", ",", "IEEE", "Computer", "Society", "Gill", ",", "J.", "-LRB-", "2003", "-RRB-", ",", "Vol", ".", "2003", "Royal", "National", "Institute", "of", "the", "Blind", ",", "UK", ".", "Gunther", ",", "E.", "-LRB-", "2001", "-RRB-", ":", "Skinscape", ":", "A", "Tool", "for", "Composition", "in", "the", "Tactile", "Modality", ".", "Massachusetts", "Institute", "of", "Technology", ".", "Masters", "of", "Engineering", ".", "Gunther", ",", "E.", ",", "Davenport", ",", "G.", "and", "O'Modhrain", ",", "S.", "-LRB-", "2002", "-RRB-", ":", "Cutaneous", "Grooves", ":", "Composing", "for", "the", "Sense", "of", "Touch", ".", "Proceedings", "of", "Conference", "on", "New", "Instruments", "for", "Musical", "Expression", ",", "Dublin", ",", "IR", ",", "1-6", ",", "Jansson", ",", "G.", "and", "Larsson", ",", "K.", "-LRB-", "2002", "-RRB-", ":", "Identification", "of", "Haptic", "Virtual", "Objects", "with", "Differing", "Degrees", "of", "Complexity", ".", "Proceedings", "of", "Eurohaptics", "2002", ",", "Edinburgh", ",", "UK", ",", "57-60", ",", "Edinburgh", "University", "Kaczmarek", ",", "K.", ",", "Webster", ",", "J.", ",", "Bach-y-Rita", ",", "P.", "and", "Tomp-kins", ",", "W.", "-LRB-", "1991", "-RRB-", ":", "Electrotacile", "and", "vibrotactile", "displays", "for", "sensory", "substitution", "systems", ".", "IEEE", "Transaction", "on", "Biomedical", "Engineering", ",", "38", ",", "1-16", ".", "Kurze", ",", "M.", "-LRB-", "1997", "-RRB-", ":", "Rendering", "drawings", "for", "interactive", "haptic", "perception", ".", "Proceedings", "of", "ACM", "CHI", "'", "97", ",", "Atlanta", ",", "GA", ",", "423-430", ",", "ACM", "Press", ",", "Addison-Wesley", "Kurze", ",", "M.", "-LRB-", "1998", "-RRB-", ":", "TGuide", ":", "a", "guidance", "system", "for", "tactile", "image", "exploration", ".", "Proceedings", "of", "ACM", "ASSETS", "'", "98", ",", "Marina", "del", "Rey", ",", "CA", ",", "ACM", "Press", "Lederman", ",", "S.", "J.", "and", "Klatzky", ",", "R.", "L.", "-LRB-", "1999", "-RRB-", ":", "Sensing", "and", "Displaying", "Spatially", "Distributed", "Fingertip", "Forces", "in", "Haptic", "Interfaces", "for", "Teleoperator", "and", "Virtual", "Environment", "Systems", ".", "Presence", ":", "Teleoperators", "and", "Virtual", "Environments", ",", "8", ",", "86-103", ".", "Montagu", ",", "A.", "-LRB-", "1971", "-RRB-", ":", "Touching", ":", "The", "Human", "Significance", "of", "the", "Skin", ",", "Columbia", "University", "Press", ",", "New", "York", ".", "Oakley", ",", "I.", ",", "McGee", ",", "M.", ",", "Brewster", ",", "S.", "A.", "and", "Gray", ",", "P.", "D.", "-LRB-", "2000", "-RRB-", ":", "Putting", "the", "feel", "in", "look", "and", "feel", ".", "Proceedings", "of", "ACM", "CHI", "2000", ",", "The", "Hague", ",", "Netherlands", ",", "415-422", ",", "ACM", "Press", ",", "Addison-Wesley", "Rupert", ",", "A.", "-LRB-", "2000", "-RRB-", ":", "Tactile", "situation", "awareness", "system", ":", "proprioceptive", "prostheses", "for", "sensory", "deficiencies", ".", "Aviation", ",", "Space", "and", "Environmental", "Medicine", ",", "71", ",", "92-99", ".", "Sherrick", ",", "C.", "-LRB-", "1985", "-RRB-", ":", "A", "scale", "for", "rate", "of", "tactual", "vibration", ".", "Journal", "of", "the", "Acoustical", "Society", "of", "America", ",", "78", ".", "Shneiderman", ",", "B.", "-LRB-", "1998", "-RRB-", ":", "Designing", "the", "user", "interface", ",", "3", "rd", "Ed", ".", "Addison-Wesley", ",", "Reading", "-LRB-", "MA", "-RRB-", ".", "Spence", ",", "C.", "and", "Driver", ",", "J.", "-LRB-", "1997", "-RRB-", ":", "Cross-modal", "links", "in", "attention", "between", "audition", ",", "vision", "and", "touch", ":", "implications", "for", "interface", "design", ".", "International", "Journal", "of", "Cognitive", "Ergonomics", ",", "1", ",", "351-373", ".", "Stone", ",", "R.", "-LRB-", "2000", "-RRB-", ":", "Haptic", "feedback", ":", "A", "potted", "history", ",", "from", "telepresence", "to", "virtual", "reality", ".", "The", "First", "International", "Workshop", "on", "Haptic", "Human-Computer", "Interaction", ",", "Glasgow", ",", "UK", ",", "1-7", ",", "Springer-Verlag", "Lecture", "Notes", "in", "Computer", "Science", "Summers", ",", "I.", "R.", ",", "Chanter", ",", "C.", "M.", ",", "Southall", ",", "A.", "L.", "and", "Brady", ",", "A.", "C.", "-LRB-", "2001", "-RRB-", ":", "Results", "from", "a", "Tactile", "Array", "on", "the", "Fingertip", ".", "Proceedings", "of", "Eurohaptics", "2001", ",", "Birmingham", ",", "UK", ",", "26-28", ",", "University", "of", "Birmingham", "Tan", ",", "H.", "Z.", "and", "Pentland", ",", "A.", "-LRB-", "1997", "-RRB-", ":", "Tactual", "Displays", "for", "Wearable", "Computing", ".", "Proceedings", "of", "the", "First", "International", "Symposium", "on", "Wearable", "Computers", ",", "IEEE", "Tan", ",", "H.", "Z.", "and", "Pentland", ",", "A.", "-LRB-", "2001", "-RRB-", ":", "Chapter", "18", ":", "Tactual", "displays", "for", "sensory", "substitution", "and", "wearable", "computers", ".", "In", "Fundamentals", "of", "wearable", "computers", "and", "augmented", "reality", "-LRB-", "Eds", ",", "Barfield", ",", "W.", "and", "Caudell", ",", "T.", "-RRB-", "Lawrence", "Erlbaum", "Associates", ",", "Mahwah", ",", "New", "Jersey", ",", "pp.", "579-598", ".", "van", "Erp", ",", "J.", "B.", "F.", "-LRB-", "2002", "-RRB-", ":", "Guidelines", "for", "the", "use", "of", "active", "vibro-tactile", "displays", "in", "human-computer", "interaction", ".", "Proceedings", "of", "Eurohaptics", "2002", ",", "Edinburgh", ",", "UK", ",", "18-22", ",", "University", "of", "Edinburgh", "Van", "Scoy", ",", "F.", ",", "Kawai", ",", "T.", ",", "Darrah", ",", "M.", "and", "Rash", ",", "C.", "-LRB-", "2000", "-RRB-", ":", "Haptic", "Display", "of", "Mathematical", "Functions", "for", "Teaching", "Mathematics", "to", "Students", "with", "Vision", "Disabilities", ":", "Design", "and", "Proof", "of", "Concept", ".", "Proceedings", "of", "the", "First", "Workshop", "on", "Haptic", "Human-Computer", "Interaction", ",", "Glasgow", ",", "UK", ",", "University", "of", "Glasgow", "van", "Veen", ",", "H.", "and", "van", "Erp", ",", "J.", "B.", "F.", "-LRB-", "2001", "-RRB-", ":", "Tactile", "information", "presentation", "in", "the", "cockpit", ".", "In", "Haptic", "Human-Computer", "Interaction", "-LRB-", "LNCS2058", "-RRB-", ",", "Vol", ".", "2058", "-LRB-", "Eds", ",", "Brewster", ",", "S.", "A.", "and", "Murray-Smith", ",", "R.", "-RRB-", "Springer", ",", "Berlin", ",", "Germany", ",", "pp.", "174-181", ".", "Wall", ",", "S.", "A.", "and", "Harwin", ",", "W.", "S.", "-LRB-", "2001", "-RRB-", ":", "A", "High", "Bandwidth", "Interface", "for", "Haptic", "Human", "Computer", "Interaction", ".", "Mechatronics", ".", "The", "Science", "of", "Intelligent", "Machines", ".", "An", "International", "Journal", ",", "11", ",", "371-387", ".", "Wall", ",", "S.", "A.", ",", "Riedel", ",", "B.", ",", "Crossan", ",", "A.", "and", "McGee", ",", "M.", "R.", "-LRB-", "Eds", ".", "-RRB-", "-LRB-", "2002", "-RRB-", "Eurohaptics", "2002", "Conference", "Proceedings", ",", "University", "of", "Edinburgh", ",", "Edinburgh", ",", "Scotland", ".", "Wies", ",", "E.", ",", "Gardner", ",", "J.", ",", "O'Modhrain", ",", "S.", ",", "Hasser", ",", "C.", "and", "Bulatov", ",", "V.", "-LRB-", "2001", "-RRB-", ":", "Web-based", "touch", "display", "for", "accessible", "science", "education", ".", "In", "Haptic", "Human-Computer", "Interaction", ",", "Vol", ".", "2058", "-LRB-", "Eds", ",", "Brewster", ",", "S.", "A.", "and", "Murray-Smith", ",", "R.", "-RRB-", "Springer", "LNCS", ",", "Berlin", ",", "pp", ".", "52-60", "."], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["tactons", "tactile displays"], "abstractive_keyphrases": ["multimodal interaction", "non-visual cues"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "20", "document": ["A", "Survey", "of", "Collaborative", "Information", "Seeking", "Practices", "of", "Academic", "Researchers", "Information", "seeking", "and", "management", "practices", "are", "an", "integral", "aspect", "of", "people", "'s", "daily", "work", ".", "However", ",", "we", "still", "have", "little", "understanding", "of", "collaboration", "in", "the", "information", "seeking", "process", ".", "Through", "a", "survey", "of", "collaborative", "information", "seeking", "practices", "of", "academic", "researchers", ",", "we", "found", "that", "researchers", "reported", "that", "-LRB-", "1", "-RRB-", "the", "lack", "of", "expertise", "is", "the", "primary", "reason", "that", "they", "collaborate", "when", "seeking", "information", ";", "-LRB-", "2", "-RRB-", "traditional", "methods", ",", "including", "face-to-face", ",", "phone", ",", "and", "email", "are", "the", "preferred", "communication", "mediums", "for", "collaboration", ";", "and", "-LRB-", "3", "-RRB-", "collaborative", "information", "seeking", "activities", "are", "usually", "successful", "and", "more", "useful", "than", "individually", "seeking", "information", ".", "These", "results", "begin", "to", "highlight", "the", "important", "role", "that", "collaborative", "information", "seeking", "plays", "in", "daily", "work", ".", "Categories", "and", "Subject", "Descriptors", ":", "H.", "3.3", "Information", "search", "and", "retrieval", "General", "Terms", ":", "Human", "Factors", "Information", "seeking", "and", "management", "practices", "are", "an", "integral", "aspect", "of", "people", "'s", "daily", "work", ".", "In", "organizational", "work", ",", "information", "is", "vital", "for", "making", "decisions", "and", "coordinating", "activities", ".", "Therefore", ",", "organizations", "have", "developed", "a", "wide", "variety", "of", "processes", "and", "technologies", "to", "support", "their", "workers", "'", "information", "seeking", "activities", ".", "Much", "of", "this", "support", "has", "been", "for", "the", "individual", "information", "seeker", ";", "in", "most", "organizations", ",", "information", "seeking", "has", "been", "traditionally", "viewed", "as", "an", "individual", "activity", "-LSB-", "1", ",", "2", "-RSB-", ".", "Yet", ",", "collaboration", "is", "becoming", "an", "increasingly", "important", "component", "of", "work", "in", "organizations", ".", "Multidisciplinary", "teams", "are", "a", "common", "feature", "of", "modern", "organizations", "-LSB-", "3", ",", "4", "-RSB-", ".", "To", "successfully", "accomplish", "their", "work", ",", "team", "members", "must", "collaborate", "with", "each", "other", "efficiently", "and", "effectively", ".", "One", "important", "aspect", "of", "the", "team", "'s", "work", "is", "seeking", "information", "-LSB-", "5", "-RSB-", ".", "Yet", ",", "we", "have", "little", "understanding", "of", "collaborative", "information", "seeking", "practices", "-LSB-", "6", ",", "7", "-RSB-", ".", "Therefore", ",", "to", "help", "team", "members", "work", "together", "effectively", "and", "to", "design", "information", "systems", "that", "support", "their", "work", ",", "we", "must", "understand", "the", "collaborative", "information", "seeking", "practices", "of", "team", "members", ".", "To", "examine", "collaborative", "information", "seeking", "-LRB-", "CIS", "-RRB-", "practices", ",", "we", "conducted", "a", "survey", "of", "academic", "researchers", "in", "a", "small", "technology-focused", "research", "university", ".", "Researchers", "have", "traditionally", "collaborated", "with", "each", "other", "on", "research", "projects", "because", "of", "the", "often", "cross-disciplinary", "nature", "of", "the", "work", ".", "This", "collaboration", "has", "increased", "in", "recent", "years", "as", "information", "and", "communication", "technologies", "have", "improved", ".", "Although", "the", "survey", "asked", "a", "variety", "of", "questions", ",", "in", "this", "paper", ",", "we", "focus", "on", "three", "particular", "areas", "of", "interest", ":", "What", "triggers", "are", "most", "likely", "to", "lead", "to", "CIS", "activities", "?", "When", "engaging", "in", "CIS", ",", "what", "media", "or", "channel", "of", "communication", "is", "most", "likely", "used", "to", "collaborate", "?", "How", "successful", "are", "these", "CIS", "activities", "?", "In", "a", "previous", "study", ",", "we", "identified", "three", "triggers", "that", "cause", "team", "members", "to", "collaborate", "when", "seeking", "information", ".", "These", "triggers", "are", "-LRB-", "1", "-RRB-", "lack", "of", "expertise", "-LRB-", "2", "-RRB-", "complex", "information", "need", "and", "-LRB-", "3", "-RRB-", "information", "not", "easily", "accessible", "-LSB-", "8", "-RSB-", ".", "In", "this", "study", ",", "we", "were", "interested", "in", "identifying", "which", "of", "these", "triggers", "researchers", "reported", "to", "be", "the", "most", "important", "reason", "for", "them", "to", "collaborate", "when", "seeking", "information", ".", "We", "also", "wanted", "to", "identify", "what", "were", "the", "primary", "mechanisms", "of", "collaboration", "-LRB-", "e.g.", ",", "e-mail", ",", "face-to-face", ",", "etc.", "-RRB-", ".", "We", "were", "also", "interested", "in", "determining", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "GROUP", "'", "05", ",", "November", "6", "9", ",", "2005", ",", "Sanibel", "Island", ",", "Florida", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-223-2", "/", "05/0011", "...", "$", "5.00", ".", "85", "degree", "to", "which", "researchers", "found", "collaborative", "information", "seeking", "to", "be", "successful", ",", "particularly", "in", "comparison", "to", "individual", "information", "seeking", ".", "Although", "there", "is", "limited", "research", "on", "collaborative", "information", "seeking", ",", "researchers", "are", "beginning", "to", "explore", "this", "phenomena", "in", "various", "domains", "-LSB-", "9", "-RSB-", ".", "In", "a", "study", "of", "two", "design", "teams", ",", "Poltrock", "et", "al", "-LSB-", "10", "-RSB-", "found", "that", "each", "team", "had", "different", "communication", "and", "information", "seeking", "practices", ".", "Interestingly", ",", "they", "did", "not", "examine", "an", "individual", "'s", "role", "in", "the", "information", "seeking", "process", "but", "rather", "how", "team", "members", "actively", "worked", "together", "to", "identify", "information", "needs", ".", "They", "argue", "that", "an", "understanding", "of", "collaborative", "information", "retrieval", "will", "allow", "for", "the", "informed", "design", "of", "technologies", "meant", "to", "support", "such", "work", ",", "and", "will", "also", "allow", "teams", "to", "work", "more", "effectively", "with", "these", "sources", "of", "information", ".", "In", "a", "study", "of", "information", "behavior", "in", "a", "hierarchical", "work", "environment", "a", "military", "command", "and", "control", "environment", "Sonnenwald", "and", "Pierce", "-LSB-", "11", "-RSB-", "described", "information", "seeking", "as", "a", "dynamic", "activity", "in", "which", "``", "individuals", "must", "work", "together", "to", "seek", ",", "synthesize", "and", "disseminate", "information", ".", "''", "They", "examined", "how", "team", "members", "maintained", "awareness", "of", "each", "other", "'s", "information", "activities", "and", "how", "this", "awareness", "influenced", "their", "information", "sharing", "with", "each", "other", ".", "Finally", ",", "in", "a", "study", "of", "collaborative", "information", "seeking", "in", "the", "medical", "domain", ",", "Reddy", "and", "Dourish", "-LSB-", "12", "-RSB-", "argue", "that", "work", "rhythms", "play", "a", "role", "in", "healthcare", "providers", "'", "collaborative", "information", "seeking", "practices", ".", "Although", "a", "few", "studies", "have", "examined", "collaborative", "information", "seeking", "in", "small", "group", "settings", "through", "ethnographic", "field", "studies", ",", "there", "have", "been", ",", "to", "the", "best", "of", "our", "knowledge", ",", "no", "studies", "that", "have", "used", "surveys", "to", "gather", "data", "on", "CIS", "from", "a", "larger", "population", "sample", ".", "Seventy", "researchers", "at", "a", "small", "a", "small", "technology-focused", "research", "university", "participated", "in", "this", "study", ".", "The", "majority", "were", "faculty", "researchers", "and", "a", "small", "percentage", "were", "graduate", "research", "assistants", ".", "Most", "participants", "were", "from", "science", "and", "technology", "disciplines", ".", "3.2", "Materials", "and", "Procedures", "One-hundred", "and", "fifty", "potential", "participants", "were", "emailed", "a", "request", "to", "participate", ",", "which", "included", "an", "email", "link", "to", "an", "online", "survey", ".", "The", "response", "rate", "was", "47", "%", ".", "The", "survey", "included", "the", "following", "items", ":", "1", ".", "What", "causes", "you", "to", "work", "together", "when", "looking", "for", "information", "?", "-LRB-", "a", "-RRB-", "The", "information", "needed", "is", "complex", ".", "-LRB-", "b", "-RRB-", "The", "information", "needed", "requires", "a", "different", "expertise", ".", "-LRB-", "c", "-RRB-", "The", "information", "is", "not", "immediately", "accessible", ".", "2", ".", "What", "medium", "are", "you", "most", "likely", "to", "use", "when", "collaborating", "with", "your", "teammates", "to", "look", "for", "information", "?", "-LRB-", "a", "-RRB-", "Electronic", "forum", ";", "-LRB-", "b", "-RRB-", "Email", ";", "-LRB-", "c", "-RRB-", "Face-to-face", ";", "-LRB-", "d", "-RRB-", "Fax", ";", "-LRB-", "e", "-RRB-", "Instant", "message", ";", "-LRB-", "f", "-RRB-", "Telephone", ";", "-LRB-", "f", "-RRB-", "Web", "conferencing", "3", ".", "When", "collaborating", "with", "teammates", "to", "look", "for", "information", ",", "we", "usually", "find", "the", "information", "for", "which", "the", "team", "is", "searching", ".", "4", ".", "Participating", "in", "collaborative", "information", "seeking", "is", "easier", "than", "individual", "information", "seeking", ".", "5", ".", "Participating", "in", "collaborative", "information", "seeking", "leads", "to", "more", "relevant", "information", "being", "found", "than", "when", "individually", "seeking", "information", ".", "6", ".", "Participating", "in", "collaborative", "information", "seeking", "leads", "to", "information", "being", "found", "more", "quickly", "than", "when", "individually", "seeking", "information", ".", "Participants", "responded", "to", "each", "phrase", "under", "item", "1", "and", "to", "items", "3", "6", "on", "a", "scale", "ranging", "from", "1", "-LRB-", "strongly", "disagree", "-RRB-", "to", "10", "-LRB-", "strongly", "agree", "-RRB-", "and", "to", "item", "2", "on", "a", "scale", "ranging", "from", "1", "-LRB-", "not", "at", "all", "likely", "-RRB-", "to", "10", "-LRB-", "very", "likely", "-RRB-", ".", "The", "survey", "also", "included", "free-text", "opportunities", "for", "the", "respondents", "to", "provide", "more", "information", "about", "their", "answers", ",", "if", "they", "chose", "to", "do", "so", ".", "In", "order", "to", "determine", "the", "triggers", "that", "are", "most", "likely", "to", "lead", "to", "collaborative", "information", "seeking", ",", "the", "responses", "to", "questionnaire", "items", "1a", ",", "1b", ",", "and", "1c", "where", "considered", ".", "A", "one-way", "within-subjects", "analyses", "of", "variance", "-LRB-", "ANOVA", "-RRB-", "was", "computed", "with", "trigger", "serving", "as", "the", "independent", "variable", "with", "three", "levels", "-LRB-", "complexity", ",", "expertise", ",", "and", "accessibility", "-RRB-", "and", "rating", "as", "the", "dependent", "variable", ".", "This", "ANOVA", "was", "statistically", "significant", "F", "-LRB-", "2", ",", "132", "-RRB-", "=", "16.878", "and", "p", "<", ".001", ".", "Bonferroni", "'s", "post", "hoc", "tests", "indicated", "that", "expertise", "was", "rated", "significantly", "higher", "-LRB-", "M", "=", "8.17", "-RRB-", "than", "both", "complexity", "-LRB-", "M", "=", "6.80", "-RRB-", "and", "accessibility", "-LRB-", "M", "=", "6.73", "-RRB-", ",", "while", "complexity", "did", "not", "significantly", "differ", "from", "accessibility", ".", "The", "findings", "indicate", "that", "academic", "researchers", "will", "most", "often", "collaborate", "because", "they", "find", "the", "information", "requires", "a", "different", "expertise", "than", "their", "own", ".", "Many", "academic", "research", "projects", "are", "multidisciplinary", "in", "nature", "and", "require", "particular", "knowledge", "that", "a", "researcher", "may", "not", "have", ".", "As", "one", "researcher", "stated", ",", "``", "The", "basic", "reason", "is", "that", "frequently", "a", "wide", "range", "of", "expertise", "is", "needed", "and", "no", "one", "person", "can", "possibly", "have", "all", "the", "skills", "needed", "to", "be", "successful", ".", "''", "86", "Although", "the", "complexity", "of", "the", "information", "need", "and", "accessibility", "of", "information", "could", "lead", "to", "collaboration", ",", "they", "are", "not", "viewed", "as", "strongly", "as", "expertise", ".", "In", "regards", "to", "information", "accessibility", ",", "one", "researcher", "points", "out", ",", "``", "information", "is", "usually", "accessible", ";", "however", ",", "someone", "else", "will", "likely", "understand", "it", "better", ".", "''", "For", "this", "researcher", "the", "difficulty", "was", "not", "in", "accessing", "the", "information", "but", "rather", "in", "understanding", "its", "relevance", "which", "may", "require", "different", "expertise", ".", "During", "the", "CIS", "process", ",", "different", "researchers", "bring", "their", "own", "particular", "expertise", "and", "perspective", "to", "the", "team", ".", "When", "a", "researcher", "seeks", "information", "outside", "her", "domain", "of", "expertise", ",", "she", "will", "often", "turn", "to", "another", "researcher", "for", "help", ".", "These", "different", "expertises", "play", "an", "important", "role", "in", "the", "collaborative", "information", "seeking", "activities", "of", "the", "research", "team", ".", "4.2", "Communication", "Mediums", "for", "CIS", "Activities", "In", "order", "to", "examine", "the", "relationship", "between", "communication", "mediums", ",", "and", "to", "reduce", "the", "number", "of", "variables", "for", "subsequent", "analysis", ",", "a", "principal", "component", "factor", "analyses", "with", "a", "Varimax", "rotation", "was", "computed", "on", "the", "responses", "to", "questionnaire", "item", "2", ".", "A", "four", "factor", "solution", "was", "selected", "because", "all", "Eigen", "values", "were", "above", "1", ",", "and", "a", "logical", "grouping", "of", "sources", "emerged", ".", "We", "labeled", "the", "first", "factor", "``", "traditional", "''", ",", "and", "it", "included", ":", "email", ",", "face-to-face", ",", "and", "telephone", ".", "We", "labeled", "the", "second", "factor", "``", "web", "''", "and", "it", "included", ":", "instant", "messenger", ",", "web", "conferencing", ",", "and", "web", "sites", ".", "The", "third", "and", "fourth", "factor", "each", "included", "one", "item", ",", "``", "electronic", "forum", "''", "and", "``", "fax", "''", ",", "and", "were", ",", "thus", "labeled", "accordingly", ".", "Factor", "scores", "were", "created", "by", "using", "the", "mean", "of", "all", "the", "items", "that", "loaded", "on", "a", "given", "factor", ",", "and", "these", "factor", "scores", "were", "used", "in", "subsequent", "analyses", ".", "In", "order", "to", "identify", "the", "media", "that", "are", "most", "likely", "used", "for", "collaborate", "information", "seeking", ",", "a", "one-way", "within-subjects", "analyses", "of", "variance", "-LRB-", "ANOVA", "-RRB-", "was", "computed", "with", "medium", "factor", "scores", "serving", "as", "the", "independent", "variable", "with", "four", "levels", "-LRB-", "traditional", ",", "web", ",", "electronic", "forum", "and", "fax", "-RRB-", "and", "rating", "as", "the", "dependent", "variable", ".", "This", "ANOVA", "was", "statistically", "significant", "as", "F", "-LRB-", "3", ",", "195", "-RRB-", "=", "84.709", "and", "p", "<", ".001", ".", "Bonferroni", "'s", "post", "hoc", "tests", "indicated", "that", "traditional", "media", "-LRB-", "M", "=", "8.10", "-RRB-", "significantly", "outscored", "all", "other", "types", ";", "both", "web", "media", "-LRB-", "M", "=", "3.64", "-RRB-", "and", "electronic", "forum", "-LRB-", "M", "=", "4.58", "-RRB-", "significantly", "outscored", "fax", "-LRB-", "M", "=", "2.70", "-RRB-", "but", "did", "not", "significantly", "differ", "one", "from", "the", "other", ".", "Researchers", "preferred", "traditional", "media", "for", "their", "communication", ".", "Within", "this", "category", ",", "we", "included", "e-mail", ".", "Although", "e-mail", "may", "not", "seem", "to", "fit", "in", "the", "same", "category", "as", "face-to-face", "and", "telephone", ",", "it", "has", "become", "such", "a", "ubiquitous", "communication", "medium", "that", "respondents", "viewed", "it", "as", "being", "similar", "to", "face-to-face", "and", "the", "telephone", ".", "Furthermore", ",", "email", "has", "been", "in", "existence", "much", "longer", "than", "other", "types", "of", "electronic", "mediums", "such", "as", "web", "conferences", ".", "People", "are", "more", "comfortable", "and", "experienced", "with", "email", "and", "personal", "conversations", ",", "whether", "these", "conversations", "are", "in", "person", "or", "on", "the", "phone", ".", "The", "other", "media", "were", "not", "as", "strongly", "embraced", ".", "For", "instance", ",", "we", "had", "anticipated", "that", "web-based", "media", "such", "as", "web-conferencing", "and", "instant", "messaging", "would", "have", "higher", "rating", "than", "it", "did", ".", "One", "possible", "explanation", "is", "``", "newness", "''", "of", "the", "technology", ".", "For", "instance", ",", "instant", "messenger", "tools", "are", "still", "relatively", "new", "and", "have", "not", "permeated", "to", "all", "groups", "and", "ages", ".", "Furthermore", ",", "some", "of", "the", "web-based", "media", "take", "time", "to", "set-up", ".", "Web", "conferences", "and", "web", "sites", "require", "time", "and", "effort", "unlike", "picking", "up", "the", "phone", "to", "talk", "to", "someone", ".", "Interestingly", ",", "although", "not", "included", "as", "a", "medium", "to", "rate", ",", "some", "participants", "added", "campus", "mail", "and", "``", "snail", "mail", "''", "as", "a", "medium", "for", "communication", ".", "Whether", "collaborators", "are", "physically", "co-located", "or", "geographically", "dispersed", ",", "communication", "is", "an", "essential", "component", "of", "collaborative", "information", "seeking", ".", "The", "researchers", "orient", "towards", "the", "mediums", "that", "are", "familiar", "to", "them", ".", "4.3", "Success", "of", "Collaborative", "Information", "Seeking", "Activities", "In", "order", "to", "address", "the", "question", "of", "whether", "collaborations", "are", "successful", "when", "engaging", "in", "CIS", ",", "a", "dichotomous", "variable", "was", "created", "for", "each", "success", "item", "-LRB-", "3", "6", "-RRB-", ",", "whereby", "a", "rating", "of", "0", "to", "5", "was", "considered", "``", "disagree", "''", ",", "and", "a", "rating", "of", "6", "to", "10", "was", "considered", "``", "agree", "''", ".", "We", "initially", "used", "a", "10", "-", "point", "scale", "in", "order", "to", "be", "consistent", "with", "the", "rest", "of", "the", "survey", "questions", ".", "We", "then", "made", "the", "decision", "to", "reduce", "the", "scale", "to", "a", "dichotomous", "variable", "in", "order", "to", "evaluate", "this", "question", "with", "a", "test", "of", "statistical", "significance", ".", "Using", "this", "dichotomous", "variable", ",", "a", "chi-square", "analysis", "was", "performed", "on", "the", "frequencies", "for", "each", "success", "item", ".", "The", "results", "of", "these", "analyses", "as", "well", "as", "the", "mean", "rating", "for", "each", "item", ",", "with", "mean", "representing", "degree", "of", "agreement", "from", "1", "to", "10", "-LRB-", "10", "representing", "``", "strongly", "agree", "''", "-RRB-", ",", "is", "displayed", "in", "Table", "1", ".", "Table", "1", ".", "Means", "and", "Chi-Square", "for", "Success", "Factors", "Agreement", "Success", "Factor", "Mean", "Agree", "Disagree", "Chi-Square", "Usually", "find", "info", "8.0152", "64", "2", "X", "2", "=", "58.242", ",", "p", "<", ".001", "Easier", "than", "individual", "info", "seeking", "7.1061", "50", "16", "X", "2", "=", "17.515", ",", "p", "<", ".001", "Find", "more", "relevant", "info", "than", "individual", "info", "seeking", "7.3788", "55", "11", "X", "2", "=", "29.333", ",", "p", "<", ".001", "Quicker", "than", "individual", "info", "seeking", "6.9394", "48", "10", "X", "2", "=", "24.897", ",", "p", "<", ".001", "87", "Success", "is", "often", "subjective", "and", "difficult", "to", "define", ",", "particularly", "with", "ill-defined", "tasks", "such", "as", "information", "seeking", ".", "Therefore", ",", "we", "asked", "four", "questions", "related", "to", "success", "to", "gain", "a", "better", "understanding", "of", "this", "important", "area", ".", "Most", "researchers", "agreed", "that", "when", "collaborating", "with", "colleagues", "to", "look", "for", "information", ",", "they", "usually", "found", "the", "needed", "information", ".", "They", "also", "thought", "that", "collaboratively", "seeking", "information", "was", "easier", "and", "lead", "to", "more", "relevant", "information", "than", "individually", "seeking", "information", ".", "Collaborative", "information", "seeking", "allows", "researchers", "to", "rely", "on", "other", "colleagues", "for", "help", "and", "guidance", ";", "therefore", ",", "allowing", "them", "to", "focus", "on", "their", "own", "area", "of", "expertise", ".", "This", "could", "be", "one", "possible", "reason", "why", "researchers", "strongly", "believe", "that", "CIS", "allows", "them", "to", "quickly", "find", "more", "relevant", "information", "when", "compared", "to", "individual", "information", "seeking", ".", "At", "the", "same", "time", ",", "one", "researcher", "provided", "a", "note", "of", "caution", "stating", "that", "the", "success", "``", "depends", "on", "your", "team", "of", "seekers", ".", "''", "As", "in", "many", "collaborative", "activities", ",", "the", "success", "depends", "on", "how", "well", "the", "team", "of", "information", "seekers", "can", "work", "together", "when", "looking", "for", "information", ".", "Collaborative", "information", "seeking", "is", "an", "important", "aspect", "of", "the", "work", "done", "by", "teams", ".", "The", "findings", "presented", "here", "raise", "issues", "that", "are", "important", "to", "consider", "when", "conceptualizing", "collaborative", "information", "seeking", "and", "how", "to", "best", "support", "this", "activity", ".", "One", "important", "issue", "is", "how", "to", "support", "information", "seeking", "in", "geographically", "dispersed", "teams", ".", "Physical", "co-located", "team", "members", "can", "have", "face-to-face", "interaction", ".", "However", ",", "for", "``", "virtual", "''", "teams", "technical", "support", "becomes", "even", "more", "important", "because", "they", "do", "not", "have", "the", "advantages", "of", "the", "face-to-face", "interaction", ".", "This", "technical", "support", "could", "include", "features", "that", "allow", "individuals", "to", "exchange", "ideas", ",", "or", "share", "searches", "while", "collaboratively", "searching", "for", "information", "-LSB-", "9", "-RSB-", ".", "For", "the", "next", "stages", "of", "this", "study", ",", "we", "plan", "on", "conducting", "a", "field", "study", "of", "academic", "research", "teams", "to", "better", "understand", "the", "actual", "interaction", "of", "team", "members", "during", "the", "collaborative", "information", "seeking", "process", ".", "We", "would", "like", "to", "thank", "the", "anonymous", "participants", "who", "answered", "the", "survey", ".", "This", "research", "was", "supported", "in", "part", "by", "Missouri", "Research", "Board", "grant", "1734", ".", "1", ".", "Ellis", ",", "D.", "-LRB-", "1989", "-RRB-", ".", "A", "behavioral", "model", "for", "information", "retrieval", "system", "design", ".", "Journal", "of", "Information", "Science", ",", "15", ":", "p.", "237-247", ".", "2", ".", "Ellis", ",", "D.", "and", "M.", "Haugan", ".", "-LRB-", "1997", "-RRB-", "Modeling", "the", "Information", "Seeking", "Patterns", "of", "Engineers", "and", "Research", "Scientists", "in", "an", "Industrial", "Environment", ".", "The", "Journal", "of", "Documentation", ".", "53", "-LRB-", "4", "-RRB-", ":", "p.", "384-403", ".", "3", ".", "Hackman", ",", "R.", "ed", ".", "-LRB-", "1990", "-RRB-", "Groups", "that", "Work", "-LRB-", "and", "Those", "That", "Do", "n't", "-RRB-", ":", "Creating", "Conditions", "for", "Effective", "Teamwork", ".", "Jossey-Bass", "Publications", ":", "San", "Francisco", ".", "4", ".", "Mankin", ",", "D.", ",", "S.", "Cohen", ",", "and", "T.", "Bikson", ".", "-LRB-", "1996", "-RRB-", ".", "Teams", "and", "Technology", ".", "Boston", ",", "MA", ":", "Harvard", "Business", "School", "Press", ".", "5", ".", "Bruce", ",", "H.", ",", "et", "al.", "-LRB-", "2002", "-RRB-", ".", "A", "comparison", "of", "the", "collaborative", "information", "retrieval", "-LRB-", "CIR", "-RRB-", "behaviors", "of", "two", "design", "teams", ".", "in", "Information", "Seeking", "In", "Context", ":", "The", "Fourth", "International", "Conference", "on", "Information", "Needs", ",", "Seeking", "and", "Use", "in", "Different", "Contexts", ".", "Lisbon", ",", "Portugal", ".", "6", ".", "Sonnenwald", ",", "D.H.", "and", "L.A.", "Lievrouw", ".", "-LRB-", "1996", "-RRB-", ".", "Collaboration", "during", "the", "Design", "Process", ":", "A", "Case", "Study", "of", "Communication", ",", "Information", "Behavior", ",", "and", "Project", "Performance", ".", "in", "Proc", "Int", "Conf", "on", "Research", "in", "Information", "Needs", ",", "Seeking", ",", "and", "Use", "in", "Different", "Contexts", ".", "Tampere", ",", "Finland", ":", "London", ":", "Taylor", "Graham", ".", "7", ".", "Haythornthwaite", ",", "C.", ",", "B.", "Wellman", ",", "and", "M.", "Mantei", ".", "-LRB-", "1995", "-RRB-", ".", "Work", "Relationships", "and", "Media", "Use", ":", "A", "Social", "Network", "Analysis", ".", "Group", "Decision", "and", "Negotiation", ".", "4", "-LRB-", "3", "-RRB-", ":", "p.", "193-211", ".", "8", ".", "Reddy", ",", "M.", "-LRB-", "In", "submission", "-RRB-", "Collaborative", "Information", "Seeking", ":", "Supporting", "the", "work", "of", "multi-disciplinary", "patient", "care", "teams", ".", "Journal", "of", "American", "Medical", "Informatics", "Association", "-LRB-", "JAMIA", "-RRB-", ".", "9", ".", "Twidale", ",", "M.", "and", "D.M.", "Nichols", ".", "-LRB-", "1998", "-RRB-", ".", "Designing", "Interfaces", "to", "Support", "Collaboration", "in", "Information", "Retrieval", ".", "Interacting", "with", "Computers", ".", "10", "-LRB-", "2", "-RRB-", ":", "p.", "177-193", ".", "10", ".", "Poltrock", ",", "S.", ",", "et", "al.", "-LRB-", "2003", "-RRB-", ".", "Information", "Seeking", "and", "Sharing", "in", "Design", "Teams", ".", "in", "Proceedings", "of", "the", "2003", "International", "ACM", "SIGGROUP", "Conference", "on", "Supporting", "Group", "Work", ".", "11", ".", "Sonnenwald", ",", "D.H.", "and", "L.G.", "Pierce", ".", "-LRB-", "2000", "-RRB-", ".", "Information", "behavior", "in", "dynamic", "group", "work", "contexts", ":", "interwoven", "situational", "awareness", ",", "dense", "social", "networks", "and", "contested", "collaboration", "in", "command", "and", "control", ".", "Information", "Processing", "and", "Management", ".36", ":", "p.", "461-479", ".", "12", ".", "Reddy", ",", "M.", "and", "P.", "Dourish", ".", "-LRB-", "2002", "-RRB-", ".", "A", "Finger", "on", "the", "Pulse", ":", "Temporal", "Rhythms", "and", "Information", "Seeking", "in", "Medical", "Care", ".", "In", "Proc", ".", "of", "ACM", "Conf", ".", "on", "Computer", "Supported", "Cooperative", "Work", "-LRB-", "CSCW", "'", "02", "-RRB-", ".", "New", "Orleans", ",", "LA", ":", "New", "York", ":", "ACM", ".", "p.", "344-353", ".", "88"], "doc_bio_tags": ["O", "B", "O", "O", "B", "I", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information seeking", "survey", "collaboration", "group work", "academic researchers"], "abstractive_keyphrases": ["communication media", "collaborative information seeking"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "212", "document": ["Video-Streaming", "for", "Fast", "Moving", "Users", "in", "3G", "Mobile", "Networks", "The", "emergence", "of", "third-generation", "-LRB-", "3G", "-RRB-", "mobile", "networks", "offers", "new", "opportunities", "for", "the", "effective", "delivery", "of", "data", "with", "rich", "content", "including", "multimedia", "messaging", "and", "video-streaming", ".", "Provided", "that", "streaming", "services", "have", "proved", "highly", "successful", "over", "stationary", "networks", "in", "the", "past", ",", "we", "anticipate", "that", "the", "same", "trend", "will", "soon", "take", "place", "in", "3G", "networks", ".", "Although", "mobile", "operators", "currently", "make", "available", "pertinent", "services", ",", "the", "available", "resources", "of", "the", "underlying", "networks", "for", "the", "delivery", "of", "rich", "data", "remain", "in-herently", "constrained", ".", "At", "this", "stage", "and", "in", "light", "of", "large", "numbers", "of", "users", "moving", "fast", "across", "cells", ",", "3G", "networks", "may", "not", "be", "able", "to", "warrant", "the", "needed", "quality-of-service", "requirements", ".", "The", "support", "for", "streaming", "services", "necessitates", "the", "presence", "of", "content", "or", "media", "servers", "properly", "placed", "over", "the", "3G", "network", ";", "such", "servers", "essen-tially", "become", "the", "source", "for", "streaming", "applications", ".", "Evidently", ",", "a", "centralized", "approach", "in", "organizing", "streaming", "content", "might", "lead", "to", "highly", "congested", "media-nodes", "which", "in", "presence", "of", "moving", "users", "will", "certainly", "yield", "increased", "response", "times", "and", "jitter", "to", "user", "requests", ".", "In", "this", "paper", ",", "we", "propose", "a", "workaround", "that", "enables", "3G", "networks", "to", "offer", "uninterrupted", "video-streaming", "services", "in", "the", "presence", "of", "a", "large", "number", "of", "users", "moving", "in", "high-speed", ".", "At", "the", "same", "time", ",", "we", "offer", "a", "distributed", "organization", "for", "the", "network", "'s", "media-servers", "to", "better", "handle", "over-utilization", ".", "H.", "3.4", "-LSB-", "Systems", "and", "Software", "-RSB-", ":", "Information", "networks", ";", "H.", "3.5", "-LSB-", "Online", "Information", "Services", "-RSB-", ":", "Data", "sharing", ";", "C.", "2.4", "-LSB-", "Distributed", "Systems", "-RSB-", ":", "Distributed", "applications", "Algorithms", ",", "Design", ",", "Performance", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MobiDE", "'", "05", ",", "June", "12", ",", "2005", ",", "Baltimore", ",", "Maryland", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-088-4", "/", "05/0006", "...", "$", "5.00", ".", "The", "third", "generation", "-LRB-", "3G", "-RRB-", "mobile", "phone", "system", "UMTS", "enables", "better", "quality", "and", "allows", "for", "more", "convenient", "use", "of", "multimedia", "messaging", "and", "video-services", "by", "offering", "higher", "bandwidth", "and", "lower", "latency", "than", "its", "GSM", "and", "GPRS", "predecessors", "-LSB-", "15", ",", "1", "-RSB-", ".", "UMTS", "furnishes", "upto", "2", "Mbps", "rates", "for", "indoor", "and", "upto", "384Kbps", "for", "outdoor", "environments", ".", "Clearly", ",", "much", "improvement", "in", "terms", "of", "allo-cated", "resources", "has", "been", "made", "for", "the", "handling", "of", "``", "rich", "''", "data", "including", "multimedia", "messages", "and", "video-services", ".", "Nevertheless", ",", "the", "available", "resources", "still", "present", "significant", "limitations", "for", "the", "scale", "up", "of", "services", "when", "very", "large", "number", "of", "clients", "are", "present", "in", "a", "cell", "of", "a", "network", ".", "Perhaps", ",", "the", "most", "daunting", "challenge", "comes", "from", "moving", "users", "who", "access", "multimedia", "data", "and", "video", "feeds", "with", "the", "help", "of", "their", "mobile", "phones", "and", "PDAs", "while", "traveling", "on", "either", "private", "vehicles", "or", "mass", "transportation", "means", "such", "as", "commuter", "trains", "and", "public", "busses", ".", "Evidently", ",", "a", "large", "number", "of", "concurrent", "connections", "soliciting", "data", "resources", "in", "a", "cell", "and", "being", "handled", "in", "real-time", "pose", "significant", "capacity", "problems", "for", "the", "underlying", "3G", "network", ".", "The", "situation", "becomes", "even", "more", "challenging", "when", "users", "attempt", "to", "follow", "streaming", "sources", "while", "on", "the", "move", ".", "We", "consider", "streaming", "services", "to", "be", "of", "key", "importance", "as", "they", "will", "ultimately", "offer", "information", "on", "demand", "for", "the", "moving", "user", "in", "any", "geographic", "position", "and", "at", "any", "time", ".", "In", "order", "to", "facilitate", "video", "streaming", "over", "UMTS", "networks", "a", "number", "of", "issues", "have", "to", "be", "addressed", "so", "that", "users", "do", "not", "experience", "delays", "and", "discontinuities", "during", "playback", ".", "The", "two", "core", "aspects", "that", "require", "attention", "are", "the", "variations", "of", "the", "available", "bandwidth", "as", "users", "enter", "and", "leave", "cells", "as", "well", "as", "the", "effective", "management", "of", "handovers", "as", "roaming", "users", "attach", "to", "different", "base-stations", "along", "their", "trajectory", ".", "The", "problem", "of", "graceful", "transition", "when", "moving", "between", "base-stations", "becomes", "more", "critical", "when", "the", "users", "are", "on", "high-speed", "motorways", ".", "In", "this", "case", ",", "handovers", "become", "more", "frequent", "and", "traffic", "load", "at", "successive", "base-stations", "may", "vary", ".", "In", "this", "paper", ",", "we", "outline", "the", "above", "emerging", "problem", "and", "propose", "a", "scheme", "that", "allows", "for", "not", "only", "improved", "network", "resource", "sharing", "but", "also", "for", "enhanced", "management", "of", "streaming", "sources", "to", "the", "mobile", "user", ".", "It", "is", "expected", "that", "base-stations", "are", "to", "transmit", "in", "different", "bitrates", "throughout", "the", "journey", "of", "an", "individual", "as", "cells", "will", "undoubtedly", "present", "diverse", "levels", "of", "congestion", "and", "availability", "of", "connections", ".", "When", "considering", "vehicular", "users", "in", "general", ",", "one", "can", "exploit", "the", "fact", "that", "the", "user", "'s", "trajectory", "can", "be", "predicted", "in", "a", "satisfactory", "manner", ".", "An", "early", "method", "to", "attain", "this", "goal", "is", "to", "keep", "an", "aggregate", "history", "of", "observations", "made", "regarding", "the", "movement", "of", "users", "within", "each", "cell", "-LSB-", "9", "-RSB-", ".", "Based", "on", "this", "information", ",", "probability", "density", "functions", "for", "the", "prediction", "for", "the", "next-cell-to-move", "can", "be", "derived", "and", "used", ".", "Traffic", "authorities", "imposed", "speed", "limits", "and", "road", "signals", "can", "65", "also", "assist", "in", "the", "more", "accurate", "estimation", "of", "a", "user", "'s", "average", "speed", ".", "In", "addition", ",", "the", "user", "'s", "direction", "can", "be", "predicted", "reasonably", "well", "by", "keeping", "track", "of", "her", "trajectory", "thus", "far", ".", "Although", "a", "model", "for", "precise", "prediction", "is", "beyond", "the", "scope", "of", "this", "paper", ",", "we", "can", "assume", "that", "there", "are", "already", "techniques", "that", "can", "offer", "a", "good", "estimation", "of", "a", "moving", "user", "path", ".", "For", "instance", ",", "an", "individual", "'s", "geographic", "location", "could", "be", "tracked", "with", "the", "assistance", "of", "UMTS", "Location", "Service", "-LRB-", "LCS", "-RRB-", "-LSB-", "2", "-RSB-", "that", "can", "identify", "the", "cell", "that", "a", "user", "presently", "appears", "in", ".", "If", "a", "user", "is", "moving", "along", "a", "highway", ",", "one", "could", "easily", "estimate", "not", "only", "the", "direction", "of", "his", "movement", "but", "also", "his", "average", "speed", "along", "a", "given", "trajectory", ".", "Finally", ",", "the", "soon", "anticipated", "incorporation", "of", "Global", "Positioning", "System", "-LRB-", "GPS", "-RRB-", "receivers", "into", "mobile", "phones", "through", "A-GPS", "features", "-LSB-", "30", "-RSB-", "will", "help", "in", "the", "very", "accurate", "user", "positioning", "and", "extraction", "of", "their", "movement", "characteristics", ".", "It", "is", "our", "conjecture", "that", "at", "this", "stage", ",", "simply", "knowing", "the", "overall", "direction", "of", "a", "user", "'s", "trajectory", "in", "conjuction", "with", "the", "highway", "that", "she", "travels", "on", "can", "ensure", "timely", "video-streaming", "and", "playout", "continuity", "for", "users", ".", "In", "our", "streaming", "environment", ",", "there", "exist", "three", "distinct", "types", "of", "synergistic", "computing", "systems", ":", "media-servers", ",", "base-stations", ",", "and", "user", "equipment", ".", "These", "systems", "are", "organized", "in", "three", "functional", "layers", "as", "Figure", "1", "depicts", ".", "The", "role", "of", "the", "media-servers", "is", "to", "predominantly", "manage", "content", "in", "a", "highly", "distributed", "fashion", "where", "fast", "content", "retrieval", "and", "data", "resilience", "can", "be", "guaranteed", ".", "Base-stations", "handle", "all", "user", "initiated", "connections", "to", "the", "3G", "network", "and", "through", "their", "channels", "offer", "users", "requested", "data", ".", "The", "last", "tier", "of", "Figure", "1", "consists", "of", "cellular", "phones", "and", "PDAs", "equipped", "with", "appropriate", "video-players", "and", "featuring", "minimal", "buffer", "capabilities", "to", "support", "streaming", ".", "Base", "Station", "Media", "Server", "Base", "Station", "Base", "Station", "Media", "Server", "Base", "Station", "WCDMA", "radio", "interface", "Figure", "1", ":", "Three-Tier", "Organization", "for", "Streaming", "Provision", ".", "Media", "and", "base-stations", "are", "internetworked", "via", "high-speed", "wired", "links", "while", "UMTS", "offer", "wireless", "connections", "between", "user", "equipment", "and", "base-stations", ".", "This", "distributed", "media-server", "architecture", "provides", "for", "dividing", "of", "large", "video", "streams", "into", "multiple", "segments", "-LSB-", "34", ",", "14", "-RSB-", ".", "A", "media-server", "initially", "retrieves", "a", "solicited", "video", "object", "either", "from", "its", "storage", "units", "or", "from", "another", "remote", "media-server", ".", "In", "this", "paper", ",", "we", "take", "the", "approach", "that", "instead", "of", "transmitting", "the", "entire", "object", "to", "a", "single", "base-station", ",", "we", "first", "segment", "it", "and", "then", "forward", "its", "segments", "to", "the", "base-stations", "along", "the", "user", "'s", "path", ".", "Our", "rationale", "is", "that", "an", "individual", "base-station", "handles", "only", "a", "section", "of", "the", "video", "file", ";", "the", "size", "of", "the", "section", "in", "discussion", "is", "commensurate", "to", "the", "duration", "of", "a", "user", "'s", "trip", "inside", "the", "cell", ".", "Clearly", ",", "video-object", "segmentation", "reduces", "both", "network", "transmission", "costs", "between", "media", "and", "base-stations", "and", "start-up", "latencies", "that", "users", "experience", "upon", "cell", "entrance", ".", "On", "the", "other", "hand", ",", "segmentation", "might", "get", "more", "complex", "if", "a", "user", "remains", "longer", "in", "a", "cell", "than", "her", "estimated", "time", "and", "so", "she", "may", "face", "delays", "in", "the", "reception", "of", "frames", ".", "We", "address", "this", "issue", "by", "continual", "monitoring", "of", "both", "user", "speed", "and", "position", "and", "by", "doing", "so", "giving", "the", "base-station", "the", "option", "to", "receive", "additional", "video", "increments", "and", "sufficiently", "feed", "a", "user", "at", "all", "times", ".", "Our", "work", "requires", "minimal", "buffer", "capabilities", "for", "mobile", "stations", "so", "that", "a", "sufficient", "number", "of", "frames", "can", "be", "accommodated", ".", "Buffer", "presence", "assures", "that", "the", "playout", "does", "not", "stop", "if", "the", "base-station", "emits", "at", "lower", "bitrate", "due", "to", "3G", "network", "congestion", ".", "We", "propose", "a", "rate", "adaptation", "scheme", "which", "allows", "a", "base-station", "to", "adjust", "its", "transmitting", "bitrate", "at", "any", "time", "according", "to", "base-station", "load", "and", "the", "states", "of", "the", "client-side", "buffer", ".", "The", "UMTS", "streaming", "class", "defines", "that", "the", "bitrate", "assigned", "to", "a", "moving", "user", "is", "guaranteed", "even", "though", "it", "might", "be", "less", "than", "the", "maximum", "video", "bitrate", "-LSB-", "15", "-RSB-", ".", "The", "base-station", "'s", "decision", "of", "accepting", "a", "video", "streaming", "session", "has", "an", "impact", "on", "all", "subsequent", "base-stations", "that", "follow", "up", "on", "the", "video", "delivery", "process", ".", "While", "a", "streaming", "session", "is", "in", "progress", ",", "the", "load", "of", "base-stations-to-service", "may", "dynamically", "change", "and", "potentially", "lead", "to", "session", "drops", ".", "Such", "drops", "are", "highly", "undesirable", "and", "we", "adopt", "a", "policy", "to", "address", "this", "issue", ".", "Our", "proposed", "scheme", "gives", "a", "base-station", "the", "opportunity", "to", "appropriately", "alter", "the", "transmission", "bitrate", "by", "taking", "into", "account", "the", "current", "base-station", "load", "and", "simultaneously", "ensuring", "that", "the", "client", "buffer", "does", "not", "starve", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "presents", "the", "overall", "system", "architecture", "and", "examines", "the", "interaction", "between", "media-servers", "and", "base-stations", ".", "Section", "3", "proposes", "our", "bitrate", "adaptation", "scheme", "and", "Section", "4", "discusses", "the", "results", "of", "our", "preliminary", "experimentation", ".", "Finally", ",", "related", "work", "and", "conclusions", "can", "be", "found", "in", "Sections", "5", "and", "6", "respectively", ".", "The", "fast", "movement", "of", "users", "via", "different", "cells", "of", "the", "3G", "network", "imposes", "a", "set", "of", "new", "requirements", "for", "the", "entire", "video", "delivery", "system", ".", "As", "the", "user", "relocates", "rapidly", ",", "she", "faces", "a", "high", "number", "of", "handovers", "during", "her", "journey", "and", ",", "as", "a", "consequence", ",", "a", "large", "video", "stream", "has", "to", "be", "fetched", "from", "different", "base-stations", "in", "order", "to", "warrant", "continuous", "playback", ".", "As", "suggested", "earlier", ",", "we", "assume", "the", "deployment", "of", "dedicated", "media-servers", "which", "undertake", "both", "the", "storage", "and", "distribution", "of", "video-streams", "to", "underline", "base-stations", ".", "It", "is", "imperative", "that", "media-servers", ",", "base-stations", ",", "and", "user-equipment", "involved", "in", "a", "streaming", "session", "must", "cooperate", "in", "order", "to", "guarantee", "QoS", "for", "the", "video", "reception", "of", "the", "moving", "individual", ".", "In", "this", "section", ",", "we", "outline", "our", "overall", "architecture", ",", "discuss", "the", "content", "delivery", "process", "that", "media-servers", "carry", "out", ",", "and", "present", "specific", "algorithms", "for", "video", "segmentation", "and", "content", "distribution", ".", "2.1", "Architecture", "The", "three", "distinct", "types", "of", "cooperative", "computing", "systems", "-LRB-", "shown", "in", "Figure", "1", "-RRB-", "organized", "in", "a", "multi-tier", "architecture", "constitute", "our", "proposed", "streaming", "environment", ".", "We", "assume", "that", "base-stations", "communicate", "with", "the", "mobile", "stations", "through", "the", "WCDMA", "radio", "interface", "-LSB-", "15", "-RSB-", ".", "Each", "cell", "of", "the", "UMTS", "network", "is", "served", "by", "a", "different", "base-station", "whose", "responsibility", "is", "to", "deliver", "the", "video", "streams", "to", "its", "constituent", "mobile", "users", ".", "A", "streaming", "service", "necessitates", "the", "use", "of", "media", "servers", "that", "will", "handle", "the", "storage", "and", "delivery", "of", "video", "files", "-LSB-", "3", "-RSB-", ".", "Although", "we", "could", "adopt", "a", "centralized", "approach", "to", "accommodate", "the", "media", "in", "delivery", ",", "high", "contention", "and", "resource", "over-utilization", "would", "impact", "user", "request", "response", "times", "greatly", ".", "Clearly", "a", "distributed", "approach", "that", "webs", "media-servers", "together", "is", "required", ".", "High-speed", "wired", "communication", "means", "link", "these", "servers", "and", "all", "share", "required", "meta-data", "structures", ".", "66", "Due", "to", "incurred", "costs", "and", "the", "fact", "that", "users", "move", "at", "high-speeds", ",", "having", "a", "dedicated", "media", "server", "for", "each", "base-station", "would", "be", "a", "poor", "decision", ".", "If", "the", "mobile", "user", "is", "traveling", "at", "a", "speed", "of", "100", "km/h", "and", "the", "cell", "radius", "is", "0.7", "km", ",", "then", "he", "will", "pass", "through", "the", "given", "cell", "in", "50.4", "seconds", "at", "maximum", ",", "assuming", "an", "hexagonal", "shape", ".", "This", "implies", "that", "the", "number", "of", "frequent", "handovers", "taking", "place", "increase", "the", "interaction", "among", "media-servers", "that", "will", "have", "to", "be", "involved", "throughout", "the", "streaming", "session", ".", "Furthermore", ",", "in", "order", "to", "avoid", "under-utilization", "of", "media-servers", "and", "strike", "a", "balance", "in", "the", "aggregate", "use", "for", "facilitating", "streaming", ",", "we", "group", "3G", "cells", "into", "groups", "as", "Figure", "2", "depicts", ".", "This", "assignment", "is", "expected", "to", "happen", "in", "a", "static", "manner", "although", "it", "could", "be", "modified", "to", "reflect", "emerging", "new", "realities", "in", "the", "core", "network", ".", "In", "this", "regard", ",", "Figure", "2", "shows", "a", "network", "layout", "in", "which", "sets", "of", "sixteen", "cells", "are", "configured", "to", "function", "as", "a", "group", ".", "In", "this", "example", ",", "the", "mobile", "user", "is", "currently", "in", "a", "cell", "of", "group", "A", "and", "is", "heading", "towards", "group", "F", ".", "The", "media-servers", "that", "can", "be", "involved", "in", "the", "delivery", "of", "video", "objects", "are", "A", ",", "D", ",", "E", "and", "F", ".", "The", "server", "A", "is", "expected", "to", "interact", "with", "server", "D", ",", "D", "with", "E", ",", "and", "E", "with", "F", ".", "In", "this", "chained-fashion", ",", "we", "anticipate", "that", "the", "media", "servers", "notify", "each", "other", "about", "the", "streaming", "session", "of", "the", "oncoming", "mobile", "user", ".", "In", "addition", ",", "the", "media-servers", "send", "and", "receive", "in", "pipelined", "fashion", "the", "video", "object", "under", "transmission", ".", "!", "''", "#", "$", "%", "'", "&", "-LRB-", "0", "-RRB-", "1324", "576", "8", "6", "98", "#", "9", "@", "A", "B", "5", "Figure", "2", ":", "Grouping", "of", "Cells", "There", "may", "be", "other", "interactions", "as", "well", ".", "For", "instance", ",", "there", "must", "be", "cooperation", "between", "media", "server", "A", "and", "F", "if", "the", "requested", "video", "object", "is", "initially", "located", "at", "F", ".", "A", "media", "server", "accepts", "video", "requests", "from", "base-stations", "residing", "in", "its", "group", ";", "if", "it", "does", "not", "currently", "have", "the", "object", "it", "is", "responsible", "for", "locating", "using", "the", "meta", "data", "structure", "and", "fetching", "it", ".", "Due", "to", "the", "location", "awareness", "of", "our", "approach", ",", "we", "assume", "that", "each", "server", "predominantly", "stores", "streams", "specific", "to", "its", "own", "geographic", "area", ".", "For", "instance", ",", "if", "the", "route", "drawn", "in", "Figure", "2", "crosses", "a", "county", ",", "video", "clips", "with", "showing", "traffic", "conditions", "ahead", "in", "specific", "points", "may", "be", "requested", ".", "Similarly", "in", "a", "city", "setting", ",", "such", "requests", "may", "entail", "multimedia", "location-based", "virtual", "presentations", ".", "2.2", "Content", "Distribution", "Provided", "that", "a", "media", "server", "has", "a", "video", "clip", "in", "place", ",", "a", "straightforward", "approach", "would", "be", "to", "transmit", "the", "object", "into", "all", "base-stations", "operating", "in", "cells", "located", "on", "or", "near-by", "the", "user", "'s", "trajectory", ".", "This", "is", "not", "only", "wasteful", "in", "both", "network", "and", "base-station", "resources", "but", "also", "increases", "the", "user-perceived", "playout", "latency", ".", "Therefore", ",", "we", "resort", "to", "using", "video", "segmentation", "-LSB-", "14", "-RSB-", ",", "-LSB-", "21", "-RSB-", "in", "order", "to", "reduce", "network", "transmission", "costs", "between", "the", "video-holding", "media", "server", "and", "its", "subordinates", "base-stations", ".", "Segmentation", "also", "decreases", "the", "start-up", "latency", "that", "users", "experience", "upon", "cell", "entrance", ".", "The", "length", "of", "a", "video-segment", ",", "denoted", "S", "t", ",", "sent", "to", "each", "base-station", "is", "proportional", "to", "the", "average", "time", "that", "the", "user", "is", "expected", "to", "stay", "in", "the", "specific", "cell", ".", "The", "process", "of", "segmenting", "the", "video", "streams", "into", "chunks", "of", "frames", "of", "specific", "duration", "assumes", "that", "the", "media", "servers", "are", "aware", "of", "the", "underlying", "cell", "configuration", ".", "In", "particular", ",", "a", "media-server", "has", "to", "be", "aware", "of", "the", "precise", "manner", "with", "which", "a", "motorway", "cuts", "across", "its", "subordinate", "cells", ",", "the", "direction", "as", "well", "as", "the", "speed", "of", "moving", "users", ".", "With", "this", "data", "available", ",", "the", "media-server", "in", "discussion", "can", "approximate", "the", "time", "that", "a", "user", "spends", "in", "a", "cell", ".", "For", "example", ",", "if", "a", "motorist", "moving", "at", "100km/h", "has", "just", "entered", "a", "cell", "and", "departs", "after", "traversing", "a", "1", "km", "route", "portion", ",", "the", "server", "can", "compute", "the", "duration", "of", "the", "user", "'s", "stay", "to", "be", "at", "ap-proximately", "36", "seconds", ".", "The", "media-server", "can", "capitalize", "on", "this", "very", "information", "to", "appropriately", "segment", "the", "streamed", "video", ";", "it", "only", "dispatches", "enough", "frames", "for", "a", "playout", "period", "of", "36", "seconds", ".", "The", "duration", "of", "a", "user", "'s", "presence", "within", "a", "cell", "may", "vary", "according", "to", "speed", "changes", "with", "clearly", "lower", "speeds", "leading", "to", "elongated", "stays", "in", "the", "cell", "and", "vice", "versa", ".", "Should", "the", "speed", "be", "decreasing", ",", "the", "base-station", "will", "ultimately", "require", "more", "frames", "from", "the", "media", "server", "than", "the", "number", "predicted", "once", "the", "user", "appeared", "in", "the", "cell", ".", "Such", "a", "request", "constitutes", "a", "``", "cache", "miss", "''", "which", "will", "not", "be", "noted", "by", "the", "user", "if", "detected", "on", "time", "and", "acted", "upon", "by", "the", "coordinating", "base-station", ".", "Imposing", "a", "minimum", "threshold", "in", "the", "number", "of", "frames", "always", "available", "for", "delivery", "at", "a", "base-station", "may", "help", "overcome", "such", "``", "cache-misses", "''", ".", "Therefore", ",", "when", "the", "number", "of", "frames", "awaiting", "transmission", "on", "a", "base-station", "falls", "below", "the", "abovementioned", "threshold", ",", "the", "base-station", "signals", "its", "need", "for", "additional", "frames", "to", "its", "overseeing", "media-server", ";", "should", "the", "latter", "act", "upon", "this", "request", ",", "additional", "frames", "arrive", "on", "time", "at", "the", "base-station", "for", "delivery", ".", "On", "the", "other", "hand", ",", "as", "soon", "as", "a", "user", "increases", "speed", ",", "she", "will", "depart", "the", "cell", "extend", "earlier", "than", "initially", "anticipated", ".", "The", "drawback", "here", "is", "that", "the", "media-server", "has", "provided", "the", "base-station", "with", "more", "frames", "than", "those", "eventually", "needed", ".", "During", "the", "handover", "process", ",", "the", "coordinating", "media-server", "has", "to", "generate", "a", "video-fragment", "which", "in", "its", "opening", "contains", "frames", "that", "have", "already", "been", "transmitted", "to", "the", "previous", "base-station", "but", "not-yet", "-", "seen", "by", "the", "user", ".", "Our", "approach", "allows", "a", "base-station", "to", "dynamically", "alter", "the", "transmission", "bitrate", "according", "to", "its", "current", "load", ".", "Under", "light", "load", ",", "a", "base-station", "may", "opt", "to", "increase", "the", "transmission", "rate", "for", "a", "specific", "video-stream", "thus", "leading", "to", "potential", "frame", "shortage", ".", "To", "easily", "avoid", "such", "shortage", ",", "we", "use", "the", "minimum", "allowed", "vehicle", "speed", "to", "compute", "the", "size", "of", "the", "video-segment", "S", "t", "to", "be", "transported", "to", "base-stations", ":", "S", "t", "=", "Distance", "M", "inimumSpeed", "-LRB-", "1", "-RRB-", "In", "most", "freeways", "there", "are", "authority-posted", "limits", "for", "minimum", "allowed", "speed", "in", "each", "road", "segment", ".", "As", "media-servers", "are", "aware", "of", "the", "geographic", "area", "that", "they", "serve", ",", "such", "minimum", "speed", "rates", "are", "statically", "designated", "for", "each", "cell", "in", "their", "jurisdiction", ".", "Evidently", ",", "the", "video-segment", "size", "that", "we", "potentially", "use", "as", "safety", "against", "frame", "shortage", "is", ":", "S", "t", "=", "Distance", "M", "inimumSpeed", "Distance", "AverageSpeed", "-LRB-", "2", "-RRB-", "67", "Algorithms", "1", "and", "2", "depict", "the", "video", "segmentation", "and", "distribution", "that", "we", "follow", "in", "our", "media", "distribution", ".", "Upon", "a", "new", "video-streaming", "request", ",", "we", "assume", "that", "the", "media-server", "can", "efficiently", "retrieve", "the", "corresponding", "video-file", "either", "from", "local", "storage", "options", "or", "remote", "servers", "via", "its", "low-latency/high-bandwidth", "wired", "networking", "infrastructure", ".", "The", "identification", "of", "the", "user", "'s", "current", "location", ",", "the", "precompiled", "knowledge", "of", "the", "traveled", "distance", "within", "a", "cell", ",", "in", "conjunction", "with", "the", "minimum", "allowed", "speed", "on", "pertinent", "highway", "segments", ",", "permit", "for", "the", "estimation", "of", "the", "maximum", "user", "stay", "S", "t", "in", "a", "specific", "cell", ".", "Subsequently", ",", "the", "media-server", "can", "create", "the", "first", "segment", "of", "frames", "needed", "for", "transmission", "via", "the", "base-station", "to", "the", "requesting", "client", ".", "The", "size", "of", "a", "video-segment", "is", "given", "by", "V", "=", "P", "N", "i", "=", "1", "F", "i", ",", "where", "F", "i", "is", "the", "size", "of", "the", "i-th", "frame", "and", "N", "is", "the", "number", "of", "frames", "in", "the", "segment", ";", "we", "can", "easily", "compute", "N", "by", "multiplying", "the", "frame-rate", "-LRB-", "frames/second", "-RRB-", "with", "the", "duration", "of", "stay", "in", "a", "cell", "S", "t", ".", "Algorithm", "1", "Video", "Segmentation", "at", "Media-Server", "1", ":", "Get", "Minimum", "User", "Speed", "MinSpeed", "2", ":", "Get", "PathLength", "in", "cell", "range", "3", ":", "p", "last", "frame", "transmitted", "4", ":", "if", "-LRB-", "New", "Session", "-RRB-", "then", "5", ":", "S", "t", "=", "P", "athLength", "M", "inSpeed", "6", ":", "else", "7", ":", "/", "/", "Shortage", "of", "Frames", "8", ":", "S", "t", "=", "P", "athLength", "M", "inSpeed", "9", ":", "/", "/", "with", "<", "<", "1", "10", ":", "end", "if", "11", ":", "V", "i", "P", "p", "+", "N", "i", "=p", "+1", "F", "i", ",", "where", "F", "i", "is", "size", "of", "i-th", "frame", ",", "N", "=", "F", "rameRate", "S", "t", "In", "light", "of", "frame", "shortage", ",", "our", "video-segmentation", "algorithm", "dispatches", "into", "the", "base-station", "with", "need", "an", "increment", "of", "frames", ".", "This", "is", "defined", "as", "a", "fixed", "fraction", "of", "the", "length", "of", "S", "t", "in", "the", "current", "cell", "-LRB-", "line", "7", "of", "Algorithm", "1", "-RRB-", ".", "Requests", "of", "such", "increments", "may", "occur", "multiple", "times", "before", "a", "motorist", "leaves", "a", "cell", "due", "to", "congestion", ".", "A", "handover", "might", "find", "a", "moving", "user", "either", "serviced", "by", "a", "base-station", "in", "the", "realm", "of", "the", "current", "media-server", "or", "under", "the", "authority", "of", "a", "completely", "new", "media-server", "along", "the", "motorist", "'s", "path", ".", "In", "the", "first", "case", ",", "the", "media-server", "initiates", "the", "delivery", "of", "the", "next", "video-fragment", "to", "the", "next-base-station", "encountered", ".", "The", "just", "departed", "base-station", "can", "help", "in", "determining", "the", "appropriate", "stream", "position", "p", "from", "which", "the", "segmentation", "will", "have", "to", "resume", ".", "The", "duration", "of", "the", "video-segment", "is", "computed", "anew", "using", "the", "same", "algorithm", "that", "now", "takes", "into", "consideration", "the", "data", "points", "from", "the", "new", "cell", ".", "Clearly", ",", "the", "length", "of", "the", "route", "as", "well", "as", "designated", "minimum", "speed", "limits", "may", "be", "different", "from", "those", "encountered", "in", "the", "previous", "cell", ".", "In", "the", "second", "scenario", ",", "a", "handover", "may", "force", "a", "user", "to", "operate", "in", "an", "entirely", "new", "group", "of", "cells", "supported", "by", "a", "new", "media-server", ".", "In", "general", ",", "the", "portion", "of", "the", "``", "not-yet-seen", "''", "stream", "has", "to", "be", "forwarded", "from", "the", "previous", "to", "the", "new", "media-server", "unless", "the", "latter", "already", "maintains", "its", "own", "copy", ".", "If", "we", "are", "not", "interested", "in", "reducing", "the", "transmission", "costs", ",", "we", "can", "transport", "the", "entire", "video", "object", "to", "the", "new", "media-server", "using", "the", "assumed", "high-speed", "link", ".", "The", "media-server", "now", "in", "charge", "takes", "over", "the", "session", "identifier", "of", "the", "moving", "user", "and", "along", "with", "user", "state", "data", "from", "its", "previous", "location", "can", "help", "coordinate", "the", "delivery", "of", "the", "video", "in", "the", "new", "cell", ".", "To", "enhance", "coordination", "among", "media-servers", "in", "the", "highest-level", "of", "Figure", "1", ",", "prefetching", "could", "be", "used", "-LSB-", "7", ",", "34", "-RSB-", ".", "We", "could", "de-Algorithm", "2", "Video", "Distribution", "from", "Media-Server", "to", "Base-Station", "-LRB-", "s", "-RRB-", "1", ":", "while", "-LRB-", "OutstanindRequests", "-RRB-", "do", "2", ":", "if", "New", "Session", "then", "3", ":", "Start", "session", "-LRB-", "user", "'s", "location", ",", "video", "stream", ",", "cell", "ID", "-RRB-", "4", ":", "if", "Video", "Stream", "Not", "in", "Storage", "then", "5", ":", "Get", "Video", "Stream", "from", "corresponding", "Media-Server", "6", ":", "end", "if", "7", ":", "end", "if", "8", ":", "if", "-LRB-", "not", "-LRB-", "Handover", "-RRB-", "-RRB-", "then", "9", ":", "Apply", "Video", "Segmentation", "Algorithm", "10", ":", "Send", "Video-Segment", "V", "to", "Base-Station", "11", ":", "else", "12", ":", "if", "-LRB-", "new", "Base-Station", "within", "Media-Server", "realm", "-RRB-", "then", "13", ":", "Apply", "Video", "Segmentation", "Algorithm", "14", ":", "Send", "Segment", "V", "to", "Base-Station", "15", ":", "Send", "playback", "position", "p", "to", "new", "Base-Station", "16", ":", "else", "17", ":", "Send", "Video", "Stream", "to", "next", "Media-Server", "18", ":", "Send", "playback", "position", "p", "to", "next", "Media-Server", "19", ":", "end", "if", "20", ":", "end", "if", "21", ":", "end", "while", "ploy", "prefetching", "of", "video-segments", "to", "media-servers", "and/or", "base-stations", "to", "facilitate", "playout", "continuity", "and", "minimize", "the", "start-up", "latencies", ".", "Users", "moving", "with", "similar", "speed", "and", "nearby", "to", "the", "streaming", "user", "can", "benefit", "from", "the", "already", "segmented", "video", "stream", "and", "start", "the", "playout", "immediately", ".", "Caching", "efficiency", "is", "limited", "by", "the", "fact", "that", "only", "users", "with", "similar", "traveling", "behavior", "may", "use", "the", "video", "segments", ".", "We", "can", "overcome", "this", "limitation", "if", "the", "starting", "point", "of", "the", "video", "segment", "at", "the", "next", "cell", "corresponds", "to", "users", "traveling", "at", "the", "maximum", "speed", "within", "the", "current", "cell", ".", "At", "the", "same", "time", ",", "the", "total", "size", "of", "the", "segment", "caters", "for", "users", "that", "travel", "at", "minimum", "speed", "within", "the", "next", "cell", ",", "thus", "remaining", "longer", "in", "the", "cell", "'s", "range", ".", "This", "ensures", "that", "successive", "base", "stations", "hold", "a", "sufficient", "amount", "of", "frames", "to", "serve", "users", "traveling", "at", "different", "speeds", ".", "In", "this", "section", ",", "we", "propose", "a", "rate", "adaptation", "scheme", "whose", "objective", "is", "to", "better", "serve", "the", "overall", "needs", "of", "fast-roaming", "users", ".", "More", "specifically", ",", "we", "present", "a", "mechanism", "used", "by", "base-stations", "to", "control", "the", "rate", "at", "which", "they", "transmit", "video", "to", "each", "user", "when", "the", "cell", "becomes", "overloaded", "and", "the", "transmission", "bitrate", "eventually", "needs", "to", "be", "decreased", ".", "In", "light", "of", "this", "reduction", ",", "we", "seek", "ways", "to", "avoid", "discontinuities", "in", "user", "playback", "and", "cell", "bandwidth", "over-utilization", "lowering", "so", "the", "probability", "for", "a", "session", "drop", ".", "While", "focusing", "on", "bitrate", "management", "between", "the", "second", "and", "last", "tier", "of", "Figure", "1", ",", "we", "assume", "that", "pertinent", "video-segment", "data", "is", "available", "at", "a", "base-station", ".", "Upon", "session", "initiation", ",", "the", "size", "Q", "of", "the", "mobile", "device", "buffer", "becomes", "known", "to", "the", "managing", "base-station", ".", "In", "general", ",", "we", "assume", "that", "a", "video-object", "is", "divided", "into", "frames", "of", "constant", "duration", ".", "Frames", "that", "belong", "to", "the", "same", "file", "vary", "in", "size", "depending", "on", "the", "encoding", "rate", "and", "the", "scene", "content", ".", "A", "time", "domain", "perspective", "allows", "us", "to", "control", "the", "transmission", "rate", "examining", "the", "time", "interval", "between", "transmission", "of", "successive", "frames", "rather", "than", "their", "respective", "sizes", ".", "If", "the", "inter-departure", "time", "corresponds", "to", "the", "rate", "instructed", "by", "the", "file", "'s", "frame", "rate", "1", ",", "1", "Typical", "frame", "rate", "values", "are", "25", "frames/sec", "for", "the", "PAL", "color", "sys-68", "Figure", "3", ":", "Rate", "Adaptation", "Modules", "within", "a", "base-station", "the", "transmission", "bitrate", "corresponds", "to", "the", "file", "'s", "encoding", "bitrate", ".", "Alterations", "in", "the", "inter-departure", "times", "result", "in", "the", "inversely", "proportional", "changes", "in", "transmission", "bitrate", ".", "Let", "-LCB-", "X", "i", "k", "-RCB-", "k", "1", "denote", "the", "departure", "process", "of", "the", "video", "frames", "from", "the", "base-station", ",", "for", "the", "i-th", "user", ".", "If", "i", "k", "is", "the", "departure", "time", "for", "frame", "k", ",", "X", "i", "k", "=", "i", "k", "+1", "i", "k", "is", "the", "inter-departure", "interval", "for", "the", "k-th", "frame", ".", "In", "the", "absence", "of", "buffering", "capabilities", "on", "the", "mobile", "device", ",", "the", "smoothness", "of", "-LCB-", "X", "i", "k", "-RCB-", "is", "critical", "for", "the", "smoothness", "of", "playback", "at", "the", "user", "'s", "end", ".", "Thus", ",", "the", "following", "should", "hold", ":", "P", "-LCB-", "X", "i", "k", "=", "T", "-RCB-", "1", "-LRB-", "3", "-RRB-", "where", "T", "is", "the", "inter-departure", "interval", "specified", "by", "the", "video-object", "frame", "rate", ".", "The", "buffer", "support", "that", "we", "assume", "available", "at", "the", "user-end", "enables", "the", "modification", "of", "the", "-LCB-", "X", "k", "-RCB-", "process", "reflecting", "modifications", "to", "the", "actual", "transmitting", "bitrate", "of", "the", "base-station", ".", "Video", "Streaming", "modules", "are", "integral", "parts", "of", "the", "base-station", "configuration", "and", "each", "such", "module", "handles", "the", "transmission", "of", "a", "video-stream", ".", "Hence", ",", "a", "segment", "of", "a", "video-stream", "is", "assigned", "to", "an", "instance", "of", "a", "Video", "Streaming", "module", "for", "final", "delivery", "to", "the", "user", "'s", "equipment", ".", "A", "Rate", "Adaptation", "-LRB-", "RA", "-RRB-", "element", "is", "assigned", "to", "each", "user", "session", "for", "the", "specified", "video", "stream", ".", "An", "RA", "is", "aware", "of", "the", "user", "'s", "buffer", "size", "and", "is", "responsible", "for", "the", "forwarding", "of", "video", "frames", "to", "the", "actual", "Transmitter", "of", "the", "base-station", ".", "As", "information", "about", "the", "station", "'s", "load", "is", "fed-back", "by", "the", "Transmitter", ",", "the", "Rate", "Adaptation", "element", "regulates", "the", "inter-departure", "process", "of", "video", "frames", "from", "the", "station", "to", "a", "user", ",", "in", "a", "way", "that", "preserves", "playback", "continuity", ".", "Figure", "3", "depicts", "the", "interaction", "among", "these", "two", "elements", "and", "the", "Transmitter", "at", "a", "base-station", "that", "serves", "k", "concurrent", "sessions", "for", "the", "same", "video-object", ".", "The", "operation", "of", "the", "Rate", "Adaptation", "element", "is", "governed", "by", "periodic", "time", "intervals", "of", "constant", "duration", ",", "termed", "Control", "Cycles", ".", "Operating", "in", "the", "time", "domain", ",", "the", "module", "is", "aware", "of", "the", "exact", "number", "of", "frames", "the", "media", "player", "at", "the", "user-end", "will", "need", "over", "a", "specific", "period", "of", "time", "to", "ensure", "smooth", "playback", ".", "Let", "A", "denote", "the", "duration", "of", "the", "control", "cycle", ".", "Also", ",", "let", "Q", "A", ">", "0", "be", "the", "occupancy", "-LRB-", "i.e.", ",", "number", "of", "frames", "-RRB-", "of", "the", "buffer", "at", "the", "beginning", "of", "the", "control", "cycle", "and", "N", "A", "the", "number", "of", "frames", "that", "will", "be", "reproduced", "at", "the", "user-end", "during", "the", "control", "cycle", ".", "Since", "N", "A", "frames", "are", "requested", "tem", "that", "corresponds", "to", "an", "inter-departure", "time", "of", "40", "msec", ",", "and", "30", "fps", "for", "the", "NTSC", "system", "which", "corresponds", "to", "inter-departure", "time", "of", "33.3", "msec", ".", "from", "the", "media-player", "and", "Q", "A", "frames", "are", "accumulated", "the", "rate", "adapter", "needs", "only", "transmit", "N", "A", "-", "Q", "A", "frames", "at", "minimum", "over", "the", "control", "cycle", ".", "The", "video", "frame", "rate", "instructs", "that", "a", "frame", "be", "transmitted", "every", "T", "=", "A", "N", "A", "mseconds", ".", "Each", "one", "of", "the", "N", "A", "-", "Q", "A", "frames", "transmitted", "at", "minimum", "during", "the", "control", "cycle", "will", "depart", "the", "base-station", "at", "longer", "intervals", "equal", "to", "T", "=", "A", "N", "A", "-", "Q", "A", ".", "The", "initial", "inter-departure", "time", "has", "been", "spread", "by", "a", "tolerance", "factor", "-LRB-", "0", "-RRB-", "where", ":", "A", "N", "A", "-", "Q", "A", "=", "-LRB-", "1", "+", "-RRB-", "A", "N", "A", "=", "Q", "A", "N", "A", "-", "Q", "A", "-LRB-", "4", "-RRB-", "The", "tolerance", "factor", ",", ",", "is", "a", "parameter", "of", "the", "control", "cycle", ";", "may", "turn", "negative", "only", "when", "Q", "A", ">", "N", "A", ".", "Thus", ",", "a", "more", "specific", "definition", "of", "would", "be", "=", "Q", "A", "N", "A", "-", "Q", "A", "1", "-LCB-", "Q", "A", "N", "A", "-RCB-", "+", "1", "-LCB-", "Q", "A", ">", "N", "A", "-RCB-", "-LRB-", "5", "-RRB-", "If", "the", "RA", "element", "forwards", "frames", "at", "the", "rate", "instructed", "by", "the", "tolerance", "factor", ",", "the", "transmission", "bitrate", "over", "the", "control", "cycle", "will", "be", "equal", "to", "B", "/", "-LRB-", "1", "+", "-RRB-", ",", "where", "B", "is", "the", "encoding", "bitrate", "of", "the", "video-stream", ".", "A", "control", "cycle", "during", "which", "the", "base-station", "transmits", "at", "the", "minimum", "bitrate", "instructed", "by", "is", "called", "a", "degraded", "cycle", ".", "A", "degraded", "cycle", "will", "lead", "to", "zero", "buffer", "occupancy", "at", "the", "end", "of", "the", "control", "cycle", "and", "the", "tolerance", "factor", "for", "the", "next", "control", "cycle", "will", "be", "equal", "to", "zero", ".", "Therefore", ",", "no", "two", "successive", "degraded", "cycles", "may", "occur", ".", "Non-zero", "buffer", "occupancy", "at", "the", "beginning", "of", "a", "control", "cycle", "will", "be", "present", "only", "if", "the", "overall", "transmission", "rate", "over", "the", "previous", "control", "cycles", "exceeded", "B", ".", "This", "can", "be", "achieved", "if", "the", "RA", "element", "forwards", "frames", "at", "a", "higher", "rate", "when", "the", "station", "is", "un-derutilized", ".", "Let", "denote", "the", "speed-up", "factor", ",", "the", "factor", "by", "which", "the", "bitrate", "increases", "in", "this", "case", ".", "An", "expression", "for", "the", "speed-up", "factor", "may", "be", "obtained", "if", "we", "consider", "that", "the", "maximum", "transmission", "bitrate", "will", "lead", "to", "a", "full", "user", "buffer", "at", "the", "end", "of", "the", "control", "cycle", ".", "If", "Q", "A", "is", "the", "buffer", "occupancy", "at", "the", "beginning", "of", "the", "cycle", ",", "then", "the", "station", "may", "transmit", "at", "maximum", "Q", "-", "Q", "A", "frames", "over", "the", "control", "cycle", ".", "In", "this", "case", ",", "each", "frame", "will", "be", "transmitted", "every", "A", "Q", "-", "Q", "A", "mseconds", ",", "with", "inter-departure", "interval", "having", "been", "decreased", "by", ":", "A", "Q", "-", "Q", "A", "=", "-LRB-", "1", "-", "-RRB-", "A", "N", "A", "=", "1", "N", "A", "Q", "-", "Q", "A", "-LRB-", "6", "-RRB-", "An", "upgraded", "cycle", "will", "transmit", "at", "a", "rate", "of", "B", "/", "-LRB-", "1", "-", "-RRB-", ".", "The", "speed-up", "factor", "may", "turn", "negative", "only", "when", "the", "free", "buffer", "space", "is", "less", "than", "the", "frames", "that", "will", "be", "played", "back", "during", "the", "control", "cycle", ".", "In", "this", "case", ",", "the", "cycle", "is", "forced", "to", "operate", "in", "degraded", "mode", ",", "so", "that", "we", "can", "avoid", "buffer", "overflow", ".", "It", "is", "clear", "that", "the", "n-th", "control", "cycle", "may", "forward", "frames", "at", "a", "rate", "in", "the", "range", "of", ":", "B", "max", "-LCB-", "-LRB-", "1", "-", "-RRB-", ",", "-LRB-", "1", "+", "-RRB-", "-RCB-", "B", "n", "B", "-LRB-", "1", "-", "-RRB-", "-LRB-", "7", "-RRB-", "The", "respective", "inter-departure", "process", ",", "-LCB-", "X", "n", "-RCB-", "will", "be", "in", "the", "range", "of", ":", "-LRB-", "1", "-", "-RRB-", "T", "-LCB-", "X", "n", ",", "k", "-RCB-", "max", "-LCB-", "-LRB-", "1", "-", "-RRB-", "T", ",", "-LRB-", "1", "+", "-RRB-", "T", "-RCB-", "-LRB-", "8", "-RRB-", "The", "RA", "element", "knows", "at", "any", "time", "the", "exact", "number", "of", "frames", "that", "have", "been", "transmitted", "to", "the", "user", ",", "and", "it", "also", "knows", "the", "time", "that", "has", "passed", "since", "the", "session", "initiation", ",", "which", "corresponds", "to", "the", "number", "of", "frames", "the", "playback", "process", "has", "consumed", ".", "The", "difference", "between", "the", "two", "values", "denotes", "the", "user", "buffer", "occupancy", ",", "69", "so", "no", "feedback", "mechanism", "is", "required", "as", "far", "as", "the", "user", "buffer", "occupancy", "is", "concerned", ".", "The", "algorithm", "followed", "by", "each", "Rate", "Adaptation", "element", "in", "the", "Video", "Streaming", "module", "is", "outlined", "in", "Algorithm", "3", ".", "Algorithm", "3", "Rate", "Adaptation", "element", "operation", "1", ":", "/", "/", "Executed", "at", "the", "beginning", "of", "every", "control", "cycle", "2", ":", "/", "/", "for", "user", "i", "3", ":", "Q", "i", "A", "=", "F", "ramesT", "ransmit", "i", "-", "F", "ramesP", "layed", "i", "4", ":", "=", "Q", "i", "A", "/", "-LRB-", "F", "ramesCycle", "-", "Q", "i", "A", "-RRB-", "5", ":", "=", "1", "-", "F", "ramesCycle", "/", "-LRB-", "Q", "-", "Q", "i", "A", "-RRB-", "6", ":", "M", "inInterval", "i", "=", "-LRB-", "1", "-", "-RRB-", "T", "7", ":", "if", "<", "0", "then", "8", ":", "M", "axInterval", "i", "=", "M", "inInterval", "i", "9", ":", "else", "10", ":", "M", "axInterval", "i", "=", "-LRB-", "1", "+", "-RRB-", "T", "11", ":", "end", "if", "12", ":", "Interval", "i", "=", "M", "inInterval", "i", "+", "-LRB-", "CellLoadP", "erc/100", "-RRB-", "-LRB-", "M", "axInterval", "i", "-", "M", "inInterval", "i", "-RRB-", "Since", "the", "duration", "of", "the", "control", "cycle", "is", "constant", ",", "multiple", "control", "cycles", "may", "occur", "during", "a", "user", "'s", "presence", "in", "the", "range", "of", "a", "single", "cell", ",", "depending", "on", "the", "size", "of", "the", "cell", "and", "the", "user", "'s", "speed", ".", "We", "assume", "that", "the", "each", "cell", "handover", "always", "initiates", "a", "new", "control", "cycle", ".", "Algorithm", "3", "allows", "for", "alteration", "in", "the", "transmission", "bitrate", "by", "providing", "upper", "and", "lower", "bounds", "-LRB-", "i.e.", ",", "M", "inInterval", "i", "and", "M", "ax", "Interval", "i", "-RRB-", "to", "ensure", "the", "smoothness", "of", "the", "playout", "process", ".", "The", "choice", "of", "the", "actual", "bitrate", "within", "the", "specified", "range", ",", "at", "which", "the", "base-station", "transmits", "during", "a", "control", "cycle", ",", "is", "ultimately", "a", "function", "of", "the", "station", "'s", "load", "at", "the", "time", ".", "This", "load", "is", "continually", "estimated", "with", "the", "help", "of", "the", "Transmitter", "module", ".", "This", "feedback", "enables", "each", "Rate", "Adaptation", "element", "to", "cater", "for", "buffer", "occupancy", "increase", ",", "taking", "advantage", "of", "low", "system", "load", "periods", ".", "At", "the", "same", "time", ",", "by", "detecting", "high", "system", "load", ",", "the", "Rate", "Adaptation", "element", "lowers", "the", "transmission", "bandwidth", ",", "allowing", "for", "more", "sessions", "to", "be", "accommodated", ",", "while", "at", "the", "same", "time", "the", "playback", "process", "is", "not", "distorted", ".", "In", "order", "to", "reproduce", "and", "experiment", "with", "the", "behavior", "of", "our", "proposed", "architecture", "and", "bitrate", "adaptation", "scheme", ",", "we", "have", "setup", "a", "simulation", "testbed", ".", "We", "have", "assumed", "a", "user", "trajectory", "with", "duration", "of", "200", "seconds", ".", "The", "user", "traverses", "numerous", "cells", "of", "different", "sizes", ".", "Each", "base-station", "is", "equipped", "with", "the", "Video", "Streaming", "module", "as", "described", "earlier", ".", "A", "Control", "Cycle", "of", "5", "seconds", "is", "adopted", "by", "all", "elements", ".", "The", "buffer", "size", "at", "the", "user-equipment", "is", "assumed", "to", "be", "large", "enough", "to", "store", "10", "seconds", "which", "is", "readily", "met", "by", "modern", "cellular", "phones", "and/or", "PDAs", ".", "We", "designate", "ten", "levels", "of", "base-station", "load", "with", "load", "changing", "at", "random", "times", ".", "The", "maximum", "duration", "of", "each", "load", "state", "is", "30seconds", ".", "The", "PAL", "color", "system", "is", "assumed", "for", "the", "video", "being", "transmitted", ",", "so", "the", "default", "inter-departure", "time", "for", "each", "frame", "is", "set", "at", "40", "mseconds", ".", "At", "the", "beginning", "of", "each", "control", "cycle", ",", "the", "Rate", "Adaptation", "element", "applies", "the", "proposed", "Algorithm", "3", ".", "The", "testbed", "initially", "computes", "the", "tolerance", "and", "speed-up", "factors", "thus", "generating", "the", "acceptable", "inter-departure", "times", "range", ".", "The", "actual", "inter-departure", "time", "for", "the", "control", "cycle", "is", "proportional", "to", "the", "station", "'s", "load", "at", "the", "time", ".", "If", "the", "station", "is", "lightly", "loaded", ",", "the", "minimum", "interdeparture", "time", "-LRB-", "maximum", "bandwidth", "-RRB-", "is", "applied", ".", "Conversely", "when", "the", "base-station", "is", "heavily", "loaded", ",", "the", "frames", "are", "forwarded", "to", "the", "transmitter", "at", "the", "minimum", "rate", "instructed", "by", "the", "maximum", "interdeparture", "time", ".", "For", "intermediate", "load", "levels", "an", "appropriate", "value", "from", "the", "inter-departure", "times", "range", "is", "selected", "according", "to", "Algorithm", "3", "in", "a", "uniform", "fashion", ".", "Figure", "4", "shows", "the", "evolution", "of", "the", "base", "stations", "'", "load", "during", "the", "user", "'s", "trajectory", ",", "over", "all", "cells", "that", "the", "individual", "travels", "in", ".", "Having", "defined", "load", "of", "value", "5", "as", "``", "normal", "''", "load", ",", "the", "base-station", "load", "remains", "relatively", "high", "through", "the", "user", "trajectory", "with", "a", "few", "very", "short", "periods", "of", "low", "load", ".", "0", "2", "4", "6", "8", "10", "0", "50", "100", "150", "200", "Load", "Time", "Base", "station", "load", "Figure", "4", ":", "Base-station", "load", "during", "user", "trajectory", "Figure", "5", "shows", "the", "applied", "transmission", "bitrate", ",", "along", "with", "the", "minimum", "and", "maximum", "bitrates", "allowed", "for", "every", "control", "cycle", ".", "The", "y-axis", "represents", "the", "percentage", "of", "the", "actual", "transmission", "bitrate", "to", "the", "video", "encoding", "bitrate", ".", "The", "bitrate", "is", "inversely", "proportional", "to", "the", "inter-departure", "times", "which", "are", "illustrated", "in", "figure", "6", ".", "If", "we", "compare", "the", "curves", "of", "Figures", "5", "and", "4", ",", "we", "can", "easily", "establish", "that", "the", "actual", "bitrate", "applied", "is", "a", "function", "of", "the", "base-station", "load", "and", "the", "calculated", "allowed", "bitrate", "range", ".", "At", "times", "of", "high", "load", ",", "the", "applied", "bitrate", "is", "closer", "to", "the", "minimum", "acceptable", "bitrate", "and", "conversely", "at", "times", "of", "light", "load", ",", "the", "applied", "bitrate", "is", "closer", "to", "the", "maximum", "acceptable", "bitrate", ".", "Figure", "6", "shows", "that", "the", "interdeparture", "times", "are", "indeed", "proportional", "to", "the", "base-station", "load", ".", "0", "50", "100", "150", "200", "0", "50", "100", "150", "200", "Transmission", "bitrate", "-LRB-", "%", "-RRB-", "Time", "Transmission", "bitrate", "Figure", "5", ":", "Allowed", "transmission", "bitrate", "limits", "and", "applied", "transmission", "bitrate", ".", "70", "20", "25", "30", "35", "40", "45", "50", "55", "60", "65", "70", "0", "50", "100", "150", "200", "Interdeparture", "time", "Time", "Frame", "interdeparture", "time", "Figure", "6", ":", "Applied", "interdeparture", "interval", ".", "We", "show", "the", "user", "buffer", "occupancy", "throughout", "the", "trajectory", "in", "Figure", "7", ".", "The", "buffer", "does", "not", "starve", "at", "any", "time", "suggesting", "the", "usefulness", "of", "our", "proposed", "scheme", ".", "The", "occupancy", "increases", "at", "times", "where", "the", "base", "station", "load", "falls", "below", "the", "normal", "load", ".", "Under", "overall", "higher-than-normal", "base-station", "load", "settings", ",", "our", "tests", "show", "that", "the", "playback", "continuity", "is", "preserved", "by", "only", "taking", "advantage", "of", "relatively", "small", "periods", "of", "station", "underutilization", "to", "increase", "the", "transmission", "bitrate", ".", "The", "range", "of", "the", "acceptable", "transmission", "rate", "includes", "the", "bandwidth", "already", "guaranteed", "by", "the", "network", "upon", "session", "acceptance", "at", "all", "times", ".", "Therefore", ",", "the", "network", "was", "never", "forced", "to", "transmit", "at", "a", "higher-than-agreed", "bitrate", ".", "At", "times", "of", "station", "over-utilization", ",", "the", "decreased", "transmission", "bitrate", "allows", "for", "more", "calls", "to", "be", "accommodated", "significantly", "decreasing", "the", "probability", "of", "session", "drop", ".", "0", "50", "100", "150", "200", "250", "0", "50", "100", "150", "200", "Occupancy", "Time", "Occupancy", "Figure", "7", ":", "User", "buffer", "occupancy", ".", "A", "system", "that", "adopts", "no", "rate", "adaptation", "scheme", "would", "constantly", "require", "a", "transmission", "bitrate", "equal", "to", "the", "100", "%", "of", "the", "video", "encoding", "bitrate", "throughout", "the", "session", ".", "Although", "the", "bitrate", "of", "real-time", "video", "streaming", "sessions", "is", "guaranteed", "by", "the", "UMTS", "specifications", ",", "at", "near-capacity", "situations", ",", "the", "network", "would", "have", "to", "either", "drop", "a", "session", "or", "be", "forced", "to", "transmit", "with", "lower", "bitrate", ".", "The", "former", "case", "is", "clearly", "undesirable", "and", "the", "latter", "generates", "jitter", "effects", "for", "the", "end-user", ".", "This", "would", "happen", "even", "if", "the", "station", "gets", "overloaded", "only", "for", "a", "period", "of", "time", "equal", "to", "the", "proposed", "scheme", "'s", "control", "cycle", "duration", ".", "Discontinuities", "in", "the", "playback", "process", "may", "be", "observed", "at", "a", "system", "adopting", "the", "proposed", "rate", "adaptation", "scheme", "as", "well", ",", "however", "only", "in", "the", "case", "when", "the", "base-station", "is", "constantly", "load", "saturated", ",", "thus", "not", "allowing", "for", "any", "upgraded", "cycles", "to", "take", "place", ".", "There", "has", "been", "a", "large", "amount", "of", "reported", "work", "in", "related", "areas", "that", "include", "caching", "for", "video", "systems", ",", "management", "of", "moving", "objects", ",", "and", "rate", "adaptation", "for", "streaming", "systems", "on", "wired", "networks", ".", "Data", "caching", "and", "mirroring", "has", "been", "proposed", "as", "a", "way", "to", "help", "the", "scalability", "of", "video", "delivery", "systems", "-LSB-", "32", "-RSB-", ".", "By", "placing", "content", "closer", "to", "the", "consuming", "clients", "not", "only", "network", "costs", "can", "be", "curtailed", "but", "also", "the", "load", "of", "streaming", "servers", "can", "be", "reduced", ".", "Various", "aspects", "of", "the", "use", "of", "proxy", "servers", "for", "video", "objects", "has", "been", "examined", "in", "-LSB-", "14", ",", "26", ",", "23", ",", "10", "-RSB-", ".", "In", "-LSB-", "14", "-RSB-", ",", "the", "segmentation", "and", "caching", "of", "streaming", "objects", "is", "proposed", "and", "the", "merging", "of", "requests", "that", "are", "temporally", "related", "is", "investigated", ".", "This", "merging", "idea", "has", "been", "used", "in", "-LSB-", "8", ",", "18", ",", "11", "-RSB-", "to", "save", "bandwidth", "in", "light", "of", "requests", "for", "the", "same", "video", "object", "that", "arrive", "closely", "in", "time", ".", "The", "partial", "caching", "of", "two", "successive", "intervals", "of", "a", "video", "stream", "is", "proposed", "in", "-LSB-", "10", "-RSB-", "as", "a", "way", "to", "speed-up", "the", "serving", "of", "follow-up", "requests", "for", "the", "the", "same", "video", "object", ".", "In", "-LSB-", "26", "-RSB-", ",", "the", "caching", "of", "initial", "frames", "of", "a", "video", "object", "is", "used", "in", "a", "proxy-setting", "to", "reduce", "startup", "latency", ".", "In", "the", "same", "direction", ",", "the", "storage", "of", "the", "bursty", "parts", "of", "a", "video-stream", "in", "a", "proxy", "is", "advocated", "in", "-LSB-", "34", "-RSB-", ";", "the", "remaining", "parts", "of", "the", "video", "are", "directly", "retrieved", "from", "the", "source", "helping", "significantly", "reduce", "peak", "bandwidth", "requirements", "in", "the", "backbone", ".", "A", "caching", "mechanism", "for", "layered", "encoded", "multimedia", "streams", "is", "suggested", "in", "-LSB-", "23", "-RSB-", ";", "the", "objective", "of", "the", "technique", "is", "to", "selectively", "deliver", "stream", "quality", "by", "differentiating", "on", "the", "client", "network", "connection", ".", "Stream", "quality", "differentiation", "is", "also", "addressed", "in", "-LSB-", "24", "-RSB-", ",", "in", "conjuction", "with", "a", "seamless", "handoff", "mechanism", "for", "mobile", "users", ".", "A", "formal", "spatiotemporal", "framework", "for", "modeling", "moving", "objects", "and", "a", "query", "language", "is", "discussed", "in", "-LSB-", "27", "-RSB-", ".", "Efficient", "techniques", "for", "indexing", "moving", "objects", "in", "one", "and", "two", "dimensions", "are", "proposed", "in", "-LSB-", "12", "-RSB-", "while", "in", "-LSB-", "5", "-RSB-", "the", "trade-offs", "for", "indexing", "schemes", "to", "answer", "interval", ",", "rectangle", ",", "approximate", "nearest-neighbor", ",", "approximate", "farthest-neighbor", "and", "convex-hull", "queries", "are", "examined", ".", "The", "indexing", "of", "current", "and", "anticipated", "positions", "of", "moving", "objects", "in", "the", "context", "of", "location", "based", "services", "is", "examined", "in", "-LSB-", "25", "-RSB-", ".", "Much", "work", "has", "been", "also", "reported", "in", "data", "broadcast", "and", "dissemination", "over", "wireless", "networks", "during", "the", "last", "decade", "-LSB-", "4", ",", "22", ",", "33", ",", "19", ",", "6", "-RSB-", ".", "Rate", "adaptation", "for", "wired", "streaming", "systems", "has", "been", "exten-sively", "studied", "in", "-LSB-", "28", ",", "20", ",", "31", ",", "29", ",", "16", ",", "17", "-RSB-", ".", "These", "studies", "assume", "an", "adaptable", "video", "encoding", "system", "that", "changes", "the", "encoding", "parameters", "on", "the", "fly", "based", "on", "feedback", "information", "about", "the", "channel", "state", ".", "The", "notion", "of", "cycle-based", "operation", "is", "used", "in", "-LSB-", "13", "-RSB-", "with", "cycles", "being", "successively", "alternating", "between", "good", "and", "bad", "cycles", ".", "Our", "work", "differs", "in", "that", "it", "does", "not", "require", "a", "prefetching", "period", "so", "that", "an", "initial", "occupancy", "is", "built", "up", "in", "the", "buffer", "before", "the", "playback", "begins", ".", "Also", ",", "our", "algorithm", "functions", "in", "a", "graceful", "manner", "when", "the", "base-station", "load", "does", "not", "allow", "for", "aggressive", "use", "of", "channel", "resources", ".", "In", "this", "paper", ",", "we", "address", "the", "problem", "of", "efficient", "video", "delivery", "in", "real-time", "to", "high-speed", "users", "roaming", "a", "3G", "network", ".", "We", "propose", "a", "network", "of", "media", "servers", "handling", "the", "content", "distribution", "on", "top", "of", "the", "mobile", "environment", "that", "closely", "cooperates", "with", "the", "71", "base-stations", "and", "user-equipment", "for", "the", "provision", "of", "continuous", "video", "playout", ".", "We", "segment", "video", "streams", "into", "variable-sized", "parts", "according", "to", "the", "user", "'s", "speed", "and", "traversal", "path", "through", "different", "cells", ".", "In", "this", "manner", ",", "we", "minimize", "the", "transmission", "costs", "between", "media-servers", "and", "base-stations", "as", "well", "as", "the", "start-up", "latency", "experienced", "by", "users", "during", "handover", ".", "We", "adopt", "the", "use", "of", "Video", "Streaming", "modules", "along", "with", "their", "Rate", "Adaptation", "elements", "with", "the", "infrastructure", "of", "base-stations", "to", "ensure", "smoothness", "of", "the", "playout", "process", ".", "Preliminary", "experimentation", "results", "through", "simulation", "show", "that", "the", "proposed", "scheme", "rapidly", "adapts", "to", "changes", "in", "load", "conditions", "at", "base-stations", ",", "thus", "minimizing", "the", "probability", "of", "buffer", "starvation", "or", "even", "session", "drops", ".", "The", "low", "complexity", "of", "the", "proposed", "mechanism", "makes", "it", "suitable", "for", "real-time", "applications", ".", "-LSB-", "1", "-RSB-", "3rd", "Generation", "Partnership", "Project", ".", "Universal", "Mobile", "Telecommunication", "System/IMT", "2000", "Spectrum", ".", "Technical", "Report", "6", ",", "UMTS", "Forum", ",", "1998", ".", "-LSB-", "2", "-RSB-", "3rd", "Generation", "Partnership", "Project", ".", "Stage", "2", "Functional", "Specification", "of", "Location", "Services", "in", "URAN", ".", "Technical", "Report", "-LRB-", "3G", "TR", "25.923", "version", "1.4.0", "-RRB-", ",", "UMTS", "Forum", ",", "1999", ".", "Technical", "Specification", "Group", "-LRB-", "TSG", "-RRB-", "RAN", ",", "Working", "Group", "2", "-LRB-", "WG2", "-RRB-", ".", "-LSB-", "3", "-RSB-", "3rd", "Generation", "Partnership", "Project", ".", "Transparent", "End-to-End", "Packet", "Switched", "Streaming", "Service", "-LRB-", "PSS", "-RRB-", "General", "Description", "-LRB-", "Release", "4", "-RRB-", ".", "Technical", "Report", "3GPP-TS-26.233-V4.0", ".0", ",", "UMTS", "Forum", ",", "2000", ".", "Technical", "Specification", "Group", "Services", "and", "System", "Aspects", ".", "-LSB-", "4", "-RSB-", "S.", "Acharya", ",", "M.J.", "Franklin", ",", "and", "S.", "B.", "Zdonik", ".", "Balancing", "Push", "and", "Pull", "for", "Data", "Broadcast", ".", "In", "Proceedimgs", "of", "SIGMOD", "1997", ",", "Tucson", ",", "AZ", ",", "May", "1997", ".", "-LSB-", "5", "-RSB-", "P.K.", "Agarwal", ",", "L.", "Arge", ",", "J.", "Erickson", ",", "and", "H.", "Yu", ".", "Efficient", "Tradeoff", "Schemes", "in", "Data", "Structures", "for", "Querying", "Moving", "Objects", ".", "In", "12th", "Annual", "European", "Symposium", "on", "Algorithms", "-LRB-", "ESA", "-RRB-", ",", "pages", "4", "15", ",", "Bergen", ",", "Norway", ",", "September", "2004", ".", "-LSB-", "6", "-RSB-", "D.", "Aksoy", ",", "M.", "Altinel", ",", "R.", "Bose", ",", "U.", "Cetintemel", ",", "M.", "Franklin", ",", "J.", "Wang", ",", "and", "S.", "Zdonik", ".", "Research", "in", "Data", "Broadcast", "and", "Dissemination", ".", "In", "Proceedings", "of", "International", "Conf", ".", "on", "Advanced", "Multimedia", "Content", "Processing", "-LRB-", "AMCP", "-RRB-", ",", "Osaka", ",", "Japan", ",", "November", "1998", ".", "-LSB-", "7", "-RSB-", "P.", "Cao", ",", "E.", "W.", "Felten", ",", "A.", "R.", "Karlin", ",", "and", "K.", "Li", ".", "A", "Study", "of", "Integrated", "Prefetching", "and", "Caching", "Strategies", ".", "In", "Proceedings", "of", "ACM", "SIGMETRICS", "Conf.", ",", "pages", "188", "197", ",", "Ottawa", ",", "Canada", ",", "May", "1995", ".", "-LSB-", "8", "-RSB-", "S.", "Chan", "and", "F.", "Tobagi", ".", "Caching", "schemes", "for", "distributed", "video", "services", ".", "In", "Proceedings", "of", "the", "1999", "IEEE", "International", "Conference", "on", "Communications", "-LRB-", "ICC", "'", "99", "-RRB-", ",", "Vancouver", ",", "Canada", ",", "June", "1999", ".", "-LSB-", "9", "-RSB-", "S.", "Choi", "and", "K.", "G.", "Shin", ".", "Predictive", "and", "Adaptive", "Bandwidth", "Reservation", "for", "Hand-Offs", "in", "QoS-Sensitive", "Cellular", "Networks", ".", "In", "Proceedings", "of", "ACM", "SIGCOMM", ",", "pages", "155", "166", ",", "1998", ".", "-LSB-", "10", "-RSB-", "A.", "Dan", "and", "D.", "Sitaram", ".", "A", "Generalized", "Interval", "Caching", "Policy", "for", "Mixed", "Interactive", "and", "Long", "Video", "Environments", ".", "In", "Proceedings", "of", "IST/SPIE", "Multimedia", "Computing", "and", "Networking", "Conference", ",", "San", "Jose", ",", "CA", ",", "January", "1996", ".", "-LSB-", "11", "-RSB-", "A.", "Dan", ",", "D.", "Sitaram", ",", "and", "P.", "Shahabuddin", ".", "Dynamic", "Batching", "Policies", "for", "an", "On-demand", "Video", "Server", ".", "Multimedia", "Systems", ",", "4", "-LRB-", "3", "-RRB-", ":", "112", "121", ",", "1996", ".", "-LSB-", "12", "-RSB-", "G.", "Kollios", "and", "D.", "Gunopulos", "and", "V.J.", "Tsotras", ".", "On", "Indexing", "Mobile", "Objects", ".", "In", "Proceedimgs", "of", "1999", "ACM", "SIGACT-SIGMOD-SIGART", "Symposium", "on", "Principles", "of", "Database", "Systems", "-LRB-", "PODS", "-RRB-", ",", "Philadephia", ",", "PA", ",", "1999", ".", "-LSB-", "13", "-RSB-", "M.", "Hassan", ",", "L.", "Atzori", ",", "and", "M.", "Krunz", ".", "Video", "Transport", "over", "Wireless", "Channels", ":", "A", "Cycle-based", "Approach", "for", "Rate", "Control", ".", "In", "Proceedings", "of", "the", "ACM", "Multimedia", "2004", "Conference", ".", "ACM", "Press", ",", "October", "2004", ".", "-LSB-", "14", "-RSB-", "M.", "Hofmann", ",", "E.", "Ng", ",", "K.", "Guo", ",", "S.", "Paul", ",", "and", "H.", "Zhang", ".", "Caching", "Techniques", "for", "Streaming", "Multimedia", "over", "the", "Internet", ".", "Technical", "report", ",", "Bell", "Laboratories", ",", "April", "1999", ".", "BL011345-990409-04TM", ".", "-LSB-", "15", "-RSB-", "H.", "Holma", "and", "A.", "Toskala", ".", "WCDMA", "for", "UMTS", "Radio", "Access", "for", "Third", "Generation", "Mobile", "Communications", ".", "John", "Wiley", "&", "Sons", "Inc.", ",", "New", "York", ",", "NY", ",", "2nd", "edition", ",", "2002", ".", "-LSB-", "16", "-RSB-", "C.-Y", ".", "Hsu", ",", "A.", "Ortega", ",", "and", "A.R.", "Reibman", ".", "Joint", "Selection", "of", "Source", "and", "Channel", "Rate", "for", "VBR", "Video", "Transmission", "Under", "ATM", "Policing", "Constraints", ".", "IEEE", "Journal", "of", "Selected", "Areas", "in", "Communications", ",", "15", "-LRB-", "6", "-RRB-", ":", "1016", "1028", ",", "1997", ".", "-LSB-", "17", "-RSB-", "P.-C", ".", "Hu", ",", "Z-L", ".", "Zhang", ",", "and", "M.", "Kaveh", ".", "Channel", "Condition", "ARQ", "Rate", "Control", "for", "Real-time", "Wireless", "Video", "Under", "Buffer", "Constraints", ".", "In", "Proceedings", "of", "the", "IEEE", "International", "Conf", ".", "on", "Image", "Processing", ",", "Vancouver", "BC", ",", "Canada", ",", "September", "2000", ".", "-LSB-", "18", "-RSB-", "K.A.", "Hua", ",", "Y.", "Cai", ",", "and", "S.", "Sheu", ".", "Patching", ":", "a", "Multicast", "Technique", "for", "True", "Video-on-demand", "Services", ".", "In", "Proceedings", "of", "the", "6th", "ACM", "International", "Conference", "on", "Multimedia", ",", "pages", "191", "200", ".", "ACM", "Press", ",", "1998", ".", "-LSB-", "19", "-RSB-", "T.", "Imielinski", ",", "S.", "Viswanathan", ",", "and", "B.", "R.", "Badrinath", ".", "Data", "on", "Air", ":", "Organization", "and", "Access", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "-LRB-", "3", "-RRB-", ":", "353", "372", ",", "1997", ".", "-LSB-", "20", "-RSB-", "H.-J", ".", "Lee", ",", "T.", "Chiang", ",", "and", "Y.-Q", ".", "Zhang", ".", "Scalable", "Rate", "Control", "for", "MPEG-4", "Video", ".", "IEEE", "Transactions", "On", "Circuits", "and", "Systems", "for", "Video", "Technology", ",", "10", "-LRB-", "9", "-RRB-", ":", "878", "894", ",", "September", "2000", ".", "-LSB-", "21", "-RSB-", "S.-J", ".", "Lee", ",", "W.-Y", ".", "Ma", ",", "and", "B.", "Shen", ".", "An", "Interactive", "Video", "Delivery", "and", "Caching", "System", "Using", "Video", "Summarization", ".", "Computer", "Communications", ",", "25", "-LRB-", "4", "-RRB-", ":", "424", "435", ",", "March", "2002", ".", "-LSB-", "22", "-RSB-", "E.", "Pitoura", "and", "P.K.", "Chrysanthis", ".", "Multiversion", "Data", "Broadcast", ".", "IEEE", "Transactions", "on", "Computers", ",", "51", "-LRB-", "10", "-RRB-", ":", "1224", "1230", ",", "2002", ".", "-LSB-", "23", "-RSB-", "R.", "Rejaie", ",", "H.", "Yu", ",", "M.", "Handley", ",", "and", "D.", "Estrin", ".", "Multimedia", "Proxy", "Caching", "Mechanism", "for", "Quality", "Adaptive", "Streaming", "Applications", "in", "the", "Internet", ".", "In", "Proceedings", "of", "INFOCOM", "-LRB-", "2", "-RRB-", ",", "pages", "980", "989", ",", "2000", ".", "-LSB-", "24", "-RSB-", "S.", "Roy", "and", "B.", "Shen", "abd", "V.", "Sundaram", ".", "Application", "Level", "Handoff", "Support", "for", "Mobile", "Media", "Transcoding", "Sessions", ".", "In", "12th", "International", "Workshop", "on", "Network", "and", "Operating", "System", "Support", "for", "Digital", "Audio", "and", "Video", ",", "Miami", ",", "FL", ",", "2002", ".", "-LSB-", "25", "-RSB-", "S.", "Saltenis", "and", "C.S.", "Jensen", ".", "Indexing", "of", "Moving", "Objects", "for", "Location-Based", "Services", ".", "In", "Proceedings", "of", "the", "IEEE", "International", "Conference", "on", "Data", "Engineering", "-LRB-", "ICDE", "-RRB-", ",", "pages", "463", "472", ",", "2002", ".", "-LSB-", "26", "-RSB-", "S.", "Sen", ",", "J.", "Rexford", ",", "and", "D.", "F.", "Towsley", ".", "Proxy", "Prefix", "Caching", "for", "Multimedia", "Streams", ".", "In", "Proceedings", "of", "INFOCOM", "-LRB-", "3", "-RRB-", ",", "pages", "1310", "1319", ",", "New", "York", ",", "NY", ",", "1999", ".", "-LSB-", "27", "-RSB-", "A.P.", "Sistla", ",", "O.", "Wolfson", ",", "S.", "Chamberlain", ",", "and", "S.", "Dao", ".", "Modeling", "and", "Querying", "Moving", "Objects", ".", "In", "Proceedings", "of", "the", "13th", "IEEE", "International", "Conf", ".", "on", "Data", "Engineering", ",", "Birmingham", ",", "UK", ",", "April", "1997", ".", "-LSB-", "28", "-RSB-", "H.", "Song", "and", "C.-C", ".", "-", "J.", "Kuo", ".", "Rate", "control", "for", "Low", "Bit", "Rate", "Video", "via", "Variable", "Encoding", "Frame", "Rates", ".", "IEEE", "Transactions", "On", "Circuits", "and", "Systems", "for", "Video", "Technology", ",", "11", "-LRB-", "4", "-RRB-", ":", "512", "521", ",", "April", "2001", ".", "-LSB-", "29", "-RSB-", "W.", "Tawbi", ",", "F.", "Horn", ",", "E.", "Horlait", ",", "and", "J.-B", ".", "Stefani", ".", "Video", "Compression", "Standards", "and", "Quality", "of", "Service", ".", "The", "Computer", "Journal", ",", "36", "-LRB-", "1", "-RRB-", ":", "43", "54", ",", "1993", ".", "-LSB-", "30", "-RSB-", "Texas", "Instruments", ".", "Mobile", "Connectivity", ":", "Assisted-GPS", ".", "http://focus.ti.com/general/docs/wtbu", ",", "2004", ".", "-LSB-", "31", "-RSB-", "T.", "Wiegand", ",", "M.", "Lightstone", ",", "T.", "Campbell", ",", "D.", "Mukherjee", ",", "and", "S.", "Mitra", ".", "Rate-Distortion", "Optimized", "Mode", "Selection", "for", "Very", "Low", "Bit", "Rate", "Video", "Coding", "and", "the", "Emerging", "H.", "263", "Standard", ".", "URL", ":", "citeseer.ist.psu.edu/wiegand95ratedistortion.html", ",", "1999", ".", "-LSB-", "32", "-RSB-", "D.", "Wu", ",", "Y.T.", "Hou", ",", "W.", "Zhu", ",", "Y.-Q", ".", "Zhang", ",", "and", "J.M.", "Peha", ".", "Streaming", "Video", "over", "the", "Internet", ":", "Approaches", "and", "Directions", ".", "IEEE", "Transactions", "on", "Circuits", "and", "Systems", "for", "video", "Technology", ",", "11", "-LRB-", "1", "-RRB-", ":", "1", "20", ",", "February", "2001", ".", "-LSB-", "33", "-RSB-", "X.", "Yang", "and", "A.", "Bouguettaya", ".", "Broadcast-Based", "Data", "Access", "in", "Wireless", "Environments", ".", "In", "Proceedings", "of", "the", "EDBT", "International", "Conference", ",", "Prague", ",", "Czech", "Republic", ",", "2002", ".", "-LSB-", "34", "-RSB-", "Z.-L", ".", "Zhang", ",", "Y.", "Wang", ",", "D.H.C.", "Du", ",", "and", "D.", "Shu", ".", "Video", "staging", ":", "a", "proxy-server-based", "approach", "to", "end-to-end", "video", "delivery", "over", "wide-area", "networks", ".", "IEEE/ACM", "Transactions", "on", "Networking", ",", "8", "-LRB-", "4", "-RRB-", ":", "429", "442", ",", "2000", ".", "72"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["rate adaptation"], "abstractive_keyphrases": ["streaming for moving users", "mobile multimedia services", "real-time streaming"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "179", "document": ["Simplifying", "Flexible", "Isosurfaces", "Using", "Local", "Geometric", "Measures", "The", "contour", "tree", ",", "an", "abstraction", "of", "a", "scalar", "field", "that", "encodes", "the", "nesting", "relationships", "of", "isosurfaces", ",", "can", "be", "used", "to", "accelerate", "isosurface", "extraction", ",", "to", "identify", "important", "isovalues", "for", "volume-rendering", "transfer", "functions", ",", "and", "to", "guide", "exploratory", "visualization", "through", "a", "flexible", "isosurface", "interface", ".", "Many", "real-world", "data", "sets", "produce", "unmanageably", "large", "contour", "trees", "which", "require", "meaningful", "simplification", ".", "We", "define", "local", "geometric", "measures", "for", "individual", "contours", ",", "such", "as", "surface", "area", "and", "contained", "volume", ",", "and", "provide", "an", "algorithm", "to", "compute", "these", "measures", "in", "a", "contour", "tree", ".", "We", "then", "use", "these", "geometric", "measures", "to", "simplify", "the", "contour", "trees", ",", "suppressing", "minor", "topological", "features", "of", "the", "data", ".", "We", "combine", "this", "with", "a", "flexible", "isosurface", "interface", "to", "allow", "users", "to", "explore", "individual", "contours", "of", "a", "dataset", "interactively", ".", "e-mail", ":", "hcarr@cs.ubc.ca", "e-mail", ":", "snoeyink@cs.unc.edu", "e-mail", ":", "van@cs.ubc.ca", "Isosurfaces", ",", "slicing", ",", "and", "volume", "rendering", "are", "the", "three", "main", "techniques", "for", "visualizing", "three-dimensional", "scalar", "fields", "on", "a", "two-dimensional", "display", ".", "A", "recent", "survey", "-LSB-", "Brodlie", "and", "Wood", "2001", "-RSB-", "describes", "the", "maturation", "of", "these", "techniques", "since", "the", "mid", "1980s", ".", "For", "example", ",", "improved", "understanding", "of", "isosurfaces", "has", "produced", "robust", "definitions", "of", "watertight", "surfaces", "and", "efficient", "extraction", "methods", ".", "We", "believe", "that", "the", "same", "improved", "understanding", "and", "structuring", "leads", "to", "new", "interfaces", "that", "give", "the", "user", "better", "methods", "to", "select", "isosurfaces", "of", "interest", "and", "that", "provide", "a", "rich", "framework", "for", "data-guided", "exploration", "of", "scalar", "fields", ".", "Although", "key", "ideas", "in", "this", "paper", "apply", "to", "both", "isosurfaces", "and", "volume", "rendering", ",", "the", "immediate", "application", "is", "to", "isosurface", "rendering", ".", "An", "isosurface", "shows", "the", "surface", "for", "a", "fixed", "value", "-LRB-", "the", "isovalue", "-RRB-", "of", "the", "scalar", "field", "and", "is", "the", "3D", "analogue", "of", "equal-height", "contour", "lines", "on", "a", "topographic", "map", ".", "The", "contour", "tree", "represents", "the", "nesting", "relationships", "of", "connected", "components", "of", "isosurfaces", ",", "which", "we", "call", "contours", ",", "and", "is", "thus", "a", "topological", "abstraction", "of", "a", "scalar", "field", ".", "Since", "genus", "changes", "to", "surfaces", "do", "not", "affect", "the", "nesting", "relationship", ",", "they", "are", "not", "represented", "in", "the", "contour", "tree", ".", "Our", "contribution", "is", "to", "combine", "the", "flexible", "isosurface", "interface", "-LSB-", "Carr", "and", "Snoeyink", "2003", "-RSB-", "with", "online", "contour", "tree", "simplification", "guided", "by", "geometric", "properties", "of", "contours", "to", "produce", "a", "tool", "for", "interactive", "exploration", "of", "large", "noisy", "experimentally-sampled", "data", "sets", ".", "An", "additional", "contribution", "is", "to", "draw", "attention", "to", "other", "potential", "applications", "of", "simplified", "contour", "trees", ",", "such", "as", "detail-preserving", "denoising", ",", "automated", "segmentation", ",", "and", "atlasing", ".", "Figure", "1", "shows", "a", "comparison", "between", "a", "conventional", "isosurface", "and", "a", "flexible", "isosurface", "extracted", "from", "the", "same", "data", "set", "after", "contour", "tree", "simplification", ".", "On", "the", "left", ",", "the", "outermost", "surface", "-LRB-", "the", "skull", "-RRB-", "occludes", "other", "surfaces", ",", "making", "it", "difficult", "to", "study", "structures", "inside", "the", "head", ".", "Moreover", ",", "the", "contour", "tree", "for", "this", "data", "set", "has", "over", "1", "million", "edges", ",", "making", "it", "impractical", "as", "a", "visual", "representation", ".", "October", "10-15", ",", "Austin", ",", "Texas", ",", "USA", "IEEE", "Visualization", "2004", "0-7803-8788-0", "/", "04", "/", "$", "20.00", "2004", "IEEE", "497", "Contour", "c", "1", "Contour", "c", "2", "Contour", "c", "3", "Contour", "c", "1", "Contour", "c", "2", "Contour", "c", "3", "3000m", "1000m", "2000m", "Contour", "c", "1", "Contour", "c", "2", "Contour", "c", "3", "4000m", "E", "F", "D", "B", "A", "C", "Figure", "2", ":", "The", "topographic", "map", "-LRB-", "2-d", "scalar", "field", "-RRB-", ",", "surface", "rendering", ",", "and", "contour", "tree", "for", "a", "volcanic", "crater", "lake", "with", "a", "central", "island", ".", "A", ":", "a", "maximum", "on", "the", "crater", "edge", ";", "B", ":", "maximum", "of", "island", "in", "the", "lake", ";", "F", ":", "lake", "surface", ";", "C", "and", "D", ":", "saddle", "points", ".", "On", "the", "right", "is", "a", "flexible", "isosurface", "constructed", "using", "a", "simplified", "contour", "tree", ",", "laid", "out", "and", "coloured", "to", "emphasize", "the", "structure", "of", "the", "data", "set", ".", "Of", "particular", "interest", "is", "that", "there", "are", "no", "``", "magic", "numbers", "''", "embedded", "in", "the", "code", ".", "Instead", ",", "the", "surfaces", "shown", "were", "chosen", "directly", "from", "the", "simplified", "contour", "tree", "during", "exploration", "of", "this", "data", "set", ",", "with", "the", "level", "of", "simplification", "being", "adjusted", "as", "needed", ".", "The", "remainder", "of", "this", "paper", "is", "as", "follows", ".", "Section", "2", "reviews", "work", "on", "contour", "trees", "in", "visualization", ".", "Section", "3", "shows", "how", "to", "simplify", "the", "contour", "tree", ",", "and", "the", "effects", "on", "the", "data", ".", "Section", "4", "shows", "how", "to", "compute", "local", "geometric", "measures", "efficiently", "to", "guide", "simplification", ".", "Section", "5", "gives", "implementation", "details", ",", "and", "Section", "6", "reports", "results", ".", "Finally", ",", "Section", "7", "gives", "possible", "future", "extensions", ".", "Most", "of", "the", "relevant", "work", "deals", "with", "a", "topological", "structure", "called", "the", "contour", "tree", "that", "is", "becoming", "increasingly", "important", "in", "visualization", ".", "Section", "2.1", "reviews", "the", "contour", "tree", "and", "algorithms", "to", "compute", "it", ".", "Section", "2.2", "then", "reviews", "visualization", "tools", "that", "use", "the", "contour", "tree", ",", "while", "Section", "2.3", "reviews", "work", "on", "topological", "simplification", "and", "on", "efficient", "computation", "of", "geometric", "properties", ".", "2.1", "The", "Contour", "Tree", "For", "a", "scalar", "field", "f", ":", "IR", "3", "IR", ",", "the", "level", "set", "of", "an", "isovalue", "h", "is", "the", "set", "L", "-LRB-", "h", "-RRB-", "=", "-LCB-", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "|", "f", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "=", "h", "-RCB-", ".", "A", "contour", "is", "a", "connected", "component", "of", "a", "level", "set", ".", "As", "h", "increases", ",", "contours", "appear", "at", "local", "minima", ",", "join", "or", "split", "at", "saddles", ",", "and", "disappear", "at", "local", "maxima", "of", "f", ".", "Shrinking", "each", "contour", "to", "a", "single", "point", "gives", "the", "contour", "tree", ",", "which", "tracks", "this", "evolution", ".", "It", "is", "a", "tree", "because", "the", "domain", "IR", "3", "is", "simply-connected", ";", "in", "more", "general", "domains", "we", "obtain", "the", "Reeb", "graph", "-LSB-", "Reeb", "1946", "-RSB-", ",", "which", "is", "used", "in", "Morse", "theory", "-LSB-", "Matsumoto", "2002", ";", "Milnor", "1963", "-RSB-", "to", "study", "the", "topology", "of", "manifolds", ".", "Figure", "2", "shows", "a", "2-dimensional", "scalar", "field", "describing", "a", "volcanic", "crater", "lake", "with", "a", "central", "island", ".", "The", "contour", "tree", "of", "this", "field", "is", "an", "abstract", ",", "but", "meaningful", ",", "depiction", "of", "the", "structure", "of", "all", "local", "maxima", ",", "minima", ",", "and", "saddle", "points", ",", "and", "gives", "clues", "to", "interesting", "contours", ".", "Individual", "contours", "are", "represented", "uniquely", "as", "points", "on", "the", "contour", "tree", ".", "For", "example", ",", "the", "isolines", "c", "1", ",", "c", "2", ",", "and", "c", "3", "are", "all", "at", "2000m", ",", "but", "each", "has", "a", "unique", "location", "on", "the", "contour", "tree", ".", "The", "contour", "tree", "has", "been", "used", "for", "fast", "isosurface", "extraction", "-LSB-", "van", "Kreveld", "et", "al.", "1997", ";", "Carr", "and", "Snoeyink", "2003", "-RSB-", ",", "to", "guide", "mesh", "simplification", "-LSB-", "Chiang", "and", "Lu", "2003", "-RSB-", ",", "to", "find", "important", "isovalues", "for", "transfer", "function", "construction", "-LSB-", "Takahashi", "et", "al.", "2004b", "-RSB-", ",", "to", "compute", "topological", "parameters", "of", "isosurfaces", "-LSB-", "Kettner", "et", "al.", "2001", "-RSB-", ",", "as", "an", "abstract", "representation", "of", "scalar", "fields", "-LSB-", "Bajaj", "et", "al.", "1997", "-RSB-", ",", "and", "to", "manipulate", "individual", "contours", "-LSB-", "Carr", "and", "Snoeyink", "2003", "-RSB-", ".", "Algorithms", "to", "compute", "the", "contour", "tree", "efficiently", "in", "three", "or", "more", "dimensions", "have", "been", "given", "for", "simplicial", "meshes", "-LSB-", "van", "Kreveld", "et", "al.", "1997", ";", "Tarasov", "and", "Vyalyi", "1998", ";", "Carr", "et", "al.", "2003", ";", "Chiang", "et", "al.", "2002", ";", "Takahashi", "et", "al.", "2004b", "-RSB-", "and", "for", "trilinear", "meshes", "-LSB-", "Pascucci", "and", "Cole-McLaughlin", "2002", "-RSB-", ".", "Much", "of", "this", "work", "focusses", "on", "``", "clean", "''", "data", "from", "analytic", "functions", "or", "numerical", "simulation", "see", "for", "example", "-LSB-", "Bajaj", "et", "al.", "1997", ";", "Takahashi", "et", "al.", "2004b", "-RSB-", ".", "All", "of", "the", "topology", "in", "this", "data", "is", "assumed", "to", "be", "important", "and", "significant", "effort", "is", "expended", "on", "representing", "it", "accurately", "using", "trilinear", "interpolants", "-LSB-", "Pascucci", "and", "Cole-McLaughlin", "2002", "-RSB-", "and", "topology-preserving", "simplifications", "-LSB-", "Chiang", "and", "Lu", "2003", "-RSB-", ".", "In", "contrast", ",", "we", "are", "interested", "in", "noisy", "experimentally-acquired", "data", "such", "as", "medical", "datasets", ".", "We", "expect", "to", "discard", "small-scale", "topological", "features", "so", "that", "we", "can", "focus", "on", "large-scale", "features", ".", "We", "have", "therefore", "chosen", "to", "work", "with", "the", "well-known", "Marching", "Cubes", "cases", "-LSB-", "Lorenson", "and", "Cline", "1987", ";", "Montani", "et", "al.", "1994", "-RSB-", ",", "and", "with", "approximate", "geometric", "properties", ".", "This", "paper", "does", "not", "turn", "on", "these", "choices", ",", "however", ",", "and", "can", "also", "be", "applied", "to", "trilinear", "interpolants", "and", "exact", "geometric", "properties", ".", "2.2", "Flexible", "Isosurfaces", "The", "contour", "spectrum", "-LSB-", "Bajaj", "et", "al.", "1997", "-RSB-", "uses", "the", "contour", "tree", "to", "represent", "the", "topology", "of", "a", "field", ",", "alongside", "global", "measures", "of", "level", "sets", "such", "as", "surface", "area", "and", "enclosed", "volume", ".", "In", "contrast", ",", "the", "flexible", "isosurface", "interface", "-LSB-", "Carr", "and", "Snoeyink", "2003", "-RSB-", "uses", "the", "contour", "tree", "actively", "instead", "of", "passively", ".", "The", "user", "selects", "an", "individual", "contour", "from", "the", "contour", "tree", "or", "from", "the", "isosurface", "display", ",", "then", "manipulates", "it", ".", "Operations", "include", "contour", "removal", "and", "contour", "evolution", "as", "the", "isovalue", "is", "changed", ",", "using", "the", "contour", "tree", "to", "track", "which", "contours", "to", "display", ".", "This", "interface", "depends", "on", "attaching", "isosurface", "seeds", "called", "path", "seeds", "to", "each", "edge", "of", "the", "contour", "tree", "so", "that", "individual", "contours", "can", "be", "extracted", "on", "demand", ".", "A", "major", "disadvantage", "of", "both", "these", "interfaces", "is", "that", "contour", "trees", "with", "more", "than", "a", "few", "tens", "of", "edges", "make", "poor", "visual", "abstractions", ".", "A", "principal", "contribution", "of", "this", "paper", "to", "simplify", "the", "contour", "tree", "while", "preserving", "the", "exploratory", "capabilities", "of", "the", "flexible", "isosurface", ".", "This", "requires", "that", "each", "point", "in", "a", "simplified", "contour", "tree", "represents", "an", "extractable", "contour", ".", "Moreover", ",", "extracted", "contours", "must", "evolve", "as", "smoothly", "as", "possible", "when", "the", "isovalue", "is", "adjusted", ".", "We", "satisfy", "these", "constraint", "with", "simplifications", "that", "have", "pre-dictable", "effects", "on", "the", "scalar", "field", "and", "geometric", "measures", "that", "iden-498", "tify", "unimportant", "contour", "tree", "edges", "for", "simplification", "2.3", "Simplification", "and", "Geometric", "Measures", "The", "distinction", "between", "this", "paper", "and", "other", "work", "that", "simplifies", "contour", "trees", "or", "Reeb", "graphs", "is", "our", "emphasis", "on", "using", "tree", "structure", "for", "local", "exploration", ".", "-LSB-", "Takahashi", "et", "al.", "2004a", "-RSB-", "simplify", "the", "contour", "tree", "by", "replacing", "three", "edges", "at", "a", "saddle", "point", "with", "a", "single", "new", "edge", ",", "based", "on", "the", "height", "of", "the", "edge", ".", "-LSB-", "Takahashi", "et", "al.", "2004b", "-RSB-", "use", "the", "approximate", "volume", "of", "the", "region", "represented", "by", "the", "subtree", "that", "is", "discarded", ".", "Saddles", "are", "processed", "until", "only", "a", "few", "remain", ",", "then", "a", "transfer", "function", "is", "constructed", "that", "emphasizes", "the", "isovalues", "of", "those", "saddles", ".", "Our", "simplification", "algorithm", "extends", "this", "work", "to", "preserve", "local", "information", "such", "as", "isosurface", "seeds", "and", "to", "compute", "arbitrary", "geometric", "measures", "of", "importance", ".", "We", "also", "describe", "the", "effects", "of", "simplification", "on", "the", "scalar", "field", ".", "Since", "removing", "a", "leaf", "of", "the", "contour", "tree", "cancels", "out", "a", "local", "ex-tremum", "with", "a", "saddle", ",", "this", "form", "of", "simplification", "can", "be", "shown", "to", "be", "equivalent", "to", "topological", "persistence", "-LSB-", "Edelsbrunner", "et", "al.", "2003", ";", "Edelsbrunner", "et", "al.", "2002", ";", "Bremer", "et", "al.", "2003", "-RSB-", "if", "the", "geometric", "measure", "used", "is", "height", ".", "For", "other", "measures", ",", "such", "as", "volume", "or", "hypervolume", ",", "the", "method", "described", "in", "this", "paper", "is", "necessary", "to", "define", "these", "properties", ",", "but", "thereafter", ",", "the", "process", "can", "optionally", "be", "described", "in", "terms", "of", "persistence", ".", "Moreover", ",", "work", "on", "persistence", "has", "focussed", "on", "the", "Morse", "complex", ",", "which", "is", "difficult", "to", "compute", "and", "segments", "data", "according", "to", "the", "gradient", "of", "the", "field", ".", "When", "the", "boundary", "of", "an", "object", "such", "as", "an", "organ", "is", "better", "described", "by", "a", "contour", "than", "by", "drainage", ",", "contour", "trees", "are", "more", "directly", "applicable", "than", "Morse", "complexes", ",", "and", "the", "additional", "overhead", "of", "working", "with", "the", "Morse", "complex", "is", "unnecessary", ".", "-LSB-", "Hilaga", "et", "al.", "2001", "-RSB-", "have", "shown", "how", "to", "simplify", "the", "Reeb", "graph", "by", "progressive", "quantization", "of", "the", "isovalue", "to", "obtain", "a", "multi-resolution", "Reeb", "graph", ".", "This", "suffers", "from", "several", "drawbacks", ",", "in", "particular", "that", "it", "is", "strictly", "tied", "to", "a", "function", "value", "which", "is", "treated", "as", "height", "-LRB-", "or", "persistence", "-RRB-", ".", "Extension", "to", "geometric", "measures", "of", "importance", "such", "as", "volume", "or", "hypervolume", "is", "therefore", "problematic", ".", "Moreover", ",", "the", "quantization", "used", "imposes", "serious", "restrictions", "on", "isosurface", "generation", "and", "the", "level", "of", "simplification", ",", "as", "well", "as", "generating", "artifacts", "related", "to", "the", "quantization", ".", "In", "particular", ",", "we", "note", "that", "this", "quantization", "process", "limits", "potential", "simplification", "to", "at", "most", "as", "many", "levels", "as", "there", "are", "bits", "in", "each", "input", "sample", ".", "Finally", ",", "this", "method", "is", "relatively", "slow", ":", "15s", "is", "claimed", "for", "a", "2-manifold", "input", "mesh", "with", "10,000", "vertices", ":", "extensions", "to", "10,000,000", "+", "sample", "volumetric", "data", "have", "not", "yet", "been", "published", ".", "Work", "also", "exists", "on", "computing", "geometric", "measures", "efficiently", "in", "large", "data", "sets", ".", "-LSB-", "Bentley", "1979", "-RSB-", "defined", "problems", "to", "be", "decomposable", "if", "their", "solution", "could", "be", "assembled", "from", "the", "solutions", "of", "an", "arbitrary", "decomposition", "into", "subproblems", ".", "Decomposability", "has", "been", "used", "for", "a", "variety", "of", "problems", ",", "including", "computation", "of", "geometric", "properties", "of", "level", "sets", "-LSB-", "Bajaj", "et", "al.", "1997", "-RSB-", "and", "extraction", "of", "isosurfaces", "-LSB-", "Lorenson", "and", "Cline", "1987", "-RSB-", ".", "We", "use", "decomposability", "in", "Section", "4", "to", "compute", "local", "geometric", "measures", ".", "Given", "a", "contour", "tree", "and", "a", "scalar", "field", ",", "we", "apply", "graph", "simplification", "to", "the", "contour", "tree", ".", "This", "simplification", "can", "then", "be", "carried", "back", "to", "simplify", "the", "input", "data", ".", "Alternately", ",", "we", "can", "use", "the", "simplified", "contour", "tree", "to", "extract", "the", "reduced", "set", "of", "isosurfaces", "that", "would", "result", "if", "we", "had", "simplified", "the", "data", ".", "In", "this", "section", ",", "we", "describe", "the", "contour", "tree", "structure", ",", "the", "simplification", "operators", ",", "and", "the", "algorithms", "for", "simplification", "and", "isosurface", "extraction", ".", "3.1", "Contour", "Tree", "Structure", "A", "contour", "tree", "is", "the", "result", "of", "contracting", "every", "contour", "to", "a", "point", ".", "We", "use", "a", "simple", "tree", "structure", "in", "which", "every", "vertex", "is", "assigned", "a", "y-coordinate", ",", "and", "every", "edge", "is", "associated", "with", "the", "set", "of", "contours", "between", "its", "vertices", ".", "We", "store", "path", "seeds", "for", "generating", "individual", "contours", ",", "as", "in", "-LSB-", "Carr", "and", "Snoeyink", "2003", "-RSB-", ".", "That", "is", ",", "we", "store", "a", "pointer", "to", "a", "monotone", "path", "that", "intersects", "all", "contours", "along", "the", "edge", ",", "which", "then", "serves", "as", "a", "seed", "to", "generate", "any", "given", "contour", ".", "In", "this", "section", ",", "we", "assume", "that", "each", "edge", "has", "a", "simplification", "value", "-LRB-", "weight", "-RRB-", "that", "indicates", "the", "edge", "'s", "priority", ".", "Low", "priority", "edges", "are", "good", "candidates", "for", "simplification", ".", "3.2", "Basic", "Simplification", "Operations", "We", "simplify", "the", "contour", "tree", "with", "two", "operations", ":", "leaf", "pruning", "and", "vertex", "reduction", ".", "Leaf", "pruning", "removes", "a", "leaf", "of", "the", "tree", ",", "reducing", "the", "complexity", "of", "the", "tree", ",", "as", "shown", "in", "Figure", "3", ",", "where", "vertex", "80", "is", "pruned", "from", "the", "tree", "on", "the", "left", "to", "produce", "the", "tree", "in", "the", "middle", ".", "Vertex", "reduction", "chooses", "a", "vertex", "with", "one", "neighbor", "above", "and", "one", "below", ",", "and", "deletes", "the", "vertex", "without", "changing", "the", "essential", "structure", "of", "the", "contour", "tree", ".", "This", "is", "also", "illustrated", "in", "Figure", "3", ",", "where", "vertex", "50", "has", "been", "removed", "from", "the", "tree", "in", "the", "middle", "to", "produce", "the", "tree", "on", "the", "right", ".", "Since", "vertex", "reductions", "do", "not", "change", "the", "essential", "structure", "of", "the", "contour", "tree", ",", "we", "prefer", "them", "to", "leaf", "prunes", ".", "Also", ",", "pruning", "the", "only", "up", "-", "or", "down", "-", "edge", "at", "a", "saddle", "is", "prohibited", "to", "preserve", "the", "edge", "for", "a", "later", "vertex", "reduction", ".", "It", "is", "clear", "that", "these", "operations", "can", "simplify", "the", "tree", "to", "any", "desired", "size", ".", "We", "can", "also", "think", "of", "these", "operations", "as", "having", "well-defined", "effects", "on", "the", "underlying", "scalar", "field", ":", "pruning", "a", "leaf", "corresponds", "to", "levelling", "off", "a", "maximum", "or", "minimum", ",", "while", "vertex", "reduction", "requires", "no", "changes", ".", "As", "an", "example", ",", "in", "Figure", "3", "we", "show", "the", "result", "of", "leaf-pruning", "vertex", "80", "and", "edge", "80", "-", "50", "from", "the", "tree", ".", "Since", "80", "-", "50", "represents", "the", "left-hand", "maximum", ",", "pruning", "it", "flattens", "out", "the", "maximum", ",", "as", "shown", "in", "the", "middle", "terrain", ".", "Similarly", ",", "the", "right-hand", "image", "shows", "the", "results", "of", "reducing", "vertex", "50", "after", "the", "leaf", "prune", ".", "The", "edges", "incident", "to", "vertex", "50", "in", "the", "tree", "correspond", "to", "the", "regions", "above", "and", "below", "the", "contour", "through", "vertex", "50", ".", "Removing", "vertex", "50", "merely", "combines", "these", "two", "regions", "into", "one", ".", "The", "fact", "that", "simplification", "operations", "can", "be", "interpreted", "as", "modifying", "the", "scalar", "field", "suggests", "that", "one", "way", "to", "assess", "the", "cost", "of", "an", "operation", "is", "to", "measure", "geometric", "properties", "of", "the", "change", ".", "We", "show", "how", "this", "can", "be", "done", "efficiently", "in", "Section", "4", ".", "3.3", "Simplification", "Algorithm", "To", "simplify", "the", "contour", "tree", ",", "we", "apply", "the", "following", "rules", ":", "1", ".", "Always", "perform", "vertex", "reduction", "where", "possible", ".", "2", ".", "Always", "choose", "the", "least", "important", "leaf", "to", "prune", ".", "3", ".", "Never", "prune", "the", "last", "up", "-", "or", "down", "-", "leaf", "at", "an", "interior", "vertex", ".", "We", "implement", "this", "with", "a", "priority", "queue", "to", "keep", "track", "of", "the", "leaves", "of", "the", "tree", "with", "their", "associated", "pruning", "cost", ".", "We", "assume", "that", "for", "each", "edge", "e", "of", "the", "tree", ",", "we", "know", "two", "costs", ":", "up", "-LRB-", "e", "-RRB-", "for", "pruning", "the", "edge", "from", "the", "bottom", "up", ":", "i.e.", "collapsing", "the", "edge", "to", "its", "upper", "vertex", ",", "and", "down", "-LRB-", "e", "-RRB-", "for", "the", "cost", "of", "pruning", "the", "edge", "from", "the", "499", "0", "90", "0", "90", "0", "90", "50", "0", "90", "50", "0", "90", "50", "80", "0", "90", "50", "80", "Leaf", "80", "is", "pruned", "Vertex", "50", "is", "reduced", "Figure", "3", ":", "Leaf", "Pruning", "Levels", "Extrema", ";", "Vertex", "Reduction", "Leaves", "Scalar", "Field", "Unchanged", "top", "downwards", ".", "We", "add", "each", "leaf", "to", "the", "priority", "queue", ",", "with", "priority", "of", "up", "-LRB-", "e", "-RRB-", "for", "a", "lower", "leaf", "and", "down", "-LRB-", "e", "-RRB-", "for", "an", "upper", "leaf", ".", "We", "then", "repeatedly", "remove", "the", "lowest", "cost", "leaf", "edge", "from", "the", "priority", "queue", "and", "prune", "it", ".", "If", "this", "pruning", "causes", "a", "vertex", "to", "become", "reducible", ",", "we", "do", "so", "immediately", ".", "When", "a", "vertex", "is", "reduced", ",", "two", "edges", "e", "1", "and", "e", "2", "are", "merged", "into", "a", "simplified", "edge", "d", ".", "The", "cost", "of", "pruning", "d", "is", "based", "on", "the", "costs", "of", "the", "two", "reduced", "edges", ".", "Since", "up", "-LRB-", "d", "-RRB-", "is", "the", "cost", "of", "pruning", "d", "upwards", ",", "we", "set", "it", "to", "up", "-LRB-", "e", "1", "-RRB-", ",", "the", "cost", "of", "pruning", "the", "upper", "edge", "upwards", ".", "Similarly", ",", "we", "set", "down", "-LRB-", "d", "-RRB-", "to", "down", "-LRB-", "e", "2", "-RRB-", ",", "the", "cost", "of", "pruning", "the", "lower", "edge", "downwards", ".", "If", "d", "is", "a", "leaf", "edge", ",", "we", "add", "it", "to", "the", "priority", "queue", ".", "To", "simplify", "queue", "handling", ",", "we", "mark", "the", "reduced", "edges", "for", "lazy", "deletion", ".", "When", "a", "marked", "edge", "reaches", "the", "front", "of", "the", "priority", "queue", ",", "we", "discard", "it", "immediately", ".", "Similarly", ",", "when", "the", "edge", "removed", "from", "the", "queue", "is", "the", "last", "up", "-", "or", "down", "-", "edge", "at", "its", "interior", "vertex", ",", "we", "discard", "it", ",", "preserving", "it", "for", "a", "later", "vertex", "reduction", ".", "A", "few", "observations", "on", "this", "algorithm", ":", "First", ",", "any", "desired", "level", "of", "simplification", "of", "the", "tree", "can", "be", "achieved", "in", "a", "number", "of", "queue", "operations", "linear", "in", "t", ",", "the", "size", "of", "the", "original", "tree", ".", "Since", "at", "least", "half", "the", "nodes", "are", "leaves", ",", "this", "bound", "is", "tight", ".", "And", "if", "the", "contour", "tree", "is", "stored", "as", "nodes", "with", "circular", "linked", "lists", "of", "upwards", "and", "downwards", "edges", ",", "every", "operation", "except", "-LRB-", "de", "-RRB-", "queueing", "takes", "constant", "time", ".", "As", "a", "result", ",", "the", "asymptotic", "cost", "of", "this", "algorithm", "is", "dominated", "by", "the", "O", "-LRB-", "t", "log", "-LRB-", "t", "-RRB-", "-RRB-", "cost", "of", "maintaining", "the", "priority", "queue", ".", "Second", ",", "the", "simplified", "contour", "tree", "can", "still", "be", "used", "to", "extract", "isosurface", "contours", ".", "Vertex", "reductions", "build", "monotone", "paths", "corresponding", "to", "the", "simplified", "edges", ",", "while", "leaf", "prunes", "discard", "entire", "monotone", "paths", ".", "Thus", ",", "any", "edge", "in", "a", "simplified", "contour", "tree", "corresponds", "to", "a", "monotone", "path", "through", "the", "original", "contour", "tree", ".", "To", "generate", "the", "contour", "at", "a", "given", "isovalue", "on", "a", "simplified", "edge", ",", "we", "perform", "a", "binary", "search", "along", "the", "contour", "tree", "edges", "that", "make", "up", "the", "monotone", "path", "for", "that", "simplified", "edge", ".", "This", "search", "identifies", "the", "unique", "contour", "tree", "edge", "that", "spans", "the", "desired", "isovalue", ",", "and", "we", "use", "the", "path", "seed", "associated", "with", "that", "edge", "to", "generate", "the", "contour", ".", "Third", ",", "we", "extract", "contours", "from", "seeds", "as", "before", ".", "Instead", "of", "simplifying", "individual", "contours", ",", "we", "reduce", "the", "set", "of", "contours", "that", "can", "be", "extracted", ".", "Surface", "simplification", "of", "contours", "is", "a", "separate", "task", ".", "Finally", ",", "up", "-LRB-", "e", "-RRB-", "and", "down", "-LRB-", "e", "-RRB-", "actually", "need", "not", "be", "set", "except", "at", "leaves", "of", "the", "tree", ".", "As", "a", "leaf", "is", "pruned", "and", "vertex", "reduced", ",", "new", "values", "can", "be", "computed", "using", "information", "from", "the", "old", "nodes", "and", "edges", ".", "It", "is", "not", "hard", "to", "show", "by", "induction", "that", "any", "desired", "level", "of", "simplification", "of", "the", "tree", "can", "be", "achieved", ".", "And", ",", "since", "leaf", "pruning", "and", "vertex", "reduction", "are", "the", "only", "two", "operations", ",", "the", "net", "result", "can", "also", "be", "a", "meaningful", "simplification", "of", "the", "underlying", "scalar", "field", ",", "assuming", "that", "a", "reasonable", "geometric", "measure", "is", "used", "to", "guide", "the", "simplification", ".", "We", "therefore", "next", "discuss", "geometric", "measures", ".", "-LSB-", "Bajaj", "et", "al.", "1997", "-RSB-", "compute", "global", "geometric", "properties", ",", "and", "display", "them", "alongside", "the", "contour", "tree", "in", "the", "contour", "spectrum", ".", "-LSB-", "Pascucci", "and", "Cole-McLaughlin", "2002", "-RSB-", "propagate", "topological", "indices", "called", "the", "Betti", "numbers", "along", "branches", "of", "the", "contour", "tree", ",", "based", "on", "previous", "work", "by", "-LSB-", "Pascucci", "2001", "-RSB-", ".", "We", "bring", "these", "two", "ideas", "together", "to", "compute", "local", "geometric", "measures", "for", "individual", "contours", ".", "In", "2D", "scalar", "fields", ",", "the", "geometric", "properties", "we", "could", "compute", "include", "the", "following", "contour", "properties", ":", "line", "length", "-LRB-", "perimeter", "-RRB-", ",", "cross-sectional", "area", "-LRB-", "area", "of", "region", "enclosed", "by", "the", "contour", "-RRB-", ",", "volume", "-LRB-", "of", "the", "region", "enclosed", "-RRB-", ",", "and", "surface", "area", "-LRB-", "of", "the", "function", "over", "the", "region", "-RRB-", ".", "In", "3D", "scalar", "fields", ",", "there", "are", "analogous", "properties", "that", "include", "isosurface", "area", ",", "cross-sectional", "volume", "-LRB-", "the", "volume", "of", "the", "region", "enclosed", "by", "the", "isosurface", "-RRB-", ",", "and", "hypervolume", "-LRB-", "the", "integral", "of", "the", "scalar", "field", "over", "the", "enclosed", "volume", "-RRB-", ".", "Figure", "4", ":", "Contours", "Sweeping", "Past", "a", "Saddle", "Point", "Consider", "a", "plane", "sweeping", "through", "the", "field", "in", "Figure", "2", "from", "high", "to", "low", "isovalues", ".", "At", "any", "isovalue", "h", ",", "the", "plane", "divides", "the", "field", "into", "regions", "above", "and", "below", "the", "plane", ".", "As", "the", "isovalue", "decreases", ",", "the", "region", "above", "the", "plane", "grows", ",", "sweeping", "past", "the", "vertices", "of", "the", "mesh", "one", "at", "a", "time", ".", "Geometric", "properties", "of", "this", "region", "can", "be", "written", "as", "functions", "of", "the", "isovalue", "h", ".", "Such", "properties", "are", "decomposable", "over", "the", "cells", "of", "the", "input", "data", "for", "each", "cell", "we", "compute", "a", "piecewise", "polynomial", "function", ",", "and", "sum", "them", "to", "obtain", "a", "piecewise", "polynomial", "function", "for", "the", "entire", "region", ".", "-LSB-", "Bajaj", "et", "al.", "1997", "-RSB-", "compute", "these", "functions", "by", "sweeping", "through", "the", "isovalues", ",", "altering", "the", "function", "as", "each", "vertex", "is", "passed", ".", "Figure", "4", "illustrates", "this", "process", ",", "showing", "the", "contours", "immediately", "above", "and", "below", "a", "vertex", "s", ".", "As", "the", "plane", "sweeps", "past", "s", ",", "the", "function", "is", "unchanged", "in", "cells", "outside", "the", "neighbourhood", "of", "s", ",", "but", "changes", "inside", "the", "neighbourhood", "of", "s", ".", "This", "sweep", "computes", "global", "geometric", "properties", "for", "the", "region", "above", "the", "sweep", "plane", ".", "Reversing", "the", "direction", "of", "the", "sweep", "computes", "global", "geometric", "properties", "for", "the", "region", "below", "500", "the", "sweep", "plane", ".", "In", "Figure", "2", ",", "the", "region", "above", "the", "sweep", "plane", "at", "2000m", "consists", "of", "two", "connected", "components", ",", "one", "defined", "by", "contours", "c", "1", "and", "c", "2", ",", "the", "other", "by", "c", "3", ".", "To", "compute", "properties", "for", "these", "components", ",", "we", "sweep", "along", "an", "edge", "of", "the", "contour", "tree", ",", "representing", "a", "single", "contour", "sweeping", "through", "the", "data", ".", "This", "lets", "us", "compute", "functions", "for", "the", "central", "maximum", "at", "B.", "For", "the", "crater", "rim", "defined", "by", "contours", "c", "1", "and", "c", "2", ",", "we", "use", "inclusion/exclusion", ".", "We", "sweep", "one", "contour", "at", "a", "time", ",", "computing", "properties", "for", "the", "region", "inside", "the", "contour", ",", "including", "regions", "above", "and", "below", "the", "isovalue", "of", "the", "contour", ".", "The", "area", "of", "the", "crater", "rim", "can", "then", "be", "computed", "by", "subtracting", "the", "area", "inside", "contour", "c", "2", "from", "the", "area", "inside", "contour", "c", "1", ".", "We", "define", "local", "geometric", "measures", "to", "be", "geometric", "properties", "of", "regions", "bounded", "by", "a", "contour", ".", "We", "compute", "these", "measures", "in", "a", "manner", "similar", "to", "the", "global", "sweep", "of", "-LSB-", "Bajaj", "et", "al.", "1997", "-RSB-", ",", "but", "by", "sweeping", "contours", "along", "contour", "tree", "edges", ".", "4.1", "Local", "Geometric", "Measures", "To", "define", "local", "geometric", "measures", "attached", "to", "contour", "tree", "edges", ",", "we", "must", "be", "careful", "with", "terminology", ".", "Above", "and", "below", "do", "not", "apply", "to", "the", "region", "inside", "c", "1", "in", "Figure", "2", ",", "since", "part", "of", "the", "region", "is", "above", "the", "contour", "and", "part", "is", "below", ".", "Nor", "do", "inside", "and", "outside", ",", "which", "lose", "their", "meaning", "for", "contours", "that", "intersect", "the", "boundary", ".", "We", "therefore", "define", "upstart", "and", "downstart", "regions", "of", "a", "contour", ".", "An", "upstart", "region", "is", "a", "region", "reachable", "from", "the", "contour", "by", "paths", "that", "initially", "ascend", "from", "the", "contour", "and", "never", "return", "to", "it", ".", "For", "contour", "c", "1", ",", "there", "is", "one", "upstart", "region", "-LRB-", "inside", "-RRB-", "and", "one", "downstart", "region", "-LRB-", "outside", "-RRB-", ".", "At", "saddles", "such", "as", "D", ",", "there", "may", "be", "several", "upstart", "regions", ".", "Since", "each", "such", "region", "corresponds", "to", "an", "edge", "in", "the", "contour", "tree", ",", "we", "refer", ",", "for", "example", ",", "to", "the", "upstart", "region", "at", "D", "for", "arc", "CD", ".", "We", "now", "define", "upstart", "and", "downstart", "functions", ":", "functions", "computed", "for", "upstart", "or", "downstart", "regions", ".", "Note", "that", "the", "upstart", "and", "downstart", "functions", "do", "not", "have", "to", "be", "the", "same", ".", "For", "example", ",", "the", "length", "of", "a", "contour", "line", "is", "independent", "of", "sweep", "direction", ",", "so", "the", "upstart", "and", "downstart", "functions", "for", "contour", "length", "in", "2D", "are", "identical", ".", "But", "the", "area", "enclosed", "by", "a", "contour", "depends", "on", "sweep", "direction", ",", "so", "the", "upstart", "and", "downstart", "functions", "will", "be", "different", ".", "Since", "upstart", "and", "downstart", "functions", "describe", "geometric", "properties", "local", "to", "a", "contour", ",", "we", "refer", "to", "them", "collectively", "as", "local", "geometric", "measures", ".", "These", "measures", "are", "piecewise", "polynomial", "since", "they", "are", "piecewise", "polynomial", "in", "each", "cell", ".", "Because", "we", "need", "to", "track", "connectivity", "for", "inclusion/exclusion", ",", "they", "are", "not", "strictly", "decomposable", ".", "Stated", "another", "way", ",", "in", "order", "to", "make", "them", "decomposable", ",", "we", "need", "to", "know", "the", "connectivity", "during", "the", "local", "sweep", ".", "We", "are", "fortunate", "that", "the", "contour", "tree", "encodes", "this", "connectivity", ".", "For", "regular", "data", ",", "we", "approximate", "region", "size", "with", "vertex", "count", "as", "in", "-LSB-", "Takahashi", "et", "al.", "2004b", "-RSB-", ".", "For", "the", "integral", "of", "f", "over", "region", "R", ",", "we", "sum", "the", "sample", "values", "to", "get", "x", "R", "f", "-LRB-", "x", "-RRB-", ":", "the", "correct", "integral", "is", "the", "limit", "of", "this", "sum", "as", "sample", "spacing", "approaches", "zero", ".", "When", "we", "prune", "a", "leaf", "to", "a", "saddle", "at", "height", "h", ",", "the", "integral", "over", "the", "region", "flattened", "is", "x", "R", "-LRB-", "f", "-LRB-", "x", "-RRB-", "-", "h", "-RRB-", "=", "-LRB-", "x", "R", "f", "-LRB-", "x", "-RRB-", "-RRB-", "-", "Ah", "where", "A", "is", "the", "area", "of", "region", "R", ".", "In", "three", "dimensions", ",", "vertex", "counting", "measures", "volume", ",", "and", "summing", "the", "samples", "gives", "hypervolume", ".", "This", "geometric", "measure", "is", "quite", "effective", "on", "the", "data", "sets", "we", "have", "tested", "in", "Section", "6", ".", "4.2", "Combining", "Local", "Geometric", "Measures", "To", "compute", "local", "geometric", "measures", ",", "we", "must", "be", "able", "to", "combine", "upstart", "functions", "as", "we", "sweep", "a", "set", "of", "contours", "past", "a", "vertex", ".", "In", "Figure", "4", ",", "we", "must", "combine", "the", "upstart", "functions", "for", "contours", "c", "1", ",", "c", "2", "and", "c", "3", "before", "sweeping", "past", "s", ".", "We", "must", "then", "update", "the", "combined", "upstart", "function", "as", "we", "sweep", "past", "the", "vertex", ".", "After", "sweeping", "past", "s", ",", "we", "know", "the", "combined", "upstart", "function", "d", "for", "contours", "d", "1", ",", "d", "2", "and", "d", "3", ".", "We", "remove", "the", "upstart", "functions", "for", "d", "1", "and", "d", "2", "from", "d", "to", "obtain", "the", "upstart", "function", "for", "d", "3", ".", "We", "assume", "that", "we", "have", "recursively", "computed", "the", "upstart", "functions", "for", "d", "1", "and", "d", "2", "by", "computing", "the", "downstart", "functions", "and", "then", "inverting", "them", ".", "Let", "us", "illustrate", "inversion", ",", "combination", "and", "removal", "for", "two", "local", "geometric", "measures", "in", "two", "dimensions", ".", "Contour", "Length", ":", "Contour", "length", "is", "independent", "of", "sweep", "direction", ",", "so", "these", "operations", "are", "simple", ":", "Inversion", "is", "the", "identity", "operation", ",", "combination", "sums", "the", "lengths", "of", "the", "individual", "contours", ",", "and", "contours", "are", "removed", "by", "subtracting", "their", "lengths", ".", "Area", ":", "Area", "depends", "on", "sweep", "direction", ",", "so", "inversion", "subtracts", "the", "function", "from", "the", "area", "of", "the", "entire", "field", ".", "Combining", "upstart", "functions", "at", "a", "saddle", "depends", "on", "whether", "the", "corresponding", "edges", "ascend", "or", "descend", "from", "the", "saddle", ".", "For", "ascending", "edges", "the", "upstart", "regions", "are", "disjoint", ",", "and", "the", "upstart", "functions", "are", "summed", ".", "For", "descending", "edges", "the", "upstart", "regions", "overlap", ",", "and", "the", "upstart", "functions", "are", "combined", "by", "inverting", "to", "downstart", "functions", ",", "summing", ",", "and", "re-inverting", ".", "Removing", "upstart", "functions", "reverses", "combination", ".", "Consider", "Figure", "4", "once", "more", ".", "The", "upstart", "region", "of", "d", "1", "contains", "s", ",", "as", "well", "as", "contours", "c", "1", ",", "c", "2", "and", "c", "3", ".", "Similarly", ",", "the", "upstart", "regions", "of", "d", "2", "and", "d", "3", "contain", "s", "and", "contours", "c", "1", ",", "c", "2", "and", "c", "3", ".", "However", ",", "the", "downstart", "regions", "of", "d", "1", ",", "d", "2", "and", "d", "3", "are", "disjoint", ",", "and", "can", "be", "summed", ",", "then", "inverted", "to", "obtain", "the", "combination", "of", "the", "upstart", "regions", ".", "In", "general", ",", "measures", "of", "contour", "size", "are", "independent", "of", "sweep", "direction", "and", "their", "computation", "follows", "the", "pattern", "of", "2D", "contour", "length", ".", "Such", "measures", "include", "surface", "area", "in", "three", "dimensions", ",", "and", "hypersurface", "volume", "in", "four", "dimensions", ".", "Measures", "of", "region", "size", "depend", "on", "sweep", "direction", "and", "their", "computation", "follows", "the", "pattern", "of", "2D", "cross-sectional", "area", ".", "Such", "measures", "include", "surface", "area", "and", "volume", "in", "two", "dimensions", ",", "and", "isosurface", "cross-sectional", "volume", "and", "hypervolume", "in", "three", "dimensions", ".", "Input", ":", "Fully", "Augmented", "Contour", "Tree", "C", "A", "local", "geometric", "measure", "f", "with", "operations", "Combine", "-LRB-", "f", "1", ",", "...", ",", "f", "m", "-RRB-", "local", "geometric", "measures", "Update", "-LRB-", "f", ",", "v", "-RRB-", "that", "updates", "f", "for", "sweep", "past", "v", "Remove", "-LRB-", "f", ",", "f", "1", ",", "...", ",", "f", "m", "-RRB-", "local", "geometric", "measures", "Invert", "-LRB-", "-RRB-", "from", "down", "-LRB-", "e", "-RRB-", "to", "up", "-LRB-", "e", "-RRB-", "or", "vice", "versa", "Output", ":", "down", "-LRB-", "e", "-RRB-", "and", "up", "-LRB-", "e", "-RRB-", "for", "each", "edge", "e", "in", "C", "Make", "a", "copy", "C", "of", "C", "1", "for", "each", "vertex", "v", "do", "2", "If", "v", "is", "a", "leaf", "of", "C", ",", "enqueue", "v", "3", "while", "NumberOfArcs", "-LRB-", "C", "-RRB-", ">", "0", "do", "4", "Dequeue", "v", "and", "retrieve", "edge", "e", "=", "-LRB-", "u", ",", "v", "-RRB-", "from", "C", "5", "Without", "loss", "of", "generality", ",", "assume", "e", "ascends", "from", "v", "6", "Let", "d", "1", ",", "...", ",", "d", "k", "be", "downward", "arcs", "at", "v", "in", "C", "7", "Let", "upBelow", "=", "Combine", "-LRB-", "down", "-LRB-", "d", "1", "-RRB-", ",", "...", ",", "down", "-LRB-", "d", "k", "-RRB-", "8", "Let", "upAbove", "=", "Update", "-LRB-", "upBelow", ",", "v", "-RRB-", "9", "Let", "e", "1", ",", "...", ",", "e", "m", "be", "upwards", "arcs", "at", "v", "in", "C", ",", "with", "e", "1", "=", "e", "10", "Let", "f", "i", "=", "Invert", "-LRB-", "down", "-LRB-", "e", "i", "-RRB-", "-RRB-", "for", "i", "=", "2", ",", "...", ",", "m", "11", "Let", "up", "-LRB-", "e", "-RRB-", "=", "Remove", "-LRB-", "upAbove", ",", "f", "2", ",", "...", ",", "f", "m", "-RRB-", "12", "Let", "down", "-LRB-", "e", "-RRB-", "=", "Invert", "-LRB-", "up", "-LRB-", "e", "-RRB-", "-RRB-", "13", "Delete", "e", "from", "C", "14", "If", "u", "is", "now", "a", "leaf", "of", "C", ",", "enqueue", "u", "15", "Algorithm", "1", ":", "Computing", "Local", "Geometric", "Measures", "501", "-LRB-", "a", "-RRB-", "Reduced", "by", "Height", "-LRB-", "Persistence", "-RRB-", "-LRB-", "b", "-RRB-", "Reduced", "by", "Volume", "-LRB-", "Vertex", "Count", "-RRB-", "-LRB-", "c", "-RRB-", "Reduced", "by", "Hypervolume", "-LRB-", "Riemann", "Sum", "-RRB-", "Figure", "5", ":", "Comparison", "of", "Simplification", "Using", "Three", "Local", "Geometric", "Measures", ".", "In", "each", "case", ",", "the", "UNC", "Head", "data", "set", "has", "been", "simplified", "to", "92", "edges", "using", "the", "specified", "measure", ".", "Each", "trees", "were", "laid", "out", "using", "the", "dot", "tool", ",", "with", "no", "manual", "adjustment", ".", "4.3", "Computing", "Local", "Geometric", "Measures", "Algorithm", "1", "shows", "how", "to", "compute", "edge", "priorities", "up", "-LRB-", "e", "-RRB-", "and", "down", "-LRB-", "e", "-RRB-", "for", "a", "given", "local", "geometric", "measure", ".", "This", "algorithm", "relies", "on", "Combine", "-LRB-", "-RRB-", ",", "Update", "-LRB-", "-RRB-", ",", "Invert", "-LRB-", "-RRB-", ",", "and", "Remove", "-LRB-", "-RRB-", "having", "been", "suitably", "defined", ",", "and", "can", "be", "integrated", "into", "the", "merge", "phase", "of", "the", "contour", "tree", "algorithm", "in", "-LSB-", "Carr", "et", "al.", "2003", "-RSB-", ".", "The", "algorithm", "builds", "a", "queue", "of", "leaf", "edges", "in", "Step", "2", ",", "then", "works", "inwards", ",", "pruning", "edges", "as", "it", "goes", ".", "At", "each", "vertex", ",", "including", "regular", "points", ",", "the", "computation", "described", "in", "Section", "4.2", "is", "performed", ",", "and", "the", "edge", "is", "deleted", "from", "the", "tree", ".", "In", "this", "way", ",", "an", "edge", "is", "processed", "only", "when", "one", "of", "its", "vertices", "is", "reduced", "to", "a", "leaf", ":", "i.e.", "when", "all", "other", "edges", "at", "that", "vertex", "have", "already", "been", "processed", ".", "Unlike", "simplification", ",", "Algorithm", "1", "requires", "the", "fully", "augmented", "contour", "tree", ",", "which", "is", "obtained", "by", "adding", "every", "vertex", "in", "the", "input", "mesh", "to", "the", "contour", "tree", ".", "This", "makes", "the", "algorithm", "linear", "in", "the", "input", "size", "n", "rather", "than", "the", "tree", "size", "t", ":", "it", "can", "not", "be", "used", "with", "the", "algorithms", "of", "-LSB-", "Pascucci", "and", "Cole-McLaughlin", "2002", "-RSB-", "and", "-LSB-", "Chiang", "et", "al.", "2002", "-RSB-", ",", "which", "reduce", "running", "time", "by", "ignoring", "regular", "points", ".", "4.4", "Comparison", "of", "Local", "Geometric", "Measures", "In", "Figure", "5", ",", "we", "show", "the", "results", "of", "simplifying", "the", "UNC", "Head", "data", "set", "with", "three", "different", "geometric", "measures", ":", "height", "-LRB-", "persistence", "-RRB-", ",", "volume", ",", "and", "hypervolume", ".", "In", "each", "case", ",", "the", "contour", "tree", "has", "been", "reduced", "to", "92", "edges", "and", "laid", "out", "using", "dot", "with", "no", "manual", "intervention", ".", "In", "the", "left-hand", "image", ",", "height", "-LRB-", "persistence", "-RRB-", "is", "used", "as", "the", "geometric", "measure", ".", "All", "of", "the", "edges", "shown", "are", "tall", "as", "a", "result", ",", "but", "on", "inspection", ",", "many", "of", "these", "edges", "are", "caused", "by", "high-intensity", "voxels", "in", "the", "skull", "or", "in", "blood", "vessels", ".", "Most", "of", "the", "corresponding", "objects", "are", "quite", "small", ",", "while", "genuine", "objects", "of", "interest", "such", "as", "the", "eyes", ",", "ventricular", "cavities", "and", "nasal", "cavity", "have", "already", "been", "suppressed", ",", "because", "they", "are", "defined", "by", "limited", "ranges", "of", "voxel", "intensity", ".", "Also", ",", "on", "the", "corresponding", "simplification", "curve", ",", "we", "observe", "that", "there", "are", "a", "relatively", "large", "number", "of", "objects", "with", "large", "intensity", "ranges", ":", "again", ",", "on", "further", "inspection", ",", "these", "tended", "to", "be", "fragments", "of", "larger", "objects", ",", "particularly", "the", "skull", ".", "In", "comparison", ",", "the", "middle", "image", "shows", "the", "results", "of", "using", "volume", "-LRB-", "i.e.", "vertex", "count", "-RRB-", "as", "the", "geometric", "measure", ".", "Not", "only", "does", "this", "focus", "attention", "on", "a", "few", "objects", "of", "relatively", "large", "spatial", "extent", ",", "but", "the", "simplification", "curve", "shows", "a", "much", "more", "rapid", "drop-off", ",", "implying", "that", "there", "are", "fewer", "objects", "of", "large", "volume", "than", "there", "are", "of", "large", "height", ".", "Objects", "such", "as", "the", "eyeballs", "are", "represented", ",", "as", "they", "have", "relatively", "large", "regions", "despite", "having", "small", "height", ".", "However", ",", "we", "note", "that", "there", "are", "a", "large", "number", "of", "small-height", "edges", "at", "the", "bottom", "of", "the", "contour", "tree", ".", "These", "edges", "turn", "out", "to", "be", "caused", "by", "noise", "and", "artifacts", "outside", "the", "skull", "in", "the", "original", "CT", "scan", ",", "in", "which", "large", "regions", "are", "either", "slightly", "higher", "or", "lower", "in", "isovalue", "than", "the", "surrounding", "regions", ".", "Finally", ",", "the", "right-hand", "image", "shows", "the", "results", "of", "using", "hypervolume", "-LRB-", "the", "sum", "of", "sample", "values", ",", "as", "discussed", "above", "-RRB-", ".", "In", "this", "case", ",", "we", "see", "a", "very", "rapid", "dropoff", "of", "importance", "in", "the", "simplification", "curve", ",", "with", "only", "100", "or", "so", "regions", "having", "significance", ".", "We", "note", "that", "this", "measure", "preserves", "small-height", "features", "such", "as", "the", "eyeballs", ",", "while", "eliminating", "most", "of", "the", "apparent", "noise", "edges", "at", "the", "bottom", "of", "the", "tree", ",", "although", "at", "the", "expense", "of", "representing", "more", "skull", "fragments", "than", "the", "volume", "measure", ".", "In", "general", "we", "have", "found", "that", "this", "measure", "is", "better", "for", "data", "exploration", "than", "either", "height", "or", "volume", ",", "since", "it", "balances", "representation", "of", "tall", "objects", "with", "representation", "of", "large", "objects", ".", "We", "do", "not", "claim", "that", "this", "measure", "is", "universally", "ideal", ":", "the", "choice", "of", "simplification", "measure", "should", "be", "driven", "by", "domain-dependent", "information", ".", "However", ",", "no", "matter", "what", "measure", "is", "chosen", ",", "the", "basic", "mechanism", "of", "simplification", "remains", ".", "We", "have", "combined", "simplification", "with", "the", "flexible", "isosurface", "interface", "of", "-LSB-", "Carr", "and", "Snoeyink", "2003", "-RSB-", ",", "which", "uses", "the", "contour", "tree", "as", "a", "visual", "index", "to", "contours", ".", "The", "interface", "window", ",", "shown", "in", "Figures", "1", ",", "6", ",", "and", "7", ",", "is", "divided", "into", "data", ",", "contour", "tree", ",", "and", "simplification", "curve", "panels", ".", "The", "data", "panel", "displays", "the", "set", "of", "contours", "marked", "in", "the", "contour", "tree", "panel", ".", "Contours", "can", "be", "selected", "in", "either", "panel", ",", "then", "deleted", ",", "isolated", ",", "or", "have", "their", "isovalue", "adjusted", ".", "The", "simplification", "curve", "panel", "shows", "a", "log-log", "plot", "of", "contour", "tree", "size", "against", "``", "feature", "size", "''", ":", "the", "highest", "cost", "of", "any", "edge", "pruned", "to", "reach", "the", "given", "level", "of", "simplification", ".", "Selecting", "a", "point", "on", "this", "curve", "determines", "the", "detail", "shown", "in", "the", "contour", "tree", "panel", ".", "For", "efficiency", ",", "we", "compute", "contour", "trees", "for", "the", "surfaces", "given", "by", "the", "Marching", "Cubes", "cases", "of", "-LSB-", "Montani", "et", "al.", "1994", "-RSB-", "instead", "of", "a", "sim-502", "plicial", "or", "trilinear", "mesh", ",", "because", "these", "surfaces", "generate", "roughly", "60", "%", "fewer", "triangles", "than", "even", "a", "minimal", "simplicial", "subdivision", "of", "the", "voxels", ",", "with", "none", "of", "the", "directional", "biases", "identified", "by", "-LSB-", "Carr", "et", "al.", "2001", "-RSB-", ",", "and", "because", "they", "are", "significantly", "simpler", "to", "compute", "than", "the", "trilinear", "interpolant", "used", "by", "-LSB-", "Pascucci", "and", "Cole-McLaughlin", "2002", "-RSB-", ".", "There", "is", "a", "loss", "of", "accuracy", ",", "but", "since", "our", "simplification", "discards", "small-scale", "details", "of", "the", "topology", "anyway", ",", "little", "would", "be", "gained", "from", "more", "complex", "interpolants", ".", "Finally", ",", "as", "in", "-LSB-", "Carr", "et", "al.", "2003", ";", "Pascucci", "and", "Cole-McLaughlin", "2002", ";", "Chiang", "et", "al.", "2002", "-RSB-", ",", "we", "use", "simulation", "of", "simplicity", "-LSB-", "Edelsbrunner", "and", "M", "ucke", "1990", "-RSB-", "to", "guarantee", "uniqueness", "of", "isovalues", ",", "then", "collapse", "zero-height", "edges", "in", "the", "tree", ".", "Implementation", "details", "can", "be", "found", "in", "-LSB-", "Carr", "2004", "-RSB-", ".", "We", "used", "a", "variety", "of", "data", "sets", "to", "test", "these", "methods", ",", "including", "results", "from", "numerical", "simulations", "-LRB-", "Nucleon", ",", "Silicium", ",", "Fuel", ",", "Neghip", ",", "Hydrogen", "-RRB-", ",", "analytical", "methods", "-LRB-", "ML", ",", "Shockwave", "-RRB-", ",", "CT-scans", "-LRB-", "Lobster", ",", "Engine", ",", "Statue", ",", "Teapot", ",", "Bonsai", "-RRB-", ",", "and", "X-rays", "-LRB-", "Aneurysm", ",", "Foot", ",", "Skull", "-RRB-", ".", "Table", "1", "lists", "the", "size", "of", "each", "data", "set", ",", "the", "size", "of", "the", "unsimplified", "contour", "tree", ",", "the", "time", "for", "constructing", "the", "unsimplified", "contour", "tree", ",", "and", "the", "simplification", "time", ".", "Times", "were", "obtained", "using", "a", "3", "GHz", "Pentium", "4", "with", "2", "GB", "RAM", ",", "and", "the", "hypervolume", "measure", ".", "Data", "Set", "Data", "Tree", "Size", "Size", "CT", "-LRB-", "s", "-RRB-", "ST", "-LRB-", "s", "-RRB-", "Nucleon", "41", "41", "41", "49", "0.28", "0.01", "ML", "41", "41", "41", "695", "0.25", "0.01", "Silicium", "98", "34", "34", "225", "0.41", "0.01", "Fuel", "64", "64", "64", "129", "0.72", "0.01", "Neghip", "64", "64", "64", "248", "0.90", "0.01", "Shockwave", "64", "64", "512", "31", "5.07", "0.01", "Hydrogen", "128", "128", "128", "8", "5.60", "0.01", "Lobster", "301", "324", "56", "77,349", "19.22", "0.10", "Engine", "256", "256", "128", "134,642", "31.51", "0.18", "Statue", "341", "341", "93", "120,668", "32.20", "0.15", "Teapot", "256", "256", "178", "20,777", "33.14", "0.02", "Aneurysm", "256", "256", "256", "36,667", "41.83", "0.04", "Bonsai", "256", "256", "256", "82,876", "49.71", "0.11", "Foot", "256", "256", "256", "508,854", "67.20", "0.74", "Skull", "256", "256", "256", "931,348", "109.73", "1.47", "CT", "Head", "106", "256", "256", "92,434", "21.30", "0.12", "UNC", "Head", "109", "256", "256", "1,573,373", "91.23", "2.48", "Tooth", "161", "256", "256", "338,300", "39.65", "0.48", "Rat", "240", "256", "256", "2,943,748", "233.33", "4.97", "Table", "1", ":", "Data", "sets", ",", "unsimplified", "contour", "tree", "sizes", ",", "and", "contour", "tree", "construction", "time", "-LRB-", "CT", "-RRB-", "and", "simplification", "time", "-LRB-", "ST", "-RRB-", "in", "seconds", ".", "The", "size", "of", "the", "contour", "tree", "is", "proportional", "to", "the", "number", "of", "local", "extrema", "in", "the", "input", "data", ".", "For", "analytic", "and", "simulated", "data", "sets", ",", "such", "as", "the", "ones", "shown", "in", "the", "upper", "half", "of", "Table", "1", ",", "this", "is", "much", "smaller", "than", "the", "input", "size", ".", "For", "noisy", "experimentally", "acquired", "data", ",", "such", "as", "the", "ones", "shown", "in", "the", "lower", "half", "of", "Table", "1", ",", "the", "size", "of", "the", "contour", "tree", "is", "roughly", "proportional", "to", "the", "input", "size", ".", "The", "time", "required", "to", "simplify", "the", "contour", "tree", "using", "local", "geometric", "measures", "is", "typi-cally", "less", "than", "one", "percent", "of", "the", "time", "of", "constructing", "the", "original", "contour", "tree", ",", "plus", "the", "additional", "cost", "of", "pre-computing", "these", "measures", "during", "contour", "tree", "construction", ".", "6.1", "Examples", "of", "Data", "Exploration", "Figure", "1", "shows", "the", "result", "of", "exploring", "of", "the", "UNC", "Head", "data", "set", "using", "simplified", "contour", "trees", ".", "An", "appropriate", "level", "of", "simplification", "was", "chosen", "on", "the", "simplification", "curve", "and", "individual", "contours", "explored", "until", "the", "image", "shown", "was", "produced", ".", "Surfaces", "identifiable", "as", "part", "of", "the", "skull", "were", "not", "chosen", "because", "they", "occluded", "the", "view", "of", "internal", "organs", ",", "although", "two", "contours", "for", "the", "ventricular", "system", "were", "chosen", "despite", "being", "occluded", "by", "the", "brain", "surrounding", "them", ".", "The", "flexible", "isosurface", "interface", "is", "particularly", "useful", "in", "this", "context", "because", "it", "lets", "one", "manipulate", "a", "single", "contour", "at", "a", "time", ",", "as", "shown", "in", "the", "video", "submitted", "with", "this", "paper", ".", "embryo", "gut", "?", "lungs", "eyes", "brain", "windpipe", "?", "shoulder", "blades", "breastbone", "Figure", "6", ":", "A", "Pregnant", "Rat", "MRI", "-LRB-", "240", "256", "256", "-RRB-", ".", "Despite", "low", "quality", "data", ",", "simplifying", "the", "contour", "tree", "from", "2,943,748", "to", "125", "edges", "allows", "identification", "of", "several", "anatomical", "features", ".", "spinal", "column", "spinal", "cord", "ventricles", "spinal", "cord", "spinal", "column", "ventricles", "Figure", "7", ":", "CT", "of", "a", "Skull", "-LRB-", "256", "256", "106", "-RRB-", ".", "Simplification", "of", "the", "contour", "tree", "from", "92,434", "to", "20", "edges", "isolates", "the", "ventricular", "cavity", ",", "spinal", "cord", "and", "spinal", "column", ".", "Similarly", ",", "Figure", "6", "shows", "the", "result", "of", "a", "similar", "exploration", "of", "a", "240", "256", "256", ",", "low-quality", "MRI", "scan", "of", "a", "rat", "from", "the", "Whole", "Frog", "Project", "at", "http://www-itg.lbl.gov/ITG.hm.pg.docs/", "Whole.Frog/Whole.Frog.html", ".", "Again", ",", "simplification", "reduces", "the", "contour", "tree", "to", "a", "useful", "size", ".", "Figure", "7", "shows", "a", "spinal", "column", ",", "spinal", "cord", "and", "ventricular", "cavity", "identified", "in", "a", "256", "256", "106", "CT", "data", "set", "from", "the", "University", "of", "Erlangen-Nuremberg", ".", "Other", "examples", "may", "be", "seen", "on", "the", "accompanying", "video", ".", "Each", "of", "these", "images", "took", "less", "than", "10", "minutes", "to", "produce", "after", "all", "pre-processing", ",", "using", "the", "dot", "tool", "from", "the", "graphviz", "package", "-LRB-", "http://www.research.att.com/sw/tools/graphviz/", "-RRB-", "to", "lay", "out", "the", "contour", "tree", ":", "we", "generally", "then", "made", "a", "few", "adjustments", "to", "the", "node", "positions", "for", "clarity", ".", "Although", "dot", "produces", "reasonable", "layouts", "for", "trees", "with", "100", "200", "nodes", ",", "it", "is", "slow", ",", "sometimes", "taking", "several", "minutes", ",", "and", "the", "layout", "computed", "usually", "becomes", "unsatisfactory", "as", "edges", "are", "added", "or", "subtracted", "from", "the", "tree", ".", "503", "Note", "that", "in", "none", "of", "these", "cases", "was", "any", "special", "constant", "embedded", "in", "the", "code", "the", "result", "is", "purely", "a", "function", "of", "the", "topology", "of", "the", "isosurfaces", "of", "the", "input", "data", ".", "We", "have", "presented", "a", "novel", "algorithm", "for", "the", "simplification", "of", "contour", "trees", "based", "on", "local", "geometric", "measures", ".", "The", "algorithm", "is", "online", ",", "meaning", "that", "simplifications", "can", "be", "done", "and", "undone", "at", "any", "time", ".", "This", "addresses", "the", "scalability", "problems", "of", "the", "contour", "tree", "in", "exploratory", "visualization", "of", "3D", "scalar", "fields", ".", "The", "simplification", "can", "also", "be", "reflected", "back", "onto", "the", "input", "data", "to", "produce", "an", "on-line", "simplified", "scalar", "field", ".", "The", "algorithm", "is", "driven", "by", "local", "geometric", "measures", "such", "as", "area", "and", "volume", ",", "which", "make", "the", "simplifications", "meaningful", ".", "Moreover", ",", "the", "simplifications", "can", "be", "tailored", "to", "a", "particular", "application", "or", "data", "set", ".", "We", "intend", "to", "explore", "several", "future", "directions", ".", "We", "could", "compute", "a", "multi-dimensional", "feature", "vector", "of", "local", "geometric", "measures", ",", "and", "allow", "user-directed", "simplification", "of", "the", "contour", "tree", ",", "with", "different", "measures", "being", "applied", "in", "different", "regions", "of", "the", "function", ".", "The", "simplified", "contour", "tree", "also", "provides", "a", "data", "structure", "for", "queries", ".", "With", "local", "feature", "vectors", "one", "could", "efficiently", "answer", "queries", "such", "as", "``", "Find", "all", "contours", "with", "volume", "of", "at", "least", "10", "units", "and", "an", "approximate", "surface-area-to-volume", "ratio", "of", "5", ".", "''", "If", "information", "about", "spatial", "extents", "-LRB-", "e.g.", ",", "bounding", "boxes", "-RRB-", "is", "computed", ",", "then", "spatial", "constraints", "can", "also", "be", "included", ".", "Inverse", "problems", "could", "also", "be", "posed", "given", "examples", "of", "a", "feature", "-LRB-", "e.g.", ",", "a", "tumor", "-RRB-", ",", "what", "should", "the", "query", "constraints", "be", "to", "find", "such", "features", "?", "Some", "interface", "issues", "still", "need", "resolution", ",", "such", "as", "finding", "a", "fast", "contour", "tree", "layout", "that", "is", "clear", "over", "a", "wide", "range", "of", "levels", "of", "simplification", "but", "which", "also", "respects", "the", "convention", "that", "the", "y-position", "depends", "on", "the", "isovalue", ".", "We", "would", "also", "like", "to", "annotate", "contours", "using", "the", "flexible", "isosurface", "interface", ",", "rather", "than", "after", "the", "fact", "as", "we", "have", "done", "in", "Figure", "1", "and", "Figures", "6", "7", ",", "and", "to", "enable", "local", "simplification", "of", "the", "contour", "tree", "rather", "than", "the", "single-parameter", "simplification", "presented", "here", ".", "Isosurfaces", "are", "not", "the", "only", "way", "of", "visualizing", "volumetric", "data", ".", "Other", "methods", "include", "boundary", "propagation", "using", "level", "set", "methods", "or", "T-snakes", ".", "We", "believe", "that", "simplified", "contour", "trees", "can", "provide", "seeds", "for", "these", "methods", ",", "either", "automatically", "or", "through", "user", "interaction", ".", "We", "are", "adapting", "the", "flexible", "isosurface", "interface", "to", "generate", "transfer", "functions", "for", "volume", "rendering", ".", "These", "transfer", "functions", "would", "add", "spatial", "locality", "to", "volume", "rendering", ",", "based", "on", "the", "regions", "corresponding", "to", "edges", "of", "the", "simplified", "contour", "tree", ".", "Another", "possible", "direction", "is", "to", "develop", "more", "local", "geometric", "measure", "for", "multilinear", "interpolants", ".", "Lastly", ",", "the", "algorithms", "we", "describe", "work", "in", "arbitrary", "dimensions", ",", "but", "special", "consideration", "should", "be", "given", "to", "simplification", "of", "contour", "trees", "for", "time-varying", "data", ".", "Acknowledgements", "are", "due", "to", "the", "National", "Science", "and", "Engineering", "Research", "Council", "of", "Canada", "-LRB-", "NSERC", "-RRB-", "for", "support", "in", "the", "form", "of", "post-graduate", "fellowships", "and", "research", "grants", ",", "and", "to", "the", "U.S.", "National", "Science", "Foundation", "-LRB-", "NSF", "-RRB-", "and", "the", "Institute", "for", "Robotics", "and", "Intelligent", "Systems", "-LRB-", "IRIS", "-RRB-", "for", "research", "grants", ".", "Acknowledgements", "are", "also", "due", "to", "those", "who", "made", "volumetric", "data", "available", "at", "volvis.org", "and", "other", "sites", ".", "B", "AJAJ", ",", "C.", "L.", ",", "P", "ASCUCCI", ",", "V.", ",", "AND", "S", "CHIKORE", ",", "D.", "R.", "1997", ".", "The", "Contour", "Spectrum", ".", "In", "Proceedings", "of", "IEEE", "Visualization", "1997", ",", "167", "173", ".", "B", "ENTLEY", ",", "J.", "L.", "1979", ".", "Decomposable", "searching", "problems", ".", "Inform", ".", "Process", ".", "Lett", ".", "8", ",", "244", "251", ".", "B", "REMER", ",", "P.-T.", ",", "E", "DELSBRUNNER", ",", "H.", ",", "H", "AMANN", ",", "B.", ",", "AND", "P", "ASCUCCI", ",", "V.", "2003", ".", "A", "Multi-resolution", "Data", "Structure", "for", "Two-dimensional", "Morse-Smale", "Functions", ".", "In", "Proceedings", "of", "IEEE", "Visualization", "2003", ",", "139", "146", ".", "B", "RODLIE", ",", "K.", ",", "AND", "W", "OOD", ",", "J.", "2001", ".", "Recent", "advances", "in", "volume", "visualization", ".", "Computer", "Graphics", "Forum", "20", ",", "2", "-LRB-", "June", "-RRB-", ",", "125", "148", ".", "C", "ARR", ",", "H.", ",", "AND", "S", "NOEYINK", ",", "J.", "2003", ".", "Path", "Seeds", "and", "Flexible", "Isosurfaces", ":", "Using", "Topology", "for", "Exploratory", "Visualization", ".", "In", "Proceedings", "of", "Eurographics", "Visualization", "Symposium", "2003", ",", "49", "58", ",", "285", ".", "C", "ARR", ",", "H.", ",", "M", "OLLER", ",", "T.", ",", "AND", "S", "NOEYINK", ",", "J.", "2001", ".", "Simplicial", "Subdivisions", "and", "Sampling", "Artifacts", ".", "In", "Proceedings", "of", "IEEE", "Visualization", "2001", ",", "99", "106", ".", "C", "ARR", ",", "H.", ",", "S", "NOEYINK", ",", "J.", ",", "AND", "A", "XEN", ",", "U.", "2003", ".", "Computing", "Contour", "Trees", "in", "All", "Dimensions", ".", "Computational", "Geometry", ":", "Theory", "and", "Applications", "24", ",", "2", ",", "75", "94", ".", "C", "ARR", ",", "H.", "2004", ".", "Topological", "Manipulation", "of", "Isosurfaces", ".", "PhD", "thesis", ",", "University", "of", "British", "Columbia", ",", "Vancouver", ",", "BC", ",", "Canada", ".", "C", "HIANG", ",", "Y.-J.", ",", "AND", "L", "U", ",", "X.", "2003", ".", "Progressive", "Simplification", "of", "Tetrahedral", "Meshes", "Preserving", "All", "Isosurface", "Topologies", ".", "Computer", "Graphics", "Forum", "22", ",", "3", ",", "to", "appear", ".", "C", "HIANG", ",", "Y.-J.", ",", "L", "ENZ", ",", "T.", ",", "L", "U", ",", "X.", ",", "AND", "R", "OTE", ",", "G.", "2002", ".", "Simple", "and", "Output-Sensitive", "Construction", "of", "Contour", "Trees", "Using", "Monotone", "Paths", ".", "Tech", ".", "Rep.", "ECG-TR", "-244300-01", ",", "Institut", "f", "ur", "Informatik", ",", "Freie", "Universt", "at", "Berlin", ".", "E", "DELSBRUNNER", ",", "H.", ",", "AND", "M", "UCKE", ",", "E.", "P.", "1990", ".", "Simulation", "of", "Simplicity", ":", "A", "technique", "to", "cope", "with", "degenerate", "cases", "in", "geometric", "algorithms", ".", "ACM", "Transactions", "on", "Graphics", "9", ",", "1", ",", "66", "104", ".", "E", "DELSBRUNNER", ",", "H.", ",", "L", "ETSCHER", ",", "D.", ",", "AND", "Z", "OMORODIAN", ",", "A.", "2002", ".", "Topological", "persistence", "and", "simplification", ".", "Discrete", "Comput", ".", "Geom", ".", "28", ",", "511", "533", ".", "E", "DELSBRUNNER", ",", "H.", ",", "H", "ARER", ",", "J.", ",", "AND", "Z", "OMORODIAN", ",", "A.", "2003", ".", "Hierarchical", "Morse-Smale", "complexes", "for", "piecewise", "linear", "2-manifolds", ".", "Discrete", "Comput", ".", "Geom", ".", "30", ",", "87", "107", ".", "H", "ILAGA", ",", "M.", ",", "S", "HINAGAWA", ",", "Y.", ",", "K", "OHMURA", ",", "T.", ",", "AND", "K", "UNII", ",", "T.", "L.", "2001", ".", "Topology", "matching", "for", "fully", "automatic", "similarity", "estimation", "of", "3d", "shapes", ".", "In", "SIGGRAPH", "2001", ",", "203", "212", ".", "K", "ETTNER", ",", "L.", ",", "R", "OSSIGNAC", ",", "J.", ",", "AND", "S", "NOEYINK", ",", "J.", "2001", ".", "The", "Safari", "Interface", "for", "Visualizing", "Time-Dependent", "Volume", "Data", "Using", "Iso-surfaces", "and", "Contour", "Spectra", ".", "Computational", "Geometry", ":", "Theory", "and", "Applications", "25", ",", "1-2", ",", "97", "116", ".", "L", "ORENSON", ",", "W.", "E.", ",", "AND", "C", "LINE", ",", "H.", "E.", "1987", ".", "Marching", "Cubes", ":", "A", "High", "Resolution", "3D", "Surface", "Construction", "Algorithm", ".", "Computer", "Graphics", "21", ",", "4", ",", "163", "169", ".", "M", "ATSUMOTO", ",", "Y.", "2002", ".", "An", "Introduction", "to", "Morse", "Theory", ".", "AMS", ".", "M", "ILNOR", ",", "J.", "1963", ".", "Morse", "Theory", ".", "Princeton", "University", "Press", ",", "Princeton", ",", "NJ", ".", "M", "ONTANI", ",", "C.", ",", "S", "CATENI", ",", "R.", ",", "AND", "S", "COPIGNO", ",", "R.", "1994", ".", "A", "modified", "look-up", "table", "for", "implicit", "disambiguation", "of", "Marching", "Cubes", ".", "Visual", "Computer", "10", ",", "353", "355", ".", "P", "ASCUCCI", ",", "V.", ",", "AND", "C", "OLE", "-", "M", "C", "L", "AUGHLIN", ",", "K.", "2002", ".", "Efficient", "Computation", "of", "the", "Topology", "of", "Level", "Sets", ".", "In", "Proceedings", "of", "IEEE", "Visualization", "2002", ",", "187", "194", ".", "P", "ASCUCCI", ",", "V.", "2001", ".", "On", "the", "Topology", "of", "the", "Level", "Sets", "of", "a", "Scalar", "Field", ".", "In", "Abstracts", "of", "the", "13th", "Canadian", "Conference", "on", "Computational", "Geometry", ",", "141", "144", ".", "R", "EEB", ",", "G.", "1946", ".", "Sur", "les", "points", "singuliers", "d'une", "forme", "de", "Pfaff", "compl", "`", "etement", "int", "egrable", "ou", "d'une", "fonction", "num", "erique", ".", "Comptes", "Rendus", "de", "l'Acad", "`", "emie", "des", "Sciences", "de", "Paris", "222", ",", "847", "849", ".", "T", "AKAHASHI", ",", "S.", ",", "F", "UJISHIRO", ",", "I.", ",", "AND", "T", "AKESHIMA", ",", "Y.", "2004", ".", "Topological", "volume", "skeletonization", "and", "its", "application", "to", "transfer", "function", "design", ".", "Graphical", "Models", "66", ",", "1", ",", "24", "49", ".", "T", "AKAHASHI", ",", "S.", ",", "N", "IELSON", ",", "G.", "M.", ",", "T", "AKESHIMA", ",", "Y.", ",", "AND", "F", "UJISHIRO", ",", "I.", "2004", ".", "Topological", "Volume", "Skeletonization", "Using", "Adaptive", "Tetrahedralization", ".", "In", "Geometric", "Modelling", "and", "Processing", "2004", ".", "T", "ARASOV", ",", "S.", "P.", ",", "AND", "V", "YALYI", ",", "M.", "N.", "1998", ".", "Construction", "of", "Contour", "Trees", "in", "3D", "in", "O", "-LRB-", "nlogn", "-RRB-", "steps", ".", "In", "Proceedings", "of", "the", "14th", "ACM", "Symposium", "on", "Computational", "Geometry", ",", "68", "75", ".", "VAN", "K", "REVELD", ",", "M.", ",", "VAN", "O", "OSTRUM", ",", "R.", ",", "B", "AJAJ", ",", "C.", "L.", ",", "P", "ASCUCCI", ",", "V.", ",", "AND", "S", "CHIKORE", ",", "D.", "R.", "1997", ".", "Contour", "Trees", "and", "Small", "Seed", "Sets", "for", "Isosurface", "Traver-sal", ".", "In", "Proceedings", "of", "the", "13th", "ACM", "Symposium", "on", "Computational", "Geometry", ",", "212", "220", ".", "504"], "doc_bio_tags": ["O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["topological simplification", "contour trees", "isosurfaces"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "150", "document": ["Preventing", "Attribute", "Information", "Leakage", "in", "Automated", "Trust", "Negotiation", "Automated", "trust", "negotiation", "is", "an", "approach", "which", "establishes", "trust", "between", "strangers", "through", "the", "bilateral", ",", "iterative", "disclosure", "of", "digital", "credentials", ".", "Sensitive", "credentials", "are", "protected", "by", "access", "control", "policies", "which", "may", "also", "be", "communicated", "to", "the", "other", "party", ".", "Ideally", ",", "sensitive", "information", "should", "not", "be", "known", "by", "others", "unless", "its", "access", "control", "policy", "has", "been", "satisfied", ".", "However", ",", "due", "to", "bilateral", "information", "exchange", ",", "information", "may", "flow", "to", "others", "in", "a", "variety", "of", "forms", ",", "many", "of", "which", "can", "not", "be", "protected", "by", "access", "control", "policies", "alone", ".", "In", "particular", ",", "sensitive", "information", "may", "be", "inferred", "by", "observing", "negotiation", "participants", "'", "behavior", "even", "when", "access", "control", "policies", "are", "strictly", "enforced", ".", "In", "this", "paper", ",", "we", "propose", "a", "general", "framework", "for", "the", "safety", "of", "trust", "negotiation", "systems", ".", "Compared", "to", "the", "existing", "safety", "model", ",", "our", "framework", "focuses", "on", "the", "actual", "information", "gain", "during", "trust", "negotiation", "instead", "of", "the", "exchanged", "messages", ".", "Thus", ",", "it", "directly", "reflects", "the", "essence", "of", "safety", "in", "sensitive", "information", "protection", ".", "Based", "on", "the", "proposed", "framework", ",", "we", "develop", "policy", "databases", "as", "a", "mechanism", "to", "help", "prevent", "unauthorized", "information", "inferences", "during", "trust", "negotiation", ".", "We", "show", "that", "policy", "databases", "achieve", "the", "same", "protection", "of", "sensitive", "information", "as", "existing", "solutions", "without", "imposing", "additional", "complications", "to", "the", "interaction", "between", "negotiation", "participants", "or", "restricting", "users", "'", "autonomy", "in", "defining", "their", "own", "policies", ".", "K.", "6.5", "-LSB-", "Management", "of", "Computing", "and", "Information", "Systems", "-RSB-", ":", "Security", "and", "Protection", "Security", ",", "Theory", "Automated", "trust", "negotiation", "-LRB-", "ATN", "-RRB-", "is", "an", "approach", "to", "access", "control", "and", "authentication", "in", "open", ",", "flexible", "systems", "such", "as", "the", "Internet", ".", "ATN", "enables", "open", "computing", "by", "as-Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CCS", "'", "05", ",", "November", "7", "11", ",", "2005", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-226-7", "/", "05/0011", "...", "$", "5.00", ".", "signing", "an", "access", "control", "policy", "to", "each", "resource", "that", "is", "to", "be", "made", "available", "to", "entities", "from", "different", "domains", ".", "An", "access", "control", "policy", "describes", "the", "attributes", "of", "the", "entities", "allowed", "to", "access", "that", "resource", ",", "in", "contrast", "to", "the", "traditional", "approach", "of", "listing", "their", "identities", ".", "To", "satisfy", "an", "access", "control", "policy", ",", "a", "user", "has", "to", "demonstrate", "that", "they", "have", "the", "attributes", "named", "in", "the", "policy", "through", "the", "use", "of", "digital", "credentials", ".", "Since", "one", "'s", "attributes", "may", "also", "be", "sensitive", ",", "the", "disclosure", "of", "digital", "credentials", "is", "also", "protected", "by", "access", "control", "policies", ".", "A", "trust", "negotiation", "is", "triggered", "when", "one", "party", "requests", "access", "to", "a", "resource", "owned", "by", "another", "party", ".", "Since", "each", "party", "may", "have", "policies", "that", "the", "other", "needs", "to", "satisfy", ",", "trust", "is", "established", "incrementally", "through", "bilateral", "disclosures", "of", "credentials", "and", "requests", "for", "credentials", ",", "a", "characteristic", "that", "distinguishes", "trust", "negotiation", "from", "other", "trust", "establishment", "approaches", "-LSB-", "2", ",", "11", "-RSB-", ".", "Access", "control", "policies", "play", "a", "central", "role", "in", "protecting", "privacy", "during", "trust", "negotiation", ".", "Ideally", ",", "an", "entity", "'s", "sensitive", "information", "should", "not", "be", "known", "by", "others", "unless", "they", "have", "satisfied", "the", "corresponding", "access", "control", "policy", ".", "However", ",", "depending", "on", "the", "way", "two", "parties", "interact", "with", "each", "other", ",", "one", "'s", "private", "information", "may", "flow", "to", "others", "in", "various", "forms", ",", "which", "are", "not", "always", "controlled", "by", "access", "control", "policies", ".", "In", "particular", ",", "the", "different", "behaviors", "of", "a", "negotiation", "participant", "may", "be", "exploited", "to", "infer", "sensitive", "information", ",", "even", "if", "credentials", "containing", "that", "information", "are", "never", "directly", "disclosed", ".", "For", "example", ",", "suppose", "a", "resource", "'s", "policy", "requires", "Alice", "to", "prove", "a", "sensitive", "attribute", "such", "as", "employment", "by", "the", "CIA", ".", "If", "Alice", "has", "this", "attribute", ",", "then", "she", "likely", "protects", "it", "with", "an", "access", "control", "policy", ".", "Thus", ",", "as", "a", "response", ",", "Alice", "will", "ask", "the", "resource", "provider", "to", "satisfy", "her", "policy", ".", "On", "the", "other", "hand", ",", "if", "Alice", "does", "not", "have", "the", "attribute", ",", "then", "a", "natural", "response", "would", "be", "for", "her", "to", "terminate", "the", "negotiation", "since", "there", "is", "no", "way", "that", "she", "can", "access", "the", "resource", ".", "Thus", ",", "merely", "from", "Alice", "'s", "response", ",", "the", "resource", "provider", "may", "infer", "with", "high", "confidence", "whether", "or", "not", "Alice", "is", "working", "for", "the", "CIA", ",", "even", "though", "her", "access", "control", "policy", "is", "strictly", "enforced", ".", "The", "problem", "of", "unauthorized", "information", "flow", "in", "ATN", "has", "been", "noted", "by", "several", "groups", "of", "researchers", "-LSB-", "20", ",", "22", ",", "27", "-RSB-", ".", "A", "variety", "of", "approaches", "have", "been", "proposed", ",", "which", "mainly", "fall", "into", "two", "categories", ".", "Approaches", "in", "the", "first", "category", "try", "to", "``", "break", "''", "the", "correlation", "between", "different", "information", ".", "Intuitively", ",", "if", "the", "disclosed", "policy", "for", "an", "attribute", "is", "independent", "from", "the", "possession", "of", "the", "attribute", ",", "then", "the", "above", "inference", "is", "impossible", ".", "A", "representative", "approach", "in", "this", "category", "is", "by", "Seamons", "et", "al.", "-LSB-", "20", "-RSB-", ",", "where", "an", "entity", "possessing", "a", "sensi-36", "tive", "credential", "always", "responds", "with", "a", "cover", "policy", "of", "f", "alse", "to", "pretend", "the", "opposite", ".", "Only", "when", "the", "actual", "policy", "is", "satisfied", "by", "the", "credentials", "disclosed", "by", "the", "opponent", "will", "the", "entity", "disclose", "the", "credential", ".", "Clearly", ",", "since", "the", "disclosed", "policy", "is", "always", "f", "alse", ",", "it", "is", "not", "correlated", "to", "the", "possession", "of", "the", "credential", ".", "One", "obvious", "problem", "with", "this", "approach", ",", "however", ",", "is", "that", "a", "potentially", "successful", "negotiation", "may", "fail", "because", "an", "entity", "pretends", "to", "not", "have", "the", "credential", ".", "Approaches", "in", "the", "second", "category", "aim", "to", "make", "the", "correlation", "between", "different", "information", "``", "safe", "''", ",", "i.e.", ",", "when", "an", "opponent", "is", "able", "to", "infer", "some", "sensitive", "information", "through", "the", "correlation", ",", "it", "is", "already", "entitled", "to", "know", "that", "information", ".", "For", "example", ",", "Winsborough", "and", "Li", "-LSB-", "23", "-RSB-", "proposed", "the", "use", "of", "acknowledgement", "policies", "-LRB-", "``", "Ack", "policies", "''", "for", "short", "-RRB-", "as", "a", "solution", ".", "Their", "approach", "is", "based", "on", "the", "principle", "``", "discuss", "sensitive", "topics", "only", "with", "appropriate", "parties", "''", ".", "Therefore", ",", "besides", "an", "access", "control", "policy", "P", ",", "Alice", "also", "associates", "an", "Ack", "policy", "P", "Ack", "with", "a", "sensitive", "attribute", "A.", "Intuitively", ",", "P", "Ack", "determines", "when", "Alice", "can", "tell", "others", "whether", "or", "not", "she", "has", "attribute", "A", ".", "During", "a", "negotiation", ",", "when", "the", "attribute", "is", "requested", ",", "the", "Ack", "policy", "P", "Ack", "is", "first", "sent", "back", "as", "a", "reply", ".", "Only", "when", "P", "Ack", "is", "satisfied", "by", "the", "other", "party", ",", "will", "Alice", "disclose", "whether", "or", "not", "she", "has", "A", "and", "may", "then", "ask", "the", "other", "party", "to", "satisfy", "the", "access", "control", "policy", "P", ".", "In", "order", "to", "prevent", "additional", "correlation", "introduced", "by", "Ack", "policies", ",", "it", "is", "required", "that", "all", "entities", "use", "the", "same", "Ack", "policy", "to", "protect", "a", "given", "attribute", "regardless", "of", "whether", "or", "not", "they", "have", "A", ".", "In", "-LSB-", "23", "-RSB-", ",", "Winsborough", "and", "Li", "also", "formally", "defined", "the", "safety", "requirements", "in", "trust", "negotiation", "based", "on", "Ack", "policies", ".", "Though", "the", "approach", "of", "Ack", "policies", "can", "provide", "protection", "against", "unauthorized", "inferences", ",", "it", "has", "a", "significant", "disadvantage", ".", "One", "benefit", "of", "automated", "trust", "negotiation", "is", "that", "it", "gives", "each", "entity", "the", "autonomy", "to", "determine", "the", "appropriate", "protection", "for", "its", "own", "resources", "and", "credentials", ".", "The", "perceived", "sensitivity", "of", "possessing", "an", "attribute", "may", "be", "very", "different", "for", "different", "entities", ".", "For", "example", ",", "some", "may", "consider", "the", "possession", "of", "a", "certificate", "showing", "eligibility", "for", "food", "stamps", "highly", "sensitive", ",", "and", "thus", "would", "like", "to", "have", "a", "very", "strict", "Ack", "policy", "for", "it", ".", "Some", "others", "may", "not", "care", "as", "much", ",", "and", "have", "a", "less", "strict", "Ack", "policy", ",", "because", "they", "are", "more", "concerned", "with", "their", "ability", "to", "get", "services", "than", "their", "privacy", ".", "The", "Ack", "Policy", "system", ",", "however", ",", "requires", "that", "all", "entities", "use", "the", "same", "Ack", "policy", "for", "a", "given", "attribute", ",", "which", ".", "deprives", "entities", "of", "the", "autonomy", "to", "make", "their", "own", "decisions", ".", "This", "will", "inevitably", "be", "over-protective", "for", "some", "and", "under-protective", "for", "others", ".", "And", "either", "situation", "will", "result", "in", "users", "preferring", "not", "to", "participate", "in", "the", "system", ".", "In", "this", "paper", ",", "we", "first", "propose", "a", "general", "framework", "for", "safe", "information", "flow", "in", "automated", "trust", "negotiation", ".", "Compared", "with", "that", "proposed", "by", "Winsborough", "and", "Li", ",", "our", "framework", "focuses", "on", "modeling", "the", "actual", "information", "gain", "caused", "by", "information", "flow", "instead", "of", "the", "messages", "exchanged", ".", "Therefore", "it", "directly", "reflects", "the", "essence", "of", "safety", "in", "sensitive", "information", "protection", ".", "Based", "on", "this", "framework", ",", "we", "propose", "policy", "databases", "as", "a", "solution", "to", "the", "above", "problem", ".", "Policy", "databases", "not", "only", "prevent", "unauthorized", "inferences", "as", "described", "above", "but", "also", "preserve", "users", "'", "autonomy", "in", "deciding", "their", "own", "policies", ".", "In", "order", "to", "do", "this", ",", "we", "focus", "on", "severing", "the", "correlation", "between", "attributes", "and", "policies", "by", "introducing", "randomness", ",", "rather", "than", "adding", "additional", "layers", "or", "fixed", "policies", "as", "in", "the", "Ack", "Policy", "system", ".", "In", "our", "approach", ",", "there", "is", "a", "central", "database", "of", "policies", "for", "each", "possession", "sensitive", "attribute", ".", "Users", "who", "possess", "the", "attribute", "submit", "their", "policies", "to", "the", "database", "anonymously", ".", "Users", "who", "do", "not", "possess", "the", "attribute", "can", "then", "draw", "a", "policy", "at", "random", "from", "the", "database", ".", "The", "result", "of", "this", "process", "is", "that", "the", "distributions", "of", "policies", "for", "a", "given", "possession", "sensitive", "attribute", "are", "identical", "for", "users", "who", "have", "the", "attribute", "and", "users", "who", "do", "not", ".", "Thus", ",", "an", "opponent", "can", "not", "infer", "whether", "or", "not", "users", "possess", "the", "attribute", "by", "looking", "at", "their", "policies", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", ",", "we", "propose", "a", "formal", "definition", "of", "safety", "for", "automated", "trust", "negotiation", ".", "In", "section", "3", ",", "we", "discuss", "the", "specifics", "of", "our", "approach", ",", "including", "what", "assumptions", "underlie", "it", ",", "how", "well", "it", "satisfies", "our", "safety", "principle", ",", "both", "theoretically", "and", "in", "practical", "situations", ",", "and", "what", "practical", "concerns", "to", "implementing", "it", "exist", ".", "Closely", "related", "work", "to", "this", "paper", "is", "reported", "in", "section", "4", ".", "We", "conclude", "this", "paper", "in", "section", "5", "In", "-LSB-", "23", "-RSB-", ",", "Winsborough", "and", "Li", "put", "forth", "several", "definitions", "of", "safety", "in", "trust", "negotiation", "based", "on", "an", "underlying", "notion", "of", "indistinguishability", ".", "The", "essence", "of", "indistinguishability", "is", "that", "if", "an", "opponent", "is", "given", "the", "opportunity", "to", "interact", "with", "a", "user", "in", "two", "states", "corresponding", "to", "two", "different", "potential", "sets", "of", "attributes", ",", "the", "opponent", "can", "not", "detect", "a", "difference", "in", "those", "sets", "of", "attributes", "based", "on", "the", "messages", "sent", ".", "In", "the", "definition", "of", "deterministic", "indistinguishability", ",", "the", "messages", "sent", "in", "the", "two", "states", "must", "be", "precisely", "the", "same", ".", "In", "the", "definition", "of", "probabilistic", "indistinguishability", ",", "they", "must", "have", "precisely", "the", "same", "distribution", ".", "These", "definitions", ",", "however", ",", "are", "overly", "strict", ".", "To", "determine", "whether", "or", "not", "a", "given", "user", "has", "a", "credential", ",", "it", "is", "not", "sufficient", "for", "an", "opponent", "to", "know", "that", "the", "user", "acts", "differently", "depending", "on", "whether", "or", "not", "that", "user", "has", "the", "credential", ":", "the", "opponent", "also", "has", "to", "be", "able", "to", "figure", "out", "which", "behavior", "corresponds", "to", "having", "the", "credential", "and", "which", "corresponds", "to", "lacking", "the", "credential", ".", "Otherwise", ",", "the", "opponent", "has", "not", "actually", "gained", "any", "information", "about", "the", "user", ".", "Example", "1", ".", "Suppose", "we", "have", "a", "system", "in", "which", "there", "is", "only", "one", "attribute", "and", "two", "policies", ",", "p", "1", "and", "p", "2", ".", "Half", "of", "the", "users", "use", "p", "1", "when", "they", "have", "the", "attribute", "and", "p", "2", "when", "they", "do", "not", ".", "The", "other", "half", "of", "the", "users", "use", "p", "2", "when", "they", "have", "the", "attribute", "and", "p", "1", "when", "they", "do", "not", ".", "Every", "user", "'s", "messages", "would", "be", "distinguishable", "under", "the", "definition", "of", "indistinguishability", "presented", "in", "-LSB-", "23", "-RSB-", "because", "for", "each", "user", "the", "distribution", "of", "messages", "is", "different", ".", "However", ",", "if", "a", "fraction", "r", "of", "the", "users", "have", "the", "attribute", "and", "a", "fraction", "1", "-", "r", "do", "not", ",", "then", "1", "2", "r", "+", "1", "2", "-LRB-", "1", "-", "r", "-RRB-", "=", "1", "2", "of", "the", "users", "display", "policy", "p", "1", "and", "the", "other", "half", "of", "the", "users", "display", "policy", "p", "2", ".", "As", "such", "the", "number", "of", "users", "displaying", "p", "1", "or", "p", "2", "does", "not", "change", "as", "r", "changes", ".", "Hence", ",", "they", "are", "independent", ".", "Since", "the", "policy", "displayed", "is", "independent", "of", "the", "attribute", "when", "users", "are", "viewed", "as", "a", "whole", ",", "seeing", "either", "policy", "does", "not", "reveal", "any", "information", "about", "whether", "or", "not", "the", "user", "in", "question", "has", "the", "attribute", ".", "As", "such", ",", "Winsborough", "and", "Li", "'s", "definitions", "of", "indistinguishability", "restrict", "a", "number", "of", "valid", "systems", "where", "a", "given", "user", "will", "act", "differently", "in", "the", "two", "cases", ",", "but", "an", "opponent", "can", "not", "actually", "distinguish", "which", "case", "is", "which", ".", "In", "fact", ",", "their", "definitions", "allow", "only", "systems", "greatly", "similar", "to", "the", "Ack", "Policy", "system", "that", "they", "proposed", "in", "-LSB-", "22", "-RSB-", ".", "Instead", "we", "propose", "a", "definition", "of", "safety", "based", "directly", "on", "information", "37", "gain", "instead", "of", "the", "message", "exchange", "sequences", "between", "the", "two", "parties", ".", "Before", "we", "formally", "define", "safety", ",", "we", "first", "discuss", "what", "safety", "means", "informally", ".", "In", "any", "trust", "negotiation", "system", ",", "there", "is", "some", "set", "of", "objects", "which", "are", "protected", "by", "policies", ".", "Usually", "this", "includes", "credentials", ",", "information", "about", "attribute", "possession", ",", "and", "sometimes", "even", "some", "of", "the", "policies", "in", "the", "system", ".", "All", "of", "these", "can", "be", "structured", "as", "digital", "information", ",", "and", "the", "aim", "of", "the", "system", "is", "to", "disclose", "that", "information", "only", "to", "appropriate", "parties", ".", "The", "straight-forward", "part", "of", "the", "idea", "of", "safety", "is", "that", "an", "object", "'s", "value", "should", "not", "be", "revealed", "unless", "its", "policy", "has", "been", "satisfied", ".", "However", ",", "we", "do", "not", "want", "to", "simply", "avoid", "an", "object", "'s", "value", "being", "known", "with", "complete", "certainty", ",", "but", "also", "the", "value", "being", "guessed", "with", "significant", "likelihood", ".", "As", "such", ",", "we", "can", "define", "the", "change", "in", "safety", "as", "the", "change", "in", "the", "probability", "of", "guessing", "the", "value", "of", "an", "object", ".", "If", "there", "are", "two", "secrets", ",", "s", "1", "and", "s", "2", ",", "we", "can", "define", "the", "conditional", "safety", "of", "s", "1", "upon", "the", "disclosure", "of", "s", "2", "as", "the", "conditional", "probability", "of", "guessing", "s", "1", "given", "s", "2", ".", "Thus", ",", "we", "define", "absolute", "safety", "in", "a", "system", "as", "being", "the", "property", "that", "no", "disclosure", "of", "objects", "whose", "policies", "have", "been", "satisfied", "results", "in", "any", "change", "in", "the", "probability", "of", "guessing", "the", "value", "of", "any", "object", "whose", "policy", "has", "not", "been", "satisfied", "regardless", "of", "what", "inferences", "might", "be", "possible", ".", "There", "exists", "a", "simple", "system", "which", "can", "satisfy", "this", "level", "of", "safety", ",", "which", "is", "the", "all-or-nothing", "system", ",", "a", "system", "in", "which", "all", "of", "every", "user", "'s", "objects", "are", "required", "to", "be", "protected", "by", "a", "single", "policy", "which", "is", "the", "same", "for", "all", "users", ".", "Clearly", "in", "such", "a", "system", "there", "are", "only", "two", "states", ",", "all", "objects", "revealed", "or", "no", "objects", "revealed", ".", "As", "such", ",", "there", "can", "be", "no", "inferences", "between", "objects", "which", "are", "revealed", "and", "objects", "which", "are", "not", ".", "This", "system", ",", "however", ",", "has", "undesirable", "properties", "which", "outweigh", "its", "safety", "guarantees", ",", "namely", "the", "lack", "of", "autonomy", ",", "flexibility", ",", "and", "fine-grained", "access", "control", ".", "Because", "of", "the", "necessity", "of", "protecting", "against", "every", "possible", "inference", "which", "could", "occur", ",", "it", "is", "like", "that", "any", "system", "which", "achieves", "ideal", "safety", "would", "be", "similarly", "inflexible", ".", "Since", "there", "have", "been", "no", "practical", "systems", "proposed", "which", "meet", "the", "ideal", "safety", "condition", ",", "describing", "ideal", "safety", "is", "not", "sufficient", "unto", "itself", ".", "We", "wish", "to", "explore", "not", "just", "ideal", "safety", ",", "but", "also", "safety", "relative", "to", "certain", "types", "of", "attacks", ".", "This", "will", "help", "us", "develop", "a", "more", "complete", "view", "of", "safety", "in", "the", "likely", "event", "that", "no", "useful", "system", "which", "is", "ideally", "safe", "is", "found", ".", "If", "a", "system", "does", "not", "have", "ideal", "safety", ",", "then", "there", "must", "be", "some", "inferences", "which", "can", "cause", "a", "leakage", "of", "information", "between", "revealed", "objects", "and", "protected", "objects", ".", "But", "this", "does", "not", "mean", "that", "every", "single", "object", "revealed", "leaks", "information", "about", "every", "protected", "object", ".", "As", "such", ",", "we", "can", "potentially", "describe", "what", "sort", "of", "inferences", "a", "system", "does", "protect", "against", ".", "For", "example", ",", "Ack", "Policy", "systems", "are", "moti-vated", "by", "a", "desire", "to", "prevent", "inferences", "from", "a", "policy", "to", "the", "possession", "of", "the", "attribute", "that", "it", "protects", ".", "Inferences", "from", "one", "attribute", "to", "another", "are", "not", "prevented", "by", "such", "a", "system", "-LRB-", "for", "example", ",", "users", "who", "are", "AARP", "members", "are", "more", "likely", "to", "be", "retired", "than", "ones", "who", "are", "not", "-RRB-", ".", "Hence", ",", "it", "is", "desirable", "to", "describe", "what", "it", "means", "for", "a", "system", "to", "be", "safe", "relative", "to", "certain", "types", "of", "inferences", ".", "Next", "we", "present", "a", "formal", "framework", "to", "model", "safety", "in", "trust", "negotiation", ".", "The", "formalism", "which", "we", "are", "using", "in", "this", "paper", "is", "based", "on", "that", "used", "by", "Winsborough", "and", "Li", ",", "but", "is", "substantially", "revised", ".", "2.0.1", "Trust", "Negotiation", "Systems", "A", "Trust", "Negotiation", "System", "is", "comprised", "of", "the", "following", "elements", ":", "A", "finite", "set", ",", "K", ",", "of", "principals", ",", "uniquely", "identified", "by", "a", "randomly", "chosen", "public", "key", ",", "P", "ub", "k", ".", "Each", "principal", "knows", "the", "associated", "private", "key", ",", "and", "can", "produce", "a", "proof", "of", "identity", ".", "A", "finite", "set", ",", "T", ",", "of", "attributes", ".", "An", "attribute", "is", "something", "which", "each", "user", "either", "possesses", "or", "lacks", ".", "An", "example", "would", "be", "status", "as", "a", "licensed", "driver", "or", "enrollment", "at", "a", "university", ".", "A", "set", ",", "G", ",", "of", "configurations", ",", "each", "of", "which", "is", "a", "subset", "of", "T", ".", "If", "a", "principal", "k", "is", "in", "a", "configuration", "g", "G", ",", "then", "k", "possesses", "the", "attributes", "in", "g", "and", "no", "other", "attributes", ".", "A", "set", ",", "P", ",", "of", "possible", "policies", ",", "each", "of", "which", "is", "a", "logical", "proposition", "comprised", "of", "a", "combination", "of", "and", ",", "or", ",", "and", "attributes", "in", "T", ".", "We", "define", "an", "attribute", "in", "a", "policy", "to", "be", "true", "with", "respect", "to", "a", "principal", "k", "if", "k", "has", "that", "attribute", ".", "We", "consider", "all", "logically", "equivalent", "policies", "to", "be", "the", "same", "policy", ".", "Objects", ".", "Every", "principal", "k", "has", "objects", "which", "may", "be", "protected", "which", "include", "the", "following", ":", "-", "A", "set", ",", "S", ",", "of", "services", "provided", "by", "a", "principal", ".", "Every", "principal", "offers", "some", "set", "of", "services", "to", "all", "other", "principals", ".", "These", "services", "are", "each", "protected", "by", "some", "policy", ",", "as", "we", "will", "describe", "later", ".", "A", "simple", "service", "which", "each", "principal", "offers", "is", "a", "proof", "of", "attribute", "possession", ".", "If", "another", "principal", "satisfies", "the", "appropriate", "policy", ",", "the", "principal", "will", "offer", "some", "proof", "that", "he", "holds", "the", "attribute", ".", "This", "service", "is", "denoted", "s", "t", "for", "any", "attribute", "t", "T", ".", "-", "A", "set", ",", "A", ",", "of", "attribute", "status", "objects", ".", "Since", "the", "set", "of", "all", "attributes", "is", "already", "known", ",", "we", "want", "to", "protect", "the", "information", "about", "whether", "or", "not", "a", "given", "user", "has", "an", "attribute", ".", "As", "such", "we", "formally", "define", "A", "as", "a", "set", "of", "boolean", "valued", "random", "variables", ",", "a", "t", ".", "The", "value", "of", "a", "t", "for", "a", "principal", "k", ",", "which", "we", "denote", "a", "t", "-LRB-", "k", "-RRB-", "is", "defined", "to", "be", "true", "if", "k", "possesses", "t", "T", "and", "false", "otherwise", ".", "Thus", "A", "=", "-LCB-", "a", "t", "|", "t", "T", "-RCB-", ".", "-", "A", "set", ",", "Q", "of", "policy", "mapping", "objects", ".", "A", "system", "may", "desire", "to", "protect", "an", "object", "'s", "policy", "either", "because", "of", "correlations", "between", "policies", "and", "sensitive", "attributes", "or", "because", "in", "some", "systems", "the", "policies", "themselves", "may", "be", "considered", "sensitive", ".", "Similar", "to", "attribute", "status", "objects", ",", "we", "do", "not", "protect", "a", "policy", ",", "per", "se", ",", "but", "instead", "the", "pairing", "of", "a", "policy", "with", "what", "it", "is", "protecting", ".", "As", "such", ",", "each", "policy", "mapping", "object", "is", "a", "random", "variable", "q", "o", "with", "range", "P", "where", "o", "is", "an", "object", ".", "The", "value", "of", "q", "o", "for", "a", "given", "principal", "k", ",", "denoted", "q", "o", "-LRB-", "k", "-RRB-", "is", "the", "policy", "that", "k", "has", "chosen", "to", "protect", "object", "o.", "Every", "system", "should", "define", "which", "objects", "are", "protected", ".", "It", "is", "expected", "that", "all", "systems", "should", "protect", "the", "services", ",", "S", ",", "and", "the", "attribute", "status", "objects", ",", "A", ".", "In", "some", "systems", ",", "there", "will", "also", "be", "policies", "which", "protect", "policies", ".", "Thus", "protected", "objects", "may", "also", "include", "a", "subset", "of", "Q", ".", "We", "call", "the", "set", "of", "protected", "objects", "O", ",", "where", "O", "S", "A", "Q", ".", "If", "an", "object", "is", "not", "protected", ",", "this", "is", "equivalent", "to", "it", "having", "a", "policy", "equal", "to", "true", ".", "For", "convenience", ",", "we", "define", "Q", "X", "to", "be", "the", "members", "of", "Q", "which", "are", "policies", "protecting", "members", "of", "X", ",", "where", "X", "is", "a", "set", "of", "objects", ".", "Formally", ",", "Q", "X", "=", "-LCB-", "q", "o", "Q", "|", "o", "X", "-RCB-", ".", "Some", "subset", "of", "the", "information", "objects", "are", "considered", "to", "be", "sensitive", "objects", ".", "These", "are", "the", "objects", "about", "which", "we", "want", "an", "opponent", "to", "gain", "no", "information", "unless", "they", "have", "satisfied", "that", "object", "'s", "policy", ".", "Full", "information", "about", "any", "object", ",", "sensitive", "or", "insensitive", ",", "is", "not", "released", "by", "the", "system", "38", "until", "its", "policy", "has", "been", "satisfied", ",", "but", "it", "is", "acceptable", "for", "inferences", "to", "cause", "the", "leakage", "of", "information", "which", "is", "not", "considered", "sensitive", ".", "A", "set", ",", "N", ",", "of", "negotiation", "strategies", ".", "A", "negotiation", "strategy", "is", "the", "means", "that", "a", "principal", "uses", "to", "interact", "with", "other", "principals", ".", "Established", "strategies", "include", "the", "eager", "strategy", "-LSB-", "24", "-RSB-", "and", "the", "trust-target", "graph", "strategy", "-LSB-", "22", "-RSB-", ".", "A", "negotiation", "strategy", ",", "n", ",", "is", "defined", "as", "an", "interactive", ",", "deterministic", ",", "Turing-equivalent", "computational", "machine", "augmented", "by", "a", "random", "tape", ".", "The", "random", "tape", "serves", "as", "a", "random", "oracle", "which", "allows", "us", "to", "discuss", "randomized", "strategies", ".", "A", "negotiation", "strategy", "takes", "as", "initial", "input", "the", "public", "knowledge", "needed", "to", "operate", "in", "a", "system", ",", "the", "principal", "'s", "attributes", ",", "its", "services", ",", "and", "the", "policies", "which", "protect", "its", "objects", ".", "It", "then", "produces", "additional", "inputs", "and", "outputs", "by", "interacting", "with", "other", "strategies", ".", "It", "can", "output", "policies", ",", "credentials", ",", "and", "any", "additional", "information", "which", "is", "useful", ".", "We", "do", "not", "further", "define", "the", "specifics", "of", "the", "information", "communicated", "between", "strategies", "except", "to", "note", "that", "all", "the", "strategies", "in", "a", "system", "should", "have", "compatible", "input", "and", "output", "protocols", ".", "We", "refrain", "from", "further", "specifics", "of", "strategies", "since", "they", "are", "not", "required", "in", "our", "later", "discussion", ".", "An", "adversary", ",", "M", ",", "is", "defined", "as", "a", "set", "of", "principals", "coordinating", "to", "discover", "the", "value", "of", "sensitive", "information", "objects", "belonging", "to", "some", "k", "M", ".", "Preventing", "this", "discovery", "is", "the", "security", "goal", "of", "a", "trust", "negotiation", "system", ".", "We", "assume", "that", "adversaries", "may", "only", "interact", "with", "principals", "through", "trust", "negotiation", "and", "are", "limited", "to", "proving", "possession", "of", "attributes", "which", "they", "actually", "possess", ".", "In", "other", "words", ",", "the", "trust", "negotiation", "system", "provides", "a", "means", "of", "proof", "which", "is", "resistant", "to", "attempts", "at", "forgery", ".", "A", "set", ",", "I", ",", "of", "all", "inferences", ".", "Each", "inference", "is", "a", "minimal", "subset", "of", "information", "objects", "such", "that", "the", "joint", "distribution", "of", "the", "set", "differs", "from", "the", "product", "of", "the", "individual", "distributions", "of", "the", "items", "in", "the", "set", ".", "1", "These", "then", "allow", "a", "partitioning", ",", "C", ",", "of", "the", "information", "objects", "into", "inference", "components", ".", "We", "define", "a", "relation", "such", "that", "o", "1", "o", "2", "iff", "i", "I", "|", "o", "1", ",", "o", "2", "i.", "C", "is", "the", "transitive", "closure", "of", ".", "In", "general", ",", "we", "assume", "that", "all", "of", "the", "information", "objects", "in", "our", "framework", "are", "static", ".", "We", "do", "not", "model", "changes", "in", "a", "principal", "'s", "attribute", "status", "or", "policies", ".", "If", "such", "is", "necessary", ",", "the", "model", "would", "need", "to", "be", "adapted", ".", "It", "should", "also", "be", "noted", "that", "there", "is", "an", "additional", "constraint", "on", "policies", "that", "protect", "policies", "which", "we", "have", "not", "described", ".", "This", "is", "because", "in", "most", "systems", "there", "is", "a", "way", "to", "gain", "information", "about", "what", "a", "policy", "is", ",", "which", "is", "to", "satisfy", "it", ".", "When", "a", "policy", "is", "satisfied", ",", "this", "generally", "results", "in", "some", "service", "being", "rendered", "or", "information", "being", "released", ".", "As", "such", ",", "this", "will", "let", "the", "other", "party", "know", "that", "they", "have", "satisfied", "the", "policy", "for", "that", "object", ".", "Therefore", ",", "the", "effective", "policy", "protecting", "a", "policy", "status", "object", "must", "be", "the", "logical", "or", "of", "the", "policy", "in", "the", "policy", "status", "object", "and", "the", "policy", "which", "protects", "it", ".", "2.0.2", "The", "Ack", "Policy", "System", "To", "help", "illustrate", "the", "model", ",", "let", "us", "describe", "how", "the", "Ack", "Policy", "system", "maps", "onto", "the", "model", ".", "The", "mapping", "of", "oppo-1", "A", "system", "need", "not", "define", "the", "particulars", "of", "inferences", ",", "but", "should", "discuss", "what", "sort", "of", "inferences", "it", "can", "deal", "with", ",", "and", "hence", "what", "sort", "of", "inferences", "are", "assumed", "to", "exist", ".", "nents", ",", "the", "sets", "of", "principals", ",", "attributes", ",", "configurations", ",", "and", "policies", "in", "the", "Ack", "Policy", "system", "is", "straightforward", ".", "In", "an", "Ack", "Policy", "system", ",", "any", "mutually", "compatible", "set", "of", "negotiation", "strategies", "is", "acceptable", ".", "There", "are", "policies", "for", "protecting", "services", ",", "protecting", "attribute", "status", "objects", ",", "and", "protecting", "policies", "which", "protect", "attribute", "proving", "services", ".", "As", "such", ",", "the", "set", "of", "protected", "objects", ",", "O", "=", "S", "A", "Q", "S", ".", "According", "to", "the", "definition", "of", "the", "Ack", "Policy", "system", ",", "for", "a", "given", "attribute", ",", "the", "policy", "that", "protects", "the", "proof", "service", "for", "that", "attribute", "is", "protected", "by", "the", "same", "policy", "that", "protects", "the", "attribute", "status", "object", ".", "Formally", ",", "t", "T", ",", "k", "K", ",", "q", "a", "t", "-LRB-", "k", "-RRB-", "=", "q", "q", "st", "-LRB-", "k", "-RRB-", ".", "Further", ",", "the", "Ack", "policy", "for", "an", "attribute", "is", "required", "to", "be", "the", "same", "for", "all", "principals", ".", "Thus", "we", "know", "t", "T", "p", "Pk", "K", "|", "q", "a", "t", "-LRB-", "k", "-RRB-", "=", "p.", "Two", "basic", "assumptions", "about", "the", "set", "of", "inferences", ",", "I", ",", "exist", "in", "Ack", "Policy", "systems", ",", "which", "also", "lead", "us", "to", "conclusions", "about", "the", "inference", "components", ",", "C", ".", "It", "is", "assumed", "that", "inferences", "between", "the", "policy", "which", "protects", "the", "attribute", "proving", "service", ",", "q", "s", "t", "-LRB-", "k", "-RRB-", ",", "and", "the", "attribute", "status", "object", ",", "a", "t", "-LRB-", "k", "-RRB-", ",", "exist", ".", "As", "such", ",", "those", "two", "objects", "should", "always", "be", "in", "the", "same", "inference", "component", ".", "Because", "Ack", "Policies", "are", "uniform", "for", "all", "principals", ",", "they", "are", "uncorrelated", "to", "any", "other", "information", "object", "and", "they", "can", "not", "be", "part", "of", "any", "inference", ".", "Hence", ",", "each", "Ack", "Policy", "is", "in", "an", "inference", "component", "of", "its", "own", ".", "2.0.3", "Safety", "in", "Trust", "Negotiation", "Systems", "In", "order", "to", "formally", "define", "safety", "in", "trust", "negotiation", ",", "we", "need", "to", "define", "the", "specifics", "of", "the", "opponent", ".", "We", "need", "to", "model", "the", "potential", "capabilities", "of", "an", "opponent", "and", "the", "information", "initially", "available", "to", "the", "opponent", ".", "Obviously", ",", "no", "system", "is", "safe", "against", "an", "opponent", "with", "unlimited", "capabilities", "or", "unlimited", "knowledge", ".", "As", "such", ",", "we", "restrict", "the", "opponent", "to", "having", "some", "tactic", ",", "for", "forming", "trust", "negotiation", "messages", ",", "processing", "responses", "to", "those", "messages", ",", "and", ",", "finally", ",", "forming", "a", "guess", "about", "the", "values", "of", "unrevealed", "information", "objects", ".", "We", "model", "the", "tactic", "as", "an", "interactive", ",", "deterministic", ",", "Turing-equivalent", "computational", "machine", ".", "This", "model", "is", "a", "very", "powerful", "model", ",", "and", "we", "argue", "that", "it", "describes", "any", "reasonable", "opponent", ".", "This", "model", ",", "however", ",", "restricts", "the", "opponent", "to", "calculating", "things", "which", "are", "computable", "from", "its", "input", "and", "implies", "that", "the", "opponent", "behaves", "in", "a", "deterministic", "fashion", ".", "The", "input", "available", "to", "the", "machine", "at", "the", "start", "is", "the", "knowledge", "available", "to", "the", "opponent", "before", "any", "trust", "negotiation", "has", "taken", "place", ".", "What", "this", "knowledge", "is", "varies", "depending", "on", "the", "particulars", "of", "a", "trust", "negotiation", "system", ".", "However", ",", "in", "every", "system", "this", "should", "include", "the", "knowledge", "available", "to", "the", "principals", "who", "are", "a", "part", "of", "the", "opponent", ",", "such", "as", "their", "public", "and", "private", "keys", "and", "their", "credentials", ".", "And", "it", "should", "also", "include", "public", "information", "such", "as", "how", "the", "system", "works", ",", "the", "public", "keys", "of", "the", "attribute", "authorities", ",", "and", "other", "information", "that", "every", "user", "knows", ".", "In", "most", "systems", ",", "information", "about", "the", "distribution", "of", "attributes", "and", "credentials", "and", "knowledge", "of", "inference", "rules", "should", "also", "be", "considered", "as", "public", "information", ".", "All", "responses", "from", "principals", "in", "different", "configurations", "become", "available", "as", "input", "to", "the", "tactic", "as", "they", "are", "made", ".", "The", "tactic", "must", "output", "both", "a", "sequence", "of", "responses", "and", ",", "at", "the", "end", ",", "guesses", "about", "the", "unknown", "objects", "of", "all", "users", ".", "We", "observe", "that", "an", "opponent", "will", "have", "probabilistic", "knowledge", "about", "information", "objects", "in", "a", "system", ".", "Initially", ",", "the", "probabilities", "will", "be", "based", "only", "on", "publicly", "available", "knowl-39", "edge", ",", "so", "we", "can", "use", "the", "publicly", "available", "knowledge", "to", "describe", "the", "a", "priori", "probabilities", ".", "For", "instance", ",", "in", "most", "systems", ",", "it", "would", "be", "reasonable", "to", "assume", "that", "the", "opponent", "will", "have", "knowledge", "of", "the", "odds", "that", "any", "particular", "member", "of", "the", "population", "has", "a", "given", "attribute", ".", "Thus", ",", "if", "a", "fraction", "h", "t", "of", "the", "population", "is", "expected", "to", "possess", "attribute", "t", "T", ",", "the", "opponent", "should", "begin", "with", "an", "assumption", "that", "some", "given", "principal", "has", "a", "h", "t", "chance", "of", "having", "attribute", "t.", "Hence", ",", "h", "t", "represents", "the", "a", "priori", "probability", "of", "any", "given", "principal", "possessing", "t.", "Note", "that", "we", "assume", "that", "the", "opponent", "only", "knows", "the", "odds", "of", "a", "given", "principal", "having", "an", "attribute", ",", "but", "does", "not", "know", "for", "certain", "that", "a", "fixed", "percentage", "of", "the", "users", "have", "a", "given", "attribute", ".", "As", "such", ",", "knowledge", "about", "the", "value", "of", "an", "object", "belonging", "to", "some", "set", "of", "users", "does", "not", "imply", "any", "knowledge", "about", "the", "value", "of", "objects", "belonging", "to", "some", "other", "user", ".", "Definition", "1", ".", "A", "trust", "negotiation", "system", "is", "safe", "relative", "to", "a", "set", "of", "possible", "inferences", "if", "for", "all", "allowed", "mappings", "between", "principals", "and", "configurations", "there", "exists", "no", "opponent", "which", "can", "guess", "the", "value", "of", "sensitive", "information", "objects", "whose", "security", "policies", "have", "not", "been", "met", "with", "odds", "better", "than", "the", "a", "priori", "odds", "over", "all", "principals", "which", "are", "not", "in", "the", "opponent", ",", "over", "all", "values", "of", "all", "random", "tapes", ",", "and", "over", "all", "mappings", "between", "public", "key", "values", "and", "principals", ".", "Definition", "1", "differs", "from", "Winsborough", "and", "Li", "'s", "definitions", "in", "several", "ways", ".", "The", "first", "is", "that", "it", "is", "concerned", "with", "multiple", "users", ".", "It", "both", "requires", "that", "the", "opponent", "form", "guesses", "over", "all", "users", "and", "allows", "the", "opponent", "to", "interact", "with", "all", "users", ".", "Instead", "of", "simply", "having", "a", "sequence", "of", "messages", "sent", "to", "a", "single", "principal", ",", "the", "tactic", "we", "have", "defined", "may", "interact", "with", "a", "variety", "of", "users", ",", "analyzing", "incoming", "messages", ",", "and", "then", "use", "them", "to", "form", "new", "messages", ".", "It", "is", "allowed", "to", "talk", "to", "the", "users", "in", "any", "order", "and", "to", "interleave", "communications", "with", "multiple", "users", ",", "thus", "it", "is", "more", "general", "than", "those", "in", "-LSB-", "23", "-RSB-", ".", "The", "second", "is", "that", "we", "are", "concerned", "only", "with", "the", "information", "which", "the", "opponent", "can", "glean", "from", "the", "communication", ",", "not", "the", "distribution", "of", "the", "communication", "itself", ".", "As", "such", ",", "our", "definition", "more", "clearly", "reflects", "the", "fundamental", "idea", "of", "safety", ".", "We", "next", "introduce", "a", "theorem", "which", "will", "be", "helpful", "in", "proving", "the", "safety", "of", "systems", ".", "Theorem", "1", ".", "There", "exists", "no", "opponent", "which", "can", "beat", "the", "a", "priori", "odds", "of", "guessing", "the", "value", "of", "an", "object", ",", "o", ",", "given", "only", "information", "about", "objects", "which", "are", "not", "in", "the", "same", "inference", "component", "as", "o", ",", "over", "all", "principals", "not", "in", "M", "and", "whose", "policy", "for", "o", "M", "can", "not", "satisfy", ",", "over", "all", "random", "tapes", ",", "and", "over", "all", "mappings", "between", "public", "keys", "and", "principals", ".", "The", "formal", "proof", "for", "this", "theorem", "can", "be", "found", "in", "Appendix", "A.", "Intuitively", ",", "since", "the", "opponent", "only", "gains", "information", "about", "objects", "not", "correlated", "to", "o", ",", "its", "guess", "of", "the", "value", "of", "o", "is", "not", "affected", ".", "With", "theorem", "1", ",", "let", "us", "take", "a", "brief", "moment", "to", "prove", "the", "safety", "of", "the", "Ack", "Policy", "systems", "under", "our", "framework", ".", "Specifically", ",", "we", "examine", "Ack", "Policy", "systems", "in", "which", "the", "distribution", "of", "strategies", "is", "independent", "of", "the", "distributions", "of", "attributes", ",", "an", "assumption", "implicitly", "made", "in", "-LSB-", "23", "-RSB-", ".", "In", "Ack", "Policy", "systems", "the", "Ack", "Policy", "is", "a", "policy", "which", "protects", "two", "objects", "in", "our", "model", ":", "an", "attribute", "'s", "status", "object", "and", "its", "policy", "for", "that", "attribute", "'s", "proof", "service", ".", "Ack", "Policies", "are", "required", "to", "be", "uniform", "for", "all", "users", ",", "which", "ensures", "that", "they", "are", "independent", "of", "all", "objects", ".", "Ack", "Policy", "systems", "are", "designed", "to", "prevent", "inferences", "from", "an", "attribute", "'s", "policy", "to", "an", "attribute", "'s", "status", "for", "attributes", "which", "are", "sensitive", ".", "So", ",", "let", "us", "assume", "an", "appropriate", "set", "of", "inference", "components", "in", "order", "to", "prove", "that", "Ack", "Policy", "systems", "are", "safe", "relative", "to", "that", "form", "of", "inference", ".", "As", "we", "described", "earlier", ",", "each", "attribute", "status", "object", "should", "be", "in", "the", "same", "inference", "component", "with", "the", "policy", "which", "protects", "that", "attribute", "'s", "proof", "service", ",", "and", "the", "Ack", "policy", "for", "each", "attribute", "should", "be", "in", "its", "own", "inference", "component", ".", "The", "Ack", "Policy", "system", "also", "assumes", "that", "different", "attributes", "are", "independent", "of", "each", "other", ".", "As", "such", ",", "each", "attribute", "status", "object", "should", "be", "in", "a", "different", "inference", "group", ".", "This", "set", "of", "inference", "components", "excludes", "all", "other", "possible", "types", "of", "inferences", ".", "The", "set", "of", "sensitive", "objects", "is", "the", "set", "of", "attribute", "status", "objects", "whose", "value", "is", "true", ".", "Due", "to", "Theorem", "1", ",", "we", "know", "then", "that", "no", "opponent", "will", "be", "able", "to", "gain", "any", "information", "based", "on", "objects", "in", "different", "inference", "components", ".", "So", "the", "only", "potential", "source", "of", "inference", "for", "whether", "or", "not", "a", "given", "attribute", "'s", "status", "object", ",", "a", "t", ",", "has", "a", "value", "of", "true", "or", "f", "alse", "is", "the", "policy", "protecting", "the", "attribute", "proof", "service", ",", "s", "t", ".", "However", ",", "we", "know", "that", "the", "same", "policy", ",", "P", ",", "protects", "both", "of", "these", "objects", ".", "As", "such", "unauthorized", "inference", "between", "them", "is", "impossible", "without", "satisfying", "P", ".", "2", "Thus", ",", "the", "odds", "for", "a", "t", "do", "not", "change", ".", "Therefore", ",", "the", "Ack", "Policy", "system", "is", "secure", "against", "inferences", "from", "an", "attribute", "'s", "policy", "to", "its", "attribute", "status", ".", "We", "propose", "a", "new", "trust", "negotiation", "system", "designed", "to", "be", "safe", "under", "the", "definition", "we", "proposed", ",", "but", "to", "also", "allow", "the", "users", "who", "have", "sensitive", "attributes", "complete", "freedom", "to", "determine", "their", "own", "policies", ".", "It", "also", "does", "not", "rely", "on", "any", "particular", "strategy", "being", "used", ".", "Potentially", ",", "a", "combination", "of", "strategies", "could", "even", "be", "used", "so", "long", "as", "the", "strategy", "chosen", "is", "not", "in", "any", "way", "correlated", "to", "the", "attributes", "possessed", ".", "This", "system", "is", "based", "on", "the", "observation", "that", "there", "is", "more", "than", "one", "way", "to", "deal", "with", "a", "correlation", ".", "A", "simple", "ideal", "system", "which", "prevents", "the", "inference", "from", "policies", "to", "attribute", "possession", "information", "is", "to", "have", "each", "user", "draw", "a", "random", "policy", ".", "This", "system", "obviously", "does", "not", "allow", "users", "the", "freedom", "to", "create", "their", "own", "policies", ".", "Instead", "we", "propose", "a", "system", "which", "looks", "like", "the", "policies", "are", "random", "even", "though", "they", "are", "not", ".", "This", "system", "is", "similar", "to", "the", "existing", "trust", "negotiation", "systems", "except", "for", "the", "addition", "of", "a", "new", "element", ":", "the", "policy", "database", ".", "The", "policy", "database", "is", "a", "database", "run", "by", "a", "trusted", "third", "party", "which", "collects", "anonymized", "information", "about", "the", "policies", "which", "are", "in", "use", ".", "In", "the", "policy", "database", "system", ",", "a", "2", "Except", "that", "one", "of", "these", "is", "a", "policy", "mapping", "object", "which", "is", "being", "protected", "by", "a", "policy", ".", "As", "such", ",", "we", "have", "to", "keep", "in", "mind", "that", "there", "exists", "a", "possibility", "that", "the", "opponent", "could", "gain", "information", "about", "the", "policy", "without", "satisfying", "it", ".", "Specifically", ",", "the", "opponent", "can", "figure", "out", "what", "attributes", "do", "not", "satisfy", "it", "by", "proving", "that", "he", "possesses", "those", "attributes", ".", "However", ",", "in", "an", "Ack", "Policy", "system", ",", "the", "policy", "protecting", "an", "attribute", "proof", "object", "of", "an", "attribute", "which", "a", "user", "does", "not", "hold", "is", "always", "f", "alse", ".", "No", "opponent", "can", "distinguish", "between", "two", "policies", "which", "they", "can", "not", "satisfy", "since", "all", "they", "know", "is", "that", "they", "have", "failed", "to", "satisfy", "them", ".", "And", "we", "are", "unconcerned", "with", "policies", "which", "they", "have", "satisfied", ".", "Thus", ",", "we", "know", "that", "the", "opponent", "can", "not", "gain", "any", "useful", "information", "about", "the", "policies", "which", "they", "have", "not", "satisfied", ",", "and", "hence", "can", "not", "beat", "the", "a", "priori", "odds", "for", "those", "policies", ".", "40", "user", "who", "has", "a", "given", "sensitive", "attribute", "chooses", "their", "own", "policy", "and", "submits", "it", "anonymously", "to", "the", "policy", "database", "for", "that", "attribute", ".", "The", "policy", "database", "uses", "pseudonymous", "certificates", "to", "verify", "that", "users", "who", "submit", "policies", "actually", "have", "the", "attribute", ",", "in", "a", "manner", "that", "will", "be", "discussed", "later", "in", "section", "3.2", ".", "Then", "users", "who", "do", "not", "have", "the", "attribute", "will", "pull", "policies", "at", "random", "from", "the", "database", "to", "use", "as", "their", "own", ".", "The", "contents", "of", "the", "policy", "database", "are", "public", ",", "so", "any", "user", "who", "wishes", "to", "can", "draw", "a", "random", "policy", "from", "the", "database", ".", "In", "our", "system", ",", "each", "user", "uses", "a", "single", "policy", "to", "protect", "all", "the", "information", "objects", "associated", "with", "an", "attribute", ".", "They", "neither", "acknowledge", "that", "they", "have", "the", "attribute", "nor", "prove", "that", "they", "do", "until", "the", "policy", "has", "been", "satisfied", ".", "This", "means", "that", "users", "are", "allowed", "to", "have", "policies", "which", "protect", "attributes", "which", "they", "do", "not", "hold", ".", "The", "policy", "in", "our", "system", "may", "be", "seen", "as", "the", "combination", "of", "the", "Ack", "policy", "and", "a", "traditional", "access", "control", "policy", "for", "attribute", "proofs", ".", "The", "goal", "of", "this", "system", "is", "to", "ensure", "that", "the", "policy", "is", "in", "a", "separate", "inference", "component", "from", "the", "attribute", "status", "object", ",", "thus", "guaranteeing", "that", "inferences", "between", "policies", "and", "attribute", "status", "objects", "can", "not", "be", "made", ".", "This", "system", "is", "workable", "because", "of", "the", "following", ".", "We", "know", "that", "policies", "can", "not", "require", "a", "lack", "of", "an", "attribute", ",", "thus", "users", "who", "do", "not", "have", "a", "given", "attribute", "will", "never", "suffer", "from", "their", "policy", "for", "that", "attribute", "being", "too", "strong", ".", "Changes", "in", "the", "policy", "which", "protects", "an", "attribute", "that", "they", "do", "not", "have", "may", "vary", "the", "length", "of", "the", "trust", "negotiation", ",", "but", "it", "will", "never", "cause", "them", "to", "be", "unable", "to", "complete", "transactions", "which", "they", "would", "otherwise", "be", "able", "to", "complete", ".", "Also", ",", "we", "deal", "only", "with", "possession", "sensitive", "attributes", ".", "We", "do", "not", "deal", "with", "attributes", "where", "it", "is", "at", "all", "sensitive", "to", "lack", "them", ".", "As", "such", ",", "users", "who", "do", "not", "have", "the", "attribute", "can", "not", "have", "their", "policies", "be", "too", "weak", ".", "Since", "there", "is", "no", "penalty", "for", "those", "users", "for", "their", "policies", "being", "either", "too", "weak", "or", "too", "strong", ",", "they", "can", "have", "whatever", "policy", "is", "most", "helpful", "for", "helping", "disguise", "the", "users", "who", "do", "possess", "the", "attribute", ".", "This", "also", "means", "that", "users", "who", "do", "not", "have", "the", "attribute", "do", "not", "need", "to", "trust", "the", "policy", "database", "since", "no", "policy", "which", "the", "database", "gives", "them", "would", "be", "unacceptable", "to", "them", ".", "Users", "who", "have", "the", "attribute", ",", "however", ",", "do", "need", "to", "trust", "that", "the", "policy", "database", "will", "actually", "randomly", "distribute", "policies", "to", "help", "camouflage", "their", "policies", ".", "They", "do", "not", ",", "however", ",", "need", "to", "trust", "the", "policy", "database", "to", "act", "appropriately", "with", "their", "sensitive", "information", "because", "all", "information", "is", "anonymized", ".", "3.1", "Safety", "of", "the", "Approach", "of", "Policy", "Databases", "Let", "us", "describe", "the", "Policy", "Database", "system", "in", "terms", "of", "our", "model", ".", "Again", "the", "opponent", "and", "the", "sets", "of", "principals", ",", "attributes", ",", "configurations", ",", "and", "policies", "need", "no", "special", "comment", ".", "Because", "we", "only", "have", "policies", "protecting", "the", "services", "and", "attribute", "status", "objects", ",", "the", "set", "of", "protected", "objects", ",", "O", "=", "S", "A.", "Also", ",", "each", "attribute", "proving", "service", "and", "attribute", "status", "object", "are", "protected", "by", "the", "same", "policy", ".", "t", "T", ",", "k", "K", ",", "q", "a", "t", "-LRB-", "k", "-RRB-", "=", "q", "s", "t", "-LRB-", "k", "-RRB-", ".", "This", "system", "is", "only", "designed", "to", "deal", "with", "inferences", "from", "policies", "to", "attribute", "possession", ",", "so", "we", "assume", "that", "every", "attribute", "status", "object", "is", "in", "a", "different", "inference", "component", ".", "If", "the", "policies", "do", "actually", "appear", "to", "be", "completely", "random", ",", "then", "policies", "and", "attribute", "status", "objects", "should", "be", "in", "separate", "inference", "components", "as", "well", ".", "The", "obvious", "question", "is", "whether", "Policy", "Database", "systems", "actually", "guarantee", "that", "this", "occurs", ".", "The", "answer", "is", "that", "they", "do", "not", "guarantee", "it", "with", "any", "finite", "number", "of", "users", "due", "to", "the", "distribution", "of", "policies", "being", "unlikely", "to", "be", "absolutely", ",", "precisely", "the", "same", ".", "This", "is", "largely", "due", "to", "a", "combination", "of", "rounding", "issues", "and", "the", "odds", "being", "against", "things", "coming", "out", "precisely", "evenly", "distributed", ".", "However", ",", "as", "the", "number", "of", "users", "in", "the", "system", "approaches", "infinity", ",", "the", "system", "approaches", "this", "condition", ".", "In", "an", "ideal", "system", ",", "the", "distribution", "of", "policies", "would", "be", "completely", "random", ".", "If", "an", "opponent", "observes", "that", "some", "number", "of", "principals", "had", "a", "given", "policy", "for", "some", "attribute", ",", "this", "would", "give", "them", "no", "information", "about", "whether", "or", "not", "any", "of", "those", "users", "had", "the", "attribute", ".", "However", ",", "in", "the", "Policy", "Database", "system", ",", "every", "policy", "which", "is", "held", "is", "known", "to", "be", "held", "by", "at", "least", "one", "user", "who", "has", "the", "attribute", ".", "As", "such", ",", "we", "need", "to", "worry", "about", "how", "even", "the", "distributions", "of", "different", "policies", "are", ".", "We", "can", "describe", "and", "quantify", "the", "difference", "which", "exists", "between", "a", "real", "implementation", "of", "our", "system", "and", "the", "ideal", ".", "There", "are", "two", "reasons", "for", "a", "difference", "to", "exist", ".", "The", "first", "is", "difference", "due", "to", "distributions", "being", "discrete", ".", "For", "example", ",", "let", "us", "say", "that", "there", "are", "five", "users", "in", "our", "system", ",", "two", "of", "which", "have", "some", "attribute", "and", "three", "who", "do", "not", ".", "Let", "us", "also", "say", "that", "the", "two", "users", "with", "the", "attribute", "each", "have", "different", "policies", ".", "For", "the", "distributions", "to", "be", "identical", ",", "each", "of", "those", "policies", "would", "need", "to", "be", "selected", "by", "one", "and", "a", "half", "of", "the", "remaining", "three", "users", ".", "This", ",", "obviously", ",", "can", "not", "happen", ".", "We", "refer", "to", "this", "difference", "as", "rounding", "error", ".", "The", "second", "is", "difference", "due", "to", "the", "natural", "unevenness", "of", "random", "selection", ".", "The", "distributions", "tend", "towards", "evenness", "as", "the", "number", "of", "samples", "increases", ",", "but", "with", "any", "finite", "number", "of", "users", ",", "the", "distributions", "are", "quite", "likely", "to", "vary", "some", "from", "the", "ideal", ".", "These", "differences", "can", "both", "be", "quantified", "the", "same", "way", ":", "as", "a", "difference", "between", "the", "expected", "number", "of", "principals", "who", "have", "a", "policy", "and", "the", "actual", "number", ".", "If", "the", "opponent", "knows", "that", "one", "half", "of", "the", "principals", "have", "an", "attribute", "and", "one", "half", "do", "not", ",", "and", "they", "observe", "that", "among", "four", "users", ",", "there", "are", "two", "policies", ",", "one", "of", "which", "is", "held", "by", "three", "users", "and", "the", "other", "by", "one", "user", ",", "then", "they", "can", "know", "that", "the", "user", "with", "the", "unique", "policy", "holds", "the", "attribute", ".", "In", "general", ",", "any", "time", "the", "number", "of", "users", "who", "share", "a", "policy", "is", "less", "than", "the", "expectation", ",", "it", "is", "more", "likely", "that", "a", "user", "who", "has", "that", "policy", "also", "has", "the", "attribute", ".", "Information", "is", "leaked", "when", "there", "is", "a", "difference", "between", "the", "expected", "number", "of", "principals", "who", "have", "a", "policy", "and", "the", "actual", "number", "of", "principals", "who", "have", "that", "policy", "in", "proportion", "to", "the", "ratio", "between", "them", ".", "Theorem", "2", ".", "The", "limit", "of", "the", "difference", "between", "the", "expected", "number", "of", "principals", "who", "have", "a", "policy", "and", "the", "actual", "number", "of", "principals", "who", "have", "the", "policy", "as", "the", "number", "of", "users", "goes", "to", "infinity", "is", "0", ".", "The", "proof", "of", "Theorem", "2", "can", "be", "found", "in", "Appendix", "B", ".", "The", "intuition", "behind", "it", "is", "that", "as", "the", "number", "of", "samples", "grows", "very", "large", ",", "the", "actual", "distribution", "approaches", "the", "ideal", "distribution", "and", "the", "rounding", "errors", "shrink", "towards", "zero", ".", "3.2", "Attacks", "and", "Countermeasures", "Until", "now", ",", "we", "have", "only", "proven", "things", "about", "a", "system", "which", "is", "assumed", "to", "be", "in", "some", "instantaneous", "unchanging", "state", ".", "In", "the", "real", "world", "we", "have", "to", "deal", "with", "issues", "related", "to", "how", "policies", "change", "over", "time", "and", "multiple", "interactions", ".", "41", "Therefore", ",", "we", "also", "want", "the", "policy", "which", "a", "given", "user", "randomly", "selects", "from", "the", "database", "to", "be", "persistent", ".", "Otherwise", "an", "adversary", "would", "simply", "make", "multiple", "requests", "to", "the", "same", "user", "over", "time", "and", "see", "if", "the", "policy", "changed", ".", "If", "it", "did", ",", "especially", "if", "it", "changed", "erratically", ",", "it", "would", "indicate", "that", "the", "user", "was", "repeatedly", "drawing", "random", "policies", ".", "Instead", ",", "the", "user", "should", "hold", "some", "value", "which", "designates", "which", "policy", "the", "user", "has", ".", "An", "obvious", "answer", "would", "be", "to", "have", "the", "user", "hold", "onto", "the", "policy", "itself", ",", "but", "this", "would", "open", "the", "user", "up", "to", "a", "new", "attack", ".", "If", "users", "lacking", "a", "given", "attribute", "simply", "grabbed", "onto", "a", "policy", "and", "never", "changed", "it", ",", "this", "itself", "could", "be", "a", "tell", ".", "If", "there", "were", "some", "event", "which", "occurred", "which", "made", "having", "a", "given", "attribute", "suddenly", "more", "sensitive", "than", "it", "used", "to", "be", ",", "then", "rational", "users", "who", "have", "the", "attribute", "would", "increase", "the", "stringency", "of", "their", "policies", ".", "For", "example", ",", "if", "a", "country", "undertook", "an", "action", "which", "was", "politically", "unpopular", "on", "a", "global", "scale", ",", "holders", "of", "passports", "issued", "by", "that", "country", "would", "likely", "consider", "that", "more", "sensitive", "information", "now", "and", "would", "increase", "their", "policies", "appropriately", ".", "The", "result", "would", "then", "be", "that", "the", "average", "policy", "for", "people", "who", "had", "cached", "a", "previously", "fetched", "policy", "would", "then", "be", "less", "stringent", "than", "those", "who", "were", "making", "their", "own", "policies", ".", "Instead", "of", "a", "permanent", "policy", ",", "it", "would", "be", "more", "sensible", "for", "a", "principal", "to", "receive", "a", "cookie", "which", "could", "get", "it", "the", "policy", "from", "a", "particular", "principal", "so", "that", "when", "principals", "who", "posses", "the", "attribute", "changed", "their", "policies", ",", "principals", "who", "do", "not", "possess", "it", "would", "too", ".", "We", "also", "need", "to", "guard", "against", "stacking", "the", "deck", ".", "Obviously", "we", "can", "restrict", "the", "database", "to", "users", "who", "actually", "have", "the", "attribute", "by", "requiring", "the", "presentation", "of", "a", "pseudonymous", "certificate", "-LSB-", "6", ",", "7", ",", "8", ",", "9", ",", "10", ",", "18", "-RSB-", "which", "proves", "that", "they", "have", "the", "attribute", ".", "However", ",", "we", "also", "need", "to", "assure", "that", "a", "legitimate", "attribute", "holder", "can", "not", "submit", "multiple", "policies", "in", "order", "to", "skew", "the", "set", "of", "policies", ".", "To", "this", "end", ",", "we", "require", "that", "each", "policy", "be", "submitted", "initially", "with", "a", "one-time-show", "pseudonymous", "credential", "-LSB-", "8", "-RSB-", ".", "The", "attribute", "authorities", "can", "be", "restricted", "so", "that", "they", "will", "only", "issue", "each", "user", "a", "single", "one-time-show", "pseudonymous", "credential", "for", "each", "Policy", "Database", "use", ".", "Then", "we", "can", "accept", "the", "policy", ",", "knowing", "it", "to", "come", "from", "a", "unique", "user", "who", "holds", "the", "attribute", ",", "and", "issue", "them", "a", "secret", "key", "which", "they", "can", "later", "use", "to", "verify", "that", "they", "were", "the", "submitter", "of", "a", "given", "policy", "and", "to", "replace", "it", "with", "an", "updated", "policy", ".", "This", "does", "not", "prevent", "a", "user", "who", "has", "the", "attribute", "from", "submitting", "a", "single", "false", "policy", ",", "perhaps", "one", "which", "is", "distinctly", "different", "from", "normal", "policies", ".", "The", "result", "would", "be", "that", "users", "who", "draw", "that", "policy", "would", "be", "known", "to", "not", "have", "the", "attribute", ".", "However", ",", "under", "the", "assumptions", "of", "our", "system", ",", "not", "having", "the", "attribute", "is", "not", "sensitive", ",", "so", "this", "does", "not", "compromise", "safety", ".", "3.3", "Limitations", "We", "assume", "that", "for", "the", "attribute", "being", "protected", ",", "it", "is", "not", "significantly", "sensitive", "to", "lack", "the", "attribute", ".", "This", "assumption", "means", "that", "our", "system", "likely", "can", "not", "be", "used", "in", "practice", "to", "protect", "all", "attributes", ".", "Most", "notably", "it", "fails", "when", "lacking", "an", "attribute", "implies", "having", "or", "being", "highly", "likely", "to", "have", "some", "other", "attribute", ".", "For", "example", ",", "not", "having", "a", "valid", "passport", "probably", "means", "that", "you", "are", "a", "permanent", "resident", "of", "the", "country", "you", "are", "currently", "in", "-LRB-", "although", "users", "could", "be", "an", "illegal", "immigrants", "or", "citizens", "of", "a", "defunct", "nation", "-RRB-", ".", "It", "also", "fails", "when", "the", "lack", "of", "an", "attribute", "is", "more", "sensitive", "than", "having", "it", ".", "For", "instance", ",", "few", "people", "are", "going", "to", "wish", "to", "prevent", "people", "from", "knowing", "that", "they", "have", "graduated", "from", "high", "school", ",", "but", "many", "would", "consider", "their", "lack", "of", "a", "high", "school", "graduation", "attribute", "to", "be", "sensitive", ".", "However", ",", "we", "argue", "that", "no", "system", "can", "adequately", "handle", "such", "a", "case", "because", "those", "who", "do", "have", "the", "attribute", "would", "likely", "be", "unwilling", "to", "accept", "any", "system", "which", "would", "result", "in", "them", "having", "to", "not", "disclose", "the", "attribute", "when", "it", "was", "useful", "for", "them", "to", "do", "so", ".", "And", "if", "they", "still", "easily", "disclose", "their", "attribute", ",", "then", "it", "becomes", "impossible", "for", "those", "without", "to", "disguise", "their", "lack", ".", "Similarly", "to", "the", "Ack", "Policy", "system", ",", "policy", "databases", "also", "do", "not", "generally", "handle", "any", "form", "of", "probabilistic", "inference", "rule", "between", "attributes", ".", "The", "existence", "of", "such", "a", "rule", "would", "likely", "imply", "certain", "relationships", "between", "policies", "which", "most", "users", "would", "enforce", ".", "If", "the", "possession", "of", "a", "city", "library", "card", "suggested", "with", "strong", "probability", "that", "the", "user", "was", "a", "city", "resident", ",", "then", "perhaps", "all", "users", "who", "have", "both", "would", "have", "a", "policy", "protecting", "their", "library", "card", "which", "is", "stricter", "than", "the", "policy", "protecting", "their", "city", "residency", ".", "However", ",", "as", "there", "is", "variety", "in", "the", "policies", "of", "individuals", ",", "a", "user", "could", "pick", "a", "random", "pair", "of", "policies", "which", "did", "not", "have", "this", "property", ".", "That", "would", "then", "be", "a", "sure", "tell", "that", "he", "did", "not", "actually", "have", "both", "of", "those", "attributes", ".", "Another", "drawback", "of", "the", "system", "is", "that", "it", "requires", "a", "policy", "database", "service", "be", "available", "on-line", ".", "This", "decreases", "the", "decentralized", "nature", "of", "trust", "negotiation", ".", "However", ",", "our", "approach", "is", "still", "less", "centralized", "than", "Ack", "Policies", ",", "which", "require", "that", "users", "cooperate", "to", "determine", "a", "universally", "accepted", "Ack", "policy", ".", "And", "this", "centralization", "may", "be", "able", "to", "be", "decreased", "by", "decentralizing", "the", "database", "itself", ".", "Although", "we", "discuss", "the", "database", "as", "if", "it", "were", "a", "single", "monolithic", "entity", ",", "it", "could", "be", "made", "of", "a", "number", "of", "different", "entities", "acting", "together", ".", "The", "only", "requirement", "is", "that", "it", "accepts", "policies", "from", "unique", "users", "who", "have", "the", "attribute", "and", "distributes", "them", "randomly", ".", "The", "framework", "of", "automated", "trust", "negotiation", "was", "first", "proposed", "by", "Winsborough", "et", "al.", "-LSB-", "24", "-RSB-", ".", "Since", "then", ",", "great", "efforts", "have", "been", "put", "forward", "to", "address", "challenges", "in", "a", "variety", "of", "aspects", "of", "trust", "negotiation", ".", "An", "introduction", "to", "trust", "negotiation", "and", "related", "trust", "management", "issues", "can", "be", "found", "in", "-LSB-", "25", "-RSB-", ".", "As", "described", "in", "detail", "there", ",", "a", "number", "of", "trust", "negotiation", "systems", "and", "supporting", "middleware", "have", "been", "proposed", "and/or", "implemented", "in", "a", "variety", "of", "contexts", "-LRB-", "e.g.", ",", "-LSB-", "3", ",", "4", ",", "11", ",", "12", ",", "14", ",", "17", ",", "19", "-RSB-", "-RRB-", ".", "Information", "leakage", "during", "trust", "negotiation", "is", "studied", "in", "-LSB-", "13", ",", "5", ",", "15", ",", "20", ",", "21", ",", "22", ",", "23", "-RSB-", ".", "The", "work", "by", "Winsborough", "and", "Li", "has", "been", "discussed", "in", "detail", "in", "previous", "sections", ".", "Next", ",", "we", "discuss", "several", "other", "approaches", ".", "In", "-LSB-", "20", "-RSB-", ",", "non-response", "is", "proposed", "as", "a", "way", "to", "protect", "possession-sensitive", "attributes", ".", "The", "basic", "idea", "is", "to", "have", "Alice", ",", "the", "owner", "of", "a", "sensitive", "attribute", ",", "act", "as", "if", "she", "does", "not", "have", "the", "attribute", ".", "Only", "later", "when", "the", "other", "party", "accidentally", "satisfies", "her", "policy", "for", "that", "attribute", "will", "Alice", "disclose", "that", "attribute", ".", "This", "approach", "is", "easy", "to", "deploy", "in", "trust", "negotiation", ".", "But", "clearly", "it", "will", "often", "cause", "a", "potentially", "successful", "negotiation", "to", "fail", "because", "of", "Alice", "'s", "conservative", "response", ".", "Yu", "and", "Winslett", "-LSB-", "26", "-RSB-", "introduce", "a", "technique", "called", "policy", "migration", "to", "mitigate", "the", "problem", "of", "unauthorized", "inference", ".", "In", "policy", "migration", ",", "Alice", "dynamically", "integrates", "her", "poli-42", "cies", "for", "sensitive", "attributes", "with", "those", "of", "other", "attributes", ",", "so", "that", "she", "does", "not", "need", "to", "explicitly", "disclose", "policies", "for", "sensitive", "attributes", ".", "Meanwhile", ",", "policy", "migration", "makes", "sure", "that", "``", "migrated", "''", "policies", "are", "logically", "equivalent", "to", "original", "policies", ",", "and", "thus", "guarantees", "the", "success", "of", "the", "negotiation", "whenever", "possible", ".", "On", "the", "other", "hand", ",", "policy", "migration", "is", "not", "a", "universal", "solution", ",", "in", "the", "sense", "that", "it", "may", "not", "be", "applicable", "to", "all", "the", "possible", "configurations", "of", "a", "negotiation", ".", "Further", ",", "it", "is", "subject", "to", "a", "variety", "of", "attacks", ".", "In", "other", "words", ",", "it", "only", "seeks", "to", "make", "unauthorized", "inference", "harder", "instead", "of", "preventing", "it", "completely", ".", "Most", "existing", "trust", "negotiation", "frameworks", "-LSB-", "16", ",", "17", ",", "28", "-RSB-", "assume", "that", "the", "appropriate", "access", "control", "policies", "can", "be", "shown", "to", "Bob", "when", "he", "requests", "access", "to", "Alice", "'s", "resource", ".", "However", ",", "realistic", "access", "control", "policies", "also", "tend", "to", "contain", "sensitive", "information", ",", "because", "the", "details", "of", "Alice", "'s", "policy", "for", "the", "disclosure", "of", "a", "credential", "C", "tends", "to", "give", "hints", "about", "C", "'s", "contents", ".", "More", "generally", ",", "a", "company", "'s", "internal", "and", "external", "policies", "are", "part", "of", "its", "corporate", "assets", ",", "and", "it", "will", "not", "wish", "to", "indiscriminately", "broadcast", "its", "policies", "in", "their", "entirety", ".", "Several", "schemes", "have", "been", "proposed", "to", "protect", "the", "disclosure", "of", "sensitive", "policies", ".", "In", "-LSB-", "4", "-RSB-", ",", "Bonatti", "and", "Samarati", "suggests", "dividing", "a", "policy", "into", "two", "parts", "prerequisite", "rules", "and", "requisite", "rules", ".", "The", "constraints", "in", "a", "requisite", "rule", "will", "not", "be", "disclosed", "until", "those", "in", "prerequisite", "rules", "are", "satisfied", ".", "In", "-LSB-", "19", "-RSB-", ",", "Seamons", "et", "al.", "proposed", "organizing", "a", "policy", "into", "a", "directed", "graph", "so", "that", "constraints", "in", "a", "policy", "can", "be", "disclosed", "gradually", ".", "In", "-LSB-", "26", "-RSB-", ",", "access", "control", "policies", "are", "treated", "as", "first-class", "resources", ",", "thus", "can", "be", "protected", "in", "the", "same", "manner", "as", "services", "and", "credentials", ".", "Recently", ",", "much", "work", "has", "been", "done", "on", "mutual", "authentication", "and", "authorization", "through", "the", "use", "of", "cryptographic", "techniques", "that", "offer", "improved", "privacy", "guarantees", ".", "For", "example", ",", "Balfanz", "et", "al.", "-LSB-", "1", "-RSB-", "designed", "a", "secret-handshake", "scheme", "where", "two", "parties", "reveal", "their", "memberships", "in", "a", "group", "to", "each", "other", "if", "and", "only", "if", "they", "belong", "to", "the", "same", "group", ".", "Li", "et", "al.", "-LSB-", "15", "-RSB-", "proposed", "a", "mutual", "signature", "verification", "scheme", "to", "solve", "the", "problem", "of", "cyclic", "policy", "interdependency", "in", "trust", "negotiation", ".", "Under", "their", "scheme", ",", "Alice", "can", "see", "the", "content", "of", "Bob", "'s", "credential", "signed", "by", "a", "certification", "authority", "CA", "only", "if", "she", "herself", "has", "a", "valid", "certificate", "also", "signed", "by", "CA", "and", "containing", "the", "content", "she", "sent", "to", "Bob", "earlier", ".", "A", "similar", "idea", "was", "independently", "explored", "by", "researchers", "-LSB-", "5", ",", "13", "-RSB-", "to", "handle", "more", "complex", "access", "control", "policies", ".", "Note", "that", "approaches", "based", "on", "cryptographic", "techniques", "usually", "impose", "more", "constraints", "on", "access", "control", "policies", ".", "Therefore", ",", "policy", "databases", "are", "complementary", "to", "the", "above", "work", ".", "In", "this", "paper", ",", "we", "have", "proposed", "a", "general", "framework", "for", "safety", "in", "automated", "trust", "negotiation", ".", "The", "framework", "is", "based", "strictly", "on", "information", "gain", ",", "instead", "of", "on", "communication", ".", "It", "thus", "more", "directly", "reflects", "the", "essence", "of", "safe", "information", "flow", "in", "trust", "negotiation", ".", "We", "have", "also", "shown", "that", "Ack", "policy", "systems", "are", "safe", "under", "our", "framework", ".", "Based", "on", "the", "framework", ",", "we", "have", "presented", "policy", "databases", ",", "a", "new", ",", "safe", "trust", "negotiation", "system", ".", "Compared", "with", "existing", "systems", ",", "policy", "databases", "do", "not", "introduce", "extra", "layers", "of", "policies", "or", "other", "complications", "to", "the", "negotiation", "between", "users", ".", "Further", ",", "policy", "databases", "preserve", "user", "'s", "autonomy", "in", "defining", "their", "own", "policies", "instead", "of", "imposing", "uniform", "policies", "across", "all", "users", ".", "Therefore", "they", "are", "more", "flexible", "and", "easier", "to", "deploy", "than", "other", "systems", ".", "Further", ",", "we", "have", "discussed", "a", "number", "of", "practical", "issues", "which", "would", "be", "involved", "in", "implementing", "our", "system", ".", "In", "the", "future", ",", "we", "plan", "to", "address", "how", "our", "system", "can", "be", "used", "in", "the", "presence", "of", "delegated", "credentials", ".", "And", "we", "plan", "to", "attempt", "to", "broaden", "the", "system", "to", "account", "for", "probabilistic", "inferences", "rules", "which", "are", "publicly", "known", ".", "Acknowledgments", "This", "research", "was", "sponsored", "by", "NSF", "through", "IIS", "CyberTrust", "grant", "number", "0430166", "-LRB-", "NCSU", "-RRB-", ".", "We", "also", "thank", "anonymous", "reviewers", "for", "their", "helpful", "comments", ".", "-LSB-", "1", "-RSB-", "D.", "Balfanz", ",", "G.", "Durfee", ",", "N.", "Shankar", ",", "D.", "Smetters", ",", "J.", "Staddon", ",", "and", "H.", "Wong", ".", "Secret", "Handshakes", "from", "Pairing-Based", "Key", "Agreements", ".", "In", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "Berkeley", ",", "CA", ",", "May", "2003", ".", "-LSB-", "2", "-RSB-", "M.", "Blaze", ",", "J.", "Feigenbaum", ",", "J.", "Ioannidis", ",", "and", "A.", "Keromytis", ".", "The", "KeyNote", "Trust", "Management", "System", "Version", "2", ".", "In", "Internet", "Draft", "RFC", "2704", ",", "September", "1999", ".", "-LSB-", "3", "-RSB-", "M.", "Blaze", ",", "J.", "Feigenbaum", ",", "and", "A.", "D.", "Keromytis", ".", "KeyNote", ":", "Trust", "Management", "for", "Public-Key", "Infrastructures", ".", "In", "Security", "Protocols", "Workshop", ",", "Cambridge", ",", "UK", ",", "1998", ".", "-LSB-", "4", "-RSB-", "P.", "Bonatti", "and", "P.", "Samarati", ".", "Regulating", "Service", "Access", "and", "Information", "Release", "on", "the", "Web", ".", "In", "Conference", "on", "Computer", "and", "Communications", "Security", ",", "Athens", ",", "November", "2000", ".", "-LSB-", "5", "-RSB-", "R.W.", "Bradshaw", ",", "J.E.", "Holt", ",", "and", "K.E.", "Seamons", ".", "Concealing", "Complex", "Policies", "in", "Hidden", "Credentials", ".", "In", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", ",", "Washington", ",", "DC", ",", "October", "2004", ".", "-LSB-", "6", "-RSB-", "S.", "Brands", ".", "Rethinking", "Public", "Key", "Infrastructures", "and", "Digital", "Certificates", ":", "Building", "in", "Privacy", ".", "The", "MIT", "Press", ",", "2000", ".", "-LSB-", "7", "-RSB-", "J.", "Camenisch", "and", "E.V.", "Herreweghen", ".", "Design", "and", "Implementation", "of", "the", "Idemix", "Anonymous", "Credential", "System", ".", "In", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", ",", "Washington", "D.C.", ",", "November", "2002", ".", "-LSB-", "8", "-RSB-", "J.", "Camenisch", "and", "A.", "Lysyanskaya", ".", "Efficient", "Non-Transferable", "Anonymous", "Multi-Show", "Credential", "System", "with", "Optional", "Anonymity", "Revocation", ".", "In", "EUROCRYPT", "2001", ",", "volume", "2045", "of", "Lecture", "Notes", "in", "Computer", "Science", ".", "Springer", ",", "2001", ".", "-LSB-", "9", "-RSB-", "D.", "Chaum", ".", "Security", "without", "Identification", ":", "Transactions", "Systems", "to", "Make", "Big", "Brother", "Obsolete", ".", "Communications", "of", "the", "ACM", ",", "24", "-LRB-", "2", "-RRB-", ",", "1985", ".", "-LSB-", "10", "-RSB-", "I.B.", "Damg", "ard", ".", "Payment", "Systems", "and", "Credential", "Mechanism", "with", "Provable", "Security", "Against", "Abuse", "by", "Individuals", ".", "In", "CRYPTO", "'", "88", ",", "volume", "403", "of", "Lecture", "Notes", "in", "Computer", "Science", ".", "Springer", ",", "1990", ".", "-LSB-", "11", "-RSB-", "A.", "Herzberg", ",", "J.", "Mihaeli", ",", "Y.", "Mass", ",", "D.", "Naor", ",", "and", "Y.", "Ravid", ".", "Access", "Control", "Meets", "Public", "Key", "Infrastructure", ",", "Or", ":", "Assigning", "Roles", "to", "Strangers", ".", "In", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "Oakland", ",", "CA", ",", "May", "2000", ".", "-LSB-", "12", "-RSB-", "A.", "Hess", ",", "J.", "Jacobson", ",", "H.", "Mills", ",", "R.", "Wamsley", ",", "K.", "Seamons", ",", "and", "B.", "Smith", ".", "Advanced", "Client/Server", "Authentication", "in", "TLS", ".", "In", "Network", "and", "Distributed", "System", "Security", "Symposium", ",", "San", "Diego", ",", "CA", ",", "February", "2002", ".", "-LSB-", "13", "-RSB-", "J.", "Holt", ",", "R.", "bradshaw", ",", "K.E.", "Seamons", ",", "and", "H.", "Orman", ".", "Hidden", "Credentials", ".", "In", "ACM", "Workshop", "on", "Privacy", "in", "the", "Electronic", "Society", ",", "Washington", ",", "DC", ",", "October", "2003", ".", "-LSB-", "14", "-RSB-", "W.", "Johnson", ",", "S.", "Mudumbai", ",", "and", "M.", "Thompson", ".", "Authorization", "and", "Attribute", "Certificates", "for", "Widely", "Distributed", "Access", "Control", ".", "In", "IEEE", "International", "Workshop", "on", "Enabling", "Technologies", ":", "Infrastructure", "for", "Collaborative", "Enterprises", ",", "1998", ".", "-LSB-", "15", "-RSB-", "N.", "Li", ",", "W.", "Du", ",", "and", "D.", "Boneh", ".", "Oblivious", "Signature-Based", "Envelope", ".", "In", "ACM", "Symposium", "on", "Principles", "of", "Distributed", "Computing", ",", "New", "York", "City", ",", "NY", ",", "July", "2003", ".", "-LSB-", "16", "-RSB-", "N.", "Li", ",", "J.C.", "Mitchell", ",", "and", "W.", "Winsborough", ".", "Design", "of", "a", "Role-based", "Trust-management", "Framework", ".", "In", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "Berkeley", ",", "California", ",", "May", "2002", ".", "-LSB-", "17", "-RSB-", "N.", "Li", ",", "W.", "Winsborough", ",", "and", "J.C.", "Mitchell", ".", "Distributed", "Credential", "Chain", "Discovery", "in", "Trust", "Management", ".", "Journal", "of", "Computer", "Security", ",", "11", "-LRB-", "1", "-RRB-", ",", "February", "2003", ".", "-LSB-", "18", "-RSB-", "A.", "Lysyanskaya", ",", "R.", "Rivest", ",", "A.", "Sahai", ",", "and", "S.", "Wolf", ".", "Pseudonym", "Systems", ".", "In", "Selected", "Areas", "in", "Cryptography", ",", "1999", ",", "volume", "1758", "of", "Lecture", "Notes", "in", "Computer", "Science", ".", "Springer", ",", "2000", ".", "-LSB-", "19", "-RSB-", "K.", "Seamons", ",", "M.", "Winslett", ",", "and", "T.", "Yu", ".", "Limiting", "the", "Disclosure", "of", "Access", "Control", "Policies", "during", "Automated", "Trust", "43", "Negotiation", ".", "In", "Network", "and", "Distributed", "System", "Security", "Symposium", ",", "San", "Diego", ",", "CA", ",", "February", "2001", ".", "-LSB-", "20", "-RSB-", "K.", "Seamons", ",", "M.", "Winslett", ",", "T.", "Yu", ",", "L.", "Yu", ",", "and", "R.", "Jarvis", ".", "Protecting", "Privacy", "during", "On-line", "Trust", "Negotiation", ".", "In", "2nd", "Workshop", "on", "Privacy", "Enhancing", "Technologies", ",", "San", "Francisco", ",", "CA", ",", "April", "2002", ".", "-LSB-", "21", "-RSB-", "W.", "Winsborough", "and", "N.", "Li", ".", "Protecting", "Sensitive", "Attributes", "in", "Automated", "Trust", "Negotiation", ".", "In", "ACM", "Workshop", "on", "Privacy", "in", "the", "Electronic", "Society", ",", "Washington", ",", "DC", ",", "November", "2002", ".", "-LSB-", "22", "-RSB-", "W.", "Winsborough", "and", "N.", "Li", ".", "Towards", "Practical", "Automated", "Trust", "Negotiation", ".", "In", "3rd", "International", "Workshop", "on", "Policies", "for", "Distributed", "Systems", "and", "Networks", ",", "Monterey", ",", "California", ",", "June", "2002", ".", "-LSB-", "23", "-RSB-", "W.", "Winsborough", "and", "N.", "Li", ".", "Safety", "in", "Automated", "Trust", "Negotiation", ".", "In", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "Oakland", ",", "CA", ",", "May", "2004", ".", "-LSB-", "24", "-RSB-", "W.", "Winsborough", ",", "K.", "Seamons", ",", "and", "V.", "Jones", ".", "Automated", "Trust", "Negotiation", ".", "In", "DARPA", "Information", "Survivability", "Conference", "and", "Exposition", ",", "Hilton", "Head", "Island", ",", "SC", ",", "January", "2000", ".", "-LSB-", "25", "-RSB-", "M.", "Winslett", ",", "T.", "Yu", ",", "K.E.", "Seamons", ",", "A.", "Hess", ",", "J.", "Jarvis", ",", "B.", "Smith", ",", "and", "L.", "Yu", ".", "Negotiating", "Trust", "on", "the", "Web", ".", "IEEE", "Internet", "Computing", ",", "special", "issue", "on", "trust", "management", ",", "6", "-LRB-", "6", "-RRB-", ",", "November", "2002", ".", "-LSB-", "26", "-RSB-", "T.", "Yu", "and", "M.", "Winslett", ".", "A", "Unified", "Scheme", "for", "Resource", "Protection", "in", "Automated", "Trust", "Negotiation", ".", "In", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "Oakland", ",", "CA", ",", "May", "2003", ".", "-LSB-", "27", "-RSB-", "T.", "Yu", "and", "M.", "Winslett", ".", "Policy", "Migration", "for", "Sensitive", "Credentials", "in", "Trust", "Negotiation", ".", "In", "ACM", "Workshop", "on", "Privacy", "in", "the", "Electronic", "Society", ",", "Washington", ",", "DC", ",", "October", "2003", ".", "-LSB-", "28", "-RSB-", "T.", "Yu", ",", "M.", "Winslett", ",", "and", "K.", "Seamons", ".", "Supporting", "Structured", "Credentials", "and", "Sensitive", "Policies", "through", "Interoperable", "Strategies", "in", "Automated", "Trust", "Negotiation", ".", "ACM", "Transactions", "on", "Information", "and", "System", "Security", ",", "6", "-LRB-", "1", "-RRB-", ",", "February", "2003", ".", "APPENDIX", "A.", "PROOF", "OF", "THEOREM", "1", "Our", "goal", "is", "to", "prove", "the", "following", "theorem", ":", "There", "exists", "no", "opponent", "which", "can", "beat", "the", "a", "priori", "odds", "of", "guessing", "the", "value", "of", "an", "object", ",", "o", "given", "only", "information", "about", "objects", "which", "are", "not", "in", "the", "same", "inference", "component", "as", "o", ",", "over", "all", "principals", "not", "in", "M", "and", "whose", "policy", "for", "o", "M", "can", "not", "satisfy", ",", "over", "all", "random", "tapes", ",", "and", "over", "all", "mappings", "of", "public", "key", "values", "to", "principals", ".", "Now", "it", "follows", "that", "if", "the", "opponent", "can", "beat", "the", "a", "priori", "odds", "of", "guessing", "the", "value", "of", "an", "object", ",", "o", ",", "then", "the", "opponent", "can", "beat", "the", "a", "priori", "odds", "of", "guessing", "the", "parity", "of", "o.", "Hence", ",", "if", "no", "opponent", "can", "beat", "the", "a", "priori", "odds", "of", "guessing", "the", "parity", "of", "an", "object", ",", "then", "none", "can", "beat", "the", "odds", "of", "guessing", "the", "value", "of", "the", "object", ".", "Lemma", "1", ".", "There", "exists", "no", "opponent", "which", "can", "beat", "the", "a", "priori", "odds", "of", "guessing", "the", "parity", "of", "an", "object", ",", "o", "given", "only", "information", "about", "objects", "which", "are", "not", "in", "the", "same", "inference", "component", "as", "o", ",", "over", "all", "principals", "not", "in", "M", "and", "whose", "policy", "for", "o", "M", "can", "not", "satisfy", ",", "over", "all", "random", "tapes", ",", "and", "over", "all", "mappings", "of", "public", "key", "values", "to", "principals", ".", "To", "prove", "this", ",", "we", "begin", "with", "an", "assumption", "that", "there", "exists", "some", "tactic", "which", "can", "successfully", "guess", "the", "parity", "of", "o", "with", "odds", "better", "than", "the", "a", "priori", "odds", "for", "at", "least", "some", "public", "key", "mappings", ".", "We", "are", "going", "to", "prove", "that", "any", "such", "tactic", "can", "not", "beat", "the", "a", "priori", "odds", "on", "average", "across", "all", "mappings", "because", "there", "must", "be", "more", "mappings", "where", "it", "fails", "to", "beat", "the", "a", "priori", "odds", "than", "where", "it", "beats", "them", ".", "Just", "to", "be", "clear", ",", "the", "tactic", "is", "allowed", "to", "interact", "with", "principals", "whose", "policy", "for", "o", "it", "can", "satisfy", ".", "It", "just", "does", "not", "get", "to", "guess", "about", "the", "value", "of", "o", "for", "those", "principals", ",", "as", "it", "is", "entitled", "to", "beat", "the", "a", "priori", "odds", "for", "them", ".", "Hence", ",", "doing", "so", "is", "not", "considered", "a", "leakage", "in", "the", "system", ".", "Because", "the", "tactic", "is", "a", "deterministic", "Turing-equivalent", "computational", "machine", ",", "when", "it", "outputs", "its", "final", "guesses", ",", "it", "must", "output", "them", "in", "some", "order", ".", "We", "will", "define", "n", "to", "be", "the", "number", "of", "users", ",", "|", "K", "|", ".", "We", "will", "number", "the", "series", "of", "principals", "k", "1", ",", "k", "2", ",", "...", ",", "k", "n", ".", "Without", "loss", "of", "generality", ",", "we", "can", "assume", "that", "every", "principal", "'s", "strategy", "'s", "random", "tape", "has", "some", "fixed", "value", ",", "resulting", "in", "them", "behaving", "in", "a", "strictly", "deterministic", "manner", ".", "Therefore", ",", "as", "the", "tactic", "and", "strategies", "are", "deterministic", ",", "the", "only", "remaining", "variable", "is", "the", "mapping", "of", "public", "keys", "to", "principals", ".", "Next", "we", "will", "fix", "the", "sequence", "of", "public", "keys", ".", "Because", "public", "keys", "are", "randomly", "chosen", "to", "begin", "with", ",", "and", "we", "are", "varying", "over", "the", "set", "of", "all", "public-key", "to", "user", "mappings", ",", "we", "can", "do", "this", "without", "loss", "of", "generality", ".", "The", "order", "in", "which", "guesses", "are", "made", "must", "in", "some", "way", "depend", "only", "on", "the", "a", "priori", "knowledge", ",", "the", "public", "keys", ",", "and", "the", "communications", "which", "the", "tactic", "has", "with", "the", "strategies", ".", "So", ",", "if", "all", "of", "these", "things", "are", "kept", "constant", ",", "the", "guesses", "will", "not", "change", ".", "Let", "us", "suppose", "that", "a", "fraction", "h", "of", "the", "population", "whose", "policy", "for", "o", "has", "not", "been", "satisfied", "has", "one", "parity", "value", ",", "and", "a", "fraction", "1", "-", "h", "of", "the", "population", "has", "the", "other", ".", "Without", "loss", "of", "generality", ",", "we", "assume", "that", "h", "1", "-", "h", ".", "We", "determine", "h", "by", "calculating", "the", "relative", "a", "priori", "probabilities", "given", "the", "distribution", "of", "the", "values", "of", "the", "object", ".", "The", "a", "priori", "probability", "of", "successfully", "guessing", "which", "parity", "a", "given", "user", "'s", "object", "has", "is", "h.", "Now", ",", "if", "there", "exists", "some", "order", "of", "interaction", ",", "i", "which", "beats", "the", "a", "priori", "odds", ",", "then", "its", "number", "of", "correct", "guesses", "must", "be", "expressible", "as", "hn", "+", "for", "some", ">", "0", ".", "We", "can", "break", "the", "set", "of", "users", "whose", "policies", "for", "o", "M", "can", "not", "meet", "down", "into", "a", "group", "of", "sets", "according", "to", "the", "values", "of", "the", "objects", "which", "are", "in", "inference", "components", "other", "than", "the", "one", "which", "contains", "o", ".", "We", "will", "define", "a", "set", "of", "sets", ",", "V", "G", "such", "that", "vg", "V", "G", "is", "a", "set", "of", "users", "all", "of", "which", "have", "the", "same", "values", "for", "all", "objects", "in", "all", "inference", "components", "other", "than", "the", "one", "which", "contains", "o.", "Now", ",", "let", "us", "consider", "the", "possibility", "of", "rearranging", "the", "public", "keys", "of", "members", "of", "this", "group", ".", "Because", "the", "strategies", "in", "use", "are", "defined", "to", "be", "deterministic", "with", "respect", "to", "the", "policies", "governing", "the", "attributes", "which", "distinguish", "the", "two", "configurations", "and", "because", "the", "opponent", "is", "defined", "to", "be", "deterministic", ":", "it", "follows", "that", "if", "we", "were", "to", "rearrange", "user", "'s", "public", "keys", "from", "the", "original", "mapping", "to", "create", "a", "new", "mapping", ",", "the", "communication", "would", "be", "the", "same", "in", "both", ".", "Since", "the", "communication", "would", "be", "the", "same", ",", "it", "follows", "that", "the", "tactic", "would", "make", "the", "same", "guesses", "relative", "to", "the", "order", "of", "users", "because", "it", "is", "a", "deterministic", "machine", "and", "must", "produce", "the", "same", "output", "given", "the", "same", "input", ",", "the", "end", "result", "of", "which", "is", "that", "switching", "two", "users", "both", "of", "whom", "are", "members", "of", "the", "same", "value", "group", "will", "result", "in", "the", "guesses", "of", "the", "parity", "of", "those", "two", "users", "switching", "as", "well", ".", "We", "can", "then", "consider", "the", "set", "of", "all", "arrangements", "of", "public", "keys", "formed", "by", "switching", "principals", "around", "within", "their", "value", "groups", ",", "which", "we", "shall", "call", "I", ".", "So", "the", "question", "at", "hand", ",", "then", ",", "is", "whether", "or", "not", "the", "expected", "value", "of", "across", "all", "members", "of", "I", "is", "positive", ".", "If", "we", "can", "demonstrate", "that", "it", "is", "not", ",", "then", "no", "successful", "opponent", "can", "exist", ".", "Here", "we", "introduce", "another", "lemma", ".", "Proof", "of", "this", "lemma", "is", "now", "sufficient", "to", "establish", "our", "earlier", "lemma", ".", "Lemma", "2", ".", "The", "expected", "value", "of", "across", "all", "public", "key", "mappings", "is", "less", "than", "or", "equal", "to", "zero", ".", "44", "If", "we", "have", "some", "quantity", "of", "extra", "correct", "guesses", ",", ",", "for", "some", "public", "key", "mapping", "i", ",", "then", "these", "guesses", "must", "be", "distributed", "over", "some", "set", "of", "value", "groups", ".", "If", "is", "to", "be", "positive", "on", "average", ",", "then", "at", "least", "some", "value", "groups", "must", "average", "a", "number", "of", "correct", "guesses", "above", "the", "a", "priori", "probability", "over", "all", "arrangements", "in", "I.", "Let", "us", "assume", "that", "we", "have", "one", "such", "group", "vg", ".", "Because", "the", "distributions", "of", "values", "of", "items", "in", "other", "inference", "components", "are", "defined", "to", "be", "precisely", "independent", "of", "o", ",", "we", "can", "know", "that", "in", "each", "group", ",", "there", "must", "be", "a", "fraction", "h", "of", "the", "members", "which", "have", "one", "parity", "and", "1", "-", "h", "which", "have", "the", "other", ".", "So", ",", "in", "vg", "there", "will", "be", "x", "=", "h", "|", "vg", "|", "principals", "with", "the", "first", "parity", "and", "y", "=", "-LRB-", "1", "-", "h", "-RRB-", "|", "vg", "|", "principals", "with", "the", "second", ",", "and", "the", "a", "priori", "expected", "number", "of", "correct", "guesses", "would", "be", "x.", "If", ",", "for", "some", "mapping", ",", "i", ",", "the", "tactic", "is", "successful", ",", "then", "there", "must", "be", "some", "number", "of", "correct", "guesses", "x", "+", "where", ">", "0", ".", "We", "also", "know", "that", "y", "simply", "because", "the", "tactic", "is", "limited", "in", "total", "correct", "guesses", "to", "|", "vg", "|", "=", "x", "+", "y", ".", "As", "the", "number", "of", "correct", "guesses", "is", "x", "+", ",", "it", "must", "follow", "that", "the", "number", "of", "incorrect", "guesses", "is", "y", "-", ".", "Further", ",", "we", "need", "to", "note", "that", "the", "tactic", "must", "make", "some", "quantity", "of", "first", "parity", "guesses", "and", "some", "quantity", "of", "second", "parity", "guesses", ".", "Obviously", ",", "these", "quantities", "need", "to", "add", "up", "to", "|", "vg", "|", ",", "but", "need", "not", "match", "up", "with", "x", "and", "y.", "Every", "extra", "first", "parity", "or", "second", "parity", "guess", "guarantees", "at", "least", "one", "mistake", ",", "but", "even", "with", "several", "mistakes", ",", "it", "is", "quite", "possible", "to", "beat", "the", "a", "priori", "odds", "for", "some", "arrangements", ".", "So", "we", "define", "x", "+", "c", "to", "be", "the", "number", "of", "first", "parity", "guesses", "and", "y", "-", "c", "to", "be", "the", "number", "of", "second", "parity", "guesses", ".", "Now", ",", "we", "know", "that", "each", "increase", "of", "one", "in", "|", "c", "|", "guarantees", "at", "least", "one", "wrong", "guess", ",", "so", "we", "have", "a", "bound", "of", "+", "|", "c", "|", "y.", "Further", ",", "we", "know", "that", "since", "c", "is", "fixed", "-LRB-", "as", "it", "is", "not", "dependent", "on", "the", "arrangement", ",", "only", "the", "guesses", "which", "are", "unchanging", "-RRB-", ",", "the", "only", "way", "to", "gain", "a", "wrong", "guess", "is", "to", "swap", "a", "first", "parity", "principal", "with", "a", "second", "parity", "principal", ",", "which", "must", "necessarily", "create", "two", "wrong", "guesses", ".", "So", "we", "can", "quantify", "the", "number", "of", "wrong", "first", "parity", "guesses", "and", "the", "number", "of", "wrong", "second", "parity", "guesses", "using", "the", "terms", "we", "have", "set", "up", ".", "Specifically", ",", "there", "must", "be", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "incorrect", "first", "parity", "guesses", ",", "and", "1", "2", "-LRB-", "y", "-", "-", "c", "-RRB-", "incorrect", "second", "parity", "guesses", ".", "Now", "we", "can", "determine", "the", "number", "of", "arrangements", "of", "principals", "which", "will", "create", "x", "+", "correct", "guesses", ".", "Specifically", ",", "we", "look", "at", "the", "total", "number", "of", "principals", "which", "are", "first", "parity", "and", "choose", "a", "way", "to", "arrange", "them", "to", "match", "up", "with", "incorrect", "second", "parity", "guesses", "and", "we", "look", "at", "the", "total", "number", "of", "principals", "which", "are", "second", "parity", "and", "choose", "a", "way", "to", "arrange", "them", "to", "match", "up", "with", "incorrect", "first", "parity", "guesses", ".", "Then", "we", "multiply", "that", "by", "the", "number", "of", "permutations", "of", "first", "parity", "principals", "and", "the", "number", "of", "permutations", "of", "second", "parity", "principals", ".", "And", "we", "arrive", "at", "`", "x", "1", "2", "-LRB-", "y", "--", "c", "-RRB-", "`", "y", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "x!y", "!", ".", "Now", ",", "similarly", ",", "we", "can", "calculate", "the", "number", "of", "arrangements", "which", "will", "result", "in", "x", "-", "correct", "answers", ".", "And", "if", "for", "all", "there", "are", "at", "least", "as", "many", "arrangements", "which", "produce", "x", "-", "correct", "answers", "as", "produce", "x", "+", "of", "them", "then", "the", "average", "of", "can", "not", "exceed", "0", ".", "Now", ",", "if", "there", "are", "x", "-", "correct", "answers", ",", "then", "there", "must", "be", "y", "+", "incorrect", "ones", ".", "And", "we", "can", "use", "the", "same", "reasoning", "to", "establish", "that", "there", "must", "be", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "incorrect", "first", "parity", "guesses", "and", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "incorrect", "second", "parity", "guesses", ",", "and", "hence", "`", "x", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "`", "y", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "x!y", "!", "arrangements", "which", "result", "in", "x", "correct", "guesses", ".", "So", "if", "we", "can", "prove", "that", "this", "is", "no", "less", "than", "the", "previous", "quantity", "then", "our", "proof", "will", "be", "complete", ".", "`", "x", "1", "2", "-LRB-", "y", "--", "c", "-RRB-", "`", "y", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "x!y", "!", "`", "x", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "`", "y", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "x!y", "!", "`", "x", "1", "2", "-LRB-", "y", "--", "c", "-RRB-", "`", "y", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "`", "x", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "`", "y", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "x", "!", "-LRB-", "1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "y", "!", "-LRB-", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "y-1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "-RRB-", "!", "x", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "y", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "y-1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-RRB-", "!", "1", "-LRB-", "1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "1", "-LRB-", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "1", "-LRB-", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "1", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "1", "-LRB-", "x-1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "-RRB-", "!", "1", "-LRB-", "x-1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x", "1", "2", "-LRB-", "y", "-", "-", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x", "1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "+", "-", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "-", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-RRB-", "!", "-LRB-", "x-1", "2", "-LRB-", "y", "--", "c", "-RRB-", "-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-RRB-", "!", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "-", "-RRB-", "!", "We", "define", "a", "function", "f", "-LRB-", "a", ",", "k", "-RRB-", "=", "a", "!", "/", "-LRB-", "a-k", "-RRB-", "!", ",", "i.e.", "the", "product", "starting", "from", "a", "going", "down", "k", "integers", ".", "And", "obviously", "a", "b", "f", "-LRB-", "a", ",", "k", "-RRB-", "f", "-LRB-", "b", ",", "k", "-RRB-", ",", "b", "k", "0", ".", "Then", "we", "can", "rewrite", "the", "last", "inequality", "as", "f", "-LRB-", "x", "1", "2", "-LRB-", "y", "-", "c", "-RRB-", ",", "-RRB-", "f", "-LRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", ",", "-RRB-", ",", "which", ",", "noting", "that", "0", "and", "y", "+", "|", "c", "|", "y", "-", "c", "y", "+", "c", "+", "2", "1", "2", "-LRB-", "y", "+", "c", "+", "-RRB-", ",", "is", "implied", "by", "x-1", "2", "-LRB-", "y", "-", "-", "c", "-RRB-", "1", "2", "-LRB-", "y", "+", "+", "c", "-RRB-", "x-1", "2", "y", "1", "2", "y", "x", "y", "h", "|", "vg", "|", "-LRB-", "1", "-", "h", "-RRB-", "|", "vg", "|", "h", "-LRB-", "1", "-", "h", "-RRB-", "which", "we", "know", "to", "be", "true", "from", "our", "assumption", "at", "the", "start", "of", "the", "proof", ".", "So", "we", "have", "proven", "lemma", "2", ",", "and", "this", "completes", "the", "proof", ".", "B.", "PROOF", "OF", "THEOREM", "2", "We", "define", "n", "to", "be", "the", "number", "of", "users", ",", "|", "K", "|", ".", "Because", "we", "assume", "that", "this", "system", "is", "in", "a", "fixed", "state", ",", "every", "user", "k", "is", "in", "some", "configuration", "g", "k", ".", "Now", "let", "us", "examine", "some", "particular", "attribute", ",", "t", ".", "We", "know", "that", "a", "fraction", "h", "of", "users", "have", "that", "attribute", "and", "1", "-", "h", "do", "not", ".", "Let", "us", "define", "a", "set", "of", "policies", "L", "=", "-LCB-", "p", "|", "t", "T", ",", "k", "Kq", "s", "t", "Q", "such", "that", "p", "=", "q", "s", "t", "-LRB-", "k", "-RRB-", "-RCB-", ".", "We", "also", "need", "to", "know", "the", "fraction", "of", "users", "who", "have", "each", "policy", "in", "L", ".", "As", "the", "number", "of", "users", "grows", "towards", "infinity", ",", "the", "number", "of", "possible", "policies", "stays", "finite", ",", "so", "multiple", "users", "with", "the", "attribute", "will", "wind", "up", "sharing", "the", "same", "policy", ".", "For", "every", "member", "l", "L", ",", "we", "define", "f", "l", "to", "be", "the", "fraction", "of", "users", "with", "attribute", "t", "who", "have", "policy", "l.", "P", "lL", "f", "l", "=", "1", ".", "We", "assume", "that", "as", "n", "approaches", "infinity", ",", "f", "l", "approaches", "some", "fixed", "quantity", "^", "f", "l", "for", "every", "l", "L.", "Essentially", ",", "what", "we", "are", "assuming", "is", "that", "there", "is", "a", "fixed", "fraction", "of", "users", "with", "the", "attribute", "who", "will", "chose", "any", "given", "policy", ".", "The", "particular", "number", "will", "vary", "at", "any", "given", "time", ",", "but", "over", "time", ",", "we", "will", "approach", "this", "fraction", ".", "We", "should", "then", "know", "that", "for", "some", "particular", "policy", "l", ",", "the", "odds", "of", "a", "user", "without", "the", "attribute", "drawing", "policy", "l", "are", "also", "f", "l", "because", "policies", "are", "handed", "out", "with", "the", "same", "distribution", "that", "they", "are", "submitted", ".", "The", "distribution", "which", "describes", "how", "many", "users", "we", "are", "actually", "going", "to", "have", "with", "this", "policy", "is", "a", "binomial", "distribution", ".", "The", "variance", "of", "a", "binomial", "distribution", "is", "2", "=", "n", "-LRB-", "1-h", "-RRB-", "f", "l", "-LRB-", "1-f", "l", "-RRB-", ".", "The", "difference", "between", "the", "actual", "and", "the", "ideal", "is", "the", "square", "root", "of", "the", "variance", "divided", "by", "the", "expected", "number", "of", "users", "who", "have", "a", "given", "policy", ",", "which", "is", "nf", "l", ".", "Hence", ",", "the", "expected", "difference", "between", "our", "practical", "system", "and", "the", "ideal", "system", "is", "n", "-LRB-", "1-h", "-RRB-", "f", "l", "-LRB-", "1-f", "l", "-RRB-", "nf", "l", "=", "q", "-LRB-", "1-h", "-RRB-", "-LRB-", "1-f", "l", "-RRB-", "nf", "l", ".", "1", "-", "h", "is", "a", "constant", "term", ",", "and", "f", "l", "will", "approach", "^", "f", "l", ",", "which", "is", "a", "fixed", "quantity", ".", "So", "lim", "ninf", "-LRB-", "1-h", "-RRB-", "-LRB-", "1-f", "l", "-RRB-", "nf", "l", "=", "0", ",", "and", "we", "have", "proven", "that", "our", "system", "approaches", "the", "ideal", "as", "the", "number", "of", "users", "goes", "to", "infinity", ".", "45"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["privacy", "trust negotiation"], "abstractive_keyphrases": ["attribute-based access control"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "137", "document": ["Minimizing", "Average", "Flow", "Time", "on", "Related", "Machines", "We", "give", "the", "first", "on-line", "poly-logarithmic", "competitve", "algorithm", "for", "minimizing", "average", "flow", "time", "with", "preemption", "on", "related", "machines", ",", "i.e.", ",", "when", "machines", "can", "have", "different", "speeds", ".", "This", "also", "yields", "the", "first", "poly-logarithmic", "polynomial", "time", "approximation", "algorithm", "for", "this", "problem", ".", "More", "specifically", ",", "we", "give", "an", "O", "-LRB-", "log", "2", "P", "log", "S", "-RRB-", "-", "competitive", "algorithm", ",", "where", "P", "is", "the", "ratio", "of", "the", "biggest", "and", "the", "smallest", "processing", "time", "of", "a", "job", ",", "and", "S", "is", "the", "ratio", "of", "the", "highest", "and", "the", "smallest", "speed", "of", "a", "machine", ".", "Our", "algorithm", "also", "has", "the", "nice", "property", "that", "it", "is", "non-migratory", ".", "The", "scheduling", "algorithm", "is", "based", "on", "the", "concept", "of", "making", "jobs", "wait", "for", "a", "long", "enough", "time", "before", "scheduling", "them", "on", "slow", "machines", ".", "F.", "2.2", "-LSB-", "Analysis", "of", "Algorithms", "and", "Problem", "Complexity", "-RSB-", ":", "Nonnumerical", "Algorithms", "and", "Problems", "--", "Sequencing", "and", "Scheduling", "Algorithms", "We", "consider", "the", "problem", "of", "scheduling", "jobs", "that", "arrive", "over", "time", "in", "multiprocessor", "environments", ".", "This", "is", "a", "fundamental", "scheduling", "problem", "and", "has", "many", "applications", ",", "e.g.", ",", "servicing", "requests", "in", "web", "servers", ".", "The", "goal", "of", "a", "scheduling", "Work", "done", "as", "part", "of", "the", "``", "Approximation", "Algorithms", "''", "partner", "group", "of", "MPI-Informatik", ",", "Germany", ".", "Supported", "by", "an", "IBM", "faculty", "development", "award", "and", "a", "travel", "grant", "from", "the", "Max", "Plank", "Society", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "STOC", "'", "06", ",", "May", "21", "23", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-134-1", "/", "06/0005", "...", "$", "5.00", ".", "algorithm", "is", "to", "process", "jobs", "on", "the", "machines", "so", "that", "some", "measure", "of", "performance", "is", "optimized", ".", "Perhaps", "the", "most", "natural", "measure", "is", "the", "average", "flow", "time", "of", "the", "jobs", ".", "Flow", "time", "of", "a", "job", "is", "defined", "as", "the", "difference", "of", "its", "completion", "time", "and", "its", "release", "time", ",", "i.e.", ",", "the", "time", "it", "spends", "in", "the", "system", ".", "This", "problem", "has", "received", "considerable", "attention", "in", "the", "recent", "past", "-LSB-", "1", ",", "2", ",", "10", "-RSB-", ".", "All", "of", "these", "works", "make", "the", "assumption", "that", "the", "machines", "are", "identical", ",", "i.e.", ",", "they", "have", "the", "same", "speed", ".", "But", "it", "is", "very", "natural", "to", "expect", "that", "in", "a", "heterogenous", "processing", "environment", "different", "machines", "will", "have", "different", "processing", "power", ",", "and", "hence", "different", "speeds", ".", "In", "this", "paper", ",", "we", "consider", "the", "problem", "of", "scheduling", "jobs", "on", "machines", "with", "different", "speeds", ",", "which", "is", "also", "referred", "to", "as", "related", "machines", "in", "the", "scheduling", "literature", ".", "We", "allow", "for", "jobs", "to", "be", "preempted", ".", "Indeed", ",", "the", "problem", "turns", "out", "to", "be", "intractable", "if", "we", "do", "not", "allow", "preemption", ".", "Kellerer", "et", ".", "al.", "-LSB-", "9", "-RSB-", "showed", "that", "the", "problem", "of", "minimizing", "average", "flow", "time", "without", "preemption", "has", "no", "online", "algorithm", "with", "o", "-LRB-", "n", "-RRB-", "competitive", "ratio", "even", "on", "a", "single", "machine", ".", "They", "also", "showed", "that", "it", "is", "hard", "to", "get", "a", "polynomial", "time", "O", "-LRB-", "n", "1/2", "-RRB-", "-", "approximation", "algorithm", "for", "this", "problem", ".", "So", "preemption", "is", "a", "standard", ",", "and", "much", "needed", ",", "assumption", "when", "minimizing", "flow", "time", ".", "In", "the", "standard", "notation", "of", "Graham", "et", ".", "al.", "-LSB-", "7", "-RSB-", ",", "we", "consider", "the", "problem", "Q", "|", "r", "j", ",", "pmtn", "|", "P", "j", "F", "j", ".", "We", "give", "the", "first", "poly-logarithmic", "competitive", "algorithm", "for", "minimizing", "average", "flow", "time", "on", "related", "machines", ".", "More", "specifically", ",", "we", "give", "an", "O", "-LRB-", "log", "2", "P", "log", "S", "-RRB-", "-", "competitive", "algorithm", ",", "where", "P", "is", "the", "ratio", "of", "the", "biggest", "and", "the", "smallest", "processing", "time", "of", "a", "job", ",", "and", "S", "is", "the", "ratio", "of", "the", "highest", "and", "the", "smallest", "speed", "of", "a", "machine", ".", "This", "is", "also", "the", "first", "polynomial", "time", "poly-logarithmic", "approximation", "algorithm", "for", "this", "problem", ".", "Despite", "its", "similarity", "to", "the", "special", "case", "when", "machines", "are", "identical", ",", "this", "problem", "is", "more", "difficult", "since", "we", "also", "have", "to", "worry", "about", "the", "processing", "times", "of", "jobs", ".", "Our", "algorithm", "is", "also", "non-migratory", ",", "i.e.", ",", "it", "processes", "a", "job", "on", "only", "one", "machine", ".", "This", "is", "a", "desirable", "feature", "in", "many", "applications", "because", "moving", "jobs", "across", "machines", "may", "have", "many", "overheads", ".", "Related", "Work", "The", "problem", "of", "minimizing", "average", "flow", "time", "-LRB-", "with", "preemption", "-RRB-", "on", "identical", "parallel", "machines", "has", "received", "much", "attention", "in", "the", "past", "few", "years", ".", "Leonardi", "and", "Raz", "-LSB-", "10", "-RSB-", "showed", "that", "the", "Shortest", "Remaining", "Processing", "Time", "-LRB-", "SRPT", "-RRB-", "algorithm", "has", "a", "competitive", "ratio", "of", "O", "-LRB-", "log", "-LRB-", "min", "-LRB-", "n", "m", ",", "P", "-RRB-", "-RRB-", "-RRB-", ",", "where", "n", "is", "the", "number", "of", "jobs", ",", "and", "m", "is", "the", "number", "of", "machines", ".", "A", "matching", "lower", "bound", "on", "the", "competitive", "ratio", "of", "any", "on-line", "-LRB-", "randomized", "-RRB-", "algorithm", "for", "this", "problem", "was", "also", "shown", "by", "the", "same", "authors", ".", "Awerbuch", "et", ".", "al.", "-LSB-", "2", "-RSB-", "gave", "a", "non-migratory", "version", "of", "SRPT", "with", "competitive", "ratio", "of", "O", "-LRB-", "log", "-LRB-", "min", "-LRB-", "n", ",", "P", "-RRB-", "-RRB-", "-RRB-", ".", "Chekuri", "et", ".", "al.", "-LSB-", "5", "-RSB-", "730", "gave", "a", "non-migratory", "algorithm", "with", "competitive", "ratio", "of", "O", "-LRB-", "log", "-LRB-", "min", "-LRB-", "n", "m", ",", "P", "-RRB-", "-RRB-", "-RRB-", ".", "One", "of", "the", "merits", "of", "their", "algorithm", "was", "a", "much", "simpler", "analysis", "of", "the", "competitive", "ratio", ".", "Instead", "of", "preferring", "jobs", "according", "to", "their", "remaining", "processing", "times", ",", "their", "algorithm", "divides", "jobs", "into", "classes", "when", "they", "arrive", ".", "A", "job", "goes", "to", "class", "k", "if", "its", "processing", "time", "is", "between", "2", "k-1", "and", "2", "k", ".", "The", "scheduling", "algorithm", "now", "prefers", "jobs", "of", "smaller", "class", "irrespective", "of", "the", "remaining", "processing", "time", ".", "We", "also", "use", "this", "notion", "of", "classes", "of", "jobs", "in", "our", "algorithm", ".", "Azar", "and", "Avrahami", "-LSB-", "1", "-RSB-", "gave", "a", "non-migratory", "algorithm", "with", "immediate", "dispatch", ",", "i.e.", ",", "a", "job", "is", "sent", "to", "a", "machine", "as", "soon", "as", "it", "arrives", ".", "Their", "algorithm", "tries", "to", "balance", "the", "load", "assigned", "to", "each", "machine", "for", "each", "class", "of", "jobs", ".", "Their", "algorithm", "also", "has", "the", "competitive", "ratio", "of", "O", "-LRB-", "log", "-LRB-", "min", "-LRB-", "n", "m", ",", "P", "-RRB-", "-RRB-", "-RRB-", ".", "It", "is", "also", "interesting", "to", "note", "that", "these", "are", "also", "the", "best", "known", "results", "in", "the", "off-line", "setting", "of", "this", "problem", ".", "Kalyanasundaram", "and", "Pruhs", "-LSB-", "8", "-RSB-", "introduced", "the", "resource", "augmentation", "model", "where", "the", "algorithm", "is", "allowed", "extra", "resources", "when", "compared", "with", "the", "optimal", "off-line", "algorithm", ".", "These", "extra", "resources", "can", "be", "either", "extra", "machines", "or", "extra", "speed", ".", "For", "minimizing", "average", "flow", "time", "on", "identical", "parallel", "machines", ",", "Phillips", "et", ".", "al.", "-LSB-", "11", "-RSB-", "showed", "that", "we", "can", "get", "an", "optimal", "algorithm", "if", "we", "are", "given", "twice", "the", "speed", "as", "compared", "to", "the", "optimal", "algorithm", ".", "In", "the", "case", "of", "single", "machine", "scheduling", ",", "Bechheti", "et", ".", "al.", "-LSB-", "4", "-RSB-", "showed", "that", "we", "can", "get", "O", "-LRB-", "1", "/", "-RRB-", "-", "competitive", "algorithms", "if", "we", "are", "give", "-LRB-", "1", "+", "-RRB-", "times", "more", "resources", ".", "Bansal", "and", "Pruhs", "-LSB-", "3", "-RSB-", "extended", "this", "result", "to", "a", "variety", "of", "natural", "scheduling", "algorithms", "and", "to", "L", "p", "norms", "of", "flow", "times", "of", "jobs", "as", "well", ".", "In", "case", "of", "identical", "parallel", "machines", ",", "Chekuri", "et", ".", "al.", "-LSB-", "6", "-RSB-", "gave", "simple", "scheduling", "algorithms", "which", "are", "O", "-LRB-", "1", "/", "3", "-RRB-", "-", "competitive", "with", "-LRB-", "1", "+", "-RRB-", "resource", "augmentation", ".", "Our", "Techniques", "A", "natural", "algorithm", "to", "try", "here", "would", "be", "SRPT", ".", "We", "feel", "that", "it", "will", "be", "very", "difficult", "to", "analyze", "this", "algorithm", "in", "case", "of", "related", "machines", ".", "Further", "SRPT", "is", "migratory", ".", "Non-migratory", "versions", "of", "SRPT", "can", "be", "shown", "to", "have", "bad", "competitive", "ratios", ".", "To", "illustrate", "the", "ideas", "involved", ",", "consider", "the", "following", "example", ".", "There", "is", "one", "fast", "machine", ",", "and", "plenty", "of", "slow", "machines", ".", "Suppose", "many", "jobs", "arrive", "at", "the", "same", "time", ".", "If", "we", "distribute", "these", "jobs", "to", "all", "the", "available", "machines", ",", "then", "their", "processing", "times", "will", "be", "very", "high", ".", "So", "at", "each", "time", "step", ",", "we", "need", "to", "be", "selective", "about", "which", "machines", "we", "shall", "use", "for", "processing", ".", "Ideas", "based", "on", "distributing", "jobs", "in", "proportion", "to", "speeds", "of", "machines", "as", "used", "by", "Azar", "and", "Avrahami", "-LSB-", "1", "-RSB-", "can", "also", "be", "shown", "to", "have", "problems", ".", "Our", "idea", "of", "selecting", "machines", "is", "the", "following", ".", "A", "job", "is", "assigned", "to", "a", "machine", "only", "if", "it", "has", "waited", "for", "time", "which", "is", "proportional", "to", "its", "processing", "time", "on", "this", "machine", ".", "The", "intuition", "should", "be", "clear", "if", "a", "job", "is", "going", "to", "a", "slow", "machine", ",", "then", "it", "can", "afford", "to", "wait", "longer", "before", "it", "is", "sent", "to", "the", "machine", ".", "Hopefully", "in", "this", "waiting", "period", ",", "a", "faster", "machine", "might", "become", "free", "in", "which", "case", "we", "shall", "be", "able", "to", "process", "it", "in", "smaller", "time", ".", "We", "also", "use", "the", "notion", "of", "class", "of", "jobs", "as", "introduced", "by", "Chekuri", "et", ".", "al.", "-LSB-", "5", "-RSB-", "which", "allows", "machines", "to", "have", "a", "preference", "ordering", "over", "jobs", ".", "We", "feel", "that", "this", "idea", "of", "delaying", "jobs", "even", "if", "a", "machine", "is", "available", "is", "new", ".", "As", "mentioned", "earlier", ",", "the", "first", "challenge", "is", "to", "bound", "the", "processing", "time", "of", "our", "algorithm", ".", "In", "fact", "a", "bulk", "of", "our", "paper", "is", "about", "this", ".", "The", "basic", "idea", "used", "is", "the", "following", "if", "a", "job", "is", "sent", "to", "a", "very", "slow", "machine", ",", "then", "it", "must", "have", "waited", "long", ".", "But", "then", "most", "of", "this", "time", ",", "our", "algorithm", "would", "have", "kept", "the", "fast", "machines", "busy", ".", "Since", "we", "are", "keeping", "fast", "machines", "busy", ",", "the", "optimum", "also", "can", "not", "do", "much", "better", ".", "But", "converting", "this", "idea", "into", "a", "proof", "requires", "several", "technical", "steps", ".", "The", "second", "step", "is", "of", "course", "to", "bound", "the", "flow", "time", "of", "the", "jobs", ".", "It", "is", "easy", "to", "see", "that", "the", "total", "flow", "time", "of", "the", "jobs", "in", "a", "schedule", "is", "same", "as", "the", "sum", "over", "all", "time", "t", "of", "the", "number", "of", "waiting", "jobs", "at", "time", "t", "in", "the", "schedule", ".", "So", "it", "would", "be", "enough", "if", "we", "show", "that", "for", "any", "time", "t", ",", "the", "number", "of", "jobs", "which", "are", "waiting", "in", "our", "schedule", "is", "close", "to", "that", "in", "the", "optimal", "schedule", ".", "Chekuri", "et", ".", "al.", "-LSB-", "5", "-RSB-", "argue", "this", "in", "the", "following", "manner", ".", "Consider", "a", "time", "t", ".", "They", "show", "that", "there", "is", "a", "time", "t", "<", "t", "such", "that", "the", "number", "of", "waiting", "jobs", "of", "a", "certain", "class", "k", "or", "less", "in", "both", "the", "optimal", "and", "their", "schedule", "is", "about", "the", "same", "-LRB-", "this", "is", "not", "completely", "accurate", ",", "but", "captures", "the", "main", "idea", "-RRB-", ".", "Further", "they", "show", "that", "t", "is", "such", "that", "all", "machines", "are", "busy", "processing", "jobs", "of", "class", "k", "or", "less", "during", "-LRB-", "t", ",", "t", "-RRB-", ".", "So", "it", "follows", "that", "the", "number", "of", "waiting", "jobs", "of", "this", "class", "or", "less", "at", "time", "t", "are", "about", "the", "same", "in", "both", "the", "schedules", ".", "We", "can", "not", "use", "this", "idea", "because", "we", "would", "never", "be", "able", "to", "keep", "all", "machines", "busy", "-LRB-", "some", "machines", "can", "be", "very", "slow", "-RRB-", ".", "So", "we", "have", "to", "define", "a", "sequence", "of", "time", "steps", "like", "t", "for", "each", "time", "and", "make", "clever", "use", "of", "geometric", "scaling", "to", "show", "that", "the", "flow", "time", "is", "bounded", ".", "We", "consider", "the", "on-line", "problem", "of", "minimizing", "total", "flow", "time", "for", "related", "machines", ".", "Each", "job", "j", "has", "a", "processing", "requirement", "of", "p", "j", "and", "a", "release", "date", "of", "r", "j", ".", "There", "are", "m", "machines", ",", "numbered", "from", "1", "to", "m", ".", "The", "machines", "can", "have", "different", "speeds", ",", "and", "the", "processing", "time", "of", "a", "job", "j", "on", "a", "machine", "is", "p", "j", "divided", "by", "the", "speed", "of", "the", "machine", ".", "The", "slowness", "of", "machine", "is", "the", "reciprocal", "of", "its", "speed", ".", "It", "will", "be", "easier", "to", "deal", "with", "slowness", ",", "and", "so", "we", "shall", "use", "slowness", "instead", "of", "speed", "in", "the", "foregoing", "discussion", ".", "Let", "s", "i", "denote", "the", "slowness", "of", "machine", "i", ".", "So", "the", "time", "taken", "by", "job", "j", "to", "process", "on", "machine", "i", "is", "p", "j", "s", "i", ".", "Assume", "that", "the", "machines", "have", "been", "numbered", "so", "that", "s", "1", "s", "2", "s", "m", ".", "We", "shall", "assume", "without", "loss", "of", "generality", "that", "processing", "time", ",", "release", "dates", ",", "and", "slowness", "are", "integers", ".", "We", "shall", "use", "the", "term", "volume", "of", "a", "set", "of", "jobs", "for", "denoting", "their", "processing", "time", "on", "a", "unit", "speed", "machine", ".", "Let", "A", "be", "a", "scheduling", "algorithm", ".", "The", "completion", "time", "of", "a", "job", "j", "in", "A", "is", "denoted", "by", "C", "A", "j", ".", "The", "flow", "time", "of", "j", "in", "A", "is", "defined", "as", "F", "A", "j", "=", "C", "A", "j", "-", "r", "j", ".", "Our", "goal", "is", "to", "find", "an", "on-line", "scheduling", "algorithm", "which", "minimizes", "the", "total", "flow", "time", "of", "jobs", ".", "Let", "O", "denote", "the", "optimal", "off-line", "scheduling", "algorithm", ".", "We", "now", "develop", "some", "notations", ".", "Let", "P", "denote", "the", "ratio", "of", "the", "largest", "to", "the", "smallest", "processing", "times", "of", "the", "jobs", ",", "and", "S", "be", "the", "ratio", "of", "the", "largest", "to", "the", "smallest", "slowness", "of", "the", "machines", ".", "For", "ease", "of", "notation", ",", "we", "assume", "that", "the", "smallest", "processing", "requirement", "of", "any", "job", "is", "1", ",", "and", "the", "smallest", "slowness", "of", "a", "machine", "is", "1", ".", "Let", "and", "be", "suitable", "chosen", "large", "enough", "constants", ".", "We", "divide", "the", "jobs", "and", "the", "machines", "into", "classes", ".", "A", "job", "j", "is", "said", "to", "be", "in", "class", "k", "if", "p", "j", "-LSB-", "k-1", ",", "k", "-RRB-", "and", "a", "machine", "i", "is", "said", "to", "be", "in", "class", "l", "if", "s", "i", "-LSB-", "l-1", ",", "l", "-RRB-", ".", "Note", "that", "there", "are", "O", "-LRB-", "log", "P", "-RRB-", "classes", "for", "jobs", "and", "O", "-LRB-", "log", "S", "-RRB-", "classes", "for", "machines", ".", "Given", "a", "schedule", "A", ",", "we", "say", "that", "a", "job", "j", "is", "active", "at", "time", "t", "in", "A", "if", "r", "j", "t", "but", "j", "has", "not", "finished", "processing", "by", "time", "t", "in", "A", ".", "We", "now", "describe", "the", "scheduling", "algorithm", ".", "The", "under-731", "lying", "idea", "of", "the", "algorithm", "is", "the", "following", "--", "if", "we", "send", "a", "job", "j", "to", "machine", "i", ",", "we", "make", "sure", "that", "it", "waits", "for", "at", "least", "p", "j", "s", "i", "units", "of", "time", "-LRB-", "which", "is", "its", "processing", "time", "on", "machine", "i", "-RRB-", ".", "Intuitively", ",", "the", "extra", "waiting", "time", "can", "be", "charged", "to", "its", "processing", "time", ".", "Of", "course", ",", "we", "still", "need", "to", "make", "sure", "that", "the", "processing", "time", "does", "not", "blow", "up", "in", "this", "process", ".", "The", "algorithm", "maintains", "a", "central", "pool", "of", "jobs", ".", "When", "a", "new", "job", "gets", "released", ",", "it", "first", "goes", "to", "the", "central", "pool", "and", "waits", "there", "to", "get", "assigned", "to", "a", "machine", ".", "Let", "W", "-LRB-", "t", "-RRB-", "denote", "the", "set", "of", "jobs", "in", "the", "central", "pool", "at", "time", "t", ".", "Our", "algorithm", "will", "assign", "each", "job", "to", "a", "unique", "machine", "--", "if", "a", "job", "j", "gets", "assigned", "to", "a", "machine", "i", ",", "then", "j", "will", "get", "processed", "by", "machine", "i", "only", ".", "Let", "A", "i", "-LRB-", "t", "-RRB-", "be", "the", "set", "of", "active", "jobs", "at", "time", "t", "which", "have", "been", "assigned", "to", "machine", "i", ".", "We", "shall", "maintain", "the", "invariant", "that", "A", "i", "-LRB-", "t", "-RRB-", "contains", "at", "most", "one", "job", "of", "each", "class", ".", "So", "|", "A", "i", "-LRB-", "t", "-RRB-", "|", "log", "P", ".", "We", "say", "that", "a", "job", "j", "W", "-LRB-", "t", "-RRB-", "of", "class", "k", "is", "mature", "for", "a", "machine", "i", "of", "class", "l", "at", "time", "t", ",", "if", "it", "has", "waited", "for", "at", "least", "k", "l", "time", "in", "the", "central", "pool", ",", "i.e.", ",", "t", "-", "r", "j", "k", "l", ".", "For", "any", "time", "t", ",", "we", "define", "a", "total", "order", "on", "the", "jobs", "in", "W", "-LRB-", "t", "-RRB-", "as", "follows", "j", "j", "if", "either", "-LRB-", "i", "-RRB-", "class", "-LRB-", "j", "-RRB-", "<", "class", "-LRB-", "j", "-RRB-", ",", "or", "-LRB-", "ii", "-RRB-", "class", "-LRB-", "j", "-RRB-", "=", "class", "-LRB-", "j", "-RRB-", "and", "r", "j", ">", "r", "j", "-LRB-", "in", "case", "class", "-LRB-", "j", "-RRB-", "=", "class", "-LRB-", "j", "-RRB-", "and", "r", "j", "=", "r", "j", "we", "can", "order", "them", "arbitrarily", "-RRB-", ".", "Now", "we", "describe", "the", "actual", "details", "of", "the", "algorithm", ".", "Initially", ",", "at", "time", "0", ",", "A", "i", "-LRB-", "0", "-RRB-", "is", "empty", "for", "each", "machine", ".", "At", "each", "time", "t", ",", "the", "algorithm", "considers", "machines", "in", "the", "order", "1", ",", "2", ",", "...", ",", "m", "-LRB-", "recall", "that", "the", "machines", "have", "been", "arranged", "in", "the", "ascending", "order", "of", "their", "slowness", "-RRB-", ".", "Let", "us", "describe", "the", "algorithm", "when", "it", "considers", "machine", "i.", "Let", "M", "i", "-LRB-", "t", "-RRB-", "be", "the", "jobs", "in", "W", "-LRB-", "t", "-RRB-", "which", "are", "mature", "for", "machine", "i", "at", "time", "t.", "Let", "j", "M", "i", "-LRB-", "t", "-RRB-", "be", "the", "smallest", "job", "according", "to", "the", "total", "order", ".", "If", "class", "-LRB-", "j", "-RRB-", "<", "class", "-LRB-", "j", "-RRB-", "for", "all", "jobs", "j", "A", "i", "-LRB-", "t", "-RRB-", ",", "then", "we", "assign", "j", "to", "machine", "i", "-LRB-", "i.e.", ",", "we", "delete", "j", "from", "W", "-LRB-", "t", "-RRB-", "and", "add", "it", "to", "A", "i", "-LRB-", "t", "-RRB-", "-RRB-", ".", "Once", "the", "algorithm", "has", "considered", "all", "the", "machines", "at", "time", "t", ",", "each", "machine", "i", "processes", "the", "job", "of", "smallest", "class", "in", "A", "i", "-LRB-", "t", "-RRB-", "at", "time", "t", ".", "This", "completes", "the", "description", "of", "our", "algorithm", ".", "It", "is", "also", "easy", "to", "see", "that", "the", "machines", "need", "to", "perform", "the", "above", "steps", "for", "only", "a", "polynomial", "number", "of", "time", "steps", "t", "-LRB-", "i.e.", ",", "when", "a", "job", "finishes", "or", "matures", "for", "a", "class", "of", "machines", "-RRB-", ".", "We", "remark", "that", "both", "the", "conditions", "in", "the", "definition", "of", "are", "necessary", ".", "The", "condition", "-LRB-", "i", "-RRB-", "is", "clear", "because", "it", "prefers", "smaller", "jobs", ".", "Condition", "-LRB-", "ii", "-RRB-", "makes", "sure", "that", "we", "make", "old", "jobs", "wait", "longer", "so", "that", "they", "can", "mature", "for", "slower", "machines", ".", "It", "is", "easy", "to", "construct", "examples", "where", "if", "we", "do", "not", "obey", "condition", "-LRB-", "ii", "-RRB-", "then", "slow", "machines", "will", "never", "get", "used", "and", "so", "we", "will", "incur", "very", "high", "flow", "time", ".", "We", "now", "show", "that", "the", "flow", "time", "incurred", "by", "our", "algorithm", "is", "within", "poly-logarithmic", "factor", "of", "that", "of", "the", "optimal", "algorithm", ".", "The", "outline", "of", "the", "proof", "is", "as", "follows", ".", "We", "first", "argue", "that", "the", "total", "processing", "time", "incurred", "by", "our", "algorithm", "is", "not", "too", "large", ".", "Once", "we", "have", "shown", "this", ",", "we", "can", "charge", "the", "waiting", "time", "of", "all", "the", "jobs", "in", "A", "i", "-LRB-", "t", "-RRB-", "for", "all", "machines", "i", "and", "time", "t", "to", "the", "total", "processing", "time", ".", "After", "this", ",", "we", "show", "that", "the", "total", "waiting", "time", "of", "the", "jobs", "in", "the", "central", "pool", "is", "also", "bounded", "by", "poly-logarithmic", "factor", "times", "the", "optimum", "'s", "flow", "time", ".", "Let", "A", "denote", "our", "algorithm", ".", "For", "a", "job", "j", ",", "define", "the", "dispatch", "time", "d", "A", "j", "of", "j", "in", "A", "as", "the", "time", "at", "which", "it", "is", "assigned", "to", "a", "machine", ".", "For", "a", "job", "j", "and", "class", "l", "of", "machines", ",", "let", "t", "M", "-LRB-", "j", ",", "l", "-RRB-", "denote", "the", "time", "at", "which", "j", "matures", "for", "machines", "of", "class", "l", ",", "i.e.", ",", "t", "M", "-LRB-", "j", ",", "l", "-RRB-", "=", "r", "j", "+", "k", "l", ",", "where", "k", "is", "the", "class", "of", "job", "j.", "Let", "F", "A", "denote", "the", "total", "flow", "time", "of", "our", "algorithm", ".", "For", "a", "job", "j", "let", "P", "A", "j", "denote", "the", "time", "it", "takes", "to", "process", "job", "j", "in", "A", "-LRB-", "i.e.", ",", "the", "processing", "time", "of", "j", "in", "A", "-RRB-", ".", "Similarly", ",", "for", "a", "set", "of", "jobs", "J", "define", "P", "A", "J", "as", "the", "total", "processing", "time", "incurred", "by", "A", "on", "these", "jobs", ".", "Let", "P", "A", "denote", "the", "sum", "P", "j", "P", "A", "j", ",", "i.e.", ",", "the", "total", "processing", "time", "incurred", "by", "A.", "Define", "F", "O", ",", "P", "O", "j", ",", "P", "O", "J", "and", "P", "O", "similarly", ".", "Let", "m", "l", "denote", "the", "number", "of", "machines", "of", "class", "l.", "4.1", "Bounding", "the", "Processing", "Time", "We", "shall", "now", "compare", "P", "A", "with", "F", "O", ".", "For", "each", "value", "of", "class", "k", "of", "jobs", "and", "class", "l", "of", "machines", ",", "let", "J", "-LRB-", "k", ",", "l", "-RRB-", "be", "the", "jobs", "of", "class", "k", "which", "get", "processed", "by", "A", "on", "machines", "of", "class", "l.", "For", "each", "value", "of", "k", "and", "l", ",", "we", "shall", "bound", "the", "processing", "time", "incurred", "by", "A", "on", "J", "-LRB-", "k", ",", "l", "-RRB-", ".", "So", "fix", "a", "class", "k", "of", "jobs", "and", "class", "l", "of", "machines", ".", "The", "idea", "of", "the", "proof", "is", "as", "follows", ".", "We", "shall", "divide", "the", "time", "line", "into", "intervals", "I", "1", "=", "-LRB-", "t", "1", "b", ",", "t", "1", "e", "-RRB-", ",", "I", "2", "=", "-LRB-", "t", "2", "b", ",", "t", "2", "e", "-RRB-", ",", "...", "so", "that", "each", "interval", "I", "q", "satisfies", "the", "following", "property", "A", "is", "almost", "busy", "in", "I", "q", "processing", "jobs", "of", "class", "at", "most", "k", "on", "machines", "of", "class", "l", "-", "1", "or", "less", ".", "Further", "these", "jobs", "have", "release", "time", "at", "least", "t", "q", "b", ".", "We", "shall", "denote", "these", "jobs", "by", "H", "q", ".", "Now", ",", "if", "O", "schedules", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "on", "machines", "of", "class", "l", "or", "more", ",", "we", "have", "nothing", "to", "prove", "since", "O", "would", "incur", "at", "least", "as", "much", "processing", "time", "as", "we", "do", "for", "these", "jobs", ".", "If", "O", "schedules", "some", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "on", "machines", "of", "class", "l", "-", "1", "or", "less", "during", "the", "interval", "I", "q", ",", "then", "one", "of", "these", "two", "cases", "must", "happen", "-LRB-", "i", "-RRB-", "some", "jobs", "in", "H", "q", "need", "to", "be", "processed", "on", "machines", "of", "class", "l", "or", "more", ",", "or", "-LRB-", "ii", "-RRB-", "some", "jobs", "in", "H", "q", "get", "processed", "after", "time", "t", "q", "e", ".", "We", "shall", "show", "that", "both", "of", "these", "cases", "are", "good", "for", "us", "and", "we", "can", "charge", "the", "processing", "times", "of", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "to", "the", "flow", "time", "of", "jobs", "in", "H", "q", "in", "O.", "Let", "us", "formalize", "these", "ideas", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "The", "starting", "points", "of", "the", "intervals", "I", "1", ",", "I", "2", ",", "...", "will", "be", "in", "decreasing", "order", ",", "i.e.", ",", "t", "1", "b", ">", "t", "2", "b", ">", "-LRB-", "so", "we", "shall", "work", "backwards", "in", "time", "while", "defining", "these", "intervals", "-RRB-", ".", "Suppose", "we", "have", "defined", "intervals", "I", "1", ",", "...", ",", "I", "q-1", "so", "far", ".", "Let", "J", "q", "-LRB-", "k", ",", "l", "-RRB-", "denote", "the", "set", "of", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "which", "get", "released", "before", "interval", "I", "q-1", "begins", ",", "i.e.", ",", "before", "t", "q-1", "b", "-LRB-", "J", "1", "-LRB-", "k", ",", "l", "-RRB-", "is", "defined", "as", "J", "-LRB-", "k", ",", "l", "-RRB-", "-RRB-", ".", "Now", "we", "define", "I", "q", ".", "Let", "j", "q", "0", "J", "q", "-LRB-", "k", ",", "l", "-RRB-", "be", "the", "job", "with", "the", "highest", "dispatch", "time", ".", "Let", "r", "q", "0", "denote", "the", "release", "time", "of", "j", "q", "0", ".", "Let", "k", "q", "0", "denote", "the", "class", "of", "job", "j", "q", "0", ".", "Let", "d", "q", "0", "denote", "the", "dispatch", "time", "of", "j", "q", "0", ".", "The", "right", "end-point", "t", "q", "e", "of", "I", "q", "is", "defined", "as", "d", "q", "0", ".", "Consider", "the", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "which", "get", "dispatched", "during", "-LRB-", "r", "q", "0", ",", "d", "q", "0", "-RRB-", ".", "Let", "j", "q", "1", "be", "such", "a", "job", "with", "the", "earliest", "release", "date", ".", "Define", "r", "q", "1", ",", "k", "q", "1", ",", "d", "q", "1", "similarly", ".", "Let", "H", "q", "0", "-LRB-", "l", "-RRB-", ",", "l", "<", "l", ",", "be", "the", "set", "of", "jobs", "of", "class", "at", "most", "k", "q", "0", "which", "are", "dispatched", "to", "a", "machine", "of", "class", "l", "during", "the", "time", "interval", "-LRB-", "t", "M", "-LRB-", "j", "q", "0", ",", "l", "-RRB-", ",", "d", "q", "0", "-RRB-", ".", "Note", "that", "the", "phrase", "``", "class", "at", "most", "k", "q", "0", "''", "in", "the", "previous", "sentence", "is", "redundant", "because", "we", "can", "not", "dispatch", "a", "job", "of", "class", "greater", "than", "k", "q", "0", "during", "-LRB-", "t", "M", "-LRB-", "j", "q", "0", ",", "l", "-RRB-", ",", "d", "q", "0", "-RRB-", "on", "machines", "of", "class", "l", "-LRB-", "otherwise", "we", "should", "have", "dispatched", "j", "q", "0", "earlier", "-RRB-", ".", "Let", "H", "q", "0", "denote", "l-1", "l", "=", "1", "H", "q", "0", "-LRB-", "l", "-RRB-", ".", "Define", "H", "q", "1", "-LRB-", "l", "-RRB-", ",", "H", "q", "1", "similarly", ".", "If", "all", "jobs", "in", "H", "q", "1", "H", "q", "0", "get", "released", "after", "r", "q", "1", ",", "we", "stop", "the", "process", "here", ".", "Otherwise", "find", "a", "job", "in", "H", "q", "1", "H", "q", "0", "which", "has", "the", "earliest", "release", "date", ",", "let", "j", "q", "2", "denote", "this", "job", ".", "As", "before", "define", "r", "q", "2", "as", "the", "release", "date", "of", "j", "q", "2", ",", "and", "k", "q", "2", "as", "the", "class", "of", "j", "q", "2", ".", "Again", "define", "H", "q", "2", "-LRB-", "l", "-RRB-", "as", "the", "set", "of", "jobs", "-LRB-", "of", "class", "at", "most", "k", "q", "2", "-RRB-", "which", "get", "dispatched", "on", "machines", "of", "class", "l", "during", "-LRB-", "t", "M", "-LRB-", "j", "q", "2", ",", "l", "-RRB-", ",", "d", "q", "2", "-RRB-", ".", "Define", "H", "q", "2", "analogously", ".", "So", "now", "assume", "we", "have", "defined", "j", "q", "0", ",", "j", "q", "1", ",", "...", ",", "j", "q", "i", "and", "H", "q", "0", ",", "H", "q", "1", ",", "...", ",", "H", "q", "i", ",", "i", "2", ".", "If", "all", "jobs", "in", "H", "q", "i", "are", "732", "j", "q", "3", "j", "q", "+1", "0", "I", "q", "j", "q", "2", "I", "q-1", "r", "q", "0", "d", "q", "0", "=", "t", "q", "e", "d", "q", "2", "r", "q", "1", "d", "q", "3", "r", "q", "2", "r", "q", "3", "j", "q", "0", "l", "l", "l", "-", "1", "l", "-", "2", "1", "j", "q", "1", "Figure", "1", ":", "An", "illustration", "of", "the", "notation", "used", "released", "after", "r", "q", "i", ",", "then", "we", "stop", "the", "process", ".", "Otherwise", ",", "define", "j", "q", "i", "+1", "as", "the", "job", "in", "H", "q", "i", "with", "the", "earliest", "release", "date", ".", "Define", "H", "q", "i", "+1", "in", "a", "similar", "manner", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "We", "remark", "that", "the", "first", "two", "steps", "of", "this", "process", "differ", "from", "the", "subsequent", "steps", ".", "This", "we", "will", "see", "later", "is", "requierd", "to", "ensure", "that", "the", "intervals", "do", "not", "overlap", "too", "much", ".", "The", "following", "simple", "observation", "shows", "that", "this", "process", "will", "stop", ".", "Claim", "4.1", ".", "For", "i", "2", ",", "k", "q", "i", "<", "k", "q", "i-1", ".", "Proof", ".", "Consider", "the", "job", "j", "q", "i", "H", "q", "i-1", "-LRB-", "l", "-RRB-", ".", "A", "prefers", "j", "q", "i", "over", "j", "q", "i-1", ".", "If", "class", "-LRB-", "j", "q", "i", "-RRB-", "=", "class", "-LRB-", "j", "q", "i-1", "-RRB-", ",", "release", "time", "of", "j", "q", "i", "must", "be", "at", "least", "that", "of", "j", "q", "i-1", ".", "But", "this", "is", "not", "the", "case", ".", "Thus", ",", "class", "of", "j", "q", "i", "must", "be", "less", "than", "that", "of", "j", "q", "i-1", ".", "Suppose", "this", "process", "stops", "after", "u", "q", "steps", ".", "Define", "the", "beginning", "of", "I", "q", ",", "i.e.", ",", "t", "q", "b", "as", "r", "q", "u", "q", ".", "This", "completes", "our", "description", "of", "I", "q", ".", "Let", "H", "q", "denote", "i", "H", "q", "i", ".", "We", "are", "now", "ready", "to", "show", "that", "interval", "I", "q", "is", "sufficiently", "long", ",", "and", "that", "for", "a", "large", "fraction", "of", "this", "time", ",", "all", "machines", "of", "class", "less", "than", "l", "are", "processing", "jobs", "of", "class", "less", "than", "k", "which", "are", "released", "in", "this", "interval", "itself", ".", "This", "would", "be", "valuable", "in", "later", "arguing", "that", "O", "could", "not", "have", "sched-uled", "jobs", "of", "J", "-LRB-", "k", ",", "l", "-RRB-", "on", "the", "lower", "class", "machines", "and", "thereby", "incurred", "small", "processing", "time", ".", "Lemma", "4.2", ".", "Length", "of", "the", "interval", "I", "q", "is", "at", "least", "k", "l", ".", "Proof", ".", "Indeed", ",", "job", "j", "q", "0", "must", "wait", "for", "at", "least", "k", "l", "amount", "of", "time", "before", "being", "dispatched", "to", "a", "machine", "of", "class", "l", ".", "So", "t", "q", "e", "-", "t", "q", "s", "d", "q", "0", "-", "r", "q", "0", "k", "l", ".", "Lemma", "4.3", ".", "H", "q", "consists", "of", "jobs", "of", "class", "at", "most", "k", "and", "all", "jobs", "in", "H", "q", "are", "released", "after", "t", "q", "b", ".", "Proof", ".", "The", "first", "statement", "is", "clear", "from", "the", "definition", "of", "H", "q", ".", "Let", "us", "look", "at", "H", "q", "i", ".", "As", "argued", "in", "proof", "of", "Claim", "4.1", "all", "jobs", "of", "class", "k", "q", "i", "in", "H", "q", "i", "are", "released", "after", "r", "q", "i", ".", "If", "all", "jobs", "of", "class", "less", "than", "k", "q", "i", "in", "H", "q", "i", "are", "released", "after", "r", "q", "i", ",", "then", "we", "are", "done", ".", "Otherwise", ",", "all", "such", "jobs", "are", "released", "after", "r", "q", "i", "+1", "-LRB-", "after", "r", "q", "2", "if", "i", "=", "0", "-RRB-", ".", "This", "completes", "the", "proof", "of", "the", "lemma", ".", "Lemma", "4.4", ".", "A", "machine", "of", "class", "l", "<", "l", "processes", "jobs", "of", "H", "q", "for", "at", "least", "|", "I", "q", "|", "-", "6", "k", "l", "amount", "of", "time", "during", "I", "q", ".", "Proof", ".", "Let", "us", "fix", "a", "machine", "i", "of", "class", "l", "<", "l.", "Let", "us", "consider", "the", "interval", "-LRB-", "r", "q", "p", ",", "d", "q", "p", "-RRB-", ".", "Job", "j", "q", "p", "matures", "for", "i", "at", "time", "t", "M", "-LRB-", "j", "q", "p", ",", "l", "-RRB-", ".", "So", "machine", "i", "must", "be", "busy", "during", "-LRB-", "t", "M", "-LRB-", "j", "q", "p", ",", "l", "-RRB-", ",", "d", "q", "p", "-RRB-", ",", "otherwise", "we", "could", "have", "dispatched", "j", "q", "p", "earlier", ".", "We", "now", "want", "to", "argue", "that", "machine", "i", "is", "mainly", "busy", "during", "this", "interval", "processing", "jobs", "from", "H", "q", ".", "Let", "j", "be", "a", "job", "which", "is", "processed", "by", "i", "during", "-LRB-", "t", "M", "-LRB-", "j", "q", "p", ",", "l", "-RRB-", ",", "d", "q", "p", "-RRB-", ".", "We", "have", "already", "noted", "that", "j", "can", "be", "of", "class", "at", "most", "k", "q", "p", ".", "If", "j", "gets", "dispatched", "after", "t", "M", "-LRB-", "j", "q", "p", ",", "l", "-RRB-", ",", "then", "by", "definition", "it", "belongs", "to", "H", "q", ".", "If", "j", "gets", "dispatched", "before", "t", "M", "-LRB-", "j", "q", "p", ",", "l", "-RRB-", ",", "it", "must", "belong", "to", "A", "i", "-LRB-", "t", "-RRB-", ".", "But", "A", "i", "-LRB-", "t", "-RRB-", "can", "contain", "at", "most", "one", "job", "of", "each", "class", ".", "So", "the", "total", "processing", "time", "taken", "by", "jobs", "of", "A", "i", "-LRB-", "t", "-RRB-", "during", "-LRB-", "t", ",", "d", "p", "-RRB-", "is", "at", "most", "l", "-LRB-", "+", "2", "+", "+", "k", "q", "p", "-RRB-", "3/2", "k", "q", "p", "l", ".", "So", "during", "-LRB-", "r", "q", "p", ",", "d", "q", "p", "-RRB-", ",", "i", "processes", "jobs", "from", "H", "q", "except", "perhaps", "for", "a", "period", "of", "length", "-LRB-", "t", "M", "-LRB-", "j", "q", "p", ",", "l", "-RRB-", "-", "r", "q", "p", "-RRB-", "+", "3/2", "k", "q", "p", "l", "=", "5/2", "k", "q", "p", "l", ".", "Since", "p", "-LRB-", "r", "q", "p", ",", "d", "p", "-RRB-", "covers", "I", "q", ",", "the", "amount", "of", "time", "i", "does", "not", "process", "jobs", "from", "H", "q", "is", "at", "most", "5/2", "l", "-LRB-", "k", "+", "k", "+", "+", "1", "-RRB-", ",", "which", "proves", "the", "lemma", ".", "We", "would", "like", "to", "charge", "the", "processing", "time", "for", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "in", "our", "solution", "to", "the", "flow", "time", "of", "jobs", "in", "H", "q", "in", "O", ".", "But", "to", "do", "this", "we", "require", "that", "the", "sets", "H", "q", "be", "disjoint", ".", "We", "next", "prove", "that", "this", "is", "almost", "true", ".", "Lemma", "4.5", ".", "For", "any", "q", ",", "I", "q", "and", "I", "q", "+2", "are", "disjoint", ".", "Hence", "H", "q", "and", "H", "q", "+2", "are", "also", "disjoint", ".", "Proof", ".", "Recall", "that", "J", "q", "+1", "-LRB-", "k", ",", "l", "-RRB-", "is", "the", "set", "of", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "which", "get", "released", "before", "t", "q", "b", ".", "However", "some", "of", "these", "jobs", "may", "get", "dispatched", "after", "t", "q", "b", "and", "hence", "I", "q", "and", "I", "q", "+1", "can", "intersect", ".", "Consider", "some", "job", "j", "J", "q", "+1", "-LRB-", "k", ",", "l", "-RRB-", "which", "is", "dispatched", "during", "I", "q", ".", "Now", ",", "observe", "that", "j", "q", "+1", "0", "is", "released", "before", "t", "q", "b", "-LRB-", "by", "definition", "of", "J", "q", "+1", "-LRB-", "k", ",", "l", "-RRB-", "-RRB-", "and", "dispatched", "after", "j.", "So", ",", "j", "gets", "dispatched", "in", "-LRB-", "r", "q", "0", ",", "d", "q", "0", "-RRB-", ".", "This", "means", "that", "release", "date", "of", "j", "q", "+1", "1", "must", "be", "before", "release", "date", "of", "j", ".", "But", "t", "q", "+1", "b", "r", "q", "+1", "1", "and", "so", ",", "j", "is", "released", "after", "t", "q", "+1", "b", ".", "But", "then", "j", "/", "J", "q", "+2", "-LRB-", "k", ",", "l", "-RRB-", ".", "So", "all", "jobs", "in", "J", "q", "+2", "-LRB-", "k", ",", "l", "-RRB-", "get", "dispatched", "before", "I", "q", "begins", ",", "which", "implies", "that", "I", "q", "and", "I", "q", "+2", "are", "disjoint", ".", "Consider", "an", "interval", "I", "q", ".", "Let", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "denote", "the", "jobs", "in", "J", "-LRB-", "k", ",", "l", "-RRB-", "which", "get", "released", "after", "t", "q", "b", "but", "dispatched", "before", "t", "q", "e", ".", "It", "is", "easy", "to", "see", "that", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "a", "superset", "of", "J", "q", "-LRB-", "k", ",", "l", "-RRB-", "J", "q", "+1", "-LRB-", "k", ",", "l", "-RRB-", ".", "So", "q", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "covers", "all", "of", "J", "-LRB-", "k", ",", "l", "-RRB-", ".", "Now", "we", "would", "like", "to", "charge", "the", "processing", "time", "of", "jobs", "in", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "to", "the", "flow", "time", "incurred", "by", "O", "on", "the", "jobs", "in", "H", "q", ".", "Before", "we", "do", "this", ",", "let", "us", "first", "show", "that", "O", "incurs", "significant", "733", "amount", "of", "flow", "time", "processing", "the", "jobs", "in", "H", "q", ".", "This", "is", "proved", "in", "the", "technical", "theorem", "below", "whose", "proof", "we", "defer", "to", "the", "appendix", ".", "Theorem", "4.6", ".", "Consider", "a", "time", "interval", "I", "=", "-LRB-", "t", "b", ",", "t", "e", "-RRB-", "of", "length", "T", ".", "Suppose", "there", "exists", "a", "set", "of", "jobs", "J", "I", "such", "that", "every", "job", "j", "J", "I", "is", "of", "class", "at", "most", "k", "and", "is", "released", "after", "t", "b", ".", "Further", "A", "dispatches", "all", "the", "jobs", "in", "J", "I", "during", "I", "and", "only", "on", "machines", "of", "class", "less", "than", "l.", "Further", ",", "each", "machine", "i", "of", "class", "l", "<", "l", "satisfies", "the", "following", "condition", ":", "machine", "i", "processes", "jobs", "from", "J", "I", "for", "at", "least", "T", "-", "6", "k", "l", "amount", "of", "time", ".", "Assuming", "T", "k", "l", ",", "the", "flow", "time", "F", "O", "J", "I", "incurred", "by", "O", "on", "the", "jobs", "in", "J", "I", "is", "at", "least", "`", "P", "A", "J", "I", ".", "Substituting", "t", "b", "=", "t", "q", "b", ",", "t", "e", "=", "t", "q", "e", ",", "I", "=", "I", "q", ",", "T", "=", "|", "I", "q", "|", ",", "J", "I", "=", "H", "q", "in", "the", "statement", "of", "Theorem", "4.6", "and", "using", "Lemmas", "4.2", ",", "4.3", ",", "4.4", ",", "we", "get", "P", "A", "H", "q", "O", "-LRB-", "F", "O", "H", "q", "-RRB-", ".", "-LRB-", "1", "-RRB-", "We", "are", "now", "ready", "to", "prove", "the", "main", "theorem", "of", "this", "section", ".", "Theorem", "4.7", ".", "The", "processing", "time", "incurred", "by", "A", "on", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", ",", "namely", "P", "A", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", ",", "is", "O", "-LRB-", "F", "O", "H", "q", "+", "F", "O", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "-RRB-", ".", "Proof", ".", "Let", "V", "denote", "the", "volume", "of", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", ".", "By", "Lemma", "4.4", ",", "machines", "of", "class", "l", "do", "not", "process", "jobs", "from", "H", "q", "for", "at", "most", "6", "k", "l", "units", "of", "time", "during", "I", "q", ".", "This", "period", "translates", "to", "a", "job-volume", "of", "at", "most", "6", "k", ".", "If", "V", "is", "sufficiently", "small", "then", "it", "can", "be", "charged", "to", "the", "processing", "time", "-LRB-", "or", "equivalently", "the", "flow", "time", "in", "O", "-RRB-", "of", "the", "jobs", "in", "H", "q", ".", "Lemma", "4.8", ".", "If", "V", "c", "k", "-LRB-", "m", "0", "+", "...", "+", "m", "l-1", "-RRB-", "where", "c", "is", "a", "constant", ",", "then", "P", "A", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "O", "-LRB-", "F", "O", "H", "q", "-RRB-", ".", "Proof", ".", "The", "processing", "time", "incurred", "by", "A", "on", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "at", "most", "l", "V", "=", "O", "-LRB-", "k", "l", "+1", "-LRB-", "m", "0", "+", "...", "+", "m", "l-1", "-RRB-", "-RRB-", ".", "Now", ",", "Lemmas", "4.2", "and", "4.4", "imply", "that", "machines", "of", "class", "l", "<", "l", "process", "jobs", "from", "H", "q", "for", "at", "least", "k", "l", "/", "2", "amount", "of", "time", ".", "So", "P", "A", "H", "q", "is", "at", "least", "k", "l", "-LRB-", "m", "0", "+", "...", "+", "m", "l-1", "-RRB-", "/", "2", ".", "Using", "equation", "-LRB-", "1", "-RRB-", ",", "we", "get", "the", "result", ".", "So", "from", "now", "on", "we", "shall", "assume", "that", "V", "c", "k", "+1", "-LRB-", "m", "0", "+", "...", "+", "m", "l-1", "-RRB-", "for", "a", "sufficiently", "large", "constant", "c", ".", "We", "deal", "with", "easy", "cases", "first", ":", "Lemma", "4.9", ".", "In", "each", "of", "the", "following", "cases", "P", "A", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "O", "-LRB-", "F", "O", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "+", "F", "O", "H", "q", "-RRB-", ":", "-LRB-", "i", "-RRB-", "At", "least", "V", "/", "2", "volume", "of", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "processed", "on", "machines", "of", "class", "at", "least", "l", "by", "O.", "-LRB-", "ii", "-RRB-", "At", "least", "V", "/", "4", "volume", "of", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "finished", "by", "O", "after", "time", "t", "q", "e", "k", "l", "/", "2", ".", "-LRB-", "iii", "-RRB-", "At", "least", "V", "/", "8", "volume", "of", "H", "q", "is", "processed", "by", "O", "on", "machines", "of", "class", "l", "or", "more", ".", "Proof", ".", "Note", "that", "P", "A", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "at", "most", "V", "l", ".", "If", "-LRB-", "i", "-RRB-", "happens", ",", "O", "pays", "at", "least", "V/2", "l-1", "amount", "of", "processing", "time", "for", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "and", "so", "we", "are", "done", ".", "Suppose", "case", "-LRB-", "ii", "-RRB-", "occurs", ".", "All", "jobs", "in", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "get", "dispatched", "by", "time", "t", "q", "e", ".", "So", "they", "must", "get", "released", "before", "t", "q", "e", "k", "l", ".", "So", "at", "least", "1/4", "volume", "of", "these", "jobs", "wait", "for", "at", "least", "k", "l", "/", "2", "amount", "of", "time", "in", "O", ".", "This", "means", "that", "F", "O", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "is", "at", "least", "V", "/", "8", "l", ",", "because", "each", "job", "has", "size", "at", "most", "k", ".", "This", "again", "implies", "the", "lemma", ".", "Case", "-LRB-", "iii", "-RRB-", "is", "similar", "to", "case", "-LRB-", "i", "-RRB-", ".", "So", "we", "can", "assume", "that", "none", "of", "the", "cases", "in", "Lemma", "4.9", "occur", ".", "Now", ",", "consider", "a", "time", "t", "between", "t", "q", "e", "k", "l", "/", "2", "and", "t", "q", "e", ".", "Let", "us", "look", "at", "machines", "of", "class", "1", "to", "l", "-", "1", ".", "O", "finishes", "at", "least", "V", "/", "4", "volume", "of", "D", "q", "-LRB-", "k", ",", "l", "-RRB-", "on", "these", "machines", "before", "time", "t.", "Further", ",", "at", "most", "V", "/", "8", "volume", "of", "H", "q", "goes", "out", "from", "these", "machines", "to", "machines", "of", "higher", "class", ".", "The", "volume", "that", "corresponds", "to", "time", "slots", "in", "which", "these", "machines", "do", "not", "process", "jobs", "of", "H", "q", "in", "A", "is", "at", "most", "V/16", "-LRB-", "for", "a", "sufficiently", "large", "constant", "c", "-RRB-", ".", "So", ",", "at", "least", "V", "/", "16", "amount", "of", "volume", "of", "H", "q", "must", "be", "waiting", "in", "O", "at", "time", "t", ".", "So", "the", "total", "flow", "time", "incurred", "by", "O", "on", "H", "q", "is", "at", "least", "V", "/", "-LRB-", "16", "k", "-RRB-", "k", "l", "/", "2", "which", "again", "is", "-LRB-", "V", "l", "-RRB-", ".", "This", "proves", "the", "theorem", ".", "Combining", "the", "above", "theorem", "with", "Lemma", "4.5", ",", "we", "get", "Corollary", "4.10", ".", "P", "A", "J", "-LRB-", "k", ",", "l", "-RRB-", "is", "O", "-LRB-", "F", "O", "-RRB-", ",", "and", "so", "P", "A", "is", "O", "-LRB-", "log", "S", "log", "P", "F", "O", "-RRB-", ".", "4.2", "Bounding", "the", "flow", "time", "We", "now", "show", "that", "the", "average", "flow", "time", "incurred", "by", "our", "algorithm", "is", "within", "poly-logarithmic", "factor", "of", "that", "incurred", "by", "the", "optimal", "solution", ".", "We", "shall", "say", "that", "a", "job", "j", "is", "waiting", "at", "time", "t", "in", "A", "if", "it", "is", "in", "the", "central", "pool", "at", "time", "t", "in", "A", "and", "has", "been", "released", "before", "time", "t.", "Let", "V", "A", "k", "-LRB-", "t", "-RRB-", "denote", "the", "volume", "of", "jobs", "of", "class", "at", "most", "k", "which", "are", "waiting", "at", "time", "t", "in", "A.", "Define", "V", "O", "k", "-LRB-", "t", "-RRB-", "as", "the", "remaining", "volume", "of", "jobs", "of", "class", "at", "most", "k", "which", "are", "active", "at", "time", "t", "in", "O.", "Note", "the", "slight", "difference", "in", "the", "definitions", "for", "A", "and", "O", "--", "in", "case", "of", "A", ",", "we", "are", "counting", "only", "those", "jobs", "which", "are", "in", "the", "central", "pool", ",", "while", "in", "O", "we", "are", "counting", "all", "active", "jobs", ".", "Our", "goal", "is", "to", "show", "that", "for", "all", "values", "of", "k", ",", "P", "t", "V", "A", "k", "-LRB-", "t", "-RRB-", "is", "bounded", "from", "above", "by", "P", "t", "V", "O", "k", "-LRB-", "t", "-RRB-", "plus", "small", "additive", "factors", ",", "i.e.", ",", "O", "-LRB-", "k", "-LRB-", "P", "O", "+", "P", "A", "-RRB-", "-RRB-", ".", "Once", "we", "have", "this", ",", "the", "desired", "result", "will", "follow", "from", "standard", "calculations", ".", "Before", "we", "go", "to", "the", "details", "of", "the", "analysis", ",", "let", "us", "first", "show", "how", "to", "prove", "such", "a", "fact", "when", "all", "machines", "are", "of", "the", "same", "speed", ",", "say", "1", ".", "The", "argument", "for", "this", "case", "follows", "directly", "from", "-LSB-", "5", "-RSB-", ",", "but", "we", "describe", "it", "to", "develop", "some", "intuition", "for", "the", "more", "general", "case", ".", "Fix", "a", "time", "t", "and", "class", "k", "of", "jobs", ".", "Suppose", "all", "machines", "are", "processing", "jobs", "of", "class", "at", "most", "k", "at", "time", "t", "in", "our", "schedule", ".", "Let", "t", "be", "the", "first", "time", "before", "t", "at", "which", "there", "is", "at", "least", "one", "machine", "in", "A", "which", "is", "not", "processing", "jobs", "of", "class", "k", "or", "less", "-LRB-", "if", "there", "is", "no", "such", "time", ",", "set", "t", "as", "0", "-RRB-", ".", "It", "follows", "that", "at", "time", "t", "there", "are", "no", "jobs", "of", "class", "k", "or", "less", "which", "are", "mature", "for", "these", "machines", "-LRB-", "since", "all", "machines", "are", "identical", ",", "a", "job", "becomes", "mature", "for", "all", "the", "machines", "at", "the", "same", "time", "-RRB-", ".", "So", "these", "jobs", "must", "have", "been", "released", "after", "t", "k", ".", "During", "-LRB-", "t", "k", ",", "t", "-RRB-", ",", "the", "optimal", "schedule", "can", "process", "at", "most", "m", "k", "volume", "of", "jobs", "of", "class", "at", "most", "k", ".", "So", "it", "follows", "that", "V", "A", "k", "-LRB-", "t", "-RRB-", "-", "V", "O", "k", "-LRB-", "t", "-RRB-", "is", "at", "most", "m", "k", ".", "Since", "our", "schedule", "processes", "jobs", "of", "class", "at", "most", "k", "during", "-LRB-", "t", ",", "t", "-RRB-", ",", "we", "get", "V", "A", "k", "-LRB-", "t", "-RRB-", "-", "V", "O", "k", "-LRB-", "t", "-RRB-", "x", "A", "-LRB-", "t", "-RRB-", "k", ",", "where", "x", "A", "-LRB-", "t", "-RRB-", "denotes", "the", "number", "of", "busy", "machines", "at", "timer", "t", "in", "our", "schedule", "-LRB-", "x", "A", "-LRB-", "t", "-RRB-", "is", "same", "as", "m", "because", "all", "machines", "are", "busy", "at", "time", "t", "-RRB-", ".", "The", "other", "case", "when", "a", "machine", "may", "be", "processing", "jobs", "of", "class", "more", "than", "k", "or", "remain", "idle", "at", "time", "t", "can", "be", "shown", "similarly", "to", "yield", "the", "same", "expression", ".", "Adding", "this", "for", "all", "values", "of", "t", ",", "we", "get", "P", "t", "V", "A", "k", "-LRB-", "t", "-RRB-", "-", "P", "t", "V", "O", "k", "-LRB-", "t", "-RRB-", "is", "at", "most", "k", "P", "A", ",", "which", "is", "what", "we", "wanted", "to", "show", ".", "This", "argument", "does", "not", "extend", "to", "the", "case", "when", "machines", "can", "have", "different", "speeds", ".", "There", "might", "be", "a", "very", "slow", "machine", "which", "is", "not", "processing", "jobs", "of", "class", "k", "or", "less", "-LRB-", "it", "may", "be", "idle", "-RRB-", ",", "but", "then", "the", "jobs", "which", "are", "waiting", "could", "have", "been", "released", "much", "earlier", "and", "so", "we", "can", "not", "argue", "that", "the", "734", "volume", "of", "remaining", "jobs", "of", "class", "at", "most", "k", "at", "time", "t", "in", "the", "two", "schedules", "are", "close", ".", "This", "complicates", "our", "proof", "and", "instead", "of", "defining", "one", "time", "t", "as", "above", ",", "we", "need", "to", "define", "a", "sequence", "of", "times", ".", "Before", "we", "describe", "this", "process", ",", "we", "need", "more", "notations", ".", "These", "are", "summarized", "in", "the", "table", "below", "for", "ease", "of", "reference", ".", "Let", "j", "k", "-LRB-", "t", "-RRB-", "J", "k", "-LRB-", "t", "-RRB-", "be", "the", "job", "with", "the", "earliest", "release", "date", ".", "Let", "r", "k", "-LRB-", "t", "-RRB-", "denote", "the", "release", "date", "of", "job", "j", "k", "-LRB-", "t", "-RRB-", ",", "and", "c", "k", "-LRB-", "t", "-RRB-", "denote", "the", "class", "of", "j", "k", "-LRB-", "t", "-RRB-", ".", "Let", "l", "k", "-LRB-", "t", "-RRB-", "denote", "the", "largest", "l", "such", "that", "j", "k", "-LRB-", "t", "-RRB-", "has", "matured", "for", "machines", "of", "class", "l", "at", "time", "t", ".", "In", "other", "words", ",", "l", "k", "-LRB-", "t", "-RRB-", "is", "the", "highest", "value", "of", "l", "such", "that", "t", "M", "-LRB-", "j", ",", "l", "-RRB-", "t.", "Observe", "that", "all", "machines", "of", "class", "l", "k", "-LRB-", "t", "-RRB-", "or", "less", "must", "be", "busy", "processing", "jobs", "of", "class", "at", "most", "c", "k", "-LRB-", "t", "-RRB-", "at", "time", "t", ",", "otherwise", "our", "algorithm", "should", "have", "dispatched", "j", "by", "time", "t", ".", "Our", "proof", "will", "use", "the", "following", "lemma", ".", "Lemma", "4.11", ".", "For", "any", "class", "k", "of", "jobs", "and", "time", "t", ",", "V", "A", "k", "-LRB-", "t", "-RRB-", "-", "V", "O", "k", "-LRB-", "t", "-RRB-", "2", "c", "k", "-LRB-", "t", "-RRB-", "m", "-LRB-", "l", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "+", "V", "A", "-LRB-", "c", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "-", "V", "O", "-LRB-", "c", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "+", "X", "ll", "k", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", ",", "t", "-RRB-", "l-1", "Proof", ".", "Let", "V", "A", "denote", "the", "volume", "of", "jobs", "of", "class", "at", "most", "k", "which", "are", "processed", "by", "A", "on", "machines", "of", "class", "l", "k", "-LRB-", "t", "-RRB-", "-", "1", "or", "less", "during", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", ",", "t", "-RRB-", ".", "Define", "U", "A", "as", "the", "volume", "of", "jobs", "of", "class", "at", "most", "k", "which", "are", "processed", "by", "A", "on", "machines", "of", "class", "l", "k", "-LRB-", "t", "-RRB-", "or", "more", "during", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", ",", "t", "-RRB-", ".", "Define", "V", "O", "and", "U", "O", "similarly", ".", "Clearly", ",", "V", "A", "k", "-LRB-", "t", "-RRB-", "-", "V", "O", "k", "-LRB-", "t", "-RRB-", "=", "V", "A", "k", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "-", "V", "O", "k", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "+", "-LRB-", "V", "O", "V", "A", "-RRB-", "+", "-LRB-", "U", "O", "-", "U", "A", "-RRB-", ".", "Let", "us", "look", "at", "V", "O", "-", "V", "A", "first", ".", "Any", "machine", "of", "class", "l", "l", "k", "-LRB-", "t", "-RRB-", "-", "1", "is", "busy", "in", "A", "during", "-LRB-", "t", "M", "-LRB-", "j", "k", "-LRB-", "t", "-RRB-", ",", "l", "-RRB-", ",", "t", "-RRB-", "processing", "jobs", "of", "class", "at", "most", "c", "k", "-LRB-", "t", "-RRB-", ".", "The", "amount", "of", "volume", "O", "can", "process", "on", "such", "machines", "during", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", ",", "t", "M", "-LRB-", "j", "k", "-LRB-", "t", "-RRB-", ",", "l", "-RRB-", "-RRB-", "is", "at", "most", "m", "l", "ck", "-LRB-", "t", "-RRB-", "l", "l", "-1", ",", "which", "is", "at", "most", "m", "l", "c", "k", "-LRB-", "t", "-RRB-", ".", "So", "we", "get", "V", "O", "-", "V", "A", "m", "-LRB-", "l", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "c", "k", "-LRB-", "t", "-RRB-", ".", "Let", "us", "now", "consider", "V", "A", "k", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "-", "V", "O", "k", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", ".", "Let", "us", "consider", "jobs", "of", "class", "c", "k", "-LRB-", "t", "-RRB-", "or", "more", "which", "are", "waiting", "at", "time", "r", "k", "-LRB-", "t", "-RRB-", "in", "A", "-LRB-", "so", "they", "were", "released", "before", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", ".", "By", "our", "definition", "of", "j", "k", "-LRB-", "t", "-RRB-", ",", "all", "such", "jobs", "must", "be", "processed", "by", "time", "t", "in", "A", ".", "If", "l", "l", "k", "-LRB-", "t", "-RRB-", "-", "1", ",", "then", "such", "jobs", "can", "be", "done", "on", "machines", "of", "class", "l", "only", "during", "-LRB-", "t", "M", "-LRB-", "j", "k", "-LRB-", "t", "-RRB-", ",", "l", "-RRB-", ",", "t", "-RRB-", ".", "So", "again", "we", "can", "show", "that", "the", "total", "volume", "of", "such", "jobs", "is", "at", "most", "m", "-LRB-", "l", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "c", "k", "-LRB-", "t", "-RRB-", "+", "U", "A", ".", "Thus", "we", "get", "V", "A", "k", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "V", "O", "k", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "m", "-LRB-", "l", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "c", "k", "-LRB-", "t", "-RRB-", "+", "U", "A", "+", "V", "A", "-LRB-", "c", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "V", "O", "-LRB-", "c", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", ",", "because", "V", "O", "-LRB-", "c", "k", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", "V", "O", "k", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", "-RRB-", ".", "Finally", "note", "that", "U", "O", "is", "at", "most", "P", "ll", "k", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "r", "k", "-LRB-", "t", "-RRB-", ",", "t", "-RRB-", "l-1", ".", "Combining", "everything", ",", "we", "get", "the", "result", ".", "The", "rest", "of", "the", "proof", "is", "really", "about", "unraveling", "the", "expression", "in", "the", "lemma", "above", ".", "To", "illustrate", "the", "ideas", "involved", ",", "let", "us", "try", "to", "prove", "the", "special", "case", "for", "jobs", "of", "class", "1", "only", ".", "The", "lemma", "above", "implies", "that", "V", "A", "1", "-LRB-", "t", "-RRB-", "-", "V", "O", "1", "-LRB-", "t", "-RRB-", "2", "m", "-LRB-", "l", "1", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "+", "P", "ll", "1", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "r", "1", "-LRB-", "t", "-RRB-", ",", "t", "-RRB-", "l-1", ".", "We", "are", "really", "interested", "in", "P", "t", "-LRB-", "V", "A", "1", "-LRB-", "t", "-RRB-", "-", "V", "O", "1", "-LRB-", "t", "-RRB-", "-RRB-", ".", "Now", ",", "the", "sum", "P", "t", "m", "-LRB-", "l", "1", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "is", "not", "a", "problem", "because", "we", "know", "that", "at", "time", "t", "all", "machines", "of", "class", "l", "1", "-LRB-", "t", "-RRB-", "or", "less", "must", "be", "busy", "in", "A.", "So", ",", "x", "A", "-LRB-", "t", "-RRB-", "m", "-LRB-", "l", "1", "-LRB-", "t", "-RRB-", "-1", "-RRB-", ".", "So", "P", "t", "m", "-LRB-", "l", "1", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "is", "at", "most", "P", "t", "x", "A", "-LRB-", "t", "-RRB-", ",", "which", "is", "the", "total", "processing", "time", "of", "A", ".", "It", "is", "little", "tricky", "to", "bound", "the", "second", "term", ".", "We", "shall", "write", "P", "ll", "1", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "r", "1", "-LRB-", "t", "-RRB-", ",", "t", "-RRB-", "l-1", "as", "P", "ll", "1", "-LRB-", "t", "-RRB-", "P", "t", "t", "=", "r", "1", "-LRB-", "t", "-RRB-", "x", "O", "l", "-LRB-", "t", "-RRB-", "l-1", ".", "We", "can", "think", "of", "this", "as", "saying", "that", "at", "time", "time", "t", ",", "r", "1", "-LRB-", "t", "-RRB-", "t", "t", ",", "we", "are", "charging", "1", "/", "l-1", "amount", "to", "each", "machine", "of", "class", "l", "which", "is", "busy", "at", "time", "t", "in", "O.", "Note", "that", "here", "l", "is", "at", "least", "l", "1", "-LRB-", "t", "-RRB-", ".", "Now", "we", "consider", "P", "t", "P", "ll", "1", "-LRB-", "t", "-RRB-", "P", "t", "t", "=", "r", "1", "-LRB-", "t", "-RRB-", "x", "O", "l", "-LRB-", "t", "-RRB-", "l-1", ".", "For", "a", "fixed", "time", "t", "and", "a", "machine", "i", "of", "class", "l", "which", "is", "busy", "at", "time", "t", "in", "O", ",", "let", "us", "see", "for", "how", "many", "times", "t", "we", "charge", "to", "i", ".", "We", "charge", "to", "i", "at", "time", "t", "if", "t", "lies", "in", "the", "interval", "-LRB-", "r", "1", "-LRB-", "t", "-RRB-", ",", "t", "-RRB-", ",", "and", "l", "l", "1", "-LRB-", "t", "-RRB-", ".", "Suppose", "this", "happens", ".", "We", "claim", "that", "t", "-", "t", "has", "to", "be", "at", "most", "l", "+1", ".", "Indeed", "otherwise", "t", "-", "r", "1", "-LRB-", "t", "-RRB-", "l", "+1", "and", "so", "j", "1", "-LRB-", "t", "-RRB-", "has", "matured", "for", "machines", "of", "class", "l", "+", "1", "as", "well", ".", "But", "then", "l", "<", "l", "1", "-LRB-", "t", "-RRB-", ".", "So", "the", "total", "amount", "of", "charge", "machine", "i", "gets", "at", "time", "t", "is", "at", "most", "l", "+1", "1", "/", "l-1", "=", "O", "-LRB-", "1", "-RRB-", ".", "Thus", ",", "the", "total", "sum", "turns", "out", "to", "be", "at", "most", "a", "constant", "times", "the", "total", "processing", "time", "of", "O.", "Let", "us", "now", "try", "to", "prove", "this", "for", "the", "general", "case", ".", "We", "build", "some", "notation", "first", ".", "Fix", "a", "time", "t", "and", "class", "k", ".", "We", "shall", "define", "a", "sequence", "of", "times", "t", "0", ",", "t", "1", ",", "and", "a", "sequence", "of", "jobs", "j", "0", "-LRB-", "t", "-RRB-", ",", "j", "1", "-LRB-", "t", "-RRB-", ",", "...", "associated", "with", "this", "sequence", "of", "times", ".", "c", "i", "-LRB-", "t", "-RRB-", "shall", "denote", "the", "class", "of", "the", "job", "j", "i", "-LRB-", "t", "-RRB-", ".", "Let", "us", "see", "how", "we", "define", "this", "sequence", ".", "First", "of", "all", "t", "0", "=", "t", ",", "and", "j", "0", "-LRB-", "t", "-RRB-", "is", "the", "job", "j", "k", "-LRB-", "t", "-RRB-", "-LRB-", "as", "defined", "above", "-RRB-", ".", "Recall", "the", "definition", "of", "j", "k", "-LRB-", "t", "-RRB-", "it", "is", "the", "job", "with", "the", "earliest", "release", "date", "among", "all", "jobs", "of", "class", "at", "most", "k", "which", "are", "waiting", "at", "time", "t", "in", "A.", "Note", "that", "c", "0", "-LRB-", "t", "-RRB-", ",", "the", "class", "of", "this", "job", ",", "can", "be", "less", "than", "k", ".", "Now", "suppose", "we", "have", "defined", "t", "0", ",", "...", ",", "t", "i", "and", "j", "0", "-LRB-", "t", "-RRB-", ",", "...", ",", "j", "i", "-LRB-", "t", "-RRB-", ",", "i", "0", ".", "t", "i", "+1", "is", "the", "release", "date", "of", "j", "i", "-LRB-", "t", "-RRB-", ".", "j", "i", "+1", "-LRB-", "t", "-RRB-", "is", "defined", "as", "the", "job", "j", "c", "i", "-LRB-", "t", "-RRB-", "-1", "-LRB-", "t", "i", "+1", "-RRB-", ",", "i.e.", ",", "the", "job", "with", "the", "earliest", "release", "date", "among", "all", "jobs", "of", "class", "less", "than", "c", "i", "-LRB-", "t", "-RRB-", "waiting", "at", "time", "t", "i", "+1", "in", "A", ".", "We", "shall", "also", "define", "a", "sequence", "of", "classes", "of", "machines", "l", "0", "-LRB-", "t", "-RRB-", ",", "l", "1", "-LRB-", "t", "-RRB-", ",", "...", "in", "the", "following", "manner", "l", "i", "-LRB-", "t", "-RRB-", "is", "the", "highest", "class", "l", "of", "machines", "such", "that", "job", "j", "i", "-LRB-", "t", "-RRB-", "has", "matured", "for", "machines", "of", "class", "l", "at", "time", "t", "i", ".", "Figure", "2", "illustrates", "these", "definitions", ".", "The", "vertical", "line", "at", "time", "t", "i", "denotes", "l", "i", "-LRB-", "t", "-RRB-", "the", "height", "of", "this", "line", "is", "proportional", "to", "l", "i", "-LRB-", "t", "-RRB-", ".", "We", "note", "the", "following", "simple", "fact", ".", "Claim", "4.12", ".", "l", "i", "-LRB-", "t", "-RRB-", "c", "i", "-LRB-", "t", "-RRB-", "t", "i", "-", "t", "i", "+1", "l", "i", "-LRB-", "t", "-RRB-", "+1", "c", "i", "-LRB-", "t", "-RRB-", ".", "Proof", ".", "Indeed", "t", "i", "+1", "is", "the", "release", "date", "of", "j", "i", "-LRB-", "t", "-RRB-", "and", "j", "i", "-LRB-", "t", "-RRB-", "matures", "for", "machines", "of", "class", "l", "i", "-LRB-", "t", "-RRB-", "at", "time", "t", "i", ",", "but", "not", "for", "machines", "of", "class", "l", "i", "+1", "-LRB-", "t", "-RRB-", "at", "time", "t", "i", ".", "The", "statement", "in", "Lemma", "4.11", "can", "be", "unrolled", "iteratively", "to", "give", "the", "following", "inequality", ":", "V", "A", "k", "-LRB-", "t", "-RRB-", "-", "V", "O", "k", "-LRB-", "t", "-RRB-", "2", "-LRB-", "c", "0", "-LRB-", "t", "-RRB-", "m", "<", "l", "0", "-LRB-", "t", "-RRB-", "+", "c", "1", "-LRB-", "t", "-RRB-", "m", "<", "l", "1", "-LRB-", "t", "-RRB-", "+", "-RRB-", "+", "0", "@", "X", "ll", "0", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "1", ",", "t", "0", "-RRB-", "l-1", "+", "X", "ll", "1", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "2", ",", "t", "1", "-RRB-", "l-1", "+", "1", "A", "-LRB-", "2", "-RRB-", "Let", "us", "try", "to", "see", "what", "the", "inequality", "means", ".", "First", "look", "at", "the", "term", "c", "i", "-LRB-", "t", "-RRB-", "m", "<", "l", "i", "-LRB-", "t", "-RRB-", ".", "Consider", "a", "machine", "of", "class", "l", "<", "l", "i", "-LRB-", "t", "-RRB-", ".", "It", "is", "busy", "in", "A", "during", "-LRB-", "t", "M", "-LRB-", "j", "i", "-LRB-", "t", "-RRB-", ",", "l", "-RRB-", ",", "t", "i", "-RRB-", ".", "Now", "t", "i", "-", "t", "M", "-LRB-", "j", "i", "-LRB-", "t", "-RRB-", ",", "l", "-RRB-", "=", "-LRB-", "t", "i", "-", "t", "i", "+1", "-RRB-", "-", "-LRB-", "t", "M", "-LRB-", "j", "i", "-LRB-", "t", "-RRB-", ",", "l", "-RRB-", "-", "t", "i", "+1", "-RRB-", "l", "i", "-LRB-", "t", "-RRB-", "c", "i", "-LRB-", "t", "-RRB-", "c", "i", "-LRB-", "t", "-RRB-", "l", "c", "i", "-LRB-", "t", "-RRB-", "l", ",", "as", "l", "<", "l", "i", "-LRB-", "t", "-RRB-", ".", "Hence", "machine", "l", "is", "also", "busy", "in", "A", "during", "-LRB-", "t", "i", "c", "i", "-LRB-", "t", "-RRB-", "l", ",", "t", "i", "-RRB-", ",", "So", "the", "term", "c", "i", "-LRB-", "t", "-RRB-", "m", "<", "l", "i", "-LRB-", "t", "-RRB-", "is", "essentially", "saying", "that", "we", "charge", "1", "/", "l", "amount", "to", "each", "machine", "of", "class", "l", "<", "l", "i", "-LRB-", "t", "-RRB-", "during", "each", "time", "in", "-LRB-", "t", "i", "735", "x", "A", "-LRB-", "t", "-RRB-", ",", "x", "O", "-LRB-", "t", "-RRB-", "Number", "of", "machines", "busy", "at", "time", "t", "in", "A", ",", "O.", "x", "A", "l", "-LRB-", "t", "-RRB-", ",", "x", "O", "l", "-LRB-", "t", "-RRB-", "Number", "of", "machines", "of", "class", "l", "busy", "at", "time", "t", "in", "A", ",", "O.", "P", "A", "l", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", ",", "P", "O", "l", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", "Total", "processing", "time", "incurred", "by", "machines", "of", "class", "l", "during", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", "in", "A", ",", "O.", "m", "l", ",", "m", "l", ",", "m", "<", "l", "Number", "of", "machines", "of", "class", "l", ",", "at", "most", "l", ",", "less", "than", "l.", "m", "-LRB-", "l", "1", ",", "l", "2", "-RRB-", "Number", "of", "machines", "of", "class", "between", "-LRB-", "and", "including", "-RRB-", "l", "1", "and", "l", "2", ".", "J", "-LRB-", "k", ",", "t", "-RRB-", "Set", "of", "jobs", "of", "class", "at", "most", "k", "which", "are", "waiting", "at", "time", "t", "in", "A.", "Table", "1", ":", "Table", "of", "definitions", "t", "t", "t", "t", "t", "1", "0", "2", "3", "4", "l", "l", "l", "l", "l", "0", "1", "2", "3", "4", "t", "5", "5", "l", "t", "6", "r", "jj", "j", "r", "r", "r", "r", "r", "j", "j", "j", "j", "j", "0", "1", "2", "3", "4", "5", "Figure", "2", ":", "Illustrating", "the", "definitions", "of", "t", "0", ",", "...", "and", "c", "0", "-LRB-", "t", "-RRB-", ",", "...", ".", "c", "i", "-LRB-", "t", "-RRB-", "l", ",", "t", "i", "-RRB-", ".", "These", "intervals", "are", "shown", "in", "figure", "2", "using", "light", "shade", ".", "So", "a", "machine", "i", "of", "class", "l", "which", "is", "busy", "in", "A", "during", "these", "lightly", "shaded", "regions", "is", "charged", "1", "/", "l", "units", ".", "Let", "us", "now", "look", "at", "the", "term", "P", "ll", "i", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "+1", ",", "t", "i", "-RRB-", "l-1", ".", "This", "means", "the", "following", "consider", "a", "machine", "of", "class", "l", "l", "i", "-LRB-", "t", "-RRB-", "which", "is", "busy", "in", "O", "at", "some", "time", "t", "during", "-LRB-", "t", "i", "+1", ",", "t", "i", "-RRB-", "then", "we", "charge", "it", "1", "/", "l-1", "units", ".", "Figure", "2", "illustrates", "this", "fact", "we", "charge", "1", "/", "l-1", "to", "all", "machines", "of", "class", "l", "l", "i", "-LRB-", "t", "-RRB-", "which", "are", "busy", "in", "O", "during", "the", "darkly", "shaded", "regions", ".", "Let", "us", "see", "how", "we", "can", "simplify", "the", "picture", ".", "We", "say", "that", "the", "index", "i", "is", "suffix", "maximum", "if", "l", "i", "-LRB-", "t", "-RRB-", ">", "l", "i-1", "-LRB-", "t", "-RRB-", ",", "...", ",", "l", "0", "-LRB-", "t", "-RRB-", "-LRB-", "i", "=", "0", "is", "always", "suffix", "maximum", "-RRB-", ".", "In", "Figure", "2", ",", "t", "0", ",", "t", "2", "and", "t", "5", "are", "suffix", "maximum", ".", "Let", "the", "indices", "which", "are", "suffix", "maximum", "be", "i", "0", "=", "0", "<", "i", "1", "<", "i", "2", "<", "...", ".", "The", "following", "lemma", "says", "that", "we", "can", "consider", "only", "suffix", "maximum", "indices", "in", "-LRB-", "2", "-RRB-", ".", "We", "defer", "its", "proof", "to", "the", "appendix", ".", "Lemma", "4.13", ".", "V", "A", "k", "-LRB-", "t", "-RRB-", "-", "V", "O", "k", "-LRB-", "t", "-RRB-", "4", "2", "X", "i", "u", "c", "iu", "-LRB-", "t", "-RRB-", "m", "-LRB-", "l", "iu-1", "-LRB-", "t", "-RRB-", ",", "l", "iu", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "+", "X", "i", "u", "X", "ll", "iu", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "u", "+1", ",", "t", "i", "u", "-RRB-", "l-1", ",", "where", "i", "u", "varies", "over", "the", "suffix", "maximum", "indices", "-LRB-", "define", "l", "i", "-1", "-LRB-", "t", "-RRB-", "as", "1", "-RRB-", ".", "Recall", "that", "m", "-LRB-", "l", "1", ",", "l", "2", "-RRB-", "denotes", "the", "number", "of", "machines", "of", "class", "between", "l", "1", "and", "l", "2", ".", "Figure", "3", "shows", "what", "Lemma", "4.13", "is", "saying", ".", "In", "the", "lightly", "shaded", "region", ",", "if", "there", "is", "a", "machine", "of", "class", "l", "which", "is", "busy", "at", "some", "time", "t", "in", "A", ",", "we", "charge", "it", "1", "/", "l", "units", "at", "time", "t", ".", "In", "the", "darkly", "shaded", "region", "if", "there", "is", "a", "machine", "i", "of", "class", "l", "which", "is", "busy", "at", "time", "t", "in", "O", "we", "charge", "it", "1", "/", "l-1", "units", ".", "Now", "we", "try", "to", "bound", "the", "charges", "on", "the", "darkly", "shaded", "region", "for", "all", "time", "t.", "Let", "us", "fix", "a", "machine", "h", "of", "class", "l.", "Suppose", "h", "is", "busy", "in", "O", "at", "time", "t", ".", "We", "are", "charging", "1", "/", "l-1", "amount", "to", "h", "at", "time", "t", "if", "the", "following", "condition", "holds", ":", "for", "all", "i", "such", "that", "t", "i", "t", ",", "l", "i", "-LRB-", "t", "-RRB-", "is", "at", "most", "l", ".", "Now", "we", "ask", ",", "if", "we", "fix", "t", ",", "for", "how", "many", "values", "of", "t", "do", "we", "charge", "h", "at", "time", "t", "?", "The", "following", "claim", "shows", "that", "this", "can", "not", "be", "too", "large", ".", "Claim", "4.14", ".", "Given", "a", "machine", "h", "of", "class", "l", ",", "we", "can", "charge", "it", "for", "the", "darkly", "shaded", "region", "at", "time", "t", "for", "at", "most", "2", "l", "+1", "k", "values", "of", "t.", "Proof", ".", "Suppose", "we", "charge", "h", "at", "time", "t", "for", "some", "value", "of", "t.", "Fix", "this", "t.", "Clearly", "t", "t", ".", "Let", "i", "be", "the", "largest", "index", "such", "that", "t", "t", "i", ".", "So", "t", "-", "t", "t", "-", "t", "i", "+1", ".", "Now", "consider", "any", "i", "i.", "Lemma", "4.12", "implies", "that", "t", "i", "-", "t", "i", "+1", "l", "i", "-LRB-", "t", "-RRB-", "+1", "i", "-LRB-", "t", "-RRB-", "l", "+1", "c", "i", "-LRB-", "t", "-RRB-", ".", "Since", "c", "i", "-LRB-", "t", "-RRB-", "decrease", "as", "i", "increases", ",", "P", "i", "i", "=", "0", "-LRB-", "t", "i", "-", "t", "i", "+1", "-RRB-", "2", "l", "+1", "k", ".", "This", "implies", "the", "claim", ".", "So", "the", "total", "amount", "of", "charge", "to", "machine", "h", "at", "time", "t", "is", "at", "most", "2", "2", "k", ".", "Thus", "we", "get", "the", "following", "fact", ":", "X", "t", "0", "@X", "i", "u", "X", "ll", "iu", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "u", "+1", ",", "t", "i", "u", "-RRB-", "l-1", "1", "A", "2", "2", "k", "P", "O", "-LRB-", "3", "-RRB-", "Now", "we", "look", "at", "the", "charges", "on", "the", "lightly", "shaded", "region", ".", "Let", "h", "be", "a", "machine", "of", "class", "l", "which", "is", "busy", "in", "A", "at", "time", "t", ".", "As", "argued", "earlier", ",", "we", "charge", "1", "/", "l", "units", "to", "h", "at", "time", "t", "if", "the", "following", "condition", "holds", "there", "exists", "a", "suffix", "maximum", "index", "i", "u", "such", "that", "t", "lies", "in", "the", "interval", "-LRB-", "t", "i", "u", "c", "iu", "-LRB-", "t", "-RRB-", "l", ",", "t", "i", "u", "-RRB-", ".", "Further", "for", "all", "suffix", "maximum", "indices", "i", "<", "i", "u", ",", "it", "must", "be", "the", "case", "that", "l", "i", "-LRB-", "t", "-RRB-", "<", "l", ".", "Now", "we", "want", "to", "know", "for", "how", "many", "values", "of", "t", "do", "we", "charge", "h", "at", "time", "t", ".", "736", "t", "t", "t", "t", "t", "1", "0", "2", "3", "4", "l", "l", "l", "l", "l", "0", "1", "2", "3", "4", "t", "5", "5", "l", "t", "6", "r", "jj", "j", "r", "r", "r", "r", "r", "j", "j", "j", "j", "j", "0", "1", "2", "3", "4", "5", "Figure", "3", ":", "Illustrating", "Lemma", "4.13", "Claim", "4.15", ".", "Given", "a", "machine", "h", "of", "class", "l", ",", "we", "can", "charge", "it", "for", "the", "lightly", "shaded", "region", "at", "time", "t", "for", "at", "most", "3", "l", "+1", "k", "values", "of", "t.", "Proof", ".", "Fix", "a", "time", "t", "such", "that", "while", "accounting", "for", "V", "A", "k", "-LRB-", "t", "-RRB-", "we", "charge", "h", "at", "time", "t", ".", "So", "there", "is", "a", "maximum", "index", "i", "u", "such", "that", "t", "i", "u", "-", "t", "c", "iu", "-LRB-", "t", "-RRB-", "l", ".", "Further", ",", "if", "i", "is", "an", "index", "less", "than", "i", "u", ",", "then", "l", "i", "-LRB-", "t", "-RRB-", "must", "be", "less", "than", "l", ".", "We", "can", "argue", "as", "in", "the", "proof", "of", "Claim", "4.14", "that", "t", "-", "t", "i", "u", "can", "be", "at", "most", "2", "l", "+1", "k", ".", "So", "t", "-", "t", "3", "l", "+1", "k", ".", "So", "we", "get", "X", "t", "X", "i", "u", "c", "iu", "-LRB-", "t", "-RRB-", "m", "-LRB-", "l", "iu-1", "-LRB-", "t", "-RRB-", ",", "l", "iu", "-LRB-", "t", "-RRB-", "-1", "-RRB-", "!", "3", "k", "P", "A", "-LRB-", "4", "-RRB-", "Putting", "everything", "together", ",", "we", "see", "that", "Lemma", "4.13", ",", "and", "equations", "-LRB-", "3", "-RRB-", "and", "-LRB-", "4", "-RRB-", "imply", "that", "there", "is", "a", "constant", "c", "such", "that", "X", "t", "V", "A", "k", "-LRB-", "t", "-RRB-", "X", "t", "V", "O", "k", "-LRB-", "t", "-RRB-", "+", "c", "k", "-LRB-", "P", "O", "+", "P", "A", "-RRB-", ".", "-LRB-", "5", "-RRB-", "The", "final", "result", "now", "follows", "from", "standard", "calculations", ".", "Theorem", "4.16", ".", "F", "A", "is", "O", "-LRB-", "log", "S", "log", "2", "P", "F", "O", "-RRB-", ".", "Proof", ".", "We", "have", "already", "bounded", "the", "processing", "time", "of", "A", ".", "Once", "a", "job", "gets", "dispatched", "to", "a", "machine", "i", ",", "its", "waiting", "time", "can", "be", "charged", "to", "the", "processing", "done", "by", "i", ".", "Since", "at", "any", "time", "t", ",", "there", "are", "at", "most", "log", "P", "active", "jobs", "dispatched", "to", "a", "machine", ",", "the", "total", "waiting", "time", "of", "jobs", "after", "their", "dispatch", "time", "is", "at", "most", "O", "-LRB-", "log", "P", "P", "A", "-RRB-", ".", "So", "we", "just", "need", "to", "bound", "the", "time", "for", "which", "jobs", "are", "waiting", "in", "the", "central", "pool", ".", "Let", "n", "A", "k", "-LRB-", "t", "-RRB-", "be", "the", "number", "of", "jobs", "of", "class", "k", "waiting", "in", "the", "central", "pool", "at", "time", "t", "in", "our", "algorithm", ".", "Let", "n", "O", "k", "-LRB-", "t", "-RRB-", "be", "the", "number", "of", "jobs", "of", "class", "k", "which", "are", "active", "at", "time", "t", "in", "O", "-LRB-", "note", "the", "difference", "in", "the", "definitions", "of", "the", "two", "quantities", "-RRB-", ".", "Since", "jobs", "waiting", "in", "the", "central", "pool", "in", "A", "have", "not", "been", "processed", "at", "all", ",", "it", "is", "easy", "to", "see", "that", "n", "A", "k", "-LRB-", "t", "-RRB-", "V", "A", "k", "-LRB-", "t", "-RRB-", "k", ".", "Further", ",", "V", "O", "k", "-LRB-", "t", "-RRB-", "k", "n", "O", "k", "-LRB-", "t", "-RRB-", "+", "+", "n", "O", "1", "-LRB-", "t", "-RRB-", ".", "Combining", "these", "observations", "with", "equation", "-LRB-", "5", "-RRB-", ",", "we", "get", "for", "all", "values", "of", "k", ",", "X", "t", "n", "A", "k", "-LRB-", "t", "-RRB-", "X", "t", ",", ",", "n", "O", "k", "-LRB-", "t", "-RRB-", "+", "n", "O", "k-1", "-LRB-", "t", "-RRB-", "+", "+", "n", "O", "1", "-LRB-", "t", "-RRB-", "k-1", "+", "c", "-LRB-", "P", "O", "+", "P", "A", "-RRB-", ".", "We", "know", "that", "total", "flow", "time", "of", "a", "schedule", "is", "equal", "to", "the", "sum", "over", "all", "time", "t", "of", "the", "number", "of", "active", "jobs", "at", "time", "t", "in", "the", "schedule", ".", "So", "adding", "the", "equation", "above", "for", "all", "values", "of", "k", "and", "using", "Corollary", "4.10", "implies", "the", "theorem", ".", "We", "would", "like", "to", "express", "our", "thanks", "to", "Gagan", "Goel", ",", "Vinayaka", "Pandit", ",", "Yogish", "Sabharwal", "and", "Raghavendra", "Udupa", "for", "useful", "discussions", ".", "-LSB-", "1", "-RSB-", "N.", "Avrahami", "and", "Y.", "Azar", ".", "Minimizing", "total", "flow", "time", "and", "total", "completion", "time", "with", "immediate", "dispatching", ".", "In", "Proc", ".", "15th", "Symp", ".", "on", "Parallel", "Algorithms", "and", "Architectures", "-LRB-", "SPAA", "-RRB-", ",", "pages", "11", "18", ".", "ACM", ",", "2003", ".", "-LSB-", "2", "-RSB-", "Baruch", "Awerbuch", ",", "Yossi", "Azar", ",", "Stefano", "Leonardi", ",", "and", "Oded", "Regev", ".", "Minimizing", "the", "flow", "time", "without", "migration", ".", "In", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "198", "205", ",", "1999", ".", "-LSB-", "3", "-RSB-", "N.", "Bansal", "and", "K.", "Pruhs", ".", "Server", "scheduling", "in", "the", "l", "p", "norm", ":", "A", "rising", "tide", "lifts", "all", "boats", ".", "In", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "242", "250", ",", "2003", ".", "-LSB-", "4", "-RSB-", "Luca", "Becchetti", ",", "Stefano", "Leonardi", ",", "Alberto", "Marchetti-Spaccamela", ",", "and", "Kirk", "R.", "Pruhs", ".", "Online", "weighted", "flow", "time", "and", "deadline", "scheduling", ".", "Lecture", "Notes", "in", "Computer", "Science", ",", "2129:36", "47", ",", "2001", ".", "-LSB-", "5", "-RSB-", "C.", "Chekuri", ",", "S.", "Khanna", ",", "and", "A.", "Zhu", ".", "Algorithms", "for", "weighted", "flow", "time", ".", "In", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "84", "93", ".", "ACM", ",", "2001", ".", "-LSB-", "6", "-RSB-", "Chandra", "Chekuri", ",", "Ashish", "Goel", ",", "Sanjeev", "Khanna", ",", "and", "Amit", "Kumar", ".", "Multi-processor", "scheduling", "to", "minimize", "flow", "time", "with", "epsilon", "resource", "augmentation", ".", "In", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "363", "372", ",", "2004", ".", "-LSB-", "7", "-RSB-", "R.", "L.", "Graham", ",", "E.", "L.", "Lawler", ",", "J.", "K.", "Lenstra", ",", "and", "A.", "H.", "G.", "Rinnooy", "Kan.", ".", "Optimization", "and", "approximation", "in", "deterministic", "sequencing", "and", "scheduling", ":", "a", "survey", ".", "Ann", ".", "Discrete", "Math.", ",", "5:287", "326", ",", "1979", ".", "-LSB-", "8", "-RSB-", "Bala", "Kalyanasundaram", "and", "Kirk", "Pruhs", ".", "Speed", "is", "as", "powerful", "as", "clairvoyance", ".", "In", "IEEE", "Symposium", "on", "737", "Foundations", "of", "Computer", "Science", ",", "pages", "214", "221", ",", "1995", ".", "-LSB-", "9", "-RSB-", "Hans", "Kellerer", ",", "Thomas", "Tautenhahn", ",", "and", "Gerhard", "J.", "Woeginger", ".", "Approximability", "and", "nonapproximability", "results", "for", "minimizing", "total", "flow", "time", "on", "a", "single", "machine", ".", "In", "ACM", "Symposium", "on", "Theory", "of", "Cmputing", ",", "pages", "418", "426", ",", "1996", ".", "-LSB-", "10", "-RSB-", "Stefano", "Leonardi", "and", "Danny", "Raz", ".", "Approximating", "total", "flow", "time", "on", "parallel", "machines", ".", "In", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "110", "119", ",", "1997", ".", "-LSB-", "11", "-RSB-", "C.", "A.", "Phillips", ",", "C.", "Stein", ",", "E.", "Torng", ",", "and", "J.", "Wein", ".", "Optimal", "time-critical", "scheduling", "via", "resource", "augmentation", ".", "In", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "pages", "140", "149", ",", "1997", ".", "Appendix", "Proof", "of", "Theorem", "4.6", ".", "Let", "M", "denote", "the", "set", "of", "machines", "of", "class", "less", "than", "l.", "First", "observe", "that", "the", "processing", "time", "incurred", "by", "A", "on", "J", "I", "is", "at", "most", "twice", "of", "|", "M", "|", "T", "-LRB-", "the", "factor", "twice", "comes", "because", "there", "may", "be", "some", "jobs", "which", "are", "dispatched", "during", "I", "but", "finish", "later", "--", "there", "can", "be", "at", "most", "one", "such", "job", "for", "a", "given", "class", "and", "a", "given", "machine", "-RRB-", ".", "So", "we", "will", "be", "done", "if", "we", "can", "show", "that", "F", "O", "J", "I", "is", "-LRB-", "|", "M", "|", "T", "-RRB-", ".", "Let", "V", "be", "the", "volume", "of", "jobs", "in", "J", "I", "which", "are", "done", "by", "O", "on", "machines", "of", "class", "l", "or", "more", ".", "If", "V", "|", "M", "|", "T", "l", "+1", ",", "then", "we", "are", "done", "because", "then", "the", "processing", "time", "incurred", "by", "O", "on", "J", "I", "is", "at", "least", "V", "l", ".", "So", "we", "will", "assume", "in", "the", "rest", "of", "the", "proof", "that", "V", "|", "M", "|", "T", "l", "+1", ".", "Let", "i", "be", "a", "machine", "of", "class", "less", "than", "l", ".", "We", "shall", "say", "that", "i", "is", "good", "is", "i", "processes", "jobs", "from", "J", "I", "for", "at", "least", "T", "/", "4", "units", "of", "time", "during", "I", "in", "the", "optimal", "solution", "O.", "Otherwise", "we", "say", "that", "i", "is", "bad", ".", "Let", "G", "denote", "the", "set", "of", "good", "machines", ".", "If", "|", "G", "|", "|", "M", "|", ",", "then", "we", "are", "done", "again", ",", "because", "P", "O", "J", "I", "is", "at", "least", "|", "G", "|", "T/4", ".", "Let", "B", "denote", "the", "set", "of", "bad", "machines", ".", "So", "we", "can", "assume", "that", "the", "number", "of", "good", "machines", "is", "at", "most", "1", "/", "fraction", "of", "the", "number", "of", "machines", "of", "class", "less", "than", "l", ".", "Now", "consider", "a", "time", "t", "in", "the", "interval", "-LRB-", "t", "b", "+", "T", "/", "2", ",", "t", "e", "-RRB-", ".", "Claim", "6.1", ".", "At", "time", "t", ",", "at", "least", "k", "|", "M", "|", "volume", "of", "jobs", "from", "J", "I", "is", "waiting", "in", "O.", "Proof", ".", "Let", "V", "1", "denote", "the", "volume", "of", "jobs", "from", "J", "I", "which", "is", "done", "by", "A", "during", "-LRB-", "t", "b", ",", "t", "-RRB-", ".", "Let", "V", "2", "denote", "the", "volume", "of", "jobs", "from", "J", "I", "which", "is", "done", "by", "O", "on", "machines", "of", "class", "less", "than", "l", "during", "-LRB-", "t", "b", ",", "t", "-RRB-", ".", "Recall", "that", "for", "a", "machine", "i", ",", "s", "i", "denotes", "the", "slowness", "of", "i", ".", "Since", "a", "machine", "i", "of", "class", "l", "<", "l", "does", "not", "perform", "jobs", "from", "J", "I", "for", "at", "most", "6", "k", "l", "amount", "of", "time", "during", "I", ",", "we", "see", "that", "V", "1", "P", "iM", "t-t", "b", "-6", "k", "ci", "s", "i", ",", "where", "c", "i", "denotes", "the", "class", "of", "i.", "Let", "us", "look", "at", "V", "2", "now", ".", "In", "O", "all", "bad", "machines", "do", "not", "process", "jobs", "from", "J", "I", "for", "at", "least", "3T", "/", "4", "units", "of", "time", "during", "I", ".", "So", "they", "do", "not", "process", "jobs", "from", "J", "I", "for", "at", "least", "T", "/", "4", "units", "of", "time", "during", "-LRB-", "t", "b", ",", "t", "b", "+", "T", "/", "2", "-RRB-", ".", "So", "V", "2", "P", "iM", "-LRB-", "t-t", "b", "-RRB-", "s", "i", "-", "P", "iB", "T", "4s", "i", ".", "This", "shows", "that", "V", "1", "-", "V", "2", "P", "iB", "T", "4s", "i", "-", "P", "iM", "6", "k", "ci", "s", "i", ".", "For", "a", "bad", "machine", "i", ",", "T", "/", "4", "-", "6", "k", "c", "i", "T/8", ",", "since", "c", "i", "l", "1", "-LRB-", "assuming", "is", "large", "enough", "-RRB-", ".", "So", ",", "we", "can", "see", "that", "this", "difference", "is", "at", "least", "P", "iB", "T", "8s", "i", "-", "P", "i", "/", "B", "6", "k", ".", "Since", "T", "l", "k", ",", "we", "see", "that", "this", "difference", "is", "at", "least", "T", "l-1", "-LRB-", "|", "B", "|", "/", "8", "-", "6", "|", "G", "|", "-RRB-", ",", "which", "is", "at", "least", "T", "|", "M", "|", "10", "l-1", ",", "because", "we", "have", "assumed", "that", "|", "B", "|", "is", "larger", "than", "|", "G", "|", "by", "a", "sufficiently", "high", "constant", "factor", ".", "Recall", "that", "V", "is", "the", "volume", "of", "jobs", "in", "J", "I", "which", "is", "done", "by", "O", "on", "machines", "of", "class", "l", "or", "more", ".", "Clearly", ",", "the", "volume", "of", "jobs", "from", "J", "I", "which", "is", "waiting", "at", "time", "t", "in", "O", "is", "at", "least", "V", "1", "-", "V", "2", "-", "V", ".", "But", "V", "is", "at", "most", "T", "|", "M", "|", "l", "+1", ".", "Hence", "the", "volume", "waiting", "at", "time", "t", "is", "at", "least", "T", "|", "M", "|", "l", ".", "This", "proves", "the", "lemma", ".", "Since", "each", "job", "in", "J", "I", "is", "of", "size", "at", "most", "k", ",", "we", "see", "that", "at", "least", "-LRB-", "|", "M", "|", "-RRB-", "jobs", "are", "waiting", "at", "time", "t.", "Summing", "over", "all", "values", "of", "t", "in", "the", "range", "-LRB-", "t", "b", "+", "T", "/", "2", ",", "t", "e", "-RRB-", "implies", "the", "theorem", ".", "Proof", "of", "Lemma", "4.13", ".", "Consider", "an", "i", ",", "i", "u", "+1", "<", "i", "i", "u", ".", "Then", "l", "i", "-LRB-", "t", "-RRB-", "l", "i", "u", "-LRB-", "t", "-RRB-", ",", "otherwise", "we", "should", "have", "another", "suffix", "maximal", "index", "between", "i", "u", "+1", "and", "i", "u", ".", "So", "P", "i", "u", "+1", "-1", "i", "=", "i", "u", "c", "i", "-LRB-", "t", "-RRB-", "m", "<", "l", "i", "-LRB-", "t", "-RRB-", "m", "<", "l", "iu", "-LRB-", "t", "-RRB-", "P", "i", "u", "-1", "i", "=", "i", "u", "c", "i", "-LRB-", "t", "-RRB-", "2", "m", "<", "l", "iu", "-LRB-", "t", "-RRB-", "c", "iu", "-LRB-", "t", "-RRB-", ".", "So", "we", "get", "P", "i", "c", "i", "-LRB-", "t", "-RRB-", "m", "<", "l", "i", "-LRB-", "t", "-RRB-", "2", "P", "i", "u", "m", "<", "l", "iu", "-LRB-", "t", "-RRB-", "c", "iu", "-LRB-", "t", "-RRB-", ".", "Now", "we", "consider", "the", "sum", "P", "i", "P", "ll", "i", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "+1", ",", "t", "i", "-RRB-", "l-1", ".", "Fix", "an", "i", ",", "i", "u", "+1", "<", "i", "i", "u", ".", "Using", "Claim", "4.12", ",", "we", "see", "that", "P", "O", "l", "-LRB-", "t", "i", "+1", ",", "t", "i", "-RRB-", "m", "l", "l", "i", "-LRB-", "t", "-RRB-", "+1", "c", "i", "-LRB-", "t", "-RRB-", ".", "So", "we", "get", "X", "ll", "i", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "+1", ",", "t", "i", "-RRB-", "l-1", "X", "ll", "iu", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "+1", ",", "t", "i", "-RRB-", "l-1", "+", "l", "iu", "-LRB-", "t", "-RRB-", "-1", "X", "l", "=", "l", "i", "-LRB-", "t", "-RRB-", "m", "l", "l", "i", "-LRB-", "t", "-RRB-", "+1", "c", "i", "-LRB-", "t", "-RRB-", "l-1", "Now", "the", "second", "term", "on", "the", "right", "hand", "side", "above", "is", "at", "most", "2", "m", "<", "l", "iu", "-LRB-", "t", "-RRB-", "c", "i", "-LRB-", "t", "-RRB-", ".", "So", "we", "get", "i", "u", "+1-1", "X", "i", "=", "i", "u", "X", "ll", "i", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "+1", ",", "t", "i", "-RRB-", "l-1", "X", "ll", "iu", "-LRB-", "t", "-RRB-", "P", "O", "l", "-LRB-", "t", "i", "u", "+1", ",", "t", "i", "u", "-RRB-", "l-1", "+", "2", "2", "c", "iu", "-LRB-", "t", "-RRB-", "m", "<", "l", "iu", "-LRB-", "t", "-RRB-", ",", "because", "c", "i", "-LRB-", "t", "-RRB-", "scales", "down", "geometrically", "as", "i", "increases", ".", "Finally", "note", "that", "P", "i", "u", "c", "iu", "-LRB-", "t", "-RRB-", "m", "<", "l", "iu", "-LRB-", "t", "-RRB-", "is", "at", "most", "twice", "of", "P", "i", "u", "c", "iu", "-LRB-", "t", "-RRB-", "m", "-LRB-", "l", "iu-1", "-LRB-", "t", "-RRB-", ",", "l", "iu", "-LRB-", "t", "-RRB-", "-1", "-RRB-", ",", "because", "c", "i", "-LRB-", "t", "-RRB-", "scale", "down", "geometrically", ".", "This", "proves", "the", "lemma", "-LRB-", "using", "-LRB-", "2", "-RRB-", "-RRB-", ".", "738"], "doc_bio_tags": ["O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["competitive ratio", "preemption", "approximation algorithms", "processing time", "average flow time", "related machines", "scheduling"], "abstractive_keyphrases": ["multiprocessor environment", "flow-time", "non-migratory algorithm", "poly-logarithmic factor"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "160", "document": ["Query", "Result", "Ranking", "over", "E-commerce", "Web", "Databases", "To", "deal", "with", "the", "problem", "of", "too", "many", "results", "returned", "from", "an", "E-commerce", "Web", "database", "in", "response", "to", "a", "user", "query", ",", "this", "paper", "proposes", "a", "novel", "approach", "to", "rank", "the", "query", "results", ".", "Based", "on", "the", "user", "query", ",", "we", "speculate", "how", "much", "the", "user", "cares", "about", "each", "attribute", "and", "assign", "a", "corresponding", "weight", "to", "it", ".", "Then", ",", "for", "each", "tuple", "in", "the", "query", "result", ",", "each", "attribute", "value", "is", "assigned", "a", "score", "according", "to", "its", "``", "desirableness", "''", "to", "the", "user", ".", "These", "attribute", "value", "scores", "are", "combined", "according", "to", "the", "attribute", "weights", "to", "get", "a", "final", "ranking", "score", "for", "each", "tuple", ".", "Tuples", "with", "the", "top", "ranking", "scores", "are", "presented", "to", "the", "user", "first", ".", "Our", "ranking", "method", "is", "domain", "independent", "and", "requires", "no", "user", "feedback", ".", "Experimental", "results", "demonstrate", "that", "this", "ranking", "method", "can", "effectively", "capture", "a", "user", "'s", "preferences", ".", "H.", "3.5", "-LSB-", "INFORMATION", "STORAGE", "AND", "RETRIEVAL", "-RSB-", ":", "Online", "Information", "Services", "-", "Web-based", "services", "Algorithms", ",", "Design", ",", "Experimentation", ",", "Human", "Factors", ".", "With", "the", "rapid", "expansion", "of", "the", "World", "Wide", "Web", ",", "more", "and", "more", "Web", "databases", "are", "available", ".", "At", "the", "same", "time", ",", "the", "size", "of", "existing", "Web", "databases", "is", "growing", "rapidly", ".", "One", "common", "problem", "faced", "by", "Web", "users", "is", "that", "there", "is", "usually", "too", "many", "query", "results", "returned", "for", "a", "submitted", "query", ".", "For", "example", ",", "when", "a", "user", "submits", "a", "query", "to", "autos.yahoo.com", "to", "search", "for", "a", "used", "car", "within", "50", "miles", "of", "New", "York", "with", "a", "price", "between", "$", "5,000", "and", "$", "10,000", ",", "10,483", "records", "are", "returned", ".", "In", "order", "to", "find", "``", "the", "best", "deal", "''", ",", "the", "user", "has", "to", "go", "through", "this", "long", "list", "and", "compare", "the", "cars", "to", "each", "other", ",", "which", "is", "a", "tedious", "and", "time-consuming", "task", ".", "Most", "Web", "databases", "rank", "their", "query", "results", "in", "ascending", "or", "descending", "order", "according", "to", "a", "single", "attribute", "-LRB-", "e.g.", ",", "sorted", "by", "date", ",", "sorted", "by", "price", ",", "etc.", "-RRB-", ".", "However", ",", "many", "users", "probably", "consider", "multiple", "attributes", "simultaneously", "when", "judging", "the", "relevance", "or", "desirableness", "of", "a", "result", ".", "While", "some", "extensions", "to", "SQL", "allow", "the", "user", "to", "specify", "attribute", "weights", "according", "to", "their", "importance", "to", "him/her", "-LSB-", "21", "-RSB-", ",", "-LSB-", "26", "-RSB-", ",", "this", "approach", "is", "cumbersome", "and", "most", "likely", "hard", "to", "do", "for", "most", "users", "since", "they", "have", "no", "clear", "idea", "how", "to", "set", "appropriate", "weights", "for", "different", "attributes", ".", "Furthermore", ",", "the", "user-setting", "-", "weight", "approach", "is", "not", "applicable", "for", "categorical", "attributes", ".", "In", "this", "paper", ",", "we", "tackle", "the", "many-query-result", "problem", "for", "Web", "databases", "by", "proposing", "an", "automatic", "ranking", "method", ",", "QRRE", "-LRB-", "Query", "Result", "Ranking", "for", "E-commerce", "-RRB-", ",", "which", "can", "rank", "the", "query", "results", "from", "an", "E-commerce", "Web", "database", "without", "any", "user", "feedback", ".", "We", "focus", "specifically", "on", "E-commerce", "Web", "databases", "because", "they", "comprise", "a", "large", "part", "of", "today", "'s", "online", "databases", ".", "In", "addition", ",", "most", "E-commerce", "customers", "are", "ordinary", "users", "who", "may", "not", "know", "how", "to", "precisely", "express", "their", "interests", "by", "formulating", "database", "queries", ".", "The", "carDB", "Web", "database", "is", "used", "in", "the", "following", "examples", "to", "illustrate", "the", "intuitions", "on", "which", "QRRE", "is", "based", ".", "Example", "1", ":", "Consider", "a", "used", "Car-selling", "Web", "database", "D", "with", "a", "single", "table", "carDB", "in", "which", "the", "car", "instances", "are", "stored", "as", "tuples", "with", "attributes", ":", "Make", ",", "Model", ",", "Year", ",", "Price", ",", "Mileage", "and", "Location", ".", "Each", "tuple", "t", "i", "in", "D", "represents", "a", "used", "car", "for", "sale", ".", "Given", "a", "tuple", "t", "i", "in", "the", "query", "result", "T", "q", "for", "a", "query", "q", "that", "is", "submitted", "by", "a", "buyer", ",", "we", "assign", "a", "ranking", "score", "to", "t", "i", ",", "based", "on", "its", "attribute", "values", ",", "which", "indicates", "its", "desirableness", ",", "from", "an", "E-commerce", "viewpoint", ",", "to", "the", "buyer", ".", "For", "instance", ",", "it", "is", "obvious", "that", "a", "luxury", ",", "new", "and", "cheap", "car", "is", "globally", "popular", "and", "desired", "in", "the", "used", "car", "market", ".", "However", ",", "sometimes", "the", "desired", "attribute", "values", "conflict", "with", "each", "other", ".", "For", "example", ",", "a", "new", "luxury", "car", "with", "low", "mileage", "is", "unlikely", "to", "be", "cheap", ".", "Hence", ",", "we", "need", "to", "decide", "which", "attributes", "are", "more", "important", "for", "a", "buyer", ".", "Some", "buyer", "may", "care", "more", "about", "the", "model", "of", "a", "car", ",", "while", "some", "other", "buyer", "may", "be", "more", "concerned", "about", "its", "price", ".", "For", "each", "attribute", ",", "we", "use", "a", "weight", "to", "denote", "its", "importance", "to", "the", "user", ".", "In", "this", "work", ",", "we", "assume", "that", "the", "attributes", "about", "which", "a", "user", "cares", "most", "are", "present", "in", "the", "query", "he/she", "submits", ",", "from", "which", "the", "attribute", "importance", "can", "be", "inferred", ".", "We", "define", "specified", "attributes", "to", "be", "attributes", "that", "are", "specified", "in", "a", "query", "and", "unspecified", "attributes", "to", "be", "attributes", "that", "are", "not", "specified", "in", "a", "query", ".", "Furthermore", ",", "we", "also", "consider", "that", "a", "subset", "of", "the", "unspecified", "attributes", ",", "namely", ",", "those", "attributes", "that", "are", "closely", "correlated", "to", "the", "query", ",", "is", "also", "important", ".", "Example", "2", ":", "Given", "a", "query", "with", "condition", "``", "Year", ">", "2005", "''", ",", "the", "query", "condition", "suggests", "that", "the", "user", "wants", "a", "relatively", "new", "car", ".", "Intuitively", ",", "besides", "the", "Year", "attribute", ",", "the", "user", "is", "more", "concerned", "about", "the", "Mileage", "than", "he/she", "is", "concerned", "about", "the", "Make", "and", "Location", ",", "considering", "that", "a", "relatively", "new", "car", "usually", "has", "low", "mileage", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "06", ",", "November", "5", "11", ",", "2006", ",", "Arlington", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-433-2", "/", "06/0011", "...", "$", "5.00", ".", "575", "Given", "an", "unspecified", "attribute", "A", "i", ",", "the", "correlation", "between", "A", "i", "and", "the", "user", "query", "q", "is", "evaluated", "by", "the", "difference", "between", "the", "distribution", "of", "A", "i", "'s", "values", "over", "the", "query", "results", "and", "their", "distribution", "over", "the", "whole", "database", "D", ".", "The", "bigger", "the", "difference", ",", "the", "more", "A", "i", "correlates", "to", "the", "specified", "attribute", "value", "-LRB-", "s", "-RRB-", ".", "Consequently", ",", "we", "assign", "a", "bigger", "attribute", "weight", "to", "A", "i", ".", "Example", "3", "explains", "our", "intuition", ".", "Example", "3", ":", "Suppose", "a", "used", "car", "database", "D", "contains", "car", "instances", "for", "which", "the", "Year", "has", "values", "1975", "and", "onwards", "and", "D", "returns", "a", "subset", "d", "containing", "the", "tuples", "that", "satisfy", "the", "query", "with", "condition", "``", "Year", ">", "2005", "''", ".", "Intuitively", ",", "Mileage", "values", "of", "the", "tuples", "in", "d", "distribute", "in", "a", "small", "and", "dense", "range", "with", "a", "relatively", "low", "average", ",", "while", "the", "Mileage", "values", "of", "tuples", "in", "D", "distribute", "in", "a", "large", "range", "with", "a", "relatively", "high", "average", ".", "The", "distribution", "difference", "shows", "a", "close", "correlation", "between", "the", "unspecified", "attribute", ",", "namely", ",", "Mileage", ",", "and", "the", "query", "``", "Year", ">", "2005", "''", ".", "Besides", "the", "attribute", "weight", ",", "we", "also", "assign", "a", "preference", "score", "to", "each", "attribute", "value", ",", "including", "the", "values", "of", "both", "specified", "and", "unspecified", "attributes", ".", "In", "the", "E-commerce", "context", ",", "we", "first", "assume", "that", "an", "expensive", "product", "is", "less", "preferred", "than", "a", "cheap", "product", "if", "other", "attribute", "values", "are", "equal", ".", "Hence", ",", "we", "assign", "a", "small", "preference", "score", "for", "a", "high", "Price", "value", "and", "a", "large", "preference", "score", "for", "a", "low", "Price", "value", ".", "We", "further", "assume", "that", "a", "non-Price", "attribute", "value", "with", "high", "desirableness", ",", "such", "as", "a", "luxury", "car", "or", "a", "new", "car", ",", "correlates", "positively", "with", "a", "high", "Price", "value", ".", "Thus", ",", "a", "luxury", "car", "is", "more", "expensive", "than", "a", "standard", "car", "and", "a", "new", "car", "is", "usually", "more", "expensive", "than", "an", "old", "car", ".", "Based", "on", "this", "assumption", ",", "we", "convert", "a", "value", "a", "i", "of", "a", "non-Price", "attribute", "A", "i", "to", "a", "Price", "value", "p", "'", "I", "where", "p", "'", "I", "is", "the", "average", "price", "of", "the", "product", "for", "A", "i", "=", "a", "i", "in", "the", "database", ".", "Consequently", ",", "the", "preference", "score", "for", "a", "i", "will", "be", "large", "if", "p", "'", "I", "is", "large", "because", "a", "large", "Price", "value", "denotes", "a", "high", "desirableness", "for", "the", "user", ".", "Finally", ",", "the", "attribute", "weight", "and", "the", "value", "preference", "score", "are", "combined", "to", "get", "the", "final", "ranking", "score", "for", "each", "tuple", ".", "The", "tuples", "with", "the", "largest", "ranking", "scores", "are", "presented", "to", "the", "user", "first", ".", "The", "contributions", "of", "this", "paper", "include", "the", "following", ":", "1", ".", "We", "present", "a", "novel", "approach", "to", "rank", "the", "tuples", "in", "the", "query", "results", "returned", "by", "E-commerce", "Web", "databases", ".", "2", ".", "We", "propose", "a", "new", "attribute", "importance", "learning", "approach", ",", "which", "is", "domain", "independent", "and", "query", "adaptive", ".", "3", ".", "We", "also", "propose", "a", "new", "attribute-value", "preference", "score", "assignment", "approach", "for", "E-commerce", "Web", "databases", ".", "In", "the", "entire", "ranking", "process", ",", "no", "user", "feedback", "is", "required", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "reviews", "some", "related", "work", ".", "Section", "3", "gives", "a", "formal", "definition", "of", "the", "many-query", "-", "result", "problem", "and", "presents", "an", "overview", "of", "QRRE", ".", "Section", "4", "proposes", "our", "attribute", "importance", "learning", "approach", "while", "Section", "5", "presents", "our", "attribute", "preference", "score", "assignment", "approach", ".", "Experimental", "results", "are", "reported", "in", "Section", "6", ".", "The", "paper", "is", "concluded", "in", "Section", "7", ".", "Query", "result", "ranking", "has", "been", "investigated", "in", "information", "retrieval", "for", "a", "long", "time", ".", "Cosine", "Similarity", "with", "TF-IDF", "weighting", "of", "the", "vector", "space", "model", "-LSB-", "2", "-RSB-", "and", "-LSB-", "26", "-RSB-", ",", "the", "probabilistic", "ranking", "model", "-LSB-", "30", "-RSB-", "and", "-LSB-", "31", "-RSB-", "and", "the", "statistical", "language", "model", "-LSB-", "12", "-RSB-", "have", "been", "successfully", "used", "for", "ranking", "purposes", ".", "In", "addition", ",", "-LSB-", "10", "-RSB-", ",", "-LSB-", "11", "-RSB-", ",", "-LSB-", "14", "-RSB-", "and", "-LSB-", "15", "-RSB-", "explore", "the", "integration", "of", "database", "and", "information", "retrieval", "techniques", "to", "rank", "tuples", "with", "text", "attributes", ".", "-LSB-", "1", "-RSB-", ",", "-LSB-", "5", "-RSB-", "and", "-LSB-", "17", "-RSB-", "propose", "some", "keyword-query", "based", "retrieval", "techniques", "for", "databases", ".", "However", ",", "most", "of", "these", "techniques", "focus", "on", "text", "attributes", "and", "it", "is", "very", "difficult", "to", "apply", "these", "techniques", "to", "rank", "tuples", "with", "categorical", "or", "numerical", "attributes", ".", "Some", "recent", "research", "addresses", "the", "problem", "of", "relational", "query", "result", "ranking", ".", "In", "-LSB-", "9", "-RSB-", ",", "-LSB-", "26", "-RSB-", ",", "-LSB-", "28", "-RSB-", "and", "-LSB-", "33", "-RSB-", ",", "user", "relevance", "feedback", "is", "employed", "to", "learn", "the", "similarity", "between", "a", "result", "record", "and", "the", "query", ",", "which", "is", "used", "to", "rank", "the", "query", "results", "in", "relational", "multimedia", "databases", ".", "In", "-LSB-", "21", "-RSB-", "and", "-LSB-", "26", "-RSB-", ",", "the", "SQL", "query", "language", "is", "extended", "to", "allow", "the", "user", "to", "specify", "the", "ranking", "function", "according", "to", "their", "preference", "for", "the", "attributes", ".", "In", "-LSB-", "18", "-RSB-", "and", "-LSB-", "19", "-RSB-", ",", "users", "are", "required", "to", "build", "profiles", "so", "that", "the", "query", "result", "is", "ranked", "according", "to", "their", "profile", ".", "Compared", "with", "the", "above", "work", ",", "our", "approach", "is", "fully", "automatic", "and", "does", "not", "require", "user", "feedback", "or", "other", "human", "involvement", ".", "In", "-LSB-", "1", "-RSB-", "and", "-LSB-", "12", "-RSB-", ",", "two", "ranking", "methods", "have", "been", "proposed", "that", "take", "advantage", "of", "the", "links", "-LRB-", "i.e.", ",", "associations", "-RRB-", "among", "records", ",", "such", "as", "the", "citation", "information", "between", "papers", ".", "Unfortunately", ",", "linking", "information", "among", "records", "does", "not", "exist", "for", "most", "domains", ".", "The", "work", "that", "is", "most", "similar", "to", "ours", "is", "the", "probabilistic", "information", "retrieval", "-LRB-", "PIR", "-RRB-", "model", "in", "-LSB-", "8", "-RSB-", ",", "which", "addresses", "the", "many-query-result", "problem", "in", "a", "probabilistic", "framework", ".", "In", "PIR", ",", "the", "ranking", "score", "is", "composed", "of", "two", "factors", ":", "global", "score", ",", "which", "captures", "the", "global", "importance", "of", "unspecified", "values", ",", "and", "conditional", "score", ",", "which", "captures", "the", "strength", "of", "the", "dependencies", "between", "specified", "and", "unspecified", "attribute", "values", ".", "The", "two", "scores", "are", "combined", "using", "a", "probabilistic", "approach", ".", "Our", "approach", "differs", "from", "that", "in", "-LSB-", "8", "-RSB-", "in", "the", "following", "aspects", ":", "1", ".", "PIR", "only", "focuses", "on", "point", "queries", ",", "such", "as", "``", "A", "i", "=", "a", "i", "''", ".", "Hence", ",", "both", "a", "query", "with", "condition", "``", "Mileage", "<", "5000", "''", "and", "a", "query", "with", "condition", "``", "Mileage", "<", "2500", "''", "may", "have", "to", "be", "converted", "to", "a", "query", "with", "condition", "``", "Mileage", "=", "small", "''", "to", "be", "a", "valid", "query", "in", "PIR", ",", "which", "is", "not", "reasonable", "for", "many", "cases", ".", "In", "contrast", ",", "QRRE", "can", "handle", "both", "point", "and", "range", "queries", ".", "2", ".", "PIR", "focuses", "on", "the", "unspecified", "attributes", "during", "query", "result", "ranking", "while", "QRRE", "deals", "with", "both", "specified", "and", "unspecified", "attributes", ".", "For", "example", ",", "suppose", "a", "car", "with", "price", "less", "than", "$", "10,000", "is", "labeled", "as", "a", "``", "cheap", "''", "car", ".", "For", "a", "query", "``", "Price", "<", "10000", "''", ",", "PIR", "will", "only", "consider", "the", "value", "difference", "for", "non-Price", "attributes", "among", "tuples", "and", "ignore", "the", "price", "difference", ",", "which", "is", "usually", "important", "for", "a", "poor", "buyer", ".", "On", "the", "contrary", ",", "QRRE", "will", "consider", "the", "value", "difference", "for", "all", "attributes", ".", "3", ".", "A", "workload", "containing", "past", "user", "queries", "is", "required", "by", "PIR", "in", "order", "to", "learn", "the", "dependency", "between", "the", "specified", "and", "unspecified", "attribute", "values", ",", "which", "is", "unavailable", "for", "new", "online", "databases", ",", "while", "QRRE", "does", "not", "require", "such", "a", "workload", ".", "The", "experimental", "results", "in", "Section", "6", "show", "that", "QRRE", "produces", "a", "better", "quality", "ranking", "than", "does", "PIR", ".", "The", "attribute-importance", "learning", "problem", "was", "studied", "in", "-LSB-", "23", "-RSB-", "and", "-LSB-", "24", "-RSB-", ",", "in", "which", "attribute", "importance", "is", "learned", "according", "to", "the", "attribute", "dependencies", ".", "In", "-LSB-", "23", "-RSB-", ",", "a", "Bayesian", "network", "is", "built", "to", "discover", "the", "dependencies", "among", "attributes", ".", "The", "root", "attribute", "is", "the", "most", "important", "while", "the", "leaf", "attributes", "are", "less", "important", ".", "576", "In", "-LSB-", "24", "-RSB-", ",", "an", "attribute", "dependency", "graph", "is", "built", "to", "discover", "the", "attribute", "dependencies", ".", "Both", "of", "these", "methods", "learn", "the", "attribute", "importance", "based", "on", "some", "pre-extracted", "data", "and", "their", "result", "is", "invariant", "to", "the", "user", "queries", ".", "Furthermore", ",", "both", "methods", "can", "only", "determine", "the", "attribute", "importance", "sequence", ".", "They", "are", "incapable", "of", "giving", "a", "specific", "value", "to", "show", "how", "important", "each", "attribute", "is", ".", "In", "contrast", ",", "the", "attribute-importance", "learning", "method", "presented", "in", "this", "paper", "can", "be", "adapted", "to", "the", "user", "'s", "query", "and", "thus", "can", "be", "tailored", "to", "take", "into", "account", "the", "desire", "of", "different", "users", ",", "since", "each", "attribute", "is", "assigned", "a", "weight", "that", "denotes", "its", "importance", "for", "the", "user", ".", "To", "our", "knowledge", ",", "this", "is", "the", "first", "work", "that", "generates", "attribute", "weights", "that", "are", "adaptive", "to", "the", "query", "the", "user", "submitted", ".", "In", "this", "section", ",", "we", "first", "define", "the", "many-query-result", "problem", "and", "then", "present", "an", "overview", "of", "QRRE", ".", "3.1", "Problem", "Formulation", "Consider", "an", "autonomous", "Web", "database", "D", "with", "attributes", "A", "=", "-LCB-", "A", "1", ",", "A", "2", ",", "...", ",", "A", "m", "-RCB-", "and", "a", "selection", "query", "q", "over", "D", "with", "a", "conjunctive", "selection", "condition", "that", "may", "include", "point", "queries", ",", "such", "as", "``", "A", "i", "=", "a", "i", "''", ",", "or", "range", "queries", ",", "such", "as", "``", "a", "i1", "<", "A", "i", "<", "a", "i2", "''", ".", "Let", "T", "=", "-LCB-", "t", "1", ",", "t", "2", ",", "...", ",", "t", "n", "-RCB-", "be", "the", "set", "of", "result", "tuples", "returned", "by", "D", "for", "the", "query", "q", ".", "In", "many", "cases", ",", "if", "q", "is", "not", "a", "selective", "query", ",", "it", "will", "produce", "a", "large", "number", "of", "query", "results", "-LRB-", "i.e.", ",", "a", "large", "T", "-RRB-", ".", "The", "goal", "is", "to", "develop", "a", "ranking", "function", "to", "rank", "the", "tuples", "in", "T", "that", "captures", "the", "user", "'s", "preference", ",", "is", "domain-independent", "and", "does", "not", "require", "any", "user", "feedback", ".", "3.2", "QRRE", "Initially", ",", "we", "focus", "on", "E-commerce", "Web", "databases", "because", "E-commerce", "Web", "databases", "comprise", "a", "large", "proportion", "of", "the", "databases", "on", "the", "Web", ".", "We", "further", "assume", "that", "each", "E-commerce", "Web", "database", "has", "a", "Price", "attribute", ",", "which", "we", "always", "assume", "to", "be", "A", "1", ".", "The", "Price", "attribute", "A", "1", "plays", "an", "intermediate", "role", "for", "all", "attributes", "during", "the", "attribute", "preference", "score", "assignment", ".", "Example", "4", ":", "Consider", "the", "tuples", "in", "Table", "1", "that", "represent", "an", "example", "query", "result", "set", "T", ".", "It", "can", "be", "seen", "that", "most", "tuples", "have", "their", "own", "advantages", "when", "compared", "with", "other", "tuples", ".", "For", "example", ",", "t", "1", "is", "a", "relatively", "new", "car", "while", "t", "2", "is", "a", "luxury", "car", "and", "t", "3", "is", "the", "cheapest", "among", "all", "cars", ".", "Hence", ",", "depending", "on", "a", "user", "'s", "preferences", ",", "different", "rankings", "may", "be", "needed", "for", "different", "users", ".", "Assuming", "that", "a", "user", "would", "prefer", "to", "pay", "the", "smallest", "amount", "for", "a", "car", "and", "that", "all", "other", "attribute", "values", "are", "equal", ",", "then", "the", "only", "certainty", "is", "that", "t", "4", "should", "always", "be", "ranked", "after", "t", "3", "because", "its", "mileage", "is", "higher", "than", "t", "3", "while", "it", "is", "more", "expensive", "than", "t", "3", ".", "Table", "1", ".", "Examples", "of", "used", "car", "tuples", ".", "Year", "Make", "Model", "Mileage", "Price", "Location", "t", "1", "2005", "Toyota", "Corolla", "16995", "26700", "Seattle", "t", "2", "2002", "Mercedes-Benz", "G500", "47900", "39825", "Seattle", "t", "3", "2002", "Nissan", "350Z", "26850", "17448", "Seattle", "t", "4", "2002", "Nissan", "350Z", "26985", "18128", "Seattle", "According", "to", "Example", "4", ",", "two", "problems", "need", "to", "be", "solved", "when", "we", "assign", "a", "ranking", "score", "for", "a", "tuple", "t", "i", "=", "-LCB-", "t", "i1", ",", "t", "i2", ",", "...", ",", "t", "im", "-RCB-", "in", "the", "query", "result", "T", ":", "1", ".", "How", "can", "we", "surmise", "how", "much", "a", "user", "cares", "about", "an", "attribute", "A", "j", "and", "how", "should", "we", "assign", "a", "suitable", "weight", "w", "j", "for", "the", "attribute", "-LRB-", "s", "-RRB-", "A", "j", "to", "reflect", "its", "-LRB-", "their", "-RRB-", "importance", "to", "the", "user", "?", "2", ".", "How", "do", "we", "assign", "a", "preference", "score", "v", "ij", "for", "an", "attribute", "value", "t", "ij", "?", "For", "example", ",", "when", "assigning", "the", "score", "for", "the", "attribute", "value", "``", "Year", "=", "2005", "''", "in", "t", "1", ",", "should", "the", "score", "be", "larger", "than", "the", "score", "assigned", "for", "attribute", "value", "``", "Year", "=", "2002", "''", "in", "t", "2", "and", "how", "much", "larger", "is", "reasonable", "?", "The", "first", "problem", "will", "be", "discussed", "in", "Section", "4", ".", "The", "second", "problem", "will", "be", "discussed", "in", "Section", "5", ".", "Having", "assigned", "a", "preference", "score", "v", "ij", "-LRB-", "1jm", "-RRB-", "to", "each", "attribute-value", "of", "t", "i", "and", "a", "weight", "w", "j", "to", "the", "attribute", "A", "j", ",", "the", "value", "preference", "scores", "v", "ij", "are", "summed", "to", "obtain", "the", "ranking", "score", "s", "i", "for", "t", "i", "to", "reflect", "the", "attribute", "importance", "for", "the", "user", ".", "That", "is", ":", "=", "=", "m", "j", "ij", "j", "i", "v", "w", "s", "1", "The", "overall", "architecture", "of", "a", "system", "employing", "QRRE", "is", "shown", "in", "Figure", "1", ".", "Such", "a", "system", "includes", "two", "components", ":", "pre-processing", "component", "and", "online", "processing", "component", ".", "The", "pre-processing", "component", "collects", "statistics", "about", "the", "Web", "database", "D", "using", "a", "set", "Figure", "1", ":", "Architecture", "of", "a", "system", "employing", "Query", "Result", "Ranking", "for", "E-commerce", "-LRB-", "QRRE", "-RRB-", ".", "577", "of", "selected", "queries", ".", "Two", "kinds", "of", "histograms", "are", "built", "in", "the", "preprocessing", "step", ":", "single-attribute", "histograms", "and", "bi-attribute", "histograms", ".", "A", "single-attribute", "histogram", "is", "built", "for", "each", "attribute", "A", "j", ".", "A", "bi-attribute", "histogram", "is", "built", "for", "each", "non-Price", "attribute", "-LRB-", "i.e.", ",", "A", "j", "in", "which", "i", ">", "1", "-RRB-", "using", "the", "Price", "attribute", "A", "1", ".", "The", "online-processing", "component", "ranks", "the", "query", "results", "given", "the", "user", "query", "q", ".", "After", "getting", "the", "query", "results", "T", "from", "the", "Web", "database", "D", "for", "q", ",", "a", "weight", "is", "assigned", "for", "each", "attribute", "by", "comparing", "its", "data", "distribution", "in", "D", "and", "in", "the", "query", "results", "T", ".", "At", "the", "same", "time", ",", "the", "preference", "score", "for", "each", "attribute", "value", "in", "the", "query", "result", "is", "determined", "using", "the", "information", "from", "the", "bi-attribute", "histograms", ".", "The", "attribute", "weights", "and", "preference", "scores", "are", "combined", "to", "calculate", "the", "ranking", "score", "for", "each", "tuple", "in", "the", "query", "result", ".", "The", "tuples", "'", "ranking", "scores", "are", "sorted", "and", "the", "top", "K", "tuples", "with", "the", "largest", "ranking", "scores", "are", "presented", "to", "the", "user", "first", ".", "In", "the", "real", "world", ",", "different", "users", "have", "different", "preferences", ".", "Some", "people", "prefer", "luxury", "cars", "while", "some", "people", "care", "more", "about", "price", "than", "anything", "else", ".", "Hence", ",", "we", "need", "to", "surmise", "the", "user", "'s", "preference", "when", "we", "make", "recommendations", "to", "the", "user", "as", "shown", "by", "Example", "4", "in", "Section", "3", ".", "The", "difficulty", "of", "this", "problem", "lies", "in", "trying", "to", "determine", "what", "a", "user", "`", "s", "preference", "is", "-LRB-", "i.e.", ",", "which", "attributes", "are", "more", "important", "-RRB-", "when", "no", "user", "feedback", "is", "provided", ".", "To", "address", "this", "problem", ",", "we", "start", "from", "the", "query", "the", "user", "submitted", ".", "We", "assume", "that", "the", "user", "'s", "preference", "is", "reflected", "in", "the", "submitted", "query", "and", ",", "hence", ",", "we", "use", "the", "query", "as", "a", "hint", "for", "assigning", "weights", "to", "attributes", ".", "The", "following", "example", "provides", "the", "intuition", "for", "our", "attribute", "weight", "assignment", "approach", ".", "Example", "5", ":", "Consider", "the", "query", "q", "with", "condition", "``", "Year", ">", "2005", "''", ",", "which", "denotes", "that", "the", "user", "prefers", "a", "relatively", "new", "car", ".", "It", "is", "obvious", "that", "the", "specified", "attribute", "Year", "is", "important", "for", "the", "user", ".", "However", ",", "all", "the", "tuples", "in", "the", "query", "result", "T", "satisfy", "the", "query", "condition", ".", "Hence", ",", "we", "need", "to", "look", "beyond", "the", "specified", "attribute", "and", "speculate", "further", "about", "what", "the", "user", "'s", "preferences", "may", "be", "from", "the", "specified", "attribute", ".", "Since", "the", "user", "is", "interested", "in", "cars", "that", "are", "made", "after", "2005", ",", "we", "may", "speculate", "that", "the", "user", "cares", "about", "the", "Mileage", "of", "the", "car", ".", "Considering", "the", "distribution", "of", "Mileage", "values", "in", "the", "database", ",", "cars", "whose", "model", "year", "is", "greater", "than", "2005", "usually", "have", "a", "lower", "mileage", "when", "compared", "to", "all", "other", "cars", ".", "In", "contrast", ",", "attribute", "Location", "is", "less", "important", "for", "the", "user", "and", "its", "distribution", "in", "cars", "whose", "model", "year", "is", "greater", "than", "2005", "may", "be", "similar", "to", "the", "distribution", "in", "the", "entire", "database", ".", "According", "to", "this", "intuition", ",", "an", "attribute", "A", "j", "that", "correlates", "closely", "with", "the", "query", "will", "be", "assigned", "a", "large", "weight", "and", "vice", "verse", ".", "Furthermore", ",", "as", "Example", "3", "in", "Section", "1", "shows", ",", "the", "correlation", "of", "A", "j", "and", "the", "query", "can", "be", "measured", "by", "the", "data", "distribution", "difference", "of", "A", "j", "in", "D", "and", "in", "T", ".", "It", "should", "be", "noted", "that", "the", "specified", "attribute", "is", "not", "always", "important", ",", "especially", "when", "the", "condition", "for", "the", "specified", "attribute", "is", "not", "selective", ".", "For", "example", ",", "for", "a", "query", "with", "condition", "``", "Year", ">", "1995", "and", "Make", "=", "BMW", "''", ",", "the", "specified", "attribute", "Year", "is", "not", "important", "because", "almost", "all", "tuples", "in", "the", "database", "satisfy", "the", "condition", "``", "Year", ">", "1995", "''", "and", "the", "Year", "distribution", "in", "D", "and", "in", "T", "is", "similar", ".", "A", "natural", "measure", "of", "the", "distribution", "difference", "of", "A", "j", "in", "D", "and", "in", "T", "is", "the", "Kullback-Leibler", "distance", "or", "Kullback-Leibler", "-LRB-", "KL", "-RRB-", "divergence", "-LSB-", "13", "-RSB-", ".", "Suppose", "that", "A", "j", "is", "a", "categorical", "attribute", "with", "value", "set", "-LCB-", "a", "j1", ",", "a", "j2", ",", "...", ",", "a", "jk", "-RCB-", ".", "Then", "the", "KL-divergence", "of", "A", "j", "from", "D", "to", "T", "is", ":", "=", "=", "=", "=", "=", "k", "l", "jl", "j", "jl", "j", "jl", "j", "KL", "T", "a", "A", "prob", "D", "a", "A", "prob", "D", "a", "A", "prob", "T", "D", "D", "1", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "log", "-RRB-", "|", "-LRB-", "-RRB-", "|", "|", "-LRB-", "-LRB-", "1", "-RRB-", "in", "which", "prob", "-LRB-", "A", "j", "=", "a", "jl", "|", "D", "-RRB-", "refers", "to", "the", "probability", "that", "A", "j", "=", "a", "jl", "in", "D", "and", "prob", "-LRB-", "A", "j", "=", "a", "jl", "|", "T", "-RRB-", "refers", "to", "the", "probability", "that", "A", "j", "=", "a", "jl", "in", "T", ".", "If", "A", "j", "is", "a", "numerical", "attribute", ",", "its", "value", "range", "is", "first", "discretized", "into", "a", "few", "value", "sets", ",", "where", "each", "set", "refers", "to", "a", "category", ",", "and", "then", "the", "KL-divergence", "of", "A", "j", "is", "calculated", "as", "in", "-LRB-", "1", "-RRB-", ".", "4.1", "Histogram", "Construction", "To", "calculate", "the", "KL-divergence", "in", "equation", "-LRB-", "1", "-RRB-", "we", "need", "to", "obtain", "the", "distribution", "of", "attribute", "values", "over", "D", ".", "The", "difficulty", "here", "is", "that", "we", "are", "dealing", "with", "an", "autonomous", "database", "and", "we", "do", "not", "have", "full", "access", "to", "all", "the", "data", ".", "In", "-LSB-", "24", "-RSB-", ",", "the", "attribute", "value", "distribution", "over", "a", "collection", "of", "data", "crawled", "from", "D", "is", "used", "to", "estimate", "the", "actual", "attribute", "value", "distribution", "over", "D.", "However", ",", "it", "is", "highly", "likely", "that", "the", "distribution", "of", "the", "crawled", "data", "can", "be", "different", "from", "that", "of", "D", "because", "the", "crawled", "data", "may", "be", "biased", "to", "the", "submitted", "queries", ".", "In", "this", "paper", ",", "we", "propose", "a", "probing-and-count", "based", "method", "to", "build", "a", "histogram", "for", "an", "attribute", "over", "a", "Web", "database", "1", ".", "We", "assume", "that", "the", "number", "of", "query", "results", "is", "available", "in", "D", "for", "a", "given", "query", ".", "After", "submitting", "a", "set", "of", "selected", "queries", "to", "D", ",", "we", "can", "extract", "the", "number", "of", "query", "results", ",", "instead", "of", "the", "actual", "query", "results", ",", "to", "get", "the", "attribute", "value", "distribution", "of", "A", "i", ".", "An", "equi-depth", "histogram", "-LSB-", "27", "-RSB-", "is", "used", "to", "represent", "the", "attribute", "value", "distribution", ",", "from", "which", "we", "will", "get", "the", "probability", "required", "in", "Equation", "-LRB-", "1", "-RRB-", ".", "The", "key", "problem", "in", "our", "histogram", "construction", "for", "A", "i", "is", "how", "to", "generate", "a", "set", "of", "suitable", "queries", "to", "probe", "D.", "Figure", "2", "shows", "the", "algorithm", "for", "building", "a", "histogram", "for", "attribute", "A", "i", ".", "For", "each", "attribute", "A", "i", ",", "a", "histogram", "is", "built", "in", "the", "preprocessing", "stage", ".", "We", "assume", "that", "one", "attribute", "value", "of", "A", "i", "is", "enough", "to", "be", "a", "query", "for", "D", ".", "If", "A", "i", "is", "a", "categorical", "attribute", ",", "each", "category", "of", "A", "i", "is", "used", "as", "a", "query", "to", "get", "its", "occurrence", "count", "-LRB-", "Lines", "2-3", "-RRB-", ".", "If", "A", "i", "is", "a", "numerical", "attribute", ",", "an", "equal-depth", "histogram", "is", "built", "for", "A", "i", ".", "We", "first", "decide", "the", "occurrence", "frequency", "threshold", "t", "for", "each", "bucket", "by", "dividing", "|", "D", "|", ",", "namely", ",", "the", "number", "of", "tuples", "in", "D", ",", "with", "the", "minimum", "bucket", "number", "n", "that", "will", "be", "created", "for", "a", "numerical", "attribute", "A", "i", ".", "In", "our", "experiments", ",", "n", "is", "empirically", "set", "to", "be", "20", ".", "Then", "we", "probe", "D", "using", "a", "query", "with", "condition", "on", "A", "i", "such", "that", "low", "A", "i", "<", "up", "and", "get", "c", ",", "the", "number", "of", "instances", "in", "that", "range", "-LRB-", "Line", "8", "-RRB-", ".", "If", "c", "is", "smaller", "than", "t", ",", "a", "bucket", "is", "added", "for", "it", "in", "H", "Di", "-LRB-", "Line", "10", "-RRB-", "and", "another", "query", "probe", "is", "prepared", "-LRB-", "Line", "11", "-RRB-", ".", "Otherwise", ",", "we", "update", "the", "query", "probe", "condition", "on", "A", "i", "by", "reducing", "the", "size", "of", "the", "bucket", "-LRB-", "Line", "13", "-RRB-", "and", "a", "new", "iteration", "begins", ".", "The", "iteration", "continues", "until", "each", "value", "in", "the", "value", "range", "is", "in", "a", "bucket", ".", "It", "is", "obvious", "that", "there", "are", "some", "improvements", "that", "can", "be", "made", "to", "the", "algorithm", "to", "accelerate", "the", "histogram", "construction", ".", "The", "improvements", "are", "not", "described", "here", "because", "histogram", "construction", "is", "not", "the", "major", "focus", "of", "this", "paper", ".", "Considering", "that", "only", "a", "single-attribute", "histogram", "is", "constructed", ",", "the", "process", "should", "complete", "quickly", ".", "1", "Although", "both", "our", "histogram", "construction", "method", "and", "the", "histogram", "construction", "methods", "in", "-LSB-", "1", "-RSB-", "and", "-LSB-", "5", "-RSB-", "are", "probing-based", ",", "they", "have", "different", "goals", ".", "The", "goal", "in", "-LSB-", "1", "-RSB-", "and", "-LSB-", "5", "-RSB-", "is", "to", "build", "a", "histogram", "that", "precisely", "describes", "the", "regions", "on", "which", "the", "queries", "concentrate", ",", "while", "our", "purpose", "is", "to", "build", "a", "histogram", "that", "summarizes", "the", "data", "distribution", "of", "D", "as", "precisely", "as", "possible", "with", "a", "number", "of", "query", "probes", ".", "578", "A", "histogram", "H", "Ti", "also", "needs", "to", "be", "built", "for", "A", "i", "over", "T", "-LRB-", "the", "result", "set", "-RRB-", "to", "get", "its", "probability", "distribution", "over", "T.", "For", "each", "bucket", "of", "H", "Di", ",", "a", "bucket", "with", "the", "same", "bucket", "boundary", "is", "built", "in", "H", "Ti", "while", "its", "frequency", "is", "counted", "in", "T.", "4.2", "Attribute", "Weight", "Setting", "After", "getting", "the", "histogram", "of", "A", "i", "over", "D", "and", "T", ",", "the", "histograms", "are", "converted", "to", "a", "probability", "distribution", "by", "dividing", "the", "frequency", "in", "each", "bucket", "of", "the", "histogram", "by", "the", "bucket", "frequency", "sum", "of", "the", "histogram", ".", "That", "is", ",", "the", "probability", "distribution", "of", "A", "i", "for", "D", ",", "P", "Di", ",", "is", "|", "|", "|", "|", "D", "c", "p", "Dk", "Di", "=", "in", "which", "c", "Dk", "is", "the", "frequency", "of", "the", "k", "th", "bucket", "in", "H", "Di", ".", "The", "probability", "distribution", "of", "A", "i", "for", "T", ",", "P", "Ti", ",", "is", "|", "|", "|", "|", "T", "c", "p", "Tk", "Ti", "=", "in", "which", "c", "Tk", "is", "the", "frequency", "of", "the", "k", "th", "bucket", "in", "H", "Ti", ".", "Next", ",", "for", "the", "i", "th", "attribute", "A", "i", ",", "we", "assign", "its", "importance", "w", "i", "as", "=", "=", "m", "j", "Tj", "Dj", "Ti", "Di", "i", "P", "P", "KL", "P", "P", "KL", "w", "1", "-RRB-", ",", "-LRB-", "-RRB-", ",", "-LRB-", "The", "attribute", "weight", "assignment", "is", "performed", "not", "only", "on", "the", "unspecified", "attributes", ",", "but", "also", "on", "the", "specified", "attributes", ".", "If", "a", "specified", "attribute", "is", "a", "point", "condition", ",", "its", "attribute", "weight", "will", "be", "the", "same", "for", "all", "tuples", "in", "the", "query", "result", ".", "If", "a", "specified", "attribute", "is", "a", "range", "condition", ",", "its", "attribute", "weight", "will", "be", "different", "for", "the", "tuples", "in", "the", "query", "result", ".", "Example", "6", "illustrates", "this", "point", ".", "Example", "6", ":", "Consider", "a", "query", "q", "with", "condition", "``", "Make", "=", "2004", "and", "Price", "<", "10000", "''", ".", "In", "q", ",", "since", "the", "specified", "attribute", "Make", "is", "a", "point", "attribute", ",", "the", "attribute", "weight", "assigned", "to", "it", "is", "useless", "because", "all", "the", "query", "results", "have", "the", "same", "value", "for", "Make", ".", "On", "the", "other", "hand", ",", "since", "the", "attribute", "Price", "is", "a", "range", "attribute", ",", "the", "price", "of", "different", "tuples", "is", "an", "important", "factor", "to", "consider", "during", "ranking", ".", "4.3", "Examples", "of", "Attribute", "Weight", "Assignment", "In", "our", "experiments", ",", "we", "found", "that", "the", "attribute", "weight", "assignment", "was", "intuitive", "and", "reasonable", "for", "the", "given", "queries", ".", "Table", "2", "shows", "the", "attribute", "weight", "assigned", "to", "different", "attributes", "corresponding", "to", "different", "queries", "in", "our", "experiments", "for", "the", "carDB", ".", "Given", "a", "query", "with", "condition", "``", "Mileage", "<", "20000", "''", ",", "which", "means", "that", "the", "user", "prefers", "a", "new", "car", ",", "as", "expected", "the", "attribute", "``", "Mileage", "''", "is", "assigned", "a", "large", "weight", "because", "it", "is", "a", "specified", "attribute", "and", "the", "attribute", "``", "Year", "''", "is", "assigned", "a", "large", "weight", "too", ".", "The", "attribute", "``", "Model", "''", "is", "assigned", "a", "large", "weight", "because", "a", "new", "car", "usually", "has", "a", "model", "that", "appears", "recently", ".", "In", "contrast", ",", "Consider", "the", "query", "with", "condition", "``", "Make", "=", "BMW", "&", "Mileage", "<", "100000", "''", ".", "The", "sub-condition", "``", "Mileage", "<", "100000", "''", "possesses", "a", "very", "weak", "selective", "capability", "because", "almost", "all", "tuples", "in", "the", "database", "satisfy", "it", ".", "The", "buyer", "is", "actually", "just", "concerned", "about", "the", "Make", "and", "the", "Model", "of", "the", "car", ".", "As", "expected", ",", "the", "attribute", "Make", "and", "Model", "are", "assigned", "large", "weights", ",", "while", "Year", "and", "Mileage", "are", "no", "longer", "assigned", "large", "weights", ".", "Table", "2", ":", "Attribute", "weight", "assignments", "for", "two", "queries", ".", "Mileage", "<", "20000", "Make", "=", "BMW", "&", "Mileage", "<", "100000", "Year", "0.222", "0.015", "Make", "0.017", "0.408", "Model", "0.181", "0.408", "Price", "0.045", "0.120", "Mileage", "0.533", "0.04", "Location", "0.0003", "0.002", "In", "addition", "to", "the", "attributes", "themselves", ",", "different", "values", "of", "an", "attribute", "may", "have", "different", "attractions", "for", "the", "buyer", ".", "For", "example", ",", "a", "car", "with", "a", "low", "price", "is", "obviously", "more", "attractive", "than", "a", "more", "expensive", "one", "if", "other", "attribute", "values", "are", "the", "same", ".", "Similarly", ",", "a", "car", "with", "low", "mileage", "is", "also", "obviously", "more", "desirable", ".", "Given", "an", "attribute", "value", ",", "the", "goal", "of", "the", "attribute", "preference", "score", "assignment", "module", "is", "to", "assign", "a", "preference", "score", "to", "it", "that", "reflects", "its", "desirableness", "for", "the", "buyer", ".", "To", "facilitate", "the", "combination", "of", "scores", "of", "different", "attribute", "values", ",", "all", "scores", "assigned", "for", "different", "attribute", "values", "are", "in", "-LSB-", "0", ",", "1", "-RSB-", ".", "Instead", "of", "requiring", "human", "involvement", "for", "attribute", "value", "assignment", ",", "given", "a", "normal", "E-commerce", "context", ",", "we", "make", "the", "following", "two", "intuitive", "assumptions", ":", "1", ".", "Price", "assumption", ":", "A", "product", "with", "a", "lower", "price", "is", "always", "more", "desired", "by", "buyers", "than", "a", "product", "with", "a", "higher", "price", "if", "the", "other", "attributes", "of", "the", "two", "products", "have", "the", "same", "values", ".", "For", "example", ",", "if", "all", "other", "attribute", "values", "are", "the", "same", ",", "a", "cheaper", "car", "is", "preferred", "over", "a", "more", "expensive", "car", ".", "2", ".", "Non-Price", "assumption", ":", "A", "non-Price", "attribute", "value", "with", "higher", "desirableness", "for", "the", "user", "corresponds", "to", "a", "higher", "price", ".", "For", "example", ",", "a", "new", "car", ",", "which", "most", "buyers", "prefer", ",", "is", "usually", "more", "Input", ":", "Attribute", "A", "i", "and", "its", "value", "range", "Web", "database", "D", "with", "the", "total", "number", "of", "tuples", "|", "D", "|", "Minimum", "bucket", "number", "n", "Output", ":", "A", "single-attribute", "histogram", "H", "Di", "for", "A", "i", "Method", ":", "1", ".", "If", "A", "i", "is", "a", "categorical", "attribute", "2", ".", "For", "each", "category", "a", "ij", "of", "A", "i", ",", "probe", "D", "using", "a", "query", "with", "condition", "``", "A", "i", "=", "a", "ij", "''", "and", "get", "its", "occurrence", "count", "c", "3", ".", "Add", "a", "bucket", "-LRB-", "a", "ij", ",", "c", "-RRB-", "into", "H", "D", "i", "4", ".", "If", "A", "i", "is", "a", "numerical", "value", "attribute", "with", "value", "range", "-LSB-", "a", "low", ",", "a", "up", "-RRB-", "5", ".", "t", "=", "|", "D", "|", "/", "n", "6", ".", "low", "=", "a", "low", ",", "up", "=", "a", "up", "7", ".", "Do", "8", ".", "probe", "D", "with", "a", "query", "with", "condition", "``", "low", "A", "i", "<", "up", "''", "and", "get", "its", "occurrence", "count", "c", "9", ".", "if", "c", "t", "10", ".", "Add", "a", "bucket", "-LRB-", "low", ",", "up", ",", "c", "-RRB-", "into", "H", "D", "i", "11", ".", "low", "=", "up", ",", "up", "=", "a", "up", "12", ".", "else", "13", ".", "up", "=", "low", "+", "-LRB-", "up", "-", "low", "-RRB-", "/", "2", "14", ".", "While", "low", "<", "a", "up", "15", ".", "Return", "H", "D", "i", "Figure", "2", ":", "Probing-based", "histogram", "construction", "algorithm", ".", "579", "expensive", "than", "an", "old", "car", ".", "Likewise", ",", "a", "luxury", "car", "is", "usually", "more", "expensive", "than", "an", "ordinary", "car", ".", "With", "the", "above", "two", "assumptions", ",", "we", "divide", "the", "attributes", "into", "two", "sets", ":", "Price", "attribute", "set", ",", "which", "only", "includes", "the", "attribute", "Price", ",", "and", "non-Price", "attribute", "set", ",", "which", "includes", "all", "attributes", "except", "Price", ".", "The", "two", "sets", "of", "attributes", "are", "handled", "in", "different", "ways", ".", "According", "to", "the", "Price", "assumption", ",", "we", "assign", "a", "large", "score", "for", "a", "low", "price", "and", "a", "small", "score", "for", "a", "high", "price", ".", "To", "avoid", "requiring", "human", "involvement", "to", "assign", "a", "suitable", "score", "for", "a", "Price", "value", ",", "the", "Price", "distribution", "in", "D", "is", "used", "to", "assign", "the", "scores", ".", "Given", "a", "Price", "value", "t", ",", "a", "score", "v", "t", "is", "assigned", "to", "it", "as", "the", "percentage", "of", "tuples", "whose", "Price", "value", "is", "bigger", "than", "t", "i", "in", "D", ":", "|", "|", "D", "S", "v", "t", "t", "=", "in", "which", "S", "t", "denotes", "the", "number", "of", "tuples", "whose", "Price", "value", "is", "bigger", "than", "t", ".", "In", "our", "experiments", ",", "the", "histogram", "for", "the", "attribute", "Price", "A", "1", ",", "whose", "construction", "method", "is", "described", "in", "Section", "4", ",", "is", "used", "for", "the", "Price", "preference", "score", "assignment", ".", "Figure", "3", "shows", "the", "algorithm", "used", "to", "assign", "a", "score", "v", "for", "a", "Price", "value", "t", "using", "the", "Price", "histogram", ".", "Given", "the", "Price", "histogram", "H", "D1", ",", "the", "frequency", "sum", "is", "fist", "calculated", "-LRB-", "Line", "1", "-RRB-", ".", "Then", "we", "count", "the", "number", "S", "t", "of", "tuples", "whose", "Price", "value", "is", "bigger", "than", "t.", "For", "each", "bucket", "in", "H", "D1", ",", "if", "the", "lower", "boundary", "of", "the", "bucket", "is", "bigger", "than", "t", ",", "it", "means", "that", "all", "the", "tuples", "for", "this", "bucket", "have", "a", "Price", "value", "bigger", "than", "t", "and", "the", "frequency", "of", "this", "bucket", "is", "added", "to", "S", "t", "-LRB-", "Line", "4", "-RRB-", ".", "If", "t", "is", "within", "the", "boundary", "of", "the", "bucket", ",", "we", "assume", "that", "the", "Price", "has", "a", "uniform", "distribution", "in", "the", "bucket", "and", "a", "fraction", "of", "the", "frequency", "in", "this", "bucket", "is", "added", "to", "S", "t", "-LRB-", "Line", "5", "-RRB-", ".", "If", "the", "upper", "boundary", "of", "the", "bucket", "is", "smaller", "than", "t", ",", "it", "means", "that", "all", "the", "tuples", "for", "this", "bucket", "have", "a", "Price", "value", "lower", "than", "t", "and", "the", "bucket", "is", "ignored", ".", "Finally", "the", "ratio", "is", "generated", "by", "dividing", "S", "t", "with", "the", "frequency", "sum", ".", "For", "a", "value", "a", "i", "of", "a", "non-Price", "attribute", "A", "i", ",", "the", "difficulty", "of", "assigning", "it", "a", "score", "is", "two", "fold", ":", "1", ".", "How", "to", "make", "the", "attribute", "preference", "score", "assignment", "adaptive", "for", "different", "attributes", "?", "Our", "goal", "is", "to", "have", "an", "intuitive", "assignment", "for", "each", "attribute", "without", "human", "involvement", ".", "The", "difficulty", "is", "that", "different", "attributes", "can", "have", "totally", "different", "attribute", "values", ".", "2", ".", "How", "to", "establish", "the", "correspondence", "between", "different", "attributes", "?", "For", "example", ",", "how", "can", "we", "know", "that", "the", "desirableness", "of", "``", "Year", "=", "2005", "''", "is", "the", "same", "as", "the", "desirableness", "of", "``", "Mileage", "=", "5000", "''", "for", "most", "users", "?", "We", "solve", "the", "problem", "in", "two", "steps", ".", "First", ",", "based", "on", "the", "non-Price", "assumption", ",", "we", "can", "convert", "a", "non-Price", "value", "a", "i", "to", "a", "Price", "attribute", "value", "t", "i", ":", "If", "A", "i", "is", "a", "categorical", "attribute", ",", "t", "i", "is", "the", "average", "price", "for", "all", "tuples", "in", "D", "such", "that", "A", "i", "=", "a", "i", ".", "If", "A", "i", "is", "a", "numerical", "attribute", ",", "v", "i", "is", "the", "average", "price", "for", "all", "tuples", "in", "D", "such", "that", "a", "i", "-", "d", "<", "A", "i", "<", "a", "i", "+", "d", "where", "d", "is", "used", "to", "prevent", "too", "few", "tuples", "or", "no", "tuple", "being", "collected", "if", "we", "just", "simply", "set", "A", "i", "=", "a", "i", ".", "In", "our", "experiments", ",", "a", "bi-attribute", "histogram", "-LRB-", "A", "1", ",", "A", "i", "-RRB-", "is", "used", "when", "a", "i", "is", "converted", "to", "a", "Price", "value", ".", "The", "bi-attribute", "histograms", "are", "built", "in", "the", "pre-processing", "step", "in", "a", "way", "similar", "to", "the", "histogram", "construction", "described", "in", "Section", "4", ".", "Second", ",", "after", "converting", "all", "non-Price", "attribute", "values", "to", "Price", "values", ",", "we", "use", "a", "uniform", "mechanism", "to", "assign", "them", "a", "preference", "score", ".", "We", "assign", "a", "large", "score", "for", "a", "large", "Price", "value", "according", "to", "the", "non-Price", "assumption", ".", "That", "is", ",", "given", "a", "converted", "Price", "value", "t", "i", ",", "a", "preference", "score", "v", "i", "is", "assigned", "to", "it", "as", "the", "percentage", "of", "Price", "values", "that", "is", "smaller", "than", "t", "i", "in", "D", ".", "The", "algorithm", "for", "the", "converted", "Price", "preference", "score", "assignment", "can", "be", "easily", "adapted", "from", "the", "algorithm", "in", "Figure", "3", ".", "5.1", "Examples", "of", "Attribute", "Preference", "Score", "Assignment", "Table", "3", "shows", "the", "average", "Price", "and", "assigned", "score", "for", "different", "Make", "values", "for", "the", "carDB", "database", "used", "in", "our", "experiments", ".", "It", "can", "be", "seen", "that", "the", "prices", "for", "different", "car", "makes", "fit", "our", "intuition", "well", ".", "Luxury", "cars", "are", "evaluated", "to", "have", "a", "higher", "price", "than", "standard", "cars", "and", ",", "consequently", ",", "are", "assigned", "a", "larger", "preference", "score", ".", "We", "found", "that", "the", "attribute", "preference", "assignments", "for", "other", "attributes", "in", "carDB", "are", "intuitive", "too", ".", "Table", "3", ":", "Make-Price-Score", "correspondence", ".", "Make", "Average", "Price", "Score", "Mitsubishi", "12899", "0.183", "Volkswagen", "16001", "0.372", "Honda", "16175", "0.373", "Toyota", "16585", "0.387", "Acura", "20875", "0.599", "BMW", "33596", "0.893", "Benz", "37930", "0.923", "In", "this", "section", ",", "we", "describe", "our", "experiments", ",", "report", "the", "QRRE", "experimental", "results", "and", "compare", "them", "with", "some", "related", "work", ".", "We", "first", "introduce", "the", "databases", "we", "used", "and", "the", "related", "work", "for", "comparison", ".", "Then", "we", "informally", "give", "some", "examples", "of", "query", "result", "ranking", "to", "provide", "some", "intuition", "for", "our", "experiments", ".", "Next", ",", "a", "more", "formal", "evaluation", "of", "the", "ranking", "results", "is", "presented", ".", "Finally", ",", "the", "running", "time", "statistics", "are", "presented", ".", "6.1", "Experimental", "Setup", "To", "evaluate", "how", "well", "different", "ranking", "approaches", "capture", "a", "user", "'s", "preference", ",", "five", "postgraduate", "students", "were", "invited", "to", "participate", "in", "the", "experiments", "and", "behave", "as", "buyers", "from", "the", "E-commerce", "databases", ".", "Input", ":", "Price", "histogram", "H", "D1", "={", "-LRB-", "c", "1", ",", "low", "1", ",", "up", "1", "-RRB-", ",", "...", ",", "-LRB-", "c", "m", ",", "low", "m", ",", "up", "m", "-RRB-", "-RCB-", "Price", "value", "t", "Output", ":", "Price", "score", "v", "Method", ":", "1", ".", "=", "i", "i", "c", "sum", "2", ".", "S", "t", "=", "0", "3", ".", "For", "i", "=", "1", ".", ".", "m", "4", ".", "if", "-LRB-", "low", "m", ">", "t", "-RRB-", "S", "t", "=", "S", "t", "+", "c", "i", "5", ".", "if", "-LRB-", "low", "m", "<", "t", "<", "up", "m", "-RRB-", "S", "t", "=", "S", "t", "+", "c", "i", "*", "-LRB-", "t", "-", "low", "m", "-RRB-", "/", "-LRB-", "up", "m", "-", "low", "m", "-RRB-", "6", ".", "v", "=", "S", "t", "/", "sum", "7", ".", "return", "v", "Figure", "3", ":", "Price", "value", "score", "assignment", "algorithm", ".", "580", "6.1.1", "Databases", "For", "our", "evaluation", ",", "we", "set", "up", "two", "databases", "from", "two", "domains", "in", "E-commerce", ".", "The", "first", "database", "is", "a", "used", "car", "database", "carDB", "-LRB-", "Make", ",", "Model", ",", "Year", ",", "Price", ",", "Mileage", ",", "Location", "-RRB-", "containing", "100,000", "tuples", "extracted", "from", "Yahoo!", "Autos", ".", "The", "attributes", "Make", ",", "Model", ",", "Year", "and", "Location", "are", "categorical", "attributes", "and", "the", "attributes", "Price", "and", "Mileage", "are", "numerical", "attributes", ".", "The", "second", "database", "is", "a", "real", "estate", "database", "houseDB", "-LRB-", "City", ",", "Location", ",", "Bedrooms", ",", "Bathrooms", ",", "Sq", "Ft", ",", "Price", "-RRB-", "containing", "20,000", "tuples", "extracted", "from", "Yahoo!", "Real", "Estate", ".", "The", "attributes", "City", ",", "Location", ",", "Bedrooms", "and", "Bathrooms", "are", "categorical", "attributes", "and", "the", "attributes", "Sq", "Ft", "and", "Price", "are", "numerical", "attributes", ".", "To", "simulate", "the", "Web", "databases", "for", "our", "experiments", "we", "used", "MySQL", "on", "a", "P4", "3.2-GHz", "PC", "with", "1", "GB", "of", "RAM", ".", "We", "implemented", "all", "algorithms", "in", "JAVA", "and", "connected", "to", "the", "RDBMS", "by", "DAO", ".", "6.1.2", "Implemented", "Algorithms", "Besides", "QRRE", "described", "above", ",", "we", "implemented", "two", "other", "ranking", "methods", ",", "which", "are", "described", "briefly", "below", ",", "to", "compare", "with", "QRRE", ".", "RANDOM", "ranking", "model", ":", "In", "the", "RANDOM", "ranking", "model", ",", "the", "tuples", "in", "the", "query", "result", "are", "presented", "to", "the", "user", "in", "a", "random", "order", ".", "The", "RANDOM", "model", "provides", "a", "baseline", "to", "show", "how", "well", "QRRE", "can", "capture", "the", "user", "behavior", "over", "a", "random", "method", ".", "Probabilistic", "Information", "Retrieval", "-LRB-", "PIR", "-RRB-", "ranking", "model", ":", "A", "probabilistic", "information", "retrieval", "-LRB-", "PIR", "-RRB-", "technique", ",", "which", "has", "been", "successfully", "used", "in", "the", "Information", "Retrieval", "field", ",", "is", "used", "in", "-LSB-", "8", "-RSB-", "for", "ranking", "query", "results", ".", "This", "technique", "addresses", "the", "same", "problem", "as", "does", "QRRE", ".", "In", "PIR", ",", "given", "a", "tuple", "t", ",", "its", "ranking", "score", "is", "given", "by", "the", "following", "equation", ":", "=", "Y", "y", "X", "x", "Y", "y", "D", "y", "x", "p", "W", "y", "x", "p", "D", "y", "p", "W", "y", "p", "t", "Score", "-RRB-", ",", "|", "-LRB-", "-RRB-", ",", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "-LRB-", "in", "which", "X", "is", "the", "specified", "attributes", ",", "Y", "is", "the", "unspecified", "attributes", ",", "W", "is", "a", "past", "query", "workload", "and", "p", "denotes", "the", "probability", ".", "As", "mentioned", "in", "Section", "2", ",", "PIR", "work", "focuses", "on", "point", "queries", "without", "considering", "range", "queries", ".", "Therefore", ",", "when", "applying", "the", "PIR", "ranking", "model", ",", "the", "numerical", "attributes", "Price", "and", "Mileage", "in", "carDB", "and", "Sq", "Ft", "and", "Price", "in", "houseDB", "are", "discretized", "into", "meaningful", "ranges", "as", "categories", ",", "which", "in", "reality", "requires", "a", "domain", "expert", ".", "In", "PIR", ",", "a", "workload", "is", "required", "to", "obtain", "the", "conditional", "probability", "used", "to", "measure", "the", "correlation", "between", "specified", "attribute", "values", "present", "in", "the", "query", "and", "the", "unspecified", "attributes", ".", "In", "our", "experiments", ",", "we", "requested", "5", "subjects", "to", "behave", "as", "different", "kinds", "of", "buyers", ",", "such", "as", "rich", "people", ",", "clerks", ",", "students", ",", "women", ",", "etc.", "and", "post", "queries", "against", "the", "databases", ".", "We", "collected", "200", "queries", "for", "each", "database", "and", "these", "queries", "are", "used", "as", "the", "workload", "W", "for", "the", "PIR", "model", ".", "6.2", "Examples", "of", "Query", "Result", "Ranking", "When", "we", "examine", "the", "query", "result", "rankings", ",", "we", "find", "that", "the", "ranking", "results", "of", "both", "QRRE", "and", "PIR", "are", "much", "more", "reasonable", "and", "intuitive", "than", "that", "of", "RANDOM", ".", "However", ",", "there", "are", "some", "interesting", "examples", "that", "show", "that", "the", "QRRE", "rankings", "are", "superior", "to", "those", "of", "PIR", ".", "We", "found", "that", "the", "ranking", "result", "of", "QRRE", "is", "more", "reasonable", "than", "that", "of", "PIR", "in", "several", "ways", ":", "QRRE", "can", "discover", "an", "assumption", "that", "is", "implicitly", "held", "by", "a", "buyer", ".", "For", "example", ",", "for", "a", "query", "with", "condition", "``", "Mileage", "<", "5000", "''", ".", "QRRE", "ranks", "cars", "with", "Year", "=", "2006", "as", "the", "top", "recommendation", ".", "Intuitively", ",", "this", "is", "because", "a", "2006", "model", "year", "car", "usually", "has", "lower", "mileage", "and", "this", "is", "what", "the", "user", "is", "looking", "for", ".", "However", ",", "PIR", "is", "unable", "to", "identify", "the", "importance", "of", "Year", "because", "most", "users", "assume", "that", "Mileage", "itself", "is", "enough", "to", "represent", "their", "preference", "and", ",", "consequently", ",", "the", "relationship", "between", "Year", "and", "Mileage", "is", "not", "reflected", "in", "the", "workload", ".", "In", "PIR", ",", "given", "a", "numerical", "attribute", ",", "its", "value", "range", "needs", "to", "be", "discretized", "into", "meaningful", "categories", "and", "the", "values", "within", "a", "category", "are", "assumed", "to", "be", "the", "same", "during", "ranking", ".", "For", "example", ",", "if", "we", "assign", "a", "car", "with", "``", "Mileage", "<", "10000", "''", "to", "be", "a", "category", "``", "Mileage", "=", "small", "''", ",", "then", "PIR", "will", "treat", "``", "Mileage", "=", "2000", "''", "to", "be", "the", "same", "as", "``", "Mileage", "=", "9000", "''", ",", "which", "is", "obviously", "unreasonable", ".", "In", "contrast", ",", "QRRE", "will", "identify", "that", "``", "Mileage", "=", "2000", "''", "is", "more", "desirable", "than", "``", "Mileage", "=", "9000", "''", ".", "QRRE", "considers", "the", "value", "difference", "of", "the", "specified", "attributes", "of", "the", "tuples", "in", "the", "query", "result", ",", "while", "PIR", "ignores", "the", "difference", ".", "For", "example", ",", "for", "a", "query", "with", "condition", "``", "Make", "=", "Mercedes-Benz", "and", "Model", "=", "ML500", "and", "Year", ">", "2003", "''", ",", "QRRE", "usually", "ranks", "the", "cars", "that", "are", "made", "in", "this", "year", "first", ".", "However", ",", "PIR", "does", "not", "take", "the", "Year", "difference", "in", "the", "query", "result", "records", "into", "consideration", "during", "ranking", ".", "Likewise", ",", "QRRE", "often", "produces", "a", "ranking", "better", "than", "does", "PIR", "for", "houseDB", ".", "The", "actual", "evaluation", "in", "the", "following", "section", "confirms", "these", "observations", ".", "6.3", "Ranking", "Evaluation", "We", "now", "present", "a", "more", "formal", "evaluation", "of", "the", "query", "result", "ranking", "quality", ".", "A", "survey", "is", "conducted", "to", "show", "how", "well", "each", "ranking", "algorithm", "captures", "the", "user", "'s", "preference", ".", "We", "evaluate", "the", "query", "results", "in", "two", "ways", ":", "average", "precision", "and", "user", "preference", "ranking", ".", "6.3.1", "Average", "Precision", "In", "this", "experiment", ",", "each", "subject", "was", "asked", "to", "submit", "three", "queries", "for", "carDB", "and", "one", "query", "for", "houseDB", "according", "to", "their", "preference", ".", "Each", "query", "had", "on", "average", "2.2", "specified", "attributes", "for", "carDB", "and", "2.4", "specified", "attributes", "for", "houseDB", ".", "We", "found", "that", "all", "the", "attributes", "of", "carDB", "and", "houseDB", "were", "specified", "in", "the", "collected", "queries", "at", "least", "once", ".", "On", "average", ",", "for", "carDB", ",", "each", "query", "had", "a", "query", "result", "of", "686", "tuples", ",", "with", "the", "maximum", "being", "4,213", "tuples", "and", "the", "minimum", "116", "tuples", ".", "It", "can", "be", "seen", "that", "the", "many-query-result", "problem", "is", "a", "common", "problem", "in", "reality", ".", "Each", "query", "for", "houseDB", "has", "a", "query", "result", "of", "166", "tuples", "on", "average", ".", "Since", "it", "is", "not", "practical", "to", "ask", "the", "subjects", "to", "rank", "the", "whole", "query", "result", "for", "a", "query", ",", "we", "adopt", "the", "following", "strategy", "to", "compare", "the", "performance", "of", "different", "ranking", "approaches", ".", "For", "each", "implemented", "ranking", "algorithm", ",", "we", "collected", "the", "first", "10", "tuples", "that", "it", "recommended", ".", "Hence", ",", "thirty", "tuples", "are", "collected", "in", "total", ".", "If", "there", "is", "overlap", "among", "the", "recommended", "tuples", "from", "different", "algorithms", ",", "we", "extract", "more", "tuples", "using", "the", "RANDOM", "algorithm", "so", "that", "thirty", "unique", "tuples", "are", "collected", "in", "total", ".", "Next", ",", "for", "each", "of", "the", "fifteen", "queries", ",", "each", "subject", "was", "asked", "to", "rank", "the", "top", "10", "tuples", "as", "the", "relevant", "tuples", "that", "they", "preferred", "most", "from", "the", "thirty", "unique", "tuples", "collected", "for", "each", "query", ".", "During", "ranking", ",", "they", "were", "asked", "to", "behave", "like", "real", "buyers", "to", "rank", "the", "records", "according", "to", "their", "preferences", ".", "581", "Table", "4", ":", "Average", "precision", "for", "different", "ranking", "methods", "for", "carDB", ".", "QRRE", "PIR", "RANDOM", "q1", "0.72", "0.52", "0.08", "q2", "0.62", "0.62", "0.06", "q3", "0.72", "0.22", "0.06", "q4", "0.52", "0.64", "0.04", "q5", "0.84", "0.78", "0.06", "q6", "0.68", "0.36", "0.04", "q7", "0.92", "0.46", "0.02", "q8", "0.88", "0.64", "0.06", "q9", "0.78", "0.62", "0.04", "q10", "0.74", "0.64", "0.04", "q11", "0.56", "0.66", "0.06", "q12", "0.86", "0.76", "0.08", "q13", "0.84", "0.36", "0.02", "q14", "0.58", "0.38", "0.04", "q15", "0.76", "0.66", "0.06", "Average", "0.735", "0.555", "0.048", "We", "use", "the", "Precision/Recall", "metrics", "to", "evaluate", "how", "well", "the", "user", "'s", "preference", "is", "captured", "by", "the", "different", "ranking", "algorithms", ".", "Precision", "is", "the", "ratio", "obtained", "by", "dividing", "the", "number", "of", "retrieved", "tuples", "that", "are", "relevant", "by", "the", "total", "number", "of", "retrieved", "tuples", ".", "Recall", "is", "the", "ratio", "obtained", "by", "dividing", "the", "number", "of", "relevant", "tuples", "by", "the", "number", "of", "tuples", "that", "are", "retrieved", ".", "In", "our", "experiments", ",", "both", "the", "relevant", "tuples", "and", "the", "retrieved", "tuples", "are", "10", ",", "which", "make", "the", "Precision", "and", "Recall", "to", "be", "equal", ".", "Table", "4", "shows", "the", "average", "precision", "of", "the", "different", "ranking", "methods", "for", "each", "query", ".", "It", "can", "be", "seen", "that", "both", "QRRE", "and", "PIR", "consistently", "have", "a", "higher", "precision", "than", "RANDOM", ".", "For", "11", "queries", "out", "of", "15", ",", "the", "precision", "of", "QRRE", "is", "higher", "than", "that", "of", "PIR", ".", "The", "precision", "of", "QRRE", "is", "equal", "to", "that", "of", "PIR", "for", "two", "queries", "and", "is", "lower", "than", "that", "of", "PIR", "for", "the", "remaining", "two", "queries", ".", "QRRE", "'s", "average", "precision", "is", "0.18", "higher", "than", "that", "of", "PIR", ".", "QRRE", "has", "a", "precision", "higher", "than", "0.5", "for", "each", "query", "while", "PIR", "has", "a", "precision", "as", "low", "as", "0.22", "for", "q3", ".", "It", "should", "be", "noted", "that", "there", "is", "some", "overlap", "between", "the", "top-10", "ranked", "results", "of", "QRRE", "and", "top-10", "ranked", "results", "of", "PIR", "for", "most", "queries", ".", "Figure", "4", "and", "Figure", "5", "show", "the", "average", "precision", "of", "the", "three", "ranking", "methods", "graphically", "for", "both", "carDB", "and", "houseDB", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "Query", "A", "ver", "ag", "e", "P", "r", "eci", "s", "i", "o", "n", "QRRE", "PIR", "RANDOM", "Figure", "4", ":", "Average", "prevision", "for", "different", "ranking", "methods", "for", "carDB", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "1", "2", "3", "4", "5", "Query", "A", "v", "er", "ag", "e", "P", "r", "e", "c", "i", "s", "i", "o", "n", "QRRE", "PIR", "RANDOM", "Figure", "5", ":", "Average", "precision", "for", "different", "ranking", "methods", "for", "houseDB", ".", "6.3.2", "User", "Preference", "Ranking", "In", "this", "experiment", ",", "10", "queries", "were", "collected", "from", "the", "5", "subjects", "for", "carDB", "and", "5", "queries", "were", "collected", "for", "houseDB", ".", "After", "getting", "the", "query", "results", ",", "they", "were", "ranked", "using", "the", "three", "ranking", "methods", ".", "The", "ranking", "results", "were", "then", "provided", "to", "the", "subjects", "in", "order", "to", "let", "them", "select", "which", "result", "they", "liked", "best", ".", "Table", "5", "and", "Table", "6", "show", "the", "user", "preference", "ranking", "-LRB-", "UPR", "-RRB-", "of", "the", "different", "ranking", "methods", "for", "each", "query", "for", "carDB", "and", "houseDB", ",", "respectively", ".", "It", "can", "be", "seen", "that", "again", "both", "QRRE", "and", "PIR", "greatly", "outperform", "RANDOM", ".", "In", "most", "cases", ",", "the", "subjects", "preferred", "the", "ranking", "results", "of", "QRRE", "to", "that", "of", "PIR", ".", "Table", "5", ":", "UPR", "for", "different", "ranking", "methods", "for", "carDB", ".", "QRRE", "PIR", "RANDOM", "q1", "0.8", "0.2", "0", "q2", "1", "0", "0", "q3", "0.6", "0.4", "0", "q4", "0.4", "0.6", "0", "q5", "0.4", "0.6", "0", "q6", "0.8", "0.2", "0", "q7", "1", "0", "0", "q8", "0.6", "0.2", "0.2", "q9", "0.8", "0.2", "0", "q10", "0.8", "0.2", "0", "Average", "0.72", "0.26", "0.02", "Table", "6", ":", "UPR", "for", "different", "ranking", "methods", "for", "houseDB", ".", "QRRE", "PIR", "RANDOM", "q1", "0.4", "0.4", "0.2", "q2", "0.8", "0.2", "0", "q3", "1", "0", "0", "q4", "0.4", "0.6", "0", "q5", "0.6", "0.4", "0", "Average", "0.66", "0.32", "0.02", "582", "While", "these", "preliminary", "experiments", "indicate", "that", "QRRE", "is", "promising", "and", "better", "than", "the", "existing", "work", ",", "a", "much", "larger", "scale", "user", "study", "is", "necessary", "to", "conclusively", "establish", "this", "finding", ".", "6.4", "Performance", "Report", "Using", "QRRE", ",", "histograms", "need", "to", "be", "constructed", "before", "the", "query", "results", "can", "be", "ranked", ".", "The", "histogram", "construction", "time", "depends", "on", "the", "number", "of", "buckets", "and", "the", "time", "to", "query", "the", "web", "to", "get", "the", "number", "of", "occurrences", "for", "each", "bucket", ".", "However", ",", "in", "most", "cases", "the", "histogram", "usually", "does", "not", "change", "very", "much", "over", "time", "and", "so", "needs", "to", "be", "constructed", "only", "once", "in", "a", "given", "time", "period", ".", "The", "query", "result", "ranking", "in", "the", "online", "processing", "part", "includes", "four", "modules", ":", "the", "attribute", "weight", "assignment", "module", ",", "the", "attribute-value", "preference", "score", "assignment", "module", ",", "the", "ranking", "score", "calculation", "module", "and", "the", "ranking", "score", "sorting", "module", ".", "Each", "of", "the", "first", "three", "modules", "has", "a", "time", "complexity", "of", "O", "-LRB-", "n", "-RRB-", "after", "constructing", "the", "histogram", ",", "where", "n", "is", "the", "number", "of", "query", "results", ",", "and", "the", "ranking", "score", "sorting", "module", "has", "a", "time", "complexity", "of", "O", "-LRB-", "nlog", "-LRB-", "n", "-RRB-", "-RRB-", ".", "Hence", ",", "the", "overall", "time", "complexity", "for", "the", "online", "processing", "stage", "is", "O", "-LRB-", "nlog", "-LRB-", "n", "-RRB-", "-RRB-", ".", "Figure", "6", "shows", "the", "online", "execution", "time", "of", "the", "queries", "over", "carDB", "as", "a", "function", "of", "the", "number", "of", "tuples", "in", "the", "query", "result", ".", "It", "can", "be", "seen", "that", "the", "execution", "time", "of", "QRRE", "grows", "almost", "linearly", "with", "the", "number", "of", "tuples", "in", "the", "query", "result", ".", "This", "is", "because", "ranking", "score", "sorting", "is", "fairly", "quick", "even", "for", "a", "large", "amount", "of", "data", "and", "thus", "most", "of", "the", "running", "time", "is", "spent", "in", "the", "first", "three", "modules", ".", "0", "5000", "10000", "15000", "20000", "25000", "30000", "35000", "40000", "45000", "50000", "0", "500", "1000", "1500", "2000", "2500", "3000", "Tuple", "Number", "E", "x", "e", "c", "ut", "i", "on", "Ti", "m", "e", "-LRB-", "m", "s", "-RRB-", "Figure", "6", ":", "Execution", "times", "for", "different", "numbers", "of", "query", "results", "for", "carDB", ".", "In", "this", "paper", ",", "a", "novel", "automated", "ranking", "approach", "for", "the", "many-query", "-", "result", "problem", "in", "E-commerce", "is", "proposed", ".", "Starting", "from", "the", "user", "query", ",", "we", "assume", "that", "the", "specified", "attributes", "are", "important", "for", "the", "user", ".", "We", "also", "assume", "that", "the", "attributes", "that", "are", "highly", "correlated", "with", "the", "query", "also", "are", "important", "to", "the", "user", ".", "We", "assign", "a", "weight", "for", "each", "attribute", "according", "to", "its", "importance", "to", "the", "user", ".", "Then", ",", "for", "each", "value", "in", "each", "tuple", "of", "the", "query", "result", ",", "a", "preference", "score", "is", "assigned", "according", "to", "its", "desirableness", "in", "the", "E-commerce", "context", ",", "where", "users", "are", "assumed", "to", "more", "prefer", "products", "with", "lower", "prices", ".", "All", "preference", "scores", "are", "combined", "according", "to", "the", "attribute", "weight", "assigned", "to", "each", "attribute", ".", "No", "domain", "knowledge", "or", "user", "feedback", "is", "required", "in", "the", "whole", "process", ".", "Preliminary", "experimental", "results", "indicate", "that", "QRRE", "captures", "the", "user", "preference", "fairly", "well", "and", "better", "than", "existing", "works", ".", "We", "acknowledge", "the", "following", "shortcoming", "of", "our", "approach", ",", "which", "will", "be", "the", "focus", "for", "our", "future", "research", ".", "First", ",", "we", "do", "not", "deal", "with", "string", "attributes", ",", "such", "as", "book", "titles", "or", "the", "comments", "for", "a", "house", ",", "contained", "in", "many", "Web", "databases", ".", "It", "would", "be", "extremely", "useful", "to", "find", "a", "method", "to", "incorporate", "string", "attributes", "into", "QRRE", ".", "Second", ",", "QRRE", "has", "only", "been", "evaluated", "on", "small-scale", "datasets", ".", "We", "realize", "that", "a", "large", ",", "comprehensive", "benchmark", "should", "be", "built", "to", "extensively", "evaluate", "a", "query", "result", "ranking", "system", ",", "both", "for", "QRRE", "and", "for", "future", "research", ".", "Finally", ",", "QRRE", "has", "been", "specifically", "tailored", "for", "E-commerce", "Web", "databases", ".", "It", "would", "be", "interesting", "to", "extend", "QRRE", "to", "also", "deal", "with", "non-E-commerce", "Web", "databases", ".", "This", "research", "was", "supported", "by", "the", "Research", "Grants", "Council", "of", "Hong", "Kong", "under", "grant", "HKUST6172/04E", ".", "-LSB-", "1", "-RSB-", "A.", "Aboulnaga", "and", "S.", "Chaudhuri", ".", "``", "Self-tuning", "Histograms", ":", "Building", "Histograms", "Without", "Looking", "at", "Data", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "181-192", ",", "1999", ".", "-LSB-", "2", "-RSB-", "S.", "Agrawal", ",", "S.", "Chaudhuri", "and", "G.", "Das", ".", "``", "DBXplorer", ":", "A", "System", "for", "Keyword", "Based", "Search", "over", "Relational", "Databases", ",", "''", "Proc", ".", "of", "18", "th", "Intl.", ".", "Conf", ".", "on", "Data", "Engineering", ",", "5-16", ",", "2002", ".", "-LSB-", "3", "-RSB-", "R.", "Baeza-Yates", "and", "B.", "Ribeiro-Neto", ".", "Modern", "Information", "Retrieval", ",", "Addison-Wesley", ",", "1999", ".", "-LSB-", "4", "-RSB-", "A.", "Balmin", ",", "V.", "Hristidis", "and", "Y.", "Papakonstantinou", ".", "``", "ObjectRank", ":", "Authority-Based", "Keyword", "Search", "in", "Databases", ",", "''", "Proc", ".", "of", "the", "30", "th", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "564-575", ",", "2004", ".", "-LSB-", "5", "-RSB-", "G.", "Bhalotia", ",", "C.", "Nakhe", ",", "A.", "Hulgeri", ",", "S.", "Chakrabarti", "and", "S.", "Sudarshan", ".", "``", "Keyword", "Searching", "and", "Browsing", "in", "Databases", "using", "BANKS", ",", "''", "Proc", ".", "of", "18", "th", "Intl.", ".", "Conf", ".", "on", "Data", "Engineering", ",", "431-440", ",", "2002", ".", "-LSB-", "6", "-RSB-", "N.", "Bruno", ",", "S.", "Chaudhuri", "and", "L.", "Gravano", ".", "``", "STHoles", ":", "A", "Multidimensional", "Workload-aware", "Histogram", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "211-222", ",", "2001", ".", "-LSB-", "7", "-RSB-", "K.", "Chakrabarti", ",", "S.", "Chaudhuri", "and", "S.", "Hwang", ".", "``", "Automatic", "Categorization", "of", "Query", "Results", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "755-766", ",", "2004", ".", "-LSB-", "8", "-RSB-", "S.", "Chaudhuri", ",", "G.", "Das", ",", "V.", "Hristidis", "and", "G.", "Weikum", ".", "``", "Probabilistic", "Ranking", "of", "Database", "Query", "Results", ",", "''", "Proc", ".", "of", "the", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "888-899", ",", "2004", ".", "-LSB-", "9", "-RSB-", "K.", "Chakrabarti", ",", "K.", "Porkaew", "and", "S.", "Mehrotra", ".", "``", "Efficient", "Query", "Refinement", "in", "Multimedia", "Databases", ",", "''", "Proc", ".", "of", "16", "th", "Intl.", ".", "Conf", ".", "on", "Data", "Engineering", ",", "196", ",", "2000", ".", "-LSB-", "10", "-RSB-", "W.", "Cohen", ".", "``", "Integration", "of", "Heterogeneous", "Databases", "Without", "Common", "Domains", "Using", "Queries", "Based", "on", "Textual", "Similarity", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "201-212", ",", "1998", ".", "-LSB-", "11", "-RSB-", "W.", "Cohen", ".", "``", "Providing", "Database-like", "Access", "to", "the", "Web", "Using", "Queries", "Based", "on", "Textual", "Similarity", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "558-560,1998", ".", "-LSB-", "12", "-RSB-", "W.B.", "Croft", "and", "J.", "Lafferty", ".", "Language", "Modeling", "for", "Information", "Retrieval", ".", "Kluwer", "2003", ".", "-LSB-", "13", "-RSB-", "R.O.", "Duda", ",", "P.E.", "Hart", "and", "D.G.", "Stork", ",", "Pattern", "Classification", ".", "John", "Wiley", "&", "Sons", ",", "USA", ",", "2001", ".", "-LSB-", "14", "-RSB-", "N.", "Fuhr", ".", "``", "A", "Probabilistic", "Framework", "for", "Vague", "Queries", "and", "Imprecise", "Information", "in", "Databases", ",", "''", "Proc", ".", "of", "the", "16", "th", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "696-707", ",", "1990", ".", "583", "-LSB-", "15", "-RSB-", "N.", "Fuhr", ".", "``", "A", "Probabilistic", "Relational", "Model", "for", "the", "Integration", "of", "IR", "and", "Databases", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGIR", "Conf.", ",", "309-317", ",", "1993", ".", "-LSB-", "16", "-RSB-", "F.", "Geerts", ",", "H.", "Mannila", "and", "E.", "Terzi", ".", "``", "Relational", "Link-based", "Ranking", ",", "''", "Proc", ".", "of", "the", "30", "th", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "552-563", ",", "2004", ".", "-LSB-", "17", "-RSB-", "V.", "Hristidis", "and", "Y.", "Papakonstantinou", ".", "``", "DISCOVER", ":", "Keyword", "Search", "in", "Relational", "Databases", ",", "''", "Proc", ".", "of", "the", "28", "th", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "670-681", ",", "2002", ".", "-LSB-", "18", "-RSB-", "G.", "Koutrika", "and", "Y.E.", "Ioannidis", ".", "``", "Personalization", "of", "Queries", "in", "Database", "Systems", ",", "''", "Proc", ".", "of", "20", "th", "Intl.", ".", "Conf", ".", "on", "Data", "Engineering", ",", "597-608", ",", "2004", ".", "-LSB-", "19", "-RSB-", "G.", "Koutrika", "and", "Y.E.", "Ioannidis", ".", "``", "Constrained", "Optimalities", "in", "Query", "Personalization", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "73-84", ",", "2005", ".", "-LSB-", "20", "-RSB-", "Y.E.", "Ioannidis", ".", "``", "The", "History", "of", "Histograms", "-LRB-", "abridged", "-RRB-", ",", "''", "Proc", ".", "of", "the", "29", "th", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "19-30", ",", "2003", ".", "-LSB-", "21", "-RSB-", "W.", "Kie", "ling", ".", "``", "Foundations", "of", "Preferences", "in", "Database", "Systems", ",", "''", "Proc", ".", "of", "the", "28", "th", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "311-322", ",", "2002", ".", "-LSB-", "22", "-RSB-", "R.", "Kooi", ".", "The", "Optimization", "of", "Queries", "in", "Relational", "Databases", ".", "PhD", "Thesis", ",", "Case", "Western", "Reserve", "University", ",", "1980", ".", "-LSB-", "23", "-RSB-", "I.", "Muslea", "and", "T.", "Lee", ".", "``", "Online", "Query", "Relaxation", "via", "Bayesian", "Causal", "Structures", "Discovery", ",", "''", "Proc", ".", "of", "the", "AAAI", "Conf.", ",", "831-836", ",", "2005", ".", "-LSB-", "24", "-RSB-", "U.", "Nambiar", "and", "S.", "Kambhampati", ".", "``", "Answering", "Imprecise", "Queries", "over", "Autonomous", "Web", "Databases", ",", "''", "Proc", ".", "of", "22", "nd", "Intl.", ".", "Conf", ".", "on", "Data", "Engineering", ",", "45", ",", "2006", ".", "-LSB-", "25", "-RSB-", "Z.", "Nazeri", ",", "E.", "Bloedorn", "and", "P.", "Ostwald", ".", "``", "Experiences", "in", "Mining", "Aviation", "Safety", "Data", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "562-566", ",", "2001", ".", "-LSB-", "26", "-RSB-", "M.", "Ortega-Binderberger", ",", "K.", "Chakrabarti", "and", "S.", "Mehrotra", ".", "``", "An", "Approach", "to", "Integrating", "Query", "Refinement", "in", "SQL", ",", "''", "Proc", ".", "Intl.", ".", "Conf", ".", "on", "Extending", "Data", "Base", "Technology", ",", "15-33", ",", "2002", ".", "-LSB-", "27", "-RSB-", "G.", "Piatetsky-Sharpiro", "and", "C.", "Connell", ".", "``", "Accurate", "Estimation", "of", "the", "Number", "of", "Tuples", "Satisfying", "a", "Condition", ",", "''", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conf.", ",", "256", "--", "276", ",", "1984", ".", "-LSB-", "28", "-RSB-", "Y.", "Rui", ",", "T.S.", "Huang", "and", "S.", "Merhotra", ".", "``", "Content-Based", "Image", "Retrieval", "with", "Relevance", "Feedback", "in", "MARS", ",", "''", "Proc", ".", "IEEE", "Intl.", ".", "Conf", ".", "on", "Image", "Processing", ",", "815-818", ",", "1997", ".", "-LSB-", "29", "-RSB-", "G.", "Salton", ",", "A.", "Wong", "and", "C.S.", "Yang", ".", "``", "A", "Vector", "Space", "Model", "for", "Information", "Retrieval", ",", "''", "Communications", "of", "the", "ACM", "18", "-LRB-", "11", "-RRB-", ",", "613-620", ",", "1975", ".", "-LSB-", "30", "-RSB-", "K.", "Sparck", "Jones", ",", "S.", "Walker", "and", "S.E.", "Robertson", ".", "``", "A", "Probabilistic", "Model", "of", "Information", "Retrieval", ":", "Development", "and", "Comparative", "Experiments", "-", "Part", "1", ",", "''", "Inf", ".", "Process", ".", "Management", "36", "-LRB-", "6", "-RRB-", ",", "779-808", ",", "2000", ".", "-LSB-", "31", "-RSB-", "K.", "Sparck", "Jones", ",", "S.", "Walker", "and", "S.E.", "Robertson", ".", "``", "A", "Probabilistic", "Model", "of", "Information", "Retrieval", ":", "Development", "and", "Comparative", "Experiments", "-", "Part", "2", ",", "''", "Inf", ".", "Process", ".", "Management", "36", "-LRB-", "6", "-RRB-", ",", "809-840", ",", "2000", ".", "-LSB-", "32", "-RSB-", "E.M.", "Voorhees", ".", "``", "The", "TREC-8", "Question", "Answering", "Track", "Report", ",", "''", "Proc", ".", "of", "the", "8", "th", "Text", "Retrieval", "Conf", ",", "1999", ".", "-LSB-", "33", "-RSB-", "L.", "Wu", ",", "C.", "Faloutsos", ",", "K.", "Sycara", "and", "T.", "Payne", ".", "``", "FALCON", ":", "Feedback", "Adaptive", "Loop", "for", "Content-Based", "Retrieval", ",", "''", "Proc", ".", "of", "the", "26", "th", "Intl.", ".", "Conf", ".", "on", "Very", "Large", "Databases", ",", "297-306", ",", "2000", ".", "584"], "doc_bio_tags": ["B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["human factors", "rank the query results", "qrre", "attribute preference", "pir", "attribute weight assignment", "experimentation", "design", "algorithms", "attribute value", "query result ranking"], "abstractive_keyphrases": ["e-commerce web databases", "many query result problem", "e-commerce"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "134", "document": ["Machine", "Learning", "in", "Low-level", "Microarray", "Analysis", "Machine", "learning", "and", "data", "mining", "have", "found", "a", "multitude", "of", "successful", "applications", "in", "microarray", "analysis", ",", "with", "gene", "clustering", "and", "classification", "of", "tissue", "samples", "being", "widely", "cited", "examples", ".", "Low-level", "microarray", "analysis", "often", "associated", "with", "the", "pre-processing", "stage", "within", "the", "microarray", "life-cycle", "has", "increasingly", "become", "an", "area", "of", "active", "research", ",", "traditionally", "involving", "techniques", "from", "classical", "statistics", ".", "This", "paper", "explores", "opportunities", "for", "the", "application", "of", "machine", "learning", "and", "data", "mining", "methods", "to", "several", "important", "low-level", "microarray", "analysis", "problems", ":", "monitoring", "gene", "expression", ",", "transcript", "discovery", ",", "genotyping", "and", "resequencing", ".", "Relevant", "methods", "and", "ideas", "from", "the", "machine", "learning", "community", "include", "semi-supervised", "learning", ",", "learning", "from", "heterogeneous", "data", ",", "and", "incremental", "learning", ".", "DNA", "microarrays", "have", "revolutionized", "biological", "research", "over", "the", "short", "time", "since", "their", "inception", "-LSB-", "2", ";", "27", ";", "28", ";", "29", "-RSB-", ".", "Although", "most", "widely", "used", "for", "parallel", "measurement", "of", "gene", "expression", "-LSB-", "27", ";", "28", "-RSB-", ",", "microarrays", "are", "starting", "to", "find", "common", "application", "in", "other", "areas", "of", "genomics", "and", "transcriptomics", ",", "including", "genomic", "re-sequencing", "-LSB-", "30", ";", "31", "-RSB-", ",", "genotyping", "-LSB-", "32", ";", "33", "-RSB-", ",", "and", "transcript", "discovery", "-LSB-", "34", "-RSB-", ".", "Research", "labs", "armed", "with", "microarrays", "have", "been", "able", "to", "partake", "in", "a", "range", "of", "studies", ",", "including", "finding", "gene", "function", "-LSB-", "35", ";", "36", ";", "37", "-RSB-", ";", "correcting", "mistaken", "database", "annotations", "-LSB-", "36", ";", "7", "-RSB-", ";", "performing", "linkage", "analyses", ";", "determining", "specific", "genes", "involved", "in", "biological", "pathways", ";", "identifying", "genes", "that", "are", "important", "at", "certain", "times", "of", "development", "-LRB-", "or", "that", "are", "turned", "on/off", "over", "a", "course", "of", "treatment", "-RRB-", ";", "elucidating", "gene", "regulatory", "networks", "-LSB-", "13", "-RSB-", ";", "diagnosing", "disease", "in", "tissue", "sam-Figure", "1", ":", "The", "relationship", "between", "low-level", "and", "high-level", "microarray", "analysis", ".", "ples", "-LSB-", "38", ";", "39", ";", "40", ";", "41", "-RSB-", ";", "tioners", "'", "misdiagnoses", "-LSB-", "38", "-RSB-", ".", "The", "common", "thread", "among", "these", "high-level", "microarray", "analysis", "problems", "is", "that", "they", "answer", "sophisticated", "questions", "of", "direct", "biological", "interest", "to", "medical", "researchers", "-LRB-", "such", "as", "``", "which", "genes", "are", "being", "co-expressed", "under", "treatment", "X", "?", "''", "-RRB-", ",", "where", "the", "raw", "data", "used", "are", "estimates", "of", "biologically", "meaningful", "parameters", "-LRB-", "such", "as", "the", "expression", "level", "estimates", "for", "thousands", "of", "genes", "-RRB-", ".", "In", "contrast", "to", "these", "so-called", "high-level", "problems", ",", "low-level", "microarray", "analysis", "-LSB-", "19", "-RSB-", "is", "concerned", "with", "the", "preceding", "step", "in", "the", "microarray", "assay", "cycle", "-LRB-", "Figure", "1", "-RRB-", "given", "raw", "data", "straight", "from", "a", "scanner", "which", "has", "no", "direct", "biological", "interpretation", ",", "clean", "and", "summarize", "this", "data", "to", "produce", "the", "biologically", "meaningful", "parameter", "estimates", "-LRB-", "such", "as", "expression", "level", "estimates", "-RRB-", "that", "are", "later", "used", "in", "high-level", "analyses", ".", "In", "low-level", "analysis", ",", "more", "consideration", "is", "generally", "given", "to", "the", "behavior", "of", "the", "underlying", "molecular", "biology", ",", "microarray", "technology", ",", "and", "experimental", "design", "than", "in", "high-level", "analysis", ".", "This", "makes", "generative", "methods", "readily", "applicable", "in", "low-level", "problems", ",", "facilitating", "the", "formulation", "of", "confidence", "SIGKDD", "Explorations", ".", "and", "even", "identifying", "medical", "practi-Volume", "5", ",", "Issue", "2", "-", "Page", "130", "statements", "such", "as", "p-values", "in", "gene", "expression", "calls", ".", "Hence", ",", "while", "high-level", "problems", "have", "been", "tackled", "with", "discriminative", "approaches", ",", "such", "as", "those", "found", "in", "machine", "learning", "and", "data", "mining", ",", "in", "addition", "to", "classical", "statistical", "methods", ",", "the", "low-level", "analysis", "community", "has", "traditionally", "called", "upon", "only", "the", "latter", ".", "In", "this", "paper", "we", "argue", "that", "low-level", "microarray", "analysis", "poses", "a", "number", "of", "interesting", "problems", "for", "the", "data", "mining", "and", "machine", "learning", "community", ",", "distinct", "to", "the", "traditional", "high-level", "microarray", "problems", ".", "These", "problems", "are", "relevant", "to", "the", "long-term", "success", "of", "DNA", "microarrays", "and", "are", "already", "topics", "of", "active", "research", "in", "the", "low-level", "microarray", "analysis", "community", ".", "It", "is", "our", "hope", "that", "this", "position", "paper", "motivates", "and", "enables", "further", "machine", "learning", "research", "in", "the", "area", ".", "Although", "we", "will", "focus", "on", "high", "density", "oligonucleotide", "microarrays", ",", "particularly", "those", "of", "the", "Affymetrix", "GeneChip", "variety", ",", "the", "underlying", "concepts", "and", "opportunities", "remain", "the", "same", "for", "related", "technologies", ".", "Throughout", "the", "paper", ",", "we", "distinguish", "machine", "learning", "from", "statistics", ".", "While", "these", "disciplines", "are", "closely", "related", "and", "serve", "as", "foundations", "for", "inference", "in", "microarray", "analysis", ",", "the", "distinction", "does", "have", "content", ".", "In", "our", "view", ",", "classical", "statistics", "is", "generative", ",", "dealing", "with", "relatively", "low-dimensional", "data", "and", "parameter", "spaces", ",", "while", "machine", "learning", "is", "often", "discriminative", "in", "nature", "and", "explicitly", "addresses", "computational", "issues", "in", "high-dimensional", "data", "analysis", ".", "Section", "2", "reviews", "relevant", "background", "ideas", "from", "machine", "learning", ".", "For", "an", "overview", "of", "the", "background", "molecular", "biology", "and", "microarray", "technology", ",", "see", "the", "guest", "editorial", "elsewhere", "in", "this", "issue", ".", "The", "low-level", "problems", "of", "absolute", "and", "differential", "expression", "level", "summarization", ",", "expression", "detection", ",", "and", "transcript", "discovery", "are", "reviewed", "in", "Section", "3", ",", "along", "with", "suggested", "applications", "of", "machine", "learning", "approaches", "to", "these", "problems", ".", "Sections", "4", "and", "5", "similarly", "cover", "microarray-based", "genotyping", "and", "re-sequencing", ".", "Finally", ",", "Section", "6", "concludes", "the", "paper", ".", "We", "assume", "familiarity", "with", "the", "notions", "of", "unsupervised", "learning", "-LRB-", "clustering", "-RRB-", "and", "supervised", "learning", "-LRB-", "classification", "and", "regression", "-RRB-", ".", "As", "many", "of", "the", "low-level", "analysis", "problems", "discussed", "below", "are", "amenable", "to", "learning", "from", "partially", "labeled", "data", ",", "learning", "from", "heterogeneous", "data", ",", "and", "incremental", "learning", ",", "we", "briefly", "review", "these", "paradigms", "here", ".", "2.1", "Learning", "from", "Partially", "Labeled", "Data", "Given", "an", "i.i.d.", "labeled", "sample", "-LCB-", "-LRB-", "x", "i", ",", "y", "i", "-RRB-", "-RCB-", "n", "i", "=", "1", "drawn", "from", "the", "unknown", "and", "fixed", "joint", "distribution", "F", "-LRB-", "x", ",", "y", "-RRB-", ",", "and", "an", "i.i.d.", "unlabeled", "sample", "-LCB-", "x", "i", "-RCB-", "m", "i", "=", "n", "+1", "drawn", "from", "the", "marginal", "distribution", "F", "-LRB-", "x", "-RRB-", ",", "the", "problem", "of", "learning", "from", "partially", "labeled", "data", "-LSB-", "22", ";", "20", "-RSB-", "is", "to", "use", "the", "data", "in", "choosing", "a", "function", "^", "g", "m", "-LRB-", "X", "-RRB-", "approximating", "E", "-LRB-", "Y", "|", "X", "-RRB-", "where", "-LRB-", "X", ",", "Y", "-RRB-", "F", ".", "This", "problem", "has", "been", "motivated", "by", "a", "number", "of", "applications", "where", "only", "limited", "labeled", "data", "is", "present", ",", "say", "due", "to", "expense", ",", "while", "unlabeled", "data", "is", "plentiful", "-LSB-", "16", "-RSB-", ".", "This", "is", "particularly", "the", "case", "in", "the", "areas", "of", "text", "classification", ",", "medical", "research", ",", "and", "computer", "vision", "-LSB-", "42", "-RSB-", ",", "within", "which", "much", "of", "the", "research", "into", "learning", "from", "partially", "labeled", "data", "has", "occurred", ".", "This", "problem", ",", "also", "called", "the", "labeled-unlabeled", "data", "problem", "-LSB-", "42", "-RSB-", ",", "has", "been", "explored", "under", "a", "number", "of", "closely-related", "guises", ".", "Some", "of", "the", "earliest", "approaches", "used", "so-called", "hybrid", "learners", "-LSB-", "6", "-RSB-", ",", "where", "an", "unsupervised", "learning", "algorithm", "assigns", "labels", "to", "the", "unlabeled", "data", ",", "thereby", "expanding", "the", "labeled", "dataset", "for", "subsequent", "supervised", "learning", ".", "The", "term", "multimodal", "learning", "is", "sometimes", "used", "to", "refer", "to", "partially", "labeled", "learning", "in", "the", "computer", "vision", "literature", "-LSB-", "17", "-RSB-", ".", "Co-training", "is", "a", "form", "of", "partially", "labeled", "learning", "where", "the", "two", "datasets", "may", "be", "of", "different", "types", "and", "one", "proceeds", "by", "using", "the", "unlabeled", "data", "to", "bootstrap", "weak", "learners", "trained", "on", "the", "labeled", "data", "-LSB-", "16", "-RSB-", ".", "More", "recently", ",", "semi-supervised", "learning", "-LSB-", "25", "-RSB-", "and", "transductive", "learning", "-LSB-", "26", "-RSB-", "have", "gained", "popularity", ".", "Equivalent", "to", "partially", "labeled", "learning", ",", "semi-supervised", "learning", "includes", "a", "number", "of", "successful", "algorithms", ",", "such", "as", "those", "based", "on", "the", "support", "vector", "machine", "-LRB-", "SVM", "-RRB-", "-LSB-", "25", ";", "8", "-RSB-", ".", "Transductive", "learners", ",", "on", "the", "other", "hand", ",", "aim", "to", "predict", "labels", "for", "just", "the", "unlabeled", "data", "at", "hand", ",", "without", "producing", "the", "inductive", "approximation", "^", "g", "m", ".", "This", "approach", "can", "be", "used", "to", "generalize", "the", "aforementioned", "hybrid", "learners", ",", "whose", "unsupervised", "step", "typically", "ignores", "the", "labeled", "data", ".", "In", "particular", ",", "it", "is", "shown", "in", "-LSB-", "26", "-RSB-", "that", "direct", "transduction", "is", "more", "effective", "than", "the", "traditional", "two-step", "approach", "of", "induction", "followed", "by", "deduction", ".", "A", "number", "of", "transductive", "schemes", "have", "been", "proposed", ",", "such", "as", "those", "based", "on", "the", "SVM", "-LSB-", "4", ";", "25", "-RSB-", ",", "a", "graph-based", "transductive", "learner", "-LSB-", "9", "-RSB-", ",", "and", "a", "leave-one-out", "error", "ridge", "regression", "method", "-LSB-", "26", "-RSB-", ".", "Joachims", "-LSB-", "25", "-RSB-", "describes", "an", "approximate", "solver", "for", "the", "semi-supervised", "SVM", "which", "utilizes", "a", "fast", "SVM", "optimizer", "as", "an", "inner", "loop", ".", "The", "story", "is", "not", "all", "good", ".", "-LSB-", "10", "-RSB-", "tells", "us", "that", "while", "unlabeled", "data", "may", "be", "useful", ",", "labeled", "examples", "are", "exponentially", "more", "valuable", "in", "a", "suitable", "sense", ".", "-LSB-", "43", "-RSB-", "tells", "us", "that", "unlabeled", "data", "may", "lead", "the", "transductive", "SVM", "to", "maximize", "the", "wrong", "margin", ",", "and", "in", "-LSB-", "42", "-RSB-", "it", "is", "shown", "that", "unlabeled", "data", "may", "in", "fact", "degrade", "classifier", "performance", "under", "certain", "conditions", "relating", "the", "risk", "and", "empirical", "risk", ".", "Nonetheless", ",", "learning", "from", "partially", "labeled", "data", "has", "enjoyed", "great", "success", "in", "many", "theoretical", "and", "empirical", "studies", "-LSB-", "16", ";", "42", ";", "44", ";", "43", "-RSB-", ".", "We", "are", "especially", "interested", "in", "partially", "labeled", "learning", "as", "an", "approach", "to", "the", "low-level", "microarray", "analysis", "problems", "discussed", "in", "Sections", "3", "5", ",", "where", "we", "have", "relatively", "few", "labeled", "examples", "but", "an", "abundant", "source", "of", "unlabeled", "data", ".", "-LSB-", "45", "-RSB-", "is", "a", "recent", "example", "of", "partially", "labeled", "learning", "applied", "to", "high-level", "microarray", "analysis", ".", "There", ",", "the", "problem", "of", "predicting", "gene", "function", "is", "tackled", "using", "a", "semi-supervised", "scheme", "trained", "on", "a", "two-component", "dataset", "of", "DNA", "microarray", "expression", "profiles", "and", "phylogenetic", "profiles", "from", "whole-genome", "sequence", "comparisons", ".", "This", "leads", "us", "to", "the", "next", "relevant", "idea", "from", "machine", "learning", ".", "2.2", "Learning", "from", "Heterogeneous", "Data", "Learning", "from", "heterogeneous", "data", "is", "the", "process", "of", "learning", "from", "training", "data", ",", "labeled", "or", "not", ",", "that", "can", "be", "partitioned", "into", "subsets", ",", "each", "of", "which", "contains", "a", "different", "type", "of", "data", "structure", "or", "originates", "from", "a", "different", "source", ".", "This", "notion", "is", "equivalent", "to", "the", "methods", "of", "data", "fusion", "-LSB-", "5", "-RSB-", ".", "Research", "into", "learning", "from", "heterogeneous", "data", "tends", "to", "be", "quite", "domain-specific", "and", "has", "enjoyed", "increasing", "interest", "from", "the", "bioinformatics", "community", "in", "particular", "-LRB-", "e.g.", ",", "-LSB-", "18", "-RSB-", "-RRB-", ".", "-LSB-", "46", "-RSB-", "presents", "a", "kernel-based", "framework", "for", "learning", "from", "heterogeneous", "descriptions", "of", "a", "collection", "of", "genes", ",", "proteins", "or", "other", "entities", ".", "The", "authors", "demonstrate", "the", "method", "'s", "superiority", "to", "the", "homogeneous", "case", "on", "the", "problem", "of", "predicting", "yeast", "protein", "function", "using", "knowledge", "of", "amino", "acid", "sequence", ",", "protein", "complex", "data", ",", "gene", "expression", "data", ",", "and", "known", "protein-protein", "interactions", ".", "SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "131", "-LSB-", "37", "-RSB-", "proposes", "an", "SVM", "method", "for", "classifying", "gene", "function", "from", "microarray", "expression", "estimates", "and", "phylogenetic", "profiles", ".", "This", "is", "achieved", "through", "the", "construction", "of", "an", "explicitly", "heterogeneous", "kernel", ":", "first", "separate", "kernels", "are", "constructed", "for", "each", "data", "type", ",", "taking", "into", "account", "high-order", "within-type", "correlations", ",", "then", "these", "kernels", "are", "combined", ",", "ignoring", "high-order", "across-type", "correlations", ".", "Our", "interest", "in", "learning", "from", "heterogeneous", "data", "arises", "because", "several", "sources", "of", "knowledge", "relevant", "to", "low-level", "microarray", "analysis", "are", "available", ",", "and", "incorporating", "such", "problem", "domain", "knowledge", "has", "been", "shown", "to", "improve", "the", "performance", "of", "learning", "algorithms", "in", "the", "past", ".", "2.3", "Incremental", "Learning", "Incremental", "learning", "is", "focused", "on", "learning", "from", "data", "presented", "sequentially", ",", "where", "the", "model", "may", "be", "required", "to", "make", "predictions", "on", "unseen", "data", "during", "training", ".", "This", "is", "in", "contrast", "to", "cases", "where", "all", "training", "occurs", "before", "any", "predictions", "are", "made", "-LRB-", "batch", "learning", "-RRB-", ",", "and", "is", "similar", "to", "online", "learning", "-LSB-", "24", "-RSB-", ".", "A", "number", "of", "incremental", "learning", "algorithms", "have", "been", "proposed", "and", "applied", "in", "the", "literature", ".", "For", "example", ",", "several", "incremental", "support", "vector", "machines", "have", "been", "studied", "-LSB-", "24", ";", "21", ";", "47", "-RSB-", ".", "In", "-LSB-", "48", "-RSB-", ",", "incremental", "learning", "is", "applied", "to", "distributed", "video", "surveillance", ".", "SVM", "algorithm", "parameter", "selection", "is", "investigated", "in", "-LSB-", "47", "-RSB-", ".", "-LSB-", "21", "-RSB-", "applies", "an", "incremental", "SVM", "to", "detecting", "concept", "drift", "the", "problem", "of", "varying", "distributions", "over", "long", "periods", "of", "data", "gathering", "and", "to", "adaptive", "classification", "of", "documents", "with", "respect", "to", "user", "interest", ".", "An", "exact", "incremental", "SVM", "is", "proposed", "in", "-LSB-", "24", "-RSB-", ",", "where", "decremental", "unlearning", "of", "incremental", "training", "data", "is", "possible", ".", "This", "can", "be", "used", "to", "efficiently", "evaluate", "the", "computationally-expensive", "leave-one-out", "error", "measure", ".", "Due", "to", "the", "relatively", "small", "sizes", "of", "datasets", "typically", "available", "in", "low-level", "microarray", "analysis", ",", "there", "is", "great", "potential", "for", "learners", "that", "can", "incrementally", "incorporate", "new", "data", "gathered", "in", "the", "lab", ",", "thereby", "improving", "estimator", "performance", "specific", "to", "that", "lab", "'s", "patterns", "of", "microarray", "assay", ".", "The", "most", "successful", "application", "of", "DNA", "microarray", "technology", "to", "date", "has", "been", "to", "gene", "expression", "analysis", ".", "Tra-ditionally", ",", "this", "has", "involved", "estimating", "gene", "expression", "levels", "-LRB-", "Section", "3.1", "-RRB-", ",", "an", "area", "that", "is", "being", "addressed", "through", "successful", "statistical", "methods", "and", "active", "statistics", "research", ".", "However", ",", "the", "task", "of", "determining", "transcription", "activity", "over", "entire", "chromosomes", "-LRB-", "Section", "3.2", "-RRB-", "is", "less", "well", "developed", "and", "offers", "serious", "opportunities", "for", "machine", "learning", ".", "3.1", "Gene", "Expression", "Monitoring", "3.1.1", "The", "Problem", "Traditional", "microarrays", "measure", "mRNA", "target", "abundance", "using", "the", "scanned", "intensities", "of", "fluorescence", "from", "tagged", "molecules", "hybridized", "to", "substrate-attached", "probes", "-LSB-", "29", "-RSB-", ".", "The", "brighter", "the", "intensity", "within", "a", "cell", "of", "identical", "probes", ",", "the", "more", "hybridization", "there", "has", "been", "to", "those", "probes", "-LRB-", "Figure", "2a", "-RRB-", ".", "The", "scanned", "intensity", ",", "then", ",", "roughly", "corresponds", "to", "target", "abundance", ".", "Since", "probes", "are", "limited", "in", "length", "while", "targets", "may", "be", "thousands", "of", "bases", "long", ",", "the", "GeneChip", "uses", "a", "set", "of", "probes", "to", "detect", "each", "target", "nucleic", "acid", ".", "The", "probes", "are", "spread", "out", "Figure", "2", ":", "Probe-level", "features", "for", "expression", "level", "summarization", ":", "-LRB-", "a", "-RRB-", "a", "cell", "of", "probes", ";", "-LRB-", "b", "-RRB-", "target", "transcript", ",", "perfect", "match", "probe", "and", "mis-match", "probe", "sequences", ";", "and", "-LRB-", "c", "-RRB-", "scanned", "and", "image-analyzed", "probe-level", "intensities", ".", "along", "a", "600", "base", "pair", "region", "close", "to", "the", "3", "'", "end", "of", "the", "transcript", ".", "To", "measure", "the", "effects", "of", "cross-hybridization", ",", "or", "un-intended", "hybridization", "of", "target", "A", "to", "the", "probes", "intended", "for", "target", "B", ",", "a", "system", "of", "probe", "pairs", "is", "used", ".", "In", "each", "pair", ",", "a", "perfect", "match", "-LRB-", "PM", "-RRB-", "probe", "contains", "the", "target", "'s", "exact", "complementary", "sequence", ",", "while", "a", "mismatch", "-LRB-", "MM", "-RRB-", "probe", "replaces", "the", "middle", "base", "of", "the", "perfect", "match", "probe", "with", "its", "Watson-Crick", "complement", ".", "In", "this", "way", ",", "a", "target", "is", "probed", "by", "a", "probe", "set", "of", "11-20", "PM-MM", "probe", "pairs", ".", "The", "aim", "is", "roughly", "for", "the", "PMs", "to", "measure", "signal", "plus", "noise", "and", "for", "the", "MMs", "to", "measure", "just", "noise", ",", "so", "that", "the", "signal", "is", "revealed", "using", "some", "function", "of", "-LRB-", "PM", "-", "MM", "-RRB-", ".", "Figure", "2b", "depicts", "the", "probe", "set", "arrangement", ",", "while", "Figure", "2c", "gives", "an", "example", "of", "the", "scanned", "intensities", ".", "We", "may", "now", "define", "the", "expression", "level", "summarization", "problem", ".", "Low-level", "Problem", "1", ".", "Given", "a", "probe", "set", "'s", "intensities", "-LRB-", "possibly", "after", "background", "correction", "and", "normalization", "-RRB-", ",", "the", "expression", "level", "summarization", "problem", "is", "to", "estimate", "the", "amount", "of", "target", "transcript", "present", "in", "the", "sample", ".", "While", "the", "expression", "level", "summary", "aims", "to", "estimate", "gene", "expression", "level", "from", "the", "features", "of", "Figure", "2", ",", "expression", "detection", "is", "concerned", "with", "determining", "the", "presence", "of", "any", "gene", "expression", "at", "all", ".", "Low-level", "Problem", "2", ".", "Given", "a", "probe", "set", "'s", "intensities", ",", "possibly", "normalized", ",", "the", "expression", "detection", "problem", "is", "to", "predict", "whether", "the", "target", "transcript", "is", "present", "-LRB-", "P", "-RRB-", "or", "absent", "-LRB-", "A", "-RRB-", "in", "the", "sample", ",", "or", "otherwise", "call", "marginal", "-LRB-", "M", "-RRB-", "if", "it", "is", "too", "difficult", "to", "tell", ".", "In", "addition", "to", "the", "P/M/A", "detection", "call", ",", "we", "wish", "to", "state", "a", "confidence", "level", "in", "the", "call", ",", "such", "as", "a", "p-value", ".", "Detection", "calls", "are", "not", "as", "widely", "utilized", "as", "expression", "level", "estimates", ".", "They", "are", "often", "used", ",", "for", "example", ",", "to", "filter", "out", "genes", "with", "negligible", "expression", "before", "performing", "computationally", "-", "expensive", "high-level", "analyses", ",", "such", "as", "clustering", "on", "gene", "expression", "profiles", ".", "SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "132", "The", "previous", "two", "problems", "dealt", "with", "estimates", "based", "on", "a", "single", "probe-set", "read", "from", "a", "single", "array", ".", "Comparative", "studies", ",", "on", "the", "other", "hand", ",", "involve", "assaying", "two", "arrays", ",", "one", "the", "baseline", "and", "the", "other", "the", "experiment", ",", "followed", "by", "computation", "of", "a", "single", "comparative", "estimate", ".", "Low-level", "Problem", "3", ".", "Given", "two", "sets", "of", "intensities", ",", "possibly", "normalized", ",", "for", "the", "same", "probe", "set", "on", "two", "arrays", ":", "a", ".", "The", "differential", "expression", "level", "summarization", "problem", "is", "to", "estimate", "the", "relative", "abundance", "of", "target", "transcript", "on", "each", "array", ".", "b", ".", "The", "comparison", "call", "problem", "is", "to", "predict", "whether", "the", "expression", "of", "the", "target", "has", "increased", ",", "not", "changed", ",", "or", "decreased", "from", "one", "chip", "to", "the", "other", ".", "As", "in", "Low-level", "Problem", "2", ",", "a", "statement", "of", "confidence", "in", "the", "call", "should", "be", "supplied", ".", "The", "log-ratio", "of", "expression", "levels", "for", "a", "target", "is", "sometimes", "known", "as", "the", "relative", "expression", "level", "-LSB-", "3", "-RSB-", "and", "is", "closely", "related", "to", "the", "notion", "of", "fold", "change", "-LRB-", "which", "is", "sign", "-LRB-", "log-ratio", "-RRB-", "2log-ratio", "-RRB-", ".", "Comparison", "calls", "are", "sometimes", "referred", "to", "as", "change", "calls", ".", "An", "advantage", "of", "working", "with", "these", "comparative", "estimates", "is", "that", "probe-specific", "affinities", "-LRB-", "one", "cause", "of", "undesired", "variation", "-RRB-", "are", "approximately", "cancelled", "out", "by", "taking", "ratios", "-LSB-", "3", "-RSB-", ".", "All", "of", "these", "problems", "are", "complicated", "by", "exogenous", "sources", "of", "variation", "which", "cloud", "the", "quantities", "we", "are", "interested", "in", ".", "-LSB-", "49", "-RSB-", "proposes", "a", "breakdown", "of", "the", "sources", "of", "variation", "in", "microarray", "experiments", "into", "intrinsic", "noise", "-LRB-", "variation", "inherent", "in", "the", "experiment", "'s", "subjects", "-RRB-", ",", "intermediate", "noise", "-LRB-", "arising", "for", "example", "from", "laboratory", "procedures", "-RRB-", ",", "and", "measurement", "error", "-LRB-", "variation", "due", "to", "the", "instrumentation", ",", "such", "as", "array", "manufacture", ",", "scanning", ",", "or", "in", "silico", "processing", "-RRB-", ".", "3.1.2", "Current", "Approaches", "At", "the", "level", "of", "microarray", "design", ",", "sophisticated", "probe", "modeling", "and", "combinatorial", "techniques", "are", "used", "to", "reduce", "probe-specific", "effects", "and", "cross-hybridization", ".", "However", ",", "much", "of", "the", "unwanted", "variation", "identified", "above", "must", "still", "be", "tackled", "during", "low-level", "analysis", ".", "This", "means", "that", "care", "must", "be", "taken", "with", "the", "relevant", "statistical", "issues", ".", "For", "example", ",", "in", "experimental", "design", ",", "we", "must", "trade", "off", "between", "biological", "replicates", "-LRB-", "across", "samples", "-RRB-", "and", "technical", "replicates", "-LRB-", "one", "sample", "across", "chips", "-RRB-", ".", "Background", "correction", "and", "normalization", ",", "for", "reducing", "systematic", "variation", "within", "and", "across", "replicate", "arrays", ",", "also", "surface", "as", "major", "considerations", "-LSB-", "19", ";", "11", "-RSB-", ".", "Three", "popular", "approaches", "to", "Low-level", "Problem", "1", "-LSB-", "11", "-RSB-", "are", "the", "Affymetrix", "microarray", "suite", "-LRB-", "MAS", "-RRB-", "5.0", "signal", "measure", "-LSB-", "14", ";", "3", ";", "1", "-RSB-", ",", "the", "robust", "multi-array", "average", "-LRB-", "RMA", "-RRB-", "-LSB-", "50", ";", "11", "-RSB-", "and", "the", "model-based", "expression", "index", "-LRB-", "MBEI", "-RRB-", "-LSB-", "51", "-RSB-", ".", "MAS5", "first", "performs", "background", "correction", "by", "subtracting", "a", "background", "estimate", "for", "each", "cell", ",", "computed", "by", "partitioning", "the", "array", "into", "rectangular", "zones", "and", "setting", "the", "background", "of", "each", "zone", "to", "that", "zone", "'s", "second-percentile", "intensity", ".", "Next", "MAS5", "subtracts", "an", "``", "ideal", "mismatch", "value", "''", "from", "each", "PM", "intensity", "and", "log-transforms", "the", "adjusted", "PMs", "to", "stabilize", "the", "variance", ".", "A", "robust", "mean", "is", "computed", "for", "the", "resulting", "values", "using", "a", "biweight", "estimator", ",", "and", "finally", "this", "value", "is", "scaled", "using", "a", "trimmed", "mean", "to", "produce", "the", "signal", "estimate", ".", "RMA", "proceeds", "by", "first", "performing", "quantile", "normalization", "-LSB-", "52", "-RSB-", ",", "which", "puts", "the", "probe", "intensity", "distributions", "across", "replicate", "arrays", "on", "the", "same", "scale", ".", "RMA", "then", "models", "the", "PMs", "Figure", "3", ":", "An", "ROC", "curve", ":", "-LRB-", "0", ",", "0", "-RRB-", "and", "-LRB-", "1", ",", "1", "-RRB-", "correspond", "to", "the", "``", "always", "negative", "''", "and", "``", "always", "positive", "''", "classifiers", "respectively", ".", "The", "closer", "to", "the", "ideal", "point", "-LRB-", "0", ",", "1", "-RRB-", "the", "better", ".", "Neither", "of", "the", "two", "families", "A", "or", "B", "dominates", "the", "other", ".", "Instead", ",", "one", "or", "the", "other", "is", "better", "according", "to", "the", "desired", "trade-off", "between", "FP", "and", "TP", ".", "as", "background", "plus", "signal", ",", "where", "the", "signal", "is", "exponentially", "and", "the", "background", "normally", "distributed", "MM", "intensities", "are", "not", "used", "in", "RMA", ".", "A", "robust", "additive", "model", "is", "used", "to", "model", "the", "PM", "signal", "-LRB-", "in", "log-space", "-RRB-", "as", "the", "sum", "of", "the", "log", "scale", "expression", "level", ",", "a", "probe", "affinity", "effect", ",", "and", "an", "i.i.d.", "error", "term", ".", "Finally", ",", "median", "polish", "estimates", "the", "model", "parameters", "and", "produces", "the", "log-scale", "expression", "level", "summary", ".", "MBEI", "fits", "P", "M", "i", ",", "j", "-", "M", "M", "i", ",", "j", "=", "i", "j", "+", "i", ",", "j", ",", "using", "maximum", "likelihood", "to", "estimate", "the", "per-gene", "expression", "levels", "i", ".", "Here", "the", "j", "are", "probe-specific", "affinities", "and", "the", "i", ",", "j", "are", "i.i.d.", "normal", "errors", ".", "Although", "it", "may", "seem", "that", "expression", "detection", "is", "just", "a", "matter", "of", "thresholding", "expression", "level", "estimates", ",", "this", "has", "proven", "not", "to", "be", "the", "case", "-LSB-", "53", "-RSB-", ".", "It", "is", "known", "that", "expression", "level", "estimators", "often", "have", "difficulty", "at", "low", "levels", "of", "expression", ",", "while", "detection", "algorithms", "are", "designed", "with", "this", "setting", "in", "mind", ".", "The", "most", "widely", "used", "detection", "algorithm", "for", "the", "GeneChip", "is", "a", "method", "based", "on", "a", "Wilcoxon", "signed-rank", "test", "-LSB-", "54", ";", "3", ";", "55", "-RSB-", ".", "This", "algorithm", "corresponds", "to", "a", "hypothesis", "test", "of", "H", "0", ":", "median", "-LRB-", "P", "M", "i", "-", "M", "M", "i", "P", "M", "i", "+", "M", "M", "i", "-RRB-", "=", "versus", "H", "1", ":", "median", "-LRB-", "P", "M", "i", "-", "M", "M", "i", "P", "M", "i", "+", "M", "M", "i", "-RRB-", ">", ",", "where", "is", "a", "small", "positive", "constant", ".", "These", "hypotheses", "correspond", "to", "absence", "and", "presence", "of", "expression", ",", "respectively", ".", "The", "test", "is", "conducted", "using", "a", "p-value", "for", "a", "sum", "of", "signed", "ranks", "R", "i", "=", "P", "M", "i", "-", "M", "M", "i", "P", "M", "i", "+", "M", "M", "i", "-", ".", "The", "p-value", "is", "thresholded", "so", "that", "values", "in", "-LSB-", "0", ",", "1", "-RRB-", ",", "-LSB-", "1", ",", "2", "-RRB-", ",", "and", "-LSB-", "2", ",", "1", "-RSB-", "result", "in", "present", ",", "marginal", ",", "and", "absent", "calls", ",", "respectively", ".", "Here", "0", "<", "1", "<", "2", "<", "0.5", "control", "the", "trade-off", "between", "false", "positives", "-LRB-", "FP", "-RRB-", "and", "true", "positives", "-LRB-", "TP", "-RRB-", ".", "Recently", ",", "a", "number", "of", "alternate", "rank", "sum-based", "algorithms", "have", "been", "proposed", "-LSB-", "53", "-RSB-", ".", "One", "in", "particular", "a", "variant", "on", "the", "MAS5", "method", "where", "scores", "are", "set", "to", "R", "i", "=", "log", "P", "M", "i", "M", "M", "i", "has", "been", "shown", "to", "outperform", "MAS5", "detection", "in", "a", "range", "of", "real-world", "situations", ".", "One", "aspect", "of", "the", "study", "in", "-LSB-", "53", "-RSB-", "of", "particular", "interest", "is", "the", "use", "of", "the", "Receiver", "Operating", "Characteristic", "-LRB-", "ROC", "-RRB-", "Convex", "Hull", "method", "-LSB-", "56", "-RSB-", "for", "comparing", "competing", "classifiers", "on", "a", "spike-in", "test", "set", ".", "ROC", "curves", "-LRB-", "see", "Figure", "3", "-RRB-", "characterize", "the", "classification", "performance", "of", "a", "family", "of", "classifiers", "parameterized", "by", "a", "tun-SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "133", "able", "parameter", "that", "controls", "the", "FP-TP", "trade-off", ".", "For", "example", ",", "as", "the", "level", "of", "a", "hypothesis", "test", "is", "decreased", ",", "the", "rate", "of", "false", "positive", "rejections", "decreases", "-LRB-", "by", "definition", "-RRB-", ",", "while", "the", "rate", "of", "false", "negative", "acceptances", "will", "typically", "go", "up", ".", "An", "ROC", "curve", "encodes", "this", "trade-off", ",", "extending", "the", "notion", "of", "contingency", "table", "to", "an", "entire", "curve", ".", "It", "is", "a", "more", "expressive", "object", "than", "accuracy", ",", "which", "boils", "performance", "down", "to", "one", "number", "-LSB-", "56", ";", "57", "-RSB-", ".", "Comparing", "ROC", "curves", "has", "traditionally", "been", "achieved", "by", "either", "choosing", "the", "``", "clear", "winner", "''", "-LRB-", "in", "the", "rare", "case", "of", "domination", "-LSB-", "57", "-RSB-", "-RRB-", ",", "or", "choosing", "the", "maximizer", "of", "the", "Area", "Under", "Curve", "-LRB-", "AUC", "-RRB-", ".", "Although", "AUC", "works", "in", "some", "cases", ",", "it", "gives", "equal", "credit", "to", "performance", "over", "all", "misclassification", "cost", "and", "class", "size", "settings", "usually", "an", "undesirable", "strategy", "if", "any", "domain", "knowledge", "is", "available", ".", "The", "ROC", "Convex", "Hull", "method", ",", "on", "the", "other", "hand", ",", "relates", "expected-cost", "optimality", "to", "conditions", "on", "relative", "misclassification", "cost", "and", "class", "size", ",", "so", "that", "the", "typical", "case", "of", "semi-dominance", "-LRB-", "as", "in", "Figure", "3", "-RRB-", "can", "be", "handled", "in", "a", "principled", "way", "rather", "than", "selecting", "p-value", "thresholds", "by", "hand", ",", "end-users", "are", "provided", "with", "the", "right", "classifier", "and", "thresholds", "by", "the", "method", ".", "This", "use", "of", "the", "ROCCH", "method", "demonstrates", "a", "surprising", "application", "of", "machine", "learning", "to", "low-level", "microarray", "analysis", ".", "Many", "of", "these", "absolute", "expression", "algorithms", "have", "their", "comparative", "analogues", ".", "For", "example", ",", "MAS5", "produces", "the", "signal", "log", "ratio", "with", "an", "associated", "confidence", "interval", ",", "using", "a", "biweight", "algorithm", "-LSB-", "14", ";", "3", "-RSB-", ".", "MAS5", "also", "implements", "a", "comparison", "call", "based", "on", "the", "Wilcoxon", "signed-rank", "sum", "test", ",", "just", "as", "in", "the", "absolute", "MAS5", "detection", "algorithm", "above", "-LSB-", "55", "-RSB-", ".", "While", "the", "Affymetrix", "microarray", "suite", "is", "the", "software", "package", "bundled", "with", "the", "GeneChip", ",", "the", "Bioconductor", "project", "-LSB-", "15", "-RSB-", "an", "open-source", "set", "of", "R", "-LSB-", "12", "-RSB-", "packages", "for", "bioinformatics", "data", "analysis", "has", "been", "gaining", "popularity", "and", "implements", "most", "of", "the", "methods", "discussed", "here", ".", "3.1.3", "Open", "Problems", "While", "Low-level", "Problem", "1", "involves", "prediction", "of", "continuous", "expression", "levels", "-LRB-", "non-negative", "real", "values", "-RRB-", "given", "a", "vector", "of", "-LRB-", "non-negative", "real", "-RRB-", "perfect", "match", "and", "mismatch", "intensities", ",", "with", "total", "length", "between", "22", "and", "40", ",", "Low-level", "Problem", "2", "is", "a", "3-class", "classification", "problem", "with", "call", "confidence", "levels", ".", "Open", "Problem", "1", ".", "In", "the", "respective", "settings", "of", "Low-level", "Problems", "1", "3", ":", "a", ".", "What", "machine", "learning", "techniques", "are", "competitive", "with", "algorithms", "based", "on", "classical", "statistical", "methods", "for", "expression", "level", "estimation", "?", "b.", "Which", "machine", "learning", "classifiers", "are", "competitive", "for", "expression", "detection", "?", "c", ".", "What", "machine", "learning", "methods", "achieve", "high", "performance", "on", "the", "comparative", "analogues", "of", "the", "previous", "two", "problems", ",", "posed", "on", "the", "appropriate", "product", "space", "of", "microarray", "measurements", "?", "Comparisons", "for", "expression", "level", "estimators", "might", "be", "made", "based", "on", "bias", "and", "variance", ",", "computational", "efficiency", ",", "and", "biological", "relevance", "of", "learned", "models", ".", "The", "ROCCH", "method", "is", "ideal", "for", "detector", "comparison", ".", "Issues", "of", "background", "correction", "and", "normalization", "across", "multiple", "arrays", "must", "likely", "also", "be", "addressed", "to", "enable", "competitiveness", "with", "the", "state", "of", "the", "art", ".", "Research", "into", "applying", "semi-supervised", ",", "heterogeneous", "data", "and", "incremental", "learners", "to", "gene", "expression", "monitoring", "is", "directly", "motivated", "by", "the", "proportion", "of", "labeled", "to", "unlabeled", "data", "available", ",", "the", "existence", "of", "GeneChip", "domain", "knowledge", ",", "and", "the", "endemic", "nature", "of", "microarray", "assays", "that", "are", "continually", "performed", "in", "individual", "research", "labs", ".", "Biologists", "could", "augment", "the", "limited", "labeled", "probe-level", "data", "available", "with", "relatively", "abundant", "unlabeled", "data", ".", "Labeled", "data", "can", "be", "procured", ",", "for", "example", ",", "from", "bacterial", "control", "experiments", "with", "known", "concentrations", ",", "called", "spike-in", "assays", ",", "and", "bacterial", "control", "probe", "sets", "that", "are", "present", "in", "some", "GeneChips", "for", "calibration", "purposes", ".", "The", "former", "source", "of", "labeled", "data", "is", "the", "more", "useful", "for", "this", "problem", ",", "as", "it", "provides", "examples", "with", "a", "range", "of", "labels", ".", "Unfortunately", ",", "spike-in", "studies", "are", "rare", "because", "they", "are", "not", "of", "independent", "scientific", "interest", ":", "they", "are", "only", "performed", "for", "low-level", "microarray", "research", ".", "For", "the", "few", "spike-in", "assays", "that", "are", "available", ",", "only", "a", "small", "number", "of", "targets", "are", "spiked", "in", "at", "an", "equally", "small", "number", "of", "concentrations", "-LRB-", "typically", "10", "-RRB-", ".", "Unlabeled", "data", ",", "in", "contrast", ",", "could", "be", "taken", "from", "the", "large", "collection", "of", "available", "biologically", "relevant", "assays", ";", "each", "one", "providing", "tens", "of", "thousands", "of", "data", "points", ".", "Beyond", "probe", "intensities", ",", "other", "data", "sources", "could", "include", "probe", "sequences", "and", "probe-affinity", "information", "derived", "from", "probe", "models", ".", "Such", "information", "is", "closely", "related", "to", "the", "hybridization", "process", "and", "might", "be", "of", "use", "in", "expression", "level", "estimation", ":", "both", "target", "and", "non-specific", "hybridization", "are", "known", "to", "be", "probe-dependent", ".", "Although", "labeled", "data", "from", "spike-in", "studies", "are", "of", "greatest", "utility", "for", "learning", "-LSB-", "10", "-RSB-", ",", "the", "quantity", "of", "unlabeled", "data", "produced", "by", "a", "series", "of", "biologically", "interesting", "microarray", "assays", "in", "any", "given", "lab", "suggests", "a", "semi-supervised", "incremental", "approach", ".", "Since", "the", "ROCCH", "involves", "taking", "a", "pointwise", "maximum", "over", "the", "individual", "noisy", "ROC", "curves", ",", "it", "incorporates", "a", "possibly", "large", "degree", "of", "uncertainty", ".", "It", "should", "be", "possible", "to", "extend", "the", "results", "of", "-LSB-", "53", "-RSB-", "to", "quantify", "this", "property", ".", "Open", "Problem", "2", ".", "Can", "the", "ROC", "Convex", "Hull", "method", "of", "-LSB-", "56", "-RSB-", "be", "extended", "to", "provide", "confidence", "intervals", "for", "its", "conditions", "on", "expected-cost", "optimality", "?", "3.2", "Transcript", "Discovery", "3.2.1", "The", "Problem", "The", "applications", "to", "expression", "monitoring", "described", "above", "are", "all", "related", "to", "addressing", "questions", "about", "pre-defined", "transcripts", ".", "More", "precisely", ",", "the", "vast", "majority", "of", "expression", "analysis", "is", "performed", "using", "probes", "interrogating", "only", "a", "small", "sub-sequence", "of", "each", "transcript", ".", "This", "has", "clearly", "been", "a", "useful", "approach", ",", "but", "there", "are", "at", "least", "two", "potential", "drawbacks", ".", "One", "is", "that", "we", "can", "only", "monitor", "the", "expression", "of", "genes", "known", "to", "exist", "at", "the", "time", "of", "the", "array", "'s", "design", ".", "Even", "in", "a", "genome", "as", "well-studied", "as", "that", "of", "the", "human", ",", "new", "transcripts", "are", "routinely", "discovered", ".", "Another", "is", "that", "in", "directly", "monitoring", "only", "a", "sub-sequence", "of", "the", "transcript", ",", "it", "will", "often", "be", "impossible", "to", "distinguish", "between", "alternatively", "spliced", "forms", "of", "the", "same", "gene", "-LRB-", "which", "may", "have", "very", "different", "functional", "roles", "-RRB-", ".", "An", "alternative", "approach", "is", "to", "use", "arrays", "with", "probes", "tiled", "uniformly", "across", "genomic", "sequence", ",", "without", "regard", "to", "current", "knowledge", "of", "transcription", ".", "Such", "genome", "tiling", "arrays", "have", "been", "used", "to", "monitor", "expression", "in", "all", "the", "non-repetitive", "sequence", "of", "human", "chromosomes", "21", "and", "22", "-LSB-", "34", "-RSB-", ",", "and", "more", "widespread", "use", "is", "underway", ".", "SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "134", "The", "problems", "arising", "in", "the", "analysis", "of", "data", "from", "genome", "tiling", "arrays", "are", "essentially", "the", "same", "as", "those", "for", "the", "expression", "monitoring", "arrays", "described", "above", ":", "estimation", "of", "expression", "level", ",", "detection", "of", "presence", ",", "and", "detection", "of", "differential", "expression", ".", "There", "is", ",", "however", ",", "the", "additional", "challenge", "of", "determining", "the", "number", "of", "distinct", "transcripts", "and", "their", "location", "within", "the", "tiled", "genomic", "region", ".", "Low-level", "Problem", "4", ".", "The", "problem", "of", "transcript", "discovery", "can", "be", "viewed", "in", "two", "steps", ":", "a.", "Determining", "the", "exon", "structure", "of", "genes", "within", "a", "tiled", "region", ";", "and", "b.", "Determining", "which", "exons", "should", "be", "classified", "together", "as", "part", "of", "a", "single", "gene", "'s", "transcript", ".", "3.2.2", "Current", "Approaches", "A", "simple", "heuristic", "approach", "is", "taken", "in", "-LSB-", "34", "-RSB-", ",", "in", "which", "PM-MM", "probe", "pairs", "are", "classified", "as", "positive", "or", "negative", "based", "on", "thresholds", "applied", "to", "the", "difference", "and", "ratio", "of", "the", "PM", "and", "MM", "values", ".", "Positions", "classified", "as", "positive", "and", "located", "close", "to", "other", "positive", "positions", "are", "grouped", "together", "to", "form", "predicted", "exons", ".", "A", "more", "effective", "approach", "-LSB-", "58", "-RSB-", "is", "based", "on", "the", "application", "of", "a", "Wilcoxon", "signed-rank", "test", "in", "a", "sliding", "window", "along", "the", "genomic", "sequence", ",", "using", "the", "associated", "Hodges-Lehmann", "estimator", "for", "estimation", "of", "expression", "level", ".", "Grouping", "into", "exons", "is", "achieved", "by", "thresholding", "on", "present", "call", "p-values", "or", "estimated", "expression", "level", ",", "then", "defining", "groups", "of", "probes", "exceeding", "the", "threshold", "to", "be", "exons", ".", "3.2.3", "Open", "Problems", "The", "problem", "of", "detecting", "exons", "based", "on", "probe", "intensities", "-LRB-", "Low-level", "Problem", "4a", "-RRB-", "is", "very", "similar", "to", "the", "problem", "of", "absolute", "expression", "detection", "-LRB-", "Low-level", "Problem", "2", "-RRB-", ".", "For", "example", ",", "the", "exon", "detection", "method", "of", "-LSB-", "58", "-RSB-", "and", "the", "MAS5", "expression", "detection", "algorithm", "-LSB-", "55", "-RSB-", "are", "both", "built", "around", "the", "Wilcoxon", "signed-rank", "test", ".", "The", "problem", "of", "finding", "exons", "has", "been", "addressed", "as", "described", ",", "but", "the", "methods", "are", "heuristic", "and", "there", "is", "plenty", "of", "room", "for", "improvement", ".", "Associating", "exons", "to", "form", "transcripts", "-LRB-", "Low-level", "Problem", "4b", "-RRB-", "has", "been", "addressed", "in", "a", "large", "experiment", "across", "almost", "70", "experimental", "pairs", "using", "a", "heuristic", "correlation-based", "method", ";", "again", ",", "this", "presents", "an", "opportunity", "for", "research", "into", "more", "effective", "methods", ".", "Open", "Problem", "3", ".", "Are", "there", "machine", "learning", "methods", "that", "are", "able", "to", "out-perform", "current", "classical", "statistical", "methods", "in", "transcript", "discovery", "as", "defined", "in", "Low-Level", "Problem", "4", "?", "One", "possibility", "which", "appears", "well", "suited", "to", "the", "problem", "is", "the", "use", "of", "hidden", "Markov", "models", "where", "the", "underlying", "un-observed", "Markov", "chain", "is", "over", "states", "representing", "expressed", "versus", "non-expressed", "sequence", ".", "The", "distribution", "of", "the", "observed", "probe", "intensities", "would", "depend", "on", "the", "underlying", "hidden", "state", ".", "Another", "possible", "approach", ",", "considering", "the", "success", "which", "has", "been", "demonstrated", "in", "predicting", "genes", "from", "sequence", "data", "alone", ",", "would", "also", "be", "to", "integrate", "array-derived", "data", "with", "sequence", "information", "in", "prediction", "of", "transcripts", ".", "Descriptions", "of", "genome", "sequencing", "efforts", "such", "as", "the", "human", "genome", "project", "often", "lend", "the", "impression", "that", "there", "is", "a", "unique", "genomic", "sequence", "associated", "with", "each", "species", ".", "This", "is", "a", "useful", "and", "approximately", "correct", "abstraction", ".", "But", "in", "fact", ",", "any", "two", "individuals", "picked", "at", "random", "from", "a", "species", "population", "will", "have", "differing", "nucleotides", "at", "a", "small", "fraction", "of", "the", "corresponding", "positions", "in", "their", "genomes", ".", "Such", "single-nucleotide", "polymorphisms", ",", "or", "SNPs", ",", "help", "form", "the", "basis", "of", "genetically-determined", "variation", "across", "individuals", ".", "Biologists", "estimate", "that", "about", "one", "position", "in", "1,000", "in", "the", "human", "genome", "is", "a", "SNP", ".", "With", "over", "3", "billion", "bases", "of", "genomic", "DNA", ",", "we", "see", "that", "SNPs", "number", "in", "the", "several", "millions", ".", "Although", "there", "are", "other", "kinds", "of", "individual", "genomic", "variation", ",", "such", "as", "insertions", ",", "deletions", ",", "and", "duplications", "of", "DNA", "segments", ",", "our", "focus", "here", "is", "SNPs", ".", "Further", "complicating", "the", "picture", "is", "the", "fact", "that", "humans", "are", "diploid", "organisms", "--", "each", "person", "possesses", "two", "complete", "but", "different", "copies", "of", "the", "human", "genome", ",", "one", "inherited", "from", "the", "mother", "and", "one", "from", "the", "father", ".", "Now", "consider", "a", "polymorphic", "position", ",", "or", "locus", ",", "at", "which", "two", "different", "bases", "occur", "in", "the", "population", ",", "say", "G", "and", "T", ".", "These", "variants", "are", "called", "the", "alleles", "at", "the", "locus", ",", "so", "in", "this", "case", "we", "are", "describing", "a", "biallelic", "SNP", ".", "A", "given", "individual", "will", "have", "inherited", "either", "a", "G", "or", "T", "in", "the", "paternal", "genome", ",", "and", "the", "same", "is", "true", "of", "the", "maternal", "genome", ".", "Thus", "there", "are", "three", "possible", "genotypes", ",", "or", "individual", "genetic", "signatures", ",", "at", "this", "SNP", ":", "they", "are", "de-noted", "GG", ",", "TT", ",", "and", "GT", ".", "We", "do", "not", "distinguish", "the", "last", "case", "from", "TG", ",", "since", "there", "is", "no", "inherent", "ordering", "of", "the", "paternal", "and", "maternal", "genomes", "at", "a", "given", "polymorphic", "position", ".", "We", "refer", "generically", "to", "the", "alleles", "of", "a", "biallelic", "SNP", "as", "A", "and", "B.", "Biological", "evidence", "suggests", "that", "essentially", "all", "SNPs", "are", "biallelic", "in", "humans", ".", "The", "genotyping", "problem", ",", "then", ",", "is", "to", "establish", "an", "individual", "'s", "genotype", "as", "AA", ",", "BB", ",", "or", "AB", "for", "as", "many", "SNPs", "as", "possible", "in", "the", "human", "genome", ".", "The", "completion", "of", "the", "human", "genome", "project", "means", "that", "one", "has", "recourse", "to", "the", "full", "genomic", "sequence", "surrounding", "a", "SNP", "to", "help", "solve", "the", "genotyping", "problem", ".", "Furthermore", ",", "various", "large-scale", "public", "projects", "to", "locate", "SNPs", "and", "identify", "their", "alleles", "exist", ",", "notably", "The", "SNP", "Consortium", "-LRB-", "TSC", "-RRB-", ";", "the", "data", "they", "generate", "may", "also", "be", "utilized", "for", "genotyping", ".", "The", "major", "drawback", "to", "traditional", "genotyping", "protocols", "are", "their", "lack", "of", "parallelism", ",", "with", "consequent", "expense", "in", "terms", "of", "material", "and", "labor", ".", "In", "contrast", ",", "Kennedy", "et", "al.", "-LSB-", "33", "-RSB-", "describe", "whole-genome", "sampling", "analysis", "-LRB-", "WGSA", "-RRB-", ",", "which", "enables", "massively", "parallel", "genotyping", "via", "genotyping", "microarrays", ".", "For", "the", "Affymetrix", "Mapping", "10k", "Array", ",", "which", "genotypes", "approximately", "10,000", "SNPs", "across", "the", "human", "genome", ",", "each", "SNP", "actually", "has", "56", "corresponding", "probes", ",", "collectively", "termed", "a", "miniblock", ".", "The", "miniblock", "has", "7", "probe", "quartets", "for", "the", "SNP", "'s", "flanking", "region", "on", "the", "forward", "strand", "and", "another", "7", "probe", "quartets", "for", "the", "reverse", "complement", "strand", ",", "so", "4", "7", "2", "yields", "56", "probes", ".", "Each", "probe", "quartet", "in", "turn", "corresponds", "to", "a", "25-mer", "in", "which", "the", "SNP", "is", "at", "one", "of", "7", "offsets", "from", "the", "central", "position", ".", "The", "four", "probes", "within", "a", "probe", "quartet", "differ", "in", "the", "base", "they", "put", "at", "the", "SNP", ":", "a", "perfect", "match", "to", "the", "A", "allele", ",", "a", "perfect", "match", "to", "the", "B", "allele", ",", "and", "mismatches", "for", "each", ".", "Low-level", "Problem", "5", ".", "Given", "a", "SNP", "'s", "56-vector", "of", "miniblo-SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "135", "ck", "probe", "intensities", ",", "the", "genotype", "calling", "problem", "is", "to", "predict", "the", "individual", "'s", "corresponding", "alleles", "as", "AA", ",", "BB", "or", "AB", ".", "Write", "PM", "-LRB-", "A", "-RRB-", ",", "PM", "-LRB-", "B", "-RRB-", ",", "MM", "-LRB-", "A", "-RRB-", ",", "and", "MM", "-LRB-", "B", "-RRB-", "for", "the", "probe", "intensities", "within", "a", "quartet", ".", "We", "would", "then", "hope", "that", "an", "AA", "individual", "has", "PM", "-LRB-", "A", "-RRB-", ">", "MM", "-LRB-", "A", "-RRB-", "but", "PM", "-LRB-", "B", "-RRB-", "MM", "-LRB-", "B", "-RRB-", ",", "for", "all", "probe", "quartets", "on", "both", "strands", ".", "For", "a", "BB", "individual", ",", "we", "hope", "to", "find", "just", "the", "opposite", "effect", ",", "and", "an", "AB", "individual", "should", "have", "both", "PM", "-LRB-", "A", "-RRB-", ">", "MM", "-LRB-", "A", "-RRB-", "and", "PM", "-LRB-", "B", "-RRB-", ">", "MM", "-LRB-", "B", "-RRB-", ".", "The", "mismatch", "probes", "in", "each", "quartet", "act", "as", "controls", ",", "establishing", "the", "level", "of", "nonspecific", "hybridization", "for", "their", "corresponding", "perfect", "match", "probes", ".", "The", "presence", "of", "multiple", "probe", "quartets", "allows", "for", "the", "determination", "of", "genotype", "even", "when", "one", "strand", "and/or", "some", "offsets", "do", "not", "yield", "reliable", "hybridization", ",", "say", "for", "biochemical", "reasons", ".", "4.2", "Current", "Approaches", "Low-level", "Problem", "5", "is", "a", "three-class", "classification", "problem", ".", "In", "many", "machine", "learning", "applications", ",", "the", "metric", "of", "interest", "for", "competing", "classifiers", "is", "predictive", "accuracy", ",", "in", "this", "case", "the", "probability", "of", "correctly", "genotyping", "a", "new", "individual", "'s", "SNP", "based", "on", "the", "miniblock", "vector", ".", "However", ",", "in", "the", "kinds", "of", "genetic", "studies", "which", "take", "large", "numbers", "of", "genotypes", "as", "input", ",", "there", "is", "usually", "an", "explicit", "requirement", "that", "genotype", "predictions", "have", "a", "prespecified", "accuracy", ",", "often", "99", "%", ".", "To", "attain", "such", "accuracy", ",", "it", "is", "usually", "permissible", "for", "some", "fraction", "of", "genotypable", "SNPs", "to", "be", "no-calls", ";", "that", "is", ",", "the", "classifier", "can", "refuse", "to", "predict", "a", "genotype", "for", "some", "miniblocks", ".", "When", "comparing", "genotypers", ",", "our", "interest", "therefore", "lies", "in", "the", "trade-off", "between", "the", "rate", "of", "no-calls", "and", "the", "accuracy", "attained", "on", "those", "SNPs", "which", "are", "called", ".", "For", "example", ",", "some", "studies", "consider", "the", "punt", "rate", ",", "or", "lowest", "no-call", "rate", "which", "yields", "a", "prespecified", "accuracy", "level", "on", "the", "called", "SNPs", ".", "A", "simple", "unsupervised", "approach", "to", "training", "a", "genotyper", "is", "to", "ignore", "available", "labels", "during", "training", ",", "instead", "using", "these", "labels", "to", "subsequently", "assess", "the", "trade-off", "between", "accuracy", "and", "no-call", "rate", "for", "the", "trained", "model", ".", "This", "is", "the", "strategy", "pursued", "by", "MPAM", "-LRB-", "modified", "partitioning", "around", "medoids", "-RRB-", "-LSB-", "59", "-RSB-", ",", "the", "discriminative", "clustering", "genotyper", "used", "for", "the", "Affymetrix", "10k", "array", ".", "An", "alternative", "approach", ",", "using", "a", "parametric", "generative", "model", "for", "the", "clustering", ",", "will", "be", "described", "elsewhere", ".", "It", "resembles", "ABACUS", ",", "a", "model", "studied", "in", "the", "context", "of", "re-sequencing", "microarrays", "-LSB-", "31", "-RSB-", "-LRB-", "see", "Section", "5", "-RRB-", ".", "4.3", "Open", "Problems", "Open", "Problem", "4", ".", "Are", "there", "machine", "learning", "methods", "that", "are", "able", "to", "meet", "typical", "accuracy", "and", "punt-rate", "specifications", "on", "the", "genotype", "calling", "problem", "?", "In", "order", "to", "choose", "a", "genotyper", "using", "supervised", "learning", ",", "we", "need", "labels", "-LRB-", "true", "genotypes", "-RRB-", "along", "with", "corresponding", "miniblock", "reads", "from", "genotyping", "arrays", ".", "Unfortunately", ",", "there", "is", "no", "large-scale", "set", "of", "publicly", "available", "genotypes", ".", "Instead", ",", "one", "makes", "do", "with", "modestly-sized", "sets", "of", "genotypes", "available", "commercially", "from", "companies", "using", "smaller-scale", "techniques", ".", "Of", "course", ",", "no", "genotyping", "method", "is", "error-free", ",", "so", "in", "practice", "one", "measures", "concordance", "with", "reference", "genotypes", ".", "If", "the", "concordance", "is", "high", "enough", ",", "the", "remaining", "cases", "of", "disagreement", "between", "a", "candidate", "genotyper", "and", "the", "reference", "genotypes", "can", "be", "resolved", "via", "the", "older", "labor-intensive", "methods", ".", "The", "incomplete", "nature", "of", "reference", "genotype", "data", "leads", "naturally", "to", "the", "setting", "of", "semi-supervised", "learning", ".", "Rather", "than", "falling", "back", "to", "unsupervised", "methods", "such", "as", "those", "described", "above", ",", "we", "may", "consider", "employing", "more", "general", "semi-supervised", "learners", "as", "described", "in", "Section", "2.1", ".", "Additionally", ",", "the", "methods", "of", "-LSB-", "23", "-RSB-", "could", "be", "used", "to", "incorporate", "low-level", "physical", "parametric", "models", "of", "hybridization", "into", "a", "kernel-based", "classifier", ".", "As", "explained", "in", "Section", "4", ",", "within", "a", "single", "species", "genomic", "sequence", "will", "vary", "slightly", "from", "one", "individual", "to", "the", "next", ".", "While", "Low-level", "Problem", "5", "focuses", "on", "the", "determination", "of", "genotype", "at", "a", "position", "known", "in", "advance", "to", "be", "polymorphic", ",", "the", "problem", "described", "in", "this", "section", "concerns", "locating", "such", "polymorphic", "sites", "in", "the", "first", "place", ".", "The", "usual", "starting", "point", "is", "a", "newly-sequenced", "genome", ",", "such", "as", "the", "recently-finished", "human", "genome", ".", "It", "is", "often", "the", "case", "that", ",", "based", "on", "previous", "research", ",", "an", "investigator", "will", "be", "interested", "in", "detailed", "study", "of", "variation", "in", "a", "particular", "genomic", "region", "-LRB-", "say", "on", "the", "order", "of", "tens", "or", "hundreds", "of", "kilo-bases", "-RRB-", "and", "wants", "to", "re-sequence", "this", "region", "in", "a", "large", "number", "of", "individuals", ".", "Such", "re-sequencing", "allows", "for", "identification", "of", "the", "small", "subset", "of", "polymorphic", "locations", ".", "Here", "we", "consider", "the", "more", "recent", "challenges", "of", "microarray-based", "re-sequencing", "of", "diploid", "genomic", "DNA", ".", "A", "typical", "re-sequencing", "array", "uses", "eight", "probes", "to", "interrogate", "each", "base", "of", "the", "monitored", "sequence", ".", "These", "eight", "probes", "comprise", "two", "quartets", ",", "one", "for", "the", "forward", "strand", "and", "one", "for", "the", "reverse", ".", "Each", "quartet", "is", "formed", "of", "25-mer", "probes", "perfectly", "complementary", "to", "the", "25", "bases", "of", "the", "reference", "sequence", "centered", "on", "the", "interrogated", "base", ",", "but", "with", "all", "four", "possible", "bases", "used", "at", "the", "central", "position", ".", "Low-level", "Problem", "6", ".", "The", "goal", "of", "the", "re-sequencing", "problem", "is", "to", "start", "with", "a", "set", "of", "probe", "intensities", "and", "classify", "each", "position", "as", "being", "one", "of", "A", ",", "C", ",", "G", ",", "T", ",", "AC", ",", "AG", ",", "AT", ",", "CG", ",", "CT", ",", "GT", ",", "or", "N", ",", "where", "N", "represents", "a", "`", "no", "call", "'", "-LRB-", "due", "to", "sample", "failure", "or", "ambiguous", "data", "-RRB-", ".", "The", "intuition", "is", "that", "for", "a", "homozygous", "position", ",", "one", "of", "the", "four", "probes", "should", "be", "much", "brighter", "relative", "to", "the", "others", "on", "each", "strand", ",", "and", "for", "a", "heterozygous", "position", ",", "two", "probes", "corresponding", "to", "the", "two", "bases", "of", "a", "SNP", "should", "be", "brighter", "on", "each", "strand", ".", "Of", "particular", "interest", "are", "positions", "in", "which", "the", "called", "base", "is", "heterozygous", ",", "or", "homozygous", "and", "different", "to", "the", "reference", "sequence", ",", "as", "such", "positions", "exhibit", "polymorphism", "and", "are", "candidate", "positions", "for", "explaining", "phenotypic", "differences", "between", "individuals", ".", "At", "face", "value", ",", "this", "classification", "problem", "is", "much", "harder", "than", "the", "genotyping", "problem", ".", "There", "are", "fewer", "probes", "to", "start", "with", "-LRB-", "a", "miniblock", "of", "8", "rather", "than", "40", "or", "more", "-RRB-", "and", "more", "categories", "-LRB-", "11", "as", "opposed", "to", "3", "or", "4", "-RRB-", "into", "which", "to", "classify", ".", "5.2", "Current", "Approaches", "The", "most", "recent", "analysis", "of", "the", "kind", "of", "re-sequencing", "array", "discussed", "here", "-LSB-", "31", "-RSB-", "is", "based", "on", "modeling", "pixel", "intensities", "within", "each", "probe", "as", "independent", "random", "variables", "with", "a", "common", "mean", "and", "variance", ".", "The", "model", "for", "a", "homozygous", "base", "is", "that", ",", "on", "each", "strand", ",", "the", "probe", "correspond-three", "probes", "have", "another", ".", "The", "means", "and", "variance", "are", "estimated", "by", "maximum", "likelihood", ",", "and", "the", "likelihood", "of", "the", "SIGKDD", "Explorations", ".", "ing", "to", "the", "base", "has", "one", "mean", "and", "variance", ",", "and", "the", "other", "Volume", "5", ",", "Issue", "2", "-", "Page", "136", "model", "is", "evaluated", ".", "The", "model", "for", "each", "of", "the", "six", "heterozygous", "possibilities", "is", "similar", ",", "except", "two", "probes", "correspond", "to", "each", "heterozygote", "model", "and", "the", "other", "two", "are", "background", ".", "The", "likelihoods", "-LRB-", "overall", "and", "for", "each", "strand", "-RRB-", "are", "converted", "to", "scores", "and", ",", "provided", "the", "maximum", "score", "exceeds", "some", "threshold", ",", "the", "best-scoring", "model", "is", "chosen", "as", "the", "base", "call", ".", "A", "number", "of", "other", "filters", "that", "deal", "with", "the", "signal", "absence", ",", "signal", "saturation", ",", "sample", "failure", ",", "and", "so", "on", "are", "applied", ",", "as", "is", "an", "iterative", "procedure", "to", "account", "for", "bias", "in", "the", "background", "probes", ".", "This", "method", ",", "called", "ABACUS", ",", "was", "found", "to", "make", "base", "calls", "at", "over", "80", "%", "of", "all", "bases", ",", "with", "an", "estimate", "accuracy", "in", "excess", "of", "99", "%", "at", "the", "bases", "which", "were", "called", ".", "5.3", "Open", "Problems", "A", "good", "base-calling", "method", "for", "re-sequencing", "arrays", "already", "exists", "in", "ABACUS", ",", "but", "there", "remains", "room", "for", "improvement", ".", "A", "recent", "and", "improved", "implementation", "-LSB-", "60", "-RSB-", "of", "the", "ABACUS", "method", "on", "a", "new", "genomic", "region", "found", "the", "overall", "sequencing", "accuracy", "to", "be", "on", "the", "order", "of", "99.998", "%", ",", "but", "the", "accuracy", "on", "heterozygote", "calls", "to", "be", "about", "96.7", "%", ".", "Biologists", "would", "value", "highly", "an", "improvement", "in", "heterozygote", "call", "accuracy", ".", "Open", "Problem", "5", ".", "Can", "a", "supervised", "learning", "method", "be", "used", "to", "call", "bases", "in", "re-sequencing", "arrays", "with", "accuracy", ",", "in", "particular", "heterozygote", "accuracy", ",", "in", "excess", "of", "the", "accuracies", "achieved", "by", "the", "more", "classic", "statistical", "approaches", "used", "to", "date", "?", "Considering", "the", "ongoing", "efforts", "of", "SNP", "detection", "projects", ",", "there", "is", "an", "abundance", "of", "labeled", "data", "available", ",", "so", "the", "problem", "seems", "quite", "amenable", "to", "machine", "learning", "approaches", ".", "As", "with", "the", "genotyping", "problem", ",", "it", "would", "be", "desirable", "to", "have", "a", "measure", "of", "confidence", "associated", "with", "base", "calls", ".", "It", "may", "also", "be", "useful", "to", "take", "into", "account", "the", "sequences", "of", "the", "25-mer", "probes", ",", "as", "there", "are", "known", "sequence-specific", "effects", "on", "the", "probe", "intensities", ".", "We", "have", "described", "a", "variety", "of", "low-level", "problems", "in", "microarray", "data", "analysis", "and", "suggested", "the", "applicability", "of", "methods", "from", "several", "areas", "of", "machine", "learning", ".", "Some", "properties", "of", "these", "problems", "which", "should", "be", "familiar", "to", "machine", "learning", "researchers", "include", "high-dimensional", "observations", "with", "complicated", "joint", "dependencies", "-LRB-", "probe", "intensities", "-RRB-", ",", "partially", "labeled", "data", "sets", "-LRB-", "expression", "levels", ",", "genotypes", "-RRB-", ",", "data", "from", "disparate", "domains", "-LRB-", "microarray", "assays", ",", "probe", "sequences", ",", "phylogenetic", "information", "-RRB-", ",", "and", "sequential", "observations", "-LRB-", "ongoing", "experimental", "work", "at", "individual", "labs", "-RRB-", ".", "We", "pointed", "out", "the", "suitability", "of", "semi-supervised", ",", "heterogeneous", ",", "and", "incremental", "learning", "in", "these", "settings", ".", "It", "is", "worth", "remarking", "that", "analogous", "problems", "arise", "with", "other", "high-throughput", "technologies", ",", "such", "as", "cDNA", "and", "long", "oligonucleotide", "microarrays", ",", "mass", "spectrometry", ",", "and", "fluorescence-activated", "cell", "sorting", ".", "There", "are", "other", "issues", "in", "low-level", "analysis", "we", "did", "not", "cover", ".", "Here", "we", "mention", "two", "of", "these", ".", "Image", "analysis", "is", "the", "problem", "of", "going", "from", "raw", "pixel", "values", "in", "the", "scanned", "image", "of", "a", "microarray", "to", "a", "set", "of", "pixel", "intensities", "for", "each", "feature", "placed", "on", "the", "probe", ",", "and", "then", "to", "single-number", "probe", "intensities", ".", "The", "surface", "of", "the", "GeneChip", "contains", "detectable", "grid", "points", "which", "facilitate", "rotation", "and", "translation", "of", "the", "image", "to", "a", "canonical", "alignment", ";", "subsequent", "mapping", "of", "each", "pixel", "to", "a", "feature", "is", "semi", "-", "or", "fully", "automated", "and", "has", "not", "previously", "raised", "major", "analysis", "issues", ".", "However", ",", "work", "is", "being", "done", "on", "aggressive", "reduction", "of", "feature", "sizes", "to", "a", "scale", "where", "this", "mapping", "procedure", "could", "become", "a", "central", "concern", ".", "On", "the", "more", "theoretical", "side", ",", "probe", "models", "based", "on", "the", "physics", "of", "polymer", "hybridization", "have", "recently", "been", "the", "focus", "of", "considerable", "interest", ".", "These", "models", "reflect", "a", "significant", "increase", "in", "the", "use", "of", "biological", "knowledge", "for", "estimating", "target", "abundance", "and", "present", "an", "opportunity", "for", "application", "of", "machine", "learning", "techniques", "which", "can", "exploit", "parametric", "distributions", "in", "high-dimensional", "data", "analysis", ",", "such", "as", "graphical", "models", ".", "We", "close", "by", "observing", "that", "a", "fuller", "awareness", "of", "low-level", "microarray", "analysis", "issues", "will", "also", "benefit", "machine", "learning", "researchers", "involved", "with", "high-level", "problems", ":", "the", "inevitable", "information", "reduction", "from", "earlier", "stage", "to", "later", "could", "well", "conceal", "too", "much", "of", "what", "the", "unfiltered", "array", "data", "reveal", "about", "the", "biological", "issue", "at", "hand", ".", "Familiarity", "with", "initial", "normalization", "and", "analysis", "methods", "will", "allow", "the", "high-level", "analyst", "to", "account", "for", "such", "a", "possibility", "when", "drawing", "scientific", "conclusions", ".", "We", "thank", "Rafael", "Irizarry", ",", "Ben", "Bolstad", ",", "Francois", "Collin", "and", "Ken", "Simpson", "for", "many", "useful", "discussions", "and", "collaboration", "on", "low-level", "microarray", "analysis", ".", "-LSB-", "1", "-RSB-", "Affymetrix", ".", "Affymetrix", "Microarray", "Suite", "Guide", ".", "Affymetrix", "Inc.", ",", "Santa", "Clara", ",", "CA", ",", "2001", ".", "version", "5.0", ".", "-LSB-", "2", "-RSB-", "M.", "Schena", ".", "DNA", "Microarrays", ":", "A", "Practical", "Approach", ".", "Oxford", "University", "Press", ",", "1999", ".", "-LSB-", "3", "-RSB-", "Affymetrix", ".", "Statistical", "algorithms", "description", "document", ".", "Whitepaper", ",", "Affymetrix", "Inc.", ",", "Santa", "Clara", ",", "CA", ",", "2002", ".", "-LSB-", "4", "-RSB-", "A.", "Gammerman", ",", "V.", "Vovk", ",", "and", "V.", "Vapnik", ".", "Learning", "by", "transduction", ".", "In", "Fourteenth", "Conference", "on", "Uncertainty", "in", "Artificial", "Intelligence", ",", "pages", "148", "155", ".", "Morgan", "Kaufmann", "Publishers", ",", "1998", ".", "-LSB-", "5", "-RSB-", "P.", "K.", "Varshney", ".", "Scanning", "the", "issue", ":", "Special", "issue", "on", "data", "fusion", ".", "Proceedings", "of", "the", "IEEE", ",", "85:3", "5", ",", "1997", ".", "-LSB-", "6", "-RSB-", "R.", "O.", "Duda", "and", "P.", "E.", "Hart", ".", "Pattern", "Classification", "and", "Scene", "Analysis", ".", "John", "Wiley", "and", "Sons", ",", "New", "York", ",", "1973", ".", "-LSB-", "7", "-RSB-", "T.", "Gaasterland", "and", "S.", "Bekiranov", ".", "Making", "the", "most", "of", "microarray", "data", ".", "Nature", "Genetics", ",", "24:204", "206", ",", "2000", ".", "-LSB-", "8", "-RSB-", "K.", "P.", "Bennett", "and", "A.", "Demiriz", ".", "Semi-supervised", "support", "vector", "machines", ".", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "11", ",", "pages", "368", "374", ",", "Cambridge", ",", "MA", ",", "1999", ".", "MIT", "Press", ".", "-LSB-", "9", "-RSB-", "T.", "Joachims", ".", "Transductive", "learning", "via", "spectral", "graph", "partitioning", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "2003", ".", "-LSB-", "10", "-RSB-", "V.", "Castelli", "and", "T.", "Cover", ".", "On", "the", "exponential", "value", "of", "labeled", "samples", ".", "Pattern", "Recognition", "Letters", ",", "16:105", "111", ",", "1995", ".", "SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "137", "-LSB-", "11", "-RSB-", "R.", "A.", "Irizarry", ".", "Science", "and", "Statistics", ":", "A", "Festschrift", "for", "Terry", "Speed", ",", "volume", "40", "of", "Lecture", "Notes", "Monograph", "Series", ",", "chapter", "Measures", "of", "gene", "expression", "for", "Affymetrix", "high", "density", "oligonucleotide", "arrays", ",", "pages", "391", "402", ".", "Institute", "of", "Mathematical", "Statistics", ",", "2003", ".", "-LSB-", "12", "-RSB-", "R.", "Ihaka", "and", "R.", "Gentleman", ".", "R", ":", "A", "language", "for", "data", "analysis", "and", "graphics", ".", "Journal", "of", "Computational", "and", "Graphical", "Statistics", ",", "5", "-LRB-", "3", "-RRB-", ":", "299", "314", ",", "1996", ".", "-LSB-", "13", "-RSB-", "N.", "Friedman", ".", "Probabilistic", "models", "for", "identifying", "regulation", "networks", ".", "Bioinformatics", ",", "19", ":", "II57", ",", "October", "2003", ".", "-LSB-", "14", "-RSB-", "E.", "Hubbell", ",", "W.", "M.", "Liu", ",", "and", "R.", "Mei", ".", "Robust", "estimators", "for", "expression", "analysis", ".", "Bioinformatics", ",", "18:1585", "1592", ",", "2002", ".", "-LSB-", "15", "-RSB-", "Bioconductor", "Core", ".", "An", "overview", "of", "projects", "in", "computing", "for", "genomic", "analysis", ".", "Technical", "report", ",", "The", "Bioconductor", "Project", ",", "2002", ".", "-LSB-", "16", "-RSB-", "A.", "Blum", "and", "T.", "Mitchell", ".", "Combining", "labeled", "and", "unlabeled", "data", "with", "co-training", ".", "In", "Proceedings", "of", "the", "Workshop", "on", "Computational", "Learning", "Theory", ".", "Morgan", "Kaufmann", "Publishers", ",", "1998", ".", "-LSB-", "17", "-RSB-", "L.", "Wu", ",", "S.", "L.", "Oviatt", ",", "and", "P.", "R.", "Cohen", ".", "Multimodal", "integration", "-", "a", "statistical", "view", ".", "IEEE", "Transactions", "on", "Mul-timedia", ",", "1:334", "341", ",", "1999", ".", "-LSB-", "18", "-RSB-", "A.", "J.", "Hartemink", "and", "E.", "Segal", ".", "Joint", "learning", "from", "multiple", "types", "of", "genomic", "data", ".", "In", "Proceedings", "of", "the", "Pacific", "Symposium", "on", "Biocomputing", "2004", ",", "2004", ".", "-LSB-", "19", "-RSB-", "G.", "K.", "Smyth", ",", "Y.", "H.", "Yang", ",", "and", "T.", "P.", "Speed", ".", "Functional", "Genomics", ":", "Methods", "and", "Protocols", ",", "volume", "224", "of", "Methods", "in", "Molecular", "Biology", ",", "chapter", "Statistical", "issues", "in", "cDNA", "microarray", "data", "analysis", ",", "pages", "111", "136", ".", "Hu-mana", "Press", ",", "Totowa", ",", "NJ", ",", "2003", ".", "-LSB-", "20", "-RSB-", "A.", "Blum", "and", "S.", "Chawla", ".", "Learning", "from", "labeled", "and", "unlabeled", "data", "using", "graph", "mincuts", ".", "In", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "2001", ".", "-LSB-", "21", "-RSB-", "R.", "Klinkenberg", "and", "T.", "Joachims", ".", "Detecting", "concept", "drift", "with", "support", "vector", "machines", ".", "In", "P.", "Langley", ",", "editor", ",", "Proceedings", "of", "ICML-00", ",", "17th", "International", "Conference", "on", "Machine", "Learning", ",", "pages", "487", "494", ",", "Stanford", ",", "CA", ",", "2000", ".", "Morgan", "Kaufmann", "Publishers", ".", "-LSB-", "22", "-RSB-", "M.", "Szummer", "and", "T.", "Jaakkola", ".", "Partially", "labeled", "classification", "with", "Markov", "random", "walks", ".", "In", "Neural", "Information", "Processing", "Systems", "-LRB-", "NIPS", "-RRB-", ",", "2001", ".", "-LSB-", "23", "-RSB-", "T.", "S.", "Jaakkola", "and", "D.", "Haussler", ".", "Exploiting", "generative", "models", "in", "discriminative", "classifiers", ".", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "11", ":", "Proceedings", "of", "the", "1998", "Conference", ",", "pages", "487", "493", ".", "MIT", "Press", ",", "1998", ".", "-LSB-", "24", "-RSB-", "G.", "Cauwenberghs", "and", "T.", "Poggio", ".", "Incremental", "and", "decremental", "support", "vector", "machine", "learning", ".", "In", "NIPS", ",", "pages", "409", "415", ",", "2000", ".", "-LSB-", "25", "-RSB-", "T.", "Joachims", ".", "Transductive", "inference", "for", "text", "classification", "using", "support", "vector", "machines", ".", "In", "I.", "Bratko", "and", "S.", "Dzeroski", ",", "editors", ",", "Proceedings", "of", "the", "16th", "Annual", "Conference", "on", "Machine", "Learning", ",", "pages", "200", "209", ".", "Morgan", "Kaufmann", ",", "1999", ".", "-LSB-", "26", "-RSB-", "O.", "Chapelle", ",", "V.", "Vapnik", ",", "and", "J.", "Weston", ".", "Advances", "in", "Neural", "Information", "Processing", "Systems", "12", ",", "chapter", "Transductive", "inference", "for", "estimating", "values", "of", "functions", ".", "MIT", "Press", ",", "2000", ".", "-LSB-", "27", "-RSB-", "M.", "Schena", ",", "D.", "Shalon", ",", "R.", "W.", "Davis", ",", "and", "P.", "O.", "Brown", ".", "Quantitative", "monitoring", "of", "gene", "expression", "patterns", "with", "a", "complementary", "DNA", "microarray", ".", "Science", ",", "270:467", "470", ",", "1995", ".", "-LSB-", "28", "-RSB-", "D.", "J.", "Lockhart", ",", "H.", "Dong", ",", "M.", "C.", "Byrne", ",", "M.", "T.", "Follet-tie", ",", "M.", "V.", "Gallo", ",", "M.", "S.", "Chee", ",", "M.", "Mittmann", ",", "C.", "Wang", ",", "M.", "Kobayashi", ",", "H.", "Horton", ",", "and", "E.", "L.", "Brown", ".", "Expression", "monitoring", "by", "hybridization", "to", "high-density", "oligonucleotide", "arrays", ".", "Nature", "Biotechnology", ",", "14:1675", "1680", ",", "1996", ".", "-LSB-", "29", "-RSB-", "R.", "J.", "Lipshutz", ",", "S.", "P.", "A.", "Fodor", ",", "T.", "R.", "Gingeras", ",", "and", "D.", "H.", "Lockhart", ".", "High", "density", "synthetic", "oligonucleotide", "arrays", ".", "Nature", "Genetics", ",", "21:20", "24", ",", "1999", ".", "Supplement", ".", "-LSB-", "30", "-RSB-", "J.", "B.", "Fan", ",", "D.", "Gehl", ",", "L.", "Hsie", ",", "K.", "Lindblad-Toh", ",", "J.", "P.", "Laviolette", ",", "E.", "Robinson", ",", "R.", "Lipshutz", ",", "D.", "Wang", ",", "T.", "J.", "Hudson", ",", "and", "D.", "Labuda", ".", "Assessing", "DNA", "sequence", "variations", "in", "human", "ests", "in", "a", "phylogenetic", "context", "using", "high-density", "oligonucleotide", "arrays", ".", "Genomics", ",", "80:351", "360", ",", "September", "2002", ".", "-LSB-", "31", "-RSB-", "D.", "J.", "Cutler", ",", "M.", "E.", "Zwick", ",", "M.", "M.", "Carrasquillo", ",", "C.", "T.", "Yohn", ",", "K.", "P.", "Tobin", ",", "C.", "Kashuk", ",", "D.", "J.", "Mathews", ",", "N.", "A.", "Shah", ",", "E.", "E.", "Eichler", ",", "J.", "A.", "Warrington", ",", "and", "A.", "Chakravarti", ".", "High-throughput", "variation", "detection", "and", "genotyping", "using", "microarrays", ".", "Genome", "Research", ",", "11:1913", "1925", ",", "November", "2001", ".", "-LSB-", "32", "-RSB-", "J.", "B.", "Fan", ",", "X.", "Chen", ",", "M.", "K.", "Halushka", ",", "A.", "Berno", ",", "X.", "Huang", ",", "T.", "Ryder", ",", "R.", "J.", "Lipshutz", ",", "D.", "J.", "Lockhart", ",", "and", "A.", "Chakravarti", ".", "Parallel", "genotyping", "of", "human", "SNPs", "using", "generic", "high-density", "oligonucleotide", "tag", "arrays", ".", "Genome", "Research", ",", "10:853", "860", ",", "June", "2000", ".", "-LSB-", "33", "-RSB-", "G.", "C.", "Kennedy", ",", "H.", "Matsuzaki", ",", "D.", "Dong", ",", "W.", "Liu", ",", "J.", "Huang", ",", "G.", "Liu", ",", "X.", "Su", ",", "M.", "Cao", ",", "W.", "Chen", ",", "J.", "Zhang", ",", "W.", "Liu", ",", "G.", "Yang", ",", "X.", "Di", ",", "T.", "Ryder", ",", "Z.", "He", ",", "U.", "Surti", ",", "M.", "S.", "Phillips", ",", "M.", "T.", "Boyce-Jacino", ",", "S.", "P.", "A.", "Fodor", ",", "and", "K.", "W.", "Jones", ".", "Large-scale", "genotyping", "of", "complex", "DNA", ".", "Nature", "Biotechnology", ",", "October", "2003", ".", "-LSB-", "34", "-RSB-", "P.", "Kapranov", ",", "S.", "E.", "Cawley", ",", "J.", "Drenkow", ",", "S.", "Bekiranov", ",", "R.", "L.", "Strausberg", ",", "S.", "P.", "A.", "Fodor", ",", "and", "T.", "R.", "Gingeras", ".", "Large-scale", "transcriptional", "activity", "in", "chromosomes", "21", "and", "22", ".", "Science", ",", "296:916", "919", ",", "2002", ".", "-LSB-", "35", "-RSB-", "M.", "Brown", ",", "W.", "N.", "Grundy", ",", "D.", "Lin", ",", "N.", "Cristianini", ",", "C.", "Sugnet", ",", "M.", "Ares", "Jr", ",", "and", "D.", "Haussler", ".", "Support", "vector", "machine", "classification", "of", "microarray", "gene", "expression", "data", ".", "Technical", "Report", "UCSC-CRL-99-09", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "California", "at", "Santa", "Cruz", ",", "1999", ".", "-LSB-", "36", "-RSB-", "M.", "P.", "S.", "Brown", ",", "W.", "N.", "Grundy", ",", "D.", "Lin", ",", "N.", "Cristianini", ",", "C.", "W.", "Sugnet", ",", "T.", "S.", "Furey", ",", "M.", "Ares", "Jr", ",", "and", "D.", "Haussler", ".", "Knowledge-based", "analysis", "of", "microarray", "gene", "expression", "data", "by", "using", "support", "vector", "machines", ".", "Proceedings", "of", "the", "National", "Academy", "of", "Sciences", ",", "97:262", "267", ",", "1997", ".", "SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "138", "-LSB-", "37", "-RSB-", "P.", "Pavlidis", ",", "J.", "Weston", ",", "J.", "Cai", ",", "and", "W.", "N.", "Grundy", ".", "Gene", "functional", "classification", "from", "heterogeneous", "data", ".", "In", "Proceedings", "of", "the", "Fifth", "International", "Conference", "on", "Computational", "Molecular", "Biology", ",", "pages", "242", "248", ",", "2001", ".", "-LSB-", "38", "-RSB-", "T.", "S.", "Furey", ",", "N.", "Cristianini", ",", "N.", "Duffy", ",", "D.", "W.", "Bednarski", ",", "M.", "Schummer", ",", "and", "D.", "Haussler", ".", "Support", "vector", "machine", "classification", "and", "validation", "of", "cancer", "tissue", "samples", "using", "microarray", "expression", "data", ".", "Bioinformatics", ",", "16:906", "914", ",", "2000", ".", "-LSB-", "39", "-RSB-", "S.", "Mukherjee", ",", "P.", "Tamayo", ",", "D.", "Slonim", ",", "A.", "Verri", ",", "T.", "Golub", ",", "J.", "P.", "Mesirov", ",", "and", "T.", "Poggio", ".", "Support", "vector", "machine", "classification", "of", "microarray", "data", ".", "Technical", "Report", "182", ",", "Center", "for", "Biological", "and", "Computational", "Learning", "Massachusetts", "Institute", "of", "Technology", ",", "1998", ".", "-LSB-", "40", "-RSB-", "S.", "Ramaswamy", ",", "P.", "Tamayo", ",", "R.", "Rifkin", ",", "S.", "Mukherjee", ",", "C.", "Yeang", ",", "M.", "Angelo", ",", "C.", "Ladd", ",", "M.", "Reich", ",", "E.", "Latulippe", ",", "J.", "P.", "Mesirov", ",", "T.", "Poggio", ",", "W.", "Gerald", ",", "M.", "Loda", ",", "E.", "S.", "Lander", ",", "and", "T.", "R.", "Golub", ".", "Multiclass", "cancer", "diagnosis", "using", "tumor", "gene", "expression", "signatures", ".", "Proceedings", "of", "the", "National", "Academy", "of", "Sciences", ",", "98", ",", "2001", ".", "-LSB-", "41", "-RSB-", "C.", "Yeang", ",", "S.", "Ramaswamy", ",", "P.", "Tamayo", ",", "S.", "Mukherjee", ",", "R.", "M.", "Rifkin", ",", "M.", "Angelo", ",", "M.", "Reich", ",", "E.", "Lander", ",", "J.", "Mesirov", ",", "and", "T.", "Golub", ".", "Molecular", "classification", "of", "multiple", "tumor", "types", ".", "Bioinformatics", ",", "1:1", "7", ",", "2001", ".", "-LSB-", "42", "-RSB-", "F.", "G.", "Cozman", "and", "I.", "Cohen", ".", "Unlabeled", "data", "can", "degrade", "classification", "performance", "of", "generative", "classifiers", ".", "In", "Fifteenth", "International", "Florida", "Artificial", "Intelligence", "Society", "Conference", ",", "pages", "327", "331", ",", "2002", ".", "-LSB-", "43", "-RSB-", "T.", "Zhang", "and", "F.", "J.", "Oles", ".", "A", "probability", "analysis", "on", "the", "value", "of", "unlabeled", "data", "for", "classification", "problems", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Machine", "Learning", ",", "pages", "1191", "1198", ",", "2000", ".", "-LSB-", "44", "-RSB-", "K.", "Nigam", ",", "A.", "McCallum", ",", "S.", "Thrun", ",", "and", "T.", "Mitchell", ".", "Text", "classification", "from", "labeled", "and", "unlabeled", "documents", "using", "EM", ".", "Machine", "Learning", ",", "39:103", "134", ",", "2000", ".", "-LSB-", "45", "-RSB-", "T.", "Li", ",", "S.", "Zhu", ",", "Q.", "Li", ",", "and", "M.", "Ogihara", ".", "Gene", "functional", "classification", "by", "semi-supervised", "learning", "from", "heterogeneous", "data", ".", "In", "Proceedings", "of", "the", "ACM", "Symposium", "on", "Applied", "Computing", ",", "2003", ".", "-LSB-", "46", "-RSB-", "G.", "R.", "G.", "Lanckriet", ",", "M.", "Deng", ",", "N.", "Cristianini", ",", "M.", "I.", "Jordan", ",", "and", "W.", "S.", "Noble", ".", "Kernel-based", "data", "fusion", "and", "its", "application", "to", "protein", "function", "prediction", "in", "yeast", ".", "In", "Proceedings", "of", "the", "Pacific", "Symposium", "on", "Biocomputing", "2004", ",", "2004", ".", "-LSB-", "47", "-RSB-", "A.", "Shilton", ",", "M.", "Palaniswami", ",", "D.", "Ralph", ",", "and", "A.", "C.", "Tsoi", ".", "Incremental", "training", "in", "support", "vector", "machines", ".", "In", "Proceedings", "of", "the", "International", "Joint", "Conference", "on", "Neural", "Networks", ",", "2001", ".", "-LSB-", "48", "-RSB-", "C.", "P.", "Diehl", ".", "Toward", "Efficient", "Collaborative", "Classification", "for", "Distributed", "Video", "Surveillance", ".", "PhD", "thesis", ",", "Department", "of", "Electrical", "and", "Computer", "Engineering", ",", "Carnegie", "Mellon", "University", ",", "2000", ".", "-LSB-", "49", "-RSB-", "J.", "H.", "Maindonald", ",", "Y.", "E.", "Pittelkow", ",", "and", "S.", "R.", "Wilson", ".", "Science", "and", "Statistics", ":", "A", "Festschrift", "for", "Terry", "Speed", ",", "volume", "40", "of", "IMS", "Lecture", "Notes", "Monograph", "Series", ",", "chapter", "Some", "Considerations", "for", "the", "Design", "of", "Microarray", "Experiments", ",", "pages", "367", "390", ".", "Institute", "of", "Mathematical", "Statistics", ",", "2003", ".", "-LSB-", "50", "-RSB-", "R.", "A.", "Irizarry", ",", "B.", "Hobbs", ",", "F.", "Collin", ",", "Y.", "D.", "Beazer-Barclay", ",", "K.", "J.", "Antonellis", ",", "U.", "Scherf", ",", "and", "T.", "P.", "Speed", ".", "Exploration", ",", "normalization", ",", "and", "summaries", "of", "high", "density", "oligonucleotide", "array", "probe", "level", "data", ".", "Bio-statistics", ",", "4:249", "264", ",", "2003", ".", "-LSB-", "51", "-RSB-", "C.", "Li", "and", "W.", "H.", "Wong", ".", "Model-based", "analysis", "of", "oligonucleotide", "arrays", ":", "Expression", "index", "computation", "and", "outlier", "detection", ".", "Proceedings", "of", "the", "National", "Academy", "of", "Science", ",", "98:31", "36", ",", "2001", ".", "-LSB-", "52", "-RSB-", "B.", "M.", "Bolstad", ",", "R.", "A.", "Irizarry", ",", "M.", "Astrand", ",", "and", "T.", "P.", "Speed", ".", "A", "comparison", "of", "normalization", "methods", "for", "high", "density", "oligonucleotide", "array", "data", "based", "on", "bias", "and", "variance", ".", "Bioinformatics", ",", "19:185", "193", ",", "2003", ".", "-LSB-", "53", "-RSB-", "B.", "I.", "P.", "Rubinstein", "and", "T.", "P.", "Speed", ".", "Detecting", "gene", "expression", "with", "oligonucleotide", "microarrays", ",", "2003", ".", "manuscript", "in", "preparation", ".", "-LSB-", "54", "-RSB-", "W.", "Liu", ",", "R.", "Mei", ",", "D.", "M.", "Bartell", ",", "X.", "Di", ",", "T.", "A.", "Webster", ",", "and", "T.", "Ryder", ".", "Rank-based", "algorithms", "for", "analysis", "of", "microarrays", ".", "Proceedings", "of", "SPIE", ",", "Microarrays", ":", "Optical", "Technologies", "and", "Informatics", ",", "4266", ",", "2001", ".", "-LSB-", "55", "-RSB-", "W.", "M.", "Liu", ",", "R.", "Mei", ",", "X.", "Di", ",", "T.", "B.", "Ryder", ",", "E.", "Hubbell", ",", "S.", "Dee", ",", "T.", "A.", "Webster", ",", "C.", "A.", "Harrington", ",", "M.", "H.", "Ho", ",", "J.", "Baid", ",", "and", "S.", "P.", "Smeekens", ".", "Analysis", "of", "high", "density", "expression", "microarrays", "with", "signed-rank", "call", "algorithms", ".", "Bioinformatics", ",", "18:1593", "1599", ",", "2002", ".", "-LSB-", "56", "-RSB-", "F.", "Provost", "and", "T.", "Fawcett", ".", "Analysis", "and", "visualization", "of", "classifier", "performance", ":", "Comparison", "under", "imprecise", "class", "and", "cost", "distributions", ".", "In", "Third", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "Menlo", "Park", ",", "CA", ",", "1997", ".", "-LSB-", "57", "-RSB-", "T.", "Fawcett", ",", "F.", "Provost", ",", "and", "R.", "Kohavi", ".", "The", "case", "against", "accuracy", "estimation", "for", "comparing", "induction", "algorithms", ".", "In", "Fifteenth", "International", "Conference", "on", "Machine", "Learning", ",", "1998", ".", "-LSB-", "58", "-RSB-", "D.", "Kampa", "and", "et", "al.", ".", "Novel", "RNAs", "identified", "from", "a", "comprehensive", "analysis", "of", "the", "transcriptome", "of", "human", "chromosomes", "21", "and", "22", ".", "Manuscript", "in", "preparation", ".", "-LSB-", "59", "-RSB-", "W.-M", ".", "Liu", ",", "X.", "Di", ",", "G.", "Yang", ",", "H.", "Matsuzaki", ",", "J.", "Huang", ",", "R.", "Mei", ",", "T.", "B.", "Ryder", ",", "T.", "A.", "Webster", ",", "S.", "Dong", ",", "G.", "Liu", ",", "K.", "W.", "Jones", ",", "G.", "C.", "Kennedy", ",", "and", "D.", "Kulp", ".", "Algorithms", "for", "large", "scale", "genotyping", "microarrays", ".", "Bioinformatics", ",", "2003", ".", "In", "press", ".", "-LSB-", "60", "-RSB-", "Affymetrix", ".", "GeneChip", "CustomSeq", "resequencing", "array", ":", "Performance", "data", "for", "base", "calling", "algorithm", "in", "GeneChip", "DNA", "analysis", "software", ".", "Technical", "note", ",", "Affymetrix", "Inc.", ",", "Santa", "Clara", ",", "CA", ",", "2003", ".", "http://www.affymetrix.com/support/tech", "nical/technotes/customseq", "technote.pdf", ".", "SIGKDD", "Explorations", ".", "Volume", "5", ",", "Issue", "2", "-", "Page", "139"], "doc_bio_tags": ["O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["learning from heterogeneous data", "statistics", "data mining", "microarray", "transductive learning", "heterogeneous data", "transcript discovery", "incremental learning", "genotyping"], "abstractive_keyphrases": ["gene expression estimation", "low-level analysis", "low-level microarray analysis", "re-sequencing", "semi-supervised learning"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "188", "document": ["The", "Forest", "and", "the", "Trees", ":", "Using", "Oracle", "and", "SQL", "Server", "Together", "to", "Teach", "ANSI-Standard", "SQL", "Students", "in", "a", "sophomore-level", "database", "fundamentals", "course", "were", "taught", "SQL", "and", "database", "concepts", "using", "both", "Oracle", "and", "SQL", "Server", ".", "Previous", "offerings", "of", "the", "class", "had", "used", "one", "or", "the", "other", "database", ".", "Classroom", "experiences", "suggest", "that", "students", "were", "able", "to", "handle", "learning", "SQL", "in", "the", "dual", "environment", ",", "and", ",", "in", "fact", ",", "benefited", "from", "this", "approach", "by", "better", "understanding", "ANSI-standard", "versus", "database-specific", "SQL", "and", "implementation", "differences", "in", "the", "two", "database", "systems", ".", "H.", "2", "-LSB-", "Database", "Management", "-RSB-", ":", "Query", "languages", "H.", "2.3", "-LSB-", "SQL", "-RSB-", "H.", "2.4", "-LSB-", "Microsoft", "SQL", "Server", "-RSB-", "H.", "2.4", "-LSB-", "Oracle", "-RSB-", "Languages", "A", "problem", "arises", "in", "many", "technology", "classes", ".", "The", "instructor", "wishes", "to", "teach", "principles", "and", "concepts", "of", "a", "technology", ".", "To", "give", "students", "hands-on", "experience", "putting", "those", "theories", "to", "work", ",", "a", "specific", "product", "that", "implements", "that", "technology", "is", "selected", "for", "a", "lab", "component", ".", "Suddenly", "the", "students", "are", "learning", "more", "about", "the", "specific", "product", "than", "they", "are", "about", "the", "technology", "concepts", ".", "They", "may", "or", "may", "not", "realize", "what", "is", "specific", "to", "that", "product", "and", "what", "is", "general", "to", "the", "technology", ".", "Students", "may", "even", "start", "referring", "to", "the", "course", "as", "a", "VB", "course", ",", "a", "PHP", "course", ",", "or", "an", "Oracle", "course", "when", "what", "you", "wanted", "to", "teach", "was", "programming", ",", "web", "scripting", ",", "or", "database", "principles", ".", "This", "paper", "presents", "the", "experiences", "from", "a", "database", "fundamentals", "course", "that", "used", "both", "Oracle", "and", "SQL", "Server", "so", "that", "students", "would", "better", "understand", "ANSI-standard", "SQL", ".", "Though", "each", "database", "is", "ANSI", "SQL", "compliant", ",", "there", "are", "definite", "differences", "in", "implementation", "-LRB-", "Gorman", ",", "2001", ";", "Gulutzan", ",", "2002", "-RRB-", ".", "By", "learning", "each", "implementation", "and", "how", "each", "departs", "from", "ANSI-standard", "SQL", ",", "students", "can", "be", "better", "prepared", "to", "work", "with", "any", "database", "and", "better", "understand", "general", "concepts", "of", "databases", "and", "SQL", ".", "The", "paper", "discusses", "the", "observed", "results", "from", "this", "approach", "and", "how", "well", "the", "approach", "met", "learning", "objectives", ".", "CPT", "272", ",", "Database", "Fundamentals", ",", "is", "a", "sophomore-level", "database", "programming", "and", "design", "class", "taught", "primarily", "to", "computer", "technology", "majors", "in", "their", "fourth", "semester", ".", "Students", "will", "have", "previously", "taken", "a", "freshman-level", "course", "that", "introduces", "them", "to", "databases", "as", "a", "tool", "for", "learning", "general", "information", "system", "development", "terms", "and", "concepts", ".", "The", "freshman-level", "course", "uses", "Microsoft", "Access", "because", "it", "is", "easy", "to", "use", "for", "quickly", "developing", "a", "small", "personal", "information", "system", ".", "That", "course", "also", "introduces", "both", "SQL", "and", "Query", "By", "Example", "methods", "for", "querying", "a", "database", "as", "well", "basic", "database", "design", "concepts", ",", "which", "are", "applied", "for", "simple", "data", "models", ".", "Students", "then", "move", "into", "two", "programming", "courses", ",", "the", "second", "of", "which", "uses", "single-table", "SQL", "statements", "for", "providing", "data", "to", "-LRB-", "formerly", "-RRB-", "Visual", "Basic", "or", "-LRB-", "currently", "-RRB-", "web-programming", "applications", ".", "So", "by", "the", "time", "the", "students", "take", "the", "Database", "Fundamentals", "course", "they", "have", "a", "concept", "of", "what", "a", "database", "is", "and", "how", "it", "is", "used", "as", "the", "back-end", "for", "programming", ".", "The", "Database", "Fundamentals", "course", "is", "the", "course", "where", "students", "learn", "SQL", "in", "depth", ",", "database", "concepts", ",", "and", "basic", "database", "design", ".", "It", "does", "not", "teach", "stored", "procedure", "programming", ",", "triggers", ",", "or", "enterprise", "or", "distributed", "database", "design", ",", "which", "are", "covered", "in", "more", "advanced", "courses", ".", "The", "learning", "objectives", "for", "the", "Database", "Fundamentals", "course", "are", ":", "To", "understand", "the", "fundamentals", "of", "a", "relational", "database", ".", "To", "understand", "the", "fundamentals", "of", "client-server", "and", "multi-tiered", "applications", ".", "To", "understand", "the", "principles", "and", "characteristics", "of", "good", "relational", "database", "design", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CITC4", "'", "03", ",", "October", "16", "18", ",", "2003", ",", "Lafayette", ",", "Indiana", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-770-2", "/", "03/0010", "...", "$", "5.00", ".", "234", "To", "design", "entity", "relationship", "models", "for", "a", "business", "problem", "domain", "verified", "by", "the", "rules", "of", "normalization", "-LRB-", "through", "third", "normalized", "form", "-RRB-", ".", "To", "build", "simple", "to", "moderately", "complex", "data", "models", ".", "To", "write", "simple", "to", "moderately", "complex", "SQL", "to", "query", "a", "multiple-table", "database", ".", "To", "write", "data", "manipulation", "language", "-LRB-", "DML", "-RRB-", "SQL", "to", "insert", "rows", ",", "delete", "rows", ",", "and", "update", "rows", ".", "To", "understand", "the", "concept", "of", "database", "transactions", "and", "demonstrate", "the", "proper", "use", "of", "commits", "and", "rollbacks", ".", "To", "write", "data", "definition", "language", "-LRB-", "DDL", "-RRB-", "SQL", "to", "create", "and", "drop", "tables", ",", "indexes", ",", "and", "constraints", ".", "To", "understand", "and", "be", "able", "to", "implement", "the", "fundamentals", "of", "security", "and", "permissions", "in", "a", "database", ".", "To", "explain", "the", "benefits", "of", "using", "views", "and", "write", "SQL", "statements", "to", "create", "views", ".", "To", "create", "and", "use", "SQL", "scripts", "and", "use", "SQL", "to", "build", "scripts", ".", "To", "gain", "a", "working", "knowledge", "of", "query", "optimization", ",", "performance", "tuning", ",", "and", "database", "administration", ".", "To", "apply", "team", "skills", "to", "build", "a", "client-server", "database", "application", ".", "CPT", "272", ",", "Database", "Fundamentals", ",", "is", "taught", "in", "a", "multi-campus", "university", ".", "It", "was", "initially", "taught", "on", "the", "main", "campus", "using", "Oracle", ".", "When", "the", "course", "was", "rolled", "out", "to", "the", "regional", "campuses", ",", "SQL", "Server", "was", "first", "used", "because", "of", "administration", "considerations", "involved", "with", "Oracle", ".", "Now", "WAN", "connections", "have", "been", "established", "that", "allow", "the", "use", "of", "either", "database", "engine", "or", "both", ".", "During", "the", "spring", "2003", "semester", "one", "regional", "campus", "experimented", "with", "the", "use", "of", "both", "databases", ".", "The", "reasons", "for", "doing", "this", "were", ":", "To", "accomplish", "the", "course", "learning", "objectives", "in", "SQL", "necessitates", "going", "beyond", "ANSI-standard", "SQL", "into", "database-specific", "functions", ",", "sub-queries", ",", "and", "other", "aspects", "of", "SQL", "that", "are", "implemented", "differently", "in", "different", "databases", ".", "If", "the", "students", "learn", "only", "Oracle", "or", "SQL", "Server", "-LRB-", "or", "any", "other", "database", "-RRB-", "they", "are", "likely", "to", "confuse", "ANSI-standard", "SQL", "with", "the", "database-specific", "implementation", ",", "which", "can", "hinder", "them", "when", "they", "enter", "the", "job", "market", ".", "By", "using", "both", "databases", ",", "it", "was", "hoped", "that", "students", "would", "learn", "and", "understand", "the", "differences", "among", "ANSI-standard", "SQL", ",", "Oracle", "SQL", ",", "SQL", "Server", "T-SQL", ".", "Some", "design", "considerations", ",", "such", "as", "Identities/Sequences", "and", "datatypes", ",", "are", "implemented", "differently", "in", "different", "databases", ".", "Again", ",", "students", "will", "enter", "the", "job", "market", "with", "a", "stronger", "understanding", "if", "they", "understand", "the", "difference", "between", "the", "concept", "and", "how", "it", "is", "implemented", ".", "Neither", "Oracle", "nor", "SQL", "Server", "commands", "a", "majority", "of", "market", "share", ".", "However", ",", "the", "two", "together", "make", "up", "about", "fifty", "percent", "of", "the", "current", "market", "share", ",", "positioning", "students", "well", "for", "the", "job", "market", "-LRB-", "Wong", ",", "2002", "-RRB-", ".", "Studying", "two", "databases", "together", "opens", "the", "door", "for", "discussing", "the", "pros", "and", "cons", "of", "these", "and", "other", "databases", ",", "including", "DB2", ",", "MySQL", ",", "and", "Sybase", ".", "Finally", ",", "students", "often", "want", "to", "install", "a", "database", "engine", "on", "their", "personal", "computer", "and", "work", "on", "lab", "assignments", "at", "home", ".", "Both", "Oracle", "and", "SQL", "Server", "have", "licensing", "and", "hardware", "requirement", "issues", "that", "on", "any", "given", "computer", "may", "preclude", "one", "or", "the", "other", ".", "Using", "both", "allowed", "most", "students", "to", "do", "at", "least", "some", "of", "their", "work", "at", "home", ".", "To", "implement", "a", "cross-engine", "approach", ",", "an", "SQL", "text", "would", "be", "needed", "that", "taught", "both", "databases", ".", "A", "special", "textbook", "was", "created", "by", "two", "of", "the", "instructors", ",", "a", "draft", "of", "which", "was", "used", "in", "CD", "format", ".", "In", "addition", "to", "covering", "SQL", "essentials", "in", "Oracle", "and", "SQL", "Server", ",", "it", "also", "covered", "Microsoft", "Access", "and", "MySQL", "in", "hopes", "that", "it", "might", "also", "be", "used", "in", "the", "freshman", "course", "and", "be", "a", "good", "reference", "for", "real", "world", "web", "programming", ".", "The", "text", "has", "since", "been", "picked", "up", "by", "a", "publisher", ".", "CPT", "272", ",", "Database", "Fundamentals", ",", "consists", "of", "a", "both", "a", "lecture", "and", "a", "lab", "component", ".", "The", "lectures", "cover", "fundamental", "database", "concepts", ",", "including", "SQL", "concepts", ",", "query", "optimization", ",", "and", "database", "design", "and", "normalization", ".", "The", "lab", "component", "focuses", "on", "mastery", "of", "SQL", ".", "Table", "1", "shows", "the", "labs", "that", "were", "assigned", "and", "the", "database", "used", "for", "each", ".", "Table", "1", ".", "Course", "Lab", "Schedule", "Lab", "Lab", "DBMS", "Single", "Table", "Select", "Oracle", "Aggregates", "&", "Sub", "Queries", "SQL", "Server", "Joining", "Tables", "Both", "Oracle", "&", "SQL", "Server", "DBMS", "Specific", "Functions", "Both", "Oracle", "&", "SQL", "Server", "Advanced", "Queries", "Oracle", "Data", "Manipulation", "Student", "Choice", "Database", "Definition", "Student", "Choice", "Privileges", "Student", "Choice", "The", "first", "three", "labs", "concentrated", "as", "much", "as", "possible", "on", "ANSI-standard", "SQL", ".", "Of", "course", ",", "implementation", "of", "sub", "queries", "and", "joins", "is", "in", "some", "cases", "different", "between", "Oracle", "and", "SQL", "Server", ".", "These", "differences", "were", "taught", "and", "discussed", ".", "However", ",", "those", "labs", "avoided", "all", "DBMS", "specific", "functionality", ",", "such", "as", "concatenation", ",", "date", "manipulation", ",", "and", "datatype", "conversion", ".", "These", "things", "were", "covered", "in", "the", "DBMS", "Specific", "Functions", "lab", ".", "This", "approach", "limited", "some", "of", "what", "could", "be", "done", "in", "the", "first", "labs", "but", "provided", "a", "solid", "distinction", "between", "what", "was", "ANSI-standard", "SQL", "and", "what", "was", "database-specific", ".", "Later", "labs", "used", "these", "database-specific", "functions", "in", "various", "lab", "exercises", "so", "that", "these", "functions", ",", "which", "are", "crucial", "in", "the", "real", "world", ",", "were", "mastered", ".", "In", "addition", "to", "the", "use", "of", "both", "databases", "in", "labs", ",", "lecture", "material", "constantly", "referred", "to", "how", "various", "design", ",", "administration", ",", "and", "optimization", "concepts", "would", "be", "applied", "in", "both", "databases", "and", "in", "other", "databases", ",", "such", "as", "MySQL", ".", "In", "addition", ",", "exam", "questions", "asked", "students", "to", "compare", "the", "capabilities", "of", "each", "database", ".", "Other", "235", "assignments", "led", "students", "into", "an", "exploration", "of", "the", "pros", "and", "cons", "of", "various", "database", "engines", ".", "Two", "of", "these", "were", "for", "students", "to", "write", "short", "papers", "on", "the", "following", ":", "1", ".", "Research", "one", "of", "the", "following", "databases", ":", "DB2", ",", "Sybase", ",", "Informix", ",", "MySQL", ",", "PostgreSQL", ",", "or", "SQLWindows", "Solo", ".", "Write", "a", "2-3", "page", "paper", "comparing", "it", "to", "Oracle", "and", "SQL", "Server", ".", "Include", "your", "recommendations", "regarding", "the", "circumstances", "in", "which", "this", "database", "should", "be", "used", ".", "2", ".", "Research", "what", "people", "on", "the", "Internet", "say", "comparing", "SQL", "Server", "and", "Oracle", ".", "Based", "on", "their", "perspectives", "and", "your", "own", "experience", "with", "these", "two", "databases", ",", "write", "1-2", "pages", "comparing", "them", ".", "With", "all", "the", "course", "objectives", "listed", "above", ",", "the", "Database", "Fundamentals", "course", "makes", "for", "a", "full", "semester", ".", "Using", "two", "databases", "instead", "of", "one", "definitely", "adds", "to", "the", "challenge", "of", "fitting", "in", "all", "the", "material", ".", "This", "first", "attempt", "led", "to", "the", "realization", "of", "several", "``", "kinks", "''", "that", "would", "need", "to", "be", "worked", "out", "before", "it", "could", "be", "attempted", "again", ".", "These", "are", "listed", "below", ".", "In", "most", "cases", "any", "given", "SQL", "lecture", "had", "barely", "enough", "time", "for", "covering", "the", "SQL", "concepts", "and", "implementation", "in", "both", "databases", ",", "forcing", "the", "instructor", "to", "scrimp", "on", "in-class", "examples", ".", "This", "meant", "that", "students", "had", "a", "more", "shaky", "foundation", "going", "into", "the", "lab", "assignment", ".", "However", ",", "it", "should", "be", "noted", "that", "students", "did", "about", "as", "well", "on", "lab", "assignments", "as", "prior", "classes", ".", "One", "possible", "solution", "would", "be", "to", "focus", "each", "SQL", "lecture", "on", "only", "one", "database", ",", "but", "to", "revisit", "that", "concept", "in", "the", "following", "lecture", "when", "the", "other", "database", "is", "used", ".", "In", "past", "semesters", "using", "only", "one", "database", ",", "it", "was", "possible", "to", "include", "a", "discussion", "of", "datatypes", "along", "with", "the", "DDL", "lecture", ".", "Using", "two", "databases", "the", "DDL", "lecture", "had", "to", "be", "expanded", ",", "which", "did", "not", "leave", "enough", "time", "for", "thorough", "coverage", "of", "datatypes", "in", "both", "databases", ".", "A", "solution", "would", "be", "to", "move", "the", "datatype", "material", "to", "one", "of", "the", "design", "lectures", ",", "emphasizing", "datatyping", "as", "a", "design", "step", ".", "By", "switching", "between", "databases", ",", "database-specific", "syntax", "never", "clicked", "in", "students", "'", "minds", ".", "They", "seemed", "less", "able", "than", "prior", "classes", "to", "apply", "concatenation", "and", "datatype", "conversions", "without", "looking", "up", "the", "syntax", "in", "reference", "material", ".", "While", "this", "is", "regrettable", ",", "it", "may", "be", "a", "worthwhile", "trade-off", "for", "gaining", "an", "understanding", "of", "what", "is", "ANSI-standard", "vs.", "database-specific", "SQL", ".", "It", "is", "likely", "that", "when", "students", "move", "to", "the", "real", "world", "and", "settle", "in", "with", "one", "database", ",", "they", "will", "quickly", "be", "able", "to", "internalize", "the", "syntax", ".", "Some", "students", "expressed", "that", "they", "would", "have", "preferred", "going", "through", "all", "labs", "with", "one", "database", "and", "then", "looking", "at", "differences", "with", "a", "second", "database", ".", "However", ",", "other", "students", "liked", "working", "with", "both", "databases", "side", "by", "side", ".", "This", "suggests", "that", "the", "alternating", "structure", "may", "need", "to", "be", "tweaked", ".", "But", "whatever", "one", "does", ",", "it", "will", "probably", "not", "work", "with", "every", "learning", "style", ".", "After", "using", "both", "databases", ",", "almost", "all", "students", ",", "when", "given", "a", "choice", ",", "used", "SQL", "Server", ".", "This", "was", "solely", "because", "of", "a", "perceived", "superiority", "in", "the", "user", "interface", "of", "Query", "Analyzer", "versus", "SQL", "Plus", ".", "In", "itself", "this", "is", "not", "a", "bad", "thing", "because", "one", "of", "the", "goals", "was", "to", "understand", "the", "differences", "in", "the", "two", "databases", ".", "But", "in", "future", "semesters", "the", "instructor", "may", "want", "to", "force", "a", "choice", "more", "often", "to", "insure", "that", "students", "will", "be", "exposed", "more", "equally", "to", "both", ".", "These", "``", "kinks", "''", "aside", ",", "both", "instructor", "and", "students", "considered", "the", "experiment", "a", "success", ".", "Their", "papers", "indicated", "a", "mature", "appreciation", "of", "the", "differences", "between", "Oracle", "and", "SQL", "Server", "and", "how", "they", "compared", "to", "other", "databases", ".", "Their", "comments", "in", "class", "indicated", "that", "they", "understood", "what", "was", "ANSI-standard", "SQL", "and", "what", "was", "not", ".", "In", "the", "SQL", "lab", "exam", "these", "students", "performed", "as", "well", "as", "previous", "classes", "of", "students", ",", "indicating", "that", "the", "cross-engine", "approach", "did", "not", "hinder", "their", "learning", ".", "Students", "also", "indicated", "enthusiasm", "for", "being", "able", "to", "list", "experience", "in", "both", "databases", "on", "their", "resume", ".", "Compared", "to", "prior", "semesters", ",", "students", "left", "the", "course", "more", "comfortable", "and", "able", "to", "use", "either", "of", "these", "major", "database", "engines", "to", "accomplish", "the", "goals", "of", "a", "given", "information", "system", ".", "-LSB-", "1", "-RSB-", "Gorman", ",", "Michael", "M.", "-LRB-", "2001", "-RRB-", ".", "Is", "SQL", "a", "real", "standard", "anymore", "?", "The", "Data", "Administration", "Newsletter", "-LRB-", "TDAN.com", "-RRB-", "http://www.tdan.com/i016hy01.htm", "-LRB-", "17", "Apr.", "2003", "-RRB-", ".", "-LSB-", "2", "-RSB-", "Gulutzan", ",", "Peter", ".", "-LRB-", "2002", "-RRB-", ".", "Standard", "SQL", ".", "http://www.dbazine.com/gulutzan3.html", "-LRB-", "17", "Apr.", "2003", "-RRB-", ".", "-LSB-", "3", "-RSB-", "Wong", ",", "Wylie", ".", "-LRB-", "2002", "-RRB-", ".", "IBM", "passes", "Oracle", "in", "database", "market", ".", "http://techupdate.zdnet.com/techupdate/stories/main/0,14179", ",2864350,00", ".", "html", "-LRB-", "19", "June", "2003", "-RRB-", ".", "236"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dual environment", "oracle", "database", "sql server", "sql"], "abstractive_keyphrases": ["sql language", "course design", "practical results", "ansi-standard sql", "teaching in it", "educational fundamentals", "database systems", "student feedbacks", "training vs. education"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "200", "document": ["Transactional", "Agent", "Model", "for", "Fault-Tolerant", "Object", "Systems", "A", "transactional", "agent", "is", "a", "mobile", "agent", "which", "manipulates", "objects", "in", "multiple", "computers", "by", "autonomously", "finding", "a", "way", "to", "visit", "the", "computers", ".", "The", "transactional", "agent", "commits", "only", "if", "its", "commitment", "condition", "like", "atomicity", "is", "satisfied", "in", "presence", "of", "faults", "of", "computers", ".", "On", "leaving", "a", "computer", ",", "an", "agent", "creates", "a", "surrogate", "agent", "which", "holds", "objects", "manipulated", ".", "A", "surrogate", "can", "recreate", "a", "new", "incarnation", "of", "the", "agent", "if", "the", "agent", "itself", "is", "faulty", ".", "If", "a", "destination", "computer", "is", "faulty", ",", "the", "transactional", "agent", "finds", "another", "operational", "computer", "to", "visit", ".", "After", "visiting", "computers", ",", "a", "transactional", "agent", "makes", "a", "destination", "on", "commitment", "according", "to", "its", "commitment", "condition", ".", "We", "discuss", "design", "and", "implementation", "of", "the", "transactional", "agent", "which", "is", "tolerant", "of", "computer", "faults", ".", "H.", "2.4", "-LSB-", "Systems", "-RSB-", ":", "Transaction", "processing", "Algorithms", ",", "Reliability", "A", "transaction", "manipulates", "multiple", "objects", "distributed", "in", "computers", "through", "methods", ".", "Objects", "are", "encapsulations", "of", "data", "and", "methods", "for", "manipulating", "the", "data", ".", "A", "transaction", "is", "modeled", "to", "be", "a", "sequence", "of", "methods", "which", "satisfies", "the", "ACID", "-LRB-", "atomicity", ",", "consistency", ",", "isolation", ",", "and", "dura-bility", "-RRB-", "properties", "-LSB-", "8", ",", "9", "-RSB-", ".", "Huge", "number", "and", "various", "types", "of", "peer", "computers", "are", "interconnected", "in", "peer-to-peer", "-LRB-", "P2P", "-RRB-", "networks", "-LSB-", "3", "-RSB-", ".", "Personal", "computers", "easily", "get", "faulty", "not", "only", "by", "crash", "but", "also", "by", "hackers", "and", "intrusions", ".", "A", "mobile", "agent", "can", "autonomously", "escape", "from", "faulty", "computers", "by", "moving", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SAC", "'05", "March", "13-17", ",", "2005", ",", "Santa", "Fe", ",", "New", "Mexico", ",", "USA", "Copyright", "2005", "ACM", "1-58113-964-0", "/", "05/0003", "...", "$", "5.00", ".", "to", "another", "operational", "computer", ".", "Mobile", "agents", "-LSB-", "5", ",", "19", "-RSB-", "are", "programs", "which", "move", "to", "remote", "computers", "and", "then", "locally", "manipulate", "objects", "on", "the", "computers", ".", "An", "ACID", "transaction", "initiates", "a", "subtransaction", "on", "each", "database", "server", ",", "which", "is", "realized", "in", "mobile", "agents", "-LSB-", "16", ",", "9", ",", "13", "-RSB-", ".", "In", "this", "paper", ",", "a", "transactional", "agent", "is", "a", "mobile", "agent", "which", "autonomously", "decides", "in", "which", "order", "the", "agent", "visits", "computers", "in", "presence", "of", "computer", "faults", ",", "and", "locally", "manipulates", "objects", "in", "a", "current", "computer", "with", "not", "only", "atomicity", "but", "also", "other", "types", "of", "commitment", "conditions", "like", "at-least-one", "condition", "-LSB-", "6", "-RSB-", ".", "After", "manipulating", "all", "or", "some", "objects", "in", "computers", ",", "an", "agent", "makes", "a", "decision", "on", "commit", "or", "abort", ".", "For", "example", ",", "an", "agent", "atomically", "commits", "only", "if", "all", "objects", "in", "the", "computers", "are", "successfully", "manipulated", "-LSB-", "4", "-RSB-", ".", "An", "agent", "commits", "if", "objects", "in", "at", "least", "one", "of", "the", "computers", "are", "successfully", "manipulated", ".", "In", "addition", ",", "an", "agent", "negotiates", "with", "another", "agent", "which", "would", "like", "to", "manipulate", "a", "same", "object", "in", "a", "conflicting", "manner", ".", "Through", "the", "negotiation", ",", "each", "agent", "autonomously", "makes", "a", "decision", "on", "whether", "the", "agent", "holds", "or", "releases", "the", "objects", "-LSB-", "6", ",", "14", "-RSB-", ".", "If", "an", "agent", "leaves", "a", "computer", ",", "objects", "locked", "by", "the", "agent", "are", "automatically", "released", ".", "Hence", ",", "once", "leaving", "a", "computer", ",", "an", "agent", "can", "not", "abort", ".", "An", "agent", "creates", "a", "surrogate", "agent", "on", "leaving", "a", "computer", ".", "A", "surrogate", "agent", "still", "holds", "locks", "on", "objects", "in", "a", "computer", "on", "behalf", "of", "the", "agent", "after", "the", "agent", "leaves", ".", "A", "transactional", "agent", "autonomously", "finds", "another", "destination", "computer", "if", "a", "destination", "computer", "is", "faulty", ".", "An", "agent", "and", "surrogate", "are", "faulty", "if", "the", "current", "computer", "is", "faulty", ".", "Some", "surrogate", "of", "the", "agent", "which", "exists", "on", "another", "computer", "recreates", "a", "new", "incarnation", "of", "the", "agent", ".", "Simi-larly", ",", "if", "a", "surrogate", "may", "be", "faulty", ",", "another", "surrogate", "detects", "the", "fault", "and", "takes", "a", "way", "to", "recover", "from", "the", "fault", ".", "For", "example", ",", "if", "an", "agent", "takes", "an", "at", "least", "one", "commitment", "condition", ",", "a", "fault", "of", "the", "surrogate", "can", "be", "neglected", "as", "long", "as", "at-least-one", "surrogate", "is", "operational", ".", "In", "section", "2", ",", "we", "present", "a", "system", "model", ".", "In", "section", "3", ",", "we", "discuss", "transactional", "agents", ".", "In", "section", "4", ",", "we", "discuss", "fault-tolerant", "mechanism", ".", "In", "sections", "5", "and", "6", ",", "we", "discuss", "implementation", "and", "evaluation", "of", "transactional", "agents", ".", "A", "system", "is", "composed", "of", "computers", "interconnected", "in", "reliable", "networks", ".", "Each", "computer", "is", "equipped", "with", "a", "class", "base", "-LRB-", "CB", "-RRB-", "where", "classes", "are", "stored", "and", "an", "object", "base", "-LRB-", "OB", "-RRB-", "which", "is", "a", "collection", "of", "persistent", "objects", ".", "A", "class", "is", "composed", "of", "attributes", "and", "methods", ".", "An", "object", "is", "an", "instantia-tion", "of", "a", "class", "which", "is", "an", "encapsulation", "of", "data", "and", "meth-1133", "2005", "ACM", "Symposium", "on", "Applied", "Computing", "ods", ".", "If", "result", "obtained", "by", "performing", "a", "pair", "of", "methods", "op", "1", "and", "op", "2", "on", "an", "object", "depends", "on", "the", "computation", "order", ",", "op", "1", "and", "op", "2", "conflict", "with", "one", "another", ".", "For", "example", ",", "a", "pair", "of", "methods", "increment", "and", "reset", "conflict", "on", "a", "counter", "object", ".", "On", "the", "other", "hand", ",", "increment", "and", "decrement", "do", "not", "conflict", ",", "i.e.", "are", "compatible", ".", "A", "transaction", "is", "modeled", "to", "be", "a", "sequence", "of", "methods", ",", "which", "satisfies", "the", "ACID", "properties", "-LSB-", "4", "-RSB-", ".", "Especially", ",", "a", "transaction", "can", "commit", "only", "if", "all", "the", "objects", "are", "successfully", "manipulated", ".", "If", "a", "method", "op", "1", "from", "a", "transaction", "T", "1", "is", "performed", "before", "a", "method", "op", "2", "from", "another", "transaction", "T", "2", "which", "conflicts", "with", "op", "1", ",", "every", "method", "op", "3", "from", "T", "1", "has", "to", "be", "performed", "before", "every", "method", "op", "4", "from", "T", "2", "conflicting", "with", "the", "method", "op", "3", ".", "This", "is", "the", "serializability", "property", "-LSB-", "2", ",", "4", "-RSB-", ".", "Locking", "protocols", "-LSB-", "2", ",", "4", ",", "7", "-RSB-", "are", "used", "to", "realize", "the", "serializability", "of", "transactions", ".", "Here", ",", "a", "transaction", "locks", "an", "object", "before", "manipulating", "the", "object", ".", "A", "mobile", "agent", "is", "a", "program", "which", "moves", "around", "computers", "and", "locally", "manipulates", "objects", "in", "each", "computer", "-LSB-", "5", ",", "18", ",", "19", "-RSB-", ".", "A", "mobile", "agent", "is", "composed", "of", "classes", ".", "A", "home", "computer", "home", "-LRB-", "c", "-RRB-", "of", "a", "class", "c", "is", "a", "computer", "where", "the", "class", "c", "is", "stored", ".", "For", "example", ",", "each", "class", "c", "is", "identified", "by", "a", "pair", "of", "IP", "address", "of", "a", "home", "computer", "home", "-LRB-", "c", "-RRB-", "and", "a", "local", "path", "to", "the", "directory", "where", "the", "class", "c", "is", "stored", ".", "A", "home", "computer", "home", "-LRB-", "A", "-RRB-", "of", "a", "mobile", "agent", "A", "is", "a", "home", "computer", "of", "the", "class", "of", "the", "agent", "A", ".", "A", "transactional", "agent", "is", "a", "mobile", "agent", "which", "satisfies", "the", "following", "properties", ":", "1", ".", "autonomously", "decides", "on", "which", "computer", "to", "visit", ".", "2", ".", "manipulates", "objects", "on", "multiple", "computer", ".", "3", ".", "commits", "only", "if", "some", "commitment", "condition", "of", "the", "agent", "is", "satisfied", ",", "otherwise", "aborts", ".", "For", "simplicity", ",", "a", "term", "agent", "means", "a", "transactional", "agent", "in", "this", "paper", ".", "Target", "objects", "are", "objects", "to", "be", "manipulated", "by", "an", "agent", ".", "T", "arget", "computers", "have", "the", "target", "objects", ".", "An", "agent", "A", "is", "composed", "of", "routing", "RC", "-LRB-", "A", "-RRB-", ",", "commitment", "CC", "-LRB-", "A", "-RRB-", ",", "and", "manipulation", "agents", "M", "C", "-LRB-", "A", ",", "D", "1", "-RRB-", ",", "...", ",", "M", "C", "-LRB-", "A", ",", "D", "n", "-RRB-", ",", "where", "D", "i", "stands", "for", "a", "target", "computer", "of", "the", "agent", "A.", "Here", ",", "let", "Dom", "-LRB-", "A", "-RRB-", "be", "a", "set", "of", "target", "computers", "D", "1", ",", "...", ",", "D", "n", "of", "an", "agent", "A.", "First", ",", "an", "agent", "A", "on", "a", "current", "computer", "has", "to", "move", "to", "a", "computer", "in", "Dom", "-LRB-", "A", "-RRB-", ".", "A", "computer", "D", "j", "to", "which", "an", "agent", "A", "on", "D", "i", "moves", "is", "a", "destination", "computer", ".", "An", "agent", "A", "has", "to", "autonomously", "make", "a", "decision", "on", "which", "computer", "to", "visit", ".", "In", "the", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", ",", "a", "destination", "computer", "is", "selected", ".", "Then", ",", "the", "agent", "A", "moves", "to", "the", "destination", "computer", ".", "Here", ",", "an", "agent", "first", "finds", "a", "candidate", "set", "of", "possible", "destination", "computers", ".", "Then", ",", "the", "agent", "selects", "one", "target", "computer", "in", "the", "candidate", "computers", "and", "moves", "to", "the", "computer", ".", "Secondly", ",", "a", "transactional", "agent", "A", "manipulates", "objects", "in", "a", "current", "computer", "D", ".", "The", "agent", "A", "initiates", "a", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "-RRB-", "for", "manipulating", "objects", "in", "the", "current", "computer", "D", "from", "the", "home", "computer", ".", "If", "an", "object", "base", "is", "realized", "in", "a", "relational", "database", "system", "-LSB-", "11", "-RSB-", ",", "objects", "are", "manipulated", "by", "issuing", "SQL", "commands", "in", "M", "C", "-LRB-", "A", ",", "D", "-RRB-", ".", "Lastly", ",", "a", "transactional", "agent", "makes", "a", "decision", "on", "whether", "the", "agent", "can", "commit", "or", "abort", "after", "visiting", "target", "computers", ".", "A", "traditional", "transaction", "-LSB-", "2", "-RSB-", "atomically", "commits", "only", "if", "objects", "in", "all", "the", "target", "computers", "are", "successfully", "manipulated", ".", "In", "this", "paper", ",", "we", "consider", "other", "types", "of", "commitment", "conditions", "-LSB-", "6", "-RSB-", ".", "For", "example", ",", "in", "the", "at-least-one", "commitment", ",", "a", "transaction", "can", "commit", "only", "if", "objects", "in", "at", "least", "one", "target", "computer", "are", "successfully", "manipulated", ".", "3.2", "Routing", "agent", "A", "transactional", "agent", "A", "locally", "manipulates", "objects", "in", "a", "computer", "D", "i", "through", "the", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "and", "then", "outputs", "intermediate", "objects", "OU", "T", "-LRB-", "A", ",", "D", "i", "-RRB-", ".", "In", "the", "meanwhile", ",", "the", "agent", "A", "visits", "another", "computer", "D", "j", ".", "Here", ",", "objects", "in", "D", "j", "are", "manipulated", "through", "the", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "j", "-RRB-", "by", "using", "the", "intermediate", "objects", "In", "-LRB-", "A", ",", "D", "j", "-RRB-", "-LRB-", "=", "OU", "T", "-LRB-", "A", ",", "D", "i", "-RRB-", "-RRB-", ".", "Thus", ",", "the", "manipulation", "classes", "are", "related", "with", "input-output", "relation", ".", "Here", ",", "D", "i", "x", "D", "j", "shows", "that", "the", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "outputs", "an", "intermediate", "object", "x", "which", "is", "used", "by", "M", "C", "-LRB-", "A", ",", "D", "j", "-RRB-", ".", "If", "D", "i", "x", "D", "j", ",", "the", "agent", "A", "has", "to", "visit", "D", "i", "before", "D", "j", "and", "the", "intermediate", "object", "x", "has", "to", "be", "delivered", "to", "D", "j", ".", "The", "input-output", "relation", "is", "shown", "in", "an", "input-output", "graph", "as", "shown", "in", "Figure", "1", ".", "D", "5", "x", "y", "z", "w", "D", "1", "D", "2", "D", "4", "D", "3", ":", "computer", ":", "temporary", "object", "Figure", "1", ":", "Input-output", "graph", "There", "are", "computer", "and", "object", "nodes", ".", "Directed", "edges", "D", "i", "x", "and", "x", "D", "i", "show", "that", "the", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "outputs", "and", "inputs", "an", "object", "x", ",", "respectively", ".", "In", "Figure", "1", ",", "the", "agent", "A", "outputs", "an", "intermediate", "object", "w", "in", "D", "i", ".", "The", "agent", "A", "uses", "x", "in", "D", "3", ",", "D", "4", ",", "and", "D", "5", ".", "This", "means", "the", "agent", "A", "is", "required", "to", "visit", "D", "3", ",", "D", "4", ",", "and", "D", "5", "after", "D", "1", ".", "From", "the", "input-output", "graph", ",", "a", "transactional", "agent", "A", "decides", "in", "which", "order", "the", "agent", "visits", ".", "A", "directed", "acyclic", "graph", "-LRB-", "DAG", "-RRB-", "M", "ap", "-LRB-", "A", "-RRB-", "named", "a", "map", "is", "created", "from", "the", "input-output", "graph", "-LSB-", "Figure", "2", "-RSB-", ".", "Here", ",", "a", "node", "D", "shows", "a", "computer", "D", "with", "a", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "-RRB-", ".", "A", "directed", "edge", "D", "1", "D", "2", "a", "computer", "D", "2", "is", "required", "to", "be", "manipulated", "after", "D", "1", ".", "D", "1", "D", "2", "if", "and", "only", "if", "-LRB-", "if", "f", "-RRB-", "D", "1", "D", "2", "or", "D", "1", "D", "3", "D", "2", "for", "some", "computer", "D", "3", ".", "D", "1", "and", "D", "2", "are", "independent", "-LRB-", "D", "1", "D", "2", "-RRB-", "if", "neither", "D", "1", "D", "2", "nor", "D", "2", "D", "1", ".", "Here", ",", "a", "transactional", "agent", "A", "can", "visit", "the", "computers", "D", "1", "and", "D", "2", "in", "any", "order", "and", "can", "in", "parallel", "visit", "the", "computers", "D", "1", "and", "D", "2", ".", "Figure", "2", "shows", "an", "example", "of", "a", "map", "M", "ap", "-LRB-", "A", "-RRB-", "obtained", "from", "the", "input-output", "graph", "of", "Figure", "1", ".", "Here", ",", "an", "agent", "A", "is", "required", "to", "visit", "a", "computer", "D", "3", "after", "D", "1", ",", "D", "4", "after", "D", "2", "and", "D", "3", ",", "and", "D", "5", "after", "D", "4", ".", "On", "the", "other", "hand", ",", "an", "agent", "A", "can", "visit", "D", "1", "and", "D", "2", "in", "any", "order", ",", "even", "in", "parallel", ".", "In", "Figure", "1", ",", "the", "intermediate", "object", "w", "has", "to", "be", "delivered", "to", "D", "3", ",", "D", "4", ",", "and", "D", "5", ".", "There", "are", "following", "ways", "to", "bring", "an", "intermediate", "object", "x", "obtained", "in", "D", "i", "to", "D", "j", ":", "1", ".", "A", "transactional", "agent", "A", "carries", "the", "intermediate", "object", "x", "to", "D", "j", ".", "2", ".", "x", "is", "transfered", "from", "D", "i", "to", "D", "j", "before", "A", "arrives", "at", "D", "j", ".", "3", ".", "x", "is", "transfered", "from", "D", "i", "to", "D", "j", "after", "A", "arrives", "at", "D", "j", ".", "A", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", "of", "a", "transactional", "agent", "A", "with", "a", "map", "M", "ap", "-LRB-", "A", "-RRB-", "is", "moving", "around", "computers", "-LSB-", "Figure", "3", "-RSB-", ".", "First", ",", "1134", "D", "1", "D", "2", "D", "3", "D", "4", "D", "5", "Figure", "2", ":", "Map", ".", "a", "collection", "I", "of", "computers", "which", "do", "not", "have", "any", "in-coming", "edge", "are", "found", "in", "M", "ap", "-LRB-", "A", "-RRB-", ".", "For", "example", ",", "I", "=", "-LCB-", "D", "1", ",", "D", "2", "-RCB-", "in", "Figure", "2", ".", "One", "computer", "D", "i", "is", "selected", "in", "I", "so", "as", "to", "satisfy", "some", "condition", ",", "e.g.", "D", "i", "nearest", "to", "the", "current", "computer", "is", "selected", ".", "For", "example", ",", "an", "agent", "takes", "a", "computer", "D", "1", "in", "Figure", "2", ".", "The", "agent", "A", "moves", "to", "D", "i", ".", "Here", ",", "a", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "is", "loaded", "to", "D", "i", "from", "the", "home", "computer", ".", "After", "manipulating", "objects", "in", "D", "i", ",", "D", "i", "is", "removed", "from", "M", "ap", "-LRB-", "A", "-RRB-", ".", "Another", "destination", "D", "j", "is", "selected", "and", "A", "moves", "to", "D", "j", ".", "Initially", ",", "a", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", "of", "the", "agent", "A", "is", "loaded", "and", "started", "on", "a", "computer", ".", "The", "computer", "is", "a", "base", "computer", "base", "-LRB-", "A", "-RRB-", "of", "the", "agent", "A", ".", "An", "agent", "A", "leaves", "the", "base", "computer", "for", "a", "computer", "D", "i", ".", "Here", ",", "D", "i", "is", "a", "current", "computer", "current", "-LRB-", "A", "-RRB-", "of", "A", ".", "If", "the", "agent", "A", "invokes", "a", "method", "t", "of", "a", "class", "c", "on", "D", "i", ",", "the", "class", "c", "is", "searched", ":", "1", ".", "The", "cache", "of", "the", "current", "computer", "D", "i", "is", "first", "searched", "for", "the", "class", "c", ".", "If", "c", "is", "found", "in", "the", "cache", ",", "the", "method", "t", "in", "the", "cache", "is", "invoked", ".", "2", ".", "If", "not", ",", "the", "class", "base", "-LRB-", "CB", "i", "-RRB-", "of", "D", "i", "is", "locally", "searched", ".", "If", "found", ",", "the", "class", "c", "in", "CB", "i", "is", "taken", "to", "invoke", "t.", "3", ".", "Otherwise", ",", "the", "class", "c", "is", "transferred", "from", "the", "home", "computer", "home", "-LRB-", "c", "-RRB-", "into", "D", "i", ".", "A", "history", "H", "-LRB-", "A", "-RRB-", "shows", "a", "sequence", "of", "computers", "which", "an", "agent", "A", "has", "visited", ".", "CB", "D1", "D2", ":", "routing", "agent", ":", "manipulation", "agent", ":", "map", "Figure", "3", ":", "Mobile", "agent", ".", "3.3", "Manipulation", "agent", "A", "manipulation", "agent", "is", "composed", "of", "not", "only", "application-specific", "classes", "but", "also", "library", "classes", "like", "JDBC", "-LSB-", "17", "-RSB-", "and", "JAVA", "classes", "-LSB-", "18", "-RSB-", ".", "Each", "computer", "is", "assumed", "to", "support", "a", "platform", "to", "perform", "a", "mobile", "agent", "on", "an", "object", "base", "-LRB-", "OB", "-RRB-", ".", "A", "platform", "includes", "cache", "and", "class", "base", "-LRB-", "CB", "-RRB-", ".", "The", "routing", ",", "manipulation", ",", "and", "commitment", "agents", "of", "a", "transactional", "agent", "A", "are", "stored", "in", "the", "class", "base", "-LRB-", "CB", "-RRB-", "of", "the", "home", "computer", "home", "-LRB-", "A", "-RRB-", ".", "If", "an", "agent", "A", "invokes", "a", "method", "t", "of", "a", "class", "c", "in", "a", "computer", "D", "i", ",", "the", "class", "c", "is", "loaded", "from", "the", "home", "computer", "home", "-LRB-", "c", "-RRB-", "to", "the", "cache", "in", "D", "i", ".", "Then", ",", "the", "method", "t", "of", "the", "class", "c", "is", "performed", "in", "D", "i", ".", "If", "a", "method", "u", "of", "another", "class", "d", "is", "invoked", "in", "the", "method", "t", ",", "the", "class", "d", "is", "loaded", "from", "the", "home", "computer", "home", "-LRB-", "d", "-RRB-", "as", "well", "as", "the", "class", "c.", "Meanwhile", ",", "if", "another", "agent", "B", "invokes", "a", "method", "t", "of", "the", "class", "c", "in", "D", "i", ",", "the", "class", "c", "in", "the", "cache", "is", "used", "to", "invoke", "the", "method", "t", "without", "loading", "the", "class", "c.", "Thus", ",", "if", "classes", "are", "cashed", "in", "a", "computer", "D", "i", ",", "methods", "in", "the", "classes", "are", "locally", "invoked", "in", "D", "i", "without", "any", "communication", ".", "Otherwise", ",", "it", "takes", "a", "longer", "time", "to", "invoke", "methods", "since", "classes", "with", "the", "methods", "are", "transferred", "from", "the", "home", "computers", "in", "networks", ".", "Here", ",", "the", "class", "c", "is", "loaded", "i.e.", "cached", "to", "D", "i", ".", "The", "method", "t", "of", "the", "class", "c", "is", "performed", "on", "D", "i", ".", "If", "another", "agent", "B", "comes", "to", "D", "i", "after", "A", "has", "left", "D", "i", ",", "B", "can", "take", "usage", "of", "the", "class", "c", "in", "the", "cache", ".", "3.4", "Commitment", "agent", "If", "a", "transactional", "agent", "A", "finishes", "manipulating", "objects", "in", "each", "computer", ",", "the", "following", "commitment", "condition", "is", "checked", "by", "the", "commitment", "agent", "CC", "-LRB-", "A", "-RRB-", ":", "1", ".", "Atomic", "commitment", ":", "an", "agent", "is", "successfully", "performed", "on", "all", "the", "computers", "in", "the", "domain", "Dom", "-LRB-", "A", "-RRB-", ",", "i.e.", "all-or", "-", "nothing", "principle", "used", "in", "the", "traditional", "two-phase", "commitment", "protocol", "-LSB-", "4", ",", "15", "-RSB-", ".", "2", ".", "Majority", "commitment", ":", "an", "agent", "is", "successfully", "performed", "on", "more", "than", "half", "of", "the", "computers", "in", "Dom", "-LRB-", "A", "-RRB-", ".", "3", ".", "At-least-one", "commitment", ":", "an", "agent", "is", "successfully", "performed", "on", "at", "least", "one", "computer", "in", "Dom", "-LRB-", "A", "-RRB-", ".", "4", ".", "n", "r", "commitment", ":", "an", "agent", "is", "successfully", "performed", "on", "more", "than", "r", "out", "of", "n", "computers", "-LRB-", "r", "n", "-RRB-", "in", "Dom", "-LRB-", "A", "-RRB-", ".", "5", ".", "Application", "specific", "commitment", ":", "condition", "specified", "by", "application", "is", "satisfied", ".", "3.5", "Resolution", "of", "confliction", "Suppose", "an", "agent", "A", "moves", "to", "a", "computer", "D", "j", "from", "another", "computer", "D", "i", ".", "The", "agnet", "A", "can", "not", "be", "performed", "on", "D", "j", "if", "there", "is", "an", "agent", "or", "surrogate", "B", "conflicting", "with", "A.", "Here", ",", "the", "agent", "A", "can", "take", "one", "of", "the", "following", "ways", ":", "1", ".", "W", "ait", ":", "The", "agent", "A", "in", "the", "computer", "D", "i", "waits", "until", "the", "agent", "A", "can", "land", "at", "a", "computer", "D", "j", ".", "2", ".", "Escape", ":", "The", "agent", "A", "f", "inds", "another", "computer", "D", "k", "which", "has", "objects", "to", "be", "manipulated", "before", "D", "j", ".", "3", ".", "N", "egotiate", ":", "The", "agent", "A", "negotiates", "with", "the", "agent", "B", "in", "D", "j", ".", "After", "the", "negotiation", ",", "B", "releases", "the", "objects", "or", "aborts", ".", "4", ".", "Abort", ":", "The", "agent", "A", "aborts", ".", "Deadlock", "among", "agents", "may", "occur", ".", "If", "the", "timer", "expires", ",", "the", "agent", "A", "takes", "a", "following", "way", ":", "1", ".", "The", "agent", "A", "retreats", "to", "a", "computer", "D", "j", "in", "the", "history", "H", "-LRB-", "A", "-RRB-", ".", "All", "surrogates", "preceding", "D", "j", "are", "aborted", ".", "2", ".", "Then", ",", "the", "surrogate", "agent", "A", "j", "on", "D", "j", "recreates", "a", "new", "incarnation", "of", "the", "agent", "A", ".", "The", "agent", "A", "finds", "another", "destination", "computer", "D", "h", ".", "The", "surrogate", "A", "j", "to", "which", "the", "agent", "A", "retreats", "plays", "a", "role", "of", "checkpoint", "-LSB-", "12", "-RSB-", ".", "Suppose", "a", "surrogate", "agent", "B", "holds", "an", "object", "in", "a", "computer", "D", "j", ".", "An", "agent", "A", "would", "like", "to", "manipulate", "the", "object", "but", "conflicts", "with", "B", "in", "D", "j", ".", "The", "surrogate", "B", "makes", "a", "following", "decision", ":", "1", ".", "Atomic", "commitment", ":", "The", "agent", "A", "waits", "until", "the", "surrogate", "B", "finishes", ".", "2", ".", "At-least-one", "commitment", ":", "If", "the", "surrogate", "B", "knows", "at", "least", "one", "sibling", "surrogate", "of", "B", "is", "committable", ",", "B", "releases", "the", "object", "and", "aborts", "after", "informing", "the", "other", "sibling", "surrogates", "of", "this", "abort", ".", "3", ".", "Majority", "commitment", ":", "If", "the", "surrogate", "B", "knows", "more", "than", "half", "of", "the", "sibling", "surrogates", "are", "committable", ",", "B", "releases", "the", "object", "and", "aborts", "after", "informing", "the", "other", "surrogates", ".", "4", ".", "n", "r", "commitment", ":", "If", "the", "surrogate", "B", "knows", "more", "than", "1135", "or", "equal", "to", "r", "sibling", "surrogate", "agents", "are", "committable", ",", "the", "surrogate", "B", "releases", "the", "object", "and", "aborts", ".", "We", "assume", "computers", "may", "stop", "by", "fault", "and", "networks", "are", "reliable", ".", "A", "transactional", "agent", "is", "faulty", "only", "if", "a", "current", "computer", "of", "the", "agent", "is", "faulty", ".", "Suppose", "an", "agent", "A", "finishes", "manipulating", "objects", "on", "a", "computer", "D", "i", ".", "The", "agent", "A", "selects", "one", "computer", "D", "j", "from", "the", "map", "M", "ap", "-LRB-", "A", ",", "D", "i", "-RRB-", ".", "The", "agent", "A", "detects", "by", "timeout", "mechanism", "that", "D", "j", "is", "faulty", ".", "The", "agent", "A", "tries", "to", "find", "another", "destination", "computer", "D", "k", "-LSB-", "Figure", "4", "-RSB-", ".", "If", "found", ",", "A", "moves", "to", "D", "k", "as", "presented", "here", ".", "If", "A", "can", "not", "find", "another", "destination", "computer", "in", "M", "ap", "-LRB-", "A", ",", "D", "i", "-RRB-", ",", "the", "agent", "A", "backs", "to", "the", "preceding", "computer", "D", "k", "-LSB-", "Figure", "5", "-RSB-", ".", "D", "i", "is", "removed", "from", "M", "ap", "-LRB-", "A", ",", "D", "k", "-RRB-", ".", "Then", ",", "the", "agent", "in", "D", "k", "tries", "to", "find", "another", "destination", "computer", "in", "M", "ap", "-LRB-", "A", ",", "D", "k", "-RRB-", ".", "Di", "Dj", "Dk", "Figure", "4", ":", "Forwarding", "recovery", ".", "Dk", "Di", "Dj", "Figure", "5", ":", "Backwarding", "recovery", ".", "An", "agent", "A", "leaves", "its", "surrogate", "agent", "A", "i", "on", "a", "computer", "D", "i", ".", "The", "surrogate", "A", "i", "holds", "objects", "even", "after", "the", "agent", "A", "leaves", "D", "i", ".", "An", "agent", "A", "and", "surrogate", "agent", "A", "i", "stop", "if", "the", "current", "computers", "are", "faulty", ".", "First", ",", "suppose", "an", "agent", "A", "stops", "on", "the", "current", "computer", "D", "j", ".", "Suppose", "that", "the", "agent", "A", "comes", "from", "D", "i", "to", "D", "j", ".", "The", "surrogate", "A", "i", "on", "D", "i", "detects", "that", "the", "agent", "A", "stops", "on", "D", "j", ".", "Here", ",", "A", "i", "takes", "one", "of", "the", "following", "actions", ":", "1", ".", "Find", "a", "succeeding", "surrogate", "A", "k", "of", "A", "i", "and", "skips", "A", "j", ".", "2", ".", "Recreate", "a", "new", "incarnation", "of", "the", "agent", "A", ".", "If", "the", "commitment", "condition", "is", "not", "atomic", ",", "the", "surrogate", "A", "j", "takes", "the", "first", "one", ",", "i.e.", "skips", "the", "fault", "of", "A", "j", ".", "For", "the", "atomic", "condition", ",", "A", "i", "recreates", "a", "new", "incarnation", "of", "the", "agent", "A", ".", "The", "agent", "A", "takes", "another", "destination", "computer", "D", "k", "in", "M", "ap", "-LRB-", "A", ",", "D", "i", "-RRB-", ".", "If", "found", ",", "the", "agent", "A", "moves", "to", "D", "k", ".", "Otherwise", ",", "A", "waits", "until", "the", "computer", "D", "i", "is", "recovered", "or", "backs", "to", "the", "precedent", "computer", "from", "D", "j", ".", "A", "surrogate", "A", "i", "on", "a", "computer", "D", "i", "may", "be", "faulty", "as", "well", ".", "A", "preceding", "surrogate", "A", "j", "on", "D", "j", "detects", "the", "fault", "of", "A", "i", ".", "Suppose", "a", "surrogate", "agent", "A", "i", "of", "A", "exists", "on", "D", "i", ".", "A", "i", "+1", "and", "A", "i-1", "show", "the", "succeeding", "and", "precedeing", "surrogate", "agents", "of", "A", "i", ",", "respectively", "-LSB-", "Figure", "6", "-RSB-", ".", "A", "i", "periodically", "sends", "an", "enquiry", "message", "AYL", "-LRB-", "are", "you", "alive", "-RRB-", "to", "A", "i", "+1", "and", "A", "i-1", "to", "check", "if", "A", "i", "+1", "and", "A", "i", "are", "alive", ".", "On", "receipt", "of", "the", "AYL", "message", ",", "a", "surrogate", "sends", "back", "a", "response", "message", "IAL", "-LRB-", "I", "am", "alive", "-RRB-", ".", "Thus", ",", "a", "faulty", "surrogate", "is", "detected", "by", "the", "succeeding", "and", "preceding", "a", "surrogate", "with", "timeout", "mechanism", ".", "If", "A", "i", "detects", "the", "stop", "of", "A", "i", "+1", ",", "A", "i", "does", "the", "follwings", ":", "1", ".", "A", "new", "incarnation", "of", "the", "agent", "A", "is", "recreated", "on", "D", "i", ".", "2", ".", "From", "the", "map", "M", "ap", "-LRB-", "A", ",", "D", "i", "-RRB-", ",", "a", "new", "destination", "D", "different", "from", "D", "i-1", "is", "detected", ".", "A", "i-1", "A", "i", "A", "i", "+1", "AYL", "AYL", "IAL", "IAL", "Figure", "6", ":", "Fault", "detection", ".", "3", ".", "If", "detected", ",", "the", "agent", "A", "moves", "to", "D.", "Otherwise", ",", "A", "i", "informs", "A", "i-1", "of", "abort", "and", "then", "aborts", ".", "A", "i-1", "does", "the", "procedure", "from", "step", "1", ".", "If", "the", "surrogate", "A", "i", "detects", "the", "stop", "of", "the", "preceding", "surrogate", "A", "i-1", "or", "receives", "an", "abort", "message", "for", "A", "i-1", ",", "A", "i", "informs", "the", "succeeding", "surrogate", "A", "i", "+1", "of", "abort", ".", "On", "receipt", "of", "the", "abort", "message", "from", "A", "i", ",", "A", "i", "+1", "forwards", "the", "abort", "message", "to", "A", "i", "+2", "and", "then", "aborts", ".", "Thus", ",", "abort", "messages", "are", "eventually", "forwarded", "up", "to", "the", "agent", "A", ".", "In", "Figure", "7", ",", "suppose", "A", "2", "stops", ".", "A", "pair", "of", "surrogates", "A", "1", "and", "A", "3", "detect", "the", "stop", "of", "A", "2", ".", "A", "1", "creates", "a", "new", "incarnation", "A", "of", "the", "agent", "A", ".", "The", "obsolete", "incarnation", "A", "still", "is", "moving", "to", "D", "6", ".", "The", "succeeding", "surrogate", "A", "3", "of", "A", "2", "sends", "an", "abort", "message", "to", "A", "4", ".", "If", "the", "abort", "message", "catches", "up", "the", "agent", "A", ",", "A", "can", "be", "aborted", ".", "Otherwise", ",", "the", "obsolete", "incarnation", "A", "can", "not", "stop", ".", "Thus", ",", "there", "might", "exist", "multiple", "incarnations", "of", "an", "agent", ".", "A0", "A1", "A2", "A3", "A4", "A", "D1", "D2", "D3", "D4", "D5", "D6", "A", "'", "Ai", ":", "surrogate", "A", ":", "agent", "Figure", "7", ":", "Incarnations", "of", "an", "agent", ".", "On", "receipt", "of", "an", "AY", "L", "message", "from", "the", "preceding", "surrogate", "A", "i-1", ",", "A", "i", "sends", "an", "IAL", "message", "with", "the", "address", "information", "which", "A", "i", "knows", "of", "surrogates", "are", "backwarding", "to", "preceding", "surrogates", ".", "If", "the", "surrogate", "A", "i", "finds", "A", "i-1", "to", "be", "faulty", ",", "A", "i", "sends", "an", "abort", "message", "to", "not", "only", "A", "i", "+1", "but", "also", "a", "surrogate", "whose", "address", "A", "i", "knows", "and", "which", "is", "nearest", "to", "the", "current", "computer", "of", "A.", "By", "this", "method", ",", "an", "abort", "message", "can", "more", "easily", "catch", "up", "with", "the", "agent", "mapped", "the", "agent", "can", "be", "aborted", ".", "We", "discuss", "how", "to", "implement", "transactional", "agents", "in", "Aglets", ".", "A", "transactional", "agent", "A", "is", "composed", "of", "routing", ",", "manipulation", ",", "and", "commitment", "subagents", ".", "An", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", "with", "a", "map", "M", "ap", "-LRB-", "A", "-RRB-", "is", "transfered", "from", "one", "computer", "to", "another", ".", "When", "an", "agent", "A", ",", "i.e.", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", "arrives", "at", "a", "computer", "D", "i", ",", "a", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "is", "created", "by", "loading", "the", "manipulation", "class", ".", "An", "object", "base", "-LRB-", "OB", "-RRB-", "is", "realized", "in", "a", "relational", "database", "system", ",", "Oracle", "-LSB-", "11", "-RSB-", ".", "A", "transactional", "agent", "manipulates", "table", "objects", "by", "issuing", "SQL", "commands", ",", "i.e.", "select", ",", "insert", ",", "delete", ",", "and", "update", "in", "a", "current", "computer", "D", "i", ".", "The", "computation", "of", "each", "agent", "A", "on", "a", "computer", "D", "i", "is", "realized", "as", "a", "local", "transaction", "on", "a", "database", "system", ".", "If", "the", "agent", "A", "leaves", "D", "i", ",", "the", "transaction", "for", "A", "commits", "or", "aborts", ".", "That", "is", ",", "objects", "manipulated", "by", "A", "are", "released", ".", "Even", "if", "the", "agent", "A", "leaves", "D", "i", ",", "the", "objects", "manipulated", "by", "A", "are", "required", "to", "be", "still", "held", "because", "A", "may", "abort", "after", "leaving", "D", "i", ".", "If", "the", "1136", "objects", "are", "released", ",", "the", "agent", "is", "unrecoverable", ".", "Therefore", ",", "a", "surrogate", "agent", "is", "created", "on", "D", "i", ".", "The", "surrogate", "agent", "is", "composed", "of", "a", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "and", "an", "object", "agent", "OBA", "i", ".", "OBA", "i", "behaves", "as", "follows", ":", "1", ".", "On", "arrival", "at", "a", "computer", "D", "i", ",", "the", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", "of", "an", "agent", "A", "initiates", "a", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "and", "an", "object", "agent", "OBA", "i", "on", "D", "i", ",", "i.e.", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "and", "OBA", "classes", "are", "loaded", ".", "OBA", "i", "initiates", "a", "transaction", "on", "an", "object", "base", "OB", "i", ".", "2", ".", "If", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "issues", "a", "method", "for", "manipulating", "objects", ",", "OBA", "i", "issues", "SQL", "commands", "to", "the", "database", "system", "in", "D", "i", ".", "3", ".", "If", "the", "agent", "A", "finishes", ",", "A", "leaves", "D", "i", ".", "However", ",", "OBA", "i", "is", "still", "operational", "and", "holding", "the", "objects", "in", "D", "i", ".", "4", ".", "OBA", "i", "commits", "and", "aborts", "if", "the", "agent", "A", "sends", "commit", "and", "abort", "requests", "to", "the", "surrogate", "A", "i", ",", "respectively", ".", "An", "object", "agent", "OBA", "i", "stays", "on", "a", "computer", "D", "i", "while", "holding", "objects", "even", "if", "the", "agent", "A", "leaves", "D", "i", ".", "OBA", "i", "is", "a", "local", "transaction", "on", "an", "object", "base", "OB", "i", ".", "On", "completion", "of", "the", "agent", "A", ",", "OBA", "i", "and", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "are", "terminated", ".", "OB", "i", "D", "i", "OBA", "OBA", "i", "SQL", "XA", "MC", "-LRB-", "A", ",", "D", "i", "-RRB-", "RC", "-LRB-", "A", "-RRB-", "Figure", "8", ":", "Object", "agent", "-LRB-", "OBA", "-RRB-", ".", "An", "OBA", "class", "can", "be", "loaded", "to", "a", "computer", "with", "any", "type", "of", "database", "system", ".", "If", "a", "transactional", "agent", "comes", "to", "D", "i", "from", "another", "home", "computer", ",", "an", "OBA", "class", "is", "loaded", "to", "D", "i", "from", "the", "home", "computer", ".", "Thus", ",", "OBA", "instances", "are", "accumulated", "in", "the", "cache", ".", "In", "order", "to", "resolve", "this", "problem", ",", "an", "OBA", "class", "is", "loaded", "as", "follows", ":", "1", ".", "If", "the", "OBA", "class", "is", "not", "cached", "in", "the", "current", "computer", ",", "the", "OBA", "class", "is", "loaded", "from", "home", "-LRB-", "OBA", "-RRB-", ".", "2", ".", "If", "the", "OBA", "class", "could", "not", "be", "loaded", "from", "home", "-LRB-", "OBA", "-RRB-", ",", "an", "OBA", "class", "in", "the", "home", "computer", "of", "the", "agent", "is", "loaded", "to", "a", "computer", ".", "The", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", "leaves", "a", "computer", "D", "i", "if", "the", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "finishes", "manipulating", "objects", ".", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "recreates", "a", "new", "incarnation", "of", "a", "routing", "agent", "RC", "-LRB-", "A", "-RRB-", "if", "the", "agent", "A", "stops", "due", "to", "the", "computer", "fault", ".", "A", "transactional", "agent", "A", "can", "commit", "if", "all", "or", "some", "of", "the", "surrogates", "commit", "depending", "on", "the", "commitment", "condition", ".", "For", "example", ",", "a", "transactional", "agent", "commits", "if", "all", "the", "surrogate", "agents", "successfully", "exist", ".", "Communication", "among", "an", "agent", "and", "its", "surrogate", "agents", "is", "realized", "by", "using", "the", "XA", "interface", "-LSB-", "20", "-RSB-", "which", "supports", "the", "two-phase", "commitment", "protocol", "-LSB-", "15", "-RSB-", "-LSB-", "Figure", "8", "-RSB-", ".", "Each", "surrogate", "agent", "issues", "a", "prepare", "request", "to", "a", "computer", "on", "receipt", "of", "a", "prepare", "message", "from", "A", ".", "If", "prepare", "is", "successfully", "performed", ",", "the", "surrogate", "agent", "sends", "a", "prepared", "message", "to", "A.", "Here", ",", "the", "surrogate", "agent", "is", "committable", ".", "Otherwise", ",", "the", "surrogate", "agent", "aborts", "after", "sending", "aborted", "to", "A", ".", "The", "agent", "A", "receives", "responses", "from", "the", "surrogate", "agents", "after", "sending", "prepare", "to", "the", "surrogates", ".", "On", "receipt", "of", "the", "responses", "from", "surrogate", "agents", ",", "the", "agent", "A", "makes", "a", "decision", "on", "commit", "or", "abort", "based", "on", "the", "commitment", "condition", ".", "For", "example", ",", "if", "the", "atomic", "condition", "holds", ",", "A", "sends", "commit", "only", "if", "prepared", "is", "received", "from", "every", "surrogate", ".", "The", "agent", "A", "sends", "abort", "to", "all", "committable", "agents", "if", "an", "aborted", "message", "is", "received", "from", "at", "least", "one", "surrogate", ".", "On", "receipt", "of", "abort", ",", "a", "committable", "surrogate", "aborts", ".", "In", "the", "at-least-one", "commitment", "condition", ",", "A", "sends", "commit", "to", "all", "committable", "surrogates", "only", "if", "prepared", "is", "received", "from", "at", "least", "one", "surrogate", ".", "Next", ",", "we", "discuss", "how", "to", "support", "robustness", "against", "faults", "of", "computers", ".", "Suppose", "a", "surrogate", "agent", "A", "i", "of", "a", "transactional", "agent", "A", "stops", "after", "sending", "prepared", ".", "Here", ",", "A", "i", "is", "committable", ".", "On", "recovery", "of", "the", "committable", "surrogate", "A", "i", ",", "A", "i", "unilaterly", "commits", "if", "the", "surrogate", "agent", "is", "committable", "in", "the", "at-least-one", "commitment", "condition", ".", "In", "the", "atomic", "condition", ",", "A", "i", "asks", "the", "other", "surrogates", "if", "they", "had", "commit-ted", ".", "Suppose", "A", "i", "is", "abortable", ",", "i.e.", "faulty", "before", "receiving", "prepared", ".", "On", "recovery", ",", "A", "i", "unilaterly", "aborts", ".", "Client", "create", "D", "1", "move", "result", "Routing", "Agent", "Database", "Server", "Manipulation", "Agent", "Object", "Agent", "M", "1", "M", "2", "M", "1", "D", "2", "result", "M", "2", "Home", "Computer", "move", "move", "D", "3", "manipulate", "result", "M", "3", "M", "3", "result", "result", "result", "manipulate", "manipulate", "Figure", "9", ":", "Evaluation", "model", "We", "evaluate", "the", "transactional", "agent", "which", "is", "implemented", "in", "Aglets", ".", "In", "the", "evaluation", ",", "There", "are", "three", "server", "computers", "D", "1", ",", "D", "2", ",", "and", "D", "3", ".", "A", "transactonal", "agent", "is", "created", "in", "a", "computer", "C", "by", "loading", "classes", "from", "the", "home", "computer", "h", ".", "The", "servers", "D", "1", ",", "D", "2", ",", "and", "D", "3", "are", "realized", "in", "personal", "computers", "-LRB-", "Pentium", "3", "-RRB-", "with", "Oracle", "database", "systems", ",", "which", "are", "interconnected", "in", "the", "1", "Gbps", "Ethernet", ".", "First", ",", "a", "transactional", "agent", "A", "is", "initiated", "in", "a", "base", "computer", "C", ".", "The", "agent", "A", "finds", "in", "which", "order", "D", "1", ",", "D", "2", ",", "and", "D", "3", "to", "be", "visited", ".", "Here", ",", "the", "agent", "A", "visits", "D", "1", ",", "D", "2", ",", "and", "D", "3", "in", "this", "order", "as", "shown", "in", "Figure", "9", ".", "On", "arrival", "of", "the", "agent", "A", "on", "D", "i", ",", "the", "manipulation", "agent", "M", "C", "-LRB-", "A", ",", "D", "i", "-RRB-", "and", "object", "agent", "OBA", "i", "are", "loaded", "to", "D", "i", "-LSB-", "Figure", "9", "-RSB-", ".", "We", "consider", "that", "following", "types", "of", "transactional", "agents", ":", "A", ".", "The", "manipulation", "agents", "M", "C", "-LRB-", "A", ",", "D", "1", "-RRB-", "derives", "intermediate", "object", "I", "from", "the", "object", "base", ".", "The", "object", "bases", "in", "D", "2", "and", "D", "3", "are", "updated", "by", "using", "the", "object", "I", ",", "i.e.", "objects", "in", "I", "are", "added", "to", "the", "object", "base", ".", "B.", "M", "C", "-LRB-", "A", ",", "D", "1", "-RRB-", "and", "M", "C", "-LRB-", "A", ",", "D", "2", "-RRB-", "derive", "objects", "to", "intermediate", "objects", "I", "1", "and", "I", "2", ",", "respectively", ".", "Then", ",", "the", "object", "base", "in", "D", "3", "is", "manipulated", "by", "using", "I", "1", "and", "I", "2", ".", "There", "are", "three", "ways", "to", "deliver", "intermediate", "objects", "de-rived", "to", "another", "computer", ":", "1", ".", "The", "transactional", "agent", "A", "carries", "intermediate", "objects", "to", "a", "destination", "computer", "D", "j", "from", "D", "i", ".", "1137", "2", ".", "After", "the", "agent", "A", "arrives", "at", "a", "computer", "D", "j", ",", "the", "agent", "A", "requests", "D", "i", "to", "send", "the", "intermediate", "objects", ".", "3", ".", "The", "agent", "A", "transfers", "the", "intermediate", "object", "I", "to", "a", "computer", "D", "j", "before", "leaving", "D", "i", ".", "The", "total", "response", "time", "of", "a", "transactional", "agent", "is", "measured", "for", "number", "of", "intermediate", "objects", ",", "i.e.", "number", "of", "tuples", "deriverd", "in", "computeres", ".", "Figures", "10", "and", "11", "show", "the", "response", "time", "for", "the", "types", "of", "transactional", "agents", "A", "and", "B", ",", "respectively", ".", "The", "second", "and", "third", "ways", "to", "deliver", "intermediate", "objects", "to", "destination", "computers", "imply", "shorter", "responce", "time", "than", "the", "first", "way", ".", "Figure", "10", ":", "Response", "A", "Figure", "11", ":", "Response", "B", "The", "authors", "discussed", "a", "transactional", "agent", "model", "to", "manipulate", "objects", "in", "multiple", "computers", "with", "types", "of", "commitment", "constraints", "in", "presence", "of", "computer", "faults", ".", "A", "transactional", "agent", "autonomausly", "finds", "a", "distination", "computer", ",", "moves", "to", "a", "computer", ",", "and", "then", "locally", "manipulates", "objects", ".", "We", "discussed", "how", "to", "implement", "transactional", "agents", "in", "Aglets", "and", "Oracle", ".", "We", "evaluated", "the", "transactional", "agent", "in", "terms", "of", "response", "time", ".", "-LSB-", "1", "-RSB-", "American", "National", "Standards", "Institute", ".", "The", "Database", "Language", "SQL", ",", "1986", ".", "-LSB-", "2", "-RSB-", "P.", "A.", "Bernstein", ",", "V.", "Hadzilacos", ",", "and", "N.", "Goodman", ".", "Concurrency", "Control", "and", "Recovery", "in", "Database", "Systems", ".", "Addison-Wesley", ",", "1987", ".", "-LSB-", "3", "-RSB-", "L.", "Gong", ".", "JXTA", ":", "A", "Network", "Programming", "Environment", ",", "pages", "88", "95", ".", "IEEE", "Internet", "Computing", ",", ",", "2001", ".", "-LSB-", "4", "-RSB-", "J.", "Gray", "and", "A.", "Reuter", ".", "Transaction", "Processing", ":", "Concepts", "and", "Techniques", ".", "Morgan", "Kaufmann", ",", "1993", ".", "-LSB-", "5", "-RSB-", "IBM", "Corporation", ".", "Aglets", "Software", "Development", "Kit", "Home", ".", "http://www.trl.ibm.com/aglets/", ".", "-LSB-", "6", "-RSB-", "T.", "Komiya", ",", "T.", "Enokido", ",", "and", "M.", "Takizawa", ".", "Mobile", "agent", "model", "for", "transaction", "processing", "on", "distributed", "objects", ".", "Information", "Sciences", ",", "154:23", "38", ",", "2003", ".", "-LSB-", "7", "-RSB-", "F.", "H.", "Korth", ".", "Locking", "primitives", "in", "a", "database", "system", ".", "Journal", "of", "ACM", ",", "30", "-LRB-", "1", "-RRB-", ":", "55", "79", ",", "1989", ".", "-LSB-", "8", "-RSB-", "N.", "A.", "Lynch", ",", "M.", "Merritt", ",", "A.", "F.", "W.", "Weihl", ",", "and", "R.", "R.", "Yager", ".", "Atomic", "Transactions", ".", "Morgan", "Kaufmann", ",", "1994", ".", "-LSB-", "9", "-RSB-", "K.", "Nagi", ".", "Transactional", "Agents", ":", "Towards", "a", "Robust", "Multi-Agent", "System", ".", "Springer-Verlag", ",", "2001", ".", "-LSB-", "10", "-RSB-", "A.", "Omicini", ",", "F.", "Zambonelli", ",", "M.", "Klusch", ",", "and", "R.", "Tolksdorf", ".", "Coordination", "of", "Internet", "Agents", ".", "Springer-Verlag", ",", "2001", ".", "-LSB-", "11", "-RSB-", "Oracle", "Corporation", ".", "Oracle8i", "Concepts", "Vol", ".", "1", "Release", "8.1.5", ",", "1999", ".", "-LSB-", "12", "-RSB-", "R.", "S.", "Pamula", "and", "P.", "K.", "Srimani", ".", "Checkpointing", "strategies", "for", "database", "systems", ".", "Proc", ".", "of", "the", "15th", "Annual", "Conf", ".", "on", "Computer", "Science", ",", "IEEE", "Computer", "Society", ",", "pages", "88", "97", ",", "1987", ".", "-LSB-", "13", "-RSB-", "S.", "Pleisch", ".", "State", "of", "the", "Art", "of", "Mobile", "Agent", "Computing", "-", "Security", ",", "Fault", "Tolerance", ",", "and", "Transaction", "Support", ".", "IBM", "Corporation", ",", "1999", ".", "-LSB-", "14", "-RSB-", "M.", "Shiraishi", ",", "T.", "Enokido", ",", "and", "M.", "Takizawa", ".", "Fault-tolerant", "mobile", "agent", "in", "distributed", "objects", "systems", ".", "Proc", ".", "of", "the", "9th", "IEEE", "International", "Workshop", "on", "Future", "Trends", "of", "Distributed", "Computing", "Systems", "-LRB-", "FTDCS", "2003", "-RRB-", ",", "pages", "145", "151", ",", "2003", ".", "-LSB-", "15", "-RSB-", "D.", "Skeen", ".", "Nonblocking", "commitment", "protocols", ".", "Proc", ".", "of", "ACM", "SIGMOD", ",", "pages", "133", "147", ",", "1982", ".", "-LSB-", "16", "-RSB-", "A.", "D.", "Stefano", ",", "L.", "L.", "Bello", ",", "and", "C.", "Santoro", ".", "A", "distributed", "heterogeneous", "database", "system", "based", "on", "mobile", "agents", ".", "Proc", ".", "of", "the", "7th", "Workshop", "on", "Enabling", "Technologies", "-LRB-", "WETICE", "'", "98", "-RRB-", ",", "IEEE", "Computer", "Society", ",", "pages", "223", "229", ",", "1998", ".", "-LSB-", "17", "-RSB-", "Sun", "Microsystems", "Inc.", ".", "JDBC", "Data", "Access", "API", ".", "http://java.sun.com/products/jdbc/", ".", "-LSB-", "18", "-RSB-", "Sun", "Microsystems", "Inc.", ".", "The", "Source", "for", "Java", "-LRB-", "TM", "-RRB-", "Technology", ".", "http://java.sun.com/", ".", "-LSB-", "19", "-RSB-", "J.", "E.", "White", ".", "Telescript", "Technology", ":", "The", "Foundation", "for", "the", "Electronic", "Marketplace", ".", "General", "Magic", "Inc.", ",", "1994", ".", "-LSB-", "20", "-RSB-", "X/Open", "Company", "Ltd.", ".", "X/Open", "CAE", "Specification", "Distributed", "Transaction", "Processing", ":", "The", "XA", "Specification", ",", "1991", ".", "1138"], "doc_bio_tags": ["B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["mobile agent", "transactional agent", "surrogate agent", "acid transaction", "computer fault", "transaction"], "abstractive_keyphrases": ["fault-tolerant agent", "fault-tolerant", "transaction processing"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "132", "document": ["Machine", "Learning", "for", "Information", "Architecture", "in", "a", "Large", "Governmental", "Website", "This", "paper", "describes", "ongoing", "research", "into", "the", "application", "of", "machine", "learning", "techniques", "for", "improving", "access", "to", "governmental", "information", "in", "complex", "digital", "libraries", ".", "Under", "the", "auspices", "of", "the", "GovStat", "Project", ",", "our", "goal", "is", "to", "identify", "a", "small", "number", "of", "semantically", "valid", "concepts", "that", "adequately", "spans", "the", "intellectual", "domain", "of", "a", "collection", ".", "The", "goal", "of", "this", "discovery", "is", "twofold", ".", "First", "we", "desire", "a", "practical", "aid", "for", "information", "architects", ".", "Second", ",", "automatically", "derived", "document-concept", "relationships", "are", "a", "necessary", "precondition", "for", "real-world", "deployment", "of", "many", "dynamic", "interfaces", ".", "The", "current", "study", "compares", "concept", "learning", "strategies", "based", "on", "three", "document", "representations", ":", "keywords", ",", "titles", ",", "and", "full-text", ".", "In", "statistical", "and", "user-based", "studies", ",", "human-created", "keywords", "provide", "significant", "improvements", "in", "concept", "learning", "over", "both", "title-only", "and", "full-text", "representations", ".", "H.", "3.7", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Digital", "Libraries", "--", "Systems", "Issues", ",", "User", "Issues", ";", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval-Clustering", "This", "research", "was", "supported", "by", "NSF", "EIA", "grant", "0131824", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "JCDL", "'", "04", ",", "June", "7", "11", ",", "2004", ",", "Tucson", ",", "Arizona", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-832-6", "/", "04/0006", "...", "$", "5.00", ".", "Design", ",", "Experimentation", "The", "GovStat", "Project", "is", "a", "joint", "effort", "of", "the", "University", "of", "North", "Carolina", "Interaction", "Design", "Lab", "and", "the", "University", "of", "Maryland", "Human-Computer", "Interaction", "Lab", "1", ".", "Citing", "end-user", "difficulty", "in", "finding", "governmental", "information", "-LRB-", "especially", "statistical", "data", "-RRB-", "online", ",", "the", "project", "seeks", "to", "create", "an", "integrated", "model", "of", "user", "access", "to", "US", "government", "statistical", "information", "that", "is", "rooted", "in", "realistic", "data", "models", "and", "innovative", "user", "interfaces", ".", "To", "enable", "such", "models", "and", "interfaces", ",", "we", "propose", "a", "data-driven", "approach", ",", "based", "on", "data", "mining", "and", "machine", "learning", "techniques", ".", "In", "particular", ",", "our", "work", "analyzes", "a", "particular", "digital", "library", "--", "the", "website", "of", "the", "Bureau", "of", "Labor", "Statistics", "2", "-LRB-", "BLS", "-RRB-", "--", "in", "efforts", "to", "discover", "a", "small", "number", "of", "linguistically", "meaningful", "concepts", ",", "or", "``", "bins", ",", "''", "that", "collectively", "summarize", "the", "semantic", "domain", "of", "the", "site", ".", "The", "project", "goal", "is", "to", "classify", "the", "site", "'s", "web", "content", "according", "to", "these", "inferred", "concepts", "as", "an", "initial", "step", "towards", "data", "filtering", "via", "active", "user", "interfaces", "-LRB-", "cf.", "-LSB-", "13", "-RSB-", "-RRB-", ".", "Many", "digital", "libraries", "already", "make", "use", "of", "content", "classification", ",", "both", "explicitly", "and", "implicitly", ";", "they", "divide", "their", "resources", "manually", "by", "topical", "relation", ";", "they", "organize", "content", "into", "hi-erarchically", "oriented", "file", "systems", ".", "The", "goal", "of", "the", "present", "1", "http://www.ils.unc.edu/govstat", "2", "http://www.bls.gov", "151", "research", "is", "to", "develop", "another", "means", "of", "browsing", "the", "content", "of", "these", "collections", ".", "By", "analyzing", "the", "distribution", "of", "terms", "across", "documents", ",", "our", "goal", "is", "to", "supplement", "the", "agency", "'s", "pre-existing", "information", "structures", ".", "Statistical", "learning", "technologies", "are", "appealing", "in", "this", "context", "insofar", "as", "they", "stand", "to", "define", "a", "data-driven", "--", "as", "opposed", "to", "an", "agency-driven-navigational", "structure", "for", "a", "site", ".", "Our", "approach", "combines", "supervised", "and", "unsupervised", "learning", "techniques", ".", "A", "pure", "document", "clustering", "-LSB-", "12", "-RSB-", "approach", "to", "such", "a", "large", ",", "diverse", "collection", "as", "BLS", "led", "to", "poor", "results", "in", "early", "tests", "-LSB-", "6", "-RSB-", ".", "But", "strictly", "supervised", "techniques", "-LSB-", "5", "-RSB-", "are", "inappropriate", ",", "too", ".", "Although", "BLS", "designers", "have", "defined", "high-level", "subject", "headings", "for", "their", "collections", ",", "as", "we", "discuss", "in", "Section", "2", ",", "this", "scheme", "is", "less", "than", "optimal", ".", "Thus", "we", "hope", "to", "learn", "an", "additional", "set", "of", "concepts", "by", "letting", "the", "data", "speak", "for", "themselves", ".", "The", "remainder", "of", "this", "paper", "describes", "the", "details", "of", "our", "concept", "discovery", "efforts", "and", "subsequent", "evaluation", ".", "In", "Section", "2", "we", "describe", "the", "previously", "existing", ",", "human-created", "conceptual", "structure", "of", "the", "BLS", "website", ".", "This", "section", "also", "describes", "evidence", "that", "this", "structure", "leaves", "room", "for", "improvement", ".", "Next", "-LRB-", "Sections", "3", "5", "-RRB-", ",", "we", "turn", "to", "a", "description", "of", "the", "concepts", "derived", "via", "content", "clustering", "under", "three", "document", "representations", ":", "keyword", ",", "title", "only", ",", "and", "full-text", ".", "Section", "6", "describes", "a", "two-part", "evaluation", "of", "the", "derived", "conceptual", "structures", ".", "Finally", ",", "we", "conclude", "in", "Section", "7", "by", "outlining", "upcoming", "work", "on", "the", "project", ".", "The", "Bureau", "of", "Labor", "Statistics", "is", "a", "federal", "government", "agency", "charged", "with", "compiling", "and", "publishing", "statistics", "pertaining", "to", "labor", "and", "production", "in", "the", "US", "and", "abroad", ".", "Given", "this", "broad", "mandate", ",", "the", "BLS", "publishes", "a", "wide", "array", "of", "information", ",", "intended", "for", "diverse", "audiences", ".", "The", "agency", "'s", "website", "acts", "as", "a", "clearinghouse", "for", "this", "process", ".", "With", "over", "15,000", "text/html", "documents", "-LRB-", "and", "many", "more", "documents", "if", "spreadsheets", "and", "typeset", "reports", "are", "included", "-RRB-", ",", "providing", "access", "to", "the", "collection", "provides", "a", "steep", "challenge", "to", "information", "architects", ".", "2.1", "The", "Relation", "Browser", "The", "starting", "point", "of", "this", "work", "is", "the", "notion", "that", "access", "to", "information", "in", "the", "BLS", "website", "could", "be", "improved", "by", "the", "addition", "of", "a", "dynamic", "interface", "such", "as", "the", "relation", "browser", "described", "by", "Marchionini", "and", "Brunk", "-LSB-", "13", "-RSB-", ".", "The", "relation", "browser", "allows", "users", "to", "traverse", "complex", "data", "sets", "by", "iteratively", "slicing", "the", "data", "along", "several", "topics", ".", "In", "Figure", "1", "we", "see", "a", "prototype", "instantiation", "of", "the", "relation", "browser", ",", "applied", "to", "the", "FedStats", "website", "3", ".", "The", "relation", "browser", "supports", "information", "seeking", "by", "allowing", "users", "to", "form", "queries", "in", "a", "stepwise", "fashion", ",", "slicing", "and", "re-slicing", "the", "data", "as", "their", "interests", "dictate", ".", "Its", "motivation", "is", "in", "keeping", "with", "Shneiderman", "'s", "suggestion", "that", "queries", "and", "their", "results", "should", "be", "tightly", "coupled", "-LSB-", "2", "-RSB-", ".", "Thus", "in", "Fig-3", "http://www.fedstats.gov", "Figure", "1", ":", "Relation", "Browser", "Prototype", "ure", "1", ",", "users", "might", "limit", "their", "search", "set", "to", "those", "documents", "about", "``", "energy", ".", "''", "Within", "this", "subset", "of", "the", "collection", ",", "they", "might", "further", "eliminate", "documents", "published", "more", "than", "a", "year", "ago", ".", "Finally", ",", "they", "might", "request", "to", "see", "only", "documents", "published", "in", "PDF", "format", ".", "As", "Marchionini", "and", "Brunk", "discuss", ",", "capturing", "the", "publication", "date", "and", "format", "of", "documents", "is", "trivial", ".", "But", "successful", "implementations", "of", "the", "relation", "browser", "also", "rely", "on", "topical", "classification", ".", "This", "presents", "two", "stumbling", "blocks", "for", "system", "designers", ":", "Information", "architects", "must", "define", "the", "appropriate", "set", "of", "topics", "for", "their", "collection", "Site", "maintainers", "must", "classify", "each", "document", "into", "its", "appropriate", "categories", "These", "tasks", "parallel", "common", "problems", "in", "the", "metadata", "community", ":", "defining", "appropriate", "elements", "and", "marking", "up", "documents", "to", "support", "metadata-aware", "information", "access", ".", "Given", "a", "collection", "of", "over", "15,000", "documents", ",", "these", "hurdles", "are", "especially", "daunting", ",", "and", "automatic", "methods", "of", "approaching", "them", "are", "highly", "desirable", ".", "2.2", "A", "Pre-Existing", "Structure", "Prior", "to", "our", "involvement", "with", "the", "project", ",", "designers", "at", "BLS", "created", "a", "shallow", "classificatory", "structure", "for", "the", "most", "important", "documents", "in", "their", "website", ".", "As", "seen", "in", "Figure", "2", ",", "the", "BLS", "home", "page", "organizes", "65", "``", "top-level", "''", "documents", "into", "15", "categories", ".", "These", "include", "topics", "such", "as", "Employment", "and", "Unemployment", ",", "Productivity", ",", "and", "Inflation", "and", "Spending", ".", "152", "Figure", "2", ":", "The", "BLS", "Home", "Page", "We", "hoped", "initially", "that", "these", "pre-defined", "categories", "could", "be", "used", "to", "train", "a", "15-way", "document", "classifier", ",", "thus", "automating", "the", "process", "of", "populating", "the", "relation", "browser", "altogether", ".", "However", ",", "this", "approach", "proved", "unsatisfactory", ".", "In", "personal", "meetings", ",", "BLS", "officials", "voiced", "dissatisfaction", "with", "the", "existing", "topics", ".", "Their", "form", ",", "it", "was", "argued", ",", "owed", "as", "much", "to", "the", "institutional", "structure", "of", "BLS", "as", "it", "did", "to", "the", "inherent", "topology", "of", "the", "website", "'s", "information", "space", ".", "In", "other", "words", ",", "the", "topics", "reflected", "official", "divisions", "rather", "than", "semantic", "clusters", ".", "The", "BLS", "agents", "suggested", "that", "re-designing", "this", "classification", "structure", "would", "be", "desirable", ".", "The", "agents", "'", "misgivings", "were", "borne", "out", "in", "subsequent", "analysis", ".", "The", "BLS", "topics", "comprise", "a", "shallow", "classificatory", "structure", ";", "each", "of", "the", "15", "top-level", "categories", "is", "linked", "to", "a", "small", "number", "of", "related", "pages", ".", "Thus", "there", "are", "7", "pages", "associated", "with", "Inflation", ".", "Altogether", ",", "the", "link", "structure", "of", "this", "classificatory", "system", "contains", "65", "documents", ";", "that", "is", ",", "excluding", "navigational", "links", ",", "there", "are", "65", "documents", "linked", "from", "the", "BLS", "home", "page", ",", "where", "each", "hyperlink", "connects", "a", "document", "to", "a", "topic", "-LRB-", "pages", "can", "be", "linked", "to", "multiple", "topics", "-RRB-", ".", "Based", "on", "this", "hyperlink", "structure", ",", "we", "defined", "M", ",", "a", "symmetric", "65", "65", "matrix", ",", "where", "m", "ij", "counts", "the", "number", "of", "topics", "in", "which", "documents", "i", "and", "j", "are", "both", "classified", "on", "the", "BLS", "home", "page", ".", "To", "analyze", "the", "redundancy", "inherent", "in", "the", "pre-existing", "structure", ",", "we", "derived", "the", "principal", "components", "of", "M", "-LRB-", "cf.", "-LSB-", "11", "-RSB-", "-RRB-", ".", "Figure", "3", "shows", "the", "resultant", "scree", "plot", "4", ".", "Because", "all", "65", "documents", "belong", "to", "at", "least", "one", "BLS", "topic", ",", "4", "A", "scree", "plot", "shows", "the", "magnitude", "of", "the", "k", "th", "eigenvalue", "versus", "its", "rank", ".", "During", "principal", "component", "analysis", "scree", "plots", "visualize", "the", "amount", "of", "variance", "captured", "by", "each", "component", ".", "0", "10", "20", "30", "40", "50", "60", "0", "2", "4", "6", "8", "10", "12", "14", "Eigenvalue", "Rank", "Eigenvlue", "Magnitude", "Figure", "3", ":", "Scree", "Plot", "of", "BLS", "Categories", "the", "rank", "of", "M", "is", "guaranteed", "to", "be", "less", "than", "or", "equal", "to", "15", "-LRB-", "hence", ",", "eigenvalues", "16", "...", "65", "=", "0", "-RRB-", ".", "What", "is", "surprising", "about", "Figure", "3", ",", "however", ",", "is", "the", "precipitous", "decline", "in", "magnitude", "among", "the", "first", "four", "eigenvalues", ".", "The", "four", "largest", "eigenvlaues", "account", "for", "62.2", "%", "of", "the", "total", "variance", "in", "the", "data", ".", "This", "fact", "suggests", "a", "high", "degree", "of", "redundancy", "among", "the", "topics", ".", "Topical", "redundancy", "is", "not", "in", "itself", "problematic", ".", "However", ",", "the", "documents", "in", "this", "very", "shallow", "classificatory", "structure", "are", "almost", "all", "gateways", "to", "more", "specific", "information", ".", "Thus", "the", "listing", "of", "the", "Producer", "Price", "Index", "under", "three", "categories", "could", "be", "confusing", "to", "the", "site", "'s", "users", ".", "In", "light", "of", "this", "potential", "for", "confusion", "and", "the", "agency", "'s", "own", "request", "for", "redesign", ",", "we", "undertook", "the", "task", "of", "topic", "discovery", "described", "in", "the", "following", "sections", ".", "To", "aid", "in", "the", "discovery", "of", "a", "new", "set", "of", "high-level", "topics", "for", "the", "BLS", "website", ",", "we", "turned", "to", "unsupervised", "machine", "learning", "methods", ".", "In", "efforts", "to", "let", "the", "data", "speak", "for", "themselves", ",", "we", "desired", "a", "means", "of", "concept", "discovery", "that", "would", "be", "based", "not", "on", "the", "structure", "of", "the", "agency", ",", "but", "on", "the", "content", "of", "the", "material", ".", "To", "begin", "this", "process", ",", "we", "crawled", "the", "BLS", "website", ",", "downloading", "all", "documents", "of", "MIME", "type", "text/html", ".", "This", "led", "to", "a", "corpus", "of", "15,165", "documents", ".", "Based", "on", "this", "corpus", ",", "we", "hoped", "to", "derive", "k", "10", "topical", "categories", ",", "such", "that", "each", "document", "d", "i", "is", "assigned", "to", "one", "or", "more", "classes", ".", "153", "Document", "clustering", "-LRB-", "cf.", "-LSB-", "16", "-RSB-", "-RRB-", "provided", "an", "obvious", ",", "but", "only", "partial", "solution", "to", "the", "problem", "of", "automating", "this", "type", "of", "high-level", "information", "architecture", "discovery", ".", "The", "problems", "with", "standard", "clustering", "are", "threefold", ".", "1", ".", "Mutually", "exclusive", "clusters", "are", "inappropriate", "for", "identifying", "the", "topical", "content", "of", "documents", ",", "since", "documents", "may", "be", "about", "many", "subjects", ".", "2", ".", "Due", "to", "the", "heterogeneity", "of", "the", "data", "housed", "in", "the", "BLS", "collection", "-LRB-", "tables", ",", "lists", ",", "surveys", ",", "etc.", "-RRB-", ",", "many", "doc-uments", "'", "terms", "provide", "noisy", "topical", "information", ".", "3", ".", "For", "application", "to", "the", "relation", "browser", ",", "we", "require", "a", "small", "number", "-LRB-", "k", "10", "-RRB-", "of", "topics", ".", "Without", "significant", "data", "reduction", ",", "term-based", "clustering", "tends", "to", "deliver", "clusters", "at", "too", "fine", "a", "level", "of", "granularity", ".", "In", "light", "of", "these", "problems", ",", "we", "take", "a", "hybrid", "approach", "to", "topic", "discovery", ".", "First", ",", "we", "limit", "the", "clustering", "process", "to", "a", "sample", "of", "the", "entire", "collection", ",", "described", "in", "Section", "4", ".", "Working", "on", "a", "focused", "subset", "of", "the", "data", "helps", "to", "overcome", "problems", "two", "and", "three", ",", "listed", "above", ".", "To", "address", "the", "problem", "of", "mutual", "exclusivity", ",", "we", "combine", "unsupervised", "with", "supervised", "learning", "methods", ",", "as", "described", "in", "Section", "5", ".", "To", "derive", "empirically", "evidenced", "topics", "we", "initially", "turned", "to", "cluster", "analysis", ".", "Let", "A", "be", "the", "n", "p", "data", "matrix", "with", "n", "observations", "in", "p", "variables", ".", "Thus", "a", "ij", "shows", "the", "measurement", "for", "the", "i", "th", "observation", "on", "the", "j", "th", "variable", ".", "As", "described", "in", "-LSB-", "12", "-RSB-", ",", "the", "goal", "of", "cluster", "analysis", "is", "to", "assign", "each", "of", "the", "n", "observations", "to", "one", "of", "a", "small", "number", "k", "groups", ",", "each", "of", "which", "is", "characterized", "by", "high", "intra-cluster", "correlation", "and", "low", "inter-cluster", "correlation", ".", "Though", "the", "algorithms", "for", "accomplishing", "such", "an", "arrangement", "are", "legion", ",", "our", "analysis", "focuses", "on", "k-means", "clustering", "5", ",", "during", "which", ",", "each", "observation", "o", "i", "is", "assigned", "to", "the", "cluster", "C", "k", "whose", "centroid", "is", "closest", "to", "it", ",", "in", "terms", "of", "Euclidean", "distance", ".", "Readers", "interested", "in", "the", "details", "of", "the", "algorithm", "are", "referred", "to", "-LSB-", "12", "-RSB-", "for", "a", "thorough", "treatment", "of", "the", "subject", ".", "Clustering", "by", "k-means", "is", "well-studied", "in", "the", "statistical", "literature", ",", "and", "has", "shown", "good", "results", "for", "text", "analysis", "-LRB-", "cf.", "-LSB-", "8", ",", "16", "-RSB-", "-RRB-", ".", "However", ",", "k-means", "clustering", "requires", "that", "the", "researcher", "specify", "k", ",", "the", "number", "of", "clusters", "to", "define", ".", "When", "applying", "k-means", "to", "our", "15,000", "document", "collection", ",", "indicators", "such", "as", "the", "gap", "statistic", "-LSB-", "17", "-RSB-", "and", "an", "analysis", "of", "the", "mean-squared", "distance", "across", "values", "of", "k", "suggested", "that", "k", "80", "was", "optimal", ".", "This", "paramterization", "led", "to", "semantically", "intelligible", "clusters", ".", "However", ",", "80", "clusters", "are", "far", "too", "many", "for", "application", "to", "an", "interface", "such", "as", "the", "relation", "5", "We", "have", "focused", "on", "k-means", "as", "opposed", "to", "other", "clustering", "algorithms", "for", "several", "reasons", ".", "Chief", "among", "these", "is", "the", "computational", "efficiency", "enjoyed", "by", "the", "k-means", "approach", ".", "Because", "we", "need", "only", "a", "flat", "clustering", "there", "is", "little", "to", "be", "gained", "by", "the", "more", "expensive", "hierarchical", "algorithms", ".", "In", "future", "work", "we", "will", "turn", "to", "model-based", "clustering", "-LSB-", "7", "-RSB-", "as", "a", "more", "principled", "method", "of", "selecting", "the", "number", "of", "clusters", "and", "of", "representing", "clusters", ".", "browser", ".", "Moreover", ",", "the", "granularity", "of", "these", "clusters", "was", "un-suitably", "fine", ".", "For", "instance", ",", "the", "80-cluster", "solution", "derived", "a", "cluster", "whose", "most", "highly", "associated", "words", "-LRB-", "in", "terms", "of", "log-odds", "ratio", "-LSB-", "1", "-RSB-", "-RRB-", "were", "drug", ",", "pharmacy", ",", "and", "chemist", ".", "These", "words", "are", "certainly", "related", ",", "but", "they", "are", "related", "at", "a", "level", "of", "specificity", "far", "below", "what", "we", "sought", ".", "To", "remedy", "the", "high", "dimensionality", "of", "the", "data", ",", "we", "resolved", "to", "limit", "the", "algorithm", "to", "a", "subset", "of", "the", "collection", ".", "In", "consultation", "with", "employees", "of", "the", "BLS", ",", "we", "continued", "our", "analysis", "on", "documents", "that", "form", "a", "series", "titled", "From", "the", "Editor", "'s", "Desk", "6", ".", "These", "are", "brief", "articles", ",", "written", "by", "BLS", "employees", ".", "BLS", "agents", "suggested", "that", "we", "focus", "on", "the", "Editor", "'s", "Desk", "because", "it", "is", "intended", "to", "span", "the", "intellectual", "domain", "of", "the", "agency", ".", "The", "column", "is", "published", "daily", ",", "and", "each", "entry", "describes", "an", "important", "current", "issue", "in", "the", "BLS", "domain", ".", "The", "Editor", "'s", "Desk", "column", "has", "been", "written", "daily", "-LRB-", "five", "times", "per", "week", "-RRB-", "since", "1998", ".", "As", "such", ",", "we", "operated", "on", "a", "set", "of", "N", "=", "1279", "documents", ".", "Limiting", "attention", "to", "these", "1279", "documents", "not", "only", "reduced", "the", "dimensionality", "of", "the", "problem", ".", "It", "also", "allowed", "the", "clustering", "process", "to", "learn", "on", "a", "relatively", "clean", "data", "set", ".", "While", "the", "entire", "BLS", "collection", "contains", "a", "great", "deal", "of", "non-prose", "text", "-LRB-", "i.e.", "tables", ",", "lists", ",", "etc.", "-RRB-", ",", "the", "Editor", "'s", "Desk", "documents", "are", "all", "written", "in", "clear", ",", "journalistic", "prose", ".", "Each", "document", "is", "highly", "topical", ",", "further", "aiding", "the", "discovery", "of", "term-topic", "relations", ".", "Finally", ",", "the", "Editor", "'s", "Desk", "column", "provided", "an", "ideal", "learning", "environment", "because", "it", "is", "well-supplied", "with", "topical", "metadata", ".", "Each", "of", "the", "1279", "documents", "contains", "a", "list", "of", "one", "or", "more", "keywords", ".", "Additionally", ",", "a", "subset", "of", "the", "documents", "-LRB-", "1112", "-RRB-", "contained", "a", "subject", "heading", ".", "This", "metadata", "informed", "our", "learning", "and", "evaluation", ",", "as", "described", "in", "Section", "6.1", ".", "To", "derive", "suitably", "general", "topics", "for", "the", "application", "of", "a", "dynamic", "interface", "to", "the", "BLS", "collection", ",", "we", "combined", "document", "clustering", "with", "text", "classification", "techniques", ".", "Specif-ically", ",", "using", "k-means", ",", "we", "clustered", "each", "of", "the", "1279", "documents", "into", "one", "of", "k", "clusters", ",", "with", "the", "number", "of", "clusters", "chosen", "by", "analyzing", "the", "within-cluster", "mean", "squared", "distance", "at", "different", "values", "of", "k", "-LRB-", "see", "Section", "6.1", "-RRB-", ".", "Constructing", "mutually", "exclusive", "clusters", "violates", "our", "assumption", "that", "documents", "may", "belong", "to", "multiple", "classes", ".", "However", ",", "these", "clusters", "mark", "only", "the", "first", "step", "in", "a", "two-phase", "process", "of", "topic", "identification", ".", "At", "the", "end", "of", "the", "process", ",", "document-cluster", "affinity", "is", "measured", "by", "a", "real-valued", "number", ".", "Once", "the", "Editor", "'s", "Desk", "documents", "were", "assigned", "to", "clusters", ",", "we", "constructed", "a", "k-way", "classifier", "that", "estimates", "the", "strength", "of", "evidence", "that", "a", "new", "document", "d", "i", "is", "a", "member", "of", "class", "C", "k", ".", "We", "tested", "three", "statistical", "classification", "techniques", ":", "probabilistic", "Rocchio", "-LRB-", "prind", "-RRB-", ",", "naive", "Bayes", ",", "and", "support", "vector", "machines", "-LRB-", "SVMs", "-RRB-", ".", "All", "were", "implemented", "using", "McCallum", "'s", "BOW", "text", "classification", "library", "-LSB-", "14", "-RSB-", ".", "Prind", "is", "a", "probabilistic", "version", "of", "the", "Rocchio", "classification", "algorithm", "-LSB-", "9", "-RSB-", ".", "Interested", "readers", "are", "referred", "to", "Joachims", "'", "article", "for", "6", "http://www.bls.gov/opub/ted", "154", "further", "details", "of", "the", "classification", "method", ".", "Like", "prind", ",", "naive", "Bayes", "attempts", "to", "classify", "documents", "into", "the", "most", "probable", "class", ".", "It", "is", "described", "in", "detail", "in", "-LSB-", "15", "-RSB-", ".", "Finally", ",", "support", "vector", "machines", "were", "thoroughly", "explicated", "by", "Vapnik", "-LSB-", "18", "-RSB-", ",", "and", "applied", "specifically", "to", "text", "in", "-LSB-", "10", "-RSB-", ".", "They", "define", "a", "decision", "boundary", "by", "finding", "the", "maximally", "separating", "hyperplane", "in", "a", "high-dimensional", "vector", "space", "in", "which", "document", "classes", "become", "linearly", "separable", ".", "Having", "clustered", "the", "documents", "and", "trained", "a", "suitable", "classifier", ",", "the", "remaining", "14,000", "documents", "in", "the", "collection", "are", "labeled", "by", "means", "of", "automatic", "classification", ".", "That", "is", ",", "for", "each", "document", "d", "i", "we", "derive", "a", "k-dimensional", "vector", ",", "quantifying", "the", "association", "between", "d", "i", "and", "each", "class", "C", "1", "...", "C", "k", ".", "Deriving", "topic", "scores", "via", "naive", "Bayes", "for", "the", "entire", "15,000-document", "collection", "required", "less", "than", "two", "hours", "of", "CPU", "time", ".", "The", "output", "of", "this", "process", "is", "a", "score", "for", "every", "document", "in", "the", "collection", "on", "each", "of", "the", "automatically", "discovered", "topics", ".", "These", "scores", "may", "then", "be", "used", "to", "populate", "a", "relation", "browser", "interface", ",", "or", "they", "may", "be", "added", "to", "a", "traditional", "information", "retrieval", "system", ".", "To", "use", "these", "weights", "in", "the", "relation", "browser", "we", "currently", "assign", "to", "each", "document", "the", "two", "topics", "on", "which", "it", "scored", "highest", ".", "In", "future", "work", "we", "will", "adopt", "a", "more", "rigorous", "method", "of", "deriving", "document-topic", "weight", "thresholds", ".", "Also", ",", "evaluation", "of", "the", "utility", "of", "the", "learned", "topics", "for", "users", "will", "be", "undertaken", ".", "Prior", "to", "implementing", "a", "relation", "browser", "interface", "and", "undertaking", "the", "attendant", "user", "studies", ",", "it", "is", "of", "course", "important", "to", "evaluate", "the", "quality", "of", "the", "inferred", "concepts", ",", "and", "the", "ability", "of", "the", "automatic", "classifier", "to", "assign", "documents", "to", "the", "appropriate", "subjects", ".", "To", "evaluate", "the", "success", "of", "the", "two-stage", "approach", "described", "in", "Section", "5", ",", "we", "undertook", "two", "experiments", ".", "During", "the", "first", "experiment", "we", "compared", "three", "methods", "of", "document", "representation", "for", "the", "clustering", "task", ".", "The", "goal", "here", "was", "to", "compare", "the", "quality", "of", "document", "clusters", "derived", "by", "analysis", "of", "full-text", "documents", ",", "documents", "represented", "only", "by", "their", "titles", ",", "and", "documents", "represented", "by", "human-created", "keyword", "metadata", ".", "During", "the", "second", "experiment", ",", "we", "analyzed", "the", "ability", "of", "the", "statistical", "classifiers", "to", "discern", "the", "subject", "matter", "of", "documents", "from", "portions", "of", "the", "database", "in", "addition", "to", "the", "Editor", "'s", "Desk", ".", "6.1", "Comparing", "Document", "Representations", "Documents", "from", "The", "Editor", "'s", "Desk", "column", "came", "supplied", "with", "human-generated", "keyword", "metadata", ".", "Additionally", ",", "The", "titles", "of", "the", "Editor", "'s", "Desk", "documents", "tend", "to", "be", "germane", "to", "the", "topic", "of", "their", "respective", "articles", ".", "With", "such", "an", "array", "of", "distilled", "evidence", "of", "each", "document", "'s", "subject", "matter", ",", "we", "undertook", "a", "comparison", "of", "document", "representations", "for", "topic", "discovery", "by", "clustering", ".", "We", "hypothesized", "that", "keyword-based", "clustering", "would", "provide", "a", "useful", "model", ".", "But", "we", "hoped", "to", "see", "whether", "comparable", "performance", "could", "be", "attained", "by", "methods", "that", "did", "not", "require", "extensive", "human", "indexing", ",", "such", "as", "the", "title-only", "or", "full-text", "representations", ".", "To", "test", "this", "hypothesis", ",", "we", "defined", "three", "modes", "of", "document", "representation", "--", "full-text", ",", "title-only", ",", "and", "keyword", "only", "--", "we", "generated", "three", "sets", "of", "topics", ",", "T", "f", "ull", ",", "T", "title", ",", "and", "T", "kw", ",", "respectively", ".", "Topics", "based", "on", "full-text", "documents", "were", "derived", "by", "application", "of", "k-means", "clustering", "to", "the", "1279", "Editor", "'s", "Desk", "documents", ",", "where", "each", "document", "was", "represented", "by", "a", "1908-dimensional", "vector", ".", "These", "1908", "dimensions", "captured", "the", "TF.IDF", "weights", "-LSB-", "3", "-RSB-", "of", "each", "term", "t", "i", "in", "document", "d", "j", ",", "for", "all", "terms", "that", "occurred", "at", "least", "three", "times", "in", "the", "data", ".", "To", "arrive", "at", "the", "appropriate", "number", "of", "clusters", "for", "these", "data", ",", "we", "inspected", "the", "within-cluster", "mean-squared", "distance", "for", "each", "value", "of", "k", "=", "1", "...", "20", ".", "As", "k", "approached", "10", "the", "reduction", "in", "error", "with", "the", "addition", "of", "more", "clusters", "declined", "notably", ",", "suggesting", "that", "k", "10", "would", "yield", "good", "divisions", ".", "To", "select", "a", "single", "integer", "value", ",", "we", "calculated", "which", "value", "of", "k", "led", "to", "the", "least", "variation", "in", "cluster", "size", ".", "This", "metric", "stemmed", "from", "a", "desire", "to", "suppress", "the", "common", "result", "where", "one", "large", "cluster", "emerges", "from", "the", "k-means", "algorithm", ",", "accompanied", "by", "several", "accordingly", "small", "clusters", ".", "Without", "reason", "to", "believe", "that", "any", "single", "topic", "should", "have", "dramatically", "high", "prior", "odds", "of", "document", "membership", ",", "this", "heuristic", "led", "to", "k", "f", "ull", "=", "10", ".", "Clusters", "based", "on", "document", "titles", "were", "constructed", "simi-larly", ".", "However", ",", "in", "this", "case", ",", "each", "document", "was", "represented", "in", "the", "vector", "space", "spanned", "by", "the", "397", "terms", "that", "occur", "at", "least", "twice", "in", "document", "titles", ".", "Using", "the", "same", "method", "of", "minimizing", "the", "variance", "in", "cluster", "membership", "k", "title", "the", "number", "of", "clusters", "in", "the", "title-based", "representation", "was", "also", "set", "to", "10", ".", "The", "dimensionality", "of", "the", "keyword-based", "clustering", "was", "very", "similar", "to", "that", "of", "the", "title-based", "approach", ".", "There", "were", "299", "keywords", "in", "the", "data", ",", "all", "of", "which", "were", "retained", ".", "The", "median", "number", "of", "keywords", "per", "document", "was", "7", ",", "where", "a", "keyword", "is", "understood", "to", "be", "either", "a", "single", "word", ",", "or", "a", "multi-word", "term", "such", "as", "``", "consumer", "price", "index", ".", "''", "It", "is", "worth", "noting", "that", "the", "keywords", "were", "not", "drawn", "from", "any", "controlled", "vocabulary", ";", "they", "were", "assigned", "to", "documents", "by", "publishers", "at", "the", "BLS", ".", "Using", "the", "keywords", ",", "the", "documents", "were", "clustered", "into", "10", "classes", ".", "To", "evaluate", "the", "clusters", "derived", "by", "each", "method", "of", "document", "representation", ",", "we", "used", "the", "subject", "headings", "that", "were", "included", "with", "1112", "of", "the", "Editor", "'s", "Desk", "documents", ".", "Each", "of", "these", "1112", "documents", "was", "assigned", "one", "or", "more", "subject", "headings", ",", "which", "were", "withheld", "from", "all", "of", "the", "cluster", "applications", ".", "Like", "the", "keywords", ",", "subject", "headings", "were", "assigned", "to", "documents", "by", "BLS", "publishers", ".", "Unlike", "the", "keywords", ",", "however", ",", "subject", "headings", "were", "drawn", "from", "a", "controlled", "vocabulary", ".", "Our", "analysis", "began", "with", "the", "assumption", "that", "documents", "with", "the", "same", "subject", "headings", "should", "cluster", "together", ".", "To", "facilitate", "this", "analysis", ",", "we", "took", "a", "conservative", "approach", ";", "we", "considered", "multi-subject", "classifications", "to", "be", "unique", ".", "Thus", "if", "document", "d", "i", "was", "assigned", "to", "a", "single", "subject", "prices", ",", "while", "document", "d", "j", "was", "assigned", "to", "two", "subjects", ",", "international", "comparisons", ",", "prices", ",", "documents", "d", "i", "and", "d", "j", "are", "not", "considered", "to", "come", "from", "the", "same", "class", ".", "Table", "1", "shows", "all", "Editor", "'s", "Desk", "subject", "headings", "that", "were", "assigned", "to", "at", "least", "10", "documents", ".", "As", "noted", "in", "the", "table", ",", "155", "Table", "1", ":", "Top", "Editor", "'s", "Desk", "Subject", "Headings", "Subject", "Count", "prices", "92", "unemployment", "55", "occupational", "safety", "&", "health", "53", "international", "comparisons", ",", "prices", "48", "manufacturing", ",", "prices", "45", "employment", "44", "productivity", "40", "consumer", "expenditures", "36", "earnings", "&", "wages", "27", "employment", "&", "unemployment", "27", "compensation", "costs", "25", "earnings", "&", "wages", ",", "metro", ".", "areas", "18", "benefits", ",", "compensation", "costs", "18", "earnings", "&", "wages", ",", "occupations", "17", "employment", ",", "occupations", "14", "benefits", "14", "earnings", "&", "wage", ",", "regions", "13", "work", "stoppages", "12", "earnings", "&", "wages", ",", "industries", "11", "Total", "609", "Table", "2", ":", "Contingecy", "Table", "for", "Three", "Document", "Representations", "Representation", "Right", "Wrong", "Accuracy", "Full-text", "392", "217", "0.64", "Title", "441", "168", "0.72", "Keyword", "601", "8", "0.98", "there", "were", "19", "such", "subject", "headings", ",", "which", "altogether", "covered", "609", "-LRB-", "54", "%", "-RRB-", "of", "the", "documents", "with", "subjects", "assigned", ".", "These", "document-subject", "pairings", "formed", "the", "basis", "of", "our", "analysis", ".", "Limiting", "analysis", "to", "subjects", "with", "N", ">", "10", "kept", "the", "resultant", "2", "tests", "suitably", "robust", ".", "The", "clustering", "derived", "by", "each", "document", "representation", "was", "tested", "by", "its", "ability", "to", "collocate", "documents", "with", "the", "same", "subjects", ".", "Thus", "for", "each", "of", "the", "19", "subject", "headings", "in", "Table", "1", ",", "S", "i", ",", "we", "calculated", "the", "proportion", "of", "documents", "assigned", "to", "S", "i", "that", "each", "clustering", "co-classified", ".", "Further", ",", "we", "assumed", "that", "whichever", "cluster", "captured", "the", "majority", "of", "documents", "for", "a", "given", "class", "constituted", "the", "``", "right", "answer", "''", "for", "that", "class", ".", "For", "instance", ",", "There", "were", "92", "documents", "whose", "subject", "heading", "was", "prices", ".", "Taking", "the", "BLS", "editors", "'", "classifications", "as", "ground", "truth", ",", "all", "92", "of", "these", "documents", "should", "have", "ended", "up", "in", "the", "same", "cluster", ".", "Under", "the", "full-text", "representation", "52", "of", "these", "documents", "were", "clustered", "into", "category", "5", ",", "while", "35", "were", "in", "category", "3", ",", "and", "5", "documents", "were", "in", "category", "6", ".", "Taking", "the", "majority", "cluster", "as", "the", "putative", "right", "home", "for", "these", "documents", ",", "we", "consider", "the", "accuracy", "of", "this", "clustering", "on", "this", "subject", "to", "be", "52/92", "=", "0.56", ".", "Repeating", "this", "process", "for", "each", "topic", "across", "all", "three", "representations", "led", "to", "the", "contingency", "table", "shown", "in", "Table", "2", ".", "The", "obvious", "superiority", "of", "the", "keyword-based", "clustering", "evidenced", "by", "Table", "2", "was", "borne", "out", "by", "a", "2", "test", "on", "the", "accuracy", "proportions", ".", "Comparing", "the", "proportion", "right", "and", "Table", "3", ":", "Keyword-Based", "Clusters", "benefits", "costs", "international", "jobs", "plans", "compensation", "import", "employment", "benefits", "costs", "prices", "jobs", "employees", "benefits", "petroleum", "youth", "occupations", "prices", "productivity", "safety", "workers", "prices", "productivity", "safety", "earnings", "index", "output", "health", "operators", "inflation", "nonfarm", "occupational", "spending", "unemployment", "expenditures", "unemployment", "consumer", "mass", "spending", "jobless", "wrong", "achieved", "by", "keyword", "and", "title-based", "clustering", "led", "to", "p", "0.001", ".", "Due", "to", "this", "result", ",", "in", "the", "remainder", "of", "this", "paper", ",", "we", "focus", "our", "attention", "on", "the", "clusters", "derived", "by", "analysis", "of", "the", "Editor", "'s", "Desk", "keywords", ".", "The", "ten", "keyword-based", "clusters", "are", "shown", "in", "Table", "3", ",", "represented", "by", "the", "three", "terms", "most", "highly", "associated", "with", "each", "cluster", ",", "in", "terms", "of", "the", "log-odds", "ratio", ".", "Additionally", ",", "each", "cluster", "has", "been", "given", "a", "label", "by", "the", "researchers", ".", "Evaluating", "the", "results", "of", "clustering", "is", "notoriously", "difficult", ".", "In", "order", "to", "lend", "our", "analysis", "suitable", "rigor", "and", "utility", ",", "we", "made", "several", "simplifying", "assumptions", ".", "Most", "problematic", "is", "the", "fact", "that", "we", "have", "assumed", "that", "each", "document", "belongs", "in", "only", "a", "single", "category", ".", "This", "assumption", "is", "certainly", "false", ".", "However", ",", "by", "taking", "an", "extremely", "rigid", "view", "of", "what", "constitutes", "a", "subject", "--", "that", "is", ",", "by", "taking", "a", "fully", "qualified", "and", "often", "multipart", "subject", "heading", "as", "our", "unit", "of", "analysis", "--", "we", "mitigate", "this", "problem", ".", "Analogically", ",", "this", "is", "akin", "to", "considering", "the", "location", "of", "books", "on", "a", "library", "shelf", ".", "Although", "a", "given", "book", "may", "cover", "many", "subjects", ",", "a", "classification", "system", "should", "be", "able", "to", "collocate", "books", "that", "are", "extremely", "similar", ",", "say", "books", "about", "occupational", "safety", "and", "health", ".", "The", "most", "serious", "liability", "with", "this", "evaluation", ",", "then", ",", "is", "the", "fact", "that", "we", "have", "compressed", "multiple", "subject", "headings", ",", "say", "prices", ":", "international", "into", "single", "subjects", ".", "This", "flattening", "obscures", "the", "multivalence", "of", "documents", ".", "We", "turn", "to", "a", "more", "realistic", "assessment", "of", "document-class", "relations", "in", "Section", "6.2", ".", "6.2", "Accuracy", "of", "the", "Document", "Classifiers", "Although", "the", "keyword-based", "clusters", "appear", "to", "classify", "the", "Editor", "'s", "Desk", "documents", "very", "well", ",", "their", "discovery", "only", "solved", "half", "of", "the", "problem", "required", "for", "the", "successful", "implementation", "of", "a", "dynamic", "user", "interface", "such", "as", "the", "relation", "browser", ".", "The", "matter", "of", "roughly", "fourteen", "thousand", "unclassified", "documents", "remained", "to", "be", "addressed", ".", "To", "solve", "this", "problem", ",", "we", "trained", "the", "statistical", "classifiers", "described", "above", "in", "Section", "5", ".", "For", "each", "document", "in", "the", "collection", "d", "i", ",", "these", "classifiers", "give", "p", "i", ",", "a", "k-vector", "of", "probabilities", "or", "distances", "-LRB-", "depending", "on", "the", "classification", "method", "used", "-RRB-", ",", "where", "p", "ik", "quantifies", "the", "strength", "of", "association", "between", "the", "i", "th", "document", "and", "the", "k", "th", "class", ".", "All", "classifiers", "were", "trained", "on", "the", "full", "text", "of", "each", "document", ",", "regardless", "of", "the", "representation", "used", "to", "discover", "the", "initial", "clusters", ".", "The", "different", "training", "sets", "were", "thus", "constructed", "simply", "by", "changing", "the", "156", "Table", "4", ":", "Cross", "Validation", "Results", "for", "3", "Classifiers", "Method", "Av", ".", "Percent", "Accuracy", "SE", "Prind", "59.07", "1.07", "Naive", "Bayes", "75.57", "0.4", "SVM", "75.08", "0.68", "class", "variable", "for", "each", "instance", "-LRB-", "document", "-RRB-", "to", "reflect", "its", "assigned", "cluster", "under", "a", "given", "model", ".", "To", "test", "the", "ability", "of", "each", "classifier", "to", "locate", "documents", "correctly", ",", "we", "first", "performed", "a", "10-fold", "cross", "validation", "on", "the", "Editor", "'s", "Desk", "documents", ".", "During", "cross-validation", "the", "data", "are", "split", "randomly", "into", "n", "subsets", "-LRB-", "in", "this", "case", "n", "=", "10", "-RRB-", ".", "The", "process", "proceeds", "by", "iteratively", "holding", "out", "each", "of", "the", "n", "subsets", "as", "a", "test", "collection", "for", "a", "model", "trained", "on", "the", "remaining", "n", "-", "1", "subsets", ".", "Cross", "validation", "is", "described", "in", "-LSB-", "15", "-RSB-", ".", "Using", "this", "methodology", ",", "we", "compared", "the", "performance", "of", "the", "three", "classification", "models", "described", "above", ".", "Table", "4", "gives", "the", "results", "from", "cross", "validation", ".", "Although", "naive", "Bayes", "is", "not", "significantly", "more", "accurate", "for", "these", "data", "than", "the", "SVM", "classifier", ",", "we", "limit", "the", "remainder", "of", "our", "attention", "to", "analysis", "of", "its", "performance", ".", "Our", "selection", "of", "naive", "Bayes", "is", "due", "to", "the", "fact", "that", "it", "appears", "to", "work", "comparably", "to", "the", "SVM", "approach", "for", "these", "data", ",", "while", "being", "much", "simpler", ",", "both", "in", "theory", "and", "implementation", ".", "Because", "we", "have", "only", "1279", "documents", "and", "10", "classes", ",", "the", "number", "of", "training", "documents", "per", "class", "is", "relatively", "small", ".", "In", "addition", "to", "models", "fitted", "to", "the", "Editor", "'s", "Desk", "data", ",", "then", ",", "we", "constructed", "a", "fourth", "model", ",", "supplementing", "the", "training", "sets", "of", "each", "class", "by", "querying", "the", "Google", "search", "engine", "7", "and", "applying", "naive", "Bayes", "to", "the", "augmented", "test", "set", ".", "For", "each", "class", ",", "we", "created", "a", "query", "by", "submitting", "the", "three", "terms", "with", "the", "highest", "log-odds", "ratio", "with", "that", "class", ".", "Further", ",", "each", "query", "was", "limited", "to", "the", "domain", "www.bls.gov", ".", "For", "each", "class", "we", "retrieved", "up", "to", "400", "documents", "from", "Google", "-LRB-", "the", "actual", "number", "varied", "depending", "on", "the", "size", "of", "the", "result", "set", "returned", "by", "Google", "-RRB-", ".", "This", "led", "to", "a", "training", "set", "of", "4113", "documents", "in", "the", "``", "augmented", "model", ",", "''", "as", "we", "call", "it", "below", "8", ".", "Cross", "validation", "suggested", "that", "the", "augmented", "model", "decreased", "classification", "accuracy", "-LRB-", "accuracy", "=", "58.16", "%", ",", "with", "standard", "error", "=", "0.32", "-RRB-", ".", "As", "we", "discuss", "below", ",", "however", ",", "augmenting", "the", "training", "set", "appeared", "to", "help", "generalization", "during", "our", "second", "experiment", ".", "The", "results", "of", "our", "cross", "validation", "experiment", "are", "encouraging", ".", "However", ",", "the", "success", "of", "our", "classifiers", "on", "the", "Editor", "'s", "Desk", "documents", "that", "informed", "the", "cross", "validation", "study", "may", "not", "be", "good", "predictors", "of", "the", "models", "'", "performance", "on", "the", "remainder", "to", "the", "BLS", "website", ".", "To", "test", "the", "generality", "of", "the", "naive", "Bayes", "classifier", ",", "we", "solicited", "input", "from", "11", "human", "judges", "who", "were", "familiar", "with", "the", "BLS", "website", ".", "The", "sample", "was", "chosen", "by", "convenience", ",", "and", "consisted", "of", "faculty", "and", "graduate", "students", "who", "work", "on", "the", "GovStat", "project", ".", "However", ",", "none", "of", "the", "reviewers", "had", "prior", "knowledge", "of", "the", "outcome", "of", "the", "classification", "before", "their", "participation", ".", "For", "the", "experiment", ",", "a", "random", "sample", "of", "100", "documents", "was", "drawn", "from", "the", "entire", "BLS", "collection", ".", "On", "average", "each", "re-7", "http://www.google.com", "8", "A", "more", "formal", "treatment", "of", "the", "combination", "of", "labeled", "and", "unlabeled", "data", "is", "available", "in", "-LSB-", "4", "-RSB-", ".", "Table", "5", ":", "Human-Model", "Agreement", "on", "100", "Sample", "Docs", ".", "Human", "Judge", "1", "st", "Choice", "Model", "Model", "1", "st", "Choice", "Model", "2", "nd", "Choice", "N.", "Bayes", "-LRB-", "aug.", "-RRB-", "14", "24", "N.", "Bayes", "24", "1", "Human", "Judge", "2", "nd", "Choice", "Model", "Model", "1", "st", "Choice", "Model", "2", "nd", "Choice", "N.", "Bayes", "-LRB-", "aug.", "-RRB-", "14", "21", "N.", "Bayes", "21", "4", "viewer", "classified", "83", "documents", ",", "placing", "each", "document", "into", "as", "many", "of", "the", "categories", "shown", "in", "Table", "3", "as", "he", "or", "she", "saw", "fit", ".", "Results", "from", "this", "experiment", "suggest", "that", "room", "for", "improvement", "remains", "with", "respect", "to", "generalizing", "to", "the", "whole", "collection", "from", "the", "class", "models", "fitted", "to", "the", "Editor", "'s", "Desk", "documents", ".", "In", "Table", "5", ",", "we", "see", ",", "for", "each", "classifier", ",", "the", "number", "of", "documents", "for", "which", "it", "'s", "first", "or", "second", "most", "probable", "class", "was", "voted", "best", "or", "second", "best", "by", "the", "11", "human", "judges", ".", "In", "the", "context", "of", "this", "experiment", ",", "we", "consider", "a", "first", "-", "or", "second-place", "classification", "by", "the", "machine", "to", "be", "accurate", "because", "the", "relation", "browser", "interface", "operates", "on", "a", "multi-way", "classification", ",", "where", "each", "document", "is", "classified", "into", "multiple", "categories", ".", "Thus", "a", "document", "with", "the", "``", "correct", "''", "class", "as", "its", "second", "choice", "would", "still", "be", "easily", "available", "to", "a", "user", ".", "Likewise", ",", "a", "correct", "classification", "on", "either", "the", "most", "popular", "or", "second", "most", "popular", "category", "among", "the", "human", "judges", "is", "considered", "correct", "in", "cases", "where", "a", "given", "document", "was", "classified", "into", "multiple", "classes", ".", "There", "were", "72", "multi-class", "documents", "in", "our", "sample", ",", "as", "seen", "in", "Figure", "4", ".", "The", "remaining", "28", "documents", "were", "assigned", "to", "1", "or", "0", "classes", ".", "Under", "this", "rationale", ",", "The", "augmented", "naive", "Bayes", "classifier", "correctly", "grouped", "73", "documents", ",", "while", "the", "smaller", "model", "-LRB-", "not", "augmented", "by", "a", "Google", "search", "-RRB-", "correctly", "classified", "50", ".", "The", "resultant", "2", "test", "gave", "p", "=", "0.001", ",", "suggesting", "that", "increasing", "the", "training", "set", "improved", "the", "ability", "of", "the", "naive", "Bayes", "model", "to", "generalize", "from", "the", "Editor", "'s", "Desk", "documents", "to", "the", "collection", "as", "a", "whole", ".", "However", ",", "the", "improvement", "afforded", "by", "the", "augmented", "model", "comes", "at", "some", "cost", ".", "In", "particular", ",", "the", "augmented", "model", "is", "significantly", "inferior", "to", "the", "model", "trained", "solely", "on", "Editor", "'s", "Desk", "documents", "if", "we", "concern", "ourselves", "only", "with", "documents", "selected", "by", "the", "majority", "of", "human", "reviewers", "--", "i.e.", "only", "first-choice", "classes", ".", "Limiting", "the", "right", "answers", "to", "the", "left", "column", "of", "Table", "5", "gives", "p", "=", "0.02", "in", "favor", "of", "the", "non-augmented", "model", ".", "For", "the", "purposes", "of", "applying", "the", "relation", "browser", "to", "complex", "digital", "library", "content", "-LRB-", "where", "documents", "will", "be", "classified", "along", "multiple", "categories", "-RRB-", ",", "the", "augmented", "model", "is", "preferable", ".", "But", "this", "is", "not", "necessarily", "the", "case", "in", "general", ".", "It", "must", "also", "be", "said", "that", "73", "%", "accuracy", "under", "a", "fairly", "liberal", "test", "condition", "leaves", "room", "for", "improvement", "in", "our", "assignment", "of", "topics", "to", "categories", ".", "We", "may", "begin", "to", "understand", "the", "shortcomings", "of", "the", "described", "techniques", "by", "consulting", "Figure", "5", ",", "which", "shows", "the", "distribution", "of", "categories", "across", "documents", "given", "by", "humans", "and", "by", "the", "augmented", "naive", "Bayes", "model", ".", "The", "majority", "of", "reviewers", "put", "157", "Number", "of", "Human-Assigned", "Classes", "Frequency", "0", "1", "2", "3", "4", "5", "6", "7", "0", "5", "10", "15", "20", "25", "30", "35", "Figure", "4", ":", "Number", "of", "Classes", "Assigned", "to", "Documents", "by", "Judges", "documents", "into", "only", "three", "categories", ",", "jobs", ",", "benefits", ",", "and", "occupations", ".", "On", "the", "other", "hand", ",", "the", "naive", "Bayes", "classifier", "distributed", "classes", "more", "evenly", "across", "the", "topics", ".", "This", "behavior", "suggests", "areas", "for", "future", "improvement", ".", "Most", "importantly", ",", "we", "observed", "a", "strong", "correlation", "among", "the", "three", "most", "frequent", "classes", "among", "the", "human", "judges", "-LRB-", "for", "instance", ",", "there", "was", "68", "%", "correlation", "between", "benefits", "and", "occupations", "-RRB-", ".", "This", "suggests", "that", "improving", "the", "clustering", "to", "produce", "topics", "that", "were", "more", "nearly", "orthogonal", "might", "improve", "performance", "Many", "developers", "and", "maintainers", "of", "digital", "libraries", "share", "the", "basic", "problem", "pursued", "here", ".", "Given", "increasingly", "large", ",", "complex", "bodies", "of", "data", ",", "how", "may", "we", "improve", "access", "to", "collections", "without", "incurring", "extraordinary", "cost", ",", "and", "while", "also", "keeping", "systems", "receptive", "to", "changes", "in", "content", "over", "time", "?", "Data", "mining", "and", "machine", "learning", "methods", "hold", "a", "great", "deal", "of", "promise", "with", "respect", "to", "this", "problem", ".", "Empirical", "methods", "of", "knowledge", "discovery", "can", "aid", "in", "the", "organization", "and", "retrieval", "of", "information", ".", "As", "we", "have", "argued", "in", "this", "paper", ",", "these", "methods", "may", "also", "be", "brought", "to", "bear", "on", "the", "design", "and", "implementation", "of", "advanced", "user", "interfaces", ".", "This", "study", "explored", "a", "hybrid", "technique", "for", "aiding", "information", "architects", "as", "they", "implement", "dynamic", "interfaces", "such", "as", "the", "relation", "browser", ".", "Our", "approach", "combines", "unsupervised", "learning", "techniques", ",", "applied", "to", "a", "focused", "subset", "of", "the", "BLS", "website", ".", "The", "goal", "of", "this", "initial", "stage", "is", "to", "discover", "the", "most", "basic", "and", "far-reaching", "topics", "in", "the", "collection", ".", "Based", "jobs", "prices", "spending", "costs", "Human", "Classifications", "0.00", "0.15", "jobs", "prices", "spending", "costs", "Machine", "Classifications", "0.00", "0.10", "Figure", "5", ":", "Distribution", "of", "Classes", "Across", "Documents", "on", "a", "statistical", "model", "of", "these", "topics", ",", "the", "second", "phase", "of", "our", "approach", "uses", "supervised", "learning", "-LRB-", "in", "particular", ",", "a", "naive", "Bayes", "classifier", ",", "trained", "on", "individual", "words", "-RRB-", ",", "to", "assign", "topical", "relations", "to", "the", "remaining", "documents", "in", "the", "collection", ".", "In", "the", "study", "reported", "here", ",", "this", "approach", "has", "demon-strated", "promise", ".", "In", "its", "favor", ",", "our", "approach", "is", "highly", "scalable", ".", "It", "also", "appears", "to", "give", "fairly", "good", "results", ".", "Comparing", "three", "modes", "of", "document", "representation", "--", "full-text", ",", "title", "only", ",", "and", "keyword", "--", "we", "found", "98", "%", "accuracy", "as", "measured", "by", "collocation", "of", "documents", "with", "identical", "subject", "headings", ".", "While", "it", "is", "not", "surprising", "that", "editor-generated", "keywords", "should", "give", "strong", "evidence", "for", "such", "learning", ",", "their", "superiority", "over", "full-text", "and", "titles", "was", "dramatic", ",", "suggesting", "that", "even", "a", "small", "amount", "of", "metadata", "can", "be", "very", "useful", "for", "data", "mining", ".", "However", ",", "we", "also", "found", "evidence", "that", "learning", "topics", "from", "a", "subset", "of", "the", "collection", "may", "lead", "to", "overfitted", "models", ".", "After", "clustering", "1279", "Editor", "'s", "Desk", "documents", "into", "10", "categories", ",", "we", "fitted", "a", "10-way", "naive", "Bayes", "classifier", "to", "categorize", "the", "remaining", "14,000", "documents", "in", "the", "collection", ".", "While", "we", "saw", "fairly", "good", "results", "-LRB-", "classification", "accuracy", "of", "75", "%", "with", "respect", "to", "a", "small", "sample", "of", "human", "judges", "-RRB-", ",", "this", "experiment", "forced", "us", "to", "reconsider", "the", "quality", "of", "the", "topics", "learned", "by", "clustering", ".", "The", "high", "correlation", "among", "human", "judgments", "in", "our", "sample", "suggests", "that", "the", "topics", "discovered", "by", "analysis", "of", "the", "Editor", "'s", "Desk", "were", "not", "independent", ".", "While", "we", "do", "not", "desire", "mutually", "exclusive", "categories", "in", "our", "setting", ",", "we", "do", "desire", "independence", "among", "the", "topics", "we", "model", ".", "Overall", ",", "then", ",", "the", "techniques", "described", "here", "provide", "an", "encouraging", "start", "to", "our", "work", "on", "acquiring", "subject", "metadata", "for", "dynamic", "interfaces", "automatically", ".", "It", "also", "suggests", "that", "a", "more", "sophisticated", "modeling", "approach", "might", "yield", "158", "better", "results", "in", "the", "future", ".", "In", "upcoming", "work", "we", "will", "experiment", "with", "streamlining", "the", "two-phase", "technique", "described", "here", ".", "Instead", "of", "clustering", "documents", "to", "find", "topics", "and", "then", "fitting", "a", "model", "to", "the", "learned", "clusters", ",", "our", "goal", "is", "to", "expand", "the", "unsupervised", "portion", "of", "our", "analysis", "beyond", "a", "narrow", "subset", "of", "the", "collection", ",", "such", "as", "The", "Editor", "'s", "Desk", ".", "In", "current", "work", "we", "have", "defined", "algorithms", "to", "identify", "documents", "likely", "to", "help", "the", "topic", "discovery", "task", ".", "Supplied", "with", "a", "more", "comprehensive", "training", "set", ",", "we", "hope", "to", "experiment", "with", "model-based", "clustering", ",", "which", "combines", "the", "clustering", "and", "classification", "processes", "into", "a", "single", "modeling", "procedure", ".", "Topic", "discovery", "and", "document", "classification", "have", "long", "been", "recognized", "as", "fundamental", "problems", "in", "information", "retrieval", "and", "other", "forms", "of", "text", "mining", ".", "What", "is", "increasingly", "clear", ",", "however", ",", "as", "digital", "libraries", "grow", "in", "scope", "and", "complexity", ",", "is", "the", "applicability", "of", "these", "techniques", "to", "problems", "at", "the", "front-end", "of", "systems", "such", "as", "information", "architecture", "and", "interface", "design", ".", "Finally", ",", "then", ",", "in", "future", "work", "we", "will", "build", "on", "the", "user", "studies", "undertaken", "by", "Marchionini", "and", "Brunk", "in", "efforts", "to", "evaluate", "the", "utility", "of", "automatically", "populated", "dynamic", "interfaces", "for", "the", "users", "of", "digital", "libraries", ".", "-LSB-", "1", "-RSB-", "A.", "Agresti", ".", "An", "Introduction", "to", "Categorical", "Data", "Analysis", ".", "Wiley", ",", "New", "York", ",", "1996", ".", "-LSB-", "2", "-RSB-", "C.", "Ahlberg", ",", "C.", "Williamson", ",", "and", "B.", "Shneiderman", ".", "Dynamic", "queries", "for", "information", "exploration", ":", "an", "implementation", "and", "evaluation", ".", "In", "Proceedings", "of", "the", "SIGCHI", "conference", "on", "Human", "factors", "in", "computing", "systems", ",", "pages", "619", "626", ",", "1992", ".", "-LSB-", "3", "-RSB-", "R.", "Baeza-Yates", "and", "B.", "Ribeiro-Neto", ".", "Modern", "Information", "Retrieval", ".", "ACM", "Press", ",", "1999", ".", "-LSB-", "4", "-RSB-", "A.", "Blum", "and", "T.", "Mitchell", ".", "Combining", "labeled", "and", "unlabeled", "data", "with", "co-training", ".", "In", "Proceedings", "of", "the", "eleventh", "annual", "conference", "on", "Computational", "learning", "theory", ",", "pages", "92", "100", ".", "ACM", "Press", ",", "1998", ".", "-LSB-", "5", "-RSB-", "H.", "Chen", "and", "S.", "Dumais", ".", "Hierarchical", "classification", "of", "web", "content", ".", "In", "Proceedings", "of", "the", "23rd", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "256", "263", ",", "2000", ".", "-LSB-", "6", "-RSB-", "M.", "Efron", ",", "G.", "Marchionini", ",", "and", "J.", "Zhang", ".", "Implications", "of", "the", "recursive", "representation", "problem", "for", "automatic", "concept", "identification", "in", "on-line", "governmental", "information", ".", "In", "Proceedings", "of", "the", "ASIST", "Special", "Interest", "Group", "on", "Classification", "Research", "-LRB-", "ASIST", "SIG-CR", "-RRB-", ",", "2003", ".", "-LSB-", "7", "-RSB-", "C.", "Fraley", "and", "A.", "E.", "Raftery", ".", "How", "many", "clusters", "?", "which", "clustering", "method", "?", "answers", "via", "model-based", "cluster", "analysis", ".", "The", "Computer", "Journal", ",", "41", "-LRB-", "8", "-RRB-", ":", "578", "588", ",", "1998", ".", "-LSB-", "8", "-RSB-", "A.", "K.", "Jain", ",", "M.", "N.", "Murty", ",", "and", "P.", "J.", "Flynn", ".", "Data", "clustering", ":", "a", "review", ".", "ACM", "Computing", "Surveys", ",", "31", "-LRB-", "3", "-RRB-", ":", "264", "323", ",", "September", "1999", ".", "-LSB-", "9", "-RSB-", "T.", "Joachims", ".", "A", "probabilistic", "analysis", "of", "the", "Rocchio", "algorithm", "with", "TFIDF", "for", "text", "categorization", ".", "In", "D.", "H.", "Fisher", ",", "editor", ",", "Proceedings", "of", "ICML-97", ",", "14th", "International", "Conference", "on", "Machine", "Learning", ",", "pages", "143", "151", ",", "Nashville", ",", "US", ",", "1997", ".", "Morgan", "Kaufmann", "Publishers", ",", "San", "Francisco", ",", "US", ".", "-LSB-", "10", "-RSB-", "T.", "Joachims", ".", "Text", "categorization", "with", "support", "vector", "machines", ":", "learning", "with", "many", "relevant", "features", ".", "In", "C.", "N", "edellec", "and", "C.", "Rouveirol", ",", "editors", ",", "Proceedings", "of", "ECML-98", ",", "10th", "European", "Conference", "on", "Machine", "Learning", ",", "pages", "137", "142", ",", "Chemnitz", ",", "DE", ",", "1998", ".", "Springer", "Verlag", ",", "Heidelberg", ",", "DE", ".", "-LSB-", "11", "-RSB-", "I.", "T.", "Jolliffe", ".", "Principal", "Component", "Analysis", ".", "Springer", ",", "2nd", "edition", ",", "2002", ".", "-LSB-", "12", "-RSB-", "L.", "Kaufman", "and", "P.", "J.", "Rosseeuw", ".", "Finding", "Groups", "in", "Data", ":", "an", "Introduction", "to", "Cluster", "Analysis", ".", "Wiley", ",", "1990", ".", "-LSB-", "13", "-RSB-", "G.", "Marchionini", "and", "B.", "Brunk", ".", "Toward", "a", "general", "relation", "browser", ":", "a", "GUI", "for", "information", "architects", ".", "Journal", "of", "Digital", "Information", ",", "4", "-LRB-", "1", "-RRB-", ",", "2003", ".", "http://jodi.ecs.soton.ac.uk/Articles/v04/i01/Marchionini/", ".", "-LSB-", "14", "-RSB-", "A.", "K.", "McCallum", ".", "Bow", ":", "A", "toolkit", "for", "statistical", "language", "modeling", ",", "text", "retrieval", ",", "classification", "and", "clustering", ".", "http://www.cs.cmu.edu/~mccallum/bow", ",", "1996", ".", "-LSB-", "15", "-RSB-", "T.", "Mitchell", ".", "Machine", "Learning", ".", "McGraw", "Hill", ",", "1997", ".", "-LSB-", "16", "-RSB-", "E.", "Rasmussen", ".", "Clustering", "algorithms", ".", "In", "W.", "B.", "Frakes", "and", "R.", "Baeza-Yates", ",", "editors", ",", "Information", "Retrieval", ":", "Data", "Structures", "and", "Algorithms", ",", "pages", "419", "442", ".", "Prentice", "Hall", ",", "1992", ".", "-LSB-", "17", "-RSB-", "R.", "Tibshirani", ",", "G.", "Walther", ",", "and", "T.", "Hastie", ".", "Estimating", "the", "number", "of", "clusters", "in", "a", "dataset", "via", "the", "gap", "statistic", ",", "2000", ".", "http://citeseer.nj.nec.com/tibshirani00estimating.html", ".", "-LSB-", "18", "-RSB-", "V.", "N.", "Vapnik", ".", "The", "Nature", "of", "Statistical", "Learning", "Theory", ".", "Springer", ",", "2000", ".", "159"], "doc_bio_tags": ["B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["bls", "clustering", "document representation", "topic discovery", "interface design", "machine learning", "information architecture", "document classification", "digital libraries"], "abstractive_keyphrases": ["relational browser"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "144", "document": ["On", "the", "Discovery", "of", "Significant", "Statistical", "Quantitative", "Rules", "In", "this", "paper", "we", "study", "market", "share", "rules", ",", "rules", "that", "have", "a", "certain", "market", "share", "statistic", "associated", "with", "them", ".", "Such", "rules", "are", "particularly", "relevant", "for", "decision", "making", "from", "a", "business", "perspective", ".", "Motivated", "by", "market", "share", "rules", ",", "in", "this", "paper", "we", "consider", "statistical", "quantitative", "rules", "-LRB-", "SQ", "rules", "-RRB-", "that", "are", "quantitative", "rules", "in", "which", "the", "RHS", "can", "be", "any", "statistic", "that", "is", "computed", "for", "the", "segment", "satisfying", "the", "LHS", "of", "the", "rule", ".", "Building", "on", "prior", "work", ",", "we", "present", "a", "statistical", "approach", "for", "learning", "all", "significant", "SQ", "rules", ",", "i.e.", ",", "SQ", "rules", "for", "which", "a", "desired", "statistic", "lies", "outside", "a", "confidence", "interval", "computed", "for", "this", "rule", ".", "In", "particular", "we", "show", "how", "resampling", "techniques", "can", "be", "effectively", "used", "to", "learn", "significant", "rules", ".", "Since", "our", "method", "considers", "the", "significance", "of", "a", "large", "number", "of", "rules", "in", "parallel", ",", "it", "is", "susceptible", "to", "learning", "a", "certain", "number", "of", "``", "false", "''", "rules", ".", "To", "address", "this", ",", "we", "present", "a", "technique", "that", "can", "determine", "the", "number", "of", "significant", "SQ", "rules", "that", "can", "be", "expected", "by", "chance", "alone", ",", "and", "suggest", "that", "this", "number", "can", "be", "used", "to", "determine", "a", "``", "false", "discovery", "rate", "''", "for", "the", "learning", "procedure", ".", "We", "apply", "our", "methods", "to", "online", "consumer", "purchase", "data", "and", "report", "the", "results", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "-", "Data", "Mining", ".", "Algorithms", ",", "Management", ".", "Rule", "discovery", "is", "widely", "used", "in", "data", "mining", "for", "learning", "interesting", "patterns", ".", "Some", "of", "the", "early", "approaches", "for", "rule", "learning", "were", "in", "the", "machine", "learning", "literature", "-LSB-", "11", ",", "12", ",", "21", "-RSB-", ".", "More", "recently", "there", "have", "been", "many", "algorithms", "-LSB-", "1", ",", "25", ",", "28", ",", "31", "-RSB-", "proposed", "in", "the", "data", "mining", "literature", ",", "most", "of", "which", "are", "based", "on", "the", "concept", "of", "association", "rules", "-LSB-", "1", "-RSB-", ".", "While", "all", "these", "various", "approaches", "have", "been", "successfully", "used", "in", "many", "applications", "-LSB-", "8", ",", "22", ",", "24", "-RSB-", ",", "there", "are", "still", "situations", "that", "these", "types", "of", "rules", "do", "not", "capture", ".", "The", "problem", "studied", "in", "this", "paper", "is", "motivated", "by", "market", "share", "rules", ",", "a", "specific", "type", "of", "rule", "that", "can", "not", "be", "represented", "as", "association", "rules", ".", "Informally", ",", "a", "market", "share", "rule", "is", "a", "rule", "that", "specifies", "the", "market", "share", "of", "a", "product", "or", "a", "firm", "under", "some", "conditions", ".", "The", "results", "we", "report", "in", "this", "paper", "are", "from", "real", "user-level", "Web", "browsing", "data", "provided", "to", "us", "by", "comScore", "Networks", ".", "The", "data", "consists", "of", "browsing", "behavior", "of", "100,000", "users", "over", "6", "months", ".", "In", "addition", "to", "customer", "specific", "attributes", ",", "two", "attributes", "in", "a", "transaction", "that", "are", "used", "to", "compute", "the", "market", "share", "are", "the", "site", "at", "which", "a", "purchase", "was", "made", "and", "the", "purchase", "amount", ".", "Consider", "the", "example", "rules", "below", "that", "we", "discovered", "from", "the", "data", ":", "-LRB-", "1", "-RRB-", "Household", "Size", "=", "3", "35K", "<", "Income", "<", "50K", "ISP", "=", "Dialup", "marketshare", "Expedia", "=", "27.76", "%", ",", "support", "=", "2.1", "%", "-LRB-", "2", "-RRB-", "Region", "=", "North", "East", "Household", "Size", "=", "1", "marketshare", "Expedia", "=", "25.15", "%", ",", "support", "=", "2.2", "%", "-LRB-", "3", "-RRB-", "Education", "=", "College", "Region", "=", "West", "50", "<", "Household", "Eldest", "Age", "<", "55", "marketshare", "Expedia", "=", "2.92", "%", ",", "support", "=", "2.2", "%", "-LRB-", "4", "-RRB-", "18", "<", "Household", "Eldest", "Age", "<", "20", "marketshare", "Expedia", "=", "8.16", "%", ",", "support", "=", "2.4", "%", "The", "market", "share", "for", "a", "specific", "site", ",", "e.g.", "Expedia.com", ",", "is", "computed", "as", "the", "dollar", "value", "of", "flight", "ticket", "purchases", "-LRB-", "satisfying", "the", "LHS", "of", "the", "rule", "-RRB-", "made", "at", "Expedia.com", ",", "divided", "by", "the", "total", "dollar", "value", "of", "all", "flight", "ticket", "purchases", "satisfying", "the", "LHS", ".", "The", "discovered", "rules", "suggest", "that", "Expedia", "seems", "to", "be", "doing", "particularly", "well", "among", "the", "single", "households", "in", "the", "North", "East", "region", "-LRB-", "rule", "2", "-RRB-", ",", "while", "it", "cedes", "some", "market", "in", "the", "segment", "of", "teenagers", "-LRB-", "rule", "4", "-RRB-", ".", "Rules", "such", "as", "these", "are", "particularly", "relevant", "for", "business", "since", "they", "suggest", "natural", "actions", "that", "may", "be", "taken", ".", "For", "example", ",", "it", "may", "be", "worth", "investigating", "the", "higher", "market", "share", "segments", "to", "study", "if", "there", "is", "something", "particularly", "good", "that", "is", "being", "done", ",", "which", "is", "not", "being", "done", "in", "the", "lower", "market", "share", "segments", ".", "More", "generally", ",", "``", "market", "share", "''", "is", "an", "example", "of", "a", "statistic", "that", "is", "computed", "based", "on", "the", "segment", "satisfying", "the", "antecedent", "of", "the", "rule", ".", "Besides", "market", "share", ",", "various", "other", "quantitative", "statistics", "on", "the", "set", "of", "transactions", "satisfying", "the", "LHS", "of", "a", "rule", "can", "be", "computed", ",", "including", "mean", "and", "variance", "of", "an", "attribute", ".", "Prior", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "374", "Research", "Track", "Paper", "work", "on", "learning", "quantitative", "association", "rules", "-LSB-", "2", ",", "33", "-RSB-", "studied", "the", "discovery", "of", "rules", "with", "statistics", "such", "as", "the", "mean", ",", "variance", ",", "or", "minimum/maximum", "of", "a", "single", "attribute", "on", "the", "RHS", "of", "a", "rule", ".", "In", "this", "paper", "we", "generalize", "the", "structure", "of", "the", "rules", "considered", "in", "-LSB-", "2", "-RSB-", "to", "rules", "in", "which", "the", "RHS", "can", "be", "any", "quantitative", "statistic", "that", "can", "be", "computed", "for", "the", "subset", "of", "data", "satisfying", "the", "LHS", ".", "This", "statistic", "can", "even", "be", "computed", "based", "on", "multiple", "attributes", ".", "We", "term", "such", "rules", "as", "statistical", "quantitative", "rules", "-LRB-", "SQ", "rules", "-RRB-", ".", "With", "respect", "to", "learning", "SQ", "rules", "from", "data", ",", "we", "formulate", "the", "problem", "as", "learning", "significant", "SQ", "rules", "that", "have", "adequate", "support", ".", "We", "define", "an", "SQ", "rule", "to", "be", "significant", "if", "the", "specific", "statistic", "computed", "for", "the", "rule", "lies", "outside", "a", "certain", "confidence", "interval", ".", "This", "confidence", "interval", "represents", "a", "range", "in", "which", "the", "statistic", "can", "be", "expected", "by", "chance", "alone", ".", "This", "is", "an", "important", "range", "to", "identify", "if", "the", "rules", "discovered", "are", "to", "be", "interpreted", "as", "suggesting", "fundamental", "relationships", "between", "the", "LHS", "and", "the", "market", "share", ".", "For", "example", ",", "by", "chance", "alone", "if", "it", "is", "highly", "likely", "that", "the", "market", "share", "of", "Expedia", "is", "between", "25", "%", "and", "30", "%", "for", "any", "subset", "of", "data", ",", "then", "it", "is", "not", "at", "all", "clear", "that", "the", "rule", "relating", "income", "and", "Expedia", "'s", "market", "share", "-LRB-", "rule", "1", "in", "the", "example", "-RRB-", "is", "identifying", "a", "fundamental", "relationship", "between", "income", "and", "the", "market", "share", ".", "While", "prior", "work", "-LSB-", "6", ",", "9", "-RSB-", "has", "used", "confidence", "intervals", "to", "identify", "significant", "rules", ",", "most", "of", "these", "approaches", "are", "either", "parametric", "or", "specific", "for", "binary", "data", ".", "Building", "on", "prior", "work", "in", "this", "paper", "we", "present", "a", "statistical", "approach", "for", "learning", "significant", "SQ", "rules", "that", "is", "entirely", "non-parametric", ".", "In", "particular", "we", "show", "how", "resampling", "techniques", ",", "such", "as", "permutation", ",", "can", "be", "effectively", "used", "to", "learn", "confidence", "intervals", "for", "rules", ".", "Based", "on", "these", "confidence", "intervals", ",", "significant", "rules", "can", "be", "identified", ".", "However", ",", "since", "our", "method", "considers", "the", "significance", "of", "a", "large", "number", "of", "rules", "in", "parallel", ",", "for", "a", "given", "significance", "level", "it", "is", "susceptible", "to", "learning", "a", "certain", "number", "of", "false", "rules", ".", "To", "address", "this", "we", "present", "an", "intuitive", "resampling", "technique", "that", "can", "determine", "the", "number", "of", "false", "rules", ",", "and", "argue", "that", "this", "number", "can", "be", "used", "to", "determine", "a", "``", "false", "discovery", "rate", "''", "for", "the", "learning", "procedure", ".", "The", "practical", "significance", "of", "this", "approach", "is", "that", "we", "learn", "significant", "SQ", "rules", "from", "data", "and", "specify", "what", "the", "false", "discovery", "rate", "exactly", "is", ".", "The", "paper", "is", "organized", "as", "follows", ".", "We", "first", "define", "SQ", "rules", "in", "the", "next", "section", ".", "Section", "3", "presents", "an", "algorithm", "for", "computing", "confidence", "intervals", "and", "Section", "4", "presents", "an", "algorithm", "for", "learning", "significant", "SQ", "rules", ".", "In", "Section", "5", "we", "explain", "how", "the", "false", "discovery", "rate", "for", "our", "approach", "can", "be", "computed", ".", "We", "present", "detailed", "experimental", "results", "on", "real", "web", "browsing", "data", "in", "Section", "6", "followed", "by", "a", "literature", "review", "and", "conclusions", ".", "In", "this", "section", "we", "define", "SQ", "rules", "and", "significant", "SQ", "rules", ".", "Let", "A", "=", "-LCB-", "A", "1", ",", "A", "2", ",", "...", ",", "A", "n", "-RCB-", "be", "a", "set", "of", "attributes", "that", "will", "be", "used", "to", "describe", "segments", "and", "B", "=", "-LCB-", "B", "1", ",", "B", "2", ",", "...", ",", "B", "m", "-RCB-", "be", "another", "set", "of", "attributes", "that", "will", "be", "used", "to", "compute", "various", "statistics", "that", "describe", "the", "segment", ".", "Let", "dom", "-LRB-", "A", "i", "-RRB-", "and", "dom", "-LRB-", "B", "j", "-RRB-", "represent", "the", "set", "of", "values", "that", "can", "be", "taken", "by", "attribute", "A", "i", "and", "B", "j", "respectively", ",", "for", "any", "A", "i", "A", "and", "B", "j", "B.", "Let", "D", "be", "a", "dataset", "of", "N", "transactions", "where", "each", "transaction", "is", "of", "the", "form", "-LCB-", "A", "1", "=", "a", "1", ",", "A", "2", "=", "a", "2", ",", "...", ",", "A", "n", "=", "a", "n", ",", "B", "1", "=", "b", "1", ",", "B", "2", "=", "b", "2", ",", "...", ",", "B", "m", "=", "b", "m", "-RCB-", "where", "a", "i", "dom", "-LRB-", "A", "i", "-RRB-", "and", "b", "j", "dom", "-LRB-", "B", "j", "-RRB-", ".", "Let", "an", "atomic", "condition", "be", "a", "proposition", "of", "the", "form", "value", "1", "A", "i", "value", "2", "for", "ordered", "attributes", "and", "A", "i", "=", "value", "for", "unordered", "attributes", "where", "value", ",", "value", "1", ",", "value", "2", "belong", "to", "the", "finite", "set", "of", "discrete", "values", "taken", "by", "A", "i", "in", "D.", "Finally", ",", "let", "an", "itemset", "represent", "a", "conjunction", "of", "atomic", "conditions", ".", "Definition", "2.1", "-LRB-", "SQ", "rule", "-RRB-", ".", "Given", "-LRB-", "i", "-RRB-", "sets", "of", "attributes", "A", "and", "B", ",", "-LRB-", "ii", "-RRB-", "a", "dataset", "D", "and", "-LRB-", "iii", "-RRB-", "a", "function", "f", "that", "computes", "a", "desired", "statistic", "of", "interest", "on", "any", "subset", "of", "data", ",", "an", "SQ", "rule", "is", "a", "rule", "of", "the", "form", ":", "X", "f", "-LRB-", "D", "X", "-RRB-", "=", "statistic", ",", "support", "=", "sup", "1", "-LRB-", "2.1", "-RRB-", "where", "X", "is", "an", "itemset", "involving", "attributes", "in", "A", "only", ",", "D", "X", "is", "the", "subset", "of", "D", "satisfying", "X", ",", "the", "function", "f", "computes", "some", "statistic", "from", "the", "values", "of", "the", "B", "attributes", "in", "the", "subset", "D", "X", ",", "and", "support", "is", "the", "number", "of", "transactions", "in", "D", "satisfying", "X.", "Note", "that", "the", "statistic", "on", "the", "RHS", "of", "the", "rule", "can", "be", "computed", "using", "the", "values", "of", "multiple", "attributes", ".", "The", "following", "examples", "are", "listed", "to", "demonstrate", "different", "types", "of", "rules", "that", "an", "SQ", "rule", "can", "represent", ".", "For", "ease", "of", "exposition", "we", "use", "the", "name", "of", "the", "desired", "statistic", "in", "the", "RHS", "instead", "of", "referring", "to", "it", "as", "f", "-LRB-", "D", "X", "-RRB-", ".", "1", ".", "Quantitative", "association", "rules", "-LSB-", "2", "-RSB-", ":", "population-subset", "mean", "or", "variance", "values", "for", "the", "subset", "-LRB-", "2.2", "-RRB-", "Quantitative", "association", "rules", "are", "a", "popular", "representation", "for", "rules", "in", "the", "data", "mining", "literature", "in", "which", "the", "RHS", "of", "a", "rule", "represents", "the", "mean", "or", "variance", "of", "some", "attribute", ".", "Example", ":", "Education", "=", "graduate", "Mean", "-LRB-", "purchase", "-RRB-", "=", "$", "15.00", ".", "-LRB-", "2.2", "-RRB-", "is", "a", "special", "case", "of", "-LRB-", "2.1", "-RRB-", ",", "where", "f", "-LRB-", "subset", "-RRB-", "is", "the", "mean", "of", "some", "attribute", "B", "j", "in", "the", "subset", "of", "data", ".", "2", ".", "Market", "share", "rules", ":", "Let", "-LCB-", "A", "1", ",", "A", "2", ",", "...", ",", "A", "n", ",", "MSV", ",", "P", "-RCB-", "be", "a", "set", "of", "attributes", "in", "a", "dataset", "D.", "MSV", "-LRB-", "Market", "Share", "Variable", "-RRB-", "is", "a", "special", "categorical", "attribute", "for", "which", "the", "market", "share", "values", "are", "to", "be", "computed", ".", "P", "is", "a", "special", "continuous", "variable", "that", "is", "the", "basis", "for", "the", "market", "share", "computation", "for", "MSV", ".", "For", "example", ",", "each", "transaction", "T", "k", "may", "represent", "a", "book", "2", "purchased", "online", ".", "A", "1", "through", "A", "n", "may", "represent", "attributes", "of", "the", "customer", "who", "makes", "the", "purchase", ",", "such", "as", "income", ",", "region", "of", "residence", "and", "household", "size", ".", "For", "each", "transaction", ",", "MSV", "is", "the", "variable", "indicating", "the", "online", "book", "retailer", "where", "the", "purchase", "was", "made", ".", "dom", "-LRB-", "MSV", "-RRB-", "may", "be", "-LCB-", "Amazon", ",", "Barnes", "&", "Noble", ",", "Ebay", "-RCB-", "and", "P", "is", "the", "price", "of", "the", "book", "purchased", ".", "For", "a", "specific", "v", "dom", "-LRB-", "MSV", "-RRB-", "a", "market", "share", "statistic", "can", "be", "computed", "as", "described", "below", ".", "Market", "share", "rules", "have", "the", "following", "form", ":", "X", "marketshare", "v", "=", "msh", ",", "support", "=", "sup", "-LRB-", "2.3", "-RRB-", "where", "X", "is", "an", "itemset", "consisting", "of", "attributes", "in", "-LCB-", "A", "1", ",", "A", "2", ",", "...", ",", "A", "n", "-RCB-", "and", "marketshare", "v", "is", "a", "statistic", "that", "represents", "the", "market", "share", "of", "a", "specific", "v", "dom", "-LRB-", "MSV", "-RRB-", ".", "This", "is", "computed", "as", "follows", ".", "Let", "D", "X", "represent", "the", "subset", "of", "transactions", "satisfying", "X", "and", "D", "X", ",", "MSV", "=", "v", "1", "In", "association", "rules", ",", "support", "is", "the", "number", "of", "transactions", "satisfying", "both", "LHS", "and", "RHS", "of", "a", "rule", ".", "In", "SQ", "rules", ",", "since", "the", "RHS", "is", "not", "an", "itemset", ",", "we", "define", "support", "as", "the", "number", "of", "transactions", "satisfying", "the", "LHS", "of", "a", "rule", "only", ".", "2", "The", "provider", ",", "comScore", "Networks", "categorizes", "each", "purchase", "into", "categories", "such", "as", "``", "book", "''", ",", "``", "travel", "''", "and", "``", "consumer", "electronics", "''", ".", "Hence", "we", "can", "generate", "datasets", "in", "which", "all", "transactions", "represent", "purchases", "in", "a", "single", "category", ",", "and", "this", "helps", "in", "the", "generation", "of", "market", "share", "rules", "representing", "specific", "categories", ".", "375", "Research", "Track", "Paper", "represent", "the", "subset", "of", "transactions", "satisfying", "-LRB-", "X", "MSV", "=", "v", "-RRB-", ".", "Then", "marketshare", "v", "is", "computed", "as", "sum", "-LRB-", "P", ",", "D", "X", ",", "MSV", "=", "v", "-RRB-", "/", "sum", "-LRB-", "P", ",", "D", "X", "-RRB-", ",", "where", "sum", "-LRB-", "P", ",", "D", "-RRB-", "is", "the", "sum", "of", "all", "the", "values", "of", "attribute", "P", "in", "the", "transactions", "in", "D.", "Market", "share", "rules", "naturally", "occur", "in", "various", "applications", ",", "including", "online", "purchases", "at", "various", "Web", "sites", ",", "sales", "applications", ",", "and", "knowledge", "management", "applications", ".", "The", "examples", "presented", "in", "the", "introduction", "are", "real", "market", "share", "rules", "discovered", "in", "online", "purchase", "data", ".", "The", "following", "additional", "examples", "illustrate", "the", "versatility", "and", "usefulness", "of", "market", "share", "rules", ".", "Within", "a", "specific", "product", "category", "-LRB-", "e.g.", "shoes", "-RRB-", "Footlocker", "sells", "competing", "brands", "of", "shoes", ".", "In", "their", "transaction", "data", ",", "the", "brand", "of", "the", "shoe", "can", "be", "the", "MSV", "and", "the", "purchase", "price", "is", "P.", "Consider", "a", "dataset", "of", "patents", "associated", "with", "some", "area", "-LRB-", "e.g.", "hard", "disks", "-RRB-", ".", "Each", "record", "may", "consist", "of", "several", "attributes", "describing", "a", "patent", ",", "including", "one", "attribute", "-LRB-", "MSV", "-RRB-", "which", "represents", "the", "organization", "to", "which", "the", "patent", "belongs", "and", "another", "attribute", "that", "is", "always", "1", "-LRB-", "representing", "P", "and", "indicating", "a", "granted", "patent", "-RRB-", "in", "the", "data", ".", "For", "a", "specific", "organization", ",", "e.g.", "IBM", ",", "market", "share", "rules", "will", "represent", "the", "percentage", "of", "patents", "that", "belong", "to", "IBM", "under", "some", "conditions", "involving", "other", "attributes", "of", "the", "patent", ".", "Definition", "2.1", "differs", "from", "the", "definition", "of", "quantitative", "rule", "-LSB-", "2", ",", "33", "-RSB-", "as", "follows", ".", "First", ",", "it", "is", "not", "limited", "to", "mean", "and", "variance", "statistics", "and", "assumes", "a", "much", "broader", "class", "of", "statistics", ",", "including", "the", "market", "share", "statistics", ".", "Second", ",", "unlike", "quantitative", "rules", ",", "the", "statistic", "of", "interest", "in", "the", "RHS", "of", "a", "rule", "can", "be", "computed", "based", "on", "multiple", "attributes", ".", "Definition", "2.2", "-LRB-", "Significant", "SQ", "rule", "-RRB-", ".", "For", "a", "given", "significance", "level", "-LRB-", "0", ",", "1", "-RRB-", ",", "let", "-LRB-", "stat", "L", ",", "stat", "H", "-RRB-", "be", "the", "-LRB-", "1", "-RRB-", "confidence", "interval", "for", "a", "desired", "statistic", ",", "where", "this", "confidence", "interval", "represents", "the", "range", "in", "which", "the", "statistic", "can", "be", "expected", "by", "chance", "alone", ".", "An", "SQ", "rule", "X", "f", "-LRB-", "D", "X", "-RRB-", "=", "statistic", ",", "support", "=", "sup", "is", "significant", "if", "statistic", "lies", "outside", "the", "range", "-LRB-", "stat", "L", ",", "stat", "H", "-RRB-", ".", "The", "main", "objective", "of", "this", "paper", "is", "to", "discover", "all", "significant", "SQ", "rules", ".", "The", "first", "challenge", "in", "learning", "significant", "SQ", "rules", "is", "in", "constructing", "a", "confidence", "interval", "for", "the", "desired", "statistic", "such", "that", "this", "interval", "represents", "a", "range", "of", "values", "for", "the", "RHS", "statistic", "that", "can", "be", "expected", "by", "chance", "alone", ".", "In", "the", "next", "section", "we", "present", "an", "algorithm", "for", "learning", "these", "confidence", "intervals", ".", "The", "first", "question", "that", "needs", "to", "be", "addressed", "is", "what", "is", "meant", "by", "``", "a", "range", "for", "the", "statistic", "that", "can", "be", "expected", "by", "chance", "alone", "''", ".", "In", "this", "section", "we", "start", "by", "addressing", "this", "question", "and", "outline", "a", "procedure", "by", "which", "such", "a", "range", "can", "be", "computed", ".", "Next", "we", "will", "point", "out", "the", "computational", "challenge", "in", "implementing", "such", "a", "procedure", "for", "learning", "these", "intervals", "for", "several", "SQ", "rules", "and", "then", "outline", "three", "observations", "that", "will", "substantially", "help", "address", "the", "computational", "problems", ".", "Based", "on", "these", "observations", "we", "present", "a", "resampling-based", "algorithm", "for", "computing", "the", "confidence", "intervals", ".", "3.1", "Motivation", "and", "outline", "of", "a", "procedure", "For", "a", "given", "SQ", "rule", ",", "the", "desired", "confidence", "interval", "theoretically", "represents", "the", "range", "in", "which", "the", "statistic", "can", "be", "expected", "when", "there", "is", "no", "fundamental", "relationship", "between", "the", "LHS", "of", "the", "rule", "and", "the", "statistic", ".", "More", "precisely", ",", "since", "the", "statistic", "is", "computed", "from", "the", "values", "of", "the", "B", "attributes", ",", "the", "confidence", "interval", "represents", "the", "range", "in", "which", "the", "statistic", "can", "be", "expected", "when", "the", "A", "attributes", "are", "truly", "independent", "of", "the", "B", "attributes", ".", "Without", "making", "any", "parametric", "distributional", "assumptions", ",", "such", "a", "confidence", "interval", "can", "be", "generated", "using", "the", "classical", "nonparametric", "technique", "of", "permutation", ".", "Indeed", "permutation-based", "approaches", "have", "been", "commonly", "used", "to", "generate", "confidence", "intervals", "in", "the", "statistics", "literature", "-LSB-", "16", "-RSB-", ".", "If", "R", "is", "the", "set", "of", "all", "attributes", "in", "a", "dataset", ",", "the", "basic", "idea", "in", "permutation", "is", "to", "create", "multiple", "datasets", "by", "randomly", "permuting", "the", "values", "of", "some", "attributes", "R", "i", "R", ".", "Such", "a", "permutation", "would", "create", "a", "dataset", "in", "which", "R", "i", "is", "independent", "of", "-LRB-", "R", "R", "i", "-RRB-", ",", "but", "would", "maintain", "the", "distributions", "of", "R", "i", "and", "-LRB-", "R", "R", "i", "-RRB-", "in", "the", "permutation", "dataset", "to", "be", "the", "same", "as", "the", "distributions", "of", "these", "attributes", "in", "the", "original", "dataset", ".", "Table", "3.1", "illustrates", "one", "example", "of", "a", "permutation", "dataset", "D", "in", "which", "the", "B", "attributes", "are", "randomly", "permuted", ".", "Since", "a", "desired", "statistic", "can", "be", "computed", "on", "each", "permutation", "dataset", ",", "a", "distribution", "for", "the", "statistic", "can", "be", "computed", "based", "on", "its", "values", "from", "the", "multiple", "permutation", "datasets", ".", "A", "confidence", "interval", "can", "then", "be", "computed", "from", "this", "distribution", ".", "Table", "3.1", "Dataset", "permutation", "Original", "dataset", "D", ":", "Permutation", "dataset", "D", ":", "A", "1", "A", "2", "B", "1", "B", "2", "A", "1", "A", "2", "B", "1", "B", "2", "1", "2", "3", "8", "1", "2", "5", "6", "1", "3", "5", "6", "1", "3", "7", "4", "2", "3", "7", "4", "2", "3", "3", "8", "As", "mentioned", "above", ",", "this", "is", "a", "commonly", "used", "procedure", "in", "nonparametric", "statistics", ".", "The", "reason", "this", "procedure", "makes", "sense", "is", "as", "follows", ".", "Even", "if", "there", "is", "a", "relationship", "between", "the", "LHS", "of", "an", "SQ", "rule", "and", "the", "statistic", "on", "the", "RHS", ",", "by", "holding", "the", "A", "attributes", "fixed", "and", "randomly", "re-ordering", "the", "values", "of", "the", "B", "attributes", "the", "relationship", "is", "destroyed", "and", "the", "A", "attributes", "and", "B", "attributes", "are", "now", "independent", "of", "each", "other", ".", "Repeating", "this", "procedure", "many", "times", "provides", "many", "datasets", "in", "which", "the", "A", "attributes", "and", "B", "attributes", "are", "independent", "of", "each", "other", ",", "while", "maintaining", "the", "distributions", "of", "the", "A", "and", "B", "attributes", "to", "be", "the", "same", "as", "their", "distributions", "in", "the", "original", "dataset", ".", "The", "values", "for", "the", "statistic", "computed", "from", "the", "many", "permutation", "datasets", "is", "used", "to", "construct", "a", "distribution", "for", "the", "statistic", "that", "can", "be", "expected", "when", "the", "A", "attributes", "are", "truly", "independent", "of", "the", "B", "attributes", ".", "Specifically", ",", "for", "the", "same", "itemset", "X", ",", "compare", "the", "following", "two", "SQ", "rules", "in", "D", "and", "D", ",", "D", ":", "X", "f", "-LRB-", "X", "D", "-RRB-", "=", "stat", "D", ",", "support", "=", "sup", "D", "-LRB-", "3.1", "-RRB-", "D", ":", "X", "f", "-LRB-", "X", "D", "-RRB-", "=", "stat", "D", ",", "support", "=", "sup", "D", "-LRB-", "3.2", "-RRB-", "First", "note", "that", "the", "supports", "of", "the", "rules", "are", "the", "same", "since", "the", "number", "of", "records", "satisfying", "X", "in", "the", "permutation", "dataset", "is", "the", "same", "as", "the", "original", "dataset", ".", "We", "will", "use", "this", "observation", "to", "build", "a", "more", "efficient", "method", "for", "computing", "confidence", "intervals", "376", "Research", "Track", "Paper", "shortly", ".", "A", "confidence", "interval", "for", "the", "rule", "in", "-LRB-", "3.1", "-RRB-", "can", "be", "computed", "using", "the", "following", "na", "ve", "procedure", ".", "1", ".", "Create", "permutation", "dataset", "D", "from", "the", "original", "dataset", "D", "and", "compute", "stat", "D", "-LRB-", "as", "mentioned", "earlier", "in", "Section", "2", ",", "the", "function", "f", "computes", "this", "number", "based", "on", "the", "records", "satisfying", "X", "-RRB-", ".", "2", ".", "Repeat", "step", "1", "N", "perm", ">", "1000", "times", "3", ",", "sort", "all", "the", "N", "perm", "stat", "D", "values", "in", "an", "ascending", "order", "-LRB-", "stat", "D", "-1", ",", "stat", "D", "-2", ",", "...", ",", "stat", "D", "-", "Nperm", "-RRB-", "and", "let", "the", "/", "2", "th", "and", "-LRB-", "1", "/", "2", "-RRB-", "th", "percentiles", "4", "from", "this", "list", "be", "stat", "D", "-", "L", "and", "stat", "D", "-", "H", ".", "The", "N", "perm", "values", "computed", "above", "represents", "a", "distribution", "for", "the", "statistic", "that", "can", "be", "expected", "by", "chance", "alone", ",", "while", "the", "percentile", "values", "from", "this", "distribution", "determine", "a", "specific", "confidence", "interval", ".", "-LRB-", "Below", "we", "use", "the", "terms", "``", "distribution", "''", "and", "``", "confidence", "interval", "''", "frequently", ".", "-RRB-", "3", ".", "The", "-LRB-", "1", "-RRB-", "confidence", "interval", "for", "the", "SQ", "rule", "in", "Equation", "-LRB-", "3.1", "-RRB-", "is", "-LRB-", "stat", "D", "-", "L", ",", "stat", "D", "-", "H", "-RRB-", ".", "3.2", "Computational", "challenges", "and", "solutions", "Computing", "these", "confidence", "intervals", "for", "multiple", "candidate", "SQ", "rules", "creates", "several", "computational", "problems", "which", "we", "will", "address", "in", "this", "section", ".", "For", "example", ",", "if", "we", "need", "to", "test", "10,000", "potential", "significant", "rules", "-LRB-", "which", "is", "a", "reasonably", "small", "number", "for", "data", "mining", "tasks", "-RRB-", ",", "then", "we", "would", "need", "to", "repeat", "the", "above", "steps", "10,000", "times", ",", "and", "this", "means", "generating", "permutation", "datasets", "10,000", "N", "perm", ">", "10", "7", "times", "and", "to", "compute", "the", "desired", "statistic", "in", "each", "permutation", "dataset", ".", "The", "following", "observations", "substantially", "reduce", "the", "computational", "complexity", "of", "the", "procedure", ".", "1", ".", "Sampling", "can", "be", "used", "instead", "of", "creating", "permutation", "datasets", ".", "For", "the", "SQ", "rule", "in", "Equation", "-LRB-", "3.1", "-RRB-", ",", "computing", "stat", "D", "on", "a", "permutation", "dataset", "is", "really", "equivalent", "to", "computing", "stat", "D", "based", "on", "a", "random", "sample", "of", "sup", "D", "records", "in", "D", ".", "This", "is", "the", "case", "since", "none", "of", "the", "A", "attributes", "play", "a", "role", "in", "the", "computation", "of", "the", "statistic", ".", "Permuting", "the", "dataset", ",", "identifying", "the", "-LRB-", "sup", "D", "-RRB-", "records", "where", "X", "holds", ",", "and", "then", "computing", "the", "statistic", "on", "this", "subset", "achieves", "the", "same", "effect", "as", "picking", "a", "random", "sample", "of", "sup", "D", "records", "from", "D", "and", "computing", "the", "statistic", "on", "this", "random", "subset", ".", "Hence", "to", "determine", "the", "confidence", "interval", "for", "the", "SQ", "rule", "in", "Equation", "-LRB-", "3.1", "-RRB-", ",", "instead", "of", "permuting", "the", "dataset", "N", "perm", "times", ",", "it", "is", "enough", "to", "sample", "sup", "D", "records", "from", "D", "for", "N", "perm", "times", ".", "2", ".", "Some", "of", "the", "candidate", "SQ", "rules", "have", "the", "same", "support", "values", "as", "other", "rules", ".", "Based", "on", "this", "observation", ",", "confidence", "intervals", "for", "two", "SQ", "rules", "with", "the", "same", "support", "can", "be", "approximated", "by", "the", "same", "interval", ".", "This", "is", "the", "case", "since", "for", "a", "given", "rule", "the", "interval", "is", "generated", "by", "sampling", "sup", "D", "records", "many", "times", "and", "if", "another", "rule", "has", "support", "=", "sup", "D", "then", "the", "interval", "for", "that", "rule", "will", "be", "similar", "if", "the", "same", "procedure", "is", "repeated", "-LRB-", "it", "will", "not", "be", "exactly", "the", "3", "N", "perm", "is", "typically", "a", "big", "number", ".", "If", "we", "let", "N", "perm", "=", "N", "!", ",", "which", "is", "the", "number", "of", "all", "possible", "permutations", ",", "we", "will", "be", "implementing", "a", "Monte", "Carlo", "test", ".", "On", "large", "datasets", ",", "such", "a", "test", "is", "impractical", ".", "For", "a", "statistic", "like", "market", "share", "whose", "value", "is", "limited", "by", "0", "and", "1", ",", "N", "perm", ">", "1000", "makes", "the", "distribution", "precise", "to", "the", "third", "decimal", "place", ".", "In", "our", "experiments", ",", "N", "perm", "=", "1999", ".", "4", "Since", "we", "do", "not", "have", "any", "prior", "assumption", "about", "the", "expected", "value", "of", "the", "statistic", "we", "use", "a", "two", "sided", "p-value", ".", "same", "because", "of", "randomization", "-RRB-", ".", "Therefore", ",", "fewer", "confidence", "intervals", "need", "to", "be", "generated", ".", "3", ".", "It", "is", "adequate", "to", "generate", "a", "fixed", "number", "of", "intervals", ",", "independent", "of", "the", "number", "of", "rules", "considered", ".", "We", "observe", "that", "the", "interval", "for", "an", "SQ", "rule", "with", "support", "=", "sup", "D", "can", "be", "approximated", "by", "an", "interval", "computed", "by", "sampling", "sup", "E", "records", "where", "sup", "E", "is", "``", "reasonably", "close", "''", "to", "sup", "D", ".", "This", "is", "a", "heuristic", "that", "we", "use", "to", "considerably", "reduce", "the", "complexity", "of", "the", "procedure", ".", "Denote", "N", "Rule", "as", "the", "number", "of", "rules", "to", "be", "tested", ".", "If", "all", "rules", "have", "different", "support", "values", ",", "we", "need", "to", "construct", "N", "Rule", "distributions", ".", "Instead", ",", "we", "would", "construct", "a", "fixed", "number", "N", "dist", "distributions", ",", "such", "that", "for", "rule", "``", "X", "f", "-LRB-", "D", "X", "-RRB-", "=", "statistic", ",", "support", "=", "sup", "''", ",", "statistic", "is", "compared", "with", "the", "distribution", "that", "is", "constructed", "by", "sampling", "the", "closest", "number", "of", "transactions", "to", "sup", ".", "This", "heuristic", "is", "more", "meaningful", "when", "we", "consider", "support", "in", "terms", "of", "percentage", "of", "transactions", "satisfying", "LHS", "of", "a", "rule", ",", "which", "is", "a", "number", "between", "0", "and", "1", ".", "3.3", "Algorithm", "CIComp", "Based", "on", "the", "above", "observations", ",", "we", "present", "in", "Figure", "3.1", "algorithm", "CIComp", "for", "constructing", "N", "dist", "distributions", "and", "determining", "the", "-LRB-", "1", "-RRB-", "confidence", "intervals", "for", "a", "given", "significance", "level", ".", "Input", ":", "dataset", "D", "with", "N", "transactions", ",", "the", "number", "of", "distributions", "N", "dist", ",", "the", "number", "of", "points", "in", "each", "distribution", "N", "perm", ",", "a", "function", "f", "that", "computes", "the", "desired", "statistic", ",", "and", "significance", "level", ".", "Output", ":", "N", "dist", "distributions", "and", "significance", "thresholds", ".", "1", "for", "-LRB-", "dist", "=", "1", ";", "dist", "N", "dist", ";", "dist", "+", "+", "-RRB-", "-LCB-", "2", "N", "sample", "=", "dist", "/", "N", "dist", "N", ";", "3", "for", "-LRB-", "perm", "=", "1", ";", "perm", "<", "N", "perm", ";", "perm", "+", "+", "-RRB-", "-LCB-", "4", "S", "=", "N", "sample", "transactions", "from", "D", "sampled", "without", "replacements", "5", ";", "5", "stat", "-LSB-", "dist", "-RSB-", "-LSB-", "perm", "-RSB-", "=", "f", "-LRB-", "S", "-RRB-", ";", "6", "-RCB-", "7", "sort", "-LRB-", "stat", "-LSB-", "dist", "-RSB-", "-RRB-", ";", "8", "LowerCI", "-LSB-", "dist", "-RSB-", "=", "stat", "-LSB-", "dist", "-RSB-", "-LSB-", "-LRB-", "N", "perm", "+", "1", "-RRB-", "/", "2", "-RSB-", ";", "9", "UpperCI", "-LSB-", "dist", "-RSB-", "=", "stat", "-LSB-", "dist", "-RSB-", "-LSB-", "-LRB-", "N", "perm", "+", "1", "-RRB-", "-LRB-", "1", "/", "2", "-RRB-", "-RSB-", ";", "10", "-RCB-", "11", "Output", "stat", "-LSB-", "-RSB-", "-LSB-", "-RSB-", ",", "LowerCI", "-LSB-", "-RSB-", ",", "UpperCI", "-LSB-", "-RSB-", "Figure", "3.1", "Algorithm", "CIComp", "In", "the", "above", "algorithm", ",", "N", "dist", ",", "N", "perm", ",", "and", "are", "user-defined", "parameters", ".", "is", "usually", "chosen", "to", "be", "5", "%", ",", "2.5", "%", "or", "1", "%", ".", "For", "N", "dist", "and", "N", "perm", ",", "the", "larger", "they", "are", ",", "the", "more", "precise", "the", "distributions", "will", "be", ".", "Let", "N", "=", "1000", ",", "N", "dist", "=", "100", ",", "N", "perm", "=", "999", ",", "and", "=", "5", "%", ".", "We", "use", "these", "numbers", "as", "an", "example", "to", "explain", "the", "algorithm", ".", "For", "step", "2", ",", "the", "first", "distribution", "corresponds", "to", "N", "sample", "=", "dist/N", "dist", "N", "=", "1/100", "1000", "=", "10", "transactions", ".", "Step", "3", "to", "6", "computes", "N", "perm", "=", "999", "statistics", "for", "10", "randomly", "sampled", "transactions", "from", "dataset", "D", ".", "Then", "we", "sort", "these", "999", "statistics", "and", "pick", "/", "2", "and", "1", "/", "2", "percentiles", ",", "which", "are", "the", "25", "th", "and", "975", "th", "numbers", "in", "the", "distribution", ",", "as", "the", "lower", "and", "upper", "thresholds", "for", "the", "-LRB-", "1", "-RRB-", "confidence", "interval", ".", "Steps", "2", "through", "9", "are", "repeated", "N", "dist", "=", "100", "times", "to", "get", "the", "desired", "number", "of", "distributions", "and", "confidence", "intervals", ".", "5", "If", "the", "sampling", "is", "done", "with", "replacement", "then", "the", "interval", "will", "be", "the", "bootstrap", "confidence", "interval", ".", "The", "two", "intervals", "will", "essentially", "be", "the", "same", "when", "the", "support", "of", "the", "itemset", "is", "small", ".", "377", "Research", "Track", "Paper", "The", "computation", "complexity", "of", "the", "algorithm", "in", "Figure", "3.1", "is", "O", "-LRB-", "N", "N", "perm", "N", "dist", "-RRB-", ",", "whereas", "the", "complexity", "of", "na", "ve", "method", "is", "O", "-LRB-", "N", "N", "perm", "N", "rule", "-RRB-", ".", "Note", "that", "N", "dist", "can", "be", "fixed", "to", "a", "reasonable", "small", "number", ",", "e.g.", "100", ",", "whereas", "N", "rule", "is", "the", "number", "of", "rules", "that", "are", "being", "tested", "and", "can", "easily", "be", "orders", "of", "magnitude", "more", "than", "N", "dist", ".", "Given", "the", "distributions", "and", "confidence", "intervals", ",", "discovering", "all", "significant", "statistical", "rules", "is", "straightforward", ".", "Algorithm", "SigSQrules", "is", "presented", "in", "Figure", "4.1", ".", "Input", ":", "dataset", "D", "with", "N", "transactions", ",", "sets", "of", "attributes", "A", "and", "B", ",", "N", "dist", ",", "stat", "-LSB-", "-RSB-", "-LSB-", "-RSB-", ",", "LowerCI", "-LSB-", "-RSB-", ",", "and", "UpperCI", "-LSB-", "-RSB-", "from", "algorithm", "CIComp", ",", "a", "function", "f", "that", "computes", "the", "desired", "statistic", ",", "minimum", "support", "minsup", "and", "a", "large", "itemset", "generation", "procedure", "largeitemsets", ".", "Output", ":", "set", "of", "Significant", "rules", ",", "sigrules", ".", "1", "L", "=", "largeitemsets", "-LRB-", "D", ",", "A", ",", "minsup", "-RRB-", "#", "generates", "large", "itemsets", "involving", "attributes", "in", "A", "2", "sigrules", "=", "-LCB-", "-RCB-", "3", "forall", "-LRB-", "itemsets", "x", "L", "-RRB-", "-LCB-", "4", "x.stat", "=", "f", "-LRB-", "D", "x", "-RRB-", "/", "/", "statistic", "computed", "on", "transactions", "satisfying", "x", "5", "dist", "=", "round", "-LRB-", "support", "-LRB-", "x", "-RRB-", "/", "N", "N", "dist", "-RRB-", "6", "if", "x", ".", "stat", "-LRB-", "LowerCI", "-LSB-", "dist", "-RSB-", ",", "UpperCI", "-LSB-", "dist", "-RSB-", "-RRB-", "-LCB-", "/", "/", "x", "f", "-LRB-", "D", "x", "-RRB-", "=", "x", ".", "stat", "is", "significant", "7", "x.pvalue", "=", "2", "percentile", "of", "x.stat", "in", "stat", "-LSB-", "dist", "-RSB-", "-LSB-", "1", ".", ".", "N", "perm", "-RSB-", "8", "sigrules", "=", "sigrules", "-LCB-", "x", "f", "-LRB-", "D", "x", "-RRB-", "=", "x", ".", "stat", ",", "support", "=", "support", "-LRB-", "x", "-RRB-", "-RCB-", "9", "-RCB-", "10", "-RCB-", "Figure", "4.1", "Algorithm", "SigSQrules", "Given", "N", "dist", "distributions", "constructed", "from", "the", "algorithm", "CIComp", ",", "we", "use", "the", "above", "algorithm", "to", "discover", "all", "significant", "SQ", "rules", ".", "We", "continue", "to", "use", "the", "example", "N", "=", "1000", ",", "N", "dist", "=", "100", ",", "and", "N", "perm", "=", "999", "to", "describe", "the", "steps", "in", "Figure", "4.1", ".", "Note", "that", "the", "attributes", "in", "A", "represent", "the", "attributes", "in", "the", "dataset", "that", "are", "used", "to", "describe", "segments", "for", "which", "statistics", "can", "be", "computed", ".", "Step", "1", "uses", "any", "large", "itemset", "generation", "procedure", "in", "rule", "discovery", "literature", "to", "generate", "all", "large", "itemsets", "involving", "attributes", "in", "A", ".", "The", "exact", "procedure", "used", "will", "depend", "on", "whether", "the", "attributes", "in", "A", "are", "all", "categorical", "or", "not", ".", "If", "they", "are", ",", "then", "Apriori", "algorithm", "can", "be", "used", "to", "learn", "all", "large", "itemsets", ".", "If", "some", "of", "them", "are", "continuous", "then", "other", "methods", "such", "as", "the", "ones", "described", "in", "-LSB-", "31", "-RSB-", "can", "be", "used", ".", "Step", "4", "computes", "the", "statistic", "function", "for", "each", "large", "itemset", ",", "x", ".", "In", "step", "5", ",", "we", "find", "out", "which", "distribution", "is", "to", "be", "used", "for", "significance", "test", ".", "For", "example", ",", "if", "support", "-LRB-", "x", "-RRB-", "=", "23", ",", "then", "support", "-LRB-", "x", "-RRB-", "/", "N", "N", "dist", "=", "-LRB-", "23/1000", "-RRB-", "100", "=", "2.3", ",", "and", "hence", "dist", "will", "be", "round", "-LRB-", "2.3", "-RRB-", "=", "2", ".", "We", "would", "compare", "x.stat", "with", "its", "corresponding", "confidence", "interval", "-LRB-", "LowerCI", "-LSB-", "2", "-RSB-", ",", "UpperCI", "-LSB-", "2", "-RSB-", "-RRB-", "in", "step", "6", ".", "If", "x.stat", "is", "outside", "of", "the", "confidence", "interval", ",", "the", "rule", "is", "significant", ",", "and", "we", "use", "step", "7", "to", "calculate", "its", "2-side", "p-value", ".", "If", "x.stat", "is", "the", "qth", "percentile", ",", "the", "2-side", "p-value", "is", "2", "min", "-LRB-", "q", "%", ",", "1", "q", "%", "-RRB-", ".", "The", "p-value", "is", "not", "only", "a", "value", "to", "understand", "how", "significant", "a", "rule", "is", ",", "but", "is", "also", "useful", "for", "determining", "the", "false", "discovery", "rate", "in", "Section", "5", ".", "Note", "that", "the", "confidence", "interval", "used", "to", "test", "significance", "of", "a", "rule", "is", "approximate", "since", "we", "do", "not", "compute", "this", "interval", "for", "the", "exact", "value", "of", "the", "support", "of", "this", "rule", ".", "Instead", "we", "use", "the", "closest", "interval", "-LRB-", "which", "was", "pre-computed", "as", "described", "in", "Section", "3.2", "-RRB-", "corresponding", "to", "this", "support", "value", ".", "In", "future", "research", "we", "will", "quantify", "the", "effects", "of", "this", "approximation", ".", "We", "would", "also", "like", "to", "point", "out", "that", "in", "many", "cases", "-LRB-", "see", "below", "-RRB-", "the", "computation", "of", "the", "statistic", "can", "be", "done", "efficiently", "within", "the", "itemset", "generation", "procedure", "-LRB-", "largeitems", "-RRB-", "itself", ".", "This", "can", "be", "used", "to", "modify", "the", "algorithm", "to", "make", "it", "more", "efficient", "once", "a", "specific", "itemset", "generation", "procedure", "is", "used", ".", "This", "is", "the", "case", "if", "the", "function", "f", "that", "computes", "the", "statistic", "on", "transactions", "T", "1", ",", "T", "2", ",", "...", ",", "T", "s", "is", "a", "recursive", "function", "on", "s", ",", "that", "is", ",", "f", "-LRB-", "T", "1", ",", "T", "2", ",", "...", ",", "T", "s", "-RRB-", "=", "g", "-LRB-", "f", "-LRB-", "T", "1", ",", "T", "2", ",", "...", ",", "T", "s-1", "-RRB-", ",", "f", "-LRB-", "T", "s", "-RRB-", ",", "s", "-RRB-", "-LRB-", "4.1", "-RRB-", "Many", "statistics", ",", "such", "as", "mean", "and", "market", "share", ",", "are", "recursive", ".", "For", "example", ",", "Mean", "-LRB-", "T", "1", ",", "T", "2", ",", "...", ",", "T", "s", "-RRB-", "=", "-LSB-", "Mean", "-LRB-", "T", "1", ",", "T", "2", ",", "...", ",", "T", "s", "1", "-RRB-", "-LRB-", "s", "1", "-RRB-", "+", "Mean", "-LRB-", "T", "s", "-RRB-", "-RSB-", "/", "s", ".", "In", "this", "section", "we", "presented", "an", "algorithm", "SigSQrules", "for", "generating", "significant", "SQ", "rules", ".", "However", ",", "as", "mentioned", "in", "the", "introduction", ",", "for", "any", "given", "level", "of", "significance", "for", "a", "rule", ",", "the", "fact", "that", "thousands", "of", "rules", "are", "evaluated", "for", "their", "significance", "makes", "it", "possible", "to", "discover", "a", "certain", "number", "of", "false", "rules", ".", "This", "is", "the", "well", "known", "multiple", "hypothesis", "testing", "problem", "-LSB-", "4", "-RSB-", ".", "While", "it", "is", "difficult", "to", "eliminate", "this", "problem", ",", "it", "is", "possible", "to", "quantify", "this", "effect", ".", "In", "the", "next", "section", "we", "discuss", "the", "problem", "of", "false", "discovery", "in", "detail", "and", "present", "an", "algorithm", "for", "determining", "the", "false", "discovery", "rate", "associated", "with", "the", "discovery", "of", "significant", "SQ", "rules", ".", "As", "mentioned", "above", ",", "when", "multiple", "rules", "are", "tested", "in", "parallel", "for", "significance", ",", "it", "is", "possible", "to", "learn", "a", "number", "of", "``", "false", "''", "rules", "by", "chance", "alone", ".", "Indeed", ",", "this", "is", "a", "problem", "for", "many", "rule", "discovery", "methods", "in", "the", "data", "mining", "literature", ".", "The", "false", "discovery", "rate", "-LRB-", "FDR", "-RRB-", "is", "the", "expected", "percentage", "of", "false", "rules", "among", "all", "the", "discovered", "rules", ".", "Prior", "work", "in", "statistics", "has", "taken", "two", "approaches", "to", "deal", "with", "the", "multiple", "hypothesis", "testing", "problem", "-LSB-", "4", ",", "17", ",", "34", "-RSB-", ".", "One", "approach", "attempts", "to", "lower", "the", "false", "discovery", "rate", "by", "adjusting", "the", "significance", "level", "at", "which", "each", "rule", "is", "tested", ".", "As", "we", "will", "describe", "below", ",", "this", "approach", "is", "not", "suitable", "for", "data", "mining", "since", "it", "will", "result", "in", "very", "few", "rules", "being", "discovered", ".", "The", "second", "approach", "assumes", "that", "a", "given", "number", "of", "false", "discoveries", "should", "be", "expected", ",", "and", "focuses", "on", "estimating", "what", "the", "false", "discovery", "rate", "-LRB-", "FDR", "-RRB-", "exactly", "is", ".", "This", "is", "more", "useful", "for", "data", "mining", ",", "since", "it", "permits", "the", "discovery", "of", "a", "reasonable", "number", "of", "rules", ",", "but", "at", "the", "same", "time", "computes", "a", "FDR", "that", "can", "give", "users", "an", "idea", "of", "what", "percentage", "of", "the", "discovered", "rules", "are", "spurious", ".", "In", "this", "section", ",", "we", "first", "review", "key", "ideas", "related", "to", "the", "multiple", "hypotheses", "testing", "problem", "and", "then", "present", "a", "nonparametric", "method", "to", "determine", "false", "discovery", "rate", "for", "our", "procedure", ".", "For", "significance", "tests", "for", "a", "single", "rule", ",", "the", "significance", "level", "is", "defined", "as", "the", "probability", "of", "discovering", "a", "significant", "rule", "when", "the", "LHS", "and", "RHS", "of", "the", "rule", "are", "actually", "independent", "of", "each", "other", ";", "in", "other", "words", ",", "is", "the", "probability", "of", "a", "false", "-LRB-", "spurious", "-RRB-", "discovery", ".", "For", "example", ",", "on", "a", "random", "dataset", "where", "all", "attributes", "are", "independent", ",", "if", "we", "test", "10,000", "rules", ",", "then", "by", "definition", "of", ",", "we", "expect", "10,000", "5", "%", "=", "500", "false", "discoveries", "by", "pure", "chance", "alone", ".", "When", "some", "of", "the", "attributes", "are", "dependent", "on", "each", "other", ",", "as", "is", "the", "case", "for", "most", "datasets", "on", "which", "rule", "discovery", "methods", "are", "used", ",", "the", "above", "approach", "can", "not", "be", "used", "to", "get", "an", "expectation", "for", "the", "number", "of", "false", "rules", ".", "In", "such", "cases", ",", "two", "approaches", "are", "378", "Research", "Track", "Paper", "possible", ".", "In", "statistics", ",", "a", "measure", "called", "familywise", "error", "rate", "-LRB-", "FWER", "-RRB-", "is", "defined", "as", "the", "probability", "of", "getting", "at", "least", "one", "false", "rule", "output", ".", "Most", "conventional", "approaches", "in", "statistics", "that", "deals", "with", "the", "multiple", "hypotheses", "testing", "problem", "use", "different", "methods", "to", "control", "FWER", "by", "lowering", "significance", "level", "for", "individual", "rule", ",", "ind", ".", "For", "example", ",", "Bonferroni-type", "procedures", "would", "have", "ind", "=", "/", "the", "number", "of", "rules", "tested", ",", "which", "is", "5", "%", "/", "10,000", "=", "5", "10", "-6", ".", "However", ",", "when", "the", "number", "of", "hypotheses", "tested", "is", "large", "-LRB-", "as", "is", "the", "case", "in", "data", "mining", "algorithms", "-RRB-", ",", "extreme", "low", "value", ",", "e.g.", "5", "10", "-6", ",", "will", "result", "in", "very", "few", "rules", "discovered", ".", "The", "other", "type", "of", "approach", ",", "as", "taken", "recently", "in", "-LSB-", "4", "-RSB-", "estimates", "the", "false", "discovery", "rate", "-LRB-", "FDR", "-RRB-", ",", "the", "expectation", "of", "the", "proportion", "of", "false", "discoveries", "in", "all", "discoveries", ".", "Table", "5.1", "Confusion", "matrix", "of", "the", "number", "of", "rules", "Non-Significant", "Rules", "Significant", "Rules", "LHS", "independent", "of", "RHS", "a", "b", "LHS", "dependent", "on", "RHS", "c", "d", "In", "Table", "5.1", ",", "the", "number", "of", "rules", "tested", "is", "-LRB-", "a", "+", "b", "+", "c", "+", "d", "-RRB-", ",", "out", "of", "which", "-LRB-", "a", "+", "b", "-RRB-", "is", "the", "number", "of", "rules", "where", "the", "LHS", "of", "the", "rules", "is", "truly", "independent", "of", "the", "RHS", ",", "and", "-LRB-", "c", "+", "d", "-RRB-", "is", "the", "number", "of", "rules", "where", "there", "is", "a", "real", "relationship", "between", "the", "LHS", "and", "the", "RHS", "of", "the", "rules", ".", "The", "columns", "determine", "how", "many", "tested", "rules", "are", "output", "as", "significant", "or", "non-significant", ".", "The", "two", "terms", "FDR", "and", "FWER", "can", "be", "defined", "precisely", "as", "FDR", "=", "Exp", "-LRB-", "b", "/", "b", "+", "d", "-RRB-", "and", "FWER", "=", "Prob", "-LRB-", "b", ">", "0", "-RRB-", ".", "We", "adopt", "FDR", "estimation", "in", "this", "section", "because", "it", "effectively", "estimates", "false", "discoveries", "without", "rejecting", "too", "many", "discovered", "rules", ".", "However", ",", "the", "method", "proposed", "in", "the", "literature", "-LSB-", "4", ",", "7", ",", "35", "-RSB-", "for", "FDR", "can", "not", "be", "used", "for", "large", "scale", "rule", "discovery", "because", "of", "the", "following", "two", "reasons", ":", "first", ",", "the", "assumption", "that", "statistics", "of", "the", "rules", "tested", "are", "independent", "from", "each", "other", "-LRB-", "which", "some", "of", "the", "approaches", "use", "-RRB-", "is", "not", "true", ".", "For", "example", ",", "rules", "A", "1", "=", "1", "Mean", "-LRB-", "D", "A1", "=", "1", "-RRB-", "and", "A", "1", "=", "1", "A", "2", "=", "2", "Mean", "-LRB-", "D", "A1", "=", "1", "A2", "=", "2", "-RRB-", "are", "not", "independent", ".", "In", "fact", "a", "large", "number", "of", "rules", "are", "related", "to", "each", "other", "in", "rule", "discovery", "because", "their", "LHS", "share", "common", "conditions", "and", "RHS", "come", "from", "the", "same", "attributes", ".", "Second", ",", "methods", "in", "statistics", "draw", "conclusions", "based", "on", "the", "number", "of", "rules", "tested", "-LRB-", "=", "a", "+", "b", "+", "c", "+", "d", "-RRB-", ",", "however", ",", "as", "indicated", "in", "-LSB-", "25", "-RSB-", ",", "a", "and", "c", "are", "unknown", "values", "due", "to", "the", "filtering", "by", "support", "constraint", ".", "Without", "making", "any", "assumptions", ",", "below", "we", "present", "another", "permutation-based", "method", "to", "estimate", "the", "FDR", "for", "our", "procedure", "for", "learning", "significant", "SQ", "rules", ".", "Denote", "N", "sig", "-LRB-", "-RRB-", "to", "be", "the", "number", "of", "significant", "rules", "discovered", "from", "dataset", "D", "when", "the", "significant", "level", "=", ".", "In", "Table", "5.1", ",", "N", "sig", "-LRB-", "-RRB-", "=", "b", "+", "d.", "Similar", "to", "the", "procedure", "described", "in", "Section", "3", ",", "by", "keeping", "the", "values", "in", "attributes", "A", "intact", "and", "permuting", "the", "B", "attributes", ",", "we", "get", "a", "permutation", "dataset", "D", ".", "Since", "we", "remove", "any", "relationship", "between", "A", "and", "B", "attributes", "by", "this", "procedure", ",", "all", "the", "LHS", "and", "RHS", "statistic", "of", "each", "rule", "tested", "in", "D", "are", "independent", ".", "If", "we", "apply", "the", "significant", "rule", "discovery", "algorithm", "SigSQrules", ",", "the", "number", "of", "significant", "rules", "discovered", "from", "D", "when", "the", "significant", "level", "=", "will", "be", "one", "instance", "of", "false", "discovery", ",", "that", "is", ",", "N", "sig-perm", "-LRB-", "-RRB-", "=", "b", ".", "It", "is", "easy", "to", "see", "that", "by", "creating", "multiple", "permutation", "datasets", ",", "we", "can", "estimate", "the", "expectation", "of", "the", "number", "of", "false", "discoveries", "and", "thus", "compute", "a", "false", "discovery", "rate", "FDR", "=", "Exp", "-LRB-", "N", "sig-perm", "-LRB-", "-RRB-", "-RRB-", "/", "N", "sig", "-LRB-", "-RRB-", ".", "We", "will", "describe", "the", "steps", "how", "FDR", "-LRB-", "-RRB-", "can", "be", "estimated", "in", "detail", "in", "the", "Appendix", ".", "In", "this", "section", ",", "we", "described", "the", "problem", "of", "multiple", "hypotheses", "testing", "and", "pointed", "out", "that", "for", "any", "given", "significance", "level", "a", "certain", "number", "of", "significant", "SQ", "rules", "will", "be", "discovered", "by", "chance", "alone", ".", "We", "then", "described", "an", "intuitive", "permutation", "based", "procedure", "to", "compute", "the", "false", "discovery", "rate", ".", "From", "a", "practical", "point", "of", "view", "the", "procedure", "described", "above", "can", "be", "used", "in", "conjunction", "with", "SigSQrules", "to", "discover", "a", "set", "of", "significant", "SQ", "rules", "and", "provide", "a", "number", "representing", "the", "percentage", "of", "these", "rules", "that", "are", "likely", "to", "be", "spurious", ".", "In", "this", "section", "we", "present", "results", "from", "learning", "significant", "market", "share", "rules", ",", "a", "specific", "type", "of", "SQ", "rules", ".", "We", "started", "with", "user-level", "online", "purchase", "data", "gathered", "by", "comScore", "Networks", ",", "a", "market", "data", "vendor", ".", "The", "data", "consist", "of", "100,000", "users", "'", "online", "browsing", "and", "purchase", "behavior", "over", "a", "period", "of", "six", "months", ".", "The", "market", "data", "vendor", "tracks", "all", "online", "purchases", "explicitly", "by", "parsing", "the", "content", "of", "all", "pages", "delivered", "to", "each", "user", ".", "Starting", "from", "the", "raw", "data", "we", "created", "a", "dataset", "of", "purchases", "where", "each", "transaction", "represents", "a", "purchase", "made", "at", "an", "online", "retailer", ".", "Attributes", "of", "the", "transaction", "include", "user", "demographics", ",", "the", "site", "at", "which", "the", "purchase", "was", "made", ",", "the", "primary", "category", "-LRB-", "e.g.", "books", ",", "home", "electronics", "etc", "-RRB-", "of", "the", "site", ",", "the", "product", "purchased", "and", "the", "price", "paid", "for", "the", "product", ".", "Within", "a", "specific", "category", ",", "e.g.", "books", ",", "significant", "market", "share", "rules", "would", "be", "particularly", "interesting", "to", "discover", ".", "We", "selected", "many", "datasets", "with", "purchases", "belonging", "to", "each", "specific", "category", "and", "applied", "our", "method", "to", "learn", "several", "interesting", "significant", "market", "share", "rules", ".", "For", "space", "limitations", "we", "do", "not", "present", "all", "the", "results", ",", "but", "report", "the", "results", "for", "learning", "market", "share", "rules", "for", "the", "top", "three", "retailers", "in", "the", "online", "book", "industry", ".", "Specifically", "the", "dataset", "consists", "of", "all", "transactions", "in", "which", "a", "book", "was", "purchased", "at", "any", "site", "and", "we", "use", "the", "methods", "presented", "in", "the", "paper", "to", "learn", "market", "share", "rules", "for", "the", "top", "3", "sites", "Amazon.com", ",", "Barnes", "&", "Noble", "and", "Ebay", ".", "The", "total", "number", "of", "transactions", "was", "26,439", "records", "and", "we", "limit", "the", "rules", "to", "having", "at", "most", "five", "items", "on", "the", "LHS", "of", "a", "rule", ".", "6.1", "Rule", "Examples", "Among", "the", "most", "significant", "market", "share", "rules", "-LRB-", "as", "determined", "by", "the", "p-values", "of", "these", "rules", "-RRB-", ",", "we", "picked", "four", "rules", "to", "list", "that", "were", "particularly", "interesting", "for", "each", "online", "retailer", ".", "Amazon.com", "-LRB-", "1", "-RRB-", "Education", "=", "High", "School", "marketshare", "Amazon", "=", "42.72", "%", ",", "support", "=", "20.7", "%", ",", "CI", "=", "-LRB-", "46.07", "%", ",", "50.92", "%", "-RRB-", "-LRB-", "2", "-RRB-", "Region", "=", "West", "Household", "Size", "=", "2", "marketshare", "Amazon", "=", "57.93", "%", ",", "support", "=", "7.9", "%", ",", "CI", "=", "-LRB-", "44.36", "%", ",", "52.50", "%", "-RRB-", "-LRB-", "3", "-RRB-", "Region", "=", "South", "Household", "Size", "=", "4", "marketshare", "Amazon", "=", "38.54", "%", ",", "support", "=", "5.4", "%", ",", "CI", "=", "-LRB-", "43.76", "%", ",", "53.39", "%", "-RRB-", "-LRB-", "4", "-RRB-", "35", "<", "Household", "Eldest", "Age", "<", "40", "ISP", "=", "Broadband", "marketshare", "Amazon", "=", "60.52", "%", ",", "support", "=", "4.3", "%", ",", "CI", "=", "-LRB-", "42.88", "%", ",", "53.99", "%", "-RRB-", "Barnesandnoble.com", "-LRB-", "1", "-RRB-", "Education", "=", "Graduate", "Household", "Size", "=", "2", "marketshare", "BN", "=", "13.12", "%", ",", "support", "=", "6.0", "%", ",", "CI", "=", "-LRB-", "16.81", "%", ",", "25.68", "%", "-RRB-", "-LRB-", "2", "-RRB-", "50", "<", "Household", "Eldest", "Age", "<", "55", "Income", ">", "100K", "marketshare", "BN", "=", "30.28", "%", ",", "support", "=", "4.2", "%", ",", "CI", "=", "-LRB-", "16.05", "%", ",", "26.79", "%", "-RRB-", "-LRB-", "3", "-RRB-", "Region", "=", "South", "Household", "Size", "=", "3", "Child", "=", "Yes", "marketshare", "BN", "=", "13.27", "%", ",", "support", "=", "4.2", "%", ",", "CI", "=", "-LRB-", "16.68", "%", ",", "26.10", "%", "-RRB-", "-LRB-", "4", "-RRB-", "Region", "=", "South", "60", "<", "Household", "Eldest", "Age", "<", "65", "marketshare", "BN", "=", "39.84", "%", ",", "support", "=", "2.8", "%", ",", "CI", "=", "-LRB-", "15.55", "%", ",", "27.10", "%", "-RRB-", "379", "Research", "Track", "Paper", "Ebay.com", "-LRB-", "1", "-RRB-", "Education", "=", "College", "Region", "=", "South", "marketshare", "Ebay", "=", "8.28", "%", ",", "support", "=", "6.9", "%", ",", "CI", "=", "-LRB-", "11.70", "%", ",", "17.71", "%", "-RRB-", "-LRB-", "2", "-RRB-", "Education", "=", "College", "Region", "=", "North", "Central", "marketshare", "Ebay", "=", "21.77", "%", ",", "support", "=", "4.0", "%", ",", "CI", "=", "-LRB-", "11.05", "%", ",", "18.29", "%", "-RRB-", "-LRB-", "3", "-RRB-", "Region", "=", "South", "Income", ">", "100K", "marketshare", "Ebay", "=", "4.83", "%", ",", "support", "=", "2.9", "%", ",", "CI", "=", "-LRB-", "9.54", "%", ",", "20.46", "%", "-RRB-", "-LRB-", "4", "-RRB-", "18", "<", "Household", "Eldest", "Age", "<", "20", "marketshare", "Ebay", "=", "27.50", "%", ",", "support", "=", "2.8", "%", ",", "CI", "=", "-LRB-", "10.12", "%", ",", "19.70", "%", "-RRB-", "Rule", "-LRB-", "4", "-RRB-", "for", "Amazon.com", "indicates", "that", "it", "is", "doing", "particularly", "well", "in", "households", "with", "middle-aged", "heads", "that", "have", "broadband", "access", ".", "The", "market", "share", "for", "Amazon.com", "in", "this", "segment", "lies", "significantly", "outside", "the", "confidence", "interval", "computed", "for", "the", "rule", ".", "On", "the", "other", "hand", ",", "rule", "-LRB-", "1", "-RRB-", "for", "Barnesandnoble.com", "shows", "that", "they", "are", "doing", "poorly", "selling", "to", "a", "segment", "which", "perhaps", "represents", "well", "educated", "couples", ".", "Given", "that", "this", "is", "a", "large", "segment", "-LRB-", "support", "=", "6", "%", "-RRB-", ",", "this", "rule", "suggests", "that", "they", "could", "try", "and", "examine", "why", "this", "is", "the", "case", "and", "how", "they", "can", "achieve", "greater", "penetration", "in", "this", "segment", ".", "In", "Ebay", "'s", "case", ",", "all", "four", "rules", "are", "very", "interesting", ".", "Rule", "-LRB-", "4", "-RRB-", "indicates", "that", "they", "have", "high", "market", "share", "among", "teenagers", ",", "while", "rule", "-LRB-", "3", "-RRB-", "describes", "a", "segment", "they", "clearly", "have", "trouble", "penetrating", ".", "For", "many", "other", "categories", "too", "-LRB-", "travel", "and", "home", "electronics", "in", "particular", "-RRB-", "the", "significant", "SQ", "rules", "that", "we", "learned", "were", "highly", "interesting", ".", "As", "these", "examples", "suggest", ",", "these", "rules", "can", "be", "insightful", ",", "identify", "interesting", "segments", "and", "have", "significant", "business", "potential", ".", "6.2", "Varying", "support", "and", "significance", "levels", "To", "test", "how", "the", "methods", "perform", "as", "the", "minimum", "support", "and", "significance", "levels", "vary", ",", "for", "one", "site", "we", "generated", "significant", "SQ", "rules", "for", "many", "values", "of", "the", "minimum", "support", "and", "significance", "level", "parameters", ".", "Figures", "6.1", "and", "6.2", "show", "how", "the", "number", "of", "significant", "rules", "and", "the", "false", "discovery", "rate", "vary", "with", "support", ".", "As", "the", "minimum", "support", "threshold", "is", "lowered", "the", "number", "of", "significant", "SQ", "rules", "discovered", "increases", ".", "However", "the", "FDR", "increases", "as", "the", "support", "threshold", "is", "lowered", ",", "suggesting", "a", "tradeoff", "between", "discovering", "many", "significant", "rules", "while", "keeping", "the", "FDR", "low", ".", "A", "practical", "outcome", "is", "that", "it", "may", "be", "desirable", "to", "have", "higher", "minimum", "supports", "-LRB-", "to", "keep", "FDR", "low", "-RRB-", ",", "but", "not", "too", "high", "that", "very", "few", "rules", "are", "discovered", ".", "Figures", "6.3", "and", "6.4", "illustrate", "a", "similar", "tradeoff", "for", "the", "significance", "level", "parameter", ".", "As", "decreases", "FDR", "is", "lower", ",", "but", "this", "results", "in", "fewer", "number", "of", "significant", "rules", "being", "discovered", ".", "Again", ",", "the", "implication", "is", "that", "it", "may", "be", "desirable", "to", "have", "a", "low", "-LRB-", "to", "keep", "FDR", "low", "-RRB-", "but", "not", "too", "low", "that", "very", "few", "rules", "are", "discovered", ".", "0", "500", "1000", "1500", "2000", "2500", "0.0", "%", "2.0", "%", "4.0", "%", "6.0", "%", "8.0", "%", "10.0", "%", "support", "#", "of", "s", "i", "gn", "i", "f", "i", "c", "an", "t", "r", "u", "l", "e", "s", "=", "10", "%", "=", "5", "%", "=", "2.5", "%", "=", "1", "%", "0.0", "%", "5.0", "%", "10.0", "%", "15.0", "%", "20.0", "%", "25.0", "%", "30.0", "%", "35.0", "%", "0.0", "%", "2.0", "%", "4.0", "%", "6.0", "%", "8.0", "%", "10.0", "%", "support", "FD", "R", "=", "10", "%", "=", "5", "%", "=", "2.5", "%", "=", "1", "%", "Figure", "6.1", ".", "Effect", "of", "support", "on", "#", "of", "rules", "Figure", "6.2", ".", "Effect", "of", "support", "on", "FDR", "0.00", "%", "5.00", "%", "10.00", "%", "15.00", "%", "20.00", "%", "25.00", "%", "30.00", "%", "0.00", "%", "2.00", "%", "4.00", "%", "6.00", "%", "8.00", "%", "10.00", "%", "significance", "level", "FD", "R", "support", "=", "1", "%", "support", "=", "2", "%", "support", "=", "5", "%", "support", "=", "10", "%", "0", "200", "400", "600", "800", "1000", "1200", "1400", "0.0", "%", "2.0", "%", "4.0", "%", "6.0", "%", "8.0", "%", "10.0", "%", "significance", "level", "#", "o", "f", "s", "i", "g", "n", "ificant", "r", "u", "le", "s", "support", "=", "1", "%", "support", "=", "2", "%", "support", "=", "5", "%", "support", "=", "10", "%", "Figure", "6.3", ".", "Effect", "of", "on", "FDR", "Figure", "6.4", ".", "Effect", "of", "on", "#", "of", "rules", "380", "Research", "Track", "Paper", "6.3", "Summary", "results", "for", "online", "book", "retailers", "Based", "on", "this", "general", "tradeoff", "we", "chose", "minimum", "support", "of", "2", "%", "and", "chose", "an", "of", "2.5", "%", "in", "order", "to", "report", "summary", "results", "for", "the", "three", "sites", ".", "Table", "6.1", "summarizes", "the", "number", "of", "significant", "rules", "discovered", "and", "the", "false", "discovery", "rates", "of", "the", "procedure", ".", "As", "the", "values", "in", "the", "table", "and", "the", "examples", "above", "show", ",", "our", "procedure", "can", "be", "used", "effectively", "to", "learn", "a", "good", "set", "of", "significant", "SQ", "rules", "while", "keeping", "the", "false", "discovery", "rates", "reasonable", ".", "Table", "6.1", "Summary", "of", "results", "Web", "site", "Significant", "Rules", "False", "Discovery", "Rate", "Amazon", "651", "6.30", "%", "Barnesandnoble", "393", "9.67", "%", "Ebay", "679", "5.60", "%", "In", "this", "section", "we", "first", "presented", "compelling", "examples", "of", "rules", "discovered", "that", "illustrate", "the", "potential", "of", "learning", "significant", "market", "share", "rules", ".", "We", "then", "examined", "how", "the", "number", "of", "significant", "rules", "discovered", "and", "the", "false", "discovery", "rate", "changes", "with", "the", "support", "and", "significance", "level", "-LRB-", "-RRB-", "parameters", ".", "The", "results", "of", "this", "analysis", "suggested", "a", "tradeoff", "between", "generating", "significant", "rules", "and", "keeping", "the", "false", "discovery", "rate", "low", ".", "Based", "on", "this", "tradeoff", "we", "identified", "a", "specific", "value", "of", "the", "support", "and", "significance", "parameters", "and", "showed", "the", "number", "of", "rules", "discovered", "for", "these", "values", ".", "We", "compare", "our", "work", "with", "the", "literature", "based", "on", "three", "aspects", ":", "rule", "structure", ",", "rule", "significance", ",", "and", "methodology", ".", "Rule", "structure", ".", "Rule", "discovery", "methods", "on", "a", "quantitative", "dataset", "can", "be", "traced", "back", "to", "-LSB-", "29", "-RSB-", ",", "where", "rules", "of", "the", "form", "x", "1", "<", "A", "<", "x", "2", "y", "1", "<", "B", "<", "y", "2", "are", "discovered", ".", "-LSB-", "31", "-RSB-", "extends", "the", "structure", "to", "be", "conjunctions", "of", "multiple", "conditions", "on", "both", "antecedent", "and", "consequent", "of", "a", "rule", ",", "and", "proposes", "their", "discovery", "method", "based", "on", "the", "Apriori", "algorithm", "-LSB-", "1", "-RSB-", ".", "Although", "rules", "in", "-LSB-", "31", "-RSB-", "are", "important", ",", "partitions", "like", "y", "1", "<", "B", "<", "y", "2", "for", "continuous", "attributes", "on", "the", "RHS", "of", "a", "rule", "only", "gives", "partial", "description", "of", "the", "subset", "satisfying", "the", "LHS", "of", "the", "rule", "and", "partial", "descriptions", "sometimes", "are", "misleading", ".", "Observing", "this", "problem", ",", "-LSB-", "2", "-RSB-", "introduces", "a", "new", "structure", "where", "the", "consequent", "of", "a", "rule", "is", "Mean", "-LRB-", "D", "X", "-RRB-", "or", "Variance", "-LRB-", "D", "X", "-RRB-", "to", "summarize", "the", "behavior", "of", "the", "subset", "satisfying", "the", "antecedent", ".", "-LSB-", "33", "-RSB-", "further", "extends", "the", "form", "of", "the", "consequent", "of", "the", "rule", ",", "such", "that", "it", "can", "be", "of", "Min", "-LRB-", "D", "X", "-RRB-", ",", "Max", "-LRB-", "D", "X", "-RRB-", ",", "or", "Sum", "-LRB-", "D", "X", "-RRB-", ".", "Our", "rule", "structure", "is", "based", "on", "prior", "work", ":", "the", "antecedent", "is", "conjunctions", "of", "conditions", ",", "while", "the", "consequent", "can", "be", "any", "aggregate", "function", "f", "on", "multiple", "attributes", "to", "describe", "the", "behavior", "of", "the", "subset", "satisfying", "the", "antecedent", ".", "Rule", "significance", ".", "Any", "combination", "of", "attributes", "with", "conditions", "can", "potentially", "form", "a", "rule", ".", "Researchers", "use", "different", "measurements", ",", "e.g.", "support", "and", "confidence", ",", "to", "select", "only", "important", "rules", "from", "all", "possible", "rules", ".", "Based", "on", "the", "support", "and", "confidence", "framework", ",", "many", "metrics", "have", "been", "developed", ",", "such", "as", "gain", "-LSB-", "15", "-RSB-", ",", "conviction", "-LSB-", "10", "-RSB-", ",", "unexpectedness", "-LSB-", "27", "-RSB-", ".", "Although", "these", "metrics", "can", "be", "generalized", "to", "rules", "where", "the", "antecedent", "and", "consequent", "are", "both", "conjunctions", "of", "the", "form", "value", "1", "<", "Attribute", "<", "value", "2", "for", "quantitative", "datasets", ",", "they", "are", "not", "applicable", "for", "rules", "whose", "consequent", "is", "a", "function", ",", "such", "as", "Mean", "-LRB-", "D", "X", "-RRB-", ",", "or", "in", "general", ",", "f", "-LRB-", "D", "X", "-RRB-", ".", "To", "solve", "this", "non-trivial", "problem", ",", "we", "use", "statistical", "significance", "tests", "to", "evaluate", "rules", ",", "so", "that", "the", "consequent", "of", "a", "rule", "is", "not", "expected", "by", "chance", "alone", ".", "In", "the", "data", "mining", "literature", ",", "statistical", "significance", "tests", "are", "commonly", "used", "in", "many", "applications", ".", "For", "example", ",", "chi-square", "-LRB-", "2", "-RRB-", "is", "a", "statistic", "to", "test", "correlations", "between", "attributes", "in", "binary", "or", "categorical", "data", ",", "and", "it", "has", "been", "applied", "to", "discover", "correlation", "rules", "-LSB-", "9", "-RSB-", ",", "actionable", "rules", "-LSB-", "23", "-RSB-", ",", "and", "contrast", "sets", "-LSB-", "3", ",", "32", "-RSB-", ".", "For", "sparse", "data", ",", "-LSB-", "35", ",", "36", "-RSB-", "employ", "Fisher", "'s", "Exact", "Test", "to", "detect", "anomaly", "patterns", "for", "disease", "outbreaks", ".", "As", "mentioned", "in", "Section", "3", ",", "these", "two", "tests", "are", "special", "cases", "of", "our", "significance", "test", "when", "we", "apply", "our", "significance", "definition", "to", "categorical", "data", ".", "For", "quantitative", "rules", "in", "-LSB-", "2", "-RSB-", ",", "the", "authors", "use", "a", "standard", "Z-test", "to", "determine", "the", "significance", "of", "inequality", "of", "means", "between", "a", "subset", "D", "X", "and", "its", "complement", "D", "D", "X", ".", "-LSB-", "33", "-RSB-", "defines", "a", "new", "measurement", ",", "impact", ",", "to", "evaluate", "quantitative", "rules", ",", "where", "impact", "can", "identify", "those", "groups", "that", "contribute", "most", "to", "some", "outcome", ",", "such", "as", "profits", "or", "costs", ".", "For", "areas", "other", "than", "rule", "discovery", ",", "standard", "Z-tests", "with", "log-linear", "models", "is", "used", "in", "Exploratory", "Data", "Analysis", "for", "OLAP", "data", "cubes", "-LSB-", "30", "-RSB-", ".", "Our", "significance", "test", "is", "different", "from", "the", "above", "primarily", "because", "-LRB-", "i", "-RRB-", "our", "significance", "definition", "is", "applicable", "to", "any", "user-defined", "aggregate", "function", "f", "-LRB-", "D", "X", "-RRB-", ",", "and", "-LRB-", "ii", "-RRB-", "we", "using", "nonparametric", "methods", "to", "construct", "distributions", "and", "confidence", "intervals", ",", "in", "which", "f", "-LRB-", "D", "X", "-RRB-", "is", "expected", "from", "random", "effects", "alone", ".", "Methodology", ".", "Nonparametric", "statistics", "is", "philosophically", "related", "to", "data", "mining", ",", "in", "that", "both", "methods", "typically", "make", "no", "assumptions", "on", "distributions", "of", "data", "or", "test", "statistics", ".", "Even", "with", "known", "distribution", "of", "a", "statistic", ",", "nonparametric", "methods", "are", "useful", "to", "estimate", "parameters", "of", "the", "distribution", "-LSB-", "13", "-RSB-", ".", "Nonparametric", "methods", "are", "widely", "used", "on", "testing", "models", "that", "are", "built", "from", "data", ":", "as", "earliest", "in", "-LSB-", "18", "-RSB-", ",", "the", "author", "uses", "randomization", "tests", "to", "tackle", "a", "model", "overfitting", "problem", ";", "-LSB-", "20", "-RSB-", "compares", "bootstrap", "and", "cross-validation", "for", "model", "accuracy", "estimation", ";", "for", "decision", "trees", ",", "-LSB-", "14", ",", "26", "-RSB-", "use", "permutation", "tests", "to", "select", "attributes", "based", "on", "2", "2", "contingency", "tables", ".", "Rule", "discovery", "is", "to", "learn", "local", "features", ",", "which", "is", "inherently", "different", "from", "models", ".", "Although", "we", "have", "seen", "methods", "using", "parametric", "hypothesis", "testing", "approach", "to", "learning", "rules", "from", "dataset", "-LSB-", "5", ",", "6", "-RSB-", ",", "no", "prior", "work", "has", "been", "found", "on", "discovering", "large", "number", "of", "rules", "based", "on", "nonparametric", "significance", "tests", ".", "The", "problem", "of", "multiple", "hypothesis", "testing/multiple", "comparison", "is", "well", "known", "in", "rule", "discovery", ",", "a", "good", "review", "of", "which", "can", "be", "found", "in", "-LSB-", "19", "-RSB-", ".", "On", "sparse", "binary", "data", ",", "-LSB-", "25", "-RSB-", "shows", "that", "with", "proper", "support", "and", "confidence", "control", ",", "very", "few", "false", "rules", "will", "be", "discovered", ".", "However", ",", "rule", "discovery", "on", "quantitative", "data", "faces", "much", "more", "complicated", "challenges", ",", "and", "conventional", "p-value", "adjustment", "methods", "can", "not", "be", "directly", "applied", ".", "To", "solve", "this", "problem", ",", "we", "employ", "false", "discovery", "rate", "-LSB-", "4", "-RSB-", "metric", "to", "estimate", "the", "number", "of", "false", "rules", "discovered", "due", "to", "testing", "a", "large", "number", "of", "rules", ".", "In", "data", "mining", ",", "FDR", "has", "been", "shown", "useful", "in", "-LSB-", "7", ",", "36", "-RSB-", "for", "categorical", "data", "with", "known", "number", "of", "hypotheses", ",", "and", "we", "extend", "it", "to", "quantitative", "rules", "with", "resampling", "methods", ".", "In", "this", "paper", "we", "defined", "a", "new", "category", "of", "rules", ",", "SQ", "rules", ",", "and", "the", "significance", "of", "SQ", "rules", ",", "on", "quantitative", "data", ".", "Then", "we", "presented", "a", "permutation-based", "algorithm", "for", "learning", "significant", "SQ", "rules", ".", "Furthermore", ",", "we", "show", "how", "an", "explicit", "false", "discovery", "rate", "can", "be", "estimated", "for", "our", "procedure", ",", "which", "makes", "the", "approach", "useful", "from", "a", "practical", "perspective", ".", "We", "presented", "experiments", "in", "which", "we", "discovered", "market", "share", "rules", ",", "a", "specific", "381", "Research", "Track", "Paper", "type", "of", "SQ", "rules", ",", "in", "real", "online", "purchase", "datasets", "and", "demonstrated", "that", "our", "approach", "can", "be", "used", "to", "learn", "interesting", "rules", "from", "data", ".", "We", "would", "also", "like", "to", "point", "out", "that", "it", "is", "possible", "to", "compute", "the", "false", "discovery", "rate", "-LRB-", "FDR", "-RRB-", "for", "several", "possible", "significance", "levels", "in", "an", "efficient", "manner", "-LRB-", "without", "creating", "permutation", "datasets", "for", "each", "significance", "level", "-RRB-", ".", "Although", "a", "detailed", "presentation", "of", "this", "is", "beyond", "the", "scope", "of", "this", "paper", ",", "in", "the", "appendix", "we", "provide", "an", "overview", "of", "how", "this", "can", "be", "done", ".", "One", "main", "advantage", "of", "being", "able", "to", "do", "this", "is", "that", "significant", "SQ", "rules", "can", "be", "discovered", "at", "a", "chosen", "significance", "level", "that", "is", "computed", "from", "some", "desired", "FDR", ".", "Hence", "rather", "than", "just", "estimating", "FDR", "we", "may", "be", "able", "to", "discover", "significant", "rules", "given", "a", "specific", "FDR", ".", "However", "this", "needs", "to", "be", "studied", "in", "greater", "detail", "in", "future", "work", ".", "-LSB-", "1", "-RSB-", "Agrawal", ",", "R.", "and", "Srikant", ",", "R.", ",", "Fast", "Algorithms", "for", "Mining", "Association", "Rules", ",", "in", "Proceedings", "of", "the", "20th", "International", "Conference", "on", "Very", "Large", "Databases", ",", "Santiago", ",", "Chile", ",", "1994", ".", "-LSB-", "2", "-RSB-", "Aumann", ",", "Y.", "and", "Lindell", ",", "Y.", ",", "A", "Statistical", "Theory", "for", "Quantitative", "Association", "Rules", ",", "in", "Proceedings", "of", "The", "Fifth", "ACM", "SIGKDD", "Int", "'", "l", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "261-270", ",", "San", "Diego", ",", "CA", ",", "1999", ".", "-LSB-", "3", "-RSB-", "Bay", ",", "S.", "D.", "and", "Pazzani", ",", "M.", "J.", ",", "Detecting", "Change", "in", "Categorical", "Data", ":", "Mining", "Contrast", "Sets", ",", "in", "Proceedings", "of", "the", "Fifth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "302", "-", "306", ",", "San", "Diego", ",", "CA", ",", "1999", ".", "-LSB-", "4", "-RSB-", "Benjamini", ",", "Y.", "and", "Hochberg", ",", "Y.", ",", "Controlling", "the", "False", "Discovery", "Rate", ":", "A", "Practical", "and", "Powerful", "Approach", "to", "Multiple", "Testing", ",", "Journal", "of", "Royal", "Statistical", "Society", "B", ",", "vol", ".", "57", ",", "iss", ".", "1", ",", "pp.", "289-300", ",", "1995", ".", "-LSB-", "5", "-RSB-", "Bolton", ",", "R.", "and", "Adams", ",", "N.", ",", "An", "Iterative", "Hypothesis-Testing", "Strategy", "for", "Pattern", "Discovery", ",", "in", "Proceedings", "of", "the", "Ninth", "ACM", "SIGKDD", "Int", "'", "l", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "49-58", ",", "Washington", ",", "DC", ",", "2003", ".", "-LSB-", "6", "-RSB-", "Bolton", ",", "R.", "J.", "and", "Hand", ",", "D.", "J.", ",", "Significance", "Tests", "for", "Patterns", "in", "Continuous", "Data", ",", "in", "Proceedings", "of", "the", "2001", "IEEE", "International", "Conference", "on", "Data", "Mining", ",", "pp.", "67-74", ",", "San", "Jose", ",", "CA", ",", "2001", ".", "-LSB-", "7", "-RSB-", "Bolton", ",", "R.", "J.", ",", "Hand", ",", "D.", "J.", ",", "and", "Adams", ",", "N.", "M.", ",", "Determining", "Hit", "Rate", "in", "Pattern", "Search", ",", "in", "Pattern", "Detection", "and", "Discovery", ",", "ESF", "Exploratory", "Workshop", ",", "pp.", "36-48", ",", "London", ",", "UK", ",", "2002", ".", "-LSB-", "8", "-RSB-", "Brijs", ",", "T.", ",", "Swinnen", ",", "G.", ",", "Vanhoof", ",", "K.", ",", "and", "Wets", ",", "G.", ",", "Using", "Association", "Rules", "for", "Product", "Assortment", ":", "Decisions", "Case", "Study", ",", "in", "Proceedings", "of", "the", "Fifth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "254-260", ",", "San", "Diego", ",", "CA", ",", "1999", ".", "-LSB-", "9", "-RSB-", "Brin", ",", "S.", ",", "Motwani", ",", "R.", ",", "and", "Silverstein", ",", "C.", ",", "Beyond", "Market", "Baskets", ":", "Generalizing", "Association", "Rules", "to", "Correlations", ",", "in", "Proceedings", "of", "the", "ACM", "SIGMOD/PODS", "'97", "Joint", "Conference", ",", "pp.", "265-276", ",", "Tucson", ",", "AZ", ",", "1997", ".", "-LSB-", "10", "-RSB-", "Brin", ",", "S.", ",", "Motwani", ",", "R.", ",", "Ullman", ",", "J.", "D.", ",", "and", "Tsur", ",", "S.", ",", "Dynamic", "Itemset", "Counting", "and", "Implication", "Rules", "for", "Market", "Basket", "Data", ",", "in", "Proceedings", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", "-LRB-", "SIGMOD", "'", "97", "-RRB-", ",", "pp.", "255-264", ",", "Tucson", ",", "AZ", ",", "1997", ".", "-LSB-", "11", "-RSB-", "Clark", ",", "P.", "and", "Niblett", ",", "T.", ",", "The", "Cn2", "Induction", "Algorithm", ",", "Machine", "Learning", ",", "vol", ".", "3", ",", "pp.", "261-283", ",", "1989", ".", "-LSB-", "12", "-RSB-", "Clearwater", ",", "S.", "and", "Provost", ",", "F.", ",", "Rl4", ":", "A", "Tool", "for", "Knowledge-Based", "Induction", ",", "in", "Procs", ".", "of", "the", "Second", "International", "IEEE", "Conference", "on", "Tools", "for", "Artificial", "Intelligence", ",", "pp.", "24-30", ",", "1990", ".", "-LSB-", "13", "-RSB-", "Efron", ",", "B.", "and", "Tibshirani", ",", "R.", "J.", ",", "An", "Introduction", "to", "the", "Bootstrap", ".", "New", "York", ",", "NY", ":", "Chapman", "&", "Hall", ",", "1993", ".", "-LSB-", "14", "-RSB-", "Frank", ",", "E.", "and", "Witten", ",", "I.", "H.", ",", "Using", "a", "Permutation", "Test", "for", "Attribute", "Selection", "in", "Decision", "Trees", ",", "in", "Proceedings", "of", "15th", "Int", "'", "l", "Conference", "on", "Machine", "Learning", ",", "pp.", "152-160", ",", "1998", ".", "-LSB-", "15", "-RSB-", "Fukuda", ",", "T.", ",", "Morimoto", ",", "Y.", ",", "Morishita", ",", "S.", ",", "and", "Tokuyama", ",", "T.", ",", "Data", "Mining", "Using", "Two-Dimensional", "Optimized", "Association", "Rules", ":", "Scheme", ",", "Algorithms", "and", "Visualization", ",", "in", "Proceedings", "of", "the", "1996", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", "-LRB-", "SIGMOD", "'", "96", "-RRB-", ",", "pp.", "13-23", ",", "Montreal", ",", "Quebec", ",", "Canada", ",", "1996", ".", "-LSB-", "16", "-RSB-", "Good", ",", "P.", ",", "Permutation", "Tests", ":", "A", "Practical", "Guide", "to", "Resampling", "Methods", "for", "Testing", "Hypotheses", "-", "2nd", "Edition", ".", "New", "York", ":", "Springer", ",", "2000", ".", "-LSB-", "17", "-RSB-", "Hsu", ",", "J.", "C.", ",", "Multiple", "Comparisons", "-", "Theory", "and", "Methods", ".", "London", ",", "UK", ":", "Chapman", "&", "Hall", ",", "1996", ".", "-LSB-", "18", "-RSB-", "Jensen", ",", "D.", ",", "Knowledge", "Discovery", "through", "Induction", "with", "Randomization", "Testing", ",", "in", "Proceedings", "of", "the", "1991", "Knowledge", "Discovery", "in", "Databases", "Workshop", ",", "pp.", "148-159", ",", "Menlo", "Park", ",", "1991", ".", "-LSB-", "19", "-RSB-", "Jensen", ",", "D.", "and", "Cohen", ",", "P.", "R.", ",", "Multiple", "Comparisons", "in", "Induction", "Algorithms", ",", "Machine", "Learning", ",", "vol", ".", "38", ",", "pp.", "309-338", ",", "2000", ".", "-LSB-", "20", "-RSB-", "Kohavi", ",", "R.", ",", "A", "Study", "of", "Cross-Validation", "and", "Bootstrap", "for", "Accuracy", "Estimation", "and", "Model", "Selection", ",", "in", "Proceedings", "of", "the", "Fourteenth", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", ",", "pp.", "1137-1143", ",", "San", "Mateo", ",", "CA", ",", "1995", ".", "-LSB-", "21", "-RSB-", "Lee", ",", "Y.", ",", "Buchanan", ",", "B.", "G.", ",", "and", "Aronis", ",", "J.", "M.", ",", "Knowledge-Based", "Learning", "in", "Exploratory", "Science", ":", "Learning", "Rules", "to", "Predict", "Rodent", "Carcinogenicity", ",", "Machine", "Learning", ",", "vol", ".", "30", ",", "pp.", "217-240", ",", "1998", ".", "-LSB-", "22", "-RSB-", "Ling", ",", "C.", "X.", "and", "Li", ",", "C.", ",", "Data", "Mining", "for", "Direct", "Marketing", ":", "Problems", "and", "Solutions", ",", "in", "Proceedings", "of", "the", "Fourth", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "73-79", ",", "New", "York", ",", "NY", ",", "1998", ".", "-LSB-", "23", "-RSB-", "Liu", ",", "B.", ",", "Hsu", ",", "W.", ",", "and", "Ma", ",", "Y.", ",", "Identifying", "Non-Actionable", "Association", "Rules", ",", "in", "Proceedings", "of", "the", "Seventh", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "329-334", ",", "San", "Francisco", ",", "CA", ",", "2001", ".", "-LSB-", "24", "-RSB-", "Mani", ",", "D.", "R.", ",", "Drew", ",", "J.", ",", "Betz", ",", "A.", ",", "and", "Datta", ",", "P.", ",", "Statistics", "and", "Data", "Mining", "Techniques", "for", "Lifetime", "Value", "Modeling", ",", "in", "Proceedings", "of", "the", "Fifth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp", ".", "94-103", ",", "San", "Diego", ",", "CA", ",", "1999", ".", "-LSB-", "25", "-RSB-", "Megiddo", ",", "N.", "and", "Srikant", ",", "R.", ",", "Discovering", "Predictive", "Association", "Rules", ",", "in", "Proceedings", "of", "the", "Fourth", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "274-278", ",", "New", "York", ",", "NY", ",", "1998", ".", "-LSB-", "26", "-RSB-", "Oates", ",", "T.", "and", "Jensen", ",", "D.", ",", "Large", "Datasets", "Lead", "to", "Overly", "Complex", "Models", ":", "An", "Explanation", "and", "a", "Solution", ",", "in", "Proceedings", "of", "the", "Fourth", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "294-298", ",", "Menlo", "Park", ",", "CA", ",", "1998", ".", "-LSB-", "27", "-RSB-", "Padmanabhan", ",", "B.", "and", "Tuzhilin", ",", "A.", ",", "A", "Belief-Driven", "Method", "for", "Discovering", "Unexpected", "Patterns", ",", "in", "Proceedings", "of", "the", "Fourth", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "94-100", ",", "New", "York", ",", "NY", ",", "1998", ".", "382", "Research", "Track", "Paper", "-LSB-", "28", "-RSB-", "Padmanabhan", ",", "B.", "and", "Tuzhilin", ",", "A.", ",", "Small", "Is", "Beautiful", ":", "Discovering", "the", "Minimal", "Set", "of", "Unexpected", "Patterns", ",", "in", "Proceedings", "of", "the", "Sixth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "&", "Data", "Mining", ",", "pp.", "54-63", ",", "Boston", ",", "MA", ",", "2000", ".", "-LSB-", "29", "-RSB-", "Piatesky-Shapiro", ",", "G.", ",", "Discovery", ",", "Analysis", ",", "and", "Presentation", "of", "Strong", "Rules", ",", "in", "Knowledge", "Discovery", "in", "Databases", ",", "Piatesky-Shapiro", ",", "G.", "and", "Frawley", ",", "W.", "J.", ",", "Eds", ".", "Menlo", "Park", ",", "CA", ":", "AAAI/MIT", "Press", ",", "pp.", "229-248", ",", "1991", ".", "-LSB-", "30", "-RSB-", "Sarawagi", ",", "S.", ",", "Agrawal", ",", "R.", ",", "and", "Megiddo", ",", "N.", ",", "Discovery-Driven", "Exploration", "of", "Olap", "Data", "Cubes", ",", "in", "Proceedings", "of", "the", "Sixth", "International", "Conference", "on", "Extending", "Database", "Technology", "-LRB-", "EDBT", "'", "98", "-RRB-", ",", "pp.", "168-182", ",", "Valencia", ",", "Spain", ",", "1998", ".", "-LSB-", "31", "-RSB-", "Srikant", ",", "R.", "and", "Agrawal", ",", "R.", ",", "Mining", "Quantitative", "Association", "Rules", "in", "Large", "Relational", "Tables", ",", "in", "Proceedings", "of", "the", "1996", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "1996", ".", "-LSB-", "32", "-RSB-", "Webb", ",", "G.", ",", "Butler", ",", "S.", ",", "and", "Newlands", ",", "D.", ",", "On", "Detecting", "Differences", "between", "Groups", ",", "in", "Proceedings", "of", "the", "Ninth", "ACM", "SIGKDD", "Int", "'", "l", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pp.", "256-265", ",", "Washington", ",", "DC", ",", "2003", ".", "-LSB-", "33", "-RSB-", "Webb", ",", "G.", "I.", ",", "Discovering", "Associations", "with", "Numeric", "Variables", ",", "in", "Proceedings", "of", "The", "Seventh", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "San", "Francisco", ",", "CA", ",", "2001", ".", "-LSB-", "34", "-RSB-", "Westfall", ",", "P.", "H.", "and", "Young", ",", "S.", "S.", ",", "Resampling-Based", "Multiple", "Testing", "-", "Examples", "and", "Methods", "for", "P-Value", "Adjustment", ".", "New", "York", ",", "NY", ":", "John", "Wiley", "&", "Sons", ",", "Inc", ",", "1993", ".", "-LSB-", "35", "-RSB-", "Wong", ",", "W.-K.", ",", "Moore", ",", "A.", ",", "Cooper", ",", "G.", ",", "and", "Wagner", ",", "M.", ",", "Rule-Based", "Anomaly", "Pattern", "Detection", "for", "Detecting", "Disease", "Outbreaks", ",", "in", "Proceedings", "of", "the", "Eighteenth", "National", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "AAAI-2002", "-RRB-", ",", "Edmonton", ",", "Canada", ",", "2002", ".", "-LSB-", "36", "-RSB-", "Wong", ",", "W.-K.", ",", "Moore", ",", "A.", ",", "Cooper", ",", "G.", ",", "and", "Wagner", ",", "M.", ",", "Bayesian", "Network", "Anomaly", "Pattern", "Detection", "for", "Disease", "Outbreaks", ",", "in", "Proceedings", "of", "the", "Twentieth", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML-2003", "-RRB-", ",", "Washington", ",", "DC", ",", "2003", ".", "APPENDIX", ":", "Discovering", "false", "discovery", "rates", "for", "multiple", "significance", "levels", "Let", "us", "continue", "to", "use", "the", "example", "N", "perm", "=", "999", "and", "=", "5", "%", ".", "On", "the", "dataset", "D", ",", "from", "the", "algorithm", "SigSQrules", "we", "generate", "significant", "rules", "as", "well", "as", "each", "rule", "'s", "p-value", ".", "Because", "there", "are", "N", "perm", "values", "in", "each", "distribution", ",", "the", "smallest", "possible", "p-value", "from", "the", "permutation", "tests", "is", "1", "/", "-LRB-", "N", "perm", "+", "1", "-RRB-", "=", "0.001", ",", "and", "all", "possible", "p-values", "are", "S", "=", "-LCB-", "1", "/", "-LRB-", "N", "perm", "+", "1", "-RRB-", "=", "0.001", ",", "2", "/", "-LRB-", "N", "perm", "+", "1", "-RRB-", "=", "0.002", ",", "...", "=", "0.05", "-RCB-", ".", "Let", "N", "sig", "-LSB-", "ind", "-RSB-", "be", "the", "number", "of", "significant", "rules", "whose", "pvalue", "is", "no", "larger", "than", "ind", "S.", "For", "example", ",", "if", "there", "are", "50", "rules", "whose", "p-value", "=", "0.001", ",", "and", "30", "rules", "whose", "p-value", "=", "0.002", ",", "then", "N", "sig", "-LSB-", "0.001", "-RSB-", "=", "50", "and", "N", "sig", "-LSB-", "0.002", "-RSB-", "=", "50", "+", "30", "=", "80", ".", "Without", "further", "permutation", "tests", ",", "with", "N", "sig", "-LSB-", "-RSB-", "we", "know", "how", "many", "rules", "will", "be", "discovered", "if", "we", "lower", "the", "significance", "level", "from", "to", "ind", ".", "For", "example", ",", "if", "ind", "=", "0.002", ",", "there", "are", "only", "N", "sig", "-LSB-", "0.002", "-RSB-", "=", "80", "rules", "whose", "p-value", "is", "no", "larger", "than", "ind", "=", "0.002", ",", "therefore", "we", "expect", "to", "discover", "80", "rules", ".", "Similarly", ",", "for", "each", "permutation", "dataset", "D", ",", "at", "each", "significance", "level", "ind", "<", "we", "can", "compute", "the", "number", "of", "significant", "rules", "and", "their", "p-values", "by", "applying", "SigSQrules", "only", "once", ".", "Note", "that", "all", "discoveries", "from", "D", "are", "false", "discoveries", ",", "because", "the", "relationships", "between", "A", "and", "B", "are", "removed", ".", "Let", "N", "sig-perm", "-LSB-", "i", "-RSB-", "-LSB-", "ind", "-RSB-", "be", "the", "number", "of", "discoveries", "from", "permutation", "datasets", "D", "-LSB-", "i", "-RSB-", ".", "For", "example", ",", "N", "sig-perm", "-LSB-", "1", "-RSB-", "-LSB-", "0.002", "-RSB-", "=", "20", "means", "we", "have", "20", "discoveries", "from", "the", "permutation", "dataset", "D", "-LSB-", "1", "-RSB-", "at", "ind", "=", "0.002", ".", "We", "implement", "this", "procedure", "on", "multiple", "permutation", "datasets", ",", "and", "Median", "-LRB-", "N", "sig-perm", "-LSB-", "-RSB-", "-LSB-", "ind", "-RSB-", "-RRB-", "is", "the", "estimate", "of", "false", "discoveries", "at", "each", "significance", "level", "ind", "on", "permutation", "datasets", ".", "Therefore", ",", "FDR", "-LRB-", "ind", "-RRB-", "=", "Median", "-LRB-", "N", "sig-perm", "-LSB-", "-RSB-", "-LSB-", "ind", "-RSB-", "-RRB-", "/", "N", "sig", "-LSB-", "ind", "-RSB-", ".", "We", "use", "Median", "to", "estimate", "the", "expectation", ",", "which", "conforms", "to", "nonparametric", "statistical", "considerations", "-LRB-", "median", "is", "the", "best", "estimator", "for", "expectation", "when", "the", "underlying", "distribution", "is", "unknown", "-RRB-", ".", "Empirically", ",", "we", "showed", "in", "Figure", "6.3", "that", "FDR", "-LRB-", "ind", "-RRB-", "is", "an", "increasing", "function", "on", "ind", ".", "It", "means", "that", "by", "decreasing", "ind", ",", "we", "can", "control", "FDR", "-LRB-", "ind", "-RRB-", "to", "a", "smaller", "value", ".", "We", "are", "not", "always", "guaranteed", ",", "though", ",", "to", "be", "able", "to", "set", "an", "individual", "significance", "level", "such", "that", "FDR", "<", "5", "%", ".", "It", "is", "possible", "that", "even", "when", "we", "decrease", "ind", "to", "a", "level", "that", "almost", "no", "rules", "are", "discovered", ",", "FDR", "is", "still", "much", "larger", "than", "5", "%", ".", "In", "other", "words", ",", "there", "are", "always", "a", "large", "proportion", "of", "spurious", "rules", "discovered", "from", "some", "datasets", ".", "For", "example", ",", "if", "attributes", "independent", "based", "on", "a", "test", "statistic", ",", "then", "Median", "-LRB-", "N", "sig-perm", "-LSB-", "-RSB-", "-LSB-", "ind", "-RSB-", "-RRB-", "N", "sig", "-LSB-", "ind", "-RSB-", "for", "all", "significance", "levels", ",", "and", "FDR", "1", ".", "We", "want", "to", "point", "out", "that", "this", "is", "a", "desirable", "property", "of", "our", "method", "on", "controlling", "FDR", ",", "because", "there", "are", "many", "real-world", "datasets", "whose", "attributes", "are", "truly", "independent", "from", "each", "other", ".", "Traditional", "methods", "can", "not", "estimate", "how", "many", "rules", "should", "be", "discovered", ",", "but", "with", "our", "technique", ",", "we", "can", "draw", "the", "conclusion", "that", ",", "there", "is", "no", "rule", "to", "be", "discovered", "because", "none", "of", "the", "rules", "is", "better", "than", "chance", ".", "This", "nonparametric", "method", "to", "estimate", "and", "control", "FDR", "is", "applicable", "to", "quantitative", "datasets", "and", "broad", "types", "of", "rules", ".", "383", "Research", "Track", "Paper"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["market share rules", "nonparametric methods", "resampling", "rule discovery", "statistical quantitative rules"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "18", "document": ["A", "Resilient", "Packet-Forwarding", "Scheme", "against", "Maliciously", "Packet-Dropping", "Nodes", "in", "Sensor", "Networks", "This", "paper", "focuses", "on", "defending", "against", "compromised", "nodes", "'", "dropping", "of", "legitimate", "reports", "and", "investigates", "the", "misbehavior", "of", "a", "maliciously", "packet-dropping", "node", "in", "sensor", "networks", ".", "We", "present", "a", "resilient", "packet-forwarding", "scheme", "using", "Neighbor", "Watch", "System", "-LRB-", "NWS", "-RRB-", ",", "specifically", "designed", "for", "hop-by-hop", "reliable", "delivery", "in", "face", "of", "malicious", "nodes", "that", "drop", "relaying", "packets", ",", "as", "well", "as", "faulty", "nodes", "that", "fail", "to", "relay", "packets", ".", "Unlike", "previous", "work", "with", "multipath", "data", "forwarding", ",", "our", "scheme", "basically", "employs", "single-path", "data", "forwarding", ",", "which", "consumes", "less", "power", "than", "multipath", "schemes", ".", "As", "the", "packet", "is", "forwarded", "along", "the", "single-path", "toward", "the", "base", "station", ",", "our", "scheme", ",", "however", ",", "converts", "into", "multipath", "data", "forwarding", "at", "the", "location", "where", "NWS", "detects", "relaying", "nodes", "'", "misbehavior", ".", "Simulation", "experiments", "show", "that", ",", "with", "the", "help", "of", "NWS", ",", "our", "forwarding", "scheme", "achieves", "a", "high", "success", "ratio", "in", "face", "of", "a", "large", "number", "of", "packet-dropping", "nodes", ",", "and", "effectively", "adjusts", "its", "forwarding", "style", ",", "depending", "on", "the", "number", "of", "packet-dropping", "nodes", "en-route", "to", "the", "base", "station", ".", "C.", "2.0", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "General-Security", "and", "protection", "Security", ",", "Algorithm", ",", "Reliability", "Wireless", "sensor", "networks", "consist", "of", "hundreds", "or", "even", "thousands", "of", "small", "devices", "each", "with", "sensing", ",", "processing", ",", "and", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SASN", "'", "06", ",", "October", "30", ",", "2006", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-554-1", "/", "06/0010", "...", "$", "5.00", ".", "communicating", "capabilities", "to", "monitor", "the", "real-world", "environment", ".", "They", "are", "envisioned", "to", "play", "an", "important", "role", "in", "a", "wide", "variety", "of", "areas", "ranging", "from", "critical", "military-surveillance", "applications", "to", "forest", "fire", "monitoring", "and", "the", "building", "security", "monitoring", "in", "the", "near", "future", ".", "In", "such", "a", "network", ",", "a", "large", "number", "of", "sensor", "nodes", "are", "distributed", "to", "monitor", "a", "vast", "field", "where", "the", "operational", "conditions", "are", "harsh", "or", "even", "hostile", ".", "To", "operate", "in", "such", "environments", ",", "security", "is", "an", "important", "aspect", "for", "sensor", "networks", "and", "security", "mechanisms", "should", "be", "provided", "against", "various", "attacks", "such", "as", "node", "capture", ",", "physical", "tampering", ",", "eavesdropping", ",", "denial", "of", "service", ",", "etc", "-LSB-", "23", ",", "33", ",", "38", "-RSB-", ".", "Previous", "research", "efforts", "against", "outsider", "attacks", "in", "key-management", "schemes", "-LSB-", "4", ",", "13", ",", "32", "-RSB-", "and", "secure", "node-to-node", "communication", "mechanisms", "-LSB-", "24", ",", "32", "-RSB-", "in", "sensor", "networks", "are", "well-defined", ".", "Those", "security", "protections", ",", "however", ",", "break", "down", "when", "even", "a", "single", "legitimate", "node", "is", "compromised", ".", "It", "turns", "out", "to", "be", "relatively", "easy", "to", "compromise", "a", "legitimate", "node", "-LSB-", "14", "-RSB-", ",", "which", "is", "to", "extract", "all", "the", "security", "information", "from", "the", "captured", "node", "and", "to", "make", "malicious", "code", "running", "for", "the", "attacker", "'s", "purpose", ".", "Even", "a", "small", "number", "of", "compromised", "nodes", "can", "pose", "severe", "security", "threats", "on", "the", "entire", "part", "of", "the", "network", ",", "launching", "several", "attacks", "such", "as", "dropping", "legitimate", "reports", ",", "injecting", "bogus", "sensing", "reports", ",", "advertising", "inconsistent", "routing", "information", ",", "eavesdropping", "in-network", "communication", "using", "exposed", "keys", ",", "etc.", ".", "Such", "disruption", "by", "the", "insider", "attacks", "can", "be", "devastating", "unless", "proper", "security", "countermeasures", "against", "each", "type", "of", "attacks", "are", "provided", ".", "In", "reality", ",", "detecting", "all", "of", "the", "compromised", "nodes", "in", "the", "network", "is", "not", "always", "possible", ",", "so", "we", "should", "pursue", "graceful", "degradation", "-LSB-", "35", "-RSB-", ",", "with", "a", "small", "number", "of", "compromised", "nodes", ".", "The", "fundamental", "principle", "for", "defense", "against", "the", "insider", "attacks", "is", "to", "restrict", "the", "security", "impact", "of", "a", "node", "compromise", "as", "close", "to", "the", "vicinity", "of", "the", "compromised", "node", "as", "possible", ".", "When", "the", "attacker", "compromises", "a", "legitimate", "node", ",", "it", "may", "first", "try", "to", "replicate", "the", "captured", "node", "indefinitely", "with", "the", "same", "ID", "and", "spread", "them", "over", "the", "network", ".", "Against", "such", "attacks", ",", "a", "distributed", "detection", "mechanism", "-LRB-", "based", "on", "emergent", "properties", "-LSB-", "11", "-RSB-", "-RRB-", "has", "been", "proposed", "by", "Parno", "et", "al.", "-LSB-", "31", "-RSB-", ".", "In", "addition", ",", "Newsome", "et", "al.", "-LSB-", "30", "-RSB-", "have", "presented", "the", "techniques", "that", "prevent", "the", "adversary", "from", "arbitrarily", "creating", "new", "IDs", "for", "nodes", ".", "Using", "cryptographic", "information", "obtained", "from", "a", "captured", "node", ",", "attackers", "can", "establish", "pairwise", "keys", "with", "any", "legitimate", "nodes", "in", "order", "to", "eavesdrop", "communication", "any-59", "where", "in", "the", "network", ".", "Localized", "key-establishment", "scheme", "by", "Zhu", "et", "al.", "-LSB-", "46", "-RSB-", "is", "a", "good", "solution", "against", "such", "an", "insider", "attack", ".", "Since", "the", "scheme", "does", "not", "allow", "a", "cloned", "node", "-LRB-", "by", "inside-attackers", "-RRB-", "to", "establish", "pairwise", "keys", "with", "any", "legitimate", "nodes", "except", "the", "neighbors", "of", "the", "compromised", "nodes", ",", "the", "cryptographic", "keys", "extracted", "from", "the", "compromised", "node", "are", "of", "no", "use", "for", "attackers", ".", "Compromised", "nodes", "can", "also", "inject", "false", "sensing", "reports", "to", "the", "network", "-LRB-", "i.e.", "report", "fabrication", "attacks", "-LSB-", "39", "-RSB-", "-RRB-", ",", "which", "causes", "false", "alarms", "at", "the", "base", "station", "or", "the", "aggregation", "result", "to", "far", "deviate", "from", "the", "true", "measurement", ".", "Proposed", "en-route", "filtering", "mechanisms", "-LSB-", "8", ",", "39", ",", "41", ",", "44", ",", "47", "-RSB-", "that", "detect", "and", "drop", "such", "false", "reports", "effectively", "limit", "the", "impact", "of", "this", "type", "of", "attacks", ".", "Also", ",", "proposed", "secure", "aggregation", "protocols", "-LSB-", "34", ",", "40", "-RSB-", "have", "addressed", "the", "problem", "of", "false", "data", "injection", ",", "and", "they", "ensure", "that", "the", "aggregated", "result", "is", "a", "good", "approximation", "to", "the", "true", "value", "in", "the", "presence", "of", "a", "small", "number", "of", "compromised", "nodes", ".", "Advertising", "inconsistent", "routing", "information", "by", "compromised", "nodes", "can", "disrupt", "the", "whole", "network", "topology", ".", "Hu", "et", "al.", "-LSB-", "19", ",", "20", "-RSB-", "have", "proposed", "SEAD", ",", "a", "secure", "ad-hoc", "network", "routing", "protocol", "that", "uses", "efficient", "one-way", "hash", "functions", "to", "prevent", "any", "inside", "attackers", "from", "injecting", "inconsistent", "route", "updates", ".", "A", "few", "secure", "routing", "protocols", "-LSB-", "6", ",", "27", "-RSB-", "in", "sensor", "networks", "have", "been", "proposed", "to", "detect", "and", "exclude", "the", "compromised", "nodes", "injecting", "inconsistent", "route", "updates", ".", "Compromised", "nodes", "also", "can", "silently", "drop", "legitimate", "reports", "-LRB-", "i.e.", "selective", "forwarding", "attacks", "-LSB-", "23", "-RSB-", "-RRB-", ",", "instead", "of", "forwarding", "them", "to", "the", "next-hop", "toward", "the", "base", "station", ".", "Since", "data", "reports", "are", "delivered", "over", "multihop", "wireless", "paths", "to", "the", "base", "station", ",", "even", "a", "small", "number", "of", "strategically-placed", "packet-dropping", "nodes", "can", "deteriorate", "the", "network", "throughput", "significantly", ".", "In", "order", "to", "bypass", "such", "nodes", ",", "most", "work", "on", "secure", "routing", "and", "reliable", "delivery", "in", "sensor", "networks", "relies", "on", "multipath", "forwarding", "scheme", "-LSB-", "5", ",", "6", ",", "7", ",", "10", "-RSB-", ",", "or", "interleaved-mesh", "forwarding", "scheme", "-LSB-", "26", ",", "29", ",", "39", ",", "42", "-RSB-", ".", "Among", "the", "insider", "attacks", "described", "above", ",", "this", "paper", "focuses", "on", "defense", "against", "compromised", "nodes", "'", "dropping", "of", "legitimate", "reports", "and", "we", "present", "a", "resilient", "packet-forwarding", "scheme", "using", "Neighbor", "Watch", "System", "-LRB-", "NWS", "-RRB-", "against", "maliciously", "packet-dropping", "nodes", "in", "sensor", "networks", ".", "We", "investigate", "the", "misbehavior", "of", "a", "maliciously", "packet-dropping", "node", "and", "show", "that", "an", "acknowledgement", "-LRB-", "ACK", "-RRB-", "that", "its", "packets", "were", "correctly", "received", "at", "the", "next-hop", "node", "does", "not", "guarantee", "reliable", "delivery", "from", "the", "security", "perspective", ".", "NWS", "is", "specifically", "designed", "for", "hop-by-hop", "reliable", "delivery", "in", "face", "of", "malicious", "nodes", "that", "drop", "relaying", "packets", ",", "as", "well", "as", "faulty", "nodes", "that", "fail", "to", "relay", "packets", ".", "Unlike", "previous", "work", "-LSB-", "10", ",", "29", ",", "42", "-RSB-", "with", "multipath", "data", "forwarding", ",", "our", "scheme", "basically", "employs", "single-path", "data", "forwarding", ",", "which", "consumes", "less", "power", "than", "multipath", "schemes", ".", "As", "the", "packet", "is", "forwarded", "along", "the", "single-path", "toward", "the", "base", "station", ",", "our", "scheme", ",", "however", ",", "converts", "into", "multipath", "data", "forwarding", "at", "the", "location", "where", "NWS", "detects", "relaying", "nodes", "'", "misbehavior", ".", "NWS", "exploits", "the", "dense", "deployment", "of", "large-scale", "static", "sensor", "networks", "and", "the", "broadcast", "nature", "of", "communication", "pattern", "to", "overhear", "neighbors", "'", "communication", "for", "free", ".", "The", "contribution", "of", "this", "paper", "is", "two-fold", ".", "First", ",", "we", "investigate", "the", "misbehavior", "of", "a", "maliciously", "packet-dropping", "node", "and", "propose", "a", "resilient", "packet-forwarding", "scheme", ",", "which", "basically", "employs", "single-path", "data", "forwarding", ",", "in", "face", "of", "such", "nodes", ",", "as", "well", "as", "faulty", "nodes", ".", "Second", ",", "our", "scheme", "can", "work", "with", "any", "existing", "routing", "protocols", ".", "Since", "it", "is", "designed", "not", "for", "securing", "specific", "protocols", "but", "for", "universal", "protocols", ",", "it", "can", "be", "applied", "to", "any", "existing", "routing", "protocols", "as", "a", "security", "complement", ".", "The", "rest", "of", "paper", "is", "organized", "as", "follows", ".", "Background", "is", "given", "in", "Section", "2", ".", "We", "present", "our", "resilient", "packet-forwarding", "scheme", "in", "Section", "3", ".", "An", "evaluation", "of", "the", "scheme", "is", "given", "and", "discussed", "in", "Section", "4", ".", "We", "present", "conclusions", "and", "future", "work", "in", "Section", "5", ".", "Sensor", "networks", "typically", "comprise", "one", "or", "multiple", "base", "stations", "and", "hundreds", "or", "thousands", "of", "inexpensive", ",", "small", ",", "static", ",", "and", "resource-constrained", "nodes", "scattered", "over", "a", "wide", "area", ".", "An", "inexpensive", "sensor", "node", "can", "not", "afford", "tamper-resistant", "packaging", ".", "We", "assume", "that", "a", "large", "number", "of", "sensor", "nodes", "are", "deployed", "in", "high", "density", "over", "a", "vast", "field", ",", "such", "that", "the", "expected", "degree", "of", "a", "node", "is", "high", ";", "each", "sensor", "has", "multiple", "neighbors", "within", "its", "communication", "range", ".", "Sensing", "data", "or", "aggregated", "data", "are", "sent", "along", "the", "multihop", "route", "to", "the", "base", "station", ".", "We", "assume", "that", "each", "sensor", "node", "has", "a", "constant", "transmission", "range", ",", "and", "communication", "links", "are", "bidirectional", ".", "Our", "sensor", "network", "model", "employs", "a", "key-establishment", "scheme", "that", "extends", "the", "one", "in", "LEAP", "-LSB-", "46", "-RSB-", "where", "the", "impact", "of", "a", "node", "compromise", "is", "localized", "in", "the", "immediate", "neighborhood", "of", "the", "compromised", "node", ",", "and", "our", "scheme", "is", "based", "on", "it", ".", "To", "evolve", "from", "LEAP", ",", "we", "will", "describe", "it", "briefly", "in", "Section", "2.4", ".", "2.2", "Threat", "Model", "The", "attacks", "launched", "from", "outsiders", "hardly", "cause", "much", "damage", "to", "the", "network", ",", "since", "the", "rouge", "node", ",", "which", "does", "not", "possesses", "the", "legitimate", "credentials", "-LRB-", "e.g.", "the", "predistributed", "key", "ring", "from", "the", "key", "pool", "-LSB-", "13", "-RSB-", "-RRB-", ",", "fails", "to", "participate", "in", "the", "network", ".", "On", "the", "other", "hand", ",", "there", "may", "be", "multiple", "attacks", "from", "insiders", "-LRB-", "e.g.", "dropping", "legitimate", "reports", ",", "injecting", "false", "sensing", "reports", ",", "advertising", "inconsistent", "route", "information", ",", "and", "eavesdropping", "in-network", "communication", "using", "exposed", "keys", ",", "etc", "-RRB-", ",", "and", "the", "combination", "of", "such", "attacks", "can", "lead", "to", "disruption", "of", "the", "whole", "network", ".", "Thus", ",", "proper", "security", "countermeasures", "-LRB-", "specifically", "designed", "to", "protect", "against", "each", "type", "of", "the", "attacks", "-RRB-", "should", "be", "provided", ".", "Among", "them", ",", "in", "this", "paper", ",", "we", "focus", "on", "defending", "against", "compromised", "nodes", "'", "dropping", "of", "legitimate", "reports", ";", "Other", "attacks", "mentioned", "above", "are", "effectively", "dealt", "with", "by", "several", "proposed", "schemes", "as", "described", "in", "the", "previous", "section", ".", "We", "consider", "a", "packet-dropping", "node", "as", "not", "merely", "a", "faulty", "node", ",", "but", "also", "an", "arbitrarily", "malicious", "node", ".", "Some", "previous", "work", "-LSB-", "3", ",", "29", ",", "36", "-RSB-", "on", "reliable", "delivery", "uses", "an", "acknowledgement", "-LRB-", "ACK", "-RRB-", "that", "its", "packets", "were", "correctly", "received", "at", "the", "next-hop", "node", ",", "in", "order", "to", "find", "out", "unreliable", "links", ".", "However", ",", "in", "the", "presence", "of", "maliciously", "packet-dropping", "nodes", ",", "simply", "receiving", "ACK", "from", "a", "next-hop", "node", "does", "not", "guarantee", "that", "the", "packet", "will", "be", "really", "forwarded", "by", "the", "next-hop", "node", ".", "For", "example", ",", "node", "u", "forwards", "a", "packet", "to", "compromised", "node", "v", ",", "and", "node", "u", "waits", "for", "ACK", "from", "node", "v.", "Node", "v", "sends", "back", "ACK", "to", "node", "u", ",", "and", "then", "node", "v", "silently", "drops", "the", "packet", ".", "This", "simple", "example", "shows", "that", "receiving", "ACK", "is", "not", "enough", "for", "reliable", "delivery", "in", "face", "of", "maliciously", "packet-dropping", "nodes", ".", "60", "For", "more", "reliability", ",", "we", "should", "check", "whether", "the", "next-hop", "node", "really", "forwards", "the", "relaying", "packet", "to", "its", "proper", "next-hop", "node", ".", "Fortunately", ",", "due", "to", "the", "broadcast", "nature", "of", "communication", "pattern", "in", "sensor", "networks", ",", "we", "can", "overhear", "neighbors", "'", "communication", "for", "free", "-LRB-", "for", "now", "per-link", "encryption", "is", "ignored", "-RRB-", ".", "After", "forwarding", "a", "packet", "to", "next-hop", "node", "v", "and", "buffering", "recently-sent", "packets", ",", "by", "listening", "in", "on", "node", "v", "'s", "traffic", ",", "we", "can", "tell", "whether", "node", "v", "really", "transmits", "the", "packet", ".", "Watchdog", "-LSB-", "28", "-RSB-", "mechanism", "-LRB-", "extension", "to", "DSR", "-LSB-", "22", "-RSB-", "-RRB-", ",", "implicit", "ACK", "in", "M", "2", "RC", "-LSB-", "29", "-RSB-", ",", "and", "local", "monitoring", "in", "DICAS", "-LSB-", "25", "-RSB-", "detect", "misbehaving", "nodes", "in", "this", "way", ".", "However", ",", "this", "kind", "of", "simple", "overhearing", "schemes", "does", "not", "guarantee", "reliable", "delivery", ",", "either", ".", "With", "arbitrarily", "malicious", "nodes", ",", "we", "should", "be", "assured", "that", "the", "node", ",", "to", "which", "the", "next-hop", "node", "forwards", "the", "relaying", "packet", ",", "is", "really", "a", "neighbor", "of", "the", "next-hop", "node", ".", "For", "example", ",", "node", "u", "forwards", "a", "packet", "to", "compromised", "node", "v", ",", "and", "node", "u", "listens", "in", "on", "node", "v", "'s", "traffic", "to", "compare", "each", "overheard", "packet", "with", "the", "packet", "in", "the", "buffer", ".", "Node", "v", "transmits", "the", "relaying", "packet", "whose", "intended", "next-hop", "id", "marked", "with", "any", "id", "in", "the", "network", "such", "as", "x", "that", "is", "not", "a", "neighbor", "of", "v", ".", "Then", "node", "u", "overhears", "this", "packet", "from", "node", "v", ",", "and", "considers", "it", "forwarded", "correctly", "despite", "the", "fact", "that", "none", "actually", "receives", "the", "packet", ".", "The", "packet", "is", "eventually", "dropped", "without", "being", "detected", ".", "We", "refer", "to", "this", "attack", "as", "blind", "letter", "attack", ".", "We", "consider", "packet-dropping", "attacks", "to", "be", "addressed", "in", "this", "paper", "as", "ones", "ranging", "from", "the", "naive", "case", "-LRB-", "e.g.", "a", "faulty", "node", "-RRB-", "to", "the", "most", "malicious", "one", "-LRB-", "e.g.", "a", "node", "launching", "blind", "letter", "attack", "-RRB-", ".", "We", "focus", "on", "developing", "a", "solution", "to", "such", "attacks", ".", "2.3", "Notation", "We", "use", "the", "following", "notation", "throughout", "the", "paper", ":", "u", ",", "v", "are", "principals", ",", "such", "as", "communicating", "nodes", ".", "R", "u", "is", "a", "random", "number", "generated", "by", "u.", "f", "K", "is", "a", "family", "of", "pseudo-random", "function", "-LSB-", "12", "-RSB-", ".", "MAC", "-LRB-", "K", ",", "M", "1", "|", "M", "2", "-RRB-", "denotes", "the", "message", "authentication", "code", "-LRB-", "MAC", "-RRB-", "of", "message", "-", "concatenation", "of", "M", "1", "and", "M", "2", ",", "with", "MAC", "key", "K.", "2.4", "Key-Establishment", "Scheme", "in", "LEAP", "LEAP", "supports", "the", "establishment", "of", "four", "types", "of", "keys", "for", "each", "sensor", "node", "-", "an", "individual", "key", "shared", "with", "the", "base", "station", ",", "a", "pairwise", "key", "shared", "with", "its", "neighbor", ",", "a", "cluster", "key", "shared", "with", "its", "surrounding", "neighbors", ",", "and", "a", "group", "key", "shared", "by", "all", "the", "nodes", "in", "the", "networks", ".", "It", "assumes", "that", "the", "time", "interval", "T", "est", "for", "a", "newly", "deployed", "sensor", "node", "to", "complete", "the", "neighbor", "discovery", "phase", "-LRB-", "e.g.", "tens", "of", "seconds", "-RRB-", "is", "smaller", "than", "the", "time", "interval", "T", "min", "that", "is", "necessary", "for", "the", "attacker", "to", "compromise", "a", "legitimate", "node", "-LRB-", "i.e.", "T", "min", ">", "T", "est", "-RRB-", ".", "Some", "existing", "work", "-LSB-", "1", ",", "39", "-RSB-", "has", "made", "similar", "assumptions", ",", "which", "are", "believed", "to", "be", "reasonable", ".", "The", "four", "steps", "for", "a", "newly", "added", "node", "u", "to", "establish", "a", "pairwise", "key", "with", "each", "of", "its", "neighbors", "are", "as", "follows", ":", "1", ".", "Key", "Pre-distribution", ".", "Each", "node", "u", "is", "loaded", "with", "a", "common", "initial", "key", "K", "I", ",", "and", "derives", "its", "master", "key", "K", "u", "=", "f", "K", "I", "-LRB-", "u", "-RRB-", ".", "2", ".", "Neighbor", "Discovery", ".", "Once", "deployed", ",", "node", "u", "sets", "up", "a", "timer", "to", "fire", "after", "time", "T", "min", ",", "broadcasts", "its", "id", ",", "and", "waits", "for", "each", "neighbor", "v", "'s", "ACK", ".", "The", "ACK", "from", "v", "is", "authenticated", "using", "the", "master", "key", "K", "v", "of", "node", "v", ".", "Since", "node", "u", "knows", "K", "I", ",", "it", "can", "derive", "K", "v", "=", "f", "K", "I", "-LRB-", "v", "-RRB-", ".", "u", "-", ":", "u", ",", "R", "u", ".", "v", "-", "u", ":", "v", ",", "M", "AC", "-LRB-", "K", "v", ",", "R", "u", "|", "v", "-RRB-", ".", "3", ".", "Pairwise", "Key", "Establishment", ".", "Node", "u", "computes", "its", "pairwise", "key", "with", "v", ",", "K", "uv", ",", "as", "K", "uv", "=", "f", "K", "v", "-LRB-", "u", "-RRB-", ".", "Node", "v", "also", "computes", "K", "uv", "in", "the", "same", "way", ".", "K", "uv", "serves", "as", "their", "pairwise", "key", ".", "4", ".", "Key", "Erasure", ".", "When", "its", "timer", "expires", ",", "node", "u", "erases", "K", "I", "and", "all", "the", "master", "keys", "of", "its", "neighbors", ".", "Every", "node", ",", "however", ",", "keeps", "its", "own", "master", "key", ",", "in", "order", "to", "establish", "pairwise", "keys", "with", "later-deployed", "nodes", ".", "Once", "erasing", "K", "I", ",", "a", "node", "will", "not", "be", "able", "to", "establish", "a", "pairwise", "key", "with", "any", "other", "nodes", "that", "have", "also", "erased", "K", "I", ".", "Without", "K", "I", ",", "a", "cloned", "node", "-LRB-", "by", "an", "attacker", "compromising", "a", "legitimate", "node", "after", "T", "min", "-RRB-", "fails", "to", "establish", "pairwise", "keys", "with", "any", "nodes", "except", "the", "neighbors", "of", "the", "compromised", "node", ".", "In", "such", "a", "way", ",", "LEAP", "localizes", "the", "security", "impact", "of", "a", "node", "compromise", ".", "In", "this", "section", ",", "we", "present", "our", "resilient", "packet-forwarding", "scheme", "using", "Neighbor", "Watch", "System", "-LRB-", "NWS", "-RRB-", ".", "NWS", "works", "with", "the", "information", "provided", "by", "Neighbor", "List", "Verification", "-LRB-", "NLV", "-RRB-", "to", "be", "described", "in", "Section", "3.2", ".", "3.1", "Neighbor", "Watch", "System", "Our", "scheme", "seeks", "to", "achieve", "hop-by-hop", "reliable", "delivery", "in", "face", "of", "maliciously", "packet-dropping", "nodes", ",", "basically", "employing", "single-path", "forwarding", ".", "To", "the", "best", "of", "our", "knowledge", ",", "proposed", "works", "so", "far", "rely", "on", "multipath", "forwarding", "or", "diffusion-based", "forwarding", ",", "exploiting", "a", "large", "number", "of", "nodes", "in", "order", "to", "deliver", "a", "single", "packet", ".", "ACK-based", "technique", "is", "not", "a", "proper", "solution", "at", "all", "as", "explained", "in", "the", "previous", "section", ".", "With", "NWS", ",", "we", "can", "check", "whether", "the", "next-hop", "node", "really", "forwards", "the", "relaying", "packet", "to", "the", "actual", "neighbor", "of", "the", "next-hop", "node", ".", "The", "basic", "idea", "of", "our", "scheme", "is", "as", "follows", ":", "1", ".", "Neighbor", "List", "Verification", ".", "After", "deployment", ",", "during", "neighbor", "discovery", "phase", ",", "every", "node", "u", "gets", "to", "know", "of", "not", "only", "its", "immediate", "neighbors", ",", "but", "also", "the", "neighbors", "'", "respective", "neighbor", "lists", "-LRB-", "i.e.", "u", "'s", "neighbors", "'", "neighbor", "lists", "-RRB-", ".", "The", "lists", "are", "verified", "using", "Neighbor", "List", "Verification", "to", "be", "described", "in", "Section", "3.2", ".", "Every", "node", "stores", "its", "neighbors", "'", "neighbor", "lists", "in", "the", "neighbor", "table", ".", "2", ".", "Packet", "Forwarding", "to", "Next-hop", ".", "If", "node", "u", "has", "a", "packet", "to", "be", "relayed", ",", "it", "buffers", "the", "packet", "and", "forwards", "the", "packet", "-LRB-", "encrypted", "with", "cluster", "key", "of", "node", "u", "so", "that", "neighbors", "of", "node", "u", "can", "overhear", "it", "-RRB-", "to", "its", "next-hop", "node", "v", ".", "As", "in", "LEAP", ",", "a", "cluster", "key", "is", "a", "key", "shared", "by", "a", "node", "and", "all", "its", "neighbors", ",", "for", "passive", "participation", ".", "61", "u", "v", "?", "w", "y", "Figure", "1", ":", "Neighbor", "Watch", "System", ".", "Sub-watch", "nodes", "w", "and", "y", ",", "as", "well", "as", "primary-watch", "node", "u", "listen", "in", "on", "v", "'s", "traffic", ".", "3", ".", "Designation", "of", "Watch", "Nodes", ".", "Overhearing", "the", "packet", "from", "node", "u", "to", "node", "v", ",", "among", "neighbors", "of", "node", "u", ",", "the", "nodes", "that", "are", "also", "neighbors", "of", "node", "v", "-LRB-", "in", "Figure", "1", ",", "nodes", "w", "and", "y", "-RRB-", "are", "designated", "as", "sub-watch", "nodes", "and", "store", "the", "packet", "in", "the", "buffer", ".", "Other", "nodes", "-LRB-", "that", "are", "not", "neighbors", "of", "node", "v", "-RRB-", "discard", "the", "packet", ".", "Node", "u", "itself", "is", "a", "primary-watch", "node", ".", "A", "primary-watch", "node", "knows", "which", "nodes", "are", "sub-watch", "nodes", ",", "since", "every", "node", "has", "the", "knowledge", "of", "not", "only", "its", "neighbors", "but", "also", "their", "respective", "neighbor", "lists", ".", "4", ".", "Neighbor", "Watch", "by", "Sub-Watch", "Node", ".", "Sub-watch", "nodes", "w", "and", "y", "listen", "in", "on", "node", "v", "'s", "traffic", "to", "compare", "each", "overheard", "packet", "with", "the", "packet", "in", "the", "buffer", ".", "To", "defend", "against", "blind", "letter", "attack", ",", "each", "of", "them", "also", "checks", "whether", "the", "packet", "'s", "intended", "next-hop", "is", "a", "verified", "neighbor", "of", "node", "v", ",", "by", "looking", "up", "the", "neighbor", "table", ".", "If", "all", "correct", ",", "the", "packet", "in", "the", "buffer", "is", "removed", "and", "the", "role", "of", "the", "sub-watch", "node", "is", "over", ".", "If", "the", "packet", "has", "remained", "in", "the", "buffer", "for", "longer", "than", "a", "certain", "timeout", ",", "sub-watch", "nodes", "w", "and", "y", "forward", "the", "packet", "-LRB-", "encrypted", "with", "their", "respective", "cluster", "keys", "-RRB-", "to", "their", "respective", "next-hop", "nodes", "other", "than", "node", "v", ".", "Then", "the", "role", "of", "a", "sub-watch", "node", "is", "over", "-LRB-", "each", "of", "them", "is", "now", "designated", "as", "a", "primary-watch", "node", "for", "the", "packet", "it", "has", "forwarded", "-RRB-", ".", "5", ".", "Neighbor", "Watch", "by", "Primary-Watch", "Node", ".", "Primary-watch", "node", "u", "does", "the", "same", "job", "as", "sub-watch", "nodes", ".", "The", "only", "difference", ",", "however", ",", "is", "that", "it", "listens", "in", "on", "not", "only", "node", "v", "'s", "traffic", ",", "but", "also", "sub-watch", "nodes", "w", "'s", "and", "y", "'s", ".", "If", "the", "packet", "is", "correctly", "forwarded", "on", "by", "at", "least", "one", "of", "them", "-LRB-", "nodes", "v", ",", "w", ",", "or", "y", "-RRB-", ",", "primary-watch", "node", "u", "removes", "the", "packet", "in", "the", "buffer", "and", "the", "role", "of", "the", "primary-watch", "node", "is", "over", ".", "Otherwise", ",", "after", "a", "certain", "timeout", ",", "primary-watch", "node", "u", "forwards", "the", "packet", "-LRB-", "encrypted", "with", "its", "cluster", "key", "-RRB-", "to", "its", "next-hop", "other", "than", "node", "v", ".", "As", "the", "packet", "is", "forwarded", "on", ",", "this", "procedure", "-LRB-", "except", "for", "Neighbor", "List", "Verification", "-RRB-", "of", "NWS", "is", "performed", "at", "each", "hop", "so", "that", "hop-by-hop", "reliable", "delivery", "can", "be", "achieved", "with", "mainly", "depending", "on", "single-path", "forwarding", ".", "On", "the", "other", "hand", ",", "in", "the", "previous", "approaches", "-LSB-", "29", ",", "39", ",", "42", "-RSB-", ",", "when", "forwarding", "a", "packet", ",", "a", "node", "broadcasts", "the", "packet", "with", "no", "designated", "next-hop", ",", "and", "all", "neighbors", "with", "smaller", "costs", "1", "1", "The", "cost", "at", "a", "node", "is", "the", "minimum", "energy", "overhead", "to", "Base", "Station", "u", "v", "?", "?", "Figure", "2", ":", "An", "example", "of", "our", "packet-forwarding", "scheme", ".", "Only", "the", "nodes", "that", "relay", "the", "packet", "are", "presented", ".", "With", "the", "help", "of", "sub-watch", "nodes", "-LRB-", "grey", "ones", "-RRB-", ",", "our", "scheme", "bypasses", "two", "packet-dropping", "nodes", "en-route", "to", "the", "base", "station", ".", "or", "within", "a", "specific", "geographic", "region", "continue", "forwarding", "the", "packet", "anyway", ".", "For", "example", ",", "in", "Figure", "1", ",", "if", "nodes", "v", ",", "w", ",", "and", "y", "have", "smaller", "costs", "than", "node", "u", "in", "the", "previous", "approaches", ",", "they", "all", "forward", "2", "the", "packet", "from", "node", "u", ".", "In", "our", "scheme", ",", "however", ",", "sub-watch", "nodes", "w", "and", "y", "are", "just", "on", "watch", "in", "designated", "next-hop", "node", "v", ",", "instead", "of", "uncondi-tionally", "forwarding", "the", "packet", ".", "If", "no", "packet-dropping", "occurs", "en-route", "to", "the", "base", "station", ",", "the", "packet", "may", "be", "forwarded", "along", "single-path", "all", "the", "way", "through", ".", "However", ",", "a", "packet-dropping", "triggers", "the", "multipath", "forwarding", "for", "the", "dropped", "packet", ".", "If", "the", "designated", "next-hop", "node", "v", "in", "Figure", "1", "has", "not", "forwarded", "the", "relaying", "packet", "to", "its", "certified", "neighbor", "by", "a", "certain", "timeout", ",", "sub-watch", "nodes", "w", "and", "y", "forward", "the", "packet", "to", "their", "respective", "next-hop", ".", "At", "the", "point", ",", "the", "packet", "is", "sent", "over", "multiple", "paths", ".", "Since", "the", "location", "where", "the", "packet-dropping", "occurs", "is", "likely", "in", "an", "unreliable", "region", ",", "this", "prompt", "reaction", "of", "the", "conversion", "to", "multipath", "forwarding", "augments", "the", "robustness", "in", "our", "scheme", ".", "The", "degree", "of", "multipath", "depends", "on", "the", "number", "of", "the", "sub-watch", "nodes", ".", "Figure", "2", "shows", "an", "example", "of", "our", "packet-forwarding", "scheme", ",", "bypassing", "two", "packet-dropping", "nodes", "en-route", "to", "the", "base", "station", ".", "If", "a", "node", "utilizes", "a", "cache", "-LSB-", "16", ",", "21", "-RSB-", "for", "recently-received", "packets", ",", "it", "can", "suppress", "the", "same", "copy", "of", "previously-received", "one", "within", "a", "certain", "timeout", ",", "as", "nodes", "u", "and", "v", "in", "Figure", "2", ".", "Our", "scheme", "requires", "that", "a", "relaying", "packet", "should", "be", "encrypted", "with", "a", "cluster", "key", "of", "a", "forwarding", "node", ",", "in", "order", "that", "all", "its", "neighbors", "can", "decrypt", "and", "overhear", "it", ".", "In", "fact", ",", "per-link", "encryption", "provides", "better", "robustness", "to", "a", "node", "compromise", ",", "since", "a", "compromised", "node", "can", "decrypt", "only", "the", "packets", "addressed", "to", "it", ".", "Thus", ",", "there", "exists", "a", "tradeoff", "between", "resiliency", "against", "packet-dropping", "and", "robustness", "to", "a", "node", "compromise", ".", "However", ",", "encryption", "with", "a", "cluster", "key", "provides", "an", "intermediate", "level", "of", "robustness", "to", "a", "node", "compromise", "-LSB-", "24", "-RSB-", "-LRB-", "a", "compromised", "node", "can", "overhear", "only", "its", "immediate", "neighborhood", "-RRB-", ",", "and", "also", "supports", "local", "broadcast", "-LRB-", "i.e.", "resiliency", "against", "packet-dropping", "-RRB-", ",", "so", "that", "we", "can", "achieve", "graceful", "degradation", "in", "face", "of", "compromised", "nodes", ".", "forward", "a", "packet", "from", "this", "node", "to", "the", "base", "station", ".", "2", "It", "is", "the", "broadcast", "transmission", "with", "no", "designated", "next-hop", ",", "and", ",", "if", "needed", ",", "the", "packet", "should", "be", "encrypted", "with", "a", "cluster", "key", "in", "order", "for", "all", "neighbors", "to", "overhear", "it", ".", "62", "To", "make", "our", "scheme", "work", "-LRB-", "against", "blind", "letter", "attack", "-RRB-", ",", "we", "must", "address", "the", "problem", "of", "how", "a", "node", "proves", "that", "it", "really", "has", "the", "claimed", "neighbors", ".", "It", "is", "the", "identical", "problem", "of", "how", "a", "node", "verifies", "the", "existence", "of", "its", "neighbors", "'", "neighbors", ".", "Apparently", ",", "a", "node", "has", "the", "knowledge", "of", "its", "direct", "neighbors", "by", "neighbor", "discovery", "and", "pairwise", "key", "establishment", "phases", ".", "However", ",", "in", "the", "case", "of", "two-hop", "away", "neighbors", ",", "as", "in", "Figure", "1", ",", "malicious", "node", "v", "can", "inform", "its", "neighbor", "u", "that", "it", "also", "has", "neighbor", "node", "x", "-LRB-", "any", "possible", "id", "in", "the", "network", "-RRB-", "which", "in", "fact", "is", "not", "a", "neighbor", "of", "node", "v.", "Node", "u", "has", "to", "believe", "it", ",", "since", "node", "x", "is", "not", "a", "direct", "neighbor", "of", "node", "u", ",", "and", "only", "the", "node", "v", "itself", "knows", "its", "actual", "surrounding", "neighbors", ".", "Then", ",", "how", "do", "we", "verify", "the", "neighbors", "'", "neighbors", "?", "The", "answer", "to", "this", "critical", "question", "is", "described", "in", "the", "next", "subsection", ".", "3.2", "Neighbor", "List", "Verification", "To", "verify", "neighbors", "'", "neighbors", ",", "we", "present", "Neighbor", "List", "Verification", "-LRB-", "NLV", "-RRB-", "which", "extends", "the", "pairwise", "key", "establishment", "in", "LEAP", ".", "During", "neighbor", "discovery", "in", "LEAP", ",", "two", "messages", "are", "exchanged", "between", "neighbors", "to", "identify", "each", "other", ".", "On", "the", "other", "hand", ",", "NLV", "adopts", "three-way", "handshaking", "neighbor", "discovery", ",", "in", "order", "to", "identify", "not", "only", "communicating", "parties", "but", "also", "their", "respective", "neighbors", ".", "NLV", "has", "two", "cases", "of", "neighbor", "discovery", ".", "One", "is", "that", "neighbor", "discovery", "between", "two", "nodes", "that", "are", "both", "still", "within", "the", "initial", "T", "min3", "-LRB-", "referred", "as", "pure", "nodes", "-RRB-", ".", "The", "other", "is", "that", "neighbor", "discovery", "between", "a", "newly-deployed", "node", "within", "the", "initial", "T", "min", "and", "an", "existing", "node", "over", "the", "initial", "T", "min", "-LRB-", "referred", "as", "an", "adult", "node", "-RRB-", ".", "Neighbor", "Discovery", "between", "Pure", "Nodes", ".", "Neighbor", "list", "verification", "process", "between", "pure", "nodes", "is", "quite", "simple", ".", "If", "a", "pure", "node", "broadcasts", "its", "neighbor", "list", "before", "the", "elapse", "of", "its", "initial", "T", "min", ",", "we", "can", "accept", "the", "list", "as", "verifiable", ".", "Thus", ",", "the", "key", "point", "here", "is", "to", "keep", "track", "of", "each", "other", "'s", "T", "min", ",", "and", "to", "make", "sure", "that", "both", "broadcast", "their", "respective", "neighbor", "lists", "before", "their", "respective", "T", "min", ".", "The", "following", "shows", "the", "three-way", "handshaking", "neighbor", "discovery", "between", "pure", "node", "u", "and", "v", ":", "u", "-", ":", "u", ",", "R", "u", ".", "v", "-", "u", ":", "v", ",", "T", "v", ",", "R", "v", "M", "v", ",", "M", "AC", "-LRB-", "K", "v", ",", "R", "u", "|", "K", "u", "|", "M", "v", "-RRB-", ".", "u", "-", "v", ":", "u", ",", "T", "u", "M", "u", ",", "M", "AC", "-LRB-", "K", "uv", ",", "R", "v", "|", "M", "u", "-RRB-", ".", "where", "T", "v", "and", "T", "u", "are", "the", "amount", "of", "time", "remaining", "until", "T", "min", "of", "v", "and", "T", "min", "of", "u", ",", "respectively", ".", "Once", "deployed", ",", "node", "u", "sets", "up", "a", "timer", "to", "fire", "after", "time", "T", "min", ".", "Then", ",", "it", "broadcasts", "its", "id", ",", "and", "waits", "for", "each", "neighbor", "v", "'s", "ACK", ".", "The", "ACK", "from", "every", "neighbor", "v", "is", "authenticated", "using", "the", "master", "key", "K", "v", "of", "node", "v", ".", "Since", "node", "u", "knows", "K", "I", "4", ",", "it", "can", "derive", "K", "v", "=", "f", "K", "I", "-LRB-", "v", "-RRB-", ".", "The", "ACK", "from", "node", "v", "contains", "T", "v", ",", "the", "amount", "of", "time", "remaining", "until", "T", "min", "of", "node", "v", ".", "If", "T", "v", "is", "a", "non-zero", "value", ",", "node", "v", "claims", "to", "be", "a", "pure", "node", ".", "K", "u", "in", "MAC", "proves", "node", "v", "to", "be", "a", "pure", "node", ",", "since", "pure", "node", "v", "should", "know", "K", "I", "and", "derive", "K", "u", "=", "f", "K", "I", "-LRB-", "u", "-RRB-", ".", "Node", "u", "records", "T", "v", "-LRB-", "T", "v", "added", "3", "T", "min", "is", "the", "time", "interval", ",", "necessary", "for", "the", "attacker", "to", "compromise", "a", "legitimate", "node", "as", "in", "LEAP", "-LSB-", "46", "-RSB-", ".", "4", "Each", "node", "u", "is", "loaded", "with", "a", "common", "initial", "key", "K", "I", ",", "and", "derives", "its", "master", "key", "K", "u", "=", "f", "K", "I", "-LRB-", "u", "-RRB-", ".", "After", "time", "T", "min", ",", "node", "u", "erases", "K", "I", "and", "all", "the", "master", "keys", "of", "its", "neighbors", ".", "u", "v", "w", "x", "t", "z", "r", "q", "Figure", "3", ":", "Neighbor", "Discovery", "between", "Pure", "node", "x", "and", "Adult", "node", "u.", "Grey", "and", "white", "nodes", "represent", "adult", "and", "pure", "nodes", ",", "respectively", ".", "to", "the", "current", "time", "of", "node", "u", "-RRB-", "in", "the", "entry", "for", "node", "v", "in", "the", "neighbor", "table", ".", "Node", "u", "computes", "its", "pairwise", "key", "with", "v", ",", "K", "uv", "=", "f", "K", "v", "-LRB-", "u", "-RRB-", ".", "5", "Node", "u", "also", "generates", "M", "AC", "-LRB-", "K", "v", ",", "v", "|", "u", "-RRB-", "-LRB-", "which", "means", "that", "v", "certifies", "u", "as", "an", "immediate", "neighbor", "-RRB-", ",", "and", "stores", "it", "as", "a", "certificate", ".", "The", "ACK", "from", "node", "u", "also", "contains", "T", "u", ",", "the", "amount", "of", "time", "remaining", "until", "T", "min", "of", "u", ".", "This", "ACK", "is", "authenticated", "using", "their", "pairwise", "key", "K", "uv", ",", "which", "proves", "node", "u", "a", "pure", "node", "and", "u", "'s", "identity", ".", "Node", "v", "then", "records", "T", "u", "-LRB-", "T", "u", "added", "to", "the", "current", "time", "of", "v", "-RRB-", "in", "the", "entry", "for", "u", "in", "the", "neighbor", "table", ".", "It", "also", "generates", "M", "AC", "-LRB-", "K", "u", ",", "u", "|", "v", "-RRB-", "and", "stores", "it", "as", "a", "certificate", ".", "Then", ",", "the", "three-way", "handshaking", "is", "done", ".", "Every", "pure", "node", "u", "broadcasts", "its", "neighbor", "list", "just", "prior", "to", "T", "min", "of", "u.", "Each", "receiving", "neighbor", "v", "checks", "whether", "the", "receiving", "time", "at", "v", "is", "prior", "to", "T", "u", "in", "the", "neighbor", "table", ".", "If", "yes", ",", "the", "neighbor", "list", "of", "u", "is", "now", "certified", "by", "each", "neighbor", "v.", "Neighbor", "Discovery", "between", "A", "Pure", "Node", "and", "An", "Adult", "node", ".", "After", "most", "nodes", "have", "completed", "bootstrapping", "phase", ",", "new", "nodes", "can", "be", "added", "in", "the", "network", ".", "Consider", "Figure", "3", ".", "The", "issue", "here", "is", "how", "adult", "node", "u", "can", "assure", "its", "existing", "neighbors", "-LRB-", "v", "and", "w", "-RRB-", "of", "the", "existence", "of", "its", "newly-added", "neighbor", "x", ".", "This", "is", "a", "different", "situation", "from", "the", "above", "neighbor", "list", "verification", "case", "between", "two", "pure", "nodes", ".", "Thus", ",", "the", "messages", "exchanged", "during", "the", "three-way", "handshaking", "are", "somewhat", "different", "in", "this", "case", ".", "The", "following", "shows", "the", "three-way", "handshaking", "neighbor", "discovery", "between", "pure", "node", "x", "and", "adult", "node", "u", ":", "x", "-", ":", "x", ",", "R", "x", ".", "u", "-", "x", ":", "u", ",", "T", "u", ",", "R", "u", ",", "v", ",", "certif", "icate", "M", "AC", "-LRB-", "K", "v", ",", "v", "|", "u", "-RRB-", ",", "w", ",", "certif", "icate", "M", "AC", "-LRB-", "K", "w", ",", "w", "|", "u", "-RRB-", "M", "u", ",", "M", "AC", "-LRB-", "K", "u", ",", "R", "x", "|", "M", "u", "-RRB-", ".", "x", "-", "u", ":", "x", ",", "T", "x", ",", "certif", "icate", "M", "AC", "-LRB-", "K", "x", ",", "x", "|", "u", "-RRB-", ",", "v", ",", "one-time", "cert", ".", "M", "AC", "-LRB-", "K", "v", ",", "x", "|", "u", "-RRB-", ",", "w", ",", "one-time", "cert", ".", "M", "AC", "-LRB-", "K", "w", ",", "x", "|", "u", "-RRB-", "M", "x", ",", "M", "AC", "-LRB-", "K", "xu", ",", "R", "u", "|", "M", "x", "-RRB-", ".", "Newly-added", "node", "x", "sets", "up", "a", "timer", "to", "fire", "after", "time", "T", "min", ".", "Then", ",", "it", "broadcasts", "its", "id", ",", "and", "waits", "for", "each", "neighbor", "u", "'s", "5", "Node", "v", "also", "computes", "K", "uv", "in", "the", "same", "way", ".", "K", "uv", "serves", "as", "their", "pairwise", "key", ".", "63", "ACK", ".", "The", "ACK", "from", "every", "neighbor", "u", "is", "authenticated", "using", "the", "master", "key", "K", "u", "of", "node", "u", ".", "Since", "node", "x", "knows", "K", "I", ",", "it", "can", "derive", "K", "u", "=", "f", "K", "I", "-LRB-", "u", "-RRB-", ".", "The", "ACK", "from", "node", "u", "contains", "T", "u", ",", "the", "amount", "of", "time", "remaining", "until", "T", "min", "of", "u", ".", "If", "T", "u", "is", "zero", ",", "node", "u", "is", "an", "adult", "node", "that", "may", "already", "have", "multiple", "neighbors", "as", "in", "Figure", "3", ".", "Node", "u", "reports", "its", "certified", "neighbor", "list", "-LRB-", "v", "and", "w", "-RRB-", "to", "x", "by", "including", "their", "respective", "certificates", "in", "the", "ACK", ".", "Node", "x", "verifies", "u", "'s", "neighbor", "list", "by", "examining", "each", "certificate", ",", "since", "x", "can", "generate", "any", "certificate", "with", "K", "I", ".", "If", "all", "correct", ",", "x", "computes", "its", "pairwise", "key", "with", "u", ",", "K", "xu", "=", "f", "K", "u", "-LRB-", "x", "-RRB-", ".", "Node", "x", "also", "generates", "M", "AC", "-LRB-", "K", "u", ",", "u", "|", "x", "-RRB-", "and", "stores", "it", "as", "a", "certificate", ".", "The", "ACK", "from", "x", "also", "contains", "T", "x", ",", "the", "amount", "of", "time", "remaining", "until", "T", "min", "of", "x", ".", "This", "ACK", "is", "authenticated", "using", "their", "pairwise", "key", "K", "xu", ",", "which", "proves", "node", "x", "a", "pure", "node", "and", "x", "'s", "identity", ".", "Node", "u", "then", "records", "T", "x", "-LRB-", "T", "x", "added", "to", "the", "current", "time", "of", "u", "-RRB-", "in", "the", "entry", "for", "x", "in", "the", "neighbor", "table", ".", "Since", "adult", "node", "u", "can", "not", "generate", "M", "AC", "-LRB-", "K", "x", ",", "x", "|", "u", "-RRB-", "by", "itself", ",", "pure", "node", "x", "provides", "the", "certificate", "for", "u", "in", "the", "ACK", ".", "Node", "x", "also", "provides", "one-time", "certificates", "6", "for", "each", "of", "u", "'s", "certified", "neighbors", "-LRB-", "v", "and", "w", "-RRB-", ".", "Then", ",", "the", "three-way", "handshaking", "is", "done", ".", "After", "that", ",", "adult", "node", "u", "broadcasts", "one-time", "certificates", "-LRB-", "from", "newly-discovered", "pure", "node", "x", "-RRB-", ",", "in", "order", "to", "assure", "u", "'s", "existing", "neighbors", "-LRB-", "v", "and", "w", "-RRB-", "of", "the", "discovery", "of", "new", "neighbor", "x", ".", "The", "packet", "containing", "one-time", "certificates", "is", "as", "follows", ":", "u", "-", ":", "u", ",", "x", ",", "v", ",", "one-time", "cert", ".", "M", "AC", "-LRB-", "K", "v", ",", "x", "|", "u", "-RRB-", ",", "w", ",", "one-time", "cert", ".", "M", "AC", "-LRB-", "K", "w", ",", "x", "|", "u", "-RRB-", ",", "K", "A", "u", "M", "u", ",", "M", "AC", "-LRB-", "K", "c", "u", ",", "M", "u", "-RRB-", ".", "where", "x", "is", "a", "new", "neighbor", "of", "u", ",", "K", "A", "u", "is", "a", "local", "broadcast", "authentication", "key", "in", "u", "'s", "one-way", "key", "chain", ",", "K", "c", "u", "is", "the", "cluster", "key", "of", "u.", "Each", "receiving", "neighbor", "v", "of", "u", "verifies", "u", "'s", "new", "neighbor", "x", "by", "examining", "the", "one-time", "certificate", "designated", "for", "v", ",", "M", "AC", "-LRB-", "K", "v", ",", "x", "|", "u", "-RRB-", "6", ".", "If", "ok", ",", "node", "x", "is", "now", "certified", "by", "each", "neighbor", "v", "of", "u.", "Then", ",", "one-time", "certificates", "can", "be", "erased", ",", "since", "they", "are", "of", "no", "use", "any", "more", ".", "Broadcast", "authentication", "only", "with", "symmetric", "keys", "such", "as", "cluster", "key", "K", "c", "u", "fails", "to", "prevent", "an", "impersonation", "attack", ",", "since", "every", "neighbor", "of", "u", "shares", "the", "cluster", "key", "of", "u.", "Thus", ",", "we", "employ", "the", "reverse", "disclosure", "of", "one-way", "key", "chain", "K", "A", "u", "as", "in", "LEAP", ".", "Just", "prior", "to", "T", "min", "of", "x", ",", "pure", "node", "x", "broadcasts", "its", "neighbor", "list", ".", "Each", "receiving", "neighbor", "u", "of", "x", "checks", "whether", "the", "receiving", "time", "at", "u", "is", "prior", "to", "T", "x", "in", "the", "neighbor", "table", ".", "If", "yes", ",", "the", "neighbor", "list", "of", "x", "is", "now", "certified", "by", "each", "neighbor", "u", ".", "In", "summary", ",", "through", "the", "proposed", "three-way", "handshaking", "neighbor", "discovery", "process", ",", "pure", "node", "u", "identifies", "each", "immediate", "neighbor", "v", "and", "v", "'s", "certified", "neighbor", "list", "-LRB-", "if", "v", "is", "an", "adult", "node", "-RRB-", ",", "and", "keeps", "track", "of", "T", "min", "of", "v.", "Just", "prior", "to", "T", "min", "of", "u", ",", "node", "u", "broadcasts", "its", "direct", "neighbor", "list", "so", "that", "every", "neighbor", "of", "u", "accepts", "the", "list", "as", "verifiable", ".", "Then", ",", "node", "u", "becomes", "an", "adult", "node", ".", "After", "that", ",", "if", "newly-added", "node", "x", "initiates", "neighbor", "discovery", "with", "adult", "node", "u", ",", "node", "u", "identifies", "pure", "node", "x", ",", "keeps", "track", "of", "T", "min", "of", "x", ",", "provides", "u", "'s", "certified", "neighbor", "list", "to", "x", ",", "and", ",", "in", "return", ",", "takes", "one-time", "certificates", "from", "x.", "Node", "u", "then", "broadcasts", "these", "one-time", "6", "One-time", "certificate", ",", "for", "instance", "M", "AC", "-LRB-", "K", "v", ",", "x", "|", "u", "-RRB-", ",", "assures", "v", "that", "x", "is", "an", "immediate", "neighbor", "of", "u", ".", "It", "is", "generated", "by", "pure", "node", "x", "with", "master", "key", "of", "v.", "Table", "1", ":", "An", "example", "of", "the", "Neighbor", "Table", "of", "u.", "Neighbor", "ID", "Certificate", "Verified", "Neighbor", "List", "v", "M", "AC", "-LRB-", "K", "v", ",", "v", "|", "u", "-RRB-", "u", ",", "w", ",", "t", "w", "M", "AC", "-LRB-", "K", "w", ",", "w", "|", "u", "-RRB-", "u", ",", "v", ",", "z", "x", "M", "AC", "-LRB-", "K", "x", ",", "x", "|", "u", "-RRB-", "u", ",", "r", ",", "q", "certificates", ",", "in", "order", "to", "assure", "u", "'s", "existing", "neighbors", "of", "the", "discovery", "of", "new", "neighbor", "x.", "Thus", ",", "every", "time", "adult", "node", "u", "discovers", "newly-added", "node", "x", "through", "three-way", "handshaking", ",", "node", "u", "informs", "-LRB-", "by", "broadcasting", "-RRB-", "its", "existing", "neighbors", "of", "the", "discovery", "of", "new", "neighbor", "x.", "Also", ",", "whenever", "receiving", "neighbor", "list", "information", "from", "pure", "neighbor", "x", ",", "node", "u", "checks", "whether", "the", "receiving", "time", "at", "u", "is", "prior", "to", "T", "x", "in", "the", "neighbor", "table", ".", "If", "yes", ",", "u", "now", "accepts", "the", "neighbor", "list", "of", "x", "as", "verifiable", ".", "Through", "the", "above", "neighbor", "list", "verification", "in", "the", "bootstrapping", "phase", ",", "every", "node", "gets", "the", "knowledge", "of", "its", "neighbors", "'", "certified", "neighbors", ".", "Our", "Neighbor", "Watch", "System", "makes", "use", "of", "this", "information", "to", "prevent", "blind", "letter", "attack", ".", "With", "this", "knowledge", ",", "watch", "nodes", "are", "able", "to", "check", "whether", "the", "relaying", "packet", "'s", "intended", "next-hop", "is", "a", "verified", "neighbor", "of", "the", "forwarding", "node", ".", "3.3", "Neighbor", "Table", "Maintenance", "The", "information", "obtained", "through", "neighbor", "list", "verification", "-LRB-", "e.g.", "its", "direct", "neighbors", ",", "corresponding", "certificates", ",", "neighbors", "'", "neighbor", "lists", ",", "etc", "-RRB-", "is", "stored", "in", "the", "neighbor", "table", "of", "each", "node", ".", "Table", "1", "shows", "an", "example", "of", "the", "neighbor", "table", "of", "node", "u", ".", "In", "densely-deployed", "sensor", "networks", ",", "the", "expected", "degree", "of", "a", "node", "is", "high", ".", "However", ",", "in", "this", "example", ",", "for", "simplicity", ",", "node", "u", "has", "only", "three", "neighbors", "v", ",", "w", ",", "and", "x", "as", "in", "Figure", "3", ".", "The", "entries", "in", "the", "neighbor", "table", "are", "accessed", "and", "maintained", "with", "immediate", "neighbor", "IDs", ".", "For", "example", ",", "if", "node", "u", "overhears", "the", "packet", "sent", "from", "w", "to", "v", ",", "node", "u", "begins", "to", "listen", "in", "on", "v", "'s", "traffic", "as", "a", "sub-watch", "node", "-LRB-", "since", "the", "neighbor", "table", "of", "u", "has", "both", "v", "'s", "and", "w", "'s", "entries", "in", "it", "-RRB-", ".", "Unless", "v", "forwards", "the", "packet", "to", "a", "node", "of", "the", "Verified", "Neighbor", "List", "in", "v", "'s", "entry", "by", "a", "certain", "timeout", ",", "sub-watch", "node", "u", "will", "forward", "the", "packet", "to", "its", "next-hop", "other", "than", "v", ";", "many", "existing", "routing", "protocols", "-LSB-", "5", ",", "18", ",", "21", ",", "27", ",", "37", ",", "43", "-RSB-", "enable", "each", "node", "to", "maintain", "multiple", "potential", "next-hop", ".", "Once", "forwarding", "the", "packet", ",", "sub-watch", "node", "u", "becomes", "a", "primary-watch", "node", "and", "begins", "to", "listen", "in", "on", "its", "next-hop", "'s", "traffic", "as", "described", "above", ".", "If", "newly-added", "node", "y", "initiates", "the", "three-way", "handshaking", "with", "u", ",", "node", "u", "provides", "its", "neighbor", "list", "to", "y", "by", "sending", "certificates", "in", "the", "neighbor", "table", ".", "Node", "u", ",", "in", "return", "from", "node", "y", ",", "takes", "the", "certificate", "for", "y", "and", "one-time", "certificates", "for", "u", "'s", "existing", "neighbors", ".", "Then", ",", "node", "u", "stores", "the", "certificate", "in", "the", "new", "entry", "for", "y.", "However", ",", "node", "u", "does", "not", "store", "the", "one-time", "certificates", "but", "broadcasts", "them", "to", "its", "neighbors", ".", "If", "new", "neighbor", "y", "broadcasts", "its", "neighbor", "list", "within", "T", "min", ",", "node", "u", "stores", "the", "list", "in", "the", "entry", "for", "y", ".", "If", "node", "u", "is", "compromised", ",", "not", "only", "cryptographic", "key", "information", "but", "also", "certificates", "in", "the", "neighbor", "table", "are", "exposed", ".", "However", ",", "the", "attacker", "can", "not", "misuse", "these", "certificates", "for", "other", "purposes", ".", "Since", "a", "certificate", "only", "attests", "neighborship", "between", "two", "specific", "nodes", ",", "it", "can", "not", "be", "applied", "to", "any", "other", "nodes", ".", "In", "fact", ",", "it", "can", "be", "made", "even", "public", ".", "However", ",", "colluding", "nodes", "can", "deceive", "a", "pure", "node", "anyway", ",", "64", "by", "fabricating", "a", "bogus", "certificate", ".", "We", "will", "describe", "this", "limitation", "in", "Section", "4.4", ".", "In", "this", "section", ",", "we", "evaluate", "the", "communication", "and", "storage", "cost", ",", "and", "analyze", "the", "security", "of", "our", "resilient", "forwarding", "scheme", "-LRB-", "Neighbor", "Watch", "System", "-RRB-", "as", "well", "as", "Neighbor", "List", "Verification", ".", "We", "then", "present", "the", "simulation", "results", "of", "our", "forwarding", "scheme", ".", "4.1", "Communication", "Cost", "Unlike", "the", "previously", "proposed", "diffusion-based", "reliable-forwarding", "schemes", "-LSB-", "21", ",", "29", ",", "39", ",", "42", "-RSB-", "that", "exploit", "a", "large", "number", "of", "nodes", "to", "deliver", "a", "single", "packet", ",", "our", "scheme", "requires", "only", "the", "designated", "next-hop", "node", "to", "relay", "the", "packet", ",", "under", "the", "supervision", "of", "watch", "nodes", ".", "We", "note", "that", ",", "like", "overhearing", "by", "watch", "nodes", "in", "our", "scheme", ",", "those", "diffusion-based", "schemes", "require", "each", "node", "to", "listen", "to", "all", "its", "neighbors", ",", "since", "they", "forward", "a", "packet", "by", "broadcasting", "with", "no", "designated", "next-hop", ".", "With", "a", "smaller", "number", "of", "relaying", "nodes", ",", "our", "scheme", "makes", "a", "report", "successfully", "reach", "the", "base", "station", ".", "Thus", ",", "the", "average", "communication", "cost", "of", "our", "forwarding", "scheme", "for", "delivery", "of", "a", "single", "packet", "is", "smaller", "than", "those", "of", "the", "previous", "schemes", ".", "Our", "neighbor", "list", "verification", "during", "the", "bootstrapping", "phase", "requires", "the", "three-way", "handshaking", "neighbor", "discovery", ".", "Unlike", "the", "neighbor", "discovery", "between", "two", "pure", "nodes", ",", "the", "size", "of", "the", "messages", "exchanged", "between", "a", "pure", "and", "an", "adult", "node", "varies", "with", "the", "degree", "of", "the", "adult", "node", ".", "A", "large", "number", "of", "certificates", "caused", "by", "the", "high", "degree", "can", "be", "overburdensome", "to", "a", "single", "TinyOS", "packet", "which", "provides", "29", "bytes", "for", "data", ".", "Considering", "8-byte", "certificates", "and", "a", "4-byte", "7", "message", "authentication", "code", "-LRB-", "MAC", "-RRB-", ",", "the", "adult", "node", "is", "able", "to", "include", "at", "most", "two", "neighbors", "'", "information", "in", "a", "single", "TinyOS", "packet", ".", "Thus", ",", "when", "the", "entire", "neighbor", "list", "can", "not", "be", "accommodated", "within", "a", "single", "packet", ",", "the", "node", "should", "allot", "the", "list", "to", "several", "packets", "and", "send", "them", "serially", ".", "In", "a", "network", "of", "size", "N", "with", "the", "expected", "degree", "d", "of", "each", "node", ",", "the", "average", "number", "of", "packets", "invoked", "by", "a", "newly-added", "node", "per", "each", "node", "is", "nearly", "-LRB-", "d", "-", "1", "-RRB-", "2", "/", "2", "-LRB-", "N", "-", "1", "-RRB-", ".", "Therefore", ",", "as", "node", "density", "d", "grows", ",", "the", "total", "number", "of", "packets", "transmitted", "from", "adult", "nodes", "to", "a", "newly-added", "node", "increases", ".", "However", ",", "neighbor", "discovery", "between", "a", "pure", "and", "an", "adult", "node", "occurs", "much", "less", "than", "between", "two", "pure", "nodes", ",", "since", "most", "neighbor", "discoveries", "throughout", "the", "network", "are", "between", "two", "pure", "nodes", "in", "the", "early", "stage", "of", "the", "network", ".", "Neighbor", "discovery", "between", "a", "pure", "and", "an", "adult", "node", "occurs", "generally", "when", "a", "new", "node", "is", "added", "to", "the", "network", ".", "4.2", "Storage", "Overhead", "In", "LEAP", ",", "each", "node", "keeps", "four", "types", "of", "keys", "and", "a", "manageable", "length", "of", "hash", "chain", ",", "which", "is", "found", "to", "be", "scalable", ".", "In", "our", "scheme", ",", "each", "node", "needs", "to", "additionally", "store", "its", "direct", "neighbors", "'", "certificates", "and", "their", "respective", "neighbor", "lists", "as", "in", "Table", "1", ".", "Thus", ",", "for", "a", "network", "of", "the", "expected", "degree", "d", "and", "the", "byte", "size", "l", "of", "node", "ID", ",", "the", "additional", "storage", "requirement", "for", "each", "node", "is", "d", "-LRB-", "8", "+", "ld", "-RRB-", "bytes", ".", "Although", "our", "storage", "requirement", "for", "these", "neighbor", "lists", "is", "O", "-LRB-", "d", "2", "-RRB-", ",", "for", "a", "reasonable", "degree", "d", ",", "memory", "overhead", "does", "7", "4-byte", "MAC", "is", "found", "to", "be", "not", "detrimental", "in", "sensor", "networks", "as", "in", "TinySec", "-LSB-", "24", "-RSB-", "which", "employs", "4-byte", "MAC", ".", "u", "v", "?", "u", "v", "?", "C", "1", "C", "2", "Figure", "4", ":", "Examples", "of", "critical", "area", "C", "1", "and", "C", "2", ".", "not", "exceed", "1", "KB", "-LRB-", "a", "Berkeley", "MICA2", "Mote", "with", "128", "KB", "flash", "memory", "and", "4", "KB", "SRAM", "-RRB-", ".", "For", "example", ",", "when", "d", "=", "20", "and", "l", "=", "2", ",", "a", "node", "needs", "960", "bytes", "of", "memory", "to", "store", "such", "information", ".", "If", "node", "density", "of", "a", "network", "is", "so", "high", "that", "the", "required", "space", "for", "those", "neighbor", "lists", "significantly", "increases", "and", "the", "storage", "utilization", "becomes", "an", "issue", ",", "we", "can", "employ", "a", "storage-reduction", "technique", "such", "as", "Bloom", "filter", "-LSB-", "2", "-RSB-", ".", "For", "example", ",", "when", "d", "=", "30", "and", "l", "=", "2", ",", "a", "node", "requires", "2,040", "bytes", "of", "additional", "space", "mainly", "for", "the", "neighbor", "lists", ".", "Instead", "of", "storing", "neighbors", "'", "neighbor", "lists", ",", "applying", "each", "of", "the", "neighbor", "lists", "-LRB-", "480", "bits", "-RRB-", "to", "a", "Bloom", "filter", "-LRB-", "of", "5", "hash", "functions", "mapping", "to", "a", "256", "bit", "vector", "-RRB-", ",", "a", "node", "needs", "the", "reduced", "space", "of", "1,200", "bytes", "for", "such", "information", "-LRB-", "with", "the", "false", "positive", "probability", "=", "0.02", "-RRB-", ".", "4.3", "Resilience", "to", "Packet-Dropping", "Attacks", "In", "face", "of", "maliciously", "packet-dropping", "nodes", ",", "the", "higher", "degree", "of", "multipath", "we", "provide", ",", "the", "more", "resiliency", "our", "scheme", "achieves", "against", "such", "attacks", ".", "The", "average", "degree", "of", "multipath", "depends", "on", "the", "number", "of", "sub-watch", "nodes", "around", "a", "packet-dropping", "node", ".", "Sub-watch", "nodes", "should", "be", "located", "in", "the", "region", "within", "the", "communication", "range", "of", "both", "forwarding", "node", "u", "and", "designated", "next-hop", "v", ".", "We", "refer", "to", "such", "a", "region", "as", "critical", "area", ".", "As", "in", "Figure", "4", ",", "if", "nodes", "u", "and", "v", "are", "located", "farther", "away", ",", "the", "size", "of", "critical", "area", "C", "2", "gets", "smaller", "than", "that", "of", "C", "1", ",", "and", "the", "probability", "-LRB-", "p", "c", "-RRB-", "that", "at", "least", "one", "sub-watch", "node", "exists", "in", "the", "critical", "area", "goes", "down", ".", "The", "probability", "-LRB-", "p", "c", "-RRB-", "is", "p", "c", "=", "1", "-", "-LRB-", "1", "-", "c", "-RRB-", "d-1", ",", "where", "c", "is", "the", "ratio", "of", "the", "critical", "area", "size", "to", "the", "node", "'s", "communication", "range", ",", "and", "the", "expected", "degree", "d", "of", "the", "node", ".", "To", "determine", "the", "appropriate", "degree", "d", ",", "we", "set", "the", "smallest", "critical", "area", "C", "2", "in", "Figure", "4", "as", "a", "lower", "bound", "case", "-LRB-", "c", "=", "0.4", "-RRB-", ".", "Figure", "5", "shows", "that", ",", "even", "in", "the", "lower", "bound", "critical", "area", ",", "with", "d", "=", "6", "and", "d", "=", "10", ",", "probability", "p", "c", "is", "above", "0.9", "and", "above", "0.99", ",", "respectively", ".", "Since", ",", "in", "a", "network", "of", "degree", "d", ",", "the", "probability", "that", "there", "exist", "m", "sub-watch", "nodes", "in", "the", "critical", "area", "of", "the", "ratio", "c", "is", "p", "-LRB-", "m", "-RRB-", "=", "d", "-", "1", "m", "c", "m", "-LRB-", "1", "-", "c", "-RRB-", "d-m-1", ",", "the", "expected", "number", "of", "sub-watch", "nodes", ",", "m", ",", "in", "the", "critical", "area", "is", "given", "by", "E", "-LSB-", "m", "-RSB-", "=", "-LRB-", "d", "-", "1", "-RRB-", "c.", "Thus", ",", "in", "the", "lower", "bound", "-LRB-", "c", "=", "0.4", "-RRB-", "critical", "area", ",", "when", "d", "=", "10", ",", "15", ",", "20", ",", "the", "number", "of", "sub-watch", "nodes", "-LRB-", "i.e.", "the", "degree", "of", "multipath", "-RRB-", "is", "3.6", ",", "5.6", ",", "7.6", "on", "average", ",", "respectively", ".", "This", "65", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "1", "5", "10", "15", "20", "Degree", "of", "a", "node", "P", "r", "ob", "ab", "i", "l", "i", "t", "y", "p", "c", "Figure", "5", ":", "Probability", "-LRB-", "p", "c", "-RRB-", "that", "at", "least", "one", "sub-watch", "node", "exists", "in", "the", "lower", "bound", "-LRB-", "c", "=", "0.4", "-RRB-", "critical", "area", ".", "shows", "that", "the", "higher", "degree", "of", "each", "node", "has", ",", "our", "scheme", "has", "the", "higher", "degree", "of", "multipath", "and", "resiliency", "against", "packet-dropping", "nodes", ".", "4.4", "The", "Security", "of", "Neighbor", "List", "Verification", "Our", "Neighbor", "List", "Verification", "-LRB-", "NLV", "-RRB-", "keeps", "the", "nice", "properties", "of", "LEAP", ".", "Adult", "nodes", "fail", "to", "establish", "pairwise", "keys", "with", "any", "adult", "nodes", "in", "arbitrary", "locations", ",", "so", "that", "the", "impact", "of", "a", "node", "compromise", "is", "localized", ".", "NLV", "performs", "the", "three-way", "handshaking", "neighbor", "discovery", ",", "instead", "of", "two-message", "exchange", "in", "LEAP", ".", "The", "three-way", "handshaking", "enables", "each", "node", "to", "verify", "not", "only", "its", "direct", "neighbors", "but", "also", "their", "respective", "neighbor", "lists", ".", "Moreover", ",", "this", "this", "three-way", "handshaking", "can", "be", "a", "potential", "solution", "to", "deal", "with", "irregularity", "of", "radio", "range", "-LSB-", "15", ",", "37", ",", "45", "-RSB-", ".", "In", "reality", ",", "due", "to", "the", "noise", "and", "some", "environmen-tal", "factors", ",", "radio", "range", "of", "each", "node", "is", "not", "exactly", "circular", ".", "So", ",", "communication", "links", "among", "nodes", "are", "asymmetric", ";", "node", "u", "can", "hear", "node", "v", "which", "is", "unable", "to", "hear", "u.", "With", "two-message", "exchange", ",", "only", "the", "node", "initiating", "the", "neighbor", "discovery", "is", "assured", "of", "the", "link", "'s", "bidirectionality", ".", "By", "the", "three-way", "handshaking", ",", "both", "of", "neighbors", "can", "be", "assured", "of", "their", "symmetric", "connectivity", ".", "With", "NLV", ",", "only", "the", "verified", "lists", "are", "stored", "and", "utilized", "for", "our", "packet-forwarding", "scheme", ".", "NLV", "verifies", "the", "neighbor", "list", "of", "an", "adult", "node", "with", "certificates", ".", "These", "certificates", "merely", "attest", "neighborship", "between", "two", "specific", "nodes", ".", "Even", "if", "a", "node", "is", "compromised", ",", "the", "attacker", "fails", "to", "abuse", "the", "certificates", "of", "the", "captured", "node", "for", "other", "purpose", ".", "However", ",", "collusion", "among", "compromised", "nodes", "can", "fabricate", "bogus", "certificates", "in", "order", "to", "deceive", "a", "newly-added", "node", ".", "For", "example", ",", "consider", "two", "colluding", "nodes", "u", "and", "v", "at", "the", "different", "locations", ".", "When", "compromised", "node", "u", "discovers", "newly-added", "node", "x", ",", "node", "u", "provides", "x", "with", "u", "'s", "neighbor", "list", "-LRB-", "maliciously", "including", "v", "in", "it", "-RRB-", ".", "Even", "though", "node", "v", "is", "not", "an", "actual", "neighbor", "of", "u", ",", "colluding", "node", "v", "can", "generate", "the", "bogus", "certificate", "for", "u", ",", "M", "AC", "-LRB-", "K", "v", ",", "v", "|", "u", "-RRB-", ".", "Then", ",", "x", "falsely", "believes", "that", "v", "is", "a", "direct", "neighbor", "of", "u", ".", "This", "attack", ",", "however", ",", "affects", "only", "the", "one", "newly-added", "node", "x.", "Thus", ",", "when", "compromised", "node", "u", "tries", "to", "launch", "the", "blind", "letter", "attack", "8", ",", "8", "Compromised", "node", "u", "transmits", "the", "relaying", "packet", "with", "its", "other", "surrounding", "adult", "neighbors", "of", "u", "can", "still", "detect", "it", "anyway", ".", "The", "more", "serious", "case", "is", "that", "colluding", "nodes", "exploit", "a", "newly-added", "node", "to", "generate", "bogus", "one-time", "certificates", ".", "For", "example", ",", "consider", "two", "colluding", "nodes", "u", "and", "v", "that", "share", "all", "their", "secret", "information", "as", "well", "as", "all", "their", "certificates", ".", "When", "newly-added", "node", "x", "initiates", "the", "three-way", "handshaking", "with", "u", ",", "compromised", "node", "u", "pretends", "to", "be", "v", "and", "provides", "x", "with", "v", "'", "neighbor", "list", ".", "Then", ",", "x", "in", "return", "provides", "u", "with", "one-time", "certificates", "for", "each", "neighbor", "of", "v", ";", "these", "one-time", "certificates", "falsely", "attest", "that", "v", "has", "new", "neighbor", "x.", "Node", "u", "sends", "this", "information", "to", "v", "over", "the", "covert", "channel", ".", "Then", ",", "v", "broadcasts", "these", "one-time", "certificates", ",", "and", "neighbors", "of", "v", "falsely", "believe", "that", "x", "is", "a", "direct", "neighbor", "of", "v.", "Unfortunately", ",", "we", "do", "not", "provide", "a", "proper", "countermeasure", "to", "defend", "against", "this", "type", "of", "man-in-the-middle", "attacks", ".", "However", ",", "we", "point", "out", "that", "this", "type", "of", "attacks", "has", "to", "be", "launched", "in", "the", "passive", "manner", ".", "The", "adversary", "has", "to", "get", "the", "chance", "of", "discovery", "of", "a", "newly-added", "node", ".", "In", "other", "words", ",", "compromised", "nodes", "wait", "for", "the", "initiation", "of", "the", "three-way", "handshaking", "from", "a", "newly-added", "node", ".", "Since", "the", "attacker", "does", "not", "know", "where", "the", "new", "nodes", "will", "be", "added", ",", "it", "has", "to", "compromise", "a", "sufficient", "number", "of", "legitimate", "nodes", "in", "order", "to", "increase", "the", "probability", "of", "discovery", "of", "newly-added", "nodes", ".", "As", "an", "active", "defense", "against", "such", "man-in-the-middle", "attacks", ",", "we", "can", "apply", "a", "node", "replication", "detection", "mechanism", "such", "as", "Randomized", "or", "Line-Selected", "Multicast", "-LSB-", "31", "-RSB-", ",", "which", "revokes", "the", "same", "ID", "node", "at", "the", "different", "location", "claims", ".", "To", "successfully", "launch", "such", "man-in-the-middle", "attacks", ",", "two", "colluding", "nodes", "should", "pretend", "to", "be", "each", "other", "so", "that", "each", "of", "them", "claims", "to", "be", "at", "two", "different", "locations", "with", "the", "same", "ID", ".", "Location-binding", "key-assignment", "scheme", "by", "Yang", "et", "al.", "-LSB-", "39", "-RSB-", "with", "a", "little", "modification", "also", "can", "be", "a", "good", "solution", "to", "such", "attacks", ".", "Since", "it", "binds", "secret", "keys", "with", "nodes", "'", "geographic", "locations", ",", "the", "key", "bound", "to", "the", "particular", "location", "can", "not", "be", "used", "at", "any", "arbitrary", "locations", ".", "Adopting", "this", ",", "NLV", "can", "check", "whether", "the", "claimed", "neighbors", "are", "really", "located", "within", "geographically", "two", "hops", "away", ".", "4.5", "Simulations", "To", "further", "evaluate", "the", "performance", "of", "our", "resilient", "forwarding", "scheme", ",", "we", "run", "simulations", "of", "our", "scheme", "in", "the", "presence", "of", "packet-dropping", "nodes", "on", "a", "network", "simulator", ",", "ns-2", "-LSB-", "9", "-RSB-", ".", "4.5.1", "Simulation", "Model", "In", "our", "simulations", ",", "we", "deploy", "N", "sensor", "nodes", "uniformly", "at", "random", "within", "500", "500m", "2", "target", "field", ",", "with", "N", "=", "300", "and", "600", ".", "Each", "sensor", "node", "has", "a", "constant", "transmission", "range", "of", "30m", ",", "so", "that", "the", "degree", "of", "each", "node", "is", "approximately", "10", "-LRB-", "N", "=", "300", "-RRB-", "and", "20", "-LRB-", "N", "=", "600", "-RRB-", "on", "average", ".", "We", "position", "a", "base", "station", "and", "a", "source", "node", "in", "opposite", "corners", "of", "the", "field", ",", "at", "a", "fixed", "point", "-LRB-", "50", ",", "50", "-RRB-", "and", "-LRB-", "450", ",", "450", "-RRB-", ",", "respectively", ".", "They", "are", "located", "approximately", "18", "hops", "away", "from", "each", "other", ".", "We", "distribute", "compromised", "nodes", "over", "an", "inner", "square", "area", "with", "200m", "each", "side", "-LRB-", "from", "150m", "to", "350m", "of", "each", "side", "of", "the", "500", "500m", "2", "target", "area", "-RRB-", ".", "Thus", ",", "compromised", "nodes", "are", "strategically-placed", "in", "between", "the", "base", "station", "and", "the", "source", "node", ".", "In", "the", "simulations", ",", "those", "compromised", "nodes", "drop", "all", "the", "relaying", "packets", ".", "next-hop", "id", "as", "v", ",", "so", "that", "x", "considers", "it", "forwarded", "correctly", ".", "66", "-LRB-", "300", "nodes", "-RRB-", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "Number", "of", "Packet-dropping", "Nodes", "S", "u", "cc", "ess", "R", "a", "t", "i", "o", "Single", "Path", "Forwarding", "with", "NWS", "-LRB-", "a", "-RRB-", "Success", "ratio", "-LRB-", "N", "=", "300", ",", "x", "=", "0", "50", "-RRB-", "-LRB-", "600", "nodes", "-RRB-", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "Number", "of", "Packet-dropping", "Nodes", "S", "u", "cc", "ess", "R", "a", "t", "i", "o", "Single", "Path", "Forwarding", "with", "NWS", "-LRB-", "b", "-RRB-", "Success", "ratio", "-LRB-", "N", "=", "600", ",", "x", "=", "0", "100", "-RRB-", "-LRB-", "300", "nodes", "-RRB-", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "Number", "of", "Packet-Dropping", "Nodes", "N", "u", "m", "b", "e", "r", "of", "R", "e", "l", "a", "yi", "n", "g", "N", "o", "d", "e", "s", ".", "Single", "Path", "Forwarding", "with", "NWS", "-LRB-", "c", "-RRB-", "The", "number", "of", "relaying", "nodes", "with", "N", "=", "300", "-LRB-", "600", "nodes", "-RRB-", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "Number", "of", "Packet-dropping", "Nodes", "N", "u", "m", "b", "e", "r", "of", "R", "e", "l", "a", "yi", "n", "g", "N", "o", "d", "e", "s", ".", "Single", "Path", "Forwarding", "with", "NWS", "-LRB-", "d", "-RRB-", "The", "number", "of", "relaying", "nodes", "with", "N", "=", "600", "Figure", "6", ":", "Simulation", "Results", "-LRB-", "averaged", "over", "100", "runs", "-RRB-", ".", "We", "use", "the", "typical", "TinyOS", "beaconing", "-LSB-", "17", "-RSB-", "with", "a", "little", "modification", "as", "a", "base", "routing", "protocol", "in", "our", "simulations", ".", "We", "add", "a", "hop", "count", "value", "in", "a", "beacon", "message", "9", ".", "To", "have", "multiple", "potential", "next-hops", ",", "when", "receiving", "a", "beacon", "with", "the", "same", "or", "better", "hop", "count", "than", "the", "parent", "node", "'s", ",", "each", "node", "marks", "the", "node", "sending", "the", "beacon", "as", "a", "potential", "next-hop", ".", "Each", "simulation", "experiment", "is", "conducted", "using", "100", "different", "network", "topologies", ",", "and", "each", "result", "is", "averaged", "over", "100", "runs", "of", "different", "network", "topologies", ".", "4.5.2", "Simulation", "Results", "In", "the", "presence", "of", "compromised", "node", "dropping", "all", "the", "relaying", "packets", ",", "we", "measure", "the", "success", "ratio", "-LRB-", "i.e.", "the", "percentage", "of", "the", "packets", "that", "successfully", "reach", "the", "base", "station", "from", "the", "source", "-RRB-", "and", "the", "number", "of", "relaying", "nodes", "by", "the", "primitive", "single-path", "forwarding", "and", "with", "NWS", "in", "a", "network", "of", "size", "N", ",", "with", "N", "=", "300", "and", "600", ".", "9", "The", "base", "station", "initiates", "the", "beacon-broadcasting", ",", "which", "floods", "through", "the", "network", ",", "in", "order", "to", "set", "up", "a", "routing", "tree", ".", "Figure", "6", "-LRB-", "a", "-RRB-", "shows", "the", "success", "ratio", "in", "face", "of", "x", "packet-dropping", "nodes", "-LRB-", "varying", "x", "=", "0", "to", "50", "-RRB-", "in", "a", "300-sensor-node", "network", "with", "the", "approximate", "degree", "d", "=", "10", ".", "Although", "the", "success", "ratio", "gently", "decreases", "with", "x", ",", "it", "keeps", "up", "above", "0.8", "even", "with", "x", "=", "30", ",", "with", "the", "help", "of", "NWS", ".", "This", "tendency", "of", "decreasing", "success", "ratio", "can", "be", "attributed", "to", "the", "degree", "d", "=", "10", "-LRB-", "3.6", "sub-watch", "nodes", "on", "average", "-RRB-", "as", "well", "as", "an", "increasing", "number", "of", "packet-dropping", "nodes", ".", "Due", "to", "the", "strategically-placement", "of", "compromised", "nodes", "in", "our", "simulations", ",", "as", "x", "increases", "on", ",", "it", "is", "likely", "that", "a", "forwarding", "node", "'s", "all", "potential", "sub-watch", "nodes", "themselves", "are", "packet-dropping", "nodes", ".", "Figure", "6", "-LRB-", "c", "-RRB-", "shows", "the", "number", "of", "nodes", "that", "relay", "the", "packet", "from", "the", "source", "to", "the", "base", "station", "in", "the", "same", "experiments", ".", "Since", "the", "source", "is", "located", "about", "18", "hops", "away", "from", "the", "base", "station", ",", "the", "number", "of", "relaying", "nodes", "only", "with", "the", "single-path", "forwarding", "remains", "at", "18", ".", "With", "NWS", ",", "the", "number", "of", "relaying", "nodes", "increases", "with", "x", ",", "in", "order", "to", "bypass", "an", "increasing", "number", "of", "packet-dropping", "nodes", ".", "In", "face", "of", "such", "nodes", ",", "our", "scheme", "converts", "single-path", "forwarding", "into", "multipath", "data", "forwarding", ",", "with", "the", "67", "help", "of", "sub-watch", "nodes", "around", "such", "packet-dropping", "nodes", ".", "Utilizing", "a", "cache", "for", "recently-received", "packets", "can", "suppress", "the", "same", "copy", "within", "a", "certain", "timeout", ",", "which", "reduces", "the", "number", "of", "relaying", "nodes", ".", "Figure", "6", "-LRB-", "b", "-RRB-", "shows", "the", "success", "ratio", "in", "a", "600-sensor-node", "network", "with", "the", "approximate", "degree", "d", "=", "20", "with", "x", "packet-dropping", "nodes", "-LRB-", "varying", "x", "=", "0", "to", "100", "-RRB-", ".", "Unlike", "that", "with", "N", "=", "300", ",", "the", "success", "ratio", "stays", "constantly", "at", "around", "0.99", "even", "with", "x", "=", "100", ",", "with", "the", "help", "of", "NWS", ".", "This", "tendency", "of", "high", "success", "ratio", "can", "be", "mainly", "attributed", "to", "the", "degree", "d", "=", "20", "-LRB-", "7.6", "sub-watch", "nodes", "on", "average", "in", "the", "lower", "bound", "case", "-RRB-", ",", "which", "is", "found", "to", "be", "high", "enough", "to", "bypass", "a", "large", "number", "of", "packet-dropping", "nodes", ".", "Figure", "6", "-LRB-", "d", "-RRB-", "shows", "the", "number", "of", "relaying", "nodes", "from", "the", "source", "to", "the", "base", "station", "in", "the", "same", "experiments", ".", "With", "NWS", ",", "the", "increase", "in", "the", "number", "of", "relaying", "nodes", "with", "x", "is", "more", "conspicuous", "than", "that", "with", "N", "=", "300", ",", "since", "more", "than", "twice", "as", "many", "as", "sub-watch", "nodes", "help", "forward", "the", "packets", "so", "that", "it", "can", "bypass", "a", "large", "number", "of", "packet-dropping", "nodes", "anyway", ".", "In", "the", "simulation", "results", ",", "we", "note", "that", "our", "forwarding", "scheme", "dynamically", "adjusts", "its", "forwarding", "style", ",", "depending", "on", "the", "number", "of", "packet-dropping", "nodes", "en-route", "to", "the", "base", "station", ".", "As", "in", "Figures", "6", "-LRB-", "c", "-RRB-", "and", "6", "-LRB-", "d", "-RRB-", ",", "while", "there", "exist", "none", "or", "a", "small", "number", "of", "packet-dropping", "nodes", "on", "the", "way", ",", "our", "scheme", "works", "almost", "like", "the", "single-path", "forwarding", "with", "the", "help", "of", "a", "few", "additional", "relaying", "nodes", ".", "On", "the", "other", "hand", ",", "when", "confronting", "a", "large", "number", "of", "packet-dropping", "nodes", ",", "our", "scheme", "makes", "full", "use", "of", "the", "help", "from", "additional", "relaying", "nodes", ",", "in", "order", "to", "successfully", "deliver", "the", "packet", "to", "the", "base", "station", "at", "any", "cost", "to", "the", "best", "efforts", ".", "In", "this", "paper", "we", "focus", "on", "defending", "against", "compromised", "nodes", "'", "dropping", "of", "legitimate", "reports", ".", "We", "have", "presented", "a", "resilient", "packet-forwarding", "scheme", "using", "Neighbor", "Watch", "System", "-LRB-", "NWS", "-RRB-", "against", "maliciously", "packet-dropping", "nodes", "in", "sensor", "networks", ".", "In", "face", "of", "such", "nodes", ",", "NWS", "is", "specifically", "designed", "for", "hop-by-hop", "reliable", "delivery", ",", "and", "the", "prompt", "reaction", "of", "the", "conversion", "from", "single-path", "to", "multipath", "forwarding", "augments", "the", "robustness", "in", "our", "scheme", "so", "that", "the", "packet", "successfully", "reach", "the", "base", "station", ".", "In", "future", "work", ",", "we", "plan", "on", "further", "improving", "NLV", "to", "defend", "against", "the", "man-in-the-middle", "attacks", ",", "collusion", "among", "compromised", "nodes", ".", "Such", "attacks", "can", "be", "prevented", "by", "using", "a", "master", "key", "derived", "with", "not", "only", "a", "node", "ID", "but", "also", "its", "geographic", "information", ".", "We", "will", "also", "seek", "to", "address", "O", "-LRB-", "d", "2", "-RRB-", "storage", "requirement", "for", "the", "neighbors", "'", "neighbor", "lists", ".", "Finally", ",", "we", "would", "like", "to", "perform", "an", "intensive", "experimental", "evaluation", "to", "compare", "our", "scheme", "with", "other", "reliable", "delivery", "protocols", "-LSB-", "10", ",", "29", ",", "42", "-RSB-", ".", "This", "work", "was", "supported", "by", "grant", "No.R01-2006-000-10073-0", "from", "the", "Basic", "Research", "Program", "of", "the", "Korea", "Science", "and", "Engineering", "Foundation", ".", "-LSB-", "1", "-RSB-", "R.", "Anderson", ",", "H.", "Chan", ",", "and", "A.", "Perrig", ",", "Key", "Infection", ":", "Smart", "Trust", "for", "Smart", "Dust", ",", "IEEE", "ICNP", "2004", "-LSB-", "2", "-RSB-", "Burton", "H.", "Bloom", ",", "Space/Time", "Trade-offs", "in", "Hash", "Coding", "with", "Allowable", "Errors", ",", "Communication", "of", "the", "ACM", ",", "vol", ".", "13", ",", "422-426", ",", "1970", "-LSB-", "3", "-RSB-", "B.", "Carbunar", ",", "I.", "Ioannidis", ",", "and", "C.", "Nita-Rotaru", ",", "JANUS", ":", "Towards", "Robust", "and", "Malicious", "Resilient", "Routing", "in", "Hybrid", "Wireless", "Networks", ",", "ACM", "workshop", "on", "Wireless", "security", "-LRB-", "WiSe", "'", "04", "-RRB-", ",", "Oct.", "2004", "-LSB-", "4", "-RSB-", "H.", "Chan", ",", "A.", "Perrig", ",", "and", "D.", "Song", ",", "Random", "Key", "Predistribution", "Schemes", "for", "Sensor", "Networks", ",", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "pp.", "197-213", ",", "May", "2003", ".", "-LSB-", "5", "-RSB-", "B.", "Deb", ",", "S.", "Bhatnagar", ",", "and", "B.", "Nath", ",", "ReInForM", ":", "Reliable", "Information", "Forwarding", "Using", "Multiple", "Paths", "in", "Sensor", "Networks", ",", "IEEE", "Local", "Computer", "Networks", "-LRB-", "LCN", "2003", "-RRB-", ",", "pp.", "406-415", ",", "Oct.", "2003", ".", "-LSB-", "6", "-RSB-", "J.", "Deng", ",", "R.", "Han", ",", "and", "S.", "Mishra", ",", "A", "Performance", "Evaluation", "of", "Intrusion", "-", "Tolerant", "Routing", "in", "Wireless", "Sensor", "Networks", ",", "2nd", "International", "Workshop", "on", "Information", "Processing", "in", "Sensor", "Networks", "-LRB-", "IPSN", "03", "-RRB-", ",", "pp.", "349-364", ",", "Apr.", "2003", ".", "-LSB-", "7", "-RSB-", "J.", "Deng", ",", "R.", "Han", ",", "and", "S.", "Mishra", ",", "Intrusion", "Tolerance", "and", "Anti-Traffic", "Analysis", "Strategies", "for", "Wireless", "Sensor", "Networks", ",", "IEEE", "International", "Conference", "on", "Dependable", "Systems", "and", "Networks", "-LRB-", "DSN", "-RRB-", ",", "pp.", "594-603", ",", "2004", ".", "-LSB-", "8", "-RSB-", "J.", "Deng", ",", "R.", "Han", ",", "and", "S.", "Mishra", ",", "Defending", "against", "Path-based", "DoS", "Attacks", "in", "Wireless", "Sensor", "Networks", ",", "ACM", "Workshop", "on", "Security", "of", "Ad-Hoc", "and", "Sensor", "Networks", "-LRB-", "SASN", "'", "05", "-RRB-", ",", "Nov", ",", "2005", ".", "-LSB-", "9", "-RSB-", "K.", "Fall", "and", "K.", "Varadhan", "-LRB-", "editors", "-RRB-", ",", "NS", "notes", "and", "documentation", ",", "The", "VINT", "project", ",", "LBL", ",", "Feb", "2000", ",", "http://www.isi.edu/nsnam/ns/", "-LSB-", "10", "-RSB-", "D.", "Ganesan", ",", "R.", "Govindan", ",", "S.", "Shenker", ",", "and", "D.", "Estrin", ",", "Highly", "Resilient", ",", "Energy-Efficient", "Multipath", "Routing", "in", "Wireless", "Sensor", "Networks", ",", "Computing", "and", "Communications", "Review", "-LRB-", "MC2R", "-RRB-", "Vol", "1", ".", ",", "pp.", "11-25", ",", "2002", ".", "-LSB-", "11", "-RSB-", "V.", "D.", "Gligor", ",", "Security", "of", "Emergent", "Properties", "in", "Ad-Hoc", "Networks", ",", "International", "Workshop", "on", "Security", "Protocols", ",", "Apr.", "2004", ".", "-LSB-", "12", "-RSB-", "O.", "Goldreich", ",", "S.", "Goldwasser", ",", "and", "S.", "Micali", ",", "How", "to", "Construct", "Random", "Functions", ",", "Journal", "of", "the", "ACM", ",", "Vol", ".", "33", ",", "No.", "4", ",", "210-217", ",", "1986", "-LSB-", "13", "-RSB-", "L.", "Eschenauer", "and", "V.", "D.", "Gligor", ",", "A", "Key-Management", "Scheme", "for", "Distributed", "Sensor", "Networks", ",", "9th", "ACM", "Conference", "on", "Computer", "and", "Communication", "Security", "-LRB-", "CCS", "-RRB-", ",", "pp.", "41-47", ",", "Nov.", "2002", ".", "-LSB-", "14", "-RSB-", "C.", "Hartung", ",", "J.", "Balasalle", ",", "and", "R.", "Han", ",", "Node", "Compromise", "in", "Sensor", "Networks", ":", "The", "Need", "for", "Secure", "Systems", ",", "Technical", "Report", "CU-CS-990-05", ",", "Department", "of", "Computer", "Science", "University", "of", "Colorado", "at", "Boulder", ",", "Jan.", "2005", "-LSB-", "15", "-RSB-", "T.", "He", ",", "S.", "Krishnamurthy", ",", "J.", "A.", "Stankovic", ",", "T.", "F.", "Abdelzaher", ",", "L.", "Luo", ",", "R.", "Stoleru", ",", "T.", "Yan", ",", "L.", "Gu", ",", "J.", "Hui", ",", "and", "B.", "Krogh", ",", "An", "Energy-Efficient", "Surveillance", "System", "Using", "Wireless", "Sensor", "Networks", ",", "ACM", "MobiSys", "'", "04", ",", "June", ",", "2004", "-LSB-", "16", "-RSB-", "W.R.", "Heinzelman", ",", "J.", "Kulik", ",", "H.", "Balakrishnan", ",", "Adaptive", "Protocols", "for", "Information", "Dissemination", "in", "Wireless", "Sensor", "Networks", ",", "ACM", "MobiCom99", ",", "pp.", "174.185", ",", "1999", ".", "-LSB-", "17", "-RSB-", "J.", "Hill", ",", "R.", "Szewczyk", ",", "A.", "Woo", ",", "S.", "Hollar", ",", "D.", "Culler", ",", "and", "K.", "Pister", ",", "System", "Architecture", "Directions", "for", "Networked", "Sensors", ",", "ACU", "ASPLOS", "IX", ",", "November", "2000", ".", "68", "-LSB-", "18", "-RSB-", "X.", "Hong", ",", "M.", "Gerla", ",", "W.", "Hanbiao", ",", "and", "L.", "Clare", ",", "Load", "Balanced", ",", "Energy-Aware", "Communications", "for", "Mars", "Sensor", "Networks", ",", "IEEE", "Aerospace", "Conference", ",", "vol", ".3", ",", "1109-1115", ",", "2002", ".", "-LSB-", "19", "-RSB-", "Y.-C", ".", "Hu", ",", "D.", "B.", "Johnson", ",", "and", "A.", "Perrig", ",", "SEAD", ":", "Secure", "Efficient", "Distance", "Vector", "Routing", "for", "Mobile", "Wireless", "Ad", "Hoc", "Networks", ",", "IEEE", "Workshop", "on", "Mobile", "Computing", "Systems", "and", "Applications", ",", "pp.", "3-13", ",", "Jun.", "2002", ".", "-LSB-", "20", "-RSB-", "Y.-C", ".", "Hu", ",", "A.", "Perrig", ",", "and", "D.", "B.", "Johnson", ",", "Efficient", "Security", "Mechanisms", "for", "Routing", "Protocols", ",", "NDSS", "2003", ",", "pp.", "57-73", ",", "Feb.", "2003", ".", "-LSB-", "21", "-RSB-", "C.", "Intanagonwiwat", ",", "R.", "Govindan", "and", "D.", "Estrin", ",", "Directed", "Diffusion", ":", "A", "Scalable", "and", "Robust", "Communication", "Paradigm", "for", "Sensor", "Networks", ",", "MobiCom", "'", "00", ",", "Aug.", "2000", ".", "-LSB-", "22", "-RSB-", "D.", "Johnson", ",", "D.A.", "Maltz", ",", "and", "J.", "Broch", ",", "The", "Dynamic", "Source", "Routing", "Protocol", "for", "Mobile", "Ad", "Hoc", "Networks", "-LRB-", "Internet-Draft", "-RRB-", ",", "Mobile", "Ad-hoc", "Network", "-LRB-", "MANET", "-RRB-", "Working", "Group", ",", "IETF", ",", "Oct.", "1999", ".", "-LSB-", "23", "-RSB-", "C.", "Karlof", "and", "D.", "Wagner", ",", "Secure", "Routing", "in", "Wireless", "Sensor", "Networks", ":", "Attacks", "and", "Countermeasures", ",", "The", "First", "IEEE", "International", "Workshop", "on", "Sensor", "Network", "Protocols", "and", "Applications", ",", "pp.", "113-127", ",", "May", "2003", "-LSB-", "24", "-RSB-", "C.", "Karlof", ",", "N.", "Sastry", ",", "and", "D.", "Wagner", ",", "TinySec", ":", "A", "Link", "Layer", "Security", "Architecture", "for", "Wireless", "Sensor", "Networks", ",", "ACM", "SensSys", "'", "04", ",", "pp.", "162-175", ",", "Nov.", "2004", ".", "-LSB-", "25", "-RSB-", "I.", "Khalil", ",", "S.", "Bagchi", ",", "and", "C.", "Nina-Rotaru", ",", "DICAS", ":", "Detection", ",", "Diagnosis", "and", "Isolation", "of", "Control", "Attacks", "in", "Sensor", "Networks", ",", "IEEE", "SecureComm", "2005", ",", "pp.", "89", "100", ",", "Sep.", "2005", "-LSB-", "26", "-RSB-", "Y.", "Liu", "and", "W.", "K.G.", "Seah", ",", "A", "Priority-Based", "Multi-Path", "Routing", "Protocol", "for", "Sensor", "Networks", ",", "15th", "IEEE", "International", "Symposium", "on", "Volume", "1", ",", "216", "-", "220", ",", "2004", "-LSB-", "27", "-RSB-", "S.-B", ".", "Lee", "and", "Y.-H", ".", "Choi", ",", "A", "Secure", "Alternate", "Path", "Routing", "in", "Sensor", "Networks", ",", "Computer", "Communications", "-LRB-", "2006", "-RRB-", ",", "doi", ":", "10.1016", "/", "j.comcom", ".2006.08.006", ".", "-LSB-", "28", "-RSB-", "S.", "Marti", ",", "T.J.", "Giuli", ",", "K.", "Lai", ",", "and", "M.", "Baker", ",", "Mitigating", "Routing", "Misbehavior", "in", "Mobile", "Ad", "Hoc", "Networks", ",", "ACM/IEEE", "International", "Conference", "on", "Mobile", "Computing", "and", "Networking", ",", "pp.", "255-265", ",", "2000", "-LSB-", "29", "-RSB-", "H.", "Morcos", ",", "I.", "Matta", ",", "and", "A.", "Bestavros", ",", "M", "2", "RC", ":", "Multiplicative-Increase/Additive-Decrease", "Multipath", "Routing", "Control", "for", "Wireless", "Sensor", "Networks", ",", "ACM", "SIGBED", "Review", ",", "Vol", ".", "2", ",", "Jan", "2005", ".", "-LSB-", "30", "-RSB-", "J.", "Newsome", ",", "E.", "Shi", ",", "D.", "Song", ",", "and", "A.", "Perrig", ",", "The", "Sybil", "Attack", "in", "Sensor", "Networks", ":", "Analysis", "and", "Defenses", ",", "IEEE", "IPSN", "'", "04", ",", "pp.", "259-268", ",", "Apr.", "2004", ".", "-LSB-", "31", "-RSB-", "B.", "Parno", ",", "A.", "Perrig", ",", "and", "V.", "D.", "Gligor", ",", "Distributed", "Detection", "of", "Node", "Replication", "Attacks", "in", "Sensor", "Networks", ",", "the", "2005", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "pp.", "49-63", ",", "May", "2005", ".", "-LSB-", "32", "-RSB-", "A.", "Perrig", ",", "R.", "Szewczyk", ",", "V.", "Wen", ",", "D.", "Culler", ",", "and", "J.", "Tygar", ",", "SPINS", ":", "Security", "Protocols", "for", "Sensor", "Networks", ",", "ACM", "MobiCom", "'", "01", ",", "pp.", "189-199", ",", "2001", ".", "-LSB-", "33", "-RSB-", "A.", "Perrig", ",", "J.", "Stankovic", ",", "and", "D.", "Wagner", ",", "Security", "in", "Wireless", "Sensor", "Networks", ",", "Communications", "of", "the", "ACM", ",", "47", "-LRB-", "6", "-RRB-", ",", "Special", "Issue", "on", "Wireless", "sensor", "networks", ",", "pp.", "53", "-", "57", ",", "Jun.", "2004", "-LSB-", "34", "-RSB-", "B.", "Przydatek", ",", "D.", "Song", ",", "and", "A.", "Perrig", ",", "SIA", ":", "Secure", "Information", "Aggregation", "in", "Sensor", "Networks", ",", "1st", "International", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", ",", "255-256", ",", "2003", "-LSB-", "35", "-RSB-", "E.", "Shi", "and", "A.", "Perrig", ",", "Designing", "Secure", "Sensor", "Networks", ",", "Wireless", "Communications", ",", "IEEE", "Volume", "11", ",", "Issue", "6", ",", "pp.", "38-43", ",", "Dec.", "2004", ".", "-LSB-", "36", "-RSB-", "D.", "Tian", "and", "N.D.", "Georganas", ",", "Energy", "Efficient", "Routing", "with", "Guaranteed", "Delivery", "in", "Wireless", "Sensor", "Networks", ",", "IEEE", "Wireless", "Communications", "and", "Networking", "-LRB-", "WCNC", "2003", "-RRB-", ",", "IEEE", "Volume", "3", ",", "1923", "1929", ",", "March", "2003", "-LSB-", "37", "-RSB-", "A.", "Woo", ",", "T.", "Tong", ",", "and", "D.", "Culler", ",", "Taming", "the", "Underlying", "Challenges", "of", "Reliable", "Multhop", "Routing", "in", "Sensor", "Networks", ",", "ACM", "SenSys03", ",", "Nov", ",", "2003", "-LSB-", "38", "-RSB-", "A.", "Wood", "and", "J.", "Stankovic", ",", "Denial", "of", "Service", "in", "Sensor", "Networks", ",", "IEEE", "Computer", ",", "Vol", ".35", ",", "54-62", ",", "Oct.", "2002", "-LSB-", "39", "-RSB-", "H.Yang", ",", "F.", "Ye", ",", "Y.", "Yuan", ",", "S.", "Lu", "and", "W.", "Arbough", ",", "Toward", "Resilient", "Security", "in", "Wireless", "Sensor", "Networks", ",", "ACM", "MobiHoc", "'", "05", ",", "34-45", ",", "May", "2005", "-LSB-", "40", "-RSB-", "Y.", "Yang", ",", "X.", "Wang", ",", "S.", "Zhu", ",", "and", "G.", "Cao", "SDAP", ":", "A", "Secure", "Hop-by-Hop", "Data", "Aggregation", "Protocol", "for", "Sensor", "Networks", ",", "ACM", "MobiHoc", "'06", "May", "2006", "-LSB-", "41", "-RSB-", "F.", "Ye", ",", "H.", "Luo", ",", "S.", "Lu", "and", "L.", "Zhang", ",", "Statictial", "En-route", "Filtering", "of", "Injected", "False", "Data", "in", "Sensor", "Networks", ",", "IEEE", "INFOCOM", ",", "2004", "-LSB-", "42", "-RSB-", "F.", "Ye", ",", "G.", "Zhong", ",", "S.", "Lu", "and", "L.", "Zhang", ",", "GRAdient", "Broadcast", ":", "A", "Robust", "Data", "Delivery", "Protocol", "for", "Large", "Scale", "Sensor", "Networks", ",", "ACM", "Wireless", "Networks", "-LRB-", "WINET", "-RRB-", ",", "March", "2005", "-LSB-", "43", "-RSB-", "Y.", "Yu", ",", "R.", "Govindan", ",", "and", "D.", "Estrin", ",", "Geographical", "and", "Energy", "Aware", "Routing", ":", "a", "recursive", "data", "dissemination", "protocol", "for", "wireless", "sensor", "networks", ",", "UCLA", "Computer", "Science", "Department", "Technical", "Report", "UCLA/CSD-TR", "-01-0023", ",", "May", "2001", ".", "-LSB-", "44", "-RSB-", "W.", "Zhang", "and", "G.", "Cao", ",", "Group", "Rekeying", "for", "Filtering", "False", "Data", "in", "Sensor", "Networks", ":", "A", "Predistribution", "and", "Local", "Collaboration-Based", "Approach", ",", "IEEE", "INFOCOM", "'", "05", ".", "Vol", ".", "1", ",", "503-514", ",", "March", "2005", "-LSB-", "45", "-RSB-", "G.", "Zhou", ",", "T.", "He", ",", "S.", "Krishnamurthy", ",", "and", "J.", "A.", "Stankovic", ",", "Impact", "of", "radio", "irregularity", "on", "wireless", "sensor", "networks", ",", "the", "2nd", "International", "Conference", "on", "Mobile", "Systems", ",", "Applications", ",", "and", "Services", "-LRB-", "MobiSys04", "-RRB-", ",", "June", ",", "2004", "-LSB-", "46", "-RSB-", "S.", "Zhu", ",", "S.", "Setia", ",", "and", "S.", "Jajodia", ",", "LEAP", ":", "Efficient", "Security", "Mechanisms", "for", "Large-Scale", "Distributed", "Sensor", "Networks", ",", "The", "10th", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", "-LRB-", "CCS", "'", "03", "-RRB-", ",", "62-72", ",", "2003", "-LSB-", "47", "-RSB-", "S.Zhu", ",", "S.", "Setia", ",", "S.", "Jajodia", ",", "and", "P.", "Ning", ",", "An", "Interleaved", "Hop-by-Hop", "Authentication", "Scheme", "for", "Filtering", "False", "Data", "in", "Sensor", "Networks", ",", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "2004", "69"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["degree of multipath", "robustness", "malicious node", "neighbor watch system", "cluster key", "aggregation protocols", "reliable delivery", "secure routing", "critical area", "legitimate node"], "abstractive_keyphrases": ["single-path forwarding", "secure ad-hoc network routing protocol", "sensor network security", "packet-dropping attacks"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "202", "document": ["Typecase", ":", "A", "Design", "Pattern", "For", "Type-Indexed", "Functions", "A", "type-indexed", "function", "is", "a", "function", "that", "is", "defined", "for", "each", "member", "of", "some", "family", "of", "types", ".", "Haskell", "'s", "type", "class", "mechanism", "provides", "collections", "of", "open", "type-indexed", "functions", ",", "in", "which", "the", "indexing", "family", "can", "be", "extended", "by", "defining", "a", "new", "type", "class", "instance", "but", "the", "collection", "of", "functions", "is", "fixed", ".", "The", "purpose", "of", "this", "paper", "is", "to", "present", "TypeCase", ":", "a", "design", "pattern", "that", "allows", "the", "definition", "of", "closed", "type-indexed", "functions", ",", "in", "which", "the", "index", "family", "is", "fixed", "but", "the", "collection", "of", "functions", "is", "extensible", ".", "It", "is", "inspired", "by", "Cheney", "and", "Hinze", "'s", "work", "on", "lightweight", "approaches", "to", "generic", "programming", ".", "We", "generalise", "their", "techniques", "as", "a", "design", "pattern", ".", "Furthermore", ",", "we", "show", "that", "type-indexed", "functions", "with", "type-indexed", "types", ",", "and", "consequently", "generic", "functions", "with", "generic", "types", ",", "can", "also", "be", "encoded", "in", "a", "lightweight", "manner", ",", "thereby", "overcoming", "one", "of", "the", "main", "limitations", "of", "the", "lightweight", "approaches", ".", "D.", "3.3", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Language", "Constructs", "and", "Features", "Languages", "A", "type-indexed", "function", "is", "a", "function", "that", "is", "defined", "for", "each", "member", "of", "a", "family", "of", "types", ".", "One", "of", "the", "most", "popular", "mechanisms", "implementing", "this", "notion", "is", "the", "Haskell", "-LSB-", "31", "-RSB-", "type", "class", "system", ".", "A", "type", "class", "consists", "of", "a", "collection", "of", "related", "type-indexed", "functions", ";", "the", "family", "of", "index", "types", "is", "the", "set", "of", "instances", "of", "the", "type", "class", ".", "Type", "classes", "provide", "just", "one", "possible", "interpretation", "of", "the", "notion", "of", "type-indexed", "functions", ".", "In", "particular", ",", "they", "assume", "an", "open-world", "perspective", ":", "the", "family", "of", "index", "types", "is", "extensible", ",", "by", "defining", "a", "new", "type", "class", "instance", "for", "that", "type", ",", "but", "the", "collection", "of", "type-indexed", "functions", "is", "fixed", "in", "the", "type", "class", "interface", "so", "needs", "to", "be", "known", "in", "advance", ".", "For", "some", "applications", "--", "particularly", "when", "providing", "a", "framework", "for", "generic", "programming", "--", "the", "family", "of", "index", "types", "is", "fixed", "-LRB-", "albeit", "large", "-RRB-", "and", "the", "collection", "of", "type-indexed", "functions", "is", "not", "known", "in", "advance", ",", "so", "a", "closed-world", "perspective", "would", "make", "more", "sense", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Haskell", "'05", "September", "30", ",", "2005", ",", "Tallinn", ",", "Estonia", ".", "Copyright", "c", "2005", "ACM", "1-59593-071-X", "/", "05/0009", "...", "$", "5.00", ".", "The", "original", "concept", "of", "a", "design", "pattern", "has", "its", "origins", "in", "Christopher", "Alexander", "'s", "work", "in", "architecture", ",", "but", "it", "has", "been", "picked", "up", "with", "enthusiasm", "by", "the", "object-oriented", "programming", "community", ".", "The", "idea", "of", "design", "patterns", "is", "to", "capture", ",", "abstract", "and", "record", "beneficial", "recurring", "patterns", "in", "software", "design", ".", "Sometimes", "those", "patterns", "can", "be", "captured", "formally", ",", "as", "programming", "language", "constructs", "or", "software", "library", "fragments", ".", "Often", ",", "however", ",", "the", "appropriate", "abstraction", "can", "not", "be", "directly", "stated", ",", "either", "because", "of", "a", "lack", "of", "expressiveness", "in", "the", "language", ",", "or", "because", "there", "is", "inherent", "ambiguity", "in", "the", "pattern", "--", "Alexander", "describes", "a", "pattern", "as", "a", "solution", "`", "you", "can", "use", "-LSB-", "...", "-RSB-", "a", "million", "times", "over", ",", "without", "ever", "doing", "it", "the", "same", "way", "twice", "'", "-LSB-", "1", "-RSB-", ".", "In", "this", "case", ",", "one", "must", "resort", "to", "an", "informal", "description", ".", "Even", "if", "the", "abstraction", "itself", "can", "be", "captured", "formally", ",", "one", "might", "argue", "that", "a", "complete", "description", "of", "the", "pattern", "includes", "necessarily", "informal", "information", ":", "a", "name", ",", "motivation", ",", "examples", ",", "consequences", ",", "implementation", "trade-offs", ",", "and", "so", "on", ".", "In", "this", "paper", ",", "we", "present", "a", "technique", "that", "allows", "the", "definition", "of", "closed", "type-indexed", "functions", ",", "as", "opposed", "to", "the", "open", "type-indexed", "functions", "provided", "by", "type", "classes", ";", "we", "do", "so", "in", "the", "format", "of", "a", "design", "pattern", ".", "Our", "inspiration", "comes", "from", "previous", "research", "on", "lightweight", "approaches", "to", "generic", "programming", "-LRB-", "LAGP", "-RRB-", ".", "In", "particular", ",", "Hinze", "'s", "two", "papers", "``", "A", "Lightweight", "Implementation", "of", "Generics", "and", "Dynamics", "''", "-LSB-", "4", "-RSB-", "-LRB-", "LIGD", ",", "with", "James", "Cheney", "-RRB-", "and", "``", "Generics", "for", "the", "Masses", "''", "-LSB-", "19", "-RSB-", "-LRB-", "GM", "-RRB-", "provide", "our", "motivation", "and", "basis", ".", "Those", "two", "papers", "focus", "on", "the", "particular", "context", "of", "generic", "programming", ",", "and", "provide", "a", "number", "of", "techniques", "that", "can", "be", "used", "to", "encode", "first-class", "generic", "functions", "in", "Haskell", ".", "However", ",", "those", "techniques", "have", "a", "wider", "applicability", ",", "not", "addressed", "by", "Hinze", ".", "We", "propose", "a", "generalisation", "of", "the", "technique", ",", "and", "demonstrate", "its", "use", "in", "a", "variety", "of", "applications", ".", "Our", "specific", "contributions", "are", ":", "Generalisation", "of", "the", "lightweight", "approaches", ".", "We", "provide", "templates", "for", "designing", "closed", "type-indexed", "functions", ",", "abstracting", "away", "from", "generic", "programming", ".", "The", "techniques", "in", "LIGD", "and", "GM", "are", "instances", "of", "these", "templates", ".", "A", "design", "pattern", "for", "type-indexed", "functions", ".", "We", "document", "this", "generalisation", "as", "a", "design", "pattern", ".", "Type-indexed", "functions", "with", "type-indexed", "types", ".", "We", "show", "that", "with", "our", "more", "general", "interpretation", "of", "the", "design", "pattern", ",", "type-indexed", "functions", "with", "type-indexed", "types", "are", "also", "instances", "of", "the", "design", "pattern", ".", "As", "a", "consequence", ",", "generic", "functions", "with", "generic", "types", "can", "also", "be", "encoded", "in", "a", "lightweight", "manner", ".", "Thus", ",", "we", "remove", "one", "of", "the", "main", "limitations", "of", "the", "lightweight", "approaches", ".", "Other", "applications", ".", "We", "present", "two", "other", "interesting", "applications", "of", "the", "pattern", ":", "PolyP", "in", "Haskell", "98", ",", "and", "a", "very", "flexible", "printf", "function", ".", "The", "remainder", "of", "this", "paper", "is", "structured", "as", "follows", ".", "In", "Section", "2", "we", "review", "the", "lightweight", "approaches", "to", "generic", "programming", ".", "In", "Section", "3", "we", "abstract", "the", "essence", "of", "the", "technique", "as", "a", "design", "pattern", ".", "Section", "4", "presents", "two", "other", "small", "applications", "of", "the", "design", "98", "pattern", ",", "and", "Section", "5", "uses", "it", "to", "model", "type-indexed", "functions", "with", "type-indexed", "types", ".", "Section", "6", "concludes", ".", "We", "start", "by", "summarising", "the", "earlier", "work", "on", "lightweight", "approaches", "to", "generic", "programming", "underlying", "our", "generalisation", ".", "2.1", "``", "A", "Lightweight", "Implementation", "of", "Generics", "and", "Dynamics", "''", "Cheney", "and", "Hinze", "-LSB-", "4", "-RSB-", "show", "how", "to", "do", "a", "kind", "of", "generic", "programming", ",", "using", "only", "the", "standard", "Hindley-Milner", "type", "system", "extended", "with", "existential", "types", ".", "The", "index", "family", "consists", "of", "hierarchical", "sums", "and", "products", "of", "integers", "and", "characters", ".", "This", "family", "is", "enough", "to", "represent", "a", "large", "subset", "of", "Haskell", "98", "datatypes", "-LRB-", "including", "mutually", "recursive", "and", "nested", "datatypes", "-RRB-", ".", "data", "Sum", "a", "b", "=", "Inl", "a", "|", "Inr", "b", "data", "Prod", "a", "b", "=", "Prod", "a", "b", "data", "Unit", "=", "Unit", "This", "style", "of", "generic", "programming", "requires", "a", "representation", "of", "types", "as", "values", "in", "order", "to", "support", "typecase", "analysis", ".", "The", "key", "idea", "of", "the", "LIGD", "paper", "is", "to", "use", "a", "parametrised", "type", "as", "the", "type", "representation", ",", "ensuring", "that", "the", "type", "parameter", "reflects", "the", "type", "being", "represented", ".", "Some", "Haskell", "implementations", "have", "recently", "been", "extended", "with", "generalised", "algebraic", "datatypes", "-LRB-", "GADTs", "-RRB-", "-LSB-", "32", "-RSB-", ",", "which", "can", "be", "used", "for", "this", "purpose", ";", "but", "LIGD", "predates", "that", "extension", ",", "and", "depends", "only", "on", "existential", "quantification", ".", "data", "Rep", "t", "=", "RUnit", "-LRB-", "t", "Unit", "-RRB-", "|", "RInt", "-LRB-", "t", "Int", "-RRB-", "|", "RChar", "-LRB-", "t", "Char", "-RRB-", "|", "a", "b.", "RSum", "-LRB-", "Rep", "a", "-RRB-", "-LRB-", "Rep", "b", "-RRB-", "-LRB-", "t", "-LRB-", "Sum", "a", "b", "-RRB-", "-RRB-", "|", "a", "b.", "RProd", "-LRB-", "Rep", "a", "-RRB-", "-LRB-", "Rep", "b", "-RRB-", "-LRB-", "t", "-LRB-", "Prod", "a", "b", "-RRB-", "-RRB-", "data", "a", "b", "=", "EP", "-LCB-", "from", ":", ":", "a", "b", ",", "to", ":", ":", "b", "a", "-RCB-", "-LRB-", "Note", "that", "the", "universal", "quantifications", "are", "in", "contravariant", "positions", ",", "so", "act", "existentially", ".", "-RRB-", "The", "intention", "is", "that", "the", "equivalence", "type", "a", "b", "represents", "embedding/projection", "pairs", "witnessing", "to", "an", "isomorphism", "between", "types", "a", "and", "b", ",", "thereby", "enforcing", "a", "correspondence", "between", "types", "t", "and", "Rep", "t.", "Of", "course", ",", "within", "Haskell", ",", "it", "is", "not", "possible", "to", "automatically", "verify", "the", "isomorphisms", "-LRB-", "from", "to", "=", "id", "and", "to", "from", "=", "id", "-RRB-", ",", "so", "these", "laws", "should", "be", "externally", "checked", ".", "Furthermore", ",", "we", "follow", "the", "convention", "of", "ignoring", "the", "`", "ugly", "fact", "'", "of", "bottom", "values", "destroying", "the", "`", "beautiful", "theory", "'", "of", "many", "such", "isomorphisms", "-LSB-", "8", "-RSB-", ".", "A", "common", "case", "is", "with", "the", "trivial", "embedding/projections", ".", "self", ":", ":", "a", "a", "self", "=", "EP", "-LCB-", "from", "=", "id", ",", "to", "=", "id", "-RCB-", "Using", "self", ",", "we", "can", "provide", "a", "set", "of", "smart", "constructors", "for", "the", "Rep", "type", ",", "yielding", "representations", "of", "types", "by", "themselves", ".", "rUnit", ":", ":", "Rep", "Unit", "rUnit", "=", "RUnit", "self", "rInt", ":", ":", "Rep", "Int", "rInt", "=", "RInt", "self", "rChar", ":", ":", "Rep", "Char", "rChar", "=", "RChar", "self", "rSum", ":", ":", "Rep", "a", "Rep", "b", "Rep", "-LRB-", "Sum", "a", "b", "-RRB-", "rSum", "ra", "rb", "=", "RSum", "ra", "rb", "self", "rProd", ":", ":", "Rep", "a", "Rep", "b", "Rep", "-LRB-", "Prod", "a", "b", "-RRB-", "rProd", "ra", "rb", "=", "RProd", "ra", "rb", "self", "Using", "these", "smart", "constructors", ",", "we", "can", "build", "representations", "for", "recursive", "datatypes", ",", "by", "making", "explicit", "the", "structure", "isomorphism", "of", "the", "datatype", ".", "For", "instance", ",", "the", "isomorphism", "defining", "lists", "is", "-LSB-", "a", "-RSB-", "=", "1", "+", "a", "-LSB-", "a", "-RSB-", ",", "and", "so", "the", "corresponding", "type", "representation", "is", "as", "follows", ".", "rList", ":", ":", "a.", "Rep", "a", "Rep", "-LSB-", "a", "-RSB-", "rList", "ra", "=", "RSum", "rUnit", "-LRB-", "rProd", "ra", "-LRB-", "rList", "ra", "-RRB-", "-RRB-", "-LRB-", "EP", "from", "to", "-RRB-", "where", "from", "-LSB-", "-RSB-", "=", "Inl", "Unit", "from", "-LRB-", "x", ":", "xs", "-RRB-", "=", "Inr", "-LRB-", "Prod", "x", "xs", "-RRB-", "to", "-LRB-", "Inl", "Unit", "-RRB-", "=", "-LSB-", "-RSB-", "to", "-LRB-", "Inr", "-LRB-", "Prod", "x", "xs", "-RRB-", "-RRB-", "=", "x", ":", "xs", "Note", "that", "the", "representation", "of", "a", "recursive", "datatype", "is", "an", "infinite", "value", ";", "but", ",", "because", "of", "laziness", ",", "this", "poses", "no", "problem", ".", "Having", "constructed", "representation", "values", "for", "arbitrary", "types", ",", "the", "final", "step", "is", "to", "define", "generic", "functions", ".", "Using", "the", "representation", "as", "a", "basis", "for", "structural", "case", "analysis", ",", "it", "is", "possible", "to", "simulate", "a", "typecase", "-LSB-", "16", "-RSB-", ".", "For", "example", ",", "here", "is", "a", "definition", "of", "generic", "equality", ":", "eq", ":", ":", "t.", "Rep", "t", "t", "t", "Bool", "eq", "-LRB-", "RInt", "ep", "-RRB-", "t", "1", "t", "2", "=", "from", "ep", "t", "1", "from", "ep", "t", "2", "eq", "-LRB-", "RChar", "ep", "-RRB-", "t", "1", "t", "2", "=", "from", "ep", "t", "1", "from", "ep", "t", "2", "eq", "-LRB-", "RUnit", "ep", "-RRB-", "=", "True", "eq", "-LRB-", "RSum", "ra", "rb", "ep", "-RRB-", "t", "1", "t", "2", "=", "case", "-LRB-", "from", "ep", "t", "1", ",", "from", "ep", "t", "2", "-RRB-", "of", "-LRB-", "Inl", "x", ",", "Inl", "y", "-RRB-", "eq", "ra", "x", "y", "-LRB-", "Inr", "x", ",", "Inr", "y", "-RRB-", "eq", "rb", "x", "y", "False", "eq", "-LRB-", "RProd", "ra", "rb", "ep", "-RRB-", "t", "1", "t", "2", "=", "case", "-LRB-", "from", "ep", "t", "1", ",", "from", "ep", "t", "2", "-RRB-", "of", "-LRB-", "Prod", "x", "y", ",", "Prod", "x", "y", "-RRB-", "eq", "ra", "x", "x", "eq", "rb", "y", "y", "Using", "Haskell", "type", "classes", ",", "it", "is", "possible", "to", "make", "the", "use", "of", "generic", "functions", "even", "more", "convenient", ":", "the", "class", "TypeRep", "can", "be", "used", "to", "build", "values", "of", "type", "Rep", "t", "implicitly", ".", "class", "TypeRep", "t", "where", "rep", ":", ":", "Rep", "t", "instance", "TypeRep", "Unit", "where", "rep", "=", "rUnit", "instance", "TypeRep", "Int", "where", "rep", "=", "rInt", "instance", "TypeRep", "Char", "where", "rep", "=", "rChar", "instance", "-LRB-", "TypeRep", "a", ",", "TypeRep", "b", "-RRB-", "TypeRep", "-LRB-", "Sum", "a", "b", "-RRB-", "where", "rep", "=", "rSum", "rep", "rep", "instance", "-LRB-", "TypeRep", "a", ",", "TypeRep", "b", "-RRB-", "TypeRep", "-LRB-", "Prod", "a", "b", "-RRB-", "where", "rep", "=", "rProd", "rep", "rep", "instance", "TypeRep", "a", "TypeRep", "-LSB-", "a", "-RSB-", "where", "rep", "=", "rList", "rep", "For", "example", ",", "we", "can", "now", "express", "generic", "equality", "with", "an", "implicit", "rather", "than", "explicit", "dependence", "on", "the", "representation", ".", "ceq", ":", ":", "t.", "TypeRep", "t", "t", "t", "Bool", "ceq", "t", "1", "t", "2", "=", "eq", "rep", "t", "1", "t", "2", "2.2", "``", "Generics", "for", "the", "Masses", "''", "Hinze", "'s", "later", "GM", "approach", "-LSB-", "19", "-RSB-", "has", "a", "very", "similar", "flavour", "to", "LIGD", ";", "however", ",", "somewhat", "surprisingly", ",", "Hinze", "shows", "how", "to", "do", "generic", "programming", "strictly", "within", "Haskell", "98", ",", "which", "does", "not", "support", "rank-n", "types", "or", "even", "existential", "types", ".", "Nevertheless", ",", "there", "is", "a", "close", "relationship", "between", "type", "classes", "and", "polymorphic", "records", "-LRB-", "for", "example", ",", "one", "possible", "translation", "of", "type", "classes", "into", "System", "F", "uses", "polymorphic", "records", "-RRB-", ",", "and", "these", "require", "something", "like", "existential", "types", "for", "their", "encoding", ".", "Thus", ",", "type", "class", "instances", "can", "be", "seen", "as", "implicitly-passed", "records", ".", "Hinze", "uses", "this", "observation", "to", "deliver", "two", "implementations", "of", "generics", ".", "2.2.1", "Generic", "functions", "on", "types", "The", "first", "implementation", "of", "generics", "in", "GM", "-LRB-", "``", "GM1", "''", ",", "from", "now", "on", "-RRB-", "can", "be", "seen", "as", "a", "direct", "descendent", "of", "LIGD", ".", "Instead", "of", "using", "a", "datatype", "with", "an", "existential", "quantification", ",", "Hinze", "uses", "a", "type", "class", "Generic", ".", "99", "class", "Generic", "g", "where", "unit", ":", ":", "g", "Unit", "sum", ":", ":", "-LRB-", "TypeRep", "a", ",", "TypeRep", "b", "-RRB-", "g", "-LRB-", "Sum", "a", "b", "-RRB-", "prod", ":", ":", "-LRB-", "TypeRep", "a", ",", "TypeRep", "b", "-RRB-", "g", "-LRB-", "Prod", "a", "b", "-RRB-", "datatype", ":", ":", "TypeRep", "a", "-LRB-", "b", "a", "-RRB-", "g", "b", "char", ":", ":", "g", "Char", "int", ":", ":", "g", "Int", "The", "parameter", "g", "of", "the", "type", "class", "represents", "the", "generic", "function", ",", "and", "each", "of", "the", "member", "functions", "of", "the", "type", "class", "encodes", "the", "behaviour", "of", "that", "generic", "function", "for", "one", "structural", "case", ".", "Generic", "functions", "over", "user-defined", "types", "can", "also", "be", "defined", "using", "the", "datatype", "type", "case", ".", "In", "this", "case", ",", "the", "isomorphism", "between", "the", "datatype", "and", "its", "structural", "representation", "must", "be", "provided", ".", "The", "type", "class", "TypeRep", "is", "used", "to", "select", "the", "appropriate", "behaviour", "of", "the", "generic", "function", ",", "based", "on", "the", "type", "structure", "of", "its", "argument", ".", "The", "role", "of", "this", "type", "class", "is", "somewhat", "analogous", "to", "the", "synonymous", "one", "in", "Section", "2.1", ".", "One", "contrast", "with", "LIGD", "is", "that", "TypeRep", "for", "GM1", "is", "not", "optional", ",", "because", "the", "type", "representations", "are", "always", "implicitly", "passed", ".", "class", "TypeRep", "a", "where", "typeRep", ":", ":", "Generic", "g", "g", "a", "instance", "TypeRep", "Unit", "where", "typeRep", "=", "unit", "instance", "-LRB-", "TypeRep", "a", ",", "TypeRep", "b", "-RRB-", "TypeRep", "-LRB-", "Sum", "a", "b", "-RRB-", "where", "typeRep", "=", "sum", "instance", "-LRB-", "TypeRep", "a", ",", "TypeRep", "b", "-RRB-", "TypeRep", "-LRB-", "Prod", "a", "b", "-RRB-", "where", "typeRep", "=", "prod", "instance", "TypeRep", "Char", "where", "typeRep", "=", "char", "instance", "TypeRep", "Int", "where", "typeRep", "=", "int", "For", "GM", ",", "the", "type", "class", "TypeRep", "directly", "selects", "the", "appropriate", "behaviour", "for", "a", "particular", "structural", "case", "from", "the", "generic", "function", ".", "In", "contrast", ",", "for", "LIGD", ",", "the", "corresponding", "type", "class", "TypeRep", "builds", "a", "value", "as", "a", "type", "representation", "for", "a", "particular", "structural", "case", ",", "and", "this", "representation", "is", "then", "used", "by", "a", "generic", "function", "to", "select", "the", "appropriate", "behaviour", ".", "The", "effect", "is", "the", "same", ",", "but", "GM", "is", "more", "direct", ".", "A", "new", "generic", "function", "is", "defined", "via", "an", "instance", "of", "Generic", ",", "providing", "an", "implementation", "for", "each", "structural", "case", ".", "For", "instance", ",", "the", "generic", "function", "gSize", "that", "counts", "all", "the", "elements", "of", "type", "Int", "and", "Char", "in", "some", "structure", "could", "be", "encoded", "as", "follows", ".", "newtype", "GSize", "a", "=", "GSize", "-LCB-", "appGSize", ":", ":", "a", "Int", "-RCB-", "instance", "Generic", "GSize", "where", "unit", "=", "GSize", "-LRB-", "0", "-RRB-", "sum", "=", "GSize", "-LRB-", "t", "case", "t", "of", "Inl", "x", "gSize", "x", "Inr", "y", "gSize", "y", "-RRB-", "prod", "=", "GSize", "-LRB-", "t", "case", "t", "of", "Prod", "x", "y", "gSize", "x", "+", "gSize", "y", "-RRB-", "datatype", "iso", "=", "GSize", "-LRB-", "t", "gSize", "-LRB-", "from", "iso", "t", "-RRB-", "-RRB-", "char", "=", "GSize", "-LRB-", "1", "-RRB-", "int", "=", "GSize", "-LRB-", "1", "-RRB-", "gSize", ":", ":", "TypeRep", "a", "a", "Int", "gSize", "=", "appGSize", "typeRep", "A", "record", "of", "type", "GSize", "a", "contains", "a", "single", "function", "appGSize", "of", "type", "a", "Int", ",", "which", "can", "be", "used", "to", "compute", "the", "number", "of", "elements", "in", "some", "structure", "of", "type", "a", ".", "The", "function", "gSize", ",", "which", "is", "the", "actual", "generic", "function", ",", "simply", "extracts", "the", "sole", "appGSize", "field", "from", "a", "record", "of", "the", "appropriate", "type", ",", "built", "automatically", "by", "typeRep", ".", "2.2.2", "Generic", "functions", "on", "type", "constructors", "The", "second", "implementation", "of", "generics", "in", "GM", "-LRB-", "``", "GM2", "''", "-RRB-", "permits", "parametrisation", "by", "type", "constructors", "rather", "than", "by", "types", ".", "For", "example", ",", "whereas", "the", "generic", "function", "gSize", "of", "the", "previous", "section", "has", "type", "a", "Int", "for", "all", "first-order", "types", "a", "in", "the", "type", "class", "TypeRep", ",", "in", "this", "section", "we", "show", "a", "generic", "function", "gSize", "with", "type", "f", "a", "Int", "for", "all", "type", "constructors", "f", "in", "the", "constructor", "class", "FunctorRep", ".", "Lifting", "in", "this", "fashion", "introduces", "the", "possibility", "of", "ambiguity", ":", "a", "type", "g", "-LRB-", "f", "a", "-RRB-", "may", "be", "considered", "a", "type", "constructor", "g", "applied", "to", "a", "type", "f", "a", ",", "or", "the", "composition", "of", "constructors", "g", "and", "f", "applied", "to", "type", "a.", "Therefore", "we", "must", "explicitly", "pass", "type", "representations", ",", "increasing", "flexibility", "but", "decreasing", "brevity", ".", "This", "is", "reflected", "in", "the", "analogous", "type", "class", "Generic", ",", "where", "the", "implicitly-passed", "TypeRep", "contexts", "are", "now", "changed", "to", "explicitly-passed", "functions", ".", "class", "Generic", "g", "where", "unit", ":", ":", "g", "Unit", "sum", ":", ":", "g", "a", "g", "b", "g", "-LRB-", "Sum", "a", "b", "-RRB-", "prod", ":", ":", "g", "a", "g", "b", "g", "-LRB-", "Prod", "a", "b", "-RRB-", "datatype", ":", ":", "-LRB-", "b", "a", "-RRB-", "g", "a", "g", "b", "char", ":", ":", "g", "Char", "int", ":", ":", "g", "Int", "However", ",", "this", "modification", "of", "the", "type", "class", "restricts", "expressivity", ",", "since", "the", "only", "generic", "function", "we", "can", "call", "is", "the", "one", "being", "defined", ",", "recursively", ".", "Consequently", ",", "generic", "functions", "that", "perform", "calls", "to", "other", "generic", "functions", "-LRB-", "as", "when", "defining", "generic", "membership", "in", "terms", "of", "generic", "equality", "-RRB-", "become", "harder", "to", "define", ".", "With", "the", "new", "Generic", "class", "it", "is", "also", "possible", "to", "build", "the", "values", "for", "type", "representations", "automatically", ",", "using", "another", "type", "class", "TypeRep", ".", "Just", "as", "with", "LIGD", ",", "this", "class", "now", "becomes", "optional", ".", "Alternatively", ",", "we", "can", "use", "a", "type", "class", "FunctorRep", "to", "capture", "the", "notion", "of", "unary", "type", "constructor", "or", "functor", ".", "class", "FunctorRep", "f", "where", "functorRep", ":", ":", "Generic", "g", "g", "a", "g", "-LRB-", "f", "a", "-RRB-", "We", "have", "to", "define", "similar", "classes", "for", "each", "arity", "of", "type", "constructor", ".", "Generic", "functions", "are", "defined", "in", "a", "very", "similar", "fashion", "to", "GM1", ".", "For", "instance", ",", "the", "type", "Count", "a", "below", "represents", "a", "generic", "function", "that", "counts", "zero", "for", "each", "occurrence", "of", "a", "value", "of", "type", "Int", "or", "Char", "in", "some", "structure", "of", "type", "a.", "newtype", "Count", "a", "=", "Count", "-LCB-", "applyCount", ":", ":", "a", "Int", "-RCB-", "instance", "Generic", "Count", "where", "unit", "=", "Count", "-LRB-", "0", "-RRB-", "sum", "a", "b", "=", "Count", "-LRB-", "x", "case", "x", "of", "Inl", "l", "applyCount", "a", "l", "Inr", "r", "applyCount", "b", "r", "-RRB-", "prod", "a", "b", "=", "Count", "-LRB-", "-LRB-", "Prod", "x", "y", "-RRB-", "applyCount", "a", "x", "+", "applyCount", "b", "y", "-RRB-", "datatype", "iso", "a", "=", "Count", "-LRB-", "x", "applyCount", "a", "-LRB-", "from", "iso", "x", "-RRB-", "-RRB-", "char", "=", "Count", "-LRB-", "0", "-RRB-", "int", "=", "Count", "-LRB-", "0", "-RRB-", "While", "this", "function", "by", "itself", "approximates", "const", "0", ",", "it", "is", "the", "basis", "for", "other", "more", "useful", "functions", "that", "really", "count", "the", "number", "of", "elements", "in", "some", "structure", "in", "some", "way", ",", "by", "overriding", "the", "behaviour", "of", "the", "basic", "generic", "function", "for", "occurrences", "of", "the", "type", "parameter", ":", "gSize", ":", ":", "FunctorRep", "f", "f", "a", "Int", "gSize", "=", "applyCount", "-LRB-", "functorRep", "-LRB-", "Count", "-LRB-", "1", "-RRB-", "-RRB-", "-RRB-", "The", "payback", "of", "using", "FunctorRep", "is", "that", "we", "can", "define", "the", "behaviour", "of", "the", "generic", "function", "for", "its", "parameters", ".", "For", "instance", ",", "we", "could", "sum", "all", "the", "integers", "in", "some", "integer-parametrised", "datatype", "by", "using", "the", "identity", "function", "to", "define", "the", "behaviour", "of", "the", "generic", "function", "for", "the", "type", "parameter", ".", "gSum", ":", ":", "FunctorRep", "f", "f", "Int", "Int", "gSum", "=", "applyCount", "-LRB-", "functorRep", "-LRB-", "Count", "id", "-RRB-", "-RRB-", "100", "In", "LIGD", "and", "GM", ",", "we", "are", "shown", "three", "methods", "for", "implementing", "closed", "type-indexed", "functions", ".", "Those", "three", "variations", "give", "us", "different", "expressive", "power", ",", "and", "impose", "different", "constraints", "on", "the", "type", "system", ".", "A", "choice", "of", "implementation", "techniques", ",", "together", "with", "technical", "trade-offs", "making", "no", "one", "method", "superior", "in", "all", "circumstances", ",", "is", "characteristic", "of", "design", "patterns", ".", "In", "this", "section", ",", "we", "introduce", "the", "TypeCase", "design", "pattern", ",", "capturing", "the", "different", "techniques", "for", "implementing", "closed", "type-indexed", "functions", ".", "The", "TypeCase", "design", "pattern", "Intent", ":", "Allowing", "the", "definition", "of", "closed", "type-indexed", "functions", ".", "Motivation", ":", "The", "typecase", "design", "pattern", "captures", "a", "closed-world", "view", "of", "ad-hoc", "polymorphism", ".", "In", "Haskell", ",", "the", "type", "class", "system", "is", "a", "mechanism", "that", "supports", "ad-hoc", "polymorphism", ",", "but", "from", "an", "open-world", "point", "of", "view", ":", "they", "can", "be", "extended", "with", "cases", "for", "new", "datatypes", ",", "at", "the", "cost", "of", "a", "non-extensible", "set", "of", "functions", ".", "Under", "the", "closed-world", "assumption", ",", "there", "is", "a", "fixed", "set", "of", "type-structural", "cases", "but", "arbitrarily", "many", "type-indexed", "functions", "ranging", "over", "those", "cases", ".", "An", "example", "where", "the", "closed-world", "perpective", "works", "better", "than", "the", "open-world", "one", "is", "generic", "programming", ",", "in", "which", "we", "take", "a", "structural", "perspective", "on", "types", "as", "opposed", "to", "the", "more", "traditional", "nominal", "one", ".", "Using", "just", "a", "few", "operations", "on", "types", ",", "it", "is", "possible", "to", "represent", "the", "whole", "family", "of", "structural", "definitions", "of", "interest", ".", "For", "instance", ",", "here", "is", "a", "possible", "definition", "for", "a", "generic", "function", "that", "counts", "all", "the", "elements", "of", "some", "structure", "t", ":", "gsize", "t", ":", ":", ":", ":", "t", "Int", "gsize", "Unit", "=", "0", "gsize", "Int", "=", "1", "gsize", "Sum", "-LRB-", "Inl", "x", "-RRB-", "=", "gsize", "x", "gsize", "Sum", "-LRB-", "Inr", "y", "-RRB-", "=", "gsize", "y", "gsize", "Prod", "-LRB-", "Prod", "x", "y", "-RRB-", "=", "gsize", "x", "+", "gsize", "y", "With", "an", "open-world", "perspective", ",", "we", "can", "present", "a", "fixed", "number", "of", "type-indexed", "definitions", "that", "range", "over", "those", "few", "cases", ";", "but", "we", "can", "not", "easily", "introduce", "new", "definitions", ".", "This", "is", "clearly", "not", "appropriate", "for", "generic", "programming", ".", "In", "fact", ",", "what", "we", "expect", "from", "a", "generic", "programming", "facility", "is", "the", "ability", "to", "a", "introduce", "new", "generic", "definition", "without", "affecting", "the", "surrounding", "context", ".", "This", "is", "precisely", "what", "the", "closed-world", "perspective", "provides", "us", ".", "Applicability", ":", "Use", "this", "pattern", ":", "to", "encode", "collections", "of", "definitions", "that", "are", "indexed", "by", "some", "fixed", "family", "of", "types", ",", "while", "allowing", "new", "definitions", "to", "be", "added", "to", "the", "collection", "without", "affecting", "modularity", ";", "when", "a", "definition", "is", "variadic", ",", "that", "is", ",", "it", "has", "a", "variable", "number", "of", "arguments", "-LRB-", "see", "Section", "4.2", "for", "an", "example", "-RRB-", ";", "to", "try", "to", "avoid", "type-class", "trickery", ",", "such", "as", "multiple-parameter", "type", "classes", ",", "functional", "dependencies", ",", "overlapping", "instances", "or", "even", "duplicate", "instances", "-LRB-", "just", "consider", "a", "direct", "encoding", "of", "the", "examples", "presented", "in", "the", "paper", "into", "type", "classes", "-LSB-", "30", "-RSB-", "-RRB-", ";", "to", "capture", "some", "shape", "invariants", ",", "like", "the", "ones", "captured", "by", "some", "nested", "types", "or", "phantom", "types", "-LSB-", "29", ",", "18", "-RSB-", ".", "Structure", ":", "See", "Figure", "1", ".", "Participants", ":", "Structural", "Cases", ":", "a", "set", "of", "datatypes", "which", "represent", "the", "possible", "structural", "cases", "for", "the", "type-indexed", "function", ";", "Typecase", ":", "representing", "the", "structure", "of", "a", "type-indexed", "function", ";", "Dispatcher", ":", "a", "type", "class", ",", "containing", "a", "single", "function", ",", "that", "is", "responsible", "for", "dispatching", "a", "value", "of", "one", "of", "the", "structural", "cases", "into", "the", "corresponding", "branch", "of", "the", "typecase", ",", "based", "on", "the", "type", "of", "the", "value", ";", "Type-indexed", "function", ":", "defining", "the", "type-indexed", "function", "using", "an", "instance", "of", "the", "typecase", ".", "Collaborations", ":", "The", "typecase", "uses", "the", "structural", "cases", "in", "order", "to", "create", "a", "corresponding", "number", "of", "cases", "that", "can", "be", "used", "to", "define", "the", "type-indexed", "function", ".", "The", "dispatcher", "uses", "the", "structural", "cases", "in", "order", "to", "create", "a", "corresponding", "number", "of", "instances", "that", "will", "forward", "some", "value", "of", "that", "family", "of", "structural", "cases", "into", "the", "corresponding", "case", "in", "the", "typecase", "component", ".", "The", "type-indexed", "function", "-LRB-", "TIF", "-RRB-", "uses", "an", "instance", "of", "the", "typecase", "in", "order", "to", "implement", "the", "desired", "functionality", "for", "the", "type-indexed", "function", ".", "Implementation", ":", "Typically", ",", "a", "typecase", "component", "is", "created", "using", "the", "structural", "cases", ".", "There", "are", "three", "main", "variations", "for", "the", "implementation", "of", "a", "typecase", ":", "two", "of", "them", "are", "based", "on", "type", "classes", "and", "the", "other", "one", "on", "a", "smart", "datatype", ".", "A", "smart", "datatype", "is", "a", "parametrised", "type", "where", "the", "type", "parameters", "are", "dependent", "on", "the", "constructors", ".", "The", "idea", "of", "a", "smart", "datatype", "can", "be", "represented", "in", "various", "forms", ":", "existential", "datatypes", "with", "an", "equivalence", "type", "-LRB-", "la", "LIGD", "-RRB-", ",", "GADTs", ",", "phantom", "types", ",", "among", "others", ".", "The", "goal", "of", "this", "design", "pattern", "is", "to", "simulate", "a", "closed", "type-indexed", "function", ".", "In", "general", ",", "a", "type-indexed", "function", "f", "has", "the", "following", "structure", ".", "f", "t", ":", ":", "|", "d", "1", "...", "d", "k", ":", ":", "f", "t", "1", "a", "1", "...", "a", "i", "=", "x", "11", "...", "x", "1n", "e", "1", ".", ".", ".", "f", "t", "m", "z", "1", "...", "z", "j", "=", "x", "m1", "...", "x", "mn", "e", "m", "The", "type", "signature", "tells", "us", "that", "f", "has", "one", "type", "parameter", "t", "and", "optional", "type", "parameters", "d", "1", "...", "d", "k", "with", "the", "same", "structure", "and", "kind", "as", "t", ".", "The", "type", "of", "the", "TIF", "may", "depend", "on", "t", "and", "d", "1", "...", "d", "k", ".", "We", "should", "note", "that", "this", "is", "not", "the", "same", "as", "having", "a", "TIF", "with", "multiple", "type", "arguments", ".", "There", "is", "no", "problem", ",", "in", "principle", ",", "in", "having", "multiple-parameter", "type", "arguments", ",", "but", "it", "would", "lead", "to", "an", "explosion", "in", "the", "number", "of", "typecases", ".", "This", "would", "be", "a", "generalisation", "of", "this", "design", "pattern", ".", "For", "simplicity", ",", "we", "will", "only", "consider", "type", "parameters", "with", "the", "same", "structure", ".", "The", "usefulness", "of", "this", "simpler", "case", "is", "reflected", "in", "applications", "such", "as", "generic", "map", "where", "the", "input", "and", "output", "structures", "of", "the", "generic", "map", "function", "are", "the", "same", ".", "The", "body", "of", "f", "contains", "-LRB-", "at", "least", "-RRB-", "m", "branches", ",", "providing", "the", "behaviour", "of", "the", "TIF", "for", "each", "member", "of", "the", "family", "of", "types", "t", "-LRB-", "that", "is", ",", "t", "1", "a", "1", "...", "a", "i", ",", "...", ",", "t", "m", "z", "1", "...", "z", "j", "-RRB-", ".", "This", "family", "of", "types", "corresponds", "to", "the", "structural", "cases", "participant", "of", "the", "design", "pattern", ".", "For", "each", "branch", "of", "the", "definition", ",", "we", "bind", "possible", "variables", "x", "11", "...", "x", "1n", ",", "...", ",", "x", "m1", "...", "x", "mn", "and", "define", "each", "typecase", "of", "f", "with", "e", "1", ",", "...", ",", "e", "m", ".", "We", "now", "discuss", "the", "three", "main", "variations", "of", "the", "design", "pattern", ".", "1", ".", "Smart", "datatypes", ":", "This", "variation", "is", "inspired", "by", "the", "LIGD", "approach", ".", "Hindley-Milner", "typing", "extended", "with", "existential", "datatypes", "-LRB-", "supported", "in", "most", "Haskell", "compilers", "-RRB-", "is", "enough", "to", "encode", "it", ".", "However", ",", "with", "extensions", "such", "as", "GADTs", "-LRB-", "supported", "by", "GHC", "6.4", "-RRB-", "the", "encoding", "becomes", "much", "more", "direct", ".", "Unfortu-nately", ",", "neither", "of", "those", "extensions", "conforms", "to", "Haskell", "98", ".", "We", "will", "present", "this", "version", "of", "the", "design", "pattern", "using", "a", "GADT", "syntax", "for", "simplicity", ".", "Using", "the", "structural", "cases", "given", "by", "t", "1", "a", "1", "...", "a", "i", ",", "...", ",", "t", "m", "z", "1", "...", "z", "j", ",", "we", "can", "derive", "the", "typecase", "and", "dispatcher", "seen", "in", "Figure", "1", ".", "Since", "there", "are", "m", "structural", "cases", "in", "a", "standard", "instance", "of", "the", "design", "pattern", ",", "one", "would", "create", "m", "constructors", "c", "t", "1", ",", "...", ",", "c", "t", "m", "and", "also", "m", "instances", "for", "Rep", ".", "TIFs", "can", "now", "be", "defined", "using", "those", "components", ",", "by", "creating", "some", "function", "f", "that", "takes", "a", "first", "argument", "of", "type", "Rep", "and", "returns", "a", "value", "of", "type", ".", "101", "Smart", "Datatype", "Implicit/Explicit", "Representations", "Typecase", "data", "t", "d", "1", "...", "d", "k", "where", "c", "t", "1", ":", ":", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1k", ".", ".", ".", "c", "t", "m", ":", ":", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mk", "class", "-LRB-", "g", ":", ":", "k", "+1", "-RRB-", "where", "case", "t", "1", ":", ":", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "g", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1k", ".", ".", ".", "case", "t", "m", ":", ":", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "g", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mk", "Dispatcher", "class", "Rep", "t", "d", "1", "...", "d", "k", "where", "rep", ":", ":", "Rep", "t", "d", "1", "...", "d", "k", "instance", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "Rep", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1k", "where", "rep", "=", "c", "t", "1", "rep", "i", ".", ".", ".", "instance", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "Rep", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mk", "where", "rep", "=", "c", "t", "m", "rep", "j", "class", "Rep", "t", "d", "1", "...", "d", "k", "where", "rep", ":", ":", "g", "g", "t", "d", "1", "...", "d", "k", "instance", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "Rep", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1k", "where", "rep", "=", "case", "t", "1", "-LCB-", "rep", "i", "-RCB-", ".", ".", ".", "instance", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "Rep", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mk", "where", "rep", "=", "case", "t", "m", "-LCB-", "rep", "j", "-RCB-", "Type-indexed", "function", "f", ":", ":", "t", "d", "1", "...", "d", "k", "f", "-LRB-", "c", "t", "1", "r", "a", "1", "...", "r", "a", "i", "-RRB-", "=", "x", "11", "...", "x", "1n", "-LSB-", "-LSB-", "e", "1", "-RSB-", "-RSB-", ".", ".", ".", "f", "-LRB-", "c", "t", "m", "r", "z", "1", "...", "r", "z", "j", "-RRB-", "=", "x", "m1", "...", "x", "mn", "-LSB-", "-LSB-", "e", "m", "-RSB-", "-RSB-", "f", ":", ":", "Rep", "t", "d", "1", "...", "d", "k", "f", "=", "f", "rep", "newtype", "F", "t", "d", "1", "...", "d", "k", "=", "F", "-LCB-", "f", ":", ":", "-RCB-", "f", ":", ":", "Rep", "t", "d", "1", "...", "d", "k", "f", "=", "f", "rep", "instance", "Rep", "F", "where", "case", "t", "1", "-LCB-", "r", "a", "1", "...", "r", "a", "i", "-RCB-", "=", "x", "11", "...", "x", "1n", "-LSB-", "-LSB-", "e", "1", "-RSB-", "-RSB-", ".", ".", ".", "case", "t", "m", "-LCB-", "r", "z", "1", "...", "r", "z", "j", "-RCB-", "=", "x", "m1", "...", "x", "mn", "-LSB-", "-LSB-", "e", "m", "-RSB-", "-RSB-", "Figure", "1", ".", "The", "structure", "of", "the", "TypeCase", "design", "pattern", ".", "The", "dispatcher", "component", "is", "optional", "in", "this", "variation", ".", "The", "TIFs", "created", "with", "this", "variation", "are", "fully", "closed", "to", "extension", ";", "no", "customisation", "is", "possible", ".", "This", "means", "that", "if", "we", "want", "to", "add", "extra", "functionality", "we", "need", "to", "modify", "the", "smart", "datatype", "-LRB-", "and", "the", "dispatcher", "if", "we", "have", "one", "-RRB-", ".", "However", ",", "TIFs", "that", "call", "other", "TIFs", "are", "trivial", "to", "achieve", ";", "there", "is", "no", "need", "for", "tupling", ".", "2", ".", "Implicit", "representations", ":", "The", "implicit", "representation", "version", "of", "the", "design", "pattern", "is", "inspired", "by", "GM1", ".", "Perhaps", "surprisingly", ",", "some", "implementations", "of", "this", "instance", "require", "only", "Haskell", "98", ".", "However", ",", "if", "we", "need", "to", "have", "structurally-dependent", "variables", ",", "then", "we", "also", "require", "multiple-parameter", "type", "classes", ".", "Proceeding", "in", "a", "similar", "fashion", "to", "the", "smart", "datatype", "approach", ",", "we", "use", "the", "structural", "cases", "to", "derive", "the", "typecase", "and", "dispatcher", "seen", "in", "Figure", "1", ".", "Again", ",", "because", "we", "have", "m", "structural", "cases", ",", "we", "create", "m", "functions", "case", "t", "1", ",", "...", ",", "case", "t", "m", "and", "m", "instances", "of", "Rep", ".", "The", "dispatcher", "is", "not", "an", "optional", "component", ":", "it", "always", "needs", "to", "be", "defined", "in", "this", "variation", ".", "As", "with", "the", "smart", "datatype", "variation", ",", "TIFs", "defined", "in", "this", "way", "are", "fully", "closed", "to", "extension", ",", "and", "calls", "to", "other", "TIFs", "are", "trivial", ".", "3", ".", "Explicit", "representations", ":", "The", "explicit", "representation", "variation", "of", "the", "design", "pattern", "is", "inspired", "by", "GM2", ".", "Like", "the", "implicit", "approach", ",", "Haskell", "98", "is", "enough", "to", "handle", "the", "simpler", "forms", "-LRB-", "one", "type", "parameter", "-RRB-", ".", "However", ",", "if", "we", "discard", "the", "optional", "dispatcher", ",", "then", "Haskell", "98", "can", "handle", "all", "forms", ".", "Using", "the", "structural", "cases", "to", "derive", "the", "typecase", "and", "dispatcher", "seen", "in", "Figure", "1", ",", "we", "would", "obtain", "a", "very", "similar", "structure", "to", "the", "implicit", "representation", "version", ".", "The", "most", "noticeable", "difference", "is", "that", ",", "with", "the", "explicit", "representation", ",", "the", "definition", "of", "rep", "needs", "to", "provide", "the", "corresponding", "case", "function", "with", "the", "representations", "for", "each", "of", "its", "type", "parameters", ".", "The", "second", "difference", "is", "that", ",", "which", "corresponds", "to", "the", "representations", "of", "the", "type", "parameters", ",", "reflects", "the", "fact", "that", "we", "are", "providing", "explicit", "representations", ".", "Thus", ",", "corresponds", "in", "this", "instance", "to", "explicit", "arguments", "of", "the", "function", ",", "while", "with", "the", "implicit", "representation", "it", "corresponds", "to", "-LRB-", "implicitly", "passed", "-RRB-", "type", "class", "constraints", ".", "The", "dispatcher", "is", "an", "optional", "component", ".", "Variations", "of", "this", "instance", "of", "the", "design", "pattern", "can", "also", "be", "found", "in", "the", "literature", "-LSB-", "10", ",", "37", "-RSB-", ",", "as", "described", "in", "Section", "4.2", ".", "TIFs", "defined", "in", "this", "fashion", "are", "not", "fully", "closed", "to", "extension", ":", "it", "is", "possible", "to", "override", "default", "behaviour", ".", "However", ",", "the", "extra", "flexibility", "comes", "at", "a", "cost", ":", "recursive", "calls", "to", "other", "TIFs", "are", "not", "possible", ".", "One", "common", "solution", "for", "this", "problem", "is", "to", "tuple", "together", "into", "a", "record", "the", "mutually-dependent", "functions", ".", "Another", "possibility", "would", "be", "to", "have", "a", "notion", "of", "dependencies", ":", "if", "a", "TIF", "f", "requires", "calls", "to", "another", "TIF", "g", ",", "then", "the", "record", "that", "defines", "f", "has", "a", "field", "that", "is", "an", "instance", "of", "g.", "Although", "this", "work", "is", "quite", "tedious", ",", "L", "h", "-LSB-", "26", "-RSB-", "shows", "how", "a", "type", "system", "can", "lighten", "the", "burden", ".", "An", "associated", "problem", "for", "TIFs", "in", "this", "setting", "is", "the", "issue", "of", "composability", ".", "If", "two", "TIFs", "are", "defined", "using", "different", "instances", "-LRB-", "this", "is", ",", "they", "are", "not", "tupled", "together", "-RRB-", ",", "then", "we", "can", "not", ",", "in", "a", "straightforward", "manner", ",", "use", "the", "same", "representation", "to", "compose", "them", ".", "To", "illustrate", "the", "problem", ",", "consider", ":", "newtype", "F", "v", "1", "...", "v", "n", "=", "F", "-LCB-", "f", ":", ":", "-RCB-", "newtype", "G", "v", "1", "...", "v", "n", "=", "G", "-LCB-", "g", ":", ":", "-RCB-", "instance", "Generic", "F", "where", "...", "instance", "Generic", "G", "where", "...", "Now", "let", "us", "suppose", "that", "we", "define", "a", "type-indexed", "abstraction", "-LRB-", "that", "is", ",", "a", "function", "that", "uses", "one", "or", "more", "TIFs", "and", "is", "not", "defined", "over", "the", "structure", "of", "types", "-RRB-", ":", "h", "rep", "=", "...", "f", "rep", "...", "g", "rep", "...", "The", "interpretation", "of", "this", "definition", "as", "a", "type-indexed", "function", "could", "be", "thought", "of", "as", ":", "h", "a", "=", "...", "f", "a", "...", "g", "a", "...", ".", "While", "this", "is", "a", "perfectly", "reasonable", "interpretation", ",", "in", "practice", "f", "requires", "inconsistent", "types", "F", "v", "1", "...", "v", "n", "and", "G", "v", "1", "...", "v", "n", "for", "rep", ":", "F", "and", "G", "are", "two", "different", "type", "constructors", ",", "so", "in", "a", "Hindley-Milner", "type", "system", ",", "unification", "obviously", "fails", ".", "However", ",", "F", "and", "G", "do", "have", "something", "in", "common", ".", "In", "particular", ",", "they", "are", "both", "102", "instances", "of", "Generic", ".", "So", ",", "in", "Haskell", "extended", "with", "higher-order", "polymorphism", ",", "we", "can", "capture", "this", "relation", "with", "a", "rank-2", "type", ",", "thus", "providing", "a", "possible", "solution", "for", "the", "problem", "of", "composability", ".", "h", ":", ":", "-LRB-", "g.", "Generic", "g", "g", "v", "1", "...", "v", "n", "-RRB-", "h", "rep", "=", "...", "f", "rep", "...", "g", "rep", "...", "We", "should", "note", "that", "even", "though", "we", "have", "presented", "three", "main", "variations", "of", "the", "design", "pattern", ",", "the", "concept", "of", "a", "design", "pattern", "is", ",", "by", "itself", ",", "quite", "informal", "and", "thus", "prone", "to", "different", "interpretations", ".", "For", "instance", ",", "as", "we", "will", "see", "later", ",", "applications", "of", "the", "pattern", "-LRB-", "such", "as", "GM", "-RRB-", "can", "have", "more", "type", "cases", "than", "there", "are", "datatype", "variants", ",", "because", "some", "cases", "overlap", ".", "It", "is", "important", "to", "note", "that", ",", "depending", "on", "the", "context", "of", "a", "problem", ",", "a", "design", "pattern", "can", "be", "adapted", "to", "better", "fit", "that", "problem", ".", "We", "present", "two", "applications", "of", "the", "design", "pattern", ".", "In", "Section", "4.1", ",", "still", "within", "the", "context", "of", "generic", "programming", ",", "we", "show", "how", "one", "can", "build", "a", "library", "inspired", "by", "PolyP", "-LSB-", "21", ",", "22", "-RSB-", "but", "working", "in", "Haskell", "98", ".", "In", "Section", "4.2", ",", "we", "present", "a", "very", "flexible", "version", "of", "a", "C-style", "printf", "function", ".", "4.1", "Light", "PolyP", "It", "probably", "comes", "as", "no", "surprise", "to", "the", "reader", "that", "the", "technique", "introduced", "in", "GM", "and", "LIGD", "can", "be", "applied", "to", "other", "generic", "programming", "approaches", "as", "well", ".", "PolyP", "was", "one", "of", "the", "first", "attempts", "to", "produce", "a", "generic", "programming", "language", ".", "It", "is", "a", "simpler", "language", "than", "Generic", "Haskell", ",", "working", "in", "a", "much", "more", "restricted", "family", "of", "datatypes", ",", "namely", "one-parameter", "regular", "types", ".", "But", "this", "restriction", "allows", "stronger", "properties", "to", "be", "stated", ":", "its", "simplicity", "and", "strong", "theoretical", "background", "make", "it", "an", "appropriate", "language", "for", "teaching", "both", "the", "theory", "-LSB-", "3", "-RSB-", "and", "practice", "of", "generic", "programming", ".", "Our", "proposal", "Light", "PolyP", "encourages", "this", ",", "because", "no", "external", "PolyP", "compiler", "is", "required", "-LRB-", "although", "one", "might", "still", "be", "desirable", ",", "for", "a", "more", "convenient", "syntax", "-RRB-", ".", "Norell", "-LSB-", "30", "-RSB-", "shows", "how", "to", "use", "the", "Haskell", "type", "class", "system", "-LRB-", "extended", "with", "multiple-parameter", "type", "classes", "and", "functional", "dependencies", "-RRB-", "to", "obtain", "first-class", "PolyP", "generic", "functions", "in", "Haskell", ".", "In", "this", "section", ",", "we", "will", "present", "a", "``", "lighter", "''", "version", "of", "PolyP", ",", "requiring", "only", "Haskell", "98", "-LRB-", "without", "extensions", "such", "as", "multiple-parameter", "type", "classes", "and", "functional", "dependencies", "-RRB-", "but", "with", "the", "same", "expressive", "power", ".", "Instead", "of", "using", "sums", "of", "products", "like", "LAGP", "or", "Generic", "Haskell", ",", "PolyP", "uses", "lifted", "pattern", "functors", "as", "structural", "cases", ".", "The", "pattern", "functors", "Empty", ",", "Plus", "and", "Prod", "have", "counterparts", "in", "LAGP", ".", "The", "pattern", "functors", "Rep", "and", "Par", "correspond", "respectively", "to", "the", "recursive", "argument", "and", "the", "parameter", "of", "the", "unary", "regular", "datatype", ".", "The", "pattern", "functor", "Const", "t", "for", "some", "type", "t", "represents", "the", "constant", "functor", ",", "and", "Comp", "handles", "the", "composition", "of", "functors", "required", "for", "regular", "types", ".", "data", "Empty", "p", "r", "=", "Empty", "data", "Plus", "g", "h", "p", "r", "=", "Inl", "-LRB-", "g", "p", "r", "-RRB-", "|", "Inr", "-LRB-", "h", "p", "r", "-RRB-", "data", "Prod", "g", "h", "p", "r", "=", "Prod", "-LRB-", "g", "p", "r", "-RRB-", "-LRB-", "h", "p", "r", "-RRB-", "newtype", "Par", "p", "r", "=", "Par", "-LCB-", "unPar", ":", ":p", "-RCB-", "newtype", "Rec", "p", "r", "=", "Rec", "-LCB-", "unRec", ":", ":", "r", "-RCB-", "newtype", "Comp", "d", "h", "p", "r", "=", "Comp", "-LCB-", "unComp", ":", ":", "d", "-LRB-", "h", "p", "r", "-RRB-", "-RCB-", "newtype", "Const", "t", "p", "r", "=", "Const", "-LCB-", "unConst", ":", ":", "t", "-RCB-", "The", "equivalence", "type", "is", "used", "to", "establish", "the", "isomorphism", "between", "a", "regular", "datatype", "and", "its", "top-level", "structure", ".", "The", "embedding/projection", "functions", "are", "traditionally", "called", "inn", "and", "out", ".", "data", "Iso", "a", "b", "=", "Iso", "-LCB-", "inn", ":", ":", "a", "b", ",", "out", ":", ":", "b", "a", "-RCB-", "listIso", "=", "Iso", "inL", "outL", "where", "inL", "-LRB-", "Inl", "Empty", "-RRB-", "=", "-LSB-", "-RSB-", "inL", "-LRB-", "Inr", "-LRB-", "Prod", "-LRB-", "Par", "x", "-RRB-", "-LRB-", "Rec", "xs", "-RRB-", "-RRB-", "-RRB-", "=", "x", ":", "xs", "outL", "-LSB-", "-RSB-", "=", "Inl", "Empty", "outL", "-LRB-", "x", ":", "xs", "-RRB-", "=", "Inr", "-LRB-", "Prod", "-LRB-", "Par", "x", "-RRB-", "-LRB-", "Rec", "xs", "-RRB-", "-RRB-", "In", "PolyP", "no", "generic", "customisation", "is", "allowed", ",", "thus", "we", "can", "use", "an", "implicit", "representation", "version", "of", "the", "design", "pattern", "and", "consequently", ",", "it", "is", "possible", "for", "one", "generic", "function", "to", "use", "other", "generic", "functions", "in", "its", "definition", ".", "The", "typecase", "component", "corresponds", "to", ":", "class", "Generic", "f", "where", "empty", ":", ":", "f", "Empty", "plus", ":", ":", "-LRB-", "Rep", "g", ",", "Rep", "h", "-RRB-", "f", "-LRB-", "Plus", "g", "h", "-RRB-", "prod", ":", ":", "-LRB-", "Rep", "g", ",", "Rep", "h", "-RRB-", "f", "-LRB-", "Prod", "g", "h", "-RRB-", "par", ":", ":", "f", "Par", "rec", ":", ":", "f", "Rec", "comp", ":", ":", "-LRB-", "Functor", "d", ",", "Rep", "h", "-RRB-", "f", "-LRB-", "Comp", "d", "h", "-RRB-", "constant", ":", ":", "f", "-LRB-", "Const", "t", "-RRB-", "The", "dispatcher", "simply", "selects", "the", "corresponding", "case", "based", "on", "the", "type", "of", "the", "argument", "of", "the", "generic", "function", "g.", "class", "Rep", "g", "where", "rep", ":", ":", "Generic", "f", "f", "g", "instance", "Rep", "Empty", "where", "rep", "=", "empty", "instance", "-LRB-", "Rep", "g", ",", "Rep", "h", "-RRB-", "Rep", "-LRB-", "Plus", "g", "h", "-RRB-", "where", "rep", "=", "plus", "instance", "-LRB-", "Rep", "g", ",", "Rep", "h", "-RRB-", "Rep", "-LRB-", "Prod", "g", "h", "-RRB-", "where", "rep", "=", "prod", "instance", "Rep", "Par", "where", "rep", "=", "par", "instance", "Rep", "Rec", "where", "rep", "=", "rec", "instance", "-LRB-", "Functor", "d", ",", "Rep", "h", "-RRB-", "Rep", "-LRB-", "Comp", "d", "h", "-RRB-", "where", "rep", "=", "comp", "instance", "Rep", "-LRB-", "Const", "t", "-RRB-", "where", "rep", "=", "constant", "Like", "GM", ",", "defining", "a", "generic", "function", "is", "a", "matter", "of", "declaring", "a", "record", "with", "a", "single", "field", ",", "a", "function", "of", "the", "appropriate", "type", ".", "As", "an", "example", ",", "we", "could", "define", "fmap2", ",", "the", "map", "operation", "for", "binary", "functors", ",", "as", "follows", ".", "newtype", "FMap2", "a", "b", "c", "d", "f", "=", "FMap2", "-LCB-", "appFMap2", ":", ":", "-LRB-", "a", "c", "-RRB-", "-LRB-", "b", "d", "-RRB-", "f", "a", "b", "f", "c", "d", "-RCB-", "instance", "Generic", "-LRB-", "FMap2", "a", "b", "c", "d", "-RRB-", "where", "empty", "=", "FMap2", "-LRB-", "Empty", "-RRB-", "plus", "=", "FMap2", "-LRB-", "f", "g", "t", "case", "t", "of", "Inl", "x", "Inl", "-LRB-", "fmap2", "f", "g", "x", "-RRB-", "Inr", "y", "Inr", "-LRB-", "fmap2", "f", "g", "y", "-RRB-", "-RRB-", "prod", "=", "FMap2", "-LRB-", "f", "g", "t", "case", "t", "of", "Prod", "x", "y", "Prod", "-LRB-", "fmap2", "f", "g", "x", "-RRB-", "-LRB-", "fmap2", "f", "g", "y", "-RRB-", "-RRB-", "par", "=", "FMap2", "-LRB-", "f", "g", "-LRB-", "Par", "t", "-RRB-", "Par", "-LRB-", "f", "t", "-RRB-", "-RRB-", "rec", "=", "FMap2", "-LRB-", "f", "g", "-LRB-", "Rec", "t", "-RRB-", "Rec", "-LRB-", "g", "t", "-RRB-", "-RRB-", "comp", "=", "FMap2", "-LRB-", "f", "g", "-LRB-", "Comp", "t", "-RRB-", "Comp", "-LRB-", "fmap", "-LRB-", "fmap2", "f", "g", "-RRB-", "t", "-RRB-", "-RRB-", "constant", "=", "FMap2", "-LRB-", "-LRB-", "Const", "t", "-RRB-", "-LRB-", "Const", "t", "-RRB-", "-RRB-", "fmap2", ":", ":", "Rep", "f", "-LRB-", "a", "c", "-RRB-", "-LRB-", "b", "d", "-RRB-", "f", "a", "b", "f", "c", "d", "fmap2", "=", "appFMap2", "rep", "With", "fmap2", "it", "is", "now", "possible", "to", "define", "several", "widely-applicable", "recursion", "operators", "-LSB-", "28", ",", "14", "-RSB-", "using", "PolyP", ".", "For", "example", ",", "the", "cata-morphism", "operator", "could", "be", "defined", "as", ":", "cata", "iso", "f", "=", "f", "fmap2", "id", "-LRB-", "cata", "iso", "f", "-RRB-", "out", "iso", "Note", "that", "one", "must", "give", "explicitly", "the", "isomorphism", "that", "converts", "between", "the", "datatype", "and", "its", "representation", ".", "This", "contrasts", "with", "the", "original", "PolyP", "approach", ",", "in", "which", "that", "translation", "is", "inferred", ".", "This", "is", "the", "common", "trade-off", "of", "brevity", "for", "flexibility", ";", "being", "forced", "to", "state", "the", "isomorphism", "allows", "the", "programmer", "to", "choose", "a", "different", "one", ",", "giving", "something", "analogous", "to", "Wadler", "'s", "ideas", "about", "103", "views", "-LSB-", "34", "-RSB-", ".", "We", "might", "say", "that", "this", "style", "of", "generic", "programming", "is", "isomorphism-parametrised", "instead", "of", "datatype-parametrised", ".", "In", "the", "original", "PolyP", ",", "the", "polytypic", "construct", "provides", "a", "convenient", "syntax", "for", "encoding", "generic", "functions", ".", "Furthermore", ",", "combinators", "for", "pointfree", "programming", "may", "be", "provided", ",", "making", "generic", "definitions", "even", "more", "compact", ".", "These", "combinators", "are", "just", "normal", "Haskell", "functions", ",", "and", "so", "there", "is", "no", "problem", "in", "implementing", "them", "in", "pure", "Haskell", ";", "but", "to", "keep", "the", "example", "short", ",", "we", "have", "stuck", "with", "pointwise", "definitions", ".", "The", "advantages", "of", "this", "translation", "when", "compared", "with", "the", "one", "proposed", "in", "-LSB-", "30", "-RSB-", "are", "that", "it", "requires", "only", "Haskell", "98", ",", "and", "that", "the", "types", "of", "the", "generic", "functions", "are", "much", "closer", "to", "what", "one", "would", "expect", ".", "In", "Norell", "'s", "translation", ",", "the", "type", "class", "constraints", "posed", "some", "problems", "because", "both", "the", "two-parameter", "class", "FunctorOf", "and", "the", "classes", "for", "the", "generic", "functions", "propagated", "throughout", "the", "code", ".", "With", "the", "Light", "PolyP", "approach", ",", "only", "instances", "of", "Rep", "propagate", ",", "leading", "usually", "to", "just", "one", "type", "class", "constraint", ".", "4.2", "Printf", "The", "C-style", "printf", "function", ",", "which", "takes", "a", "variable", "number", "of", "parameters", ",", "has", "always", "been", "a", "challenge", "for", "programmers", "using", "strongly", "and", "statically", "typed", "languages", ".", "The", "problem", "with", "printf", "is", "that", ",", "in", "its", "true", "essence", ",", "it", "requires", "dependent", "types", ".", "This", "happens", "because", "the", "value", "of", "the", "format", "string", "determines", "the", "type", "of", "the", "function", ".", "However", ",", "it", "has", "been", "shown", "by", "Danvy", "-LSB-", "10", "-RSB-", "that", "by", "changing", "the", "representation", "of", "the", "control", "string", "it", "is", "possible", "to", "encode", "printf", "in", "any", "language", "supporting", "a", "standard", "Hindley-Milner", "type", "system", ".", "4.2.1", "A", "solution", "using", "explicit", "representations", "In", "this", "section", ",", "we", "will", "demonstrate", "that", "Danvy", "'s", "solution", "is", "another", "instance", "of", "the", "TypeCase", "design", "pattern", ",", "using", "an", "explicit", "representation", ".", "Furthermore", ",", "we", "will", "show", "a", "new", "use", "of", "the", "printf", "function", "by", "making", "use", "of", "the", "fact", "that", "we", "can", "-LRB-", "in", "some", "cases", "-RRB-", "infer", "the", "format", "string", ".", "Danvy", "'s", "original", "solution", "had", "the", "following", "combinators", ":", "lit", ":", ":", "String", "-LRB-", "String", "a", "-RRB-", "String", "a", "lit", "x", "k", "s", "=", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "eol", ":", ":", "-LRB-", "String", "a", "-RRB-", "String", "a", "eol", "k", "s", "=", "k", "-LRB-", "s", "+", "+", "''", "\\", "n", "''", "-RRB-", "int", ":", ":", "-LRB-", "String", "a", "-RRB-", "String", "Int", "a", "int", "k", "s", "x", "=", "k", "-LRB-", "s", "+", "+", "show", "x", "-RRB-", "str", ":", ":", "-LRB-", "String", "a", "-RRB-", "String", "String", "a", "str", "k", "s", "x", "=", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "eod", ":", ":", "String", "String", "eod", "=", "id", "If", "we", "capture", "all", "the", "occurrences", "of", "the", "form", "String", "t", "with", "a", "newtype", "Printf", ",", "and", "modify", "the", "definitions", "in", "order", "to", "reflect", "this", "newtype", ",", "we", "obtain", "the", "following", "code", ".", "newtype", "Printf", "t", "=", "Printf", "-LCB-", "printfApp", ":", ":", "String", "t", "-RCB-", "lit", ":", ":", "String", "Printf", "a", "Printf", "a", "lit", "x", "k", "=", "Printf", "-LRB-", "s", "printfApp", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "-RRB-", "eol", ":", ":", "Printf", "a", "Printf", "a", "eol", "k", "=", "Printf", "-LRB-", "s", "printfApp", "k", "-LRB-", "s", "+", "+", "''", "\\", "n", "''", "-RRB-", "-RRB-", "int", ":", ":", "Printf", "a", "Printf", "-LRB-", "Int", "a", "-RRB-", "int", "k", "=", "Printf", "-LRB-", "s", "x", "printfApp", "k", "-LRB-", "s", "+", "+", "show", "x", "-RRB-", "-RRB-", "str", ":", ":", "Printf", "a", "Printf", "-LRB-", "String", "a", "-RRB-", "str", "k", "=", "Printf", "-LRB-", "s", "x", "printfApp", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "-RRB-", "eod", ":", ":", "Printf", "String", "eod", "=", "Printf", "id", "Taking", "one", "step", "further", ",", "we", "can", "now", "abstract", "over", "Printf", "and", "create", "a", "type", "class", "that", "replaces", "it", "with", "some", "functor", "f", ".", "class", "Format", "f", "where", "lit", ":", ":", "String", "f", "r", "f", "r", "eol", ":", ":", "f", "r", "f", "r", "int", ":", ":", "f", "r", "f", "-LRB-", "Int", "r", "-RRB-", "str", ":", ":", "f", "r", "f", "-LRB-", "String", "r", "-RRB-", "eod", ":", ":", "f", "String", "With", "this", "last", "transformation", ",", "we", "can", "start", "seeing", "an", "instance", "of", "the", "TypeCase", "design", "pattern", ".", "The", "structural", "cases", "participant", "consists", "of", "functions", "of", "the", "form", "Int", "r", "or", "String", "r", ",", "or", "a", "String", "--", "lit", "and", "eol", "are", "overlapping", "cases", ".", "The", "class", "Format", "constitutes", "the", "typecase", "participant", ".", "Because", "the", "dispatcher", "is", "optional", "in", "explicit", "versions", "of", "the", "design", "pattern", ",", "there", "is", "no", "obligation", "to", "define", "it", ".", "Now", ",", "using", "the", "newtype", "Printf", ",", "we", "can", "define", "an", "instance", "of", "Format", "that", "implements", "the", "functionality", "of", "printf", ".", "instance", "Format", "Printf", "where", "lit", "x", "k", "=", "Printf", "-LRB-", "s", "printfApp", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "-RRB-", "eol", "k", "=", "Printf", "-LRB-", "s", "printfApp", "k", "-LRB-", "s", "+", "+", "''", "\\", "n", "''", "-RRB-", "-RRB-", "int", "k", "=", "Printf", "-LRB-", "s", "x", "printfApp", "k", "-LRB-", "s", "+", "+", "show", "x", "-RRB-", "-RRB-", "str", "k", "=", "Printf", "-LRB-", "s", "x", "printfApp", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "-RRB-", "eod", "=", "Printf", "id", "The", "final", "touch", "is", "provided", "by", "the", "definition", "of", "printf", "in", "terms", "of", "printfApp", ".", "The", "printf", "function", "is", "expected", "to", "receive", "the", "formatting", "argument", "of", "type", "Printf", "t", "as", "its", "first", "parameter", ".", "The", "parameter", "t", "defines", "the", "type", "of", "printf", ",", "which", "can", "involve", "a", "variable", "number", "of", "arguments", ".", "Analysing", "the", "type", "of", "printfApp", ",", "we", "see", "that", "the", "first", "parameter", "is", "the", "formatting", "argument", ",", "the", "resulting", "type", "is", "the", "type", "that", "we", "expect", "for", "printf", ",", "and", "there", "is", "a", "second", "argument", "which", "is", "a", "String", ".", "Now", ",", "what", "does", "that", "String", "represent", "?", "Danvy", "'s", "solution", "uses", "a", "continuation-passing", "style", "and", "the", "second", "argument", "of", "printfApp", "corresponds", "to", "the", "value", "fed", "to", "the", "initial", "continuation", ".", "Thus", "using", "the", "string", "''", "''", "for", "that", "argument", "does", "the", "trick", ".", "printf", ":", ":", "Printf", "t", "t", "printf", "p", "=", "printfApp", "p", "''", "''", "We", "have", "shown", ",", "informally", ",", "that", "Danvy", "'s", "solution", "is", "indeed", "an", "instance", "of", "the", "TypeCase", "design", "pattern", ".", "However", ",", "some", "questions", "might", "be", "asked", "at", "this", "point", ".", "Do", "we", "really", "need", "to", "create", "a", "class", "in", "order", "to", "implement", "printf", "?", "What", "other", "instances", "of", "the", "class", "would", "we", "be", "able", "to", "provide", "?", "In", "fact", "there", "are", "not", "many", "other", "uses", "for", "the", "type", "class", ";", "printf", "seems", "to", "be", "the", "only", "natural", "instance", ".", "Perhaps", "we", "could", "consider", "scanf", ",", "another", "C", "function", "that", "uses", "the", "same", "format", "string", ";", "but", "the", "derived", "type", "for", "scanf", "would", "be", "different", ",", "and", "so", "it", "is", "not", "possible", "to", "reuse", "the", "same", "type", "class", ".", "Another", "possibility", "would", "be", "considering", "other", "versions", "of", "printf", ",", "such", "as", "one", "for", "the", "IO", "monad", ".", "However", ",", "if", "we", "think", "that", "printf", "is", "really", "the", "only", "useful", "instance", "of", "the", "type", "class", ",", "why", "not", "get", "rid", "of", "the", "type", "class", "all", "together", "?", "A", "design", "pattern", "is", "a", "flexible", "design", ",", "and", "depending", "on", "the", "context", "of", "the", "problem", ",", "it", "can", "be", "adapted", "to", "fit", "the", "problem", ".", "If", "a", "type-indexed", "function", "is", "used", "at", "just", "one", "type", "index", ",", "it", "is", "reasonable", "to", "simplify", "the", "pattern", "and", "eliminate", "the", "type", "class", ".", "The", "result", "would", "be", "the", "specialised", "solution", "using", "the", "newtype", "Printf", "t", "presented", "before", ".", "We", "could", "go", "even", "further", "and", "argue", "that", "Danvy", "'s", "original", "solution", "is", "already", "an", "instance", "of", "the", "design", "pattern", ",", "corresponding", "to", "one", "further", "simplification", "of", "the", "design", "pattern", ",", "namely", "getting", "rid", "of", "the", "newtype", ".", "4.2.2", "An", "alternative", "solution", "using", "smart", "datatypes", "In", "the", "previous", "section", ",", "we", "have", "argued", "that", "Danvy", "'s", "version", "of", "printf", "is", "an", "instance", "of", "the", "TypeCase", "design", "pattern", ".", "However", ",", "Danvy", "'s", "solution", "and", "explanation", "for", "printf", "is", "not", ",", "perhaps", ",", "very", "intuitive", "to", "understand", ".", "In", "this", "section", ",", "we", "take", "a", "different", "perpective", "and", "will", "look", "at", "the", "formatting", "parameter", "of", "printf", "as", "a", "special", "kind", "of", "list", ".", "This", "perpective", "corresponds", "to", "an", "instance", "of", "the", "design", "pattern", "using", "a", "smart", "datatype", ".", "The", "datatype", "-LRB-", "the", "typecase", "participant", "-RRB-", "encodes", "a", "list", ",", "which", "has", "an", "empty", "case", "that", "corres-104", "ponds", "to", "the", "combinator", "eod", ",", "and", "a", "number", "of", "recursive", "cases", "that", "correspond", "to", "lit", ",", "eol", ",", "int", "and", "str", ".", "data", "Printf", "t", "where", "Lit", ":", ":", "String", "Printf", "t", "Printf", "t", "Eol", ":", ":", "Printf", "t", "Printf", "t", "Int", ":", ":", "Printf", "t", "Printf", "-LRB-", "Int", "t", "-RRB-", "Str", ":", ":", "Printf", "t", "Printf", "-LRB-", "String", "t", "-RRB-", "Eod", ":", ":", "Printf", "String", "Informally", "speaking", ",", "we", "have", "reused", "the", "types", "from", "the", "newtype", "solution", "and", "lifted", "the", "functions", "to", "constructors", ".", "However", ",", "using", "a", "datatype", "instead", "of", "a", "number", "of", "functions", "makes", "it", "easier", "to", "view", "the", "format", "parameter", "of", "printf", "as", "a", "list", ".", "For", "instance", ",", "the", "Lit", "constructor", "takes", "the", "literal", "string", "that", "we", "wish", "to", "print", "and", "also", "the", "list", "corresponding", "to", "the", "rest", "of", "the", "format", "parameter", "of", "printf", ".", "The", "printfApp", "from", "the", "previous", "section", "would", ",", "in", "this", "setting", ",", "correspond", "to", "a", "dependently-typed", "function", "-LRB-", "in", "the", "sense", "that", "the", "types", "of", "its", "branches", "are", "determined", "by", "the", "constructors", "used", "to", "perform", "pattern", "matching", "-RRB-", ".", "printfApp", ":", ":", "Printf", "t", "String", "t", "printfApp", "-LRB-", "Lit", "x", "k", "-RRB-", "s", "=", "printfApp", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "printfApp", "-LRB-", "Eol", "k", "-RRB-", "s", "=", "printfApp", "k", "-LRB-", "s", "+", "+", "''", "\\", "n", "''", "-RRB-", "printfApp", "-LRB-", "Int", "k", "-RRB-", "s", "=", "-LRB-", "x", "printfApp", "k", "-LRB-", "s", "+", "+", "show", "x", "-RRB-", "-RRB-", "printfApp", "-LRB-", "Str", "k", "-RRB-", "s", "=", "-LRB-", "x", "printfApp", "k", "-LRB-", "s", "+", "+", "x", "-RRB-", "-RRB-", "printfApp", "Eod", "s", "=", "s", "The", "final", "step", "is", "to", "define", "printf", ".", "Little", "effort", "is", "required", ";", "we", "just", "need", "to", "copy", "the", "definition", "of", "printf", "from", "the", "previous", "section", ".", "The", "only", "apparent", "difference", "between", "the", "two", "versions", "is", "that", ",", "where", "the", "first", "version", "uses", "functions", "like", "lit", "and", "int", ",", "this", "version", "uses", "constructors", "like", "Lit", "and", "Int", ".", "However", ",", "despite", "the", "similarity", "of", "the", "two", "solutions", ",", "their", "expressive", "power", "is", "not", "the", "same", ".", "The", "smart", "datatype", "solution", "in", "this", "section", "is", "fully", "closed", "to", "extension", ".", "That", "is", ",", "in", "order", "to", "add", "another", "case", "in", "the", "formatting", "list", ",", "such", "as", "a", "constructor", "Chr", "that", "handles", "characters", ",", "we", "would", "need", "to", "modify", "the", "GADT", "itself", ".", "On", "the", "other", "hand", ",", "the", "solution", "in", "the", "previous", "section", "using", "the", "explicit", "version", "of", "the", "design", "pattern", "allows", "some", "form", "of", "extensibility", ".", "Adding", "a", "new", "case", "for", "printf", "that", "handles", "characters", "corresponds", "to", "adding", "a", "new", "function", ",", "which", "could", "even", "be", "in", "a", "different", "module", ".", "4.2.3", "Making", "use", "of", "a", "dispatcher", "The", "two", "solutions", "that", "we", "presented", "did", "not", "make", "any", "use", "of", "a", "dispatcher", ".", "In", "this", "section", "we", "will", "show", "how", "the", "dispatcher", "can", "be", "useful", ".", "The", "version", "of", "the", "dispatcher", "presented", "here", "is", "for", "the", "explicit", "representation", "solution", "in", "Section", "4.2.1", ",", "but", "could", "be", "easily", "adapted", "to", "the", "smart", "datatype", "solution", "in", "Section", "4.2.2", ".", "Suppose", "that", "we", "want", "to", "define", "a", "function", "that", "prints", "a", "pair", "of", "integers", ".", "Equipped", "with", "printf", ",", "we", "could", "try", "to", "encode", "that", "with", "either", "one", "of", "the", "following", "two", "functions", ".", "printPair", "x", "y", "=", "printf", "fmt", "''", "-LRB-", "''", "x", "''", ",", "''", "y", "''", "-RRB-", "''", "where", "fmt", "=", "str", "$", "int", "$", "str", "$", "int", "$", "str", "$", "eod", "printPair2", "x", "y", "=", "printf", "fmt", "x", "y", "where", "fmt", "=", "lit", "''", "-LRB-", "''", "$", "int", "$", "lit", "''", ",", "''", "$", "int", "$", "lit", "''", "-RRB-", "''", "$", "eod", "The", "function", "printPair", "tackles", "the", "problem", "using", "a", "printf", "that", "takes", "a", "format", "argument", "expecting", "five", "arguments", ":", "three", "strings", "and", "two", "integers", ".", "The", "function", "printPair2", ",", "on", "the", "other", "hand", ",", "makes", "use", "of", "the", "fact", "that", "the", "string", "arguments", "are", "constants", ",", "and", "uses", "lit", "instead", ".", "Thus", ",", "in", "this", "case", ",", "printf", "takes", "the", "format", "argument", "and", "two", "integer", "arguments", ".", "Although", "relatively", "compact", ",", "the", "format", "argument", "is", "not", "as", "convenient", "to", "use", "as", "it", "would", "be", "in", "C", ",", "where", "one", "would", "write", "something", "like", "''", "-LRB-", "%", "d", ",", "%", "d", "-RRB-", "''", ".", "The", "role", "of", "the", "dispatcher", "is", "to", "infer", "automatically", "the", "corresponding", "type", "representation", "for", "some", "type", "t", ".", "In", "the", "case", "of", "printf", ",", "it", "is", "not", "possible", "to", "infer", "all", "possible", "representations", ".", "Consider", ",", "for", "instance", ",", "the", "end", "of", "line", "case", "eol", ":", ":", "f", "r", "f", "r", ",", "which", "takes", "an", "existing", "format", "with", "some", "type", "r", ",", "adds", "a", "newline", "and", "returns", "a", "format", "of", "the", "same", "type", ".", "Clearly", ",", "there", "is", "no", "way", "to", "deduce", "that", "there", "is", "an", "occurrence", "of", "eol", "based", "on", "the", "type", "alone", ".", "Similarly", ",", "the", "lit", "case", "has", "no", "effect", "on", "the", "type", ".", "Nevertheless", ",", "the", "other", ",", "more", "type-informative", ",", "cases", "of", "printf", "can", "be", "inferred", ".", "class", "Rep", "t", "where", "rep", ":", ":", "Format", "f", "f", "t", "instance", "Rep", "String", "where", "rep", "=", "eod", "instance", "Rep", "r", "Rep", "-LRB-", "Int", "r", "-RRB-", "where", "rep", "=", "int", "rep", "instance", "Rep", "r", "Rep", "-LRB-", "String", "r", "-RRB-", "where", "rep", "=", "str", "rep", "We", "should", "note", "that", "these", "instance", "declarations", "are", "outside", "the", "scope", "of", "Haskell", "98", "--", "types", "are", "used", "where", "type", "variables", "should", "occur", ".", "However", ",", "this", "is", "a", "quite", "mild", "extension", ",", "and", "is", "supported", "by", "most", "Haskell", "compilers", ".", "Making", "use", "of", "the", "fact", "that", "now", "we", "can", "infer", "some", "cases", "of", "the", "string", "format", ",", "we", "could", "define", ":", "printPair", ":", ":", "Int", "Int", "String", "printPair", "x", "y", "=", "printf", "rep", "''", "-LRB-", "''", "x", "''", ",", "''", "y", "''", "-RRB-", "''", "printTrio", ":", ":", "Int", "Int", "Int", "String", "printTrio", "x", "y", "z", "=", "printf", "rep", "''", "-LRB-", "''", "x", "''", ",", "''", "y", "''", ",", "''", "z", "''", "-RRB-", "''", "The", "function", "printPair", "does", "the", "same", "as", "before", ".", "However", ",", "with", "this", "new", "definition", ",", "the", "format", "directive", "is", "automatically", "inferred", ".", "The", "function", "printTrio", "is", "doing", "the", "same", "as", "printPair", ",", "except", "that", "it", "does", "it", "for", "triples", ".", "We", "should", "emphasise", "that", "the", "occurrences", "of", "printf", "in", "those", "two", "functions", "use", "different", "numbers", "of", "arguments", ".", "We", "should", "also", "mention", "that", ",", "in", "some", "situations", ",", "we", "will", "need", "to", "provide", "explicit", "types", ",", "otherwise", "the", "type", "checker", "would", "not", "be", "able", "to", "infer", "the", "correct", "instances", "of", "the", "type", "class", "Rep.", "This", "use", "of", "printf", "seems", "to", "be", "practical", ",", "and", "for", "this", "simple", "version", "of", "it", "we", "might", "even", "argue", "that", "everything", "that", "we", "could", "do", "with", "a", "manually-provided", "parameter", "could", "be", "done", "with", "an", "automatically-inferred", "one", ".", "We", "simply", "do", "not", "need", "lit", "and", "eol", ",", "because", "those", "can", "be", "simulated", "using", "str", "-LRB-", "with", ",", "of", "course", ",", "extra", "String", "arguments", "-RRB-", ".", "Nevertheless", ",", "if", "we", "decided", "to", "go", "for", "a", "more", "powerful", "version", "of", "printf", ",", "this", "might", "not", "be", "the", "case", ".", "Consider", ",", "for", "instance", ",", "the", "formatting", "directive", "''", "%", "2d", "''", ".", "In", "this", "case", "the", "number", "2", "is", "specifying", "the", "minimum", "width", "of", "the", "string", "that", "represents", "that", "number", ".", "If", "we", "wanted", "to", "allow", "this", "kind", "of", "behaviour", ",", "we", "could", "add", "an", "extra", "parameter", "of", "type", "Int", "to", "the", "int", "case", ".", "However", ",", "the", "problem", "now", "is", "to", "choose", "a", "value", "for", "that", "parameter", "when", "we", "automatically", "build", "the", "format", "directive", ".", "In", "this", "case", "we", "need", "to", "use", "some", "default", "value", "-LRB-", "for", "instance", "1", "-RRB-", ".", "However", "we", "are", "no", "longer", "able", ",", "for", "all", "possible", "cases", ",", "to", "simulate", "the", "functionality", "of", "printf", "with", "manual", "format", "strings", "using", "only", "automatically-built", "ones", ".", "Until", "now", "we", "have", "been", "discussing", "type-indexed", "functions", ",", "that", "is", ",", "families", "of", "functions", "indexed", "by", "types", ".", "We", "turn", "now", "to", "type-indexed", "types", ",", "that", "is", ",", "families", "of", "types", "indexed", "by", "types", ".", "In", "the", "context", "of", "generic", "programming", ",", "we", "call", "these", "generic", "types", ".", "Generic", "functions", "with", "generic", "types", "are", "functions", "that", "have", "different", "result", "types", "for", "each", "structural", "case", ".", "In", "this", "section", ",", "we", "will", "show", "how", "to", "implement", "type-indexed", "types", "as", "another", "variation", "of", "the", "TypeCase", "design", "pattern", ".", "We", "do", "this", "by", "translating", "a", "standard", "example", "of", "Generic", "Haskell", "-LSB-", "20", "-RSB-", ",", "namely", "generic", "tries", "-LSB-", "17", "-RSB-", ",", "into", "our", "approach", ".", "105", "5.1", "Encoding", "type-indexed", "types", "Section", "3", "presents", "templates", "for", "encoding", "type-indexed", "functions", ".", "In", "this", "section", ",", "we", "show", "how", "to", "translate", "a", "type-indexed", "type", "into", "an", "instance", "of", "the", "TypeCase", "design", "pattern", ".", "In", "general", ",", "a", "type-indexed", "type", "has", "the", "form", "t", ":", ":", ":", ":", "t", "1", "a", "1", "...", "a", "i", "=", "d", "11", "...", "d", "1n", "1", ".", ".", ".", "t", "m", "z", "1", "...", "z", "j", "=", "d", "m1", "...", "d", "mn", "m", "where", "is", "the", "type-level", "function", "that", "defines", "the", "type-indexed", "type", ";", "t", "is", "the", "family", "of", "types", "-LRB-", "or", "type", "constructors", "-RRB-", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", ",", "...", ",", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "of", "kind", "that", "corresponds", "to", "the", "structural", "cases", "of", "the", "design", "pattern", ";", "and", ",", "finally", ",", "is", "the", "kind", "of", "t", ":", ":", ".", "For", "each", "type", "that", "is", "member", "of", "that", "family", ",", "we", "have", "a", "corresponding", "branch", "for", ".", "The", "type-level", "lambda", "abstraction", "on", "the", "right", "side", "of", "each", "branch", "is", "optional", ",", "and", "corresponds", "to", "possible", "parametrically", "polymorphic", "variables", "d", "1", "...", "d", "n", "that", "the", "type-indexed", "type", "might", "depend", "on", ".", "Finally", ",", "1", "...", "m", "corresponds", "to", "the", "family", "of", "types", "-LRB-", "or", "type", "constructors", "-RRB-", "that", "defines", "the", "type-indexed", "type", ".", "5.1.1", "Type", "class", "translation", "We", "can", "now", "derive", "an", "instance", "of", "the", "TypeCase", "design", "pattern", "to", "capture", "type-indexed", "functions", "with", "type-indexed", "types", ".", "The", "typecase", "participant", ",", "for", "instances", "of", "the", "design", "pattern", "using", "either", "implicit", "or", "explicit", "representations", ",", "could", "be", "defined", "as", "follows", ".", "class", "-LRB-", "g", ":", ":", "-RRB-", "where", "case", "t", "1", ":", ":", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "g", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1n", "1", ".", ".", ".", "case", "t", "m", ":", ":", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "g", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mn", "m", "We", "reuse", "the", "name", "for", "the", "name", "of", "the", "type", "class", "that", "encodes", "the", "typecase", "component", ".", "The", "parameter", "g", "is", "a", "type", "constructor", "with", "kind", ",", "where", "is", "the", "literal", "occurrence", "of", "-LRB-", "if", "we", "were", "to", "use", "instead", "of", "its", "literal", "occurrence", ",", "we", "would", "obtain", "the", "wrong", "kind", "-RRB-", ".", "There", "are", "m", "functions", "case", "t", "1", ",", "...", ",", "case", "t", "m", "that", "correspond", "to", "the", "typecases", "for", "each", "type", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", ",", "...", ",", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", ".", "Each", "case", "of", "the", "typecase", "function", "is", "defined", "by", "providing", "the", "type", "constructor", "g", "with", "the", "corre-ponding", "types", ".", "Finally", ",", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", ",", "...", ",", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "corresponds", "to", "the", "representations", "for", "the", "types", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", ",", "...", ",", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", ".", "The", "only", "difference", "between", "explicit", "and", "implicit", "versions", "of", "the", "design", "pattern", "for", "the", "typecase", "component", "is", "that", "in", "the", "explicit", "version", "the", "occurrences", "of", "are", "expanded", "into", "explicitly-passed", "representations", "of", "the", "form", "g", "a", "...", ",", "whereas", "with", "the", "implicit", "representations", "those", "occurrences", "are", "replaced", "by", "type", "class", "constraints", "of", "the", "form", "Rep", "a", "...", ".", "The", "dispatcher", "can", "also", "be", "derived", ";", "but", "to", "do", "so", "requires", "extensions", "to", "Haskell", "98", "--", "specifically", ",", "multiple-parameter", "type", "classes", "with", "functional", "dependencies", ".", "The", "problem", "is", "that", ",", "even", "in", "its", "simplest", "form", ",", "a", "type-indexed", "type", "requires", "at", "least", "two", "type", "arguments", ":", "the", "first", "one", "corresponding", "to", "the", "index", "type", ",", "and", "the", "second", "one", "that", "is", "the", "resulting", "type-indexed", "type", "for", "that", "index", ",", "and", "thus", "depending", "on", "the", "index", ".", "This", "problem", "is", "not", "too", "serious", "if", "we", "use", "the", "explicit", "representations", "variant", "of", "the", "pattern", ",", "since", "the", "dispatcher", "is", "optional", ",", "but", "using", "implicit", "representations", "forces", "us", "outside", "Haskell", "98", ".", "class", "Rep", "t", "d", "1", "...", "d", "n", "|", "t", "d", "1", "...", "d", "n", "where", "rep", ":", ":", "g", "g", "t", "d", "1", "...", "d", "n", "instance", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "Rep", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1n", "1", "where", "rep", "=", "case", "t", "1", "-LCB-", "rep", "i", "-RCB-", ".", ".", ".", "instance", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "Rep", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mn", "m", "where", "rep", "=", "case", "t", "m", "-LCB-", "rep", "j", "-RCB-", "The", "type", "class", "Rep", "has", "at", "least", "two", "type", "arguments", ":", "t", "and", ".", "If", "there", "are", "parametric", "types", "that", "depends", "on", ",", "then", "the", "type", "class", "also", "needs", "to", "account", "for", "those", "types", "-LRB-", "d", "1", "...", "d", "n", "-RRB-", ".", "The", "class", "contains", "just", "one", "member", "function", ",", "rep", ",", "used", "to", "build", "representations", "for", ".", "The", "function", "rep", "has", "a", "type", "class", "constraint", "ensuring", "that", "g", "is", "an", "instance", "of", ".", "There", "are", ",", "at", "least", ",", "m", "instances", "of", "Rep", ",", "and", "those", "instances", "define", "rep", "with", "the", "corresponding", "case", "t", "function", ".", "If", "we", "are", "implementing", "an", "implicit", "version", "of", "the", "design", "pattern", ",", "then", "the", "definition", "of", "rep", "is", "complete", ";", "otherwise", ",", "for", "an", "explicit", "version", ",", "we", "need", "to", "apply", "case", "t", "to", "a", "number", "i", "of", "rep", "functions", "-LRB-", "where", "i", "is", "the", "number", "of", "type", "parameters", "of", "t", "-RRB-", ".", "The", "constraints", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", ",", "...", ",", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "are", "very", "similar", "to", "the", "constraints", ",", "and", "in", "fact", "for", "implicit", "representations", "they", "coincide", ":", "they", "correspond", "to", "representations", "for", "the", "types", "a", "1", "...", "a", "i", ",", "...", ",", "z", "1", "...", "z", "n", ".", "5.1.2", "Smart", "datatype", "translations", "Encoding", "type-indexed", "functions", "with", "smart", "datatypes", "proceeds", "in", "a", "similar", "fashion", "to", "the", "encoding", "with", "type", "classes", ".", "We", "will", "demonstrate", "how", "to", "do", "this", "translation", "using", "a", "GADT", "syntax", "-LRB-", "as", "found", "in", "the", "new", "GHC", "6.4", "Haskell", "compiler", "-RRB-", ".", "A", "type-indexed", "type", "generates", "a", "smart", "datatype", "of", "the", "following", "form", ".", "data", "t", "d", "1", "...", "d", "n", "where", "c", "t", "1", ":", ":", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1n", "1", ".", ".", ".", "c", "t", "m", ":", ":", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mn", "m", "Instead", "of", "being", "parametrised", "by", "a", "``", "function", "''", "-LRB-", "like", "the", "type", "class", "approach", "-RRB-", ",", "a", "smart", "datatype", "is", "parametrised", "by", "all", "the", "types", "on", "which", "it", "depends", ".", "Another", "difference", "from", "the", "type", "class", "approach", "is", "that", "the", "functions", "that", "represent", "each", "case", "are", "now", "replaced", "by", "constructors", "c", "t", "1", ",", "...", ",", "c", "t", "m", "that", "can", "just", "be", "pattern", "matched", "-LRB-", "in", "a", "dependent", "manner", "-RRB-", "by", "functions", "defined", "over", "those", "datatypes", ".", "A", "final", "difference", "is", "that", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", ",", "...", ",", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "need", "to", "reflect", "the", "fact", "that", "we", "are", "now", "using", "a", "smart", "datatype", ".", "The", "changes", "to", "Rep", "are", "minimal", ";", "the", "only", "change", "to", "the", "type", "class", "version", "is", "that", "in", "the", "definition", "of", "rep", "we", "now", "use", "the", "constructors", "c", "t", "1", ",", "...", ",", "c", "t", "m", "instead", "of", "the", "functions", "case", "t", "1", ",", "...", ",", "case", "t", "m", ".", "class", "Rep", "t", "d", "1", "...", "d", "n", "|", "t", "d", "1", "...", "d", "n", "where", "rep", ":", ":", "t", "d", "1", "...", "d", "n", "instance", "-LRB-", "a", "1", "...", "a", "i", "-RRB-", "Rep", "-LRB-", "t", "1", "a", "1", "...", "a", "i", "-RRB-", "d", "11", "...", "d", "1n", "1", "where", "rep", "=", "c", "t", "1", "rep", "i", ".", ".", ".", "instance", "-LRB-", "z", "1", "...", "z", "j", "-RRB-", "Rep", "-LRB-", "t", "m", "z", "1", "...", "z", "j", "-RRB-", "d", "m1", "...", "d", "mn", "m", "where", "rep", "=", "c", "t", "m", "rep", "j", "5.2", "Tries", "Tries", "or", "digital", "search", "trees", "are", "a", "traditional", "example", "of", "a", "generic", "type", ".", "Tries", "make", "use", "of", "the", "structure", "of", "search", "keys", "in", "order", "to", "organise", "information", ",", "which", "can", "then", "be", "efficiently", "queried", ".", "In", "this", "section", "we", "will", "show", "how", "to", "implement", "generic", "tries", "using", "a", "variation", "of", "the", "LAGP", "type", "representations", ".", "For", "a", "more", "theoretical", "presentation", "of", "tries", ",", "see", "-LSB-", "20", ",", "17", "-RSB-", ";", "the", "implementation", "of", "tries", "presented", "here", "follows", "closely", "the", "implementations", "found", "in", "those", "papers", ".", "In", "-LSB-", "20", "-RSB-", ",", "the", "generic", "type", "for", "tries", "is", "given", "as", "follows", ".", "106", "FMap", "t", ":", ":", ":", ":", "FMap", "Unit", "v", "=", "Maybe", "v", "FMap", "Int", "v", "=", "MapInt", "v", "FMap", "Plus", "t", "1", "t", "2", "v", "=", "OptPair", "-LRB-", "FMap", "t", "1", "v", "-RRB-", "-LRB-", "FMap", "t", "2", "v", "-RRB-", "FMap", "Prod", "t", "1", "t", "2", "v", "=", "FMap", "t", "1", "-LRB-", "FMap", "t", "2", "v", "-RRB-", "It", "is", "clear", "that", "the", "type-indexed", "function", "FMap", "takes", "a", "type", "parameter", "t", ":", ":", "and", "another", "type", "of", "kind", "and", "returns", "another", "type", "of", "kind", ".", "Only", "the", "shape", "of", "parameter", "t", "is", "analysed", ";", "the", "other", "parameter", "v", "needs", "to", "be", "used", "in", "the", "definition", "because", "the", "resulting", "type", "is", "parametrically", "polymorphic", "in", "relation", "to", "v", ".", "We", "encode", "this", "characterisation", "of", "FMap", "as", "follows", ".", "class", "FMap", "g", "where", "unit", ":", ":", "g", "Unit", "v", "Maybe", "plus", ":", ":", "g", "a", "v", "c", "g", "b", "v", "d", "g", "-LRB-", "Plus", "a", "b", "-RRB-", "v", "-LRB-", "PlusCase", "c", "d", "-RRB-", "prod", ":", ":", "g", "a", "-LRB-", "d", "v", "-RRB-", "c", "g", "b", "v", "d", "g", "-LRB-", "Prod", "a", "b", "-RRB-", "v", "-LRB-", "ProdCase", "c", "d", "-RRB-", "data", ":", ":", "g", "a", "v", "c", "Iso", "b", "a", "Iso", "-LRB-", "d", "v", "-RRB-", "-LRB-", "c", "v", "-RRB-", "g", "b", "v", "d", "int", ":", ":", "g", "Int", "v", "MapInt", "This", "class", "forms", "the", "typecase", "participant", "of", "an", "explicit", "representation", "variant", "of", "the", "TypeCase", "pattern", ".", "The", "class", "FMap", "is", "a", "variation", "of", "the", "Generic", "class", "from", "Section", "2.2.2", ".", "The", "functor", "g", ":", ":", "-LRB-", "-RRB-", "takes", "the", "necessary", "information", "to", "rebuild", "the", "type-indexed", "type", ".", "The", "three", "parameters", "of", "the", "functor", "correspond", ",", "respectively", ",", "to", "the", "type", "parameter", "t", ",", "the", "second", "parameter", "and", "the", "resulting", "type", "of", "FMap", ".", "-LRB-", "The", "kind", "of", "the", "resulting", "type", "is", "now", ".", "We", "could", "have", "used", "kind", "as", "in", "FMap", ",", "but", "we", "believe", "this", "version", "is", "slightly", "more", "readable", ".", "-RRB-", "The", "function", "unit", "just", "reflects", "the", "change", "of", "the", "functor", "g", "and", "adds", "the", "information", "for", "the", "parametric", "type", "v", "and", "the", "functor", "Maybe", "that", "is", "used", "to", "define", "the", "trie", "for", "the", "Unit", "case", ".", "The", "cases", "for", "plus", "and", "prod", "have", "explicit", "arguments", "that", "correspond", "to", "the", "recursive", "calls", "of", "the", "function", ";", "and", "the", "functors", "PlusCase", "c", "d", "and", "ProdCase", "c", "d", "correspond", "to", "the", "respective", "cases", "of", "the", "type-indexed", "type", ".", "The", "data", "function", "handles", "user-defined", "datatypes", ",", "having", "a", "recursive", "case", "and", "two", "isomorphisms", ":", "the", "first", "between", "the", "structural", "cases", "and", "a", "second", "between", "the", "tries", "corresponding", "to", "those", "cases", ".", "Finally", ",", "we", "could", "also", "define", "some", "extra", "base", "cases", "to", "handle", "primitive", "types", "such", "as", "Int", "and", "Char", ".", "The", "auxiliary", "definitions", "for", "the", "newtypes", "PlusCase", "a", "b", "v", "and", "ProdCase", "a", "b", "v", "are", "defined", "as", "follows", ".", "data", "OptPair", "a", "b", "=", "Null", "|", "Pair", "a", "b", "newtype", "PlusCase", "a", "b", "v", "=", "PlusCase", "-LCB-", "unPlus", ":", ":", "OptPair", "-LRB-", "a", "v", "-RRB-", "-LRB-", "b", "v", "-RRB-", "-RCB-", "newtype", "ProdCase", "a", "b", "v", "=", "ProdCase", "-LCB-", "unProd", ":", ":", "a", "-LRB-", "b", "v", "-RRB-", "-RCB-", "The", "introduction", "of", "OptPair", "a", "b", "is", "for", "efficiency", "reasons", "-LSB-", "20", "-RSB-", ".", "In", "order", "to", "use", "a", "user-defined", "type", "-LRB-", "or", "a", "built-in", "type", "that", "does", "not", "have", "a", "special", "case", "for", "it", "-RRB-", ",", "we", "need", "to", "do", "much", "the", "same", "work", "as", "for", "GM2", "in", "Section", "2.2.2", ".", "As", "an", "example", ",", "we", "show", "what", "to", "do", "for", "Haskell", "'s", "built-in", "lists", ".", "list", ":", ":", "FMap", "g", "g", "a", "-LRB-", "FList", "c", "v", "-RRB-", "c", "g", "-LSB-", "a", "-RSB-", "v", "-LRB-", "FList", "c", "-RRB-", "list", "ra", "=", "data", "-LRB-", "plus", "unit", "-LRB-", "prod", "ra", "-LRB-", "list", "ra", "-RRB-", "-RRB-", "-RRB-", "listEP", "-LRB-", "Iso", "unFList", "FList", "-RRB-", "listEP", ":", ":", "Iso", "-LSB-", "a", "-RSB-", "-LRB-", "Plus", "Unit", "-LRB-", "Prod", "a", "-LSB-", "a", "-RSB-", "-RRB-", "-RRB-", "listEP", "=", "Iso", "fromList", "toList", "where", "fromList", "-LSB-", "-RSB-", "=", "Inl", "Unit", "fromList", "-LRB-", "x", ":", "xs", "-RRB-", "=", "Inr", "-LRB-", "Prod", "x", "xs", "-RRB-", "toList", "-LRB-", "Inl", "Unit", "-RRB-", "=", "-LSB-", "-RSB-", "toList", "-LRB-", "Inr", "-LRB-", "Prod", "x", "xs", "-RRB-", "-RRB-", "=", "x", ":", "xs", "newtype", "FList", "c", "v", "=", "FList", "-LCB-", "unFList", ":", ":", "-LRB-", "PlusCase", "Maybe", "-LRB-", "ProdCase", "c", "-LRB-", "FList", "c", "-RRB-", "-RRB-", "-RRB-", "v", "-RCB-", "The", "function", "list", "defines", "the", "encoding", "for", "the", "representation", "of", "lists", ".", "Because", "lists", "are", "a", "parametrised", "datatype", "with", "one", "type", "parameter", ",", "list", "is", "a", "function", "that", "takes", "one", "argument", ";", "this", "argument", "corresponds", "to", "the", "representation", "of", "the", "list", "type", "argument", ",", "and", "list", "returns", "the", "representation", "for", "lists", ".", "The", "definition", "is", "nearly", "the", "same", "as", "the", "equivalent", "for", "GM", ",", "but", "it", "takes", "an", "extra", "isomorphism", "describing", "the", "mapping", "between", "the", "structural", "representation", "of", "a", "list", "trie", "and", "a", "newtype", "FList", "c", "v", "that", "is", "introduced", "to", "represent", "the", "resulting", "list", "trie", ".", "The", "function", "listEP", "is", "just", "the", "isomorphism", "-LSB-", "a", "-RSB-", "=", "1", "+", "a", "-LSB-", "a", "-RSB-", ".", "This", "means", "that", "listEP", "can", "be", "shared", "with", "other", "versions", "of", "generics", "that", "use", "the", "same", "structural", "cases", ".", "However", ",", "list", "and", "FList", "c", "v", "still", "have", "to", "be", "introduced", "for", "each", "type-indexed", "datatype", ".", "Nevertheless", ",", "that", "is", "boilerplate", "code", ",", "and", ",", "with", "compiler", "support", ",", "it", "is", "should", "be", "possible", "to", "avoid", "writing", "it", ".", "Having", "set", "up", "the", "main", "components", "of", "the", "design", "pattern", ",", "we", "can", "now", "move", "on", "to", "define", "our", "first", "function", "over", "tries", ".", "The", "function", "empty", "creates", "a", "new", "empty", "trie", "and", "can", "be", "defined", "as", "follows", ".", "newtype", "EmptyTrie", "a", "v", "t", "=", "EmptyTrie", "-LCB-", "empty", ":", ":", "t", "v", "-RCB-", "instance", "FMap", "EmptyTrie", "where", "unit", "=", "EmptyTrie", "Nothing", "int", "=", "EmptyTrie", "-LRB-", "MapInt", "-LSB-", "-RSB-", "-RRB-", "plus", "ra", "rb", "=", "EmptyTrie", "-LRB-", "PlusCase", "Null", "-RRB-", "prod", "ra", "rb", "=", "EmptyTrie", "-LRB-", "ProdCase", "-LRB-", "empty", "ra", "-RRB-", "-RRB-", "data", "ra", "iso", "iso2", "=", "EmptyTrie", "-LRB-", "to", "iso2", "-LRB-", "empty", "ra", "-RRB-", "-RRB-", "This", "function", "is", "very", "simple", "but", ",", "nonetheless", ",", "it", "has", "a", "type-indexed", "type", ":", "the", "unit", "case", "returns", "Nothing", ";", "the", "int", "case", "returns", "a", "value", "of", "a", "user-defined", "type", "for", "integer", "tries", ";", "the", "cases", "for", "prod", "and", "plus", "return", ",", "respectively", ",", "values", "for", "the", "previously", "defined", "ProdCase", "and", "PlusCase", "types", ";", "finally", ",", "the", "data", "returns", "a", "value", "of", "the", "newtype", "used", "to", "represent", "the", "trie", "of", "some", "user-defined", "datatype", ".", "Another", "function", "that", "we", "will", "probably", "want", "to", "have", "in", "a", "library", "for", "tries", "is", "the", "lookUp", "function", "which", ",", "given", "a", "key", ",", "returns", "the", "corresponding", "value", "stored", "in", "the", "trie", ".", "newtype", "LUp", "a", "v", "t", "=", "LUp", "-LCB-", "lookUp", ":", ":", "a", "t", "v", "Maybe", "v", "-RCB-", "instance", "FMap", "LUp", "where", "unit", "=", "LUp", "-LRB-", "fm", "fm", "-RRB-", "int", "=", "LUp", "-LRB-", "i", "fm", "lookUpInt", "i", "fm", "-RRB-", "plus", "ra", "rb", "=", "LUp", "-LRB-", "t", "fm", "case", "-LRB-", "unPlus", "fm", "-RRB-", "of", "Null", "Nothing", "-LRB-", "Pair", "fma", "fmb", "-RRB-", "case", "t", "of", "-LRB-", "Inl", "l", "-RRB-", "lookUp", "ra", "l", "fma", "-LRB-", "Inr", "r", "-RRB-", "lookUp", "rb", "r", "fmb", "-RRB-", "prod", "ra", "rb", "=", "LUp", "-LRB-", "t", "-LRB-", "ProdCase", "fma", "-RRB-", "case", "t", "of", "-LRB-", "Prod", "x", "y", "-RRB-", "-LRB-", "lookUp", "ra", "x", "lookUp", "rb", "y", "-RRB-", "fma", "-RRB-", "data", "ra", "iso", "iso2", "=", "LUp", "-LRB-", "t", "r", "lookUp", "ra", "-LRB-", "from", "iso", "t", "-RRB-", "-LRB-", "from", "iso2", "r", "-RRB-", "-RRB-", "-LRB-", "The", "operator", "represents", "monadic", "composition", ".", "-RRB-", "The", "functions", "empty", "and", "lookUp", "have", "definitions", "that", "only", "have", "generic", "function", "calls", "to", "themselves", ".", "However", ",", "that", "is", "not", "the", "case", "for", "all", "generic", "functions", ".", "One", "such", "function", "is", "the", "generic", "function", "that", "creates", "a", "trie", "containing", "a", "single", "element", ";", "a", "possible", "definition", "makes", "use", "of", "the", "generic", "function", "empty", ".", "We", "discussed", "in", "Section", "3", "that", ",", "using", "an", "explicit", "version", "of", "the", "design", "pattern", ",", "there", "are", "some", "issues", "with", "generic", "functions", "calling", "generic", "functions", "other", "than", "themselves", ".", "One", "solution", "for", "this", "problem", "is", "using", "tupling", ".", "Just", "as", "one", "does", "with", "a", "type", "class", ",", "we", "would", "choose", "a", "fixed", "set", "of", "functions", "and", "group", "them", "together", "in", "a", "record", ".", "For", "instance", ",", "in", "the", "case", "of", "tries", ",", "we", "could", "have", "the", "following", ".", "data", "Tries", "a", "v", "t", "=", "Tries", "-LCB-", "empty", ":", ":", "t", "v", ",", "isempty", ":", ":", "t", "v", "Bool", ",", "single", ":", ":", "a", "v", "t", "v", ",", "lookup", ":", ":", "a", "t", "v", "Maybe", "v", ",", "insert", ":", ":", "-LRB-", "v", "v", "v", "-RRB-", "a", "v", "t", "v", "t", "v", ",", "merge", ":", ":", "-LRB-", "v", "v", "v", "-RRB-", "t", "v", "t", "v", "t", "v", ",", "delete", ":", ":", "a", "t", "v", "t", "v", "-RCB-", "107", "With", "our", "definition", "we", "could", ",", "for", "any", "function", "in", "the", "record", ",", "make", "mutual", "generic", "calls", ".", "Whilst", "we", "could", "have", "used", "a", "multiple-parameter", "type", "class", "with", "functional", "dependencies", "in", "order", "to", "implement", "this", "library", "of", "functions", "over", "tries", ",", "there", "would", "be", "one", "important", "disadvantage", "in", "doing", "so", "-LRB-", "apart", "from", "the", "fact", "that", "we", "need", "to", "leave", "Haskell", "98", "-RRB-", ":", "we", "can", "only", "have", "functions", "on", "types", "of", "kind", ".", "With", "type", "classes", ",", "contexts", "are", "implicitly", "passed", ",", "and", "there", "is", "no", "way", "to", "redefine", "those", "implicit", "behaviours", ".", "In", "other", "words", ",", "type", "classes", "have", "the", "same", "limitation", "as", "implicit", "representations", "as", "a", "version", "of", "the", "TypeCase", "design", "pattern", ",", "in", "that", "they", "can", "only", "work", "on", "types", ".", "On", "the", "other", "hand", ",", "derived", "from", "the", "fact", "that", "we", "use", "external", "representations", ",", "with", "this", "implementation", "we", "can", "define", "generic", "functions", "over", "type", "constructors", ".", "Tupling", "is", "not", "the", "only", "option", "to", "solve", "the", "problem", "of", "generic", "function", "calls", ".", "Another", "possibility", "is", "to", "have", "the", "notion", "of", "dependencies", ":", "instead", "of", "tupling", "all", "functions", "together", ",", "we", "can", ",", "for", "each", "generic", "function", "that", "we", "need", "to", "use", ",", "include", "one", "instance", "of", "that", "function", ".", "Here", "is", "a", "possible", "definition", "of", "single", "using", "this", "strategy", ".", "data", "Single", "a", "v", "t", "=", "Single", "-LCB-", "emptyT", ":", ":", "EmptyTrie", "a", "v", "t", ",", "single", ":", ":", "a", "v", "t", "v", "-RCB-", "instance", "FMap", "Single", "where", "unit", "=", "Single", "unit", "-LRB-", "v", "Just", "v", "-RRB-", "int", "=", "Single", "int", "-LRB-", "i", "v", "MapInt", "-LSB-", "-LRB-", "i", ",", "v", "-RRB-", "-RSB-", "-RRB-", "plus", "ra", "rb", "=", "Single", "-LRB-", "plus", "-LRB-", "emptyT", "ra", "-RRB-", "-LRB-", "emptyT", "rb", "-RRB-", "-RRB-", "-LRB-", "i", "v", "case", "i", "of", "Inl", "l", "PlusCase", "-LRB-", "Pair", "-LRB-", "single", "ra", "l", "v", "-RRB-", "-LRB-", "empty", "-LRB-", "emptyT", "rb", "-RRB-", "-RRB-", "-RRB-", "Inr", "r", "PlusCase", "-LRB-", "Pair", "-LRB-", "empty", "-LRB-", "emptyT", "ra", "-RRB-", "-RRB-", "-LRB-", "single", "rb", "r", "v", "-RRB-", "-RRB-", "-RRB-", "prod", "ra", "rb", "=", "Single", "-LRB-", "prod", "-LRB-", "emptyT", "ra", "-RRB-", "-LRB-", "emptyT", "rb", "-RRB-", "-RRB-", "-LRB-", "i", "v", "case", "i", "of", "Prod", "x", "y", "ProdCase", "-LRB-", "single", "ra", "x", "-LRB-", "single", "rb", "y", "v", "-RRB-", "-RRB-", "-RRB-", "data", "ra", "iso", "iso2", "=", "Single", "-LRB-", "data", "-LRB-", "emptyT", "ra", "-RRB-", "iso", "iso2", "-RRB-", "-LRB-", "i", "v", "to", "iso2", "-LRB-", "single", "ra", "-LRB-", "from", "iso", "i", "-RRB-", "v", "-RRB-", "-RRB-", "The", "idea", "of", "dependencies", "is", "motivated", "by", "Dependency-Style", "Generic", "Haskell", "-LSB-", "26", ",", "27", "-RSB-", ".", "In", "this", "version", "of", "Generic", "Haskell", ",", "the", "type", "system", "reflects", "the", "uses", "of", "generic", "functions", "in", "the", "definitions", "by", "keeping", "track", "of", "constraints", "that", "identify", "such", "uses", ".", "With", "this", "definition", ",", "we", "have", "to", "manually", "introduce", "those", "dependencies", "by", "adding", "extra", "fields", "to", "the", "record", "that", "keep", "track", "of", "all", "the", "functions", "on", "which", "the", "definition", "depends", ".", "That", "change", "is", "also", "reflected", "in", "the", "instance", "that", "defines", "the", "generic", "function", ",", "where", "we", "need", "to", "provide", "values", "for", "the", "extra", "fields", ";", "the", "values", "for", "those", "fields", "just", "reconstruct", "the", "dependent", "functions", "with", "their", "values", "for", "those", "fields", ".", "The", "goal", "of", "design", "patterns", "is", "not", "to", "come", "up", "with", "a", "miraculous", "solution", "for", "a", "problem", ".", "Instead", ",", "design", "patterns", "capture", "good", "techniques", "that", "appear", "in", "the", "literature", "or", "in", "practice", ",", "in", "a", "variety", "of", "contexts", ",", "and", "document", "them", "to", "make", "them", "easier", "to", "identify", "and", "implement", ".", "In", "this", "paper", "we", "have", "generalised", "the", "technique", "found", "in", "LIGD", "and", "GM", "to", "a", "design", "pattern", ",", "and", "presented", "a", "number", "of", "applications", "of", "the", "pattern", ".", "Furthermore", ",", "we", "have", "identified", "other", "occurrences", "of", "the", "design", "pattern", "in", "the", "literature", ".", "6.1", "Related", "work", "The", "technique", "used", "by", "Danvy", "-LSB-", "10", "-RSB-", "and", "generalised", "by", "Yang", "-LSB-", "37", "-RSB-", "allows", "us", "to", "encode", "type-indexed", "values", "in", "a", "Hindley-Milner", "type", "system", ".", "This", "encoding", "is", "directly", "related", "to", "the", "explicit", "representation", "version", "of", "the", "TypeCase", "pattern", ".", "This", "technique", "influenced", "many", "other", "works", ",", "ranging", "from", "type-directed", "partial", "evaluation", "-LSB-", "37", ",", "9", ",", "12", "-RSB-", ",", "through", "embedded", "interpreters", "-LSB-", "2", "-RSB-", ",", "to", "a", "generalisation", "of", "families", "of", "functions", "like", "zipWith", "-LSB-", "13", "-RSB-", "--", "these", "are", "all", "possible", "applications", "of", "the", "TypeCase", "design", "pattern", ".", "Our", "paper", "revises", "that", "technique", "and", "shows", "how", "slightly", "richer", "type", "systems", "can", "be", "used", "to", "improve", "it", ".", "In", "particular", ",", "the", "use", "of", "a", "dispatcher", "makes", "it", "possible", "to", "automatically", "built", "the", "values", "encoding", "types", ".", "Moreover", ",", "the", "issue", "of", "composability", "-LRB-", "identified", "by", "Yang", "-RRB-", ",", "while", "still", "a", "problem", ",", "can", "benefit", "from", "stronger", "type", "systems", ":", "the", "use", "of", "rank-two", "types", "combined", "with", "type", "classes", "provides", "a", "good", "solution", ".", "The", "work", "on", "extensional", "polymorphism", "-LSB-", "11", "-RSB-", "presents", "an", "approach", "that", "allows", "functions", "to", "implicitly", "bind", "the", "types", "of", "their", "arguments", "in", "a", "modified", "version", "of", "ML", ".", "Furthermore", ",", "using", "a", "typecase", "construct", "it", "is", "possible", "to", "support", "generic", "programming", ".", "Harper", "and", "Morrisett", "'s", "work", "on", "intensional", "type", "analysis", "-LSB-", "16", "-RSB-", "presents", "an", "intermediate", "language", "where", "run-time", "type", "analysis", "is", "permitted", ",", "using", "typecase", "and", "Typecase", "constructs", "to", "define", "type-indexed", "functions", "and", "type-indexed", "types", ",", "respectively", ".", "However", ",", "approaches", "based", "on", "run-time", "type", "analysis", "have", "important", "drawbacks", ";", "for", "instance", ",", "they", "can", "not", "support", "abstract", "datatypes", ",", "and", "they", "do", "not", "respect", "the", "parametricity", "theorem", "-LSB-", "35", ",", "33", "-RSB-", ".", "Subsequent", "approaches", "to", "intensional", "type", "analysis", "by", "Crary", "and", "others", "-LSB-", "7", ",", "6", "-RSB-", "use", "a", "type-erasure", "semantics", "that", "does", "not", "suffer", "from", "those", "problems", ".", "Still", ",", "those", "approaches", "were", "limited", "to", "first-order", "type", "analysis", ".", "More", "recently", ",", "Weirich", "-LSB-", "36", "-RSB-", "proposed", "a", "version", "of", "intensional", "type", "analysis", "covering", "higher-order", "types", "with", "a", "type-erasure", "semantics", ".", "Furthermore", ",", "she", "presented", "an", "implementation", "in", "Haskell", "-LRB-", "augmented", "with", "rank-two", "types", "-RRB-", ".", "This", "work", "inspired", "Hinze", "'s", "implementation", "of", "GM", ",", "which", "shows", ",", "in", "essence", ",", "how", "to", "avoid", "rank-two", "types", "by", "using", "Haskell", "'s", "class", "system", ".", "Our", "work", "makes", "use", "of", "those", "results", "and", "explains", "how", "to", "simulate", "typecase", "constructs", ".", "Furthermore", ",", "we", "show", "that", "the", "limitation", "of", "GM", "that", "generic", "functions", "with", "generic", "types", "can", "not", "be", "defined", "can", "be", "lifted", "with", "our", "more", "general", "interpretation", ".", "Generic", "programming", "-LRB-", "or", "perhaps", "datatype-generic", "programming", "-LSB-", "15", "-RSB-", "-RRB-", "is", "about", "defining", "functions", "and", "types", "that", "depend", "on", "the", "structure", "of", "other", "types", ".", "One", "of", "the", "first", "attempts", "to", "produce", "a", "generic", "programming", "language", "was", "PolyP", "-LSB-", "21", "-RSB-", ".", "This", "language", "allowed", "the", "definition", "of", "generic", "functions", "over", "regular", "datatypes", "with", "one", "type", "parameter", ".", "In", "Section", "4.1", "we", "show", "that", ",", "using", "our", "design", "pattern", ",", "it", "is", "possible", "to", "define", "PolyP-like", "generic", "functions", "just", "using", "Haskell", "98", ".", "A", "previous", "attempt", "-LSB-", "30", "-RSB-", "to", "define", "first-class", "PolyP", "functions", "in", "Haskell", "required", "extensions", "to", "the", "language", ".", "The", "Generic", "Haskell", "-LSB-", "26", ",", "5", "-RSB-", "project", "is", "more", "ambitious", "than", "PolyP", ",", "and", "aims", "at", "defining", "generic", "functions", "for", "nearly", "all", "types", "defin-able", "in", "Haskell", "98", ".", "Furthermore", ",", "Generic", "Haskell", "features", "generic", "types", "and", "generic", "function", "customisation", "-LRB-", "which", "were", "not", "present", "in", "PolyP", "-RRB-", ".", "Dependency-Style", "Generic", "Haskell", "-LSB-", "26", ",", "27", "-RSB-", "introduces", "a", "rather", "complex", "type", "system", "that", "keeps", "track", "of", "dependencies", "on", "generic", "function", "calls", ".", "The", "need", "for", "this", "sophisticated", "type", "system", "is", "a", "consequence", "of", "a", "model", "for", "generic", "programming", "that", "allows", "generic", "function", "customisation", ".", "The", "approach", "presented", "in", "-LSB-", "24", "-RSB-", "is", "another", "kind", "of", "lightweight", "approach", "to", "generic", "programming", ",", "relying", "on", "a", "run-time", "type-safe", "cast", "operator", ".", "With", "that", "operator", "it", "is", "possible", "to", "define", "a", "number", "of", "traversals", "that", "allow", "a", "very", "interesting", "model", "of", "generic", "programming", "based", "on", "nominal", "typing", ".", "Our", "design", "pattern", "can", "be", "used", "to", "encode", "many", "of", "the", "generic", "definitions", "that", "these", "generic", "programming", "techniques", "allow", ".", "However", ",", "it", "can", "be", "less", "practical", "than", "approaches", "providing", "a", "special-purpose", "compiler", ".", "Nevertheless", ",", "the", "advantage", "of", "our", "technique", "is", "that", "we", "do", "not", "need", "to", "commit", "in", "advance", "to", "a", "model", "of", "generic", "programming", ":", "we", "have", "the", "freedom", "to", "choose", "our", "own", "model", "of", "generic", "programming", ".", "Design", "patterns", "in", "the", "object-oriented", "programming", "community", "have", "been", "given", "a", "great", "deal", "of", "attention", ".", "Whilst", "amongst", "the", "108", "functional", "programming", "community", "there", "has", "been", "some", "work", "on", "--", "or", ",", "at", "least", ",", "involving", "the", "concept", "of", "--", "design", "patterns", "-LSB-", "24", ",", "23", ",", "25", "-RSB-", ",", "the", "concept", "is", "still", "much", "less", "popular", "than", "in", "the", "object-oriented", "community", ".", "Moreover", ",", "most", "of", "this", "work", "presents", "patterns", "that", "are", "really", "more", "like", "algorithmic", "patterns", "rather", "than", "design", "patterns", ".", "Perhaps", "the", "reason", "why", "this", "happens", "is", "that", "functional", "languages", "are", "very", "expressive", ",", "and", "often", "natural", "features", "of", "those", "languages", ",", "such", "as", "laziness", "or", "higher-order", "functions", ",", "can", "be", "used", "to", "remove", "the", "need", "for", "complex", "designs", ".", "Nevertheless", ",", "we", "believe", "that", "our", "design", "pattern", "is", "more", "related", "to", "the", "OO", "concept", "of", "a", "design", "pattern", "with", "type", "classes/datatypes", "taking", "the", "role", "of", "OO", "interfaces", "and", "class", "instances", "taking", "the", "role", "of", "OO", "concrete", "classes", ".", "One", "difficulty", "found", "in", "this", "work", "had", "to", "do", "with", "the", "fact", "that", ",", "unlike", "OO", "design", "patterns", "which", "are", "documented", "using", "informal", "notations", "such", "as", "UML", ",", "we", "do", "not", "have", "a", "notation", "to", "``", "talk", "''", "about", "the", "design", "of", "Haskell", "programs", ".", "The", "notation", "that", "we", "used", "is", "quite", "ad-hoc", "and", "it", "can", "be", "difficult", "to", "read", ".", "6.2", "Future", "work", "We", "mentioned", "that", "this", "design", "pattern", "seems", "to", "be", "very", "similar", "to", "OO", "design", "patterns", ".", "It", "would", "be", "interesting", "to", "explore", "the", "applicability", "of", "this", "design", "pattern", "in", "an", "OO", "environment", ".", "Design", "patterns", "are", "useful", "to", "overcome", "the", "lack", "of", "certain", "features", "in", "programming", "languages", ".", "In", "our", "case", ",", "we", "overcome", "the", "lack", "of", "a", "typecase", "construct", ".", "The", "work", "on", "intensional", "type", "analysis", "investigates", "the", "possibility", "of", "languages", "supporting", "typecase", "constructs", "directly", "in", "the", "language", ".", "Combining", "these", "results", "in", "order", "to", "extend", "Haskell", "with", "a", "more", "natural", "support", "for", "typecase", "programming", "is", "something", "we", "would", "like", "to", "try", "in", "the", "future", ".", "Problems", "that", "use", "multiple", "instances", "of", "the", "design", "pattern", "are", "not", "composable", ".", "For", "instance", ",", "in", "a", "generic", "programming", "context", ",", "we", "could", "have", "a", "class", "Generic", "that", "allowed", "us", "to", "define", "generic", "functions", "with", "one", "type", "parameter", ";", "and", "we", "could", "also", "have", "a", "class", "FMap", "for", "working", "with", "tries", ".", "Although", ",", "those", "classes", "are", "structured", "in", "a", "similar", "way", ",", "they", "require", "two", "distinct", "representations", "of", "types", ",", "one", "for", "each", "of", "the", "classes", ";", "we", "hope", "to", "address", "this", "impracticality", ".", "Acknowledgements", "We", "would", "like", "to", "thank", "Ralf", "Hinze", "for", "the", "discussion", "that", "inspired", "this", "paper", ".", "Stefan", "Holdermans", ",", "the", "anonymous", "referees", "and", "the", "members", "of", "the", "Algebra", "of", "Programming", "group", "at", "Oxford", "and", "the", "EPSRC-funded", "Datatype-Generic", "Programming", "project", "made", "a", "number", "of", "helpful", "suggestions", ".", "-LSB-", "1", "-RSB-", "C.", "Alexander", ".", "A", "Pattern", "Language", ".", "Oxford", "University", "Press", ",", "1977", ".", "-LSB-", "2", "-RSB-", "N.", "Benton", ".", "Embedded", "interpreters", ".", "Microsoft", "Research", ",", "Cambridge", ",", "Jan.", "2005", ".", "-LSB-", "3", "-RSB-", "R.", "Bird", "and", "O.", "de", "Moor", ".", "Algebra", "of", "Programming", ".", "International", "Series", "in", "Computer", "Science", ".", "Prentice", "Hall", ",", "1997", ".", "-LSB-", "4", "-RSB-", "J.", "Cheney", "and", "R.", "Hinze", ".", "A", "lightweight", "implementation", "of", "generics", "and", "dynamics", ".", "In", "Haskell", "Workshop", ",", "pages", "90", "104", ",", "2002", ".", "-LSB-", "5", "-RSB-", "D.", "Clarke", "and", "A.", "L", "h.", "Generic", "Haskell", ",", "specifically", ".", "In", "Generic", "Programming", ",", "pages", "21", "47", ".", "Kluwer", ",", "B.V.", ",", "2003", ".", "-LSB-", "6", "-RSB-", "K.", "Crary", "and", "S.", "Weirich", ".", "Flexible", "type", "analysis", ".", "In", "International", "Conference", "on", "Functional", "Programming", ",", "pages", "233", "248", ",", "1999", ".", "-LSB-", "7", "-RSB-", "K.", "Crary", ",", "S.", "Weirich", ",", "and", "J.", "G.", "Morrisett", ".", "Intensional", "polymorphism", "in", "type-erasure", "semantics", ".", "In", "International", "Conference", "on", "Functional", "Programming", ",", "pages", "301", "312", ",", "1998", ".", "-LSB-", "8", "-RSB-", "N.", "A.", "Danielsson", "and", "P.", "Jansson", ".", "Chasing", "bottoms", ":", "A", "case", "study", "in", "program", "verification", "in", "the", "presence", "of", "partial", "and", "infinite", "values", ".", "In", "D.", "Kozen", ",", "editor", ",", "LNCS", "3125", ":", "Mathematics", "of", "Program", "Construction", ",", "pages", "85", "109", ".", "Springer-Verlag", ",", "2004", ".", "-LSB-", "9", "-RSB-", "O.", "Danvy", ".", "Type-directed", "partial", "evaluation", ".", "In", "Principles", "of", "Programming", "Languages", ",", "1996", ".", "-LSB-", "10", "-RSB-", "O.", "Danvy", ".", "Functional", "unparsing", ".", "Journal", "of", "Functional", "Programming", ",", "8", "-LRB-", "6", "-RRB-", ":", "621", "625", ",", "1998", ".", "-LSB-", "11", "-RSB-", "C.", "Dubois", ",", "F.", "Rouaix", ",", "and", "P.", "Weis", ".", "Extensional", "polymorphism", ".", "In", "Principles", "of", "Programming", "Languages", ",", "pages", "118", "129", ",", "1995", ".", "-LSB-", "12", "-RSB-", "P.", "Dybjer", "and", "A.", "Filinski", ".", "Normalization", "and", "partial", "evaluation", ".", "In", "LNCS", "2395", ":", "Applied", "Semantics", ",", "pages", "137", "192", ".", "Springer", ",", "2002", ".", "-LSB-", "13", "-RSB-", "D.", "Fridlender", "and", "M.", "Indrika", ".", "Do", "we", "need", "dependent", "types", "?", "Journal", "of", "Functional", "Programming", ",", "10", "-LRB-", "4", "-RRB-", ":", "409", "415", ",", "2000", ".", "-LSB-", "14", "-RSB-", "J.", "Gibbons", ".", "Calculating", "functional", "programs", ".", "In", "Algebraic", "and", "Coalgebraic", "Methods", "in", "the", "Mathematics", "of", "Program", "Construction", ",", "pages", "149", "202", ",", "2000", ".", "-LSB-", "15", "-RSB-", "J.", "Gibbons", ".", "Patterns", "in", "datatype-generic", "programming", ".", "In", "Declarative", "Programming", "in", "the", "Context", "of", "Object-Oriented", "Languages", ",", "2003", ".", "-LSB-", "16", "-RSB-", "R.", "Harper", "and", "G.", "Morrisett", ".", "Compiling", "polymorphism", "using", "intensional", "type", "analysis", ".", "In", "Principles", "of", "Programming", "Languages", ",", "pages", "130", "141", ",", "San", "Francisco", ",", "California", ",", "1995", ".", "-LSB-", "17", "-RSB-", "R.", "Hinze", ".", "Generalizing", "generalized", "tries", ".", "Journal", "of", "Functional", "Programming", ",", "10", "-LRB-", "4", "-RRB-", ":", "327", "351", ",", "2000", ".", "-LSB-", "18", "-RSB-", "R.", "Hinze", ".", "Fun", "with", "phantom", "types", ".", "In", "J.", "Gibbons", "and", "O.", "de", "Moor", ",", "editors", ",", "The", "Fun", "of", "Programming", ",", "pages", "245", "262", ".", "Palgrave", ",", "2003", ".", "-LSB-", "19", "-RSB-", "R.", "Hinze", ".", "Generics", "for", "the", "masses", ".", "In", "International", "Conference", "on", "Functional", "Programming", ",", "pages", "236", "243", ".", "ACM", "Press", ",", "2004", ".", "-LSB-", "20", "-RSB-", "R.", "Hinze", ",", "J.", "Jeuring", ",", "and", "A.", "L", "h.", "Type-indexed", "data", "types", ".", "Science", "of", "Computer", "Programming", ",", "51", "-LRB-", "1-2", "-RRB-", ":", "117", "151", ",", "2004", ".", "-LSB-", "21", "-RSB-", "P.", "Jansson", ".", "Functional", "Polytypic", "Programming", ".", "PhD", "thesis", ",", "Chalmers", "University", "of", "Technology", ",", "May", "2000", ".", "-LSB-", "22", "-RSB-", "J.", "Jeuring", "and", "P.", "Jansson", ".", "Polytypic", "programming", ".", "In", "J.", "Launchbury", ",", "E.", "Meijer", ",", "and", "T.", "Sheard", ",", "editors", ",", "LNCS", "1129", ":", "Advanced", "Functional", "Programming", ",", "pages", "68", "114", ".", "Springer-Verlag", ",", "1996", ".", "-LSB-", "23", "-RSB-", "T.", "K", "hne", ".", "A", "Functional", "Pattern", "System", "for", "Object-Oriented", "Design", ".", "Verlag", "Dr.", "Kovac", ",", "ISBN", "3-86064-770-9", ",", "Hamburg", ",", "Germany", ",", "1999", ".", "-LSB-", "24", "-RSB-", "R.", "L", "mmel", "and", "S.", "Peyton", "Jones", ".", "Scrap", "your", "boilerplate", ":", "a", "practical", "design", "pattern", "for", "generic", "programming", ".", "In", "Types", "in", "Language", "Design", "and", "Implementation", ",", "2003", ".", "-LSB-", "25", "-RSB-", "R.", "L", "mmel", "and", "J.", "Visser", ".", "Design", "patterns", "for", "functional", "strategic", "programming", ".", "In", "Workshop", "on", "Rule-Based", "Programming", ",", "2002", ".", "-LSB-", "26", "-RSB-", "A.", "L", "h.", "Exploring", "Generic", "Haskell", ".", "PhD", "thesis", ",", "Utrecht", "University", ",", "2004", ".", "-LSB-", "27", "-RSB-", "A.", "L", "h", ",", "D.", "Clarke", ",", "and", "J.", "Jeuring", ".", "Dependency-style", "Generic", "Haskell", ".", "In", "International", "Conference", "on", "Functional", "Programming", ",", "pages", "141", "152", ",", "2003", ".", "-LSB-", "28", "-RSB-", "E.", "Meijer", ",", "M.", "Fokkinga", ",", "and", "R.", "Paterson", ".", "Functional", "programming", "with", "bananas", ",", "lenses", ",", "envelopes", "and", "barbed", "wire", ".", "In", "LNCS", "523", ":", "Functional", "Programming", "Languages", "and", "Computer", "Architecture", ",", "pages", "124", "144", ".", "Springer-Verlag", ",", "1991", ".", "-LSB-", "29", "-RSB-", "D.", "Menendez", ".", "Fixed-length", "vectors", "in", "Haskell", ".", "http://www", ".", "haskell.org/pipermail/haskell/2005-May/015815.html", ".", "-LSB-", "30", "-RSB-", "U.", "Norell", "and", "P.", "Jansson", ".", "Polytypic", "programming", "in", "Haskell", ".", "In", "Implementing", "Functional", "Languages", ",", "2003", ".", "-LSB-", "31", "-RSB-", "S.", "Peyton", "Jones", ",", "editor", ".", "Haskell", "98", "Language", "and", "Libraries", ":", "The", "Revised", "Report", ".", "Cambridge", "University", "Press", ",", "2003", ".", "-LSB-", "32", "-RSB-", "S.", "Peyton", "Jones", ",", "G.", "Washburn", ",", "and", "S.", "Weirich", ".", "Wobbly", "types", ":", "Type", "inference", "for", "generalised", "algebraic", "data", "types", ".", "Microsoft", "Research", ",", "Cambridge", ",", "2004", ".", "-LSB-", "33", "-RSB-", "J.", "C.", "Reynolds", ".", "Types", ",", "abstraction", "and", "parametric", "polymorphism", ".", "In", "Information", "Processing", "83", ",", "pages", "513", "523", ".", "Elsevier", ",", "1983", ".", "-LSB-", "34", "-RSB-", "P.", "Wadler", ".", "Views", ":", "a", "way", "for", "pattern", "matching", "to", "cohabit", "with", "data", "abstraction", ".", "In", "Principles", "of", "Programming", "Languages", ",", "pages", "307", "313", ".", "ACM", "Press", ",", "1987", ".", "-LSB-", "35", "-RSB-", "P.", "Wadler", ".", "Theorems", "for", "free", "!", "In", "Functional", "Programming", "and", "Computer", "Architecture", ",", "1989", ".", "-LSB-", "36", "-RSB-", "S.", "Weirich", ".", "Higher-order", "intensional", "type", "analysis", "in", "type-erasure", "semantics", ".", "http://www.cis.upenn.edu/~sweirich/papers/", "erasure/erasure-paper-july03.pdf", ",", "2003", ".", "-LSB-", "37", "-RSB-", "Z.", "Yang", ".", "Encoding", "types", "in", "ML-like", "languages", ".", "In", "International", "Conference", "on", "Functional", "Programming", ",", "pages", "289", "300", ",", "1998", ".", "109"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["type classes", "generic programming"], "abstractive_keyphrases": ["type-indexed functions"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "145", "document": ["Optimal", "Transmission", "Range", "for", "Cluster-Based", "Wireless", "Sensor", "Networks", "With", "Mixed", "Communication", "Modes", "Prolonging", "the", "network", "lifetime", "is", "one", "of", "the", "most", "important", "designing", "objectives", "in", "wireless", "sensor", "networks", "-LRB-", "WSN", "-RRB-", ".", "We", "consider", "a", "heterogeneous", "cluster-based", "WSN", ",", "which", "consists", "of", "two", "types", "of", "nodes", ":", "powerful", "cluster-heads", "and", "basic", "sensor", "nodes", ".", "All", "the", "nodes", "are", "randomly", "deployed", "in", "a", "specific", "area", ".", "To", "better", "balance", "the", "energy", "dissipation", ",", "we", "use", "a", "simple", "mixed", "communication", "modes", "where", "the", "sensor", "nodes", "can", "communicate", "with", "cluster-heads", "in", "either", "single-hop", "or", "multi-hop", "mode", ".", "Given", "the", "initial", "energy", "of", "the", "basic", "sensor", "nodes", ",", "we", "derive", "the", "optimal", "communication", "range", "and", "identify", "the", "optimal", "mixed", "communication", "mode", "to", "maximize", "the", "WSN", "'s", "lifetime", "through", "optimizations", ".", "Moreover", ",", "we", "also", "extend", "our", "model", "from", "2-D", "space", "to", "3-D", "space", ".", "A", "WIRELESS", "sensor", "network", "consists", "of", "a", "large", "amount", "of", "sensor", "nodes", ",", "which", "have", "wireless", "communication", "capability", "and", "some", "level", "of", "ability", "for", "signal", "processing", ".", "Distributed", "wireless", "sensor", "networks", "enable", "a", "variety", "of", "applications", "for", "sensing", "and", "controlling", "the", "physical", "world", "-LSB-", "1", "-RSB-", ",", "-LSB-", "2", "-RSB-", ".", "One", "of", "the", "most", "important", "applications", "is", "the", "monitor", "of", "a", "specific", "geographical", "area", "-LRB-", "e.g.", ",", "to", "detect", "and", "monitor", "the", "environmental", "changes", "in", "forests", "-RRB-", "by", "spreading", "a", "great", "number", "of", "wireless", "sensor", "nodes", "across", "the", "area", "-LSB-", "3", "-RSB-", "-LSB-", "6", "-RSB-", ".", "Because", "of", "the", "sensor", "nodes", "'", "self", "constraints", "-LRB-", "generally", "tiny", "size", ",", "low-energy", "supply", ",", "weak", "computation", "ability", ",", "etc.", "-RRB-", ",", "it", "is", "challenging", "to", "develop", "a", "scalable", ",", "robust", ",", "and", "long-lived", "wireless", "sensor", "network", ".", "Much", "research", "effort", "has", "focused", "on", "this", "area", "which", "result", "in", "many", "new", "technologies", "and", "methods", "to", "address", "these", "problems", "in", "recent", "years", ".", "The", "combination", "of", "clustering", "and", "data-fusion", "is", "one", "of", "the", "most", "effective", "approaches", "to", "construct", "the", "large-scale", "and", "energy-efficient", "data", "gathering", "sensor", "networks", "-LSB-", "7", "-RSB-", "-LSB-", "9", "-RSB-", ".", "In", "particular", ",", "the", "authors", "of", "-LSB-", "9", "-RSB-", "develop", "a", "distributed", "algorithm", "called", "Low-Energy", "Adaptive", "Clustering", "Hierarchy", "-LRB-", "LEACH", "-RRB-", "for", "homogeneous", "sensor", "networks", "where", "each", "sensor", "elects", "itself", "as", "a", "cluster-head", "with", "some", "probability", "and", "The", "research", "reported", "in", "this", "paper", "was", "supported", "in", "part", "by", "the", "U.S.", "National", "Science", "Foundation", "CAREER", "Award", "under", "Grant", "ECS-0348694", ".", "the", "cluster", "reconfiguration", "scheme", "is", "used", "to", "balance", "the", "energy", "load", ".", "The", "LEACH", "allows", "only", "single-hop", "clusters", "to", "be", "constructed", ".", "On", "the", "other", "hand", ",", "in", "-LSB-", "10", "-RSB-", "we", "proposed", "the", "similar", "clustering", "algorithms", "where", "sensors", "communicate", "with", "their", "cluster-heads", "in", "multi-hop", "mode", ".", "However", ",", "in", "these", "homogeneous", "sensor", "networks", ",", "the", "requirement", "that", "every", "node", "is", "capable", "of", "aggregating", "data", "leads", "to", "the", "extra", "hardware", "cost", "for", "all", "the", "nodes", ".", "Instead", "of", "using", "homogeneous", "sensor", "nodes", "and", "the", "cluster", "reconfiguration", "scheme", ",", "the", "authors", "of", "-LSB-", "11", "-RSB-", "focus", "on", "the", "heterogeneous", "sensor", "networks", "in", "which", "there", "are", "two", "types", "of", "nodes", ":", "supernodes", "and", "basic", "sensor", "nodes", ".", "The", "supernodes", "act", "as", "the", "cluster-heads", ".", "The", "basic", "sensor", "nodes", "communicate", "with", "their", "closest", "cluster-heads", "via", "multi-hop", "mode", ".", "The", "authors", "of", "-LSB-", "11", "-RSB-", "formulate", "an", "optimization", "problem", "to", "minimize", "the", "network", "cost", "which", "depends", "on", "the", "nodes", "'", "densities", "and", "initial", "energies", ".", "In", "addition", ",", "The", "authors", "of", "-LSB-", "12", "-RSB-", "obtain", "the", "upper", "bounds", "on", "the", "lifetime", "of", "a", "sensor", "network", "through", "all", "possible", "routes", "/", "communication", "modes", ".", "However", ",", "it", "is", "complicated", "to", "implement", "a", "distributed", "scheme", "to", "achieve", "the", "upper", "bound", "of", "the", "WSN", "lifetime", "because", "it", "is", "required", "to", "know", "the", "distance", "between", "every", "two", "sensor", "nodes", "in", "their", "scheme", ".", "The", "authors", "of", "-LSB-", "13", "-RSB-", "develop", "a", "simpler", ",", "but", "sub-optimal", ",", "scheme", "where", "the", "nodes", "employ", "the", "mixed", "communication", "modes", ":", "single-hop", "mode", "and", "multi-hop", "mode", "periodically", ".", "This", "mixed", "communication", "modes", "can", "better", "balance", "the", "energy", "load", "efficiently", "over", "WSNs", ".", "However", ",", "the", "authors", "of", "-LSB-", "13", "-RSB-", "do", "not", "obtain", "the", "optimal", "communication", "range", "for", "the", "multi-hop", "mode", "which", "is", "a", "critically", "important", "parameter", "for", "the", "mixed", "communication", "modes", "scheme", ".", "Also", ",", "their", "analytical", "model", "can", "only", "deal", "with", "the", "case", "of", "grid", "deployment", ",", "where", "the", "nodes", "are", "placed", "along", "the", "grids", ",", "without", "considering", "the", "random", "deployment", ".", "In", "order", "to", "further", "increase", "the", "network", "lifetime", "of", "heterogeneous", "WSNs", "by", "remedying", "the", "deficiencies", "in", "the", "aforementioned", "pervious", "work", ",", "we", "develop", "the", "analytical", "models", "to", "determine", "the", "optimal", "transmission", "range", "of", "the", "sensor", "nodes", "and", "identify", "the", "optimal", "communication", "modes", "in", "this", "paper", ".", "In", "our", "models", ",", "the", "basic", "sensor", "nodes", "are", "allowed", "to", "communicate", "with", "their", "cluster-heads", "with", "mixed", "communication", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "Cluster-head", "Basic", "sensor", "node", "Zone1", "Zone", "2", "Zone", "3", "Zone", "4", "R", "Mobile", "base", "station", "Cluster", "Fig.", "1", ".", "An", "example", "of", "the", "wireless", "sensor", "data-gathering", "networks", ".", "In", "each", "round", ",", "the", "aircraft", "hovers", "above", "the", "cluster-heads", "in", "the", "monitored", "area", "to", "collect", "the", "aggregated", "data", ".", "Within", "each", "cluster", ",", "the", "basic", "sensor", "nodes", "can", "communicate", "with", "its", "cluster-head", "in", "either", "single-hop", "or", "multi-hop", ".", "modes", "instead", "of", "only", "multi-hop", "mode", "or", "only", "single-hop", "mode", ".", "Applying", "the", "derived", "optimal", "transmission", "range", "and", "communication", "modes", ",", "we", "also", "study", "how", "the", "other", "WSN", "parameters", "-LRB-", "e.g.", ",", "the", "density", "and", "initial", "energy", "of", "the", "cluster-heads", ",", "etc.", "-RRB-", "affect", "the", "network", "lifetime", "through", "simulation", "experiments", ".", "Moreover", ",", "simulation", "results", "verify", "our", "analytical", "models", ".", "We", "also", "extend", "our", "model", "from", "2-D", "space", "to", "3-D", "space", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "II", "develops", "our", "proposed", "models", "and", "formulates", "the", "design", "procedure", "as", "an", "optimization", "problem", ".", "Section", "III", "solves", "the", "formulated", "optimization", "problem", ".", "Section", "IV", "presents", "the", "numerical", "and", "experimental", "results", ".", "Section", "V", "addresses", "the", "extended", "3-D", "model", ".", "The", "paper", "concludes", "with", "Section", "VI", ".", "We", "study", "the", "following", "WSN", "scenario", "in", "this", "paper", ".", "A", "heterogeneous", "sensor", "network", "consisting", "of", "two", "types", "of", "sensor", "nodes", ",", "i", "-RRB-", "the", "more", "powerful", "but", "more", "expensive", "cluster-head", "nodes", "with", "density", "of", "1", "and", "ii", "-RRB-", "the", "inexpensive", "basic", "sensor", "nodes", "with", "density", "of", "2", ",", "is", "deployed", "in", "a", "specific", "area", ".", "The", "density", "of", "the", "basic", "sensor", "nodes", "is", "determined", "by", "the", "application", "requirements", ".", "A", "basic", "sensor", "node", "joins", "the", "cluster", "whose", "cluster-head", "is", "the", "closest", "in", "hops", "or", "distance", "to", "this", "basic", "sensor", "node", ".", "In", "each", "round", ",", "the", "cluster-heads", "send", "the", "aggregated", "data", "to", "the", "mobile", "base", "station", "-LRB-", "e.g.", ",", "an", "aircraft", "or", "a", "satellite", "-RRB-", "after", "the", "cluster-heads", "receive", "and", "process", "the", "raw", "data", "from", "the", "basic", "sensor", "node", ".", "Fig.", "1", "shows", "an", "example", "of", "this", "type", "of", "sensor", "networks", ".", "The", "definition", "of", "network", "lifetime", "used", "in", "this", "paper", "is", "the", "period", "in", "rounds", "from", "the", "time", "when", "the", "network", "starts", "working", "to", "the", "time", "when", "the", "first", "node", "dies", "-LSB-", "15", "-RSB-", ".", "Notice", "that", "energy", "dissipation", "is", "not", "uniform", "over", "the", "cluster-based", "WSNs", ",", "implying", "that", "some", "nodes", "in", "specific", "zones", "-LRB-", "e.g.", ",", "the", "nodes", "which", "are", "close", "to", "the", "cluster-heads", "need", "to", "consume", "more", "energy", "for", "relaying", "traffic", "of", "other", "nodes", "in", "multi-hop", "mode", "-RRB-", "drain", "out", "their", "energy", "faster", "than", "others", ".", "Thus", ",", "the", "network", "lifetime", "of", "these", "critical", "nodes", "decides", "how", "long", "the", "WSN", "can", "survive", ".", "Hence", ",", "maximizing", "the", "network", "lifetime", "is", "equivalent", "to", "minimizing", "the", "energy", "consumption", "of", "the", "critical", "sensor", "nodes", "if", "the", "initial", "energy", "of", "sensor", "nodes", "is", "given", ".", "In", "this", "paper", ",", "our", "optimization", "objective", "is", "not", "to", "minimize", "the", "total", "energy", "consumption", "by", "all", "the", "sensor", "nodes", ",", "but", "to", "minimize", "the", "energy", "consumption", "of", "the", "critical", "nodes", "to", "prolong", "the", "network", "lifetime", ".", "A.", "Node", "Architectures", "and", "Energy", "Models", "A", "wireless", "sensor", "node", "typically", "consists", "of", "the", "following", "three", "parts", ":", "1", "-RRB-", "the", "sensor", "component", ",", "2", "-RRB-", "the", "transceiver", "component", ",", "and", "3", "-RRB-", "the", "signal", "processing", "component", ".", "In", "this", "paper", ",", "we", "have", "the", "following", "assumptions", "for", "each", "component", ".", "1", "-RRB-", "For", "the", "sensor", "component", ":", "Assume", "that", "the", "sensor", "nodes", "sense", "constant", "amount", "of", "information", "every", "round", ".", "The", "energy", "consumed", "in", "sensing", "is", "simply", "E", "sense", "-LRB-", "l", "-RRB-", "=", "l", ",", "where", "is", "the", "power", "consumption", "for", "sensing", "a", "bit", "of", "data", "and", "l", "is", "the", "length", "in", "bits", "of", "the", "information", "which", "a", "sensor", "node", "should", "sense", "in", "every", "data-gathering", "round", ".", "In", "general", "the", "value", "of", "l", "is", "a", "constant", ".", "2", "-RRB-", "For", "the", "transceiver", "component", ":", "We", "use", "a", "simple", "model", "for", "the", "radio", "hardware", "energy", "consumption", "-LSB-", "16", "-RSB-", ".", "The", "energy", "E", "tx", "-LRB-", "r", ",", "l", "-RRB-", "and", "the", "energy", "E", "rx", "-LRB-", "l", "-RRB-", "required", "for", "a", "node", "to", "transmit", "and", "receive", "a", "packet", "of", "l", "bits", "over", "r", "distance", ",", "respectively", ",", "can", "be", "expressed", "as", "follows", ".", "E", "tx", "-LRB-", "r", ",", "l", "-RRB-", "=", "-LRB-", "r", "n", "+", "-RRB-", "l", "E", "rx", "-LRB-", "l", "-RRB-", "=", "l", "-LRB-", "1", "-RRB-", "where", "r", "n", "accounts", "for", "the", "radiated", "power", "necessary", "to", "transmit", "over", "a", "distance", "of", "r", "between", "source", "and", "destination", "and", "is", "the", "energy", "dissipated", "in", "the", "transmitter", "circuit", "-LRB-", "PLLs", ",", "VCOs", ",", "etc", "-RRB-", "which", "depends", "on", "the", "digital", "coding", ",", "modulation", ",", "etc.", ".", "The", "value", "of", "path", "loss", "exponent", "n", "depends", "on", "the", "surrounding", "environment", "-LSB-", "16", "-RSB-", ".", "In", "general", ",", "=", "10pJ/bit/m", "2", "when", "n", "=", "2", ",", "=", "0.0013", "pJ/bit/m", "4", "when", "n", "=", "4", ",", "=", "50nJ/bit", "-LSB-", "9", "-RSB-", ".", "3", "-RRB-", "For", "the", "signal", "processing", "component", ":", "This", "component", "conducts", "data-fusion", ".", "Because", "the", "signal", "processing", "component", "usually", "consists", "of", "complicated", "and", "expensive", "gear", "such", "as", "Digital", "Signal", "Proces-sors", "-LRB-", "DSP", "-RRB-", ",", "Field", "Programmable", "Gate", "Arrays", "-LRB-", "FPGA", "-RRB-", ",", "etc.", ",", "the", "basic", "sensor", "nodes", "do", "not", "contain", "the", "signal", "processing", "component", ".", "Only", "the", "cluster-heads", "have", "these", "components", "and", "the", "ability", "for", "data-fusion", ".", "The", "energy", "spent", "in", "aggregating", "k", "streams", "of", "l", "bits", "raw", "information", "into", "a", "single", "stream", "is", "determined", "by", "E", "aggr", "-LRB-", "k", ",", "l", "-RRB-", "=", "kl", "-LRB-", "2", "-RRB-", "where", "the", "typical", "value", "of", "is", "5nJ/bit/stream", "-LSB-", "17", "-RSB-", ".", "B.", "Mixed", "Communication", "Modes", "Notice", "that", "in", "the", "multi-hop", "mode", ",", "the", "closer", "the", "distance", "between", "the", "sensor", "node", "and", "its", "cluster-head", ",", "the", "more", "energy", "the", "sensor", "node", "consumes", "since", "the", "inner", "nodes", "are", "required", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "to", "relay", "the", "more", "traffics", "than", "that", "for", "the", "outer", "nodes", ".", "On", "the", "other", "hand", ",", "for", "the", "case", "of", "pure", "single-hop", "mode", ",", "the", "basic", "sensor", "nodes", "which", "are", "closer", "to", "their", "cluster-heads", "dissipate", "less", "energy", "than", "those", "farther", "from", "the", "cluster-heads", "because", "the", "energy", "consumption", "increases", "as", "the", "n-th", "power", "of", "distance", ",", "where", "n", "is", "the", "path", "loss", "exponent", ".", "In", "order", "to", "balance", "the", "energy", "load", "of", "the", "basic", "sensor", "nodes", ",", "our", "model", "employs", "the", "mixed", "communication", "modes", "which", "consist", "of", "the", "mixed", "single-hop", "and", "multi-hop", "mode", ".", "The", "basic", "sensor", "nodes", "use", "single-hop", "communication", "mode", "in", "some", "rounds", "but", "multi-hop", "communication", "mode", "in", "the", "other", "rounds", ".", "This", "kind", "of", "mixed", "communication", "modes", "is", "easy", "to", "implement", ".", "For", "example", ",", "the", "cluster-head", "can", "broadcast", "a", "notifying", "message", "periodically", "to", "all", "member", "nodes", "to", "inform", "of", "which", "communication", "mode", "should", "be", "used", "for", "next", "data-gathering", "round", ".", "We", "use", "parameter", "to", "measure", "how", "often", "the", "single-hop", "mode", "is", "used", ".", "Suppose", "T", "is", "the", "total", "rounds", "that", "the", "network", "can", "perform", ",", "T", "s", "is", "the", "number", "of", "rounds", "that", "single-hop", "communication", "mode", "is", "used", "and", "T", "m", "is", "the", "number", "of", "rounds", "that", "multi-hop", "communication", "mode", "is", "employed", ".", "Let", "=", "T", "s", "/", "T", "=", "1-T", "m", "/", "T", "be", "the", "frequency", "with", "which", "the", "single-hop", "communication", "mode", "is", "used", ".", "Note", "that", "=", "0", "means", "that", "the", "pure", "multi-hop", "communication", "mode", "is", "employed", ",", "while", "=", "1", "represents", "that", "only", "the", "single-hop", "communication", "mode", "is", "used", ".", "C.", "Deployment", "Models", "The", "sensor", "nodes", "and", "the", "cluster-heads", "are", "randomly", "distributed", "on", "a", "2-D", "circular", "area", ",", "whose", "radius", "is", "A", "unit", ".", "We", "can", "model", "such", "random", "deployment", "-LRB-", "e.g.", ",", "deployed", "by", "the", "aircraft", "in", "a", "large-scale", "mode", "-RRB-", "as", "a", "spatial", "Poisson", "point", "process", ".", "Specifically", ",", "the", "cluster-heads", "and", "basic", "sensor", "nodes", "in", "the", "wireless", "sensor", "network", "are", "distributed", "according", "to", "two", "independent", "spatial", "Poisson", "processes", "PP1", "and", "PP2", "with", "densities", "equal", "to", "1", "and", "2", ",", "respectively", ".", "The", "basic", "sensor", "nodes", "will", "join", "the", "clusters", "in", "which", "the", "cluster-heads", "are", "the", "closest", "to", "the", "sensor", "nodes", "to", "form", "Voronoi", "cells", "-LSB-", "14", "-RSB-", ".", "The", "2-D", "plane", "is", "thus", "partitioned", "into", "a", "number", "of", "Voronoi", "cells", "which", "correspond", "to", "a", "PP1", "process", "point", ".", "The", "authors", "of", "-LSB-", "14", "-RSB-", "have", "studied", "the", "moments", "and", "tail", "of", "the", "distributions", "of", "the", "number", "of", "PP2", "nodes", "-LRB-", "i.e.", ",", "the", "basic", "sensor", "nodes", "-RRB-", "connected", "to", "a", "particular", "PP1", "node", "-LRB-", "i.e", ",", "a", "cluster-head", "-RRB-", ".", "Because", "PP1", "and", "PP2", "are", "homogeneous", "Poisson", "point", "processes", ",", "we", "can", "shift", "the", "origin", "to", "one", "of", "the", "PP1", "nodes", ".", "Let", "V", "be", "the", "set", "of", "nodes", "which", "belong", "to", "the", "Voronoi", "cell", "corresponding", "to", "a", "PP1", "node", "located", "at", "the", "origin", "and", "S", "-LRB-", "r", ",", "-RRB-", "be", "a", "PP2", "node", "whose", "polar", "coordinate", "is", "-LRB-", "r", ",", "-RRB-", ".", "By", "using", "the", "results", "of", "-LSB-", "14", "-RSB-", ",", "we", "can", "get", "the", "probability", "that", "S", "-LRB-", "r", ",", "-RRB-", "belongs", "to", "V", "as", "follows", ":", "P", "r", "S", "-LRB-", "r", ",", "-RRB-", "V", "=", "e", "1", "r", "2", "-LRB-", "3", "-RRB-", "Let", "N", "V", "be", "the", "number", "of", "PP2", "nodes", "belonging", "to", "the", "V.", "Then", ",", "the", "average", "N", "V", "can", "be", "given", "by", "E", "-LSB-", "N", "V", "-RSB-", "=", "2", "0", "0", "P", "r", "S", "-LRB-", "r", ",", "-RRB-", "V", "2", "rdrd", "=", "2", "0", "0", "e", "1", "r", "2", "2", "rdrd", "=", "2", "1", "-LRB-", "4", "-RRB-", "where", "2", "rdrd", "denotes", "the", "number", "of", "PP2", "nodes", "in", "a", "small", "area", "of", "rdrd", ".", "If", "we", "confine", "the", "cluster", "size", "to", "X", "hops", "-LRB-", "i.e.", ",", "maximum", "number", "of", "X", "hops", "is", "allowed", "from", "the", "basic", "sensor", "node", "to", "its", "cluster-head", "-RRB-", ",", "the", "average", "number", "of", "sensors", "which", "do", "not", "belong", "to", "any", "cluster-head", ",", "denoted", "by", "E", "-LSB-", "N", "O", "-RSB-", ",", "can", "be", "expressed", "as", "follows", ":", "E", "-LSB-", "N", "O", "-RSB-", "=", "1", "A", "2", "2", "0", "XR", "P", "r", "S", "-LRB-", "r", ",", "-RRB-", "V", "2", "rdrd", "=", "2", "A", "2", "e", "1", "-LRB-", "XR", "-RRB-", "2", "-LRB-", "5", "-RRB-", "Clearly", ",", "we", "want", "a", "small", "E", "-LSB-", "N", "O", "-RSB-", "with", "an", "appropriate", "cluster", "size", "X.", "E", "-LSB-", "N", "O", "-RSB-", "2", "A", "2", "-LRB-", "6", "-RRB-", "where", "-LRB-", ">", "0", "-RRB-", "is", "the", "percentage", "of", "sensor", "nodes", "that", "will", "not", "join", "any", "cluster-head", ".", "Solving", "Eq", ".", "-LRB-", "5", "-RRB-", "and", "Eq", ".", "-LRB-", "6", "-RRB-", "together", ",", "we", "obtain", "the", "following", "inequality", ".", "X", "-", "log", "1", "R", "2", "-LRB-", "7", "-RRB-", "The", "average", "number", "of", "sensor", "nodes", "which", "do", "not", "join", "any", "cluster-head", "is", "less", "or", "equal", "than", "2", "A", "2", "if", "X", "is", "given", "by", "X", "=", "-", "log", "1", "R", "2", "-LRB-", "8", "-RRB-", "Thus", ",", "we", "know", "that", "every", "cluster", "can", "be", "divided", "into", "X", "ring", "zones", "with", "the", "ring", "width", "equal", "to", "R", "when", "multi-hop", "communication", "mode", "is", "used", ".", "The", "average", "number", "of", "sensor", "nodes", "in", "the", "i-th", "zone", "of", "the", "cluster", "can", "be", "written", "as", "follows", ":", "E", "-LSB-", "N", "i", "-RSB-", "=", "2", "0", "iR", "-LRB-", "i-1", "-RRB-", "R", "P", "r", "S", "-LRB-", "r", ",", "-RRB-", "V", "2", "rdrd", "=", "2", "1", "e", "1", "-LSB-", "-LRB-", "i-1", "-RRB-", "R", "-RSB-", "2", "-", "e", "1", "-LRB-", "iR", "-RRB-", "2", "-LRB-", "9", "-RRB-", "where", "i", "is", "an", "positive", "integer", "ranging", "from", "1", "to", "X.", "D", ".", "The", "Wireless", "Sensor", "Network", "Lifetime", "In", "our", "model", ",", "the", "nodes", "at", "the", "same", "zone", "will", "die", "at", "almost", "the", "same", "time", ".", "Therefore", ",", "the", "network", "lifetime", "is", "equivalent", "to", "the", "period", "from", "the", "time", "when", "the", "WSN", "begins", "working", "to", "the", "time", "when", "all", "nodes", "of", "a", "zone", "die", ".", "i", "-RRB-", "The", "basic", "sensor", "nodes", "The", "sensor", "nodes", "have", "the", "responsibility", "to", "relay", "the", "traffic", "from", "the", "peers", "laid", "in", "the", "outer", "zone", "in", "the", "multi-hop", "communication", "mode", ".", "We", "define", "the", "average", "number", "of", "packets", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "by", "Y", "-LRB-", "i", "-RRB-", ",", "which", "a", "sensor", "node", "placed", "in", "the", "i-th", "zone", "need", "to", "relay", ".", "Because", "each", "basic", "sensor", "node", "sends", "out", "a", "packet", "of", "sensed", "information", "per", "round", ",", "Y", "-LRB-", "i", "-RRB-", "is", "determined", "by", "the", "average", "number", "of", "nodes", "for", "which", "node", "i", "needs", "to", "forward", "messages", "and", "can", "be", "written", "as", "follows", ":", "Y", "-LRB-", "i", "-RRB-", "=", "X", "j", "=", "i", "+1", "E", "-LSB-", "N", "j", "-RSB-", "E", "-LSB-", "N", "i", "-RSB-", ".", "-LRB-", "10", "-RRB-", "The", "energy", "consumption", "of", "the", "basic", "sensor", "nodes", "in", "the", "i-th", "zone", "can", "be", "written", "as", "the", "summation", "of", "the", "following", "3", "terms", ":", "E", "sensor", "-LRB-", "i", ",", "-RRB-", "=", "-LRB-", "1", "-", "-RRB-", "E", "tx", "-LRB-", "R", ",", "l", "-RRB-", "+", "Y", "-LRB-", "i", "-RRB-", "E", "tx", "-LRB-", "R", ",", "l", "-RRB-", "+", "E", "rx", "-LRB-", "l", "-RRB-", "+", "E", "tx", "-LRB-", "iR", ",", "l", "-RRB-", "+", "E", "sense", "-LRB-", "l", "-RRB-", "-LRB-", "11", "-RRB-", "where", "-LRB-", "0", "1", "-RRB-", "is", "a", "parameter", "measuring", "the", "frequency", "with", "which", "the", "single-hop", "communication", "mode", "will", "be", "employed", ".", "The", "first", "term", "of", "Eq", ".", "-LRB-", "11", "-RRB-", "represents", "the", "energy", "spent", "in", "the", "relaying", "the", "traffic", "for", "the", "sensor", "nodes", "in", "the", "outer", "zone", "and", "transmitting", "its", "own", "traffic", "when", "the", "multihop", "communication", "mode", "is", "employed", ".", "The", "second", "term", "of", "Eq", ".", "-LRB-", "11", "-RRB-", "is", "energy", "consumption", "for", "transmitting", "a", "packet", "by", "single-hop", ".", "The", "third", "term", "of", "Eq", ".", "-LRB-", "11", "-RRB-", "is", "the", "energy", "dissipation", "for", "sensing", ".", "In", "our", "model", ",", "because", "the", "basic", "sensor", "nodes", "in", "the", "same", "zone", "will", "consume", "almost", "the", "same", "energy", "in", "each", "round", "-LRB-", "i.e.", ",", "sharing", "the", "same", "relaying", "traffic", "load", "when", "multi-hop", "communication", "mode", "is", "used", "-RRB-", ",", "their", "lifetimes", "are", "equal", "if", "their", "initial", "energies", "are", "the", "same", ".", "Therefore", ",", "if", "the", "initial", "energy", "is", "the", "same", "for", "each", "basic", "sensor", "node", ",", "the", "sensor", "nodes", "which", "belong", "to", "the", "-LRB-", "arg", "max", "1iX", "-LCB-", "E", "sensor", "-LRB-", "i", ",", "-RRB-", "-RCB-", "-RRB-", "-", "th", "zone", "will", "cost", "the", "most", "energy", "and", "die", "first", "which", "decides", "the", "network", "lifetime", ".", "Given", "the", "initial", "energy", ",", "denoted", "by", "E", "init2", ",", "which", "is", "carried", "by", "the", "basic", "sensor", "node", ",", "the", "network", "lifetime", "in", "rounds", "-LRB-", "T", "-RRB-", "can", "be", "written", "as", "follows", ":", "T", "=", "E", "init2", "max", "1iX", "E", "sensor", "-LRB-", "i", ",", "-RRB-", "=", "E", "init2", "E", "max", "-LRB-", "-RRB-", "-LRB-", "12", "-RRB-", "where", "E", "max", "-LRB-", "-RRB-", "max", "1iX", "E", "sensor", "-LRB-", "i", ",", "-RRB-", ".", "One", "of", "our", "objectives", "is", "to", "find", "the", "optimal", "which", "is", "determined", "by", "=", "arg", "min", "01", "-LCB-", "E", "max", "-LRB-", "-RRB-", "-RCB-", "-LRB-", "13", "-RRB-", "ii", "-RRB-", "The", "cluster-heads", "Because", "the", "main", "functions", "of", "cluster-heads", "include", "-LRB-", "1", "-RRB-", "sensing", ",", "-LRB-", "2", "-RRB-", "collecting", "data", "from", "the", "basic", "sensor", "nodes", ",", "-LRB-", "3", "-RRB-", "aggregating", "the", "raw", "data", ",", "and", "-LRB-", "4", "-RRB-", "transferring", "the", "processed", "data", "to", "the", "base", "station", ",", "the", "energy", "consumption", "of", "cluster-heads", "is", "the", "sum", "of", "the", "energy", "dissipation", "of", "these", "four", "parts", "for", "the", "above", "four", "parts", ".", "Therefore", ",", "the", "energy", "consumption", "for", "a", "cluster-head", ",", "denoted", "by", "E", "CH", ",", "in", "each", "round", "can", "be", "expressed", "as", "summation", "of", "the", "following", "4", "terms", ":", "E", "CH", "=", "E", "-LSB-", "N", "-RSB-", "E", "rx", "-LRB-", "l", "-RRB-", "+", "E", "tx", "-LRB-", "H", ",", "l", "-RRB-", "+", "E", "sense", "-LRB-", "l", "-RRB-", "+", "E", "aggr", "-LRB-", "E", "-LSB-", "N", "-RSB-", "+", "1", ",", "l", "-RRB-", "-LRB-", "14", "-RRB-", "where", "E", "-LSB-", "N", "-RSB-", "is", "the", "average", "number", "of", "basic", "sensor", "nodes", "in", "a", "cluster", ",", "and", "H", "is", "the", "distance", "between", "the", "cluster-head", "and", "the", "mobile", "base-station", ".", "The", "first", "term", "of", "Eq", ".", "-LRB-", "14", "-RRB-", "represents", "the", "energy", "consumed", "for", "receiving", "the", "packets", "from", "the", "basic", "sensor", "nodes", ".", "The", "second", "term", "of", "Eq", ".", "-LRB-", "14", "-RRB-", "is", "the", "energy", "spent", "in", "transmitting", "the", "aggregated", "information", "to", "the", "mobile", "base", "station", ".", "The", "third", "term", "of", "Eq", ".", "-LRB-", "14", "-RRB-", "denotes", "the", "energy", "dissipation", "for", "sensing", "and", "the", "fourth", "term", "of", "Eq", ".", "-LRB-", "14", "-RRB-", "means", "the", "energy", "consumption", "for", "aggregating", "-LRB-", "E", "-LSB-", "N", "-RSB-", "+", "1", "-RRB-", "packets", ",", "each", "with", "l", "bits", ",", "into", "one", "packet", "of", "l", "bits", ".", "Because", "E", "-LSB-", "N", "-RSB-", "=", "2", "/", "1", ",", "E", "CH", "depends", "on", "the", "ratio", "between", "2", "and", "1", ".", "The", "energy", "consumption", "of", "cluster-heads", "is", "reversely", "proportional", "to", "the", "density", "of", "cluster-heads", ".", "The", "larger", "the", "density", "of", "cluster-heads", ",", "the", "smaller", "the", "value", "of", "E", "CH", ".", "Thus", ",", "in", "order", "to", "ensure", "T", "0", "rounds", "network", "lifetime", ",", "the", "initial", "energy", "for", "the", "cluster-heads", "can", "be", "written", "as", "follows", ":", "E", "init1", "T", "0", "E", "CH", "-LRB-", "15", "-RRB-", "E.", "Connectivity", "Because", "the", "mixed", "communication", "modes", "contains", "multihop", "communication", "mode", ",", "the", "communication", "range", "-LRB-", "R", "-RRB-", "is", "required", "to", "be", "large", "enough", "to", "ensure", "the", "connectivity", "of", "the", "network", ".", "When", "the", "nodes", "are", "assumed", "to", "be", "distributed", "with", "Poisson", "density", "in", "a", "disc", "of", "a", "unit", "area", ",", "the", "authors", "of", "-LSB-", "18", "-RSB-", "derived", "a", "lower", "bound", "on", "the", "communication", "range", "-LRB-", "R", "-RRB-", "to", "ensure", "the", "network", "connectivity", "with", "probability", "P", "r", "-LCB-", "conn", "-RCB-", ",", "which", "is", "determined", "by", "P", "r", "-LCB-", "conn", "-RCB-", "1", "-", "e", "-", "R", "2", "-LRB-", "16", "-RRB-", "Hence", ",", "the", "following", "inequality", "need", "to", "hold", "to", "ensure", "the", "connectivity", ".", "e", "-", "R", "2", "-LRB-", "17", "-RRB-", "where", ">", "0", ".", "By", "resolving", "Eq", ".", "-LRB-", "17", "-RRB-", ",", "we", "obtain", "the", "minimum", "transmission", "range", ",", "denoted", "by", "R", "min", ",", "to", "ensure", "that", "the", "probability", "of", "connectivity", "is", "greater", "than", "-LRB-", "1", "-", "-RRB-", ".", "R", "min", "=", "-", "1", "log", "=", "1", "-LRB-", "1", "+", "2", "-RRB-", "log", "-LRB-", "1", "+", "2", "-RRB-", "-LRB-", "18", "-RRB-", "F", ".", "The", "Optimization", "Problem", "Formulation", "Our", "objective", "is", "to", "find", "the", "optimal", "transmission", "range", "-LRB-", "R", "-RRB-", "and", "the", "parameter", "for", "the", "mixed", "communication", "modes", "-LRB-", "-RRB-", "to", "maximize", "the", "network", "lifetime", ".", "Objective", ":", "max", "-LCB-", "T", "-RCB-", "-LRB-", "19", "-RRB-", "Subject", "to", "R", "R", "min", "-LRB-", "20", "-RRB-", "0", "1", "-LRB-", "21", "-RRB-", "0", "E", "init2", "E", "0", "-LRB-", "22", "-RRB-", "where", "the", "first", "constraint", "given", "by", "Eq", ".", "-LRB-", "20", "-RRB-", "is", "to", "ensure", "the", "connectivity", "of", "the", "network", ".", "The", "expression", "of", "R", "min", "depends", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "on", "the", "types", "of", "deployment", ".", "The", "second", "constraint", "given", "by", "Eq", ".", "-LRB-", "21", "-RRB-", "indicates", "that", "we", "can", "use", "mixed", "communication", "modes", ".", "The", "third", "constraint", "given", "by", "Eq", ".", "-LRB-", "22", "-RRB-", "is", "due", "to", "the", "very", "limited", "energy", "carried", "by", "the", "basic", "sensor", "nodes", ".", "By", "observing", "Eq", ".", "-LRB-", "12", "-RRB-", ",", "we", "can", "simplify", "the", "objective", "function", "as", "``", "min", "-LCB-", "E", "max", "-RCB-", "''", "and", "remove", "the", "constraint", "given", "by", "Eq", ".", "-LRB-", "22", "-RRB-", "by", "letting", "E", "init2", "=", "E", "0", ".", "Then", ",", "the", "simplified", "optimization", "problem", "can", "be", "written", "as", "follows", ":", "Objective", ":", "min", "-LCB-", "E", "max", "-RCB-", "-LRB-", "23", "-RRB-", "Subject", "to", "R", "R", "min", "0", "1", "First", ",", "we", "show", "that", "given", "a", "specified", "transmission", "range", "-LRB-", "R", "-RRB-", ",", "the", "function", "of", "E", "max", "-LRB-", "-RRB-", "is", "convex", "in", "and", "the", "optimal", "=", "arg", "min", "01", "-LCB-", "E", "max", "-LRB-", "-RRB-", "-RCB-", "is", "a", "function", "of", "R.", "Because", "the", "energy", "consumption", "E", "sensor", "-LRB-", "i", ",", "-RRB-", "of", "the", "sensor", "nodes", "in", "the", "i-th", "zone", "is", "a", "convex", "function", "of", "i", "-LRB-", "the", "proof", "is", "omitted", "for", "lack", "of", "space", "-RRB-", ",", "the", "value", "of", "E", "max", "-LRB-", "-RRB-", "will", "be", "achieved", "by", "the", "sensor", "nodes", "laid", "in", "either", "the", "1st", "zone", "or", "the", "X-th", "zone", ",", "i.e.", ",", "E", "max", "-LRB-", "-RRB-", "=", "max", "-LCB-", "E", "sensor", "-LRB-", "1", ",", "-RRB-", ",", "E", "sensor", "-LRB-", "X", ",", "-RRB-", "-RCB-", "-LRB-", "24", "-RRB-", "Note", "that", "E", "sensor", "-LRB-", "1", ",", "-RRB-", "is", "a", "monotonically", "decreasing", "linear", "function", "of", "while", "E", "sensor", "-LRB-", "X", ",", "-RRB-", "is", "a", "monotonically", "increasing", "linear", "function", "of", ",", "and", "E", "sensor", "-LRB-", "1", ",", "1", "-RRB-", "=", "E", "sensor", "-LRB-", "X", ",", "0", "-RRB-", ".", "Hence", ",", "we", "can", "find", "that", "the", "two", "lines", "corresponding", "to", "these", "two", "linear", "functions", "will", "intersect", "at", "the", "point", "where", "is", "within", "the", "range", "between", "0", "to", "1", ".", "Clearly", ",", "the", "intersecting", "point", ",", "denoted", "by", ",", "yields", "the", "minimum", "value", "of", "E", "max", "-LRB-", "-RRB-", ".", "Therefore", ",", "=", "is", "the", "optimal", "value", "when", "the", "following", "equation", "is", "satisfied", ".", "E", "sensor", "-LRB-", "1", ",", "-RRB-", "=", "E", "sensor", "-LRB-", "X", ",", "-RRB-", "-LRB-", "25", "-RRB-", "By", "resolving", "Eq", ".", "-LRB-", "25", "-RRB-", ",", "we", "obtain", "the", "solution", "for", "Eq", ".", "-LRB-", "13", "-RRB-", ".", "=", "arg", "min", "01", "-LCB-", "E", "max", "-LRB-", "-RRB-", "-RCB-", "=", "Y", "-LRB-", "1", "-RRB-", "-LSB-", "E", "tx", "-LRB-", "R", "-RRB-", "+", "E", "rx", "-RSB-", "Y", "-LRB-", "1", "-RRB-", "-LSB-", "E", "tx", "-LRB-", "R", "-RRB-", "+", "E", "rx", "-RSB-", "+", "E", "tx", "-LRB-", "XR", "-RRB-", "-", "E", "tx", "-LRB-", "R", "-RRB-", "=", "Y", "-LRB-", "1", "-RRB-", "-LRB-", "R", "n", "+", "2", "-RRB-", "Y", "-LRB-", "1", "-RRB-", "-LRB-", "R", "n", "+", "2", "-RRB-", "+", "R", "n", "-LRB-", "X", "n", "-", "1", "-RRB-", "=", "Y", "-LRB-", "1", "-RRB-", "-LRB-", "R", "n", "+", "2", "-RRB-", "Y", "-LRB-", "1", "-RRB-", "-LRB-", "R", "n", "+", "2", "-RRB-", "+", "R", "n", "-LRB-", "X", "n", "-", "1", "-RRB-", "-LRB-", "26", "-RRB-", "where", "=", "/", ",", "and", "we", "use", "E", "tx", "-LRB-", "R", "-RRB-", ",", "E", "tx", "-LRB-", "XR", "-RRB-", ",", "and", "E", "rx", "instead", "of", "E", "tx", "-LRB-", "R", ",", "l", "-RRB-", ",", "E", "tx", "-LRB-", "XR", ",", "l", "-RRB-", ",", "and", "E", "rx", "-LRB-", "l", "-RRB-", "since", "the", "value", "of", "l", "is", "a", "constant", "for", "a", "specific", "application", ".", "The", "factor", "measures", "to", "what", "extent", "R", "has", "the", "impact", "on", "the", "transmission", "energy", "consumption", ".", "For", "example", ",", "The", "transmission", "energy", "consumption", "is", "more", "sensitive", "to", "R", "when", "is", "larger", ".", "The", "factor", "also", "determines", "the", "cost", "of", "relaying", "traffic", ".", "The", "cost", "of", "relaying", "traffic", "increases", "with", "the", "increment", "of", "because", "receiving", "packets", "consumes", "more", "energy", "with", "a", "greater", ".", "10", "-5", "10", "0", "10", "5", "10", "4", "10", "3", "10", "2", "10", "1", "10", "-1", "10", "-2", "10", "-3", "10", "-4", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "*", "R", "=", "0.1", ",", "n", "=", "2", "R", "=", "1", ",", "n", "=", "2", "R", "=", "0.1", ",", "n", "=", "4", "R", "=", "1", ",", "n", "=", "4", "Fig.", "2", ".", "The", "optimal", "against", ".", "If", "R", "n", ",", "Eq", ".", "-LRB-", "26", "-RRB-", "reduces", "to", "its", "approximated", "expression", "as", "follows", ":", "Y", "-LRB-", "1", "-RRB-", "Y", "-LRB-", "1", "-RRB-", "+", "-LRB-", "X", "n", "-", "1", "-RRB-", "-LRB-", "27", "-RRB-", "By", "substituting", "Eq", ".", "-LRB-", "9", "-RRB-", "and", "-LRB-", "10", "-RRB-", "into", "Eq", ".", "-LRB-", "26", "-RRB-", ",", "we", "have", "=", "1-e", "-1", "-LRB-", "X2-1", "-RRB-", "R2", "e", "1R2", "-1", "-LRB-", "R", "n", "+", "2", "-RRB-", "1-e", "-1", "-LRB-", "X2-1", "-RRB-", "R2", "e", "1R2", "-1", "-LRB-", "R", "n", "+", "2", "-RRB-", "+", "R", "n", "-LRB-", "X", "n", "-", "1", "-RRB-", "-LRB-", "28", "-RRB-", "Notice", "that", "is", "a", "function", "of", "R", "if", "we", "substitute", "Eq", ".", "-LRB-", "8", "-RRB-", "into", "Eq", ".", "-LRB-", "28", "-RRB-", ".", "Let", "1", "=", "0.001", ",", "2", "=", "3", ",", "and", "=", "10", "-12", ".", "By", "using", "Eq", ".", "-LRB-", "28", "-RRB-", ",", "we", "plot", "the", "optimal", "against", "as", "shown", "in", "Fig.", "2", ".", "We", "observe", "from", "Fig.", "2", "that", "the", "optimal", "is", "almost", "0", "-LRB-", "i.e.", ",", "pure", "multi-hop", "communication", "mode", "-RRB-", "if", "n", "=", "4", "and", "is", "small", ".", "The", "reason", "is", "because", "the", "energy", "consumption", "for", "transmission", "is", "proportional", "to", "R", "4", "and", "the", "term", "of", "R", "4", "in", "the", "first", "part", "of", "Eq", ".", "-LRB-", "1", "-RRB-", "dominates", "the", "transmission", "energy", "consumption", "if", "is", "small", ".", "Thus", ",", "the", "energy", "consumption", "in", "single-hop", "mode", "is", "much", "more", "than", "that", "in", "multi-hop", "mode", ".", "In", "contrast", ",", "if", "is", "large", ",", "the", "multi-hop", "mode", "loses", "its", "advantage", "over", "the", "single-hop", "mode", "because", "the", "transmission", "energy", "consumption", "is", "dominated", "by", "the", "constant", "term", "of", "in", "the", "first", "part", "of", "Eq", ".", "-LRB-", "1", "-RRB-", "and", "it", "is", "not", "sensitive", "to", "the", "transmission", "range", ".", "So", "far", ",", "given", "the", "communication", "range", "-LRB-", "R", "-RRB-", ",", "we", "obtain", "the", "minimum", "E", "max", "-LRB-", "-RRB-", "for", "the", "basic", "sensor", "nodes", "in", "order", "to", "derive", "the", "solutions", "for", "objective", "function", "of", "Eq", ".", "-LRB-", "24", "-RRB-", "as", "follows", ":", "E", "max", "-LRB-", "-RRB-", "=", "-LSB-", "R", "n", "-LRB-", "1", "+", "X", "n", "-RRB-", "+", "+", "-RSB-", "l", "-LRB-", "29", "-RRB-", "Next", ",", "we", "want", "to", "identify", "the", "optimal", "R", "to", "minimize", "E", "max", "-LRB-", "-RRB-", "when", "constraint", "given", "by", "Eq", ".", "-LRB-", "20", "-RRB-", "applies", ".", "Because", "it", "is", "difficult", "to", "find", "the", "closed", "form", "for", "the", "optimal", "R", ",", "we", "use", "a", "numerical", "solutions", "to", "determine", "the", "optimal", "R", "which", "is", "detailed", "for", "some", "scenarios", "in", "Section", "IV", ".", "For", "the", "following", "discussions", ",", "we", "set", "=", "10pJ/bit/m", "2", ",", "=", "50nJ/bit", ",", "=", "5nJ/bit/stream", ",", "the", "packet", "length", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "10", "-3", "10", "-2", "10", "-1", "10", "0", "10", "1", "10", "2", "0", "5", "10", "15", "20", "25", "30", "The", "density", "of", "the", "cluster-heads", "-LRB-", "1", "-RRB-", "The", "optimal", "transmission", "range", "-LRB-", "R", "*", "-RRB-", "2", "/", "1", "=", "100", "2", "/", "1", "=", "5000", "=", "1000", "=", "50", "=", "0", "10", "-3", "10", "-2", "10", "-1", "10", "0", "10", "1", "10", "2", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "The", "density", "of", "the", "cluster-heads", "-LRB-", "1", "-RRB-", "*", "2", "/", "1", "=", "100", "2", "/", "1", "=", "5000", "=", "1000", "=", "0", "=", "50", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Fig.", "3", ".", "The", "optimal", "parameters", "versus", "the", "density", "of", "cluster-heads", "under", "different", ".", "-LRB-", "a", "-RRB-", "The", "optimal", "communication", "range", "R", ".", "-LRB-", "b", "-RRB-", "The", "optimal", ".", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "4", "4.5", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Transmission", "range", "in", "meters", "-LRB-", "R", "-RRB-", "The", "normalized", "network", "lifetime", "=", "0", "=", "0.2", "=", "0.5", "=", "0.8", "=", "1", "Fig.", "4", ".", "The", "normalized", "network", "lifetime", "versus", "the", "transmission", "range", "-LRB-", "R", "-RRB-", "with", "=", "50", ",", "1", "=", "0.1", ",", "2", "/", "1", "=", "5000", ",", "and", "=", "0", ",", "0.2", ",", "0.5", ",", "0.8", ",", "1", ".", "l", "=", "120", "bits", "and", "the", "path", "loss", "exponent", "n", "=", "2", ".", "We", "consider", "various", "scenarios", "with", "three", "different", "values", "of", ",", "two", "average", "numbers", "of", "basic", "sensor", "nodes", "in", "a", "cluster", "-LRB-", "2", "/", "1", "-RRB-", "and", "various", "densities", "of", "cluster-heads", "-LRB-", "1", "-RRB-", ".", "According", "to", "the", "discussion", "in", "Section", "III", ",", "we", "get", "the", "numerical", "solutions", "for", "the", "optimal", "R", ",", "and", "then", "the", "value", "of", "optimal", "can", "be", "calculated", "by", "using", "Eq", ".", "-LRB-", "28", "-RRB-", ".", "The", "numerical", "results", "of", "optimal", "R", "and", "with", "different", "and", "-LRB-", "2", "/", "1", "-RRB-", "are", "shown", "in", "Fig.", "3", "-LRB-", "a", "-RRB-", "and", "Fig.", "3", "-LRB-", "b", "-RRB-", ",", "respectively", ".", "The", "optimal", "R", "decreases", "as", "1", "increases", ".", "With", "the", "same", "1", ",", "the", "larger", ",", "the", "larger", "the", "value", "of", "R", ".", "When", "is", "small", "-LRB-", "e.g.", ",", "=", "0", "and", "=", "50", "-RRB-", ",", "the", "value", "of", "is", "small", "-LRB-", "e.g.", ",", "<", "0.1", "-RRB-", ".", "This", "implies", "that", "the", "multi-hop", "communication", "mode", "dominates", "the", "single-hop", "mode", ".", "The", "reason", "for", "these", "observations", "includes", "the", "following", "two", ".", "First", ",", "the", "cost", "of", "relaying", "traffics", "is", "small", "since", "the", "receiving", "energy", "is", "small", ".", "Second", ",", "the", "transmission", "energy", "is", "sensitive", "to", "the", "transmission", "range", ".", "We", "also", "conduct", "the", "simulation", "experiments", "to", "verify", "our", "analytical", "results", ".", "In", "our", "simulations", ",", "Minimum", "Transmission", "Energy", "-LRB-", "MTE", "-RRB-", "routing", "algorithm", "-LSB-", "19", "-RSB-", ",", "which", "minimizes", "the", "total", "energy", "consumption", "for", "sending", "a", "packet", ",", "is", "used", "as", "the", "relaying", "scheme", "for", "the", "multi-hop", "communication", "mode", ".", "Let", "=", "50", ",", "1", "=", "0.1", ",", "and", "2", "/", "1", "=", "5000", ".", "We", "set", "the", "initial", "energy", "of", "cluster-heads", "-LRB-", "E", "init2", "-RRB-", "high", "enough", "to", "guarantee", "that", "the", "cluster-heads", "can", "have", "longer", "lifetime", "than", "the", "basic", "sensor", "nodes", ".", "Fig.", "4", "shows", "the", "simulation", "results", "of", "network", "lifetime", ".", "The", "plots", "in", "Fig.", "4", "is", "the", "average", "results", "of", "1000", "experiments", ".", "It", "shows", "that", "in", "most", "cases", "-LRB-", "i.e.", ",", "=", "0", ",", "0.2", ",", "0.5", ",", "and", "0.8", "-RRB-", "the", "network", "lifetime", "is", "maximized", "when", "R", "=", "3.5", ",", "which", "agrees", "with", "the", "numerical", "results", "shown", "in", "Fig.", "3", ".", "In", "the", "following", "simulations", ",", "the", "parameters", "are", "set", "as", "follows", ":", "the", "initial", "energy", "of", "basic", "sensor", "nodes", "E", "init2", "=", "0.01", "J", ",", "the", "distance", "between", "the", "cluster-heads", "and", "the", "mobile", "base", "station", "H", "=", "100m", ",", "l", "=", "l", "=", "120bits", "and", "2", "=", "1000", ".", "Fig.", "5", "shows", "the", "network", "lifetime", "changes", "with", "the", "average", "number", "of", "the", "basic", "sensor", "nodes", "in", "a", "cluster", "by", "using", "the", "optimal", "R", "and", "when", "is", "equal", "to", "0", ",", "100", "and", "1000", ".", "We", "observe", "that", "increasing", "the", "density", "of", "cluster-heads", "-LRB-", "i.e.", ",", "2", "/", "1", "decreases", "given", "constant", "2", "-RRB-", "does", "not", "always", "help", "to", "extend", "the", "network", "lifetime", ".", "For", "example", ",", "the", "network", "lifetime", "can", "be", "increased", "by", "51", "%", "when", "the", "density", "of", "cluster-heads", "changes", "from", "1", "=", "0.01", "or", "2", "/", "1", "=", "10", "6", "to", "1", "=", "0.1", "or", "2", "/", "1", "=", "10", "5", ",", "while", "the", "network", "lifetime", "is", "almost", "the", "same", "when", "the", "density", "of", "cluster-heads", "is", "greater", "than", "1", "=", "1", "-LRB-", "i.e.", ",", "the", "average", "of", "basic", "sensor", "nodes", "2", "/", "1", "10", "4", "-RRB-", ".", "On", "the", "other", "hand", ",", "Fig.", "6", "shows", "the", "energy", "consumption", "of", "a", "cluster-head", "against", "the", "average", "number", "of", "the", "basic", "sensor", "nodes", ".", "We", "find", "that", "the", "average", "energy", "consumption", "of", "a", "cluster-head", "is", "proportional", "to", "-LRB-", "2", "/", "1", "-RRB-", "from", "Fig.", "6", ".", "The", "required", "initial", "energy", "of", "cluster-heads", "increases", "with", "the", "decrease", "of", "the", "density", "of", "cluster-heads", "-LRB-", "1", "-RRB-", ".", "Thus", ",", "there", "is", "a", "trade-off", "between", "the", "network", "lifetime", "and", "the", "initial", "energy", "of", "the", "cluster-heads", ".", "Our", "work", "can", "be", "easily", "extended", "to", "a", "3-D", "space", "model", ".", "The", "differences", "between", "the", "3-D", "space", "model", "and", "the", "2-D", "space", "model", "lie", "in", "the", "deployment", "models", "and", "the", "connectivity", "models", ".", "The", "probability", "that", "a", "basic", "sensor", "node", "with", "spherical", "coordinate", "-LRB-", "r", ",", ",", "-RRB-", "belongs", "to", "a", "cluster-head", "located", "in", "the", "origin", "is", "P", "r", "S", "-LRB-", "r", ",", ",", "-RRB-", "V", "=", "e", "1", "4", "3", "r", "3", "-LRB-", "30", "-RRB-", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "600", "700", "800", "900", "1000", "1100", "1200", "1300", "The", "average", "number", "of", "basic", "sensor", "nodes", "in", "a", "cluster", "-LRB-", "2", "/", "1", "-RRB-", "Network", "lifetime", "in", "rounds", "=", "0", "=", "100", "=", "1000", "Fig.", "5", ".", "Optimal", "network", "lifetime", "under", "various", "situations", "where", "2", "=", "1000", ".", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "The", "average", "number", "of", "basic", "sensor", "nodes", "in", "a", "cluster", "-LRB-", "2", "/", "1", "-RRB-", "Energy", "consumption", "of", "a", "cluster-head", "in", "Joules", "=", "0", "=", "100", "=", "1000", "Fig.", "6", ".", "The", "energy", "consumption", "of", "cluster-heads", "against", "the", "number", "of", "the", "basic", "sensor", "nodes", ".", "The", "average", "number", "of", "basic", "sensor", "nodes", "in", "a", "cluster", "is", "determined", "by", "E", "-LSB-", "N", "V", "-RSB-", "=", "0", "2", "0", "0", "P", "r", "S", "-LRB-", "r", ",", ",", "-RRB-", "V", "2", "r", "2", "sin", "drdd", "=", "0", "2", "0", "0", "e", "1", "4", "3", "r", "3", "2", "r", "2", "sin", "drdd", "=", "2", "1", "-LRB-", "31", "-RRB-", "In", "the", "similar", "way", ",", "we", "can", "obtain", "the", "number", "of", "basic", "sensor", "nodes", "in", "the", "i-th", "zone", "as", "follows", ":", "E", "-LSB-", "N", "V", "-RSB-", "=", "0", "2", "0", "iR", "-LRB-", "i-1", "-RRB-", "R", "P", "r", "S", "-LRB-", "r", ",", ",", "-RRB-", "V", "2", "r", "2", "sin", "drdd", "=", "2", "1", "e", "1", "4", "3", "-LSB-", "-LRB-", "i-1", "-RRB-", "R", "-RSB-", "3", "-", "e", "1", "4", "3", "-LRB-", "iR", "-RRB-", "3", "-LRB-", "32", "-RRB-", "To", "satisfy", "the", "requirement", "of", "connectivity", ",", "the", "minimum", "communication", "range", "R", "min", "can", "be", "written", "as", "follows", ":", "R", "min", "=", "3", "3", "4", "-LRB-", "1", "+", "2", "-RRB-", "log", "-LRB-", "1", "+", "2", "-RRB-", "-LRB-", "33", "-RRB-", "Again", ",", "we", "can", "obtain", "the", "optimal", "and", "R", "for", "the", "3-D", "space", "model", "along", "the", "same", "manner", "as", "a", "class", "of", "the", "case", "of", "2-D", "space", "WSN", "model", ".", "We", "investigated", "the", "optimal", "transmission", "range", "for", "a", "heterogeneous", "cluster-based", "sensor", "network", "which", "consists", "of", "two", "types", "of", "nodes", ",", "the", "super", "cluster-heads", "and", "the", "basic", "sensor", "nodes", ".", "To", "balance", "the", "energy", "load", "of", "the", "basic", "sensor", "nodes", ",", "the", "mixed", "communication", "modes", "are", "employed", ".", "By", "developing", "the", "analytical", "models", ",", "we", "numerically", "derive", "the", "optimal", "transmission", "range", "R", "and", "the", "frequency", "of", "single-hop", "mode", "to", "achieve", "the", "longest", "network", "lifetime", ".", "Our", "analyses", "also", "showed", "that", "our", "proposed", "model", "can", "be", "easily", "extended", "from", "2-D", "to", "3-D", ".", "The", "simulation", "results", "validated", "our", "proposed", "analytical", "models", ".", "Our", "simulation", "results", "with", "the", "optimal", "R", "and", "indicated", "that", "the", "high", "density", "of", "cluster-heads", "is", "not", "very", "helpful", "for", "prolonging", "the", "network", "lifetime", ".", "-LSB-", "1", "-RSB-", "I.", "F.", "Akyildiz", ",", "W.", "Su", ",", "Y.", "Sankarsubramaniam", ",", "and", "E.", "Cayirci", ",", "``", "Wireless", "sensor", "networks", ":", "a", "survey", ",", "''", "Computer", "Networks", ",", "38", "-LRB-", "2002", "-RRB-", "pp.", "393-422", ".", "-LSB-", "2", "-RSB-", "G.", "J.", "Pottie", "and", "W.", "J.", "Kaiser", ",", "``", "Wireless", "integrated", "network", "sensors", ",", "''", "Communications", "of", "the", "ACM", ",", "Vol", ".", "43", ",", "No", "5", ",", "pp", "51-58", ",", "May", "2000", ".", "-LSB-", "3", "-RSB-", "A.", "Cerpa", ",", "J.", "Elson", ",", "D.", "Estrin", ",", "L.", "Girod", ",", "M.", "Hamilton", ",", "and", "J.", "Zhao", ",", "``", "Habitat", "monitoring", ":", "application", "driver", "for", "wireless", "communications", "technology", ",", "''", "in", "Proc", ".", "of", "ACM", "SIGCOMM", "Workshop", "on", "Data", "Communications", "in", "Latin", "America", "and", "the", "Caribbean", ",", "Costa", "Rica", ",", "April", "2001", ".", "-LSB-", "4", "-RSB-", "J.", "Lundquist", ",", "D.", "Cayan", ",", "and", "M.", "Dettinger", ",", "``", "Meteorology", "and", "hydrology", "in", "yosemite", "national", "park", ":", "a", "sensor", "network", "application", ",", "''", "in", "Proc", ".", "of", "Information", "Processing", "in", "Sensor", "Networks", "-LRB-", "IPSN", "-RRB-", ",", "April", ",", "2003", ".", "-LSB-", "5", "-RSB-", "A.", "Mainwaring", ",", "J.", "Polastre", ",", "R.", "Szewczyk", ",", "D.", "Culler", ",", "and", "J.", "Anderson", ",", "``", "Wireless", "sensor", "networks", "for", "habitat", "monitoring", ",", "''", "in", "Proc", ".", "of", "WSNA", "'", "02", ",", "Atlanta", ",", "Georgia", ",", "September", "28", ",", "2002", ".", "-LSB-", "6", "-RSB-", "G.", "Tolle", ",", "D.", "Gay", ",", "W.", "Hong", ",", "J.", "Polastre", ",", "R.", "Szewczyk", ",", "D.", "Culler", ",", "N.", "Turner", ",", "K.", "Tu", ",", "S.", "Burgess", ",", "T.", "Dawson", ",", "and", "P.", "Buonadonna", ",", "``", "A", "macroscope", "in", "the", "redwoods", ",", "''", "in", "3rd", "ACM", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", "-LRB-", "SenSys", "-RRB-", ",", "San", "Diego", ",", "November", "2-4", ",", "2005", "-LSB-", "7", "-RSB-", "O.", "Younis", "and", "S.", "Fahmy", ",", "``", "Distributed", "clustering", "in", "ad-hoc", "sensor", "networks", ":", "a", "hybrid", ",", "energy-efficient", "approach", "''", ",", "in", "Proc", ".", "of", "INFOCOM", "'", "04", ",", "March", "2004", "-LSB-", "8", "-RSB-", "A.", "Boulis", ",", "S.", "Ganeriwal", ",", "and", "M.", "B.", "Srivastava", ",", "``", "Aggregation", "in", "sensor", "networks", ":", "an", "energy-accuracy", "trade-off", ",", "''", "Elsevier", "Ad", "Hoc", "Networks", "Journal", ",", "Vol", ".", "1", ",", "2003", ",", "pp.", "317-331", "-LSB-", "9", "-RSB-", "W.", "R.", "Heinzelman", ",", "A.", "Chandrakasan", "and", "H.", "Balakrishman", ",", "``", "Energy-efficient", "communication", "protocol", "for", "wireless", "microsensor", "networks", ",", "''", "in", "Proc", ".", "Of", "IEEE", "HICSS", ",", "January", "2000", ".", "-LSB-", "10", "-RSB-", "H.", "Su", "and", "X.", "Zhang", ",", "``", "Energy-efficient", "clustering", "system", "model", "and", "reconfiguration", "schemes", "for", "wireless", "sensor", "networks", ",", "''", "in", "proc", ".", "of", "the", "40th", "Conference", "on", "Information", "Sciences", "and", "Systems", "-LRB-", "CISS", "2006", "-RRB-", ",", "March", "2006", ".", "-LSB-", "11", "-RSB-", "V.", "P.", "Mhatre", ",", "C.", "Rosenberg", ",", "D.", "Kofman", ",", "R.", "Mazumdar", "and", "N.", "Shroff", ",", "``", "A", "minmum", "cost", "heterogeneous", "sensor", "network", "with", "a", "lifetime", "constraint", ",", "''", "IEEE", "Trans", ".", "on", "Mobile", "Computing", ",", "Vol", ".4", ",", "No.", "1", ",", "Jan.", "/", "Feb.", "2005", ",", "pp.4-15", ".", "-LSB-", "12", "-RSB-", "M.", "Bhardwaj", "and", "A.", "P.", "Chanrakasan", ",", "``", "Bouding", "the", "lifetime", "of", "sensor", "networks", "via", "optimal", "role", "assignments", ",", "''", "in", "Proc", ".", "of", "INFOCOM", "'", "02", ",", "pp.1587-1596", ",", "2002", ".", "-LSB-", "13", "-RSB-", "V.", "Mhatre", "and", "C.", "Rosenberg", ",", "``", "Design", "guidelines", "for", "wireless", "sensor", "networks", ":", "communication", ",", "clustering", "and", "aggregation", "''", ",", "Elsevier", "Ad", "Hoc", "Networks", "Journal", ",", "Vol", ".", "2", ",", "2004", ",", "pp.", "45-63", ".", "-LSB-", "14", "-RSB-", "S.", "G.", "Foss", "and", "S.", "A.", "Zuyev", ",", "``", "On", "a", "voronoi", "aggregative", "process", "related", "to", "a", "bivariate", "poisson", "process", ",", "''", "Advances", "in", "Applied", "Probability", ",", "vol", ".", "28", ",", "no.", "4", ",", "1996", ",", "pp.", "965-981", ".", "-LSB-", "15", "-RSB-", "J.", "H.", "Chang", "and", "L.", "Tassiulas", ",", "``", "Energy", "conserving", "routing", "in", "wireless", "ad", "hoc", "networks", ",", "''", "in", "Proc", ".", "INFOCOM", ",", "Tel", "Aviv", ",", "Israel", ",", "March", "2000", ",", "pp.", "22-31", ".", "-LSB-", "16", "-RSB-", "T.", "Rappaport", ",", "Wireless", "Communication", "Priciples", "and", "Practice", "-LRB-", "2nd", "Edition", "-RRB-", ".", "Upper", "Saddle", "River", ",", "N.J.", "Prentice", "Hall", "PTR", ",", "2002", ".", "-LSB-", "17", "-RSB-", "A.", "Wang", ",", "W.", "Heinzelman", ",", "and", "A.", "Chandrakasan", ",", "``", "Energy-scalable", "protocols", "for", "battery-operated", "microsensor", "networks", ",", "''", "in", "Proc", ".", "of", "the", "IEEE", "workshop", "on", "Signal", "Processing", "Systems", "-LRB-", "SiPS", "'", "99", "-RRB-", ",", "pp.", "483-492", ",", "1999", ".", "-LSB-", "18", "-RSB-", "P.", "Gupta", "and", "P.", "R.", "Kumar", ",", "Critical", "power", "for", "asymptotic", "connectivity", "in", "wireless", "networks", ",", "in", "W.", "M.", "McEneany", ",", "G.", "Yin", ",", "Q.", "Zhang", "-LRB-", "Editors", "-RRB-", ",", "Stochastic", "Analysis", ",", "Control", ",", "Optimization", "and", "Applications", ":", "A", "Volume", "in", "Honor", "of", "W.", "H.", "Fleming", ",", "Birkhauser", ",", "Boston", ",", "MA", ",", "1998", ",", "pp.", "547-566", ".", "-LSB-", "19", "-RSB-", "T.", "Shepard", ",", "``", "Decentralized", "channel", "management", "in", "scalable", "multihop", "spread", "spectrum", "packet", "radio", "networks", ",", "''", "Massachusetts", "Inst", ".", "of", "Technol.", ",", "Lab", ".", "for", "Comput", ".", "Sci.", ",", "Cambridge", ",", "Tech", ".", "Rep.", "MIT/LCS", "/", "TR-670", ",", "July", "1995", ".", "Proceedings", "of", "the", "2006", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", "-LRB-", "WoWMoM", "'", "06", "-RRB-", "0-7695-2593-8", "/", "06", "$", "20.00", "2006", "IEEE"], "doc_bio_tags": ["B", "I", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["clustering", "optimal transmission range", "network lifetime", "wireless sensor networks", "voronoi cell", "optimization"], "abstractive_keyphrases": ["energy optimization", "numerical model", "heterogeneous cluster-based sensor network"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "135", "document": ["Measuring", "Cohesion", "of", "Packages", "in", "Ada95", "Ada95", "is", "an", "object-oriented", "programming", "language", ".", "Pack-ages", "are", "basic", "program", "units", "in", "Ada", "95", "to", "support", "OO", "programming", ",", "which", "allow", "the", "specification", "of", "groups", "of", "logically", "related", "entities", ".", "Thus", ",", "the", "cohesion", "of", "a", "package", "is", "mainly", "about", "how", "tightly", "the", "entities", "are", "encapsulated", "in", "the", "package", ".", "This", "paper", "discusses", "the", "relationships", "among", "these", "entities", "based", "on", "dependence", "analysis", "and", "presents", "the", "properties", "to", "obtain", "these", "dependencies", ".", "Based", "on", "these", ",", "the", "paper", "proposes", "an", "approach", "to", "measure", "the", "package", "cohesion", ",", "which", "satisfies", "the", "properties", "that", "a", "good", "measure", "should", "have", ".", "D.", "2.8", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Metrics", "performance", "measures", ".", "Measurement", ".", "Cohesion", "is", "one", "of", "the", "most", "important", "software", "features", "during", "its", "development", ".", "It", "tells", "us", "the", "tightness", "among", "the", "components", "of", "a", "software", "module", ".", "The", "higher", "the", "cohesion", "of", "a", "module", ",", "the", "more", "understandable", ",", "modifiable", "and", "maintainable", "the", "module", "is", ".", "A", "software", "system", "should", "have", "high", "cohesion", "and", "low", "coupling", ".", "Researchers", "have", "developed", "several", "guidelines", "to", "measure", "cohesion", "of", "a", "module", "-LSB-", "1", ",", "3", ",", "4", "-RSB-", ".", "Since", "more", "and", "more", "applications", "are", "object-oriented", ",", "the", "approaches", "to", "measure", "cohesion", "of", "object-oriented", "-LRB-", "OO", "-RRB-", "programs", "have", "become", "an", "important", "research", "field", ".", "Generally", ",", "each", "object-oriented", "programming", "language", "provides", "facilities", "to", "support", "OO", "features", ",", "such", "as", "data", "abstraction", ",", "encapsulation", "and", "inheritance", ".", "Each", "object", "consists", "of", "a", "set", "of", "attributes", "to", "represent", "the", "states", "of", "objects", "and", "a", "set", "of", "operations", "on", "attributes", ".", "Thus", ",", "in", "OO", "environment", ",", "the", "cohesion", "is", "mainly", "about", "how", "tightly", "the", "attributes", "and", "operations", "are", "encapsulated", ".", "There", "are", "several", "approaches", "proposed", "in", "literature", "to", "measure", "OO", "program", "cohesion", "-LSB-", "2", ",", "5", ",", "6", ",", "7", ",", "11", ",", "12", "-RSB-", ".", "Most", "approaches", "are", "based", "on", "the", "interaction", "between", "operations", "and", "attributes", ".", "The", "cohesion", "is", "measured", "as", "the", "number", "of", "the", "interactions", ".", "Generally", "only", "the", "references", "from", "operations", "to", "attributes", "are", "considered", ".", "And", "few", "care", "about", "the", "interactions", "of", "attributes", "to", "attributes", "and", "operations", "to", "operations", "at", "the", "same", "time", ".", "This", "might", "lead", "to", "bias", "when", "measuring", "the", "cohesion", "of", "a", "class", ".", "For", "example", ",", "when", "designing", "the", "trigonometric", "function", "lib", "class", ",", "we", "might", "set", "a", "global", "variable", "to", "record", "the", "temporal", "result", ".", "The", "variable", "is", "referred", "in", "all", "the", "operations", "of", "the", "class", ".", "According", "to", "methods", "based", "on", "the", "interaction", "between", "operations", "and", "attributes", "-LSB-", "6", ",", "7", "-RSB-", ",", "the", "cohesion", "is", "the", "maximum", "1", ".", "In", "fact", ",", "there", "are", "no", "relations", "among", "the", "operations", "if", "the", "calls", "are", "not", "taken", "into", "account", ".", "In", "this", "view", ",", "its", "cohesion", "is", "0", ".", "The", "difference", "is", "caused", "by", "considering", "only", "the", "references", "from", "operations", "to", "attributes", ",", "while", "not", "considering", "the", "inter-operation", "relations", ".", "In", "our", "previous", "work", ",", "we", "have", "done", "some", "research", "in", "measuring", "OO", "program", "cohesion", "-LSB-", "10", ",", "13", ",", "14", "-RSB-", ".", "Our", "approach", "overcomes", "the", "limitations", "of", "previous", "class", "cohesion", "measures", ",", "which", "consider", "only", "one", "or", "two", "of", "the", "three", "facets", ".", "Since", "the", "OO", "mechanisms", "in", "different", "programming", "languages", "are", "different", "from", "each", "other", ",", "this", "paper", "applies", "our", "measure", "to", "Ada", "packages", ".", "The", "remaining", "sections", "are", "organized", "as", "follows", ".", "Section", "2", "introduces", "the", "package", "in", "Ada", "95", ".", "Section", "3", "discusses", "the", "basic", "definitions", "and", "properties", "for", "our", "measure", ".", "Based", "on", "the", "definitions", "and", "properties", ",", "Section", "4", "proposes", "approaches", "to", "measure", "package", "cohesion", ".", "Conclusion", "remarks", "are", "given", "in", "the", "last", "section", ".", "In", "Ada", "95", "-LSB-", "ISO95", "-RSB-", ",", "packages", "and", "tagged", "types", "are", "basic", "program", "units", "to", "support", "OO", "programming", ".", "A", "package", "allows", "the", "specification", "of", "groups", "of", "logically", "related", "entities", ".", "Typically", ",", "a", "package", "contains", "the", "declaration", "of", "a", "type", "along", "with", "the", "declarations", "of", "primitive", "subprograms", "of", "the", "type", ",", "which", "can", "be", "called", "from", "outside", "the", "package", ",", "while", "its", "inner", "workings", "remain", "hidden", "from", "outside", "users", ".", "In", "this", "paper", ",", "we", "distinguish", "packages", "into", "four", "groups", ".", "PG1", ":", "Packages", "that", "contain", "any", "kind", "of", "entities", "except", "tagged", "types", ".", "PG2", ":", "Packages", "that", "only", "contain", "the", "declaration", "of", "one", "tagged", "type", "along", "with", "those", "primitive", "subprograms", "of", "the", "type", ".", "There", "are", "two", "subgroups", "in", "PG2", ":", "-", "PG2-1", ":", "The", "type", "is", "an", "original", "tagged", "type", ".", "-", "PG2-2", ":", "The", "type", "is", "a", "derived", "type", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGAda", "'", "03", ",", "December", "7", "11", ",", "2003", ",", "San", "Diego", ",", "California", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-476-2", "/", "03/0012", "...", "$", "5.00", ".", "62", "PG3", ":", "Combination", "of", "PG1", "and", "PG2", ".", "PG4", ":", "Generic", "packages", ".", "After", "a", "generic", "package", "is", "instantiated", ",", "it", "belongs", "to", "one", "of", "the", "former", "three", "groups", ".", "Thus", ",", "only", "cohesion", "measure", "of", "PG1", ",", "PG2", "and", "PG3", "is", "discussed", "in", "the", "paper", ".", "In", "this", "section", ",", "we", "will", "present", "our", "definitions", "in", "the", "form", "of", "PG1", ".", "The", "cohesion", "of", "a", "package", "from", "PG1", "is", "mainly", "about", "how", "tightly", "the", "objects", "and", "subprograms", "are", "encapsulated", "in", "the", "package", ".", "In", "this", "paper", ",", "the", "relationships", "among", "objects", "and", "subprograms", "are", "defined", "as", "three", "dependencies", ":", "inter-object", ",", "inter-subprogram", "and", "subprogram-object", "dependence", ".", "Definition", "1", "In", "the", "package", "body", "or", "a", "subprogram", "of", "the", "package", ",", "if", "the", "definition", "-LRB-", "modification", "-RRB-", "of", "object", "A", "uses", "-LRB-", "refer", ",", "but", "not", "modify", "-RRB-", "object", "B", "directly", "or", "indirectly", ",", "or", "whether", "A", "can", "been", "defined", "is", "determined", "by", "the", "state", "of", "B", ",", "then", "A", "depends", "on", "B", ",", "denoted", "by", "A", "B.", "Generally", ",", "if", "B", "is", "used", "in", "the", "condition", "part", "of", "a", "control", "statement", "-LRB-", "such", "as", "if", "and", "while", "-RRB-", ",", "and", "the", "definition", "of", "A", "is", "in", "the", "inner", "statement", "of", "the", "control", "statement", ",", "the", "definition", "of", "A", "depends", "on", "B", "'s", "state", ".", "Definition", "2", "If", "object", "A", "is", "referred", "in", "subprogram", "P", ",", "P", "depends", "on", "A", ",", "denoted", "by", "P", "A.", "Definition", "3", "There", "are", "two", "types", "of", "dependencies", "between", "subprograms", ":", "call", "dependence", "and", "potential", "dependence", ".", "If", "P", "is", "called", "in", "M", ",", "then", "M", "call", "depends", "on", "P", ",", "denoted", "by", "M", "P", ".", "If", "the", "object", "A", "used", "in", "M", "is", "defined", "in", "P", ",", "the", "A", "used", "in", "M", "depends", "on", "the", "A", "defined", "in", "P", ",", "denoted", "by", "M", "A", "A", ",", "P", ",", "where", "-LRB-", "A", ",", "A", "-RRB-", "is", "named", "as", "a", "tag", ".", "For", "each", "call", "edge", ",", "add", "a", "tag", "-LRB-", "*", ",", "*", "-RRB-", "for", "unification", ".", "i.e.", "if", "P", "Q", ",", "P", "*", ",", "*", "Q.", "To", "obtain", "these", "dependencies", ",", "we", "introduce", "four", "sets", "for", "each", "subprogram", "M", ":", "IN", "-LRB-", "M", "-RRB-", "is", "an", "object", "set", ",", "each", "element", "of", "which", "is", "an", "object", "referred", "before", "modifying", "its", "value", "in", "M", ";", "OUT", "-LRB-", "M", "-RRB-", "is", "an", "object", "set", ",", "each", "element", "of", "which", "is", "an", "object", "modified", "in", "M.", "DEP_A", "-LRB-", "M", "-RRB-", "is", "a", "dependence", "set", "which", "represents", "the", "dependencies", "from", "the", "objects", "referred", "in", "M", "to", "the", "objects", "defined", "outside", "M.", "Each", "element", "has", "the", "form", "<", "A", ",", "B", ">", ",", "where", "A", "and", "B", "are", "objects", "of", "the", "package", ".", "DEP_A_OUT", "-LRB-", "M", "-RRB-", "is", "a", "dependence", "set", "which", "records", "the", "dependencies", "from", "the", "objects", "referred", "in", "M", "to", "the", "objects", "defined", "outside", "M", "when", "exiting", "M", ".", "In", "general", ",", "the", "intermediate", "results", "are", "invisible", "outside", ",", "and", "an", "object", "might", "be", "modified", "many", "times", "in", "a", "subprogram", ".", "We", "introduce", "DEP_A_OUT", "to", "improve", "the", "precision", ".", "Obviously", ",", "DEP_A_OUT", "-LRB-", "M", "-RRB-", "DEP_A", "-LRB-", "M", "-RRB-", ".", "Property", "1", "A", "IN", "-LRB-", "M", "-RRB-", ",", "A", "OUT", "-LRB-", "P", "-RRB-", "M", "A", "A", ",", "P.", "Property", "2", "<", "A", ",", "B", ">", "DEP_A", "-LRB-", "M", "-RRB-", ",", "B", "OUT", "-LRB-", "P", "-RRB-", "M", "B", "A", ",", "P.", "Property", "3", "M", "B", "A", ",", "P", ",", "<", "B", ",", "C", ">", "-LRB-", "<", "B", ",", "C", ">", "DEP_A_OUT", "-LRB-", "P", "-RRB-", ",", "C", "OUT", "-LRB-", "Q", "-RRB-", "-RRB-", "M", "C", "A", ",", "Q", ".", "In", "our", "previous", "work", "-LSB-", "8", ",", "9", "-RSB-", ",", "we", "have", "proposed", "methods", "to", "analyze", "dependencies", "among", "statements", "for", "Ada", "programs", ".", "And", "these", "dependencies", "can", "be", "easily", "transformed", "to", "the", "dependencies", "proposed", "in", "this", "paper", ".", "Due", "to", "the", "space", "limitation", ",", "we", "do", "not", "discuss", "them", "in", "detail", "here", ".", "To", "present", "our", "cohesion", "measure", "in", "a", "united", "model", ",", "we", "introduce", "package", "dependence", "graph", "to", "describe", "all", "types", "of", "dependencies", ".", "Definition", "4", "The", "package", "dependence", "graph", "-LRB-", "PGDG", "-RRB-", "of", "a", "package", "PG", "is", "a", "directed", "graph", ",", "PGDG", "=", "<", "N", ",", "E", ",", "T", ">", ",", "where", "N", "is", "the", "node", "set", "and", "E", "is", "the", "edge", "set", ",", "T", "is", "the", "tag", "set", ".", "N", "=", "N", "O", "N", "P", ",", "N", "O", "is", "the", "object", "node", "set", ",", "each", "of", "which", "represents", "a", "unique", "object", ";", "N", "P", "is", "the", "subprogram", "node", "set", ",", "each", "of", "which", "represents", "a", "unique", "subprogram", ".", "PGDG", "consists", "of", "three", "sub-graphs", ":", "Inter-Object", "Dependence", "Graph", "-LRB-", "OOG", "-RRB-", ",", "OOG", "=", "<", "N", "O", ",", "E", "O", ">", ",", "where", "N", "O", "is", "the", "object", "node", "set", "-LRB-", "the", "name", "of", "a", "node", "is", "the", "name", "of", "the", "object", "it", "represents", "-RRB-", ";", "E", "O", "is", "the", "edge", "set", ",", "if", "A", "B", ",", "then", "edge", "<", "A", ",", "B", ">", "E", "O", ".", "Inter-Subprogram", "Dependence", "Graph", "-LRB-", "PPG", "-RRB-", ",", "PPG", "=", "<", "N", "P", ",", "E", "P", ",", "T", ">", ",", "where", "N", "P", "is", "the", "subprogram", "node", "set", ";", "E", "P", "is", "the", "edge", "set", "which", "represents", "the", "dependencies", "between", "subprograms", ";", "T", "-LRB-", "V", "V", "-RRB-", "is", "the", "tag", "set", ",", "where", "V", "is", "the", "union", "of", "objects", "and", "-LCB-", "*", "-RCB-", ".", "Subprogram-Object", "Dependence", "Graph", "-LRB-", "POG", "-RRB-", ",", "POG", "=", "<", "N", ",", "E", "PO", ">", ",", "where", "N", "is", "the", "node", "set", "which", "represents", "objects", "and", "subprograms", ";", "E", "PO", "is", "the", "edge", "set", "representing", "dependencies", "between", "subprograms", "and", "objects", ".", "If", "P", "A", ",", "<", "P", ",", "A", ">", "E", "PO", ".", "Example1", "shows", "the", "package", "Tri", ",", "which", "contains", "three", "objects", ":", "temp", ",", "temp1", "and", "temp2", ",", "and", "four", "subprograms", ":", "sin", ",", "cos", ",", "tg", "and", "ctg", ".", "Figure", "1", "shows", "the", "PGDG", "of", "the", "package", "Tri", "in", "Example1", "-LRB-", "all", "the", "Tags", "on", "PPG", "are", "-LRB-", "*", ",", "*", "-RRB-", ",", "because", "there", "are", "only", "call", "dependencies", "in", "this", "example", ".", "We", "omit", "the", "Tags", "for", "convenience", "-RRB-", ".", "Example1", ":", "package", "Tri", ".", "package", "Tri", "is", "temp", ",", "temp1", ",", "temp2", ":", "real", ";", "function", "sin", "-LRB-", "x", ":", "real", "-RRB-", "return", "real", ";", "function", "cos", "-LRB-", "x", ":", "real", "-RRB-", "return", "real", ";", "function", "tg", "-LRB-", "x", ":", "real", "-RRB-", "return", "real", ";", "function", "ctg", "-LRB-", "x", ":", "real", "-RRB-", "return", "real", ";", "end", "Tri", ";", "package", "body", "Tri", "is", "function", "sin", "-LRB-", "x", ":", "real", "-RRB-", "return", "real", "is", "begin", "temp", ":", "=", "...", ";", "return", "temp", ";", "end", "sin", ";", "...", "63", "function", "tg", "-LRB-", "x", ":", "real", "-RRB-", "return", "real", "is", "begin", "temp1", ":", "=", "sin", "-LRB-", "x", "-RRB-", ";", "temp2", ":", "=", "cos", "-LRB-", "x", "-RRB-", ";", "temp", ":", "=", "temp1/temp2", ";", "return", "temp", ";", "end", "tg", ";", "...", "end", "Tri", ";", "3.2", "Extended", "Definitions", "Since", "there", "is", "no", "object", "in", "the", "package", "of", "PG2", ",", "the", "definitions", "of", "Section", "3", "can", "not", "be", "applied", "to", "these", "packages", "directly", ".", "Therefore", ",", "this", "section", "will", "extend", "the", "definitions", "of", "Section", "3.1", "to", "a", "more", "general", "model", "by", "the", "following", "steps", ":", "For", "PG1", ",", "if", "there", "is", "an", "embedded", "package", ",", "the", "package", "is", "taken", "as", "an", "object", ".", "For", "PG2", ",", "take", "the", "components", "of", "the", "type", "as", "objects", "of", "the", "package", ".", "Let", "A", ",", "B", "be", "object", "of", "a", "type", "T", ",", "M", ",", "P", "primitive", "subprograms", ",", "and", "Com1", "and", "Com2", "are", "components", "of", "T", ".", "Then", "A", ",", "B", "-LRB-", "A.Com1", "B.Com2", "-RRB-", "Com1", "Com2", ".", "A", ",", "P", "-LRB-", "P", "A.Com", "-RRB-", "P", "Com", ".", "A", ",", "B", ",", "M", ",", "P", "-LRB-", "M", "2", ".", ",", "1", ".", "Com", "B", "Com", "A", "P", "-RRB-", "M", "2", ",", "1", "Com", "Com", "P.", "For", "PG3", ",", "take", "the", "types", "as", "objects", "of", "the", "package", ".", "To", "present", "our", "measure", "in", "a", "unified", "model", ",", "we", "add", "powers", "for", "different", "objects", ".", "PW", "-LRB-", "O", "-RRB-", "=", "others", "O", "O", "PG", "Cohesioin", "O", "O", "Cohesion", "1", "object", "type", "a", "is", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "object", "package", "a", "is", "-RRB-", "-LRB-", "where", "Cohesion", "-LRB-", "O", "-RRB-", "is", "the", "cohesion", "of", "O", ",", "PG", "-LRB-", "O", "-RRB-", "returns", "the", "package", "containing", "O", ".", "According", "to", "the", "PGDG", ",", "this", "section", "will", "propose", "our", "method", "to", "measure", "the", "package", "cohesion", ".", "In", "the", "following", "discussions", ",", "we", "assume", "package", "PG", "contains", "n", "objects", "and", "m", "subprograms", ",", "where", "m", ",", "n", "0", ".", "4.1", "Measuring", "Inter-Object", "Cohesion", "Inter-object", "cohesion", "is", "about", "the", "tightness", "among", "objects", "in", "a", "package", ".", "To", "measure", "this", "cohesion", ",", "for", "each", "object", "A", ",", "introduce", "a", "set", "A_DEP", "to", "record", "the", "objects", "on", "which", "A", "depends", ",", "i.e.", "O_DEP", "-LRB-", "A", "-RRB-", "=", "-LCB-", "B", "|", "A", "B", ",", "A", "B", "-RCB-", ".", "Let", "=", "-RRB-", "-LRB-", "_", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "_", "A", "DEP", "O", "B", "B", "PW", "A", "DEP", "PW", ".", "Then", ",", "we", "define", "the", "inter-object", "cohesion", "as", ":", "=", "-RRB-", ",", "_", "-LRB-", "PG", "O", "O", "Cohesion", ">", "=", "=", "=", "1", "1", "-RRB-", "-LRB-", "_", "1", "1", "-RRB-", "-LRB-", "0", "0", "1", "n", "n", "A", "DEP", "PW", "n", "n", "A", "PW", "n", "n", "i", "i", "where", "1", "-RRB-", "-LRB-", "_", "n", "A", "DEP", "PW", "represents", "the", "degree", "on", "which", "A", "depends", "on", "other", "objects", ".", "If", "n", "=", "0", ",", "there", "is", "no", "object", "in", "the", "package", ",", "we", "set", "it", "to", "0", ".", "If", "n", "=", "1", ",", "there", "is", "one", "and", "only", "one", "object", "in", "the", "package", ",", "the", "cohesion", "is", "its", "power", ".", "4.2", "Measuring", "Subprogram-Object", "Cohesion", "Subprogram-object", "cohesion", "is", "the", "most", "important", "field", "in", "measuring", "cohesion", ".", "Until", "now", ",", "there", "have", "been", "several", "approaches", "proposed", "in", "literature", ",", "such", "as", "Chae", "'s", "methods", "-LSB-", "6", ",", "7", "-RSB-", ".", "But", "most", "approaches", "are", "based", "on", "the", "POG", ".", "As", "we", "have", "mentioned", "above", ",", "all", "these", "methods", "describe", "the", "object", "reference", "in", "a", "simple", "way", "and", "subprograms", "are", "connected", "by", "the", "objects", "referred", ".", "Whether", "there", "are", "related", "among", "these", "subprograms", "are", "not", "described", "exactly", ".", "Thus", ",", "these", "approaches", "should", "be", "improved", "to", "describe", "these", "relations", ".", "For", "completeness", ",", "we", "use", "Co", "-LRB-", "Prev", "-RRB-", "to", "represent", "a", "previous", "cohesion", "measure", ",", "which", "satisfies", "Briand", "'s", "four", "properties", ".", "For", "each", "subprogram", "P", ",", "we", "introduce", "another", "two", "sets", ":", "P_O", "and", "P_O_OUT", ".", "Where", "P_O", "-LRB-", "P", "-RRB-", "records", "all", "the", "objects", "referred", "in", "P.", "Figure", ".", "1", ".", "PGDG", "of", "class", "Tri", "temp", "temp1", "temp2", "-LRB-", "a", "-RRB-", "OOG", "sin", "cos", "tg", "ctg", "-LRB-", "c", "-RRB-", "PPG", "sin", "cos", "tg", "ctg", "temp", "temp1", "temp2", "-LRB-", "b", "-RRB-", "POG", "64", "P_O_OUT", "-LRB-", "P", "-RRB-", "records", "the", "objects", "referred", "in", "P", ",", "but", "these", "objects", "relate", "to", "objects", "referred", "by", "other", "subprogram", ",", "i.e.", ",", "P_O_OUT", "-LRB-", "P", "-RRB-", "=", "-LCB-", "A", "|", "B", ",", "M", "-LRB-", "P", "A", "B", ",", "M", "M", "B", "A", ",", "P", "-RRB-", "A", ",", "B", "'", "*", "'", "-RCB-", ".", "Let", "=", "-RRB-", "-LRB-", "_", "-RRB-", "-LRB-", "_", "_", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "P", "O", "P", "A", "i", "P", "OUT", "O", "P", "A", "i", "i", "i", "A", "PW", "A", "PW", "P", "Then", ",", "we", "define", "the", "subprogram-object", "cohesion", "as", ":", "=", "-RRB-", ",", "_", "-LRB-", "PG", "O", "P", "Cohesion", "=", "=", "=", "=", "Others", "P", "Prev", "Co", "m", "m", "A", "PW", "A", "PW", "n", "m", "m", "i", "i", "P", "O", "P", "A", "i", "i", "1", "i", "-RRB-", "-LRB-", "_", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "0", "0", "0", "If", "P_O", "-LRB-", "P", "-RRB-", "=", ",", "i.e.", "no", "objects", "are", "referred", "in", "P", ",", "we", "set", "-RRB-", "-LRB-", "P", "=", "0", ".", "If", "the", "objects", "referred", "in", "P", "are", "not", "related", "to", "other", "subprograms", ",", "these", "objects", "can", "work", "as", "local", "variables", ".", "It", "decreases", "the", "cohesion", "to", "take", "a", "local", "variable", "for", "a", "subprogram", "as", "an", "object", "for", "all", "subprograms", ".", "If", "there", "is", "no", "object", "or", "subprogram", "in", "the", "package", ",", "no", "subprogram", "will", "depend", "on", "others", ".", "Thus", ",", "0", "-RRB-", ",", "_", "-LRB-", "=", "PG", "O", "P", "Cohesion", ".", "4.3", "Measuring", "Inter-Subprogram", "Cohesion", "In", "the", "PGDG", ",", "although", "subprograms", "can", "be", "connected", "by", "objects", ",", "this", "is", "not", "necessary", "sure", "that", "these", "subprograms", "are", "related", ".", "To", "measure", "the", "inter-subprogram", "cohesion", ",", "we", "introduce", "another", "set", "P_DEP", "-LRB-", "P", "-RRB-", "=", "-LCB-", "M", "|", "P", "M", "-RCB-", "for", "each", "P", ".", "The", "inter-subprogram", "cohesion", "Cohesion", "-LRB-", "P_P", ",", "PG", "-RRB-", "is", "defined", "as", "following", ":", "=", "-RRB-", ",", "_", "-LRB-", "PG", "P", "P", "Cohesion", ">", "=", "=", "=", "1", "1", "-RRB-", "-LRB-", "_", "1", "1", "1", "0", "0", "1", "m", "m", "P", "DEP", "P", "m", "m", "m", "m", "i", "i", "where", "1", "|", "-RRB-", "-LRB-", "_", "|", "m", "P", "DEP", "P", "represents", "the", "tightness", "between", "P", "and", "other", "subprograms", "in", "the", "package", ".", "If", "each", "subprogram", "depends", "on", "all", "other", "subprograms", ",", "Cohesion", "-LRB-", "P_P", ",", "PG", "-RRB-", "=", "1", ".", "If", "all", "subprograms", "have", "no", "relations", "with", "any", "other", "subprogram", ",", "Cohesion", "-LRB-", "P_P", ",", "PG", "-RRB-", "=", "0", ".", "4.4", "Measuring", "Package", "Cohesion", "After", "measuring", "the", "three", "facets", "independently", ",", "we", "have", "a", "discrete", "view", "of", "the", "cohesion", "of", "a", "package", ".", "We", "have", "two", "ways", "to", "measure", "the", "package", "cohesion", ":", "1", "-RRB-", "Each", "measurement", "works", "as", "a", "field", ",", "the", "package", "cohesion", "is", "3-tuple", ",", "Cohesion", "-LRB-", "PG", "-RRB-", "=", "<", "Cohesion", "-LRB-", "O_O", ",", "PG", "-RRB-", ",", "Cohesion", "-LRB-", "P_O", ",", "PG", "-RRB-", ",", "Cohesion", "-LRB-", "P_P", ",", "PG", "-RRB-", ">", ".", "2", "-RRB-", "Integrate", "the", "three", "facets", "as", "a", "whole", "=", "-RRB-", "-LRB-", "PG", "Cohesion", "=", "=", "=", "Others", "PG", "Cohesion", "k", "m", "n", "PG", "P", "P", "Cohesion", "k", "m", "i", "i", "i", "3", "1", "-RRB-", "-LRB-", "0", ",", "0", "-RRB-", ",", "_", "-LRB-", "*", "0", "0", "where", "k", "-LRB-", "-RSB-", "1", ",", "0", ";", "k", "1", ",", "k", "2", ",", "k", "3", ">", "0", ",", "and", "k", "1", "+", "k", "2", "+", "k", "3", "=", "1", ".", "Cohesion", "1", "-LRB-", "PG", "-RRB-", "=", "Cohesion", "-LRB-", "O_O", ",", "PG", "-RRB-", "Cohesion", "2", "-LRB-", "PG", "-RRB-", "=", "Cohesion", "-LRB-", "P_P", ",", "PG", "-RRB-", "Cohesion", "3", "-LRB-", "PG", "-RRB-", "=", "Cohesion", "-LRB-", "P_O", ",", "PG", "-RRB-", "If", "n", "=", "0", ",", "m", "0", ",", "the", "package", "cohesion", "describes", "only", "the", "tightness", "of", "the", "call", "relations", ",", "thus", "we", "introduce", "a", "parameter", "k", "to", "constrain", "it", ".", "For", "the", "example", "shown", "in", "Figure", "1", ",", "the", "cohesion", "of", "Tri", "describes", "as", "follows", ":", "Cohesion", "-LRB-", "O_O", ",", "Tri", "-RRB-", "=", "1/3", "Cohesion", "-LRB-", "P_O", ",", "Tri", "-RRB-", "=", "0", "Cohesion", "-LRB-", "P_P", ",", "Tri", "-RRB-", "=", "1/3", "Let", "k", "1", "=", "k", "2", "=", "k", "3", "=", "1/3", ",", "Co", "-LRB-", "Prev", "-RRB-", "=", "1", ",", "then", "Cohesion", "-LRB-", "Tri", "-RRB-", "=", "2/9", ".", "Briand", "et", "al.", "-LSB-", "3", ",", "4", "-RSB-", "have", "stated", "that", "a", "good", "cohesion", "measure", "should", "be", "-LRB-", "1", "-RRB-", "Non-negative", "and", "standardization", ".", "-LRB-", "2", "-RRB-", "Minimum", "and", "maximum", ".", "-LRB-", "3", "-RRB-", "Monotony", ".", "-LRB-", "4", "-RRB-", "Cohesion", "does", "not", "increase", "when", "combining", "two", "modules", ".", "These", "properties", "give", "a", "guideline", "to", "develop", "a", "good", "cohesion", "measure", ".", "According", "to", "the", "definitions", ",", "it", "is", "easy", "to", "prove", "our", "measure", "satisfies", "these", "properties", ".", "4.5", "Cohesion", "for", "PG2-2", "In", "the", "hierarchies", "of", "types", ",", "the", "derived", "type", "inherits", "the", "components", "and", "primitive", "subprograms", "of", "the", "super", "types", ".", "Generally", ",", "inheritance", "will", "increase", "the", "coupling", "and", "decrease", "the", "65", "cohesion", ".", "For", "the", "package", "from", "PG2-2", ",", "we", "will", "discuss", "its", "cohesion", "in", "four", "cases", ":", "Case", "1", ":", "Take", "the", "package", "independently", ".", "Case", "2", ":", "Take", "all", "the", "primitive", "subprograms", "and", "components", "-LRB-", "contains", "those", "from", "super", "type", "-RRB-", "into", "consideration", ".", "Case", "3", ":", "If", "the", "primitive", "subprograms", "of", "the", "derived", "type", "might", "access", "the", "components", "-LRB-", "or", "subprogram", "-RRB-", "of", "the", "super", "type", ",", "take", "these", "components", "-LRB-", "or", "subprogram", "-RRB-", "as", "those", "of", "the", "derived", "type", ".", "Case", "4", ":", "Take", "the", "super", "type", "as", "an", "object", "of", "the", "derived", "type", ".", "The", "shortcoming", "of", "Case", "1", "is", "that", ":", "It", "only", "measures", "the", "cohesion", "of", "the", "additional", "components", "and", "primitive", "subprograms", "of", "the", "derived", "type", ",", "not", "the", "complete", "type", ".", "The", "primitive", "subprograms", "in", "the", "super", "type", "can", "not", "access", "the", "components", "of", "the", "derived", "type", "except", "dispatched", "subprograms", ".", "Consequently", ",", "in", "Case", "2", "or", "3", ",", "the", "deeper", "the", "hierarchy", "of", "types", "is", ",", "the", "smaller", "the", "cohesion", ".", "And", "it", "is", "hard", "to", "design", "a", "package", "which", "cohesion", "is", "big", "enough", ".", "Although", "we", "present", "four", "cases", "in", "this", "section", ",", "none", "is", "good", "enough", "to", "describe", "the", "cohesion", "for", "a", "package", "from", "PG2-2", ".", "To", "measure", "the", "cohesion", "of", "a", "derived", "type", ",", "much", "more", "aspects", "should", "be", "considered", ".", "There", "have", "several", "methods", "proposed", "in", "literatures", "to", "measure", "class", "cohesion", ".", "This", "section", "gives", "a", "brief", "review", "of", "these", "methods", ".", "-LRB-", "1", "-RRB-", "Chidamber", "'s", "LCOM1", "-LSB-", "0", ",", "2", "-RRB-", "1", "-LRB-", "m", "m", "-RSB-", ",", "it", "measures", "the", "cohesion", "by", "similar", "methods", "and", "non-similar", "methods", ".", "It", "is", "a", "reverse", "cohesion", "measure", ".", "The", "bigger", "the", "measure", ",", "the", "lower", "the", "cohesion", ".", "-LRB-", "2", "-RRB-", "The", "PPG", "in", "Hitz", "'s", "LCOM2", "is", "represented", "by", "an", "undirected", "graph", ".", "LCOM2", "is", "the", "number", "of", "sub-graphs", "connected", ".", "When", "there", "is", "one", "and", "only", "one", "sub-graph", ",", "he", "introduces", "connectivity", "to", "distinguish", "them", ".", "-LRB-", "3", "-RRB-", "Briand", "'s", "RCI", "is", "the", "ratio", "of", "the", "number", "of", "edges", "on", "POG", "to", "the", "max", "interaction", "between", "subprograms", "and", "objects", ".", "-LRB-", "4", "-RRB-", "Henderson", "'s", "LCOM3", "can", "be", "described", "as", "follows", ".", "-RRB-", "-LRB-", "3", "C", "LCOM", "=", "m", "m", "A", "n", "n", "j", "j", "=", "1", "|", "-RRB-", "-LRB-", "|", "1", "1", "where", "-LRB-", "A", "-RRB-", "=", "-LCB-", "M", "|", "AP_O", "-LRB-", "M", "-RRB-", "-RCB-", ",", "A", "is", "attribute", "and", "M", "is", "method", ".", "-LRB-", "5", "-RRB-", "Chae", "'s", "CO", "-LSB-", "6", "-RSB-", "introduces", "glue", "methods", ",", "and", "Xu-Zhou", "'s", "CO", "-LSB-", "13", "-RSB-", "introduces", "cut", "set", "-LRB-", "glue", "edges", "-RRB-", "to", "analyze", "the", "interact", "pattern", ".", "These", "two", "measures", "are", "more", "rational", "than", "other", "measures", ".", "From", "the", "introductions", "above", ",", "we", "can", "see", "that", "All", "these", "methods", "consider", "the", "attribute", "reference", "in", "a", "simple", "way", ".", "Whether", "the", "methods", "are", "related", "or", "not", "are", "not", "described", "exactly", ".", "LCOM1", ",", "LCOM2", "and", "LCOM3", "are", "non-standard", ",", "because", "their", "up-bounds", "are", "related", "to", "the", "number", "of", "methods", "in", "the", "class", ".", "LCOM1", "is", "non-monotonous", ".", "The", "measuring", "results", "might", "be", "inconsistent", "with", "intuition", "in", "some", "cases", "RCI", "has", "the", "basic", "four", "properties", "proposed", "by", "Briand", ".", "But", "it", "does", "not", "consider", "the", "patterns", "of", "the", "interactions", "among", "its", "members", ",", "neither", "LCOM1", "and", "LCOM2", "nor", "LCOM3", ".", "Chae", "'s", "CO", "overcomes", "most", "limitations", "of", "previous", "measures", ".", "But", "it", "is", "non-monotonous", "-LSB-", "13", "-RSB-", ".", "Xu-Zhou", "'s", "CO", "improves", "Chae", "'s", "cohesion", "measure", ",", "and", "makes", "its", "result", "more", "consistent", "with", "intuition", ".", "The", "chief", "disadvantage", "of", "both", "measures", "is", "that", "they", "can", "be", "applied", "to", "connected", "POG", ";", "otherwise", "the", "result", "will", "always", "be", "0", ".", "LCOM1", "and", "LCOM2", "measure", "the", "cohesion", "among", "methods", "in", "a", "class", ".", "We", "can", "improve", "the", "similar", "function", "using", "the", "dependencies", "among", "methods", "proposed", "in", "this", "paper", ".", "LCOM3", ",", "Chae", "and", "Xu-Zhou", "'s", "CO", "measure", "the", "cohesion", "among", "methods", "and", "attributes", "in", "a", "class", ".", "In", "this", "paper", "we", "improve", "them", "by", "introducing", "-RRB-", "-LRB-", "M", "for", "each", "method", "M", ".", "This", "paper", "proposes", "an", "approach", "to", "measure", "the", "cohesion", "of", "a", "package", "based", "on", "dependence", "analysis", ".", "In", "this", "method", ",", "we", "discussed", "the", "tightness", "of", "a", "package", "from", "the", "three", "facets", ":", "inter-object", ",", "subprogram-object", "and", "inter-subprogram", ".", "These", "three", "facets", "can", "be", "used", "to", "measure", "the", "package", "cohesion", "independently", "and", "can", "also", "be", "integrated", "as", "a", "whole", ".", "Our", "approach", "overcomes", "the", "limitations", "of", "previous", "class", "cohesion", "measures", ",", "which", "consider", "only", "one", "or", "two", "of", "the", "three", "facets", ".", "Thus", ",", "our", "measure", "is", "more", "consistent", "with", "the", "intuition", ".", "In", "the", "future", "work", ",", "we", "will", "verify", "and", "improve", "our", "measure", "by", "experiment", "analysis", "When", "measuring", "package", "cohesion", ",", "the", "following", "should", "be", "paid", "attentions", ".", "-LRB-", "1", "-RRB-", "In", "the", "hierarchies", "of", "types", ",", "the", "primitive", "subprograms", "of", "super", "type", "might", "access", "the", "objects", "of", "the", "derived", "type", "by", "dispatching", ".", "Therefore", ",", "when", "measuring", "the", "cohesion", "of", "PG2", ",", "it", "is", "hard", "to", "determine", "whether", "the", "accession", "of", "derived", "typed", "is", "considered", "or", "not", ".", "-LRB-", "2", "-RRB-", "We", "can", "determine", "polymorphic", "calls", "in", "an", "application", "system", ".", "However", "it", "is", "impossible", "for", "a", "package", ",", "which", "can", "be", "reused", "in", "many", "systems", ".", "-LRB-", "3", "-RRB-", "How", "to", "deal", "with", "some", "special", "subprograms", ",", "such", "as", "access", "subprograms", ",", "since", "such", "subprograms", "can", "access", "some", "special", "objects", "in", "the", "package", ".", "-LRB-", "4", "-RRB-", "How", "to", "apply", "the", "domain", "knowledge", "to", "cohesion", "measure", ".", "In", "all", ",", "if", "a", "package", "can", "be", "applied", "to", "many", "applications", ",", "the", "cohesion", "is", "mainly", "about", "itself", "without", "considering", "the", "application", "environments", ".", "Otherwise", ",", "it", "is", "the", "cohesion", "in", "the", "special", "environments", ".", "66", "This", "work", "was", "supported", "in", "part", "by", "the", "National", "Natural", "Science", "Foundation", "of", "China", "-LRB-", "NSFC", "-RRB-", "-LRB-", "60073012", "-RRB-", ",", "National", "Grand", "Fundamental", "Research", "973", "Program", "of", "China", "-LRB-", "G1999032701", "-RRB-", ",", "and", "National", "Research", "Foundation", "for", "the", "Doctoral", "Program", "of", "Higher", "Education", "of", "China", "-LRB-", "20020286004", "-RRB-", ".", "-LSB-", "1", "-RSB-", "Allen", ",", "E.B.", ",", "Khoshgoftaar", ",", "T.M.", "Measuring", "Coupling", "and", "Cohesion", ":", "An", "Information-Theory", "Approach", ".", "in", "Proceedings", "of", "the", "Sixth", "International", "Software", "Metrics", "Symposium", ".", "Florida", "USA", ",", "IEEE", "CS", "Press", ",", "1999", ",", "119-127", ".", "-LSB-", "2", "-RSB-", "Bansiya", ",", "J.L.", ",", "et", "al.", ".", "A", "Class", "Cohesion", "Metric", "for", "Object-oriented", "Designs", ".", "Journal", "of", "Object-oriented", "Programming", ",", "1999", ",", "11", "-LRB-", "8", "-RRB-", ":", "47-52", ".", "-LSB-", "3", "-RSB-", "Briand", ",", "L.C.", ",", "Morasca", ",", "S.", ",", "Basili", ",", "V.R.", "Property-Based", "Software", "Engineering", "Measurement", ".", "IEEE", "Trans", ".", "Software", "Engineering", ",", "Jan.", "1996", ",", "22", "-LRB-", "1", "-RRB-", ":", "68-85", ".", "-LSB-", "4", "-RSB-", "Briand", ",", "L.C.", ",", "Daly", ",", "J.", ",", "Wuest", ",", "J", ".", "A", "Unified", "Framework", "for", "Cohesion", "Measurement", "in", "Object-Oriented", "Systems", ".", "Empirical", "Software", "Engineering", ",", "1998", ",", "3", "-LRB-", "1", "-RRB-", ":", "65-117", ".", "-LSB-", "5", "-RSB-", "Briand", ",", "L.C.", ",", "Morasca", ",", "S.", ",", "Basili", ",", "V.R.", "Defining", "and", "Validating", "Measures", "for", "Object-Based", "High-Level", "Design", ".", "IEEE", "Trans", ".", "Software", "Engineering", ",", "1999", ",", "25", "-LRB-", "5", "-RRB-", ":", "722-743", ".", "-LSB-", "6", "-RSB-", "Chae", ",", "H.S.", ",", "Kwon", ",", "Y.R.", ",", "Bae", ",", "D.H.", ".", "A", "Cohesion", "Measure", "for", "Object-Oriented", "Classes", ".", "Software", "Practice", "&", "Experience", ",", "2000", ",", "30", "-LRB-", "12", "-RRB-", ":", "1405-1431", ".", "-LSB-", "7", "-RSB-", "Chae", ",", "H.S.", ",", "Kwon", ",", "Y.R.", ".", "A", "Cohesion", "Measure", "for", "Classes", "in", "Object-Oriented", "Systems", ".", "in", "Proceedings", "of", "the", "Fifth", "International", "Software", "Metrics", "Symposium", ".", "Bethesda", ",", "MD", "USA", ",", "1998", ",", "IEEE", "CS", "Press", ",", "158-166", ".", "-LSB-", "8", "-RSB-", "Chen", ",", "Z.", ",", "Xu", ",", "B.", ",", "Yang", ",", "H.", "Slicing", "Tagged", "Objects", "in", "Ada", "95", ".", "in", "Proceedings", "of", "AdaEurope", "'", "2001", ",", "LNCS", "2043", ":", "100-112", ".", "-LSB-", "9", "-RSB-", "Chen", ",", "Z.", ",", "Xu", ",", "B.", ",", "Yang", ",", "H.", ",", "Zhao", ",", "J.", "Static", "Dependency", "Analysis", "for", "Concurrent", "Ada", "95", "Programs", ".", "in", "Proceedings", "of", "AdaEurope", "2002", ",", "LNCS", "2361", ",", "219-230", ".", "-LSB-", "10", "-RSB-", "Chen", ",", "Z.", ",", "Xu", ",", "B.", "Zhou", ",", "Y.", ",", "Zhao", ",", "J.", ",", "Yang", ",", "H", ".", "A", "Novel", "Approach", "to", "Measuring", "Class", "Cohesion", "Based", "on", "Dependence", "Analysis", ".", "in", "Proceedings", "of", "ICSM", "2002", ",", "IEEE", "CS", "Press", ",", "377-383", "-LSB-", "11", "-RSB-", "Chidamber", ",", "S.R.", ",", "Kemerer", ",", "C.F.", ".", "A", "Metrics", "Suite", "for", "Object-Oriented", "Design", ".", "IEEE", "Trans", ".", "Software", "Engineering", ",", "1994", ",", "20", "-LRB-", "6", "-RRB-", ":", "476-493", ".", "-LSB-", "12", "-RSB-", "Hitz", ",", "M.", ",", "Montazeri", ",", "B.", "Measuring", "Coupling", "and", "Cohesion", "in", "Object-Oriented", "Systems", ".", "in", "Proceedings", "of", "International", "Symposium", "on", "Applied", "Corporate", "Computing", ",", "Monterrey", ",", "Mexico", ",", "October", "1995", ":", "25-27", ".", "-LSB-", "13", "-RSB-", "Xu", ",", "B.", ",", "Zhou", ",", "Y.", "Comments", "on", "A", "cohesion", "measure", "for", "object-oriented", "classes", ".", "Software", "Practice", "&", "Experience", ",", "2001", ",", "31", "-LRB-", "14", "-RRB-", ":", "1381-1388", ".", "-LSB-", "14", "-RSB-", "Zhou", ",", "Y.", ",", "Guan", ",", "Y.", ",", "Xu", ",", "B.", "On", "Revising", "Chae", "'s", "Cohesion", "Measure", "for", "Classes", ".", "J.", "Software", ".", "2001", ",", "12", "-LRB-", "Suppl", ".", "-RRB-", ":", "295-300", "-LRB-", "in", "Chinese", "-RRB-", "67"], "doc_bio_tags": ["O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["measurement", "measure", "dependence", "oo programming", "ada95", "cohesion"], "abstractive_keyphrases": ["object-oriented"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "181", "document": ["Smartcrawl", ":", "A", "New", "Strategy", "For", "The", "Exploration", "Of", "The", "Hidden", "Web", "The", "way", "current", "search", "engines", "work", "leaves", "a", "large", "amount", "of", "information", "available", "in", "the", "World", "Wide", "Web", "outside", "their", "catalogues", ".", "This", "is", "due", "to", "the", "fact", "that", "crawlers", "work", "by", "following", "hyperlinks", "and", "a", "few", "other", "references", "and", "ignore", "HTML", "forms", ".", "In", "this", "paper", ",", "we", "propose", "a", "search", "engine", "prototype", "that", "can", "retrieve", "information", "behind", "HTML", "forms", "by", "automatically", "generating", "queries", "for", "them", ".", "We", "describe", "the", "architecture", ",", "some", "implementation", "details", "and", "an", "experiment", "that", "proves", "that", "the", "information", "is", "not", "in", "fact", "indexed", "by", "current", "search", "engines", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "--", "Retrieval", "models", ",", "Search", "process", ";", "H.", "5.4", "-LSB-", "Information", "Interfaces", "and", "Presentation", "-RSB-", ":", "Hy-pertext/Hypermedia", "--", "Navigation", "Algorithms", ",", "Experimentation", "The", "gigantic", "growth", "in", "content", "present", "in", "the", "World", "Wide", "Web", "has", "turned", "search", "engines", "into", "fundamental", "tools", "when", "the", "objective", "is", "searching", "for", "information", ".", "A", "study", "in", "2000", "-LSB-", "11", "-RSB-", "discovered", "that", "they", "are", "the", "most", "used", "source", "for", "finding", "answers", "to", "questions", ",", "positioning", "themselves", "above", "books", ",", "for", "example", ".", "However", ",", "a", "great", "deal", "of", "relevant", "information", "is", "still", "hidden", "from", "general-purpose", "search", "engines", "like", "AlltheWeb.com", "or", "Google", ".", "This", "part", "of", "the", "Web", ",", "known", "as", "the", "Hidden", "Web", "-LSB-", "7", "-RSB-", ",", "the", "Invisible", "Web", "-LSB-", "6", ",", "9", "-RSB-", "or", "the", "Deep", "Web", "-LSB-", "1", "-RSB-", "is", "growing", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "WIDM", "'", "04", ",", "November", "12", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-978-0", "/", "04/0011", "...", "$", "5.00", ".", "constantly", ",", "even", "more", "than", "the", "visible", "Web", ",", "to", "which", "we", "are", "accustomed", "-LSB-", "6", "-RSB-", ".", "This", "happens", "because", "the", "crawler", "-LRB-", "the", "program", "that", "is", "responsible", "for", "autonomous", "navigating", "the", "web", ",", "fetching", "pages", "-RRB-", "used", "by", "current", "search", "engines", "can", "not", "reach", "this", "information", ".", "There", "are", "many", "reasons", "for", "this", "to", "occur", ".", "The", "Internet", "'s", "own", "dynamics", ",", "for", "example", ",", "ends", "up", "making", "the", "index", "of", "search", "engines", "obsolete", "because", "even", "the", "quickest", "crawlers", "only", "manage", "to", "access", "only", "a", "small", "fraction", "each", "day", "of", "the", "total", "information", "available", "on", "the", "Web", ".", "The", "cost", "of", "interpretation", "of", "some", "types", "of", "files", ",", "as", "for", "example", "Macromedia", "Flash", "animations", ",", "compressed", "files", ",", "and", "programs", "-LRB-", "executable", "files", "-RRB-", "could", "be", "high", ",", "not", "compensating", "for", "the", "indexing", "of", "the", "little", ",", "or", "frequently", "absent", ",", "textual", "content", ".", "For", "this", "reason", ",", "that", "content", "is", "also", "not", "indexed", "for", "the", "majority", "of", "search", "engines", ".", "Dynamic", "pages", "also", "cause", "some", "problems", "for", "indexing", ".", "There", "are", "no", "technical", "problems", ",", "since", "this", "type", "of", "page", "generates", "ordinary", "HTML", "as", "responses", "for", "its", "requests", ".", "However", ",", "they", "can", "cause", "some", "challenges", "for", "the", "crawlers", ",", "called", "spider", "traps", "-LSB-", "8", "-RSB-", ",", "which", "can", "cause", ",", "for", "example", ",", "the", "crawler", "to", "visit", "the", "same", "page", "an", "infinite", "number", "of", "times", ".", "Therefore", ",", "some", "search", "engines", "opt", "not", "to", "index", "this", "type", "of", "content", ".", "Finally", ",", "there", "are", "some", "sites", "that", "store", "their", "content", "in", "databases", "and", "utilize", "HTML", "forms", "as", "an", "access", "interface", ".", "This", "is", "certainly", "the", "major", "barrier", "in", "the", "exploration", "of", "the", "hidden", "Web", "and", "the", "problem", "that", "has", "fewer", "implemented", "solutions", ".", "Nowadays", "none", "of", "the", "commercial", "search", "engines", "that", "we", "use", "explore", "this", "content", ",", "which", "is", "called", "the", "Truly", "Invisible", "Web", "-LSB-", "9", "-RSB-", ".", "Two", "fundamental", "reasons", "make", "crawling", "the", "hidden", "Web", "a", "non-trivial", "task", "-LSB-", "7", "-RSB-", ".", "First", "is", "the", "issue", "of", "scale", ".", "Another", "study", "shows", "that", "the", "hidden", "content", "is", "actually", "much", "greater", "than", "what", "is", "currently", "publicly", "indexed", "-LSB-", "1", "-RSB-", ".", "As", "well", "as", "this", ",", "the", "interface", "for", "access", "to", "this", "information", "serves", "through", "the", "HTML", "forms", "are", "projected", "to", "be", "manipulated", "and", "filled", "by", "humans", ",", "creating", "a", "huge", "problem", "for", "the", "crawlers", ".", "In", "this", "paper", ",", "we", "propose", "a", "search", "engine", "prototype", "called", "SmartCrawl", ",", "which", "is", "capable", "of", "automatically", "attaining", "pages", "that", "are", "not", "actually", "recoverable", "by", "current", "search", "engines", ",", "and", "that", "are", "``", "secreted", "''", "behind", "HTML", "forms", ".", "The", "rest", "of", "this", "article", "is", "organised", "in", "the", "following", "manner", ".", "Section", "2", "shows", "related", "work", "and", "in", "the", "sequence", ",", "we", "explain", "the", "construction", "of", "HTML", "forms", "and", "how", "they", "can", "be", "represented", ".", "In", "sections", "4", "and", "5", ",", "we", "describe", "the", "prototype", ".", "In", "Section", "6", "the", "experimental", "results", "are", "highlighted", "and", "finally", ",", "in", "Section", "7", ",", "we", "conclude", "the", "paper", ".", "9", "There", "are", "some", "proposals", "for", "the", "automatic", "exploration", "of", "this", "hidden", "content", ".", "Lin", "and", "Chen", "'s", "solution", "-LSB-", "6", "-RSB-", "aims", "to", "build", "up", "a", "catalogue", "of", "small", "search", "engines", "located", "in", "sites", "and", ",", "given", "the", "user", "searching", "terms", ",", "choose", "which", "ones", "are", "more", "likely", "to", "answer", "them", ".", "Once", "the", "search", "engines", "are", "chosen", "by", "a", "module", "called", "Search", "Engine", "Selector", ",", "the", "user", "query", "is", "redirected", "by", "filling", "the", "text", "field", "of", "the", "form", ".", "The", "system", "submits", "the", "keywords", "and", "waits", "for", "the", "results", "that", "are", "combined", "subsequently", "and", "sent", "to", "the", "users", "'", "interface", ".", "The", "HiWE", "-LSB-", "7", "-RSB-", "is", "a", "different", "strategy", "which", "aims", "to", "test", "combinations", "of", "values", "for", "the", "HTML", "forms", "at", "the", "moment", "of", "the", "crawling", "-LRB-", "autonomous", "navigation", "-RRB-", ",", "making", "the", "indexing", "of", "the", "hidden", "pages", "possible", ".", "Once", "a", "form", "in", "a", "HTML", "page", "is", "found", ",", "the", "crawler", "makes", "several", "filing", "attempts", ",", "analyses", "and", "indexes", "the", "results", "of", "the", "obtained", "pages", ".", "Moreover", ",", "the", "HiWE", "has", "a", "strategy", "to", "extract", "the", "labels", "of", "HTML", "forms", "by", "rendering", "the", "page", ".", "This", "is", "very", "useful", "to", "obtain", "information", "and", "classify", "forms", "and", "helps", "to", "fill", "in", "its", "fields", ".", "There", "are", "other", "approaches", "that", "focus", "on", "the", "data", "extraction", ".", "Lage", "et", "al.", "-LSB-", "4", "-RSB-", "claims", "to", "automatically", "generate", "agents", "to", "collect", "hidden", "Web", "pages", "by", "filling", "HTML", "forms", ".", "In", "addition", "to", "this", ",", "Liddle", "et", "al.", "-LSB-", "5", "-RSB-", "perform", "a", "more", "comprehensive", "study", "about", "form", "submissions", "and", "results", "processing", ".", "This", "study", "focus", "on", "how", "valuable", "information", "can", "be", "obtained", "behind", "Web", "forms", ",", "but", "do", "not", "include", "a", "crawler", "to", "fetches", "them", ".", "HTML", "forms", "are", "frequently", "found", "on", "the", "web", "and", "are", "generally", "used", "for", "filtering", "a", "large", "amount", "of", "information", ".", "As", "shown", "in", "Figure", "1", ",", "from", "a", "page", "with", "one", "form", "the", "user", "can", "provide", "several", "pieces", "of", "data", "which", "will", "be", "passed", "on", "to", "a", "process", "in", "the", "server", ",", "which", "generates", "the", "answer", "page", ".", "The", "current", "crawlers", "do", "not", "fill", "in", "form", "fields", "with", "values", ",", "making", "them", "the", "major", "barrier", "for", "exploration", "of", "the", "hidden", "Web", ".", "In", "order", "to", "achieve", "this", ",", "it", "is", "vital", "to", "extract", "several", "pieces", "of", "information", "from", "the", "form", ".", "An", "HTML", "form", "can", "be", "built", "on", "different", "manners", ",", "including", "various", "types", "of", "fields", "such", "as", "comboboxes", ",", "radio", "buttons", ",", "checkboxes", ",", "text", "fields", ",", "hidden", "fields", "and", "so", "on", ".", "However", ",", "the", "data", "sent", "to", "the", "server", "through", "the", "Common", "Gateway", "Interface", "-LRB-", "CGI", "-RRB-", "is", "represented", "by", "proper", "codified", "pairs", "-LRB-", "name", ",", "value", "-RRB-", ".", "This", "way", ",", "we", "can", "characterise", "a", "form", "with", "which", "has", "n", "fields", "as", "a", "tuple", ":", "F", "=", "-LCB-", "U", ",", "-LRB-", "N", "1", ",", "V", "1", "-RRB-", ",", "-LRB-", "N", "2", ",", "V", "2", "-RRB-", ",", "...", ",", "-LRB-", "N", "n", ",", "V", "n", "-RRB-", "-RCB-", "-LRB-", "1", "-RRB-", "where", "U", "is", "the", "URL", "for", "the", "data", "that", "has", "been", "submitted", ",", "and", "-LRB-", "N", "n", ",", "V", "n", "-RRB-", "are", "the", "pairs", "-LRB-", "name", ",", "value", "-RRB-", "-LSB-", "5", "-RSB-", ".", "However", ",", "this", "is", "a", "simplification", ",", "since", "there", "are", "much", "more", "information", "associated", "with", "HTML", "forms", ".", "An", "example", "is", "the", "method", "by", "which", "the", "form", "data", "will", "be", "sent", "to", "the", "server", ",", "that", "is", ",", "by", "HTTP", "GET", "or", "POST", ".", "Moreover", ",", "some", "fields", "possess", "domain", "limitations", "-LRB-", "e.g.", "text", "fields", "with", "a", "maximum", "size", ",", "comboboxes", "-RRB-", ".", "To", "do", "an", "analysis", "of", "the", "form", "and", "extract", "relevant", "information", "is", "not", "an", "easy", "task", ",", "but", "the", "most", "difficult", "step", "surely", "is", "to", "extract", "the", "field", "'s", "labels", ".", "This", "is", "because", "generally", "there", "is", "not", "a", "formal", "relationship", "between", "them", "in", "the", "HTML", "code", ".", "For", "example", ",", "the", "label", "for", "a", "text", "field", "can", "be", "placed", "above", "it", ",", "separated", "by", "a", "BR", "tag", ",", "it", "can", "be", "beside", "it", ",", "or", "it", "can", "be", "inserted", "inside", "table", "cells", ".", "All", "these", "pieces", "of", "data", "are", "absolutely", "necessary", "to", "be", "extracted", "for", "surpassing", "HTML", "forms", "and", "fetching", "the", "results", "page", ".", "The", "aim", "of", "SmartCrawl", "is", "to", "bring", "a", "strategy", "that", "allows", "a", "more", "complete", "exploration", "of", "the", "hidden", "content", ".", "To", "achieve", "this", ",", "it", "managed", "to", "generate", "values", "for", "a", "largest", "number", "of", "forms", ".", "Furthermore", ",", "it", "has", "an", "architecture", "very", "similar", "to", "current", "commercial", "search", "engines", ",", "which", "means", "it", "permits", "an", "easier", "implantation", "of", "strategies", "vastly", "used", "to", "gain", "performance", "and", "scalability", "as", "presented", "by", "-LSB-", "10", "-RSB-", "or", "-LSB-", "2", "-RSB-", ".", "4.1", "Execution", "of", "the", "Prototype", "SmartCrawl", "is", "above", "all", "a", "search", "engine", "and", ",", "therefore", ",", "contains", "all", "its", "essential", "components", ".", "The", "difference", "is", "in", "the", "fact", "that", "each", "component", "has", "adaptations", "and", "some", "extra", "features", "which", "enable", "them", "to", "explore", "the", "hidden", "content", "of", "the", "Web", ".", "The", "main", "goal", "is", "to", "index", "only", "the", "pages", "that", "potentially", "are", "in", "the", "non-explorable", "part", "of", "the", "Web", ".", "To", "extract", "the", "content", "from", "behind", "these", "forms", ",", "SmartCrawl", "generates", "values", "for", "its", "fields", "and", "submits", "them", ".", "These", "values", "are", "chosen", "in", "two", "different", "moments", ":", "in", "the", "indexing", "and", "when", "an", "user", "performs", "a", "search", ".", "In", "the", "indexing", "phase", ",", "once", "it", "finds", "a", "form", ",", "the", "SmartCrawl", "extracts", "a", "set", "of", "pieces", "of", "information", "from", "it", "that", "allow", "queries", "-LRB-", "combinations", "of", "possible", "values", "for", "the", "form", "-RRB-", "to", "be", "created", ".", "New", "queries", "are", "also", "generated", "when", "the", "user", "performs", "a", "search", ".", "For", "this", ",", "the", "forms", "that", "are", "more", "likely", "to", "answer", "to", "the", "search", "receive", "the", "supplied", "keywords", ".", "However", ",", "contrary", "to", "the", "implementation", "of", "Lin", "and", "Chen", "-LSB-", "6", "-RSB-", "the", "obtained", "results", "are", "also", "scheduled", "for", "indexing", "and", "not", "only", "returned", "to", "the", "user", "interface", ".", "The", "process", "of", "execution", "of", "SmartCrawl", "is", "constituted", "in", "the", "following", "steps", ":", "-LRB-", "1", "-RRB-", "finding", "the", "forms", ",", "-LRB-", "2", "-RRB-", "generating", "queries", "for", "them", ",", "-LRB-", "3", "-RRB-", "going", "to", "the", "results", "and", "-LRB-", "4", "-RRB-", "searching", "created", "indexes", ".", "4.1.1", "Finding", "forms", "The", "first", "step", "in", "the", "execution", "process", "of", "the", "SmartCrawl", "is", "the", "creation", "of", "a", "number", "of", "crawlers", "that", "work", "in", "parallel", "searching", "for", "pages", "that", "include", "HTML", "forms", ".", "Every", "page", "found", "is", "then", "compressed", "and", "stored", "for", "further", "analysis", ".", "At", "this", "moment", ",", "it", "acts", "like", "a", "common", "crawler", ",", "following", "only", "links", "and", "references", "to", "frames", ".", "The", "pages", "stored", "by", "the", "crawler", "are", "decompressed", "afterwards", "by", "a", "indexing", "software", "component", "which", "extracts", "pieces", "of", "information", "from", "each", "of", "the", "forms", "found", "and", "catalogues", "them", ".", "Beyond", "this", ",", "every", "page", "is", "indexed", "and", "associated", "with", "the", "forms", ".", "If", "the", "same", "form", "is", "found", "in", "distinct", "pages", ",", "all", "of", "them", "are", "indexed", ".", "Nevertheless", ",", "there", "will", "be", "only", "one", "representation", "of", "the", "form", ".", "4.1.2", "Generating", "queries", "for", "the", "forms", "Another", "component", "of", "the", "indexing", "software", "is", "in", "charge", "of", "generating", "values", "for", "the", "encountered", "forms", ".", "The", "generation", "of", "queries", "is", "based", "on", "the", "collected", "information", "about", "the", "form", "and", "its", "fields", ".", "10", "Search", "Results", "1", ".", "CD", ":", "Kinks", "Face", "To", "Face", "2", ".", "CD", ":", "Kinks", "Muswell", "Hillbillies", "3", ".", "CD", ":", "Kinks", "Misfits", "...", "Processing", "-LRB-", "Server", "-RRB-", "CDs", "CDs", "DVDs", "DVDs", ":", ":", ":", "Kinks", "CDs", "CDs", "DVDs", "DVDs", ":", "CDs", "CDs", "DVDs", "DVDs", "Media", ":", "Title", ":", "Artist", ":", "Kinks", "Figure", "1", ":", "A", "form", "processing", "The", "first", "generated", "query", "is", "always", "the", "default", ",", "that", "is", ",", "the", "one", "which", "uses", "all", "the", "defined", "values", "in", "the", "HTML", "code", "of", "the", "form", ".", "Next", ",", "a", "pre-defined", "number", "k", "of", "other", "possible", "combinations", "is", "generated", ".", "To", "generate", "values", "for", "the", "text", "fields", "-LRB-", "which", "possess", "an", "infinite", "domain", "-RRB-", "a", "table", "that", "stores", "a", "list", "of", "values", "for", "a", "data", "category", "is", "consulted", "based", "on", "the", "field", "label", ".", "For", "every", "generated", "query", ",", "a", "further", "visit", "is", "scheduled", "for", "the", "crawler", ".", "The", "parameters", "-LRB-", "set", "of", "field", "names", "and", "values", "-RRB-", "are", "stored", "and", "a", "new", "item", "is", "added", "to", "the", "queue", "of", "URLs", "that", "must", "be", "visited", "by", "crawlers", ".", "4.1.3", "Visiting", "the", "results", "The", "crawler", "is", "in", "charge", "of", "executing", "its", "second", "big", "goal", "which", "is", "to", "submit", "the", "scheduled", "queries", ".", "To", "accomplish", "this", "it", "needs", "an", "extra", "feature", ":", "the", "capacity", "to", "send", "parameters", "in", "HTTP", "requests", "using", "both", "the", "GET", "and", "POST", "methods", ".", "If", "it", "perceives", "that", "an", "item", "in", "the", "queue", "of", "URLs", "is", "a", "query", ",", "it", "submits", "the", "parameters", "and", "analyses", "the", "HTML", "code", "obtained", "as", "a", "result", "in", "the", "same", "way", "that", "it", "does", "to", "others", ".", "The", "page", "is", "then", "compressed", ",", "stored", "and", "associated", "with", "the", "information", "of", "the", "original", "query", ".", "The", "indexing", "software", "decompress", "pages", "that", "contain", "results", "of", "form", "submissions", "and", "indexes", "them", ".", "From", "this", "index", ",", "the", "classification", "and", "search", "software", "finds", "results", "that", "contain", "all", "the", "search", "terms", "formulated", "by", "the", "user", ".", "4.1.4", "Searching", "for", "stored", "pages", "As", "soon", "as", "the", "user", "performs", "a", "search", ",", "two", "steps", "are", "exe-cuted", "by", "the", "classification", "and", "search", "software", ".", "Firstly", ",", "the", "indexes", "created", "by", "the", "indexing", "software", "are", "consulted", "to", "find", "the", "keywords", "formed", "by", "the", "user", "and", "the", "results", "are", "returned", "in", "an", "organised", "form", "-LRB-", "the", "most", "relevant", "come", "first", "-RRB-", "in", "an", "HTML", "page", ".", "Subsequently", ",", "based", "on", "these", "indexed", "pages", "which", "are", "associated", "with", "the", "forms", ",", "SmartCrawl", "selects", "forms", "that", "are", "more", "likely", "to", "answer", "to", "the", "user", "'s", "search", "and", "generate", "new", "queries", "which", "will", "be", "visited", "afterwards", "by", "the", "crawlers", "and", "indexed", "in", "the", "same", "way", "by", "the", "indexing", "software", ".", "The", "architecture", "at", "the", "high", "level", "of", "this", "application", "is", "divided", "into", ":", "crawler", ",", "indexing", "software", ",", "ranking", "and", "search", "software", "and", "storage", "components", ".", "As", "we", "have", "seen", ",", "the", "crawler", "is", "responsible", "for", "obtaining", "Web", "pages", ",", "submitting", "queries", "and", "storing", "the", "results", ".", "The", "indexing", "software", ",", "on", "the", "other", "hand", ",", "indexes", "the", "obtained", "pages", "and", "generates", "form", "queries", ".", "The", "ranking", "and", "search", "software", "uses", "the", "indexes", "to", "answer", "searches", "made", "by", "the", "user", "or", "redirects", "other", "forms", "and", "storage", "components", "take", "care", "of", "the", "storage", "of", "all", "the", "information", "used", "by", "other", "components", ".", "Figure", "2", "shows", "how", "the", "main", "components", "are", "available", "and", "how", "they", "interact", "with", "the", "storage", "components", ",", "that", "are", "represented", "by", "the", "rounded", "boxes", ".", "They", "are", "the", "Form", "Parser", ",", "Form", "Inquirer", "and", "Form", "Result", "Indexer", "of", "the", "indexing", "software", ",", "the", "Document", "Seeker", "of", "the", "ranking", "and", "search", "software", "and", "the", "Crawler", "Downloader", "of", "the", "crawler", ".", "Two", "storage", "components", "support", "the", "crawling", ":", "URL", "Queue", "and", "URL", "List", ".", "The", "first", "is", "responsible", "for", "storing", "the", "line", "of", "URLs", "that", "the", "Crawlers", "Downloaders", "need", "to", "visit", ",", "in", "this", "way", ",", "the", "URLs", "which", "will", "serve", "as", "seeds", "to", "the", "autonomous", "are", "also", "added", "in", "it", ".", "As", "soon", "as", "a", "Crawler", "Downloader", "extracts", "links", "from", "an", "HTML", "page", ",", "it", "is", "in", "this", "component", "that", "the", "new", "URLs", "will", "also", "be", "inserted", "for", "a", "further", "visit", ".", "The", "URL", "list", ",", "on", "the", "other", "hand", ",", "stores", "the", "URLs", "that", "have", "already", "been", "visited", ",", "allowing", "the", "Crawler", "Downloader", "keep", "track", "of", "them", ".", "When", "the", "page", "includes", "a", "form", ",", "or", "a", "result", "to", "a", "query", ",", "it", "needs", "to", "be", "stored", "for", "subsequent", "indexing", ".", "The", "crawler", "stores", "the", "compressed", "content", "in", "a", "storage", "component", "named", "Warehouse", ",", "where", "it", "is", "given", "a", "number", "called", "storeId", ".", "Two", "components", "of", "the", "indexing", "software", "are", "responsible", "for", "decompressing", "these", "pages", "that", "have", "been", "stored", "in", "the", "Warehouse", ".", "The", "first", ",", "called", "the", "Form", "Parser", ",", "extracts", "information", "from", "all", "the", "forms", "contained", "within", "the", "page", ",", "and", "sends", "them", "to", "the", "storage", "component", "Form", "List", ",", "where", "a", "number", ",", "called", "formId", ",", "is", "associated", "with", "every", "form", ".", "The", "Form", "Parser", "is", "also", "responsible", "for", "indexing", "the", "page", "which", "contains", "forms", "and", "associating", "it", "to", "each", "formId", "of", "the", "forms", "contained", "within", ".", "To", "index", "these", "documents", ",", "SmartCrawl", "uses", "a", "technique", "called", "inverted", "index", "or", "inverted", "file", ".", "The", "Document", "List", ",", "Wordmatch", "and", "Lexicon", "are", "the", "three", "components", "that", "carry", "out", "storing", "an", "indexed", "page", ".", "The", "Document", "List", "stores", "the", "title", ",", "a", "brief", "description", "of", "each", "indexed", "page", "and", "its", "docId", ".", "The", "Lexicon", "and", "Wordmatch", "store", "the", "inverted", "index", "itself", ".", "The", "first", "contains", "a", "list", "of", "pairs", "-LRB-", "wordId", ",", "word", "-RRB-", "for", "each", "one", "of", "the", "words", "used", "in", "indexed", "documents", ".", "The", "second", "contains", "a", "list", "of", "occurrences", "of", "the", "words", "in", "the", "indexed", "documents", "and", "their", "position", "-LRB-", "offset", "-RRB-", "in", "the", "text", ".", "Wordmatch", "is", "formed", "therefore", "by", "the", "values", "of", "docId", ",", "wordId", "and", "offset", "The", "Form", "Inquirer", "is", "the", "indexing", "software", "component", "whose", "objective", "is", "to", "generate", "queries", "for", "the", "stored", "forms", "in", "the", "Form", "List", ".", "To", "generate", "values", "for", "the", "text", "fields", ",", "Form", "Inquirer", "consults", "the", "list", "of", "categories", "and", "values", "through", "the", "component", "Categories", ".", "Each", "query", "generated", "is", "sent", "to", "the", "Query", "List", "where", "a", "queryId", "is", "associated", "to", "it", "and", "a", "new", "URL", "is", "added", "to", "the", "URL", "Queue", ".", "11", "Warehouse", "URL", "Queue", "URL", "List", "Query", "List", "Form", "List", "Categories", "Wordmatch", "Document", "List", "Lexicon", "Crawler", "Downloader", "Form", "Parser", "Form", "Result", "Indexer", "Document", "Seeker", "New", "query", "Form", "Inquirer", "Figure", "2", ":", "Architecture", "at", "a", "high", "level", "The", "second", "component", "that", "extracts", "compressed", "pages", "from", "the", "Warehouse", "is", "the", "Form", "Result", "Indexer", ".", "Its", "job", "is", "too", "much", "easier", "than", "the", "others", ",", "as", "its", "aim", "is", "only", "to", "index", "the", "pages", "that", "contain", "results", "of", "submitted", "queries", "and", "to", "associate", "the", "proper", "queryId", ".", "From", "the", "indexes", "created", "and", "stored", "in", "Lexicon", "and", "Wordmatch", ",", "the", "Document", "Seeker", "answers", "to", "user", "searches", ".", "Every", "document", "stored", "in", "the", "in", "the", "Document", "List", "possesses", "a", "formId", "associated", "with", "it", ",", "and", "optionally", ",", "a", "queryId", "when", "the", "document", "is", "the", "response", "to", "a", "query", ".", "With", "these", "two", "numbers", ",", "the", "Document", "Seeker", "consults", "the", "Form", "List", "and", "the", "Query", "List", "to", "obtain", "the", "necessary", "information", "about", "the", "way", "it", "locates", "an", "indexed", "page", "on", "the", "World", "Wide", "Web", ".", "For", "example", ",", "a", "query", "to", "a", "form", "that", "points", "to", "the", "URL", "http://search.cnn.com/cnn/search", "using", "the", "HTTP", "GET", "method", "can", "be", "represented", "by", "http://search.cnn.com/cnn/search?q=brazil", ",", "if", "it", "possesses", "only", "one", "parameter", "with", "name", "q", "and", "value", "brazil", ".", "The", "Document", "Seeker", "should", "return", "the", "result", "set", "in", "an", "ordered", "form", ",", "so", "that", "the", "most", "relevant", "documents", "will", "be", "taking", "first", "place", ".", "A", "simple", "solution", "for", "this", "is", "to", "only", "take", "into", "consideration", "the", "position", "of", "the", "words", "in", "the", "text", ",", "and", "the", "number", "of", "occurrences", ".", "Considering", "o", "i", ",", "as", "the", "offset", "of", "the", "i-th", "encountered", "word", "in", "the", "document", "which", "is", "amongst", "the", "terms", "of", "the", "user", ",", "the", "relevance", "is", "given", "by", "this", ":", "r", "=", "n", "X", "i", "=", "0", "1000", "-LRB-", "o", "i", "+", "1", "-RRB-", "-LRB-", "2", "-RRB-", "In", "equation", "2", ",", "we", "compute", "the", "rank", "of", "a", "page", "by", "summing", "the", "offsets", "of", "all", "user", "search", "terms", "that", "appears", "in", "the", "document", "and", "then", "divide", "the", "result", "by", "an", "arbitrary", "number", "-LRB-", "in", "this", "case", "1000", "-RRB-", "so", "that", "the", "most", "relevant", "entry", "receives", "the", "smallest", "number", ".", "Another", "important", "role", "of", "the", "Document", "Seeker", "is", "to", "redirect", "the", "search", "terms", "supplied", "by", "the", "user", "to", "some", "of", "the", "several", "forms", "catalogued", "in", "the", "Form", "List", ".", "To", "accomplish", "this", ",", "it", "looks", "in", "the", "Document", "List", "for", "pages", "that", "contain", "search", "engines", "-LRB-", "forms", "with", "one", ",", "and", "only", "one", ",", "text", "field", "-RRB-", "and", "that", "possess", "in", "its", "text", "words", "related", "to", "the", "terms", "sought", "by", "the", "user", ".", "New", "queries", "are", "then", "added", "to", "the", "Query", "List", "and", "new", "URLs", "are", "added", "to", "the", "URL", "Queue", "to", "be", "visited", "by", "the", "Crawler", "Downloader", ".", "5.1", "Labels", "extraction", "algorithm", "A", "very", "important", "task", "is", "performed", "by", "a", "secondary", "component", "called", "Form", "Extractor", ".", "It", "is", "in", "charge", "of", "extracting", "diverse", "pieces", "of", "form", "information", "present", "in", "an", "HTML", "page", ".", "To", "facilitate", "the", "content", "analysis", "of", "a", "page", ",", "the", "HTML", "code", "is", "converted", "into", "a", "DOM", "1", "tree", "provided", "by", "Cyberneko", "Html", "Parser", "-LSB-", "3", "-RSB-", ".", "From", "the", "DOM", "tree", ",", "the", "Form", "Extractor", "looks", "for", "nodes", "which", "represent", "forms", "and", "separate", "them", "from", "the", "rest", "of", "the", "tree", ".", "Each", "of", "these", "sub-trees", ",", "which", "encompass", "all", "the", "tags", "which", "are", "positioned", "between", "the", "<", "form", ">", "and", "the", "<", "/", "form", ">", ",", "is", "submitted", "for", "processing", ".", "Amongst", "the", "data", "which", "should", "be", "obtained", ",", "undoubtedly", "the", "fields", "and", "their", "labels", "are", "the", "most", "challenging", "ones", ".", "In", "spite", "of", "having", "a", "tag", "in", "the", "HTML", "specification", "called", "label", "for", "the", "declaration", "of", "a", "label", ",", "it", "is", "almost", "not", "used", "and", ",", "therefore", ",", "we", "do", "not", "possess", "a", "formal", "declaration", "of", "labels", "in", "the", "HTML", "code", ".", "The", "solution", "encountered", "was", "to", "establish", "a", "standard", "that", "the", "labels", "must", "have", ".", "For", "the", "Form", "Extractor", ",", "labels", "are", "continuous", "segments", "of", "texts", "which", "use", "the", "same", "format", "and", "have", "the", "maximum", "of", "n", "words", "and", "k", "characters", ".", "These", "values", "can", "be", "defined", "in", "the", "configuration", "file", ".", "1", "Document", "Object", "Model", "12", "DVDs", "CDs", "DVDs", "Media", ":", "Title", ":", "Artist", ":", "Kinks", "-LRB-", "a", "-RRB-", "HTML", "form", "example", "1", "2", "1", "2", "3", "4", "-LCB-", "``", "Artist", ":", "''", "-RCB-", "Label", "-LCB-", "``", "Title", ":", "''", "-RCB-", "Label", "-LCB-", "``", "Media", ":", "''", "-RCB-", "Label", "-LCB-", "``", "Submit", "''", ",", "``", "Reset", "''", "-RCB-", "Button", "Button", "-LCB-", "``", "artist", "''", "-RCB-", "Textfield", "-LCB-", "``", "title", "''", "-RCB-", "Textfield", "-LCB-", "``", "cds", "''", ",", "``", "CDs", "''", ",", "``", "dvds", "''", ",", "``", "DVDs", "''", "-RCB-", "Checkbox", "Label", "Checkbox", "Label", "-LRB-", "b", "-RRB-", "Table", "representing", "the", "position", "of", "the", "elements", "of", "the", "form", "Figure", "3", ":", "Representing", "the", "positions", "of", "the", "components", "of", "an", "HTML", "form", "CheckboxField", "Label", ":", "``", "Media", ":", "''", "Name", ":", "``", "media", "''", "Options", ":", "TextField", "Label", ":", "``", "Artist", ":", "''", "Name", ":", "``", "artist", "''", "Value", ":", "''", "''", "Form", "Action", ":", "``", "Search.jsp", "''", "Request", "Method", ":", "POST", "Fields", ":", "TextField", "Label", ":", "``", "Title", ":", "''", "Name", ":", "``", "title", "''", "Value", ":", "''", "''", "SubmitButtonField", "Name", ":", "``", "Submit", "''", "Value", ":", "``", "submit", "''", "Option", "Label", ":", "``", "CDs", "''", "Value", ":", "``", "cd", "''", "Option", "Label", ":", "``", "DVDs", "''", "Value", ":", "``", "dvd", "''", "Figure", "4", ":", "An", "example", "of", "a", "HTML", "form", "representation", "From", "the", "sub-tree", "which", "contains", "a", "certain", "form", "information", ",", "the", "Form", "Extractor", "generates", "a", "table", "which", "represents", "the", "positioning", "of", "the", "elements", "contained", "in", "it", ".", "Figure", "3", "shows", "an", "example", "of", "the", "table", "generated", "by", "a", "simple", "form", ".", "The", "table", "is", "generated", "considering", "the", "nodes", "in", "the", "DOM", "tree", "which", "represent", "a", "common", "HTML", "table", ".", "If", "there", "are", "more", "than", "one", "defined", "table", "in", "the", "HTML", "code", ",", "similar", "representations", "are", "created", ".", "Each", "cell", "has", "a", "collection", "of", "the", "form", "'s", "elements", ".", "The", "third", "step", "of", "the", "process", "is", "to", "extract", "the", "labels", "of", "each", "one", "of", "the", "fields", "in", "the", "form", "-LRB-", "except", "for", "hidden", "fields", "and", "buttons", "-RRB-", "and", "generate", "an", "object-orientated", "representation", "for", "the", "forms", ".", "To", "extract", "the", "labels", ",", "the", "Form", "Extractor", "passes", "twice", "by", "the", "generated", "table", "to", "the", "form", ".", "The", "first", "time", ",", "for", "each", "field", "in", "the", "form", "which", "require", "a", "label", ",", "it", "is", "verified", "exactly", "what", "exists", "on", "the", "left", "side", "of", "the", "field", "-LRB-", "even", "in", "one", "adjacent", "cell", "-RRB-", ".", "If", "a", "label", "is", "found", "in", "this", "position", ",", "this", "label", "is", "immediately", "associated", "to", "the", "field", ".", "In", "the", "second", "passage", ",", "the", "fields", "which", "still", "do", "not", "have", "association", "with", "labels", "are", "observed", "again", ",", "however", "this", "time", "the", "search", "for", "the", "label", "is", "done", "in", "the", "above", "cell", ".", "For", "the", "fields", "of", "the", "checkbox", "and", "combobox", "kind", ",", "the", "treatment", "is", "special", ",", "because", "apart", "from", "the", "conventional", "label", ",", "the", "items", "which", "represent", "their", "domain", "also", "have", "labels", ".", "As", "in", "the", "case", "of", "``", "DVDs", "''", "and", "``", "CDs", "''", "labels", "in", "Figure", "3", "-LRB-", "a", "-RRB-", ".", "The", "domain", "labels", "are", "extracted", "from", "the", "right", ",", "and", "the", "label", "of", "the", "set", "of", "items", "is", "obtained", "from", "the", "left", ".", "In", "the", "example", ",", "the", "checkboxes", "are", "grouped", "by", "their", "names", ",", "which", "in", "this", "case", "is", "``", "media", ".", "''", "The", "labels", "of", "each", "item", "are", "extracted", "from", "the", "right", "-LRB-", "``", "CDs", "''", "and", "``", "DVDs", "''", "-RRB-", "and", "the", "label", "of", "the", "set", "of", "checkboxes", "is", "extracted", "from", "the", "left", "of", "the", "first", "field", "-LRB-", "``", "Media", ":", "''", "-RRB-", ".", "Figure", "4", "shows", "how", "the", "object-oriented", "structure", "for", "the", "example", "above", "would", "be", ".", "5.2", "The", "list", "of", "categories", "and", "values", "The", "Categories", "component", "is", "in", "charged", "of", "controlling", "a", "list", "of", "categories", "and", "values", "which", "helps", "the", "Form", "Inquirer", "to", "generate", "values", "for", "the", "text", "fields", ".", "In", "order", "to", "guarantee", "better", "results", ",", "the", "name", "of", "the", "category", "is", "normalized", "before", "comparing", "to", "the", "field", "label", ".", "The", "normalization", "aims", "to", ":", "-LRB-", "1", "-RRB-", "remove", "punctuation", "-LRB-", "leaving", "just", "the", "words", "-RRB-", ",", "-LRB-", "2", "-RRB-", "convert", "graphic", "signing", "and", "other", "special", "characters", "into", "simple", "ones", "and", "-LRB-", "3", "-RRB-", "remove", "stop", "words", ".", "Stop", "words", "is", "a", "concept", "given", "to", "the", "words", "which", "can", "be", "taken", "from", "sentences", "without", "changing", "its", "meaning", ",", "being", "largely", "used", "in", "normalization", "and", "some", "search", "engines", "even", "extinguish", "these", "words", "from", "their", "indexes", ".", "Great", "part", "of", "the", "Stop", "Words", "are", "prepositions", ",", "articles", "and", "auxiliary", "verbs", ",", "such", "as", "``", "the", "''", ",", "``", "of", "''", "or", "``", "is", ".", "''", "The", "list", "of", "categories", "is", "automatically", "built", "by", "the", "Form", "Parser", ".", "Once", "it", "finds", "a", "field", "with", "finite", "domain", "-LRB-", "e.g.", "comboboxes", "-RRB-", ",", "the", "values", "are", "extracted", "and", "added", "to", "the", "categories", "list", "associated", "to", "the", "field", "'s", "label", ".", "When", "the", "same", "value", "is", "added", "more", "than", "once", "to", "a", "category", ",", "it", "gets", "more", "priority", "in", "relation", "to", "the", "others", ".", "This", "is", "obtained", "by", "using", "a", "number", "which", "means", "the", "relevance", "of", "this", "value", "in", "the", "category", ".", "It", "is", "based", "on", "this", "number", "that", "the", "set", "of", "values", "is", "put", "in", "order", "before", "it", "is", "repassed", "to", "the", "Query", "Inquirer", ".", "Therefore", ",", "the", "most", "relevant", "values", "are", "tested", "first", "in", "text", "fields", ".", "13", "5.3", "Redirecting", "queries", "As", "mentioned", "before", ",", "associated", "to", "each", "form", ",", "there", "is", "a", "set", "of", "indexed", "pages", "where", "it", "has", "been", "found", ".", "These", "pages", "allow", "the", "Document", "Seeker", "to", "choose", "the", "forms", "to", "which", "the", "user", "'s", "search", "terms", "will", "be", "redirected", "to", ".", "In", "order", "to", "choose", "amongst", "several", "forms", ",", "two", "steps", "are", "taken", ":", "-LRB-", "1", "-RRB-", "finding", "which", "words", "or", "sequences", "of", "words", "are", "related", "to", "the", "terms", "of", "the", "user", "'s", "search", "and", "-LRB-", "2", "-RRB-", "looking", "for", "these", "words", "on", "the", "pages", "which", "have", "small", "search", "engines", ".", "To", "solve", "the", "first", "problem", ",", "we", "could", "use", "the", "stored", "index", "itself", ".", "However", ",", "the", "volume", "of", "indexed", "information", "is", "not", "so", "large", "as", "to", "provide", "a", "good", "set", "of", "words", ".", "It", "was", "used", ",", "therefore", ",", "the", "catalogue", "of", "a", "general", "purpose", "search", "engine", "called", "Gigablast", "2", ",", "since", "it", "implements", "data", "mining", "techniques", "and", "provides", ",", "for", "the", "searching", "terms", ",", "a", "list", "of", "words", "or", "sentences", "which", "frequently", "appear", "in", "the", "returning", "documents", ".", "From", "this", "set", "of", "words", ",", "the", "Document", "Seeker", "performs", "search", "on", "pages", "which", "have", "search", "engines", "looking", "for", "these", "terms", ",", "also", "putting", "them", "in", "order", "according", "to", "equation", "2", ".", "For", "the", "first", "n", "selected", "search", "engines", ",", "the", "Document", "Seeker", "creates", "new", "queries", "and", "add", "them", "to", "the", "queue", "so", "that", "they", "can", "be", "submitted", "afterwards", "in", "the", "same", "way", "done", "by", "the", "Form", "Inquirer", ".", "The", "queries", "are", "created", "by", "filling", "in", "form", "'s", "only", "text", "field", "with", "the", "searching", "terms", "of", "the", "user", "and", "the", "other", "fields", "with", "default", "values", ".", "Search", "form", "Results", "New", "queries", "Figure", "5", ":", "Interface", "for", "the", "search", "of", "indexed", "documents", "5.4", "The", "searching", "interface", "A", "searching", "interface", "was", "build", "for", "the", "purpose", "of", "carrying", "out", "the", "tests", ".", "As", "shown", "in", "Figure", "5", ",", "it", "is", "divided", "into", "three", "parts", ".", "The", "searching", "form", "allows", "the", "user", "to", "provide", "the", "terms", "of", "the", "search", ".", "Furthermore", ",", "it", "is", "possible", "to", "choose", "what", "the", "target", "of", "the", "search", "is", ":", "all", "the", "pages", ",", "only", "pages", "which", "have", "forms", "or", "pages", "containing", "the", "results", "of", "forms", ".", "The", "results", "are", "shown", "on", "a", "list", "of", "documents", "that", "contain", "all", "the", "searching", "terms", "offered", "by", "the", "user", ".", "On", "pages", "that", "contain", "a", "2", "http://www.gigablast.com/", "query", "associated", "to", "them", ",", "it", "is", "possible", "to", "visualise", "also", "the", "parameters", ".", "In", "the", "area", "called", "new", "queries", "the", "generated", "queries", "which", "have", "been", "scheduled", "for", "the", "crawler", "'s", "visit", "are", "displayed", ".", "The", "tests", "which", "have", "been", "carried", "out", "aim", "to", "test", "some", "strategies", "used", "in", "the", "implementation", "of", "the", "prototype", ",", "hence", "some", "important", "aspects", "of", "the", "system", "were", "tested", "separately", ".", "Besides", "that", ",", "an", "analysis", "of", "the", "indexed", "content", "regarding", "its", "absence", "or", "not", "in", "the", "current", "searching", "engines", "was", "carried", "out", ".", "In", "order", "to", "support", "the", "tests", ",", "we", "started", "up", "the", "crawlers", "and", "kept", "them", "up", "until", "we", "have", "15", "thousands", "indexed", "pages", "-LRB-", "including", "only", "pages", "with", "HTML", "forms", "and", "form", "results", "-RRB-", ".", "It", "worth", "repeat", "that", "our", "strategy", "does", "not", "index", "pages", "that", "do", "not", "offer", "any", "challenge", "to", "regular", "crawlers", ".", "6.1", "Label", "extraction", "algorithm", "evaluation", "This", "phase", "aims", "to", "evaluate", "the", "algorithm", "used", "for", "the", "extraction", "of", "the", "labels", "from", "the", "form", "fields", "that", "was", "de-scribed", "in", "section", "5.1", ".", "To", "do", "so", ",", "100", "forms", "were", "manually", "observed", "and", "compared", "to", "the", "information", "extracted", "by", "the", "Form", "Extractor", ".", "For", "each", "one", "of", "these", "fields", "it", "was", "verified", "whether", "the", "choice", "made", "by", "the", "algorithm", "was", "correct", "or", "not", ".", "From", "the", "100", "forms", "evaluated", ",", "5", "of", "them", "-LRB-", "5", "%", "-RRB-", "were", "not", "extracted", ".", "The", "reason", "for", "this", "is", "that", "the", "HTML", "was", "malformed", "and", "the", "API", "used", "for", "the", "extraction", "of", "the", "DOM", "tree", "-LRB-", "NekoHtml", "-LSB-", "3", "-RSB-", "-RRB-", "did", "not", "manage", "to", "recover", "the", "error", ".", "This", "way", ",", "189", "fields", "from", "the", "95", "remaining", "forms", "were", "verified", ".", "For", "167", "of", "them", "-LRB-", "88", "%", "-RRB-", ",", "the", "algorithm", "extracted", "the", "label", "correctly", ",", "making", "mistakes", "only", "in", "22", "labels", "-LRB-", "see", "Figure", "6", "-RRB-", ".", "Labels", "extracted", "-LRB-", "88", "%", "-RRB-", "correctly", "Labels", "extracted", "-LRB-", "12", "%", "-RRB-", "incorrectly", "Figure", "6", ":", "Fraction", "of", "labels", "extracted", "correctly", "Some", "labels", "were", "not", "extracted", "correctly", "because", "they", "did", "not", "fit", "within", "the", "restrictions", "defined", "in", "section", "5.1", ".", "Another", "problem", "faced", "was", "when", "the", "labels", "were", "not", "defined", "inside", "the", "tag", "FORM", ".", "In", "this", "case", "they", "were", "not", "present", "in", "the", "sub-tree", "analysed", "by", "the", "Form", "Extractor", ",", "making", "its", "extraction", "impossible", ".", "Although", "our", "solution", "did", "not", "reach", "the", "HiWE", "-LSB-", "7", "-RSB-", "accuracy", "to", "extract", "labels", ",", "we", "prove", "that", "it", "is", "possible", "to", "get", "very", "close", "results", "without", "rendering", "the", "page", "-LRB-", "that", "consumes", "much", "computing", "resources", "-RRB-", ".", "Moreover", ",", "many", "of", "the", "problems", "faced", "in", "this", "experiment", "can", "be", "fixed", "without", "much", "effort", ".", "14", "6.2", "Relevances", "of", "the", "queries", "generated", "by", "the", "Document", "Seeker", "In", "order", "to", "analyse", "the", "results", "obtained", "by", "the", "new", "generated", "queries", "from", "the", "searches", "of", "users", ",", "80", "search", "queries", "were", "submitted", "to", "the", "prototype", "by", "using", "arbitrary", "terms", "that", "are", "commonly", "used", "in", "general", "purpose", "search", "engines", ",", "such", "as", "``", "World", "Cup", "''", "or", "``", "Music", "Lyrics", "''", ".", "For", "each", "list", "of", "queries", "generated", "by", "the", "Document", "Seeker", ",", "the", "first", "five", "ones", "were", "submitted", "and", "analysed", "manually", ",", "totalizing", "155", "pages", "with", "results", ".", "Each", "page", "was", "verified", "whether", "the", "query", "was", "successful", "or", "not", ".", "A", "successful", "query", "is", "one", "which", "has", "one", "or", "more", "results", "in", "it", ",", "in", "contrast", "to", "pages", "with", "no", "result", "or", "pages", "that", "was", "not", "considered", "a", "search", "engine", "results", "page", "-LRB-", "e.g.", "mailing", "list", "registration", "form", "-RRB-", ".", "Errors", "-LRB-", "10", "%", "-RRB-", "Queries", "with", "no", "results", "-LRB-", "24", "%", "-RRB-", "Successful", "queries", "-LRB-", "66", "%", "-RRB-", "Figure", "7", ":", "Utilizations", "of", "the", "new", "queries", "generated", "by", "Document", "Seeker", "The", "result", "obtained", "was", "that", "66", "%", "of", "the", "submitted", "queries", "brought", "some", "results", "back", ",", "24", "%", "were", "not", "successful", "and", "10", "%", "of", "the", "pages", ",", "for", "some", "reason", ",", "could", "not", "be", "recovered", ".", "Figure", "7", "illustrates", "better", "the", "obtained", "utilization", ".", "Once", "the", "most", "relevant", "queries", "are", "returned", "taking", "first", "place", ",", "it", "is", "probable", "that", ",", "with", "a", "larger", "number", "of", "indexed", "pages", ",", "we", "will", "get", "better", "results", ".", "6.3", "Visibility", "of", "the", "indexed", "content", "The", "implementation", "of", "SmartCrawl", "has", "as", "aim", "the", "pages", "generated", "from", "the", "filling", "of", "the", "HTML", "forms", "and", "which", "are", "potentially", "part", "of", "the", "hidden", "web", ".", "Despite", "the", "fact", "that", "the", "current", "commercial", "search", "engines", "do", "not", "have", "an", "automatic", "mechanism", "which", "fills", "in", "the", "forms", "fields", "and", "obtain", "these", "data", ",", "as", "the", "SmartCrawl", "does", ",", "through", "common", "links", ",", "part", "of", "this", "information", "can", "be", "explored", ".", "For", "instance", ",", "a", "page", "with", "the", "results", "of", "a", "form", "that", "utilizes", "the", "HTTP", "method", "GET", "can", "be", "accessed", "through", "an", "usual", "link", "because", "all", "its", "parameters", "can", "be", "passed", "in", "the", "URL", "string", "itself", ".", "In", "addition", "to", "this", ",", "once", "the", "content", "is", "stored", "in", "databases", ",", "it", "is", "not", "so", "difficult", "to", "find", "pages", "that", "offer", "the", "same", "information", "through", "different", "interfaces", ".", "This", "phase", "aimed", "to", "verify", "how", "much", "of", "the", "indexed", "content", "can", "also", "be", "accessed", "by", "Google", ".", "In", "order", "to", "do", "this", ",", "300", "pages", "with", "results", "of", "GET", "and", "POST", "forms", "were", "observed", "if", ",", "for", "one", "of", "the", "reasons", "stated", "before", ",", "they", "were", "not", "indexed", "by", "this", "general", "purpose", "search", "engine", ".", "We", "found", "out", "that", "62", "%", "of", "these", "pages", "are", "not", "indexed", "by", "Google", ".", "When", "only", "queries", "which", "use", "the", "method", "HTTP", "POST", "-LRB-", "which", "are", "59", "%", "from", "the", "total", "-RRB-", "are", "observed", ",", "this", "number", "becomes", "even", "greater", ",", "leaving", "just", "14", "%", "reachable", "by", "Google", ".", "This", "work", "proposed", "a", "search", "engine", "prototype", "which", "is", "capable", "of", "handling", "with", "HTML", "forms", "as", "well", "as", "filling", "them", "in", "automatically", "in", "order", "to", "obtain", "information", "which", "is", "un-reachable", "by", "the", "current", "search", "engines", ".", "When", "compared", "to", "other", "solutions", ",", "as", "the", "HiWE", "-LSB-", "7", "-RSB-", "and", "the", "solution", "that", "redirects", "queries", "by", "Lin", "and", "Chen", "-LSB-", "6", "-RSB-", ",", "the", "SmartCrawl", "brings", "a", "big", "differential", "which", "is", "the", "ability", "of", "surpassing", "great", "number", "of", "forms", ".", "The", "mentioned", "solutions", "have", "severe", "restrictions", "which", "directly", "affect", "the", "number", "of", "forms", "that", "receives", "queries", ".", "There", "is", "a", "great", "deal", "of", "work", "still", "to", "be", "attached", "to", "the", "solution", "for", "a", "better", "exploration", "of", "the", "recovered", "content", ".", "An", "example", "of", "this", "is", "that", "SmartCrawl", "does", "not", "make", "any", "analysis", "of", "the", "pages", "obtained", "as", "results", "of", "the", "queries", ",", "therefore", "indexing", "pages", "which", "contain", "errors", "and", "no", "results", ".", "The", "implementation", "of", "an", "algorithm", "which", "recognizes", "these", "pages", "would", "increase", "the", "quality", "of", "the", "indexed", "data", ".", "Besides", ",", "a", "high", "performance", "structure", "was", "not", "used", "for", "the", "storage", "of", "the", "indexes", ".", "This", "resulted", "in", "slow", "searching", "and", "indexing", ".", "A", "future", "work", "will", "be", "the", "implementation", "of", "a", "new", "indexing", "module", ".", "-LSB-", "1", "-RSB-", "M.", "K.", "Bergman", ".", "The", "Deep", "Web", ":", "Surfacing", "Hidden", "Value", ".", "2001", ".", "-LSB-", "2", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "Web", "search", "engine", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "30", "-LRB-", "1", "7", "-RRB-", ":", "107", "117", ",", "1998", ".", "-LSB-", "3", "-RSB-", "A.", "Clark", ".", "Cyberneko", "html", "parser", ",", "2004", ".", "http://www.apache.org/", "andyc", "/", ".", "-LSB-", "4", "-RSB-", "J.", "Lage", ",", "A.", "Silva", ",", "P.", "Golgher", ",", "and", "A.", "Laender", ".", "Collecting", "hidden", "web", "pages", "for", "data", "extraction", ".", "In", "Proceedings", "of", "the", "4th", "ACM", "International", "Workshop", "on", "Web", "Information", "and", "Data", "Management", ",", "2002", ".", "-LSB-", "5", "-RSB-", "S.", "Liddle", ",", "D.", "Embley", ",", "D.", "Scott", ",", "and", "S.", "H.", "Yau", ".", "Extracting", "data", "behind", "web", "forms", ".", "In", "Proceedings", "of", "the", "Workshop", "on", "Conceptual", "Modeling", "Approaches", "for", "e-Business", ",", "pages", "38", "49", ",", "2002", ".", "-LSB-", "6", "-RSB-", "K.-I", ".", "Lin", "and", "H.", "Chen", ".", "Automatic", "information", "discovery", "from", "the", "invisible", "web", ".", "In", "Proceedings", "of", "the", "The", "International", "Conference", "on", "Information", "Technology", ":", "Coding", "and", "Computing", "-LRB-", "ITCC", "'", "02", "-RRB-", ",", "pages", "332", "337", ",", "2002", ".", "-LSB-", "7", "-RSB-", "S.", "Raghavan", "and", "H.", "Garcia-Molina", ".", "Crawling", "the", "hidden", "web", ".", "In", "Proceedings", "of", "the", "27th", "International", "Conference", "on", "Very", "Large", "Databases", ",", "pages", "129", "138", ",", "2001", ".", "-LSB-", "8", "-RSB-", "A.", "Rappoport", ".", "Checklist", "for", "search", "robot", "crawling", "and", "indexing", ",", "2004", ".", "http://www.searchtools.com/robots/robot-checklist", ".", "html", ".", "-LSB-", "9", "-RSB-", "C.", "Sherman", "and", "G.", "Price", ".", "The", "Invisible", "Web", ":", "Uncovering", "Information", "Sources", "Search", "Engines", "Ca", "n't", "See", ".", "CyberAge", "Books", ",", "2001", ".", "-LSB-", "10", "-RSB-", "V.", "Shkapenyuk", "and", "T.", "Suel", ".", "Design", "and", "implementation", "of", "a", "high-performance", "distributed", "web", "crawler", ".", "In", "Proceedings", "of", "the", "18th", "International", "Conference", "on", "Data", "Engineering", ",", "pages", "357", "368", ".", "-LSB-", "11", "-RSB-", "D.", "Sullivan", ".", "Internet", "Top", "Information", "Resource", ",", "Study", "Finds", ",", "2001", ".", "15"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["search engine", "smartcrawl", "label extraction", "extraction algorithm", "experimentation", "implementation", "architecture", "html form", "hidden web", "web crawler"], "abstractive_keyphrases": ["information retrieval", "hidden web content"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "154", "document": ["Providing", "the", "Basis", "for", "Human-Robot-Interaction", ":", "A", "Multi-Modal", "Attention", "System", "for", "a", "Mobile", "Robot", "In", "order", "to", "enable", "the", "widespread", "use", "of", "robots", "in", "home", "and", "office", "environments", ",", "systems", "with", "natural", "interaction", "capabilities", "have", "to", "be", "developed", ".", "A", "prerequisite", "for", "natural", "interaction", "is", "the", "robot", "'s", "ability", "to", "automatically", "recognize", "when", "and", "how", "long", "a", "person", "'s", "attention", "is", "directed", "towards", "it", "for", "communication", ".", "As", "in", "open", "environments", "several", "persons", "can", "be", "present", "simultaneously", ",", "the", "detection", "of", "the", "communication", "partner", "is", "of", "particular", "importance", ".", "In", "this", "paper", "we", "present", "an", "attention", "system", "for", "a", "mobile", "robot", "which", "enables", "the", "robot", "to", "shift", "its", "attention", "to", "the", "person", "of", "interest", "and", "to", "maintain", "attention", "during", "interaction", ".", "Our", "approach", "is", "based", "on", "a", "method", "for", "multi-modal", "person", "tracking", "which", "uses", "a", "pan-tilt", "camera", "for", "face", "recognition", ",", "two", "microphones", "for", "sound", "source", "localization", ",", "and", "a", "laser", "range", "finder", "for", "leg", "detection", ".", "Shifting", "of", "attention", "is", "realized", "by", "turning", "the", "camera", "into", "the", "direction", "of", "the", "person", "which", "is", "currently", "speaking", ".", "From", "the", "orientation", "of", "the", "head", "it", "is", "decided", "whether", "the", "speaker", "addresses", "the", "robot", ".", "The", "performance", "of", "the", "proposed", "approach", "is", "demonstrated", "with", "an", "evaluation", ".", "In", "addition", ",", "qualitative", "results", "from", "the", "performance", "of", "the", "robot", "at", "the", "exhibition", "part", "of", "the", "ICVS", "'03", "are", "provided", ".", "I.", "4.8", "-LSB-", "Image", "Processing", "and", "Computer", "Vision", "-RSB-", ":", "Scene", "Analysis", "--", "Sensor", "fusion", ",", "Tracking", ";", "H.", "1.2", "-LSB-", "Models", "and", "Principles", "-RSB-", ":", "User/Machine", "Systems", ";", "I.", "5.5", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Implemen-tation", "--", "Interactive", "systems", "Algorithms", ",", "Performance", ",", "Experimentation", "A", "prerequisite", "for", "the", "successful", "application", "of", "mobile", "service", "robots", "in", "home", "and", "office", "environments", "is", "the", "development", "of", "systems", "with", "natural", "human-robot-interfaces", ".", "Much", "research", "focuses", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICMI", "'", "03", ",", "November", "5", "7", ",", "2003", ",", "Vancouver", ",", "British", "Columbia", ",", "Canada", ".", "Copyright", "2003", "ACM", "1-58113-621-8", "/", "03/0011", "...", "$", "5.00", ".", "Figure", "1", ":", "Even", "in", "crowded", "situations", "-LRB-", "here", "at", "the", "ICVS", "'", "03", "-RRB-", "the", "mobile", "robot", "BIRON", "is", "able", "to", "robustly", "track", "persons", "and", "shift", "its", "attention", "to", "the", "speaker", ".", "on", "the", "communication", "process", "itself", ",", "e.g.", "speaker-independent", "speech", "recognition", "or", "robust", "dialog", "systems", ".", "In", "typical", "tests", "of", "such", "human-machine", "interfaces", ",", "the", "presence", "and", "position", "of", "the", "communication", "partner", "is", "known", "beforehand", "as", "the", "user", "either", "wears", "a", "close-talking", "microphone", "or", "stands", "at", "a", "designated", "position", ".", "On", "a", "mobile", "robot", "that", "operates", "in", "an", "environment", "where", "several", "people", "are", "moving", "around", ",", "it", "is", "not", "always", "obvious", "for", "the", "robot", "which", "of", "the", "surrounding", "persons", "wants", "to", "interact", "with", "it", ".", "Therefore", ",", "it", "is", "necessary", "to", "develop", "techniques", "that", "allow", "a", "mobile", "robot", "to", "automatically", "recognize", "when", "and", "how", "long", "a", "user", "'s", "attention", "is", "directed", "towards", "it", "for", "communication", ".", "For", "this", "purpose", "some", "fundamental", "abilities", "of", "the", "robot", "are", "required", ".", "First", "of", "all", ",", "it", "must", "be", "able", "to", "detect", "persons", "in", "its", "vicinity", "and", "to", "track", "their", "movements", "over", "time", "in", "order", "to", "differentiate", "between", "persons", ".", "In", "previous", "work", ",", "we", "have", "demonstrated", "how", "tracking", "of", "persons", "can", "be", "accomplished", "using", "a", "laser", "range", "finder", "and", "a", "pan-tilt", "color", "camera", "-LSB-", "6", "-RSB-", ".", "As", "speech", "is", "the", "most", "important", "means", "of", "communication", "for", "humans", ",", "we", "extended", "this", "framework", "to", "incorporate", "sound", "source", "information", "for", "multi-modal", "person", "tracking", "and", "attention", "control", ".", "This", "enables", "a", "mobile", "robot", "to", "detect", "and", "localize", "sound", "sources", "in", "the", "robot", "'s", "surroundings", "and", ",", "therfore", ",", "to", "observe", "humans", "and", "to", "shift", "its", "attention", "to", "a", "person", "that", "is", "likely", "to", "communicate", "with", "the", "robot", ".", "The", "proposed", "attention", "system", "is", "part", "of", "a", "larger", "research", "effort", "aimed", "at", "building", "BIRON", "the", "Bielefeld", "Robot", "Companion", ".", "28", "BIRON", "has", "already", "performed", "attention", "control", "successfully", "during", "several", "demonstrations", ".", "Figure", "1", "depicts", "a", "typical", "situation", "during", "the", "exhibition", "of", "our", "mobile", "robot", "at", "the", "International", "Conference", "on", "Computer", "Vision", "Systems", "-LRB-", "ICVS", "-RRB-", "2003", "in", "Graz", ".", "The", "paper", "is", "organized", "as", "follows", ":", "At", "first", "we", "discuss", "approaches", "that", "are", "related", "to", "the", "detection", "of", "communication", "partners", "in", "section", "2", ".", "Then", ",", "in", "section", "3", "the", "robot", "hardware", "is", "presented", ".", "Next", ",", "multi-modal", "person", "tracking", "is", "outlined", "in", "section", "4", ",", "followed", "by", "the", "explanation", "of", "the", "corresponding", "perceptual", "systems", "in", "section", "5", ".", "This", "is", "the", "basis", "of", "our", "approach", "for", "the", "detection", "of", "communication", "partners", "explained", "in", "section", "6", ".", "In", "section", "7", "an", "extensive", "evaluation", "of", "the", "system", "is", "presented", ".", "The", "paper", "concludes", "with", "a", "short", "summary", "in", "section", "8", ".", "As", "long", "as", "artificial", "systems", "interact", "with", "humans", "in", "static", "setups", "the", "detection", "of", "communication", "partners", "can", "be", "achieved", "rather", "easily", ".", "For", "the", "interaction", "with", "an", "information", "kiosk", "the", "potential", "user", "has", "to", "enter", "a", "definite", "space", "in", "front", "of", "it", "-LRB-", "cf.", "e.g.", "-LSB-", "14", "-RSB-", "-RRB-", ".", "In", "intelligent", "rooms", "usually", "the", "configuration", "of", "the", "sensors", "allows", "to", "monitor", "all", "persons", "involved", "in", "a", "meeting", "simultaneously", "-LRB-", "cf.", "e.g.", "-LSB-", "18", "-RSB-", "-RRB-", ".", "In", "contrast", "to", "these", "scenarios", "a", "mobile", "robot", "does", "not", "act", "in", "a", "closed", "or", "even", "controlled", "environment", ".", "A", "prototypical", "application", "of", "such", "a", "system", "is", "its", "use", "as", "a", "tour", "guide", "in", "scientific", "laboratories", "or", "museums", "-LRB-", "cf.", "e.g.", "-LSB-", "3", "-RSB-", "-RRB-", ".", "All", "humans", "approaching", "or", "passing", "the", "robot", "have", "to", "be", "considered", "to", "be", "potential", "communication", "partners", ".", "In", "order", "to", "circumvent", "the", "problem", "of", "detecting", "humans", "in", "an", "unstructured", "and", "potentially", "changing", "environment", ",", "in", "the", "approach", "presented", "in", "-LSB-", "3", "-RSB-", "a", "button", "on", "the", "robot", "itself", "has", "to", "be", "pushed", "to", "start", "the", "interaction", ".", "Two", "examples", "for", "robots", "with", "advanced", "human-robot", "interfaces", "are", "SIG", "-LSB-", "13", "-RSB-", "and", "ROBITA", "-LSB-", "12", "-RSB-", "which", "currently", "demonstrate", "their", "capabilities", "in", "research", "labs", ".", "Both", "use", "a", "combination", "of", "visual", "face", "recognition", "and", "sound", "source", "localization", "for", "the", "detection", "of", "a", "person", "of", "interest", ".", "SIG", "'s", "focus", "of", "attention", "is", "directed", "towards", "the", "person", "currently", "speaking", "that", "is", "either", "approaching", "the", "robot", "or", "standing", "close", "to", "it", ".", "In", "addition", "to", "the", "detection", "of", "talking", "people", ",", "ROBITA", "is", "also", "able", "to", "determine", "the", "addressee", "of", "spoken", "utterances", ".", "Thus", ",", "it", "can", "distinguish", "speech", "directed", "towards", "itself", "from", "utterances", "spoken", "to", "another", "person", ".", "Both", "robots", ",", "SIG", "and", "ROBITA", ",", "can", "give", "feedback", "which", "person", "is", "currently", "considered", "to", "be", "the", "communication", "partner", ".", "SIG", "always", "turns", "its", "complete", "body", "towards", "the", "person", "of", "interest", ".", "ROBITA", "can", "use", "several", "combinations", "of", "body", "orientation", ",", "head", "orientation", ",", "and", "eye", "gaze", ".", "The", "multi-modal", "attention", "system", "for", "a", "mobile", "robot", "presented", "in", "this", "paper", "is", "based", "on", "face", "recognition", ",", "sound", "source", "localization", "and", "leg", "detection", ".", "In", "the", "following", "related", "work", "on", "these", "topics", "will", "be", "reviewed", ".", "For", "human-robot", "interfaces", "tracking", "of", "the", "user", "'s", "face", "is", "indispensable", ".", "It", "provides", "information", "about", "the", "user", "'s", "identity", ",", "state", ",", "and", "intent", ".", "A", "first", "step", "for", "any", "face", "processing", "system", "is", "to", "detect", "the", "locations", "of", "faces", "in", "the", "robot", "'s", "camera", "image", ".", "However", ",", "face", "detection", "is", "a", "challenging", "task", "due", "to", "variations", "in", "scale", "and", "position", "within", "the", "image", ".", "In", "addition", ",", "it", "must", "be", "robust", "to", "different", "lighting", "conditions", "and", "facial", "expressions", ".", "A", "wide", "variety", "of", "techniques", "has", "been", "proposed", ",", "for", "example", "neural", "networks", "-LSB-", "15", "-RSB-", ",", "deformable", "templates", "-LSB-", "23", "-RSB-", ",", "skin", "color", "detection", "-LSB-", "21", "-RSB-", ",", "or", "principle", "component", "analysis", "-LRB-", "PCA", "-RRB-", ",", "the", "so-called", "Eigenface", "method", "-LSB-", "19", "-RSB-", ".", "For", "an", "overview", "the", "interested", "reader", "is", "referred", "to", "-LSB-", "22", ",", "9", "-RSB-", ".", "In", "current", "research", "on", "sound", "or", "speaker", "localization", "mostly", "microphone", "arrays", "with", "at", "least", "3", "microphones", "are", "used", ".", "Only", "a", "few", "approaches", "employ", "just", "one", "pair", "of", "microphones", ".", "Fast", "and", "robust", "techniques", "for", "sound", "-LRB-", "and", "therefore", "speaker", "-RRB-", "localization", "are", "e.g.", "the", "Generalized", "Cross-Correlation", "Method", "-LSB-", "11", "-RSB-", "or", "the", "Cross-Powerspectrum", "Phase", "Analysis", "-LSB-", "8", "-RSB-", ",", "which", "both", "can", "be", "applied", "for", "microphone-arrays", "as", "well", "as", "for", "only", "one", "pair", "of", "microphones", ".", "More", "complex", "algorithms", "for", "speaker", "localization", "like", "spectral", "separation", "and", "measurement", "fusion", "-LSB-", "2", "-RSB-", "or", "Linear-Correction", "Least-Squares", "-LSB-", "10", "-RSB-", "are", "also", "very", "robust", "and", "can", "additionally", "estimate", "the", "distance", "and", "the", "height", "of", "a", "speaker", "or", "separate", "different", "audio", "sources", ".", "Such", "complex", "algorithms", "require", "more", "than", "one", "pair", "of", "microphones", "to", "work", "adequately", "and", "also", "require", "substantial", "processing", "power", ".", "In", "mobile", "robotics", "2D", "laser", "range", "finders", "are", "often", "used", ",", "primarily", "for", "robot", "localization", "and", "obstacle", "avoidance", ".", "A", "laser", "range", "finder", "can", "also", "be", "applied", "to", "detect", "persons", ".", "In", "the", "approach", "presented", "in", "-LSB-", "16", "-RSB-", "for", "every", "object", "detected", "in", "a", "laser", "scan", "features", "like", "diameter", ",", "shape", ",", "and", "distance", "are", "extracted", ".", "Then", ",", "fuzzy", "logic", "is", "used", "to", "determine", "which", "of", "the", "objects", "are", "pairs", "of", "legs", ".", "In", "-LSB-", "17", "-RSB-", "local", "minima", "in", "the", "range", "profile", "are", "considered", "to", "be", "pairs", "of", "legs", ".", "Since", "other", "objects", "-LRB-", "e.g.", "trash", "bins", "-RRB-", "produce", "patterns", "similar", "to", "persons", ",", "moving", "objects", "are", "distinguished", "from", "static", "objects", ",", "too", ".", "Figure", "2", ":", "The", "mobile", "robot", "BIRON", ".", "The", "hardware", "platform", "for", "BIRON", "is", "a", "Pioneer", "PeopleBot", "from", "ActivMedia", "-LRB-", "Fig.", "2", "-RRB-", "with", "an", "on-board", "PC", "-LRB-", "Pentium", "III", ",", "850", "MHz", "-RRB-", "for", "controlling", "the", "motors", "and", "the", "on-board", "sensors", "and", "for", "sound", "processing", ".", "An", "additional", "PC", "-LRB-", "Pentium", "III", ",", "500", "MHz", "-RRB-", "inside", "the", "robot", "is", "used", "for", "image", "processing", ".", "The", "two", "PC", "'s", "running", "Linux", "are", "linked", "with", "a", "100", "Mbit", "Ethernet", "and", "the", "controller", "PC", "is", "equipped", "with", "wireless", "Ethernet", "to", "enable", "remote", "control", "of", "the", "mobile", "robot", ".", "For", "the", "interaction", "with", "a", "user", "a", "12", "''", "touch", "screen", "display", "is", "provided", "on", "the", "robot", ".", "A", "pan-tilt", "color", "camera", "-LRB-", "Sony", "EVI-D31", "-RRB-", "is", "mounted", "on", "top", "of", "the", "robot", "at", "a", "height", "of", "141", "cm", "for", "acquiring", "images", "of", "the", "upper", "body", "part", "of", "humans", "interacting", "with", "the", "robot", ".", "Two", "AKG", "far-field", "microphones", "which", "are", "usually", "used", "for", "hands", "free", "telephony", "are", "located", "at", "the", "front", "of", "the", "upper", "platform", "at", "a", "height", "of", "106", "cm", ",", "right", "below", "the", "touch", "screen", "display", ".", "The", "distance", "between", "the", "microphones", "is", "28.1", "cm", ".", "A", "SICK", "laser", "range", "finder", "is", "mounted", "at", "the", "front", "at", "a", "height", "of", "approximately", "30", "cm", ".", "For", "robot", "navigation", "we", "use", "the", "ISR", "-LRB-", "Intelligent", "Service", "Robot", "-RRB-", "control", "software", "developed", "at", "the", "Center", "for", "Autonomous", "Systems", ",", "KTH", ",", "Stockholm", "-LSB-", "1", "-RSB-", ".", "In", "order", "to", "enable", "a", "robot", "to", "direct", "its", "attention", "to", "a", "specific", "person", "it", "must", "be", "able", "to", "distinguish", "between", "different", "persons", ".", "Therefore", ",", "it", "is", "necessary", "for", "the", "robot", "to", "track", "all", "persons", "present", "as", "robustly", "as", "possible", ".", "Person", "tracking", "with", "a", "mobile", "robot", "is", "a", "highly", "dynamic", "task", ".", "As", "both", ",", "the", "persons", "tracked", "and", "the", "robot", "itself", "might", "be", "moving", "the", "sensory", "perception", "of", "the", "persons", "is", "constantly", "changing", ".", "Another", "difficulty", "arises", "from", "the", "fact", "that", "a", "complex", "object", "like", "a", "person", "29", "usually", "can", "not", "be", "captured", "completely", "by", "a", "single", "sensor", "system", "alone", ".", "Therefore", ",", "we", "use", "the", "sensors", "presented", "in", "section", "3", "to", "obtain", "different", "percepts", "of", "a", "person", ":", "The", "camera", "is", "used", "to", "recognize", "faces", ".", "From", "a", "face", "detection", "step", "the", "distance", ",", "direction", ",", "and", "height", "of", "the", "observed", "person", "are", "extracted", ",", "while", "an", "identification", "step", "provides", "the", "identity", "of", "the", "person", "if", "it", "is", "known", "to", "the", "system", "beforehand", "-LRB-", "see", "section", "5.1", "-RRB-", ".", "Stereo", "microphones", "are", "applied", "to", "locate", "sound", "sources", "using", "a", "method", "based", "on", "Cross-Powerspectrum", "Phase", "Analysis", "-LSB-", "8", "-RSB-", ".", "From", "the", "result", "of", "the", "analysis", "the", "direction", "relative", "to", "the", "robot", "can", "be", "estimated", "-LRB-", "see", "section", "5.2", "-RRB-", ".", "The", "laser", "range", "finder", "is", "used", "to", "detect", "legs", ".", "In", "range", "readings", "pairs", "of", "legs", "of", "a", "human", "result", "in", "a", "characteristic", "pattern", "that", "can", "be", "easily", "detected", "-LSB-", "6", "-RSB-", ".", "From", "detected", "legs", "the", "distance", "and", "direction", "of", "the", "person", "relative", "to", "the", "robot", "can", "be", "extracted", "-LRB-", "see", "section", "5.3", "-RRB-", ".", "The", "processes", "which", "are", "responsible", "for", "processing", "the", "data", "of", "these", "sensors", "provide", "information", "about", "the", "same", "overall", "object", ":", "the", "person", ".", "Consequently", ",", "this", "data", "has", "to", "be", "fused", ".", "We", "combine", "the", "information", "from", "the", "different", "sensors", "in", "a", "multi-modal", "framework", "which", "is", "described", "in", "the", "following", "section", ".", "4.1", "Multi-Modal", "Anchoring", "In", "order", "to", "solve", "the", "problem", "of", "person", "tracking", "we", "apply", "multi-modal", "anchoring", "-LSB-", "6", "-RSB-", ".", "This", "approach", "extends", "the", "idea", "of", "standard", "anchoring", "as", "proposed", "in", "-LSB-", "4", "-RSB-", ".", "The", "goal", "of", "anchoring", "is", "defined", "as", "establishing", "connections", "between", "processes", "that", "work", "on", "the", "level", "of", "abstract", "representations", "of", "objects", "in", "the", "world", "-LRB-", "symbolic", "level", "-RRB-", "and", "processes", "that", "are", "responsible", "for", "the", "physical", "observation", "of", "these", "objects", "-LRB-", "sensory", "level", "-RRB-", ".", "These", "connections", ",", "called", "anchors", ",", "must", "be", "dynamic", ",", "since", "the", "same", "symbol", "must", "be", "connected", "to", "new", "percepts", "every", "time", "a", "new", "observation", "of", "the", "corresponding", "object", "is", "acquired", ".", "Therefore", ",", "in", "standard", "anchoring", "at", "every", "time", "step", ",", "an", "anchor", "contains", "three", "elements", ":", "a", "symbol", ",", "which", "is", "used", "to", "denote", "an", "object", ",", "a", "percept", "of", "the", "same", "object", ",", "generated", "by", "the", "corresponding", "perceptual", "system", ",", "and", "a", "signature", ",", "which", "is", "meant", "to", "provide", "an", "estimate", "for", "the", "values", "of", "the", "observable", "properties", "of", "the", "object", ".", "If", "the", "anchor", "is", "grounded", "at", "time", ",", "it", "contains", "the", "percept", "perceived", "at", "as", "well", "as", "the", "updated", "signature", ".", "If", "the", "object", "is", "not", "observable", "at", "and", "therefore", "the", "anchor", "is", "ungrounded", ",", "then", "no", "percept", "is", "stored", "in", "the", "anchor", "but", "the", "signature", "still", "contains", "the", "best", "available", "estimate", ".", "Because", "standard", "anchoring", "only", "considers", "the", "special", "case", "of", "connecting", "one", "symbol", "to", "the", "percepts", "acquired", "from", "one", "sensor", ",", "the", "extension", "to", "multi-modal", "anchoring", "was", "necessary", "in", "order", "to", "handle", "data", "from", "several", "sensors", ".", "Multi-modal", "anchoring", "allows", "to", "link", "the", "symbolic", "description", "of", "a", "complex", "object", "to", "different", "types", "of", "percepts", ",", "originating", "from", "different", "perceptual", "systems", ".", "It", "enables", "distributed", "anchoring", "of", "individual", "percepts", "from", "multiple", "modalities", "and", "copes", "with", "different", "spatio-temporal", "properties", "of", "the", "individual", "percepts", ".", "Every", "part", "of", "the", "complex", "object", "which", "is", "captured", "by", "one", "sensor", "is", "anchored", "by", "a", "single", "component", "anchoring", "process", ".", "The", "composition", "of", "all", "component", "anchors", "is", "realized", "by", "a", "composite", "anchoring", "process", "which", "establishes", "the", "connection", "between", "the", "symbolic", "description", "of", "the", "complex", "object", "and", "the", "percepts", "from", "the", "individual", "sensors", ".", "In", "the", "domain", "of", "person", "tracking", "the", "person", "itself", "is", "the", "composite", "object", "while", "its", "components", "are", "face", ",", "speech", ",", "and", "legs", ",", "respectively", ".", "In", "addition", "Signature", "list", "Fusion", "Motion", "Composition", "Face", "region", "Sound", "source", "Laser", "legs", "Anchoring", "Anchoring", "Anchoring", "person", "face", "speech", "legs", "...", "name", ",", "height", ",", "t", "2", "t", "0", "t", "1", "Anchor", "position", ",", "etc.", ".", "Anchoring", "of", "composite", "object", "Person", "models", "Symbols", "Percepts", "Anchoring", "of", "component", "objects", "Figure", "3", ":", "Multi-modal", "anchoring", "of", "persons", ".", "to", "standard", "anchoring", ",", "the", "composite", "anchoring", "module", "requires", "a", "composition", "model", ",", "a", "motion", "model", ",", "and", "a", "fusion", "model", ":", "The", "composition", "model", "defines", "the", "spatial", "relationships", "of", "the", "components", "with", "respect", "to", "the", "composite", "object", ".", "It", "is", "used", "in", "the", "component", "anchoring", "processes", "to", "anchor", "only", "those", "percepts", "that", "satisfy", "the", "composition", "model", ".", "The", "motion", "model", "describes", "the", "type", "of", "motion", "of", "the", "complex", "object", ",", "and", "therefore", "allows", "to", "predict", "its", "position", ".", "Using", "the", "spatial", "relationships", "of", "the", "composition", "model", ",", "the", "position", "of", "percepts", "can", "be", "predicted", ",", "too", ".", "This", "information", "is", "used", "by", "the", "component", "anchoring", "processes", "in", "two", "ways", ":", "1", ".", "If", "multiple", "percepts", "are", "generated", "from", "one", "perceptual", "system", "the", "component", "anchoring", "process", "selects", "the", "percept", "which", "is", "closest", "to", "the", "predicted", "position", ".", "2", ".", "If", "the", "corresponding", "perceptual", "system", "receives", "its", "data", "from", "a", "steerable", "sensor", "with", "a", "limited", "field", "of", "view", "-LRB-", "e.g.", "pan-tilt", "camera", "-RRB-", ",", "it", "turns", "the", "sensor", "into", "the", "direction", "of", "the", "predicted", "position", ".", "The", "fusion", "model", "defines", "how", "the", "perceptual", "data", "from", "the", "component", "anchors", "has", "to", "be", "combined", ".", "It", "is", "important", "to", "note", ",", "that", "the", "processing", "times", "of", "the", "different", "perceptual", "systems", "may", "differ", "significantly", ".", "Therefore", ",", "the", "perceptual", "data", "may", "not", "arrive", "at", "the", "composite", "anchoring", "process", "in", "chronological", "order", ".", "Consequently", ",", "the", "composite", "anchor", "provides", "a", "chronologically", "sorted", "list", "of", "the", "fused", "perceptual", "data", ".", "New", "data", "from", "the", "component", "anchors", "is", "inserted", "in", "the", "list", ",", "and", "all", "subsequent", "entries", "are", "updated", ".", "The", "anchoring", "of", "a", "single", "person", "is", "illustrated", "in", "Figure", "3", ".", "It", "is", "based", "on", "anchoring", "the", "three", "components", "legs", ",", "face", ",", "and", "speech", ".", "For", "more", "details", "please", "refer", "to", "-LSB-", "6", "-RSB-", ".", "4.2", "Tracking", "Multiple", "Persons", "If", "more", "than", "one", "person", "has", "to", "be", "tracked", "simultaneously", ",", "several", "anchoring", "processes", "have", "to", "be", "run", "in", "parallel", ".", "In", "this", "case", ",", "multi-modal", "anchoring", "as", "described", "in", "the", "previous", "section", "may", "lead", "to", "the", "following", "conflicts", "between", "the", "individual", "composite", "anchoring", "processes", ":", "The", "anchoring", "processes", "try", "to", "control", "the", "pan-tilt", "unit", "of", "the", "camera", "in", "a", "contradictory", "way", ".", "A", "percept", "is", "selected", "by", "more", "than", "one", "anchoring", "process", ".", "30", "In", "order", "to", "resolve", "these", "problems", "a", "supervising", "module", "is", "required", ",", "which", "grants", "the", "access", "to", "the", "pan-tilt", "camera", "and", "controls", "the", "selection", "of", "percepts", ".", "The", "first", "problem", "is", "handled", "in", "the", "following", "way", ":", "The", "supervising", "module", "restricts", "the", "access", "to", "the", "pan-tilt", "unit", "of", "the", "camera", "to", "only", "one", "composite", "anchoring", "process", "at", "a", "time", ".", "How", "access", "is", "granted", "to", "the", "processes", "depends", "on", "the", "intended", "application", ".", "For", "the", "task", "of", "detecting", "communication", "partners", "which", "is", "presented", "in", "this", "paper", ",", "only", "the", "anchoring", "process", "corresponding", "to", "the", "currently", "selected", "person", "of", "interest", "controls", "the", "pan-tilt", "unit", "of", "the", "camera", "-LRB-", "see", "section", "6", "-RRB-", ".", "In", "order", "to", "avoid", "the", "second", "problem", ",", "the", "selection", "of", "percepts", "is", "implemented", "as", "follows", ".", "Instead", "of", "selecting", "a", "specific", "percept", "de-terministically", ",", "every", "component", "anchoring", "process", "assigns", "scores", "to", "all", "percepts", "rating", "the", "proximity", "to", "the", "predicted", "position", ".", "After", "all", "component", "anchoring", "processes", "have", "assigned", "scores", ",", "the", "supervising", "module", "computes", "the", "optimal", "non-contradictory", "assignment", "of", "percepts", "to", "component", "anchors", ".", "Percepts", "that", "are", "not", "assigned", "to", "any", "of", "the", "existing", "anchoring", "processes", "are", "used", "to", "establish", "new", "anchors", ".", "Additionally", ",", "an", "anchor", "that", "was", "not", "updated", "for", "a", "certain", "period", "of", "time", "will", "be", "removed", "by", "the", "supervising", "module", ".", "In", "order", "to", "supply", "the", "anchoring", "framework", "presented", "in", "4.1", "with", "sensory", "information", "about", "observed", "persons", ",", "three", "different", "perceptual", "systems", "are", "used", ".", "These", "are", "outlined", "in", "the", "following", "subsec-tions", ".", "5.1", "Face", "Recognition", "In", "our", "previous", "work", "-LSB-", "6", "-RSB-", ",", "face", "detection", "was", "realized", "using", "a", "method", "which", "combines", "adaptive", "skin-color", "segmentation", "with", "face", "detection", "based", "on", "Eigenfaces", "-LSB-", "7", "-RSB-", ".", "The", "segmentation", "process", "reduces", "the", "search", "space", ",", "so", "that", "only", "those", "sub-images", "which", "are", "located", "at", "skin", "colored", "regions", "have", "to", "be", "verified", "with", "the", "Eigenface", "method", ".", "In", "order", "to", "cope", "with", "varying", "lighting", "conditions", "the", "model", "for", "skin-color", "is", "continuously", "updated", "with", "pixels", "extracted", "from", "detected", "faces", ".", "This", "circular", "process", "requires", "initialization", ",", "which", "is", "realized", "by", "performing", "face", "detection", "using", "Eigenfaces", "on", "the", "whole", "image", ",", "since", "initially", "no", "suitable", "model", "for", "skin-color", "is", "available", ".", "This", "method", "has", "two", "major", "drawbacks", ":", "It", "is", "very", "sensitive", "to", "false", "positive", "detections", "of", "faces", ",", "since", "then", "the", "skin-model", "may", "adapt", "to", "a", "wrong", "color", ".", "In", "addition", ",", "initialization", "is", "computa-tionally", "very", "expensive", ".", "In", "our", "current", "system", "presented", "in", "this", "paper", ",", "the", "detection", "of", "faces", "-LRB-", "in", "frontal", "view", "-RRB-", "is", "based", "on", "the", "framework", "proposed", "by", "Viola", "and", "Jones", "-LSB-", "20", "-RSB-", ".", "This", "method", "allows", "to", "process", "images", "very", "rapidly", "with", "high", "detection", "rates", "for", "the", "task", "of", "face", "detection", ".", "Therefore", ",", "neither", "a", "time", "consuming", "initialization", "nor", "the", "restriction", "of", "the", "search", "using", "a", "model", "of", "skin", "color", "is", "necessary", ".", "The", "detection", "is", "based", "on", "two", "types", "of", "features", "-LRB-", "Fig.", "4", "-RRB-", ",", "which", "are", "the", "same", "as", "proposed", "in", "-LSB-", "24", "-RSB-", ".", "A", "feature", "is", "a", "scalar", "value", "which", "is", "computed", "by", "the", "weighted", "sum", "of", "all", "intensities", "of", "pixels", "in", "rectangular", "regions", ".", "The", "computation", "can", "be", "realized", "very", "efficiently", "using", "integral", "images", "-LRB-", "see", "-LSB-", "20", "-RSB-", "-RRB-", ".", "The", "features", "have", "six", "degrees", "of", "freedom", "for", "two-block", "features", "-LRB-", "-RRB-", "and", "seven", "degrees", "of", "freedom", "for", "three-block", "features", "-LRB-", "-RRB-", ".", "With", "restrictions", "to", "the", "size", "of", "the", "rectangles", "and", "their", "distances", "we", "obtain", "about", "300.000", "different", "features", "for", "sub-windows", "of", "a", "size", "of", "pixels", ".", "Classifiers", "are", "constructed", "by", "selecting", "a", "small", "number", "of", "important", "features", "using", "AdaBoost", "-LSB-", "5", "-RSB-", ".", "A", "cascade", "of", "classifiers", "of", "increasing", "complexity", "-LRB-", "increasing", "number", "of", "features", "-RRB-", "forms", "the", "over-all", "face", "detector", "-LRB-", "Fig.", "5", "-RRB-", ".", "For", "face", "detection", "an", "image", "is", "scanned", ",", "and", "every", "sub-image", "is", "classified", "2", "1", "dy", "2", "dx", "1", "dy", "dx", "2", "w", "h", "w", "dx", "h", "x", "y", "x", "y", "Figure", "4", ":", "The", "two", "types", "of", "features", "used", "for", "face", "detection", ".", "Each", "feature", "takes", "a", "value", "which", "is", "the", "weighted", "sum", "of", "all", "pixels", "in", "the", "rectangles", ".", "...", ".", "Non-face", "Non-face", "No", "No", "Input", "Sub-Window", "Yes", "Yes", "Non-face", "Face", "No", "C", "n", "C", "2", "C", "1", "Yes", "Figure", "5", ":", "A", "cascade", "of", "classifiers", "of", "increasing", "complexity", "enables", "fast", "face", "detection", ".", "with", "the", "first", "classifier", "of", "the", "cascade", ".", "If", "classified", "as", "non-face", ",", "the", "process", "continues", "with", "the", "next", "sub-image", ".", "Otherwise", "the", "current", "sub-image", "is", "passed", "to", "the", "next", "classifier", "-LRB-", "-RRB-", "and", "so", "on", ".", "The", "first", "classifier", "of", "the", "cascade", "is", "based", "on", "only", "two", "features", ",", "but", "rejects", "approximately", "75", "%", "of", "all", "sub-images", ".", "Therefore", ",", "the", "detection", "process", "is", "very", "fast", ".", "The", "cascade", "used", "in", "our", "system", "consists", "of", "16", "classifiers", "based", "on", "1327", "features", "altogether", ".", "In", "order", "to", "update", "the", "multi-modal", "anchoring", "process", "the", "position", "of", "the", "face", "is", "extracted", ":", "With", "the", "orientation", "of", "the", "pan-tilt", "camera", ",", "the", "angle", "of", "the", "face", "relative", "to", "the", "robot", "is", "calculated", ".", "The", "size", "of", "the", "detected", "face", "is", "used", "to", "estimate", "the", "distance", "of", "the", "person", ":", "Assuming", "that", "sizes", "of", "heads", "of", "adult", "humans", "only", "vary", "to", "a", "minor", "degree", ",", "the", "distance", "is", "proportional", "to", "the", "reciprocal", "of", "the", "size", ".", "The", "height", "of", "the", "face", "above", "the", "ground", "is", "also", "extracted", "by", "using", "the", "distance", "and", "the", "camera", "position", ".", "Since", "the", "approach", "presented", "so", "far", "does", "not", "provide", "face", "identification", ",", "a", "post-processing", "step", "is", "is", "required", ".", "Therefore", ",", "we", "use", "a", "slightly", "enhanced", "version", "of", "the", "Eigenface", "method", "-LSB-", "19", "-RSB-", ".", "Each", "individual", "is", "represented", "in", "face", "space", "by", "a", "mixture", "of", "several", "Gaussians", "with", "diagonal", "covariances", ".", "Practical", "experiments", "have", "shown", "that", "the", "use", "of", "four", "to", "six", "Gaussians", "leads", "to", "a", "satisfying", "accuracy", "in", "discriminating", "between", "a", "small", "set", "of", "known", "persons", ".", "5.2", "Sound", "Source", "Localization", "In", "order", "to", "detect", "speaking", "persons", ",", "we", "realize", "the", "localization", "of", "sound", "sources", "using", "a", "pair", "of", "microphones", ".", "Given", "a", "sound", "source", "in", "3D", "space", ",", "the", "distances", "and", "between", "and", "the", "two", "microphones", "and", "generally", "differ", "by", "the", "amount", "of", "-LRB-", "see", "Fig.", "6", "-RRB-", ".", "This", "difference", "results", "in", "a", "time", "delay", "of", "the", "received", "signal", "between", "the", "left", "and", "the", "right", "channel", "-LRB-", "microphone", "-RRB-", ".", "Based", "on", "Cross-Powerspectrum", "Phase", "Analysis", "-LSB-", "8", "-RSB-", "we", "first", "calculate", "a", "spectral", "correlation", "measure", "-LRB-", "1", "-RRB-", "where", "and", "are", "the", "short-term", "power", "spectra", "of", "the", "left", "and", "the", "right", "channel", ",", "respectively", "-LRB-", "calculated", "within", "a", "43", "ms", "window", "from", "the", "signal", "sampled", "at", "48", "kHz", "-RRB-", ".", "If", "only", "a", "single", "sound", "31", "d", "10", "cm", "d", "=", "0", "c", "m", "d", "=", "5c", "m", "d", "=", "1", "0c", "m", "d", "=", "2", "0", "c", "m", "d", "=", "25", "cm", "d", "=", "1", "5", "c", "m", "s", "m", "2", "m", "1", "d", "1", "d", "2", "b", "=", "28.1", "cm", "Figure", "6", ":", "The", "distances", "and", "between", "the", "sound", "source", "and", "the", "two", "microphones", "and", "differ", "by", "the", "amount", "of", ".", "All", "sound", "events", "with", "identical", "are", "located", "on", "one", "half", "of", "a", "two-sheeted", "hyperboloid", "-LRB-", "gray", "-RRB-", ".", "source", "is", "present", "the", "time", "delay", "will", "be", "given", "by", "the", "argument", "that", "maximizes", "the", "spectral", "correlations", "measure", ":", "-LRB-", "2", "-RRB-", "Taking", "into", "account", "also", "local", "maxima", "delivered", "by", "equation", "-LRB-", "1", "-RRB-", ",", "we", "are", "able", "to", "detect", "several", "sound", "sources", "simultaneously", ".", "Even", "in", "the", "planar", "case", ",", "where", "all", "sound", "sources", "are", "on", "the", "same", "level", "as", "the", "microphones", ",", "the", "position", "of", "can", "be", "estimated", "only", "if", "its", "distance", "is", "known", "or", "additional", "assumptions", "are", "made", ".", "In", "a", "simplified", "geometry", "the", "microphone", "distance", "is", "considered", "suf-ficiently", "small", "compared", "to", "the", "distance", "of", "the", "source", ".", "Therefore", ",", "the", "angles", "of", "incidence", "of", "the", "signals", "observed", "at", "the", "left", "or", "right", "microphone", ",", "respectively", ",", "will", "be", "approximately", "equal", "and", "can", "be", "calculated", "directly", "from", ".", "In", "the", "3D-case", "the", "observed", "time", "delay", "not", "only", "depends", "on", "the", "direction", "and", "distance", "but", "also", "on", "the", "relative", "elevation", "of", "the", "source", "with", "respect", "to", "the", "microphones", ".", "Therefore", ",", "given", "only", "the", "problem", "is", "under-determined", ".", "All", "sound", "events", "which", "result", "in", "the", "same", "are", "located", "on", "one", "half", "of", "a", "two-sheeted", "hyperboloid", ",", "given", "by", "-LRB-", "3", "-RRB-", "where", "is", "the", "position", "of", "the", "sound", "source", "given", "in", "Cartesian", "coordinates", ".", "The", "axis", "of", "symmetry", "of", "the", "hyperboloid", "coincides", "with", "the", "axis", "on", "which", "the", "microphones", "are", "located", "-LRB-", "y-axis", "-RRB-", ".", "Figure", "6", "shows", "the", "intersections", "of", "hyperboloids", "for", "different", "with", "the", "plane", "spanned", "by", ",", ",", "and", ".", "Consequently", ",", "the", "localization", "of", "sound", "sources", "in", "3D", "using", "two", "microphones", "requires", "additional", "information", ".", "As", "in", "our", "scenario", "sound", "sources", "of", "interest", "correspond", "to", "persons", "talking", ",", "the", "additional", "spatial", "information", "necessary", "can", "be", "obtained", "from", "the", "other", "perceptual", "systems", "of", "the", "multi-modal", "anchoring", "framework", ".", "Leg", "detection", "and", "face", "recognition", "provide", "information", "about", "the", "direction", ",", "distance", ",", "and", "height", "of", "a", "person", "with", "respect", "to", "the", "local", "coordinate", "system", "of", "the", "robot", ".", "Even", "if", "no", "face", "was", "detected", "at", "all", ",", "the", "height", "of", "a", "person", "can", "be", "estimated", "as", "the", "standard", "size", "of", "an", "adult", ".", "In", "order", "to", "decide", "whether", "a", "sound", "percept", "can", "be", "assigned", "to", "a", "specific", "person", ",", "the", "sound", "source", "has", "to", "be", "located", "in", "3D", ".", "For", "this", "purpose", "it", "is", "assumed", "that", "the", "sound", "percept", "originates", "from", "100", "cm", "Robot", "Figure", "7", ":", "A", "sample", "laser", "scan", ".", "The", "arrow", "marks", "a", "pair", "of", "legs", ".", "the", "person", "and", "is", "therefore", "located", "at", "the", "same", "height", "and", "same", "distance", ".", "Then", ",", "the", "corresponding", "direction", "of", "the", "sound", "source", "can", "be", "calculated", "from", "equation", "-LRB-", "3", "-RRB-", "transformed", "to", "cylindric", "coordinates", ".", "Depending", "on", "the", "difference", "between", "this", "direction", "and", "the", "direction", "in", "which", "the", "person", "is", "located", ",", "the", "sound", "percept", "is", "assigned", "to", "the", "person", "'s", "sound", "anchor", ".", "Similar", "to", "other", "component", "anchors", ",", "the", "direction", "of", "the", "speech", "is", "also", "fused", "with", "the", "position", "of", "the", "person", ".", "Note", "that", "the", "necessity", "of", "positional", "attributes", "of", "a", "person", "for", "the", "localization", "of", "speakers", "implies", "that", "speech", "can", "not", "be", "anchored", "until", "the", "legs", "or", "the", "face", "of", "a", "person", "have", "been", "anchored", ".", "In", "conclusion", ",", "the", "use", "of", "only", "one", "pair", "of", "microphones", "is", "sufficient", "for", "feasible", "speaker", "localization", "in", "the", "multi-modal", "anchoring", "framework", ".", "5.3", "Leg", "Detection", "The", "laser", "range", "finder", "provides", "distance", "measures", "within", "a", "field", "of", "view", "at", "leg-height", ".", "The", "angular", "resolution", "is", "resulting", "in", "361", "reading", "points", "for", "a", "single", "scan", "-LRB-", "see", "Fig.", "7", "for", "an", "example", "-RRB-", ".", "Usually", ",", "human", "legs", "result", "in", "a", "characteristic", "pattern", "which", "can", "be", "easily", "detected", ".", "This", "is", "done", "as", "follows", ":", "At", "first", ",", "neighboring", "reading", "points", "with", "similar", "distance", "values", "are", "grouped", "into", "segments", ".", "Then", ",", "these", "segments", "are", "classified", "as", "legs", "or", "non-legs", "based", "on", "a", "set", "of", "features", "-LRB-", "see", "-LSB-", "6", "-RSB-", "-RRB-", ".", "Finally", ",", "legs", "with", "a", "distance", "that", "is", "below", "a", "threshold", "are", "grouped", "into", "pairs", "of", "legs", ".", "For", "the", "detection", "of", "a", "person", "of", "interest", "from", "our", "mobile", "robot", "we", "apply", "multi-modal", "person", "tracking", ",", "as", "described", "in", "section", "4", ".", "Every", "person", "in", "the", "vicinity", "of", "the", "robot", "is", "anchored", "and", ",", "therefore", ",", "tracked", "by", "an", "individual", "anchoring", "process", ",", "as", "soon", "as", "the", "legs", "or", "the", "face", "can", "be", "recognized", "by", "the", "system", ".", "If", "the", "robot", "detects", "that", "a", "person", "is", "talking", ",", "this", "individual", "becomes", "the", "person", "of", "interest", "and", "the", "robot", "directs", "its", "attention", "towards", "it", ".", "This", "is", "achieved", "by", "turning", "the", "camera", "into", "the", "direction", "of", "the", "person", ".", "The", "anchoring", "process", "corresponding", "to", "the", "person", "of", "interest", "maintains", "access", "to", "the", "pan-tilt", "camera", "and", "keeps", "the", "person", "in", "the", "center", "of", "the", "camera", "'s", "field", "of", "view", ".", "If", "necessary", ",", "the", "entire", "robot", "basis", "is", "turned", "in", "the", "direction", "of", "the", "person", "of", "interest", ".", "If", "this", "person", "moves", "to", "far", "away", "from", "the", "robot", ",", "the", "robot", "will", "start", "to", "follow", "the", "person", ".", "This", "behavior", "ensures", "that", "the", "sensors", "of", "the", "robot", "do", "not", "loose", "track", "of", "this", "person", ".", "Moreover", ",", "the", "person", "can", "guide", "the", "robot", "to", "a", "specific", "place", ".", "As", "long", "as", "the", "speech", "of", "the", "person", "of", "interest", "is", "anchored", ",", "other", "people", "talking", "are", "ignored", ".", "This", "allows", "the", "person", "of", "interest", "to", "take", "breath", "or", "make", "short", "breaks", "while", "speaking", "without", "loosing", "the", "robots", "attention", ".", "When", "the", "person", "of", "interest", "stops", "talking", "for", "more", "than", "two", "seconds", ",", "the", "person", "of", "interest", "looses", "its", "speech", "anchor", ".", "Now", ",", "another", "person", "can", "become", "the", "person", "of", "interest", ".", "If", "no", "other", "person", "is", "speaking", "in", "the", "vicinity", "of", "the", "robot", ",", "the", "person", "which", "32", "-LRB-", "2", "-RRB-", "-LRB-", "3", "-RRB-", "-LRB-", "4", "-RRB-", "-LRB-", "1", "-RRB-", "P", "1", "P", "1", "P", "1", "P", "1", "P", "2", "P", "2", "P", "2", "P", "2", "R", "R", "R", "R", "Figure", "8", ":", "Sample", "behavior", "with", "two", "persons", "and", "standing", "near", "the", "robot", ":", "In", "-LRB-", "1", "-RRB-", "is", "considered", "as", "communication", "partner", ",", "thus", "the", "robot", "directs", "its", "attention", "towards", ".", "Then", "stops", "speaking", "but", "remains", "person", "of", "interest", "-LRB-", "2", "-RRB-", ".", "In", "-LRB-", "3", "-RRB-", "begins", "to", "speak", ".", "Therefore", "the", "robot", "'s", "attention", "shifts", "to", "by", "turning", "its", "camera", "-LRB-", "4", "-RRB-", ".", "Since", "is", "facing", "the", "robot", ",", "is", "considered", "as", "new", "communication", "partner", ".", "is", "in", "the", "focus", "of", "attention", "of", "the", "robot", "remains", "person", "of", "interest", ".", "Only", "a", "person", "that", "is", "speaking", "can", "take", "over", "the", "role", "of", "the", "person", "of", "interest", ".", "Notice", ",", "that", "a", "person", "which", "is", "moving", "fast", "in", "front", "of", "the", "robot", "is", "considered", "as", "a", "passer-by", ",", "and", "hence", "is", "definitely", "no", "person", "of", "interest", "even", "if", "this", "person", "is", "speaking", ".", "In", "addition", "to", "the", "attention", "system", "described", "so", "far", ",", "which", "enables", "the", "robot", "to", "detect", "the", "person", "of", "interest", "and", "to", "maintain", "its", "attention", "during", "interaction", ",", "the", "robot", "decides", "whether", "the", "person", "of", "interest", "is", "addressing", "the", "robot", "and", ",", "therefore", ",", "is", "considered", "as", "communication", "partner", ".", "This", "decision", "is", "based", "on", "the", "orientation", "of", "the", "person", "'s", "head", ",", "as", "it", "is", "assumed", "that", "humans", "face", "their", "addressees", "for", "most", "of", "the", "time", "while", "they", "are", "talking", "to", "them", ".", "Whether", "a", "tracked", "person", "faces", "the", "robot", "or", "not", "is", "derived", "from", "the", "face", "recognition", "system", ".", "If", "the", "face", "of", "the", "person", "of", "interest", "is", "detected", "for", "more", "than", "20", "%", "of", "the", "time", "the", "person", "is", "speaking", ",", "this", "person", "is", "considered", "to", "be", "the", "communication", "partner", ".", "A", "sample", "behavior", "of", "the", "robot", "is", "depicted", "in", "Figure", "8", ".", "In", "order", "to", "analyze", "the", "performance", "of", "the", "proposed", "approach", ",", "we", "present", "results", "from", "three", "different", "types", "of", "evaluation", ".", "At", "first", ",", "we", "study", "the", "accuracy", "of", "sound", "source", "localization", "independently", ".", "The", "second", "part", "deals", "with", "a", "quantitative", "evaluation", "of", "our", "approach", "for", "a", "multi-modal", "attention", "system", ".", "Finally", ",", "qualitative", "results", "from", "a", "performance", "of", "the", "robot", "at", "the", "exhibition", "part", "of", "the", "ICVS", "'03", "are", "presented", ".", "7.1", "Evaluation", "of", "Sound", "Source", "Localization", "The", "objective", "of", "this", "evaluation", "was", "to", "analyze", "the", "accuracy", "of", "locating", "speakers", "with", "a", "pair", "of", "microphones", "using", "the", "method", "described", "in", "section", "5.2", "independently", "from", "the", "multi-modal", "anchoring", "framework", ".", "In", "order", "to", "be", "able", "to", "estimate", "the", "arrival", "angle", "relative", "to", "the", "microphones", ",", "the", "setup", "for", "the", "experiment", "was", "arranged", "such", "that", "the", "sound", "source", "-LRB-", "mouth", "of", "the", "speaker", "-RRB-", "was", "always", "at", "the", "same", "height", "as", "the", "microphones", ".", "Therefore", ",", "the", "simplified", "geometric", "model", "mentioned", "in", "section", "5.2", "can", "be", "used", ".", "The", "experiments", "were", "carried", "out", "with", "five", "subjects", ".", "Every", "subject", "was", "positioned", "at", "six", "different", "angles", "-LRB-", ",", ",", ",", ",", ",", "and", "-RRB-", ",", "and", "at", "two", "different", "distances", "-LRB-", "100", "cm", "and", "200", "cm", "-RRB-", ",", "respectively", ",", "resulting", "in", "12", "positions", "altogether", ".", "At", "every", "position", "a", "subject", "had", "to", "read", "out", "one", "specific", "sentence", "which", "took", "about", "8", "seconds", ".", "During", "every", "utterance", "the", "position", "of", "the", "speaker", "was", "calculated", "every", "50", "ms.", "Based", "on", "the", "angles", "estimated", "by", "our", "localization", "algorithm", "we", "calculated", "the", "mean", "angle", "and", "the", "variance", "for", "every", "speaker", ".", "It", "is", "important", "to", "note", ",", "that", "in", "our", "setup", "it", "is", "almost", "impossible", "to", "position", "the", "test", "speaker", "accurately", "on", "the", "target", "angle", ".", "For", "this", "reason", ",", "Distance", "between", "speaker", "and", "robot", "Angle", "100", "cm", "200", "cm", "0", "-0.9", "0.56", "-0.3", "0.81", "10", "9.1", "0.34", "9.2", "0.37", "20", "18.9", "0.21", "19.3", "0.27", "40", "38.2", "0.50", "38.8", "0.22", "60", "57.7", "0.40", "57.5", "0.64", "80", "74.0", "2.62", "73.3", "2.18", "Table", "1", ":", "Averaged", "estimated", "speaker", "positions", "and", "averaged", "variances", "for", "the", "acoustic", "speaker", "localization", ".", "we", "used", "the", "mean", "estimated", "angle", "for", "every", "speaker", "instead", "of", "the", "target", "angle", "to", "calculate", "the", "variance", ".", "Following", "the", "calculation", "of", "mean", "angle", "and", "variance", "for", "every", "speaker", "we", "averaged", "for", "every", "position", "the", "mean", "angle", "and", "the", "variance", "across", "all", "speakers", ".", "Table", "1", "shows", "the", "results", "of", "our", "experiments", ".", "First", ",", "the", "results", "suggest", "that", "the", "robot", "was", "not", "correctly", "aligned", ",", "because", "especially", "for", "small", "angles", "-LRB-", "0", "to", "20", "-RRB-", "the", "averaged", "angle", "differs", "constantly", "from", "the", "target", "angle", "about", "1", ".", "Under", "this", "justifiable", "assumption", "the", "speaker", "localization", "works", "very", "well", "for", "angles", "between", "0", "and", "40", ".", "The", "estimated", "angle", "is", "nearly", "equivalent", "to", "the", "actual", "angle", "and", "the", "variance", "is", "also", "very", "low", ".", "Furthermore", ",", "the", "acoustic", "position", "estimation", "works", "equally", "well", "for", "100", "cm", "and", "for", "200", "cm", ".", "For", "angles", "greater", "than", "40", "the", "difference", "between", "estimated", "angle", "and", "target", "angle", "as", "well", "as", "the", "variance", "increases", ".", "This", "means", "that", "the", "accuracy", "of", "the", "acoustic", "position", "estimation", "decreases", "with", "an", "increasing", "target", "angle", ".", "The", "main", "reason", "for", "this", "behavior", "is", "the", "directional", "characteristic", "of", "the", "microphones", ".", "However", ",", "the", "evaluation", "has", "shown", "that", "the", "time", "delay", "estimation", "works", "reasonably", "well", ".", "Thus", "the", "sound", "source", "localization", "provides", "important", "information", "for", "the", "detection", "and", "localization", "of", "the", "current", "person", "of", "interest", ".", "7.2", "Evaluation", "of", "the", "Attention", "System", "The", "objective", "of", "this", "evaluation", "was", "to", "analyze", "the", "performance", "of", "the", "attention", "system", "presented", "in", "this", "paper", ".", "On", "the", "one", "hand", ",", "the", "capability", "of", "the", "robot", "to", "successfully", "shift", "its", "attention", "on", "the", "speaker", ",", "and", "to", "recognize", "when", "it", "was", "addressed", "was", "investigated", ".", "On", "the", "other", "hand", ",", "details", "about", "the", "perceptual", "sub-systems", "were", "of", "interest", ".", "The", "experiment", "was", "carried", "out", "in", "an", "office", "room", "-LRB-", "Fig.", "9", "-RRB-", ".", "Four", "persons", "were", "standing", "around", "the", "robot", "at", "designated", "positions", ".", "In", "reference", "to", "the", "local", "coordinate", "system", "of", "the", "robot", ",", "person", "was", "located", "at", "a", "distance", "of", "cm", "and", "an", "angle", "of", ",", "where", "is", "defined", "as", "the", "direction", "ahead", "of", "the", "robot", ".", "Person", "was", "located", "at", "cm", ",", "person", "at", "cm", ",", "and", "person", "at", "cm", ".", "The", "subjects", "were", "asked", "to", "speak", "for", "about", "10", "seconds", ",", "one", "after", "another", ".", "They", "had", "to", "either", "address", "the", "robot", "or", "one", "of", "the", "other", "persons", "by", "turning", "their", "heads", "into", "the", "corresponding", "direction", ".", "There", "were", "no", "restrictions", "on", "how", "to", "stand", ".", "The", "order", "in", "which", "the", "persons", "were", "speaking", "was", "predetermined", "-LRB-", "see", "Table", "2", "-RRB-", ".", "The", "experiment", "was", "carried", "out", "three", "times", "with", "nine", "different", "subjects", "altogether", ".", "The", "following", "results", "were", "achieved", ":", "The", "attention", "system", "was", "always", "able", "to", "determine", "the", "correct", "person", "of", "interest", "within", "the", "time", "the", "person", "was", "speaking", ".", "However", ",", "in", "some", "situations", "either", "the", "reference", "to", "the", "33", "P2", "R", "P3", "P4", "P1", "Figure", "9", ":", "Setup", "for", "the", "evaluation", "of", "the", "attention", "system", ".", "Person", "Step", "1", "2", "3", "4", "5", "6", "7", "8", "9", "11", "12", "10", "P", "4", "P", "3", "P", "2", "P", "1", "Table", "2", ":", "Order", "in", "which", "the", "persons", "were", "speaking", ",", "either", "to", "the", "robot", "-LRB-", "steps", "1", "4", "and", "9", "12", "-RRB-", "or", "to", "another", "person", "-LRB-", "steps", "5", "8", "-RRB-", ".", "last", "person", "of", "interest", "was", "sustained", "too", "long", "or", "an", "incorrect", "person", "of", "interest", "was", "selected", "intermediately", ".", "A", "diagram", "of", "the", "robot", "'s", "focus", "of", "attention", "is", "shown", "in", "Figure", "10", ".", "The", "erroneous", "behavior", "occurred", "in", "4", "of", "the", "36", "time", "slices", ":", "In", "these", "cases", ",", "the", "robot", "shifted", "its", "attention", "to", "a", "person", "which", "was", "currently", "not", "speaking", "-LRB-", "see", "column", "5", "in", "all", "experiments", "and", "column", "4", "in", "the", "last", "experiment", "in", "Fig.", "10", "-RRB-", ".", "Note", "that", "in", "all", "failure", "cases", "person", ",", "which", "was", "located", "in", "front", "of", "the", "robot", ",", "was", "selected", "as", "person", "of", "interest", ".", "In", "addition", ",", "there", "were", "two", "shifts", "which", "were", "correct", "but", "had", "a", "very", "long", "delay", "-LRB-", "eighth", "time", "slice", "of", "the", "first", "and", "the", "third", "experiment", "-RRB-", ".", "Again", ",", "the", "person", "in", "front", "of", "the", "robot", "-LRB-", "-RRB-", "was", "involved", ".", "All", "errors", "occurred", "because", "a", "sound", "source", "was", "located", "in", "the", "direction", "of", ",", "although", "person", "was", "not", "speaking", ".", "This", "can", "be", "explained", "with", "the", "noise", "of", "the", "robot", "itself", ",", "which", "is", "interpreted", "as", "a", "sound", "source", "in", "the", "corresponding", "direction", ".", "This", "error", "could", "be", "suppressed", "using", "voice", "activity", "detection", ",", "which", "distinguishes", "speech", "from", "noise", ".", "This", "will", "be", "part", "of", "our", "future", "work", ".", "As", "the", "diagram", "in", "Fig.", "10", "shows", ",", "every", "shift", "of", "attention", "had", "a", "delay", "of", "approximately", "2", "seconds", ".", "This", "results", "from", "the", "anchoring", "framework", ":", "The", "anchor", "for", "the", "sound", "source", "is", "removed", "after", "a", "period", "of", "2", "seconds", "with", "no", "new", "assigned", "percepts", ".", "Now", ",", "if", "another", "person", "is", "talking", "it", "becomes", "the", "person", "of", "interest", ".", "The", "decision", "whether", "the", "current", "person", "of", "interest", "was", "addressing", "the", "robot", "or", "not", "was", "made", "as", "described", "in", "section", "6", ".", "It", "was", "correct", "for", "all", "persons", "in", "all", "runs", ".", "This", "means", "that", "the", "robot", "always", "determined", "himself", "as", "addressee", "in", "steps", "1", "4", "and", "9", "12", ",", "and", "never", "in", "steps", "5", "8", ".", "These", "results", "prove", "that", "the", "presented", "approach", "for", "a", "multi-modal", "attention", "system", "on", "a", "mobile", "robot", "is", "capable", "to", "identify", "communication", "partners", "successfully", ".", "P", "1", "P", "3", "P", "4", "P", "2", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "1st", "P", "1", "P", "2", "P", "3", "P", "4", "3rd", "P", "1", "P", "2", "P", "3", "P", "4", "2nd", "Figure", "10", ":", "Diagram", "for", "the", "three", "runs", "of", "the", "experiment", ".", "Every", "person", "is", "assigned", "a", "track", "-LRB-", "light-gray", "-RRB-", "which", "is", "shaded", "while", "the", "person", "was", "speaking", ".", "The", "solid", "line", "shows", "which", "person", "was", "in", "focus", "of", "the", "robot", "'s", "attention", ".", "In", "addition", "the", "following", "measurements", "concerning", "the", "anchoring", "framework", "were", "extracted", "during", "the", "experiments", ":", "The", "attention", "system", "and", "the", "face", "recognition", "were", "running", "on", "one", "PC", "-LRB-", "Pentium", "III", ",", "500", "MHz", "-RRB-", ",", "while", "the", "sound", "source", "localization", "and", "the", "robot", "control", "software", "were", "running", "on", "the", "other", "PC", "-LRB-", "Pentium", "III", ",", "850", "MHz", "-RRB-", ".", "Face", "recognition", "was", "performed", "on", "images", "of", "a", "size", "of", "at", "a", "rate", "of", "9.6", "Hz", ".", "Localization", "of", "sound", "sources", "was", "running", "at", "a", "rate", "of", "5.5", "Hz", ".", "The", "laser", "range", "finder", "provided", "new", "data", "at", "a", "rate", "of", "4.7", "Hz", "while", "the", "processing", "time", "for", "the", "detection", "of", "legs", "was", "negligible", ".", "The", "anchoring", "processes", "of", "the", "persons", "which", "were", "currently", "speaking", "to", "the", "robot", "were", "updated", "with", "percepts", "at", "a", "rate", "of", "15.4", "Hz", ".", "Face", "percepts", "were", "assigned", "to", "the", "corresponding", "anchor", "at", "71.4", "%", "of", "the", "time", ".", "Note", ",", "that", "after", "a", "new", "person", "of", "interest", "is", "selected", "it", "takes", "up", "to", "approximately", "1", "second", "until", "the", "camera", "is", "turned", "and", "the", "person", "is", "in", "the", "field", "of", "view", ".", "During", "this", "time", ",", "no", "face", "percept", "for", "the", "person", "of", "interest", "can", "be", "generated", ".", "Sound", "percepts", "were", "assigned", "at", "69.5", "%", "of", "the", "time", ",", "and", "leg", "percepts", "at", "99.9", "%", "of", "the", "time", ".", "The", "multi-modal", "anchoring", "framework", "was", "able", "to", "quantify", "the", "body", "heights", "of", "all", "subjects", "with", "an", "accuracy", "of", "at", "least", "5", "cm", ",", "which", "was", "sufficient", "to", "precisely", "locate", "sound", "sources", "in", "3D", "-LRB-", "see", "section", "5.2", "-RRB-", ".", "7.3", "Performance", "at", "an", "Exhibition", "In", "the", "beginning", "of", "April", "2003", "our", "robot", "was", "presented", "at", "the", "exhibition", "part", "of", "the", "International", "Conference", "on", "Computer", "Vision", "Systems", "-LRB-", "ICVS", "-RRB-", "in", "Graz", ".", "There", "we", "were", "able", "to", "demonstrate", "the", "robot", "'s", "capabilities", "in", "multi-modal", "person", "tracking", ",", "and", "also", "in", "following", "people", ".", "BIRON", "was", "continuously", "running", "without", "any", "problems", ".", "On", "the", "two", "exhibition", "days", ",", "the", "robot", "was", "running", "9:20", "hours", "and", "6:30", "hours", ",", "respectively", ",", "tracking", "about", "2240", "persons", "on", "the", "first", "day", ",", "and", "about", "1400", "persons", "on", "the", "second", "day", ".", "The", "large", "amount", "of", "persons", "tracked", "results", "from", "the", "following", "condition", ":", "Every", "person", "which", "came", "in", "the", "vicinity", "of", "the", "robot", "was", "counted", "once", ".", "However", ",", "if", "a", "person", "left", "the", "observed", "area", "and", "came", "back", "later", ",", "it", "was", "counted", "again", "as", "a", "new", "person", ".", "Since", "the", "coffee", "breaks", "of", "the", "conference", "took", "place", "in", "the", "exhibition", "room", ",", "there", "were", "extremely", "busy", "phases", ".", "Even", "then", ",", "the", "robot", "was", "able", "to", "track", "up", "to", "10", "persons", "simultaneously", ".", "Despite", "the", "high", "noise", "level", ",", "the", "sound", "source", "localization", "worked", "reliably", ",", "even", "though", "it", "was", "necessary", "to", "talk", "slightly", "louder", "to", "attract", "the", "robot", "'s", "attention", ".", "34", "In", "this", "paper", "we", "presented", "a", "multi-modal", "attention", "system", "for", "a", "mobile", "robot", ".", "The", "system", "is", "able", "to", "observe", "several", "persons", "in", "the", "vicinity", "of", "the", "robot", "and", "to", "decide", "based", "on", "a", "combination", "of", "acoustic", "and", "visual", "cues", "whether", "one", "of", "these", "is", "willing", "to", "engage", "in", "a", "communication", "with", "the", "robot", ".", "This", "attentional", "behavior", "is", "realized", "by", "combining", "an", "approach", "for", "multi-modal", "person", "tracking", "with", "the", "localization", "of", "sound", "sources", "and", "the", "detection", "of", "head", "orientation", "derived", "from", "a", "face", "recognition", "system", ".", "Note", "that", "due", "to", "the", "integration", "of", "cues", "from", "multiple", "modalities", "it", "is", "possible", "to", "verify", "the", "position", "of", "a", "speech", "source", "in", "3D", "space", "using", "a", "single", "pair", "of", "microphones", "only", ".", "Persons", "that", "are", "observed", "by", "the", "robot", "and", "are", "also", "talking", "are", "considered", "persons", "of", "interest", ".", "If", "a", "person", "of", "interest", "is", "also", "facing", "the", "robot", "it", "will", "become", "the", "current", "communication", "partner", ".", "Otherwise", "the", "robot", "assumes", "that", "the", "speech", "was", "addressed", "to", "another", "person", "present", ".", "The", "performance", "of", "our", "approach", "and", "its", "robustness", "even", "in", "real", "world", "situations", "were", "demonstrated", "by", "quantitative", "evaluations", "in", "our", "lab", "and", "a", "qualitative", "evaluation", "during", "the", "exhibition", "of", "the", "mobile", "robot", "system", "at", "the", "ICVS", "'", "03", ".", "This", "work", "has", "been", "supported", "by", "the", "German", "Research", "Foundation", "within", "the", "Collaborative", "Research", "Center", "`", "Situated", "Artificial", "Communicators", "'", "and", "the", "Graduate", "Programs", "`", "Task", "Oriented", "Com-munication", "'", "and", "`", "Strategies", "and", "Optimization", "of", "Behavior", "'", ".", "-LSB-", "1", "-RSB-", "M.", "Andersson", ",", "A.", "Oreb", "ack", ",", "M.", "Lindstrom", ",", "and", "H.", "I.", "Christensen", ".", "ISR", ":", "An", "intelligent", "service", "robot", ".", "In", "H.", "I.", "Christensen", ",", "H.", "Bunke", ",", "and", "H.", "Noltmeier", ",", "editors", ",", "Sensor", "Based", "Intelligent", "Robots", ";", "International", "Workshop", "Dagstuhl", "Castle", ",", "Germany", ",", "September/October", "1998", ",", "Selected", "Papers", ",", "volume", "1724", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "287", "310", ".", "Springer", ",", "New", "York", ",", "1999", ".", "-LSB-", "2", "-RSB-", "B.", "Berdugo", ",", "J.", "Rosenhouse", ",", "and", "H.", "Azhari", ".", "Speakers", "'", "direction", "finding", "using", "estimated", "time", "delays", "in", "the", "frequency", "domain", ".", "Signal", "Processing", ",", "82:19", "30", ",", "2002", ".", "-LSB-", "3", "-RSB-", "W.", "Burgard", ",", "A.", "B.", "Cremers", ",", "D.", "Fox", ",", "D.", "H", "ahnel", ",", "G.", "Lakemeyer", ",", "D.", "Schulz", ",", "W.", "Steiner", ",", "and", "S.", "Thrun", ".", "The", "interactive", "museum", "tour-guide", "robot", ".", "In", "Proc", ".", "Nat", ".", "Conf", ".", "on", "Artificial", "Intelligence", "-LRB-", "AAAI", "-RRB-", ",", "pages", "11", "18", ",", "Madison", ",", "Wisconsin", ",", "1998", ".", "-LSB-", "4", "-RSB-", "S.", "Coradeschi", "and", "A.", "Saffiotti", ".", "Perceptual", "anchoring", "of", "symbols", "for", "action", ".", "In", "Proc", ".", "Int", ".", "Conf", ".", "on", "Artificial", "Intelligence", ",", "pages", "407", "412", ",", "Seattle", ",", "WA", ",", "2001", ".", "-LSB-", "5", "-RSB-", "Y.", "Freund", "and", "R.", "E.", "Shapire", ".", "A", "decision-theoretic", "generalization", "of", "on-line", "learning", "and", "an", "application", "to", "boosting", ".", "Computational", "Learning", "Theory", ":", "Eurocolt", "'", "95", ",", "pages", "23", "27", ",", "1995", ".", "-LSB-", "6", "-RSB-", "J.", "Fritsch", ",", "M.", "Kleinehagenbrock", ",", "S.", "Lang", ",", "T.", "Pl", "otz", ",", "G.", "A.", "Fink", ",", "and", "G.", "Sagerer", ".", "Multi-modal", "anchoring", "for", "human-robot-interaction", ".", "Robotics", "and", "Autonomous", "Systems", ",", "Special", "issue", "on", "Anchoring", "Symbols", "to", "Sensor", "Data", "in", "Single", "and", "Multiple", "Robot", "Systems", ",", "43", "-LRB-", "2", "3", "-RRB-", ":", "133", "147", ",", "2003", ".", "-LSB-", "7", "-RSB-", "J.", "Fritsch", ",", "S.", "Lang", ",", "M.", "Kleinehagenbrock", ",", "G.", "A.", "Fink", ",", "and", "G.", "Sagerer", ".", "Improving", "adaptive", "skin", "color", "segmentation", "by", "incorporating", "results", "from", "face", "detection", ".", "In", "Proc", ".", "IEEE", "Int", ".", "Workshop", "on", "Robot", "and", "Human", "Interactive", "Communication", "-LRB-", "ROMAN", "-RRB-", ",", "pages", "337", "343", ",", "Berlin", ",", "Germany", ",", "2002", ".", "-LSB-", "8", "-RSB-", "D.", "Giuliani", ",", "M.", "Omologo", ",", "and", "P.", "Svaizer", ".", "Talker", "localization", "and", "speech", "recognition", "using", "a", "microphone", "array", "and", "a", "cross-powerspectrum", "phase", "analysis", ".", "In", "Proc", ".", "Int", ".", "Conf", ".", "on", "Spoken", "Language", "Processing", ",", "volume", "3", ",", "pages", "1243", "1246", ",", "Yokohama", ",", "Japan", ",", "1994", ".", "-LSB-", "9", "-RSB-", "E.", "Hjelm", "as", "and", "B.", "K.", "Low", ".", "Face", "detection", ":", "A", "survey", ".", "Computer", "Vision", "and", "Image", "Understanding", ",", "83", "-LRB-", "3", "-RRB-", ":", "236", "274", ",", "2001", ".", "-LSB-", "10", "-RSB-", "Y.", "Huang", ",", "J.", "Benesty", ",", "G.", "W.", "Elko", ",", "and", "R.", "M.", "Mersereau", ".", "Real-time", "passiv", "source", "localization", ":", "A", "practical", "linear-correction", "least-square", "approach", ".", "IEEE", "Trans", ".", "on", "Speech", "and", "Audio", "Processing", ",", "9", "-LRB-", "8", "-RRB-", ":", "943", "956", ",", "2001", ".", "-LSB-", "11", "-RSB-", "C.", "H.", "Knapp", "and", "G.", "C.", "Carter", ".", "The", "generalized", "correlation", "method", "for", "estimation", "of", "time", "delay", ".", "IEEE", "Trans", ".", "on", "Acoustics", ",", "Speech", "and", "Signal", "Processing", ",", "ASSP-24", "-LRB-", "4", "-RRB-", ":", "320", "327", ",", "1976", ".", "-LSB-", "12", "-RSB-", "Y.", "Matsusaka", ",", "S.", "Fujie", ",", "and", "T.", "Kobayashi", ".", "Modeling", "of", "conversational", "strategy", "for", "the", "robot", "participating", "in", "the", "group", "conversation", ".", "In", "Proc", ".", "European", "Conf", ".", "on", "Speech", "Communication", "and", "Technology", ",", "pages", "2173", "2176", ",", "Aalborg", ",", "Denmark", ",", "2001", ".", "-LSB-", "13", "-RSB-", "H.", "G.", "Okuno", ",", "K.", "Nakadai", ",", "and", "H.", "Kitano", ".", "Social", "interaction", "of", "humanoid", "robot", "based", "on", "audio-visual", "tracking", ".", "In", "Proc", ".", "Int", ".", "Conf", ".", "on", "Industrial", "and", "Engineering", "Applications", "of", "Artificial", "Intelligence", "and", "Expert", "Systems", ",", "Cairns", ",", "Australia", ",", "2002", ".", "-LSB-", "14", "-RSB-", "V.", "Pavlovi", "c", ",", "A.", "Garg", ",", "J.", "Rehg", ",", "and", "T.", "Huang", ".", "Multimodal", "speaker", "detection", "using", "error", "feedback", "dynamic", "bayesian", "networks", ".", "In", "Proc", ".", "Int", ".", "Conf", ".", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "pages", "34", "43", ",", "Los", "Alamitos", ",", "CA", ",", "2000", ".", "-LSB-", "15", "-RSB-", "H.", "Rowley", ",", "S.", "Baluja", ",", "and", "T.", "Kanade", ".", "Neural", "network-based", "face", "detection", ".", "IEEE", "Trans", ".", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "20", "-LRB-", "1", "-RRB-", ":", "23", "38", ",", "1998", ".", "-LSB-", "16", "-RSB-", "R.", "D.", "Schraft", ",", "B.", "Graf", ",", "A.", "Traub", ",", "and", "D.", "John", ".", "A", "mobile", "robot", "platform", "for", "assistance", "and", "entertainment", ".", "Industrial", "Robot", ",", "28", "-LRB-", "1", "-RRB-", ":", "29", "34", ",", "2001", ".", "-LSB-", "17", "-RSB-", "D.", "Schulz", ",", "W.", "Burgard", ",", "D.", "Fox", ",", "and", "A.", "B.", "Cremers", ".", "Tracking", "multiple", "moving", "objects", "with", "a", "mobile", "robot", ".", "In", "Proc", ".", "Int", ".", "Conf", ".", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "volume", "1", ",", "pages", "371", "377", ",", "Kauwai", ",", "Hawaii", ",", "2001", ".", "-LSB-", "18", "-RSB-", "R.", "Stiefelhagen", ",", "J.", "Yang", ",", "and", "A.", "Waibel", ".", "Estimating", "focus", "of", "attention", "based", "on", "gaze", "and", "sound", ".", "In", "Workshop", "on", "Perceptive", "User", "Interfaces", ",", "Orlando", ",", "FL", ",", "2001", ".", "-LSB-", "19", "-RSB-", "M.", "Turk", "and", "A.", "Pentland", ".", "Eigenfaces", "for", "recognition", ".", "Journal", "of", "Cognitive", "Neuro", "Science", ",", "3", "-LRB-", "1", "-RRB-", ":", "71", "86", ",", "1991", ".", "-LSB-", "20", "-RSB-", "P.", "Viola", "and", "M.", "Jones", ".", "Robust", "real-time", "object", "detection", ".", "In", "Proc", ".", "IEEE", "Int", ".", "Workshop", "on", "Statistical", "and", "Computational", "Theories", "of", "Vision", ",", "Vancouver", ",", "Canada", ",", "2001", ".", "-LSB-", "21", "-RSB-", "J.", "Yang", "and", "A.", "Waibel", ".", "A", "real-time", "face", "tracker", ".", "In", "Proc", ".", "IEEE", "Workshop", "on", "Applications", "of", "Computer", "Vision", ",", "pages", "142", "147", ",", "Sarasota", ",", "Florida", ",", "1996", ".", "-LSB-", "22", "-RSB-", "M.", "H.", "Yang", ",", "D.", "J.", "Kriegman", ",", "and", "N.", "Ahuja", ".", "Detecting", "faces", "in", "images", ":", "A", "survey", ".", "IEEE", "Trans", ".", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "24", "-LRB-", "1", "-RRB-", ":", "34", "58", ",", "2002", ".", "-LSB-", "23", "-RSB-", "A.", "L.", "Yuille", ",", "P.", "W.", "Hallinan", ",", "and", "D.", "S.", "Cohen", ".", "Feature", "extraction", "from", "faces", "using", "deformable", "templates", ".", "Int", ".", "Journal", "of", "Computer", "Vision", ",", "8", "-LRB-", "2", "-RRB-", ":", "99", "111", ",", "1992", ".", "-LSB-", "24", "-RSB-", "Z.", "Zhang", ",", "L.", "Zhu", ",", "S.", "Z.", "Li", ",", "and", "H.", "Zhang", ".", "Real-time", "multi-view", "face", "detection", ".", "In", "Proc", ".", "Int", ".", "Conf", ".", "on", "Automatic", "Face", "and", "Gesture", "Recognition", ",", "Washington", ",", "DC", ",", "2002", ".", "35"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["attention"], "abstractive_keyphrases": ["human-robot-interaction", "multi-modal person tracking"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "190", "document": ["The", "\u03c4", "Model", ",", "Formalizing", "Topic", "Maps", "This", "paper", "presents", "a", "formalization", "for", "Topic", "Maps", "-LRB-", "TM", "-RRB-", ".", "We", "first", "simplify", "TMRM", ",", "the", "current", "ISO", "standard", "proposal", "for", "a", "TM", "reference", "model", "and", "then", "characterize", "topic", "map", "instances", ".", "After", "defining", "a", "minimal", "merging", "operator", "for", "maps", "we", "propose", "a", "formal", "foundation", "for", "a", "TM", "query", "language", ".", "This", "path", "expression", "language", "allows", "us", "to", "navigate", "through", "given", "topic", "maps", "and", "to", "extract", "information", ".", "We", "also", "show", "how", "such", "a", "language", "can", "be", "the", "basis", "for", "a", "more", "industrial", "version", "of", "a", "query", "language", "and", "how", "it", "may", "serve", "as", "foundation", "for", "a", "constraint", "language", "to", "define", "TM-based", "ontologies", ".", "Topic", "Maps", "-LRB-", "TM", "-LRB-", "Pepper", "1999", "-RRB-", "-RRB-", ",", "a", "knowledge", "representation", "technology", "alternative", "to", "RDF", "-LRB-", "O.", "Lassila", "and", "K.", "Swick", "1993", "-RRB-", ",", "have", "seen", "some", "industrial", "adoption", "since", "2001", ".", "Concurrently", ",", "the", "TM", "community", "is", "taking", "various", "efforts", "to", "define", "a", "more", "fundamental", ",", "more", "formal", "model", "to", "capture", "the", "essence", "of", "what", "Topic", "Maps", "are", "-LRB-", "Newcomb", ",", "Hunting", ",", "Algermissen", "&", "Durusau", "2003", ",", "Kipp", "2003", ",", "Garshol", "2004-07-22", ",", "Bogachev", "n.d.", "-RRB-", ".", "While", "the", "degree", "of", "formality", "and", "the", "extent", "of", "TM", "machinery", "varies", ",", "all", "models", "tend", "to", "abstract", "away", "from", "the", "sets", "of", "concepts", "defined", "in", "-LRB-", "Pepper", "2000", "-RRB-", "and", "use", "assertions", "-LRB-", "and", "topics", "-RRB-", "as", "their", "primitives", ".", "After", "giving", "an", "overview", "over", "the", "current", "state", "of", "affairs", ",", "we", "start", "with", "an", "attempt", "to", "conceptually", "simplify", "the", "TMRM", "-LRB-", "Newcomb", "et", "al.", "2003", "-RRB-", "model", ".", "From", "that", ",", "a", "mathematically", "more", "rigorous", "formalization", "of", "TMs", "follows", "in", "section", "4", ".", "Based", "on", "maps", "and", "elementary", "map", "composition", "we", "define", "a", "path", "expression", "language", "using", "a", "postfix", "notation", ".", "While", "low-level", ",", "it", "forms", "the", "basis", "for", "querying", "and", "constraining", "topic", "maps", "as", "we", "point", "out", "in", "section", "6", ".", "The", "last", "section", "closes", "with", "future", "research", "directions", ".", "Historically", ",", "Topic", "Maps", ",", "being", "a", "relatively", "new", "technology", ",", "had", "some", "deficits", "in", "rigor", "in", "terms", "of", "a", "defining", "model", ".", "This", "may", "be", "due", "to", "the", "fact", "that", "it", "was", "more", "rho@bond.edu.au", "salzer@logic.at", "Copyright", "c", "2005", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "Second", "Asia-Pacific", "Conference", "on", "Conceptual", "Modelling", "-LRB-", "APCCM2005", "-RRB-", ",", "University", "of", "Newcastle", ",", "Newcastle", ",", "Australia", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "43", ".", "Sven", "Hartmann", "and", "Markus", "Stumptner", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "per-mitted", "provided", "this", "text", "is", "included", ".", "endorsed", "by", "industrial", "players", "than", "by", "the", "academic", "community", ".", "Paradoxically", ",", "the", "standardization", "efforts", "started", "out", "with", "the", "syntax", "-LRB-", "XTM", "-RRB-", "with", "only", "little", ",", "informal", "description", "of", "the", "individual", "constructs", ".", "TMDM", "-LRB-", "formerly", "known", "as", "SAM", "-RRB-", "was", "supposed", "to", "fill", "this", "role", "by", "precisely", "defining", "how", "XTM", "instances", "are", "to", "be", "deserialized", "into", "a", "data", "structure", ".", "This", "is", "done", "by", "mapping", "the", "syntax", "into", "an", "infoset", "model", "-LRB-", "comparable", "to", "DOM", "-RRB-", "whereby", "UML", "diagrams", "help", "to", "illustrate", "the", "intended", "structure", "as", "well", "as", "the", "constraints", "put", "on", "it", ".", "While", "such", "an", "approach", "to", "model", "definition", "has", "a", "certain", "appeal", "for", "-LRB-", "Java", "-RRB-", "developers", ",", "its", "given", "complexity", "puts", "it", "well", "outside", "the", "reach", "for", "a", "more", "mathematical", "formalization", ".", "In", "parallel", "a", "fraction", "within", "the", "TM", "community", "ar-gued", "that", "the", "TM", "paradigm", "can", "be", "interpreted", "on", "a", "much", "more", "fundamental", "level", "if", "one", "considers", "assertions", "as", "the", "basic", "building", "blocks", ",", "abstracting", "from", "the", "TAO-level", "which", "mainly", "sees", "topics", "with", "their", "names", ",", "occurrences", "and", "involvements", "in", "associations", ".", "This", "group", "has", "developed", "several", "generations", "of", "the", "TMRM", "-LRB-", "Newcomb", "et", "al.", "2003", "-RRB-", ",", "the", "reference", "model", ".", "The", "model", "therein", "is", "mainly", "based", "on", "graph", "theory", "mixed", "with", "informal", "descriptions", "of", "constraints", "which", "cover", "the", "resolution", "of", "subject", "identity", ".", "Several", "attempts", "to", "suggest", "an", "alternative", "founda-tional", "model", "-LRB-", "Garshol", "2004-07-22", ",", "Bogachev", "n.d.", "-RRB-", "or", "to", "formalize", "TMRM", "have", "been", "made", ".", "-LRB-", "Kipp", "2003", "-RRB-", "is", "successfully", "using", "a", "purely", "set-theoretic", "approach", "to", "define", "topic", "map", "instances", ".", "As", "all", "TMRM", "concepts", "have", "been", "faithfully", "included", ",", "this", "resulted", "in", "a", "significant", "set", "of", "constraints", "to", "be", "used", "when", "reasoning", "about", "map", "instances", ".", "The", "contribution", "of", "this", "paper", "we", "see", "threefold", ":", "Firstly", ",", "we", "believe", "that", "TMRM", "can", "be", "reasonably", "simplified", "without", "any", "loss", "of", "generality", "by", "the", "steps", "outlined", "in", "section", "3", ".", "This", "is", "under", "the", "assumption", "that", "all", "questions", "of", "subject", "identity", "are", "handled", "outside", "the", "model", ".", "Secondly", ",", "the", "assertion", "model", "seems", "to", "be", "general", "enough", "to", "host", "conceptually", "not", "only", "TMRM", ",", "but", "also", "serve", "as", "basis", "for", "TMDM", ".", "As", "the", "TM", "community", "now", "moves", "to", "ontology", "definition", "languages", ",", "retrieval", "and", "transformation", "languages", ",", "we", "contend", "that", "the", "path", "language", "which", "is", "based", "on", "the", "model", "can", "serve", "as", "semantic", "fundament", "TMRM", "'s", "main", "building", "blocks", "are", "properties", "which", "are", "attached", "to", "topics", "and", "assertions", "which", "connect", "topics", "in", "various", "ways", ".", "3.1", "Properties", "For", "properties", "TMRM", "distinguishes", "between", "subject", "identifying", "properties", "and", "other", "properties", ".", "The", "for-37", "mer", "can", "be", "stand-alone", "or", "a", "combination", "of", "other", "properties", ";", "they", "control", "--", "for", "a", "given", "application-under", "which", "conditions", "two", "topics", "should", "be", "regarded", "the", "same", ".", "With", "the", "assumption", "that", "all", "identity", "inducing", "constraints", "are", "best", "covered", "by", "a", "proper", "ontology", "language", ",", "we", "drop", "this", "distinction", ".", "Also", "conferred", "properties", "can", "be", "handled", "much", "more", "flexibly", "with", "an", "ontology", "language", ",", "which", "allows", "us", "to", "let", "conferred", "and", "builtin", "properties", "collapse", ".", "We", "abstract", "further", "by", "regarding", "properties", "just", "as", "a", "special", "form", "of", "binary", "assertions", "where", "the", "topic", "plays", "a", "role", "object", "and", "the", "property", "forms", "the", "other", "member", "of", "the", "assertion", ".", "3.2", "Assertions", "A", "TMRM", "assertion", "stands", "for", "a", "statement", "between", "subjects", "whereby", "these", "subjects", "play", "certain", "roles", ".", "Such", "an", "assertion", "consists", "of", "the", "subject", "it", "is", "about", "and", "a", "type", ".", "Additionally", ",", "the", "players", "are", "cast", "into", "their", "respective", "roles", ".", "To", "be", "able", "to", "reify", "the", "fact", "that", "a", "certain", "topic", "plays", "a", "certain", "role", "in", "an", "assertion", ",", "also", "this", "substatement", "is", "represented", "by", "a", "another", "topic", "-LRB-", "casting", "-RRB-", ".", "We", "observe", "that", "any", "type", "information", "for", "an", "assertion", "a", "can", "be", "represented", "by", "a", "second", ",", "dedicated", "assertion", "b", "where", "a", "plays", "the", "instance", "and", "that", "type", "plays", "the", "role", "class", ".", "A", "similar", "consideration", "applies", "to", "casting", "topics", ":", "again", ",", "a", "second", ",", "dedicated", "assertion", "can", "be", "used", "where", "the", "role", ",", "the", "assertion", "and", "the", "player", "are", "playing", "appropriate", "roles", ".", "Scoping", "--", "the", "restriction", "of", "an", "assertion", "to", "a", "certain", "context", "--", "is", "clearly", "a", "statement", "about", "an", "assertion", ",", "so", "we", "can", "represent", "scoping", "relations", "via", "a", "further", "assertion", ",", "one", "which", "connects", "the", "original", "assertion", "with", "the", "scope", "itself", ",", "again", "via", "some", "predefined", "roles", ".", "At", "the", "end", "of", "this", "process", "we", "only", "have", "to", "deal", "with", "assertions", "containing", "role-player", "pairs", ".", "Assertions", "have", "an", "identity", "which", "allows", "us", "to", "use", "them", "in", "other", "assertions", ".", "Topics", "only", "exist", "as", "focal", "points", "and", "have", "no", "explicit", "property", "except", "an", "identifier", ".", "3.3", "Reification", "The", "term", "reification", "has", "a", "long", "tradition", "-LRB-", "Sowa", "2000", "-RRB-", "in", "the", "knowledge", "representation", "community", ".", "It", "has", "changed", "its", "meaning", "over", "the", "years", ",", "but", "it", "is", "usu-ally", "used", "to", "describe", "how", "humans", "form", "concepts", "and", "then", "connect", "them", "with", "the", "`", "real", "world", "'", ".", "To", "fully", "capture", "the", "term", "formally", ",", "we", "would", "have", "to", "adopt", "a", "philosophical", "approach", ",", "something", "which", "we", "prefer", "to", "avoid", "for", "obvious", "reasons", ".", "The", "question", ",", "though", ",", "is", "whether", "any", "formalization", "of", "TMs", "can", "completely", "ignore", "reification", ".", "Whenever", "a", "statement", "S", "is", "about", "another", "assertion", "A", "then", "one", "of", "two", "things", "could", "be", "intended", "by", "the", "author", ":", "either", "-LRB-", "a", "-RRB-", "S", "is", "a", "statement", "about", "the", "relationship", "in", "the", "`", "real", "world", "'", "A", "is", "supposed", "to", "represent", ".", "As", "an", "example", "consider", "that", "A", "is", "about", "an", "employment", "of", "a", "person", "within", "an", "organisation", "and", "that", "we", "want", "to", "qualify", "in", "such", "that", "``", "the", "employment", "only", "started", "in", "year", "2000", "''", ".", "Alternatively", "-LRB-", "b", "-RRB-", ",", "a", "statement", "can", "be", "about", "the", "assertion", "within", "the", "map", "itself", ",", "such", "as", "``", "this", "assertion", "was", "commented", "on", "by", "user", "X", "''", ".", "In", "the", "latter", "case", "we", "treat", "A", "as", "if", "it", "were", "in", "the", "`", "real", "world", "'", "-LRB-", "inverting", "somehow", "the", "notion", "of", "reification", "by", "pulling", "something", "abstract", "from", "a", "concept", "space", "and", "making", "it", "`", "real", "'", "-RRB-", ".", "Our", "--", "pragmatic", "--", "approach", "is", "that", "this", "distinction", "can", "-LRB-", "and", "should", "-RRB-", "be", "indicated", "by", "the", "proper", "form", "of", "identifiers", ".", "If", "a", "topic", "is", "supposed", "to", "reify", "a", "real", "world", "concept", ",", "then", "its", "identifier", "should", "be", "a", "URI", "-LRB-", "a", "locator", "or", "a", "name", "-RRB-", ",", "in", "case", "that", "the", "`", "real", "world", "thing", "'", "has", "one", ".", "If", "that", "thing", "is", "a", "topic", "in", "a", "topic", "map", ",", "then", "the", "author", "must", "have", "a", "way", "to", "address", "the", "map", "as", "well", "as", "the", "topic", "within", "it", ".", "If", "a", "direct", "reification", "is", "not", "possible", ",", "then", "the", "topic", "'s", "identifier", "will", "simply", "not", "be", "a", "URI", ".", "Indirect", "identification", "can", "be", "achieved", "via", "subject", "indicators", "attached", "to", "the", "topic", "or", "more", "generally", "speaking", "by", "the", "context", "the", "topic", "is", "in", ".", "For", "assertions", "we", "assume", "that", "they", "--", "as", "a", "whole-implicitly", "reify", "the", "relationship", "they", "describe", ".", "If", "another", "assertion", "makes", "a", "reference", "to", "an", "assertion", "then", "using", "the", "assertion", "'s", "identifier", "may", "thus", "automatically", "cover", "case", "-LRB-", "a", "-RRB-", "above", ".", "Like", "with", "topics", ",", "case", "-LRB-", "b", "-RRB-", "can", "be", "handled", "by", "using", "an", "identifier", "which", "addresses", "the", "map", "and", "then", "the", "assertion", "within", "it", ".", "How", "eventually", "maps", "as", "`", "real", "world", "'", "objects", "are", "to", "be", "addressed", "is", "again", "a", "matter", "how", "identifiers", "are", "formed", ";", "but", "this", "is", "outside", "the", "scope", "of", "our", "model", ".", "In", "this", "section", "we", "first", "prepare", "the", "grounds", "by", "defining", "identifiers", ",", "then", "we", "build", "members", "and", "assertions", "and", "then", "finally", "maps", ".", "For", "presentation", ",", "the", "text", "here", "has", "two", "layers", ",", "one", "for", "the", "formal", "part", "and", "an", "informal", "one", ",", "shaded", "grey", ".", "The", "latter", "is", "to", "justify", "design", "issues", "or", "present", "examples", ".", "4.1", "Identifiers", "The", "set", "of", "identifiers", ",", "I", ",", "contains", "two", "sets", "of", "objects", ":", "names", "and", "literals", ".", "Literals", "may", "be", "numbers", "or", "quoted", "strings", ".", "The", "set", "of", "names", ",", "N", ",", "is", "an", "enu-merable", "collection", "of", "atomic", "objects", ".", "Atomic", "means", "that", "objects", "have", "no", "other", "properties", "than", "being", "dis-tinguishable", "from", "each", "other", ".", "In", "practical", "situations", "names", "may", "be", "strings", "such", "as", "URIs", ".", "They", "also", "may", "be", "more", "complex", "like", "XLink", "or", "even", "HyTime", "pointers", ".", "The", "model", "only", "uses", "the", "property", "that", "they", "are", "distinct", "from", "each", "other", ".", "The", "reason", "we", "chose", "literals", "to", "be", "numbers", "or", "strings", "is", "simply", "one", "of", "convenience", ".", "First", ",", "these", "two", "basic", "data", "types", "are", "the", "most", "frequently", "used", ",", "and", "secondly", ",", "both", "have", "naturally", "defined", "an", "ordering", "a", "b", "on", "which", "we", "can", "later", "base", "sorting", ".", "One", "issue", "with", "selecting", "a", "particular", "set", "of", "primitive", "data", "types", "is", "that", "of", "how", "to", "represent", "others", ",", "like", "composite", "types", "as", "one", "would", "need", "for", ",", "say", ",", "spatial", "coordinates", ".", "We", "see", "two", "approaches", ":", "One", "way", "is", "to", "model", "the", "content", "explicitly", "with", "assertions", "themselves", ".", "The", "other", "option", "can", "be", "used", "if", "the", "structure", "of", "the", "data", "is", "not", "specifically", "relevant", "to", "a", "particular", "application", ",", "but", "has", "to", "be", "kept", "in", "a", "map", "for", "archiving", "purposes", ".", "In", "these", "situations", "data", "can", "be", "serialized", "into", "a", "string", "and", "treated", "as", "such", ".", "Further", "we", "assume", "that", "I", "also", "contains", "a", "small", "set", "of", "predefined", "identifiers", ",", "id", ",", "instance", ",", "class", ",", "subclass", ",", "superclass", ".", "By", "themselves", ",", "they", "are", "not", "special", ".", "We", "only", "single", "them", "out", "to", "be", "able", "to", "define", "additional", "semantics", "later", ".", "4.2", "Members", "and", "Assertions", "As", "we", "are", "mainly", "interested", "in", "expressing", "associative", "relations", ",", "we", "first", "define", "a", "member", "to", "be", "a", "pair", "r", ",", "p", "-LRB-", "N", "I", "-RRB-", ",", "with", "r", "being", "the", "role", "and", "p", "the", "player", "of", "the", "member", ".", "An", "assertion", "a", "is", "a", "finite", "-LRB-", "possibly", "empty", "-RRB-", "set", "of", "members", ".", "The", "set", "of", "all", "assertions", "is", "denoted", "by", "A.", "38", "Assertions", "always", "have", "an", "identity", ".", "It", "is", "a", "function", "id", "-LRB-", "a", "-RRB-", "over", "the", "set", "of", "members", "of", "a", ",", "whereby", "we", "only", "request", "that", "different", "member", "sets", "result", "in", "different", "identities", ".", "Obviously", ",", "assertions", "are", "only", "equal", "if", "they", "have", "identical", "members", ".", "To", "access", "the", "components", "of", "an", "assertion", "a", "we", "define", "the", "set", "roles", "-LRB-", "a", "-RRB-", "=", "-LCB-", "r", "1", ",", "...", ",", "r", "n", "-RCB-", "with", "r", "i", "being", "the", "roles", "in", "the", "individual", "members", "of", "a", ",", "and", "the", "set", "players", "-LRB-", "a", "-RRB-", "=", "-LCB-", "p", "1", ",", "...", ",", "p", "n", "-RCB-", "with", "p", "i", "being", "the", "players", "in", "a.", "Note", "that", "in", "assertions", "players", "are", "not", "grouped", "around", "a", "role", ".", "If", "several", "players", "play", "one", "and", "the", "same", "role", ",", "then", "individual", "members", "have", "to", "exist", "for", "every", "such", "player", ".", "Also", "note", ",", "that", "assertions", "do", "not", "have", "a", "type", "component", ";", "it", "is", "up", "to", "a", "further", "assertion", "to", "establish", "such", "a", "relationship", "whereby", "the", "predefined", "identifiers", "instance", "and", "class", "can", "be", "used", "as", "roles", ".", "The", "base", "model", "does", "not", "impose", "any", "restrictions", "on", "players", "and", "roles", ".", "While", "not", "necessary", "for", "the", "formalism", "itself", ",", "we", "might", "later", "want", "to", "put", "additional", "constraints", "on", "the", "form", "of", "assertions", "to", "only", "meaningful", "combinations", ".", "Examples", "of", "such", "meaningful", "constraints", "are", "``", "there", "may", "be", "only", "one", "player", "for", "a", "particular", "role", "''", "or", "``", "in", "one", "and", "the", "same", "assertion", "a", "particular", "identifier", "can", "not", "be", "used", "as", "role", "and", "as", "player", "''", ":", "a", "A", ",", "roles", "-LRB-", "a", "-RRB-", "players", "-LRB-", "a", "-RRB-", "=", ".", "Another", "useful", "constraint", "could", "avoid", "that", "the", "identifier", "for", "an", "assertion", "appears", "in", "that", "assertion", "itself", ":", "a", "A", ",", "id", "-LRB-", "a", "-RRB-", "/", "-LRB-", "roles", "-LRB-", "a", "-RRB-", "players", "-LRB-", "a", "-RRB-", "-RRB-", ".", "This", "assertion", "structure", "proves", "to", "be", "central", "to", "the", "whole", "model", ".", "It", "is", "sufficiently", "flat", "as", "there", "is", "no", "distinction", "between", "assertions", "and", "properties", ".", "The", "focus", "on", "assertions", "alone", "also", "reduces", "topics", "to", "identifiers", ".", "Still", ",", "the", "chosen", "structure", "seems", "to", "incorporate", "enough", "of", "the", "TM", "paradigm", ",", "in", "that", "any", "number", "of", "concepts", "can", "be", "bound", "together", "into", "an", "assertion", "and", "topics", "--", "as", "TMRM", "mandates", "--", "can", "function", "as", "the", "sole", "aggregation", "point", "for", "information", ".", "4.3", "Maps", "We", "now", "consider", "assertions", "to", "be", "atoms", "from", "which", "maps", "can", "be", "constructed", ".", "A", "map", "is", "a", "finite", "-LRB-", "possibly", "empty", "-RRB-", "set", "of", "of", "assertions", ".", "The", "set", "of", "all", "maps", "is", "denoted", "by", "M.", "To", "build", "bigger", "maps", ",", "we", "define", "the", "elementary", "composition", ",", "denoted", "by", ",", "of", "two", "maps", "m", ",", "m", "M", ",", "is", "defined", "as", "set", "union", "m", "m", "=", "m", "m", ".", "We", "say", "that", "m", "is", "a", "submap", "of", "m", "if", "m", "m", ".", "Note", "that", "we", "have", "no", "special", "merging", "operation", ";", "only", "exactly", "identical", "assertions", "will", "be", "identified", ".", "In", "our", "setting", "special-purpose", "merging", ",", "such", "as", "TNC", "-LRB-", "topic", "name", "constraint", "-RRB-", ",", "is", "split", "into", "two", "phases", ":", "first", "maps", "are", "combined", "using", "elementary", "composition", "and", "then", "a", "second", "operator", "is", "applied", "to", "the", "composite", "map", ".", "That", "operator", "will", "perform", "a", "--", "more", "or", "less", "sophisticated", "--", "transformation", "where", "all", "the", "appropriate", "merging", "is", "done", ".", "As", "an", "example", "we", "consider", "a", "network", "which", "hosts", "several", "servers", ",", "organized", "into", "clusters", "-LRB-", "Table", "1", "-RRB-", ".", "At", "a", "particular", "point", "in", "time", ",", "servers", "may", "be", "``", "up", "''", "or", "``", "down", "''", ".", "Accordingly", ",", "macy", ",", "lacy", "and", "stacy", "are", "the", "servers", ",", "the", "first", "two", "being", "in", "clusterA", ",", "the", "other", "in", "clusterB", ".", "While", "lacy", "is", "down", ",", "clusterA", "is", "still", "functional", ",", "not", "so", "clusterB", "as", "its", "only", "machine", "is", "down", ".", "4.4", "Primitive", "Navigation", "Operators", "To", "navigate", "through", "maps", "and", "to", "extract", "information", "out", "of", "them", ",", "we", "first", "need", "to", "define", "basic", "navigation", "operations", "within", "a", "given", "map", ".", "In", "our", "model", "we", "can", "navigate", "along", "roles", ".", "One", "way", "is", "to", "follow", "a", "role", "outwards", "in", "a", "given", "assertion", "a", "m.", "Given", "additionally", "a", "name", "r", "we", "define", "the", "role-out", "operator", "a", "r", "=", "-LCB-", "p", "|", "r", ",", "p", "a", "-RCB-", ".", "It", "returns", "all", "players", "of", "a", "given", "role", "in", "an", "assertion", ".", "Looking", "at", "a00", "in", "the", "above", "example", ",", "the", "expression", "a00", "class", "returns", "the", "set", "containing", "server", "only", ".", "Another", "option", "to", "navigate", "is", "to", "follow", "a", "role", "inwards", ",", "seen", "from", "an", "assertion", "'s", "point", "of", "view", ".", "Given", "a", "map", "m", ",", "a", "name", "r", "and", "an", "identifier", "p", ",", "we", "define", "the", "role-in", "operator", "p", "m", "r", "=", "-LCB-", "a", "m", "|", "r", ",", "p", "a", "-RCB-", ".", "We", "omit", "the", "reference", "to", "m", "if", "clear", "from", "the", "context", ".", "To", "find", "all", "assertions", "in", "which", "clusterA", "plays", "the", "role", "whole", ",", "we", "can", "write", "clusterA", "whole", "which", "evaluates", "to", "-LCB-", "a02", ",", "a11", "-RCB-", ".", "The", "role-in", "operator", "does", "not", "respect", "the", "type", "of", "assertions", ".", "It", "simply", "finds", "all", "assertions", "where", "a", "particular", "player", "plays", "the", "given", "role", ".", "However", ",", "for", "practical", "reasons", "a", "refined", "version", "of", "the", "operator", "will", "be", "defined", "in", "section", "4.6", ".", "4.5", "Subclassing", "and", "Instances", "To", "describe", "-LRB-", "and", "query", "-RRB-", "topic", "maps", ",", "we", "need", "to", "express", "relationships", "between", "concepts", ".", "While", "the", "variety", "of", "such", "relations", "itself", "is", "huge", ",", "two", "special", "relationships", "stand", "out", "as", "being", "fundamental", ":", "The", "subclass-superclass", "relationship", "is", "used", "between", "classes", "to", "form", "taxonomies", "-LRB-", "type", "systems", "-RRB-", ".", "The", "instance-class", "relationship", "is", "established", "between", "an", "object", "and", "the", "class", "-LRB-", "or", "set", "-RRB-", "the", "object", "can", "be", "classified", "into", ".", "Given", "a", "map", "m", "and", "names", "b", ",", "c", "N", ",", "we", "define", "the", "predicate", "subclasses", "m", "-LRB-", "b", ",", "c", "-RRB-", "to", "be", "true", "if", "there", "exists", "an", "a", "m", "such", "that", "both", "conditions", ",", "a", "subclass", "=", "-LCB-", "b", "-RCB-", "and", "a", "superclass", "=", "-LCB-", "c", "-RCB-", ",", "hold", ".", "As", "the", "usual", "interpretation", "of", "subclassing", "is", "that", "it", "is", "transitive", ",", "we", "build", "the", "transitive", "closure", "subclasses", "m", "+", "and", "the", "transitive", ",", "reflexive", "closure", "subclasses", "m", ".", "Another", "relationship", "is", "instance", "of", ",", "abbreviated", "as", "is", "-", "a", "which", "holds", "if", "there", "exists", "a", "m", "such", "that", "a", "instance", "=", "-LCB-", "b", "-RCB-", "and", "a", "class", "=", "-LCB-", "c", "-RCB-", ".", "Mostly", "we", "are", "interested", "in", "an", "instance-of", "relationship", "which", "includes", "the", "transitive", "version", "of", "subclassing", "above", ".", "is", "-", "a", "m", "-LRB-", "b", ",", "c", "-RRB-", "holds", "if", "there", "exist", "a", "m", "such", "that", "for", "some", "name", "c", "we", "have", "a", "instance", "=", "-LCB-", "b", "-RCB-", ",", "a", "class", "=", "-LCB-", "c", "-RCB-", "and", "subclasses", "m", "-LRB-", "c", ",", "c", "-RRB-", ".", "According", "to", "our", "cluster", "map", "the", "relations", "subclasses", "m", "-LRB-", "server", ",", "machine", "-RRB-", ",", "is", "-", "a", "m", "-LRB-", "macy", ",", "server", "-RRB-", "and", "is", "-", "a", "m", "-LRB-", "macy", ",", "machine", "-RRB-", "are", "all", "true", ".", "The", "difference", "between", "is", "-", "a", "m", "-LRB-", "b", ",", "c", "-RRB-", "and", "is", "-", "a", "m", "-LRB-", "b", ",", "c", "-RRB-", "is", "that", "the", "former", "only", "reiterates", "the", "information", "which", "is", "already", "explicit", "in", "the", "map", ".", "When", "querying", "a", "map", ",", "though", ",", "queries", "should", "be", "built", "more", "robust", ":", "If", "we", "ask", "for", "``", "all", "machines", "''", "in", "a", "map", ",", "then", "most", "likely", "one", "is", "also", "interested", "in", "instances", "of", "all", "-LRB-", "direct", "and", "indirect", "-RRB-", "subclasses", "of", "``", "machine", "''", ".", "39", "Table", "1", ":", "An", "example", "map", "about", "a", "computer", "network", "a00", "=", "-LCB-", "<", "instance", ",", "macy", ">", ",", "<", "class", ",", "server", ">", "-RCB-", "a01", "=", "-LCB-", "<", "instance", ",", "a00", ">", ",", "<", "class", ",", "isInstance", ">", "-RCB-", "a02", "=", "-LCB-", "<", "part", ",", "macy", ">", ",", "<", "whole", ",", "clusterA", ">", "-RCB-", "a03", "=", "-LCB-", "<", "instance", ",", "a02", ">", ",", "<", "class", ",", "isPartOf", ">", "-RCB-", "a04", "=", "-LCB-", "<", "object", ",", "macy", ">", ",", "<", "status", ",", "``", "up", "''", ">", "-RCB-", "a05", "=", "-LCB-", "<", "instance", ",", "a04", ">", ",", "<", "class", ",", "hasStatus", ">", "-RCB-", "...", "a10", "=", "-LCB-", "<", "instance", ",", "lacy", ">", ",", "<", "class", ",", "server", ">", "-RCB-", "a11", "=", "-LCB-", "<", "part", ",", "lacy", ">", ",", "<", "whole", ",", "clusterA", ">", "-RCB-", "a12", "=", "-LCB-", "<", "object", ",", "lacy", ">", ",", "<", "status", ",", "``", "down", "''", ">", "-RCB-", "...", "a20", "=", "-LCB-", "<", "instance", ",", "stacy", ">", ",", "<", "class", ",", "server", ">", "-RCB-", "a21", "=", "-LCB-", "<", "part", ",", "stacy", ">", ",", "<", "whole", ",", "clusterB", ">", "-RCB-", "a22", "=", "-LCB-", "<", "object", ",", "stacy", ">", ",", "<", "status", ",", "``", "down", "''", ">", "-RCB-", "a30", "=", "-LCB-", "<", "subclass", ",", "server", ">", ",", "<", "superclass", ",", "machine", ">", "-RCB-", "a40", "=", "-LCB-", "<", "instance", ",", "clusterA", ">", ",", "<", "class", ",", "cluster", ">", "-RCB-", "a41", "=", "-LCB-", "<", "instance", ",", "clusterB", ">", ",", "<", "class", ",", "cluster", ">", "-RCB-", "4.6", "Typed", "Navigation", "We", "can", "use", "the", "relation", "is", "-", "a", "m", "-LRB-", "b", ",", "c", "-RRB-", "to", "specialize", "the", "role-in", "navigation", ".", "Given", "a", "map", "m", ",", "names", "r", "and", "t", "and", "an", "identifier", "p", "the", "typed", "role-in", "operator", "honors", "additionally", "an", "assertion", "type", ":", "p", "m", "r", "-LSB-", "t", "-RSB-", "=", "-LCB-", "a", "p", "m", "r", "|", "is", "-", "a", "m", "-LRB-", "id", "-LRB-", "a", "-RRB-", ",", "t", "-RRB-", "-RCB-", "-LRB-", "1", "-RRB-", "The", "obvious", "difference", "to", "the", "original", "role-in", "navigation", "is", "that", "we", "now", "only", "consider", "assertions", "of", "the", "given", "type", "to", "be", "part", "of", "the", "resulting", "set", ".", "The", "expression", "clusterA", "m", "whole", "-LSB-", "hasStatus", "-RSB-", "is", "supposed", "to", "find", "all", "assertions", "of", "type", "hasStatus", "in", "which", "clusterA", "is", "the", "whole", ".", "Since", "there", "is", "no", "such", "assertion", ",", "the", "result", "is", "empty", ".", "A", "further", "way", "to", "generalize", "the", "navigation", "is", "to", "allow", "as", "role", "also", "all", "subclasses", ":", "a", "m", "r", "=", "-LCB-", "p", "|", "r", ",", "p", "a", ":", "subclasses", "m", "-LRB-", "r", ",", "r", "-RRB-", "-RCB-", "-LRB-", "2", "-RRB-", "p", "m", "r", "=", "-LCB-", "a", "m", "|", "r", ",", "p", "a", ":", "subclasses", "m", "-LRB-", "r", ",", "r", "-RRB-", "-RCB-", "-LRB-", "3", "-RRB-", "The", "topic", "map", "path", "language", "can", "be", "used", "to", "extract", "information", "out", "of", "given", "map", ".", "The", "language", "will", "be", "defined", "via", "postfix", "operators", "which", "are", "applied", "to", "-LRB-", "sets", "of", "-RRB-", "assertions", "-LRB-", "or", "identifiers", "-RRB-", ".", "Before", "we", "can", "formally", "define", "the", "individual", "postfixes", "and", "chains", "of", "postfixes", "-LRB-", "path", "expressions", "-RRB-", "we", "have", "to", "characterize", "the", "results", "of", "applying", "postfixes", "to", "a", "set", "of", "assertions", ",", "such", "as", "a", "map", ".", "This", "is", "done", "with", "a", "simple", "algebra", "based", "on", "tuples", ".", "5.1", "Tuple", "Algebra", "Our", "final", "result", "of", "applying", "a", "path", "expression", "will", "be", "a", "bag", "of", "tuples", ".", "The", "advantage", "of", "tuples", "are", "that", "they", "can", "hold", "composite", "results", ".", "Every", "tuple", "represents", "then", "one", "possible", "result", ",", "all", "of", "them", "are", "organized", "into", "a", "bag", ".", "Bags", "are", "like", "sets", "except", "that", "a", "particular", "element", "may", "appear", "any", "number", "of", "times", ".", "This", "is", "convenient", "if", "we", "later", "want", "to", "sort", "or", "count", "the", "tuples", ".", "Otherwise", "all", "the", "usual", "set", "operations", "can", "be", "used", "on", "bags", ".", "Assertion", "tuples", "are", "elements", "from", "the", "cartesian", "product", "A", "n", "with", "A", "being", "the", "set", "of", "assertions", ".", "Simi-larily", ",", "identifier", "tuples", "are", "elements", "from", "I", "n", ".", "We", "call", "n", "the", "dimension", "of", "the", "tuple", ".", "When", "we", "organize", "tuples", "t", "1", ",", "...", ",", "t", "n", "into", "a", "bag", ",", "then", "we", "denote", "this", "as", "-LSB-", "t", "1", ",", "...", ",", "t", "n", "-RSB-", ".", "A", "map", "m", "=", "-LCB-", "a", "1", ",", "...", ",", "a", "n", "-RCB-", "can", "be", "represented", "as", "the", "tuple", "bag", "-LSB-", "a", "1", ",", "...", ",", "a", "n", "-RSB-", ".", "Conversely", ",", "we", "can", "also", "interpret", "a", "tuple", "bag", "as", "map", "when", "the", "tuples", "it", "contains", "are", "single", "assertions", ".", "If", "a", "bag", "contains", "other", "bags", ",", "then", "the", "structure", "can", "be", "flattened", "out", ":", "-LSB-", "b", "1", ",", "b", "2", ",", "...", ",", "b", "n", "-RSB-", "=", "-LSB-", "b", "ij", "|", "b", "ij", "b", "i", "-LRB-", "1", "i", "n", "-RRB-", "-RSB-", "-LRB-", "4", "-RRB-", "During", "application", "of", "path", "expressions", "also", "tuples", "of", "bags", "may", "be", "created", ".", "Also", "these", "can", "be", "reduced", "by", "building", "tuples", "of", "all", "combinations", "of", "bag", "elements", ":", "b", "1", ",", "b", "2", ",", "...", ",", "b", "n", "=", "b", "1", "b", "2", "b", "n", "-LRB-", "5", "-RRB-", "Finally", ",", "if", "a", "tuple", "only", "contains", "a", "single", "component", ",", "then", "it", "is", "equivalent", "to", "that", "component", ":", "b", "=", "b", "-LRB-", "6", "-RRB-", "As", "we", "have", "covered", "all", "possible", "constellations", "which", "can", "occur", "when", "evaluating", "path", "expressions", ",", "we", "can", "always", "reduce", "every", "result", "to", "a", "bag", "of", "tuples", ".", "We", "call", "this", "set", "B", "I", ".", "5.2", "Postfixes", "and", "Path", "Expressions", "Individual", "postfixes", "-LRB-", "as", "detailed", "below", "-RRB-", "can", "be", "combined", "to", "form", "chains", ".", "The", "set", "of", "path", "expressions", "P", "M", "is", "defined", "as", "the", "smallest", "set", "satisfying", "the", "following", "conditions", ":", "1", ".", "The", "projection", "postfix", "i", "is", "in", "P", "M", "for", "any", "non-negative", "integer", "i.", "2", ".", "Every", "identifier", "from", "I", "is", "in", "P", "M", ".", "3", ".", "The", "role-out", "and", "role-in", "postfixes", "r", "and", "r", "for", "a", "name", "r", "are", "in", "P", "M", ".", "40", "4", ".", "The", "positive", "predicate", "postfix", "-LSB-", "p", "=", "q", "-RSB-", "and", "the", "negative", "predicate", "postfix", "-LSB-", "p", "!", "=", "q", "-RSB-", "are", "both", "in", "P", "M", "for", "two", "path", "expressions", "p", "and", "q", ".", "As", "special", "cases", "we", "also", "include", "-LSB-", "p", "-RSB-", "and", "-LSB-", "!", "p", "-RSB-", ".", "5", ".", "For", "two", "path", "expressions", "p", "and", "q", "also", "the", "concatenation", "p", "q", "is", "in", "P", "M", ".", "If", "-", "from", "the", "context", "-", "it", "is", "clear", "that", "two", "path", "expressions", "are", "to", "be", "concatenated", ",", "we", "omit", "the", "infix", ".", "6", ".", "For", "two", "path", "expressions", "p", "and", "q", "the", "alternation", "p", "q", "is", "in", "P", "M", ".", "The", "application", "of", "a", "path", "expression", "p", "to", "a", "map", "m", "is", "denoted", "by", "m", "p.", "For", "this", "process", ",", "first", "we", "will", "reinterpret", "the", "map", "as", "tuple", "bag", ".", "Then", "each", "of", "the", "postfixes", "in", "p", "is", "applied", "to", "it", ".", "Each", "such", "step", "results", "in", "a", "new", "bag", "which", "will", "be", "flattened", "according", "to", "the", "tuple", "algebra", "above", ".", "The", "final", "bag", "will", "be", "the", "overall", "result", ".", "5.2.1", "Projection", "and", "Identifiers", "For", "both", ",", "assertion", "and", "identifier", "tuples", ",", "we", "will", "use", "the", "projection", "postfix", "to", "extract", "a", "particular", "j", ":", "u", "1", ",", "...", ",", "u", "n", "j", "=", "-LSB-", "u", "j", "-RSB-", "-LRB-", "7", "-RRB-", "Projection", "here", "plays", "a", "similar", "role", "like", "in", "query", "languages", "like", "SQL", ",", "except", "that", "we", "here", "use", "an", "index", "for", "selection", "instead", "of", "names", ".", "We", "drop", "the", "index", "1", "in", "1", "if", "it", "is", "applied", "to", "a", "tuple", "with", "only", "a", "single", "component", "where", "then", "obviously", "it", "holds", "that", "u", "=", "u", ".", "Such", "a", "projection", "also", "serves", "as", "the", "empty", "postfix", ".", "In", "case", "the", "path", "expression", "is", "simply", "an", "identifier", "i", "I", ",", "then", "for", "any", "u", "the", "result", "is", "always", "this", "identifier", ":", "u", "i", "=", "-LSB-", "i", "-RSB-", "-LRB-", "8", "-RRB-", "5.2.2", "Concatenation", "and", "Alternation", "We", "define", "the", "concatenation", "of", "path", "expressions", "p", "and", "q", "-LRB-", "given", "any", "u", "-RRB-", "as", "u", "-LRB-", "p", "q", "-RRB-", "=", "-LRB-", "u", "p", "-RRB-", "q", "-LRB-", "9", "-RRB-", "The", "syntactic", "structure", "of", "path", "expressions", "ensures", "that", "u", "is", "always", "a", "structure", "for", "which", "such", "an", "evaluation", "is", "defined", ".", "The", "alternation", "of", "two", "path", "expressions", "p", "and", "q", "is", "defined", "as", "the", "union", "of", "the", "result", "tuple", "bags", "of", "the", "individual", "evaluations", ":", "u", "-LRB-", "p", "q", "-RRB-", "=", "u", "p", "u", "q", "-LRB-", "10", "-RRB-", "5.2.3", "Navigation", "Postfix", "Next", "we", "define", "how", "role-out", "and", "role-in", "navigation", "postfixes", "can", "be", "applied", "to", "an", "assertion", "tuple", ".", "We", "simply", "apply", "the", "navigation", "to", "every", "assertion", "in", "the", "tuple", ":", "a", "1", ",", "...", ",", "a", "n", "r", "=", "a", "1", "r", ",", "...", ",", "a", "n", "r", "-LRB-", "11", "-RRB-", "p", "1", ",", "...", ",", "p", "n", "r", "=", "p", "1", "r", ",", "...", ",", "p", "n", "r", "-LRB-", "12", "-RRB-", "Note", "that", "we", "have", "used", "the", "typed", "navigation", "from", "section", "4.6", ".", "While", "not", "absolutely", "necessary", ",", "it", "helps", "to", "keep", "path", "expressions", "more", "concise", ".", "Note", "also", ",", "that", "the", "individual", "elements", "of", "the", "resulting", "tuples", "are", "bags", ".", "Again", ",", "the", "transformation", "rules", "of", "the", "tuple", "algebra", "have", "to", "be", "used", "to", "reduce", "this", "into", "a", "bag", "of", "tuples", ".", "5.2.4", "Filtering", "Postfixes", "From", "tuple", "bags", "we", "can", "filter", "out", "specific", "tuples", "using", "predicates", ".", "Given", "a", "tuple", "bag", "B", "=", "-LSB-", "t", "1", ",", "...", ",", "t", "k", "-RSB-", "and", "two", "path", "expressions", "p", "and", "q", ",", "applying", "the", "positive", "predicate", "postfix", "-LSB-", "p", "=", "q", "-RSB-", "to", "B", "is", "defined", "as", "B", "-LSB-", "p", "=", "q", "-RSB-", "=", "-LSB-", "t", "B", "|", "t", "p", "t", "q", "=", "-RSB-", "-LRB-", "13", "-RRB-", "If", "p", "and", "q", "are", "identical", ",", "then", "we", "can", "abbreviate", "-LSB-", "p", "=", "p", "-RSB-", "with", "-LSB-", "p", "-RSB-", ".", "The", "result", "of", "the", "positive", "predicate", "prefix", "is", "that", "sub-bag", "of", "B", "for", "which", "elements", "the", "evaluation", "of", "p", "and", "q", "gives", "at", "least", "one", "common", "result", ".", "Note", "that", "this", "implements", "an", "exists", "semantics", "as", "B", "-LSB-", "p", "=", "p", "-RSB-", "is", "reducable", "to", "-LSB-", "t", "B", "|", "t", "p", "=", "-RSB-", ".", "Only", "those", "tuples", "of", "B", "will", "be", "part", "of", "the", "result", "tuple", "bag", "if", "there", "exists", "at", "least", "one", "result", "when", "p", "is", "applied", "to", "that", "tuple", ".", "By", "introducing", "negation", "in", "predicate", "postfixes", ",", "we", "can", "also", "implement", "forall", "semantics", ".", "Given", "a", "tuple", "bag", "B", "and", "two", "path", "expressions", "p", "and", "q", ",", "we", "define", "the", "negative", "predicate", "postfix", "as", "B", "-LSB-", "p", "!", "=", "q", "-RSB-", "=", "-LSB-", "t", "B", "|", "t", "p", "t", "q", "=", "-RSB-", "-LRB-", "14", "-RRB-", "If", "p", "and", "q", "are", "identical", ",", "then", "we", "can", "abbreviate", "-LSB-", "p", "!", "=", "p", "-RSB-", "with", "-LSB-", "!", "p", "-RSB-", ".", "In", "this", "case", "the", "result", "tuple", "bag", "becomes", "-LSB-", "t", "B", "|", "t", "p", "=", "-RSB-", ".", "A", "particular", "tuple", "will", "only", "then", "be", "part", "of", "the", "result", "tuple", "bag", "if", "p", "applied", "to", "it", "will", "not", "render", "a", "single", "value", ",", "i.e.", "all", "evaluations", "will", "return", "no", "result", ".", "Implicit", "in", "the", "formalism", "are", "the", "logic", "conjunction", "and", "disjunction", "of", "predicate", "postfixes", ".", "Obviously", ",", "a", "logical", "and", "is", "provided", "by", "concatenating", "two", "predicate", "postfixes", "-LRB-", "-LSB-", ".", ".", "-RSB-", "-LSB-", ".", ".", "-RSB-", "-RRB-", "as", "the", "result", "of", "the", "first", "postfix", "will", "be", "further", "tested", "for", "the", "second", "predicate", ".", "The", "logical", "or", "between", "predicate", "postfixes", "is", "implicitly", "given", "by", "alternating", "them", "-LRB-", "-LSB-", ".", ".", "-RSB-", "-LSB-", ".", ".", "-RSB-", "-RRB-", ".", "5.3", "Evaluation", "Example", "Let", "us", "assume", "that", "we", "are", "looking", "for", "the", "status", "of", "the", "servers", "in", "clusterA", ":", "-LSB-", "class", "=", "isPartOf", "-RSB-", "instance", "-LSB-", "whole", "=", "clusterA", "-RSB-", "part", "object", "<", "object", ",", "status", ">", "The", "first", "predicate", "selects", "out", "all", "those", "assertions", "in", "the", "map", "which", "have", "a", "class", "role", "where", "one", "of", "the", "players", "happens", "to", "be", "isPartOf", ".", "If", "we", "are", "then", "looking", "at", "these", "assertions", "and", "the", "player", "-LRB-", "s", "-RRB-", "of", "the", "role", "instance", ",", "then", "we", "have", "effectively", "selected", "the", "assertions", "of", "type", "isPartOf", "from", "the", "map", ".", "We", "consider", "each", "of", "these", "assertions", "-LRB-", "in", "our", "case", "these", "are", "a02", ",", "a11", "and", "a21", "-RRB-", "and", "filter", "out", "those", "of", "them", "which", "have", "a", "whole", "role", "where", "one", "player", "is", "clusterA", ".", "When", "we", "continue", "with", "a02", "and", "a11", ",", "and", "then", "follow", "the", "part", ",", "this", "leads", "to", "a", "bag", "containing", "only", "the", "names", "macy", "and", "lacy", ".", "41", "In", "the", "next", "step", "we", "investigate", "where", "these", "names", "are", "players", "of", "the", "role", "object", ",", "so", "we", "find", "a", "bag", "with", "assertions", "a04", "and", "a12", ".", "Here", "our", "path", "splits", "into", "two", "components", ":", "the", "first", "one", "navigates", "to", "the", "name", "of", "that", "object", ",", "the", "other", "to", "its", "status", ".", "The", "result", "is", "then", "-LSB-", "macy", ",", "``", "up", "''", ",", "lacy", ",", "``", "down", "''", "-RSB-", ".", "In", "second", "example", "we", "look", "at", "all", "clusters", "which", "are", "down", ",", "i.e.", "where", "all", "machines", "in", "that", "cluster", "are", "down", ".", "As", "result", "we", "get", "-LSB-", "clusterB", "-RSB-", ":", "-LSB-", "class", "=", "cluster", "-RSB-", "instance", "-LSB-", "whole", "part", "object", "status", "!", "=", "``", "up", "''", "-RSB-", "Maps", "and", "path", "expressions", ",", "as", "presented", "here", ",", "can", "serve", "as", "a", "basis", "for", "more", "high-level", "concepts", ",", "as", "they", "are", "needed", "for", "ontology", "and", "knowledge", "engineering", "-LRB-", "Fensel", ",", "Hendler", ",", "Lieberman", "&", "Wahlster", "2003", "-RRB-", ".", "The", "use", "of", "path", "expressions", "to", "extract", "information", "out", "of", "maps", "leads", "to", "the", "following", "observations", ":", "Obviously", ",", "P", "M", "is", "a", "-LRB-", "primitive", "-RRB-", "language", "to", "query", "topic", "maps", ".", "Note", ",", "though", ",", "that", "P", "M", "lacks", "all", "facilities", "to", "newly", "create", "content", ",", "such", "as", "XML", "or", "TM", "content", "as", "described", "in", "-LRB-", "Garshol", "&", "Barta", "2003", "-RRB-", ".", "A", "more", "industrial", "topic", "map", "query", "language", "-LRB-", "TMQL", "-RRB-", "will", "have", "to", "offer", "content", "generation", "language", "constructs", ".", "While", "it", "will", "also", "provide", "more", "concise", "syntax", "due", "to", "high-level", "concepts", ",", "P", "M", "can", "-LRB-", "and", "probably", "will", "-RRB-", "act", "as", "a", "semantic", "foundation", ".", "More", "formally", ",", "we", "can", "identify", "a", "subset", "of", "P", "M", ",", "the", "filters", "F", "M", ",", "which", "contains", "all", "those", "queries", "which", "return", "maps", ":", "F", "M", "=", "-LCB-", "q", "P", "M", "|", "m", "M", ",", "mq", "=", "-LSB-", "a", "1", "...", "a", "n", "|", "a", "i", "m", "-RSB-", "-RCB-", "-LRB-", "15", "-RRB-", "Clearly", ",", "the", "filtered", "maps", "are", "always", "submaps", "of", "the", "queried", "map", ":", "m", "f", "m", ",", "for", "f", "F", "M", ".", "Interestingly", ",", "P", "M", "can", "also", "be", "regarded", "as", "primitive", "constraint", "language", ":", "only", "when", "the", "application", "of", "a", "path", "expression", "c", "to", "a", "map", "m", "renders", "any", "result", ",", "then", "the", "map", "conforms", "to", "the", "expectations", "we", "have", "set", "up", "in", "c.", "If", ",", "for", "instance", ",", "we", "had", "set", "up", "a", "query", "which", "asks", "for", "all", "weapons", "of", "mass", "destruction", "in", "our", "running", "example", ",", "then", "the", "result", "would", "have", "been", "the", "empty", "bag", ".", "Only", "if", "the", "query", "follows", "the", "structure", "and", "the", "vocabulary", "of", "the", "map", ",", "then", "there", "will", "be", "a", "non-empty", "result", ".", "Equivalently", ",", "this", "is", "also", "true", "the", "other", "way", "round", ".", "Consequently", ",", "we", "can", "define", "a", "satisfaction", "relation", "|", "=", "P", "M", "M", "between", "a", "path", "expression", "c", "and", "a", "map", "m", ",", "such", "that", "c", "|", "=", "m", "m", "c", "=", "-LRB-", "16", "-RRB-", "Based", "on", "this", ",", "logical", "connectives", "between", "constraints", "can", "be", "defined", ".", "While", "we", "concentrate", "in", "this", "work", "on", "formalizing", "the", "structure", "of", "topic", "maps", "-LRB-", "at", "least", "our", "understanding", "thereof", "-RRB-", "and", "of", "an", "expression", "language", "to", "extract", "information", "from", "them", ",", "we", "have", "not", "yet", "studied", "any", "properties", "of", "P", "M", ".", "Specifically", ",", "we", "are", "interested", "how", "path", "expressions", "relate", "to", "formulas", "in", "description", "logics", "-LRB-", "Baader", ",", "Calvanese", ",", "McGuinness", ",", "Nardi", "&", "Patel-Schneider", "2003", ",", "Description", "Logics", "Home", "Page", "n.d.", "-RRB-", ",", "especially", "in", "the", "light", "that", "both", "can", "be", "used", "to", "model", "an", "ontology", ".", "A", "related", "question", "is", "how", "a", "path", "language", "can", "be", "used", "to", "express", "identity", "-LRB-", "apart", "from", "the", "explicit", "identity", "given", "by", "the", "topic", "'s", "identifier", "-RRB-", ".", "Finally", ",", "in", "a", "larger", "picture", ",", "we", "are", "interested", "in", "connecting", "maps", ",", "constraints", ",", "queries", "and", "even", "maybe", "updates", "for", "topic", "maps", "in", "an", "algebra", ".", "When", "connecting", "maps", ",", "merging", "as", "defined", "by", "the", "XTM", "standard", "is", "an", "issue", ".", "Baader", ",", "F.", ",", "Calvanese", ",", "D.", ",", "McGuinness", ",", "D.", ",", "Nardi", ",", "D.", "&", "Patel-Schneider", ",", "P.", ",", "eds", "-LRB-", "2003", "-RRB-", ",", "The", "Description", "Logic", "Handbook", ".", "URL", ":", "http", ":", "/", "/", "books.cambridge.org", "/", "0521781760", ".", "htm", "Bogachev", ",", "D.", "-LRB-", "n.d.", "-RRB-", ",", "`", "TMAssert", "'", ".", "URL", ":", "http", ":", "/", "/", "homepage.mac.com", "/", "dmitryv", "/", "TopicMaps", "/", "TMRM", "/", "TMAssert.pdf", "Description", "Logics", "Home", "Page", "-LRB-", "n.d.", "-RRB-", ".", "URL", ":", "http", ":", "/", "/", "dl.kr.org", "/", "Fensel", ",", "D.", ",", "Hendler", ",", "J.", "A.", ",", "Lieberman", ",", "H.", "&", "Wahlster", ",", "W.", ",", "eds", "-LRB-", "2003", "-RRB-", ",", "Spinning", "the", "Semantic", "Web", ",", "The", "MIT", "Press", ".", "URL", ":", "http", ":", "/", "/", "mitpress.mit.edu", "/", "catalog", "/", "item", "/", "default.asp", "?", "tid", "=", "9182", "Garshol", ",", "L.", "M.", "-LRB-", "2004-07-22", "-RRB-", ",", "`", "A", "proposed", "founda-tional", "model", "for", "Topic", "Maps", "'", ".", "URL", ":", "http", ":", "/", "/", "www.jtc1sc34.org", "/", "repository", "/", "0529.htm", "Garshol", ",", "L.", "M.", "&", "Barta", ",", "R.", "-LRB-", "2003", "-RRB-", ",", "`", "JTC1/SC34", ":", "TMQL", "requirements", "'", ".", "URL", ":", "http", ":", "/", "/", "www.isotopicmaps.org", "/", "tmql", "/", "tmqlreqs.html", "Kipp", ",", "N.", "A.", "-LRB-", "2003", "-RRB-", ",", "`", "A", "mathematical", "formalism", "for", "the", "Topic", "Maps", "reference", "model", "'", ".", "http://www.isotopicmaps.org/tmrm/0441.htm", ".", "URL", ":", "http", ":", "/", "/", "www.isotopicmaps.org", "/", "tmrm", "/", "0441.htm", "Newcomb", ",", "S.", "R.", ",", "Hunting", ",", "S.", ",", "Algermissen", ",", "J.", "&", "Durusau", ",", "P.", "-LRB-", "2003", "-RRB-", ",", "`", "ISO/IEC", "JTC1/SC34", ",", "Topic", "Maps", "-", "reference", "model", ",", "editor", "'s", "draft", ",", "revision", "3.10", "'", ".", "URL", ":", "http", ":", "/", "/", "www.isotopicmaps.org", "/", "tmrm", "/", "O.", "Lassila", "and", "K.", "Swick", "-LRB-", "1993", "-RRB-", ",", "Resource", "Description", "Framework", "-LRB-", "RDF", "-RRB-", "model", "and", "syntax", "specification", ",", "Technical", "report", ",", "W3C", ",", "Camo", "AS", ".", "URL", ":", "http", ":", "/", "/", "www.w3.org", "/", "TR", "/", "1999", "/", "REC-rdf-syntax-19990222.html", "Pepper", ",", "S.", "-LRB-", "1999", "-RRB-", ",", "`", "Navigating", "haystacks", ",", "discovering", "needles", "'", ",", "Markup", "Languages", ":", "Theory", "and", "Practice", ",", "Vol", ".", "1", "No.", "4", ".", "Pepper", ",", "S.", "-LRB-", "2000", "-RRB-", ",", "`", "The", "TAO", "of", "Topic", "Maps", "'", ".", "URL", ":", "http", ":", "/", "/", "www.gca.org", "/", "papers", "/", "xmleurope2000", "/", "papers", "/", "s11-01.html", "Sowa", ",", "J.", "-LRB-", "2000", "-RRB-", ",", "Knowledge", "Representation", ":", "Logical", ",", "Philosophical", "and", "Computational", "Foundations", ",", "Brooks-Cole", ",", "Pacific", "Grove", ".", "42"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["knowledge engineering", "topic maps", "semantic web"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "149", "document": ["Physiological", "Measures", "of", "Presence", "in", "Stressful", "Virtual", "Environments", "A", "common", "measure", "of", "the", "quality", "or", "effectiveness", "of", "a", "virtual", "environment", "-LRB-", "VE", "-RRB-", "is", "the", "amount", "of", "presence", "it", "evokes", "in", "users", ".", "Presence", "is", "often", "defined", "as", "the", "sense", "of", "being", "there", "in", "a", "VE", ".", "There", "has", "been", "much", "debate", "about", "the", "best", "way", "to", "measure", "presence", ",", "and", "presence", "researchers", "need", ",", "and", "have", "sought", ",", "a", "measure", "that", "is", "reliable", ",", "valid", ",", "sensitive", ",", "and", "objective", ".", "We", "hypothesized", "that", "to", "the", "degree", "that", "a", "VE", "seems", "real", ",", "it", "would", "evoke", "physiological", "responses", "similar", "to", "those", "evoked", "by", "the", "corresponding", "real", "environment", ",", "and", "that", "greater", "presence", "would", "evoke", "a", "greater", "response", ".", "To", "examine", "this", ",", "we", "conducted", "three", "experiments", ",", "the", "results", "of", "which", "support", "the", "use", "of", "physiological", "reaction", "as", "a", "reliable", ",", "valid", ",", "sensitive", ",", "and", "objective", "presence", "measure", ".", "The", "experiments", "compared", "participants", "'", "physiological", "reactions", "to", "a", "non-threatening", "virtual", "room", "and", "their", "reactions", "to", "a", "stressful", "virtual", "height", "situation", ".", "We", "found", "that", "change", "in", "heart", "rate", "satisfied", "our", "requirements", "for", "a", "measure", "of", "presence", ",", "change", "in", "skin", "conductance", "did", "to", "a", "lesser", "extent", ",", "and", "that", "change", "in", "skin", "temperature", "did", "not", ".", "Moreover", ",", "the", "results", "showed", "that", "inclusion", "of", "a", "passive", "haptic", "element", "in", "the", "VE", "significantly", "increased", "presence", "and", "that", "for", "presence", "evoked", ":", "30", "FPS", ">", "20", "FPS", ">", "15", "FPS", ".", "Categories", ":", "I.", "3.7", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Three-Dimensional", "Graphics", "and", "Realism", "-", "Virtual", "Reality", ".", "H.", "5.2", "-LSB-", "Information", "Interfaces", "and", "Presentation", "-RSB-", ":", "User", "Interfaces", "Evaluation", "/", "Methodology", ".", "Keywords", ":", "Presence", ",", "Physiology", ",", "Haptics", ",", "Frame", "Rate", ".", "Virtual", "environments", "-LRB-", "VEs", "-RRB-", "are", "the", "most", "sophisticated", "human-computer", "interfaces", "yet", "developed", ".", "The", "effectiveness", "of", "a", "VE", "might", "be", "defined", "in", "terms", "of", "enhancement", "of", "task", "performance", ",", "effectiveness", "for", "training", ",", "improvement", "of", "data", "comprehension", ",", "etc.", ".", "A", "common", "metric", "of", "VE", "quality", "is", "the", "degree", "to", "which", "the", "VE", "creates", "in", "the", "user", "the", "subjective", "illusion", "of", "presence", "a", "sense", "of", "being", "in", "the", "virtual", ",", "as", "opposed", "to", "the", "real", ",", "environment", ".", "Since", "presence", "is", "a", "subjective", "condition", ",", "it", "has", "most", "commonly", "been", "measured", "by", "self-reporting", ",", "either", "during", "the", "VE", "experience", "or", "immediately", "afterwards", "by", "questionnaires", ".", "There", "has", "been", "vigorous", "debate", "as", "to", "how", "to", "best", "measure", "presence", "-LSB-", "Barfield", "et", "al.", ".", "1995", ";", "Ellis", "1996", ";", "Freeman", "et", "al.", "1998", ";", "IJsselsteijn", "and", "de", "Ridder", "1998", ";", "Lombard", "and", "Ditton", "1997", ";", "Regenbrecht", "and", "Schubert", "1997", ";", "Schubert", "et", "al.", "1999", ";", "Sheridan", "1996", ";", "Slater", "1999", ";", "Witmer", "and", "Singer", "1998", "-RSB-", ".", "In", "order", "to", "study", "a", "VE", "'s", "effectiveness", "in", "evoking", "presence", ",", "researchers", "need", "a", "well-designed", "and", "verified", "measure", "of", "the", "phenomena", ".", "This", "paper", "reports", "our", "evaluation", "of", "three", "physiological", "measures", "heart", "rate", ",", "skin", "conductance", ",", "and", "skin", "temperature", "as", "alternate", "operational", "measures", "of", "presence", "in", "stressful", "VEs", ".", "Since", "the", "concept", "and", "idea", "of", "measuring", "presence", "are", "heavily", "debated", ",", "finding", "a", "measure", "that", "could", "find", "wide", "acceptance", "would", "be", "ideal", ".", "In", "that", "hope", ",", "we", "investigated", "the", "reliability", ",", "validity", ",", "sensitivity", ",", "and", "objectivity", "of", "each", "physiological", "measure", ".", "Figure", "1", ".", "Side", "view", "of", "the", "virtual", "environment", ".", "Subjects", "start", "in", "the", "Training", "Room", "and", "later", "enter", "the", "Pit", "Room", ".", "1.2", ".", "Physiological", "Reaction", "as", "a", "Surrogate", "Measure", "of", "Presence", "As", "VE", "system", "and", "technology", "designers", ",", "we", "have", "sought", "for", "a", "presence", "measure", "that", "is", "Reliable", "produces", "repeatable", "results", ",", "both", "from", "trial", "to", "trial", "on", "the", "same", "subject", "and", "across", "subjects", ",", "Valid", "measures", "subjective", "presence", ",", "or", "at", "least", "correlates", "with", "well-established", "subjective", "presence", "measures", ",", "Sensitive", "discriminates", "among", "multiple", "levels", "of", "presence", ",", "and", "Objective", "is", "well", "shielded", "from", "both", "subject", "and", "experimenter", "bias", ".", "We", "hypothesize", "that", "to", "the", "degree", "that", "a", "VE", "seems", "real", ",", "it", "will", "evoke", "physiological", "responses", "similar", "to", "those", "evoked", "by", "the", "corresponding", "real", "environment", ",", "and", "that", "greater", "presence", "will", "evoke", "a", "greater", "response", ".", "If", "so", ",", "these", "responses", "can", "serve", "as", "objective", "surrogate", "measures", "of", "subjective", "presence", ".", "Of", "the", "three", "physiological", "measures", "in", "our", "studies", ",", "Change", "in", "Heart", "Rate", "performs", "best", ".", "It", "consistently", "differentiates", "among", "conditions", "with", "more", "sensitivity", "and", "more", "statistical", "power", "than", "the", "other", "physiological", "measures", ",", "and", "more", "than", "most", "of", "the", "self-reported", "measures", ".", "It", "also", "best", "correlates", "with", "the", "reported", "measures", ".", "Copyright", "2002", "by", "the", "Association", "for", "Computing", "Machinery", ",", "Inc.", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "part", "or", "all", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "Copyrights", "for", "components", "of", "this", "work", "owned", "by", "others", "than", "ACM", "must", "be", "honored", ".", "Abstracting", "with", "credit", "is", "permitted", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", ",", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Request", "permissions", "from", "Permissions", "Dept", ",", "ACM", "Inc.", ",", "fax", "+1-212-869-0481", "or", "e-mail", "permissions@acm.org", ".", "2002", "ACM", "1-58113-521-1", "/", "02/0007", "$", "5.00", "645", "Figure", "2", ".", "View", "of", "the", "20", "'", "pit", "from", "the", "wooden", "ledge", ".", "Change", "in", "Skin", "Temperature", "is", "less", "sensitive", ",", "less", "powerful", ",", "and", "slower", "responding", "than", "Change", "in", "Heart", "Rate", ",", "although", "its", "response", "curves", "are", "similar", ".", "It", "also", "correlates", "with", "reported", "measures", ".", "Our", "results", "and", "the", "literature", "on", "skin", "temperature", "reactions", "suggest", "that", "Change", "in", "Skin", "Temperature", "would", "differentiate", "among", "conditions", "better", "if", "the", "exposures", "to", "the", "stimulus", "were", "at", "least", "2", "minutes", "-LSB-", "McMurray", "1999", ";", "Slonim", "1974", "-RSB-", ".", "Ours", "averaged", "1.5", "minutes", "in", "each", "experiment", ".", "Change", "in", "Skin", "Conductance", "Level", "yielded", "significant", "differentiation", "in", "some", "experiments", "but", "was", "not", "so", "consistent", "as", "Change", "in", "Heart", "Rate", ".", "More", "investigation", "is", "needed", "to", "establish", "whether", "it", "can", "reliably", "differentiate", "among", "multiple", "levels", "of", "presence", ".", "Since", "Change", "in", "Heart", "Rate", "best", "followed", "the", "hypotheses", ",", "the", "remainder", "of", "this", "paper", "will", "treat", "chiefly", "the", "results", "for", "it", ".", "For", "a", "full", "account", "of", "all", "measures", ",", "please", "see", "-LSB-", "Meehan", "2001", "-RSB-", ".", "1.3", ".", "Our", "Environment", "and", "Measures", "We", "use", "a", "derivative", "of", "the", "compelling", "VE", "reported", "by", "Usoh", "et", "al.", ".", "-LSB-", "1999", "-RSB-", ".", "Figure", "1", "shows", "the", "environment", ":", "a", "Training", "Room", ",", "quite", "ordinary", ",", "and", "an", "adjacent", "Pit", "Room", ",", "with", "an", "unguarded", "hole", "in", "the", "floor", "leading", "to", "a", "room", "20", "ft.", "below", ".", "On", "the", "upper", "level", "the", "Pit", "Room", "is", "bordered", "with", "a", "2-foot", "wide", "walkway", ".", "The", "18x32", "foot", ",", "2-room", "virtual", "space", "fits", "entirely", "within", "the", "working", "space", "of", "our", "lab", "'s", "wide-area", "ceiling", "tracker", ".", "Users", ",", "equipped", "with", "a", "head-tracked", "stereoscopic", "head-mounted", "display", ",", "practice", "walking", "about", "and", "picking", "up", "and", "placing", "objects", "in", "the", "Training", "Room", ".", "Then", "they", "are", "told", "to", "carry", "an", "object", "into", "the", "next", "room", "and", "place", "it", "at", "a", "designated", "spot", ".", "The", "door", "opens", ",", "and", "they", "walk", "through", "it", "to", "an", "unexpected", "hazard", ",", "a", "virtual", "drop", "of", "20", "ft.", "if", "they", "move", "off", "the", "walkway", ".", "Below", "is", "a", "furnished", "Living", "Room", "-LRB-", "Figure", "2", "-RRB-", ".", "Users", "report", "feeling", "frightened", ".", "Some", "report", "vertigo", ".", "Some", "will", "not", "walk", "out", "on", "the", "ledge", "and", "ask", "to", "stop", "the", "experiment", "or", "demo", "at", "the", "doorway", ".", "A", "few", "boldly", "walk", "out", "over", "the", "hole", ",", "as", "if", "there", "were", "a", "solid", "glass", "floor", ".", "For", "most", "of", "us", ",", "doing", "that", ",", "if", "we", "can", ",", "requires", "conscious", "mustering", "of", "will", ".", "This", "environment", ",", "with", "its", "ability", "to", "elicit", "a", "fear", "reaction", "in", "users", ",", "enables", "investigation", "of", "physiological", "reaction", "as", "a", "measure", "of", "presence", ".", "If", "so", "strong", "a", "stress-inducing", "VE", "does", "not", "produce", "significant", "physiological", "reactions", ",", "a", "less", "stressful", "VE", "wo", "n't", ".", "This", "investigation", "is", "a", "first", "step", ".", "Follow-on", "research", "should", "investigate", "whether", "less", "stressful", "environments", "also", "elicit", "statistically", "significant", "physiological", "reactions", ".", "This", "remainder", "section", "will", "discuss", "the", "physiological", "measures", "we", "tested", "and", "the", "reported", "measures", "we", "used", "to", "evaluate", "validity", ".", "1.3.1", ".", "The", "Physiological", "Measures", "As", "stated", "above", ",", "we", "investigated", "three", "physiological", "metrics", "that", "measure", "stress", "in", "real", "environments", "-LSB-", "Andreassi", "1995", ";", "Guyton", "1986", ";", "Weiderhold", "et", "al.", "1998", "-RSB-", ":", "Change", "in", "heart", "rate", "-LRB-", "Heart", "Rate", "-RRB-", ".", "The", "heart", "beats", "faster", "in", "stress", ".", "Change", "in", "skin", "conductance", "-LRB-", "Skin", "Conductance", "Level", "-RRB-", ".", "The", "skin", "of", "the", "palm", "sweats", "more", "in", "stress", ",", "independently", "of", "temperature", ",", "so", "its", "conductance", "rises", ".", "Change", "in", "skin", "temperature", "-LRB-", "Skin", "Temperature", "-RRB-", ".", "Circulation", "slows", "in", "the", "extremities", "in", "stress", ",", "causing", "skin", "temperature", "to", "drop", ".", "Each", "of", "these", "measures", "was", "constructed", "to", "increase", "when", "the", "physiological", "reaction", "to", "the", "Pit", "Room", "was", "greater", ".", "Heart", "Rate", "=", "mean", "HR", "Pit", "Room", "mean", "HR", "Training", "Room", ".", "Skin", "Conductance", "=", "mean", "SC", "Pit", "Room", "mean", "SC", "Training", "Room", "Skin", "Temperature", "=", "mean", "ST", "Training", "Room", "mean", "ST", "Pit", "Room", "We", "first", "measured", "heart", "rate", "with", "a", "convenient", "finger-mounted", "blood-pulse", "plethysmograph", ",", "but", "the", "noise", "generated", "by", "the", "sensor", "moving", "on", "the", "finger", "made", "the", "signal", "unstable", "and", "unusable", ".", "We", "then", "went", "to", "more", "cumbersome", "chest-attached", "three-electrode", "electrocardiography", "-LRB-", "ECG", "-RRB-", ".", "This", "gave", "a", "good", "signal", ".", "Skin", "conductivity", "and", "skin", "temperature", "were", "successfully", "measured", "on", "the", "fingers", ".", "Once", "connected", ",", "users", "reported", "forgetting", "about", "the", "physiological", "sensors", "they", "did", "not", "cause", "breaks", "in", "presence", "during", "the", "experiments", ".", "Figure", "3", "shows", "a", "subject", "wearing", "the", "physiological", "monitoring", "equipment", ".", "1.3.2", ".", "The", "Reported", "Measures", "Reported", "Presence", ".", "We", "used", "the", "University", "College", "London", "-LRB-", "UCL", "-RRB-", "questionnaire", "-LSB-", "Slater", "et", "al.", "1995", ";", "Usoh", "et", "al.", "1999", "-RSB-", ".", "The", "UCL", "questionnaire", "contains", "seven", "questions", "that", "measure", "presence", "-LRB-", "Reported", "Presence", "-RRB-", ",", "three", "questions", "that", "measure", "behavioral", "presence", "-LRB-", "Reported", "Behavioral", "Presence", "-RRB-", "does", "the", "user", "act", "as", "if", "in", "a", "similar", "real", "environment", "and", "three", "that", "measure", "ease", "of", "locomotion", "-LRB-", "Ease", "of", "Locomotion", "-RRB-", ".", "Responses", "for", "each", "question", "are", "on", "a", "scale", "of", "1", "to", "7", ".", "Reported", "Ease", "of", "Locomotion", "was", "administered", "for", "consistency", "with", "earlier", "experiments", ",", "but", "we", "do", "not", "report", "on", "it", "in", "this", "paper", ".", "Figure", "3", ".", "Subject", "wearing", "HMD", "and", "physiological", "monitoring", "equipment", "in", "the", "``", "Pit", "Room", "''", ".", "646", "Even", "though", "each", "question", "is", "rated", "on", "a", "scale", "of", "1-7", ",", "Slater", "et", "al.", ".", "use", "it", "only", "to", "yield", "a", "High-Presence", "/", "Low-Presence", "result", ".", "A", "judgment", "must", "be", "made", "as", "to", "the", "high-low", "threshold", ".", "Slater", "et", "al.", ".", "have", "investigated", "the", "use", "of", "6", "and", "7", "as", "``", "high", "''", "responses", "-LSB-", "6", "-RSB-", "and", "the", "use", "of", "5", ",", "6", ",", "and", "7", "as", "``", "high", "''", "responses", "-LSB-", "5", "-RSB-", "as", "well", "as", "other", "constructions", ":", "addition", "of", "raw", "scores", ",", "and", "a", "combination", "based", "on", "principal-components", "analysis", ".", "They", "have", "found", "that", "-LSB-", "6", "-RSB-", "better", "followed", "conditions", "-LSB-", "Slater", "et", "al.", "1994", "-RSB-", ",", "and", ",", "therefore", "they", "chose", "that", "construction", ".", "We", "found", "that", "the", "-LSB-", "5", "-RSB-", "construction", "better", "follows", "presence", "conditions", "but", "has", "lower", "correlations", "with", "our", "physiological", "measures", ".", "Therefore", ",", "in", "order", "to", "best", "follow", "the", "original", "intention", "of", "the", "measures", ",", "irrespective", "of", "the", "lower", "correlations", "with", "our", "measures", ",", "we", "choose", "the", "-LSB-", "5", "-RSB-", "construction", ".", "On", "the", "study", "for", "which", "data", "is", "published", ",", "Slater", "'s", "subjects", "rarely", "-LRB-", "<", "10", "%", "-RRB-", "reported", "``", "5", "''", "values", ";", "over", "25", "%", "of", "our", "subjects", "did", ".", "One", "explanation", "for", "this", "difference", "in", "subjects", "'", "reporting", "may", "be", "that", "university", "students", "today", "expect", "more", "technically", "of", "a", "VE", "than", "they", "did", "several", "years", "ago", "and", ",", "therefore", ",", "are", "more", "likely", "to", "report", "lower", "values", "-LRB-", "5s", "-RRB-", "even", "for", "the", "most", "presence-inducing", "VEs", ".", "Reported", "Behavioral", "Presence", ".", "Three", "questions", "asked", "subjects", "if", "they", "behaved", "as", "if", "present", "when", "in", "the", "VE", ".", "The", "count", "of", "high", "scores", "-LSB-", "5", "-RSB-", "on", "these", "questions", "made", "up", "the", "Reported", "Behavioral", "Presence", "measure", ".", "Multiple", "Exposures", "Passive", "Haptics", "Frame", "Rate", "Presence", "in", "VEs", "Does", "presence", "decrease", "with", "exposures", "?", "Passive", "Haptics", "increase", "presence", "?", "Higher", "Frame", "Rate", "increases", "presence", "?", "Reliability", "of", "Measures", "Are", "repeated", "measures", "highly", "correlated", "?", "Regardless", "of", "condition", ",", "will", "the", "Pit", "Room", "evoke", "similar", "physiological", "reactions", "on", "every", "exposure", "?", "Validity", "Do", "results", "correlate", "with", "reported", "measures", "?", "Sensitivity", "of", "Measures", "Do", "measures", "detect", "any", "effect", "?", "Do", "measures", "distinguish", "between", "2", "conditions", "?", "Do", "measures", "distinguish", "among", "4", "conditions", "?", "Table", "1", ".", "Questions", "investigated", "in", "each", "study", ".", "1.4", ".", "Methods", "and", "Procedures", "1.4.1", ".", "Experimental", "procedures", ".", "We", "conducted", "three", "experiments", ":", "Effects", "of", "Multiple", "Exposures", "on", "Presence", "-LRB-", "Multiple", "Exposures", "-RRB-", ",", "Effects", "of", "Passive", "Haptics", "on", "Presence", "-LRB-", "Passive", "Haptics", "-RRB-", ",", "and", "Effects", "of", "Frame", "Rate", "on", "Presence", "-LRB-", "Frame", "Rate", "-RRB-", ".", "Each", "of", "the", "three", "studies", "investigated", "some", "interesting", "aspect", "of", "VEs", "and", "the", "properties", "of", "the", "physiological", "measures", "themselves", ".", "Table", "1", "summarizes", "all", "the", "questions", "studied", ".", "For", "all", "studies", "we", "excluded", "subjects", "who", "had", "previously", "experienced", "VEs", "more", "than", "three", "times", ".", "The", "experiments", "were", "also", "limited", "to", "subjects", "who", "were", "ambulatory", ",", "could", "use", "stereopsis", "for", "depth", "perception", ",", "had", "no", "history", "of", "epilepsy", "or", "seizure", ",", "were", "not", "overly", "prone", "to", "motion", "sickness", ",", "were", "in", "their", "usual", "state", "of", "good", "physical", "fitness", "at", "the", "time", "of", "the", "experiment", ",", "and", "were", "comfortable", "with", "the", "equipment", ".", "Multiple", "Exposures", ":", "10", "subjects", "-LRB-", "average", "age", "24.4", ";", "=", "8.2", ";", "7", "female", ",", "3", "male", "-RRB-", "were", "trained", "to", "pick", "up", "books", "and", "move", "about", "in", "the", "Training", "Room", "at", "which", "time", "a", "physiological", "baseline", "was", "taken", ".", "Subjects", "then", "carried", "a", "virtual", "book", "from", "the", "Training", "Room", "and", "placed", "it", "on", "a", "virtual", "chair", "on", "the", "far", "side", "of", "the", "Pit", "Room", ".", "After", "that", ",", "they", "returned", "to", "the", "Training", "Room", ".", "The", "subjects", "performed", "this", "task", "three", "times", "per", "day", "on", "four", "separate", "days", ".", "We", "investigated", "whether", "the", "presence-evoking", "power", "of", "a", "VE", "declines", "with", "multiple", "exposures", ".", "Heart", "Rate", "was", "not", "successfully", "measured", "in", "this", "study", "due", "to", "problems", "with", "the", "sensor", ".", "Figure", "4", ".", "Subject", "in", "slippers", "with", "toes", "over", "1.5-inch", "ledge", ".", "Passive", "Haptics", ":", "52", "subjects", "-LRB-", "average", "age", "21.4", ";", "=", "4.3", ";", "16", "female", ",", "36", "male", "-RRB-", "reported", "on", "two", "days", ".", "Subjects", "experienced", "the", "VE", "with", "the", "1.5-inch", "wooden", "ledge", "on", "one", "of", "their", "two", "days", ".", "The", "1.5-inch", "height", "was", "selected", "so", "that", "the", "edge-probing", "foot", "did", "not", "normally", "contact", "the", "real", "laboratory", "floor", "where", "the", "virtual", "pit", "was", "seen", ".", "On", "their", "other", "day", ",", "subjects", "experienced", "the", "VE", "without", "the", "ledge", ".", "Subjects", "were", "counterbalanced", "as", "to", "the", "order", "of", "presentation", "of", "the", "physical", "ledge", ".", "Subjects", "performed", "all", "exposures", "to", "the", "VE", "wearing", "only", "thin", "sock-like", "slippers", "-LRB-", "Figure", "4", "-RRB-", ".", "The", "task", "was", "the", "same", "as", "in", "the", "Multiple", "Exposures", "study", "except", "subjects", "were", "instructed", "to", "walk", "to", "the", "edge", "of", "the", "wooden", "platform", ",", "place", "their", "toes", "over", "the", "edge", ",", "and", "count", "to", "ten", "before", "they", "proceeded", "to", "the", "chair", "on", "the", "far", "side", "of", "the", "room", "to", "drop", "the", "book", ".", "We", "investigated", "whether", "the", "1.5-inch", "wooden", "ledge", "increased", "the", "presence-evoking", "power", "of", "the", "VE", ".", "Frame", "Rate", ":", "33", "participants", "-LRB-", "average", "age", "22.3", ";", "=", "3.6", ";", "8", "female", ",", "25", "male", "-RRB-", "entered", "the", "VE", "four", "times", "on", "one", "day", "and", "were", "presented", "the", "same", "VE", "with", "a", "different", "frame", "rate", "each", "time", ".", "The", "four", "frame", "rates", "were", "10", ",", "15", ",", "20", ",", "and", "30", "frames-per-second", "-LRB-", "FPS", "-RRB-", ".", "Subjects", "were", "counterbalanced", "as", "to", "the", "order", "of", "presentation", "of", "the", "four", "All", "exposures", "First", "Exposure", "Only", "-LRB-", "Between", "Subjects", "-RRB-", "Study", "Variable", "Mean", "P", "%", ">", "0", "N", "Mean", "P", "%", ">", "0", "N", "Skin", "Conductance", "2.3", "mSiemens", "<", ".001", "99", "%", "112", "2.9", "mSiemens", ".002", "100", "%", "9", "Multiple", "Exposures", "Skin", "Temperature", "0.6", "o", "F", "<", ".001", "77", "%", "94", "1.2", "o", "F", ".015", "100", "%", "7", "Heart", "Rate", "6.3", "BPM", "<", ".001", "89", "%", "92", "6.2", "BPM", "<", ".001", "85", "%", "46", "Skin", "Conductance", "4.8", "mSiemens", "<", ".001", "100", "%", "100", "4.7", "mSiemens", "<", ".001", "100", "%", "50", "Passive", "Haptics", "Skin", "Temperature", "1.1", "o", "F", "<", ".001", "90", "%", "98", "1.1", "o", "F", "<", ".001", "94", "%", "49", "Heart", "Rate", "6", ".", "3", "BPM", "<", ".001", "91", "%", "132", "8.1", "BPM", "<", ".001", "91", "%", "33", "Skin", "Conductance", "2.0", "mSiemens", "<", ".001", "87", "%", "132", "2.6", "mSiemens", "<", ".001", "97", "%", "33", "Frame", "Rate", "Skin", "Temperature", "0.8", "o", "F", "<", ".001", "100", "%", "132", "1.0", "o", "F", "<", ".001", "100", "%", "33", "Table", "2", ".", "Summary", "of", "means", "and", "significance", "of", "differences", "-LRB-", "-RRB-", "between", "Training", "Room", "and", "Pit", "Room", ".", "The", "mean", ",", "P-value", "for", "the", "one-sample", "t-test", ",", "percentage", "of", "times", "the", "measure", "was", ">", "0", ",", "and", "number", "of", "samples", "are", "shown", ".", "The", "left", "side", "shows", "the", "means", "and", "significances", "of", "all", "exposures", ".", "The", "right", "side", "shows", "these", "for", "only", "subjects", "'", "first", "exposures", ".", "The", "greater", "mean", "is", "shown", "in", "bold", ".", "647", "frame", "rates", ".", "Subjects", "were", "trained", "to", "pick", "up", "and", "drop", "blocks", "in", "the", "Training", "Room", "and", "then", "carried", "a", "red", "block", "to", "the", "Pit", "Room", "and", "dropped", "it", "on", "a", "red", "X-target", "on", "the", "floor", "of", "the", "Living", "Room", ",", "a", "procedural", "improvement", "that", "forced", "subjects", "to", "look", "down", "into", "the", "pit", ".", "They", "then", "plucked", "from", "the", "air", "two", "other", "colored", "blocks", "floating", "in", "the", "Pit", "Room", "and", "dropped", "each", "on", "the", "correspondingly-colored", "Xs", "on", "the", "floor", "of", "the", "Living", "Room", ".", "The", "X-targets", "and", "the", "green", "and", "blue", "blocks", "are", "visible", "in", "Figures", "1", "and", "2", ".", "In", "this", "study", ",", "we", "investigated", "the", "effect", "of", "several", "different", "frame", "rates", "on", "presence", "and", "hypothesized", "that", "the", "higher", "the", "frame", "rate", ",", "the", "greater", "the", "presence", "evoked", ".", "In", "all", "three", "studies", ",", "the", "amount", "of", "physical", "activity", "-LRB-", "walking", ",", "manipulating", "objects", "-RRB-", "was", "approximately", "balanced", "between", "the", "Pit", "and", "Training", "Rooms", ".", "This", "lessened", "any", "difference", "between", "the", "two", "rooms", "in", "physiological", "reaction", "due", "to", "physical", "activity", ".", "1.4.2", ".", "Statistics", "In", "this", "paper", ",", "we", "define", "statistical", "significance", "at", "the", "5", "%", "level", ",", "i.e.", "P", "<", "0.050", ".", "Findings", "significant", "at", "the", "5", "%", "level", "are", "discussed", "as", "``", "demonstrated", "''", "or", "``", "shown", "''", ".", "To", "find", "the", "best", "statistical", "model", "for", "each", "measure", ",", "we", "used", "Stepwise", "Selection", "and", "Elimination", "as", "described", "by", "Kleinbaum", "et", "al.", "-LSB-", "1998", "-RSB-", ".", "As", "they", "suggest", ",", "to", "account", "better", "-LRB-", "statistically", "-RRB-", "for", "variation", "in", "the", "dependent", "variable", "-LRB-", "e.g.", ",", "Heart", "Rate", "-RRB-", ",", "we", "included", "all", "variables", "in", "the", "statistical", "models", "that", "were", "significant", "at", "the", "P", "<", "0.100", "level", ".", "The", "analysis", "of", "differences", "in", "physiological", "reaction", "between", "the", "Pit", "Room", "and", "the", "Training", "Room", "for", "all", "studies", "-LRB-", "Table", "2", "-RRB-", "was", "performed", "with", "a", "One-Sample", "T-Test", ".", "The", "correlations", "among", "measures", "were", "performed", "using", "the", "Bivariate", "Pearson", "Correlation", ".", "We", "analyzed", "order", "effects", "and", "the", "effects", "on", "presence", "of", "passive", "haptics", "and", "frame", "rate", "with", "the", "Univariate", "General", "Linear", "Model", ",", "using", "the", "repeated", "measure", "technique", "described", "in", "the", "SAS", "6.0", "Manual", "-LSB-", "SAS", "1990", "-RSB-", ".", "This", "technique", "allows", "one", "to", "investigate", "the", "effect", "of", "the", "condition", "while", "taking", "into", "account", "inter-subject", "variation", ",", "order", "effects", ",", "and", "the", "effects", "of", "factors", "that", "change", "from", "exposure", "to", "exposure", "such", "as", "loss", "of", "balance", "on", "the", "1.5-inch", "ledge", ".", "Section", "2", "details", "our", "evaluation", "of", "physiological", "measures", "as", "a", "surrogate", "for", "presence", ".", "In", "Section", "3", ",", "we", "analyze", "physiological", "reactions", "as", "between-subject", "measures", ".", "In", "Section", "4", ",", "we", "summarize", "the", "results", "as", "they", "pertain", "to", "interesting", "aspects", "of", "VEs", ".", "In", "this", "section", ",", "we", "discuss", "the", "reliability", ",", "validity", ",", "sensitivity", ",", "and", "objectivity", "of", "the", "physiological", "measures", ".", "2.1", ".", "Reliability", "Reliability", "is", "``", "the", "extent", "to", "which", "the", "same", "test", "applied", "on", "different", "occasions", "...", "yields", "the", "same", "result", "''", "-LSB-", "Sutherland", "1996", "-RSB-", ".", "Specifically", ",", "we", "wanted", "to", "know", "whether", "the", "virtual", "environment", "would", "consistently", "evoke", "similar", "physiological", "reactions", "as", "the", "subject", "entered", "and", "remained", "in", "the", "Pit", "Room", "on", "several", "occasions", ".", "Inconsistency", "could", "manifest", "itself", "as", "either", "a", "systematic", "increase", "or", "decrease", "in", "reactions", "or", "in", "uncorrelated", "measures", "for", "repeated", "exposure", "to", "the", "same", "VE", ".", "In", "the", "Multiple", "Exposures", "study", "the", "condition", "was", "the", "same", "each", "time", ",", "so", "this", "was", "our", "purest", "measure", "of", "reliability", ".", "We", "also", "hypothesized", "that", "in", "the", "Passive", "Haptics", "and", "Frame", "Rate", "studies", ",", "regardless", "of", "condition", ",", "that", "the", "Pit", "Room", "would", "also", "evoke", "similar", "physiological", "reactions", "on", "every", "exposure", ".", "We", "hypothesized", "that", "simply", "being", "exposed", "to", "the", "Pit", "Room", "would", "cause", "a", "greater", "physiological", "reaction", "than", "the", "difference", "between", "``", "high", "''", "and", "``", "low", "''", "presence", "conditions", ".", "Therefore", ",", "all", "three", "studies", "provide", "information", "on", "reliability", ".", "As", "we", "hypothesized", ",", "the", "environment", "consistently", "evoked", "physiological", "reactions", "over", "multiple", "exposures", "to", "the", "Pit", "Room", ".", "When", "analyzing", "the", "data", "from", "all", "exposures", ",", "we", "found", "there", "were", "significant", "physiological", "reactions", "to", "the", "Pit", "Room", ":", "heart", "rate", "and", "skin", "conductance", "were", "significantly", "higher", "and", "skin", "temperature", "was", "significantly", "lower", "in", "the", "Pit", "Room", "in", "all", "three", "studies", ".", "Heart", "rate", "was", "higher", "in", "the", "Pit", "Room", "for", "90", "%", "of", "the", "exposures", "to", "the", "VE", ",", "skin", "conductance", "was", "higher", "for", "nearly", "95", "%", ",", "and", "skin", "temperature", "was", "lower", "for", "90", "%", ".", "Table", "2", "shows", "the", "mean", "difference", ",", "t-test", ",", "percentage", "of", "occurrences", "where", "the", "measure", "was", "above", "zero", ",", "and", "the", "total", "count", "for", "each", "physiological", "measure", "for", "each", "study", ".", "It", "shows", "results", "both", "for", "all", "exposures", "taken", "together", ",", "which", "is", "the", "approach", "discussed", "for", "most", "of", "the", "paper", ",", "and", "for", "analysis", "of", "the", "first", "exposure", "only", ",", "which", "we", "discuss", "in", "Section", "4", ".", "We", "also", "wanted", "to", "know", "whether", "the", "physiological", "reactions", "to", "the", "environment", "would", "diminish", "over", "multiple", "exposures", ".", "Since", "our", "hypotheses", "relied", "on", "presence", "in", "the", "VE", "evoking", "a", "stress", "reaction", "over", "multiple", "exposures", "-LRB-", "2-12", "exposures", "-RRB-", ",", "we", "wanted", "to", "know", "whether", "physiological", "reactions", "to", "the", "VE", "would", "drop", "to", "zero", "or", "become", "unusably", "small", "due", "to", "habituation", ".", "In", "fact", ",", "Skin", "Temperature", ",", "Reported", "Presence", ",", "Reported", "Behavioral", "Presence", ",", "and", "Heart", "Rate", "each", "decreased", "with", "multiple", "exposures", "in", "every", "study", "-LRB-", "although", "this", "effect", "was", "not", "always", "statistically", "significant", "-RRB-", ",", "and", "Skin", "Conductance", "decreased", "in", "all", "but", "one", "study", ".", "None", "decreased", "to", "zero", ",", "though", ",", "even", "after", "twelve", "exposures", "to", "the", "VE", ".", "Table", "3", "shows", "the", "significant", "order", "effects", ".", "A", "decrease", "in", "physiological", "reaction", "over", "multiple", "exposures", "would", "not", "necessarily", "weaken", "validity", ",", "since", "the", "literature", "shows", "that", "habituation", "diminishes", "the", "stress", "reactions", "to", "real", "heights", "and", "other", "stressors", "-LSB-", "Abelson", "and", "Curtis", ",", "1989", ";", "Andreassi", "1995", "-RSB-", ".", "Since", ",", "however", ",", "the", "reported", "presence", "measures", ",", "not", "just", "the", "physiological", "stress", "measures", ",", "decrease", "over", "multiple", "exposures", ",", "the", "decreases", "may", "not", "be", "due", "to", "habituation", "to", "the", "stressor", ";", "there", "may", "also", "be", ",", "as", "Heeter", "hypothesized", ",", "a", "decrease", "in", "a", "VE", "'s", "ability", "to", "evoke", "presence", "as", "novelty", "wears", "off", "-LSB-", "Heeter", "1992", "-RSB-", ".", "Orienting", "Effect", ".", "In", "general", ",", "each", "measure", "decreased", "after", "the", "first", "exposure", ".", "Moreover", ",", "for", "each", "measure", "except", "Heart", "Rate", ",", "there", "was", "a", "significant", "decrease", "after", "the", "first", "exposure", "in", "at", "least", "one", "of", "the", "studies", "-LRB-", "see", "Table", "3", "-RRB-", ".", "For", "physiological", "responses", ",", "this", "is", "called", "an", "orienting", "effect", "a", "higher", "physiological", "reaction", "when", "one", "sees", "something", "novel", "-LSB-", "Andreassi", "1995", "-RSB-", ".", "Though", "this", "term", "traditionally", "refers", "to", "physiological", "reactions", ",", "we", "will", "also", "use", "the", "term", "for", "the", "initial", "spike", "in", "the", "reported", "measures", ".", "We", "attempted", ",", "with", "only", "partial", "success", ",", "to", "overcome", "the", "orienting", "effect", "by", "exposing", "subjects", "to", "the", "environment", "once", "as", "part", "of", "their", "orientation", "to", "the", "experimental", "setup", "and", "prior", "to", "the", "data-gathering", "portion", "of", "the", "experiment", ".", "In", "the", "Passive", "Haptics", "and", "Frame", "Rate", "studies", ",", "subjects", "entered", "the", "VE", "for", "approximately", "two", "Order", "Effects", "Heart", "Rate", "-LRB-", "BPM", "-RRB-", "Skin", "Conductance", "-LRB-", "mSiemens", "-RRB-", "Skin", "Temperature", "-LRB-", "o", "F", "-RRB-", "Reported", "Presence", "-LRB-", "Count", "``", "high", "''", "-RRB-", "Reported", "Behavioral", "Presence", "-LRB-", "Count", "``", "high", "''", "-RRB-", "Multiple", "Exposures", "NA", "-0.7", "-LRB-", "1", "st", "-RRB-", "-0.9", "-LRB-", "1", "st", "-RRB-", "-0.7", "-LRB-", "1", "st", "-RRB-", "Passive", "Haptics", "-", "-", "-0.8", "-LRB-", "1", "st", "-RRB-", "-0.4", "-LRB-", "1", "st", "-RRB-", "Frame", "Rate", "-1.0", "-LRB-", "Task", "-RRB-", "-0.8", "-LRB-", "1", "st", "-RRB-", "-0.3", "-LRB-", "1", "st", "-RRB-", "-0.2", "-LRB-", "Task", "-RRB-", "Table", "3", ".", "Significant", "order", "effects", "for", "each", "measure", "in", "each", "study", ".", "''", "-LRB-", "1", "st", "-RRB-", "''", "indicates", "a", "decrease", "after", "the", "first", "exposure", "only", ".", "''", "-LRB-", "Task", "-RRB-", "''", "indicates", "a", "decrease", "over", "tasks", "on", "the", "same", "day", ".", "There", "was", "an", "order", "effect", "for", "each", "measure", "in", "at", "least", "one", "study", ".", "NA", "is", "``", "Not", "available", "''", ".", "Significant", "results", "are", "listed", "at", "the", "P", "<", "0.050", "level", "-LRB-", "bold", "-RRB-", "and", "P", "<", "0.100", "-LRB-", "normal", "text", "-RRB-", ".", "Full", "details", "given", "in", "-LSB-", "Meehan", "2001", "-RSB-", ".", "648", "minutes", "and", "were", "shown", "both", "virtual", "rooms", "before", "the", "experiment", "started", ".", "These", "pre-exposures", "reduced", "but", "did", "not", "eliminate", "the", "orienting", "effects", ".", "2.2", ".", "Validity", "Validity", "is", "``", "the", "extent", "to", "which", "a", "test", "or", "experiment", "genuinely", "measures", "what", "it", "purports", "to", "measure", "''", "-LSB-", "Sutherland", "1996", "-RSB-", ".", "The", "concept", "of", "presence", "has", "been", "operationalized", "in", "questionnaires", "so", "the", "validity", "of", "the", "physiological", "measures", "can", "be", "established", "by", "investigating", "how", "well", "the", "physiological", "reactions", "correlate", "with", "one", "or", "more", "of", "the", "questionnaire-based", "measures", "of", "presence", ".", "We", "investigated", "their", "correlations", "with", "two", "such", "measures", ":", "Reported", "Presence", "and", "Reported", "Behavioral", "Presence", ".", "Reported", "Presence", ".", "Of", "the", "physiological", "measures", ",", "Heart", "Rate", "correlated", "best", "with", "the", "Reported", "Presence", ".", "There", "was", "a", "significant", "correlation", "in", "the", "Frame", "Rate", "study", "-LRB-", "corr", ".", "=", "0.265", ",", "P", "<", "0.005", "-RRB-", "and", "no", "correlation", "-LRB-", "corr", ".", "=", "0.034", ",", "P", "=", "0.743", "-RRB-", "in", "the", "Passive", "Haptics", "study", ".", "In", "the", "Multiple", "Exposures", "study", ",", "where", "Heart", "Rate", "was", "not", "available", ",", "Skin", "Conductance", "had", "the", "highest", "correlation", "with", "Reported", "Presence", "-LRB-", "corr", ".", "=", "0.245", ",", "P", "<", "0.010", "-RRB-", ".", "Reported", "Behavioral", "Presence", ".", "Heart", "Rate", "had", "the", "highest", "correlation", ",", "and", "a", "significant", "one", ",", "with", "Reported", "Behavioral", "Presence", "in", "the", "Frame", "Rate", "study", "-LRB-", "corr", ".", "=", "0.192", ",", "P", "<", "0.050", "-RRB-", ",", "and", "there", "was", "no", "correlation", "between", "the", "two", "-LRB-", "corr", ".", "=", "0.004", ",", "P", "=", "0.972", "-RRB-", "in", "the", "Passive", "Haptics", "study", ".", "In", "the", "Multiple", "Exposures", "study", ",", "where", "Heart", "Rate", "was", "not", "measured", ",", "Skin", "Conductance", "had", "the", "highest", "correlation", "with", "reported", "behavioral", "presence", "-LRB-", "corr", ".", "=", "0.290", ",", "P", "<", "0.005", "-RRB-", ".", "The", "correlations", "of", "the", "physiological", "measures", "with", "the", "reported", "measures", "give", "some", "support", "to", "their", "validities", ".", "The", "validity", "of", "Heart", "Rate", "appears", "to", "be", "better", "established", "by", "its", "correlation", "with", "the", "well-established", "reported", "measures", ".", "There", "was", "also", "some", "support", "for", "the", "validity", "of", "Skin", "Conductance", "from", "its", "correlation", "with", "reported", "measures", ".", "Following", "hypothesized", "relationships", ".", "According", "to", "Singleton", ",", "the", "validation", "process", "includes", "``", "examining", "the", "theory", "underlying", "the", "concept", "being", "measured", ",", "''", "and", "``", "the", "more", "evidence", "that", "supports", "the", "hypothesized", "relationships", "-LSB-", "between", "the", "measure", "and", "the", "underlying", "concept", "-RSB-", ",", "the", "greater", "one", "'s", "confidence", "that", "a", "particular", "operational", "definition", "is", "a", "valid", "measure", "of", "the", "concept", "''", "-LSB-", "Singleton", "et", "al.", "1993", "-RSB-", ".", "We", "hypothesized", "that", "presence", "should", "increase", "with", "frame", "rate", "and", "with", "the", "inclusion", "of", "the", "1.5-inch", "wooden", "ledge", ",", "since", "each", "of", "these", "conditions", "provides", "increased", "sensory", "stimulation", "fidelity", ".", "As", "presented", "in", "the", "next", "section", ",", "our", "physiological", "measures", "did", "increase", "with", "frame", "rate", "and", "with", "inclusion", "of", "the", "1.5-inch", "wooden", "ledge", ".", "This", "helps", "validate", "the", "physiological", "reactions", "as", "measures", "of", "presence", ".", "2.3", ".", "Sensitivity", "and", "multi-level", "sensitivity", "Sensitivity", "is", "``", "the", "likelihood", "that", "an", "effect", ",", "if", "present", ",", "will", "be", "detected", "''", "-LSB-", "Lipsey", "1998", "-RSB-", ".", "The", "fact", "that", "the", "physiological", "measures", "reliably", "distinguished", "between", "subjects", "reaction", "in", "the", "Pit", "Room", "versus", "the", "Training", "Room", "in", "every", "study", "assured", "us", "of", "at", "least", "a", "minimal", "sensitivity", ".", "For", "example", ",", "heart", "rate", "increased", "an", "average", "across", "all", "conditions", "of", "6.3", "beats", "/", "minute", "-LRB-", "BPM", "-RRB-", "in", "the", "Pit", "Room", "-LRB-", "P", "<", "0.001", "-RRB-", "compared", "to", "the", "Training", "Room", "in", "both", "the", "Passive", "Haptics", "and", "Frame", "Rate", "studies", ".", "See", "Table", "2", "for", "a", "full", "account", "of", "sensitivity", "of", "physiological", "measures", "to", "the", "difference", "between", "the", "two", "rooms", ".", "Acrophobic", "patients", "'", ",", "when", "climbing", "to", "the", "second", "story", "of", "a", "fire", "escape", "-LRB-", "with", "a", "handrail", "-RRB-", ",", "waiting", "one", "minute", ",", "and", "looking", "down", ",", "averaged", "an", "increase", "in", "heart", "rate", "of", "13.4", "BPM", "-LSB-", "Emmelkamp", "and", "Felten", "1985", "-RSB-", ".", "Our", "subjects", "were", "non-phobic", ",", "and", "our", "height", "was", "virtual", ";", "so", ",", "we", "would", "expect", ",", "and", "did", "find", ",", "our", "subjects", "'", "heart", "rate", "reactions", "to", "be", "lower", "but", "in", "the", "same", "direction", ".", "Multi-level", "sensitivity", ".", "For", "guiding", "VE", "technological", "development", "and", "for", "better", "understanding", "of", "the", "psychological", "phenomena", "of", "VEs", ",", "we", "need", "a", "measure", "that", "reliably", "yields", "a", "higher", "value", "as", "a", "VE", "is", "improved", "along", "some", "``", "goodness", "''", "dimension", ",", "i.e.", ",", "is", "sensitive", "to", "multiple", "condition", "values", ".", "We", "distinguish", "this", "from", "sensitivity", "as", "described", "above", "and", "call", "this", "multi-level", "sensitivity", ".", "The", "Passive", "Haptics", "study", "provided", "us", "some", "evidence", "of", "the", "measures", "'", "ability", "to", "discriminate", "between", "two", "``", "high", "presence", "''", "situations", ".", "We", "have", "informally", "observed", "that", "walking", "into", "the", "Pit", "Room", "causes", "a", "strong", "reaction", "in", "users", ",", "and", "this", "reaction", "seems", "greater", "in", "magnitude", "than", "the", "differences", "in", "reaction", "to", "the", "Pit", "Room", "between", "any", "two", "experimental", "conditions", "-LRB-", "e.g.", ",", "with", "and", "without", "the", "1.5-inch", "wooden", "ledge", "-RRB-", ".", "Therefore", ",", "we", "expected", "the", "differences", "in", "reaction", "among", "the", "conditions", "to", "be", "less", "than", "the", "differences", "between", "the", "two", "rooms", ".", "For", "example", ",", "in", "Passive", "Haptics", ",", "we", "expected", "there", "to", "be", "a", "significant", "difference", "in", "the", "physiological", "measures", "between", "the", "two", "conditions", "-LRB-", "with", "and", "without", "the", "1.5-inch", "wooden", "ledge", "-RRB-", ",", "but", "expected", "it", "to", "be", "less", "than", "the", "difference", "between", "the", "Training", "Room", "and", "Pit", "Room", "in", "the", "``", "lower", "''", "presence", "condition", "-LRB-", "without", "the", "1.5-inch", "wooden", "ledge", "-RRB-", ".", "For", "Heart", "Rate", ",", "we", "did", "find", "a", "significant", "difference", "between", "the", "two", "conditions", "of", "2.7", "BPM", "-LRB-", "P", "<", "0.050", "-RRB-", ",", "and", "it", "was", "less", "than", "the", "inter-room", "difference", "for", "the", "without-ledge", "condition", ":", "4.9", "BPM", ".", "See", "Figure", "5", ".", "Figure", "6", "shows", "that", "the", "differences", "among", "the", "conditions", "in", "the", "FR", "study", "are", "smaller", "in", "magnitude", "as", "compared", "to", "the", "differences", "between", "the", "two", "rooms", ".", "0", "2", "4", "6", "8", "10", "No", "Physical", "Ledge", "With", "Physical", "Ledge", "Change", "in", "beats/minute", "2.7", ",", "P", "<", "0.050", "4.9", ",", "P", "<", "0.001", "7.6", ",", "P", "<", "0.001", "Figure", "5", ".", "Heart", "Rate", "in", "Passive", "Haptics", "study", ".", "In", "the", "Passive", "Haptics", "study", ",", "we", "investigated", "the", "multi-level", "sensitivity", "of", "the", "measures", "by", "testing", "whether", "presence", "was", "significantly", "higher", "with", "the", "1.5-inch", "wooden", "ledge", ".", "Presence", "as", "measured", "by", "each", "of", "Heart", "Rate", "-LRB-", "2.7", "BPM", ";", "P", "<", "0.050", "-RRB-", ",", "Skin", "Conductance", "-LRB-", "0.8", "mSiemens", ";", "P", "<", "0.050", "-RRB-", ",", "and", "Reported", "Behavioral", "Presence", "-LRB-", "0.5", "more", "``", "high", "''", "responses", ";", "P", "<", "0.005", "-RRB-", "was", "significantly", "higher", "with", "the", "wooden", "ledge", ".", "Reported", "Presence", "had", "a", "strong", "trend", "in", "the", "same", "direction", "-LRB-", "0.5", "more", "``", "high", "''", "responses", ";", "P", "=", "0.060", "-RRB-", ".", "In", "the", "Frame", "Rate", "study", ",", "we", "investigated", "the", "multi-level", "sensitivity", "of", "the", "measures", "by", "testing", "whether", "presence", "increased", "significantly", "as", "graphic", "frame", "update", "rates", "increased", ".", "We", "hypothesized", "that", "physiological", "reactions", "would", "increase", "monotonically", "with", "frame", "rates", "of", "10", ",", "15", ",", "20", ",", "and", "30", "FPS", ".", "They", "did", "not", "do", "exactly", "that", "-LRB-", "see", "Figure", "6", "-RRB-", ".", "During", "the", "10", "FPS", "condition", ",", "there", "was", "an", "anomalous", "reaction", "for", "all", "of", "the", "physiological", "measures", "and", "for", "Reported", "Behavioral", "Presence", ".", "That", "is", ",", "at", "10", "FPS", ",", "subjects", "had", "higher", "physiological", "reaction", "and", "reported", "more", "behavioral", "presence", ".", "We", "believe", "that", "this", "reaction", "at", "10", "FPS", "was", "due", "to", "discomfort", ",", "added", "lag", ",", "and", "reduced", "temporal", "fidelity", "while", "in", "the", "ostensibly", "dangerous", "situation", "of", "walking", "next", "to", "a", "20-foot", "pit", "-LSB-", "Meehan", "2001", "-RSB-", ".", "649", "We", "also", "observed", "that", "subjects", "often", "lost", "their", "balance", "while", "trying", "to", "inch", "to", "the", "edge", "of", "the", "wooden", "platform", "at", "this", "low", "frame", "rate", ";", "their", "heart", "rate", "jumped", "an", "average", "of", "3.5", "BPM", "each", "time", "they", "lost", "their", "balance", "-LRB-", "P", "<", "0.050", "-RRB-", ".", "Statistically", "controlling", "for", "these", "Loss", "of", "Balance", "incidents", "improved", "the", "significance", "of", "the", "statistical", "model", "for", "Heart", "Rate", "and", "brought", "the", "patterns", "of", "responses", "closer", "to", "the", "hypothesized", "monotonic", "increase", "in", "presence", "with", "frame", "rate", "but", "did", "not", "completely", "account", "for", "the", "increased", "physiological", "reaction", "at", "10", "FPS", ".", "Loss", "of", "Balance", "was", "not", "significant", "in", "any", "other", "model", ".", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "10", "15", "20", "30", "Frame", "Rate", "Change", "in", "beats/minute", "Figure", "6", ".", "heart", "rate", ",", "after", "correcting", "for", "Loss", "of", "Balance", ",", "at", "10", ",", "15", ",", "20", ",", "and", "30", "frames", "per", "second", ".", "Beyond", "10", "FPS", ",", "Heart", "Rate", "followed", "the", "hypothesis", ".", "After", "we", "statistically", "controlled", "for", "Loss", "of", "Balance", ",", "Heart", "Rate", "significantly", "increased", "between", "15", "FPS", "and", "30", "FPS", "-LRB-", "3.2", "BPM", ";", "P", "<", "0.005", "-RRB-", "and", "between", "15", "FPS", "and", "20", "FPS", "-LRB-", "2.4", "BPM", ";", "P", "<", "0.050", "-RRB-", ".", "There", "was", "also", "a", "non-significant", "increase", "between", "20", "FPS", "and", "30", "FPS", "-LRB-", "0.7", "BPM", ";", "P", "=", "0.483", "-RRB-", "and", "a", "non-significant", "decrease", "between", "10", "FPS", "and", "15", "FPS", "-LRB-", "1.6", "BPM", ";", "P", "=", "0.134", "-RRB-", ".", "Reported", "Presence", ",", "and", "Reported", "Behavioral", "Presence", "also", "increased", "with", "frame", "rate", "from", "15-20-30", "FPS", ",", "but", "with", "less", "distinguishing", "power", ".", "These", "findings", "support", "the", "multi-level", "sensitivity", "of", "Heart", "Rate", ".", "2.4", ".", "Objectivity", "The", "measure", "properties", "of", "reliability", ",", "validity", ",", "and", "multi-level", "sensitivity", "are", "established", "quantitatively", ".", "Objectivity", "can", "only", "be", "argued", "logically", ".", "We", "argue", "that", "physiological", "measures", "are", "inherently", "better", "shielded", "from", "both", "subject", "bias", "and", "experimenter", "bias", "than", "are", "either", "reported", "measures", "or", "measures", "based", "on", "behavior", "observations", ".", "Reported", "measures", "are", "liable", "to", "subject", "bias", "the", "subject", "reporting", "what", "he", "believes", "the", "experimenter", "wants", ".", "Post-experiment", "questionnaires", "are", "also", "vulnerable", "to", "inaccurate", "recollection", "and", "to", "modification", "of", "impressions", "garnered", "early", "in", "a", "run", "by", "impressions", "from", "later", ".", "Having", "subjects", "report", "during", "the", "session", ",", "whether", "by", "voice", "report", "or", "by", "hand-held", "instrument", ",", "intrudes", "on", "the", "very", "presence", "illusion", "one", "is", "trying", "to", "measure", ".", "Behavioral", "measures", ",", "while", "not", "intrusive", ",", "are", "subject", "to", "bias", "on", "the", "part", "of", "the", "experimenters", "who", "score", "the", "behaviors", ".", "Physiological", "measures", ",", "on", "the", "other", "hand", ",", "are", "much", "harder", "for", "subjects", "to", "affect", ",", "especially", "with", "no", "biofeedback", ".", "These", "measures", "are", "not", "liable", "to", "experimenter", "bias", ",", "if", "instructions", "given", "to", "the", "participants", "are", "properly", "limited", "and", "uniform", ".", "We", "read", "instructions", "from", "a", "script", "in", "the", "Multiple", "Exposures", "study", ".", "We", "improved", "our", "procedure", "in", "the", "later", "Passive", "Haptics", "and", "Frame", "Rate", "studies", "by", "playing", "instructions", "from", "a", "compact", "disk", "player", "located", "in", "the", "real", "laboratory", "and", "represented", "by", "a", "virtual", "radio", "in", "the", "VE", ".", "2.5", ".", "Summary", "and", "discussion", "The", "data", "presented", "here", "show", "that", "physiological", "reactions", "can", "be", "used", "as", "reliable", ",", "valid", ",", "multi-level", "sensitive", ",", "and", "objective", "measures", "of", "presence", "in", "stressful", "VEs", ".", "Of", "the", "physiological", "measures", ",", "Heart", "Rate", "performed", "the", "best", ".", "There", "was", "also", "some", "support", "for", "Skin", "Conductance", ".", "Heart", "Rate", "significantly", "differentiated", "between", "the", "Training", "Room", "and", "the", "Pit", "Room", ",", "and", "although", "this", "reaction", "faded", "over", "multiple", "exposures", ",", "it", "never", "decreased", "to", "zero", ".", "It", "correlated", "with", "the", "well-established", "reported", "measure", ",", "the", "UCL", "questionnaire", ".", "It", "distinguished", "between", "the", "presence", "and", "absence", "of", "passive", "haptics", "and", "among", "frame", "rates", "at", "and", "above", "15", "FPS", ".", "As", "we", "argued", "above", ",", "it", "is", "objective", ".", "In", "total", ",", "it", "satisfies", "all", "of", "the", "requirements", "for", "a", "reliable", ",", "valid", ",", "multi-level", "sensitive", ",", "and", "objective", "measure", "of", "presence", "in", "a", "stressful", "VE", ".", "Skin", "Conductance", "has", "some", ",", "but", "not", "all", ",", "of", "the", "properties", "we", "desire", "in", "a", "measure", "of", "presence", ".", "In", "particular", ",", "it", "did", "not", "differentiate", "among", "frame", "rates", ".", "We", "do", "not", "have", "a", "theory", "as", "to", "why", ".", "Although", ",", "Heart", "Rate", "satisfied", "the", "requirements", "for", "a", "presence", "measure", "for", "our", "VE", ",", "which", "evokes", "a", "strong", "reaction", ",", "it", "may", "not", "for", "less", "stressful", "VEs", ".", "To", "determine", "whether", "physiological", "reaction", "can", "more", "generally", "measure", "presence", ",", "a", "wider", "range", "of", "VEs", "must", "be", "tested", ",", "including", "less", "stressful", ",", "non-stressful", ",", "and", "relaxing", "environments", ".", "Investigation", "is", "currently", "under", "way", "to", "look", "at", "physiological", "reaction", "in", "relaxing", "3D", "Television", "environments", "-LSB-", "Dillon", "et", "al.", "2001", "-RSB-", ".", "The", "height", "reaction", "elicited", "by", "our", "VE", "could", "be", "due", "to", "vertigo", ",", "fear", ",", "or", "other", "innate", "or", "learned", "response", ".", "The", "reactions", "are", "well", "known", "in", "the", "literature", "and", "manifest", "as", "increased", "heart", "rate", "and", "skin", "conductance", "and", "decreased", "skin", "temperature", "-LSB-", "Andreassi", "1995", ";", "Guyton", "1986", "-RSB-", ".", "We", "hypothesized", "that", "the", "more", "present", "a", "user", "feels", "in", "our", "stressful", "environment", ",", "the", "more", "physiological", "reaction", "the", "user", "will", "exhibit", ".", "What", "causes", "this", "higher", "presence", "and", "higher", "physiological", "reaction", "?", "Is", "it", "due", "to", "a", "more", "realistic", "flow", "of", "visual", "information", "?", "Is", "it", "due", "to", "more", "coherence", "between", "the", "visual", "and", "haptic", "information", "?", "Is", "it", "due", "to", "the", "improved", "visual", "realism", "?", "All", "of", "these", "are", "likely", "to", "improve", "presence", ".", "We", "can", "not", ",", "however", ",", "answer", "these", "questions", "definitively", ".", "We", "can", "say", ",", "though", ",", "that", "we", "have", "empirically", "shown", "that", "physiological", "reaction", "and", "reported", "presence", "are", "both", "higher", "when", "we", "present", "a", "``", "higher", "presence", "''", "VE", ".", "Whatever", "it", "is", "that", "causes", "the", "higher", "reported", "presence", "and", "physiological", "reaction", ",", "it", "causes", "more", "as", "we", "improve", "the", "VE", ".", "An", "additional", "desirable", "aspect", "of", "a", "measure", "is", "ease", "of", "use", "in", "the", "experimental", "setting", ".", "We", "did", "not", "record", "the", "time", "needed", "for", "each", "measure", ",", "but", "after", "running", "many", "subjects", "we", "can", "say", "with", "some", "confidence", "that", "use", "of", "the", "physiological", "monitoring", "and", "of", "the", "presence", "questionnaire", "each", "added", "approximately", "the", "same", "amount", "of", "time", "to", "the", "experiment", ".", "It", "took", "about", "five", "minutes", "per", "exposure", "to", "put", "on", "and", "take", "off", "the", "physiological", "sensors", ".", "It", "took", "about", "an", "extra", "minute", "at", "the", "beginning", "and", "end", "of", "each", "set", "of", "exposures", "to", "put", "on", "and", "take", "off", "the", "ECG", "sensor", "it", "was", "left", "on", "between", "exposures", "on", "the", "same", "day", ".", "It", "took", "subjects", "about", "five", "minutes", "to", "fill", "out", "the", "UCL", "Presence", "Questionnaire", ".", "It", "took", "some", "training", "for", "experimenters", "to", "learn", "the", "proper", "placement", "of", "the", "physiological", "equipment", "on", "the", "hands", "and", "chest", "of", "the", "subject", "thirty", "minutes", "would", "probably", "be", "sufficient", ".", "Another", "aspect", "of", "ease", "of", "use", "is", "the", "amount", "of", "difficulty", "participants", "have", "with", "the", "measure", "and", "to", "what", "extent", "the", "measure", ",", "if", "concurrent", "with", "an", "experimental", "task", ",", "interferes", "with", "the", "task", ".", "No", "subjects", "reported", "difficulties", "with", "the", "questionnaires", ".", "Only", "650", "about", "one", "in", "ten", "subjects", "reported", "noticing", "the", "physiological", "monitoring", "equipment", "on", "the", "hands", "during", "the", "VE", "exposures", ".", "Our", "experiment", ",", "though", ",", "was", "designed", "to", "use", "only", "the", "right", "hand", ",", "keeping", "the", "sensor-laden", "left", "hand", "free", "from", "necessary", "activity", ".", "No", "subjects", "reported", "noticing", "the", "ECG", "sensor", "once", "it", "was", "attached", "to", "the", "chest", ".", "In", "fact", ",", "many", "subjects", "reported", "forgetting", "about", "the", "ECG", "electrodes", "when", "prompted", "to", "take", "them", "off", "at", "the", "end", "of", "the", "day", ".", "There", "are", "groups", "investigating", "less", "cumbersome", "equipment", ",", "which", "would", "probably", "improve", "ease", "of", "use", ",", "including", "a", "physiological", "monitoring", "system", "that", "subjects", "wear", "like", "a", "shirt", "-LSB-", "Cowings", "et", "al.", "2001", "-RSB-", ".", "Overall", ",", "questionnaires", "and", "physiological", "monitoring", "were", "both", "easy", "to", "use", "and", "non-intrusive", ".", "We", "conducted", "all", "of", "the", "studies", "as", "within-subjects", "to", "avoid", "the", "variance", "due", "to", "natural", "human", "differences", ".", "That", "is", ",", "each", "subject", "experienced", "all", "of", "the", "conditions", "for", "the", "study", "in", "which", "she", "participated", ".", "This", "allowed", "us", "to", "look", "at", "relative", "differences", "in", "subject", "reaction", "among", "conditions", "and", "to", "overcome", "the", "differences", "among", "subjects", "in", "reporting", "and", "physiological", "reaction", ".", "The", "UCL", "questionnaire", "has", "been", "used", "successfully", "between-subjects", "-LSB-", "Usoh", "et", "al.", "1999", "-RSB-", ".", "We", "suspected", ",", "however", ",", "that", "physiological", "reaction", "would", "not", "perform", "as", "well", "if", "taken", "between-subjects", ".", "We", "expected", "the", "variance", "among", "subjects", "would", "mask", ",", "at", "least", "in", "part", ",", "the", "differences", "in", "physiological", "reaction", "evoked", "by", "the", "different", "conditions", ".", "We", "investigated", "this", "hypotheses", "by", "analyzing", "the", "data", "using", "only", "the", "first", "task", "for", "each", "subject", "eliminating", "order", "effects", "and", "treating", "the", "reduced", "data", "sets", "as", "between-subjects", "experiments", ".", "That", "is", ",", "we", "treat", "each", "experiment", "as", "if", "only", "the", "first", "task", "for", "each", "subject", "was", "run", ".", "This", "means", "that", "the", "analysis", "uses", "only", "10", "data", "points", "-LRB-", "10", "subjects", "first", "exposure", "only", "-RRB-", "for", "the", "Multiple", "Exposures", "study", ",", "52", "data", "points", "for", "the", "Passive", "Haptics", "study", ",", "and", "33", "data", "points", "for", "the", "Frame", "Rate", "study", ".", "Reliability", "between-subjects", ":", "Physiological", "reaction", "in", "the", "Pit", "Room", ".", "Even", "between", "subjects", ",", "we", "expected", "that", "there", "would", "be", "a", "consistent", "physiological", "reaction", "to", "the", "Pit", "Room", ",", "since", "we", "expected", "such", "a", "reaction", "for", "every", "exposure", "to", "the", "VE", ".", "We", "expected", "the", "significance", "to", "be", "lower", ",", "however", ",", "because", "of", "the", "reduced", "size", "of", "the", "data", "set", ".", "We", "found", "exactly", "that", ".", "The", "right", "half", "of", "Table", "2", "shows", "the", "values", "of", "the", "physiological", "measures", "averaged", "across", "conditions", "for", "the", "between-subjects", "analysis", ".", "As", "compared", "to", "the", "full", "data", "set", ",", "the", "between-subjects", "data", "have", "lower", "significance", "values", ",", "but", "subjects", "still", "have", "strong", "physiological", "reactions", "to", "the", "Pit", "Room", ".", "Table", "2", "demonstrates", "that", "the", "physiological", "orienting", "effects", "caused", "the", "averages", "for", "the", "first", "exposures", "to", "be", "higher", "than", "for", "the", "full", "data", "set", ".", "Validity", "between-subjects", ":", "Correlation", "with", "established", "measures", ".", "We", "expected", "correlations", "with", "the", "reported", "measures", "to", "be", "lower", "when", "taken", "between", "subjects", "since", "there", "were", "fewer", "data", "points", "and", "individual", "differences", "in", "physiological", "reaction", "and", "reporting", "would", "confound", "the", "correlations", ".", "This", "was", "the", "case", ".", "No", "physiological", "measure", "correlated", "significantly", "with", "any", "reported", "measure", "when", "analyzing", "between-subjects", ".", "Multi-level", "sensitivity", "between-subjects", ":", "Differentiating", "among", "presence", "conditions", ".", "We", "expected", "inter-subject", "variation", "in", "physiological", "reaction", "to", "mask", "the", "differences", "in", "physiological", "reactions", "evoked", "by", "the", "presence", "conditions", "-LRB-", "e.g.", ",", "various", "frame", "rates", "-RRB-", ".", "Contrary", "to", "this", "expectation", ",", "however", ",", "we", "found", "strong", "trends", "in", "the", "physiological", "measures", "among", "conditions", "in", "both", "the", "Passive", "Haptics", "and", "Frame", "Rate", "studies", ".", "-LRB-", "The", "condition", "was", "not", "varied", "in", "the", "Multiple", "Exposures", "study", ".", "-RRB-", "In", "the", "Passive", "Haptics", "study", ",", "both", "Heart", "Rate", "and", "Skin", "Conductance", "both", "varied", "in", "the", "expected", "direction", "non-significantly", "-LRB-", "3.3", "BPM", ",", "P", "=", "0.097", ";", "1.0", "mSiemens", ",", "P", "=", "0.137", ",", "respectively", "-RRB-", ".", "In", "the", "Frame", "Rate", "study", ",", "Heart", "Rate", "followed", "hypothesized", "patterns", ",", "but", "Skin", "Conductance", "did", "not", ".", "After", "the", "anomalous", "reaction", "at", "10", "FPS", "-LRB-", "as", "in", "full", "data", "set", "compare", "Figures", "6", "and", "7", "-RRB-", ",", "Heart", "Rate", "differentiated", "among", "presence", "conditions", ":", "at", "30", "FPS", "it", "was", "higher", "than", "at", "15", "FPS", ",", "and", "this", "difference", "was", "nearly", "significant", "-LRB-", "7.2", "BPM", ";", "P", "=", "0.054", "-RRB-", ".", "Overall", ",", "Heart", "Rate", "shows", "promise", "as", "a", "between-subjects", "measure", "of", "presence", ".", "Though", "it", "did", "not", "correlate", "well", "with", "the", "reported", "measures", "-LRB-", "between-subjects", "-RRB-", ",", "it", "did", "differentiate", "among", "the", "conditions", "with", "some", "statistical", "power", "in", "Passive", "Haptics", "and", "Frame", "Rate", ".", "Skin", "Conductance", "did", "not", "show", "as", "much", "promise", "as", "a", "between-subjects", "measure", ".", "For", "more", "discussion", "of", "physiological", "reactions", "as", "between-subjects", "measures", "of", "presence", ",", "see", "-LSB-", "Meehan", "2001", "-RSB-", ".", "0", "2", "4", "6", "8", "10", "12", "14", "10", "15", "20", "30", "Frame", "Rate", "Change", "in", "beat", "s/minut", "e", "Figure", "7", ".", "Between-subjects", "analysis", ":", "Heart", "Rate", ".", "Above", "we", "described", "the", "experiments", "as", "they", "related", "to", "the", "testing", "of", "the", "physiological", "presence", "measures", ",", "below", "we", "discuss", "each", "experiment", "with", "respect", "to", "the", "aspect", "of", "VEs", "it", "investigated", ".", "Effect", "of", "Multiple", "Exposures", "on", "Presence", ".", "As", "described", "in", "Section", "1.4.1", ",", "ten", "users", "go", "through", "the", "same", "VE", "twelve", "times", "-LRB-", "over", "four", "days", "-RRB-", "in", "order", "to", "study", "whether", "the", "presence", "inducing", "power", "of", "a", "VE", "declines", ",", "or", "becomes", "unusably", "small", ",", "over", "multiple", "exposures", ".", "We", "did", "find", "significant", "decreases", "in", "each", "presence", "measure", "-LRB-", "reported", "and", "physiological", "-RRB-", "in", "either", "this", "experiment", "or", "one", "of", "the", "subsequent", "two", "experiments", "-LRB-", "see", "Table", "3", "-RRB-", ".", "However", ",", "none", "of", "the", "measures", "decreased", "to", "zero", "nor", "did", "any", "become", "unusably", "small", ".", "The", "findings", "support", "our", "hypothesis", "that", "all", "presence", "measures", "decrease", "over", "multiple", "exposures", "to", "the", "same", "VE", ",", "but", "not", "to", "zero", ".", "Effect", "of", "Passive", "Haptics", "on", "Presence", ".", "Our", "hypothesis", "was", "that", "supplementing", "a", "visual-aural", "VE", "with", "even", "rudimentary", ",", "low-fidelity", "passive", "haptics", "cues", "significantly", "increases", "presence", ".", "This", "experiment", "was", "only", "one", "of", "a", "set", "of", "studies", "investigating", "the", "passive", "haptics", "hypothesis", ".", "The", "detailed", "design", ",", "results", ",", "and", "discussion", "for", "the", "set", "are", "reported", "elsewhere", "-LSB-", "Insko", "2001", "-RSB-", ".", "We", "found", "significant", "support", "for", "the", "hypothesis", "in", "that", ",", "with", "the", "inclusion", "of", "the", "1.5-inch", "ledge", ",", "presence", "as", "measured", "by", "Heart", "Rate", ",", "Reported", "Behavioral", "Presence", ",", "and", "Skin", "Conductance", "was", "significantly", "higher", "at", "the", "P", "<", "0.05", "level", ".", "Reported", "Presence", "also", "had", "a", "strong", "trend", "-LRB-", "P", "<", "0.10", "-RRB-", "in", "the", "same", "direction", ".", "651", "Effect", "of", "Frame", "Rate", "on", "Presence", ".", "Our", "hypothesis", "was", "that", "as", "frame", "rate", "increases", "from", "10", ",", "15", ",", "20", ",", "30", "frames/second", ",", "presence", "increases", ".", "For", "frame", "rates", "of", "15", "frames/second", "and", "above", ",", "the", "hypothesis", "was", "largely", "confirmed", ".", "It", "was", "confirmed", "with", "statistical", "significance", "for", "15", "to", "20", "FPS", "and", "15", "to", "30", "FPS", ".", "20", "to", "30", "FPS", "though", "not", "statistically", "significant", "was", "in", "the", "same", "direction", ".", "10", "FPS", "gave", "anomalous", "results", "on", "all", "measures", "except", "Reported", "Presence", ",", "which", "increased", "monotonically", "with", "frame", "rate", "with", "no", "statistical", "significance", ".", "Given", "a", "compelling", "VE", "and", "a", "sensitive", ",", "quantitative", "presence", "measure", ",", "the", "obvious", "strategy", "is", "to", "degrade", "quantitative", "VE", "quality", "parameters", "in", "order", "to", "answer", "the", "questions", ":", "What", "makes", "a", "VE", "compelling", "?", "What", "are", "the", "combinations", "of", "minimum", "system", "characteristics", "to", "achieve", "this", "?", "For", "example", ",", "we", "would", "like", "to", "study", "the", "effect", "of", "Latency", "Self-avatar", "fidelity", "Aural", "localization", "Visual", "Detail", "Lighting", "Realism", "Realistic", "physics", "in", "interactions", "with", "objects", "Interactions", "with", "other", "people", "or", "agents", "Then", "we", "hope", "to", "begin", "to", "establish", "trade-offs", "for", "presence", "evoked", ":", "Is", "it", "more", "important", "to", "have", "latency", "below", "50", "ms", "or", "frame", "rate", "above", "20", "FPS", "?", "Additionally", ",", "we", "must", "eliminate", "the", "cables", "that", "tether", "subjects", "to", "the", "monitoring", ",", "tracking", ",", "and", "rendering", "equipment", ".", "Our", "subjects", "reported", "this", "encumbrance", "as", "the", "greatest", "cause", "of", "breaks", "in", "presence", ".", "We", "would", "like", "to", "thank", "the", "University", "of", "North", "Carolina", "-LRB-", "UNC", "-RRB-", "Graduate", "School", ",", "the", "Link", "Foundation", ",", "and", "the", "National", "Institutes", "of", "Health", "National", "Center", "for", "Research", "Resources", "-LRB-", "Grant", "Number", "P41", "RR", "02170", "-RRB-", "for", "funding", "this", "project", ".", "We", "would", "like", "to", "thank", "the", "members", "of", "the", "Effective", "Virtual", "Environments", "group", ",", "the", "UNC", "Computer", "Science", "Department", ",", "and", "Dr.", "McMurray", "of", "the", "UNC", "Applied", "Physiology", "Department", ".", "Without", "their", "hard", "work", ",", "none", "of", "this", "research", "would", "have", "been", "possible", ".", "We", "would", "like", "to", "thank", "Drs.", "Slater", ",", "Usoh", ",", "and", "Steed", "of", "the", "University", "College", "of", "London", "who", "built", "much", "of", "the", "foundation", "for", "this", "work", ".", "We", "would", "also", "like", "to", "thank", "the", "reviewers", "for", "their", "thoughtful", "comments", "and", "suggestions", ".", "Abelson", ",", "J.", "L.", "and", "G.", "C.", "Curtis", "-LRB-", "1989", "-RRB-", ".", "Cardiac", "and", "neuroendocrine", "responses", "to", "exposure", "therapy", "in", "height", "phobics", ".", "Behavior", "Research", "and", "Therapy", ",", "27", "-LRB-", "5", "-RRB-", ":", "561-567", ".", "Andreassi", ",", "J.", "L.", "-LRB-", "1995", "-RRB-", ".", "Psychophysiology", ":", "Human", "behavior", "and", "physiological", "response", ".", "Hillsdale", ",", "N.J.", ",", "Lawrence", "Erlbaum", "Associates", ".", "Barfield", ",", "W.", ",", "T.", "Sheridan", ",", "D.", "Zeltzer", "and", "M.", "Slater", "-LRB-", "1995", "-RRB-", ".", "Presence", "and", "performance", "within", "virtual", "environments", ".", "In", "W.", "Barfield", "and", "T.", "Furness", ",", "Eds.", ",", "Virtual", "environments", "and", "advanced", "interface", "design", ".", "London", ",", "Oxford", "University", "Press", ".", "Cowings", ",", "P.", ",", "S.", "Jensen", ",", "D.", "Bergner", "and", "W.", "Toscano", "-LRB-", "2001", "-RRB-", ".", "A", "lightweight", "ambulatory", "physiological", "monitoring", "system", ".", "NASA", "Ames", ",", "California", ".", "Dillon", ",", "C.", ",", "E.", "Keogh", ",", "J.", "Freeman", "and", "J.", "Davidoff", "-LRB-", "2001", "-RRB-", ".", "Presence", ":", "Is", "your", "heart", "in", "it", "?", "4th", "Int", ".", "Wkshp", ".", "on", "Presence", ",", "Philadelphia", ".", "Ellis", ",", "S.", "R.", "-LRB-", "1996", "-RRB-", ".", "Presence", "of", "mind", ":", "A", "reaction", "to", "Thomas", "Sheridan", "'s", "``", "Further", "musings", "on", "the", "psychophysics", "of", "presence", "''", ".", "Presence", ":", "Teleoperators", "and", "Virtual", "Environments", ",", "5", "-LRB-", "2", "-RRB-", ":", "247-259", ".", "Emmelkamp", ",", "P.", "and", "M.", "Felten", "-LRB-", "1985", "-RRB-", ".", "The", "process", "of", "exposure", "in", "vivo", ":", "cognitive", "and", "physiological", "changes", "during", "treatment", "of", "acrophobia", ".", "Behavior", "Research", "and", "Therapy", ",", "23", "-LRB-", "2", "-RRB-", ":", "219", ".", "Freeman", ",", "J.", ",", "S.", "E.", "Avons", ",", "D.", "Pearson", ",", "D.", "Harrison", "and", "N.", "Lodge", "-LRB-", "1998", "-RRB-", ".", "Behavioral", "realism", "as", "a", "metric", "of", "presence", ".", "1st", "Int", ".", "Wkshp", ".", "on", "Presence", ".", "Guyton", ",", "A.", "C.", "-LRB-", "1986", "-RRB-", ".", "Basic", "characteristics", "of", "the", "sympathetic", "and", "parasympathetic", "function", ".", "In", "Textbook", "of", "Medical", "Physiology", ",", "688-697", ".", "Philadelphia", ",", "W.B.", "Saunders", "Company", ".", "Heeter", ",", "C.", "-LRB-", "1992", "-RRB-", ".", "Being", "there", ":", "The", "subjective", "experience", "of", "presence", ".", "Presence", ":", "Teleoperators", "and", "Virtual", "Environments", ",", "1", ":", "262-271", ".", "IJsselsteijn", ",", "W.", "A.", "and", "H.", "d.", "Ridder", "-LRB-", "1998", "-RRB-", ".", "Measuring", "temporal", "variations", "in", "presence", ".", "1st", "Int", ".", "Wkshp", ".", "on", "Presence", ".", "B.", "Insko", "-LRB-", "2001", "-RRB-", ".", "Passive", "haptics", "significantly", "enhance", "virtual", "environments", ",", "Doctoral", "Dissertation", ".", "Computer", "Science", ".", "University", "of", "North", "Carolina", ",", "Chapel", "Hill", ",", "NC", ",", "USA", ".", "Kleinbaum", ",", "D.", ",", "L.", "Kupper", ",", "K.", "Muller", "and", "A.", "Nizam", "-LRB-", "1998", "-RRB-", ".", "Applied", "regression", "analysis", "and", "other", "multivariate", "methods", ".", "Lipsey", ",", "M.", "W.", "-LRB-", "1998", "-RRB-", ".", "Design", "sensitivity", ":", "Statistical", "power", "for", "applied", "experimental", "research", ".", "In", "L.", "Brickman", "and", "D.", "J.", "Rog", ",", "Eds.", ",", "Handbook", "of", "applied", "social", "research", "methods", ",", "39-68", ".", "Thousand", "Oaks", ",", "California", ",", "Sage", "Publications", ",", "Inc.", ".", "Lombard", ",", "M.", "and", "T.", "Ditton", "-LRB-", "1997", "-RRB-", ".", "At", "the", "heart", "of", "it", "all", ":", "The", "concept", "of", "presence", ".", "Journal", "of", "Computer", "Mediated", "Communication", ",", "3", "-LRB-", "2", "-RRB-", ".", "McMurray", ",", "D.", "R.", "-LRB-", "1999", "-RRB-", ".", "Director", "of", "Applied", "Physiology", "lab", ",", "University", "of", "North", "Carolina", ".", "Personal", "Communication", ".", "M.", "Meehan", "-LRB-", "2001", "-RRB-", ".", "Physiological", "reaction", "as", "an", "objective", "measure", "of", "presence", "in", "virtual", "environments", ".", "Doctoral", "Dissertation", ".", "Computer", "Science", ".", "University", "of", "North", "Carolina", ",", "Chapel", "Hill", ",", "NC", ",", "USA", ".", "Regenbrecht", ",", "H.", "T.", "and", "T.", "W.", "Schubert", "-LRB-", "1997", "-RRB-", ".", "Measuring", "presence", "in", "virtual", "environments", ".", "In", "Proc", ".", "of", "Human", "Computer", "Interface", "International", ",", "San", "Francisco", ".", "SAS", "-LRB-", "1990", "-RRB-", ".", "SAS", "/", "STAT", "User", "'s", "Guide", ",", "Version", "6", ",", "Fourth", "Edition", ".", "Cary", ",", "NC", ",", "USA", ",", "SAS", "Institute", "Inc.", ".", "Schubert", ",", "T.", ",", "F.", "Friedmann", "and", "H.", "Regenbrecht", "-LRB-", "1999", "-RRB-", ".", "Embodied", "presence", "in", "virtual", "environments", ".", "In", "R.", "Paton", "and", "I.", "Neilson", ",", "Eds.", ",", "Visual", "Representations", "and", "Interpretations", ".", "London", ",", "Springer-Verlag", ".", "Sheridan", ",", "T.", "B.", "-LRB-", "1996", "-RRB-", ".", "Further", "musings", "on", "the", "psychophysics", "of", "presence", ".", "Presence", ":", "Teleoperators", "and", "Virtual", "Environments", ",", "5", "-LRB-", "2", "-RRB-", ":", "241-246", ".", "Singleton", ",", "R.", "A.", ",", "B.", "C.", "Straits", "and", "M.", "M.", "Straits", "-LRB-", "1993", "-RRB-", ".", "Approaches", "to", "Social", "Research", ".", "New", "York", ",", "Oxford", "University", "Press", ".", "Slater", ",", "M.", ",", "M.", "Usoh", "and", "A.", "Steed", "-LRB-", "1994", "-RRB-", ".", "Depth", "of", "presence", "in", "virtual", "environments", ".", "Presence", ":", "Teleoperators", "and", "Virtual", "Environments", ",", "3", "-LRB-", "2", "-RRB-", ":", "130-144", ".", "Slater", ",", "M.", ",", "M.", "Usoh", "and", "A.", "Steed", "-LRB-", "1995", "-RRB-", ".", "Taking", "steps", ":", "The", "influence", "of", "a", "walking", "technique", "on", "presence", "in", "virtual", "reality", ".", "ACM", "Transactions", "on", "Computer", "Human", "Interaction", "-LRB-", "TOCHI", "-RRB-", ",", "2", "-LRB-", "3", "-RRB-", ":", "201-219", ".", "Slater", ",", "M.", "-LRB-", "1999", "-RRB-", ".", "Measuring", "Presence", ":", "A", "Response", "to", "the", "Witmer", "and", "Singer", "Presence", "Questionnaire", ".", "Presence", ":", "Teleoperators", "and", "Virtual", "Environments", ",", "8", "-LRB-", "5", "-RRB-", ":", "560-565", ".", "Slonim", ",", "N.", "B.", ",", "Ed", ".", "-LRB-", "1974", "-RRB-", ".", "Environmental", "Physiology", ".", "Saint", "Louis", ".", "The", "C.", "V.", "Mosby", "Company", ".", "Sutherland", ",", "S.", "-LRB-", "1996", "-RRB-", ".", "The", "international", "dictionary", "of", "psychology", ".", "New", "York", ",", "The", "Crossroads", "Publishing", "Company", ".", "Usoh", ",", "M.", ",", "K.", "Arthur", ",", "M.", "Whitton", ",", "R.", "Bastos", ",", "A.", "Steed", ",", "M.", "Slater", "and", "F.", "Brooks", "-LRB-", "1999", "-RRB-", ".", "Walking", ">", "walking-in-place", ">", "flying", "in", "virtual", "environments", ".", "In", "Proc", ".", "of", "ACM", "SIGGRAPH", "99", ".", "ACM", "Press", "/", "ACM", "SIGGRAPH", ".", "Weiderhold", ",", "B.", "K.", ",", "R.", "Gervirtz", "and", "M.", "D.", "Wiederhold", "-LRB-", "1998", "-RRB-", ".", "Fear", "of", "flying", ":", "A", "case", "report", "using", "virtual", "reality", "therapy", "with", "physiological", "monitoring", ".", "CyberPsychology", "and", "Behavior", ",", "1", "-LRB-", "2", "-RRB-", ":", "97-104", ".", "Witmer", ",", "B.", "G.", "and", "M.", "J.", "Singer", "-LRB-", "1998", "-RRB-", ".", "Measuring", "presence", "in", "virtual", "environments", ":", "A", "presence", "questionnaire", ".", "Presence", ":", "Teleoperators", "and", "Virtual", "Environments", ",", "7", "-LRB-", "3", "-RRB-", ":", "225-240", ".", "652"], "doc_bio_tags": ["O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "I", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["virtual environment", "frame rate", "presence", "haptics", "physiology"], "abstractive_keyphrases": ["measurement"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "207", "document": ["Use", "of", "Relative", "Code", "Churn", "Measures", "to", "Predict", "System", "Defect", "Density", "Software", "systems", "evolve", "over", "time", "due", "to", "changes", "in", "requirements", ",", "optimization", "of", "code", ",", "fixes", "for", "security", "and", "reliability", "bugs", "etc.", ".", "Code", "churn", ",", "which", "measures", "the", "changes", "made", "to", "a", "component", "over", "a", "period", "of", "time", ",", "quantifies", "the", "extent", "of", "this", "change", ".", "We", "present", "a", "technique", "for", "early", "prediction", "of", "system", "defect", "density", "using", "a", "set", "of", "relative", "code", "churn", "measures", "that", "relate", "the", "amount", "of", "churn", "to", "other", "variables", "such", "as", "component", "size", "and", "the", "temporal", "extent", "of", "churn", ".", "Using", "statistical", "regression", "models", ",", "we", "show", "that", "while", "absolute", "measures", "of", "code", "churn", "are", "poor", "predictors", "of", "defect", "density", ",", "our", "set", "of", "relative", "measures", "of", "code", "churn", "is", "highly", "predictive", "of", "defect", "density", ".", "A", "case", "study", "performed", "on", "Windows", "Server", "2003", "indicates", "the", "validity", "of", "the", "relative", "code", "churn", "measures", "as", "early", "indicators", "of", "system", "defect", "density", ".", "Furthermore", ",", "our", "code", "churn", "metric", "suite", "is", "able", "to", "discriminate", "between", "fault", "and", "not", "fault-prone", "binaries", "with", "an", "accuracy", "of", "89.0", "percent", ".", "D.", "2.7", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Distribution", ",", "Maintenance", ",", "and", "Enhancement", "Version", "control", ".", "D.", "2.8", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Metrics", "-", "Performance", "measures", ",", "Process", "metrics", ",", "Product", "metrics", ".", "Measurement", ",", "Design", ",", "Reliability", ".", "A", "``", "reliability", "chasm", "''", "often", "separates", "the", "quality", "of", "a", "software", "product", "observed", "in", "its", "pre-release", "testing", "in", "a", "software", "development", "shop", "and", "its", "post-release", "use", "in", "the", "field", ".", "That", "is", ",", "true", "field", "reliability", ",", "as", "measured", "by", "the", "number", "of", "failures", "found", "by", "customers", "over", "a", "period", "of", "time", ",", "can", "not", "be", "measured", "before", "a", "product", "has", "been", "completed", "and", "delivered", "to", "a", "customer", ".", "Because", "true", "reliability", "information", "is", "available", "late", "in", "the", "process", ",", "corrective", "actions", "tend", "to", "be", "expensive", "-LSB-", "3", "-RSB-", ".", "Clearly", ",", "software", "organizations", "can", "benefit", "in", "many", "ways", "from", "an", "early", "warning", "system", "concerning", "potential", "post-release", "defects", "in", "their", "product", "to", "guide", "corrective", "actions", "to", "the", "quality", "of", "the", "software", ".", "We", "use", "code", "churn", "to", "predict", "the", "defect", "density", "in", "software", "systems", ".", "Code", "churn", "is", "a", "measure", "of", "the", "amount", "of", "code", "change", "taking", "place", "within", "a", "software", "unit", "over", "time", ".", "It", "is", "easily", "extracted", "from", "a", "system", "'s", "change", "history", ",", "as", "recorded", "automatically", "by", "a", "version", "control", "system", ".", "Most", "version", "control", "systems", "use", "a", "file", "comparison", "utility", "-LRB-", "such", "as", "diff", "-RRB-", "to", "automatically", "estimate", "how", "many", "lines", "were", "added", ",", "deleted", "and", "changed", "by", "a", "programmer", "to", "create", "a", "new", "version", "of", "a", "file", "from", "an", "old", "version", ".", "These", "differences", "are", "the", "basis", "of", "churn", "measures", ".", "We", "create", "and", "validate", "a", "set", "of", "relative", "code", "churn", "measures", "as", "early", "indicators", "of", "system", "defect", "density", ".", "Relative", "churn", "measures", "are", "normalized", "values", "of", "the", "various", "measures", "obtained", "during", "the", "churn", "process", ".", "Some", "of", "the", "normalization", "parameters", "are", "total", "lines", "of", "code", ",", "file", "churn", ",", "file", "count", "etc.", ".", "Munson", "et", "al.", "-LSB-", "17", "-RSB-", "use", "a", "similar", "relative", "approach", "towards", "establishing", "a", "baseline", "while", "studying", "code", "churn", ".", "Studies", "have", "shown", "that", "absolute", "measures", "like", "LOC", "are", "poor", "predictors", "of", "pre", "-", "and", "post", "release", "faults", "-LSB-", "7", "-RSB-", "in", "industrial", "software", "systems", ".", "In", "general", ",", "process", "measures", "based", "on", "change", "history", "have", "been", "found", "be", "better", "indicators", "of", "fault", "rates", "than", "product", "metrics", "of", "code", "-LSB-", "9", "-RSB-", ".", "In", "an", "evolving", "system", "it", "is", "highly", "beneficial", "to", "use", "a", "relative", "approach", "to", "quantify", "the", "change", "in", "a", "system", ".", "As", "we", "show", ",", "these", "relative", "measures", "can", "be", "devised", "to", "cross", "check", "each", "other", "so", "that", "the", "metrics", "do", "not", "provide", "conflicting", "information", ".", "Our", "basic", "hypothesis", "is", "that", "code", "that", "changes", "many", "times", "pre-release", "will", "likely", "have", "more", "post-release", "defects", "than", "code", "that", "changes", "less", "over", "the", "same", "period", "of", "time", ".", "More", "precisely", ",", "we", "address", "the", "hypotheses", "shown", "in", "Table", "1", ".", "Our", "experiments", "on", "Windows", "Server", "2003", "-LRB-", "W2k3", "-RRB-", "support", "these", "four", "hypotheses", "with", "high", "statistical", "significance", ".", "We", "analyzed", "the", "code", "churn", "between", "the", "release", "of", "W2k3", "and", "the", "release", "of", "the", "W2k3", "Service", "Pack", "1", "-LRB-", "W2k3-SP1", "-RRB-", "to", "predict", "the", "defect", "density", "in", "W2k3-SP1", ".", "The", "relative", "code", "churn", "measures", "are", "statistically", "better", "predictors", "of", "defect", "density", "than", "the", "absolute", "measures", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICSE", "'", "05", ",", "May", "15", "21", ",", "2005", ",", "St.", "Louis", ",", "MO", ",", "USA", ".", "Copyright", "2005", "ACM", "1-58113-963-2", "/", "05/0005", "...", "$", "5.00", ".", "_________________________________________________________________________________", "*", "Nachiappan", "Nagappan", "was", "an", "intern", "with", "the", "Testing", ",", "Verification", "and", "Measurement", "Group", ",", "Microsoft", "Research", "in", "the", "Summer", "of", "2004", "when", "this", "work", "was", "carried", "out", ".", "284", "They", "also", "they", "are", "indicative", "of", "increase", "in", "system", "defect", "density", "and", "can", "accurately", "predict", "the", "system", "defect", "density", "with", "a", "high", "degree", "of", "sensitivity", ".", "Our", "metric", "suite", "is", "able", "to", "discriminate", "between", "fault", "and", "not", "fault-prone", "binaries", "in", "W2k3-SP1", "with", "an", "accuracy", "of", "89.0", "percent", ".", "Table", "1", ".", "Research", "Hypotheses", "Hypothesis", "H", "1", "Increase", "in", "relative", "code", "churn", "measures", "is", "accompanied", "by", "an", "increase", "in", "system", "defect", "density", "H", "2", "Using", "relative", "values", "of", "code", "churn", "predictors", "is", "better", "than", "using", "direct", "-LRB-", "absolute", "-RRB-", "values", "to", "explain", "the", "system", "defect", "density", "H", "3", "Relative", "code", "churn", "measures", "can", "be", "used", "as", "efficient", "predictors", "of", "system", "defect", "density", ".", "H", "4", "Relative", "code", "churn", "measures", "can", "be", "used", "to", "discriminate", "between", "fault", "and", "not", "fault-prone", "binaries", ".", "The", "organization", "of", "this", "paper", "is", "as", "follows", ".", "Section", "2", "describes", "the", "related", "work", ".", "Section", "3", "explains", "data", "collection", "and", "section", "4", "the", "relative", "code", "churn", "measures", ".", "Section", "5", "presents", "the", "case", "study", "and", "the", "observed", "results", ".", "Section", "6", "discusses", "our", "conclusions", "and", "future", "work", ".", "Prior", "analyses", "on", "predicting", "defect", "density", "used", "code", "churn", "measures", "as", "part", "of", "a", "larger", "set", "of", "metrics", ".", "Code", "churn", "measures", "have", "not", "been", "studied", "in", "isolation", "as", "predictors", "of", "software", "defect", "density", ".", "The", "background", "work", "presented", "below", "is", "from", "studies", "that", "involved", "industrial", "software", "systems", ".", "The", "source", "code", "base", "of", "W2k3", "is", "two", "orders", "of", "magnitude", "larger", "than", "the", "largest", "example", "considered", "below", ".", "Munson", "et", "al.", "-LSB-", "17", "-RSB-", "observe", "that", "as", "a", "system", "is", "developed", ",", "the", "relative", "complexity", "of", "each", "program", "module", "that", "has", "been", "altered", "-LRB-", "or", "churned", "-RRB-", "also", "will", "change", ".", "The", "rate", "of", "change", "in", "relative", "complexity", "serves", "as", "a", "good", "index", "of", "the", "rate", "of", "fault", "injection", ".", "They", "studied", "a", "300", "KLOC", "-LRB-", "thousand", "lines", "of", "code", "-RRB-", "embedded", "real", "time", "system", "with", "3700", "modules", "programmed", "in", "C.", "Code", "churn", "metrics", "were", "found", "to", "be", "among", "the", "most", "highly", "correlated", "with", "problem", "reports", "-LSB-", "17", "-RSB-", ".", "Khoshgoftaar", "et", "al.", "-LSB-", "13", "-RSB-", "define", "debug", "churn", "as", "the", "number", "of", "lines", "of", "code", "added", "or", "changed", "for", "bug", "fixes", ".", "Their", "objective", "was", "to", "identify", "modules", "where", "debug", "code", "churn", "exceeds", "a", "threshold", ",", "in", "order", "to", "classify", "the", "modules", "as", "fault-prone", ".", "They", "studied", "two", "consecutive", "releases", "of", "a", "large", "legacy", "system", "for", "telecommunications", ".", "The", "system", "contained", "over", "38,000", "procedures", "in", "171", "modules", ".", "Discriminant", "analysis", "identified", "fault-prone", "modules", "based", "on", "16", "static", "software", "product", "metrics", ".", "Their", "model", "when", "used", "on", "the", "second", "release", "showed", "a", "type", "I", "and", "II", "misclassification", "rate", "of", "21.7", "%", ",", "19.1", "%", "respectively", "and", "an", "overall", "misclassification", "rate", "of", "21.0", "%", ".", "Ohlsson", "et", "al.", "-LSB-", "19", "-RSB-", "identify", "fault-prone", "modules", "by", "analyzing", "legacy", "software", "through", "successive", "releases", ".", "They", "use", "a", "total", "of", "28", "measures", ",", "twelve", "of", "which", "are", "based", "on", "size", "and", "change", "measures", ".", "These", "measures", "were", "used", "to", "identify", "25", "percent", "of", "the", "most", "fault-prone", "components", "successfully", ".", "Karunanithi", "-LSB-", "12", "-RSB-", "uses", "a", "neural", "network", "approach", "for", "software", "reliability", "growth", "modeling", "in", "the", "presence", "of", "continuous", "code", "churn", ",", "which", "he", "shows", "improves", "over", "the", "traditional", "time-domain", "based", "models", ".", "Similarly", "Khoshgoftaar", "et", "al.", "-LSB-", "15", "-RSB-", "use", "code", "churn", "as", "a", "measure", "of", "software", "quality", "in", "a", "program", "of", "225,000", "lines", "of", "assembly", "language", ".", "Using", "eight", "complexity", "measures", ",", "including", "code", "churn", ",", "they", "found", "neural", "networks", "and", "multiple", "regression", "to", "be", "an", "efficient", "predictor", "of", "software", "quality", ",", "as", "measured", "by", "gross", "change", "in", "the", "code", ".", "They", "suggest", "that", "using", "neural", "networks", "may", "not", "work", "in", "all", "environments", "and", "the", "results", "obtained", "are", "environment", "specific", ".", "Neural", "networks", "can", "be", "used", "for", "improving", "software", "maintenance", "-LSB-", "15", "-RSB-", ".", "Ostrand", "et", "al.", "-LSB-", "20", "-RSB-", "use", "information", "of", "file", "status", "such", "as", "new", ",", "changed", ",", "unchanged", "files", "along", "with", "other", "explanatory", "variables", "such", "as", "lines", "of", "code", ",", "age", ",", "prior", "faults", "etc.", "as", "predictors", "in", "a", "negative", "binomial", "regression", "equation", "to", "predict", "the", "number", "of", "faults", "in", "a", "multiple", "release", "software", "system", ".", "The", "predictions", "made", "using", "binomial", "regression", "model", "were", "of", "a", "high", "accuracy", "for", "faults", "found", "in", "both", "early", "and", "later", "stages", "of", "development", ".", "-LSB-", "20", "-RSB-", "Closely", "related", "to", "our", "study", "is", "the", "work", "performed", "by", "Graves", "et", "al.", ".", "-LSB-", "9", "-RSB-", "on", "predicting", "fault", "incidences", "using", "software", "change", "history", ".", "Several", "statistical", "models", "were", "built", "based", "on", "a", "weighted", "time", "damp", "model", "using", "the", "sum", "of", "contributions", "from", "all", "changes", "to", "a", "module", "in", "its", "history", ".", "The", "most", "successful", "model", "computes", "the", "fault", "potential", "by", "summing", "contributions", "from", "changes", "to", "the", "module", ",", "where", "large", "and/or", "recent", "changes", "contribute", "the", "most", "to", "fault", "potential", "-LSB-", "9", "-RSB-", ".", "This", "is", "similar", "to", "our", "approach", "of", "using", "relative", "measures", "to", "predict", "fault", "potential", ".", "Drawing", "general", "conclusions", "from", "empirical", "studies", "in", "software", "engineering", "is", "difficult", "because", "any", "process", "depends", "to", "a", "large", "degree", "on", "a", "potentially", "large", "number", "of", "relevant", "context", "variables", ".", "For", "this", "reason", ",", "we", "can", "not", "assume", "a", "priori", "that", "the", "results", "of", "a", "study", "generalize", "beyond", "the", "specific", "environment", "in", "which", "it", "was", "conducted", "-LSB-", "2", "-RSB-", ".", "Researchers", "become", "more", "confident", "in", "a", "theory", "when", "similar", "findings", "emerge", "in", "different", "contexts", "-LSB-", "2", "-RSB-", ".", "Towards", "this", "end", "we", "intend", "that", "our", "case", "study", "contributes", "towards", "strengthening", "the", "existing", "empirical", "body", "of", "knowledge", "in", "this", "field", "-LSB-", "7", ",", "9", ",", "13", ",", "15", ",", "17", ",", "19", ",", "20", "-RSB-", ".", "The", "baseline", "used", "for", "measuring", "the", "code", "churn", "and", "other", "measures", "described", "below", "is", "Windows", "Server", "2003", "-LRB-", "W2k3", "-RRB-", ".", "We", "measured", "churn", "between", "this", "baseline", "and", "Windows", "Server", "2003", "Service", "Pack", "1", "-LRB-", "W2k3-SP1", "-RRB-", ".", "We", "sometimes", "refer", "to", "W2k3-SP1", "as", "the", "``", "new", "version", "''", "of", "the", "code", ".", "Service", "packs", "are", "a", "means", "by", "which", "product", "updates", "are", "distributed", "1", ".", "Service", "packs", "contain", "updates", "for", "system", "reliability", ",", "program", "compatibility", ",", "security", ",", "etc.", ".", "that", "are", "conveniently", "bundled", "for", "easy", "downloading", ".", "The", "size", "of", "the", "code", "base", "analyzed", "is", "44.97", "million", "LOC", "-LRB-", "44,970", "KLOC", "-RRB-", ".", "This", "consisted", "of", "2465", "binaries", "which", "were", "compiled", "from", "96,189", "files", ".", "Some", "files", "contribute", "to", "more", "than", "one", "binary", ".", "As", "defects", "for", "W2k3-SP1", "are", "reported", "at", "the", "binary", "level", ",", "we", "relate", "churn", "to", "defects", "at", "the", "level", "of", "binaries", ".", "1", "http://support.microsoft.com/", "285", "The", "absolute", "measures", "and", "methods", "of", "data", "collection", "are", "described", "below", ":", "Total", "LOC", "is", "the", "number", "of", "lines", "of", "non-commented", "executable", "lines", "in", "the", "files", "comprising", "the", "new", "version", "of", "a", "binary", ".", "Internal", "Microsoft", "tools", "were", "used", "to", "compute", "this", "measure", ".", "Churned", "LOC", "is", "the", "sum", "of", "the", "added", "and", "changed", "lines", "of", "code", "between", "a", "baseline", "version", "and", "a", "new", "version", "of", "the", "files", "comprising", "a", "binary", ".", "Deleted", "LOC", "is", "the", "number", "of", "lines", "of", "code", "deleted", "between", "the", "baseline", "version", "and", "the", "new", "version", "of", "a", "binary", ".", "The", "churned", "LOC", "and", "the", "deleted", "LOC", "are", "computed", "by", "the", "version", "control", "systems", "using", "a", "file", "comparison", "utility", "like", "diff", ".", "File", "count", "is", "the", "number", "of", "files", "compiled", "to", "create", "a", "binary", ".", "Weeks", "of", "churn", "is", "the", "cumulative", "time", "that", "a", "file", "was", "opened", "for", "editing", "from", "the", "version", "control", "system", ".", "Churn", "count", "is", "the", "number", "of", "changes", "made", "to", "the", "files", "comprising", "a", "binary", "between", "the", "two", "versions", "-LRB-", "W2k3", "and", "W2k3-SP1", "-RRB-", ".", "Files", "churned", "is", "the", "number", "of", "files", "within", "the", "binary", "that", "churned", ".", "In", "this", "section", "we", "describe", "our", "relative", "code", "churn", "measures", ".", "The", "churn", "measures", "are", "denoted", "by", "the", "elements", "M1-M8", ".", "The", "elements", "and", "their", "relationship", "to", "defect", "density", "are", "explained", "below", "-LRB-", "these", "relationships", "are", "verified", "in", "section", "5.1", "-RRB-", ":", "M1", ":", "Churned", "LOC", "/", "Total", "LOC", ".", "We", "expect", "the", "larger", "the", "proportion", "of", "churned", "-LRB-", "added", "+", "changed", "-RRB-", "code", "to", "the", "LOC", "of", "the", "new", "binary", ",", "the", "larger", "the", "magnitude", "of", "the", "defect", "density", "for", "that", "binary", "will", "be", ".", "M2", ":", "Deleted", "LOC", "/", "Total", "LOC", ".", "We", "expect", "the", "larger", "the", "proportion", "of", "deleted", "code", "to", "the", "LOC", "of", "the", "new", "binary", ",", "the", "larger", "the", "magnitude", "of", "the", "defect", "density", "for", "that", "binary", "will", "be", ".", "M3", ":", "Files", "churned", "/", "File", "count", ".", "We", "expect", "the", "greater", "the", "proportion", "of", "files", "in", "a", "binary", "that", "get", "churned", ",", "the", "greater", "the", "probability", "of", "these", "files", "introducing", "defects", ".", "For", "e.g.", "suppose", "binaries", "A", "and", "B", "contain", "twenty", "files", "each", ".", "If", "binary", "A", "has", "five", "churned", "files", "and", "binary", "B", "has", "two", "churned", "files", ",", "we", "expect", "binary", "A", "to", "have", "a", "higher", "defect", "density", ".", "M4", ":", "Churn", "count", "/", "Files", "churned", ".", "Suppose", "binaries", "A", "and", "B", "have", "twenty", "files", "each", "and", "also", "have", "five", "churned", "files", "each", ".", "If", "the", "five", "files", "in", "binary", "A", "are", "churned", "twenty", "times", "and", "the", "five", "files", "in", "binary", "B", "are", "churned", "ten", "times", ",", "then", "we", "expect", "binary", "A", "to", "have", "a", "higher", "defect", "density", ".", "M4", "acts", "as", "a", "cross", "check", "on", "M3", ".", "M5", ":", "Weeks", "of", "churn", "/", "File", "count", ".", "M5", "is", "used", "to", "account", "for", "the", "temporal", "extent", "of", "churn", ".", "A", "higher", "value", "of", "M5", "indicates", "that", "it", "took", "a", "longer", "time", "to", "fix", "a", "smaller", "number", "of", "files", ".", "This", "may", "indicate", "that", "the", "binary", "contains", "complex", "files", "that", "may", "be", "hard", "to", "modify", "correctly", ".", "Thus", ",", "we", "expect", "that", "an", "increase", "in", "M5", "would", "be", "accompanied", "by", "an", "increase", "in", "the", "defect", "density", "of", "the", "related", "binary", ".", "M6", ":", "Lines", "worked", "on", "/", "Weeks", "of", "churn", ":", "The", "measure", "``", "Lines", "worked", "on", "''", "is", "the", "sum", "of", "the", "churned", "LOC", "and", "the", "deleted", "LOC", ".", "M6", "measures", "the", "extent", "of", "code", "churn", "over", "time", "in", "order", "to", "cross", "check", "on", "M5", ".", "Weeks", "of", "churn", "does", "not", "necessarily", "indicate", "the", "amount", "of", "churn", ".", "M6", "reflects", "our", "expectation", "that", "the", "more", "lines", "are", "worked", "on", ",", "the", "longer", "the", "weeks", "of", "churn", "should", "be", ".", "A", "high", "value", "of", "M6", "cross", "checks", "on", "M5", "and", "should", "predict", "a", "higher", "defect", "density", ".", "M7", ":", "Churned", "LOC", "/", "Deleted", "LOC", ".", "M7", "is", "used", "in", "order", "to", "quantify", "new", "development", ".", "All", "churn", "is", "not", "due", "to", "bug", "fixes", ".", "In", "feature", "development", "the", "lines", "churned", "is", "much", "greater", "than", "the", "lines", "deleted", ",", "so", "a", "high", "value", "of", "M7", "indicates", "new", "feature", "development", ".", "M7", "acts", "as", "a", "cross", "check", "on", "M1", "and", "M2", ",", "neither", "of", "which", "accurately", "predicts", "new", "feature", "development", ".", "M8", ":", "Lines", "worked", "on", "/", "Churn", "count", ":", "We", "expect", "that", "the", "larger", "a", "change", "-LRB-", "lines", "worked", "on", "-RRB-", "relative", "to", "the", "number", "of", "changes", "-LRB-", "churn", "count", "-RRB-", ",", "the", "greater", "the", "defect", "density", "will", "be", ".", "M8", "acts", "as", "a", "cross", "check", "on", "M3", "and", "M4", ",", "as", "well", "as", "M5", "and", "M6", ".", "With", "respect", "to", "M3", "and", "M4", ",", "M8", "measures", "the", "amount", "of", "actual", "change", "that", "took", "place", ".", "M8", "cross", "checks", "to", "account", "for", "the", "fact", "that", "files", "are", "not", "getting", "churned", "repeatedly", "for", "small", "fixes", ".", "M8", "also", "cross", "checks", "on", "M5", "and", "M6", "to", "account", "for", "the", "fact", "that", "the", "higher", "the", "value", "of", "M8", "-LRB-", "more", "lines", "per", "churn", "-RRB-", ",", "the", "higher", "is", "the", "time", "-LRB-", "M5", "-RRB-", "and", "lines", "worked", "on", "per", "week", "-LRB-", "M6", "-RRB-", ".", "-RRB-", ".", "If", "this", "is", "not", "so", "then", "a", "large", "amount", "of", "churn", "might", "have", "been", "performed", "in", "a", "small", "amount", "of", "time", ",", "which", "can", "cause", "an", "increased", "defect", "density", ".", "Figure", "1", "illustrates", "the", "cross", "check", "relationships", "of", "these", "relative", "code", "churn", "measures", ".", "As", "discussed", "above", "M1", ",", "M2", "and", "M7", "cross", "check", "on", "each", "other", "and", "M8", "cross", "checks", "on", "the", "set", "of", "M3", ",", "M4", "and", "M5", ",", "M6", ".", "All", "these", "measures", "triangulate", "on", "their", "respective", "dependent", "measures", "with", "the", "goal", "of", "providing", "the", "best", "possible", "estimate", "of", "defect", "density", "with", "a", "minimum", "inflation", "in", "the", "estimation", ".", "We", "now", "describe", "the", "case", "study", "performed", "at", "Microsoft", ".", "Section", "5.1", "presents", "the", "correlation", "analysis", "between", "the", "relative", "code", "churn", "measures", "and", "system", "defect", "density", ".", "Section", "5.2", "details", "the", "model", "building", "activities", "and", "Section", "5.3", "the", "predictive", "ability", "of", "the", "models", ".", "Section", "5.4", "discusses", "the", "discriminative", "power", "of", "the", "relative", "code", "churn", "measures", "and", "Section", "5.5", "the", "limitations", "of", "the", "study", ".", "286", "Figure", "1", ".", "Relative", "Churn", "Measure", "Cross", "Check", "Relationships", "Table", "2", ".", "Cross", "Correlations", ".", "All", "correlations", "are", "significant", "at", "the", "0.01", "-LRB-", "99", "%", "-RRB-", "level", "-LRB-", "2-tailed", "-RRB-", ".", "M1", "M2", "M3", "M4", "M5", "M6", "M7", "M8", "Defects", "/", "KLOC", "M1", "1.000", ".834", ".795", ".413", ".707", ".651", ".466", ".588", ".883", "M2", "1.000", ".645", ".553", ".747", ".446", ".219", ".492", ".798", "M3", "1.000", ".186", ".749", ".434", ".445", ".269", ".868", "M4", "1.000", ".531", ".429", ".210", ".631", ".288", "M5", "1.000", ".263", ".201", ".390", ".729", "M6", "1.000", ".701", ".843", ".374", "M7", "1.000", ".507", ".288", "M8", "1.000", ".262", "Defects", "/", "KLOC", "1.000", "As", "mentioned", "before", ",", "the", "system", "defect", "density", "for", "W2k3-SP1", "was", "collected", "at", "the", "level", "of", "binaries", ".", "That", "is", ",", "for", "each", "binary", "we", "have", "a", "count", "of", "the", "number", "of", "defects", "assigned", "to", "that", "binary", ".", "Throughout", "the", "rest", "of", "the", "paper", "we", "assume", "a", "statistical", "significance", "at", "99", "%", "confidence", "-LRB-", "level", "of", "significance", "-LRB-", "=", "0.01", "-RRB-", "-RRB-", ".", "5.1", "Correlation", "Analysis", "Our", "goal", "is", "to", "verify", "that", "with", "an", "increase", "in", "the", "code", "churn", "measures", "-LRB-", "M1-M8", "-RRB-", "there", "is", "a", "statistically", "significant", "increase", "in", "the", "defects/KLOC", ".", "Table", "2", "shows", "the", "Spearman", "rank", "correlation", "-LRB-", "-RRB-", "among", "the", "defects/KLOC", "and", "the", "relative", "code", "churn", "measures", ".", "Spearman", "rank", "correlation", "is", "a", "commonly-used", "robust", "correlation", "technique", "-LSB-", "8", "-RSB-", "because", "it", "can", "be", "applied", "even", "when", "the", "association", "between", "elements", "is", "non-linear", ".", "Table", "2", "shows", "that", "there", "exists", "a", "statistically", "significant", "-LRB-", "at", "99", "%", "confidence", "-RRB-", "positive", "relationship", "between", "the", "measures", "and", "the", "defects/KLOC", "-LRB-", "shown", "in", "bold", "-RRB-", ".", "Thus", ",", "with", "an", "increase", "in", "the", "relative", "churn", "measures", "there", "is", "a", "corresponding", "positive", "increase", "in", "the", "defects/KLOC", ".", "This", "is", "indicated", "by", "the", "statistically", "significant", "positive", "Spearman", "rank", "correlation", "coefficient", ".", "From", "the", "above", "observations", "we", "conclude", "that", "an", "increase", "in", "relative", "code", "churn", "measures", "is", "accompanied", "by", "an", "increase", "in", "system", "defect", "density", "-LRB-", "H", "1", "-RRB-", ".", "In", "order", "to", "illustrate", "the", "cross", "checks", "better", "consider", "the", "measures", "M1", ",", "M2", "and", "M7", "in", "Figure", "2", "with", "their", "Spearman", "rank", "correlation", "coefficients", "from", "Table", "2", ".", "Figure", "2", ":", "Cross", "Correlation", "Relationships", "The", "Spearman", "correlation", "coefficient", "of", "0.834", "between", "M1", "and", "M2", "indicates", "that", "there", "is", "a", "very", "strong", "correlation", "between", "the", "two", "measures", ".", "But", "this", "might", "not", "be", "the", "case", "when", "there", "is", "a", "higher", "proportion", "of", "churned", "code", "compared", "to", "deleted", "code", "-LRB-", "as", "measured", "by", "M7", "for", "new", "feature", "development", "-RRB-", ".", "Since", "this", "can", "not", "be", "measured", "by", "M1", "or", "M2", ",", "M7", "acts", "as", "a", "cross", "check", "on", "them", ".", "The", "correlation", "between", "M1", "and", "M7", "-LRB-", "0.466", "-RRB-", "indicates", "when", "there", "is", "a", "M1", "M2", "M7", "0.834", "0.466", "0.219", "M7", "M2", "M1", "M6", "M3", "M4", "M5", "M8", "M1", ":", "Churned", "LOC", "/", "Total", "LOC", "M2", ":", "Deleted", "LOC", "/", "Total", "LOC", "M3", ":", "Files", "churned", "/", "File", "count", "M4", ":", "Churn", "count", "/", "Files", "churned", "M5", ":", "Weeks", "of", "churn", "/", "File", "count", "M6", ":", "Lines", "worked", "on", "/", "Weeks", "of", "churn", "M7", ":", "Churned", "LOC", "/", "Deleted", "LOC", "M8", ":", "Lines", "worked", "on", "/", "Churn", "count", "Cross", "check", "287", "new", "feature", "addition", "there", "is", "a", "corresponding", "increase", "in", "the", "churned", "code", ".", "For", "M2", "and", "M7", "this", "correlation", "is", "not", "as", "strong", "-LRB-", "but", "is", "statistically", "significant", "-RRB-", "because", "there", "were", "relatively", "fewer", "new", "feature", "additions", "compared", "to", "other", "changes", "in", "the", "W2k3-SP1", "source", "base", ".", "5.2", "Model", "Fitting", "We", "now", "compare", "predictive", "models", "built", "using", "absolute", "measures", "against", "those", "built", "using", "the", "relative", "churn", "measures", ".", "For", "the", "absolute", "model", ",", "defects/KLOC", "is", "the", "dependent", "variable", "and", "the", "predictors", "are", "the", "absolute", "measures", "described", "in", "Section", "3", ".", "For", "the", "relative", "model", ",", "defects/KLOC", "is", "the", "dependent", "variable", "and", "the", "predictors", "are", "the", "relative", "measures", "described", "in", "Section", "4", ".", "R", "2", "is", "a", "measure", "of", "variance", "in", "the", "dependent", "variable", "that", "is", "accounted", "for", "by", "the", "model", "built", "using", "the", "predictors", "-LSB-", "4", "-RSB-", ".", "R", "2", "is", "a", "measure", "of", "the", "fit", "for", "the", "given", "data", "set", ".", "-LRB-", "It", "can", "not", "be", "interpreted", "as", "the", "quality", "of", "the", "dataset", "to", "make", "future", "predictions", "-RRB-", ".", "The", "adjusted", "R", "2", "measure", "also", "can", "be", "used", "to", "evaluate", "how", "well", "a", "model", "will", "fit", "a", "given", "data", "set", "-LSB-", "5", "-RSB-", ".", "Adjusted", "R", "2", "explains", "for", "any", "bias", "in", "the", "R", "2", "measure", "by", "taking", "into", "account", "the", "degrees", "of", "freedom", "of", "the", "predictor", "variables", "and", "the", "sample", "population", ".", "The", "adjusted", "R", "2", "tends", "to", "remain", "constant", "as", "the", "R", "2", "measure", "for", "large", "population", "samples", ".", "The", "multiple", "regression", "model", "fit", "for", "absolute", "measures", "using", "all", "the", "predictors", "has", "an", "R", "2", "value", "of", "0.052", "-LRB-", "F", "=", "16.922", ",", "p", "<", "0.0005", "-RRB-", ".", "-LRB-", "The", "F-ratio", "is", "used", "to", "test", "the", "hypothesis", "that", "all", "regression", "coefficients", "are", "zero", "-RRB-", ".", "This", "is", "a", "poor", "fit", "of", "the", "data", "and", "irrespective", "of", "other", "transformations", "-LRB-", "like", "for", "e.g.", "log", "-RRB-", "we", "can", "not", "get", "a", "marked", "improvement", "in", "R", "2", ".", "The", "adjusted", "R", "2", "value", "for", "the", "absolute", "measures", "is", "0.49", ".", "Throughout", "the", "rest", "of", "this", "paper", "we", "present", "the", "adjusted", "R", "2", "values", "in", "addition", "to", "the", "R", "2", "measures", "in", "order", "to", "eliminate", "any", "bias", "in", "model", "building", ".", "But", "with", "respect", "to", "the", "large", "sample", "size", "-LRB-", "2465", "binaries", "-RRB-", "the", "adjusted", "R", "2", "and", "R", "2", "value", "show", "only", "minor", "variation", ",", "not", "sufficient", "enough", "to", "drop", "the", "R", "2", "value", "and", "employ", "the", "adjusted", "R", "2", "value", ".", "There", "are", "different", "ways", "in", "which", "regression", "models", "-LSB-", "16", "-RSB-", "can", "be", "built", ".", "Three", "common", "regression", "methods", "-LSB-", "16", "-RSB-", "are", "forward", ",", "backward", "and", "step-wise", "regression", ".", "In", "forward", "regression", ",", "one", "adds", "a", "single", "predictor", "at", "a", "time", "to", "the", "model", "based", "on", "the", "strength", "of", "its", "correlation", "with", "the", "dependent", "variable", ".", "The", "effect", "of", "adding", "each", "predictor", "is", "evaluated", "based", "on", "the", "results", "of", "an", "F-ratio", "test", "-LSB-", "16", "-RSB-", ".", "Variables", "that", "do", "not", "significantly", "add", "to", "the", "success", "of", "the", "model", "are", "excluded", ".", "In", "backward", "regression", ",", "a", "model", "is", "built", "using", "all", "the", "predictors", ".", "The", "weakest", "predictor", "variable", "is", "removed", "and", "the", "strength", "of", "the", "overall", "built", "model", "is", "assessed", "similar", "to", "the", "forward", "regression", "procedure", ".", "If", "this", "significantly", "weakens", "the", "model", "then", "the", "predictor", "is", "put", "back", "-LRB-", "and", "otherwise", "removed", "-RRB-", ".", "Step-wise", "regression", "-LSB-", "16", "-RSB-", "is", "the", "more", "robust", "technique", "of", "these", "methods", ".", "The", "initial", "model", "consists", "of", "the", "predictor", "having", "the", "single", "largest", "correlation", "with", "the", "dependent", "variable", ".", "Subsequently", ",", "new", "predictors", "are", "selected", "for", "addition", "into", "the", "model", "based", "on", "their", "partial", "correlation", "with", "the", "predictors", "already", "in", "the", "model", ".", "With", "each", "new", "set", "of", "predictors", ",", "the", "model", "is", "evaluated", "and", "predictors", "that", "do", "not", "significantly", "contribute", "towards", "statistical", "significance", "in", "terms", "of", "the", "F-ratio", "are", "removed", "so", "that", ",", "in", "the", "end", ",", "the", "best", "set", "of", "predictors", "explaining", "the", "maximum", "possible", "variance", "is", "left", ".", "A", "step-wise", "regression", "analysis", "using", "the", "absolute", "set", "of", "predictors", "does", "not", "lead", "to", "any", "significant", "change", "in", "the", "R", "2", "values", "-LRB-", "=", "0.051", "-RRB-", "-LRB-", "adjusted", "R", "2", "=", "0.050", "-RRB-", ".", "Only", "the", "LOC", "and", "the", "number", "of", "times", "a", "file", "is", "churned", "are", "kept", "as", "predictors", ".", "This", "further", "confirms", "the", "fact", "that", "using", "the", "absolute", "measures", "is", "not", "an", "appropriate", "method", "for", "assessing", "the", "system", "defect", "density", ".", "Several", "empirical", "studies", "use", "Principal", "Component", "Analysis", "-LRB-", "PCA", "-RRB-", "-LSB-", "10", "-RSB-", "to", "build", "regression", "models", "-LSB-", "6", "-RSB-", ".", "In", "PCA", "a", "smaller", "number", "of", "uncorrelated", "linear", "combinations", "of", "metrics", ",", "which", "account", "for", "as", "much", "sample", "variance", "as", "possible", ",", "are", "selected", "for", "use", "in", "regression", ".", "PCA", "is", "not", "a", "possible", "solution", "when", "using", "absolute", "measures", "because", "the", "correlation", "matrix", "is", "not", "positive", "definite", ".", "We", "still", "use", "the", "two", "principal", "components", "generated", "to", "build", "a", "multiple", "regression", "equation", ".", "The", "multiple", "regression", "equation", "constructed", "has", "an", "even", "lower", "value", "of", "R", "2", "=", "0.026", ",", "-LRB-", "F", "=", "33.279", ",", "p", "<", "0.0005", "-RRB-", ".", "Based", "on", "the", "three", "results", "discussed", "above", "-LRB-", "multiple", "regression", "using", "all", "the", "predictors", ",", "step-wise", "regression", "and", "PCA", "-RRB-", "we", "conclude", "that", "the", "absolute", "measures", "are", "not", "good", "predictors", "of", "system", "defect", "density", ".", "As", "outlined", "in", "Section", "3", "we", "calculate", "the", "relative", "code", "churn", "measures", "-LRB-", "M1-M8", "-RRB-", "and", "build", "regression", "models", "using", "all", "the", "measures", ",", "step-wise", "regression", "and", "PCA", ".", "Table", "3", "shows", "the", "R", "2", "value", "of", "the", "regression", "equation", "built", "using", "all", "the", "measures", ".", "We", "also", "present", "the", "adjusted", "R", "2", "value", "and", "the", "root", "MSE", "-LRB-", "Mean", "Squared", "Error", "-RRB-", ".", "Table", "3", ".", "Regression", "Fit", "Using", "All", "Measures", "Model", "R", "2", "Adjusted", "R", "2", "Root", "MSE", "All", "Measures", ".811", ".811", "1.301215", "Table", "4", "shows", "how", "the", "R", "2", "value", "changes", "in", "step-wise", "regression", "for", "all", "the", "models", "built", "during", "that", "process", ".", "In", "the", "step-wise", "regression", "model", "the", "measure", "M7", "is", "dropped", ".", "The", "best", "R", "2", "value", "in", "Table", "4", "-LRB-", "without", "M7", "-RRB-", "is", "the", "same", "as", "that", "of", "Table", "3", "-LRB-", ".811", "-RRB-", "but", "there", "is", "a", "change", "in", "the", "third", "decimal", "place", "of", "the", "standard", "error", "of", "the", "estimate", ".", "M7", "probably", "was", "dropped", "because", "there", "were", "relatively", "fewer", "new", "feature", "additions", "compared", "to", "other", "changes", "in", "the", "W2k3-SP1", "source", "base", ".", "The", "adjusted", "R", "2", "values", "are", "also", "shown", "but", "are", "not", "significantly", "different", "from", "the", "R", "2", "values", "due", "to", "the", "large", "sample", "size", "used", "to", "build", "the", "models", ".", "288", "Table", "4", ".", "Step-wise", "Regression", "Models", "Model", "R-Square", "Adjusted", "R-Square", "Root", "MSE", "-LRB-", "a", "-RRB-", ".592", ".592", "1.908727", "-LRB-", "b", "-RRB-", ".685", ".685", "1.677762", "-LRB-", "c", "-RRB-", ".769", ".769", "1.437246", "-LRB-", "d", "-RRB-", ".802", ".801", "1.331717", "-LRB-", "e", "-RRB-", ".808", ".807", "1.312777", "-LRB-", "f", "-RRB-", ".810", ".809", "1.305817", "-LRB-", "g", "-RRB-", ".811", ".811", "1.300985", "a", "Predictors", ":", "-LRB-", "Constant", "-RRB-", ",", "M2", "b", "Predictors", ":", "-LRB-", "Constant", "-RRB-", ",", "M2", ",", "M3", "c", "Predictors", ":", "-LRB-", "Constant", "-RRB-", ",", "M2", ",", "M3", ",", "M8", "d", "Predictors", ":", "-LRB-", "Constant", "-RRB-", ",", "M2", ",", "M3", ",", "M8", ",", "M1", "e", "Predictors", ":", "-LRB-", "Constant", "-RRB-", ",", "M2", ",", "M3", ",", "M8", ",", "M1", ",", "M6", "f", "Predictors", ":", "-LRB-", "Constant", "-RRB-", ",", "M2", ",", "M3", ",", "M8", ",", "M1", ",", "M6", ",", "M5", "g", "Predictors", ":", "-LRB-", "Constant", "-RRB-", ",", "M2", ",", "M3", ",", "M8", ",", "M1", ",", "M6", ",", "M5", ",", "M4", ".", "The", "PCA", "of", "the", "eight", "relative", "code", "churn", "measures", "yields", "three", "principal", "components", ".", "PCA", "can", "account", "for", "the", "multicollinearity", "among", "the", "measures", ",", "which", "can", "lead", "to", "inflated", "variance", "in", "the", "estimation", "of", "the", "defect", "density", ".", "But", "for", "PCA", "to", "be", "applicable", "the", "KMO", "-LRB-", "Kaiser-Meyer-Olkin", "-RRB-", "measure", "-LSB-", "11", "-RSB-", "of", "sampling", "adequacy", "should", "be", "greater", "than", "0.6", "-LSB-", "4", "-RSB-", ".", "The", "KMO", "measure", "of", "sampling", "adequacy", "is", "a", "test", "of", "the", "amount", "of", "variance", "within", "the", "data", "that", "can", "be", "explained", "by", "the", "measures", ".", "The", "KMO", "measure", "of", "the", "eight", "relative", "code", "churn", "measures", "is", "0.594", "which", "indicates", "that", "PCA", "might", "not", "be", "an", "appropriate", "method", "to", "apply", ".", "We", "still", "perform", "the", "analysis", "to", "investigate", "and", "present", "those", "results", "as", "well", "on", "a", "comparative", "basis", ".", "The", "results", "for", "all", "three", "models", "are", "summarized", "in", "Table", "5", ".", "Table", "5", ".", "Relative", "Measures", "Model", "Fits", "Model", "R", "2", "Adjusted", "R", "2", "F-Test", "sig", ".", "All", "measures", "0.811", "0.811", "1318.44", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Step-wise", "regression", "0.811", "0.811", "1507.31", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "PCA", "0.749", "0.748", "2450.89", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "From", "the", "above", "results", "we", "can", "see", "that", "using", "relative", "values", "of", "code", "churn", "predictors", "is", "better", "than", "using", "absolute", "values", "to", "explain", "the", "system", "defect", "density", "-LRB-", "H", "2", "-RRB-", ".", "Figure", "3", ":", "Actual", "vs.", "Estimated", "System", "Defect", "Density", "289", "5.3", "Defect", "Density", "Prediction", "We", "use", "the", "technique", "of", "data", "splitting", "-LSB-", "18", "-RSB-", "to", "measure", "the", "ability", "of", "the", "relative", "code", "churn", "measures", "to", "predict", "system", "defect", "density", ".", "The", "data", "splitting", "technique", "was", "employed", "to", "get", "an", "independent", "assessment", "of", "how", "well", "the", "defect", "density", "can", "be", "estimated", "from", "a", "population", "sample", ".", "We", "randomly", "select", "two", "thirds", "of", "the", "binaries", "-LRB-", "1645", "-RRB-", "to", "build", "the", "prediction", "model", "and", "use", "the", "remaining", "one", "third", "-LRB-", "820", "-RRB-", "to", "verify", "the", "prediction", "accuracy", ".", "We", "constructed", "models", "using", "all", "the", "measures", ",", "step-wise", "regression", "and", "PCA", "-LRB-", "for", "purpose", "of", "completeness", "-RRB-", ".", "Table", "6", "shows", "the", "results", "for", "these", "models", ".", "Table", "6", ".", "Regression", "Data", "Fit", "Model", "R", "2", "Adjusted", "R", "2", "F-Test", "sig", ".", "All", "measures", "0.821", "0.820", "938.304", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Step-wise", "regression", "-LRB-", "M7", "dropped", "-RRB-", "0.821", "0.820", "1072.975", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "PCA", "0.762", "0.761", "1749.113", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Using", "the", "fitted", "regression", "equation", "we", "estimate", "the", "system", "defect", "density", "for", "the", "remaining", "820", "binaries", ".", "Figure", "3", "shows", "the", "estimated", "and", "actual", "defect", "density", "using", "the", "regression", "equation", "constructed", "using", "all", "the", "measures", "-LRB-", "sorted", "by", "estimated", "defect", "density", "-RRB-", ".", "The", "estimated", "defect", "density", "is", "shown", "by", "the", "thicker", "continuous", "line", ".", "From", "the", "graph", "we", "can", "see", "that", "the", "estimated", "defect", "density", "is", "similar", "to", "the", "actual", "defect", "density", ".", "The", "axes", "on", "the", "graphs", "are", "removed", "in", "order", "to", "protect", "proprietary", "data", "To", "quantify", "the", "sensitivity", "of", "prediction", ",", "we", "run", "a", "correlation", "analysis", "between", "the", "estimated", "and", "actual", "values", ".", "A", "high", "positive", "correlation", "coefficient", "indicates", "that", "with", "an", "increase", "in", "the", "actual", "defect", "density", "there", "is", "a", "corresponding", "positive", "increase", "in", "the", "estimated", "defect", "density", ".", "We", "perform", "Pearson", "and", "Spearman", "correlations", "to", "indicate", "their", "sensitivity", ".", "The", "Pearson", "correlation", "indicates", "a", "linear", "relationship", ".", "The", "Spearman", "correlation", "is", "a", "more", "robust", "correlation", "technique", ".", "Table", "7", "shows", "that", "the", "correlations", "are", "all", "positive", "and", "statistically", "significant", ".", "The", "magnitude", "of", "the", "correlations", "indicates", "the", "sensitivity", "of", "the", "predictions", "-LRB-", "the", "stronger", "the", "correlations", "the", "more", "sensitive", "are", "the", "predictions", "-RRB-", ".", "The", "models", "built", "using", "all", "the", "measures", "and", "the", "step-wise", "method", "have", "the", "same", "sensitivity", "and", "are", "better", "than", "the", "model", "built", "using", "PCA", ".", "Table", "7", ".", "Correlation", "Results", "Model", "Pearson", "-LRB-", "sig", ".", "-RRB-", "Spearman", "-LRB-", "sig", ".", "-RRB-", "All", "measures", "0.889", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.929", "-LRB-", "p", "<", "0.0005", "-RRB-", "Step-wise", "regression", "0.889", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.929", "-LRB-", "p", "<", "0.0005", "-RRB-", "PCA", "0.849", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.826", "-LRB-", "p", "<", "0.0005", "-RRB-", "Analyses", "that", "are", "based", "on", "a", "single", "dataset", "that", "use", "the", "same", "data", "to", "both", "estimate", "the", "model", "and", "to", "assess", "its", "performance", "can", "lead", "to", "unreasonably", "negative", "biased", "estimates", "of", "sampling", "variability", ".", "In", "order", "to", "address", "this", "we", "repeat", "the", "random", "sampling", "with", "3", "different", "random", "samples", "to", "verify", "if", "the", "above", "results", "are", "repeatable", ".", "For", "each", "sample", "the", "model", "is", "fit", "with", "1645", "binaries", "to", "build", "the", "model", ".", "Table", "8", "shows", "the", "fit", "of", "the", "various", "models", "built", "for", "each", "sample", ".", "Table", "8", ".", "Random", "Splits", "Data", "Fit", "Model", "R", "2", "Adjusted", "R", "2", "F-Test", "-LRB-", "Sig", ".", "-RRB-", "Random", "1", ":", "All", "0.836", "0.835", "1045.07", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "1", ":", "Stepwise", "-LRB-", "drop", "none", "-RRB-", "0.836", "0.835", "1045.07", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "1", ":", "PCA", "0.757", "0.756", "1701.98", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "2", ":", "All", "0.822", "0.821", "941.86", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "2", ":", "Stepwise", "-LRB-", "drop", "M4", "-RRB-", "0.821", "0.820", "1074.05", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "2", ":", "PCA", "0.765", "0.764", "1776.87", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "3", ":", "All", "0.799", "0.798", "813.12", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "3", ":", "Stepwise", "-LRB-", "drop", "M7", "-RRB-", "0.799", "0.798", "927.54", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "3", ":", "PCA", "0.737", "0.736", "1529.25", ",", "-LRB-", "p", "<", "0.0005", "-RRB-", "Using", "each", "of", "the", "above", "predictive", "models", "we", "calculate", "the", "estimated", "defect", "density", "for", "the", "remaining", "820", "binaries", ".", "Table", "9", "shows", "the", "correlation", "between", "the", "estimated", "and", "the", "actual", "defect", "density", ".", "Table", "9", ".", "Correlation", "Between", "Actual", "and", "Estimated", "Defects/KLOC", "Model", "Pearson", "Correlation", "-LRB-", "sig", ".", "-RRB-", "Spearman", "Correlation", "-LRB-", "sig", ".", "-RRB-", "Random", "1", ":", "All", "0.873", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.931", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "1", ":", "Stepwise", "0.873", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.931", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "1", ":", "PCA", "0.858", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.836", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "2", ":", "All", "0.878", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.917", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "2", ":", "Stepwise", "0.876", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.906", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "2", ":", "PCA", "0.847", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.825", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "3", ":", "All", "0.899", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.892", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "3", ":", "Stepwise", "0.901", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.893", "-LRB-", "p", "<", "0.0005", "-RRB-", "Random", "3", ":", "PCA", "0.880", "-LRB-", "p", "<", "0.0005", "-RRB-", "0.818", "-LRB-", "p", "<", "0.0005", "-RRB-", "Based", "on", "the", "consistent", "positive", "and", "statistically", "significant", "correlations", ",", "indicating", "the", "sensitivity", "of", "predictions", "obtained", "in", "Table", "9", "we", "can", "say", "that", "relative", "code", "churn", "measures", "can", "be", "used", "as", "efficient", "predictors", "of", "system", "defect", "density", "-LRB-", "H", "3", "-RRB-", ".", "Our", "results", "demonstrate", "it", "is", "effective", "to", "use", "all", "eight", "measures", "rather", "than", "dropping", "any", "of", "them", "from", "the", "predictive", "equation", ".", "Each", "of", "these", "measures", "cross", "check", "on", "each", "other", "and", "any", "290", "abnormal", "behavior", "in", "one", "of", "the", "measures", "-LRB-", "for", "e.g.", "like", "a", "file", "getting", "churned", "too", "many", "times", "-RRB-", "would", "be", "immediately", "highlighted", ".", "By", "interchanging", "the", "measures", "in", "a", "model", "equation", "we", "can", "get", "estimated", "values", "for", "all", "the", "relative", "measures", "independently", ".", "For", "example", ",", "in", "order", "to", "determine", "the", "maximum", "allowable", "code", "churn", "with", "respect", "to", "the", "file", "size", "-LRB-", "i.e.", "M1", "-RRB-", ",", "say", "for", "a", "particular", "software", "model", "we", "fix", "the", "maximum", "allowable", "system", "defect", "density", ".", "We", "then", "can", "build", "a", "regression", "model", "with", "M2-M8", "and", "defect", "density", "as", "predictors", "and", "M1", "as", "the", "dependent", "variable", ".", "5.4", "Discriminant", "Analysis", "Discriminant", "analysis", ",", "is", "a", "statistical", "technique", "used", "to", "categorize", "programs", "into", "groups", "based", "on", "the", "metric", "values", ".", "It", "has", "been", "used", "as", "a", "tool", "for", "the", "detection", "of", "fault-prone", "programs", "-LSB-", "13", ",", "14", ",", "18", "-RSB-", ".", "The", "ANSI-IEEE", "Std", ".", "-LSB-", "1", "-RSB-", "defines", "a", "fault", "as", "an", "accidental", "condition", "that", "causes", "a", "functional", "unit", "to", "fail", "to", "perform", "its", "required", "function", ".", "We", "use", "discriminant", "analysis", "to", "identify", "binaries", "as", "fault-prone", "or", "not", "fault-prone", ".", "To", "classify", "if", "a", "binary", "is", "fault-prone", "or", "not", "we", "use", "the", "system", "defect", "density", "in", "a", "normal", "confidence", "interval", "calculation", "as", "shown", "in", "equation", "1", ".", "LB", "=", "x", "-", "z", "/", "2", "*", "Standard", "deviation", "of", "defect", "density", "...", "-LRB-", "1", "-RRB-", "n", "where", "LB", "is", "the", "lower", "bound", "on", "system", "defect", "density", ";", "x", "is", "the", "mean", "of", "defect", "density", ";", "Z", "/", "2", "is", "the", "upper", "/", "2", "quantile", "of", "the", "standard", "normal", "distribution", ";", "n", "is", "the", "number", "of", "observations", ".", "We", "conservatively", "classify", "all", "binaries", "that", "have", "a", "defect", "density", "less", "than", "LB", "as", "not", "fault-prone", "and", "the", "remaining", "as", "fault-prone", ".", "Table", "10", "shows", "the", "eigenvalue", "and", "overall", "classification", "ability", "of", "using", "the", "eight", "measures", "and", "the", "three", "principal", "components", ".", "The", "eigenvalue", "is", "a", "measure", "of", "the", "discriminative", "ability", "of", "the", "discriminant", "function", ".", "The", "higher", "the", "eigenvalue", "the", "better", "is", "the", "discriminative", "ability", ".", "For", "all", "measures", ",", "the", "function", "correctly", "classifies", "nearly", "nine", "out", "of", "every", "ten", "binaries", ".", "Table", "10", ".", "Overall", "Discriminant", "Function", "Fit", "Model", "Eigenvalue", "Classification", "ability", "All", "Measures", "1.025", "2188/2465", "-LRB-", "88.8", "%", "-RRB-", "PCA", "0.624", "2195/2465", "-LRB-", "89.0", "%", "-RRB-", "As", "before", ",", "we", "split", "the", "data", "set", "into", "1645", "programs", "to", "build", "the", "discriminant", "function", "and", "the", "remaining", "820", "binaries", "to", "verify", "the", "classification", "ability", "of", "the", "discriminant", "function", ".", "We", "perform", "this", "analysis", "using", "all", "the", "measures", "and", "the", "principal", "components", ".", "The", "results", "of", "this", "fit", "and", "classification", "are", "shown", "below", "in", "table", "11", ".", "Table", "11", ".", "Discriminant", "Analysis", "For", "Model", "Fit", "-LRB-", "for", "1645", "binaries", "to", "build", "the", "model", "-RRB-", "For", "Test", "Data", "-LRB-", "820", "binaries", "-RRB-", "Model", "Eigen", "value", "Classification", "ability", "Classification", "ability", "All", "Measures", "1.063", "1464/1645", "-LRB-", "90.0", "%", "-RRB-", "735/820", "-LRB-", "89.6", "%", "-RRB-", "PCA", "0.601", "1461/1645", "-LRB-", "88.8", "%", "-RRB-", "739/820", "-LRB-", "90.1", "%", "-RRB-", "Table", "11", "shows", "that", "the", "relative", "code", "churn", "measures", "have", "effective", "discriminant", "ability", "-LRB-", "comparable", "to", "prior", "studies", "done", "on", "industrial", "software", "-LSB-", "13", "-RSB-", "-RRB-", ".", "We", "conclude", "that", "relative", "code", "churn", "measures", "can", "be", "used", "to", "discriminate", "between", "fault", "and", "not", "fault-prone", "binaries", "-LRB-", "H", "4", "-RRB-", ".", "5.5", "Limitations", "of", "Study", "Internal", "validity", ".", "Internal", "validity", "issues", "arise", "when", "there", "are", "errors", "in", "measurement", ".", "This", "is", "negated", "to", "an", "extent", "by", "the", "fact", "that", "the", "entire", "data", "collection", "process", "is", "automated", "via", "the", "version", "control", "systems", ".", "However", ",", "the", "version", "control", "systems", "only", "records", "data", "upon", "developer", "check-out", "or", "check-in", "of", "files", ".", "If", "a", "developer", "made", "many", "overlapping", "edits", "to", "a", "file", "in", "a", "single", "check-out/check", "-", "in", "period", "then", "a", "certain", "amount", "of", "churn", "will", "not", "be", "visible", ".", "A", "developer", "also", "might", "have", "a", "file", "checked", "out", "for", "a", "very", "long", "period", "of", "time", "during", "which", "few", "changes", "were", "made", ",", "inflating", "the", "``", "weeks", "of", "churn", "''", "measure", ".", "These", "concerns", "are", "alleviated", "to", "some", "extent", "by", "the", "cross", "check", "among", "the", "measures", "to", "identify", "abnormal", "values", "for", "any", "of", "the", "measures", "and", "the", "huge", "size", "and", "diversity", "of", "our", "dataset", ".", "In", "our", "case", "study", "we", "provide", "evidence", "for", "using", "all", "the", "relative", "churn", "measures", "rather", "than", "a", "subset", "of", "values", "or", "principal", "components", ".", "This", "is", "case", "study", "specific", "and", "should", "be", "refined", "based", "on", "further", "results", ".", "External", "validity", ".", "External", "validity", "issues", "may", "arise", "from", "the", "fact", "that", "all", "the", "data", "is", "from", "one", "software", "system", "-LRB-", "albeit", "one", "with", "many", "different", "components", "-RRB-", "and", "that", "the", "software", "is", "very", "large", "-LRB-", "some", "44", "million", "lines", "of", "code", "-RRB-", "as", "other", "software", "systems", "used", "for", "a", "similar", "analysis", "might", "not", "be", "of", "comparable", "size", ".", "We", "have", "shown", "how", "relative", "code", "churn", "metrics", "are", "excellent", "predictors", "of", "defect", "density", "in", "a", "large", "industrial", "software", "system", ".", "Our", "case", "study", "provides", "strong", "support", "for", "the", "following", "conclusions", ":", "Increase", "in", "relative", "code", "churn", "measures", "is", "accompanied", "by", "an", "increase", "in", "system", "defect", "density", ";", "Using", "relative", "values", "of", "code", "churn", "predictors", "is", "better", "than", "using", "absolute", "values", "to", "explain", "the", "system", "defect", "density", ";", "Relative", "code", "churn", "measures", "can", "be", "used", "as", "efficient", "predictors", "of", "system", "defect", "density", ";", "and", "Relative", "code", "churn", "measures", "can", "be", "used", "to", "discriminate", "between", "fault", "and", "not", "fault-prone", "binaries", ".", "We", "plan", "to", "validate", "our", "approach", "on", "other", "products", "developed", "inside", "Microsoft", "like", "SQL", "Server", "and", "Office", ".", "We", "also", "plan", "to", "develop", "standards", "for", "all", "the", "measures", "to", "provide", "guidance", "to", "the", "developers", "on", "the", "maximum", "allowable", "change", ".", "We", "also", "plan", "to", "investigate", "how", "testing", "can", "more", "effectively", "be", "directed", "towards", "churned", "code", ".", "We", "would", "like", "to", "express", "our", "appreciation", "to", "Brendan", "Murphy", "of", "Microsoft", "Research", "for", "providing", "the", "Windows", "Server", "2003", "SP1", "data", "set", ".", "We", "would", "like", "to", "thank", "Madan", "Musuvathi", "of", "Microsoft", "Research", ",", "for", "critical", "feedback", "on", "the", "relative", "churn", "measures", ".", "We", "would", "like", "to", "thank", "Jim", "Larus", "of", "Microsoft", "Research", ",", "Laurie", "Williams", ",", "Jason", "Osborne", "of", "North", "Carolina", "State", "University", "for", "291", "reviewing", "initial", "drafts", "of", "this", "paper", "and", "the", "anonymous", "referees", "for", "their", "thoughtful", "comments", "on", "an", "earlier", "draft", "of", "this", "paper", ".", "-LSB-", "1", "-RSB-", "ANSI/IEEE", ",", "``", "IEEE", "Standard", "Glossary", "of", "Software", "Engineering", "Terminology", ",", "Standard", "729", ",", "''", "1983", ".", "-LSB-", "2", "-RSB-", "Basili", ",", "V.", ",", "Shull", ",", "F.", ",", "Lanubile", ",", "F.", ",", "``", "Building", "Knowledge", "through", "Families", "of", "Experiments", ",", "''", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "Vol", ".", "Vol", ".", "25", ",", "No.", "4", ",", "No.", ",", "1999", ".", "-LSB-", "3", "-RSB-", "Boehm", ",", "B.", "W.", ",", "Software", "Engineering", "Economics", ".", "Englewood", "Cliffs", ",", "NJ", ":", "Prentice-Hall", ",", "Inc.", ",", "1981", ".", "-LSB-", "4", "-RSB-", "Brace", ",", "N.", ",", "Kemp", ",", "R.", ",", "Snelgar", ",", "R.", ",", "SPSS", "for", "Psychologists", ":", "Palgrave", "Macmillan", ",", "2003", ".", "-LSB-", "5", "-RSB-", "Brito", "e", "Abreu", ",", "F.", ",", "Melo", ",", "W.", ",", "``", "Evaluating", "the", "Impact", "of", "Object-Oriented", "Design", "on", "Software", "Quality", ",", "''", "Proceedings", "of", "Third", "International", "Software", "Metrics", "Symposium", ",", "1996", ",", "pp.", "90-99", ".", "-LSB-", "6", "-RSB-", "Denaro", ",", "G.", ",", "Pezze", ",", "M.", ",", "``", "An", "Empirical", "Evaluation", "of", "Fault-Proneness", "Models", ",", "''", "Proceedings", "of", "International", "Conference", "on", "Software", "Engineering", ",", "2002", ",", "pp.", "241", "-", "251", ".", "-LSB-", "7", "-RSB-", "Fenton", ",", "N.", "E.", ",", "Ohlsson", ",", "N.", ",", "``", "Quantitative", "analysis", "of", "faults", "and", "failures", "in", "a", "complex", "software", "system", ",", "''", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "Vol", ".", "26", ",", "No.", "8", ",", "pp", ".", "797-814", ",", "2000", ".", "-LSB-", "8", "-RSB-", "Fenton", ",", "N.", "E.", ",", "Pfleeger", ",", "S.L.", ",", "Software", "Metrics", ".", "Boston", ",", "MA", ":", "International", "Thompson", "Publishing", ",", "1997", ".", "-LSB-", "9", "-RSB-", "Graves", ",", "T.", "L.", ",", "Karr", ",", "A.F.", ",", "Marron", ",", "J.S.", ",", "Siy", ",", "H.", ",", "``", "Predicting", "Fault", "Incidence", "Using", "Software", "Change", "History", ",", "''", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "Vol", ".", "26", ",", "No.", "7", ",", "pp", ".", "653-661", ",", "2000", ".", "-LSB-", "10", "-RSB-", "Jackson", ",", "E.", "J.", ",", "A", "User", "'s", "Guide", "to", "Principal", "Components", ":", "John", "Wiley", "&", "Sons", ",", "Inc.", ",", "1991", ".", "-LSB-", "11", "-RSB-", "Kaiser", ",", "H.", "F.", ",", "``", "An", "Index", "of", "Factorial", "Simplicity", ",", "''", "Psychometrika", ",", "Vol", ".", "39", ",", "No.", ",", "pp.", "31-36", ",", "1974", ".", "-LSB-", "12", "-RSB-", "Karunanithi", ",", "N.", ",", "``", "A", "Neural", "Network", "approach", "for", "Software", "Reliability", "Growth", "Modeling", "in", "the", "Presence", "of", "Code", "Churn", ",", "''", "Proceedings", "of", "International", "Symposium", "on", "Software", "Reliability", "Engineering", ",", "1993", ",", "pp.", "310-317", ".", "-LSB-", "13", "-RSB-", "Khoshgoftaar", ",", "T.", "M.", ",", "Allen", ",", "E.B.", ",", "Goel", ",", "N.", ",", "Nandi", ",", "A.", ",", "McMullan", ",", "J.", ",", "``", "Detection", "of", "Software", "Modules", "with", "high", "Debug", "Code", "Churn", "in", "a", "very", "large", "Legacy", "System", ",", "''", "Proceedings", "of", "International", "Symposium", "on", "Software", "Reliability", "Engineering", ",", "1996", ",", "pp.", "364-371", ".", "-LSB-", "14", "-RSB-", "Khoshgoftaar", ",", "T.", "M.", ",", "Allen", ",", "E.B.", ",", "Kalaichelvan", ",", "K.S.", ",", "Goel", ",", "N.", ",", "Hudepohl", ",", "J.P.", ",", "Mayrand", ",", "J.", ",", "``", "Detection", "of", "fault-prone", "program", "modules", "in", "a", "very", "large", "telecommunications", "system", ",", "''", "Proceedings", "of", "International", "Symposium", "Software", "Reliability", "Engineering", ",", "1995", ",", "pp.", "24-33", ".", "-LSB-", "15", "-RSB-", "Khoshgoftaar", ",", "T.", "M.", ",", "Szabo", ",", "R.M.", ",", "``", "Improving", "Code", "Churn", "Predictions", "During", "the", "System", "Test", "and", "Maintenance", "Phases", ",", "''", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Software", "Maintainence", ",", "1994", ",", "pp.", "58-67", ".", "-LSB-", "16", "-RSB-", "Kleinbaum", ",", "D.", "G.", ",", "Kupper", ",", "L.L.", ",", "Muller", ",", "K.E.", ",", "Applied", "Regression", "Analysis", "and", "Other", "Multivariable", "Methods", ".", "Boston", ":", "PWS-KENT", "Publishing", "Company", ",", "1987", ".", "-LSB-", "17", "-RSB-", "Munson", ",", "J.", "C.", ",", "Elbaum", ",", "S.", ",", "``", "Code", "Churn", ":", "A", "Measure", "for", "Estimating", "the", "Impact", "of", "Code", "Change", ",", "''", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Software", "Maintenance", ",", "1998", ",", "pp.", "24-31", ".", "-LSB-", "18", "-RSB-", "Munson", ",", "J.", "C.", ",", "Khoshgoftaar", ",", "T.M.", ",", "``", "The", "Detection", "of", "Fault-Prone", "Programs", ",", "''", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "Vol", ".", "18", ",", "No.", "5", ",", "pp.", "423-433", ",", "1992", ".", "-LSB-", "19", "-RSB-", "Ohlsson", ",", "M.", "C.", ",", "von", "Mayrhauser", ",", "A.", ",", "McGuire", ",", "B.", ",", "Wohlin", ",", "C.", ",", "``", "Code", "Decay", "Analysis", "of", "Legacy", "Software", "through", "Successive", "Releases", ",", "''", "Proceedings", "of", "IEEE", "Aerospace", "Conference", ",", "1999", ",", "pp.", "69-81", ".", "-LSB-", "20", "-RSB-", "Ostrand", ",", "T.", "J.", ",", "Weyuker", ",", "E.J", ",", "Bell", ",", "R.M.", ",", "``", "Where", "the", "Bugs", "Are", ",", "''", "Proceedings", "of", "the", "2004", "ACM", "SIGSOFT", "International", "Symposium", "on", "Software", "Testing", "and", "Analysis", "-LRB-", "ISSTA", "-RRB-", ",", "2004", ",", "pp.", "86-96", ".", "292"], "doc_bio_tags": ["O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["defect density", "multiple regression", "principal component analysis", "relative code churn"], "abstractive_keyphrases": ["fault-proneness"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "19", "document": ["A", "Similarity", "Measure", "for", "Motion", "Stream", "Segmentation", "and", "Recognition", "Recognition", "of", "motion", "streams", "such", "as", "data", "streams", "generated", "by", "different", "sign", "languages", "or", "various", "captured", "human", "body", "motions", "requires", "a", "high", "performance", "similarity", "measure", ".", "The", "motion", "streams", "have", "multiple", "attributes", ",", "and", "motion", "patterns", "in", "the", "streams", "can", "have", "different", "lengths", "from", "those", "of", "isolated", "motion", "patterns", "and", "different", "attributes", "can", "have", "different", "temporal", "shifts", "and", "variations", ".", "To", "address", "these", "issues", ",", "this", "paper", "proposes", "a", "similarity", "measure", "based", "on", "singular", "value", "decomposition", "-LRB-", "SVD", "-RRB-", "of", "motion", "matrices", ".", "Eigenvector", "differences", "weighed", "by", "the", "corresponding", "eigenvalues", "are", "considered", "for", "the", "proposed", "similarity", "measure", ".", "Experiments", "with", "general", "hand", "gestures", "and", "human", "motion", "streams", "show", "that", "the", "proposed", "similarity", "measure", "gives", "good", "performance", "for", "recognizing", "motion", "patterns", "in", "the", "motion", "streams", "in", "real", "time", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "Data", "Mining", "Algorithm", "Motion", "streams", "can", "be", "generated", "by", "continuously", "performed", "sign", "language", "words", "-LSB-", "14", "-RSB-", "or", "captured", "human", "body", "motions", "such", "as", "various", "dances", ".", "Captured", "human", "motions", "can", "be", "applied", "to", "the", "movie", "and", "computer", "game", "industries", "by", "reconstructing", "various", "motions", "from", "video", "sequences", "-LSB-", "10", "-RSB-", "or", "images", "-LSB-", "15", "-RSB-", "or", "from", "motions", "captured", "by", "motion", "capture", "systems", "-LSB-", "4", "-RSB-", ".", "Recognizing", "motion", "patterns", "in", "the", "streams", "with", "unsupervised", "methods", "requires", "no", "training", "process", ",", "and", "is", "very", "convenient", "when", "new", "motions", "are", "expected", "to", "be", "added", "to", "the", "known", "pattern", "pools", ".", "A", "similarity", "measure", "with", "good", "performance", "is", "thus", "necessary", "for", "segmenting", "and", "recognizing", "the", "motion", "streams", ".", "Such", "a", "similarity", "measure", "needs", "to", "address", "some", "new", "challenges", "posed", "by", "real", "world", "Work", "supported", "partially", "by", "the", "National", "Science", "Foundation", "under", "Grant", "No.", "0237954", "for", "the", "project", "CAREER", ":", "Animation", "Databases", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Copyright", "200X", "ACM", "X-XXXXX-XX-X", "/", "XX/XX", "...", "$", "5.00", ".", "motion", "streams", ":", "first", ",", "the", "motion", "patterns", "have", "dozens", "of", "attributes", ",", "and", "similar", "patterns", "can", "have", "different", "lengths", "due", "to", "different", "motion", "durations", ";", "second", ",", "different", "attributes", "of", "similar", "motions", "have", "different", "variations", "and", "different", "temporal", "shifts", "due", "to", "motion", "variations", ";", "and", "finally", ",", "motion", "streams", "are", "continuous", ",", "and", "there", "are", "no", "obvious", "``", "pauses", "''", "between", "neighboring", "motions", "in", "a", "stream", ".", "A", "good", "similarity", "measure", "not", "only", "needs", "to", "capture", "the", "similarity", "of", "complete", "motion", "patterns", ",", "but", "also", "needs", "to", "capture", "the", "differences", "between", "complete", "motion", "patterns", "and", "incomplete", "motion", "patterns", "or", "sub-patterns", "in", "order", "to", "segment", "a", "stream", "for", "motion", "recognition", ".", "As", "the", "main", "contribution", "of", "this", "paper", ",", "we", "propose", "a", "similarity", "measure", "to", "address", "the", "above", "issues", ".", "The", "proposed", "similarity", "measure", "is", "defined", "based", "on", "singular", "value", "decomposition", "of", "the", "motion", "matrices", ".", "The", "first", "few", "eigenvectors", "are", "compared", "for", "capturing", "the", "similarity", "of", "two", "matrices", ",", "and", "the", "inner", "products", "of", "the", "eigenvectors", "are", "given", "different", "weights", "for", "their", "different", "contributions", ".", "We", "propose", "to", "use", "only", "the", "eigenvalues", "corresponding", "to", "the", "involved", "eigenvectors", "of", "the", "two", "motion", "matrices", "as", "weights", ".", "This", "simple", "and", "intuitive", "weighing", "strategy", "gives", "the", "same", "importance", "to", "eigenvalues", "of", "the", "two", "matrices", ".", "We", "also", "show", "that", "the", "95", "%", "variance", "rule", "for", "choosing", "the", "number", "of", "eigenvectors", "-LSB-", "13", "-RSB-", "is", "not", "sufficient", "for", "recognizing", "both", "isolated", "patterns", "and", "motion", "streams", ".", "Our", "experiments", "demonstrate", "that", "at", "least", "the", "first", "6", "eigenvectors", "need", "to", "be", "considered", "for", "motion", "streams", "of", "either", "22", "attribute", "or", "54", "attributes", ",", "and", "the", "first", "6", "eigenvalues", "accounts", "for", "more", "than", "99.5", "%", "of", "the", "total", "variance", "in", "the", "motion", "matrices", ".", "Multi-attribute", "pattern", "similarity", "search", ",", "especially", "in", "continuous", "motion", "streams", ",", "has", "been", "widely", "studied", "for", "sign", "language", "recognition", "and", "for", "motion", "synthesis", "in", "computer", "animation", ".", "The", "recognition", "methods", "usually", "include", "template", "matching", "by", "distance", "measures", "and", "hidden", "Markov", "models", "-LRB-", "HMM", "-RRB-", ".", "Template", "matching", "by", "using", "similarity/distance", "measures", "has", "been", "employed", "for", "multi-attribute", "pattern", "recognition", ".", "Joint", "angles", "are", "extracted", "in", "-LSB-", "11", "-RSB-", "as", "features", "to", "represent", "different", "human", "body", "static", "poses", "for", "the", "Mahalanobis", "distance", "measure", "of", "two", "joint", "angle", "features", ".", "Similarly", ",", "momentum", ",", "kinetic", "energy", "and", "force", "are", "constructed", "in", "-LSB-", "2", ",", "5", "-RSB-", "as", "activity", "measure", "and", "prediction", "of", "gesture", "boundaries", "for", "various", "segments", "of", "the", "human", "body", ",", "and", "the", "Mahalanobis", "distance", "function", "of", "two", "composite", "features", "are", "solved", "by", "dynamic", "programming", ".", "89", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MDM/KDD", "2005", "Chicago", ",", "August", "21", ",", "Chicago", ",", "Illinois", ",", "USA", "Copyright", "2005", "ACM", "--", "MDM", "2005", "-", "1-59593-216-X", "...", "$", "5.00", ".", "Similarity", "measures", "are", "defined", "for", "multi-attribute", "data", "in", "-LSB-", "6", ",", "12", ",", "16", "-RSB-", "based", "on", "principal", "component", "analysis", "-LRB-", "PCA", "-RRB-", ".", "Inner", "products", "or", "angular", "differences", "of", "principal", "components", "-LRB-", "PCs", "-RRB-", "are", "considered", "for", "similarity", "measure", "definitions", ",", "with", "different", "weighted", "strategies", "for", "different", "PCs", ".", "Equal", "weights", "are", "considered", "for", "different", "combinations", "of", "PCs", "in", "-LSB-", "6", "-RSB-", ",", "giving", "different", "PCs", "equal", "contributions", "to", "the", "similarity", "measure", ".", "The", "similarity", "measure", "in", "-LSB-", "12", "-RSB-", "takes", "the", "minimum", "of", "two", "weighted", "sums", "of", "PC", "inner", "products", ",", "and", "the", "two", "sums", "are", "respectively", "weighted", "by", "different", "weights", ".", "A", "global", "weight", "vector", "is", "obtained", "by", "taking", "into", "account", "all", "available", "isolated", "motion", "patterns", "in", "-LSB-", "16", "-RSB-", ",", "and", "this", "weight", "vector", "is", "used", "for", "specifying", "different", "contributions", "from", "different", "PC", "inner", "products", "to", "the", "similarity", "measure", "Eros", ".", "The", "dominating", "first", "PC", "and", "a", "normalized", "eigenvalue", "vector", "are", "considered", "in", "-LSB-", "7", ",", "8", "-RSB-", "for", "pattern", "recognition", ".", "In", "contrast", ",", "this", "paper", "propose", "to", "consider", "the", "first", "few", "PCs", ",", "and", "the", "angular", "differences", "or", "inner", "products", "of", "different", "PCs", "are", "weighted", "by", "different", "weights", "which", "depends", "on", "the", "data", "variances", "along", "the", "corresponding", "PCs", ".", "The", "HMM", "technique", "has", "been", "widely", "used", "for", "sign", "language", "recognition", ",", "and", "different", "recognition", "rates", "have", "been", "reported", "for", "different", "sign", "languages", "and", "different", "feature", "selection", "approaches", ".", "Starner", "et", "al.", "-LSB-", "14", "-RSB-", "achieved", "92", "%", "and", "98", "%", "word", "accuracy", "respectively", "for", "two", "systems", ",", "the", "first", "of", "the", "systems", "used", "a", "camera", "mounted", "on", "a", "desk", "and", "the", "second", "one", "used", "a", "camera", "in", "a", "user", "'s", "cap", "for", "extracting", "features", "as", "the", "input", "of", "HMM", ".", "Similarly", "Liang", "and", "Ouhyoung", "-LSB-", "9", "-RSB-", "used", "HMM", "for", "postures", ",", "orientations", "and", "motion", "primitives", "as", "features", "extracted", "from", "continuous", "Taiwan", "sign", "language", "streams", "and", "an", "average", "80.4", "%", "recognition", "rate", "was", "achieved", ".", "In", "contrast", ",", "the", "approach", "proposed", "in", "this", "paper", "is", "an", "unsupervised", "approach", ",", "and", "no", "training", "as", "required", "for", "HMM", "recognizers", "is", "needed", ".", "The", "joint", "positional", "coordinates", "or", "joint", "angular", "values", "of", "a", "subject", "in", "motion", "can", "be", "represented", "by", "a", "matrix", ":", "the", "columns", "or", "attributes", "of", "the", "matrix", "are", "for", "different", "joints", ",", "and", "the", "rows", "or", "frames", "of", "the", "matrix", "are", "for", "different", "time", "instants", ".", "Similarity", "of", "two", "motions", "is", "the", "similarity", "of", "the", "resulting", "motion", "matrices", ",", "which", "have", "the", "same", "number", "of", "attributes", "or", "columns", ",", "and", "yet", "can", "have", "different", "number", "of", "rows", "due", "to", "different", "motion", "durations", ".", "To", "capture", "the", "similarity", "of", "two", "matrices", "of", "different", "lengths", ",", "we", "propose", "to", "apply", "singular", "value", "decomposition", "-LRB-", "SVD", "-RRB-", "to", "the", "motion", "matrices", "in", "order", "to", "capture", "the", "similarity", "of", "the", "matrix", "geometric", "structures", ".", "Hence", "we", "briefly", "present", "SVD", "and", "its", "associated", "properties", "below", "before", "proposing", "the", "similarity", "measure", "based", "on", "SVD", "in", "this", "section", ".", "3.1", "Singular", "Value", "Decomposition", "The", "geometric", "structure", "of", "a", "matrix", "can", "be", "revealed", "by", "the", "SVD", "of", "the", "matrix", ".", "As", "shown", "in", "-LSB-", "3", "-RSB-", ",", "any", "real", "m", "n", "matrix", "A", "can", "be", "decomposed", "into", "A", "=", "U", "V", "T", ",", "where", "U", "=", "-LSB-", "u", "1", ",", "u", "2", ",", "...", ",", "u", "m", "-RSB-", "R", "m", "m", "and", "V", "=", "-LSB-", "v", "1", ",", "v", "2", ",", "...", ",", "v", "n", "-RSB-", "R", "n", "n", "are", "two", "orthogonal", "matrices", ",", "and", "is", "a", "diagonal", "matrix", "with", "diagonal", "entries", "being", "the", "singular", "values", "of", "A", ":", "1", "2", "...", "min", "-LRB-", "m", ",", "n", "-RRB-", "0", ".", "Column", "vectors", "u", "i", "and", "v", "i", "are", "the", "i", "th", "left", "and", "right", "singular", "vectors", "of", "A", ",", "respectively", ".", "It", "can", "be", "shown", "that", "the", "right", "singular", "vectors", "of", "the", "sym-metric", "n", "n", "matrix", "M", "=", "A", "T", "A", "are", "identical", "to", "the", "corresponding", "right", "singular", "vectors", "of", "A", ",", "referred", "to", "as", "eigenvectors", "of", "M", ".", "The", "singular", "values", "of", "M", ",", "or", "eigenvalues", "of", "M", ",", "are", "squares", "of", "the", "corresponding", "singular", "values", "of", "A", ".", "The", "eigenvector", "with", "the", "largest", "eigenvalue", "gives", "the", "first", "principal", "component", ".", "The", "eigenvector", "with", "the", "second", "largest", "eigenvalue", "is", "the", "second", "principal", "component", "and", "so", "on", ".", "3.2", "Similarity", "Measure", "Since", "SVD", "exposes", "the", "geometric", "structure", "of", "a", "matrix", ",", "it", "can", "be", "used", "for", "capturing", "the", "similarity", "of", "two", "matrices", ".", "We", "can", "compute", "the", "SVD", "of", "M", "=", "A", "T", "A", "instead", "of", "computing", "the", "SVD", "of", "A", "to", "save", "computational", "time", ".", "The", "reasons", "are", "that", "the", "eigenvectors", "of", "M", "are", "identical", "to", "the", "corresponding", "right", "singular", "vectors", "of", "A", ",", "the", "eigenvalues", "of", "M", "are", "the", "squares", "of", "the", "corresponding", "singular", "values", "of", "A", ",", "and", "SVD", "takes", "O", "-LRB-", "n", "3", "-RRB-", "time", "for", "the", "n", "n", "M", "and", "takes", "O", "-LRB-", "mn", "2", "-RRB-", "time", "with", "a", "large", "constant", "for", "the", "m", "n", "A", ",", "and", "usually", "m", ">", "n.", "Ideally", ",", "if", "two", "motions", "are", "similar", ",", "their", "corresponding", "eigenvectors", "should", "be", "parallel", "to", "each", "other", ",", "and", "their", "corresponding", "eigenvalues", "should", "also", "be", "proportional", "to", "each", "other", ".", "This", "is", "because", "the", "eigenvectors", "are", "the", "corresponding", "principal", "components", ",", "and", "the", "eigenvalues", "reflect", "the", "variances", "of", "the", "matrix", "data", "along", "the", "corresponding", "principal", "components", ".", "But", "due", "to", "motion", "variations", ",", "all", "corresponding", "eigenvectors", "can", "not", "be", "parallel", "as", "shown", "in", "Figure", "1", ".", "The", "parallelness", "or", "angular", "differences", "of", "two", "eigenvectors", "u", "and", "v", "can", "be", "described", "by", "the", "absolute", "value", "of", "their", "inner", "products", ":", "|", "cos", "|", "=", "|", "u", "v", "|", "/", "-LRB-", "|", "u", "|", "|", "v", "|", "-RRB-", "=", "|", "u", "v", "|", ",", "where", "|", "u", "|", "=", "|", "v", "|", "=", "1", ".", "We", "consider", "the", "absolute", "value", "of", "the", "inner", "products", "because", "eigenvectors", "can", "have", "different", "signs", "as", "shown", "in", "-LSB-", "8", "-RSB-", ".", "Since", "eigenvalues", "are", "numerically", "related", "to", "the", "variances", "of", "the", "matrix", "data", "along", "the", "associated", "eigenvectors", ",", "the", "importance", "of", "the", "eigenvector", "parallelness", "can", "be", "described", "by", "the", "corresponding", "eigenvalues", ".", "Hence", ",", "eigenvalues", "are", "to", "be", "used", "to", "give", "different", "weights", "to", "different", "eigenvector", "pairs", ".", "Figure", "2", "shows", "that", "the", "first", "eigenvalues", "are", "the", "dominating", "components", "of", "all", "the", "eigenvalues", ",", "and", "other", "eigenvalues", "become", "smaller", "and", "smaller", "and", "approach", "zero", ".", "As", "the", "eigenvalues", "are", "close", "to", "zero", ",", "their", "corresponding", "eigenvectors", "can", "be", "very", "different", "even", "if", "two", "matrices", "are", "similar", ".", "Hence", "not", "all", "the", "eigenvectors", "need", "to", "be", "incorporated", "into", "the", "similarity", "measure", ".", "Since", "two", "matrices", "have", "two", "eigenvalues", "for", "the", "corresponding", "eigenvector", "pair", ",", "these", "two", "eigenvalues", "should", "have", "equal", "contributions", "or", "weights", "to", "the", "eigenvector", "parallelness", ".", "In", "addition", ",", "the", "similarity", "measure", "of", "two", "matrices", "should", "be", "independent", "to", "other", "matrices", ",", "hence", "only", "eigenvectors", "and", "eigenvalues", "of", "the", "two", "matrices", "should", "be", "considered", ".", "Based", "on", "the", "above", "discussions", ",", "we", "propose", "the", "following", "similarity", "measure", "for", "two", "matrices", "Q", "and", "P", ":", "-LRB-", "Q", ",", "P", "-RRB-", "=", "1", "2", "k", "i", "=", "1", "-LRB-", "-LRB-", "i", "/", "n", "i", "=", "1", "i", "+", "i", "/", "n", "i", "=", "1", "i", "-RRB-", "|", "u", "i", "v", "i", "|", "-RRB-", "where", "i", "and", "i", "are", "the", "i", "th", "eigenvalues", "corresponding", "to", "the", "i", "th", "eigenvectors", "u", "i", "and", "v", "i", "of", "square", "matrices", "of", "Q", "and", "P", ",", "respectively", ",", "and", "1", "<", "k", "<", "n.", "Integer", "k", "determines", "how", "many", "eigenvectors", "are", "considered", "and", "it", "depends", "on", "the", "number", "of", "attributes", "n", "of", "motion", "matrices", ".", "Experiments", "with", "hand", "gesture", "motions", "-LRB-", "n", "=", "22", "-RRB-", "and", "human", "body", "motions", "-LRB-", "n", "=", "90", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "22", "-0.7", "-0.6", "-0.5", "-0.4", "-0.3", "-0.2", "-0.1", "0", "0.1", "0.2", "Component", "of", "First", "Eigenvector", "Component", "Value", "of", "First", "Eigenvector", "Motion341", "Motion342", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "22", "-0.4", "-0.2", "0", "0.2", "0.4", "0.6", "Component", "Value", "of", "Second", "Eigenvector", "Component", "of", "Second", "Eigenvector", "Motion341", "Motion342", "Figure", "1", ":", "Eigenvectors", "of", "similar", "patterns", ".", "The", "first", "eigenvectors", "are", "similar", "to", "each", "other", ",", "while", "other", "eigenvectors", ",", "such", "as", "the", "second", "vectors", "shown", "in", "the", "bottom", ",", "can", "be", "quite", "different", ".", "54", "-RRB-", "in", "Section", "4", "show", "that", "k", "=", "6", "is", "large", "enough", "without", "loss", "of", "pattern", "recognition", "accuracy", "in", "streams", ".", "We", "refer", "to", "this", "non-metric", "similarity", "measure", "as", "k", "Weighted", "Angular", "Similarity", "-LRB-", "kWAS", "-RRB-", ",", "which", "captures", "the", "angular", "similarities", "of", "the", "first", "k", "corresponding", "eigenvector", "pairs", "weighted", "by", "the", "corresponding", "eigenvalues", ".", "It", "can", "be", "easily", "verified", "that", "the", "value", "of", "kWAS", "ranges", "over", "-LSB-", "0,1", "-RSB-", ".", "When", "all", "corresponding", "eigenvectors", "are", "normal", "to", "each", "other", ",", "the", "similarity", "measure", "will", "be", "zero", ",", "and", "when", "two", "matrices", "are", "identical", ",", "the", "similarity", "measure", "approaches", "the", "maximum", "value", "one", "if", "k", "approaches", "n.", "3.3", "Stream", "Segmentation", "Algorithm", "In", "order", "to", "recognize", "motion", "streams", ",", "we", "assume", "one", "motion", "in", "a", "stream", "has", "a", "minimum", "length", "l", "and", "a", "maximum", "length", "L", ".", "The", "following", "steps", "can", "be", "applied", "to", "incremen-tally", "segment", "a", "stream", "for", "motion", "recognition", ":", "1", ".", "SVD", "is", "applied", "to", "all", "isolated", "motion", "patterns", "P", "to", "obtain", "their", "eigenvectors", "and", "eigenvalues", ".", "Let", "be", "the", "incremented", "stream", "length", "for", "segmentation", ",", "and", "let", "L", "be", "the", "location", "for", "segmentation", ".", "Initially", "L", "=", "l.", "2", ".", "Starting", "from", "the", "beginning", "of", "the", "stream", "or", "the", "end", "of", "the", "previously", "recognized", "motion", ",", "segment", "the", "stream", "at", "location", "L.", "Compute", "the", "eigenvectors", "and", "eigenvalues", "of", "the", "motion", "segment", "Q.", "3", ".", "Compute", "kWAS", "between", "Q", "and", "all", "motion", "patterns", "P", ".", "Update", "max", "to", "be", "the", "highest", "similarity", "after", "the", "previous", "motion", "'s", "recognition", ".", "4", ".", "If", "L", "+", "<", "L", ",", "update", "L", "=", "L", "+", "and", "go", "to", "step", "2", ".", "Otherwise", ",", "the", "segment", "corresponding", "to", "max", "is", "recognized", "to", "be", "the", "motion", "pattern", "which", "gives", "the", "highest", "similarity", "max", ",", "update", "L", "=", "l", "starting", "from", "the", "end", "of", "the", "last", "recognized", "motion", "pattern", "and", "go", "to", "step", "2", ".", "1", "2", "3", "4", "5", "6", "7", "8", "85", "87", "89", "91", "93", "95", "97", "99", "100", "Number", "of", "Eigenvalues", "Accumulated", "Eigenvalue", "Percentage", "-LRB-", "%", "-RRB-", "CyberGlove", "Data", "MoCap", "Data", "Figure", "2", ":", "Accumulated", "eigenvalue", "percentages", "in", "total", "eigenvalues", "for", "CyberGlove", "data", "and", "captured", "human", "body", "motion", "data", ".", "There", "are", "22", "eigenvalues", "for", "the", "CyberGlove", "data", "and", "54", "eigenvalues", "for", "the", "captured", "motion", "data", ".", "The", "sum", "of", "the", "first", "2", "eigenvalues", "is", "more", "than", "95", "%", "of", "the", "corresponding", "total", "eigenvalues", ",", "and", "the", "sum", "of", "the", "first", "6", "eigenvalues", "is", "almost", "100", "%", "of", "the", "total", "eigenvalues", ".", "This", "section", "evaluates", "experimentally", "the", "performances", "of", "the", "similarity", "measure", "kWAS", "proposed", "in", "this", "paper", ".", "It", "has", "been", "shown", "in", "-LSB-", "16", "-RSB-", "that", "Eros", "-LSB-", "16", "-RSB-", "outperforms", "other", "similarity", "measures", "mentioned", "in", "Section", "2", "except", "MAS", "-LSB-", "8", "-RSB-", ".", "Hence", "in", "this", "section", ",", "we", "compare", "the", "performances", "of", "the", "proposed", "kWAS", "with", "Eros", "and", "MAS", "for", "recognizing", "similar", "isolated", "motion", "patterns", "and", "for", "segmenting", "and", "recognizing", "motion", "streams", "from", "hand", "gesture", "capturing", "CyberGlove", "and", "human", "body", "motion", "capture", "system", ".", "4.1", "Data", "Generation", "A", "similarity", "measure", "should", "be", "able", "to", "be", "used", "not", "only", "for", "recognizing", "isolated", "patterns", "with", "high", "accuracy", ",", "but", "also", "for", "recognizing", "patterns", "in", "continuous", "motions", "or", "motion", "streams", ".", "Recognizing", "motion", "streams", "is", "more", "challenging", "than", "recognizing", "isolated", "patterns", ".", "This", "is", "because", "many", "very", "similar", "motion", "segments", "or", "sub-patterns", "needs", "to", "be", "compared", "in", "order", "to", "find", "appropriate", "segmentation", "locations", ",", "and", "a", "similarity", "measure", "should", "capture", "the", "difference", "between", "a", "complete", "motion", "or", "pattern", "and", "its", "sub-patterns", ".", "Hence", ",", "both", "isolated", "motion", "patterns", "and", "motion", "streams", "were", "generated", "for", "evaluating", "the", "performance", "of", "kWAS", ".", "Two", "data", "sources", "are", "considered", "for", "data", "generation", ":", "a", "CyberGlove", "for", "capturing", "hand", "gestures", "and", "a", "Vicon", "motion", "capture", "system", "for", "capturing", "human", "body", "motions", ".", "4.1.1", "CyberGlove", "Data", "A", "CyberGlove", "is", "a", "fully", "instrumented", "data", "glove", "that", "provides", "22", "sensors", "for", "measuring", "hand", "joint", "angular", "values", "to", "capture", "motions", "of", "a", "hand", ",", "such", "as", "American", "Sign", "Language", "-LRB-", "ASL", "-RRB-", "words", "for", "hearing", "impaired", ".", "The", "data", "for", "a", "hand", "gesture", "contain", "22", "angular", "values", "for", "each", "time", "instant/frame", ",", "one", "value", "for", "a", "joint", "of", "one", "degree", "of", "freedom", ".", "The", "motion", "data", "are", "extracted", "at", "around", "120", "frames", "per", "second", ".", "Data", "matrices", "thus", "have", "22", "attributes", "for", "the", "CyberGlove", "motions", ".", "One", "hundred", "and", "ten", "different", "isolated", "motions", "were", "generated", "as", "motion", "patterns", ",", "and", "each", "motion", "was", "repeated", "for", "three", "times", ",", "resulting", "in", "330", "isolated", "hand", "gesture", "motions", ".", "Some", "motions", "have", "semantic", "meanings", ".", "For", "example", ",", "91", "the", "motion", "for", "BUS", "as", "shown", "in", "Table", "1", "is", "for", "the", "ASL", "sign", "``", "bus", "''", ".", "Yet", "for", "segmentation", "and", "recognition", ",", "we", "only", "require", "that", "each", "individual", "motion", "be", "different", "from", "others", ",", "and", "thus", "some", "motions", "are", "general", "motions", ",", "and", "do", "not", "have", "any", "particular", "semantic", "meanings", ",", "such", "as", "the", "THUMBUP", "motion", "in", "Table", "1", ".", "The", "following", "18", "motions", "shown", "in", "Table", "1", "were", "used", "to", "generate", "continuous", "motions", "or", "streams", ".", "Twenty", "four", "different", "motion", "streams", "were", "generated", "for", "segmentation", "and", "recognition", "purpose", ".", "There", "are", "5", "to", "10", "motions", "in", "a", "stream", "and", "150", "motions", "in", "total", "in", "24", "streams", ",", "with", "6.25", "motions", "in", "a", "stream", "on", "average", ".", "It", "should", "be", "noted", "that", "variable-length", "transitional", "noises", "occur", "between", "successive", "motions", "in", "the", "generated", "streams", ".", "Table", "1", ":", "Individual", "motions", "used", "for", "streams", "35", "60", "70", "80", "90", "BUS", "GOODBYE", "HALF", "IDIOM", "JAR", "JUICE", "KENNEL", "KNEE", "MILK", "TV", "SCISSOR", "SPREAD", "THUMBUP", "4.1.2", "Motion", "Capture", "Data", "The", "motion", "capture", "data", "come", "from", "various", "motions", "captured", "collectively", "by", "using", "16", "Vicon", "cameras", "and", "the", "Vicon", "iQ", "Workstation", "software", ".", "A", "dancer", "wears", "a", "suit", "of", "non-reflective", "material", "and", "44", "markers", "are", "attached", "to", "the", "body", "suit", ".", "After", "system", "calibration", "and", "subject", "calibration", ",", "global", "coordinates", "and", "rotation", "angles", "of", "19", "joints/segments", "can", "be", "obtained", "at", "about", "120", "frames", "per", "second", "for", "any", "motion", ".", "Similarity", "of", "patterns", "with", "global", "3D", "positional", "data", "can", "be", "disguised", "by", "different", "locations", ",", "orientations", "or", "different", "paths", "of", "motion", "execution", "as", "illustrated", "in", "Figure", "3", "-LRB-", "a", "-RRB-", ".", "Since", "two", "patterns", "are", "similar", "to", "each", "other", "because", "of", "similar", "relative", "positions", "of", "corresponding", "body", "segments", "at", "corresponding", "time", ",", "and", "the", "relative", "positions", "of", "different", "segments", "are", "independent", "of", "locations", "or", "orientations", "of", "the", "body", ",", "we", "can", "transform", "the", "global", "position", "data", "into", "local", "position", "data", "as", "follows", ".", "Let", "X", "p", ",", "Y", "p", ",", "Z", "p", "be", "the", "global", "coordinates", "of", "one", "point", "on", "pelvis", ",", "the", "selected", "origin", "of", "the", "``", "moving", "''", "local", "coordinate", "system", ",", "and", ",", ",", "be", "the", "rotation", "angles", "of", "the", "pelvis", "segment", "relative", "to", "the", "global", "coordinate", "system", "axes", ",", "respectively", ".", "The", "translation", "matrix", "is", "T", "as", "follows", ":", "T", "=", "1", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "0", "-", "X", "p", "-", "Y", "p", "-", "Z", "p", "1", "The", "rotation", "matrix", "R", "=", "R", "x", "R", "y", "R", "z", ",", "where", "R", "x", "=", "1", "0", "0", "0", "0", "cos", "-", "sin", "0", "0", "sin", "cos", "0", "0", "0", "0", "1", "R", "y", "=", "cos", "0", "sin", "0", "0", "1", "0", "0", "-", "sin", "0", "cos", "0", "0", "0", "0", "1", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "-1500", "-1000", "-500", "0", "500", "1000", "1500", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "0", "500", "1000", "1500", "2000", "Motion", "Capture", "Frames", "Global", "Coordinates", "of", "Joints", "-LRB-", "mm", "-RRB-", "Global", "Coordinates", "of", "Joints", "-LRB-", "mm", "-RRB-", "-LRB-", "a", "-RRB-", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "-1000", "-500", "0", "500", "1000", "Transformed", "Coordinates", "of", "Joints", "-LRB-", "mm", "-RRB-", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "-1000", "-500", "0", "500", "1000", "Motion", "Capture", "Frames", "Transformed", "Coordinates", "of", "Joints", "-LRB-", "mm", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "3", ":", "3D", "motion", "capture", "data", "for", "similar", "motions", "executed", "at", "different", "locations", "and", "in", "different", "orientations", ":", "-LRB-", "a", "-RRB-", "before", "transformation", ";", "-LRB-", "b", "-RRB-", "after", "transformation", ".", "R", "z", "=", "cos", "-", "sin", "0", "0", "sin", "cos", "0", "0", "0", "0", "1", "0", "0", "0", "0", "1", "Let", "X", ",", "Y", ",", "Z", "be", "the", "global", "coordinates", "of", "one", "point", "on", "any", "segments", ",", "and", "x", ",", "y", ",", "z", "be", "the", "corresponding", "transformed", "local", "coordinates", ".", "x", ",", "y", "and", "z", "can", "be", "computed", "as", "follows", ":", "-LSB-", "x", "y", "z", "1", "-RSB-", "=", "-LSB-", "X", "Y", "Z", "1", "-RSB-", "T", "R", "The", "transformed", "data", "are", "positions", "of", "different", "segments", "relative", "to", "a", "moving", "coordinate", "system", "with", "the", "origin", "at", "some", "fixed", "point", "of", "the", "body", ",", "for", "example", "the", "pelvis", ".", "The", "moving", "coordinate", "system", "is", "not", "necessarily", "aligned", "with", "the", "global", "system", ",", "and", "it", "can", "rotate", "with", "the", "body", ".", "So", "data", "transformation", "includes", "both", "translation", "and", "rotation", ",", "and", "the", "transformed", "data", "would", "be", "translation", "and", "rotation", "invariant", "as", "shown", "in", "Figure", "3", "-LRB-", "b", "-RRB-", ".", "The", "coordinates", "of", "the", "origin", "pelvis", "are", "not", "included", ",", "thus", "the", "transformed", "matrices", "have", "54", "columns", ".", "Sixty", "two", "isolated", "motions", "including", "Taiqi", ",", "Indian", "dances", ",", "and", "western", "dances", "were", "performed", "for", "generating", "motion", "capture", "data", ",", "and", "each", "motion", "was", "repeated", "5", "times", ",", "yielding", "310", "isolated", "human", "motions", ".", "Every", "repeated", "motion", "has", "a", "different", "location", "and", "different", "durations", ",", "and", "can", "face", "different", "orientations", ".", "Twenty", "three", "motion", "streams", "were", "generated", "for", "segmentation", ".", "There", "are", "3", "to", "5", "motions", "in", "a", "stream", ",", "and", "93", "motions", "in", "total", "in", "23", "streams", ",", "with", "4.0", "motions", "in", "a", "stream", "on", "average", ".", "4.2", "Performance", "of", "k", "WAS", "for", "Capturing", "Similarities", "and", "Segmenting", "Streams", "We", "first", "apply", "kWAS", "to", "isolated", "motion", "patterns", "to", "show", "that", "the", "proposed", "similarity", "measure", "kWAS", "can", "capture", "the", "similarities", "of", "isolated", "motion", "patterns", ".", "Then", "kWAS", "is", "applied", "to", "motion", "streams", "for", "segmenting", "streams", "and", "recognizing", "motion", "patterns", "in", "the", "streams", ".", "We", "experimented", "with", "different", "k", "values", "in", "order", "to", "find", "out", "the", "smallest", "k", "without", "loss", "of", "good", "performance", ".", "Figure", "2", "shows", "the", "accumulated", "eigenvalue", "percentages", "averaged", "on", "330", "hand", "gestures", "and", "310", "human", "motions", ",", "respectively", ".", "Although", "the", "first", "two", "eigenvalues", "account", "for", "92", "1", "2", "90", "91", "92", "93", "94", "95", "96", "97", "98", "99", "100", "Number", "of", "Nearest", "Neighbors", "-LRB-", "Most", "Similar", "Patterns", "-RRB-", "Pattern", "Recognition", "Rate", "-LRB-", "%", "-RRB-", "kWAS", "-LRB-", "k", "=", "22", "-RRB-", "kWAS", "-LRB-", "k", "=", "5", "-RRB-", "kWAS", "-LRB-", "k", "=", "3", "-RRB-", "kWAS", "-LRB-", "k", "=", "2", "-RRB-", "MAS", "EROS", "Figure", "4", ":", "Recognition", "rate", "of", "similar", "CyberGlove", "motion", "patterns", ".", "When", "k", "is", "3", ",", "kWAS", "can", "find", "the", "most", "similar", "motions", "for", "about", "99.7", "%", "of", "330", "motions", ",", "and", "can", "find", "the", "second", "most", "similar", "motions", "for", "97.5", "%", "of", "the", "them", ".", "1", "2", "3", "4", "95", "95.5", "96", "96.5", "97", "97.5", "98", "98.5", "99", "99.5", "100", "Number", "of", "Nearest", "Neighbors", "-LRB-", "Most", "Similar", "Patterns", "-RRB-", "Pattern", "Recognition", "Rate", "-LRB-", "%", "-RRB-", "kWAS", "-LRB-", "k", "=", "54", "-RRB-", "kWAS", "-LRB-", "k", "=", "5", "-RRB-", "kWAS", "-LRB-", "k", "=", "4", "-RRB-", "kWAS", "-LRB-", "k", "=", "3", "-RRB-", "MAS", "EROS", "Figure", "5", ":", "Recognition", "rate", "of", "similar", "captured", "motion", "patterns", ".", "When", "k", "is", "5", ",", "by", "using", "kWAS", ",", "the", "most", "similar", "motions", "of", "all", "310", "motions", "can", "be", "found", ",", "and", "the", "second", "most", "similar", "motions", "of", "99.8", "%", "of", "the", "310", "motions", "can", "also", "be", "found", ".", "more", "than", "95", "%", "of", "the", "respective", "sums", "of", "all", "eigenvalues", ",", "considering", "only", "the", "first", "two", "eigenvectors", "for", "kWAS", "is", "not", "sufficient", "as", "shown", "in", "Figure", "4", "and", "Figure", "5", ".", "For", "CyberGlove", "data", "with", "22", "attributes", ",", "kWAS", "with", "k", "=", "3", "gives", "the", "same", "performance", "as", "kWAS", "with", "k", "=", "22", ",", "and", "for", "motion", "capture", "data", "with", "54", "attributes", ",", "kWAS", "with", "k", "=", "5", "gives", "the", "same", "performance", "as", "kWAS", "with", "k", "=", "54", ".", "Figure", "4", "and", "Figure", "5", "illustrate", "that", "kWAS", "can", "be", "used", "for", "finding", "similar", "motion", "patterns", "and", "outperforms", "MAS", "and", "Eros", "for", "both", "hand", "gesture", "and", "human", "body", "motion", "data", ".", "The", "steps", "in", "Section", "3.3", "are", "used", "for", "segmenting", "streams", "and", "recognizing", "motions", "in", "streams", ".", "The", "recognition", "accuracy", "as", "defined", "in", "-LSB-", "14", "-RSB-", "is", "used", "for", "motion", "stream", "recognition", ".", "The", "motion", "recognition", "accuracies", "are", "shown", "in", "Table", "2", ".", "For", "both", "CyberGlove", "motion", "and", "captured", "motion", "data", ",", "k", "=", "6", "is", "used", "for", "kWAS", ",", "which", "gives", "the", "same", "accuracy", "as", "k", "=", "22", "for", "CyberGlove", "data", "and", "k", "=", "54", "for", "motion", "capture", "data", ",", "respectively", ".", "Figure", "6", "shows", "the", "time", "taken", "for", "updating", "the", "candidate", "segment", ",", "including", "updating", "the", "matrix", ",", "computing", "the", "SVD", "of", "the", "updated", "matrix", ",", "and", "computing", "the", "similarities", "of", "the", "segment", "and", "all", "motion", "patterns", ".", "The", "code", "implemented", "in", "C++", "was", "run", "on", "one", "2.70", "GHz", "Intel", "processor", "of", "a", "GenuineIntel", "Linux", "box", ".", "There", "are", "22", "attributes", "for", "the", "CyberGlove", "streams", ",", "and", "54", "attributes", "for", "the", "captured", "CyberGlove", "Streams", "Motion", "Capture", "Streams", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Time", "-LRB-", "milliseconds", "-RRB-", "MAS", "kWAS", "-LRB-", "k", "=", "6", "-RRB-", "EROS", "Figure", "6", ":", "Computation", "time", "for", "stream", "segment", "update", "and", "similarity", "computation", ".", "Table", "2", ":", "Stream", "Pattern", "Recognition", "Accuracy", "-LRB-", "%", "-RRB-", "Similarity", "CyberGlove", "Motion", "Capture", "Measures", "Streams", "Streams", "Eros", "68.7", "78.5", "MAS", "93.3", "78.5", "kWAS", "-LRB-", "k", "=", "6", "-RRB-", "94.0", "94.6", "motion", "streams", ".", "Hence", "updating", "captured", "motion", "segments", "takes", "longer", "than", "updating", "CyberGlove", "motion", "segments", "as", "shown", "in", "Figure", "6", ".", "The", "time", "required", "by", "kWAS", "is", "close", "to", "the", "time", "required", "by", "MAS", ",", "and", "is", "less", "than", "half", "of", "the", "time", "taken", "by", "using", "Eros", ".", "4.3", "Discussions", "k", "WAS", "captures", "the", "similarity", "of", "square", "matrices", "of", "two", "matrices", "P", "and", "Q", ",", "yet", "the", "temporal", "order", "of", "pattern", "execution", "is", "not", "revealed", "in", "the", "square", "matrices", ".", "As", "shown", "in", "-LSB-", "7", "-RSB-", ",", "two", "matrices", "with", "the", "identical", "row", "vectors", "in", "different", "orders", "have", "identical", "eigenvectors", "and", "identical", "eigenvalues", ".", "If", "different", "temporal", "orders", "of", "pattern", "execution", "yield", "patterns", "with", "different", "semantic", "meanings", ",", "we", "need", "to", "further", "consider", "the", "temporal", "execution", "order", ",", "which", "is", "not", "reflected", "in", "the", "eigenvectors", "and", "eigenvalues", "and", "has", "not", "been", "considered", "previously", "in", "-LSB-", "6", ",", "12", ",", "16", "-RSB-", ".", "Since", "the", "first", "eigenvectors", "are", "close", "or", "parallel", "for", "similar", "patterns", ",", "we", "can", "project", "pattern", "A", "onto", "its", "first", "eigenvector", "u", "1", "by", "Au", "1", ".", "Then", "similar", "patterns", "would", "have", "similar", "projections", "-LRB-", "called", "projection", "vectors", "hereafter", "-RRB-", ",", "showing", "similar", "temporal", "execution", "orders", "while", "the", "projection", "variations", "for", "each", "pattern", "can", "be", "maximized", ".", "The", "pattern", "projection", "vectors", "can", "be", "compared", "by", "computing", "their", "dynamic", "time", "warping", "-LRB-", "DTW", "-RRB-", "distances", ",", "for", "DTW", "can", "align", "sequences", "of", "different", "lengths", "and", "can", "be", "solved", "easily", "by", "dynamic", "programming", "-LSB-", "1", "-RSB-", ".", "Incorporating", "temporal", "order", "information", "into", "the", "similarity", "measure", "can", "be", "done", "as", "for", "MAS", "in", "-LSB-", "7", "-RSB-", "if", "motion", "temporal", "execution", "orders", "cause", "motion", "pattern", "ambiguity", "to", "kWAS", ".", "This", "paper", "has", "proposed", "a", "similarity", "measure", "kWAS", "for", "motion", "stream", "segmentation", "and", "motion", "pattern", "recognition", ".", "kWAS", "considers", "the", "first", "few", "k", "eigenvectors", "and", "computes", "their", "angular", "similarities/differences", ",", "and", "weighs", "contributions", "of", "different", "eigenvector", "pairs", "by", "their", "correspond-93", "ing", "eigenvalues", ".", "Eigenvalues", "from", "two", "motion", "matrices", "are", "given", "equal", "importance", "to", "the", "weights", ".", "Experiments", "with", "CyberGlove", "hand", "gesture", "streams", "and", "captured", "human", "body", "motions", "such", "as", "Taiqi", "and", "dances", "show", "that", "kWAS", "can", "recognize", "100", "%", "most", "similar", "isolated", "patterns", "and", "can", "recognize", "94", "%", "motion", "patterns", "in", "continuous", "motion", "streams", ".", "-LSB-", "1", "-RSB-", "D.", "Berndt", "and", "J.", "Clifford", ".", "Using", "dynamic", "time", "warping", "to", "find", "patterns", "in", "time", "series", ".", "In", "AAAI-94", "Workshop", "on", "Knowledge", "Discovery", "in", "Databases", ",", "pages", "229", "248", ",", "1994", ".", "-LSB-", "2", "-RSB-", "V.", "M.", "Dyaberi", ",", "H.", "Sundaram", ",", "J.", "James", ",", "and", "G.", "Qian", ".", "Phrase", "structure", "detection", "in", "dance", ".", "In", "Proceedings", "of", "the", "ACM", "Multimedia", "Conference", "2004", ",", "pages", "332", "335", ",", "Oct.", "2004", ".", "-LSB-", "3", "-RSB-", "G.", "H.", "Golub", "and", "C.", "F.", "V.", "Loan", ".", "Matrix", "Computations", ".", "The", "Johns", "Hopkins", "University", "Press", ",", "Baltimore", ",", "Maryland", ",", "1996", ".", "-LSB-", "4", "-RSB-", "L.", "Ikemoto", "and", "D.", "A.", "Forsyth", ".", "Enriching", "a", "motion", "collection", "by", "transplanting", "limbs", ".", "In", "Proceedings", "of", "the", "2004", "ACM", "SIGGRAPH/Eurographics", "symposium", "on", "Computer", "animation", ",", "pages", "99", "108", ",", "2004", ".", "-LSB-", "5", "-RSB-", "K.", "Kahol", ",", "P.", "Tripathi", ",", "S.", "Panchanathan", ",", "and", "T.", "Rikakis", ".", "Gesture", "segmentation", "in", "complex", "motion", "sequences", ".", "In", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Image", "Processing", ",", "pages", "II", "105", "108", ",", "Sept.", "2003", ".", "-LSB-", "6", "-RSB-", "W.", "Krzanowski", ".", "Between-groups", "comparison", "of", "principal", "components", ".", "J.", "Amer", ".", "Stat", ".", "Assoc.", ",", "74", "-LRB-", "367", "-RRB-", ":", "703", "707", ",", "1979", ".", "-LSB-", "7", "-RSB-", "C.", "Li", ",", "B.", "Prabhakaran", ",", "and", "S.", "Zheng", ".", "Similarity", "measure", "for", "multi-attribute", "data", ".", "In", "Proceedings", "of", "the", "2005", "IEEE", "International", "Conference", "on", "Acoustics", ",", "Speach", ",", "and", "Signal", "Processing", "-LRB-", "ICASSP", "-RRB-", ",", "Mar.", "2005", ".", "-LSB-", "8", "-RSB-", "C.", "Li", ",", "P.", "Zhai", ",", "S.-Q", ".", "Zheng", ",", "and", "B.", "Prabhakaran", ".", "Segmentation", "and", "recognition", "of", "multi-attribute", "motion", "sequences", ".", "In", "Proceedings", "of", "the", "ACM", "Multimedia", "Conference", "2004", ",", "pages", "836", "843", ",", "Oct.", "2004", ".", "-LSB-", "9", "-RSB-", "R.", "H.", "Liang", "and", "M.", "Ouhyoung", ".", "A", "real-time", "continuous", "gesture", "recognition", "system", "for", "sign", "language", ".", "In", "Proceedings", "of", "the", "3rd", ".", "International", "Conference", "on", "Face", "and", "Gesture", "Recognition", ",", "pages", "558", "565", ",", "1998", ".", "-LSB-", "10", "-RSB-", "K.", "Pullen", "and", "C.", "Bregler", ".", "Motion", "capture", "assisted", "animation", ":", "texturing", "and", "synthesis", ".", "In", "SIGGRAPH", ",", "pages", "501", "508", ",", "2002", ".", "-LSB-", "11", "-RSB-", "G.", "Qian", ",", "F.", "Guo", ",", "T.", "Ingalls", ",", "L.", "Olson", ",", "J.", "James", ",", "and", "T.", "Rikakis", ".", "A", "gesture-driven", "multimodal", "interactive", "dance", "system", ".", "In", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Multimedia", "and", "Expo", ",", "June", "2004", ".", "-LSB-", "12", "-RSB-", "C.", "Shahabi", "and", "D.", "Yan", ".", "Real-time", "pattern", "isolation", "and", "recognition", "over", "immersive", "sensor", "data", "streams", ".", "In", "Proceedings", "of", "the", "9th", "International", "Conference", "on", "Multi-Media", "Modeling", ",", "pages", "93", "113", ",", "Jan", "2003", ".", "-LSB-", "13", "-RSB-", "A.", "Singhal", "and", "D.", "E.", "Seborg", ".", "Clustering", "of", "multivariate", "time-series", "data", ".", "In", "Proceedings", "of", "the", "American", "Control", "Conference", ",", "pages", "3931", "3936", ",", "2002", ".", "-LSB-", "14", "-RSB-", "T.", "Starner", ",", "J.", "Weaver", ",", "and", "A.", "Pentland", ".", "Real-time", "american", "sign", "language", "recognition", "using", "desk", "and", "wearable", "computer", "based", "video", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "20", "-LRB-", "12", "-RRB-", ":", "1371", "1375", ",", "1998", ".", "-LSB-", "15", "-RSB-", "C.", "J.", "Taylor", ".", "Reconstruction", "of", "articulated", "objects", "from", "point", "correspondences", "in", "a", "single", "image", ".", "Computer", "Vision", "and", "Image", "Understanding", ",", "80", "-LRB-", "3", "-RRB-", ":", "349", "363", ",", "2000", ".", "-LSB-", "16", "-RSB-", "K.", "Yang", "and", "C.", "Shahabi", ".", "A", "PCA-based", "similarity", "measure", "for", "multivariate", "time", "series", ".", "In", "Proceedings", "of", "the", "Second", "ACM", "International", "Workshop", "on", "Multimedia", "Databases", ",", "pages", "65", "74", ",", "Nov.", "2004", ".", "94"], "doc_bio_tags": ["O", "B", "I", "O", "B", "I", "B", "O", "B", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["pattern recognition", "segmentation", "motion stream", "gesture", "data streams", "singular value decomposition", "similarity measure", "recognition", "eigenvalue", "eigenvector"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "189", "document": ["The", "Maximum", "Entropy", "Method", "for", "Analyzing", "Retrieval", "Measures", "We", "present", "a", "model", ",", "based", "on", "the", "maximum", "entropy", "method", ",", "for", "analyzing", "various", "measures", "of", "retrieval", "performance", "such", "as", "average", "precision", ",", "R-precision", ",", "and", "precision-at-cutoffs", ".", "Our", "methodology", "treats", "the", "value", "of", "such", "a", "measure", "as", "a", "constraint", "on", "the", "distribution", "of", "relevant", "documents", "in", "an", "unknown", "list", ",", "and", "the", "maximum", "entropy", "distribution", "can", "be", "determined", "subject", "to", "these", "constraints", ".", "For", "good", "measures", "of", "overall", "performance", "-LRB-", "such", "as", "average", "precision", "-RRB-", ",", "the", "resulting", "maximum", "entropy", "distributions", "are", "highly", "correlated", "with", "actual", "distributions", "of", "relevant", "documents", "in", "lists", "as", "demonstrated", "through", "TREC", "data", ";", "for", "poor", "measures", "of", "overall", "performance", ",", "the", "correlation", "is", "weaker", ".", "As", "such", ",", "the", "maximum", "entropy", "method", "can", "be", "used", "to", "quantify", "the", "overall", "quality", "of", "a", "retrieval", "measure", ".", "Furthermore", ",", "for", "good", "measures", "of", "overall", "performance", "-LRB-", "such", "as", "average", "precision", "-RRB-", ",", "we", "show", "that", "the", "corresponding", "maximum", "entropy", "distributions", "can", "be", "used", "to", "accurately", "infer", "precision-recall", "curves", "and", "the", "values", "of", "other", "measures", "of", "performance", ",", "and", "we", "demonstrate", "that", "the", "quality", "of", "these", "inferences", "far", "exceeds", "that", "predicted", "by", "simple", "retrieval", "measure", "correlation", ",", "as", "demonstrated", "through", "TREC", "data", ".", "H.", "3.4", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Systems", "and", "Software", "Performance", "evaluation", "Theory", ",", "Measurement", ",", "Experimentation", "We", "gratefully", "acknowledge", "the", "support", "provided", "by", "NSF", "grant", "CCF-0418390", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "05", ",", "August", "15", "19", ",", "2005", ",", "Salvador", ",", "Brazil", ".", "Copyright", "2005", "ACM", "1-59593-034-5", "/", "05/0008", "...", "$", "5.00", ".", "The", "efficacy", "of", "retrieval", "systems", "is", "evaluated", "by", "a", "number", "of", "performance", "measures", "such", "as", "average", "precision", ",", "R-precision", ",", "and", "precisions", "at", "standard", "cutoffs", ".", "Broadly", "speaking", ",", "these", "measures", "can", "be", "classified", "as", "either", "system-oriented", "measures", "of", "overall", "performance", "-LRB-", "e.g.", ",", "average", "precision", "and", "R-precision", "-RRB-", "or", "user-oriented", "measures", "of", "specific", "performance", "-LRB-", "e.g.", ",", "precision-at-cutoff", "10", "-RRB-", "-LSB-", "3", ",", "12", ",", "5", "-RSB-", ".", "Different", "measures", "evaluate", "different", "aspects", "of", "retrieval", "performance", ",", "and", "much", "thought", "and", "analysis", "has", "been", "devoted", "to", "analyzing", "the", "quality", "of", "various", "different", "performance", "measures", "-LSB-", "10", ",", "2", ",", "17", "-RSB-", ".", "We", "consider", "the", "problem", "of", "analyzing", "the", "quality", "of", "various", "measures", "of", "retrieval", "performance", "and", "propose", "a", "model", "based", "on", "the", "maximum", "entropy", "method", "for", "evaluating", "the", "quality", "of", "a", "performance", "measure", ".", "While", "measures", "such", "as", "average", "precision", "at", "relevant", "documents", ",", "R-precision", ",", "and", "11", "pt", "average", "precision", "are", "known", "to", "be", "good", "measures", "of", "overall", "performance", ",", "other", "measures", "such", "as", "precisions", "at", "specific", "cutoffs", "are", "not", ".", "Our", "goal", "in", "this", "work", "is", "to", "develop", "a", "model", "within", "which", "one", "can", "numerically", "assess", "the", "overall", "quality", "of", "a", "given", "measure", "based", "on", "the", "reduction", "in", "uncertainty", "of", "a", "system", "'s", "performance", "one", "gains", "by", "learning", "the", "value", "of", "the", "measure", ".", "As", "such", ",", "our", "evaluation", "model", "is", "primarily", "concerned", "with", "assessing", "the", "relative", "merits", "of", "system-oriented", "measures", ",", "but", "it", "can", "be", "applied", "to", "other", "classes", "of", "measures", "as", "well", ".", "We", "begin", "with", "the", "premise", "that", "the", "quality", "of", "a", "list", "of", "documents", "retrieved", "in", "response", "to", "a", "given", "query", "is", "strictly", "a", "function", "of", "the", "sequence", "of", "relevant", "and", "non-relevant", "documents", "retrieved", "within", "that", "list", "-LRB-", "as", "well", "as", "R", ",", "the", "total", "number", "of", "relevant", "documents", "for", "the", "given", "query", "-RRB-", ".", "Most", "standard", "measures", "of", "retrieval", "performance", "satisfy", "this", "premise", ".", "Our", "thesis", "is", "then", "that", "given", "the", "assessed", "value", "of", "a", "``", "good", "''", "overall", "measure", "of", "performance", ",", "one", "'s", "uncertainty", "about", "the", "sequence", "of", "relevant", "and", "non-relevant", "documents", "in", "an", "unknown", "list", "should", "be", "greatly", "reduced", ".", "Suppose", ",", "for", "example", ",", "one", "were", "told", "that", "a", "list", "of", "1,000", "documents", "retrieved", "in", "response", "to", "a", "query", "with", "200", "total", "relevant", "documents", "contained", "100", "relevant", "documents", ".", "What", "could", "one", "reasonably", "infer", "about", "the", "sequence", "of", "relevant", "and", "non-relevant", "documents", "in", "the", "unknown", "list", "?", "From", "this", "information", "alone", ",", "one", "could", "only", "reasonably", "conclude", "that", "the", "likelihood", "of", "seeing", "a", "relevant", "document", "at", "any", "rank", "level", "is", "uniformly", "1/10", ".", "Now", "suppose", "that", "one", "were", "additionally", "told", "that", "the", "average", "precision", "of", "the", "list", "was", "0.4", "-LRB-", "the", "maximum", "possi-27", "ble", "in", "this", "circumstance", "is", "0.5", "-RRB-", ".", "Now", "one", "could", "reasonably", "conclude", "that", "the", "likelihood", "of", "seeing", "relevant", "documents", "at", "low", "numerical", "ranks", "is", "much", "greater", "than", "the", "likelihood", "of", "seeing", "relevant", "documents", "at", "high", "numerical", "ranks", ".", "One", "'s", "uncertainty", "about", "the", "sequence", "of", "relevant", "and", "non-relevant", "documents", "in", "the", "unknown", "list", "is", "greatly", "reduced", "as", "a", "consequence", "of", "the", "strong", "constraint", "that", "such", "an", "average", "precision", "places", "on", "lists", "in", "this", "situation", ".", "Thus", ",", "average", "precision", "is", "highly", "informative", ".", "On", "the", "other", "hand", ",", "suppose", "that", "one", "were", "instead", "told", "that", "the", "precision", "of", "the", "documents", "in", "the", "rank", "range", "-LSB-", "100", ",", "110", "-RSB-", "was", "0.4", ".", "One", "'s", "uncertainty", "about", "the", "sequence", "of", "relevant", "and", "non-relevant", "documents", "in", "the", "unknown", "list", "is", "not", "appreciably", "reduced", "as", "a", "consequence", "of", "the", "relatively", "weak", "constraint", "that", "such", "a", "measurement", "places", "on", "lists", ".", "Thus", ",", "precision", "in", "the", "range", "-LSB-", "100", ",", "110", "-RSB-", "is", "not", "a", "highly", "informative", "measure", ".", "In", "what", "follows", ",", "we", "develop", "a", "model", "within", "which", "one", "can", "quantify", "how", "informative", "a", "measure", "is", ".", "We", "consider", "two", "questions", ":", "-LRB-", "1", "-RRB-", "What", "can", "reasonably", "be", "inferred", "about", "an", "unknown", "list", "given", "the", "value", "of", "a", "measurement", "taken", "over", "this", "list", "?", "-LRB-", "2", "-RRB-", "How", "accurately", "do", "these", "inferences", "reflect", "reality", "?", "We", "argue", "that", "the", "former", "question", "is", "properly", "answered", "by", "considering", "the", "maximum", "entropy", "distributions", "subject", "to", "the", "measured", "value", "as", "a", "constraint", ",", "and", "we", "demonstrate", "that", "such", "maximum", "entropy", "models", "corresponding", "to", "good", "overall", "measures", "of", "performance", "such", "as", "average", "precision", "yield", "accurate", "inferences", "about", "underlying", "lists", "seen", "in", "practice", "-LRB-", "as", "demonstrated", "through", "TREC", "data", "-RRB-", ".", "More", "specifically", ",", "we", "develop", "a", "framework", "based", "on", "the", "maximum", "entropy", "method", "which", "allows", "one", "to", "infer", "the", "most", "``", "reasonable", "''", "model", "for", "the", "sequence", "of", "relevant", "and", "non-relevant", "documents", "in", "a", "list", "given", "a", "measured", "constraint", ".", "From", "this", "model", ",", "we", "show", "how", "one", "can", "infer", "the", "most", "``", "reasonable", "''", "model", "for", "the", "unknown", "list", "'s", "entire", "precision-recall", "curve", ".", "We", "demonstrate", "through", "the", "use", "of", "TREC", "data", "that", "for", "``", "good", "''", "overall", "measures", "of", "performance", "-LRB-", "such", "as", "average", "precision", "-RRB-", ",", "these", "inferred", "precision-recall", "curves", "are", "accurate", "approximations", "of", "actual", "precision-recall", "curves", ";", "however", ",", "for", "``", "poor", "''", "overall", "measures", "of", "performance", ",", "these", "inferred", "precision-recall", "curves", "do", "not", "accurately", "approximate", "actual", "precision-recall", "curves", ".", "Thus", ",", "maximum", "entropy", "modeling", "can", "be", "used", "to", "quantify", "the", "quality", "of", "a", "measure", "of", "overall", "performance", ".", "We", "further", "demonstrate", "through", "the", "use", "of", "TREC", "data", "that", "the", "maximum", "entropy", "models", "corresponding", "to", "``", "good", "''", "measures", "of", "overall", "performance", "can", "be", "used", "to", "make", "accurate", "predictions", "of", "other", "measurements", ".", "While", "it", "is", "well", "known", "that", "``", "good", "''", "overall", "measures", "such", "as", "average", "precision", "are", "well", "correlated", "with", "other", "measures", "of", "performance", ",", "and", "thus", "average", "precision", "could", "be", "used", "to", "reasonably", "predict", "other", "measures", "of", "performance", ",", "we", "demonstrate", "that", "the", "maximum", "entropy", "models", "corresponding", "to", "average", "precision", "yield", "inferences", "of", "other", "measures", "even", "more", "highly", "correlated", "with", "their", "actual", "values", ",", "thus", "validating", "both", "average", "precision", "and", "maximum", "entropy", "modeling", ".", "In", "the", "sections", "that", "follow", ",", "we", "first", "describe", "the", "maximum", "entropy", "method", "and", "discuss", "how", "maximum", "entropy", "modeling", "can", "be", "used", "to", "analyze", "measures", "of", "retrieval", "performance", ".", "We", "then", "describe", "the", "results", "of", "applying", "our", "methodology", "using", "TREC", "data", ",", "and", "we", "conclude", "with", "a", "summary", "and", "future", "work", ".", "The", "concept", "of", "entropy", "as", "a", "measure", "of", "information", "was", "first", "introduced", "by", "Shannon", "-LSB-", "20", "-RSB-", ",", "and", "the", "Principle", "of", "Maximum", "Entropy", "was", "introduced", "by", "Jaynes", "-LSB-", "7", ",", "8", ",", "9", "-RSB-", ".", "Since", "its", "introduction", ",", "the", "Maximum", "Entropy", "Method", "has", "been", "applied", "in", "many", "areas", "of", "science", "and", "technology", "-LSB-", "21", "-RSB-", "including", "natural", "language", "processing", "-LSB-", "1", "-RSB-", ",", "ambiguity", "resolution", "-LSB-", "18", "-RSB-", ",", "text", "classification", "-LSB-", "14", "-RSB-", ",", "machine", "learning", "-LSB-", "15", ",", "16", "-RSB-", ",", "and", "information", "retrieval", "-LSB-", "6", ",", "11", "-RSB-", ",", "to", "name", "but", "a", "few", "examples", ".", "In", "what", "follows", ",", "we", "introduce", "the", "maximum", "entropy", "method", "through", "a", "classic", "example", ",", "and", "we", "then", "describe", "how", "the", "maximum", "entropy", "method", "can", "be", "used", "to", "evaluate", "measures", "of", "retrieval", "performance", ".", "Suppose", "you", "are", "given", "an", "unknown", "and", "possibly", "biased", "six-sided", "die", "and", "were", "asked", "the", "probability", "of", "obtaining", "any", "particular", "die", "face", "in", "a", "given", "roll", ".", "What", "would", "your", "answer", "be", "?", "This", "problem", "is", "under-constrained", "and", "the", "most", "seemingly", "``", "reasonable", "''", "answer", "is", "a", "uniform", "distribution", "over", "all", "faces", ".", "Suppose", "now", "you", "are", "also", "given", "the", "information", "that", "the", "average", "die", "roll", "is", "3.5", ".", "The", "most", "seemingly", "``", "reasonable", "''", "answer", "is", "still", "a", "uniform", "distribution", ".", "What", "if", "you", "are", "told", "that", "the", "average", "die", "roll", "is", "4.5", "?", "There", "are", "many", "distributions", "over", "the", "faces", "such", "that", "the", "average", "die", "roll", "is", "4.5", ";", "how", "can", "you", "find", "the", "most", "seemingly", "``", "reasonable", "''", "distribution", "?", "Finally", ",", "what", "would", "your", "answer", "be", "if", "you", "were", "told", "that", "the", "average", "die", "roll", "is", "5.5", "?", "Clearly", ",", "the", "belief", "in", "getting", "a", "6", "increases", "as", "the", "expected", "value", "of", "the", "die", "rolls", "increases", ".", "But", "there", "are", "many", "distributions", "satisfying", "this", "constraint", ";", "which", "distribution", "would", "you", "choose", "?", "The", "``", "Maximum", "Entropy", "Method", "''", "-LRB-", "MEM", "-RRB-", "dictates", "the", "most", "``", "reasonable", "''", "distribution", "satisfying", "the", "given", "constraints", ".", "The", "``", "Principle", "of", "Maximal", "Ignorance", "''", "forms", "the", "intuition", "behind", "the", "MEM", ";", "it", "states", "that", "one", "should", "choose", "the", "distribution", "which", "is", "least", "predictable", "-LRB-", "most", "random", "-RRB-", "subject", "to", "the", "given", "constraints", ".", "Jaynes", "and", "others", "have", "derived", "numerous", "entropy", "concentration", "theorems", "which", "show", "that", "the", "vast", "majority", "of", "all", "empirical", "frequency", "distributions", "-LRB-", "e.g.", ",", "those", "corresponding", "to", "sequences", "of", "die", "rolls", "-RRB-", "satisfying", "the", "given", "constraints", "have", "associated", "empirical", "probabilities", "and", "entropies", "very", "close", "to", "those", "probabilities", "satisfying", "the", "constraints", "whose", "associated", "entropy", "is", "maximal", "-LSB-", "7", "-RSB-", ".", "Thus", ",", "the", "MEM", "dictates", "the", "most", "random", "distribution", "satisfying", "the", "given", "constraints", ",", "using", "the", "entropy", "of", "the", "probability", "distribution", "as", "a", "measure", "of", "randomness", ".", "The", "entropy", "of", "a", "probability", "distribution", "p", "=", "-LCB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RCB-", "is", "a", "measure", "of", "the", "uncertainty", "-LRB-", "randomness", "-RRB-", "inherent", "in", "the", "distribution", "and", "is", "defined", "as", "follows", "H", "-LRB-", "p", "-RRB-", "=", "n", "X", "i", "=", "1", "p", "i", "lg", "p", "i", ".", "Thus", ",", "maximum", "entropy", "distributions", "are", "probability", "distributions", "making", "no", "additional", "assumptions", "apart", "from", "the", "given", "constraints", ".", "In", "addition", "to", "its", "mathematical", "justification", ",", "the", "MEM", "tends", "to", "produce", "solutions", "one", "often", "sees", "in", "nature", ".", "For", "example", ",", "it", "is", "known", "that", "given", "the", "temperature", "of", "a", "gas", ",", "the", "actual", "distribution", "of", "velocities", "in", "the", "gas", "is", "the", "maximum", "entropy", "distribution", "under", "the", "temperature", "constraint", ".", "We", "can", "apply", "the", "MEM", "to", "our", "die", "problem", "as", "follows", ".", "Let", "the", "probability", "distribution", "over", "the", "die", "faces", "be", "p", "=", "-LCB-", "p", "1", ",", "...", ",", "p", "6", "-RCB-", ".", "Mathematically", ",", "finding", "the", "maximum", "entropy", "distribution", "over", "die", "faces", "such", "that", "the", "expected", "die", "roll", "is", "28", "1", "2", "3", "4", "5", "6", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "die", "face", "probability", "1", "2", "3", "4", "5", "6", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "die", "face", "probability", "1", "2", "3", "4", "5", "6", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "die", "face", "probability", "Figure", "1", ":", "Maximum", "entropy", "die", "distributions", "with", "mean", "die", "rolls", "of", "3.5", ",", "4.5", ",", "and", "5.5", ",", "respectively", ".", "d", "corresponds", "to", "the", "following", "optimization", "problem", ":", "Maximize", ":", "H", "-LRB-", "p", "-RRB-", "Subject", "to", ":", "1", ".", "6", "P", "i", "=", "1", "p", "i", "=", "1", "2", ".", "6", "P", "i", "=", "1", "i", "p", "i", "=", "d", "The", "first", "constraint", "ensures", "that", "the", "solution", "forms", "a", "distribution", "over", "the", "die", "faces", ",", "and", "the", "second", "constraint", "ensures", "that", "this", "distribution", "has", "the", "appropriate", "expectation", ".", "This", "is", "a", "constrained", "optimization", "problem", "which", "can", "be", "solved", "using", "the", "method", "of", "Lagrange", "multipliers", ".", "Figure", "1", "shows", "three", "different", "maximum", "entropy", "distributions", "over", "the", "die", "faces", "such", "that", "the", "expected", "die", "roll", "is", "3.5", ",", "4.5", ",", "and", "5.5", ",", "respectively", ".", "2.1", "Application", "of", "the", "Maximum", "Entropy", "Method", "to", "Analyzing", "Retrieval", "Measures", "Suppose", "that", "you", "were", "given", "a", "list", "of", "length", "N", "corresponding", "to", "the", "output", "of", "a", "retrieval", "system", "for", "a", "given", "query", ",", "and", "suppose", "that", "you", "were", "asked", "to", "predict", "the", "probability", "of", "seeing", "any", "one", "of", "the", "2", "N", "possible", "patterns", "of", "relevant", "documents", "in", "that", "list", ".", "In", "the", "absence", "of", "any", "information", "about", "the", "query", ",", "any", "performance", "information", "for", "the", "system", ",", "or", "any", "a", "priori", "modeling", "of", "the", "behavior", "of", "retrieval", "systems", ",", "the", "most", "``", "reasonable", "''", "answer", "you", "could", "give", "would", "be", "that", "all", "lists", "of", "length", "N", "are", "equally", "likely", ".", "Suppose", "now", "that", "you", "are", "also", "given", "the", "information", "that", "the", "expected", "number", "of", "relevant", "documents", "over", "all", "lists", "of", "length", "N", "is", "R", "ret", ".", "Your", "``", "reasonable", "''", "answer", "might", "then", "be", "a", "uniform", "distribution", "over", "all", "`", "N", "R", "ret", "different", "possible", "lists", "with", "R", "ret", "relevant", "documents", ".", "But", "what", "if", "apart", "from", "the", "constraint", "on", "the", "number", "of", "relevant", "documents", "retrieved", ",", "you", "were", "also", "given", "the", "constraint", "that", "the", "expected", "value", "of", "average", "precision", "is", "ap", "?", "If", "the", "average", "precision", "value", "is", "high", ",", "then", "of", "all", "the", "`", "N", "R", "ret", "lists", "with", "R", "ret", "relevant", "documents", ",", "the", "lists", "in", "which", "the", "relevant", "documents", "are", "retrieved", "at", "low", "numerical", "ranks", "should", "have", "higher", "probabilities", ".", "But", "how", "can", "you", "determine", "the", "most", "``", "reasonable", "''", "such", "distribution", "?", "The", "maximum", "entropy", "method", "essentially", "dictates", "the", "most", "reasonable", "distribution", "as", "a", "solution", "to", "the", "following", "constrained", "optimization", "problem", ".", "Let", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "be", "a", "probability", "distribution", "over", "the", "relevances", "associated", "with", "document", "lists", "of", "length", "N", ",", "let", "rel", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "be", "the", "number", "of", "relevant", "documents", "in", "a", "list", ",", "and", "let", "ap", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "be", "the", "average", "precision", "of", "a", "list", ".", "Then", "the", "maximum", "entropy", "method", "can", "be", "mathematically", "formulated", "as", "follows", ":", "Maximize", ":", "H", "-LRB-", "p", "-RRB-", "Subject", "to", ":", "1", ".", "P", "r", "1", ",", "...", ",", "r", "N", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "=", "1", "2", ".", "P", "r", "1", ",", "...", ",", "r", "N", "ap", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "=", "ap", "3", ".", "P", "r", "1", ",", "...", ",", "r", "N", "rel", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "=", "R", "ret", "Note", "that", "the", "solution", "to", "this", "optimization", "problem", "is", "a", "distribution", "over", "possible", "lists", ",", "where", "this", "distribution", "effectively", "gives", "one", "'s", "a", "posteriori", "belief", "in", "any", "list", "given", "the", "measured", "constraint", ".", "The", "previous", "problem", "can", "be", "formulated", "in", "a", "slightly", "different", "manner", "yielding", "another", "interpretation", "of", "the", "problem", "and", "a", "mathematical", "solution", ".", "Suppose", "that", "you", "were", "given", "a", "list", "of", "length", "N", "corresponding", "to", "output", "of", "a", "retrieval", "system", "for", "a", "given", "a", "query", ",", "and", "suppose", "that", "you", "were", "asked", "to", "predict", "the", "probability", "of", "seeing", "a", "relevant", "document", "at", "some", "rank", ".", "Since", "there", "are", "no", "constraints", ",", "all", "possible", "lists", "of", "length", "N", "are", "equally", "likely", ",", "and", "hence", "the", "probability", "of", "seeing", "a", "relevant", "document", "at", "any", "rank", "is", "1/2", ".", "Suppose", "now", "that", "you", "are", "also", "given", "the", "information", "that", "the", "expected", "number", "of", "relevant", "documents", "over", "all", "lists", "of", "length", "N", "is", "R", "ret", ".", "The", "most", "natural", "answer", "would", "be", "a", "R", "ret", "/", "N", "uniform", "probability", "for", "each", "rank", ".", "Finally", ",", "suppose", "that", "you", "are", "given", "the", "additional", "constraint", "that", "the", "expected", "average", "precision", "is", "ap", ".", "Under", "the", "assumption", "that", "our", "distribution", "over", "lists", "is", "a", "product", "distribution", "-LRB-", "this", "is", "effectively", "a", "fairly", "standard", "independence", "assumption", "-RRB-", ",", "we", "may", "solve", "this", "problem", "as", "follows", ".", "Let", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "=", "p", "-LRB-", "r", "1", "-RRB-", "p", "-LRB-", "r", "2", "-RRB-", "p", "-LRB-", "r", "N", "-RRB-", "where", "p", "-LRB-", "r", "i", "-RRB-", "is", "the", "probability", "that", "the", "document", "at", "rank", "i", "is", "relevant", ".", "We", "can", "then", "solve", "the", "problem", "of", "calculating", "the", "probability", "of", "seeing", "a", "relevant", "document", "at", "any", "rank", "using", "the", "MEM", ".", "For", "notational", "convenience", ",", "we", "will", "refer", "to", "this", "product", "distribution", "as", "the", "probability-at-rank", "distribution", "and", "the", "probability", "of", "seeing", "a", "relevant", "document", "at", "rank", "i", ",", "p", "-LRB-", "r", "i", "-RRB-", ",", "as", "p", "i", ".", "Standard", "results", "from", "information", "theory", "-LSB-", "4", "-RSB-", "dictate", "that", "if", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "is", "a", "product", "distribution", ",", "then", "H", "-LRB-", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "-RRB-", "=", "N", "X", "i", "=", "1", "H", "-LRB-", "p", "i", "-RRB-", "where", "H", "-LRB-", "p", "i", "-RRB-", "is", "the", "binary", "entropy", "H", "-LRB-", "p", "i", "-RRB-", "=", "-", "p", "i", "lg", "p", "i", "-", "-LRB-", "1", "-", "p", "i", "-RRB-", "lg", "-LRB-", "1", "-", "p", "i", "-RRB-", ".", "Furthermore", ",", "it", "can", "be", "shown", "that", "given", "a", "product", "distribution", "p", "-LRB-", "r", "1", ",", "...", ",", "r", "N", "-RRB-", "over", "the", "relevances", "associated", "with", "docu-29", "Maximize", ":", "P", "N", "i", "=", "1", "H", "-LRB-", "p", "i", "-RRB-", "Subject", "to", ":", "1", ".", "1", "R", "N", "P", "i", "=", "1", "`", "p", "i", "i", "`", "1", "+", "i-1", "P", "j", "=", "1", "p", "j", "=", "ap", "2", ".", "N", "P", "i", "=", "1", "p", "i", "=", "R", "ret", "Figure", "2", ":", "Maximum", "entropy", "setup", "for", "average", "precision", ".", "Maximize", ":", "P", "N", "i", "=", "1", "H", "-LRB-", "p", "i", "-RRB-", "Subject", "to", ":", "1", ".", "1", "R", "R", "P", "i", "=", "1", "p", "i", "=", "rp", "2", ".", "N", "P", "i", "=", "1", "p", "i", "=", "R", "ret", "Figure", "3", ":", "Maximum", "entropy", "setup", "for", "R-precision", ".", "Maximize", ":", "P", "N", "i", "=", "1", "H", "-LRB-", "p", "i", "-RRB-", "Subject", "to", ":", "1", ".", "1", "k", "k", "P", "i", "=", "1", "p", "i", "=", "PC", "-LRB-", "k", "-RRB-", "2", ".", "N", "P", "i", "=", "1", "p", "i", "=", "R", "ret", "Figure", "4", ":", "Maximum", "entropy", "setup", "for", "precision-at-cutoff", ".", "ment", "lists", "of", "length", "N", ",", "the", "expected", "value", "of", "average", "precision", "is", "1", "R", "N", "X", "i", "=", "1", "p", "i", "i", "1", "+", "i-1", "X", "j", "=", "1", "p", "j", "!!", ".", "-LRB-", "1", "-RRB-", "-LRB-", "The", "derivation", "of", "this", "formula", "is", "omitted", "due", "to", "space", "constraints", ".", "-RRB-", "Furthermore", ",", "since", "p", "i", "is", "the", "probability", "of", "seeing", "a", "relevant", "document", "at", "rank", "i", ",", "the", "expected", "number", "of", "relevant", "documents", "retrieved", "until", "rank", "N", "is", "P", "N", "i", "=", "1", "p", "i", ".", "Now", ",", "if", "one", "were", "given", "some", "list", "of", "length", "N", ",", "one", "were", "told", "that", "the", "expected", "number", "of", "relevant", "documents", "is", "R", "ret", ",", "one", "were", "further", "informed", "that", "the", "expected", "average", "precision", "is", "ap", ",", "and", "one", "were", "asked", "the", "probability", "of", "seeing", "a", "relevant", "document", "at", "any", "rank", "under", "the", "independence", "assumption", "stated", ",", "one", "could", "apply", "the", "MEM", "as", "shown", "in", "Figure", "2", ".", "Note", "that", "one", "now", "solves", "for", "the", "maximum", "entropy", "product", "distribution", "over", "lists", ",", "which", "is", "equivalent", "to", "a", "maximum", "entropy", "probability-at-rank", "distribution", ".", "Applying", "the", "same", "ideas", "to", "R-precision", "and", "precision-at-cutoff", "k", ",", "one", "obtains", "analogous", "formulations", "as", "shown", "in", "Figures", "3", "and", "4", ",", "respectively", ".", "All", "of", "these", "formulations", "are", "constrained", "optimization", "problems", ",", "and", "the", "method", "of", "Lagrange", "multipliers", "can", "be", "used", "to", "find", "an", "analytical", "solution", ",", "in", "principle", ".", "When", "analytical", "solutions", "can", "not", "be", "determined", ",", "numerical", "optimization", "methods", "can", "be", "employed", ".", "The", "maximum", "entropy", "distributions", "for", "R-precision", "and", "precision-at-cutoff", "k", "can", "be", "obtained", "analytically", "using", "the", "method", "of", "Lagrange", "multipliers", ".", "However", ",", "numerical", "optimization", "methods", "are", "required", "to", "determine", "the", "maximum", "entropy", "distribution", "for", "average", "precision", ".", "In", "Figure", "5", ",", "examples", "of", "maximum", "entropy", "probability-at-rank", "curves", "corresponding", "to", "the", "measures", "average", "precision", ",", "R-precision", ",", "and", "precision-at-cutoff", "10", "for", "a", "run", "in", "TREC8", "can", "be", "seen", ".", "Note", "that", "the", "probability-at", "-", "rank", "curves", "are", "step", "functions", "for", "the", "precision-at-cutoff", "and", "R-precision", "constraints", ";", "this", "is", "as", "expected", "since", ",", "for", "example", ",", "given", "a", "precision-at-cutoff", "10", "of", "0.3", ",", "one", "can", "only", "reasonably", "conclude", "a", "uniform", "probability", "of", "0.3", "for", "seeing", "a", "relevant", "document", "at", "any", "of", "the", "first", "10", "ranks", ".", "Note", ",", "however", ",", "that", "the", "probability-at-rank", "curve", "corresponding", "to", "average", "precision", "is", "smooth", "and", "strictly", "decreasing", ".", "Using", "the", "maximum", "entropy", "probability-at-rank", "distribution", "of", "a", "list", ",", "we", "can", "infer", "the", "maximum", "entropy", "precision-recall", "curve", "for", "the", "list", ".", "Given", "a", "probability-at-rank", "distribution", "p", ",", "the", "number", "of", "relevant", "documents", "retrieved", "until", "rank", "i", "is", "REL", "-LRB-", "i", "-RRB-", "=", "P", "i", "j", "=", "1", "p", "j", ".", "Therefore", ",", "the", "precision", "and", "recall", "at", "rank", "i", "are", "PC", "-LRB-", "i", "-RRB-", "=", "REL", "-LRB-", "i", "-RRB-", "/", "i", "and", "REC", "-LRB-", "i", "-RRB-", "=", "REL", "-LRB-", "i", "-RRB-", "/", "R.", "Hence", ",", "using", "the", "maximum", "entropy", "probability-0", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "rank", "probability", "TREC8", "System", "fub99a", "Query", "435", "AP", "=", "0.1433", "ap", "maxent", "dist", ".", "rp", "maxent", "dist", ".", "pc-10", "maxent", "dist", ".", "Figure", "5", ":", "Probability-at-rank", "distributions", ".", "at-rank", "distribution", "for", "each", "measure", ",", "we", "can", "generate", "the", "maximum", "entropy", "precision-recall", "curve", "of", "the", "list", ".", "If", "a", "measure", "provides", "a", "great", "deal", "of", "information", "about", "the", "underlying", "list", ",", "then", "the", "maximum", "entropy", "precision-recall", "curve", "should", "approximate", "the", "precision-recall", "curve", "of", "the", "actual", "list", ".", "However", ",", "if", "a", "measure", "is", "not", "particularly", "informative", ",", "then", "the", "maximum", "entropy", "precision-recall", "curve", "need", "not", "approximate", "the", "actual", "precision-recall", "curve", ".", "Therefore", ",", "noting", "how", "closely", "the", "maximum", "entropy", "precision-recall", "curve", "corresponding", "to", "a", "measure", "approximates", "the", "precision-recall", "curve", "of", "the", "actual", "list", ",", "we", "can", "calculate", "how", "much", "information", "a", "measure", "contains", "about", "the", "actual", "list", ",", "and", "hence", "how", "``", "informative", "''", "a", "measure", "is", ".", "Thus", ",", "we", "have", "a", "methodology", "for", "evaluating", "the", "evaluation", "measures", "themselves", ".", "Using", "the", "maximum", "entropy", "precision-recall", "curve", "of", "a", "measure", ",", "we", "can", "also", "predict", "the", "values", "of", "other", "measures", ".", "For", "example", ",", "using", "the", "maximum", "entropy", "precision-recall", "curve", "corresponding", "to", "average", "precision", ",", "we", "can", "predict", "the", "precision-at-cutoff", "10", ".", "For", "highly", "informative", "measures", ",", "these", "predictions", "should", "be", "very", "close", "to", "reality", ".", "Hence", ",", "we", "have", "a", "second", "way", "of", "evaluating", "evaluation", "measures", ".", "We", "tested", "the", "performance", "of", "the", "evaluation", "measures", "average", "precision", ",", "R-precision", ",", "and", "precision-at-cutoffs", "5", ",", "10", ",", "15", ",", "20", ",", "30", ",", "100", ",", "200", ",", "500", "and", "1000", "using", "data", "from", "TRECs", "3", ",", "5", ",", "6", ",", "7", ",", "8", "and", "9", ".", "For", "any", "TREC", "and", "any", "query", ",", "we", "chose", "those", "systems", "whose", "number", "of", "relevant", "documents", "retrieved", "was", "at", "least", "10", "in", "order", "to", "have", "a", "sufficient", "number", "of", "points", "on", "the", "precision-recall", "curve", ".", "We", "then", "calculated", "the", "maximum", "entropy", "precision-recall", "curve", "subject", "to", "the", "given", "measured", "constraint", ",", "as", "described", "above", ".", "The", "maximum", "entropy", "precision-recall", "curve", "corresponding", "to", "an", "average", "precision", "30", "constraint", "can", "not", "be", "determined", "analytically", ";", "therefore", ",", "we", "used", "numerical", "optimization", "1", "to", "find", "the", "maximum", "entropy", "distribution", "corresponding", "to", "average", "precision", ".", "We", "shall", "refer", "to", "the", "execution", "of", "a", "retrieval", "system", "on", "a", "particular", "query", "as", "a", "run", ".", "Figure", "6", "shows", "examples", "of", "maximum", "entropy", "precision-recall", "curves", "corresponding", "to", "average", "precision", ",", "R-precision", ",", "and", "precision-at-cutoff", "10", "for", "three", "different", "runs", ",", "together", "with", "the", "actual", "precision-recall", "curves", ".", "We", "focused", "on", "these", "three", "measures", "since", "they", "are", "perhaps", "the", "most", "commonly", "cited", "measures", "in", "IR", ".", "We", "also", "provide", "results", "for", "precision-at-cutoff", "100", "in", "later", "plots", "and", "detailed", "results", "for", "all", "measures", "in", "a", "later", "table", ".", "As", "can", "be", "seen", "in", "Figure", "6", ",", "using", "average", "precision", "as", "a", "constraint", ",", "one", "can", "generate", "the", "actual", "precision-recall", "curve", "of", "a", "run", "with", "relatively", "high", "accuracy", ".", "In", "order", "to", "quantify", "how", "good", "an", "evaluation", "measure", "is", "in", "generating", "the", "precision-recall", "curve", "of", "an", "actual", "list", ",", "we", "consider", "two", "different", "error", "measures", ":", "the", "root", "mean", "squared", "error", "-LRB-", "RMS", "-RRB-", "and", "the", "mean", "absolute", "error", "-LRB-", "MAE", "-RRB-", ".", "Let", "-LCB-", "1", ",", "2", ",", "...", ",", "R", "ret", "-RCB-", "be", "the", "precisions", "at", "the", "recall", "levels", "-LCB-", "1/R", ",", "2/R", ",", "...", ",", "R", "ret", "/", "R", "-RCB-", "where", "R", "ret", "is", "the", "number", "of", "relevant", "documents", "retrieved", "by", "a", "system", "and", "R", "is", "the", "number", "of", "documents", "relevant", "to", "the", "query", ",", "and", "let", "-LCB-", "m", "1", ",", "m", "2", ",", "...", ",", "m", "R", "ret", "-RCB-", "be", "the", "estimated", "precisions", "at", "the", "corresponding", "recall", "levels", "for", "a", "maximum", "entropy", "distribution", "corresponding", "to", "a", "measure", ".", "Then", "the", "MAE", "and", "RMS", "errors", "are", "calculated", "as", "follows", ".", "RMS", "=", "v", "u", "u", "t", "1", "R", "ret", "R", "ret", "X", "i", "=", "1", "-LRB-", "i", "-", "m", "i", "-RRB-", "2", "MAE", "=", "1", "R", "ret", "R", "ret", "X", "i", "=", "1", "|", "i", "-", "m", "i", "|", "The", "points", "after", "recall", "R", "ret", "/", "R", "on", "the", "precision-recall", "curve", "are", "not", "considered", "in", "the", "evaluation", "of", "the", "MAE", "and", "RMS", "errors", "since", ",", "by", "TREC", "convention", ",", "the", "precisions", "at", "these", "recall", "levels", "are", "assumed", "to", "be", "0", ".", "In", "order", "to", "evaluate", "how", "good", "a", "measure", "is", "at", "inferring", "actual", "precision-recall", "curves", ",", "we", "calculated", "the", "MAE", "and", "RMS", "errors", "of", "the", "maximum", "entropy", "precision-recall", "curves", "corresponding", "to", "the", "measures", "in", "question", ",", "averaged", "over", "all", "runs", "for", "each", "TREC", ".", "Figure", "7", "shows", "how", "the", "MAE", "and", "RMS", "errors", "for", "average", "precision", ",", "R-precision", ",", "precision-at-cutoff", "10", ",", "and", "precision-at-cutoff", "100", "compare", "with", "each", "other", "for", "each", "TREC", ".", "The", "MAE", "and", "RMS", "errors", "follow", "the", "same", "pattern", "over", "all", "TRECs", ".", "Both", "errors", "are", "consistently", "and", "significantly", "lower", "for", "average", "precision", "than", "for", "the", "other", "measures", "in", "question", ",", "while", "the", "errors", "for", "R-precision", "are", "consistently", "lower", "than", "for", "precision-at-cutoffs", "10", "and", "100", ".", "Table", "1", "shows", "the", "actual", "values", "of", "the", "RMS", "errors", "for", "all", "measures", "over", "all", "TRECs", ".", "In", "our", "experiments", ",", "MAE", "and", "RMS", "errors", "follow", "a", "very", "similar", "pattern", ",", "and", "we", "therefore", "omit", "MAE", "results", "due", "to", "space", "considerations", ".", "From", "this", "table", ",", "it", "can", "be", "seen", "that", "average", "precision", "has", "consistently", "lower", "RMS", "errors", "when", "compared", "to", "the", "other", "measures", ".", "The", "penultimate", "column", "of", "the", "table", "shows", "the", "average", "RMS", "errors", "per", "measure", "averaged", "over", "all", "TRECs", ".", "On", "average", ",", "R-precision", "has", "the", "second", "lowest", "RMS", "error", "after", "average", "precision", ",", "and", "precision-at-cutoff", "30", "is", "the", "third", "best", "measure", "in", "terms", "of", "RMS", "error", ".", "The", "last", "column", "of", "the", "table", "1", "We", "used", "the", "TOMLAB", "Optimization", "Environment", "for", "Matlab", ".", "shows", "the", "percent", "increase", "in", "the", "average", "RMS", "error", "of", "a", "measure", "when", "compared", "to", "the", "RMS", "error", "of", "average", "precision", ".", "As", "can", "be", "seen", ",", "the", "average", "RMS", "errors", "for", "the", "other", "measures", "are", "substantially", "greater", "than", "the", "average", "RMS", "error", "for", "average", "precision", ".", "We", "now", "consider", "a", "second", "method", "for", "evaluating", "how", "informative", "a", "measure", "is", ".", "A", "highly", "informative", "measure", "should", "properly", "reduce", "one", "'s", "uncertainty", "about", "the", "distribution", "of", "relevant", "and", "non-relevant", "documents", "in", "a", "list", ";", "thus", ",", "in", "our", "maximum", "entropy", "formulation", ",", "the", "probability-at-rank", "distribution", "should", "closely", "correspond", "to", "the", "pattern", "of", "relevant", "and", "non-relevant", "documents", "present", "in", "the", "list", ".", "One", "should", "then", "be", "able", "to", "accurately", "predict", "the", "values", "of", "other", "measures", "from", "this", "probability-at-rank", "distribution", ".", "Given", "a", "probability-at-rank", "distribution", "p", "1", ",", "p", "2", ",", "...", ",", "p", "N", ",", "we", "can", "predict", "average", "precision", ",", "R-precision", "and", "precision-at-cutoff", "k", "values", "as", "follows", ":", "ap", "=", "1", "R", "N", "X", "i", "=", "1", "p", "i", "i", "1", "+", "i-1", "X", "j", "=", "1", "p", "j", "!!", "rp", "=", "1", "R", "R", "X", "i", "=", "1", "p", "i", "PC", "-LRB-", "k", "-RRB-", "=", "1", "k", "k", "X", "i", "=", "1", "p", "i", "The", "plots", "in", "the", "top", "row", "of", "Figures", "8", "and", "9", "show", "how", "average", "precision", "is", "actually", "correlated", "with", "R-precision", ",", "precision-at", "-", "cutoff", "10", ",", "and", "precision-at-cutoff", "100", "for", "TRECs", "6", "and", "8", ",", "respectively", ".", "Each", "point", "in", "the", "plot", "corresponds", "to", "a", "system", "and", "the", "values", "of", "the", "measures", "are", "averaged", "over", "all", "queries", ".", "Using", "these", "plots", "as", "a", "baseline", "for", "comparison", ",", "the", "plots", "in", "the", "bottom", "row", "of", "the", "figures", "show", "the", "correlation", "between", "the", "actual", "measures", "and", "the", "measures", "predicted", "using", "the", "average", "precision", "maximum", "entropy", "probability-at", "-", "rank", "distribution", ".", "Consider", "predicting", "precision-at-cutoff", "10", "values", "using", "the", "average", "precision", "maximum", "entropy", "distributions", "in", "TREC", "6", ".", "Without", "applying", "the", "maximum", "entropy", "method", ",", "Figure", "8", "shows", "that", "the", "two", "measures", "are", "correlated", "with", "a", "Kendall", "'s", "value", "of", "0.671", ".", "However", ",", "the", "precision-at-cutoff", "10", "values", "inferred", "from", "the", "average", "precision", "maximum", "entropy", "distribution", "have", "a", "Kendall", "'s", "value", "of", "0.871", "when", "compared", "to", "actual", "precisions-at-cutoff", "10", ".", "Hence", ",", "the", "predicted", "precision-at-cutoff", "10", "and", "actual", "precision-at-cutoff", "10", "values", "are", "much", "more", "correlated", "than", "the", "actual", "average", "precision", "and", "actual", "precision-at-cutoff", "10", "values", ".", "Using", "a", "similar", "approach", "for", "predicting", "R-precision", "and", "precision-at-cutoff", "100", ",", "it", "can", "be", "seen", "in", "Figures", "8", "and", "9", "that", "the", "measured", "values", "predicted", "by", "using", "average", "precision", "maximum", "entropy", "distributions", "are", "highly", "correlated", "with", "actual", "measured", "values", ".", "We", "conducted", "similar", "experiments", "using", "the", "maximum", "entropy", "distributions", "corresponding", "to", "other", "measures", ",", "but", "since", "these", "measures", "are", "less", "informative", ",", "we", "obtained", "much", "smaller", "increases", "-LRB-", "and", "sometimes", "even", "decreases", "-RRB-", "in", "inferred", "correlations", ".", "-LRB-", "These", "results", "are", "omitted", "due", "to", "space", "considerations", ".", "-RRB-", "Table", "2", "summarizes", "the", "correlation", "improvements", "possible", "using", "the", "maximum", "entropy", "distribution", "corresponding", "to", "average", "precision", ".", "The", "row", "labeled", "act", "gives", "the", "actual", "Kendall", "'s", "correlation", "between", "average", "precision", "and", "the", "measure", "in", "the", "corresponding", "column", ".", "The", "row", "labeled", "inf", "gives", "the", "Kendall", "'s", "correlation", "between", "the", "31", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "recall", "precision", "TREC8", "System", "fub99a", "Query", "435", "AP", "=", "0.1433", "actual", "prec-recall", "ap", "maxent", "prec-recall", "rp", "maxent", "prec-recall", "pc-10", "maxent", "prec-recall", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "recall", "precision", "TREC8", "System", "MITSLStd", "Query", "404", "AP", "=", "0.2305", "actual", "prec-recall", "ap", "maxent", "prec-recall", "rp", "maxent", "prec-recall", "pc-10", "maxent", "prec-recall", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "recall", "precision", "TREC8", "System", "pir9At0", "Query", "446", "AP", "=", "0.4754", "actual", "prec-recall", "ap", "maxent", "prec-recall", "rp", "maxent", "prec-recall", "pc-10", "maxent", "prec-recall", "Figure", "6", ":", "Inferred", "precision-recall", "curves", "and", "actual", "precision-recall", "curve", "for", "three", "runs", "in", "TREC8", ".", "TREC3", "TREC5", "TREC6", "TREC7", "TREC8", "TREC9", "0.08", "0.1", "0.12", "0.14", "0.16", "0.18", "0.2", "0.22", "Mean", "Absolute", "Error", "ap", "maxent", "prec-recall", "rp", "maxent", "prec-recall", "pc-10", "maxent", "prec-recall", "pc-100", "maxent", "prec-recall", "TREC3", "TREC5", "TREC6", "TREC7", "TREC8", "TREC9", "0.1", "0.15", "0.2", "0.25", "RMS", "Error", "ap", "maxent", "prec-recall", "rp", "maxent", "prec-recall", "pc-10", "maxent", "prec-recall", "pc-100", "maxent", "prec-recall", "Figure", "7", ":", "MAE", "and", "RMS", "errors", "for", "inferred", "precision-recall", "curves", "over", "all", "TRECs", ".", "TREC3", "TREC5", "TREC6", "TREC7", "TREC8", "TREC9", "AVERAGE", "%", "INC", "AP", "0.1185", "0.1220", "0.1191", "0.1299", "0.1390", "0.1505", "0.1298", "RP", "0.1767", "0.1711", "0.1877", "0.2016", "0.1878", "0.1630", "0.1813", "39.7", "PC-5", "0.2724", "0.2242", "0.2451", "0.2639", "0.2651", "0.2029", "0.2456", "89.2", "PC-10", "0.2474", "0.2029", "0.2183", "0.2321", "0.2318", "0.1851", "0.2196", "69.1", "PC-15", "0.2320", "0.1890", "0.2063", "0.2132", "0.2137", "0.1747", "0.2048", "57.8", "PC-20", "0.2210", "0.1806", "0.2005", "0.2020", "0.2068", "0.1701", "0.1968", "51.6", "PC-30", "0.2051", "0.1711", "0.1950", "0.1946", "0.2032", "0.1694", "0.1897", "46.1", "PC-100", "0.1787", "0.1777", "0.2084", "0.2239", "0.2222", "0.1849", "0.1993", "53.5", "PC-200", "0.1976", "0.2053", "0.2435", "0.2576", "0.2548", "0.2057", "0.2274", "75.2", "PC-500", "0.2641", "0.2488", "0.2884", "0.3042", "0.3027", "0.2400", "0.2747", "111.6", "PC-1000", "0.3164", "0.2763", "0.3134", "0.3313", "0.3323", "0.2608", "0.3051", "135.0", "Table", "1", ":", "RMS", "error", "values", "for", "each", "TREC", ".", "TREC3", "TREC5", "TREC6", "RP", "PC-10", "PC-100", "RP", "PC-10", "PC-100", "RP", "PC-10", "PC-100", "act", "0.921", "0.815", "0.833", "0.939", "0.762", "0.868", "0.913", "0.671", "0.807", "inf", "0.941", "0.863", "0.954", "0.948", "0.870", "0.941", "0.927", "0.871", "0.955", "%", "Inc", "2.2", "5.9", "14.5", "1.0", "14.2", "8.4", "1.5", "29.8", "18.3", "TREC7", "TREC8", "TREC9", "RP", "PC-10", "PC-100", "RP", "PC-10", "PC-100", "RP", "PC-10", "PC-100", "act", "0.917", "0.745", "0.891", "0.925", "0.818", "0.873", "0.903", "0.622", "0.836", "inf", "0.934", "0.877", "0.926", "0.932", "0.859", "0.944", "0.908", "0.757", "0.881", "%", "Inc", "1.9", "17.7", "3.9", "0.8", "5.0", "8.1", "0.6", "21.7", "5.4", "Table", "2", ":", "Kendall", "'s", "correlations", "and", "percent", "improvements", "for", "all", "TRECs", ".", "32", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "RP", "Actual", "AP", "TREC", "6", "Actual", "RP", "vs", "Actual", "AP", "Kendall", "'s", "=", "0.913", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Actual", "PC-10", "Actual", "AP", "TREC", "6", "Actual", "PC-10", "vs", "Actual", "AP", "Kendall", "'s", "=", "0.671", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "PC-100", "Actual", "AP", "TREC", "6", "Actual", "PC-100", "vs", "Actual", "AP", "Kendall", "'s", "=", "0.807", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "RP", "Inferred", "RP", "TREC", "6", "Actual", "RP", "vs", "Inferred", "RP", "Kendall", "'s", "=", "0.927", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Actual", "PC-10", "Inferred", "PC-10", "TREC", "6", "Actual", "PC-10", "vs", "Inferred", "PC-10", "Kendall", "'s", "=", "0.871", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "PC-100", "Inferred", "PC-100", "TREC", "6", "Actual", "PC-100", "vs", "Inferred", "PC-100", "Kendall", "'s", "=", "0.955", "Figure", "8", ":", "Correlation", "improvements", ",", "TREC6", ".", "measure", "inferred", "from", "the", "maximum", "entropy", "distribution", "corresponding", "to", "average", "precision", "and", "the", "measure", "in", "the", "corresponding", "column", ".", "The", "row", "labeled", "%", "Inc", "gives", "the", "percent", "increase", "in", "correlation", "due", "to", "maximum", "entropy", "modeling", ".", "As", "can", "be", "seen", ",", "maximum", "entropy", "modeling", "yields", "great", "improvements", "in", "the", "predictions", "of", "precision-at-cutoff", "values", ".", "The", "improvements", "in", "predicting", "R-precision", "are", "no-ticeably", "smaller", ",", "though", "this", "is", "largely", "due", "to", "the", "fact", "that", "average", "precision", "and", "R-precision", "are", "quite", "correlated", "to", "begin", "with", ".", "We", "have", "described", "a", "methodology", "for", "analyzing", "measures", "of", "retrieval", "performance", "based", "on", "the", "maximum", "entropy", "method", ",", "and", "we", "have", "demonstrated", "that", "the", "maximum", "entropy", "models", "corresponding", "to", "``", "good", "''", "measures", "of", "overall", "performance", "such", "as", "average", "precision", "accurately", "reflect", "underlying", "retrieval", "performance", "-LRB-", "as", "measured", "by", "precision-recall", "curves", "-RRB-", "and", "can", "be", "used", "to", "accurately", "predict", "the", "values", "of", "other", "measures", "of", "performance", ",", "well", "beyond", "the", "levels", "dictated", "by", "simple", "correlations", ".", "The", "maximum", "entropy", "method", "can", "be", "used", "to", "analyze", "other", "measures", "of", "retrieval", "performance", ",", "and", "we", "are", "presently", "conducting", "such", "studies", ".", "More", "interestingly", ",", "the", "maximum", "entropy", "method", "could", "perhaps", "be", "used", "to", "help", "develop", "and", "gain", "insight", "into", "potential", "new", "measures", "of", "retrieval", "performance", ".", "Finally", ",", "the", "predictive", "quality", "of", "maximum", "entropy", "models", "corresponding", "to", "average", "precision", "suggest", "that", "if", "one", "were", "to", "estimate", "some", "measure", "of", "performance", "using", "an", "incomplete", "judgment", "set", ",", "that", "measure", "should", "be", "average", "precision", "--", "from", "the", "maximum", "entropy", "model", "corresponding", "to", "that", "measure", "alone", ",", "one", "could", "accurately", "infer", "other", "measures", "of", "performance", ".", "Note", "that", "the", "concept", "of", "a", "``", "good", "''", "measure", "depends", "on", "the", "purpose", "of", "evaluation", ".", "In", "this", "paper", ",", "we", "evaluate", "measures", "based", "on", "how", "much", "information", "they", "provide", "about", "the", "overall", "performance", "of", "a", "system", "-LRB-", "a", "system-oriented", "evaluation", "-RRB-", ".", "However", ",", "in", "different", "contexts", ",", "different", "measures", "may", "be", "more", "valuable", "and", "useful", ",", "such", "as", "precision-at-cutoff", "10", "in", "web", "search", "-LRB-", "a", "user-oriented", "evaluation", "-RRB-", ".", "R-precision", "and", "average", "precision", "are", "system-oriented", "measures", ",", "whereas", "precision-at-cutoff", "k", "is", "typically", "a", "user-oriented", "measure", ".", "Another", "important", "conclusion", "of", "our", "work", "is", "that", "one", "can", "accurately", "infer", "user-oriented", "measures", "from", "system-oriented", "measures", ",", "but", "the", "opposite", "is", "not", "true", ".", "Apart", "from", "evaluating", "the", "information", "captured", "by", "a", "single", "measure", ",", "we", "could", "use", "the", "MEM", "to", "evaluate", "the", "information", "contained", "in", "combinations", "of", "measures", ".", "How", "much", "does", "knowing", "the", "value", "of", "precision-at-cutoff", "10", "increase", "one", "'s", "knowledge", "of", "a", "system", "'s", "performance", "beyond", "simply", "knowing", "the", "system", "'s", "average", "precision", "?", "Which", "is", "more", "informative", ":", "knowing", "R-precision", "and", "precision-at-cutoff", "30", ",", "or", "knowing", "average", "precision", "and", "precision-at-cutoff", "100", "?", "Such", "questions", "can", "be", "answered", ",", "in", "principle", ",", "using", "the", "MEM", ".", "Adding", "the", "values", "of", "one", "or", "more", "measures", "simply", "adds", "one", "or", "more", "constraints", "to", "the", "maximum", "entropy", "model", ",", "and", "one", "can", "then", "assess", "the", "informativeness", "of", "the", "combination", ".", "Note", "that", "TREC", "reports", "many", "different", "measures", ".", "Using", "the", "MEM", ",", "one", "might", "reasonably", "be", "able", "to", "conclude", "which", "are", "the", "most", "informative", "combinations", "of", "measures", ".", "-LSB-", "1", "-RSB-", "A.", "L.", "Berger", ",", "V.", "D.", "Pietra", ",", "and", "S.", "D.", "Pietra", ".", "A", "maximum", "entropy", "approach", "to", "natural", "language", "processing", ".", "Comput", ".", "Linguist.", ",", "22:39", "71", ",", "1996", ".", "-LSB-", "2", "-RSB-", "C.", "Buckley", "and", "E.", "Voorhees", ".", "Evaluating", "evaluation", "measure", "stability", ".", "In", "SIGIR", "'", "00", ":", "Proceedings", "of", "the", "23rd", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "33", "40", ".", "ACM", "Press", ",", "2000", ".", "-LSB-", "3", "-RSB-", "W.", "S.", "Cooper", ".", "On", "selecting", "a", "measure", "of", "retrieval", "effectiveness", ".", "part", "i", ".", "In", "Readings", "in", "information", "retrieval", ",", "pages", "191", "204", ".", "Morgan", "Kaufmann", "Publishers", "Inc.", ",", "1997", ".", "33", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "RP", "Actual", "AP", "TREC", "8", "Actual", "RP", "vs", "Actual", "AP", "Kendall", "'s", "=", "0.925", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Actual", "PC-10", "Actual", "AP", "TREC", "8", "Actual", "PC-10", "vs", "Actual", "AP", "Kendall", "'s", "=", "0.818", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "PC-100", "Actual", "AP", "TREC", "8", "Actual", "PC-100", "vs", "Actual", "AP", "Kendall", "'s", "=", "0.873", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "RP", "Inferred", "RP", "TREC", "8", "Actual", "RP", "vs", "Inferred", "RP", "Kendall", "'s", "=", "0.932", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Actual", "PC-10", "Inferred", "PC-10", "TREC", "8", "Actual", "PC-10", "vs", "Inferred", "PC-10", "Kendall", "'s", "=", "0.859", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "Actual", "PC-100", "Inferred", "PC-100", "TREC", "8", "Actual", "PC-100", "vs", "Inferred", "PC-100", "Kendall", "'s", "=", "0.944", "Figure", "9", ":", "Correlation", "improvements", ",", "TREC8", ".", "-LSB-", "4", "-RSB-", "T.", "M.", "Cover", "and", "J.", "Thomas", ".", "Elements", "of", "Information", "Theory", ".", "John", "Wiley", "&", "sons", ",", "1991", ".", "-LSB-", "5", "-RSB-", "B.", "Dervin", "and", "M.", "S.", "Nilan", ".", "Information", "needs", "and", "use", ".", "In", "Annual", "Review", "of", "Information", "Science", "and", "Technology", ",", "volume", "21", ",", "pages", "3", "33", ",", "1986", ".", "-LSB-", "6", "-RSB-", "W.", "R.", "Greiff", "and", "J.", "Ponte", ".", "The", "maximum", "entropy", "approach", "and", "probabilistic", "ir", "models", ".", "ACM", "Trans", ".", "Inf", ".", "Syst.", ",", "18", "-LRB-", "3", "-RRB-", ":", "246", "287", ",", "2000", ".", "-LSB-", "7", "-RSB-", "E.", "Jaynes", ".", "On", "the", "rationale", "of", "maximum", "entropy", "methods", ".", "In", "Proc.IEEE", ",", "volume", "70", ",", "pages", "939", "952", ",", "1982", ".", "-LSB-", "8", "-RSB-", "E.", "T.", "Jaynes", ".", "Information", "theory", "and", "statistical", "mechanics", ":", "Part", "i.", "Physical", "Review", "106", ",", "pages", "620", "630", ",", "1957a", ".", "-LSB-", "9", "-RSB-", "E.", "T.", "Jaynes", ".", "Information", "theory", "and", "statistical", "mechanics", ":", "Part", "ii", ".", "Physical", "Review", "108", ",", "page", "171", ",", "1957b", ".", "-LSB-", "10", "-RSB-", "Y.", "Kagolovsky", "and", "J.", "R.", "Moehr", ".", "Current", "status", "of", "the", "evaluation", "of", "information", "retrieval", ".", "J.", "Med", ".", "Syst.", ",", "27", "-LRB-", "5", "-RRB-", ":", "409", "424", ",", "2003", ".", "-LSB-", "11", "-RSB-", "P.", "B.", "Kantor", "and", "J.", "Lee", ".", "The", "maximum", "entropy", "principle", "in", "information", "retrieval", ".", "In", "SIGIR", "'", "86", ":", "Proceedings", "of", "the", "9th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "269", "274", ".", "ACM", "Press", ",", "1986", ".", "-LSB-", "12", "-RSB-", "D.", "D.", "Lewis", ".", "Evaluating", "and", "optimizing", "autonomous", "text", "classification", "systems", ".", "In", "SIGIR", "'", "95", ":", "Proceedings", "of", "the", "18th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "246", "254", ".", "ACM", "Press", ",", "1995", ".", "-LSB-", "13", "-RSB-", "R.", "M.", "Losee", ".", "When", "information", "retrieval", "measures", "agree", "about", "the", "relative", "quality", "of", "document", "rankings", ".", "J.", "Am", ".", "Soc", ".", "Inf", ".", "Sci.", ",", "51", "-LRB-", "9", "-RRB-", ":", "834", "840", ",", "2000", ".", "-LSB-", "14", "-RSB-", "K.", "Nigam", ",", "J.", "Lafferty", ",", "and", "A.", "McCallum", ".", "Using", "maximum", "entropy", "for", "text", "classification", ".", "In", "IJCAI-99", "Workshop", "on", "Machine", "Learning", "for", "Information", "Filtering", ",", "pages", "61", "67", ",", "1999", ".", "-LSB-", "15", "-RSB-", "D.", "Pavlov", ",", "A.", "Popescul", ",", "D.", "M.", "Pennock", ",", "and", "L.", "H.", "Ungar", ".", "Mixtures", "of", "conditional", "maximum", "entropy", "models", ".", "In", "T.", "Fawcett", "and", "N.", "Mishra", ",", "editors", ",", "ICML", ",", "pages", "584", "591", ".", "AAAI", "Press", ",", "2003", ".", "-LSB-", "16", "-RSB-", "S.", "J.", "Phillips", ",", "M.", "Dudik", ",", "and", "R.", "E.", "Schapire", ".", "A", "maximum", "entropy", "approach", "to", "species", "distribution", "modeling", ".", "In", "ICML", "'", "04", ":", "Twenty-first", "international", "conference", "on", "Machine", "learning", ",", "New", "York", ",", "NY", ",", "USA", ",", "2004", ".", "ACM", "Press", ".", "-LSB-", "17", "-RSB-", "V.", "Raghavan", ",", "P.", "Bollmann", ",", "and", "G.", "S.", "Jung", ".", "A", "critical", "investigation", "of", "recall", "and", "precision", "as", "measures", "of", "retrieval", "system", "performance", ".", "ACM", "Trans", ".", "Inf", ".", "Syst.", ",", "7", "-LRB-", "3", "-RRB-", ":", "205", "229", ",", "1989", ".", "-LSB-", "18", "-RSB-", "A.", "Ratnaparkhi", "and", "M.", "P.", "Marcus", ".", "Maximum", "entropy", "models", "for", "natural", "language", "ambiguity", "resolution", ",", "1998", ".", "-LSB-", "19", "-RSB-", "T.", "Saracevic", ".", "Evaluation", "of", "evaluation", "in", "information", "retrieval", ".", "In", "SIGIR", "'", "95", ":", "Proceedings", "of", "the", "18th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "138", "146", ".", "ACM", "Press", ",", "1995", ".", "-LSB-", "20", "-RSB-", "C.", "E.", "Shannon", ".", "A", "mathematical", "theory", "of", "communication", ".", "The", "Bell", "System", "Technical", "Journal", "27", ",", "pages", "379", "423", "&", "623", "656", ",", "1948", ".", "-LSB-", "21", "-RSB-", "N.", "Wu", ".", "The", "Maximum", "Entropy", "Method", ".", "Springer", ",", "New", "York", ",", "1997", ".", "34"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["maximum entropy", "average precision", "evaluation"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "203", "document": ["UML-Based", "Service", "Robot", "Software", "Development", ":", "A", "Case", "Study", "The", "research", "field", "of", "Intelligent", "Service", "Robots", ",", "which", "has", "become", "more", "and", "more", "popular", "over", "the", "last", "years", ",", "covers", "a", "wide", "range", "of", "applications", "from", "climbing", "machines", "for", "cleaning", "large", "storefronts", "to", "robotic", "assistance", "for", "disabled", "or", "elderly", "people", ".", "When", "developing", "service", "robot", "software", ",", "it", "is", "a", "challenging", "problem", "to", "design", "the", "robot", "architecture", "by", "carefully", "considering", "user", "needs", "and", "requirements", ",", "implement", "robot", "application", "components", "based", "on", "the", "architecture", ",", "and", "integrate", "these", "components", "in", "a", "systematic", "and", "comprehensive", "way", "for", "maintainability", "and", "reusability", ".", "Furthermore", ",", "it", "becomes", "more", "difficult", "to", "communicate", "among", "development", "teams", "and", "with", "others", "when", "many", "engineers", "from", "different", "teams", "participate", "in", "developing", "the", "service", "robot", ".", "To", "solve", "these", "problems", ",", "we", "applied", "the", "COMET", "design", "method", ",", "which", "uses", "the", "industry-standard", "UML", "notation", ",", "to", "developing", "the", "software", "of", "an", "intelligent", "service", "robot", "for", "the", "elderly", ",", "called", "T-Rot", ",", "under", "development", "at", "Center", "for", "Intelligent", "Robotics", "-LRB-", "CIR", "-RRB-", ".", "In", "this", "paper", ",", "we", "discuss", "our", "experiences", "with", "the", "project", "in", "which", "we", "successfully", "addressed", "these", "problems", "and", "developed", "the", "autonomous", "navigation", "system", "of", "the", "robot", "with", "the", "COMET/UML", "method", ".", "D.", "2.2", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Design", "Tools", "and", "Techniques", "object-oriented", "design", "methods", "Design", "Robots", "have", "been", "used", "in", "several", "new", "applications", ".", "In", "recent", "years", ",", "both", "academic", "and", "commercial", "research", "has", "been", "focusing", "on", "the", "development", "of", "a", "new", "generation", "of", "robots", "in", "the", "emerging", "field", "of", "service", "robots", ".", "Service", "robots", "are", "individually", "designed", "to", "perform", "tasks", "in", "a", "specific", "environment", "for", "working", "with", "or", "assisting", "humans", "and", "must", "be", "able", "to", "perform", "services", "semi", "-", "or", "fully", "automatically", "-LSB-", "1", "-RSB-", ".", "Examples", "of", "service", "robots", "are", "those", "used", "for", "inspection", ",", "maintenance", ",", "housekeeping", ",", "office", "automation", "and", "aiding", "senior", "citizens", "or", "physically", "challenged", "individuals", "-LSB-", "2", "-RSB-", ".", "A", "number", "of", "commercialized", "service", "robots", "have", "recently", "been", "introduced", "such", "as", "vacuum", "cleaning", "robots", ",", "home", "security", "robots", ",", "robots", "for", "lawn", "mowing", ",", "entertainment", "robots", ",", "and", "guide", "robots", "-LSB-", "3", ",", "4", "-RSB-", ".", "In", "this", "context", ",", "Public", "Service", "Robot", "-LRB-", "PSR", "-RRB-", "systems", "have", "been", "developed", "for", "indoor", "service", "tasks", "at", "Korea", "Institute", "of", "Science", "and", "Technology", "-LRB-", "KIST", "-RRB-", "-LSB-", "5", ",", "6", "-RSB-", ".", "The", "PSR", "is", "an", "intelligent", "service", "robot", ",", "which", "has", "various", "capabilities", "such", "as", "navigation", ",", "manipulation", ",", "etc.", ".", "Up", "to", "now", ",", "three", "versions", "of", "the", "PSR", "systems", ",", "that", "is", ",", "PSR-1", ",", "PSR-2", ",", "and", "a", "guide", "robot", "Jinny", "have", "been", "built", ".", "The", "worldwide", "aging", "population", "and", "health", "care", "costs", "of", "aged", "people", "are", "rapidly", "growing", "and", "are", "set", "to", "become", "a", "major", "problem", "in", "the", "coming", "decades", ".", "This", "phenomenon", "could", "lead", "to", "a", "huge", "market", "for", "service", "robots", "assisting", "with", "the", "care", "and", "support", "of", "the", "disabled", "and", "elderly", "in", "the", "future", "-LSB-", "8", "-RSB-", ".", "As", "a", "result", ",", "a", "new", "project", "is", "under", "development", "at", "Center", "for", "Intelligent", "Robotics", "-LRB-", "CIR", "-RRB-", "at", "KIST", ",", "i.e.", "the", "intelligent", "service", "robot", "for", "the", "elderly", ",", "called", "T-Rot", ".", "In", "our", "service", "robot", "applications", ",", "it", "is", "essential", "to", "not", "only", "consider", "and", "develop", "a", "well-defined", "robot", "software", "architecture", ",", "but", "also", "to", "develop", "and", "integrate", "robot", "application", "components", "in", "a", "systematic", "and", "comprehensive", "manner", ".", "There", "are", "several", "reasons", "for", "this", ":", "First", ",", "service", "robots", "interact", "closely", "with", "humans", "in", "a", "wide", "range", "of", "situations", "for", "providing", "services", "through", "robot", "application", "components", "such", "as", "vision", "recognition", ",", "speech", "recognition", ",", "navigation", ",", "etc.", ".", "Thus", ",", "a", "well-defined", "robot", "control", "architecture", "is", "required", "for", "coherently", "and", "systematically", "combining", "these", "services", "into", "an", "integrated", "system", ".", "Second", ",", "in", "robot", "systems", ",", "there", "are", "many-to-many", "relations", "among", "software", "components", "as", "well", "as", "hardware", "components", ".", "For", "instance", ",", "a", "local", "map", "module", "requires", "range", "data", "from", "a", "laser", "scanner", ",", "ultrasonic", "sensors", ",", "and", "infrared", "sensors", ",", "as", "well", "as", "prior", "geometrical", "descriptions", "of", "the", "environment", ".", "On", "the", "other", "hand", ",", "the", "laser", "scanner", "should", "provide", "its", "data", "to", "a", "path", "planner", ",", "localizer", ",", "and", "a", "local", "map", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICSE", "'", "06", ",", "May", "20-28", ",", "2006", ",", "Shanghai", ",", "China", ".", "Copyright", "2006", "ACM", "1-59593-085-X", "/", "06/0005", "...", "$", "5.00", ".", "534", "building", "module", ".", "These", "relationships", ",", "as", "well", "as", "interactions", "among", "software", "or", "hardware", "modules", ",", "must", "be", "carefully", "analyzed", "and", "systematically", "managed", "from", "an", "early", "stage", "of", "development", "in", "order", "to", "understand", "the", "big", "picture", ".", "Third", ",", "the", "functional", "performance", "of", "each", "software", "and", "hardware", "module", "becomes", "highly", "dependent", "on", "the", "architecture", ",", "as", "the", "number", "of", "robot", "platforms", "increases", "-LSB-", "6", "-RSB-", ",", "and", "new", "services", "are", "added", ",", "or", "existing", "services", "are", "removed", "or", "updated", "to", "address", "changes", "in", "user", "needs", ".", "Fourth", ",", "previously", "developed", "software", "modules", "like", "maps", ",", "localization", ",", "and", "path", "planners", "can", "be", "directly", "reused", "for", "new", "tasks", "or", "services", "by", "service", "robot", "developers", ".", "Thus", ",", "a", "robot", "architecture", ",", "as", "well", "as", "systematic", "processes", "or", "methods", ",", "are", "required", "to", "support", "the", "implementation", "of", "the", "system", ",", "to", "ensure", "modularity", "and", "reusability", ".", "As", "a", "consequence", ",", "in", "the", "previous", "work", "-LSB-", "5,6", "-RSB-", ",", "the", "Tripodal", "schematic", "control", "architecture", "was", "proposed", "to", "tackle", "the", "problems", ".", "Many", "related", "research", "activities", "have", "been", "done", ".", "However", ",", "it", "is", "still", "a", "challenging", "problem", "to", "develop", "the", "robot", "architecture", "by", "carefully", "taking", "into", "account", "user", "needs", "and", "requirements", ",", "implement", "robot", "application", "components", "based", "on", "the", "architecture", ",", "and", "integrate", "these", "components", "in", "a", "systematic", "and", "comprehensive", "way", ".", "The", "reason", "is", "that", "the", "developers", "of", "service", "robots", "generally", "tend", "to", "be", "immersed", "in", "technology", "specific", "components", ",", "e.g.", "vision", "recognizer", ",", "localizer", "and", "path", "planner", ",", "at", "an", "early", "stage", "of", "product", "development", "without", "carefully", "considering", "architecture", "to", "integrate", "those", "components", "for", "various", "services", "-LSB-", "9", "-RSB-", ".", "Moreover", ",", "engineers", "and", "developers", "are", "often", "grouped", "into", "separate", "teams", "in", "accordance", "with", "the", "specific", "technologies", "-LRB-", "e.g.", ",", "speech", "processing", ",", "vision", "processing", "-RRB-", ",", "which", "makes", "integration", "of", "these", "components", "more", "difficult", "-LSB-", "7", ",", "9", "-RSB-", ".", "In", "such", "a", "project", "like", "T-Rot", ",", "particularly", ",", "several", "engineers", "and", "developers", "-LRB-", "i.e.", ",", "approximately", ",", "more", "than", "150", "engineers", "-RRB-", "from", "different", "organizations", "and", "teams", "participate", "in", "the", "implementation", "of", "the", "service", "robot", ".", "Each", "separate", "team", "tends", "to", "address", "the", "specific", "technologies", "such", "as", "object", "recognition", ",", "manipulation", ",", "and", "navigation", "and", "so", "on", ".", "Engineers", "who", "come", "from", "different", "teams", "are", "concerned", "with", "different", "characteristics", "of", "the", "system", ".", "Thus", ",", "a", "common", "medium", "is", "required", "to", "create", "mutual", "understanding", ",", "form", "consensus", ",", "and", "communicate", "with", "each", "other", "for", "successfully", "constructing", "the", "service", "robot", ".", "Without", "such", "a", "medium", "or", "language", ",", "it", "is", "difficult", "to", "sufficiently", "understand", "the", "service", "robot", "system", "and", "interact", "between", "teams", "to", "integrate", "components", "for", "services", ".", "Within", "the", "domain", "of", "software", "engineering", ",", "many", "approaches", "have", "been", "suggested", "for", "a", "systematic", "and", "complete", "system", "analysis", "and", "design", ",", "and", "for", "the", "capture", "of", "specifications", ".", "The", "object-oriented", "paradigm", "-LSB-", "10,11", "-RSB-", "is", "a", "widely-accepted", "approach", "to", "not", "only", "cover", "the", "external", "and", "declarative", "view", "of", "a", "system", ",", "but", "also", "at", "the", "same", "time", "bridge", "seamlessly", "with", "the", "internal", "implementation", "view", "of", "a", "system", "-LSB-", "13", "-RSB-", ".", "Object-oriented", "concepts", "are", "crucial", "in", "software", "analysis", "and", "design", "because", "they", "focus", "on", "fundamental", "issues", "of", "adaptation", "and", "evolution", "-LSB-", "14", "-RSB-", ".", "Therefore", ",", "compared", "with", "the", "traditional", "structured", "software", "development", "methods", ",", "object-oriented", "methods", "are", "a", "more", "modular", "approach", "for", "analysis", ",", "design", ",", "and", "implementation", "of", "complex", "software", "systems", ",", "which", "leads", "to", "more", "self-contained", "and", "hence", "modifiable", "and", "maintainable", "systems", ".", "More", "recently", ",", "the", "Unified", "Modeling", "Language", "-LRB-", "UML", "-RRB-", "-LSB-", "15,16", "-RSB-", "has", "captured", "industry-wide", "attention", "for", "its", "role", "as", "a", "general-purpose", "language", "for", "modeling", "software", "systems", ",", "especially", "for", "describing", "object-oriented", "models", ".", "The", "UML", "notation", "is", "useful", "to", "specify", "the", "requirements", ",", "document", "the", "structure", ",", "decompose", "into", "objects", ",", "and", "define", "relationships", "between", "objects", "in", "a", "software", "system", ".", "Certain", "notations", "in", "the", "UML", "have", "particular", "importance", "for", "modeling", "embedded", "systems", "-LSB-", "17,18", "-RSB-", ",", "like", "robot", "systems", ".", "By", "adopting", "the", "UML", "notation", ",", "development", "teams", "thus", "can", "communicate", "among", "themselves", "and", "with", "others", "using", "a", "defined", "standard", "-LSB-", "14,17,18", "-RSB-", ".", "More", "importantly", ",", "it", "is", "essential", "for", "the", "UML", "notation", "to", "be", "used", "with", "a", "systematic", "object-oriented", "analysis", "and", "design", "method", "in", "order", "to", "be", "effectively", "applied", "-LSB-", "14", "-RSB-", ".", "As", "a", "result", ",", "our", "aim", "is", "to", "develop", "the", "intelligent", "service", "robot", "based", "on", "the", "systematic", "software", "engineering", "method", ",", "especially", "for", "real-time", ",", "embedded", "and", "distributed", "systems", "with", "UML", ".", "To", "do", "so", ",", "we", "applied", "the", "COMET", "method", ",", "which", "is", "a", "UML", "based", "method", "for", "the", "development", "of", "concurrent", "applications", ",", "specifically", "distributed", "and", "real-time", "applications", "-LSB-", "14", "-RSB-", ".", "By", "using", "the", "COMET", "method", ",", "it", "is", "possible", "to", "reconcile", "specific", "engineering", "techniques", "with", "the", "industry-standard", "UML", "and", "furthermore", "to", "fit", "such", "techniques", "into", "a", "fully", "defined", "development", "process", "towards", "developing", "the", "service", "robot", "systems", ".", "In", "this", "paper", ",", "we", "describe", "our", "experience", "of", "applying", "the", "COMET", "/", "UML", "method", "into", "developing", "the", "intelligent", "service", "robot", "for", "the", "elderly", ",", "called", "T-Rot", ",", "developed", "at", "CIR", ".", "In", "particular", ",", "we", "focused", "on", "designing", "an", "autonomous", "navigation", "system", "for", "the", "service", "robot", ",", "which", "is", "one", "of", "the", "most", "challenging", "issues", "for", "the", "development", "of", "service", "robots", ".", "Section", "2", "describes", "the", "hardware", "configuration", "and", "services", "of", "the", "T-Rot", ",", "and", "discusses", "the", "related", "work", ".", "Section", "3", "illustrates", "how", "to", "apply", "the", "COMET", "method", "into", "designing", "and", "developing", "the", "autonomous", "navigation", "system", "for", "the", "service", "robot", ",", "and", "discusses", "the", "results", "of", "experiments", ".", "The", "lessons", "learned", "from", "the", "project", "are", "summarized", "in", "section", "4", ",", "and", "section", "5", "concludes", "the", "paper", "with", "some", "words", "on", "further", "work", ".", "Fig.", "1", ".", "KIST", "service", "robots", "At", "KIST", ",", "intelligent", "service", "robots", "have", "been", "developed", "in", "large-scale", "indoor", "environments", "since", "1998", ".", "So", "far", ",", "PSR-1", "and", "PSR-2", ",", "which", "performs", "delivery", ",", "patrol", ",", "and", "floor", "cleaning", "jobs", ",", "and", "a", "guide", "robot", "Jinny", ",", "which", "provides", "services", "like", "exhibition", "guide", "and", "guidance", "of", "the", "road", "at", "a", "museum", ",", "have", "been", "built", "-LSB-", "5,6", "-RSB-", "-LRB-", "see", "Fig.", "1", "-RRB-", ".", "The", "service", "robot", "T-Rot", "is", "the", "next", "model", "of", "the", "PSR", "system", "under", "development", "for", "assisting", "aged", "persons", ".", "Development", "of", "T-Rot", ",", "in", "which", "our", "role", "is", "developing", "and", "integrating", "robot", "software", ",", "started", "in", "2003", "by", "mainly", "CIR", "with", "535", "more", "than", "10", "groups", "consisting", "of", "more", "than", "150", "researchers", "and", "engineers", "from", "academia", "and", "industry", ".", "This", "project", "is", "based", "on", "the", "needs", "and", "requirements", "of", "elderly", "people", "through", "the", "studies", "and", "analysis", "of", "the", "commercial", "health-care", "market", "for", "providing", "useful", "services", "to", "them", ".", "Thus", ",", "the", "aim", "of", "this", "project", "is", "to", "develop", "the", "intelligent", "service", "robot", "for", "the", "elderly", "by", "cooperating", "and", "integrating", "the", "results", "of", "different", "research", "groups", ".", "This", "project", "that", "is", "divided", "into", "three", "stages", "will", "continue", "until", "2013", "and", "we", "are", "now", "in", "the", "first", "stage", "for", "developing", "the", "service", "robot", "incrementally", "to", "provide", "various", "services", ".", "2.2", "Hardware", "of", "T-Rot", "The", "initial", "version", "of", "T-Rot", ",", "as", "shown", "in", "Fig.", "2", ",", "has", "three", "single", "board", "computer", "-LRB-", "SBC", "-RRB-", ",", "that", "is", ",", "mobile", "Pentium", "4", "-LRB-", "2.2", "GHz", "-RRB-", "and", "1", "GB", "SDRAM", "on", "each", "SBC", ".", "In", "terms", "of", "software", "environment", ",", "Linux", "Red", "hat", "9.0", "and", "RTAI", "-LRB-", "Real-Time", "Application", "Interface", "-RRB-", "-LSB-", "12", "-RSB-", "are", "used", "as", "operating", "system", ".", "Fig.", "3", "shows", "hardware", "configuration", "as", "a", "whole", ".", "As", "mentioned", "earlier", ",", "development", "of", "T-Rot", "is", "conducted", "incrementally", "for", "various", "services", "and", "thus", "the", "platform", "will", "be", "extended", "with", "manipulators", "and", "robot", "hands", "later", ".", "In", "our", "project", ",", "we", "developed", "the", "robot", "software", "based", "on", "the", "initial", "version", "of", "the", "platform", ".", "The", "details", "of", "the", "hardware", "platform", "are", "described", "in", "Table", "1", ".", "Fig.", "2", ".", "T-Rot", "robot", "hardware", "platform", "Fig.", "3", ".", "T-Rot", "robot", "hardware", "platform", "configuration", "Table", "1", ".", "T-Rot", "hardware", "platform", "devices", "Intel", "Mobile", "Pentium", "4", "-LRB-", "2.2", "GHz", "-RRB-", "1", "GB", "SDRAM", "SBC", "30", "GB", "Hard", "Disk", "16", "microphones", "for", "speaker", "localization", "1", "microphone", "for", "speech", "recognition", "Voice", "1", "speaker", "for", "speech", "generation", "Vision", "2", "stereo", "vision", "cameras", "for", "recognizing", "users", "and", "object", "s", "-LRB-", "1288", "H", "x", "1032", "V", "maximum", "resolution", "and", "7Hz", "fram", "e", "rates", "-RRB-", "Pan/Tilt", "for", "controlling", "the", "vision", "part", "2", "laser", "scanners", "-LRB-", "front", "and", "back", "-RRB-", "2", "IR", "scanners", "-LRB-", "front", "and", "back", "-RRB-", "12", "Ultrasonic", "sensors", "Sensor", "1", "Gyroscope", "sensor", "for", "measuring", "balance", "2", "actuators", "for", "two", "drive", "wheels", "-LRB-", "right", "and", "left", "-RRB-", "2", "free", "wheels", "-LRB-", "the", "support", "wheels", "-RRB-", "2", "Servo", "Motors", "-LRB-", "100", "-LSB-", "w", "-RSB-", "-RRB-", "2", "encoders", "-LRB-", "2048", "ppr", "-RRB-", "Actuator", "2", "bumpers", "1", "TFT", "LCD", "&", "Touch", "-LRB-", "10.4", "''", "1024x768", ",", "26000", "colors", "-RRB-", "KVM", "-LRB-", "Keyboard/Mouse", "-RRB-", "Interface", "Wireless", "LAN", "for", "communications", "2.3", "Robot", "Services", "Some", "of", "the", "primary", "services", "under-developed", "that", "the", "initial", "version", "for", "T-Rot", "provides", "for", "the", "elderly", "are", "described", "as", "below", ".", "Voice-based", "Information", "Services", ":", "The", "robot", "T-Rot", "can", "recognize", "voice", "commands", "from", "a", "user", "-LRB-", "i.e.", ",", "an", "aged", "person", "-RRB-", "via", "microphones", "equipped", "with", "the", "robot", "and", "can", "synthesize", "voices", "for", "services", ".", "While", "a", "user", "is", "watching", "TV", ",", "the", "user", "can", "ask", "some", "questions", "about", "the", "specific", "TV", "program", "or", "request", "a", "task", "to", "open", "an", "Internet", "homepage", "by", "speaking", "the", "TV", "program", "name", ".", "Sound", "Localization", "and", "Voice", "Recognition", ":", "A", "user", "can", "call", "a", "robot", "'s", "predefined", "name", ",", "to", "let", "the", "robot", "recognize", "the", "call", "while", "the", "robot", "knows", "the", "direction", "to", "move", "to", "the", "user", ".", "This", "service", "analyzes", "audio", "data", "from", "3", "microphones", "on", "the", "shoulder", "for", "sound", "localization", "and", "16", "mic", "array", "on", "the", "head", "for", "speech", "recognition", "to", "recognize", "the", "command", "from", "the", "user", ".", "Autonomous", "navigation", ":", "A", "user", "can", "command", "the", "robot", "to", "move", "to", "a", "specific", "position", "in", "the", "map", "to", "perform", "some", "task", ".", "For", "instance", ",", "the", "robot", "can", "navigate", "to", "its", "destination", "in", "the", "home", "environment", "via", "its", "sensors", ",", "which", "include", "laser", "scanners", "and", "ultrasonic", "sensors", ".", "The", "robot", "plans", "a", "path", "to", "the", "specified", "position", ",", "executes", "this", "plan", ",", "and", "modifies", "it", "as", "necessary", "for", "avoiding", "unexpected", "obstacles", ".", "While", "the", "robot", "is", "moving", ",", "it", "constantly", "checks", "sensor", "data", "from", "its", "sensors", "every", "200", "ms.", "An", "errand", "service", ":", "The", "robot", "can", "carry", "objects", "that", "a", "user", "-LRB-", "i.e.", ",", "an", "aged", "person", "-RRB-", "usually", "uses", ",", "like", "a", "plate", ",", "books", ",", "a", "cane", "a", "cup", "of", "tea", ",", "beverages", ",", "etc", "according", "to", "the", "user", "'s", "instructions", ".", "For", "instance", ",", "the", "user", "can", "order", "the", "robot", "to", "bring", "a", "cup", "of", "tea", "or", "beverage", "by", "speaking", "the", "name", "of", "the", "drink", ".", "Of", "these", "T-Rot", "services", ",", "our", "emphasis", "was", "on", "the", "autonomous", "navigation", "service", ",", "which", "is", "one", "of", "the", "most", "challenging", "issues", "and", "is", "essential", "in", "developing", "service", "robots", ",", "particularly", "mobile", "service", "robots", "to", "assist", "elderly", "people", ".", "It", "includes", "hardware", "integration", "for", "various", "sensors", "and", "actuators", ",", "and", "the", "development", "of", "crucial", "navigation", "algorithms", "like", "maps", ",", "path", "planners", ",", "and", "536", "localizers", "as", "well", "as", "software", "integration", "of", "software", "modules", "like", "a", "path", "planner", ",", "a", "localizer", ",", "and", "a", "map", "building", "module", ".", "2.4", "Control", "Architecture", "of", "PSR", "Up", "to", "now", ",", "there", "have", "been", "many", "related", "research", "activities", "to", "develop", "efficient", "and", "well-defined", "control", "architectures", "and", "system", "integration", "strategies", "for", "constructing", "service", "robots", ".", "A", "recent", "trend", "is", "that", "many", "control", "architectures", "are", "converging", "to", "a", "similar", "structure", "based", "on", "a", "hybrid", "approach", "that", "integrates", "reactive", "control", "and", "deliberation", "-LSB-", "6", "-RSB-", ".", "At", "KIST", ",", "for", "developing", "service", "robots", ",", "that", "is", "PSR-1", ",", "PSR-2", ",", "and", "Jinny", "in", "the", "previous", "work", "-LSB-", "5,6", "-RSB-", ",", "the", "Tripodal", "schematic", "control", "architecture", "was", "proposed", "as", "the", "solution", "to", "the", "problem", ".", "One", "important", "point", "of", "Tripodal", "schematic", "design", "is", "to", "integrate", "robot", "systems", "by", "using", "a", "layered", "functionality", "diagram", ".", "The", "layered", "functionality", "diagram", "is", "a", "conceptual", "diagram", "of", "three", "layers", "for", "arrangement", "of", "various", "hardware", "and", "software", "modules", "and", "functions", ".", "It", "also", "shows", "the", "connectivity", "and", "the", "information", "flow", "between", "components", ".", "Those", "layers", "are", "composed", "of", "deliberate", ",", "sequencing", ",", "and", "reactive", "layers", "based", "on", "the", "hybrid", "approach", ".", "The", "purposes", "of", "the", "deliberate", "layer", "are", "to", "interface", "with", "a", "user", "and", "to", "execute", "a", "planning", "process", ".", "The", "sequencing", "layer", "is", "classified", "into", "two", "groups", ",", "that", "is", ",", "the", "controlling", "part", "that", "executes", "the", "process", "by", "managing", "the", "components", "in", "the", "reactive", "layer", "and", "the", "information", "part", "that", "extracts", "highly", "advanced", "information", "from", "sensor", "data", ".", "The", "reactive", "layer", "controls", "the", "real-time", "command", "and", "hardware-related", "modules", "for", "sensors", "and", "actuators", ".", "The", "detailed", "description", "of", "whole", "control", "architecture", "of", "the", "PSR", "is", "introduced", "in", "-LSB-", "5", "-RSB-", ".", "However", ",", "as", "described", "earlier", ",", "in", "order", "to", "effectively", "apply", "this", "approach", "and", "the", "UML", "notation", "to", "developing", "service", "robots", ",", "it", "is", "essential", "to", "use", "a", "systematic", "software", "engineering", "process", "or", "methods", "like", "object-oriented", "analysis", "and", "design", "methods", ",", "especially", "for", "real-time", "and", "embedded", "systems", ".", "We", "believe", "that", "only", "a", "systematic", "and", "comprehensive", "software", "development", "process", "and", "method", "will", "be", "able", "to", "resolve", "the", "issues", "discussed", "before", "and", "will", "be", "vital", "for", "success", "in", "developing", "service", "robots", ".", "2.5", "The", "COMET", "method", "COMET", "-LSB-", "14", "-RSB-", "is", "a", "method", "for", "designing", "real-time", "and", "distributed", "applications", ",", "which", "integrates", "object-oriented", "and", "concurrent", "processing", "concepts", "and", "uses", "the", "UML", "notation", "-LSB-", "15,16", "-RSB-", ".", "The", "COMET", "object", "-", "oriented", "software", "life", "cycle", "model", "is", "a", "highly", "iterative", "software", "development", "process", "based", "around", "the", "use", "case", "concept", ".", "Therefore", ",", "in", "this", "project", ",", "the", "COMET", "method", "with", "UML", "was", "used", "to", "develop", "a", "system", "for", "autonomous", "navigation", "by", "the", "intelligent", "service", "robot", ",", "T-Rot", ".", "The", "method", "separates", "requirements", "activities", ",", "analysis", "activities", "and", "design", "activities", ",", "and", "these", "activities", "are", "briefly", "described", "as", "below", ".", "The", "details", "are", "described", "in", "section", "3", "with", "the", "case", "study", ".", "Requirements", "modeling", "-", "A", "use", "case", "model", "is", "developed", "in", "which", "the", "functional", "requirements", "of", "the", "system", "are", "defined", "in", "terms", "of", "actors", "and", "use", "cases", ".", "Analysis", "modeling", "-", "Static", "and", "dynamic", "models", "of", "the", "system", "are", "developed", ".", "The", "static", "model", "defines", "the", "structural", "relationships", "among", "problem", "domain", "classes", ".", "A", "dynamic", "model", "is", "then", "developed", "in", "which", "the", "use", "cases", "from", "the", "requirements", "model", "are", "refined", "to", "show", "the", "objects", "that", "participate", "in", "each", "use", "case", "and", "how", "they", "interact", "with", "each", "other", ".", "Design", "modeling", "The", "software", "architecture", "of", "the", "system", "is", "designed", ",", "in", "which", "the", "analysis", "model", "is", "mapped", "to", "an", "operational", "environment", ".", "For", "distributed", "applications", ",", "a", "component", "based", "development", "approach", "is", "taken", ",", "in", "which", "each", "subsystem", "is", "designed", "as", "a", "distributed", "self-contained", "component", ".", "In", "this", "section", ",", "we", "explain", "how", "to", "develop", "robot", "software", "for", "the", "autonomous", "navigation", "system", "with", "the", "COMET/UML", "method", ".", "In", "our", "project", ",", "the", "UML", "notation", "conforms", "to", "UML", "1.3", "and", "the", "Rational", "Rose", "tool", "is", "used", ".", "3.1", "Requirements", "Modeling", "Capturing", "the", "functional", "requirements", "of", "the", "system", "is", "the", "first", "phase", "in", "software", "development", ",", "which", "defines", "what", "the", "system", "should", "do", "or", "provide", "for", "the", "user", ".", "In", "our", "approach", ",", "developers", "can", "catch", "the", "functional", "requirements", "or", "services", "by", "using", "the", "use", "case", "model", "in", "terms", "of", "use", "cases", "and", "actors", "-LRB-", "see", "Fig.", "4", "-RRB-", ".", "To", "identify", "and", "define", "the", "requirements", "of", "the", "system", "more", "clearly", ",", "the", "system", "has", "to", "be", "considered", "like", "a", "black", "box", ".", "In", "the", "service", "robot", ",", "the", "actor", "can", "be", "usually", "a", "human", "user", "as", "well", "as", "external", "I/O", "devices", "and", "external", "timer", ".", "Navigation", "Commander", "-LRB-", "from", "1.0", "Actors", "-RRB-", "Clock", "-LRB-", "from", "1.0", "Actors", "-RRB-", "Obstacle", "Avoidance", "<", "<", "extend", ">", ">", "Fig.", "4", ".", "Use", "case", "diagram", "for", "Navigation", "Table", "2", "shows", "a", "specification", "for", "Navigation", "use", "case", ".", "In", "our", "navigation", "system", ",", "we", "identified", "a", "Commander", "and", "a", "Clock", "as", "an", "actor", ".", "While", "the", "robot", "is", "moving", ",", "if", "the", "robot", "recognizes", "obstacles", ",", "it", "should", "avoid", "them", "for", "continuing", "to", "go", "to", "the", "destination", ".", "Even", "when", "humans", "or", "objects", "suddenly", "appear", ",", "the", "robot", "must", "be", "able", "to", "stop", "to", "avoid", "crashing", "into", "those", ".", "However", ",", "in", "order", "to", "do", "this", ",", "the", "robot", "has", "to", "check", "that", "there", "are", "obstacles", "by", "using", "sensor", "data", "more", "often", "-LRB-", "e.g.", ",", "every", "50", "ms", "-RRB-", "than", "the", "normal", "navigation", "system", "does", "-LRB-", "e.g.", ",", "every", "200", "ms", "-RRB-", ".", "As", "a", "result", ",", "the", "Obstacle", "Avoidance", "use", "case", "is", "extended", "from", "the", "Navigation", "use", "case", ".", "During", "the", "Navigation", "use", "case", "is", "executing", ",", "if", "the", "obstacles", "are", "recognized", ",", "then", "the", "Obstacle", "Avoidance", "use", "case", "is", "triggered", "to", "perform", "the", "emergency", "stop", "of", "the", "robot", ".", "If", "the", "obstacles", "disappear", ",", "the", "robot", "moves", "again", "to", "the", "destination", ".", "Table", "2", ".", "Navigation", "use", "case", "Summary", "The", "Commander", "enters", "a", "destination", "and", "the", "robot", "system", "moves", "to", "the", "destination", ".", "Actor", "Commander", "Precondition", "The", "robot", "system", "has", "the", "grid", "map", "and", "the", "current", "position", "is", "known", "Description", "1", ".", "The", "use", "case", "begins", "when", "the", "commander", "enters", "a", "destination", ".", "2", ".", "The", "system", "calculates", "an", "optimal", "path", "to", "the", "destination", ".", "3", ".", "The", "system", "commands", "the", "wheel", "actuator", "to", "start", "537", "moving", "to", "the", "destination", ".", "4", ".", "The", "wheel", "actuator", "notifies", "the", "system", "that", "it", "has", "started", "moving", "5", ".", "The", "system", "periodically", "reads", "sensor", "data", "and", "calculates", "the", "current", "position", ".", "6", ".", "The", "system", "determines", "that", "it", "arrives", "at", "the", "destination", "and", "commands", "the", "wheel", "actuator", "to", "stop", ".", "7", ".", "The", "wheel", "actuator", "notifies", "the", "system", "that", "it", "has", "stopped", "moving", "and", "the", "use", "case", "is", "finished", ".", "Alternative", "6.1", ".", "If", "the", "system", "does", "n't", "arrive", "at", "the", "destination", ",", "it", "keeps", "moving", ".", "Postcondition", "The", "robot", "system", "is", "at", "the", "destination", "and", "waiting", "for", "the", "next", "destination", ".", "3.2", "Analysis", "Modeling", "3.2.1", "Static", "Modeling", "The", "objective", "of", "static", "modeling", "is", "to", "understand", "the", "interface", "between", "the", "system", "and", "the", "external", "environment", "and", "to", "describe", "the", "static", "structure", "of", "the", "system", "under", "development", "by", "developing", "a", "system", "context", "class", "diagram", ".", "It", "is", "specifically", "important", "for", "real-time", "and", "embedded", "systems", "like", "robot", "systems", "-LSB-", "14", "-RSB-", ".", "The", "system", "context", "class", "diagram", "can", "be", "determined", "by", "static", "modeling", "of", "the", "external", "classes", "that", "connect", "to", "the", "system", ".", "Commander", "-LRB-", "from", "1.0", "Actors", "-RRB-", "Sensor", "<", "<", "external", "input", "device", ">", ">", "WheelActuator", "<", "<", "external", "output", "device", ">", ">", "CommandLine", "<", "<", "external", "user", ">", ">", "1", "1", "1", "1", "Robot", "Navigation", "System", "<", "<", "System", ">", ">", "1", ".", ".", "*", "1", "1", ".", ".", "*", "1", "Inputs", "To", "1", "1", "1", "1", "Outputs", "to", "1", "1", "1", "1", "interacts", "with", "Clock", "-LRB-", "from", "1.0", "Actors", "-RRB-", "Clock", "<", "<", "external", "timer", ">", ">", "1", "1", "1", "1", "Awakens", "Fig.", "5", ".", "Robot", "Navigation", "System", "context", "class", "diagram", "The", "system", "context", "class", "diagram", "of", "the", "Robot", "Navigation", "System", "is", "shown", "in", "Fig.", "5", ",", "which", "illustrates", "the", "external", "classes", "to", "which", "the", "system", "has", "to", "interface", ".", "In", "our", "navigation", "system", ",", "a", "commander", "enters", "a", "destination", "via", "a", "command", "line", ",", "to", "which", "the", "robot", "should", "move", ".", "The", "system", "uses", "sensor", "data", "via", "various", "sensors", "such", "as", "laser", "scanners", ",", "IR", "scanners", ",", "ultrasonic", "sensors", ",", "etc", "and", "it", "controls", "the", "wheels", "of", "the", "robot", "via", "the", "wheel", "actuator", ".", "Therefore", ",", "the", "external", "classes", "correspond", "to", "the", "users", "-LRB-", "i.e.", ",", "a", "Commander", "who", "interacts", "with", "the", "system", "via", "a", "Command", "Line", "-RRB-", ",", "and", "I/O", "devices", "-LRB-", "i.e.", ",", "a", "Sensor", "and", "Wheel", "Actuator", "-RRB-", ".", "A", "Clock", "actor", "needs", "an", "external", "timer", "class", "called", "Clock", "to", "provide", "timer", "events", "to", "the", "system", ".", "This", "external", "timer", "class", "is", "needed", "to", "periodically", "check", "sensor", "data", "via", "those", "sensors", "for", "avoiding", "obstacles", "-LRB-", "i.e.", ",", "doing", "the", "emergency", "stop", "-RRB-", "while", "the", "robot", "is", "moving", ".", "Next", ",", "to", "structure", "the", "Robot", "Navigation", "System", "into", "objects", ",", "object", "structuring", "needs", "to", "be", "considered", "in", "preparation", "for", "dynamic", "modeling", ".", "The", "objective", "of", "the", "object", "structuring", "is", "to", "decompose", "the", "problem", "into", "objects", "within", "the", "system", ".", "We", "identified", "the", "internal", "objects", "according", "to", "the", "object", "structuring", "criteria", "in", "COMET", "-LRB-", "see", "Fig.", "6", "-RRB-", ".", "In", "our", "system", ",", "interface", "objects", ",", "i.e.", "a", "Command", "Line", "Interface", ",", "Sensor", "Interface", "and", "Wheel", "Actuator", "Interface", "are", "identified", "by", "identifying", "the", "external", "classes", "that", "interface", "to", "the", "system", ",", "i.e.", "the", "Command", "Line", ",", "Sensor", ",", "and", "Wheel", "Actuator", ",", "respectively", ".", "There", "are", "four", "entity", "objects", "identified", ",", "that", "is", ",", "a", "Current", "Position", ",", "Destination", ",", "Navigation", "Path", "and", "Navigation", "Map", ",", "which", "are", "usually", "long-living", "object", "that", "stores", "information", ".", "In", "addition", "to", "those", "objects", ",", "there", "is", "a", "need", "for", "control", "objects", ",", "which", "provide", "the", "overall", "coordination", "for", "objects", "in", "a", "use", "case", "and", "may", "be", "coordinator", ",", "state-dependent", "control", ",", "or", "timer", "objects", ".", "The", "Navigation", "System", "has", "a", "state-dependent", "control", "object", "called", "Navigation", "Control", "that", "controls", "the", "wheel", "actuator", "and", "sensors", ".", "The", "states", "of", "the", "Navigation", "Control", "object", "are", "shown", "on", "a", "Navigation", "Control", "statechart", "-LRB-", "this", "will", "be", "discussed", "in", "the", "dynamic", "modeling", "-RRB-", ".", "There", "are", "two", "timer", "objects", ",", "i.e.", "a", "Navigation", "Timer", "and", "an", "Obstacle", "Avoidance", "Timer", ".", "The", "Obstacle", "Avoidance", "Timer", "is", "activated", "by", "a", "timer", "event", "from", "an", "external", "timer", "to", "periodically", "check", "that", "there", "is", "any", "obstacle", "around", "the", "robot", ".", "On", "the", "other", "hand", ",", "the", "Navigation", "Timer", "is", "started", "by", "the", "Navigation", "Control", "object", "and", "generates", "a", "timer", "event", "for", "navigation", ".", "Also", ",", "a", "Localizer", "algorithm", "object", "and", "Path", "Planner", "algorithm", "object", "are", "identified", ",", "which", "encapsulate", "an", "algorithm", "used", "in", "the", "problem", "domain", ",", "namely", "the", "autonomous", "navigation", ".", "<", "<", "Robot", "Navigation", "System", ">", ">", "Commander", "-LRB-", "from", "1.0", "Actors", "-RRB-", "CommandLineInterface", "<", "<", "user", "interface", ">", ">", "CommandLine", "<", "<", "external", "user", ">", ">", "1", "1", "1", "1", "1", "1", "1", "1", "SensorInterface", "<", "<", "input", "device", "interface", ">", ">", "Sensor", "<", "<", "external", "input", "device", ">", ">", "1", "1", ".", ".", "*", "1", "1", ".", ".", "*", "WheelActuator", "<", "<", "external", "output", "device", ">", ">", "WheelActuatorInterface", "<", "<", "output", "device", "interface", ">", ">", "1", "1", "1", "1", "Destination", "<", "<", "entity", ">", ">", "Navigation", "Path", "<", "<", "entity", ">", ">", "Navigation", "Map", "<", "<", "entity", ">", ">", "Current", "Position", "<", "<", "entity", ">", ">", "Navigation", "Control", "<", "<", "state", "dependent", ">", ">", "Navigation", "Timer", "<", "<", "timer", ">", ">", "ObstacleAvoidanceTimer", "<", "<", "timer", ">", ">", "Clock", "<", "<", "external", "timer", ">", ">", "1", "1", "1", "1", "Localizer", "<", "<", "algorithm", ">", ">", "PathPlanner", "<", "<", "algorithm", ">", ">", "Fig.", "6", ".", "Object", "structuring", "class", "diagram", "for", "Navigation", "System", "3.2.2", "Dynamic", "Modeling", "Dynamic", "modeling", "emphasizes", "the", "dynamic", "behavior", "of", "the", "system", "and", "plays", "an", "important", "role", "for", "distributed", ",", "concurrent", "and", "real-time", "system", "analysis", ".", "The", "dynamic", "model", "defines", "the", "object", "interactions", "that", "correspond", "to", "each", "use", "case", "and", "thus", "is", "based", "on", "the", "use", "cases", "and", "the", "objects", "identified", "during", "object", "structuring", ".", "In", "our", "case", ",", "collaboration", "diagrams", "are", "developed", "to", "show", "the", "sequence", "of", "object", "interactions", "for", "each", "use", "case", ".", "Additionally", ",", "if", "the", "collaboration", "involves", "the", "state-dependent", "object", ",", "which", "executes", "a", "statechart", ",", "the", "event", "sequence", "is", "shown", "on", "a", "statechart", ".", ":", "Navigation", "Control", ":", "CommandLine", ":", "Sensor", ":", "WheelActuator", ":", "WheelActuatorInterface", ":", "SensorInterface", ":", "Destination", ":", "Navigation", "Path", ":", "Navigation", "Map", ":", "Current", "Position", ":", "CommandLineInterface", ":", "Navigation", "Timer", "Path", "Planner", "Localizer", "Sequencing", "Layer", "<", "<", "external", "user", ">", ">", "<", "<", "user", "interface", ">", ">", "<", "<", "state", "dependent", "control", ">", ">", "<", "<", "timer", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "algorithm", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "algorithm", ">", ">", "<", "<", "external", "input", "device", ">", ">", "<", "<", "input", "device", "interface", ">", ">", "<", "<", "output", "device", "interface", ">", ">", "<", "<", "external", "output", "device", ">", ">", "Deliberate", "Layer", "Reactive", "Layer", "1.2", "a", ":", "Store", "Destination", "2.11", ",", "3.11", ":", "Check", "Destination", "2.12", ":", "No", ",", "3.12", ":", "Yes", "1.13", ",", "2.18", ":", "Planned", "Path", "1.10", ",", "2.15", ":", "Read", "a", "Path", "1.14", ":", "Start", "2.19", ":", "Move", "3.13", ":", "Stop", "1.17", ":", "Started", "3.16", ":", "Stopped", "1.4", ",", "2.7", ",", "3.7", ":", "Read", "Current", "Position", "1.7", ",", "2.10", ",", "3.10", ":", "Current", "Position", "1.2", ",", "2.5", ",", "3.5", ":", "Read", "Map", "1.8", ",", "2.13", ":", "Update", "Map", "1.3", ",", "2.6", ",", "3.6", ":", "Map", "1.9", ",", "2.14", ":", "Updated", "Map", "1", ":", "Enter", "Destination", "1.1", ":", "Destination", "Entered", "2.1", ",", "3.1", ":", "Read", "Sensors", "2.4", ",", "3.4", ":", "Sensor", "Data", "2.2", ",", "3.2", ":", "Read", "2.3", ",", "3.3", ":", "Data", "1.15", ":", "Start", "WheelActuator", "Output", "2.20", ":", "Move", "WheelActuator", "Output", "3.14", ":", "Stop", "WheelActuator", "Output", "1.16", ",", "5.8", ":", "Started", "Ack", "3.15", ":", "Stopped", "Ack", "1.5", ",", "2.8", ",", "3.8", ":", "Localize", "1.6", ",", "2.9", ",", "3.9", ":", "Current", "Position", "2", ",", "3", ":", "After", "-LRB-", "Elapsed", "Time", "-RRB-", "1.18", ",", "5.10", ":", "Start", "Timer", "3.17", ",", "4.10", ":", "Stop", "Timer", "1.12", ",", "2.17", ":", "Path", "1.11", ",", "2.16", ":", "Plan", "a", "path", "Fig.", "7", ".", "Collaboration", "diagram", "for", "Navigation", "use", "case", "538", "In", "the", "navigation", "system", ",", "the", "Localizer", "has", "the", "algorithm", "which", "can", "calculate", "the", "current", "position", "based", "on", "sensor", "data", "via", "sensors", ".", "So", ",", "the", "role", "of", "the", "Localizer", "is", "to", "update", "the", "current", "position", "of", "the", "service", "robot", ".", "In", "the", "Path", "Planner", "object", ",", "there", "is", "a", "method", "for", "calculating", "a", "path", "to", "arrive", "at", "the", "destination", "based", "on", "both", "sensor", "information", "and", "the", "current", "position", "that", "is", "calculated", "at", "the", "Localizer", ".", "The", "Navigation", "Timer", "is", "an", "internal", "timer", "that", "is", "controlled", "by", "the", "Navigation", "Control", ".", "After", "the", "destination", "is", "entered", "from", "the", "external", "user", ",", "the", "Navigation", "Control", "starts", "the", "Navigation", "Timer", ",", "then", "the", "timer", "generates", "a", "timer", "event", "periodically", "-LRB-", "i.e.", ",", "every", "200ms", "-RRB-", "until", "the", "Navigation", "Control", "stops", "the", "timer", ".", "The", "Navigation", "use", "case", "starts", "with", "the", "commander", "entering", "the", "destination", "into", "the", "navigation", "system", ".", "The", "message", "sequence", "number", "starts", "at", "1", ",", "which", "is", "the", "first", "external", "event", "initiated", "by", "the", "actor", ".", "Subsequence", "numbering", "in", "sequence", "is", "from", "1.1", "to", "1.18", "as", "shown", "in", "Fig.", "7", ".", "The", "next", "message", "sequence", "activated", "by", "the", "Navigation", "Timer", "is", "numbered", "2", ",", "followed", "by", "the", "events", "2.1", ",", "2.2", ",", "and", "so", "forth", ".", "The", "following", "message", "sequences", "are", "illustrated", "in", "the", "collaboration", "diagram", "-LRB-", "see", "Fig.", "7", "-RRB-", ".", "The", "collaboration", "diagram", "for", "the", "Obstacle", "Avoidance", "use", "case", "is", "shown", "in", "Fig.", "8", ".", "When", "activated", "by", "the", "Obstacle", "Avoidance", "Timer", "every", "50", "ms", ",", "the", "Sensor", "Interface", "object", "reads", "sensor", "data", "via", "various", "sensors", "-LRB-", "Events", "4.1", ",", "5.1", ",", "6.1", "-RRB-", ".", "If", "an", "obstacle", "is", "recognized", ",", "the", "Obstacle", "Avoidance", "Timer", "sends", "the", "emergency", "stop", "message", "to", "the", "Wheel", "Actuator", "Interface", "-LRB-", "Event", "4.5", "-RRB-", ".", "Afterwards", ",", "the", "timer", "also", "sends", "a", "suspend", "event", "to", "the", "Navigation", "Control", ".", "If", "the", "obstacle", "disappears", ",", "the", "timer", "sends", "a", "restart", "event", "to", "the", "Navigation", "Control", "for", "the", "robot", "to", "move", "again", ".", ":", "Sensor", ":", "WheelActuator", ":", "WheelActuatorInterface", ":", "SensorInterface", ":", "Clock", ":", "ObstacleAvoidanceTimer", "<", "<", "state", "dependent", "control", ">", ">", "<", "<", "external", "timer", ">", ">", "<", "<", "external", "input", "device", ">", ">", "<", "<", "timer", ">", ">", "<", "<", "input", "device", "interface", ">", ">", "<", "<", "output", "device", "interface", ">", ">", "<", "<", "external", "output", "device", ">", ">", ":", "Navigation", "Control", "Sequencing", "Layer", "Reactive", "Layer", "5.6", ":", "Start", "5.9", ":", "Started", "4", ",", "5", ",", "6", ":", "Timer", "Event", "4.2", ",", "5.2", ",", "6.2", ":", "Read", "4.3", ",", "5.3", ",", "6.3", ":", "Data", "4.1", ",", "5.1", ",", "6.1", ":", "Read", "Sensors", "4.4", ",", "5.4", ",", "6.4", ":", "Sensor", "Data", "4.5", ":", "Stop", "4.8", ":", "Stopped", "4.9", ":", "Suspend", "5.5", ":", "Restart", "6.5", ":", "Time", "Expired", "5.7", ":", "Start", "WheelActuator", "Output", "4.6", ":", "Stop", "WheelActuator", "Output", "5.8", ":", "Started", "Ack", "4.7", ":", "Stopped", "Ack", "Fig.", "8", ".", "Collaboration", "diagram", "for", "Obstacle", "Avoidance", "use", "case", "With", "COMET", ",", "the", "software", "architecture", "can", "be", "based", "on", "a", "software", "architectural", "style", "-LRB-", "pattern", "-RRB-", "such", "as", "client/server", "or", "layers", "of", "abstraction", ".", "In", "our", "project", ",", "the", "layered", "strategy", "of", "the", "Tripodal", "schematic", "design", "described", "in", "section", "2", "is", "applied", "for", "design", "and", "modeling", "of", "the", "robot", "system", ",", "which", "provides", "a", "conceptual", "diagram", "of", "three", "layers", "-LRB-", "i.e.", ",", "deliberate", ",", "sequencing", ",", "and", "reactive", "layers", "-RRB-", "for", "arrangement", "of", "various", "hardware", "and", "software", "modules", "and", "functions", ".", "Therefore", ",", "in", "the", "collaboration", "diagrams", "-LRB-", "see", "Fig.", "7", "and", "8", "-RRB-", ",", "the", "Command", "Line", "Interface", "is", "located", "in", "the", "deliberate", "layer", "and", "the", "Sensor", "Interface", ",", "Wheel", "Actuator", "Interface", ",", "and", "Obstacle", "Avoidance", "Timer", "are", "in", "the", "reactive", "layer", ".", "The", "others", "are", "positioned", "in", "the", "sequencing", "layer", ".", "In", "our", "navigation", "system", ",", "after", "drawing", "the", "collaboration", "diagrams", "for", "the", "Navigation", "and", "Obstacle", "Avoidance", "use", "cases", "which", "include", "the", "Navigation", "Control", "state-dependent", "object", ",", "we", "develop", "a", "Navigation", "Control", "statechart", ",", "which", "is", "executed", "by", "the", "Navigation", "Control", "object", ".", "The", "statechart", "needs", "to", "be", "considered", "in", "connection", "with", "the", "collaboration", "diagram", ".", "Specifically", ",", "it", "is", "required", "to", "take", "into", "account", "the", "messages", "that", "are", "received", "and", "sent", "by", "the", "control", "object", ",", "which", "executes", "the", "statechart", "-LSB-", "14", "-RSB-", ".", "An", "input", "event", "-LRB-", "e.g.", ",", "1.1", ":", "destination", "entered", "-RRB-", "into", "the", "Navigation", "Control", "object", "on", "the", "collaboration", "diagram", "should", "be", "consistent", "with", "the", "same", "event", "shown", "on", "the", "statechart", ".", "The", "output", "event", ",", "which", "causes", "an", "action", ",", "enable", "or", "disable", "activity", ",", "like", "1.2", ":", "Read", "Map", "-LRB-", "which", "cases", "an", "action", "-RRB-", "on", "the", "statechart", "must", "be", "consistent", "with", "the", "output", "event", "depicted", "on", "the", "collaboration", "diagram", ".", "Because", "the", "statechart", "modeling", "involves", "two", "state-dependent", "use", "cases", "in", "the", "navigation", "system", ",", "it", "is", "also", "required", "to", "consolidate", "the", "two", "partial", "statecharts", "to", "create", "a", "complete", "statechart", ".", "The", "complete", "statechart", "for", "both", "the", "Navigation", "and", "Obstacle", "Avoidance", "use", "cases", "is", "shown", "in", "Fig.", "9", ".", "Idle", "Starting", "Planning", "a", "Path", "Checking", "Destination", "Stopping", "3.16", ":", "Stopped", "/", "3.17", ":", "Stop", "Timer", "Reading", "Sensors", "Localizing", "Moving", "1.17", ",", "5.9", ":", "Started", "/", "1.18", ",", "5.10", ":", "Start", "Timer", "1.13", ":", "Planned", "Path", "-LSB-", "Start", "-RSB-", "/", "1.14", ":", "Start", "2.18", ":", "Planned", "Path", "-LSB-", "Move", "-RSB-", "/", "2.19", ":", "Move", "Reading", "Map", "2.4", ",", "3.4", ":", "Sensor", "Data", "/", "2.5", ",", "3.5", ":", "Read", "Map", "1.1", ":", "Destination", "Entered", "/", "1.2", ":", "Read", "Map", ",", "1.2", "a", ":", "Store", "Destination", "1.3", ",", "2.6", ",", "3.6", ":", "Map", "/", "1.4", ",", "2.7", ",", "3.7", ":", "Read", "Current", "Position", "Updating", "Map", "2.10", ",", "3.10", ":", "Current", "Position", "-LSB-", "Move", "-RSB-", "/", "2.11", ",", "3.11", ":", "Check", "Destination", "1.7", ":", "Current", "Position", "-LSB-", "Start", "-RSB-", "/", "1.8", ":", "Update", "Map", "1.9", ",", "2.14", ":", "Updated", "Map", "/", "1.10", ",", "2.15", ":", "Read", "a", "Path", "2.12", ":", "No", "/", "2.13", ":", "Update", "Map", "3.12", ":", "Yes", "/", "3.13", ":", "Stop", "Suspending", "2", ",", "3", ":", "After", "-LRB-", "Elapsed", "Time", "-RRB-", "/", "2.1", ",", "3.1", ":", "Read", "Sensors", "4.9", ":", "Suspend", "/", "4.10", ":", "Stop", "Timer", "5.5", ":", "Restart", "/", "5.6", ":", "Start", "6.1", ":", "Time", "Expired", "Fig.", "9", ".", "Statechart", "for", "Navigation", "Control", "3.3", "Design", "Modeling", "3.3.1", "Software", "Architecture", "In", "this", "phase", ",", "all", "collaboration", "diagrams", "developed", "for", "use", "cases", "in", "the", "analysis", "model", "are", "merged", "into", "the", "consolidated", "collaboration", "diagram", ".", "The", "consolidated", "collaboration", "diagram", "is", "thus", "intended", "to", "be", "a", "complete", "description", "of", "all", "objects", "and", "their", "interactions", ".", "The", "consolidation", "of", "the", "two", "collaboration", "diagrams", "respectively", "supporting", "the", "two", "use", "cases", "is", "shown", "in", "Fig.", "10", ".", "Some", "objects", "and", "message", "interactions", "appear", "on", "more", "than", "one", "collaboration", "diagram", ".", "For", "instance", ",", "the", "Navigation", "Control", ",", "Navigation", "Timer", ",", "Sensor", "Interface", "and", "Wheel", "Actuator", "Interface", "objects", "participate", "in", "both", "the", "Navigation", "and", "Obstacle", "Avoidance", "use", "cases", ".", "For", "those", "objects", ",", "their", "message", "interactions", "are", "only", "shown", "once", "in", "the", "consolidated", "collaboration", "diagram", ".", "3.3.2", "Architectural", "Design", "of", "Distributed", "Real-time", "Systems", "The", "robot", "system", "is", "a", "distributed", "embedded", "system", "and", "executes", "on", "distributed", "nodes", "by", "the", "communication", "methods", "like", "TCP/IP", ",", "CAN", "-LRB-", "Controller", "Area", "Network", "-RRB-", ",", "and", "Wire/Wireless", "LAN", ".", "With", "COMET", ",", "a", "distributed", "real-time", "system", "is", "structured", "into", "distributed", "subsystems", ".", "Tasks", "in", "different", "subsystems", "may", "communicate", "with", "each", "other", "via", "several", "types", "of", "message", "communication", ",", "such", "as", "asynchronous", ",", "synchronous", "with", "reply", ",", "synchronous", "without", "reply", ",", "and", "client/server", "communications", ",", "etc.", "539", "Hence", ",", "we", "should", "define", "distributed", "nodes", "and", "their", "messages", "to", "each", "node", ".", "The", "overall", "distributed", "software", "architecture", "for", "the", "robot", "navigation", "system", "is", "depicted", "in", "Fig.", "11", ".", "In", "the", "robot", "system", ",", "objects", "that", "are", "part", "of", "the", "navigation", "are", "located", "in", "the", "robot", "navigation", "system", ".", "The", "robot", "navigation", "system", "communicates", "with", "the", "external", "I/O", "devices", "via", "synchronous", "message", "without", "reply", "communication", "and", "with", "the", "external", "timer", "via", "asynchronous", "message", "communication", ".", ":", "Navigation", "Control", ":", "CommandLine", ":", "Sensor", ":", "WheelActuator", ":", "WheelActuatorInterface", ":", "SensorInterface", ":", "Destination", ":", "Navigation", "Path", ":", "Navigation", "Map", ":", "Current", "Position", ":", "CommandLineInterface", ":", "Navigation", "Timer", "Path", "Planner", "Localizer", "<", "<", "external", "user", ">", ">", "<", "<", "user", "interface", ">", ">", "<", "<", "state", "dependent", "control", ">", ">", "<", "<", "timer", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "algorithm", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "entity", ">", ">", "<", "<", "algorithm", ">", ">", "<", "<", "external", "input", "device", ">", ">", "<", "<", "input", "device", "interface", ">", ">", "<", "<", "output", "device", "interface", ">", ">", "<", "<", "external", "output", "device", ">", ">", ":", "Clock", ":", "ObstacleAvoidanceTimer", "<", "<", "external", "timer", ">", ">", "<", "<", "timer", ">", ">", "Deliberate", "Layer", "Sequencing", "Layer", "Reactive", "Layer", "Store", "Destination", "Check", "Destination", "Yes/No", "Planned", "Path", "Read", "a", "Path", "Start", "Move", "Stop", "Started", "Stopped", "Read", "Current", "Position", "Current", "Position", "Read", "Map", "Update", "Map", "Map", "Enter", "Destination", "Start", "WheelActuator", "Output", "Move", "WheelActuator", "Output", "Stop", "WheelActuator", "Output", "Started", "Ack", "Stopped", "Ack", "Read", "Sensors", "Sensor", "Data", "Read", "Data", "Read", "Sensors", "Sensor", "Data", "Localize", "Current", "Position", "Destination", "Entered", "After", "-LRB-", "Elapsed", "Time", "-RRB-", "Start", "Timer", "Stop", "Timer", "Path", "Plan", "a", "path", "Timer", "Event", "Suspend", "Restart", "Time", "Expired", "Stop", "Stopped", "Fig.", "10", ".", "Consolidated", "collaboration", "diagram", "for", "Navigation", "System", ":", "CommandLine", ":", "Sensor", ":", "WheelActuator", ":", "Robot", "Navigation", "System", "<", "<", "synchronous", "message", "without", "reply", ">", ">", "<", "<", "synchronous", "message", "without", "reply", ">", ">", "<", "<", "synchronous", "message", "without", "reply", ">", ">", ":", "Clock", "<", "<", "asynchronous", "message", ">", ">", "Enter", "Destination", "Start", "WheelActuator", "Output", "Stop", "WheelActuator", "Output", "Move", "WheelActuator", "Output", "Read", "Timer", "Event", "Fig.", "11", ".", "Distributed", "software", "architecture", "for", "Navigation", "System", "3.3.3", "Task", "Structuring", "During", "the", "task", "structuring", "phase", ",", "a", "task", "architecture", "can", "be", "developed", "in", "which", "the", "system", "is", "structured", "into", "concurrent", "tasks", ",", "and", "the", "task", "interfaces", "and", "interconnections", "are", "defined", ".", "A", "task", "is", "an", "active", "object", "and", "has", "its", "own", "thread", "of", "control", ".", "In", "this", "sense", ",", "the", "term", "``", "object", "''", "will", "be", "used", "to", "refer", "to", "a", "passive", "object", "in", "this", "paper", ".", "In", "COMET", ",", "task", "structuring", "criteria", "are", "provided", "to", "help", "in", "mapping", "an", "object-oriented", "analysis", "model", "of", "the", "system", "to", "a", "concurrent", "tasking", "architecture", ".", "At", "the", "end", "of", "this", "phase", ",", "a", "task", "behavior", "specification", "-LRB-", "TBS", "-RRB-", "is", "developed", ".", "The", "task", "architecture", "for", "the", "Navigation", "System", "is", "shown", "in", "Fig", ".", "12", ".", "In", "order", "to", "determine", "the", "tasks", "in", "the", "system", ",", "it", "is", "necessary", "to", "understand", "how", "the", "objects", "in", "the", "application", "interact", "with", "each", "other", "based", "on", "the", "collaboration", "diagrams", ".", "In", "the", "collaboration", "diagram", "of", "Fig.", "7", ",", "the", "Localizer", "object", "reads", "sensor", "data", "and", "the", "map", "from", "the", "Current", "Position", "object", ",", "calculates", "a", "new", "current", "position", ",", "and", "sends", "the", "current", "position", "to", "the", "Current", "Position", "object", "for", "updating", "it", ".", "Thus", ",", "the", "Localizer", "object", "is", "structured", "as", "an", "asynchronous", "algorithm", "task", "called", "Localizer", ".", "There", "are", "two", "asynchronous", "algorithms", ",", "i.e.", "Localizer", "and", "Path", "Planner", ",", "which", "are", "internal", "asynchronous", "tasks", ".", "There", "are", "four", "passive", "entity", "objects", ",", "i.e.", "Destination", ",", "Current", "Position", ",", "Navigation", "Map", ",", "and", "Navigation", "Path", ",", "which", "do", "not", "need", "a", "separate", "thread", "of", "control", "and", "are", "further", "all", "categorized", "as", "data", "abstraction", "objects", ".", "The", "Sensor", "and", "Wheel", "Actuator", "are", "a", "passive", "input", "device", "and", "a", "passive", "output", "device", ",", "respectively", "because", "they", "do", "not", "generate", "an", "interrupt", "on", "completion", "of", "the", "input", "or", "output", "operation", ".", ":", "CommandLine", ":", "Sensor", ":", "WheelActuator", "<", "<", "external", "user", ">", ">", "<", "<", "passive", "input", "device", ">", ">", "<", "<", "control", "clustering", ">", ">", "<", "<", "passive", "output", "device", ">", ">", ":", "Destination", ":", "Navigation", "Path", ":", "Navigation", "Map", ":", "Current", "Position", "<", "<", "data", "abstraction", ">", ">", ":", "Localizer", ":", "Path", "Planner", "<", "<", "asynchronous", "algotithm", ">", ">", "<", "<", "asynchronous", "algotithm", ">", ">", ":", "Navigation", "Controller", "<", "<", "data", "abstraction", ">", ">", "<", "<", "data", "abstraction", ">", ">", "<", "<", "data", "abstraction", ">", ">", ":", "Clock", ":", "Navigation", "Controller", "<", "<", "sequential", "clustering", ">", ">", "<", "<", "external", "timer", ">", ">", "Reactive", "Layer", "Deliberate", "Layer", "Sequencing", "Layer", "enter", "-LRB-", "in", "destination", "-RRB-", "read", "-LRB-", "out", "sensorData", "-RRB-", "read", "-LRB-", "out", "sensorData", "-RRB-", "read", "-LRB-", "out", "sensorData", ",", "out", "map", "-RRB-", "update", "-LRB-", "in", "currentPosition", "-RRB-", "read", "-LRB-", "out", "destination", ",", "out", "currentPosition", ",", "out", "map", "-RRB-", "update", "-LRB-", "in", "path", "-RRB-", "store", "-LRB-", "destination", "-RRB-", "check", "-LRB-", "currentPosition", ",", "yes/no", "-RRB-", "read", "-LRB-", "in", "sensorData", ",", "in", "map", ",", "out", "currentPosition", "-RRB-", "Start", "WheelActuator", "Output", "Move", "WheelActuator", "Output", "Stop", "WheelActuator", "Output", "read", "-LRB-", "in", "destination", ",", "in", "currentPosition", ",", "in", "map", ",", "out", "path", "-RRB-", "read", "-LRB-", "out", "map", "-RRB-", "update", "-LRB-", "in", "sensorData", ",", "in", "currentPosition", ",", "out", "map", "-RRB-", "suspend", "-LRB-", "-RRB-", "restart", "-LRB-", "-RRB-", "timerEvent", "stopWheelActuatorOutput", "Fig.", "12", ".", "Task", "architecture", "for", "Navigation", "System", "The", "Navigation", "Control", "is", "a", "state-dependent", "control", "object", "that", "executes", "the", "Navigation", "Control", "statechart", "and", "is", "structured", "as", "a", "control", "task", "because", "it", "needs", "to", "have", "a", "separate", "thread", "of", "control", ".", "The", "Navigation", "Control", "object", "can", "be", "combined", "with", "the", "Command", "Line", "Interface", ",", "Navigation", "Timer", ",", "Sensor", "Interface", ",", "and", "Wheel", "Actuator", "Interface", "objects", "into", "one", "task", ",", "Navigation", "Controller", ",", "based", "on", "the", "control", "clustering", "task", "structuring", "criterion", "because", "it", "is", "not", "possible", "for", "them", "to", "execute", "concurrently", "-LRB-", "see", "the", "middle", "of", "Fig.", "12", "-RRB-", ".", "The", "Obstacle", "Avoidance", "Timer", "object", "is", "structured", "as", "a", "periodic", "task", ",", "activated", "periodically", "to", "read", "sensor", "data", ".", "It", "can", "be", "grouped", "with", "the", "Sensor", "Interface", "and", "Wheel", "Actuator", "Interface", "into", "one", "sequentially", "clustered", "task", ",", "Obstacle", "Avoidance", "Controller", "based", "on", "sequential", "clustering", "since", "those", "are", "carried", "out", "in", "a", "sequential", "order", ".", "The", "design", "of", "those", "composite", "tasks", ",", "the", "Navigation", "Controller", "and", "Obstacle", "Avoidance", "Controller", "are", "considered", "in", "the", "next", "section", "-LRB-", "i.e.", ",", "detailed", "software", "design", "-RRB-", ".", "After", "developing", "the", "task", "architecture", ",", "a", "task", "behavior", "is", "described", "for", "specifying", "the", "characteristics", "of", "each", "task", "based", "on", "COMET", ".", "During", "the", "task", "structuring", ",", "the", "TBS", "focuses", "on", "the", "task", "inputs", "and", "outputs", ".", "One", "part", "of", "the", "TBS", ",", "i.e.", "the", "task", "'s", "event", "sequencing", "logic", "is", "defined", "in", "the", "detailed", "software", "design", "phase", ".", "3.3.4", "Detailed", "Software", "Design", "The", "internals", "of", "composite", "tasks", "which", "have", "passive", "objects", "nested", "inside", "them", "are", "designed", ",", "detailed", "task", "synchronization", "issues", "are", "addressed", ",", "and", "each", "task", "'s", "internal", "event", "sequencing", "logic", "is", "defined", "in", "this", "phase", ".", "Before", "this", "is", "done", ",", "the", "information", "hiding", "classes", "-LRB-", "from", "which", "the", "passive", "objects", "are", "instantiated", "-RRB-", "are", "designed", ".", "In", "particular", ",", "the", "operations", "of", "each", "class", "and", "the", "design", "of", "the", "class", "interfaces", "are", "determined", "and", "specified", "in", "a", "class", "interface", "specification", "-LRB-", "because", "of", "space", "limitation", ",", "the", "detailed", "TBS", "and", "the", "class", "interface", "specification", "have", "not", "been", "included", "-RRB-", ".", "540", "Let", "us", "consider", "the", "internal", "design", "of", "the", "Navigation", "Controller", ",", "which", "is", "a", "composite", "task", "designed", "as", "a", "control", "clustering", "task", ",", "to", "show", "the", "nested", "information", "hiding", "objects", "-LRB-", "see", "Fig.", "13", "-RRB-", ".", "The", "information", "hiding", "objects", "are", "the", "Navigation", "Control", "state-dependent", "control", "object", ",", "the", "Sensor", "Interface", "and", "Wheel", "Actuator", "Interface", "objects", ",", "the", "Navigation", "Timer", "object", "and", "the", "user", "interface", "object", ",", "the", "Command", "Line", "Interface", ".", "In", "addition", ",", "the", "Navigation", "Controller", "contains", "one", "coordinator", "object", "called", "Navigation", "Coordinator", ",", "which", "receives", "incoming", "messages", "and", "coordinates", "the", "execution", "of", "the", "other", "objects", ".", "That", "is", ",", "the", "Navigation", "Coordinator", "extracts", "the", "event", "from", "the", "request", "and", "calls", "Navigation", "Control.processEvent", "-LRB-", "in", "event", ",", "out", "action", "-RRB-", "-LRB-", "see", "Fig.", "13", "-RRB-", ".", "The", "Navigation", "Control", "returns", "the", "action", "to", "be", "performed", "like", "store", ",", "check", ",", "start", ",", "etc", "according", "to", "the", "state", "transition", "table", ".", "Afterwards", ",", "the", "Navigation", "Coordinator", "initiates", "the", "action", ".", "<", "<", "control", "clustering", ">", ">", ":", "NavigationController", ":", "Navigation", "Control", ":", "Navigation", "Timer", ":", "CommandLineInterface", ":", "Current", "Position", ":", "Navigation", "Map", ":", "Navigation", "Path", ":", "WheelActuatorInterface", ":", "WheelActuator", ":", "SensorInterface", ":", "Sensor", ":", "Destination", ":", "Navigation", "Coordinator", ":", "CommandLine", "<", "<", "external", "user", ">", ">", "<", "<", "user", "interface", ">", ">", "<", "<", "timer", ">", ">", "<", "<", "coordinator", ">", ">", "<", "<", "data", "abstraction", ">", ">", "<", "<", "data", "abstraction", ">", ">", "<", "<", "data", "abstraction", ">", ">", "<", "<", "input", "device", "interface", ">", ">", "<", "<", "state", "dependent", "control", ">", ">", "<", "<", "output", "device", "interface", ">", ">", "<", "<", "data", "abstraction", ">", ">", "Start", "WheelActuator", "Output", "Move", "WheelActuator", "Output", "Stop", "WheelActuator", "Output", "read", "-LRB-", "out", "sensorData", "-RRB-", "store", "-LRB-", "in", "destination", "-RRB-", "check", "-LRB-", "in", "currentPosition", ",", "out", "yes/no", "-RRB-", "read", "-LRB-", "out", "sensorData", "-RRB-", "startTimer", "-LRB-", "-RRB-", "stopTimer", "-LRB-", "-RRB-", "activate", "-LRB-", "-RRB-", "read", "-LRB-", "in", "sensorData", ",", "in", "map", ",", "out", "CurrentPosition", "-RRB-", "read", "-LRB-", "out", "map", "-RRB-", "update", "-LRB-", "sensorData", ",", "currentPosition", ",", "map", "-RRB-", "read", "-LRB-", "destination", ",", "currentPosition", ",", "map", "-RRB-", "start", "-LRB-", "in", "path", ",", "out", "started", "-RRB-", "move", "-LRB-", "in", "path", "-RRB-", "stop", "-LRB-", "out", "stopped", "-RRB-", "processEvent", "-LRB-", "in", "event", ",", "out", "action", "-RRB-", "startRobot", "-LRB-", "in", "destination", "-RRB-", "enter", "-LRB-", "in", "destination", "-RRB-", "Fig.", "13", ".", "Detailed", "software", "design", "for", "Navigation", "Controller", "In", "our", "system", ",", "communication", "between", "tasks", "such", "as", "the", "Navigation", "Controller", ",", "Localizer", ",", "and", "Path", "Planner", "is", "through", "data", "abstraction", "classes", "like", "the", "Current", "Position", "and", "Navigation", "Path", ".", "As", "a", "result", ",", "connector", "objects", "-LSB-", "14", "-RSB-", "are", "not", "used", "for", "the", "message", "communication", "interface", "between", "tasks", ".", ":", "CommandLineInterface", ":", "Navigation", "Control", ":", "Navigation", "Coordinator", ":", "Destination", ":", "Navigation", "Map", ":", "Current", "Position", ":", "Navigation", "Path", ":", "WheelActuatorInterface", ":", "Navigation", "Timer", ":", "SensorInterface", "1", ".", "startRobot", "-LRB-", "destination", "-RRB-", "1.2", ".", "store", "-LRB-", "destination", "-RRB-", "1.4", ".", "read", "-LRB-", "map", "-RRB-", "1.6", ".", "read", "-LRB-", "sensorData", ",", "map", ",", "currentPosition", "-RRB-", "1.1", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "1.3", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "1.5", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "1.7", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "1.8", ".", "update", "-LRB-", "sensorData", ",", "currentPosition", ",", "map", "-RRB-", "1.9", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "1.10", ".", "read", "-LRB-", "destination", ",", "currentPosition", ",", "map", ",", "path", "-RRB-", "1.11", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "1.12", ".", "start", "-LRB-", "path", ",", "started", "-RRB-", "1.13", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "1.14", ".", "startTimer", "-LRB-", "-RRB-", "2", ".", "activate", "-LRB-", "-RRB-", "2.1", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "2.2", ".", "read", "-LRB-", "sensorData", "-RRB-", "2.3", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "2.4", ".", "read", "-LRB-", "map", "-RRB-", "2.5", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "2.6", ".", "read", "-LRB-", "sensorData", ",", "map", ",", "currentPosition", "-RRB-", "2.7", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "2.8", ".", "check", "-LRB-", "currentPosition", ",", "yes/no", "-RRB-", "2.10", ".", "update", "-LRB-", "sensorData", ",", "currentPosition", ",", "map", "-RRB-", "2.9", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "2.12", ".", "read", "-LRB-", "destination", ",", "currentPosition", ",", "map", ",", "path", "-RRB-", "2.11", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "2.13", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "2.14", ".", "move", "-LRB-", "path", "-RRB-", "3", ".", "stop", "-LRB-", "stopped", "-RRB-", "4", ".", "processEvent", "-LRB-", "event", ",", "action", "-RRB-", "5", ".", "stopTimer", "-LRB-", "-RRB-", "if", "not", "desitniation", "if", "destination", "Fig.", "14", ".", "The", "task", "event", "diagram", "for", "Navigation", "Controller", "Lastly", ",", "the", "task", "'s", "event", "sequencing", "logic", "is", "specified", ",", "which", "describes", "how", "the", "task", "responds", "to", "each", "of", "its", "message", "or", "event", "inputs", ".", "However", ",", "instead", "of", "using", "informally", "Pseudo", "code", "in", "COMET", ",", "in", "this", "project", ",", "task", "event", "diagrams", "are", "developed", "for", "tasks", "by", "using", "the", "UML", "sequence", "diagrams", "for", "understanding", "and", "readability", ",", "which", "turned", "out", "to", "be", "very", "useful", "when", "to", "implement", "the", "tasks", ".", "Fig.", "14", "illustrates", "the", "task", "event", "diagram", "for", "the", "Navigation", "Controller", ".", "This", "section", "summarizes", "the", "lessons", "learned", "from", "the", "project", "where", "we", "successfully", "applied", "the", "object-oriented", "method", "with", "UML", "to", "developing", "the", "service", "robot", ".", "4.1", "UML", "for", "Service", "Robot", "Domain", "Through", "the", "case", "study", ",", "we", "found", "that", "the", "UML", "standard", "was", "very", "useful", "as", "a", "notation", "for", "specifying", "the", "requirements", ",", "documenting", "the", "structure", ",", "decomposing", "into", "objects", ",", "and", "defining", "relationships", "between", "objects", "especially", "in", "a", "service", "robot", "system", ".", "Certain", "diagrams", "and", "notations", "were", "particularly", "importance", "for", "analyzing", ",", "designing", ",", "and", "modeling", "service", "robot", "systems", "as", "follows", ".", "Use", "case", "diagrams", ":", "With", "the", "use", "case", "model", ",", "services", "or", "functions", "-LRB-", "i.e.", ",", "functional", "requirements", "-RRB-", ",", "which", "a", "service", "robot", "performs", "or", "provides", ",", "can", "be", "defined", "in", "terms", "of", "actors", "who", "are", "users", "of", "the", "robot", "system", "and", "use", "cases", ".", "Each", "use", "case", "defines", "the", "behavior", "of", "some", "aspect", "of", "the", "robot", "system", "without", "revealing", "its", "internal", "structure", ".", "Class", "diagrams", ":", "The", "class", "diagram", "notation", "is", "used", "to", "depict", "the", "static", "model", ",", "which", "focuses", "on", "the", "static", "structure", "of", "the", "robot", "system", ".", "The", "class", "diagram", "shows", "the", "classes", "of", "objects", "in", "the", "system", ",", "their", "internal", "structure", "including", "attributes", ",", "their", "operations", ",", "and", "their", "relationships", "to", "other", "classes", "-LRB-", "such", "as", "associations", "and", "generalization/inheritance", "-RRB-", ".", "Collaboration", "diagrams", ":", "This", "diagram", "shows", "how", "objects", "that", "participate", "in", "each", "use", "case", "interact", "with", "each", "other", "by", "sending", "and", "receiving", "messages", "in", "the", "dynamic", "model", ".", "It", "defines", "a", "specific", "way", "to", "use", "objects", "in", "the", "robot", "system", "by", "showing", "the", "possible", "interactions", "between", "them", ",", "especially", "to", "satisfy", "the", "needs", "described", "in", "the", "use", "case", ",", "namely", "provide", "the", "services", ".", "Compared", "to", "a", "sequence", "diagram", ",", "the", "diagram", "in", "particular", "is", "useful", "for", "synthesizing", "the", "collaboration", "diagrams", "to", "create", "the", "software", "architecture", "of", "the", "system", "as", "discussed", "in", "section", "3.3", ".", "Sequence", "diagrams", ":", "This", "diagram", "show", "objects", "interaction", "arranged", "in", "time", "sequence", "and", "in", "particular", "could", "be", "used", "to", "describe", "the", "task", "event", "sequencing", "logic", ",", "which", "describes", "how", "the", "task", "responds", "to", "each", "of", "its", "message", "or", "event", "inputs", ".", "In", "COMET", ",", "the", "event", "sequencing", "logic", "is", "usually", "described", "informally", "in", "Pseudo", "code", ".", "We", "found", "that", "the", "sequence", "diagram", "can", "help", "the", "engineers", "describe", "the", "task", "event", "sequencing", "logic", "and", "implement", "the", "tasks", "by", "showing", "the", "order", "in", "which", "messages", "are", "passed", "between", "tasks", "and", "objects", ".", "State", "chart", "diagrams", ":", "The", "service", "robot", "system", "is", "highly", "state-dependent", "like", "real-time", "embedded", "systems", ".", "This", "diagram", "describes", "how", "state-dependent", "aspects", "of", "the", "system", "are", "defined", "by", "a", "finite", "state", "machine", "and", "can", "help", "design", "and", "developing", "highly", "state-dependent", "systems", ".", "It", "is", "541", "also", "possible", "for", "this", "diagram", "to", "model", "object", "behavior", "over", "several", "use", "cases", "with", "the", "collaboration", "diagrams", ".", "In", "addition", ",", "by", "using", "the", "UML", "notation", "as", "a", "defined", "standard", ",", "different", "research", "groups", "and", "development", "teams", "can", "communicate", "among", "themselves", "and", "with", "others", "to", "develop", "and", "integrate", "specific", "components", "for", "providing", "various", "services", ".", "4.2", "Importance", "of", "Systematic", "Process/Method", "for", "Service", "Robot", "Domain", "In", "order", "to", "effectively", "apply", "the", "UML", "notation", "and", "the", "robot", "control", "architecture", "like", "the", "Tripodal", "schematic", "control", "architecture", "to", "developing", "service", "robots", ",", "it", "is", "essential", "to", "use", "them", "with", "a", "systematic", "software", "engineering", "process", "or", "method", ",", "like", "an", "object-oriented", "analysis", "and", "design", "method", ",", "especially", "for", "real-time", "and", "embedded", "systems", ".", "It", "is", "not", "possible", "to", "resolve", "the", "issues", "in", "integrating", "and", "developing", "the", "service", "robots", "discussed", "before", "without", "systematic", "and", "comprehensive", "software", "development", "methods", ",", "particularly", "for", "service", "robots", ".", "In", "our", "case", "study", ",", "we", "applied", "COMET/UML", "method", "to", "developing", "the", "service", "robot", ".", "The", "COMET", "object-oriented", "software", "life", "cycle", "model", "is", "a", "highly", "iterative", "software", "development", "process", "based", "around", "the", "use", "case", "concept", ".", "In", "the", "requirements", "model", ",", "the", "service", "or", "functions", "-LRB-", "i.e.", ",", "the", "function", "requirements", "-RRB-", "of", "the", "robot", "system", "are", "defined", "in", "terms", "of", "actors", "and", "use", "cases", ".", "In", "the", "analysis", "model", ",", "the", "use", "case", "is", "refined", "to", "describe", "the", "objects", "that", "participate", "in", "the", "use", "case", ",", "and", "their", "interactions", ".", "In", "the", "design", "model", ",", "the", "robot", "software", "architecture", "is", "developed", ",", "emphasizing", "issues", "of", "distribution", ",", "concurrency", ",", "and", "information", "hiding", ".", "This", "project", "showed", "that", "this", "was", "a", "viable", "approach", "because", "applying", "the", "COMET", "method", "with", "UML", "led", "to", "developing", "an", "effective", "service", "robot", "architecture", "by", "carefully", "taking", "into", "account", "user", "needs", "and", "requirements", ",", "implementing", "technical", "components", "based", "on", "the", "architecture", ",", "and", "integrating", "these", "components", "in", "a", "systematic", "and", "comprehensive", "fashion", ".", "4.3", "Customizing", "the", "COMET", "Method", "for", "Service", "Robot", "Domain", "Service", "robots", "like", "PSR-1", ",", "PSR-2", ",", "and", "Jinny", "have", "been", "built", "at", "KIST", "based", "on", "the", "Tripodal", "schematic", "control", "architecture", ".", "The", "Tripodal", "schematic", "design", "addressed", "on", "developing", "efficient", "and", "well-defined", "control", "architecture", "and", "a", "system", "integration", "strategy", "for", "constructing", "service", "robots", ".", "T-Rot", "is", "the", "next", "model", "of", "the", "PSR", "system", "under", "development", "for", "assisting", "aged", "persons", ".", "One", "of", "our", "aims", "is", "to", "develop", "the", "intelligent", "service", "robot", "for", "the", "elderly", "by", "cooperating", "and", "integrating", "the", "results", "of", "different", "research", "groups", "in", "accordance", "with", "the", "Tripodal", "schematic", "control", "architecture", "that", "has", "already", "been", "implemented", "on", "the", "PSR", "and", "successfully", "tested", ".", "Thus", ",", "the", "layered", "strategy", "of", "the", "Tripodal", "schematic", "design", "has", "been", "applied", "for", "design", "and", "modeling", "of", "the", "T-Rot", ".", "In", "the", "collaboration", "diagrams", "of", "the", "analysis", "modeling", ",", "and", "the", "consolidated", "collaboration", "diagram", "and", "the", "task", "architecture", "of", "the", "design", "modeling", ",", "the", "Command", "Line", "Interface", "is", "located", "in", "the", "deliberate", "layer", "for", "interfacing", "with", "a", "user", ",", "while", "the", "Sensor", "Interface", ",", "Wheel", "Actuator", "Interface", ",", "and", "Obstacle", "Avoidance", "Timer", "are", "in", "the", "reactive", "layer", "for", "controlling", "and", "managing", "the", "components", "in", "the", "reactive", "layer", ".", "The", "Navigation", "Control", ",", "Navigation", "Timer", ",", "Destination", ",", "Current", "Position", ",", "Navigation", "Path", ",", "Navigation", "Map", ",", "Localizer", ",", "and", "Path", "Planer", "are", "positioned", "in", "the", "sequencing", "layer", "for", "controlling", "the", "robot", "motion", "by", "executing", "relatively", "simple", "computations", "in", "real-time", ".", "As", "a", "result", ",", "the", "Tripodal", "schematic", "control", "architecture", "was", "helpful", "in", "arranging", "various", "hardware", "and", "software", "modules", "and", "functions", ".", "Additionally", ",", "as", "stated", "in", "section", "4.1", ",", "in", "COMET", ",", "the", "event", "sequencing", "logic", "is", "usually", "described", "informally", "in", "Pseudo", "code", ".", "We", "found", "that", "the", "sequence", "diagram", "can", "help", "the", "engineers", "describe", "the", "task", "event", "sequencing", "logic", "and", "implement", "the", "tasks", "by", "showing", "the", "order", "in", "which", "messages", "are", "passed", "between", "tasks", "and", "objects", ".", "Hence", ",", "instead", "of", "using", "informal", "Pseudo", "code", ",", "task", "event", "diagrams", "were", "developed", "for", "tasks", "by", "using", "the", "UML", "sequence", "diagrams", "to", "improve", "understanding", "and", "readability", ".", "It", "turned", "out", "that", "these", "task", "event", "diagrams", "are", "very", "useful", "when", "implementing", "these", "tasks", ".", "4.4", "Human", "Communication", "Human", "communication", "to", "understand", "and", "develop", "what", "is", "desired", "of", "the", "service", "robot", "is", "likely", "to", "be", "more", "difficult", "than", "expected", ".", "In", "our", "case", "study", ",", "most", "engineers", "who", "are", "involved", "in", "the", "project", "come", "from", "the", "mechanical", "or", "robotics", "engineering", "field", ".", "The", "different", "research", "groups", "and", "teams", "tend", "to", "focus", "on", "their", "own", "technology", "and", "components", "and", "thus", "it", "is", "not", "easy", "to", "realize", "how", "much", "knowledge", "they", "have", "and", "how", "much", "information", "will", "need", "to", "be", "made", "explicit", "and", "communicated", "to", "integrate", "those", "components", "for", "the", "service", "robot", ".", "Several", "things", "can", "be", "done", "to", "improve", "the", "situation", ".", "One", "is", "for", "engineers", "from", "different", "teams", ",", "especially", "software", "engineers", "and", "mechanical", "engineers", "to", "work", "together", "for", "analyzing", ",", "designing", ",", "and", "developing", "the", "robot", "system", "during", "the", "project", ".", "It", "is", "very", "important", "that", "all", "engineers", "and", "developers", "from", "different", "groups", "and", "teams", "interact", "directly", ".", "Also", ",", "in", "order", "to", "develop", "a", "common", "ground", "for", "understanding", "the", "domain", ",", "technology", ",", "process", "and", "method", ",", "a", "common", "medium", "or", "language", "such", "as", "UML", "is", "critical", ".", "In", "addition", "to", "the", "standard", "notation", "like", "UML", ",", "guidelines", "about", "what", "notation", "to", "use", ",", "when", "to", "use", "it", ",", "and", "how", "to", "use", "the", "notation", "comprehensively", "and", "systematically", "are", "required", ".", "This", "is", "why", "the", "method", "like", "COMET", "is", "needed", ".", "Domain", "knowledge", "and", "experiences", "in", "each", "area", "will", "make", "it", "much", "easier", "to", "communicate", "what", "is", "desired", ",", "e.g.", "service", "robot", "domain", ",", "the", "autonomous", "robot", "navigation", ",", "vision", "processing", ",", "and", "so", "on", "for", "software", "engineers", ",", "and", "object-oriented", "concepts", ",", "software", "development", "process", ",", "and", "UML", ",", "etc", "for", "mechanical", "engineers", ".", "If", "there", "is", "relatively", "little", "domain", "knowledge", "and", "experience", ",", "to", "have", "one", "day", "or", "half-day", "technical", "workshop", "is", "needed", ".", "This", "has", "proved", "useful", "in", "a", "variety", "of", "settings", "in", "the", "development", "of", "the", "robot", "system", ",", "such", "as", "developing", "and", "increasing", "background", "knowledge", "of", "the", "domain", "and", "technology", ".", "4.5", "Necessity", "of", "Multi-Aspect", "Integration", "Method", "for", "Service", "Robot", "Domain", "A", "service", "robot", "should", "be", "able", "to", "perform", "several", "tasks", "autonomously", "to", "provide", "various", "services", "for", "human", "beings", "in", "a", "dynamic", "and", "partially", "unknown", "environment", "by", "applying", "both", "technology", "and", "knowledge", ".", "In", "order", "to", "be", "able", "to", "achieve", "complex", "tasks", ",", "perform", "new", "tasks", ",", "and", "integrate", "data", "learned", "from", "experience", "for", "the", "robot", "services", ",", "it", "is", "required", "to", "consider", "not", "only", "the", "robot", "'s", "behavior", ",", "but", "also", "other", "robot", "'s", "characteristics", "such", "as", "learning", ",", "planning", ",", "decision-making", ",", "and", "knowledge", "representation", ".", "It", "is", "necessary", "to", "allow", "existing", "robot", "behaviors", "to", "be", "used", "in", "new", "ways", ",", "to", "plan", "for", "accomplishing", "more", "complex", "tasks", ",", "to", "reuse", "the", "knowledge", "of", "one", "task", "in", "other", "tasks", ",", "and", "to", "542", "complete", "tasks", "more", "efficiently", "by", "learning", "various", "action", "sequences", ".", "In", "the", "case", "study", ",", "we", "focused", "on", "designing", "and", "modeling", "the", "robot", "'s", "behavioral", "aspect", ",", "which", "is", "related", "to", "the", "sequencing", "and", "reactive", "layers", "in", "the", "Tripodal", "layered", "design", ",", "by", "applying", "the", "COMET/UML", "method", ".", "However", ",", "it", "is", "clear", "that", "planning", "and", "learning", "abilities", "have", "to", "also", "be", "considered", "when", "designing", "and", "developing", "a", "service", "robot", ",", "which", "correspond", "to", "the", "deliberate", "layer", "that", "is", "responsible", "for", "interfacing", "with", "a", "user", "and", "executing", "the", "planning", "process", ".", "As", "a", "consequence", ",", "a", "task", "manager", ",", "which", "is", "located", "in", "the", "deliberate", "layer", ",", "has", "been", "in", "charge", "of", "these", "robotic", "abilities", "in", "the", "project", ".", "Because", "the", "planning", "process", "is", "knowledge", "based", "and", "not", "reactive", ",", "a", "different", "analysis", "and", "design", "approach", "is", "needed", "for", "the", "task", "manager", ".", "Hence", ",", "we", "are", "convinced", "that", "methods", "to", "model", "the", "robot", "'s", "learning", ",", "planning", "and", "decision", "making", "aspects", "as", "well", "as", "to", "incorporate", ",", "use", "and", "maintain", "task", "knowledge", "are", "necessary", ".", "Furthermore", ",", "it", "is", "essential", "to", "integrate", "these", "methods", "with", "the", "COMET", "method", "into", "a", "multi-aspect", "integration", "method", "for", "developing", "service", "robot", "software", ".", "Service", "robots", "have", "been", "suggested", "for", "a", "growing", "number", "of", "applications", ".", "A", "service", "robot", "is", "a", "complex", "system", "as", "it", "includes", "various", "technical", "components", "-LRB-", "i.e.", ",", "hardware", "and", "software", "-RRB-", "to", "be", "integrated", "correctly", "and", "many", "different", "research", "groups", "to", "develop", "the", "components", ".", "As", "a", "result", ",", "it", "is", "not", "only", "essential", "to", "develop", "complex", "algorithms", "or", "technical", "components", ",", "but", "also", "to", "integrate", "them", "adequately", "and", "correctly", "to", "provide", "the", "various", "robot", "services", ".", "In", "the", "paper", ",", "we", "have", "presented", "our", "case", "study", "where", "we", "developed", "the", "autonomous", "navigation", "system", "for", "the", "intelligent", "service", "robot", "for", "the", "elderly", ",", "T-Rot", ".", "The", "object-oriented", "method", "for", "real-time", "embedded", "systems", ",", "COMET", "has", "been", "applied", "to", "the", "service", "robot", "T-Rot", "with", "the", "industry", "standard", "UML", ".", "It", "makes", "it", "possible", "to", "reconcile", "specific", "engineering", "techniques", "like", "robot", "technologies", "with", "the", "UML", "notation", "and", "furthermore", "to", "fit", "such", "techniques", "into", "a", "fully", "defined", "development", "process", "towards", "developing", "the", "service", "robot", "system", ".", "In", "this", "way", ",", "we", "contribute", "to", "developing", "service", "robot", "software", "with", "UML", "in", "a", "systematic", "manner", ".", "The", "service", "robot", "T-Rot", "is", "still", "under", "development", "-LRB-", "at", "this", "point", ",", "we", "are", "at", "the", "first", "stage", "of", "total", "three", "stages", "-RRB-", ".", "Thus", ",", "the", "current", "status", "of", "our", "work", "is", "to", "extend", "applications", "that", "include", "vision", "processing", ",", "speech", "processing", "and", "manipulation", "for", "providing", "various", "robot", "services", ".", "Also", ",", "we", "work", "on", "designing", "the", "knowledge-based", "task", "manager", "for", "improving", "the", "robot", "'s", "ability", ".", "This", "research", "-LRB-", "paper", "-RRB-", "was", "performed", "for", "the", "Intelligent", "Robotics", "Development", "Program", ",", "one", "of", "the", "21st", "Century", "Frontier", "R&D", "Programs", "funded", "by", "the", "Ministry", "of", "Commerce", ",", "Industry", "and", "Energy", "of", "Korea", ".", "-LSB-", "1", "-RSB-", "K.", "Kawamura", "and", "M.", "Iskarous", ",", "Trends", "in", "service", "robots", "for", "the", "disabled", "and", "the", "elderly", ",", "Proc", ".", "of", "the", "1994", "IEEE/RSJ", "Int", ".", "Conf", ".", "on", "Intelligent", "Robots", "and", "Systems", ",", "Vol", ".", "3", "-LRB-", "1994", "-RRB-", "1674", ".", "-LSB-", "2", "-RSB-", "R.", "D.", "Schraft", ",", "``", "Mechatronics", "and", "robotics", "for", "service", "applications", ",", "''", "in", "IEEE", "Robotics", "and", "Automation", "Magazine", ",", "no.", "4", ",", "pp.", "31", "-", "35", ",", "Dec.", "1994", ".", "-LSB-", "3", "-RSB-", "Rofer", "T.", ",", "Lankenau", "A.", "and", "Moratz", "R.", ",", "Service", "Robotics-Applications", "and", "Safety", "Issues", "in", "an", "Emerging", "Market", ",", "Workshop", "W20", "proc", ".", "ECAI2000", ",", "Berlin", ",", "2000", ".", "-LSB-", "4", "-RSB-", "B", ".", "You", "et", "al.", ",", "``", "Development", "of", "a", "Home", "Service", "Robot", "`", "ISSAC", "'", "''", ",", "Proc", ".", "of", "the", "1994", "IEEE/RSJ", "Int", ".", "Conf", ".", "on", "Intelligent", "Robots", "and", "Systems", ",", "Las", "Vegas", ",", "Nevada", ",", "2003", ",", "pp.", "2630-2635", ".", "-LSB-", "5", "-RSB-", "G.", "Kim", ",", "W.", "Chung", ",", "M.", "Kim", ",", "and", "C.", "Lee", ",", "``", "Tripodal", "Schematic", "Design", "of", "the", "Control", "Architecture", "for", "the", "Service", "Robot", "PSR", ",", "''", "in", "Proc", ".", "of", "the", "IEEE", "Conf", ".", "on", "Robotics", "and", "Automation", ",", "Taipei", ",", "Taiwan", ",", "pp.2792-2797", ",", "2003", ".", "-LSB-", "6", "-RSB-", "G.", "Kim", ",", "W.", "Chung", ",", "M.", "Kim", ",", "and", "C.", "Lee", ",", "``", "Implementation", "of", "Multi-Functional", "Service", "Robots", "Using", "Tripodal", "Schematic", "Control", "Architecture", "''", ",", "in", "Proc", ".", "of", "IEEE", "Conf", ".", "on", "Robotics", "and", "Automation", ",", "New", "Orleans", ",", "LA", ",", "USA", ",", "2004", "-LSB-", "7", "-RSB-", "A.", "C.", "Dominguez-Brito", ",", "D.Hernandez-Sosa", ",", "J.", "Isern-Gonzalez", ",", "and", "J.", "Cabrera-Games", ".", "Integrating", "robotics", "software", ".", "IEEE", "International", "Conference", "on", "Robotics", "and", "Automation", ",", "2004", ".", "-LSB-", "8", "-RSB-", "Q.", "Meng", "and", "M.H.", "Lee", ",", "``", "Learning", "and", "Control", "in", "Assistive", "Robotics", "for", "the", "Elderly", "''", ",", "Proc", ".", "Of", "the", "2004", "IEEE", "Conf", ".", "on", "Robotics", ",", "Automation", "and", "Mechartonics", ",", "Singapore", ",", "Dec.", ",", "2004", ",", "pp.", "71-76", ".", "-LSB-", "9", "-RSB-", "M.", "Kim", ",", "J.", "Lee", ",", "K.", "Kang", ",", "Y.", "Hong", ",", "and", "S.", "Bang", ",", "``", "Re-engineering", "Software", "Architecture", "of", "Home", "Service", "Robots", ":", "A", "Case", "Study", "''", ",", "Proc", ".", "Of", "27th", "Int", ".", "Conf", ".", "on", "Software", "Engineering", "-LRB-", "ICSE2005", "-RRB-", ",", "St.", "Louis", ",", "USA", ",", "May", ",", "2005", ",", "pp.505-513", ".", "-LSB-", "10", "-RSB-", "G.", "Booch", ",", "Object-Oriented", "Analysis", "and", "Design", "with", "Applications", ",", "2nd", "ed", ".", "Redwood", "City", ",", "CA", ":", "Benjamin", "Cummings", ",", "1994", ".", "-LSB-", "11", "-RSB-", "I.", "Jacobson", ",", "Object-Oriented", "Software", "Engineering", ",", "Addison", "Wesley", ",", "1992", ".", "-LSB-", "12", "-RSB-", "Real-Time", "Application", "Interface", ",", "2004", ".", "Available", "at", ":", "http", ":", "/", "/", "www.rtai.org", "-LSB-", "13", "-RSB-", "Gjalt", "de", "Jong", ",", "``", "A", "UML-Based", "Design", "Methodology", "for", "Real-Time", "and", "Embedded", "Systems", "''", ",", "DATE", "2002", ",", "March", ",", "2002", ".", "-LSB-", "14", "-RSB-", "H.", "Gomaa", ",", "Designing", "Concurrent", ",", "Distributed", ",", "and", "Real-Time", "Application", "with", "UML", ",", "Addison-Wesley", ",", "2000", ".", "-LSB-", "15", "-RSB-", "OMG", "Unified", "Modeling", "Language", ",", "Version", "1.5", ",", "March", "2003", ".", "Available", "at", ":", "http://www.uml.org", "-LSB-", "16", "-RSB-", "M.", "Fowler", "and", "K.", "Scott", ",", "UML", "Distilled", "2nd", "Edition", ",", "Addison", "Wesley", ",", "2000", ".", "-LSB-", "17", "-RSB-", "G.", "Martin", ",", "L.", "Lavagno", ",", "and", "J.", "Louis-Guerin", ",", "``", "Embedded", "UML", ":", "a", "merger", "of", "real-time", "UML", "and", "codesign", "''", ",", "CODES", "2001", ",", "Copenhagen", ",", "April", "2001", ",", "pp.23-28", ".", "-LSB-", "18", "-RSB-", "G.", "Martin", ",", "``", "UML", "for", "Embedded", "Systems", "Specification", "and", "Design", ":", "Motivation", "and", "Overview", "''", ",", "DATE", "2002", ",", "March", ",", "2002", ".", "543"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["software engineering", "uml"], "abstractive_keyphrases": ["service robot development", "object-oriented analysis and design methods"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "198", "document": ["Towards", "Reasonability", "Properties", "for", "Access-Control", "Policy", "Languages", "The", "growing", "importance", "of", "access", "control", "has", "led", "to", "the", "definition", "of", "numerous", "languages", "for", "specifying", "policies", ".", "Since", "these", "languages", "are", "based", "on", "different", "foundations", ",", "language", "users", "and", "designers", "would", "benefit", "from", "formal", "means", "to", "compare", "them", ".", "We", "present", "a", "set", "of", "properties", "that", "examine", "the", "behavior", "of", "policies", "under", "enlarged", "requests", ",", "policy", "growth", ",", "and", "policy", "decomposition", ".", "They", "therefore", "suggest", "whether", "policies", "written", "in", "these", "languages", "are", "easier", "or", "harder", "to", "reason", "about", "under", "various", "circumstances", ".", "We", "then", "evaluate", "multiple", "policy", "languages", ",", "including", "XACML", "and", "Lithium", ",", "using", "these", "properties", ".", "D.", "4.6", "-LSB-", "Operating", "Systems", "-RSB-", ":", "Security", "and", "Protection", "--", "Access", "Controls", "Languages", ",", "Security", "Access-control", "policies", "should", "not", "be", "write-only", ".", "Because", "they", "govern", "both", "the", "containment", "and", "availability", "of", "critical", "information", ",", "they", "must", "be", "highly", "amenable", "to", "analysis", "by", "both", "humans", "and", "by", "reasoning", "software", "such", "as", "verifiers", ".", "An", "access-control", "policy", "dictates", "a", "function", "from", "requests", "for", "access", "to", "decisions", "about", "whether", "or", "not", "to", "grant", "access", ".", "The", "competing", "requirements", "of", "expressive", "power", "and", "computational", "speed", "makes", "the", "design", "of", "policy", "languages", "a", "delicate", "balancing", "act", ".", "Contemporary", "policy", "languages", "have", "Current", "affiliation", ":", "Computer", "Science", "Department", ",", "Carnegie", "Mellon", "University", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SACMAT", "'", "06", ",", "June", "7", "9", ",", "2006", ",", "Lake", "Tahoe", ",", "California", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-354-9", "/", "06/0006", "...", "$", "5.00", ".", "largely", "followed", "one", "of", "two", "routes", ".", "Some", "are", "based", "on", "logics", ",", "restricting", "first-order", "logic", "-LRB-", "e.g.", ",", "Lithium", "-LSB-", "9", "-RSB-", "-RRB-", "or", "augmenting", "Datalog", "-LRB-", "e.g.", ",", "Cassandra", "-LSB-", "2", "-RSB-", "-RRB-", ".", "Others", "are", "custom", "languages", "such", "as", "XACML", "-LSB-", "12", "-RSB-", "and", "EPAL", "-LSB-", "13", "-RSB-", ",", "which", "behave", "roughly", "by", "rule-evaluation", "and", "do", "not", "depend", "on", "theorem-proving", "capabilities", "to", "determine", "a", "response", "to", "a", "query", ".", "The", "custom", "language", "approach", "often", "produces", "fairly", "limited", "languages", ".", "For", "example", ",", "to", "express", "hierarchical", "role-based", "access-control", "-LRB-", "RBAC", "-RRB-", "-LSB-", "14", "-RSB-", "in", "XACML", "requires", "a", "fairly", "cumbersome", "encoding", "-LSB-", "1", "-RSB-", ".", "On", "the", "other", "hand", ",", "its", "more", "direct", "request", "evaluation", "strategy", "suggests", "that", "policies", "written", "in", "XACML", "are", "more", "transparent", "than", "policies", "written", "in", "languages", "based", "on", "first-order", "logic", "-LRB-", "as", "we", "motivate", "in", "Section", "2", "-RRB-", ".", "How", ",", "then", ",", "do", "we", "distinguish", "different", "policy", "languages", "?", "Studies", "of", "complexity", "and", "expressive", "power", "may", "ensure", "tractable", "verification", "and", "the", "ability", "to", "capture", "certain", "policies", ",", "but", "do", "not", "directly", "classify", "the", "ease", "of", "reasoning", "about", "policies", "in", "a", "language", ".", "In", "this", "paper", "we", "take", "a", "step", "towards", "formalizing", "reasonability", "properties", "that", "make", "languages", "more", "amenable", "to", "reasoning", ".", "We", "then", "apply", "these", "properties", "to", "actual", "policy", "languages", ".", "Such", "properties", "are", "useful", "even", "when", "verification", "is", "computationally", "tractable", "because", "they", "provide", "a", "guide", "to", "where", "and", "how", "to", "edit", "a", "policy", "for", "a", "desired", "effect", ".", "Concretely", ",", "our", "properties", "study", "three", "main", "questions", ":", "how", "decisions", "change", "as", "requests", "include", "more", "information", ",", "how", "decisions", "change", "as", "policies", "grow", ",", "and", "how", "amenable", "policies", "are", "to", "compositional", "reasoning", ".", "The", "last", "of", "these", "is", "especially", "important", "for", "two", "reasons", ".", "First", ",", "organizations", "in-creasingly", "have", "different", "divisions", "creating", "policy", "fragments", "that", "must", "be", "combined", "into", "a", "whole", "while", "preserving", "the", "intent", "of", "each", "division", ";", "second", ",", "to", "mirror", "these", "use", "cases", ",", "and", "to", "scale", "better", "as", "policies", "grow", "in", "size", ",", "it", "becomes", "important", "for", "analysis", "and", "verification", "tools", "to", "function", "modularly", ".", "These", "properties", "codify", "our", "observations", "made", "while", "writing", "and", "studying", "policies", "for", "non-trivial", "systems", ".", "-LRB-", "We", "do", "not", ",", "however", ",", "presume", "to", "make", "broad", "statements", "about", "the", "impact", "of", "these", "properties", "for", "manual", "reasoning", ".", "-RRB-", "They", "are", "meant", "to", "be", "descriptive", "rather", "than", "prescriptive", ":", "which", "ones", "a", "language", "should", "satisfy", "depends", "on", "the", "context", "of", "its", "use", ".", "We", "do", "expect", "these", "properties", "to", "help", "both", "language", "designers", "and", "policy", "authors", ",", "the", "former", "to", "set", "goals", "and", "the", "latter", "to", "evaluate", "languages", ".", "We", "first", "motivate", "the", "work", "with", "an", "example", ".", "Section", "3", "presents", "background", "on", "policy", "languages", ".", "Section", "4", "presents", "the", "heart", "of", "our", "formalism", ".", "Section", "5", "applies", "this", "framework", "to", "XACML", ",", "and", "Section", "6", "to", "logical", "approaches", "such", "as", "160", "Lithium", ".", "The", "remainder", "discusses", "related", "work", "and", "offers", "concluding", "remarks", ".", "Consider", "the", "following", "natural-language", "policy", ":", "1", "1", ".", "If", "the", "subject", "is", "a", "faculty", "member", ",", "then", "permit", "that", "subject", "to", "assign", "grades", ".", "2", ".", "If", "the", "subject", "is", "a", "student", ",", "then", "do", "not", "permit", "that", "subject", "to", "assign", "grades", ".", "3", ".", "If", "the", "subject", "is", "not", "a", "faculty", "member", ",", "then", "permit", "that", "subject", "to", "enroll", "in", "courses", ".", "We", "might", "represent", "this", "policy", "as", "follows", ":", "faculty", "-LRB-", "s", "-RRB-", "=", "Permit", "-LRB-", "s", ",", "grades", ",", "assign", "-RRB-", "-LRB-", "p", "1", "-RRB-", "student", "-LRB-", "s", "-RRB-", "=", "Permit", "-LRB-", "s", ",", "grades", ",", "assign", "-RRB-", "-LRB-", "p", "2", "-RRB-", "faculty", "-LRB-", "s", "-RRB-", "=", "Permit", "-LRB-", "s", ",", "courses", ",", "enroll", "-RRB-", "-LRB-", "p", "3", "-RRB-", "Let", "the", "above", "formalization", "be", "p", "and", "the", "first", "line", "of", "the", "policy", "be", "sub-policy", "p", "1", ",", "the", "second", "p", "2", ",", "and", "the", "third", "p", "3", ".", "Consider", "the", "following", "natural-language", "request", ":", "A", "student", "requests", "to", "enroll", "in", "courses", ".", "Assume", "that", "requests", "list", "the", "subject", ",", "resource", ",", "and", "action", "by", "name", "if", "possible", "and", "by", "variable", "if", "the", "name", "is", "unknown", ",", "along", "with", "any", "other", "known", "facts", ".", "In", "this", "representation", ",", "the", "request", "becomes", ":", "-LRB-", "s", ",", "courses", ",", "enroll", "-RRB-", "with", "student", "-LRB-", "s", "-RRB-", "-LRB-", "q", "1", "-RRB-", "Should", "the", "policy", "grant", "access", "?", "At", "least", "three", "interpretations", "of", "the", "policy", "are", "possible", ":", "1", ".", "p", "grants", "access", "due", "to", "p", "3", ".", "The", "request", "does", "not", "show", "the", "subject", "being", "a", "faculty", "member", ";", "thus", ",", "p", "3", "applies", "and", "p", "produces", "the", "decision", "to", "permit", "access", ".", "This", "relies", "on", "the", "assumption", "that", "since", "the", "request", "does", "not", "show", "the", "subject", "being", "faculty", ",", "that", "the", "subject", "is", "in", "fact", "not", "faculty", ".", "One", "could", "drop", "this", "assumption", ".", "2", ".", "The", "policy", "does", "not", "apply", "to", "the", "request", ".", "One", "would", "reason", "that", "p", "1", "and", "p", "2", "do", "not", "apply", "since", "they", "are", "dealing", "with", "assigning", "grades", "and", "not", "enrolling", "in", "courses", ".", "Furthermore", ",", "one", "could", "conclude", "that", "p", "3", "does", "not", "apply", "since", "the", "request", "does", "not", "prove", "that", "the", "subject", "is", "not", "faculty", ".", "To", "do", "so", ",", "the", "request", "would", "have", "been", "-LRB-", "s", ",", "courses", ",", "enroll", "-RRB-", "with", "student", "-LRB-", "s", "-RRB-", "faculty", "-LRB-", "s", "-RRB-", "Since", "the", "policy", "does", "not", "apply", "to", "the", "request", ",", "the", "system", "should", "have", "and", "enact", "some", "default", "behavior", ".", "3", ".", "By", "reasoning", "different", "than", "that", "used", "in", "the", "first", "interpretation", ",", "p", "could", "still", "grant", "the", "request", ".", "As", "in", "the", "second", "interpretation", ",", "one", "could", "conclude", "that", "the", "request", "alone", "fails", "to", "establish", "that", "the", "subject", "is", "not", "a", "faculty", "member", ".", "However", ",", "if", "the", "subject", "were", "a", "faculty", "member", ",", "then", "the", "first", "two", "lines", "together", "would", "yield", "a", "contradiction", ":", "p", "1", "would", "imply", "that", "the", "subject", "could", "enroll", "in", "courses", "and", "p", "2", "would", "imply", "that", "the", "subject", "could", "not", ".", "Thus", ",", "student-faculty", "members", "do", "not", "exist", ".", "Since", "the", "subject", "of", "the", "request", "is", "clearly", "a", "student", ",", "he", "must", "not", "be", "faculty", "member", ".", "Thus", ",", "p", "3", "applies", "to", "grant", "access", ".", "1", "This", "example", "is", "adapted", "from", "Halpern", "and", "Weissman", "-LSB-", "9", "-RSB-", ".", "In", "the", "first", "two", "interpretations", "the", "user", "may", "limit", "his", "reasoning", "to", "each", "sub-policy", "independent", "of", "one", "another", ".", "However", ",", "under", "the", "third", "interpretation", "-LRB-", "which", ",", "in", "fact", ",", "is", "the", "one", "chosen", "by", "Halpern", "and", "Weissman", "-RRB-", ",", "the", "user", "must", "reason", "about", "all", "three", "sub-policies", "at", "once", ".", "Furthermore", ",", "under", "Interpretation", "2", ",", "the", "user", "must", "reason", "about", "both", "positive", "and", "negative", "attributes", ",", "unlike", "under", "Interpretation", "1", ".", "These", "semantic", "differences", "drastically", "affect", "a", "reader", "'s", "ability", "to", "comprehend", "policies", ".", "For", "example", ",", "Interpretation", "3", "requires", "both", "global", "analysis", "and", "demands", "rich", "reasoning", "power", "to", "deduce", "the", "contradiction", ".", "This", "paper", "formalizes", "these", "differences", "and", "their", "burdens", ".", "Despite", "the", "differences", "between", "access-control", "policy", "languages", ",", "we", "can", "still", "identify", "many", "common", "elements", ".", "First", "we", "describe", "features", "common", "to", "most", "languages", ",", "and", "then", "we", "discuss", "in", "detail", "two", "areas", "in", "which", "many", "languages", "differ", ":", "the", "available", "decisions", "and", "policy", "combinators", ".", "3.1", "Common", "Features", "A", "policy", "language", "must", "provide", "a", "way", "of", "describing", "the", "different", "forms", "of", "access", "and", "the", "environment", "in", "which", "they", "could", "occur", ".", "This", "information", "forms", "a", "request", ".", "Many", "languages", "break", "requests", "into", "four", "different", "parts", ":", "Subject", "the", "person", "or", "process", "making", "the", "request", ",", "Resource", "the", "object", ",", "subsystem", ",", "person", ",", "or", "process", "that", "the", "subject", "would", "like", "to", "affect", "-LRB-", "e.g.", ",", "a", "file", "name", "or", "a", "process", "id", "-RRB-", ",", "Action", "the", "command", "or", "change", "that", "the", "subject", "would", "like", "to", "execute", "on", "the", "resource", ",", "and", "Environment", "describes", "any", "other", "relevant", "information", "including", "the", "time", "of", "day", ",", "location", ",", "or", "the", "previous", "actions", "of", "the", "subject", ".", "The", "first", "three", "make", "up", "the", "form", "of", "access", "requested", "while", "the", "last", "gives", "the", "context", "in", "which", "this", "access", "would", "occur", ".", "Each", "of", "these", "parts", "lists", "attributes", "associated", "with", "its", "respective", "topic", ".", "In", "some", "languages", ",", "the", "absence", "or", "negation", "of", "an", "attribute", "might", "also", "be", "explicitly", "listed", "-LRB-", "see", "Section", "4.2", "-RRB-", ".", "Languages", "must", "also", "provide", "a", "set", "of", "decisions", ".", "Such", "a", "set", "must", "include", "some", "decisions", "that", "grant", "access", "and", "some", "that", "prohibit", "access", ".", "A", "policy", "will", "associate", "with", "each", "request", "a", "decision", "-LRB-", "or", "in", "the", "case", "of", "nondeterministic", "policies", ",", "a", "policy", "will", "relate", "each", "request", "with", "some", "number", "of", "decisions", "-RRB-", ".", "Definition", "3.1", ".", "An", "access-control", "policy", "language", "is", "a", "tuple", "L", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", "with", "P", "a", "set", "of", "policies", ",", "Q", "a", "family", "of", "sets", "of", "requests", "indexed", "by", "policies", ",", "G", "the", "set", "of", "decisions", "that", "stipulate", "that", "the", "system", "should", "grant", "access", "-LRB-", "granting", "decisions", "-RRB-", ",", "N", "the", "set", "of", "decisions", "that", "stipulate", "that", "the", "system", "should", "not", "grant", "access", "-LRB-", "non-granting", "decisions", "-RRB-", ",", "a", "function", "taking", "a", "policy", "p", "P", "to", "a", "relation", "between", "Q", "p", "and", "G", "N", ",", "where", "G", "N", "=", ".", "161", "When", "clear", "from", "context", ",", "the", "above", "symbols", "will", "be", "ref-erenced", "without", "explicitly", "relating", "them", "to", "L", ",", "and", "D", "will", "represent", "G", "N", ".", "The", "function", "gives", "the", "meaning", "of", "policy", "p", ",", "and", "we", "write", "q", "p", "d", "for", "p", "P", ",", "q", "Q", "p", ",", "and", "d", "D", ",", "when", "p", "assigns", "a", "decision", "of", "d", "to", "the", "request", "q", ".", "If", "for", "a", "language", "Q", "p", "=", "Q", "p", "for", "all", "p", "and", "p", "in", "P", ",", "then", "we", "drop", "the", "subscript", "on", "Q", "and", "treat", "it", "as", "a", "set", "of", "requests", "common", "to", "all", "policies", ".", "Given", "L", "define", "the", "partial", "order", "on", "D", "to", "be", "such", "that", "d", "d", "if", "either", "d", ",", "d", "N", ",", "d", ",", "d", "G", ",", "or", "d", "N", "and", "d", "G.", "3.2", "Decisions", "Policy", "languages", "must", "provide", "decisions", "to", "indicate", "a", "pol-icy", "'s", "intent", "to", "grant", "or", "not", "to", "grant", "a", "request", ".", "Some", "languages", "might", "just", "provide", "two", "decisions", ":", "permit", "for", "granting", "access", "and", "deny", "for", "not", "granting", "access", ".", "A", "policy", "in", "such", "a", "language", "associates", "various", "subsets", "of", "requests", "with", "one", "of", "these", "two", "decisions", ".", "For", "example", ",", "p", "1", "explicitly", "identifies", "a", "subset", "of", "permitted", "requests", "and", "p", "2", "gives", "denied", "requests", ".", "However", ",", "a", "policy", "might", "assign", "some", "requests", "to", "neither", "permit", "nor", "deny", "-LRB-", "e.g.", ",", "q", "1", "under", "Interpretation", "2", "of", "p", "-RRB-", ".", "To", "err", "on", "the", "side", "of", "safety", ",", "the", "policy", "language", "should", "provide", "for", "such", "requests", "a", "default", "decision", "that", "does", "not", "imply", "a", "grant", "of", "access", "creating", "a", "closed", "policy", "-LSB-", "10", "-RSB-", ".", "However", ",", "assigning", "them", "the", "decision", "of", "deny", "may", "limit", "the", "ability", "to", "compose", "policies", ".", "For", "example", ",", "while", "combining", "the", "policies", "of", "two", "departments", ",", "one", "would", "like", "to", "distinguish", "between", "those", "requests", "that", "each", "department", "really", "would", "like", "to", "prohibit", "and", "those", "about", "which", "they", "do", "not", "care", "-LSB-", "3", "-RSB-", ".", "The", "decision", "of", "not", "applicable", "serves", "this", "purpose", ".", "With", "a", "decision", "of", "not", "applicable", "sufficing", "to", "prevent", "access", ",", "some", "languages", "elect", "not", "to", "include", "statements", "associating", "requests", "with", "deny", ".", "This", "leaves", "only", "statements", "permitting", "some", "set", "of", "requests", ".", "The", "uniformity", "of", "statements", "in", "such", "languages", "might", "make", "the", "policy", "easier", "to", "read", "and", "compose", "-LRB-", "see", "Section", "3.3", "-RRB-", ".", "However", ",", "allowing", "for", "the", "explicate", "denial", "of", "requests", "can", "quickly", "rule", "out", "exceptional", "cases", "and", "provides", "a", "means", "to", "determine", "when", "a", "policy", "does", "not", "grant", "access", "by", "desire", "rather", "than", "by", "default", ".", "Some", "requests", "might", "not", "have", "a", "logical", "interpretation", "under", "a", "given", "policy", ".", "For", "example", ",", "a", "request", "of", "-LRB-", "s", ",", "grades", ",", "assign", "-RRB-", "with", "faculty", "-LRB-", "s", "-RRB-", "student", "-LRB-", "s", "-RRB-", "-LRB-", "q", "2", "-RRB-", "under", "Interpretation", "3", "of", "p", "contradicts", "the", "policy", "itself", ".", "A", "request", "might", "even", "contain", "illogical", "values", "or", "require", "undefined", "computation", "-LRB-", "such", "as", "division", "by", "zero", "-RRB-", ".", "For", "generality", ",", "a", "system", "might", "like", "to", "assign", "a", "decision", "to", "such", "inputs", "rather", "than", "excluding", "them", "from", "the", "set", "of", "requests", "and", "leaving", "the", "policy", "undefined", "on", "them", ".", "In", "such", "cases", ",", "a", "decision", "of", "error", "or", "some", "refinement", "of", "it", "might", "be", "appropriate", ".", "One", "may", "view", "the", "fact", "that", "an", "error", "state", "is", "reached", "given", "a", "request", "to", "be", "a", "weakness", "in", "the", "policy", ".", "However", ",", "one", "may", "also", "take", "it", "to", "be", "a", "statement", "about", "the", "world", "in", "which", "the", "policy", "is", "to", "function", ":", "that", "no", "such", "requests", "may", "logically", "exist", ".", "Error", "decisions", "can", "enforce", "these", "preconditions", "or", "assumptions", "that", "the", "policy", "has", "made", ".", "3.3", "Policy", "Combinators", "The", "policy", "of", "an", "organization", "often", "consists", "of", "the", "composition", "of", "policy", "fragments", ",", "or", "sub-policies", ",", "from", "a", "variety", "of", "internal", "units", "-LRB-", "e.g.", ",", "legal", ",", "accounting", ",", "and", "execute", "departments", "of", "a", "corporation", "-RRB-", ".", "Thus", ",", "policy", "languages", "provide", "combinators", "to", "create", "a", "single", "policy", "from", "these", "fragments", ".", "Under", "p", ",", "the", "request", "given", "above", "-LRB-", "q", "2", "-RRB-", "is", "permitted", "by", "p", "1", "but", "denied", "p", "2", ".", "The", "method", "used", "to", "combine", "the", "three", "sub-policies", "of", "p", "into", "one", "policy", "determines", "how", "to", "resolve", "this", "conflict", ".", "Some", "languages", ",", "like", "the", "hypothetical", "language", "in", "which", "p", "is", "written", ",", "might", "have", "only", "one", "policy", "combinator", "that", "is", "implicitly", "applied", ".", "Other", "languages", "provide", "multiple", "combinators", ".", "If", "a", "policy", "has", "sub-policies", "nested", "inside", "of", "sub-policies", ",", "the", "different", "layers", "may", "be", "resolved", "differently", ".", "Some", "of", "the", "possible", "policy", "combinators", "are", ":", "Permit", "Overrides", "If", "any", "of", "the", "sub-policies", "produces", "a", "permit", ",", "return", "only", "permit", ".", "Otherwise", ",", "if", "any", "produces", "a", "deny", ",", "return", "only", "deny", ".", "Else", ",", "return", "not", "applicable", ".", "Deny", "Overrides", "If", "any", "of", "the", "sub-policies", "produces", "a", "deny", ",", "return", "only", "deny", ".", "Otherwise", ",", "if", "any", "produces", "a", "permit", ",", "return", "only", "permit", ".", "Else", ",", "return", "not", "applicable", ".", "First", "Applicable", "Return", "the", "decision", "reached", "by", "the", "first", "sub-policy", "to", "reach", "one", "other", "than", "not", "applicable", ".", "All", "Seen", "Return", "a", "set", "containing", "the", "decisions", "reached", "by", "all", "the", "sub-policies", ".", "Either", "Permit", "or", "Deny", "Nondeterministically", "return", "one", "of", "the", "produced", "decisions", ".", "Error", "Return", "a", "error", "if", "the", "sub-policies", "produces", "both", "permit", "and", "deny", ".", "Otherwise", "return", "permit", "if", "produced", ",", "or", "deny", "if", "produced", ".", "Else", ",", "return", "not", "applicable", ".", "And", "Conjoin", "the", "sub-policies", "together", "by", "logical", "And", "and", "return", "the", "implied", "decision", "-LRB-", "s", "-RRB-", ".", "De", "Capitani", "di", "Vimercati", "et", "al.", "-LSB-", "4", "-RSB-", "list", "additional", "combinators", ".", "The", "nature", "of", "the", "combinators", "available", "in", "a", "language", "can", "greatly", "impact", "the", "clarity", "of", "policies", "written", "in", "it", ".", "Notice", "that", "many", "of", "the", "above", "combinators", "behave", "the", "same", "in", "the", "absence", "of", "the", "decision", "of", "deny", ".", "One", "might", "conclude", "from", "this", "observation", "that", "allowing", "the", "explicit", "denial", "of", "a", "request", "is", "an", "undesirable", "complication", "in", "a", "language", ".", "To", "formalize", "the", "role", "of", "policy", "combinators", ",", "let", "policies", "be", "either", "an", "atomic", "policy", "or", "a", "set", "of", "sub-policies", "combined", "by", "some", "policy", "combinator", ".", "Let", "p", "be", "a", "policy", "that", "consists", "of", "sub-policies", "p", "i", "with", "1", "i", "n", ".", "Then", "p", "=", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "represents", "the", "composition", "of", "the", "sub-policies", "using", ".", "2", "Since", "sub-policies", "are", "themselves", "policies", ",", "one", "may", "apply", "to", "them", ".", "3", "The", "relationship", "between", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "and", "meaning", "of", "each", "sub-policy", "p", "i", "affects", "the", "clarity", "of", "the", "policy", "and", "is", "studied", "in", "the", "next", "section", ".", "Having", "formalized", "policy", "languages", ",", "we", "are", "now", "ready", "to", "describe", "properties", "of", "them", ".", "2", "We", "assume", "that", "the", "set", "of", "combinators", "in", "a", "given", "language", "L", "=", "-LRB-", "Q", ",", "P", ",", "G", ",", "N", ",", "-RRB-", "is", "clear", "from", "the", "structure", "of", "P", "and", ".", "If", "this", "is", "not", "the", "case", "for", "a", "language", ",", "one", "could", "explicitly", "add", "it", "to", "the", "definition", "of", "an", "policy", "language", ".", "3", "Some", "languages", "may", "permit", "contextual", "information", "from", "enclosing", "policies", "to", "affect", "the", "meaning", "of", "the", "sub-policies", ".", "For", "example", ",", "a", "language", "might", "have", "a", "notation", "of", "variable", "binding", ".", "For", "such", "a", "language", ",", "might", "be", "extended", "to", "take", "a", "second", "argument", "that", "carries", "such", "contextual", "information", ".", "All", "the", "following", "definitions", "could", "be", "extended", ",", "e.g.", ",", "monadically", ",", "to", "deal", "with", "such", "an", "extended", ".", "162", "4.1", "Determinism", "and", "Totality", "Definition", "4.1", ".", "A", "language", "L", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", "is", "deterministic", "if", "p", "P", ",", "q", "Q", "p", ",", "d", ",", "d", "D", ",", "q", "p", "d", "q", "p", "d", "=", "d", "=", "d", "For", "a", "deterministic", "language", ",", "we", "can", "define", "a", "function", "which", "takes", "a", "policy", "p", "P", "and", "returns", "a", "function", "from", "Q", "p", "to", "D", "as", "p", ".", "q", ".", "d", "D", "s.t.", "q", "p", "d.", "For", "a", "deterministic", "language", ",", "may", "be", "given", "instead", "of", "to", "define", "the", "language", ".", "-LRB-", "We", "only", "even", "mention", "nondeterministic", "languages", "due", "to", "the", "existence", "of", "one", ":", "XACML", "with", "obligations", ".", "-RRB-", "Definition", "4.2", ".", "A", "language", "L", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", "is", "total", "if", "p", "P", ",", "q", "Q", "p", ",", "d", "D", "s.t.", "q", "p", "d", "The", "policies", "of", "total", "languages", "will", "always", "make", "a", "decision", ".", "4.2", "Safety", "Under", "Interpretation", "2", ",", "the", "request", "contained", "too", "little", "information", "to", "determine", "which", "of", "the", "sub-policies", "of", "p", "applied", ".", "Interpretation", "1", "avoids", "such", "indecision", "by", "having", "requests", "implicitly", "refute", "the", "presence", "of", "any", "attribute", "not", "listed", ".", "These", "two", "interpretations", "produce", "different", "meanings", "for", "statements", "like", "faculty", "-LRB-", "s", "-RRB-", "found", "in", "p", "3", ".", "Under", "Interpretation", "1", ",", "faculty", "-LRB-", "s", "-RRB-", "holds", "if", "faculty", "-LRB-", "s", "-RRB-", "is", "not", "in", "the", "request", ",", "while", "under", "the", "second", ",", "the", "request", "must", "explicitly", "list", "faculty", "-LRB-", "s", "-RRB-", "for", "it", "to", "hold", ".", "We", "call", "the", "former", "implicit", "and", "the", "latter", "explicit", ".", "The", "explicit", "approach", "permits", "distinguishing", "between", "unknown", "information", "and", "attributes", "known", "to", "be", "absent", ".", "The", "explicit", "interpretation", ",", "however", ",", "incurs", "the", "cost", "of", "listing", "a", "possibly", "large", "set", "of", "absent", "attributes", "and", "can", "lead", "to", "indecision", "as", "shown", "above", ".", "Such", "indecision", ",", "however", ",", "allows", "the", "system", "to", "recognize", "when", "the", "policy", "requires", "more", "information", "to", "yield", "a", "decision", ".", "In", "contrast", ",", "the", "implicit", "interpretation", "can", "grant", "undue", "access", ".", "If", ",", "for", "example", ",", "a", "request", "does", "not", "list", "faculty", "-LRB-", "s", "-RRB-", "simply", "because", "the", "system", "did", "not", "determine", "whether", "s", "was", "a", "faculty", "member", "or", "not", ",", "then", "the", "system", "might", "erroneously", "allow", "s", "to", "enroll", "in", "courses", ".", "Thus", ",", "the", "sub-system", "producing", "requests", "must", "be", "sure", "to", "include", "all", "the", "relevant", "facts", "in", "each", "request", ".", "For", "large", "scale", "systems", ",", "collecting", "or", "even", "determining", "the", "germane", "information", "might", "consume", "large", "amounts", "of", "time", ".", "For", "such", "systems", ",", "the", "explicate", "approach", "might", "prove", "better", "since", "requests", "may", "leave", "out", "information", "safely", "and", "be", "refined", "until", "the", "policy", "yields", "a", "decision", ".", "Furthermore", ",", "overzealous", "optimizations", "and", "other", "coding", "errors", "might", "result", "in", "the", "system", "producing", "requests", "that", "do", "not", "contain", "all", "the", "relevant", "facts", ".", "Having", "a", "policy", "drive", "which", "information", "requests", "include", "allows", "for", "the", "system", "to", "collect", "only", "the", "information", "really", "needed", "to", "reach", "a", "decision", "from", "the", "policy", ".", "Under", "this", "approach", ",", "the", "sub-system", "evaluating", "the", "policy", "starts", "with", "a", "request", "that", "contains", "only", "the", "readily", "available", "information", ".", "If", "this", "sub-system", "needs", "additional", "information", "to", "reach", "a", "decision", "from", "the", "policy", ",", "it", "requests", "the", "necessary", "additional", "information", ".", "Thus", ",", "the", "system", "does", "not", "need", "to", "know", "what", "information", "the", "policy", "requires", "at", "the", "time", "of", "generating", "the", "initial", "request", ".", "This", "approach", "may", "allow", "for", "more", "efficient", "implementations", ".", "Once", "a", "datum", "has", "been", "published", ",", "it", "can", "not", "easily", "be", "retracted", ".", "Therefore", ",", "preventing", "unwanted", "access", "is", "usually", "preferable", "to", "granting", "it", ".", "As", "a", "result", ",", "such", "incomplete", "requests", "should", "only", "result", "in", "a", "grant", "of", "access", "if", "the", "complete", "one", "would", "have", ".", "We", "can", "formally", "state", "this", "safety", "concern", ":", "Definition", "4.3", ".", "Let", "be", "a", "family", "of", "partial", "ordering", "on", "requests", "of", "a", "language", "L", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", "indexed", "by", "the", "policies", "of", "L.", "L", "is", "safe", "with", "respect", "to", "iff", "p", "P", ",", "q", ",", "q", "Q", "p", ",", "q", "p", "q", "=", "p", "-LRB-", "q", "-RRB-", "p", "-LRB-", "q", "-RRB-", ".", "Due", "to", "differences", "in", "the", "contents", "of", "a", "requests", ",", "for", "each", "language", "a", "different", "family", "of", "partial", "orderings", "will", "interest", "users", ".", "The", "relation", "should", "be", "such", "that", "if", "q", "p", "q", ",", "then", "q", "contains", "all", "the", "information", "contained", "in", "q", "and", "possibly", "more", ".", "Often", "one", "partial", "ordering", "may", "serve", "every", "policy", ".", "For", "example", ",", "consider", "a", "language", "in", "which", "requests", "are", "sets", "of", "non-contradictory", "facts", "and", "the", "set", "of", "decisions", "is", "-LCB-", "permit", ",", "deny", "-RCB-", ".", "Then", "using", "the", "subset", "partial", "ordering", "for", "p", "-LRB-", "for", "every", "policy", "p", "-RRB-", "will", "make", "sense", "since", "it", "matches", "the", "intuition", "of", "information", "content", ".", "If", "the", "language", "is", "safe", "with", "respect", "to", "such", "a", "defined", ",", "then", "one", "may", "omit", "facts", "from", "a", "request", "without", "causing", "undue", "access", ".", "Informally", ",", "in", "a", "safe", "language", ",", "undue", "access", "is", "impossible", "provided", "that", "requests", "tell", "no", "lies", ";", "whereas", ",", "in", "an", "unsafe", "language", ",", "the", "requests", "must", "additionally", "tell", "the", "whole", "truth", ".", "The", "choice", "between", "these", "is", "a", "function", "of", "trust", "in", "the", "program", "generating", "requests", ",", "comprehensiveness", "of", "analysis", "to", "generate", "requests", ",", "efficiency", ",", "and", "so", "on", ".", "Nevertheless", ",", "the", "ability", "to", "conclude", ",", "given", "a", "request", "that", "will", "yield", "access", ",", "that", "all", "requests", "with", "more", "information", "will", "also", "yield", "access", ",", "can", "potentially", "be", "a", "great", "boon", "to", "policy", "reasoning", ".", "Some", "languages", "might", "choose", "to", "avoid", "the", "complications", "introduced", "by", "a", "policy", "testing", "for", "the", "absence", "of", "an", "attribute", "all", "together", ".", "In", "some", "contexts", ",", "such", "as", "certificate", "passing", "systems", "in", "which", "a", "certificate", "may", "be", "withheld", ",", "negated", "attributes", "may", "not", "make", "sense", ".", "4", "In", "such", "a", "context", ",", "requests", "would", "not", "list", "negated", "attributes", "and", "the", "policy", "would", "not", "test", "for", "the", "absence", "of", "an", "attributes", "at", "all", ".", "4.3", "Independent", "Composition", "Consider", "the", "third", "interpretation", "of", "p.", "Under", "this", "interpretation", ",", "the", "meaning", "of", "p", "can", "only", "be", "determined", "by", "looking", "at", "the", "interactions", "of", "the", "different", "sub-policies", "as", "a", "whole", ".", "Notice", "that", "any", "one", "of", "these", "sub-policies", "would", "produce", "a", "decision", "of", "not", "applicable", "in", "isolation", ",", "and", "yet", "together", "they", "interact", "to", "produce", "a", "permit", "decision", ".", "The", "third", "interpretation", "thus", "inhibits", "the", "easy", "use", "of", "local", "reasoning", "to", "reach", "conclusions", "about", "the", "policy", "as", "a", "whole", ".", "This", "increases", "the", "possibility", "of", "unintended", "results", "from", "combining", "sub-policies", "into", "a", "policy", ".", "The", "alternative", ",", "as", "found", "in", "the", "first", "two", "interpretations", ",", "is", "for", "the", "sub-policies", "to", "be", "combined", "in", "such", "a", "way", "that", "only", "the", "result", "of", "each", "in", "isolation", "matters", ".", "This", "property", "is", "formalized", "as", "follows", ":", "Definition", "4.4", ".", "A", "policy", "combinator", "of", "a", "language", "L", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", "independently", "composes", "its", "sub-4", "One", "may", "argue", "that", "certificate", "passing", "systems", "may", "use", "negative", "certificates", "to", "achieve", "the", "checking", "of", "attribute", "absence", ".", "Whether", "this", "captures", "the", "notion", "of", "the", "absence", "of", "an", "attribute", "or", "just", "the", "presence", "of", "another", "related", "attribute", "is", "unclear", ".", "For", "example", ",", "one", "could", "conceivably", "hold", "both", "a", "positive", "and", "a", "negative", "certificate", "for", "an", "attribute", ".", "163", "policies", "iff", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "P", ",", "i", ",", "1", "i", "n", "=", "Q", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "Q", "p", "i", "-LRB-", "1", "-RRB-", "and", "there", "exists", "a", "function", ":", "Q", "D", "D", "such", "that", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "P", ",", "q", "Q", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", ",", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "-LRB-", "q", "-RRB-", "=", "-LRB-", "q", "-RRB-", "-LRB-", "p", "1", "-LRB-", "q", "-RRB-", ",", "p", "2", "-LRB-", "q", "-RRB-", ",", "...", ",", "p", "n", "-LRB-", "q", "-RRB-", "-RRB-", "-LRB-", "2", "-RRB-", "If", "all", "the", "combinators", "of", "L", "independently", "compose", ",", "then", "L", "has", "the", "independent", "composition", "property", ".", "The", "first", "requirement", "forces", "a", "request", "defined", "for", "a", "policy", "to", "also", "be", "defined", "on", "each", "of", "its", "sub-policies", ".", "This", "is", "necessary", "for", "the", "second", "requirement", "to", "be", "well", "defined", ".", "The", "second", "requirement", "ensures", "that", "one", "can", "determine", "the", "decision", "of", "the", "whole", "policy", "from", "the", "request", "and", "decisions", "of", "its", "sub-policies", "on", "that", "request", ";", "no", "other", "properties", "of", "the", "sub-policies", "matter", ".", "One", "might", "alternatively", "be", "tempted", "to", "define", "independent", "composition", "thus", ":", "Definition", "4.5", ".", "A", "policy", "combinator", "of", "a", "language", "L", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", "semantically", "composes", "its", "sub-policies", "iff", ":", "-LRB-", "Q", "D", "-RRB-", "-LRB-", "Q", "D", "-RRB-", ",", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "P", ",", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "=", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "-LRB-", "3", "-RRB-", "If", "all", "the", "combinators", "of", "L", "semantically", "compose", ",", "then", "L", "has", "the", "semantic", "composition", "property", ".", "Semantic", "composition", "ensures", "that", "all", "sub-policies", "with", "the", "same", "meaning", "in", "isolation", "will", "behave", "the", "same", "under", "the", "combinator", ".", "A", "language", "with", "the", "semantic", "composition", "property", "is", "arguably", "more", "clear", "than", "one", "without", "it", ",", "since", "only", "the", "isolated", "meaning", "of", "the", "sub-policy", "must", "known", "to", "reason", "about", "its", "use", "under", "the", "combinator", ".", "Theorem", "4.6", ".", "If", "a", "policy", "combinator", "of", "an", "policy", "language", "L", "has", "independent", "composition", ",", "then", "it", "has", "semantic", "composition", ".", "Proof", ".", "To", "prove", "that", "has", "semantic", "composition", ",", ":", "-LRB-", "Q", "D", "-RRB-", "-LRB-", "Q", "D", "-RRB-", "required", "for", "Equation", "3", "will", "be", "constructed", "from", "the", ":", "Q", "D", "D", "known", "to", "exist", "since", "independently", "composes", ".", "Let", "-LRB-", "f", "1", ",", "f", "2", ",", "...", ",", "f", "n", "-RRB-", "=", "q", ".", "-LRB-", "q", "-RRB-", "-LRB-", "f", "1", "-LRB-", "q", "-RRB-", ",", "f", "2", "-LRB-", "q", "-RRB-", ",", "...", ",", "f", "n", "-LRB-", "q", "-RRB-", "-RRB-", "Then", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "=", "q", ".", "-LRB-", "q", "-RRB-", "-LRB-", "p", "1", "-LRB-", "q", "-RRB-", ",", "p", "2", "-LRB-", "q", "-RRB-", ",", "...", ",", "p", "3", "-LRB-", "q", "-RRB-", "-RRB-", "=", "q", ".", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "-LRB-", "q", "-RRB-", "=", "-LRB-", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "Theorem", "4.7", ".", "The", "semantic", "composition", "of", "a", "policy", "combinator", "does", "not", "imply", "that", "it", "independently", "composes", ".", "Proof", ".", "Consider", "a", "rather", "odd", "language", "that", "has", "only", "one", "unary", "policy", "combinator", ",", ",", "atomic", "policies", "that", "are", "sets", "of", "values", ",", "G", "=", "-LCB-", "permit", "-RCB-", ",", "N", "=", "-LCB-", "deny", "-RCB-", ",", "and", "requests", "that", "are", "sets", "of", "values", ".", "Let", "the", "semantics", "be", "-LRB-", "p", "1", "-RRB-", "=", "q", ".", "-LRB-", "permit", "p", "1", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "=", "permit", "deny", "p", "1", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "=", "deny", "for", "some", "distinguished", "value", "v", ",", "and", "for", "atomic", "policies", "p", ",", "p", "-LRB-", "q", "-RRB-", "equals", "permit", "iff", "p", "q", "=", "and", "equals", "deny", "otherwise", ".", "The", "language", "has", "semantic", "composition", ":", "for", "such", "that", "-LRB-", "f", "1", "-RRB-", "=", "-LRB-", "permit", "f", "1", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "=", "permit", "deny", "f", "1", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "=", "deny", "clearly", ",", "-LRB-", "p", "1", "-RRB-", "=", "-LRB-", "p", "1", "-RRB-", ".", "To", "show", "that", "the", "language", "does", "not", "have", "independent", "composition", ",", "assume", "that", "it", "does", ".", "Then", "there", "exists", "such", "a", ":", "Q", "D", "D", "to", "satisfy", "Equation", "2", ".", "Let", "p", "1", "=", "-LCB-", "v", "-RCB-", "and", "p", "2", "=", "-LCB-", "v", ",", "v", "-RCB-", "for", "some", "value", "v", "such", "that", "v", "=", "v", ".", "Then", ",", "deny", "=", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "=", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "-LRB-", "-LCB-", "v", "-RCB-", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "-RRB-", "=", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "-LRB-", "permit", "-RRB-", "=", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "-LRB-", "-LCB-", "v", ",", "v", "-RCB-", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "-RRB-", "=", "-LRB-", "-LCB-", "v", ",", "v", "-RCB-", "-RRB-", "-LRB-", "-LCB-", "v", "-RCB-", "-RRB-", "=", "permit", "A", "contradiction", "is", "reached", "since", "permit", "=", "deny", ".", "Only", "with", "independent", "composition", "can", "a", "policy", "reader", "with", "a", "specific", "request", "in", "mind", "know", "the", "decision", "of", "the", "whole", "policy", "from", "each", "of", "the", "component", "policies", ".", "This", "enables", "a", "reader", "to", "ask", "what-if", "questions", "like", "``", "What", "if", "Bob", "requests", "to", "write", "the", "log", "?", "''", "and", "determine", "the", "answer", "from", "recursively", "asking", "that", "question", "of", "the", "sub-policies", ".", "Such", "an", "ability", "is", "particularly", "helpful", "to", "readers", "interested", "in", "only", "a", "subset", "of", "the", "possible", "requests", "or", "already", "familiar", "with", "some", "of", "the", "sub-policies", ".", "4.4", "Monotonicity", "As", "noted", "at", "the", "end", "of", "Section", "3.3", ",", "the", "decision", "of", "deny", "complicates", "the", "policy", "combinators", ".", "One", "of", "the", "reasons", "for", "this", "is", "that", ",", "under", "combinators", "like", "Deny", "Overrides", ",", "a", "back-and", "-", "forth", "pattern", "can", "arise", "when", "considering", "the", "decision", "of", "the", "whole", "policy", "from", "the", "sub-policies", ".", "Consider", "each", "sub-policy", "in", "p", "with", "the", "request", "q", "2", ".", "Under", "a", "reasonable", "interpretation", "p", "1", "yields", "a", "decision", "of", "permit", ",", "p", "2", "a", "decision", "of", "deny", ",", "and", "p", "3", "not", "applicable", ".", "Thus", ",", "if", "the", "order", "of", "p", "was", "changed", "to", "p", "3", ",", "p", "1", ",", "p", "2", "and", "we", "assume", "a", "Deny", "Overrides", "policy", "combinator", ",", "the", "apparent", "decision", "would", "go", "from", "non-granting", "to", "granting", "to", "non-granting", ".", "Note", "that", "Permit", "Overrides", "does", "not", "exhibit", "this", "pattern", "since", "it", "is", "impossible", "to", "go", "from", "a", "granting", "decision", "to", "a", "non-granting", "one", "under", "it", ".", "Thus", ",", "the", "formalization", "of", "this", "pattern", "focuses", "on", "the", "transition", "from", "a", "granting", "to", "a", "non-granting", "decision", ".", "Definition", "4.8", ".", "A", "policy", "combinator", "of", "a", "language", "L", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", "is", "monotonic", "iff", "p", "1", ",", "...", ",", "p", "n", ",", "p", "P", ",", "q", "Q", ",", "-LRB-", "p", "1", ",", "...", ",", "p", "n", "-RRB-", "-LRB-", "q", "-RRB-", "-LRB-", "p", "1", ",", "...", ",", "p", "i", ",", "p", ",", "p", "i", "+1", ",", "...", ",", "p", "n", "-RRB-", "-LRB-", "q", "-RRB-", "where", "Q", "=", "Q", "-LRB-", "p", "1", ",", "...", ",", "p", "n", "-RRB-", "Q", "-LRB-", "p", "1", ",", "...", ",", "p", "i", ",", "p", ",", "p", "i", "+1", ",", "...", ",", "p", "n", "-RRB-", ".", "We", "say", "L", "is", "monotonic", "if", "every", "combinator", "is", "monotonic", ".", "Adding", "another", "sub-policy", "to", "a", "monotonic", "combinator", "can", "not", "change", "the", "decision", "from", "granting", "to", "non-granting", ".", "Having", "motivated", "and", "established", "these", "criteria", ",", "we", "now", "apply", "them", "to", "concrete", "access", "control", "languages", ".", "164", "In", "its", "entirety", ",", "XACML", "-LSB-", "12", "-RSB-", "exceeds", "the", "bounds", "of", "the", "definitions", "given", "in", "Section", "3", ".", "Full", "XACML", "includes", "obligations", ",", "which", "act", "as", "annotations", "on", "the", "decisions", "of", "permit", "and", "deny", ".", "These", "annotations", "specify", "actions", "that", "the", "system", "enforcing", "the", "access", "controls", "must", "preform", "before", "granting", "access", "or", "upon", "prohibiting", "access", ".", "Thus", ",", "an", "XACML", "policy", "may", "have", "effects", "beyond", "just", "granting", "or", "prohibiting", "access", "that", "the", "model", "presented", "fails", "to", "address", ".", "Handling", "all", "of", "XACML", "is", "beyond", "the", "scope", "of", "this", "paper", ".", "For", "illustrative", "purposes", ",", "we", "employ", "a", "formalized", "subset", "of", "XACML", ",", "which", "we", "will", "call", "Core", "XACML", "-LRB-", "CXACML", "-RRB-", ",", "which", "corresponds", "to", "the", "input", "of", "the", "tool", "Margrave", "-LSB-", "7", ",", "8", "-RSB-", ".", "This", "subset", "is", "expressive", "enough", "to", "capture", "RBAC", "0", "-LSB-", "14", "-RSB-", ".", "5.1", "Syntax", "CXACML", "has", "two", "syntaxes", ":", "one", "for", "policies", "and", "one", "for", "requests", ".", "We", "present", "the", "policy", "syntax", "first", ",", "with", "the", "start", "non-terminal", "P.", "For", "syntactic", "brevity", ",", "we", "use", "a", "Lisp-like", "parenthetical", "syntax", "in", "place", "of", "XML", "notation", ".", "P", ":", ":", "=", "-LRB-", "Policy", "C", "T", "P", "-RRB-", "|", "-LRB-", "Rule", "T", "F", "-RRB-", "C", ":", ":", "=", "FirstApp", "|", "DenyOver", "|", "PermitOver", "T", ":", ":", "=", "-LRB-", "-LRB-", "L", "-RRB-", "-LRB-", "L", "-RRB-", "-LRB-", "L", "-RRB-", "-LRB-", "L", "-RRB-", "-RRB-", "L", ":", ":", "=", "-LRB-", "A", "+", "-RRB-", "A", ":", ":", "=", "-LRB-", "id", "val", "-RRB-", "F", ":", ":", "=", "Permit", "|", "Deny", "Those", "policies", "formed", "by", "using", "solely", "the", "right", "choice", "of", "the", "production", "rule", "for", "P", "are", "called", "rules", ".", "XACML", "does", "not", "consider", "rules", "to", "be", "policies", ".", "However", ",", "since", "the", "semantics", "assigned", "to", "rules", "allows", "them", "to", "behave", "as", "policies", ",", "we", "will", "consider", "them", "policies", ".", "The", "elements", "of", "the", "syntax", "category", "T", "are", "called", "targets", ".", "The", "four", "parts", "of", "the", "target", "are", "the", "requirements", "placed", "on", "the", "subject", ",", "resource", ",", "action", ",", "and", "environment", ",", "respectively", ",", "for", "the", "policy", "to", "apply", "to", "a", "request", ".", "The", "non-terminals", "id", "and", "val", "are", "strings", "representing", "the", "attribute", "IDs", "and", "values", ".", "Example", "5.1", ".", "The", "following", "is", "a", "CXACML", "policy", ":", "-LRB-", "Policy", "FirstApp", "-LRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-LRB-", "name", "log", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "Rule", "-LRB-", "-LRB-", "-LRB-", "role", "dr", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-RRB-", "Deny", "-RRB-", "-LRB-", "Rule", "-LRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RRB-", "-RRB-", "Permit", "-RRB-", "-RRB-", "This", "policy", "permits", "all", "requests", "for", "access", "to", "a", "log", "except", "those", "made", "by", "doctors", ",", "which", "it", "denies", ".", "In", "detail", ",", "the", "policy", "is", "composed", "of", "two", "sub-policies", "using", "the", "combinator", "First", "Applicable", "and", "applies", "only", "to", "requests", "where", "the", "resource", "has", "the", "name", "of", "log", ".", "The", "first", "sub-policy", "denies", "requests", "where", "the", "subject", "has", "the", "role", "of", "dr", "regardless", "of", "the", "resource", ",", "action", ",", "or", "environment", ".", "The", "second", "permits", "all", "requests", ".", "The", "syntax", "for", "requests", "is", "-LRB-", "with", "start", "non-terminal", "Q", "-RRB-", ":", "Q", ":", ":", "=", "-LRB-", "-LRB-", "A", "-RRB-", "-LRB-", "A", "-RRB-", "-LRB-", "A", "-RRB-", "-LRB-", "A", "-RRB-", "-RRB-", "They", "simply", "list", "the", "attributes", "possessed", "by", "the", "subject", ",", "resource", ",", "action", ",", "and", "environment", "in", "turn", ".", "5.2", "Semantics", "In", "the", "following", "natural", "semantics", ",", "we", "will", "use", "the", "convention", "that", "a", "lower-case", "letter", "represents", "an", "element", "of", "the", "set", "or", "syntactic", "category", "represented", "by", "the", "upper-case", "equivalent", ".", "For", "example", ",", "P", "is", "the", "set", "of", "all", "policies", "and", "p", "is", "a", "policy", ".", "Let", "D", "be", "the", "set", "of", "all", "decisions", "-LRB-", "D", "=", "-LCB-", "permit", ",", "deny", ",", "na", "-RCB-", "-RRB-", ".", "The", "core", "of", "the", "semantics", "of", "CX", "ACML", "compares", "requests", "to", "targets", ".", "We", "will", "denote", "this", "relation", "by", "qt", "for", "request", "q", "and", "target", "t", ".", "The", "natural", "semantics", "of", "Table", "1", "defines", ".", "Next", "we", "define", ".", "Table", "2", "gives", "the", "result", "of", "evaluating", "rules", ".", "The", "following", "tables", "defines", "over", "policies", ".", "Table", "3", "deals", "with", "two", "cases", "where", "a", "policy", "does", "not", "apply", "to", "a", "request", ".", "Finally", ",", "we", "must", "define", "the", "policy", "combinators", ":", "Permit", "Overrides", "in", "Table", "4", ",", "Deny", "Overrides", "in", "Table", "5", ",", "and", "First", "Applicable", "in", "Table", "6", ".", "5.3", "Analysis", "The", "syntax", "and", "semantics", "of", "CXACML", "defines", "L", "CXACML", "=", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", ".", "The", "syntax", "determines", "P", "and", "Q", "where", "the", "same", "set", "of", "requests", "is", "used", "for", "every", "policy", "-LRB-", "and", "thus", ",", "we", "treat", "Q", "as", "a", "set", "of", "requests", "-RRB-", ".", "From", "the", "semantics", ",", "G", "=", "-LCB-", "permit", "-RCB-", ",", "N", "=", "-LCB-", "na", ",", "deny", "-RCB-", ".", "CXACML", "allows", "for", "explicit", "denials", "and", "the", "checking", "of", "the", "implicit", "absence", "of", "attributes", ".", "Theorem", "5.2", ".", "L", "CXACML", "is", "deterministic", ".", "Proof", ".", "Inspection", "of", "the", "inference", "rules", "for", "atomic", "policies", "-LRB-", "Table", "2", "-RRB-", "shows", "that", "only", "one", "of", "them", "can", "hold", "at", "a", "time", ".", "Thus", ",", "atomic", "policies", "are", "deterministic", ".", "Table", "4", "combined", "with", "Table", "3", "gives", "the", "semantics", "of", "the", "policy", "combinator", "Permit", "Overrides", ".", "The", "antecedents", "of", "all", "these", "inference", "rules", "are", "disjoint", ",", "that", "is", ",", "at", "most", "one", "them", "can", "hold", "for", "any", "policy", "and", "request", ".", "Thus", ",", "Permit", "Overrides", "is", "deterministic", ".", "The", "same", "argument", "holds", "for", "Deny", "Overrides", "and", "First", "Applicable", "using", "Tables", "5", "and", "6", ".", "Thus", ",", "all", "the", "combinators", "are", "deterministic", ".", "Thus", ",", "one", "may", "view", "a", "CXACML", "policy", "as", "a", "function", "from", "requests", "to", "decisions", "with", "in", "place", "of", ".", "Further", "inspection", "establishes", "that", "is", "a", "total", "function", ".", "For", "two", "requests", "q", "=", "-LRB-", "s", "r", "a", "e", "-RRB-", "and", "q", "=", "-LRB-", "s", "r", "a", "e", "-RRB-", ",", "let", "q", "p", "q", "-LRB-", "for", "every", "policy", "p", "-RRB-", "if", "s", "s", ",", "r", "r", ",", "a", "a", ",", "and", "e", "e", "where", "is", "defined", "in", "Table", "1", ".", "Theorem", "5.3", ".", "CXACML", "is", "not", "safe", "with", "respect", "to", ".", "Proof", ".", "Consider", "the", "policy", "p", "shown", "in", "Example", "5.1", "and", "the", "requests", "q", "=", "-LRB-", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "name", "log", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-RRB-", "and", "q", "=", "-LRB-", "-LRB-", "-LRB-", "role", "dr", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "name", "log", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-RRB-", ".", "Clearly", "q", "p", "q", ".", "Yet", "p", "-LRB-", "q", "-RRB-", "=", "permit", "deny", "=", "p", "-LRB-", "q", "-RRB-", "Theorem", "5.4", ".", "L", "CXACML", "has", "independent", "composition", ".", "Proof", ".", "A", "combination", "algorithm", "c", "and", "target", "t", "together", "determine", "a", "policy", "combinator", ".", "For", "each", "pair", "of", "values", "for", "c", "and", "t", ",", "the", "needed", "function", "t", "c", ":", "Q", "D", "D", "exists", "to", "provide", "the", "meaning", "of", "the", "policy", "-LRB-", "Policy", "c", "t", "p", "p", "-RRB-", "and", "satisfy", "Equation", "2", ".", "For", "Permit", "Overrides", "-LRB-", "when", "c", "=", "PermitOver", ",", "or", "PO", "for", "short", "-RRB-", ",", "the", "function", "t", "PO", "-LRB-", "q", "-RRB-", "-LRB-", "d", "d", "-RRB-", "is", "equal", "to", "na", "if", "q", "/", "t", "permit", "else", "if", "d", "=", "permit", "t", "PO", "-LRB-", "q", "-RRB-", "-LRB-", "d", "-RRB-", "=", "permit", "deny", "else", "if", "d", "=", "deny", "t", "PO", "-LRB-", "q", "-RRB-", "-LRB-", "d", "-RRB-", "=", "deny", "na", "otherwise", "The", "function", "t", "DO", "-LRB-", "q", "-RRB-", "-LRB-", "d", "d", "-RRB-", "for", "Deny", "Overrides", "is", "equal", "to", "na", "if", "q", "/", "t", "deny", "else", "if", "d", "=", "deny", "t", "DO", "-LRB-", "q", "-RRB-", "-LRB-", "d", "-RRB-", "=", "deny", "permit", "else", "if", "d", "=", "permit", "t", "DO", "-LRB-", "q", "-RRB-", "-LRB-", "d", "-RRB-", "=", "permit", "na", "otherwise", "For", "First", "Applicable", ",", "t", "FA", "-LRB-", "q", "-RRB-", "-LRB-", "d", "d", "-RRB-", "is", "165", "-LRB-", "a", "1", "-RRB-", "-LRB-", "l", "1", "-RRB-", "-LRB-", "a", "2", "-RRB-", "-LRB-", "l", "2", "-RRB-", "-LRB-", "a", "3", "-RRB-", "-LRB-", "l", "3", "-RRB-", "-LRB-", "a", "4", "-RRB-", "-LRB-", "l", "4", "-RRB-", "-LRB-", "-LRB-", "a", "1", "-RRB-", "-LRB-", "a", "2", "-RRB-", "-LRB-", "a", "3", "-RRB-", "-LRB-", "a", "4", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "l", "1", "-RRB-", "-LRB-", "l", "2", "-RRB-", "-LRB-", "l", "3", "-RRB-", "-LRB-", "l", "4", "-RRB-", "-RRB-", "i", "s.t.", "l", "i", "-LRB-", "a", "-RRB-", "-LRB-", "a", "-RRB-", "-LRB-", "l", "1", "l", "2", "...", "l", "n", "-RRB-", "i", "j", "s.t.", "a", "i", "=", "a", "j", "-LRB-", "a", "1", "a", "2", "...", "a", "n", "-RRB-", "-LRB-", "a", "1", "a", "2", "...", "a", "m", "-RRB-", "Table", "1", ":", "The", "Match", "Relationship", "q", "/", "t", "q", "-LRB-", "Rule", "t", "f", "-RRB-", "na", "qt", "q", "-LRB-", "Rule", "t", "Permit", "-RRB-", "permit", "qt", "q", "-LRB-", "Rule", "t", "Deny", "-RRB-", "deny", "Table", "2", ":", "on", "Rules", "q", "-LRB-", "Policy", "c", "t", "-RRB-", "na", "q", "/", "t", "q", "-LRB-", "Policy", "c", "t", "p", "-RRB-", "na", "Table", "3", ":", "Default", "na", "Inference", "Rules", "qt", "i", "s.t.", "q", "p", "i", "permit", "q", "-LRB-", "Policy", "PermitOver", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "permit", "qt", "i", "s.t.", "q", "p", "i", "deny", "j", ",", "-LRB-", "q", "p", "j", "permit", "-RRB-", "q", "-LRB-", "Policy", "PermitOver", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "deny", "qt", "i", ",", "q", "p", "i", "na", "q", "-LRB-", "Policy", "PermitOver", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "na", "Table", "4", ":", "Inference", "Rules", "for", "Permit", "Overrides", "qt", "i", "s.t.", "q", "p", "i", "deny", "q", "-LRB-", "Policy", "DenyOver", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "deny", "qt", "i", "s.t.", "q", "p", "i", "permit", "j", ",", "-LRB-", "q", "p", "j", "deny", "-RRB-", "q", "-LRB-", "Policy", "DenyOver", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "permit", "qt", "i", ",", "q", "p", "i", "na", "q", "-LRB-", "Policy", "DenyOver", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "na", "Table", "5", ":", "Inference", "Rules", "for", "Deny", "Overrides", "qt", "q", "p", "1", "permit", "q", "-LRB-", "Policy", "FirstApp", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "permit", "qt", "q", "p", "1", "deny", "q", "-LRB-", "Policy", "FirstApp", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "deny", "qt", "q", "p", "1", "na", "q", "-LRB-", "Policy", "FirstApp", "t", "p", "2", ",", "...", ",", "p", "n", "-RRB-", "d", "q", "-LRB-", "Policy", "FirstApp", "t", "p", "1", "p", "2", "...", "p", "n", "-RRB-", "d", "Table", "6", ":", "Inference", "Rules", "for", "First", "Applicable", "na", "if", "q", "/", "t", "d", "else", "if", "d", "=", "permit", "d", "=", "deny", "t", "FA", "-LRB-", "q", "-RRB-", "-LRB-", "d", "-RRB-", "otherwise", "where", "t", "PO", "-LRB-", "-RRB-", "=", "t", "DO", "-LRB-", "-RRB-", "=", "t", "FA", "-LRB-", "-RRB-", "=", "na", "for", "the", "empty", "sequence", ".", "Theorem", "5.5", ".", "L", "CXACML", "is", "not", "monotonic", ".", "Proof", ".", "Consider", "the", "policy", "p", "in", "Example", "5.1", "and", "the", "policy", "p", "that", "would", "be", "p", "without", "the", "first", "rule", ".", "Let", "the", "request", "q", "be", "-LRB-", "-LRB-", "-LRB-", "role", "dr", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "name", "log", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-RRB-", ".", "p", "-LRB-", "q", "-RRB-", "=", "permit", ",", "but", "p", "-LRB-", "q", "-RRB-", "=", "deny", ".", "Thus", ",", "adding", "a", "rule", "to", "p", "results", "in", "a", "request", "going", "from", "being", "granted", "to", "not", "being", "granted", ".", "Whereas", "XACML", "is", "an", "attempt", "to", "create", "a", "policy", "language", "from", "whole", "cloth", ",", "other", "languages", "are", "adaptations", "of", "first-order", "logic", ".", "Halpern", "and", "Weissman", "present", "several", "schemata", "for", "such", "languages", "-LSB-", "9", "-RSB-", ".", "Here", "we", "present", "and", "analyze", "the", "languages", "produced", "by", "two", "of", "their", "schemata", ",", "Lithium", "and", "L", "5", ".", "For", "the", "ease", "presentation", ",", "first", ",", "we", "define", "the", "language", "schemata", "FOL", ",", "a", "more", "readily", "identifiable", "restriction", "of", "first-order", "logic", ".", "To", "ensure", "efficiency", "-LRB-", "and", "decidability", "!", "-RRB-", ",", "the", "languages", "of", "L", "5", "and", "Lithium", "use", "additional", "context-sensitive", "constraints", "to", "restrict", "FOL", ".", "We", "discuss", "these", "restrictions", "after", "giving", "a", "semantics", "to", "FOL", ".", "-LRB-", "The", "semantics", "of", "L", "5", "and", "Lithium", "will", "be", "the", "same", "as", "that", "of", "FOL", ",", "restricted", "to", "subsets", "of", "the", "language", ".", "-RRB-", "The", "schemata", "FOL", "is", "a", "restriction", "of", "many-sorted", "first-order", "logic", ".", "Each", "language", "of", "FOL", "corresponds", "to", "giving", "the", "logic", "a", "different", "vocabulary", "-LRB-", "the", "parameters", "including", "quantifier", "symbols", ",", "predicate", "symbols", ",", "constant", "symbols", ",", "and", "function", "symbols", "-RRB-", ".", "We", "assume", "that", "includes", "the", "sorts", "S", "for", "subjects", ",", "R", "for", "resources", ",", "A", "for", "actions", ",", "and", "the", "predicate", "symbol", "Permit", "of", "the", "sort", "S", "R", "A", "-LCB-", "T", ",", "F", "-RCB-", ".", "5", "may", "also", "include", "sorts", "to", "represent", "environmental", "data", "such", "as", "the", "current", "time", "and", "location", ".", "6.1", "Syntax", "of", "FOL", "A", "standard", "policy", "under", "the", "vocabulary", "is", "an", "expression", "with", "one", "of", "the", "following", "forms", ":", "-LRB-", "y", "1", "x", "1", ",", "...", ",", "y", "m", "x", "m", "-LRB-", "1", "...", "n", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "y", "1", "x", "1", ",", "...", ",", "y", "m", "x", "m", "-LRB-", "1", "...", "n", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "-RRB-", "-RRB-", "where", "each", "x", "i", "names", "a", "variable", "over", "the", "sort", "identified", "by", "y", "i", ",", "s", "is", "a", "term", "over", "the", "sort", "S", ",", "r", "is", "a", "term", "over", "the", "sort", "R", ",", "a", "is", "a", "term", "over", "the", "sort", "A", ",", "and", "each", "j", "is", "a", "literal", "over", "that", "may", "include", "the", "variables", "x", "1", ",", "...", ",", "x", "m", ".", "The", "policies", "of", "the", "language", "FOL", "-LRB-", "-RRB-", "are", "the", "standard", "policies", "under", "and", "conjunctions", "of", "policies", ":", "P", ":", ":", "=", "StandardPolicy", "|", "-LRB-", "and", "P", "-RRB-", "Example", "6.1", ".", "Let", "the", "vocabulary", "contain", "1", ".", "the", "sorts", "S", "=", "-LCB-", "amy", ",", "bob", ",", "joe", "-RCB-", ",", "R", "=", "-LCB-", "grades", ",", "courses", "-RCB-", ",", "and", "A", "=", "-LCB-", "assign", ",", "enroll", "-RCB-", ";", "5", "Halpern", "and", "Weissman", "treat", "the", "Permit", "predicate", "as", "taking", "two", "arguments", ",", "a", "subject", "and", "a", "resource-action", ",", "instead", "of", "three", ".", "166", "2", ".", "the", "predicates", "Permit", ":", "S", "R", "A", "-LCB-", "T", ",", "F", "-RCB-", ",", "faculty", ":", "S", "-LCB-", "T", ",", "F", "-RCB-", ",", "and", "student", ":", "S", "-LCB-", "T", ",", "F", "-RCB-", ".", "FOL", "-LRB-", "-RRB-", "includes", "the", "following", "policy", ":", "-LRB-", "and", "-LRB-", "S", "x", "-LRB-", "faculty", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "grades", ",", "assign", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "S", "x", "-LRB-", "student", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "grades", ",", "assign", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "S", "x", "-LRB-", "faculty", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "courses", ",", "enroll", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "where", "S", "identifies", "the", "sort", "S", ".", "As", "the", "semantics", "will", "soon", "show", ",", "this", "policy", "has", "the", "same", "meaning", "as", "policy", "p", "from", "Section", "2", "does", "under", "Interpretation", "3", ".", "The", "requests", "of", "FOL", "-LRB-", "-RRB-", "have", "the", "form", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "where", "s", "S", "is", "the", "subject", "making", "the", "request", ";", "r", "R", "is", "the", "requested", "resource", ";", "a", "A", "is", "the", "action", "the", "subject", "would", "like", "to", "preform", "on", "the", "resource", ";", "and", "e", "is", "a", "conjunction", "of", "ground", "literals", "and", "universal", "formulas", "of", "the", "form", "y", "1", "x", "1", ",", "...", ",", "y", "m", "x", "m", "-LRB-", "1", "...", "n", "n", "+1", "-RRB-", "where", "each", "x", "i", "names", "a", "variable", "over", "the", "sort", "identified", "by", "y", "i", "and", "each", "i", "is", "a", "literal", "over", "that", "may", "include", "the", "variables", "x", "l", ",", "...", ",", "x", "m", ".", "The", "expression", "e", "provides", "information", "about", "s", ",", "r", ",", "a", ",", "and", "the", "environment", ".", "Example", "6.2", ".", "The", "four-tuple", "-LRB-", "bob", ",", "courses", ",", "enroll", ",", "student", "-LRB-", "bob", "-RRB-", "faculty", "-LRB-", "amy", "-RRB-", "student", "-LRB-", "amy", "-RRB-", "-RRB-", "is", "a", "request", "of", "FOL", "-LRB-", "-RRB-", "where", "is", "defined", "in", "Example", "6.1", ".", "6.2", "Semantics", "of", "FOL", "The", "semantics", "of", "a", "policy", "follows", "from", "interpreting", "it", "as", "a", "formula", "in", "many-sorted", "first-order", "logic", ".", "The", "policy", "combinator", "and", "becomes", "conjunction", ".", "The", "standard", "policies", "and", "e", "are", "interpreted", "as", "the", "corresponding", "logic", "formulas", ".", "A", "policy", "p", "defines", "a", "relation", "p", "between", "requests", "and", "-LCB-", "permit", ",", "deny", "-RCB-", "as", "follows", ":", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "p", "permit", "iff", "p", "e", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "p", "deny", "iff", "p", "e", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "where", "is", "interpreted", "as", "the", "standard", "``", "proves", "''", "relation", "for", "many-sorted", "first-order", "logic", "over", ".", "To", "define", "a", "deterministic", "and", "total", "version", "of", "FOL", ",", "we", "expand", "the", "set", "of", "decisions", "to", "D", "=", "-LCB-", "na", ",", "permit", ",", "deny", ",", "error", "-RCB-", "and", "define", "p", "-LRB-", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "-RRB-", "to", "be", "error", "if", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "and", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "permit", "if", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "and", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "deny", "if", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "and", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "na", "if", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "and", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "Since", "a", "policy", "composed", "of", "sub-policies", ",", "each", "composed", "of", "standard", "policies", ",", "is", "semantically", "equivalent", "to", "a", "policy", "composed", "of", "all", "the", "standard", "policies", "without", "the", "intermediate", "sub-policies", ",", "we", "will", "henceforth", "treat", "all", "policies", "as", "either", "a", "standard", "policy", "or", "a", "conjunction", "of", "standard", "policies", ".", "6.3", "Analysis", "of", "FOL", "The", "language", "FOL", "-LRB-", "-RRB-", "defines", "the", "deterministic", "and", "total", "policy", "language", "-LRB-", "P", ",", "Q", ",", "G", ",", "N", ",", "-RRB-", ".", "The", "syntax", "determines", "P", "and", "Q", "where", "Q", "may", "be", "treated", "as", "a", "set", "of", "requests", "since", "for", "all", "policies", "p", "and", "p", ",", "Q", "p", "=", "Q", "p", ".", "The", "semantics", "requires", "that", "G", "=", "-LCB-", "permit", "-RCB-", "and", "N", "=", "-LCB-", "na", ",", "deny", ",", "error", "-RCB-", ".", "The", "languages", "of", "FOL", "has", "the", "policy", "combinator", "and", ".", "FOL", "allows", "for", "explicit", "denials", "and", "checking", "for", "the", "explicit", "absence", "of", "attributes", ".", "Given", "two", "requests", "q", "=", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "and", "q", "=", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", ",", "if", "s", "=", "s", ",", "r", "=", "r", ",", "or", "a", "=", "a", ",", "we", "consider", "the", "two", "requests", "incomparable", ".", "If", "s", "=", "s", ",", "r", "=", "r", ",", "and", "a", "=", "a", ",", "then", "we", "would", "like", "to", "order", "requests", "according", "to", "their", "information", "content", ".", "One", "might", "conclude", "that", "q", "p", "q", "if", "e", "=", "e.", "However", ",", "suppose", "e", "=", ",", "where", "is", "logical", "contradiction", ".", "Then", "e", "contains", "no", "information", "and", "yet", "it", "implies", "e.", "Similarly", ",", "if", "p", "e", "=", ",", "then", "e", "contains", "no", "information", "with", "respect", "to", "p.", "Thus", ",", "we", "define", "p", "as", "follows", ":", "Let", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "p", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "iff", "1", ".", "s", "=", "s", ",", "r", "=", "r", ",", "and", "a", "=", "a", ";", "and", "2", ".", "p", "e", "implies", "p", "e", "but", "not", ",", "or", "p", "e", "implies", ".", "Theorem", "6.3", ".", "FOL", "-LRB-", "-RRB-", "is", "safe", "with", "respect", "to", "for", "any", "vocabulary", ".", "Proof", ".", "Assume", "FOL", "-LRB-", "-RRB-", "is", "not", "safe", ".", "Then", "there", "must", "exist", "p", "P", "and", "q", ",", "q", "Q", "such", "that", "q", "p", "q", "and", "p", "-LRB-", "q", "-RRB-", "p", "-LRB-", "q", "-RRB-", ".", "Let", "q", "=", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "and", "q", "=", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", ".", "Since", "permit", "is", "the", "only", "granting", "decision", ",", "p", "-LRB-", "q", "-RRB-", "=", "permit", "and", "thus", "p", "e", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", ".", "Since", "N", "=", "-LCB-", "na", ",", "deny", ",", "error", "-RCB-", ",", "p", "-LRB-", "q", "-RRB-", "must", "be", "either", "na", ",", "deny", ",", "or", "error", ".", "Since", "q", "p", "q", ",", "two", "cases", "arise", ":", "1", ".", "pe", "implies", "pe", "but", "not", ":", "Since", "pe", "=", "pe", "and", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", ",", "pe", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", ".", "Thus", ",", "p", "-LRB-", "q", "-RRB-", "is", "either", "permit", "or", "error", ".", "However", ",", "if", "p", "-LRB-", "q", "-RRB-", "=", "error", ",", "then", "pe", "=", ",", "a", "contradiction", ".", "Furthermore", ",", "p", "-LRB-", "q", "-RRB-", "=", "permit", "/", "N", "is", "also", "a", "contradiction", ".", "2", ".", "p", "e", "implies", ":", "In", "this", "case", ",", "p", "-LRB-", "q", "-RRB-", "=", "error", "=", "permit", ",", "a", "contradiction", ".", "We", "can", "thus", "conclude", "that", "FOL", "-LRB-", "-RRB-", "must", "be", "safe", ".", "Theorem", "6.4", ".", "FOL", "-LRB-", "-RRB-", "does", "not", "have", "independent", "composition", "for", "some", ".", "Proof", ".", "Consider", "the", "policy", "p", "a", ":", "-LRB-", "and", "-LRB-", "S", "x", ",", "student", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "log", ",", "read", "-RRB-", "-RRB-", "-LRB-", "S", "x", ",", "student", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "log", ",", "read", "-RRB-", "-RRB-", "-RRB-", "the", "policy", "p", "b", ":", "-LRB-", "and", "-LRB-", "S", "x", ",", "student", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "log", ",", "edit", "-RRB-", "-RRB-", "-LRB-", "S", "x", ",", "student", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "log", ",", "edit", "-RRB-", "-RRB-", "-RRB-", "and", "request", "q", "=", "-LRB-", "bob", ",", "log", ",", "read", ",", "T", "-RRB-", ".", "On", "q", ",", "p", "a", "produces", "the", "decision", "of", "permit", "while", "its", "sub-policies", "yield", "na", ".", "However", ",", "p", "b", "produces", "the", "decision", "of", "na", "while", "its", "sub-policies", "also", "yield", "na", "on", "q.", "Thus", ",", "the", "required", "function", "and", "would", "have", "to", "satisfy", "permit", "=", "and", "-LRB-", "q", "-RRB-", "-LRB-", "na", "na", "-RRB-", "=", "na", "A", "contradiction", ",", "and", "hence", "and", "can", "not", "exist", ".", "Theorem", "6.5", ".", "FOL", "-LRB-", "-RRB-", "is", "not", "monotonic", "for", "some", ".", "Proof", ".", "Consider", "the", "policy", "p", "c", ":", "-LRB-", "and", "-LRB-", "S", "x", ",", "student", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "log", ",", "read", "-RRB-", "-RRB-", "-LRB-", "S", "x", ",", "student", "-LRB-", "x", "-RRB-", "Permit", "-LRB-", "x", ",", "log", ",", "read", "-RRB-", "-RRB-", "-RRB-", "with", "and", "without", "the", "second", "sub-policy", ",", "and", "the", "request", "-LRB-", "bob", ",", "log", ",", "read", ",", "student", "-LRB-", "bob", "-RRB-", "-RRB-", ".", "In", "the", "absence", "of", "the", "second", "sub-policy", ",", "the", "decision", "is", "permit", ",", "whereas", "p", "c", "produces", "error", ".", "167", "6.4", "Analysis", "of", "Lithium", "Halpern", "and", "Weissman", "restrict", "FOL", "to", "create", "the", "language", "they", "dub", "Lithium", ".", "6", "A", "slightly", "modified", "form", "follows", ".", "Lithium", "relies", "heavily", "on", "the", "notion", "of", "``", "bipolarity", "''", ".", "A", "literal", "of", "f", "is", "labeled", "bipolar", "in", "f", "relative", "to", "the", "equality", "statements", "in", "e", "if", "the", "following", "holds", ":", "there", "exists", "a", "term", "in", "f", "and", "variable", "substitutions", "and", "such", "that", "it", "follows", "from", "e", "that", "=", ".", "Lithium", "also", "makes", "use", "of", "the", "notion", "of", "equality-safety", ".", "-LRB-", "p", ",", "e", "0", ",", "e", "1", "-RRB-", "is", "equality-safe", "if", "1", ".", "e", "1", "p", "when", "written", "in", "CNF", "-LRB-", "i.e.", ",", "of", "the", "form", "c", "1", "...", "c", "n", "where", "each", "c", "j", "has", "the", "form", "y", "1", "x", "1", ",", "...", ",", "y", "m", "x", "m", "-LRB-", "-RRB-", "where", "is", "a", "qualifier-free", "disjunction", "of", "literals", "-RRB-", "has", "no", "clause", "with", "a", "disjunct", "of", "the", "form", "t", "=", "t", ",", "and", "2", ".", "it", "is", "not", "the", "case", "that", "f", "0", "t", "=", "t", "where", "f", "0", "is", "the", "conjunction", "of", "the", "equality", "statements", "in", "e", "0", ",", "where", "t", "and", "t", "are", "closed", "terms", "such", "that", "-LRB-", "1", "-RRB-", "they", "both", "appear", "in", "e", "0", ";", "and", "-LRB-", "2", "-RRB-", "either", "t", "is", "a", "sub-term", "of", "t", ",", "or", "both", "t", "and", "t", "mention", "function", "symbols", ".", "Like", "FOL", ",", "Lithium", "is", "a", "set", "of", "languages", "each", "with", "a", "different", "vocabulary", ".", "Let", "Li", "-LRB-", "-RRB-", "be", "the", "instance", "of", "Lithium", "using", "the", "vocabulary", ".", "Li", "-LRB-", "-RRB-", "has", "the", "same", "set", "of", "policies", "as", "FOL", "-LRB-", "-RRB-", ".", "However", ",", "each", "policy", "p", "of", "Li", "-LRB-", "-RRB-", "has", "a", "different", "set", "of", "requests", "for", "which", "it", "is", "defined", "-LRB-", "a", "different", "value", "for", "Q", "p", "-RRB-", ".", "A", "request", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "0", "e", "1", "-RRB-", "of", "FOL", "-LRB-", "-RRB-", "is", "in", "Q", "p", "iff", ":", "1", ".", "e", "0", "is", "a", "basic", "environment", "-LRB-", "a", "conjunction", "of", "ground", "terms", "-RRB-", ",", "2", ".", "e", "1", "is", "a", "conjunction", "of", "universally", "quantified", "formulas", ",", "3", ".", "-LRB-", "p", ",", "e", "0", ",", "e", "1", "-RRB-", "is", "equality-safe", ",", "and", "4", ".", "every", "conjunct", "of", "e", "1", "p", "has", "at", "most", "one", "literal", "that", "is", "bipolar", "in", "e", "1", "p", "relative", "to", "the", "equality", "statements", "in", "e", "0", ".", "Lithium", "is", "safe", "since", "its", "requests", "are", "a", "subset", "of", "those", "of", "FOL", ".", "Theorem", "6.6", ".", "Lithium", "does", "not", "have", "independent", "composition", "for", "some", ".", "Proof", ".", "Consider", "the", "policies", "p", "a", "and", "p", "b", "and", "the", "request", "given", "with", "them", "in", "the", "proof", "of", "Theorem", "6.4", ".", "The", "request", "is", "in", "Q", "p", "a", ".", "To", "show", "this", ",", "we", "check", "that", "the", "request", "satisfies", "all", "four", "of", "the", "requirements", "for", "a", "request", "to", "be", "in", "Q", "p", "a", "given", "above", ".", "Since", "e", "0", "e", "1", "=", "T", ",", "the", "first", "three", "requirements", "hold", ".", "The", "last", "requirement", "holds", "since", "student", "-LRB-", "x", "-RRB-", "and", "student", "-LRB-", "x", "-RRB-", "are", "the", "only", "bipolars", "and", "they", "are", "each", "in", "a", "different", "conjunct", ".", "By", "similar", "reasoning", ",", "the", "request", "is", "also", "in", "Q", "p", "b", ".", "Thus", ",", "the", "proof", "follows", "as", "before", ".", "6.5", "Analysis", "of", "L", "5", "In", "their", "work", ",", "Halpern", "and", "Weissman", "define", "a", "further", "restriction", "of", "FOL", ",", "which", "they", "call", "L", "5", ".", "Like", "Lithium", ",", "L", "5", "-LRB-", "-RRB-", "includes", "all", "the", "policies", "of", "FOL", "-LRB-", "-RRB-", "with", "each", "policy", "having", "a", "different", "set", "of", "requests", "for", "which", "it", "is", "defined", ".", "For", "a", "policy", "p", "of", "L", "5", "-LRB-", "-RRB-", ",", "Q", "p", "consists", "of", "all", "the", "requests", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "of", "FOL", "-LRB-", "-RRB-", "such", "that", ":", "6", "The", "name", "Lithium", "only", "appears", "in", "the", "2006", "version", "of", "their", "work", "-LSB-", "9", "-RSB-", ".", "1", ".", "e", "is", "a", "basic", "environment", ",", "2", ".", "equality", "is", "not", "used", "in", "e", "or", "p", ",", "3", ".", "for", "every", "atomic", "policy", "p", "in", "p", ",", "all", "variables", "appearing", "in", "p", "appears", "as", "an", "argument", "to", "Permit", "in", "p", ",", "and", "4", ".", "there", "are", "no", "bipolars", "in", "p", "relative", "to", "the", "empty", "set", "of", "equality", "statements", ".", "As", "with", "Lithium", ",", "L", "5", "-LRB-", "-RRB-", "is", "safe", "since", "it", "is", "a", "subset", "of", "a", "safe", "language", ".", "Halpern", "and", "Weissman", "have", "proven", "the", "following", "theorem", "-LRB-", "Proposition", "4.2", "in", "their", "updated", "document", "-LSB-", "9", "-RSB-", "-RRB-", ":", "Theorem", "6.7", ".", "Let", "p", "be", "a", "compound", "policy", "and", "-LRB-", "s", ",", "r", ",", "a", ",", "e", "-RRB-", "be", "a", "request", "of", "L", "5", ".", "Then", "e", "p", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "iffthere", "is", "a", "sub-policy", "p", "of", "p", "such", "that", "e", "p", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", ".", "Using", "the", "same", "approach", "as", "given", "in", "their", "proof", ",", "one", "can", "generalize", "this", "proof", "to", "include", "statements", "of", "the", "form", "ep", "Permit", "-LRB-", "s", ",", "r", ",", "a", "-RRB-", "also", ".", "Theorem", "6.8", ".", "L", "5", "-LRB-", "-RRB-", "has", "independent", "composition", "for", "all", ".", "Proof", ".", "Allowing", "p", "i", "to", "range", "over", "the", "sub-policies", "of", "p", ",", "the", "above", "result", "yields", ":", "p", "-LRB-", "q", "-RRB-", "=", "8", ">", ">", ">", "<", ">", ">", ">", ":", "error", "i", ",", "j", ",", "p", "i", "-LRB-", "q", "-RRB-", "=", "permit", "p", "j", "-LRB-", "q", "-RRB-", "=", "deny", "permit", "else", "if", "i", ",", "p", "i", "-LRB-", "q", "-RRB-", "=", "permit", "deny", "else", "if", "i", ",", "p", "i", "-LRB-", "q", "-RRB-", "=", "deny", "deny", "otherwise", "From", "this", ",", "it", "is", "easy", "to", "construct", "an", "appropriate", "value", "for", "and", "-LRB-", "q", "-RRB-", "-LRB-", "d", "1", ",", "d", "2", ",", "...", ",", "d", "n", "-RRB-", ":", "error", "if", "i", ",", "j", ",", "d", "i", "=", "permit", "d", "j", "=", "deny", "permit", "else", "if", "i", ",", "d", "i", "=", "permit", "deny", "else", "if", "i", ",", "d", "i", "=", "deny", "deny", "otherwise", "Notice", "that", "and", "does", "not", "use", "the", "value", "of", "q", ":", "it", "merely", "composes", "the", "results", "from", "its", "sub-policies", ".", "A", "policy", "author", "concerned", "solely", "with", "expressive", "power", "would", "select", "Lithium", "over", "L", "5", ".", "However", ",", "the", "choice", "becomes", "more", "complicated", "when", "concerned", "about", "the", "ability", "to", "reason", "about", "policies", ",", "because", "only", "L", "5", "features", "independent", "composition", ".", "We", "hope", "that", "elucidating", "this", "trade-off", "with", "a", "combination", "of", "proof", "and", "illustrative", "examples", ",", "as", "we", "have", "done", "above", ",", "will", "help", "authors", "choose", "better", "between", "the", "policy", "languages", "they", "use", ",", "even", "when", "the", "languages", "are", "within", "the", "same", "family", ".", "De", "Capitani", "di", "Vimercati", "et", "al.", "discuss", "explicit", "denial", "and", "how", "it", "introduces", "the", "need", "for", "policy", "combinators", "that", "reduce", "the", "clarity", "of", "the", "language", "-LSB-", "4", "-RSB-", ".", "The", "authors", "list", "various", "policy", "combinators", "that", "are", "possible", ",", "many", "of", "which", "are", "more", "complex", "than", "those", "we", "present", ".", "The", "paper", "includes", "discussion", "of", "a", "few", "policy", "languages", ",", "including", "XACML", "and", "a", "language", "grounded", "in", "first-order", "logic", ".", "The", "paper", "does", "not", ",", "however", ",", "attempt", "to", "systemically", "compare", "them", ".", "The", "work", "of", "Mark", "Evered", "and", "Serge", "B", "ogeholz", "concerns", "the", "quality", "of", "a", "policy", "language", "-LSB-", "5", "-RSB-", ".", "After", "conducting", "a", "case", "study", "of", "the", "access-control", "requirements", "of", "a", "health", "168", "information", "system", ",", "they", "proposed", "a", "list", "of", "criteria", "for", "policy", "languages", ".", "They", "state", "that", "languages", "should", "be", "concise", ",", "clear", ",", "aspect-oriented", "-LRB-", "i.e.", ",", "separate", "from", "the", "application", "code", "-RRB-", ",", "fundamental", "-LRB-", "i.e.", ",", "integrated", "with", "the", "middleware", ",", "not", "an", "ad", "hoc", "addition", "-RRB-", ",", "positive", "-LRB-", "i.e.", ",", "lists", "what", "is", "allowed", ",", "not", "what", "is", "prohibited", "-RRB-", ",", "supportive", "of", "needs-to-know", ",", "and", "efficient", ".", "Although", "they", "compare", "four", "languages", "based", "on", "these", "criteria", ",", "they", "do", "not", "formalize", "the", "criteria", ".", "Some", "authors", "have", "considered", "formal", "treatments", "of", "programming", "language", "expressiveness", "-LSB-", "6", ",", "11", "-RSB-", ".", "Felleisen", "'s", "is", "the", "closest", "in", "spirit", "to", "ours", ".", "His", "framework", "examines", "the", "ability", "to", "translate", "the", "features", "of", "one", "language", "in", "the", "other", "with", "only", "local", "transformations", ".", "That", "work", "does", "not", ",", "however", ",", "directly", "address", "reasoning", ".", "This", "paper", "presents", "our", "analysis", "framework", "and", "its", "findings", ".", "Some", "differences", "between", "languages", "lie", "in", "the", "realms", "of", "decision", "sets", ",", "policy", "combinators", ",", "and", "checking", "for", "the", "absence", "of", "attributes", ",", "but", "these", "are", "clear", "from", "the", "language", "definitions", ".", "Our", "framework", "highlights", "the", "following", "more", "subtle", ",", "semantic", "differences", ":", "Independence", "Core", "XACML", "and", "L", "5", "feature", "independent", "composition", "of", "polices", "into", "compound", "policies", ",", "and", "thus", "allow", "for", "reasoning", "about", "a", "policy", "by", "reasoning", "about", "the", "sub-policies", "separately", ".", "Lithium", ",", "in", "contrast", ",", "does", "not", "exhibit", "this", "property", ",", "and", "therefore", "potentially", "requires", "reasoning", "about", "a", "policy", "all", "at", "once", ".", "Safety", "L", "5", "and", "Lithium", "provide", "safety", "for", "the", "most", "natural", "definition", "of", "the", "``", "contains", "more", "information", "''", "ordering", ".", "Core", "XACML", ",", "in", "contrast", ",", "does", "not", ",", "which", "implies", "that", "information", "missing", "from", "a", "Core", "XACML", "request", "could", "result", "in", "unintended", "access", "being", "granted", ".", "These", "differences", "are", "not", "orthogonal", ".", "Clearly", ",", "the", "combinators", "selected", "determine", "whether", "the", "language", "will", "have", "independent", "composition", ".", "Furthermore", ",", "implicit", "checking", "of", "attributes", "will", "result", "in", "the", "loss", "of", "safety", ".", "These", "properties", "may", "guide", "policy", "language", "designers", ".", "For", "example", ",", "suppose", "a", "designer", "wishes", "to", "create", "a", "safe", "variant", "of", "XACML", ".", "One", "way", "to", "achieve", "this", "would", "be", "to", "eliminate", "rules", "that", "deny", "access", "and", "thus", "the", "decision", "of", "deny", ".", "-LRB-", "We", "provide", "further", "details", "in", "an", "extended", "version", "of", "this", "work", "-LSB-", "15", "-RSB-", ".", "-RRB-", "As", "noted", "in", "Section", "5", ",", "the", "comparison", "framework", "must", "be", "generalized", "to", "treat", "language", "with", "more", "exotic", "constructs", "like", "obligations", ".", "More", "importantly", ",", "we", "need", "to", "perform", "user", "studies", "to", "determine", "whether", ",", "and", "how", "well", ",", "our", "properties", "correlate", "with", "policy", "comprehension", "by", "humans", ".", "Lastly", ",", "this", "framework", "should", "be", "coupled", "with", "one", "for", "measuring", "the", "expressive", "power", "of", "a", "policy", "language", "before", "fair", "judgment", "may", "be", "passed", "on", "languages", ".", "We", "thank", "Joe", "Halpern", "and", "Vicky", "Weissman", "for", "useful", "conversations", "and", "for", "sharing", "their", "ongoing", "work", ".", "We", "also", "thank", "Konstantin", "Beznosov", ",", "Kathi", "Fisler", ",", "and", "Steve", "Reiss", ".", "This", "work", "was", "partially", "supported", "by", "NSF", "grant", "CPA-0429492", "to", "Brown", "University", "and", "by", "the", "Army", "Research", "Office", "through", "grant", "number", "DAAD19-02-1-0389", "-LRB-", "``", "Perpetually", "Available", "and", "Secure", "Information", "Systems", "''", "-RRB-", "to", "Carnegie", "Mellon", "Uni-versity", "'s", "CyLab", ".", "-LSB-", "1", "-RSB-", "A.", "Anderson", ".", "Core", "and", "hierarchical", "role", "based", "access", "control", "-LRB-", "RBAC", "-RRB-", "profile", "of", "XACML", ",", "version", "2.0", ".", "Technical", "report", ",", "OASIS", ",", "Sept.", "2004", ".", "-LSB-", "2", "-RSB-", "M.", "Y.", "Becker", "and", "P.", "Sewell", ".", "Cassandra", ":", "Flexible", "trust", "management", ",", "applied", "to", "electronic", "health", "records", ".", "In", "IEEE", "Computer", "Security", "Foundations", "Workshop", ",", "pages", "139", "154", ",", "2004", ".", "-LSB-", "3", "-RSB-", "E.", "Bertino", ",", "P.", "Samarati", ",", "and", "S.", "Jajodia", ".", "Authorizations", "in", "relational", "database", "management", "systems", ".", "In", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", ",", "pages", "130", "139", ",", "1993", ".", "-LSB-", "4", "-RSB-", "S.", "De", "Capitani", "di", "Vimercati", ",", "P.", "Samarati", ",", "and", "S.", "Jajodia", ".", "Policies", ",", "models", ",", "and", "languages", "for", "access", "control", ".", "In", "Databases", "in", "Networked", "Information", "Systems", ":", "4th", "International", "Workshop", ",", "volume", "3433", "of", "Lecture", "Notes", "in", "Computer", "Science", ".", "Springer-Verlag", ",", "Mar.", "2005", ".", "-LSB-", "5", "-RSB-", "M.", "Evered", "and", "S.", "B", "ogeholz", ".", "A", "case", "study", "in", "access", "control", "requirements", "for", "a", "health", "information", "system", ".", "In", "Workshop", "on", "Australasian", "Information", "Security", ",", "Data", "Mining", "and", "Web", "Intelligence", ",", "and", "Software", "Internationalisation", ",", "pages", "53", "61", ",", "2004", ".", "-LSB-", "6", "-RSB-", "M.", "Felleisen", ".", "On", "the", "expressive", "power", "of", "programming", "languages", ".", "Science", "of", "Computer", "Programming", ",", "17:35", "75", ",", "1991", ".", "-LSB-", "7", "-RSB-", "K.", "Fisler", ",", "S.", "Krishnamurthi", ",", "L.", "A.", "Meyerovich", ",", "and", "M.", "C.", "Tschantz", ".", "Verification", "and", "change-impact", "analysis", "of", "access-control", "policies", ".", "In", "International", "Conference", "on", "Software", "Engineering", ",", "pages", "196", "205", ",", "May", "2005", ".", "-LSB-", "8", "-RSB-", "M.", "M.", "Greenberg", ",", "C.", "Marks", ",", "L.", "A.", "Meyerovich", ",", "and", "M.", "C.", "Tschantz", ".", "The", "soundness", "and", "completeness", "of", "Margrave", "with", "respect", "to", "a", "subset", "of", "XACML", ".", "Technical", "Report", "CS-05-05", ",", "Department", "of", "Computer", "Science", ",", "Brown", "University", ",", "Apr.", "2005", ".", "-LSB-", "9", "-RSB-", "J.", "Halpern", "and", "V.", "Weissman", ".", "Using", "first-order", "logic", "to", "reason", "about", "policies", ".", "In", "IEEE", "Computer", "Security", "Foundations", "Workshop", ",", "pages", "187", "201", ",", "2003", ".", "Updated", "2006", "version", "available", "at", "http://www.citebase.org/", "cgi-bin/citations", "?", "id", "=", "oai", ":", "arXiv.org", ":", "cs/0601034", ".", "-LSB-", "10", "-RSB-", "S.", "Jajodia", ",", "P.", "Samarati", ",", "V.", "S.", "Subrahmanian", ",", "and", "E.", "Bertino", ".", "A", "unified", "framework", "for", "enforcing", "multiple", "access", "control", "policies", ".", "In", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pages", "474", "485", ",", "1997", ".", "-LSB-", "11", "-RSB-", "J.", "C.", "Mitchell", ".", "On", "abstraction", "and", "the", "expressive", "power", "of", "programming", "languages", ".", "Science", "of", "Computer", "Programming", ",", "212:141", "163", ",", "1993", ".", "-LSB-", "12", "-RSB-", "OASIS", ".", "eXtensible", "Access", "Control", "Markup", "Language", "-LRB-", "XACML", "-RRB-", "version", "2.0", ".", "OASIS", "Standard", ",", "Feb.", "2006", ".", "-LSB-", "13", "-RSB-", "C.", "Powers", "and", "M.", "Schunter", ".", "Enterprise", "privacy", "authorization", "language", "-LRB-", "EPAL", "1.2", "-RRB-", ".", "W3C", "Member", "Submission", ",", "Nov.", "2003", ".", "-LSB-", "14", "-RSB-", "R.", "S.", "Sandhu", ",", "E.", "J.", "Coyne", ",", "H.", "L.", "Feinstein", ",", "and", "C.", "E.", "Youman", ".", "Role-based", "access", "control", "models", ".", "IEEE", "Computer", ",", "29", "-LRB-", "2", "-RRB-", ":", "38", "47", ",", "1996", ".", "-LSB-", "15", "-RSB-", "M.", "C.", "Tschantz", "and", "S.", "Krishnamurthi", ".", "Towards", "reasonability", "properties", "for", "access-control", "policy", "languages", "with", "extended", "XACML", "analysis", ".", "Technical", "Report", "CS-06-04", ",", "Department", "of", "Computer", "Science", ",", "Brown", "University", ",", "Apr.", "2006", ".", "169"], "doc_bio_tags": ["O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["policy language", "security", "xacml", "policy combinator", "lithium", "properties", "formalize", "policy decomposition", "access control", "policy", "common features"], "abstractive_keyphrases": ["first order logic", "modularity", "reasonability property", "access-control policy", "multiple policy language", "policy language property", "comtemporary policy", "policy languague"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "156", "document": ["Publicly", "Verifiable", "Ownership", "Protection", "for", "Relational", "Databases", "Today", ",", "watermarking", "techniques", "have", "been", "extended", "from", "the", "multimedia", "context", "to", "relational", "databases", "so", "as", "to", "protect", "the", "ownership", "of", "data", "even", "after", "the", "data", "are", "published", "or", "distributed", ".", "However", ",", "all", "existing", "watermarking", "schemes", "for", "relational", "databases", "are", "secret", "key", "based", ",", "thus", "require", "a", "secret", "key", "to", "be", "presented", "in", "proof", "of", "ownership", ".", "This", "means", "that", "the", "ownership", "can", "only", "be", "proven", "once", "to", "the", "public", "-LRB-", "e.g.", ",", "to", "the", "court", "-RRB-", ".", "After", "that", ",", "the", "secret", "key", "is", "known", "to", "the", "public", "and", "the", "embedded", "watermark", "can", "be", "easily", "destroyed", "by", "malicious", "users", ".", "Moreover", ",", "most", "of", "the", "existing", "techniques", "introduce", "distortions", "to", "the", "underlying", "data", "in", "the", "watermarking", "process", ",", "either", "by", "modifying", "least", "significant", "bits", "or", "exchanging", "categorical", "values", ".", "The", "distortions", "inevitably", "reduce", "the", "value", "of", "the", "data", ".", "In", "this", "paper", ",", "we", "propose", "a", "watermarking", "scheme", "by", "which", "the", "ownership", "of", "data", "can", "be", "publicly", "proven", "by", "anyone", ",", "as", "many", "times", "as", "necessary", ".", "The", "proposed", "scheme", "is", "distortion-free", ",", "thus", "suitable", "for", "watermarking", "any", "type", "of", "data", "without", "fear", "of", "error", "constraints", ".", "The", "proposed", "scheme", "is", "robust", "against", "typical", "database", "attacks", "including", "tuple/attribute", "insertion/deletion", ",", "ran-dom/selective", "value", "modification", ",", "data", "frame-up", ",", "and", "additive", "attacks", "H.", "2.4", "-LSB-", "Database", "Management", "-RSB-", ":", "Systems", "--", "relational", "databases", "Ownership", "protection", "of", "digital", "products", "after", "dissemination", "has", "long", "been", "a", "concern", "due", "to", "the", "high", "value", "of", "these", "assets", "and", "the", "low", "cost", "of", "copying", "them", "-LRB-", "i.e.", ",", "piracy", "problem", "-RRB-", ".", "With", "the", "fast", "development", "of", "information", "technology", ",", "an", "increasing", "number", "of", "digital", "products", "are", "distributed", "through", "the", "internet", ".", "The", "piracy", "problem", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ASIACCS", "'", "06", ",", "March", "21-24", ",", "2006", ",", "Taipei", ",", "Taiwan", ".", "Copyright", "2006", "ACM", "1-59593-272-0", "/", "06/0003", "...", "$", "5.00", ".", "has", "become", "one", "of", "the", "most", "devastating", "threats", "to", "networking", "systems", "and", "electronic", "business", ".", "In", "recent", "years", ",", "realizing", "that", "``", "the", "law", "does", "not", "now", "provide", "sufficient", "protection", "to", "the", "comprehensive", "and", "commercially", "and", "publicly", "useful", "databases", "that", "are", "at", "the", "heart", "of", "the", "information", "economy", "''", "-LSB-", "12", "-RSB-", ",", "people", "have", "joined", "together", "to", "fight", "against", "theft", "and", "misuse", "of", "databases", "published", "online", "-LRB-", "e.g.", ",", "parametric", "specifications", ",", "surveys", ",", "and", "life", "sciences", "data", "-RRB-", "-LSB-", "32", ",", "4", "-RSB-", ".", "To", "address", "this", "concern", "and", "to", "fight", "against", "data", "piracy", ",", "watermarking", "techniques", "have", "been", "introduced", ",", "first", "in", "the", "multimedia", "context", "and", "now", "in", "relational", "database", "literature", ",", "so", "that", "the", "ownership", "of", "the", "data", "can", "be", "asserted", "based", "on", "the", "detection", "of", "watermark", ".", "The", "use", "of", "watermark", "should", "not", "affect", "the", "usefulness", "of", "data", ",", "and", "it", "must", "be", "difficult", "for", "a", "pirate", "to", "invalidate", "watermark", "detection", "without", "rendering", "the", "data", "much", "less", "useful", ".", "Watermarking", "thus", "deters", "illegal", "copying", "by", "providing", "a", "means", "for", "establishing", "the", "original", "ownership", "of", "a", "redistributed", "copy", "-LSB-", "1", "-RSB-", ".", "In", "recent", "years", ",", "researchers", "have", "developed", "a", "variety", "of", "watermarking", "techniques", "for", "protecting", "the", "ownership", "of", "relational", "databases", "-LSB-", "1", ",", "28", ",", "26", ",", "29", ",", "13", ",", "19", ",", "20", ",", "2", "-RSB-", "-LRB-", "see", "Section", "5", "for", "more", "on", "related", "work", "-RRB-", ".", "One", "common", "feature", "of", "these", "techniques", "is", "that", "they", "are", "secret", "key", "based", ",", "where", "ownership", "is", "proven", "through", "the", "knowledge", "of", "a", "secret", "key", "that", "is", "used", "for", "both", "watermark", "insertion", "and", "detection", ".", "Another", "common", "feature", "is", "that", "distortions", "are", "introduced", "to", "the", "underlying", "data", "in", "the", "process", "of", "watermarking", ".", "Most", "techniques", "modify", "numerical", "attributes", "-LSB-", "1", ",", "28", ",", "29", ",", "13", ",", "19", ",", "20", "-RSB-", ",", "while", "others", "swap", "categorical", "values", "-LSB-", "26", ",", "2", "-RSB-", ".", "The", "distortions", "are", "made", "such", "that", "the", "usability", "of", "data", "for", "certain", "applications", "is", "not", "affected", "and", "that", "watermark", "detection", "can", "be", "performed", "even", "in", "the", "presence", "of", "attacks", "such", "as", "value", "modification", "and", "tuple", "selection", ".", "The", "above", "two", "features", "may", "severely", "affect", "the", "application", "of", "watermarking", "techniques", "for", "relational", "databases", ".", "First", ",", "the", "secret", "key", "based", "approach", "is", "not", "suitable", "for", "proving", "ownership", "to", "the", "public", "-LRB-", "e.g.", ",", "in", "a", "court", "-RRB-", ".", "To", "prove", "ownership", "of", "suspicious", "data", ",", "the", "owner", "has", "to", "reveal", "his", "secret", "key", "to", "the", "public", "for", "watermark", "detection", ".", "After", "being", "used", "one", "time", ",", "the", "key", "is", "no", "longer", "secret", ".", "With", "access", "to", "the", "key", ",", "a", "pirate", "can", "invalidate", "watermark", "detection", "by", "either", "removing", "watermarks", "from", "protected", "data", "or", "adding", "a", "false", "watermark", "to", "non-watermarked", "data", ".", "Second", ",", "the", "distortions", "that", "are", "introduced", "in", "the", "process", "of", "watermarking", "may", "affect", "the", "usefulness", "of", "data", ".", "Even", "though", "certain", "kind", "of", "error", "constraints", "-LRB-", "e.g.", ",", "means", "and", "variances", "of", "watermarked", "attributes", "-RRB-", "can", "be", "enforced", "prior", "to", "or", "during", "the", "watermarking", "process", ",", "it", "is", "difficult", "or", "even", "impossible", "to", "quantify", "all", "possible", "constraints", ",", "which", "may", "include", "domain", "constraint", ",", "unique-ness", "constraint", ",", "referential", "integrity", "constraint", ",", "functional", "dependencies", ",", "semantic", "integrity", "constraint", ",", "association", ",", "correlation", ",", "car-dinality", "constraint", ",", "the", "frequencies", "of", "attribute", "values", ",", "and", "statisti", "cal", "distributes", ".", "In", "addition", ",", "any", "change", "to", "categorical", "data", "may", "be", "considered", "to", "be", "significant", ".", "Another", "difficulty", "is", "that", "the", "distortions", "introduced", "by", "watermarking", "can", "not", "be", "reduced", "arbitrarily", ".", "A", "tradeoff", "has", "to", "be", "made", "between", "watermark", "distortions", "and", "the", "robustness", "of", "watermark", "detection", "-LRB-", "roughly", "speaking", ",", "the", "more", "distortions", "introduced", "in", "the", "watermarking", "process", ",", "the", "more", "likely", "that", "a", "watermark", "can", "be", "detected", "in", "the", "presence", "of", "database", "attacks", "-RRB-", ".", "In", "this", "paper", ",", "we", "attempt", "to", "design", "a", "new", "database", "watermarking", "scheme", "that", "can", "be", "used", "for", "publicly", "verifiable", "ownership", "protection", "and", "that", "introduces", "no", "distortions", ".", "Our", "research", "was", "motivated", "in", "part", "by", "certain", "aspects", "of", "public", "key", "watermarking", "schemes", "in", "the", "multimedia", "context", ",", "yet", "it", "is", "fundamentally", "different", "and", "particularly", "customized", "for", "relational", "databases", "-LRB-", "see", "also", "Section", "5", "for", "related", "work", "-RRB-", ".", "Our", "scheme", "has", "the", "following", "unique", "properties", ".", "First", ",", "our", "scheme", "is", "publicly", "verifiable", ".", "Watermark", "detection", "and", "ownership", "proof", "can", "be", "effectively", "performed", "publicly", "by", "anyone", "as", "many", "times", "as", "necessary", ".", "Second", ",", "our", "scheme", "introduces", "no", "errors", "to", "the", "underlying", "data", "-LRB-", "i.e.", ",", "it", "is", "distortion-free", "-RRB-", ";", "it", "can", "be", "used", "for", "watermarking", "any", "type", "of", "data", "including", "integer", "numeric", ",", "real", "numeric", ",", "character", ",", "and", "Boolean", ",", "without", "fear", "of", "any", "error", "constraints", ".", "Third", ",", "our", "scheme", "is", "efficient", "for", "incremental", "updating", "of", "data", ".", "It", "is", "designed", "to", "facilitate", "typical", "database", "operations", "such", "as", "tuple", "insertion", ",", "deletion", ",", "and", "value", "modification", ".", "Fourth", ",", "our", "scheme", "is", "robust", ".", "It", "is", "difficult", "to", "invalidate", "watermark", "detection", "and", "ownership", "proof", "through", "typical", "database", "attacks", "and", "other", "attacks", ".", "With", "these", "properties", ",", "we", "believe", "that", "our", "watermarking", "technique", "can", "be", "applied", "practically", "in", "the", "real", "world", "for", "the", "protection", "of", "ownership", "of", "published", "or", "distributed", "databases", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "presents", "our", "watermarking", "scheme", ",", "which", "includes", "watermark", "generation", "and", "detection", ".", "Section", "3", "studies", "how", "to", "prove", "ownership", "publicly", "using", "a", "watermark", "certificate", ".", "It", "also", "investigates", "certificate", "revocation", "and", "incremental", "update", "in", "our", "scheme", ".", "Section", "4", "analyzes", "the", "robustness", "of", "our", "scheme", "and", "the", "tradeoff", "between", "its", "robustness", "and", "overhead", ".", "Section", "5", "comments", "on", "related", "work", ",", "and", "section", "6", "concludes", "the", "paper", ".", "Our", "scheme", "watermarks", "a", "database", "relation", "R", "whose", "schema", "is", "R", "-LRB-", "P", ",", "A", "0", ",", "...", ",", "A", "-1", "-RRB-", ",", "where", "P", "is", "a", "primary", "key", "attribute", "-LRB-", "later", "we", "discuss", "extensions", "for", "watermarking", "a", "relation", "that", "does", "not", "have", "a", "primary", "key", "attribute", "-RRB-", ".", "There", "is", "no", "constraint", "on", "the", "types", "of", "attributes", "used", "for", "watermarking", ";", "the", "attributes", "can", "be", "integer", "numeric", ",", "real", "numeric", ",", "character", ",", "Boolean", ",", "or", "any", "other", "types", ".", "Attributes", "are", "represented", "by", "bit", "strings", "in", "computer", "systems", ".", "Let", "denote", "the", "number", "of", "tuples", "in", "relation", "R.", "For", "each", "attribute", "of", "a", "tuple", ",", "the", "most", "significant", "bit", "-LRB-", "MSB", "-RRB-", "of", "its", "standard", "binary", "representation", "may", "be", "used", "in", "the", "generation", "of", "a", "watermark", ".", "It", "is", "assumed", "that", "any", "change", "to", "an", "MSB", "would", "introduce", "intolerable", "error", "to", "the", "underlying", "data", "value", ".", "For", "ease", "of", "referencing", ",", "Table", "1", "lists", "the", "symbols", "that", "will", "be", "used", "in", "this", "paper", ".", "2.1", "Watermark", "Generation", "Let", "the", "owner", "of", "relation", "R", "possess", "a", "watermark", "key", "K", ",", "which", "will", "be", "used", "in", "both", "watermark", "generation", "and", "detection", ".", "The", "watermark", "key", "should", "be", "capable", "of", "publicly", "proving", "ownership", "as", "many", "times", "as", "necessary", ".", "This", "is", "contrast", "to", "traditional", "watermarking", ",", "where", "a", "watermark", "key", "is", "kept", "secret", "so", "that", "the", "database", "owner", "can", "prove", "his", "ownership", "by", "revealing", "the", "key", "for", "detecting", "the", "watermark", ".", "However", ",", "under", "that", "formation", ",", "the", "ownership", "can", "be", "publicly", "proved", "only", "once", ".", "In", "addition", ",", "the", "key", "should", "be", "long", "enough", "to", "thwart", "brute", "force", "guessing", "attacks", "to", "the", "key", ".", "Algorithm", "1", "genW", "-LRB-", "R", ",", "K", ",", "-RRB-", "/", "/", "Generating", "watermark", "W", "for", "DB", "relation", "R", "1", ":", "for", "each", "tuple", "r", "in", "R", "do", "2", ":", "construct", "a", "tuple", "t", "in", "W", "with", "the", "same", "primary", "key", "t.P", "=", "r.P", "3", ":", "for", "i", "=", "0", ";", "i", "<", ";", "i", "=", "i", "+1", "do", "4", ":", "j", "=", "G", "i", "-LRB-", "K", ",", "r.P", "-RRB-", "mod", "-LRB-", "the", "number", "of", "attributes", "in", "r", "-RRB-", "5", ":", "t.W", "i", "=", "MSB", "of", "the", "j-th", "attribute", "in", "r", "6", ":", "delete", "the", "j-th", "attribute", "from", "r", "7", ":", "end", "for", "8", ":", "end", "for", "9", ":", "return", "W", "In", "our", "scheme", ",", "the", "watermark", "key", "is", "public", "and", "may", "take", "any", "value", "-LRB-", "numerical", ",", "binary", ",", "or", "categorical", "-RRB-", "selected", "by", "the", "owner", ".", "There", "is", "no", "constraint", "on", "the", "formation", "of", "the", "key", ".", "To", "reduce", "unnecessary", "confusion", ",", "the", "watermark", "key", "should", "be", "unique", "to", "the", "owner", "with", "respect", "to", "the", "watermarked", "relation", ".", "We", "suggest", "the", "watermark", "key", "be", "chosen", "as", "K", "=", "h", "-LRB-", "ID", "|", "DB", "name", "|", "version", "|", "...", "-RRB-", "-LRB-", "1", "-RRB-", "where", "ID", "is", "the", "owner", "'s", "identity", ",", "`", "|", "'", "indicates", "concatenation", ",", "and", "h", "-LRB-", "-RRB-", "is", "a", "cryptographic", "hash", "function", "-LRB-", "e.g.", ",", "SHA-512", "-RRB-", "-LSB-", "22", "-RSB-", ".", "In", "the", "case", "of", "multiple", "owners", ",", "the", "public", "key", "can", "be", "extended", "to", "be", "a", "combination", "of", "all", "the", "owners", "'", "IDs", "or", "generated", "from", "them", "using", "a", "threshold", "scheme", ".", "For", "simplicity", ",", "we", "assume", "that", "there", "is", "a", "single", "owner", "of", "DB", "relation", "R", "in", "the", "following", ".", "Our", "concept", "of", "public", "watermark", "key", "is", "different", "from", "that", "of", "a", "public", "key", "in", "public", "key", "infrastructure", "-LRB-", "PKI", "-RRB-", "-LSB-", "16", "-RSB-", ".", "In", "the", "cryptography", "literature", ",", "a", "public", "key", "is", "paired", "with", "a", "private", "key", "such", "that", "a", "message", "encoded", "with", "one", "key", "can", "be", "decoded", "with", "its", "paired", "key", ";", "the", "key", "pair", "is", "selected", "in", "a", "specific", "way", "such", "that", "it", "is", "computation-ally", "infeasible", "to", "infer", "a", "private", "key", "from", "the", "corresponding", "public", "key", ".", "In", "our", "watermarking", "scheme", ",", "there", "is", "no", "private", "key", ",", "and", "the", "public", "watermark", "key", "can", "be", "arbitrarily", "selected", ".", "If", "the", "watermark", "key", "is", "derived", "from", "the", "owner", "'s", "ID", "as", "suggested", ",", "it", "is", "similar", "to", "the", "public", "key", "in", "identity", "based", "cryptography", "-LSB-", "25", ",", "3", ",", "5", "-RSB-", ",", "though", "the", "owner", "does", "not", "need", "to", "request", "a", "private", "key", "from", "a", "key", "distribution", "center", "-LRB-", "KDC", "-RRB-", ".", "The", "watermark", "key", "is", "used", "to", "decide", "the", "composition", "of", "a", "public", "watermark", "W", ".", "The", "watermark", "W", "is", "a", "database", "relation", "whose", "scheme", "is", "W", "-LRB-", "P", ",", "W", "0", ",", "...", ",", "W", "-1", "-RRB-", ",", "where", "W", "0", ",", "...", ",", "W", "-1", "are", "binary", "attributes", ".", "Compared", "to", "DB", "relation", "R", ",", "the", "watermark", "-LRB-", "relation", "-RRB-", "W", "has", "the", "same", "number", "of", "tuples", "and", "the", "same", "primary", "key", "attribute", "P", ".", "The", "number", "of", "binary", "attributes", "in", "W", "is", "a", "control", "parameter", "that", "determines", "the", "number", "of", "bits", "in", "W", ",", "where", "=", "and", ".", "In", "particular", ",", "we", "call", "the", "watermark", "generation", "parameter", ".", "Algorithm", "1", "gives", "the", "procedure", "genW", "-LRB-", "R", ",", "K", ",", "-RRB-", "for", "generating", "the", "watermark", "W", ".", "In", "the", "algorithm", ",", "a", "cryptographic", "pseudo-random", "sequence", "generator", "-LRB-", "see", "chapter", "16", "in", "-LSB-", "24", "-RSB-", "-RRB-", "G", "is", "seeded", "with", "the", "concatenation", "of", "watermark", "key", "K", "and", "the", "primary", "key", "r.P", "for", "each", "tuple", "r", "in", "R", ",", "generating", "a", "sequence", "of", "numbers", "-LCB-", "G", "i", "-LRB-", "K", ",", "r.P", "-RRB-", "-RCB-", ".", "The", "MSBs", "of", "selected", "values", "are", "used", "for", "generating", "the", "watermark", ".", "The", "whole", "process", "does", "not", "introduce", "any", "distortions", "to", "the", "original", "data", ".", "The", "use", "of", "MSBs", "is", "for", "thwarting", "potential", "attacks", "that", "modify", "the", "data", ".", "Since", "the", "watermark", "key", "K", ",", "the", "watermark", "W", ",", "and", "the", "algorithm", "genW", "are", "publicly", "known", ",", "anyone", "can", "locate", "those", "MSBs", "in", "R", "that", "are", "used", "for", "generating", "W", ".", "However", ",", "an", "attacker", "can", "not", "modify", "those", "MSBs", "without", "introducing", "intolerable", "errors", "to", "the", "data", ".", "In", "the", "construction", "of", "watermark", "W", ",", "each", "tuple", "in", "relation", "R", "0", "R", "database", "relation", "to", "be", "watermarked", "number", "of", "tuples", "in", "relation", "R", "number", "of", "attributes", "in", "relation", "R", "W", "database", "watermark", "-LRB-", "relation", "-RRB-", "generated", "in", "watermarking", "-LRB-", "watermark", "generation", "parameter", "-RRB-", "number", "of", "binary", "attributes", "in", "watermark", "W", "number", "of", "bits", "in", "W", ";", "=", "-LRB-", "watermark", "detection", "parameter", "-RRB-", "least", "fraction", "of", "watermark", "bits", "required", "for", "watermark", "detection", "K", "watermark", "key", "Table", "1", ":", "Notation", "in", "watermarking", "Algorithm", "2", "detW", "-LRB-", "R", ",", "K", ",", ",", "W", ",", "-RRB-", "/", "/", "Detecting", "watermark", "for", "DB", "relation", "R", "'", "1", ":", "match", "count", "=", "0", "2", ":", "total", "coutn", "=", "0", "3", ":", "for", "each", "tuple", "r", "in", "R", "do", "4", ":", "get", "a", "tuple", "t", "in", "W", "with", "the", "same", "primary", "key", "t.P", "=", "r.P", "5", ":", "for", "i", "=", "0", ";", "i", "<", ";", "i", "=", "i", "+1", "do", "6", ":", "total", "count", "=", "total", "count", "+1", "7", ":", "j", "=", "G", "i", "-LRB-", "K", ",", "r.P", "-RRB-", "mod", "-LRB-", "the", "number", "of", "attributes", "in", "r", "-RRB-", "8", ":", "if", "t.W", "i", "=", "MSB", "of", "the", "j-th", "attribute", "in", "r", "then", "9", ":", "match", "count", "=", "match", "count", "+1", "10", ":", "end", "if", "11", ":", "delete", "the", "j-th", "attribute", "from", "r", "12", ":", "end", "for", "13", ":", "end", "for", "14", ":", "if", "match", "count/total", "count", ">", "then", "15", ":", "return", "true", "16", ":", "else", "17", ":", "return", "false", "18", ":", "end", "if", "contributes", "MSBs", "from", "different", "attributes", "that", "are", "pseudo-randomly", "selected", "based", "on", "the", "watermark", "key", "and", "the", "primary", "key", "of", "the", "tuple", ".", "It", "is", "impossible", "for", "an", "attacker", "to", "remove", "all", "of", "the", "watermark", "bits", "by", "deleting", "some", "but", "not", "all", "of", "the", "tuples", "and/or", "attributes", "from", "the", "watermarked", "data", ".", "The", "larger", "the", "watermark", "generation", "parameter", ",", "the", "more", "robust", "our", "scheme", "is", "against", "such", "deletion", "attacks", ".", "2.2", "Watermark", "Detection", "Our", "watermark", "detection", "is", "designed", "to", "be", "performed", "publicly", "by", "anyone", "as", "many", "times", "as", "necessary", ".", "This", "is", "a", "notable", "difference", "compared", "from", "previous", "approaches", ",", "which", "are", "secret", "key", "based", ".", "In", "watermark", "detection", ",", "the", "public", "watermark", "key", "K", "and", "watermark", "W", "are", "needed", "to", "check", "a", "suspicious", "database", "relation", "R", ".", "It", "is", "assumed", "that", "the", "primary", "key", "attribute", "has", "not", "been", "changed", "or", "else", "can", "be", "recovered", ".", "If", "the", "primary", "key", "can", "not", "be", "relied", "on", ",", "one", "can", "turn", "to", "other", "attributes", ",", "as", "will", "be", "discussed", "in", "Section", "2.4", ".", "Algorithm", "2", "gives", "the", "procedure", "detW", "-LRB-", "R", ",", "K", ",", ",", "W", ",", "-RRB-", "for", "detecting", "watermark", "W", "from", "relation", "R", ",", "where", "is", "the", "watermark", "generation", "parameter", "used", "in", "watermark", "generation", ",", "and", "is", "the", "watermark", "detection", "parameter", "that", "is", "the", "least", "fraction", "of", "correctly", "detected", "watermark", "bits", ".", "Both", "parameters", "are", "used", "to", "control", "the", "assurance", "and", "robustness", "of", "watermark", "detection", ",", "as", "will", "be", "ana-lyzed", "in", "Section", "4", ".", "The", "watermark", "detection", "parameter", "is", "in", "the", "range", "of", "-LSB-", "0.5", ",", "1", "-RRB-", ".", "To", "increase", "the", "robustness", "of", "watermark", "detection", ",", "we", "do", "not", "require", "that", "all", "detected", "MSBs", "in", "R", "match", "the", "corresponding", "bits", "in", "W", ",", "but", "that", "the", "percentage", "of", "the", "matches", "is", "more", "than", "-LRB-", "i.e.", ",", "match", "count/total", "count", ">", "in", "algorithm", "2", "-RRB-", ".", "2.3", "Randomized", "MSBs", "Most", "modern", "computers", "can", "represent", "and", "process", "four", "primitive", "types", "of", "data", "besides", "memory", "addresses", ":", "integer", "numeric", ",", "real", "numeric", ",", "character", ",", "and", "Boolean", ".", "Regardless", "of", "its", "type", ",", "a", "data", "item", "is", "represented", "in", "computer", "systems", "as", "a", "bit", "string", ".", "The", "MSB", "of", "the", "bit", "string", "is", "the", "leftmost", "digit", ",", "which", "has", "the", "greatest", "weight", ".", "In", "a", "signed", "numeric", "format", "-LRB-", "integer", "or", "real", "-RRB-", ",", "the", "MSB", "can", "be", "the", "sign", "bit", ",", "indicating", "whether", "the", "data", "item", "is", "negative", "or", "not", "1", ".", "If", "the", "sign", "bit", "is", "not", "chosen", "-LRB-", "or", "there", "is", "no", "sign", "bit", "-RRB-", ",", "the", "MSB", "can", "be", "the", "high", "order", "bit", "-LRB-", "next", "to", "the", "sign", "bit", ";", "in", "floating", "point", "format", ",", "it", "is", "the", "leftmost", "bit", "of", "exponent", "-RRB-", ".", "For", "character", "or", "Boolean", "data", ",", "any", "bit", "can", "be", "an", "MSB", "and", "we", "simply", "choose", "the", "leftmost", "one", ".", "We", "assume", "that", "watermark", "bits", "generated", "from", "selected", "MSBs", "are", "randomly", "distributed", ";", "that", "is", ",", "each", "MSB", "has", "the", "same", "probability", "of", "1/2", "to", "be", "1", "or", "0", ".", "This", "randomness", "is", "important", "in", "our", "robustness", "analysis", "-LRB-", "see", "Section", "4", "-RRB-", ".", "If", "this", "is", "not", "the", "case", ",", "then", "we", "randomize", "the", "MSBs", "by", "XOR", "`", "ing", "them", "with", "random", "mask", "bits", ".", "For", "the", "MSB", "of", "the", "j-th", "attribute", "of", "tuple", "r", ",", "the", "corresponding", "mask", "bit", "is", "the", "j-th", "bit", "of", "hash", "value", "h", "-LRB-", "K", "|", "r.P", "-RRB-", "if", "j", ",", "where", "is", "the", "bit-length", "of", "hash", "output", ".", "In", "general", ",", "if", "-LRB-", "k", "-", "1", "-RRB-", "<", "j", "k", ",", "the", "mask", "bit", "is", "the", "-LRB-", "j", "-", "-LRB-", "k", "-", "1", "-RRB-", "-RRB-", "-", "th", "bit", "of", "hash", "value", "h", "k", "-LRB-", "K", "|", "r.P", "-RRB-", ".", "Since", "the", "hash", "value", "is", "computed", "from", "the", "unique", "primary", "key", ",", "the", "mask", "bit", "is", "random", ";", "thus", ",", "the", "MSB", "after", "masking", "is", "random", ".", "The", "random-ized", "MSBs", "are", "then", "used", "in", "watermark", "generation", "and", "detection", "in", "our", "scheme", ".", "2.4", "Discussion", "on", "Relations", "without", "Primary", "Keys", "Most", "watermarking", "schemes", "-LRB-", "e.g.", ",", "-LSB-", "1", ",", "20", ",", "26", ",", "2", "-RSB-", "-RRB-", "for", "relational", "databases", ",", "including", "ours", ",", "depend", "critically", "on", "the", "primary", "key", "attribute", "in", "the", "watermarking", "process", ".", "In", "the", "case", "that", "there", "is", "no", "primary", "key", "attribute", ",", "or", "that", "the", "primary", "key", "attribute", "is", "destroyed", "in", "malicious", "attacks", ",", "one", "can", "turn", "to", "other", "attributes", "and", "construct", "a", "virtual", "primary", "key", "that", "will", "be", "used", "instead", "of", "the", "primary", "key", "in", "the", "watermarking", "process", ".", "The", "virtual", "primary", "key", "is", "constructed", "by", "combining", "the", "most", "significant", "bits", "of", "some", "selected", "attributes", ".", "The", "actual", "attributes", "that", "are", "used", "to", "construct", "the", "virtual", "primary", "key", "differ", "from", "tuple", "to", "tuple", ",", "and", "the", "selection", "of", "the", "attributes", "is", "based", "on", "a", "key", "that", "could", "be", "the", "watermark", "key", "in", "the", "context", "of", "this", "paper", ".", "The", "reader", "is", "referred", "to", "-LSB-", "19", "-RSB-", "for", "more", "details", "on", "the", "construction", "of", "a", "virtual", "primary", "key", ".", "Since", "the", "virtual", "primary", "key", "is", "constructed", "from", "the", "MSBs", "of", "selected", "attributes", ",", "it", "is", "difficult", "to", "destroy", "the", "virtual", "primary", "key", "through", "value", "modification", "or", "attribute", "deletion", ".", "However", ",", "unlike", "a", "real", "primary", "key", ",", "the", "virtual", "primary", "key", "may", "not", "be", "unique", "for", "each", "tuple", ";", "consequently", ",", "there", "could", "be", "multiple", "tuples", "in", "both", "R", "and", "W", "sharing", "the", "same", "value", "of", "the", "primary", "key", ".", "In", "watermark", "detection", ",", "the", "exact", "mapping", "between", "pairs", "of", "these", "tuples", "needs", "1", "In", "most", "commonly", "used", "storage", "formats", ",", "the", "sign", "bit", "is", "1", "for", "a", "negative", "number", "and", "0", "for", "a", "non-negative", "number", ".", "0", "to", "be", "recovered", "-LRB-", "see", "line", "4", "in", "algorithm", "2", "-RRB-", ".", "This", "can", "be", "done", "as", "follows", ".", "For", "each", "tuple", "r", "R", "with", "primary", "key", "r.P", ",", "compute", "a", "tuple", "t", "the", "same", "way", "as", "in", "watermark", "generation", ",", "then", "choose", "a", "tuple", "t", "W", "such", "that", "t", "is", "the", "most", "close", "-LRB-", "e.g.", ",", "in", "terms", "of", "Hamming", "distance", "-RRB-", "to", "t", "among", "the", "multiple", "tuples", "in", "W", "that", "share", "the", "same", "primary", "key", "r.P", ".", "The", "number", "of", "tuples", "sharing", "the", "same", "primary", "key", "value", "-LRB-", "i.e.", ",", "the", "severity", "of", "the", "duplicate", "problem", "-RRB-", "can", "be", "minimized", ",", "as", "shown", "in", "the", "above-mentioned", "work", "-LSB-", "19", "-RSB-", ".", "We", "now", "investigate", "how", "to", "publicly", "prove", "ownership", "as", "many", "times", "as", "necessary", ".", "If", "the", "watermark", "key", "K", "is", "kept", "secret", "with", "the", "owner", ",", "the", "ownership", "proof", "can", "be", "done", "secretly", ";", "however", ",", "it", "can", "be", "done", "only", "once", "in", "public", "since", "the", "key", "has", "to", "be", "revealed", "to", "the", "public", "during", "this", "process", ".", "The", "problem", "of", "public", "ownership", "proof", "was", "originally", "raised", "in", "the", "multimedia", "context", "-LSB-", "15", "-RSB-", "-LRB-", "see", "section", "5", "for", "details", "-RRB-", ";", "it", "has", "not", "been", "studied", "in", "the", "literature", "of", "database", "watermarking", ".", "We", "note", "that", "the", "requirements", "for", "watermarking", "relational", "data", "are", "different", "from", "those", "for", "watermarking", "multimedia", "data", ".", "The", "former", "must", "be", "robust", "against", "typical", "database", "alterations", "or", "attacks", "such", "as", "tuple", "insertion", ",", "deletion", ",", "and", "value", "modification", ",", "while", "the", "latter", "should", "be", "robust", "against", "multimedia", "operations", "such", "as", "compression", "and", "transformation", ".", "An", "additional", "requirement", "for", "watermarking", "relational", "data", "is", "that", "a", "watermarked", "relation", "should", "be", "updated", "easily", "and", "incrementally", ".", "Public", "ownership", "proof", "in", "our", "scheme", "is", "achieved", "by", "combining", "watermark", "detection", "with", "a", "certificate", ".", "3.1", "Watermark", "Certificate", "D", "EFINITION", "3.1", ".", "A", "watermark", "certificate", "C", "of", "relation", "R", "is", "a", "tuple", "ID", ",", "K", ",", "h", "-LRB-", "W", "-RRB-", ",", "h", "-LRB-", "R", "-RRB-", ",", "T,DB-CA", ",", "Sig", ",", "where", "ID", "is", "the", "identity", "of", "the", "owner", "of", "R", ",", "K", "is", "the", "owner", "'s", "watermark", "key", ",", "W", "is", "the", "public", "watermark", ",", "T", "is", "the", "validity", "information", ",", "DB-CA", "is", "the", "trusted", "authority", "who", "signs", "the", "certificate", "by", "generating", "a", "signature", "Sig", ".", "Similar", "to", "the", "identity", "certificate", "-LSB-", "16", "-RSB-", "in", "PKI", "-LRB-", "or", "attribute", "certificate", "-LSB-", "10", "-RSB-", "in", "PMI", "-RRB-", ",", "which", "strongly", "binds", "a", "public", "key", "-LRB-", "a", "set", "of", "attributes", "-RRB-", "to", "its", "owner", "with", "a", "validity", "period", ",", "the", "watermark", "certificate", "strongly", "binds", "a", "watermark", "key", ",", "a", "watermark", ",", "and", "a", "DB", "relation", "to", "its", "owner", "'s", "ID", "with", "validity", "information", ".", "The", "validity", "information", "is", "a", "triple", "T", "=", "T", "origin", ",", "T", "start", ",", "T", "end", "indicating", "the", "original", "time", "T", "origin", "when", "the", "DB", "relation", "is", "first", "certified", ",", "the", "starting", "time", "T", "start", ",", "and", "the", "ending", "time", "T", "end", "of", "this", "certificate", "in", "the", "current", "binding", ".", "When", "the", "DB", "relation", "is", "certified", "for", "the", "first", "time", ",", "T", "origin", "should", "be", "the", "same", "as", "T", "start", ".", "Compared", "with", "the", "identity", "certificate", "or", "attribute", "certificate", ",", "the", "watermark", "certificate", "not", "only", "has", "a", "validity", "period", "defined", "by", "T", "start", "and", "T", "end", ",", "but", "also", "contains", "the", "original", "time", "T", "origin", ".", "The", "original", "time", "will", "be", "useful", "in", "thwarting", "possible", "attacks", "that", "confuse", "ownership", "proof", ".", "A", "comparison", "of", "the", "watermark", "certificate", "with", "the", "traditional", "identity", "certificate", "is", "illustrated", "in", "Figure", "1", ".", "The", "two", "kinds", "of", "certificates", "share", "a", "similar", "structure", "except", "that", "the", "public", "key", "information", "in", "the", "identity", "certificate", "is", "replaced", "by", "the", "watermark", "key", ",", "watermark", "hash", ",", "and", "database", "hash", "in", "the", "watermark", "certificate", ".", "In", "traditional", "identity", "certificate", ",", "the", "subject", "'s", "public", "key", "is", "paired", "with", "a", "private", "key", "known", "only", "to", "the", "subject", ".", "In", "the", "case", "of", "damage", "or", "loss", "of", "the", "private", "key", "-LRB-", "e.g.", ",", "due", "to", "collision", "attacks", "-RRB-", ",", "the", "identity", "certificate", "needs", "to", "be", "revoked", "before", "the", "expiration", "of", "the", "certificate", ".", "In", "the", "watermark", "certificate", ",", "since", "there", "is", "no", "private", "key", "asso-ciated", "with", "the", "public", "watermark", "key", ",", "it", "seems", "that", "there", "is", "no", "need", "Version", "Serial", "Number", "Signature", "Algorithm", "Issuer", "Validity", "Period", "Subject", "Subject", "Public", "Key", "Info", "Signature", "Version", "Serial", "Number", "Signature", "Algorithm", "DB-CA", "Validity", "Info", "T", "DB", "owner", "ID", "Watermark", "Key", "K", "Watermark", "Hash", "h", "-LRB-", "W", "-RRB-", "DB", "hash", "h", "-LRB-", "R", "-RRB-", "Signature", "Sig", "Identity", "Certificate", "Watermark", "Certificate", "Figure", "1", ":", "Relation", "between", "watermark", "and", "identity", "certificate", "of", "certificate", "revocation", ".", "Nonetheless", ",", "certificate", "revocation", "and", "recertification", "may", "be", "needed", "in", "the", "case", "of", "identity", "change", ",", "ownership", "change", ",", "DB-CA", "signature", "compromise", ",", "and", "database", "update", ".", "The", "role", "of", "DB-CA", "is", "similar", "to", "that", "of", "the", "traditional", "CA", "in", "PKI", "in", "terms", "of", "authentication", "of", "an", "applicant", "'s", "identity", ".", "The", "differences", "are", ":", "-LRB-", "i", "-RRB-", "it", "binds", "the", "applicant", "'s", "ID", "to", "the", "watermark", "key", ",", "watermark", ",", "and", "watermarked", "data", ";", "and", "-LRB-", "ii", "-RRB-", "it", "confirms", "the", "original", "time", "when", "the", "watermarked", "data", "was", "first", "certified", ".", "The", "original", "time", "is", "especially", "useful", "in", "the", "case", "of", "recertification", "so", "as", "to", "thwart", "false", "claims", "of", "ownership", "by", "a", "pirate", ".", "This", "is", "addressed", "in", "the", "following", "subsection", ".", "3.2", "Public", "Verifiability", "While", "the", "watermark", "detection", "process", "can", "be", "performed", "by", "anyone", ",", "voluntarily", "or", "in", "delegation", ",", "who", "has", "access", "to", "the", "public", "watermark", "and", "watermark", "key", ",", "the", "ownership", "is", "proven", "by", "further", "checking", "the", "corresponding", "watermark", "certificate", ".", "This", "involves", "checking", "-LRB-", "i", "-RRB-", "if", "the", "watermark", "certificate", "has", "been", "revoked", "-LRB-", "see", "the", "next", "subsection", "for", "details", "-RRB-", ";", "-LRB-", "ii", "-RRB-", "if", "the", "watermark", "key", "and", "-LRB-", "the", "hash", "of", "-RRB-", "the", "watermark", "used", "in", "watermark", "detection", "are", "the", "same", "as", "those", "listed", "in", "the", "watermark", "certificate", ";", "-LRB-", "iii", "-RRB-", "if", "the", "signature", "is", "correctly", "signed", "by", "the", "DB-CA", "stipulated", "in", "the", "watermark", "certificate", "-LRB-", "this", "is", "done", "in", "traditional", "PKI", "and", "may", "involve", "checking", "the", "DB-CA", "'s", "public", "key", "certificate", ",", "a", "chain", "of", "CA", "'s", "certificates", ",", "and", "a", "certificate", "revocation", "list", "-RRB-", ";", "and", "-LRB-", "iv", "-RRB-", "the", "similarity", "of", "suspicious", "data", "R", "to", "the", "original", "data", "R", "as", "published", "by", "the", "owner", "of", "watermark", "certificate", ".", "If", "all", "are", "proven", ",", "the", "ownership", "of", "the", "suspicious", "data", "is", "publicly", "claimed", "to", "belong", "to", "the", "owner", "of", "the", "watermark", "certificate", "for", "the", "time", "period", "stipulated", "in", "the", "certificate", ".", "The", "original", "time", "that", "the", "data", "was", "certified", "is", "also", "indicated", "in", "the", "certificate", ".", "The", "last", "requirement", "is", "optional", ",", "depending", "on", "whether", "data", "frame-up", "attack", "is", "of", "concern", ".", "In", "a", "data", "frame-up", "attack", ",", "an", "attacker", "modifies", "the", "watermarked", "data", "as", "much", "as", "possible", "while", "leaving", "the", "watermarked", "bits", "-LRB-", "i.e.", ",", "MSBs", "of", "selected", "values", "-RRB-", "untouched", ".", "Note", "that", "in", "our", "scheme", ",", "an", "attacker", "can", "pinpoint", "the", "watermarked", "bits", "since", "the", "watermark", "key", ",", "watermark", ",", "and", "watermark", "algorithm", "are", "all", "public", ".", "Since", "the", "ownership", "is", "publicly", "verifiable", ",", "such", "``", "frame-up", "''", "data", "may", "cause", "confusion", "and", "damage", "to", "the", "legitimate", "ownership", ".", "The", "data", "frame-up", "attack", "has", "not", "been", "discussed", "before", ",", "even", "though", "it", "is", "also", "possible", "in", "secret", "key", "based", "schemes", ".", "For", "example", ",", "in", "Agrawal", "and", "Kiernan", "'s", "watermarking", "scheme", "-LSB-", "1", "-RSB-", ",", "the", "watermark", "information", "is", "embedded", "in", "one", "of", "least", "significant", "bits", "of", "some", "selected", "values", ".", "Data", "frame-up", "attack", "is", "possible", "if", "an", "attacker", "modifies", "all", "significant", "bits", "except", "the", "last", "least", "significant", "bits", "in", "each", "value", ".", "However", ",", "this", "attack", "is", "less", "serious", "in", "secret", "key", "based", "schemes", "because", "the", "owner", "of", "watermarked", "data", "may", "choose", "not", "to", "claim", "the", "ownership", "for", "``", "frame-up", "''", "data", ".", "In", "our", "scheme", ",", "this", "attack", "is", "thwarted", "by", "requiring", "that", "the", "suspicious", "data", "is", "similar", "enough", "to", "the", "original", "data", "-LRB-", "the", "authenticity", "of", "the", "original", "data", "R", "can", "be", "checked", "with", "h", "-LRB-", "R", "-RRB-", "in", "the", "watermark", "certificate", "-RRB-", ".", "The", "rationale", "is", "that", "when", "an", "attacker", "forges", "a", "low", "quality", "data", "R", "with", "the", "MSBs", "given", "in", "the", "public", "watermark", "W", ",", "such", "R", "will", "be", "significantly", "different", "from", "the", "original", "R", "due", "to", "its", "low", "quality", ".", "The", "similarity", "between", "R", "and", "R", "may", "be", "measured", ",", "for", "example", ",", "by", "the", "portion", "of", "significant", "bits", "that", "match", "for", "each", "pair", "of", "values", "in", "R", "and", "R", "whose", "watermarked", "MSBs", "match", ".", "The", "similarity", "may", "also", "be", "measured", "in", "terms", "of", "the", "usefulness", "of", "data", ",", "such", "as", "the", "difference", "of", "individual", "values", ",", "means", ",", "and", "variances", ".", "3.3", "Certificate", "Management", "Once", "publicly", "proven", "based", "on", "a", "valid", "watermark", "certificate", ",", "the", "ownership", "of", "watermarked", "data", "is", "established", "for", "the", "owner", "of", "the", "certificate", ".", "The", "current", "ownership", "is", "valid", "for", "a", "time", "period", "-LSB-", "T", "start", ",", "T", "end", "-RSB-", "stipulated", "in", "the", "certificate", ".", "The", "original", "time", "T", "origin", "when", "the", "data", "was", "first", "certified", "is", "also", "indicated", "in", "the", "certificate", ".", "The", "use", "of", "original", "time", "is", "to", "thwart", "additive", "attack", ".", "Additive", "attack", "is", "a", "common", "type", "of", "attacks", "to", "watermarking", "schemes", "in", "which", "an", "attacker", "simply", "generates", "another", "watermark", "for", "watermarked", "data", "so", "as", "to", "confuse", "ownership", "proof", ".", "The", "additional", "watermark", "can", "be", "generated", "using", "a", "watermark", "key", "that", "is", "derived", "from", "the", "attacker", "'s", "ID", ".", "It", "is", "also", "possible", "for", "the", "attacker", "to", "obtain", "a", "valid", "watermark", "certificate", "for", "this", "additional", "watermark", ".", "We", "solve", "this", "problem", "by", "comparing", "the", "original", "time", "T", "origin", "in", "the", "certificate", "of", "real", "owner", "with", "the", "original", "time", "T", "origin", "in", "the", "certificate", "of", "the", "attacker", ".", "We", "assume", "that", "the", "owner", "of", "data", "will", "not", "make", "the", "data", "available", "to", "potential", "attackers", "unless", "the", "data", "is", "watermarked", "and", "a", "valid", "watermark", "certificate", "is", "obtained", ".", "Therefore", ",", "one", "always", "has", "T", "origin", "<", "T", "origin", "by", "which", "the", "legitimate", "ownership", "can", "be", "proven", "in", "the", "case", "of", "an", "ownership", "dispute", ".", "After", "this", ",", "the", "attacker", "'s", "valid", "certificate", "should", "be", "officially", "revoked", ".", "Besides", "revocation", "upon", "losing", "an", "ownership", "dispute", ",", "a", "certificate", "may", "be", "revoked", "before", "its", "expiration", "based", "on", "the", "following", "reasons", ":", "-LRB-", "1", "-RRB-", "identity", "change", ";", "-LRB-", "2", "-RRB-", "ownership", "change", ";", "-LRB-", "3", "-RRB-", "validity", "period", "change", ";", "-LRB-", "4", "-RRB-", "DB-CA", "compromise", ";", "and", "-LRB-", "5", "-RRB-", "database", "update", ".", "When", "the", "owner", "of", "a", "valid", "certificate", "changes", "his", "identity", ",", "he", "needs", "to", "revoke", "the", "certificate", "and", ",", "at", "the", "same", "time", ",", "apply", "for", "a", "new", "certificate", "to", "replace", "the", "old", "one", ".", "Upon", "the", "owner", "'s", "request", ",", "the", "DB-CA", "will", "grant", "a", "new", "validity", "period", "-LSB-", "T", "start", ",", "T", "end", "-RSB-", "according", "to", "its", "policy", "while", "keeping", "the", "original", "time", "T", "origin", "unchanged", "in", "the", "new", "certificate", ".", "The", "case", "of", "ownership", "change", "is", "handled", "in", "a", "similar", "manner", ",", "except", "that", "the", "DB-CA", "needs", "to", "authenticate", "the", "new", "owner", "and", "ensure", "the", "ownership", "change", "is", "granted", "by", "the", "old", "owner", ".", "In", "both", "cases", ",", "a", "new", "watermark", "key", "and", "a", "new", "watermark", "may", "be", "derived", "and", "included", "in", "the", "new", "certificate", ".", "Sometimes", "the", "owner", "wants", "to", "prolong", "or", "shorten", "the", "validity", "period", "of", "his", "certificate", ".", "In", "this", "case", ",", "the", "watermark", "certificate", "needs", "to", "be", "re-certified", "with", "a", "new", "validity", "period", ".", "The", "watermark", "key", "or", "watermark", "does", "not", "need", "to", "change", "in", "the", "recertification", "process", ".", "In", "our", "scheme", ",", "the", "DB-CA", "is", "trusted", ",", "similar", "to", "the", "CA", "in", "traditional", "PKI", ".", "A", "traditional", "PKI", "certificate", "would", "need", "to", "be", "revoked", "for", "a", "variety", "of", "reasons", ",", "including", "key", "compromise", "and", "CA", "compromise", ".", "Since", "a", "watermark", "key", "is", "not", "paired", "with", "a", "private", "key", "in", "our", "scheme", ",", "there", "is", "no", "scenario", "of", "watermark", "key", "compromise", ".", "However", ",", "there", "is", "a", "possibility", "of", "DB-CA", "compromise", "if", "any", "of", "the", "following", "happens", ":", "-LRB-", "i", "-RRB-", "DB-CA", "'s", "signature", "is", "no", "longer", "safe", "-LRB-", "e.g.", ",", "due", "to", "advanced", "collision", "attacks", "-RRB-", ";", "-LRB-", "ii", "-RRB-", "DB-CA", "loses", "its", "signature", "key", ";", "-LRB-", "iii", "-RRB-", "DB-CA", "ceases", "its", "operation", "or", "business", ";", "or", "-LRB-", "iv", "-RRB-", "any", "CA", "who", "certifies", "the", "DB-CA", "'s", "public", "key", "is", "compromised", "-LRB-", "the", "public", "key", "is", "used", "to", "verify", "the", "DB-CA", "'s", "signature", "in", "our", "scheme", "-RRB-", ".", "In", "the", "case", "of", "DB-CA", "compromise", ",", "all", "related", "watermark", "certificates", "must", "be", "revoked", "and", "re-examined", "by", "a", "valid", "DB-CA", "and", "recertified", "with", "new", "validity", "periods", "but", "unchanged", "original", "times", ".", "Due", "to", "the", "similarity", "between", "the", "watermark", "certificate", "and", "the", "traditional", "identity", "certificate", ",", "many", "existing", "standards", "and", "mechanisms", "regarding", "certificate", "management", ",", "such", "as", "certification", "path", "constraints", "and", "CRL", "distribution", "points", ",", "can", "be", "borrowed", "from", "PKI", "with", "appropriate", "adaptations", ".", "For", "simplicity", "and", "convenience", ",", "the", "functionality", "of", "a", "DB-CA", "may", "be", "performed", "by", "a", "CA", "in", "traditional", "PKI", ".", "3.4", "Efficient", "Revocation", "of", "Watermark", "Certificate", "Micali", "proposed", "an", "efficient", "public", "key", "certificate", "revocation", "scheme", "-LSB-", "23", "-RSB-", "called", "CRS", "-LRB-", "for", "certificate", "revocation", "status", "-RRB-", ".", "Compared", "with", "the", "CRL-based", "solution", ",", "CRS", "substantially", "reduces", "the", "cost", "of", "management", "of", "certificates", "in", "traditional", "PKI", ".", "This", "scheme", "can", "easily", "be", "adapted", "to", "our", "scheme", "for", "efficient", "revocation", "of", "watermark", "certificates", ".", "As", "pointed", "out", "in", "-LSB-", "23", "-RSB-", ",", "the", "costs", "of", "running", "a", "PKI", "are", "staggering", "and", "most", "of", "the", "costs", "are", "due", "to", "CRL", "transmission", ".", "The", "major", "reason", "is", "that", "each", "time", "a", "user", "queries", "the", "status", "of", "a", "single", "certificate", ",", "he", "needs", "to", "query", "a", "directory", ",", "an", "agent", "receiving", "certificate", "information", "from", "a", "CA", "and", "handling", "user", "queries", "about", "it", ",", "and", "the", "directory", "sends", "him", "the", "whole", "CRL", "list", "that", "has", "been", "most", "recently", "signed", "by", "the", "CA", ".", "Since", "the", "CRL", "list", "tends", "to", "be", "very", "long", "and", "transmitted", "very", "often", ",", "the", "CRL", "solution", "is", "extremely", "expensive", ".", "In", "CRS", ",", "however", ",", "the", "directory", "responds", "to", "a", "user", "'s", "query", "by", "sending", "a", "100-bit", "value", "only", ",", "instead", "of", "the", "whole", "CRL", ".", "The", "100-bit", "value", "is", "employed", "by", "the", "user", "to", "verify", "whether", "the", "relative", "certificate", "is", "valid", "or", "has", "been", "revoked", ".", "In", "our", "watermarking", "scheme", ",", "the", "DB-CA", "selects", "a", "secret", "100-bit", "value", "Y", "0", "for", "a", "watermark", "certificate", ",", "and", "recursively", "applies", "on", "it", "a", "one-way", "function", "F", "365", "times", ",", "assuming", "that", "the", "validity", "period", "of", "the", "certificate", "is", "a", "normal", "year", ".", "The", "DB-CA", "then", "includes", "the", "100-bit", "value", "Y", "365", "=", "F", "365", "-LRB-", "Y", "0", "-RRB-", "in", "the", "watermark", "certificate", "C", "=", "ID", ",", "K", ",", "h", "-LRB-", "W", "-RRB-", ",", "h", "-LRB-", "R", "-RRB-", ",", "T,DB-CA", ",", "Y", "365", ",", "Sig", ".", "Assume", "that", "the", "current", "day", "is", "the", "i-th", "day", "in", "the", "validity", "period", "of", "the", "certificate", ".", "The", "DB-CA", "generates", "a", "100-bit", "value", "Y", "365", "-", "i", "=", "F", "365", "-", "i", "-LRB-", "Y", "0", "-RRB-", "and", "gets", "it", "published", "through", "the", "directory", ".", "It", "is", "the", "DB", "owner", "'s", "responsibility", "to", "obtain", "Y", "365", "-", "i", "from", "the", "directory", "and", "publish", "it", "together", "with", "the", "watermark", "certificate", "C.", "Anyone", "can", "verify", "the", "validity", "of", "the", "certificate", "by", "checking", "whether", "F", "i", "-LRB-", "Y", "365", "-", "i", "-RRB-", "=", "Y", "365", ",", "where", "i", "is", "the", "number", "of", "days", "since", "the", "start", "of", "the", "validity", "period", "-LRB-", "i.e.", ",", "T", "start", "in", "T", "-RRB-", ".", "If", "this", "is", "the", "case", ",", "the", "certificate", "is", "valid", ";", "otherwise", ",", "it", "has", "been", "revoked", "before", "the", "i-th", "day", ",", "in", "which", "case", "the", "DB-CA", "did", "not", "get", "Y", "365", "-", "i", "published", ".", "Note", "that", "Y", "365", "-", "i", "can", "not", "be", "computed", "from", "previously", "released", "Y", "365", "-", "j", "-LRB-", "j", "<", "i", "-RRB-", "due", "to", "the", "one-way", "property", "of", "function", "F", ".", "In", "this", "scheme", ",", "the", "DB", "owner", "needs", "to", "query", "the", "directory", "and", "update", "Y", "365", "-", "i", "every", "day", ".", "To", "make", "the", "transition", "from", "Y", "365", "-", "i", "to", "Y", "364", "-", "i", "smooth", ",", "one", "more", "hour", "may", "be", "granted", "for", "the", "validity", "period", "of", "Y", "365", "-", "i", "-LRB-", "i.e.", ",", "25", "hours", "-RRB-", ".", "To", "avoid", "high", "query", "load", "at", "certain", "hours", ",", "the", "validity", "period", "of", "Y", "365", "-", "i", "should", "start", "at", "a", "different", "time", "each", "day", "for", "a", "different", "certificate", ".", "A", "policy", "stating", "this", "may", "also", "be", "included", "in", "the", "watermark", "certificate", ".", "Note", "that", "Micali", "'s", "original", "scheme", "requires", "a", "CA", "to", "-LRB-", "i", "-RRB-", "sign", "another", "100-bit", "value", "besides", "Y", "365", "-", "i", "to", "explicitly", "indicate", "a", "certificate", "being", "revoked", ";", "and", "-LRB-", "ii", "-RRB-", "sign", "a", "updated", "list", "indicating", "all", "and", "only", "the", "series", "numbers", "of", "issued", "and", "not-yet-expired", "certificates", ".", "The", "signed", "value", "and", "list", "are", "sent", "to", "the", "directory", "so", "that", "any", "user", "query", "can", "be", "answered", "by", "the", "directory", ".", "In", "our", "scheme", ",", "it", "is", "the", "DB", "owner", "'s", "responsibility", "-LRB-", "for", "his", "own", "benefit", ",", "namely", "anti-piracy", "-RRB-", "to", "query", "the", "directory", "and", "publish", "the", "updated", "Y", "365", "-", "i", "online", "together", "with", "DB", ",", "watermark", ",", "and", "certificate", ".", "A", "user", "who", "wants", "to", "verify", "the", "certificate", "will", "obtain", "the", "validity", "information", "from", "the", "owner", "rather", "than", "from", "the", "directory", ".", "This", "separation", "of", "duty", "simplifies", "the", "scheme", "and", "clarifies", "the", "responsibility", "of", "the", "DB", "owner", ".", "It", "is", "relatively", "straightforward", "to", "analyze", "the", "communication", "cost", "of", "our", "scheme", "as", "compared", "with", "the", "CRL", "based", "solution", ".", "The", "analysis", "is", "very", "similar", "to", "that", "given", "in", "-LSB-", "23", "-RSB-", "for", "comparing", "CRS", "with", "CRL", "-LRB-", "CRS", "is", "about", "900", "times", "cheaper", "than", "CRL", "in", "terms", "of", "communication", "cost", "with", "the", "Federal", "PKI", "estimates", "-RRB-", ".", "We", "omit", "this", "analysis", "due", "to", "space", "limitations", ".", "3.5", "Incremental", "Updatability", "The", "proposed", "scheme", "is", "also", "designed", "to", "facilitate", "incremental", "database", "update", ".", "In", "relational", "database", "systems", ",", "database", "update", "has", "been", "tailored", "to", "tuple", "operations", "-LRB-", "tuple", "insertion", ",", "deletion", ",", "and", "modification", "-RRB-", ",", "where", "each", "tuple", "is", "uniquely", "identified", "by", "its", "primary", "key", ".", "In", "our", "scheme", ",", "both", "watermark", "generation", "and", "detection", "are", "tuple", "oriented", ";", "each", "tuple", "is", "processed", "independently", "of", "other", "tuples", ",", "based", "on", "its", "primary", "key", ".", "The", "watermark", "is", "updated", "as", "follows", ".", "If", "a", "set", "of", "new", "tuples", "is", "inserted", "into", "the", "watermarked", "data", ",", "the", "watermark", "generation", "algorithm", "1", "can", "be", "performed", "on", "those", "new", "tuples", "only", ".", "As", "a", "result", ",", "a", "set", "of", "corresponding", "new", "tuples", "is", "generated", "and", "inserted", "into", "the", "watermark", ".", "If", "a", "set", "of", "tuples", "is", "deleted", "from", "the", "watermarked", "data", ",", "the", "corresponding", "tuples", "with", "the", "same", "primary", "keys", "are", "simply", "deleted", "from", "the", "watermark", ".", "In", "the", "case", "that", "a", "set", "of", "values", "is", "modified", ",", "only", "the", "related", "tuples", "need", "to", "be", "updated", "in", "the", "watermark", ".", "This", "can", "be", "done", "in", "a", "similar", "manner", "as", "in", "the", "tuple", "insertion", "case", ".", "Note", "that", "if", "a", "modified", "value", "does", "not", "contribute", "any", "MSB", "to", "the", "watermark", ",", "then", "no", "update", "is", "needed", "for", "that", "value", ".", "The", "update", "of", "the", "watermark", "certificate", "follows", "the", "update", "of", "the", "watermark", ".", "To", "update", "a", "watermark", "certificate", ",", "the", "owner", "of", "watermarked", "data", "needs", "to", "authenticate", "himself", "to", "a", "DB-CA", ",", "revoke", "the", "old", "certificate", ",", "and", "get", "a", "new", "certificate", "for", "the", "updated", "DB", "and", "watermark", ".", "The", "new", "certificate", "may", "have", "an", "updated", "validity", "period", ",", "but", "the", "original", "time", "will", "not", "be", "altered", ".", "As", "this", "process", "involves", "interactions", "with", "a", "DB-CA", ",", "it", "may", "not", "be", "efficient", "if", "executed", "frequently", ".", "Fortunately", ",", "our", "scheme", "is", "very", "robust", "against", "database", "update", ",", "as", "will", "be", "indicated", "in", "the", "next", "section", ".", "Therefore", ",", "the", "update", "of", "the", "watermark", "and", "watermark", "certificate", "may", "lag", "behind", "the", "update", "of", "the", "watermarked", "data", ";", "it", "can", "be", "done", "periodically", "after", "a", "batch", "of", "data", "updates", ".", "The", "lag-behind", "watermark", "and", "certificate", "can", "still", "be", "used", "for", "checking", "the", "ownership", "of", "the", "updated", "data", "as", "long", "as", "the", "updates", "do", "not", "severely", "degrade", "the", "robustness", "of", "our", "scheme", ".", "3.6", "Discussion", "Like", "traditional", "PKI", ",", "the", "certificate", "revocation", "in", "our", "scheme", "is", "handled", "only", "by", "the", "trusted", "party", "-LRB-", "i.e.", ",", "the", "DB-CA", "-RRB-", ".", "An", "alternative", "solution", "is", "to", "let", "the", "DB", "owner", "himself", "handle", "the", "certificate", "revocation", ".", "After", "the", "DB-CA", "signs", "a", "watermark", "certificate", "C", "=", "ID", ",", "K", ",", "h", "-LRB-", "W", "-RRB-", ",", "h", "-LRB-", "R", "-RRB-", ",", "T", ",", "DB", "-", "CA", ",", "Y", "365", ",", "Sig", ",", "where", "Y", "365", "=", "F", "365", "-LRB-", "Y", "0", "-RRB-", ",", "it", "gives", "Y", "0", "to", "the", "DB", "owner", "through", "a", "secure", "channel", ".", "The", "DB", "owner", "keeps", "Y", "0", "secret", ".", "On", "the", "i-th", "day", "in", "the", "validity", "period", "of", "the", "certificate", ",", "the", "DB", "owner", "himself", "can", "generate", "and", "publish", "Y", "365", "-", "i", "=", "F", "365", "-", "i", "-LRB-", "Y", "0", "-RRB-", ",", "based", "on", "which", "anyone", "can", "verify", "the", "validity", "of", "the", "certificate", ".", "This", "solution", "further", "simplifies", "our", "scheme", "in", "the", "sense", "that", "the", "DB-CA", "does", "not", "need", "to", "generate", "Y-values", "for", "all", "valid", "certificates", "each", "day", ",", "and", "that", "all", "DB", "owners", "do", "not", "need", "to", "query", "a", "directory", "to", "update", "the", "Y-values", ".", "The", "communication", "cost", "is", "thus", "reduced", "substantially", ".", "Whenever", "the", "DB", "owner", "deems", "it", "appropriate", "-LRB-", "e.g.", ",", "after", "database", "is", "updated", "-RRB-", ",", "he", "can", "refuse", "to", "release", "new", "Y-values", "to", "the", "public", ",", "thus", "revoking", "the", "certificate", "in", "a", "de", "facto", "manner", ",", "and", "apply", "a", "new", "certificate", "if", "necessary", ".", "This", "solution", "works", "well", "for", "database", "updates", "because", "it", "is", "to", "the", "benefit", "of", "the", "DB", "owner", "to", "maintain", "the", "certificate", "status", ".", "However", ",", "it", "may", "not", "work", "well", "in", "the", "case", "of", "DB-CA", "compromise", "or", "loss", "of", "Y", "0", ",", "but", "this", "fortunately", "would", "not", "happen", "very", "often", "as", "compared", "with", "database", "updates", ".", "It", "is", "possible", "to", "develop", "a", "hybrid", "solution", "that", "combines", "the", "merits", "of", "both", "DB-owner-handled", "revocation", "and", "CA-handled", "revocation", ".", "For", "a", "watermarking", "scheme", "to", "be", "useful", ",", "it", "must", "be", "robust", "against", "typical", "attacks", "and", "be", "efficient", "in", "practice", ".", "In", "this", "section", ",", "we", "first", "present", "a", "quantitative", "model", "for", "the", "robustness", "of", "our", "watermarking", "scheme", ".", "We", "analyze", "the", "robustness", "of", "our", "scheme", "by", "the", "same", "method", "-LRB-", "i.e.", ",", "binomial", "probability", "-RRB-", "as", "was", "used", "in", "-LSB-", "1", "-RSB-", ".", "We", "then", "investigate", "the", "overhead", "of", "our", "watermarking", "scheme", ".", "We", "also", "study", "the", "tradeoffs", "between", "the", "robustness", "and", "overhead", "in", "terms", "of", "the", "watermarking", "generation", "parameter", "and", "watermarking", "detection", "parameter", ".", "4.1", "Survival", "Binomial", "Probability", "Consider", "n", "Bernoulli", "trials", "of", "an", "event", ",", "with", "probability", "p", "of", "success", "and", "q", "=", "1", "-", "p", "of", "failure", "in", "any", "trial", ".", "Let", "P", "p", "-LRB-", "k", ";", "n", "-RRB-", "be", "the", "probability", "of", "obtaining", "exactly", "k", "successes", "out", "of", "n", "Bernoulli", "trials", "-LRB-", "i.e.", ",", "the", "discrete", "probability", "of", "binomial", "distribution", "-RRB-", ".", "Then", "P", "p", "-LRB-", "k", ";", "n", "-RRB-", "=", "nkp", "k", "q", "n", "-", "k", "-LRB-", "2", "-RRB-", "nk", "=", "n", "!", "k", "!", "-LRB-", "n", "-", "k", "-RRB-", "!", "-LRB-", "3", "-RRB-", "Let", "C", "p", "-LRB-", "k", ";", "n", "-RRB-", "denote", "the", "probability", "of", "having", "more", "than", "k", "successes", "in", "n", "Bernoulli", "trials", ";", "that", "is", ",", "C", "p", "-LRB-", "k", ";", "n", "-RRB-", "is", "the", "survival", "binomial", "probability", ".", "According", "to", "the", "standard", "analysis", "of", "binomial", "distribution", ",", "we", "have", "C", "p", "-LRB-", "k", ";", "n", "-RRB-", "=", "n", "i", "=", "k", "+1", "P", "p", "-LRB-", "i", ";", "n", "-RRB-", "-LRB-", "4", "-RRB-", "In", "many", "widely", "available", "computation", "software", "packages", "such", "as", "Matlab", "and", "Mathematica", ",", "the", "survival", "binomial", "probability", "can", "be", "computed", "by", "C", "p", "-LRB-", "k", ";", "n", "-RRB-", "=", "1", "-", "binocdf", "-LRB-", "k", ",", "n", ",", "p", "-RRB-", ",", "where", "binocdf", "-LRB-", "k", ",", "n", ",", "p", "-RRB-", "is", "the", "binomial", "cumulative", "distribution", "function", "with", "parameters", "n", "and", "p", "at", "value", "k", ".", "When", "n", "is", "large", ",", "the", "binomial", "distribution", "can", "be", "approximated", "by", "a", "normal", "distribution", "with", "mean", "np", ",", "standard", "deviation", "npq", ",", "at", "value", "k", "+", "0.5", ",", "where", "0.5", "is", "the", "correction", "of", "continuity", "-LRB-", "for", "p", "=", "0.5", ",", "the", "normal", "is", "a", "good", "approximation", "when", "n", "is", "as", "low", "as", "10", ";", "see", "chapter", "7.6", "in", "-LSB-", "31", "-RSB-", "-RRB-", ".", "Thus", ",", "C", "p", "-LRB-", "k", ";", "n", "-RRB-", "=", "1", "-", "normcdf", "-LRB-", "k", "+", "0.5", ",", "np", ",", "npq", "-RRB-", ",", "where", "normcdf", "is", "the", "normal", "cumulative", "distribution", "function", ".", "4.2", "Detecting", "Non-Watermarked", "Data", "First", "consider", "the", "robustness", "of", "our", "scheme", "in", "terms", "of", "false", "hit", ",", "which", "is", "the", "probability", "of", "a", "valid", "watermark", "being", "detected", "from", "non-watermarked", "data", ".", "The", "lower", "the", "false", "hit", ",", "the", "better", "the", "robustness", ".", "We", "show", "that", "the", "false", "hit", "is", "under", "control", "in", "our", "scheme", "and", "can", "be", "made", "highly", "improbable", ".", "Recall", "that", "in", "watermark", "detection", ",", "a", "collection", "of", "MSBs", "are", "located", "in", "suspicious", "data", "and", "compared", "with", "the", "corresponding", "bits", "recorded", "in", "the", "public", "watermark", ".", "When", "the", "watermark", "detection", "is", "applied", "to", "non-watermarked", "data", ",", "each", "MSB", "in", "data", "has", "the", "same", "probability", "1/2", "to", "match", "or", "not", "to", "match", "the", "corresponding", "bit", "in", "the", "watermark", ".", "Assume", "that", "the", "non-watermarked", "data", "has", "the", "same", "number", "of", "tuples", "-LRB-", "and", "the", "same", "primary", "keys", "-RRB-", "as", "the", "original", "data", ".", "Let", "=", "be", "the", "total", "number", "of", "bits", "in", "the", "watermark", ",", "where", "is", "the", "watermark", "generation", "parameter", ".", "The", "false", "hit", "is", "the", "probability", "that", "at", "least", "portion", "of", "bits", "can", "be", "detected", "from", "the", "non-watermarked", "data", "by", "sheer", "chance", ",", "where", "is", "the", "watermark", "detection", "parameter", ".", "The", "false", "hit", "H", "can", "be", "written", "as", "H", "=", "C", "1/2", "-LRB-", ",", "-RRB-", "=", "C", "1/2", "-LRB-", ",", "-RRB-", "-LRB-", "5", "-RRB-", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "hit", "H", "=", "1000", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "2", ":", "False", "hit", "as", "function", "of", "2000", "4000", "6000", "8000", "10000", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "hit", "H", "=", "5", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "3", ":", "False", "hit", "as", "function", "of", "Figure", "2", "shows", "the", "change", "of", "the", "false", "hit", "when", "the", "watermark", "insertion", "parameter", "increases", "from", "1", "to", "10", "for", "fixed", "=", "1000", "and", "various", "values", "of", "the", "watermark", "detection", "parameter", ".", "The", "figure", "illustrates", "that", "the", "false", "hit", "is", "monotonic", "decreasing", "with", "both", "watermark", "insertion", "parameter", "and", "detection", "parameter", ".", "On", "the", "one", "hand", ",", "the", "larger", "the", "insertion", "parameter", ",", "the", "more", "MSBs", "are", "included", "in", "the", "watermark", "and", "the", "smaller", "the", "false", "hit", ".", "On", "the", "other", "hand", ",", "the", "false", "hit", "can", "be", "decreased", "by", "increasing", "the", "detection", "parameter", ",", "which", "is", "the", "least", "fraction", "of", "watermark", "bits", "required", "for", "ownership", "assertion", ".", "Figure", "3", "illustrates", "the", "trend", "of", "false", "hit", "when", "the", "number", "of", "tuples", "is", "scaled", "up", "from", "1000", "to", "10,000", ".", "The", "trend", "is", "that", "the", "false", "hit", "is", "monotonic", "decreasing", "with", ".", "This", "trend", "is", "linear", ",", "which", "is", "similar", "to", "that", "of", "increasing", ",", "as", "indicated", "in", "figure", "2", ".", "A", "conclusion", "drawn", "from", "these", "two", "figures", "is", "that", "with", "reasonably", "large", "values", "of", ",", ",", "and/or", ",", "the", "false", "hit", "can", "be", "made", "extremely", "low", ".", "4.3", "Detecting", "Watermarked", "Data", "We", "now", "consider", "the", "robustness", "of", "our", "scheme", "in", "terms", "of", "false", "miss", ",", "which", "is", "the", "probability", "of", "not", "detecting", "a", "valid", "watermark", "from", "watermarked", "data", "that", "has", "been", "modified", "in", "typical", "attacks", ".", "The", "robustness", "can", "also", "be", "measured", "in", "terms", "of", "the", "error", "introduced", "by", "typical", "attacks", ".", "The", "less", "the", "false", "miss", ",", "or", "the", "larger", "the", "error", "introduced", "by", "typical", "attacks", ",", "the", "better", "the", "robustness", ".", "The", "typical", "attacks", "include", "database", "update", ",", "selective", "value", "modification", ",", "and", "suppression", ".", "Other", "typical", "attacks", "include", "the", "data", "frame-up", "attack", "and", "the", "additive", "attack", "which", "have", "been", "addressed", "in", "a", "previous", "section", ".", "4.3.1", "Typical", "Database", "Update", "Typical", "database", "update", "includes", "tuple", "insertion", ",", "tuple", "deletion", ",", "attribute", "deletion", ",", "and", "value", "modification", ".", "For", "tuple", "deletion", "and", "attribute", "deletion", ",", "the", "MSBs", "in", "the", "deleted", "tuples", "or", "attributes", "will", "not", "be", "detected", "in", "watermark", "detection", ";", "however", ",", "the", "MSBs", "in", "other", "tuples", "or", "attributes", "will", "not", "be", "affected", ".", "Therefore", ",", "all", "detected", "MSBs", "will", "match", "their", "counterparts", "in", "the", "public", "watermark", ",", "and", "the", "false", "miss", "is", "zero", ".", "Though", "the", "deletion", "of", "tuples", "or", "attributes", "will", "not", "affect", "the", "false", "miss", ",", "it", "will", "make", "the", "false", "hit", "worse", ".", "The", "more", "the", "tuples", "or", "attributes", "are", "deleted", ",", "the", "larger", "the", "false", "hit", ",", "as", "indicated", "in", "Section", "4.2", ".", "The", "effect", "to", "the", "false", "hit", "of", "deleting", "tuples", "is", "equivalent", "to", "that", "of", "decreasing", "as", "shown", "in", "Figure", "3", ",", "while", "the", "effect", "of", "deleting", "attributes", "is", "equivalent", "to", "decreasing", "proportionally", "as", "shown", "in", "Figure", "2", ".", "Since", "the", "watermark", "detection", "is", "primary", "key", "based", ",", "a", "newly", "inserted", "tuple", "should", "have", "a", "valid", "primary", "key", "value", ";", "otherwise", ",", "there", "is", "no", "corresponding", "tuple", "in", "the", "public", "watermark", ".", "We", "thus", "consider", "tuple", "insertion", "to", "be", "``", "mix-and-match", "''", "-LSB-", "1", "-RSB-", ";", "that", "is", ",", "an", "attacker", "inserts", "new", "tuples", "to", "replace", "watermarked", "tuples", "with", "their", "primary", "key", "values", "unchanged", ".", "For", "watermark", "detection", "to", "return", "a", "false", "answer", ",", "at", "least", "-", "MSBs", "in", "those", "newly", "added", "tuples", "-LRB-", "which", "consists", "of", "MSBs", "-RRB-", "must", "not", "match", "their", "counterparts", "in", "the", "public", "watermark", "-LRB-", "which", "consist", "of", "bits", "-RRB-", ".", "Therefore", ",", "the", "false", "miss", "M", "for", "inserting", "tuples", "in", "mix-and-match", "can", "be", "written", "as", "M", "=", "C", "1/2", "-LRB-", "-", "-", "1", ",", "-RRB-", "-LRB-", "6", "-RRB-", "80", "82", "84", "86", "88", "90", "92", "94", "96", "98", "100", "10", "-15", "10", "-10", "10", "-5", "10", "0", "/", "-LRB-", "%", "-RRB-", "False", "miss", "M", "=", "5", ",", "=", "1000", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "4", ":", "False", "miss", "-LRB-", "tuple", "insertion", "-RRB-", "as", "function", "of", "Figures", "4", ",", "5", ",", "and", "6", "show", "the", "false", "miss", "in", "the", "case", "of", "tuple", "insertion", ".", "The", "default", "parameters", "in", "these", "figures", "are", "/", "=", "90", "%", "-LRB-", "i.e.", ",", "bits", "recorded", "in", "the", "public", "watermark", ".", "When", "the", "watermark", "detection", "is", "applied", "to", "non-watermarked", "data", ",", "each", "MSB", "in", "data", "has", "the", "same", "probability", "1/2", "to", "match", "or", "not", "to", "match", "the", "corresponding", "bit", "in", "the", "watermark", ".", "Assume", "that", "the", "non-watermarked", "data", "has", "the", "same", "number", "of", "tuples", "-LRB-", "and", "the", "same", "primary", "keys", "-RRB-", "as", "the", "original", "data", ".", "Let", "=", "be", "the", "total", "number", "of", "bits", "in", "the", "watermark", ",", "where", "is", "the", "watermark", "generation", "parameter", ".", "The", "false", "hit", "is", "the", "probability", "that", "at", "least", "portion", "of", "bits", "can", "be", "detected", "from", "the", "non-watermarked", "data", "by", "sheer", "chance", ",", "where", "is", "the", "watermark", "detection", "parameter", ".", "The", "false", "hit", "H", "can", "be", "written", "as", "H", "=", "C", "1/2", "-LRB-", ",", "-RRB-", "=", "C", "1/2", "-LRB-", ",", "-RRB-", "-LRB-", "5", "-RRB-", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "hit", "H", "=", "1000", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "2", ":", "False", "hit", "as", "function", "of", "2000", "4000", "6000", "8000", "10000", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "hit", "H", "=", "5", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "3", ":", "False", "hit", "as", "function", "of", "Figure", "2", "shows", "the", "change", "of", "the", "false", "hit", "when", "the", "watermark", "insertion", "parameter", "increases", "from", "1", "to", "10", "for", "fixed", "=", "1000", "and", "various", "values", "of", "the", "watermark", "detection", "parameter", ".", "The", "figure", "illustrates", "that", "the", "false", "hit", "is", "monotonic", "decreasing", "with", "both", "watermark", "insertion", "parameter", "and", "detection", "parameter", ".", "On", "the", "one", "hand", ",", "the", "larger", "the", "insertion", "parameter", ",", "the", "more", "MSBs", "are", "included", "in", "the", "watermark", "and", "the", "smaller", "the", "false", "hit", ".", "On", "the", "other", "hand", ",", "the", "false", "hit", "can", "be", "decreased", "by", "increasing", "the", "detection", "parameter", ",", "which", "is", "the", "least", "fraction", "of", "watermark", "bits", "required", "for", "ownership", "assertion", ".", "Figure", "3", "illustrates", "the", "trend", "of", "false", "hit", "when", "the", "number", "of", "tuples", "is", "scaled", "up", "from", "1000", "to", "10,000", ".", "The", "trend", "is", "that", "the", "false", "hit", "is", "monotonic", "decreasing", "with", ".", "This", "trend", "is", "linear", ",", "which", "is", "similar", "to", "that", "of", "increasing", ",", "as", "indicated", "in", "figure", "2", ".", "A", "conclusion", "drawn", "from", "these", "two", "figures", "is", "that", "with", "reasonably", "large", "values", "of", ",", ",", "and/or", ",", "the", "false", "hit", "can", "be", "made", "extremely", "low", ".", "4.3", "Detecting", "Watermarked", "Data", "We", "now", "consider", "the", "robustness", "of", "our", "scheme", "in", "terms", "of", "false", "miss", ",", "which", "is", "the", "probability", "of", "not", "detecting", "a", "valid", "watermark", "from", "watermarked", "data", "that", "has", "been", "modified", "in", "typical", "attacks", ".", "The", "robustness", "can", "also", "be", "measured", "in", "terms", "of", "the", "error", "introduced", "by", "typical", "attacks", ".", "The", "less", "the", "false", "miss", ",", "or", "the", "larger", "the", "error", "introduced", "by", "typical", "attacks", ",", "the", "better", "the", "robustness", ".", "The", "typical", "attacks", "include", "database", "update", ",", "selective", "value", "modification", ",", "and", "suppression", ".", "Other", "typical", "attacks", "include", "the", "data", "frame-up", "attack", "and", "the", "additive", "attack", "which", "have", "been", "addressed", "in", "a", "previous", "section", ".", "4.3.1", "Typical", "Database", "Update", "Typical", "database", "update", "includes", "tuple", "insertion", ",", "tuple", "deletion", ",", "attribute", "deletion", ",", "and", "value", "modification", ".", "For", "tuple", "deletion", "and", "attribute", "deletion", ",", "the", "MSBs", "in", "the", "deleted", "tuples", "or", "attributes", "will", "not", "be", "detected", "in", "watermark", "detection", ";", "however", ",", "the", "MSBs", "in", "other", "tuples", "or", "attributes", "will", "not", "be", "affected", ".", "Therefore", ",", "all", "detected", "MSBs", "will", "match", "their", "counterparts", "in", "the", "public", "watermark", ",", "and", "the", "false", "miss", "is", "zero", ".", "Though", "the", "deletion", "of", "tuples", "or", "attributes", "will", "not", "affect", "the", "false", "miss", ",", "it", "will", "make", "the", "false", "hit", "worse", ".", "The", "more", "the", "tuples", "or", "attributes", "are", "deleted", ",", "the", "larger", "the", "false", "hit", ",", "as", "indicated", "in", "Section", "4.2", ".", "The", "effect", "to", "the", "false", "hit", "of", "deleting", "tuples", "is", "equivalent", "to", "that", "of", "decreasing", "as", "shown", "in", "Figure", "3", ",", "while", "the", "effect", "of", "deleting", "attributes", "is", "equivalent", "to", "decreasing", "proportionally", "as", "shown", "in", "Figure", "2", ".", "Since", "the", "watermark", "detection", "is", "primary", "key", "based", ",", "a", "newly", "inserted", "tuple", "should", "have", "a", "valid", "primary", "key", "value", ";", "otherwise", ",", "there", "is", "no", "corresponding", "tuple", "in", "the", "public", "watermark", ".", "We", "thus", "consider", "tuple", "insertion", "to", "be", "``", "mix-and-match", "''", "-LSB-", "1", "-RSB-", ";", "that", "is", ",", "an", "attacker", "inserts", "new", "tuples", "to", "replace", "watermarked", "tuples", "with", "their", "primary", "key", "values", "unchanged", ".", "For", "watermark", "detection", "to", "return", "a", "false", "answer", ",", "at", "least", "-", "MSBs", "in", "those", "newly", "added", "tuples", "-LRB-", "which", "consists", "of", "MSBs", "-RRB-", "must", "not", "match", "their", "counterparts", "in", "the", "public", "watermark", "-LRB-", "which", "consist", "of", "bits", "-RRB-", ".", "Therefore", ",", "the", "false", "miss", "M", "for", "inserting", "tuples", "in", "mix-and-match", "can", "be", "written", "as", "M", "=", "C", "1/2", "-LRB-", "-", "-", "1", ",", "-RRB-", "-LRB-", "6", "-RRB-", "80", "82", "84", "86", "88", "90", "92", "94", "96", "98", "100", "10", "-15", "10", "-10", "10", "-5", "10", "0", "/", "-LRB-", "%", "-RRB-", "False", "miss", "M", "=", "5", ",", "=", "1000", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "4", ":", "False", "miss", "-LRB-", "tuple", "insertion", "-RRB-", "as", "function", "of", "Figures", "4", ",", "5", ",", "and", "6", "show", "the", "false", "miss", "in", "the", "case", "of", "tuple", "insertion", ".", "The", "default", "parameters", "in", "these", "figures", "are", "/", "=", "90", "%", "-LRB-", "i.e.", ",", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "miss", "M", "=", "1000", ",", "/", "=", "90", "%", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "5", ":", "False", "miss", "-LRB-", "tuple", "insertion", "-RRB-", "as", "function", "of", "2000", "4000", "6000", "8000", "10000", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "miss", "M", "=", "5", ",", "/", "=", "90", "%", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "6", ":", "False", "miss", "-LRB-", "tuple", "insertion", "-RRB-", "as", "function", "of", "90", "%", "of", "the", "new", "tuples", "are", "inserted", "into", "the", "data", "to", "replace", "the", "watermarked", "tuples", "-RRB-", ",", "=", "5", ",", "and", "=", "1000", ".", "A", "general", "trend", "shown", "in", "these", "figures", "is", "that", "the", "false", "miss", "is", "monotonic", "increasing", "with", "watermark", "detection", "parameter", ".", "This", "trend", "is", "opposite", "to", "that", "of", "the", "false", "hit", ",", "which", "is", "monotonic", "decreasing", "with", "as", "indicated", "in", "Figures", "2", "and", "3", ".", "Therefore", ",", "there", "is", "a", "tradeoff", "between", "false", "hit", "and", "false", "miss", "with", "respect", "to", ".", "Figure", "4", "shows", "that", "even", "if", "80", "%", "of", "watermarked", "tuples", "are", "replaced", "with", "new", "tuples", ",", "the", "false", "miss", "is", "as", "low", "as", "10", "-15", "for", "all", "values", "greater", "than", "or", "equal", "to", "51", "%", ".", "The", "false", "miss", "is", "close", "to", "one", "only", "if", "more", "than", "90", "%", "of", "watermarked", "tuples", "are", "replaced", "in", "this", "figure", ".", "Figures", "5", "and", "6", "illustrate", "that", "the", "false", "miss", "is", "monotonic", "decreasing", "with", "and", ",", "which", "is", "similar", "to", "the", "trend", "of", "false", "hit", "as", "indicated", "in", "Figures", "2", "and", "3", ".", "With", "reasonably", "large", "and/or", ",", "the", "false", "miss", "can", "be", "made", "extremely", "low", ".", "For", "value", "modification", ",", "we", "assume", "that", "the", "modified", "values", "are", "randomly", "chosen", ".", "We", "leave", "the", "selective", "modification", "targeted", "on", "watermarked", "values", "to", "the", "next", "subsection", ".", "Recall", "that", "there", "are", "attributes", "in", "the", "original", "data", "in", "which", "attributes", "are", "watermarked", "for", "each", "tuple", ".", "When", "a", "random", "modification", "happens", ",", "it", "has", "probability", "/", "that", "a", "watermarked", "value", "is", "chosen", ".", "When", "a", "watermarked", "value", "is", "modified", ",", "its", "MSB", "has", "probability", "1/2", "to", "change", "-LRB-", "i.e.", ",", "the", "value", "is", "modified", "randomly", "-RRB-", ".", "In", "watermark", "detection", ",", "a", "detected", "MSB", "has", "probability", "/", "-LRB-", "2", "-RRB-", "not", "to", "match", "its", "counterpart", "in", "the", "public", "watermark", ".", "The", "false", "miss", "M", "for", "randomly", "modifying", "values", "can", "be", "written", "as", "M", "=", "C", "/", "2", "-LRB-", "-", "-", "1", ",", "-RRB-", "-LRB-", "7", "-RRB-", "80", "82", "84", "86", "88", "90", "92", "94", "96", "98", "100", "10", "-15", "10", "-10", "10", "-5", "10", "0", "/", "-LRB-", "-RRB-", "-LRB-", "%", "-RRB-", "False", "miss", "M", "=", "10", ",", "=", "5", ",", "=", "1000", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "7", ":", "False", "miss", "-LRB-", "value", "modification", "-RRB-", "as", "function", "of", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "miss", "M", "=", "10", ",", "=", "1000", ",", "/", "-LRB-", "-RRB-", "=", "90", "%", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "8", ":", "False", "miss", "-LRB-", "value", "modification", "-RRB-", "as", "function", "of", "2000", "4000", "6000", "8000", "10000", "10", "-15", "10", "-10", "10", "-5", "10", "0", "False", "miss", "M", "=", "10", ",", "=", "5", ",", "/", "-LRB-", "-RRB-", "=", "90", "%", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "9", ":", "False", "miss", "-LRB-", "value", "modification", "-RRB-", "as", "function", "of", "Figures", "7", ",", "8", ",", "and", "9", "show", "the", "false", "miss", "in", "the", "case", "of", "random", "value", "modification", ".", "The", "default", "parameters", "in", "these", "figures", "are", "/", "-LRB-", "-RRB-", "=", "90", "%", "-LRB-", "i.e.", ",", "90", "%", "of", "the", "values", "are", "modified", "randomly", "-RRB-", ",", "=", "10", ",", "=", "5", ",", "and", "=", "1000", ".", "The", "general", "trend", "shown", "in", "these", "figures", "for", "value", "modification", "is", "similar", "to", "that", "shown", "in", "previous", "Figures", "4", ",", "5", ",", "and", "6", "for", "tuple", "insertion", ".", "The", "difference", "in", "calculation", "is", "due", "to", "the", "use", "of", "probability", "/", "2", "in", "Equation", "7", "instead", "of", "probability", "1/2", "in", "Equation", "6", ".", "Figure", "7", "shows", "that", "even", "if", "80", "%", "of", "values", "are", "modified", "randomly", ",", "which", "would", "make", "the", "data", "less", "useful", ",", "the", "false", "miss", "rate", "in", "detection", "is", "less", "than", "10", "-10", "in", "our", "computation", ".", "4.3.2", "Selective", "Value", "Modification", "and", "Suppression", "Since", "both", "the", "watermark", "key", "and", "the", "watermark", "are", "public", "in", "our", "scheme", ",", "an", "attacker", "can", "pinpoint", "the", "MSBs", "of", "watermarked", "values", ".", "A", "simple", "attack", "would", "be", "to", "flip", "some", "of", "those", "MSBs", "so", "that", "the", "watermark", "detection", "will", "detect", "no", "match", ".", "Assuming", "that", "watermarked", "MSBs", "are", "flipped", "in", "selective", "value", "modification", ",", "the", "false", "miss", "M", "can", "be", "written", "as", "M", "=", "1", "if-0", "otherwise", "-LRB-", "8", "-RRB-", "If", "no", "less", "than", "-", "watermarked", "MSBs", "are", "flipped", ",", "the", "watermarked", "data", "will", "no", "longer", "be", "detected", ".", "The", "robustness", "of", "our", "scheme", "can", "then", "be", "measured", "in", "terms", "of", "the", "error", "introduced", "by", "this", "attack", ".", "The", "larger", "the", "error", "introduced", "for", "defeating", "the", "watermark", "detection", "-LRB-", "i.e.", ",", "achieving", "M", "=", "1", "-RRB-", ",", "the", "better", "the", "robustness", ".", "Recall", "that", "any", "change", "to", "an", "MSB", "would", "introduce", "intolerable", "error", "to", "the", "related", "data", "value", ".", "To", "defeat", "the", "watermark", "detection", ",", "no", "less", "than", "-", "MSBs", "have", "to", "be", "flipped", ";", "this", "would", "introduce", "intolerable", "errors", "to", "no", "less", "than", "-", "data", "values", ".", "We", "thus", "measure", "the", "robustness", "in", "terms", "of", "failure", "error", "rate", ",", "which", "is", "the", "least", "fraction", "F", "of", "total", "data", "values", "that", "need", "to", "be", "intolerably", "modified", "for", "defeating", "the", "watermark", "detection", ".", "This", "failure", "error", "rate", "can", "be", "written", "as", "F", "=", "-LRB-", "1", "-", "-RRB-", "-LRB-", "9", "-RRB-", "A", "larger", "failure", "error", "rate", "-LRB-", "or", "better", "robustness", "-RRB-", "can", "be", "achieved", "by", "increasing", "-LRB-", "watermark", "generation", "parameter", "-RRB-", "or", "decreasing", "-LRB-", "watermark", "detection", "parameter", "-RRB-", ".", "There", "is", "a", "tradeoff", "between", "the", "robustness", "of", "our", "scheme", "and", "the", "size", "of", "the", "public", "watermark", "-LRB-", "which", "has", "binary", "attributes", "-RRB-", ".", "To", "achieve", "the", "best", "robustness", "in", "terms", "of", "thwarting", "the", "selective", "modification", "attacks", ",", "one", "may", "choose", "=", "and", "0.5", ".", "-LRB-", "However", ",", "this", "would", "increase", "the", "false", "hit", "as", "indicated", "in", "Section", "4.2", ".", "-RRB-", "In", "this", "extreme", "case", ",", "approxi-mately", "50", "%", "of", "data", "values", "have", "to", "be", "intolerably", "modified", "so", "as", "to", "defeat", "the", "watermark", "detection", ".", "To", "avoid", "the", "intolerable", "error", ",", "an", "attacker", "may", "choose", "to", "suppress", "some", "watermarked", "values", "rather", "than", "flipping", "their", "MSBs", ".", "Since", "this", "attack", "causes", "no", "mismatch", "in", "watermark", "detection", ",", "the", "false", "miss", "is", "zero", ".", "However", ",", "it", "will", "increase", "the", "false", "hit", "because", "those", "MSBs", "will", "be", "missed", "in", "watermark", "detection", ".", "It", "is", "easy", "to", "know", "that", "the", "effect", "of", "suppressing", "MSBs", "to", "the", "false", "hit", "is", "the", "equivalent", "of", "decreasing", "the", "total", "number", "of", "MSBs", "by", "in", "the", "computation", "of", "false", "hit", ".", "Thus", ",", "the", "false", "hit", "formula", "-LRB-", "see", "section", "4.2", "-RRB-", "changes", "from", "C", "1/2", "-LRB-", ",", "-RRB-", "to", "C", "1/2", "-LRB-", "-LRB-", "-", "-RRB-", ",", "-", "-RRB-", "for", "selective", "suppression", "of", "watermarked", "values", ".", "Figure", "10", "shows", "the", "influence", "of", "selective", "value", "suppression", "to", "the", "false", "hit", "for", "fixed", "=", "5", ",", "=", "1000", ",", "and", "various", "from", "0.51", "to", "0.55", ".", "In", "the", "figure", ",", "we", "change", "the", "rate", "/", "-LRB-", "-RRB-", "-LRB-", "the", "percentage", "of", "watermarked", "bits", "are", "suppressed", "-RRB-", "from", "0", "%", "to", "99", "%", ".", "Even", "if", "the", "rate", "/", "-LRB-", "-RRB-", "increases", "up", "to", "50", "%", ",", "the", "false", "hit", "is", "still", "below", "15.4", "%", "for", "=", "0.51", ",", "below", "2.2", "%", "for", "=", "0.52", ",", "below", "0.13", "%", "for", "=", "0.53", ",", "below", "3", "10", "-5", "for", "=", "0.54", ",", "and", "below", "2.6", "10", "-7", "for", "=", "0.55", ".", "4.4", "Overhead", "We", "now", "analyze", "the", "time", "and", "space", "overhead", "for", "both", "watermark", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "10", "-15", "10", "-10", "10", "-5", "10", "0", "/", "-LRB-", "-RRB-", "-LRB-", "%", "-RRB-", "False", "hit", "H", "=", "5", ",", "=", "1000", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "10", ":", "False", "hit", "-LRB-", "value", "suppression", "-RRB-", "as", "function", "of", "generation", "and", "watermark", "detection", ".", "Throughout", "the", "analysis", ",", "we", "ignore", "the", "IO", "cost", "-LRB-", "i.e.", ",", "reading", "and", "writing", "tuples", "-RRB-", ".", "Table", "2", "describes", "the", "symbols", "that", "will", "be", "used", "in", "this", "section", ".", "Consider", "watermark", "generation", ".", "For", "each", "of", "tuples", "to", "be", "processed", ",", "a", "random", "sequence", "generator", "G", "is", "first", "seeded", ",", "then", "MSBs", "are", "determined", "based", "on", "random", "numbers", "generated", "by", "G", ".", "The", "MSBs", "are", "assigned", "to", "the", "corresponding", "attributes", "in", "the", "public", "watermark", ".", "For", "each", "MSB", "to", "be", "determined", ",", "one", "mod", "operation", "is", "involved", "and", "one", "attribute", "is", "deleted", "from", "the", "copy", "of", "related", "tuple", ".", "The", "memory", "requirement", "for", "the", "process", "of", "a", "tuple", "is", "to", "keep", "the", "copy", "of", "the", "tuple", ",", "MSBs", ",", "and", "the", "watermark", "key", "in", "concatenation", "with", "the", "tuple", "'s", "primary", "key", ".", "Therefore", ",", "the", "time", "overhead", "t", "genW", "and", "space", "overhead", "m", "genW", "for", "watermark", "generation", "are", "t", "genW", "=", "t", "seed", "+", "-LRB-", "t", "genS", "+", "t", "mod", "+", "t", "bit", "+", "t", "delA", "-RRB-", "=", "O", "-LRB-", "-RRB-", "-LRB-", "10", "-RRB-", "m", "genW", "=", "m", "tuple", "+", "+", "m", "wkey", "=", "O", "-LRB-", "-RRB-", "-LRB-", "11", "-RRB-", "In", "watermark", "detection", ",", "the", "time", "and", "space", "overheads", "are", "the", "same", "as", "in", "watermark", "generation", "except", "for", "the", "cost", "of", "processing", "the", "count", "information", ".", "Let", "t", "if", "denote", "the", "cost", "of", "the", "last", "operation", "``", "if", "match", "count/total", "count", ">", ".", "''", "The", "time", "overhead", "t", "detW", "and", "space", "overhead", "m", "detW", "for", "watermark", "detection", "can", "be", "written", "as", "t", "detW", "=", "2t", "count", "+", "t", "seed", "+", "-LRB-", "t", "genS", "+", "t", "mod", "+", "t", "bit", "+", "t", "delA", "+", "2t", "count", "-RRB-", "+", "t", "if", "=", "O", "-LRB-", "-RRB-", "-LRB-", "12", "-RRB-", "m", "detW", "=", "2m", "count", "+", "m", "tuple", "+", "+", "m", "wkey", "=", "O", "-LRB-", "-RRB-", "-LRB-", "13", "-RRB-", "The", "generated", "watermark", "W", "will", "be", "stored", "on", "disk", ".", "The", "disk", "storage", "requirement", "m", "disk", "is", "thus", "m", "disk", "=", "|", "W", "|", "=", "m", "pkey", "+", "=", "O", "-LRB-", "-RRB-", "-LRB-", "14", "-RRB-", "4.5", "Tradeoffs", "In", "our", "watermark", "scheme", ",", "we", "have", "two", "parameters", ":", "watermark", "generation", "parameter", "and", "watermark", "detection", "parameter", ".", "The", "two", "parameters", "can", "be", "used", "to", "balance", "between", "the", "robustness", "and", "the", "overhead", "of", "our", "scheme", ".", "Table", "3", "summarizes", "the", "tradeoffs", "that", "can", "be", "made", "when", "choosing", "the", "two", "parameters", ".", "The", "watermark", "generation", "parameter", "is", "used", "to", "balance", "between", "robustness", "and", "overhead", ".", "The", "larger", "the", ",", "the", "better", "the", "robustness", "of", "our", "scheme", "and", "the", "worse", "the", "time", "and", "space", "overhead", ".", "While", "the", "watermark", "detection", "parameter", "has", "no", "effect", "on", "figures", "for", "value", "modification", "is", "similar", "to", "that", "shown", "in", "previous", "Figures", "4", ",", "5", ",", "and", "6", "for", "tuple", "insertion", ".", "The", "difference", "in", "calculation", "is", "due", "to", "the", "use", "of", "probability", "/", "2", "in", "Equation", "7", "instead", "of", "probability", "1/2", "in", "Equation", "6", ".", "Figure", "7", "shows", "that", "even", "if", "80", "%", "of", "values", "are", "modified", "randomly", ",", "which", "would", "make", "the", "data", "less", "useful", ",", "the", "false", "miss", "rate", "in", "detection", "is", "less", "than", "10", "-10", "in", "our", "computation", ".", "4.3.2", "Selective", "Value", "Modification", "and", "Suppression", "Since", "both", "the", "watermark", "key", "and", "the", "watermark", "are", "public", "in", "our", "scheme", ",", "an", "attacker", "can", "pinpoint", "the", "MSBs", "of", "watermarked", "values", ".", "A", "simple", "attack", "would", "be", "to", "flip", "some", "of", "those", "MSBs", "so", "that", "the", "watermark", "detection", "will", "detect", "no", "match", ".", "Assuming", "that", "watermarked", "MSBs", "are", "flipped", "in", "selective", "value", "modification", ",", "the", "false", "miss", "M", "can", "be", "written", "as", "M", "=", "1", "if-0", "otherwise", "-LRB-", "8", "-RRB-", "If", "no", "less", "than", "-", "watermarked", "MSBs", "are", "flipped", ",", "the", "watermarked", "data", "will", "no", "longer", "be", "detected", ".", "The", "robustness", "of", "our", "scheme", "can", "then", "be", "measured", "in", "terms", "of", "the", "error", "introduced", "by", "this", "attack", ".", "The", "larger", "the", "error", "introduced", "for", "defeating", "the", "watermark", "detection", "-LRB-", "i.e.", ",", "achieving", "M", "=", "1", "-RRB-", ",", "the", "better", "the", "robustness", ".", "Recall", "that", "any", "change", "to", "an", "MSB", "would", "introduce", "intolerable", "error", "to", "the", "related", "data", "value", ".", "To", "defeat", "the", "watermark", "detection", ",", "no", "less", "than", "-", "MSBs", "have", "to", "be", "flipped", ";", "this", "would", "introduce", "intolerable", "errors", "to", "no", "less", "than", "-", "data", "values", ".", "We", "thus", "measure", "the", "robustness", "in", "terms", "of", "failure", "error", "rate", ",", "which", "is", "the", "least", "fraction", "F", "of", "total", "data", "values", "that", "need", "to", "be", "intolerably", "modified", "for", "defeating", "the", "watermark", "detection", ".", "This", "failure", "error", "rate", "can", "be", "written", "as", "F", "=", "-LRB-", "1", "-", "-RRB-", "-LRB-", "9", "-RRB-", "A", "larger", "failure", "error", "rate", "-LRB-", "or", "better", "robustness", "-RRB-", "can", "be", "achieved", "by", "increasing", "-LRB-", "watermark", "generation", "parameter", "-RRB-", "or", "decreasing", "-LRB-", "watermark", "detection", "parameter", "-RRB-", ".", "There", "is", "a", "tradeoff", "between", "the", "robustness", "of", "our", "scheme", "and", "the", "size", "of", "the", "public", "watermark", "-LRB-", "which", "has", "binary", "attributes", "-RRB-", ".", "To", "achieve", "the", "best", "robustness", "in", "terms", "of", "thwarting", "the", "selective", "modification", "attacks", ",", "one", "may", "choose", "=", "and", "0.5", ".", "-LRB-", "However", ",", "this", "would", "increase", "the", "false", "hit", "as", "indicated", "in", "Section", "4.2", ".", "-RRB-", "In", "this", "extreme", "case", ",", "approxi-mately", "50", "%", "of", "data", "values", "have", "to", "be", "intolerably", "modified", "so", "as", "to", "defeat", "the", "watermark", "detection", ".", "To", "avoid", "the", "intolerable", "error", ",", "an", "attacker", "may", "choose", "to", "suppress", "some", "watermarked", "values", "rather", "than", "flipping", "their", "MSBs", ".", "Since", "this", "attack", "causes", "no", "mismatch", "in", "watermark", "detection", ",", "the", "false", "miss", "is", "zero", ".", "However", ",", "it", "will", "increase", "the", "false", "hit", "because", "those", "MSBs", "will", "be", "missed", "in", "watermark", "detection", ".", "It", "is", "easy", "to", "know", "that", "the", "effect", "of", "suppressing", "MSBs", "to", "the", "false", "hit", "is", "the", "equivalent", "of", "decreasing", "the", "total", "number", "of", "MSBs", "by", "in", "the", "computation", "of", "false", "hit", ".", "Thus", ",", "the", "false", "hit", "formula", "-LRB-", "see", "section", "4.2", "-RRB-", "changes", "from", "C", "1/2", "-LRB-", ",", "-RRB-", "to", "C", "1/2", "-LRB-", "-LRB-", "-", "-RRB-", ",", "-", "-RRB-", "for", "selective", "suppression", "of", "watermarked", "values", ".", "Figure", "10", "shows", "the", "influence", "of", "selective", "value", "suppression", "to", "the", "false", "hit", "for", "fixed", "=", "5", ",", "=", "1000", ",", "and", "various", "from", "0.51", "to", "0.55", ".", "In", "the", "figure", ",", "we", "change", "the", "rate", "/", "-LRB-", "-RRB-", "-LRB-", "the", "percentage", "of", "watermarked", "bits", "are", "suppressed", "-RRB-", "from", "0", "%", "to", "99", "%", ".", "Even", "if", "the", "rate", "/", "-LRB-", "-RRB-", "increases", "up", "to", "50", "%", ",", "the", "false", "hit", "is", "still", "below", "15.4", "%", "for", "=", "0.51", ",", "below", "2.2", "%", "for", "=", "0.52", ",", "below", "0.13", "%", "for", "=", "0.53", ",", "below", "3", "10", "-5", "for", "=", "0.54", ",", "and", "below", "2.6", "10", "-7", "for", "=", "0.55", ".", "4.4", "Overhead", "We", "now", "analyze", "the", "time", "and", "space", "overhead", "for", "both", "watermark", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "10", "-15", "10", "-10", "10", "-5", "10", "0", "/", "-LRB-", "-RRB-", "-LRB-", "%", "-RRB-", "False", "hit", "H", "=", "5", ",", "=", "1000", "=", "0.51", "=", "0.52", "=", "0.53", "=", "0.54", "=", "0.55", "Figure", "10", ":", "False", "hit", "-LRB-", "value", "suppression", "-RRB-", "as", "function", "of", "generation", "and", "watermark", "detection", ".", "Throughout", "the", "analysis", ",", "we", "ignore", "the", "IO", "cost", "-LRB-", "i.e.", ",", "reading", "and", "writing", "tuples", "-RRB-", ".", "Table", "2", "describes", "the", "symbols", "that", "will", "be", "used", "in", "this", "section", ".", "Consider", "watermark", "generation", ".", "For", "each", "of", "tuples", "to", "be", "processed", ",", "a", "random", "sequence", "generator", "G", "is", "first", "seeded", ",", "then", "MSBs", "are", "determined", "based", "on", "random", "numbers", "generated", "by", "G", ".", "The", "MSBs", "are", "assigned", "to", "the", "corresponding", "attributes", "in", "the", "public", "watermark", ".", "For", "each", "MSB", "to", "be", "determined", ",", "one", "mod", "operation", "is", "involved", "and", "one", "attribute", "is", "deleted", "from", "the", "copy", "of", "related", "tuple", ".", "The", "memory", "requirement", "for", "the", "process", "of", "a", "tuple", "is", "to", "keep", "the", "copy", "of", "the", "tuple", ",", "MSBs", ",", "and", "the", "watermark", "key", "in", "concatenation", "with", "the", "tuple", "'s", "primary", "key", ".", "Therefore", ",", "the", "time", "overhead", "t", "genW", "and", "space", "overhead", "m", "genW", "for", "watermark", "generation", "are", "t", "genW", "=", "t", "seed", "+", "-LRB-", "t", "genS", "+", "t", "mod", "+", "t", "bit", "+", "t", "delA", "-RRB-", "=", "O", "-LRB-", "-RRB-", "-LRB-", "10", "-RRB-", "m", "genW", "=", "m", "tuple", "+", "+", "m", "wkey", "=", "O", "-LRB-", "-RRB-", "-LRB-", "11", "-RRB-", "In", "watermark", "detection", ",", "the", "time", "and", "space", "overheads", "are", "the", "same", "as", "in", "watermark", "generation", "except", "for", "the", "cost", "of", "processing", "the", "count", "information", ".", "Let", "t", "if", "denote", "the", "cost", "of", "the", "last", "operation", "``", "if", "match", "count/total", "count", ">", ".", "''", "The", "time", "overhead", "t", "detW", "and", "space", "overhead", "m", "detW", "for", "watermark", "detection", "can", "be", "written", "as", "t", "detW", "=", "2t", "count", "+", "t", "seed", "+", "-LRB-", "t", "genS", "+", "t", "mod", "+", "t", "bit", "+", "t", "delA", "+", "2t", "count", "-RRB-", "+", "t", "if", "=", "O", "-LRB-", "-RRB-", "-LRB-", "12", "-RRB-", "m", "detW", "=", "2m", "count", "+", "m", "tuple", "+", "+", "m", "wkey", "=", "O", "-LRB-", "-RRB-", "-LRB-", "13", "-RRB-", "The", "generated", "watermark", "W", "will", "be", "stored", "on", "disk", ".", "The", "disk", "storage", "requirement", "m", "disk", "is", "thus", "m", "disk", "=", "|", "W", "|", "=", "m", "pkey", "+", "=", "O", "-LRB-", "-RRB-", "-LRB-", "14", "-RRB-", "4.5", "Tradeoffs", "In", "our", "watermark", "scheme", ",", "we", "have", "two", "parameters", ":", "watermark", "generation", "parameter", "and", "watermark", "detection", "parameter", ".", "The", "two", "parameters", "can", "be", "used", "to", "balance", "between", "the", "robustness", "and", "the", "overhead", "of", "our", "scheme", ".", "Table", "3", "summarizes", "the", "tradeoffs", "that", "can", "be", "made", "when", "choosing", "the", "two", "parameters", ".", "The", "watermark", "generation", "parameter", "is", "used", "to", "balance", "between", "robustness", "and", "overhead", ".", "The", "larger", "the", ",", "the", "better", "the", "robustness", "of", "our", "scheme", "and", "the", "worse", "the", "time", "and", "space", "overhead", ".", "While", "the", "watermark", "detection", "parameter", "has", "no", "effect", "on", "Table", "2", ":", "Symbols", "used", "in", "the", "analysis", "of", "overhead", "t", "seed", "cost", "of", "seeding", "random", "sequence", "generator", "S", "with", "public", "key", "and", "a", "tuple", "'s", "primary", "key", "t", "genS", "cost", "of", "generating", "a", "random", "number", "from", "S", "t", "mod", "cost", "of", "mod", "operation", "t", "delA", "cost", "of", "deleting", "an", "attribute", "from", "a", "copy", "of", "a", "tuple", "t", "bit", "cost", "of", "assigning/comparing", "a", "bit", "value", "to/with", "the", "public", "watermark", "t", "count", "cost", "of", "assigning/updating", "a", "count", "in", "watermark", "detection", "m", "count", "number", "of", "bits", "required", "to", "store", "a", "count", "in", "watermark", "detection", "m", "tuple", "number", "of", "bits", "required", "to", "store", "a", "copy", "of", "a", "tuple", "m", "wkey", "number", "of", "bits", "to", "store", "a", "watermark", "key", "m", "pkey", "number", "of", "bits", "to", "store", "a", "primary", "key", "value", "Table", "3", ":", "Tradeoffs", "para-false", "false", "failure", "robustness", "overhead", "overhead", "meter", "hit", "miss", "error", "rate", "-LRB-", "summary", "-RRB-", "-LRB-", "time", "-RRB-", "-LRB-", "space", "-RRB-", "H", "M", "F", "H", "M", "F", "in", "terms", "of", "H", "-", "in", "terms", "of", "M", ",", "F", "the", "overhead", ",", "it", "is", "used", "as", "a", "tradeoff", "between", "false", "hit", ",", "false", "miss", ",", "and", "failure", "error", "rate", ".", "Increasing", "will", "make", "the", "robustness", "better", "in", "terms", "of", "false", "hit", ",", "but", "worse", "in", "terms", "of", "false", "miss", "and", "failure", "error", "rate", ".", "Watermarking", "has", "been", "extensively", "studied", "in", "the", "context", "of", "multimedia", "data", "for", "the", "purpose", "of", "ownership", "protection", "and", "authentication", "-LSB-", "7", ",", "17", ",", "18", "-RSB-", ".", "Most", "watermarking", "schemes", "proposed", "so", "far", "are", "secret", "key", "based", ",", "which", "require", "complete", "disclosure", "of", "the", "watermarking", "key", "in", "watermark", "verification", ".", "These", "watermarking", "schemes", "can", "be", "further", "classified", "as", "private", "-LRB-", "both", "the", "secret", "key", "and", "original", "data", "are", "required", "in", "watermark", "verification", "-RRB-", ",", "blind", "-LRB-", "only", "the", "secret", "key", "is", "needed", "for", "watermark", "bit", "decoding", "-RRB-", ",", "and", "semi-blind", "-LRB-", "it", "requires", "both", "the", "secret", "key", "and", "watermark", "bit", "sequence", "in", "watermark", "detection", "-RRB-", ".", "Watermarking", "schemes", "can", "also", "be", "classified", "as", "being", "robust", "-LRB-", "the", "watermark", "is", "hardly", "destroyed", "in", "attacks", "-RRB-", ",", "or", "fragile", "-LRB-", "the", "watermark", "is", "hardly", "untouched", "if", "the", "watermarked", "data", "is", "modified", "-RRB-", ".", "The", "robust", "watermark", "may", "be", "used", "for", "ownership", "proof", "while", "the", "fragile", "watermark", "is", "suitable", "for", "data", "authentication", "and", "integrity", "check", ".", "As", "database", "piracy", "increasingly", "becomes", "a", "serious", "problem", ",", "watermarking", "techniques", "have", "been", "extended", "to", "protect", "the", "ownership", "of", "published", "or", "distributed", "databases", "-LSB-", "1", ",", "13", ",", "28", ",", "29", ",", "26", ",", "19", ",", "20", ",", "2", "-RSB-", ".", "Agrawal", "and", "Kiernan", "-LSB-", "1", "-RSB-", "first", "proposed", "a", "robust", "watermarking", "scheme", "for", "database", "relations", ".", "Their", "scheme", "modifies", "a", "collection", "of", "least", "significant", "bits", "of", "numerical", "attributes", ".", "The", "locations", "of", "those", "least", "significant", "bits", ",", "and", "the", "values", "to", "which", "those", "bits", "are", "modified", ",", "are", "all", "determined", "by", "a", "secret", "key", ".", "With", "the", "same", "secret", "key", ",", "those", "modified", "values", "can", "be", "localized", "in", "watermark", "detection", ",", "and", "ownership", "is", "claimed", "if", "a", "large", "portion", "of", "the", "detected", "values", "are", "as", "expected", ".", "As", "noted", "by", "Agrawal", "and", "Kiernan", "-LSB-", "1", "-RSB-", ",", "database", "relations", "differ", "from", "multimedia", "data", "in", "significant", "ways", "and", "hence", "require", "a", "different", "class", "of", "watermarking", "techniques", ".", "A", "major", "difference", "is", "that", "a", "database", "relation", "is", "composed", "of", "a", "set", "of", "tuples", ";", "each", "tuple", "represents", "an", "independent", "object", "which", "can", "be", "added", ",", "deleted", ",", "and", "modified", "frequently", "in", "either", "benign", "updates", "or", "malicious", "attacks", ".", "In", "contrast", ",", "a", "multimedia", "object", "consists", "of", "a", "large", "number", "of", "bits", ";", "portions", "of", "a", "multimedia", "object", "are", "bound", "together", "in", "fixed", "spatial", "or", "temporal", "order", "that", "can", "not", "be", "arbitrarily", "changed", ".", "It", "is", "also", "noted", "that", "the", "frequency", "domain", "watermarking", "being", "used", "in", "the", "multimedia", "context", "is", "not", "suitable", "for", "watermarking", "relational", "data", ".", "The", "reason", "is", "that", "the", "error", "introduced", "in", "frequency", "domain", "will", "spread", "over", "all", "attribute", "values", "-LRB-", "i.e.", ",", "the", "whole", "``", "image", "''", "-RRB-", ",", "which", "may", "not", "be", "acceptable", "in", "certain", "database", "applications", ".", "There", "have", "been", "other", "schemes", "proposed", "for", "watermarking", "relational", "data", ".", "In", "Sion", "et", "al.", "'s", "scheme", "-LSB-", "28", "-RSB-", ",", "an", "arbitrary", "bit", "is", "embedded", "into", "a", "selected", "subset", "of", "numeric", "values", "by", "changing", "the", "distribution", "of", "the", "values", ".", "The", "selection", "of", "the", "values", "is", "based", "on", "a", "secret", "sorting", ".", "In", "another", "work", ",", "Gross-Amblard", "-LSB-", "13", "-RSB-", "designs", "a", "query-preserving", "scheme", "which", "guarantees", "that", "special", "queries", "-LRB-", "called", "local", "queries", "-RRB-", "can", "be", "answered", "up", "to", "an", "acceptable", "distortion", ".", "Recent", "work", "also", "includes", "watermarking", "categorical", "data", "-LSB-", "26", "-RSB-", ",", "streaming", "data", "-LSB-", "29", "-RSB-", ",", "XML", "data", "-LSB-", "27", "-RSB-", ",", "and", "medical", "databases", "-LSB-", "2", "-RSB-", ".", "The", "watermarking", "schemes", "for", "categorical", "data", "-LSB-", "26", ",", "2", "-RSB-", "exchange", "pairs", "of", "categorical", "values", "so", "as", "to", "embed", "watermark", "information", ".", "In", "this", "case", ",", "there", "is", "no", "insignificant", "change", "and", "the", "error", "constraint", "is", "considered", "at", "aggregation", "level", "-LRB-", "e.g.", ",", "k-anonymity", "-RRB-", ".", "A", "common", "feature", "of", "this", "class", "of", "work", "is", "that", "a", "watermark", "is", "embedded", "and", "detected", "based", "on", "a", "secret", "key", ".", "Without", "knowing", "the", "key", ",", "an", "attacker", "is", "not", "able", "to", "locate", "exactly", "where", "the", "watermark", "is", "embedded", ",", "nor", "does", "he", "destroy", "the", "embedded", "watermark", "unless", "too", "many", "errors", "are", "introduced", ".", "A", "drawback", "of", "such", "a", "solution", "is", "that", "the", "ownership", "of", "watermarked", "data", "can", "be", "proven", "only", "once", ".", "After", "the", "key", "is", "revealed", "to", "the", "public", "-LRB-", "e.g.", ",", "to", "the", "court", "-RRB-", "in", "the", "proof", ",", "anyone", "knowing", "the", "key", "can", "easily", "locate", "and", "remove", "the", "embedded", "watermark", ".", "Another", "common", "feature", "of", "these", "schemes", "is", "that", "the", "watermarking", "process", "introduces", "errors", "to", "the", "underlying", "data", ".", "This", "may", "severely", "affect", "database", "applications", "unless", "error", "constraints", "are", "carefully", "enforced", "in", "the", "watermarking", "process", ".", "In", "addition", ",", "a", "tradeoff", "between", "the", "watermarking", "error", "and", "the", "robustness", "of", "watermarking", "schemes", "has", "to", "be", "made", ".", "The", "concept", "of", "public", "key", "based", "watermark", "-LRB-", "or", "asymmetric", "watermark", "-RRB-", "was", "first", "conceived", "in", "the", "multimedia", "context", ".", "Hachez", "and", "Quisquater", "summarized", "the", "work", "in", "this", "area", "in", "-LSB-", "14", "-RSB-", ".", "As", "mentioned", "in", "-LSB-", "14", "-RSB-", ",", "one", "of", "the", "first", "ideas", "was", "proposed", "by", "Hartung", "and", "Girod", "-LSB-", "15", "-RSB-", "for", "watermarking", "compressed", "video", ".", "The", "basic", "idea", "is", "to", "make", "a", "part", "of", "the", "embedded", "watermark", "public", "such", "that", "a", "user", "can", "check", "the", "presence", "of", "this", "part", "of", "watermark", ".", "However", ",", "an", "attacker", "is", "able", "to", "remove", "this", "part", "of", "watermark", "and", "thus", "invalidate", "a", "public", "detector", ".", "Another", "idea", "is", "to", "embed", "private", "key", "information", "into", "a", "host", "signal", "and", "detect", "a", "correlation", "between", "the", "signal", "and", "a", "transformation", "of", "the", "signal", "using", "a", "public", "key", "-LSB-", "33", "-RSB-", ".", "Other", "correlation-based", "public", "watermarking", "schemes", "include", "-LSB-", "9", ",", "30", ",", "11", "-RSB-", ".", "However", ",", "such", "watermarks", "can", "be", "removed", "by", "certain", "attacks", "such", "as", "a", "sensitivity", "attack", "-LSB-", "6", ",", "21", "-RSB-", "or", "confusing", "attack", "-LSB-", "34", "-RSB-", ".", "Craver", "and", "Katzenbeisser", "-LSB-", "8", "-RSB-", "used", "a", "zero", "knowledge", "protocol", "to", "prove", "the", "presence", "of", "a", "watermark", "in", "a", "signal", "``", "without", "revealing", "the", "exact", "location", "and", "nature", "of", "the", "watermark", "-LRB-", "specified", "by", "a", "private", "key", "-RRB-", ".", "''", "As", "in", "most", "zero", "knowledge", "protocols", ",", "the", "proposed", "scheme", "requires", "many", "rounds", "of", "interactions", "between", "prover", "and", "verifier", ",", "which", "may", "not", "be", "efficient", "in", "practice", ".", "It", "is", "also", "not", "clear", "how", "to", "extend", "this", "scheme", "to", "watermarking", "relational", "databases", ".", "Because", "the", "original", "watermark", "is", "not", "certified", "and", "because", "a", "verifier", "is", "allowed", "to", "perform", "the", "protocol", "multiple", "times", ",", "this", "scheme", "may", "be", "subject", "to", "oracle", "attack", "-LRB-", "an", "attacker", "uses", "a", "public", "detector", "repeatedly", "to", "test", "modified", "signals", "so", "as", "to", "remove", "the", "watermark", "-RRB-", ",", "plain-text", "chosen", "attack", "-LRB-", "a", "special", "case", "of", "oracle", "attack", "in", "which", "the", "tested", "signals", "are", "chosen", "by", "an", "attacker", "-RRB-", ",", "or", "ambiguity", "attack", "-LRB-", "also", "called", "invert-ibility", "attack", ",", "in", "which", "a", "fake", "watermark", "is", "discovered", "from", "the", "watermarked", "signal", "-RRB-", ".", "In", "comparison", ",", "our", "scheme", "requires", "no", "interaction", "between", "a", "verifier", "and", "the", "owner", "of", "data", ",", "thus", "is", "immune", "to", "both", "oracle", "attack", "and", "plain-text", "chosen", "attack", ".", "The", "watermark", "is", "certified", "in", "our", "scheme", "for", "thwarting", "the", "ambiguity", "attack", "-LRB-", "which", "we", "call", "additive", "attack", "in", "this", "paper", "-RRB-", ".", "In", "addition", ",", "our", "scheme", "is", "both", "efficient", "and", "robust", "for", "typical", "database", "operations", ".", "In", "this", "paper", ",", "we", "proposed", "a", "public", "watermarking", "scheme", "for", "relational", "databases", ".", "The", "scheme", "is", "unique", "in", "that", "it", "has", "the", "following", "properties", ".", "Public", "verifiability", "Given", "a", "database", "relation", "to", "be", "published", "or", "distributed", ",", "the", "owner", "of", "data", "uses", "a", "public", "watermark", "key", "to", "generate", "a", "public", "watermark", ",", "which", "is", "a", "relation", "with", "binary", "attributes", ".", "Anyone", "can", "use", "the", "watermark", "key", "and", "the", "watermark", "to", "check", "whether", "a", "suspicious", "copy", "of", "data", "is", "watermarked", ",", "and", ",", "if", "so", ",", "prove", "the", "ownership", "of", "the", "data", "by", "checking", "a", "watermark", "certificate", "officially", "signed", "by", "a", "trusted", "certificate", "authority", ",", "DB-CA", ".", "The", "watermark", "certificate", "contains", "the", "owner", "'s", "ID", ",", "the", "watermark", "key", ",", "the", "hashes", "of", "both", "the", "watermark", "and", "DB", "relation", ",", "the", "first", "time", "the", "relation", "was", "certified", ",", "the", "validity", "period", "of", "the", "current", "certificate", ",", "and", "the", "DB-CA", "'s", "signature", ".", "The", "watermark", "certificate", "may", "be", "revoked", "and", "re-certified", "in", "the", "case", "of", "identity", "change", ",", "ownership", "change", ",", "DB-CA", "compromise", ",", "or", "data", "update", ".", "Therefore", ",", "the", "revocation", "status", "also", "needs", "to", "be", "checked", "in", "ownership", "proof", ".", "To", "our", "best", "knowledge", ",", "our", "scheme", "is", "the", "only", "one", "to", "achieve", "public", "ownership", "proof", "in", "database", "literature", ".", "In", "contrast", ",", "all", "existing", "schemes", "are", "based", "on", "secret", "key", ",", "by", "which", "ownership", "can", "not", "be", "proven", "more", "than", "once", "in", "public", ".", "Distortion", "free", "Different", "from", "typical", "watermarking", "schemes", "-LRB-", "e.g.", ",", "-LSB-", "1", "-RSB-", "-RRB-", "for", "database", "ownership", "proof", "that", "hide", "watermark", "information", "in", "data", "by", "modifying", "least", "significant", "bits", "-LRB-", "LSBs", "-RRB-", ",", "our", "scheme", "generates", "a", "public", "watermark", "from", "a", "collection", "of", "the", "most", "significant", "bits", "-LRB-", "MSBs", "-RRB-", ".", "Our", "scheme", "does", "not", "modify", "any", "MSBs", ";", "therefore", ",", "it", "is", "distortion-free", ".", "The", "public", "watermark", "is", "a", "database", "relation", "that", "has", "the", "same", "primary", "key", "attribute", "as", "the", "original", "data", ",", "plus", "one", "or", "more", "binary", "attributes", "to", "store", "the", "MSBs", ".", "Even", "though", "the", "MSBs", "are", "publicly", "known", ",", "an", "attacker", "can", "not", "modify", "them", "without", "introducing", "intolerable", "error", "to", "the", "underlying", "data", ".", "In", "comparison", ",", "all", "previous", "watermarking", "schemes", "for", "databases", "introduce", "some", "kind", "of", "distortion", "to", "the", "watermarked", "data", ".", "They", "either", "modify", "LSB", "'s", "for", "numerical", "data", "-LRB-", "e.g.", ",", "-LSB-", "1", ",", "19", ",", "20", "-RSB-", "-RRB-", ",", "or", "exchange", "values", "among", "categorical", "data", "-LRB-", "e.g.", ",", "-LSB-", "26", ",", "2", "-RSB-", "-RRB-", ".", "Those", "schemes", "work", "well", "for", "particular", "types", "of", "data", "only", ",", "while", "our", "scheme", "can", "be", "applied", "for", "any", "type", "of", "data", "distortion-free", ".", "Incremental", "updatability", "Following", "the", "line", "of", "-LSB-", "1", "-RSB-", ",", "each", "tuple", "in", "a", "database", "relation", "is", "independently", "processed", "in", "our", "scheme", ".", "Neither", "watermark", "generation", "nor", "detection", "depends", "on", "any", "correlation", "or", "costly", "sorting", "among", "data", "items", "as", "required", "in", "-LSB-", "28", ",", "26", ",", "2", "-RSB-", ".", "Therefore", ",", "the", "scheme", "is", "particularly", "efficient", "for", "typical", "database", "operations", ",", "which", "are", "mostly", "tuple", "oriented", ".", "In", "the", "case", "of", "tuple", "insertion", ",", "deletion", ",", "or", "modification", ",", "the", "watermark", "can", "be", "easily", "updated", "by", "processing", "those", "relating", "tuples", "only", ",", "with", "simple", "computation", "of", "random", "sequence", "numbers", "and", "modulus", "operations", ".", "Due", "to", "the", "robustness", "of", "our", "scheme", ",", "the", "update", "of", "watermark", "certificate", "can", "be", "performed", "periodically", "after", "a", "batch", "of", "data", "updates", ".", "Robustness", "Since", "the", "ownership", "of", "data", "is", "proven", "after", "the", "data", "is", "published", "or", "distributed", ",", "it", "is", "crucial", "that", "our", "scheme", "is", "robust", "against", "various", "attacks", "that", "intend", "to", "invalidate", "watermark", "detection", "or", "ownership", "proof", ".", "The", "robustness", "of", "our", "scheme", "is", "measured", "in", "terms", "of", ":", "-LRB-", "i", "-RRB-", "false", "hit", ",", "the", "probability", "of", "detecting", "a", "valid", "watermark", "from", "non-watermarked", "data", ";", "-LRB-", "ii", "-RRB-", "false", "miss", ",", "the", "probability", "of", "not", "detecting", "a", "valid", "watermark", "from", "watermarked", "data", "due", "to", "attacks", ";", "and", "-LRB-", "iii", "-RRB-", "failure", "error", "rate", ",", "the", "least", "portion", "of", "data", "that", "has", "to", "be", "intolerably", "modified", "so", "as", "to", "defeat", "our", "watermark", "detection", ".", "Typical", "database", "attacks", "considered", "in", "this", "paper", "include", "tuple/attribute", "insertion", ",", "deletion", ",", "and", "random/selecitive", "value", "modification/suppression", ".", "Both", "theoretical", "analysis", "and", "experimental", "study", "show", "that", "our", "scheme", "is", "robust", "in", "terms", "of", "these", "measures", ",", "which", "can", "be", "adjusted", "by", "the", "watermark", "generation", "and", "detection", "parameters", ".", "We", "have", "also", "studied", "the", "tradeoff", "between", "the", "robustness", "and", "the", "overhead", "of", "our", "scheme", ".", "Our", "scheme", "is", "robust", "against", "the", "data", "frame-up", "attack", "and", "additive", "attack", "that", "may", "be", "more", "perilous", "to", "public", "watermarking", "schemes", ".", "The", "major", "contribution", "of", "this", "paper", "is", "the", "proposal", "of", "a", "public", "watermarking", "scheme", "that", "has", "the", "above", "properties", ".", "Though", "our", "scheme", "may", "not", "necessarily", "supersede", "secret", "key", "based", "schemes", "due", "to", "the", "overhead", "of", "using", "certificate", "and", "public", "watermark", ",", "we", "believe", "that", "it", "can", "be", "applied", "more", "practically", "in", "the", "real", "world", "for", "database", "ownership", "protection", ".", "Our", "future", "plan", "includes", "extending", "our", "scheme", "to", "other", "types", "of", "data", "such", "as", "XML", "and", "streaming", "data", ".", "-LSB-", "1", "-RSB-", "R.", "Agrawal", "and", "J.", "Kiernan", ".", "Watermarking", "relational", "databases", ".", "In", "Proceedings", "of", "VLDB", ",", "pages", "155", "166", ",", "2002", ".", "-LSB-", "2", "-RSB-", "E.", "Bertino", ",", "B.", "C.", "Ooi", ",", "Y.", "Yang", ",", "and", "R.", "Deng", ".", "Privacy", "and", "ownership", "preserving", "of", "outsourced", "medical", "data", ".", "In", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Data", "Engineering", ",", "pages", "521", "532", ",", "2005", ".", "-LSB-", "3", "-RSB-", "D.", "Boneh", "and", "M.", "Franklin", ".", "Identity-based", "encryption", "from", "the", "weil", "pairing", ".", "In", "Proceedings", "of", "CRYPTO", "'", "2001", ",", "LNCS", "2139", ",", "Springer-Varlag", ",", "pages", "213", "229", ",", "2001", ".", "-LSB-", "4", "-RSB-", "Coalition", "Against", "Database", "Piracy", "-LRB-", "CADP", "-RRB-", ".", "Piracy", "is", "unacceptable", "in", "the", "information", "age", "or", "any", "other", "age", ",", "July", "2", ",", "2005", ".", "http://cadp.net/default.asp", ".", "-LSB-", "5", "-RSB-", "C.", "Cocks", ".", "An", "identity", "based", "encryption", "scheme", "based", "on", "quadratic", "residues", ".", "In", "Cryptography", "and", "Coding", "-", "Institute", "of", "Mathematics", "and", "Its", "Applications", "International", "Conference", "on", "Cryp", "-", "tography", "and", "Coding", "Proceedings", "of", "IMA", "2001", ",", "LNCS", "2260", ",", "pages", "360", "363", ",", "2001", ".", "-LSB-", "6", "-RSB-", "I.", "J.", "Cox", "and", "J.", "M.", "G.", "Linnartz", ".", "Public", "watermarks", "and", "resistance", "to", "tampering", ".", "In", "Proceedings", "of", "International", "Conference", "on", "Image", "Processing", ",", "pages", "3", "6", ",", "1997", ".", "-LSB-", "7", "-RSB-", "I.", "J.", "Cox", ",", "M.", "L.", "Miller", ",", "and", "J.", "A.", "Bloom", ".", "Digital", "Watermarking", ":", "Principles", "and", "Practice", ".", "Morgan", "Kaufmann", ",", "2001", ".", "-LSB-", "8", "-RSB-", "S.", "Craver", "and", "S.", "Katzenbeisser", ".", "Security", "analysis", "of", "public-key", "watermarking", "schemes", ".", "In", "SPIE", "Vol", ".", "4475", ",", "Mathematics", "of", "Data/Image", "Coding", ",", "Compression", ",", "and", "Encryption", "IV", ",", "pages", "172", "182", ",", "2001", ".", "-LSB-", "9", "-RSB-", "J.", "J.", "Eggers", ",", "J.", "K.", "Su", ",", "and", "B.", "Girod", ".", "Public", "key", "watermarking", "by", "eigenvectors", "of", "linear", "transforms", ".", "In", "Proceedings", "of", "European", "Signal", "Processing", "Conference", "-LRB-", "EUSIPCO", "-RRB-", ",", "2000", ".", "-LSB-", "10", "-RSB-", "S.", "Farrell", "and", "R.", "Housley", ".", "An", "internet", "attribute", "certificate", "profile", "for", "authorization", ",", "internet", "draft", ",", "April", ",", "2002", ".", "http://www.ietf.org/rfc/rfc3281.txt", ".", "-LSB-", "11", "-RSB-", "T.", "Furon", ",", "I.", "Venturini", ",", "and", "P.", "Duhamel", ".", "A", "unified", "approach", "of", "asymmetric", "watermarking", "schemes", ".", "In", "SPIE", "Vol", ".", "4314", ",", "Security", "and", "Watermarking", "of", "Multimedia", "Contents", "III", ",", "pages", "269", "279", ",", "2001", ".", "-LSB-", "12", "-RSB-", "B.", "Gray", "and", "J.", "Gorelick", ".", "Database", "piracy", "plague", ".", "The", "Washington", "Times", ",", "March", "1", ",", "2004", ".", "http://www.washingtontimes.com", ".", "-LSB-", "13", "-RSB-", "D.", "Gross-Amblard", ".", "Query-preserving", "watermarking", "of", "relational", "databases", "and", "xml", "documents", ".", "In", "Proceedings", "of", "ACM", "Symposium", "on", "Principles", "of", "Database", "Systems", "-LRB-", "PODS", "-RRB-", ",", "pages", "191", "201", ",", "2003", ".", "-LSB-", "14", "-RSB-", "G.", "Hachez", "and", "J.", "Quisquater", ".", "Which", "directions", "for", "asymmetric", "watermarking", ".", "In", "Proceedings", "of", "XI", "European", "Signal", "Processing", "Conference", "-LRB-", "EUSIPCO", "-RRB-", ",", "Vol", ".", "I", ",", "pages", "283", "286", ",", "2002", ".", "-LSB-", "15", "-RSB-", "F.", "Hartung", "and", "B.", "Girod", ".", "Fast", "public-key", "watermarking", "of", "compressed", "video", ".", "In", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Speech", "and", "Signal", "Processing", ",", "1997", ".", "-LSB-", "16", "-RSB-", "R.", "Housley", ",", "W.", "Ford", ",", "W.", "Polk", ",", "and", "D.", "Solo", ".", "Internet", "x.", "509", "public", "key", "infrastructure", "certificate", "and", "crl", "profile", ",", "July", "2", ",", "2005", ".", "http://www.ietf.org/rfc/rfc2459.txt", ".", "-LSB-", "17", "-RSB-", "N.", "F.", "Johnson", ",", "Z.", "Duric", ",", "and", "S.", "Jajodia", ".", "Information", "Hiding", ":", "Steganography", "and", "Watermarking", "Attacks", "and", "Countermeasures", ".", "Kluwer", "Publishers", ",", "2000", ".", "-LSB-", "18", "-RSB-", "S.", "Katzenbeisser", "and", "F.", "A.", "Petitcolas", ",", "editors", ".", "Information", "Hiding", "Techniques", "for", "Steganography", "and", "Digital", "Watermarking", ".", "Artech", "House", ",", "2000", ".", "-LSB-", "19", "-RSB-", "Y.", "Li", ",", "V.", "Swarup", ",", "and", "S.", "Jajodia", ".", "Constructing", "a", "virtual", "primary", "key", "for", "fingerprinting", "relational", "data", ".", "In", "Proceedings", "of", "ACM", "Workshop", "on", "Digital", "Rights", "Management", "-LRB-", "DRM", "-RRB-", ",", "October", "2003", ".", "-LSB-", "20", "-RSB-", "Y.", "Li", ",", "V.", "Swarup", ",", "and", "S.", "Jajodia", ".", "Fingerprinting", "relational", "databases", ":", "Schemes", "and", "specialties", ".", "IEEE", "Transactions", "on", "Dependable", "and", "Secure", "Computing", "-LRB-", "TDSC", "-RRB-", ",", "2", "-LRB-", "1", "-RRB-", ":", "34", "45", ",", "2005", ".", "-LSB-", "21", "-RSB-", "J.", "M.", "G.", "Linnartz", "and", "M.", "van", "Dijk", ".", "Analysis", "of", "the", "sensitivity", "attack", "against", "electronic", "watermarks", "in", "images", ".", "In", "Proceedings", "of", "2nd", "Workshop", "on", "Information", "Hiding", "Workshop", ",", "1998", ".", "-LSB-", "22", "-RSB-", "A.", "Menezes", ",", "P.", "C.", "van", "Oorschot", ",", "and", "S.", "A.", "Vanstone", ".", "Handbook", "of", "Applied", "Cryptography", ".", "CRC", "Press", ",", "1997", ".", "-LSB-", "23", "-RSB-", "S.", "Micali", ".", "Efficient", "certificate", "revocation", ".", "In", "Technical", "Report", ":", "TM-542b", ".", "Massachusetts", "Institute", "of", "Technology", ".", "Cambridge", ",", "MA", ",", "USA", ",", "1996", ".", "-LSB-", "24", "-RSB-", "B.", "Schneier", ".", "Applied", "Cryptography", ".", "John", "Wiley", "&", "Sons", ",", "Inc.", ",", "1996", ".", "-LSB-", "25", "-RSB-", "A.", "Shamir", ".", "Identity-based", "cryptosystems", "and", "signature", "schemes", ".", "In", "Proceedings", "of", "CRYPTO", "'", "84", ",", "LNCS", "196", ",", "Springer-Varlag", ",", "pages", "47", "53", ",", "1984", ".", "-LSB-", "26", "-RSB-", "R.", "Sion", ".", "Proving", "ownership", "over", "categorical", "data", ".", "In", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Data", "Engineering", ",", "pages", "584", "596", ",", "2004", ".", "-LSB-", "27", "-RSB-", "R.", "Sion", ",", "M.", "Atallah", ",", "and", "S.", "Prabhakar", ".", "Resilient", "information", "hiding", "for", "abstract", "semi-structures", ".", "In", "Proceedings", "of", "the", "Workshop", "on", "Digital", "Watermarking", ",", "2003", ".", "-LSB-", "28", "-RSB-", "R.", "Sion", ",", "M.", "Atallah", ",", "and", "S.", "Prabhakar", ".", "Rights", "protection", "for", "relational", "data", ".", "In", "Proceedings", "of", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pages", "98", "108", ",", "2003", ".", "-LSB-", "29", "-RSB-", "R.", "Sion", ",", "M.", "Atallah", ",", "and", "S.", "Prabhakar", ".", "Resilient", "rights", "protection", "for", "sensor", "streams", ".", "In", "Proceedings", "of", "the", "Very", "Large", "Databases", "Conference", ",", "pages", "732", "743", ",", "2004", ".", "-LSB-", "30", "-RSB-", "J.", "Smith", "and", "C.", "Dodge", ".", "Developments", "in", "steganography", ".", "In", "Proceedings", "of", "3rd", "International", "Workshop", "on", "Information", "Hiding", ",", "pages", "77", "87", ",", "1999", ".", "-LSB-", "31", "-RSB-", "G.", "W.", "Snedecor", "and", "W.", "G.", "Cochran", ".", "Statistical", "Methods", ".", "8th", "edition", ",", "Iowa", "State", "Press", ",", "1989", ".", "-LSB-", "32", "-RSB-", "L.", "Vaas", ".", "Putting", "a", "stop", "to", "database", "piracy", ".", "eWEEK", ",", "enterprise", "news", "and", "reviews", ",", "September", "24", ",", "2003", ".", "http://www.eweek.com/print", "article/0", ",3048", ",", "a", "=", "107965,00", ".", "asp", ".", "-LSB-", "33", "-RSB-", "R.", "G.", "van", "Schyndel", ",", "A.", "Z.", "Tirkel", ",", "and", "I.", "D.", "Svalbe", ".", "Key", "independent", "watermark", "detection", ".", "In", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Multimedia", "Computing", "and", "Systems", ",", "Vol", ".", "1", ",", "1999", ".", "-LSB-", "34", "-RSB-", "Y.", "Wu", ",", "F.", "Bao", ",", "and", "C.", "Xu", ".", "On", "the", "security", "of", "two", "public", "key", "watermarking", "schemes", ".", "In", "Proceedings", "of", "4th", "IEEE", "Pacific-Rim", "Conference", "on", "Multimedia", ",", "2003", "."], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["certificate", "watermark", "public verifiability", "ownership protection", "relational database"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "195", "document": ["Topic", "Transition", "Detection", "Using", "Hierarchical", "Hidden", "Markov", "and", "Semi-Markov", "Models", "In", "this", "paper", "we", "introduce", "a", "probabilistic", "framework", "to", "exploit", "hierarchy", ",", "structure", "sharing", "and", "duration", "information", "for", "topic", "transition", "detection", "in", "videos", ".", "Our", "probabilistic", "detection", "framework", "is", "a", "combination", "of", "a", "shot", "classification", "step", "and", "a", "detection", "phase", "using", "hierarchical", "probabilistic", "models", ".", "We", "consider", "two", "models", "in", "this", "paper", ":", "the", "extended", "Hierarchical", "Hidden", "Markov", "Model", "-LRB-", "HHMM", "-RRB-", "and", "the", "Coxian", "Switching", "Hidden", "semi-Markov", "Model", "-LRB-", "S-HSMM", "-RRB-", "because", "they", "allow", "the", "natural", "decomposition", "of", "semantics", "in", "videos", ",", "including", "shared", "structures", ",", "to", "be", "modeled", "directly", ",", "and", "thus", "enabling", "efficient", "inference", "and", "reducing", "the", "sample", "complexity", "in", "learning", ".", "Additionally", ",", "the", "S-HSMM", "allows", "the", "duration", "information", "to", "be", "incorporated", ",", "consequently", "the", "modeling", "of", "long-term", "dependencies", "in", "videos", "is", "enriched", "through", "both", "hierarchical", "and", "duration", "modeling", ".", "Furthermore", ",", "the", "use", "of", "the", "Coxian", "distribution", "in", "the", "S-HSMM", "makes", "it", "tractable", "to", "deal", "with", "long", "sequences", "in", "video", ".", "Our", "experimentation", "of", "the", "proposed", "framework", "on", "twelve", "educational", "and", "training", "videos", "shows", "that", "both", "models", "outperform", "the", "baseline", "cases", "-LRB-", "flat", "HMM", "and", "HSMM", "-RRB-", "and", "performances", "reported", "in", "earlier", "work", "in", "topic", "detection", ".", "The", "superior", "performance", "of", "the", "S-HSMM", "over", "the", "HHMM", "verifies", "our", "belief", "that", "duration", "information", "is", "an", "important", "factor", "in", "video", "content", "modeling", ".", "H.", "3.1", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", ".", "Algorithms", ",", "Management", "The", "ultimate", "goal", "of", "the", "video", "segmentation", "problem", "is", "to", "characterize", "the", "temporal", "dynamics", "of", "the", "video", "whereby", "it", "can", "be", "segmented", "into", "coherent", "units", ",", "possibly", "at", "different", "levels", "of", "abstraction", ".", "Seeking", "abstract", "units", "to", "move", "beyond", "the", "shots", "has", "thus", "been", "an", "active", "topic", "of", "much", "recent", "re-Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MM", "'", "05", ",", "November", "6", "11", ",", "2005", ",", "Singapore", ".", "Copyright", "2005", "ACM", "1-59593-044-2", "/", "05/0011", "...", "$", "5.00", ".", "search", ".", "While", "the", "problem", "of", "shot", "transition", "is", "largely", "solved", "at", "a", "satisfactory", "level", "-LSB-", "7", "-RSB-", ",", "the", "`", "abstract", "units", "'", "or", "scene", "detection", "problem", "is", "much", "harder", ",", "partially", "due", "to", "the", "following", "three", "challenges", "identified", "in", "-LSB-", "29", "-RSB-", ":", "-LRB-", "a", "-RRB-", "the", "variety", "in", "directional", "styles", ",", "-LRB-", "b", "-RRB-", "the", "semantic", "relationship", "of", "neighbouring", "scenes", ",", "and", "-LRB-", "c", "-RRB-", "the", "knowledge", "of", "the", "viewer", "about", "the", "world", ".", "While", "the", "last", "aspect", "is", "beyond", "the", "scope", "of", "this", "work", ",", "the", "first", "two", "clearly", "imply", "that", "effective", "modeling", "of", "high-level", "semantics", "requires", "the", "domain", "knowledge", "-LRB-", "directional", "style", "-RRB-", "and", "the", "modeling", "of", "long-term", ",", "multiple-scale", "correlations", "of", "the", "video", "dynamics", "-LRB-", "neighboring", "semantic", "relationship", "-RRB-", ".", "Modeling", "temporal", "correlations", "over", "a", "long", "period", "is", "generally", "a", "challenging", "problem", ".", "As", "we", "shall", "review", "in", "the", "subsequent", "section", ",", "this", "problem", "is", "usually", "solved", "in", "a", "specific", "domain", "setting", "so", "that", "the", "expert", "knowledge", "about", "the", "domain", "can", "be", "utilised", ".", "While", "organization", "of", "content", "in", "generic", "videos", "-LRB-", "e.g.", ",", "movies", "-RRB-", "is", "too", "diverse", "to", "be", "fully", "char-acterized", "by", "statistical", "models", ",", "the", "hierarchy", "of", "semantic", "structure", "in", "the", "class", "of", "education-oriented", "videos", "is", "more", "defined", ",", "exposing", "strong", "temporal", "correlation", "in", "time", ",", "and", "thus", "make", "it", "more", "desirable", "to", "probabilistic", "modeling", ".", "In", "this", "paper", ",", "we", "concentrate", "on", "this", "video", "genre", "and", "develop", "an", "effective", "framework", "to", "segment", "these", "videos", "into", "topi-cally", "correlated", "units", ".", "This", "problem", "is", "an", "important", "step", "to", "enable", "abstraction", ",", "summarization", ",", "and", "browsing", "of", "educational", "content", "a", "rich", "class", "of", "film", "genre", "that", "has", "an", "increasing", "important", "role", "in", "building", "e-services", "for", "learning", "and", "training", ".", "Probabilistic", "modeling", "of", "temporal", "correlations", "in", "video", "data", "is", "however", "a", "difficult", "problem", ".", "It", "is", "complicated", "because", "the", "underlying", "semantics", "naturally", "possess", "a", "hierarchical", "decomposition", "with", "possible", "existence", "of", "tight", "structure", "sharing", "between", "high-level", "semantics", ".", "In", "addition", ",", "the", "typical", "duration", "for", "these", "structures", "usually", "varies", "for", "each", "of", "its", "higher", "semantic", ".", "As", "an", "example", ",", "assisted", "narration", "a", "section", "that", "involves", "the", "narrator", "talking", "to", "the", "audience", "is", "usually", "used", "in", "both", "the", "introduction", "and", "in", "the", "main", "body", "of", "a", "topic", "in", "an", "educational", "video", ".", "However", "while", "one", ",", "or", "rarely", "two", ",", "shots", "of", "assisted", "narration", "-LRB-", "AN", "-RRB-", "are", "considered", "sufficient", "for", "the", "introduction", ",", "the", "body", "typically", "requires", "many", "AN", "shots", ".", "Thus", "it", "is", "important", "to", "exploit", "and", "fuse", "hierarchical", "decomposition", ",", "structure", "sharing", "and", "duration", "information", "in", "a", "unified", "framework", "to", "effectively", "address", "the", "problem", "of", "topic", "transition", "detection", ".", "The", "most", "widely", "used", "pobabilistic", "model", "is", "the", "hidden", "Markov", "model", "-LRB-", "HMM", "-RRB-", ".", "However", ",", "in", "many", "cases", ",", "the", "HMM", "is", "unsuitable", "for", "video", "analysis", "since", "the", "strong", "Markov", "assumption", "makes", "it", "too", "restrictive", "to", "capture", "correlations", "11", "over", "long", "periods", ".", "This", "limitation", "is", "usually", "overcome", "in", "the", "literature", "by", "the", "use", "of", "a", "series", "of", "HMMs", "in", "a", "hierarchic", "manner", ".", "The", "underlying", "problem", "in", "these", "approaches", "still", "is", "the", "manual", "combination", "of", "HMMs", "at", "the", "higher", "levels", "which", "results", "in", "the", "excessive", "expense", "of", "preparing", "the", "training", "data", "and", ",", "more", "importantly", ",", "the", "interaction", "across", "higher", "semantic", "levels", "is", "not", "incorporated", "during", "model", "training", ".", "One", "rigorous", "approach", "to", "overcome", "this", "limitation", "is", "the", "use", "of", "the", "Hierarchical", "Hidden", "Markov", "Model", "-LRB-", "HHMM", "-RRB-", ",", "first", "introduced", "in", "-LSB-", "6", "-RSB-", "and", "later", "extended", "to", "handle", "structure", "sharing", "in", "-LSB-", "3", "-RSB-", ".", "The", "sophisticated", "model", "in", "-LSB-", "3", "-RSB-", "allows", "natural", "hierarchical", "organization", "of", "the", "videos", ",", "including", "any", "existing", "structure", "sharing", ",", "to", "be", "modeled", "rigorously", ".", "Practically", "this", "will", "result", "in", "computational", "savings", "and", "a", "reduction", "in", "sample", "complexity", "for", "learning", ".", "Given", "its", "advantages", ",", "we", "use", "this", "model", "in", "this", "paper", "to", "model", "educational", "video", "content", "for", "topic", "transition", "detection", ".", "It", "is", "natural", "to", "see", "that", "durative", "properties", "play", "an", "important", "role", "in", "human", "perception", ".", "An", "excessively", "long", "lecture", "would", "bore", "the", "students", ".", "As", "such", ",", "education-oriented", "videos", "-LRB-", "e.g.", ",", "news", ",", "documentaries", ",", "lectures", ",", "training", "videos", ",", "etc.", "-RRB-", "exhibit", "strong", "duration", "information", "in", "their", "content", ".", "We", "thus", "propose", "an", "alternative", "approach", "towards", "handling", "temporal", "dependencies", "over", "long", "periods", "through", "the", "explicit", "modeling", "of", "duration", "information", "captured", "in", "semi-Markov", "models", ".", "In", "these", "models", ",", "a", "state", "is", "assumed", "to", "remain", "un-changed", "for", "some", "duration", "of", "time", "before", "it", "transits", "to", "a", "new", "state", ",", "and", "thus", "it", "addresses", "the", "violation", "of", "the", "strong", "Markov", "assumption", "from", "having", "states", "whose", "duration", "distributions", "are", "non-geometric", ".", "Existing", "semi-Markov", "models", "commonly", "model", "duration", "distributions", "as", "multinomials", ".", "Video", "data", "is", "however", "typically", "very", "long", ",", "thus", "making", "a", "multinomial", "semi-Markov", "model", "unsuitable", "for", "video", "analysis", "since", "it", "would", "result", "in", "both", "excessive", "computation", "and", "the", "number", "of", "parameters", "required", ".", "Continuous", "modeling", "of", "duration", "does", "exist", "such", "as", "in", "the", "use", "of", "the", "Gamma", "distribution", ",", "or", "more", "generally", "the", "exponential", "family", ",", "described", "in", "-LSB-", "12", ",", "16", "-RSB-", "to", "provide", "more", "compact", "parameterization", ".", "However", ",", "there", "are", "still", "two", "limitations", "applied", "to", "these", "models", "for", "video", "analysis", ":", "-LRB-", "a", "-RRB-", "learning", "these", "distributions", "requires", "numerical", "optimiza-tion", "and", "the", "time", "complexity", "still", "depends", "on", "the", "maximum", "duration", "length", ",", "and", "-LRB-", "b", "-RRB-", "no", "hierarchical", "modeling", "has", "been", "attempted", ".", "Fortunately", ",", "in", "-LSB-", "5", "-RSB-", ",", "a", "Switching", "Hidden", "Semi-Markov", "Model", "-LRB-", "S-HSMM", "-RRB-", "is", "introduced", "in", "which", "the", "duration", "is", "modeled", "as", "a", "discrete", "M", "-", "phase", "Coxian", "distribution", ".", "This", "model", "is", "particularly", "interesting", "for", "video", "analysis", "since", ":", "-LRB-", "1", "-RRB-", "it", "can", "model", "hierarchical", "decomposition", ",", "and", "-LRB-", "2", "-RRB-", "the", "Coxian", "duration", "modeling", "results", "in", "fast", "learning", "and", "inference", ",", "the", "number", "of", "parameters", "is", "small", "and", "close-formed", "estimation", "exists", ".", "Parameterizing", "long-term", "temporal", "correlations", "existing", "in", "video", "is", "thus", "enriched", "by", "both", "the", "hierarchical", "architecture", "and", "the", "duration", "modeling", "at", "the", "bottom", "level", "of", "the", "S-HSMM", ".", "To", "model", "video", "content", ",", "we", "argue", "that", "it", "is", "beneficial", "to", "exploit", "both", "the", "hierarchical", "organization", "of", "the", "videos", ",", "their", "semantically", "shared", "substructures", "and", "typical", "durations", "of", "important", "semantics", ".", "These", "aspects", "are", "all", "addressed", "in", "this", "paper", "in", "a", "unified", "and", "coherent", "probabilistic", "framework", ".", "We", "use", "the", "HHMM", "and", "the", "S-HSMM", "and", "propose", "a", "two-phase", "architecture", "for", "detecting", "topical", "transition", "in", "educational", "videos", ".", "In", "the", "first", "phase", ",", "shots", "are", "classified", "into", "meaningful", "labels", ".", "Using", "classified", "shot", "labels", ",", "the", "second", "phase", "trains", "a", "hierarchical", "probabilistic", "model", "-LRB-", "HHMM", "or", "S-HSMM", "-RRB-", "which", "is", "then", "used", "at", "a", "later", "stage", "for", "segmentation", "and", "annotation", ".", "Prior", "knowledge", "about", "the", "domain", ",", "including", "shared", "structures", ",", "is", "incorporated", "into", "the", "topo-logical", "structure", "during", "training", ".", "Our", "cross-validation", "on", "a", "dataset", "including", "a", "mix", "of", "twelve", "videos", "demonstrates", "promising", "results", ".", "The", "performances", "from", "the", "baseline", "cases", "-LRB-", "HMM", "and", "HSMM", "-RRB-", "have", "shown", "that", "they", "are", "too", "restrictive", "and", "unsuitable", "in", "our", "detection", "scheme", ",", "proving", "the", "validity", "of", "hierarchical", "modeling", ".", "The", "performances", "of", "the", "hierarchical", "models", ",", "including", "the", "HHMM", "and", "S-HSMM", ",", "are", "shown", "to", "surpass", "all", "results", "reported", "in", "earlier", "work", "in", "topic", "detection", "-LSB-", "23", ",", "20", ",", "4", "-RSB-", ".", "The", "superior", "performance", "of", "the", "S-HSMM", "over", "the", "HHMM", "has", "also", "demonstrated", "our", "belief", "that", "duration", "information", "is", "indeed", "an", "important", "element", "in", "the", "segmentation", "problem", ".", "Exploiting", "the", "hierarchy", ",", "structure", "sharing", "and", "duration", "in", "a", "unified", "probabilistic", "framework", ",", "our", "contributions", "are", "twofold", ":", "-LRB-", "1", "-RRB-", "we", "provide", "a", "coherent", "hierarchical", "probabilistic", "framework", "for", "topic", "detection", ".", "Although", "the", "current", "report", "concentrates", "on", "the", "educational", "genre", ",", "this", "framework", "can", "clearly", "generalize", "to", "other", "genres", "such", "as", "news", "and", "documentaries", ",", "and", "-LRB-", "2", "-RRB-", "to", "our", "knowledge", "we", "are", "the", "first", "to", "investigate", "duration", "and", "hierarchical", "modeling", "for", "video", "segmentation", "1", "in", "a", "unified", "framework", ".", "The", "remainder", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "the", "next", "section", ",", "we", "provide", "related", "background", "to", "this", "work", ".", "This", "is", "followed", "by", "a", "detailed", "section", "on", "the", "detection", "framework", "including", "the", "description", "of", "the", "HHMM", "and", "S-HSMM", ".", "We", "detail", "the", "shot", "classification", "phase", "in", "Section", "4", ".", "Experimental", "results", "are", "then", "reported", "in", "Section", "5", ".", "Finally", ",", "the", "conclusion", "follows", "in", "Section", "6", ".", "Seeking", "high-level", "semantics", "to", "move", "beyond", "the", "shots", "has", "been", "the", "central", "theme", "of", "much", "recent", "research", ".", "Attempts", "towards", "this", "problem", "have", "resulted", "in", "a", "fast", "growing", "body", "of", "work", ",", "and", "depending", "on", "the", "investigating", "domain", ",", "the", "abstracting", "units", "appear", "under", "different", "names", "such", "as", "scene", ",", "story", ",", "episode", "for", "motion", "pictures", ";", "topic", ",", "subtopic", ",", "macro", "segments", ",", "story", "units", "for", "information-oriented", "videos", "-LRB-", "news", ",", "documentaries", ",", "training", "and", "educational", "videos", "-RRB-", ",", "or", "general", "term", "like", "logical", "story", "units", "used", "in", "-LSB-", "8", ",", "32", "-RSB-", ".", "Otherwise", "stated", ",", "we", "shall", "the", "term", "`", "scene", "'", "in", "this", "section", "to", "mean", "all", "of", "the", "aforementioned", "names", ".", "Early", "attempts", "have", "targeted", "extracting", "scene-level", "concepts", "in", "broadcast", "programs", ",", "in", "particular", "news", "videos", "-LRB-", "e.g.", ",", "-LSB-", "9", ",", "14", ",", "26", "-RSB-", "-RRB-", ".", "In", "these", "attempts", ",", "the", "semantic", "extraction", "problem", "is", "usually", "cast", "as", "the", "classification", "problem", ".", "The", "authors", "in", "-LSB-", "26", "-RSB-", ",", "for", "example", ",", "combine", "a", "number", "of", "visual", "and", "aural", "low-level", "features", "together", "with", "shot", "syntax", "presented", "in", "news", "videos", "to", "group", "shots", "into", "different", "narrative", "structures", "and", "label", "them", "as", "anchor-shot", ",", "voice-over", ",", "or", "inter-1", "Since", "topic", "change", "coincides", "with", "a", "shot", "transition", ",", "the", "shot", "boundary", "provides", "crucial", "information", "in", "detecting", "topic", "transitions", ",", "therefore", "the", "term", "`", "duration", "'", "in", "this", "work", "is", "calculated", "in", "terms", "of", "the", "number", "of", "shots", ".", "This", "drastically", "simplifies", "the", "modeling", "process", ".", "An", "alternative", "way", "of", "modeling", "duration", "is", "to", "uniformly", "replicate", "a", "shot", "label", "based", "on", "its", "length", ".", "However", ",", "doing", "this", "would", "require", "an", "extra", "modeling", "of", "shot", "transition", "knowledge", ".", "In", "this", "work", ",", "we", "avoid", "this", "complication", "and", "concentrate", "on", "duration", "information", "based", "on", "the", "shot", "counts", ".", "12", "view", ".", "Liu", "et", "al.", "-LSB-", "14", "-RSB-", "propose", "a", "video/audio", "fusion", "approach", "to", "segment", "news", "reports", "from", "other", "categories", "in", "broadcast", "programs", "with", "different", "types", "of", "classifiers", "-LRB-", "simple", "threshold", "method", ",", "Gaussian", "mixture", "classifier", ",", "and", "support", "vector", "machine", "-RRB-", ".", "Ide", "et", "al.", "-LSB-", "9", "-RSB-", "propose", "an", "automatic", "indexing", "scheme", "for", "news", "video", "where", "shots", "are", "indexed", "based", "on", "the", "image", "content", "and", "keywords", "into", "five", "categories", ":", "speech/report", ",", "anchor", ",", "walking", ",", "gathering", ",", "and", "computer", "graphics", ".", "Caption", "text", "information", "is", "then", "used", "with", "classified", "shots", "to", "build", "the", "indices", ".", "Segmentation", "of", "the", "news", "story", "is", "the", "second", "major", "theme", "explored", "in", "the", "broadcast", "domain", ".", "The", "common", "underlying", "approach", "used", "in", "these", "works", "is", "the", "use", "of", "explicit", "`", "rules", "'", "about", "the", "structure", "of", "news", "programs", "to", "locate", "the", "transitions", "of", "a", "news", "story", ".", "Commonly", "accepted", "heuristics", "are", "for", "example", ":", "a", "news", "story", "often", "starts", "and", "finishes", "with", "anchor-person", "shots", "-LSB-", "31", "-RSB-", ";", "the", "start", "of", "a", "news", "story", "is", "usually", "coupled", "with", "music", "-LSB-", "2", "-RSB-", ";", "or", "a", "relative", "long", "silence", "period", "is", "the", "indication", "of", "the", "boundary", "between", "two", "news", "stories", "-LSB-", "33", "-RSB-", ".", "More", "complicated", "rules", "via", "temporal", "analysis", "are", "also", "exploited", "such", "as", "the", "work", "of", "-LSB-", "37", "-RSB-", "which", "utilises", "detection", "results", "of", "anchor-persons", "and", "captions", "to", "form", "a", "richer", "set", "of", "rules", "-LRB-", "i.e.", ",", "if", "the", "same", "text", "caption", "appears", "in", "two", "consecutive", "anchor-person", "shots", ",", "then", "they", "belong", "to", "the", "same", "news", "story", "-RRB-", ".", "There", "is", "also", "a", "body", "of", "work", "which", "casts", "the", "segmentation", "problem", "of", "news", "story", "in", "a", "HMM", "framework", "-LSB-", "10", ",", "4", "-RSB-", ".", "The", "authors", "in", "-LSB-", "10", "-RSB-", ",", "for", "example", ",", "propose", "the", "news", "segmentation", "problem", "as", "problem", "of", "decoding", "the", "maximum", "state", "sequence", "of", "a", "trained", "HMM", "whose", "transition", "matrix", "is", "tailored", "by", "explicit", "rules", "about", "the", "news", "program", ".", "A", "somewhat", "similar", "approach", "to", "the", "work", "in", "this", "paper", "is", "-LSB-", "4", "-RSB-", "-LRB-", "whose", "results", "came", "first", "in", "the", "TRECVID2003", "story", "segmentation", "benchmark", "-RRB-", ".", "Shots", "in", "-LSB-", "4", "-RSB-", "are", "first", "classified", "into", "a", "set", "common", "labels", "in", "news", "-LRB-", "e.g.", ",", "anchor", ",", "2anchor", ",", "text-scene", ",", "etc.", "-RRB-", ".", "These", "labels", "are", "then", "input", "to", "a", "HMM", "for", "the", "segmentation", "task", ".", "They", "report", "best", "performances", "of", "74.9", "%", "recall", "and", "80.2", "%", "precision", "for", "the", "TRECVID", "dataset", ".", "The", "work", "of", "-LSB-", "4", "-RSB-", "however", "remains", "limited", "due", "to", "the", "flat", "structure", "HMM", ",", "and", "it", "is", "not", "clear", "how", "the", "set", "of", "`", "transition", "'", "states", "were", "chosen", ".", "In", "an", "effort", "to", "move", "beyond", "flat", "structure", ",", "the", "authors", "of", "-LSB-", "4", "-RSB-", "have", "raised", "the", "need", "for", "high-order", "statistical", "techniques", ",", "which", "will", "be", "addressed", "in", "this", "paper", "through", "the", "HHMM", "and", "S-HSMM", ".", "More", "recent", "approaches", "towards", "scene", "extraction", "have", "shifted", "to", "motion", "pictures", "-LRB-", "e.g.", ",", "-LSB-", "30", ",", "34", ",", "1", ",", "31", "-RSB-", "-RRB-", ".", "Detecting", "scenes", "in", "motion", "pictures", "is", "in", "general", "a", "challenging", "problem", "and", "there", "are", "three", "main", "existing", "approaches", "as", "outlined", "in", "-LSB-", "31", "-RSB-", ":", "temporal", "clustering-based", ",", "rule-based", "and", "memory-based", "detection", ".", "In", "the", "clustering-based", "approach", ",", "shots", "are", "grouped", "into", "scenes", "based", "on", "visual", "similarity", "and", "temporal", "closeness", "-LRB-", "e.g.", ",", "-LSB-", "8", ",", "13", "-RSB-", "-RRB-", ".", "Scene", "breaks", "in", "the", "rule-based", "detection", "approach", "are", "determined", "based", "on", "the", "semantic", "and", "syntactic", "analysis", "of", "audiovisual", "characteristics", "and", "in", "some", "cases", "further", "enhanced", "with", "more", "rigorous", "grammars", "from", "film", "theory", "-LRB-", "e.g.", ",", "-LSB-", "34", ",", "1", "-RSB-", "-RRB-", ".", "The", "authors", "in", "-LSB-", "30", "-RSB-", "propose", "a", "memory-based", "scene", "detection", "framework", ".", "Visual", "shot", "similarity", "in", "these", "works", "is", "determined", "based", "on", "the", "consistency", "in", "color", "chromaticality", ",", "and", "the", "soundtrack", "is", "partitioned", "into", "`", "audio", "scenes", "'", ".", "Visual", "and", "aural", "data", "are", "then", "fused", "within", "a", "framework", "of", "memory", "and", "attention", "span", "model", "to", "find", "likely", "scene", "breaks", "or", "singleton", "events", ".", "Further", "related", "background", "on", "scene", "detection", "can", "be", "found", "in", "many", "good", "surveys", "-LRB-", "e.g.", ",", "-LSB-", "30", ",", "28", ",", "31", "-RSB-", "-RRB-", ".", "Existing", "HMM-based", "approaches", "towards", "modeling", "long-term", "temporal", "dependencies", "typically", "use", "pre-segmented", "training", "data", "at", "multiple", "levels", ",", "and", "hierarchically", "train", "a", "pool", "of", "HMMs", ",", "in", "which", "HMMs", "at", "the", "lower", "levels", "are", "used", "as", "input", "to", "the", "HMMs", "at", "the", "upper", "levels", ".", "In", "principle", ",", "some", "fundamental", "units", "are", "recognised", "by", "a", "sequence", "of", "HMMs", ",", "and", "then", "likelihood", "values", "-LRB-", "or", "labels", "-RRB-", "obtained", "from", "these", "HMMs", "are", "combined", "to", "form", "a", "hierarchy", "of", "HMMs", "2", "to", "capture", "the", "interactions", "at", "higher", "semantic", "levels", "-LRB-", "e.g.", ",", "-LSB-", "11", ",", "18", "-RSB-", "-RRB-", ".", "Analysing", "sports", "videos", ",", "Kijak", "et", "al.", "-LSB-", "11", "-RSB-", "propose", "a", "two-tiered", "classification", "of", "tennis", "videos", "using", "two", "layers", "of", "HMMs", ".", "At", "the", "bottom", "level", ",", "four", "HMMs", "are", "used", "to", "model", "four", "shot", "classes", "-LRB-", "`", "first", "missed", "serve", "'", ",", "`", "rally", "'", ",", "`", "replay", "'", ",", "and", "`", "break", "'", "-RRB-", ".", "Each", "HMM", "is", "trained", "separately", "and", "subse-quently", "topped", "up", "by", "another", "HMM", "at", "the", "top", "level", "which", "represents", "the", "syntax", "of", "the", "tennis", "video", "with", "three", "states", "of", "the", "game", ":", "`", "sets", "'", ",", "`", "games", "'", ",", "and", "`", "points", "'", ".", "Parameters", "for", "the", "top", "HMM", "are", ",", "however", ",", "all", "manually", "specified", ".", "In", "-LSB-", "18", "-RSB-", ",", "a", "generic", "two-level", "hierarchy", "of", "HMMs", "is", "proposed", "to", "detect", "recurrent", "events", "in", "movies", "and", "talk", "shows", ".", "Their", "idea", "is", "to", "use", "an", "ergodic", "HMM", "at", "the", "top", "level", ",", "in", "which", "each", "state", "is", "another", "-LRB-", "non-ergodic", "-RRB-", "sub-HMM", "representing", "a", "type", "of", "signal", "stationary", "properties", ".", "For", "the", "case", "of", "movies", ",", "the", "top", "HMM", "has", "six", "states", ",", "and", "each", "is", "in", "turn", "another", "three-state", "non-ergodic", "HMM", ".", "The", "observations", "are", "modelled", "as", "a", "mixture", "of", "Gaussians", ".", "After", "training", ",", "the", "authors", "claim", "that", "interesting", "events", "can", "be", "detected", "such", "as", "`", "explosion", "'", ",", "`", "male", "speech", "'", ",", "and", "so", "on", ".", "While", "being", "able", "to", "overcome", "the", "limitation", "of", "the", "flat", "HMM", "in", "modeling", "long-term", "dependencies", ",", "approaches", "that", "use", "HMMs", "at", "multiple", "levels", "still", "suffer", "from", "two", "major", "problems", ":", "-LRB-", "1", "-RRB-", "pre-segmented", "and", "an-notated", "data", "are", "needed", "at", "all", "levels", "for", "training", ",", "and", "-LRB-", "2", "-RRB-", "in", "most", "existing", "work", "parameterization", "at", "higher", "levels", "has", "to", "be", "manually", "specified", ".", "In", "many", "cases", ",", "preparing", "training", "data", "at", "multiple", "levels", "is", "extremely", "tedious", "and", "at", "worst", ",", "may", "not", "be", "possible", ".", "With", "respect", "to", "the", "second", "problem", ",", "since", "each", "semantic", "level", "has", "to", "be", "modeled", "separately", ",", "the", "underlying", "problem", "is", "that", "the", "interactions", "across", "semantic", "layers", "are", "not", "modeled", "and", "thus", "do", "not", "contribute", "to", "the", "learning", "process", ".", "One", "framework", "that", "integrates", "the", "semantics", "across", "layers", "is", "the", "Hierarchical", "Hidden", "Markov", "Model", "-LRB-", "HHMM", "-RRB-", "proposed", "recently", "in", "-LSB-", "6", "-RSB-", ".", "The", "hierarchical", "HMM", "extends", "the", "standard", "HMM", "in", "a", "hierarchic", "manner", "to", "allow", "each", "state", "to", "be", "recursively", "generalised", "as", "another", "sub-HMM", ",", "and", "thus", "enabling", "the", "ability", "to", "handle", "hierarchical", "modeling", "of", "complex", "dynamic", "processes", ",", "in", "particular", "``", "the", "ability", "to", "infer", "correlated", "observations", "over", "long", "periods", "in", "the", "observation", "sequence", "via", "the", "higher", "levels", "of", "hierarchy", "''", "-LSB-", "6", "-RSB-", ".", "The", "original", "motivation", "in", "-LSB-", "6", "-RSB-", "was", "to", "seek", "better", "modeling", "of", "different", "stochastic", "levels", "and", "length", "scales", "presented", "in", "language", "-LRB-", "e.g.", ",", "speech", ",", "handwriting", ",", "or", "text", "-RRB-", ".", "However", ",", "the", "model", "introduced", "in", "-LSB-", "6", "-RSB-", "considers", "only", "state", "hierarchies", "that", "have", "tree", "structures", ",", "disallowing", "the", "sharing", "of", "substructures", "among", "the", "high-level", "states", ".", "Recognizing", "this", "need", ",", "the", "authors", "in", "-LSB-", "3", "-RSB-", "have", "extended", "the", "strict", "tree-form", "topology", "in", "the", "original", "HHMMs", "of", "-LSB-", "6", "-RSB-", "and", "allowed", "it", "to", "be", "a", "general", "lattice", "structure", ".", "The", "extension", "thus", "permits", "a", "state", "at", "any", "arbitrary", "level", "of", "the", "HHMMs", "to", "be", "shared", "by", "more", "than", "one", "parental", "state", "at", "its", "higher", "level", "-LRB-", "i.e.", ",", "resulting", "in", "a", "compact", "form", "of", "parameter", "typing", "at", "multiple", "levels", "-RRB-", ".", "This", "extended", "2", "Not", "to", "be", "confused", "with", "the", "Hierarchical", "HMMs", ".", "13", "form", "is", "very", "attractive", "for", "video", "content", "modeling", "since", "it", "allows", "the", "natural", "organization", "of", "the", "video", "content", "to", "be", "modeled", "not", "only", "in", "terms", "of", "multiple", "scales", "but", "also", "in", "terms", "of", "shared", "substructures", "existing", "in", "the", "decomposition", ".", "Further", "details", "on", "the", "HHMM", "are", "provided", "in", "Section", "3.1", ".", "Early", "application", "of", "the", "HHMM", "for", "video", "analysis", "is", "found", "in", "-LSB-", "36", "-RSB-", "and", "later", "extended", "in", "-LSB-", "35", "-RSB-", ".", "In", "these", "works", ",", "the", "authors", "use", "the", "HHMM", "to", "detect", "the", "events", "of", "`", "play", "'", "and", "`", "break", "'", "in", "soccer", "videos", ".", "For", "inference", "and", "learning", ",", "the", "HHMM", "is", "`", "collapsed", "'", "into", "a", "flat", "HMM", "with", "a", "very", "large", "product", "state", "space", ",", "which", "can", "then", "be", "used", "in", "conjunction", "with", "the", "standard", "forward/backward", "passes", "as", "in", "a", "normal", "HMM", ".", "Four", "methods", "are", "compared", "in", "-LSB-", "36", "-RSB-", "to", "detect", "`", "play", "'", "and", "`", "break", "'", ":", "-LRB-", "1", "-RRB-", "supervised", "HMMs", ",", "in", "which", "each", "category", "is", "trained", "with", "a", "separate", "HMM", ",", "-LRB-", "2", "-RRB-", "supervised", "HHMMs", ",", "in", "which", "bottom", "level", "HMMs", "are", "learned", "separately", "and", "parameters", "for", "the", "upper", "levels", "are", "manually", "specified", ",", "-LRB-", "3", "-RRB-", "unsupervised", "HHMMs", "without", "model", "adaptation", ",", "and", "-LRB-", "4", "-RRB-", "supervised", "HHMMs", "with", "model", "adaptation", ".", "In", "-LRB-", "3", "-RRB-", "and", "-LRB-", "4", "-RRB-", ",", "two-level", "HHMMs", "are", "used", ".", "Their", "results", "have", "shown", "a", "very", "close", "match", "between", "unsupervised", "and", "supervised", "methods", "in", "which", "the", "completely", "unsupervised", "method", "with", "model", "adaptation", "performs", "marginally", "better", ".", "These", "figures", "are", "75.5", "%", ",", "75.0", "%", ",", "75.0", "%", "and", "75.7", "%", "respectively", "for", "those", "four", "methods", ".", "While", "presenting", "a", "novel", "contribution", "to", "the", "feature", "selection", "and", "model", "selection", "procedure", ",", "the", "application", "of", "the", "HHMMs", "in", "this", "work", "is", "still", "limited", "both", "for", "learning", "and", "for", "exploitation", "of", "the", "hierarchical", "structure", ".", "Flattening", "a", "HHMM", "into", "a", "flat", "HMM", "as", "done", "in", "-LSB-", "36", ",", "35", "-RSB-", "suffers", "from", "many", "drawbacks", "as", "criticized", "in", "-LSB-", "17", "-RSB-", ":", "-LRB-", "a", "-RRB-", "it", "can", "not", "provide", "multi-scale", "interpretation", ",", "-LRB-", "b", "-RRB-", "it", "loses", "modularity", "since", "the", "parameters", "for", "the", "flat", "HMM", "get", "constructed", "in", "a", "complex", "manner", ",", "and", "-LRB-", "c", "-RRB-", "it", "may", "introduce", "more", "parameters", ",", "and", "most", "importantly", "it", "does", "not", "have", "the", "ability", "to", "reuse", "parameters", ",", "in", "other", "words", "parameters", "for", "the", "shared", "sub-models", "are", "not", "`", "tied", "'", "during", "the", "learning", ",", "but", "have", "to", "be", "replicated", "and", "thus", "lose", "the", "inherent", "strength", "of", "hierarchical", "modeling", ".", "Being", "able", "to", "model", "shared", "structures", ",", "the", "extended", "HHMMs", "of", "-LSB-", "3", "-RSB-", "allows", "us", "to", "build", "more", "compact", "models", ",", "which", "facilitates", "more", "efficient", "inference", "and", "reduces", "the", "sample", "complexity", "in", "learning", ".", "This", "model", "is", "applied", "in", "-LSB-", "20", "-RSB-", "and", "-LSB-", "22", "-RSB-", "for", "the", "problem", "of", "topic", "transition", "detection", "and", "video", "structure", "discovery", "respectively", ".", "The", "authors", "in", "-LSB-", "20", "-RSB-", "use", "a", "three-level", "HHMM", "for", "the", "detection", "of", "topic", "transitions", "in", "educational", "videos", ".", "Differing", "from", "our", "experiments", "in", "this", "paper", ",", "the", "HHMM", "in", "-LSB-", "20", "-RSB-", "is", "modified", "to", "operate", "directly", "with", "continuous-valued", "observed", "data", "via", "the", "use", "of", "Gaussian", "mixture", "models", "as", "the", "emission", "probabilities", ".", "Each", "shot-based", "observed", "vector", "consists", "of", "seven", "features", "extracted", "from", "visual", "and", "audio", "streams", ".", "They", "report", "a", "77.3", "%", "recall", "rate", "and", "70.7", "%", "precision", "for", "the", "detection", "task", ".", "In", "another", "application", ",", "with", "the", "help", "of", "prior", "knowledge", "about", "educational", "videos", ",", "a", "topology", "for", "a", "three-level", "HHMM", "is", "used", "in", "-LSB-", "22", "-RSB-", "to", "automatically", "discover", "meaningful", "narrative", "units", "in", "the", "educational", "genre", ".", "Their", "experiments", "have", "shown", "encouraging", "results", "in", "which", "many", "meaningful", "structures", "are", "hierarchically", "discovered", "such", "as", "`", "on-screen", "narration", "with", "texts", "'", ",", "`", "expressive", "linkage", "'", ",", "`", "expressive", "voice-over", "'", ",", "etc.", ".", "The", "work", "of", "-LSB-", "22", "-RSB-", "is", "somewhat", "similar", "to", "that", "of", "-LSB-", "18", "-RSB-", "reviewed", "earlier", "in", "this", "section", ",", "except", "the", "model", "in", "-LSB-", "22", "-RSB-", "allows", "more", "domain", "knowledge", "to", "be", "encoded", "and", "the", "parameters", "are", "all", "learned", "automatically", ".", "Our", "topic", "detection", "framework", "consists", "of", "two", "phases", ".", "The", "first", "phase", "performs", "shot", "detection", "and", "low", "level", "feature", "extraction", "and", "then", "classifies", "a", "shot", "in", "a", "meaningful", "label", "set", ".", "This", "phase", "is", "described", "in", "Section", "4", ".", "In", "the", "next", "phase", ",", "we", "train", "a", "HHMM", "or", "S-HSMM", "over", "the", "alphabet", "space", "from", "the", "training", "data", "and", "then", "use", "it", "in", "conjunction", "with", "the", "Viterbi", "to", "perform", "segmentation", "and", "annotation", ".", "The", "architecture", "of", "the", "framework", "is", "depicted", "in", "Figure-1", ".", "1", "2", "F", "E", "A", "T", "U", "R", "E", "E", "X", "T", "R", "A", "C", "T", "I", "O", "N", "SHOT", "DETECTION", "AND", "CLASSIFICATION", "Direct", "Narration", "Assisted", "Narration", "Voice-Over", "Expressive", "Linkage", "Functional", "Linkage", "M-phase", "Coxian", "M-phase", "Coxian", "M-phase", "Coxian", "M-phase", "Coxian", "M-phase", "Coxian", "END", "`", "Intro", "'", "`", "main", "body", "'", "1", "2", "3", "4", "5", "Video", "&", "Audio", "Signals", "Figure", "1", ":", "The", "architecture", "for", "topic", "detection", "framework", ".", "The", "two-level", "HHMM", "and", "the", "S-HSMM", "-LRB-", "whose", "topology", "is", "shown", "on", "the", "top", "of", "Figure-1", "-RRB-", "are", "special", "cases", "of", "the", "hierarchical", "model", "with", "two", "layers", ".", "For", "the", "S-HSMM", "-LRB-", "HHMM", "-RRB-", ",", "the", "top", "layer", "is", "a", "Markov", "sequence", "of", "switching", "variables", ",", "while", "the", "bottom", "layer", "is", "a", "sequence", "of", "concate-nated", "HSMMs", "-LRB-", "HMMs", "-RRB-", "whose", "parameters", "are", "determined", "by", "the", "switching", "variables", "at", "the", "top", ".", "Thus", ",", "the", "dynamics", "and", "duration", "parameters", "of", "the", "HSMM", "-LRB-", "HMM", "-RRB-", "at", "the", "bottom", "layer", "are", "not", "time", "invariant", ",", "but", "are", "`", "switched", "'", "from", "time", "to", "time", ",", "similar", "to", "the", "way", "the", "linear", "Gaussian", "dynamics", "are", "switched", "in", "a", "switching", "Kalman", "filter", ".", "When", "mapping", "to", "the", "topic", "modeling", "problem", ",", "the", "bottom", "layer", "is", "used", "to", "capture", "`", "atomic", "'", "semantics", "such", "as", "voice-over", ",", "expressive", "linkage", "or", "assisted", "narration", ".", "Combinations", "of", "these", "atomic", "semantics", "then", "form", "higher-level", "semantics", ",", "each", "of", "which", "is", "represented", "by", "a", "hidden", "state", "at", "the", "top", "layer", "in", "our", "model", ".", "3.1", "The", "Hierarchical", "HMM", "With", "the", "assumed", "knowledge", "of", "the", "flat", "HMM", "-LRB-", "e.g.", ",", "see", "-LSB-", "24", "-RSB-", "-RRB-", ",", "we", "shall", "now", "briefly", "describe", "the", "HHMMs", ".", "A", "hierarchical", "HMM", "is", "formally", "defined", "by", "a", "three-turple", ",", ",", ":", "a", "topo-logical", "structure", "parameterized", "by", "and", "an", "emission", "alphabet", "space", ".", "The", "topology", "specifies", "the", "model", "depth", "D", ",", "the", "state", "space", "S", "d", "available", "at", "each", "level", "d", ",", "and", "the", "parent-children", "relationship", "between", "two", "consecutive", "levels", ".", "For", "example", ",", "the", "two-level", "topology", "shown", "on", "the", "top", "of", "14", "Figure-1", "specifies", "the", "children", "set", "at", "the", "bottom", "level", "for", "state", "1", "is", "-LCB-", "1", ",", "2", ",", "5", "-RCB-", "and", "for", "state", "2", "is", "-LCB-", "2", ",", "3", ",", "4", "-RCB-", ".", "Here", ",", "state", "2", "at", "the", "bottom", "level", "has", "been", "`", "shared", "'", "by", "both", "state", "1", "and", "2", "at", "the", "top", "level", ".", "Given", ",", "the", "parameter", "of", "the", "HHMM", "is", "specified", "in", "the", "following", "way", ".", "For", "d", "<", "D", ",", "p", "S", "d", "and", "i", ",", "j", "S", "d", "+1", "are", "the", "children", "of", "p", ":", "d", ",", "p", "i", "is", "the", "initial", "probability", "of", "i", "given", "p", ";", "A", "d", ",", "p", "i", ",", "j", "is", "the", "transition", "probability", "from", "i", "to", "j", "given", "the", "parent", "p", ";", "and", "A", "d", ",", "p", "i", ",", "end", "is", "the", "probability", "that", "state", "i", "going", "to", "end-state", "-LRB-", "i.e.", ",", "returns", "control", "to", "its", "parent", "-RRB-", "given", "the", "parent", "is", "p.", "Finally", ",", "for", "each", "state", "i", "at", "the", "lowest", "level", "D", "and", "an", "alphabet", "v", ":", "B", "v", "|", "i", "is", "the", "emission", "probability", "of", "observing", "v", "given", "the", "current", "state", "at", "the", "lowest", "level", "is", "i", ".", "The", "whole", "parameter", "set", "is", "written", "compactly", "as", ":", "=", "-LCB-", ",", "A", ",", "A", "end", ",", "B", "-RCB-", ",", "where", ":", "=", "-LSB-", "1d", "<", "D", "pSd", "n", "d", ",", "p", ":", "1", "M", "o", ",", "B", ":", "|", "S", "d", "|", "|", "|", "A", "=", "-LSB-", "1d", "<", "D", "pSd", "nA", "d", ",", "p", ":", "M", "M", "o", ",", "A", "end", "=", "-LSB-", "1d", "<", "D", "pSd", "nA", "d", ",", "p", "end", ":", "1", "M", "o", "where", "in", "each", "each", "M", "is", "implicitly", "meant", "the", "number", "of", "children", "of", "p", "and", "|", ".", "|", "is", "the", "cardinality", "operator", ".", "Stochastic", "constraints", "require", ":", "P", "i", "d", ",", "p", "i", "=", "1", ",", "P", "v", "B", "v", "|", "i", "=", "1", "and", "P", "j", "A", "d", ",", "p", "i", ",", "j", "+", "A", "d", ",", "p", "i", ",", "end", "=", "1", ".", "An", "intuitive", "way", "to", "view", "the", "set", "is", "to", "consider", "the", "subset", "-LCB-", "d", ",", "p", ",", "A", "d", ",", "p", ",", "A", "d", ",", "p", "end", "-RCB-", "as", "the", "parameter", "of", "the", "p-initiated", "Markov", "chain", "at", "level", "d", ".", "This", "chain", "is", "terminated", "when", "one", "of", "the", "children", "i", "of", "p", "reaches", "the", "end-state", "with", "the", "probability", "of", "A", "d", ",", "p", "i", ",", "end", ".", "For", "inference", "and", "learning", ",", "the", "HHMM", "is", "represented", "as", "a", "dynamic", "Bayesian", "network", "-LRB-", "DBN", "-RRB-", "and", "can", "be", "learned", "by", "the", "Asymmetric", "Inside-Outside", "algorithm", "in", "-LSB-", "3", "-RSB-", "or", "by", "the", "forward/backward", "passes", "in", "-LSB-", "17", "-RSB-", ".", "Figure-3", "shows", "on", "its", "left", "the", "DBN", "representation", "of", "the", "HHMM", "with", "two", "levels", ",", "i.e.", ",", "D", "=", "2", ".", "We", "refer", "readers", "to", "-LSB-", "6", ",", "17", ",", "3", "-RSB-", "for", "further", "information", "on", "the", "HHMMs", ".", "3.2", "The", "Switching-Hidden", "Semi", "Markov", "Model", "To", "provide", "an", "intuitive", "view", "to", "the", "S-HSMM", ",", "starting", "from", "the", "description", "of", "the", "HHMMs", "from", "the", "previous", "section", ",", "let", "us", "consider", "the", "case", "of", "a", "two-layer", "HHMM", "-LRB-", "D", "=", "2", "-RRB-", "defined", "as", "follows", ".", "The", "state", "space", "is", "divided", "into", "the", "set", "of", "states", "at", "the", "top", "level", "Q", "=", "S", "1", "=", "-LCB-", "1", ",", "...", ",", "|", "Q", "|", "-RCB-", "and", "states", "at", "the", "bottom", "level", "Q", "=", "S", "2", "=", "-LCB-", "1", ",", "...", ",", "|", "Q", "|", "-RCB-", ".", "This", "model", "is", "parameterized", "by", "=", "-LCB-", ",", "A", ",", ",", "A", ",", "A", "end", ",", "B", "-RCB-", ".", "At", "the", "top", "level", ",", "p", "and", "A", "pq", "are", "respectively", "the", "initial", "probability", "and", "the", "transition", "matrix", "of", "a", "Markov", "chain", "defined", "over", "the", "state", "space", "Q", ".", "For", "each", "p", "Q", ",", "ch", "-LRB-", "p", "-RRB-", "Q", "is", "used", "to", "denote", "the", "set", "of", "children", "of", "p", ".", "As", "in", "the", "case", "of", "the", "extended", "HHMM", "in", "-LSB-", "3", "-RSB-", ",", "it", "is", "possible", "that", "different", "parent", "states", "may", "share", "common", "children", ",", "i.e.", ",", "ch", "-LRB-", "p", "-RRB-", "ch", "-LRB-", "q", "-RRB-", "=", "for", "p", ",", "q", "Q", ".", "A", "transition", "to", "p", "at", "the", "top", "level", "Markov", "chain", "will", "initiate", "a", "sub-Markov", "chain", "at", "the", "lower", "level", "over", "the", "state", "space", "ch", "-LRB-", "p", "-RRB-", "parameterized", "by", "-LCB-", "p", ",", "A", "p", ",", "A", "p", "end", "-RCB-", "where", "q", "i", "and", "A", "p", "ij", "are", "the", "initial", "and", "transition", "probabilities", "as", "in", "the", "normal", "HMM", "setting", ",", "and", "A", "p", "i", ",", "end", "is", "the", "probability", "that", "this", "chain", "will", "terminate", "after", "a", "transition", "to", "i", ".", "At", "each", "time", "point", "t", ",", "a", "discrete", "symbol", "y", "t", "is", "generated", "with", "a", "probability", "of", "B", "v", "|", "i", "where", "i", "is", "the", "current", "state", "at", "the", "bottom", "level", ".", "In", "the", "description", "of", "this", "two-level", "HHMM", ",", "the", "duration", "d", "for", "which", "a", "bottom", "state", "i", "remains", "the", "same", "clearly", "has", "a", "geometric", "distribution", "parameterized", "by", "its", "non-self-transition", "probability", "-LRB-", "1", "-", "A", "p", "ii", "-RRB-", ",", "i.e.", ",", "d", "Geom", "-LRB-", "1", "-", "A", "p", "ii", "-RRB-", ".", "In", "many", "cases", ",", "the", "geometric", "distributions", "are", "often", "too", "restricted", "to", "model", "realistic", "data", ".", "The", "Switching", "Hidden", "Semi-Markov", "Models", "-LRB-", "S-HSMMs", "-RRB-", "proposed", "in", "-LSB-", "5", "-RSB-", "overcomes", "this", "restriction", "and", "allows", "the", "duration", "d", "of", "state", "i", "at", "the", "bottom", "level", "to", "follow", "a", "more", "general", "discrete", "distribution", "d", "D", "p", ",", "i", "d", ".", "More", "precisely", ",", "the", "p-initiated", "chain", "at", "the", "bottom", "level", "is", "now", "a", "semi-Markov", "sequence", "parameterized", "by", "-LCB-", "p", "i", ",", "A", "p", "ij", ",", "D", "p", ",", "i", "d", "-RCB-", "as", "opposed", "to", "the", "normal", "Markov", "chain", "in", "the", "HHMM", "case", ".", "The", "authors", "in", "-LSB-", "5", "-RSB-", "consider", "two", "families", "of", "distributions", "for", "modeling", "the", "duration", ":", "the", "multinomial", "and", "the", "Coxian", ".", "However", "for", "the", "multinomial", "case", ",", "the", "complexity", "of", "the", "learning", "algorithm", "is", "proportional", "to", "the", "maximum", "duration", "length", ",", "thus", "making", "it", "unsuitable", "for", "the", "problem", "of", "modeling", "video", "data", "which", "is", "usually", "very", "long", "in", "nature", ".", "Apart", "from", "the", "disadvantage", "of", "assuming", "a", "maximum", "duration", ",", "our", "empirical", "testing", "on", "the", "multinomial", "case", "with", "the", "maximum", "length", "of", "50", "has", "also", "shown", "that", "it", "is", "about", "20", "times", "slower", "than", "its", "Coxian", "counterpart", "reported", "in", "this", "paper", ",", "thus", "making", "it", "impractical", "in", "our", "settings", ".", "We", "will", "therefore", "omit", "the", "multinomial", "case", "and", "will", "consider", "exclu-sively", "the", "Coxian", "parameterization", "in", "this", "paper", ".", "A", "discrete", "M", "-", "phase", "Coxian", "distribution", "Cox", "-LRB-", ";", "-RRB-", ",", "parameterized", "by", "=", "-LCB-", "1", ",", "...", ",", "M", "-RCB-", "-LRB-", "P", "i", "i", "=", "1", "-RRB-", "and", "=", "-LCB-", "1", ",", "...", ",", "M", "-RCB-", ",", "is", "defined", "as", "a", "mixture", "of", "P", "M", "i", "=", "1", "i", "S", "i", "where", "S", "i", "-LRB-", "X", "i", "+", "...", "+", "X", "M", "-RRB-", ",", "in", "which", "X", "i", "are", "independent", "random", "variables", "having", "geometric", "distributions", "X", "i", "Geom", "-LRB-", "i", "-RRB-", ".", "This", "distribution", "is", "a", "member", "of", "the", "phase-type", "distribution", "family", "and", "has", "the", "following", "very", "appealing", "interpretation", ".", "Let", "us", "construct", "a", "Markov", "chain", "with", "M", "+", "1", "states", "numbered", "sequentially", "with", "the", "self", "transition", "parameter", "A", "ii", "=", "1", "i", "as", "shown", "in", "Figure-2", ".", "The", "first", "M", "states", "rep-1", "absorbing", "state", "2", "M", "1", "M", "2", "M", "1", "M", "2", "1", "Figure", "2", ":", "The", "phase", "diagram", "of", "an", "M", "-", "phase", "Coxian", ".", "resent", "M", "phases", ",", "while", "the", "last", "is", "the", "absorbing", "state", "which", "acts", "like", "an", "end", "state", ".", "The", "duration", "of", "each", "individual", "state", "-LRB-", "phase", "-RRB-", "i", "is", "X", "i", "Geom", "-LRB-", "i", "-RRB-", ".", "If", "we", "start", "from", "state", "i", ",", "the", "duration", "of", "Markov", "chain", "before", "the", "end", "state", "reached", "is", "S", "i", "=", "X", "i", "+", "...", "+", "X", "M", ".", "Thus", ",", "Cox", "-LRB-", ",", "-RRB-", "is", "indeed", "the", "distribution", "of", "the", "duration", "of", "this", "constructed", "Markov", "chain", "with", "as", "the", "initial", "state", "-LRB-", "phase", "-RRB-", "distribution", ".", "The", "discrete", "Coxian", "is", "much", "more", "flexible", "than", "the", "geometric", "distribution", ":", "its", "probability", "mass", "function", "is", "no", "longer", "monotonically", "decreasing", "and", "it", "can", "have", "more", "than", "one", "mode", ".", "Using", "the", "Coxian", "distribution", ",", "the", "duration", "for", "the", "states", "at", "the", "bottom", "level", "in", "the", "S-HSMM", "is", "modeled", "as", "follows", ".", "For", "each", "p-initiated", "semi-Markov", "sequence", ",", "the", "duration", "of", "a", "child", "state", "i", "is", "distributed", "according", "to", "D", "p", ",", "i", "d", "=", "Cox", "-LRB-", "d", ";", "p", ",", "i", ",", "p", ",", "i", "-RRB-", ".", "The", "parameter", "p", ",", "i", "and", "p", ",", "i", "are", "M", "-", "dimensional", "vectors", "where", "M", "is", "a", "fixed", "number", "representing", "the", "number", "of", "phases", "in", "the", "discrete", "Coxian", ".", "It", "is", "easy", "to", "verify", "that", "for", "M", "=", "1", ",", "the", "model", "reduces", "identically", "to", "a", "two-layer", "HHMM", ".", "15", "3.3", "Inference", "and", "Learning", "in", "the", "S-HSMM", "For", "inference", "and", "learning", ",", "the", "S-HSMM", "is", "represented", "as", "a", "dynamic", "Bayesian", "network", "as", "shown", "in", "Figure-3", "and", "then", "forward/backward", "passes", "are", "applied", "to", "compute", "the", "filtering", "and", "smoothing", "distributions", "required", "for", "EM", "learning", ".", "t", "+1", "t", "z", "t", "z", "t", "+1", "m", "t", "m", "t", "+1", "y", "t", "y", "t", "+1", "x", "t", "+1", "x", "t", "e", "t", "+1", "e", "t", "z", "t", "z", "t", "+1", "y", "t", "y", "t", "+1", "x", "t", "+1", "x", "t", "t", "t", "+1", "e", "t", "e", "t", "+1", "Figure", "3", ":", "Two-slice", "DBN", "representation", "of", "a", "two-level", "HHMM", "-LRB-", "left", "-RRB-", "and", "the", "-LRB-", "Coxian", "-RRB-", "S-HSMM", "-LRB-", "right", "-RRB-", ".", "At", "each", "time-slice", "t", ",", "an", "amalgamated", "hidden", "state", "S", "t", "=", "-LCB-", "z", "t", ",", "t", ",", "x", "t", ",", "e", "t", ",", "m", "t", "-RCB-", "together", "with", "the", "observation", "y", "t", "are", "maintained", ".", "The", "top", "level", "state", "is", "updated", "via", "z", "t", "and", "t", "is", "a", "boolean-valued", "variable", "set", "to", "1", "when", "the", "z", "t", "-", "initiated", "semi-Markov", "sequence", "ends", "at", "t", ".", "At", "the", "bottom", "level", ",", "x", "t", "is", "the", "current", "child", "state", "in", "the", "z", "t", "-", "initiated", "chain", ",", "m", "t", "represents", "the", "current", "phase", "of", "x", "t", "and", "e", "t", "is", "a", "boolean-valued", "variable", "set", "to", "1", "when", "x", "t", "reaches", "the", "end", "of", "its", "duration", ".", "The", "forward", "and", "backward", "procedures", "in", "the", "general", "DBN", "are", "then", "used", "to", "compute", "the", "filtering", "distribution", "Pr", "-LRB-", "S", "t", "|", "y", "1", ":", "t", "-RRB-", "and", "two", "smoothing", "distributions", "Pr", "-LRB-", "S", "t", "|", "y", "1", ":", "T", "-RRB-", "and", "Pr", "-LRB-", "S", "t", ",", "S", "t", "+1", "|", "y", "1", ":", "T", "-RRB-", ".", "With", "these", "smoothing", "distributions", ",", "it", "is", "sufficient", "to", "derive", "all", "expected", "sufficient", "statistics", "required", "during", "EM", "learning", ".", "The", "overall", "complexity", "for", "the", "forward", "pass", "-LRB-", "and", "also", "for", "the", "EM", "-RRB-", "is", "O", "-LRB-", "|", "Q", "|", "2", "|", "Q", "|", "2", "M", "T", "-RRB-", ".", "Further", "information", "can", "be", "found", "in", "-LSB-", "5", "-RSB-", ".", "3.4", "Viterbi", "decoding", "for", "segmentation", "To", "compute", "the", "best", "sequence", "state", ",", "that", "is", "to", "find", ":", "S", "1", ":", "T", "=", "argmax", "S", "1", ":", "T", "Pr", "-LRB-", "S", "1", ":", "T", "|", "y", "1", ":", "T", "-RRB-", "Viterbi", "decoding", "algorithms", "for", "the", "HHMM", "and", "S-HSMM", "are", "developed", ".", "These", "algorithms", "are", "similar", "to", "the", "one", "used", "in", "the", "standard", "HMM", "outlined", "in", "-LSB-", "24", "-RSB-", "except", "we", "replace", "the", "normal", "state", "in", "the", "HMM", "setting", "by", "our", "amalgamated", "state", "S", "t", "which", "-LCB-", "z", "t", ",", "x", "t", ",", "t", ",", "m", "t", ",", "e", "t", "-RCB-", "for", "the", "S-HSMM", "and", "-LCB-", "z", "t", ",", "x", "t", ",", "t", ",", "e", "t", "-RCB-", "for", "the", "HHMM", "-LRB-", "cf.", "Figure-3", "-RRB-", ".", "In", "this", "section", ",", "we", "detail", "the", "first", "phase", "in", "the", "detection", "framework", ".", "This", "includes", "the", "formulation", "of", "an", "alphabet", "set", "for", "shot", "labeling", ",", "low-level", "feature", "extraction", "and", "shot", "classification", ".", "4.1", "Shot", "labels", "set", ":", "Existing", "work", "on", "the", "educational", "videos", "analysis", "-LRB-", "e.g.", ",", "-LSB-", "21", ",", "19", "-RSB-", "-RRB-", "has", "studied", "the", "nature", "of", "this", "genre", "carefully", ".", "As", "noted", "in", "-LSB-", "21", "-RSB-", ",", "the", "axiomatic", "distinction", "of", "the", "educational", "genre", "is", "in", "its", "purpose", "of", "teaching", "and", "training", ";", "and", "as", "such", "a", "well-crafted", "segment", "that", "moves", "viewers", "to", "actions", "or", "retains", "a", "long-lasting", "message", "requires", "elaborative", "directing", "skills", "3", ".", "Based", "on", "a", "narrative", "analysis", "used", "in", "the", "educational", "domain", "and", "observed", "rules", "and", "conventions", "in", "the", "production", "of", "this", "media", ",", "the", "authors", "in", "-LSB-", "21", "-RSB-", "propose", "a", "hierarchy", "of", "narrative", "structures", "at", "the", "shot", "level", "as", "shown", "in", "Figure-4", ".", "In", "this", "paper", ",", "we", "select", "the", "five", "most", "meaningful", "structures", "from", "this", "hierarchy", "for", "experimentation", ".", "This", "set", "includes", ":", "direct-narration", "-LRB-", "DN", "-RRB-", ",", "assisted-narration", "-LRB-", "AN", "-RRB-", ",", "voice-over", "-LRB-", "VO", "-RRB-", ",", "expressive-linkage", "-LRB-", "EL", "-RRB-", ",", "and", "functional-linkage", "-LRB-", "FL", "-RRB-", ".", "We", "shall", "now", "briefly", "describe", "these", "narratives", ".", "Direct-narration", "-LRB-", "DN", "-RRB-", "and", "assisted-narration", "-LRB-", "AN", "-RRB-", "are", "re-ferred", "to", "jointly", "as", "on-screen", "narration", ",", "which", "refer", "to", "the", "segments", "with", "the", "appearance", "of", "the", "narrator", ".", "The", "purpose", "of", "these", "sections", "is", "to", "speak", "to", "the", "viewers", "with", "the", "voice", "of", "authority", ",", "and", "is", "commonly", "used", "to", "demarcate", "a", "new", "topic", "or", "subtopic", ",", "to", "clarify", "a", "concept", "or", "to", "lead", "the", "viewers", "through", "a", "procedure", "with", "examples", ".", "DN", "is", "a", "more", "strict", "form", "of", "on-screen", "narration", ".", "It", "involves", "eye-to-eye", "contact", "where", "the", "narrator", "speaks", "to", "the", "viewers", "directly", ".", "An", "analogy", "from", "news", "video", "is", "the", "anchor-shot", ".", "AN", "refers", "to", "parts", "of", "the", "video", "when", "a", "narrator", "appears", "in", "a", "more", "diverse", "style", ",", "and", "the", "attention", "of", "the", "viewers", "is", "not", "necessarily", "focused", "on", "him", "or", "her", ".", "Here", ",", "the", "purpose", "is", "not", "only", "to", "talk", "to", "the", "viewers", ",", "but", "also", "to", "emphasize", "a", "message", "by", "means", "of", "text", "captions", "and/or", "to", "convey", "an", "experience", "via", "background", "scenes", ".", "A", "similar", "structure", "from", "news", "for", "AN", "is", "the", "reporting", "shot", ".", "Assisted", "narration", "can", "be", "used", "both", "in", "the", "introduction", "of", "a", "topic", "or", "in", "the", "main", "body", ",", "and", "thus", "this", "structure", "should", "be", "shared", "4", "by", "both", "higher", "semantics", "`", "introduction", "'", "and", "`", "main", "body", "'", ".", "As", "we", "see", "later", ",", "this", "knowledge", "is", "explicitly", "modeled", "and", "incorporated", "in", "the", "design", "of", "the", "topology", "for", "the", "S-HSMM", ".", "An", "important", "feature", "is", "that", "although", "the", "semantics", "of", "AN", "is", "shared", ",", "the", "typical", "durations", "are", "different", "when", "it", "is", "used", "in", "the", "introduction", "or", "the", "main", "body", "respectively", ".", "An", "AN", "section", "used", "to", "demarcate", "a", "new", "topic", "usually", "contains", "only", "one", ",", "and", "sometimes", "two", "shots", ",", "while", "an", "AN", "section", "used", "in", "the", "main", "body", "is", "typically", "long", ",", "spanning", "a", "number", "of", "shots", ".", "Conditioning", "on", "the", "parent", "-LRB-", "i.e.", ",", "introduction", "or", "main", "body", "-RRB-", ",", "the", "typical", "duration", "distribution", "of", "the", "AN", "section", "is", "learned", "automatically", "for", "each", "case", "by", "our", "model", ".", "The", "voice-over", "-LRB-", "VO", "-RRB-", "structure", "is", "identified", "as", "sections", "where", "the", "audiotrack", "is", "dominated", "by", "the", "voice", "of", "the", "narrator", ",", "but", "without", "his", "or", "her", "appearance", ".", "The", "purpose", "of", "these", "segments", "is", "to", "communicate", "with", "the", "viewers", "via", "the", "narrator", "'s", "voice", ".", "Additional", "pictorial", "illustration", "is", "usually", "further", "shown", "in", "the", "visual", "channel", ".", "Expressive", "linkage", "-LRB-", "EL", "-RRB-", "and", "Functional", "linkage", "-LRB-", "FL", "-RRB-", "belong", "to", "the", "same", "broader", "linkage", "group", "in", "the", "hierarchy", "in", "Figure-4", ".", "The", "purpose", "of", "the", "linkage", "structure", "is", "to", "maintain", "the", "continuity", "of", "a", "story", "line", "but", "there", "is", "neither", "on-screen", "nor", "voice-over", "narration", "involved", ".", "Functional", "linkage", "contains", "transition", "shots", "encountered", "in", "switching", "from", "one", "subject", "to", "the", "next", ".", "Usually", ",", "large", "superimposed", "text", "captions", "are", "used", "and", "the", "voice", "narration", "is", "completely", "stopped", "3", "We", "note", "that", "the", "two", "closest", "video", "genre", "to", "educational", "videos", "is", "news", "and", "documentaries", ".", "In", "the", "description", "of", "what", "follows", "on", "educational", "genre", ",", "we", "can", "spot", "several", "similarities", "across", "these", "genre", ".", "4", "In", "terms", "of", "parameterization", ",", "it", "is", "a", "form", "of", "parameter", "tying", ".", "16", "Linkage", "Narration", "On-screen", "Narration", "S", "u", "p", "p", "o", "r", "t", "i", "v", "e", "N", "a", "r", "r", "a", "t", "i", "o", "n", "N", "a", "r", "r", "a", "t", "i", "o", "n", "V", "o", "i", "c", "e", "O", "v", "e", "r", "vo", "educational", "videos", "on", "lk", "f", "u", "lk", "e", "x", "lk", "Ex", "pre", "ssi", "ve", "Lin", "kag", "e", "Fu", "nct", "ion", "al", "Lin", "kag", "e", "sn", "Supportive", "Narration", "Di", "r", "ect", "i", "on", "Na", "r", "rat", "i", "on", "an", "w", "t", "dn", "a", "n", "w", "s", "vo", "w.", "Texts/Scenes", "vo", "w", "ith", "Sc", "enes", "v", "o", "t", "s", "vo", "w", "s", "vo", "w", "t", "Ass", "Na", "rrw", ".", "S", "cen", "es", "As", "sN", "arr", "w.", "Te", "xts", "vo", "with", "Texts", "Figure", "4", ":", "The", "hierarchy", "of", "narrative", "structures", "in", "educational", "videos", "proposed", "in", "-LSB-", "21", "-RSB-", ".", "with", "possibly", "music", "played", "in", "the", "background", ".", "Expressive", "linkage", ",", "on", "the", "other", "hand", ",", "is", "used", "to", "create", "`", "mood", "'", "for", "the", "subject", "being", "presented", ".", "For", "example", ",", "in", "the", "video", "presenting", "the", "fire", "safety", "topic", ",", "there", "is", "a", "segment", "in", "which", "the", "narration", "is", "completely", "stopped", "and", "then", "a", "sequence", "of", "pictures", "of", "the", "house", "on", "fire", "is", "shown", ".", "These", "scenes", "obviously", "do", "not", "give", "any", "direct", "instruction", ",", "rather", "they", "create", "a", "sense", "of", "`", "mood", "'", "that", "helps", "the", "video", "to", "be", "more", "appealing", "and", "interesting", ".", "4.2", "Feature", "extraction", "and", "shot", "classification", "The", "feature", "set", "and", "method", "for", "shot", "classification", "described", "in", "-LSB-", "21", "-RSB-", "is", "employed", "in", "this", "paper", ".", "The", "feature", "set", "is", "extracted", "from", "both", "visual", "and", "audio", "streams", "at", "the", "shot-based", "level", ".", "From", "the", "image", "sequence", ",", "we", "choose", "to", "detect", "the", "frontal", "faces", "to", "reflect", "the", "appearance", "of", "the", "narrator", "using", "the", "CMU", "face", "detection", "algoritm", "-LSB-", "25", "-RSB-", ";", "and", "captioned", "texts", "as", "one", "of", "the", "common", "means", "of", "conveying", "information", "in", "educational", "videos", "using", "the", "algorithm", "described", "in", "-LSB-", "27", "-RSB-", ".", "In", "order", "to", "classify", "a", "shot", "into", "direct-narration", ",", "voice-over", ",", "linkage", ",", "etc.", ",", "further", "information", "is", "sought", "from", "the", "audio", "stream", ".", "Audio", "features", "are", "computed", "as", "the", "percentage", "of", "the", "following", "audio", "classes", "within", "a", "shot", ":", "vocal", "speech", ",", "music", ",", "silence", ",", "and", "non-literal", "sound", ".", "A", "shot", "is", "then", "classified", "into", "one", "of", "the", "elements", "of", "=", "-LCB-", "DN", ",", "AN", ",", "V", "O", ",", "EL", ",", "F", "L", "-RCB-", "using", "the", "classification", "framework", "reported", "in", "-LSB-", "21", "-RSB-", ".", "Since", "we", "claim", "no", "contribution", "at", "this", "stage", ",", "we", "shall", "refer", "readers", "to", "-LSB-", "21", "-RSB-", "for", "full", "details", "on", "this", "classification", "scheme", ".", "Our", "dataset", "D", "consists", "of", "12", "educational", "and", "training", "videos", "containing", "different", "types", "of", "subjects", "and", "presentational", "styles", ",", "and", "thus", "this", "constitutes", "a", "relatively", "noisy", "set", "of", "data", ".", "We", "manually", "provide", "groundtruth", "for", "these", "videos", "with", "topic", "transitions", ".", "In", "some", "cases", ",", "the", "groundtruth", "for", "topic", "transitions", "comes", "directly", "from", "the", "hardcopy", "guidelines", "supplied", "by", "the", "producer", ".", "At", "the", "pre-processing", "stage", ",", "Webflix", "-LSB-", "15", "-RSB-", "is", "used", "to", "perform", "shot", "transition", "detection", "and", "all", "detection", "errors", "are", "corrected", "manually", ".", "Since", "our", "contribution", "from", "this", "paper", "is", "at", "the", "semantic", "level", ",", "the", "latter", "step", "is", "to", "ensure", "an", "error", "at", "the", "shot", "detection", "does", "not", "influence", "the", "performance", "of", "the", "system", "at", "higher", "levels", ".", "Since", "educational", "videos", "mainly", "contain", "cut", "and", "dissolve", "transitions", ",", "the", "shot", "detection", "accuracy", "is", "found", "to", "be", "very", "high", "with", "rare", "cases", "being", "erroneous", ".", "Given", "shot", "indices", ",", "each", "video", "is", "processed", "as", "described", "in", "Section", "4", ",", "and", "then", "each", "shot", "S", "is", "labeled", "as", "one", "of", "the", "elements", "of", "=", "-LCB-", "DN", ",", "AN", ",", "V", "O", ",", "EL", ",", "F", "L", "-RCB-", ".", "5.2", "Model", "topology", "and", "parameterization", "We", "will", "use", "four", "models", "in", "this", "experiments", ":", "the", "flat", "HMM", "and", "HSMM", "-LRB-", "as", "the", "baseline", "cases", "-RRB-", ",", "the", "HHMM", "and", "the", "S-HSMM", ".", "For", "the", "flat", "HMM", "and", "HSMM", ",", "we", "range", "the", "number", "of", "states", "from", "2", "to", "5", "with", "the", "observation", "space", ",", "where", "2", "is", "intended", "to", "be", "the", "minimum", "number", "of", "states", "required", "-LRB-", "like", "`", "intro", "'", "and", "`", "main", "body", "'", "-RRB-", "and", "5", "is", "the", "number", "of", "alphabets", "-LRB-", "i.e.", ",", "in", "the", "relaxed", "way", "that", "the", "number", "of", "states", "equates", "to", "the", "number", "of", "alphabets", "-RRB-", ".", "The", "semi-Markov", "version", "HSMM", "is", "further", "parameterized", "by", "3-phase", "Coxian", "distributions", "as", "the", "duration", "distributions", "of", "the", "states", ".", "The", "choice", "of", "M", "=", "3", "phases", "is", "hinted", "by", "the", "results", "reported", "in", "-LSB-", "5", "-RSB-", "where", "M", "=", "3", "has", "resulted", "in", "best", "performances", ".", "For", "the", "HHMM", "and", "the", "S-HSMM", ",", "the", "topology", "shown", "in", "the", "top", "of", "Figure-1", "is", "used", "to", "construct", "the", "S-HSMM", "in", "this", "experiment", ".", "This", "topology", "specifies", "Q", "=", "2", "states", "at", "the", "top", "level", "where", "state", "1", "and", "2", "correspond", "to", "the", "introduction", "and", "the", "main", "body", "of", "the", "topic", "respectively", ".", "The", "Markov", "chain", "at", "this", "level", "is", "similar", "to", "the", "flat", "HMM", "used", "in", "-LSB-", "4", "-RSB-", "for", "news", "story", "segmentation", "5", "reviewed", "in", "Section", "2", ".", "We", "incorporate", "the", "assumed", "prior", "knowledge", "that", "a", "topic", "usually", "starts", "with", "either", "direct-narration", ",", "assisted-narration", "or", "functional", "linkage", ",", "thus", "state", "1", "has", "-LCB-", "1", ",", "2", ",", "5", "-RCB-", "as", "its", "children", "set", ".", "Similarly", ",", "the", "main", "body", "can", "contain", "assisted-narration", ",", "voice-over", "or", "expressive", "linkage", ",", "hence", "its", "children", "set", "is", "-LCB-", "2", ",", "3", ",", "4", "-RCB-", ".", "Here", "state", "2", "-LRB-", "assisted", "narration", "-RRB-", "has", "been", "shared", "by", "both", "parent", "state", "1", "-LRB-", "`", "intro", "'", "-RRB-", "and", "2", "-LRB-", "`", "main", "body", "'", "-RRB-", ".", "The", "bottom", "level", "has", "5", "states", "corresponding", "to", "5", "shot", "labels", ".", "To", "map", "the", "labels", "to", "the", "bottom", "states", ",", "we", "construct", "a", "diagonal-like", "B", "observation", "matrix", "and", "fix", "it", ",", "i.e.", ",", "we", "do", "not", "learn", "B", ".", "The", "diagonal", "entries", "of", "B", "are", "set", "to", "0.99", "to", "relax", "the", "uncertainty", "during", "the", "classification", "stage", ".", "The", "duration", "models", "in", "the", "S-HSMM", "are", "used", "with", "M", "=", "3", "phases", "Coxian", ".", "5.3", "Detection", "Results", "Given", "the", "dataset", "D", ",", "our", "evaluation", "employs", "a", "leave-one-out", "strategy", "to", "ensure", "an", "objective", "cross-validation", ".", "We", "sequentially", "pick", "out", "a", "video", "V", "and", "use", "the", "remainder", "set", "-LCB-", "D", "\\", "V", "-RCB-", "to", "train", "the", "model", ",", "and", "then", "use", "V", "for", "testing", ".", "In", "the", "results", "that", "follow", ",", "this", "method", "is", "used", "for", "all", "cases", "including", "the", "flat", "HMM", ",", "the", "flat", "HSMM", ",", "hierarchical", "HMM", ",", "and", "the", "S-HSMM", ".", "A", "topic", "transition", "is", "detected", "when", "the", "introduction", "state", "at", "the", "top", "level", "is", "reached", "during", "the", "Viterbi", "decoding", ".", "Examples", "of", "Viterbi", "decoding", "with", "the", "S-HSMM", "and", "HHMM", "are", "shown", "in", "Figure-5", ".", "To", "measure", "the", "performance", ",", "in", "addition", "to", "the", "well-known", "5", "They", "called", "`", "transition", "'", "and", "`", "internal", "'", "states", "instead", "of", "`", "introduction", "'", "and", "`", "main", "body", "'", ".", "17", "recall", "-LRB-", "recall", "-RRB-", "and", "precision", "-LRB-", "prec", "-RRB-", "metrics", ",", "we", "include", "the", "F-score", "-LRB-", "f-score", "-RRB-", "metric", "defined", "as", ":", "f-score", "=", "2", "recall", "prec", "recall", "+", "prec", "=", "2", "1", "recall", "+", "1", "prec", "-1", "While", "the", "recall", "rate", "measures", "how", "well", "the", "system", "can", "recover", "the", "true", "topic", "transitions", ",", "and", "high", "precision", "ensures", "that", "it", "does", "not", "over-segment", "the", "video", ",", "the", "F-score", "shows", "the", "overall", "performance", "of", "the", "system", ".", "In", "the", "ideal", "case", "when", "recall", "=", "prec", "=", "100", "%", ",", "clearly", "f-score", "=", "1", ",", "i.e.", ",", "the", "highest", "performance", "the", "system", "can", "achieve", ".", "The", "baseline", "cases", ":", "flat", "HMM", "and", "HSMM", "Since", "initialization", "is", "crucial", "during", "EM", "learning", ",", "we", "apply", "multiple", "random", "restart", "points", "when", "conducting", "the", "experiments", ",", "including", "the", "uniform", "initialization", ".", "Although", "several", "restarts", "were", "used", ",", "the", "flat", "HMM", "is", "found", "to", "yield", "extremely", "poor", "results", "in", "all", "cases", ".", "Even", "when", "we", "train", "and", "test", "on", "the", "same", "dataset", ",", "the", "flat", "HMM", "still", "produces", "poor", "detection", "results", ",", "proving", "to", "be", "unsuitable", "in", "our", "topical", "transition", "detection", "settings", ".", "The", "flat", "HSMM", "produces", "slightly", "better", "results", "than", "the", "flat", "HMM", ",", "but", "still", "in", "all", "ten", "runs", ",", "the", "performance", "is", "still", "very", "low", "-LRB-", "recall", "=", "7.74", "%", "and", "prec", "=", "48", "%", "in", "the", "best", "case", "-RRB-", ".", "The", "poor", "performance", "of", "the", "HMM", "and", "HSMM", "is", "of", "no", "surprise", ",", "since", "their", "forms", "are", "too", "strict", "to", "model", "a", "rather", "high", "concept", "-", "the", "`", "topic", "'", ".", "Furthermore", ",", "with", "the", "flat", "structures", ",", "they", "offer", "no", "mechanism", "to", "incorporate", "prior", "domain", "knowledge", "such", "as", "those", "that", "we", "use", "in", "the", "topology", "of", "the", "S-HSMM", "and", "HHMM", ".", "This", "clearly", "shows", "that", "hierarchical", "models", "are", "much", "more", "suitable", "for", "video", "analysis", "than", "the", "flat", "ones", ".", "Given", "the", "poor", "results", "in", "the", "flat", "structure", "cases", ",", "we", "will", "omit", "the", "HMM", "and", "HSMM", "in", "the", "discussion", "of", "what", "follows", "below", ".", "Detection", "with", "the", "S-HSMM", "and", "HHMM", "The", "recall", "rate", ",", "precision", "and", "F-score", "for", "representative", "runs", "are", "reported", "in", "Table", "1", ",", "in", "which", "the", "best", "performance", "are", "highlighted", "in", "bold", ".", "The", "detection", "results", "for", "each", "individual", "video", "for", "the", "best", "cases", "are", "shown", "in", "Table", "2", ".", "With", "different", "random", "restarting", "points", ",", "including", "the", "uniform", "initialization", ",", "the", "performance", "of", "the", "HHMM", "ranges", "from", "poor", "to", "very", "good", "-LRB-", "41.29", "%", "83.23", "%", "for", "recall", "and", "80.00", "%", "84.47", "%", "for", "precision", "-RRB-", ",", "whereas", "the", "S-HSMM", "consistently", "yields", "good", "results", "-LRB-", "83.87", "%", "84.52", "%", "for", "recall", "and", "87.92", "%", "88.51", "%", "for", "precision", "-RRB-", ".", "Since", "during", "training", "there", "is", "nothing", "exposed", "to", "the", "testing", "examples", ",", "we", "also", "report", "-LRB-", "in", "the", "second", "part", "of", "Table", "1", "-RRB-", "the", "performances", "of", "the", "HHMM", "and", "S-HSMM", "in", "a", "likelihood-based", "`", "best", "model", "selection", "'", "scheme", ".", "This", "scheme", "works", "as", "follows", ".", "As", "in", "the", "leave-one-out", "strategy", ",", "let", "V", "be", "a", "video", "selected", "from", "D", ",", "and", "N", "is", "the", "number", "of", "times", "we", "train", "the", "model", "using", "the", "dataset", "-LCB-", "D", "\\", "V", "-RCB-", "-LRB-", "i.e.", ",", "without", "V", "-RRB-", ".", "Let", "i", "-LRB-", "V", "-RRB-", "and", "L", "i", "-LRB-", "V", "-RRB-", "-LRB-", "i", "=", "1", "...", "N", "-RRB-", "respectively", "be", "the", "learned", "model", "and", "the", "likelihood", "-LRB-", "at", "convergence", "-RRB-", "obtained", "for", "i-th", "run", ".", "We", "then", "use", "the", "model", "i", "to", "test", "on", "the", "unseen", "video", "V", "where", "i", "=", "argmax", "i", "=", "1", "...", "N", "L", "i", "-LRB-", "V", "-RRB-", ".", "Simply", "speaking", ",", "we", "sequentially", "`", "throw", "away", "'", "a", "video", "V", ",", "then", "select", "the", "best", "model", "-LRB-", "i.e.", ",", "highest", "likelihood", "-RRB-", "among", "all", "runs", "to", "test", "on", "V", ".", "For", "the", "HHMM", ",", "the", "result", "stays", "the", "same", "as", "when", "we", "choose", "the", "best", "performance", "based", "on", "the", "F-score", ".", "For", "the", "S-HSMM", ",", "the", "recall", "stays", "the", "same", ",", "while", "the", "precision", "slightly", "decreases", "from", "88.51", "%", "to", "87.92", "%", ".", "Nevertheless", ",", "the", "S-HSMM", "is", "still", "superior", "to", "the", "HHMM", ".", "recall", "-LRB-", "%", "-RRB-", "prec", "-LRB-", "%", "-RRB-", "f-score", "results", "for", "best", "performance", "selection", "Uniform", "42.58", "81.48", "0.559", "Rand", ".", "1", "83.23", "84.47", "0.840", "HHMM", "Rand", ".", "2", "83.23", "84.87", "0.840", "Rand", ".", "3", "83.23", "84.87", "0.840", "Rand", ".", "3", "41.29", "80.00", "0.545", "Rand", ".", "4", "83.87", "83.87", "0.839", "Uniform", "84.52", "87.92", "0.862", "Rand", ".", "1", "84.52", "88.51", "0.865", "S-HSMM", "Rand", ".", "2", "83.87", "87.25", "0.855", "Rand", ".", "3", "84.52", "88.51", "0.865", "Rand", ".", "4", "83.87", "87.25", "0.855", "Rand", ".", "5", "84.52", "88.51", "0.865", "results", "for", "best", "model", "selection", "HHMM", "83.23", "84.87", "0.840", "S-HSMM", "84.52", "87.92", "0.862", "Table", "1", ":", "Detection", "Performances", "for", "the", "S-HSMM", "and", "the", "HHMM", ".", "Best", "performance", "for", "each", "case", "is", "highlighted", "in", "bold", "-LRB-", "we", "note", "that", "best", "performances", "are", "attained", "in", "multiple", "cases", "and", "we", "select", "one", "of", "them", "to", "highlight", "-RRB-", ".", "Table", "1", "and", "2", "show", "that", "modeling", "with", "the", "S-HSMM", "results", "in", "better", "performances", "than", "the", "HHMM", "in", "both", "recall", "and", "precision", "rates", ".", "And", "as", "a", "result", ",", "the", "F-score", "improves", "from", "0.840", "to", "0.865", ".", "While", "the", "recall", "rate", "improves", "only", "slightly", ",", "the", "4", "%", "improvement", "in", "the", "precision", "indicates", "that", "the", "HHMM", "tends", "to", "over-segment", "the", "video", "more", "frequently", "than", "the", "S-HSMM", ".", "This", "has", "confirmed", "our", "belief", "that", "duration", "information", "is", "an", "important", "factor", "in", "our", "topic", "transition", "detection", "settings", ".", "The", "semi-Markov", "modeling", "has", "effectively", "overcome", "the", "limitation", "of", "the", "strict", "Markov", "assumption", "of", "-LCB-", "future", "past", "|", "present", "-RCB-", "6", "in", "the", "flat", "HMM", ",", "allowing", "longer", "temporal", "dependency", "to", "be", "captured", "via", "the", "duration", "of", "the", "state", ".", "Nevertheless", ",", "given", "a", "somewhat", "more", "contained", "set", "of", "data", "used", "in", "this", "experiment", ",", "the", "results", "from", "both", "the", "S-HSMM", "and", "HHMM", "are", "better", "than", "the", "previous", "detection", "results", "of", "news", "story", "reported", "in", "-LSB-", "4", "-RSB-", "-LRB-", "which", "came", "first", "in", "TRECVIC2003", "testbed", "-RRB-", "and", "the", "heuristics", "and", "Bayesian", "approaches", "on", "topic", "detection", "in", "-LSB-", "23", ",", "21", "-RSB-", ".", "These", "results", "do", "not", "only", "imply", "the", "advantages", "of", "the", "S-HSMM", "over", "the", "HHMM", ",", "but", "also", "show", "the", "contribution", "of", "the", "HHMM", "in", "its", "own", "right", ".", "In", "this", "paper", "we", "explore", "the", "difficult", "problem", "of", "detecting", "topic", "transitions", "through", "the", "use", "of", "two", "probabilistic", "models", ",", "the", "HHMM", "and", "the", "S-HSMM", ".", "Both", "allow", "the", "modeling", "of", "hierarchy", "and", "the", "sharing", "of", "substructures", "within", "the", "hierarchy", ",", "whilst", "the", "S-HSMM", "additionally", "allows", "the", "explicit", "modeling", "of", "durative", "properties", ".", "Coupled", "with", "the", "use", "of", "the", "Coxian", "model", ",", "we", "show", "how", "this", "unified", "framework", "performs", "better", "than", "the", "baseline", "cases", "-LRB-", "the", "flat", "HMM", "and", "HSMM", "-RRB-", "and", "previous", "results", "reported", ".", "In", "particular", "the", "use", "of", "the", "S-HSMM", "demonstrates", "that", "the", "modeling", "of", "duration", "is", "a", "6", "i.e.", ",", "the", "future", "is", "conditionally", "independent", "of", "the", "past", "given", "the", "present", ".", "18", "Video", "TP", "FP", "Miss", "GT", "1", "-", "``", "EESafety", "''", "10", "8", "1", "3", "3", "5", "13", "2", "-", "``", "SSFall", "''", "4", "4", "1", "1", "2", "2", "6", "3", "-", "``", "ElectS", "''", "6", "6", "2", "1", "2", "2", "8", "4", "-", "``", "TrainHaz", "''", "18", "20", "2", "2", "3", "1", "21", "5", "-", "``", "EyeS", "''", "10", "10", "0", "1", "0", "0", "10", "6", "-", "``", "FootS", "''", "10", "10", "1", "1", "1", "1", "11", "7", "-", "``", "HKeeping", "''", "11", "11", "3", "3", "1", "1", "12", "8", "-", "``", "Maintn", "''", "9", "8", "1", "3", "4", "5", "13", "9", "-", "``", "HandS", "''", "9", "9", "1", "1", "1", "1", "10", "10", "-", "``", "SBurning", "''", "19", "19", "1", "1", "2", "2", "21", "11", "-", "``", "HeadProt", "''", "6", "5", "1", "3", "1", "2", "7", "12", "-", "``", "WeldingS", "''", "19", "19", "3", "3", "4", "4", "23", "Sum", "131", "129", "17", "23", "24", "26", "155", "Table", "2", ":", "Detection", "results", "for", "each", "video", "in", "the", "best", "performance", "cases", "of", "the", "S-HSMM", "and", "the", "HHMM", "-LRB-", "TP", ":", "True", "Positive", ",", "FP", ":", "False", "Positive", ",", "GT", ":", "Ground-Truth", "-RRB-", ".", "powerful", "tool", "in", "the", "extraction", "of", "higher", "level", "semantics", ".", "The", "results", "demonstrate", "the", "promise", "of", "the", "approach", "and", "although", "the", "results", "are", "demonstrated", "with", "the", "educational", "and", "training", "film", "genre", ",", "the", "method", "can", "easily", "be", "applied", "to", "other", "genres", ".", "We", "believe", "that", "the", "promise", "of", "the", "approach", "lies", "in", "its", "unified", "probabilistic", "handling", "of", "durative", "properties", "and", "shared", "hierarchical", "structure", ",", "allowing", "it", "to", "handle", "long", "video", "sequences", "with", "inherent", "variability", "and", "complicated", "semantics", ".", "Hung", "Bui", "is", "supported", "by", "the", "Defense", "Advanced", "Research", "Projects", "Agency", "-LRB-", "DARPA", "-RRB-", ",", "through", "the", "Department", "of", "the", "Interior", ",", "NBC", ",", "Acquisition", "Services", "Division", ",", "under", "Contract", "No", ".", "NBCHD030010", ".", "-LSB-", "1", "-RSB-", "B.", "Adams", ",", "C.", "Dorai", ",", "and", "S.", "Venkatesh", ".", "Automated", "film", "rhythm", "extraction", "for", "scene", "analysis", ".", "In", "IEEE", "International", "Conference", "on", "Multimedia", "and", "Expo", ",", "pages", "1056", "1059", ",", "Tokyo", ",", "Japan", ",", "August", "2001", ".", "-LSB-", "2", "-RSB-", "P.", "Aigrain", ",", "P.", "Jolly", ",", "and", "V.", "Longueville", ".", "Medium", "knowledge-based", "macro-segmentation", "of", "video", "into", "sequences", ".", "In", "M.", "Maybury", ",", "editor", ",", "Intelligent", "Multimedia", "Information", "Retrieval", ",", "pages", "159", "174", ".", "AAAI", "Press/MIT", "Press", ",", "1998", ".", "-LSB-", "3", "-RSB-", "H.", "H.", "Bui", ",", "D.", "Q.", "Phung", ",", "and", "S.", "Venkatesh", ".", "Hierarchical", "hidden", "markov", "models", "with", "general", "state", "hierarchy", ".", "In", "D.", "L.", "McGuinness", "and", "G.", "Ferguson", ",", "editors", ",", "Proceedings", "of", "the", "Nineteenth", "National", "Conference", "on", "Artificial", "Intelligence", ",", "pages", "324", "329", ",", "San", "Jose", ",", "California", ",", "USA", ",", "2004", ".", "AAAI", "Press", "/", "The", "MIT", "Press", ".", "-LSB-", "4", "-RSB-", "L.", "Chaisorn", ",", "T.-S", ".", "Chua", ",", "C.-H", ".", "Lee", ",", "and", "Q.", "Tian", ".", "A", "hierarchical", "approach", "to", "story", "segmentation", "of", "large", "broadcast", "news", "video", "corpus", ".", "In", "IEEE", "International", "Conference", "on", "Multimedia", "and", "Expo", ",", "Taipei", ",", "Taiwan", ",", "June", "2004", ".", "-LSB-", "5", "-RSB-", "T.", "V.", "Duong", ",", "H.", "H.", "Bui", ",", "D.", "Q.", "Phung", ",", "and", "S.", "Venkatesh", ".", "Activity", "recognition", "and", "abnormality", "detection", "with", "the", "Switching", "Hidden", "Semi-Markov", "Model", ".", "In", "IEEE", "Int", ".", "Conf", ".", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "volume", "1", ",", "pages", "838", "845", ",", "San", "Diego", ",", "20-26", "June", "2005", ".", "IEEE", "Computer", "Society", ".", "-LSB-", "6", "-RSB-", "S.", "Fine", ",", "Y.", "Singer", ",", "and", "N.", "Tishby", ".", "The", "hierarchical", "hidden", "markov", "model", ":", "Analysis", "and", "applications", ".", "Machine", "Learning", ",", "32", "-LRB-", "1", "-RRB-", ":", "41", "62", ",", "1998", ".", "-LSB-", "7", "-RSB-", "A.", "Hanjalic", ".", "Shot-boundary", "detection", ":", "Unraveled", "and", "resolved", "?", "IEEE", "Transaction", "in", "Circuits", "and", "Systems", "for", "Video", "Technology", ",", "12", "-LRB-", "2", "-RRB-", ":", "90", "105", ",", "2002", ".", "-LSB-", "8", "-RSB-", "A.", "Hanjalic", ",", "R.", "L.", "Lagendijk", ",", "and", "J.", "Biemond", ".", "Automated", "high-level", "movie", "segmentation", "for", "advanced", "video", "retrieval", "systems", ".", "IEEE", "Transactions", "in", "Circuits", "and", "Systems", "for", "Video", "Technology", ",", "9", "-LRB-", "4", "-RRB-", ":", "580", "588", ",", "1999", ".", "-LSB-", "9", "-RSB-", "I.", "Ide", ",", "K.", "Yamamoto", ",", "and", "H.", "Tanaka", ".", "Automatic", "video", "indexing", "based", "on", "shot", "classification", ".", "In", "First", "International", "Conference", "on", "Advanced", "Multimedia", "Content", "Processing", ",", "pages", "99", "114", ",", "Osaka", ",", "Japan", ",", "November", "1998", ".", "-LSB-", "10", "-RSB-", "U.", "Iurgel", ",", "R.", "Meermeier", ",", "S.", "Eickeler", ",", "and", "G.", "Rigoll", ".", "New", "approaches", "to", "audio-visual", "segmentation", "of", "TV", "news", "for", "automatic", "topic", "retrieval", ".", "In", "IEEE", "Int", ".", "Conf", ".", "on", "Acoustics", ",", "Speech", ",", "and", "Signal", "Processing", ",", "volume", "3", ",", "pages", "1397", "1400", ",", "Salt", "Lake", "City", ",", "Utah", ",", "2001", ".", "-LSB-", "11", "-RSB-", "E.", "Kijak", ",", "L.", "Oisel", ",", "and", "P.", "Gros", ".", "Hierarchical", "structure", "analysis", "of", "sport", "videos", "using", "HMMs", ".", "In", "Int", ".", "Conf", ".", "on", "Image", "Processing", ",", "volume", "2", ",", "pages", "II", "1025", "8", "vol", ".3", ",", "2003", ".", "-LSB-", "12", "-RSB-", "S.", "E.", "Levinson", ".", "Continuously", "variable", "duration", "hidden", "markov", "models", "for", "automatic", "speech", "recognition", ".", "Computer", "Speech", "and", "Language", ",", "1", "-LRB-", "1", "-RRB-", ":", "2945", ",", "March", "1986", ".", "-LSB-", "13", "-RSB-", "T.", "Lin", "and", "H.", "J.", "Zhang", ".", "Automatic", "video", "scene", "extraction", "by", "shot", "grouping", ".", "Pattern", "Recognition", ",", "4:39", "42", ",", "2000", ".", "-LSB-", "14", "-RSB-", "Z.", "Liu", "and", "Q.", "Huang", ".", "Detecting", "news", "reporting", "using", "audio/visual", "information", ".", "In", "International", "Conference", "on", "Image", "Processing", ",", "pages", "24", "28", ",", "Kobe", ",", "Japan", ",", "October", "1999", ".", "-LSB-", "15", "-RSB-", "Mediaware-Company", ".", "Mediaware", "solution", "webflix", "professional", "V1", ".5.3", ",", "1999", ".", "http://www.mediaware.com.au/webflix.html", ".", "-LSB-", "16", "-RSB-", "C.", "D.", "Mitchell", "and", "L.", "H.", "Jamieson", ".", "Modeling", "duration", "in", "a", "hidden", "markov", "model", "with", "the", "exponential", "family", ".", "In", "Proc", ".", "of", "IEEE", "Int", ".", "Conf", ".", "on", "Acoustics", ",", "Speech", ",", "and", "Signal", "Processing", ",", "pages", "II", ".331", "II", ".334", ",", "Minneapolis", ",", "Minnesota", ",", "April", "1993", ".", "-LSB-", "17", "-RSB-", "K.", "Murphy", "and", "M.", "Paskin", ".", "Linear-time", "inference", "in", "hierarchical", "HMMs", ".", "In", "T.", "G.", "Dietterich", ",", "S.", "Becker", ",", "and", "Z.", "Ghahramani", ",", "editors", ",", "Advances", "in", "Neural", "Information", "Processing", "Systems", ",", "Cambridge", ",", "MA", ",", "2001", ".", "MIT", "Press", ".", "-LSB-", "18", "-RSB-", "M.", "R.", "Naphade", "and", "T.", "S.", "Huang", ".", "Discovering", "recurrent", "events", "in", "video", "using", "unsupervised", "methods", ".", "In", "Int", ".", "Conf", ".", "om", "Image", "Processing", ",", "volume", "2", ",", "pages", "13", "16", ",", "Rochester", ",", "NY", ",", "USA", ",", "2002", ".", "-LSB-", "19", "-RSB-", "D.", "Q.", "Phung", ".", "Probabilistic", "and", "Film", "Grammar", "Based", "Methods", "for", "Video", "Content", "Analysis", ".", "PhD", "thesis", ",", "Curtin", "University", "of", "Technology", ",", "Australia", ",", "2005", ".", "-LSB-", "20", "-RSB-", "D.", "Q.", "Phung", ",", "H.", "H.", "Bui", ",", "and", "S.", "Venkatesh", ".", "Content", "structure", "discovery", "in", "educational", "videos", "with", "shared", "19", "2", "2", "2", "2", "1", "1", "2", "2", "2", "2", "2", "2", "1", "1", "1", "2", "2", "2", "2", "2", "1", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "1", "1", "1", "1", "2", "2", "2", "4", "4", "4", "4", "5", "2", "3", "3", "3", "3", "3", "2", "5", "2", "1", "3", "3", "3", "3", "3", "5", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "5", "2", "5", "1", "3", "3", "3", "1", "1", "2", "3", "3", "3", "2", "2", "2", "2", "3", "3", "3", "3", "3", "2", "2", "2", "2", "3", "3", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "3", "3", "3", "3", "3", "2", "2", "2", "2", "2", "2", "1", "2", "1", "2", "2", "2", "2", "2", "1", "2", "1", "1", "2", "2", "2", "2", "1", "1", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "1", "2", "2", "2", "1", "2", "2", "2", "2", "2", "2", "1", "1", "1", "2", "2", "2", "2", "1", "1", "1", "1", "1", "2", "2", "2", "2", "1", "1", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "1", "1", "1", "1", "1", "2", "2", "2", "Detected", "Topic", "Transitions", "z", "t", "x", "t", "m", "t", "t", "e", "t", "main", "body", "intro", "13", "2", "2", "2", "2", "1", "1", "2", "2", "2", "2", "2", "1", "1", "1", "1", "2", "2", "2", "2", "2", "1", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "2", "1", "1", "1", "1", "2", "2", "2", "4", "4", "4", "4", "5", "2", "3", "3", "3", "3", "3", "2", "5", "2", "1", "3", "3", "3", "3", "3", "5", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "3", "5", "2", "5", "1", "3", "3", "3", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "1", "shot", "number", "z", "t", "x", "t", "t", "e", "t", "S", "H", "S", "M", "M", "H", "H", "M", "M", "39", "Detected", "Topic", "Transitions", "5", "21", "Ground-Truth", "Figure", "5", ":", "Example", "of", "Viterbi", "decoding", "for", "the", "S-HSMM", "and", "the", "HHMM", "for", "the", "first", "45", "shots", "of", "video", "`", "EESafety", "'", ".", "These", "results", "should", "be", "read", "together", "with", "Figure-3", "to", "see", "the", "semantics", "of", "the", "DBN", "structure", ".", "structures", "in", "the", "hierarchical", "HMMs", ".", "In", "Joint", "Int", ".", "Workshop", "on", "Syntactic", "and", "Structural", "Pattern", "Recognition", ",", "pages", "1155", "1163", ",", "Lisbon", ",", "Portugal", ",", "August", "18", "20", "2004", ".", "-LSB-", "21", "-RSB-", "D.", "Q.", "Phung", "and", "S.", "Venkatesh", ".", "Structural", "unit", "identification", "and", "segmentation", "of", "topical", "content", "in", "educational", "videos", ".", "Technical", "report", ",", "Department", "of", "Computing", ",", "Curtin", "University", "of", "Technology", ",", "2005", ".", "TR-May-2005", ".", "-LSB-", "22", "-RSB-", "D.", "Q.", "Phung", ",", "S.", "Venkatesh", ",", "and", "H.", "H.", "Bui", ".", "Automatically", "learning", "structural", "units", "in", "educational", "videos", "using", "the", "hierarchical", "HMMs", ".", "In", "International", "Conference", "on", "Image", "Processing", ",", "Singapore", ",", "2004", ".", "-LSB-", "23", "-RSB-", "D.", "Q.", "Phung", ",", "S.", "Venkatesh", ",", "and", "C.", "Dorai", ".", "High", "level", "segmentation", "of", "instructional", "videos", "based", "on", "the", "content", "density", "function", ".", "In", "ACM", "International", "Conference", "on", "Multimedia", ",", "pages", "295", "298", ",", "Juan", "Les", "Pins", ",", "France", ",", "1-6", "December", "2002", ".", "-LSB-", "24", "-RSB-", "L.", "R.", "Rabiner", ".", "A", "tutorial", "on", "hidden", "markov", "models", "and", "selected", "applications", "in", "speech", "recognition", ".", "In", "Procs", ".", "IEEE", ",", "volume", "77", ",", "pages", "257", "286", ",", "February", "1989", ".", "-LSB-", "25", "-RSB-", "H.", "A.", "Rowley", ",", "S.", "Baluja", ",", "and", "T.", "Kanade", ".", "Neutral", "network-based", "face", "detection", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "20", "-LRB-", "1", "-RRB-", ":", "23", "38", ",", "January", "1998", ".", "-LSB-", "26", "-RSB-", "K.", "Shearer", ",", "C.", "Dorai", ",", "and", "S.", "Venkatesh", ".", "Incorporating", "domain", "knowlege", "with", "video", "and", "voice", "data", "analysis", ".", "In", "Workshop", "on", "Multimedia", "Data", "Minning", ",", "Boston", ",", "USA", ",", "August", "2000", ".", "-LSB-", "27", "-RSB-", "J.-C", ".", "Shim", ",", "C.", "Dorai", ",", "and", "R.", "Bolle", ".", "Automatic", "text", "extraction", "from", "video", "for", "content-based", "annotation", "and", "retrieval", ".", "In", "International", "Conference", "on", "Pattern", "Recognition", ",", "volume", "1", ",", "pages", "618", "620", ",", "Brisbane", ",", "Australia", ",", "August", "1998", ".", "-LSB-", "28", "-RSB-", "C.", "G.", "Snoek", "and", "M.", "Worring", ".", "Multimodal", "video", "indexing", ":", "A", "review", "of", "the", "state-of-the-art", ".", "Multimedia", "Tools", "and", "Applications", ",", "2004", ".", "In", "Press", ".", "-LSB-", "29", "-RSB-", "H.", "Sundaram", ".", "Segmentation", ",", "Structure", "Detection", "and", "Summarization", "of", "Multimedia", "Sequences", ".", "PhD", "thesis", ",", "Columbia", "University", ",", "2002", ".", "-LSB-", "30", "-RSB-", "H.", "Sundaram", "and", "S.-F", ".", "Chang", ".", "Computable", "scenes", "and", "structures", "in", "films", ".", "IEEE", "Transactions", "in", "Multimedia", ",", "4", "-LRB-", "4", "-RRB-", ":", "482", "491", ",", "2002", ".", "-LSB-", "31", "-RSB-", "B.", "T.", "Truong", ".", "An", "Investigation", "into", "Structural", "and", "Expressive", "Elements", "in", "Film", ".", "PhD", "thesis", ",", "Curtin", "University", "of", "Technology", ",", "2004", ".", "-LSB-", "32", "-RSB-", "J.", "Vendrig", "and", "M.", "Worring", ".", "Systematic", "evaluation", "of", "logical", "story", "unit", "segmentation", ".", "IEEE", "Transactions", "on", "Multimedia", ",", "4", "-LRB-", "4", "-RRB-", ":", "492", "499", ",", "2002", ".", "-LSB-", "33", "-RSB-", "C.", "Wang", ",", "Y.", "Wang", ",", "H.", "Liu", ",", "and", "Y.", "He", ".", "Automatic", "story", "segmentation", "of", "news", "video", "based", "on", "audio-visual", "features", "and", "text", "information", ".", "In", "Int", ".", "Conf", ".", "on", "Machine", "Learning", "and", "Cybernetics", ",", "volume", "5", ",", "pages", "3008", "3011", ",", "2003", ".", "-LSB-", "34", "-RSB-", "J.", "Wang", ",", "T.-S", ".", "Chua", ",", "and", "L.", "Chen", ".", "Cinematic-based", "model", "for", "scene", "boundary", "detection", ".", "In", "The", "Eight", "Conference", "on", "Multimedia", "Modeling", ",", "Amsterdam", ",", "Netherland", ",", "5-7", "November", "2001", ".", "-LSB-", "35", "-RSB-", "L.", "Xie", "and", "S.-F", ".", "Chang", ".", "Unsupervised", "mining", "of", "statistical", "temporal", "structures", "in", "video", ".", "In", "A.", "Rosenfield", ",", "D.", "Doreman", ",", "and", "D.", "Dementhons", ",", "editors", ",", "Video", "Mining", ".", "Kluwer", "Academic", "Publishers", ",", "June", "2003", ".", "-LSB-", "36", "-RSB-", "L.", "Xie", ",", "S.-F", ".", "Chang", ",", "A.", "Divakaran", ",", "and", "H.", "Sun", ".", "Learning", "hierarhical", "hidden", "markov", "models", "for", "unsupervised", "structure", "discovery", "from", "video", ".", "Technical", "report", ",", "Columbia", "University", ",", "2002", ".", "-LSB-", "37", "-RSB-", "X.", "Zhu", ",", "L.", "Wu", ",", "X.", "Xue", ",", "X.", "Lu", ",", "and", "J.", "Fan", ".", "Automatic", "scene", "detection", "in", "news", "program", "by", "integrating", "visual", "feature", "and", "rules", ".", "In", "IEEE", "Pacific-Rim", "Conference", "on", "Multimedia", ",", "pages", "837", "842", ",", "Beijing", ",", "China", ",", "2001", ".", "20"], "doc_bio_tags": ["B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["coxian", "domain knowledge", "extended hierarchical hidden markov model", "unified and coherent probabilistic framework", "probabilistic framework", "hierarchical hidden markov model", "model educational video content", "their semantically shared substructures", "topic transition detection", "educational videos", "typical durations of important semantics"], "abstractive_keyphrases": ["coxian switching hidden semi-markov model", "hierarchical markov (semi-markov) models", "shot-based semantic classification", "natural hierarchical organization of videos", "a variety in directional styles", "semantic relationship of neighborhood scenes", "modeling temporal correlation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "169", "document": ["Robustness", "Analysis", "of", "Cognitive", "Information", "Complexity", "Measure", "using", "Weyuker", "Properties", "Cognitive", "information", "complexity", "measure", "is", "based", "on", "cognitive", "informatics", ",", "which", "helps", "in", "comprehending", "the", "software", "characteristics", ".", "For", "any", "complexity", "measure", "to", "be", "robust", ",", "Weyuker", "properties", "must", "be", "satisfied", "to", "qualify", "as", "good", "and", "comprehensive", "one", ".", "In", "this", "paper", ",", "an", "attempt", "has", "also", "been", "made", "to", "evaluate", "cognitive", "information", "complexity", "measure", "in", "terms", "of", "nine", "Weyuker", "properties", ",", "through", "examples", ".", "It", "has", "been", "found", "that", "all", "the", "nine", "properties", "have", "been", "satisfied", "by", "cognitive", "information", "complexity", "measure", "and", "hence", "establishes", "cognitive", "information", "complexity", "measure", "based", "on", "information", "contained", "in", "the", "software", "as", "a", "robust", "and", "well-structured", "one", ".", "Keywords", ":", "Weighted", "information", "count", ",", "cognitive", "information", "complexity", "unit", ",", "cognitive", "weight", ",", "cognitive", "information", "complexity", "measure", ",", "basic", "control", "structures", ".", "Many", "well", "known", "software", "complexity", "measures", "have", "been", "proposed", "such", "as", "McCabe", "'s", "cyclomatic", "number", "-LSB-", "8", "-RSB-", ",", "Halstead", "programming", "effort", "-LSB-", "5", "-RSB-", ",", "Oviedo", "'s", "data", "flow", "complexity", "measures", "-LSB-", "9", "-RSB-", ",", "Basili", "'s", "measure", "-LSB-", "3", "-RSB-", "-LSB-", "4", "-RSB-", ",", "Wang", "'s", "cognitive", "complexity", "measure", "-LSB-", "11", "-RSB-", "and", "others", "-LSB-", "7", "-RSB-", ".", "All", "the", "reported", "complexity", "measures", "are", "supposed", "to", "cover", "the", "correctness", ",", "effectiveness", "and", "clarity", "of", "software", "and", "also", "to", "provide", "good", "estimate", "of", "these", "parameters", ".", "Out", "of", "the", "numerous", "proposed", "measures", ",", "selecting", "a", "particular", "complexity", "measure", "is", "again", "a", "problem", ",", "as", "every", "measure", "has", "its", "own", "advantages", "and", "disadvantages", ".", "There", "is", "an", "ongoing", "effort", "to", "find", "such", "a", "comprehensive", "complexity", "measure", ",", "which", "addresses", "most", "of", "the", "parameters", "of", "software", ".", "Weyuker", "-LSB-", "14", "-RSB-", "has", "suggested", "nine", "properties", ",", "which", "are", "used", "to", "determine", "the", "effectiveness", "of", "various", "software", "complexity", "measures", ".", "A", "good", "complexity", "measure", "should", "satisfy", "most", "of", "the", "Weyuker", "'s", "properties", ".", "A", "new", "complexity", "measure", "based", "on", "weighted", "information", "count", "of", "a", "software", "and", "cognitive", "weights", "has", "been", "developed", "by", "Kushwaha", "and", "Misra", "-LSB-", "2", "-RSB-", ".", "In", "this", "paper", "an", "effort", "has", "been", "made", "to", "estimate", "this", "cognitive", "information", "complexity", "measure", "as", "robust", "and", "comprehensive", "one", "by", "evaluating", "this", "against", "the", "nine", "Weyuker", "'s", "properties", ".", "Basic", "control", "structures", "-LSB-", "BCS", "-RSB-", "such", "as", "sequence", ",", "branch", "and", "iteration", "-LSB-", "10", "-RSB-", "-LSB-", "13", "-RSB-", "are", "the", "basic", "logic", "building", "blocks", "of", "any", "software", "and", "the", "cognitive", "weights", "-LRB-", "W", "c", "-RRB-", "of", "a", "software", "-LSB-", "11", "-RSB-", "is", "the", "extent", "of", "difficulty", "or", "relative", "time", "and", "effort", "for", "comprehending", "a", "given", "software", "modeled", "by", "a", "number", "of", "BCS", "'s", ".", "These", "cognitive", "weights", "for", "BCS", "'s", "measure", "the", "complexity", "of", "logical", "structures", "of", "the", "software", ".", "Either", "all", "the", "BCS", "'s", "are", "in", "a", "linear", "layout", "or", "some", "BCS", "'s", "are", "embedded", "in", "others", ".", "For", "the", "former", "case", ",", "we", "sum", "the", "weights", "of", "all", "the", "BCS", "'s", "and", "for", "the", "latter", ",", "cognitive", "weights", "of", "inner", "BCS", "'s", "are", "multiplied", "with", "the", "weight", "of", "external", "BCS", "'s", ".", "Since", "software", "represents", "computational", "information", "and", "is", "a", "mathematical", "entity", ",", "the", "amount", "of", "information", "contained", "in", "the", "software", "is", "a", "function", "of", "the", "identifiers", "that", "hold", "the", "information", "and", "the", "operators", "that", "perform", "the", "operations", "on", "the", "information", "i.e.", "Information", "=", "f", "-LRB-", "Identifiers", ",", "Operators", "-RRB-", "Identifiers", "are", "variable", "names", ",", "defined", "constants", "and", "other", "labels", "in", "a", "software", ".", "Therefore", "information", "contained", "in", "one", "line", "of", "code", "is", "the", "number", "of", "all", "operators", "and", "operands", "in", "that", "line", "of", "code", ".", "Thus", "in", "k", "th", "line", "of", "code", "the", "Information", "contained", "is", ":", "I", "k", "=", "-LRB-", "Identifiers", "+", "Operands", "-RRB-", "k", "=", "-LRB-", "ID", "k", "+", "OP", "k", "-RRB-", "IU", "Where", "ID", "=", "Total", "number", "of", "identifiers", "in", "the", "k", "th", "LOC", "of", "software", ",", "OP", "=", "Total", "number", "of", "operators", "in", "the", "k", "th", "LOC", "of", "software", ",", "IU", "is", "the", "Information", "Unit", "representing", "that", "at", "least", "any", "identifier", "or", "operator", "has", "one", "unit", "information", "in", "them", ".", "Total", "Information", "contained", "in", "a", "software", "-LRB-", "ICS", "-RRB-", "is", "sum", "of", "information", "contained", "in", "each", "line", "of", "code", "i.e.", "LOCS", "ICS", "=", "-LRB-", "I", "k", "-RRB-", "k", "=", "1", "Where", "I", "k", "=", "Information", "contained", "in", "k", "th", "line", "of", "code", ",", "LOCS", "=", "Total", "lines", "of", "code", "in", "the", "software", ".", "Thus", ",", "it", "is", "the", "information", "contained", "in", "the", "identifiers", "and", "the", "necessary", "operations", "carried", "out", "by", "the", "operators", "in", "achieving", "the", "desired", "goal", "of", "the", "software", ",", "which", "makes", "software", "difficult", "to", "understand", ".", "Once", "we", "have", "established", "that", "software", "can", "be", "comprehended", "as", "information", "defined", "in", "information", "units", "-LRB-", "IU", "'s", "-RRB-", "-LSB-", "2", "-RSB-", ",", "the", "weighted", "information", "count", "is", "defined", "as", ":", "The", "Weighted", "Information", "Count", "of", "a", "line", "of", "code", "-LRB-", "WICL", "-RRB-", "of", "a", "software", "is", "a", "function", "of", "identifiers", ",", "operands", "and", "LOC", "and", "is", "defined", "as", ":", "ACM", "SIGSOFT", "Software", "Engineering", "Notes", "Page", "1", "January", "2006", "Volume", "31", "Number", "1", "ACM", "SIGSOFT", "Software", "Engineering", "Notes", "Page", "1", "January", "2006", "Volume", "31", "Number", "1", "WICL", "k", "=", "ICS", "k", "/", "-LSB-", "LOCS", "k", "-RSB-", "Where", "WIC", "k", "=", "Weighted", "Information", "Count", "for", "the", "k", "th", "line", ",", "ICS", "k", "=", "Information", "contained", "in", "a", "software", "for", "the", "k", "th", "line", ".", "The", "Weighted", "Information", "Count", "of", "the", "Software", "-LRB-", "WICS", "-RRB-", "is", "defined", "as", ":", "LOCS", "WICS", "=", "WICL", "k", "k", "=", "1", "In", "order", "to", "be", "a", "complete", "and", "robust", "measure", ",", "the", "measure", "of", "complexity", "should", "also", "consider", "the", "internal", "control", "structure", "of", "the", "software", ".", "These", "basic", "control", "structures", "have", "also", "been", "considered", "as", "the", "Newton", "'s", "law", "in", "software", "engineering", "-LSB-", "10", ",", "11", "-RSB-", ".", "These", "are", "a", "set", "of", "fundamental", "and", "essential", "flow", "control", "mechanisms", "that", "are", "used", "for", "building", "the", "logical", "architectures", "of", "software", ".", "Using", "the", "above", "definitions", ",", "Cognitive", "Information", "Complexity", "Measure", "-LRB-", "CICM", "-RRB-", "is", "defined", "as", "the", "product", "of", "weighted", "information", "count", "of", "software", "-LRB-", "WICS", "-RRB-", "and", "the", "cognitive", "weight", "-LRB-", "W", "c", "-RRB-", "of", "the", "BCS", "in", "the", "software", "i.e.", "CICM", "=", "WICS", "*", "W", "c", "This", "complexity", "measure", "encompasses", "all", "the", "major", "parameters", "that", "have", "a", "bearing", "on", "the", "difficulty", "in", "comprehending", "software", "or", "the", "cognitive", "complexity", "of", "the", "software", ".", "It", "clearly", "establishes", "a", "relationship", "between", "difficulty", "in", "understanding", "software", "and", "its", "cognitive", "complexity", ".", "It", "introduces", "a", "method", "to", "measure", "the", "amount", "of", "information", "contained", "in", "the", "software", "thus", "enabling", "us", "to", "calculate", "the", "coding", "efficiency", "-LRB-", "E", "I", "-RRB-", "as", "ICS", "/", "LOCS", "-LSB-", "2", "-RSB-", ".", "Weyuker", "-LSB-", "14", "-RSB-", "proposed", "the", "nine", "properties", "to", "evaluate", "any", "software", "complexity", "measure", ".", "These", "properties", "also", "evaluate", "the", "weakness", "of", "a", "measure", "in", "a", "concrete", "way", ".", "With", "the", "help", "of", "these", "properties", "one", "can", "determine", "the", "most", "suitable", "measure", "among", "the", "different", "available", "complexity", "measures", ".", "In", "the", "following", "paragraphs", ",", "the", "cognitive", "information", "complexity", "measure", "has", "been", "evaluated", "against", "the", "nine", "Weyuker", "properties", "for", "establishing", "itself", "as", "a", "comprehensive", "measure", ".", "Property", "1", ":", "-LRB-", "P", "-RRB-", "-LRB-", "Q", "-RRB-", "-LRB-", "|", "P", "|", "|", "Q", "|", "-RRB-", "Where", "P", "and", "Q", "are", "program", "body", ".", "This", "property", "states", "that", "a", "measure", "should", "not", "rank", "all", "programs", "as", "equally", "complex", ".", "Now", "consider", "the", "following", "two", "examples", "given", "in", "Fig.", "1", "and", "Fig.", "2", ".", "For", "the", "program", "given", "in", "Fig.", "1", "in", "Appendix", "I", ",", "there", "are", "two", "control", "structures", ":", "a", "sequential", "and", "a", "iteration", ".", "Thus", "cognitive", "weight", "of", "these", "two", "BCS", "'s", "is", "1", "+", "3", "=", "4", ".", "Weighted", "information", "count", "for", "the", "above", "program", "is", "as", "under", ":", "WICS", "=", "3/6", "+", "1/4", "+", "6/3", "+", "4/2", "=", "4.75", "Hence", "Cognitive", "information", "complexity", "measure", "-LRB-", "CICM", "-RRB-", "is", ":", "CICM", "=", "WICS", "*", "W", "c", "=", "4.75", "*", "4", "=", "19.0", "For", "the", "program", "given", "in", "Fig.", "2", "in", "Appendix", "I", "there", "is", "only", "one", "sequential", "structure", "and", "hence", "the", "cognitive", "weight", "W", "c", "is", "1", ".", "WICS", "for", "the", "above", "program", "is", "2.27", ".", "Hence", "CICM", "for", "the", "above", "program", "is", "2.27", "*", "1", "=", "2.27", ".", "From", "the", "complexity", "measure", "of", "the", "above", "two", "programs", ",", "it", "can", "be", "seen", "that", "the", "CICM", "is", "different", "for", "the", "two", "programs", "and", "hence", "satisfies", "this", "property", ".", "Property", "2", ":", "Let", "c", "be", "a", "non-negative", "number", ".", "Then", "there", "are", "only", "finitely", "many", "programs", "of", "complexity", "c.", "Calculation", "of", "WICS", "depends", "on", "the", "number", "of", "identifiers", "and", "operators", "in", "a", "given", "program", "statement", "as", "well", "as", "on", "the", "number", "of", "statements", "remaining", "that", "very", "statement", "in", "a", "given", "program", ".", "Also", "all", "the", "programming", "languages", "consist", "of", "only", "finite", "number", "of", "BCS", "'s", ".", "Therefore", "CICM", "can", "not", "rank", "complexity", "of", "all", "programs", "as", "c.", "Hence", "CICM", "holds", "for", "this", "property", ".", "Property", "3", ":", "There", "are", "distinct", "programs", "P", "and", "Q", "such", "that", "|", "P", "|", "=", "|", "Q", "|", ".", "For", "the", "program", "given", "in", "Fig.", "3", "in", "Appendix", "I", ",", "the", "CICM", "for", "the", "program", "is", "19", ",", "which", "is", "same", "as", "that", "of", "program", "in", "Fig.", "1", ".", "Therefore", "this", "property", "holds", "for", "CICM", ".", "Property", "4", ":", "-LRB-", "P", "-RRB-", "-LRB-", "Q", "-RRB-", "-LRB-", "PQ", "&", "|", "P", "|", "|", "Q", "|", "-RRB-", "Referring", "to", "program", "illustrated", "in", "Fig.", "1", ",", "we", "have", "replaced", "the", "while", "loop", "by", "the", "formula", "``", "sum", "=", "-LRB-", "b", "+1", "-RRB-", "*", "b/2", "''", "and", "have", "illustrated", "the", "same", "in", "Fig.", "2", ".", "Both", "the", "programs", "are", "used", "to", "calculate", "the", "sum", "of", "first", "n", "integer", ".", "The", "CICM", "for", "both", "the", "programs", "is", "different", ",", "thus", "establishing", "this", "property", "for", "CICM", ".", "Property", "5", ":", "-LRB-", "P", "-RRB-", "-LRB-", "Q", "-RRB-", "-LRB-", "|", "P", "|", "|", "P", ";", "Q", "|", "and", "|", "Q", "|", "|", "P", ";", "Q", "|", "-RRB-", ".", "Consider", "the", "program", "body", "given", "in", "Fig.", "4", "in", "Appendix", "I", ":", "The", "program", "body", "for", "finding", "out", "the", "factorial", "of", "a", "number", "consists", "of", "one", "sequential", "and", "one", "branch", "BCS", "'s", ".", "Therefore", "W", "c", "=", "3", ".", "For", "the", "program", "body", "for", "finding", "out", "the", "prime", "number", ",", "there", "are", "one", "sequential", ",", "one", "iteration", "and", "two", "branch", "BCS", "'s", ".", "Therefore", "W", "c", "=", "1", "+", "2", "*", "3", "*", "2", "=", "13", ".", "For", "the", "main", "program", "body", "for", "finding", "out", "the", "prime", "and", "factorial", "of", "the", "number", ",", "there", "are", "one", "sequential", ",", "two", "call", "and", "one", "branch", "BCS", "'s", ".", "Therefore", "W", "c", "=", "1", "+5", "+15", "+2", "=", "23", ".", "WICS", "for", "the", "program", "is", "5.1", ".", "Therefore", "the", "Cognitive", "Information", "Complexity", "Measure", "for", "the", "above", "program", "=", "5.1", "*", "23", "=", "117.3", ".", "Now", "consider", "the", "program", "given", "in", "Fig.", "5", "in", "Appendix", "I", "to", "check", "for", "prime", ".", "There", "is", "one", "sequential", ",", "one", "iteration", "and", "three", "branch", "BCS", "'s", ".", "Therefore", "W", "c", "=", "1", "+", "2", "*", "3", "*", "2", "+", "2", "=", "15", ".", "WICS", "=", "1.85", ".", "So", "CICM", "=", "1.85", "*", "15", "=", "27.79", ".", "For", "the", "program", "given", "in", "Fig.", "6", "in", "Appendix", "I", ",", "there", "is", "one", "sequential", ",", "one", "iteration", "and", "one", "branch", "BCS", "'s", ".", "Wc", "for", "this", "program", "is", "7", "and", "WICS", "is", ".5.11", ".", "Hence", "CICM", "=", "WICS", "*", "W", "c", "=", "5.11", "*", "7", "=", "35.77", ".", "It", "is", "clear", "from", "the", "above", "example", "that", "if", "we", "take", "the", "two-program", "body", ",", "one", "for", "calculating", "the", "factorial", "and", "another", "for", "checking", "for", "ACM", "SIGSOFT", "Software", "Engineering", "Notes", "Page", "2", "January", "2006", "Volume", "31", "Number", "1", "prime", "whose", "CICM", "are", "27.79", "and", "35.77", "that", "are", "less", "than", "117.3", ".", "So", "property", "5", "also", "holds", "for", "CICM", ".", "Property", "6", "-LRB-", "a", "-RRB-", ":", "-LRB-", "P", "-RRB-", "-LRB-", "Q", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "|", "P", "|", "=", "|", "Q", "|", "-RRB-", "&", "-LRB-", "|", "P", ";", "R", "|", "|", "Q", ";", "R", "|", "-RRB-", "Let", "P", "be", "the", "program", "illustrated", "in", "Fig.", "1", "and", "Q", "is", "the", "program", "illustrated", "in", "Fig.", "3", ".", "The", "CICM", "of", "both", "the", "programs", "is", "19", ".", "Let", "R", "be", "the", "program", "illustrated", "in", "Fig.", "6", ".", "Appending", "R", "to", "P", "we", "have", "the", "program", "illustrated", "in", "Fig.", "7", "in", "Appendix", "I.", "Cognitive", "weight", "for", "the", "above", "program", "is", "9", "and", "WICS", "is", "8.3", ".", "Therefore", "CICM", "=", "8.3", "*", "9", "=", "74.7", ".", "Similarly", "appending", "R", "to", "Q", "we", "have", "W", "c", "=", "9", "and", "WICS", "=", "8.925", ".", "Therefore", "CICM", "=", "8.925", "*", "9", "=", "80.325", "and", "74.7", "80.325", ".", "This", "proves", "that", "Property", "6", "-LRB-", "a", "-RRB-", "holds", "for", "CICM", ".", "Property", "6", "-LRB-", "b", "-RRB-", ":", "-LRB-", "P", "-RRB-", "-LRB-", "Q", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "|", "P", "|", "=", "|", "Q", "|", "-RRB-", "&", "-LRB-", "|", "R", ";P", "|", "|", "R", ":", "Q", "|", "-RRB-", "To", "illustrate", "the", "above", "property", "let", "us", "arbitrarily", "append", "three", "program", "statements", "in", "the", "programs", "given", "in", "Fig.", "1", ",", "we", "have", "the", "program", "given", "in", "Fig.", "8", "in", "Appendix", "I", ".", "There", "is", "only", "one", "sequential", "and", "one", "iteration", "BCS", ".", "Hence", "cognitive", "weight", "is", "1", "+", "3", "=", "4", ".", "There", "is", "only", "one", "sequential", "and", "one", "iteration", "BCS", ".", "Hence", "cognitive", "weight", "is", "1", "+", "3", "=", "4", "and", "WICS", "=", "5.58", ".", "So", "CICM", "=", "5.58", "*", "4", "=", "22.32", ".", "Similarly", "appending", "the", "same", "three", "statements", "to", "program", "in", "Fig.", "3", "we", "again", "have", "cognitive", "weights", "=", "4", "and", "WICS", "=", "5.29", ".", "Therefore", "CICM", "=", "21.16", "22.32", ".", "Hence", "this", "property", "also", "holds", "for", "CICM", ".", "Property", "7", ":", "There", "are", "program", "bodies", "P", "and", "Q", "such", "that", "Q", "is", "formed", "by", "permuting", "the", "order", "of", "the", "statement", "of", "P", "and", "-LRB-", "|", "P", "|", "|", "Q", "|", "-RRB-", ".", "Since", "WICS", "is", "dependent", "on", "the", "number", "of", "operators", "and", "operands", "in", "a", "given", "program", "statement", "and", "the", "number", "of", "statements", "remaining", "after", "this", "very", "program", "statement", ",", "hence", "permuting", "the", "order", "of", "statement", "in", "any", "program", "will", "change", "the", "value", "of", "WICS", ".", "Also", "cognitive", "weights", "of", "BCS", "'s", "depend", "on", "the", "sequence", "of", "the", "statement", "-LSB-", "1", "-RSB-", ".", "Hence", "CICM", "will", "be", "different", "for", "the", "two", "programs", ".", "Thus", "CICM", "holds", "for", "this", "property", "also", ".", "Property", "8", ":", "If", "P", "is", "renaming", "of", "Q", ",", "then", "|", "P", "|", "=", "|", "Q", "|", ".", "CICM", "is", "measured", "in", "numeric", "and", "naming", "or", "renaming", "of", "any", "program", "has", "no", "impact", "on", "CICM", ".", "Hence", "CICM", "holds", "for", "this", "property", "also", ".", "Property", "9", ":", "-LRB-", "P", "-RRB-", "-LRB-", "Q", "-RRB-", "-LRB-", "|", "P", "|", "+", "|", "Q", "|", "-RRB-", "<", "-LRB-", "|", "P", ";", "Q", "|", "-RRB-", "OR", "-LRB-", "P", "-RRB-", "-LRB-", "Q", "-RRB-", "-LRB-", "R", "-RRB-", "-LRB-", "|", "P", "|", "+", "|", "Q", "|", "+", "|", "R", "|", "-RRB-", "<", "-LRB-", "|", "P", ";", "Q", ";", "R", "|", "-RRB-", "For", "the", "program", "illustrated", "in", "Fig.", "4", ",", "if", "we", "separate", "the", "main", "program", "body", "P", "by", "segregating", "Q", "-LRB-", "prime", "check", "-RRB-", "and", "R", "-LRB-", "factorial", "-RRB-", ",", "we", "have", "the", "program", "illustrated", "in", "Fig.", "9", "as", "shown", "in", "Appendix", "I", ".", "The", "above", "program", "has", "one", "sequential", "and", "one", "branch", "BCS", ".", "Thus", "cognitive", "weight", "is", "4", "and", "WICS", "is", "1.475", ".", "Therefore", "CICM", "=", "4.425", ".", "Hence", "4.425", "+", "27.79", "+", "35.77", "<", "117.3", ".", "This", "proves", "that", "CICM", "also", "holds", "for", "this", "property", ".", "In", "this", "section", "cognitive", "information", "complexity", "measure", "has", "been", "compared", "with", "other", "complexity", "measures", "in", "terms", "of", "all", "nine", "Weyuker", "'s", "properties", ".", "P.N.", "-", "Property", "Number", ",", "S.C.", "-", "Statement", "Count", ",", "C", "N.", "-", "Cyclomatic", "Number", ",", "E.M.", "-", "Effort", "Measure", ",", "D.C.-Dataflow", "Complexity", ",", "C.C.M.", "-", "Cognitive", "Complexity", "Measure", ",", "CICM", "Cognitive", "Information", "Complexity", "Measure", ",", "Y", "-", "Yes", ",", "N", "NO", "P", "N", "SC", "CN", "EM", "DC", "CCM", "CICM", ".", "1", "Y", "Y", "Y", "Y", "Y", "Y", "2", "Y", "N", "Y", "N", "Y", "Y", "3", "Y", "Y", "Y", "Y", "Y", "Y", "4", "Y", "Y", "Y", "Y", "Y", "Y", "5", "Y", "Y", "N", "N", "Y", "Y", "6", "N", "N", "Y", "Y", "N", "Y", "7", "N", "N", "N", "Y", "Y", "Y", "8", "Y", "Y", "Y", "Y", "Y", "Y", "9", "N", "N", "Y", "Y", "Y", "Y", "Table", "1", ":", "Comparison", "of", "complexity", "measures", "with", "Weyuker", "properties", ".", "It", "may", "be", "observed", "from", "the", "table", "1", "that", "complexity", "of", "a", "program", "using", "effort", "measure", ",", "data", "flow", "measure", "and", "Cognitive", "Information", "Complexity", "Measure", "depend", "directly", "on", "the", "placement", "of", "statement", "and", "therefore", "all", "these", "measures", "hold", "for", "property", "6", "also", ".", "All", "the", "complexity", "measure", "intend", "to", "rank", "all", "the", "programs", "differently", "Software", "complexity", "measures", "serves", "both", "as", "an", "analyzer", "and", "a", "predicator", "in", "quantitative", "software", "engineering", ".", "Software", "quality", "is", "defined", "as", "the", "completeness", ",", "correctness", ",", "consistency", ",", "no", "misinterpretation", ",", "and", "no", "ambiguity", ",", "feasible", "verifiable", "in", "both", "specification", "and", "implementation", ".", "For", "a", "good", "complexity", "measure", "it", "is", "very", "necessary", "that", "the", "particular", "complexity", "measure", "not", "only", "satisfies", "the", "above-mentioned", "property", "of", "software", "quality", "but", "also", "satisfies", "the", "nine", "Weyuker", "properties", ".", "The", "software", "complexity", "in", "terms", "of", "cognitive", "information", "complexity", "measure", "thus", "has", "been", "established", "as", "a", "well", "-", "structured", "complexity", "measure", ".", "-LSB-", "1", "-RSB-", "Misra", ",", "S", "and", "Misra", ",", "A.K.", "-LRB-", "2005", "-RRB-", ":", "Evaluating", "Cognitive", "Complexity", "measure", "with", "Weyuker", "Properties", ",", "Proceeding", "of", "the3", "rd", "IEEE", "International", "Conference", "on", "Cognitive", "Informatics", "-LRB-", "ICCI", "'", "04", "-RRB-", ".", "ACM", "SIGSOFT", "Software", "Engineering", "Notes", "Page", "3", "January", "2006", "Volume", "31", "Number", "1", "-LSB-", "2", "-RSB-", "Kushwaha", ",", "D.S", "and", "Misra", ",", "A.K.", "-LRB-", "2005", "-RRB-", ":", "A", "Modified", "Cognitive", "Information", "Complexity", "Measure", "of", "Software", ",", "Proceeding", "of", "the", "7", "th", "International", "Conference", "on", "Cognitive", "Systems", "-LRB-", "ICCS", "'", "05", "-RRB-", "-LRB-", "accepted", "for", "presentation", "-RRB-", "-LSB-", "3", "-RSB-", "Basili", ",", "V.R.", "and", "Phillips", "-LRB-", "1983", "-RRB-", ":", "T.Y", ",", "Metric", "analysis", "and", "data", "validation", "across", "fortran", "projection", ".", "IEEE", "Trans.software", "Eng.", ",", "SE", "9", "-LRB-", "6", "-RRB-", ":", "652-663,1983", ".", "-LSB-", "4", "-RSB-", "Basili", ",", "V.R.", "-LRB-", "1980", "-RRB-", ":", "Qualitative", "software", "complexity", "model", ":", "A", "summary", "in", "tutorial", "on", "models", "and", "method", "for", "software", "management", "and", "engineering", ".", "IEEE", "Computer", "Society", "Press", ",", "Los", "Alamitos", ",", "CA", ",1980", ".", "-LSB-", "5", "-RSB-", "Halstead", ",", "M.", "-LRB-", "1977", "-RRB-", ":", "Elements", "of", "software", "science", ",", "Elsevier", "North", "Holland", ",", "New", "York", ".1997", ".", "-LSB-", "6", "-RSB-", "Klemola", ",", "T.", "and", "Rilling", ",", "J.", "-LRB-", "2003", "-RRB-", ":", "A", "Cognitive", "Complexity", "Metric", "Based", "on", "Category", "Learning", ",", ",", "Proceeding", "of", "the", "2", "nd", "IEEE", "International", "Conference", "on", "Cognitive", "Informatics", "-LRB-", "ICCI", "'", "03", "-RRB-", ".", "-LSB-", "7", "-RSB-", "Kearney", ",", "J.K.", ",", "Sedlmeyer", ",", "R.", "L.", ",", "Thompson", ",", "W.B.", ",", "Gray", ",", "M.", "A.", "and", "Adler", ",", "M.", "A.", "-LRB-", "1986", "-RRB-", ":", "Software", "complexity", "measurement", ".", "ACM", "Press", ",", "Newyork", ",", "28:1044-1050,1986", "-LSB-", "8", "-RSB-", "McCabe", ",", "T.A.", "-LRB-", "1976", "-RRB-", ":", "Complexity", "measure", ".", "IEEE", "trans.software", "engg.", ",", "-LRB-", "se-2,6", "-RRB-", ":", "308-320,1976", ".", "-LSB-", "9", "-RSB-", "Oviedo", ",", "E.", "-LRB-", "1980", "-RRB-", ":", "Control", "flow", ",", "data", "and", "program", "complexity", ".", "in", "Proc", ".", "IEEE", "COMPSAC", ",", "Chicago", ",", "lL", ",", "pages", "146-152", ",", "November", "1980", ".", "-LSB-", "10", "-RSB-", "Wang", ".", "and", "Shao", ",", "J.", "-LRB-", "2002", "-RRB-", ":", "On", "cognitive", "informatics", ",", "keynote", "lecture", ",", "proceeding", "of", "the", ".1", "st", "IEEE", "International", "Conference", "on", "Cognitive", "Informatics", ",", "pages", "34-42", ",", "August", "2002", ".", "-LSB-", "11", "-RSB-", "Wang", ",", "Y", ".", "and", "Shao", ",", "J.", "-LRB-", "2004", "-RRB-", ":", "Measurement", "of", "the", "Cognitive", "Functional", "Complexity", "of", "Software", ",", "Proceeding", "of", "the", "3", "rd", "IEEE", "International", "Conference", "on", "Cognitive", "Informatics", "-LRB-", "ICCI", "'", "04", "-RRB-", "-LSB-", "12", "-RSB-", "Wang", ",", "Y", ".", "and", "Shao", ",", "J.", "-LRB-", "2003", "-RRB-", ":", "On", "cognitive", "informatics", ",", "Proceeding", "of", "the", "2", "nd", "IEEE", "International", "Conference", "on", "Cognitive", "Informatics", "-LRB-", "ICCI", "'", "03", "-RRB-", ",", "London", ",", "England", ",", "IEEE", "CS", "Press", ",", "pages", "67-71", ",", "August", "2003", ".", "-LSB-", "13", "-RSB-", "Wang", ",", "Y.", "-LRB-", "2002", "-RRB-", ":", "The", "real", "time", "process", "algebra", "-LRB-", "rtpa", "-RRB-", ".", "Annals", "of", "Software", "Engineering", ",", "an", "international", "journal", ",", "and", "14:235-247", ",2002", ".", "-LSB-", "14", "-RSB-", "Weyuker", ",", "E.", "-LRB-", "1988", "-RRB-", ":", "Evaluating", "software", "complexity", "measure", ".", "IEEE", "Transaction", "on", "Software", "Complexity", "Measure", ",", "14", "-LRB-", "9", "-RRB-", ":", "1357-1365", ",", "september1988", ".", "ACM", "SIGSOFT", "Software", "Engineering", "Notes", "Page", "4", "January", "2006", "Volume", "31", "Number", "1", "Appendix", "I", "/", "*", "Calculate", "the", "sum", "of", "first", "n", "integer", "*", "/", "main", "-LRB-", "-RRB-", "-LCB-", "int", "i", ",", "n", ",", "sum", "=", "0", ";", "printf", "-LRB-", "``", "enter", "the", "number", "''", "-RRB-", ";", "/", "/", "BCS1", "scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "for", "-LRB-", "i", "=", "1", ";", "i", "<", "=", "n", ";", "i", "+", "+", "-RRB-", "/", "/", "BCS2", "sum", "=", "sum", "+", "i", ";", "printf", "-LRB-", "``", "the", "sum", "is", "%", "d", "''", ",", "sumssss", "-RRB-", ";", "getch", "-LRB-", "-RRB-", ";", "-RCB-", "Fig.", "1", ":", "Source", "code", "of", "the", "sum", "of", "first", "n", "integers", ".", "main", "-LRB-", "-RRB-", "-LCB-", "int", "b", ";", "int", "sum", "=", "0", ";", "Printf", "-LRB-", "``", "Enter", "the", "Number", "''", "-RRB-", ";", "Scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "Sum", "=", "-LRB-", "b", "+1", "-RRB-", "*", "b/2", ";", "Printf", "-LRB-", "``", "The", "sum", "is", "%", "d", "''", ",", "sum", "-RRB-", ";", "getch", "-LRB-", "-RRB-", ";", "-RCB-", "Fig.", "2", ":", "Source", "code", "to", "calculate", "sum", "of", "first", "n", "integers", ".", "#", "define", "N", "10", "main", "-LRB-", "-RRB-", "-LCB-", "int", "count", "float", ",", "sum", ",", "average", ",", "number", ";", "sum", "=", "count", "=", "0", ";", "while", "-LRB-", "count", "<", "N", "-RRB-", "-LCB-", "scanf", "-LRB-", "''", "%", "f", "''", ",", "&", "number", "-RRB-", ";", "sum", "=", "sum", "+", "number", ";", "count", "=", "count", "+1", ";", "-RCB-", "average", "=", "sum", "/", "N", ";", "printf", "-LRB-", "``", "Average", "=", "%", "f", "''", ",", "average", "-RRB-", ";", "-RCB-", "Fig.", "3", ":", "Source", "code", "to", "calculate", "the", "average", "of", "a", "set", "of", "N", "numbers", ".", "#include", "<", "stdio.h", ">", "#include", "<", "stdlib.h", ">", "int", "main", "-LRB-", "-RRB-", "-LCB-", "long", "fact", "-LRB-", "int", "n", "-RRB-", ";", "int", "isprime", "-LRB-", "int", "n", "-RRB-", ";", "int", "n", ";", "long", "int", "temp", ";", "clrscr", "-LRB-", "-RRB-", ";", "printf", "-LRB-", "''", "\\", "n", "input", "the", "number", "''", "-RRB-", ";", "/", "/", "BCS11", "scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "temp", "=", "fact", "-LRB-", "n", "-RRB-", ";", "/", "/", "BCS12", "-LCB-", "printf", "-LRB-", "''", "\\", "n", "is", "prime", "''", "-RRB-", ";", "-RCB-", "int", "flag1", "=", "isprime", "-LRB-", "n", "-RRB-", ";", "/", "/", "BCS13", "if", "-LRB-", "flag1", "=", "=", "1", "-RRB-", "/", "/", "BCS14", "else", "-LCB-", "printf", "-LRB-", "''", "\\", "n", "is", "not", "prime", "''", "-RRB-", "-RCB-", ";", "printf", "-LRB-", "''", "\\", "n", "factorial", "-LRB-", "n", "-RRB-", "=", "%", "d", "''", ",", "temp", "-RRB-", ";", "getch", "-LRB-", "-RRB-", ";", "long", "fact", "-LRB-", "int", "n", "-RRB-", "-LCB-", "long", "int", "facto", "=", "1", ";", "/", "/", "BCS21", "if", "-LRB-", "n", "=", "=", "0", "-RRB-", "/", "/", "BCS22", "facto", "=", "1", ";", "else", "facto", "=", "n", "*", "fact", "-LRB-", "n-1", "-RRB-", ";", "return", "-LRB-", "facto", "-RRB-", ";", "-RCB-", "int", "isprime", "-LRB-", "int", "n", "-RRB-", "-LCB-", "int", "flag", ";", "/", "/", "BCS31", "if", "-LRB-", "n", "=", "=", "2", "-RRB-", "flag", "=", "1", ";", "/", "/", "BCS32", "else", "for", "-LRB-", "int", "i", "=", "2", ";", "i", "<", "n", ";", "i", "+", "+", "-RRB-", "/", "/", "BCS33", "-LCB-", "if", "-LRB-", "n", "%", "i", "=", "=", "0", "-RRB-", "/", "/", "BCS34", "-LCB-", "flag", "=", "0", ";", "Therefore", "Wc", "=", "3", "break", ";", "-RCB-", "else", "-LCB-", "flag", "=", "1", ";", "-RCB-", "-RCB-", "return", "-LRB-", "flag", "-RRB-", ";", "-RCB-", "-RCB-", "Fig", ".", "4", ":", "Source", "code", "to", "check", "prime", "number", "and", "to", "calculate", "factorial", "of", "the", "number", "#include", "<", "stdio.h", ">", "#include", "<", "stdlib.h", ">", "#include", "<", "conio.h", ">", "int", "main", "-LRB-", "-RRB-", "-LCB-", "/", "/", "BCS1", "int", "flag", "=", "1", ",", "n", ";", "clrscr", "-LRB-", "-RRB-", ";", "printf", "-LRB-", "''", "\\", "n", "enter", "the", "number", "''", "-RRB-", ";", "scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "if", "-LRB-", "n", "=", "=", "2", "-RRB-", "flag", "=", "1", ";", "/", "/", "BCS21", "else", "-LCB-", "for", "-LRB-", "int", "i", "=", "2", ";", "i", "<", "n", ";", "i", "+", "+", "-RRB-", "/", "/", "BCS22", "if", "-LRB-", "n", "%", "i", "=", "=", "0", "-RRB-", "/", "/", "BCS23", "-LCB-", "flag", "=", "0", ";", "break", ";", "-RCB-", "else", "-LCB-", "flag", "=", "1", ";", "continue", ";", "-RCB-", "-RCB-", "if", "-LRB-", "flag", "-RRB-", "/", "/", "BCS3", "printf", "-LRB-", "``", "the", "number", "is", "prime", "''", "-RRB-", ";", "else", "printf", "-LRB-", "``", "the", "number", "is", "not", "prime", "''", "-RRB-", ";", "grtch", "-LRB-", "-RRB-", ";", "-RCB-", "Fig.", "5", ":", "Source", "code", "for", "checking", "prime", "number", "#include", "<", "stdio.h", ">", "#include", "<", "stdlib.h", ">", "#include", "<", "conio.h", ">", "int", "main", "-LRB-", "-RRB-", "-LCB-", "long", "int", "fact", "=", "1", ";", "int", "n", ";", "clrscr", "-LRB-", "-RRB-", ";", "ACM", "SIGSOFT", "Software", "Engineering", "Notes", "Page", "5", "January", "2006", "Volume", "31", "Number", "1", "printf", "-LRB-", "''", "\\", "input", "the", "number", "''", "-RRB-", ";", "/", "/", "BCS1", "scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "if", "-LRB-", "n", "==", "0", "-RRB-", "/", "/", "BCS21", "else", "for", "-LRB-", "int", "i", "=", "n", ";", "i", ">", "1", ";", "i", "--", "-RRB-", "/", "/", "BCS22", "fact", "=", "fact", "*", "i", ";", "printf", "-LRB-", "''", "\\", "n", "factorial", "-LRB-", "n", "-RRB-", "=", "%", "1d", "''", ",", "fact", "-RRB-", ";", "getch", "-LRB-", "-RRB-", ";", "-RCB-", "Fig.", "6", ":", "Source", "code", "for", "calculating", "factorial", "of", "a", "number", "Int", "main", "-LRB-", "-RRB-", "-LCB-", "long", "fact", "-LRB-", "int", "n", "-RRB-", ";", "int", "i", ",", "n", ",", "sum", "=", "0", ";", "printf", "-LRB-", "``", "enter", "the", "number", "''", "-RRB-", ";", "scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "temp", "=", "fact", "-LRB-", "n", "-RRB-", ";", "for", "-LRB-", "i", "=", "1", ";", "i", "<", "=", "n", ";", "i", "+", "+", "-RRB-", "sum", "=", "sum", "+", "i", ";", "printf", "-LRB-", "``", "the", "sum", "is", "%", "d", "''", ",", "sum", "-RRB-", ";", "getch", "-LRB-", "-RRB-", ";", "long", "fact", "-LRB-", "int", "n", "-RRB-", "-LCB-", "long", "int", "facto", "=", "1", ";", "if", "-LRB-", "n", "==", "0", "-RRB-", "facto", "=", "1", "else", "facto", "=", "n", "*", "fact", "-LRB-", "n-1", "-RRB-", ";", "return", "-LRB-", "facto", "-RRB-", ";", "-RCB-", "-RCB-", "Fig.", "7", ":", "Source", "code", "of", "sum", "of", "first", "n", "integer", "and", "factorial", "of", "n.", "main", "-LRB-", "-RRB-", "-LCB-", "int", "a", ",", "b", ",", "result", ";", "result", "=", "a/b", ";", "printf", "-LRB-", "the", "result", "is", "%", "d", "''", ",", "result", "-RRB-", ";", "int", "i", ",", "n", ",", "sum", "=", "0", ";", "printf", "-LRB-", "``", "enter", "the", "number", "''", "-RRB-", ";", "scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "for", "-LRB-", "i", "=", "1", ";", "i", "<", "=", "n", ";", "i", "+", "+", "-RRB-", "sum", "=", "sum", "+", "i", ";", "printf", "-LRB-", "``", "the", "sum", "is", "%", "d", "''", ",", "sum", "-RRB-", ";", "getch", "-LRB-", "-RRB-", ";", "-RCB-", "Fig.", "8", ":", "Source", "code", "of", "division", "and", "the", "sum", "of", "first", "n", "integers", ".", "int", "main", "-LRB-", "-RRB-", "-LCB-", "int", "n", ";", "long", "int", "temp", ";", "clrscr", "-LRB-", "-RRB-", ";", "printf", "-LRB-", "''", "\\", "n", "input", "the", "number", "''", "-RRB-", ";", "scanf", "-LRB-", "''", "%", "d", "''", ",", "&", "n", "-RRB-", ";", "temp", "=", "fact", "-LRB-", "n", "-RRB-", ";", "-LCB-", "printf", "-LRB-", "''", "\\", "is", "prime", "''", "-RRB-", ";", "-RCB-", "int", "flag1", "=", "isprime", "-LRB-", "n", "-RRB-", ";", "if", "-LRB-", "flag1", "==", "1", "-RRB-", "else", "-LCB-", "printf", "-LRB-", "''", "\\", "n", "is", "not", "prime", "-RRB-", "-RCB-", ";", "printf", "-LRB-", "''", "\\", "n", "factorial", "-LRB-", "n", "-RRB-", "=", "%", "d", "''", ",", "temp", "-RRB-", ";", "getch", "-LRB-", "-RRB-", ";", "-RCB-", "Fig.", "9", ":", "Source", "code", "of", "main", "program", "body", "of", "program", "in", "Fig.", "4", "ACM", "SIGSOFT", "Software", "Engineering", "Notes", "Page", "6", "January", "2006", "Volume", "31", "Number", "1"], "doc_bio_tags": ["O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "I", "O", "B", "I", "O", "B", "I", "I", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["weighted information count", "cognitive information complexity measure", "cognitive weight", "cognitive information complexity unit", "basic control structures"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "163", "document": ["Ranking", "Flows", "from", "Sampled", "Traffic", "Most", "of", "the", "theoretical", "work", "on", "sampling", "has", "addressed", "the", "inversion", "of", "general", "traffic", "properties", "such", "as", "flow", "size", "distribution", ",", "average", "flow", "size", ",", "or", "total", "number", "of", "flows", ".", "In", "this", "paper", ",", "we", "make", "a", "step", "towards", "understanding", "the", "impact", "of", "packet", "sampling", "on", "individual", "flow", "properties", ".", "We", "study", "how", "to", "detect", "and", "rank", "the", "largest", "flows", "on", "a", "link", ".", "To", "this", "end", ",", "we", "develop", "an", "analytical", "model", "that", "we", "validate", "on", "real", "traces", "from", "two", "networks", ".", "First", "we", "study", "a", "blind", "ranking", "method", "where", "only", "the", "number", "of", "sampled", "packets", "from", "each", "flow", "is", "known", ".", "Then", ",", "we", "propose", "a", "new", "method", ",", "protocol-aware", "ranking", ",", "where", "we", "make", "use", "of", "the", "packet", "sequence", "number", "-LRB-", "when", "available", "in", "transport", "header", "-RRB-", "to", "infer", "the", "number", "of", "non-sampled", "packets", "from", "a", "flow", ",", "and", "hence", "to", "improve", "the", "ranking", ".", "Surprisingly", ",", "our", "analytical", "and", "experimental", "results", "indicate", "that", "a", "high", "sampling", "rate", "-LRB-", "10", "%", "and", "even", "more", "depending", "on", "the", "number", "of", "top", "flows", "to", "be", "ranked", "-RRB-", "is", "required", "for", "a", "correct", "blind", "ranking", "of", "the", "largest", "flows", ".", "The", "sampling", "rate", "can", "be", "reduced", "by", "an", "order", "of", "magnitude", "if", "one", "just", "aims", "at", "detecting", "these", "flows", "or", "by", "using", "the", "protocol-aware", "method", ".", "C.", "4", "-LSB-", "Computer", "Systems", "Organization", "-RSB-", ":", "PERFORMANCE", "OF", "SYSTEMS", "--", "Measurement", "techniques", "Measurement", ",", "Performance", ",", "Experimentation", "This", "work", "was", "done", "while", "the", "author", "was", "visiting", "Intel", "Research", "Cambridge", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CoNEXT", "'", "05", ",", "October", "24", "27", ",", "2005", ",", "Toulouse", ",", "France", ".", "Copyright", "2005", "ACM", "1-59593-197-X", "/", "05/0010", "...", "$", "5.00", ".", "The", "list", "of", "the", "top", "users", "or", "applications", "is", "one", "of", "the", "most", "useful", "statistics", "to", "be", "extracted", "from", "network", "traffic", ".", "Network", "operators", "use", "the", "knowledge", "of", "the", "most", "popular", "destinations", "to", "identify", "emerging", "markets", "and", "applications", "or", "to", "locate", "where", "to", "setup", "new", "Points", "of", "Presence", ".", "Content", "delivery", "networks", "use", "the", "popularity", "of", "sites", "to", "define", "caching", "and", "replication", "strategies", ".", "In", "traffic", "engineering", ",", "the", "identification", "of", "heavy", "hitters", "in", "the", "network", "can", "be", "used", "to", "treat", "and", "route", "them", "differently", "across", "the", "network", "-LSB-", "20", ",", "17", ",", "10", "-RSB-", ".", "Keeping", "track", "of", "the", "network", "prefixes", "that", "generate", "most", "traffic", "is", "also", "of", "great", "importance", "for", "anomaly", "detection", ".", "A", "variation", "in", "the", "pattern", "of", "the", "most", "common", "applications", "may", "be", "used", "as", "a", "warning", "sign", "and", "trigger", "careful", "inspection", "of", "the", "packet", "streams", ".", "However", ",", "the", "ability", "to", "identify", "the", "top", "users", "in", "a", "packet", "stream", "is", "limited", "by", "the", "network", "monitoring", "technology", ".", "Capturing", "and", "processing", "all", "packets", "on", "high", "speed", "links", "still", "remains", "a", "challenge", "for", "today", "'s", "network", "equipment", "-LSB-", "16", ",", "9", "-RSB-", ".", "In", "this", "context", ",", "a", "common", "solution", "is", "to", "sample", "the", "packet", "stream", "to", "reduce", "the", "load", "on", "the", "monitoring", "system", "and", "to", "simplify", "the", "task", "of", "sorting", "the", "list", "of", "items", ".", "The", "underlying", "assumption", "in", "this", "approach", "is", "that", "the", "sampling", "process", "does", "not", "alter", "the", "properties", "of", "the", "data", "distribution", ".", "Sampled", "traffic", "data", "is", "then", "used", "to", "infer", "properties", "of", "the", "original", "data", "-LRB-", "this", "operation", "is", "called", "inversion", "-RRB-", ".", "The", "inversion", "of", "sampled", "traffic", "is", ",", "however", ",", "an", "error-prone", "procedure", "that", "often", "requires", "a", "deep", "study", "of", "the", "data", "distribution", "to", "evaluate", "how", "the", "sampling", "rate", "impacts", "the", "accuracy", "of", "the", "metric", "of", "interest", ".", "Although", "the", "inversion", "may", "be", "simple", "for", "aggregate", "link", "statistics", "-LRB-", "e.g.", ",", "to", "estimate", "the", "number", "of", "packets", "transmitted", "on", "a", "link", ",", "it", "is", "usually", "sufficient", "to", "multiply", "the", "number", "of", "sampled", "packets", "by", "the", "inverse", "of", "the", "sampling", "rate", "-RRB-", ",", "it", "is", "much", "harder", "for", "the", "properties", "of", "individual", "connections", "or", "``", "flows", "''", "-LSB-", "9", ",", "11", ",", "8", "-RSB-", ".", "For", "these", "reasons", ",", "in", "this", "paper", ",", "we", "address", "this", "simple", ",", "and", "so", "far", "unanswered", ",", "question", ":", "which", "sampling", "rate", "is", "needed", "to", "correctly", "detect", "and", "rank", "the", "flows", "that", "carry", "the", "most", "packets", "?", "We", "define", "the", "problem", "as", "follows", ".", "Consider", "a", "traffic", "monitor", "that", "samples", "packets", "independently", "of", "each", "other", "with", "probability", "p", "-LRB-", "random", "sampling", "-RRB-", "and", "classifies", "them", "into", "sampled", "flows", ".", "At", "the", "end", "of", "the", "measurement", "period", ",", "the", "monitor", "processes", "the", "list", "of", "sampled", "flows", ",", "ranks", "them", "based", "on", "their", "size", "in", "packets", ",", "and", "returns", "an", "ordered", "list", "of", "the", "t", "largest", "flows", ".", "We", "are", "interested", "in", "knowing", "-LRB-", "i", "-RRB-", "whether", "the", "ordered", "list", "contains", "all", "the", "actual", "largest", "flows", "in", "the", "original", "packet", "188", "stream", "-LRB-", "detection", "-RRB-", ",", "and", "-LRB-", "ii", "-RRB-", "if", "the", "items", "in", "the", "list", "appear", "in", "the", "correct", "order", "-LRB-", "ranking", "-RRB-", ".", "We", "build", "an", "analytical", "model", "and", "define", "a", "performance", "metric", "that", "evaluates", "the", "accuracy", "of", "identification", "and", "ranking", "of", "the", "largest", "flows", ".", "We", "consider", "a", "flow", "to", "consist", "of", "a", "single", "TCP", "connection", ".", "However", ",", "our", "results", "are", "general", "and", "can", "be", "applied", "to", "alternative", "definitions", "of", "flow", ",", "as", "well", ".", "We", "evaluate", "two", "approaches", "to", "sort", "the", "list", "of", "flows", ":", "-LRB-", "i", "-RRB-", "Blind", ",", "where", "the", "sampled", "flows", "are", "ranked", "just", "based", "on", "their", "sampled", "size", ".", "This", "method", "can", "be", "applied", "to", "any", "definition", "of", "flow", ".", "-LRB-", "ii", "-RRB-", "Protocol-aware", ",", "where", "we", "make", "use", "of", "additional", "information", "in", "the", "packet", "header", "-LRB-", "e.g.", ",", "the", "sequence", "number", "in", "TCP", "packets", "-RRB-", "to", "infer", "the", "number", "of", "non-sampled", "packets", "between", "sampled", "ones", ".", "This", "method", "can", "only", "be", "applied", "to", "flow", "definitions", "that", "preserve", "the", "protocol", "level", "details", ".", "The", "contributions", "of", "this", "work", "are", "the", "following", ":", "-LRB-", "1", "-RRB-", "We", "perform", "an", "analytical", "study", "of", "the", "problem", "of", "ranking", "two", "sampled", "flows", "and", "compute", "the", "probability", "that", "they", "are", "misranked", ".", "We", "propose", "a", "Gaussian", "approximation", "to", "make", "the", "problem", "numerically", "tractable", ".", "-LRB-", "2", "-RRB-", "We", "introduce", "the", "protocol-aware", "ranking", "method", "that", "uses", "protocol", "level", "information", "to", "complement", "the", "flow", "statistics", "and", "render", "the", "detection", "and", "ranking", "of", "the", "largest", "flows", "more", "accurate", ".", "-LRB-", "3", "-RRB-", "Based", "on", "the", "model", "for", "the", "ranking", "of", "two", "flows", ",", "we", "propose", "a", "general", "model", "to", "study", "the", "detection", "and", "ranking", "problem", ",", "given", "a", "generic", "flow", "size", "distribution", ".", "We", "define", "a", "performance", "metric", "and", "evaluate", "the", "impact", "of", "several", "metric", "'s", "parameter", "on", "the", "accuracy", "of", "the", "ranking", ".", "-LRB-", "4", "-RRB-", "We", "validate", "our", "findings", "on", "measurement", "data", "using", "publicly-available", "packet-level", "traces", ".", "Our", "results", "indicate", "that", "a", "surprisingly", "high", "sampling", "rate", "is", "required", "to", "obtain", "a", "good", "accuracy", "with", "the", "blind", "approach", "-LRB-", "10", "%", "and", "even", "more", "depending", "on", "the", "number", "of", "flows", "of", "interest", "-RRB-", ".", "As", "for", "the", "protocol-aware", "approach", ",", "it", "allows", "to", "reduce", "the", "required", "sampling", "rate", "by", "an", "order", "of", "magnitude", "compared", "to", "the", "blind", "approach", ".", "The", "paper", "is", "structured", "as", "follows", ".", "Next", ",", "we", "discuss", "the", "related", "literature", ".", "In", "Section", "3", "and", "4", ",", "we", "present", "our", "model", ".", "Section", "5", "analyzes", "the", "model", "numerically", "and", "Section", "6", "validates", "it", "on", "real", "packet-level", "traces", ".", "Section", "7", "concludes", "the", "paper", "and", "provides", "perspectives", "for", "our", "future", "research", ".", "The", "inversion", "of", "sampled", "traffic", "has", "been", "extensively", "studied", "in", "the", "literature", ".", "The", "main", "focus", "has", "been", "on", "the", "inversion", "of", "aggregate", "flow", "properties", "such", "as", "flow", "size", "distribution", "-LSB-", "9", ",", "11", "-RSB-", ",", "average", "flow", "size", "or", "total", "number", "of", "flows", "-LSB-", "8", "-RSB-", "on", "a", "given", "network", "link", ".", "Duffield", "et", "al.", "-LSB-", "8", "-RSB-", "study", "the", "problem", "of", "flow", "splitting", "and", "propose", "estimators", "for", "the", "total", "number", "of", "flows", "and", "for", "the", "average", "flow", "size", "in", "the", "original", "traffic", "stream", ".", "-LSB-", "9", ",", "11", "-RSB-", "study", "the", "inversion", "of", "the", "flow", "size", "distribution", "with", "two", "different", "methods", ".", "They", "both", "show", "that", "the", "major", "difficulty", "comes", "from", "the", "number", "of", "flows", "that", "are", "not", "sampled", "at", "all", "and", "that", "need", "to", "be", "estimated", "with", "an", "auxiliary", "method", ".", "As", "an", "auxiliary", "method", ",", "-LSB-", "8", ",", "9", "-RSB-", "propose", "the", "use", "of", "the", "SYN", "flag", "in", "the", "TCP", "header", "to", "mark", "the", "beginning", "of", "a", "flow", ".", "-LSB-", "9", "-RSB-", "shows", "that", "periodic", "and", "random", "sampling", "provide", "roughly", "the", "same", "result", "on", "high", "speed", "links", ",", "and", "so", "random", "sampling", "can", "be", "used", "for", "mathematical", "analysis", "due", "to", "its", "appealing", "features", ".", "-LSB-", "4", "-RSB-", "finds", "the", "sampling", "rate", "that", "assures", "a", "bounded", "error", "on", "the", "estimation", "of", "the", "size", "of", "flows", "contributing", "to", "more", "than", "some", "predefined", "percentage", "of", "the", "traffic", "volume", ".", "-LSB-", "14", "-RSB-", "studies", "whether", "the", "number", "of", "sampled", "packets", "is", "a", "good", "estimator", "for", "the", "detection", "of", "large", "flows", "without", "considering", "its", "impact", "on", "the", "flow", "ranking", ".", "Given", "the", "potential", "applications", "of", "finding", "the", "list", "of", "top", "users", ",", "it", "does", "not", "come", "as", "a", "surprise", "that", "there", "has", "been", "a", "significant", "effort", "in", "the", "research", "community", "to", "find", "ways", "to", "track", "frequent", "items", "in", "a", "data", "stream", "-LSB-", "5", ",", "7", ",", "3", ",", "10", "-RSB-", ".", "However", ",", "this", "problem", "has", "usually", "been", "addressed", "from", "a", "memory", "requirement", "standpoint", ".", "All", "the", "works", "in", "the", "literature", "assume", "that", "if", "the", "algorithm", "and", "the", "memory", "size", "is", "well", "chosen", ",", "the", "largest", "flows", "can", "be", "detected", "and", "ranked", "with", "a", "high", "precision", ".", "However", ",", "in", "the", "presence", "of", "packet", "sampling", ",", "even", "if", "the", "methods", "rank", "correctly", "the", "set", "of", "sampled", "flows", ",", "there", "is", "no", "guarantee", "that", "the", "sampled", "rank", "corresponds", "to", "the", "original", "rank", ".", "The", "problem", "we", "address", "in", "this", "paper", "complements", "these", "works", "as", "it", "focuses", "on", "the", "impact", "of", "sampling", "on", "the", "flow", "ranking", ".", "In", "this", "section", ",", "we", "study", "the", "probability", "to", "misrank", "two", "flows", "of", "original", "sizes", "S", "1", "and", "S", "2", "in", "packets", ".", "This", "probability", "is", "the", "basis", "for", "the", "general", "model", "for", "detecting", "and", "ranking", "the", "largest", "flows", "that", "we", "will", "present", "later", ".", "Indeed", ",", "the", "detection", "and", "ranking", "of", "the", "largest", "flows", "can", "be", "transformed", "into", "a", "problem", "of", "ranking", "over", "a", "set", "of", "flow", "pairs", ".", "Without", "loss", "of", "generality", ",", "we", "assume", "S", "1", "<", "S", "2", ".", "We", "consider", "a", "random", "sampling", "of", "rate", "p.", "Let", "s", "1", "and", "s", "2", "denote", "the", "sizes", "in", "packets", "of", "both", "flows", "after", "sampling", ".", "The", "two", "sampled", "flows", "are", "misranked", "if", "-LRB-", "i", "-RRB-", "s", "1", "is", "larger", "than", "s", "2", ",", "or", "-LRB-", "ii", "-RRB-", "both", "flows", "are", "not", "sampled", ",", "i.e.", ",", "their", "sampled", "sizes", "equal", "to", "zero", ".", "By", "combining", "-LRB-", "i", "-RRB-", "and", "-LRB-", "ii", "-RRB-", ",", "one", "can", "see", "that", "the", "necessary", "condition", "for", "a", "good", "ranking", "is", "to", "sample", "at", "least", "one", "packet", "from", "the", "larger", "flow", "-LRB-", "i.e.", ",", "the", "smaller", "of", "the", "two", "flows", "can", "disappear", "after", "sampling", "-RRB-", ".", "The", "probability", "to", "misrank", "the", "two", "flows", "can", "then", "be", "written", "as", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "=", "P", "-LCB-", "s", "1", "s", "2", "-RCB-", ".", "For", "the", "case", "S", "1", "=", "S", "2", ",", "we", "consider", "the", "two", "flows", "as", "misranked", "if", "s", "1", "=", "s", "2", ",", "or", "if", "both", "flows", "are", "not", "sampled", "at", "all", ",", "i.e.", "s", "1", "=", "s", "2", "=", "0", ".", "We", "compute", "and", "study", "the", "misranking", "probability", "of", "two", "flows", "of", "given", "sizes", "in", "the", "rest", "of", "this", "section", ".", "First", ",", "we", "consider", "the", "blind", "ranking", "method", "where", "only", "the", "number", "of", "sampled", "packets", "from", "a", "flow", "is", "known", ".", "For", "this", "method", ",", "we", "express", "the", "misranking", "probability", "as", "a", "double", "sum", "of", "binomials", ",", "then", "we", "present", "a", "Gaussian", "approximation", "to", "make", "the", "problem", "tractable", "numerically", ".", "Second", ",", "we", "consider", "the", "protocol-aware", "ranking", "method", "for", "which", "we", "calculate", "a", "numerical-tractable", "closed-form", "expression", "of", "the", "misraking", "probability", ".", "Note", "that", "the", "misranking", "probability", "is", "a", "symmetric", "function", ",", "i.e.", ",", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "=", "P", "m", "-LRB-", "S", "2", ",", "S", "1", "-RRB-", ".", "3.1", "Blind", "ranking", "With", "this", "method", ",", "s", "1", "and", "s", "2", "represent", "the", "number", "of", "sampled", "packets", "from", "flows", "S", "1", "and", "S", "2", ".", "Under", "our", "assumptions", ",", "these", "two", "variables", "are", "distributed", "according", "to", "a", "binomial", "distribution", "of", "probability", "p.", "Hence", ",", "we", "can", "write", "for", "S", "1", "<", "S", "2", ",", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "=", "P", "-LCB-", "s", "1", "s", "2", "-RCB-", "=", "S", "1", "i", "=", "0", "b", "p", "-LRB-", "i", ",", "S", "1", "-RRB-", "i", "j", "=", "0", "b", "p", "-LRB-", "j", ",", "S", "2", "-RRB-", ".", "-LRB-", "1", "-RRB-", "b", "p", "-LRB-", "i", ",", "S", "-RRB-", "is", "the", "probability", "density", "function", "of", "a", "binomial", "distribution", "of", "probability", "p", ",", "i.e.", ",", "the", "probability", "of", "obtaining", "i", "successes", "out", "of", "S", "trials", ".", "We", "have", "b", "p", "-LRB-", "i", ",", "S", "-RRB-", "=", "S", "i", "p", "i", "-LRB-", "1", "-", "p", "-RRB-", "S-i", "for", "i", "=", "0", ",", "1", ",", "...", ",", "S", ",", "and", "b", "p", "-LRB-", "i", ",", "S", "-RRB-", "=", "0", "for", "i", "<", "0", "and", "i", ">", "S", ".", "The", "189", "probability", "to", "misrank", "two", "flows", "of", "equal", "sizes", "is", "given", "by", "P", "-LCB-", "s", "1", "=", "s", "2", "or", "s", "1", "=", "s", "2", "=", "0", "-RCB-", "=", "1", "-", "P", "-LCB-", "s", "1", "=", "s", "2", "=", "0", "-RCB-", "=", "1", "S", "1", "i", "=", "1", "b", "2", "p", "-LRB-", "i", ",", "S", "1", "-RRB-", ".", "Unfortunately", ",", "the", "above", "expression", "for", "the", "misranking", "probability", "is", "numerically", "untractable", "since", "it", "involves", "two", "sums", "of", "binomials", ".", "For", "large", "flows", "of", "order", "S", "packets", ",", "the", "number", "of", "operations", "required", "to", "compute", "such", "a", "probability", "is", "on", "the", "order", "of", "O", "-LRB-", "S", "3", "-RRB-", ",", "assuming", "that", "the", "complexity", "of", "the", "binomial", "computation", "is", "on", "the", "order", "of", "O", "-LRB-", "S", "-RRB-", ".", "The", "problem", "becomes", "much", "more", "complex", "if", "one", "has", "to", "sum", "over", "all", "possible", "flow", "sizes", "-LRB-", "i.e.", ",", "O", "-LRB-", "S", "5", "-RRB-", "-RRB-", ".", "For", "this", "reason", ",", "we", "propose", "next", "a", "Gaussian", "approximation", "to", "the", "problem", "of", "blind", "ranking", "that", "is", "accurate", "and", "easy", "to", "compute", ".", "We", "use", "this", "approximation", "to", "study", "the", "ranking", "performance", "as", "a", "function", "of", "the", "sampling", "rate", "and", "the", "flow", "sizes", ".", "3.1.1", "Gaussian", "approximation", "to", "blind", "ranking", "Consider", "a", "flow", "made", "of", "S", "packets", "and", "sampled", "at", "rate", "p", ".", "The", "sampled", "size", "follows", "a", "binomial", "distribution", ".", "However", ",", "it", "is", "well", "known", "that", "the", "binomial", "distribution", "can", "be", "approximated", "by", "a", "Normal", "-LRB-", "or", "Gaussian", "-RRB-", "distribution", "when", "p", "is", "small", "and", "when", "the", "product", "pS", "is", "on", "the", "order", "of", "one", "-LRB-", "flows", "for", "which", ",", "on", "average", ",", "at", "least", "few", "packets", "are", "sampled", "-RRB-", "-LSB-", "21", ",", "pages", "108", "109", "-RSB-", ".", "We", "assume", "that", "this", "is", "the", "case", "for", "the", "largest", "flows", ",", "and", "we", "consider", "the", "sampled", "size", "of", "a", "flow", "as", "distributed", "according", "to", "a", "Normal", "distribution", "of", "average", "pS", "and", "of", "variance", "p", "-LRB-", "1", "-", "p", "-RRB-", "S.", "Using", "this", "approximation", ",", "one", "can", "express", "the", "misranking", "probability", "for", "the", "blind", "ranking", "problem", "in", "the", "following", "simple", "form", ".", "Proposition", "1", ".", "For", "any", "two", "flows", "of", "sizes", "S", "1", "and", "S", "2", "packets", "-LRB-", "S", "1", "=", "S", "2", "-RRB-", ",", "the", "Gaussian", "approximation", "gives", ",", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "1", "2", "erf", "c", "|", "S", "2", "-", "S", "1", "|", "2", "-LRB-", "1/p", "-", "1", "-RRB-", "-LRB-", "S", "1", "+", "S", "2", "-RRB-", ",", "-LRB-", "2", "-RRB-", "where", "erfc", "-LRB-", "x", "-RRB-", "=", "-LRB-", "2", "-RRB-", "x", "e", "-", "u", "2", "du", "is", "the", "complementary", "error", "cumulative", "function", ".", "Proof", ":", "Consider", "two", "flows", "of", "sizes", "S", "1", "and", "S", "2", "in", "packets", "such", "that", "S", "1", "<", "S", "2", ".", "Their", "sampled", "versions", "s", "1", "and", "s", "2", "both", "follow", "Normal", "distributions", "of", "averages", "pS", "1", "and", "pS", "2", ",", "and", "of", "variances", "p", "-LRB-", "1", "-", "p", "-RRB-", "S", "1", "and", "p", "-LRB-", "1", "-", "p", "-RRB-", "S", "2", ".", "We", "know", "that", "the", "sum", "of", "two", "Normal", "variables", "is", "a", "Normal", "variable", ".", "So", "the", "difference", "s", "1", "-", "s", "2", "follows", "a", "Normal", "distribution", "of", "average", "p", "-LRB-", "S", "1", "-", "S", "2", "-RRB-", "and", "of", "variance", "p", "-LRB-", "1", "-", "p", "-RRB-", "-LRB-", "S", "1", "+", "S", "2", "-RRB-", ".", "We", "have", "then", "this", "approximation", "for", "the", "misranking", "probability", ":", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "=", "P", "-LCB-", "s", "1", "-", "s", "2", "0", "-RCB-", "P", "V", ">", "p", "-LRB-", "S", "2", "-", "S", "1", "-RRB-", "p", "-LRB-", "1", "-", "p", "-RRB-", "-LRB-", "S", "1", "+", "S", "2", "-RRB-", "=", "1", "2", "erfc", "S", "2", "-", "S", "1", "2", "-LRB-", "1/p", "-", "1", "-RRB-", "-LRB-", "S", "1", "+", "S", "2", "-RRB-", ".", "-LRB-", "3", "-RRB-", "V", "is", "a", "standard", "Normal", "random", "variable", ".", "Given", "the", "symmetry", "of", "the", "misranking", "probability", ",", "one", "can", "take", "the", "absolute", "value", "of", "S", "2", "-", "S", "1", "in", "-LRB-", "3", "-RRB-", "and", "get", "the", "expression", "stated", "in", "the", "proposition", ",", "which", "is", "valid", "for", "all", "S", "1", "and", "S", "2", ".", "For", "S", "1", "=", "S", "2", ",", "one", "can", "safely", "approximate", "the", "misranking", "probability", "to", "be", "equal", "to", "1", ".", "This", "approximation", "is", "however", "of", "little", "importance", "given", "the", "very", "low", "probability", "of", "having", "two", "flows", "of", "equal", "sizes", ",", "especially", "when", "they", "are", "large", ".", "3.2", "Protocol-aware", "ranking", "Packets", "can", "carry", "in", "their", "transport", "header", "an", "increasing", "sequence", "number", ".", "A", "typical", "example", "is", "the", "byte", "sequence", "number", "in", "the", "TCP", "header", ".", "Another", "example", "could", "be", "the", "sequence", "number", "in", "the", "header", "of", "the", "Real", "Time", "Protocol", "-LRB-", "RTP", "-RRB-", "-LSB-", "19", "-RSB-", ".", "One", "can", "use", "this", "sequence", "number", ",", "when", "available", ",", "to", "infer", "the", "number", "of", "non-sampled", "packets", "-LRB-", "or", "bytes", "in", "the", "case", "of", "TCP", "-RRB-", "between", "sampled", "ones", ",", "and", "hence", "to", "improve", "the", "accuracy", "of", "ranking", ".", "The", "size", "of", "the", "sampled", "flow", "in", "this", "case", "is", "no", "longer", "the", "number", "of", "packets", "collected", ",", "but", "rather", "the", "number", "of", "packets", "that", "exist", "between", "the", "first", "and", "last", "sampled", "packets", "from", "the", "flow", ".", "Although", "this", "solution", "is", "limited", "to", "flows", "whose", "packet", "carry", "a", "sequence", "number", ",", "we", "believe", "that", "the", "study", "of", "this", "ranking", "method", "is", "important", "given", "the", "widespread", "use", "of", "the", "TCP", "protocol", ".", "Our", "objective", "is", "to", "understand", "how", "the", "use", "of", "protocol-level", "information", "can", "supplement", "the", "simple", ",", "and", "more", "general", ",", "blind", "method", "and", "if", "it", "is", "worth", "the", "additional", "overhead", "it", "introduces", "-LRB-", "i.e.", ",", "storing", "two", "sequence", "numbers", "per", "flow", "record", "-RRB-", ".", "In", "the", "following", ",", "we", "calculate", "the", "misranking", "probability", "of", "two", "flows", "of", "given", "sizes", "when", "using", "the", "protocol-aware", "method", ".", "This", "probability", "will", "be", "used", "later", "in", "the", "general", "ranking", "problem", ".", "The", "main", "contribution", "of", "this", "section", "is", "a", "closed-form", "expression", "for", "the", "misranking", "probability", "that", "is", "numerically", "tractable", ",", "without", "the", "need", "for", "any", "approximation", ".", "Let", "S", "be", "the", "size", "of", "a", "flow", "in", "packets", ".", "Let", "s", "b", ",", "s", "b", "=", "1", ",", "2", ",", "...", ",", "S", ",", "denote", "the", "-LRB-", "packet", "-RRB-", "sequence", "number", "carried", "by", "the", "first", "sampled", "packet", ",", "and", "let", "s", "e", ",", "s", "e", "=", "S", ",", "S", "-", "1", ",", "...", ",", "s", "b", ",", "denote", "the", "sequence", "number", "carried", "by", "the", "last", "sampled", "packet", ".", "Given", "s", "b", "and", "s", "e", ",", "one", "can", "estimate", "the", "size", "of", "the", "sampled", "flow", "in", "packets", "to", "s", "=", "s", "e", "-", "s", "b", "+", "1", ".", "The", "error", "in", "this", "estimation", "comes", "from", "the", "non-sampled", "packets", "that", "are", "transmitted", "before", "s", "b", "and", "after", "s", "e", ".", "We", "give", "next", "the", "distribution", "of", "s", ",", "which", "is", "needed", "for", "the", "computation", "of", "the", "misranking", "probability", ",", "then", "we", "state", "our", "main", "result", ".", "Before", "presenting", "the", "analysis", ",", "note", "that", "this", "new", "flow", "size", "estimator", "only", "counts", "the", "packets", "that", "are", "transmitted", "with", "distinct", "sequence", "numbers", ".", "In", "the", "case", "of", "TCP", ",", "this", "corresponds", "to", "the", "number", "of", "bytes", "received", "at", "the", "application", "layer", ",", "rather", "then", "the", "number", "of", "bytes", "carried", "over", "the", "network", ".", "It", "is", "equivalent", "to", "assuming", "that", "the", "probability", "of", "sampling", "a", "retransmitted", "-LRB-", "or", "duplicated", "-RRB-", "packet", "is", "negligible", ".", "This", "is", "a", "reasonable", "assumption", "if", "the", "loss", "rate", "is", "low", ".", "We", "will", "address", "this", "aspect", "in", "more", "detail", "in", "Section", "6", ".", "Consider", "a", "flow", "of", "size", "S", "2", "in", "packets", ".", "Using", "the", "above", "definition", "for", "s", ",", "the", "sampled", "flow", "has", "a", "size", "of", "i", "packets", ",", "i", "2", ",", "with", "probability", ":", "P", "-LCB-", "s", "=", "i", "-RCB-", "=", "S-i", "+1", "k", "=", "1", "P", "-LCB-", "s", "b", "=", "k", "-RCB-", "P", "-LCB-", "s", "e", "=", "k", "+", "i", "-", "1", "-RCB-", ".", "We", "have", "P", "-LCB-", "s", "b", "=", "k", "-RCB-", "=", "-LRB-", "1", "-", "p", "-RRB-", "k-1", "p", ",", "and", "P", "-LCB-", "s", "e", "=", "k", "+", "i", "-", "1", "-RCB-", "=", "-LRB-", "1", "-", "p", "-RRB-", "S-k-i", "+1", "p", ".", "This", "gives", "P", "-LCB-", "s", "=", "i", "-RCB-", "=", "S-i", "+1", "k", "=", "1", "-LRB-", "1", "-", "p", "-RRB-", "k-1", "p", "-LRB-", "1", "-", "p", "-RRB-", "S-k-i", "+1", "p", "=", "p", "2", "-LRB-", "1", "-", "p", "-RRB-", "S-i", "-LRB-", "S", "-", "i", "+", "1", "-RRB-", ".", "-LRB-", "4", "-RRB-", "As", "for", "i", "=", "0", ",", "we", "have", "P", "-LCB-", "s", "=", "0", "-RCB-", "=", "-LRB-", "1", "-", "p", "-RRB-", "S", "for", "S", "1", ".", "And", "for", "i", "=", "1", ",", "we", "have", "P", "-LCB-", "s", "=", "1", "-RCB-", "=", "p", "-LRB-", "1", "-", "p", "-RRB-", "S-1", "S", "for", "S", "1", ".", "It", "is", "easy", "to", "prove", "that", "the", "cumulative", "distribution", "of", "s", "is", "the", "190", "following", "for", "all", "values", "of", "S", ":", "P", "-LCB-", "s", "i", "=", "0", "-RCB-", "=", "p", "-LRB-", "1", "-", "p", "-RRB-", "S-i", "-LRB-", "S", "-", "i", "+", "1", "-RRB-", "+", "-LRB-", "1", "-", "p", "-RRB-", "S-i", "+1", ".", "-LRB-", "5", "-RRB-", "We", "come", "now", "to", "the", "misranking", "probability", ",", "which", "we", "recall", "is", "a", "symmetric", "function", ".", "For", "S", "1", "<", "S", "2", ",", "we", "have", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "=", "P", "-LCB-", "s", "2", "s", "1", "-RCB-", "=", "S", "1", "i", "=", "0", "P", "-LCB-", "s", "1", "=", "i", "-RCB-", "i", "j", "=", "0", "P", "-LCB-", "s", "2", "=", "j", "-RCB-", ".", "-LRB-", "6", "-RRB-", "And", "for", "S", "1", "=", "S", "2", ",", "we", "have", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "=", "1", "S", "1", "i", "=", "1", "P", "-LCB-", "s", "1", "=", "i", "-RCB-", "2", ".", "-LRB-", "7", "-RRB-", "Our", "main", "result", "is", "the", "following", ".", "Proposition", "2", ".", "For", "S", "1", "<", "S", "2", ",", "the", "misranking", "probability", "is", "equal", "to", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "=", "-LRB-", "1", "-", "p", "-RRB-", "S", "1", "-LRB-", "1", "-", "p", "-RRB-", "S", "2", "+", "p", "-LRB-", "1", "-", "p", "-RRB-", "S", "1", "-1", "S", "1", "-LSB-", "p", "-LRB-", "1", "-", "p", "-RRB-", "S", "2", "-1", "S", "2", "+", "-LRB-", "1", "-", "p", "-RRB-", "S", "2", "-RSB-", "+", "p", "3", "2", "F", "-LRB-", "1", "-", "p", ",", "1", "-", "p", "-RRB-", "xy", "+", "p", "2", "F", "-LRB-", "1", "-", "p", ",", "1", "-", "p", "-RRB-", "x", ",", "where", "F", "-LRB-", "x", ",", "y", "-RRB-", "=", "xy", "S", "2", "-", "S", "1", "+1", "+", "...", "+", "x", "S", "1", "-1", "y", "S", "2", "-1", "=", "xy", "S", "2", "-", "S", "1", "+1", "-LRB-", "1", "-", "-LRB-", "xy", "-RRB-", "S", "1", "-1", "-RRB-", "/", "-LRB-", "1", "-", "xy", "-RRB-", ".", "For", "S", "1", "=", "S", "2", "=", "S", ",", "the", "misranking", "probability", "is", "equal", "to", "P", "m", "-LRB-", "S", ",", "S", "-RRB-", "=", "1", "-", "p", "2", "-LRB-", "1", "-", "p", "-RRB-", "2", "-LRB-", "S-1", "-RRB-", "S", "2", "-", "p", "4", "2", "G", "-LRB-", "1", "-", "p", ",", "1", "-", "p", "-RRB-", "xy", ",", "where", "G", "-LRB-", "x", ",", "y", "-RRB-", "=", "xy", "+", "x", "2", "y", "2", "+", "x", "S-1", "y", "S-1", "=", "-LRB-", "xy", "-", "-LRB-", "xy", "-RRB-", "S", "-RRB-", "/", "-LRB-", "1", "-", "xy", "-RRB-", ".", "Proof", ":", "One", "can", "validate", "the", "results", "by", "plugging", "-LRB-", "4", "-RRB-", "and", "-LRB-", "5", "-RRB-", "into", "-LRB-", "6", "-RRB-", "and", "-LRB-", "7", "-RRB-", ".", "Note", "that", "the", "main", "gain", "of", "writing", "the", "misraking", "probability", "in", "such", "a", "condensed", "form", "is", "a", "complexity", "that", "drops", "from", "O", "-LRB-", "S", "3", "-RRB-", "in", "-LRB-", "6", "-RRB-", "to", "O", "-LRB-", "S", "-RRB-", "in", "our", "final", "result", ".", "This", "gain", "comes", "from", "the", "closed-form", "expression", "for", "the", "cumulative", "distribution", "in", "-LRB-", "5", "-RRB-", ",", "and", "from", "introducing", "the", "two", "functions", "F", "-LRB-", "x", ",", "y", "-RRB-", "and", "G", "-LRB-", "x", ",", "y", "-RRB-", ".", "These", "two", "latter", "functions", "transform", "two", "series", "whose", "complexity", "is", "O", "-LRB-", "S", "2", "-RRB-", "into", "a", "closed-form", "expression", "whose", "complexity", "is", "O", "-LRB-", "S", "-RRB-", ".", "We", "solve", "the", "derivatives", "in", "the", "above", "equations", "using", "the", "symbolic", "toolbox", "of", "matlab", ",", "which", "gives", "explicit", "expressions", "for", "the", "misranking", "probability", ".", "These", "expressions", "are", "simple", "to", "compute", ",", "but", "span", "on", "multiple", "lines", ",", "so", "we", "omit", "them", "for", "lack", "of", "space", ".", "3.3", "Analysis", "of", "the", "misranking", "probability", "3.3.1", "The", "blind", "case", "We", "use", "the", "Gaussian", "approximation", "to", "study", "how", "the", "misranking", "probability", "varies", "with", "the", "sampling", "rate", "and", "with", "the", "sizes", "of", "both", "flows", ",", "in", "particular", "their", "difference", ".", "The", "study", "of", "the", "impact", "of", "the", "flow", "sizes", "is", "important", "to", "understand", "the", "relation", "between", "flow", "size", "distribution", "and", "ranking", "of", "the", "largest", "flows", ".", "The", "misranking", "probability", "is", "a", "decreasing", "function", "of", "the", "sampling", "rate", ".", "It", "moves", "to", "zero", "when", "p", "moves", "to", "1", "and", "to", "0.5", "when", "p", "approaches", "zero", "1", ".", "Therefore", ",", "there", "exists", "one", "sampling", "rate", "that", "leads", "to", "some", "desired", "misranking", "probability", ",", "and", "any", "lower", "sampling", "rate", "results", "in", "larger", "error", ".", "We", "study", "now", "how", "the", "misranking", "probability", "varies", "with", "the", "sizes", "of", "both", "flows", ".", "Take", "S", "1", "=", "S", "2", "-", "k", ",", "k", "a", "positive", "integer", ".", "From", "-LRB-", "2", "-RRB-", "and", "for", "fixed", "k", ",", "the", "misranking", "probability", "increases", "with", "S", "1", "and", "S", "2", "-LRB-", "erfc", "-LRB-", "x", "-RRB-", "is", "an", "increasing", "function", "in", "x", "-RRB-", ".", "This", "indicates", "that", "it", "is", "more", "difficult", "to", "rank", "correctly", "two", "flows", "different", "by", "k", "packets", "as", "their", "sizes", "increase", "in", "absolute", "terms", ".", "The", "result", "is", "different", "if", "we", "take", "the", "size", "of", "one", "flow", "equal", "to", "<", "1", "times", "the", "size", "of", "the", "second", ",", "i.e.", ",", "S", "1", "=", "S", "2", ".", "Here", ",", "-LRB-", "S", "1", "-", "S", "2", "-RRB-", "/", "S", "1", "+", "S", "2", "is", "equal", "to", "S", "1", "-LRB-", "1", "-RRB-", "/", "1", "+", ",", "which", "increases", "with", "S", "1", ".", "Hence", ",", "the", "misranking", "probability", "given", "in", "-LRB-", "2", "-RRB-", "decreases", "when", "S", "1", "increases", ".", "We", "conclude", "that", ",", "when", "the", "two", "flow", "sizes", "maintain", "the", "same", "proportion", ",", "it", "is", "easier", "to", "obtain", "a", "correct", "ranking", "when", "they", "are", "large", "in", "absolute", "terms", ".", "We", "can", "now", "generalize", "the", "result", "above", ".", "One", "may", "think", "that", "the", "larger", "the", "flows", ",", "the", "better", "the", "ranking", "of", "their", "sampled", "versions", ".", "Our", "last", "two", "examples", "indicate", "that", "this", "is", "not", "always", "the", "case", ".", "The", "ranking", "accuracy", "depends", "on", "the", "relative", "difference", "of", "the", "flow", "sizes", ".", "In", "general", ",", "to", "have", "a", "better", "ranking", ",", "the", "difference", "between", "the", "two", "flow", "sizes", "must", "increase", "with", "the", "flow", "sizes", "and", "the", "increase", "must", "be", "larger", "than", "a", "certain", "threshold", ".", "This", "threshold", "is", "given", "by", "-LRB-", "2", "-RRB-", ":", "the", "difference", "must", "increase", "at", "least", "as", "the", "square", "root", "of", "the", "flow", "sizes", ".", "This", "is", "an", "interesting", "finding", ".", "In", "the", "context", "of", "the", "general", "ranking", "problem", ",", "it", "can", "be", "interpreted", "as", "follows", ".", "Suppose", "that", "the", "flow", "size", "has", "a", "cumulative", "distribution", "function", "y", "=", "F", "-LRB-", "x", "-RRB-", ".", "As", "we", "move", "to", "the", "tail", "of", "the", "distribution", "2", ",", "the", "size", "of", "the", "flows", "to", "be", "ranked", "increases", ".", "The", "ranking", "performance", "improves", "if", "the", "difference", "between", "flow", "sizes", "increases", "faster", "than", "x", ".", "This", "is", "equivalent", "to", "saying", "that", "dx/dy", "should", "increase", "with", "x", "faster", "than", "x.", "All", "common", "distributions", "satisfy", "this", "condition", ",", "at", "least", "at", "their", "tails", ".", "For", "example", ",", "with", "the", "exponential", "distribution", "we", "have", "dx/dy", "e", "x", "-LRB-", "1", "/", "is", "the", "average", "-RRB-", ",", "while", "for", "the", "Pareto", "distribution", "we", "have", "dx/dy", "x", "+1", "-LRB-", "is", "the", "shape", "-RRB-", ".", "3.3.2", "The", "protocol-aware", "case", "The", "first", "difference", "with", "the", "blind", "case", "is", "in", "the", "estimation", "error", "-LRB-", "S", "-", "s", "=", "s", "b", "-", "1", "+", "S", "-", "s", "e", "-RRB-", ",", "which", "can", "be", "safely", "assumed", "to", "be", "independent", "of", "the", "flow", "size", "for", "large", "flows", "-LRB-", "only", "dependent", "on", "p", "-RRB-", ".", "This", "means", "that", "if", "two", "large", "flows", "keep", "the", "same", "distance", "between", "them", "while", "their", "sizes", "increase", ",", "their", "ranking", "maintains", "the", "same", "accuracy", ".", "Their", "ranking", "improves", "if", "the", "difference", "between", "their", "sizes", "increases", "as", "well", ",", "and", "it", "deteriorates", "if", "the", "difference", "between", "their", "sizes", "decreases", ".", "So", "in", "contrast", "to", "the", "blind", "case", ",", "the", "threshold", "for", "the", "ranking", "here", "to", "improve", "is", "that", "the", "larger", "flow", "should", "have", "its", "size", "increasing", "a", "little", "faster", "than", "the", "smaller", "one", ".", "In", "the", "context", "of", "the", "general", "ranking", "problem", "where", "flow", "sizes", "are", "distributed", "according", "to", "a", "cumulative", "distribution", "function", "y", "=", "F", "-LRB-", "x", "-RRB-", ",", "and", "when", "the", "top", "flows", "become", "larger", ",", "the", "protocol-aware", "ranking", "improves", "if", "the", "derivative", "dx/dy", "increases", "with", "x", ".", "This", "is", "equivalent", "to", "saying", "that", "the", "function", "F", "-LRB-", "x", "-RRB-", "should", "be", "concave", ",", "which", "is", "satisfied", "by", "most", "common", "distributions", "at", "their", "tail", ".", "For", "blind", "ranking", ",", "concavity", "was", "1", "The", "Gaussian", "approximation", "does", "not", "account", "for", "the", "case", "p", "=", "0", "where", "the", "misranking", "probability", "should", "be", "equal", "to", "1", "based", "on", "our", "definition", ".", "2", "Because", "we", "are", "more", "and", "more", "focusing", "on", "large", "flows", "or", "because", "the", "number", "of", "available", "flows", "for", "ranking", "increases", ".", "191", "not", "enough", "to", "obtain", "a", "better", "ranking", ";", "the", "derivative", "dx/dy", "had", "to", "increase", "faster", "than", "x", ".", "So", "in", "conclusion", ",", "the", "condition", "to", "have", "a", "better", "ranking", "when", "we", "move", "to", "the", "tail", "of", "the", "flow", "size", "distribution", "is", "less", "strict", "with", "the", "protocol-aware", "method", ",", "which", "is", "an", "indication", "of", "its", "good", "performance", ".", "The", "second", "difference", "with", "the", "blind", "case", "is", "in", "the", "relation", "between", "the", "ranking", "accuracy", "and", "the", "sampling", "rate", ".", "Consider", "two", "large", "flows", "of", "sizes", "S", "1", "and", "S", "2", "in", "packets", ",", "and", "let", "s", "1", "and", "s", "2", "denote", "their", "sampled", "sizes", ".", "The", "coefficient", "of", "variation", "of", "the", "difference", "s", "2", "-", "s", "1", "is", "an", "indication", "on", "how", "well", "the", "ranking", "performs", "-LRB-", "a", "small", "coefficient", "of", "variation", "results", "in", "better", "ranking", "3", "-RRB-", ".", "It", "is", "easy", "to", "prove", "that", "this", "coefficient", "of", "variation", "scales", "as", "1/p", "for", "protocol-aware", "ranking", "and", "as", "1/p", "for", "blind", "ranking", ".", "This", "is", "again", "an", "important", "finding", ".", "It", "tells", "that", "when", "the", "sampling", "rate", "is", "very", "small", ",", "blind", "ranking", "could", "-LRB-", "asymptotically", "-RRB-", "perform", "better", "than", "protocol-aware", "ranking", ".", "Our", "numerical", "and", "experimental", "results", "will", "confirm", "this", "finding", ".", "We", "generalize", "the", "previous", "model", "from", "the", "ranking", "of", "two", "flows", "to", "the", "detection", "and", "ranking", "of", "the", "top", "t", "flows", ",", "t", "=", "1", ",", "2", ",", "...", ",", "N", ".", "The", "misranking", "probability", "P", "m", "-LRB-", "S", "1", ",", "S", "2", "-RRB-", "pre-viously", "calculated", "is", "the", "basis", "for", "this", "generalization", ".", "Let", "N", "t", "denote", "the", "total", "number", "of", "flows", "available", "in", "the", "measurement", "period", "before", "sampling", ".", "We", "want", "the", "sampled", "list", "of", "top", "t", "flows", "to", "match", "the", "list", "of", "top", "t", "flows", "in", "the", "original", "traffic", ".", "Two", "criteria", "are", "considered", "to", "decide", "whether", "this", "match", "is", "accurate", ".", "First", ",", "we", "require", "the", "two", "lists", "to", "be", "identical", ".", "This", "corresponds", "to", "the", "ranking", "problem", ".", "The", "second", ",", "less", "constrained", ",", "criterion", "requires", "the", "two", "lists", "to", "contain", "the", "same", "flows", "regardless", "of", "their", "relative", "order", "within", "the", "list", ".", "This", "corresponds", "to", "the", "detection", "problem", ".", "For", "both", "problems", ",", "the", "quality", "of", "the", "result", "is", "expressed", "as", "a", "function", "of", "the", "sampling", "rate", "p", ",", "the", "flow", "size", "distribution", ",", "the", "number", "of", "flows", "to", "rank", "t", ",", "and", "the", "total", "number", "of", "flows", "N", ".", "4.1", "Performance", "metric", "In", "order", "to", "evaluate", "the", "accuracy", "of", "detection", "and", "ranking", ",", "we", "need", "to", "define", "a", "performance", "metric", "that", "is", "easy", "to", "compute", "and", "that", "focuses", "on", "the", "largest", "flows", ".", "A", "flow", "at", "the", "top", "of", "the", "list", "can", "be", "misranked", "with", "a", "neighboring", "large", "flow", "or", "a", "distant", "small", "flow", ".", "We", "want", "our", "metric", "to", "differentiate", "between", "these", "two", "cases", "and", "to", "penalize", "more", "the", "latter", "one", ";", "a", "top-10", "flow", "replaced", "by", "the", "100-th", "flow", "in", "the", "sampled", "top", "list", "is", "worse", "than", "the", "top-10", "flow", "being", "replaced", "by", "the", "11-th", "flow", ".", "We", "also", "want", "our", "metric", "to", "be", "zero", "when", "the", "detection", "and", "ranking", "of", "the", "top", "flows", "are", "correct", ".", "We", "introduce", "our", "performance", "metric", "using", "the", "ranking", "problem", ".", "The", "performance", "metric", "for", "the", "detection", "problem", "is", "a", "straightforward", "extension", ".", "Let", "'s", "form", "all", "flow", "pairs", "where", "the", "first", "element", "of", "a", "pair", "is", "a", "flow", "in", "the", "top", "t", "and", "the", "second", "element", "is", "anywhere", "in", "the", "sorted", "list", "of", "the", "N", "original", "flows", ".", "The", "number", "of", "these", "pairs", "is", "equal", "to", "N", "-", "1", "+", "N", "-", "2", "+", "+", "N", "-", "t", "=", "-LRB-", "2N", "-", "t", "-", "1", "-RRB-", "t/2", ".", "We", "then", "count", "the", "pairs", "in", "this", "set", "that", "are", "misranked", "after", "sampling", "and", "we", "take", "the", "sum", "as", "our", "metric", "for", "ranking", "accuracy", ".", "This", "3", "For", "S", "1", "<", "S", "2", ",", "we", "are", "interested", "in", "P", "-LCB-", "s", "1", "s", "2", "-RCB-", ".", "According", "to", "Tchebychev", "inequality", ",", "this", "probability", "can", "be", "supposed", "to", "behave", "like", "VAR", "-LSB-", "s", "1", "-", "s", "2", "-RSB-", "/", "E", "-LSB-", "s", "1", "-", "s", "2", "-RSB-", "2", ",", "which", "is", "the", "square", "of", "the", "coefficient", "of", "variation", ".", "sum", "indicates", "how", "good", "the", "ranking", "is", "at", "the", "top", "of", "the", "list", ".", "It", "is", "equal", "to", "zero", "when", "the", "ranking", "is", "correct", ".", "When", "the", "ranking", "is", "not", "correct", ",", "it", "takes", "a", "value", "proportional", "to", "the", "original", "rank", "of", "the", "flows", "that", "have", "taken", "a", "slot", "in", "the", "top-t", "list", ".", "For", "example", ",", "if", "the", "top", "flow", "is", "replaced", "by", "its", "immediate", "successor", "in", "the", "list", ",", "the", "metric", "will", "return", "a", "ranking", "error", "of", "1", ".", "Instead", ",", "if", "the", "same", "flow", "is", "replaced", "by", "a", "distant", "flow", ",", "say", "the", "100-th", ",", "the", "metric", "will", "return", "an", "error", "of", "99", ".", "Also", ",", "note", "that", "our", "metric", "does", "not", "account", "for", "any", "misranking", "of", "flows", "outside", "the", "list", "of", "top", "t", "flows", ".", "For", "any", "two", "flows", "n", "and", "m", ",", "such", "that", "n", ">", "m", ">", "t", ",", "the", "fact", "that", "n", "takes", "the", "position", "of", "m", "does", "not", "add", "anything", "to", "our", "performance", "metric", "since", "our", "metric", "requires", "at", "least", "one", "element", "of", "a", "flow", "pair", "to", "be", "in", "the", "original", "list", "of", "top", "t", "flows", ".", "In", "the", "detection", "problem", ",", "we", "are", "no", "longer", "interested", "in", "comparing", "flow", "pairs", "whose", "both", "elements", "are", "in", "the", "top", "t", "list", ".", "We", "are", "only", "interested", "in", "the", "ranking", "between", "flows", "in", "the", "top", "t", "list", "and", "those", "outside", "the", "list", ".", "Therefore", ",", "our", "detection", "metric", "is", "defined", "as", "the", "number", "of", "misranked", "flow", "pairs", ",", "where", "the", "first", "element", "of", "a", "pair", "is", "in", "the", "list", "of", "top", "t", "flows", "and", "the", "second", "element", "is", "outside", "this", "list", "-LRB-", "non", "top", "t", "-RRB-", ".", "The", "above", "metrics", "return", "one", "value", "for", "each", "realization", "of", "flow", "sizes", "and", "of", "sampled", "packets", ".", "Given", "that", "we", "want", "to", "account", "for", "all", "realizations", ",", "we", "define", "the", "performance", "metrics", "as", "the", "number", "of", "misranked", "flow", "pairs", "averaged", "over", "all", "possible", "values", "of", "flow", "sizes", "in", "the", "original", "list", "of", "N", "flows", "and", "over", "all", "sampling", "runs", ".", "We", "deem", "the", "ranking/detection", "as", "acceptable", "when", "our", "metric", "takes", "a", "value", "below", "one", "-LRB-", "i.e.", ",", "on", "average", "less", "than", "one", "flow", "pair", "is", "misranked", "-RRB-", ".", "In", "addition", "to", "the", "above", ",", "our", "metrics", "have", "the", "advantage", "of", "being", "easily", "and", "exactly", "calculable", ".", "Performance", "metrics", "based", "on", "probabilities", "-LRB-", "e.g.", ",", "-LSB-", "12", "-RSB-", "-RRB-", "require", "lot", "of", "assumptions", "that", "make", "them", "only", "suitable", "for", "computing", "bounds", ",", "but", "not", "exact", "values", ".", "4.2", "Computation", "of", "the", "performance", "metric", "for", "the", "ranking", "problem", "Consider", "a", "flow", "of", "i", "packets", "belonging", "to", "the", "list", "of", "top", "t", "flows", "in", "the", "original", "traffic", "-LRB-", "before", "sampling", "-RRB-", ".", "First", ",", "we", "compute", "the", "probability", "that", "this", "flow", "is", "misranked", "with", "another", "flow", "of", "general", "size", "and", "general", "position", ".", "Denote", "this", "probability", "by", "P", "mt", "-LRB-", "i", "-RRB-", ",", "where", "m", "stands", "for", "misranking", "and", "t", "for", "top", ".", "Then", ",", "we", "average", "over", "all", "values", "of", "i", "to", "get", "P", "mt4", ".", "This", "latter", "function", "gives", "us", "the", "probability", "that", ",", "on", "average", ",", "the", "top", "t-th", "flow", "is", "misranked", "with", "another", "flow", ".", "Thus", ",", "our", "performance", "metric", ",", "which", "is", "defined", "as", "the", "average", "number", "of", "misranked", "flow", "pairs", "where", "at", "least", "one", "element", "of", "a", "pair", "is", "in", "the", "top", "t", ",", "is", "equal", "to", "-LRB-", "2N", "-", "t", "-", "1", "-RRB-", "t", "P", "mt", "/", "2", ".", "Next", ",", "we", "compute", "the", "value", "of", "P", "mt", ".", "Let", "p", "i", "denote", "the", "probability", "that", "the", "size", "of", "a", "general", "flow", "is", "equal", "to", "i", "packets", ",", "and", "P", "i", "denote", "the", "flow", "size", "complementary", "cumulative", "distribution", ",", "i.e.", ",", "P", "i", "=", "j", "=", "i", "p", "j", ".", "For", "a", "large", "number", "of", "flows", "N", "and", "a", "high", "degree", "of", "multiplexing", ",", "we", "consider", "safe", "to", "assume", "that", "flow", "sizes", "are", "independent", "of", "each", "other", "-LRB-", "see", "-LSB-", "2", "-RSB-", "for", "a", "study", "of", "the", "flow", "size", "correlation", "on", "a", "OC-12", "IP", "backbone", "link", "-RRB-", ".", "A", "flow", "of", "size", "i", "belongs", "to", "the", "list", "of", "top", "t", "flows", "if", "the", "number", "of", "flows", "in", "the", "original", "total", "list", ",", "with", "a", "size", "larger", "than", "i", ",", "is", "less", "or", "equal", "than", "t", "-", "1", ".", "Since", "each", "flow", "can", "be", "larger", "than", "i", "with", "probability", "P", "i", "independently", "of", "the", "other", "flows", ",", "we", "can", "write", "the", "probability", "that", "a", "flow", "of", "size", "i", "belongs", "to", "the", "list", "of", "the", "top", "t", "flows", "4", "Note", "that", "the", "distribution", "of", "the", "size", "of", "a", "flow", "at", "the", "top", "of", "the", "list", "is", "different", "from", "that", "of", "a", "generic", "flow", ".", "192", "as", "P", "t", "-LRB-", "i", ",", "t", ",", "N", "-RRB-", "=", "t-1", "k", "=", "0", "b", "P", "i", "-LRB-", "k", ",", "N", "-", "1", "-RRB-", ",", "where", "b", "P", "i", "-LRB-", "k", ",", "N", "-", "1", "-RRB-", "is", "the", "probability", "to", "obtain", "k", "successes", "out", "of", "N", "-", "1", "trials", ",", "P", "i", "being", "the", "probability", "of", "a", "success", ".", "The", "probability", "that", "the", "t-th", "largest", "flow", "has", "a", "size", "of", "i", "packets", "is", "equal", "to", "P", "t", "-LRB-", "i", "-RRB-", "=", "p", "i", "P", "t", "-LRB-", "i", ",", "t", ",", "N", "-RRB-", "/", "P", "t", "-LRB-", "t", ",", "N", "-RRB-", ".", "P", "t", "-LRB-", "t", ",", "N", "-RRB-", "is", "the", "probability", "that", "a", "flow", "of", "general", "size", "is", "among", "the", "top", "t", "in", "the", "original", "total", "list", ",", "which", "is", "simply", "equal", "to", "t/N", ".", "Using", "the", "above", "notation", ",", "one", "can", "write", "the", "misranking", "probability", "between", "a", "top", "t", "flow", "of", "original", "size", "i", "packets", "and", "any", "other", "flow", "as", "follows", "P", "mt", "-LRB-", "i", "-RRB-", "=", "1", "P", "t", "-LRB-", "i", ",", "t", ",", "N", "-RRB-", "i-1", "j", "=", "1", "p", "j", "P", "t", "-LRB-", "i", ",", "t", ",", "N", "-", "1", "-RRB-", "P", "m", "-LRB-", "j", ",", "i", "-RRB-", "+", "j", "=", "i", "p", "j", "P", "t", "-LRB-", "i", ",", "t", "-", "1", ",", "N", "-", "1", "-RRB-", "P", "m", "-LRB-", "i", ",", "j", "-RRB-", ".", "-LRB-", "8", "-RRB-", "In", "this", "expression", ",", "we", "sum", "over", "all", "possible", "original", "sizes", "of", "the", "other", "flow", "-LRB-", "the", "variable", "j", "-RRB-", "and", "we", "separate", "the", "case", "when", "this", "other", "flow", "is", "smaller", "than", "i", "from", "the", "case", "when", "it", "is", "larger", "than", "i", "5", ".", "P", "m", "-LRB-", "i", ",", "j", "-RRB-", "is", "the", "misranking", "probability", "of", "two", "flows", "of", "sizes", "i", "and", "j", "packets", ",", "which", "we", "calculated", "in", "the", "previous", "section", "for", "the", "two", "ranking", "methods", ".", "P", "mt", "is", "then", "equal", "to", "i", "=", "1", "P", "t", "-LRB-", "i", "-RRB-", "P", "mt", "-LRB-", "i", "-RRB-", ".", "For", "protocol-aware", "ranking", ",", "P", "m", "-LRB-", "i", ",", "j", "-RRB-", "is", "given", "explicitly", "in", "Proposition", "2", "and", "can", "be", "easily", "computed", ".", "For", "blind", "ranking", ",", "we", "use", "the", "Gaussian", "approximation", "summarized", "in", "Proposition", "2", ",", "which", "we", "recall", "holds", "when", "at", "least", "one", "of", "the", "two", "flows", "to", "be", "compared", "is", "large", ".", "4.3", "Computation", "of", "the", "performance", "metric", "for", "the", "detection", "problem", "Consider", "the", "probability", "that", "a", "flow", "among", "the", "top", "t", "is", "swapped", "with", "a", "flow", "that", "does", "belong", "to", "the", "top", "t.", "Let", "P", "mt", "denote", "this", "probability", ".", "Following", "the", "same", "approach", "described", "in", "Section", "4", ",", "we", "can", "write", "P", "mt", "=", "1", "P", "t", "i", "=", "1", "i-1", "j", "=", "1", "p", "i", "p", "j", "P", "t", "-LRB-", "j", ",", "i", ",", "t", ",", "N", "-RRB-", "P", "m", "-LRB-", "j", ",", "i", "-RRB-", ".", "To", "get", "this", "expression", "for", "P", "mt", ",", "we", "sum", "over", "all", "possible", "values", "for", "the", "size", "of", "the", "flow", "in", "the", "top", "t", "-LRB-", "index", "i", "-RRB-", "and", "all", "possible", "values", "for", "the", "size", "of", "the", "other", "flow", "not", "among", "the", "top", "t", "-LRB-", "index", "j", "-RRB-", ".", "In", "this", "expression", ",", "p", "i", "and", "p", "j", "represent", "the", "probability", "that", "the", "size", "of", "a", "flow", "is", "equal", "to", "i", "or", "j", "packets", ",", "respectively", ".", "P", "m", "-LRB-", "j", ",", "i", "-RRB-", "is", "the", "probability", "that", "two", "flows", "of", "sizes", "i", "and", "j", "are", "misranked", "it", "is", "given", "by", "the", "Gaussian", "approximation", "described", "in", "Proposition", "1", "for", "the", "blind", "method", "and", "the", "result", "stated", "in", "Proposition", "2", "for", "the", "protocol-aware", "method", ".", "P", "t", "-LRB-", "j", ",", "i", ",", "t", ",", "N", "-RRB-", "is", "the", "joint", "probability", "that", "a", "flow", "of", "size", "i", "belongs", "to", "the", "list", "of", "the", "top", "t", "flows", "while", "another", "flow", "of", "size", "j", "does", "not", "belong", "to", "it", "-LRB-", "i.e.", ",", "it", "is", "in", "the", "bottom", "N", "-", "t", "flows", "-RRB-", ".", "P", "t", "is", "the", "joint", "probability", "that", "a", "flow", "of", "any", "size", "belongs", "to", "the", "list", "of", "the", "top", "t", "flows", "while", "another", "flow", "of", "any", "size", "does", "not", "belong", "to", "this", "list", ".", "It", "is", "equal", "to", "t", "-LRB-", "N", "-", "t", "-RRB-", "/", "-LRB-", "N", "-LRB-", "N", "-", "1", "-RRB-", "-RRB-", ".", "We", "now", "compute", "P", "t", "-LRB-", "j", ",", "i", ",", "t", ",", "N", "-RRB-", "for", "j", "<", "i", ",", "i.e.", ",", "the", "probability", "that", "flow", "i", "belongs", "to", "the", "top", "list", "while", "flow", "j", "does", "not", ".", "The", "number", "of", "flows", "larger", "than", "i", "should", "be", "smaller", "than", "t", ",", "while", "the", "number", "of", "flows", "larger", "than", "j", "should", "be", "larger", "than", "t", ".", "The", "probability", "that", "a", "flow", "size", "is", "larger", "than", "5", "In", "the", "case", "j", "i", ",", "at", "most", "t", "-", "2", "flows", "can", "be", "larger", "than", "i", "packets", "if", "we", "want", "the", "flow", "of", "size", "i", "to", "be", "in", "the", "top", "t.", "Trace", "Jussieu", "Abilene", "Link", "speed", "GigE", "-LRB-", "1", "Gbps", "-RRB-", "OC-48", "-LRB-", "2.5", "Gbps", "-RRB-", "Duration", "2", "hours", "30", "minutes", "TCP", "connections", "11M", "15M", "Packets", "112M", "125M", "Table", "1", ":", "Summary", "of", "the", "traces", "i", "is", "P", "i", "=", "k", "=", "i", "p", "k", ".", "The", "probability", "that", "it", "is", "larger", "than", "j", "is", "P", "j", "=", "k", "=", "j", "p", "k", ".", "The", "probability", "that", "a", "flow", "size", "is", "between", "j", "and", "i", "given", "that", "it", "is", "smaller", "than", "i", "is", "-LRB-", "P", "j", "-", "P", "i", "-RRB-", "/", "-LRB-", "1", "-", "P", "i", "-RRB-", ".", "We", "call", "it", "P", "j", ",", "i", ".", "It", "follows", "that", ":", "P", "t", "-LRB-", "j", ",", "i", ",", "t", ",", "N", "-RRB-", "=", "t-1", "k", "=", "0", "b", "P", "i", "-LRB-", "k", ",", "N", "-", "2", "-RRB-", "N", "-", "k-2", "l", "=", "t-k-1", "b", "P", "j", ",", "i", "-LRB-", "l", ",", "N", "-", "k", "-", "2", "-RRB-", ".", "The", "first", "sum", "accounts", "for", "the", "probability", "to", "see", "less", "than", "t", "flows", "above", "i", "packets", ".", "The", "second", "sum", "accounts", "for", "the", "probability", "to", "see", "more", "than", "t", "flows", "above", "j", "given", "that", "k", "flows", "-LRB-", "k", "<", "t", "-RRB-", "were", "already", "seen", "above", "i.", "For", "t", "=", "1", ",", "P", "t", "-LRB-", "j", ",", "i", ",", "t", ",", "N", "-RRB-", "is", "no", "other", "than", "P", "t", "-LRB-", "i", ",", "t", ",", "N", "-", "1", "-RRB-", ",", "and", "both", "P", "mt", "and", "P", "mt", "are", "equal", "-LRB-", "i.e.", ",", "the", "ranking", "and", "the", "detection", "problems", "are", "the", "same", "-RRB-", ".", "Once", "P", "mt", "is", "computed", ",", "we", "multiply", "it", "by", "the", "total", "number", "of", "flow", "pairs", "whose", "one", "element", "is", "in", "the", "top", "t", "and", "the", "other", "one", "is", "not", ".", "This", "total", "number", "is", "equal", "to", "t", "-LRB-", "N", "-", "t", "-RRB-", ".", "Our", "metric", "for", "the", "detection", "problem", "is", "the", "result", "of", "this", "multiplication", ".", "As", "for", "the", "ranking", "problem", ",", "we", "want", "this", "metric", "to", "be", "less", "than", "one", "for", "the", "detection", "of", "the", "top", "t", "flows", "to", "be", "accurate", ".", "We", "analyze", "now", "the", "accuracy", "of", "identifying", "and", "ranking", "the", "largest", "flows", "in", "a", "packet", "stream", "for", "both", "the", "blind", "and", "protocol-aware", "methods", ".", "Our", "metrics", "require", "the", "following", "input", ":", "p", "i", ",", "the", "flow", "size", "distribution", "and", "N", ",", "the", "total", "number", "of", "flows", "observed", "on", "the", "link", "during", "the", "measurement", "period", ".", "To", "derive", "realistic", "values", "for", "these", "two", "quantities", ",", "we", "consider", "two", "publicly", "available", "packet-level", "traces", ".", "The", "first", "trace", "is", "Abilene-I", "collected", "by", "NLANR", "-LSB-", "15", "-RSB-", "on", "an", "OC-48", "-LRB-", "2.5", "Gbps", "-RRB-", "link", "on", "the", "Abilene", "Network", "-LSB-", "1", "-RSB-", ".", "The", "second", "trace", "has", "been", "collected", "by", "the", "Metropolis", "project", "-LSB-", "13", "-RSB-", "on", "a", "Gigabit", "Ethernet", "access", "link", "from", "the", "Jussieu", "University", "campus", "in", "Paris", "to", "the", "Renater", "Network", "-LSB-", "18", "-RSB-", ".", "Table", "1", "summarizes", "the", "characteristics", "of", "the", "two", "traces", ".", "We", "model", "the", "flow", "size", "distribution", "in", "the", "traces", "with", "Pareto", ".", "We", "opted", "for", "Pareto", "since", "it", "is", "known", "to", "be", "appropriate", "to", "model", "flow", "sizes", "in", "the", "Internet", "due", "to", "its", "heavy", "tailed", "feature", "-LSB-", "6", "-RSB-", ".", "Note", "that", "it", "is", "not", "our", "goal", "to", "find", "an", "accurate", "approximation", "of", "the", "distribution", "of", "flow", "sizes", "in", "our", "traces", ",", "but", "rather", "to", "find", "a", "general", ",", "well-known", ",", "distribution", "that", "approaches", "the", "actual", "flow", "size", ".", "In", "this", "section", "we", "analyze", "a", "wide", "range", "of", "parameters", "while", "Section", "6", "focuses", "on", "the", "performance", "we", "observe", "in", "the", "two", "packet-level", "traces", ".", "The", "Pareto", "distribution", "is", "continuous", "with", "a", "complementary", "cumulative", "distribution", "function", "given", "by", "P", "-LCB-", "S", ">", "x", "-RCB-", "=", "-LRB-", "x/a", "-RRB-", ".", ">", "0", "is", "a", "parameter", "describing", "the", "shape", "of", "the", "distribution", "and", "a", ">", "0", "is", "a", "parameter", "describing", "its", "scale", ".", "The", "Pareto", "random", "variable", "takes", "values", "larger", "than", "a", ",", "and", "has", "an", "average", "value", "equal", "to", "a", "/", "-LRB-", "-", "1", "-RRB-", ".", "The", "tail", "of", "the", "Pareto", "distribution", "becomes", "heavier", "as", "decreases", ".", "We", "use", "our", "traces", "to", "derive", "an", "indicative", "value", "of", "the", "shape", "parameter", ".", "To", "this", "end", ",", "we", "compute", "the", "empirical", "complementary", "cumulative", "distribution", "of", "flow", "sizes", "and", "we", "193", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "-8", "10", "-7", "10", "-6", "10", "-5", "10", "-4", "10", "-3", "10", "-2", "10", "-1", "10", "0", "Flow", "size", "in", "Kbytes", "Complementary", "CDF", "Abilene", "trace", "x", "-2", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "-7", "10", "-6", "10", "-5", "10", "-4", "10", "-3", "10", "-2", "10", "-1", "10", "0", "Flow", "size", "in", "Kbytes", "Complementary", "CDF", "Jussieu", "trace", "x", "-1.5", "Figure", "1", ":", "Empirical", "flow", "size", "distribution", "plot", "it", "on", "a", "log-log", "scale", ".", "A", "heavy-tailed", "distribution", "of", "shape", "parameter", "decays", "linearly", "on", "a", "log-log", "scale", "at", "rate", "-", ".", "The", "empirical", "distributions", "are", "shown", "in", "Figure", "1", ".", "The", "plots", "show", "that", "equal", "to", "2", "suits", "the", "Abilene", "trace", "and", "equal", "to", "1.5", "suits", "the", "Jussieu", "one", ".", "This", "means", "that", "the", "flow", "size", "distribution", "has", "a", "heavier", "tail", "in", "the", "Jussieu", "trace", ".", "Then", ",", "we", "compute", "the", "average", "flow", "size", "in", "packets", "to", "get", "the", "starting", "point", "a", "for", "the", "Pareto", "distribution", ".", "As", "an", "average", "flow", "size", "we", "measure", "5.76", "Kbytes", "and", "7.35", "packets", "on", "the", "Abilene", "trace", ",", "and", "9.22", "Kbytes", "and", "9.9", "packets", "on", "the", "Jussieu", "trace", ".", "The", "total", "number", "of", "flows", "N", "is", "set", "by", "taking", "a", "measurement", "interval", "equal", "to", "one", "minute", ",", "then", "multiplying", "this", "interval", "by", "the", "average", "arrival", "rate", "of", "flows", "per", "second", "on", "each", "trace", ".", "This", "gives", "N", "=", "487", "Kflows", "for", "the", "Abilene", "trace", "and", "N", "=", "103", "Kflows", "for", "the", "Jussieu", "one", ".", "In", "the", "rest", "of", "this", "section", ",", "all", "figures", "plot", "the", "ranking", "metric", "versus", "the", "packet", "sampling", "rate", "p", "on", "a", "log-log", "scale", ".", "We", "vary", "p", "from", "0.1", "%", "to", "50", "%", ".", "Each", "figure", "shows", "different", "lines", "that", "correspond", "to", "different", "combinations", "of", "t", ",", ",", "and", "N", ".", "We", "are", "interested", "in", "the", "regions", "where", "the", "value", "of", "the", "metric", "is", "below", "one", ",", "indicating", "that", "the", "ranking", "is", "accurate", "on", "average", ".", "To", "ease", "the", "interpretation", "of", "results", "in", "the", "figures", ",", "we", "plot", "the", "horizontal", "line", "of", "ordinate", "1", ".", "5.1", "Blind", "ranking", "5.1.1", "Impact", "of", "the", "number", "of", "flows", "of", "interest", "The", "first", "parameter", "we", "study", "is", "t", ",", "the", "number", "of", "largest", "flows", "to", "rank", ".", "The", "purpose", "is", "to", "show", "how", "many", "flows", "can", "be", "detected", "and", "ranked", "correctly", "for", "a", "given", "sampling", "rate", ".", "We", "set", ",", "N", ",", "and", "the", "average", "flow", "size", "to", "the", "values", "described", "before", ".", "The", "performance", "of", "blind", "ranking", "the", "top", "t", "flows", "is", "shown", "in", "Figure", "2", "for", "both", "traces", ".", "We", "observe", "that", "the", "larger", "the", "number", "of", "top", "flows", "of", "interest", ",", "the", "more", "difficult", "it", "is", "to", "detect", "and", "rank", "them", "correctly", ".", "In", "particular", ",", "with", "a", "sampling", "rate", "on", "the", "order", "of", "1", "%", ",", "it", "is", "possible", "to", "rank", "at", "most", "the", "top", "one", "or", "two", "flows", ".", "As", "we", "focus", "at", "larger", "values", "of", "t", ",", "the", "required", "sampling", "rate", "to", "get", "a", "correct", "ranking", "increases", "well", "above", "10", "%", ".", "Note", "that", "with", "a", "sampling", "rate", "on", "the", "order", "of", "0.1", "%", ",", "it", "is", "almost", "impossible", "to", "detect", "even", "the", "largest", "flow", ".", "We", "also", "observe", "that", "the", "ranking", "on", "the", "Jussieu", "trace", "behaves", "slightly", "better", "than", "that", "on", "the", "Abilene", "trace", ".", "The", "Jussieu", "trace", "has", "a", "heavier", "tail", "for", "its", "flow", "size", "distribution", ",", "and", "so", "the", "probability", "to", "get", "larger", "flows", "at", "the", "top", "of", "the", "list", "is", "higher", ",", "which", "makes", "the", "ranking", "more", "accurate", ".", "This", "will", "be", "made", "clear", "next", "as", "we", "will", "study", "the", "impact", "of", "the", "shape", "parameter", ".", "5.1.2", "Impact", "of", "the", "flow", "size", "distribution", "We", "consider", "the", "blind", "ranking", "of", "the", "top", "10", "flows", "varying", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "N", "=", "487K", ",", "beta", "=", "2", ",", "blind", "ranking", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "N", "=", "103K", ",", "beta", "=", "1.5", ",", "blind", "ranking", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "Figure", "2", ":", "Performance", "of", "blind", "ranking", "varying", "the", "number", "t", "of", "top", "flows", "of", "interest", "the", "shape", "parameter", "for", "the", "Pareto", "distribution", "among", "five", "distinct", "values", ":", "3", ",", "2.5", ",", "2", ",", "1.5", "and", "1.2", ".", "Note", "that", "for", "2", "the", "Pareto", "distribution", "is", "known", "to", "be", "heavy", "tailed", "-LRB-", "infinite", "variance", "-RRB-", ".", "The", "other", "parameters", "of", "the", "model", "-LRB-", "N", "and", "the", "average", "flow", "size", "-RRB-", "are", "set", "as", "before", ".", "The", "values", "taken", "by", "our", "metric", "are", "shown", "in", "Figure", "3", "for", "both", "traces", ".", "We", "can", "make", "the", "following", "observations", "from", "the", "figure", ":", "Given", "a", "sampling", "rate", ",", "the", "ranking", "accuracy", "improves", "as", "becomes", "smaller", ",", "i.e.", ",", "the", "tail", "of", "the", "flow", "size", "distribution", "becomes", "heavier", ".", "Indeed", ",", "when", "the", "distribution", "tail", "becomes", "heavier", ",", "the", "probability", "to", "obtain", "larger", "flows", "at", "the", "top", "of", "the", "list", "increases", ",", "and", "since", "it", "is", "simpler", "to", "blindly", "rank", "larger", "flows", "-LRB-", "for", "distributions", "satisfying", "the", "square", "root", "condition", ",", "see", "Section", "3.1.1", "-RRB-", ",", "the", "ranking", "becomes", "more", "accurate", ".", "The", "ranking", "is", "never", "correct", "unless", "the", "sampling", "rate", "is", "very", "high", ".", "In", "our", "setting", ",", "one", "needs", "to", "sample", "at", "more", "than", "50", "%", "to", "obtain", "an", "average", "number", "of", "misranked", "flow", "pairs", "below", "one", "for", "a", "value", "of", "equal", "to", "1.5", "-LRB-", "i.e", ",", "heavy", "tailed", "distribution", "-RRB-", ",", "and", "at", "more", "than", "10", "%", "for", "a", "value", "of", "equal", "to", "1.2", "-LRB-", "i.e.", ",", "pronounced", "heavy", "tailed", "distribution", "-RRB-", ".", "For", "larger", "values", "of", "-LRB-", "i.e.", ",", "lighter", "tail", "-RRB-", ",", "the", "sampling", "rate", "needs", "to", "be", "as", "high", "as", "100", "%", ".", "5.1.3", "Impact", "of", "the", "total", "number", "of", "flows", "Another", "important", "parameter", "in", "the", "ranking", "problem", "is", "N", ",", "the", "total", "number", "of", "flows", "available", "during", "the", "measurement", "period", ".", "When", "N", "increases", ",", "the", "flows", "at", "the", "top", "of", "the", "list", "should", "become", "larger", ",", "and", "therefore", "as", "we", "saw", "in", "Section", "3.1.1", ",", "the", "blind", "ranking", "accuracy", "should", "improve", "194", "10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "10", "7", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "N", "=", "487K", ",", "t", "=", "10", "flows", ",", "blind", "ranking", "beta", "=", "3", "beta", "=", "2.5", "beta", "=", "2", "beta", "=", "1.5", "beta", "=", "1.2", "10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "10", "7", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "N", "=", "103K", ",", "t", "=", "10", "flows", ",", "blind", "ranking", "beta", "=", "3", "beta", "=", "2.5", "beta", "=", "2", "beta", "=", "1.5", "beta", "=", "1.2", "Figure", "3", ":", "Performance", "of", "blind", "ranking", "varying", "the", "shape", "parameter", "of", "the", "flow", "size", "distribution", "for", "flow", "size", "distributions", "satisfying", "the", "square", "root", "condition", "-LRB-", "in", "particular", "the", "Pareto", "distribution", "we", "are", "considering", "here", "-RRB-", ".", "N", "varies", "with", "the", "utilization", "of", "the", "monitored", "link", "the", "higher", "the", "utilization", ",", "the", "larger", "the", "number", "of", "flows", ".", "N", "can", "also", "vary", "with", "the", "duration", "of", "the", "measurement", "period", "the", "longer", "we", "wait", "before", "ranking", "and", "reporting", "results", ",", "the", "larger", "the", "number", "of", "flows", ".", "We", "study", "the", "impact", "of", "N", "on", "the", "blind", "ranking", "accuracy", ".", "We", "take", "the", "same", "value", "of", "N", "used", "in", "the", "previous", "sections", "and", "computed", "over", "one", "minute", "measurement", "period", "-LRB-", "487", "Kflows", "for", "the", "Abilene", "trace", "and", "103", "Kflows", "for", "the", "Jussieu", "trace", "-RRB-", ",", "then", "we", "multiply", "it", "by", "some", "constant", "factor", "ranging", "from", "0.5", "-LRB-", "2", "times", "fewer", "flows", "-RRB-", "to", "5", "-LRB-", "5", "times", "more", "flows", "-RRB-", ".", "Results", "are", "shown", "in", "Figure", "4", ".", "The", "lines", "in", "the", "figures", "correspond", "to", "a", "factor", "value", "equal", "to", ":", "0.5", ",", "1", ",", "2.5", ",", "and", "5", ".", "In", "these", "figures", ",", "we", "consider", "the", "ranking", "of", "the", "top", "10", "flows", "with", "the", "values", "of", "and", "average", "flow", "size", "set", "from", "the", "traces", ".", "Clearly", ",", "the", "ranking", "accuracy", "improves", "as", "N", "increases", ".", "However", ",", "in", "our", "setting", ",", "this", "improvement", "is", "still", "not", "enough", "to", "allow", "a", "perfect", "ranking", ".", "One", "can", "always", "imagine", "increasing", "N", "-LRB-", "e.g.", ",", "by", "increasing", "the", "measurement", "period", "-RRB-", "until", "the", "top", "t", "flows", "are", "extremely", "large", "and", "hence", ",", "perfectly", "detected", "and", "ranked", ".", "5.2", "Protocol-aware", "ranking", "Protocol-aware", "ranking", "takes", "advantage", "of", "the", "information", "carried", "in", "the", "transport", "header", "of", "the", "sampled", "packets", "to", "infer", "the", "number", "of", "non-sampled", "packets", "of", "a", "flow", ".", "We", "use", "our", "model", "to", "check", "whether", "this", "improvement", "exists", "and", "to", "evaluate", "it", ".", "Remember", "that", "we", "are", "always", "in", "the", "context", "of", "low", "retransmission", "and", "duplication", "rates", ",", "which", "is", "neces-10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "beta", "=", "2", ",", "t", "=", "10", ",", "blind", "ranking", "N", "=", "244K", "N", "=", "487K", "N", "=", "1.2", "M", "N", "=", "2.4", "M", "10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "beta", "=", "2", ",", "t", "=", "10", ",", "blind", "ranking", "N", "=", "52K", "N", "=", "103K", "N", "=", "258K", "N", "=", "515K", "Figure", "4", ":", "Performance", "of", "blind", "ranking", "varying", "the", "total", "number", "of", "flows", "sary", "to", "remove", "the", "discrepancy", "between", "carried", "data", "volume", "-LRB-", "throughput", "-RRB-", "and", "application", "data", "volume", "-LRB-", "goodput", "-RRB-", ".", "Using", "the", "previous", "values", "for", "N", ",", "and", "average", "flow", "size", ",", "we", "reproduce", "Figure", "2", ",", "but", "this", "time", "for", "the", "protocol-aware", "case", ".", "This", "leads", "to", "Figure", "5", ",", "which", "illustrates", "the", "impact", "of", "the", "number", "of", "largest", "flows", "to", "rank", ".", "For", "lack", "of", "space", ",", "we", "omit", "the", "other", "figures", ".", "We", "compare", "this", "new", "figure", "to", "its", "counterpart", "in", "the", "blind", "case", ".", "We", "make", "the", "following", "two", "observations", ":", "-LRB-", "i", "-RRB-", "The", "protocol-aware", "method", "improves", "the", "accuracy", "of", "the", "largest", "flows", "ranking", "by", "an", "order", "of", "magnitude", "for", "high", "sampling", "rates", "-LRB-", "above", "1", "%", "-RRB-", ".", "For", "example", ",", "for", "the", "Abilene", "trace", ",", "a", "sampling", "rate", "on", "the", "order", "of", "50", "%", "was", "necessary", "to", "detect", "and", "rank", "the", "largest", "5", "flows", "with", "the", "blind", "method", ".", "Now", ",", "with", "the", "protocol-aware", "method", ",", "a", "sampling", "rate", "on", "the", "order", "of", "5", "%", "is", "sufficient", ".", "The", "same", "conclusion", "applies", "to", "the", "Jussieu", "trace", ".", "A", "sampling", "rate", "on", "the", "order", "of", "10", "%", "is", "needed", ".", "With", "the", "protocol-aware", "method", ",", "it", "becomes", "on", "the", "order", "of", "1", "%", ".", "-LRB-", "ii", "-RRB-", "The", "protocol-aware", "method", "does", "not", "improve", "the", "performance", "when", "applied", "at", "low", "sampling", "rates", "-LRB-", "above", "1", "%", "-RRB-", ".", "This", "can", "be", "clearly", "seen", "if", "we", "compare", "the", "plots", "between", "both", "figures", "for", "sampling", "rates", "below", "1", "%", ".", "This", "results", "confirms", "our", "observations", "in", "Section", "3.3.2", ".", "5.3", "Largest", "flows", "detection", "To", "illustrate", "the", "difference", "between", "ranking", "and", "detection", ",", "we", "consider", "the", "same", "scenario", "as", "in", "Section", "5.1.1", ".", "We", "plot", "the", "detection", "metric", "as", "a", "function", "of", "the", "sampling", "rate", "for", "different", "values", "of", "t", "-LRB-", "the", "number", "of", "top", "flows", "of", "interest", "-RRB-", "and", "for", "both", "Abilene", "and", "Jussieu", "traces", ".", "This", "gives", "Figure", "6", "for", "195", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "N", "=", "487K", ",", "beta", "=", "2", ",", "protocol-aware", "ranking", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "N", "=", "103K", ",", "beta", "=", "1.5", ",", "protocol-aware", "ranking", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "Figure", "5", ":", "Performance", "of", "protocol-aware", "ranking", "varying", "the", "number", "t", "of", "top", "flows", "of", "interest", "blind", "ranking", "and", "Figure", "7", "for", "protocol-aware", "ranking", ".", "A", "comparison", "between", "these", "results", "and", "their", "counterparts", "in", "Figure", "2", "and", "5", ",", "respectively", ",", "shows", "a", "significant", "improvement", "in", "the", "detection", "case", "for", "both", "ranking", "methods", ".", "All", "plots", "are", "shifted", "down", "by", "an", "order", "of", "magnitude", ".", "For", "example", ",", "in", "the", "case", "of", "blind", "ranking", ",", "the", "required", "sampling", "rate", "to", "correctly", "rank", "the", "top", "5", "flows", "was", "around", "50", "%", "for", "the", "Abilene", "trace", "and", "10", "%", "for", "the", "Jussieu", "trace", ".", "Now", ",", "with", "blind", "detection", ",", "it", "is", "around", "10", "%", "and", "3", "%", ",", "respectively", ".", "Another", "example", "is", "with", "the", "protocol-aware", "method", "where", "a", "sampling", "rate", "around", "10", "%", "was", "required", "to", "rank", "the", "largest", "10", "flows", "-LRB-", "Figure", "5", "-RRB-", ",", "whereas", "now", ",", "a", "sampling", "rate", "around", "1", "%", "is", "sufficient", "to", "only", "detect", "them", ".", "The", "same", "gain", "can", "be", "observed", "if", "we", "reconsider", "the", "other", "scenarios", "in", "Section", "5.1", "-LRB-", "not", "presented", "here", "for", "lack", "of", "space", "-RRB-", ".", "Also", ",", "note", "how", "in", "the", "detection", "case", "the", "protocol", "aware", "method", "allows", "a", "better", "accuracy", "for", "high", "sampling", "rates", "when", "compared", "to", "the", "blind", "method", ".", "For", "low", "sampling", "rates", "-LRB-", "e.g.", ",", "below", "1", "%", "-RRB-", ",", "the", "accuracy", "does", "not", "improve", ".", "In", "this", "section", "we", "present", "the", "results", "of", "running", "random", "sampling", "experiments", "directly", "on", "the", "packet", "traces", ".", "We", "use", "the", "traces", "described", "in", "Section", "5", "and", "compute", "the", "performance", "metrics", "defined", "in", "Section", "4.1", ".", "In", "our", "traces", "we", "consider", "only", "TCP", "packets", ".", "Since", "TCP", "sequence", "numbers", "count", "bytes", ",", "we", "express", "the", "flow", "sizes", "in", "bytes", "instead", "of", "packets", "throughout", "this", "section", ".", "Our", "experiments", "are", "meant", "to", "address", "four", "major", "issues", "that", "arise", "when", "we", "move", "from", "the", "analytical", "study", "to", "a", "real", "network", "setting", ":", "-LRB-", "i", "-RRB-", "how", "to", "deal", "with", "invalid", "TCP", "sequence", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "N", "=", "487K", ",", "beta", "=", "2", ",", "blind", "detection", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "N", "=", "103K", ",", "beta", "=", "1.5", ",", "blind", "detection", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "Figure", "6", ":", "Only", "detecting", "the", "largest", "flows", ":", "Performance", "of", "blind", "ranking", "varying", "the", "number", "t", "of", "top", "flows", "of", "interest", "numbers", "in", "the", "packet", "stream", ";", "-LRB-", "ii", "-RRB-", "the", "importance", "of", "flow", "size", "distributions", "and", "duration", "of", "the", "measurement", "interval", ";", "-LRB-", "iii", "-RRB-", "the", "impact", "of", "packet", "loss", "rates", "on", "individual", "flows", "lost", "packets", "trigger", "retransmissions", "by", "the", "TCP", "senders", ";", "-LRB-", "iv", "-RRB-", "the", "variability", "of", "the", "detection/ranking", "performance", "across", "multiple", "bins", "and", "packet", "sampling", "patterns", ".", "6.1", "Implementation", "of", "protocol-aware", "ranking", "The", "protocol-aware", "method", "depends", "on", "TCP", "sequence", "numbers", "to", "perform", "the", "ranking", ".", "For", "a", "given", "flow", ",", "it", "keeps", "track", "of", "the", "lowest", "and", "highest", "sequence", "number", "observed", "-LRB-", "taking", "care", "of", "packets", "that", "wrap", "around", "the", "sequence", "number", "space", "-RRB-", ",", "s", "b", "and", "s", "e", "respectively", ".", "Note", "that", "an", "actual", "implementation", "of", "this", "method", "would", "just", "require", "two", "32", "bit", "fields", "per", "flow", "to", "store", "the", "two", "sequence", "numbers", ".", "At", "the", "end", "of", "the", "measurement", "period", ",", "we", "compute", "the", "difference", "between", "the", "highest", "and", "lowest", "sequence", "numbers", "for", "each", "sampled", "flow", ",", "and", "we", "use", "the", "obtained", "values", "to", "rank", "flows", ".", "We", "then", "compare", "this", "ranking", "with", "the", "one", "obtained", "by", "counting", "all", "the", "bytes", "each", "flow", "transmits", "in", "the", "original", "non", "sampled", "traffic", ".", "In", "order", "to", "discard", "invalid", "packets", "carrying", "incorrect", "sequence", "numbers", "that", "would", "corrupt", "the", "ranking", ",", "we", "implement", "a", "simple", "heuristic", "to", "update", "s", "e", "and", "s", "b", ".", "A", "sampled", "packet", "with", "sequence", "number", "S", ">", "s", "e", "causes", "an", "update", "s", "e", "S", "if", "S", "-", "s", "e", "<", "-LRB-", "MTU", "-RRB-", "/", "p", ".", "The", "same", "rule", "applies", "to", "the", "updates", "of", "s", "b", ".", "This", "way", "we", "set", "a", "limit", "on", "the", "maximum", "distance", "in", "the", "sequence", "space", "between", "two", "sampled", "pack-196", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "N", "=", "487K", ",", "beta", "=", "2", ",", "protocol-aware", "detection", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "10", "-1", "10", "0", "10", "1", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "Packet", "sampling", "rate", "-LRB-", "%", "-RRB-", "Average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "N", "=", "103K", ",", "beta", "=", "1.5", ",", "protocol-aware", "detection", "t", "=", "25", "t", "=", "10", "t", "=", "5", "t", "=", "2", "t", "=", "1", "Figure", "7", ":", "Only", "detecting", "the", "largest", "flows", ":", "Performance", "of", "protocol-aware", "ranking", "varying", "the", "number", "t", "of", "top", "flows", "of", "interest", "ets", ".", "This", "distance", "is", "inversely", "proportional", "to", "the", "sampling", "rate", "and", "depends", "on", "the", "Maximum", "Transmission", "Unit", ".", "Furthermore", ",", "we", "use", "the", "parameter", "that", "allows", "to", "make", "this", "threshold", "more", "or", "less", "``", "permissive", "''", "in", "order", "to", "account", "for", "the", "randomness", "of", "the", "sampling", "process", "and", "for", "other", "transport-layer", "events", "-LRB-", "e.g.", ",", "packet", "retransmissions", "when", "the", "TCP", "window", "is", "large", "-RRB-", ".", "We", "have", "run", "several", "experiments", "with", "different", "values", "of", "and", "the", "results", "have", "shown", "little", "sensitivity", "to", "values", "of", ">", "10", ".", "All", "the", "results", "in", "this", "Section", "are", "derived", "with", "=", "100", ".", "6.2", "Flow", "size", "distribution", "and", "measurement", "interval", "As", "shown", "in", "Figure", "1", ",", "flow", "size", "distributions", "do", "not", "follow", "a", "perfect", "Pareto", ".", "Furthermore", ",", "the", "measurement", "interval", "itself", "plays", "a", "major", "role", "in", "shaping", "the", "distribution", ":", "it", "caps", "the", "size", "of", "the", "largest", "flows", ",", "that", "is", "not", "unbounded", "but", "now", "depends", "on", "the", "link", "speed", ".", "Indeed", ",", "network", "operators", "often", "run", "measurements", "using", "a", "``", "binning", "''", "method", ",", "where", "packets", "are", "sampled", "for", "a", "time", "interval", ",", "classified", "into", "flows", ",", "ranked", ",", "and", "then", "reported", ".", "At", "the", "end", "of", "the", "interval", ",", "the", "memory", "is", "cleared", "and", "the", "operation", "is", "repeated", "for", "the", "next", "measurement", "interval", ".", "With", "this", "binning", "method", ",", "all", "flows", "active", "at", "the", "end", "of", "the", "measurement", "interval", "are", "truncated", ",", "so", "that", "not", "all", "sampled", "packets", "of", "the", "truncated", "flow", "are", "considered", "at", "the", "same", "time", "for", "the", "ranking", ".", "The", "truncation", "may", ",", "therefore", ",", "penalize", "large", "flows", "and", "alter", "the", "tail", "of", "the", "flow", "size", "distribution", "-LRB-", "where", "flows", "are", "of", "large", "size", "and", "probably", "last", "longer", "than", "the", "measurement", "interval", "-RRB-", ".", "Each", "experiment", "consists", "of", "the", "following", ".", "We", "run", "ran-10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "packet", "sampling", "rate", "%", "average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "blind", "ranking", "top", "1", "top", "2", "top", "5", "top", "10", "top", "25", "10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "packet", "sampling", "rate", "%", "average", "number", "of", "misranked", "flow", "pairs", "Jussieu", "trace", ",", "protocol-aware", "ranking", "top", "1", "top", "2", "top", "5", "top", "10", "top", "25", "Figure", "8", ":", "Performance", "of", "blind", "and", "protocol-aware", "ranking", "on", "Jussieu", "trace", "-LRB-", "60s", "measurement", "interval", "-RRB-", ".", "dom", "sampling", "on", "the", "packet", "traces", "and", "classify", "the", "sampled", "packets", "into", "flows", ".", "At", "the", "end", "of", "each", "measurement", "interval", "-LRB-", "set", "to", "1", "or", "5", "minutes", "-RRB-", ",", "we", "collect", "the", "flows", "and", "rank", "them", "by", "the", "number", "of", "bytes", "sampled", "for", "each", "flow", ".", "We", "compare", "the", "ranking", "before", "and", "after", "sampling", "using", "our", "performance", "metric", "-LRB-", "Section", "4.1", "-RRB-", ".", "For", "each", "sampling", "rate", "we", "conduct", "15", "runs", "and", "we", "calculate", "averages", ".", "The", "results", "of", "the", "experiments", "confirm", "the", "numerical", "results", "of", "the", "previous", "section", ".", "In", "the", "interest", "of", "space", ",", "we", "plot", "the", "results", "of", "two", "representative", "experiments", "on", "which", "we", "make", "several", "observations", ".", "The", "difference", "between", "numerical", "and", "experimental", "results", ",", "especially", "at", "low", "sampling", "rates", ",", "is", "caused", "by", "the", "non", "perfect", "match", "of", "the", "empirical", "flow", "size", "distribution", "with", "Pareto", "-LRB-", "Figure", "1", "-RRB-", ".", "Figure", "8", "shows", "the", "performance", "of", "ranking", "flows", "on", "the", "Jussieu", "trace", "when", "the", "measurement", "bin", "is", "60s", ".", "We", "consider", "a", "wide", "range", "of", "sampling", "rates", "from", "0.1", "%", "to", "50", "%", "and", "study", "the", "performance", "when", "ranking", "the", "top", "1", ",", "2", ",", "5", ",", "10", "and", "25", "flows", "in", "the", "packet", "stream", ".", "The", "top", "graph", "in", "Figure", "8", "is", "derived", "using", "the", "blind", "method", "while", "the", "bottom", "graph", "shows", "the", "performance", "of", "the", "protocol-aware", "methods", ".", "These", "results", "are", "very", "similar", "to", "the", "numerical", "results", ".", "For", "sampling", "rates", "above", "1", "%", ",", "protocol-aware", "ranking", "gives", "approximately", "an", "order", "of", "magnitude", "gain", "on", "the", "performance", "when", "compared", "to", "blind", "ranking", ".", "When", "the", "sampling", "rate", "is", "lower", "than", "1", "%", ",", "however", ",", "the", "performance", "of", "the", "two", "methods", "is", "similar", ".", "Overall", ",", "the", "blind", "method", "requires", "a", "sampling", "rate", "of", "10", "%", "to", "correctly", "identify", "the", "largest", "flow", "in", "the", "packet", "stream", ".", "The", "same", "sampling", "rate", "allows", "to", "correctly", "rank", "the", "largest", "5", "flows", "when", "using", "the", "protocol-aware", "method", ".", "197", "6.3", "Impact", "of", "loss", "rate", "In", "the", "analysis", "of", "the", "protocol-aware", "method", "in", "Section", "3.2", ",", "we", "made", "the", "assumption", "of", "negligible", "number", "of", "retransmissions", "for", "all", "the", "flows", "in", "the", "packet", "stream", ".", "A", "retransmitted", "packet", "may", "cause", "inconsistency", "between", "the", "blind", "and", "protocol-aware", "method", "depending", "on", "the", "location", "of", "the", "monitoring", "point", ".", "Indeed", ",", "the", "blind", "method", "counts", "the", "total", "number", "of", "bytes", "sent", "by", "the", "flow", "while", "the", "protocol-aware", "method", "considers", "only", "the", "data", "sent", "by", "the", "transport", "layer", ".", "Therefore", ",", "if", "the", "packet", "is", "lost", "before", "the", "monitoring", "point", ",", "the", "blind", "and", "protocol-aware", "method", "will", "have", "a", "consistent", "view", "of", "the", "number", "of", "bytes", "sent", ".", "Instead", ",", "if", "the", "packet", "is", "lost", "after", "the", "monitoring", "point", ",", "the", "blind", "method", "may", "count", "this", "packet", "twice", ".", "The", "impact", "of", "packet", "losses", "on", "the", "detection", "and", "ranking", "of", "the", "largest", "flows", "depends", "on", "the", "metric", "used", "to", "estimate", "the", "size", "of", "the", "flows", ".", "If", "flow", "sizes", "are", "estimated", "according", "to", "the", "total", "number", "of", "bytes", "sent", "-LRB-", "i.e.", ",", "the", "throughput", "-RRB-", ",", "then", "the", "protocol-aware", "method", "may", "incur", "in", "an", "underestimation", "error", "that", "is", "independent", "of", "the", "sampling", "rate", "-LRB-", "it", "will", "occur", "even", "if", "all", "packets", "are", "sampled", "!", "-RRB-", ".", "On", "the", "other", "hand", ",", "if", "the", "flow", "sizes", "are", "estimated", "according", "to", "the", "transport", "data", "sent", "-LRB-", "i.e.", ",", "the", "goodput", "-RRB-", ",", "then", "the", "blind", "method", "may", "incur", "in", "an", "overestimation", "error", "independently", "of", "the", "sampling", "rate", ".", "To", "illustrate", "the", "effect", "of", "packet", "loss", "rates", ",", "we", "plot", "in", "Figure", "9", "the", "performance", "of", "detecting", "the", "largest", "flows", "in", "the", "Abilene", "trace", "when", "the", "measurement", "bin", "is", "5", "minutes", "and", "the", "flow", "sizes", "are", "measured", "using", "the", "total", "number", "of", "bytes", "sent", "over", "the", "link", ".", "The", "top", "graph", "shows", "the", "performance", "of", "the", "blind", "method", ",", "while", "the", "bottom", "graph", "presents", "the", "results", "for", "the", "protocol-aware", "method", ".", "We", "can", "make", "the", "following", "observations", ":", "The", "protocol-aware", "method", "keeps", "performing", "better", "than", "the", "blind", "method", "when", "the", "sampling", "rate", "is", "above", "1", "%", ".", "At", "lower", "sampling", "rates", ",", "the", "blind", "method", "performs", "better", "although", "it", "presents", "very", "large", "errors", ".", "For", "sampling", "rates", "above", "2", "%", ",", "the", "curve", "relative", "to", "the", "detection", "of", "the", "top-25", "flows", "in", "the", "protocol-aware", "method", "flattens", "to", "a", "value", "around", "70", ".", "This", "is", "due", "to", "the", "presence", "of", "a", "few", "flows", "that", "experience", "a", "high", "loss", "rate", "when", "compared", "to", "other", "flows", ".", "Increasing", "the", "sampling", "rate", "does", "not", "help", "the", "protocol-aware", "method", "in", "detecting", "the", "largest", "flows", "when", "the", "volume", "of", "bytes", "sent", "is", "used", "to", "define", "the", "flow", "size", ".", "However", ",", "the", "protocol-aware", "method", "can", "correctly", "detect", "the", "top-25", "flows", "when", "their", "size", "is", "defined", "in", "terms", "of", "transport", "data", "-LRB-", "see", "Figure", "10", "-RRB-", ".", "In", "summary", ",", "the", "network", "operator", "has", "to", "choose", "the", "metric", "of", "interest", "that", "depends", "on", "the", "application", ".", "For", "example", ",", "for", "anomaly", "detection", "or", "traffic", "engineering", ",", "a", "metric", "that", "counts", "the", "number", "of", "bytes", "sent", "may", "be", "more", "appropriate", ".", "Instead", ",", "for", "dimensioning", "caches", "and", "proxies", ",", "the", "metric", "that", "considers", "the", "size", "of", "the", "objects", "transferred", "may", "be", "preferred", ".", "This", "latter", "metric", "suits", "more", "the", "protocol-aware", "method", ".", "6.4", "Variability", "of", "the", "results", "A", "last", "important", "aspect", "that", "we", "need", "to", "address", "is", "the", "variability", "of", "the", "results", "across", "multiple", "measurement", "intervals", "and", "different", "realizations", "of", "the", "sampling", "process", ".", "Indeed", ",", "moving", "from", "one", "measurement", "interval", "to", "another", ",", "10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "packet", "sampling", "rate", "%", "average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "blind", "detection", "top", "1", "top", "2", "top", "5", "top", "10", "top", "25", "10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "packet", "sampling", "rate", "%", "average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "protocol-aware", "detection", "top", "1", "top", "2", "top", "5", "top", "10", "top", "25", "Figure", "9", ":", "Performance", "of", "blind", "-LRB-", "top", "-RRB-", "and", "protocol-aware", "-LRB-", "bottom", "-RRB-", "detection", "on", "Abilene", "trace", "-LRB-", "300s", "measurement", "interval", "-RRB-", ".", "the", "composition", "of", "flows", "varies", "and", "with", "it", "the", "flow", "size", "distribution", ".", "Moreover", ",", "the", "sampling", "process", "may", "``", "get", "lucky", "''", "in", "certain", "cases", "and", "provide", "good", "results", ".", "The", "opposite", "is", "also", "possible", ".", "Figure", "11", "shows", "the", "average", "performance", "over", "15", "sampling", "experiments", "of", "the", "detection", "of", "the", "top-10", "flows", "in", "the", "Abilene", "trace", "over", "the", "5-minute", "measurement", "intervals", ".", "The", "error", "bars", "indicate", "the", "standard", "deviation", "across", "the", "15", "experiments", ".", "As", "usual", ",", "the", "top", "graph", "refers", "to", "the", "blind", "method", ",", "while", "the", "bottom", "graph", "presents", "the", "protocol-aware", "method", "results", ".", "As", "we", "can", "see", "the", "average", "performance", "shows", "limited", "variability", ".", "A", "sampling", "rate", "of", "0.1", "%", "gives", "poor", "results", "for", "all", "bins", ",", "while", "increasing", "the", "sampling", "rates", "consistently", "helps", ".", "With", "a", "sampling", "rate", "of", "10", "%", "the", "performance", "metric", "-LRB-", "i.e.", ",", "average", "number", "of", "misranked", "flow", "pairs", "-RRB-", "for", "the", "blind", "method", "is", "always", "below", "100", "while", "the", "protocol-aware", "method", "is", "always", "below", "1", ".", "Looking", "at", "the", "standard", "deviation", ",", "we", "observe", "large", "values", "for", "the", "blind", "method", "and", "much", "smaller", "values", "for", "the", "protocol-aware", "method", ".", "This", "indicates", "that", "the", "blind", "method", "is", "more", "sensitive", "to", "the", "sampling", "process", "than", "the", "protocol-aware", "method", ".", "The", "explanation", "is", "given", "in", "Section", "3.3.2", "where", "we", "showed", "that", "that", "the", "blind", "method", "presents", "a", "larger", "error", "for", "large", "flow", "sizes", "-LRB-", "expect", "when", "the", "sampling", "rate", "is", "very", "low", "-RRB-", ".", "We", "study", "the", "problem", "of", "detection", "and", "ranking", "the", "largest", "flows", "from", "a", "traffic", "sampled", "at", "the", "packet", "level", ".", "The", "study", "is", "198", "10", "-1", "10", "0", "10", "1", "10", "-1", "10", "0", "10", "1", "10", "2", "10", "3", "10", "4", "10", "5", "10", "6", "packet", "sampling", "rate", "%", "average", "number", "of", "misranked", "flow", "pairs", "Abilene", "trace", ",", "protocol-aware", "detect", "top", "1", "top", "2", "top", "5", "top", "10", "top", "25", "Figure", "10", ":", "Performance", "of", "protocol-aware", "detection", "on", "Abilene", "trace", "-LRB-", "300s", "measurement", "interval", "-RRB-", "when", "using", "actual", "amount", "of", "data", "sent", "by", "the", "transport", "layer", "application", ".", "done", "with", "stochastic", "tools", "and", "real", "packet-level", "traces", ".", "We", "find", "that", "the", "ranking", "accuracy", "is", "strongly", "dependent", "on", "the", "sampling", "rate", ",", "the", "flow", "size", "distribution", ",", "the", "total", "number", "of", "flows", "and", "the", "number", "of", "largest", "flows", "to", "be", "detected", "and", "ranked", ".", "By", "changing", "all", "these", "parameters", ",", "we", "conclude", "that", "ranking", "the", "largest", "flows", "requires", "a", "high", "sampling", "rate", "-LRB-", "10", "%", "and", "even", "more", "-RRB-", ".", "One", "can", "reduce", "the", "required", "sampling", "rate", "by", "only", "detecting", "the", "largest", "flows", "without", "considering", "their", "relative", "order", ".", "We", "also", "introduce", "a", "new", "method", "for", "flow", "ranking", "that", "exploits", "the", "information", "carried", "in", "transport", "header", ".", "By", "analysis", "and", "experimentation", ",", "we", "demonstrate", "that", "this", "new", "technique", "allows", "to", "reduce", "the", "required", "sampling", "rate", "by", "an", "order", "of", "magnitude", ".", "We", "are", "currently", "exploring", "two", "possible", "future", "directions", "for", "this", "work", ".", "First", ",", "we", "want", "to", "study", "the", "accuracy", "of", "the", "ranking", "when", "the", "sampled", "traffic", "is", "fed", "into", "one", "of", "the", "mechanisms", "proposed", "in", "-LSB-", "10", ",", "12", "-RSB-", "for", "sorting", "flows", "with", "reduced", "memory", "requirements", ".", "Second", ",", "we", "are", "exploring", "the", "use", "of", "adaptive", "schemes", "that", "set", "the", "sampling", "rate", "based", "on", "the", "characteristics", "of", "the", "observed", "traffic", ".", "We", "wish", "to", "thank", "NLANR", "-LSB-", "15", "-RSB-", ",", "Abilene/Internet2", "-LSB-", "1", "-RSB-", "and", "the", "Metropolis", "project", "-LSB-", "13", "-RSB-", "for", "making", "available", "the", "packet", "traces", "used", "in", "this", "work", ".", "-LSB-", "1", "-RSB-", "Abilene", ":", "Advanced", "networking", "for", "leading-edge", "research", "and", "education", ".", "http://abilene.internet2.edu", ".", "-LSB-", "2", "-RSB-", "C.", "Barakat", ",", "P.", "Thiran", ",", "G.", "Iannaccone", ",", "C.", "Diot", ",", "and", "P.", "Owezarski", ".", "Modeling", "Internet", "backbone", "traffic", "at", "the", "flow", "level", ".", "IEEE", "Transactions", "on", "Signal", "Processing", "-LRB-", "Special", "Issue", "on", "Signal", "Processing", "in", "Networking", "-RRB-", ",", "51", "-LRB-", "8", "-RRB-", ":", "2111", "2124", ",", "Aug.", "2003", ".", "-LSB-", "3", "-RSB-", "M.", "Charikar", ",", "K.", "Chen", ",", "and", "M.", "Farach-Colton", ".", "Finding", "frequent", "items", "in", "data", "streams", ".", "In", "Proceedings", "of", "ICALP", ",", "2002", ".", "-LSB-", "4", "-RSB-", "B.", "Y.", "Choi", ",", "J.", "Park", ",", "and", "Z.", "Zhang", ".", "Adaptive", "packet", "sampling", "for", "flow", "volume", "measurement", ".", "Technical", "Report", "TR-02-040", ",", "University", "of", "Minnesota", ",", "2002", ".", "-LSB-", "5", "-RSB-", "G.", "Cormode", "and", "S.", "Muthukrishnan", ".", "What", "'s", "hot", "and", "what", "'s", "not", ":", "Tracking", "most", "frequent", "items", "dynamically", ".", "In", "Proceedings", "of", "ACM", "PODS", ",", "June", "2003", ".", "-LSB-", "6", "-RSB-", "M.", "Crovella", "and", "A.", "Bestravos", ".", "Self-similarity", "in", "the", "World", "Wide", "Web", "traffic", ":", "Evidence", "and", "possible", "causes", ".", "IEEE/ACM", "Transactions", "on", "Networking", ",", "5", "-LRB-", "6", "-RRB-", ":", "835", "846", ",", "Dec.", "1997", ".", "0", "200", "400", "600", "800", "1000", "1200", "1400", "1600", "1800", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "10", "8", "time", "-LRB-", "sec", "-RRB-", "average", "number", "of", "swapped", "flow", "pairs", "Abilene", "trace", ",", "detection", "sampling", "0.1", "%", "sampling", "1", "%", "sampling", "10", "%", "0", "200", "400", "600", "800", "1000", "1200", "1400", "1600", "1800", "10", "-2", "10", "0", "10", "2", "10", "4", "10", "6", "10", "8", "time", "-LRB-", "sec", "-RRB-", "average", "number", "of", "swapped", "flow", "pairs", "Abilene", "trace", ",", "detection", "sampling", "0.1", "%", "sampling", "1", "%", "sampling", "10", "%", "Figure", "11", ":", "Performance", "of", "blind", "-LRB-", "top", "-RRB-", "and", "protocol-aware", "-LRB-", "bottom", "-RRB-", "detection", "over", "multiple", "300s", "intervals", "-LRB-", "Abilene", "trace", "-RRB-", ".", "Vertical", "bars", "show", "the", "standard", "deviation", "over", "multiple", "experiments", ".", "-LSB-", "7", "-RSB-", "E.", "Demaine", ",", "A.", "Lopez-Ortiz", ",", "and", "I.", "Munro", ".", "Frequency", "estimation", "of", "internet", "packet", "streams", "with", "limited", "space", ".", "In", "Proceedings", "of", "10th", "Annual", "European", "Symposium", "on", "Algorithms", ",", "2002", ".", "-LSB-", "8", "-RSB-", "N.", "G.", "Duffield", ",", "C.", "Lund", ",", "and", "M.", "Thorup", ".", "Properties", "and", "prediction", "of", "flow", "statistics", "from", "sampled", "packet", "streams", ".", "In", "Proceedings", "of", "ACM", "Sigcomm", "Internet", "Measurement", "Workshop", ",", "Nov.", "2002", ".", "-LSB-", "9", "-RSB-", "N.", "G.", "Duffield", ",", "C.", "Lund", ",", "and", "M.", "Thorup", ".", "Estimating", "flow", "distributions", "from", "sampled", "flow", "statistics", ".", "In", "Proceedings", "of", "ACM", "Sigcomm", ",", "Aug.", "2003", ".", "-LSB-", "10", "-RSB-", "C.", "Estan", "and", "G.", "Varghese", ".", "New", "directions", "in", "traffic", "measurement", "and", "accounting", ".", "In", "Proceedings", "of", "ACM", "Sigcomm", ",", "Aug.", "2002", ".", "-LSB-", "11", "-RSB-", "N.", "Hohn", "and", "D.", "Veitch", ".", "Inverting", "sampled", "traffic", ".", "In", "Proceedings", "of", "ACM", "Sigcomm", "Internet", "Measurement", "Conference", ",", "Oct.", "2003", ".", "-LSB-", "12", "-RSB-", "J.", "Jedwab", ",", "P.", "Phaal", ",", "and", "B.", "Pinna", ".", "Traffic", "estimation", "for", "the", "largest", "sources", "on", "a", "network", ",", "using", "packet", "sampling", "with", "limited", "storage", ".", "Technical", "Report", "HPL-92-35", ",", "HP", "Laboratories", ",", "Mar.", "1992", ".", "-LSB-", "13", "-RSB-", "Metropolis", ":", "METROlogie", "Pour", "l'Internet", "et", "ses", "services", ".", "http://www.laas.fr/", "owe/METROPOLIS/metropolis", "eng.html", ".", "-LSB-", "14", "-RSB-", "T.", "Mori", ",", "M.", "Uchida", ",", "R.", "Kawahara", ",", "J.", "Pan", ",", "and", "S.", "Goto", ".", "Identifying", "elephant", "flows", "through", "periodically", "sampled", "packets", ".", "In", "Proceedings", "of", "ACM", "Sigcomm", "Internet", "Measurement", "Conference", ",", "Oct.", "2004", ".", "-LSB-", "15", "-RSB-", "NLANR", ":", "National", "Laboratory", "for", "Applied", "Network", "Research", ".", "http://www.nlanr.net", ".", "-LSB-", "16", "-RSB-", "Packet", "Sampling", "Working", "Group", ".", "Internet", "Engineering", "Task", "Force", ".", "http://www.ietf.org/html.charters/psamp-charter.html", ".", "-LSB-", "17", "-RSB-", "K.", "Papagiannaki", ",", "N.", "Taft", ",", "and", "C.", "Diot", ".", "Impact", "of", "flow", "dynamics", "on", "traffic", "engineering", "design", "principles", ".", "In", "Proceedings", "of", "IEEE", "Infocom", ",", "Hong", "Kong", ",", "China", ",", "Mar.", "2004", ".", "-LSB-", "18", "-RSB-", "Renater", ".", "http://www.renater.fr", ".", "-LSB-", "19", "-RSB-", "H.", "Schulzrinne", ",", "S.", "Casner", ",", "R.", "Frederick", ",", "and", "V.", "Jacobson", ".", "RTP", ":", "A", "transport", "protocol", "for", "real-time", "applications", ".", "RFC", "1889", ",", "Jan.", "1996", ".", "-LSB-", "20", "-RSB-", "A.", "Shaikh", ",", "J.", "Rexford", ",", "and", "K.", "G.", "Shin", ".", "Load-sensitive", "routing", "of", "long-lived", "IP", "flows", ".", "In", "Proceedings", "of", "ACM", "Sigcomm", ",", "Sept.", "1999", ".", "-LSB-", "21", "-RSB-", "M.", "Spiegel", ".", "Theory", "and", "Problems", "of", "Probability", "and", "Statistics", ".", "McGraw-Hill", ",", "1992", ".", "199"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["packet sampling"], "abstractive_keyphrases": ["performance evaluation", "validation with real traces", "largest flow detection and ranking"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "211", "document": ["Very", "Low", "Complexity", "MPEG-2", "to", "H.", "264", "Transcoding", "Using", "Machine", "Learning", "This", "paper", "presents", "a", "novel", "macroblock", "mode", "decision", "algorithm", "for", "inter-frame", "prediction", "based", "on", "machine", "learning", "techniques", "to", "be", "used", "as", "part", "of", "a", "very", "low", "complexity", "MPEG-2", "to", "H.", "264", "video", "transcoder", ".", "Since", "coding", "mode", "decisions", "take", "up", "the", "most", "resources", "in", "video", "transcoding", ",", "a", "fast", "macro", "block", "-LRB-", "MB", "-RRB-", "mode", "estimation", "would", "lead", "to", "reduced", "complexity", ".", "The", "proposed", "approach", "is", "based", "on", "the", "hypothesis", "that", "MB", "coding", "mode", "decisions", "in", "H.", "264", "video", "have", "a", "correlation", "with", "the", "distribution", "of", "the", "motion", "compensated", "residual", "in", "MPEG-2", "video", ".", "We", "use", "machine", "learning", "tools", "to", "exploit", "the", "correlation", "and", "derive", "decision", "trees", "to", "classify", "the", "incoming", "MPEG-2", "MBs", "into", "one", "of", "the", "11", "coding", "modes", "in", "H.", "264", ".", "The", "proposed", "approach", "reduces", "the", "H.", "264", "MB", "mode", "computation", "process", "into", "a", "decision", "tree", "lookup", "with", "very", "low", "complexity", ".", "The", "proposed", "transcoder", "is", "compared", "with", "a", "reference", "transcoder", "comprised", "of", "a", "MPEG-2", "decoder", "and", "an", "H.", "264", "encoder", ".", "Our", "results", "show", "that", "the", "proposed", "transcoder", "reduces", "the", "H.", "264", "encoding", "time", "by", "over", "95", "%", "with", "negligible", "loss", "in", "quality", "and", "bitrate", ".", "I.", "4.2", "-LSB-", "Image", "Processing", "and", "Computer", "Vision", "-RSB-", ":", "Compression", "-LRB-", "Coding", "-RRB-", "Approximate", "methods", ".", "Algorithms", ",", "Performance", ",", "Design", ".", "During", "the", "past", "few", "years", ",", "technological", "developments", ",", "such", "as", "novel", "video", "coding", "algorithms", ",", "lower", "memory", "costs", ",", "and", "faster", "processors", ",", "are", "facilitating", "the", "design", "and", "development", "of", "highly", "efficient", "video", "encoding", "standards", ".", "Among", "the", "recent", "works", "in", "this", "area", ",", "the", "H.", "264", "video", "encoding", "standard", ",", "also", "known", "as", "MPEG-4", "AVC", "occupies", "a", "central", "place", "-LSB-", "1", "-RSB-", ".", "The", "H.", "264", "standard", "is", "highly", "efficient", "by", "offering", "perceptually", "equivalent", "video", "quality", "at", "about", "1/3", "to", "1/2", "of", "the", "bitrates", "offered", "by", "the", "MPEG-2", "format", ".", "However", ",", "these", "gains", "come", "with", "a", "significant", "increase", "in", "encoding", "and", "decoding", "complexity", "-LSB-", "2", "-RSB-", ".", "Though", "H.", "264", "is", "highly", "efficient", "compared", "to", "MPEG-2", ",", "the", "wide", "and", "deep", "penetration", "of", "MPEG-2", "creates", "a", "need", "for", "co-existence", "of", "these", "technologies", "and", "hence", "creates", "an", "important", "need", "for", "MPEG-2", "to", "H.", "264", "transcoding", "technologies", ".", "However", ",", "given", "the", "significant", "differences", "between", "both", "encoding", "algorithms", ",", "the", "transcoding", "process", "of", "such", "systems", "is", "much", "more", "complex", "compared", "to", "the", "other", "heterogeneous", "video", "transcoding", "processes", "-LSB-", "3-6", "-RSB-", ".", "The", "main", "elements", "that", "require", "to", "be", "addressed", "in", "the", "design", "of", "an", "efficient", "heterogeneous", "MPEG-2", "to", "H.", "264", "transcoder", "are", "-LSB-", "7", "-RSB-", ":", "the", "inter-frame", "prediction", ",", "the", "transform", "coding", "and", "the", "intra-frame", "prediction", ".", "Each", "one", "of", "these", "elements", "requires", "to", "be", "examined", "and", "various", "research", "efforts", "are", "underway", ".", "In", "this", "paper", ",", "we", "focus", "our", "attention", "on", "a", "part", "of", "the", "inter-frame", "prediction", ":", "the", "macroblock", "mode", "decision", ",", "one", "of", "the", "most", "stringent", "tasks", "involved", "in", "the", "transcoding", "process", ".", "A", "video", "transcoder", "is", "comprised", "of", "a", "decoding", "stage", "followed", "by", "an", "encoding", "stage", ".", "The", "decoding", "stage", "of", "a", "transcoder", "can", "perform", "full", "decoding", "to", "the", "pixel", "level", "or", "partial", "decoding", "to", "the", "coefficient", "level", ".", "Partial", "decoding", "is", "used", "in", "compressed", "domain", "transcoding", "where", "the", "transform", "coefficients", "in", "the", "input", "format", "are", "directly", "transcoded", "to", "the", "output", "format", ".", "This", "transformation", "is", "straightforward", "when", "the", "input", "and", "output", "formats", "of", "the", "transcoder", "use", "the", "same", "transform", "-LRB-", "e.g.", ",", "MPEG-2", "to", "MPEG-4", "transcoding", "-RRB-", "-LSB-", "5", "-RSB-", ".", "When", "these", "transforms", "differ", "substantially", ",", "the", "compressed", "domain", "transcoding", "becomes", "computationally", "expensive", ".", "The", "utility", "of", "this", "compressed", "domain", "transcoding", "is", "limited", "to", "intra", "MB", "transcoding", ".", "For", "predicted", "MBs", ",", "the", "transcoding", "in", "compressed", "domain", "becomes", "prohibitively", "expensive", ".", "The", "substantial", "differences", "in", "MPEG-2", "and", "H.", "264", "make", "even", "intra", "transcoding", "in", "the", "compressed", "domain", "relatively", "expensive", "-LSB-", "8", "-RSB-", ";", "pixel", "domain", "transcoding", "is", "shown", "to", "produce", "better", "results", "-LSB-", "9", "-RSB-", ".", "This", "work", "was", "supported", "by", "the", "Ministry", "of", "Science", "and", "Technology", "of", "Spain", "under", "CICYT", "project", "TIC2003-08154-C06-02", ",", "the", "Council", "of", "Science", "and", "Technology", "of", "Castilla-La", "Mancha", "under", "project", "PAI06-0106", "and", "FEDER", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MM", "'", "06", ",", "October", "23", "27", ",", "2006", ",", "Santa", "Barbara", ",", "California", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-447-2", "/", "06/0010", "...", "$", "5.00", ".", "931", "Pixel", "domain", "transcoders", "have", "a", "full", "decoding", "stage", "followed", "by", "a", "reduced", "complexity", "encoding", "stage", ".", "The", "complexity", "reduction", "is", "achieved", "by", "reusing", "the", "information", "gathered", "from", "the", "decoding", "stage", ".", "It", "is", "assumed", "that", "the", "input", "video", "is", "encoded", "with", "reasonable", "RD", "optimization", ".", "The", "MPEG-2", "to", "H.", "264", "complexity", "reduction", "techniques", "reported", "in", "the", "literature", "fall", "into", "two", "categories", ":", "1", "-RRB-", "MB", "mode", "mapping", "in", "H.", "264", "based", "on", "the", "MB", "modes", "of", "the", "incoming", "video", "-LSB-", "10", "-RSB-", "and", "2", "-RRB-", "Selective", "evaluation", "of", "MB", "modes", "in", "H.", "264", "based", "on", "heuristics", "-LSB-", "11", "-RSB-", ".", "Because", "of", "the", "large", "number", "of", "inter", "and", "intra", "MB", "coding", "modes", "supported", "by", "H.", "264", ",", "there", "is", "no", "one-to-one", "mapping", "between", "MPEG-2", "and", "H.", "264", "MB", "modes", ".", "A", "direct", "mapping", "leads", "to", "either", "a", "sub-optimal", "decision", "if", "the", "mapped", "mode", "is", "the", "final", "MB", "mode", "or", "an", "increase", "on", "complexity", "if", "additional", "evaluations", "have", "to", "be", "made", "to", "improve", "the", "mode", "decision", ".", "Selective", "evaluation", "is", "based", "on", "the", "observation", "that", "certain", "MB", "modes", "are", "less", "likely", "to", "occur", "for", "a", "class", "of", "videos", "and", "bitrates", ".", "If", "the", "selective", "evaluation", "is", "aggressive", "in", "limiting", "the", "number", "of", "allowed", "modes", ",", "the", "performance", "is", "sub-optimal", ".", "On", "the", "contrary", ",", "increasing", "the", "number", "of", "allowed", "modes", "increases", "the", "complexity", ".", "We", "have", "developed", "an", "innovative", "approach", "that", "is", "not", "limited", "by", "the", "inefficiencies", "of", "mode", "mapping", "or", "selective", "evaluation", "approaches", ".", "The", "proposed", "approach", "is", "based", "on", "the", "hypothesis", "that", "MB", "coding", "mode", "decisions", "in", "H.", "264", "video", "have", "a", "correlation", "with", "the", "distribution", "of", "the", "motion", "compensated", "residual", "in", "MPEG-2", "video", ".", "Exploiting", "this", "correlation", "together", "with", "the", "MB", "coding", "modes", "of", "MPEG-2", "could", "lead", "to", "a", "very", "low", "complexity", "transcoder", ".", "Figure", "1", "shows", "a", "plot", "of", "the", "mean", "and", "variance", "of", "the", "MPEG-2", "MB", "residual", "in", "the", "input", "video", "and", "the", "H.", "264", "MB", "coding", "mode", "of", "the", "corresponding", "MB", "in", "the", "transcoded", "video", ".", "As", "the", "coding", "mode", "changes", ",", "the", "shift", "in", "the", "mean", "and", "variance", "of", "the", "corresponding", "MB", "can", "be", "clearly", "seen", ".", "This", "correlation", "can", "be", "effectively", "exploited", "using", "machine", "learning", "approaches", ".", "Thus", ",", "the", "H.", "264", "MB", "mode", "computation", "problem", "is", "posed", "as", "a", "data", "classification", "problem", "where", "the", "MPEG-2", "MB", "coding", "mode", "and", "residual", "have", "to", "be", "classified", "into", "one", "of", "the", "several", "H.", "264", "coding", "modes", ".", "The", "proposed", "transcoder", "is", "developed", "based", "on", "these", "principles", "and", "reduces", "the", "H.", "264", "MB", "mode", "computation", "process", "into", "a", "decision", "tree", "lookup", "with", "very", "low", "complexity", ".", "Figure", "1", ".", "Relationship", "between", "MPEG-2", "MB", "residual", "and", "H.", "264", "MB", "coding", "mode", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "reviews", "the", "principles", "of", "operation", "of", "the", "prediction", "of", "inter-coded", "macroblocks", "in", "p-slices", "used", "by", "the", "H.", "264", "encoding", "standard", ".", "Section", "3", "introduces", "our", "macroblock", "mode", "decision", "algorithm", "for", "inter-frame", "prediction", "based", "on", "machine", "learning", "techniques", ",", "specifically", "designed", "for", "MPEG-2", "to", "H.", "264", "transcoders", ".", "In", "Section", "4", ",", "we", "carry", "out", "a", "performance", "evaluation", "of", "the", "proposed", "algorithm", "in", "terms", "of", "its", "computational", "complexity", "and", "rate-distortion", "results", ".", "We", "compare", "the", "performance", "of", "our", "proposal", "to", "the", "reference", "transcoder", "with", "the", "encoding", "stage", "using", "the", "H.", "264", "reference", "implementation", ".", "Finally", ",", "Section", "5", "draws", "our", "conclusions", "and", "outlines", "our", "future", "research", "plans", ".", "In", "the", "H.", "264", "standard", ",", "the", "macroblock", "decision", "mode", "and", "motion", "estimation", "are", "the", "most", "computationally", "expensive", "processes", ".", "H.", "264", "uses", "block-based", "motion", "compensation", ",", "the", "same", "principle", "adopted", "by", "every", "major", "coding", "standard", "since", "H.", "261", ".", "Important", "differences", "from", "earlier", "standards", "include", "the", "support", "for", "a", "range", "of", "block", "sizes", "-LRB-", "down", "to", "4x4", "-RRB-", "and", "fine", "sub-pixel", "motion", "vectors", "-LRB-", "1/4", "pixel", "in", "the", "luma", "component", "-RRB-", ".", "H.", "264", "supports", "motion", "compensation", "block", "sizes", "ranging", "from", "16x16", "to", "4x4", "luminance", "samples", "with", "many", "options", "between", "the", "two", ".", "The", "luminance", "component", "of", "each", "macroblock", "-LRB-", "16x16", "samples", "-RRB-", "may", "be", "split", "up", "in", "4", "ways", ":", "16x16", ",", "16x8", ",", "8x16", "or", "8x8", ".", "Each", "of", "the", "sub-divided", "regions", "is", "a", "macroblock", "partition", ".", "If", "the", "8x8", "mode", "is", "chosen", ",", "each", "of", "the", "four", "8x8", "macroblock", "partitions", "within", "the", "macroblock", "may", "be", "further", "split", "in", "4", "ways", ":", "8x8", ",", "8x4", ",", "4x8", "or", "4x4", "-LRB-", "known", "as", "sub-macroblock", "partitions", "-RRB-", ".", "These", "partitions", "and", "sub-partitions", "give", "rise", "to", "a", "large", "number", "of", "possible", "combinations", "within", "each", "macroblock", "-LRB-", "see", "Figure", "2", "-RRB-", ".", "This", "method", "of", "partitioning", "macroblocks", "into", "motion", "compensated", "sub-blocks", "of", "varying", "size", "is", "known", "as", "tree", "structured", "motion", "compensation", ".", "Figure", "2", ".", "Macroblock", "partitions", ",", "sub-macroblock", "partitions", "and", "partition", "scans", ".", "A", "separate", "motion", "vector", "-LRB-", "previously", "calculated", "in", "the", "motion", "estimation", "module", "-RRB-", "is", "required", "for", "each", "partition", "or", "sub-partition", ".", "Each", "motion", "vector", "must", "be", "coded", "and", "transmitted", ";", "in", "addition", ",", "the", "choice", "of", "partition", "-LRB-", "s", "-RRB-", "must", "be", "encoded", "in", "the", "compressed", "bitstream", ".", "Choosing", "a", "large", "partition", "size", "-LRB-", "e.g.", "16x16", ",", "16x8", ",", "8x16", "-RRB-", "means", "that", "a", "small", "number", "of", "bits", "are", "required", "to", "signal", "the", "choice", "of", "motion", "vector", "-LRB-", "s", "-RRB-", "and", "the", "type", "of", "partition", ";", "however", ",", "the", "motion", "compensated", "residual", "may", "contain", "a", "significant", "amount", "of", "energy", "in", "areas", "with", "high", "detail", ".", "Choosing", "a", "small", "partition", "size", "-LRB-", "e.g.", "8x4", ",", "4x4", ",", "etc.", "-RRB-", "may", "give", "a", "lower-energy", "residual", "after", "motion", "compensation", "but", "requires", "a", "larger", "number", "of", "bits", "to", "signal", "the", "motion", "vectors", "and", "choice", "of", "partition", "-LRB-", "s", "-RRB-", ".", "The", "choice", "of", "partition", "size", "therefore", "has", "a", "significant", "impact", "on", "compression", "performance", ".", "In", "general", ",", "a", "large", "partition", "size", "is", "appropriate", "for", "homogeneous", "areas", "of", "the", "frame", "and", "a", "small", "partition", "size", "may", "be", "beneficial", "for", "areas", "with", "high", "detail", ".", "Va", "ri", "a", "n", "ce", "MPEG-2", "Res", ".", "MB", "Var", ".", "H.", "264", "MB", "Mode", "MB", "Number", "Mea", "n", "MPEG-2", "Res", ".", "MB", "Mean", "H.", "264", "MB", "Mode", "932", "The", "resolution", "of", "each", "chroma", "component", "in", "a", "macroblock", "-LRB-", "Cr", "and", "Cb", "-RRB-", "is", "half", "that", "of", "the", "luminance", "-LRB-", "luma", "-RRB-", "component", ".", "Each", "chroma", "block", "is", "partitioned", "in", "the", "same", "way", "as", "the", "luma", "component", ",", "except", "that", "the", "partition", "sizes", "have", "exactly", "half", "the", "horizontal", "and", "vertical", "resolution", "-LRB-", "an", "8x16", "partition", "in", "luma", "corresponds", "to", "a", "4x8", "partition", "in", "chroma", ";", "an", "8x4", "partition", "in", "luma", "corresponds", "to", "4x2", "in", "chroma", ";", "and", "so", "on", "-RRB-", ".", "The", "horizontal", "and", "vertical", "components", "of", "each", "motion", "vector", "-LRB-", "one", "per", "partition", "-RRB-", "are", "halved", "when", "applied", "to", "the", "chroma", "blocks", ".", "Each", "partition", "in", "an", "inter-coded", "macroblock", "is", "predicted", "from", "an", "area", "of", "the", "same", "size", "in", "a", "reference", "picture", ".", "The", "offset", "between", "the", "two", "areas", "-LRB-", "the", "motion", "vector", "-RRB-", "has", "-", "pixel", "resolution", "-LRB-", "for", "the", "luma", "component", "-RRB-", ".", "If", "the", "video", "source", "sampling", "is", "4:2:0", ",", "1/8", "pixel", "samples", "are", "required", "in", "the", "chroma", "components", "-LRB-", "corresponding", "to", "-", "pixel", "samples", "in", "the", "luma", "-RRB-", ".", "The", "luma", "and", "chroma", "samples", "at", "sub-pixel", "positions", "do", "not", "exist", "in", "the", "reference", "picture", "and", "so", "it", "is", "necessary", "to", "create", "them", "using", "interpolation", "from", "nearby", "image", "samples", ".", "Sub-pixel", "motion", "compensation", "can", "provide", "significantly", "better", "compression", "performance", "than", "integer-pixel", "compensation", ",", "at", "the", "expense", "of", "increased", "complexity", ".", "Quarter-pixel", "accuracy", "outperforms", "half-pixel", "accuracy", ".", "Encoding", "a", "motion", "vector", "for", "each", "partition", "can", "take", "a", "significant", "number", "of", "bits", ",", "especially", "if", "small", "partition", "sizes", "are", "chosen", ".", "Motion", "vectors", "for", "neighboring", "partitions", "are", "often", "highly", "correlated", "and", "so", "each", "motion", "vector", "is", "predicted", "from", "vectors", "of", "nearby", ",", "previously", "coded", "partitions", ".", "The", "method", "of", "forming", "the", "prediction", "MVp", "depends", "on", "the", "motion", "compensation", "partition", "size", "and", "on", "the", "availability", "of", "nearby", "vectors", ".", "In", "H.", "264", ",", "the", "macroblock", "mode", "decision", "is", "the", "most", "computationally", "expensive", "process", ".", "Mode", "decision", "is", "a", "process", "such", "that", "for", "each", "possible", "block-size", "a", "cost", "is", "evaluated", ".", "The", "encoder", "selects", "the", "coding-modes", "for", "the", "macroblock", ",", "including", "the", "best", "macroblock", "partition", "-LRB-", "sub-macroblock", "partition", "-RRB-", "and", "mode", "of", "prediction", "for", "each", "macroblock", "partition", ",", "such", "that", "the", "cost", "is", "optimized", ".", "In", "the", "JM", "reference", "code", "-LRB-", "version", "10.2", "-RRB-", "-LSB-", "12", "-RSB-", ",", "the", "motion", "estimation", "and", "the", "mode", "decision", "are", "executed", "together", ".", "This", "implies", "that", "for", "each", "macroblock", "partition", "-LRB-", "sub-macroblock", "partition", "-RRB-", "within", "the", "MB", ",", "motion", "estimation", "is", "done", "first", "and", "the", "resulting", "cost", "is", "used", "for", "the", "mode", "decision", ".", "In", "the", "H.", "264", ",", "two", "methods", "have", "been", "defined", "to", "evaluate", "the", "cost", "for", "MB", "mode", "decision", ":", "RD-cost", "and", "SAE-cost", ".", "In", "the", "following", ",", "we", "describe", "these", "two", "methods", ".", "2.1", "The", "RD-Cost", "The", "Rate-Distortion", "-LRB-", "RD", "-RRB-", "optimization", "method", "is", "based", "on", "a", "Lagrange", "multiplier", "-LSB-", "13", "-RSB-", "-LSB-", "14", "-RSB-", ".", "The", "H.", "264", "standard", "can", "make", "use", "of", "this", "optimization", "method", "to", "choose", "the", "best", "macroblock", "mode", "decision", ".", "Different", "from", "evaluating", "the", "cost", "of", "coding", "a", "macroblock", "on", "a", "pixel", "by", "pixel", "basis", "-LRB-", "SAE", "cost", "-RRB-", ",", "the", "RD-cost", "consists", "of", "making", "the", "selection", "based", "on", "a", "Lagrange", "function", ".", "In", "this", "way", ",", "the", "H.", "264", "standard", "selects", "the", "macroblock", "mode", "exhibiting", "the", "minimum", "Lagrange", "cost", ".", "This", "implies", "that", "for", "each", "existing", "macroblock", "partition", "-LRB-", "sub-partition", "-RRB-", "within", "the", "MB", ",", "bitrate", "and", "distortion", "are", "calculated", "by", "actually", "encoding", "and", "decoding", "the", "video", ".", "Therefore", ",", "the", "encoder", "can", "achieve", "the", "best", "Rate-Distortion", "performance", "results", ",", "at", "the", "expense", "of", "calculation", "complexity", ".", "For", "evaluating", "the", "RD-cost", ",", "the", "standard", "has", "to", "obtain", "the", "encoding", "rate", ",", "R", ",", "and", "the", "distortion", ",", "D", ",", "of", "each", "macroblock", "partition", "-LRB-", "sub-macroblock", "partition", "-RRB-", ".", "The", "former", "is", "obtained", "by", "first", "computing", "the", "difference", "between", "the", "original", "macroblock", "and", "its", "predictor", ".", "Thereafter", ",", "a", "4x4", "Hadamard", "Transform", "-LRB-", "HT", "-RRB-", "has", "to", "be", "applied", "followed", "by", "a", "quantization", "process", ".", "The", "distortion", ",", "D", ",", "is", "obtained", "by", "performing", "an", "inverse", "quantization", "process", "followed", "by", "its", "inverse", "HT", "and", "then", "comparing", "the", "original", "macroblock", "to", "the", "reconstructed", "one", ".", "The", "H.", "264", "standard", "chooses", "then", "the", "decision", "mode", "having", "the", "minimum", "cost", ",", "J", ".", "The", "cost", "is", "evaluated", "using", "the", "Lagrange", "function", "J", "=D", "+", "x", "R", ",", "where", "is", "the", "Lagrange", "multiplier", ".", "Figure", "3", "depicts", "the", "overall", "process", ".", "One", "of", "the", "main", "drawbacks", "of", "this", "method", "is", "its", "excessive", "computational", "cost", ".", "On", "the", "contrary", ",", "the", "encoder", "can", "achieve", "the", "best", "Rate-Distortion", "performance", "results", ".", "However", ",", "for", "many", "applications", ",", "the", "use", "of", "the", "Lagrange", "multiplier", "may", "be", "prohibitive", ".", "This", "is", "the", "case", "when", "developing", "a", "transcoding", "architecture", "aimed", "to", "work", "in", "real-time", ".", "HT", "+", "QP", "Encoder", "H.", "264/AVC", "with", "loop", "Rate-Distorsion", "QP", "-1", "IHT", "+", "Compute", "rate", "Prediction", "Frame", "+", "Determine", "distorsion", "+", "+", "Compute", "cost", "-LRB-", "J", "=", "D", "+", "x", "R", "-RRB-", "Decision", "R", "D", "Figure", "3", ".", "RD-cost", "method", "in", "the", "H.", "264", "encoder", ".", "2.2", "The", "SAE-Cost", "In", "this", "method", ",", "the", "H.", "264", "encoder", "selects", "the", "best", "macroblock", "mode", "by", "using", "the", "Sum", "of", "Absolute", "Errors", "-LRB-", "SAE", "-RRB-", ".", "This", "implies", "that", "for", "each", "existing", "macroblock", "partition", "-LRB-", "sub-partition", "-RRB-", "within", "the", "MB", ",", "a", "predictor", "within", "the", "pixel-domain", "is", "created", "from", "the", "motion", "estimation", "of", "the", "current", "partition", "and", "the", "SAE", "costs", "is", "evaluated", ".", "For", "each", "MB", "and", "for", "each", "color", "component", "-LRB-", "Y", ",", "Cr", ",", "Cb", "-RRB-", ",", "one", "prediction", "mode", "have", "to", "be", "obtained", ".", "The", "best", "mode", "is", "determined", "corresponding", "to", "the", "mode", "exhibiting", "the", "minimum", "SAE", "cost", ".", "One", "of", "the", "main", "advantages", "of", "this", "method", "is", "its", "low", "computational", "cost", ".", "On", "the", "contrary", ",", "the", "Rate-Distortion", "performance", "results", "are", "sub-optimal", ".", "2.3", "The", "Fast", "Motion", "Estimation", "Option", "Motion", "estimation", "is", "one", "of", "the", "most", "important", "tools", "in", "H.", "264", "encoder", "for", "exploiting", "the", "high", "temporal", "redundancy", "between", "successive", "frames", "to", "improve", "video", "coding", "efficiency", ".", "And", "motion", "estimation", "is", "also", "the", "most", "time", "consuming", "part", "in", "the", "H.", "264", "encoder", "-LRB-", "since", "it", "is", "also", "used", "for", "mode", "decision", "-RRB-", ".", "Generally", "motion", "estimation", "is", "conducted", "into", "two", "steps", ":", "first", "is", "integer", "pel", "motion", "estimation", ";", "and", "the", "second", "is", "fractional", "pel", "motion", "estimation", "around", "the", "position", "obtained", "by", "the", "integer", "pel", "motion", "estimation", ".", "Algorithms", "on", "Fast", "Motion", "Estimation", "-LRB-", "FME", "-RRB-", "are", "always", "hot", "research", "spot", ",", "especially", "fast", "integer", "pel", "motion", "estimation", "has", "achieved", "much", "more", "attention", "because", "traditional", "fractional", "pel", "933", "motion", "estimation", "only", "take", "a", "very", "few", "proportion", "in", "the", "computation", "load", "of", "whole", "motion", "estimation", ".", "Fast", "motion", "estimation", "algorithms", "such", "as", "EPZS", "-LSB-", "15", "-RSB-", ",", "UMHexagonS", "-LSB-", "16", "-RSB-", ",", "and", "SEA", "-LSB-", "17", "-RSB-", "have", "been", "proposed", "to", "reduce", "the", "number", "of", "searching", "points", "in", "motion", "estimation", ".", "The", "UMHexagonS", "algorithm", "proposed", "by", "Tsinghua", "University", "was", "adopted", "by", "the", "H.", "264/MPEG", "-", "4", "Part", "10", "-LRB-", "AVC", "-RRB-", "reference", "software", "implementation", "-LSB-", "12", "-RSB-", ".", "This", "algorithm", "uses", "the", "hybrid", "and", "hierarchical", "motion", "search", "strategies", ".", "It", "includes", "four", "steps", "with", "different", "kinds", "of", "search", "pattern", ":", "1", "-RRB-", "Predictor", "selection", "and", "prediction", "mode", "reordering", ";", "2", "-RRB-", "Unsymmetrical-cross", "search", ";", "3", "-RRB-", "Uneven", "multi-hexagon-grid", "search", ";", "4", "-RRB-", "Extended", "hexagon-based", "search", ".", "With", "the", "second", "and", "third", "step", ",", "the", "motion", "estimation", "accuracy", "can", "be", "nearly", "as", "high", "as", "that", "of", "full", "search", ".", "But", "the", "computation", "load", "and", "operations", "can", "be", "reduced", "even", "more", ".", "Unsymmetrical-cross", "search", "uses", "prediction", "vector", "as", "the", "search", "center", "and", "extends", "in", "the", "horizontal", "and", "vertical", "directions", "respectively", ".", "Uneven", "multi-hexagon-grid", "search", "includes", "two", "sub-steps", ":", "first", "a", "full", "search", "is", "carried", "out", "around", "the", "search", "center", ".", "And", "then", "a", "16-HP", "multi-hexagon-grid", "search", "strategy", "is", "taken", ".", "Extended", "hexagon-based", "search", "is", "used", "as", "a", "center", "based", "search", "algorithm", ",", "including", "hexagon", "search", "and", "diamond", "search", "in", "a", "small", "range", ".", "In", "the", "H.", "264", "reference", "software", ",", "the", "Fast", "Motion", "Estimation", "-LRB-", "FME", "-RRB-", "algorithm", "-LRB-", "based", "in", "the", "UMHexagonS", "algorithm", "-RRB-", "can", "be", "employed", "for", "the", "motion", "estimation", "in", "addition", "to", "the", "original", "Full", "Search", "-LRB-", "FS", "-RRB-", "algorithm", ".", "Machine", "learning", "refers", "to", "the", "study", "of", "algorithms", "and", "systems", "that", "``", "learn", "''", "or", "acquire", "knowledge", "from", "experiences", ".", "Deductive", "machine", "learning", "deduces", "new", "rules/knowledge", "from", "existing", "rules", "and", "inductive", "machine", "learning", "uses", "the", "analysis", "of", "data", "sets", "for", "creating", "a", "set", "of", "rules", "to", "take", "decisions", ".", "These", "rules", "can", "be", "used", ",", "in", "the", "machine", "learning", ",", "to", "build", "a", "tree", "decision", "using", "a", "set", "of", "experiments", "or", "examples", ",", "named", "the", "training", "data", "set", ".", "This", "set", "of", "data", "must", "have", "the", "following", "properties", "-LSB-", "18", "-RSB-", ":", "1", ".", "Each", "attribute", "or", "variable", "can", "take", "nominal", "or", "numerical", "values", ",", "but", "the", "number", "of", "attributes", "can", "not", "vary", "from", "an", "example", "to", "another", ".", "This", "is", "to", "say", ",", "all", "the", "samples", "in", "the", "training", "data", "set", "used", "for", "training", "the", "model", "must", "have", "the", "same", "number", "of", "variables", ".", "2", ".", "The", "set", "of", "categories", "that", "the", "examples", "can", "be", "assigned", "to", "must", "a", "priori", "be", "known", "to", "enable", "supervised", "learning", ".", "3", ".", "The", "set", "of", "categories", "must", "be", "finite", "and", "must", "be", "different", "from", "one", "another", ".", "4", ".", "Since", "the", "inductive", "learning", "consists", "of", "obtaining", "generalization", "from", "examples", ",", "it", "is", "supposed", "the", "existence", "of", "a", "sufficiently", "great", "number", "of", "examples", ".", "Machine", "learning", "uses", "statistics", "with", "different", "kinds", "of", "algorithms", "to", "solve", "a", "problem", "by", "studying", "and", "analyzing", "the", "data", ".", "Machine", "learning", "has", "been", "used", "in", "an", "extensive", "range", "of", "applications", "including", "search", "engines", ",", "medical", "diagnosis", ",", "stock", "market", "analysis", ",", "classifying", "DNA", "sequences", ",", "speech", "and", "handwriting", "recognition", ",", "object", "recognition", "in", "computer", "vision", ",", "game", "playing", "and", "robot", "motion", ",", "etc.", ".", "In", "this", "paper", ",", "we", "describe", "the", "process", "of", "using", "machine", "learning", "to", "build", "a", "decision", "tree", "for", "very", "low", "complexity", "transcoding", ".", "The", "decision", "tree", "will", "be", "used", "to", "determine", "the", "coding", "mode", "of", "an", "MB", "in", "P", "frames", "of", "the", "output", "H.", "264", "video", ",", "based", "on", "the", "information", "gathered", "during", "the", "MPEG-2", "decoding", "stage", ".", "Figure", "4", "depicts", "the", "process", "for", "building", "the", "decision", "trees", "to", "be", "used", "in", "the", "MPEG-2", "to", "H.", "264", "transcoding", "process", ".", "The", "incoming", "MPEG-2", "video", "is", "decoded", "and", "during", "the", "decoding", "stage", ",", "the", "MB", "coding", "mode", ",", "the", "coded", "block", "pattern", "-LRB-", "CBPC", "-RRB-", ",", "and", "the", "mean", "and", "variance", "of", "the", "residual", "information", "for", "this", "MB", "-LRB-", "calculated", "for", "its", "4x4", "sub-blocks", "resulting", "in", "16", "means", "and", "16", "variances", "for", "each", "MB", "-RRB-", "are", "saved", ".", "The", "decoded", "MPEG-2", "video", "is", "then", "encoded", "using", "the", "standard", "H.", "264", "encoder", ".", "The", "coding", "mode", "of", "the", "corresponding", "MBs", "in", "H.", "264", "is", "also", "saved", ".", "Based", "on", "the", "MPEG-2", "data", "and", "the", "corresponding", "H.", "264", "coding", "mode", "decision", "for", "each", "MB", ",", "a", "machine", "learning", "algorithm", "is", "used", "to", "create", "decision", "trees", "that", "classify", "an", "MB", "into", "one", "of", "the", "11", "H.", "264", "MB", "coding", "modes", ".", "Figure", "4", ".", "Process", "for", "building", "decision", "trees", "for", "MPEG-2", "to", "H.", "264", "transcoding", ".", "3.1", "Creating", "the", "Training", "Files", "A", "decision", "tree", "is", "made", "by", "mapping", "the", "observations", "about", "a", "set", "of", "data", "to", "a", "tree", "made", "of", "arcs", "and", "nodes", ".", "The", "nodes", "are", "the", "variables", "and", "the", "arcs", "the", "possible", "values", "for", "that", "variable", ".", "The", "tree", "can", "have", "more", "than", "one", "level", ";", "in", "that", "case", ",", "the", "nodes", "-LRB-", "leafs", "of", "the", "tree", "-RRB-", "represent", "the", "decisions", "based", "on", "the", "values", "of", "the", "different", "variables", "that", "drive", "the", "decision", "from", "the", "root", "to", "the", "leaf", ".", "These", "types", "of", "trees", "are", "used", "in", "the", "machine", "learning", "processes", "for", "discovering", "the", "relationships", "in", "a", "set", "of", "data", ".", "The", "tree", "leafs", "are", "the", "classifications", "and", "the", "branches", "are", "the", "features", "that", "lead", "to", "a", "specific", "classification", ".", "A", "tree", "decision", "is", "a", "classifier", "based", "on", "a", "set", "of", "attributes", "allowing", "us", "to", "determine", "the", "category", "of", "an", "input", "data", "sample", ".", "The", "decision", "tree", "for", "the", "transcoder", "was", "made", "using", "the", "WEKA", "data", "mining", "tool", "-LSB-", "18", "-RSB-", ".", "The", "files", "that", "are", "used", "for", "the", "WEKA", "data", "mining", "program", "are", "known", "as", "Attribute-Relation", "File", "Format", "-LRB-", "ARFF", "-RRB-", "files", ".", "An", "ARFF", "file", "is", "written", "in", "ASCII", "text", "and", "shows", "the", "relationship", "between", "a", "set", "of", "attributes", ".", "Basically", ",", "this", "file", "has", "two", "different", "sections", ":", "1", "-RRB-", "the", "header", "which", "contains", "the", "name", "of", "the", "relation", ",", "the", "attributes", "that", "are", "used", ",", "and", "their", "types", ";", "and", "2", "-RRB-", "the", "section", "containing", "the", "data", ".", "The", "training", "sets", "were", "made", "using", "MPEG-2", "sequences", "encoded", "at", "higher", "than", "the", "typical", "broadcast", "encoding", "rates", "for", "the", "same", "quality", ",", "since", "the", "B", "frames", "are", "not", "used", ".", "The", "H.", "264", "decisions", "in", "the", "training", "set", "were", "obtained", "from", "encoding", "the", "MPEG-2", "934", "decoded", "sequence", "with", "a", "quantization", "parameter", "of", "25", "and", "RD", "optimization", "enabled", ".", "After", "extensive", "experimentation", ",", "we", "found", "that", "sequences", "that", "contain", "regions", "varying", "from", "homogenous", "to", "high-detail", "serve", "as", "good", "training", "sets", ".", "Good", "sample", "sequences", "could", "be", "Flower", "and", "Football", ".", "The", "goal", "is", "to", "develop", "a", "single", ",", "generalized", ",", "decision", "tree", "that", "can", "be", "used", "for", "transcoding", "any", "MPEG-2", "video", ".", "Figure", "5", "shows", "the", "decision", "trees", "built", "using", "the", "process", "depicted", "in", "Figure", "4", ".", "As", "shown", "in", "Figure", "4", ",", "the", "Decision", "Tree", "for", "the", "proposed", "transcoder", "is", "a", "hierarchical", "decision", "tree", "with", "three", "different", "WEKA", "trees", ":", "1", "-RRB-", "classifier", "for", "Intra", ",", "Skip", ",", "Inter", "16x16", ",", "and", "Inter", "8x8", ",", "2", "-RRB-", "classifier", "to", "classify", "inter", "16x16", "into", "one", "of", "16x16", ",", "16x8", ",", "and", "8x16", "MBs", "and", "3", "-RRB-", "classifier", "to", "classify", "inter", "8x8", "into", "one", "of", "8x8", ",", "8x4", ",", "4x8", ",", "or", "4x4", ".", "This", "paper", "focuses", "on", "the", "Inter", "MB", "mode", "computation", "and", "the", "further", "classification", "and", "processing", "for", "Intra", "MBs", "is", "not", "discussed", "in", "this", "paper", ".", "For", "creating", "the", "first", "WEKA", "tree", "-LRB-", "Figure", "5", "node", "1", "-RRB-", ",", "the", "first", "training", "data", "set", "uses", "the", "mean", "and", "variance", "of", "each", "one", "of", "the", "sixteen", "4x4", "residual", "sub-blocks", ",", "the", "MB", "mode", "in", "MPEG-2", "-LRB-", "skip", ",", "intra", ",", "and", "three", "non-intra", "modes", ",", "labeled", "as", "0", ",", "1", ",", "2", ",", "4", "and", "8", "in", "the", "code", "shown", "below", "-RRB-", ",", "the", "coded", "block", "pattern", "-LRB-", "CBPC", "-RRB-", "in", "MPEG-2", ",", "and", "the", "corresponding", "H.", "264", "MB", "coding", "mode", "decision", "for", "that", "MB", "as", "determined", "by", "the", "standard", "reference", "software", ".", "The", "header", "section", "of", "the", "ARFF", "files", "has", "the", "attribute", "declaration", "depicted", "herein", ":", "The", "supposed", "dependent", "variable", ",", "namely", "class", "in", "the", "example", ",", "is", "the", "variable", "that", "we", "are", "trying", "to", "understand", ",", "classify", ",", "or", "generalize", ".", "The", "other", "attributes", "are", "the", "variables", "that", "determine", "the", "classification", ".", "The", "ARFF", "data", "section", "has", "the", "instance", "lines", ",", "which", "are", "the", "samples", "used", "to", "train", "our", "model", ".", "Each", "macroblock", "sample", "is", "represented", "on", "a", "single", "line", ".", "In", "this", "case", "the", "variable", "class", "can", "take", "four", "values", "-LRB-", "skip", ",", "16x16", ",", "8x8", "or", "Intra", "labeled", "as", "0", ",", "1", ",", "8", "and", "9", "in", "the", "code", "-RRB-", ".", "The", "second", "training", "data", "set", ",", "used", "for", "creating", "the", "second", "WEKA", "tree", "-LRB-", "Figure", "5", "node", "2", "-RRB-", ",", "was", "made", "using", "the", "samples", "-LRB-", "MBs", "-RRB-", "that", "were", "encoded", "as", "16x16", "MBs", "in", "the", "H.", "264", "reference", "encoder", ".", "It", "uses", "the", "mean", "and", "variances", "of", "each", "one", "of", "the", "sixteen", "4x4", "residual", "sub-blocks", ",", "the", "MB", "mode", "in", "MPEG-2", "-LRB-", "in", "this", "case", "only", "the", "three", "non-intra", "modes", "-RRB-", ",", "the", "coded", "block", "pattern", "-LRB-", "CBPC", "-RRB-", "in", "MPEG-2", ",", "and", "the", "corresponding", "H.", "264", "MB", "coding", "sub-mode", "decision", "in", "the", "16x16", "mode", ",", "as", "determined", "by", "the", "standard", "reference", "software", ":", "16x16", ",", "16x8", "or", "8x16", ".", "This", "tree", "determines", "the", "final", "coding", "mode", "of", "the", "MBs", "classified", "as", "inter", "16x16", "by", "the", "first", "tree", ".", "The", "third", "and", "last", "training", "data", "set", ",", "was", "used", "to", "create", "the", "third", "WEKA", "tree", "-LRB-", "Figure", "5", "node", "3", "-RRB-", "and", "was", "made", "using", "the", "samples", "-LRB-", "MBs", "-RRB-", "that", "were", "encoded", "as", "inter", "8x8", "MBs", "in", "the", "H.", "264", "reference", "encoder", ".", "It", "uses", "four", "means", "and", "four", "variances", "of", "4x4", "residual", "sub-blocks", ",", "the", "MB", "mode", "in", "MPEG-2", "-LRB-", "the", "three", "non-intra", "modes", "-RRB-", ",", "the", "coded", "block", "pattern", "-LRB-", "CBPC", "-RRB-", "in", "MPEG-2", ",", "and", "the", "corresponding", "H.", "264", "MB", "sub-partition", "decision", "in", "the", "8x8", "mode", ",", "as", "determined", "by", "the", "standard", "reference", "software", ":", "8x8", ",", "8x4", ",", "4x8", "or", "4x4", ".", "Since", "this", "decision", "is", "made", "separately", "for", "each", "8x8", "sub-block", ",", "only", "the", "four", "means", "and", "four", "variances", "of", "4x4", "residual", "sub-blocks", "are", "used", "in", "each", "sample", "for", "training", "the", "model", ".", "Based", "on", "these", "training", "files", ",", "the", "J48", "algorithm", "implemented", "in", "the", "WEKA", "data", "mining", "tool", "was", "used", "to", "create", "the", "three", "decision", "trees", ".", "The", "J48", "algorithm", "is", "an", "implementation", "of", "the", "C4", ".5", "algorithm", "proposed", "by", "Ross", "Quinlan", "-LSB-", "19", "-RSB-", ":", "the", "algorithm", "widely", "used", "as", "a", "reference", "for", "building", "decision", "trees", ".", "The", "decision", "tree", ",", "that", "is", "proposed", "to", "solve", "the", "inter-prediction", "problem", ",", "is", "a", "model", "of", "the", "data", "that", "encodes", "the", "distribution", "of", "the", "class", "label", "in", "terms", "of", "the", "attributes", ".", "The", "final", "goal", "of", "this", "decision", "tree", "is", "to", "help", "find", "a", "simple", "structure", "to", "show", "the", "possible", "dependences", "between", "the", "attributes", "and", "the", "class", ".", "3.2", "The", "Decision", "Tree", "This", "sub-section", "discusses", "the", "proposed", "macroblock", "mode", "decision", "algorithm", "aiming", "to", "accelerate", "the", "inter-frame", "prediction", ".", "This", "goal", "is", "achieved", "by", "making", "use", "of", "the", "MPEG-2", "MB", "coding", "modes", ",", "the", "coded", "block", "pattern", "-LRB-", "CBPC", "-RRB-", ",", "and", "the", "mean", "and", "variance", "of", "the", "residual", "information", "for", "this", "MB", "calculated", "for", "its", "4x4", "sub-blocks", ".", "MPEG-2", "uses", "16x16", "motion", "compensation", "-LRB-", "MC", "-RRB-", "and", "does", "not", "temporally", "decorrelate", "an", "image", "fully", ".", "The", "MC", "residual", "can", "thus", "be", "exploited", "to", "understand", "the", "temporal", "correlation", "of", "variable", "block", "sizes", "in", "H.", "264", ".", "The", "open", "source", "WEKA", "data", "mining", "tool", "is", "used", "to", "discover", "a", "pattern", "of", "the", "mean", ",", "variance", ",", "MPEG-2", "coding", "modes", ",", "and", "the", "coded", "block", "pattern", "in", "MPEG-2", "-LRB-", "CBPC", "-RRB-", "for", "H.", "264", "coding", "mode", "decisions", ".", "Figure", "5", "shows", "the", "decision", "tree", "used", "in", "the", "proposed", "transcoder", ".", "The", "decision", "tree", "consists", "of", "three", "WEKA", "decision", "trees", ",", "shown", "in", "Figure", "5", "with", "grey", "balls", ".", "The", "first", "WEKA", "tree", "is", "used", "to", "check", "for", "the", "skip", ",", "Intra", ",", "8x8", "and", "16x16", "MBs", "modes", ".", "If", "an", "MB", "is", "8x8", "or", "16x16", ",", "a", "second", "and", "a", "third", "decision", "tree", "is", "used", "for", "selecting", "the", "final", "coding", "mode", "of", "the", "MB", ".", "The", "WEKA", "tool", "determined", "the", "mean", "and", "variance", "thresholds", "for", "each", "of", "the", "three", "WEKA", "trees", "in", "the", "decision", "tree", ".", "Due", "to", "space", "constraints", "we", "can", "not", "show", "all", "the", "rules", "being", "evaluated", "in", "the", "WEKA", "decision", "nodes", ".", "The", "process", "described", "in", "herein", "should", "be", "sufficient", "for", "interested", "people", "to", "develop", "the", "decision", "trees", "and", "repeat", "these", "experiments", ".", "The", "decision", "tree", "works", "as", "follows", ":", "Node", "1", ".", "The", "inputs", "for", "this", "node", "are", "all", "the", "MPEG-2", "coded", "MBs", ".", "In", "this", "node", "a", "tree", "decision", "generated", "with", "WEKA", "is", "used", "to", "decide", "whether", "the", "MB", "should", "be", "coded", "in", "H.", "264", ".", "This", "tree", "examines", "whether", "the", "MB", "has", "a", "very", "high", "residual", "or", "a", "medium", "residual", ".", "The", "output", "of", "this", "node", "is", "a", "first", "level", "decision", "mode", "that", "should", "be", "used", "for", "coding", "the", "MB", ":", "skip", ",", "Intra", ",", "8x8", "or", "16x16", ".", "The", "intra", "decision", "process", "is", "not", "discussed", "in", "this", "paper", ".", "In", "the", "other", "cases", ",", "the", "algorithm", "has", "to", "make", "a", "second", "level", "decision", "based", "in", "the", "first", "decision", ".", "For", "example", ",", "the", "following", "rules", "were", "given", "by", "WEKA", ":", "If", "the", "MPEG-2", "MB", "was", "``", "MC", "not", "coded", "''", ",", "-LRB-", "non-zero", "MV", "present", ",", "none", "of", "the", "8x8", "block", "has", "coded", "coefficients", "-RRB-", ",", "then", "@RELATION", "mean-variance_4x4", "@ATTRIBUTE", "mean0", "Numeric", "@ATTRIBUTE", "variance0", "Numeric", "@ATTRIBUTE", "mean1", "Numeric", "@ATTRIBUTE", "variance1", "Numeric", "...", "@ATTRIBUTE", "mean15", "Numeric", "@ATTRIBUTE", "variance15", "Numeric", "@ATTRIBUTE", "mode_mpeg2", "-LCB-", "0,1,2,4,8", "-RCB-", "@ATTRIBUTE", "CBPC0", "-LCB-", "0,1", "-RCB-", "...", "@ATTRIBUTE", "CBPC6", "-LCB-", "0,1", "-RCB-", "@ATTRIBUTE", "class", "-LCB-", "0,1,8,9", "-RCB-", "935", "the", "MB", "will", "be", "coded", "as", "16x16", "in", "H.", "264", ".", "Again", ",", "a", "second", "decision", "level", "will", "be", "made", "to", "select", "the", "best", "choice", "in", "this", "case", "-LRB-", "see", "node", "2", "-RRB-", ".", "If", "the", "MPEG-2", "MB", "was", "coded", "in", "intra", "mode", ",", "the", "MB", "will", "be", "coded", "as", "intra", "or", "inter", "8x8", "mode", "in", "H.", "264", ".", "In", "some", "cases", "the", "algorithm", "will", "propose", "Intra", ",", "and", "the", "algorithm", "will", "end", ",", "and", "in", "other", "cases", "the", "algorithm", "will", "propose", "8x8", "mode", ",", "so", "a", "second", "level", "decision", "will", "be", "done", "-LRB-", "see", "node", "3", "-RRB-", ".", "If", "the", "MPEG-2", "MB", "was", "coded", "in", "skip", "mode", ",", "then", "the", "H.", "264", "decision", "mode", "should", "be", "skip", ".", "The", "decision", "will", "be", "made", "in", "node", "4", ".", "Figure", "5", ".", "The", "Decision", "Tree", ".", "Node", "2", ".", "The", "inputs", "for", "this", "node", "are", "the", "16x16", "MBs", "classified", "by", "the", "node", "1", ".", "In", "this", "node", "we", "use", "again", "a", "decision", "tree", "generated", "with", "WEKA", "to", "decide", "whether", "the", "MB", "should", "be", "coded", "in", "H.", "264", "-LRB-", "16x16", ",", "16x8", "or", "8x16", "-RRB-", ".", "This", "tree", "examines", "if", "there", "are", "continuous", "16x8", "or", "8x16", "sub-blocks", "that", "might", "result", "in", "a", "better", "prediction", ".", "The", "output", "of", "this", "node", "is", "the", "16x16", "sub-mode", "decision", "mode", "that", "should", "be", "used", "for", "coding", "the", "MB", ":", "16x16", ",", "16x8", "or", "8x16", ".", "When", "the", "node", "decision", "is", "16x8", "or", "8x16", "the", "coding", "mode", "is", "finalized", ".", "In", "the", "other", "case", ",", "the", "evaluation", "continues", "in", "node", "4", ",", "where", "the", "final", "decision", "will", "be", "made", ".", "Node", "3", ".", "The", "inputs", "for", "this", "node", "are", "the", "MBs", "classified", "by", "the", "node", "1", "as", "8x8", ".", "This", "node", "evaluates", "only", "the", "H.", "264", "8x8", "modes", "using", "the", "third", "WEKA", "tree", "and", "selects", "the", "best", "option", ":", "8x8", ",", "8x4", ",", "4x8", "or", "4x4", ".", "As", "explained", "in", "the", "previous", "section", ",", "this", "tree", "is", "run", "4", "times", ",", "once", "for", "each", "of", "the", "four", "sub-macroblocks", "in", "the", "MB", ".", "This", "tree", "is", "different", "from", "the", "others", "because", "this", "one", "only", "uses", "four", "means", "and", "four", "variances", "to", "make", "the", "decision", ".", "Node", "4", ".", "The", "inputs", "for", "this", "node", "are", "skip-mode", "MBs", "in", "the", "MPEG-2", "bitstream", "classified", "by", "the", "node", "1", ",", "or", "the", "16x16", "MBs", "classified", "by", "the", "node", "2", ".", "This", "node", "evaluates", "only", "the", "H.", "264", "16x16", "mode", "-LRB-", "without", "the", "sub-modes", "16x8", "or", "8x16", "-RRB-", ".", "Then", ",", "the", "node", "selects", "the", "best", "option", ",", "skip", "or", "inter", "16x16", ".", "Since", "the", "MB", "mode", "decision", ",", "and", "hence", "the", "thresholds", ",", "depend", "on", "the", "quantization", "parameter", "-LRB-", "QP", "-RRB-", "used", "in", "the", "H.", "264", "encoding", "stage", ",", "the", "mean", "and", "variance", "threshold", "will", "have", "to", "be", "different", "at", "each", "QP", ".", "The", "two", "solutions", "here", "are", ":", "1", "-RRB-", "develop", "the", "decision", "trees", "for", "each", "QP", "and", "use", "the", "appropriate", "decision", "tree", "depending", "on", "the", "QP", "selected", "and", "2", "-RRB-", "develop", "a", "single", "decision", "tree", "and", "adjust", "the", "mean", "and", "variance", "threshold", "used", "by", "the", "trees", "based", "on", "the", "QP", ".", "The", "first", "option", "is", "complex", "as", "we", "have", "to", "develop", "and", "switch", "between", "52", "different", "decision", "trees", "resulting", "in", "156", "WEKA", "trees", "in", "a", "transcoder", ".", "Since", "the", "QP", "used", "by", "H.", "264", "is", "designed", "to", "change", "the", "quantization", "step", "size", "and", "the", "relationship", "between", "the", "QPs", "is", "well", "defined", ",", "this", "relationship", "can", "be", "used", "to", "adjust", "the", "mean", "and", "variance", "thresholds", ".", "The", "proposed", "transcoder", "uses", "a", "single", "decision", "tree", "developed", "for", "a", "mid-QP", "of", "25", "and", "then", "adjusted", "for", "other", "QPs", ".", "Since", "the", "quantization", "step", "size", "in", "H.", "264", "doubles", "when", "QP", "increases", "by", "6", ",", "the", "thresholds", "are", "adjusted", "by", "2.5", "%", "for", "a", "change", "in", "QP", "of", "1", ".", "For", "QP", "values", "higher", "than", "25", ",", "the", "thresholds", "are", "decreased", "and", "for", "QP", "values", "lower", "than", "25", "thresholds", "are", "proportionally", "increased", ".", "Figure", "6", "shows", "an", "example", "of", "the", "results", "obtained", "by", "applying", "our", "proposed", "algorithm", ".", "Figure", "6a", "illustrates", "the", "residual", "for", "the", "MPEG-2", "encoded", "Tempete", "sequence", ".", "Figures", "6b", "and", "6c", "show", "the", "mean", "and", "variance", "of", "the", "residual", ".", "Figures", "6", ".", "e", "and", "6", ".", "f", "show", "the", "differences", "between", "the", "inter", "mode", "selection", "made", "by", "the", "H.", "264", "standard", "-LRB-", "with", "the", "RD-optimized", "option", "enabled", "-RRB-", ",", "and", "the", "proposed", "algorithm", ",", "with", "a", "value", "of", "10", "for", "QP", ".", "From", "these", "figures", ",", "it", "is", "clear", "that", "our", "algorithm", "obtains", "very", "similar", "results", "to", "those", "obtained", "using", "the", "full", "estimation", "of", "the", "H.", "264", "standard", ".", "-LRB-", "a", "-RRB-", "MPEG-2", "residual", "-LRB-", "+128", "-RRB-", "-LRB-", "b", "-RRB-", "Mean", "of", "the", "MPEG-2", "residual", "-LRB-", "+128", "-RRB-", "-LRB-", "c", "-RRB-", "Variance", "of", "the", "MPEG-2", "residual", "-LRB-", "d", "-RRB-", "Different", "kinds", "of", "Macroblocks", "in", "the", "grid", "pictures", "-LRB-", "e", "-RRB-", "H.", "264", "Rd", "opt", ",", "first", "frame", "P", ",", "Tempete", "-LRB-", "CIF", "-RRB-", "QP", "=", "10", ".", "Inter", "mode", "selected", "by", "H.", "264", "-LRB-", "f", "-RRB-", "H.", "264", "Rd", "opt", ",", "first", "frame", "P", ",", "Tempete", "-LRB-", "CIF", "-RRB-", "QP", "=", "10", ".", "Inter", "mode", "selected", "by", "our", "proposal", "Inter", "16x16", "Macroblock", "Skip", "Macroblock", "Intra", "Macroblock", "Inter", "8x16", "Macroblock", "Inter", "16x8", "Macroblock", "Inter", "8x8", "Macroblock", "Inter", "4x8", "Sub-macroblock", "Inter", "8x4", "Sub-macroblock", "Inter", "4x4", "Sub-macroblock", "Inter", "8x8", "Sub-macroblock", "Figure", "6", ".", "Macroblock", "partitions", "generated", "by", "the", "proposed", "algorithm", "for", "the", "first", "P-frame", "in", "the", "Tempete", "sequence", ".", "The", "proposed", "low", "complexity", "MB", "coding", "mode", "decision", "algorithm", "is", "implemented", "in", "the", "H.", "264/AVC", "reference", "software", ",", "version", "JM", "10.2", "-LSB-", "12", "-RSB-", ".", "Figure", "7", "shows", "the", "overall", "operation", "of", "the", "proposed", "transcoder", ".", "The", "MPEG-2", "video", "is", "decoded", "and", "the", "information", "required", "by", "the", "decision", "trees", "is", "gathered", "in", "this", "stage", ".", "The", "additional", "computation", "here", "is", "the", "computation", "of", "the", "mean", "and", "variance", "of", "the", "4x4", "sub-blocks", "of", "the", "residual", "MBs", ".", "The", "MB", "coding", "mode", "decision", "determined", "by", "the", "decision", "trees", "is", "used", "in", "the", "low", "complexity", "H.", "264", "encoding", "stage", ".", "This", "is", "an", "936", "H.", "264", "reference", "encoder", "with", "the", "MB", "mode", "decision", "replaced", "by", "simple", "mode", "assignment", "from", "the", "decision", "tree", ".", "The", "H.", "264", "video", "encoder", "takes", "as", "input", "the", "decoder", "MPEG-2", "video", "-LRB-", "pixel", "data", "-RRB-", "and", "the", "MB", "mode", "decision", "from", "the", "decision", "tree", "and", "encodes", "the", "H.", "264", "video", ".", "The", "MPEG-2", "motion", "vectors", "are", "not", "used", "and", "the", "encoder", "performs", "the", "motion", "estimation", "just", "for", "the", "final", "MB", "mode", "determined", "by", "the", "decision", "tree", ".", "MPEG-2", "Video", "H.", "264", "Video", "Figure", "7", ".", "Proposed", "transcoder", ".", "The", "performance", "of", "the", "proposed", "very", "low", "complexity", "transcoder", "is", "compared", "with", "a", "reference", "transcoder", "comprised", "of", "a", "full", "MPEG-2", "decoder", "followed", "by", "a", "full", "H.", "264", "encoder", ".", "We", "compare", "the", "performance", "of", "our", "proposal", "to", "the", "full", "H.", "264", "encoder", "when", "the", "RD-cost", "-LRB-", "with", "and", "without", "FME", "option", "enabled", "-RRB-", "and", "the", "SAE-cost", "-LRB-", "with", "and", "without", "FME", "option", "enabled", "-RRB-", "are", "used", ".", "The", "metrics", "used", "to", "evaluate", "the", "performance", "are", "the", "reduction", "in", "the", "computational", "cost", "and", "rate", "distortion", "function", ".", "The", "time", "results", "reported", "are", "for", "the", "H.", "264", "encoding", "component", "as", "the", "MPEG-2", "decoding", "cost", "is", "the", "same", "for", "both", "the", "proposed", "and", "reference", "encoders", ".", "We", "have", "conducted", "an", "extensive", "set", "of", "experiments", "with", "videos", "representing", "wide", "range", "of", "motion", ",", "texture", ",", "and", "color", ".", "Experiments", "were", "conducted", "to", "evaluate", "the", "performance", "of", "the", "proposed", "algorithm", "when", "transcoding", "videos", "at", "commonly", "used", "resolutions", ":", "CCIR-601", ",", "CIF", ",", "and", "QCIF", ".", "The", "input", "to", "the", "transcoder", "is", "a", "high", "quality", "MPEG-2", "video", ".", "Since", "the", "proposed", "transcoder", "addresses", "transcoding", "P", "frames", "in", "MPEG-2", "to", "H.", "264", "P", "frames", ",", "MPEG-2", "bitstreams", "were", "created", "without", "B", "frames", ".", "Since", "the", "B", "frames", ",", "which", "are", "much", "smaller", "than", "P", "frames", ",", "are", "not", "used", "in", "the", "input", "video", ",", "the", "video", "has", "to", "be", "encoded", "at", "higher", "than", "the", "typical", "encoding", "rates", "for", "equivalent", "broadcast", "quality", ".", "Table", "1", "shows", "the", "bitrates", "used", "for", "the", "input", "MPEG-2", "video", ".", "The", "experiments", "have", "shown", "that", "the", "proposed", "approach", "performs", "extremely", "well", "across", "all", "bitrates", "and", "resolutions", ".", "Table", "1", ".", "Bitrates", "for", "the", "input", "sequences", "Format", "Bitrate", "CCIR-601", "-LRB-", "720x480", "-RRB-", "5", "Mbps", "CIF", "-LRB-", "352x288", "-RRB-", "1.15", "Mbps", "QCIF", "-LRB-", "176x144", "-RRB-", "0.768", "Mbps", "The", "sequences", "have", "been", "encoded", "with", "H.", "264", "using", "the", "QP", "factors", "ranging", "from", "5", "up", "to", "45", "in", "steps", "of", "5", ".", "This", "corresponds", "to", "the", "H.", "264", "QP", "range", "used", "in", "most", "practical", "applications", ".", "The", "size", "of", "the", "GOP", "is", "12", "frames", ";", "where", "the", "first", "frame", "of", "every", "GOP", "was", "encoded", "as", "I-frame", ",", "and", "the", "rest", "of", "the", "frames", "of", "the", "GOP", "were", "encoded", "as", "a", "P-frames", ".", "The", "rate", "control", "was", "disabled", "for", "all", "the", "simulations", ".", "The", "ProfileIDC", "was", "set", "to", "High", "for", "all", "the", "simulations", ",", "with", "the", "FRExt", "options", "enabled", ".", "The", "simulations", "were", "run", "on", "a", "P4", "HT", "at", "3.0", "GHz", "Intel", "machine", "with", "512", "MB", "RAM", ".", "The", "results", "are", "reported", "for", "six", "different", "sequences", ":", "two", "for", "each", "of", "the", "three", "resolutions", "shown", "in", "Table", "1", ".", "CCIR", "Sequences", "-LRB-", "720x480", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "5000", "10000", "15000", "20000", "25000", "30000", "35000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "PSN", "R", "-LSB-", "d", "B", "-RSB-", "H.", "264", "-LRB-", "Rd", "opt", "-RRB-", "Proposed", "-LRB-", "Rd", "opt", "-RRB-", "Ayersroc", "Martin", "-LRB-", "a", "-RRB-", "CIF", "Sequences", "-LRB-", "352x288", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "8000", "9000", "10000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "PSN", "R", "-LSB-", "d", "B", "-RSB-", "H.", "264", "-LRB-", "Rd", "opt", "-RRB-", "Proposed", "-LRB-", "Rd", "opt", "-RRB-", "Paris", "Tempete", "-LRB-", "b", "-RRB-", "QCIF", "Sequences", "-LRB-", "176x144", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "500", "1000", "1500", "2000", "2500", "3000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "NR", "-LSB-", "db", "-RSB-", "H.", "264", "-LRB-", "Rd", "opt", "-RRB-", "Proposed", "-LRB-", "Rd", "opt", "-RRB-", "Foreman", "News", "-LRB-", "c", "-RRB-", "Figure", "8", ".", "RD", "results", "for", "RD-cost", "without", "FME", "option", ".", "Figure", "8", "shows", "the", "RD", "results", "for", "the", "reference", "and", "proposed", "transcoder", "with", "RD", "optimization", "enabled", "and", "fast", "motion", "estimation", "-LRB-", "FME", "-RRB-", "disabled", ".", "Figure", "9", "shows", "the", "RD", "results", "for", "the", "reference", "and", "proposed", "transcoder", "with", "RD", "optimization", "enabled", "and", "fast", "motion", "estimation", "-LRB-", "FME", "-RRB-", "enabled", ".", "As", "seen", "from", "the", "figures", ",", "the", "PSNR", "obtained", "with", "the", "proposed", "transcoder", "deviates", "slightly", "from", "the", "results", "obtained", "when", "applying", "the", "considerable", "937", "more", "complex", "reference", "transcoder", ".", "Compared", "with", "the", "reference", "transcoder", ",", "the", "proposed", "transcoder", "has", "a", "PSNR", "drop", "of", "at", "most", "0.3", "dB", "for", "a", "given", "bitrate", "and", "bitrate", "increase", "of", "at", "most", "5", "%", "for", "a", "given", "PSNR", ".", "This", "negligible", "drop", "in", "RD", "performance", "is", "more", "then", "offset", "by", "the", "reduction", "in", "computational", "complexity", ".", "Tables", "2", "and", "3", "show", "the", "average", "encoding", "time", "per", "frame", "given", "in", "milliseconds", ".", "As", "shown", "in", "Table", "2", "and", "Table", "3", ",", "the", "transcoding", "time", "reduces", "by", "more", "than", "80", "%", "with", "RD", "optimization", ",", "and", "more", "than", "90", "%", "with", "FME", "enabled", "for", "both", "the", "reference", "and", "proposed", "transcoders", ".", "CCIR", "Sequences", "-LRB-", "720x480", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "5000", "10000", "15000", "20000", "25000", "30000", "35000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "N", "R", "-LSB-", "d", "B", "-RSB-", "H.", "264", "-LRB-", "Rd", "opt", ",", "Fast", "ME", "-RRB-", "Proposed", "-LRB-", "Rd", "opt", ",", "Fast", "ME", "-RRB-", "Ayersroc", "Martin", "-LRB-", "a", "-RRB-", "CIF", "Sequences", "-LRB-", "352x288", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "8000", "9000", "10000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "NR", "-LSB-", "d", "B", "-RSB-", "H.", "264", "-LRB-", "Rd", "opt", ",", "Fast", "ME", "-RRB-", "Proposed", "-LRB-", "Rd", "opt", ",", "Fast", "ME", "-RRB-", "Paris", "Tempete", "-LRB-", "b", "-RRB-", "QCIF", "Sequences", "-LRB-", "176x144", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "500", "1000", "1500", "2000", "2500", "3000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "NR", "-LSB-", "db", "-RSB-", "H.", "264", "-LRB-", "Rd", "opt", ",", "Fast", "ME", "-RRB-", "Proposed", "-LRB-", "Rd", "opt", ",", "Fast", "ME", "-RRB-", "Foreman", "News", "-LRB-", "c", "-RRB-", "Figure", "9", ".", "RD", "results", "for", "RD-cost", "with", "FME", "option", ".", "Figure", "10", "shows", "the", "RD", "results", "for", "the", "reference", "and", "proposed", "transcoder", "with", "SAE-Cost", "-LRB-", "RD", "optimization", "disabled", "-RRB-", "and", "fast", "motion", "estimation", "-LRB-", "FME", "-RRB-", "disabled", ".", "Figure", "11", "shows", "the", "RD", "results", "for", "the", "reference", "and", "proposed", "transcoder", "with", "SAE-Cost", "-LRB-", "RD", "optimization", "disabled", "-RRB-", "and", "fast", "motion", "estimation", "-LRB-", "FME", "-RRB-", "enabled", ".", "As", "seen", "from", "the", "figures", ",", "in", "some", "cases", "the", "proposed", "transcoder", "have", "better", "results", "than", "the", "reference", "transcoder", ".", "This", "happens", "because", "the", "best", "solution", "is", "obtained", "by", "enabling", "the", "RD", "optimization", ",", "and", "in", "the", "experiments", "reported", "in", "the", "figures", "we", "are", "comparing", "the", "faster", "configuration", "of", "a", "H.", "264", "encoder", "-LRB-", "SAE", "cost", "-RRB-", "with", "our", "proposed", "reduced-complexity", "transcoder", ".", "With", "SAE", "based", "encoding", "-LRB-", "RD-optimization", "disabled", "-RRB-", ",", "the", "proposed", "transcoder", "continues", "to", "outperform", "the", "reference", "transcoder", "computationally", "-LRB-", "Tables", "2", "and", "3", "-RRB-", ".", "The", "transcoder", "still", "maintains", "a", "PSNR", "drop", "of", "less", "than", "0.3", "dB", "and", "bitrate", "increase", "of", "less", "than", "5", "%", ".", "The", "computational", "cost", "is", "reduced", "by", "over", "38", "%", "for", "the", "SAE", "case", "and", "by", "over", "82", "%", "with", "FME", "enabled", "for", "both", "the", "reference", "and", "proposed", "transcoders", ".", "Table", "2", ".", "Mean", "encoding", "time", "-LRB-", "milliseconds", "-RRB-", "per", "frame", "with", "the", "reference", "transcoder", "Sequence", "RD", "Opt", "RD", "Opt", "+", "FME", "SAE", "SAE", "+", "FME", "Martin", "7370", "6420", "2110", "940", "Ayersroc", "7650\u00a06820\u00a02095\u00a01030", "Paris", "2305", "2020", "590", "235", "Tempete", "2360\u00a02050\u00a0605", "290", "Foreman", "565", "495", "155", "68", "News", "550", "470", "150", "55", "Table", "3", ".", "Mean", "encoding", "time", "-LRB-", "milliseconds", "-RRB-", "per", "frame", "with", "the", "proposed", "transcoder", "Sequence", "RD", "Opt", "RD", "Opt", "+", "FME", "SAE", "SAE", "+", "FME", "Martin", "1460", "470", "1190", "170", "Ayersroc", "1620", "670", "1160", "190", "Paris", "415", "95", "360", "45", "Tempete", "445\u00a0135\u00a0360", "53", "Foreman", "102", "24", "93", "12", "News", "103", "21", "92", "11", "Table", "4", ".", "Mean", "Time", "Reduction", "-LRB-", "%", "-RRB-", "per", "frame", "with", "the", "proposed", "transcoder", "Sequence", "RD", "Opt", "RD", "Opt", "+", "FME", "SAE", "SAE", "+", "FME", "Martin", "80,19", "92,68", "43,60", "81,91", "Ayersroc", "78,82", "90,18", "44,63", "81,55", "Paris", "82,00", "95,30", "38,98", "80,85", "Tempete", "81,14", "93,41", "40,50", "81,72", "Foreman", "81,95", "95,15", "40,00", "82,35", "News", "81,27", "95,53", "38,67", "80,00", "Based", "on", "the", "results", "shown", "in", "the", "Tables", "2", "and", "3", ",", "the", "proposed", "transcoder", "with", "SAE", "and", "FME", "has", "the", "lowest", "complexity", ".", "The", "proposed", "transcoder", "with", "RD", "optimization", "and", "FME", "is", "still", "faster", "than", "the", "fastest", "case", "of", "the", "reference", "transcoder", "-LRB-", "SAE", "+", "FME", "-RRB-", ".", "Using", "FME", "reduces", "the", "complexity", "substantially", ".", "Selecting", "RD", "optimization", "with", "the", "proposed", "transcoder", "doubles", "the", "complexity", "compared", "with", "SAE+FME", "case", ".", "The", "decision", "to", "enable", "RD", "optimization", "can", "be", "based", "on", "the", "operating", "bitrates", "and", "sensitivity", "to", "the", "PSNR", "drop", ".", "At", "higher", "bitrates", ",", "RDOPT", "+", "FME", "option", "give", "about", "0.6", "dB", "better", "than", "the", "SAE", "+", "FME", "option", ";", "this", "is", "doubling", "938", "the", "complexity", "for", "a", "gain", "of", "0.6", "dB", ".", "However", ",", "at", "lower", "bitrates", ",", "the", "PSNR", "gain", "reduces", "to", "about", "0.3", "dB", ".", "CCIR", "Sequences", "-LRB-", "720x480", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "5000", "10000", "15000", "20000", "25000", "30000", "35000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "NR", "-LSB-", "d", "B", "-RSB-", "H.", "264", "-LRB-", "SAE", "-RRB-", "Proposed", "-LRB-", "SAE", "-RRB-", "Ayersroc", "Martin", "-LRB-", "a", "-RRB-", "CIF", "Sequences", "-LRB-", "352x288", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "2000", "4000", "6000", "8000", "10000", "12000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "N", "R", "-LSB-", "dB", "-RSB-", "H.", "264", "-LRB-", "SAE", "-RRB-", "Proposed", "-LRB-", "SAE", "-RRB-", "Paris", "Tempete", "-LRB-", "b", "-RRB-", "QCIF", "Sequences", "-LRB-", "176x144", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "500", "1000", "1500", "2000", "2500", "3000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "PS", "N", "R", "-LSB-", "d", "b", "-RSB-", "H.", "264", "-LRB-", "SAE", "-RRB-", "Proposed", "-LRB-", "SAE", "-RRB-", "Foreman", "News", "-LRB-", "c", "-RRB-", "Figure", "10", ".", "RD", "results", "for", "SAE-cost", "without", "FME", "option", ".", "Table", "4", "summarizes", "the", "reduction", "in", "the", "computational", "cost", "due", "to", "the", "proposed", "machine", "learning", "based", "mode", "decision", "algorithms", "in", "the", "proposed", "transcoder", ".", "With", "RD", "optimization", "and", "FME", ",", "the", "computational", "cost", "is", "reduced", "by", "over", "90", "%", ".", "The", "cost", "reduction", "reaches", "as", "high", "as", "95.5", "%", "for", "QCIF", "sequences", ".", "With", "SAE", "and", "FME", ",", "the", "computational", "cost", "is", "reduces", "by", "over", "80", "%", ".", "The", "computational", "cost", "reduction", "come", "at", "a", "cost", "of", "reduced", "quality", ".", "The", "quality", "reduction", ",", "however", ",", "is", "very", "small", "and", "negligible", "for", "most", "video", "applications", ".", "Table", "5", "shows", "the", "quality", "variation", "versus", "time", "reduction", "of", "the", "proposed", "transcoder", "with", "respect", "the", "reference", "transcoder", "for", "the", "same", "input", "bitrates", "shown", "in", "Table", "1", ",", "showing", "over", "96", "%", "reduction", "in", "the", "computational", "complexity", "characterizing", "our", "proposed", "scheme", ".", "As", "shown", "in", "the", "table", ",", "using", "the", "proposed", "transcoder", "reduces", "the", "PSNR", "by", "at", "most", "0.3", "dB", "with", "RD", "optimization", "enabled", "and", "by", "at", "most", "0.1", "dB", "with", "SAE", "cost", "based", "transcoder", ".", "Our", "results", "show", "that", "the", "proposed", "algorithm", "is", "able", "to", "maintain", "a", "good", "picture", "quality", "while", "considerably", "reducing", "the", "number", "of", "operations", "to", "be", "performed", "in", "all", "the", "scenarios", ".", "CCIR", "Sequences", "-LRB-", "720x480", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "5000", "10000", "15000", "20000", "25000", "30000", "35000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "NR", "-LSB-", "d", "B", "-RSB-", "H.", "264", "-LRB-", "SAE", ",", "Fast", "ME", "-RRB-", "Proposed", "-LRB-", "SAE", ",", "Fast", "ME", "-RRB-", "Ayersroc", "Martin", "-LRB-", "a", "-RRB-", "CIF", "Sequences", "-LRB-", "352x288", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "2000", "4000", "6000", "8000", "10000", "12000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "PSN", "R", "-LSB-", "d", "B", "-RSB-", "H.", "264", "-LRB-", "SAE", ",", "Fast", "ME", "-RRB-", "Proposed", "-LRB-", "SAE", ",", "Fast", "ME", "-RRB-", "Paris", "Tempete", "-LRB-", "b", "-RRB-", "QCIF", "Sequences", "-LRB-", "176x144", ",", "200", "Frames", ",", "25", "Hz", "-RRB-", "30", "35", "40", "45", "50", "55", "60", "0", "500", "1000", "1500", "2000", "2500", "3000", "Bit", "rate", "-LSB-", "kbits/s", "-RSB-", "P", "S", "N", "R", "-LSB-", "db", "-RSB-", "H.", "264", "-LRB-", "SAE", ",", "Fast", "ME", "-RRB-", "Proposed", "-LRB-", "SAE", ",", "Fast", "ME", "-RRB-", "Foreman", "News", "-LRB-", "c", "-RRB-", "Figure", "11", ".", "RD", "results", "for", "SAE-cost", "with", "FME", "option", ".", "939", "Table", "5", ".", "Quality", "Variation", "vs", "Time", "Reduction", "-LRB-", "for", "transcoding", "rate", "-RRB-", "Quality", "Variation", "from", "Reference", "Transcoder", "-LRB-", "dB", "-RRB-", "Time", "Reduction", "from", "Reference", "Transcoder", "-LRB-", "%", "-RRB-", "Sequence", "MPEG-2", "Bit", "Rate", "-LRB-", "Mbps", "-RRB-", "RD", "OPT", "RD", "FME", "SAE", "SAE", "FME", "RD", "OPT", "RD", "FME", "SAE", "SAE", "FME", "Ayersroc", "5.0", "-", "0.3", "-", "0.3", "0.0", "-", "0.1", "80.0", "90.5", "43.3", "82.3", "Martin", "5.0", "-", "0.2", "-", "0.2", "-", "0.1", "-", "0.1", "80.5", "92.8", "42.1", "82.0", "Tempete", "1.15", "-", "0.2", "-", "0.2", "0.0", "0.0", "80.0", "93.8", "41.1", "82.5", "Paris", "1.15", "-", "0.3", "-", "0.3", "0.0", "-", "0.1", "81.6", "95.6", "38.5", "80.7", "Foreman", "0.768", "-", "0.3", "-", "0.3", "0.0", "0.0", "83.5", "95.5", "37.4", "82.6", "News", "0.768", "-", "0.2", "-", "0.2", "0.0", "0.0", "84.1", "96.0", "35.1", "81.1", "In", "this", "paper", ",", "we", "proposed", "a", "novel", "macroblock", "partition", "mode", "decision", "algorithm", "for", "inter-frame", "prediction", "to", "be", "used", "as", "part", "of", "a", "high-efficient", "MPEG-2", "to", "H.", "264", "transcoder", ".", "The", "proposed", "algorithms", "use", "machine", "learning", "techniques", "to", "exploit", "the", "correlation", "in", "the", "MPEG-2", "MC", "residual", "and", "the", "H.", "264", "coding", "modes", ".", "The", "WEKA", "tool", "was", "used", "to", "develop", "decision", "trees", "for", "H.", "264", "coding", "mode", "decision", ".", "The", "proposed", "algorithm", "has", "very", "low", "complexity", "as", "it", "only", "requires", "the", "mean", "and", "variance", "of", "the", "MPEG-2", "residual", "and", "a", "set", "of", "rules", "to", "compare", "the", "mean", "and", "variance", "against", "a", "threshold", ".", "The", "proposed", "transcoder", "uses", "a", "single", "decision", "tree", "with", "adaptive", "thresholds", "based", "on", "the", "quantization", "parameter", "selected", "in", "the", "H.", "264", "encoding", "stage", ".", "The", "proposed", "transcoder", "was", "evaluated", "using", "MPEG-2", "videos", "at", "CCIR", ",", "CIF", ",", "and", "QCIF", "resolutions", ".", "Our", "results", "show", "that", "the", "proposed", "algorithm", "is", "able", "to", "maintain", "a", "good", "picture", "quality", "while", "considerably", "reducing", "the", "computational", "complexity", "by", "as", "much", "as", "95", "%", ".", "The", "reduction", "in", "computational", "cost", "has", "negligible", "impact", "on", "the", "quality", "and", "bitrate", "of", "the", "transcoded", "video", ".", "The", "results", "show", "that", "the", "proposed", "transcoder", "maintains", "its", "performance", "across", "all", "resolutions", "and", "bitrates", ".", "The", "proposed", "approach", "to", "transcoding", "is", "novel", "and", "can", "be", "applied", "to", "develop", "other", "transcoders", "as", "well", ".", "Our", "future", "plans", "will", "focus", "on", "further", "reducing", "the", "complexity", "of", "the", "proposed", "transcode", "by", "reusing", "the", "MPEG-2", "motion", "vectors", "followed", "by", "a", "motion", "vector", "refinement", ".", "By", "reusing", "the", "motion", "vector", ",", "we", "believe", ",", "real-time", "transcoding", "of", "CIF", "resolution", "video", "at", "30", "FPS", "is", "within", "reach", ".", "-LSB-", "1", "-RSB-", "ITU-T", "RECOMMENDATION", "H.", "264", "``", "Advanced", "Video", "Coding", "for", "Generic", "Audiovisual", "Services", "''", ".", "May", "2003", ".", "-LSB-", "2", "-RSB-", "Implementation", "Studies", "Group", ",", "``", "Main", "Results", "of", "the", "AVC", "Complexity", "Analysis", "''", ".", "MPEG", "Document", "N4964", ",", "ISO/IEC", "JTC11/SC29/WG11", ",", "July", "2002", ".", "-LSB-", "3", "-RSB-", "T.", "Shanableh", "and", "M.", "Ghanbari", ",", "``", "Heterogeneous", "Video", "Transcoding", "to", "Lower", "Spatio-Temporal", "Resolutions", "and", "Different", "Encoding", "Formats", ",", "''", "IEEE", "Transactions", "on", "Multimedia", ",", "vol", ".2", ",", "no.", "2", ",", "June", "2000", ".", "-LSB-", "4", "-RSB-", "A.", "Vetro", ",", "C.", "Christopoulos", ",", "and", "H.Sun", "``", "Video", "Transcoding", "Architectures", "and", "Techniques", ":", "An", "Overview", "''", ".", "IEEE", "Signal", "Processing", "Magazine", ",", "vol", ".", "20", ",", "no.", "2", ",", "pp.18-29", ",", "March", ".", "2003", ".", "-LSB-", "5", "-RSB-", "H.", "Kalva", ",", "A.", "Vetro", ",", "and", "H.", "Sun", ",", "``", "Performance", "Optimization", "of", "the", "MPEG-2", "to", "MPEG-4", "Video", "Transcoder", "''", ".", "Proceeding", "of", "SPIE", "Conference", "on", "Microtechnologies", "for", "the", "New", "Millennium", ",", "VLSI", "Circuits", "and", "Systems", ",", "May", "2003", ".", "-LSB-", "6", "-RSB-", "S.", "Dogan", ",", "A.H.", "Sadka", "and", "A.M.", "Kondoz", ",", "``", "Efficient", "MPEG-4", "/", "H", ".263", "Video", "Transcoder", "for", "Interoperability", "of", "Heterogeneous", "Multimedia", "Networks", ",", "''", "IEE", "Electronics", "Letters", ",", "Vol", ".", "35", ",", "No.", "11", ".", "pp.", "863-864", ".", "-LSB-", "7", "-RSB-", "H.", "Kalva", ".", "``", "Issues", "in", "H.", "264/MPEG", "-", "2", "Video", "Transcoding", "''", ".", "Proceedings", "of", "Consumer", "Communications", "and", "Networking", "Conference", ",", "January", "2004", ".", "-LSB-", "8", "-RSB-", "Y.", "Su", ",", "J.", "Xin", ",", "A.", "Vetro", ",", "and", "H.", "Sun", ",", "``", "Efficient", "MPEG-2", "to", "H.", "264/AVC", "Intra", "Transcoding", "in", "Transform-Domain", ",", "''", "IEEE", "International", "Symposium", "on", "Circuits", "and", "Systems", ",", "2005", ".", "ISCAS", "2005", ".", "pp.", "1234", "-", "1237", "Vol", ".", "2", ",", "23-26", "May", "2005", ".", "-LSB-", "9", "-RSB-", "B.", "Petljanski", "and", "H.", "Kalva", ",", "``", "DCT", "Domain", "Intra", "MB", "Mode", "Decision", "for", "MPEG-2", "to", "H.", "264", "Transcoding", "''", "Proceedings", "of", "the", "ICCE", "2006", ".", "January", "2006", ".", "pp.", "419-420", ".", "-LSB-", "10", "-RSB-", "Y.-K", ".", "Lee", ",", "S.-S", ".", "Lee", ",", "and", "Y.-L", ".", "Lee", ",", "``", "MPEG-4", "to", "H.", "264", "Transcoding", "using", "Macroblock", "Statistics", ",", "''", "Proceedings", "of", "the", "ICME", "2006", ",", "Toronto", ",", "Canada", ",", "July", "2006", ".", "-LSB-", "11", "-RSB-", "X.", "Lu", ",", "A.", "M.", "Tourapis", ",", "P.", "Yin", ",", "and", "J.", "Boyce", ",", "``", "Fast", "Mode", "Decision", "and", "Motion", "Estimation", "for", "H.", "264", "with", "a", "Focus", "on", "MPEG-2", "/", "H.", "264", "Transcoding", ",", "''", "Proceedings", "of", "2005", "IEEE", "International", "Symposium", "on", "Circuits", "and", "Systems", "-LRB-", "ISCAS", "-RRB-", ",", "Kobe", ",", "Japan", ",", "May", "2005", ".", "-LSB-", "12", "-RSB-", "Joint", "Video", "Team", "-LRB-", "JVT", "-RRB-", "of", "ISO/IEC", "MPEG", "and", "ITU-T", "VCEG", ",", "Reference", "Software", "to", "Committee", "Draft", ".", "JVT-F100", "JM10", ".2", ".", "2006", ".", "-LSB-", "13", "-RSB-", "G.", "Sullivan", "and", "T.", "Wiegand", ",", "``", "Rate-Distortion", "Optimization", "for", "Video", "Compression", ",", "''", "IEEE", "Signal", "Processing", "Magazine", ",", "vol", ".", "15", ",", "no.", "6", ",", "pp.", "74-90", ",", "November", ".", "1998", ".", "-LSB-", "14", "-RSB-", "T.", "Wiegand", "et", "al.", ",", "``", "Rate-Constrained", "Coder", "Control", "and", "Comparison", "of", "Video", "Coding", "Standards", ",", "''", "IEEE", "Transactions", "on", "Circuits", "Systems", "and", "Video", "Technology", ",", "vol", ".", "13", ",", "no.", "7", ",", "pp.", "688-703", ",", "July", "2003", ".", "-LSB-", "15", "-RSB-", "A.M.", "Tourapis", ",", "O.C.", "Au", ",", "M.L.", "Liou", ",", "``", "Highly", "Efficient", "Predictive", "Zonal", "Algorithms", "for", "Fast", "Block-Matching", "Motion", "Estimation", ",", "''", "IEEE", "Transactions", "on", "Circuits", "and", "Systems", "for", "Video", "Technology", ",", "Vol", ".", "12", ",", "Issue", "10", ",", "Oct.", "2002", ".", "-LSB-", "16", "-RSB-", "Z.", "Chen", ",", "P.", "Zhou", ",", "and", "Y.", "He", ",", "``", "Fast", "Integer", "Pel", "and", "Fractional", "Pel", "Motion", "Estimation", "for", "JVT", "''", ",", "6th", "Meeting", ".", "Awaji", ",", "December", "2002", "-LSB-", "17", "-RSB-", "M.", "Yang", ",", "H.", "Cui", ",", "K.", "Tang", ",", "``", "Efficient", "Tree", "Structured", "Motion", "Estimation", "using", "Successive", "Elimination", ",", "''", "IEE", "Proceedings-Vision", ",", "Image", "and", "Signal", "Processing", ",", "Vol", ".", "151", ",", "Issue", "5", ",", "Oct.", ".", "2004", ".", "-LSB-", "18", "-RSB-", "Ian", "H.", "Witten", "and", "Eibe", "Frank", ",", "``", "Data", "Mining", ":", "Practical", "Machine", "Learning", "Tools", "and", "Techniques", "''", ",", "2nd", "Edition", ",", "Morgan", "Kaufmann", ",", "San", "Francisco", ",", "2005", ".", "-LSB-", "19", "-RSB-", "J.R.", "Quinlan", ",", "``", "C4", ".5", ":", "Programs", "for", "Machine", "Learning", "''", ",", "Morgan", "Kaufmann", ",", "1993", ".", "940"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["machine learning", "transcoding"], "abstractive_keyphrases": ["inter-frame", "mpeg-2", "h.264"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "164", "document": ["Ranking", "Target", "Objects", "of", "Navigational", "Queries", "Web", "navigation", "plays", "an", "important", "role", "in", "exploring", "public", "interconnected", "data", "sources", "such", "as", "life", "science", "data", ".", "A", "navigational", "query", "in", "the", "life", "science", "graph", "produces", "a", "result", "graph", "which", "is", "a", "layered", "directed", "acyclic", "graph", "-LRB-", "DAG", "-RRB-", ".", "Traversing", "the", "result", "paths", "in", "this", "graph", "reaches", "a", "target", "object", "set", "-LRB-", "TOS", "-RRB-", ".", "The", "challenge", "for", "ranking", "the", "target", "objects", "is", "to", "provide", "recommendations", "that", "reflect", "the", "relative", "importance", "of", "the", "retrieved", "object", ",", "as", "well", "as", "its", "relevance", "to", "the", "specific", "query", "posed", "by", "the", "scientist", ".", "We", "present", "a", "metric", "layered", "graph", "PageRank", "-LRB-", "lgPR", "-RRB-", "to", "rank", "target", "objects", "based", "on", "the", "link", "structure", "of", "the", "result", "graph", ".", "LgPR", "is", "a", "modification", "of", "PageRank", ";", "it", "avoids", "random", "jumps", "to", "respect", "the", "path", "structure", "of", "the", "result", "graph", ".", "We", "also", "outline", "a", "metric", "layered", "graph", "ObjectRank", "-LRB-", "lgOR", "-RRB-", "which", "extends", "the", "metric", "ObjectRank", "to", "layered", "graphs", ".", "We", "then", "present", "an", "initial", "evaluation", "of", "lgPR", ".", "We", "perform", "experiments", "on", "a", "real-world", "graph", "of", "life", "sciences", "objects", "from", "NCBI", "and", "report", "on", "the", "ranking", "distribution", "produced", "by", "lgPR", ".", "We", "compare", "lgPR", "with", "PageRank", ".", "In", "order", "to", "understand", "the", "characteristics", "of", "lgPR", ",", "an", "expert", "compared", "the", "Top", "K", "target", "objects", "-LRB-", "publications", "in", "the", "PubMed", "source", "-RRB-", "produced", "by", "lgPR", "and", "a", "word-based", "ranking", "method", "that", "uses", "text", "features", "extracted", "from", "an", "external", "source", "-LRB-", "such", "as", "Entrez", "Gene", "-RRB-", "to", "rank", "publications", ".", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "On-line", "Information", "Services", "Web-based", "Services", ";", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "Data", "Mining", "Algorithms", ",", "Experimentation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "WIDM", "'", "06", ",", "November", "10", ",", "2006", ",", "Arlington", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-52", "5-8/06", "/", "0011", "...", "$", "5.00", ".", "The", "last", "few", "years", "have", "seen", "an", "explosion", "in", "the", "number", "of", "public", "Web", "accessible", "data", "sources", ",", "Web", "services", "and", "semantic", "Web", "applications", ".", "While", "this", "has", "occurred", "in", "many", "domains", ",", "biologists", "have", "taken", "the", "lead", "in", "making", "life", "science", "data", "public", ",", "and", "biologists", "spend", "a", "considerable", "amount", "of", "time", "navigating", "through", "the", "contents", "of", "these", "sources", ",", "to", "obtain", "information", "that", "is", "critical", "to", "their", "research", ".", "Providing", "meaningful", "answers", "to", "queries", "on", "life", "science", "data", "sources", "poses", "some", "unique", "challenges", ".", "First", ",", "information", "about", "a", "scientific", "entity", ",", "e.g.", ",", "genes", ",", "proteins", ",", "sequences", "and", "publications", ",", "may", "be", "available", "in", "a", "large", "number", "of", "autonomous", "sources", "and", "several", "sources", "may", "provide", "different", "descriptions", "of", "some", "entity", "such", "as", "a", "protein", ".", "Second", ",", "the", "links", "between", "scientific", "objects", "-LRB-", "links", "between", "data", "entries", "in", "the", "different", "sources", "-RRB-", "are", "important", "in", "this", "domain", "since", "they", "capture", "significant", "knowledge", "about", "the", "relationship", "and", "interactions", "between", "these", "objects", ".", "Third", ",", "interconnected", "data", "entries", "can", "be", "modeled", "as", "a", "large", "complex", "graph", ".", "Queries", "could", "be", "expressed", "as", "regular", "expression", "navigational", "queries", "and", "can", "more", "richly", "express", "a", "user", "'s", "needs", ",", "compared", "to", "simpler", "keyword", "based", "queries", ".", "Consider", "the", "following", "navigational", "query", ":", "Retrieve", "publications", "related", "to", "the", "gene", "`", "tnf", "'", "that", "are", "reached", "by", "traversing", "one", "intermediate", "-LRB-", "protein", "or", "sequence", "-RRB-", "entry", ".", "This", "query", "expresses", "the", "scientist", "'s", "need", "to", "expand", "a", "search", "for", "gene", "related", "publications", "beyond", "those", "publications", "whose", "text", "directly", "addresses", "the", "`", "tnf", "'", "gene", ",", "while", "still", "limiting", "the", "search", "to", "publications", "that", "are", "closely", "linked", "to", "gene", "entries", ".", "Consider", "gene", "sources", "OMIM", "Gene", "and", "Entrez", "Gene", ",", "protein", "sources", "NCBI", "Protein", "and", "SwissProt", ",", "sequences", "in", "NCBI", "Nucleotide", "and", "biomedical", "publications", "in", "PubMed", ".", "Figure", "1", "represents", "the", "results", "of", "evaluating", "this", "navigational", "query", "against", "these", "sources", ".", "The", "result", "is", "a", "layered", "DAG", ";", "we", "refer", "to", "it", "as", "a", "result", "graph", "-LRB-", "RG", "-RRB-", ".", "All", "paths", "in", "this", "directed", "result", "graph", "-LRB-", "RG", "-RRB-", "start", "with", "data", "entries", "in", "the", "sources", "OMIM", "Gene", "or", "Entrez", "Gene", ";", "this", "is", "the", "first", "layer", ".", "They", "visit", "one", "intermediate", "data", "entry", "in", "sources", "NCBI", "Protein", ",", "Swiss", "Prot", "or", "NCBI", "Nucleotide", "-LRB-", "second", "layer", "-RRB-", "and", "they", "terminate", "in", "a", "publication", "data", "entry", "in", "PubMed", "-LRB-", "final", "layer", "-RRB-", ".", "The", "query", "returns", "all", "objects", "in", "PubMed", "that", "are", "reached", "27", "``", "tnf", "''", "keyword", "``", "tnf", "''", "keyword", "NCBI", "Nucleotide", "Swiss", "Prot", "PubMed", "NCBI", "Protein", "OMIM", "Gene", "Entrez", "Gene", "Figure", "1", ":", "An", "example", "of", "a", "result", "graph", "-LRB-", "RG", "-RRB-", "by", "traversing", "results", "paths", ";", "these", "PubMed", "entries", "are", "re-ferred", "to", "as", "the", "target", "object", "set", "-LRB-", "TOS", "-RRB-", "reached", "by", "traversing", "the", "result", "paths", "of", "the", "RG", ".", "In", "contrast", ",", "a", "keyword", "based", "query", "would", "not", "have", "been", "able", "to", "specify", "the", "set", "of", "target", "publications", ".", "Navigational", "queries", ",", "the", "RG", "and", "the", "target", "object", "set", "-LRB-", "TOS", "-RRB-", "that", "answers", "the", "query", "are", "defined", "in", "the", "paper", ".", "It", "is", "difficult", "for", "a", "user", "to", "explore", "all", "target", "objects", "in", "a", "reasonable", "amount", "of", "time", "and", "it", "is", "important", "to", "provide", "a", "ranking", "of", "the", "TOS", ".", "As", "is", "well", "known", ",", "word", "based", "ranking", "methods", "are", "very", "good", "at", "identifying", "the", "most", "relevant", "results", ",", "typically", "using", "features", "extracted", "from", "the", "contents", "of", "the", "target", "objects", ".", "For", "example", "-LSB-", "13", "-RSB-", "produces", "a", "ranking", "of", "documents", "in", "PubMed", "that", "are", "most", "relevant", "to", "a", "gene", ".", "In", "contrast", ",", "PageRank", "-LSB-", "11", "-RSB-", "focuses", "on", "the", "importance", "of", "the", "target", "object", "and", "importance", "is", "transferred", "from", "other", "important", "objects", "via", "the", "link", "structure", ".", "A", "recent", "technique", "ObjectRank", "-LSB-", "1", "-RSB-", "addresses", "both", "relevance", "and", "importance", ";", "it", "exploits", "schema", "knowledge", "to", "determine", "the", "correct", "authority", "transfer", "between", "important", "pages", ".", "We", "note", "that", "there", "is", "also", "research", "on", "ranking", "paths", "-LSB-", "2", "-RSB-", ".", "For", "term-based", "query", "dependent", "ranking", ",", "we", "refer", "to", "-LSB-", "3", ",", "12", "-RSB-", ".", "The", "focus", "of", "this", "paper", "is", "to", "produce", "a", "ranking", "method", "to", "select", "the", "best", "target", "objects", "in", "the", "RG", "that", "answer", "the", "navigational", "query", ".", "Our", "ideal", "ranking", "must", "identify", "target", "objects", "that", "are", "both", "relevant", "and", "important", ".", "The", "ranking", "must", "also", "be", "query", "dependent", "since", "we", "must", "guarantee", "that", "the", "target", "objects", "that", "are", "ranked", "indeed", "occur", "in", "the", "RG", "and", "answer", "the", "navigational", "query", ".", "Further", ",", "both", "relevance", "and", "importance", "must", "be", "determined", "with", "respect", "to", "the", "objects", "in", "TOS", ",", "rather", "than", "with", "respect", "to", "all", "the", "data", "entries", "-LRB-", "as", "is", "the", "case", "with", "PageRank", "-RRB-", ".", "We", "propose", "two", "ranking", "metrics", "for", "the", "layered", "graph", "RG", ";", "they", "are", "layered", "graph", "PageRank", "-LRB-", "lgPR", "-RRB-", "and", "layered", "graph", "ObjectRank", "-LRB-", "lgOR", "-RRB-", ".", "lgPR", "extends", "PageRank", "by", "distinguishing", "different", "roles", "-LRB-", "intermediate", "node", ",", "answer", "node", "-RRB-", "which", "can", "be", "played", "by", "the", "same", "node", "in", "the", "result", "graph", ".", "It", "does", "not", "perform", "random", "jumps", "so", "as", "to", "respect", "the", "RG", ".", "Our", "second", "metric", "lgOR", "is", "an", "extension", "to", "ObjectRank", ";", "due", "to", "space", "limitations", "we", "only", "discuss", "it", "briefly", ".", "We", "report", "on", "our", "preliminary", "evaluation", "of", "lgPR", "on", "a", "real", "dataset", "from", "NCBI/NIH", ".", "For", "some", "navigational", "queries", ",", "we", "apply", "lgPR", "to", "the", "corresponding", "RG", "and", "use", "the", "ranking", "distribution", "for", "lgPR", "to", "illustrate", "that", "lgPR", "indeed", "discriminates", "among", "the", "TOS", "objects", ".", "We", "also", "apply", "the", "original", "PR", "metric", "to", "the", "object", "graph", "of", "life", "science", "data", "-LRB-", "against", "which", "we", "evaluate", "the", "query", "-RRB-", ".", "We", "compare", "with", "applying", "lgPR", "to", "the", "actual", "RG", "to", "illustrate", "that", "lgPR", "and", "PR", "produce", "dissimilar", "rankings", ".", "Finally", ",", "we", "report", "on", "an", "initial", "user", "experiment", ".", "We", "consider", "a", "set", "of", "complex", "queries", "typical", "of", "a", "scientist", "searching", "for", "gene", "related", "PubMed", "publications", ",", "and", "the", "Top", "K", "results", "of", "a", "word", "based", "ranking", "technique", "-LRB-", "Iowa", "-RRB-", "that", "has", "been", "shown", "to", "be", "accurate", "in", "answering", "gene", "queries", "-LSB-", "13", "-RSB-", ".", "We", "compare", "the", "Iowa", "Top", "K", "publications", "with", "the", "lgPR", "Top", "K", "publications", ",", "for", "some", "sample", "gene", "related", "queries", ",", "using", "criteria", "that", "reflect", "both", "relevance", "and", "importance", ".", "We", "use", "these", "criteria", "to", "understand", "the", "characteristics", "of", "lgPR", ".", "The", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "describes", "the", "data", "model", ",", "navigational", "query", "language", "and", "layered", "DAG", "result", "graph", ".", "Section", "3", "presents", "PageRank", ",", "lgPR", ",", "ObjectRank", ",", "and", "lgOR", ".", "4", "reports", "on", "preliminary", "results", "of", "an", "experimental", "study", "with", "NCBI", "data", "and", "concludes", ".", "We", "briefly", "describe", "a", "data", "model", "and", "navigational", "query", "language", "for", "the", "life", "science", "graph", ".", "Details", "in", "-LSB-", "6", ",", "9", ",", "14", "-RSB-", ".", "2.1", "Data", "Model", "for", "the", "Life", "Science", "Graph", "The", "data", "model", "comprises", "three", "levels", ":", "ontology", ",", "source", "and", "data", "-LRB-", "Figure", "2", "-RRB-", ".", "At", "the", "ontology", "level", ",", "a", "domain", "ontol-Gene", "Marker", "Publication", "Nucleotide", "Protein", "Disease", "OMIM", "Gene", "\\", "NCBI", "Gene", "PubMed", "OMIM", "Disease", "Swiss", "Prot", "NCBI", "Protein", "NCBI", "Nucleotide", "UniSTS", "Ontology", "Level", "Source", "Level", "Mappings", "Data", "Level", "Mappings", "Figure", "2", ":", "A", "Data", "Model", "for", "the", "Life", "Science", "Graph", "ogy", "describes", "the", "universe", "of", "discourse", ",", "e.g.", ",", "a", "gene", ",", "a", "pro-28", "tein", ",", "etc.", ",", "and", "the", "relationships", "among", "them", ".", "An", "ontology", "graph", "OG", "=", "-LRB-", "C", ",", "L", "C", "-RRB-", "models", "the", "domain", "ontology", ",", "where", "nodes", "in", "C", "represent", "classes", ",", "and", "edges", "in", "L", "C", "correspond", "to", "relationships", "among", "classes", ".", "For", "example", ",", "genes", "and", "publications", "are", "classes", "in", "OG", "and", "the", "association", "discuss", "relates", "publications", "with", "genes", ".", "In", "this", "paper", ",", "we", "only", "consider", "one", "type", "of", "link", ",", "isRelatedTo", ",", "to", "capture", "the", "semantics", "of", "a", "relationship", ";", "therefore", ",", "we", "omit", "all", "link", "labels", ".", "At", "the", "source", "level", ",", "a", "source", "graph", "SG", "=", "-LRB-", "S", ",", "L", "S", "-RRB-", "describes", "data", "sources", "and", "links", "that", "implement", "logical", "classes", "-LRB-", "C", "-RRB-", "and", "associations", "-LRB-", "L", "C", "-RRB-", "in", "OG", ",", "respectively", ".", "For", "example", ",", "PubMed", "and", "Entrez", "Gene", "are", "sources", "that", "implement", "the", "logical", "classes", "publications", "and", "genes", ",", "respectively", ".", "A", "mapping", "defines", "logical", "classes", "in", "C", "in", "terms", "of", "the", "sources", "in", "S", "that", "implement", "them", ".", "A", "link", "between", "sources", "represents", "a", "hyper-link", ",", "a", "service", "or", "an", "application", "that", "connects", "these", "two", "sources", ".", "At", "the", "data", "level", ",", "a", "Data", "Graph", "is", "a", "graph", "-LRB-", "D", ",", "L", "D", "-RRB-", ",", "where", "D", "is", "a", "set", "of", "data", "entries", "and", "L", "D", "is", "a", "set", "of", "references", "between", "entries", ".", "A", "mapping", "m", "S", "establishes", "which", "data", "entries", "in", "D", "are", "published", "by", "source", "S.", "2.2", "Navigational", "Query", "Language", "We", "define", "a", "query", "as", "a", "path", "expression", "over", "the", "alphabet", "C", "in", "OG", ",", "where", "each", "class", "occurrence", "can", "optionally", "be", "an-notated", "with", "a", "Boolean", "expression", ".", "The", "simplest", "Boolean", "expression", "is", "the", "comparison", "of", "a", "Field", "to", "a", "particular", "value", ".", "In", "this", "paper", ",", "a", "field", "can", "be", "either", "source", "or", "Object", "content", ",", "and", "the", "relational", "operators", "can", "be", "''", "=", "''", "for", "source", "and", "``", "contains", "''", "for", "Object", "content", ".", "A", "condition", "over", "source", "and", "the", "relational", "operator", "''", "=", "''", ",", "-LRB-", "source", "=", "``", "name-of-source", "''", "-RRB-", ",", "restricts", "the", "query", "to", "some", "specific", "sources", "that", "implement", "the", "class", ".", "A", "condition", "on", "Object", "content", "and", "the", "relational", "operator", "``", "contains", "''", ",", "specifies", "the", "set", "of", "keywords", "that", "must", "occur", "within", "objects", "in", "the", "Data", "Graph", ".", "The", "symbol", "is", "a", "wild-card", "matching", "any", "class", "and", "the", "''", ".", "''", "represents", "any", "relationship", ".", "The", "query", ":", "Retrieve", "publications", "that", "are", "related", "to", "the", "gene", "``", "tnf", "or", "aliases", "in", "human", "''", "in", "OMIM", "or", "Enrtez", "Gene", ",", "and", "are", "reached", "by", "traversing", "one", "intermediate", "resource", ",", "is", "expressed", "in", "the", "navigational", "query", "language", "as", "follows", ":", "Q", "=", "Gene", "-LSB-", "Object", "content", "contains", "-LCB-", "``", "tnf", "''", "and", "aliases", "in", "human", "-RCB-", "and", "source", "=", "OMIM", "or", "Entrez", "Gene", "-RSB-", "Publication", "The", "answer", "to", "a", "query", "Q", "is", "defined", "at", "the", "three", "levels", "of", "the", "data", "model", ".", "It", "comprises", "three", "sets", "of", "paths", ":", "OG", "-LRB-", "Q", "-RRB-", ",", "SG", "-LRB-", "Q", "-RRB-", "and", "DG", "-LRB-", "Q", "-RRB-", ".", "The", "meaning", "of", "query", "Q", "with", "respect", "to", "the", "ontology", "graph", "OG", ",", "OG", "-LRB-", "Q", "-RRB-", ",", "is", "the", "set", "of", "simple", "paths", "in", "OG", "that", "correspond", "to", "words", "in", "the", "language", "induced", "by", "the", "regular", "expression", "Q", ".", "The", "meaning", "of", "the", "query", "with", "respect", "to", "the", "source", "graph", "SG", ",", "SG", "-LRB-", "Q", "-RRB-", ",", "is", "the", "set", "of", "all", "simple", "paths", "in", "SG", "that", "correspond", "to", "mappings", "of", "the", "paths", "in", "OG", "-LRB-", "Q", "-RRB-", ".", "Finally", ",", "the", "answer", "for", "query", "Q", "with", "respect", "to", "the", "data", "graph", "DG", ",", "DG", "-LRB-", "Q", "-RRB-", ",", "is", "the", "set", "of", "simple", "paths", "in", "DG", "that", "are", "the", "result", "of", "mapping", "the", "paths", "in", "SG", "-LRB-", "Q", "-RRB-", "using", "mapping", "function", "m", "S", ".", "A", "simple", "path", "does", "not", "repeat", "-LRB-", "revisit", "-RRB-", "the", "same", "class", ",", "data", "source", "or", "data", "entry", "-LRB-", "in", "the", "same", "path", "-RRB-", ".", "The", "queries", "that", "are", "presented", "in", "this", "section", "are", "typical", "queries", "posed", "by", "researchers", ".", "At", "present", ",", "there", "are", "no", "query", "evaluation", "engines", "to", "answer", "navigational", "queries", "and", "researchers", "must", "rely", "on", "manual", "navigation", "via", "browsers", "or", "they", "must", "write", "scripts", ";", "the", "latter", "involves", "labor", "to", "keep", "writing", "the", "scripts", "and", "the", "scripts", "may", "be", "inefficient", "in", "answering", "these", "queries", ".", "2.3", "Result", "Graph", "The", "union", "of", "paths", "in", "DG", "-LRB-", "Q", "-RRB-", "is", "the", "result", "graph", "RG", ".", "We", "note", "that", "for", "our", "query", "language", ",", "all", "the", "paths", "that", "satisfy", "a", "query", "are", "of", "the", "same", "length", ",", "i.e.", ",", "all", "the", "paths", "in", "the", "sets", "OG", "-LRB-", "Q", "-RRB-", ",", "SG", "-LRB-", "Q", "-RRB-", "and", "DG", "-LRB-", "Q", "-RRB-", "are", "of", "the", "same", "length", ".", "We", "model", "a", "result", "graph", "RG", "Q", "=", "-LRB-", "D", "RG", ",", "L", "RG", "-RRB-", "for", "a", "query", "Q", ",", "as", "a", "layered", "directed", "acyclic", "graph", "comprising", "k", "layers", ",", "L", "1", ",", "...", ",", "L", "k", ",", "where", "k", "is", "determined", "by", "the", "query", ".", "The", "set", "of", "nodes", "D", "RG", "corresponds", "to", "the", "union", "of", "the", "data", "entries", "that", "appear", "in", "the", "paths", "in", "DG", "-LRB-", "Q", "-RRB-", ".", "L", "RG", "represents", "the", "links", "among", "these", "data", "entries", ".", "A", "layer", "L", "i", "is", "composed", "of", "the", "union", "of", "the", "data", "entries", "in", "the", "paths", "DG", "-LRB-", "Q", "-RRB-", "that", "appear", "in", "the", "i-th", "position", "of", "the", "paths", ".", "The", "data", "entries", "in", "the", "k-th", "layer", "are", "called", "the", "target", "objects", "and", "they", "form", "the", "target", "object", "set", "-LRB-", "TOS", "-RRB-", "of", "the", "RG", ".", "Note", "that", "since", "the", "result", "graph", "has", "multiple", "paths", ",", "and", "since", "a", "source", "may", "occur", "in", "different", "layers", "of", "these", "paths", ",", "the", "same", "data", "entry", "may", "appear", "multiple", "times", "in", "the", "different", "layers", ",", "depending", "on", "its", "connectivity", "to", "other", "data", "entries", ".", "In", "this", "case", ",", "each", "occurrence", "of", "the", "data", "entry", "is", "represented", "independently", "within", "each", "layer/path", "in", "which", "it", "occurs", ".", "The", "result", "graph", "framework", "distinguishes", "the", "different", "roles", "-LRB-", "intermediate", "node", ",", "answer", "node", "-RRB-", "which", "can", "be", "played", "by", "the", "same", "node", "in", "the", "result", "graph", ".", "Figure", "1", "is", "a", "layered", "RG", "for", "the", "following", "query", ":", "Retrieve", "publications", "related", "to", "the", "gene", "``", "tnf", "''", "traversing", "one", "intermediate", "source", ";", "it", "has", "three", "layers", ".", "The", "first", "layer", "corresponds", "to", "the", "genes", "in", "the", "sources", "OMIM", "Gene", "and", "Entrez", "Gene", "that", "are", "related", "to", "the", "keyword", "``", "tnf", "''", ".", "The", "second", "layer", "are", "the", "entries", "in", "the", "sources", "NCBI", "Protein", ",", "Swiss", "Prot", "or", "NCBI", "Nucleotide", "that", "are", "reached", "by", "objects", "in", "the", "first", "layer", ".", "Finally", ",", "the", "target", "objects", "in", "the", "third", "layer", "-LRB-", "TOS", "-RRB-", "are", "the", "publications", "in", "PubMed", "that", "are", "linked", "to", "the", "objects", "in", "the", "second", "layer", ".", "We", "briefly", "describe", "the", "PageRank", "metric", "-LSB-", "11", "-RSB-", "and", "then", "discuss", "our", "metric", "lgPR", "for", "layered", "DAGs", ".", "We", "briefly", "discuss", "the", "ObjectRank", "metric", "-LSB-", "1", "-RSB-", "and", "our", "extension", "lgOR", ".", "3.1", "PageRank", "PageRank", "assumes", "that", "links", "between", "pages", "confer", "authority", ".", "A", "link", "from", "page", "i", "to", "page", "j", "is", "evidence", "that", "i", "is", "suggesting", "that", "j", "is", "important", ".", "The", "importance", "from", "page", "i", "that", "is", "contributed", "to", "page", "j", "is", "inversely", "proportional", "to", "the", "outdegree", "of", "i.", "Let", "N", "i", "be", "the", "outdegree", "of", "page", "i", ".", "The", "corresponding", "random", "walk", "on", "the", "directed", "web", "graph", "can", "be", "expressed", "by", "a", "transition", "matrix", "A", "as", "follows", ":", "A", "-LSB-", "i", ",", "j", "-RSB-", "=", "1", "N", "i", "if", "there", "is", "an", "edge", "from", "i", "to", "j", "0", "otherwise", "Let", "E", "be", "an", "arbitrary", "vector", "over", "the", "webpages", ",", "representing", "the", "initial", "probability", "of", "visiting", "a", "page", ".", "Let", "d", "be", "the", "probability", "of", "following", "a", "link", "from", "a", "page", "and", "let", "-LRB-", "1", "-", "d", "-RRB-", "be", "the", "probability", "of", "a", "random", "jump", "to", "a", "page", ".", "The", "PageRank", "ranking", "vector", "R", "=", "dA", "R", "+", "-LRB-", "1", "-", "d", "-RRB-", "E.", "R", "converges", "for", "the", "web", "graph", "with", "any", "E", ",", "since", "generally", "the", "web", "graph", "is", "aperiodic", "and", "irreducible", "-LSB-", "5", ",", "10", "-RSB-", ".", "PageRank", "can", "not", "be", "directly", "applied", "to", "a", "layered", "graph", ".", "A", "Markov", "Chain", "is", "irreducible", "if", "and", "only", "if", "the", "graph", "contains", "only", "one", "strongly", "connected", "component", ".", "RG", "is", "not", "29", "outgoing", "links", "with", "respect", "to", "the", "query", ".", "There", "are", "several", "potential", "ways", "to", "extend", "PageRank", "for", "RG", ".", "First", ",", "one", "can", "ignore", "links", "that", "point", "to", "pages", "without", "outgoing", "edges", "since", "these", "pages", "do", "not", "affect", "the", "ranking", "of", "other", "pages", "-LSB-", "11", "-RSB-", ".", "However", "we", "are", "specifically", "interested", "in", "obtaining", "a", "ranking", "for", "the", "TOS", "or", "the", "objects", "in", "the", "last", "layer", "of", "the", "layered", "result", "graph", "RG", "with", "no", "outgoing", "links", ",", "we", "can", "not", "ignore", "these", "pages", ".", "Another", "possibility", "is", "modifying", "the", "transition", "matrix", "probability", "so", "that", "one", "takes", "a", "random", "jump", "from", "a", "node", "in", "the", "TOS", "-LSB-", "5", "-RSB-", ".", "This", "will", "ensure", "that", "the", "graph", "will", "be", "irreducible", "and", "aperiodic", ".", "However", ",", "this", "would", "arbitrarily", "modify", "RG", "whose", "structure", "is", "determined", "by", "the", "query", ";", "modifying", "RG", "will", "not", "assure", "that", "it", "answers", "the", "query", ".", "To", "summarize", ",", "the", "extensions", "to", "PageRank", "in", "the", "literature", "can", "not", "be", "applied", "to", "the", "problem", "of", "ranking", "the", "target", "object", "set", "TOS", "of", "RG", ".", "3.2", "Layered", "Graph", "PageRank", "-LRB-", "lgPR", "-RRB-", "We", "describe", "layered", "graph", "PageRank", "to", "rank", "the", "TOS", ".", "3.2.1", "The", "Metric", "Table", "1", "lists", "the", "symbols", "used", "to", "compute", "lgPR", ".", "Symbol", "Meaning", "RG", "-LRB-", "V", "RG", ",", "E", "RG", "-RRB-", "Result", "Graph", ",", "a", "layered", "DAG", ",", "with", "objects", "V", "RG", "and", "edges", "E", "RG", "e", "E", "RG", "an", "edge", "in", "E", "RG", "R", "ranking", "vector", "for", "objects", "in", "RG", "R", "ini", "initial", "ranking", "vector", "A", "lg", "the", "transition", "matrix", "for", "objects", "in", "RG", "k", "the", "number", "of", "layers", "in", "the", "result", "graph", "OutDeg", "RG", "-LRB-", "u", "p", "-RRB-", "outdegree", "from", "object", "u", "at", "layer", "p", "-LRB-", "across", "multiple", "link", "types", "to", "objects", "in", "layer", "p", "+", "1", "Table", "1", ":", "Symbols", "used", "by", "lgPR", "The", "layered", "DAG", "result", "graph", "RG", "is", "represented", "by", "a", "transition", "matrix", "A", "lg", "to", "be", "defined", "next", ".", "Note", "that", "an", "object", "in", "the", "object", "graph", "may", "occur", "in", "multiple", "paths", "of", "the", "result", "graph", ",", "in", "different", "layers", ";", "it", "will", "be", "replicated", "in", "the", "transition", "matrix", "for", "each", "occurrence", ".", "Each", "object", "u", "at", "layer", "p", "will", "have", "an", "entry", "in", "the", "transition", "matrix", "to", "some", "object", "v", "at", "layer", "q", ".", "We", "denote", "the", "occurrence", "of", "them", "as", "u", "p", "and", "v", "q", "respectively", ".", "The", "ranking", "vector", "R", "is", "defined", "by", "a", "transition", "matrix", "A", "lg", "and", "initial", "ranking", "vector", "R", "ini", ",", "is", "as", "follows", ":", "R", "=", "A", "k", "-1", "lg", "R", "ini", "=", "-LRB-", "k", "-1", "l", "=", "1", "A", "lg", "-RRB-", "R", "ini", "We", "pick", "R", "ini", "as", "follows", ":", "the", "entry", "for", "an", "object", "in", "R", "ini", "is", "1", "if", "this", "object", "is", "a", "link", "in", "start", "layer", "and", "0", "otherwise", ".", "The", "transition", "matrix", "A", "lg", "is", "computed", "as", "follows", ":", "A", "lg", "-LSB-", "i", "p", "u", ",", "j", "q", "v", "-RSB-", "=", "1", "OutDeg", "RG", "-LRB-", "u", "p", "-RRB-", "if", "OutDeg", "RG", "-LRB-", "u", "p", "-RRB-", ">", "0", "and", "e", "-LRB-", "u", "p", ",", "v", "q", "-RRB-", "E", "RG", ",", "0", "otherwise", ".", "Note", "that", "we", "define", "the", "outdegree", "of", "each", "object", "in", "RG", "to", "only", "consider", "those", "edges", "that", "actually", "occur", "in", "RG", "and", "link", "to", "objects", "in", "the", "next", "layer", ".", "This", "reflect", "the", "probability", "that", "a", "user", "follows", "an", "object", "path", "in", "the", "RG", ".", "In", "contrast", ",", "PageRank", "considers", "all", "outgoing", "edges", "from", "a", "page", ".", "Unlike", "PageRank", ",", "lgPR", "differentiates", "the", "occurrence", "of", "a", "data", "entry", "in", "different", "layers", ",", "as", "well", "as", "the", "links", "to", "entries", "in", "subsequent", "layers", ";", "lgPR", "is", "thus", "able", "to", "reflect", "the", "role", "of", "objects", "and", "links", "-LRB-", "from", "the", "entire", "graph", "of", "data", "entries", "-RRB-", "in", "answering", "a", "navigational", "query", ".", "Suppose", "an", "object", "a", "occurs", "in", "an", "intermediate", "layer", "as", "well", "as", "in", "the", "TOS", "of", "the", "RG", ".", "It", "is", "possible", "that", "a", "is", "able", "to", "convey", "authority", "to", "other", "objects", "in", "the", "TOS", ".", "However", ",", "a", "may", "not", "rank", "very", "high", "in", "the", "TOS", "for", "this", "query", ".", "This", "characteristic", "is", "unique", "to", "lgPR", ".", "Thus", ",", "the", "score", "associated", "with", "the", "object", "is", "query", "dependent", "to", "reflect", "the", "role", "played", "by", "the", "object", "in", "the", "result", "graph", ".", "3.2.2", "Convergence", "Property", "This", "transition", "matrix", "A", "lg", "is", "neither", "irreducible", "nor", "aperiodic", "as", "all", "rows", "for", "target", "objects", "contain", "only", "0", "'s", ".", "The", "matrix", "A", "is", "a", "nilpotent", "matrix", "and", "the", "number", "of", "layers", "is", "the", "index", ".", "We", "provide", "two", "defintions", "-LRB-", "details", "in", "-LSB-", "8", "-RSB-", "-RRB-", ".", "Definition", "3.1", ".", "A", "square", "matrix", "A", "is", "a", "nilpotent", "matrix", ",", "if", "there", "exists", "some", "positive", "integer", "k", "such", "that", "A", "k", "=", "0", "but", "A", "k", "-1", "=", "0", ".", "Integer", "k", "is", "known", "as", "the", "index", "of", "A.", "Definition", "3.2", ".", "Let", "k", "be", "the", "index", "of", "A.", "-LCB-", "A", "k", "-1", "x", ",", "A", "k", "-2", "x", ",", "...", ",", "Ax", ",", "x", "-RCB-", "form", "a", "Jordan", "Chain", ",", "where", "x", "is", "any", "vector", "such", "that", "A", "k", "-1", "x", "=", "0", ".", "A", "characteristic", "of", "a", "nilpotent", "matrix", "is", "that", "its", "only", "eigenvalue", "is", "0", ".", "The", "consequence", "is", "that", "any", "vector", "x", "is", "an", "eigenvector", "of", "A", "as", "long", "as", "Ax", "=", "0", ".", "From", "the", "previous", "definition", "-LCB-", "A", "k", "-1", "lg", "R", "ini", ",", "A", "k", "-2", "lg", "R", "ini", ",", "...", ",", "A", "lg", "R", "ini", ",", "A", "lg", "-RCB-", "forms", "a", "Jordan", "Chain", ",", "since", "A", "k", "-1", "lg", "R", "ini", "=", "0", ".", "We", "show", "following", "two", "lemmas", "without", "providing", "proof", "in", "this", "paper", ".", "Lemma", "3.3", ".", "Jordan", "chain", "-LCB-", "A", "k", "-1", "lg", "R", "ini", ",", "A", "k", "-2", "lg", "R", "ini", ",", "...", ",", "A", "lg", "R", "ini", ",", "A", "lg", "-RCB-", "is", "a", "linearly", "independent", "set", ".", "Lemma", "3.4", ".", "-LCB-", "A", "k", "-1", "lg", "R", "ini", ",", "A", "k", "-2", "lg", "R", "ini", ",", "...", ",", "A", "lg", "R", "ini", ",", "A", "lg", "-RCB-", "consists", "of", "a", "sequence", "of", "ranking", "vectors", ".", "In", "R", "ini", ",", "only", "objects", "in", "layer", "0", "have", "non-zero", "scores", ";", "In", "ranking", "vector", "A", "m", "lg", "R", "ini", ",", "only", "objects", "in", "layer", "m", "receive", "non-zero", "scores", ".", "The", "final", "ranking", "vector", "by", "lgPR", "is", "the", "first", "eigenvector", "in", "the", "Jordan", "Chain", ",", "given", "the", "above", "initial", "ranking", "vector", "R", "ini", "and", "the", "transition", "matrix", "A", "lg", ".", "While", "the", "traditional", "PageRank", "algorithm", "converges", "on", "a", "ranking", "in", "multiple", "iterations", ",", "lgPR", "can", "be", "computed", "in", "exactly", "k", "-", "1", "iterations", ".", "Note", "that", "because", "RG", "is", "a", "layered", "DAG", ",", "we", "can", "use", "link", "matrices", ",", "each", "of", "which", "represents", "links", "between", "neighboring", "layers", ",", "instead", "of", "the", "single", "transition", "matrix", "A", "lg", "for", "the", "entire", "graph", ".", "We", "also", "use", "keywords", "to", "filter", "query", "answers", "at", "each", "iteration", ".", "3.3", "Layered", "Graph", "ObjectRank", "-LRB-", "lgOR", "-RRB-", "PR", "is", "computed", "a", "priori", "on", "the", "complete", "data", "graph", "and", "is", "independent", "of", "the", "RG", ".", "A", "recent", "technique", "ObjectRank", "-LSB-", "1", "-RSB-", "extends", "PageRank", "to", "consider", "relevance", "of", "query", "keywords", ".", "It", "exploits", "schema", "knowledge", "to", "determine", "the", "correct", "authority", "transfer", "in", "a", "schema", "graph", ".", "In", "ObjectRank", ",", "the", "authority", "flows", "between", "objects", "according", "to", "semantic", "connections", ".", "It", "does", "so", "by", "determining", "an", "authority", "weight", "for", "each", "edge", "in", "their", "schema", "graph", ".", "The", "ranking", "is", "-LRB-", "keyword", "-RRB-", "query", "dependent", ".", "Due", "to", "space", "limitations", ",", "we", "do", "not", "provide", "the", "details", "of", "the", "ObjectRank", "metric", ".", "Instead", ",", "we", "briefly", "describe", "how", "irreducible", "since", "the", "last", "layer", "in", "RG", "contains", "nodes", "with", "no", "30", "the", "transition", "matrix", "for", "lgPR", "can", "be", "extended", "to", "consider", "the", "authority", "weights", "associated", "with", "edges", "that", "occur", "in", "RG", ".", "Consider", "a", "metric", "layered", "graph", "ObjectRank", "-LRB-", "lgOR", "-RRB-", ".", "The", "difference", "from", "lgPR", "is", "the", "transition", "matrix", "A", "OG", ".", "It", "is", "as", "follows", ":", "A", "-LSB-", "i", "p", "u", ",", "j", "q", "v", "-RSB-", "=", "-LRB-", "e", "E", "RG", "-RRB-", "if", "e", "-LRB-", "u", "p", ",", "v", "q", "-RRB-", "E", "RG", ",", "0", "otherwise", ".", "-LRB-", "e", "E", "RG", "-RRB-", "=", "-LRB-", "e", "ESG", "-RRB-", "OutDeg", "-LRB-", "u", "p", ",", "e", "ESG", "-RRB-", "if", "OutDeg", "-LRB-", "u", "p", ",", "e", "E", "SG", "-RRB-", ">", "0", "0", "if", "OutDeg", "-LRB-", "u", "p", ",", "e", "E", "SG", "-RRB-", "=", "0", "Let", "the", "edge", "between", "u", "p", "and", "v", "q", "map", "to", "an", "edge", "E", "SG", "in", "the", "SG", ".", "-LRB-", "E", "SG", "-RRB-", "represents", "the", "authority", "transfer", "weight", "associated", "with", "E", "SG", ".", "OutDeg", "-LRB-", "u", "p", ",", "e", "E", "SG", "-RRB-", "is", "the", "outdegree", "in", "RG", "of", "type", "E", "SG", ".", "As", "discussed", "in", "-LSB-", "1", "-RSB-", ",", "the", "success", "of", "ObjectRank", "depends", "on", "correctly", "determining", "the", "authority", "weight", "to", "be", "associated", "with", "each", "link", ".", "Figure", "3", "-LRB-", "next", "section", "-RRB-", "illustrates", "the", "source", "graph", "that", "we", "use", "in", "our", "evaluation", "of", "navigational", "queries", ".", "For", "lgOR", "to", "be", "successful", ",", "an", "authority", "weight", "may", "have", "to", "be", "associated", "with", "each", "link", "in", "each", "result", "path", "-LRB-", "type", "-RRB-", "in", "the", "RG", ".", "Experiments", "with", "users", "to", "determine", "the", "correct", "authority", "weights", "for", "lgOR", "is", "planned", "for", "future", "work", ".", "Currently", "the", "importance", "is", "computed", "after", "query", "evaluation", ".", "We", "compute", "result", "graph", "first", ",", "then", "ranking", ",", "for", "the", "reason", "that", "the", "transition", "matrix", "is", "defined", "in", "terms", "of", "outdegree", "in", "the", "RG", ".", "This", "motivates", "further", "research", "of", "combination", "of", "two", "problems", ",", "whose", "ideal", "solution", "is", "to", "ranking", "objects", "during", "query", "evaluation", ".", "We", "report", "on", "experiments", "on", "real", "world", "data", ".", "We", "show", "that", "the", "lgPR", "ranking", "distribution", "has", "the", "ability", "to", "differentiate", "among", "the", "target", "objects", "of", "the", "RG", "and", "it", "is", "different", "from", "PageRank", ".", "A", "user", "compared", "the", "Top", "K", "results", "of", "lgPR", "and", "a", "word", "based", "ranking", "-LRB-", "Iowa", "-RRB-", "-LSB-", "13", "-RSB-", ",", "using", "criteria", "that", "reflect", "both", "importance", "and", "relevance", ",", "to", "determine", "their", "characteristics", ".", "4.1", "Experiment", "Setting", "NCBI/NIH", "is", "the", "gatekeeper", "for", "biological", "data", "produced", "using", "federal", "funds", "in", "the", "US", "1", ".", "We", "consider", "a", "source", "graph", "SG", "of", "10", "data", "sources", "and", "46", "links", ".", "Figure", "3", "presents", "the", "source", "graph", "used", "in", "this", "task.We", "used", "several", "hundred", "keywords", "to", "sample", "data", "from", "these", "sources", "-LRB-", "the", "EFetch", "utility", "-RRB-", "and", "followed", "links", "to", "the", "other", "sources", "-LRB-", "the", "ELink", "utility", "-RRB-", ".", "We", "created", "a", "data", "graph", "of", "approximately", "28.5", "million", "objects", "and", "19.4", "million", "links", ".", "We", "note", "that", "several", "objects", "are", "machine", "predicted", "objects", "so", "it", "is", "not", "uncommon", "that", "they", "have", "no", "links", ".", "The", "object", "identifiers", "for", "the", "data", "entries", "-LRB-", "nodes", "of", "the", "data", "graph", "-RRB-", "and", "the", "pair", "of", "object", "identifiers", "-LRB-", "links", "-RRB-", "were", "stored", "in", "a", "DB2", "relational", "database", ".", "Table", "2", "identifies", "the", "queries", "and", "keywords", "that", "were", "used", "in", "this", "experiment", ".", "The", "symbols", "g", ",", "p", ",", "n", ",", "s", "refer", "to", "classes", "gene", ",", "publication", ",", "nucleotide", "and", "SNP", ",", "respectively", ".", "Note", "that", "is", "the", "wild", "card", "and", "can", "match", "all", "the", "classes", "and", "sources", "-LRB-", "in", "the", "source", "graph", "-RRB-", ".", "For", "each", "navigational", "query", ",", "the", "source", "paths", "that", "answer", "the", "query", "were", "determined", "using", "an", "algorithm", "described", "in", "1", "www.ncbi.nlm.nih.gov", "Class", "PubMed", "PmId", "Title", "Class", "Author", "Name", "Class", "Journal", "Name", "ClassYear", "Year", "-LRB-", "1", ",", "*", "-RRB-", "-LRB-", "1,1", "-RRB-", "-LRB-", "1", ",", "*", "-RRB-", "Class", "Lash", "Terms", "TermId", "Descrip", "-LRB-", "1", ",", "*", "-RRB-", "-LRB-", "0", ",", "*", "-RRB-", "Class", "Entrez", "Gene", "EGId", "-LRB-", "1", ",", "*", "-RRB-", "-LRB-", "1,1", "-RRB-", "Class", "Geo", "GeoId", "ClassOMIM", "CddId", "Class", "UniSTS", "USId", "Class", "UniGene", "UGId", "Class", "Entrez", "Protein", "EPId", "Class", "dbSNP", "dbSID", "Class", "CDD", "CddId", "Class", "Entrez", "Nucleotide", "NuId", "-LRB-", "1", ",", "*", "-RRB-", "Figure", "3", ":", "Source", "Graph", "for", "User", "Evaluation", "Queries", "g.n.p", ",", "g.s.p", ",", "g.n.s.p", ",", "g.s.n.p", ",", "g.s.g.n.p", ",", "g.s.n.g.p", ",", "g.", ".", "p", ",", "g.", ".", ".", "p", ",", "g.", "...", "p", "``", "parkinson", "disease", "''", ",", "``", "aging", "''", ",", "``", "cancer", "''", "Keywords", "``", "diabetes", "''", ",", "``", "flutamide", "''", ",", "``", "stress", "''", "``", "degenerative", "joint", "''", ",", "``", "tnf", "''", ",", "``", "insulin", "''", "``", "fluorouracil", "''", ",", "``", "osteoarthritis", "''", ",", "``", "sarcoma", "''", "Table", "2", ":", "Experiment", "setting", "-LSB-", "14", "-RSB-", ".", "Evaluating", "the", "paths", "in", "the", "data", "graph", "for", "each", "source", "path", "was", "implemented", "by", "SQL", "queries", ".", "Since", "a", "result", "graph", "RG", "could", "involve", "multiple", "source", "paths", "whose", "computation", "may", "overlap", "we", "applied", "several", "multiple", "query", "optimization", "techniques", ".", "The", "SQL", "queries", "were", "executed", "on", "DB2", "Enterprise", "Server", "V8", ".2", "installed", "on", "a", "3.2", "GHz", "Intel", "Xeon", "processor", "with", "1", "GB", "RAM", ".", "The", "execution", "time", "for", "these", "queries", "varied", "considerably", ",", "depending", "on", "the", "size", "and", "shape", "of", "RG", ".", "If", "we", "consider", "the", "query", "g.n.p", "with", "keyword", "``", "degenerative", "joint", "''", "used", "to", "filter", "`", "g", "'", ",", "one", "source", "path", "was", "ranked", "in", "approximately", "1", "second", ".", "However", ",", "the", "query", "-LRB-", "g.", "...", "p", "-RRB-", "with", "the", "keyword", "aging", "used", "to", "filter", "`", "g", "'", "created", "a", "very", "large", "result", "graph", "and", "the", "execution", "time", "for", "this", "was", "approximately", "2000", "seconds", ".", "Typically", "the", "We", "note", "that", "computing", "the", "high", "scoring", "TOS", "objects", "of", "the", "RG", "efficiently", "is", "a", "related", "but", "distinct", "optimization", "problem", ".", "4.2", "lgPR", "Distribution", "We", "report", "on", "the", "query", "-LRB-", "g.", ".", "p", "-RRB-", ",", "i.e.", ",", "paths", "from", "genes", "to", "publications", "via", "one", "intermediate", "source", ".", "Figures", "4", "and", "5", "report", "on", "the", "distribution", "of", "scores", "produced", "by", "the", "lgPR", "metric", "for", "the", "target", "objects", "in", "TOS", "for", "some", "representative", "queries", ".", "The", "first", "10", "bars", "represent", "scores", "in", "the", "range", "-LRB-", "0.00-0.01", "-RRB-", "to", "-LRB-", "0.09-0.1", "-RRB-", "and", "the", "last", "bar", "represents", "the", "range", "-LRB-", "0.1-1.0", "-RRB-", ".", "Fig", "4", "shows", "that", "a", "small", "number", "of", "objects", "have", "very", "high", "score", "and", "the", "majority", "have", "a", "low", "score", ".", "As", "expected", ",", "many", "queries", "and", "keywords", "produced", "distributions", "that", "were", "similar", "to", "Figure", "4", ".", "Most", "of", "the", "objects", "in", "TOS", ",", "in", "this", "case", "approx.", "12,000", "objects", ",", "had", "a", "very", "low", "score", ",", "and", "less", "than", "200", "object", "had", "a", "score", "in", "the", "range", "-LRB-", "0.1-1.0", "-RRB-", ".", "However", ",", "we", "made", "an", "interesting", "observation", "that", "some", "queries", "produced", "distributions", "that", "were", "similar", "to", "Figure", "5", ".", "In", "this", "case", ",", "while", "many", "of", "the", "results", "-LRB-", "approx.", "120", "-RRB-", "had", "low", "scores", "in", "the", "range", "-LRB-", "0.00-0.02", "-RRB-", ",", "46", "objects", "had", "scores", "in", "the", "range", "-LRB-", "0.1-1.0", "-RRB-", "and", "120", "objects", "had", "scores", "in", "between", ".", "31", ".00-.01", ".01-.02", ".02-.03", ".03-.04", ".04-.05", ".05-.06", ".06-.07", ".07-.08", ".08-.09", ".09-.10", ".10-1.00", "0", "2000", "4000", "6000", "8000", "10000", "12000", "12183", "677", "404", "172", "105", "62", "52", "43", "34", "19", "197", "lgPR", "score", "Number", "of", "objects", "Figure", "4", ":", "Histogram", "for", "query", ":", "g", "-LSB-", "Object", "content", "contains", "``", "aging", "''", "-RSB-", "p", ".00-.01", ".01-.02", ".02-.03", ".03-.04", ".04-.05", ".05-.06", ".06-.07", ".07-.08", ".08-.09", ".09-.10", ".10-1.00", "0", "10", "20", "30", "40", "50", "60", "70", "80", "81", "41", "12", "4", "32", "11", "8", "0", "2", "1", "46", "lgPR", "score", "Number", "of", "objects", "Figure", "5", ":", "Histogram", "for", "query", ":", "g", "-LSB-", "Object", "content", "contains", "``", "degenerative", "joint", "''", "-RSB-", "p", "Finally", ",", "we", "compared", "the", "ranking", "produced", "by", "lgPR", "and", "PageRank", ".", "We", "apply", "PageRank", "to", "the", "entire", "data", "graph", "of", "28.5", "million", "objects", "and", "19.4", "million", "links", "described", "in", "section", "4.1", ".", "For", "the", "three", "sample", "queries", "-LRB-", "described", "in", "the", "next", "section", "-RRB-", ",", "there", "are", "no", "PubMed", "ID", "'s", "in", "common", "to", "the", "Top", "25", ",", "50", ",", "100", "for", "each", "of", "the", "queries", ",", "except", "that", "the", "top", "50", "of", "query", "with", "Lash", "term", "``", "allele", "''", "have", "1", "PubMed", "publications", "in", "common", ",", "and", "top", "100", "of", "same", "query", "have", "3", "in", "common", ".", "We", "speculate", "that", "the", "link", "structure", "of", "the", "RG", "is", "distinct", "compared", "to", "the", "link", "structure", "of", "the", "data", "graph", ";", "hence", "applying", "lgPR", "to", "the", "RG", "results", "in", "dissimilar", "ranking", "compared", "to", "a", "priori", "applying", "PageRank", "to", "the", "entire", "data", "graph", ".", "We", "summarize", "that", "the", "lgPR", "score", "can", "both", "identify", "those", "objects", "with", "a", "very", "low", "ranking", "that", "may", "not", "be", "of", "interest", "to", "the", "user", ".", "However", ",", "it", "can", "also", "be", "used", "to", "discriminate", "amongst", "objects", "in", "the", "TOS", "whose", "ranking", "has", "a", "much", "lower", "variation", "of", "scores", ".", "Finally", ",", "lgPR", "ranking", "is", "not", "the", "same", "as", "that", "produced", "by", "PageRank", "applied", "to", "the", "entire", "data", "graph", ".", "4.3", "User", "Evaluation", "In", "our", "user", "evaluation", "of", "lgPR", ",", "we", "consider", "a", "set", "of", "complex", "queries", "typical", "of", "a", "scientist", "searching", "for", "gene", "related", "PubMed", "publications", ",", "and", "the", "Top", "K", "results", "of", "a", "word", "based", "ranking", "technique", "-LRB-", "Iowa", "-RRB-", "that", "has", "been", "shown", "to", "be", "accurate", "in", "answering", "gene", "queries", "-LSB-", "13", "-RSB-", ".", "We", "compare", "the", "Iowa", "Top", "K", "publications", "with", "the", "lgPR", "Top", "K", "publications", ",", "for", "some", "sample", "gene", "related", "queries", ".", "We", "use", "criteria", "that", "reflect", "both", "relevance", "and", "importance", "to", "identify", "characteristics", "of", "lgPR", ".", "Researchers", "are", "particularly", "interested", "in", "genetic", "and", "phe-notypic", "variations", "associated", "with", "genes", ";", "these", "phenomena", "are", "often", "studied", "in", "the", "context", "of", "diseases", ",", "in", "a", "chromoso-mal", "region", "identified", "by", "a", "genomic", "marker", "-LRB-", "a", "unique", "known", "sequence", "-RRB-", "associated", "with", "the", "disease", ".", "Genetic", "and", "pheno-typic", "knowledge", "are", "described", "using", "terms", "of", "the", "Lash", "controlled", "vocabulary", "-LSB-", "7", "-RSB-", ".", "We", "focus", "on", "a", "branch", "of", "the", "Lash", "vocabulary", "that", "relates", "to", "phenotypes", "and", "population", "genetics", ".", "Terms", "of", "interest", "include", "linkage", "disequilibrium", ",", "quantitative", "trait", "locus", "and", "allele", ".", "Figure", "6", "presents", "a", "portion", "of", "the", "Lash", "controlled", "vocabulary", "-LRB-", "term", "hierarchy", "-RRB-", ".", "LD", "is", "not", "listed", "as", "the", "synonym", "to", "the", "term", "linkage", "disequilibrium", ",", "because", "LD", "may", "often", "refer", "to", "another", "concept", ".", "In", "the", "following", "experiment", ",", "we", "did", "not", "consider", "the", "plural", "form", "of", "some", "terms", ",", "such", "as", "alleles", "to", "allele", ",", "but", "this", "can", "be", "extended", "in", "the", "future", "studies", ".", "1", ".", "EPIGENETIC", "ALTERATION", "2", ".", "GENOMIC", "SEGMENT", "LOSS", "3", ".", "GENOMIC", "SEGMENT", "GAIN", "4", ".", "GENOMIC", "SEQUENCE", "ALTERATION", "5", ".", "PHENOTYPIC", "ASSOCIATION", "-LRB-", "synonym", ":", "phenotype", ",", "trait", "-RRB-", "-LRB-", "a", "-RRB-", "locus", "association", "-LRB-", "synonym", ":", "locus", ",", "loci", "-RRB-", "i.", "linkage", "ii", ".", "quantitative", "trait", "locus", "-LRB-", "synonym", ":", "QTL", "-RRB-", "-LRB-", "b", "-RRB-", "allelic", "association", "-LRB-", "synonym", ":", "allele", "-RRB-", "i.", "linkage", "disequilibrium", "Figure", "6", ":", "Branch", "5", "in", "Hierarchical", "controlled", "vocabulary", "of", "genetics", "terms", "-LRB-", "Lash", "Controlled", "Vocabulary", "-RRB-", "The", "navigational", "query", "used", "in", "our", "evaluation", "experiment", "can", "be", "described", "in", "English", "as", "follows", ":", "``", "Return", "all", "publications", "in", "PubMed", "that", "are", "linked", "to", "an", "Entrez", "Gene", "entry", "that", "is", "related", "to", "the", "human", "gene", "TNF", "-LRB-", "or", "its", "aliases", "-RRB-", ".", "The", "entry", "in", "PubMed", "must", "contain", "an", "STS", "marker", "and", "a", "term", "from", "the", "Lash", "controlled", "vocabulary", ".", "''", "We", "used", "the", "query", "term", "``", "TNF", "AND", "9606", "-LSB-", "TAXID", "-RSB-", "''", "2", "to", "sample", "data", "from", "Entrez", "Gene", ".", "We", "then", "followed", "8", "paths", "to", "PubMed", ".", "Table", "3", "reports", "on", "the", "number", "of", "entries", "in", "Entrez", "Gene", "as", "well", "as", "the", "cardinality", "of", "the", "TOS", "for", "some", "sample", "queries", "3", ".", "We", "briefly", "describe", "the", "word-based", "ranking", "method", "-LRB-", "Iowa", "-RRB-", "that", "focuses", "on", "ranking", "documents", "retrieved", "by", "PubMed", "2", "Note", "the", "Taxonomy", "ID", "for", "human", "is", "9606", "-LSB-", "4", "-RSB-", ",", "and", "term", "9606", "-LSB-", "TAXID", "-RSB-", "was", "used", "to", "select", "human", "genes", ".", "3", "We", "use", "g", "-LSB-", "``", "tnf", "''", "and", "aliases", "in", "human", "-RSB-", "to", "denote", "g", "-LSB-", "Object", "content", "contains", "-LCB-", "``", "tnf", "''", "and", "aliases", "in", "human", "-RCB-", "-RSB-", ";", "the", "entries", "in", "the", "first", "column", "of", "Table", "3", "are", "similar", ".", "32", "Query", "Cardinality", "of", "TOS", "g", "-LSB-", "``", "tnf", "''", "and", "aliases", "in", "human", "-RSB-", "649", "g", "-LSB-", "``", "tnf", "''", "and", "aliases", "in", "human", "-RSB-", "p", "-LSB-", "STS", "2777", "marker", "and", "``", "allele", "''", "-RSB-", "g", "-LSB-", "``", "tnf", "''", "and", "aliases", "in", "human", "-RSB-", "p", "-LSB-", "STS", "257", "marker", "and", "``", "linkage", "disequilibrium", "''", "-RSB-", "g", "-LSB-", "``", "tnf", "''", "and", "aliases", "in", "human", "-RSB-", "p", "-LSB-", "STS", "22", "marker", "and", "``", "quantitative", "trait", "locus", "''", "-RSB-", "Table", "3", ":", "Cardinality", "of", "TOS", "for", "human", "gene", "queries", "-LSB-", "13", "-RSB-", ",", "so", "that", "relevant", "documents", "are", "ranked", "higher", "than", "non-relevant", "documents", ".", "This", "method", "relies", "on", "using", "post-retrieval", "queries", "-LRB-", "ranking", "queries", "-RRB-", ",", "au-tomatically", "generated", "from", "an", "external", "source", ",", "viz.", ",", "Entrez", "Gene", "-LRB-", "Locus", "Link", "-RRB-", ",", "to", "rank", "retrieved", "documents", ".", "The", "research", "shows", "that", "ranking", "queries", "generated", "from", "a", "combination", "of", "the", "Official", "Gene", "Symbol", ",", "Official", "Gene", "Name", ",", "Alias", "Symbols", ",", "Entrez", "Summary", ",", "and", "Protein", "Products", "-LRB-", "optional", "-RRB-", "were", "very", "effective", "in", "ranking", "relevant", "documents", "higher", "in", "the", "retrieved", "list", ".", "Documents", "and", "ranking", "queries", "are", "represented", "using", "the", "traditional", "vector-space", "representation", ",", "commonly", "used", "in", "information", "retrieval", ".", "Given", "a", "gene", ",", "the", "cosine", "similarity", "score", "between", "the", "ranking", "query", "vector", "for", "the", "gene", "and", "each", "document", "vector", "is", "computed", ".", "Cosine", "scores", "are", "in", "the", "-LSB-", "0", ",", "1", "-RSB-", "range", "and", "documents", "assigned", "a", "higher", "score", "are", "ranked", "higher", "than", "documents", "with", "a", "lower", "score", ".", "In", "the", "absence", "of", "summary", "and", "protein", "product", "information", ",", "ranking", "queries", "generated", "from", "the", "gene", "symbol", ",", "name", "and", "aliases", "are", "used", "to", "rank", "retrieved", "documents", ".", "In", "this", "experiment", "study", "we", "are", "working", "on", "the", "Bio", "Web", "documents", "alone", ".", "We", "use", "the", "following", "criteria", "to", "compare", "the", "Top", "K", "results", "from", "Iowa", "and", "lgPR", ",", "to", "understand", "basic", "characteristics", "of", "the", "two", "methods", ".", "Criteria", "labeled", "R", "appear", "to", "judge", "the", "relevance", "of", "the", "paper", "and", "those", "labeled", "I", "appear", "to", "judge", "importance", ".", "Some", "criteria", "appear", "to", "judge", "both", "and", "are", "labeled", "R", ",", "I.", "1", ".", "R", ":", "Does", "the", "title", "or", "abstract", "of", "the", "article", "contain", "the", "term", "TNF", "or", "its", "aliases", "in", "human", "?", "Does", "the", "article", "discuss", "immune", "response", "?", "2", ".", "R", ",", "I", ":", "Does", "the", "article", "contain", "any", "disease", "related", "terms", "?", "Does", "the", "article", "contain", "any", "genomic", "components", "-LRB-", "genes", ",", "markers", ",", "snps", ",", "sequences", ",", "etc.", "-RRB-", "?", "3", ".", "R", ",", "I", ":", "Does", "the", "article", "discuss", "biological", "processes", "related", "to", "the", "Lash", "terms", "?", "4", ".", "R", ",", "I", ":", "What", "is", "the", "connectivity", "of", "the", "article", "to", "gene", "entries", "in", "Entrez", "Gene", "that", "are", "related", "to", "TNF", "?", "Note", "that", "as", "shown", "in", "Table", "3", ",", "there", "are", "649", "Entrez", "Gene", "entries", "that", "are", "related", "to", "human", "gene", "TNF", ".", "Each", "PubMed", "publication", "was", "reached", "by", "following", "a", "result", "path", "through", "the", "result", "graph", "RG", "that", "started", "with", "one", "of", "these", "Entrez", "Gene", "entries", ".", "However", ",", "some", "PubMed", "publications", "may", "have", "been", "reached", "along", "multiple", "paths", "in", "the", "RG", "reflecting", "much", "greater", "connectivity", ".", "5", ".", "I", ":", "What", "is", "the", "category", "of", "the", "article", "-LRB-", "review", ",", "survey", ",", "etc.", "-RRB-", ".", "Does", "the", "article", "address", "some", "specific", "topics", "or", "is", "it", "a", "broad", "brush", "article", "?", "6", ".", "I", ":", "Where", "did", "the", "article", "appear", "?", "What", "is", "the", "journal", "impact", "factor", "?", "Has", "the", "article", "been", "highly", "cited", "?", "Top", "10", "Rel", ".", "Imp", ".", "Criteria", "PMID", "-LRB-", "0-5", "-RRB-", "-LRB-", "0-5", "-RRB-", "1", ".", "2", ".", "3", ".", "4", ".", "5", ".", "6", ".", "16271851", "4", "2", "H", "M", "H", "L", "L", "L", "1946393", "4", "4", "H", "L", "H", "M", "H", "H", "12217957", "4", "4", "H", "H", "H", "L", "H", "H", "12545017", "4", "4", "H", "M", "H", "L", "H", "H", "9757913", "3", "3", "H", "L", "H", "L", "H", "H", "8882412", "4", "4", "H", "M", "H", "L", "H", "H", "2674559", "4", "3", "H", "M", "H", "L", "H", "L", "7495783", "4", "3", "H", "H", "H", "L", "H", "L", "15976383", "5", "4", "H", "H", "H", "H", "H", "L", "10698305", "3", "3", "H", "L", "H", "L", "H", "H", "Table", "4", ":", "Relevance", "and", "Importance", "of", "Top", "10", "Puli-cations", "Reported", "by", "Iowa", "Ranking", "Method", "Top", "10", "Rel", ".", "Imp", ".", "Criteria", "PMID", "-LRB-", "0-5", "-RRB-", "-LRB-", "0-5", "-RRB-", "1", ".", "2", ".", "3", ".", "4", ".", "5", ".", "6", ".", "7560085", "5", "5", "H", "H", "H", "H", "H", "H", "12938093", "5", "5", "H", "H", "H", "H", "H", "H", "10998471", "3", "3", "M", "H", "H", "L", "H", "L", "11290834", "5", "4", "H", "H", "H", "H", "H", "L", "11501950", "4", "3", "H", "H", "H", "L", "H", "L", "11587067", "5", "4", "H", "H", "H", "H", "H", "L", "11845411", "2", "4", "L", "H", "H", "L", "H", "H", "12133494", "5", "4", "H", "H", "H", "H", "H", "L", "12594308", "4", "4", "H", "H", "H", "L", "H", "H", "12619925", "5", "5", "H", "H", "H", "H", "H", "H", "Table", "5", ":", "Relevance", "and", "Importance", "of", "Top", "10", "Puli-cations", "Reported", "by", "lgPR", "Ranking", "Method", "Tables", "4", "and", "5", "report", "Top", "10", "publications", "in", "PubMed", "that", "are", "linked", "to", "an", "Entrez", "Gene", "entry", "that", "is", "related", "to", "human", "gene", "TNF", "and", "contain", "the", "term", "linkage", "disequilibrium", ".", "The", "first", "column", "reports", "the", "PubMed", "identifiers", "-LRB-", "PMIDs", "-RRB-", "of", "the", "Top", "10", "publications", "returned", "by", "the", "Iowa", "and", "the", "lgPR", "ranking", "methods", ".", "The", "human", "evaluation", "results", "are", "reported", "in", "the", "fourth", "to", "the", "ninth", "columns", "using", "the", "the", "six", "criteria", "listed", "above", ".", "An", "H", "represents", "the", "publication", "is", "highly", "matched", "to", "the", "correspoinding", "criteria", "-LRB-", "M", "and", "L", "represents", "medium", "and", "low", "respectively", "-RRB-", ".", "An", "H", "indicates", ":", "1", ".", "The", "PubMed", "entry", "is", "linked", "to", "the", "human", "gene", "TNF", "with", "Entrez", "Gene", "identifier", "GeneID", ":", "7124", ".", "2", ".", "The", "publication", "contains", "both", "diseases", "related", "terms", "and", "genomic", "components", ".", "3", ".", "The", "publication", "contains", "multiple", "Lash", "terms", ".", "4", ".", "The", "connectivity", "is", "high", ",", "if", "there", "are", "more", "than", "five", "related", "gene", "entries", "linked", "to", "the", "publication", ".", "5", ".", "A", "research", "article", "considered", "more", "important", "than", "a", "review", "or", "a", "survey", ",", "and", "a", "more", "specific", "topic", "is", "better", ".", "6", ".", "The", "article", "is", "published", "in", "a", "journal", "with", "the", "impact", "factor", "higher", "than", "10.0", ",", "or", "the", "article", "is", "cited", "by", "ten", "or", "more", "publications", ".", "We", "then", "score", "the", "relevance", "-LRB-", "rel", ".", "-RRB-", "and", "the", "importance", "-LRB-", "imp", ".", "-RRB-", "in", "the", "second", "and", "the", "third", "columns", "by", "combining", "33", "the", "number", "of", "H", "and", "M", "reported", "in", "the", "six", "criteria", ".", "Criteria", "1", "weighs", "twice", "compared", "to", "the", "other", "five", "criteria", ".", "We", "use", "a", "number", "between", "0", "and", "5", ",", "in", "which", "5", "indicates", "the", "corresponding", "PubMed", "entry", "is", "highly", "relevant", "or", "highly", "important", "to", "the", "given", "query", ".", "While", "both", "rankings", "appear", "to", "identify", "``", "good", "''", "documents", ",", "Iowa", "appears", "to", "favor", "relevant", "documents", "based", "on", "their", "word", "content", ".", "lgPR", "appears", "to", "exploit", "the", "link", "structure", "of", "the", "RG", ",", "and", "have", "higher", "in-terconnectivity", "to", "TNF", "related", "entries", "in", "Entrez", "gene", ".", "The", "publications", "retrieved", "by", "lgPR", "are", "more", "likely", "to", "contain", "diseases", "related", "terms", "or", "genomic", "components", ".", "The", "Iowa", "ranking", "has", "a", "primary", "focus", "on", "the", "relevance", "of", "documents", "-LRB-", "based", "on", "document", "contents", ";", "it", "is", "not", "able", "to", "differentiate", "the", "importance", "of", "these", "relevant", "documents", ".", "In", "contrast", ",", "lgPR", "has", "a", "primary", "focus", "on", "importance", "-LRB-", "based", "on", "the", "link", "structure", "of", "the", "result", "graph", "-RRB-", ";", "it", "is", "not", "able", "to", "differentiate", "the", "relevance", "of", "important", "documents", ".", "We", "conclude", "that", "further", "study", "is", "needed", "to", "determine", "how", "we", "can", "exploit", "the", "characteristics", "of", "both", "methods", ".", "There", "is", "no", "intersection", "between", "two", "sets", "of", "Top", "10", "publications", "returned", "by", "these", "two", "ranking", "methods", ".", "The", "first", "common", "PMID", "is", "7935762", ",", "which", "is", "ranked", "24", "in", "the", "Iowa", "method", "and", "21", "by", "the", "lgPR", "method", ".", "We", "have", "defined", "a", "model", "for", "life", "science", "sources", ".", "The", "answer", "to", "a", "navigational", "query", "are", "the", "target", "objects", "-LRB-", "TOS", "-RRB-", "of", "a", "layered", "graph", "Result", "Graph", "-LRB-", "RG", "-RRB-", ".", "We", "define", "two", "ranking", "metrics", "layered", "graph", "PageRank", "-LRB-", "lgPR", "-RRB-", "and", "layered", "graph", "ObjectRank", "-LRB-", "lgOR", "-RRB-", ".", "We", "also", "report", "on", "the", "results", "of", "experiments", "on", "real", "world", "data", "from", "NCBI/NIH", ".", "We", "show", "that", "the", "ranking", "distribution", "of", "lgPR", "indeed", "discriminates", "among", "the", "TOS", "objects", "of", "the", "RG", ".", "The", "lgPR", "distribution", "is", "not", "the", "same", "as", "applying", "PageRank", "a", "priori", "to", "the", "data", "graph", ".", "We", "perform", "a", "user", "experiment", "on", "complex", "queries", "typical", "of", "a", "scientist", "searching", "for", "gene", "related", "PubMed", "publications", ",", "and", "the", "Top", "K", "results", "of", "a", "word", "based", "ranking", "technique", "-LRB-", "Iowa", "-RRB-", "that", "has", "been", "shown", "to", "be", "accurate", "in", "answering", "gene", "queries", "the", "query", ".", "Using", "criteria", "that", "judge", "both", "relevance", "and", "importance", ",", "we", "explore", "the", "characteristics", "of", "these", "two", "rankings", ".", "Our", "preliminary", "evaluation", "indicates", "there", "may", "be", "a", "benefit", "or", "a", "meta-ranking", ".", "We", "briefly", "presented", "layered", "graph", "ObjectRank", "-LRB-", "lgOR", "-RRB-", "which", "is", "an", "extension", "to", "ObjectRank", ".", "The", "challenge", "of", "ObjectRank", "is", "determining", "the", "correct", "authority", "weight", "for", "each", "edge", ".", "For", "lgOR", ",", "we", "need", "to", "find", "the", "weight", "for", "the", "edges", "that", "occur", "in", "RG", ".", "Experiments", "with", "users", "to", "determine", "the", "correct", "authority", "weights", "for", "lgOR", "is", "planned", "for", "future", "work", ".", "We", "expect", "that", "IR", "techniques", "can", "be", "used", "to", "determine", "authority", "weights", ".", "-LSB-", "1", "-RSB-", "Andrey", "Balmin", ",", "Vagelis", "Hristidis", ",", "and", "Yannis", "Papakonstantinou", ".", "Objectrank", ":", "Authority-based", "keyword", "search", "in", "databases", ".", "In", "VLDB", ",", "pages", "564", "575", ",", "2004", ".", "-LSB-", "2", "-RSB-", "Magdalini", "Eirinaki", ",", "Michalis", "Vazirgiannis", ",", "and", "Dimitris", "Kapogiannis", ".", "Web", "path", "recommendations", "based", "on", "page", "ranking", "and", "markov", "models", ".", "In", "WIDM", "'", "05", ":", "Proceedings", "of", "the", "7th", "annual", "ACM", "international", "workshop", "on", "Web", "information", "and", "data", "management", ",", "pages", "2", "9", ",", "New", "York", ",", "NY", ",", "USA", ",", "2005", ".", "ACM", "Press", ".", "-LSB-", "3", "-RSB-", "Taher", "H.", "Haveliwala", ".", "Topic-sensitive", "pagerank", ".", "In", "WWW", "'", "02", ":", "Proceedings", "of", "the", "11th", "international", "conference", "on", "World", "Wide", "Web", ",", "pages", "517", "526", ",", "New", "York", ",", "NY", ",", "USA", ",", "2002", ".", "ACM", "Press", ".", "-LSB-", "4", "-RSB-", "Homo", "sapiens", "in", "NCBI", "Taxonomy", "Browser", ".", "www.ncbi.nih.gov/Taxonomy/Browser/wwwtax.cgi", "?", "mode", "=", "Info", "&", "id", "=", "9606", ".", "-LSB-", "5", "-RSB-", "Sepandar", "D.", "Kamvar", ",", "Taher", "H.", "Haveliwala", ",", "Christopher", "D.", "Manning", ",", "and", "Gene", "H.", "Golub", ".", "Extrapolation", "methods", "for", "accelerating", "pagerank", "computations", ".", "In", "WWW", ",", "pages", "261", "270", ",", "2003", ".", "-LSB-", "6", "-RSB-", "Z.", "Lacroix", ",", "L.", "Raschid", ",", "and", "M.-E", ".", "Vidal", ".", "Semantic", "model", "ot", "integrate", "biological", "resources", ".", "In", "International", "Workshop", "on", "Semantic", "Web", "and", "Databases", "-LRB-", "SWDB", "2006", "-RRB-", ",", "Atlanta", ",", "Georgia", ",", "USA", ",", "3-7", "April", "2006", ".", "-LSB-", "7", "-RSB-", "Alex", "Lash", ",", "Woei-Jyh", "Lee", ",", "and", "Louiqa", "Raschid", ".", "A", "methodology", "to", "enhance", "the", "semantics", "of", "links", "between", "PubMed", "publications", "and", "markers", "in", "the", "human", "genome", ".", "In", "Fifth", "IEEE", "Symposium", "on", "Bioinformatics", "and", "Bioengineering", "-LRB-", "BIBE", "2005", "-RRB-", ",", "pages", "185", "192", ",", "Minneapolis", ",", "Minnesota", ",", "USA", ",", "19-21", "October", "2005", ".", "-LSB-", "8", "-RSB-", "Carl", "D.", "Meyer", ".", "Matrix", "Analysis", "and", "Applied", "Linear", "Algebra", ".", "Society", "for", "Industrial", "and", "Applied", "Mathmatics", ",", "2000", ".", "-LSB-", "9", "-RSB-", "G.", "Mihaila", ",", "F.", "Naumann", ",", "L.", "Raschid", ",", "and", "M.", "Vidal", ".", "A", "data", "model", "and", "query", "language", "to", "explore", "enhanced", "links", "and", "paths", "in", "life", "sciences", "data", "sources", ".", "Proceedings", "of", "the", "Workshop", "on", "Web", "and", "Databases", ",", "WebDB", ",", "Maryland", ",", "USA", ",", "2005", ".", "-LSB-", "10", "-RSB-", "Rajeev", "Motwani", "and", "Prabhakar", "Raghavan", ".", "Randomized", "algorithms", ".", "Cambridge", "University", "Press", ",", "New", "York", ",", "NY", ",", "USA", ",", "1995", ".", "-LSB-", "11", "-RSB-", "Lawrence", "Page", ",", "Sergey", "Brin", ",", "Rajeev", "Motwani", ",", "and", "Terry", "Winograd", ".", "The", "pagerank", "citation", "ranking", ":", "Bringing", "order", "to", "the", "web", ".", "Technical", "report", ",", "Stanford", "Digital", "Library", "Technologies", "Project", ",", "1998", ".", "-LSB-", "12", "-RSB-", "Matthew", "Richardson", "and", "Pedro", "Domingos", ".", "Combining", "link", "and", "content", "information", "in", "web", "search", ".", "In", "Web", "Dynamics", "'", "04", ":", "Web", "Dynamics", "-", "Adapting", "to", "Change", "in", "Content", ",", "Size", ",", "Topology", "and", "Use", ",", "pages", "179", "194", ".", "Springer", ",", "2004", ".", "-LSB-", "13", "-RSB-", "Aditya", "Kumar", "Sehgal", "and", "Padmini", "Srinivasan", ".", "Retrieval", "with", "gene", "queries", ".", "BMC", "Bioinformatics", ",", "7:220", ",", "2006", ".", "-LSB-", "14", "-RSB-", "Maria-Esther", "Vidal", ",", "Louiqa", "Raschid", ",", "Natalia", "M", "arquez", ",", "Marelis", "C", "ardenas", ",", "and", "Yao", "Wu", ".", "Query", "rewriting", "in", "the", "semantic", "web", ".", "In", "InterDB", ",", "2006", ".", "34"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["navigational query", "pagerank", "ranking"], "abstractive_keyphrases": ["link analysis"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "193", "document": ["Through", "Different", "Eyes", "--", "Assessing", "Multiple", "Conceptual", "Views", "for", "Querying", "Web", "Services", "We", "present", "enhancements", "for", "UDDI", "/", "DAML-S", "registries", "allowing", "cooperative", "discovery", "and", "selection", "of", "Web", "services", "with", "a", "focus", "on", "personalization", ".", "To", "find", "the", "most", "useful", "service", "in", "each", "instance", "of", "a", "request", ",", "not", "only", "explicit", "parameters", "of", "the", "request", "have", "to", "be", "matched", "against", "the", "service", "offers", ".", "Also", "user", "preferences", "or", "implicit", "assumptions", "of", "a", "user", "with", "respect", "to", "common", "knowledge", "in", "a", "certain", "domain", "have", "to", "be", "considered", "to", "improve", "the", "quality", "of", "service", "provisioning", ".", "In", "the", "area", "of", "Web", "services", "the", "notion", "of", "service", "ontologies", "together", "with", "cooperative", "answering", "techniques", "can", "take", "a", "lot", "of", "this", "responsibility", ".", "However", ",", "without", "quality", "assessments", "for", "the", "relaxation", "of", "service", "requests", "and", "queries", "a", "personalized", "service", "discovery", "and", "selection", "is", "virtually", "impossible", ".", "This", "paper", "focuses", "on", "assessing", "the", "semantic", "meaning", "of", "query", "relaxation", "plans", "over", "multiple", "conceptual", "views", "of", "the", "service", "ontology", ",", "each", "one", "representing", "a", "soft", "query", "constraint", "of", "the", "user", "request", ".", "Our", "focus", "is", "on", "the", "question", "what", "constitutes", "a", "minimum", "amount", "of", "necessary", "relaxation", "to", "answer", "each", "individual", "request", "in", "a", "cooperative", "manner", ".", "Incorporating", "such", "assessments", "as", "early", "as", "possible", "we", "propose", "to", "integrate", "ontology-based", "discovery", "directly", "into", "UDDI", "directories", "or", "query", "facilities", "in", "service", "provisioning", "portals", ".", "Using", "the", "quality", "assessments", "presented", "here", ",", "this", "integration", "promises", "to", "propel", "today", "'s", "Web", "services", "towards", "an", "intuitive", "user-centered", "service", "provisioning", ".", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Online", "Information", "Services", "Web-based", "services", ".", "Algorithms", ",", "Human", "Factors", ",", "Design", ".", "Web", "services", "are", "expected", "to", "provide", "an", "open", "platform", "not", "only", "for", "electronic", "B2B", "interaction", ",", "but", "also", "for", "the", "provisioning", "of", "so-called", "user-centered", "services", ",", "i.e.", "B2C", "services", "that", "can", "provide", "useful", "information", "and", "a", "variety", "of", "service", "offers", "to", "support", "users", "in", "a", "modern", "mobile", "lifestyle", ".", "Though", "the", "capabilities", "of", "such", "services", "are", "still", "relatively", "simple", ",", "their", "sophistication", "will", "grow", "with", "the", "improvement", "of", "-LRB-", "wireless", "-RRB-", "networks", ",", "bandwidths", ",", "and", "client", "device", "capabilities", ".", "However", ",", "finding", "the", "adequate", "service", "for", "subsequent", "use", "of", "each", "individual", "user", "becomes", "a", "more", "and", "more", "demanding", "problem", ".", "Given", "the", "convergence", "of", "networks", "in", "forthcoming", "-LRB-", "mobile", "-RRB-", "environments", "and", "the", "evolving", "innovative", "business", "models", "for", "third", "party", "service", "deployment", "-LRB-", "e.g.", "NTT", "DoCoMo", "'s", "i-mode", "service", "certification/licensing", "model", "for", "mobile", "service", "portals", "-LSB-", "19", "-RSB-", "-RRB-", "the", "variety", "of", "services", "is", "even", "expected", "to", "grow", ".", "Making", "an", "informed", "choice", "of", "the", "`", "right", "'", "service", "will", "therefore", "include", "matching", "individual", "users", "'", "preferences", "or", "dislikes", "against", "the", "concepts", "and", "capabilities", "of", "the", "services", "offered", ".", "Usually", "the", "interaction", "process", "for", "Web", "services", "consists", "of", "three", "distinct", "phases", ":", "a", "discovery", "of", "possible", "services", ",", "the", "selection", "of", "the", "most", "useful", ",", "and", "the", "subsequent", "execution", ".", "In", "understanding", "what", "a", "service", "actually", "offers", "the", "first", "two", "phases", "are", "crucial", "and", "the", "general", "acceptance", "of", "user-centered", "services", "will", "depend", "on", "the", "solutions", "of", "still", "demanding", "problems", "in", "interaction", "like", "cooperative", "querying", ".", "As", "sh", "own", "in", "-LSB-", "4", "-RSB-", "and", "-LSB-", "5", "-RSB-", "the", "discovery", "and", "selection", "processes", "of", "user-centered", "Web", "services", "involves", "a", "high", "degree", "of", "respect", "for", "user", "preferences", "to", "be", "flexible", "enough", "for", "real", "world", "use", ".", "In", "that", "respect", "providing", "user-centered", "services", "strongly", "differs", "from", "the", "well-defined", "capabilities", "of", "traditional", "B2B", "services", ".", "As", "a", "running", "example", "of", "a", "typical", "user-centered", "service", "we", "will", "use", "an", "extension", "of", "the", "cooperative", "restaurant", "booking", "Web", "service", "presented", "in", "-LSB-", "4", "-RSB-", ":", "restaurant", "booking", "services", "subscribe", "to", "the", "least", "general", "applicable", "node", "along", "a", "complex", "service", "ontology", "for", "a", "number", "of", "characteristics", ".", "A", "service", "request", "can", "then", "be", "performed", "including", "a", "choice", "of", "various", "individual", "categories", ".", "However", ",", "the", "individual", "services", "offered", "will", "usually", "only", "more", "or", "less", "match", "all", "the", "user", "'s", "expectations", ".", "Ranking", "services", "with", "respect", "to", "requests", "is", "thus", "an", "ongoing", "challenge", ",", "as", "is", "also", "evident", "from", "the", "research", "areas", "of", "IR", "or", "Web", "search", "engines", "for", "information", "provisioning", ".", "Service", "providers", "almost", "always", "can", "anticipate", "some", "typical", "interactions", "with", "their", "services", ".", "For", "our", "example", "typical", "tasks", "are", "for", "instance", "booking", "a", "certain", "restaurant", "for", "a", "specific", "evening", ",", "finding", "a", "suitable", "restaurant", "in", "the", "vicinity", "for", "lunch", ",", "etc.", ".", "The", "characteristics", "and", "input", "parameters", "for", "Web", "services", "for", "restaurant", "booking", "thus", "usually", "contain", "a", "number", "of", "general", "input", "values", "that", "can", "be", "specified", "in", "a", "service", "request/query", ":", "the", "name", "of", "the", "restaurant", ",", "its", "location", ",", "its", "specific", "address", ",", "the", "type", "of", "cuisine", ",", "the", "date", "and", "time", "for", "a", "booking", ",", "its", "price", "range", "or", "even", "third", "party", "content", "like", "recommendations", "-LRB-", "e.g.", "the", "Zagat", "reviews", "-RRB-", ".", "However", ",", "from", "a", "service", "provisioning", "point", "of", "view", "the", "nature", "of", "these", "parameters", "strongly", "differs", ".", "A", "user", "expecting", "to", "book", "a", "certain", "restaurant", "on", "a", "specific", "evening", "will", "expect", "that", "the", "request", "may", "be", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "WWW", "2004", ",", "May", "17-22", ",", "2004", ",", "New", "York", ",", "NY", "USA", ".", "ACM", "1-58113-912-8", "/", "04/0005", ".", "196", "granted", "or", "may", "fail", "depending", "on", "current", "reservations", "of", "that", "restaurant", "for", "the", "given", "date", ",", "but", "relaxing", "the", "constraints", "of", "the", "date", "given", "or", "booking", "a", "different", "restaurant", "for", "the", "evening", "might", "simply", "not", "do", ".", "In", "contrast", "a", "user", "simply", "wishing", "for", "a", "close-by", "restaurant", "to", "have", "lunch", "will", "rarely", "provide", "such", "fixed", "terms", "as", "a", "restaurants", "name", ",", "but", "rather", "use", "descriptive", "terms", "like", "a", "preferred", "cuisine", "and", "an", "approximate", "location", ".", "service", "request", "service", "providers", "...", "service", "n", "implementation", "service", "1", "implementation", "service", "providers", "...", "service", "n", "implementation", "service", "1", "implementation", "e", "x", "ecutio", "n", "UDDI", "registry", "...", "service", "1", "interface", "service", "n", "interface", "UDDI", "registry", "...", "service", "1", "interface", "service", "n", "interface", "quality", "assessment", "service", "ontologies", "choice", "service", "descriptions", "user", "profile", "matchmaking", "Figure", "1", ":", "Concept", "of", "enhanced", "UDDI", "service", "registries", "Distinguishing", "such", "query", "stereotypes", "like", "`", "book", "a", "table", "at", "the", "`", "Chez", "Panisse", "'", "for", "the", "12/3/03", "8:00", "pm", "'", "and", "`", "give", "me", "the", "name", "and", "address", "of", "a", "Chinese", "restaurant", "in", "the", "commercial", "district", "of", "San", "Francisco", "with", "medium", "price", "range", "'", "and", "the", "subsequent", "personalization", "of", "service", "provisioning", "also", "needs", "different", "types", "of", "input", "parameters", ".", "Whereas", "simple", "variables", "like", "the", "restaurant", "'s", "name", "or", "a", "certain", "category", "in", "a", "clear", "request", "can", "be", "handled", "in", "an", "exact", "match", "fashion", ",", "more", "fuzzy", "attributes", "in", "a", "somewhat", "tentative", "request", "like", "an", "approximate", "location", "or", "the", "choice", "of", "cuisine", "have", "to", "be", "understood", "as", "a", "user", "`", "s", "preferences", "with", "respect", "to", "certain", "concepts", "-LRB-", "soft", "constraints", "-RRB-", ".", "In", "the", "area", "of", "the", "Semantic", "Web", "the", "management", "of", "such", "concepts", "is", "usually", "done", "by", "the", "very", "powerful", "tool", "of", "ontologies", "that", "describe", "a", "generalization", "hierarchy", "of", "such", "concepts", ".", "In", "the", "course", "of", "this", "paper", "we", "will", "show", "how", "to", "open", "up", "service", "provisioning", "to", "the", "better", "understanding", ",", "adequate", "handling", "and", "quality", "assessment", "of", "each", "individual", "user", "'s", "intentions", "and", "preferences", ".", "The", "contribution", "of", "the", "paper", "thus", "is", "twofold", ":", "On", "one", "hand", "we", "relate", "the", "use", "of", "ontologies", "and", "the", "handling", "of", "conceptual", "views", "like", "given", "by", "the", "Semantic", "Web", "to", "co-operatively", "evaluating", "preferences", "for", "each", "specific", "user", "On", "the", "other", "hand", "we", "show", "how", "to", "effectively", "deal", "with", "the", "problem", "of", "relaxing", "multiple", "conceptual", "views", "for", "more", "complex", "queries", "and", "give", "quality", "measures", "to", "assess", "the", "most", "useful", "results", "for", "each", "specific", "user", ".", "Both", "contributions", "can", "be", "expected", "to", "improve", "the", "service", "provisioning", "of", "user-centered", "Web", "services", "and", "help", "to", "boost", "their", "usability", "and", "thus", "subsequently", "their", "acceptance", ".", "Today", "Web", "services", "are", "usually", "provided", "via", "an", "Internet", "wide", "network", "of", "services", "registries", "given", "by", "the", "Universal", "Description", "Discovery", "and", "Integration", "-LRB-", "UDDI", "-RRB-", "-LSB-", "21", "-RSB-", ".", "UDDI", "builds", "on", "the", "Web", "Service", "Definition", "Language", "WSDL", "-LSB-", "7", "-RSB-", "which", "features", "basic", "information", "about", "providers", "of", "a", "service", "and", "technical", "service", "invocation", "details", ".", "Even", "though", "UDDI", "has", "become", "the", "de", "facto", "standard", "in", "the", "field", "it", "suffers", "from", "a", "major", "shortcoming", ":", "the", "information", "offered", "on", "individual", "services", "is", "rather", "limited", ".", "A", "yellow", "-", "page-style", "lookup", "mechanism", "provides", "the", "service", "interface", "together", "with", "a", "short", "verbal", "description", "of", "what", "task", "the", "service", "performs", ".", "Mainly", "targeted", "a", "human", "Web", "service", "experts", "and", "developers", ",", "advanced", "query", "capabilities", "and", "cooperative", "matchmaking", ",", "however", ",", "are", "still", "lacking", ".", "Research", "in", "the", "area", "of", "the", "Semantic", "Web", "seeks", "a", "solution", "to", "this", "unsatisfy", "ing", "situation", ",", "e.g.", "-LSB-", "20", "-RSB-", "-LSB-", "4", "-RSB-", ".", "Generally", "speaking", ",", "the", "Semantic", "Web", "fosters", "a", "population", "of", "the", "Web", "with", "content", "and", "services", "having", "formal", "semantics", "and", "rich", "service", "descriptions", ".", "Several", "semantic", "frameworks", "for", "Web", "services", "are", "currently", "emerging", "with", "DAML-S", "-LSB-", "2", "-RSB-", "and", "W3C", "'s", "recently", "established", "OWL-S", "-LSB-", "9", "-RSB-", ",", "-LSB-", "10", "-RSB-", "initiative", "as", "the", "most", "prominent", "approaches", ".", "We", "have", "built", "our", "previous", "work", "on", "DAML-S", "as", "a", "relatively", "mature", "ontology-based", "approach", "to", "the", "description", "of", "Web", "services", "that", "tries", "to", "provide", "a", "common", "ontology", "of", "services", "for", "the", "Semantic", "Web", ".", "Building", "on", "top", "of", "DAML+OIL", "-LSB-", "8", "-RSB-", "the", "Web", "service", "representations", "in", "DAML-S", "consist", "of", "a", "service", "profile", "for", "advertising", "and", "discovering", "services", ",", "a", "process", "model", "giving", "a", "detailed", "description", "of", "a", "service", "'s", "operation", "and", "a", "service", "grounding", "providing", "details", "on", "how", "to", "interoperate", "with", "services", "via", "message", "exchange", ".", "Figure", "1", "shows", "a", "schematic", "view", "of", "our", "semantically", "enriched", "Web", "service", "provisioning", "concept", ".", "A", "user", "states", "personal", "needs", "and", "preferences", "in", "an", "enhanced", "service", "request", ".", "The", "enhanced", "UDDI", "registry", "matches", "this", "request", "against", "the", "descriptions", "of", "all", "registered", "services", ".", "The", "actual", "matching", "can", "be", "carried", "out", "using", "cooperative", "database", "technology", "like", "sh", "own", "in", "-LSB-", "4", "-RSB-", ".", "The", "query", "is", "split", "in", "hard", "and", "soft", "constraints", "where", "the", "hard", "constraints", "are", "processed", "as", "filter", "conditions", ",", "whereas", "the", "soft", "conditions", "can", "be", "relaxed", "if", "necessary", ".", "If", "no", "user-specific", "preferences", "are", "given", "with", "the", "service", "request", ",", "the", "relaxation", "follows", "the", "domain-specific", "conceptual", "views", "of", "the", "service", "ontology", "given", "by", "the", "service", "providers", "or", "portal", "operators", ".", "To", "distinguish", "between", "several", "possible", "relaxations", "the", "quality", "assessment", ",", "which", "is", "the", "main", "aspect", "of", "this", "paper", ",", "will", "evaluate", "the", "degree", "of", "match", "for", "each", "service", "with", "respect", "to", "the", "original", "user", "query", "and", "offer", "all", "best", "matches", ".", "After", "a", "certain", "implementation", "has", "been", "chosen", ",", "the", "service", "provider", "will", "execute", "the", "service", "and", "deliver", "the", "result", ".", "From", "a", "service", "provisioning", "viewpoint", "centralized", "and", "publicly", "available", "service", "ontologies", "can", "be", "understood", "as", "a", "default", "service", "conceptualization", "or", "the", "most", "common", "service", "concept", "hierarchy", ",", "i.e.", "encoding", "common", "and", "widely", "accepted", "knowledge", "or", "world/domain", "knowledge", ".", "Due", "to", "the", "hierarchical", "nature", "of", "ontologies", "a", "user", "asking", "for", "a", "specific", "service", "will", "also", "be", "served", "with", "any", "more", "specific", "service", "concept", "subsumed", "by", "his", "request", ".", "On", "the", "other", "hand", ",", "in", "the", "case", "where", "a", "best", "match", "to", "his", "initial", "request", "is", "not", "available", "he/she", "might", "also", "be", "satisfied", "with", "more", "general", "services", "from", "a", "super-class", "of", "the", "requested", "one", ".", "This", "is", "determined", "by", "a", "relaxation", "step", "in", "the", "service", "ontology", ",", "i.e.", "a", "generalization", "of", "concepts", "along", "the", "lines", "of", "the", "ontology", ".", "In", "this", "section", "we", "provide", "a", "brief", "overview", "of", "the", "use", "of", "ontologies", "for", "relaxation", "of", "soft", "query", "constraints", "and", "show", "how", "common", "knowledge", "serves", "as", "a", "default", "for", "cooperative", "retrieval", ".", "197", "American", "California", "Seafood", "Shopping", "Commercial", "Cajun", "Texmex", "Organic", "Fusion", "Center", "Suburb", "City", "Cultural", "...", "...", "...", "Location", "Thing", "Restaurant", "Akasaka", "Chez", "Panisse", "Avocado", "Garden", "Cesar", "The", "Walrus", "...", "Se", "rvi", "c", "e", "s", "S", "e", "rvi", "c", "e", "O", "n", "t", "o", "lo", "gy", ",", ",", "Cuisine", "''", "Figure", "2", ":", "Service", "Ontology", "for", "restaurant", "booking", ".", "3.1", "Service", "Ontologies", ",", "User", "Preferences", "and", "Usage", "Patterns", "The", "purpose", "of", "a", "service", "ontology", "is", "to", "describe", "the", "kinds", "of", "entities", "available", "in", "a", "service", "repository", "and", "how", "they", "are", "related", ".", "To", "this", "end", "service", "ontologies", "may", "include", "descriptions", "of", "service", "classes", ",", "properties", "and", "their", "instances", "-LRB-", "the", "actual", "services", "that", "are", "eventually", "selected", "for", "execution", "-RRB-", ".", "A", "basic", "service", "ontology", "is", "depicted", "in", "Figure", "2", ".", "Here", "restaurant", "booking", "services", "are", "classified", "according", "to", "their", "cuisine", "and", "their", "location", "in", "a", "city", ".", "For", "instance", "the", "restaurant", "`", "Chez", "Panisse", "'", "serves", "`", "Organic", "'", "food", "with", "`", "Organic", "'", "being", "a", "specialization", "of", "the", "`", "Californian", "'", "cuisine", "-LRB-", "as", "well", "as", "of", "`", "American", "'", "-RRB-", ".", "Furthermore", "the", "restaurant", "`", "Chez", "Panisse", "'", "is", "located", "in", "the", "`", "Shopping", "'", "district", "which", "itself", "is", "part", "of", "the", "city", "`", "Center", "'", ".", "We", "have", "used", "W3C", "'s", "Web", "Ontology", "Language", "-LRB-", "OWL", "-RRB-", "and", "its", "predecessor", "DAML+OIL", "to", "enrich", "DAML-S", "service", "pro-", "<", "A", "href", "=", "``", "193", ".", "html", "#", "9", "''", ">", "files", "in", "Web", "service", "repositories", "-LSB-", "4", "-RSB-", "-LSB-", "5", "-RSB-", ".", "Modeled", "in", "OWL", "the", "most", "general", "`", "Restaurant", "'", "and", "`", "Location", "'", "concepts", "are", "anchored", "in", "`", "owl", ":", "Thing", "'", "the", "most", "common", "concept", "of", "any", "ontology", ".", "A", "restaurant", "booking", "service", "using", "the", "service", "ontology", "from", "Figure", "2", "might", "on", "one", "hand", "assume", "that", "a", "user", "asking", "for", "`", "a", "restaurant", "featuring", "American", "cuisine", "'", "will", "be", "well", "served", "by", "all", "restaurants", "with", "e.g.", "Cajun", ",", "Californian", "or", "Texmex", "cuisine", ",", "since", "they", "are", "all", "instantiations", "of", "American", "cuisines", ".", "On", "the", "other", "hand", ",", "if", "a", "user", "asks", "for", "`", "a", "Californian", "fusion", "cuisine", "restaurant", "'", "and", "no", "such", "service", "should", "be", "registered", ",", "implicitly", "relaxing", "the", "query", "to", "all", "Californian", "restaurants", "and", "offering", "restaurants", "with", "organic", "cuisine", "or", "Californian", "seafood", "to", "our", "user", "will", "be", "more", "helpful", "than", "just", "stating", "the", "empty", "result", ".", "And", "even", "if", "a", "user", "has", "different", "conceptions", "-LRB-", "e.g.", "cuisines", "being", "related", "based", "on", "their", "flavors", "-RRB-", "or", "explicit", "preferences", "-LRB-", "a", "Chinese", "restaurant", "rather", "than", "an", "Italian", "one", "-RRB-", ",", "an", "ontology-based", "discovery/selection", "model", "is", "still", "useful", ".", "-LSB-", "4", "-RSB-", "shows", "in", "detail", "how", "to", "deal", "with", "these", "cases", "by", "overwriting", "the", "default", "ontology", "with", "an", "explicitly", "provided", "-LRB-", "or", "implicitily", "derived", "-RRB-", "generalization", "hierarchy", "of", "a", "user", "somewhat", "similar", "to", "the", "view", "definitions", "proposed", "by", "-LSB-", "14", "-RSB-", ".", "Since", "for", "our", "assessment", "framework", "here", "the", "exact", "kind", "and", "classes/values", "of", "an", "ontology", "do", "matter", "less", "than", "its", "actual", "structure", "in", "each", "instance", ",", "such", "overwritings", "by", "user", "specified", "conceptions", "are", "always", "possible", "to", "facilitate", ".", "We", "advocate", "the", "use", "of", "service", "ontologies", "together", "with", "a", "proprietary", "notion", "of", "basic", "user", "preferences", "and", "typical", "service", "usage", "patterns", "for", "the", "stepwise", "refinement", "of", "service", "requests", "in", "a", "cooperative", "service", "provisioning", "environment", ".", "While", "the", "basic", "approach", "and", "combination", "of", "ontologies", ",", "preferences", "and", "patterns", "is", "published", "elsewhere", "-LSB-", "5", "-RSB-", "we", "will", "now", "concentrate", "on", "enhancements", "to", "the", "relaxation", "along", "the", "lines", "of", "ontologies", "alone", ":", "unlike", "the", "specialization", "of", "a", "request", ",", "a", "generalization", "can", "result", "in", "severe", "changes", "of", "the", "initial", "query", "semantics", ".", "This", "is", "especially", "true", ",", "if", "several", "relaxation", "steps", "have", "to", "be", "performed", "until", "a", "match", "can", "be", "found", ".", "At", "the", "point", "of", "relaxing", "a", "constraint", "to", "the", "root", "of", "an", "ontology", ",", "the", "respective", "constraint", "can", "even", "be", "considered", "as", "entirely", "dropped", ".", "But", "nevertheless", ",", "since", "an", "ontology", "resembles", "common", "knowledge", "-LRB-", "and", "thus", "implicit", "preferences", "-RRB-", ",", "for", "high", "quality", "service", "provisioning", "offering", "somewhat", "related", "features", "is", "usually", "still", "a", "better", "default", "than", "just", "returning", "an", "empty", "result", "set", ".", "3.2", "Multiple", "Conceptual", "Views", "Individual", "users", "might", "have", "quite", "specific", "ideas", "about", "differing", "domain", "concepts", "-LRB-", "conceptions", "-RRB-", "or", "very", "clear", "expectations", "how", "to", "be", "served", "differing", "from", "the", "usual", "domain", "assumptions", "-LRB-", "explicit", "preferences", "-RRB-", ",", "but", "also", "implicit", "preferences", "play", "an", "important", "part", ".", "Consider", "for", "instance", "location-based", "services", ",", "e.g.", "for", "restaurant", "booking", ".", "If", "a", "user", "asks", "to", "book", "`", "a", "Chinese", "restaurant", "for", "dinner", "'", ",", "the", "common", "domain", "knowledge", "tells", "us", "that", "this", "restaurant", "should", "be", "in", "the", "vicinity", "-LRB-", "e.g.", "a", "30", "miles", "area", "-RRB-", "of", "his", "current", "or", "usual", "whereabouts", "and", "we", "can", "add", "this", "information", "as", "an", "implicit", "constraint", "for", "better", "provisioning", "quality", ".", "A", "user", "in", "San", "Francisco", "would", "usually", "be", "annoyed", "by", "offers", "of", "Chinese", "restaurants", "in", "Hong", "Kong", "no", "matter", "how", "good", "their", "actual", "quality", "or", "rating", "is", ".", "If", "this", "general", "assumption", "would", "not", "hold", ",", "however", ",", "-LRB-", "e.g.", "if", "a", "user", "wants", "to", "fly", "to", "Hong", "Kong", "in", "the", "morning", "and", "then", "have", "dinner", "there", "-RRB-", "he", "or", "she", "would", "have", "stated", "this", "unusual", "detail", "already", "within", "the", "query", "and", "had", "asked", "for", "a", "`", "Chinese", "restaurant", "in", "Hong", "Kong", "for", "dinner", "'", ".", "Such", "explicit", "information", "within", "a", "service", "request", "is", "provided", "due", "to", "the", "psychological", "notion", "that", "though", "users", "want", "a", "service", "to", "know", "what", "is", "sensible", "-LRB-", "like", "they", "expect", "to", "be", "served", "in", "human-human", "interaction", "-RRB-", ",", "no", "user", "expects", "a", "service", "to", "be", "clairvoyant", ".", "Thus", ",", "not", "only", "having", "further", "-LRB-", "explicit", "-RRB-", "knowledge", "of", "a", "user", ",", "but", "also", "assuming", "typical", "behavior", ",", "concept", "hier-198", "archies", "given", "by", "ontologies", "can", "be", "used", "as", "good", "default", "relaxation", "hierarchies", "for", "user", "preferences", ".", "Should", ",", "however", ",", "some", "preferences", "or", "a", "specific", "conception", "be", "given", ",", "the", "underlying", "ontology", "has", "to", "be", "exchanged", "against", "the", "user-provided", "terms", "or", "concepts", ".", "We", "introduce", "the", "notion", "of", "conceptual", "views", "on", "a", "service", "ontology", "to", "account", "for", "all", "the", "different", "interests", "a", "user", "wants", "to", "express", "in", "a", "service", "request", ".", "Such", "a", "conceptual", "view", "is", "modeled", "as", "a", "clipping", "from", "the", "full", "service", "ontology", "that", "starts", "with", "the", "most", "general", "concept", "associable", "with", "a", "specific", "user", "interest", ".", "For", "this", "paper", "we", "will", "for", "the", "ease", "of", "understanding", "assume", "conceptual", "views", "to", "be", "non-overlapping", ",", "tree-shaped", "clippings", "from", "the", "full", "service", "ontology", "where", "each", "service", "is", "registered", "with", "the", "node", "that", "describes", "its", "value", "with", "respect", "to", "the", "most", "specific", "characteristics", ".", "An", "example", "conceptual", "view", "is", "indicated", "as", "a", "grey", "shaping", "in", "figure", "2", ":", "the", "view", "named", "`", "Cuisine", "'", "is", "basically", "a", "sub-ontology", "only", "concerned", "with", "the", "classification", "of", "restaurants", "according", "to", "the", "offered", "type", "of", "food", ".", "Whereas", "the", "restaurants", "`", "The", "Walrus", "'", ",", "`", "Chez", "Panisse", "'", ",", "`", "Avocado", "Garden", "'", "and", "Cesar", "are", "classified", "as", "being", "`", "Fusion", "'", "or", "`", "Organic", "'", "places", "the", "restaurant", "`", "Akasaka", "'", "is", "not", "reachable", "in", "this", "view", "as", "it", "is", "only", "classified", "as", "located", "in", "the", "cultural", "district", ".", "As", "we", "will", "discuss", "in", "the", "remainder", "of", "this", "paper", "multiple", "conceptual", "views", "can", "be", "used", "to", "account", "for", "different", "interests", "a", "user", "wants", "to", "express", "in", "a", "service", "request", "and", "the", "relative", "importance", "between", "them", ".", "In", "the", "case", "of", "the", "restaurant", "booking", "example", "it", "is", "conceivable", "that", "a", "user", "values", "the", "fulfillment", "of", "location", "constraints", "over", "cuisine", "constraints", "if", "he/she", "is", "only", "up", "for", "a", "quick", "work", "lunch", ".", "However", ",", "for", "the", "ambitious", "`", "hobby", "gour-met", "'", "this", "might", "be", "just", "the", "other", "way", "round", "on", "the", "weekend", ".", "Thus", "we", "will", "need", "ways", "to", "assess", "the", "respective", "quality", "of", "different", "relaxation", "schemes", "to", "allow", "users", "to", "make", "an", "informed", "choice", ".", "Let", "us", "now", "focus", "on", "problems", "that", "arise", "when", "multiple", "soft", "constraints", "have", "to", "be", "relaxed", "over", "the", "service", "ontology", ".", "We", "will", "first", "look", "at", "our", "sample", "scenario", ",", "investigate", "the", "relaxation", "of", "conceptual", "views", "and", "then", "discuss", "some", "quality", "considerations", ".", "4.1", "Relaxation", "Plans", "for", "Multiple", "Selection", "Predicates", "Let", "us", "consider", "our", "restaurant", "booking", "service", "from", "above", ".", "A", "typical", "query", "would", "be", "``", "Find", "a", "Californian", "fusion", "cuisine", "restaurant", "in", "the", "commercial", "district", "of", "Berkeley", "''", ".", "Here", "we", "will", "have", "to", "deal", "with", "two", "soft", "constraints", ":", "the", "type", "of", "cuisine", "and", "the", "location", ".", "Assuming", "that", "we", "do", "not", "have", "more", "specific", "information", "about", "the", "user", "'s", "preferences", "both", "constraints", "could", "be", "relaxed", "along", "the", "two", "default", "conceptual", "views", "of", "the", "service", "ontology", "of", "figure", "2", ".", "`", "The", "Walrus", "'", "fusion", "`", "Cesar", "'", "`", "Chez", "Panisse", "'", "californian", "organic", "`", "Avocado", "Garden", "'", "`", "Cucina", "Calabrese", "'", "seafood", "`", "The", "Mediterraneum", "'", "Figure", "3", ":", "The", "cuisine", "ontology", "with", "respective", "instances", "Figures", "3", "and", "4", "show", "the", "full", "first", "two", "concept", "levels", "of", "the", "respective", "conceptual", "views", "with", "some", "instances", ".", "So", "in", "figure", "3", "we", "can", "for", "instance", "see", "that", "there", "is", "a", "service", "for", "a", "restaurant", "called", "`", "The", "Walrus", "'", "which", "is", "classified", "as", "offering", "fusion", "cuisine", "and", "as", "such", ",", "also", "offering", "Californian", "cuisine", ".", "The", "relaxation", "of", "query", "predicates", "over", "such", "a", "view", "is", "straightforward", ".", "If", "the", "query", "predicate", "specifies", "`", "fusion", "cuisine", "'", "restaurants", ",", "we", "would", "have", "the", "choice", "between", "the", "respective", "instances", ",", "here", "`", "The", "Walrus", "'", "and", "`", "Cesar", "'", ".", "If", "for", "some", "reason", "there", "would", "be", "no", "fusion", "cuisine", "restaurants", "registered", ",", "or", "the", "instances", "can", "not", "satisfy", "some", "other", "constraints", "-LRB-", "like", "booking", "for", "a", "certain", "date", "-RRB-", ",", "we", "will", "relax", "along", "the", "ontology", "to", "the", "more", "general", "concept", "of", "Californian", "cuisine", "and", "can", "also", "consider", "the", "restaurants", "that", "are", "registered", "under", "the", "`", "organic", "'", "and", "`", "seafood", "'", "characterizations", "of", "California", "cuisine", ".", "The", "technical", "problem", "of", "how", "to", "relax", "single", "conceptual", "views", "with", "adequate", "query", "languages", "over", "cooperative", "database", "systems", "is", "in", "detail", "addressed", "e.g.", "in", "-LSB-", "4", "-RSB-", "and", "-LSB-", "5", "-RSB-", ".", "The", "beauty", "of", "the", "design", "is", "that", "all", "details", "of", "a", "UDDI", "or", "DAML-S", "style", "description", "for", "each", "service", "together", "with", "some", "more", "characteristics", "-LRB-", "e.g.", "taken", "from", "RDF", "statements", "of", "a", "restaurants", "homepage", "-RRB-", "can", "be", "stored", "in", "a", "classic", "relational", "database", "by", "the", "service", "provider", "and", "can", "be", "searched", "using", "a", "declarative", "query", "language", "extended", "by", "preference", "constructors", "like", "sh", "own", "in", "e.g.", "-LSB-", "13", "-RSB-", ".", "Thus", "an", "added-value", "service", "using", "semantically", "meaningful", "content", "can", "be", "provided", "quite", "easily", ".", "`", "Tom", "'s", "Grill", "'", "commercial", "`", "Sushi", "and", "Soul", "'", "`", "Avocado", "Garden", "'", "city", "center", "cultural", "`", "The", "Mediterraneum", "'", "`", "Akasaka", "'", "`", "Chez", "Panisse", "'", "shopping", "`", "Cesar", "'", "`", "Pizza", "My", "Heart", "'", "Figure", "4", ":", "The", "location", "ontology", "with", "respective", "instances", "A", "more", "serious", "problem", "arises", "when", "several", "soft", "query", "constraints", "over", "various", "conceptual", "views", "have", "to", "be", "evaluated", ".", "Consider", "for", "instance", "the", "query", "on", "a", "`", "fusion", "cuisine", "restaurant", "in", "the", "commercial", "district", "'", ".", "We", "can", "easily", "verify", "that", "in", "our", "example", "even", "though", "`", "The", "Walrus", "'", "and", "`", "Cesar", "'", "are", "fusion", "cuisine", ",", "they", "are", "not", "registered", "in", "the", "commercial", "district", ".", "Likewise", "`", "Tom", "'s", "Grill", "'", ",", "`", "Sushi", "and", "Soul", "'", "and", "`", "Avocado", "Garden", "'", "are", "in", "the", "commercial", "district", ",", "but", "they", "do", "not", "offer", "fusion", "cuisine", ".", "Aiming", "at", "a", "cooperative", "retrieval", "behavior", "we", "are", "left", "with", "three", "choices", ":", "relaxing", "the", "constraint", "on", "the", "cuisine", ",", "relaxing", "the", "constraint", "on", "the", "location", "or", "relaxing", "both", "constraints", ".", "When", "relaxing", "the", "cuisine", "to", "`", "califor-nian", "'", "we", "would", "retrieve", "the", "service", "of", "`", "Avocado", "Garden", "'", "the", "only", "Californian", "cuisine", "restaurant", "within", "the", "commercial", "district", ".", "Relaxing", "the", "location-based", "ontology", "would", "result", "only", "in", "the", "service", "of", "`", "Cesar", "'", "the", "only", "fusion", "cuisine", "restaurant", "in", "the", "city", "center", ".", "Finally", "relaxing", "both", "constraints", "would", "result", "in", "all", "Californian", "cuisine", "restaurant", "within", "the", "city", "center", ",", "i.e.", "`", "Avocado", "Garden", "'", ",", "`", "The", "Mediterraneum", "'", ",", "`", "Chez", "Panisse", "'", "and", "`", "Cesar", "'", ".", "Thus", "199", "different", "kinds", "of", "relaxation", "will", "usually", "result", "in", "essentially", "differing", "answer", "sets", ".", "This", "problem", "will", "remain", "if", "more", "relaxation", "steps", "have", "to", "be", "taken", ".", "If", "we", "have", "relaxed", "only", "one", "constraint", "we", "could", "e.g.", "decide", "to", "relax", "this", "property", "even", "further", "or", "relax", "another", "property", "of", "our", "service", "during", "the", "next", "step", ".", "Let", "us", "first", "define", "the", "task", "of", "finding", "the", "`", "best", "'", "service", "under", "relaxation", "The", "Problem", "of", "Best-Matching", "Service", "Provisioning", ":", "Given", "various", "characteristics", "that", "describe", "all", "services", "in", "a", "service", "ontology", ",", "a", "concept", "hierarchy", "-LRB-", "conceptual", "view", "-RRB-", "for", "each", "characteristic", "and", "a", "user", "request", "stating", "a", "number", "of", "hard", "and", "soft", "constraints", ",", "the", "best-matching", "service", "is", "given", "by", "all", "services", "that", ":", "-", "fulfill", "all", "the", "hard", "constraints", "-", "fulfill", "all", "soft", "constraints", "with", "a", "minimum", "amount", "of", "relaxation", "of", "characteristics", "with", "respect", "to", "a", "suitable", "quality", "measure", "So", "given", "that", "each", "service", "is", "registered", "in", "one", "concept", "node", "for", "each", "characteristic", "given", "by", "the", "respective", "conceptual", "view", ",", "and", "all", "services", "not", "fulfilling", "the", "hard", "constraints", "have", "been", "filtered", ",", "the", "problem", "of", "selection", "over", "multiple", "constraints", "comes", "down", "to", "deciding", "what", "is", "`", "a", "minimum", "amount", "of", "relaxation", "'", ".", "Obviously", "the", "basic", "task", "is", "finding", "a", "service", "that", "is", "registered", "with", "all", "concepts", "-LRB-", "or", "any", "of", "their", "respective", "sub-concepts", "-RRB-", "as", "specified", "by", "the", "query", ",", "a", "`", "perfect", "match", "'", ".", "But", "if", "there", "is", "no", "such", "service", "registered", ",", "the", "decision", "what", "soft", "constraints", "to", "relax", "and", "how", "far", "they", "are", "relaxed", ",", "is", "paramount", "for", "the", "quality", "of", "provisioning", ".", "4.2", "Basic", "Service", "Quality", "Considerations", "Since", "the", "decision", "about", "the", "relaxation", "scheme", "is", "important", "for", "the", "output", ",", "some", "way", "of", "considering", "which", "scheme", "to", "follow", "is", "needed", ".", "Usually", "ontologies", "are", "of", "a", "qualitative", "nature", ".", "A", "superclass", "/", "subclass", "taxonomy", "is", "established", ",", "but", "there", "is", "no", "knowledge", "of", "the", "`", "degree", "'", "or", "the", "relative", "distance", "between", "different", "concepts", ".", "However", ",", "such", "knowledge", "could", "crucially", "change", "the", "utility", "of", "certain", "relaxation", "plans", ".", "Relaxing", "more", "refined", "ontologies", "or", "views", "will", "generally", "hurt", "the", "user", "preferences", "less", "than", "relaxing", "already", "coarse", "views", "or", "ontologies", ".", "The", "less", "general", "the", "concept", ",", "the", "more", "refined", "are", "the", "sets", "of", "objects", "that", "will", "be", "offered", "to", "the", "user", ",", "and", "flooding", "the", "user", "with", "too", "much", "too", "general", "content", "is", "avoided", ".", "Let", "us", "first", "take", "a", "closer", "look", "at", "merely", "qualitative", "views", "on", "ontologies", "of", "comparable", "granularity", ",", "etc.", "-LRB-", "i.e.", "relaxing", "one", "constraint", "is", "introducing", "the", "same", "amount", "of", "generalization", "as", "relaxing", "any", "other", "-RRB-", "and", "then", "investigate", "ways", "to", "deal", "with", "quantitative", "measures", "in", "the", "following", "section", ".", "For", "scenarios", "of", "merely", "qualitative", "preferences", "and", "their", "relaxation", "for", "the", "restricted", "class", "of", "ceteris", "paribus", "preferences", "-LSB-", "16", "-RSB-", "proposes", "a", "scheme", "of", "ordering", "different", "objects", "in", "the", "result", "set", "according", "to", "the", "count", "of", "necessary", "relaxation", "steps", "from", "the", "top", "or", "the", "bottom", "of", "the", "hierarchy", "or", "simply", "the", "relative", "distance", "to", "all", "violated", "query", "constraints", ".", "Since", "we", "assumed", "symmetrical", "views", "on", "ontologies", ",", "also", "in", "our", "relaxation", "problem", "a", "similar", "concept", "will", "help", "us", "to", "understand", "what", "should", "be", "relaxed", "preferably", "and", "what", "this", "means", "for", "the", "objects", "in", "the", "result", "set", ".", "Let", "us", "first", "show", "the", "approach", "of", "simply", "counting", "the", "relaxation", "steps", "from", "the", "violated", "constraints", ".", "We", "will", "label", "the", "services", "we", "found", "in", "each", "step", "by", "the", "number", "of", "necessary", "steps", "to", "find", "them", ".", "But", "first", "we", "need", "to", "define", "the", "necessary", "concept", "of", "relaxation", "paths", ".", "Given", "tree-shaped", "conceptual", "views", "of", "a", "service", "ontology", "that", "arranges", "concepts", "or", "values", "with", "respect", "to", "certain", "service", "characteristics", "using", "a", "generalization", "semantics", ",", "a", "relaxation", "path", "is", "a", "path", "along", "the", "edges", "of", "each", "conceptual", "view", "that", "leads", "from", "a", "base", "concept", "to", "the", "respective", "root", "of", "the", "view", ".", "Usually", "this", "base", "concept", "is", "specified", "in", "a", "service", "request", "or", "user", "query", "and", "relaxing", "along", "the", "relaxation", "path", "leads", "to", "an", "increasing", "generalization", "of", "this", "concept", ".", "Assuming", "that", "all", "services", "have", "been", "assigned", "to", "the", "node", "of", "their", "first", "appearance", "along", "the", "relaxation", "path", "-LRB-", "i.e.", "they", "are", "registered", "to", "any", "of", "the", "respective", "node", "'s", "sub-trees", "of", "concepts", ",", "but", "not", "to", "an", "earlier", "node", "of", "the", "relaxation", "path", "-RRB-", "we", "get", "a", "chain", "of", "concepts", "with", "all", "services", "registered", "under", "the", "aspect", "of", "least", "necessary", "level", "of", "generalization", ".", "An", "example", "for", "a", "relaxation", "path", "can", "be", "easily", "derived", "from", "figures", "2", "and", "4", ".", "If", "a", "user", "is", "primarily", "interested", "in", "the", "commercial", "district", ",", "the", "appropriate", "nodes", "of", "the", "relaxation", "path", "would", "be", "`", "commercial", "district", "'", ",", "`", "city", "center", "'", ",", "`", "city", "'", "and", "`", "location", "'", ".", "The", "services", "registered", "in", "the", "nodes", "are", "e.g.", "`", "Tom", "'s", "Grill", "'", ",", "`", "Sushi", "and", "Soul", "'", "and", "`", "Avocado", "Garden", "'", "for", "`", "commercial", "district", "'", ".", "The", "node", "`", "city", "center", "'", "would", "also", "contain", "all", "services", "registered", "to", "its", "sub-concepts", ",", "-LRB-", "i.e.", "`", "The", "Mediterraneum", "'", ",", "`", "Akasaka", "'", ",", "`", "Chez", "Panisse", "'", ",", "`", "Cesar", "'", "and", "`", "Pizza", "My", "Heart", "'", "-RRB-", "and", "so", "on", ".", "Figure", "5", "shows", "the", "first", "two", "steps", "of", "respective", "relaxation", "paths", "for", "both", "conceptual", "views", "in", "figures", "3", "and", "4", "focusing", "only", "on", "the", "services", "registered", "in", "both", "views", ".", "As", "we", "pointed", "out", "we", "will", "always", "assume", "tree-shape", "views", "for", "the", "course", "of", "this", "paper", ".", "Please", "note", "that", "all", "the", "concepts", "easily", "can", "be", "transferred", "to", "the", "case", "where", "sub-concepts", "can", "have", "multiple", "parent", "nodes", ".", "In", "this", "case", "the", "node", "along", "the", "relaxation", "path", "would", "consist", "of", "the", "intersection", "of", "the", "different", "parent", "concepts", ",", "or", "the", "intersection", "of", "their", "registered", "services", "respectively", ".", "This", "generalization", "has", "already", "been", "successfully", "employed", "in", "a", "similar", "fashion", "for", "mapping", "queries", "between", "differing", "ontologies", "by", "-LSB-", "18", "-RSB-", ".", "Distances", "then", "can", "simply", "be", "measured", "by", "the", "minimum", "distance", ",", "if", "multiple", "paths", "for", "relaxation", "should", "be", "available", ".", "Let", "us", "now", "see", ",", "how", "relaxation", "can", "be", "done", "using", "an", "unlabeled", "relaxation", "graph", "-LRB-", "see", "figures", "3", "and", "4", "-RRB-", ".", "If", "we", "begin", "by", "either", "relaxing", "the", "cuisine", "or", "the", "location", "constraint", "of", "our", "query", "we", "would", "have", "to", "assign", "a", "quality", "value", "of", "1", "to", "both", "the", "`", "Avocado", "Garden", "'", "and", "`", "Cesar", "'", ".", "Thus", "in", "terms", "of", "quality", "they", "are", "incomparable", ",", "which", "closely", "resembles", "our", "missing", "knowledge", "of", "what", "kind", "of", "relaxation", "the", "individual", "user", "would", "prefer", ".", "If", "there", "should", "be", "more", "ways", "to", "relax", "constraints", "to", "encounter", "a", "service", ",", "we", "will", "always", "count", "the", "minimum", "number", "of", "relaxation", "steps", "necessary", ".", "Relaxing", "both", "constraints", "again", "leads", "to", "quality", "values", "of", "1", "for", "`", "Avocado", "Garden", "'", "and", "`", "Cesar", "'", "and", "a", "value", "of", "2", "for", "`", "The", "Mediterraneum", "'", "and", "`", "Chez", "Panisse", "'", ",", "because", "they", "have", "only", "been", "seen", "by", "relaxing", "both", "constraints", "and", "thus", "are", "probably", "less", "desirable", "for", "the", "user", ".", "However", ",", "relaxing", "the", "cuisine", "ontology", "two", "steps", "-LRB-", "i.e.", "to", "all", "American", "cuisines", "-RRB-", "and", "sticking", "to", "the", "commercial", "center", "constraint", "might", "result", "in", "`", "Tom", "'s", "Grill", "'", "turning", "up", "also", "with", "a", "value", "of", "2", ".", "This", "is", "because", "in", "the", "na", "ve", "model", "the", "semantic", "difference", "between", "`", "deep", "'", "relaxation", "and", "`", "broad", "'", "relaxation", "is", "considered", "the", "same", ".", "To", "be", "sensitive", "to", "the", "differing", "implications", "of", "broad", "and", "deep", "relaxation", "with", "respect", "to", "generality", "we", "will", "use", "our", "concept", "of", "relaxation", "paths", "and", "show", "how", "to", "use", "labels", "along", "this", "path", "to", "get", "to", "a", "more", "sophisticated", "relaxation", "paradigm", ".", "fusion", "californian", "american", "city", "center", "commercial", "city", "1", "2", "1", "2", "fusion", "californian", "american", "city", "center", "commercial", "city", "1", "2", "1", "2", "Avocado", "Garden", "Tom", "`", "s", "Grill", "Cesar", "Cesar", "Avocado", "Garden", "Tom", "`", "s", "Grill", "Chez", "Panisse", "Mediterraneum", "Chez", "Panisse", "Mediterraneum", "Figure", "5", ":", "Relaxation", "paths", "and", "assigned", "services", "200", "Usually", "the", "generalization", "throughout", "ontologies", "will", "become", "quickly", "rather", "unspecific", "with", "decreasing", "distance", "to", "the", "root", ".", "Hence", "a", "broad", "relaxation", "strategy", "-LRB-", "breadth", "first", "relaxation", "-RRB-", "often", "is", "preferred", "to", "deep", "relaxation", "steps", ".", "Summing", "up", "the", "distances", "like", "before", ",", "but", "weighing", "each", "relaxation", "step", "with", "the", "relative", "distance", "to", "the", "original", "query", "term", "can", "implement", "this", ".", "Consider", "our", "query", "for", "`", "fusion", "cuisine", "'", "restaurants", "in", "the", "`", "commercial", "district", "'", ".", "So", "for", "example", "the", "`", "Avocado", "Garden", "'", "and", "`", "Cesar", "'", "need", "each", "only", "one", "relaxation", "step", "with", "a", "distance", "of", "one", "to", "the", "original", "constraint", "-LRB-", "cf.", "labels", "in", "figure", "5", "-RRB-", ",", "so", "their", "quality", "value", "is", "1", ".", "`", "Chez", "Panisse", "'", "and", "`", "The", "Mediterraneum", "'", "both", "need", "two", "relaxation", "steps", "with", "a", "distance", "of", "1", "each", "resulting", "in", "a", "value", "of", "2", ".", "In", "contrast", "`", "Tom", "'s", "Grill", "'", "also", "needs", "only", "two", "relaxation", "steps", ",", "but", "whereas", "the", "first", "step", "has", "a", "distance", "of", "1", ",", "the", "second", "step", "already", "shows", "a", "distance", "of", "2", ".", "Thus", "the", "final", "value", "for", "`", "Tom", "'s", "Grill", "'", "is", "3", "-LRB-", "i.e.", "1", "+2", "*", "1", "-RRB-", "and", "we", "can", "now", "effectively", "distinguish", "between", "deep", "and", "broad", "relaxation", ".", "Depending", "on", "the", "nature", "and", "granularities", "of", "the", "ontology", "or", "views", "we", "can", "of", "course", "also", "use", "higher", "weightings", "for", "the", "deep", "relaxations", ",", "for", "instance", "10", "-LRB-", "distance-1", "-RRB-", ".", "So", "the", "first", "step", "will", "be", "weighted", "by", "1", ",", "the", "second", "deep", "step", "by", "10", ",", "the", "third", "deep", "step", "by", "100", ",", "and", "so", "on", ".", "Since", "the", "broad", "relaxation", "steps", "are", "still", "simply", "added", "up", ",", "this", "will", "`", "punish", "'", "deep", "relaxation", "and", "avoid", "too", "broad", "generalizations", "of", "constraints", ".", "If", "we", "always", "want", "to", "punish", "deep", "steps", "symmetrically", "until", "all", "constraints", "in", "turn", "are", "relaxed", "at", "least", "to", "the", "same", "level", "a", "factor", "of", "-LRB-", "number_of_ontologies", "-RRB-", "-LRB-", "distance-1", "-RRB-", "will", "be", "adequate", "as", "shown", "in", "the", "following", "lemma", ".", "Lemma", "1", ":", "Weightings", "to", "Foster", "Broad", "Ontology", "Relaxation", "Given", "n", "soft", "query", "constraints", "with", "their", "respective", "relaxation", "hierarchies", ".", "To", "always", "prefer", "a", "broad", "relaxation", "scheme", ",", "label", "each", "object", "by", "summing", "up", "the", "numbers", "of", "edges", "relaxed", "to", "find", "this", "object", "in", "each", "hierarchy", "and", "weigh", "every", "edge", "by", "n", "-LRB-", "d", "1", "-RRB-", "using", "the", "number", "of", "soft", "constraints", "n", "and", "the", "relative", "distance", "d", "to", "the", "original", "query", "constraint", ".", "Proof", ":", "Since", "within", "each", "depth", "all", "weightings", "are", "the", "same", ",", "it", "is", "obvious", "that", "within", "a", "certain", "depth", "of", "the", "hierarchy", "any", "object", "seen", "with", "less", "relaxation", "steps", "has", "a", "smaller", "label", "than", "an", "object", "that", "needs", "more", "steps", ".", "Thus", "if", "we", "e.g.", "have", "to", "relax", "two", "constraints", "within", "a", "level", "this", "object", "will", "always", "be", "labeled", "with", "a", "higher", "weight", "than", "an", "object", "that", "needed", "only", "one", "relaxation", "independently", "of", "which", "constraints", "have", "been", "relaxed", ".", "We", "still", "have", "to", "show", "that", "if", "we", "do", "a", "step", "with", "a", "deeper", "distance", ",", "an", "object", "O", "encountered", "there", "always", "gets", "a", "higher", "label", "than", "any", "object", "P", "encountered", "in", "all", "hierarchies", "only", "with", "relaxations", "up", "to", "a", "lower", "distance", ".", "We", "will", "do", "that", "by", "showing", "that", "the", "minimum", "label", "for", "object", "O", "is", "higher", "than", "the", "maximum", "label", "for", "object", "P.", "Let", "us", "assume", "that", "in", "order", "to", "encounter", "object", "O", "we", "have", "to", "relax", "at", "least", "one", "constraint", "to", "a", "distance", "of", "k", ".", "The", "minimum", "label", "for", "O", "thus", "is", "given", "by", "relaxing", "only", "a", "single", "constraint", "to", "distance", "k", "and", "not", "having", "to", "relax", "any", "other", "constraint", ".", "Hence", "object", "O", "'s", "label", "is", "given", "by", "-LRB-", "n", "0", "+", "n", "1", "+", "...", "+", "n", "-LRB-", "k-2", "-RRB-", "+", "n", "-LRB-", "k-1", "-RRB-", "-RRB-", ".", "The", "maximum", "possible", "label", "for", "object", "P", "on", "the", "other", "hand", "is", "given", "by", "having", "to", "relax", "every", "of", "the", "n", "constraints", "-LRB-", "k-1", "-RRB-", "-", "times", ",", "i.e.", "the", "maximum", "distance", "smaller", "than", "k.", "Thus", "the", "maximum", "label", "for", "P", "is", "n", "*", "-LRB-", "n", "0", "+", "n", "1", "+", "...", "+", "n", "-LRB-", "k-2", "-RRB-", "-RRB-", "=", "-LRB-", "n", "1", "+", "...", "+", "n", "-LRB-", "k-2", "-RRB-", "+", "n", "-LRB-", "k-1", "-RRB-", "-RRB-", "and", "thus", "P", "'s", "label", "is", "-", "even", "relaxing", "all", "constraints", "to", "a", "maximum", "-", "at", "least", "by", "1", "smaller", "than", "the", "best", "possible", "label", "for", "O.", "Thus", "in", "relaxing", "constraints", "for", "equally", "important", "conceptual", "views", "an", "adequate", "algorithm", "would", "be", "the", "processing", "of", "decreasing", "levels", "of", "quality", ",", "i.e.", "finding", "services", "with", "increasing", "weightings", ".", "Starting", "with", "the", "minimum", "possible", "relaxation", "the", "algorithm", "will", "always", "work", "over", "an", "entire", "sequence", "of", "services", "with", "the", "same", "quality", "index", "and", "return", "all", "the", "discovered", "services", "of", "the", "lowest", "level", "found", ",", "together", "with", "their", "quality", "estimation", ".", "This", "is", "important", "for", "having", "to", "restart", "the", "algorithm", "at", "the", "previous", "point", "of", "termination", ",", "if", "the", "services", "discovered", "so", "far", "should", "not", "have", "been", "sufficient", "and", "the", "evaluation", "of", "lesser", "quality", "levels", "becomes", "necessary", ".", "Similarly", ",", "knowing", "the", "labeling", "technique", "and", "the", "views", "involved", "a", "user", "can", "also", "specify", "a", "maximum", "quality", "value", "up", "to", "which", "he/she", "is", "willing", "to", "accept", "more", "general", "services", ".", "For", "our", "algorithm", "we", "will", "assume", "a", "declarative", "query", "mechanism", "on", "UDDI", "directories", "enhanced", "by", "all", "the", "feature", "characteristics", "described", "by", "their", "respective", "conceptual", "views", "like", "pres", "ented", "in", "-LSB-", "4", "-RSB-", ".", "However", ",", "symmetrically", "relaxing", "just", "the", "same", "number", "of", "steps", "even", "when", "assuming", "views", "of", "the", "same", "granularity", "and", "importance", "with", "respect", "to", "the", "user", "query", ",", "will", "generally", "not", "lead", "to", "our", "desired", "broad", "relaxation", "scheme", "with", "as", "little", "generalization", "as", "possible", ".", "Imagine", "a", "query", "that", "specifies", "two", "soft", "predicates", "of", "which", "one", "is", "a", "leaf", "node", "of", "a", "view", ",", "whereas", "the", "other", "predicate", "specifies", "a", "direct", "descendant", "node", "of", "the", "root", "in", "the", "respective", "view", ".", "If", "no", "perfect", "match", "should", "be", "given", ",", "our", "strategy", "would", "result", "in", "relaxing", "either", "of", "the", "two", "constraints", "a", "single", "step", ".", "But", "whereas", "the", "relaxation", "by", "a", "single", "step", "from", "our", "leaf", "node", "usually", "leads", "to", "a", "slight", "generalization", "allowing", "a", "few", "more", "services", "for", "selection", ",", "the", "relaxation", "step", "in", "our", "second", "constraint", "would", "relax", "to", "the", "root", "node", "and", "thus", "offer", "the", "total", "number", "of", "services", "registered", "in", "the", "entire", "ontology", "for", "the", "respective", "characteristic", ",", "i.e.", "entirely", "drop", "the", "second", "constraint", ".", "Obviously", "that", "would", "not", "be", "a", "sensible", "behavior", ".", "So", "we", "do", "not", "only", "have", "to", "punish", "deep", "relaxation", "steps", "but", "even", "more", "severely", "refrain", "from", "relaxations", "the", "closer", "we", "are", "to", "the", "root", ".", "This", "concept", "will", "be", "implemented", "in", "our", "relaxation", "algorithm", "by", "letting", "the", "longest", "possible", "relaxation", "path", "determine", "the", "weightings", "for", "all", "constraints", "-LRB-", "again", "assuming", "a", "comparable", "level", "of", "detail", "throughout", "our", "ontology", "-RRB-", ".", "The", "weightings", "for", "edges", "along", "the", "relaxation", "path", "will", "then", "be", "assigned", "in", "each", "conceptual", "view", "in", "descending", "order", "starting", "from", "the", "root", "down", "to", "the", "concept", "specified", "by", "the", "query", ".", "Thus", "the", "relaxation", "of", "all", "concepts", "at", "least", "to", "the", "same", "level", "of", "generalization", "is", "enforced", "before", "having", "to", "relax", "already", "more", "general", "concepts", ".", "In", "our", "example", "from", "above", "the", "relaxation", "path", "for", "a", "leaf", "node", "concept", "would", "be", "assigned", "weightings", "as", "given", "by", "the", "height", "of", "the", "conceptual", "view", ",", "whereas", "the", "relaxation", "path", "for", "a", "concept", "node", "right", "below", "the", "root", "would", "be", "assigned", "the", "highest", "possible", "weighting", ".", "Thus", "-LRB-", "following", "lemma", "1", "-RRB-", ",", "our", "leaf", "node", "concept", "will", "have", "been", "relaxed", "to", "a", "generalization", "level", "of", "the", "respective", "concept", "right", "below", "the", "root", "before", "the", "second", "constraint", "is", "relaxed", "for", "the", "first", "time", ".", "Now", "we", "are", "ready", "to", "present", "an", "algorithm", "for", "relaxation", "of", "symmetrical", "constraints", "incorporation", "a", "breadth", "first", "paradigm", "and", "a", "minimum", "level", "of", "generalization", "strategy", ".", "Algorithm", ":", "Symmetrical", "Constraints", "Breadth", "First", "Paradigm", "1", ".", "Pose", "the", "query", "containing", "only", "the", "hard", "constraints", "against", "the", "enhanced", "UDDI", "/", "DAML-S", "directory", ".", "1.1", ".", "If", "an", "empty", "result", "should", "be", "returned", ",", "terminate", "the", "algorithm", "outputting", "the", "empty", "result", "set", ".", "1.2", ".", "Repose", "the", "query", "with", "all", "soft", "constraints", "included", ".", "1.3", ".", "If", "a", "non-empty", "result", "should", "be", "returned", "for", "the", "expanded", "query", ",", "terminate", "the", "algorithm", "and", "output", "the", "respective", "services", "as", "perfect", "matches", "with", "a", "relaxation", "level", "of", "0", ".", "201", "2", ".", "Given", "n", "the", "number", "of", "soft", "constraints", "we", "have", "to", "label", "each", "edge", "along", "the", "relaxation", "path", "from", "the", "concept", "specified", "by", "the", "query", "to", "the", "root", "node", "in", "every", "conceptual", "view", "-LRB-", "cf.", "lemma", "1", "-RRB-", ".", "2.1", ".", "Among", "the", "n", "views", "find", "the", "longest", "possible", "relaxation", "path", "and", "set", "maxdepth", "as", "the", "maximum", "depth", "of", "all", "ontologies", "relative", "to", "the", "class", "specified", "in", "the", "service", "request", "2.2", ".", "For", "every", "view", "label", "the", "relaxation", "path", "starting", "from", "the", "root", "by", "n", "d", "down", "to", "the", "concept", "specified", "by", "the", "query", "-LRB-", "d", ":", "=", "-LRB-", "maxdepth", "1", "-RRB-", "to", "0", "descending", "-RRB-", "3", ".", "For", "i", "=", "1", "to", "n", "j", "-LRB-", "1", "j", "maxdepth", "-RRB-", "3.1", ".", "Start", "with", "the", "query", "including", "all", "hard", "and", "soft", "constraints", "and", "build", "statements", "containing", "any", "possible", "relaxation", "with", "a", "weighting", "of", "i", ",", "i.e.", "relax", "in", "turn", "all", "conceptual", "views", "by", "one", "step", "up", "to", "the", "point", "of", "reaching", "the", "desired", "weighting", ".", "Due", "to", "construction", "of", "the", "weighting", "this", "will", "result", "in", "a", "breadth", "first", "strategy", ".", "3.2", ".", "If", "any", "of", "the", "statements", "produced", "in", "3.1", ".", "retrieves", "a", "non-empty", "result", "set", ",", "collect", "results", "of", "all", "possibilities", "and", "terminate", "the", "algorithm", ".", "In", "this", "algorithm", "step", "3", "can", "efficiently", "be", "implemented", "using", "an", "A", "*", "-", "Algorithm", "that", "successively", "explores", "the", "differently", "weighted", "tree", "edges", "finding", "all", "possible", "combinations", "for", "each", "quality", "weighting", ".", "However", ",", "please", "note", "that", "not", "every", "weighting", "is", "possible", "to", "reach", "by", "relaxing", "constraints", ".", "We", "will", "now", "exemplify", "the", "above", "algorithm", "through", "different", "examples", ":", "consider", "the", "three", "conceptual", "views", "X", ",", "Y", "and", "Z", "given", "in", "figure", "6", "and", "assume", "a", "user", "has", "posed", "a", "query", "requesting", "the", "characteristics", "X3", ",", "Y2", "and", "Z6", "as", "soft", "constraints", ".", "Let", "us", "assume", "all", "hard", "filter", "conditions", "have", "already", "been", "satisfied", ",", "but", "the", "basic", "query", "for", "our", "soft", "constraints", "fails", ",", "i.e.", "no", "service", "with", "these", "capabilities", "is", "registered", ".", "Step", "two", "of", "our", "algorithm", "will", "now", "label", "the", "relaxation", "paths", "like", "shown", "in", "figure", "6", "-LRB-", "bold", "edges", "and", "shaded", "vertexes", "-RRB-", ".", "Starting", "with", "all", "services", "having", "quality", "values", "of", "one", ",", "concept", "Z6", "is", "generalized", "to", "Z3", "and", "the", "query", "is", "reposed", "with", "constraints", "X3", ",", "Y2", "and", "Z3", ".", "If", "we", "still", "should", "have", "no", "matching", "services", "we", "have", "to", "go", "on", "relaxing", ".", "A", "query", "for", "a", "value", "of", "two", "is", "not", "possible", ",", "but", "for", "a", "value", "of", "3", "we", "can", "relax", "X3", "to", "X2", "and", "repose", "the", "query", "with", "constraints", "X2", ",", "Y2", "and", "Z3", ".", "Let", "us", "assume", "we", "still", "have", "not", "found", "a", "result", "the", "next", "quality", "value", "would", "be", "4", ".", "For", "this", "we", "have", "two", "possibilities", "and", "have", "to", "unite", "the", "results", "of", "the", "query", "on", "X2", ",", "Y2", ",", "Z3", "and", "the", "query", "X3", ",", "Y2", ",", "Z2", ".", "The", "next", "possible", "quality", "value", "would", "be", "7", "with", "a", "query", "on", "X2", ",", "Y2", ",", "Z2", ".", "Please", "note", "that", "we", "indeed", "have", "relaxed", "all", "constraints", "to", "same", "level", "until", "we", "relax", "any", "constraint", "to", "the", "top", "level", "-LRB-", "e.g.", "in", "the", "view", "Y", "-RRB-", "for", "the", "first", "time", ".", "The", "algorithm", "would", "terminate", "at", "the", "latest", "after", "relaxing", "all", "views", "to", "the", "top", "level", "with", "a", "quality", "value", "of", "34", ".", "Z2", "Z1", "Z4", "Y5", "Y4", "Y3", "X1", "X4", "X5", "X6", "Z6", "1", "9", "3", "9", "3", "9", "X3", "X2", "Y2", "Z3", "Y1", "Figure", "6", ":", "Conceptual", "views", "with", "labeled", "relaxation", "paths", "4.3", "Quantitative", "Service", "Quality", "Measures", "In", "the", "last", "section", "we", "have", "seen", "an", "effective", "scheme", "for", "the", "case", "of", "symmetrical", "relaxations", "under", "the", "assumption", "of", "equal", "useful-ness", ",", "i.e.", "one", "broad", "step", "was", "as", "useful", "as", "any", "other", "broad", "step", "of", "a", "comparable", "level", ".", "But", "in", "real", "world", "applications", "query", "constraints", "are", "not", "always", "only", "of", "a", "qualitative", ",", "incomparable", "nature", ".", "Deeper", "knowledge", "of", "individual", "user", "'s", "preferences", "or", "knowledge", "of", "stereotypical", "usage", "can", "become", "interesting", "parameters", "in", "assessing", "the", "quality", "of", "different", "relaxation", "schemes", ".", "Tuning", "the", "factor", "to", "a", "certain", "ratio", "for", "each", "application", "-LRB-", "x", "broad", "steps", "equal", "1", "deep", "step", "-RRB-", "will", "express", "the", "desired", "semantics", "in", "each", "instance", ".", "The", "exact", "coefficient", "used", "for", "the", "discrimination", "of", "deep", "relaxation", "in", "each", "instance", ",", "however", ",", "will", "typically", "strongly", "depend", "on", "the", "domain", ",", "the", "total", "number", "of", "soft", "query", "constraints", "and", "the", "respective", "granularity", "of", "the", "views", "/", "ontology", "-LRB-", "i.e.", "the", "semantic", "level", "of", "detail", "-RRB-", "used", ".", "Views", "that", "are", "modeled", "with", "a", "very", "fine", "granularity", "can", "be", "relaxed", "introducing", "a", "smaller", "degree", "of", "generalization", "to", "the", "service", "request", "results", "than", "would", "be", "introduced", "by", "those", "views", "that", "are", "modeled", "rather", "coarsely", "anyway", ".", "Hence", ",", "a", "deep", "relaxation", "step", "in", "a", "very", "detailed", "ontology", "might", "be", "worth", "only", "three", "or", "four", "broad", "relaxations", "of", "other", "user", "constraints", ",", "whereas", "a", "deep", "step", "in", "a", "coarser", "ontology", "used", "within", "the", "same", "query", "might", "add", "up", "to", "the", "worth", "of", "ten", "broad", "relaxation", "steps", "or", "even", "several", "deep", "relaxation", "steps", "of", "other", "constraints", ".", "Likewise", "very", "flat", "hierarchies", "with", "many", "subclasses", "to", "each", "node", "are", "not", "suited", "too", "well", "for", "deep", "relaxation", ".", "So", "the", "discrimination", "will", "in", "each", "application", "depend", "on", ":", "The", "relative", "semantic", "importance", "of", "a", "view", "with", "respect", "to", "the", "user", "request", "The", "maximum", "depth", "of", "each", "conceptual", "view", ",", "Its", "total", "number", "of", "-LRB-", "sub", "-", "-RRB-", "concepts", "and", "The", "-LRB-", "average", "-RRB-", "number", "of", "instances", "in", "each", "concept", ".", "The", "relative", "semantic", "importance", "of", "a", "view", "can", "usually", "only", "be", "determined", "by", "directly", "consulting", "the", "user", ".", "But", "in", "the", "following", "we", "will", "give", "an", "overview", "of", "techniques", "that", "will", "generally", "help", "to", "deal", "with", "problems", "of", "relaxing", "views", "with", "different", "granularities", ".", "As", "a", "rule", "of", "thumb", "we", "can", "state", "that", "the", "relaxation", "of", "views", "having", "a", "low", "maximum", "depth", "and", "rather", "high", "numbers", "of", "services", "attached", "to", "each", "node", "should", "be", "delayed", "as", "long", "as", "possible", ".", "Our", "technique", "of", "starting", "the", "view", "graph", "labeling", "from", "the", "root", "node", "already", "helps", "facilitating", "this", "rule", ".", "If", "a", "shallow", "conceptual", "view", "is", "used", "-LRB-", "usually", "an", "indication", "for", "coarse", "modeling", "-RRB-", "together", "with", "a", "more", "detailed", "view", ",", "even", "the", "edges", "to", "leaf", "nodes", "in", "the", "shallow", "ontology", "will", "be", "assigned", "rather", "high", "weightings", "unlike", "the", "leaf", "nodes", "in", "ontologies", "with", "a", "rather", "high", "depth", ".", "This", "behavior", "is", ",", "however", ",", "not", "always", "the", "best", "choice", ".", "If", "unlike", "in", "figure", "6", "the", "respective", "depths", "of", "conceptual", "views", "differ", "by", "a", "considerable", "amount", ",", "we", "should", "not", "simply", "delay", "the", "relaxation", "of", "shallow", "views", ",", "but", "have", "to", "insert", "several", "intermediate", "steps", "in", "the", "more", "detailed", "views", "before", "relaxing", "the", "next", "step", "in", "a", "coarse", "view", ".", "Figure", "7", "shows", "pairs", "of", "views", "X", ",", "Y", "and", "X", "'", ",", "Y", "'", ".", "In", "both", "cases", "the", "depth", "of", "X", ",", "X", "'", "is", "only", "two", "whereas", "the", "depth", "of", "Y", ",", "Y", "'", "is", "four", ".", "That", "means", "that", "in", "terms", "of", "relaxation", "we", "can", "assume", "that", "for", "some", "reason", "the", "more", "shallow", "ontologies", "X", "and", "X", "'", "are", "modeled", "rather", "coarsely", ".", "On", "the", "left", "hand", "side", "in", "figure", "7", "we", "can", "see", "the", "labeling", "scheme", "from", "our", "algorithm", ".", "Ontology", "Y", "would", "be", "relaxed", "to", "Y3", "or", "even", "Y2", "before", "a", "single", "step", "in", "X", "would", "be", "relaxed", ".", "On", "the", "right", "hand", "side", "we", "can", "see", "a", "better", "labeling", "scheme", "with", "interleaved", "relaxation", "steps", "-LRB-", "two", "steps", "in", "Y", "'", "for", "a", "step", "in", "X", "'", "-RRB-", ".", "202", "Y5", "8", "4", "1", "8", "4", "2", "Y", "5", "12", "3", "1", "8", "4", "2", "Y4", "Y2", "Y3", "Y1", "Y", "4", "Y", "2", "Y", "3", "Y", "1", "X", "1", "X", "2", "X", "3", "X1", "X2", "X3", "Figure", "7", ":", "Differently", "labeled", "relaxation", "paths", "Since", "the", "interleaving", "of", "relaxation", "steps", "with", "respect", "to", "the", "maximum", "depth", "generally", "seems", "a", "fairer", "approach", ",", "we", "will", "incorporate", "this", "behavior", "into", "our", "algorithm", ".", "If", "the", "maximum", "depth", "of", "some", "conceptual", "views", "should", "severely", "differ", ",", "we", "will", "assume", "a", "coarser", "level", "of", "detail", "and", "find", "out", "how", "many", "steps", "in", "the", "most", "detailed", "view", "represent", "a", "single", "step", "in", "the", "coarser", "view", ".", "We", "then", "re-label", "the", "coarse", "view", "beginning", "from", "the", "root", "by", "adding", "so", "many", "of", "the", "appropriate", "sequence", "of", "weightings", ",", "as", "steps", "in", "the", "detailed", "view", "are", "necessary", ".", "For", "instance", "in", "figure", "7", "we", "can", "easily", "see", "that", "a", "single", "step", "in", "X", "-LRB-", "depth", "2", "-RRB-", "represents", "two", "steps", "in", "Y", "-LRB-", "depth", "4", "-RRB-", "and", "thus", "we", "would", "have", "to", "re-label", "the", "first", "edge", "by", "the", "sum", "of", "the", "two", "highest", "weights", "of", "Y", "-LRB-", "8", "+4", "-RRB-", "and", "its", "second", "edge", "by", "the", "sum", "of", "the", "next", "two", "weights", "-LRB-", "2", "+1", "-RRB-", ".", "Following", "this", "scheme", "we", "can", "gain", "the", "more", "suitable", "relaxation", "weights", "of", "view", "X", "'", ".", "In", "terms", "of", "our", "quality", "assessment", "algorithm", "that", "means", "that", "we", "have", "to", "reconsider", "the", "labeling", "of", "the", "relaxation", "paths", "in", "step", "two", "and", "replace", "the", "respective", "section", "by", "the", "following", ":", "2.1", ".", "Among", "the", "n", "conceptual", "views", "find", "the", "longest", "possible", "relaxation", "path", "multiplying", "possible", "steps", "in", "each", "view", "relative", "to", "the", "class", "specified", "in", "the", "service", "request", "by", "the", "view", "'s", "respective", "factor", "of", "q", ",", "where", "q", "is", "given", "as", "the", "integer", "part", "of", "the", "result", "of", "dividing", "the", "maximum", "view", "depth", "by", "the", "maximum", "depth", "of", "the", "current", "view", "-LRB-", "i.e.", "q", "steps", "in", "the", "most", "detailed", "view", "represent", "one", "step", "in", "this", "view", "-RRB-", ".", "Set", "the", "maximum", "value", "for", "maxdepth", ".", "2.2", ".", "For", "every", "conceptual", "view", "label", "the", "relaxation", "path", "starting", "from", "the", "root", "by", "n", "d", "+", "n", "d-1", "+", "...", "+", "n", "d-q", "+1", "-LRB-", "i.e.", "the", "sum", "of", "the", "first", "q", "weights", "in", "terms", "of", "the", "most", "detailed", "relaxation", "path", "-RRB-", "down", "to", "n", "d", "+", "n", "d-1", "+", "...", "+", "n", "0", "with", "d", ":", "=", "-LRB-", "maxdepth", "1", "-RRB-", ".", "A", "second", "possibility", "to", "control", "the", "relaxation", "properties", "of", "multiple", "conceptual", "views", "is", "the", "incorporation", "of", "user", "preferences", "giving", "a", "preferred", "relaxation", "order", ".", "Incorporating", "such", "preferences", "into", "the", "weights", "along", "the", "ontology", ",", "however", ",", "is", "a", "very", "difficult", "problem", "in", "its", "own", "rights", "and", "therefore", "beyond", "the", "scope", "of", "this", "paper", ".", "For", "the", "case", "that", "a", "simple", "ordering", "of", "relaxation", "for", "the", "views", "is", "given", "by", "the", "user", ",", "we", "can", "use", "double-labeled", "relaxation", "paths", "like", "for", "the", "tree", "patterns", "in", "-LSB-", "1", "-RSB-", ".", "The", "second", "label", "for", "each", "node", "is", "e.g.", "the", "respective", "rank", "of", "the", "view", "in", "a", "specified", "relaxation", "ordering", "or", "the", "number", "of", "the", "node", "'s", "respective", "sub-concepts", ".", "In", "the", "case", "that", "for", "the", "execution", "of", "step", "3", "in", "our", "algorithm", "more", "than", "one", "query", "should", "be", "possible", ",", "the", "relaxations", "can", "then", "be", "executed", "minimizing", "the", "sum", "of", "second", "labels", "and", "retrieval", "can", "be", "terminated", "whenever", "a", "result", "occurs", ".", "Also", "for", "the", "case", "that", "a", "prioritization", "of", "relaxations", "is", "give", "n", "-LRB-", "cf.", "-LSB-", "13", "-RSB-", "-RRB-", ",", "the", "respective", "relaxation", "scheme", "is", "straightforward", ":", "The", "prioritized", "view", "is", "successively", "relaxed", "until", "a", "first", "result", "set", "is", "retrieved", ".", "Then", "the", "second", ",", "third", ",", "etc.", "views", "are", "used", "to", "break", "ties", ".", "However", ",", "when", "it", "comes", "to", "integrating", "weights", "from", "preferences", "into", "relaxation", "weights", "deeper", "research", "is", "still", "needed", ".", "While", "in", "the", "above", "discussions", "we", "assumed", "the", "existence", "of", "different", "conceptual", "views", "to", "a", "given", "ontology", ",", "the", "actual", "creation", "of", "these", "views", "is", "beyond", "the", "scope", "of", "this", "paper", ".", "Multiple", "views", "as", "abstractions", "of", "data", "sources", "are", "a", "well", "understand", "concept", "in", "classical", "databases", "systems", ".", "Yet", "the", "concept", "of", "such", "views", "has", "only", "recently", "been", "addressed", "in", "the", "context", "of", "the", "Semantic", "Web", "through", "the", "proposal", "of", "the", "view", "definition", "language", "RVL", "for", "the", "low", "level", "ontology", "language", "RDFS", "-LSB-", "14", "-RSB-", ".", "RVL", "uses", "a", "declarative", "query", "language", "for", "the", "creation", "of", "virtual", "schemas", "which", "in", "turn", "serve", "as", "views", "on", "existing", "complex", "ontologies", ".", "Please", "note", "that", "although", "we", "merely", "focused", "on", "tree-shaped", "clippings", "from", "OWL", "ontologies", "as", "simple", "relaxation", "hierarchies", "in", "our", "examples", ",", "the", "presented", "concepts", "are", "general", "enough", "to", "be", "used", "with", "only", "the", "slightest", "adaptations", "together", "with", "other", "types", "of", "ontologies", "and", "more", "complex", "views", ",", "e.g.", "virtual", "RVL", "views", ".", "Choosing", "the", "`", "right", "'", "Web", "service", "for", "execution", "has", "been", "considered", "in", "several", "ways", ".", "For", "legal", "or", "economical", "points", "of", "view", "especially", "assurance", "structures", "guaranteeing", "that", "a", "service", "performs", "the", "desired", "task", "like", "-LSB-", "11", "-RSB-", "or", "-LSB-", "17", "-RSB-", "have", "been", "addressed", ".", "However", ",", "when", "negotiating", "about", "execution", "guarantees", "or", "costs", "the", "semantic", "content", "of", "a", "service", "has", "to", "be", "understood", "and", "its", "specific", "capabilities", "have", "already", "to", "be", "agreed", "on", ".", "Taking", "a", "more", "user-centered", "view", "the", "notion", "of", "services", "'", "reputation", "for", "subsequent", "selection", "-LSB-", "15", "-RSB-", "or", "the", "quality", "assessment", "for", "the", "negotiation", "of", "service", "level", "agreements", "-LSB-", "3", "-RSB-", "have", "been", "proposed", ".", "However", ",", "these", "approaches", "focus", "on", "conceptual", "designs", "omitting", "algorithms", "how", "to", "assess", "the", "quality", "in", "each", "instance", ".", "The", "most", "complete", "framework", "with", "respect", "to", "heterogeneous", "environments", "featuring", "multiple", "ontologies", "is", "given", "by", "-LSB-", "18", "-RSB-", "where", "the", "notion", "of", "information", "loss", "for", "query", "reformulation", "is", "defined", ".", "Unlike", "our", "work", "presented", "here", ",", "where", "multiple", "conceptual", "views", "of", "a", "service", "ontology", "occur", "in", "a", "single", "request", ",", "this", "work", ",", "however", ",", "deals", "with", "the", "loss", "of", "information", "when", "a", "query", "has", "to", "be", "translated", "from", "one", "into", "another", "ontology", "-LRB-", "e.g.", "in", "order", "to", "pose", "it", "to", "a", "different", "data", "source", "-RRB-", ".", "Thus", "it", "is", "rather", "concerned", "with", "the", "problem", "of", "ontology", "mappings", ".", "The", "area", "of", "service", "request", "relaxation", "over", "ontologies", "also", "shows", "some", "similarities", "with", "database", "query", "relaxation", "frameworks", "like", "given", "in", "-LSB-", "6", "-RSB-", "or", "-LSB-", "13", "-RSB-", "and", "especially", "recent", "work", "on", "querying", "semi-structured", "data", "like", "in", "XML", "databases", ".", "In", "the", "case", "of", "XML", "the", "DTD", "of", "a", "document", "defines", "its", "structure", "together", "with", "the", "-LRB-", "semantic", "-RRB-", "type", "of", "data", "within", "each", "node", ".", "The", "main", "focus", "of", "querying", "in", "that", "area", "is", "on", "building", "queries", "without", "perfect", "knowledge", "of", "documents", "structure", "or", "the", "exact", "data", "it", "contains", ".", "Exploiting", "the", "set", "of", "labels", "given", "by", "a", "XML", "document", "'s", "DTD", "as", "ontology", "in", "term", "of", "the", "documents", "'", "structure", "-LSB-", "12", "-RSB-", "uses", "the", "result", "sets", "of", "queries", "to", "define", "the", "semantic", "equivalence", "of", "alternative", "query", "expressions", ",", "however", "without", "relaxing", "concepts", "within", "queries", ".", "The", "area", "of", "relaxation", "for", "tree-shaped", "queries", "not", "only", "on", "a", "structural", "level", "-LRB-", "`", "relax", "to", "any", "descendant", "node", "instead", "of", "child", "node", "'", "-RRB-", ",", "but", "also", "on", "a", "limited", "semantic", "level", "-LRB-", "`", "find", "author", "of", "document", "instead", "of", "book", "'", "-RRB-", "is", "in", "detail", "addressed", "in", "-LSB-", "1", "-RSB-", ".", "Here", "also", "weightings", "along", "the", "edges", "of", "trees", "comparable", "to", "our", "user", "preference-driven", "quality", "assessments", "in", "section", "4.3", "are", "discussed", ".", "Our", "work", "differs", "mainly", "in", "that", "we", "can", "rely", "on", "fine-granular", "concept", "ontologies", "that", "are", "custom", "made", "by", "domain", "experts", "and", "used", "in", "central", "service", "provisioning", "portals", "or", "UDDI", "/", "DAML-S", "directories", ".", "Not", "only", "are", "we", "able", "to", "exploit", "semantics", "by", "a", "far", "larger", "extent", "than", "previous", "work", ",", "but", "we", "also", "provide", "means", "to", "derive", "sensible", "weightings", "for", "edges", "within", "conceptual", "views", "based", "on", "general", "user", "preferences", "and", "a", "fair", "relaxation", "paradigm", ".", "203", "The", "general", "area", "of", "enhancement", "of", "UDDI", "goes", "back", "to", "describing", "the", "capabilities", "of", "Web", "services", "on", "a", "more", "detailed", "level", "by", "using", "ontology", "languages", "like", "DAML+OIL", "-LSB-", "8", "-RSB-", ".", "An", "example", "for", "the", "efficient", "mapping", "of", "DAML+OIL", "capability", "descriptions", "onto", "UDDI", "records", "is", "given", "in", "-LSB-", "20", "-RSB-", ".", "Our", "approach", "for", "result", "quality", "assessment", "here", "is", "facilitated", "by", "the", "database-based", "approach", "for", "UDDI", "enhancement", "featured", "in", "-LSB-", "4", "-RSB-", ".", "Using", "cooperative", "database", "technology", "and", "an", "extended", "declarative", "query", "language", "like", "the", "one", "given", "in", "-LSB-", "13", "-RSB-", "this", "framework", "features", "a", "good", "implementation", "framework", "for", "our", "quality", "assessment", ".", "Queries", "using", "hard", "and", "soft", "constraints", "can", "be", "automatically", "rewritten", "using", "the", "relaxed", "concepts", "and", "posed", "against", "a", "database", "of", "service", "descriptions", "using", "suitable", "relaxation", "ontologies", ".", "However", ",", "in", "terms", "of", "quality", "these", "languages", "feature", "only", "a", "qualitative", "result", "set", "under", "the", "notion", "of", "Pareto-optimality", ".", "Quantitative", "quality", "constraints", "that", "limit", "the", "flood", "of", "incomparable", "results", "delivered", "by", "the", "exponential", "growth", "of", "Pareto", "sets", "with", "the", "number", "of", "soft", "constraints", "in", "the", "request", "are", "not", "considered", ".", "A", "first", "study", "of", "such", "quality", "measures", "is", "given", "in", "-LSB-", "16", "-RSB-", "for", "the", "restricted", "class", "of", "ceteris", "paribus", "preferences", "like", "discussed", "in", "section", "4.2", ".", "In", "this", "paper", "we", "presented", "a", "framework", "for", "the", "discovery", "and", "selection", "of", "Web", "Services", "based", "on", "personalized", "quality", "assessments", "for", "individual", "service", "users", ".", "Starting", "with", "a", "set", "of", "conceptual", "views", "over", "a", "service", "ontology", "that", "express", "a", "generalization", "hierarchy", "of", "concepts", "-LRB-", "conceptual", "views", "-RRB-", "for", "different", "services", "'", "capabilities", "and", "characteristics", ",", "we", "proposed", "to", "enhance", "today", "'s", "UDDI", "/", "DAML-S", "registries", "by", "a", "matching", "component", "that", "will", "not", "only", "perform", "a", "filtering", "of", "services", "according", "to", "user", "specified", "terms", ",", "but", "also", "allows", "for", "cooperative", "matchmaking", "between", "service", "descriptions", "and", "the", "individual", "user", "'s", "preferences", ".", "Focusing", "on", "the", "quality", "assessment", "component", "of", "such", "an", "enhancement", "we", "described", "in", "detail", "how", "to", "deal", "with", "different", "kinds", "and", "multiple", "instances", "of", "conceptual", "views", ".", "The", "views", "in", "our", "framework", "contain", "the", "domain-specific", "understanding", "of", "concepts", "or", "the", "common", "knowledge", "that", "users", "typically", "will", "expect", "when", "trying", "to", "find", "an", "adequate", "service", "for", "execution", ".", "If", "no", "service", "that", "offers", "all", "required", "capabilities", "can", "be", "found", ",", "relaxing", "along", "these", "views", "will", "step", "by", "step", "generalize", "the", "services", "'", "requested", "features", "until", "a", "best", "possible", "match", "can", "be", "found", ".", "Thus", "cooperative", "behavior", "can", "be", "introduced", "for", "improved", "service", "provisioning", ".", "We", "focused", "on", "controlling", "these", "relaxation", "steps", "implementing", "a", "breadth", "first", "strategy", "control", "flow", "to", "delay", "far-reaching", "generalizations", "for", "as", "long", "as", "possible", ".", "We", "also", "discussed", "the", "influence", "of", "relaxation", "plans", "for", "various", "views", ",", "which", "may", "differ", "in", "their", "granularity", "or", "accuracy", "of", "discrimination", "and", "the", "influence", "of", "individual", "user", "preferences", "for", "relaxation", "orders", ".", "For", "the", "case", "of", "views", "with", "differing", "level", "of", "details", "we", "gave", "an", "adequate", "scheme", "to", "balance", "the", "control", "flow", ".", "Nevertheless", ",", "the", "exact", "instantiation", "of", "the", "views", "and", "the", "adequate", "weightings", "chosen", "still", "will", "usually", "differ", "between", "application", "areas", ".", "Anticipating", "stereotype", "interaction", "patterns", "or", "experiences", "of", "past", "interactions", ",", "however", ",", "the", "service", "provider", "usually", "is", "able", "to", "also", "provide", "some", "suitable", "default", "ontologies", "for", "cooperative", "matchmaking", "within", "UDDI", "/", "DAML-S", "registries", "or", "managed", "service", "portals", ".", "In", "any", "case", "the", "provisioning", "of", "suitable", "facilities", "for", "the", "assessment", "of", "Web", "service", "quality", "can", "be", "expected", "to", "become", "a", "central", "part", "of", "service", "provisioning", "and", "will", "essentially", "influence", "the", "future", "acceptance", "of", "Web", "service", "offers", "by", "individual", "clients", ".", "In", "this", "paper", "we", "have", "restricted", "conceptual", "views", "to", "tree-shaped", "clippings", "of", "ontologies", "with", "view", "elements", "being", "exclusively", "related", "through", "`", "is-a", "'", "relationships", "-LRB-", "stating", "an", "explicit", "generalization", "of", "concepts", "in", "a", "superclass/subclass", "fashion", "-RRB-", ".", "Of", "course", "also", "other", "relationships", "within", "ontologies", "might", "be", "available", "for", "relaxation", "tasks", "in", "service", "requests", ";", "on", "the", "other", "hand", "their", "semantic", "meaning", "will", "usually", "be", "somewhat", "more", "difficult", ".", "Since", "complex", "ontologies", "commonly", "contain", "named", "relationships", "between", "entities", "that", "might", "be", "used", "to", "make", "views", "more", "flexible", "and", "query", "relaxation", "more", "meaningful", ",", "an", "important", "future", "work", "item", "will", "be", "to", "break", "down", "this", "restriction", "on", "relationships", "of", "the", "`", "is-a", "'", "type", ".", "With", "our", "algorithms", "'", "focus", "on", "relaxation", "paths", "as", "an", "abstraction", "of", "the", "underlying", "views", ",", "our", "general", "framework", "for", "quality", "assessment", "can", "be", "expected", "to", "be", "extensible", "also", "to", "these", "new", "types", "of", "views", "in", "a", "straightforward", "manner", "independently", "of", "the", "exact", "type", "of", "view", "the", "relaxation", "path", "was", "derived", "from", ".", "If", "a", "relaxation", "of", "a", "constraint", "along", "a", "certain", "relationship", "is", "backed", "by", "sensible", "relaxation", "semantics", "-LRB-", "i.e.", "is", "meaningful", "-RRB-", ",", "however", ",", "has", "to", "be", "checked", "in", "each", "individual", "instance", ".", "Furthermore", ",", "our", "future", "work", "will", "focus", "on", "a", "tighter", "integration", "of", "individual", "user", "preferences", "into", "the", "quality", "assessment", "process", "like", "addressed", "in", "section", "4.3", ".", "Choosing", "the", "adequate", "weightings", "does", "not", "have", "an", "obvious", "semantics", ".", "The", "meaning", "of", "`", "relaxing", "one", "constraint", "is", "two-times", "better", "than", "relaxing", "another", "constraint", "'", "can", "only", "be", "guessed", ",", "what", "about", "three-times", ",", "etc.", "?", "The", "area", "between", "quantitative", "quality", "assessments", "like", "e.g.", "re-weighting", "techniques", "or", "relevance", "feedback", "as", "known", "from", "the", "area", "of", "IR", ",", "and", "the", "purely", "qualitative", "approaches", "like", "Pareto", "optimality", "of", "solu", "-", "<", "A", "href", "=", "``", "193", ".", "html", "#", "10", "''", ">", "tions", "like", "given", "in", "-LSB-", "13", "-RSB-", "offers", "a", "vast", "variety", "of", "possibilities", "to", "explore", "for", "real", "world", "applications", ".", "Also", "here", "the", "notion", "of", "stereotypical", "usage", "of", "services", "and", "the", "grouping", "of", "users", "with", "similar", "intensions", "might", "lead", "to", "improved", "service", "provisioning", ".", "We", "believe", "that", "using", "and", "extending", "our", "framework", "is", "a", "vital", "step", "towards", "getting", "a", "better", "understanding", "of", "these", "topics", ".", "In", "any", "case", "assessing", "quality", "of", "service", "request", "results", "in", "a", "semantically", "sensible", "way", "promises", "to", "pave", "the", "road", "to", "cooperative", "provisioning", "for", "user-centered", "services", ".", "We", "would", "like", "to", "thank", "Achim", "Leubner", "and", "Anthony", "Tarlano", "for", "helpful", "comments", "and", "suggestions", ".", "This", "work", "was", "partially", "funded", "by", "an", "Emmy-Noether-Grant", "of", "the", "German", "Research", "Foundation", "-LRB-", "DFG", "-RRB-", ".", "-LSB-", "1", "-RSB-", "S.", "Amer-Yahia", ",", "S.", "Cho", ",", "D.", "Srivastava", ".", "Tree", "Pattern", "Relaxation", ".", "In", "Proc", ".", "of", "the", "Int", ".", "Conf", ".", "on", "Extending", "Database", "Technology", "-LRB-", "EDBT", "'", "02", "-RRB-", ",", "Prague", ",", "Czech", "Republic", ",", "2002", ".", "-LSB-", "2", "-RSB-", "A.", "Ankolenkar", ",", "M.", "Burstein", ",", "J.", "Hobbs", ",", "et", ".", "al.", ".", "DAML-S", ":", "Web", "Service", "Description", "for", "the", "Semantic", "Web", ".", "In", "Proc", ".", "of", "the", "Int", ".", "Semantic", "Web", "Conf", ".", "-LRB-", "ISWC", "'", "02", "-RRB-", ",", "Sardinia", ",", "Italy", ",", "LNCS", "2342", ",", "Springer", ",", "2002", ".", "-LSB-", "3", "-RSB-", "W.-T", ".", "Balke", ",", "A.", "Badii", ".", "Assessing", "Web", "Services", "Quality", "for", "Call-by-Call", "Outsourcing", ".", "In", "Proc", ".", "of", "the", "Int", "Workshop", "on", "Web", "Services", "Quality", "-LRB-", "WQW", "'", "03", "-RRB-", ",", "Rome", ",", "Italy", ",", "2003", ".", "-LSB-", "4", "-RSB-", "W.-T", ".", "Balke", ",", "M.", "Wagner", ".", "Cooperative", "Discovery", "for", "User-centered", "Web", "Service", "Provisioning", ".", "In", "Proceedings", "of", "the", "First", "International", "Conference", "on", "Web", "Services", "-LRB-", "ICWS", "'", "03", "-RRB-", ",", "Las", "Vegas", ",", "USA", ",", "2003", ".", "204", "-LSB-", "5", "-RSB-", "W.-T", ".", "Balke", ",", "M.", "Wagner", ".", "Towards", "Personalized", "Selection", "of", "Web", "Services", ".", "In", "Proceedings", "of", "the", "12th", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "2003", "-RRB-", "Alternate", "Track", "on", "Web", "Services", ",", "Budapest", ",", "Hungary", ",", "2003", ".", "-LSB-", "6", "-RSB-", "S.", "Chaudhuri", ".", "Generalization", "and", "a", "Framework", "for", "Query", "Modification", ".", "In", "Proc", ".", "of", "the", "Int", ".", "Conf", ".", "on", "Data", "Engineering", "-LRB-", "ICDE", "'", "90", "-RRB-", ",", "Los", "Angeles", ",", "USA", ",", "1990", ".", "-LSB-", "7", "-RSB-", "E.", "Christensen", ",", "F.", "Curbera", ",", "G.", "Meredith", ",", "S.", "Weerawarana", ".", "Web", "Services", "Description", "Language", "-LRB-", "WSDL", "-RRB-", "1.1", ".", "http://www.w3.org/TR/2001/NOTE-wsdl-20010315", ",", "2001", ".", "-LSB-", "8", "-RSB-", "D.", "Connolly", "et", "al.", ".", "DAML+OIL", "Reference", "Description", ".", "W3C", "Note", ",", "December", "2001", ".", "-LSB-", "9", "-RSB-", "DAML", ".", "OWL-S", ":", "Semantic", "Markup", "for", "Web", "Services", ".", "http://www.daml.org/services/owl-s/1.0/owl-s.html#foot29", "-LSB-", "10", "-RSB-", "DAML", ".", "OWL-S", "1.0", "Release", ".", "http://www.daml.org/services/owl-s/1.0/", "-LSB-", "11", "-RSB-", "M.", "Jakobsson", ",", "M.", "Yung", ".", "On", "Assurance", "Structures", "for", "WWW", "Commerce", ".", "In", "Proc", ".", "of", "Int", ".", "Conf", ".", "on", "Financial", "Cryptography", "-LRB-", "FC", "'", "98", "-RRB-", ",", "Springer", "LNCS", "1465", ",", "Anguilla", ",", "British", "West", "Indies", ",", "1998", "-LSB-", "12", "-RSB-", "Y.", "Kanza", ",", "Y.", "Sagiv", ".", "Flexible", "Queries", "over", "Semistructured", "Data", ".", "In", "Proc", ".", "of", "the", "ACM", "Symp", ".", "on", "Principles", "of", "Database", "Systems", "-LRB-", "PODS", "'", "02", "-RRB-", ",", "Santa", "Barbara", ",", "USA", ",", "2001", ".", "-LSB-", "13", "-RSB-", "W.", "Kie", "ling", ",", "G.", "K", "stler", ".", "Preference", "SQL", "-", "Design", ",", "Imple-mentation", ",", "Experiences", ".", "In", "Proc", ".", "of", "the", "Int", ".", "Conf", ".", "on", "Very", "Large", "Databases", "-LRB-", "VLDB", "'", "02", "-RRB-", ",", "Hong", "Kong", ",", "China", ",", "2002", ".", "-LSB-", "14", "-RSB-", "A.", "Magkanaraki", ",", "V.", "Tannen", ",", "V.", "Christophides", ",", "D.", "Plexousakis", ".", "Viewing", "the", "Semantic", "Web", "Through", "RVL", "Lenses", ".", "In", "Proc", ".", "of", "the", "Int", ".", "Semantic", "Web", "Conf", ".", "-LRB-", "ISWC", "'", "03", "-RRB-", ",", "LNCS", "2870", ",", "Sanibel", "Island", ",", "USA", ",", "2003", ".", "-LSB-", "15", "-RSB-", "E.", "M.", "Maximilien", ",", "M.Singh", ".", "Conceptual", "Model", "of", "Web", "Service", "Reputation", ".", "In", "SIGMOD", "Records", "31", "-LRB-", "4", "-RRB-", ",", "2002", ".", "-LSB-", "16", "-RSB-", "M.", "McGeachie", ",", "J.", "Doyle", ".", "Efficient", "Utility", "Functions", "for", "Ce-teris", "Paribus", "Preferences", ".", "In", "Proc", ".", "of", "Conf", ".", "on", "Artificial", "Intelligence", "and", "Conf", ".", "on", "Innovative", "Applications", "of", "Artificial", "Intelligence", "-LRB-", "AAAI/IAAI", "'", "02", "-RRB-", ",", "Edmonton", ",", "Canada", ",", "2002", ".", "-LSB-", "17", "-RSB-", "G.", "Medvinsky", ",", "C.", "Lai", ",", "B.", "Neuman", ".", "Endorsements", ",", "Licensing", ",", "and", "Insurance", "for", "Distributed", "System", "Services", ".", "In", "Proc", ".", "of", "the", "ACM", "Conf", ".", "on", "Computer", "and", "Communications", "Security", ",", "Fairfax", ",", "USA", ",", "1994", "-LSB-", "18", "-RSB-", "E.", "Mena", ",", "V.", "Kashyap", ",", "A.", "Illarramendi", ",", "A.", "Sheth", ".", "Imprecise", "Answers", "in", "Distributed", "Environments", ":", "Estimation", "of", "Information", "Loss", "for", "Multi-Ontology", "based", "Query", "Processing", ".", "In", "International", "Journal", "of", "Cooperative", "Information", "Systems", "-LRB-", "IJCIS", "-RRB-", ",", "9", "-LRB-", "4", "-RRB-", ",", "2000", ".", "-LSB-", "19", "-RSB-", "NTT", "DoCoMo", "home", "page", ".", "http://www.nttdocomo.com/home.html", ",", "2003", ".", "-LSB-", "20", "-RSB-", "M.", "Paolucci", ",", "T.", "Kawamura", ",", "T.", "Payne", ",", "K.", "Sycara", ".", "Importing", "the", "Semantic", "Web", "in", "UDDI", ".", "In", "Proc", ".", "of", "the", "Int", ".", "Workshop", "on", "Web", "Services", ",", "e-Business", "and", "the", "Semantic", "Web", "-LRB-", "WES", "'", "02", "-RRB-", ",", "Toronto", ",", "Canada", ",", "2002", "-LSB-", "21", "-RSB-", "UDDI", ".", "The", "UDDI", "Technical", "White", "Paper", ".", "http://www.uddi.org", ".", "205"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["universal description discovery and integration", "selection of the most useful", "web service definition language", "web services", "semantic web", "the generalization throughout ontologies", "personalization", "ontology resembles common knowledge", "discovery of possible services", "subsequent execution", "generalization hierarchy of concepts"], "abstractive_keyphrases": ["tree-shaped clipping of ontologies", "domain-specific understanding of concepts", "relaxing multiple ontologies", "user profiling", "preference-based service provisioning", "cooperative service discovery"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "133", "document": ["Machine", "Learning", "in", "DNA", "Microarray", "Analysis", "for", "Cancer", "Classification", "The", "development", "of", "microarray", "technology", "has", "supplied", "a", "large", "volume", "of", "data", "to", "many", "fields", ".", "In", "particular", ",", "it", "has", "been", "applied", "to", "prediction", "and", "diagnosis", "of", "cancer", ",", "so", "that", "it", "expectedly", "helps", "us", "to", "exactly", "predict", "and", "diagnose", "cancer", ".", "To", "precisely", "classify", "cancer", "we", "have", "to", "select", "genes", "related", "to", "cancer", "because", "extracted", "genes", "from", "microarray", "have", "many", "noises", ".", "In", "this", "paper", ",", "we", "attempt", "to", "explore", "many", "features", "and", "classifiers", "using", "three", "benchmark", "datasets", "to", "systematically", "evaluate", "the", "performances", "of", "the", "feature", "selection", "methods", "and", "machine", "learning", "classifiers", ".", "Three", "benchmark", "datasets", "are", "Leukemia", "cancer", "dataset", ",", "Colon", "cancer", "dataset", "and", "Lymphoma", "cancer", "data", "set", ".", "Pearson", "'s", "and", "Spearman", "'s", "correlation", "coefficients", ",", "Euclidean", "distance", ",", "cosine", "coefficient", ",", "information", "gain", ",", "mutual", "information", "and", "signal", "to", "noise", "ratio", "have", "been", "used", "for", "feature", "selection", ".", "Multi-layer", "perceptron", ",", "k-nearest", "neighbour", ",", "support", "vector", "machine", "and", "structure", "adaptive", "self", "organizing", "map", "have", "been", "used", "for", "classification", ".", "Also", ",", "we", "have", "combined", "the", "classifiers", "to", "improve", "the", "performance", "of", "classification", ".", "Experimental", "results", "show", "that", "the", "ensemble", "with", "several", "basis", "classifiers", "produces", "the", "best", "recognition", "rate", "on", "the", "benchmark", "dataset", ".", "The", "need", "to", "study", "whole", "genome", "such", "as", "Human", "Genomic", "Project", "-LRB-", "HGP", "-RRB-", "is", "recently", "increasing", "because", "fragmentary", "knowledge", "about", "life", "phenomenon", "with", "complex", "control", "functions", "of", "molecular-level", "is", "limited", ".", "DNA", "chips", "have", "been", "developed", "during", "that", "process", "because", "understanding", "the", "functions", "of", "genome", "sequences", "is", "essential", "at", "that", "time", ".", "The", "development", "of", "DNA", "microarray", "technology", "has", "been", "produced", "large", "amount", "of", "gene", "data", "and", "has", "made", "it", "easy", "to", "monitor", "the", "expression", "patterns", "of", "thousands", "of", "genes", "simultaneously", "under", "particular", "experimental", "environments", "and", "conditions", "-LRB-", "Harrington", "et", "al.", "2000", "-RRB-", ".", "Also", ",", "we", "can", "analyze", "the", "gene", "information", "very", "rapidly", "and", "precisely", "by", "managing", "them", "at", "one", "time", "-LRB-", "Eisen", "et", "al.", ".", "1999", "-RRB-", ".", "Microarray", "technology", "has", "been", "applied", "to", "the", "field", "of", "accurate", "prediction", "and", "diagnosis", "of", "cancer", "and", "expected", "Copyright", "2003", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "First", "Asia-Pacific", "Bioinformatics", "Conference", ",", "Adelaide", ",", "Australia", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "19", ".", "Yi-Ping", "Phoebe", "Chen", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "that", "it", "would", "help", "them", ".", "Especially", "accurate", "classification", "of", "cancer", "is", "very", "important", "issue", "for", "treatment", "of", "cancer", ".", "Many", "researchers", "have", "been", "studying", "many", "problems", "of", "cancer", "classification", "using", "gene", "expression", "profile", "data", "and", "attempting", "to", "propose", "the", "optimal", "classification", "technique", "to", "work", "out", "these", "problems", "-LRB-", "Dudoit", "et", "al.", "2000", ",", "Ben-Dor", "et", "al.", "2000", "-RRB-", "as", "shown", "in", "Table", ".", "Some", "produce", "better", "results", "than", "others", ",", "but", "there", "have", "been", "still", "no", "comprehensive", "work", "to", "compare", "the", "possible", "feature", "selection", "methods", "and", "classifiers", ".", "We", "need", "a", "thorough", "effort", "to", "give", "the", "evaluation", "of", "the", "possible", "methods", "to", "solve", "the", "problems", "of", "analyzing", "gene", "expression", "data", ".", "The", "gene", "expression", "data", "usually", "consist", "of", "huge", "number", "of", "genes", ",", "and", "the", "necessity", "of", "tools", "analysing", "them", "to", "get", "useful", "information", "gets", "radical", ".", "There", "is", "research", "that", "systematically", "analyzes", "the", "results", "of", "test", "using", "a", "variety", "of", "feature", "selection", "methods", "and", "classifiers", "for", "selecting", "informative", "genes", "to", "help", "classification", "of", "cancer", "and", "classifying", "cancer", "-LRB-", "Ryu", "et", "al.", "2002", "-RRB-", ".", "However", ",", "the", "results", "were", "not", "verified", "enough", "because", "only", "one", "benchmark", "dataset", "was", "used", ".", "Due", "to", "the", "reason", ",", "it", "is", "necessary", "to", "analyse", "systematically", "the", "performance", "of", "classifiers", "using", "a", "variety", "of", "benchmark", "datasets", ".", "In", "this", "paper", ",", "we", "attempt", "to", "explore", "many", "features", "and", "classifiers", "that", "precisely", "classify", "cancer", "using", "three", "recently", "published", "benchmark", "dataset", ".", "We", "adopted", "seven", "feature", "selection", "methods", "and", "four", "classifiers", ",", "which", "are", "commonly", "used", "in", "the", "field", "of", "data", "mining", "and", "pattern", "recognition", ".", "Feature", "selection", "methods", "include", "Pearson", "'s", "and", "Spearman", "'s", "correlation", "coefficients", ",", "Euclidean", "distance", ",", "cosine", "coefficient", ",", "information", "gain", ",", "mutual", "information", "and", "signal", "to", "noise", "ratio", ".", "Also", ",", "classification", "methods", "include", "multi-layer", "perceptron", "-LRB-", "MLP", "-RRB-", ",", "k-nearest", "neighbour", "-LRB-", "KNN", "-RRB-", ",", "support", "vector", "machine", "-LRB-", "SVM", "-RRB-", "and", "structure", "adaptive", "self", "organizing", "map", "-LRB-", "SOM", "-RRB-", ".", "We", "also", "attempt", "to", "combine", "some", "of", "the", "classifiers", "with", "majority", "voting", "to", "improve", "the", "performance", "of", "classification", ".", "DNA", "arrays", "consist", "of", "a", "large", "number", "of", "DNA", "molecules", "spotted", "in", "a", "systemic", "order", "on", "a", "solid", "substrate", ".", "Depending", "on", "the", "size", "of", "each", "DNA", "spot", "on", "the", "array", ",", "DNA", "arrays", "can", "be", "categorized", "as", "microarrays", "when", "the", "diameter", "of", "DNA", "spot", "is", "less", "than", "250", "microns", ",", "and", "macroarrays", "when", "the", "diameter", "is", "bigger", "than", "300", "microns", ".", "The", "arrays", "with", "the", "small", "solid", "substrate", "are", "also", "referred", "to", "as", "DNA", "chips", ".", "It", "is", "so", "powerful", "that", "we", "can", "investigate", "the", "gene", "information", "in", "short", "time", ",", "because", "at", "least", "hundreds", "of", "genes", "can", "be", "put", "on", "the", "DNA", "microarray", "to", "be", "analyzed", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "Sam", "ple", "Ge", "ne", "s", "ALL", "AML", "1000", "2000", "3000", "4000", "5000", "6000", "7129", "Gene", "expression", "data", "DNA", "microarray", "Image", "scanner", "Fig.", "1", ".", "General", "process", "of", "acquiring", "the", "gene", "expression", "data", "from", "DNA", "microarray", "DNA", "microarrays", "are", "composed", "of", "thousands", "of", "individual", "DNA", "sequences", "printed", "in", "a", "high", "density", "array", "on", "a", "glass", "microscope", "slide", "using", "a", "robotic", "arrayer", "as", "shown", "in", "Fig.", "1", ".", "The", "relative", "abundance", "of", "these", "spotted", "DNA", "sequences", "in", "two", "DNA", "or", "RNA", "samples", "may", "be", "assessed", "by", "monitoring", "the", "differential", "hybridization", "of", "the", "two", "samples", "to", "the", "sequences", "on", "the", "array", ".", "For", "mRNA", "samples", ",", "the", "two", "samples", "are", "reverse-transcribed", "into", "cDNA", ",", "labeled", "using", "different", "fluorescent", "dyes", "mixed", "-LRB-", "red-fluorescent", "dye", "Cy5", "and", "green-fluorescent", "dye", "Cy3", "-RRB-", ".", "After", "the", "hybridization", "of", "these", "samples", "with", "the", "arrayed", "DNA", "probes", ",", "the", "slides", "are", "imaged", "using", "scanner", "that", "makes", "fluorescence", "measurements", "for", "each", "dye", ".", "The", "log", "ratio", "between", "the", "two", "intensities", "of", "each", "dye", "is", "used", "as", "the", "gene", "expression", "data", "-LRB-", "Lashkari", "et", "al.", "1997", ",", "Derisi", "et", "al.", "1997", ",", "Eisen", "et", "al.", "1998", "-RRB-", ".", "-RRB-", "3", "Cy", "-LRB-", "Int", "-RRB-", "5", "Cy", "-LRB-", "Int", "log", "_", "2", "=", "expression", "gene", "-LRB-", "1", "-RRB-", "where", "Int", "-LRB-", "Cy5", "-RRB-", "and", "Int", "-LRB-", "Cy3", "-RRB-", "are", "the", "intensities", "of", "red", "and", "green", "colors", ".", "Since", "at", "least", "hundreds", "of", "genes", "are", "put", "on", "the", "DNA", "microarray", ",", "it", "is", "so", "helpful", "that", "we", "can", "Table", ".", "Relevant", "works", "on", "cancer", "classification", "Method", "Authors", "Dataset", "Feature", "Classifier", "Accuracy", "-LSB-", "%", "-RSB-", "Leukemia", "94.1", "Furey", "et", "al.", ".", "Colon", "Signal", "to", "noise", "ratio", "SVM", "90.3", "Li", "et", "al.", "2000", "Leukemia", "Model", "selection", "with", "Akaike", "information", "criterion", "and", "Bayesian", "information", "criterion", "with", "logistic", "regression", "94.1", "Lymphoma", "84.6", "~", "Li", "et", "al.", "2001", "Colon", "Genetic", "Algorithm", "KNN", "94.1", "~", "Leukemia", "91.6", "Colon", "Nearest", "neighbor", "80.6", "Leukemia", "94.4", "Colon", "SVM", "with", "quadratic", "kernel", "74.2", "Leukemia", "95.8", "Ben-Dor", "et", "al.", ".", "Colon", "All", "genes", ",", "TNoM", "score", "AdaBoost", "72.6", "Leukemia", "95.0", "~", "Lymphoma", "Nearest", "neighbor", "95.0", "~", "Leukemia", "95.0", "~", "Lymphoma", "Diagonal", "linear", "discriminant", "analysis", "95.0", "~", "Leukemia", "95.0", "~", "Dudoit", "et", "al.", ".", "Lymphoma", "The", "ratio", "of", "between-groups", "to", "within-groups", "sum", "of", "squares", "BoostCART", "90.0", "~", "Leukemia", "94.2", "Lymphoma", "98.1", "Colon", "Logistic", "discriminant", "87.1", "Leukemia", "95.4", "Lymphoma", "97.6", "Colon", "Principal", "component", "analysis", "Quadratic", "discriminant", "analysis", "87.1", "Leukemia", "95.9", "Lymphoma", "96.9", "Colon", "Logistic", "discriminant", "93.5", "Leukemia", "96.4", "Lymphoma", "97.4", "Nguyen", "et", "al.", ".", "Colon", "Partial", "least", "square", "Quadratic", "discriminant", "analysis", "91.9", "investigate", "the", "genome-wide", "information", "in", "short", "time", ".", "2.2", "Related", "Works", "It", "is", "essential", "to", "efficiently", "analyze", "DNA", "microarray", "data", "because", "the", "amount", "of", "DNA", "microarray", "data", "is", "usually", "very", "large", ".", "The", "analysis", "of", "DNA", "microarray", "data", "is", "divided", "into", "four", "branches", ":", "clustering", ",", "classification", ",", "gene", "identification", ",", "and", "gene", "regulatory", "network", "modeling", ".", "Many", "machine", "learning", "and", "data", "mining", "methods", "have", "been", "applied", "to", "solve", "them", ".", "Information", "theory", "-LRB-", "Fuhrman", "et", "al.", "2000", "-RRB-", "has", "been", "applied", "to", "gene", "identification", "problem", ".", "Also", ",", "boolean", "network", "-LRB-", "Thieffry", "et", "al.", "1998", "-RRB-", ",", "Bayesian", "network", "-LRB-", "Friedman", "et", "al.", "2000", "-RRB-", ",", "and", "reverse", "engineering", "method", "-LRB-", "Arkin", "et", "al.", "1997", "-RRB-", "have", "been", "applied", "to", "gene", "regulatory", "network", "modeling", "problem", ".", "Several", "machine", "learning", "techniques", "have", "been", "previously", "used", "in", "classifying", "gene", "expression", "data", ",", "including", "Fisher", "linear", "discriminant", "analysis", "-LRB-", "Dudoit", "et", "al.", ".", "2000", "-RRB-", ",", "k", "nearest", "neighbour", "-LRB-", "Li", "et", "al.", "2001", "-RRB-", ",", "decision", "tree", ",", "multi-layer", "perceptron", "-LRB-", "Khan", "et", "al.", "2001", ",", "Xu", "et", "al.", "2002", "-RRB-", ",", "support", "vector", "machine", "-LRB-", "Furey", "et", "al.", "2000", ",", "Brown", "et", "al.", ".", "2000", "-RRB-", ",", "boosting", ",", "and", "self-organizing", "map", "-LRB-", "Golub", "et", "al.", ".", "1999", "-RRB-", ".", "Also", ",", "many", "machine", "learning", "techniques", "were", "have", "been", "used", "in", "clustering", "gene", "expression", "data", "-LRB-", "Shamir", "2001", "-RRB-", ".", "They", "include", "hierarchical", "clustering", "-LRB-", "Eisen", "et", "al.", "1998", "-RRB-", ",", "self-organizing", "map", "-LRB-", "Tamayo", "et", "al.", ".", "1999", "-RRB-", ",", "and", "graph", "theoretic", "approaches", "-LRB-", "Hartuv", "et", "al.", "2000", ",", "Ben-Dor", "et", "al.", "1999", ",", "Sharan", "et", "al.", "2000", "-RRB-", "The", "first", "approach", ",", "classification", "method", ",", "is", "called", "supervised", "method", "while", "the", "second", "approach", ",", "clustering", "method", ",", "is", "called", "unsupervised", "method", ".", "Clustering", "methods", "do", "not", "use", "any", "tissue", "annotation", "-LRB-", "e.g.", ",", "tumor", "vs.", "normal", "-RRB-", "in", "the", "partitioning", "step", ".", "In", "contrast", ",", "classification", "methods", "attempt", "to", "predict", "the", "classification", "of", "new", "tissues", ",", "based", "on", "their", "gene", "expression", "profiles", "after", "training", "on", "examples", "-LRB-", "training", "data", "-RRB-", "that", "have", "been", "classified", "by", "an", "external", "``", "supervision", "''", "-LRB-", "Ben-Dor", "et", "al.", ".", "2000", "-RRB-", ".", "Table", "shows", "relevant", "works", "on", "cancer", "classification", ".", "We", "define", "machine", "learning", "for", "DNA", "microarray", "that", "selects", "discriminative", "genes", "related", "with", "classification", "from", "gene", "expression", "data", ",", "trains", "classifier", "and", "then", "classifies", "new", "data", "using", "learned", "classifier", ".", "The", "system", "is", "as", "shown", "in", "Fig.", "2", ".", "After", "acquiring", "the", "gene", "expression", "data", "calculated", "from", "the", "DNA", "microarray", ",", "our", "prediction", "system", "has", "2", "stages", ":", "feature", "selection", "and", "pattern", "classification", "stages", ".", "The", "feature", "selection", "can", "be", "thought", "of", "as", "the", "gene", "selection", ",", "which", "is", "to", "get", "the", "list", "of", "genes", "that", "might", "be", "informative", "for", "the", "prediction", "by", "statistical", ",", "information", "theoretical", "methods", ",", "etc.", ".", "Since", "it", "is", "highly", "unlikely", "that", "all", "the", "7,129", "genes", "have", "the", "information", "related", "to", "the", "cancer", "and", "using", "all", "the", "genes", "results", "in", "too", "big", "dimensionality", ",", "it", "is", "necessary", "to", "explore", "the", "efficient", "way", "to", "get", "the", "best", "feature", ".", "We", "have", "extracted", "25", "genes", "using", "seven", "methods", "described", "in", "Section", "3.1", ",", "and", "the", "cancer", "predictor", "classifies", "the", "category", "only", "with", "these", "genes", ".", "Given", "the", "gene", "list", ",", "a", "classifier", "makes", "decision", "to", "which", "category", "the", "gene", "pattern", "belongs", "at", "prediction", "stage", ".", "We", "have", "adopted", "four", "most", "widely", "used", "classification", "methods", "and", "an", "ensemble", "classifier", "as", "shown", "in", "Fig.", "2", ".", "Feature", "selection", "Tumor", "Normal", "Cancer", "predictor", "Pearson", "'s", "correlation", "coefficient", "Spearman", "'s", "correlation", "coefficient", "Euclidean", "distance", "Cosine", "coefficient", "Information", "gain", "Mutual", "information", "Signal", "to", "noise", "ratio", "3-layered", "MLP", "with", "backpropagation", "k-nearest", "neighbor", "Support", "vector", "machine", "Structure", "adaptive", "self-organizing", "map", "Ensemble", "classifier", "Microarray", "Expression", "data", "Fig.", "2", ".", "Cancer", "classification", "system", "3.1", "Gene", "Selection", "Among", "thousands", "of", "genes", "whose", "expression", "levels", "are", "measured", ",", "not", "all", "are", "needed", "for", "classification", ".", "Microarray", "data", "consist", "of", "large", "number", "of", "genes", "in", "small", "samples", ".", "We", "need", "to", "select", "some", "genes", "highly", "related", "with", "particular", "classes", "for", "classification", ",", "which", "is", "called", "informative", "genes", "-LRB-", "Golub", "et", "al.", "1999", "-RRB-", ".", "This", "process", "is", "referred", "to", "as", "gene", "selection", ".", "It", "is", "also", "called", "feature", "selection", "in", "machine", "learning", ".", "Using", "the", "statistical", "correlation", "analysis", ",", "we", "can", "see", "the", "linear", "relationship", "and", "the", "direction", "of", "relation", "between", "two", "variables", ".", "Correlation", "coefficient", "r", "varies", "from", "1", "to", "+1", ",", "so", "that", "the", "data", "distributed", "near", "the", "line", "biased", "to", "-LRB-", "+", "-RRB-", "direction", "will", "have", "positive", "coefficients", ",", "and", "the", "data", "near", "the", "line", "biased", "to", "-LRB-", "-", "-RRB-", "direction", "will", "have", "negative", "coefficients", ".", "Suppose", "that", "we", "have", "a", "gene", "expression", "pattern", "g", "i", "-LRB-", "i", "=", "1", "~", "7,129", "in", "Leukemia", "data", ",", "i", "=", "1", "~", "2,000", "in", "Colon", "data", ",", "i", "=", "1", "~", "4,026", "in", "Lymphoma", "data", "-RRB-", ".", "Each", "g", "i", "is", "a", "vector", "of", "gene", "expression", "levels", "from", "N", "samples", ",", "g", "i", "=", "-LRB-", "e", "1", ",", "e", "2", ",", "e", "3", ",", "...", ",", "e", "N", "-RRB-", ".", "The", "first", "M", "elements", "-LRB-", "e", "1", ",", "e", "2", ",", "...", ",", "e", "M", "-RRB-", "are", "examples", "of", "tumor", "samples", ",", "and", "the", "other", "N-M", "-LRB-", "e", "M", "+1", ",", "e", "M", "+2", ",", "...", ",", "e", "N", "-RRB-", "are", "those", "from", "normal", "samples", ".", "An", "ideal", "gene", "pattern", "that", "belongs", "to", "tumor", "class", "is", "defined", "by", "g", "ideal_tumor", "=", "-LRB-", "1", ",", "1", ",", "...", ",", "1", ",", "0", ",", "...", ",", "0", "-RRB-", ",", "so", "that", "all", "the", "elements", "from", "tumor", "samples", "are", "1", "and", "the", "others", "are", "0", ".", "In", "this", "paper", ",", "we", "have", "calculated", "the", "correlation", "coefficient", "between", "this", "g", "ideal", "and", "the", "expression", "pattern", "of", "each", "gene", ".", "When", "we", "have", "two", "vectors", "X", "and", "Y", "that", "contain", "N", "elements", ",", "r", "Pearson", "and", "r", "Spearman", "are", "calculated", "as", "follows", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "=", "N", "Y", "Y", "N", "X", "X", "N", "Y", "X", "XY", "r", "Pearson", "2", "2", "2", "2", "-LRB-", "2", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "6", "1", "2", "2", "=", "N", "N", "D", "D", "r", "y", "x", "Spearman", "-LRB-", "3", "-RRB-", "where", ",", "D", "x", "and", "D", "y", "are", "the", "rank", "matrices", "of", "X", "and", "Y", ",", "respectively", ".", "The", "similarity", "between", "two", "input", "vectors", "X", "and", "Y", "can", "be", "thought", "of", "as", "distance", ".", "Distance", "is", "a", "measure", "on", "how", "far", "the", "two", "vectors", "are", "located", ",", "and", "the", "distance", "between", "g", "ideal_tumor", "and", "g", "i", "tells", "us", "how", "much", "the", "g", "i", "is", "likely", "to", "the", "tumor", "class", ".", "Calculating", "the", "distance", "between", "them", ",", "if", "it", "is", "bigger", "than", "certain", "threshold", ",", "the", "gene", "g", "i", "would", "belong", "to", "tumor", "class", ",", "otherwise", "g", "i", "belongs", "to", "normal", "class", ".", "In", "this", "paper", ",", "we", "have", "adopted", "Euclidean", "distance", "-LRB-", "r", "Eclidean", "-RRB-", "and", "cosine", "coefficient", "-LRB-", "r", "Cosine", "-RRB-", "represented", "by", "the", "following", "equations", ":", "-LRB-", "-RRB-", "=", "2", "Y", "X", "r", "Eclidean", "-LRB-", "4", "-RRB-", "=", "2", "2", "Y", "X", "XY", "r", "Cosine", "-LRB-", "5", "-RRB-", "We", "have", "utilized", "the", "information", "gain", "and", "mutual", "information", "that", "are", "widely", "used", "in", "many", "fields", "such", "as", "text", "categorization", "and", "data", "mining", ".", "If", "we", "count", "the", "number", "of", "genes", "excited", "-LRB-", "-RRB-", "-LRB-", "i", "g", "P", "-RRB-", "or", "not", "excited", "-LRB-", "-RRB-", "-LRB-", "_", "i", "g", "P", "-RRB-", "in", "category", "c", "j", "-LRB-", "-RRB-", "-LRB-", "j", "c", "P", "-RRB-", ",", "the", "coefficients", "of", "the", "information", "gain", "and", "mutual", "information", "become", "as", "follows", ":", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "log", "-RRB-", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "log", "-RRB-", ",", "-LRB-", "-RRB-", ",", "-LRB-", "i", "j", "j", "i", "i", "i", "i", "j", "j", "i", "j", "i", "j", "i", "g", "P", "c", "P", "c", "g", "P", "c", "g", "P", "g", "P", "c", "P", "c", "g", "P", "c", "g", "P", "c", "g", "IG", "+", "=", "-LRB-", "6", "-RRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "log", "-RRB-", ",", "-LRB-", "i", "j", "j", "i", "j", "i", "g", "P", "c", "P", "c", "g", "P", "c", "g", "MI", "=", "-LRB-", "7", "-RRB-", "Mutual", "information", "tells", "us", "the", "dependency", "relationship", "between", "two", "probabilistic", "variables", "of", "events", ".", "If", "two", "events", "are", "completely", "independent", ",", "the", "mutual", "information", "is", "0", ".", "The", "more", "they", "are", "related", ",", "the", "higher", "the", "mutual", "information", "gets", ".", "Information", "gain", "is", "used", "when", "the", "features", "of", "samples", "are", "extracted", "by", "inducing", "the", "relationship", "between", "gene", "and", "class", "by", "the", "presence", "frequency", "of", "the", "gene", "in", "the", "sample", ".", "Information", "gain", "measures", "the", "goodness", "of", "gene", "using", "the", "presence", "and", "absence", "within", "the", "corresponding", "class", ".", "For", "each", "gene", "g", "i", ",", "some", "are", "from", "tumor", "samples", ",", "and", "some", "are", "from", "normal", "samples", ".", "If", "we", "calculate", "the", "mean", "and", "standard", "deviation", "from", "the", "distribution", "of", "gene", "expressions", "within", "their", "classes", ",", "the", "signal", "to", "noise", "ratio", "of", "gene", "g", "i", ",", "SN", "-LRB-", "g", "i", "-RRB-", ",", "is", "defined", "by", ":", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "i", "normal", "i", "tumor", "i", "normal", "i", "tumor", "i", "g", "g", "g", "g", "g", "SN", "=", "-LRB-", "8", "-RRB-", "3.2", "Classification", "Many", "algorithms", "designed", "for", "solving", "classification", "problems", "in", "machine", "learning", "have", "been", "applied", "to", "recent", "research", "of", "prediction", "and", "classification", "of", "cancer", "with", "gene", "expression", "data", ".", "General", "process", "of", "classification", "in", "machine", "learning", "is", "to", "train", "classifier", "to", "accurately", "recognize", "patterns", "from", "given", "training", "samples", "and", "to", "classify", "test", "samples", "with", "the", "trained", "classifier", ".", "Representative", "classification", "algorithms", "such", "as", "multi-layer", "perceptron", ",", "k-nearest", "neighbour", ",", "support", "vector", "machine", ",", "and", "structure-adaptive", "self-organizing", "map", "are", "applied", "to", "the", "classification", ".", "1", "-RRB-", "MLP", "Error", "backpropagation", "neural", "network", "is", "a", "feed-forward", "multilayer", "perceptron", "-LRB-", "MLP", "-RRB-", "that", "is", "applied", "in", "many", "fields", "due", "to", "its", "powerful", "and", "stable", "learning", "algorithm", "-LRB-", "Lippman", "et", "al.", "1987", "-RRB-", ".", "The", "neural", "network", "learns", "the", "training", "examples", "by", "adjusting", "the", "synaptic", "weight", "of", "neurons", "according", "to", "the", "error", "occurred", "on", "the", "output", "layer", ".", "The", "power", "of", "the", "backpropagation", "algorithm", "lies", "in", "two", "main", "aspects", ":", "local", "for", "updating", "the", "synaptic", "weights", "and", "biases", ",", "and", "efficient", "for", "computing", "all", "the", "partial", "derivatives", "of", "the", "cost", "function", "with", "respect", "to", "these", "free", "parameters", "-LRB-", "Beale", "1996", "-RRB-", ".", "The", "weight-update", "rule", "in", "backpropagation", "algorithm", "is", "defined", "as", "follows", ":", "-RRB-", "1", "-LRB-", "-RRB-", "-LRB-", "+", "=", "n", "w", "x", "n", "w", "ji", "ji", "j", "ji", "-LRB-", "9", "-RRB-", "where", "-RRB-", "-LRB-", "n", "w", "ji", "is", "the", "weight", "update", "performed", "during", "the", "nth", "iteration", "through", "the", "main", "loop", "of", "the", "algorithm", ",", "is", "a", "positive", "constant", "called", "the", "learning", "rate", ",", "j", "is", "the", "error", "term", "associated", "with", "j", ",", "x", "ji", "is", "the", "input", "from", "node", "i", "to", "unit", "j", ",", "and", "0", "<", "1", "is", "a", "constant", "called", "the", "momentum", ".", "2", "-RRB-", "KNN", "k-nearest", "neighbor", "-LRB-", "KNN", "-RRB-", "is", "one", "of", "the", "most", "common", "methods", "among", "memory", "based", "induction", ".", "Given", "an", "input", "vector", ",", "KNN", "extracts", "k", "closest", "vectors", "in", "the", "reference", "set", "based", "on", "similarity", "measures", ",", "and", "makes", "decision", "for", "the", "label", "of", "input", "vector", "using", "the", "labels", "of", "the", "k", "nearest", "neighbors", ".", "Pearson", "'s", "coefficient", "correlation", "and", "Euclidean", "distance", "have", "been", "used", "as", "the", "similarity", "measure", ".", "When", "we", "have", "an", "input", "X", "and", "a", "reference", "set", "D", "=", "-LCB-", "d", "1", ",", "d", "2", ",", "...", ",", "d", "N", "-RCB-", ",", "the", "probability", "that", "X", "may", "belong", "to", "class", "c", "j", ",", "P", "-LRB-", "X", ",", "c", "j", "-RRB-", "is", "defined", "as", "follows", ":", "j", "j", "i", "kNN", "d", "i", "j", "b", "c", "d", "P", "d", "X", "c", "X", "P", "i", "=", "-RRB-", ",", "-LRB-", "-RRB-", ",", "Sim", "-LRB-", "-RRB-", ",", "-LRB-", "-LRB-", "10", "-RRB-", "where", "Sim", "-LRB-", "X", ",", "d", "i", "-RRB-", "is", "the", "similarity", "between", "X", "and", "d", "i", "and", "b", "j", "is", "a", "bias", "term", ".", "3", "-RRB-", "SASOM", "Self-organizing", "map", "-LRB-", "SOM", "-RRB-", "defines", "a", "mapping", "from", "the", "input", "space", "onto", "an", "output", "layer", "by", "unsupervised", "learning", "algorithm", ".", "SOM", "has", "an", "output", "layer", "consisting", "of", "N", "nodes", ",", "each", "of", "which", "represents", "a", "vector", "that", "has", "the", "same", "dimension", "as", "the", "input", "pattern", ".", "For", "a", "given", "input", "vector", "X", ",", "the", "winner", "node", "m", "c", "is", "chosen", "using", "Euclidean", "distance", "between", "x", "and", "its", "neighbors", ",", "m", "i", ".", "i", "i", "c", "m", "x", "m", "x", "=", "min", "-LRB-", "11", "-RRB-", "-RRB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-LCB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "-LRB-", "t", "m", "t", "x", "t", "n", "t", "t", "m", "t", "m", "i", "ci", "i", "i", "+", "=", "+", "-LRB-", "12", "-RRB-", "Even", "though", "SOM", "is", "well", "known", "for", "its", "good", "performance", "of", "topology", "preserving", ",", "it", "is", "difficult", "to", "apply", "it", "to", "practical", "classification", "since", "the", "topology", "should", "be", "fixed", "before", "training", ".", "A", "structure", "adaptive", "self-organizing", "map", "-LRB-", "SASOM", "-RRB-", "is", "proposed", "to", "overcome", "this", "shortcoming", "-LRB-", "Kim", "et", "al.", "2000", "-RRB-", ".", "SASOM", "starts", "with", "4", "4", "map", ",", "and", "dynamically", "splits", "the", "output", "nodes", "of", "the", "map", ",", "where", "the", "data", "from", "different", "classes", "are", "mixed", ",", "trained", "with", "the", "LVQ", "learning", "algorithm", ".", "Fig.", "3", "illustrates", "the", "algorithm", "of", "SASOM", ".", "Input", "data", "No", "Yes", "Map", "generated", "Initialize", "map", "as", "4X4", "Train", "with", "Kohonen", "'s", "algorithm", "Find", "nodes", "whose", "hit_ratio", "is", "less", "than", "95.0", "%", "Split", "the", "nodes", "to", "2X2", "submap", "Train", "the", "split", "nodes", "with", "LVQ", "algorithm", "Remove", "nodes", "not", "participted", "in", "learning", "Stop", "condition", "satisfied", "?", "Structure", "adaptation", "Fig.", "3", ".", "Overview", "of", "SASOM", "4", "-RRB-", "SVM", "Support", "vector", "machine", "-LRB-", "SVM", "-RRB-", "estimates", "the", "function", "classifying", "the", "data", "into", "two", "classes", "-LRB-", "Vapnik", "1995", ",", "Moghaddam", "et", "al.", "2000", "-RRB-", ".", "SVM", "builds", "up", "a", "hyperplane", "as", "the", "decision", "surface", "in", "such", "a", "way", "to", "maximize", "the", "margin", "of", "separation", "between", "positive", "and", "negative", "examples", ".", "SVM", "achieves", "this", "by", "the", "structural", "risk", "minimization", "principle", "that", "the", "error", "rate", "of", "a", "learning", "machine", "on", "the", "test", "data", "is", "bounded", "by", "the", "sum", "of", "the", "training-error", "rate", "and", "a", "term", "that", "depends", "on", "the", "Vapnik-Chervonenkis", "-LRB-", "VC", "-RRB-", "dimension", ".", "Given", "a", "labeled", "set", "of", "M", "training", "samples", "-LRB-", "X", "i", ",", "Y", "i", "-RRB-", ",", "where", "X", "i", "R", "N", "and", "Y", "i", "is", "the", "associated", "label", ",", "Y", "i", "-LCB-", "-1", ",", "1", "-RCB-", ",", "the", "discriminant", "hyperplane", "is", "defined", "by", ":", "=", "+", "=", "M", "i", "i", "i", "i", "b", "X", "X", "k", "Y", "X", "f", "1", "-RRB-", ",", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "13", "-RRB-", "where", "k", "-LRB-", ".", "-RRB-", "is", "a", "kernel", "function", "and", "the", "sign", "of", "f", "-LRB-", "X", "-RRB-", "determines", "the", "membership", "of", "X.", "Constructing", "an", "optimal", "hyperplane", "is", "equivalent", "to", "finding", "all", "the", "nonzero", "i", "-LRB-", "support", "vectors", "-RRB-", "and", "a", "bias", "b", ".", "We", "have", "used", "SVM", "light", "module", "and", "SVM", "RBF", "in", "this", "paper", ".", "5", "-RRB-", "Ensemble", "classifier", "Classification", "can", "be", "defined", "as", "the", "process", "to", "approximate", "I/O", "mapping", "from", "the", "given", "observation", "to", "the", "optimal", "solution", ".", "Generally", ",", "classification", "tasks", "consist", "of", "two", "parts", ":", "feature", "selection", "and", "classification", ".", "Feature", "selection", "is", "a", "transformation", "process", "of", "observations", "to", "obtain", "the", "best", "pathway", "to", "get", "to", "the", "optimal", "solution", ".", "Therefore", ",", "considering", "multiple", "features", "encourages", "obtaining", "various", "candidate", "solutions", ",", "so", "that", "we", "can", "estimate", "more", "accurate", "solution", "to", "the", "optimal", "than", "any", "other", "local", "optima", ".", "When", "we", "have", "multiple", "features", "available", ",", "it", "is", "important", "to", "know", "which", "of", "features", "should", "be", "used", ".", "Theoretically", ",", "as", "many", "features", "we", "may", "concern", ",", "it", "may", "be", "more", "effective", "for", "the", "classifier", "to", "solve", "the", "problems", ".", "But", "features", "that", "have", "overlapped", "feature", "spaces", "may", "cause", "the", "redundancy", "of", "irrelevant", "information", "and", "result", "in", "the", "counter", "effect", "such", "as", "overfitting", ".", "Therefore", ",", "it", "is", "more", "important", "to", "explore", "and", "utilize", "independent", "features", "to", "train", "classifiers", ",", "rather", "than", "increase", "the", "number", "of", "features", "we", "use", ".", "Correlation", "between", "feature", "sets", "can", "be", "induced", "from", "the", "distribution", "of", "feature", "numbers", ",", "or", "using", "mathematical", "analysis", "using", "statistics", ".", "Meanwhile", ",", "there", "are", "many", "algorithms", "for", "the", "classification", "from", "machine", "learning", "approach", ",", "but", "none", "of", "them", "is", "perfect", ".", "However", ",", "it", "is", "always", "difficult", "to", "decide", "what", "to", "use", "and", "how", "to", "set", "up", "its", "parameters", ".", "According", "to", "the", "environments", "the", "classifier", "is", "embedded", ",", "some", "algorithm", "works", "well", "and", "others", "not", ".", "It", "is", "because", ",", "depending", "on", "the", "algorithms", ",", "features", "and", "parameters", "used", ",", "the", "classifier", "searches", "in", "different", "solution", "space", ".", "These", "sets", "of", "classifiers", "produce", "their", "own", "outputs", ",", "and", "enable", "the", "ensemble", "classifier", "to", "explore", "more", "wide", "solution", "space", ".", "We", "have", "applied", "this", "idea", "to", "a", "classification", "framework", "as", "shown", "in", "Fig.", "4", ".", "If", "there", "are", "k", "features", "and", "n", "classifiers", ",", "there", "are", "k", "n", "feature-classifier", "combinations", ".", "There", "are", "k", "n", "C", "m", "possible", "ensemble", "classifiers", "when", "m", "feature-classifier", "combinations", "are", "selected", "for", "ensemble", "classifier", ".", "Then", "classifiers", "are", "trained", "using", "the", "features", "selected", ",", "finally", "a", "majority", "voting", "is", "accompanied", "to", "combine", "the", "outputs", "of", "these", "classifiers", ".", "After", "classifiers", "with", "some", "features", "are", "trained", "independently", "produce", "their", "own", "outputs", ",", "final", "answer", "will", "be", "judged", "by", "a", "combining", "module", ",", "where", "the", "majority", "voting", "method", "is", "adopted", ".", "Class", "i", "Class", "1", "Feature", "extractor", "Majority", "Voting", "Input", "pattern", "...", "...", "Classifier", "n1", "Classifier", "nk", "...", "Classifier", "a1", "Classifier", "ak", "...", "Classifier", "a2", "Classifier", "n2", "Feature", "1", "Feature", "k", "Feature", "2", "...", "...", "...", ".", ".", ".", "Fig", "4", ".", "Overview", "of", "the", "ensemble", "classifier", "There", "are", "several", "microarray", "datasets", "from", "published", "cancer", "gene", "expression", "studies", ",", "including", "leukemia", "cancer", "dataset", ",", "colon", "cancer", "dataset", ",", "lymphoma", "dataset", ",", "breast", "cancer", "dataset", ",", "NCI60", "dataset", ",", "and", "ovarian", "cancer", "dataset", ".", "Among", "them", "three", "datasets", "are", "used", "in", "this", "paper", ".", "The", "first", "dataset", "and", "third", "dataset", "involve", "samples", "from", "two", "variants", "of", "the", "same", "disease", "and", "second", "dataset", "involves", "tumor", "and", "normal", "samples", "of", "the", "same", "tissue", ".", "Because", "the", "benchmark", "data", "have", "been", "studied", "in", "many", "papers", ",", "we", "can", "compare", "the", "results", "of", "this", "paper", "with", "others", ".", "1", "-RRB-", "Leukemia", "cancer", "dataset", "Leukemia", "dataset", "consists", "of", "72", "samples", ":", "25", "samples", "of", "acute", "myeloid", "leukemia", "-LRB-", "AML", "-RRB-", "and", "47", "samples", "of", "acute", "lymphoblastic", "leukemia", "-LRB-", "ALL", "-RRB-", ".", "The", "source", "of", "the", "gene", "expression", "measurements", "was", "taken", "form", "63", "bone", "marrow", "samples", "and", "9", "peripheral", "blood", "samples", ".", "Gene", "expression", "levels", "in", "these", "72", "samples", "were", "measured", "using", "high", "density", "oligonucleotide", "microarrays", "-LRB-", "Ben-Dor", "et", "al.", "2000", "-RRB-", ".", "38", "out", "of", "72", "samples", "were", "used", "as", "training", "data", "and", "the", "remaining", "were", "used", "as", "test", "data", "in", "this", "paper", ".", "Each", "sample", "contains", "7129", "gene", "expression", "levels", ".", "2", "-RRB-", "Colon", "cancer", "dataset", "Colon", "dataset", "consists", "of", "62", "samples", "of", "colon", "epithelial", "cells", "taken", "from", "colon-cancer", "patients", ".", "Each", "sample", "contains", "2000", "gene", "expression", "levels", ".", "Although", "original", "data", "consists", "of", "6000", "gene", "expression", "levels", ",", "4000", "out", "of", "6000", "were", "removed", "based", "on", "the", "confidence", "in", "the", "measured", "expression", "levels", ".", "40", "of", "62", "samples", "are", "colon", "cancer", "samples", "and", "the", "remaining", "are", "normal", "samples", ".", "Each", "sample", "was", "taken", "from", "tumors", "and", "normal", "healthy", "parts", "of", "the", "colons", "of", "the", "same", "patients", "and", "measured", "using", "high", "density", "oligonucleotide", "arrays", "-LRB-", "Ben-Dor", "et", "al.", ".", "2000", "-RRB-", ".", "31", "out", "of", "62", "samples", "were", "used", "as", "training", "data", "and", "the", "remaining", "were", "used", "as", "test", "data", "in", "this", "paper", ".", "3", "-RRB-", "Lymphoma", "cancer", "dataset", "B", "cell", "diffuse", "large", "cell", "lymphoma", "-LRB-", "B-DLCL", "-RRB-", "is", "a", "heterogeneous", "group", "of", "tumors", ",", "based", "on", "significant", "variations", "in", "morphology", ",", "clinical", "presentation", ",", "and", "response", "to", "treatment", ".", "Gene", "expression", "profiling", "has", "revealed", "two", "distinct", "tumor", "subtypes", "of", "B-DLCL", ":", "germinal", "center", "B", "cell-like", "DLCL", "and", "activated", "B", "cell-like", "DLCL", "-LRB-", "Lossos", "et", "al.", "2000", "-RRB-", ".", "Lymphoma", "dataset", "consists", "of", "24", "samples", "of", "GC", "B-like", "and", "23", "samples", "of", "activated", "B-like", ".", "22", "out", "of", "47", "samples", "were", "used", "as", "training", "data", "and", "the", "remaining", "were", "used", "as", "test", "data", "in", "this", "paper", ".", "4.2", "Environments", "For", "feature", "selection", ",", "each", "gene", "is", "scored", "based", "on", "the", "feature", "selection", "methods", "described", "in", "Section", "3.1", ",", "and", "the", "25", "top-ranked", "genes", "are", "chosen", "as", "the", "feature", "of", "the", "input", "pattern", ".", "For", "classification", ",", "we", "have", "used", "3-layered", "MLP", "with", "5", "~", "15", "hidden", "nodes", ",", "2", "output", "nodes", ",", "0.01", "~", "0.50", "of", "learning", "rate", "and", "0.9", "of", "momentum", ".", "KNN", "has", "been", "used", "with", "k", "=", "1", "~", "8", ".", "Similarity", "measures", "used", "in", "KNN", "are", "Pearson", "'s", "correlation", "coefficient", "and", "Euclidean", "distance", ".", "SASOM", "has", "been", "used", "by", "4", "4", "map", "with", "rectangular", "topology", ",", "0.05", "of", "initial", "learning", "rate", ",", "1000", "of", "initial", "learning", "length", ",", "10", "of", "initial", "radius", ",", "0.02", "of", "final", "learning", "rate", ",", "10000", "of", "final", "learning", "length", "and", "3", "of", "final", "radius", ".", "We", "have", "used", "SVM", "with", "linear", "function", "and", "RBF", "function", "as", "kernel", "function", ".", "In", "RBF", ",", "we", "have", "changed", "0.1", "~", "0.5", "gamma", "variable", ".", "4.3", "Analysis", "of", "results", "Table", "shows", "the", "IDs", "of", "genes", "overlapped", "by", "Pearson", "'s", "correlation", "coefficient", ",", "cosine", "coefficient", ",", "Euclidean", "distance", "in", "each", "dataset", ".", "Among", "these", "genes", "there", "are", "some", "genes", "overlapped", "by", "other", "feature", "selection", "methods", ".", "For", "example", ",", "gene", "2288", "of", "leukemia", "has", "been", "third-ranked", "in", "information", "gain", ".", "The", "number", "of", "overlapped", "genes", "of", "leukemia", "dataset", "is", "17", ".", "The", "number", "of", "overlapped", "genes", "of", "colon", "dataset", "is", "9", ".", "The", "number", "of", "overlapped", "genes", "of", "lymphoma", "dataset", "is", "19", ".", "These", "overlapped", "genes", "are", "very", "informative", ".", "In", "particular", ",", "Zyxin", ",", "gene", "4847", "of", "leukemia", ",", "has", "been", "reported", "as", "informative", "-LRB-", "Golub", "et", "al.", "1999", "-RRB-", ",", "but", "there", "are", "no", "genes", "appeared", "commonly", "in", "every", "method", ".", "Table", ".", "The", "IDs", "of", "genes", "overlapped", "by", "Pearson", "'s", "correlation", "coefficient", ",", "cosine", "coefficient", ",", "and", "Euclidean", "distance", "461\u00a01249\u00a01745\u00a01834", "2020", "2043\u00a02242\u00a02288\u00a03258", "3320", "4196\u00a04847\u00a05039\u00a06200", "6201", "Leukemia", "6373", "6803", "187", "619", "704", "767", "1060", "Colon", "1208\u00a01546\u00a01771\u00a01772", "36", "75", "76", "77", "86", "86\u00a0678\u00a0680\u00a01636", "1637", "2225\u00a02243\u00a02263\u00a02412", "2417", "Lymphoma", "2467\u00a03890\u00a03893\u00a03934", "Fig.", "5", "shows", "the", "expression", "level", "of", "genes", "chosen", "by", "Pearson", "'s", "correlation", "coefficient", "method", "in", "Leukemia", "dataset", ".", "1", "~", "27", "samples", "are", "ALL", "and", "28", "~", "38", "samples", "are", "AML", ".", "The", "differences", "of", "brightness", "between", "AML", "and", "ALL", "represent", "that", "genes", "chosen", "by", "Pearson", "'s", "correlation", "coefficient", "method", "divide", "samples", "into", "AML", "and", "ALL", ".", "The", "results", "of", "recognition", "rate", "on", "the", "test", "data", "are", "as", "shown", "in", "Tables", ",", ",", "and", ".", "Column", "is", "the", "list", "of", "feature", "selection", "methods", ":", "Pearson", "'s", "correlation", "coefficient", "-LRB-", "PC", "-RRB-", ",", "Spearman", "'s", "correlation", "coefficient", "-LRB-", "SC", "-RRB-", ",", "Euclidean", "distance", "-LRB-", "ED", "-RRB-", ",", "cosine", "coefficient", "-LRB-", "CC", "-RRB-", ",", "information", "gain", "-LRB-", "IG", "-RRB-", ",", "mutual", "information", "-LRB-", "MI", "-RRB-", ",", "and", "signal", "to", "noise", "ratio", "-LRB-", "SN", "-RRB-", ".", "KNN", "Pearson", "and", "MLP", "seem", "to", "produce", "the", "best", "recognition", "rate", "among", "the", "classifiers", "on", "the", "average", ".", "KNN", "Pearson", "is", "better", "than", "KNN", "cosine", ".", "SVM", "is", "poorer", "than", "any", "other", "classifiers", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "Sample", "Ge", "n", "e", "27", "38", "5", "10", "15", "20", "25", "Fig.", "5", ".", "Expression", "level", "of", "genes", "chosen", "by", "r", "Pearson", "in", "Leukemia", "dataset", "Table", ".", "Recognition", "rate", "with", "features", "and", "classifiers", "-LRB-", "%", "-RRB-", "in", "Leukemia", "dataset", "SVM", "KNN", "MLP", "SASOM", "Linear", "RBF", "Cosine", "Pearson", "PC", "97.1", "76.5", "79.4", "79.4", "97.1", "94.1", "SC", "82.4", "61.8", "58.8", "58.8", "76.5", "82.4", "ED", "91.2", "73.5", "70.6", "70.6", "85.3", "82.4", "CC", "94.1", "88.2", "85.3", "85.3", "91.2", "94.1", "IG", "97.1", "91.2", "97.1", "97.1", "94.1", "97.1", "MI", "58.8", "58.8", "58.8", "58.8", "73.5", "73.5", "SN", "76.5", "67.7", "58.8", "58.8", "73.5", "73.5", "Mean", "85.3", "74.0", "72.7", "72.7", "84.5", "85.3", "Table", ".", "Recognition", "rate", "with", "features", "and", "classifiers", "-LRB-", "%", "-RRB-", "in", "Colon", "dataset", "SVM", "KNN", "MLP", "SASOM", "Linear", "RBF", "Cosine", "Pearson", "PC", "74.2", "74.2", "64.5", "64.5", "71.0", "77.4", "SC", "58.1", "45.2", "64.5", "64.5", "61.3", "67.7", "ED", "67.8", "67.6", "64.5", "64.5", "83.9", "83.9", "CC", "83.9", "64.5", "64.5", "64.5", "80.7", "80.7", "IG", "71.0", "71.0", "71.0", "71.0", "74.2", "80.7", "MI", "71.0", "71.0", "71.0", "71.0", "74.2", "80.7", "SN", "64.5", "45.2", "64.5", "64.5", "64.5", "71.0", "Mean", "70.1", "62.7", "66.4", "66.4", "72.7", "77.4", "Table", ".", "Recognition", "rate", "with", "features", "and", "classifiers", "-LRB-", "%", "-RRB-", "in", "Lymphoma", "dataset", "SVM", "KNN", "MLP", "SASOM", "Linear", "RBF", "Cosine", "Pearson", "PC", "64.0", "48.0", "56.0", "60.0", "60.0", "76.0", "SC", "60.0", "68.0", "44.0", "44.0", "60.0", "60.0", "ED", "56.0", "52.0", "56.0", "56.0", "56.0", "68.0", "CC", "68.0", "52.0", "56.0", "56.0", "60.0", "72.0", "IG", "92.0", "84.0", "92.0", "92.0", "92.0", "92.0", "MI", "72.0", "64.0", "64.0", "64.0", "80.0", "64.0", "SN", "76.0", "76.0", "72.0", "76.0", "76.0", "80.0", "Mean", "69.7", "63.4", "62.9", "63.4", "69.1", "73.1", "Fig.", "6", "shows", "the", "comparison", "of", "the", "average", "performance", "of", "features", ".", "Although", "the", "results", "are", "different", "between", "datasets", ",", "information", "gain", "is", "the", "best", ",", "and", "Pearson", "'s", "correlation", "coefficient", "is", "the", "second", ".", "Mutual", "information", "and", "Spearman", "'s", "correlation", "coefficient", "are", "poor", ".", "The", "difference", "of", "performance", "in", "datasets", "might", "be", "caused", "by", "the", "characteristics", "of", "data", ".", "0", "20", "40", "60", "80", "100", "Leukemia", "Colon", "Ly", "mphoma", "R", "e", "c", "o", "g", "n", "it", "io", "n", "ra", "t", "e", "-LSB-", "%", "-RSB-", "PC", "SC", "ED", "CC", "IG", "MI", "SN", "Fig.", "6", ".", "Average", "performance", "of", "feature", "selection", "methods", "Recognition", "rates", "by", "ensemble", "classifiers", "are", "shown", "in", "Table", ".", "Majority", "voting-3", "means", "the", "ensemble", "classifier", "using", "majority", "voting", "with", "3", "classifiers", ",", "and", "majority", "voting-all", "means", "the", "ensemble", "classifier", "using", "majority", "voting", "with", "all", "42", "feature-classifier", "combinations", ".", "Fig.", "7", "shows", "the", "comparison", "of", "the", "performance", "of", "the", "best", "classifier", "of", "all", "possible", "42", "C", "3", "ensemble", "classifiers", ",", "ensemble", "classifier-3", "and", "ensemble", "classifier-all", ".", "The", "best", "result", "of", "Leukemia", "is", "obtained", "by", "all", "classifier", "except", "SASOM", ".", "The", "result", "of", "the", "best", "classifier", "is", "the", "same", "as", "that", "of", "the", "best", "ensemble", "classifier", "using", "majority", "voting", "with", "3", "classifiers", ".", "In", "other", "datasets", ",", "the", "performance", "of", "ensemble", "classifier", "surpasses", "the", "best", "classifier", ".", "In", "all", "datasets", ",", "ensemble", "classifier", "using", "majority", "voting", "with", "all", "classifiers", "are", "the", "worst", ".", "Table", ".", "Recognition", "rate", "by", "ensemble", "classifier", "Majority", "voting-3", "Majority", "voting-all", "Leukemia", "97.1", "91.2", "Colon", "93.6", "71.0", "Lymphoma", "96.0", "80.0", "60", "70", "80", "90", "100", "Leukemia", "Colon", "Lymphoma", "R", "ecognit", "ion", "rat", "e", "-LSB-", "%", "-RSB-", "The", "best", "classifier", "Majority", "voting-3", "Majority", "voting-all", "Fig.", "7", ".", "Comparison", "of", "the", "performance", "of", "the", "best", "classifier", ",", "the", "best", "ensemble", "classifier-3", ",", "and", "ensemble", "classifier-all", "Table", ".", "Classifiers", "of", "the", "best", "ensemble", "classifier", "of", "all", "possible", "42", "C", "3", "ensemble", "classifiers", "in", "Colon", "dataset", "Classifier", "Feature", "selection", "method", "MLP", "KNN", "cosine", "KNN", "cosine", "Cosine", "coefficient", "Euclidean", "distance", "Pearson", "'s", "correlation", "coefficient", "MLP", "KNN", "cosine", "KNN", "Pearson", "Cosine", "coefficient", "Euclidean", "distance", "Pearson", "'s", "correlation", "coefficient", "MLP", "KNN", "cosine", "SASOM", "Cosine", "coefficient", "Euclidean", "distance", "Pearson", "'s", "correlation", "coefficient", "MLP", "KNN", "cosine", "KNN", "pearson", "Mutual", "information", "Euclidean", "distance", "Pearson", "'s", "correlation", "coefficient", "MLP", "KNN", "cosine", "KNN", "pearson", "Information", "gain", "Euclidean", "distance", "Pearson", "'s", "correlation", "coefficient", "MLP", "MLP", "KNN", "pearson", "Cosine", "coefficient", "Pearson", "'s", "correlation", "coefficient", "Euclidean", "distance", "KNN", "pearson", "KNN", "pearson", "SASOM", "Euclidean", "distance", "Mutual", "information", "Pearson", "'s", "correlation", "coefficient", "KNN", "pearson", "KNN", "pearson", "SASOM", "Euclidean", "distance", "Information", "gain", "Pearson", "'s", "correlation", "coefficient", "Table", "shows", "the", "classifiers", "of", "the", "best", "ensemble", "classifier", "of", "all", "possible", "42", "C", "3", "ensemble", "classifiers", "in", "Colon", "dataset", "where", "its", "recognition", "rate", "is", "93.6", "%", ".", "If", "we", "observe", "the", "classifiers", "of", "the", "best", "ensemble", "classifier", "in", "Fig.", "10", ",", "we", "find", "features", "more", "important", "to", "affect", "the", "result", "than", "classifiers", ".", "In", "other", "words", ",", "in", "ensemble", "classifiers", "there", "must", "be", "classifiers", "with", "Euclidean", "distance", "and", "Pearson", "'s", "correlation", "coefficient", ".", "The", "other", "classifier", "is", "the", "one", "with", "cosine", "coefficient", ",", "mutual", "information", "or", "information", "gain", ".", "This", "fact", "is", "also", "prominent", "in", "Lymphoma", "dataset", ".", "Most", "of", "the", "classifiers", "of", "the", "best", "ensemble", "classifiers", "are", "classifiers", "with", "information", "gain", ",", "signal", "to", "noise", "ratio", "and", "Euclidean", "distance", ",", "or", "the", "classifiers", "with", "information", "gain", ",", "signal", "to", "noise", "ratio", "and", "Pearson", "'s", "correlation", "coefficient", ".", "As", "shown", "in", "Fig.", "8", "~", "11", ",", "Euclidean", "distance", ",", "Pearson", "'s", "correlation", "coefficient", "and", "cosine", "coefficient", "are", "highly", "correlated", "in", "Colon", "dataset", ".", "Table", "shows", "genes", "ranked", "by", "Euclidean", "distance", ",", "Pearson", "'s", "correlation", "coefficient", "and", "cosine", "coefficient", "and", "the", "value", "of", "genes", "by", "each", "method", ".", "The", "bold", "faced", "figures", "mean", "the", "overlapped", "genes", "of", "those", "features", ".", "There", "are", "some", "overlapped", "genes", "among", "them", "as", "shown", "in", "Table", ".", "This", "indicates", "overlapped", "genes", "of", "highly", "correlated", "features", "can", "discriminate", "classes", "and", "the", "other", "genes", "not", "overlapped", "among", "combined", "features", "can", "supplement", "to", "search", "the", "solution", "spaces", ".", "For", "example", ",", "gene", "1659", "and", "gene", "550", "are", "high-ranked", "in", "both", "of", "Pearson", "'s", "correlation", "coefficient", "and", "cosine", "coefficient", ",", "and", "gene", "440", "is", "high-ranked", "in", "both", "of", "Euclidean", "distance", "and", "cosine", "coefficient", ".", "This", "subset", "of", "two", "features", "might", "paly", "an", "important", "role", "in", "classification", ".", "This", "paper", "shows", "that", "the", "ensemble", "classifier", "works", "and", "we", "can", "improve", "the", "classification", "performance", "by", "combining", "complementary", "common", "sets", "of", "classifiers", "learned", "from", "three", "independent", "features", ",", "even", "when", "we", "use", "simple", "combination", "method", "like", "majority", "voting", ".", "Fig.", "8", ".", "Correlation", "of", "Euclidean", "distance", "and", "Pearson", "'s", "correlation", "coefficient", "in", "Colon", "dataset", "Fig.", "9", ".", "Correlation", "of", "Euclidean", "distance", "and", "cosine", "coefficient", "in", "Colon", "dataset", "Fig.", "10", ".", "Correlation", "of", "Pearson", "'s", "correlation", "coefficient", "and", "cosine", "coefficient", "in", "Colon", "dataset", "Fig.", "11", ".", "Correlation", "of", "Euclidean", "distance", ",", "Pearson", "'s", "correlation", "coefficient", "and", "cosine", "coefficient", "in", "Colon", "dataset", "Table", ".", "Genes", "ranked", "by", "Euclidean", "distance", ",", "Pearson", "'s", "correlation", "coefficient", "and", "cosine", "coefficient", "Rank", "Euclidean", "Pearson", "Cosine", "1", "619", "-LRB-", "2.262385", "-RRB-", "2", "767", "-LRB-", "2.335303", "-RRB-", "3", "704", "-LRB-", "2.374358", "-RRB-", "4", "187", "-LRB-", "2.388404", "-RRB-", "5", "207", "-LRB-", "2.410640", "-RRB-", "6", "887", "-LRB-", "2.473033", "-RRB-", "7", "635", "-LRB-", "2.474971", "-RRB-", "8", "1915", "-LRB-", "2.498611", "-RRB-", "9", "1046", "-LRB-", "2.506833", "-RRB-", "10", "1208", "-LRB-", "2.512257", "-RRB-", "11", "482", "-LRB-", "2.520699", "-RRB-", "12", "1771", "-LRB-", "2.525080", "-RRB-", "13", "1993", "-LRB-", "2.529032", "-RRB-", "14", "62", "-LRB-", "2.546894", "-RRB-", "15", "1772", "-LRB-", "2.547455", "-RRB-", "16", "1194", "-LRB-", "2.549244", "-RRB-", "17", "1594", "-LRB-", "2.551892", "-RRB-", "18", "199", "-LRB-", "2.557360", "-RRB-", "19", "1867", "-LRB-", "2.587469", "-RRB-", "20", "959", "-LRB-", "2.589989", "-RRB-", "21", "440", "-LRB-", "2.593881", "-RRB-", "22", "480", "-LRB-", "2.594514", "-RRB-", "23", "1546", "-LRB-", "2.604907", "-RRB-", "24", "399", "-LRB-", "2.613609", "-RRB-", "25", "1060", "-LRB-", "2.614100", "-RRB-", "619", "-LRB-", "0.681038", "-RRB-", "1771", "-LRB-", "0.664378", "-RRB-", "1659", "-LRB-", "0.634084", "-RRB-", "550", "-LRB-", "0.631655", "-RRB-", "187", "-LRB-", "0.626262", "-RRB-", "1772", "-LRB-", "0.621581", "-RRB-", "1730", "-LRB-", "0.615566", "-RRB-", "1648", "-LRB-", "0.614949", "-RRB-", "365", "-LRB-", "0.614591", "-RRB-", "1208", "-LRB-", "0.603313", "-RRB-", "1042", "-LRB-", "0.602160", "-RRB-", "1060", "-LRB-", "0.601712", "-RRB-", "513", "-LRB-", "0.596444", "-RRB-", "767", "-LRB-", "0.594119", "-RRB-", "1263", "-LRB-", "0.591725", "-RRB-", "138", "-LRB-", "0.587851", "-RRB-", "1826", "-LRB-", "0.584774", "-RRB-", "1546", "-LRB-", "0.582293", "-RRB-", "141", "-LRB-", "0.579073", "-RRB-", "1227", "-LRB-", "0.574537", "-RRB-", "704", "-LRB-", "0.569022", "-RRB-", "1549", "-LRB-", "0.562828", "-RRB-", "1489", "-LRB-", "0.561003", "-RRB-", "1724", "-LRB-", "0.559919", "-RRB-", "1209", "-LRB-", "0.559778", "-RRB-", "619", "-LRB-", "0.895971", "-RRB-", "1772", "-LRB-", "0.875472", "-RRB-", "767", "-LRB-", "0.874914", "-RRB-", "1771", "-LRB-", "0.873892", "-RRB-", "1659", "-LRB-", "0.870115", "-RRB-", "187", "-LRB-", "0.867285", "-RRB-", "704", "-LRB-", "0.866679", "-RRB-", "1208", "-LRB-", "0.866029", "-RRB-", "550", "-LRB-", "0.864547", "-RRB-", "1546", "-LRB-", "0.856904", "-RRB-", "251", "-LRB-", "0.855841", "-RRB-", "1915", "-LRB-", "0.855784", "-RRB-", "440", "-LRB-", "0.855453", "-RRB-", "1263", "-LRB-", "0.854854", "-RRB-", "1060", "-LRB-", "0.854829", "-RRB-", "965", "-LRB-", "0.854137", "-RRB-", "1648", "-LRB-", "0.854119", "-RRB-", "1942", "-LRB-", "0.853586", "-RRB-", "513", "-LRB-", "0.852270", "-RRB-", "1042", "-LRB-", "0.851993", "-RRB-", "1993", "-LRB-", "0.851753", "-RRB-", "365", "-LRB-", "0.851205", "-RRB-", "1400", "-LRB-", "0.849531", "-RRB-", "207", "-LRB-", "0.849084", "-RRB-", "271", "-LRB-", "0.848481", "-RRB-", "We", "have", "conducted", "a", "thorough", "quantitative", "comparison", "among", "the", "42", "combinations", "of", "features", "and", "classifiers", "for", "three", "benchmark", "dataset", ".", "Information", "gain", "and", "Pearson", "'s", "correlation", "coefficient", "are", "the", "top", "feature", "selection", "methods", ",", "and", "MLP", "and", "KNN", "are", "the", "best", "classifiers", ".", "The", "experimental", "results", "also", "imply", "some", "correlations", "between", "features", "and", "classifiers", ",", "which", "might", "guide", "the", "researchers", "to", "choose", "or", "devise", "the", "best", "classification", "method", "for", "their", "problems", "in", "bioinformatics", ".", "Based", "on", "the", "results", ",", "we", "have", "developed", "the", "optimal", "feature-classifier", "combination", "to", "produce", "the", "best", "performance", "on", "the", "classification", ".", "We", "have", "combined", "3", "classifiers", "among", "42", "classifiers", "using", "majority", "voting", ".", "We", "could", "confirm", "that", "ensemble", "classifier", "of", "highly", "correlated", "features", "works", "better", "than", "ensemble", "of", "uncorrelated", "features", ".", "In", "particular", ",", "we", "analyzed", "the", "improvement", "of", "the", "classification", "performance", "for", "Colon", "dataset", ".", "Moreover", ",", "our", "method", "of", "combining", "classifiers", "is", "very", "simple", ",", "and", "there", "are", "many", "methods", "of", "combining", "classifiers", "in", "machine", "learning", "and", "data", "mining", "fields", ".", "We", "will", "have", "to", "apply", "more", "sophisticated", "methods", "of", "combining", "classifiers", "to", "the", "same", "dataset", "to", "confirm", "the", "results", "obtained", "and", "get", "better", "results", ".", "Acknowledgements", "This", "paper", "was", "supported", "by", "Brain", "Science", "and", "Engineering", "Research", "Program", "sponsored", "by", "Korean", "Ministry", "of", "Science", "and", "Technology", ".", "Alon", ",", "U.", ",", "Barkai", ",", "N.", ",", "et", "al.", "-LRB-", "1999", "-RRB-", ":", "Broad", "patterns", "of", "gene", "expression", "revealed", "by", "clustering", "analysis", "of", "tumor", "and", "normal", "colon", "tissues", "probed", "by", "oligonucleotide", "arrays", ".", "Proc", ".", "of", "the", "Natl.", "Acad", ".", "of", "Sci", ".", "USA", ",", "96:6745-6750", ".", "Arkin", ",", "A.", ",", "Shen", ",", "P.", "and", "Ross", ",", "J.", "-LRB-", "1997", "-RRB-", ":", "A", "test", "case", "of", "correlation", "metric", "construction", "of", "a", "reaction", "pathway", "from", "measurements", ".", "Science", ",", "277:1275-1279", ".", "Beale", ",", "H.", "D.", "-LRB-", "1996", "-RRB-", ":", "Neural", "Network", "Design", ".", "1-47", ",", "PWS", "Publish", "Company", ".", "Ben-Dor", ",", "A.", ",", "Shamir", ",", "R.", "and", "Yakhini", ",", "Z.", "-LRB-", "1999", "-RRB-", ":", "Clustering", "gene", "expression", "patterns", ".", "Journal", "of", "Computational", "Biology", ",", "6:281-297", ".", "Ben-Dor", ",", "A.", ",", "Bruhn", ",", "L.", ",", "Friedman", ",", "N.", ",", "Nachman", ",", "I.", ",", "Schummer", ",", "M.", "and", "Yakhini", ",", "N.", "-LRB-", "2000", "-RRB-", ":", "Tissue", "classification", "with", "gene", "expression", "profiles", ".", "Journal", "of", "Computational", "Biology", ",", "7:559-584", ".", "Brown", ",", "M.", "P.", "S.", ",", "Grundy", ",", "W.", "N.", ",", "Lin", ",", "D.", ",", "Cristianini", ",", "N.", ",", "Sugnet", ",", "C.", "W.", ",", "Furey", ",", "T.", "S.", ",", "Ares", ",", "M.", "Jr.", "and", "Haussler", ",", "D.", "-LRB-", "2000", "-RRB-", ":", "Knowledge-based", "analysis", "of", "microarray", "gene", "expression", "data", "by", "using", "support", "vector", "machines", ".", "Proc", ".", "of", "the", "Natl.", "Acad", ".", "of", "Sci", ".", "USA", ",", "97:262-267", ",", "2000", ".", "Derisi", ",", "J.", ",", "Iyer", ",", "V.", "and", "Brosn", ",", "P.", "-LRB-", "1997", "-RRB-", ":", "Exploring", "the", "metabolic", "and", "genetic", "control", "of", "gene", "expression", "on", "a", "genomic", "scale", ".", "Science", ",", "278:680-686", ".", "Dudoit", ",", "S.", ",", "Fridlyand", ",", "J.", "and", "Speed", ",", "T.", "P.", "-LRB-", "2000", "-RRB-", ":", "Comparison", "of", "discrimination", "methods", "for", "the", "classification", "of", "tumors", "using", "gene", "expression", "data", ".", "Technical", "Report", "576", ",", "Department", "of", "Statistics", ",", "University", "of", "California", ",", "Berkeley", ".", "Eisen", ",", "M.", "B.", ",", "Spellman", ",", "P.", "T.", ",", "Brown", ",", "P.", "O.", "and", "Bostein", ",", "D.", "-LRB-", "1998", "-RRB-", ":", "Cluster", "analysis", "and", "display", "of", "genome-wide", "expression", "patterns", ".", "Proc", ".", "of", "the", "Natl.", "Acad", ".", "of", "Sci", ".", "USA", ",", "95:14863-14868", ".", "Eisen", ",", "M.", "B.", "and", "Brown", ",", "P.", "O.", "-LRB-", "1999", "-RRB-", ":", "DNA", "arrays", "for", "analysis", "of", "gene", "expression", ".", "Methods", "Enzymbol", ",", "303", ":", "179-205", ".", "Friedman", ",", "N.", ",", "Linial", ",", "M.", ",", "Nachman", ",", "I.", "and", "Pe'er", ",", "D.", "-LRB-", "2000", "-RRB-", ":", "Using", "Bayesian", "networks", "to", "analyze", "expression", "data", ".", "Journal", "of", "Computational", "Biology", ",", "7:601-620", ".", "Fuhrman", ",", "S.", ",", "Cunningham", ",", "M.", "J.", ",", "Wen", ",", "X.", ",", "Zweiger", ",", "G.", ",", "Seilhamer", ",", "J.", "and", "Somogyi", ",", "R.", "-LRB-", "2000", "-RRB-", ":", "The", "application", "of", "Shannon", "entropy", "in", "the", "identification", "of", "putative", "drug", "targets", ".", "Biosystems", ",", "55:5-14", ".", "Furey", ",", "T.", "S.", ",", "Cristianini", ",", "N.", ",", "Duffy", ",", "N.", ",", "Bednarski", ",", "D.", "W.", ",", "Schummer", ",", "M.", "and", "Haussler", ",", "D.", "-LRB-", "2000", "-RRB-", ":", "Support", "vector", "machine", "classification", "and", "validation", "of", "cancer", "tissue", "samples", "using", "microarray", "expression", "data", ".", "Bioinformatics", ",", "16", "-LRB-", "10", "-RRB-", ":", "906-914", ".", "Golub", ",", "T.", "R.", ",", "Slonim", ",", "D.", "K.", ",", "Tamayo", ",", "P.", ",", "Huard", ",", "C.", ",", "GaasenBeek", ",", "M.", ",", "Mesirov", ",", "J.", "P.", ",", "Coller", ",", "H.", ",", "Loh", ",", "M.", "L.", ",", "Downing", ",", "J.", "R.", ",", "Caligiuri", ",", "M.", "A.", ",", "Blomfield", ",", "C.", "D.", ",", "and", "Lander", ",", "E.", "S.", "-LRB-", "1999", "-RRB-", ":", "Molecular", "classification", "of", "cancer", ":", "Class", "discovery", "and", "class", "prediction", "by", "gene-expression", "monitoring", ".", "Science", ",", "286:531-537", ".", "Harrington", ",", "C.", "A.", ",", "Rosenow", ",", "C.", ",", "and", "Retief", ",", "J.", "-LRB-", "2000", "-RRB-", ":", "Monitoring", "gene", "expression", "using", "DNA", "microarrays", ".", "Curr", ".", "Opin", ".", "Microbiol.", ",", "3:285-291", ".", "Hartuv", ",", "E.", ",", "Schmitt", ",", "A.", ",", "Lange", ",", "J.", ",", "Meier-Ewert", ",", "S.", ",", "Lehrach", ",", "H.", "and", "Shamir", ",", "R.", "-LRB-", "2000", "-RRB-", ":", "An", "algorithm", "for", "clustering", "cDNA", "fingerprints", ".", "Genomics", ",", "66", "-LRB-", "3", "-RRB-", ":", "249-256", ".", "Khan", ",", "J.", ",", "Wei", ",", "J.", "S.", ",", "Ringner", ",", "M.", ",", "Saal", ",", "L.", "H.", ",", "Ladanyi", ",", "M.", ",", "Westermann", ",", "F.", ",", "Berthold", ",", "F.", ",", "Schwab", ",", "M.", ",", "Antonescu", ",", "C.", "R.", ",", "Peterson", ",", "C.", "And", "Meltzer", ",", "P.", "S.", "-LRB-", "2001", "-RRB-", ":", "Classification", "and", "diagnostic", "prediction", "of", "cancers", "using", "gene", "expression", "profiling", "and", "artificial", "neural", "networks", ".", "Nature", "Medicine", ",", "7", "-LRB-", "6", "-RRB-", ":", "673-679", ".", "Kim", ",", "H.", "D.", "and", "Cho", ",", "S.-B", ".", "-LRB-", "2000", "-RRB-", ":", "Genetic", "optimization", "of", "structure-adaptive", "self-organizing", "map", "for", "efficient", "classification", ".", "Proc", ".", "of", "International", "Conference", "on", "Soft", "Computing", ",", "34-39", ",", "World-Scientific", "Publishing", ".", "Lashkari", ",", "D.", ",", "Derisi", ",", "J.", ",", "McCusker", ",", "J.", ",", "Namath", ",", "A.", ",", "Gentile", ",", "C.", ",", "Hwang", ",", "S.", ",", "Brown", ",", "P.", ",", "and", "Davis", ",", "R.", "-LRB-", "1997", "-RRB-", ":", "Yeast", "microarrays", "for", "genome", "wide", "parallel", "genetic", "and", "gene", "expression", "analysis", ".", "Proc", ".", "of", "the", "Natl.", "Acad", ".", "of", "Sci", ".", "USA", ",", "94:13057-13062", ".", "Lippman", ",", "R.", "P.", "-LRB-", "1987", "-RRB-", ":", "An", "introduction", "to", "computing", "with", "neural", "nets", ".", "IEEE", "ASSP", "Magazine", ",", "4-22", ".", "Li", ",", "L.", ",", "Weinberg", ",", "C.", "R.", ",", "Darden", ",", "T.", "A.", "and", "Pedersen", ",", "L.", "G.", "-LRB-", "2001", "-RRB-", ":", "Gene", "selection", "for", "sample", "classification", "based", "on", "gene", "expression", "data", ":", "study", "of", "sensitivity", "to", "choice", "of", "parameters", "of", "the", "GA/KNN", "method", ".", "Bioinformatics", ",", "17", "-LRB-", "12", "-RRB-", ":", "1131-1142", ".", "Li", ",", "W.", "and", "Yang", ",", "Y.", "-LRB-", "2000", "-RRB-", ":", "How", "many", "genes", "are", "needed", "for", "a", "discriminant", "microarray", "data", "analysis", ".", "Critical", "Assessment", "of", "Techniques", "for", "Microarray", "Data", "Mining", "Workshop", ".", "Lossos", ",", "I.", "S.", ",", "Alizadeh", ",", "A.", "A.", ",", "Eisen", ",", "M.", "B.", ",", "Chan", ",", "W.", "C.", ",", "Brown", ",", "P.", "O.", ",", "Bostein", ",", "D.", ",", "Staudt", ",", "L.", "M.", ",", "and", "Levy", ",", "R.", "-LRB-", "2000", "-RRB-", ":", "Ongoing", "immunoglobulin", "somatic", "mutation", "in", "germinal", "center", "B", "cell-like", "but", "not", "in", "activated", "B", "cell-like", "diffuse", "large", "cell", "lymphomas", ".", "Proc", ".", "of", "the", "Natl.", "Acad", ".", "of", "Sci", ".", "USA", ",", "97", "-LRB-", "18", "-RRB-", ":", "10209-10213", ".", "Moghaddam", ",", "B.", "and", "Yang", ",", "M.-H", ".", "-LRB-", "2000", "-RRB-", ":", "Gender", "classification", "with", "support", "vector", "machines", ".", "Proc", ".", "of", "4th", "IEEE", "Intl.", ".", "Conf", ".", "on", "Automatic", "Face", "and", "Gesture", "Recognition", ",", "306-311", ".", "Nguyen", ",", "D.", "V.", "and", "Rocke", ",", "D.", "M.", "-LRB-", "2002", "-RRB-", ":", "Tumor", "classification", "by", "partial", "least", "squares", "using", "microarray", "gene", "expression", "data", ".", "Bioinformatics", ",", "18", "-LRB-", "1", "-RRB-", ":", "39-50", ".", "Quinlan", ",", "J.", "R.", "-LRB-", "1986", "-RRB-", ":", "The", "effect", "of", "noise", "on", "concept", "learning", ".", "Machine", "Learning", ":", "An", "Artificial", "Intelligence", "Approach", ",", "Michalski", ",", "R.", "S.", ",", "Carbonell", ",", "J.", "G.", "and", "Mitchell", ",", "T.", "M.", "-LRB-", "eds", "-RRB-", ".", "San", "Mateo", ",", "CA", ":", "Morgan", "Kauffmann", ",", "2:149-166", ".", "Ryu", ",", "J.", "and", "Cho", ",", "S.", "B.", "-LRB-", "2002", "-RRB-", ":", "Towards", "optimal", "feature", "and", "classifier", "for", "gene", "expression", "classification", "of", "cancer", ".", "Lecture", "Note", "in", "Artificial", "Intelligence", ",", "2275:310-317", ".", "Shamir", ",", "R.", "and", "Sharan", ",", "R.", "-LRB-", "2001", "-RRB-", ":", "Algorithmic", "approaches", "to", "clustering", "gene", "expression", "data", ".", "Current", "Topics", "in", "Computational", "Biology", ".", "In", "Jiang", ",", "T.", ",", "Smith", ",", "T.", ",", "Xu", ",", "Y.", "and", "Zhang", ",", "M.", "Q.", "-LRB-", "eds", "-RRB-", ",", "MIT", "press", ".", "Sharan", ",", "R.", "and", "Shamir", ",", "R.", "-LRB-", "2000", "-RRB-", ":", "CLICK", ":", "A", "clustering", "with", "applications", "to", "gene", "expression", "analysis", ".", "Proc", ".", "Of", "the", "Eighth", "International", "Conference", "in", "Computational", "Molecular", "Biology", "-LRB-", "ISBM", "-RRB-", ",", "307-316", ".", "Tamayo", ",", "P.", "-LRB-", "1999", "-RRB-", ":", "Interpreting", "patterns", "of", "gene", "expression", "with", "self-organizing", "map", ":", "Methods", "and", "application", "to", "hematopoietic", "differentiation", ".", "Proc", ".", "of", "the", "National", "Academy", "of", "Sciences", "of", "the", "United", "States", "of", "America", ",", "96", ":", "2907-2912", ".", "Thieffry", ",", "D.", "and", "Thomas", ",", "R.", "-LRB-", "1998", "-RRB-", ":", "Qualitative", "analysis", "of", "gene", "networks", ".", "Pacific", "Symposium", "on", "Biocomputing", ",", "3:66-76", ".", "Vapnik", ",", "V.", "N.", "-LRB-", "1995", "-RRB-", ":", "The", "Nature", "of", "Statistical", "Learning", "Theory", ",", "New", "York", ":", "Springer", ".", "Xu", ",", "Y.", ",", "Selaru", ",", "M.", ",", "Yin", ",", "J.", ",", "Zou", ",", "T.", "T.", ",", "Shustova", ",", "V.", ",", "Mori", ",", "Y.", ",", "Sato", ",", "F.", ",", "Liu", ",", "T.", "C.", ",", "Olaru", ",", "A.", ",", "Wang", ",", "S.", ",", "Kimos", ",", "M.", "C.", ",", "Perry", ",", "K.", ",", "Desai", ",", "K.", ",", "Greenwood", ",", "B.", "D.", ",", "Krasna", ",", "M.", "J.", ",", "Shibata", ",", "D.", ",", "Abraham", ",", "J.", "M.", "and", "Meltzer", ",", "S.", "J.", "-LRB-", "2002", "-RRB-", ":", "Artificial", "neural", "networks", "and", "gene", "filtering", "distinguish", "between", "global", "gene", "expression", "profiles", "of", "Barrett", "'s", "esophagus", "and", "esophageal", "cancer", ".", "Cancer", "Research", ",", "62:3493-3497", "."], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["classification", "gene expression profile", "mlp", "feature selection", "knn", "sasom", "ensemble classifier", "svm"], "abstractive_keyphrases": ["biological data mining"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "191", "document": ["The", "Potential", "of", "the", "Cell", "Processor", "for", "Scientific", "Computing", "The", "slowing", "pace", "of", "commodity", "microprocessor", "performance", "improvements", "combined", "with", "ever-increasing", "chip", "power", "demands", "has", "become", "of", "utmost", "concern", "to", "computational", "scientists", ".", "As", "a", "result", ",", "the", "high", "performance", "computing", "community", "is", "examining", "alternative", "architectures", "that", "address", "the", "limitations", "of", "modern", "cache-based", "designs", ".", "In", "this", "work", ",", "we", "examine", "the", "potential", "of", "using", "the", "forthcoming", "STI", "Cell", "processor", "as", "a", "building", "block", "for", "future", "high-end", "computing", "systems", ".", "Our", "work", "contains", "several", "novel", "contributions", ".", "First", ",", "we", "introduce", "a", "performance", "model", "for", "Cell", "and", "apply", "it", "to", "several", "key", "scientific", "computing", "kernels", ":", "dense", "matrix", "multiply", ",", "sparse", "matrix", "vector", "multiply", ",", "stencil", "computations", ",", "and", "1D/2D", "FFTs", ".", "The", "difficulty", "of", "programming", "Cell", ",", "which", "requires", "assembly", "level", "intrinsics", "for", "the", "best", "performance", ",", "makes", "this", "model", "useful", "as", "an", "initial", "step", "in", "algorithm", "design", "and", "evaluation", ".", "Next", ",", "we", "validate", "the", "accuracy", "of", "our", "model", "by", "comparing", "results", "against", "published", "hardware", "results", ",", "as", "well", "as", "our", "own", "implementations", "on", "the", "Cell", "full", "system", "simulator", ".", "Additionally", ",", "we", "compare", "Cell", "performance", "to", "benchmarks", "run", "on", "leading", "superscalar", "-LRB-", "AMD", "Opteron", "-RRB-", ",", "VLIW", "-LRB-", "Intel", "Itanium2", "-RRB-", ",", "and", "vector", "-LRB-", "Cray", "X1E", "-RRB-", "architectures", ".", "Our", "work", "also", "explores", "several", "different", "mappings", "of", "the", "kernels", "and", "demonstrates", "a", "simple", "and", "effective", "programming", "model", "for", "Cell", "'s", "unique", "architecture", ".", "Finally", ",", "we", "propose", "modest", "microarchitectural", "modifications", "that", "could", "significantly", "increase", "the", "efficiency", "of", "double-precision", "calculations", ".", "Overall", "results", "demonstrate", "the", "tremendous", "potential", "of", "the", "Cell", "architecture", "for", "scientific", "computations", "in", "terms", "of", "both", "raw", "performance", "and", "power", "efficiency", ".", "C.", "1.2", "-LSB-", "Processor", "Architectures", "-RSB-", ":", "Multiple", "Data", "Stream", "Architectures", "--", "Single-instruction", "-", "stream", ",", "multiple-data-stream", "processors", "-LRB-", "SIMD", "-RRB-", "Copyright", "2005", "Association", "for", "Computing", "Machinery", ".", "ACM", "acknowledges", "that", "this", "contribution", "was", "authored", "or", "co-authored", "by", "a", "contractor", "or", "affiliate", "of", "the", "U.S.", "Government", ".", "As", "such", ",", "the", "Government", "retains", "a", "nonex-clusive", ",", "royalty-free", "right", "to", "publish", "or", "reproduce", "this", "article", ",", "or", "to", "allow", "others", "to", "do", "so", ",", "for", "Government", "purposes", "only", ".", "CF", "'", "06", ",", "May", "3", "5", ",", "2006", ",", "Ischia", ",", "Italy", ".", "Copyright", "2006", "ACM", "1-59593-302-6", "/", "06/0005", "...", "$", "5.00", ".", "C.", "1.3", "-LSB-", "Processor", "Architectures", "-RSB-", ":", "Other", "Architecture", "Styles", "--", "Heterogeneous", "-LRB-", "hybrid", "-RRB-", "systems", "C.", "1.4", "-LSB-", "Processor", "Architectures", "-RSB-", ":", "Parallel", "Architectures", "C.", "4", "-LSB-", "Performance", "of", "Systems", "-RSB-", ":", "Design", "studies", ",", "modeling", "techniques", ",", "performance", "attributes", "D.", "1.3", "-LSB-", "Programming", "Techniques", "-RSB-", ":", "Concurrent", "Programming", "--", "Parallel", "Programming", "Performance", ",", "Design", "Over", "the", "last", "decade", "the", "HPC", "community", "has", "moved", "towards", "machines", "composed", "of", "commodity", "microprocessors", "as", "a", "strategy", "for", "tracking", "the", "tremendous", "growth", "in", "processor", "performance", "in", "that", "market", ".", "As", "frequency", "scaling", "slows", ",", "and", "the", "power", "requirements", "of", "these", "mainstream", "processors", "continues", "to", "grow", ",", "the", "HPC", "community", "is", "looking", "for", "alternative", "architectures", "that", "provide", "high", "performance", "on", "scientific", "applications", ",", "yet", "have", "a", "healthy", "market", "outside", "the", "scientific", "community", ".", "In", "this", "work", ",", "we", "examine", "the", "potential", "of", "the", "forthcoming", "STI", "Cell", "processor", "as", "a", "building", "block", "for", "future", "high-end", "computing", "systems", ",", "by", "investigating", "performance", "across", "several", "key", "scientific", "computing", "kernels", ":", "dense", "matrix", "multiply", ",", "sparse", "matrix", "vector", "multiply", ",", "stencil", "computations", "on", "regular", "grids", ",", "as", "well", "as", "1D", "and", "2D", "FFTs", ".", "Cell", "combines", "the", "considerable", "floating", "point", "resources", "required", "for", "demanding", "numerical", "algorithms", "with", "a", "power-efficient", "software-controlled", "memory", "hierarchy", ".", "Despite", "its", "radical", "departure", "from", "previous", "mainstream/commodity", "processor", "designs", ",", "Cell", "is", "particularly", "compelling", "because", "it", "will", "be", "produced", "at", "such", "high", "volumes", "that", "it", "will", "be", "cost-competitive", "with", "commodity", "CPUs", ".", "The", "current", "implementation", "of", "Cell", "is", "most", "often", "noted", "for", "its", "extremely", "high", "performance", "single-precision", "-LRB-", "SP", "-RRB-", "arithmetic", ",", "which", "is", "widely", "considered", "insufficient", "for", "the", "majority", "of", "scientific", "applications", ".", "Although", "Cell", "'s", "peak", "double", "precision", "performance", "is", "still", "impressive", "relative", "to", "its", "commodity", "peers", "-LRB-", "~", "14.6", "Gflop/s", "@", "3.2", "GHz", "-RRB-", ",", "we", "explore", "how", "modest", "hardware", "changes", "could", "significantly", "improve", "performance", "for", "computationally", "intensive", "DP", "applications", ".", "9", "This", "paper", "presents", "several", "novel", "results", ".", "We", "present", "quantitative", "performance", "data", "for", "scientific", "kernels", "that", "compares", "Cell", "performance", "to", "leading", "superscalar", "-LRB-", "AMD", "Opteron", "-RRB-", ",", "VLIW", "-LRB-", "Intel", "Itanium2", "-RRB-", ",", "and", "vector", "-LRB-", "Cray", "X1E", "-RRB-", "architectures", ".", "We", "believe", "this", "study", "examines", "the", "broadest", "array", "of", "scientific", "algorithms", "to", "date", "on", "Cell", ".", "We", "developed", "both", "analytical", "models", "and", "lightweight", "simulators", "to", "predict", "kernel", "performance", "that", "we", "demonstrated", "to", "be", "accurate", "when", "compared", "against", "published", "Cell", "hardware", "result", ",", "as", "well", "as", "our", "own", "implementations", "on", "the", "Cell", "full", "system", "simulator", ".", "Our", "work", "also", "explores", "the", "complexity", "of", "mapping", "several", "important", "scientific", "algorithms", "onto", "the", "Cell", "'s", "unique", "architecture", "in", "order", "to", "leverage", "the", "large", "number", "of", "available", "functional", "units", "and", "the", "software-controlled", "memory", ".", "Additionally", ",", "we", "propose", "modest", "microarchitectural", "modifications", "that", "could", "increase", "the", "efficiency", "of", "double-precision", "arithmetic", "calculations", ",", "and", "demonstrate", "significant", "performance", "improvements", "compared", "with", "the", "current", "Cell", "implementation", ".", "Overall", "results", "demonstrate", "the", "tremendous", "potential", "of", "the", "Cell", "architecture", "for", "scientific", "computations", "in", "terms", "of", "both", "raw", "performance", "and", "power", "efficiency", ".", "We", "also", "conclude", "that", "Cell", "'s", "heterogeneous", "multi-core", "implementation", "is", "inherently", "better", "suited", "to", "the", "HPC", "environment", "than", "homogeneous", "commodity", "multicore", "processors", ".", "One", "of", "the", "key", "limiting", "factors", "for", "computational", "performance", "is", "off-chip", "memory", "bandwidth", ".", "Since", "increasing", "the", "off-chip", "bandwidth", "is", "prohibitively", "expensive", ",", "many", "architects", "are", "considering", "ways", "of", "using", "available", "bandwidth", "more", "efficiently", ".", "Examples", "include", "hardware", "multithreading", "or", "more", "efficient", "alternatives", "to", "conventional", "cache-based", "architectures", "such", "as", "software-controlled", "memories", ".", "Software-controlled", "memories", "can", "potentially", "improve", "memory", "subsystem", "performance", "by", "supporting", "finely", "controlled", "prefetch-ing", "and", "more", "efficient", "cache-utilization", "policies", "that", "take", "advantage", "of", "application-level", "information", "--", "but", "do", "so", "with", "far", "less", "architectural", "complexity", "than", "conventional", "cache", "architectures", ".", "While", "placing", "data", "movement", "under", "explicit", "software", "control", "increases", "the", "complexity", "of", "the", "programming", "model", ",", "prior", "research", "has", "demonstrated", "that", "this", "approach", "can", "be", "more", "effective", "for", "hiding", "memory", "latencies", "-LRB-", "including", "cache", "misses", "and", "TLB", "misses", "-RRB-", "--", "requiring", "far", "smaller", "cache", "sizes", "to", "match", "the", "performance", "of", "conventional", "cache", "implementations", "-LSB-", "17", ",", "19", "-RSB-", ".", "The", "performance", "of", "software-controlled", "memory", "is", "more", "predictable", ",", "thereby", "making", "it", "popular", "for", "real-time", "embedded", "applications", "where", "guaranteed", "response", "rates", "are", "essential", ".", "Over", "the", "last", "five", "years", ",", "a", "plethora", "of", "alternatives", "to", "conventional", "cache-based", "architectures", "have", "been", "suggested", "including", "scratchpad", "memories", "-LSB-", "9,16,30", "-RSB-", ",", "paged", "on-chip", "memories", "-LSB-", "12", ",", "17", "-RSB-", ",", "and", "explicit", "three-level", "memory", "architectures", "-LSB-", "18", ",", "19", "-RSB-", ".", "Until", "recently", ",", "few", "of", "these", "architectural", "concepts", "made", "it", "into", "mainstream", "processor", "designs", ",", "but", "the", "increasingly", "stringent", "power/performance", "requirements", "for", "embedded", "systems", "have", "resulted", "in", "a", "number", "of", "recent", "implementations", "that", "have", "adopted", "these", "concepts", ".", "Chips", "like", "the", "Sony", "Emotion", "Engine", "-LSB-", "20", ",", "23", ",", "29", "-RSB-", "and", "Intel", "'s", "MXP5800", "both", "achieved", "high", "performance", "at", "low", "power", "by", "adopting", "three", "levels", "-LRB-", "registers", ",", "local", "memory", ",", "external", "DRAM", "-RRB-", "of", "software-managed", "memory", ".", "More", "recently", ",", "the", "STI", "Cell", "processor", "has", "adopted", "a", "similar", "approach", "where", "data", "movement", "between", "SPE", "256", "KB", "PPC", "512", "KB", "memo", "ry", "con", "troller", "I/O", "I/O", "EIB", "4", "rings", ",", "8bytes", "/", "core", "cycle", "25.6", "GB/s", "SPE", "256", "KB", "SPE", "256", "KB", "SPE", "256", "KB", "SPE", "256", "KB", "SPE", "256", "KB", "SPE", "256", "KB", "SPE", "256", "KB", "Figure", "1", ":", "Overview", "of", "the", "Cell", "processor", "these", "three", "address", "spaces", "is", "explicitly", "controlled", "by", "the", "application", ".", "For", "predictable", "data", "access", "patterns", "the", "local", "store", "approach", "is", "highly", "advantageous", "as", "it", "can", "be", "very", "efficiently", "utilized", "through", "explicit", "software-controlled", "scheduling", ".", "Improved", "bandwidth", "utilization", "through", "deep", "pipelining", "of", "memory", "requests", "requires", "less", "power", ",", "and", "has", "a", "faster", "access", "time", ",", "than", "a", "large", "cache", "due", "in", "part", "to", "its", "lower", "complexity", ".", "If", "however", ",", "the", "data", "access", "pattern", "lacks", "predictabil-ity", ",", "then", "the", "advantages", "of", "software-managed", "memory", "are", "lost", ".", "This", "more", "aggressive", "approach", "to", "memory", "architecture", "was", "adopted", "to", "meet", "the", "demanding", "cost/performance", "and", "real-time", "responsiveness", "requirements", "of", "Sony", "'s", "upcoming", "video", "game", "console", ".", "However", ",", "to", "date", ",", "an", "in-depth", "study", "to", "evaluate", "the", "potential", "of", "utilizing", "the", "Cell", "architecture", "in", "the", "context", "of", "scientific", "computations", "does", "not", "appear", "in", "the", "literature", ".", "Cell", "-LSB-", "8,27", "-RSB-", "was", "designed", "by", "a", "partnership", "of", "Sony", ",", "Toshiba", ",", "and", "IBM", "-LRB-", "STI", "-RRB-", "to", "be", "the", "heart", "of", "Sony", "'s", "forthcoming", "PlayStation3", "gaming", "system", ".", "Cell", "takes", "a", "radical", "departure", "from", "conventional", "multiprocessor", "or", "multi-core", "architectures", ".", "Instead", "of", "using", "identical", "cooperating", "commodity", "processors", ",", "it", "uses", "a", "conventional", "high", "performance", "PowerPC", "core", "that", "controls", "eight", "simple", "SIMD", "cores", ",", "called", "synergistic", "processing", "elements", "-LRB-", "SPEs", "-RRB-", ",", "where", "each", "SPE", "contains", "a", "synergistic", "processing", "unit", "-LRB-", "SPU", "-RRB-", ",", "a", "local", "memory", ",", "and", "a", "memory", "flow", "controller", ".", "An", "overview", "of", "Cell", "is", "provided", "in", "Figure", "1", ".", "Access", "to", "external", "memory", "is", "handled", "via", "a", "25.6", "GB/s", "XDR", "memory", "controller", ".", "The", "cache", "coherent", "PowerPC", "core", ",", "the", "eight", "SPEs", ",", "the", "DRAM", "controller", ",", "and", "I/O", "controllers", "are", "all", "connected", "via", "4", "data", "rings", ",", "collectively", "known", "as", "the", "EIB", ".", "The", "ring", "interface", "within", "each", "unit", "allows", "8", "bytes/cycle", "to", "be", "read", "or", "written", ".", "Simultaneous", "transfers", "on", "the", "same", "ring", "are", "possible", ".", "All", "transfers", "are", "orchestrated", "by", "the", "PowerPC", "core", ".", "Each", "SPE", "includes", "four", "single", "precision", "-LRB-", "SP", "-RRB-", "6-cycle", "pipelined", "FMA", "datapaths", "and", "one", "double", "precision", "-LRB-", "DP", "-RRB-", "half-pumped", "-LRB-", "the", "double", "precision", "operations", "within", "a", "SIMD", "operation", "must", "be", "serialized", "-RRB-", "9-cycle", "pipelined", "FMA", "datapath", "with", "4", "cycles", "of", "overhead", "for", "data", "movement", "-LSB-", "22", "-RSB-", ".", "Cell", "has", "a", "7", "cycle", "in-order", "execution", "pipeline", "and", "forwarding", "network", "-LSB-", "8", "-RSB-", ".", "IBM", "appears", "to", "have", "solved", "the", "problem", "of", "inserting", "a", "13", "-LRB-", "9", "+4", "-RRB-", "cycle", "DP", "pipeline", "into", "a", "7", "stage", "in-order", "machine", "by", "choosing", "the", "minimum", "effort/performance/power", "solution", "of", "simply", "stalling", "for", "6", "cycles", "after", "issuing", "a", "DP", "10", "instruction", ".", "The", "SPE", "'s", "DP", "throughput", "-LSB-", "14", "-RSB-", "of", "one", "DP", "instruction", "every", "7", "-LRB-", "1", "issue", "+", "6", "stall", "-RRB-", "cycles", "coincides", "perfectly", "with", "this", "reasoning", ".", "Thus", "for", "computationally", "intense", "algorithms", "like", "dense", "matrix", "multiply", "-LRB-", "GEMM", "-RRB-", ",", "we", "expect", "SP", "implementations", "to", "run", "near", "peak", "whereas", "DP", "versions", "would", "drop", "to", "approximately", "one", "fourteenth", "the", "peak", "SP", "flop", "rate", "-LSB-", "10", "-RSB-", ".", "Similarly", ",", "for", "bandwidth", "intensive", "applications", "such", "as", "sparse", "matrix", "vector", "multiplication", "-LRB-", "SpMV", "-RRB-", "we", "expect", "SP", "versions", "to", "be", "between", "1.5", "x", "and", "4x", "as", "fast", "as", "DP", ",", "depending", "on", "density", "and", "uniformity", ".", "Unlike", "a", "typical", "coprocessor", ",", "each", "SPE", "has", "its", "own", "local", "memory", "from", "which", "it", "fetches", "code", "and", "reads", "and", "writes", "data", ".", "All", "loads", "and", "stores", "issued", "from", "the", "SPE", "can", "only", "access", "the", "SPE", "'s", "local", "memory", ".", "The", "Cell", "processor", "depends", "on", "explicit", "DMA", "operations", "to", "move", "data", "from", "main", "memory", "to", "the", "local", "store", "of", "the", "SPE", ".", "The", "limited", "scope", "of", "loads", "and", "stores", "allows", "one", "to", "view", "the", "SPE", "as", "having", "a", "two-level", "register", "file", ".", "The", "first", "level", "is", "a", "128", "x", "128b", "single", "cycle", "register", "file", ",", "where", "the", "second", "is", "a", "16K", "x", "128b", "six", "cycle", "register", "file", ".", "Data", "must", "be", "moved", "into", "the", "first", "level", "before", "it", "can", "be", "operated", "on", "by", "instructions", ".", "Dedicated", "DMA", "engines", "allow", "multiple", "concurrent", "DMA", "loads", "to", "run", "concurrently", "with", "the", "SIMD", "execution", "unit", ",", "thereby", "mitigating", "memory", "latency", "overhead", "via", "double-buffered", "DMA", "loads", "and", "stores", ".", "The", "selectable", "length", "DMA", "operations", "supported", "by", "the", "SPE", "are", "much", "like", "a", "traditional", "unit", "stride", "vector", "load", ".", "We", "exploit", "these", "similarities", "to", "existing", "HPC", "platforms", "to", "select", "programming", "models", "that", "are", "both", "familiar", "and", "tractable", "for", "scientific", "application", "developers", ".", "The", "Cell", "architecture", "poses", "several", "challenges", "to", "programming", ":", "an", "explicitly", "controlled", "memory", "hierarchy", ",", "explicit", "parallelism", "between", "the", "8", "SPEs", "and", "the", "PowerPC", ",", "and", "a", "quadword", "based", "ISA", ".", "Our", "goal", "is", "to", "select", "the", "programming", "paradigm", "that", "offers", "the", "simplest", "possible", "expression", "of", "an", "algorithm", "while", "being", "capable", "of", "fully", "utilizing", "the", "hardware", "resources", "of", "the", "Cell", "processor", ".", "The", "memory", "hierarchy", "is", "programmed", "using", "explicit", "DMA", "intrinsics", "with", "the", "option", "of", "user", "programmed", "double", "buffering", "to", "overlap", "data", "movement", "with", "computation", "on", "the", "SPEs", ".", "Moving", "from", "a", "hardware", "managed", "memory", "hierarchy", "to", "one", "controlled", "explicitly", "by", "the", "application", "significantly", "complicates", "the", "programming", "model", ",", "and", "pushes", "it", "towards", "a", "one", "sided", "communication", "model", ".", "Unlike", "MPI", ",", "the", "intrinsics", "are", "very", "low", "level", "and", "map", "to", "half", "a", "dozen", "instructions", ".", "This", "allows", "for", "very", "low", "software", "overhead", "and", "good", "performance", ",", "but", "requires", "the", "user", "to", "be", "capable", "and", "either", "ensure", "correct", "usage", "or", "provide", "an", "interface", "or", "abstraction", ".", "For", "programming", "the", "parallelism", "on", "Cell", ",", "we", "considered", "three", "possible", "programming", "models", ":", "task", "parallelism", "with", "independent", "tasks", "scheduled", "on", "each", "SPE", ";", "pipelined", "parallelism", "where", "large", "data", "blocks", "are", "passed", "from", "one", "SPE", "to", "the", "next", ";", "and", "data", "parallelism", ",", "where", "the", "processors", "perform", "identical", "computations", "on", "distinct", "data", ".", "For", "simplicity", ",", "we", "do", "not", "consider", "parallelism", "between", "the", "PowerPC", "and", "the", "SPEs", ",", "so", "we", "can", "treat", "this", "as", "a", "homogeneous", "parallel", "machine", ".", "Data", "pipelining", "may", "be", "suitable", "for", "certain", "classes", "of", "algorithms", "and", "will", "be", "the", "focus", "of", "future", "investigation", ".", "We", "adopt", "the", "data-parallel", "programming", "model", ",", "which", "is", "a", "good", "match", "to", "many", "scientific", "applications", "and", "offers", "the", "simplest", "and", "most", "direct", "method", "of", "decomposing", "the", "problem", ".", "Data-parallel", "programming", "is", "quite", "similar", "to", "loop-level", "parallelization", "afforded", "by", "OpenMP", "or", "the", "vector-like", "multistreaming", "on", "the", "Cray", "X1E", "and", "the", "Hitachi", "SR-8000", ".", "The", "focus", "of", "this", "paper", "is", "Cell", "architecture", "and", "performance", ";", "we", "do", "not", "explore", "the", "efficacy", "of", "the", "IBM", "SPE", "XLC", "compiler", ".", "Thus", ",", "we", "heavily", "rely", "on", "SIMD", "intrinsics", "and", "do", "not", "investigate", "if", "appropriate", "SIMD", "instructions", "are", "gener-ated", "by", "the", "compiler", ".", "Although", "the", "produced", "Cell", "code", "may", "appear", "verbose", "--", "due", "to", "the", "use", "of", "intrinsics", "instead", "of", "C", "operators", "--", "it", "delivers", "readily", "understandable", "performance", ".", "Our", "first", "Cell", "implementation", ",", "SpMV", ",", "required", "about", "a", "month", "of", "learning", "the", "programming", "model", ",", "the", "architecture", ",", "the", "compiler", ",", "the", "tools", ",", "and", "deciding", "on", "a", "final", "algorithmic", "strategy", ".", "The", "final", "implementation", "required", "about", "600", "lines", "of", "code", ".", "The", "next", "code", "development", "examined", "two", "flavors", "of", "double", "precision", "stencil-based", "algorithms", ".", "These", "implementations", "required", "one", "week", "of", "work", "and", "are", "each", "about", "250", "lines", ",", "with", "an", "additional", "200", "lines", "of", "common", "code", ".", "The", "programming", "overhead", "of", "these", "kernels", "on", "Cell", "required", "significantly", "more", "effort", "than", "the", "scalar", "version", "'s", "15", "lines", ",", "due", "mainly", "to", "loop", "unrolling", "and", "intrinsics", "use", ".", "Although", "the", "stencils", "are", "a", "simpler", "kernel", ",", "the", "SpMV", "learning", "experience", "accelerated", "the", "coding", "process", ".", "Having", "become", "experienced", "Cell", "programmers", ",", "the", "single", "precision", "time", "skewed", "stencil", "--", "although", "virtually", "a", "complete", "rewrite", "from", "the", "double", "precision", "single", "step", "version", "--", "required", "only", "a", "single", "day", "to", "code", ",", "debug", ",", "benchmark", ",", "and", "attain", "spectacular", "results", "of", "over", "65", "Gflop/s", ".", "This", "implementation", "consists", "of", "about", "450", "lines", ",", "due", "once", "again", "to", "unrolling", "and", "the", "heavy", "use", "of", "intrinsics", ".", "The", "simplicity", "of", "the", "SPEs", "and", "the", "deterministic", "behavior", "of", "the", "explicitly", "controlled", "memory", "hierarchy", "make", "Cell", "amenable", "to", "performance", "prediction", "using", "a", "simple", "analytic", "model", ".", "Using", "this", "approach", ",", "one", "can", "easily", "explore", "multiple", "variations", "of", "an", "algorithm", "without", "the", "effort", "of", "programming", "each", "variation", "and", "running", "on", "either", "a", "fully", "cycle-accurate", "simulator", "or", "hardware", ".", "With", "the", "newly", "released", "cycle", "accurate", "simulator", "-LRB-", "Mambo", "-RRB-", ",", "we", "have", "succesfully", "validated", "our", "performance", "model", "for", "SGEMM", ",", "SpMV", ",", "and", "Stencil", "Computations", ",", "as", "will", "be", "shown", "in", "the", "subsequent", "sections", ".", "Our", "modeling", "approach", "is", "broken", "into", "two", "steps", "commensurate", "with", "the", "two", "phase", "double", "buffered", "computational", "model", ".", "The", "kernels", "were", "first", "segmented", "into", "code-snippets", "that", "operate", "only", "on", "data", "present", "in", "the", "local", "store", "of", "the", "SPE", ".", "We", "sketched", "the", "code", "snippets", "in", "SPE", "assembly", "and", "performed", "static", "timing", "analysis", ".", "The", "latency", "of", "each", "operation", ",", "issue", "width", "limitations", ",", "and", "the", "operand", "alignment", "requirements", "of", "the", "SIMD/quadword", "SPE", "execution", "pipeline", "determined", "the", "number", "of", "cycles", "required", ".", "The", "in-order", "nature", "and", "fixed", "local", "store", "memory", "latency", "of", "the", "SPEs", "makes", "the", "analysis", "deterministic", "and", "thus", "more", "tractable", "than", "on", "cache-based", ",", "out-of-order", "microprocessors", ".", "In", "the", "second", "step", ",", "we", "construct", "a", "model", "that", "tabulates", "the", "time", "required", "for", "DMA", "loads", "and", "stores", "of", "the", "operands", "required", "by", "the", "code", "snippets", ".", "The", "model", "accurately", "reflects", "the", "constraints", "imposed", "by", "resource", "conflicts", "in", "the", "memory", "subsystem", ".", "For", "instance", ",", "concurrent", "DMAs", "issued", "by", "multiple", "SPEs", "must", "be", "serialized", ",", "as", "there", "is", "only", "a", "single", "DRAM", "controller", ".", "The", "model", "also", "presumes", "a", "conservative", "fixed", "DMA", "initiation", "latency", "of", "1000", "cycles", ".", "The", "model", "computes", "the", "total", "time", "by", "adding", "all", "the", "per-11", "Cell", "X1E", "AMD64", "IA64", "SPE", "Chip", "-LRB-", "MSP", "-RRB-", "SIMD", "Multi-Multi", "Super", "VLIW", "Architecture", "core", "chip", "scalar", "SIMD", "Vector", "Clock", "-LRB-", "GHz", "-RRB-", "3.2", "3.2", "1.13", "2.2", "1.4", "DRAM", "-LRB-", "GB/s", "-RRB-", "25.6", "25.6", "34", "6.4", "6.4", "SP", "Gflop/s", "25.6", "204.8", "36", "8.8", "5.6", "DP", "Gflop/s", "1.83", "14.63", "18", "4.4", "5.6", "Local", "Store", "256KB", "2", "MB", "-", "L2", "Cache", "-512", "KB", "2", "MB", "1", "MB", "256KB", "L3", "Cache", "-3", "MB", "Power", "-LRB-", "W", "-RRB-", "3", "~", "40", "120", "89", "130", "Year", "-2006", "2005", "2004", "2003", "Table", "1", ":", "Architectural", "overview", "of", "STI", "Cell", ",", "Cray", "X1E", "MSP", ",", "AMD", "Opteron", ",", "and", "Intel", "Itanium2", ".", "Es-timated", "total", "Cell", "power", "and", "peak", "Gflop/s", "are", "based", "on", "the", "active", "SPEs/idle", "PowerPC", "programming", "model", ".", "iteration", "-LRB-", "outer", "loop", "-RRB-", "times", ",", "which", "are", "themselves", "computed", "by", "taking", "the", "maximum", "of", "the", "snippet", "and", "DMA", "transfer", "times", ".", "In", "some", "cases", ",", "the", "per-iteration", "times", "are", "constant", "across", "iterations", ",", "but", "in", "others", "it", "varies", "between", "iterations", "and", "is", "input-dependent", ".", "For", "example", ",", "in", "a", "sparse", "matrix", ",", "the", "memory", "access", "pattern", "depends", "on", "the", "nonzero", "structure", "of", "the", "matrix", ",", "which", "varies", "across", "iterations", ".", "Some", "algorithms", "may", "also", "require", "separate", "stages", "which", "have", "different", "execution", "times", ";", "e.g.", ",", "the", "FFT", "has", "stages", "for", "loading", "data", ",", "loading", "constants", ",", "local", "computation", ",", "transpose", ",", "local", "computation", ",", "bit", "reversal", ",", "and", "storing", "the", "results", ".", "For", "simplicity", "we", "chose", "to", "model", "a", "3.2", "GHz", ",", "8", "SPE", "version", "of", "Cell", "with", "25.6", "GB/s", "of", "memory", "bandwidth", ".", "This", "version", "of", "Cell", "is", "likely", "to", "be", "used", "in", "the", "first", "release", "of", "the", "Sony", "PlayStation3", "-LSB-", "28", "-RSB-", ".", "The", "lower", "frequency", "had", "the", "simplifying", "benefit", "that", "both", "the", "EIB", "and", "DRAM", "controller", "could", "deliver", "two", "SP", "words", "per", "cycle", ".", "The", "maximum", "flop", "rate", "of", "such", "a", "machine", "would", "be", "204.8", "Gflop/s", ",", "with", "a", "computational", "intensity", "of", "32", "FLOPs/word", ".", "For", "comparison", ",", "we", "ran", "these", "kernels", "on", "actual", "hardware", "of", "several", "leading", "processor", "designs", ":", "the", "vector", "Cray", "X1E", "MSP", ",", "superscalar", "AMD", "Opteron", "248", "and", "VLIW", "Intel", "Itanium2", ".", "The", "key", "architectural", "characteristics", "are", "detailed", "in", "Table", "1", ".", "5.1", "Cell", "+", "Architectural", "Exploration", "The", "Double", "Precision", "-LRB-", "DP", "-RRB-", "pipeline", "in", "Cell", "is", "obviously", "an", "afterthought", "as", "video", "games", "have", "limited", "need", "for", "DP", "arithmetic", ".", "Certainly", "a", "redesigned", "pipeline", "would", "rectify", "the", "performance", "limitations", ",", "but", "would", "do", "so", "at", "a", "cost", "of", "additional", "design", "complexity", "and", "power", "consumption", ".", "We", "offer", "a", "more", "modest", "alternative", "that", "can", "reuse", "most", "of", "the", "existing", "circuitry", ".", "Based", "on", "our", "experience", "designing", "the", "VI-RAM", "vector", "processor-in-memory", "chip", "-LSB-", "12", "-RSB-", ",", "we", "believe", "these", "``", "Cell", "+", "''", "design", "modifications", "are", "considerably", "less", "complex", "than", "a", "redesigned", "pipeline", ",", "consume", "very", "little", "additional", "surface", "area", "on", "the", "chip", ",", "but", "show", "significant", "DP", "performance", "improvements", "for", "scientific", "kernels", ".", "In", "order", "to", "explore", "the", "limitations", "of", "Cell", "'s", "DP", "issue", "bandwidth", ",", "we", "propose", "an", "alternate", "design", "with", "a", "longer", "forwarding", "network", "to", "eliminate", "the", "all", "but", "one", "of", "the", "stall", "cycles", "--", "recall", "the", "factors", "that", "limit", "DP", "throughput", "as", "described", "in", "Section", "3", ".", "In", "this", "hypothetical", "implementation", ",", "called", "Cell", "+", ",", "each", "SPE", "would", "still", "have", "the", "single", "DP", "datapath", ",", "but", "would", "be", "able", "to", "dispatch", "one", "DP", "SIMD", "instruction", "every", "other", "cycle", "instead", "of", "one", "every", "7", "cycles", ".", "The", "Cell", "+", "design", "would", "not", "stall", "issuing", "other", "instructions", "and", "would", "achieve", "3.5", "x", "the", "DP", "throughput", "of", "the", "Cell", "-LRB-", "51.2", "Gflop/s", "-RRB-", "by", "fully", "utilizing", "the", "existing", "DP", "datapath", ";", "however", ",", "it", "would", "maintain", "the", "same", "SP", "throughput", ",", "frequency", ",", "bandwidth", ",", "and", "power", "as", "the", "Cell", ".", "We", "begin", "by", "examining", "the", "performance", "of", "dense", "matrix-matrix", "multiplication", ",", "or", "GEMM", ".", "This", "kernel", "is", "character-ized", "by", "high", "computational", "intensity", "and", "regular", "memory", "access", "patterns", ",", "making", "it", "an", "extremely", "well", "suited", "for", "the", "Cell", "architecture", ".", "We", "explored", "two", "storage", "formats", ":", "column", "major", "and", "block", "data", "layout", "-LSB-", "26", "-RSB-", "-LRB-", "BDL", "-RRB-", ".", "BDL", "is", "a", "two-stage", "addressing", "scheme", "-LRB-", "block", "row/column", ",", "element", "sub", "row/column", "-RRB-", ".", "6.1", "Algorithm", "Considerations", "For", "GEMM", ",", "we", "adopt", "what", "is", "in", "essence", "an", "outer", "loop", "parallelization", "approach", ".", "Each", "matrix", "is", "broken", "into", "8n", "x", "n", "element", "tiles", "designed", "to", "fit", "into", "the", "memory", "available", "on", "the", "Cell", "chip", ",", "which", "are", "in", "turn", "split", "into", "eight", "n", "x", "n", "element", "tiles", "that", "can", "fit", "into", "the", "8", "SPE", "local", "stores", ".", "For", "the", "column", "layout", ",", "the", "matrix", "will", "be", "accessed", "via", "a", "number", "of", "short", "DMAs", "equal", "to", "the", "dimension", "of", "the", "tile", "--", "e.g.", "64", "DMAs", "of", "length", "64", ".", "BDL", ",", "on", "the", "other", "hand", ",", "will", "require", "a", "single", "long", "DMA", "of", "length", "16KB", ".", "Since", "the", "local", "store", "is", "only", "256KB", ",", "and", "must", "contain", "both", "the", "program", "and", "stack", ",", "program", "data", "in", "the", "local", "store", "is", "limited", "to", "about", "56K", "words", ".", "The", "tiles", ",", "when", "double", "buffered", ",", "require", "6n", "2", "words", "of", "local", "store", "-LRB-", "one", "from", "each", "matrix", "-RRB-", "--", "thus", "making", "96", "2", "the", "maximum", "square", "tiles", "in", "SP.", ".", "Additionally", ",", "in", "column", "layout", ",", "there", "is", "added", "pressure", "on", "the", "maximum", "tile", "size", "for", "large", "matrices", ",", "as", "each", "column", "within", "a", "tile", "will", "be", "on", "a", "different", "page", "resulting", "in", "TLB", "misses", ".", "The", "minimum", "size", "of", "a", "tile", "is", "determined", "by", "the", "FLOPs", "to", "word", "ratio", "of", "the", "processor", ".", "In", "the", "middle", ",", "there", "is", "a", "tile-size", "``", "sweet", "spot", "''", "that", "delivers", "peak", "performance", ".", "The", "loop", "order", "was", "therefore", "chosen", "to", "minimize", "the", "average", "number", "of", "pages", "touched", "per", "phase", "for", "a", "column", "major", "storage", "format", ".", "The", "BDL", "approach", ",", "as", "TLB", "misses", "are", "of", "little", "concern", ",", "allows", "us", "to", "structure", "the", "loop", "order", "to", "minimize", "memory", "bandwidth", "requirements", ".", "A", "possible", "alternate", "approach", "is", "to", "adapt", "Cannon", "'s", "algorithm", "-LSB-", "3", "-RSB-", "for", "parallel", "machines", ".", "Although", "this", "strategy", "could", "reduce", "the", "DRAM", "bandwidth", "requirements", "by", "transferring", "blocks", "via", "the", "EIB", ",", "for", "a", "column", "major", "layout", ",", "it", "could", "significantly", "increase", "the", "number", "of", "pages", "touched", ".", "This", "will", "be", "the", "subject", "of", "future", "work", ".", "Note", "that", "for", "small", "matrix", "sizes", ",", "it", "is", "most", "likely", "advantageous", "to", "choose", "an", "algorithm", "that", "minimizes", "the", "number", "of", "DMAs", ".", "One", "such", "solution", "would", "be", "to", "broadcast", "a", "copy", "of", "the", "first", "matrix", "to", "all", "SPEs", ".", "6.2", "Single", "Precision", "GEMM", "Results", "The", "Cell", "performance", "of", "GEMM", "based", "on", "our", "performance", "model", "-LRB-", "referred", "to", "as", "Cell", "pm", "-RRB-", "for", "large", "matrices", "is", "presented", "in", "Table", "2", ".", "SGEMM", "simulation", "data", "show", "that", "32", "2", "blocks", "do", "not", "achieve", "sufficient", "computational", "intensity", "to", "fully", "utilize", "the", "processor", ".", "The", "choice", "of", "loop", "order", "12", "Cell", "pm", "+", "Cell", "pm", "X1E", "AMD64", "IA64", "DP", "-LRB-", "Gflop/s", "-RRB-", "51.1", "14.6", "16.9", "4.0", "5.4", "SP", "-LRB-", "Gflop/s", "-RRB-", "-204", ".7", "29.5", "7.8", "3.0", "Table", "2", ":", "GEMM", "performance", "-LRB-", "in", "Gflop/s", "-RRB-", "for", "large", "square", "matrices", "on", "Cell", ",", "X1E", ",", "Opteron", ",", "and", "Itanium2", ".", "Only", "the", "best", "performing", "numbers", "are", "shown", ".", "Cell", "data", "based", "on", "our", "performance", "model", "is", "referred", "to", "as", "Cell", "pm", ".", "and", "the", "resulting", "increase", "in", "memory", "traffic", "prevents", "column", "major", "64", "2", "blocks", "from", "achieving", "a", "large", "fraction", "of", "peak", "-LRB-", "over", "90", "%", "-RRB-", "for", "large", "matrices", ".", "Only", "96", "2", "block", "sizes", "provide", "enough", "computational", "intensity", "to", "overcome", "the", "additional", "block", "loads", "and", "stores", ",", "and", "thus", "achieving", "near-peak", "performance", "--", "over", "200Gflop/s", ".", "For", "BDL", ",", "however", ",", "64", "2", "blocks", "effectively", "achieve", "peak", "performance", ".", "Whereas", "we", "assume", "a", "1000", "cycle", "DMA", "startup", "latency", "in", "our", "simulations", ",", "if", "the", "DMA", "latency", "were", "only", "100", "cycles", ",", "then", "the", "64", "2", "column", "major", "performance", "would", "reach", "parity", "with", "BDL", ".", "At", "3.2", "GHz", ",", "each", "SPE", "requires", "about", "3W", "-LSB-", "8", "-RSB-", ".", "Thus", "with", "a", "nearly", "idle", "PPC", "and", "L2", ",", "Cell", "pm", "achieves", "over", "200", "Gflop/s", "for", "approximately", "40W", "of", "power", "--", "nearly", "5", "Gflop/s/Watt", ".", "Clearly", ",", "for", "well-suited", "applications", ",", "Cell", "is", "extremely", "power", "efficient", ".", "6.3", "Double", "Precision", "GEMM", "Results", "A", "similar", "set", "of", "strategies", "and", "simulations", "were", "performed", "for", "DGEMM", ".", "Although", "the", "time", "to", "load", "a", "DP", "64", "2", "block", "is", "twice", "that", "of", "the", "SP", "version", ",", "the", "time", "required", "to", "compute", "on", "a", "64", "2", "DP", "block", "is", "about", "14x", "as", "long", "as", "the", "SP", "counterpart", "-LRB-", "due", "to", "the", "limitations", "of", "the", "DP", "issue", "logic", "-RRB-", ".", "Thus", "it", "is", "far", "easier", "for", "DP", "to", "reach", "its", "peak", "performance", ".", "--", "a", "mere", "14.6", "Gflop/s", ".", "However", ",", "when", "using", "our", "proposed", "Cell", "+", "hardware", "variant", ",", "DGEMM", "performance", "jumps", "to", "an", "impressive", "51", "Gflop/s", ".", "6.4", "Performance", "Comparison", "Table", "2", "shows", "a", "performance", "comparison", "of", "GEMM", "between", "Cell", "pm", "and", "the", "set", "of", "modern", "processors", "evaluated", "in", "our", "study", ".", "Note", "the", "impressive", "performance", "characteristics", "of", "the", "Cell", "processors", ",", "achieving", "69x", ",", "26x", ",", "and", "7x", "speed", "up", "for", "SGEMM", "compared", "with", "the", "Itanium2", ",", "Opteron", ",", "and", "X1E", "respectively", ".", "For", "DGEMM", ",", "the", "default", "Cell", "processor", "is", "2.7", "x", "and", "3.7", "x", "faster", "than", "the", "Itanium2", "and", "Opteron", ".", "In", "terms", "of", "power", ",", "the", "Cell", "performance", "is", "even", "more", "impressive", ",", "achieving", "over", "200x", "the", "efficiency", "of", "the", "Itanium2", "for", "SGEMM", "!", "Our", "Cell", "pm", "+", "exploration", "architecture", "is", "capable", ",", "for", "large", "tiles", ",", "of", "fully", "exploiting", "the", "DP", "pipeline", "and", "achieving", "over", "50", "Gflop/s", ".", "In", "DP", ",", "the", "Cell", "+", "architecture", "would", "be", "nearly", "10", "times", "faster", "than", "the", "Itanium2", "and", "nearly", "30", "times", "more", "power", "efficient", ".", "Additionally", ",", "traditional", "micros", "-LRB-", "Itanium2", ",", "Opteron", ",", "etc", "-RRB-", "in", "multi-core", "configurations", "would", "require", "either", "enormous", "power", "saving", "innovations", "or", "dramatic", "reductions", "in", "performance", ",", "and", "thus", "would", "show", "even", "poorer", "performance/power", "compared", "with", "the", "Cell", "technology", ".", "Com-pared", "to", "the", "X1E", ",", "Cell", "+", "would", "be", "3", "times", "as", "fast", "and", "9", "times", "more", "power", "efficient", ".", "The", "decoupling", "of", "main", "memory", "data", "access", "from", "the", "computational", "kernel", "guarantees", "constant", "memory", "access", "latency", "since", "there", "will", "be", "no", "cache", "misses", ",", "and", "all", "TLB", "accesses", "are", "resolved", "in", "the", "communication", "phase", ".", "Matrix", "multiplication", "is", "perhaps", "the", "best", "benchmark", "to", "demonstrate", "Cell", "'s", "computational", "capabilities", ",", "as", "it", "achieves", "high", "performance", "by", "buffering", "large", "blocks", "on", "chip", "before", "computing", "on", "them", ".", "6.5", "Model", "Validation", "IBM", "recently", "released", "their", "in-house", "performance", "evaluation", "of", "their", "prototype", "hardware", "-LSB-", "4", "-RSB-", ".", "On", "SGEMM", ",", "they", "achieve", "about", "201", "Gflop/s", ",", "which", "is", "within", "2", "%", "of", "our", "pred-icated", "performance", ".", "At", "first", "glance", ",", "SpMV", "would", "seem", "to", "be", "a", "poor", "application", "choice", "for", "the", "Cell", "since", "the", "SPEs", "have", "neither", "caches", "nor", "word-granularity", "gather/scatter", "support", ".", "Furthermore", ",", "SpMV", "has", "a", "relatively", "low", "O", "-LRB-", "1", "-RRB-", "computational", "intensity", ".", "However", ",", "these", "considerations", "are", "perhaps", "less", "important", "than", "the", "Cell", "'s", "low", "functional", "unit", "and", "local", "store", "latency", "-LRB-", "<", "2ns", "-RRB-", ",", "the", "task", "parallelism", "afforded", "by", "the", "SPEs", ",", "the", "eight", "independent", "load", "store", "units", ",", "and", "the", "ability", "to", "stream", "nonzeros", "via", "DMAs", ".", "7.1", "Algorithmic", "Considerations", "Two", "storage", "formats", "are", "presented", "in", "this", "paper", ":", "Compressed", "Sparse", "Row", "-LRB-", "CSR", "-RRB-", "and", "Blocked", "Compressed", "Sparse", "Row", "-LRB-", "BCSR", "-RRB-", ".", "Only", "square", "BCSR", "was", "explored", ",", "and", "only", "2x2", "BCSR", "numbers", "will", "be", "presented", "here", ".", "Future", "Cell", "SpMV", "work", "will", "examine", "the", "entire", "BCSR", "space", ".", "Because", "of", "the", "quadword", "nature", "of", "the", "SPEs", ",", "all", "rows", "within", "a", "CSR", "tile", "are", "padded", "to", "a", "multiple", "of", "4", ".", "This", "greatly", "simplifies", "the", "programming", "model", "at", "the", "expense", "of", "increasing", "memory", "traffic", ".", "Note", "that", "this", "is", "very", "different", "than", "1x4", "BCSR", ".", ".", "To", "perform", "a", "stanza", "gather", "operation", "the", "Cell", "utilizes", "the", "MFC", "``", "get", "list", "''", "command", ",", "where", "a", "list", "of", "addresses/lengths", "is", "created", "in", "local", "store", ".", "The", "MFC", "then", "gathers", "these", "stanzas", "from", "the", "global", "store", "and", "packs", "them", "into", "the", "local", "store", ".", "It", "is", "possible", "to", "make", "every", "stanza", "a", "single", "quadword", ",", "however", ",", "without", "an", "accurate", "performance", "model", "of", "the", "MFC", "``", "get", "list", "''", "command", ",", "one", "must", "resort", "to", "tiling", "to", "provide", "a", "reasonable", "estimate", "for", "performance", ".", "For", "simplicity", "all", "benchmarks", "were", "run", "using", "square", "tiles", ".", "The", "data", "structure", "required", "to", "store", "the", "entire", "matrix", "is", "a", "2D", "array", "of", "tiles", ",", "where", "each", "block", "stores", "its", "nonzeros", "and", "row", "pointers", "as", "if", "it", "were", "an", "entire", "matrix", ".", "We", "chose", "not", "to", "buffer", "the", "source", "and", "destination", "vector", "tiles", "as", "this", "would", "result", "in", "a", "smaller", "block", "size", ".", "These", "tradeoffs", "will", "be", "examined", "in", "future", "work", ".", "Collectively", "the", "blocks", "are", "chosen", "to", "be", "no", "larger", "than", "~", "36K", "words", "in", "SP", "-LRB-", "half", "that", "in", "DP", "-RRB-", ".", "The", "inner", "loop", "of", "CSR", "SpMV", "either", "requires", "significant", "software", "pipelining", ",", "hefty", "loop", "unrolling", ",", "or", "an", "approach", "al-gorithmically", "analogous", "to", "a", "segmented", "scan", "-LSB-", "1", "-RSB-", ".", "As", "there", "are", "no", "conditional", "stores", "in", "the", "SPE", "assembly", "language", ",", "we", "chose", "to", "partially", "implement", "a", "segmented", "scan", ",", "where", "the", "gather", "operations", "are", "decoupled", "from", "the", "dot", "products", ".", "This", "decoupled", "gather", "operation", "can", "be", "unrolled", "and", "software", "pipelined", ",", "thereby", "completing", "in", "close", "to", "three", "cycles", "per", "element", "-LRB-", "the", "ISA", "is", "not", "particularly", "gather", "friendly", "-RRB-", ".", "It", "is", "important", "to", "note", "that", "since", "the", "local", "store", "is", "not", "a", "write", "back", "cache", ",", "it", "is", "possible", "to", "overwrite", "its", "contents", "without", "fear", "of", "consuming", "DRAM", "bandwidth", "or", "corrupting", "the", "actual", "arrays", ".", "As", "the", "nonzeros", "are", "stored", "contiguously", "in", "arrays", ",", "it", "is", "13", "#", "Name", "N", "NNZ", "Comments", "15", "Vavasis", "40K", "1.6", "M", "2D", "PDE", "Problem", "17", "FEM", "22K", "1M", "Fluid", "Mechanics", "Problem", "18", "Memory", "17K", "125K", "MotorolaMemory", "Circuit", "36", "CFD", "75K", "325K", "Navier-Stokes", ",", "viscous", "flow", "06", "FEM", "Crystal", "14K", "490K", "FEM", "stiffness", "matrix", "09", "3D", "Tube", "45K", "1.6", "M", "3D", "pressure", "Tube", "25", "Portfolio", "74K", "335K", "Financial", "Portfolio", "27", "NASA", "36K", "180K", "PWT", "NASA", "Matrix", "28", "Vibroacoustic", "12K", "177K", "Flexible", "box", "structure", "40", "Linear", "Prog", ".", "31K", "1M", "AA", "T", "-7", "pt", "64", "256K", "1.8", "M", "64", "3", "7", "pt", "stencil", "Table", "3", ":", "Suite", "of", "matrices", "used", "to", "evaluate", "SpMV", "performance", ".", "Matrix", "numbers", "as", "defined", "in", "the", "SPARSITY", "suite", "are", "shown", "in", "the", "first", "column", ".", "straightforward", "to", "stream", "them", "in", "via", "DMA", ".", "Here", ",", "unlike", "the", "source", "and", "destination", "vectors", ",", "it", "is", "essential", "to", "double", "buffer", "in", "order", "to", "maximize", "the", "SPEs", "computational", "throughput", ".", "Using", "buffers", "of", "16KB", "for", "SP", "allows", "for", "2K", "values", "and", "2K", "indices", "for", "CSR", ",", "and", "1K", "tiles", "for", "2x2", "BCSR", ".", "Note", "that", "for", "each", "phase", "--", "loading", "nonzeros", "and", "indices", "--", "there", "is", "the", "omnipresent", "1000", "cycle", "DMA", "latency", "overhead", "in", "addition", "to", "the", "startup", "and", "finalize", "penalties", "-LRB-", "as", "in", "traditional", "pipelining", "-RRB-", ".", "To", "partition", "the", "work", "among", "the", "SPEs", ",", "we", "implemented", "a", "cooperative", "blocking", "model", ".", "By", "forcing", "all", "SPEs", "to", "work", "on", "the", "same", "block", ",", "it", "is", "possible", "to", "broadcast", "the", "blocked", "source", "vector", "and", "row", "pointers", "to", "minimize", "memory", "traffic", ".", "One", "approach", ",", "referred", "to", "as", "PrivateY", ",", "was", "to", "divide", "work", "among", "SPEs", "within", "a", "block", "by", "distributing", "the", "nonzeros", "as", "evenly", "as", "possible", ".", "This", "strategy", "necessitates", "that", "each", "SPE", "contains", "a", "private", "copy", "of", "the", "destination", "vector", ",", "and", "requires", "an", "inter-SPE", "reduction", "at", "the", "end", "of", "each", "blocked", "row", ".", "The", "alternate", "method", ",", "referred", "to", "as", "PartitionedY", ",", "partitions", "the", "destination", "vector", "evenly", "among", "the", "SPEs", ".", "However", "there", "is", "no", "longer", "any", "guarantee", "that", "the", "SPEs", "'", "computations", "will", "remain", "balanced", ",", "causing", "the", "execution", "time", "of", "the", "entire", "tile", "to", "be", "limited", "by", "the", "most", "heavily", "loaded", "SPE", ".", "Thus", "for", "load", "balanced", "blocks", ",", "the", "PartitionedY", "approach", "is", "generally", "advantageous", ";", "however", ",", "for", "matrices", "exhibiting", "irregular", "-LRB-", "uneven", "-RRB-", "nonzero", "patterns", ",", "we", "expect", "higher", "performance", "using", "PrivateY", ".", "Note", "that", "there", "is", "a", "potential", "performance", "benefit", "by", "writing", "a", "kernel", "specifically", "optimized", "for", "symmetric", "matrices", ".", "For", "these", "types", "of", "matrices", ",", "the", "number", "of", "operations", "can", "effectively", "double", "relative", "to", "the", "memory", "traffic", ".", "However", ",", "the", "algorithm", "must", "block", "two", "tiles", "at", "a", "time", "--", "thus", "the", "symmetric", "matrix", "kernel", "divides", "memory", "allocated", "for", "blocking", "the", "vector", "evenly", "among", "the", "two", "submatrices", ",", "and", "performs", "a", "dot", "product", "and", "SAXPY", "for", "each", "row", "in", "the", "lower", "triangle", ".", "7.2", "Evaluation", "Matrices", "In", "order", "to", "effectively", "evaluate", "SpMV", "performance", ",", "we", "examine", "a", "synthetic", "stencil", "matrix", ",", "as", "well", "as", "ten", "real", "matrices", "used", "in", "numerical", "calculations", "from", "the", "BeBop", "SPARSITY", "suite", "-LSB-", "11", ",", "31", "-RSB-", "-LRB-", "four", "nonsymmetric", "and", "six", "symmetric", "-RRB-", ".", "Table", "3", "presents", "an", "overview", "of", "the", "evaluated", "matrices", ".", "7.3", "Single", "Precision", "SpMV", "Results", "Single", "and", "double", "precision", "tuned", "SpMV", "results", "for", "the", "SPARSITY", "matrices", "are", "show", "in", "Tables", "4", "and", "5", ".", "Surpris-ingly", ",", "given", "Cell", "'s", "inherent", "SpMV", "limitations", ",", "the", "SPARSITY", "nonsymmetric", "matrices", "average", "over", "4", "Gflop/s", ",", "while", "the", "symmetric", "matrices", "average", "nearly", "8", "Gflop/s", ".", "Unfortunately", ",", "many", "of", "these", "matrices", "are", "so", "small", "that", "they", "utilize", "only", "a", "fraction", "of", "the", "default", "tile", "size", ".", "Unlike", "the", "synthetic", "matrices", ",", "the", "real", "matrices", ",", "which", "contain", "dense", "sub-blocks", ",", "can", "exploit", "BCSR", "without", "unnecessarily", "wasting", "memory", "bandwidth", "on", "zeros", ".", "As", "memory", "traffic", "is", "key", ",", "storing", "BCSR", "blocks", "in", "a", "compressed", "format", "-LRB-", "the", "zeros", "are", "neither", "stored", "nor", "loaded", "-RRB-", "would", "allow", "for", "significantly", "higher", "performance", "if", "there", "is", "sufficient", "support", "within", "the", "ISA", "to", "either", "decompress", "these", "blocks", "on", "the", "fly", ",", "or", "compute", "on", "compressed", "blocks", ".", "This", "is", "an", "area", "of", "future", "research", ".", "Overall", "results", "show", "that", "the", "PrivateY", "approach", "is", "generally", "a", "superior", "partitioning", "strategy", "compared", "with", "PartitionedY", ".", "In", "most", "cases", ",", "the", "matrices", "are", "sufficiently", "unbalanced", "that", "the", "uniform", "partitioning", "of", "the", "nonzeros", "coupled", "with", "a", "reduction", "requires", "less", "time", "than", "the", "performing", "a", "load", "imbalanced", "calculation", ".", "When", "using", "the", "PartionedY", "approach", ",", "the", "symmetric", "kernel", "is", "extremely", "unbalanced", "for", "blocks", "along", "the", "diagonal", ".", "Thus", ",", "for", "matrices", "approximately", "the", "size", "of", "a", "single", "block", ",", "the", "imbalance", "between", "SPEs", "can", "severely", "impair", "the", "performance", "--", "even", "if", "the", "matrix", "is", "uniform", ".", "In", "fact", ",", "symmetric", "optimizations", "show", "only", "about", "50", "%", "performance", "improvement", "when", "running", "the", "nonsymmetric", "kernel", "on", "the", "symmetric", "matrices", ".", "Once", "again", "DMA", "latency", "plays", "a", "relatively", "small", "role", "in", "this", "algorithm", ".", "In", "fact", ",", "reducing", "the", "DMA", "latency", "by", "a", "factor", "of", "ten", "results", "in", "only", "a", "5", "%", "increase", "in", "performance", ".", "This", "is", "actually", "a", "good", "result", ".", "It", "means", "than", "the", "memory", "bandwidth", "is", "highly", "utilized", "and", "the", "majority", "of", "bus", "cycles", "are", "used", "for", "transferring", "data", "rather", "than", "stalls", ".", "On", "the", "whole", ",", "clock", "frequency", "also", "plays", "a", "small", "part", "in", "the", "overall", "performance", ".", "Solely", "increasing", "the", "clock", "frequency", "by", "a", "factor", "of", "2", "-LRB-", "to", "6.4", "GHz", "-RRB-", "provides", "only", "a", "1", "%", "increase", "in", "performance", "on", "the", "SPARSITY", "nonsymmetric", "matrix", "suite", ".", "Similarly", ",", "cutting", "the", "frequency", "in", "half", "-LRB-", "to", "1.6", "GHz", "-RRB-", "results", "in", "only", "a", "20", "%", "decrease", "in", "performance", ".", "Simply", "put", ",", "for", "the", "common", "case", ",", "more", "time", "is", "used", "in", "transferring", "nonzeros", "and", "the", "vectors", "rather", "than", "computing", "on", "them", ".", "7.4", "Double", "Precision", "SpMV", "Results", "Results", "from", "our", "performance", "estimator", "show", "that", "single", "precision", "SPMV", "is", "almost", "twice", "as", "fast", "as", "double", "precision", ",", "even", "though", "the", "nonzero", "memory", "traffic", "only", "increases", "by", "50", "%", ".", "This", "discrepancy", "is", "due", "to", "the", "reduction", "in", "the", "number", "of", "values", "contained", "in", "a", "tile", ",", "where", "twice", "as", "many", "blocked", "rows", "are", "present", ".", "For", "example", ",", "when", "using", "16K", "2", "SP", "tiles", "on", "a", "128K", "2", "matrix", ",", "the", "512KB", "source", "vector", "must", "be", "loaded", "8", "times", ".", "However", ",", "in", "DP", ",", "the", "tiles", "are", "only", "8K", "2", "--", "causing", "the", "1", "MB", "source", "vector", "to", "be", "loaded", "16", "times", ",", "and", "thus", "resulting", "in", "a", "much", "higher", "volume", "of", "memory", "traffic", ".", "Future", "work", "will", "investigate", "caching", "mega", "blocks", "across", "SPEs", "to", "reduce", "total", "memory", "traffic", ".", "7.5", "Performance", "Comparison", "Table", "4", "compares", "Cell", "'s", "estimated", "performance", "-LRB-", "the", "best", "partitioning", "and", "blocking", "combination", "-RRB-", "for", "SpMV", "with", "re-14", "SPARSITY", "nonsymmetric", "matrix", "suite", "Double", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Single", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Matrix", "Cell", "F", "SS", "Cell", "pm", "+", "Cell", "pm", "X1E", "AMD64", "IA64", "Cell", "pm", "AMD64", "IA64", "Vavasis", "3.79", "3.17", "3.06", "0.84", "0.44", "0.46", "6.06", "0.70", "0.49", "FEM", "4.28", "3.44", "3.39", "1.55", "0.42", "0.49", "5.14", "0.59", "0.62", "Mem", "2.21", "1.69", "1.46", "0.57", "0.30", "0.27", "2.79", "0.45", "0.31", "CFD", "1.87", "1.52", "1.44", "1.61", "0.28", "0.21", "2.33", "0.38", "0.23", "Average", "3.04", "2.46", "2.34", "1.14", "0.36", "0.36", "4.08", "0.53", "0.41", "SPARSITY", "symmetric", "matrix", "suite", "Double", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Single", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Matrix", "Cell", "F", "SS", "Cell", "pm", "+", "Cell", "pm", "X1E", "AMD64", "IA64", "Cell", "pm", "AMD64", "IA64", "FEM", "-6", ".79", "6.32", "3.12", "0.93", "1.14", "12.37", "1.46", "1.37", "3D", "Tube", "-6", ".48", "6.06", "2.62", "0.86", "1.16", "11.66", "1.36", "1.31", "Portfolio", "-1", ".83", "1.60", "2.99", "0.37", "0.24", "3.26", "0.42", "0.32", "NASA", "-1", ".92", "1.66", "3.30", "0.42", "0.32", "3.17", "0.46", "0.40", "Vibro", "-3", ".90", "3.47", "2.54", "0.57", "0.56", "7.08", "0.56", "0.64", "LP", "-5", ".17", "4.87", "1.27", "0.47", "0.63", "8.54", "0.55", "0.92", "Average", "-4", ".35", "4.00", "2.64", "0.60", "0.67", "7.68", "0.80", "0.83", "Synthetic", "Matrices", "Double", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Single", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Matrix", "Cell", "F", "SS", "Cell", "pm", "+", "Cell", "pm", "X1E", "AMD64", "IA64", "Cell", "pm", "AMD64", "IA64", "7", "pt", "64", "Stencil", "2.20", "1.44", "1.29", "-0", ".30", "0.29", "2.61", "0.51", "0.32", "Table", "4", ":", "SpMV", "performance", "in", "single", "and", "double", "precision", "on", "the", "SPARSITY", "-LRB-", "top", "-RRB-", "nonsymmetric", "and", "-LRB-", "bottom", "-RRB-", "symmetric", "matrix", "suites", ".", "Note", ":", "Cell", "F", "SS", "represents", "the", "actual", "implementation", "and", "runs", "on", "the", "cycle", "accurate", "full", "system", "simulator", "sults", "from", "the", "Itanium2", "and", "Opteron", "using", "SPARSITY", ",", "a", "highly", "tuned", "sparse", "matrix", "numerical", "library", ",", "on", "nonsymmetric", "-LRB-", "top", "-RRB-", "and", "symmetric", "matrix", "suites", ".", "X1E", "results", "where", "gathered", "using", "a", "high-performance", "X1-specific", "SpMV", "implementation", "-LSB-", "6", "-RSB-", ".", "Considering", "that", "the", "Itanium2", "and", "Opteron", "each", "have", "a", "6.4", "GB/s", "bus", "compared", "to", "the", "Cell", "'s", "25.6", "GB/s", "DRAM", "bandwidth", "--", "one", "may", "expect", "that", "a", "memory", "bound", "application", "such", "as", "SpMV", "would", "perform", "only", "four", "times", "better", "on", "the", "Cell", ".", "Nonetheless", ",", "on", "average", ",", "Cell", "pm", "is", "more", "than", "6x", "faster", "in", "DP", "and", "10x", "faster", "in", "SP.", ".", "This", "is", "because", "in", "order", "to", "achieve", "maximum", "performance", ",", "the", "Itanium2", "must", "rely", "on", "the", "BCSR", "storage", "format", ",", "and", "thus", "waste", "memory", "bandwidth", "loading", "unnecessary", "zeros", ".", "However", ",", "the", "Cell", "'s", "high", "FLOP", "to", "byte", "ratio", "ensures", "that", "the", "regularity", "of", "BCSR", "is", "unnecessary", "allowing", "it", "to", "avoid", "loading", "many", "of", "the", "superfluous", "zeros", ".", "For", "example", ",", "in", "matrix", "#", "17", ",", "Cell", "uses", "more", "than", "50", "%", "of", "its", "bandwidth", "loading", "just", "the", "DP", "nonzero", "values", ",", "while", "the", "Itanium2", "utilizes", "only", "33", "%", "of", "its", "bandwidth", ".", "The", "rest", "of", "Itanium2", "'s", "bandwidth", "is", "used", "for", "zeros", "and", "meta", "data", ".", "It", "should", "be", "noted", "that", "where", "simulations", "on", "Cell", "involve", "a", "cold", "start", "to", "the", "local", "store", ",", "the", "Itanium2", "'s", "have", "the", "additional", "advantage", "of", "a", "warm", "cache", ".", "Cell", "'s", "use", "of", "on-chip", "memory", "as", "a", "buffer", "is", "advantageous", "in", "both", "power", "and", "area", "compared", "with", "a", "traditional", "cache", ".", "In", "fact", ",", "Cell", "is", "20", "times", "more", "power", "efficient", "than", "the", "Itanium2", "and", "15", "times", "more", "efficient", "than", "the", "Opteron", "for", "SpMV", ".", "For", "a", "memory", "bound", "application", "such", "as", "this", ",", "multicore", "commodity", "processors", "will", "see", "little", "performance", "improvement", "unless", "they", "also", "scale", "memory", "bandwidth", ".", "Comparing", "results", "with", "an", "X1E", "MSP", "is", "far", "more", "difficult", ".", "For", "unsymmetric", "matrices", ",", "the", "Cell", "pm", "performance", "on", "average", "is", "twice", "that", "of", "the", "X1E", ".", "For", "symmetric", "matrices", ",", "Cell", "pm", "performs", "somewhere", "between", "half", "and", "triple", "the", "performance", "of", "the", "X1E", ",", "but", "on", "average", "is", "50", "%", "faster", ".", "The", "fact", "that", "the", "X1E", "consumes", "about", "three", "times", "the", "power", "of", "Cell", "guarantees", "Cell", ",", "in", "double", "precision", ",", "is", "at", "least", "as", "power", "efficient", "as", "the", "X1E", "7.6", "Model", "Validation", "Some", "might", "claim", "that", "matrix-matrix", "multiplication", "performance", "can", "be", "easily", "predictable", ".", "Most", ",", "however", ",", "would", "agree", "that", "SpMV", "is", "very", "difficult", "to", "predict", ".", "As", "seen", "in", "Table", "4", ",", "we", "tested", "our", "implementation", "of", "the", "DP", "SpMV", "kernel", "on", "the", "cycle", "accurate", "IBM", "full", "system", "simulator", ",", "referred", "to", "as", "Cell", "F", "SS", ".", "The", "actual", "implementation", "makes", "dynamic", "blocking", "and", "partitioning", "decisions", "at", "run", "time", ",", "based", "on", "the", "lessons", "learned", "while", "exploring", "optimization", "strategies", "for", "the", "performance", "model", ";", "however", ",", "the", "current", "version", "but", "does", "not", "include", "the", "BCSR", "approach", ",", "and", "only", "pads", "rows", "to", "the", "nearest", "even", "number", ".", "The", "cycle", "accurate", "simulations", "with", "a", "superior", "implementation", "proved", "to", "be", "about", "30", "%", "faster", "than", "the", "initial", "performance", "estimate", ",", "and", "averages", "impressive", "results", "of", "more", "than", "3", "Gflop/s", "for", "nonsymmetric", "matrices", ".", "The", "30", "%", "discrepancy", "disappears", "when", "static", "partitioning", "and", "blocking", "strategies", "used", ".", "We", "can", "clearly", "see", "how", "the", "actual", "implemen-tation", "'s", "run", "time", "search", "for", "structure", "boosted", "performance", "of", "the", "heat", "equation", "from", "about", "1.3", "Gflop/s", "to", "2.2", "Gflop/s", "-", "achieving", "a", "7x", "speedup", "over", "the", "Itanium2", ".", "Cell", "F", "SS", ",", "for", "double", "precision", "nonsymmetric", "matrices", ",", "is", "more", "than", "8", "times", "faster", "than", "the", "Itanium2", ",", "and", "27", "times", "more", "power", "efficient", ".", "These", "results", "confirm", "our", "performance", "model", "'s", "predictive", "15", "X", "next", "-LSB-", "i", ",", "j", ",", "k", ",", "t", "+", "1", "-RSB-", "=", "X", "-LSB-", "i", "-", "1", ",", "j", ",", "k", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", "+", "1", ",", "j", ",", "k", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", ",", "j", "-", "1", ",", "k", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", ",", "j", "+", "1", ",", "k", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", ",", "j", ",", "k", "-", "1", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", ",", "j", ",", "k", "+", "1", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", ",", "j", ",", "k", ",", "t", "-RSB-", "X", "-LSB-", "i", ",", "j", ",", "k", ",", "t", "+", "1", "-RSB-", "=", "dt", "2", "dx", "2", "-LRB-", "X", "-LSB-", "i", "-", "1", ",", "j", ",", "k", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", "+", "1", ",", "j", ",", "k", ",", "t", "-RSB-", "-RRB-", "+", "dt", "2", "dy", "2", "-LRB-", "X", "-LSB-", "i", ",", "j", "-", "1", ",", "k", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", ",", "j", "+", "1", ",", "k", ",", "t", "-RSB-", "-RRB-", "+", "dt", "2", "dz", "2", "-LRB-", "X", "-LSB-", "i", ",", "j", ",", "k", "-", "1", ",", "t", "-RSB-", "+", "X", "-LSB-", "i", ",", "j", ",", "k", "+", "1", ",", "t", "-RSB-", "-RRB-", "+", "X", "-LSB-", "i", ",", "j", ",", "k", ",", "t", "-RSB-", "-", "X", "-LSB-", "i", ",", "j", ",", "k", ",", "t", "-", "1", "-RSB-", "Figure", "2", ":", "Stencil", "kernels", "used", "in", "evaluation", ".", "Top", ":", "Chombo", "heattut", "equation", "requires", "only", "the", "previous", "time", "step", ".", "Bottom", ":", "Cactus", "WaveToy", "equation", "requires", "both", "two", "previous", "time", "steps", ".", "abilities", "on", "complex", "kernels", ",", "and", "clearly", "demonstrate", "Cell", "'s", "performance", "superiority", "when", "compared", "with", "leading", "microarchitectural", "approaches", ".", "Stencil-based", "computations", "on", "regular", "grids", "are", "at", "the", "core", "of", "a", "wide", "range", "of", "important", "scientific", "applications", ".", "In", "these", "applications", ",", "each", "point", "in", "a", "multidimensional", "grid", "is", "updated", "with", "contributions", "from", "a", "subset", "of", "its", "neighbors", ".", "The", "numerical", "operations", "are", "then", "used", "to", "build", "solvers", "that", "range", "from", "simple", "Jacobi", "iterations", "to", "complex", "multigrid", "and", "block", "structured", "adaptive", "methods", ".", "In", "this", "work", "we", "examine", "two", "flavors", "of", "stencil", "computations", "derived", "from", "the", "numerical", "kernels", "of", "the", "Chombo", "-LSB-", "5", "-RSB-", "and", "Cactus", "-LSB-", "2", "-RSB-", "toolkits", ".", "Chombo", "is", "a", "framework", "for", "computing", "solutions", "of", "partial", "differential", "equations", "-LRB-", "PDEs", "-RRB-", "using", "finite", "difference", "methods", "on", "adaptively", "refined", "meshes", ".", "Here", "we", "examine", "a", "stencil", "computation", "based", "on", "Chombo", "'s", "demo", "application", ",", "heattut", ",", "which", "solves", "a", "simple", "heat", "equation", "without", "adaptivity", ".", "Cactus", "is", "modular", "open", "source", "framework", "for", "computational", "science", ",", "successfully", "used", "in", "many", "areas", "of", "astrophysics", ".", "Our", "work", "examines", "the", "stencil", "kernel", "of", "the", "Cactus", "demo", ",", "WaveToy", ",", "which", "solves", "a", "3D", "hyperbolic", "PDE", "by", "finite", "differencing", ".", "The", "heattut", "and", "WaveToy", "equations", "are", "shown", "in", "Figure", "2", ".", "Notice", "that", "both", "kernels", "solve", "7", "point", "stencils", "in", "3D", "for", "each", "point", ".", "However", ",", "the", "heattut", "equation", "only", "utilizes", "values", "from", "the", "previous", "time", "step", ",", "while", "WaveToy", "requires", "values", "from", "the", "two", "previous", "timesteps", ".", ".", "Additionally", ",", "WaveToy", "has", "a", "higher", "computational", "intensity", ",", "and", "can", "more", "readily", "exploit", "the", "FMA", "pipeline", ".", "8.1", "Algorithmic", "Considerations", "The", "algorithm", "used", "on", "Cell", "is", "virtually", "identical", "to", "that", "used", "on", "traditional", "architectures", "except", "that", "the", "ISA", "forces", "main", "memory", "loads", "and", "stores", "to", "be", "explicit", ",", "rather", "than", "caused", "by", "cache", "misses", "and", "evictions", ".", "The", "basic", "algorithmic", "approach", "to", "update", "the", "3D", "cubic", "data", "array", "is", "to", "sweep", "across", "the", "domain", ",", "updating", "one", "plane", "at", "a", "time", ".", "Since", "a", "stencil", "requires", "both", "the", "next", "and", "previous", "plane", ",", "a", "minimum", "of", "4", "planes", "must", "be", "present", "in", "the", "local", "stores", ":", "-LRB-", "z-1", ",", "t", "-RRB-", ",", "Z", "+2", "Z", "+1", "Z", "Z-1", "Z-1", "Z", "Time", "t", "+1", "Time", "t", "Z", "+2", "Z", "+1", "Z", "Z-1", "Z-2", "Z-1", "Time", "t", "+2", "Time", "t", "Z", "Z-1", "Z-2", "Time", "t", "+1", "Figure", "3", ":", "Flow", "Diagram", "for", "Heat", "equation", "flow", "diagram", ".", "Left", ":", "Queues", "implemented", "within", "each", "SPE", "perform", "only", "one", "time", "step", ".", "Right", ":", "Time", "skewing", "version", "requires", "an", "additional", "circular", "queue", "to", "hold", "intermediate", "results", ".", "-LRB-", "z", ",", "t", "-RRB-", ",", "-LRB-", "z", "+1", ",", "t", "-RRB-", ",", "and", "-LRB-", "z", ",", "t", "+1", "-RRB-", ".", "Additionally", ",", "bus", "utilization", "can", "be", "maximized", "by", "double", "buffering", "the", "previous", "output", "plane", "-LRB-", "z-1", ",", "t", "+1", "-RRB-", "with", "the", "next", "input", "plane", "-LRB-", "z", "+2", ",", "t", "-RRB-", ".", "In", "order", "to", "parallelize", "across", "SPEs", ",", "each", "plane", "of", "the", "3D", "domain", "is", "partitioned", "into", "eight", "overlapping", "blocks", ".", "Due", "to", "the", "finite", "size", "of", "the", "local", "store", "memory", ",", "a", "straightforward", "stencil", "calculation", "is", "limited", "to", "planes", "of", "256", "2", "elements", "plus", "ghost", "regions", ".", "Thus", "each", "SPE", "updates", "the", "core", "256x32", "points", "from", "a", "258x34", "slab", "-LRB-", "as", "slabs", "also", "contain", "ghost", "regions", "-RRB-", ".", "To", "improve", "performance", "of", "stencil", "computations", "on", "cache-based", "architectures", ",", "previous", "research", "has", "shown", "multiple", "time", "steps", "can", "be", "combined", "to", "increase", "performance", "-LSB-", "13", ",", "21", ",", "32", "-RSB-", ".", "This", "concept", "of", "time", "skewing", "can", "also", "be", "effectively", "leveraged", "in", "our", "Cell", "implementation", ".", "By", "keeping", "multiple", "planes", "from", "multiple", "time", "steps", "in", "the", "SPE", "simul-taneously", ",", "it", "is", "possible", "to", "double", "or", "triple", "the", "number", "of", "stencils", "performed", "with", "almost", "no", "increase", "in", "memory", "traffic", ";", "thus", "increasing", "computational", "intensity", "and", "improving", "overall", "performance", ".", "Figure", "3", "details", "a", "flow", "diagram", "for", "the", "heat", "equation", ",", "showing", "both", "the", "simple", "and", "time", "skewed", "implementations", ".", "Note", "that", "the", "neighbor", "communication", "required", "by", "stencils", "is", "not", "well", "suited", "for", "the", "aligned", "quadword", "load", "requirements", "of", "the", "SPE", "ISA", "-", "i.e.", "unaligned", "loads", "must", "be", "emu-lated", "with", "permute", "instructions", ".", "In", "fact", ",", "for", "SP", "stencils", "with", "extensive", "unrolling", ",", "after", "memory", "bandwidth", ",", "the", "permute", "datapath", "is", "the", "limiting", "factor", "in", "performance", "--", "not", "the", "FPU", ".", "This", "lack", "of", "support", "for", "unaligned", "accesses", "highlights", "a", "potential", "bottleneck", "of", "the", "Cell", "architecture", ";", "however", "we", "can", "partially", "obviate", "this", "problem", "for", "the", "stencil", "kernel", "via", "data", "padding", ".", "8.2", "Stencil", "Kernel", "Results", "The", "performance", "estimation", "for", "the", "heattut", "and", "WaveToy", "stencil", "kernels", "is", "shown", "in", "Table", "5", ".", "Results", "show", "that", "as", "the", "number", "of", "time", "steps", "increases", ",", "a", "corresponding", "decrease", "in", "the", "grid", "size", "is", "required", "due", "to", "the", "limited", "memory", "footprint", "of", "the", "local", "store", ".", "In", "SP", ",", "the", "heat", "equation", "on", "the", "Cell", "pm", "is", "effectively", "computationally", "bound", "with", "two", "steps", "of", "time", "skewing", ",", "resulting", "in", "over", "41", "Gflop/s", ".", "More", "specifically", ",", "the", "permute", "unit", "becomes", "fully", "utilized", "as", "discussed", "16", "Double", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Cell", "F", "SS", "Cell", "pm", "+", "Cell", "pm", "+", "Cell", "pm", "X1E", "AMD64", "IA64", "Stencil", "-LRB-", "2", "step", "-RRB-", "Heat", "7.25", "21.1", "10.6", "8.2", "3.91", "0.57", "1.19", "WaveToy", "9.68", "16.7", "11.1", "10.8", "4.99", "0.68", "2.05", "Single", "Precision", "-LRB-", "Gflop/s", "-RRB-", "Cell", "F", "SS", "Cell", "pm", "Cell", "pm", "X1E", "AMD64", "IA64", "Stencil", "-LRB-", "4", "step", "-RRB-", "-LRB-", "2", "step", "-RRB-", "Heat", "65.8", "41.9", "21.2", "3.26", "1.07", "1.97", "WaveToy", "-33", ".4", "22.3", "5.13", "1.53", "3.11", "Table", "5", ":", "Performance", "for", "the", "Heat", "equation", "and", "WaveToy", "stencils", ".", "X1E", "and", "Itanium2", "experiments", "use", "256", "3", "grids", ".", "The", "Opteron", "uses", "a", "128", "3", ".", "Cell", "uses", "the", "largest", "grid", "that", "would", "fit", "within", "the", "local", "stores", ".", "The", "-LRB-", "n", "steps", "-RRB-", "versions", "denote", "a", "time", "skewed", "version", "where", "n", "time", "steps", "are", "computed", ".", "in", "Section", "8.1", ".", "In", "DP", ",", "however", ",", "the", "heat", "equation", "is", "truly", "computationally", "bound", "for", "only", "a", "single", "time", "step", ",", "achieving", "8.2", "Gflop/s", ".", "Analysis", "also", "shows", "that", "in", "the", "Cell", "+", "approach", ",", "the", "heat", "equation", "is", "memory", "bound", "when", "using", "a", "single", "time", "step", "attaining", "10.6", "Gflop/s", ";", "for", "time", "skewing", ",", "performance", "of", "Cell", "+", "DP", "jumps", "to", "over", "21", "Gflops/s", ".", "We", "believe", "the", "temporal", "recurrence", "in", "the", "CACTUS", "WaveToy", "example", "will", "allow", "more", "time", "skewing", "in", "single", "precision", "at", "the", "expense", "of", "far", "more", "complicated", "code", ",", "and", "will", "be", "the", "subject", "of", "future", "investigation", ".", "8.3", "Performance", "Comparison", "Table", "5", "presents", "a", "performance", "comparison", "of", "the", "stencil", "computations", "across", "our", "evaluated", "set", "of", "leading", "processors", ".", "Note", "that", "stencil", "performance", "has", "been", "optimized", "for", "the", "cache-based", "platforms", "as", "described", "in", "-LSB-", "15", "-RSB-", ".", "In", "single", "precision", ",", "for", "this", "memory", "bound", "computation", ",", "even", "without", "time", "skewing", ",", "Cell", "pm", "achieves", "6.5", "x", ",", "11x", ",", "and", "20x", "speedup", "compared", "with", "the", "X1E", ",", "the", "Itanium2", "and", "the", "Opteron", "respectively", ".", "Recall", "that", "the", "Cell", "has", "only", "four", "times", "the", "memory", "bandwidth", "the", "scalar", "machines", ",", "and", "75", "%", "the", "bandwidth", "of", "the", "X1E", "indicating", "that", "Cells", "potential", "to", "perform", "this", "class", "of", "computations", "in", "a", "much", "more", "efficient", "manner", "is", "due", "to", "the", "advantages", "of", "software", "controlled", "memory", "for", "algorithms", "exhibiting", "predictable", "memory", "accesses", ".", "In", "double", "precision", ",", "with", "1/14", "th", "the", "floating", "point", "throughput", ",", "Cell", "pm", "achieves", "a", "2x", ",", "7x", ",", "and", "14x", "speedup", "compared", "to", "the", "X1E", ",", "the", "Itanium2", ",", "and", "the", "Opteron", "for", "the", "heat", "equation", "--", "a", "truly", "impressive", "result", ".", "Additionally", ",", "unlike", "the", "Opteron", "and", "Itanium2", ",", "simple", "time", "skewing", "has", "the", "potential", "to", "at", "least", "double", "the", "performance", "in", "either", "SP", "-LRB-", "either", "version", "of", "Cell", "-RRB-", "or", "in", "DP", "on", "the", "Cell", "+", "variant", ".", "Finally", ",", "recall", "that", "in", "Section", "7", "we", "examined", "Cell", "SpMV", "performance", "using", "7-point", "stencil", "matrices", ".", "We", "can", "now", "compare", "those", "results", "with", "the", "structured", "grid", "approach", "presented", "here", ",", "as", "the", "numerical", "computations", "are", "equivalent", "in", "both", "cases", ".", "Results", "show", "that", "for", "two", "time", "step", "calculations", ",", "the", "single", "precision", "structured", "grid", "approach", "achieves", "a", "23x", "advantage", "compared", "with", "the", "sparse", "matrix", "method", ".", "This", "impressive", "speedup", "is", "attained", "through", "the", "regularity", "of", "memory", "accesses", ",", "reduction", "of", "memory", "traffic", "-LRB-", "constants", "are", "encoded", "in", "the", "equation", "rather", "than", "the", "matrix", "-RRB-", ",", "the", "ability", "to", "time", "skew", "-LRB-", "increased", "computational", "intensity", "-RRB-", ",", "and", "that", "stencils", "on", "a", "structured", "grid", "dont", "require", "multiplications", "by", "1.0", "like", "a", "sparse", "matrix", "would", ".", "For", "double", "precision", ",", "the", "stencil", "algorithm", "advantage", "is", "diminished", "to", "approximately", "12x", ",", "due", "mainly", "to", "the", "lack", "of", "time", "skewing", ".", "8.4", "Model", "Validation", "As", "with", "SpMV", ",", "we", "implemented", "an", "actual", "double", "precision", "kernel", "on", "the", "full", "system", "simulator", ",", "with", "Cell", "F", "SS", "results", "shown", "in", "Table", "5", ".", "At", "first", ",", "we", "were", "surprised", "that", "measured", "performance", "fell", "short", "of", "our", "prediction", "by", "13", "%", ".", "However", ",", "upon", "closer", "examination", "it", "was", "discovered", "that", "the", "actual", "Cell", "implementation", "prohibits", "dual", "issuing", "of", "DP", "instructions", "with", "loads", "or", "permutes", ",", "even", "though", "it", "allows", "SP", "with", "loads", "or", "permutes", "to", "be", "dual", "issued", ".", "Thus", "for", "kernels", "with", "streaming", "behavior", ",", "it", "is", "realistic", "to", "assume", "that", "one", "double", "precision", "SIMD", "instruction", "can", "be", "executed", "every", "8", "cycles", "--", "instead", "of", "every", "7", "as", "we", "had", "predicted", "previously", ".", "This", "discrepancy", "results", "in", "a", "14", "%", "architectural", "performance", "reduction", ",", "which", "corresponding", "very", "well", "to", "the", "13", "%", "difference", "observed", "in", "Table", "5", "between", "the", "predicted", "-LRB-", "Cellpm", "-RRB-", "and", "simulated", "-LRB-", "Cell", "F", "SS", "-RRB-", "DP", "data", ".", "Nonetheless", ",", "the", "actual", "DP", "Cell", "F", "SS", "implementation", "of", "our", "evaluated", "stencil", "kernel", "is", "about", "13x", "faster", ",", "and", "nearly", "30x", "more", "power", "efficient", "than", "the", "Opteron", ".", "We", "also", "developed", "a", "SP", "version", "of", "the", "heat", "equation", "that", "allowed", "four", "time-skewed", "stencil", "steps", ".", "-LRB-", "Our", "original", "performance", "estimation", "assumed", "one", "or", "two", "time", "steps", ".", "-RRB-", "Results", "show", "spectacular", "SP", "Cell", "F", "SS", "performance", "of", "nearly", "66", "Gflop/s", "--", "more", "than", "60x", "faster", "and", "136x", "power", "efficient", "compared", "with", "the", "Opteron", ",", "even", "though", "Cell", "has", "only", "four", "times", "the", "bandwidth", "and", "20", "times", "the", "single", "precision", "throughput", ".", "The", "FFT", "presents", "us", "with", "an", "interesting", "challenge", ":", "its", "computational", "intensity", "is", "much", "less", "than", "matrix-matrix", "multiplication", "and", "standard", "algorithms", "require", "a", "non-trivial", "amount", "of", "data", "movement", ".", "Extensive", "work", "has", "been", "performed", "on", "optimizing", "this", "kernel", "for", "both", "vector", "-LSB-", "24", "-RSB-", "and", "cache-based", "-LSB-", "7", "-RSB-", "machines", ".", "In", "addition", ",", "implementations", "for", "varying", "precisions", "appear", "in", "many", "embedded", "devices", "using", "both", "general", "and", "special", "purpose", "hardware", ".", "In", "this", "section", "we", "evaluate", "the", "implementation", "of", "a", "standard", "FFT", "algorithm", "on", "the", "Cell", "processor", ".", "9.1", "Methods", "We", "examine", "both", "the", "1D", "FFT", "cooperatively", "executed", "across", "the", "SPEs", ",", "and", "a", "2D", "FFT", "whose", "1D", "FFTs", "are", "each", "run", "on", "a", "single", "SPE", ".", "In", "all", "cases", "the", "data", "appears", "in", "a", "single", "array", "of", "complex", "numbers", ".", "Internally", "-LRB-", "within", "the", "local", "stores", "-RRB-", "the", "data", "is", "unpacked", "into", "separate", "arrays", ",", "and", "a", "table", "lookup", "is", "used", "for", "the", "roots", "of", "unity", "so", "that", "no", "runtime", "computation", "of", "roots", "is", "required", ".", "As", "such", ",", "our", "results", "include", "the", "time", "needed", "to", "load", "this", "table", ".", "Additionally", ",", "all", "results", "are", "presented", "to", "the", "FFT", "algorithm", "and", "returned", "in", "natural", "order", "-LRB-", "i.e.", "a", "bit", "reversal", "was", "required", "to", "unwind", "the", "permutation", "process", "in", "all", "cases", "-RRB-", ".", "Note", "that", "these", "requirements", "have", "the", "potential", "to", "severely", "impact", "performance", ".", "For", "simplicity", "we", "evaluated", "a", "naive", "FFT", "algorithm", "-LRB-", "no", "double", "buffering", "and", "with", "barriers", "around", "computational", "segments", "-RRB-", "for", "the", "single", "1D", "FFT", ".", "The", "data", "blocks", "are", "dis-tributed", "cyclically", "to", "SPEs", ",", "3", "stages", "of", "local", "work", "are", "performed", ",", "the", "data", "is", "transposed", "-LRB-", "basically", "the", "reverse", "of", "the", "17", "cyclic", "allocation", "-RRB-", ",", "and", "then", "9", "to", "13", "stages", "of", "local", "computation", "is", "performed", "-LRB-", "depending", "on", "the", "FFT", "size", "-RRB-", ".", "At", "that", "point", "the", "indices", "of", "the", "data", "on", "chip", "are", "bit-reversed", "to", "unwind", "the", "permutation", "process", "and", "the", "naturally", "ordered", "result", "copied", "back", "into", "main", "memory", ".", "Once", "again", ",", "we", "presume", "a", "large", "DMA", "initiation", "overhead", "of", "1000", "cycles", ".", "However", ",", "a", "Cell", "implementation", "where", "the", "DMA", "initiation", "overhead", "is", "smaller", ",", "would", "allow", "the", "possibility", "of", "much", "larger", "FFT", "calculations", "-LRB-", "including", "out", "of", "core", "FFTs", "-RRB-", "using", "smaller", "block", "transfers", ",", "with", "little", "or", "no", "slowdown", "using", "double", "buffering", "to", "hide", "the", "DMA", "latency", ".", "Before", "exploring", "the", "2D", "FFT", ",", "we", "briefly", "discuss", "simultaneous", "FFTs", ".", "For", "sufficiently", "small", "FFTs", "-LRB-", "<", "4K", "points", "in", "SP", "-RRB-", "it", "is", "possible", "to", "both", "double", "buffer", "and", "round", "robin", "allocate", "a", "large", "number", "of", "independent", "FFTs", "to", "the", "8", "SPEs", ".", "Although", "there", "is", "lower", "computational", "intensity", ",", "the", "sheer", "parallelism", ",", "and", "double", "buffering", "allow", "for", "extremely", "high", "performance", "-LRB-", "up", "to", "76", "Gflop/s", "-RRB-", ".", "Simultaneous", "FFTs", "form", "the", "core", "of", "the", "2D", "FFT", ".", "In", "order", "to", "ensure", "long", "DMAs", ",", "and", "thus", "validate", "our", "assumptions", "on", "effective", "memory", "bandwidth", ",", "we", "adopted", "an", "approach", "that", "requires", "two", "full", "element", "transposes", ".", "First", ",", "N", "1D", "N-point", "FFTs", "are", "performed", "for", "the", "rows", "storing", "the", "data", "back", "to", "DRAM", ".", "Second", ",", "the", "data", "stored", "in", "DRAM", "is", "transposed", "-LRB-", "columns", "become", "rows", "-RRB-", "and", "stored", "back", "to", "DRAM", ".", "Third", "the", "1D", "FFTs", "are", "performed", "on", "the", "columns", ",", "whose", "elements", "are", "now", "sequential", "-LRB-", "because", "of", "the", "transpose", "-RRB-", ".", "Finally", "a", "second", "transpose", "is", "applied", "to", "the", "data", "to", "return", "it", "to", "its", "original", "layout", ".", "Instead", "of", "performing", "an", "N", "point", "bit", "reversal", "for", "every", "FFT", ",", "entire", "transformed", "rows", "-LRB-", "not", "the", "elements", "of", "the", "rows", "-RRB-", "are", "stored", "in", "bit-reversed", "order", "-LRB-", "in", "effect", ",", "bit", "reversing", "the", "elements", "of", "the", "columns", "-RRB-", ".", "After", "the", "first", "transpose", ",", "a", "decimation", "in", "frequency", "FFT", "is", "applied", "to", "the", "columns", ".", "The", "columns", "are", "stored", "back", "in", "bit-reversed", "order", "--", "in", "doing", "so", ",", "the", "row", "elements", "are", "bit", "reversed", ".", "With", "a", "final", "transpose", ",", "the", "data", "is", "stored", "back", "to", "memory", "in", "natural", "order", "and", "layout", "in", "less", "time", ".", "9.2", "Single", "Precision", "FFT", "Performance", "Table", "6", "presents", "performance", "results", "for", "the", "Cell", "1D", "and", "2D", "FFT", ".", "For", "the", "1D", "case", ",", "more", "than", "half", "of", "the", "total", "time", "is", "spent", "just", "loading", "and", "storing", "points", "and", "roots", "of", "unity", "from", "DRAM", ".", "If", "completely", "memory", "bound", ",", "peak", "performance", "is", "approximately", "-LRB-", "25.6", "GB/s/8Bytes", "-RRB-", "5NlogN/3N", "cycles", "or", "approximately", "5.3", "logN", "Gflop/s", ".", "This", "means", "performance", "is", "limited", "to", "64", "Gflop/s", "for", "a", "4K", "point", "SP", "FFT", "regardless", "of", "CPU", "frequency", ".", "A", "clear", "area", "for", "future", "exploration", "is", "hiding", "computation", "within", "the", "communication", "and", "the", "minimiza-tion", "of", "the", "overhead", "involved", "with", "the", "loading", "of", "the", "roots", "of", "unity", ".", "Unfortunately", "the", "two", "full", "element", "transposes", ",", "used", "in", "the", "2D", "FFT", "to", "guarantee", "long", "sequential", "accesses", ",", "consume", "nearly", "50", "%", "of", "the", "time", ".", "Thus", ",", "although", "8K", "simultaneous", "4K", "point", "FFTs", "achieve", "76", "Gflop/s", "-LRB-", "after", "optimizing", "away", "the", "loading", "of", "roots", "of", "unity", "-RRB-", ",", "a", "4K", "2", "2D", "FFT", "only", "reaches", "46", "Gflop/s", "--", "an", "impressive", "figure", "nonetheless", ".", "Without", "the", "bit", "reversal", "approach", ",", "the", "performance", "would", "have", "further", "dropped", "to", "about", "40", "Gflop/s", ".", "The", "smaller", "FFT", "'s", "shown", "in", "the", "table", "show", "even", "poorer", "performance", ".", "9.3", "Double", "Precision", "FFT", "Performance", "When", "DP", "is", "employed", ",", "the", "balance", "between", "memory", "and", "computation", "is", "changed", "by", "a", "factor", "of", "7", ".", "This", "pushes", "a", "Double", "Precision", "-LRB-", "Gflop/s", "-RRB-", "N", "Cell", "pm", "+", "Cell", "pm", "X1E", "AMD64", "IA64", "4K", "12.6", "5.6", "2.92", "1.88", "3.51", "1D", "16K", "14.2", "6.1", "6.13", "1.34", "1.88", "64K", "-7", ".56", "0.90", "1.57", "1K", "2", "15.9", "6.6", "6.99", "1.19", "0.52", "2D", "2K", "2", "16.5", "6.7", "7.10", "0.19", "0.11", "Single", "Precision", "-LRB-", "Gflop/s", "-RRB-", "N", "Cell", "pm", "+", "Cell", "pm", "X1E", "AMD64", "IA64", "4K", "-29", ".9", "3.11", "4.24", "1.68", "1D", "16K", "-37", ".4", "7.48", "2.24", "1.75", "64K", "-41", ".8", "11.2", "1.81", "1.48", "1K", "2", "-35", ".9", "7.59", "2.30", "0.69", "2D", "2K", "2", "-40", ".5", "8.27", "0.34", "0.15", "Table", "6", ":", "Performance", "of", "1D", "and", "2D", "FFT", "in", "DP", "-LRB-", "top", "-RRB-", "and", "SP", "-LRB-", "bottom", "-RRB-", ".", "For", "large", "FFTs", ",", "Cell", "is", "more", "than", "10", "times", "faster", "in", "SP", "than", "either", "the", "Opteron", "or", "Itanium2", ".", "The", "Gflop/s", "number", "is", "calculated", "based", "on", "a", "naive", "radix-2", "FFT", "algorithm", ".", "For", "2D", "FFTs", "the", "naive", "algorithm", "computes", "2N", "N-point", "FFTs", ".", "slightly", "memory", "bound", "application", "strongly", "into", "the", "computationally", "bound", "domain", ".", "The", "SP", "simultaneous", "FFT", "is", "10", "times", "faster", "than", "the", "DP", "version", ".", "On", "the", "upside", ",", "the", "transposes", "required", "in", "the", "2D", "FFT", "are", "now", "less", "than", "20", "%", "of", "the", "total", "time", ",", "compared", "with", "50", "%", "for", "the", "SP", "case", ".", "Cell", "pm", "+", "finds", "a", "middle", "ground", "between", "the", "4x", "reduction", "in", "computational", "throughput", "and", "the", "2x", "increase", "in", "memory", "traffic", "-", "increasing", "performance", "by", "almost", "2.5", "x", "compared", "with", "the", "Cell", "for", "all", "problem", "sizes", ".", "9.4", "Performance", "Comparison", "The", "peak", "Cell", "FFT", "performance", "is", "compared", "to", "a", "number", "of", "other", "processors", "in", "the", "Table", "6", ".", "These", "results", "are", "conservative", "given", "the", "naive", "1D", "FFT", "implementation", "we", "used", "on", "Cell", "whereas", "the", "other", "systems", "in", "the", "comparison", "used", "highly", "tuned", "FFTW", "-LSB-", "7", "-RSB-", "or", "vendor-tuned", "FFT", "implementations", "-LSB-", "25", "-RSB-", ".", "Nonetheless", ",", "in", "DP", ",", "Cell", "pm", "is", "at", "least", "12x", "faster", "than", "the", "Itanium2", "for", "a", "1D", "FFT", ",", "and", "Cell", "pm", "+", "could", "be", "as", "much", "as", "30x", "faster", "for", "a", "large", "2D", "FFT", ".", "Cell", "+", "more", "than", "doubles", "the", "DP", "FFT", "performance", "of", "Cell", "for", "all", "problem", "sizes", ".", "Cell", "performance", "is", "nearly", "at", "parity", "with", "the", "X1E", "in", "double", "precision", ";", "however", ",", "we", "believe", "considerable", "headroom", "remains", "for", "more", "sophisticated", "Cell", "FFT", "implementations", ".", "In", "single", "precision", ",", "Cell", "is", "unparalleled", ".", "Note", "that", "FFT", "performance", "on", "Cell", "improves", "as", "the", "number", "of", "points", "increases", ",", "so", "long", "as", "the", "points", "fit", "within", "the", "local", "store", ".", "In", "comparison", ",", "the", "performance", "on", "cache-based", "machines", "typically", "reach", "peak", "at", "a", "problem", "size", "that", "is", "far", "smaller", "than", "the", "on-chip", "cache-size", ",", "and", "then", "drops", "precip-itously", "once", "the", "associativity", "of", "the", "cache", "is", "exhausted", "and", "cache", "lines", "start", "getting", "evicted", "due", "to", "aliasing", ".", "Elimination", "of", "cache", "evictions", "requires", "extensive", "algorithmic", "changes", "for", "the", "power-of-two", "problem", "sizes", "required", "by", "the", "FFT", "algorithm", ",", "but", "such", "evictions", "will", "not", "occur", "on", "Cells", "software-managed", "local", "store", ".", "Furthermore", ",", "we", "believe", "that", "even", "for", "problems", "that", "are", "larger", "than", "local", "store", ",", "1D", "FFTs", "will", "con", "X1E", "FFT", "numbers", "provided", "by", "Cray", "'s", "Bracy", "Elton", "and", "Adrian", "Tate", ".", "18", "tinue", "to", "scale", "much", "better", "on", "Cell", "than", "typical", "cache-based", "superscalar", "processors", "with", "set-associative", "caches", "since", "local", "store", "provides", "all", "of", "the", "benefits", "as", "a", "fully", "associative", "cache", ".", "The", "FFT", "performance", "clearly", "underscores", "the", "advantages", "of", "software-controlled", "three-level", "memory", "architecture", "over", "conventional", "cache-based", "architectures", ".", "The", "Cell", "processor", "offers", "an", "innovative", "architectural", "approach", "that", "will", "be", "produced", "in", "large", "enough", "volumes", "to", "be", "cost-competitive", "with", "commodity", "CPUs", ".", "This", "work", "presents", "the", "broadest", "quantitative", "study", "Cell", "'s", "performance", "on", "scientific", "kernels", "and", "directly", "compares", "its", "performance", "to", "tuned", "kernels", "running", "on", "leading", "superscalar", "-LRB-", "Opteron", "-RRB-", ",", "VLIW", "-LRB-", "Itanium2", "-RRB-", ",", "and", "vector", "-LRB-", "X1E", "-RRB-", "architectures", ".", "We", "developed", "an", "analytic", "framework", "to", "predict", "Cell", "performance", "on", "dense", "and", "sparse", "matrix", "operations", ",", "stencil", "computations", ",", "and", "1D", "and", "2D", "FFTs", ".", "Using", "this", "approach", "allowed", "us", "to", "explore", "numerous", "algorithmic", "approaches", "without", "the", "effort", "of", "implementing", "each", "variation", ".", "We", "believe", "this", "analytical", "model", "is", "especially", "important", "given", "the", "relatively", "immature", "software", "environment", "makes", "Cell", "time-consuming", "to", "program", "currently", ";", "the", "model", "proves", "to", "be", "quite", "accurate", ",", "because", "the", "programmer", "has", "explicit", "control", "over", "parallelism", "and", "features", "of", "the", "memory", "system", ".", "Furthermore", ",", "we", "propose", "Cell", "+", ",", "a", "modest", "architectural", "variant", "to", "the", "Cell", "architecture", "designed", "to", "improve", "DP", "behavior", ".", "Overall", "results", "demonstrate", "the", "tremendous", "potential", "of", "the", "Cell", "architecture", "for", "scientific", "computations", "in", "terms", "of", "both", "raw", "DP", "and", "SP", "performance", "and", "power", "efficiency", ".", "In", "addition", ",", "we", "show", "that", "Cell", "+", "significantly", "out-performs", "Cell", "for", "most", "of", "our", "evaluated", "DP", "kernels", ",", "while", "requiring", "minimal", "microarchitectural", "modifications", "to", "the", "existing", "design", ".", "Analysis", "shows", "that", "Cell", "'s", "three", "level", "software-controlled", "memory", "architecture", ",", "which", "completely", "decouples", "main", "memory", "load/store", "from", "computation", ",", "provides", "several", "advantages", "over", "mainstream", "cache-based", "architectures", ".", "First", ",", "kernel", "performance", "can", "be", "extremely", "predictable", "as", "the", "load", "time", "from", "local", "store", "is", "constant", ".", "Second", ",", "long", "block", "transfers", "can", "achieve", "a", "much", "higher", "percentage", "of", "memory", "bandwidth", "than", "individual", "loads", "in", "much", "the", "same", "way", "a", "hardware", "stream", "prefetch", "engine", ",", "once", "engaged", ",", "can", "fully", "consume", "memory", "bandwidth", ".", "Finally", ",", "for", "predictable", "memory", "access", "patterns", ",", "communication", "and", "computation", "can", "be", "overlapped", "more", "effectively", "than", "conventional", "cache-based", "approaches", ".", "Increasing", "the", "size", "of", "the", "local", "store", "or", "reducing", "the", "DMA", "startup", "overhead", "on", "future", "Cell", "implementations", "may", "further", "enhance", "the", "scheduling", "efficiency", "by", "enabling", "more", "effective", "overlap", "of", "communication", "and", "computation", ".", "There", "are", "also", "disadvantages", "to", "the", "Cell", "architecture", "for", "kernels", "such", "as", "SpMV", ".", "With", "its", "lack", "of", "unaligned", "load", "support", ",", "Cell", "must", "issue", "additional", "instructions", "simply", "to", "permute", "data", ",", "yet", "still", "manages", "to", "outperform", "conventional", "scalar", "processor", "architectures", ".", "Even", "memory", "bandwidth", "may", "be", "wasted", "since", "SpMV", "is", "constrained", "to", "use", "tiling", "to", "remove", "the", "indirectly", "indexed", "accesses", "to", "the", "source", "vector", ".", "The", "ability", ",", "however", ",", "to", "perform", "a", "decoupled", "gather", ",", "to", "stream", "nonzeros", ",", "and", "Cell", "'s", "low", "functional", "unit", "latency", ",", "tends", "to", "hide", "this", "deficiency", ".", "Additionally", ",", "we", "see", "stencil", "computations", "as", "an", "example", "of", "an", "algorithm", "that", "is", "heavily", "influenced", "by", "the", "performance", "of", "the", "permute", "pipeline", ".", "Here", ",", "the", "lack", "of", "support", "for", "an", "unaligned", "load", "instruction", "Speedup", "vs.", "Power", "Efficiency", "vs.", "Cell", "+", "X1E", "AMD64", "IA64", "X1E", "AMD64", "IA64", "GEMM", "3x", "12.7", "x", "9.5", "x", "9x", "28.3", "x", "30.9", "x", "SpMV", ">", "2.7", "x", ">", "8.4", "x", ">", "8.4", "x", ">", "8.0", "x", ">", "18.7", "x", ">", "27.3", "x", "Stencil", "5.4", "x", "37.0", "x", "17.7", "x", "16.2", "x", "82.4", "x", "57.5", "x", "1D", "FFT", "2.3", "x", "10.6", "x", "7.6", "x", "6.9", "x", "23.6", "x", "24.7", "x", "2D", "FFT", "2.3", "x", "13.4", "x", "30.6", "x", "6.9", "x", "29.8", "x", "99.5", "x", "Speedup", "vs.", "Power", "Efficiency", "vs.", "Cell", "X1E", "AMD64", "IA64", "X1E", "AMD64", "IA64", "GEMM", "0.8", "x", "3.7", "x", "2.7", "x", "2.4", "x", "8.2", "x", "8.78", "x", "SpMV", "2.7", "x", "8.4", "x", "8.4", "x", "8.0", "x", "18.7", "x", "27.3", "x", "Stencil", "1.9", "x", "12.7", "x", "6.1", "x", "5.7", "x", "28.3", "x", "19.8", "x", "1D", "FFT", "1.0", "x", "4.6", "x", "3.2", "x", "3.0", "x", "10.2", "x", "10.4", "x", "2D", "FFT", "0.9", "x", "5.5", "x", "12.7", "x", "2.7", "x", "12.2", "x", "41.3", "x", "Table", "7", ":", "Double", "precision", "speedup", "and", "increase", "in", "power", "efficiency", "of", "-LRB-", "Top", "-RRB-", "Cell", "+", "and", "-LRB-", "Bottom", "-RRB-", "Cell", ",", "relative", "to", "the", "X1E", ",", "Opteron", ",", "and", "Itanium2", "for", "our", "evaluated", "suite", "of", "scientific", "kernels", ".", "Results", "show", "an", "impressive", "improvement", "in", "performance", "and", "power", "efficiency", ".", "is", "a", "more", "significant", "performance", "bottleneck", "than", "either", "the", "SP", "execution", "rate", "or", "the", "memory", "bandwidth", ".", "For", "dense", "matrix", "operations", ",", "it", "is", "essential", "to", "maximize", "computational", "intensity", "and", "thereby", "fully", "utilize", "the", "local", "store", ".", "However", ",", "if", "not", "done", "properly", ",", "the", "resulting", "TLB", "misses", "adversely", "affect", "performance", ".", "For", "example", ",", "in", "the", "GEMM", "kernel", "we", "observe", "that", "the", "BDL", "data", "storage", "format", ",", "either", "created", "on", "the", "fly", "or", "before", "hand", ",", "can", "ensure", "that", "TLB", "misses", "remain", "a", "small", "issue", "even", "as", "on-chip", "memories", "increase", "in", "size", ".", "Table", "7", "compares", "the", "advantage", "of", "Cell", "and", "Cell", "+", "based", "on", "the", "better", "of", "performance", "model", "or", "actual", "implementation", "-LRB-", "where", "available", "-RRB-", "in", "terms", "of", "DP", "performance", "and", "power", "efficiency", "for", "our", "suite", "of", "evaluated", "kernels", "and", "architectural", "platforms", ".", "Observe", "that", "Cell", "+", "has", "the", "potential", "to", "greatly", "increase", "the", "already", "impressive", "performance", "characteristics", "of", "Cell", ".", "By", "using", "the", "insight", "gained", "in", "the", "development", "of", "our", "estimation", "model", ",", "we", "developed", "an", "optimized", "SpMV", "version", "that", "outperformed", "our", "initial", "predictions", "by", "25", "%", "70", "%", ".", "If", "a", "full", "system", "simulator", "could", "model", "the", "modest", "improvements", "of", "our", "Cell", "+", "variant", ",", "we", "feel", "confident", "that", "we", "could", "demonstrate", "comparable", "improvements", "to", "DP", "performance", "as", "well", ".", "We", "also", "note", "that", "DP", "stencil", "performance", "fell", "short", "of", "our", "model", "by", "13", "%", "due", "to", "previously", "unknown", "microarchitectural", "limitations", ".", "However", ",", "time", "skewing", "showed", "a", "huge", "benefit", "in", "SP", "and", "we", "believe", "a", "similar", "benefit", "would", "be", "present", "in", "DP", "on", "Cell", "+", "variant", ".", "It", "is", "important", "to", "consider", "these", "performance", "differences", "in", "the", "context", "of", "increasingly", "prevalent", "multi-core", "commodity", "processors", ".", "The", "first", "generation", "of", "this", "technology", "will", "instantiate", "at", "most", "two", "cores", "per", "chip", ",", "and", "thus", "will", "deliver", "less", "than", "twice", "the", "performance", "of", "today", "'s", "existing", "architectures", ".", "This", "factor", "of", "2x", "is", "trivial", "compared", "with", "Cell", "+", "'s", "potential", "of", "10-20x", "improvement", ".", "While", "peak", "Cell", "DP", "performance", "is", "impressive", "relative", "to", "its", "commodity", "peers", ",", "a", "fully", "utilizable", "pipelined", "DP", "floating", "point", "unit", "would", "boost", "Cell", "-LRB-", "i.e.", "Cell", "+", "-RRB-", "performance", "and", "efficiency", "significantly", ".", "19", "This", "work", "was", "supported", "by", "the", "Director", ",", "Office", "of", "Science", ",", "of", "the", "U.S.", "Department", "of", "Energy", "under", "Contract", "No", ".", "DE-AC02", "-05", "CH11231", ".", "The", "authors", "gratefully", "thank", "Bracy", "Elton", "and", "Adrian", "Tate", "for", "their", "assistance", "in", "obtaining", "X1E", "FFT", "performance", "data", ",", "and", "Eduardo", "D'Azevedo", "for", "providing", "us", "with", "an", "optimized", "X1E", "SpMV", "implementation", ".", "-LSB-", "1", "-RSB-", "G.", "Blelloch", ",", "M.", "Heroux", ",", "and", "M.", "Zagha", ".", "Segmented", "operations", "for", "sparse", "matrix", "computation", "on", "vector", "multiprocessors", ".", "Technical", "Report", "CMU-CS-93-173", ",", "CMU", ",", "1993", ".", "-LSB-", "2", "-RSB-", "Cactus", "homepage", ".", "http://www.cactuscode.org", ".", "-LSB-", "3", "-RSB-", "L.", "Cannon", ".", "A", "Cellular", "Computer", "to", "Implement", "the", "Kalman", "Filter", "Algorithm", ".", "PhD", "thesis", ",", "Montana", "State", "University", ",", "1969", ".", "-LSB-", "4", "-RSB-", "Cell", "broadband", "engine", "architecture", "and", "its", "first", "implementation", ".", "http://www-128.ibm.com/", "developerworks/power/library", "/", "pa-cellperf", "/", ".", "-LSB-", "5", "-RSB-", "Chombo", "homepage", ".", "http://seesar.lbl.gov/anag/chombo", ".", "-LSB-", "6", "-RSB-", "E.", "D'Azevedo", ",", "M.", "R.", "Fahey", ",", "and", "R.", "T.", "Mills", ".", "Vectorized", "sparse", "matrix", "multiply", "for", "compressed", "row", "storage", "format", ".", "In", "International", "Conference", "on", "Computational", "Science", "-LRB-", "ICCS", "-RRB-", ",", "pages", "99", "106", ",", "2005", ".", "-LSB-", "7", "-RSB-", "FFTW", "speed", "tests", ".", "http://www.fftw.org", ".", "-LSB-", "8", "-RSB-", "B.", "Flachs", ",", "S.", "Asano", ",", "S.", "Dhong", ",", "et", "al.", ".", "A", "streaming", "processor", "unit", "for", "a", "cell", "processor", ".", "ISSCC", "Dig", ".", "Tech", ".", "Papers", ",", "pages", "134", "135", ",", "February", "2005", ".", "-LSB-", "9", "-RSB-", "P.", "Francesco", ",", "P.", "Marchal", ",", "D.", "Atienzaothers", ",", "et", "al.", ".", "An", "integrated", "hardware/software", "approach", "for", "run-time", "scratchpad", "management", ".", "In", "Proceedings", "of", "the", "41st", "Design", "Automation", "Conference", ",", "June", "2004", ".", "-LSB-", "10", "-RSB-", "Ibm", "cell", "specifications", ".", "http://www.research.ibm.com/cell/home.html", ".", "-LSB-", "11", "-RSB-", "E.-J", ".", "Im", ",", "K.", "Yelick", ",", "and", "R.", "Vuduc", ".", "Sparsity", ":", "Optimization", "framework", "for", "sparse", "matrix", "kernels", ".", "International", "Journal", "of", "High", "Performance", "Computing", "Applications", ",", "2004", ".", "-LSB-", "12", "-RSB-", "The", "Berkeley", "Intelligent", "RAM", "-LRB-", "IRAM", "-RRB-", "Project", ".", "http://iram.cs.berkeley.edu", ".", "-LSB-", "13", "-RSB-", "G.", "Jin", ",", "J.", "Mellor-Crummey", ",", "and", "R.", "Fowlerothers", ".", "Increasing", "temporal", "locality", "with", "skewing", "and", "recursive", "blocking", ".", "In", "Proc", ".", "SC2001", ",", "2001", ".", "-LSB-", "14", "-RSB-", "J.", "Kahle", ",", "M.", "Day", ",", "H.", "Hofstee", ",", "et", "al.", ".", "Introduction", "to", "the", "cell", "multiprocessor", ".", "IBM", "Journal", "of", "R&D", ",", "49", "-LRB-", "4", "-RRB-", ",", "2005", ".", "-LSB-", "15", "-RSB-", "S.", "Kamil", ",", "P.", "Husbands", ",", "L.", "Oliker", ",", "et", "al.", ".", "Impact", "of", "modern", "memory", "subsystems", "on", "cache", "optimizations", "for", "stencil", "computations", ".", "In", "ACM", "Workshop", "on", "Memory", "System", "Performance", ",", "June", "2005", ".", "-LSB-", "16", "-RSB-", "M.", "Kandemir", ",", "J.", "Ramanujam", ",", "M.", "Irwin", ",", "et", "al.", ".", "Dynamic", "management", "of", "scratch-pad", "memory", "space", ".", "In", "Proceedings", "of", "the", "Design", "Automation", "Conference", ",", "June", "2001", ".", "-LSB-", "17", "-RSB-", "P.", "Keltcher", ",", "S.", "Richardson", ",", "S.", "Siu", ",", "et", "al.", ".", "An", "equal", "area", "comparison", "of", "embedded", "dram", "and", "sram", "memory", "architectures", "for", "a", "chip", "multiprocessor", ".", "Technical", "report", ",", "HP", "Laboratories", ",", "April", "2000", ".", "-LSB-", "18", "-RSB-", "B.", "Khailany", ",", "W.", "Dally", ",", "S.", "Rixner", ",", "et", "al.", ".", "Imagine", ":", "Media", "processing", "with", "streams", ".", "IEEE", "Micro", ",", "21", "-LRB-", "2", "-RRB-", ",", "March-April", "2001", ".", "-LSB-", "19", "-RSB-", "M.", "Kondo", ",", "H.", "Okawara", ",", "H.", "Nakamura", ",", "et", "al.", ".", "Scima", ":", "A", "novel", "processor", "architecture", "for", "high", "performance", "comp", "uting", ".", "In", "4th", "International", "Conference", "on", "High", "Performance", "Computing", "in", "the", "Asia", "Pacific", "Region", ",", "volume", "1", ",", "May", "2000", ".", "-LSB-", "20", "-RSB-", "A.", "Kunimatsu", ",", "N.", "Ide", ",", "T.", "Sato", ",", "et", "al.", ".", "Vector", "unit", "architecture", "for", "emotion", "synthesis", ".", "IEEE", "Micro", ",", "20", "-LRB-", "2", "-RRB-", ",", "March", "2000", ".", "-LSB-", "21", "-RSB-", "Z.", "Li", "and", "Y.", "Song", ".", "Automatic", "tiling", "of", "iterative", "stencil", "loops", ".", "ACM", "Transactions", "on", "Programming", "Language", "Systems", ",", "26", "-LRB-", "6", "-RRB-", ",", "2004", ".", "-LSB-", "22", "-RSB-", "S.", "Mueller", ",", "C.", "Jacobi", ",", "C.", "Hwa-Joon", ",", "et", "al.", ".", "The", "vector", "floating-point", "unit", "in", "a", "synergistic", "processor", "element", "of", "a", "cell", "processor", ".", "In", "17th", "IEEE", "Annual", "Symposium", "on", "Computer", "Arithmetic", "-LRB-", "ISCA", "-RRB-", ",", "June", "2005", ".", "-LSB-", "23", "-RSB-", "M.", "Oka", "and", "M.", "Suzuoki", ".", "Designing", "and", "programming", "the", "emotion", "engine", ".", "IEEE", "Micro", ",", "19", "-LRB-", "6", "-RRB-", ",", "November", "1999", ".", "-LSB-", "24", "-RSB-", "L.", "Oliker", ",", "R.", "Biswas", ",", "J.", "Borrill", ",", "et", "al.", ".", "A", "performance", "evaluation", "of", "the", "Cray", "X1", "for", "scientific", "applications", ".", "In", "Proc", ".", "6th", "International", "Meeting", "on", "High", "Performance", "Computing", "for", "Computational", "Science", ",", "2004", ".", "-LSB-", "25", "-RSB-", "Ornl", "cray", "x1", "evaluation", ".", "http://www.csm.ornl.gov/", "dunigan/cray", ".", "-LSB-", "26", "-RSB-", "N.", "Park", ",", "B.", "Hong", ",", "and", "V.", "Prasanna", ".", "Analysis", "of", "memory", "hierarchy", "performance", "of", "block", "data", "layout", ".", "In", "International", "Conference", "on", "Parallel", "Processing", "-LRB-", "ICPP", "-RRB-", ",", "August", "2002", ".", "-LSB-", "27", "-RSB-", "D.", "Pham", ",", "S.", "Asano", ",", "M.", "Bollier", ",", "et", "al.", ".", "The", "design", "and", "implementation", "of", "a", "first-generation", "cell", "processor", ".", "ISSCC", "Dig", ".", "Tech", ".", "Papers", ",", "pages", "184", "185", ",", "February", "2005", ".", "-LSB-", "28", "-RSB-", "Sony", "press", "release", ".", "http://www.scei.co.jp/", "corporate/release/pdf/050517e.pdf", ".", "-LSB-", "29", "-RSB-", "M.", "Suzuoki", "et", "al.", ".", "A", "microprocessor", "with", "a", "128-bit", "cpu", ",", "ten", "floating", "point", "macs", ",", "four", "floating-point", "dividers", ",", "and", "an", "mpeg-2", "decoder", ".", "IEEE", "Solid", "State", "Circuits", ",", "34", "-LRB-", "1", "-RRB-", ",", "November", "1999", ".", "-LSB-", "30", "-RSB-", "S.", "Tomar", ",", "S.", "Kim", ",", "N.", "Vijaykrishnan", ",", "et", "al.", ".", "Use", "of", "local", "memory", "for", "efficient", "java", "execution", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Computer", "Design", ",", "September", "2001", ".", "-LSB-", "31", "-RSB-", "R.", "Vuduc", ".", "Automatic", "Performance", "Tuning", "of", "Sparse", "Matrix", "Kernels", ".", "PhD", "thesis", ",", "University", "of", "California", "at", "Berkeley", ",", "2003", ".", "-LSB-", "32", "-RSB-", "D.", "Wonnacott", ".", "Using", "time", "skewing", "to", "eliminate", "idle", "time", "due", "to", "memory", "bandwidth", "and", "network", "limitations", ".", "In", "International", "Parallel", "and", "Distributed", "Processing", "Symposium", "-LRB-", "IPDPS", "-RRB-", ",", "2000", ".", "20"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["spmv", "sparse matrix", "stencil", "gemm", "cell processor", "fft"], "abstractive_keyphrases": ["three level memory"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "170", "document": ["Run-Time", "Dynamic", "Linking", "for", "Reprogramming", "Wireless", "Sensor", "Networks", "From", "experience", "with", "wireless", "sensor", "networks", "it", "has", "become", "apparent", "that", "dynamic", "reprogramming", "of", "the", "sensor", "nodes", "is", "a", "useful", "feature", ".", "The", "resource", "constraints", "in", "terms", "of", "energy", ",", "memory", ",", "and", "processing", "power", "make", "sensor", "network", "reprogramming", "a", "challenging", "task", ".", "Many", "different", "mechanisms", "for", "reprogramming", "sensor", "nodes", "have", "been", "developed", "ranging", "from", "full", "image", "replacement", "to", "virtual", "machines", ".", "We", "have", "implemented", "an", "in-situ", "run-time", "dynamic", "linker", "and", "loader", "that", "use", "the", "standard", "ELF", "object", "file", "format", ".", "We", "show", "that", "run-time", "dynamic", "linking", "is", "an", "effective", "method", "for", "reprogramming", "even", "resource", "constrained", "wireless", "sensor", "nodes", ".", "To", "evaluate", "our", "dynamic", "linking", "mechanism", "we", "have", "implemented", "an", "application-specific", "virtual", "machine", "and", "a", "Java", "virtual", "machine", "and", "compare", "the", "energy", "cost", "of", "the", "different", "linking", "and", "execution", "models", ".", "We", "measure", "the", "energy", "consumption", "and", "execution", "time", "overhead", "on", "real", "hardware", "to", "quantify", "the", "energy", "costs", "for", "dynamic", "linking", ".", "Our", "results", "suggest", "that", "while", "in", "general", "the", "overhead", "of", "a", "virtual", "machine", "is", "high", ",", "a", "combination", "of", "native", "code", "and", "virtual", "machine", "code", "provide", "good", "energy", "efficiency", ".", "Dynamic", "run-time", "linking", "can", "be", "used", "to", "update", "the", "native", "code", ",", "even", "in", "heterogeneous", "networks", ".", "C.", "2.4", "-LSB-", "Computer", "Communication", "Networks", "-RSB-", ":", "Distributed", "Systems", "--", "Network", "Operating", "Systems", "Design", ",", "Experimentation", ",", "Measurement", ",", "Performance", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SenSys", "'", "06", ",", "November", "1", "3", ",", "2006", ",", "Boulder", ",", "Colorado", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-343-3", "/", "06/0011", "...", "$", "5.00", "Wireless", "sensor", "networks", "consist", "of", "a", "collection", "of", "programmable", "radio-equipped", "embedded", "systems", ".", "The", "behavior", "of", "a", "wireless", "sensor", "network", "is", "encoded", "in", "software", "running", "on", "the", "wireless", "sensor", "network", "nodes", ".", "The", "software", "in", "deployed", "wireless", "sensor", "network", "systems", "often", "needs", "to", "be", "changed", ",", "both", "to", "update", "the", "system", "with", "new", "functionality", "and", "to", "correct", "software", "bugs", ".", "For", "this", "reason", "dynamically", "reprogramming", "of", "wireless", "sensor", "network", "is", "an", "important", "feature", ".", "Furthermore", ",", "when", "developing", "software", "for", "wireless", "sensor", "networks", ",", "being", "able", "to", "update", "the", "software", "of", "a", "running", "sensor", "network", "greatly", "helps", "to", "shorten", "the", "development", "time", ".", "The", "limitations", "of", "communication", "bandwidth", ",", "the", "limited", "energy", "of", "the", "sensor", "nodes", ",", "the", "limited", "sensor", "node", "memory", "which", "typically", "is", "on", "the", "order", "of", "a", "few", "thousand", "bytes", "large", ",", "the", "absence", "of", "memory", "mapping", "hardware", ",", "and", "the", "limited", "processing", "power", "make", "reprogramming", "of", "sensor", "network", "nodes", "challenging", ".", "Many", "different", "methods", "for", "reprogramming", "sensor", "nodes", "have", "been", "developed", ",", "including", "full", "system", "image", "replacement", "-LSB-", "14", ",", "16", "-RSB-", ",", "approaches", "based", "on", "binary", "differences", "-LSB-", "15", ",", "17", ",", "31", "-RSB-", ",", "virtual", "machines", "-LSB-", "18", ",", "19", ",", "20", "-RSB-", ",", "and", "loadable", "native", "code", "modules", "in", "the", "first", "versions", "of", "Contiki", "-LSB-", "5", "-RSB-", "and", "SOS", "-LSB-", "12", "-RSB-", ".", "These", "methods", "are", "either", "inefficient", "in", "terms", "of", "energy", "or", "require", "non-standard", "data", "formats", "and", "tools", ".", "The", "primary", "contribution", "of", "this", "paper", "is", "that", "we", "investigate", "the", "use", "of", "standard", "mechanisms", "and", "file", "formats", "for", "reprogramming", "sensor", "network", "nodes", ".", "We", "show", "that", "in-situ", "dynamic", "run-time", "linking", "and", "loading", "of", "native", "code", "using", "the", "ELF", "file", "format", ",", "which", "is", "a", "standard", "feature", "on", "many", "operating", "systems", "for", "PC", "computers", "and", "workstations", ",", "is", "feasible", "even", "for", "resource-constrained", "sensor", "nodes", ".", "Our", "secondary", "contribution", "is", "that", "we", "measure", "and", "quantify", "the", "energy", "costs", "of", "dynamic", "linking", "and", "execution", "of", "native", "code", "and", "compare", "it", "to", "the", "energy", "cost", "of", "transmission", "and", "execution", "of", "code", "for", "two", "virtual", "machines", ":", "an", "application-specific", "virtual", "machine", "and", "the", "Java", "virtual", "machine", ".", "We", "have", "implemented", "a", "dynamic", "linker", "in", "the", "Contiki", "operating", "system", "that", "can", "link", ",", "relocate", ",", "and", "load", "standard", "ELF", "object", "code", "files", ".", "Our", "mechanism", "is", "independent", "of", "the", "particular", "microprocessor", "architecture", "on", "the", "sensor", "nodes", "and", "we", "have", "ported", "the", "linker", "to", "two", "different", "sensor", "node", "platforms", "with", "only", "minor", "modifications", "to", "the", "architecture", "dependent", "module", "of", "the", "code", ".", "15", "To", "evaluate", "the", "energy", "costs", "of", "the", "dynamic", "linker", "we", "implement", "an", "application", "specific", "virtual", "machine", "for", "Contiki", "together", "with", "a", "compiler", "for", "a", "subset", "of", "Java", ".", "We", "also", "adapt", "the", "Java", "virtual", "machine", "from", "the", "lejOS", "system", "-LSB-", "8", "-RSB-", "to", "run", "under", "Contiki", ".", "We", "measure", "the", "energy", "cost", "of", "reprogramming", "and", "executing", "a", "set", "of", "program", "using", "dynamic", "linking", "of", "native", "code", "and", "the", "two", "virtual", "machines", ".", "Using", "the", "measurements", "and", "a", "simple", "energy", "consumption", "model", "we", "calculate", "break-even", "points", "for", "the", "energy", "consumption", "of", "the", "different", "mechanisms", ".", "Our", "results", "suggest", "that", "while", "the", "execution", "time", "overhead", "of", "a", "virtual", "machine", "is", "high", ",", "a", "combination", "of", "native", "code", "and", "virtual", "machine", "code", "may", "give", "good", "energy", "efficiency", ".", "The", "remainder", "of", "this", "paper", "is", "structured", "as", "follows", ".", "In", "Section", "2", "we", "discuss", "different", "scenarios", "in", "which", "reprogramming", "is", "useful", ".", "Section", "3", "presents", "a", "set", "of", "mechanisms", "for", "executing", "code", "inside", "a", "sensor", "node", "and", "in", "Section", "4", "we", "discuss", "loadable", "modules", "and", "the", "process", "of", "linking", ",", "relocating", ",", "and", "loading", "native", "code", ".", "Section", "5", "describes", "our", "implementation", "of", "dynamic", "linking", "and", "our", "virtual", "machines", ".", "Our", "experiments", "and", "the", "results", "are", "presented", "in", "Section", "6", "and", "discuss", "the", "results", "in", "Section", "7", ".", "Related", "work", "is", "reviewed", "in", "Section", "8", ".", "Finally", ",", "we", "conclude", "the", "paper", "in", "Section", "9", ".", "Software", "updates", "for", "sensor", "networks", "are", "necessary", "for", "a", "variety", "of", "reasons", "ranging", "from", "implementation", "and", "testing", "of", "new", "features", "of", "an", "existing", "program", "to", "complete", "reprogramming", "of", "sensor", "nodes", "when", "installing", "new", "applications", ".", "In", "this", "section", "we", "review", "a", "set", "of", "typical", "reprogramming", "scenarios", "and", "compare", "their", "qualitative", "properties", ".", "2.1", "Software", "Development", "Software", "development", "is", "an", "iterative", "process", "where", "code", "is", "written", ",", "installed", ",", "tested", ",", "and", "debugged", "in", "a", "cyclic", "fashion", ".", "Being", "able", "to", "dynamically", "reprogram", "parts", "of", "the", "sensor", "network", "system", "helps", "shorten", "the", "time", "of", "the", "development", "cycle", ".", "During", "the", "development", "cycle", "developers", "typically", "change", "only", "one", "part", "of", "the", "system", ",", "possibly", "only", "a", "single", "algorithm", "or", "a", "function", ".", "A", "sensor", "network", "used", "for", "software", "development", "may", "therefore", "see", "large", "amounts", "of", "small", "changes", "to", "its", "code", ".", "2.2", "Sensor", "Network", "Testbeds", "Sensor", "network", "testbeds", "are", "an", "important", "tool", "for", "development", "and", "experimentation", "with", "sensor", "network", "applications", ".", "New", "applications", "can", "be", "tested", "in", "a", "realistic", "setting", "and", "important", "measurements", "can", "be", "obtained", "-LSB-", "36", "-RSB-", ".", "When", "a", "new", "application", "is", "to", "be", "tested", "in", "a", "testbed", "the", "application", "typically", "is", "installed", "in", "the", "entire", "network", ".", "The", "application", "is", "then", "run", "for", "a", "specified", "time", ",", "while", "measurements", "are", "collected", "both", "from", "the", "sensors", "on", "the", "sensor", "nodes", ",", "and", "from", "network", "traffic", ".", "For", "testbeds", "that", "are", "powered", "from", "a", "continuous", "energy", "source", ",", "the", "energy", "consumption", "of", "software", "updates", "is", "only", "of", "secondary", "importance", ".", "Instead", ",", "qualitative", "properties", "such", "as", "ease", "of", "use", "and", "flexibility", "of", "the", "software", "update", "mechanism", "are", "more", "important", ".", "Since", "the", "time", "required", "to", "make", "an", "update", "is", "important", ",", "the", "throughput", "of", "a", "network-wide", "software", "update", "is", "of", "importance", ".", "As", "the", "size", "of", "the", "transmitted", "binaries", "impact", "the", "throughput", ",", "the", "binary", "size", "still", "can", "be", "Update", "Update", "Update", "Program", "Scenario", "frequency", "fraction", "level", "longevity", "Development", "Often", "Small", "All", "Short", "Testbeds", "Seldom", "Large", "All", "Long", "Bug", "fixes", "Seldom", "Small", "All", "Long", "Reconfig", ".", "Seldom", "Small", "App", "Long", "Dynamic", "Application", "Often", "Small", "App", "Long", "Table", "1", ".", "Qualitative", "comparison", "between", "different", "reprogramming", "scenarios", ".", "used", "as", "an", "evaluation", "metric", "for", "systems", "where", "throughput", "is", "more", "important", "than", "energy", "consumption", ".", "2.3", "Correction", "of", "Software", "Bugs", "The", "need", "for", "correcting", "software", "bugs", "in", "sensor", "networks", "was", "early", "identified", "-LSB-", "7", "-RSB-", ".", "Even", "after", "careful", "testing", ",", "new", "bugs", "can", "occur", "in", "deployed", "sensor", "networks", "caused", "by", ",", "for", "example", ",", "an", "unexpected", "combination", "of", "inputs", "or", "variable", "link", "connectivity", "that", "stimulate", "untested", "control", "paths", "in", "the", "communication", "software", "-LSB-", "30", "-RSB-", ".", "Software", "bugs", "can", "occur", "at", "any", "level", "of", "the", "system", ".", "To", "correct", "bugs", "it", "must", "therefore", "be", "possible", "to", "reprogram", "all", "parts", "of", "the", "system", ".", "2.4", "Application", "Reconfiguration", "In", "an", "already", "installed", "sensor", "network", ",", "the", "application", "may", "need", "to", "be", "reconfigured", ".", "This", "includes", "change", "of", "parameters", ",", "or", "small", "changes", "in", "the", "application", "such", "as", "changing", "from", "absolute", "temperature", "readings", "to", "notification", "when", "thresholds", "are", "exceeded", "-LSB-", "26", "-RSB-", ".", "Even", "though", "reconfiguration", "not", "necessarily", "include", "software", "updates", "-LSB-", "25", "-RSB-", ",", "application", "reconfiguration", "can", "be", "done", "by", "reprogramming", "the", "application", "software", ".", "Hence", "software", "updates", "can", "be", "used", "in", "an", "application", "reconfiguration", "scenario", ".", "2.5", "Dynamic", "Applications", "There", "are", "many", "situations", "where", "it", "is", "useful", "to", "replace", "the", "application", "software", "of", "an", "already", "deployed", "sensor", "network", ".", "One", "example", "is", "the", "forest", "fire", "detection", "scenario", "presented", "by", "Fok", "et", "al.", "-LSB-", "9", "-RSB-", "where", "a", "sensor", "network", "is", "used", "to", "detect", "a", "fire", ".", "When", "the", "fire", "detection", "application", "has", "detected", "a", "fire", ",", "the", "fire", "fighters", "might", "want", "to", "run", "a", "search", "and", "rescue", "application", "as", "well", "as", "a", "fire", "tracking", "application", ".", "While", "it", "may", "possible", "to", "host", "these", "particular", "applications", "on", "each", "node", "despite", "the", "limited", "memory", "of", "the", "sensor", "nodes", ",", "this", "approach", "is", "not", "scalable", "-LSB-", "9", "-RSB-", ".", "In", "this", "scenario", ",", "replacing", "the", "application", "on", "the", "sensor", "nodes", "leads", "to", "a", "more", "scalable", "system", ".", "2.6", "Summary", "Table", "1", "compares", "the", "different", "scenarios", "and", "their", "properties", ".", "Update", "fraction", "refers", "to", "what", "amount", "of", "the", "system", "that", "needs", "to", "be", "updated", "for", "every", "update", ",", "update", "level", "to", "at", "what", "levels", "of", "the", "system", "updates", "are", "likely", "to", "occur", ",", "and", "program", "longevity", "to", "how", "long", "an", "installed", "program", "will", "be", "expected", "to", "reside", "on", "the", "sensor", "node", ".", "Many", "different", "execution", "models", "and", "environments", "have", "been", "developed", "or", "adapted", "to", "run", "on", "wireless", "sensor", "nodes", ".", "16", "Some", "with", "the", "notion", "of", "facilitating", "programming", "-LSB-", "1", "-RSB-", ",", "others", "motivated", "by", "the", "potential", "of", "saving", "energy", "costs", "for", "reprogramming", "enabled", "by", "the", "compact", "code", "representation", "of", "virtual", "machines", "-LSB-", "19", "-RSB-", ".", "The", "choice", "of", "the", "execution", "model", "directly", "impacts", "the", "data", "format", "and", "size", "of", "the", "data", "that", "needs", "to", "be", "transported", "to", "a", "node", ".", "In", "this", "section", "we", "discuss", "three", "different", "mechanisms", "for", "executing", "program", "code", "inside", "each", "sensor", "node", ":", "script", "languages", ",", "virtual", "machines", ",", "and", "native", "code", ".", "3.1", "Script", "Languages", "There", "are", "many", "examples", "of", "script", "languages", "for", "embedded", "systems", ",", "including", "BASIC", "variants", ",", "Python", "interpreters", "-LSB-", "22", "-RSB-", ",", "and", "TCL", "machines", "-LSB-", "1", "-RSB-", ".", "However", ",", "most", "script", "interpreters", "target", "platforms", "with", "much", "more", "resources", "than", "our", "target", "platforms", "and", "we", "have", "therefore", "not", "included", "them", "in", "our", "comparison", ".", "3.2", "Virtual", "Machines", "Virtual", "machines", "are", "a", "common", "approach", "to", "reduce", "the", "cost", "of", "transmitting", "program", "code", "in", "situations", "where", "the", "cost", "of", "distributing", "a", "program", "is", "high", ".", "Typically", ",", "program", "code", "for", "a", "virtual", "machine", "can", "be", "made", "more", "compact", "than", "the", "program", "code", "for", "the", "physical", "machine", ".", "For", "this", "reason", "virtual", "machines", "are", "often", "used", "for", "programming", "sensor", "networks", "-LSB-", "18", ",", "19", ",", "20", ",", "23", "-RSB-", ".", "While", "many", "virtual", "machines", "such", "as", "the", "Java", "virtual", "machine", "are", "generic", "enough", "to", "perform", "well", "for", "a", "variety", "of", "different", "types", "of", "programs", ",", "most", "virtual", "machines", "for", "sensor", "networks", "are", "designed", "to", "be", "highly", "configurable", "in", "order", "to", "allow", "the", "virtual", "machine", "to", "be", "tailored", "for", "specific", "applications", ".", "In", "effect", ",", "this", "means", "that", "parts", "of", "the", "application", "code", "is", "implemented", "as", "virtual", "machine", "code", "running", "on", "the", "virtual", "machine", ",", "and", "other", "parts", "of", "the", "application", "code", "is", "implemented", "in", "native", "code", "that", "can", "be", "used", "from", "the", "programs", "running", "on", "the", "virtual", "machine", ".", "3.3", "Native", "Code", "The", "most", "straightforward", "way", "to", "execute", "code", "on", "sensor", "nodes", "is", "by", "running", "native", "code", "that", "is", "executed", "directly", "by", "the", "microcontroller", "of", "the", "sensor", "node", ".", "Installing", "new", "native", "code", "on", "a", "sensor", "node", "is", "more", "complex", "than", "installing", "code", "for", "a", "virtual", "machine", "because", "the", "native", "code", "uses", "physical", "addresses", "which", "typically", "need", "to", "be", "updated", "before", "the", "program", "can", "be", "executed", ".", "In", "this", "section", "we", "discuss", "two", "widely", "used", "mechanisms", "for", "reprogramming", "sensor", "nodes", "that", "execute", "native", "code", ":", "full", "image", "replacement", "and", "approaches", "based", "on", "binary", "differences", ".", "3.3.1", "Full", "Image", "Replacement", "The", "most", "common", "way", "to", "update", "software", "in", "embedded", "systems", "and", "sensor", "networks", "is", "to", "compile", "a", "complete", "new", "binary", "image", "of", "the", "software", "together", "with", "the", "operating", "system", "and", "overwrite", "the", "existing", "system", "image", "of", "the", "sensor", "node", ".", "This", "is", "the", "default", "method", "used", "by", "the", "XNP", "and", "Deluge", "network", "reprogramming", "software", "in", "TinyOS", "-LSB-", "13", "-RSB-", ".", "The", "full", "image", "replacement", "does", "not", "require", "any", "additional", "processing", "of", "the", "loaded", "system", "image", "before", "it", "is", "loaded", "into", "the", "system", ",", "since", "the", "loaded", "image", "resides", "at", "the", "same", ",", "known", ",", "physical", "memory", "address", "as", "the", "previous", "system", "image", ".", "For", "some", "systems", ",", "such", "as", "the", "Scatterweb", "system", "code", "-LSB-", "33", "-RSB-", ",", "the", "system", "contains", "both", "an", "operating", "system", "image", "and", "a", "small", "set", "of", "functions", "that", "provide", "functionality", "for", "loading", "new", "operating", "system", "images", ".", "A", "new", "operating", "system", "image", "can", "overwrite", "the", "existing", "image", "without", "overwriting", "the", "loading", "functions", ".", "The", "addresses", "of", "the", "loading", "functions", "are", "hard-coded", "in", "the", "operating", "system", "image", ".", "3.3.2", "Diff-based", "Approaches", "Often", "a", "small", "update", "in", "the", "code", "of", "the", "system", ",", "such", "as", "a", "bugfix", ",", "will", "cause", "only", "minor", "differences", "between", "in", "the", "new", "and", "old", "system", "image", ".", "Instead", "of", "distributing", "a", "new", "full", "system", "image", "the", "binary", "differences", ",", "deltas", ",", "between", "the", "modified", "and", "original", "binary", "can", "be", "distributed", ".", "This", "reduces", "the", "amount", "of", "data", "that", "needs", "to", "be", "transferred", ".", "Several", "types", "of", "diff-based", "approaches", "have", "been", "developed", "-LSB-", "15", ",", "17", ",", "31", "-RSB-", "and", "it", "has", "been", "shown", "that", "the", "size", "of", "the", "deltas", "produced", "by", "the", "diff-based", "approaches", "is", "very", "small", "compared", "to", "the", "full", "binary", "image", ".", "A", "less", "common", "alternative", "to", "full", "image", "replacement", "and", "diff-based", "approaches", "is", "to", "use", "loadable", "modules", "to", "perform", "reprogramming", ".", "With", "loadable", "modules", ",", "only", "parts", "of", "the", "system", "need", "to", "be", "modified", "when", "a", "single", "program", "is", "changed", ".", "Typically", ",", "loadable", "modules", "require", "support", "from", "the", "operating", "system", ".", "Contiki", "and", "SOS", "are", "examples", "of", "systems", "that", "support", "loadable", "modules", "and", "TinyOS", "is", "an", "example", "of", "an", "operating", "system", "without", "loadable", "module", "support", ".", "A", "loadable", "module", "contains", "the", "native", "machine", "code", "of", "the", "program", "that", "is", "to", "be", "loaded", "into", "the", "system", ".", "The", "machine", "code", "in", "the", "module", "usually", "contains", "references", "to", "functions", "or", "variables", "in", "the", "system", ".", "These", "references", "must", "be", "resolved", "to", "the", "physical", "address", "of", "the", "functions", "or", "variables", "before", "the", "machine", "code", "can", "be", "executed", ".", "The", "process", "of", "resolving", "those", "references", "is", "called", "linking", ".", "Linking", "can", "be", "done", "either", "when", "the", "module", "is", "compiled", "or", "when", "the", "module", "is", "loaded", ".", "We", "call", "the", "former", "approach", "pre-linking", "and", "the", "latter", "dynamic", "linking", ".", "A", "pre-linked", "module", "contains", "the", "absolute", "physical", "addresses", "of", "the", "referenced", "functions", "or", "variables", "whereas", "a", "dynamically", "linked", "module", "contains", "the", "symbolic", "names", "of", "all", "system", "core", "functions", "or", "variables", "that", "are", "referenced", "in", "the", "module", ".", "This", "information", "increases", "the", "size", "of", "the", "dynamically", "linked", "module", "compared", "to", "the", "pre-linked", "module", ".", "The", "difference", "is", "shown", "in", "Figure", "1", ".", "Dynamic", "linking", "has", "not", "previously", "been", "considered", "for", "wireless", "sensor", "networks", "because", "of", "the", "perceived", "run-time", "overhead", ",", "both", "in", "terms", "of", "execution", "time", ",", "energy", "consumption", ",", "and", "memory", "requirements", ".", "The", "machine", "code", "in", "the", "module", "usually", "contains", "references", "not", "only", "to", "functions", "or", "variables", "in", "the", "system", ",", "but", "also", "to", "functions", "or", "variables", "within", "the", "module", "itself", ".", "The", "physical", "address", "of", "those", "functions", "will", "change", "depending", "on", "the", "memory", "address", "at", "which", "the", "module", "is", "loaded", "in", "the", "system", ".", "The", "addresses", "of", "the", "references", "must", "therefore", "be", "updated", "to", "the", "physical", "address", "that", "the", "function", "or", "variable", "will", "have", "when", "the", "module", "is", "loaded", ".", "The", "process", "of", "updating", "these", "references", "is", "known", "as", "relocation", ".", "Like", "linking", ",", "relocation", "can", "be", "done", "either", "at", "compile-time", "or", "at", "run-time", ".", "When", "a", "module", "has", "been", "linked", "and", "relocated", "the", "program", "loader", "loads", "the", "module", "into", "the", "system", "by", "copying", "the", "17", "memcpy", "/", "*", "...", "*", "/", "-RCB-", "void", "radio_send", "-LRB-", "-RRB-", "-LCB-", "/", "*", "...", "*", "/", "-RCB-", "0x0237", "0x1720", "Core", "memcpy", "-LRB-", "-RRB-", ";", "radio_send", "-LRB-", "-RRB-", ";", "call", "0x1720", "call", "0x0237", "Module", "with", "dynamic", "linking", "information", "Pre-linked", "module", "memcpy", "-LRB-", "-RRB-", ";", "radio_send", "-LRB-", "-RRB-", ";", "call", "0x0000", "call", "0x0000", "call", "instruction", "call", "instruction", "radio_send", "int", "memcpy", "-LRB-", "-RRB-", "-LCB-", "Figure", "1", ".", "The", "difference", "between", "a", "pre-linked", "module", "and", "a", "module", "with", "dynamic", "linking", "information", ":", "the", "pre-linked", "module", "contains", "physical", "addresses", "whereas", "the", "dynamically", "linked", "module", "contains", "symbolic", "names", ".", "linked", "and", "relocated", "native", "code", "into", "a", "place", "in", "memory", "from", "where", "the", "program", "can", "be", "executed", ".", "4.1", "Pre-linked", "Modules", "The", "machine", "code", "of", "a", "pre-linked", "module", "contains", "absolute", "addresses", "of", "all", "functions", "and", "variables", "in", "the", "system", "code", "that", "are", "referenced", "by", "the", "module", ".", "Linking", "of", "the", "module", "is", "done", "at", "compile", "time", "and", "only", "relocation", "is", "performed", "at", "run-time", ".", "To", "link", "a", "pre-linked", "module", ",", "information", "about", "the", "physical", "addresses", "of", "all", "functions", "and", "variables", "in", "the", "system", "into", "which", "the", "module", "is", "to", "be", "loaded", "must", "be", "available", "at", "compile", "time", ".", "There", "are", "two", "benefits", "of", "pre-linked", "modules", "over", "dynamically", "linked", "modules", ".", "First", ",", "pre-linked", "modules", "are", "smaller", "than", "dynamically", "linked", "modules", "which", "results", "in", "less", "information", "to", "be", "transmitted", ".", "Second", ",", "the", "process", "of", "loading", "a", "pre-linked", "module", "into", "the", "system", "is", "less", "complex", "than", "the", "process", "of", "linking", "a", "dynamically", "linked", "module", ".", "However", ",", "the", "fact", "that", "all", "physical", "addresses", "of", "the", "system", "core", "are", "hard-coded", "in", "the", "pre-linked", "module", "is", "a", "severe", "drawback", "as", "a", "pre-linked", "module", "can", "only", "be", "loaded", "into", "a", "system", "with", "the", "exact", "same", "physical", "addresses", "as", "the", "system", "that", "was", "to", "generate", "the", "list", "of", "addresses", "that", "was", "used", "for", "linking", "the", "module", ".", "In", "the", "original", "Contiki", "system", "-LSB-", "5", "-RSB-", "we", "used", "pre-linked", "binary", "modules", "for", "dynamic", "loading", ".", "When", "compiling", "the", "Contiki", "system", "core", ",", "the", "compiler", "generated", "a", "map", "file", "containing", "the", "mapping", "between", "all", "globally", "visible", "functions", "and", "variables", "in", "the", "system", "core", "and", "their", "addresses", ".", "This", "list", "of", "addresses", "was", "used", "to", "pre-link", "Contiki", "modules", ".", "We", "quickly", "noticed", "that", "while", "pre-linked", "binary", "modules", "worked", "well", "for", "small", "projects", "with", "a", "homogeneous", "set", "of", "sensor", "nodes", ",", "the", "system", "quickly", "became", "unmanageable", "when", "the", "number", "of", "sensor", "nodes", "grew", ".", "Even", "a", "small", "change", "to", "the", "system", "core", "of", "one", "of", "the", "sensor", "nodes", "would", "make", "it", "impossible", "to", "load", "binary", "a", "module", "into", "the", "system", "bedcase", "the", "addresses", "of", "variables", "and", "functions", "in", "the", "core", "were", "different", "from", "when", "the", "program", "was", "linked", ".", "We", "used", "version", "numbers", "to", "guard", "against", "this", "situation", ".", "Version", "numbers", "did", "help", "against", "system", "crashes", ",", "but", "did", "not", "solve", "the", "general", "problem", ":", "new", "modules", "could", "not", "be", "loaded", "into", "the", "system", ".", "4.2", "Dynamic", "Linking", "With", "dynamic", "linking", ",", "the", "object", "files", "do", "not", "only", "contain", "code", "and", "data", ",", "but", "also", "names", "of", "functions", "are", "variables", "of", "the", "system", "core", "that", "are", "referenced", "by", "the", "module", ".", "The", "code", "in", "the", "object", "file", "can", "not", "be", "executed", "before", "the", "physical", "addresses", "of", "the", "referenced", "variables", "and", "functions", "have", "been", "filled", "in", ".", "This", "process", "is", "done", "at", "run", "time", "by", "a", "dynamic", "linker", ".", "In", "the", "Contiki", "dynamic", "linker", "we", "use", "two", "file", "formats", "for", "the", "dynamically", "linked", "modules", ",", "ELF", "and", "Compact", "ELF", ".", "4.2.1", "ELF", "-", "Executable", "and", "Linkable", "Format", "One", "of", "the", "most", "common", "object", "code", "format", "for", "dynamic", "linking", "is", "the", "Executable", "and", "Linkable", "Format", "-LRB-", "ELF", "-RRB-", "-LSB-", "3", "-RSB-", ".", "It", "is", "a", "standard", "format", "for", "object", "files", "and", "executables", "that", "is", "used", "for", "most", "modern", "Unix-like", "systems", ".", "An", "ELF", "object", "file", "include", "both", "program", "code", "and", "data", "and", "additional", "information", "such", "as", "a", "symbol", "table", ",", "the", "names", "of", "all", "external", "unresolved", "symbols", ",", "and", "relocation", "tables", ".", "The", "relocation", "tables", "are", "used", "to", "locate", "the", "program", "code", "and", "data", "at", "other", "places", "in", "memory", "than", "for", "which", "the", "object", "code", "originally", "was", "assembled", ".", "Additionally", ",", "ELF", "files", "can", "hold", "debugging", "information", "such", "as", "the", "line", "numbers", "corresponding", "to", "specific", "machine", "code", "instructions", ",", "and", "file", "names", "of", "the", "source", "files", "used", "when", "producing", "the", "ELF", "object", ".", "ELF", "is", "also", "the", "default", "object", "file", "format", "produced", "by", "the", "GCC", "utilities", "and", "for", "this", "reason", "there", "are", "a", "number", "of", "standard", "software", "utilities", "for", "manipulating", "ELF", "files", "available", ".", "Examples", "include", "debuggers", ",", "linkers", ",", "converters", ",", "and", "programs", "for", "calculating", "program", "code", "and", "data", "memory", "sizes", ".", "These", "utilities", "exist", "for", "a", "wide", "variety", "of", "platforms", ",", "including", "MS", "Windows", ",", "Linux", ",", "Solaris", ",", "and", "FreeBSD", ".", "This", "is", "a", "clear", "advantage", "over", "other", "solutions", "such", "as", "FlexCup", "-LSB-", "27", "-RSB-", ",", "which", "require", "specialized", "utilities", "and", "tools", ".", "Our", "dynamic", "linker", "in", "Contiki", "understands", "the", "ELF", "format", "and", "is", "able", "to", "perform", "dynamic", "linking", ",", "relocation", ",", "and", "loading", "of", "ELF", "object", "code", "files", ".", "The", "debugging", "features", "of", "the", "ELF", "format", "are", "not", "used", ".", "4.2.2", "CELF", "-", "Compact", "ELF", "One", "problem", "with", "the", "ELF", "format", "is", "the", "overhead", "in", "terms", "of", "bytes", "to", "be", "transmitted", "across", "the", "network", ",", "compared", "to", "pre-linked", "modules", ".", "There", "are", "a", "number", "of", "reasons", "for", "the", "extra", "overhead", ".", "First", ",", "ELF", ",", "as", "any", "dynamically", "relocatable", "file", "format", ",", "includes", "the", "symbolic", "names", "of", "all", "referenced", "functions", "or", "variables", "that", "need", "to", "be", "linked", "at", "run-time", ".", "Second", ",", "and", "more", "important", ",", "the", "ELF", "format", "is", "designed", "to", "work", "on", "32-bit", "and", "64-bit", "architectures", ".", "This", "causes", "all", "ELF", "data", "structures", "to", "be", "defined", "with", "32-bit", "data", "types", ".", "For", "8-bit", "or", "16-bit", "targets", "the", "high", "16", "bits", "of", "these", "fields", "are", "unused", ".", "To", "quantify", "the", "overhead", "of", "the", "ELF", "format", "we", "devise", "an", "alternative", "to", "the", "ELF", "object", "code", "format", "that", "we", "call", "CELF", "-", "Compact", "ELF", ".", "A", "CELF", "file", "contains", "the", "same", "information", "as", "an", "ELF", "file", ",", "but", "represented", "with", "8", "and", "16-bit", "datatypes", ".", "18", "CELF", "files", "typically", "are", "half", "the", "size", "of", "the", "corresponding", "ELF", "file", ".", "The", "Contiki", "dynamic", "loader", "is", "able", "to", "load", "CELF", "files", "and", "a", "utility", "program", "is", "used", "to", "convert", "ELF", "files", "to", "CELF", "files", ".", "It", "is", "possible", "to", "further", "compress", "CELF", "files", "using", "lossless", "data", "compression", ".", "However", ",", "we", "leave", "the", "investigation", "of", "the", "energy-efficiency", "of", "this", "approach", "to", "future", "work", ".", "The", "drawback", "of", "the", "CELF", "format", "is", "that", "it", "requires", "a", "special", "compressor", "utility", "is", "for", "creating", "the", "CELF", "files", ".", "This", "makes", "the", "CELF", "format", "less", "attractive", "for", "use", "in", "many", "real-world", "situations", ".", "4.3", "Position", "Independent", "Code", "To", "avoid", "performing", "the", "relocation", "step", "when", "loading", "a", "module", ",", "it", "is", "in", "some", "cases", "possible", "to", "compile", "the", "module", "into", "position", "independent", "code", ".", "Position", "independent", "code", "is", "a", "type", "of", "machine", "code", "which", "does", "not", "contain", "any", "absolute", "addresses", "to", "itself", ",", "but", "only", "relative", "references", ".", "This", "is", "the", "approach", "taken", "by", "the", "SOS", "system", ".", "To", "generate", "position", "independent", "code", "compiler", "support", "is", "needed", ".", "Furthermore", ",", "not", "all", "CPU", "architectures", "support", "position", "independent", "code", "and", "even", "when", "supported", ",", "programs", "compiled", "to", "position", "independent", "code", "typically", "are", "subject", "to", "size", "restrictions", ".", "For", "example", ",", "the", "AVR", "microcontroller", "supports", "position", "independent", "code", "but", "restricts", "the", "size", "of", "programs", "to", "4", "kilobytes", ".", "For", "the", "MSP430", "no", "compiler", "is", "known", "to", "fully", "support", "position", "independent", "code", ".", "We", "have", "implemented", "run-time", "dynamic", "linking", "of", "ELF", "and", "CELF", "files", "in", "the", "Contiki", "operating", "system", "-LSB-", "5", "-RSB-", ".", "To", "evaluate", "dynamic", "linking", "we", "have", "implemented", "an", "application", "specific", "virtual", "machine", "for", "Contiki", "together", "with", "a", "compiler", "for", "a", "subset", "of", "Java", ",", "and", "have", "ported", "a", "Java", "virtual", "machine", "to", "Contiki", ".", "5.1", "The", "Contiki", "Operating", "System", "The", "Contiki", "operating", "system", "was", "the", "first", "operating", "system", "for", "memory-constrained", "sensor", "nodes", "to", "support", "dynamic", "run-time", "loading", "of", "native", "code", "modules", ".", "Contiki", "is", "built", "around", "an", "event-driven", "kernel", "and", "has", "very", "low", "memory", "requirements", ".", "Contiki", "applications", "run", "as", "extremely", "lightweight", "protothreads", "-LSB-", "6", "-RSB-", "that", "provide", "blocking", "operations", "on", "top", "of", "the", "event-driven", "kernel", "at", "a", "very", "small", "memory", "cost", ".", "Contiki", "is", "designed", "to", "be", "highly", "portable", "and", "has", "been", "ported", "to", "over", "ten", "different", "platforms", "with", "different", "CPU", "architectures", "and", "using", "different", "C", "compilers", ".", "Loaded", "program", "00000000000", "11111111111", "00000000000", "00000000000", "11111111111", "11111111111", "00000000000", "00000000000", "00000000000", "11111111111", "11111111111", "11111111111", "00000000000", "00000000000", "00000000000", "11111111111", "11111111111", "11111111111", "RAM", "Core", "Loaded", "program", "Core", "ROM", "Device", "drivers", "Contiki", "kernel", "Contiki", "kernel", "Dynamic", "linker", "Symbol", "table", "Language", "run-time", "Device", "drivers", "Figure", "2", ".", "Partitioning", "in", "Contiki", ":", "the", "core", "and", "loadable", "programs", "in", "RAM", "and", "ROM", ".", "A", "Contiki", "system", "is", "divided", "into", "two", "parts", ":", "the", "core", "and", "the", "loadable", "programs", "as", "shown", "in", "Figure", "2", ".", "The", "core", "consists", "of", "the", "Contiki", "kernel", ",", "device", "drivers", ",", "a", "set", "of", "standard", "applications", ",", "parts", "of", "the", "C", "language", "library", ",", "and", "a", "symbol", "table", ".", "Loadable", "programs", "are", "loaded", "on", "top", "of", "the", "core", "and", "do", "not", "modify", "the", "core", ".", "The", "core", "has", "no", "information", "about", "the", "loadable", "programs", ",", "except", "for", "information", "that", "the", "loadable", "programs", "explicitly", "register", "with", "the", "core", ".", "Loadable", "programs", ",", "on", "the", "other", "hand", ",", "have", "full", "knowledge", "of", "the", "core", "and", "may", "freely", "call", "functions", "and", "access", "variables", "that", "reside", "in", "the", "core", ".", "Loadable", "programs", "can", "call", "each", "other", "by", "going", "through", "the", "kernel", ".", "The", "kernel", "dispatches", "calls", "from", "one", "loaded", "program", "to", "another", "by", "looking", "up", "the", "target", "program", "in", "an", "in-kernel", "list", "of", "active", "processes", ".", "This", "one-way", "dependency", "makes", "it", "possible", "to", "load", "and", "unload", "programs", "at", "run-time", "without", "needing", "to", "patch", "the", "core", "and", "without", "the", "need", "for", "a", "reboot", "when", "a", "module", "has", "been", "loaded", "or", "unloaded", ".", "While", "it", "is", "possible", "to", "replace", "the", "core", "at", "run-time", "by", "running", "a", "special", "loadable", "program", "that", "overwrites", "the", "current", "core", "and", "reboots", "the", "system", ",", "experience", "has", "shown", "that", "this", "feature", "is", "not", "often", "used", "in", "practice", ".", "5.2", "The", "Symbol", "Table", "The", "Contiki", "core", "contains", "a", "table", "of", "the", "symbolic", "names", "of", "all", "externally", "visible", "variable", "and", "function", "names", "in", "the", "Contiki", "core", "and", "their", "corresponding", "addresses", ".", "The", "table", "includes", "not", "only", "the", "Contiki", "system", ",", "but", "also", "the", "C", "language", "run-time", "library", ".", "The", "symbol", "table", "is", "used", "by", "the", "dynamic", "linker", "when", "linking", "loaded", "programs", ".", "The", "symbol", "table", "is", "created", "when", "the", "Contiki", "core", "binary", "image", "is", "compiled", ".", "Since", "the", "core", "must", "contain", "a", "correct", "symbol", "table", ",", "and", "a", "correct", "symbol", "table", "can", "not", "be", "created", "before", "the", "core", "exists", ",", "a", "three-step", "process", "is", "required", "to", "compile", "a", "core", "with", "a", "correct", "symbol", "table", ".", "First", ",", "an", "intermediary", "core", "image", "with", "an", "empty", "symbol", "table", "is", "compiled", ".", "From", "the", "intermediary", "core", "image", "an", "intermediary", "symbol", "table", "is", "created", ".", "The", "intermediary", "symbol", "table", "contains", "the", "correct", "symbols", "of", "the", "final", "core", "image", ",", "but", "the", "addresses", "of", "the", "symbols", "are", "incorrect", ".", "Second", ",", "a", "second", "intermediary", "core", "image", "that", "includes", "the", "intermediary", "symbol", "table", "is", "created", ".", "This", "core", "image", "now", "contains", "a", "symbol", "table", "of", "the", "same", "size", "as", "the", "one", "in", "the", "final", "core", "image", "so", "the", "addresses", "of", "all", "symbols", "in", "the", "core", "are", "now", "as", "they", "will", "be", "in", "the", "final", "core", "image", ".", "The", "final", "symbol", "table", "is", "then", "created", "from", "the", "second", "intermediary", "core", "image", ".", "This", "symbol", "table", "contains", "both", "the", "correct", "symbols", "and", "their", "correct", "addresses", ".", "Third", ",", "the", "final", "core", "image", "with", "the", "correct", "symbol", "table", "is", "compiled", ".", "The", "process", "of", "creating", "a", "core", "image", "is", "automated", "through", "a", "simple", "make", "script", ".", "The", "symbol", "table", "is", "created", "using", "a", "combination", "of", "standard", "ELF", "tools", ".", "For", "a", "typical", "Contiki", "system", "the", "symbol", "table", "contains", "around", "300", "entries", "which", "amounts", "to", "approximately", "4", "kilobytes", "of", "data", "stored", "in", "flash", "ROM", ".", "5.3", "The", "Dynamic", "Linker", "We", "implemented", "a", "dynamic", "linker", "for", "Contiki", "that", "is", "designed", "to", "link", ",", "relocate", ",", "and", "load", "either", "standard", "ELF", "files", "-LSB-", "3", "-RSB-", "and", "CELF", ",", "Compact", "ELF", ",", "files", ".", "The", "dynamic", "linker", "reads", "19", "ELF/CELF", "files", "through", "the", "Contiki", "virtual", "filesystem", "interface", ",", "CFS", ",", "which", "makes", "the", "dynamic", "linker", "unaware", "of", "the", "physical", "location", "of", "the", "ELF/CELF", "file", ".", "Thus", "the", "linker", "can", "operate", "on", "files", "stored", "either", "in", "RAM", ",", "on-chip", "flash", "ROM", ",", "external", "EEPROM", ",", "or", "external", "ROM", "without", "modification", ".", "Since", "all", "file", "access", "to", "the", "ELF/CELF", "file", "is", "made", "through", "the", "CFS", ",", "the", "dynamic", "linker", "does", "not", "need", "to", "concern", "itself", "with", "low-level", "filesystem", "details", "such", "as", "wear-leveling", "or", "fragmentation", "-LSB-", "4", "-RSB-", "as", "this", "is", "better", "handled", "by", "the", "CFS", ".", "The", "dynamic", "linker", "performs", "four", "steps", "to", "link", ",", "relocate", "and", "load", "an", "ELF/CELF", "file", ".", "The", "dynamic", "linker", "first", "parses", "the", "ELF/CELF", "file", "and", "extracts", "relevant", "information", "about", "where", "in", "the", "ELF/CELF", "file", "the", "code", ",", "data", ",", "symbol", "table", ",", "and", "relocation", "entries", "are", "stored", ".", "Second", ",", "memory", "for", "the", "code", "and", "data", "is", "allocated", "from", "flash", "ROM", "and", "RAM", ",", "respectively", ".", "Third", ",", "the", "code", "and", "data", "segments", "are", "linked", "and", "relocated", "to", "their", "respective", "memory", "locations", ",", "and", "fourth", ",", "the", "code", "is", "written", "to", "flash", "ROM", "and", "the", "data", "to", "RAM", ".", "Currently", ",", "memory", "allocation", "for", "the", "loaded", "program", "is", "done", "using", "a", "simple", "block", "allocation", "scheme", ".", "More", "sophisticated", "allocation", "schemes", "will", "be", "investigated", "in", "the", "future", ".", "5.3.1", "Linking", "and", "Relocating", "The", "relocation", "information", "in", "an", "ELF/CELF", "file", "consists", "of", "a", "list", "of", "relocation", "entries", ".", "Each", "relocation", "entry", "corresponds", "to", "an", "instruction", "or", "address", "in", "the", "code", "or", "data", "in", "the", "module", "that", "needs", "to", "be", "updated", "with", "a", "new", "address", ".", "A", "relocation", "entry", "contains", "a", "pointer", "to", "a", "symbol", ",", "such", "as", "a", "variable", "name", "or", "a", "function", "name", ",", "a", "pointer", "to", "a", "place", "in", "the", "code", "or", "data", "contained", "in", "the", "ELF/CELF", "file", "that", "needs", "to", "be", "updated", "with", "the", "address", "of", "the", "symbol", ",", "and", "a", "relocation", "type", "which", "specifies", "how", "the", "data", "or", "code", "should", "be", "updated", ".", "The", "relocation", "types", "are", "different", "depending", "on", "the", "CPU", "architecture", ".", "For", "the", "MSP430", "there", "is", "only", "one", "single", "relocation", "type", ",", "whereas", "the", "AVR", "has", "19", "different", "relocation", "types", ".", "The", "dynamic", "linker", "processes", "a", "relocation", "entry", "at", "a", "time", ".", "For", "each", "relocation", "entry", ",", "its", "symbol", "is", "looked", "up", "in", "the", "symbol", "table", "in", "the", "core", ".", "If", "the", "symbol", "is", "found", "in", "the", "core", "'s", "symbol", "table", ",", "the", "address", "of", "the", "symbol", "is", "used", "to", "patch", "the", "code", "or", "data", "to", "which", "the", "relocation", "entry", "points", ".", "The", "code", "or", "data", "is", "patched", "in", "different", "ways", "depending", "on", "the", "relocation", "type", "and", "on", "the", "CPU", "architecture", ".", "If", "the", "symbol", "in", "the", "relocation", "entry", "was", "not", "found", "in", "the", "symbol", "table", "of", "the", "core", ",", "the", "symbol", "table", "of", "the", "ELF/CELF", "file", "itself", "is", "searched", ".", "If", "the", "symbol", "is", "found", ",", "the", "address", "that", "the", "symbol", "will", "have", "when", "the", "program", "has", "been", "loaded", "is", "calculated", ",", "and", "the", "code", "or", "data", "is", "patched", "in", "the", "same", "way", "as", "if", "the", "symbol", "was", "found", "in", "the", "core", "symbol", "table", ".", "Relocation", "entries", "may", "also", "be", "relative", "to", "the", "data", ",", "BSS", ",", "or", "code", "segment", "in", "the", "ELF/CELF", "file", ".", "In", "that", "case", "no", "symbol", "is", "associated", "with", "the", "relocation", "entry", ".", "For", "such", "entries", "the", "dynamic", "linker", "calculates", "the", "address", "that", "the", "segment", "will", "have", "when", "the", "program", "has", "been", "loaded", ",", "and", "uses", "that", "address", "to", "patch", "the", "code", "or", "data", ".", "5.3.2", "Loading", "When", "the", "linking", "and", "relocating", "is", "completed", ",", "the", "text", "and", "data", "have", "been", "relocated", "to", "their", "final", "memory", "position", ".", "The", "text", "segment", "is", "then", "written", "to", "flash", "ROM", ",", "at", "the", "location", "that", "was", "previously", "allocated", ".", "The", "memory", "allocated", "for", "the", "data", "and", "BSS", "segments", "are", "used", "as", "an", "intermediate", "storage", "for", "transferring", "text", "segment", "data", "from", "the", "ELF/CELF", "file", "before", "it", "is", "written", "to", "flash", "ROM", ".", "Finally", ",", "the", "memory", "allocated", "for", "the", "BSS", "segment", "is", "cleared", ",", "and", "the", "contents", "of", "the", "data", "segment", "is", "copied", "from", "the", "ELF/CELF", "file", ".", "5.3.3", "Executing", "the", "Loaded", "Program", "When", "the", "dynamic", "linker", "has", "successfully", "loaded", "the", "code", "and", "data", "segments", ",", "Contiki", "starts", "executing", "the", "program", ".", "The", "loaded", "program", "may", "replace", "an", "already", "running", "Contiki", "service", ".", "If", "the", "service", "that", "is", "to", "be", "replaced", "needs", "to", "pass", "state", "to", "the", "newly", "loaded", "service", ",", "Contiki", "supports", "the", "allocation", "of", "an", "external", "memory", "buffer", "for", "this", "purpose", ".", "However", ",", "experience", "has", "shown", "that", "this", "mechanism", "has", "been", "very", "scarcely", "used", "in", "practice", "and", "the", "mechanism", "is", "likely", "to", "be", "removed", "in", "future", "versions", "of", "Contiki", ".", "5.3.4", "Portability", "Since", "the", "ELF/CELF", "format", "is", "the", "same", "across", "different", "platforms", ",", "we", "designed", "the", "Contiki", "dynamic", "linker", "to", "be", "easily", "portable", "to", "new", "platforms", ".", "The", "loader", "is", "split", "into", "one", "architecture", "specific", "part", "and", "one", "generic", "part", ".", "The", "generic", "part", "parses", "the", "ELF/CELF", "file", ",", "finds", "the", "relevant", "sections", "of", "the", "file", ",", "looks", "up", "symbols", "from", "the", "symbol", "table", ",", "and", "performs", "the", "generic", "relocation", "logic", ".", "The", "architecture", "specific", "part", "does", "only", "three", "things", ":", "allocates", "ROM", "and", "RAM", ",", "writes", "the", "linked", "and", "relocated", "binary", "to", "flash", "ROM", ",", "and", "understands", "the", "relocation", "types", "in", "order", "to", "modify", "machine", "code", "instructions", "that", "need", "adjustment", "because", "of", "relocation", ".", "5.3.5", "Alternative", "Designs", "The", "Contiki", "core", "symbol", "table", "contains", "all", "externally", "visible", "symbols", "in", "the", "Contiki", "core", ".", "Many", "of", "the", "symbols", "may", "never", "need", "to", "be", "accessed", "by", "loadable", "programs", ",", "thus", "causing", "ROM", "overhead", ".", "An", "alternative", "design", "would", "be", "to", "let", "the", "symbol", "table", "include", "only", "a", "handful", "of", "symbols", ",", "entry", "points", ",", "that", "define", "the", "only", "ways", "for", "an", "application", "program", "to", "interact", "with", "the", "core", ".", "This", "would", "lead", "to", "a", "smaller", "symbol", "table", ",", "but", "would", "also", "require", "a", "detailed", "specification", "of", "which", "entry", "points", "that", "should", "be", "included", "in", "the", "symbol", "table", ".", "The", "main", "reason", "why", "we", "did", "not", "chose", "this", "design", ",", "however", ",", "is", "that", "we", "wish", "to", "be", "able", "to", "replace", "modules", "at", "any", "level", "of", "the", "system", ".", "For", "this", "reason", ",", "we", "chose", "to", "provide", "the", "same", "amount", "of", "symbols", "to", "an", "application", "program", "as", "it", "would", "have", ",", "would", "it", "have", "been", "compiled", "directly", "into", "the", "core", ".", "However", ",", "we", "are", "continuing", "to", "investigate", "this", "alternative", "design", "for", "future", "versions", "of", "the", "system", ".", "5.4", "The", "Java", "Virtual", "Machine", "We", "ported", "the", "Java", "virtual", "machine", "-LRB-", "JVM", "-RRB-", "from", "lejOS", "-LSB-", "8", "-RSB-", ",", "a", "small", "operating", "system", "originally", "developed", "for", "the", "Lego", "Mindstorms", ".", "The", "Lego", "Mindstorms", "are", "equipped", "with", "an", "Hitachi", "H8", "microcontroller", "with", "32", "kilobytes", "of", "RAM", "available", "for", "user", "programs", "such", "as", "the", "JVM", ".", "The", "lejOS", "JVM", "works", "within", "this", "constrained", "memory", "while", "featuring", "pre-emptive", "threads", ",", "recursion", ",", "synchronization", "and", "exceptions", ".", "The", "Contiki", "port", "required", "changes", "to", "the", "RAM-only", "model", "of", "the", "lejOS", "JVM", ".", "To", "be", "able", "to", "run", "Java", "programs", "within", "the", "2", "kilobytes", "of", "RAM", "available", "on", "our", "hardware", "platform", ",", "Java", "classes", "needs", "to", "be", "stored", "in", "flash", "ROM", "rather", "than", "in", "RAM", ".", "The", "Contiki", "port", "stores", "the", "class", "descriptions", "including", "bytecode", "in", "flash", "ROM", "memory", ".", "Static", "class", "data", "and", "class", "flags", "that", "denote", "if", "classes", "have", "been", "initialized", "are", "stored", "in", "RAM", "20", "as", "well", "as", "object", "instances", "and", "execution", "stacks", ".", "The", "RAM", "requirements", "for", "the", "Java", "part", "of", "typical", "sensor", "applications", "are", "a", "few", "hundred", "bytes", ".", "Java", "programs", "can", "call", "native", "code", "methods", "by", "declaring", "native", "Java", "methods", ".", "The", "Java", "virtual", "machine", "dispatches", "calls", "to", "native", "methods", "to", "native", "code", ".", "Any", "native", "function", "in", "Contiki", "may", "be", "called", ",", "including", "services", "that", "are", "part", "of", "a", "loaded", "Contiki", "program", ".", "5.5", "CVM", "-", "the", "Contiki", "Virtual", "Machine", "We", "designed", "the", "Contiki", "Virtual", "Machine", ",", "CVS", ",", "to", "be", "a", "compromise", "between", "an", "application-specific", "and", "a", "generic", "virtual", "machine", ".", "CVM", "can", "be", "configured", "for", "the", "application", "running", "on", "top", "of", "the", "machine", "by", "allowing", "functions", "to", "be", "either", "implemented", "as", "native", "code", "or", "as", "CVM", "code", ".", "To", "be", "able", "to", "run", "the", "same", "programs", "for", "the", "Java", "VM", "and", "for", "CVM", ",", "we", "developed", "a", "compiler", "that", "compiles", "a", "subset", "of", "the", "Java", "language", "to", "CVM", "bytecode", ".", "The", "design", "of", "CVM", "is", "intentionally", "similar", "to", "other", "virtual", "machines", ",", "including", "Mat", "e", "-LSB-", "19", "-RSB-", ",", "VM", "-LSB-", "18", "-RSB-", ",", "and", "the", "Java", "virtual", "machine", ".", "CVM", "is", "a", "stack-based", "machine", "with", "sepa-rated", "code", "and", "data", "areas", ".", "The", "CVM", "instruction", "set", "contains", "integer", "arithmetic", ",", "unconditional", "and", "conditional", "branches", ",", "and", "method", "invocation", "instructions", ".", "Method", "invocation", "can", "be", "done", "in", "two", "ways", ",", "either", "by", "invocation", "of", "CVM", "bytecode", "functions", ",", "or", "by", "invocation", "of", "functions", "implemented", "in", "native", "code", ".", "Invocation", "of", "native", "functions", "is", "done", "through", "a", "special", "instruction", "for", "calling", "native", "code", ".", "This", "instruction", "takes", "one", "parameter", ",", "which", "identifies", "the", "native", "function", "that", "is", "to", "be", "called", ".", "The", "native", "function", "identifiers", "are", "defined", "at", "compile", "time", "by", "the", "user", "that", "compiles", "a", "list", "of", "native", "functions", "that", "the", "CVM", "program", "should", "be", "able", "to", "call", ".", "With", "the", "native", "function", "interface", ",", "it", "is", "possible", "for", "a", "CVM", "program", "to", "call", "any", "native", "functions", "provided", "by", "the", "underlying", "system", ",", "including", "services", "provided", "by", "loadable", "programs", ".", "Native", "functions", "in", "a", "CVM", "program", "are", "invoked", "like", "any", "other", "function", ".", "The", "CVM", "compiler", "uses", "the", "list", "of", "native", "functions", "to", "translate", "calls", "to", "such", "functions", "into", "the", "special", "instruction", "for", "calling", "native", "code", ".", "Parameters", "are", "passed", "to", "native", "functions", "through", "the", "CVM", "stack", ".", "To", "evaluate", "dynamic", "linking", "of", "native", "code", "we", "compare", "the", "energy", "costs", "of", "transferring", ",", "linking", ",", "relocating", ",", "loading", ",", "and", "executing", "a", "native", "code", "module", "in", "ELF", "format", "using", "dynamic", "linking", "with", "the", "energy", "costs", "of", "transferring", ",", "loading", ",", "and", "executing", "the", "same", "program", "compiled", "for", "the", "CVM", "and", "the", "Java", "virtual", "machine", ".", "We", "devise", "a", "simple", "model", "of", "the", "energy", "consumption", "of", "the", "reprogramming", "process", ".", "Thereafter", "we", "experimentally", "quantify", "the", "energy", "and", "memory", "consumption", "as", "well", "as", "the", "execution", "overhead", "for", "the", "reprogramming", ",", "the", "execution", "methods", "and", "the", "applications", ".", "We", "use", "the", "results", "of", "the", "measurements", "as", "input", "into", "the", "model", "which", "enables", "us", "to", "perform", "a", "quantitative", "comparison", "of", "the", "energy-efficiency", "of", "the", "reprogramming", "methods", ".", "We", "use", "the", "ESB", "board", "-LSB-", "33", "-RSB-", "and", "the", "Telos", "Sky", "board", "-LSB-", "29", "-RSB-", "as", "our", "experimental", "platforms", ".", "The", "ESB", "is", "equipped", "with", "an", "MSP430", "microcontroller", "with", "2", "kilobytes", "of", "RAM", "and", "60", "kilobytes", "of", "flash", "ROM", ",", "an", "external", "64", "kilobyte", "EEPROM", ",", "as", "well", "as", "a", "set", "of", "sensors", "and", "a", "TR1001", "radio", "transceiver", ".", "PROCESS_THREAD", "-LRB-", "test_blink", ",", "ev", ",", "data", "-RRB-", "-LCB-", "static", "struct", "etimer", "t", ";", "PROCESS_BEGIN", "-LRB-", "-RRB-", ";", "etimer_set", "-LRB-", "&", "t", ",", "CLOCK_SECOND", "-RRB-", ";", "while", "-LRB-", "1", "-RRB-", "-LCB-", "leds_on", "-LRB-", "LEDS_GREEN", "-RRB-", ";", "PROCESS_WAIT_UNTIL", "-LRB-", "etimer_expired", "-LRB-", "&", "t", "-RRB-", "-RRB-", ";", "etimer_reset", "-LRB-", "&", "t", "-RRB-", ";", "leds_off", "-LRB-", "LEDS_GREEN", "-RRB-", ";", "PROCESS_WAIT_UNTIL", "-LRB-", "etimer_expired", "-LRB-", "&", "t", "-RRB-", "-RRB-", ";", "etimer_reset", "-LRB-", "&", "t", "-RRB-", ";", "-RCB-", "PROCESS_END", "-LRB-", "-RRB-", ";", "-RCB-", "Figure", "3", ".", "Example", "Contiki", "program", "that", "toggles", "the", "LEDs", "every", "second", ".", "The", "Telos", "Sky", "is", "equipped", "with", "an", "MSP430", "microcontroller", "with", "10", "kilobytes", "of", "RAM", "and", "48", "kilobytes", "of", "flash", "ROM", "together", "with", "a", "CC2420", "radio", "transceiver", ".", "We", "use", "the", "ESB", "to", "measure", "the", "energy", "of", "receiving", ",", "storing", ",", "linking", ",", "relocating", ",", "loading", "and", "executing", "loadable", "modules", "and", "the", "Telos", "Sky", "to", "measure", "the", "energy", "of", "receiving", "loadable", "modules", ".", "We", "use", "three", "Contiki", "programs", "to", "measure", "the", "energy", "efficiency", "and", "execution", "overhead", "of", "our", "different", "approaches", ".", "Blinker", ",", "the", "first", "of", "the", "two", "programs", ",", "is", "shown", "in", "Figure", "3", ".", "It", "is", "a", "simple", "program", "that", "toggles", "the", "LEDs", "every", "second", ".", "The", "second", "program", ",", "Object", "Tracker", ",", "is", "an", "object", "tracking", "application", "based", "on", "abstract", "regions", "-LSB-", "35", "-RSB-", ".", "To", "allow", "running", "the", "programs", "both", "as", "native", "code", ",", "as", "CVM", "code", ",", "and", "as", "Java", "code", "we", "have", "implemented", "these", "programs", "both", "in", "C", "and", "Java", ".", "A", "schematic", "illustration", "of", "the", "C", "implementation", "is", "in", "Figure", "4", ".", "To", "support", "the", "object", "tracker", "program", ",", "we", "implemented", "a", "subset", "of", "the", "abstract", "regions", "mechanism", "in", "Contiki", ".", "The", "Java", "and", "CVM", "versions", "of", "the", "program", "call", "native", "code", "versions", "of", "the", "abstract", "regions", "functions", ".", "The", "third", "program", "is", "a", "simple", "8", "by", "8", "vector", "convolution", "calculation", ".", "6.1", "Energy", "Consumption", "We", "model", "the", "energy", "consumption", "E", "of", "the", "reprogramming", "process", "with", "E", "=", "E", "p", "+", "E", "s", "+", "E", "l", "+", "E", "f", "where", "E", "p", "is", "the", "energy", "spent", "in", "transferring", "the", "object", "over", "the", "network", ",", "E", "s", "the", "energy", "cost", "of", "storing", "the", "object", "on", "the", "device", ",", "E", "l", "the", "energy", "consumed", "by", "linking", "and", "relocating", "the", "object", ",", "and", "E", "f", "the", "required", "energy", "for", "of", "storing", "the", "linked", "program", "in", "flash", "ROM", ".", "We", "use", "a", "simplified", "model", "of", "the", "network", "propagation", "energy", "where", "we", "assume", "a", "propagation", "protocol", "where", "the", "energy", "consumption", "E", "p", "is", "proportional", "to", "the", "size", "of", "the", "object", "to", "be", "transferred", ".", "Formally", ",", "E", "p", "=", "P", "p", "s", "o", "where", "s", "o", "is", "the", "size", "of", "the", "object", "file", "to", "be", "transfered", "and", "P", "p", "is", "a", "constant", "scale", "factor", "that", "depends", "on", "the", "network", "protocol", "used", "to", "transfer", "the", "object", ".", "We", "use", "similar", "equations", "for", "E", "s", "-LRB-", "energy", "for", "storing", "the", "binary", "-RRB-", "and", "E", "l", "-LRB-", "energy", "for", "linking", "and", "relocating", "-RRB-", ".", "The", "equation", "for", "E", "f", "-LRB-", "the", "energy", "for", "load-21", "PROCESS_THREAD", "-LRB-", "use_regions_process", ",", "ev", ",", "data", "-RRB-", "-LCB-", "PROCESS_BEGIN", "-LRB-", "-RRB-", ";", "while", "-LRB-", "1", "-RRB-", "-LCB-", "value", "=", "pir_sensor", ".", "value", "-LRB-", "-RRB-", ";", "region_put", "-LRB-", "reading_key", ",", "value", "-RRB-", ";", "region_put", "-LRB-", "reg_x_key", ",", "value", "*", "loc_x", "-LRB-", "-RRB-", "-RRB-", ";", "region_put", "-LRB-", "reg_y_key", ",", "value", "*", "loc_y", "-LRB-", "-RRB-", "-RRB-", ";", "if", "-LRB-", "value", ">", "threshold", "-RRB-", "-LCB-", "max", "=", "region_max", "-LRB-", "reading_key", "-RRB-", ";", "if", "-LRB-", "max", "==", "value", "-RRB-", "-LCB-", "sum", "=", "region_sum", "-LRB-", "reading_key", "-RRB-", ";", "sum_x", "=", "region_sum", "-LRB-", "reg_x_key", "-RRB-", ";", "sum_y", "=", "region_sum", "-LRB-", "reg_y_key", "-RRB-", ";", "centroid_x", "=", "sum_x", "/", "sum", ";", "centroid_y", "=", "sum_y", "/", "sum", ";", "send", "-LRB-", "centroid_x", ",", "centroid_y", "-RRB-", ";", "-RCB-", "-RCB-", "etimer_set", "-LRB-", "&", "t", ",", "PERIODIC_DELAY", "-RRB-", ";", "PROCESS_WAIT_UNTIL", "-LRB-", "etimer_expired", "-LRB-", "&", "t", "-RRB-", "-RRB-", ";", "-RCB-", "PROCESS_END", "-LRB-", "-RRB-", ";", "-RCB-", "Figure", "4", ".", "Schematic", "implementation", "of", "an", "object", "tracker", "based", "on", "abstract", "regions", ".", "ing", "the", "binary", "to", "ROM", "-RRB-", "contains", "the", "size", "of", "the", "compiled", "code", "size", "of", "the", "program", "instead", "of", "the", "size", "of", "the", "object", "file", ".", "This", "model", "is", "intentionally", "simple", "and", "we", "consider", "it", "good", "enough", "for", "our", "purpose", "of", "comparing", "the", "energy-efficiency", "of", "different", "reprogramming", "schemes", ".", "6.1.1", "Lower", "Bounds", "on", "Radio", "Reception", "Energy", "We", "measured", "the", "energy", "consumption", "of", "receiving", "data", "over", "the", "radio", "for", "two", "different", "radio", "transceivers", ":", "the", "TR1001", "-LSB-", "32", "-RSB-", ",", "that", "is", "used", "on", "the", "ESB", "board", ",", "and", "the", "CC2420", "-LSB-", "2", "-RSB-", ",", "that", "conforms", "to", "the", "IEEE", "802.15.4", "standard", "-LSB-", "11", "-RSB-", "and", "is", "used", "on", "the", "Telos", "Sky", "board", ".", "The", "TR1001", "provides", "a", "very", "low-level", "interface", "to", "the", "radio", "medium", ".", "The", "transceiver", "decodes", "data", "at", "the", "bit", "level", "and", "transmits", "the", "bits", "in", "real-time", "to", "the", "CPU", ".", "Start", "bit", "detection", ",", "framing", ",", "MAC", "layer", ",", "checksums", ",", "and", "all", "protocol", "processing", "must", "be", "done", "in", "software", "running", "on", "the", "CPU", ".", "In", "contrast", ",", "the", "interface", "provided", "by", "the", "CC2420", "is", "at", "a", "higher", "level", ".", "Start", "bits", ",", "framing", ",", "and", "parts", "of", "the", "MAC", "protocol", "are", "handled", "by", "the", "transceiver", ".", "The", "software", "driver", "handles", "incoming", "and", "outgoing", "data", "on", "the", "packet", "level", ".", "Since", "the", "TR1001", "operates", "at", "the", "bit-level", ",", "the", "communication", "speed", "of", "the", "TR1001", "is", "determined", "by", "the", "CPU", ".", "We", "use", "a", "data", "rate", "of", "9600", "bits", "per", "second", ".", "The", "CC2420", "has", "a", "data", "rate", "of", "250", "kilobits", "per", "second", ",", "but", "also", "incurs", "some", "protocol", "overhead", "as", "it", "provides", "a", "more", "high-level", "interface", ".", "Figure", "5", "shows", "the", "current", "draw", "from", "receiving", "1000", "bytes", "of", "data", "with", "the", "TR1001", "and", "CC2420", "radio", "transceivers", ".", "These", "measurements", "constitute", "a", "lower", "bound", "on", "the", "energy", "consumption", "for", "receiving", "data", "over", "the", "radio", ",", "as", "they", "do", "not", "include", "any", "control", "overhead", "caused", "by", "a", "code", "propagation", "protocol", ".", "Nor", "do", "they", "include", "any", "packet", "headers", ".", "An", "actual", "propagation", "protocol", "would", "incur", "overhead", "Time", "Energy", "Time", "per", "Energy", "per", "Transceiver", "-LRB-", "s", "-RRB-", "-LRB-", "mJ", "-RRB-", "byte", "-LRB-", "s", "-RRB-", "byte", "-LRB-", "mJ", "-RRB-", "TR1001", "0.83", "21", "0.0008", "0.021", "CC2420", "0.060", "4.8", "0.00006", "0.0048", "Table", "2", ".", "Lower", "bounds", "on", "the", "time", "and", "energy", "consumption", "for", "receiving", "1000", "bytes", "with", "the", "TR1001", "and", "CC2420", "transceivers", ".", "All", "values", "are", "rounded", "to", "two", "significant", "digits", ".", "because", "of", "both", "packet", "headers", "and", "control", "traffic", ".", "For", "example", ",", "the", "Deluge", "protocol", "has", "a", "control", "packet", "overhead", "of", "approximately", "20", "%", "-LSB-", "14", "-RSB-", ".", "This", "overhead", "is", "derived", "from", "the", "total", "number", "of", "control", "packets", "and", "the", "total", "number", "of", "data", "packets", "in", "a", "sensor", "network", ".", "The", "average", "overhead", "in", "terms", "of", "number", "of", "excessive", "data", "packets", "received", "is", "3.35", "-LSB-", "14", "-RSB-", ".", "In", "addition", "to", "the", "actual", "code", "propagation", "protocol", "overhead", ",", "there", "is", "also", "overhead", "from", "the", "MAC", "layer", ",", "both", "in", "terms", "of", "packet", "headers", "and", "control", "traffic", ".", "The", "TR1001", "provides", "a", "low-level", "interface", "to", "the", "CPU", ",", "which", "enabled", "us", "to", "measure", "only", "the", "current", "draw", "of", "the", "receiver", ".", "We", "first", "measured", "the", "time", "required", "for", "receiving", "one", "byte", "of", "data", "from", "the", "radio", ".", "To", "produce", "the", "graph", "in", "the", "figure", ",", "we", "measured", "the", "current", "draw", "of", "an", "ESB", "board", "which", "we", "had", "programmed", "to", "turn", "on", "receive", "mode", "and", "busy-wait", "for", "the", "time", "corresponding", "to", "the", "reception", "time", "of", "1000", "bytes", ".", "When", "measuring", "the", "reception", "current", "draw", "of", "the", "CC2420", ",", "we", "could", "not", "measure", "the", "time", "required", "for", "receiving", "one", "byte", "because", "the", "CC2420", "does", "not", "provide", "an", "interface", "at", "the", "bit", "level", ".", "Instead", ",", "we", "used", "two", "Telos", "Sky", "boards", "and", "programmed", "one", "to", "continuously", "send", "back-to-back", "packets", "with", "100", "bytes", "of", "data", ".", "We", "programmed", "the", "other", "board", "to", "turn", "on", "receive", "mode", "when", "the", "on-board", "button", "was", "pressed", ".", "The", "receiver", "would", "receive", "1000", "bytes", "of", "data", ",", "corresponding", "to", "10", "packets", ",", "before", "turning", "the", "receiver", "off", ".", "We", "placed", "the", "two", "boards", "next", "to", "each", "other", "on", "a", "table", "to", "avoid", "packet", "drops", ".", "We", "produced", "the", "graph", "in", "Figure", "5", "by", "measuring", "the", "current", "draw", "of", "the", "receiver", "Telos", "Sky", "board", ".", "To", "ensure", "that", "we", "did", "not", "get", "spurious", "packet", "drops", ",", "we", "repeated", "the", "measurement", "five", "times", "without", "obtaining", "differing", "results", ".", "Table", "2", "shows", "the", "lower", "bounds", "on", "the", "time", "and", "energy", "consumption", "for", "receiving", "data", "with", "the", "TR1001", "and", "CC2420", "transceivers", ".", "The", "results", "show", "that", "while", "the", "current", "draw", "of", "the", "CC2420", "is", "higher", "than", "that", "of", "the", "TR1001", ",", "the", "energy", "efficiency", "in", "terms", "of", "energy", "per", "byte", "of", "the", "CC2420", "is", "better", "because", "of", "the", "shorter", "time", "required", "to", "receive", "the", "data", ".", "6.1.2", "Energy", "Consumption", "of", "Dynamic", "Linking", "To", "evaluate", "the", "energy", "consumption", "of", "dynamic", "linking", ",", "we", "measure", "the", "energy", "required", "for", "the", "Contiki", "dynamic", "linker", "to", "link", "and", "load", "two", "Contiki", "programs", ".", "Normally", ",", "Contiki", "loads", "programs", "from", "the", "radio", "network", "but", "to", "avoid", "measuring", "any", "unrelated", "radio", "or", "network", "effects", ",", "we", "stored", "the", "loadable", "object", "files", "in", "flash", "ROM", "before", "running", "the", "experiments", ".", "The", "loadable", "objects", "were", "stored", "as", "ELF", "files", "from", "which", "all", "debugging", "information", "and", "symbols", "that", "were", "not", "needed", "for", "run-time", "linking", "was", "removed", ".", "At", "boot-up", ",", "22", "0", "5", "10", "15", "20", "0", "0.2", "0.4", "0.6", "0.8", "1", "Current", "-LRB-", "mA", "-RRB-", "Time", "-LRB-", "s", "-RRB-", "Current", "0", "5", "10", "15", "20", "0", "0.2", "0.4", "0.6", "0.8", "1", "Current", "-LRB-", "mA", "-RRB-", "Time", "-LRB-", "s", "-RRB-", "Current", "Figure", "5", ".", "Current", "draw", "for", "receiving", "1000", "bytes", "with", "the", "TR1001", "and", "CC2420", ",", "respectively", ".", "0", "5", "10", "15", "20", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "Current", "-LRB-", "mA", "-RRB-", "Time", "-LRB-", "s", "-RRB-", "Current", "Writing", "to", "EEPROM", "Linking", "and", "relocating", "Writing", "ROM", "Executing", "binary", "to", "flash", "Figure", "6", ".", "Current", "draw", "for", "writing", "the", "Blinker", "ELF", "file", "to", "EEPROM", "-LRB-", "0", "-", "0.166", "s", "-RRB-", ",", "linking", "and", "relocating", "the", "program", "-LRB-", "0.166", "-", "0.418", "s", "-RRB-", ",", "writing", "the", "resulting", "code", "to", "flash", "ROM", "-LRB-", "0.418", "-", "0.488", "s", "-RRB-", ",", "and", "executing", "the", "binary", "-LRB-", "0.488", "s", "and", "onward", "-RRB-", ".", "The", "current", "spikes", "delimit", "the", "three", "steps", "and", "are", "intentionally", "caused", "by", "blinking", "on-board", "LEDs", ".", "The", "high", "energy", "consumption", "when", "executing", "the", "binary", "is", "caused", "by", "the", "green", "LED", ".", "one", "ELF", "file", "was", "copied", "into", "an", "on-board", "EEPROM", "from", "where", "the", "Contiki", "dynamic", "linker", "linked", "and", "relocated", "the", "ELF", "file", "before", "it", "loaded", "the", "program", "into", "flash", "ROM", ".", "Figure", "6", "shows", "the", "current", "draw", "when", "loading", "the", "Blinker", "program", ",", "and", "Figure", "7", "shows", "the", "current", "draw", "when", "loading", "the", "Object", "Tracker", "program", ".", "The", "current", "spikes", "seen", "in", "both", "graphs", "are", "intentionally", "caused", "by", "blinking", "the", "on-board", "LEDs", ".", "The", "spikes", "delimit", "the", "four", "different", "steps", "that", "the", "loader", "is", "going", "through", ":", "copying", "the", "ELF", "object", "file", "to", "EEPROM", ",", "linking", "and", "relocating", "the", "object", "code", ",", "copying", "the", "linked", "code", "to", "flash", "ROM", ",", "and", "finally", "executing", "the", "loaded", "program", ".", "The", "current", "draw", "of", "the", "green", "LED", "is", "slightly", "above", "8", "mA", ",", "which", "causes", "the", "high", "current", "draw", "when", "executing", "the", "blinker", "program", "-LRB-", "Figure", "6", "-RRB-", ".", "Similarly", ",", "when", "the", "object", "tracking", "application", "starts", ",", "it", "turns", "on", "the", "radio", "for", "neighbor", "discovery", ".", "This", "causes", "the", "current", "draw", "to", "rise", "to", "around", "6", "mA", "in", "Figure", "7", ",", "and", "matches", "the", "radio", "current", "measurements", "in", "Figure", "5", ".", "Table", "3", "shows", "the", "energy", "consumption", "of", "loading", "and", "linking", "the", "Blinker", "program", ".", "The", "energy", "was", "obtained", "from", "integration", "of", "the", "curve", "from", "Figure", "6", "and", "multiplying", "it", "by", "0", "5", "10", "15", "20", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "Current", "-LRB-", "mA", "-RRB-", "Time", "-LRB-", "s", "-RRB-", "Current", "Writing", "to", "EEPROM", "ROM", "Writing", "to", "flash", "Executing", "binary", "Linking", "and", "relocating", "Figure", "7", ".", "Current", "draw", "for", "writing", "the", "Object", "Tracker", "ELF", "file", "to", "EEPROM", "-LRB-", "0", "-", "0.282", "s", "-RRB-", ",", "linking", "and", "relocating", "the", "program", "-LRB-", "0.282", "-", "0.882", "s", "-RRB-", ",", "writing", "the", "resulting", "code", "to", "flash", "ROM", "-LRB-", "0.882", "-", "0.988", "s", "-RRB-", ",", "and", "executing", "the", "binary", "-LRB-", "0.988", "s", "and", "onward", "-RRB-", ".", "The", "current", "spikes", "delimit", "the", "three", "steps", "and", "are", "intentionally", "caused", "by", "blinking", "on-board", "LEDs", ".", "The", "high", "current", "draw", "when", "executing", "the", "binary", "comes", "from", "the", "radio", "being", "turned", "on", ".", "the", "voltage", "used", "in", "our", "experiments", "-LRB-", "4.5", "V", "-RRB-", ".", "We", "see", "that", "the", "linking", "and", "relocation", "step", "is", "the", "most", "expensive", "in", "terms", "of", "energy", ".", "It", "is", "also", "the", "longest", "step", ".", "To", "evaluate", "the", "energy", "overhead", "of", "the", "ELF", "file", "format", ",", "we", "compare", "the", "energy", "consumption", "for", "receiving", "four", "different", "Contiki", "programs", "using", "the", "ELF", "and", "CELF", "formats", ".", "In", "addition", "to", "the", "two", "programs", "from", "Figures", "3", "and", "4", "we", "include", "the", "code", "for", "the", "Contiki", "code", "propagation", "mechanism", "and", "a", "network", "publish/subscribe", "program", "that", "performs", "periodic", "flooding", "and", "converging", "of", "information", ".", "The", "two", "latter", "programs", "are", "significantly", "larger", ".", "We", "calculate", "an", "estimate", "of", "the", "required", "energy", "for", "receiving", "the", "files", "by", "using", "the", "measured", "energy", "consumption", "of", "the", "CC2420", "radio", "transceiver", "and", "multiply", "it", "by", "the", "average", "overhead", "by", "the", "Deluge", "code", "propagation", "protocol", ",", "3.35", "-LSB-", "14", "-RSB-", ".", "The", "results", "are", "listed", "in", "Table", "4", "and", "show", "that", "radio", "reception", "is", "more", "energy", "consuming", "than", "linking", "and", "loading", "a", "program", ",", "even", "for", "a", "small", "program", ".", "Furthermore", ",", "the", "results", "show", "that", "the", "relative", "average", "size", "and", "energy", "overhead", "for", "ELF", "files", "compared", "to", "the", "code", "and", "data", "contained", "in", "the", "files", "is", "approximately", "4", "whereas", "the", "relative", "CELF", "overhead", "is", "just", "under", "2", ".", "23", "ELF", "ELF", "ELF", "radio", "CELF", "CELF", "CELF", "radio", "Code", "Data", "file", "file", "size", "reception", "file", "file", "size", "reception", "Program", "size", "size", "size", "overhead", "energy", "-LRB-", "mJ", "-RRB-", "size", "overhead", "energy", "-LRB-", "mJ", "-RRB-", "Blinker", "130", "14", "1056", "7.3", "17", "361", "2.5", "5.9", "Object", "tracker", "344", "22", "1668", "5.0", "29", "758", "2.0", "12", "Code", "propagator", "2184", "10", "5696", "2.6", "92", "3686", "1.7", "59", "Flood/converge", "4298", "42", "8456", "1.9", "136", "5399", "1.2", "87", "Table", "4", ".", "The", "overhead", "of", "the", "ELF", "and", "CELF", "file", "formats", "in", "terms", "of", "bytes", "and", "estimated", "reception", "energy", "for", "four", "Contiki", "programs", ".", "The", "reception", "energy", "is", "the", "lower", "bound", "of", "the", "radio", "reception", "energy", "with", "the", "CC2420", "chip", ",", "multiplied", "by", "the", "average", "Deluge", "overhead", "-LRB-", "3.35", "-RRB-", ".", "Blinker", "Energy", "Obj", ".", "Tr", ".", "Energy", "Step", "time", "-LRB-", "s", "-RRB-", "-LRB-", "mJ", "-RRB-", "time", "-LRB-", "s", "-RRB-", "-LRB-", "mJ", "-RRB-", "Wrt.", ".", "EEPROM", "0.164", "1.1", "0.282", "1.9", "Link", "&", "reloc", "0.252", "1.2", "0.600", "2.9", "Wrt.", "flash", "ROM", "0.070", "0.62", "0.106", "0.76", "Total", "0.486", "2.9", "0.988", "5.5", "Table", "3", ".", "Measured", "energy", "consumption", "of", "the", "storing", ",", "linking", "and", "loading", "of", "the", "1056", "bytes", "large", "Blinker", "binary", "and", "the", "1824", "bytes", "large", "Object", "Tracker", "binary", ".", "The", "size", "of", "the", "Blinker", "code", "is", "130", "bytes", "and", "the", "size", "of", "the", "Object", "Tracker", "code", "is", "344", "bytes", ".", "Module", "ROM", "RAM", "Static", "loader", "670", "0", "Dynamic", "linker", ",", "loader", "5694", "18", "CVM", "1344", "8", "Java", "VM", "13284", "59", "Table", "5", ".", "Memory", "requirements", ",", "in", "bytes", ".", "The", "ROM", "size", "for", "the", "dynamic", "linker", "includes", "the", "symbol", "table", ".", "The", "RAM", "figures", "do", "not", "include", "memory", "for", "programs", "running", "on", "top", "of", "the", "virtual", "machines", ".", "6.2", "Memory", "Consumption", "Memory", "consumption", "is", "an", "important", "metric", "for", "sensor", "nodes", "since", "memory", "is", "a", "scarce", "resource", "on", "most", "sensor", "node", "platforms", ".", "The", "ESB", "nodes", "feature", "only", "2", "KB", "RAM", "and", "60", "KB", "ROM", "while", "Mica2", "motes", "provide", "128", "KB", "of", "program", "memory", "and", "4", "KB", "of", "RAM", ".", "The", "less", "memory", "required", "for", "reprogramming", ",", "the", "more", "is", "left", "for", "applications", "and", "support", "for", "other", "important", "tasks", "such", "as", "security", "which", "may", "also", "require", "a", "large", "part", "of", "the", "available", "memory", "-LSB-", "28", "-RSB-", ".", "Table", "5", "lists", "the", "memory", "requirements", "of", "the", "static", "linker", ",", "the", "dynamic", "linker", "and", "loader", ",", "the", "CVM", "and", "the", "Java", "VM", ".", "The", "dynamic", "linker", "needs", "to", "keep", "a", "table", "of", "all", "core", "symbols", "in", "the", "system", ".", "For", "a", "complete", "Contiki", "system", "with", "process", "management", ",", "networking", ",", "the", "dynamic", "loader", ",", "memory", "allocation", ",", "Contiki", "libraries", ",", "and", "parts", "of", "the", "standard", "C", "library", ",", "the", "symbol", "table", "requires", "about", "4", "kilobytes", "of", "ROM", ".", "This", "is", "included", "in", "the", "ROM", "size", "for", "the", "dynamic", "linker", ".", "6.3", "Execution", "Overhead", "To", "measure", "the", "execution", "overhead", "of", "the", "application", "specific", "virtual", "machine", "and", "the", "Java", "virtual", "machine", ",", "we", "implemented", "the", "object", "tracking", "program", "in", "Figure", "4", "in", "C", "and", "Java", ".", "We", "compiled", "the", "Java", "code", "to", "CVM", "code", "and", "Java", "bytecode", ".", "We", "ran", "the", "compiled", "code", "on", "the", "MSP430-equipped", "ESB", "board", ".", "The", "native", "C", "code", "was", "compiled", "Execution", "type", "Execution", "time", "-LRB-", "ms", "-RRB-", "Energy", "-LRB-", "mJ", "-RRB-", "Native", "0.479", "0.00054", "CVM", "0.845", "0.00095", "Java", "VM", "1.79", "0.0020", "Table", "6", ".", "Execution", "times", "and", "energy", "consumption", "of", "one", "iteration", "of", "the", "tracking", "program", ".", "Execution", "type", "Execution", "time", "-LRB-", "ms", "-RRB-", "Energy", "-LRB-", "mJ", "-RRB-", "Native", "0.67", "0.00075", "CVM", "58.52", "0.065", "Java", "VM", "65.6", "0.073", "Table", "7", ".", "Execution", "times", "and", "energy", "consumption", "of", "the", "8", "by", "8", "vector", "convolution", ".", "with", "the", "MSP430", "port", "of", "GCC", "version", "3.2.3", ".", "The", "MSP430", "digitally-controlled", "oscillator", "was", "set", "to", "clock", "the", "CPU", "at", "a", "speed", "of", "2.4576", "MHz", ".", "We", "measured", "the", "execution", "time", "of", "the", "three", "implementations", "using", "the", "on-chip", "timer", "A1", "that", "was", "set", "to", "generate", "a", "timer", "interrupt", "1000", "times", "per", "second", ".", "The", "execution", "times", "are", "averaged", "over", "5000", "iterations", "of", "the", "object", "tracking", "program", ".", "The", "results", "in", "Table", "6", "show", "the", "execution", "time", "of", "one", "run", "of", "the", "object", "tracking", "application", "from", "Figure", "4", ".", "The", "execution", "time", "measurements", "are", "averaged", "over", "5000", "runs", "of", "the", "object", "tracking", "program", ".", "The", "energy", "consumption", "is", "calculated", "by", "multiplying", "the", "execution", "time", "with", "the", "average", "energy", "consumption", "when", "a", "program", "is", "running", "with", "the", "radio", "turned", "off", ".", "The", "table", "shows", "that", "the", "overhead", "of", "the", "Java", "virtual", "machine", "is", "higher", "than", "that", "of", "the", "CVM", ",", "which", "is", "turn", "is", "higher", "than", "the", "execution", "overhead", "of", "the", "native", "C", "code", ".", "All", "three", "implementations", "of", "the", "tracker", "program", "use", "the", "same", "abstract", "regions", "library", "which", "is", "compiled", "as", "native", "code", ".", "Thus", "much", "of", "the", "execution", "time", "in", "the", "Java", "VM", "and", "CVM", "implementations", "of", "the", "object", "tracking", "program", "is", "spent", "executing", "the", "native", "code", "in", "the", "abstract", "regions", "library", ".", "Essentially", ",", "the", "virtual", "machine", "simply", "acts", "as", "a", "dispatcher", "of", "calls", "to", "various", "native", "functions", ".", "For", "programs", "that", "spend", "a", "significant", "part", "of", "their", "time", "executing", "virtual", "machine", "code", "the", "relative", "execution", "times", "are", "significantly", "higher", "for", "the", "virtual", "machine", "programs", ".", "To", "illustrate", "this", ",", "Table", "7", "lists", "the", "execution", "times", "of", "a", "convolution", "operation", "of", "two", "vectors", "of", "length", "8", ".", "Convolution", "is", "a", "common", "operation", "in", "digital", "signal", "processing", "where", "it", "is", "used", "for", "algorithms", "such", "as", "filtering", "or", "edge", "detection", ".", "We", "see", "that", "the", "execution", "time", "of", "the", "program", "running", "on", "the", "virtual", "machines", "is", "close", "to", "ten", "times", "that", "of", "the", "native", "program", ".", "24", "Dynamic", "Full", "image", "Step", "linking", "-LRB-", "mJ", "-RRB-", "replacement", "-LRB-", "mJ", "-RRB-", "Receiving", "17", "330", "Wrt.", ".", "EEPROM", "1.1", "22", "Link", "&", "reloc", "1.4", "Wrt", ".", "flash", "ROM", "0.45", "72", "Total", "20", "424", "Table", "8", ".", "Comparison", "of", "energy-consumption", "of", "reprogramming", "the", "blinker", "application", "using", "dynamic", "linking", "with", "an", "ELF", "file", "and", "full", "image", "replacement", "methods", ".", "Step", "ELF", "CELF", "CVM", "Java", "Size", "-LRB-", "bytes", "-RRB-", "1824", "968", "123", "1356", "Receiving", "29", "12", "2.0", "22", "Wrt.", ".", "EEPROM", "1.9", "0.80", "Link", "&", "reloc", "2.5", "2.5", "Wrt", ".", "flash", "ROM", "1.2", "1.2", "4", ".7", "Total", "35", "16.5", "2.0", "26.7", "Table", "9", ".", "Comparison", "of", "energy-consumption", "in", "mJ", "of", "reprogramming", "for", "the", "object", "tracking", "application", "using", "the", "four", "different", "methods", ".", "6.4", "Quantitative", "Comparison", "Using", "our", "model", "from", "Section", "6.1", "and", "the", "results", "from", "the", "above", "measurements", ",", "we", "can", "calculate", "approximations", "of", "the", "energy", "consumption", "for", "distribution", ",", "reprogramming", ",", "and", "execution", "of", "native", "and", "virtual", "machine", "programs", "in", "order", "to", "compare", "the", "methods", "with", "each", "other", ".", "We", "set", "P", "p", ",", "the", "scale", "factor", "of", "the", "energy", "consumption", "for", "receiving", "an", "object", "file", ",", "to", "the", "average", "Deluge", "overhead", "of", "3.35", ".", "6.4.1", "Dynamic", "Linking", "vs", "Full", "Image", "Replacement", "We", "first", "compare", "the", "energy", "costs", "for", "the", "two", "native", "code", "reprogramming", "models", ":", "dynamic", "linking", "and", "full", "image", "replacement", ".", "Table", "8", "shows", "the", "results", "for", "the", "energy", "consumption", "of", "reprogramming", "the", "blinker", "application", ".", "The", "size", "of", "blinker", "application", "including", "the", "operating", "system", "is", "20", "KB", "which", "is", "about", "20", "times", "the", "size", "of", "the", "blinker", "application", "itself", ".", "Even", "though", "no", "linking", "needs", "to", "be", "performed", "during", "the", "full", "image", "replacement", ",", "this", "method", "is", "about", "20", "times", "more", "expensive", "to", "perform", "a", "whole", "image", "replacement", "compared", "to", "a", "modular", "update", "using", "the", "dynamic", "linker", ".", "6.4.2", "Dynamic", "Linking", "vs", "Virtual", "Machines", "We", "use", "the", "tracking", "application", "to", "compare", "reprogramming", "using", "the", "Contiki", "dynamic", "linker", "with", "code", "updates", "for", "the", "CVM", "and", "the", "Java", "virtual", "machine", ".", "CVM", "programs", "are", "typically", "very", "small", "and", "are", "not", "stored", "in", "EEPROM", ",", "nor", "are", "they", "linked", "or", "written", "to", "flash", ".", "Java", "uncompressed", "class", "files", "are", "loaded", "into", "flash", "ROM", "before", "they", "are", "executed", ".", "Table", "9", "shows", "the", "sizes", "of", "the", "corresponding", "binaries", "and", "the", "energy", "consumption", "of", "each", "reprogramming", "step", ".", "As", "expected", ",", "the", "process", "of", "updating", "sensor", "nodes", "with", "native", "code", "is", "less", "energy-efficient", "than", "updating", "with", "a", "virtual", "machine", ".", "Also", ",", "as", "shown", "in", "Table", "6", ",", "executing", "native", "code", "is", "more", "energy-efficient", "than", "executing", "code", "for", "the", "virtual", "machines", ".", "By", "combining", "the", "results", "in", "Table", "6", "and", "Table", "9", ",", "we", "can", "compute", "break-even", "points", "for", "how", "often", "we", "can", "execute", "native", "code", "as", "opposed", "to", "virtual", "machine", "code", "for", "the", "same", "0", "20", "40", "60", "80", "100", "120", "140", "0", "20000", "40000", "60000", "80000", "100000", "Consumed", "energy", "-LRB-", "mJ", "-RRB-", "Number", "of", "program", "iterations", "Java", "VM", "ELF", "CVM", "CELF", "Figure", "8", ".", "Break-even", "points", "for", "the", "object", "tracking", "program", "implemented", "with", "four", "different", "linking", "and", "execution", "methods", ".", "0", "20", "40", "60", "80", "100", "120", "140", "0", "200", "400", "600", "800", "1000", "Consumed", "energy", "-LRB-", "mJ", "-RRB-", "Number", "of", "program", "iterations", "Java", "VM", "ELF", "CVM", "CELF", "Figure", "9", ".", "Break-even", "points", "for", "the", "vector", "convolution", "implemented", "with", "four", "different", "linking", "and", "execution", "methods", ".", "energy", "consumption", ".", "That", "is", ",", "after", "how", "many", "program", "iterations", "do", "the", "cheaper", "execution", "costs", "outweigh", "the", "more", "expensive", "code", "updates", ".", "Figure", "8", "shows", "the", "modeled", "energy", "consumption", "for", "executing", "the", "Object", "Tracking", "program", "using", "native", "code", "loaded", "with", "an", "ELF", "object", "file", ",", "native", "code", "loaded", "with", "an", "CELF", "object", "file", ",", "CVM", "code", ",", "and", "Java", "code", ".", "We", "see", "that", "the", "Java", "virtual", "machine", "is", "expensive", "in", "terms", "of", "energy", "and", "will", "always", "require", "more", "energy", "than", "native", "code", "loaded", "with", "a", "CELF", "file", ".", "For", "native", "code", "loaded", "with", "an", "ELF", "file", "the", "energy", "overhead", "due", "to", "receiving", "the", "file", "makes", "the", "Java", "virtual", "machine", "more", "energy", "efficient", "until", "the", "program", "is", "repeated", "a", "few", "thousand", "times", ".", "Due", "to", "the", "small", "size", "of", "the", "CVM", "code", "it", "is", "very", "energy", "efficient", "for", "small", "numbers", "of", "program", "iterations", ".", "It", "takes", "about", "40000", "iterations", "of", "the", "program", "before", "the", "interpretation", "overhead", "outweigh", "the", "linking", "and", "loading", "overhead", "of", "same", "program", "running", "as", "native", "code", "and", "loaded", "as", "a", "CELF", "file", ".", "If", "the", "native", "program", "was", "loaded", "with", "an", "ELF", "file", ",", "however", ",", "the", "CVM", "program", "needs", "to", "be", "run", "approximately", "80000", "iterations", "before", "the", "energy", "costs", "are", "the", "same", ".", "At", "the", "break-even", "point", ",", "the", "energy", "consumption", "is", "only", "about", "one", "fifth", "of", "the", "energy", "consumption", "for", "loading", "the", "blink", "program", "using", "full", "image", "replacement", "as", "shown", "in", "Table", "8", ".", "In", "contrast", "with", "Figure", "8", ",", "Figure", "9", "contains", "the", "break-even", "points", "from", "the", "vector", "convolution", "in", "Table", "7", ".", "We", "assume", "that", "the", "convolution", "algorithm", "is", "part", "of", "a", "program", "with", "the", "same", "size", "as", "in", "Figure", "8", "so", "that", "the", "energy", "consumption", "for", "reprogramming", "is", "the", "same", ".", "In", "this", "case", "the", "break-even", "points", "are", "drastically", "lower", "than", "in", "Figure", "8", ".", "Here", "the", "native", "code", "loaded", "with", "an", "ELF", "file", "outperforms", "the", "Java", "imple-25", "mentation", "already", "at", "100", "iterations", ".", "The", "CVM", "implementation", "has", "spent", "as", "much", "energy", "as", "the", "native", "ELF", "implementation", "after", "500", "iterations", ".", "6.5", "Scenario", "Suitability", "We", "can", "now", "apply", "our", "results", "to", "the", "software", "update", "scenarios", "discussed", "in", "Section", "2", ".", "In", "a", "scenario", "with", "frequent", "code", "updates", ",", "such", "as", "the", "dynamic", "application", "scenario", "or", "during", "software", "development", ",", "a", "low", "loading", "overhead", "is", "to", "prefer", ".", "From", "Figure", "8", "we", "see", "that", "both", "an", "application-specific", "virtual", "machine", "and", "a", "Java", "machine", "may", "be", "good", "choices", ".", "Depending", "on", "the", "type", "of", "application", "it", "may", "be", "beneficial", "to", "decide", "to", "run", "the", "program", "on", "top", "of", "a", "more", "flexible", "virtual", "machine", "such", "as", "the", "Java", "machine", ".", "The", "price", "for", "such", "a", "decision", "is", "higher", "energy", "overhead", ".", "In", "scenarios", "where", "the", "update", "frequency", "is", "low", ",", "e.g.", "when", "fixing", "bugs", "in", "installed", "software", "or", "when", "reconfiguring", "an", "installed", "application", ",", "the", "higher", "price", "for", "dynamic", "linking", "may", "be", "worth", "paying", ".", "If", "the", "program", "is", "continuously", "run", "for", "a", "long", "time", ",", "the", "energy", "savings", "of", "being", "able", "to", "use", "native", "code", "outweigh", "the", "energy", "cost", "of", "the", "linking", "process", ".", "Furthermore", ",", "with", "a", "virtual", "machine", "it", "may", "not", "be", "possible", "to", "make", "changes", "to", "all", "levels", "of", "the", "system", ".", "For", "example", ",", "a", "bug", "in", "a", "low-level", "driver", "can", "usually", "only", "be", "fixed", "by", "installing", "new", "native", "code", ".", "Moreover", ",", "programs", "that", "are", "computation-ally", "heavy", "benefit", "from", "being", "implemented", "as", "native", "code", "as", "native", "code", "has", "lower", "energy", "consumption", "than", "virtual", "machine", "code", ".", "The", "results", "from", "Figures", "8", "and", "9", "suggest", "that", "a", "combination", "of", "virtual", "machin", "code", "and", "native", "code", "can", "be", "energy", "efficient", ".", "For", "many", "situations", "this", "may", "be", "a", "viable", "alternative", "to", "running", "only", "native", "code", "or", "only", "virtual", "machine", "code", ".", "6.6", "Portability", "Because", "of", "the", "diversity", "of", "sensor", "network", "platforms", ",", "the", "Contiki", "dynamic", "linker", "is", "designed", "to", "be", "portable", "between", "different", "microcontrollers", ".", "The", "dynamic", "linker", "is", "divided", "into", "two", "modules", ":", "a", "generic", "part", "that", "parses", "and", "analyzes", "the", "ELF/CELF", "that", "is", "to", "be", "loaded", ",", "and", "a", "microcontroller-specific", "part", "that", "allocates", "memory", "for", "the", "program", "to", "be", "loaded", ",", "performs", "code", "and", "data", "relocation", ",", "and", "writes", "the", "linked", "program", "into", "memory", ".", "To", "evaluate", "the", "portability", "of", "our", "design", "we", "have", "ported", "the", "dynamic", "linker", "to", "two", "different", "microcontrollers", ":", "the", "TI", "MSP430", "and", "the", "Atmel", "AVR", ".", "The", "TI", "MSP430", "is", "used", "in", "several", "sensor", "network", "platforms", ",", "including", "the", "Telos", "Sky", "and", "the", "ESB", ".", "The", "Atmel", "AVR", "is", "used", "in", "the", "Mica2", "motes", ".", "Table", "10", "shows", "the", "number", "of", "lines", "of", "code", "needed", "to", "implement", "each", "module", ".", "The", "dramatic", "difference", "between", "the", "MSP430-specific", "module", "and", "the", "AVR-specific", "module", "is", "due", "to", "the", "different", "addressing", "modes", "used", "by", "the", "machine", "code", "of", "the", "two", "microcontrollers", ".", "While", "the", "MSP430", "has", "only", "one", "addressing", "mode", ",", "the", "AVR", "has", "19", "different", "addressing", "modes", ".", "Each", "addressing", "mode", "must", "be", "handled", "dif-ferently", "by", "the", "relocation", "function", ",", "which", "leads", "to", "a", "larger", "amount", "of", "code", "for", "the", "AVR-specific", "module", ".", "Standard", "file", "formats", ".", "Our", "main", "motivation", "behind", "choosing", "the", "ELF", "format", "for", "dynamic", "linking", "in", "Contiki", "was", "Lines", "of", "code", ",", "Lines", "of", "code", ",", "Module", "total", "relocation", "function", "Generic", "linker", "292", "MSP430-specific", "45", "8", "AVR-specific", "143", "104", "Table", "10", ".", "Number", "of", "lines", "of", "code", "for", "the", "dynamic", "linker", "and", "the", "microcontroller-specific", "parts", ".", "that", "the", "ELF", "format", "is", "a", "standard", "file", "format", ".", "Many", "compilers", "and", "utilities", ",", "including", "all", "GCC", "utilities", ",", "are", "able", "to", "produce", "and", "handle", "ELF", "files", ".", "Hence", "no", "special", "software", "is", "needed", "to", "compile", "and", "upload", "new", "programs", "into", "a", "network", "of", "Contiki", "nodes", ".", "In", "contrast", ",", "FlexCup", "-LSB-", "27", "-RSB-", "or", "diff-based", "approaches", "require", "the", "usage", "of", "specially", "crafted", "utilities", "to", "produce", "meta", "data", "or", "diff", "scripts", "required", "for", "uploading", "software", ".", "These", "special", "utilities", "also", "need", "to", "be", "maintained", "and", "ported", "to", "the", "full", "range", "of", "development", "platforms", "used", "for", "software", "development", "for", "the", "system", ".", "Operating", "system", "support", ".", "Dynamic", "linking", "of", "ELF", "files", "requires", "support", "from", "the", "underlying", "operating", "system", "and", "can", "not", "be", "done", "on", "monolithic", "operating", "systems", "such", "as", "TinyOS", ".", "This", "is", "a", "disadvantage", "of", "our", "approach", ".", "For", "monolithic", "operating", "systems", ",", "an", "approach", "such", "as", "FlexCup", "is", "better", "suited", ".", "Heterogeneity", ".", "With", "diff-based", "approaches", "a", "binary", "diff", "is", "created", "either", "at", "a", "base", "station", "or", "by", "an", "outside", "server", ".", "The", "server", "must", "have", "knowledge", "of", "the", "exact", "software", "configuration", "of", "the", "sensor", "nodes", "on", "which", "the", "diff", "script", "is", "to", "be", "run", ".", "If", "sensor", "nodes", "are", "running", "different", "versions", "of", "their", "software", ",", "diff-based", "approaches", "do", "not", "scale", ".", "Specifically", ",", "in", "many", "of", "our", "development", "networks", "we", "have", "witnessed", "a", "form", "of", "micro", "heterogeneity", "in", "the", "software", "configuration", ".", "Many", "sensor", "nodes", ",", "which", "have", "been", "running", "the", "exact", "same", "version", "of", "the", "Contiki", "operating", "system", ",", "have", "had", "small", "differences", "in", "the", "address", "of", "functions", "and", "variables", "in", "the", "core", ".", "This", "micro", "heterogeneity", "comes", "from", "the", "different", "core", "images", "being", "compiled", "by", "different", "developers", ",", "each", "having", "slightly", "different", "versions", "of", "the", "C", "compiler", ",", "the", "C", "library", "and", "the", "linker", "utilities", ".", "This", "results", "in", "small", "variations", "of", "the", "operating", "system", "image", "depending", "on", "which", "developer", "compiled", "the", "operating", "system", "image", ".", "With", "diff-based", "approaches", "micro", "heterogeneity", "poses", "a", "big", "problem", ",", "as", "the", "base", "station", "would", "have", "to", "be", "aware", "of", "all", "the", "small", "differences", "between", "each", "node", ".", "Combination", "of", "native", "and", "virtual", "machine", "code", ".", "Our", "results", "suggest", "that", "a", "combination", "of", "native", "and", "virtual", "machine", "code", "is", "an", "energy", "efficient", "alternative", "to", "pure", "native", "code", "or", "pure", "virtual", "machine", "code", "approaches", ".", "The", "dynamic", "linking", "mechanism", "can", "be", "used", "to", "load", "the", "native", "code", "that", "is", "used", "by", "the", "virtual", "machine", "code", "by", "the", "native", "code", "interfaces", "in", "the", "virtual", "machines", ".", "Because", "of", "the", "importance", "of", "dynamic", "reprogramming", "of", "wireless", "sensor", "networks", "there", "has", "been", "a", "lot", "of", "effort", "in", "the", "area", "of", "software", "updates", "for", "sensor", "nodes", "both", "in", "the", "form", "of", "system", "support", "for", "software", "updates", "and", "execution", "environments", "that", "directly", "impact", "the", "type", "and", "size", "of", "updates", "as", "well", "as", "distribution", "protocols", "for", "software", "updates", ".", "26", "Mainwaring", "et", "al.", "-LSB-", "26", "-RSB-", "also", "identified", "the", "trade-off", "between", "using", "virtual", "machine", "code", "that", "is", "more", "expensive", "to", "run", "but", "enables", "more", "energy-efficient", "updates", "and", "running", "native", "code", "that", "executes", "more", "efficiently", "but", "requires", "more", "costly", "updates", ".", "This", "trade-off", "has", "been", "further", "discussed", "by", "Levis", "and", "Culler", "-LSB-", "19", "-RSB-", "who", "implemented", "the", "Mat", "e", "virtual", "machine", "designed", "to", "both", "simplify", "programming", "and", "to", "leverage", "energy-efficient", "large-scale", "software", "updates", "in", "sensor", "networks", ".", "Mat", "e", "is", "implemented", "on", "top", "of", "TinyOS", ".", "Levis", "and", "Culler", "later", "enhanced", "Mat", "e", "by", "application", "specific", "virtual", "machines", "-LRB-", "ASVMs", "-RRB-", "-LSB-", "20", "-RSB-", ".", "They", "address", "the", "main", "limitations", "of", "Mat", "e", ":", "flexibility", ",", "concurrency", "and", "propagation", ".", "Whereas", "Mat", "e", "was", "designed", "for", "a", "single", "application", "domain", "only", ",", "ASVM", "supports", "a", "wide", "range", "of", "application", "domains", ".", "Further", ",", "instead", "of", "relying", "on", "broadcasts", "for", "code", "propagation", "as", "Mat", "e", ",", "ASVM", "uses", "the", "trickle", "algorithm", "-LSB-", "21", "-RSB-", ".", "The", "MagnetOS", "-LSB-", "23", "-RSB-", "system", "uses", "the", "Java", "virtual", "machine", "to", "distribute", "applications", "across", "an", "ad", "hoc", "network", "of", "laptops", ".", "In", "MagnetOS", ",", "Java", "applications", "are", "partitioned", "into", "distributed", "components", ".", "The", "components", "transparently", "communicate", "by", "raising", "events", ".", "Unlike", "Mat", "e", "and", "Contiki", ",", "MagnetOS", "targets", "larger", "platforms", "than", "sensor", "nodes", "such", "as", "PocketPC", "devices", ".", "SensorWare", "-LSB-", "1", "-RSB-", "is", "another", "script-based", "proposal", "for", "programming", "nodes", "that", "targets", "larger", "platforms", ".", "VM", "*", "is", "a", "framework", "for", "runtime", "environments", "for", "sensor", "networks", "-LSB-", "18", "-RSB-", ".", "Using", "this", "framework", "Koshy", "and", "Pandey", "have", "implemented", "a", "subset", "of", "the", "Java", "Virtual", "Machine", "that", "enables", "programmers", "to", "write", "applications", "in", "Java", ",", "and", "access", "sensing", "devices", "and", "I/O", "through", "native", "interfaces", ".", "Mobile", "agent-based", "approaches", "extend", "the", "notion", "of", "injected", "scripts", "by", "deploying", "dynamic", ",", "localized", "and", "intelligent", "mobile", "agents", ".", "Using", "mobile", "agents", ",", "Fok", "et", "al.", "have", "built", "the", "Agilla", "platform", "that", "enables", "continuous", "reprogramming", "by", "injecting", "new", "agents", "into", "the", "network", "-LSB-", "9", "-RSB-", ".", "TinyOS", "uses", "a", "special", "description", "language", "for", "composing", "a", "system", "of", "smaller", "components", "-LSB-", "10", "-RSB-", "which", "are", "statically", "linked", "with", "the", "kernel", "to", "a", "complete", "image", "of", "the", "system", ".", "After", "linking", ",", "modifying", "the", "system", "is", "not", "possible", "-LSB-", "19", "-RSB-", "and", "hence", "TinyOS", "requires", "the", "whole", "image", "to", "be", "updated", "even", "for", "small", "code", "changes", ".", "Systems", "that", "offer", "loadable", "modules", "besides", "Contiki", "include", "SOS", "-LSB-", "12", "-RSB-", "and", "Impala", "-LSB-", "24", "-RSB-", ".", "Impala", "features", "an", "application", "updater", "that", "enables", "software", "updates", "to", "be", "performed", "by", "linking", "in", "updated", "modules", ".", "Updates", "in", "Impala", "are", "coarse-grained", "since", "cross-references", "between", "different", "modules", "are", "not", "possible", ".", "Also", ",", "the", "software", "updater", "in", "Impala", "was", "only", "implemented", "for", "much", "more", "resource-rich", "hardware", "than", "our", "target", "devices", ".", "The", "design", "of", "SOS", "-LSB-", "12", "-RSB-", "is", "very", "similar", "to", "the", "Contiki", "system", ":", "SOS", "consists", "of", "a", "small", "kernel", "and", "dynamically-loaded", "modules", ".", "However", ",", "SOS", "uses", "position", "independent", "code", "to", "achieve", "relocation", "and", "jump", "tables", "for", "application", "programs", "to", "access", "the", "operating", "system", "kernel", ".", "Application", "programs", "can", "register", "function", "pointers", "with", "the", "operating", "system", "for", "performing", "inter-process", "communication", ".", "Position", "independent", "code", "is", "not", "available", "for", "all", "platforms", ",", "however", ",", "which", "limits", "the", "ap-plicability", "of", "this", "approach", ".", "FlexCup", "-LSB-", "27", "-RSB-", "enables", "run-time", "installation", "of", "software", "components", "in", "TinyOS", "and", "thus", "solves", "the", "problem", "that", "a", "full", "image", "replacement", "is", "required", "for", "reprogramming", "TinyOS", "applications", ".", "In", "contrast", "to", "our", "ELF-based", "solution", ",", "FlexCup", "uses", "a", "non-standard", "format", "and", "is", "less", "portable", ".", "Further", ",", "FlexCup", "requires", "a", "reboot", "after", "a", "program", "has", "been", "installed", ",", "requiring", "an", "external", "mechanism", "to", "save", "and", "restore", "the", "state", "of", "all", "other", "applications", "as", "well", "as", "the", "state", "of", "running", "network", "protocols", "across", "the", "reboot", ".", "Contiki", "does", "not", "need", "to", "be", "rebooted", "after", "a", "program", "has", "been", "installed", ".", "FlexCup", "also", "requires", "a", "complete", "duplicate", "image", "of", "the", "binary", "image", "of", "the", "system", "to", "be", "stored", "in", "external", "flash", "ROM", ".", "The", "copy", "of", "the", "system", "image", "is", "used", "for", "constructing", "a", "new", "system", "image", "when", "a", "new", "program", "has", "been", "loaded", ".", "In", "contrast", ",", "the", "Contiki", "dynamic", "linker", "does", "not", "alter", "the", "core", "image", "when", "programs", "are", "loaded", "and", "therefore", "no", "external", "copy", "of", "the", "core", "image", "is", "needed", ".", "Since", "the", "energy", "consumption", "of", "distributing", "code", "in", "sensor", "networks", "increases", "with", "the", "size", "of", "the", "code", "to", "be", "distributed", "several", "attempts", "have", "been", "made", "to", "reduce", "the", "size", "of", "the", "code", "to", "be", "distributed", ".", "Reijers", "and", "Langendoen", "-LSB-", "31", "-RSB-", "produce", "an", "edit", "script", "based", "on", "the", "difference", "between", "the", "modified", "and", "original", "executable", ".", "After", "various", "optimiza-tions", "including", "architecture-dependent", "ones", ",", "the", "script", "is", "distributed", ".", "A", "similar", "approach", "has", "been", "developed", "by", "Jeong", "and", "Culler", "-LSB-", "15", "-RSB-", "who", "use", "the", "rsync", "algorithm", "to", "generate", "the", "difference", "between", "modified", "and", "original", "executable", ".", "Koshy", "and", "Pandey", "'s", "diff-based", "approach", "-LSB-", "17", "-RSB-", "reduces", "the", "amount", "of", "flash", "rewriting", "by", "modifying", "the", "linking", "procedure", "so", "that", "functions", "that", "are", "not", "changed", "are", "not", "shifted", ".", "XNP", "-LSB-", "16", "-RSB-", "was", "the", "previous", "default", "reprogramming", "mechanism", "in", "TinyOS", "which", "is", "used", "by", "the", "multi-hop", "reprogramming", "scheme", "MOAP", "-LRB-", "Multihop", "Over-the-Air", "Programming", "-RRB-", "developed", "to", "distribute", "node", "images", "in", "the", "sensor", "network", ".", "MOAP", "distributes", "data", "to", "a", "selective", "number", "of", "nodes", "on", "a", "neighbourhood-by-neighbourhood", "basis", "that", "avoids", "flooding", "-LSB-", "34", "-RSB-", ".", "In", "Trickle", "-LSB-", "21", "-RSB-", "virtual", "machine", "code", "is", "distributed", "to", "a", "network", "of", "nodes", ".", "While", "Trickle", "is", "restricted", "to", "single", "packet", "dissemination", ",", "Deluge", "adds", "support", "for", "the", "dissemination", "of", "large", "data", "objects", "-LSB-", "14", "-RSB-", ".", "We", "have", "presented", "a", "highly", "portable", "dynamic", "linker", "and", "loader", "that", "uses", "the", "standard", "ELF", "file", "format", "and", "compared", "the", "energy-efficiency", "of", "run-time", "dynamic", "linking", "with", "an", "application", "specific", "virtual", "machine", "and", "a", "Java", "virtual", "machine", ".", "We", "show", "that", "dynamic", "linking", "is", "feasible", "even", "for", "constrained", "sensor", "nodes", ".", "Our", "results", "also", "suggest", "that", "a", "combination", "of", "native", "and", "virtual", "machine", "code", "provide", "an", "energy", "efficient", "alternative", "to", "pure", "native", "code", "or", "pure", "virtual", "machine", "approaches", ".", "The", "native", "code", "that", "is", "called", "from", "the", "virtual", "machine", "code", "can", "be", "updated", "using", "the", "dynamic", "linker", ",", "even", "in", "heterogeneous", "systems", ".", "This", "work", "was", "partly", "financed", "by", "VINNOVA", ",", "the", "Swedish", "Agency", "for", "Innovation", "Systems", ",", "and", "the", "European", "Commission", "under", "contract", "IST-004536-RUNES", ".", "Thanks", "to", "our", "paper", "shepherd", "Feng", "Zhao", "for", "reading", "and", "commenting", "on", "the", "paper", ".", "27", "-LSB-", "1", "-RSB-", "A.", "Boulis", ",", "C.", "Han", ",", "and", "M.", "B.", "Srivastava", ".", "Design", "and", "implementation", "of", "a", "framework", "for", "efficient", "and", "programmable", "sensor", "networks", ".", "In", "Proceedings", "of", "The", "First", "International", "Conference", "on", "Mobile", "Systems", ",", "Applications", ",", "and", "Services", "-LRB-", "MOBISYS", "`", "03", "-RRB-", ",", "May", "2003", ".", "-LSB-", "2", "-RSB-", "Chipcon", "AS", ".", "CC2420", "Datasheet", "-LRB-", "rev.", "1.3", "-RRB-", ",", "2005", ".", "http://www.chipcon.com/", "-LSB-", "3", "-RSB-", "TIS", "Committee", ".", "Tool", "Interface", "Standard", "-LRB-", "TIS", "-RRB-", "Executable", "and", "Linking", "Format", "-LRB-", "ELF", "-RRB-", "Specification", "Version", "1.2", ",", "May", "1995", ".", "-LSB-", "4", "-RSB-", "H.", "Dai", ",", "M.", "Neufeld", ",", "and", "R.", "Han", ".", "Elf", ":", "an", "efficient", "log-structured", "flash", "file", "system", "for", "micro", "sensor", "nodes", ".", "In", "SenSys", ",", "pages", "176", "187", ",", "2004", ".", "-LSB-", "5", "-RSB-", "A.", "Dunkels", ",", "B.", "Gr", "onvall", ",", "and", "T.", "Voigt", ".", "Contiki", "-", "a", "lightweight", "and", "flexible", "operating", "system", "for", "tiny", "networked", "sensors", ".", "In", "Proceedings", "of", "the", "First", "IEEE", "Workshop", "on", "Embedded", "Networked", "Sensors", ",", "Tampa", ",", "Florida", ",", "USA", ",", "November", "2004", ".", "-LSB-", "6", "-RSB-", "A.", "Dunkels", ",", "O.", "Schmidt", ",", "T.", "Voigt", ",", "and", "M.", "Ali", ".", "Protothreads", ":", "Simplifying", "event-driven", "programming", "of", "memory-constrained", "embedded", "systems", ".", "In", "Proceedings", "of", "the", "4th", "International", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", ",", "SenSys", "2006", ",", "Boulder", ",", "Colorado", ",", "USA", ",", "2006", ".", "-LSB-", "7", "-RSB-", "D.", "Estrin", "-LRB-", "editor", "-RRB-", ".", "Embedded", "everywhere", ":", "A", "research", "agenda", "for", "networked", "systems", "of", "embedded", "computers", ".", "National", "Academy", "Press", ",", "1st", "edition", ",", "October", "2001", ".", "ISBN", ":", "0309075688", "-LSB-", "8", "-RSB-", "G.", "Ferrari", ",", "J.", "Stuber", ",", "A.", "Gombos", ",", "and", "D.", "Laverde", ",", "editors", ".", "Programming", "Lego", "Mindstorms", "with", "Java", "with", "CD-ROM", ".", "Syngress", "Publishing", ",", "2002", ".", "ISBN", ":", "1928994555", "-LSB-", "9", "-RSB-", "C.", "Fok", ",", "G.", "Roman", ",", "and", "C.", "Lu", ".", "Rapid", "development", "and", "flexible", "deploy-ment", "of", "adaptive", "wireless", "sensor", "network", "applications", ".", "In", "Proceedings", "of", "the", "24th", "International", "Conference", "on", "Distributed", "Computing", "Systems", ",", "June", "2005", ".", "-LSB-", "10", "-RSB-", "D.", "Gay", ",", "P.", "Levis", ",", "R.", "von", "Behren", ",", "M.", "Welsh", ",", "E.", "Brewer", ",", "and", "D.", "Culler", ".", "The", "nesC", "language", ":", "A", "holistic", "approach", "to", "networked", "embedded", "systems", ".", "In", "Proceedings", "of", "the", "ACM", "SIGPLAN", "2003", "conference", "on", "Programming", "language", "design", "and", "implementation", ",", "pages", "1", "11", ",", "2003", ".", "-LSB-", "11", "-RSB-", "J.", "A.", "Gutierrez", ",", "M.", "Naeve", ",", "E.", "Callaway", ",", "M.", "Bourgeois", ",", "V.", "Mitter", ",", "and", "B.", "Heile", ".", "IEEE", "802.15.4", ":", "A", "developing", "standard", "for", "low-power", "low-cost", "wireless", "personal", "area", "networks", ".", "IEEE", "Network", ",", "15", "-LRB-", "5", "-RRB-", ":", "12", "19", ",", "September/October", "2001", ".", "-LSB-", "12", "-RSB-", "C.", "Han", ",", "R.", "K.", "Rengaswamy", ",", "R.", "Shea", ",", "E.", "Kohler", ",", "and", "M.", "Srivastava", ".", "Sos", ":", "A", "dynamic", "operating", "system", "for", "sensor", "networks", ".", "In", "MobiSYS", "'", "05", ":", "Proceedings", "of", "the", "3rd", "international", "conference", "on", "Mobile", "systems", ",", "applications", ",", "and", "services", ".", "ACM", "Press", ",", "2005", ".", "-LSB-", "13", "-RSB-", "J.", "Hill", ",", "R.", "Szewczyk", ",", "A.", "Woo", ",", "S.", "Hollar", ",", "D.", "Culler", ",", "and", "K.", "Pister", ".", "System", "architecture", "directions", "for", "networked", "sensors", ".", "In", "Proceedings", "of", "the", "9th", "International", "Conference", "on", "Architectural", "Support", "for", "Programming", "Languages", "and", "Operating", "Systems", ",", "November", "2000", ".", "-LSB-", "14", "-RSB-", "J.", "W.", "Hui", "and", "D.", "Culler", ".", "The", "dynamic", "behavior", "of", "a", "data", "dissemination", "protocol", "for", "network", "programming", "at", "scale", ".", "In", "Proc", ".", "SenSys", "'", "04", ",", "Baltimore", ",", "Maryland", ",", "USA", ",", "November", "2004", ".", "-LSB-", "15", "-RSB-", "J.", "Jeong", "and", "D.", "Culler", ".", "Incremental", "network", "programming", "for", "wireless", "sensors", ".", "In", "Proceedings", "of", "the", "First", "IEEE", "Communications", "Society", "Conference", "on", "Sensor", "and", "Ad", "Hoc", "Communications", "and", "Networks", "IEEE", "SECON", "-LRB-", "2004", "-RRB-", ",", "October", "2004", ".", "-LSB-", "16", "-RSB-", "J.", "Jeong", ",", "S.", "Kim", ",", "and", "A.", "Broad", ".", "Network", "reprogramming", ".", "TinyOS", "documentation", ",", "2003", ".", "Visited", "2006-04-06", ".", "http://www.tinyos.net/tinyos-1", ".", "x/doc/NetworkReprogramming.pdf", "-LSB-", "17", "-RSB-", "J.", "Koshy", "and", "R.", "Pandey", ".", "Remote", "incremental", "linking", "for", "energy-efficient", "reprogramming", "of", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "second", "European", "Workshop", "on", "Wireless", "Sensor", "Networks", ",", "2005", ".", "-LSB-", "18", "-RSB-", "J.", "Koshy", "and", "R.", "Pandey", ".", "Vm", "*", ":", "Synthesizing", "scalable", "runtime", "environments", "for", "sensor", "networks", ".", "In", "Proc", ".", "SenSys", "'", "05", ",", "San", "Diego", ",", "CA", ",", "USA", ",", "November", "2005", ".", "-LSB-", "19", "-RSB-", "P.", "Levis", "and", "D.", "Culler", ".", "Mat", "e", ":", "A", "tiny", "virtual", "machine", "for", "sensor", "networks", ".", "In", "Proceedings", "of", "ASPLOS-X", ",", "San", "Jose", ",", "CA", ",", "USA", ",", "October", "2002", ".", "-LSB-", "20", "-RSB-", "P.", "Levis", ",", "D.", "Gay", ",", "and", "D", "Culler", ".", "Active", "sensor", "networks", ".", "In", "Proc", ".", "USENIX/ACM", "NSDI", "'", "05", ",", "Boston", ",", "MA", ",", "USA", ",", "May", "2005", ".", "-LSB-", "21", "-RSB-", "P.", "Levis", ",", "N.", "Patel", ",", "D.", "Culler", ",", "and", "S.", "Shenker", ".", "Trickle", ":", "A", "self-regulating", "algorithm", "for", "code", "propagation", "and", "maintenance", "in", "wireless", "sensor", "networks", ".", "In", "Proc", ".", "NSDI", "'", "04", ",", "March", "2004", ".", "-LSB-", "22", "-RSB-", "J.", "Lilius", "and", "I.", "Paltor", ".", "Deeply", "embedded", "python", ",", "a", "virtual", "machine", "for", "embedded", "systems", ".", "Web", "page", ".", "2006-04-06", ".", "http://www.tucs.fi/magazin/output.php?ID=2000.N2.LilDeEmPy", "-LSB-", "23", "-RSB-", "H.", "Liu", ",", "T.", "Roeder", ",", "K.", "Walsh", ",", "R.", "Barr", ",", "and", "E.", "G", "un", "Sirer", ".", "Design", "and", "implementation", "of", "a", "single", "system", "image", "operating", "system", "for", "ad", "hoc", "networks", ".", "In", "MobiSys", ",", "pages", "149", "162", ",", "2005", ".", "-LSB-", "24", "-RSB-", "T.", "Liu", ",", "C.", "Sadler", ",", "P.", "Zhang", ",", "and", "M.", "Martonosi", ".", "Implementing", "software", "on", "resource-constrained", "mobile", "sensors", ":", "Experiences", "with", "Impala", "and", "ZebraNet", ".", "In", "Proc", ".", "Second", "Intl.", ".", "Conference", "on", "Mobile", "Systems", ",", "Applications", "and", "Services", "-LRB-", "MOBISYS", "2004", "-RRB-", ",", "June", "2004", ".", "-LSB-", "25", "-RSB-", "G.", "Mainland", ",", "L.", "Kang", ",", "S.", "Lahaie", ",", "D.", "C.", "Parkes", ",", "and", "M.", "Welsh", ".", "Using", "virtual", "markets", "to", "program", "global", "behavior", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "2004", "SIGOPS", "European", "Workshop", ",", "Leuven", ",", "Belgium", ",", "September", "2004", ".", "-LSB-", "26", "-RSB-", "A.", "Mainwaring", ",", "J.", "Polastre", ",", "R.", "Szewczyk", ",", "D.", "Culler", ",", "and", "J.", "Anderson", ".", "Wireless", "sensor", "networks", "for", "habitat", "monitoring", ".", "In", "First", "ACM", "Workshop", "on", "Wireless", "Sensor", "Networks", "and", "Applications", "-LRB-", "WSNA", "2002", "-RRB-", ",", "Atlanta", ",", "GA", ",", "USA", ",", "September", "2002", ".", "-LSB-", "27", "-RSB-", "P.", "Jos", "e", "Marr", "on", ",", "M.", "Gauger", ",", "A.", "Lachenmann", ",", "D.", "Minder", ",", "O.", "Saukh", ",", "and", "K.", "Rothermel", ".", "Flexcup", ":", "A", "flexible", "and", "efficient", "code", "update", "mechanism", "for", "sensor", "networks", ".", "In", "European", "Workshop", "on", "Wireless", "Sensor", "Networks", ",", "2006", ".", "-LSB-", "28", "-RSB-", "A.", "Perrig", ",", "R.", "Szewczyk", ",", "V.", "Wen", ",", "D.", "E.", "Culler", ",", "and", "J.", "D.", "Tygar", ".", "SPINS", ":", "security", "protocols", "for", "sensor", "netowrks", ".", "In", "Mobile", "Computing", "and", "Networking", ",", "pages", "189", "199", ",", "2001", ".", "-LSB-", "29", "-RSB-", "J.", "Polastre", ",", "R.", "Szewczyk", ",", "and", "D.", "Culler", ".", "Telos", ":", "Enabling", "ultra-low", "power", "wireless", "research", ".", "In", "Proc", ".", "IPSN/SPOTS", "'", "05", ",", "Los", "Angeles", ",", "CA", ",", "USA", ",", "April", "2005", ".", "-LSB-", "30", "-RSB-", "N.", "Ramanathan", ",", "E.", "Kohler", ",", "and", "D.", "Estrin", ".", "Towards", "a", "debugging", "system", "for", "sensor", "networks", ".", "International", "Journal", "for", "Network", "Management", ",", "3", "-LRB-", "5", "-RRB-", ",", "2005", ".", "-LSB-", "31", "-RSB-", "N.", "Reijers", "and", "K.", "Langendoen", ".", "Efficient", "code", "distribution", "in", "wireless", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "2nd", "ACM", "international", "conference", "on", "Wireless", "sensor", "networks", "and", "applications", ",", "pages", "60", "67", ",", "2003", ".", "-LSB-", "32", "-RSB-", "RF", "Monolithics", ".", "868.35", "MHz", "Hybrid", "Transceiver", "TR1001", ",", "1999", ".", "http://www.rfm.com", "-LSB-", "33", "-RSB-", "J.", "Schiller", ",", "H.", "Ritter", ",", "A.", "Liers", ",", "and", "T.", "Voigt", ".", "Scatterweb", "-", "low", "power", "nodes", "and", "energy", "aware", "routing", ".", "In", "Proceedings", "of", "Hawaii", "International", "Conference", "on", "System", "Sciences", ",", "Hawaii", ",", "USA", ",", "2005", ".", "-LSB-", "34", "-RSB-", "T.", "Stathopoulos", ",", "J.", "Heidemann", ",", "and", "D.", "Estrin", ".", "A", "remote", "code", "update", "mechanism", "for", "wireless", "sensor", "networks", ".", "Technical", "Report", "CENS-TR", "-30", ",", "University", "of", "California", ",", "Los", "Angeles", ",", "Center", "for", "Embedded", "Networked", "Computing", ",", "November", "2003", ".", "-LSB-", "35", "-RSB-", "M.", "Welsh", "and", "G.", "Mainland", ".", "Programming", "sensor", "networks", "using", "abstract", "regions", ".", "In", "Proc", ".", "USENIX/ACM", "NSDI", "'", "04", ",", "San", "Francisco", ",", "CA", ",", ",", "March", "2004", ".", "-LSB-", "36", "-RSB-", "G.", "Werner-Allen", ",", "P.", "Swieskowski", ",", "and", "M.", "Welsh", ".", "Motelab", ":", "A", "wireless", "sensor", "network", "testbed", ".", "In", "Proc", ".", "IPSN/SPOTS", "'", "05", ",", "Los", "Angeles", ",", "CA", ",", "USA", ",", "April", "2005", ".", "28"], "doc_bio_tags": ["O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["embedded systems", "virtual machines", "operating systems", "wireless sensor networks", "dynamic linking"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "192", "document": ["The", "Use", "of", "Mediation", "and", "Ontology", "Technologies", "for", "Software", "Component", "Information", "Retrieval", "Component", "Based", "Development", "aims", "at", "constructing", "software", "through", "the", "inter-relationship", "between", "pre-existing", "components", ".", "However", ",", "these", "components", "should", "be", "bound", "to", "a", "specific", "application", "domain", "in", "order", "to", "be", "effectively", "reused", ".", "Reusable", "domain", "components", "and", "their", "related", "documentation", "are", "usually", "stored", "in", "a", "great", "variety", "of", "data", "sources", ".", "Thus", ",", "a", "possible", "solution", "for", "accessing", "this", "information", "is", "to", "use", "a", "software", "layer", "that", "integrates", "different", "component", "information", "sources", ".", "We", "present", "a", "component", "information", "integration", "data", "layer", ",", "based", "on", "mediators", ".", "Through", "mediators", ",", "domain", "ontology", "acts", "as", "a", "technique/formalism", "for", "specifying", "ontological", "commitments", "or", "agreements", "between", "component", "users", "and", "providers", ",", "enabling", "more", "accurate", "software", "component", "information", "search", ".", "Component", "Based", "Development", "-LRB-", "CBD", "-RRB-", "-LSB-", "1", "-RSB-", "aims", "at", "constructing", "software", "through", "the", "inter-relationship", "between", "pre-existing", "components", ",", "thus", "reducing", "the", "complexity", ",", "as", "well", "as", "the", "cost", "of", "software", "development", ",", "through", "the", "reuse", "of", "exhaustively", "tested", "components", ".", "Building", "new", "solutions", "by", "combining", "components", "should", "improve", "quality", "and", "support", "rapid", "development", ",", "leading", "to", "a", "shorter", "time-to-market", ".", "At", "the", "same", "time", ",", "nimble", "adaptation", "to", "changing", "requirements", "can", "be", "achieved", "by", "investing", "only", "in", "key", "changes", "of", "a", "component-based", "solution", ",", "rather", "than", "undertaking", "a", "major", "release", "change", ".", "For", "these", "reasons", ",", "component", "technology", "is", "expected", "by", "many", "to", "be", "the", "cornerstone", "of", "software", "production", "in", "the", "years", "to", "come", ".", "According", "to", "Jacobson", ",", "Griss", "and", "Jonsson", "-LSB-", "1", "-RSB-", ",", "the", "effectiveness", "of", "component", "reuse", "depends", "on", "the", "connectiveness", "among", "them", "and", "their", "binding", "to", "specific", "application", "domains", ".", "The", "connectiveness", "is", "one", "of", "the", "most", "discussed", "problems", "in", "CBD", "-LSB-", "6", ",", "12", "-RSB-", ".", "Approaches", "that", "deal", "with", "component", "interfaces", "1", "-LRB-", "one", "of", "premises", "for", "connection", "between", "components", "-RRB-", "focus", "on", "their", "capability", "to", "provide", "and", "request", "services", ".", "Although", "this", "interface", "aspect", "is", "important", "in", "a", "CBD", "approach", ",", "other", "problems", "arise", "when", "trying", "to", "connect", "components", ".", "The", "connectiveness", "also", "depends", "on", "the", "execution", "environment", ",", "the", "heterogeneity", "of", "components", ",", "the", "distance", "between", "them", "and", "the", "architecture", "that", "controls", "their", "connections", "-LSB-", "1", ",", "5", ",", "12", "-RSB-", ".", "The", "architecture", "that", "governs", "the", "connections", "between", "components", "also", "depends", "on", "the", "application", "domain", ".", "Therefore", ",", "reuse", "possibilities", "increase", "when", "components", "are", "bound", "to", "domain", "concepts", ".", "As", "stated", "by", "Krueger", "-LSB-", "1", "-RSB-", ",", "while", "retrieving", "reusable", "software", "components", ",", "it", "is", "advantageous", "to", "use", "a", "terminology", "that", "is", "familiar", "to", "the", "domain", ".", "This", "approach", "diverges", "from", "other", "software", "component", "retrieval", "proposals", ",", "such", "as", "the", "Agora", "System", "-LSB-", "6", "-RSB-", "that", "bases", "the", "search", "only", "on", "the", "component", "interfaces", ",", "covering", "solely", "the", "component", "connectiveness", "problem", ",", "and", "the", "RIG", "initiative", "-LSB-", "10", "-RSB-", "that", "presents", "an", "approach", "for", "domain", "repository", "integration", "with", "minor", "user", "transparency", "and", "without", "web", "access", ".", "Suppose", "that", ",", "in", "a", "typical", "component", "retrieval", "scenario", ",", "a", "software", "developer", "wants", "to", "find", "software", "components", "to", "use", "in", "the", "construction", "of", "an", "application", "under", "development", ".", "If", "he", "does", "not", "know", "any", "other", "specialized", "service", "that", "provides", "information", "about", "components", ",", "the", "natural", "search", "space", "will", "be", "the", "Internet", ".", "Now", ",", "consider", "that", "this", "developer", "has", "no", "knowledge", "about", "the", "available", "components", ".", "Thus", ",", "the", "following", "actions", "are", "necessary", "to", "discover", "software", "components", "that", "satisfy", "his", "needs", ":", "1", ".", "To", "locate", "information", "about", "components", "that", "can", "be", "stored", "in", "distributed", "repositories", ".", "This", "could", "be", "typically", "done", "through", "an", "Internet", "search", "engine", "that", "takes", "as", "input", "a", "few", "keywords", "and", "returns", "a", "list", "of", "relevant", "resource", "descriptions", "that", "might", "be", "available", "in", "these", "repositories", ".", "The", "success", "of", "this", "task", "directly", "depends", "on", "the", "interest", "of", "the", "repository", "administrators", "in", "publicizing", "their", "data", "and", "the", "precision", "of", "the", "user", "while", "providing", "the", "keywords", ".", "2", ".", "To", "determine", "usability", "of", "search", "results", ".", "Due", "to", "the", "complexity", "in", "the", "analysis", "of", "component", "usefulness", "-LRB-", "i.e.", ",", "considering", "the", "component", "domain", ",", "functionality", "and", "connection", "possibilities", "based", "on", "architecture", "decisions", "-RRB-", ",", "the", "1", "An", "interface", "of", "a", "component", "can", "be", "seen", "as", "a", "component", "'s", "part", "that", "defines", "its", "access", "points", ".", "These", "points", "allow", "clients", "-LRB-", "components", "themselves", "-RRB-", "to", "access", "services", "provided", "by", "the", "component", "-LSB-", "12", "-RSB-", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SSR", "'", "01", ",", "May", "18-20", ",", "2001", ",", "Toronto", ",", "Ontario", ",", "Canada", ".", "Copyright", "2001", "ACM", "1-58113-358-8", "/", "01/0005", "...", "$", "5.00", ".", "19", "information", "that", "is", "available", "at", "the", "component", "site", "is", "probably", "not", "enough", ".", "Thus", ",", "a", "naive", "Internet", "approach", "will", "not", "cope", "with", "the", "complexity", "of", "software", "component", "retrieval", ".", "The", "previous", "actions", "require", "an", "engine", "that", "combines", "the", "following", "three", "characteristics", ":", "-LRB-", "i", "-RRB-", "Distribution", "and", "Heterogeneity", "software", "components", "can", "be", "distributed", "and", "use", "different", "kinds", "of", "storage", ";", "-LRB-", "ii", "-RRB-", "Domain", "Ontology", "-", "to", "organize", "component", "repositories", "within", "a", "domain", "in", "order", "to", "ease", "its", "search", ";", "-LRB-", "iii", "-RRB-", "Software", "Component", "Information", "Evolution", "to", "insert", "new", "information", "-LRB-", "including", "legacy", "information", "-RRB-", ".", "However", ",", "as", "stated", "before", ",", "current", "software", "component", "retrieval", "proposals", "either", "lack", "from", "heterogeneity", "or", "domain", "ontology", ".", "On", "the", "other", "hand", ",", "many", "database", "projects", "-LSB-", "3,4,7,8,9", "-RSB-", "are", "particularly", "concerned", "with", "distribution", ",", "heterogeneity", "-LRB-", "and", "ontology", "-RRB-", "found", "in", "legacy", "databases", ".", "These", "projects", "are", "known", "as", "``", "multi-database", "''", "or", "Heterogeneous", "and", "Distributed", "Data", "Base", "Systems", "-LRB-", "HDDS", "-RRB-", "-LSB-", "4", "-RSB-", ".", "One", "solution", "found", "in", "HDDS", "is", "the", "use", "of", "mediators", "2", "-LSB-", "2", "-RSB-", "combined", "with", "ontology", "-LSB-", "14", "-RSB-", "to", "integrate", ",", "identify", "and", "retrieve", "related", "legacy", "databases", ".", "Ontology", "in", "this", "context", "can", "be", "defined", "as", "a", "vocabulary", "of", "terms", "and", "the", "relationship", "between", "them", ".", "For", "each", "term", ",", "a", "definition", "must", "be", "created", ",", "using", "an", "informal", "description", ",", "some", "concrete", "examples", "in", "the", "domain", ",", "and", "also", "a", "formal", "specification", "of", "the", "relationships", "between", "terms", ",", "thus", "forming", "a", "semantic", "network", ".", "We", "believe", "that", "the", "HDDS", "technologies", "can", "be", "adapted", "to", "handle", "software", "component", "repositories", "in", "the", "place", "of", "legacy", "databases", ".", "Mediators", "can", "represent", "and", "integrate", "domain", "information", "repositories", "-LRB-", "distributed", "and/or", "heterogeneous", "-RRB-", ".", "Metadata", "found", "in", "mediators", "can", "describe", "the", "repositories", "of", "components", ",", "presenting", "the", "domain", ",", "their", "semantics", ",", "software", "architecture", "and", "interfaces", ".", "Usually", "a", "query", "engine", "is", "available", "in", "HDDS", "and", "therefore", "ad", "hoc", "queries", "over", "this", "metadata", "can", "be", "used", "to", "analyze", "the", "available", "components", ".", "The", "organization", "of", "mediators", "with", "ontology", "drives", "the", "user", "search", "along", "heterogeneous", "vocabulary", ".", "Therefore", ",", "our", "main", "objective", "is", "to", "present", "a", "software", "component", "information", "retrieval", "engine", "named", "Odyssey", "Mediation", "Layer", "-LRB-", "OML", "-RRB-", "that", "combines", "the", "connectiveness", "of", "components", "and", "the", "domain", "concept", "approach", ".", "We", "address", "both", "issues", "through", "the", "adoption", "of", "mediation", "-LSB-", "2", "-RSB-", "and", "ontology", "-LSB-", "14", "-RSB-", "technologies", ",", "respectively", ".", "Our", "approach", "is", "motivated", "by", "a", "project", "that", "is", "being", "conducted", "in", "the", "Legislative", "House", "domain", ".", "There", "are", "several", "applications", "that", "can", "benefit", "from", "reusable", "information", "within", "this", "domain", "and", "from", "other", "related", "ones", ",", "such", "as", "justice", "domain", ",", "criminal", "domain", ",", "among", "others", ".", "Our", "users", "are", "not", "specialists", "in", "the", "latter", "domains", ",", "only", "in", "the", "Legislative", "domain", ".", "However", ",", "it", "is", "important", "that", "relevant", "reusable", "information", "from", "all", "related", "domains", "can", "be", "presented", "to", "them", ",", "particularly", "when", "they", "are", "not", "aware", "of", "its", "existence", ".", "Most", "components", "of", "legislative", "process", "applications", "can", "be", "reused", "from", "the", "legislative", "domain", "-LRB-", "e.g.", ",", "Proposal", "Creation", ",", "Legislature", "Evaluation", ",", "Council", "Members", "referee", ",", "among", "others", "-RRB-", ",", "but", "sometimes", "it", "is", "worth", "looking", "at", "components", "from", "other", "related", "domains", "such", "as", "justice", "domain", ".", "Our", "retrieval", "engine", "is", "able", "to", "identify", "and", "suggest", "components", "from", "other", "related", "2", "According", "to", "Wiederhold", "-LSB-", "2", "-RSB-", ",", "mediators", "are", "modules", "that", "encompass", "layers", "of", "mediation", "services", ",", "connecting", "bases", "of", "heterogeneous", "and", "distributed", "data", "-LRB-", "producers", "-RRB-", "to", "information", "systems", "-LRB-", "consumers", "-RRB-", ".", "domains", "in", "the", "same", "way", "as", "it", "suggests", "components", "from", "the", "Legislative", "domain", ".", "With", "our", "retrieval", "engine", ",", "the", "user", "search", "can", "rely", "on", "a", "controlled", "vocabulary", "-LRB-", "ontology", "-RRB-", "composed", "of", "domain", "terms", "that", "are", "familiar", "to", "him", ".", "Thus", ",", "the", "search", "is", "more", "focused", "and", "executed", "over", "relevant", "available", "component", "information", "repositories", ".", "Besides", ",", "the", "usefulness", "of", "the", "retrieved", "components", "is", "supported", "by", "the", "bindings", "between", "ontology", "terms", "and", "related", "components", ".", "This", "binding", "is", "accomplished", "by", "domain", "specialists", "together", "with", "domain", "engineers", "during", "a", "domain", "engineering", "process", "-LSB-", "5", ",", "17", "-RSB-", "thus", "enforcing", "the", "biding", "precision", ".", "In", "order", "to", "address", "these", "issues", ",", "the", "retrieval", "engine", "organizes", "component", "information", "repositories", "within", "domain", "ontologies", "while", "preserving", "its", "original", "characteristics", "of", "distribution", "and", "heterogeneity", ",", "all", "in", "a", "flexible", "way", ".", "The", "main", "contribution", "of", "our", "proposal", "is", "to", "provide", "an", "approach", "for", "accessing", "software", "components", "through", "the", "use", "of", "ontologies", "and", "mediators", ".", "Our", "innovative", "aspect", "is", "to", "provide", "flexibility", ",", "transparency", "and", "accuracy", "in", "software", "component", "information", "retrieval", ".", "In", "order", "to", "present", "our", "approach", ",", "the", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "discusses", "the", "novelties", "of", "our", "proposal", "with", "related", "works", ";", "Section", "3", "details", "the", "architecture", "of", "Odyssey", "Mediation", "Layer", ";", "Section", "4", "shows", "a", "component", "retrieval", "example", ";", "and", "Section", "5", "presents", "our", "concluding", "remarks", ".", "In", "a", "broader", "approach", ",", "several", "information", "retrieval", "systems", "use", "semantic", "brokering", "with", "respect", "to", "their", "resources", ".", "These", "systems", "include", "SIMS", "-LSB-", "3", "-RSB-", ",", "TSIMMIS", "-LSB-", "4", "-RSB-", ",", "InfoMaster", "-LSB-", "7", "-RSB-", ",", "and", "Information", "Manifold", "-LSB-", "8", "-RSB-", ".", "These", "systems", "work", "in", "the", "definition", "of", "some", "sort", "of", "common", "vocabulary", "-LRB-", "similar", "to", "an", "ontology", "-RRB-", "to", "define", "objects", "in", "their", "domain", ".", "Individual", "information", "sources", "that", "contain", "these", "objects", "describe", "constraints", "on", "objects", "that", "they", "can", "provide", ",", "in", "terms", "of", "this", "common", "vocabulary", ".", "The", "broker", "then", "uses", "these", "constraints", "to", "determine", "how", "to", "process", "queries", ".", "These", "projects", "deal", "with", "generic", "designs", "for", "database", "retrieval", ".", "Our", "approach", "combines", "the", "mediation", "technology", "with", "specific", "domain", "ontology", "-LSB-", "2", "-RSB-", "to", "integrate", "different", "software", "components", "data", "sources", ".", "The", "main", "difference", "between", "these", "projects", "and", "ours", "is", "that", "our", "approach", "is", "particularly", "concerned", "with", "software", "components", ".", "Thus", ",", "we", "use", "an", "ontology", ",", "which", "is", "specifically", "constructed", "for", "that", ".", "This", "ontology", "is", "specified", "during", "a", "Domain", "Engineering", "process", "-LSB-", "5", "-RSB-", "tailored", "for", "this", "purpose", ".", "Hence", ",", "the", "ontology", "accuracy", "is", "more", "efficient", ",", "and", "consequently", "the", "usefulness", "of", "the", "retrieved", "components", ".", "Another", "work", "worth", "mentioning", "is", "the", "InfoSleuth", "system", "-LSB-", "9", "-RSB-", ".", "It", "is", "a", "large", "project", ",", "conducted", "by", "MCC", ",", "which", "uses", "an", "ontology", "approach", "to", "retrieve", "information", "from", "distributed", "and", "heterogeneous", "databases", ".", "InfoSleuth", "can", "be", "seen", "as", "a", "framework", "that", "can", "be", "tailored", "for", "a", "given", "purpose", ".", "One", "interesting", "application", "is", "the", "EDEN", "project", "in", "the", "environmental", "domain", "-LSB-", "9", "-RSB-", ".", "In", "this", "case", ",", "some", "tools", "of", "InfoSleuth", "were", "customized", "for", "this", "project", ".", "Our", "project", "adopts", "a", "similar", "approach", ",", "where", "our", "constructs", "are", "specific", "for", "software", "component", "information", "retrieval", ".", "The", "Agora", "System", "-LSB-", "6", "-RSB-", "describes", "a", "search", "engine", "for", "retrieving", "reusable", "code", "components", ",", "such", "as", "JavaBeans", "and", "CORBA", "components", ".", "Agora", "uses", "an", "introspection", "mechanism", "for", "20", "registering", "code", "components", ",", "through", "its", "interface", ".", "As", "a", "result", ",", "this", "information", "may", "not", "be", "available", "at", "a", "certain", "time", "because", "the", "repository", "is", "not", "running", ",", "or", "the", "information", "can", "not", "be", "located", ".", "In", "each", "of", "these", "cases", ",", "the", "interface", "information", "can", "not", "be", "successfully", "retrieved", "and", "indexed", ",", "and", "the", "component", "is", "not", "registered", "in", "the", "AGORA", "index", "database", ".", "In", "our", "proposal", ",", "the", "use", "of", "mediators", "provides", "the", "flexibility", "to", "access", "remote", "component", "repositories", ".", "There", "is", "no", "need", "for", "an", "index", "phase", ",", "and", "the", "mediator", "is", "able", "to", "capture", "updates", "that", "may", "occur", "in", "a", "remote", "repository", "-LRB-", "i.e.", ",", "the", "repository", ",", "using", "the", "translator", "3", "services", ",", "sends", "a", "message", "with", "these", "updates", "to", "the", "mediator", "-RRB-", ".", "Moreover", ",", "the", "mediator", "metadata", "manager", "has", "access", "to", "all", "the", "ontological", "terms", "of", "a", "given", "domain", ",", "facilitating", "the", "identification", "of", "the", "existence", "of", "a", "component", ",", "even", "if", "its", "repository", "is", "out", "of", "service", ".", "In", "this", "case", ",", "the", "user", "knows", "that", "the", "component", "exists", "and", "that", "he", "can", "retrieve", "it", "latter", ".", "Moreover", ",", "new", "information", "is", "always", "associated", "to", "domain", "terms", "within", "a", "given", "domain", "ontology", ",", "improving", "its", "accessibility", "and", "reuse", ".", "Ye", "and", "Fischer", "-LSB-", "18", "-RSB-", "presents", "an", "approach", "that", "provides", "an", "active", "repository", "for", "components", ".", "The", "work", "emphasizes", "active", "delivery", "of", "reuse", "information", ",", "helping", "on", "the", "identification", "of", "components", "that", "developers", "did", "not", "even", "know", "that", "existed", ".", "Regarding", "this", "last", "aspect", ",", "it", "is", "similar", "to", "our", "approach", ".", "Our", "component", "information", "retrieval", "system", "also", "provides", "this", "functionality", "too", ",", "once", "it", "accesses", "components", "from", "other", "domains", "based", "on", "semantic", "similarity", ".", "The", "active", "repository", "functionality", ",", "although", "not", "described", "in", "this", "paper", ",", "is", "also", "part", "of", "our", "work", "-LSB-", "16", "-RSB-", ".", "One", "aspect", "that", "is", "different", "in", "our", "proposal", "is", "the", "retrieval", "of", "distributed", "information", ",", "which", "is", "not", "mentioned", "in", "Ye", "and", "Fischer", "'s", "work", ".", "Another", "important", "work", "to", "mention", "is", "the", "RIG", "initiative", "-LSB-", "9", "-RSB-", ",", "which", "describes", "a", "reuse", "library", "interoperability", "approach", ".", "The", "idea", "of", "the", "asset", "library", "interoperability", "is", "based", "on", "the", "storage", "of", "domain", "information", "in", "several", "databases", ".", "These", "databases", "are", "static", "and", "based", "on", "a", "unique", "global", "model", ".", "The", "integration", "requires", "that", "information", "is", "stored", "according", "to", "this", "unique", "model", ".", "Therefore", ",", "if", "any", "reuse", "database", "is", "to", "be", "integrated", ",", "it", "has", "to", "be", "translated", "to", "the", "RIG", "model", ".", "Alternatively", ",", "the", "mediation", "approach", "creates", "a", "new", "level", "of", "abstraction", "above", "the", "database", "model", ",", "allowing", "the", "insertion", "and/or", "removal", "of", "repositories", "from", "the", "mediation", "structure", "without", "the", "need", "for", "updates", "on", "the", "whole", "structure", ".", "Moreover", ",", "RIG", "lacks", "a", "more", "effective", "search", "engine", "that", "provides", "searches", "based", "on", "domain", "concepts", "and", "filtering", "of", "relevant", "information", ",", "including", "Internet", "access", ",", "as", "we", "do", "in", "our", "work", ".", "The", "effectiveness", "of", "a", "software", "component", "information", "retrieval", "engine", "is", "associated", "to", "its", "capacity", "to", "handle", "the", "distribution", "and", "heterogeneity", "of", "software", "components", ",", "to", "organize", "component", "repositories", "within", "a", "domain", ",", "and", "to", "enable", "software", "component", "evolution", ".", "These", "requirements", "can", "be", "accomplished", "through", "a", "software", "layer", "that", "is", "seen", "as", "a", "particular", "case", "of", "HDDS", ".", "As", "stated", "before", ",", "mediators", "are", "modules", "that", "encompass", "layers", "of", "mediation", "services", ",", "connecting", "bases", "of", "heterogeneous", "and", "distributed", "data", "-LRB-", "producers", "-RRB-", "to", "information", "systems", "-LRB-", "consumers", "-RRB-", ".", "Hence", ",", "in", "order", "to", "be", "really", "useful", "in", "software", "component", "information", "search", "this", "solution", "has", "to", "be", "tailored", "to", "component", "3", "A", "translator", "in", "this", "context", "is", "the", "same", "as", "a", "wrapper", "or", "adapter", ".", "information", "retrieval", ",", "considering", "the", "component", "domain", ",", "its", "semantics", ",", "architecture", ",", "and", "interfaces", ".", "In", "a", "mediation", "architecture", ",", "as", "new", "sources", "of", "information", "are", "aggregated", "to", "the", "mediation", "structure", ",", "the", "amount", "of", "information", "to", "be", "modeled", "increases", ",", "frequently", "generating", "inconsistencies", ",", "ambiguities", ",", "and", "conflicts", "in", "the", "represented", "information", ".", "One", "way", "to", "deal", "with", "this", "problem", "is", "to", "partition", "the", "consumers", "and", "producers", "'", "models", "and", "the", "structure", "of", "mediation", "by", "domain", ".", "The", "description", "of", "these", "models", ",", "partitioned", "by", "domains", ",", "forms", "the", "so-called", "domain", "ontology", "-LSB-", "14", "-RSB-", ".", "In", "the", "context", "of", "component", "information", "retrieval", ",", "the", "use", "of", "mediators", "allows", "the", "information", "access", "to", "be", "carried", "independently", "of", "the", "format", "and", "the", "operational", "platform", "where", "it", "is", "stored", ".", "Therefore", ",", "the", "structure", "of", "a", "retrieval", "engine", "as", "a", "whole", "can", "be", "flexible", ",", "since", "existing", "component", "data", "sources", "can", "be", "added", "to", "the", "architecture", "in", "an", "easy", "way", ",", "with", "no", "need", "to", "convert", "from", "the", "original", "information", "format", "-LRB-", "format", "form", "of", "data/information", "source", "-RRB-", "to", "the", "format", "used", "by", "the", "reuse", "environment", ".", "Another", "interesting", "feature", "of", "mediators", "within", "a", "component", "information", "retrieval", "engine", "is", "that", "reusable", "information", "is", "naturally", "organized", "by", "domain", "-LRB-", "Figure", "1", "-RRB-", ",", "which", "facilitates", "the", "search", "for", "domain", "concepts", ",", "since", "specific", "domain", "data", "is", "accessed", "in", "a", "search", ".", "Moreover", ",", "the", "use", "of", "mediators", "allows", "the", "aggregation", "of", "information", "already", "stored", "in", "legacy", "databases", ",", "without", "the", "need", "to", "transform", "the", "original", "database", "format", ".", "In", "order", "to", "help", "on", "the", "correct", "choice", "of", "mediators", "for", "a", "given", "domain", ",", "the", "mediator", "layer", "provides", "a", "specific", "ontology", "for", "each", "domain", ".", "Therefore", ",", "this", "ontology", "must", "be", "specified", "by", "domain", "specialists", ",", "facilitating", "the", "search", "for", "specific", "components", ",", "since", "the", "ontology", "definition", "is", "directly", "connected", "to", "software", "components", "within", "the", "domain", ".", "The", "use", "of", "this", "layer", "in", "the", "Legislative", "Domain", "is", "particularly", "interesting", ",", "since", "in", "Brazil", "as", "in", "other", "countries", "-LSB-", "15", "-RSB-", ",", "there", "are", "some", "legislative", "houses", "that", "are", "more", "up", "to", "date", "with", "software", "technology", "than", "others", ".", "The", "former", "represents", "a", "reference", "source", "of", "software", "components", "to", "several", "Legislative", "Houses", ".", "Without", "this", "kind", "of", "layer", ",", "there", "exist", "some", "barriers", "for", "reusing", "components", "among", "these", "houses", ",", "such", "as", "the", "distance", ",", "scarce", "financial", "resources", ",", "and", "semantic", "conflicts", "among", "components", "-LRB-", "a", "common", "component", "functionality", "can", "be", "identified", "differently", "in", "each", "legislative", "house", "-RRB-", ".", "Figure", "1", "presents", "an", "example", "of", "a", "mediation", "layer", "configuration", "for", "this", "specific", "application", "domain", ".", "Several", "mediators", "are", "presented", "as", "sub-domains", ",", "such", "as", "State", "Legislative", "-LRB-", "SL", "-RRB-", "and", "Municipal", "Legislative", "-LRB-", "ML", "-RRB-", "domains", ".", "The", "SL", "Mediator", "is", "aggregated", "-LRB-", "P1", "-RRB-", "to", "ML", ",", "generating", "a", "more", "generic", "mediator", "that", "combines", "the", "two", "domains", ".", "The", "latter", "can", "be", "used", "in", "cases", "where", "information", "concerning", "the", "two", "domains", "is", "necessary", ".", "Each", "mediator", "is", "connected", "to", "the", "related", "domain", "data", "sources", "that", "contain", "reuse", "component", "information", ".", "The", "Justice", "Domain", "Mediator", "may", "be", "accessed", "in", "cases", "where", "the", "user", "wants", "components", "related", "to", "the", "Justice", "domain", ".", "In", "order", "to", "provide", "an", "architecture", "that", "is", "able", "to", "handle", "the", "requirements", "of", "component", "information", "search", "and", "retrieval", ",", "we", "specified", "and", "implemented", "OML", "-LRB-", "Odyssey", "Mediation", "Layer", "-RRB-", "was", "specified", "and", "implemented", ",", "based", "on", "mediation", "and", "ontology", "technologies", ".", "OML", "is", "derived", "from", "a", "HDDS", "mediator", ",", "the", "HIMPAR", "architecture", "-LSB-", "12", "-RSB-", ",", "adding", "to", "it", "more", "precision", "and", "semantics", ",", "using", "ontologies", "tailored", "to", "software", "component", "information", "retrieval", ".", "21", "Retrieval", "Interface", "Legislative", "State", "Domain", "Mediator", "Justice", "Domain", "Mediator", "Legislative", "Domain", "Mediator", "Legislative", "Municipal", "Domain", "Mediator", "P1", "P2", "ORB", "Component", "Repository", "Translator", "Component", "Repository", "Component", "Repository", "Translator", "P1", ":", "aggregation", "P2", ":", "association", "Translator", "Component", "Repository", "Translator", "Figure", "1", "-", "An", "example", "of", "a", "mediation", "layer", "for", "the", "Legislative", "domain", "User", "Interface", "Service", "Manager", "SM", "Query", "Translator", "Query", "Packer", "Query", "Decomposition", "Query", "Manager", "-LRB-", "QM", "-RRB-", "Ontology", "Model", "OntologyManager", "Metadata", "Manager", "-LRB-", "MM", "-RRB-", "Mediator", "Translator", "Translator", "Service", "Manager", "Metadata", "Model", "ORB", "Bus", "Component", "Repository", "Component", "Repository", "ORB", "Bus", "Reuse", "Tools", "Figure", "2", "-", "Architecture", "of", "the", "Odyssey", "Mediation", "Layer", "The", "OML", "engine", "is", "part", "of", "a", "reuse", "environment", ",", "named", "Odyssey", ",", "that", "deals", "with", "component", "based", "development", "of", "applications", "within", "a", "given", "domain", ".", "Specifically", ",", "OML", "is", "part", "of", "a", "system", "of", "agents", "that", "helps", "users", "in", "their", "search", "for", "reusable", "components", "-LSB-", "16", "-RSB-", ".", "It", "uses", "intelligent", "mechanisms", "such", "as", "learning", "techniques", "and", "user", "preferences", "in", "order", "to", "present", "in", "advance", "components", "that", "the", "user", "does", "not", "even", "know", "that", "exist", ".", "The", "agent", "system", "infers", "this", "information", "and", "presents", "the", "components", "to", "the", "user", ".", "It", "is", "important", "to", "notice", "that", "although", "OML", "was", "built", "in", "the", "context", "of", "the", "Odyssey", "project", ",", "it", "can", "be", "used", "standalone", "or", "integrated", "to", "other", "tools", ",", "since", "OML", "offers", "a", "user", "interface", "-LRB-", "as", "seen", "in", "figures", "3", "through", "8", "-RRB-", "and", "a", "CORBA", "IDL", "interface", "for", "its", "communication", "with", "other", "tools", ".", "Figure", "2", "presents", "OML", ",", "which", "comprises", "four", "levels", ":", "Interface", ",", "Mediation", "Layer", ",", "ORB", "bus", ",", "and", "Translators", ".", "The", "Interface", "level", "is", "implemented", "by", "the", "Service", "Manager", "-LRB-", "SM", "-RRB-", ",", "which", "stores", "metadata", "about", "available", "mediators", ",", "and", "is", "capable", "of", "creating", "ontological", "bindings", "between", "related", "ontologies", "in", "order", "to", "query", "several", "mediation", "layers", ".", "Also", ",", "SM", "is", "responsible", "for", "the", "creation", "and", "modification", "of", "mediators", ".", "The", "Mediation", "Layer", "provides", "the", "management", "of", "each", "mediator", "through", "the", "Metadata", "Manager", "22", "-LRB-", "MM", "-RRB-", ",", "and", "provides", "access", "to", "mediators", "through", "the", "Query", "Manager", ".", "At", "the", "ORB", "level", ",", "communication", "between", "the", "mediation", "layer", "and", "translators", "is", "established", "through", "CORBA", "standard", "services", ".", "Finally", ",", "the", "Translator", "level", "provides", "one", "translator", "for", "each", "component", "repository", "in", "such", "a", "way", "that", "it", "can", "participate", "in", "the", "Mediation", "Layer", "integration", "model", ".", "3.1", "Service", "Manager", "The", "Service", "Manager", "-LRB-", "SM", "-RRB-", "stores", "metadata", "about", "mediators", ",", "translators", "and", "data", "sources", "availability", ",", "and", "deals", "with", "ontological", "commitments", "between", "related", "mediators", "-LRB-", "domains", "-RRB-", ".", "Schema", "1", "presents", "an", "overview", "of", "SM", "Metadata", "in", "ODL", "notation", ",", "and", "Schema", "2", "provides", "the", "IDL", "interface", "to", "access", "mediators", "through", "the", "CORBA", "bus", ".", "class", "Object_Himpar", "-LRB-", "extent", "Himpares", "-RRB-", "-LCB-", "attribute", "string", "Name", ";", "-RCB-", "class", "Mediator", "extends", "Object_Himpar", "-LRB-", "extent", "Mediadores", "-RRB-", "-LCB-", "relationship", "list", "<", "Container", ">", "AssociatedDataSources", "inverse", "DataSource", ":", ":", "Medis", ";", "attribute", "string", "Description", ";", "attribute", "string", "KeyWords", ";", "relationship", "list", "<", "Mediador", ">", "Super", "inverse", "Mediador", ":", ":", "*", ";", "relationship", "list", "<", "Mediador", ">", "Spec", "inverse", "Mediador", ":", ":", "*", ";", "relationship", "list", "<", "Mediador", ">", "Assoc", "inverse", "Mediador", ":", ":", "*", ";", "attribute", "string", "BaseName", ";", "relationship", "list", "<", "OntologyTerm", ">", "TermRel", "inverse", "OntologyTerm", ":", ":", "MediadorRel", ";", "attribute", "String", "password", ";", "-RCB-", "class", "Wrapper", "extends", "Object_Himpar", "-LRB-", "extent", "Wrappers", "-RRB-", "-LCB-", "attribute", "string", "description", ";", "attribute", "string", "type", ";", "relationship", "list", "<", "DataSource", ">", "Repositories", "inverse", "DataSource", ":", ":", "Trad", ";", "-RCB-", "class", "DataSource", "extends", "Object_Himpar", "-LRB-", "extent", "DataSources", "-RRB-", "-LCB-", "attribute", "string", "owner", ";", "relationship", "list", "<", "Mapping", ">", "Structure", "inverse", "Mapping", ":", ":", "Cont", ";", "attribute", "string", "AbstractionLevel", ";", "relationship", "Wrapper", "Trad", "inverse", "Wrapper", ":", ":", "Repositories", ";", "relationship", "list", "<", "Mediator", ">", "Medis", ".", "inverse", "Mediator", ":", ":", "AssociatedDataSources", ";", "attribute", "String", "password", ";", "-RCB-", "class", "Mapping", "-LCB-", "attribute", "string", "DataSourceName", ";", "attribute", "string", "map", ";", "relationship", "DataSource", "Cont", "inverse", "DataSource", ":", ":", "Structure", ";", "-RCB-", "class", "OntologyTerm", "-LRB-", "extent", "Terms", "-RRB-", "-LCB-", "attribute", "string", "Name", ";", "relationship", "list", "<", "OntologyTerm", ">", "Synonym", "inverse", "OntologyTerm", ":", ":", "*", ";", "relationship", "list", "<", "OntologyTerm", ">", "Hipernym", "inverse", "OntologyTerm", ":", ":", "*", ";", "relationship", "list", "<", "OntologyTerm", ">", "Hiponym", "inverse", "OntologyTerm", ":", ":", "*", ";", "relationship", "Mediator", "MediadorRel", "inverse", "Mediator", ":", "TermRel", ";", "-RCB-", "class", "Component", "-LRB-", "extent", "Components", "-RRB-", "-LCB-", "attribute", "string", "type", ";", "-RCB-", "Schema", "1", "Metadata", "of", "Service", "Manager", "The", "ontological", "commitments", "between", "related", "mediators", "are", "all", "done", "at", "SM", "level", ".", "SM", "provides", "the", "necessary", "metadata", "for", "this", ",", "using", "the", "Mediator", ",", "DataSource", ",", "Mapping", ",", "OntologyTerm", "and", "Component", "classes", "described", "in", "Schema2", ".", "The", "decision", "to", "concentrate", "all", "ontological", "commitments", "at", "SM", "level", "was", "mainly", "based", "on", "the", "SM", "available", "information", ".", "It", "knows", "the", "availability", "of", "all", "OML", "components", "and", "thus", "is", "able", "to", "indicate", "which", "domain", "the", "user", "could", "access", ".", "In", "order", "to", "use", "a", "given", "mediator", "within", "OML", ",", "the", "administrator", "has", "to", "register", "the", "mediator", ",", "its", "related", "data", "sources", ",", "and", "translators", "used", "by", "these", "data", "sources", "into", "SM", ".", "Figures", "3", "and", "4", "present", "examples", "of", "the", "interfaces", "for", "doing", "this", ".", "module", "Mediator", "-LCB-", "interface", "Access", "-LCB-", "struct", "OntologyTerm", "-LCB-", "string", "Name", ";", "string", "Description", ";", "-RCB-", ";", "struct", "object", "-LCB-", "string", "type", ";", "string", "definition", ";", "-RCB-", ";", "typedef", "sequence", "<", "Ontology", ">", "ListOntology", ";", "typedef", "sequence", "<", "object", ">", "ListObjects", ";", "/", "/", "Functions", "for", "the", "management", "of", "bases", "string", "open_base", "-LRB-", "in", "string", "basename", "-RRB-", ";", "void", "close_base", "-LRB-", "in", "string", "basename", "-RRB-", ";", "/", "/", "Functions", "for", "the", "management", "of", "ontologies", "ListOntology", "retrieve_Ontology", "-LRB-", "in", "string", "mediator-name", "-RRB-", ";", "/", "/", "Functions", "for", "retrieve", "components", "ListObjects", "queryMediator", "-LRB-", "in", "string", "query", "-RRB-", ";", "-RCB-", ";", "-RCB-", ";", "Schema", "2", "SM", "IDL", "interface", "to", "access", "mediators", "Figure", "3", "shows", "some", "information", "about", "the", "Municipal", "Legislative", "Mediator", "within", "SM", ".", "Some", "basic", "metadata", "are", ":", "i", "-RRB-", "the", "mediator", "name", ",", "ii", "-RRB-", "the", "executable", "file", "that", "has", "to", "be", "loaded", "-LRB-", "if", "it", "is", "not", "already", "loaded", "-RRB-", "by", "ORB", ",", "in", "order", "to", "respond", "to", "some", "request", "to", "this", "specific", "mediator", ",", "iii", "-RRB-", "the", "keywords", "related", "to", "the", "mediator", "23", "-LRB-", "this", "information", "provides", "a", "fast", "and", "limited", "knowledge", "about", "the", "contents", "of", "the", "mediator", "-RRB-", ",", "iv", "-RRB-", "the", "password", "required", "by", "the", "mediator", "to", "attend", "the", "request", "-LRB-", "if", "necessary", "-RRB-", ",", "among", "others", ".", "Figure", "4", "presents", "a", "data", "source", "registration", ",", "associating", "a", "specific", "data", "source", ",", "File", "System2", ",", "to", "the", "Municipal", "Legislative", "Mediator", ".", "We", "may", "also", "register", "the", "available", "types", "of", "components", "in", "order", "to", "know", "to", "which", "phase", "of", "the", "application", "development", "the", "component", "belongs", "-LRB-", "analysis", ",", "architectural", "or", "implementation", "see", "Figure", "8", "-RRB-", ".", "One", "important", "characteristic", "of", "OML", "is", "to", "use", "domain", "ontology", "to", "search", "for", "domain", "terms", "and", "its", "ontological", "relationship", ",", "within", "or", "among", "various", "domains", "at", "different", "levels", "of", "abstraction", ".", "Thus", ",", "SM", "has", "to", "capture", "the", "ontological", "model", "4", "of", "each", "mediator", "and", "associate", "terms", "among", "them", ".", "For", "capturing", "each", "ontological", "model", ",", "SM", "uses", "the", "ORB", "bus", ",", "through", "IDL", "retrieve_Ontology", "-LRB-", "-RRB-", "interface", "method", "-LRB-", "Schema", "2", "-RRB-", ",", "to", "access", "the", "specific", "mediator", ",", "retrieving", "its", "ontological", "terms", ".", "Therefore", ",", "the", "ontological", "model", "provides", "the", "main", "structure", "for", "dealing", "with", "domain", "ontology", "relationships", ".", "Relationships", "involve", "semantic", "links", "such", "as", "Hypernyms", ",", "Hyponyms", ",", "and", "Synonyms", ".", "A", "Synonym", "link", "associates", "ontological", "terms", "in", "several", "domains", "that", "represent", "synonyms", "for", "a", "particular", "ontological", "term", ".", "Hypernyms", "and", "Hyponyms", "links", "relate", "ontological", "terms", "from", "various", "domains", "that", "can", "be", "either", "more", "general", "or", "more", "specific", "than", "the", "current", "one", ".", "Thus", ",", "it", "is", "possible", "to", "associate", "ontological", "terms", "from", "multiple", "domains", ",", "providing", "accessibility", "for", "domain", "information", ".", "Figure", "5", "presents", "the", "interface", "for", "the", "association", "of", "ontological", "terms", ".", "In", "a", "query", "formulation", ",", "SM", "accesses", "and", "retrieves", "all", "related", "mediators", ",", "searching", "for", "component", "information", "that", "fulfills", "the", "query", "semantics", ".", "The", "ontological", "information", "about", "requested", "4", "Each", "ontological", "term", "is", "specified", "as", "a", "domain", "term", "and", "a", "detailed", "description", "of", "it", ",", "and", "relationships", "with", "other", "ontological", "terms", ",", "at", "different", "levels", "of", "abstraction", ",", "are", "created", "-LRB-", "see", "section", "3.2", "-RRB-", "domains", "is", "transferred", "by", "the", "Broker", "-LRB-", "ORB", "-RRB-", "to", "the", "proper", "domain", "-LRB-", "mediator", "-RRB-", ",", "using", "the", "method", "queryMediator", "-LRB-", "in", "string", "query", "-RRB-", ",", "and", "correct", "ontological", "domain", "terms", ".", "In", "the", "example", "shown", ",", "SM", "will", "query", "all", "mediators", "that", "are", "related", "to", "the", "Municipal", "Legislative", "mediator", ".", "Thus", ",", "SM", "will", "transmit", "the", "query", "to", "the", "Legislative", "Domain", "Mediator", "and", "Justice", "Domain", "Mediator", "-LRB-", "see", "Figure", "2", "-RRB-", ".", "The", "retrieved", "components", "and", "their", "corresponding", "match", "levels", "are", "shown", ",", "if", "each", "retrieved", "component", "exactly", "matches", "the", "query", "or", "if", "the", "component", "Figure", "3", "A", "Mediator", "Registration", "Example", "Figure", "4", "A", "data", "source", "registration", "example", "24", "partially", "attends", "the", "request", ".", "OML", "registers", "this", "information", "and", "presents", "how", "well", "the", "component", "attends", "the", "request", "-LRB-", "total", "or", "some", "percentage", "in", "the", "latter", "case", "-RRB-", ".", "In", "section", "4", ",", "we", "present", "a", "more", "concrete", "example", "of", "this", "kind", "of", "query", ".", "3.2", "Mediator", "Manager", "Each", "mediator", "has", "its", "own", "metadata", ".", "This", "metadata", "represents", "the", "ontological", "model", "of", "the", "domain", ".", "The", "Mediator", "manager", "-LRB-", "MM", "-RRB-", "also", "stores", "relationships", "among", "the", "ontological", "terms", "and", "components", "stored", "in", "data", "sources", ".", "This", "metadata", "provides", "the", "capability", "to", "retrieve", "components", "related", "to", "this", "mediator", "-LRB-", "domain", "-RRB-", ".", "In", "order", "to", "provide", "this", "feature", ",", "MM", "also", "stores", "the", "ontology", "metadata", "related", "to", "this", "domain", ".", "For", "each", "ontological", "domain", "term", ",", "it", "is", "necessary", "to", "register", "its", "name", ",", "its", "type", "-LRB-", "in", "this", "specific", "case", "a", "term", "that", "represents", "a", "functionality", "in", "the", "domain", "-RRB-", ",", "its", "importance", "within", "the", "domain", "and", "the", "related", "domain", "terms", ".", "These", "terms", "permit", "the", "expansion", "of", "the", "query", "range", "within", "the", "domain", ",", "i.e.", ",", "if", "there", "is", "no", "component", "information", "on", "data", "sources", "related", "to", "this", "specific", "ontological", "term", ",", "OML", "could", "query", "related", "ontological", "terms", "in", "the", "same", "domain", ".", "Of", "course", ",", "this", "``", "shift", "''", "must", "be", "reported", "to", "the", "user", ".", "In", "order", "to", "relate", "each", "ontological", "term", "with", "its", "counterparts", "in", "data", "sources", ",", "MM", "retrieves", "related", "information", "of", "data", "sources", "from", "SM", ",", "using", "the", "ORB", "bus", ".", "The", "retrieved", "information", "is", "used", "by", "MM", "to", "locate", "and", "retrieve", "software", "components", "from", "data", "sources", ".", "Thus", ",", "we", "can", "associate", "each", "ontological", "term", "with", "its", "related", "components", ",", "with", "the", "help", "of", "a", "specific", "translator", ".", "Consider", "a", "user", "who", "is", "developing", "an", "application", "to", "handle", "new", "legislative", "proposals", ",", "among", "other", "characteristics", ",", "in", "the", "legislative", "domain", ".", "He", "wants", "to", "know", "if", "he", "can", "use", "pre-existing", "software", "components", "in", "his", "application", ".", "Thus", ",", "he", "can", "use", "the", "OML", "user", "interface", "to", "know", "about", "the", "availability", "of", "this", "kind", "of", "components", ",", "and", "to", "retrieve", "some", "candidates", ".", "In", "our", "example", "-LRB-", "Figure", "6", "-RRB-", ",", "data", "source", "2", "has", "a", "binary", "software", "component", "called", "``", "New", "Subject", "''", ",", "and", "data", "source", "1", "has", "a", "Java", "package", "-LRB-", "set", "of", "related", "classes", "-RRB-", "named", "``", "Proposal", "Creation", "''", ".", "Both", "data", "sources", "were", "mapped", "into", "the", "Legislative", "Municipal", "Domain", "Mediator", ".", "Therefore", ",", "the", "Justice", "Domain", "mediator", "has", "an", "ontology", "term", "named", "Justice", "Code", "that", "is", "mapped", "to", "a", "component", "named", "Code", "Database", ".", "These", "components", "are", "made", "available", "to", "the", "Legislative", "Municipal", "Domain", "through", "the", "ontological", "term", "in", "the", "mediator", "called", "``", "Creation", "of", "New", "Proposals", "''", ",", "and", "are", "mapped", "to", "the", "above", "components", "in", "data", "sources", ",", "i.e.", ",", "data", "sources", "1", "and", "2", ".", "During", "the", "creation", "of", "new", "proposals", "within", "a", "Municipal", "Legislative", "House", ",", "there", "are", "some", "cases", "when", "it", "is", "necessary", "to", "consult", "justice", "database", "rules", ".", "This", "justice", "database", "can", "impose", "some", "restrictions", "on", "a", "new", "proposal", "creation", ".", "Figure", "5", "Multiple", "Ontology", "Association", "25", "When", "the", "Municipal", "Legislative", "Mediator", "was", "registered", ",", "the", "SM", "administrator", "associated", "this", "mediator", "with", "the", "Justice", "Mediator", ".", "This", "Justice", "Mediator", "provides", "software", "components", "used", "for", "the", "development", "of", "applications", "in", "the", "Justice", "domain", ".", "Thus", ",", "when", "our", "user", "accesses", "the", "SM", "interface", "in", "order", "to", "retrieve", "components", "related", "to", "the", "creation", "of", "new", "proposals", ",", "he", "can", "choose", "to", "access", "information", "from", "all", "related", "mediators", ",", "i.e.", ",", "generic", "mediators", ",", "specific", "mediators", ",", "associated", "mediators", "or", "all", "of", "them", ".", "Suppose", "our", "user", "decides", "to", "retrieve", "information", "from", "the", "Legislative", "Mediator", "and", "associated", "mediators", ",", "then", "he", "will", "access", "components", "from", "the", "Legislative", "Mediator", "and", "Justice", "Mediator", "-LRB-", "see", "Figure", "2", "-RRB-", ".", "The", "formulation", "of", "the", "query", "-LRB-", "Figure", "7", "-RRB-", ",", "selecting", "the", "type", "of", "component", "to", "be", "retrieved", "-LRB-", "components", "belong", "to", "analysis", ",", "architectural", ",", "codification", "or", "all", "phases", "of", "development", "-RRB-", ",", "and", "the", "result", "of", "this", "query", "is", "presented", "in", "Figure", "8", ".", "Note", "that", "for", "each", "component", ",", "a", "description", "of", "the", "retrieval", "is", "presented", "-LRB-", "in", "Data", "Source", "1", "Data", "Source", "2", "Mediator", "Manager", "ORB", "Justice", "Rules", "Proposal", "Creation", "New", "Subject", "Data", "Source", "3", "Rule", "Database", "Mediator", "Manager", "Creation", "of", "New", "Proposals", "Service", "Manager", "Creation", "of", "New", "Proposals", "Hyponym", "Justice", "Rules", "Figure", "6", "Retrieval", "Schema", "Example", "Figure", "7", "Query", "Formulation", "26", "Figure", "8", ",", "the", "description", "presented", "is", "related", "to", "the", "Rule", "Database", "Access", "component", "-RRB-", "and", "the", "user", "can", "select", "one", "or", "more", "components", "to", "retrieve", ".", "Through", "the", "mediation", "structure", ",", "OML", "users", "can", "search", "for", "components", "in", "a", "transparent", "and", "uniform", "way", ".", "In", "the", "above", "example", ",", "users", "of", "OML", "do", "not", "have", "to", "know", "where", "components", "are", "stored", ".", "Moreover", ",", "users", "do", "not", "have", "to", "query", "all", "component", "repositories", ",", "using", "each", "specific", "repository", "query", "language", "format", "-LRB-", "when", "a", "query", "language", "exists", "-RRB-", "to", "find", "where", "the", "needed", "components", "are", "stored", ".", "They", "do", "not", "even", "have", "do", "know", "how", "to", "access", "data", "sources", ".", "The", "complexity", "for", "dealing", "with", "these", "heterogeneous", "repositories", "is", "treated", "by", "OML", ".", "Without", "this", "layer", ",", "users", "would", "have", "to", "handle", "these", "repositories", "individually", ",", "increasing", "the", "complexity", "of", "the", "query", "and", "access", ".", "By", "using", "mediators", ",", "users", "can", "query", "specifically", "the", "mediation", "metadata", ",", "using", "one", "single", "model", ".", "The", "mappings", "between", "mediator", "metadata", "and", "translators", "redirect", "and", "decompose", "the", "query", "to", "data", "sources", "1", ",", "2", ",", "and", "3", ".", "Also", ",", "the", "identification", "of", "components", "of", "the", "same", "domain", "that", "are", "in", "different", "repositories", "can", "be", "detected", "at", "the", "time", "of", "their", "registration", "in", "the", "mediation", "layer", ".", "Afterwards", "this", "is", "all", "transparent", "to", "users", ".", "This", "work", "addresses", "the", "interoperability", "problem", "between", "component", "information", "repositories", ".", "An", "integration", "layer", "was", "developed", "to", "help", "searching", "and", "identifying", "suitable", "reuse", "components", ".", "This", "layer", "is", "based", "on", "mediators", "and", "ontologies", "to", "provide", "the", "binding", "of", "different", "components", "to", "their", "domain", "concepts", ".", "To", "assist", "the", "identification", "of", "related", "components", "and", "their", "appropriate", "domain", "organization", ",", "each", "mediator", "encloses", "one", "domain", "ontology", "and", "provides", "the", "mapping", "to", "their", "respective", "repository", "of", "components", ".", "Mediators", "provide", "a", "uniform", "view", "of", "the", "available", "components", "organized", "in", "domain", "taxonomy", ".", "Domain", "ontologies", "are", "used", "to", "help", "searching", "for", "reusable", "components", "information", "through", "the", "representation", "of", "domain", "semantic", "concepts", ".", "Therefore", ",", "this", "mediation", "layer", "promotes", "domain", "information", "integration", "and", "provides", "mechanisms", "to", "translate", "component", "requests", "across", "ontologies", ".", "The", "important", "aspect", "of", "our", "proposal", "is", "the", "use", "of", "domain", "ontologies", ",", "for", "reusable", "component", "retrieval", ",", "in", "a", "concrete", "situation", ",", "allowing", "users", "to", "express", "component", "requests", "at", "a", "higher", "level", "of", "abstraction", "when", "compared", "to", "keyword", "based", "access", "or", "component", "interface", "based", "access", "used", "in", "other", "proposals", ".", "Without", "OML", ",", "users", "would", "have", "to", "access", "directly", "various", "repositories", ",", "dealing", "with", "specific", "characteristics", "of", "each", "repository", ".", "Therefore", ",", "the", "main", "contribution", "of", "this", "paper", "is", "to", "show", "the", "potential", "of", "the", "technology", "of", "mediators", ",", "together", "with", "ontology", "models", ",", "for", "dealing", "with", "components", "repositories", "complexities", ",", "and", "organizing", "the", "manipulation", "of", "different", "components", "within", "a", "domain", "ontology", ".", "Although", ",", "the", "mediation", "technology", "is", "quite", "popular", "within", "HDDS", ",", "its", "adaptation", "using", "domain", "ontologies", "for", "component", "information", "retrieval", "is", "innovative", ".", "OML", "is", "an", "operational", "interoperability", "architecture", "based", "on", "the", "use", "of", "mediators", ",", "translators", ",", "and", "a", "CORBA", "communication", "protocol", ",", "which", "is", "responsible", "for", "the", "connection", "among", "translators", "and", "mediators", "in", "a", "distributed", "and", "heterogeneous", "environment", ".", "It", "was", "constructed", "using", "the", "C++", "language", "together", "with", "the", "Visibroker", "ORB", "for", "C++", ".", "Currently", ",", "OML", "is", "being", "extended", "in", "order", "to", "publish", "and", "search", "for", "components", "on", "the", "Internet", "-LSB-", "19", "-RSB-", ",", "based", "on", "XML", "standard", ".", "-LSB-", "1", "-RSB-", "Jacobson", ",", "I.", ";", "Griss", ",", "M.", ";", "Jonsson", ",", "P.", ":", "``", "Software", "Reuse", ":", "Architecture", ",", "Process", "and", "Organization", "for", "Business", "Success", ";", "''", "Addison", "Wesley", "Longman", ",", "May", "1997", ".", "Figure", "8", "Example", "of", "component", "information", "retrieval", "in", "OML", "27", "-LSB-", "2", "-RSB-", "Wiederhold", ",", "Gio", ";", "Jannink", ",", "Jan", ":", "``", "Composing", "Diverse", "Ontologies", ";", "''", "8th", "Working", "Conference", "on", "Database", "Semantics", "-LRB-", "DS-8", "-RRB-", ",", "Rotorua", ",", "New", "Zealand", "-LRB-", "DS-8", "-RRB-", "January", "1999", "-LRB-", "Final", "version", "to", "be", "published", "by", "IFIP/Kluwer/Chapman", "&", "Hall", "-RRB-", ".", "-LSB-", "3", "-RSB-", "Arens", "Y.", ",", "Knoblock", "C.A.", ",", "and", "Shen", "W.", ":", "Query", "reformulation", "for", "dynamic", "information", "integration", ".", "Journal", "of", "Intelligent", "Information", "Systems", ",", "6", "-LRB-", "2", "-RRB-", ":", "99", "130", ",", "1996", ".", "-LSB-", "4", "-RSB-", "Molina", ",", "Garcia", "and", "et.al", ".", ":", "The", "TSIMMIS", "approach", "to", "mediation", ":", "Data", "models", "and", "languages", ".", "Journal", "of", "Intelligent", "Information", "System", ",", "8", "-LRB-", "2", "-RRB-", ",", "1997", ".", "-LSB-", "5", "-RSB-", "Braga", ",", "R.", ";", "Mattoso", ",", "M.", ";", "Werner", ",", "C.", ":", "``", "The", "Use", "of", "Mediators", "for", "Component", "Retrieval", "in", "a", "Reuse", "Environment", ",", "''", "In", ":", "Proc", ".", "Technology", "of", "Object-Oriented", "Languages", "and", "Systems", "Conference", "-LRB-", "TOOLS-30", "USA", "'", "99", "-RRB-", ",", "IEEE", "CS", "Press", ",", "Santa", "Barbara", ",", "pp.542-546", ",", "August", "1999", ".", "-LSB-", "6", "-RSB-", "Seacord", ",", "R.", ";", "Hissan", ",", "S.", ";", "Wallnau", ",", "K", ",", ":", "``", "Agora", ":", "A", "Search", "Engine", "for", "Software", "Components", ",", "''", "Technical", "Report", "CMU/SEI", "-98-TR-011", ",", "August", "1998", ".", "-LSB-", "7", "-RSB-", "Genesereth", "M.R.", ",", "Keller", "A.", ",", "and", "Duschka", "O.M.", ":", "Infomaster", ":", "An", "Information", "Integration", "System", ".", "In", "SIGMOD", "RECORD", ",", "Proceedings", "of", "the", "97", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pp.", "539", "542", ",", "Tucson-Arizona", ",", "1997", ".", "-LSB-", "8", "-RSB-", "Levy", ",", "Alon", "Y.", ",", "Rajaraman", ",", "Anand", ",", "and", "Ordille", ",", "Joann", "J.", ":", "Querying", "heterogeneous", "information", "sources", "using", "source", "descriptions", ".", "In", "Proceedings", "of", "the", "22nd", "VLDB", "Conference", ",", "pp.", "251", "262", ",", "Mumbai", "-LRB-", "Bombay", "-RRB-", ",", "India", ",", "1996", ".", "-LSB-", "9", "-RSB-", "Fowler", ",", "Jerry", ",", "Perry", ",", "Brad", ",", "Nodine", ",", "Marian", ",", "and", "Bargmeyer", ",", "Bruce", ":", "Agent-Based", "Semantic", "Interoperability", "in", "InfoSleuth", ",", "SIGMOD", "Record", "28", "-LRB-", "1", "-RRB-", ":", "pp.", "60-67", ",", "1999", ".", "-LSB-", "10", "-RSB-", "RIG", ";", "``", "Reusable", "Library", "Interoperability", "Group", "''", "at", "http://www.asset.com/rig/", ",", "1996", ".", "-LSB-", "11", "-RSB-", "Pires", ",", "P.", ";", "Mattoso", ",", "M.", ":", "``", "A", "CORBA", "based", "architecture", "for", "heterogeneous", "information", "source", "interoperability", ";", "''", "Proceedings", "of", "Technology", "of", "Object-Oriented", "Languages", "and", "Systems", "-", "TOOLS", "'", "25", ",", "IEEE", "CS", "Press", ",", "pp.33-49", ",", "November", "1997", ".", "-LSB-", "12", "-RSB-", "Szyperski", ",", "C.", ":", "Component", "Software", ":", "Beyond", "Object", "Oriented", "Programming", ",", "Addison", "Wesley", ",", "1998", "-LSB-", "13", "-RSB-", "Ram", ",", "S.", ":", "``", "Guest", "Editor", "'s", "Introduction", ":", "Heterogeneous", "Distributed", "Database", "Systems", ",", "''", ";", "IEEE", "Computer", ",", "Vol", ".", "24", "No.", "12", ",", "December", "1991", ".", "-LSB-", "14", "-RSB-", "Nieto", ",", "E.", "M.", ":", "OBSERVER", ":", "An", "Aproach", "for", "Query", "Processing", "in", "Global", "Information", "Systems", "based", "on", "Interoperation", "across", "Pre-existing", "Ontologies", ",", "Doctoral", "Thesis", ",", "Universidade", "de", "Zaragoza", ",", "November", "1998", ".", "-LSB-", "15", "-RSB-", "Weinstein", ",", "P.", "C.", ":", "Ontology-based", "Metadata", ":", "Transforming", "the", "MARC", "Legacy", ",", "Proceedings", "of", "the", "1998", "ACM", "7", "th", "Internacional", "Conference", "on", "Information", "and", "Knowledge", "Management", ",", "pp.", "52-59", ",", "1998", ".", "-LSB-", "16", "-RSB-", "Braga", ",", "R.", ";", "Mattoso", ",", "M.", ";", "Werner", ",", "C.", ":", "``", "Using", "Ontologies", "for", "Domain", "Information", "Retrieval", ",", "''", "in", "DEXA", "2000", "DomE", "Workshop", ",", "pp.100-104", ",", "September", "2000", ".", "-LSB-", "17", "-RSB-", "Braga", ",", "R.", ";", "Werner", ",", "C.", ";", "Mattoso", ",", "M.", ":", "``", "Odyssey", ":", "A", "Reuse", "Environment", "based", "on", "Domain", "Models", "''", ";", "In", ":", "Proceedings", "of", "IEEE", "Symposium", "on", "Application-Specific", "Systems", "and", "Software", "Engineering", "Technology", "-LRB-", "ASSET", "'", "99", "-RRB-", ",", "IEEE", "CS", "Press", ",", "Richardson", ",", "Texas", ",", "pp.50-57", ",", "March", "1999", ".", "-LSB-", "18", "-RSB-", "Ye", ",", "Y.", ";", "Fischer", ",", "G.", ":", "``", "Promoting", "Reuse", "with", "Active", "Reuse", "Repository", "Systems", ",", "''", "IEEE", "ICSR", "2000", ",", "Vienna", ",", "pp.302-317", ",", "June", "2000", "-LSB-", "19", "-RSB-", "Pinheiro", ",", "R.", ";", "Costa", ",", "M.", ";", "Braga", ",", "R.", ";", "Mattoso", ",", "M", ";", "Werner", ",", "C.", ";", "``", "Software", "Components", "Reuse", "Through", "Web", "Search", "and", "Retrieval", "''", ",", "Proceedings", "of", "the", "International", "Workshop", "on", "Information", "Integration", "on", "the", "Web", "-", "Technologies", "and", "Applications", ",", "Rio", "de", "Janeiro", ",", "Brazil", ",", "2001", "-LRB-", "to", "appear", "-RRB-", ".", "5", "Each", "ontological", "term", "is", "specified", "as", "a", "domain", "term", "and", "a", "detailed", "description", "of", "it", ",", "and", "relationships", "with", "other", "ontological", "terms", ",", "at", "different", "levels", "of", "abstraction", ",", "are", "created", "-LRB-", "see", "section", "3.2", "-RRB-", "28"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["component repositories", "domain engineering"], "abstractive_keyphrases": ["software classification and identification", "component based engineering"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "16", "document": ["A", "Programming", "Languages", "Course", "for", "Freshmen", "Programming", "languages", "are", "a", "part", "of", "the", "core", "of", "computer", "science", ".", "Courses", "on", "programming", "languages", "are", "typically", "offered", "to", "junior", "or", "senior", "students", ",", "and", "textbooks", "are", "based", "on", "this", "assumption", ".", "However", ",", "our", "computer", "science", "curriculum", "offers", "the", "programming", "languages", "course", "in", "the", "first", "year", ".", "This", "unusual", "situation", "led", "us", "to", "design", "it", "from", "an", "untypical", "approach", ".", "In", "this", "paper", ",", "we", "first", "analyze", "and", "classify", "proposals", "for", "the", "programming", "languages", "course", "into", "different", "pure", "and", "hybrid", "approaches", ".", "Then", ",", "we", "describe", "a", "course", "for", "freshmen", "based", "on", "four", "pure", "approaches", ",", "and", "justify", "the", "main", "choices", "made", ".", "Finally", ",", "we", "identify", "the", "software", "used", "for", "laboratories", "and", "outline", "our", "experience", "after", "teaching", "it", "for", "seven", "years", ".", "K.", "3.2", "-LSB-", "Computers", "and", "education", "-RSB-", ":", "Computer", "and", "information", "science", "education", "computer", "science", "education", ".", "Languages", ",", "Theory", ".", "The", "topic", "of", "programming", "languages", "is", "a", "part", "of", "the", "core", "of", "computer", "science", ".", "It", "played", "a", "relevant", "role", "in", "all", "the", "curricula", "recommendations", "delivered", "by", "the", "ACM", "or", "the", "IEEE-CS", "since", "the", "first", "Curriculum", "'68", "-LSB-", "2", "-RSB-", ".", "Recent", "joint", "curricular", "recommendations", "of", "the", "ACM", "and", "the", "IEEE-CS", "identified", "several", "``", "areas", "''", "which", "structure", "the", "body", "of", "knowledge", "of", "the", "discipline", ".", "The", "list", "of", "areas", "has", "grown", "since", "the", "first", "proposal", "made", "by", "the", "Denning", "Report", "-LSB-", "4", "-RSB-", "up", "to", "14", "in", "the", "latest", "version", ",", "Computing", "Curricula", "2001", "-LSB-", "12", "-RSB-", ".", "Programming", "languages", "has", "always", "been", "one", "of", "these", "areas", ".", "Internationally", "reputed", "curricular", "recommendations", "are", "a", "valuable", "tool", "for", "the", "design", "of", "particular", "curricula", ".", "However", ",", "each", "country", "has", "specific", "features", "that", "constrain", "the", "way", "of", "organizing", "their", "studies", ".", "In", "Spain", ",", "the", "curriculum", "of", "a", "discipline", "offered", "by", "a", "university", "is", "the", "result", "of", "a", "trade-off", ".", "On", "the", "one", "hand", ",", "the", "university", "must", "at", "least", "offer", "a", "number", "of", "credits", "of", "the", "core", "subject", "matters", "established", "by", "the", "Government", ".", "On", "the", "other", "hand", ",", "the", "university", "may", "offer", "supplementary", "credits", "of", "the", "core", "as", "well", "as", "mandatory", "and", "optional", "courses", "defined", "according", "to", "the", "profile", "of", "the", "University", "and", "the", "faculty", ".", "Any", "proposal", "of", "a", "new", "curriculum", "follows", "a", "well-established", "process", ":", "-LRB-", "1", "-RRB-", "the", "curriculum", "is", "designed", "by", "a", "Center", "after", "consulting", "the", "departments", "involved", ";", "-LRB-", "2", "-RRB-", "it", "must", "be", "approved", "by", "the", "University", "Council", ";", "-LRB-", "3", "-RRB-", "the", "Universities", "Council", "of", "the", "Nation", "must", "deliver", "a", "-LRB-", "positive", "-RRB-", "report", ";", "and", "-LRB-", "4", "-RRB-", "the", "curriculum", "is", "published", "in", "the", "Official", "Bulletin", "of", "the", "Nation", ".", "This", "scheme", "has", "a", "number", "of", "advantages", ",", "e.g.", "a", "minimum", "degree", "of", "coherence", "among", "all", "the", "universities", "is", "guaranteed", ".", "However", ",", "it", "also", "has", "a", "number", "of", "disadvantages", ",", "e.g.", "the", "process", "to", "change", "a", "curriculum", "is", "very", "rigid", ".", "The", "Universidad", "Rey", "Juan", "Carlos", "is", "a", "young", "university", ",", "now", "seven", "years", "old", ".", "It", "offered", "studies", "of", "computer", "science", "since", "the", "very", "first", "year", ".", "The", "curriculum", "was", "designed", "by", "an", "external", "committee", ",", "so", "the", "teachers", "of", "computer", "science", "thereafter", "hired", "by", "the", "university", "did", "not", "have", "the", "opportunity", "to", "elaborate", "on", "it", ".", "The", "curriculum", "had", "a", "few", "weak", "points", "that", "would", "recommend", "a", "light", "reform", ",", "but", "the", "priorities", "of", "the", "new", "university", "postponed", "it", ".", "The", "curriculum", "establishes", "the", "features", "of", "the", "``", "Foundations", "of", "programming", "languages", "''", "course", ".", "The", "course", "is", "scheduled", "to", "last", "for", "fifteen", "weeks", ",", "with", "three", "lecture", "hours", "per", "week", "and", "two", "supervised", "laboratory", "hours", "per", "week", ".", "However", ",", "some", "flexibility", "is", "allowed", ",", "so", "that", "some", "weeks", "may", "be", "released", "from", "the", "lab", "component", ".", "This", "course", "is", "both", "a", "strong", "and", "a", "weak", "feature", "of", "the", "curriculum", ".", "It", "is", "a", "strong", "feature", "because", "programming", "languages", "are", "marginal", "in", "the", "official", "core", ".", "Consequently", ",", "our", "curriculum", "is", "closer", "to", "international", "recommendations", "than", "most", "Spanish", "universities", ".", "However", ",", "it", "is", "a", "weak", "feature", ",", "because", "the", "course", "is", "offered", "in", "the", "second", "semester", "of", "the", "first", "year", "!", "Notice", "that", "the", "programming", "languages", "course", "is", "more", "typically", "offered", "as", "an", "intermediate", "or", "advanced", "course", "in", "the", "third", "or", "fourth", "year", ".", "Our", "problem", "was", "how", "to", "teach", "the", "programming", "languages", "course", "to", "freshmen", ".", "The", "paper", "presents", "our", "design", "of", "the", "course", "and", "our", "experience", ".", "In", "the", "second", "section", "we", "first", "analyze", "and", "classify", "proposals", "for", "the", "programming", "languages", "course", "into", "different", "pure", "and", "hybrid", "approaches", ".", "In", "section", "3", ",", "we", "describe", "a", "course", "for", "freshmen", "based", "on", "four", "pure", "approaches", ",", "and", "justify", "the", "choices", "made", "with", "respect", "to", "the", "factors", "that", "most", "influenced", "its", "design", ".", "Finally", ",", "we", "identify", "the", "software", "used", "for", "laboratories", "and", "outline", "our", "experience", "after", "teaching", "it", "for", "seven", "years", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ITiCSE", "'", "05", ",", "June", "27", "29", ",", "2005", ",", "Monte", "de", "Caparica", ",", "Portugal", ".", "Copyright", "2005", "ACM", "1-59593-024-8", "/", "05/0006", "...", "$", "5.00", ".", "271", "Since", "Curriculum", "'", "68", ",", "several", "issues", "on", "programming", "languages", "have", "received", "attention", "in", "the", "different", "curriculum", "recommendations", ":", "particular", "programming", "languages", ",", "language", "implementation", ",", "etc.", ".", "It", "is", "formative", "to", "study", "-LRB-", "or", "to", "browse", ",", "at", "least", "-RRB-", "such", "recommendations", ",", "even", "though", "the", "large", "number", "of", "topics", "can", "be", "discouraging", "for", "the", "teacher", ".", "In", "this", "section", ",", "we", "try", "to", "organize", "different", "contributions", ".", "Firstly", ",", "we", "identify", "``", "pure", "''", "approaches", "to", "the", "programming", "languages", "course", ".", "Secondly", ",", "we", "describe", "their", "implementation", ",", "usually", "as", "hybrid", "approaches", ".", "Finally", ",", "we", "briefly", "discuss", "the", "issue", "of", "which", "programming", "languages", "and", "paradigms", "to", "use", "for", "the", "course", ".", "2.1", "Pure", "Approaches", "Probably", ",", "the", "best", "study", "on", "approaches", "to", "the", "programming", "languages", "course", "was", "given", "by", "King", "-LSB-", "7", "-RSB-", ".", "He", "made", "a", "study", "of", "15", "textbooks", "and", "found", "10", "different", "goals", ".", "Furthermore", ",", "he", "identified", "3", "approaches", "on", "which", "these", "textbooks", "were", "based", "and", "discussed", "a", "number", "of", "issues", ".", "We", "have", "extended", "his", "classification", "up", "to", "5", "approaches", ".", "Although", "most", "books", "and", "courses", "follow", "a", "hybrid", "approach", ",", "it", "is", "clarifying", "to", "distinguish", "the", "following", "pure", "ones", ":", "Catalogue", "approach", ".", "It", "provides", "a", "survey", "of", "several", "programming", "languages", ".", "This", "approach", "has", "several", "advantages", ":", "the", "student", "acquires", "a", "good", "education", "in", "several", "languages", ",", "it", "allows", "studying", "the", "interaction", "among", "different", "constructs", "of", "a", "language", ",", "and", "the", "languages", "may", "be", "studied", "in", "chronological", "order", ".", "However", ",", "it", "also", "exhibits", "disadvantages", ":", "there", "is", "much", "redundancy", "in", "studying", "similar", "features", "in", "different", "languages", ",", "and", "there", "is", "no", "guarantee", "that", "the", "student", "acquires", "a", "solid", "education", ".", "Descriptive", "-LRB-", "or", "anatomic", "-LSB-", "5", "-RSB-", "-RRB-", "approach", ".", "Programming", "languages", "have", "many", "common", "elements", "which", "can", "be", "grouped", "into", "categories", "and", "studied", "independently", ".", "Typical", "examples", "are", ":", "data", "types", ",", "hiding", "mechanisms", ",", "execution", "control", ",", "etc.", ".", "The", "advantages", "and", "disadvantages", "of", "this", "approach", "are", "roughly", "the", "opposite", "of", "the", "previous", "one", ".", "Paradigm", "approach", ".", "Although", "each", "language", "has", "different", "characteristics", "and", "constructs", ",", "it", "is", "based", "on", "a", "basic", "model", "of", "computation", "called", "programming", "paradigm", ".", "The", "paradigm", "approach", "is", "an", "evolution", "of", "the", "descriptive", "approach", "described", "above", "since", "it", "generalizes", "language", "constructs", "and", "groups", "them", "consistently", ".", "Typical", "examples", "of", "paradigms", "are", "functional", ",", "logic", "and", "imperative", "programming", ".", "Formal", "approach", ".", "It", "studies", "the", "foundations", "of", "programming", "languages", ",", "mainly", "their", "syntax", "and", "semantics", ".", "The", "main", "advantage", "of", "this", "approach", "is", "that", "the", "student", "acquires", "a", "solid", "conceptual", "background", ".", "However", ",", "it", "has", "the", "risk", "of", "being", "too", "formal", "and", "therefore", "keeping", "far", "from", "the", "study", "of", "the", "programming", "languages", "themselves", ".", "Implementation", "approach", ".", "It", "comprises", "language", "processing", "topics", ".", "This", "approach", "is", "usually", "adopted", "jointly", "with", "the", "descriptive", "one", ",", "so", "that", "the", "run-time", "mechanisms", "that", "support", "each", "language", "construct", "are", "also", "described", ".", "This", "allows", "estimating", "the", "computational", "cost", "of", "each", "construct", ".", "However", ",", "the", "student", "may", "associate", "each", "concept", "with", "a", "particular", "implementation", ";", "this", "approach", "may", "also", "be", "in", "contradiction", "with", "the", "idea", "that", "a", "high", "level", "language", "should", "be", "understandable", "independently", "from", "its", "implementation", ".", "2.2", "Implementation", "of", "Pure", "Approaches", "The", "formal", "and", "implementation", "approaches", "are", "the", "basis", "of", "two", "well", "known", "and", "established", "courses", ":", "computation", "theory", "and", "language", "processors", ".", "They", "are", "not", "studied", "in", "this", "paper", "as", "standalone", "courses", ",", "but", "we", "consider", "their", "integration", "into", "the", "programming", "languages", "course", ".", "Despite", "these", "``", "pure", "''", "approaches", ",", "it", "is", "more", "common", "to", "adopt", "a", "hybrid", "one", ",", "formed", "by", "a", "combination", "of", "several", "approaches", ".", "For", "instance", ",", "we", "have", "explained", "that", "a", "descriptive", "course", "may", "address", "the", "implementation", "of", "language", "constructs", ".", "The", "descriptive", "and", "paradigm", "approaches", "also", "are", "commonly", "complemented", "by", "a", "small", "catalogue", "of", "selected", "languages", ".", "It", "is", "also", "common", "to", "find", "a", "descriptive", "part", "based", "on", "the", "imperative", "paradigm", ",", "followed", "by", "a", "second", "part", "based", "on", "the", "catalogue", "or", "the", "paradigm", "approaches", ".", "Finally", ",", "the", "formal", "approach", "can", "complement", "the", "descriptive", "or", "implementation", "ones", ".", "From", "a", "historical", "point", "of", "view", ",", "the", "catalogue", "approach", "was", "the", "most", "common", "in", "the", "first", "years", "of", "computing", "curricula", ".", "However", ",", "it", "has", "almost", "universally", "been", "abandoned", ",", "with", "some", "interesting", "exceptions", ",", "such", "as", "the", "experience", "by", "Maurer", "-LSB-", "9", "-RSB-", "on", "a", "subfamily", "of", "four", "C-like", "languages", ".", "The", "trend", "has", "been", "towards", "giving", "more", "importance", "to", "the", "foundations", "of", "programming", "languages", ",", "mainly", "elements", "and", "paradigms", ".", "After", "this", "evolution", ",", "it", "seems", "that", "the", "two", "most", "common", "organizations", "are", ":", "Descriptive", "approach", ",", "complemented", "with", "some", "languages", "or", "paradigms", ".", "It", "is", "the", "most", "common", "organization", ",", "according", "to", "currently", "available", "textbooks", ".", "Descriptive", "approach", ",", "illustrated", "by", "means", "of", "interpreters", "of", "some", "selected", "languages", ".", "Interpreters", "and", "paradigms", "can", "be", "combined", "in", "two", "symmetrical", "ways", ":", "either", "implementing", "an", "interpreter", "in", "each", "paradigm", "-LSB-", "14", "-RSB-", ",", "or", "implementing", "an", "interpreter", "for", "one", "language", "of", "each", "paradigm", ";", "the", "latter", "approach", "can", "be", "adopted", "with", "an", "imperative", "language", "-LSB-", "6", "-RSB-", "or", ",", "more", "probably", ",", "with", "a", "functional", "language", "-LSB-", "1", "-RSB-", ".", "There", "are", "few", "proposals", "for", "a", "holistic", "approach", ".", "One", "exception", "is", "Wick", "and", "Stevenson", "'s", "proposal", "-LSB-", "17", "-RSB-", ",", "which", "combines", "the", "descriptive", ",", "formal", ",", "paradigm", "and", "implementation", "approaches", "into", "a", "``", "reductionistic", "''", "one", ".", "2.3", "Choice", "of", "Languages", "and", "Paradigms", "Courses", "on", "programming", "languages", "do", "not", "simply", "consist", "in", "the", "study", "of", "one", "or", "several", "languages", ",", "but", "their", "study", "usually", "is", "a", "part", "of", "the", "course", ".", "The", "selection", "of", "these", "languages", "rises", "some", "questions", ",", "that", "we", "can", "not", "discuss", "here", ".", "A", "related", "issue", "is", "the", "selection", "of", "programming", "paradigms", ".", "Not", "all", "the", "paradigms", "can", "be", "equally", "useful", "for", "a", "course", "on", "programming", "languages", "for", "freshmen", ".", "Firstly", ",", "some", "paradigms", "are", "richer", "to", "illustrate", "language", "elements", "than", "others", ".", "Secondly", ",", "some", "paradigms", "can", "be", "more", "adequate", "to", "freshmen", "than", "others", ".", "There", "is", "not", "a", "catalogue", "of", "paradigms", "classified", "by", "suitable", "academic", "year", ",", "but", "it", "is", "important", "to", "use", "a", "more", "objective", "criterion", "than", "just", "the", "personal", "opinion", "of", "faculty", ".", "272", "We", "have", "used", "the", "Computing", "Curricula", "2001", "-LSB-", "12", "-RSB-", "as", "an", "objective", "basis", "to", "identify", "feasible", "paradigms", ".", "They", "identify", "the", "paradigms", "that", "have", "succeeded", "in", "CS1", ":", "procedural", ",", "object-oriented", ",", "functional", ",", "algorithmic", "notations", ",", "and", "low-level", "languages", ".", "The", "last", "two", "choices", "are", "useful", "for", "CS1", "but", "not", "for", "a", "programming", "languages", "course", ",", "thus", "the", "remaining", "choices", "are", "procedural", ",", "object-oriented", ",", "and", "functional", ".", "An", "additional", "choice", ",", "not", "cited", "by", "Computing", "Curricula", "2001", ",", "consists", "in", "the", "use", "of", "tiny", "languages", "-LSB-", "8", "-RSB-", "-LSB-", "10", "-RSB-", ".", "These", "languages", "can", "be", "ad", "hoc", "designed", "for", "a", "specific", "domain", "or", "embedded", "into", "operating", "systems", "or", "applications", ".", "We", "discarded", "the", "catalogue", "approach", "because", "it", "would", "only", "contribute", "to", "a", "memorization", "effort", "by", "freshmen", ".", "Consequently", ",", "our", "course", "is", "based", "on", "the", "remaining", "four", "approaches", ":", "Formal", "approach", ".", "Formal", "grammars", "and", "syntax", "notations", "are", "given", "in", "depth", ".", "Language", "semantics", "is", "simply", "introduced", ".", "Implementation", "approach", ".", "Only", "basic", "concepts", "are", "given", ".", "Descriptive", "approach", ".", "Basic", "language", "elements", "are", "reviewed", ".", "Paradigm", "approach", ".", "A", "programming", "paradigm", "is", "given", "in", "depth", "-LRB-", "functional", "programming", "-RRB-", "but", "others", "are", "just", "sketched", ".", "Table", "1", "contains", "the", "contents", "of", "the", "course", "we", "offer", ".", "There", "are", "several", "major", "factors", "to", "consider", "for", "the", "design", "of", "a", "programming", "languages", "course", ".", "Firstly", ",", "the", "course", "when", "it", "is", "offered", "to", "students", "determines", "to", "a", "large", "extent", "the", "knowledge", "and", "maturity", "of", "students", ".", "Secondly", ",", "the", "existence", "of", "related", "courses", ",", "such", "as", "courses", "on", "automata", "theory", "or", "programming", "methodology", ",", "may", "recommend", "removing", "some", "overlapping", "topics", ".", "Thirdly", ",", "the", "specialization", "profile", "of", "faculty", "can", "foster", "the", "choice", "of", "a", "given", "topic", "instead", "of", "another", "one", ".", "Fourthly", ",", "a", "course", "with", "so", "many", "different", "topics", "must", "guarantee", "coherence", "among", "them", ".", "Finally", ",", "time", "constraints", "typically", "limit", "the", "number", "of", "topics", "to", "consider", ".", "In", "the", "following", "subsections", "we", "justify", "the", "adequacy", "of", "the", "choices", "made", "with", "respect", "to", "these", "factors", ".", "Table", "1", ".", "Syllabus", "of", "our", "programming", "languages", "course", "PART", "I.", "INTRODUCTION", "Chapter", "1", ".", "General", "issues", "Computer", "and", "programming", "languages", ".", "Elements", ",", "properties", "and", "history", "of", "programming", "languages", ".", "Classifications", ".", "PART", "II", ".", "SYNTACTIC", "FOUNDATIONS", "OF", "PROGRAMMING", "LANGUAGES", "Chapter", "2", ".", "Grammars", "and", "formal", "languages", "Alphabets", ",", "symbols", "and", "chains", ".", "Languages", ".", "Grammars", ".", "Derivation", "of", "sentences", ".", "Recursive", "grammars", ".", "Classification", "of", "grammars", ":", "Chomsky", "'s", "hierarchy", ".", "Abstract", "machines", ".", "Chapter", "3", ".", "Regular", "grammars", "Definition", ".", "Uses", "and", "limitations", ".", "Regular", "expressions", "and", "regular", "languages", ".", "Finite-state", "automata", ".", "Chapter", "4", ".", "Context-free", "grammars", "Definition", ".", "Uses", "and", "limitations", ".", "Parsing", "trees", ".", "The", "ambiguity", "problem", "and", "its", "removal", ".", "PART", "III", ".", "DESCRIPTION", "AND", "PROCESSING", "OF", "PROGRAMMING", "LANGUAGES", "Chapter", "5", ".", "Language", "processors", "Abstract", "-LRB-", "or", "virtual", "-RRB-", "machines", ".", "Classes", "of", "processors", ".", "Stages", "in", "language", "processing", ".", "Concrete", "vs.", "abstract", "syntax", ".", "Chapter", "6", ".", "Lexical", "and", "syntactic", "notations", "Lexical", "and", "syntactic", "elements", ".", "Regular", "definitions", ".", "Syntax", "notations", ":", "BNF", ",", "EBNF", ",", "syntax", "charts", ".", "Chapter", "7", ".", "Semantics", "Semantics", ".", "Classes", "of", "semantics", ".", "Static", "semantics", ".", "Binding", ".", "PART", "IV", ".", "THE", "FUNCTIONAL", "PARADIGM", "Chapter", "8", ".", "Basic", "elements", "Function", "definition", "and", "application", ".", "Programs", "and", "expressions", ".", "Overview", "of", "functional", "languages", ".", "Built-in", "types", ",", "values", "and", "operations", ".", "The", "conditional", "expression", ".", "Chapter", "9", ".", "Advanced", "elements", "Operational", "semantics", ":", "term", "rewriting", ".", "Recursive", "functions", ".", "Local", "definitions", ".", "Chapter", "10", ".", "Functional", "data", "types", "Constructors", ".", "Equations", "and", "patterns", ".", "Pattern", "matching", ".", "PART", "V.", "ELEMENTS", "OF", "PROGRAMMING", "LANGUAGES", "Chapter", "11", ".", "Lexical", "and", "syntactical", "elements", "Identifiers", ".", "Numbers", ".", "Characters", ".", "Comments", ".", "Delimeters", ".", "Notations", "for", "expressions", ".", "Program", "structure", "and", "blocks", ".", "Chapter", "12", ".", "Data", "types", "Recursive", "types", ".", "Parametric", "types", ":", "polymorphism", ".", "Polymorphic", "functions", ".", "Type", "systems", ".", "Type", "checking", "and", "inference", ".", "Type", "equivalence", ".", "Type", "conversion", ".", "Overloading", ".", "PART", "VI", ".", "PROGRAMMING", "PARADIGMS", "Chapter", "13", ".", "Other", "paradigms", "and", "languages", "Imperative", "paradigms", ".", "Logic", "paradigm", ".", "Motivation", "of", "concurrency", ".", "Other", "computer", "languages", ":", "mark-up", "languages", ".", "3.1", "Maturity", "of", "Students", "One", "major", "concern", "was", "the", "fact", "that", "the", "course", "is", "offered", "to", "freshmen", ".", "A", "single", "approach", "could", "not", "be", "used", "because", "of", "the", "freshmen", "'s", "lack", "of", "knowledge", "of", "programming", "languages", ".", "A", "variety", "of", "contents", "from", "the", "different", "approaches", "must", "be", "selected", "in", "order", "to", "give", "them", "a", "comprehensible", "and", "rich", "view", "of", "programming", "languages", ".", "The", "lack", "of", "maturity", "and", "capability", "of", "students", "to", "understand", "certain", "topics", "was", "a", "bottleneck", "for", "course", "organization", ".", "The", "different", "topics", "can", "be", "given", "with", "varying", "degrees", "of", "depth", ",", "but", "always", "making", "sure", "that", "freshmen", "can", "master", "them", ".", "We", "found", "that", "some", "topics", "are", "especially", "difficult", "to", "understand", ",", "even", "formulated", "in", "the", "simplest", "way", ".", "This", "mainly", "applies", "to", ":", "Semantics", "of", "programming", "languages", ".", "Implementation", "of", "programming", "languages", ".", "Some", "programming", "paradigms", ",", "such", "as", "concurrency", ".", "Consequently", ",", "these", "topics", "were", "included", "in", "a", "summarized", "way", ",", "so", "that", "students", "could", "achieve", "a", "global", "view", "of", "them", "and", "273", "understand", "the", "main", "issues", "involved", ".", "The", "rest", "of", "the", "topics", "could", "potentially", "be", "taught", "more", "deeply", ",", "but", "without", "forgetting", "that", "they", "were", "offered", "to", "freshmen", ".", "In", "terms", "of", "Bloom", "'s", "taxonomy", "-LSB-", "2", "-RSB-", ",", "the", "three", "topics", "above", "can", "be", "mastered", "at", "the", "knowledge", "level", ",", "or", "even", "comprehension", "level", ".", "However", ",", "for", "the", "rest", "of", "topics", ",", "we", "can", "expect", "students", "to", "achieve", "the", "application", "and", "analysis", "levels", ",", "at", "least", ".", "3.2", "Overlapping", "with", "Other", "Courses", "Some", "topics", "are", "also", "offered", "in", "other", "courses", ",", "either", "in", "the", "same", "or", "in", "a", "subsequent", "year", ".", "Consequently", ",", "these", "topics", "can", "be", "removed", "or", "dealt", "with", "more", "shallowly", ".", "The", "most", "probable", "conflicts", "are", ":", "Imperative", "programming", ",", "either", "procedural", "or", "object-oriented", ".", "Grammars", "and", "formal", "languages", ".", "Language", "processors", ".", "In", "our", "case", ",", "there", "is", "an", "annual", "course", "on", "programming", "methodology", "based", "on", "the", "imperative", "paradigm", ",", "but", "the", "other", "two", "topics", "are", "not", "included", "in", "the", "curriculum", ".", "The", "programming", "methodology", "course", "is", "offered", "in", "the", "first", "academic", "year", ".", "Consequently", ",", "we", "removed", "the", "imperative", "paradigm", ",", "except", "for", "its", "use", "in", "some", "illustrating", "examples", ",", "mainly", "in", "part", "V.", "However", ",", "we", "kept", "chapters", "on", "grammars", "and", "formal", "languages", ",", "and", "on", "language", "processors", ".", "3.3", "Preferences", "and", "Specialization", "of", "Faculty", "This", "factor", "is", "important", "in", "order", "to", "choose", "among", "equally", "eligible", "options", ",", "or", "to", "give", "broader", "coverage", "of", "some", "topics", ".", "In", "particular", ",", "faculty", "can", "be", "more", "familiar", "with", "some", "paradigms", "than", "with", "others", ".", "This", "was", "over-riding", "for", "our", "choice", "of", "the", "programming", "paradigm", ".", "In", "subsection", "2.3", "we", "discussed", "suitable", "paradigms", "for", "freshmen", ",", "and", "we", "concluded", "that", "Computing", "Curricula", "2001", "fosters", "the", "selection", "of", "the", "procedural", ",", "object-oriented", ",", "and", "functional", "paradigms", ".", "We", "discarded", "the", "procedural", "paradigm", "as", "it", "is", "concurrently", "taught", "in", "the", "programming", "methodology", "courses", ".", "Finally", ",", "our", "specialization", "gave", "priority", "to", "the", "functional", "paradigm", "over", "object-orientation", ".", "The", "reader", "can", "find", "many", "experiences", "in", "the", "literature", ",", "but", "we", "recommend", "a", "monograph", "on", "functional", "programming", "in", "education", "-LSB-", "13", "-RSB-", ".", "Functional", "programming", "is", "a", "paradigm", "with", "several", "advantages", ",", "such", "as", "short", "definition", "of", "languages", ",", "simple", "and", "concise", "programs", ",", "high", "level", "of", "abstraction", ",", "etc.", ".", "However", ",", "its", "main", "advantage", "for", "us", "is", "richness", "of", "elements", ".", "This", "allows", "us", "to", "deal", "with", "many", "aspects", "of", "programming", "languages", "-LRB-", "e.g.", "data", "types", ",", "recursion", ",", "polymorphism", ",", "etc.", "-RRB-", "in", "a", "natural", "and", "easy", "way", ".", "The", "use", "of", "tiny", "languages", "is", "another", "attractive", "choice", "in", "a", "course", "for", "freshmen", ".", "However", ",", "we", "also", "discarded", "them", "in", "favor", "of", "the", "functional", "paradigm", "because", "they", "have", "fewer", "language", "elements", ".", "3.4", "Coherence", "and", "Unifying", "Themes", "A", "key", "issue", "in", "a", "course", "based", "on", "several", "approaches", "is", "to", "provide", "contents", "coherence", ".", "A", "network", "of", "relationships", "among", "the", "different", "parts", "makes", "possible", "their", "coherent", "integration", ".", "Part", "III", "-LRB-", "description", "and", "processing", "of", "languages", "-RRB-", "is", "the", "pragmatic", "continuation", "of", "part", "II", "-LRB-", "formal", "grammars", "-RRB-", ".", "Thus", ",", "EBNF", "and", "syntactic", "charts", "are", "introduced", "in", "part", "III", "as", "more", "adequate", "notations", "for", "language", "description", "than", "pure", "grammar", "definitions", ".", "Language", "processing", "is", "given", "at", "a", "conceptual", "level", ",", "but", "the", "role", "of", "regular", "and", "syntax-free", "grammars", "in", "the", "architecture", "of", "language", "processors", "is", "highlighted", ".", "Parts", "IV", "and", "V", "are", "both", "based", "on", "a", "functional", "language", ",", "which", "is", "described", "with", "the", "tools", "given", "in", "part", "III", ",", "mainly", "EBNF", "and", "type", "constraints", ".", "Parts", "IV", "and", "V", "are", "also", "related", "because", "they", "are", "based", "on", "the", "same", "language", ".", "In", "order", "to", "provide", "more", "homogeneity", ",", "language", "elements", "studied", "in", "part", "V", "are", "introduced", "in", "a", "universal", "way", ",", "but", "they", "are", "mainly", "illustrated", "with", "the", "functional", "paradigm", ".", "Last", ",", "but", "not", "least", ",", "recursion", "is", "adopted", "as", "a", "recurring", "theme", "during", "the", "course", ".", "In", "effect", ",", "it", "is", "found", "in", "grammars", ",", "functions", "and", "data", "types", ".", "The", "recurrent", "presentation", "of", "this", "topic", "fosters", "deeper", "understanding", "by", "students", ".", "The", "``", "pure", "''", "definition", "of", "recursion", "is", "given", "early", "in", "the", "course", ",", "but", "its", "three", "instantiations", "enumerated", "above", "are", "studied", "later", ".", "For", "each", "instantiation", ",", "the", "mechanisms", "that", "accompany", "a", "recursive", "definition", "are", "clearly", "identified", ",", "in", "particular", "representation", "of", "information", "and", "operational", "semantics", "-LSB-", "16", "-RSB-", ".", "For", "instance", ",", "recursive", "grammars", "represent", "sentences", "as", "strings", "of", "terminal", "symbols", ",", "and", "its", "operating", "semantics", "is", "defined", "in", "terms", "of", "derivation", "of", "sentences", ".", "However", ",", "recursive", "functions", "represent", "information", "as", "expressions", ",", "and", "its", "operating", "semantics", "is", "defined", "in", "terms", "of", "term", "rewriting", ".", "3.5", "Time", "Constraints", "As", "a", "final", "factor", ",", "time", "constraints", "limit", "the", "depth", "of", "study", "of", "those", "topics", "that", "could", "be", "studied", "longer", ".", "A", "global", "view", "of", "the", "course", "schedule", "is", "given", "in", "Table", "2", ".", "Table", "2", "Schedule", "of", "the", "course", "Part", "Theory", "#hours", "Lab", "#hours", "Part", "I", "5", "Part", "II", "14", "8", "Part", "III", "10", "Part", "IV", "12", "6", "Part", "V", "8", "6", "Part", "VI", "4", "2", "In", "part", "II", "-LRB-", "formal", "grammars", "-RRB-", ",", "regular", "and", "context-free", "grammars", "are", "the", "only", "ones", "studied", "in", "depth", "because", "of", "their", "importance", "for", "language", "description", "and", "processing", ".", "Moreover", ",", "only", "one", "paradigm", "can", "be", "studied", "in", "depth", ".", "Even", "so", ",", "the", "lack", "of", "time", "limits", "the", "presentation", "of", "functional", "programming", "-LRB-", "parts", "IV", "and", "V", "-RRB-", "to", "the", "core", "elements", "of", "the", "paradigm", ".", "Other", "elements", ",", "important", "for", "the", "functional", "programmer", ",", "can", "not", "be", "addressed", "-LRB-", "e.g.", "higher-order", ",", "lazy", "evaluation", ",", "or", "currification", "-RRB-", ".", "However", ",", "this", "is", "not", "a", "serious", "drawback", "since", "the", "aim", "of", "including", "functional", "programming", "in", "the", "course", "is", "teaching", "the", "essentials", "of", "a", "new", "paradigm", "as", "well", "as", "illustrating", "language", "elements", ".", "274", "A", "course", "on", "programming", "languages", "must", "have", "a", "laboratory", "component", ".", "The", "laboratory", "schedule", "includes", "sessions", "for", "those", "parts", "of", "the", "course", "where", "problem", "solving", "can", "be", "faced", ",", "mainly", "formal", "grammars", "and", "functional", "programming", ".", "Laboratory", "tools", "were", "selected", "carefully", "so", "that", "they", "are", "adequate", "for", "freshmen", "to", "exercise", "non-trivial", "concepts", ";", "simple", "user", "interaction", "and", "visualization", "facilities", "are", "of", "great", "help", "here", ".", "There", "are", "a", "number", "of", "tools", "that", "fulfill", "these", "requirements", ".", "For", "formal", "grammars", ",", "we", "require", "simulators", "that", "allow", "at", "least", "manipulating", "regular", "expressions", ",", "finite", "automata", ",", "context-free", "grammars", "and", "derivation", "trees", ".", "Our", "final", "selection", "was", "JFLAP", "-LSB-", "11", "-RSB-", ".", "For", "functional", "programming", ",", "we", "require", "a", "programming", "environment", "that", "shows", "term", "rewriting", "as", "the", "operational", "semantics", ".", "Our", "final", "selection", "was", "WinHIPE", "-LSB-", "15", "-RSB-", ".", "We", "have", "been", "teaching", "this", "course", "for", "seven", "years", ".", "Although", "the", "basic", "structure", "has", "roughly", "been", "constant", ",", "it", "was", "refined", "according", "to", "our", "experience", ".", "In", "particular", ",", "the", "emphasis", "on", "recursion", "was", "introduced", "after", "several", "years", "as", "we", "noticed", "student", "problems", "with", "this", "concept", ".", "We", "consider", "that", "we", "have", "succeeded", ",", "at", "least", "in", "eliminating", "the", "magical", "connotation", "of", "recursion", ".", "A", "major", "change", "was", "the", "relative", "order", "of", "chapters", "on", "formal", "grammars", "and", "the", "functional", "paradigm", ".", "During", "the", "first", "year", ",", "they", "were", "given", "in", "reverse", "order", ".", "However", ",", "students", "had", "problems", "in", "understanding", "the", "syntax", "of", "functional", "declarations", "that", "led", "us", "to", "teach", "in", "the", "first", "place", "formal", "grammars", "-LRB-", "and", "therefore", "syntax", "notations", "such", "as", "EBNF", "-RRB-", ".", "Thus", ",", "a", "foundation", "to", "declare", "syntax", "was", "laid", "and", "then", "used", "to", "introduce", "functional", "programming", ".", "The", "literature", "classifies", "the", "main", "difficulties", "for", "teaching", "functional", "programming", "into", "syntactical", ",", "conceptual", "and", "``", "psychological", "''", "problems", "-LSB-", "13", "-RSB-", ".", "In", "our", "approach", ",", "the", "two", "former", "kinds", "of", "problems", "are", "avoided", ",", "but", "the", "latter", "remains", ".", "As", "freshmen", "learn", "concurrently", "the", "functional", "and", "one", "imperative", "language", ",", "they", "get", "the", "idea", "that", "functional", "is", "an", "exotic", ",", "useless", "paradigm", ".", "We", "have", "described", "a", "course", "on", "programming", "languages", "for", "freshmen", ".", "It", "comprises", "elements", "from", "four", "different", "approaches", ".", "We", "have", "described", "the", "contents", "of", "the", "course", ",", "and", "we", "have", "explained", "the", "factors", "that", "led", "us", "to", "its", "current", "design", ".", "The", "experience", "has", "been", "very", "positive", "both", "for", "teachers", "and", "for", "students", ".", "As", "the", "Denning", "report", "sought", "for", "CS1", ",", "we", "consider", "that", "our", "course", "illustrates", "that", "it", "is", "feasible", "to", "offer", "some", "traditionally", "intermediate", "or", "advanced", "matters", "in", "introductory", "courses", ".", "This", "work", "is", "supported", "by", "the", "research", "project", "TIN2004-07568", "of", "the", "Spanish", "Ministry", "of", "Education", "and", "Science", ".", "-LSB-", "1", "-RSB-", "Abelson", ",", "H.", ",", "and", "Sussman", ",", "G.J.", "Structure", "and", "Interpretation", "of", "Computer", "Programs", ".", "MIT", "Press", ",", "2", "ed.", ",", "1996", ".", "-LSB-", "2", "-RSB-", "Bloom", ",", "B.", ",", "Furst", ",", "E.", ",", "Hill", ",", "W.", ",", "and", "Krathwohl", ",", "D.R.", "Taxonomy", "of", "Educational", "Objectives", ":", "Handbook", "I", ",", "The", "Cognitive", "Domain", ".", "Addison-Wesley", ",", "1959", ".", "-LSB-", "3", "-RSB-", "Curriculum", "Committee", "on", "Computer", "Science", ".", "Curriculum", "'", "68", ":", "Recommendations", "for", "academic", "programs", "in", "computer", "science", ".", "Comm", ".", "ACM", ",", "11", ",", "3", "-LRB-", "March", "1968", "-RRB-", ",", "151-197", ".", "-LSB-", "4", "-RSB-", "Denning", ",", "P.", "et", "al.", ".", "Computing", "as", "a", "Discipline", ".", "ACM", "Press", ",", "New", "York", ",", "1988", ".", "-LSB-", "5", "-RSB-", "Fischer", ",", "A.E.", ",", "and", "Grodzinsky", ",", "F.S.", ".", "The", "Anatomy", "of", "Programming", "Languages", ".", "Prentice-Hall", ",", "1993", ".", "-LSB-", "6", "-RSB-", "Kamin", ",", "S.N.", "Programming", "Languages", ":", "An", "Interpreter-Based", "Approach", ".", "Addison-Wesley", ",", "1990", ".", "-LSB-", "7", "-RSB-", "King", ",", "K.N.", ".", "The", "evolution", "of", "the", "programming", "languages", "course", ".", "In", "23", "rd", "SIGCSE", "Technical", "Symposium", "on", "Computer", "Science", "Education", "-LRB-", "SIGCSE", "'", "92", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "1992", ",", "213-219", ".", "-LSB-", "8", "-RSB-", "Kolesar", ",", "M.V.", ",", "and", "Allan", ",", "V.H.", "Teaching", "computer", "science", "concepts", "and", "problem", "solving", "with", "a", "spreadsheet", ".", "In", "26", "th", "SIGCSE", "Technical", "Symposium", "on", "Computer", "Science", "Education", "-LRB-", "SIGCSE", "'", "95", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "1995", ",", "10-13", ".", "-LSB-", "9", "-RSB-", "Maurer", ",", "W.D.", ".", "The", "comparative", "programming", "languages", "course", ":", "A", "new", "chain", "of", "development", ".", "In", "33", "rd", "SIGCSE", "Technical", "Symposium", "on", "Computer", "Science", "Education", "-LRB-", "SIGCSE", "2002", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "2002", ",", "336-340", ".", "-LSB-", "10", "-RSB-", "Popyack", ",", "J.L.", ",", "and", "Herrmann", ",", "N", ".", "Why", "everyone", "should", "know", "how", "to", "program", "a", "computer", ".", "In", "IFIP", "World", "Conference", "on", "Computers", "in", "Education", "VI", "-LRB-", "WCCE", "'", "95", "-RRB-", ".", "Chapman", "&", "Hall", ",", "1995", ",", "603-612", ".", "-LSB-", "11", "-RSB-", "Hung", ",", "T.", ",", "and", "Rodger", ",", "S.H.", "Increasing", "visualization", "and", "interaction", "in", "the", "automata", "theory", "course", ".", "In", "31", "st", "SIGCSE", "Technical", "Symposium", "on", "Computer", "Science", "Education", "-LRB-", "SIGCSE", "2000", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "2000", ",", "6-10", ".", "-LSB-", "12", "-RSB-", "The", "Joint", "Task", "Force", "on", "Computing", "Curricula", "IEEE-CS/ACM", ":", "Computing", "Curricula", "2001", "Computer", "Science", ",", "http://www.computer.org/education/cc2001/final", ",", "2001", ".", "-LSB-", "13", "-RSB-", "Thomson", ",", "S.", ",", "and", "Wadler", ",", "P.", "-LRB-", "eds", ".", "-RRB-", "Functional", "programming", "in", "education", ".", "Journal", "of", "Functional", "Programming", ",", "3", ",", "1", "-LRB-", "1993", "-RRB-", ".", "-LSB-", "14", "-RSB-", "Tucker", ",", "A.B.", ",", "and", "Noonan", ",", "R.E.", "Integrating", "formal", "models", "into", "the", "programming", "languages", "course", ".", "In", "33", "rd", "SIGCSE", "Technical", "Symposium", "on", "Computer", "Science", "Education", "-LRB-", "SIGCSE", "2002", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "2002", ",", "346-350", ".", "-LSB-", "15", "-RSB-", "Vel", "zquez-Iturbide", ",", "J.", ".", "Improving", "functional", "programming", "environments", "for", "education", ".", "In", "M.", "D.", "Brouwer-Hanse", "y", "T.", "Harrington", "-LRB-", "eds", ".", "-RRB-", ",", "Man-Machine", "Communication", "for", "Educational", "Systems", "Design", ".", "Springer-Verlag", ",", "NATO", "ASI", "Series", "F", "124", ",", "1994", ",", "325-332", ".", "-LSB-", "16", "-RSB-", "Vel", "zquez-Iturbide", ",", "J.", ".", "Recursion", "in", "gradual", "steps", "-LRB-", "is", "recursion", "really", "that", "difficult", "?", "-RRB-", ".", "In", "31", "st", "SIGCSE", "Technical", "Symposium", "on", "Computer", "Science", "Education", "-LRB-", "SIGCSE", "2000", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "2000", ",", "310-314", ".", "-LSB-", "17", "-RSB-", "Wick", ",", "M.R.", ",", "and", "Stevenson", ",", "D.E.", ".", "A", "reductionistic", "approach", "to", "a", "course", "on", "programming", "languages", ".", "In", "32", "nd", "SIGCSE", "Technical", "Symposium", "on", "Computer", "Science", "Education", "-LRB-", "SIGCSE", "2001", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "2001", ",", "253-257", ".", "275"], "doc_bio_tags": ["O", "B", "I", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["freshmen", "programming languages", "laboratory component", "language description", "curriculum", "computer science", "topics", "programming paradigms", "formal grammars", "programming methodology", "recursion", "functional programming"], "abstractive_keyphrases": ["programming language course"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "155", "document": ["Psychologically", "Targeted", "Persuasive", "Advertising", "and", "Product", "Information", "in", "E-Commerce", "In", "this", "paper", ",", "we", "describe", "a", "framework", "for", "a", "personalization", "system", "to", "systematically", "induce", "desired", "emotion", "and", "attention", "related", "states", "and", "promote", "information", "processing", "in", "viewers", "of", "online", "advertising", "and", "e-commerce", "product", "information", ".", "Psychological", "Customization", "entails", "personalization", "of", "the", "way", "of", "presenting", "information", "-LRB-", "user", "interface", ",", "visual", "layouts", ",", "modalities", ",", "structures", "-RRB-", "per", "user", "to", "create", "desired", "transient", "psychological", "effects", "and", "states", ",", "such", "as", "emotion", ",", "attention", ",", "involvement", ",", "presence", ",", "persuasion", "and", "learning", ".", "Conceptual", "foundations", "and", "empiric", "evidence", "for", "the", "approach", "are", "presented", ".", "H.", "1.2", "-LSB-", "User/machine", "systems", "-RSB-", ":", "Human", "factors", ",", "human", "information", "processing", ",", "software", "psychology", "Performance", ",", "Design", ",", "Human", "Factors", ",", "Theory", "Advertising", "and", "presentation", "of", "product", "information", "is", "done", "both", "to", "inform", "people", "about", "new", "products", "and", "services", "and", "to", "persuade", "them", "into", "buying", "them", ".", "Persuasion", "can", "be", "thought", "of", "as", "influencing", "peoples", "attitudes", "and", "behavior", ".", "Advertising", "done", "in", "a", "mass", "medium", ",", "such", "as", "television", "or", "magazines", "can", "be", "segmented", "to", "desired", "audiences", ".", "However", ",", "there", "is", "a", "possibility", "to", "personalize", "or", "mass", "customize", "advertising", "in", "the", "internet", "and", "for", "instance", "in", "mobile", "phones", ".", "Similarly", ",", "in", "the", "internet", "also", "product", "information", "of", "various", "items", "for", "sale", "can", "be", "personalized", "to", "desired", "users", ".", "These", "two", "areas", "are", "introduced", "here", "together", "as", "they", "represent", "interesting", "opportunities", "for", "personalization", ".", "Consequently", ",", "personalization", "may", "turn", "out", "to", "be", "an", "important", "driver", "for", "future", "commercial", "applications", "and", "services", "in", "a", "one-to-one", "world", "in", "which", "automatic", "and", "intelligent", "systems", "tailor", "the", "interactions", "of", "users", ",", "contexts", "and", "systems", "in", "real-time", ".", "This", "paper", "describes", "the", "foundations", "of", "information", "personalization", "systems", "that", "may", "facilitate", "desired", "psychological", "states", "in", "individual", "users", "of", "internet", "based", "advertising", "and", "product", "information", "presentation", "in", "e-commerce", "thereby", "creating", "psychologically", "targeted", "messages", "for", "users", "of", "such", "systems", ".", "It", "is", "preliminarily", "hypothesized", "that", "such", "personalization", "may", "be", "one", "way", "to", "more", "efficient", "persuasion", ".", "When", "perceiving", "information", "via", "media", "and", "communications", "technologies", "users", "have", "a", "feeling", "of", "presence", ".", "In", "presence", ",", "the", "mediated", "information", "becomes", "the", "focused", "object", "of", "perception", ",", "while", "the", "immediate", ",", "external", "context", ",", "including", "the", "technological", "device", ",", "fades", "into", "the", "background", "-LSB-", "8", ",", "36", ",", "37", "-RSB-", ".", "Empirical", "studies", "show", "that", "information", "experienced", "in", "presence", "has", "real", "psychological", "effects", "on", "perceivers", ",", "such", "as", "emotional", "responses", "based", "on", "the", "events", "described", "or", "cognitive", "processing", "and", "learning", "from", "the", "events", "-LSB-", "see", "51", "-RSB-", ".", "It", "is", "likely", "that", "perceivers", "of", "advertisements", "and", "product", "information", "experience", "presence", "that", "may", "lead", "to", "various", "psychological", "effects", ".", "For", "instance", ",", "an", "attitude", "may", "be", "hold", "with", "greater", "confidence", "the", "stronger", "the", "presence", "experience", ".", "Personalization", "and", "customization", "entails", "the", "automatic", "or", "semiautomatic", "adaptation", "of", "information", "per", "user", "in", "an", "intelligent", "way", "with", "information", "technology", "-LSB-", "see", "33", ",", "68", "-RSB-", ".", "One", "may", "also", "vary", "the", "form", "of", "information", "-LRB-", "modality", "for", "instance", "-RRB-", "per", "user", "profile", ",", "which", "may", "systematically", "produce", ",", "amplify", ",", "or", "shade", "different", "psychological", "effects", "-LSB-", "56", ",", "57", ",", "58", ",", "59", ",", "60", ",", "61", ",", "62", ",", "63", "-RSB-", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICEC", "'", "04", ",", "Sixth", "International", "Conference", "on", "Electronic", "Commerce", "Edited", "by", ":", "Marijn", "Janssen", ",", "Henk", "G.", "Sol", ",", "and", "Ren", "W.", "Wagenaar", "Copyright", "2004", "ACM", "1-58113-930-6", "/", "04/10", "...", "$", "5.00", "245", "245", "Media", "-", "and", "communication", "technologies", "as", "special", "cases", "of", "information", "technology", "may", "be", "considered", "as", "consisting", "of", "three", "layers", "-LSB-", "6", "-RSB-", ".", "At", "the", "bottom", "is", "a", "physical", "layer", "that", "includes", "the", "physical", "technological", "device", "and", "the", "connection", "channel", "that", "is", "used", "to", "transmit", "communication", "signals", ".", "In", "the", "middle", "is", "a", "code", "layer", "that", "consists", "of", "the", "protocols", "and", "software", "that", "make", "the", "physical", "layer", "run", ".", "At", "the", "top", "is", "a", "content", "layer", "that", "consists", "of", "multimodal", "information", ".", "The", "content", "layer", "includes", "both", "the", "substance", "and", "the", "form", "of", "multimedia", "content", "-LSB-", "7", ",", "56", "-RSB-", ".", "Substance", "refers", "to", "the", "core", "message", "of", "the", "information", ".", "Form", "implies", "aesthetic", "and", "expressive", "ways", "of", "organizing", "the", "substance", ",", "such", "as", "using", "different", "modalities", "and", "structures", "of", "information", "-LSB-", "56", "-RSB-", ".", "With", "the", "possibility", "of", "real-time", "customization", "and", "adaptation", "of", "information", "for", "different", "perceivers", "it", "is", "hypothesized", "that", "one", "may", "vary", "the", "form", "of", "information", "within", "some", "limits", "per", "the", "same", "substance", "of", "information", ".", "For", "instance", ",", "the", "same", "substance", "can", "be", "expressed", "in", "different", "modalities", ",", "or", "with", "different", "ways", "of", "interaction", "with", "the", "user", "and", "technology", ".", "This", "may", "produce", "a", "certain", "psychological", "effect", "in", "some", "perceivers", ";", "or", "shade", "or", "amplify", "a", "certain", "effect", ".", "In", "Figure", "1", "the", "interaction", "of", "media", "and", "communications", "technology", "and", "the", "user", "in", "context", "with", "certain", "types", "of", "tasks", "is", "seen", "as", "producing", "transient", "psychological", "effects", ",", "thereby", "creating", "various", "``", "archetypal", "technologies", "''", "that", "systematically", "facilitate", "desired", "user", "experiences", "-LSB-", "see", "55", ",", "56", "-RSB-", ".", "Media", "and", "communication", "technology", "is", "divided", "into", "the", "physical", ",", "code", "and", "content", "layers", ".", "The", "user", "is", "seen", "as", "consisting", "of", "various", "different", "psychological", "profiles", ",", "such", "as", "individual", "differences", "related", "to", "cognitive", "style", ",", "personality", ",", "cognitive", "ability", ",", "previous", "knowledge", "-LRB-", "mental", "models", "related", "to", "task", "-RRB-", "and", "other", "differences", ",", "such", "as", "pre-existing", "mood", ".", "-LSB-", "49", ",", "56", ",", "58", ",", "59", "-RSB-", "Media", "-", "and", "communication", "technologies", "may", "be", "called", "Mind-Based", "if", "they", "simultaneously", "take", "into", "account", "the", "interaction", "of", "three", "different", "key", "components", ":", "i", "-RRB-", "the", "individual", "differences", "and/or", "user", "segment", "differences", "of", "perceptual", "processing", "and", "sense", "making", "ii", "-RRB-", "the", "elements", "and", "factors", "inherent", "in", "information", "and", "technology", "that", "may", "produce", "psychological", "effects", "-LRB-", "physical", ",", "code", "and", "content", "layers", "-RRB-", ",", "and", "iii", "-RRB-", "the", "consequent", "transient", "psychological", "effects", "emerging", "based", "on", "perception", "and", "processing", "of", "information", "at", "the", "level", "of", "each", "individual", ".", "-LSB-", "see", "63", "-RSB-", "This", "definition", "can", "be", "extended", "to", "include", "both", "context", "and", "at", "least", "short-term", "behavioral", "consequences", ".", "Regarding", "context", ",", "a", "Mind-Based", "system", "may", "alter", "its", "functionalities", "depending", "on", "type", "of", "task", "of", "the", "user", ",", "physical", "location", ",", "social", "situation", "or", "other", "ad-hoc", "situational", "factors", "that", "may", "have", "a", "psychological", "impact", ".", "Behavioral", "consequences", "of", "using", "a", "Mind-Based", "system", "may", "be", "thought", "of", "especially", "in", "the", "case", "of", "persuasion", "as", "facilitating", "desired", "instant", "behaviors", "such", "as", "impulse", "buying", ".", "Of", "course", ",", "if", "a", "Mind-Based", "system", "builds", "a", "positive", "image", "and", "schema", "of", "a", "product", "over", "longer", "periods", "of", "time", "reflected", "in", "product", "and", "brand", "awareness", "that", "may", "the", "influence", "user", "behaviors", "later", "on", ".", "As", "the", "task", "of", "capturing", "and", "predicting", "users", "psychological", "state", "in", "real", "time", "is", "highly", "complex", ",", "one", "possible", "realization", "for", "capturing", "users", "psychological", "state", "is", "to", "have", "the", "user", "linked", "to", "a", "sufficient", "number", "of", "measurement", "channels", "of", "various", "i", "-RRB-", "psychophysiological", "signals", "-LRB-", "EEG", ",", "EMG", ",", "GSR", ",", "cardiovascular", "activity", ",", "other", "-RRB-", ",", "ii", "-RRB-", "eye-based", "measures", "-LRB-", "eye", "blinks", ",", "pupil", "dilation", ",", "eye", "movements", "-RRB-", "and", "iii", "-RRB-", "behavioral", "measures", "-LRB-", "response", "speed", ",", "response", "quality", ",", "voice", "pitch", "analysis", "etc.", "-RRB-", ".", "An", "index", "based", "on", "these", "signals", "then", "would", "verify", "to", "the", "system", "whether", "a", "desired", "psychological", "effect", "has", "been", "realized", ".", "Fig.", "1", ".", "Mind-Based", "Technologies", "as", "a", "framework", "for", "producing", "psychological", "effects", ".", "Adapted", "from", "-LSB-", "56", "-RSB-", ".", "Another", "approach", "would", "be", "to", "conduct", "a", "large", "number", "of", "user", "studies", "on", "certain", "tasks", "and", "contexts", "with", "certain", "user", "groups", ",", "psychological", "profiles", "and", "content-form", "variations", "and", "measure", "various", "psychological", "effects", "as", "objectively", "as", "possible", ".", "Here", ",", "both", "subjective", "methods", "-LRB-", "questionnaires", "and", "interviews", "-RRB-", "and", "objective", "measures", "-LRB-", "psychophysiological", "measures", "or", "eye-based", "methods", "-RRB-", "may", "be", "used", "as", "well", "interviews", "-LSB-", "for", "a", "review", "on", "the", "use", "of", "psychophysiological", "methods", "in", "media", "research", ",", "see", "46", "-RSB-", ".", "This", "would", "constitute", "a", "database", "of", "design-rules", "for", "automatic", "adaptations", "of", "information", "per", "user", "profile", "to", "create", "similar", "effects", "in", "highly", "similar", "situations", "with", "real", "applications", ".", "Naturally", ",", "a", "hybrid", "approach", "would", "combine", "both", "of", "these", "methods", "for", "capturing", "and", "facilitating", "the", "users", "likely", "psychological", "state", ".", "Capturing", "context", "and", "short-term", "user", "behavior", "is", "a", "challenge", ".", "Computational", "approach", "to", "context", "utilizes", "a", "mass", "of", "sensors", "that", "detect", "various", "signals", "in", "an", "environment", ".", "AI-based", "software", "then", "massively", "computes", "from", "the", "signal", "flow", "significant", "events", "either", "directly", "or", "with", "the", "help", "of", "some", "simplifying", "rules", "and", "algorithms", ".", "Capturing", "user", "behavior", "in", "context", "is", "easier", "if", "the", "user", "is", "using", "an", "internet", "browser", "to", "buy", "an", "item", ",", "for", "instance", ".", "In", "this", "case", "action", ",", "or", "behavior", "can", "be", "captured", "by", "the", "system", "as", "the", "user", "clicks", "his", "mouse", "to", "buy", "an", "item", ".", "If", "the", "user", "is", "wondering", "around", "in", "a", "supermarket", "with", "a", "mobile", "phone", "that", "presented", "a", "persuasive", "message", "to", "buy", "the", "item", "on", "aisle", "7", "it", "may", "be", "difficult", "to", "verify", "this", "other", "than", "cross-reference", "his", "checkout", "bill", "with", "the", "displayed", "adverts", "inside", "the", "store", ".", "However", ",", "it", "is", "beyond", "the", "scope", "of", "this", "paper", "to", "fully", "elaborate", "on", "the", "contextual", "and", "behavioral", "dimensions", "of", "Mind-Based", "Technologies", ".", "2.2", "Description", "of", "a", "Psychological", "Customization", "System", "Psychological", "Customization", "is", "one", "possible", "way", "of", "implementing", "of", "Mind-Based", "Technologies", "in", "system", "design", ".", "It", "can", "be", "applied", "to", "various", "areas", "of", "HCI", ",", "such", "as", "Augmentation", "Systems", "-LRB-", "augmented", "and", "context", "sensitive", "financial", "news", "-RRB-", ",", "Notification", "Systems", "-LRB-", "alerts", "that", "mobilize", "a", "suitable", "amount", "of", "attention", "per", "task", "or", "context", "of", "use", "-RRB-", ",", "Affective", "Computing", "-LRB-", "emotionally", "adapted", "games", "-RRB-", ",", "Collaborative", "Filtering", "-LRB-", "group-focused", "information", "presentation", "-RRB-", ",", "Persuasive", "Technology", "Media", "and", "Communications", "Technology", "Substance", "Form", "-", "modalities", "-", "visual", "layout", "-", "structure", "-", "other", "Type", "of", "device", "Ways", "of", "interaction", "User", "interface", "Technologies", "influencing", "subjective", "experience", "-", "Emotion", "Technologies", "-", "Flow", "Technologies", "-", "Presence", "Technologies", "Technologies", "influencing", "subjective", "experience", "-", "Emotion", "Technologies", "-", "Flow", "Technologies", "-", "Presence", "Technologies", "Technologies", "influencing", "change", "of", "knowledge", "-", "Knowledge", "Technologies", "Technologies", "influencing", "change", "of", "knowledge", "-", "Knowledge", "Technologies", "Mind", "Psychological", "profiles", "-", "cognitive", "style", "-", "personality", "-", "mental", "models", "-", "other", "Results", "of", "processing", "Results", "of", "processing", "Physical", "Content", "Code", "Context", "and", "Task", "246", "246", "-LRB-", "advertising", "for", "persuasion", ",", "e-commerce", "persuasion", "-RRB-", ",", "Computer", "Mediated", "Social", "Interaction", "Systems", "-LRB-", "collaborative", "work", ",", "social", "content", "creation", "templates", "-RRB-", ",", "Messaging", "Systems", "-LRB-", "emotionally", "adapted", "mobile", "multimedia", "messaging", "and", "email", "-RRB-", "and", "Contextually", "Sensitive", "Services", "-LRB-", "psychologically", "efficient", "adaptation", "of", "presentation", "of", "information", "sensitive", "to", "physical", ",", "social", "or", "situational", "context", ",", "such", "as", "available", "menus", "to", "control", "a", "physical", "space", ",", "available", "information", "related", "to", "a", "particular", "situation", ",", "such", "as", "social", "interaction", "or", "city", "navigation", "with", "a", "mobile", "device", "-RRB-", ".", "It", "can", "be", "hypothesized", "that", "the", "selection", "and", "manipulation", "of", "substance", "of", "information", "takes", "place", "through", "the", "technologies", "of", "the", "various", "application", "areas", "of", "Psychological", "Customization", ".", "Underlying", "the", "application", "areas", "is", "a", "basic", "technology", "layer", "for", "customizing", "design", ".", "This", "implies", "that", "within", "some", "limits", "one", "may", "automatically", "vary", "the", "form", "of", "information", "per", "a", "certain", "category", "of", "substance", "of", "information", ".", "The", "design", "space", "for", "Psychological", "Customization", "is", "formed", "in", "the", "interaction", "of", "a", "particular", "application", "area", "and", "the", "possibilities", "of", "the", "technical", "implementation", "of", "automated", "design", "variation", "Initially", ",", "Psychological", "Customization", "includes", "modeling", "of", "individuals", ",", "groups", ",", "and", "communities", "to", "create", "psychological", "profiles", "and", "other", "profiles", "based", "on", "which", "customization", "may", "be", "conducted", ".", "In", "addition", ",", "a", "database", "of", "design", "rules", "is", "needed", "to", "define", "the", "desired", "cognitive", "and", "emotional", "effects", "for", "different", "types", "of", "profiles", ".", "Once", "these", "components", "are", "in", "place", ",", "content", "management", "technologies", "can", "be", "extended", "to", "cover", "variations", "of", "form", "and", "substance", "of", "information", "based", "on", "psychological", "profiles", "and", "design", "rules", "to", "create", "the", "desired", "psychological", "effects", ".", "-LSB-", "see", "63", "-RSB-", "At", "the", "technically", "more", "concrete", "level", ",", "a", "Psychological", "Customization", "System", "is", "a", "new", "form", "of", "middleware", "between", "applications", ",", "services", ",", "content", "management", "systems", "and", "databases", ".", "It", "provides", "an", "interface", "for", "designing", "desired", "psychological", "effects", "and", "user", "experiences", "for", "individual", "users", "or", "user", "groups", ".", "The", "most", "popular", "framework", "for", "building", "customized", "Web-based", "applications", "is", "Java", "2", "Enterprise", "Edition", ".", "J2EE-based", "implementation", "of", "the", "Psychological", "Customization", "System", "for", "Web-based", "applications", "is", "depicted", "in", "Figure", "2", ".", "The", "basic", "J2EE", "three-tiered", "architecture", "consisting", "of", "databases", ",", "application", "servers", ",", "and", "presentation", "servers", "has", "been", "extended", "with", "three", "middleware", "layers", ":", "content", "management", "layer", ",", "customer", "relationship", "management", "layer", ",", "and", "psychological", "customization", "layer", ".", "The", "profiles", "of", "the", "users", "and", "the", "communities", "are", "available", "in", "the", "profile", "repository", ".", "-LSB-", "see", "69", "-RSB-", "The", "Content", "Management", "System", "is", "used", "to", "define", "and", "manage", "the", "content", "repositories", ".", "This", "typically", "is", "based", "on", "metadata", "descriptions", "of", "the", "content", "assets", ".", "The", "metadata", "of", "the", "content", "repositories", "is", "matched", "against", "the", "user", "and", "community", "profiles", "by", "the", "Customer", "Relationship", "Management", "-LRB-", "CRM", "-RRB-", "system", ".", "The", "CRM", "system", "includes", "tools", "for", "managing", "the", "logic", "behind", "content", ",", "application", "and", "service", "customization", ".", "Rules", "can", "be", "simple", "matching", "rules", "or", "more", "complex", "rule", "sets", ".", "A", "special", "case", "of", "a", "rule", "set", "are", "scenarios", ",", "which", "are", "rule", "sets", "involving", "sequences", "of", "the", "interactions", "on", "the", "Web", "site", ".", "The", "Customer", "Relationship", "Management", "layer", "also", "includes", "functionality", "for", "user", "and", "community", "modeling", ".", "This", "layer", "can", "also", "perform", "automated", "customer", "data", "analysis", ",", "such", "as", "user", "clustering", ".", "-LSB-", "see", "69", "-RSB-", "The", "Psychological", "Customization", "System", "layer", "performs", "the", "optimization", "of", "the", "form", "of", "the", "content", "as", "selected", "by", "the", "Customer", "Relationship", "Management", "layer", ".", "This", "functionality", "can", "be", "considered", "similar", "to", "the", "device", "adaptation", "by", "using", "content", "transformation", "rules", "-LRB-", "for", "example", "XSL-T", "-RRB-", ".", "In", "the", "case", "of", "the", "psychological", "customization", ",", "the", "transformation", "rules", "are", "produced", "based", "on", "the", "design", "rules", "for", "content", "presentation", "variation", "and", "the", "contents", "of", "the", "psychological", "profile", "of", "the", "user", ".", "After", "this", "optimization", ",", "the", "content", "is", "passed", "to", "the", "Web", "presentation", "layer", ".", "Community", "Profiles", "Content", "Rules", "and", "Scenarios", "Application", "Server", "User", "User", "User", "User", "profile", "Community", "profile", "Content", "Management", "System", "Customer", "Relationship", "Management", "Web", "Presentation", "Layer", "Psychological", "Customization", "System", "Figure", "2", ".", "J2EE", "implementation", "of", "the", "Psychological", "Customization", "System", "-LSB-", "69", "-RSB-", "Even", "though", "a", "working", "prototype", "of", "Psychological", "Customization", "has", "not", "been", "built", "yet", ",", "several", "empirical", "studies", "support", "the", "feasibility", "of", "a", "user-experience", "driven", "system", "that", "matches", "the", "form", "of", "information", "to", "the", "psychologically", "relevant", "properties", "and", "other", "profile", "factors", "of", "individual", "users", "and", "user", "groups", ".", "For", "instance", ",", "there", "are", "individual", "differences", "in", "cognitive", "processes", "such", "as", "attention", ",", "working", "memory", "capacity", ",", "general", "intelligence", ",", "perceptual-motor", "skills", "and", "language", "abilities", ".", "These", "individual", "differences", "have", "a", "considerable", "effect", "on", "computer-based", "performance", "and", "may", "product", "sometimes", "quite", "large", "variance", "in", "the", "intensity", "or", "type", "of", "psychological", "effects", ",", "such", "as", "depth", "of", "learning", ",", "positive", "emotion", ",", "persuasion", ",", "presence", ",", "social", "presence", "and", "other", "types", "of", "psychological", "states", "and", "effects", "as", "well", "as", "consequent", "behavior", "-LSB-", "13", ",", "14", ",", "18", ",", "56", ",", "57", ",", "58", ",", "59", ",", "60", ",", "61", ",", "62", ",", "63", ",", "70", "-RSB-", ".", "There", "is", "considerable", "evidence", "in", "literature", "and", "in", "our", "own", "experimental", "research", "that", "varying", "the", "form", "of", "information", ",", "such", "as", "modality", ",", "layouts", ",", "background", "colors", ",", "text", "types", ",", "emotionality", "of", "the", "message", ",", "audio", "characteristics", ",", "presence", "of", "image", "motion", "and", "subliminality", "creates", "for", "instance", "emotional", ",", "cognitive", "and", "attentional", "effects", "-LSB-", "9", ",", "25", ",", "27", ",", "28", ",", "29", ",", "30", ",", "31", ",", "32", ",", "33", ",", "34", ",", "48", "-RSB-", ".", "Some", "of", "these", "effects", "are", "produced", "in", "interaction", "with", "individual", "differences", ",", "such", "as", "cognitive", "style", ",", "personality", ",", "age", "and", "gender", "-LSB-", "21", ",", "46", ",", "47", "-RSB-", ",", "or", "pre-existing", "mood", "-LSB-", "49", "-RSB-", ".", "The", "role", "of", "hardware", "should", "not", "be", "neglected", ".", "A", "device", "with", "a", "large", "screen", "or", "a", "247", "247", "portable", "device", "with", "smaller", "screen", "with", "user-changeable", "covers", "may", "also", "influence", "the", "emerging", "effects", "-LSB-", "e.g.", "30", "-RSB-", ".", "Table", "1", ".", "Key", "factors", "influencing", "psychological", "effects", ".", "Adapted", "from", "-LSB-", "56", "-RSB-", ".", "Layer", "of", "technology", "Key", "factors", "Physical", "Hardware", "-", "large", "or", "small", "vs.", "human", "scale", "-", "mobile", "or", "immobile", "-", "close", "or", "far", "from", "body", "-LRB-", "intimate-personal", "-", "social", "distance", "-RRB-", "Interaction", "-", "degree", "of", "user", "vs.", "system", "control", "and", "proactivity", "through", "user", "interface", "Code", "Visual-functional", "aspects", "-", "way", "of", "presenting", "controls", "in", "an", "interface", "visually", "and", "functionally", "Substance", "-", "the", "essence", "of", "the", "event", "described", "-", "type", "of", "substance", "-LRB-", "factual/imaginary", ";", "genre", ",", "other", "-RRB-", "-", "narrative", "techniques", "used", "by", "authors", "Content", "Form", "1", ".", "Modalities", "-", "text", ",", "video", ",", "audio", ",", "graphics", ",", "animation", ",", "etc.", "2", ".", "Visual", "layout", "-", "ways", "of", "presenting", "various", "shapes", ",", "colours", ",", "font", "types", ",", "groupings", "and", "other", "relationships", "or", "expressive", "properties", "of", "visual", "representations", "-", "ways", "of", "integrating", "modalities", "into", "the", "user", "interface", "3", ".", "Structure", "-", "ways", "of", "presenting", "modalities", ",", "visual", "layout", "and", "other", "elements", "of", "form", "and", "their", "relationships", "over", "time", "-", "linear", "and/or", "non-linear", "structure", "-LRB-", "sequential", "vs.", "parallel", ";", "narrative", "techniques", ",", "hypertextuality", "-RRB-", "This", "empiric", "evidence", "partly", "validates", "the", "possibility", "for", "Psychological", "Customization", "Systems", "at", "least", "with", "mobile", "devices", "and", "user", "interface", "prototypes", "used", "in", "our", "own", "research", ".", "Typical", "experiments", "we", "have", "conducted", "on", "the", "influence", "of", "form", "of", "information", "on", "psychological", "effects", "have", "included", "such", "manipulations", "as", "animation", "and", "movement", "-LRB-", "for", "orientation", "response", "-RRB-", ",", "fonts", "of", "text", ",", "layout", "of", "text", ",", "background", "colors", "of", "text", ",", "user", "interface", "navigation", "element", "shapes", "-LRB-", "round", "vs.", "sharp", "-RRB-", ",", "user", "interface", "layout", "directions", ",", "adding", "background", "music", "to", "reading", "text", ",", "use", "of", "subliminal", "affective", "priming", "in", "the", "user", "interface", "-LRB-", "emotionally", "loaded", "faces", "-RRB-", "and", "use", "of", "different", "modalities", ",", "for", "instance", ".", "Table", "1", "addresses", "the", "key", "factors", "that", "may", "influence", "psychological", "effects", "of", "processing", "mediated", "information", ".", "The", "focus", "of", "this", "paper", "is", "on", "persuasion", "in", "advertising", "and", "product", "information", "presentation", "in", "e-commerce", ".", "The", "key", "application", "area", "to", "realize", "this", "with", "Psychological", "Customization", "is", "Persuasive", "Technology", ".", "It", "refers", "to", "human-computer", "interaction", "in", "which", "there", "is", "an", "underlying", "goal", "to", "non-coercively", "change", "the", "attitudes", ",", "motivation", "and/or", "behavior", "of", "the", "user", "-LSB-", "15", ",", "16", "-RSB-", ".", "For", "instance", ",", "one", "may", "motivate", "users", "to", "quit", "smoking", "via", "motivating", "games", ".", "However", ",", "it", "is", "clear", "that", "how", "much", "people", "allocate", "resources", "to", "processing", "a", "particular", "persuasive", "message", "has", "to", "be", "taken", "into", "account", ".", "Further", ",", "it", "may", "be", "that", "there", "is", "not", "so", "much", "freedom", "to", "manipulate", "persuasive", "messages", "to", "produce", "effects", "and", "the", "effects", "themselves", "may", "be", "sometimes", "small", ".", "Despite", "this", ",", "empiric", "evidence", "in", "personalization", ",", "as", "discussed", ",", "suggests", "that", "statistically", "significant", "effects", "perhaps", "in", "the", "range", "of", "a", "few", "percentages", "to", "even", "tens", "of", "percents", "exist", "in", "the", "area", "of", "Psychological", "Customization", ",", "such", "as", "emotion", ",", "presence", "and", "efficiency", "of", "information", "processing", ".", "Hence", ",", "it", "can", "be", "at", "least", "preliminarily", "assumed", "that", "with", "persuasion", "similar", "level", "effects", "may", "be", "achievable", "also", ".", "Persuasion", "in", "human", "computer", "interaction", "has", "been", "researched", "from", "the", "point", "of", "view", "of", "seeing", "computers", "as", "tools", "-LRB-", "increasing", "capabilities", "of", "the", "user", "-RRB-", ",", "as", "a", "medium", "-LRB-", "providing", "experiences", "-RRB-", "and", "as", "a", "social", "actor", "-LRB-", "creating", "a", "relationship", "-RRB-", "-LSB-", "15", ",", "16", "-RSB-", ".", "For", "the", "purposes", "of", "this", "article", ",", "technology", "used", "in", "Psychological", "Customization", "for", "presentation", "of", "e-commerce", "product", "information", "and", "online", "advertising", "is", "seen", "mostly", "as", "a", "medium", "and", "partly", "as", "a", "social", "actor", ".", "How", "then", "to", "model", "and", "explain", "persuasion", "in", "more", "detail", "?", "Evidently", "no", "universal", "theory", "of", "what", "is", "the", "process", "of", "persuasion", "has", "been", "created", "yet", "-LSB-", "17", "-RSB-", ".", "Candidates", "for", "explaining", "and", "modeling", "persuasion", "include", "i", "-RRB-", "learning", "theory", "-LRB-", "operant", "conditioning", "-RRB-", ",", "ii", "-RRB-", "functional", "paradigm", "theory", "-LRB-", "similarity-attraction", ",", "pleasure", "seeking", "-RRB-", ",", "iii", "-RRB-", "cognitive", "consistency", "theory", "-LRB-", "new", "information", "creates", "tension", "that", "needs", "to", "be", "relieved", "by", "adopting", "schemata", "-RRB-", ",", "iv", "-RRB-", "congruity", "principle", "theory", "-LRB-", "interpretations", "of", "new", "information", "tend", "to", "be", "congruent", "with", "existing", "schemata", "-RRB-", ",", "v", "-RRB-", "cognitive", "dissonance", "theory", "-LRB-", "certain", "actions", "and", "information", "produce", "tension", "that", "needs", "to", "be", "relieved", "by", "adopting", "mental", "structures", "or", "behavior", "-RRB-", ",", "counter-attitudinal", "advocacy", "-LRB-", "belief-discrepant", "messages", "are", "persuasive", "-RRB-", ",", "vi", "-RRB-", "inoculation", "theory", "-LRB-", "combining", "supportive", "and", "refutational", "information", "to", "achieve", "better", "persuasion", "-RRB-", "and", "vii", "-RRB-", "attribution", "theory", "-LRB-", "people", "make", "simple", "models", "to", "predict", "events", "of", "the", "world", "and", "behaviors", "of", "other", "people", "-RRB-", ".", "-LSB-", "for", "a", "review", ",", "see", "50", "-RSB-", ".", "Some", "contemporary", "models", "of", "persuasion", "are", "i", "-RRB-", "social", "learning", "theory", "-LRB-", "environmental", "learning", "is", "the", "source", "of", "persuasion", ",", "such", "as", "social", "relationships", "-RRB-", ",", "ii", "-RRB-", "the", "elaboration", "likelihood", "model", "-LRB-", "a", "specific", "and", "limited", "model", "on", "how", "a", "piece", "of", "information", "may", "influence", "the", "attitudes", "of", "the", "receiver", "-RRB-", "and", "iii", "-RRB-", "the", "communication/persuasion", "model", "-LRB-", "the", "source", ",", "the", "message", "content", "and", "form", ",", "the", "channel", ",", "the", "properties", "of", "the", "receiver", "and", "the", "immediacy", "of", "the", "communication", "influence", "persuasion", "-RRB-", ".", "-LSB-", "2", ",", "39", ",", "42", "-RSB-", "The", "latter", "approach", "partly", "resembles", "the", "approach", "of", "Mind-Based", "Technologies", "as", "a", "way", "of", "finding", "out", "the", "values", "of", "relevant", "parameters", "in", "the", "layers", "of", "technology", ",", "the", "user", "and", "the", "transient", "results", "of", "processing", ",", "such", "as", "emotion", "and", "cognition", ".", "Other", "frameworks", "have", "also", "been", "presented", ".", "Meyers-Levy", "and", "Malaviya", "-LRB-", "1998", "-RRB-", "have", "presented", "a", "framework", "introducing", "several", "248", "248", "strategies", "to", "process", "persuasive", "messages", ".", "Each", "strategy", "represents", "a", "different", "amount", "of", "cognitive", "resources", "employed", "during", "processing", "and", "may", "influence", "the", "level", "of", "persuasion", ".", "-LSB-", "38", "-RSB-", "The", "position", "of", "the", "authors", "is", "that", "while", "various", "theories", "and", "models", "for", "persuasion", "have", "been", "presented", ",", "within", "the", "context", "of", "personalized", "information", "presentation", "especially", "by", "varying", "both", "the", "substance", "of", "the", "message", "and", "the", "form", "of", "the", "message", "it", "is", "difficult", "to", "know", "what", "types", "of", "persuasive", "effects", "may", "emerge", ".", "This", "is", "partly", "due", "to", "the", "fact", "that", "especially", "the", "perception", "of", "form", "of", "information", "is", "most", "likely", "not", "a", "conscious", "process", "involving", "in-depth", "processing", "and", "cognitive", "appraisal", "but", "a", "rather", "automatic", "and", "non-cognitive", "process", ".", "Hence", ",", "if", "one", "influences", "the", "conditions", "of", "perceptual", "processing", "or", "some", "early-level", "cognitive", "processing", "of", "multimodal", "information", ",", "no", "clear", "models", "are", "available", "for", "explaining", "and", "predicting", "persuasion", ".", "Also", ",", "the", "exact", "influence", "of", "the", "amount", "of", "cognitive", "resources", "employed", "during", "early", "and", "later", "processing", "of", "a", "persuasive", "message", "remains", "unknown", ".", "It", "is", "most", "evident", "that", "case", "studies", "with", "particular", "application", "are", "needed", "to", "verify", "such", "effects", ".", "However", ",", "the", "authors", "present", "one", "possible", "way", "of", "seeing", "persuasion", "mostly", "via", "a", "link", "to", "transient", "emotional", "states", "and", "moods", "immediately", "before", ",", "during", "and", "after", "processing", "information", "presented", "through", "a", "Psychological", "Customization", "system", ".", "Yet", ",", "based", "on", "this", "approach", "the", "claim", "for", "more", "efficient", "persuasion", "in", "each", "application", "area", ",", "such", "as", "using", "Psychological", "Customization", "in", "advertising", "or", "e-commerce", "product", "information", "remains", "a", "complex", "task", ".", "Despite", "this", "difficulty", ",", "we", "now", "present", "a", "possible", "selection", "of", "relevant", "psychological", "principles", "related", "to", "perceptual", "processing", "and", "persuasion", "of", "advertising", "and", "e-commerce", "product", "information", ".", "First", ",", "a", "similarity-attraction", "process", "may", "arise", "between", "the", "presented", "information", "and", "the", "personality", "of", "the", "user", "that", "may", "lead", "to", "the", "information", "being", "processed", "more", "fully", "-LSB-", "i.e.", ",", "trait-congruency", "hypothesis", ";", "see", "54", "-RSB-", ".", "That", "is", ",", "users", "are", "likely", "to", "be", "attracted", "to", "information", "with", "content", "and", "formal", "characteristics", "manifesting", "a", "personality", "similar", "to", "their", "own", "-LSB-", "see", "e.g.", ",", "21", "-RSB-", ".", "Second", ",", "the", "decrease", "of", "cognitive", "load", "in", "perceptual", "processing", "-LRB-", "i.e.", ",", "high", "processing", "fluency", "-RRB-", "may", "induce", "a", "feeling", "of", "pleasantness", "that", "may", "label", "the", "information", "processed", "-LSB-", "for", "a", "review", ",", "see", "65", "-RSB-", ".", "That", "is", ",", "fluent", "stimuli", "are", "associated", "with", "increased", "liking", "and", "positive", "affective", "responses", "as", "assessed", "by", "facial", "EMG", ",", "for", "example", ".", "Third", ",", "the", "creation", "of", "specific", "emotional", "reactions", "and", "moods", "varying", "in", "valence", "and", "arousal", "may", "label", "the", "information", "processed", ";", "here", "the", "effects", "may", "depend", "on", "the", "type", "of", "emotion", ".", "For", "instance", ",", "mood-congruency", "may", "provide", "more", "intensive", "engagement", "with", "the", "information", "presented", "when", "the", "mood", "induced", "by", "the", "information", "processed", "matches", "a", "pre-existing", "mood", "of", "the", "user", "-LSB-", "see", "49", "-RSB-", ".", "Fourth", ",", "the", "emotional", "reactions", "may", "induce", "increased", "attention", "that", "may", "lead", "to", "more", "in-depth", "processing", "of", "information", "-LSB-", "e.g.", ",", "26", "-RSB-", ".", "Fifth", ",", "as", "suggested", "by", "excitation", "transfer", "theory", ",", "arousal", "induced", "by", "a", "processed", "stimuli", "influences", "the", "processing", "of", "subsequent", "stimuli", "-LSB-", "see", "71", ",", "72", "-RSB-", ".", "Sixth", ",", "according", "to", "selective-exposure", "theory", ",", "individuals", "are", "motivated", "to", "make", "media", "choices", "in", "order", "to", "regulate", "their", "affective", "state", "-LSB-", "i.e.", ",", "to", "maintain", "excitatory", "homeostasis", ";", "73", "-RSB-", ".", "This", "may", "mean", "that", "people", "use", "also", "e-commerce", "product", "information", "to", "manage", "their", "moods", ",", "i.e.", "neutralize", "an", "unwanted", "mood", ",", "such", "as", "depression", "by", "engaging", "with", "exciting", "and", "positive", "product", "information", ".", "Users", "may", "also", "intensify", "an", "existing", "mood", "by", "selecting", "product", "information", "content", "that", "may", "add", "to", "the", "present", "mood", ".", "Seventh", ",", "affective", "priming", "research", "indicates", "that", "the", "valence", "of", "subliminally", "exposed", "primes", "-LRB-", "e.g.", ",", "facial", "expressions", "-RRB-", "influences", "the", "affective", "ratings", "of", "subsequent", "targets", "-LSB-", "40", ",", "43", "-RSB-", ",", "including", "video", "messages", "presented", "on", "a", "small", "screen", "-LSB-", "48", "-RSB-", ".", "Eighth", ",", "the", "perceived", "personal", "relevance", "of", "the", "particular", "information", "to", "the", "user", "exerts", "a", "robust", "influence", "on", "message", "processing", "and", "involvement", "-LSB-", "64", "-RSB-", ".", "This", "means", "that", "if", "the", "user", "is", "interested", "in", "the", "product", "described", "in", "the", "information", "presented", ",", "he", "will", "be", "quite", "involved", "when", "processing", "the", "information", "and", "hence", "his", "memory", "of", "the", "product", "will", "be", "enhanced", ".", "Consequently", ",", "it", "has", "been", "shown", "that", "information", "tailored", "to", "the", "needs", "and", "contexts", "of", "users", "often", "increases", "the", "potential", "for", "attitude", "and", "behavior", "change", "-LSB-", "5", ",", "11", ",", "41", ",", "66", ",", "67", "-RSB-", ".", "Further", ",", "there", "is", "quite", "a", "lot", "of", "research", "indicating", "that", ",", "when", "compared", "to", "video", "form", ",", "text", "has", "a", "greater", "capacity", "to", "trigger", "active", "or", "systematic", "message", "processing", "and", "is", "perceived", "as", "more", "involving", "-LSB-", "see", "44", "-RSB-", ";", "this", "depends", "on", "the", "mood", "of", "the", "user", ",", "however", "-LSB-", "48", "-RSB-", ".", "Ninth", ",", "some", "emotional", "states", "and", "moods", "lead", "to", "secondary", "effects", "related", "to", "decision-making", ",", "judgment", "and", "behavior", "-LSB-", "4", ",", "10", ",", "20", "-RSB-", ".", "It", "then", "seems", "that", "indeed", "a", "relevant", "area", "to", "focus", "on", "regarding", "persuasion", "with", "Psychological", "Customization", "is", "emotion", "-LRB-", "arousal", "and", "valence", "-RRB-", "immediately", "before", ",", "during", "and", "right", "after", "viewing", "product", "information", "and", "ads", ".", "One", "may", "focus", "on", "``", "primitive", "''", "emotional", "responses", "or", "emotions", "requiring", "more", "extensive", "cognitive", "appraisal", "and", "processing", ".", "Both", "of", "these", "types", "of", "emotions", "can", "be", "linked", "to", "various", "psychological", "consequences", ".", "Consequently", ",", "with", "emotionally", "loaded", "personalized", "information", "products", "one", "may", "focus", "on", "i", "-RRB-", "creating", "immediate", "and", "primitive", "emotional", "responses", ",", "ii", "-RRB-", "creating", "mood", "and", "iii", "-RRB-", "indirectly", "influencing", "secondary", "effects", "of", "emotion", "and", "mood", ",", "such", "as", "attention", ",", "memory", ",", "performance", "and", "judgment", ".", "Known", "psychological", "mechanisms", "used", "to", "create", "desired", "emotions", "or", "moods", "would", "be", "for", "instance", "similarity", "attraction", "-LRB-", "trait", "congruency", "-RRB-", ",", "decrease", "of", "cognitive", "load", "-LRB-", "high", "processing", "fluency", "-RRB-", ",", "mood", "congruency", ",", "excitation", "transfer", ",", "mood", "management", "and", "affective", "priming", ".", "These", "mechanisms", "are", "not", "without", "problems", "as", "they", "may", "have", "also", "opposite", "effects", ".", "For", "instance", "mood", "congruency", "may", "decrease", "attention", "and", "hence", "lessen", "the", "mobilization", "of", "cognitive", "resources", "in", "processing", "a", "persuasive", "message", ".", "Also", ",", "even", "though", "emotion", "is", "good", "candidate", "to", "look", "for", "a", "strong", "link", "to", "persuasion", ",", "the", "exact", "nature", "of", "this", "link", "is", "unclear", ".", "The", "key", "idea", "of", "using", "emotion", "as", "a", "hypothesized", "gateway", "to", "persuasion", "would", "be", "that", "more", "in-depth", "processing", "of", "information", "caused", "by", "arousal", ",", "valence", ",", "attention", "or", "involvement", "may", "lead", "to", "increased", "memory", "and", "perceived", "trustworthiness", "of", "information", "and", "also", "influence", "attitudes", "towards", "the", "product", "in", "question", "-LSB-", "e.g.", "65", "-RSB-", ".", "This", "in", "turn", "may", "lead", "to", "instant", "behavior", ",", "such", "as", "buying", "online", ",", "clicking", "through", "an", "ad", "or", "purchasing", "the", "item", "later", "in", "a", "department", "store", "based", "on", "long-term", "memory", "schemata", ".", "It", "should", "be", "noted", "that", "this", "view", "is", "based", "on", "empiric", "evidence", "of", "the", "psychological", "effects", "and", "their", "consequences", "in", "general", ",", "but", "they", "have", "not", "yet", "been", "validated", "with", "the", "use", "of", "e-commerce", "systems", "that", "personalize", "the", "form", "of", "information", "for", "persuasion", ".", "Hence", ",", "it", "would", "be", "most", "beneficial", "to", "capture", "the", "users", "emotional", "states", "or", "mood", "before", "the", "user", "starts", "to", "browse", "a", "particular", "piece", "of", "product", "information", "to", "be", "able", "to", "automatically", "realize", "various", "effects", "with", "adaptation", "of", "the", "form", "of", "information", "and", "track", "the", "changes", "of", "the", "online", "behavior", "of", "the", "user", ".", "249", "249", "3.2", "Persuasive", "Advertising", "The", "effectiveness", "of", "persuasion", "in", "advertisements", "in", "general", "is", "a", "complex", "issue", ".", "Subliminal", "priming", ",", "use", "of", "commonly", "known", "symbols", ",", "matching", "the", "advertisement", "to", "basic", "biological", "needs", ",", "such", "as", "food", ",", "shelter", "and", "sex", ",", "maximizing", "the", "credibility", "of", "the", "message", ",", "telling", "a", "compelling", "story", ",", "creating", "a", "desirable", "image", "of", "the", "perceiver", "with", "the", "product", ",", "placing", "TV-ads", "immediately", "after", "emotional", "-LRB-", "arousal", "-RRB-", "and", "attentional", "peaks", "of", "TV-programming", "and", "other", "approaches", "have", "been", "widely", "used", ".", "However", ",", "research", "into", "effectiveness", "of", "the", "form", "of", "presentation", "of", "advertising", "is", "not", "widely", "available", "in", "the", "scientific", "community", ".", "Moreover", ",", "little", "research", "has", "been", "done", "to", "understand", "the", "psychological", "effectiveness", "of", "online", "advertising", ".", "It", "should", "be", "also", "noted", "that", "advertising", "may", "be", "mostly", "a", "creative", "and", "design-driven", "high-speed", "field", "of", "industrial", "production", "in", "which", "various", "types", "of", "authors", "and", "artists", "collaborate", "like", "in", "film-production", "to", "make", "the", "advertisement", "rather", "than", "a", "field", "filled", "with", "scientists", "attempting", "to", "analyze", "the", "advertisements", "and", "their", "effects", "in", "great", "detail", ".", "In", "internet-based", "advertising", "the", "advertisement", "is", "typically", "presented", "on", "a", "web", "page", "as", "a", "banner", ".", "The", "banner", "is", "embedded", "in", "editorial", "content", ",", "such", "as", "the", "front", "page", "of", "a", "magazine", "or", "online", "newspaper", ".", "The", "banners", "are", "often", "placed", "according", "to", "the", "number", "and", "demography", "of", "the", "visitors", "on", "a", "particular", "section", "of", "editorial", "content", ".", "This", "means", "a", "best", "guess", "is", "taken", "as", "to", "what", "may", "be", "the", "most", "efficient", "and", "visible", "way", "of", "placing", "the", "banner", "based", "on", "previous", "knowledge", "of", "the", "behavior", "of", "desired", "user", "segments", "on", "the", "website", ".", "It", "seems", "that", "ads", "placed", "in", "context", "work", "best", "also", "online", ".", "This", "means", "that", "an", "ad", "that", "is", "related", "to", "the", "editorial", "content", "it", "is", "displayed", "with", "is", "more", "efficiently", "persuasive", "-LSB-", "3", "-RSB-", ".", "Another", "issue", "is", "that", "text-based", "ads", "online", "may", "work", "better", "than", "only", "graphics", ".", "This", "implies", "that", "most", "ads", "contain", "text", "based", "over", "a", "graphical", "surface", ".", "Overall", ",", "very", "simple", "principles", "-LRB-", "larger", "is", "better", "etc.", "-RRB-", "seem", "to", "guide", "people", "'s", "choices", ":", "e.g.", ",", "larger", "ads", "are", "thought", "to", "be", "more", "appealing", "and", "affective", ".", "Further", ",", "in", "mobile", "contexts", "personalized", "advertising", "has", "been", "studied", "from", "the", "point", "of", "view", "of", "targeting", "users", "by", "emotions", "in", "addition", "to", "location", "and", "other", "relevant", "factors", "-LSB-", "19", "-RSB-", ".", "However", ",", "the", "exact", "transient", "psychological", "influence", "of", "a", "particular", "piece", "of", "editorial", "content", "the", "online", "advertisement", "is", "displayed", "with", "remains", "unknown", ".", "It", "is", "possible", "that", "the", "editorial", "content", "repels", "the", "user", "and", "the", "advertisement", "is", "also", "labeled", "by", "this", "emotion", ".", "It", "is", "also", "possible", "that", "the", "editorial", "content", "induces", "a", "positive", "emotion", "and", "the", "advertisement", "gets", "an", "advantage", "based", "on", "this", "emotional", "state", ".", "The", "emotional", "tone", "of", "the", "advertisements", "and", "editorial", "content", "may", "also", "interact", ".", "For", "example", ",", "Kamins", ",", "Marks", ",", "and", "Skinner", "-LRB-", "1991", "-RRB-", "showed", "that", "commercials", "that", "are", "more", "consistent", "in", "emotional", "tone", "with", "the", "TV", "program", "perform", "better", "as", "measured", "by", "likeability", "and", "purchase", "intention", "ratings", "than", "those", "that", "are", "inconsistent", "in", "tone", ".", "Sometimes", "advertisements", "are", "changed", "in", "real-time", "per", "type", "of", "user", "as", "the", "system", "recognizes", "a", "user", "segment", "to", "which", "a", "certain", "banner", "has", "been", "targeted", ".", "However", ",", "what", "is", "lacking", "here", "is", "i", "-RRB-", "more", "detailed", "information", "of", "the", "type", "of", "user", "-LRB-", "such", "as", "what", "may", "be", "the", "most", "efficient", "way", "to", "influence", "him", "psychologically", "-RRB-", "and", "ii", "-RRB-", "what", "may", "be", "the", "psychological", "impact", "on", "the", "same", "user", "of", "the", "editorial", "content", "within", "which", "the", "banner", "is", "placed", ".", "-LSB-", "22", "-RSB-", "With", "a", "Psychological", "Customization", "system", "some", "of", "these", "gaps", "may", "be", "at", "least", "indirectly", "addressed", "as", "presented", "in", "Table", "2", ".", "Table", "2", ".", "Technological", "possibilities", "of", "persuasive", "advertising", "with", "Psychological", "Customization", ".", "Layer", "of", "Technology", "Adaptations", "of", "Advertising", "Banners", "1", ".", "Physical", "-", "multimedia", "PC", "or", "mobile", "device", "-", "The", "advertisement", "substance", "and", "form", "may", "be", "matched", "to", "the", "technology", "used", "by", "lifestyle", "segments", "or", "other", "means", "of", "segmentation", "-LRB-", "hip", "ads", "for", "mobile", "phones", "etc.", "-RRB-", "-", "Mobile", "device", ":", "user", "changeable", "covers", "in", "colors", "and", "shapes", "that", "facilitate", "emotion", "2", ".", "Code", "-", "Windows-type", "user", "interface", "-", "Mouse", ",", "pen", ",", "speech", ",", "-", "The", "user", "interface", "elements", "-LRB-", "background", "color", ",", "forms", ",", "shapes", ",", "directions", "of", "navigation", "buttons", "etc.", "-RRB-", "may", "be", "varied", "in", "real-time", "per", "page", "per", "user", "in", "which", "a", "certain", "advertisement", "is", "located", "to", "create", "various", "emotions", "and", "ease", "of", "perceptual", "processing", "-", "audio", "channel", "may", "be", "used", "to", "create", "emotional", "effects", "-LRB-", "using", "audio", "input/output", "sound", ",", "varying", "pitch", ",", "tone", ",", "background", "music", ",", "audio", "effects", "etc.", "-RRB-", ".", "3", ".", "Content", "A.", "Substance", "-", "Fixed", "multimedia", "content", "-", "The", "editorial", "content", "may", "be", "matched", "with", "the", "ad", "-", "The", "content", "of", "the", "ad", "may", "be", "matched", "to", "the", "users", "based", "on", "various", "factors", "-LRB-", "interests", ",", "use", "history", ",", "demography", ",", "personality", "etc.", "-RRB-", "-", "Adding", "subliminal", "extra", "content", "to", "create", "emotion", "B.", "Form", "Modality", "-", "Multimedia", "-", "Modality", "may", "be", "matched", "to", "cognitive", "style", "or", "preexisting", "mood", "of", "the", "enable", "easier", "processing", ".", "-", "Background", "music", ",", "audio", "effects", "or", "ringing", "tones", "may", "be", "used", "as", "a", "separate", "modality", "to", "facilitate", "desired", "emotions", "and", "moods", ".", "-", "Animated", "text", "can", "be", "used", "to", "create", "more", "efficient", "processing", "of", "text", "facilitate", "some", "emotional", "effects", ".", "Visual", "presentation", "-", "Emotionally", "evaluated", "and", "positioned", "layout", "designs", "and", "templates", "for", "ads", "-LRB-", "colors", ",", "shapes", "and", "textures", "-RRB-", "may", "be", "utilized", "per", "type", "of", "user", "segment", "Structure", "-", "temporal", ",", "other", "-", "Offering", "emotionally", "evaluated", "and", "positioned", "narrative", "templates", "for", "creating", "emotionally", "engaging", "stories", ".", "Based", "on", "Table", "2", "a", "Psychological", "Customization", "system", "may", "operate", "by", "trying", "to", "optimize", "desired", "emotional", "effects", "that", "may", "be", "related", "to", "persuasion", ".", "The", "content", "provider", ",", "such", "as", "a", "media", "company", ",", "is", "able", "to", "set", "desired", "effects", "per", "type", "of", "user", "group", "and", "advertiser", "need", "by", "using", "a", "Psychological", "Customization", "system", ".", "Also", ",", "the", "placement", "of", "ads", "within", "desired", "editorial", "contexts", "may", "be", "utilized", "with", "a", "more", "developed", "system", ".", "When", "a", "user", "logs", "in", "with", "his", "profile", "already", "to", "the", "database", "of", "the", "content", "provider", "the", "system", "will", "start", "real-time", "personalization", "of", "form", "of", "information", ".", "As", "the", "user", "has", "logged", "in", ",", "the", "front", "page", "of", "the", "service", "may", "be", "altered", "for", "him", "according", "to", "advertiser", "needs", ".", "As", "the", "user", "navigates", "the", "system", "and", "consumes", "information", "the", "system", "follows", "ready-set", "effects", "to", "be", "realized", "to", "the", "user", ".", "It", "is", "clear", "that", "such", "a", "scenario", "is", "difficult", ",", "but", "if", "it", "is", "done", "in", "a", "simple", "enough", "manner", "it", "may", "be", "that", "the", "persuasive", "efficiency", "of", "online", "advertising", "may", "increase", ".", "3.3", "Persuasive", "e-Commerce", "Product", "Information", "Personalized", "e-commerce", "has", "not", "been", "studied", "widely", ".", "It", "has", "been", "found", "that", "while", "personalization", "of", "the", "content", "substance", "displayed", "to", "each", "user", "may", "provide", "value", ",", "the", "users", "have", "a", "strong", "motivation", "to", "understand", "why", "the", "system", "is", "displaying", "a", "particular", "piece", "of", "information", "for", "them", ".", "Also", ",", "users", "wish", "to", "be", "in", "control", "of", "their", "user", "profiles", ".", "-LSB-", "see", "1", ",", "23", "-RSB-", "Hence", ",", "it", "seems", "that", "users", "are", "at", "least", "partly", "suspicious", "to", "the", "system", "adapting", "the", "substance", "of", "information", "to", "them", ".", "However", ",", "250", "250", "in", "many", "cases", "it", "may", "be", "possible", "to", "adapt", "the", "form", "of", "information", "in", "personalized", "applications", "in", "conjunction", "to", "content", "substance", "variation", "or", "even", "without", "it", ".", "The", "adaptation", "of", "form", "of", "information", "to", "the", "user", "may", "even", "be", "a", "more", "transparent", "way", "of", "personalizing", "user-system", "-", "interaction", "as", "the", "user", "most", "likely", "does", "not", "question", "the", "form", "of", "a", "particular", "substance", ".", "Hence", ",", "there", "are", "emerging", "possibilities", "for", "personalization", "and", "customization", "in", "this", "area", ".", "There", "are", "at", "least", "two", "different", "types", "of", "advanced", "e-commerce", "systems", "commonly", "used", ":", "i", "-RRB-", "systems", "using", "recommendation", "engines", "and", "other", "personalization", "features", "to", "present", "information", "in", "a", "media-like", "manner", "and", "ii", "-RRB-", "systems", "using", "persuasive", "interface", "agents", ",", "creating", "a", "relationship", "between", "the", "user", "and", "the", "agent", ".", "The", "focus", "here", "is", "mostly", "on", "presentation", "of", "product", "information", ",", "such", "as", "information", "-LRB-", "product", "properties", ",", "comparisons", ",", "pricing", ",", "functionalities", "and", "other", "information", "-RRB-", "of", "a", "new", "car", ",", "digital", "camera", ",", "computer", "or", "garment", ".", "Although", ",", "in", "the", "context", "of", "product", "presentation", ",", "users", "have", "usually", "been", "suggested", "to", "prefer", "a", "combination", "site", "including", "pictures", "and", "text", "-LSB-", "e.g.", "35", "-RSB-", ",", "individual", "differences", "in", "their", "preferences", "are", "likely", "to", "occur", ".", "The", "technological", "possibilities", "for", "persuasive", "presentation", "of", "product", "information", "are", "much", "like", "those", "presented", "for", "persuasive", "advertising", "seen", "in", "Table", "2", ".", "In", "other", "words", ",", "different", "layers", "of", "technology", "may", "be", "adapted", "to", "the", "user", "of", "an", "e-commerce", "system", "to", "create", "various", "psychological", "effects", "when", "presenting", "product", "information", ".", "With", "personalized", "e-commerce", "systems", "for", "product", "information", "presentation", "one", "may", "facilitate", "positive", "emotional", "responses", "for", "instance", "by", "selecting", "the", "modalities", "of", "the", "information", "to", "be", "displayed", "according", "to", "the", "processing", "styles", "and", "alter", "visual", "layouts", "of", "the", "interface", "according", "to", "the", "personalities", "of", "the", "users", ".", "The", "ease", "of", "processing", "information", "and", "the", "similarity-attraction", "between", "visual", "layouts", "and", "personalities", "may", "create", "positive", "emotional", "states", ".", "As", "for", "brand", "awareness", "one", "may", "indirectly", "influence", "memory", "with", "the", "facilitation", "of", "positive", "emotion", "and", "increase", "memory-based", "performance", "on", "the", "task", "such", "as", "brand", "recognition", "and", "recall", ".", "By", "increasing", "attention", "one", "may", "increase", "the", "likelihood", "of", "the", "user", "of", "an", "e-commerce", "system", "to", "learn", "product", "information", "more", "efficiently", ".", "Positive", "emotion", "and", "mood", "also", "has", "the", "effect", "of", "making", "the", "user", "adapt", "a", "less", "risk-prone", "approach", "to", "making", "decisions", "-LSB-", "20", "-RSB-", ".", "This", "may", "be", "used", "to", "present", "product", "information", "in", "a", "familiar", "manner", "creating", "a", "safe", "atmosphere", "around", "the", "product", "to", "make", "it", "more", "desirable", "when", "the", "user", "is", "making", "purchasing", "decisions", "in", "a", "positive", "mood", ".", "Psychological", "Customization", "may", "be", "used", "for", "persuasion", "also", "with", "recommendation", "systems", ".", "The", "system", "knows", "the", "users", "profile", ",", "such", "as", "type", "of", "personality", ",", "and", "the", "desired", "psychological", "effect", "is", "set", "to", "positive", "emotion", "in", "as", "many", "page-views", "of", "the", "recommendations", "as", "possible", ".", "The", "user", "starts", "using", "the", "system", "and", "finds", "an", "interesting", "product", "that", "the", "system", "recommends", "to", "her", ".", "The", "form", "of", "the", "recommendation", "information", "is", "tailored", "to", "the", "users", "profile", "and", "desired", "psychological", "effect", "in", "real-time", "when", "the", "page", "uploads", "to", "make", "the", "realization", "of", "positive", "emotion", "as", "probable", "as", "possible", ".", "The", "system", "may", "select", "the", "modality", "of", "recommendation", "from", "text", "to", "audio", ",", "or", "from", "audio", "to", "animation", ";", "the", "system", "may", "change", "the", "background", "colors", "of", "the", "page", "and", "modify", "the", "shape", "and", "color", "of", "the", "navigation", "buttons", ",", "for", "instance", ".", "In", "this", "case", ",", "the", "system", "will", "try", "to", "do", "everything", "possible", "to", "facilitate", "positive", "emotion", "but", "change", "the", "substance", "of", "the", "recommendation", "itself", ".", "Naturally", "in", "some", "cases", "depending", "on", "type", "of", "user", "and", "the", "type", "of", "recommendation", ",", "the", "available", "databases", "of", "recommendation", "information", "and", "the", "available", "means", "of", "Psychological", "Customization", "of", "form", "of", "recommendation", "information", ",", "the", "effect", "to", "be", "achieved", "is", "more", "or", "less", "likely", "to", "occur", ".", "However", ",", "even", "effects", "that", "provide", "some", "percentages", "or", "even", "tens", "of", "percents", "of", "more", "targeted", "positive", "emotion", "may", "make", "a", "difference", "in", "persuasion", "and", "hence", "attitudes", "towards", "the", "product", "and", "buying", "behavior", ".", "This", "is", "especially", "true", "if", "the", "recommendation", "system", "website", "has", "masses", "of", "users", "and", "hence", "even", "a", "slight", "increase", "in", "sales", "effectiveness", "may", "add", "up", "to", "significant", "amounts", "of", "revenue", ".", "Further", ",", "one", "may", "discuss", "interface", "agents", "for", "product", "information", "presentation", ".", "Often", "with", "interface", "agents", "an", "illusion", "of", "being", "in", "interaction", "with", "another", "human", "being", "is", "created", "in", "the", "user", "via", "using", "for", "example", "animated", "agents", "that", "seemingly", "exhibit", "various", "human", "properties", ",", "such", "as", "gender", ",", "personality", ",", "politeness", ",", "group", "membership", "and", "other", "factors", ".", "Here", "one", "possible", "application", "would", "be", "to", "add", "an", "agent", "to", "float", "atop", "of", "a", "page", "with", "product", "information", "to", "comment", "or", "recommend", "it", ",", "to", "aid", "the", "user", "in", "navigation", "and", "finding", "interesting", "information", "and", "to", "act", "as", "a", "feedback", "channel", "for", "the", "user", ",", "such", "as", "collecting", "the", "users", "interest", "profile", "or", "other", "situational", "relevant", "information", ".", "It", "is", "known", "that", "both", "the", "substance", "of", "the", "interaction", "-LRB-", "what", "is", "being", "sold", ",", "or", "what", "information", "is", "presented", ",", "and", "what", "the", "agent", "says", ",", "or", "how", "it", "acts", "-RRB-", "and", "the", "form", "of", "interaction", "-LRB-", "how", "information", "is", "presented", ",", "what", "is", "the", "appearance", "and", "personality", "or", "other", "factors", "of", "the", "agent", "-RRB-", "influence", "for", "instance", "trust", ",", "persuasiveness", ",", "emotion", "and", "liking", "of", "the", "transaction", "-LSB-", "e.g.", "51", "-RSB-", ".", "What", "Psychological", "Customization", "may", "add", "here", "may", "be", "more", "systematic", "and", "efficient", "personalization", "of", "the", "way", "of", "presenting", "information", "together", "with", "customizing", "the", "selected", "appearance", "and", "other", "features", "of", "the", "agent", "in", "without", "actually", "changing", "the", "substance", "of", "the", "interaction", ",", "i.e.", "what", "the", "agent", "says", "or", "what", "product", "information", "is", "presented", ",", "for", "instance", ".", "The", "authors", "believe", "that", "no", "other", "comprehensive", "framework", "of", "varying", "form", "of", "information", "to", "systematically", "create", "emotional", "and", "cognitive", "effects", "has", "been", "presented", ",", "specifically", "in", "persuasive", "presentation", "of", "online", "advertising", "and", "product", "information", "in", "e-commerce", "sites", ".", "Differences", "to", "other", "approaches", "to", "influencing", "user", "experience", "in", "general", "are", "various", ".", "Usability", "studies", "traditionally", "address", "the", "question", "of", "how", "to", "make", "difficult", "technology", "easy", "to", "use", ".", "Usability", "is", "at", "least", "partly", "founded", "on", "the", "idea", "of", "optimal", "human-machine", "performance", ",", "i.e.", "how", "well", "a", "user", "can", "manipulate", "and", "control", "a", "machine", ".", "However", ",", "there", "is", "a", "growing", "conviction", "that", ",", "in", "order", "to", "ensure", "high", "user", "satisfaction", "usability", "is", "not", "sufficient", "-LSB-", "see", "12", ",", "24", "-RSB-", ".", "The", "approach", "to", "system", "design", "presented", "in", "this", "paper", "may", "be", "beneficial", "to", "the", "fields", "of", "e-commerce", "and", "online", "advertising", "because", ":", "i", "-RRB-", "it", "provides", "a", "possibility", "to", "personalize", "the", "form", "of", "information", "that", "may", "be", "more", "transparent", "and", "acceptable", "to", "the", "users", "than", "adapting", "the", "substance", "of", "information", ",", "ii", "-RRB-", "it", "offers", "a", "way", "of", "more", "systematically", "accessing", "and", "controlling", "transient", "psychological", "effects", "of", "users", "of", "e-commerce", "and", "advertisement", "displaying", "systems", ",", "iii", "-RRB-", "it", "offers", "possibilities", "to", "more", "efficiently", "persuade", "and", "consequently", "influence", "behavior", "of", "individual", "users", "and", "iv", "-RRB-", "it", "is", "compatible", "with", "existing", "and", "new", "systems", "-LRB-", "recommendation", "engines", ",", "click-through-systems", ",", "other", "-RRB-", "as", "an", "add-on", "or", "a", "middleware", "layer", "in", "software", "with", "many", "potential", "application", "areas", ".", "251", "251", "The", "potential", "drawbacks", "of", "the", "framework", "include", "the", "following", ":", "i", "-RRB-", "it", "may", "be", "costly", "to", "build", "the", "design-rule", "databases", "and", "actually", "working", "real-life", "systems", "for", "creating", "systematic", "psychological", "effects", ",", "ii", "-RRB-", "the", "rule-databases", "may", "have", "to", "be", "adapted", "also", "locally", "and", "culturally", ",", "iii", "-RRB-", "the", "method", "needed", "to", "create", "a", "rule-database", "is", "not", "easy", "to", "use", "and", "may", "be", "suspect", "to", "ecological", "validity", "-LRB-", "eye-tracking", ",", "behavioral", "and", "psychophysiological", "measures", ",", "self-report", ",", "field", "tests", "are", "needed", "to", "verify", "laboratory", "results", "etc.", "-RRB-", "and", "iv", "-RRB-", "if", "the", "system", "works", "efficiently", "it", "may", "raise", "privacy", "issues", ",", "such", "as", "the", "intimacy", "of", "a", "personal", "psychological", "user", "profile", "-LRB-", "personality", ",", "cognitive", "style", ",", "values", ",", "other", "-RRB-", ".", "Also", "ethical", "issues", "related", "to", "mind-control", "or", "even", "propaganda", "may", "arise", ".", "It", "should", "be", "noted", "that", "to", "build", "a", "smoothly", "functioning", "Psychological", "Customization", "system", "one", "should", "do", "much", "more", "research", "and", "gain", "more", "evidence", "of", "the", "systematic", "relationships", "of", "user", "profiles", ",", "information", "forms", "and", "psychological", "effects", ".", "However", ",", "in", "our", "research", "for", "the", "past", "four", "years", "we", "have", "found", "many", "feasible", "rules", "for", "personalization", "for", "psychological", "effects", ".", "Regarding", "future", "research", ",", "content", "management", "technologies", "should", "be", "elaborated", "to", "provide", "for", "the", "platform", "that", "prototypes", "can", "be", "built", "on", ".", "Consequently", ",", "we", "aim", "to", "build", ",", "evaluate", "and", "field-test", "prototypes", "of", "Psychological", "Customization", "in", "various", "areas", ",", "specifically", "in", "mobile", ",", "urban", "ad-hoc", "contexts", "and", "situations", "related", "to", "mobile", "advertising", "and", "e-commerce", ",", "but", "also", "other", "areas", "such", "as", "mobile", "gaming", "communities", ",", "mobile", "content", ",", "mobile", "messaging", ",", "knowledge", "work", "systems", "and", "city", "navigation", ".", "-LSB-", "1", "-RSB-", "Alpert", ",", "S.", "R.", ";", "Karat", ",", "J.", ";", "Karat", ",", "C-M", ";", "Brodie", ",", "C", "and", "Vergo", ",", "J.G.", "-LRB-", "2003", "-RRB-", "User", "Attitudes", "Regarding", "a", "User-Adaptive", "eCommerce", "Web", "Site", ".", "User", "Modeling", "and", "User-Adapted", "Interaction", "13", "-LRB-", "4", "-RRB-", ":", "373-396", ",", "November", "2003", ".", "-LSB-", "2", "-RSB-", "Bandura", "-LRB-", "1977", "-RRB-", "Social", "learning", "theory", ".", "Englewood", "Cliffs", ",", "NJ", ":", "Prentice-Hall", ".", "-LSB-", "3", "-RSB-", "Baudisch", ",", "P.", "and", "Leopold", ",", "D.", "-LRB-", "2000", "-RRB-", "Attention", ",", "indifference", ",", "dislike", ",", "action", ":", "Web", "advertising", "involving", "users", ".", "Netnomics", "Volume", "2", ",", "Issue", "1", "2000", ",", "pp.", "75-83", ".", "-LSB-", "4", "-RSB-", "Brave", "S.", "and", "Nass", ",", "C.", "-LRB-", "2003", "-RRB-", ".", "Emotion", "in", "human-computer", "interaction", ".", "In", "Jacko", ",", "J.A.", "and", "Sears", ",", "A.", "-LRB-", "Ed", ".", "-RRB-", ",", "The", "Human-Computer", "Interaction", "Handbook", ".", "Fundamentals", ",", "Evolving", "Technologies", "and", "Emerging", "Applications", ".", "-LRB-", "pp.", "81-96", "-RRB-", ".", "London", ":", "Lawrence", "Erlbaum", "Associates", ".", "-LSB-", "5", "-RSB-", "Beniger", ",", "J.", "R.", "-LRB-", "1987", "-RRB-", "Personalization", "of", "mass", "media", "and", "the", "growth", "of", "pseudo-community", ".", "Communication", "Research", ",", "14", "-LRB-", "3", "-RRB-", ",", "pp", "352-371", ".", "-LSB-", "6", "-RSB-", "Benkler", ",", "Y.", "-LRB-", "2000", "-RRB-", "From", "Consumers", "to", "Users", ":", "Shifting", "the", "Deeper", "Structures", "of", "Regulation", ".", "Federal", "Communications", "Law", "Journal", "52", ",", "561-63", ".", "-LSB-", "7", "-RSB-", "Billmann", ",", "D.", "-LRB-", "1998", "-RRB-", "Representations", ".", "In", "Bechtel", ",", "W.", "and", "Graham", ",", "G.", "-LRB-", "1998", "-RRB-", "A", "companion", "to", "cognitive", "science", ",", "649-659", ".", "Blackwell", "publishers", ",", "Malden", ",", "MA", ".", "-LSB-", "8", "-RSB-", "Biocca", ",", "F.", "and", "Levy", ",", "M.", "-LRB-", "1995", "-RRB-", "Communication", "in", "the", "age", "of", "virtual", "reality", ".", "Lawrence", "Erlbaum", ",", "Hillsdale", ",", "NJ", ".", "-LSB-", "9", "-RSB-", "Cuperfain", ",", "R.", "and", "Clarke", ",", "T.", "K.", "-LRB-", "1985", "-RRB-", "A", "new", "perspective", "on", "subliminal", "perception", ".", "Journal", "of", "Advertising", ",", "14", ",", "36-41", ".", "-LSB-", "10", "-RSB-", "Clore", ",", "G.", "C.", "and", "Gasper", ",", "K.", "-LRB-", "2000", "-RRB-", ".", "Feeling", "is", "believing", ".", "Some", "affective", "influences", "on", "belief", ".", "In", "Frijda", ",", "N.H.", ",", "Manstead", ",", "A.", "S.", "R.", "and", "Bem", ",", "S.", "-LRB-", "Ed", ".", "-RRB-", ",", "Emotions", "and", "beliefs", ":", "How", "feelings", "influence", "thoughts", "-LRB-", "pp.", "10-44", "-RRB-", ".", "Paris/Cambridge", ":", "Editions", "de", "la", "Maison", "des", "Sciences", "de", "l", "Homme", "and", "Cambridge", "University", "Press", ".", "-LSB-", "11", "-RSB-", "Dijkstra", ",", "J.", "J.", ",", "Liebrand", ",", "W.B.G", "and", "Timminga", ",", "E.", "-LRB-", "1998", "-RRB-", "Persuasiveness", "of", "expert", "systems", ".", "Behavior", "and", "Information", "Technology", ",", "17", "-LRB-", "3", "-RRB-", ",", "pp", "155-163", ".", "-LSB-", "12", "-RSB-", "Dillon", ",", "A.", "-LRB-", "2001", "-RRB-", ".", "Beyond", "usability", ":", "process", ",", "outcome", "and", "affect", "in", "human", "computer", "interactions", ".", "Online", ":", "http://www.ischool.utexas.edu/~adillon/publications/beyond", "_", "usability.html", ".", "-LSB-", "13", "-RSB-", "Egan", ",", "D.", "E.", "-LRB-", "1988", "-RRB-", ".", "Individual", "differences", "in", "human-computer", "interaction", ".", "In", ":", "M.", "Helander", "-LRB-", "Ed", ".", "-RRB-", ",", "Handbook", "of", "Human-Computer", "Interaction", ",", "p.", "543", "568", ".", "Elsevier", ",", "New", "York", ".", "-LSB-", "14", "-RSB-", "Eysenck", ",", "M.", "-LRB-", "1994", "-RRB-", "Individual", "Differences", ":", "Normal", "and", "Abnormal", ".", "New", "Jersey", ":", "Erlbaum", ".", "-LSB-", "15", "-RSB-", "Fogg", ",", "B.J.", "-LRB-", "2003", "-RRB-", "Motivating", ",", "influencing", "and", "persuading", "users", ".", "In", "Jacko", ",", "J.A.", "and", "Sears", ",", "A.", "-LRB-", "Ed", ".", "-RRB-", ",", "The", "Human-Computer", "Interaction", "Handbook", ".", "Fundamentals", ",", "Evolving", "Technologies", "and", "Emerging", "Applications", ".", "-LRB-", "pp.", "81-96", "-RRB-", ".", "London", ":", "Lawrence", "Erlbaum", "Associates", ".", "-LSB-", "16", "-RSB-", "Fogg", ",", "B.", "J.", "-LRB-", "2002", "-RRB-", "Persuasive", "technology", ".", "Using", "computers", "to", "change", "what", "we", "think", "and", "do", ".", "Morgan", "Kaufmann", "Publishers", ",", "New", "York", ".", "-LSB-", "17", "-RSB-", "Ford", ",", "M.", "E.", "-LRB-", "1992", "-RRB-", "Motivating", "humans", ":", "goals", ",", "emotions", ",", "personal", "agency", "beliefs", ".", "Newbury", "Park", ",", "Ca", ":", "Sage", ".", "-LSB-", "18", "-RSB-", "Hampson", ",", "S.", "E.", "&", "Colman", ",", "A.", "M.", "-LRB-", "Eds.", ",", "1995", "-RRB-", "Individual", "differences", "and", "personality", ".", "London", ":", "Longman", ".", "-LSB-", "19", "-RSB-", "Hristova", ",", "N.", "and", "O'Hare", ",", "G.", "M.", "P.", "-LRB-", "2004", "-RRB-", "Ad-me", ":", "Wireless", "Advertising", "Adapted", "to", "the", "User", "Location", ",", "Device", "and", "Emotions", ".", "Proceedings", "of", "the", "Proceedings", "of", "the", "37th", "Annual", "Hawaii", "International", "Conference", "on", "System", "Sciences", "-LRB-", "HICSS", "'", "04", "-RRB-", "-", "Track", "9", "-", "Volume", "9", "-LSB-", "20", "-RSB-", "Isen", ",", "A.", "M.", "-LRB-", "2000", "-RRB-", ".", "Positive", "affect", "and", "decision", "making", ".", "In", "Lewis", ",", "M.", "and", "Haviland-Jones", ",", "J.", "M.", "-LRB-", "Ed", ".", "-RRB-", ",", "Handbook", "of", "emotions", "-LRB-", "2nd", "ed", ".", "-RRB-", "-LRB-", "pp.", "417-435", "-RRB-", ".", "New", "York", ":", "Guilford", "Press", ".", "-LSB-", "21", "-RSB-", "Kallinen", ",", "K.", ",", "&", "Ravaja", ",", "N.", "-LRB-", "in", "press", "-RRB-", ".", "Emotion-related", "effects", "of", "speech", "rate", "and", "rising", "vs.", "falling", "background", "music", "melody", "during", "audio", "news", ":", "The", "moderating", "influence", "of", "personality", ".", "Personality", "and", "Individual", "Differences", ".", "-LSB-", "22", "-RSB-", "Kamins", ",", "M.A.", ",", "Marks", ",", "L.J.", ",", "&", "Skinner", ",", "D.", "-LRB-", "1991", "-RRB-", ".", "Television", "commercial", "evaluation", "in", "the", "context", "of", "program", "induced", "mood", ":", "Congruency", "versus", "consistency", "effects", ".", "Journal", "of", "Advertising", ",", "20", ",", "1-14", ".", "-LSB-", "23", "-RSB-", "Karat", ",", "M-C.", ",", "Blom", ",", "J.", "and", "Karat", ",", "J.", "-LRB-", "in", "press", "-RRB-", "Designing", "Personalized", "User", "Experiences", "in", "eCommerce", ".", "Dordrecht", ":", "Kluwer", ".", "-LSB-", "24", "-RSB-", "Karat", ",", "J.", "-LRB-", "2003", "-RRB-", "Beyond", "task", "completion", ":", "Evaluation", "of", "affective", "components", "of", "use", ".", "In", "Jacko", ",", "J.A.", "and", "Sears", ",", "A.", "-LRB-", "Ed", ".", "-RRB-", ",", "The", "Human-Computer", "Interaction", "Handbook", ".", "Fundamentals", ",", "Evolving", "Technologies", "and", "Emerging", "Applications", ".", "-LRB-", "pp.", "81-96", "-RRB-", ".", "London", ":", "Lawrence", "Erlbaum", "Associates", ".", "-LSB-", "25", "-RSB-", "Kihlstr", "m", ",", "J.", "F.", ",", "Barnhardt", ",", "T.", "M.", "and", "Tataryn", ",", "D.", "J.", "-LRB-", "1992", "-RRB-", "Implicit", "perception", ".", "In", "Bornstein", ",", "R.", "F.", "and", "Pittmann", ",", "T.", "S.", "252", "252", "-LRB-", "eds", ".", "-RRB-", "Perception", "without", "awareness", ".", "Cognitive", ",", "clinical", "and", "social", "perspectives", ",", "17-54", ".", "Guilford", ",", "New", "York", ".", "-LSB-", "26", "-RSB-", "Krohne", ",", "H.W.", ",", "Pieper", ",", "M.", ",", "Knoll", ",", "N.", ",", "&", "Breimer", ",", "N.", "-LRB-", "2002", "-RRB-", ".", "The", "cognitive", "regulation", "of", "emotions", ":", "The", "role", "of", "success", "versus", "failure", "experience", "and", "coping", "dispositions", ".", "Cognition", "and", "Emotion", ",", "16", ",", "217-243", ".", "-LSB-", "27", "-RSB-", "Krosnick", ",", "J.", "A.", ",", "Betz", ",", "A.", "L.", ",", "Jussim", ",", "J.", "L.", "and", "Lynn", ",", "A.", "R.", "-LRB-", "1992", "-RRB-", "Subliminal", "conditioning", "of", "attitudes", ".", "Personality", "and", "Social", "Psychology", "Bulletin", ",", "18", ",", "152-162", ".", "-LSB-", "28", "-RSB-", "Laarni", ",", "J.", "-LRB-", "2003", "-RRB-", ".", "Effects", "of", "color", ",", "font", "type", "and", "font", "style", "on", "user", "preferences", ".", "In", "C.", "Stephanidis", "-LRB-", "Ed", ".", "-RRB-", "Adjunct", "Proceedings", "of", "HCI", "International", "2003", ".", "-LRB-", "Pp.", "31-32", "-RRB-", ".", "Crete", "University", "Press", ",", "Heraklion", ".", "-LSB-", "29", "-RSB-", "Laarni", ",", "J.", "-LRB-", "2002", "-RRB-", ".", "Searching", "for", "optimal", "methods", "of", "presenting", "dynamic", "text", "on", "different", "types", "of", "screens", ".", "In", ":", "O.W.", "Bertelsen", ",", "S.", "B", "dker", "&", "K.", "Kuutti", "-LRB-", "Eds", ".", "-RRB-", ",", "Tradition", "and", "Transcendence", ".", "Proceedings", "of", "The", "Second", "Nordic", "Conference", "on", "Human-Computer", "Interaction", ",", "October", "19-23", ",", "2002", ",", "Arhus", ",", "Denmark", "-LRB-", "Pp.", "217", "220", "-RRB-", ".", "-LSB-", "30", "-RSB-", "Laarni", ",", "J.", "&", "Kojo", ",", "I.", "-LRB-", "2001", "-RRB-", ".", "Reading", "financial", "news", "from", "PDA", "and", "laptop", "displays", ".", "In", ":", "M.", "J.", "Smith", "&", "G.", "Salvendy", "-LRB-", "Eds", ".", "-RRB-", "Systems", ",", "Social", "and", "Internationalization", "Design", "Aspects", "of", "Human-Computer", "Interaction", ".", "Vol", ".", "2", "of", "Proceedings", "of", "HCI", "International", "2001", ".", "Lawrence", "Erlbaum", ",", "Hillsdale", ",", "NJ", ".", "-LRB-", "Pp.", "109", "113", ".", "-RRB-", "-LSB-", "31", "-RSB-", "Laarni", ",", "J.", ",", "Kojo", ",", "I.", "&", "K", "rkk", "inen", ",", "L.", "-LRB-", "2002", "-RRB-", ".", "Reading", "and", "searching", "information", "on", "small", "display", "screens", ".", "In", ":", "D.", "de", "Waard", ",", "K.", "Brookhuis", ",", "J.", "Moraal", ",", "&", "A.", "Toffetti", "-LRB-", "Eds", ".", "-RRB-", ",", "Human", "Factors", "in", "Transportation", ",", "Communication", ",", "Health", ",", "and", "the", "Workplace", ".", "-LRB-", "Pp.", "505", "516", "-RRB-", ".", "Shake", ",", "Maastricht", ".", "-LRB-", "On", "the", "occasion", "of", "the", "Human", "Factors", "and", "Ergonomics", "Society", "Europe", "Chapter", "Annual", "Meeting", "in", "Turin", ",", "Italy", ",", "November", "2001", "-RRB-", ".", "-LSB-", "32", "-RSB-", "Lang", ",", "A.", "-LRB-", "1990", "-RRB-", "Involuntary", "attention", "and", "physiological", "arousal", "evoked", "by", "structural", "features", "and", "mild", "emotion", "in", "TV", "commercials", ".", "Communication", "Research", ",", "17", "-LRB-", "3", "-RRB-", ",", "275-299", ".", "-LSB-", "33", "-RSB-", "Lang", ",", "A.", ",", "Dhillon", ",", "P.", "and", "Dong", ",", "Q.", "-LRB-", "1995", "-RRB-", "Arousal", ",", "emotion", "and", "memory", "for", "television", "messages", ".", "Journal", "of", "Broadcasting", "and", "Electronic", "Media", ",", "38", ",", "1-15", ".", "-LSB-", "34", "-RSB-", "Lang", ",", "A.", ",", "Newhagen", ",", "J.", "and", "Reeves", ".", "B.", "-LRB-", "1996", "-RRB-", "Negative", "video", "as", "structure", ":", "Emotion", ",", "attention", ",", "capacity", "and", "memory", ".", "Journal", "of", "Broadcasting", "and", "Electronic", "Media", ",", "40", ",", "460-477", ".", "-LSB-", "35", "-RSB-", "Lightner", ",", "N.J.", ",", "&", "Eastman", ",", "C.", "-LRB-", "2002", "-RRB-", ".", "User", "preference", "for", "product", "information", "in", "remote", "purchase", "environments", ".", "Journal", "of", "Electronic", "Commerce", "Research", "-LSB-", "Online", "-RSB-", ",", "3", ",", "Available", "from", "http://www.csulb.edu/web/journals/", "jecr/issues/20023/paper6.pdf", ".", "-LSB-", "36", "-RSB-", "Lombard", ",", "M.", "and", "Ditton", ",", "T.", "-LRB-", "2000", "-RRB-", "Measuring", "presence", ":", "A", "literature-based", "approach", "to", "the", "development", "of", "a", "standardized", "paper-and-pencil", "instrument", ".", "Project", "abstract", "submitted", "to", "Presence", "2000", ":", "The", "third", "international", "workshop", "on", "presence", ".", "-LSB-", "37", "-RSB-", "Lombard", ",", "M.", ",", "Reich", ",", "R.", ",", "Grabe", ",", "M.", "E.", ",", "Bracken", ",", "C.", "and", "Ditton", ",", "T.", "-LRB-", "2000", "-RRB-", "Presence", "and", "television", ":", "The", "role", "of", "screen", "size", ".", "Human", "Communication", "Research", ",", "26", "-LRB-", "1", "-RRB-", ",", "75-98", ".", "-LSB-", "38", "-RSB-", "Meyers-Levy", ",", "J.", "&", "Malaviya", ",", "P.", "-LRB-", "1998", "-RRB-", ".", "Consumers", "'", "processing", "of", "persuasive", "advertisements", ".", "An", "integrative", "framework", "of", "persuasion", "theories", ".", "Journal", "of", "Marketing", "63", ",", "45", "60", ".", "-LSB-", "39", "-RSB-", "McGuire", ",", "W.", "J.", "-LRB-", "1989", "-RRB-", "Theoretical", "foundations", "of", "campaigns", ".", "In", "R.E.", "Rice", "and", "C.K.", "Atkin", "-LRB-", "eds", ".", "-RRB-", "Public", "communication", "campaigns", "-LRB-", "2", "nd", "ed", ",", "pp", "43-65", "-RRB-", ".", "Newbury", "Park", ",", "Ca", ":", "Sage", ".", "-LSB-", "40", "-RSB-", "Monahan", ",", "J.L.", "-LRB-", "1998", "-RRB-", ".", "I", "do", "n't", "know", "it", "but", "I", "like", "you", ":", "The", "influence", "of", "nonconscious", "affect", "on", "person", "perception", ".", "Human", "Communication", "Research", ",", "24", ",", "480-500", ".", "-LSB-", "41", "-RSB-", "Nowak", ",", "G.", "J.", ",", "Shamp", ",", "S.", ",", "Hollander", ",", "B.", ",", "Cameron", ",", "G.", "T.", ",", "Schumann", ",", "D.", "W.", "and", "Thorson", ",", "E.", "-LRB-", "1999", "-RRB-", "Interactive", "media", ":", "A", "means", "for", "more", "meaningful", "advertising", "?", "Advertising", "and", "consumer", "psychology", ".", "Mahwah", ",", "NJ", ":", "Lawrence", "Erlbaum", ".", "-LSB-", "42", "-RSB-", "Petty", ",", "R.E.", ",", "&", "Cacioppo", ",", "J.T.", "-LRB-", "1986", "-RRB-", ".", "Communication", "and", "persuasion", ":", "Central", "and", "peripheral", "routes", "to", "attitude", "change", ".", "New", "York", ":", "Springer-Verlag", ".", "-LSB-", "43", "-RSB-", "Murphy", ",", "S.T.", ",", "Monahan", ",", "J.L.", ",", "&", "Zajonc", ",", "R.B.", "-LRB-", "1995", "-RRB-", ".", "Additivity", "of", "nonconscious", "affect", ":", "Combined", "effects", "of", "priming", "and", "exposure", ".", "Journal", "of", "Personality", "and", "Social", "Psychology", ",", "69", ",", "589-602", ".", "-LSB-", "44", "-RSB-", "Pfau", ",", "M.", ",", "Holbert", ",", "R.L.", ",", "Zubric", ",", "S.J.", ",", "Pasha", ",", "N.H.", ",", "&", "Lin", ",", "W.-K", ".", "-LRB-", "2000", "-RRB-", ".", "Role", "and", "influence", "of", "communication", "modality", "in", "the", "process", "of", "resistance", "to", "persuasion", ".", "Media", "Psychology", ",", "2", ",", "1-33", ".", "-LSB-", "45", "-RSB-", "Ravaja", ",", "N.", "-LRB-", "2004", "-RRB-", ".", "Effects", "of", "a", "small", "talking", "facial", "image", "on", "autonomic", "activity", ":", "The", "moderating", "influence", "of", "dispositional", "BIS", "and", "BAS", "sensitivities", "and", "emotions", ".", "Biological", "Psychology", ",", "65", ",", "163-183", ".", "-LSB-", "46", "-RSB-", "Ravaja", ",", "N.", "-LRB-", "in", "press", "-RRB-", ".", "Contributions", "of", "psychophysiology", "to", "media", "research", ":", "Review", "and", "recommendations", ".", "Media", "Psychology", ".", "-LSB-", "47", "-RSB-", "Ravaja", ",", "N.", ",", "&", "Kallinen", ",", "K.", "-LRB-", "in", "press", "-RRB-", ".", "Emotional", "effects", "of", "startling", "background", "music", "during", "reading", "news", "reports", ":", "The", "moderating", "influence", "of", "dispositional", "BIS", "and", "BAS", "sensitivities", ".", "Scandinavian", "Journal", "of", "Psychology", ".", "-LSB-", "48", "-RSB-", "Ravaja", ",", "N.", ",", "Kallinen", ",", "K.", ",", "Saari", ",", "T.", ",", "&", "Keltikangas-J", "rvinen", ",", "L.", "-LRB-", "in", "press", "-RRB-", ".", "Suboptimal", "exposure", "to", "facial", "expressions", "when", "viewing", "video", "messages", "from", "a", "small", "screen", ":", "Effects", "on", "emotion", ",", "attention", ",", "and", "memory", ".", "Journal", "of", "Experimental", "Psychology", ":", "Applied", ".", "-LSB-", "49", "-RSB-", "Ravaja", ",", "N.", ",", "Saari", ",", "T.", ",", "Kallinen", ",", "K.", ",", "&", "Laarni", ",", "J.", "-LRB-", "2004", "-RRB-", ".", "The", "Role", "of", "Mood", "in", "the", "Processing", "of", "Media", "Messages", "from", "a", "Small", "Screen", ":", "Effects", "on", "Subjective", "and", "Physiological", "Responses", ".", "Manuscript", "submitted", "for", "publication", ".", "-LSB-", "50", "-RSB-", "Reardon", ",", "K.", "R.", "-LRB-", "1991", "-RRB-", "Persuasion", "in", "practice", ".", "Newbury", "Park", ",", "Ca", ":", "Sage", ".", "-LSB-", "51", "-RSB-", "Reeves", ",", "B.", "and", "Nass", ",", "C.", "-LRB-", "1996", "-RRB-", "The", "media", "equation", ".", "How", "people", "treat", "computers", ",", "television", "and", "new", "media", "like", "real", "people", "and", "places", ".", "Cambridge", "University", "Press", ",", "CSLI", ",", "Stanford", ".", "-LSB-", "52", "-RSB-", "Riding", ",", "R.", "J.", "and", "Rayner", ",", "S.", "-LRB-", "1998", "-RRB-", "Cognitive", "styles", "and", "learning", "strategies", ".", "Understanding", "style", "differences", "in", "learning", "and", "behavior", ".", "David", "Fulton", "Publishers", ",", "London", ".", "253", "253", "-LSB-", "53", "-RSB-", "Riecken", ",", "D.", "-LRB-", "2000", "-RRB-", "Personalized", "views", "on", "personalization", ".", "Communications", "of", "the", "ACM", ",", "V.", "43", ",", "8", ",", "27-28", ".", "-LSB-", "54", "-RSB-", "Rusting", ",", "C.L.", "-LRB-", "1998", "-RRB-", ".", "Personality", ",", "mood", ",", "and", "cognitive", "processing", "of", "emotional", "information", ":", "Three", "conceptual", "frameworks", ".", "Psychological", "Bulletin", ",", "124", ",", "165-196", ".", "-LSB-", "55", "-RSB-", "Saari", ",", "T.", "-LRB-", "1998", "-RRB-", "Knowledge", "creation", "and", "the", "production", "of", "individual", "autonomy", ".", "How", "news", "influences", "subjective", "reality", ".", "Reports", "from", "the", "department", "of", "teacher", "education", "in", "Tampere", "university", ".", "A15/1998", ".", "-LSB-", "56", "-RSB-", "Saari", ",", "T.", "-LRB-", "2001", "-RRB-", "Mind-Based", "Media", "and", "Communications", "Technologies", ".", "How", "the", "Form", "of", "Information", "Influences", "Felt", "Meaning", ".", "Acta", "Universitatis", "Tamperensis", "834", ".", "Tampere", "University", "Press", ",", "Tampere", "2001", ".", "-LSB-", "57", "-RSB-", "Saari", ",", "T.", "-LRB-", "2002", "-RRB-", "Designing", "Mind-Based", "Media", "and", "Communications", "Technologies", ".", "Proceedings", "of", "Presence", "2002", "Conference", ",", "Porto", ",", "Portugal", ".", "-LSB-", "58", "-RSB-", "Saari", ",", "T.", "-LRB-", "2003a", "-RRB-", "Designing", "for", "Psychological", "Effects", ".", "Towards", "Mind-Based", "Media", "and", "Communications", "Technologies", ".", "In", "Harris", ",", "D.", ",", "Duffy", ",", "V.", ",", "Smith", ",", "M.", "and", "Stephanidis", ",", "C.", "-LRB-", "eds", ".", "-RRB-", "Human-Centred", "Computing", ":", "Cognitive", ",", "Social", "and", "Ergonomic", "Aspects", ".", "Volume", "3", "of", "the", "Proceedings", "of", "HCI", "International", "2003", ",", "pp.", "557-561", ".", "-LSB-", "59", "-RSB-", "Saari", ",", "T.", "-LRB-", "2003b", "-RRB-", "Mind-Based", "Media", "and", "Communications", "Technologies", ".", "A", "Framework", "for", "producing", "personalized", "psychological", "effects", ".", "Proceedings", "of", "Human", "Factors", "and", "Ergonomics", "2003", "-", "conference", ".", "13.-17.10", ".2003", "Denver", ",", "Colorado", ".", "-LSB-", "60", "-RSB-", "Saari", ",", "T.", "-LRB-", "in", "press", ",", "a", "-RRB-", "Using", "Mind-Based", "Technologies", "to", "facilitate", "Positive", "Emotion", "and", "Mood", "with", "Media", "Content", ".", "Accepted", "to", "proceedings", "of", "to", "Positive", "Emotion", ",", "2", "nd", "European", "Conference", ".", "Italy", ",", "July", "2004", ".", "-LSB-", "61", "-RSB-", "Saari", ",", "T.", "-LRB-", "in", "press", ",", "b", "-RRB-", "Facilitating", "Learning", "from", "Online", "News", "with", "Mind-Based", "Technologies", ".", "Accepted", "to", "proceedings", "of", "EDMedia", "2004", ",", "Lugano", ",", "Switzerland", ".", "-LSB-", "62", "-RSB-", "Saari", ",", "T.", "and", "Turpeinen", ",", "M.", "-LRB-", "in", "press", ",", "a", "-RRB-", "Towards", "Psychological", "Customization", "of", "Information", "for", "Individuals", "and", "Social", "Groups", ".", "In", "Karat", ",", "J.", ",", "Blom", ",", "J.", "and", "Karat", ".", "M.-C", ".", "-LRB-", "eds", ".", "-RRB-", "Personalization", "of", "User", "Experiences", "for", "eCommerce", ",", "Kluwer", ".", "-LSB-", "63", "-RSB-", "Saari", ",", "T.", "and", "Turpeinen", ",", "M.", "-LRB-", "in", "press", ",", "b", "-RRB-", "Psychological", "customization", "of", "information", ".", "Applications", "for", "personalizing", "the", "form", "of", "news", ".", "Accepted", "to", "proceedings", "of", "ICA", "2004", ",", "27.31", ".5", ".", "2004", ",", "New", "Orleans", ",", "USA", ".", "-LSB-", "64", "-RSB-", "Schneider", ",", "S.L.", ",", "&", "Laurion", ",", "S.K.", "-LRB-", "1993", "-RRB-", ".", "Do", "we", "know", "what", "we", "'ve", "learned", "from", "listening", "to", "the", "news", "?", "Memory", "and", "Cognition", ",", "21", ",", "198-209", ".", "-LSB-", "65", "-RSB-", "Schwarz", ",", "N.", "-LRB-", "in", "press", "-RRB-", ".", "Meta-cognitive", "experiences", "in", "consumer", "judgment", "and", "decision", "making", ".", "Journal", "of", "Consumer", "Psychology", ".", "-LSB-", "66", "-RSB-", "Stretcher", ",", "V.", "J.", ",", "Kreutzer", ",", "M.", ",", "Den", "Boer", ",", "D.-J.", ",", "Kobrin", ",", "S.", ",", "Hospers", ",", "H.", "J.", ",", "and", "Skinner", ",", "C.", "S.", "-LRB-", "1994", "-RRB-", "the", "effects", "of", "computer-tailored", "smoking", "cessation", "messages", "in", "family", "practice", "settings", ".", "Journal", "of", "Family", "Practice", ",", "39", "-LRB-", "3", "-RRB-", ",", "262-270", ".", "-LSB-", "67", "-RSB-", "Stretcher", ",", "V.", "J.", "-LRB-", "1999", "-RRB-", "Computer", "tailored", "smoking", "cessation", "materials", ":", "A", "review", "and", "discussion", ".", "Special", "issue", ":", "Computer", "tailored", "education", ".", "Patient", "Education", "&", "Counceling", ",", "36", "-LRB-", "2", "-RRB-", ",", "107-117", ".", "-LSB-", "68", "-RSB-", "Turpeinen", ",", "M.", "-LRB-", "2000", "-RRB-", "Customizing", "news", "content", "for", "individuals", "and", "communities", ".", "Acta", "Polytechnica", "Scandinavica", ".", "Mathematics", "and", "computing", "series", "no.", "103", ".", "Helsinki", "University", "of", "Technology", ",", "Espoo", ".", "-LSB-", "69", "-RSB-", "Turpeinen", ",", "M.", "and", "Saari", ",", "T.", "-LRB-", "2004", "-RRB-", "System", "Architechture", "for", "Psychological", "Customization", "of", "Information", ".", "Proceedings", "of", "HICSS-37", "-", "conference", ",", "5.-8.1", ".", "2004", ",", "Hawaii", ".", "-LSB-", "70", "-RSB-", "Vecchi", ",", "T.", ",", "Phillips", ",", "L.", "H.", "&", "Cornoldi", ",", "C.", "-LRB-", "2001", "-RRB-", ".", "Individual", "differences", "in", "visuo-spatial", "working", "memory", ".", "In", ":", "M.", "Denis", ",", "R.", "H.", "Logie", ",", "C.", "Cornoldi", ",", "M.", "de", "Vega", ",", "&", "J.", "Engelkamp", "-LRB-", "Eds", ".", "-RRB-", ",", "Imagery", ",", "language", ",", "and", "visuo-spatial", "thinking", ".", "Psychology", "Press", ",", "Hove", ".", "-LSB-", "71", "-RSB-", "Zillmann", ",", "D.", "-LRB-", "1971", "-RRB-", ".", "Excitation", "transfer", "in", "communication-mediated", "aggressive", "behavior", ".", "Journal", "of", "Experimental", "Social", "Psychology", ",", "7", ",", "419-434", ".", "-LSB-", "72", "-RSB-", "Zillmann", ",", "D.", "-LRB-", "1978", "-RRB-", ".", "Attribution", "and", "misattribution", "of", "excitatory", "reactions", ".", "In", "J.H.", "Harvey", ",", "W.J.", "Ickes", ",", "&", "R.F.", "Kidd", "-LRB-", "Eds", ".", "-RRB-", ",", "New", "directions", "in", "attribution", "research", "-LRB-", "Vol", ".", "2", ",", "pp", ".", "335-368", "-RRB-", ".", "Hillsdale", ",", "NJ", ":", "Lawrence", "Erlbaum", "Associates", ".", "-LSB-", "73", "-RSB-", "Zillmann", ",", "D.", ",", "&", "Bryant", ",", "J.", "-LRB-", "1985", "-RRB-", ".", "Affect", ",", "mood", ",", "and", "emotion", "as", "determinants", "of", "selective", "exposure", ".", "In", "D.", "Zillmann", "&", "J.", "Bryant", "-LRB-", "Eds", ".", "-RRB-", ",", "Selective", "exposure", "to", "communication", "-LRB-", "pp.", "157-190", "-RRB-", ".", "Hillsdale", ",", "NJ", ":", "Lawrence", "Erlbaum", ".", "254", "254"], "doc_bio_tags": ["O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["persuasion", "advertising"], "abstractive_keyphrases": ["personalization emotion", "e-commerce"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "14", "document": ["A", "New", "Approach", "to", "Intranet", "Search", "Based", "on", "Information", "Extraction", "This", "paper", "is", "concerned", "with", "`", "intranet", "search", "'", ".", "By", "intranet", "search", ",", "we", "mean", "searching", "for", "information", "on", "an", "intranet", "within", "an", "organization", ".", "We", "have", "found", "that", "search", "needs", "on", "an", "intranet", "can", "be", "categorized", "into", "types", ",", "through", "an", "analysis", "of", "survey", "results", "and", "an", "analysis", "of", "search", "log", "data", ".", "The", "types", "include", "searching", "for", "definitions", ",", "persons", ",", "experts", ",", "and", "homepages", ".", "Traditional", "information", "retrieval", "only", "focuses", "on", "search", "of", "relevant", "documents", ",", "but", "not", "on", "search", "of", "special", "types", "of", "information", ".", "We", "propose", "a", "new", "approach", "to", "intranet", "search", "in", "which", "we", "search", "for", "information", "in", "each", "of", "the", "special", "types", ",", "in", "addition", "to", "the", "traditional", "relevance", "search", ".", "Information", "extraction", "technologies", "can", "play", "key", "roles", "in", "such", "kind", "of", "`", "search", "by", "type", "'", "approach", ",", "because", "we", "must", "first", "extract", "from", "the", "documents", "the", "necessary", "information", "in", "each", "type", ".", "We", "have", "developed", "an", "intranet", "search", "system", "called", "`", "Information", "Desk", "'", ".", "In", "the", "system", ",", "we", "try", "to", "address", "the", "most", "important", "types", "of", "search", "first", "-", "finding", "term", "definitions", ",", "homepages", "of", "groups", "or", "topics", ",", "employees", "'", "personal", "information", "and", "experts", "on", "topics", ".", "For", "each", "type", "of", "search", ",", "we", "use", "information", "extraction", "technologies", "to", "extract", ",", "fuse", ",", "and", "summarize", "information", "in", "advance", ".", "The", "system", "is", "in", "operation", "on", "the", "intranet", "of", "Microsoft", "and", "receives", "accesses", "from", "about", "500", "employees", "per", "month", ".", "Feedbacks", "from", "users", "and", "system", "logs", "show", "that", "users", "consider", "the", "approach", "useful", "and", "the", "system", "can", "really", "help", "people", "to", "find", "information", ".", "This", "paper", "describes", "the", "architecture", ",", "features", ",", "component", "technologies", ",", "and", "evaluation", "results", "of", "the", "system", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "search", "process", ";", "I.", "7", ".", "m", "-LSB-", "Document", "and", "Text", "Processing", "-RSB-", ":", "Miscellaneous", "Algorithms", ",", "Experimentation", ",", "Human", "Factors", "Internet", "search", "has", "made", "significant", "progress", "in", "recent", "years", ".", "In", "contrast", ",", "intranet", "search", "does", "not", "seem", "to", "be", "so", "successful", ".", "The", "IDC", "white", "paper", "entitled", "``", "The", "high", "cost", "of", "not", "finding", "information", "''", "-LSB-", "13", "-RSB-", "reports", "that", "information", "workers", "spend", "from", "15", "%", "to", "35", "%", "of", "their", "work", "time", "on", "searching", "for", "information", "and", "40", "%", "of", "information", "workers", "complain", "that", "they", "can", "not", "find", "the", "information", "they", "need", "to", "do", "their", "jobs", "on", "their", "company", "intranets", ".", "Many", "commercial", "systems", "-LSB-", "35", ",", "36", ",", "37", ",", "38", ",", "39", "-RSB-", "have", "been", "developed", "for", "intranet", "search", ".", "However", ",", "most", "of", "them", "view", "intranet", "search", "as", "a", "problem", "of", "conventional", "relevance", "search", ".", "In", "relevance", "search", ",", "when", "a", "user", "types", "a", "query", ",", "the", "system", "returns", "a", "list", "of", "ranked", "documents", "with", "the", "most", "relevant", "documents", "on", "the", "top", ".", "Relevance", "search", "can", "only", "serve", "average", "needs", "well", ".", "It", "can", "not", ",", "however", ",", "help", "users", "to", "find", "information", "in", "a", "specific", "type", ",", "e.g.", ",", "definitions", "of", "a", "term", "and", "experts", "on", "a", "topic", ".", "The", "characteristic", "of", "intranet", "search", "does", "not", "seem", "to", "be", "sufficiently", "leveraged", "in", "the", "commercial", "systems", ".", "In", "this", "paper", ",", "we", "try", "to", "address", "intranet", "search", "in", "a", "novel", "approach", ".", "We", "assume", "that", "the", "needs", "of", "information", "access", "on", "intranets", "can", "be", "categorized", "into", "searches", "for", "information", "in", "different", "types", ".", "An", "analysis", "on", "search", "log", "data", "on", "the", "intranet", "of", "Microsoft", "and", "an", "analysis", "on", "the", "results", "of", "a", "survey", "conducted", "at", "Microsoft", "have", "verified", "the", "correctness", "of", "the", "assumption", ".", "Our", "proposal", "then", "is", "to", "take", "a", "strategy", "of", "`", "divide-and-conquer", "'", ".", "We", "first", "figure", "out", "the", "most", "important", "types", "of", "search", ",", "e.g.", ",", "definition", "search", ",", "expert", "search", ".", "For", "each", "type", ",", "we", "employ", "information", "extraction", "technologies", "to", "extract", ",", "fuse", ",", "and", "summarize", "search", "results", "in", "advance", ".", "Finally", ",", "we", "combine", "all", "the", "types", "of", "searches", "together", ",", "including", "the", "traditional", "relevance", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "05", ",", "October", "31-November", "5", ",", "2005", ",", "Bremen", ",", "Germany", ".", "Copyright", "2005", "ACM", "1-59593-140-6", "/", "05/0010", "...", "$", "5.00", ".", "460", "search", ",", "in", "a", "unified", "system", ".", "In", "this", "paper", ",", "we", "refer", "to", "the", "approach", "as", "`", "search", "by", "type", "'", ".", "Search", "by", "type", "can", "also", "be", "viewed", "as", "a", "simplified", "version", "of", "Question", "Answering", ",", "adapted", "to", "intranet", ".", "The", "advantage", "of", "the", "new", "search", "approach", "lies", "in", "that", "it", "can", "help", "people", "find", "the", "types", "of", "information", "which", "relevance", "search", "can", "not", "easily", "find", ".", "The", "approach", "is", "particularly", "reasonable", "on", "intranets", ",", "because", "in", "such", "space", "users", "are", "information", "workers", "and", "search", "needs", "are", "business", "oriented", ".", "We", "have", "developed", "a", "system", "based", "on", "the", "approach", ",", "which", "is", "called", "`", "Information", "Desk", "'", ".", "Information", "Desk", "can", "help", "users", "to", "find", "term", "definitions", ",", "homepages", "of", "groups", "or", "topics", ",", "employees", "'", "personal", "information", "and", "experts", "on", "topics", ",", "on", "their", "company", "intranets", ".", "The", "system", "has", "been", "put", "into", "practical", "use", "since", "November", "24", "th", ",", "2004", ".", "Each", "month", ",", "about", "500", "Microsoft", "employees", "make", "access", "to", "the", "system", ".", "Both", "the", "results", "of", "an", "analysis", "on", "a", "survey", "and", "the", "results", "of", "an", "analysis", "on", "system", "log", "show", "that", "the", "features", "of", "definition", "search", "and", "homepage", "search", "are", "really", "helpful", ".", "The", "results", "also", "show", "that", "search", "by", "type", "is", "necessary", "at", "enterprise", ".", "The", "needs", "on", "search", "on", "intranets", "are", "huge", ".", "It", "is", "estimated", "that", "intranets", "at", "enterprises", "have", "tens", "or", "even", "hundreds", "of", "times", "larger", "data", "collections", "-LRB-", "both", "structured", "and", "unstructured", "-RRB-", "than", "internet", ".", "As", "explained", "above", ",", "however", ",", "many", "users", "are", "not", "satisfied", "with", "the", "current", "intranet", "search", "systems", ".", "How", "to", "help", "people", "access", "information", "on", "intranet", "is", "a", "big", "challenge", "in", "information", "retrieval", ".", "Much", "effort", "has", "been", "made", "recently", "on", "solutions", "both", "in", "industry", "and", "in", "academia", ".", "Many", "commercial", "systems", "-LSB-", "35", ",", "36", ",", "37", ",", "38", ",", "39", "-RSB-", "dedicated", "to", "intranet", "search", "have", "been", "developed", ".", "Most", "of", "the", "systems", "view", "intranet", "search", "as", "a", "problem", "of", "conventional", "relevance", "search", ".", "In", "the", "research", "community", ",", "ground", "designs", ",", "fundamental", "approaches", ",", "and", "evaluation", "methodologies", "on", "intranet", "search", "have", "been", "proposed", ".", "Hawking", "et", "al", "-LSB-", "17", "-RSB-", "made", "ten", "suggestions", "on", "how", "to", "conduct", "high", "quality", "intranet", "search", ".", "Fagin", "et", "al", "-LSB-", "12", "-RSB-", "made", "a", "comparison", "between", "internet", "search", "and", "intranet", "search", ".", "Recently", ",", "Hawking", "-LSB-", "16", "-RSB-", "conducted", "a", "survey", "on", "previous", "work", "and", "made", "an", "analysis", "on", "the", "intranet", "search", "problem", ".", "Seven", "open", "problems", "on", "intranet", "search", "were", "raised", "in", "their", "paper", ".", "Chen", "et", "al", "-LSB-", "3", "-RSB-", "developed", "a", "system", "named", "`", "Cha-Cha", "'", ",", "which", "can", "organize", "intranet", "search", "results", "in", "a", "novel", "way", "such", "that", "the", "underlying", "structure", "of", "the", "intranet", "is", "reflected", ".", "Fagin", "et", "al", "-LSB-", "12", "-RSB-", "proposed", "a", "new", "ranking", "method", "for", "intranet", "search", ",", "which", "combine", "various", "ranking", "heuristics", ".", "Mattox", "et", "al", "-LSB-", "25", "-RSB-", "and", "Craswell", "et", "al", "-LSB-", "7", "-RSB-", "addressed", "the", "issue", "of", "expert", "finding", "on", "a", "company", "intranet", ".", "They", "developed", "methods", "that", "can", "automatically", "identify", "experts", "in", "an", "area", "using", "documents", "on", "the", "intranet", ".", "Stenmark", "-LSB-", "30", "-RSB-", "proposed", "a", "method", "for", "analyzing", "and", "evaluating", "intranet", "search", "tools", ".", "2.2", "Question", "Answering", "Question", "Answering", "-LRB-", "QA", "-RRB-", "particularly", "that", "in", "TREC", "-LRB-", "http://trec.nist.gov/", "-RRB-", "is", "an", "application", "in", "which", "users", "type", "questions", "in", "natural", "language", "and", "the", "system", "returns", "short", "and", "usually", "single", "answers", "to", "the", "questions", ".", "When", "the", "answer", "is", "a", "personal", "name", ",", "a", "time", "expression", ",", "or", "a", "place", "name", ",", "the", "QA", "task", "is", "called", "`", "Factoid", "QA", "'", ".", "Many", "QA", "systems", "have", "been", "developed", ",", "-LSB-", "2", ",", "4", ",", "18", ",", "20", ",", "22", ",", "27", "-RSB-", ".", "Factoid", "QA", "usually", "consists", "of", "the", "following", "steps", ":", "question", "type", "identification", ",", "question", "expansion", ",", "passage", "retrieval", ",", "answer", "ranking", ",", "and", "answer", "creation", ".", "TREC", "also", "has", "a", "task", "of", "`", "Definitional", "QA", "'", ".", "In", "the", "task", ",", "``", "what", "is", "<", "term", ">", "''", "and", "``", "who", "is", "<", "person", ">", "''", "questions", "are", "answered", "in", "a", "single", "combined", "text", "-LSB-", "1", ",", "11", ",", "15", ",", "33", ",", "34", "-RSB-", ".", "A", "typical", "system", "consists", "of", "question", "type", "identification", ",", "document", "retrieval", ",", "key", "sentence", "matching", ",", "kernel", "fact", "finding", ",", "kernel", "fact", "ranking", ",", "and", "answer", "generation", ".", "Search", "is", "nothing", "but", "collecting", "information", "based", "on", "users", "'", "information", "access", "requests", ".", "If", "we", "can", "correctly", "gather", "information", "on", "the", "basis", "of", "users", "'", "requests", ",", "then", "the", "problem", "is", "solved", ".", "Current", "intranet", "search", "is", "not", "designed", "along", "this", "direction", ".", "Relevance", "search", "can", "help", "create", "a", "list", "of", "ranked", "documents", "that", "serve", "only", "average", "needs", "well", ".", "The", "limitation", "of", "this", "approach", "is", "clear", ".", "That", "is", ",", "it", "can", "not", "help", "users", "to", "find", "information", "of", "a", "specific", "type", ",", "e.g.", ",", "definitions", "of", "a", "term", ".", "On", "the", "other", "hand", ",", "Question", "Answering", "-LRB-", "QA", "-RRB-", "is", "an", "ideal", "form", "for", "information", "access", ".", "When", "a", "user", "inputs", "a", "natural", "language", "question", "or", "a", "query", "-LRB-", "a", "combination", "of", "keywords", "-RRB-", "as", "a", "description", "of", "his", "search", "need", ",", "it", "is", "ideal", "to", "have", "the", "machine", "`", "understand", "'", "the", "input", "and", "return", "only", "the", "necessary", "information", "based", "on", "the", "request", ".", "However", ",", "there", "are", "still", "lots", "of", "research", "work", "to", "do", "before", "putting", "QA", "into", "practical", "uses", ".", "In", "short", "term", ",", "we", "need", "consider", "adopting", "a", "different", "approach", ".", "One", "question", "arises", "here", ":", "can", "we", "take", "a", "hybrid", "approach", "?", "Specifically", ",", "on", "one", "hand", ",", "we", "adopt", "the", "traditional", "approach", "for", "search", ",", "and", "on", "the", "other", "hand", ",", "we", "realize", "some", "of", "the", "most", "frequently", "asked", "types", "of", "search", "with", "QA", ".", "Finally", ",", "we", "integrate", "them", "in", "a", "single", "system", ".", "For", "the", "QA", "part", ",", "we", "can", "employ", "information", "extraction", "technologies", "to", "extract", ",", "fuse", ",", "and", "summarize", "the", "results", "in", "advance", ".", "This", "is", "exactly", "the", "proposal", "we", "make", "to", "intranet", "search", ".", "Can", "we", "categorize", "users", "'", "search", "needs", "easily", "?", "We", "have", "found", "that", "we", "can", "create", "a", "hierarchy", "of", "search", "needs", "for", "intranet", "search", ",", "as", "will", "be", "explained", "in", "section", "4", ".", "On", "intranets", ",", "users", "are", "information", "workers", "and", "their", "motivations", "for", "conducting", "search", "are", "business", "oriented", ".", "We", "think", ",", "therefore", ",", "that", "our", "approach", "may", "be", "relatively", "easily", "realized", "on", "intranets", "first", ".", "-LRB-", "There", "is", "no", "reason", "why", "we", "can", "not", "apply", "the", "same", "approach", "to", "the", "internet", ",", "however", ".", "-RRB-", "To", "verify", "the", "correctness", "of", "the", "proposal", ",", "we", "have", "developed", "a", "system", "and", "made", "it", "available", "internally", "at", "Microsoft", ".", "The", "system", "called", "Information", "Desk", "is", "in", "operation", "on", "the", "intranet", "of", "Microsoft", "and", "receives", "accesses", "from", "about", "500", "employees", "per", "month", ".", "At", "Information", "Desk", ",", "we", "try", "to", "solve", "the", "most", "important", "types", "of", "search", "first", "-", "find", "term", "definitions", ",", "homepages", "of", "groups", "or", "topics", ",", "experts", "on", "topics", ",", "and", "employees", "'", "personal", "information", ".", "We", "are", "461", "also", "trying", "to", "increase", "the", "number", "of", "search", "types", ",", "and", "integrate", "them", "with", "the", "conventional", "relevance", "search", ".", "We", "will", "explain", "the", "working", "of", "Information", "Desk", "in", "section", "5", ".", "In", "this", "section", ",", "we", "describe", "our", "analyses", "on", "intranet", "search", "needs", "using", "search", "query", "logs", "and", "survey", "results", ".", "4.1", "Categorization", "of", "Search", "Needs", "In", "order", "to", "understand", "the", "underlying", "needs", "of", "search", "queries", ",", "we", "would", "need", "to", "ask", "the", "users", "about", "their", "search", "intentions", ".", "Obviously", ",", "this", "is", "not", "feasible", ".", "We", "conducted", "an", "analysis", "by", "using", "query", "log", "data", ".", "Here", "query", "log", "data", "means", "the", "records", "on", "queries", "typed", "by", "users", ",", "and", "documents", "clicked", "by", "the", "users", "after", "sending", "the", "queries", ".", "Our", "work", "was", "inspirited", "by", "those", "of", "Rose", "and", "Levinson", "-LSB-", "28", "-RSB-", ".", "In", "their", "work", ",", "they", "categorized", "the", "search", "needs", "of", "users", "on", "internet", "by", "analyzing", "search", "query", "logs", ".", "We", "tried", "to", "understand", "users", "'", "search", "needs", "on", "intranet", "by", "identifying", "and", "organizing", "a", "manageable", "number", "of", "categories", "of", "the", "needs", ".", "The", "categories", "encompass", "the", "majority", "of", "actual", "requests", "users", "may", "have", "when", "conducting", "search", "on", "an", "intranet", ".", "We", "used", "a", "sample", "of", "queries", "from", "the", "search", "engine", "of", "the", "intranet", "of", "Microsoft", ".", "First", ",", "we", "brainstormed", "a", "number", "of", "categories", ",", "based", "on", "our", "own", "experiences", "and", "previous", "work", ".", "Then", ",", "we", "modified", "the", "categories", ",", "including", "adding", ",", "deleting", ",", "and", "merging", "categories", ",", "by", "assigning", "queries", "to", "the", "categories", ".", "Given", "a", "query", ",", "we", "used", "the", "following", "information", "to", "deduce", "the", "underlying", "search", "need", ":", "the", "query", "itself", "the", "documents", "returned", "by", "the", "search", "engine", "the", "documents", "clicked", "on", "by", "the", "user", "For", "example", ",", "if", "a", "user", "typed", "a", "keyword", "of", "`", ".", "net", "'", "and", "clicked", "a", "homepage", "of", ".", "net", ",", "then", "we", "judged", "that", "the", "user", "was", "looking", "for", "a", "homepage", "of", ".", "net", ".", "As", "we", "repeated", "the", "process", ",", "we", "gradually", "reached", "the", "conclusion", "that", "search", "needs", "on", "intranet", "can", "be", "categorized", "as", "a", "hierarchical", "structure", "shown", "in", "Figure", "1", ".", "In", "fact", ",", "the", "top", "level", "of", "the", "hierarchy", "resembles", "that", "in", "the", "taxonomy", "proposed", "by", "Rose", "and", "Levinson", "for", "internet", "-LSB-", "28", "-RSB-", ".", "However", ",", "the", "second", "level", "differs", ".", "On", "intranet", ",", "users", "'", "search", "needs", "are", "less", "diverse", "than", "those", "on", "internet", ",", "because", "the", "users", "are", "information", "workers", "and", "their", "motivations", "of", "conducting", "search", "are", "business", "oriented", ".", "There", "is", "a", "special", "need", "called", "`", "tell", "me", "about", "'", "here", ".", "It", "is", "similar", "to", "the", "traditional", "relevance", "search", ".", "Many", "search", "needs", "are", "by", "nature", "difficult", "to", "be", "categorized", ",", "for", "example", ",", "``", "I", "want", "to", "find", "documents", "related", "to", "both", ".", "net", "and", "SQL", "Server", "''", ".", "We", "can", "put", "them", "into", "the", "category", ".", "We", "think", "that", "the", "search", "needs", "are", "not", "Microsoft", "specific", ";", "one", "can", "image", "that", "similar", "needs", "exist", "in", "other", "companies", "as", "well", ".", "Informational", "When", "-LRB-", "time", "-RRB-", "Where", "-LRB-", "place", "-RRB-", "Why", "-LRB-", "reason", "-RRB-", "What", "is", "-LRB-", "definition", "-RRB-", "Who", "knows", "about", "-LRB-", "expert", "-RRB-", "Who", "is", "-LRB-", "person", "-RRB-", "How", "to", "-LRB-", "manual", "-RRB-", "Tell", "me", "about", "-LRB-", "relevance", "-RRB-", "Navigational", "Person", "Product", "Technology", "Services", "Group", "Transactional", "Figure", "1", ".", "Categories", "of", "search", "needs", "4.2", "Analysis", "on", "Search", "Needs", "by", "Query", "Log", "We", "have", "randomly", "selected", "200", "unique", "queries", "and", "tried", "to", "assign", "the", "queries", "to", "the", "categories", "of", "search", "needs", "described", "above", ".", "Table", "1", "shows", "the", "distribution", ".", "We", "have", "also", "picked", "up", "the", "top", "350", "frequently", "submitted", "queries", "and", "assigned", "them", "to", "the", "categories", ".", "Table", "2", "shows", "the", "distribution", ".", "-LRB-", "There", "is", "no", "result", "for", "`", "why", "'", ",", "`", "what", "is", "'", ",", "and", "`", "who", "knows", "about", "'", ",", "because", "it", "is", "nearly", "impossible", "to", "guess", "users", "'", "search", "intensions", "by", "only", "looking", "at", "query", "logs", ".", "-RRB-", "For", "random", "queries", ",", "informational", "needs", "are", "dominating", ".", "For", "high", "frequency", "queries", ",", "navigational", "needs", "are", "dominating", ".", "The", "most", "important", "types", "for", "random", "queries", "are", "relevance", "search", ",", "personal", "information", "search", ",", "and", "manual", "search", ".", "The", "most", "important", "types", "for", "high", "frequency", "queries", "are", "home", "page", "search", "and", "relevance", "search", ".", "4.3", "Analysis", "on", "Search", "Needs", "by", "Survey", "We", "can", "use", "query", "log", "data", "to", "analyze", "users", "'", "search", "needs", ",", "as", "described", "above", ".", "However", ",", "there", "are", "two", "shortcomings", "in", "the", "approach", ".", "First", ",", "sometimes", "it", "is", "difficult", "to", "guess", "the", "search", "intensions", "of", "users", "by", "only", "looking", "at", "query", "logs", ".", "This", "is", "especially", "true", "for", "the", "categories", "of", "`", "why", "'", "and", "`", "what", "'", ".", "Usually", "it", "is", "hard", "to", "distinguish", "them", "from", "`", "relevance", "search", "'", ".", "Second", ",", "query", "log", "data", "can", "not", "reveal", "users", "'", "potential", "search", "needs", ".", "For", "example", ",", "many", "employees", "report", "that", "they", "have", "needs", "of", "searching", "for", "experts", "on", "specific", "topics", ".", "However", ",", "it", "is", "difficult", "to", "find", "expert", "searches", "from", "query", "log", "at", "a", "conventional", "search", "engine", ",", "because", "users", "understand", "that", "such", "search", "is", "not", "supported", "and", "they", "do", "not", "conduct", "the", "search", ".", "To", "alleviate", "the", "negative", "effect", ",", "we", "have", "conducted", "another", "analysis", "through", "a", "survey", ".", "Although", "a", "survey", "also", "has", "limitation", "-LRB-", "i.e.", ",", "it", "only", "asks", "people", "to", "answer", "pre-defined", "questions", "and", "thus", "can", "be", "biased", "-RRB-", ",", "it", "can", "help", "to", "understand", "the", "problem", "from", "a", "different", "perspective", ".", "462", "Table", "1", ".", "Distribution", "of", "search", "needs", "for", "random", "queries", "Category", "of", "Search", "Needs", "Percentage", "When", "0.02", "Where", "0.02", "Why", "NA", "What", "is", "NA", "Who", "knows", "about", "NA", "Who", "is", "0.23", "How", "to", "0.105", "Tell", "me", "about", "0.46", "Informational", "total", "0.835", "Groups", "0.03", "Persons", "0.005", "Products", "0.02", "Technologies", "0.02", "Services", "0.06", "Navigational", "total", "0.135", "Transactional", "0.025", "Other", "0.005", "Table", "2", ".", "Distribution", "of", "search", "needs", "for", "high", "frequency", "queries", "Category", "of", "Search", "Needs", "Relative", "Prevalence", "When", "0.0057", "Where", "0.0143", "Why", "NA", "What", "is", "NA", "Who", "knows", "about", "NA", "Who", "is", "0.0314", "How", "to", "0.0429", "Tell", "me", "about", "0.2143", "Informational", "total", "0.3086", "Groups", "0.0571", "Persons", "0.0057", "Products", "0.26", "Technologies", "0.0829", "Services", "0.2371", "Navigational", "total", "0.6428", "Transactional", "0.0086", "Other", "0.04", "I", "have", "experiences", "of", "conducting", "search", "at", "Microsoft", "intranet", "to", "look", "for", "the", "web", "sites", "-LRB-", "or", "homepages", "-RRB-", "of", "-LRB-", "multiple", "choice", "-RRB-", "technologies", "74", "%", "products", "74", "%", "services", "68", "%", "projects", "68", "%", "groups", "60", "%", "persons", "42", "%", "none", "of", "the", "above", "11", "%", "I", "have", "experiences", "of", "conducting", "search", "at", "Microsoft", "intranet", "in", "which", "the", "needs", "can", "be", "translated", "into", "questions", "like", "?", "-LRB-", "multiple", "choice", "-RRB-", "`", "what", "is", "'", "-", "e.g.", ",", "``", "what", "is", "blaster", "''", "77", "%", "`", "how", "to", "'", "-", "``", "how", "to", "submit", "expense", "report", "''", "54", "%", "`", "where", "'", "-", "e.g.", ",", "``", "where", "is", "the", "company", "store", "''", "51", "%", "`", "who", "knows", "about", "'", "-", "e.g.", ",", "``", "who", "knows", "about", "data", "mining", "''", "51", "%", "`", "who", "is", "'", "-", "e.g.", ",", "``", "who", "is", "Rick", "Rashid", "''", "45", "%", "`", "when", "'", "-", "e.g.", ",", "``", "when", "is", "TechFest", "'05", "''", "42", "%", "`", "why", "'", "-", "e.g.", ",", "``", "why", "do", "Windows", "NT", "device", "drivers", "contain", "trusted", "code", "''", "28", "%", "none", "of", "the", "above", "14", "%", "I", "have", "experiences", "of", "conducting", "search", "at", "Microsoft", "intranet", "in", "order", "to", "-LRB-", "multiple", "choice", "-RRB-", "download", "a", "software", ",", "a", "document", ",", "or", "a", "picture", ".", "E.g.", ",", "``", "getting", "MSN", "logo", "''", "71", "%", "make", "use", "of", "a", "service", ".", "E.g.", ",", "``", "getting", "a", "serial", "number", "of", "Windows", "''", "53", "%", "none", "of", "the", "above", "18", "%", "Figure", "2", ".", "Survey", "results", "on", "search", "needs", "In", "the", "survey", ",", "we", "have", "asked", "questions", "regarding", "to", "search", "needs", "at", "enterprise", ".", "35", "Microsoft", "employees", "have", "taken", "part", "in", "the", "survey", ".", "Figure", "2", "shows", "the", "questions", "and", "the", "corresponding", "results", ".", "We", "see", "from", "the", "answers", "that", "definition", "search", ",", "manual", "search", ",", "expert", "finding", ",", "personal", "information", "search", ",", "and", "time", "schedule", "search", "are", "requested", "by", "the", "users", ".", "Homepage", "finding", "on", "technologies", "and", "products", "are", "important", "as", "well", ".", "Search", "for", "a", "download", "site", "is", "also", "a", "common", "request", ".", "463", "Who", "is", "Definition", "of", "Longhorn", "Where", "is", "homepage", "of", "Who", "knows", "about", "Longhorn", "is", "the", "codename", "for", "the", "next", "release", "of", "the", "Windows", "operating", "system", ",", "planned", "for", "release", "in", "FY", "2005", ".", "Longhorn", "will", "further", "Microsoft", "'s", "long", "term", "vision", "for", "...", "http://url1", "Longhorn", "is", "a", "platform", "that", "enables", "incredible", "user", "experiences", "that", "are", "unlike", "anything", "possible", "with", "OS", "releases", "to", "date", ".", "This", "session", "describes", "our", "approach", "and", "philosophy", "that", "...", "http://url2", "Longhorn", "is", "the", "platform", "in", "which", "significant", "improvements", "in", "the", "overall", "manageability", "of", "the", "system", "by", "providing", "the", "necessary", "infrastructure", "to", "enable", "standardized", "configuration/change", "management", ",", "structured", "eventing", "and", "monitoring", ",", "and", "a", "unified", "software", "distribution", "mechanism", "will", "be", "made", ".", "In", "order", "to", "achieve", "this", "management", "with", "each", "Longhorn", "...", "http://url3", "Longhorn", "is", "the", "evolution", "of", "the", ".", "NET", "Framework", "on", "the", "client", "and", "the", "biggest", "investment", "that", "Microsoft", "has", "made", "in", "the", "Windows", "client", "development", "platform", "in", "years", ".", "Longhorn", "is", "the", "platform", "for", "smart", ",", "connected", "...", "http://url4", "Longhorn", "is", "the", "platform", "for", "smart", ",", "connected", "applications", ",", "combining", "the", "best", "features", "of", "the", "Web", ",", "such", "as", "ease", "of", "deployment", "and", "rich", "content", "with", "the", "power", "of", "the", "Win32", "development", "platform", ",", "enabling", "developers", "to", "build", "a", "new", "breed", "of", "applications", "that", "take", "real", "advantage", "of", "the", "connectivity", ",", "storage", ",", "and", "graphical", "capabilities", "of", "the", "modern", "personal", "computer", ".", "http://url5", "What", "is", "Longhorn", "Go", "What", "is", "Who", "is", "Where", "is", "homepage", "of", "Who", "knows", "about", "What", "is", "Who", "is", "Homepages", "of", "Office", "Office", "Go", "What", "is", "Who", "is", "Where", "is", "homepage", "of", "Who", "knows", "about", "Who", "knows", "about", "Office", "Portal", "Site", "This", "is", "the", "internal", "site", "for", "Office", "http://url1", "Where", "is", "homepage", "of", "Office", "Site", "-LRB-", "external", "-RRB-", "Microsoft.com", "site", "offering", "information", "on", "the", "various", "Office", "products", ".", "Links", "include", "FAQs", ",", "downloads", ",", "support", ",", "and", "more", ".", "http", ":", "/", "url2", "Office", "New", "Office", "Site", "http://url3", "Office", "Office", "http://url4", "Where", "is", "homepage", "of", "What", "is", "Who", "is", "People", "Associated", "with", "Data", "mining", "Who", "knows", "about", "Jamie", "MacLennan", "DEVELOPMENT", "LEAD", "US-SQL", "Data", "Warehouse", "+1", "-LRB-", "425", "-RRB-", "XXXXXXX", "XXXXXX", "Associated", "documents", "-LRB-", "4", "-RRB-", ":", "is", "author", "of", "document", "entitled", "Data", "Mining", "Tutorial", "http", ":", "/", "/", "url1", "is", "author", "of", "document", "entitled", "Solving", "Business", "Problems", "Using", "Data", "Mining", "http", ":", "/", "/", "url2", "Jim", "Gray", "DISTINGUISHED", "ENGINEER", "US-WAT", "MSR", "San", "Francisco", "+", "XXXXXXXXXXX", "Associated", "documents", "-LRB-", "2", "-RRB-", ":", "Data", "Mining", "Go", "What", "is", "Who", "is", "Where", "is", "homepage", "of", "Who", "knows", "about", "is", "author", "of", "document", "entitled", "Mainlining", "Data", "Mining", "http", ":", "/", "/", "url3", "is", "author", "of", "document", "entitled", "Data", "Mining", "the", "SDSS", "SkyServer", "Database", "http", ":", "/", "/", "url4", "Where", "is", "homepage", "of", "Who", "knows", "about", "What", "is", "Who", "is", "Bill", "Gates", "CHRMN", "&", "CHIEF", "SFTWR", "ARCHITECT", "US-Executive-Chairman", "+1", "-LRB-", "425", "-RRB-", "XXXXXXX", "XXXXXX", "Documents", "of", "Bill", "Gates", "-LRB-", "118", "-RRB-", "My", "advice", "to", "students", ":", "Education", "counts", "http://url1", "Evento", "NET", "Reviewers", "Seattle", "7/8", "Novembro", "http://url2", "A", "Vision", "for", "Life", "Long", "Learning", "Year", "2020", "http://url3", "Bill", "Gates", "answers", "most", "frequently", "asked", "questions", ".", "http://url4", ">", ">", "more", "Top", "10", "terms", "appearing", "in", "documents", "of", "Bill", "Gates", "Term", "1", "-LRB-", "984.4443", "-RRB-", "Term", "2", "-LRB-", "816.4247", "-RRB-", "Term", "3", "-LRB-", "595.0771", "-RRB-", "Term", "4", "-LRB-", "578.5604", "-RRB-", "Term", "5", "-LRB-", "565.7299", "-RRB-", "Term", "6", "-LRB-", "435.5366", "-RRB-", "Term", "7", "-LRB-", "412.4467", "-RRB-", "Term", "8", "-LRB-", "385.446", "-RRB-", "Term", "9", "-LRB-", "346.5993", "-RRB-", "Term", "10", "-LRB-", "345.3285", "-RRB-", "Bill", "Gates", "Go", "What", "is", "Who", "is", "Where", "is", "homepage", "of", "Who", "knows", "about", "Figure", "3", ":", "Information", "Desk", "system", "Currently", "Information", "Desk", "provides", "four", "types", "of", "search", ".", "The", "four", "types", "are", ":", "1", ".", "`", "what", "is", "'", "search", "of", "definitions", "and", "acronyms", ".", "Given", "a", "term", ",", "it", "returns", "a", "list", "of", "definitions", "of", "the", "term", ".", "Given", "an", "acronym", ",", "it", "returns", "a", "list", "of", "possible", "expansions", "of", "the", "acronym", ".", "2", ".", "`", "who", "is", "'", "search", "of", "employees", "'", "personal", "information", ".", "Given", "the", "name", "of", "a", "person", ",", "it", "returns", "his/her", "profile", "information", ",", "authored", "documents", "and", "associated", "key", "terms", ".", "3", ".", "`", "where", "is", "homepage", "of", "'", "search", "of", "homepages", ".", "Given", "the", "name", "of", "a", "group", ",", "a", "product", ",", "or", "a", "technology", ",", "it", "returns", "a", "list", "of", "its", "related", "home", "pages", ".", "4", ".", "`", "who", "knows", "about", "'", "search", "of", "experts", ".", "Given", "a", "term", "on", "a", "technology", "or", "a", "product", ",", "it", "returns", "a", "list", "of", "persons", "who", "might", "be", "experts", "on", "the", "technology", "or", "the", "product", ".", "Crawler", "&", "Extractor", "Web", "Server", "Information", "Desk", "MS", "Web", "term", "definition", "acronym", "what", "is", "person", "document", "key", "term", "who", "is", "term", "person", "document", "who", "knows", "about", "term", "homepage", "Where", "is", "homepage", "of", "Figure", "4", ".", "Workflow", "of", "Information", "Desk", "There", "are", "check", "boxes", "on", "the", "UI", ",", "and", "each", "represents", "one", "search", "type", ".", "In", "search", ",", "users", "can", "designate", "search", "types", "by", "checking", "the", "corresponding", "boxes", "and", "then", "submit", "queries", ".", "By", "default", ",", "all", "the", "boxes", "are", "checked", ".", "For", "example", ",", "when", "users", "type", "`", "longhorn", "'", "with", "the", "`", "what", "is", "'", "box", "checked", ",", "they", "get", "a", "list", "of", "definitions", "of", "`", "Longhorn", "'", "-LRB-", "the", "first", "snapshot", "in", "figure", "3", "-RRB-", ".", "Users", "can", "also", "search", "for", "homepages", "-LRB-", "team", "web", "sites", "-RRB-", "related", "to", "`", "Office", "'", ",", "using", "the", "`", "where", "is", "homepage", "'", "feature", "-LRB-", "the", "second", "snapshot", "in", "figure", "3", "-RRB-", ".", "Users", "can", "search", "for", "experts", "on", ",", "for", "example", ",", "`", "data", "mining", "'", "by", "asking", "`", "who", "knows", "about", "data", "mining", "'", "-LRB-", "the", "third", "snapshot", "in", "figure", "3", "-RRB-", ".", "Users", "can", "also", "get", "a", "list", "of", "documents", "that", "are", "automatically", "identified", "as", "being", "authored", "by", "`", "Bill", "Gates", "'", ",", "for", "example", ",", "with", "the", "`", "who", "is", "'", "feature", "-LRB-", "the", "last", "snapshot", "in", "figure", "3", "-RRB-", ".", "The", "top", "ten", "key", "terms", "found", "in", "his", "documents", "are", "also", "given", ".", "Links", "to", "the", "original", "documents", ",", "from", "which", "the", "information", "has", "been", "extracted", ",", "are", "also", "available", "on", "the", "search", "result", "UIs", ".", "5.2", "Technologies", "5.2.1", "Architecture", "Information", "Desk", "makes", "use", "of", "information", "extraction", "technologies", "to", "support", "the", "search", "by", "type", "feaatures", ".", "The", "technologies", "include", "automatically", "extracting", "document", "metadata", "and", "domain", "specific", "knowledge", "from", "a", "web", "site", "using", "information", "extraction", "technologies", ".", "The", "domain", "specific", "knowledge", "includes", "definition", ",", "acronym", ",", "and", "expert", ".", "The", "document", "metadata", "includes", "title", ",", "author", ",", "key", "term", ",", "homepage", ".", "Documents", "are", "in", "the", "form", "of", "Word", ",", "PowerPoint", ",", "or", "HTML", ".", "Information", "Desk", "stores", "all", "the", "data", "in", "Microsoft", "SQL", "Server", "and", "provides", "search", "using", "web", "464", "$", "9", "!", "''", "!", "4", "9", "%", "-RRB-", "!", ".", "$", ",", "!", "!", "''", "T", "2", "T", "-LRB-", "T", "T", "T", "2", "T", "T", "U", "T", "T", "3", "T", ",", "M", "N", "!", "4", "2", "-", "V", "%", "KV", "%", "L", "*", "-RRB-", "7", "+", "K", "L", "-", "V", "%", "$", "!", "K", "L", "!", ":", "!", "K", "L", ">", ">", "7", "-RRB-", "!", "'", "&", "&", "'", "'", "<", "<", "1", "%", "*", "7", "7", "'", "77", "7", "&", "F7", "F9", "-RRB-", "-RRB-", "+", "2", "#", "!", "''", "!", "!", "!", "-", "V", "%", "*", "-RRB-", "F", "+", "$", "M", "N", "KM", "NL", "M", "N", "M", "N", ">", "52", "''", "A", "''", "2", "B", "KA", "``", "2BL6", "B", "B", "C", "$", "!", "!", "!", "$", "#", "``", "$", "%", "-LRB-", ";", "''", "'", ";", "''", "'", "B", "B", "'", "F", ";", "&", "'", "7F", ";", "!", "D", "$", "&", "K", "B", "B", "L", "!", "2", "B", "P", "%", "*", "F", "-RRB-", "+", "3", "!", "D", ",", "B", "'", "<", "1", "&", "'", "<", "==", "8", "4", "@", "#", ";", "%", "%", ";", "@", "#", "J", "!", "!", "A7", "-LRB-", "-RRB-", "8", "4", "@", "#", ";", "%", "%", ";", "@", "#", "J", "!", "!", "A7", "-LRB-", "-RRB-", "2", "8", "$", ",", "''", "465", "recall", "for", "title", "extraction", "from", "PowerPoint", "are", "0.907", "and", "0.951", "respectively", ".", "Metadata", "extraction", "has", "been", "intensively", "studied", ".", "For", "instance", ",", "Han", "et", "al", "-LSB-", "14", "-RSB-", "proposed", "a", "method", "for", "metadata", "extraction", "from", "research", "papers", ".", "They", "considered", "the", "problem", "as", "that", "of", "classification", "based", "on", "SVM", ".", "They", "mainly", "used", "linguistic", "information", "as", "features", ".", "To", "the", "best", "of", "our", "knowledge", ",", "no", "previous", "work", "has", "been", "done", "on", "metadata", "extraction", "from", "general", "documents", ".", "We", "report", "our", "title", "extraction", "work", "in", "details", "in", "-LSB-", "19", "-RSB-", ".", "The", "feature", "of", "`", "who", "is", "'", "can", "help", "find", "documents", "authored", "by", "a", "person", ",", "but", "existing", "in", "different", "team", "web", "sites", ".", "Information", "extraction", "-LRB-", "specifically", "metadata", "extraction", "-RRB-", "makes", "the", "aggregation", "of", "information", "possible", ".", "5.2.4", "`", "Who", "knows", "about", "'", "The", "basic", "idea", "for", "the", "feature", "is", "that", "if", "a", "person", "has", "authored", "many", "documents", "on", "an", "issue", "-LRB-", "term", "-RRB-", ",", "then", "it", "is", "very", "likely", "that", "he/she", "is", "an", "expert", "on", "the", "issue", ",", "or", "if", "the", "person", "'s", "name", "co-occurs", "in", "many", "times", "with", "the", "issue", ",", "then", "it", "is", "likely", "that", "he/she", "is", "an", "expert", "on", "the", "issue", ".", "As", "described", "above", ",", "we", "can", "extract", "titles", ",", "authors", ",", "and", "key", "terms", "from", "all", "the", "documents", ".", "In", "this", "way", ",", "we", "know", "how", "many", "times", "each", "person", "is", "associated", "with", "each", "topic", "in", "the", "extracted", "titles", "and", "in", "the", "extracted", "key", "terms", ".", "We", "also", "go", "through", "all", "the", "documents", "and", "see", "how", "many", "times", "each", "person", "'s", "name", "co-occurs", "with", "each", "topic", "in", "text", "segments", "within", "a", "pre-determined", "window", "size", ".", "In", "search", ",", "we", "use", "the", "three", "types", "of", "information", ":", "topic", "in", "title", ",", "topic", "in", "key", "term", ",", "and", "topic", "in", "text", "segment", "to", "rank", "persons", ",", "five", "persons", "for", "each", "type", ".", "We", "rank", "persons", "with", "a", "heuristic", "method", "and", "return", "the", "list", "of", "ranked", "persons", ".", "A", "person", "who", "has", "several", "documents", "with", "titles", "containing", "the", "topic", "will", "be", "ranked", "higher", "than", "a", "person", "whose", "name", "co-occurs", "with", "the", "topic", "in", "many", "documents", ".", "It", "appears", "that", "the", "results", "of", "the", "feature", "largely", "depend", "on", "the", "size", "of", "document", "collection", "we", "crawl", ".", "Users", "'", "feedbacks", "on", "the", "results", "show", "that", "sometimes", "the", "results", "are", "very", "accurate", ",", "however", ",", "sometimes", "they", "are", "not", "-LRB-", "due", "to", "the", "lack", "of", "information", "-RRB-", ".", "Craswell", "et", "al.", "developed", "a", "system", "called", "`", "P@NOPTIC", "'", ",", "which", "can", "automatically", "find", "experts", "using", "documents", "on", "an", "intranet", "-LSB-", "7", "-RSB-", ".", "The", "system", "took", "documents", "as", "plain", "texts", "and", "did", "not", "utilize", "metadata", "of", "documents", "as", "we", "do", "at", "Information", "Desk", ".", "5.2.5", "`", "Where", "is", "homepage", "of", "'", "We", "identify", "homepages", "-LRB-", "team", "web", "sites", "-RRB-", "using", "several", "rules", ".", "Most", "of", "the", "homepages", "at", "the", "intranet", "of", "Microsoft", "are", "created", "by", "SharePoint", ",", "a", "product", "of", "Microsoft", ".", "From", "SharePoint", ",", "we", "can", "obtain", "a", "property", "of", "each", "page", "called", "`", "ContentClass", "'", ".", "It", "tells", "exactly", "whether", "a", "web", "page", "corresponds", "to", "a", "homepage", "or", "a", "team", "site", ".", "So", "we", "know", "it", "is", "a", "homepage", "-LRB-", "obviously", ",", "this", "does", "not", "apply", "in", "general", "-RRB-", ".", "Next", "we", "use", "several", "patterns", "to", "pull", "out", "titles", "from", "the", "homepages", ".", "The", "precision", "of", "home", "page", "identification", "is", "nearly", "100", "%", ".", "In", "search", ",", "we", "rank", "the", "discovered", "home", "pages", "related", "to", "a", "query", "term", "using", "the", "URL", "lengths", "of", "the", "home", "pages", ".", "A", "home", "page", "with", "a", "shorter", "URL", "will", "be", "ranked", "higher", ".", "TREC", "has", "a", "task", "called", "`", "home/named", "page", "finding", "'", "-LSB-", "8", ",", "9", "-RSB-", ",", "which", "is", "to", "find", "home", "pages", "talking", "about", "a", "topic", ".", "Many", "methods", "have", "been", "developed", "for", "pursuing", "the", "task", "-LSB-", "5", ",", "6", ",", "26", ",", "29", "-RSB-", ".", "Since", "we", "can", "identify", "homepages", "by", "using", "special", "properties", "on", "our", "domain", ",", "we", "do", "not", "consider", "employing", "a", "similar", "method", ".", "Usually", "it", "is", "hard", "to", "conduct", "evaluation", "on", "a", "practical", "system", ".", "We", "evaluated", "the", "usefulness", "of", "Information", "Desk", "by", "conducting", "a", "survey", "and", "by", "recording", "system", "logs", ".", "We", "have", "found", "from", "analysis", "results", "that", "the", "`", "what", "is", "'", "and", "`", "where", "is", "homepage", "of", "'", "features", "are", "very", "useful", ".", "The", "`", "who", "is", "'", "feature", "works", "well", ",", "but", "the", "`", "who", "knows", "about", "'", "feature", "still", "needs", "improvements", ".", "6.1", "Survey", "Result", "Analysis", "The", "survey", "described", "in", "section", "4.3", "also", "includes", "feedbacks", "on", "Information", "Desk", ".", "Figure", "6", "shows", "a", "question", "on", "the", "usefulness", "of", "the", "features", "and", "a", "summary", "on", "the", "answers", ".", "We", "see", "that", "the", "features", "`", "where", "is", "homepage", "of", "'", "and", "`", "what", "is", "'", "are", "regarded", "useful", "by", "the", "responders", "in", "the", "survey", ".", "Figure", "7", "shows", "a", "question", "on", "new", "features", "and", "a", "summary", "on", "the", "answers", ".", "We", "see", "that", "the", "users", "want", "to", "use", "the", "features", "of", "`", "how", "to", "'", ",", "`", "when", "'", ",", "`", "where", "'", "and", "`", "why", "'", "in", "the", "future", ".", "This", "also", "justifies", "the", "correctness", "of", "our", "claim", "on", "intranet", "search", "made", "in", "section", "4", ".", "Figure", "8", "shows", "a", "question", "on", "purposes", "of", "use", "and", "a", "digest", "on", "the", "results", ".", "About", "50", "%", "of", "the", "responders", "really", "want", "to", "use", "Information", "Desk", "to", "search", "for", "information", ".", "There", "is", "also", "an", "open-ended", "question", "asking", "people", "to", "make", "comments", "freely", ".", "Figure", "9", "gives", "some", "typical", "answers", "from", "the", "responders", ".", "The", "first", "and", "second", "answers", "are", "very", "positive", ",", "while", "the", "third", "and", "fourth", "point", "out", "the", "necessity", "of", "increasing", "the", "coverage", "of", "the", "system", ".", "Which", "feature", "of", "Information", "Desk", "has", "helped", "you", "in", "finding", "information", "?", "`", "where", "is", "homepage", "of", "'", "-", "finding", "homepages", "54", "%", "`", "what", "is", "'", "-", "finding", "definitions/acronyms", "25", "%", "`", "who", "is", "'", "-", "finding", "information", "about", "people", "18", "%", "`", "who", "knows", "about", "'", "-", "finding", "experts", "3", "%", "Figure", "6", ".", "Users", "'", "evaluation", "on", "Information", "Desk", "What", "kind", "of", "new", "feature", "do", "you", "want", "to", "use", "at", "Information", "Desk", "?", "-LRB-", "multiple", "choice", "-RRB-", "`", "how", "to", "'", "-", "e.g.", ",", "``", "how", "to", "activate", "Windows", "''", "57", "%", "`", "when", "'", "-", "e.g.", ",", "``", "when", "is", "Yukon", "RTM", "''", "57", "%", "`", "where", "'", "-", "e.g.", ",", "``", "where", "can", "I", "find", "an", "ATM", "''", "39", "%", "`", "why", "'", "-", "e.g.", ",", "``", "why", "does", "n't", "my", "printer", "work", "''", "28", "%", "others", "9", "%", "Figure", "7", ".", "New", "features", "expected", "by", "users", "466", "I", "visited", "Information", "Desk", "today", "to", "conduct", "testing", "on", "Information", "Desk", "54", "%", "search", "for", "information", "related", "to", "my", "work", "46", "%", "Figure", "8", ".", "Motivation", "of", "using", "Information", "Desk", "Please", "provide", "any", "additional", "comments", ",", "thanks", "!", "This", "is", "a", "terrific", "tool", "!", "Including", "`", "how", "to", "'", "and", "`", "when", "'", "capabilities", "will", "put", "this", "in", "the", "`", "ca", "n't", "live", "without", "it", "'", "category", ".", "Extremely", "successful", "searching", "so", "far", "!", "Very", "nice", "product", "with", "great", "potential", ".", "I", "would", "like", "to", "see", "more", "`", "Microsoftese", "'", "definitions", ".", "There", "is", "a", "lot", "of", "cultural/tribal", "knowledge", "here", "that", "is", "not", "explained", "anywhere", ".", "Typing", "in", "my", "team", "our", "website", "does", "n't", "come", "up", "in", "the", "results", ",", "is", "there", "any", "way", "we", "can", "provide", "content", "for", "the", "search", "tool", "e.g.", ",", "out", "group", "sharepoint", "URL", "?", "...", "Figure", "9", ".", "Typical", "user", "comments", "to", "Information", "Desk", "6.2", "System", "Log", "Analysis", "We", "have", "made", "log", "during", "the", "running", "of", "Information", "Desk", ".", "The", "log", "includes", "user", "IP", "addresses", ",", "queries", "and", "clicked", "documents", "-LRB-", "recall", "that", "links", "to", "the", "original", "documents", ",", "from", "which", "information", "has", "been", "extraction", ",", "are", "given", "in", "search", "-RRB-", ".", "The", "log", "data", "was", "collected", "from", "1,303", "unique", "users", "during", "the", "period", "from", "November", "26", "th", ",", "2004", "to", "February", "22", "nd", ",", "2005", ".", "The", "users", "were", "Microsoft", "employees", ".", "In", "the", "log", ",", "there", "are", "9,076", "query", "submission", "records", ".", "The", "records", "include", "4,384", "unique", "query", "terms", ".", "About", "40", "%", "of", "the", "queries", "are", "related", "to", "the", "`", "what", "is", "'", "feature", ",", "29", "%", "related", "to", "`", "where", "is", "homepage", "of", "'", ",", "30", "%", "related", "to", "`", "who", "knows", "about", "'", "and", "22", "%", "related", "to", "`", "who", "is", "'", ".", "A", "query", "can", "be", "related", "to", "more", "than", "one", "feature", ".", "In", "the", "log", ",", "there", "are", "2,316", "clicks", "on", "documents", "after", "query", "submissions", ".", "The", "numbers", "of", "clicks", "for", "the", "`", "what", "is", "'", ",", "`", "where", "is", "homepage", "of", "'", ",", "`", "who", "knows", "about", "'", ",", "and", "`", "who", "is", "'", "features", "are", "694", ",", "1041", ",", "200", "and", "372", ",", "respectively", ".", "Note", "that", "for", "`", "what", "is", "'", ",", "`", "where", "is", "home", "page", "of", "'", ",", "and", "`", "who", "knows", "about", "'", "we", "conduct", "ranking", "on", "retrieved", "information", ".", "The", "top", "ranked", "results", "are", "considered", "to", "be", "the", "best", ".", "If", "a", "user", "has", "clicked", "a", "top", "ranked", "document", ",", "then", "it", "means", "that", "he", "is", "interested", "in", "the", "document", ",", "and", "thus", "it", "is", "very", "likely", "he", "has", "found", "the", "information", "he", "looks", "for", ".", "Thus", "a", "system", "which", "has", "higher", "average", "rank", "of", "clicks", "is", "better", "than", "the", "other", "that", "does", "not", ".", "We", "used", "average", "rank", "of", "clicked", "documents", "to", "evaluate", "the", "performances", "of", "the", "features", ".", "The", "average", "ranks", "of", "clicks", "for", "`", "what", "is", "'", ",", "`", "where", "is", "homepage", "of", "'", "and", "`", "who", "knows", "about", "'", "are", "2.4", ",", "1.4", "and", "4.7", "respectively", ".", "The", "results", "indicate", "that", "for", "the", "first", "two", "features", ",", "users", "usually", "can", "find", "information", "they", "look", "for", "on", "the", "top", "three", "answers", ".", "Thus", "it", "seems", "safe", "to", "say", "that", "the", "system", "have", "achieved", "practically", "acceptable", "performances", "for", "the", "two", "features", ".", "As", "for", "`", "who", "is", "'", ",", "ranking", "of", "a", "person", "'s", "documents", "does", "not", "seem", "to", "be", "necessary", "and", "the", "performance", "should", "be", "evaluated", "in", "a", "different", "way", ".", "-LRB-", "For", "example", ",", "precision", "and", "recall", "of", "metadata", "extraction", "as", "we", "have", "already", "reported", "in", "section", "5", "-RRB-", ".", "In", "this", "paper", ",", "we", "have", "investigated", "the", "problem", "of", "intranet", "search", "using", "information", "extraction", ".", "Through", "an", "analysis", "of", "survey", "results", "and", "an", "analysis", "of", "search", "log", "data", ",", "we", "have", "found", "that", "search", "needs", "on", "intranet", "can", "be", "categorized", "into", "a", "hierarchy", ".", "Based", "on", "the", "finding", ",", "we", "propose", "a", "new", "approach", "to", "intranet", "search", "in", "which", "we", "conduct", "search", "for", "each", "special", "type", "of", "information", ".", "We", "have", "developed", "a", "system", "called", "`", "Information", "Desk", "'", ",", "based", "on", "the", "idea", ".", "In", "Information", "Desk", ",", "we", "provide", "search", "on", "four", "types", "of", "information", "-", "finding", "term", "definitions", ",", "homepages", "of", "groups", "or", "topics", ",", "employees", "'", "personal", "information", "and", "experts", "on", "topics", ".", "Information", "Desk", "has", "been", "deployed", "to", "the", "intranet", "of", "Microsoft", "and", "has", "received", "accesses", "from", "about", "500", "employees", "per", "month", ".", "Feedbacks", "from", "users", "show", "that", "the", "proposed", "approach", "is", "effective", "and", "the", "system", "can", "really", "help", "employees", "to", "find", "information", ".", "For", "each", "type", "of", "search", ",", "information", "extraction", "technologies", "have", "been", "used", "to", "extract", ",", "fuse", ",", "and", "summarize", "information", "in", "advance", ".", "High", "performance", "component", "technologies", "for", "the", "mining", "have", "been", "developed", ".", "As", "future", "work", ",", "we", "plan", "to", "increase", "the", "number", "of", "search", "types", "and", "combine", "them", "with", "conventional", "relevance", "search", ".", "We", "thank", "Jin", "Jiang", ",", "Ming", "Zhou", ",", "Avi", "Shmueli", ",", "Kyle", "Peltonen", ",", "Drew", "DeBruyne", ",", "Lauri", "Ellis", ",", "Mark", "Swenson", ",", "and", "Mark", "Davies", "for", "their", "supports", "to", "the", "project", ".", "-LSB-", "1", "-RSB-", "S.", "Blair-Goldensohn", ",", "K.R.", "McKeown", ",", "A.H.", "Schlaikjer", ".", "A", "Hybrid", "Approach", "for", "QA", "Track", "Definitional", "Questions", ".", "In", "Proc", ".", "of", "Twelfth", "Annual", "Text", "Retrieval", "Conference", "-LRB-", "TREC12", "-RRB-", ",", "NIST", ",", "Nov.", ",", "2003", ".", "-LSB-", "2", "-RSB-", "E.", "Brill", ",", "S.", "Dumais", ",", "and", "M.", "Banko", ",", "An", "Analysis", "of", "the", "AskMSR", "Question-Answering", "System", ",", "EMNLP", "2002", "-LSB-", "3", "-RSB-", "M.", "Chen", ",", "A.", "Hearst", ",", "A.", "Marti", ",", "J.", "Hong", ",", "and", "J.", "Lin", ",", "Cha-Cha", ":", "A", "System", "for", "Organizing", "Intranet", "Results", ".", "Proceedings", "of", "the", "2nd", "USENIX", "Symposium", "on", "Internet", "Technologies", "and", "Systems", ".", "Boulder", ",", "CO.", ".", "Oct.", "1999", ".", "-LSB-", "4", "-RSB-", "C.", "L.", "A.", "Clarke", ",", "G.", "V.", "Cormack", ",", "T.", "R.", "Lynam", ",", "C.", "M.", "Li", ",", "and", "G.", "L.", "McLearn", ",", "Web", "Reinforced", "Question", "Answering", "-LRB-", "MultiText", "Experiments", "for", "TREC", "2001", "-RRB-", ".", "TREC", "2001", "-LSB-", "5", "-RSB-", "N.", "Craswell", ",", "D.", "Hawking", ",", "and", "S.E.", "Robertson", ".", "Effective", "site", "finding", "using", "link", "anchor", "information", ".", "In", "Proc", ".", "of", "the", "24th", "annual", "international", "ACM", "SIGIR", "conference", "on", "research", "and", "development", "in", "information", "retrieval", ",", "pages", "250", "--", "257", ",", "2001", ".", "-LSB-", "6", "-RSB-", "N.", "Craswell", ",", "D.", "Hawking", ",", "and", "T.", "Upstill", ".", "TREC12", "Web", "and", "Interactive", "Tracks", "at", "CSIRO", ".", "In", "TREC12", "Proceedings", ",", "2004", ".", "-LSB-", "7", "-RSB-", "N.", "Craswell", ",", "D.", "Hawking", ",", "A.", "M.", "Vercoustre", ",", "and", "P.", "Wilkins", ".", "P@noptic", "expert", ":", "Searching", "for", "experts", "not", "just", "for", "documents", ".", "Poster", "Proceedings", "of", "AusWeb", "'", "01", ",", "467", "2001b", ".", "/", "urlausweb.scu.edu.au", "/", "aw01/papers/edited", "/", "vercoustre", "/", "paper.htm", ".", "-LSB-", "8", "-RSB-", "N.", "Craswell", ",", "D.", "Hawking", ",", "R.", "Wilkinson", ",", "and", "M.", "Wu", ".", "Overview", "of", "the", "TREC-2003", "Web", "Track", ".", "In", "NIST", "Special", "Publication", ":", "500-255", ",", "The", "Twelfth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2003", "-RRB-", ",", "Gaithersburg", ",", "MD", ",", "2003", ".", "-LSB-", "9", "-RSB-", "N.", "Craswell", ",", "D.", "Hawking", ",", "R.", "Wilkinson", ",", "and", "M.", "Wu", ".", "Task", "Descriptions", ":", "Web", "Track", "2003", ".", "In", "TREC12", "Proceedings", ",", "2004", ".", "-LSB-", "10", "-RSB-", "H.", "Cui", ",", "M-Y", ".", "Kan", ",", "and", "T-S", ".", "Chua", ".", "Unsupervised", "Learning", "of", "Soft", "Patterns", "for", "Definitional", "Question", "Answering", ",", "Proceedings", "of", "the", "Thirteenth", "World", "Wide", "Web", "conference", "-LRB-", "WWW", "2004", "-RRB-", ",", "New", "York", ",", "May", "17-22", ",", "2004", ".", "-LSB-", "11", "-RSB-", "A.", "Echihabi", ",", "U.Hermjakob", ",", "E.", "Hovy", ",", "D.", "Marcu", ",", "E.", "Melz", ",", "D.", "Ravichandran", ".", "Multiple-Engine", "Question", "Answering", "in", "TextMap", ".", "In", "Proc", ".", "of", "Twelfth", "Annual", "Text", "Retrieval", "Conference", "-LRB-", "TREC-12", "-RRB-", ",", "NIST", ",", "Nov.", ",", "2003", ".", "-LSB-", "12", "-RSB-", "R.", "Fagin", ",", "R.", "Kumar", ",", "K.", "S.", "McCurley", ",", "J.", "Novak", ",", "D.", "Sivakumar", ",", "J.", "A.", "Tomlin", ",", "and", "D.", "P.", "Williamson", ".", "Searching", "the", "workplace", "web", ".", "Proc", ".", "12th", "World", "Wide", "Web", "Conference", ",", "Budapest", ",", "2003", ".", "-LSB-", "13", "-RSB-", "S.", "Feldman", "and", "C.", "Sherman", ".", "The", "high", "cost", "of", "not", "finding", "information", ".", "Technical", "Report", "#", "29127", ",", "IDC", ",", "April", "2003", ".", "-LSB-", "14", "-RSB-", "H.", "Han", ",", "C.", "L.", "Giles", ",", "E.", "Manavoglu", ",", "H.", "Zha", ",", "Z.", "Zhang", ",", "and", "E.", "A.", "Fox", ".", "Automatic", "Document", "Metadata", "Extraction", "using", "Support", "Vector", "Machines", ".", "In", "Proceedings", "of", "the", "third", "ACM/IEEE-CS", "joint", "conference", "on", "Digital", "libraries", ",", "2003", "-LSB-", "15", "-RSB-", "S.", "Harabagiu", ",", "D.", "Moldovan", ",", "C.", "Clark", ",", "M.", "Bowden", ",", "J.", "Williams", ",", "J.", "Bensley", ".", "Answer", "Mining", "by", "Combining", "Extraction", "Techniques", "with", "Abductive", "Reasoning", ".", "In", "Proc", ".", "of", "Twelfth", "Annual", "Text", "Retrieval", "Conference", "-LRB-", "TREC-12", "-RRB-", ",", "NIST", ",", "Nov.", ",", "2003", ".", "-LSB-", "16", "-RSB-", "D.", "Hawking", ".", "Challenges", "in", "Intranet", "search", ".", "Proceedings", "of", "the", "fifteenth", "conference", "on", "Australasian", "database", ".", "Dunedin", ",", "New", "Zealand", ",", "2004", ".", "-LSB-", "17", "-RSB-", "D.", "Hawking", ",", "N.", "Craswell", ",", "F.", "Crimmins", ",", "and", "T.", "Upstill", ".", "Intranet", "search", ":", "What", "works", "and", "what", "does", "n't", ".", "Proceedings", "of", "the", "Infonortics", "Search", "Engines", "Meeting", ",", "San", "Francisco", ",", "April", "2002", ".", "-LSB-", "18", "-RSB-", "E.", "Hovy", ",", "L.", "Gerber", ",", "U.", "Hermjakob", ",", "M.", "Junk", ",", "and", "C.", "Y.", "Lin", ".", "Question", "Answering", "in", "Webclopedia", ".", "TREC", "2000", "-LSB-", "19", "-RSB-", "Y.", "Hu", ",", "H.", "Li", ",", "Y.", "Cao", ",", "D.", "Meyerzon", ",", "and", "Q.", "Zheng", ".", "Automatic", "Extraction", "of", "Titles", "from", "General", "Documents", "using", "Machine", "Learning", ".", "To", "appear", "at", "Proc", ".", "of", "Joint", "Conference", "on", "Digital", "Libraries", "-LRB-", "JCDL", "-RRB-", ",", "2005", ".", "Denver", ",", "Colorado", ",", "USA", ".", "2005", ".", "-LSB-", "20", "-RSB-", "A.", "Ittycheriah", "and", "S.", "Roukos", ",", "IBM", "'s", "Statistical", "Question", "Answering", "System-TREC", "11", ".", "TREC", "2002", "-LSB-", "21", "-RSB-", "J.", "Klavans", "and", "S.", "Muresan", ".", "DEFINDER", ":", "Rule-Based", "Methods", "for", "the", "Extraction", "of", "Medical", "Terminology", "and", "their", "Associated", "Definitions", "from", "On-line", "Text", ".", "In", "Proceedings", "of", "AMIA", "Symposium", "2000", ".", "-LSB-", "22", "-RSB-", "C.", "C.", "T.", "Kwok", ",", "O.", "Etzioni", ",", "and", "D.", "S.", "Weld", ",", "Scaling", "question", "answering", "to", "the", "Web", ".", "WWW-2001", ":", "150-161", "-LSB-", "23", "-RSB-", "Y.", "Li", ",", "H", "Zaragoza", ",", "R", "Herbrich", ",", "J", "Shawe-Taylor", ",", "and", "J.", "S.", "Kandola", ".", "The", "Perceptron", "Algorithm", "with", "Uneven", "Margins", ".", "in", "Proceedings", "of", "ICML", "'", "02", ".", "-LSB-", "24", "-RSB-", "B.", "Liu", ",", "C.", "W.", "Chin", ",", "and", "H.", "T.", "Ng", ".", "Mining", "Topic-Specific", "Concepts", "and", "Definitions", "on", "the", "Web", ".", "In", "Proceedings", "of", "the", "twelfth", "international", "World", "Wide", "Web", "conference", "-LRB-", "WWW-2003", "-RRB-", ",", "20-24", "May", "2003", ",", "Budapest", ",", "HUNGARY", ".", "-LSB-", "25", "-RSB-", "D.", "Mattox", ",", "M.", "Maybury", "and", "D.", "Morey", ".", "Enterprise", "Expert", "and", "Knowledge", "Discovery", ".", "Proceedings", "of", "the", "HCI", "International", "'99", "-LRB-", "the", "8th", "International", "Conference", "on", "Human-Computer", "Interaction", "-RRB-", "on", "Human-Computer", "Interaction", ":", "Communication", ",", "Cooperation", ",", "and", "Application", "Design-Volume", "2", "-", "Volume", "2", ".", "1999", ".", "-LSB-", "26", "-RSB-", "P.", "Ogilvie", "and", "J.", "Callan", ".", "Combining", "Structural", "Information", "and", "the", "Use", "of", "Priors", "in", "Mixed", "Named-Page", "and", "Homepage", "Finding", ".", "In", "TREC12", "Proceedings", ",", "2004", ".", "-LSB-", "27", "-RSB-", "D.", "R.", "Radev", ",", "W.", "Fan", ",", "H.", "Qi", ",", "H.", "Wu", ",", "and", "A.", "Grewal", ".", "Probabilistic", "question", "answering", "on", "the", "web", ".", "WWW", "2002", ":", "408-419", "-LSB-", "28", "-RSB-", "D.", "E.", "Rose", "and", "D.", "Levinson", ".", "Understanding", "user", "goals", "in", "web", "search", ".", "Proceedings", "of", "the", "13th", "international", "World", "Wide", "Web", "conference", "on", "Alternate", "track", "papers", "&", "posters", ",", "2004", "New", "York", ",", "USA", ".", "-LSB-", "29", "-RSB-", "J.", "Savoy", ",", "Y.", "Rasolofo", ",", "and", "L.", "Perret", ",", "L.", "Report", "on", "the", "TREC-2003", "Experiment", ":", "Genomic", "and", "Web", "Searches", ".", "In", "TREC12", "Proceedings", ",", "2004", ".", "-LSB-", "30", "-RSB-", "D.", "Stenmark", ".", "A", "Methodology", "for", "Intranet", "Search", "Engine", "Evaluations", ".", "Proceedings", "of", "IRIS22", ",", "Department", "of", "CS/IS", ",", "University", "of", "Jyv", "skyl", ",", "Finland", ",", "August", "1999", ".", "-LSB-", "31", "-RSB-", "V.", "N.", "Vapnik", ".", "The", "Nature", "of", "Statistical", "Learning", "Theory", ".", "Springer", ",", "1995", ".", "-LSB-", "32", "-RSB-", "J.", "Xu", ",", "Y.", "Cao", ",", "H.", "Li", ",", "and", "M.", "Zhao", ".", "Ranking", "Definitions", "with", "Supervised", "Learning", "Methods", ".", "In", "Proc", ".", "of", "14", "th", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW05", "-RRB-", ",", "Industrial", "and", "Practical", "Experience", "Track", ",", "Chiba", ",", "Japan", ",", "pp.811-819", ",", "2005", ".", "-LSB-", "33", "-RSB-", "J.", "Xu", ",", "A.", "Licuanan", ",", "R.", "Weischedel", ".", "TREC", "2003", "QA", "at", "BBN", ":", "Answering", "Definitional", "Questions", ".", "In", "Proc", ".", "of", "12", "th", "Annual", "Text", "Retrieval", "Conference", "-LRB-", "TREC-12", "-RRB-", ",", "NIST", ",", "Nov.", ",", "2003", ".", "-LSB-", "34", "-RSB-", "H.", "Yang", ",", "H.", "Cui", ",", "M.", "Maslennikov", ",", "L.", "Qiu", ",", "M-Y", ".", "Kan", ",", "and", "TS", ".", "Chua", ",", "QUALIFIER", "in", "TREC-12", "QA", "Main", "Task", ".", "TREC", "2003", ":", "480-488", "-LSB-", "35", "-RSB-", "Intellectual", "capital", "management", "products", ".", "Verity", ",", "http://www.verity.com/", "-LSB-", "36", "-RSB-", "IDOL", "server", ".", "Autonomy", ",", "http://www.autonomy.com/content/home/", "-LSB-", "37", "-RSB-", "Fast", "data", "search", ".", "Fast", "Search", "&", "Transfer", ",", "http://www.fastsearch.com/", "-LSB-", "38", "-RSB-", "Atomz", "intranet", "search", ".", "Atomz", ",", "http://www.atomz.com/", "-LSB-", "39", "-RSB-", "Google", "Search", "Appliance", ".", "Google", ",", "http://www.google.com/enterprise/", "468"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information retrieval", "human factors", "types of information", "intranet search", "features", "metadata extraction", "information desk", "expert finding", "definition search", "experimentation", "architecture", "algorithms", "component technologies", "search needs", "information extraction"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "206", "document": ["Use", "of", "Contextualized", "Attention", "Metadata", "for", "Ranking", "and", "Recommending", "Learning", "Objects", "The", "tools", "used", "to", "search", "and", "find", "Learning", "Objects", "in", "different", "systems", "do", "not", "provide", "a", "meaningful", "and", "scalable", "way", "to", "rank", "or", "recommend", "learning", "material", ".", "This", "work", "propose", "and", "detail", "the", "use", "of", "Contextual", "Attention", "Metadata", ",", "gathered", "from", "the", "different", "tools", "used", "in", "the", "lifecycle", "of", "the", "Learning", "Object", ",", "to", "create", "ranking", "and", "recommending", "metrics", "to", "improve", "the", "user", "experience", ".", "Four", "types", "of", "metrics", "are", "detailed", ":", "Link", "Analysis", "Ranking", ",", "Similarity", "Recommendation", ",", "Personalized", "Ranking", "and", "Contextual", "Recommendation", ".", "While", "designed", "for", "Learning", "Objects", ",", "it", "is", "shown", "that", "these", "metrics", "could", "also", "be", "applied", "to", "rank", "and", "recommend", "other", "types", "of", "reusable", "components", "like", "software", "libraries", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "information", "filtering", ",", "relevance", "feedback", ".", "Algorithms", ",", "Measurement", ",", "Design", ",", "Human", "Factors", ",", "Standardization", "One", "of", "the", "main", "reasons", "to", "capture", "and", "analyze", "the", "information", "about", "the", "interaction", "between", "a", "user", "and", "a", "tool", "is", "to", "improve", "the", "user", "experience", ".", "For", "example", ",", "a", "online", "library", "system", "could", "record", "the", "subject", "of", "the", "books", "that", "a", "client", "has", "bought", "before", "in", "order", "to", "recommend", "him", "new", "books", "about", "a", "similar", "subject", "the", "next", "time", "he/she", "logs", "in", ",", "saving", "him/her", "the", "hassle", "to", "search", "for", "them", "-LSB-", "1", "-RSB-", ".", "A", "news", "web", "site", "could", "record", "the", "topic", "of", "the", "news", "articles", "that", "a", "user", "normally", "read", "in", "order", "to", "filter", "out", "news", "that", "do", "not", "interest", "such", "user", "-LSB-", "2", "-RSB-", ".", "A", "collaborative", "browser", "could", "use", "the", "information", "recollected", "from", "the", "browsing", "patterns", "of", "a", "given", "community", "to", "improve", "the", "rank", "of", "different", "pages", "on", "the", "searches", "of", "an", "individual", "user", ",", "member", "of", "that", "community", "-LSB-", "3", "-RSB-", ".", "The", "generic", "name", "of", "Attention", "Metadata", "-LSB-", "4", "-RSB-", "has", "been", "applied", "to", "describe", "the", "information", "about", "these", "interactions", ".", "When", "the", "information", "stored", "does", "not", "only", "contain", "the", "reference", "to", "the", "user", "and", "the", "action", "that", "it", "performs", ",", "but", "also", "register", "when", "the", "action", "took", "place", ",", "through", "which", "tool", "the", "action", "was", "performed", ",", "what", "others", "thing", "was", "doing", "the", "user", "at", "the", "same", "time", ",", "what", "is", "the", "profile", "of", "the", "user", "performing", "the", "action", ",", "to", "what", "community", "he/she", "belongs", ",", "etc", ",", "it", "leads", "to", "an", "improved", "and", "more", "useful", "form", "of", "record", ",", "called", "Contextualized", "Attention", "Metadata", "-LSB-", "5", "-RSB-", "-LRB-", "CAM", "-RRB-", ".", "AttentionXML", "-LSB-", "6", "-RSB-", "and", "its", "extensions", "-LSB-", "5", "-RSB-", "are", "an", "effort", "to", "standardize", "the", "way", "in", "which", "CAM", "is", "stored", ".", "This", "standardization", "will", "lead", "to", "the", "opportunity", "to", "share", "attention", "records", "between", "different", "applications", ".", "For", "example", ",", "a", "second", "generation", "of", "an", "Attention-Sharing", "online", "library", "could", "know", "which", "news", "topics", "the", "user", "is", "interested", "in", "and", "it", "could", "recommend", "him/her", "books", "related", "to", "those", "topics", ".", "The", "authors", "believe", "that", "one", "group", "of", "applications", "that", "could", "greatly", "benefit", "from", "CAM", "information", "is", "the", "search", "and", "find", "of", "Learning", "Objects", ".", "These", "applications", "have", "suffered", "from", "an", "under-par", "performance", "compared", "to", "similar", "applications", "in", "other", "fields", "-LSB-", "7", "-RSB-", "-LSB-", "8", "-RSB-", ".", "The", "main", "reason", "for", "this", "is", "the", "lack", "of", "a", "meaningful", "and", "scalable", "way", "to", "rank", "or", "recommend", "the", "objects", "to", "the", "users", ".", "Currently", ",", "two", "main", "methods", "are", "used", "to", "rank", "-LRB-", "not", "even", "recommend", "-RRB-", "Learning", "Objects", ":", "Manual", "Rating", "or", "Metadata", "Content", "Rating", ".", "In", "the", "first", "approach", ",", "Manual", "Rating", ",", "each", "Learning", "Objects", "should", "be", "rated", "by", "a", "group", "of", "experts", "and/or", "the", "user", "community", ".", "For", "each", "search", ",", "the", "returned", "objects", "are", "ranked", "based", "on", "their", "average", "rate", ".", "While", "this", "is", "bound", "to", "provide", "meaningful", "ordering", ",", "it", "does", "not", "scale", ".", "For", "example", "MERLOT", "use", "this", "approach", ",", "but", "only", "10", "%", "of", "the", "total", "content", "of", "the", "database", "has", "ever", "be", "rated", "-LSB-", "9", "-RSB-", ".", "The", "other", "approach", ",", "use", "only", "the", "information", "contained", "in", "the", "metadata", "record", "to", "perform", "ranking", "based", "on", "the", "similarity", "with", "the", "query", "terms", ".", "The", "most", "common", "method", "used", "for", "this", "is", "the", "TFIDF", "metric", "-LSB-", "10", "-RSB-", "that", "measure", "in", "a", "Vector", "Space", "the", "distance", "between", "the", "query", "vector", "and", "the", "vector", "composed", "from", "the", "text", "contained", "in", "the", "metadata", "record", ".", "Given", "than", "TFIDF", "was", "designed", "to", "work", "over", "full", "text", "documents", "and", "that", "metadata", "records", "contain", "very", "few", "textual", "descriptions", "-LSB-", "11", "-RSB-", ",", "normally", "the", "ordering", "is", "not", "meaningful", "for", "the", "user", ".", "SILO", "-LRB-", "Search", "and", "Indexing", "Learning", "Objects", "-RRB-", "tools", "from", "the", "ARIADNE", "-LSB-", "12", "-RSB-", "repository", "use", "this", "approach", ".", "CAM", "could", "be", "used", "to", "generate", "a", "third", "approach", ",", "one", "in", "which", "the", "human", "attention", "-LRB-", "meaningful", "-RRB-", "is", "processed", "to", "construct", "an", "automated", "-LRB-", "scalable", "-RRB-", "rating", "and", "recommending", "procedure", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CAMA", "'", "06", ",", "November", "11", ",", "2006", ",", "Arlington", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-524-X", "/", "06/0011", "...", "$", "5.00", ".", "9", "The", "following", "sections", "of", "this", "work", "describe", "in", "detail", "what", "information", "should", "be", "stored", "in", "the", "CAM", "record", "of", "Learning", "Object", "Applications", "-LRB-", "Section", "2", "-RRB-", "and", "the", "mechanisms", "by", "which", "such", "information", "could", "be", "used", "to", "generate", "rating", "and", "recommending", "metrics", "-LRB-", "Section", "3", "-RRB-", ".", "It", "is", "also", "discussed", "how", "these", "mechanisms", "and", "metrics", "could", "be", "applied", "to", "related", "contexts", "-LRB-", "Section", "4", "-RRB-", "and", "which", "research", "questions", "need", "to", "be", "addressed", "in", "further", "work", "-LRB-", "Section", "5", "-RRB-", ".", "The", "work", "finalize", "with", "an", "overview", "of", "related", "research", "-LRB-", "Section", "6", "-RRB-", "Users", "interact", "with", "a", "Learning", "Object", "through", "the", "object", "'s", "whole", "lifecycle", ".", "CAM", "recorders", "capture", "and", "timestamp", "all", "those", "interactions", "in", "order", "to", "provide", "the", "information", "needed", "to", "calculate", "useful", "metrics", "to", "be", "used", "in", "a", "next", "generation", "breed", "of", "learning", "object", "management", "tools", ".", "According", "to", "the", "AttentionXML", "extension", "proposed", "by", "Najjar", "et", "al", "at", "-LSB-", "5", "-RSB-", ",", "these", "interactions", "are", "stored", "inside", "an", "Action", "record", ".", "This", "work", "will", "briefly", "list", "the", "different", "Actions", "that", "should", "be", "recorded", "through", "the", "Learning", "Object", "lifecycle", ".", "The", "lifecycle", "phases", "are", "taken", "from", "the", "enumeration", "done", "by", "Collins", "and", "Strijker", "in", "-LSB-", "13", "-RSB-", ".", "Also", ",", "it", "is", "suggested", "which", "applications", "should", "generate", "the", "attention", "records", ".", "Creation", ":", "In", "this", "phase", "the", "author", "creates", "or", "assembles", "the", "learning", "object", "in", "its", "digital", "form", "using", "some", "sort", "of", "authoring", "tool", ".", "The", "Creating", "Action", "should", "be", "captured", "and", "it", "must", "include", "the", "identity", "of", "the", "created", "object", ",", "its", "author", "-LRB-", "s", "-RRB-", ",", "the", "authoring", "tool", "used", "and", "the", "list", "of", "component-objects", "-LSB-", "14", "-RSB-", "reused", "through", "the", "creation", "process", ".", "This", "record", "should", "be", "created", "by", "the", "authoring", "tool", ",", "for", "example", "Microsoft", "Power", "Point", ".", "Labeling", ":", "At", "this", "stage", "the", "author", ",", "an", "indexer", "or", "even", "an", "automated", "system", "could", "add", "a", "metadata", "record", "that", "describes", "the", "Learning", "Object", ".", "The", "Labeling", "Action", "must", "include", "information", "that", "identify", "the", "object", ",", "the", "labeler", ",", "the", "origin", "of", "the", "metadata", "-LRB-", "Automated", ",", "Semi-Automated", ",", "Manual", "-RRB-", ",", "the", "metadata", "format", "used", ",", "the", "level", "of", "confidence", "of", "the", "information", "-LRB-", "how", "sure", "the", "autor", "is", "that", "metadata", "values", "are", "correct", "-RRB-", "and", "a", "unique", "identifier", "for", "the", "metadata", "record", ".", "Normally", "this", "record", "should", "be", "also", "created", "by", "the", "authoring", "tool", "at", "the", "end", "of", "the", "creation", "of", "the", "objects", ",", "but", "could", "also", "be", "created", "by", "metadata", "editors", "as", "-LSB-", "15", "-RSB-", "or", "automated", "metadata", "generators", "as", "-LSB-", "16", "-RSB-", ".", "Offering", ":", "At", "this", "stage", "the", "author", "or", "indexer", "inserts", "the", "object", "in", "a", "repository", "or", "other", "system", "that", "allow", "the", "object", "to", "be", "shared", "with", "others", ".", "The", "Inserting", "Action", "must", "include", "the", "following", "information", ":", "Object", "Unique", "Identifier", ",", "Inserter", ",", "Tool", "Used", "and", "Learning", "Object", "Unique", "Identifier", "inside", "the", "sharing", "tool", ".", "This", "record", "should", "be", "created", "by", "the", "sharing", "tool", ",", "being", "it", "a", "Learning", "Object", "Repository", "or", "a", "Peer", "to", "Peer", "sharing", "application", ".", "Selecting", ":", "In", "this", "stage", "the", "user", "search", ",", "find", "and", "select", "Learning", "Objects", "in", "the", "Sharing", "System", ".", "Several", "Actions", "should", "be", "captured", "during", "this", "phase", ".", "A", "Searching", "Action", "when", "a", "query", "is", "performed", "to", "find", "relevant", "objects", ".", "It", "must", "include", "information", "that", "describe", "the", "query", "performed", "and", "the", "objects", "returned", ".", "A", "Recommending", "Action", "when", "the", "system", "suggests", "relevant", "objects", "without", "the", "user", "performing", "a", "query", ".", "It", "must", "contain", "information", "a", "list", "of", "the", "object", "-LRB-", "s", "-RRB-", "recommended", ",", "the", "user", "action", "that", "trigger", "the", "recommendation", "and", "the", "tool", "used", "to", "perform", "the", "recommendation", ".", "A", "Browsing", "Action", "when", "the", "user", "reviews", "the", "metadata", "or", "description", "of", "an", "object", ".", "It", "must", "store", "information", "that", "identifies", "the", "metadata", "record", "browsed", "and", "the", "time", "expend", "in", "the", "review", ".", "Finally", ",", "A", "Selecting", "Action", "when", "the", "user", "chooses", "an", "object", "by", "downloading", "it", "or", "accepting", "the", "recommendation", ".", "It", "must", "contain", "information", "that", "identifies", "the", "selected", "object", ".", "All", "this", "actions", "should", "also", "contain", "information", "about", "the", "user", "that", "performs", "the", "action", ".", "These", "records", "should", "be", "generated", "by", "the", "sharing", "or", "recommending", "tool", ".", "Using", ":", "This", "stage", "comprehends", "all", "the", "actions", "that", "the", "final", "user", "-LRB-", "instructor", "or", "learner", "-RRB-", "performs", "with", "the", "learning", "object", "during", "its", "normal", "utilization", "in", "a", "learning", "environment", ".", "There", "are", "several", "actions", "to", "be", "registered", ".", "A", "Publicating", "Action", "when", "the", "instructor", "inserts", "the", "object", "into", "a", "Course", "belonging", "to", "some", "kind", "of", "Learning", "Management", "System", ".", "It", "must", "contain", "information", "that", "identifies", "the", "published", "object", "and", "the", "context", "-LRB-", "course", ",", "lesson", "-RRB-", "where", "it", "was", "published", ".", "A", "Sequencing", "Action", "when", "one", "or", "more", "objects", "are", "included", "in", "an", "instructional", "design", "or", "sequenced", "package", ".", "It", "must", "contain", "information", "about", "the", "identification", "-LRB-", "in", "an", "ordered", "form", "-RRB-", "of", "the", "integrated", "objects", ".", "A", "Viewing", "Action", ",", "the", "object", "is", "read", "or", "viewed", "by", "learners", ".", "It", "must", "contain", "information", "about", "the", "time", "spent", "reviewing", "the", "material", ".", "An", "Annotating", "Action", "when", "the", "instructor", "or", "the", "learner", "add", "a", "comment", "or", "rate", "the", "learning", "object", ".", "It", "must", "include", "information", "about", "the", "comment", "or", "the", "rate", "given", "and", "the", "identifier", "of", "the", "object", ".", "All", "these", "action", "should", "also", "store", "information", "about", "the", "user", "that", "performs", "them", ".", "Different", "tools", "should", "be", "in", "charge", "of", "the", "generation", "of", "the", "attention", "records", ",", "a", "LMS", "for", "the", "Publishing", "Action", ",", "a", "Learning", "Activity", "Management", "System", "-LSB-", "17", "-RSB-", "or", "SCORM", "-LSB-", "18", "-RSB-", "Packager", "for", "the", "Sequencing", "Action", ",", "a", "Web", "browser", "or", "document", "reader", "for", "the", "Viewing", "Action", "and", "a", "Rating", "or", "Review", "system", "for", "the", "Annotating", "Action", ".", "Lifecycle", "Actions", "Main", "Information", "Source", "Creation", "Creating", "author", ",", "components", "Authoring", "tool", ",", "Components", "Labeling", "Labeling", "metadata", "format", ",", "origin", ",", "confidence", "Authoring", "tool", "or", "Metadata", "generator", "Offering", "Inserting", "inserter", "LOR", "or", "Sharing", "app", ".", "Searching", "query", ",", "results", "LOR", "'s", "search", "tool", "Recommending", "objects", "recommended", "Recommender", "Browsing", "Time", "LOR", "or", "Recommender", "Selecting", "Selecting", "object", "identifier", "LOR", "or", "Recommender", "Publicating", "LMS", "context", "LMS", "Sequencing", "list", "of", "sequenced", "objects", "ID", "tool", "or", "Packager", "Viewing", "Time", ",", "tool", "used", "Browser", "or", "Reading", "app", ".", "Using", "Annotating", "rate", "or", "review", "LMS", "Retaining", "Retaining", "decision", "to", "keep", "or", "delete", "LMS", "Table", "1", ".", "Proposed", "CAM", "information", "to", "be", "stored", "for", "Learning", "Object", "Applications", "10", "Retaining", ":", "In", "this", "phase", ",", "the", "instructor", "check", "for", "the", "validity", "of", "the", "learning", "object", "and", "decides", "if", "it", "is", "still", "useful", "or", "if", "it", "should", "be", "replaced", "/", "updated", ".", "The", "Retaining", "Action", "should", "contain", "information", "that", "identifies", "the", "object", "and", "the", "decision", "taken", "-LRB-", "keep", ",", "update", ",", "delete", "-RRB-", ".", "This", "attention", "record", "will", "normally", "be", "generated", "by", "the", "LMS", "where", "the", "object", "has", "been", "published", ".", "A", "summary", "of", "the", "Actions", "that", "CAM", "should", "record", "is", "presented", "in", "Table", "1", ".", "Some", "of", "these", "CAM", "Actions", "-LRB-", "Creating", ",", "Inserting", ",", "Selecting", ",", "Viewing", "-RRB-", "are", "already", "produced", "and", "stored", "in", "different", "tools", "-LSB-", "5", "-RSB-", ".", "The", "others", "are", "easy", "to", "implement", "in", "existing", "tools", "taking", "in", "account", "that", "most", "of", "them", "-LRB-", "LMS", ",", "Metadata", "Generators", ",", "etc", "-RRB-", "already", "produce", "a", "log", "with", "the", "user", "'s", "interactions", ".", "In", "the", "next", "section", ",", "metrics", "to", "exploit", "this", "Action", "records", "to", "improve", "tools", "to", "search", "and", "find", "Learning", "Objects", "are", "proposed", ".", "Several", "ranking", "and", "recommending", "metrics", "will", "be", "proposed", ".", "These", "metrics", "will", "use", "only", "two", "sources", "of", "information", "to", "be", "calculated", ":", "the", "first", "one", "is", "the", "Learning", "Object", "Metadata", "-LRB-", "LOM", "-RRB-", "-LSB-", "19", "-RSB-", "record", "that", "describe", "each", "Learning", "Object", ";", "the", "second", "one", "is", "the", "CAM", "Actions", "described", "in", "the", "previous", "section", ".", "3.1", "Link", "Analysis", "Based", "Ranking", "One", "of", "the", "most", "famous", "and", "successful", "ranking", "algorithms", "at", "the", "present", "is", "PageRank", "-LSB-", "20", "-RSB-", ".", "PageRank", "use", "the", "information", "contained", "in", "the", "network", "of", "links", "between", "web", "pages", "to", "calculate", "the", "relative", "``", "importance", "''", "of", "a", "page", ".", "It", "could", "be", "summarized", "as", ":", "a", "page", "is", "important", "if", "it", "is", "linked", "by", "a", "high", "number", "of", "pages", ".", "Also", ",", "the", "importance", "increases", "if", "the", "pages", "linking", "to", "it", "have", "also", "a", "high", "importance", "rank", ".", "Unfortunately", ",", "this", "algorithm", "could", "not", "be", "applied", "directly", "to", "Learning", "Objects", ".", "While", "LOM", "records", "have", "a", "linking", "field", ",", "it", "is", "rarely", "populated", "-LSB-", "11", "-RSB-", ".", "Also", ",", "LOM", "linking", "reflect", "just", "a", "semantic", "relationship", ";", "it", "does", "not", "imply", "a", "``", "vote", "''", "for", "that", "object", "as", "it", "is", "assumed", "for", "Web", "pages", ".", "As", "an", "alternative", "to", "the", "explicit", "linking", "structure", "that", "the", "web", "posses", ",", "CAM", "allow", "us", "to", "create", "an", "implicit", "linking", "between", "Learning", "Objects", "and", "other", "entities", "related", "to", "them", ":", "Authors", ",", "Users", ",", "Courses", ",", "Learners", ",", "etc.", ".", "For", "example", ":", "Creating", "Actions", "can", "be", "converted", "into", "a", "link", "between", "an", "author", "and", "an", "object", ",", "Selecting", "Actions", "can", "be", "converted", "into", "a", "link", "between", "a", "user", "and", "an", "object", ",", "Publicating", "Actions", "can", "be", "converted", "into", "a", "link", "between", "a", "course", "and", "an", "object", "and", "also", "between", "a", "user", "and", "the", "same", "object", ".", "Viewing", "Actions", "can", "be", "converter", "into", "a", "link", "between", "a", "learner", "and", "an", "object", ".", "As", "result", "of", "this", "conversion", "of", "CAM", "to", "links", "between", "different", "entities", ",", "a", "K-partite", "graph", "is", "created", "-LRB-", "a", "graph", "with", "different", "partitions", ",", "where", "there", "are", "not", "links", "between", "nodes", "of", "the", "same", "partition", "-RRB-", ".", "In", "this", "graph", "each", "type", "of", "entity", "-LRB-", "Learning", "Object", ",", "User", ",", "Course", ",", "and", "Learner", "-RRB-", "is", "considered", "a", "partition", "Figure", "1", "present", "diagram", "of", "an", "example", "of", "such", "a", "graph", ".", "Once", "CAM", "information", "is", "represented", "as", "a", "graph", ",", "it", "is", "easy", "to", "use", "basic", "graph", "algorithms", "to", "calculate", "ranking", "metrics", ".", "Following", "there", "are", "some", "metrics", "that", "could", "be", "developed", "this", "way", ":", "Popularity", "Rank", "-LRB-", "PR", "-RRB-", ":", "Using", "the", "information", "contained", "in", "the", "Selecting", "Action", "-LRB-", "converted", "already", "in", "a", "2-partite", "graph", "-RRB-", ",", "it", "is", "easy", "to", "obtain", "the", "number", "of", "times", "that", "an", "object", "has", "been", "downloaded", ".", "To", "calculate", "just", "count", "the", "number", "of", "incident", "links", "that", "each", "Learning", "Object", "node", "has", "from", "nodes", "in", "the", "User", "Partition", ".", "This", "metric", "is", "a", "just", "a", "basic", "way", "to", "put", "most", "downloaded", "objects", "first", "in", "the", "result", "list", ".", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "object", "inDegree", "object", "PR", "=", "Figure", "1", ".", "K-Partite", "Graph", "representation", "of", "CAM", "Author-Corrected", "Popularity", "Rank", "-LRB-", "ACP", "-RRB-", ":", "Combining", "the", "Creating", "and", "Selecting", "Actions", ",", "it", "could", "be", "calculated", "how", "popular", "an", "object", "is", "based", "on", "the", "number", "of", "downloads", "and", "the", "popularity", "of", "the", "Author", ".", "The", "first", "step", "is", "to", "create", "a", "3-partite", "graph", "with", "Users", ",", "Objects", "and", "Author", "partitions", ".", "Then", "the", "PopularityRank", "-LRB-", "PC", "-RRB-", "is", "calculated", "for", "all", "the", "objects", ".", "Next", ",", "the", "Author", "Popularity", "-LRB-", "AP", "-RRB-", "is", "calculated", "adding", "the", "PC", "of", "all", "the", "Learning", "Objects", "nodes", "that", "are", "linked", "to", "the", "author", "node", ".", "Finally", ",", "the", "AP", "is", "multiplied", "by", "a", "weighting", "factor", "and", "added", "to", "the", "also", "weighted", "PC", ".", "This", "metrics", "enable", "new", "objects", "-LRB-", "that", "do", "not", "have", "any", "downloads", "-RRB-", "from", "a", "well", "downloaded", "author", ",", "appear", "higher", "in", "the", "list", ".", "=", "i", "i", "object", "PR", "author", "AP", "-RRB-", "-LRB-", "-RRB-", "-LRB-", ";", "if", "object", "i", "is", "linked", "to", "author", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "author", "AP", "object", "PR", "object", "ACP", "+", "=", "Weighted", "Popularity", "-LRB-", "WP", "-RRB-", ":", "Selecting", ",", "Publicating", "and", "Retaining", "Actions", "can", "be", "combined", "to", "generate", "a", "2-partite", "graph", "between", "Users", "and", "Learning", "Objects", ".", "The", "links", "of", "this", "graph", "will", "be", "weighted", ":", "if", "the", "link", "is", "made", "using", "the", "Retaining", "information", "-LRB-", "inDegree", "R", "-RRB-", "it", "will", "have", "more", "weight", "as", "if", "the", "link", "was", "made", "using", "the", "Publication", "information", "-LRB-", "inDegree", "P", "-RRB-", ".", "In", "the", "same", "way", ",", "Publication", "links", "will", "weight", "more", "than", "Selection", "links", "-LRB-", "inDegree", "S", "-RRB-", ".", "The", "rationale", "behind", "this", "metric", "is", "that", "different", "actions", "mean", "different", "level", "of", "``", "preference", "''", "for", "an", "object", ".", "If", "the", "instructor", "has", "use", "the", "object", "and", "she", "is", "happy", "with", "it", "to", "keep", "it", "for", "the", "next", "semester", "is", "a", "stronger", "vote", "of", "support", "than", "just", "using", "it", "for", "the", "first", "time", "or", "that", "just", "downloading", "it", ".", "That", "difference", "of", "importance", "is", "represented", "in", "the", "weight", "given", "to", "each", "kind", "of", "link", ".", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "object", "inDegree", "object", "inDegree", "object", "inDegree", "object", "WP", "R", "P", "S", "+", "+", "+", "=", "with", ">", ">", "O", "1", "O", "2", "O", "3", "C1", "C2", "U1", "U", "2", "A1", "A2", "User", "Partition", "Course", "Partition", "Author", "Partition", "Object", "Partition", "11", "Rate", "of", "Reuse", "Rank", "-LRB-", "RRR", "-RRB-", ":", "Using", "the", "Selecting", "Action", "-LRB-", "or", "also", "the", "Publicating", "and", "Retaining", "Actions", "as", "in", "the", "previous", "metric", "-RRB-", ",", "the", "number", "of", "times", "that", "an", "object", "has", "been", "downloaded", "during", "a", "given", "period", "of", "time", "P", "-LRB-", "last", "week", ",", "month", ",", "year", "-RRB-", "can", "be", "calculated", ".", "The", "2-partite", "graph", "-LRB-", "Users", "and", "Objects", "partitions", "-RRB-", "can", "be", "constructed", "but", "only", "taking", "in", "account", "the", "Actions", "occurred", "in", "a", "given", "period", "of", "time", ".", "For", "example", ":", "if", "the", "last", "week", "is", "selected", "as", "P", ",", "This", "rank", "will", "calculate", "how", "often", "the", "object", "has", "been", "downloaded", "-LRB-", "inserted", "or", "retained", "-RRB-", "on", "the", "last", "7", "days", ".", "This", "value", "could", "be", "normalized", "using", "the", "age", "of", "the", "object", ",", "obtained", "from", "the", "related", "Creation", "action", ".", "This", "metric", "will", "help", "to", "rank", "higher", "object", "that", "have", "been", "reused", "frequently", "and", "are", "relatively", "new", ".", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "object", "age", "object", "inDegree", "object", "RRR", "=", ";", "for", "links", "inside", "period", "P", "Manual", "Rank", "-LRB-", "MR", "-RRB-", ":", "Using", "the", "information", "that", "is", "stored", "in", "the", "Annotation", "Action", ",", "the", "number", "of", "times", "that", "an", "object", "has", "been", "positively", "-LRB-", "or", "negatively", "-RRB-", "rated", "or", "reviewed", "could", "be", "considered", "to", "calculate", "a", "metric", ".", "A", "2-partite", "graph", "-LRB-", "Users", "and", "Objects", "partitions", "-RRB-", "is", "created", ".", "The", "procedure", "will", "weight", "the", "link", "as", "1", "if", "it", "is", "a", "positive", "rate", "or", "review", ",", "-1", "if", "it", "is", "a", "negative", "rate", "or", "review", ".", "The", "actual", "value", "of", "the", "rate", "is", "only", "used", "to", "evaluate", "if", "the", "rate", "is", "a", "positive", "or", "negative", "``", "vote", "''", ",", "because", "different", "users", "and", "system", "have", "different", "scales", "to", "grade", ".", "The", "reviews", "can", "only", "be", "considered", "if", "their", "positiveness", "or", "negativeness", "value", "is", "included", "in", "the", "Annotation", "Action", "or", "could", "be", "automatically", "inferred", "from", "the", "text", ".", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "object", "inDegree", "object", "inDegree", "object", "MR", "Negative", "Positive", "=", "These", "metrics", "can", "be", "calculated", "off-line", "because", "they", "are", "not", "user", "or", "query", "specific", ".", "They", "calculate", "an", "average", "importance", "or", "relevance", "of", "the", "learning", "objects", "based", "in", "the", "agglutination", "of", "attention", "information", ".", "These", "metrics", ",", "and", "others", "that", "can", "be", "developed", "afterwards", ",", "could", "be", "integrated", "in", "a", "final", "ranking", "metric", ".", "This", "Compound", "Popularity", "Metric", "-LRB-", "CP", "-RRB-", "can", "be", "calculated", "as", "the", "weighted", "sum", "of", "the", "values", "of", "the", "individual", "metrics", ".", "For", "example", ",", "Google", "integrates", "more", "than", "100", "of", "different", "simple", "metrics", "in", "order", "to", "provide", "its", "results", "-LSB-", "21", "-RSB-", ".", "MR", "RRR", "WP", "ACP", "PR", "CP", "+", "+", "+", "+", "=", "The", "weighted", "coefficients", "-LRB-", ",", ",", "etc", "-RRB-", "should", "be", "estimated", "-LRB-", "not", "trivial", "procedure", "-RRB-", "to", "provide", "an", "optimal", "result", "ordering", ".", "Methods", "to", "make", "these", "estimates", "are", "described", "in", "-LSB-", "22", "-RSB-", "and", "-LSB-", "23", "-RSB-", ".", "Also", ",", "manual", "rates", "should", "be", "used", "carefully", "because", "the", "Annotation", "Information", "is", "optional", "and", "could", "not", "exist", "for", "all", "the", "objects", "involved", "in", "the", "calculation", ".", "3.2", "Similarity", "Metrics", "for", "Recommendation", "One", "property", "of", "a", "2-partite", "graph", "is", "that", "it", "can", "be", "folded", "over", "one", "of", "its", "partitions", ",", "generating", "a", "normal", "graph", "with", "just", "one", "entity", "and", "links", "between", "its", "nodes", ".", "For", "example", "if", "we", "have", "a", "2-partite", "graph", "of", "Users", "that", "have", "download", "Learning", "Objects", ",", "we", "can", "fold", "over", "the", "Learning", "Object", "partition", "and", "we", "will", "end", "up", "with", "a", "graph", "where", "the", "Users", "are", "linked", "between", "them", ".", "Each", "link", "mean", "that", "those", "two", "users", "have", "download", "the", "same", "object", "at", "least", "once", ".", "This", "new", "graph", "could", "be", "used", "to", "calculate", "similarity", "between", "the", "users", "based", "on", "the", "download", "patterns", ".", "In", "Figure", "2", "we", "can", "see", "a", "representation", "of", "the", "folding", "result", ".", "The", "first", "part", "of", "the", "figure", "represents", "a", "2-partite", "graph", "with", "the", "User", "and", "Objects", "partitions", ".", "The", "graph", "shows", "that", ",", "for", "example", ",", "that", "User", "5", "had", "downloaded", "Object", "2", "and", "Object", "3", "and", "User", "1", "had", "only", "downloaded", "Object", "1", ".", "The", "second", "part", "of", "the", "figure", "illustrates", "the", "folded", "version", "of", "the", "graph", ".", "In", "this", "new", "graph", ",", "the", "users", "have", "a", "link", "between", "them", "if", "they", "linked", "to", "the", "same", "object", "in", "the", "unfolded", "graph", ".", "The", "more", "objects", "the", "users", "have", "in", "common", ",", "the", "thicker", "the", "line", ".", "For", "example", "User", "1", "and", "User", "4", "are", "linked", "because", "they", "both", "have", "downloaded", "Object", "1", ".", "User", "2", "and", "User", "5", "have", "a", "stronger", "links", "because", "they", "both", "have", "downloaded", "Object", "2", "and", "Object", "3", ".", "This", "technique", "is", "similar", "to", "the", "one", "applied", "in", "scientometrics", "to", "obtain", "relations", "between", "different", "authors", ",", "based", "on", "the", "papers", "that", "have", "co-authored", "-LSB-", "24", "-RSB-", ".", "U1", "U2", "U3", "O1", "O2", "O3", "U4", "U5", "U6", "U1", "U2", "U3", "U4", "U6", "U5", "2-Partite", "Graph", "-LRB-", "User", "and", "Objects", "-RRB-", "Folded", "Normal", "Graph", "-LRB-", "Users", "-RRB-", "Figure", "2", ".", "Unfolded", "and", "Folded", "2-Partite", "Graph", "We", "present", "several", "similarity", "metrics", "that", "can", "be", "calculated", "using", "the", "information", "contained", "in", "CAM", "Actions", "detailed", "in", "the", "previous", "section", ".", "Object", "Similarity", "based", "on", "Number", "of", "Downloads", ":", "Create", "a", "2-partite", "graph", "with", "the", "information", "of", "the", "Select", "Actions", "-LRB-", "when", "a", "User", "download", "a", "Learning", "Object", "-RRB-", ",", "and", "fold", "over", "the", "User", "Partition", ".", "A", "link", "between", "two", "Objects", "in", "the", "final", "graph", "means", "that", "those", "objects", "have", "been", "downloaded", "by", "the", "same", "user", ".", "The", "strength", "of", "the", "similarity", "is", "number", "of", "users", "that", "have", "downloaded", "both", "objects", ".", "Object", "Similarity", "based", "on", "Re-Use", ":", "Create", "a", "2-partite", "graph", "with", "the", "information", "from", "the", "Publish", "Actions", "-LRB-", "when", "a", "Learning", "Object", "is", "inserted", "into", "a", "Course", "-RRB-", ",", "and", "fold", "over", "the", "Course", "Partition", ".", "A", "link", "between", "two", "Objects", "in", "the", "final", "graph", "means", "that", "two", "objects", "have", "been", "inserted", "in", "the", "same", "course", ".", "The", "strength", "of", "the", "similarity", "is", "number", "of", "courses", "that", "include", "both", "objects", ".", "Users", "similarity", "based", "on", "Downloads", ":", "Create", "a", "2-partite", "graph", "with", "the", "information", "from", "the", "Select", "Actions", ",", "and", "fold", "over", "the", "Object", "Partition", ".", "A", "link", "between", "two", "Users", "means", "that", "they", "have", "downloaded", "the", "same", "object", ".", "The", "strength", "of", "the", "similarity", "is", "the", "number", "objects", "that", "the", "users", "have", "in", "common", ".", "Author", "similarity", "based", "on", "Re-Use", "of", "Components", ":", "The", "Creation", "Action", "information", "could", "be", "use", "to", "identify", "re-use", "of", "learning", "object", "components", ".", "For", "example", "several", "authors", "could", "use", "the", "same", "picture", "or", "diagram", "inside", "they", "presentations", ".", "As", "the", "Creation", "Action", "store", "information", "about", "which", "existing", "components", "have", "been", "reused", "-LRB-", "see", "Section", "2", "-RRB-", ",", "a", "2-partite", "graph", "between", "Authors", "and", "Components", "can", "be", "created", "and", "then", "folded", "over", "the", "12", "Components", "partition", ".", "The", "new", "graph", "will", "represent", "relationship", "between", "different", "authors", ".", "More", "components", "those", "authors", "have", "used", "in", "common", ",", "the", "stronger", "their", "similarity", ".", "The", "similarity", "metric", "obtained", "from", "the", "graph", "could", "be", "then", "applied", "in", "recommendation", "tools", ".", "For", "example", ":", "If", "a", "user", "finds", "an", "object", "useful", ",", "a", "link", "to", "similar", "objects", "could", "be", "provided", "-LRB-", "similar", "to", "what", "Amazon", "does", "with", "books", "-LSB-", "1", "-RSB-", "-RRB-", ".", "Also", ",", "the", "similarity", "between", "users", "can", "be", "exploited", "to", "recommend", "Learning", "Objects", "to", "a", "user", ",", "based", "on", "what", "other", "users", "that", "are", "in", "the", "same", "community", "have", "recently", "download", "-LRB-", "similar", "to", "collaborative", "browsing", "applications", "-LSB-", "3", "-RSB-", "-RRB-", ".", "To", "automatically", "extract", "the", "communities", "from", "the", "graph", ",", "an", "algorithm", "like", "EdgeBetweeness", "-LSB-", "25", "-RSB-", "can", "be", "applied", ".", "The", "same", "procedure", "could", "be", "applied", "to", "the", "Author", "Similarity", "graph", ".", "The", "communities", "of", "authorship", "can", "be", "automatically", "extracted", "from", "the", "graph", ".", "The", "author", "then", "can", "be", "recommended", "with", "components", "that", "have", "been", "created", "by", "other", "authors", "in", "the", "same", "authorship", "community", ".", "Beside", "recommendation", "systems", "for", "Learning", "Objects", ",", "these", "similarity", "metrics", "could", "be", "considered", "as", "distance", "metrics", ".", "The", "distance", "metric", "can", "be", "used", "inside", "clustering", "algorithms", "to", "automatically", "find", "groups", "of", "similar", "objects", ".", "These", "clusters", "could", "be", "used", "to", "improve", "the", "presentation", "of", "results", "of", "a", "search", ",", "much", "as", "Vivisimo", "-LSB-", "26", "-RSB-", "does", "for", "Web", "Pages", ".", "3.3", "Personalized", "Ranking", "To", "be", "able", "to", "personalize", "the", "search", "result", "order", "for", "a", "given", "user", ",", "the", "application", "should", "have", "a", "representation", "of", "such", "user", "in", "a", "profile", ".", "While", "this", "profile", "could", "be", "created", "explicitly", "by", "the", "user", ",", "CAM", "information", "could", "help", "the", "application", "to", "learn", "it", "form", "the", "user", "interaction", "with", "the", "tool", ".", "For", "example", ",", "the", "information", "about", "stored", "in", "the", "Select", ",", "Publish", "and", "Retain", "from", "a", "user", "could", "help", "us", "to", "determine", "in", "which", "objects", "is", "he/she", "interested", ",", "and", "rank", "higher", "objects", "that", "are", "similar", "to", "those", ".", "This", "work", "proposes", "the", "creation", "of", "a", "fuzzy", "profile", "that", "could", "easily", "account", "for", "the", "evolving", "and", "not", "fixed", "behavior", "of", "an", "instructor", "downloading", "learning", "objects", ".", "Instead", "of", "having", "a", "crisp", "preference", "for", "one", "type", "of", "object", ",", "this", "profile", "will", "provide", "different", "grades", "of", "likeness", "for", "several", "characteristics", "of", "the", "learning", "object", ".", "This", "profile", "is", "constructed", "with", "several", "Fields", ".", "The", "Fields", "could", "be", "a", "subset", "of", "the", "fields", "considered", "in", "the", "LOM", "standard", ",", "especially", "the", "ones", "that", "use", "a", "vocabulary", "or", "represent", "a", "classification", ".", "Each", "field", "will", "contain", "2", "or", "more", "fuzzy", "sets", "that", "represent", "the", "values", "that", "the", "field", "could", "have", "-LRB-", "from", "the", "vocabulary", "or", "the", "classification", "values", "-RRB-", ".", "A", "user", "could", "``", "prefer", "''", "in", "different", "degrees", "1", "or", "more", "of", "the", "values", "of", "a", "Field", ".", "The", "preference", "of", "the", "user", "for", "each", "one", "of", "the", "values", "is", "calculated", "based", "on", "the", "number", "of", "objects", "that", "the", "user", "have", "download", "before", "that", "contained", "that", "value", "in", "the", "corresponding", "LOM", "field", ".", "This", "fuzzy", "profile", "has", "been", "derived", "from", "research", "done", "to", "produce", "automatic", "TV", "recordings", "for", "PVRs", "-LSB-", "27", "-RSB-", "like", "TIVO", ".", "The", "fuzzy", "profile", "could", "be", "easily", "operationalized", "to", "provide", "a", "personalized", "rank", "for", "Learning", "Objects", ".", "First", ",", "each", "field", "should", "have", "a", "weighting", "value", "-LRB-", "that", "express", "how", "important", "that", "field", "is", "-RRB-", ".", "That", "value", "could", "be", "assigned", "by", "an", "expert", "or", "could", "be", "calculated", "automatically", "for", "entropy", "of", "the", "distribution", "of", "the", "field", "values", "for", "that", "user", ".", "For", "example", "if", "a", "user", "downloads", "objects", "from", "a", "wide", "variety", "of", "topics", ",", "the", "weight", "of", "topic", "as", "a", "good", "ranking", "measurement", "is", "low", ".", "Instead", ",", "if", "the", "user", "only", "downloads", "objects", "in", "one", "language", ",", "the", "weight", "of", "that", "field", "should", "be", "high", ".", "Second", ",", "each", "LOM", "record", "from", "the", "result", "list", "is", "converted", "to", "a", "similar", "representation", ",", "using", "the", "same", "fields", "and", "a", "preference", "value", "of", "1.0", "for", "the", "value", "found", "in", "the", "metadata", ".", "Finally", ",", "the", "object", "representation", "is", "operated", "with", "the", "profile", "in", "order", "to", "obtain", "how", "well", "the", "object", "fits", "the", "preference", "of", "the", "user", ".", "This", "operation", "is", "described", "in", "the", "following", "equation", ":", "j", "i", "i", "j", "j", "i", "i", "value", "object", "Field", "value", "user", "Field", "user", "object", "nk", "PersonalRa", "-RRB-", ".", "-LRB-", "-RRB-", ".", "-LRB-", "-RRB-", ",", "-LRB-", "=", "For", "example", ",", "lets", "consider", "a", "user", "that", "have", "download", "20", "objects", ",", "16", "with", "topic", "Computer", "Sciences", "and", "4", "with", "topic", "Physics", ".", "Of", "those", "20", ",", "also", ",", "12", "are", "in", "English", ",", "4", "are", "in", "French", ",", "4", "are", "in", "Spanish", ".", "A", "fuzzy", "profile", "that", "represents", "that", "user", "could", "be", "expressed", "as", ":", "U1", "=", "-LCB-", "-LRB-", "0.8", "/", "ComputerScience", "+", "0.2", "/", "Physics", "-RRB-", ",", "-LRB-", "0.6", "/", "English", "+", "0.2", "/", "Spanish", "+", "0.2", "/", "French", "-RRB-", "-RCB-", "The", "fields", "weighting", "terms", "are", "0.9", "for", "Topic", "and", "0.6", "for", "Language", ".", "Lets", "now", "considered", "2", "objects", "represented", "also", "as", "fuzzy", "sets", ":", "O1", "=", "-LCB-", "-LRB-", "1.0", "/", "ComputerScience", "-RRB-", ",", "-LRB-", "1.0", "/", "Spanish", "-RRB-", "-RCB-", "O2", "=", "-LCB-", "-LRB-", "1.0", "/", "Physics", ",", "1.0", "/", "English", "-RRB-", "-RCB-", "The", "calculated", "rank", "for", "both", "objects", "is", ":", "O1", "=", "0.9", "*", "0.8", "+", "0.6", "*", "0.2", "=", "0.84", "O2", "=", "0.9", "*", "0.2", "+", "0.6", "*", "0.6", "=", "0.54", "O1", "will", "be", "ranked", "higher", "than", "O2", "as", "it", "is", "more", "similar", "to", "the", "user", "profile", ".", "The", "personalized", "calculation", "could", "be", "combined", "with", "the", "popularity", "ranking", "described", "before", "to", "create", "a", "better", "ranking", "algorithm", ",", "the", "same", "way", "as", "Google", "personalized", "Search", "mix", "the", "standard", "Popularity", "measure", "with", "information", "from", "the", "user", "profile", "to", "order", "the", "results", ".", "3.4", "Contextual", "Recommending", "If", "the", "CAM", "is", "considered", "not", "only", "as", "a", "source", "for", "historic", "data", ",", "but", "also", "as", "a", "continuous", "stream", "of", "contextualized", "attention", "information", ",", "we", "can", "use", "very", "recent", "CAM", "-LRB-", "in", "the", "order", "of", "seconds", "or", "minutes", "-RRB-", "to", "generate", "recommendations", "based", "on", "what", "the", "user", "is", "focusing", "his/her", "attention", "at", "the", "moment", ".", "For", "example", ",", "the", "recommender", "system", "could", "use", "the", "information", "stored", "in", "the", "if", "the", "user", "has", "inserted", "an", "object", "inside", "a", "Course", "in", "a", "Learning", "Management", "System", "-LRB-", "LMS", "-RRB-", ",", "the", "LMS", "will", "generate", "a", "CAM", "record", "with", "contextual", "information", "about", "which", "object", "was", "inserted", "and", "in", "which", "lesson", "of", "the", "course", ".", "The", "recommending", "system", "could", "use", "that", "information", "to", "present", "the", "user", "with", "similar", "objects", "to", "the", "one", "inserted", "or", "others", "that", "have", "been", "used", "in", "similar", "courses", ",", "based", "on", "the", "topic", "of", "the", "course", "or", "in", "similarity", "metrics", "as", "the", "one", "explained", "in", "the", "Section", "3.2", ".", "The", "recommending", "system", "could", "also", "present", "objects", "that", "suit", "the", "application", "that", "the", "user", "is", "using", "at", "a", "given", "moment", ",", "based", "on", "the", "information", "about", "the", "object", "-LRB-", "LOM", "record", "-RRB-", ".", "For", "example", ",", "if", "the", "user", "is", "working", "Microsoft", "Power", "Point", "authoring", "tool", ",", "presentations", ",", "slides", ",", "small", "texts", ",", "images", "and", "diagrams", "will", "be", "recommended", ".", "If", "he/she", "is", "working", "with", "a", "SCORM", "Packager", ",", "complete", "learning", "objects", "will", "be", "presented", "instead", ".", "Contextual", "recommending", "techniques", "have", "been", "tried", "before", "in", "several", "fields", "-LSB-", "28", "-RSB-", "-LSB-", "29", "-RSB-", ".", "Blinkx", "-LSB-", "30", "-RSB-", "is", "an", "example", "of", "this", "kind", "of", "applications", ".", "It", "recommends", "web", "pages", ",", "videos", "and", "news", "based", "13", "on", "the", "present", "content", "of", "the", "screen", "of", "the", "user", ".", "A", "similar", "application", "could", "be", "developed", "in", "a", "LMS", "for", "example", ",", "where", "the", "system", "could", "recommend", "to", "the", "instructor", "materials", "to", "add", "to", "each", "lesson", ",", "or", "could", "recommend", "the", "learner", "with", "similar", "or", "complementary", "materials", "to", "the", "one", "that", "the", "instructor", "has", "added", "to", "the", "course", ".", "While", "the", "CAM", "based", "metrics", "proposed", "in", "this", "work", "were", "designed", "for", "Learning", "Objects", ",", "they", "could", "be", "easily", "extended", "or", "adapted", "to", "work", "for", "other", "kind", "of", "reusable", "components", "where", "CAM", "could", "be", "collected", ".", "For", "example", ",", "given", "the", "exponential", "grow", "of", "open", "source", "software", "libraries", "that", "could", "be", "reused", "inside", "software", "projects", ",", "programmers", "are", "sometimes", "overwhelmed", "with", "the", "amount", "of", "available", "choices", ".", "It", "makes", "sense", "to", "develop", "some", "kind", "of", "ranking", "or", "recommending", "system", "that", "could", "help", "the", "developers", "to", "select", "the", "right", "tools", ".", "To", "construct", "the", "ranking", "application", "we", "can", "use", "the", "same", "methods", "proposed", "for", "learning", "objects", ".", "The", "k-partite", "graph", "used", "to", "calculate", "the", "popularity", "metric", "could", "be", "constructed", "using", "the", "metadata", "information", "about", "the", "library", "-LRB-", "who", "is", "the", "author", "of", "a", "software", "library", "-RRB-", "and", "contextual", "attention", "information", "about", "how", "and", "when", "the", "programmers", "interact", "with", "the", "library", "-LRB-", "which", "programmers", "have", "download", "it", ",", "in", "which", "software", "project", "they", "have", "been", "used", "-RRB-", ".", "Most", "of", "this", "information", "could", "be", "obtained", "from", "open", "source", "project", "repositories", "like", "SourceFourge", "-LSB-", "31", "-RSB-", ".", "The", "rationale", "behind", "the", "ranking", "would", "be", ":", "A", "library", "that", "have", "been", "downloaded", "more", "often", "/", "at", "a", "higher", "rate", "is", "more", "useful", ".", "A", "library", "produced", "by", "authors", "with", "highly", "useful", "libraries", "could", "also", "be", "useful", ".", "A", "library", "re-used", "in", "many", "projects", "is", "probable", "highly", "useful", ".", "This", "metrics", "are", "parallel", "to", "the", "ones", "described", "for", "learning", "objects", ".", "Recommending", "systems", "for", "software", "libraries", "could", "also", "be", "constructed", "in", "a", "similar", "way", "to", "the", "ones", "proposed", "for", "learning", "objects", ".", "For", "example", ",", "we", "can", "fold", "the", "Libraries-Programmers", "2-partite", "graph", "over", "the", "Libraries", "Partition", ",", "creating", "a", "graph", "that", "relate", "Programmers", "between", "them", "based", "on", "the", "Libraries", "that", "they", "have", "downloaded/used", ".", "Communities", "could", "be", "extracted", "form", "the", "resulting", "graph", "and", "could", "be", "used", "for", "recommending", "a", "programmer", "with", "new", "libraries", "that", "other", "members", "of", "his/her", "community", "have", "used", "in", "their", "projects", ".", "The", "precaution", "to", "have", "when", "applying", "this", "metrics", "to", "other", "domains", "is", "the", "semantics", "of", "the", "relations", "that", "are", "created", "with", "the", "graphs", ".", "For", "example", ",", "if", "two", "learning", "objects", "are", "used", "in", "the", "same", "course", ",", "those", "two", "learning", "objects", "must", "have", "something", "in", "common", "-LRB-", "same", "topic", "for", "example", "-RRB-", ",", "while", "if", "two", "libraries", "are", "used", "inside", "the", "same", "project", ",", "that", "does", "not", "mean", "that", "the", "libraries", "are", "related", "-LRB-", "you", "could", "use", "a", "database", "access", "library", "and", "graphical", "interface", "library", "inside", "the", "same", "project", "-RRB-", ".", "Other", "contexts", "where", "CAM", "information", "could", "be", "exploited", "to", "rank", "and", "recommend", "elements", "with", "a", "similar", "strategy", "as", "the", "one", "presented", "in", "this", "work", "are", "music", "mixes", "-LRB-", "component", "songs", "or", "loops", "-RRB-", "and", "news", "aggregators", ".", "This", "work", "is", "just", "an", "introduction", "to", "how", "CAM", "information", "could", "be", "used", "to", "rank", "and", "recommend", "Learning", "Objects", ".", "Several", "topics", "should", "be", "solved", "before", "a", "big", "scale", "application", "that", "use", "the", "metrics", "presented", "could", "be", "built", ":", "Collection", "and", "Integration", "of", "the", "different", "CAM", "sources", ":", "While", "today", "exist", "several", "applications", "that", "generate", "CAM", ",", "there", "is", "not", "an", "established", "multi-application", "CAM", "repository", "that", "could", "be", "used", "to", "collect", "and", "integrate", "attention", "information", ".", "Combination", "of", "different", "ranking", "strategies", ":", "When", "different", "ranking", "strategies", "are", "combined", ",", "some", "weighting", "coefficient", "must", "be", "applied", ".", "The", "calculation", "of", "those", "coefficients", "is", "not", "trivial", "and", "should", "be", "made", "using", "extensive", "user", "feedback", ".", "Critical", "mass", "vs.", "Closed", "Community", ":", "To", "be", "useful", ",", "the", "metrics", "should", "be", "calculated", "over", "a", "significant", "amount", "of", "CAM", "data", ".", "But", "if", "we", "integrate", "data", "from", "different", "communities", "to", "obtain", "a", "bigger", "amount", "of", "CAM", "-LRB-", "for", "example", "attention", "from", "different", "LORs", "-RRB-", ",", "there", "will", "probably", "not", "exist", "common", "objects", ",", "users", "or", "courses", "that", "could", "be", "used", "to", "generate", "relations", "between", "the", "communities", ".", "Broisin", "et", "al", "in", "-LSB-", "32", "-RSB-", "propose", "a", "framework", "to", "capture", "usage", "information", "about", "Learning", "Object", "from", "different", "Learning", "Management", "Systems", "and", "Repositories", "in", "order", "to", "analyze", "the", "usage", "patterns", "of", "the", "users", "through", "a", "Management", "Application", ".", "The", "approach", "of", "this", "paper", "goes", "a", "step", "further", ",", "using", "the", "attention", "information", "to", "calculate", "metrics", "that", "could", "be", "used", "to", "improve", "existing", "tools", ".", "Broisin", "'s", "work", "also", "uses", "a", "simplified", "format", "of", "attention", "-LRB-", "basically", "usage", "information", "-RRB-", "in", "a", "non-standard", "format", ",", "limiting", "the", "possible", "use", "of", "the", "information", "by", "other", "systems", ",", "because", "existing", "applications", "should", "be", "reprogrammed", "to", "produce", "that", "format", ".", "This", "work", "proposes", "the", "use", "of", "an", "extension", "of", "AttentionXML", "standard", "to", "be", "able", "to", "capture", "the", "CAM", "from", "a", "variety", "of", "systems", "that", "already", "produce", "it", ".", "In", "a", "related", "area", ",", "digital", "libraries", ",", "Nicholson", "in", "-LSB-", "33", "-RSB-", "propose", "the", "fusion", "of", "bibliometrics", "analysis", "with", "user-related", "data", "mining", "to", "generate", "a", "new", "field", "of", "study", ",", "bibliomining", ".", "His", "proposal", "could", "be", "compared", "with", "the", "one", "presented", "in", "this", "work", ":", "Using", "the", "information", "about", "the", "book", "and", "the", "usage", "information", "generated", "by", "the", "interaction", "of", "the", "users", "with", "the", "digital", "library", "system", "to", "improve", "the", "user", "experience", ".", "While", "Nicholson", "mentions", "several", "ways", "in", "which", "the", "attention", "metadata", "could", "be", "used", ",", "he", "does", "not", "detail", "any", "specific", "metric", "to", "improve", "digital", "library", "systems", ".", "The", "current", "immaturity", "of", "the", "tools", "to", "search", "and", "find", "Learning", "Objects", "could", "be", "overcome", "if", "CAM", "information", "is", "store", "through", "the", "lifecycle", "of", "the", "Learning", "Object", "and", "used", "to", "compute", "metrics", "for", "ranking", "and", "recommendation", ".", "These", "metrics", "should", "generate", "a", "meaningful", "and", "automated", "way", "in", "which", "Learning", "Object", "could", "be", "ranked", ".", "This", "work", "presented", "detailed", "methods", "to", "calculate", "various", "metrics", "and", "propose", "several", "uses", "for", "those", "metrics", ".", "The", "proposed", "calculations", "could", "also", "be", "applied", "to", "rank", "and", "recommend", "other", "reusable", "components", "from", "which", "CAM", "could", "be", "gathered", ",", "as", "it", "was", "shown", "for", "the", "case", "of", "open", "source", "software", "libraries", "example", ".", "While", "the", "metrics", "are", "easy", "to", "calculate", ",", "and", "some", "initial", "data", "is", "also", "present", ",", "more", "research", "is", "needed", "to", "be", "able", "to", "assemble", "a", "large", "scale", "system", "that", "could", "gather", "the", "necessary", "amount", "of", "CAM", "in", "order", "to", "render", "the", "calculations", "meaningful", ".", "14", "-LSB-", "1", "-RSB-", "Linden", ",", "G.", ";", "Smith", ",", "B.", "and", "York", ",", "J.", "Amazon.com", "Recommendations", ":", "Item-to-Item", "Collaborative", "Filtering", ".", "IEEE", "Internet", "Computing", ",", "7", ",", "1", "-LRB-", "2003", "-RRB-", ",", "76-80", ".", "-LSB-", "2", "-RSB-", "Shepherd", ",", "M.", ";", "Watters", ",", "C.", "and", "Marath", ",", "A.", "Adaptive", "User", "Modeling", "for", "Filtering", "Electronic", "News", ".", "In", "Proceedings", "of", "the", "35th", "Annual", "Hawaii", "International", "Conference", "on", "System", "Sciences", ",", "2002", ".", "HICSS", ".", "-LRB-", "2002", "-RRB-", ",", "1180", "-", "1188", ".", "-LSB-", "3", "-RSB-", "James", ",", "S.", "Outfoxed", "Collaborative", "Browsing", ",", "http://www.getoutfoxed.com", ".", "Retrieved", "on", "May", ",", "2006", ".", "-LSB-", "4", "-RSB-", "Najjar", ",", "J.", ",", "Meire", ",", "M.", "and", "Duval", ",", "E.", "Attention", "Metadata", "Management", ":", "Tracking", "the", "use", "of", "Learning", "Objects", "through", "Attention.XML", ".", "In", "Proceedings", "of", "World", "Conference", "on", "Educational", "Multimedia", ",", "Hypermedia", "and", "Telecommunications", ".", "-LRB-", "2005", "-RRB-", ".", "1157-1161", ".", "-LSB-", "5", "-RSB-", "Najjar", ",", "J.", ",", "Wolpers", ",", "M.", "and", "Duval", ",", "E.", ",", "Attention", "Metadata", ":", "Collection", "and", "Management", "''", ",", "WWW2006", "workshop", "on", "Logging", "Traces", "of", "Web", "Activity", ",", "Edinburgh", ",", "Scotland", ",", "-LRB-", "2006", "-RRB-", ".", "-LSB-", "6", "-RSB-", "AttentionXML", ",", "AttentionXML", "specifications", ",", "http://developers.technorati.com/wiki/attentionxml", ".", "Retrieved", "on", "June", ",", "2006", "-LSB-", "7", "-RSB-", "Duval", ",", "E.", "and", "Hodgins", ",", "W.", ",", "A", "LOM", "research", "agenda", ".", "In", "Proceedings", "of", "WWW2003", ":", "Twelfth", "International", "World", "Wide", "Web", "Conference", ",", "-LRB-", "2003", "-RRB-", ",", "659-667", ".", "-LSB-", "8", "-RSB-", "Ochoa", ",", "X.", "Learning", "Object", "Repositories", "are", "Useful", ",", "but", "are", "they", "Usable", "?", "In", "Proceedings", "of", "IADIS", "International", "Conference", "Applied", "Computing", ".", "-LRB-", "2005", "-RRB-", ",", "138-144", "-LSB-", "9", "-RSB-", "Duval", ",", "E.", "LearnRank", ":", "the", "Real", "Quality", "Measure", "for", "Learning", "Materials", ".", "Policy", "and", "Innovation", "in", "Education", "-", "Quality", "Criteria", ",", "-LRB-", "2005", "-RRB-", "-LSB-", "10", "-RSB-", "Aizawa", ",", "A", ".", "An", "information-theoretic", "perspective", "of", "tf", "idf", "measures", ".", "Information", "Processing", "and", "Management", ",", "39", ",", "-LRB-", "2003", "-RRB-", ",", "45-65", ".", "-LSB-", "11", "-RSB-", "ISO/IEC", "JTC1", "SC36", ".", "International", "LOM", "Survey", ":", "Report", ".", "http://mdlet.jtc1sc36.org/doc/SC36_WG4_N0109.pdf", "-LRB-", "2004", "-RRB-", ".", "-LSB-", "12", "-RSB-", "Ariadne", "Foundation", ".", "Ariadne", "Foundation", ".", "http://www.ariadne-eu.org", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "13", "-RSB-", "Collis", ",", "B.", "and", "Strijker", ",", "A.", "Technology", "and", "Human", "Issues", "in", "Reusing", "Learning", "Objects", ".", "Journal", "of", "Interactive", "Media", "in", "Education", ",", "4", ",", "-LRB-", "2004", "-RRB-", ".", "-LSB-", "14", "-RSB-", "Verbert", ",", "K.", "Jovanovic", ",", "J.", "Gasevic", ",", "D.", "and", "Duval", ",", "E.", "Repurposing", "Learning", "Object", "Components", ".", "OTM", "2005", "Workshop", "on", "Ontologies", ",", "Semantics", "and", "E-Learning", ",", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "15", "-RSB-", "IEEE-LOM", "Editor", ",", "http://www-i5.informatik.rwth-aachen", ".", "de/i5new/staff/chatti/LOMEditor/index.html", ".", "Retrieved", "June", "2006", ".", "-LSB-", "16", "-RSB-", "Cardinels", ",", "K.", ",", "Meire", ",", "M.", ",", "and", "Duval", ",", "E.", "Automating", "metadata", "generation", ":", "the", "simple", "indexing", "interface", ".", "In", "Proceedings", "of", "the", "14th", "WWW", "conference", ",", "-LRB-", "2005", "-RRB-", ",", "548-556", "-LSB-", "17", "-RSB-", "Dalziel", ",", "J.", "Implementing", "Learning", "Design", ":", "The", "Learning", "Activity", "Management", "System", "-LRB-", "LAMS", "-RRB-", ",", "ASCILITE", "-LRB-", "2003", "-RRB-", "-LSB-", "18", "-RSB-", "ADL", ",", "SCORM", "Standard", ",", "http://www.adlnet.gov/index.cfm", ",", "Retrieved", "March", ",", "2006", "-LSB-", "19", "-RSB-", "IEEE", ".", "IEEE", "Standard", "for", "Learning", "Object", "Metadata", ".", "http://ltsc.ieee.org/doc/wg12/", "-LRB-", "2002", "-RRB-", ".", "-LSB-", "20", "-RSB-", "Page", ",", "L.", ",", "Brin", ",", "S.", ",", "Motwani", ",", "R.", "and", "Winograd", ",", "T", ".", "The", "PageRank", "Citation", "Ranking", ":", "Bringing", "order", "to", "the", "Web", ".", "Technical", "Report", ",", "Computer", "Science", "Department", ",", "Stanford", "University", "-LRB-", "1998", "-RRB-", "-LSB-", "21", "-RSB-", "Google", "Technology", ",", "http://www.google.com/technology/", ".", "Retrieved", ",", "August", "2006", ".", "-LSB-", "22", "-RSB-", "Radlinski", ",", "F.", "and", "Joachims", ",", "T.", "Query", "Chains", ":", "Learning", "to", "Rank", "from", "Implicit", "Feedback", ",", "Proceedings", "of", "the", "ACM", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ".", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "23", "-RSB-", "Fan", ",", "W.", ",", "Gordon", ",", "M.", "and", "Pathak", ",", "P", ".", "A", "generic", "ranking", "function", "discovery", "framework", "by", "genetic", "programming", "for", "information", "retrieval", ",", "Information", "Processing", "and", "Management", ".", "40", "-LRB-", "2004", "-RRB-", "587", "602", "-LSB-", "24", "-RSB-", "Nascimento", ",", "M.", ",", "Sander", ",", "J.", "and", "Pound", ",", "J.", "Analysis", "of", "SIGMOD", "'s", "co-authorship", "graph", ".", "ACM", "SIGMOD", "Record", ",", "32", ",", "3", ".", "-LRB-", "2003", "-RRB-", ".", "8-10", "-LSB-", "25", "-RSB-", "Girvan", ",", "M.", "and", "Newman", ",", "M.", "Community", "structure", "in", "social", "and", "biological", "networks", ".", "Proc", ".", "Natl.", "Acad", ".", "Sci", ".", "11", ".", "-LRB-", "2002", "-RRB-", ".", "-LSB-", "26", "-RSB-", "Vivisimo", "Clustering", "Engine", ".", "http://www.vivisimo.com", ".", "Retrieved", "August", "2006", ".", "-LSB-", "27", "-RSB-", "Pigeau", ",", "A.", ",", "Raschia", ",", "G.", ",", "Gelgon", ",", "M.", ",", "Mouaddib", ",", "N.", "and", "Saint-Paul", ",", "R", ".", "A", "fuzzy", "linguistic", "summarization", "technique", "for", "TV", "recommender", "systems", ".", "The", "12th", "IEEE", "International", "Conference", "on", "Fuzzy", "Systems", ",", "2003", ".", "FUZZ", "'", "03", ".", "1", "-LRB-", "2003", "-RRB-", "743-748", ".", "-LSB-", "28", "-RSB-", "Google", "AdSense", ",", "https://www.google.com/adsense/", ".", "Retrieved", "August", "2006", ".", "-LSB-", "29", "-RSB-", "Fan", ",", "W.", ",", "Gordon", ",", "M.", "and", "Pathak", ",", "P.", "Incorporating", "contextual", "information", "in", "recommender", "systems", "using", "a", "multidimensional", "approach", ".", "Information", "Processing", "and", "Management", ".", "40", ",", "4", ".", "-LRB-", "2004", "-RRB-", ".", "587-602", ".", "-LSB-", "30", "-RSB-", "Blinkx", "Contextual", "Search", ".", "http://www.blinkx.com", ".", "Retrieved", "August", "2006", ".", "-LSB-", "31", "-RSB-", "Sourceforge", ",", "Open", "Software", "Repository", ".", "http://www.sourceforge.net", ".", "Retrieved", "August", "2006", ".", "-LSB-", "32", "-RSB-", "Broisin", ",", "J.", ",", "Vidal", ",", "P.", "and", "Sibilla", ",", "M", ".", "A", "Management", "Framework", "Based", "On", "A", "Model", "Driven", "Approach", "For", "Tracking", "User", "Activities", "In", "A", "Web-Based", "Learning", "Environment", ".", "EDMEDIA", ",", "-LRB-", "2006", "-RRB-", "896-903", "-LSB-", "33", "-RSB-", "Nicholson", ",", "S", ".", "The", "basis", "for", "bibliomining", ":", "Frameworks", "for", "bringing", "together", "sage-based", "data", "mining", "and", "bibliometrics", "through", "data", "arehousing", "in", "digital", "library", "services", ".", "Information", "Processing", "and", "Management", ".", "42", ",", "3", "-LRB-", "2006", "-RRB-", ".", "785-804", ".", "15"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "B", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["recommending", "ranking", "attention metadata", "learning objects"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "215", "document": ["What", "'s", "There", "and", "What", "'s", "Not", "?", "Focused", "Crawling", "for", "Missing", "Documents", "in", "Digital", "Libraries", "Some", "large", "scale", "topical", "digital", "libraries", ",", "such", "as", "CiteSeer", ",", "harvest", "online", "academic", "documents", "by", "crawling", "open-access", "archives", ",", "university", "and", "author", "homepages", ",", "and", "authors", "'", "self-submissions", ".", "While", "these", "approaches", "have", "so", "far", "built", "reasonable", "size", "libraries", ",", "they", "can", "suffer", "from", "having", "only", "a", "portion", "of", "the", "documents", "from", "specific", "publishing", "venues", ".", "We", "propose", "to", "use", "alternative", "online", "resources", "and", "techniques", "that", "maximally", "exploit", "other", "resources", "to", "build", "the", "complete", "document", "collection", "of", "any", "given", "publication", "venue", ".", "We", "investigate", "the", "feasibility", "of", "using", "publication", "metadata", "to", "guide", "the", "crawler", "towards", "authors", "'", "homepages", "to", "harvest", "what", "is", "missing", "from", "a", "digital", "library", "collection", ".", "We", "collect", "a", "real-world", "dataset", "from", "two", "Computer", "Science", "publishing", "venues", ",", "involving", "a", "total", "of", "593", "unique", "authors", "over", "a", "time", "frame", "of", "1998", "to", "2004", ".", "We", "then", "identify", "the", "missing", "papers", "that", "are", "not", "indexed", "by", "CiteSeer", ".", "Using", "a", "fully", "automatic", "heuristic-based", "system", "that", "has", "the", "capability", "of", "locating", "authors", "'", "homepages", "and", "then", "using", "focused", "crawling", "to", "download", "the", "desired", "papers", ",", "we", "demonstrate", "that", "it", "is", "practical", "to", "harvest", "using", "a", "focused", "crawler", "academic", "papers", "that", "are", "missing", "from", "our", "digital", "library", ".", "Our", "harvester", "achieves", "a", "performance", "with", "an", "average", "recall", "level", "of", "0.82", "overall", "and", "0.75", "for", "those", "missing", "documents", ".", "Evaluation", "of", "the", "crawler", "'s", "performance", "based", "on", "the", "harvest", "rate", "shows", "definite", "advantages", "over", "other", "crawling", "approaches", "and", "consistently", "outperforms", "a", "defined", "baseline", "crawler", "on", "a", "number", "of", "measures", ".", "H.", "3.7", "-LSB-", "Information", "Systems", "-RSB-", ":", "Information", "Storage", "and", "Retrieval", "Digital", "Libraries", "Algorithms", ",", "Performance", ",", "Design", ",", "Experimentation", ".", "Digital", "libraries", "that", "are", "based", "on", "active", "crawling", "methods", "such", "as", "CiteSeer", "often", "have", "missing", "documents", "in", "collections", "of", "archived", "publications", ",", "such", "as", "ACM", "and", "IEEE", ".", "How", "do", "such", "digital", "libraries", "find", "and", "obtain", "those", "missing", "?", "We", "propose", "using", "external", "resources", "of", "publication", "metadata", "and", "focused", "crawlers", "to", "search", "the", "Web", "for", "those", "missing", ".", "The", "basic", "concept", "of", "a", "focused", "crawler", "-LRB-", "also", "known", "as", "a", "topical", "crawlers", "-RRB-", "-LSB-", "1", "-RSB-", ",", "is", "based", "on", "a", "crawling", "strategy", "that", "relevant", "Web", "pages", "contain", "more", "relevant", "links", ",", "and", "these", "relevant", "links", "should", "be", "explored", "first", ".", "Initially", ",", "the", "measure", "of", "relevancy", "was", "based", "on", "keywords", "matching", ";", "connectivity-based", "metrics", "were", "later", "introduced", "-LSB-", "2", "-RSB-", ".", "In", "-LSB-", "3", "-RSB-", "the", "concept", "of", "a", "focused", "crawler", "was", "formally", "introduced", ":", "a", "crawler", "that", "seeks", ",", "acquires", ",", "indexes", ",", "and", "maintains", "pages", "on", "a", "specific", "set", "of", "topics", "that", "represent", "a", "relatively", "narrow", "segment", "of", "the", "Web", ".", "Today", ",", "focused", "crawling", "techniques", "have", "become", "more", "important", "for", "building", "specialty", "and", "niche", "-LRB-", "vertical", "-RRB-", "search", "engines", "While", "both", "the", "sheer", "volume", "of", "the", "Web", "and", "its", "highly", "dynamic", "content", "increasingly", "challenge", "the", "task", "of", "document", "collection", ",", "digital", "libraries", "based", "on", "crawling", "benefit", "from", "focused", "crawlers", "since", "they", "can", "quickly", "harvest", "a", "high-quality", "subset", "of", "the", "relevant", "online", "documents", ".", "Current", "approaches", "to", "harvesting", "online", "academic", "documents", "normally", "consist", "of", "focused", "crawling", "of", "open-access", "archives", ",", "author", "and", "institution", "web", "sites", "and", "directories", "of", "authors", "'", "self-submissions", ".", "A", "random", "sample", "of", "150", "journals", "and", "conferences", "in", "Computer", "Science", "show", "that", "less", "than", "10", "%", "have", "websites", "that", "are", "open", "to", "crawlers", ".", "Many", "of", "the", "top", "publishing", "venues", "that", "have", "their", "documents", "electronically", "available", "to", "subscribers", "such", "as", "the", "ACM", "Digital", "Library", ",", "the", "IEEE", "Digital", ",", "Library", "or", "the", "Springer-Verlag", "Digital", "Library", ",", "normally", "use", "access", "permission", "techniques", "and", "robots.txt", "to", "ban", "crawlers", ".", "A", "recent", "study", "indicates", "that", "CiteSeer", "indexes", "425", ",", "000", "unique", "research", "documents", "related", "to", "Computer", "Science", ",", "DBLP", "contains", "500,464", "records", "and", "there", "are", "141,345", "records", "in", "the", "Association", "for", "Computing", "Machinery", "-LRB-", "ACM", "-RRB-", "Digital", "Library", "and", "825,826", "records", "in", "the", "more", "comprehensive", "ACM", "Guide", "-LSB-", "4", "-RSB-", ".", "The", "study", "also", "shows", "that", "in", "CiteSeer", "there", "is", "an", "overlapping", "portion", "of", "86", ",", "467", "documents", "-LRB-", "20.2", "%", "of", "CiteSeer", "'s", "total", "archive", "-RRB-", "comprising", "17.3", "%", "of", "the", "Digital", "Bibliography", "&", "Library", "Project", "-LRB-", "DBLP", "-RRB-", "archive", ".", "This", "research", "investigates", "alternative", "online", "resources", "and", "focused", "crawling", "techniques", "to", "build", "a", "complete", "document", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "JCDL", "'", "05", ",", "June", "7", "11", ",", "2005", ",", "Denver", ",", "Colorado", ",", "USA", "Copyright", "2005", "ACM", "1-58113-876-8", "/", "05/0006", "...", "$", "5.00", ".", "301", "collection", "for", "any", "given", "publication", "venue", ".", "We", "propose", "to", "answer", "the", "following", ":", "Q1", "-", "What", "are", "the", "best", "focused", "crawling", "techniques", "to", "maximally", "exploit", "online", "resources", ",", "in", "order", "to", "harvest", "the", "desired", "papers", "effectively", "and", "efficiently", "?", "Q2", "Is", "it", "effective", "to", "use", "authors", "'", "homepages", "as", "alternative", "online", "resources", "to", "find", "the", "missing", "documents", "?", "Q3", "How", "can", "the", "above", "methods", "be", "automated", "to", "effectively", "obtain", "missing", "documents", "?", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", "we", "present", "a", "review", "of", "related", "work", ".", "In", "Section", "3", "we", "cover", "in", "much", "detail", "the", "design", "rationale", "of", "the", "system", ".", "In", "Section", "4", "we", "describe", "how", "we", "collect", "data", "and", "perform", "the", "evaluation", ",", "and", "present", "the", "results", "with", "discussion", ".", "Finally", ",", "we", "conclude", "the", "paper", "with", "future", "work", "proposed", "in", "Section", "5", ".", "The", "focused", "crawling", "literature", "shows", "that", "much", "has", "been", "focused", "on", "enhancing", "the", "dynamic", "performance", ",", "scalability", ",", "effectiveness", ",", "and", "efficiency", "of", "the", "crawler", ",", "namely", ",", "harvesting", "higher-quality", "documents", "in", "a", "shorter", "period", "of", "time", ".", "Breadth-first", "searching", "is", "probably", "the", "simplest", "strategy", "for", "crawling", ",", "i.e.", "traversing", "the", "Web", "in", "a", "way", "that", "a", "directed", "graph", "is", "traveled", "using", "a", "breadth-first", "search", "algorithm", ".", "Interestingly", ",", "a", "breadth-first", "crawler", "is", "found", "to", "be", "capable", "of", "yielding", "high-quality", "documents", "at", "an", "early", "stage", "of", "the", "crawl", "-LSB-", "5", "-RSB-", ".", "Although", "more", "sophisticated", "crawlers", "tend", "to", "retrieve", "even", "higher", "quality", "pages", "than", "their", "breadth-first", "counterparts", ",", "they", "are", "usually", "computationally", "more", "expensive", ".", "In", "our", "study", ",", "we", "use", "a", "multi-threaded", "breadth-first", "crawler", "as", "a", "baseline", "to", "compare", "to", "our", "own", "crawling", "method", ".", "Best-first", "crawling", "attempts", "to", "direct", "the", "crawler", "towards", "the", "best", "-LRB-", "i.e.", "most", "relevant", "in", "terms", "of", "topic", "relevance", "-RRB-", "documents", ".", "Different", "heuristics", ",", "such", "as", "link-based", "criteria", ",", "lexical", "similarity", "measures", ",", "contextual", "knowledge", ",", "and", "fine-tuned", "combinations", "of", "such", "have", "been", "explored", "in", "a", "number", "of", "studies", "over", "the", "years", ".", "In", "-LSB-", "2", "-RSB-", ",", "the", "authors", "find", "that", "PageRank", "-LSB-", "6", "-RSB-", "can", "yield", "the", "best", "performance", "when", "ordering", "seed", "URLs", ".", "However", ",", "a", "more", "recent", "study", "-LSB-", "7", "-RSB-", "shows", "that", "PageRank", "metrics", "may", "just", "be", "too", "general", "in", "context", "without", "regard", "to", "the", "specific", "target", "topic", ".", "An", "updated", "version", "of", "PageRank", "algorithm", "which", "reflects", "the", "importance", "with", "respect", "to", "a", "particular", "topic", "has", "been", "proposed", "-LSB-", "8", "-RSB-", ".", "In", "-LSB-", "3", "-RSB-", ",", "a", "Bayesian", "classifier", "is", "used", "to", "estimate", "the", "probability", "that", "a", "page", "belongs", "to", "the", "target", "topic", ",", "in", "a", "way", "that", "a", "node", "belongs", "to", "a", "certain", "position", "in", "an", "existing", "taxonomy", "hierarchy", ".", "In", "-LSB-", "9", "-RSB-", ",", "a", "keyword-based", "vector", "space", "model", "is", "used", "to", "calculate", "the", "similarity", "of", "Web", "pages", "to", "the", "seed", "URLs", ",", "and", "if", "the", "similarity", "is", "above", "a", "certain", "threshold", ",", "the", "pages", "are", "downloaded", "and", "indexed", ",", "and", "their", "out-going", "links", "are", "followed", ".", "A", "focused", "crawler", "-LSB-", "10", "-RSB-", "based", "on", "context", "graphs", "is", "proposed", "by", "so", "that", "the", "crawler", "can", "extract", "information", "about", "the", "context", "within", "which", "desired", "documents", "are", "usually", "found", ".", "A", "set", "of", "classifiers", "are", "then", "trained", "to", "classify", "in-degree", "Web", "pages", "according", "to", "an", "estimation", "of", "their", "relevance", "to", "the", "topic", ".", "The", "relevance", "estimation", "then", "navigates", "the", "crawler", "towards", "desired", "documents", ".", "Crawlers", "with", "a", "probability", "model", "are", "used", "for", "calculating", "priorities", ",", "which", "combines", "Web", "page", "content-based", "learning", ",", "URL", "token-based", "learning", ",", "and", "link-based", "learning", "-LSB-", "11", "-RSB-", ".", "In", "a", "later", "work", ",", "-LSB-", "12", "-RSB-", "takes", "into", "account", "the", "users", "'", "access", "behavior", "and", "re-tunes", "the", "previous", "model", "to", "connect", "this", "behavior", "with", "the", "predicate", "satisfaction", "probability", "of", "the", "candidate", "Web", "pages", "waiting", "to", "be", "crawled", ".", "An", "interesting", "``", "reversed", "''", "approach", "is", "proposed", "in", "-LSB-", "13", "-RSB-", ",", "which", "suggests", "a", "given", "scientific", "document", "from", "a", "digital", "library", "be", "used", "as", "an", "input", "to", "the", "focused", "crawler", ".", "The", "main", "title", "and", "reference", "titles", "of", "the", "document", "are", "extracted", "and", "used", "to", "train", "a", "classifier", "to", "learn", "topical", "knowledge", ".", "The", "crawler", "is", "then", "guided", "by", "such", "knowledge", "to", "discover", "other", "topic-relevant", "documents", "on", "the", "Web", ".", "More", "up-to-date", "reviews", "of", "focused", "crawling", "algorithms", "are", "presented", "in", "-LSB-", "14", "-RSB-", "and", "-LSB-", "15", "-RSB-", ".", "In", "-LSB-", "14", "-RSB-", ",", "five", "different", "methods", "are", "implemented", "and", "evaluated", "within", "a", "unified", "evaluation", "framework", "on", "small", "and", "large", "datasets", ".", "Here", "we", "discuss", "two", "studies", "that", "bear", "similarities", "to", "ours", ".", "The", "HPSearch", "and", "Mops", "presented", "in", "-LSB-", "16", "-RSB-", "support", "the", "search", "for", "research", "papers", "close", "to", "the", "homepages", "of", "certain", "scientists", ".", "However", ",", "their", "system", "does", "not", "investigate", "the", "issues", "of", "document", "harvesting", "for", "digital", "libraries", "for", "different", "publishing", "venues", ".", "Furthermore", ",", "our", "system", "outperforms", "theirs", "in", "terms", "of", "the", "percentage", "of", "correct", "homepages", "returned", ".", "In", "a", "more", "recent", "study", "-LSB-", "17", "-RSB-", ",", "a", "Paper", "Search", "Engine", "-LRB-", "PaSE", "-RRB-", "is", "proposed", ",", "which", "uses", "citation", "information", "to", "locate", "online", "copies", "of", "scientific", "documents", ".", "While", "their", "study", "addresses", "a", "different", "research", "question", ",", "the", "PaSE", "system", "employs", "similar", "heuristics", "as", "we", "do", "to", "favor", "certain", "out-going", "links", "in", "order", "to", "quickly", "locate", "academic", "papers", ".", "We", "develop", "an", "automated", "system", "in", "which", "document", "metadata", "is", "used", "to", "automatically", "locate", "the", "homepages", "of", "the", "authors", "and", "focused", "crawl", "these", "homepages", "with", "the", "intent", "of", "finding", "missing", "documents", ".", "Our", "system", ",", "shown", "in", "Figure", "1", ",", "consists", "of", "a", "Homepage", "Aggregator", "and", "a", "smart", "Focused", "Crawler", ".", "The", "system", "accepts", "a", "user", "'s", "request", "to", "harvest", "the", "desired", "papers", "published", "in", "a", "specific", "venue", "-LRB-", "e.g.", "a", "conference", "or", "a", "journal", "-RRB-", ".", "The", "Homepage", "Aggregator", "will", "query", "a", "Public", "Metadata", "Repository", "and", "extract", "useful", "metadata", "heuristics", "to", "assist", "in", "quickly", "and", "accurately", "locating", "URLs", "of", "the", "authors", "'", "homepages", ".", "A", "list", "of", "such", "URLs", "will", "be", "inserted", "into", "the", "Homepage", "URL", "Database", ".", "The", "Crawler", "uses", "focused", "crawling", "techniques", "to", "search", "the", "domains", "for", "desired", "publications", ".", "It", "accepts", "the", "seed", "URLs", "as", "an", "input", "and", "uses", "them", "as", "starting", "points", "for", "the", "crawl", ".", "The", "Crawler", "uses", "anchor", "text", "to", "determine", "link", "priorities", "and", "quickly", "navigates", "through", "the", "websites", "using", "to", "get", "to", "the", "desired", "academic", "papers", ".", "The", "harvested", "documents", "will", "be", "stored", "in", "the", "Document", "Database", ".", "302", "Figure", "1", ".", "System", "Architecture", "3.2", "Using", "Metadata", "to", "Locate", "Homepages", "Crawling", "authors", "'", "homepages", "first", "requires", "the", "system", "to", "be", "able", "to", "locate", "such", "websites", "quickly", "and", "accurately", ".", "A", "study", "of", "the", "literature", "indicates", "that", "personal", "website", "and", "homepage", "finding", "have", "been", "studied", "a", "lot", "since", "the", "birth", "of", "WWW", ".", "In", "-LSB-", "18", "-RSB-", ",", "the", "authors", "present", "AHOY", "!", "as", "the", "first", "working", "system", "for", "personal", "homepage", "finding", ",", "which", "can", "filter", "irrelevant", "pages", "based", "on", "pattern", "matching", "heuristics", ".", "Later", ",", "the", "TREC", "-LRB-", "Text", "REtrieval", "Conference", "-RRB-", "hosted", "the", "task", "of", "Web", "homepage", "finding", "in", "2001", "and", "its", "subsequent", "years", ",", "and", "algorithms", "based", "on", "link", "analysis", ",", "linguistic", "cues", ",", "and", "machine", "learning", "etc.", "are", "proposed", "-LSB-", "19", ",", "20", ",", "21", "-RSB-", ".", "Examples", "of", "current", "working", "systems", "include", "HomePageSearch", "-LRB-", "hpsearch.uni-trier", ".", "de", "-RRB-", "which", "is", "a", "Homepage", "Aggregator", "mainly", "for", "computer", "scientists", ",", "and", "compiled", "directories", "-LRB-", "e.g.", "Google", "Directory", "-RRB-", "See", "Figure", "2", "for", "the", "architecture", "of", "the", "Homepage", "Aggregator", "component", ".", "Figure", "2", ".", "Architecture", "of", "the", "Homepage", "Aggregator", "The", "goal", "of", "the", "Homepage", "Aggregator", "is", "to", "look", "for", "homepages", "of", "the", "authors", "and", "save", "them", "as", "seed", "URLs", "to", "feed", "the", "Focused", "Crawler", ".", "First", "it", "queries", "the", "Metadata", "Repository", "and", "retrieves", "the", "document", "metadata", ".", "For", "each", "author", ",", "it", "extracts", "from", "metadata", "a", "value", "pair", "of", "-LRB-", "N", ",", "P", "-RRB-", ",", "where", "N", "is", "the", "name", "of", "the", "author", "and", "P", "is", "the", "name", "of", "the", "venue", "-LRB-", "with", "a", "number", "of", "variations", "-RRB-", "in", "which", "the", "paper", "is", "published", ".", "A", "list", "of", "such", "pairs", "is", "then", "submitted", "to", "a", "Web", "search", "engine", ".", "Pages", "returned", "by", "the", "search", "engine", "will", "go", "through", "a", "Homepage", "Filter", "where", "we", "use", "metadata", "heuristics", "to", "remove", "false", "positives", "-LRB-", "pages", "that", "are", "not", "likely", "to", "be", "the", "homepages", "of", "the", "authors", "-RRB-", "and", "disambiguate", "among", "namesakes", ",", "if", "there", "is", "any", ".", "Different", "priority", "weights", "are", "assigned", "to", "the", "remaining", "pages", "according", "to", "their", "likelihood", "of", "being", "the", "homepage", "of", "the", "author", ".", "The", "more", "likely", "it", "'s", "the", "homepage", "of", "the", "author", ",", "the", "higher", "priority", "it", "receives", ".", "Eventually", "the", "page", "with", "the", "highest", "priority", "weights", "will", "be", "inserted", "into", "the", "Homepage", "URL", "Database", ",", "and", "will", "be", "crawled", "later", ".", "Recall", "that", "we", "extract", "from", "metadata", "a", "pair", "value", "of", "-LRB-", "N", ",", "P", "-RRB-", ".", "Now", "let", "U", "be", "the", "URL", "and", "T", "be", "the", "title", "of", "a", "Web", "page", "P", "returned", "by", "the", "Web", "search", "engine", ".", "When", "there", "are", "more", "than", "two", "authors", "for", "the", "same", "paper", ",", "assume", "Ui", "are", "the", "URLs", "of", "the", "homepages", "of", "other", "authors", "already", "found", "by", "the", "system", ".", "We", "have", "incorporated", "the", "findings", "in", "-LSB-", "16", "-RSB-", "about", "major", "characteristics", "of", "personal", "homepages", ".", "The", "metadata", "heuristics", "employed", "in", "the", "Homepage", "Filter", "are", "explained", "in", "Table", "1", ".", "Table", "1", ".", "Heuristics", "Employed", "in", "Homepage", "Filter", "Function", "Heuristic", "Rules", "Remove", "false", "positives", "Remove", "U", "if", "U", "or", "T", "indicates", "a", "publisher", "'s", "website", ".", "Remove", "U", "if", "U", "or", "T", "indicates", "a", "digital", "library", ".", "Remove", "U", "if", "U", "points", "to", "a", "file", "other", "than", ".", "htm", "/", ".", "html", "Disambiguate", "between", "namesakes", "Choose", "U", "among", "the", "candidates", "if", "U", "is", "in", "the", "same", "domain", "as", "Ui", ".", "Remove", "U", "if", "its", "parent-domain", "is", "already", "found", "by", "the", "system", ".", "Assign", "priority", "U", "receives", "high", "priority", "if", "T", "contains", "N", "and", "any", "of", "the", "following", ":", "homepage", "-LRB-", "home", "page", "-RRB-", ",", "web", "-LRB-", "website", "-RRB-", ",", "research", ",", "publication", ",", "papers", ".", "U", "receives", "medium", "priority", "if", "T", "contains", "any", "of", "the", "following", ":", "homepage", "-LRB-", "home", "page", "-RRB-", ",", "web", "-LRB-", "website", "-RRB-", ",", "research", ",", "publication", ",", "papers", ".", "U", "receives", "low", "priority", "when", "neither", "one", "of", "the", "above", "two", "rules", "is", "fired", ".", "3.3", "Crawler", "Architecture", "The", "Focused", "Crawler", "crawls", "web", "pages", ",", "using", "heuristics", "to", "quickly", "navigate", "to", "the", "publications", ".", "The", "architecture", "of", "the", "component", "is", "shown", "in", "Figure", "3", ".", "The", "crawler", "accepts", "two", "primary", "sets", "of", "inputs", "that", "vary", "for", "each", "crawl", ".", "The", "first", "is", "a", "set", "of", "seed", "URLs", "that", "are", "the", "starting", "points", "of", "the", "crawl", ".", "These", "are", "added", "to", "the", "crawl", "queue", "at", "low", "priority", ".", "The", "second", "set", "of", "inputs", "is", "a", "collection", "of", "domain", "names", "that", "the", "crawler", "is", "permitted", "to", "crawl", ".", "Once", "the", "seed", "URLs", "are", "entered", "into", "the", "queue", ",", "the", "crawler", "threads", "are", "started", ".", "Each", "thread", "gets", "one", "URL", "from", "the", "priority", "queue", ",", "and", "downloads", "the", "page", "that", "it", "points", "to", ".", "After", "a", "page", "is", "downloaded", ",", "the", "out-going", "links", "are", "examined", "and", "those", "matched", "with", "the", "ignored", "list", "are", "removed", ",", "either", "because", "they", "are", "out", "of", "the", "target", "domain", "or", "because", "their", "MIME", "types", "are", "not", "processed", "by", "the", "crawler", ".", "At", "this", "point", ",", "if", "a", "PDF/PostScript", "document", "is", "found", ",", "it", "will", "be", "inserted", "into", "the", "Document", "Database", ".", "The", "rest", "of", "the", "out-going", "links", "will", "each", "be", "classified", "as", "high", ",", "medium", ",", "or", "low", "priority", ",", "and", "inserted", "into", "different", "priority", "queues", ".", "Metadata", "Extractor", "Web", "Search", "Engine", "Homepage", "Filter", "Homepage", "Aggregator", "Public", "Metadata", "Repository", "Homepage", "URL", "Database", "Focused", "Crawler", "Metadata", "Heuristics", "Public", "Metadata", "Repository", "Document", "Database", "Homepage", "URL", "Database", "Homepage", "Aggregator", "303", "Figure", "3", ".", "Architecture", "of", "the", "Focused", "Crawler", "In", "order", "to", "concentrate", "or", "limit", "the", "crawls", "towards", "only", "desirable", "content", ",", "the", "crawler", "is", "provided", "with", "three", "lists", "for", "reference", ".", "The", "contents", "of", "the", "lists", "may", "be", "changed", "depending", "on", "the", "types", "of", "domains", "being", "crawled", ".", "The", "Ignore", "List", "is", "a", "set", "of", "file", "types", "that", "are", "to", "be", "ignored", "by", "the", "crawler", ".", "The", "most", "common", "types", "of", "URLs", "that", "are", "ignored", "by", "the", "crawler", "are", "links", "to", "image", "files", ".", "The", "list", "can", "also", "include", "parts", "of", "the", "domain", "-LRB-", "s", "-RRB-", "being", "crawled", ",", "which", "the", "crawler", "is", "not", "supposed", "to", "visit", ".", "Table", "2", "shows", "a", "sample", "Ignore", "List", ".", "Table", "2", ".", "Sample", "Ignore", "List", "File", "Types", ".", "jpg", ",", ".", "bmp", ",", ".", "gif", ",", ".", "png", ",", ".", "jpeg", ",", ".", "mpg", ",", ".", "mpeg", ",", ".", "avi", "http://clgiles.ist.psu.edu/picture.html", "Domains", "http://clgiles.ist.psu.edu/courses.html", "Files", "of", "type", "JPG", ",", "BMP", "etc", "will", "be", "ignored", "during", "the", "crawl", ".", "Also", "any", "outgoing", "links", "to", "pages", "within", "the", "ignored", "domains", "will", "not", "be", "considered", "for", "crawling", ".", "The", "Allow", "List", "on", "the", "other", "hand", "is", "a", "collection", "of", "domain", "names", "that", "make", "up", "the", "crawl", "space", "of", "the", "crawler", ".", "Links", "pointing", "outside", "the", "specified", "domains", "are", "ignored", "by", "the", "crawler", "-LRB-", "unless", "they", "are", "determined", "to", "be", "research", "documents", "-RRB-", ".", "This", "list", "is", "useful", "to", "limit", "the", "breadth", "of", "the", "crawl", "to", "only", "those", "domains", "that", "are", "of", "interest", ".", "Table", "3", "shows", "a", "sample", "Allow", "List", ".", "Table", "3", ".", "Sample", "Allow", "List", "Domains", "http://clgiles.ist.psu.edu", "So", "the", "link", "http://clgiles.ist.psu.edu", "will", "be", "considered", "for", "crawling", "if", "it", "'s", "discovered", ".", "Priority", "lists", "contain", "a", "set", "of", "keywords", "and", "their", "assigned", "weights", "that", "are", "used", "to", "determine", "the", "priorities", "of", "the", "extracted", "links", ".", "The", "links", "will", "be", "visited", "by", "the", "crawler", "in", "the", "order", "of", "their", "assigned", "priority", ".", "The", "Crawl", "Queue", "holds", "the", "discovered", "URLs", "that", "are", "yet", "to", "be", "crawled", ".", "This", "queue", "consists", "of", "three", "sub-queues", ":", "High-priority", ",", "Medium-priority", "and", "Low-priority", "queue", ".", "The", "Low-priority", "queue", "is", "the", "default", "queue", ".", "The", "seed", "URLs", "are", "entered", "into", "this", "queue", ".", "We", "adopt", "a", "simple", "yet", "very", "effective", "heuristics", "to", "make", "the", "priority", "classification", "based", "upon", "the", "likelihood", "of", "the", "link", "eventually", "leading", "to", "academic", "publications", ".", "We", "first", "train", "a", "classifier", "with", "data", "collected", "from", "two", "publishing", "venues", ":", "the", "Very", "Large", "Data", "Bases", "-LRB-", "VLDB", "-RRB-", "Conference", "and", "the", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "-RRB-", ".", "Several", "crawls", "are", "carried", "out", "with", "a", "breadth-first", "policy", ".", "The", "logs", "of", "the", "crawls", "are", "analyzed", "and", "a", "traverse", "tree", "is", "generated", "for", "each", "of", "the", "crawl", "that", "indicates", "the", "URLs", "visited", "and", "the", "link", "path", "that", "is", "followed", "by", "the", "crawler", "to", "reach", "the", "desired", "publications", ".", "Consider", "a", "small", "website", "having", "11", "pages", "as", "shown", "in", "Figure", "4", ".", "Figure", "4", ".", "Sample", "Website", "The", "circles", "represent", "URL", "'s", "in", "the", "website", "and", "the", "arrows", "are", "the", "hyperlinks", "from", "one", "page", "to", "another", ".", "The", "link", "structure", "shown", "is", "that", "which", "is", "followed", "by", "the", "breadth-first", "crawler", "to", "visit", "each", "URL", ".", "All", "other", "links", "such", "as", "those", "that", "may", "point", "outside", "the", "domain", "are", "ignored", "in", "the", "above", "diagram", ".", "The", "node", "marked", "with", "`", "S", "'", "is", "the", "seed", "or", "start", "URL", ".", "The", "nodes", "marked", "with", "`", "P", "'", "are", "research", "document", "files", "that", "are", "detected", "by", "the", "crawler", ".", "Now", "the", "links", "that", "are", "of", "interest", "to", "us", "are", "S", "A", "P", "and", "S", "C", "D", "P", ".", "The", "anchor", "text", "contained", "in", "these", "links", "`", "SA", "'", ",", "`", "AP", "'", ",", "`", "SC", "'", ",", "`", "SD", "'", ",", "`", "DP", "'", "is", "extracted", "and", "marked", "as", "`", "interesting", "'", ".", "The", "text", "in", "the", "remainder", "of", "the", "links", "is", "also", "noted", ",", "but", "goes", "in", "`", "not", "interesting", "'", "set", ".", "Similar", "analysis", "is", "done", "on", "all", "the", "logs", "that", "are", "generated", "by", "the", "breadth-first", "crawl", ".", "All", "the", "keywords", "that", "are", "commonly", "occurring", "in", "the", "``", "interesting", "''", "class", "and", "not", "so", "commonly", "occurring", "in", "the", "``", "non-interesting", "''", "class", "are", "extracted", ".", "Weights", "are", "assigned", "to", "each", "of", "these", "keywords", "depending", "on", "their", "placement", "in", "the", "link", "structure", ".", "The", "keywords", "closer", "to", "the", "documents", "are", "given", "more", "weight", "that", "those", "closer", "to", "the", "seed", "URL", ".", "For", "e.g.", "keyword", "`", "SA", "'", "has", "a", "lesser", "weight", "than", "keyword", "`", "DP", "'", "as", "`", "DP", "'", "is", "closer", "to", "P", "than", "to", "S", "as", "opposed", "to", "`", "SA", "'", ".", "The", "formula", "for", "calculating", "keyword", "weight", "is", ":", "W", "-LRB-", "OT", "oq", "-RRB-", "=", "D", "-LRB-", "Q", "-RRB-", "/", "D", "-LRB-", "P", "-RRB-", "-LRB-", "I", "-RRB-", "where", "OT", "oq", "is", "the", "anchor", "text", "of", "the", "out-going", "link", "from", "page", "O", "to", "page", "Q", ";", "P", "is", "the", "desired", "academic", "paper", "found", "by", "following", "the", "link", "from", "O", "to", "Q", ";", "D", "-LRB-", "P", "-RRB-", "denotes", "the", "distance", "-LRB-", "number", "of", "hops", "-RRB-", "between", "P", "and", "the", "starting", "URL", "S", "on", "the", "path", "S", "A", "B", "C", "P", "E", "D", "P", "Depth", "1", "Depth", "2", "Depth", "3", "Depth", "0", "Homepage", "URL", "Database", "Document", "Database", "Ignore", "List", "Priority", "Queues", "Priority", "Heuristics", "Download", "Pages", "Link", "Extractor", "Link", "Filter", "Link", "Priority", "Analyzer", "PDF/PS", "Documents", "Crawler", "Thread", "Allow", "List", "304", "S.", ".", ".", "OQ", "...", "P", ";", "D", "-LRB-", "Q", "-RRB-", "denotes", "the", "distance", "between", "Q", "and", "the", "starting", "URL", "S", "on", "the", "path", "S.", ".", ".", "OQ", ".", "Now", "that", "a", "list", "of", "anchor", "texts", "and", "their", "corresponding", "priority", "weights", "has", "been", "compiled", "during", "the", "training", "process", ",", "we", "can", "classify", "each", "of", "them", "into", "different", "priority", "categories", "according", "to", "the", "weights", ".", "Table", "4", "shows", "a", "few", "samples", "extracted", "from", "our", "list", ".", "Table", "4", ".", "Sample", "Anchor", "Texts", "Priority", "Anchor", "Texts", "p_High", "volume", ",", "pub", ",", "paper", ",", "conf", ",", "journal", ",", "content", ",", "program", ",", "research", ",", "list", "p_Medium", "topic", ",", "faculty", ",", "people", ",", "group", ",", "lab", "We", "now", "need", "to", "consider", "how", "to", "prioritize", "out-going", "links", "that", "are", "more", "likely", "to", "lead", "to", "desired", "academic", "publications", ".", "The", "anchor", "text", "in", "these", "links", "is", "compared", "against", "the", "weighted", "keywords", ".", "If", "any", "of", "the", "weighted", "keywords", "are", "present", "in", "the", "text", ",", "the", "comparison", "is", "considered", "to", "be", "successful", ".", "There", "are", "no", "keywords", "having", "more", "than", "one", "weight", ".", "The", "final", "priority", "of", "the", "link", "is", "calculated", "by", "the", "following", "function", ".", "The", "priority", "of", "a", "link", "may", "also", "depend", "on", "the", "priority", "of", "its", "parent", ".", "This", "is", "mainly", "due", "to", "the", "fact", "that", "not", "all", "the", "links", "that", "emerge", "from", "a", "page", "with", "a", "medium", "or", "high", "priority", "may", "lead", "to", "a", "research", "document", ".", "For", "e.g.", "in", "Figure", "4", "the", "node", "`", "C", "'", "will", "be", "crawled", "with", "a", "medium", "priority", ",", "however", "only", "node", "`", "D'", "leads", "to", "a", "research", "document", ".", "The", "priority", "of", "the", "node", "`", "E", "'", "is", "thus", "reduced", "to", "low", "as", "it", "will", "not", "have", "a", "weighted", "keyword", "attached", "to", "it", "and", "that", "of", "`", "D'", "is", "increased", "to", "high", ".", "The", "priorities", "of", "links", "thus", "established", "are", "used", "to", "insert", "the", "link", "in", "the", "proper", "priority", "queue", "for", "crawling", ".", "In", "order", "to", "achieve", "high", "efficiency", ",", "the", "crawler", "spawns", "multiple", "threads", "which", "will", "be", "fed", "with", "URLs", "on", "the", "descending", "order", "of", "priority", ".", "When", "there", "is", "no", "URL", "left", "in", "the", "priority", "queues", "and", "no", "crawler", "thread", "is", "currently", "running", ",", "the", "crawling", "task", "is", "finished", ".", "We", "have", "collected", "data", "from", "two", "Computer", "Science", "publication", "venues", ":", "the", "ACM", "SIGMOD", "International", "Workshop", "on", "the", "Web", "and", "Databases", "-LRB-", "WebDB", "-RRB-", ",", "first", "held", "in", "1998", "and", "then", "each", "year", "in", "conjunction", "with", "the", "annual", "ACM", "SIGMOD", "Conference", ",", "and", "Journal", "of", "Artificial", "Intelligence", "Research", "-LRB-", "JAIR", "-RRB-", ",", "which", "was", "established", "in", "1993", "both", "as", "an", "electronic", "scientific", "journals", "and", "a", "hard-copy", "semiyearly", "published", "by", "AAAI", "Press", ".", "We", "choose", "these", "two", "venues", "because", "both", "of", "them", "are", "highly", "selective", "venues", "with", "less", "than", "a", "25", "%", "acceptance", "rate", "and", "we", "want", "to", "observe", "if", "there", "is", "a", "major", "difference", "of", "performance", "between", "conferences", "and", "journals", ".", "We", "have", "extracted", "the", "metadata", "of", "WebDB", "and", "JAIR", "from", "the", "DBLP", "repository", ".", "By", "analyzing", "these", "metadata", ",", "we", "successfully", "identify", "the", "593", "unique", "authors", "who", "have", "in", "total", "published", "289", "papers", "in", "either", "one", "of", "these", "two", "venues", "during", "the", "period", "from", "1998", "to", "2004", ".", "Please", "see", "Table", "5", "for", "more", "details", "of", "the", "dataset", ".", "Table", "5", ".", "Statistics", "of", "the", "collected", "data", "WebDB", "JAIR", "Year", "Unique", "Authors", "Publication", "Unique", "Authors", "Publication", "1998", "32", "13", "40", "20", "1999", "51", "17", "50", "28", "2000", "61", "20", "33", "20", "2001", "51", "18", "45", "25", "2002", "47", "17", "64", "27", "2003", "56", "17", "72", "30", "2004", "51", "16", "57", "21", "Total", "285\u00a0118\u00a0308\u00a0171", "In", "order", "to", "examine", "whether", "our", "approach", "is", "effective", "in", "recovering", "those", "missing", "documents", "from", "a", "digital", "library", ",", "we", "use", "the", "CiteSeer", "Scientific", "Digital", "Library", "as", "another", "data", "source", ".", "Cross-referencing", "the", "metadata", "of", "each", "of", "the", "two", "venues", "from", "DBLP", ",", "we", "successfully", "identified", "30", "out", "of", "118", "-LRB-", "25.42", "%", "-RRB-", "WebDB", "papers", "and", "46", "out", "of", "171", "-LRB-", "26.90", "%", "-RRB-", "JAIR", "papers", "that", "are", "not", "indexed", "by", "CiteSeer", "-LRB-", "see", "Figure", "5", "for", "details", "-RRB-", ".", "This", "is", "done", "by", "exact", "title-matching", "between", "the", "records", "in", "the", "DBLP", "metadata", "repository", "and", "the", "CiteSeer", "document", "archive", ".", "WebDB", "8", "12", "17", "13", "10", "14", "14", "5", "5", "3", "5", "7", "3", "2", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "80", "%", "90", "%", "100", "%", "1998", "1999", "2000", "2001", "2002", "2003", "2004", "NOT", "Indexed", "Indexed", "JAIR", "17", "25", "20", "21", "17", "16", "15", "3", "3", "0", "4", "10", "14", "6", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "80", "%", "90", "%", "100", "%", "1998", "1999", "2000", "2001", "2002", "2003", "2004", "NOT", "Indexed", "Indexed", "Figure", "5", ".", "Coverage", "of", "the", "two", "venues", "by", "CiteSeer", "The", "metadata", "extracted", "from", "DBLP", "are", "also", "used", "as", "heuristics", "to", "locate", "the", "homepages", "of", "the", "593", "authors", ".", "The", "name", "of", "the", "author", "/", "/", "Get_Priority", "-LRB-", "-RRB-", ":", "Returns", "the", "priority", "for", "link", "L", "T", "with", "anchor", "text", "T", "which", "has", "weight", "W", "T", ".", "/", "/", "Low", "=", "0", ",", "Medium", "=", "1", ",", "High", "=", "2", "-LRB-", "for", "weight", "and", "priority", "-RRB-", "Get_Priority", "-LCB-", "If", "W", "T", "=", "0", "and", "-LRB-", "Priority", "-LRB-", "Parent", "-LRB-", "L", "T", "-RRB-", "-RRB-", ">", "0", "then", "Priority", "-LRB-", "L", "T", "-RRB-", "=", "Priority", "-LRB-", "Parent", "-LRB-", "L", "T", "-RRB-", "-RRB-", "-1", ";", "Else", "if", "W", "T", ">", "0", "Priority", "-LRB-", "L", "T", "-RRB-", "=", "W", "T", ";", "End", "IF", "Return", "-LRB-", "Priority", "-LRB-", "L", "T", "-RRB-", "-RRB-", ";", "-RCB-", "305", "and", "the", "corresponding", "venue", "-LRB-", "with", "a", "number", "of", "variations", "-RRB-", "are", "submitted", "to", "Google", "API", "and", "the", "first", "10", "URLs", "returned", "are", "parsed", "automatically", "by", "the", "Homepage", "Filter", "component", ".", "Using", "the", "heuristics", "discussed", "in", "the", "previous", "section", ",", "we", "assign", "priority", "weights", "to", "each", "of", "the", "URLs", ".", "For", "each", "author", ",", "URLs", "with", "the", "highest", "priority", "weights", "are", "inserted", "into", "the", "URL", "Database", "and", "crawled", "by", "the", "Focused", "Crawler", "at", "a", "later", "stage", ".", "We", "have", "manually", "examined", "the", "records", "in", "the", "URL", "Database", "in", "order", "to", "evaluate", "the", "effectiveness", "of", "the", "Homepage", "Aggregator", ".", "In", "total", ",", "homepages", "of", "539", "authors", "-LRB-", "90.89", "%", "-RRB-", "have", "been", "found", ".", "Details", "about", "the", "54", "authors", "whose", "homepages", "can", "not", "be", "found", "by", "the", "system", "are", "shown", "in", "Table", "6", ".", "Here", "we", "define", "Non-U.S.", "authors", "to", "be", "those", "whose", "affiliations", "are", "not", "currently", "in", "the", "States", ".", "Table", "6", ".", "Number", "of", "authors", "whose", "homepages", "are", "not", "found", "WebDB", "JAIR", "U.S.", "Authors", "13", "6", "Non-U.S.", "Authors", "25", "10", "Total", "-LRB-", "Percentage", "-RRB-", "38", "-LRB-", "13.33", "%", "-RRB-", "16", "-LRB-", "5.19", "%", "-RRB-", "There", "are", "only", "2", "papers", "-LRB-", "-LSB-", "22", "-RSB-", ",", "-LSB-", "23", "-RSB-", "-RRB-", "of", "which", "all", "the", "authors", "'", "homepages", "are", "not", "found", "by", "the", "system", ",", "which", "account", "for", "less", "than", "1", "%", "of", "the", "289", "papers", "in", "our", "data", "set", ".", "In", "other", "words", ",", "although", "the", "system", "fails", "to", "locate", "the", "homepages", "of", "about", "9", "%", "of", "the", "authors", ",", "it", "is", "not", "a", "major", "performance", "impact", "on", "the", "document", "recall", "and", "the", "crawler", "should", "still", "be", "able", "to", "find", "99.31", "%", "of", "all", "the", "papers", ".", "For", "the", "cases", "where", "the", "system", "fails", "to", "locate", "some", "of", "the", "homepages", ",", "we", "notice", "that", "most", "of", "the", "19", "U.S.", "authors", "whose", "homepages", "are", "not", "found", "were", "actually", "in", "their", "graduate", "programs", "when", "they", "co-authored", "the", "paper", ",", "and", "their", "Web", "presences", "seem", "to", "have", "disappeared", "after", "graduation", ".", "In", "addition", ",", "there", "'s", "a", "significant", "difference", "between", "the", "numbers", "of", "U.S.", "and", "non-U.S.", "authors", "whose", "homepages", "can", "not", "be", "found", ",", "with", "non-U.S.", "almost", "twice", "the", "number", "of", "U.S.", "authors", ".", "Since", "this", "is", "our", "initial", "attempt", "limited", "to", "only", "the", "domain", "of", "computer", "science", ",", "whether", "this", "difference", "holds", "true", "for", "other", "disciplines", "and", "the", "reason", "behind", "remain", "an", "open", "question", ".", "Finally", ",", "there", "are", "several", "cases", "where", "the", "homepages", "of", "those", "with", "famous", "names", "actually", "show", "up", "instead", "of", "the", "desired", "authors", ".", "For", "example", ",", "a", "search", "via", "Google", "API", "for", "the", "first", "author", "in", "-LSB-", "24", "-RSB-", "returns", "the", "homepage", "of", "a", "comic", "artist", ".", "The", "top", "5", "websites", "for", "George", "Russell", ",", "the", "first", "author", "of", "-LSB-", "25", "-RSB-", ",", "happen", "to", "belong", "to", "that", "of", "a", "famous", "Jazz", "musician", ".", "There", "are", "also", "a", "few", "cases", "where", "the", "search", "engine", "actually", "returns", "the", "homepage", "of", "the", "co-author", "instead", "of", "the", "author", "himself", ",", "because", "the", "author", "'s", "name", "is", "listed", "on", "the", "co-author", "'s", "page", "as", "a", "collaborator", "and", "the", "co-author", "'s", "page", "receives", "a", "higher", "page", "ranking", ".", "All", "these", "indicate", "that", "the", "disambiguation", "capability", "needs", "to", "be", "improved", ".", "4.1", "Finding", "Desired", "Academic", "Publications", "When", "the", "crawl", "is", "finished", ",", "we", "manually", "examine", "the", "downloaded", "PDF/PostScript", "documents", "in", "order", "to", "evaluate", "the", "performance", "of", "the", "crawler", ".", "In", "total", ",", "the", "crawler", "has", "acquired", "236", "out", "of", "the", "289", "papers", "-LRB-", "81.66", "%", "-RRB-", "published", "in", "WebDB", "-LRB-", "100", "out", "of", "118", ",", "84.75", "%", "-RRB-", "and", "JAIR", "-LRB-", "136", "out", "of", "171", ",", "79.53", "%", "-RRB-", "from", "1998", "to", "2004", ".", "For", "details", "of", "the", "results", "for", "each", "venue", ",", "please", "see", "Figure", "6", "and", "7", ".", "WebDB", ",", "1998", "-", "2004", "0", "5", "10", "15", "20", "25", "1998", "1999", "2000", "2001", "2002", "2003", "2004", "Numb", "er", "Papers", "found", "Papers", "published", "Figure", "6", ".", "Number", "of", "WebDB", "Papers", "JAIR", ",1998", "-", "2004", "0", "5", "10", "15", "20", "25", "30", "35", "1998", "1999", "2000", "2001", "2002", "2003", "2004", "Number", "Papers", "found", "Papers", "published", "Figure", "7", ".", "Number", "of", "JAIR", "Papers", "Here", "we", "adopt", "one", "of", "the", "performance", "metrics", ",", "recall", "level", ",", "first", "proposed", "in", "-LSB-", "16", "-RSB-", "and", "used", "in", "-LSB-", "17", "-RSB-", ".", "Recall", "level", "is", "defined", "as", ":", "-LRB-", "i", "-RRB-", "=", "|", "S", "-LRB-", "i", "-RRB-", "T", "|", "/", "|", "T", "|", "where", "S", "-LRB-", "i", "-RRB-", "is", "the", "set", "of", "documents", "downloaded", "by", "the", "crawler", "during", "a", "crawl", "on", "the", "dataset", "of", "a", "calendar", "year", "i", ";", "T", "is", "the", "set", "of", "desired", "documents", ",", "which", "in", "this", "study", "are", "the", "papers", "published", "by", "a", "specific", "venue", "in", "the", "same", "calendar", "year", ".", "This", "measure", "represents", "the", "capability", "of", "the", "system", "to", "capture", "desired", "academic", "papers", ".", "Overall", ",", "our", "system", "has", "achieved", "a", "recall", "level", "of", "0.8475", "for", "WebDB", "and", "0.7953", "for", "JAIR", "documents", ".", "See", "Figure", "8", "for", "more", "details", ".", "It", "'s", "interesting", "to", "note", "that", "while", "the", "recall", "level", "of", "WebDB", "is", "constantly", "increasing", "until", "reaching", "1.0", "in", "the", "last", "two", "years", ",", "the", "recall", "level", "of", "JAIR", "seems", "to", "fluctuate", "around", "0.8", "over", "the", "7-years", "period", ".", "We", "find", "that", "29", "out", "of", "the", "35", "-LRB-", "82.86", "%", "-RRB-", "JAIR", "papers", "not", "found", "by", "the", "system", "are", "actually", "downloadable", "via", "a", "link", "from", "the", "authors", "'", "homepages", "to", "the", "publisher", "'s", "website", ".", "Yet", "we", "miss", "these", "papers", "simply", "because", "we", "limit", "our", "crawler", "not", "to", "go", "beyond", "the", "domain", "of", "authors", "'", "homepages", ".", "We", "believe", "that", "a", "more", "sophisticated", "domain", "restriction", "for", "the", "crawler", "can", "be", "easily", "employed", "in", "order", "to", "achieve", "an", "even", "higher", "recall", "level", ".", "306", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1998", "1999", "2000", "2001", "2002", "2003", "2004", "Reca", "ll", "Level", "WebDB", "JAIR", "Figure", "8", ".", "Overall", "Recall", "Level", ",", "1998", "-", "2004", "We", "calculate", "the", "recall", "level", "for", "the", "documents", "published", "in", "WebDB", "and", "JAIR", "yet", "missing", "from", "CiteSeer", "'s", "collection", "-LRB-", "see", "Figure", "9", "-RRB-", ".", "In", "this", "case", ",", "S", "-LRB-", "i", "-RRB-", "is", "the", "set", "of", "missing", "documents", "downloaded", "by", "the", "crawler", ",", "and", "T", "is", "the", "set", "of", "the", "papers", "not", "indexed", "by", "CiteSeer", "and", "missing", "from", "the", "collection", ".", "On", "average", ",", "the", "recall", "level", "has", "achieved", "0.78", "for", "WebDB", "and", "0.72", "for", "JAIR", ".", "Especially", "WebDB", "'s", "recall", "level", "is", "constantly", "increasing", ",", "reaching", "1.0", "for", "the", "last", "three", "years", ".", "This", "proves", "that", "it", "'s", "practical", "to", "harvest", "the", "missing", "documents", "for", "a", "given", "publishing", "venue", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1998", "1999", "2000", "2001", "2002", "2003", "2004", "Reca", "l", "l", "L", "e", "v", "e", "l", "WebDB", "JAIR", "Figure", "9", ".", "Recall", "Level", "for", "the", "Missing", "Documents", "The", "trends", "shown", "in", "Figure", "8", "and", "9", "seem", "to", "indicate", "that", "a", "rising", "number", "of", "academic", "papers", "have", "been", "put", "online", ",", "especially", "in", "and", "after", "the", "year", "2000", ".", "However", ",", "it", "'s", "interesting", "to", "note", "that", "it", "seems", "conference/workshop", "authors", "favor", "putting", "their", "publications", "on", "their", "homepages", ",", "while", "journal", "authors", "do", "n't", ".", "Due", "to", "the", "limited", "size", "of", "our", "sample", ",", "we", "feel", "this", "is", "an", "open", "question", "to", "be", "answered", "with", "more", "data", "across", "multiple", "venues", ".", "4.2", "Crawler", "Comparison", ":", "BF", "Crawler", "In", "order", "to", "further", "evaluate", "the", "performance", "of", "our", "system", ",", "we", "also", "compare", "our", "work", "to", "other", "crawling", "approaches", ".", "First", "we", "crawled", "three", "conference", "websites", "using", "our", "system", "and", "a", "breadth-first", "-LRB-", "BF", "-RRB-", "crawler", ".", "Figures", "10", ",", "11", "and", "12", "show", "the", "results", "of", "crawls", "on", "different", "conference", "websites", ".", "The", "BF", "crawls", "are", "shown", "by", "the", "dashed", "line", "while", "the", "results", "of", "the", "focused", "crawler", "are", "shown", "by", "the", "solid", "line", "on", "the", "figures", ".", "The", "horizontal", "axis", "indicates", "the", "number", "of", "pages", "crawled", "and", "the", "vertical", "axis", "represents", "the", "number", "of", "research", "documents", "found", "by", "searching", "those", "pages", ".", "The", "number", "of", "documents", "found", "is", "a", "cumulative", "sum", "of", "all", "PDF", ",", "PS", "and", "GZ", "files", "found", "on", "those", "sites", ".", "Since", "they", "may", "contain", "duplicate", "files", "or", "the", "same", "content", "in", "different", "file", "types", ",", "the", "numbers", "shown", "do", "not", "indicate", "unique", "papers", ".", "The", "number", "of", "pages", "crawled", "does", "not", "include", "academic", "papers", ".", "The", "same", "crawl", "restrictions", "applied", "to", "both", "the", "crawlers", ".", "0", "200", "400", "600", "800", "1000", "1200", "1400", "1600", "1800", "0", "10", "20", "30", "Pages", "Crawled", "Nu", "m", "b", "e", "r", "o", "f", "Do", "c", "u", "m", "e", "n", "t", "s", "FC", "BF", "Figure", "10", ".", "ACL", "Conference", "Crawl", "Figure", "10", "shows", "the", "crawls", "done", "on", "parts", "of", "the", "Association", "for", "Computational", "Linguistics", "-LRB-", "ACL", "-RRB-", "conference", "website", ".", "The", "total", "number", "of", "pages", "crawled", "on", "this", "site", "were", "less", "than", "30", ".", "Both", "crawls", "overlap", "which", "indicates", "that", "there", "is", "virtually", "no", "difference", "between", "the", "document", "detection", "rate", "of", "the", "BF", "crawler", "and", "our", "focused", "crawler", ".", "For", "such", "a", "small", "website", ",", "both", "crawlers", "detect", "the", "same", "number", "of", "documents", "after", "crawling", "the", "same", "number", "of", "pages", "on", "the", "website", ".", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "0", "100", "200", "300", "400", "Pages", "Crawled", "Nu", "m", "b", "e", "r", "o", "f", "Do", "c", "u", "m", "e", "n", "t", "s", "FC", "BF", "Figure", "11", ".", "TREC", "Conference", "Crawl", "Figure", "11", "shows", "the", "crawls", "done", "on", "the", "Text", "Retrieval", "Conference", "-LRB-", "TREC", "-RRB-", "pages", ".", "Here", "the", "total", "of", "pages", "crawled", "is", "about", "1000", "-LRB-", "only", "first", "half", "of", "the", "crawl", "is", "shown", "in", "the", "graph", "-RRB-", ".", "Both", "crawlers", "start", "detecting", "documents", "at", "the", "same", "rate", ".", "After", "detecting", "around", "1393", "documents", "-LRB-", "35", "pages", "crawled", "-RRB-", "the", "document", "detection", "rate", "of", "the", "focused", "crawler", "becomes", "slightly", "better", "than", "the", "BF", "crawler", ".", "Although", "the", "difference", "is", "not", "very", "significant", ",", "the", "focused", "crawler", "does", "detect", "the", "research", "documents", "slightly", "earlier", "in", "the", "crawl", "as", "compared", "to", "the", "BF", "crawler", ".", "The", "BF", "crawler", "detects", "the", "same", "amount", "of", "documents", "-LRB-", "4800", "documents", "-RRB-", "as", "the", "focused", "crawler", "but", "after", "crawling", "20-30", "307", "pages", "more", "than", "the", "focused", "crawler", ".", "The", "total", "number", "of", "documents", "found", "by", "both", "the", "crawlers", "is", "around", "6000", ".", "0", "500", "1000", "1500", "2000", "2500", "3000", "3500", "4000", "0", "500\u00a01000\u00a01500\u00a02000", "2500\u00a03000\u00a03500", "Pages", "Crawled", "Nu", "m", "b", "e", "r", "o", "f", "Do", "c", "u", "m", "e", "n", "t", "s", "FC", "BF", "Figure", "12", ".", "VLDB", "Conference", "Crawl", "The", "crawls", "performed", "on", "the", "Very", "Large", "Database", "-LRB-", "VLDB", "-RRB-", "conference", "pages", "as", "shown", "in", "Figure", "12", "indicate", "that", "the", "focused", "crawler", "detects", "the", "documents", "much", "earlier", "in", "the", "crawl", ".", "Here", "the", "total", "number", "of", "pages", "crawled", "is", "about", "3500", ".", "Approximately", "28", "%", "-LRB-", "1000", "out", "of", "3500", "-RRB-", "of", "the", "documents", "are", "located", "by", "both", "the", "crawlers", "after", "crawling", "around", "8.5", "%", "-LRB-", "300", "out", "of", "3500", "-RRB-", "of", "the", "domain", ".", "At", "this", "point", "the", "focused", "crawler", "continues", "to", "locate", "more", "documents", "while", "the", "BF", "crawler", "does", "not", "uncover", "any", "new", "documents", "until", "28", "%", "-LRB-", "1000", "out", "of", "3500", "-RRB-", "of", "the", "total", "crawl", ".", "85", "%", "-LRB-", "3000", "out", "of", "3500", "-RRB-", "of", "the", "documents", "are", "located", "by", "the", "focused", "crawler", "after", "completing", "just", "33", "%", "-LRB-", "1189", "out", "of", "3500", "-RRB-", "of", "the", "total", "crawl", ",", "while", "the", "breadth", "first", "crawler", "locates", "the", "same", "amount", "of", "documents", "after", "completing", "50", "%", "-LRB-", "1781", "out", "of", "3500", "-RRB-", "of", "the", "total", "crawl", ".", "Towards", "the", "end", "of", "the", "crawl", "the", "breadth-first", "crawler", "detects", "more", "papers", "as", "compared", "to", "the", "focused", "crawler", ".", "It", "takes", "the", "focused", "crawler", "around", "1000", "more", "pages", "of", "crawls", "until", "it", "makes", "up", "the", "difference", ".", "This", "seems", "to", "be", "due", "to", "the", "lack", "of", "keywords", "associated", "with", "the", "links", "that", "eventually", "led", "to", "the", "documents", ".", "The", "focused", "crawler", "evaluates", "other", "papers", "that", "have", "a", "higher", "priority", "values", "before", "eventually", "discovering", "the", "remaining", "documents", ".", "The", "behavior", "of", "the", "BF", "crawler", "is", "consistent", "for", "all", "the", "three", "crawls", ".", "Most", "of", "the", "documents", "located", "were", "in", "crawl", "depths", "2", ",", "3", ",", "4", "and", "5", ".", "The", "BF", "crawler", "detects", "them", "after", "completing", "search", "of", "the", "previous", "crawl", "depths", ".", "As", "the", "focused", "crawler", "prioritizes", "the", "links", "for", "crawling", ",", "the", "higher", "depths", "with", "more", "priority", "are", "crawled", "before", "the", "lower", "depths", "with", "less", "priority", ".", "The", "above", "experiment", "indicates", "that", "the", "document", "harvest", "rate", "is", "almost", "the", "same", "for", "smaller", "websites", ".", "The", "difference", "becomes", "apparent", "when", "the", "size", "of", "the", "website", "being", "crawled", "is", "large", ".", "The", "focused", "crawler", "is", "able", "to", "detect", "the", "documents", "much", "earlier", "in", "the", "crawl", "as", "compared", "to", "the", "BF", "crawler", ".", "Since", "the", "crawls", "are", "not", "terminated", "early", "for", "the", "focused", "crawler", ",", "the", "number", "of", "documents", "found", "and", "the", "relevance", "of", "documents", "are", "same", "for", "both", "the", "crawlers", ".", "Therefore", "as", "the", "size", "of", "websites", "being", "crawled", "increases", ",", "the", "focused", "crawler", "detects", "more", "documents", "earlier", "during", "the", "crawls", "as", "compared", "to", "the", "BF", "crawler", ".", "We", "assess", "the", "crawler", "'s", "capability", "of", "harvesting", "academic", "publications", "in", "a", "more", "general", "sense", "which", "is", "not", "only", "limited", "to", "a", "specific", "venue", ".", "We", "have", "manually", "examined", "the", "first", "500", "PDF/PostScript", "documents", "found", "by", "the", "two", "crawlers", ",", "classified", "the", "documents", "into", "academic", "publications", "which", "are", "desirable", "-LRB-", "papers", "published", "in", "conferences", "and", "journals", ";", "technical", "reports", ";", "degree", "thesis", ",", "etc.", "-RRB-", ",", "and", "non-publication", "documents", "which", "are", "considered", "noise", "for", "a", "publication", "collection", "-LRB-", "course", "material", ";", "presentation", "slides", ";", "project", "schedule", ";", "etc.", "-RRB-", "Percentage", "of", "both", "categories", "is", "compared", "side-by-side", "and", "shown", "in", "Figure", "13", ".", "Our", "crawler", "has", "outperformed", "the", "breadth-first", "counterpart", "by", "having", "much", "less", "of", "this", "noise", ".", "423", "480", "77", "22", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "80", "%", "90", "%", "100", "%", "BF", "FC", "Total", ":", "50", "0", "Non-Publication", "Documents", "Academic", "Publications", "Figure", "13", ".", "Composition", "of", "the", "First", "500", "PDF/PS", "Documents", "4.3", "Crawler", "Comparison", ":", "Nutch", "Crawler", "We", "compare", "the", "performance", "of", "our", "system", "with", "Nutch", "-LRB-", "http://www.nutch.org/docs/en/", "-RRB-", ",", "an", "open", "source", "Web", "crawler", "and", "search", "engine", "built", "upon", "Lucene", ".", "In", "our", "experiment", ",", "we", "run", "the", "Nutch", "crawler", "on", "the", "official", "websites", "of", "WebDB", "and", "JAIR", ",", "and", "identify", "those", "papers", "published", "between", "1998", "and", "2004", "from", "the", "downloaded", "documents", ".", "We", "then", "compare", "the", "number", "of", "papers", "harvested", "by", "Nutch", "and", "FC", "crawler", "-LRB-", "see", "Figure", "14", "for", "details", "-RRB-", ".", "Results", "show", "that", "guided", "by", "certain", "heuristics", ",", "crawling", "authors", "'", "homepages", "can", "actually", "achieve", "almost", "the", "same", "recall", "level", "as", "crawling", "publishers", "'", "websites", ".", "0", "50", "100", "150", "200", "WebDB", "JAIR", "Number", "of", "Documents", "Nutch", "FC", "Total", "Publications", "Figure", "14", ".", "Comparison", "between", "Nutch", "and", "Focused", "Crawler", "Figure", "15", "indicates", "the", "progress", "of", "the", "crawls", "conducted", "by", "both", "the", "Focused", "Crawler", "and", "the", "Nutch", "Crawler", "on", "the", "ACL", "conference", "website", ".", "The", "documents", "found", "are", "of", "PDF", "and", "PS", "only", ".", "The", "focused", "crawler", "starts", "discovering", "documents", "earlier", "in", "the", "crawl", "and", "the", "process", "continues", "gradually", ".", "Nutch", "on", "the", "other", "hand", "discovers", "most", "of", "the", "documents", "after", "crawling", "around", "84", "%", "-LRB-", "22", "out", "of", "26", "-RRB-", "of", "the", "website", ".", "308", "Figure", "6", ".", "ACL", "Conference", "Crawl", "0", "200", "400", "600", "800", "1000", "1200", "1400", "1600", "1800", "0", "10", "20", "30", "Pages", "Crawled", "Nu", "m", "b", "e", "r", "o", "f", "Do", "c", "u", "m", "e", "n", "t", "s", "Nutch", "FC", "Figure", "15", ".", "Crawling", "ACL", "Conference", "Websites", "Documents", "found", "during", "the", "ACL", "conference", "crawl", "are", "classified", "into", "two", "categories", ":", "relevant", "-LRB-", "i.e.", "academic", "publications", "-RRB-", "and", "non-relevant", "-LRB-", "non-publication", "-RRB-", ".", "Figure", "16", "shows", "the", "number", "of", "documents", "in", "each", "category", ".", "Note", "that", "determining", "documents", "'", "relevancy", "is", "an", "offline", "process", ".", "Here", "R", "indicates", "relevant", "and", "NR", "indicated", "non-relevant", "documents", ".", "R", ",", "1588", "R", ",", "1404", "NR", ",", "0", "NR", ",", "0", "0", "200", "400", "600", "800", "1000", "1200", "1400", "1600", "1800", "FC", "Nutch", "Crawler", "Nu", "m", "b", "e", "r", "o", "f", "Do", "c", "u", "m", "e", "n", "t", "s", "NR", "R", "Figure", "16", ".", "Relevancy", "of", "the", "ACL", "Conference", "Crawl", "Figure", "16", "indicates", "that", "all", "the", "documents", "-LRB-", "PDF", "and", "PS", "-RRB-", "found", "by", "both", "the", "crawlers", "are", "academic", "publications", "-LRB-", "thus", "NR", "=", "0", "-RRB-", ".", "However", ",", "the", "184", "documents", "Nutch", "failed", "to", "detect", "are", "determined", "to", "be", "all", "relevant", "research", "publications", ".", "The", "same", "comparison", "is", "also", "conducted", "by", "crawling", "the", "official", "WebDB", "conference", "websites", ".", "Figure", "17", "shows", "that", "the", "Focused", "Crawler", "starts", "detecting", "desired", "documents", "at", "an", "earlier", "stage", "as", "compared", "to", "the", "Nutch", "crawler", ".", "Yet", "due", "to", "the", "small", "number", "of", "pages", "crawled", ",", "a", "rigorous", "comparison", "can", "not", "be", "made", "in", "this", "case", ".", "Figure", "18", "shows", "that", "the", "focused", "crawler", "locates", "two", "more", "academic", "publications", "than", "the", "Nutch", "crawler", ",", "both", "of", "which", "are", "marked", "as", "relevant", "documents", ".", "We", "have", "shown", "the", "feasibility", "of", "using", "authors", "'", "homepages", "as", "alternative", "online", "resources", "to", "harvest", "the", "academic", "papers", "missing", "from", "a", "collection", "of", "digital", "libraries", ",", "as", "well", "as", "the", "techniques", "to", "maximize", "the", "crawler", "'s", "performance", "in", "doing", "so", ".", "We", "have", "designed", "and", "implemented", "a", "heuristic-based", "system", "which", "utilizes", "document", "metadata", "to", "accurately", "locate", "authors", "'", "homepages", "and", "performs", "a", "focused", "crawling", "to", "quickly", "navigate", "to", "the", "desired", "publications", ".", "Evaluation", "has", "been", "conducted", "using", "a", "large", "dataset", "collected", "from", "several", "publishing", "venues", "in", "the", "Computer", "Science", "domain", ",", "and", "detailed", "results", "are", "presented", "and", "discussed", ".", "Figure", "10", ".", "WEDB", "Conference", "Crawl", "0", "20", "40", "60", "80", "100", "120", "0", "10", "20", "30", "40", "Pages", "Crawled", "Nu", "m", "b", "e", "r", "o", "f", "Do", "c", "u", "m", "e", "n", "t", "s", "Nutch", "FC", "Figure", "17", ".", "Crawling", "WebDB", "Conference", "Websites", "R", ",", "104", "R", ",", "106", "NR", ",", "1", "NR", ",", "1", "0", "20", "40", "60", "80", "100", "120", "FC", "Nutch", "Crawler", "Nu", "m", "b", "e", "r", "o", "f", "Do", "c", "u", "m", "e", "n", "t", "s", "NR", "R", "Figure", "18", ".", "Relevancy", "of", "the", "WebDB", "Conference", "Crawl", "For", "the", "academic", "venues", "investigated", "in", "this", "study", ",", "we", "are", "able", "to", "fill", "many", "of", "the", "missing", "documents", "in", "the", "CiteSeer", "digital", "library", ".", "The", "designed", "focused", "crawling", "technique", "efficiently", "locates", "desired", "publications", "on", "authors", "'", "homepages", "as", "well", "as", "conference", "websites", ".", "The", "Homepage", "Aggregator", "detects", "homepages", "well", "and", "the", "Focused", "Crawler", "outperforms", "the", "baseline", "crawler", "in", "a", "number", "of", "measures", ".", "Future", "work", "includes", "a", "more", "rigorous", "disambiguation", "scheme", "for", "the", "Homepage", "Aggregator", "and", "a", "more", "sophisticated", "weighting", "scheme", "for", "the", "Focused", "Crawler", ".", "In", "addition", ",", "we", "are", "now", "developing", "a", "training", "process", "for", "the", "crawler", "to", "learn", "the", "URL", "patterns", "of", "alternative", "resources", "other", "than", "author", "homepages", ",", "such", "as", "institutional", "archives", ".", "Also", ",", "the", "automation", "of", "the", "process", "cycle", "of", "crawling", ",", "log", "analysis", ",", "and", "heuristics", "generation", "can", "help", "search", "engine", "based", "digital", "libraries", "scale", "and", "significantly", "reduce", "costs", ".", "The", "actual", "URL", "of", "the", "web", "pages", "can", "also", "be", "used", "to", "assist", "in", "priority", "assignment", "instead", "of", "just", "using", "the", "anchor", "text", "of", "the", "link", ".", "A", "comparison", "of", "this", "approach", "to", "techniques", "other", "than", "a", "Breadth-first", "crawl", "is", "currently", "underway", ".", "Furthermore", ",", "we", "plan", "to", "evaluate", "the", "validity", "of", "this", "approach", "by", "expanding", "our", "experiment", "on", "to", "disciplines", "other", "than", "the", "Computer", "Science", "309", "domain", ".", "We", "believe", "our", "study", "and", "its", "consequents", "will", "shed", "lights", "on", "the", "question", "of", "finding", "missing", "papers", "for", "our", "digital", "library", ",", "or", "``", "what", "'s", "there", "and", "what", "'s", "not", "''", ".", "We", "gratefully", "acknowledge", "P.", "Mitra", "and", "the", "anonymous", "reviewers", "for", "their", "comments", ",", "I.", "Councill", "and", "P.", "Teregowda", "for", "their", "work", "on", "the", "CiteSeer", "metadata", ",", "and", "E.", "Maldonado", "and", "D.", "Hellar", "for", "the", "crawl", "list", ".", "This", "work", "is", "partially", "supported", "by", "Microsoft", ".", "-LSB-", "1", "-RSB-", "De", "Bra", ",", "P.", ",", "Houben", ",", "G.", ",", "Kornatzky", ",", "Y.", ",", "and", "Post", ",", "R", "Information", "Retrieval", "in", "Distributed", "Hypertexts", ".", "In", "Proceedings", "of", "the", "4th", "RIAO", "-LRB-", "Computer-Assisted", "Information", "Retrieval", "-RRB-", "Conference", ",", "pp.", "481-491", ",", "1994", ".", "-LSB-", "2", "-RSB-", "Cho", "J.", ",", "Garcia-Molina", ",", "H.", ",", "and", "Page", ",", "L.", "Efficient", "Crawling", "Through", "URL", "Ordering", ".", "In", "Proceedings", "of", "the", "7th", "World", "Wide", "Web", "Conference", ",", "Brisbane", ",", "Australia", ",", "pp.", "161-172", ".", "April", "1998", ".", "-LSB-", "3", "-RSB-", "Chakrabarti", ",", "S.", ",", "Van", "den", "Berg", ",", "M.", ",", "and", "Dom", ",", "B.", "Focused", "Crawling", ":", "A", "New", "Approach", "to", "Topic-Specific", "Web", "Resource", "Discovery", ".", "In", "Proceedings", "of", "the", "8th", "International", "WWW", "Conference", ",", "pp.", "545-562", ",", "Toronto", ",", "Canada", ",", "May", "1999", ".", "-LSB-", "4", "-RSB-", "Giles", ",", "C.", "L.", "and", "Councill", ",", "I.", "G", ".", "Who", "gets", "acknowledged", ":", "Measuring", "scientific", "contributions", "through", "automatic", "acknowledgement", "indexing", ".", "In", "Proceedings", "of", "the", "National", "Academy", "of", "Sciences", "101", "-LRB-", "51", "-RRB-", "pp.", "17599-17604", ",", "Dec.", "21", ",", "2004", ".", "-LSB-", "5", "-RSB-", "Najork", ",", "M.", "and", "Wiener", ",", "J.", "L.", "Breadth-First", "Search", "Crawling", "Yields", "High-Quality", "Pages", ".", "In", "Proceedings", "of", "the", "10th", "International", "World", "Wide", "Web", "Conference", ",", "pp.", "114-118", ",", "2001", ".", "-LSB-", "6", "-RSB-", "Page", ",", "L.", ",", "Brin", ",", "S.", ",", "Motwani", ",", "R.", ",", "and", "Winograd", ",", "T", ".", "The", "pagerank", "citation", "ranking", ":", "Bringing", "order", "to", "the", "web", ".", "Technical", "report", ",", "Stanford", "University", "Database", "Group", ",", "1998", ".", "Available", "at", "http://dbpubs.stanford.edu", ":", "8090/pub/1999", "-", "66", "-LSB-", "7", "-RSB-", "Menczer", ",", "F.", ",", "Pant", ",", "G.", ",", "Ruiz", ",", "M.", ",", "and", "Srinivasan", ",", "P.", "Evaluating", "Topic-Driven", "Web", "Crawlers", ".", "'", "In", "Proceedings", "of", "the", "2001", "Annual", "Conference", "of", "the", "Association", "of", "Computing", "Machinery", ",", "Special", "Interest", "Group", "in", "Information", "Retrieval", ",", "241-249", ".", "New", "Orleans", ",", "September", "2001", ".", "-LSB-", "8", "-RSB-", "Haveliwala", ",", "T.", "H.", "Topic-Sensitive", "PageRank", ".", "In", "Proceedings", "of", "the", "11th", "International", "World", "Wide", "Web", "Conference", ",", "pp", ".", "517-526", ".", "Honolulu", ",", "Hawaii", ",", "USA", ".", "May", "2002", ".", "-LSB-", "9", "-RSB-", "Mukherjea", ",", "S.", "WTMS", ":", "a", "system", "for", "collecting", "and", "analyzing", "topic-specific", "Web", "information", ".", "Computer", "Networks", "33", "-LRB-", "1-6", "-RRB-", ":", "457-471", ",", "2000", ".", "-LSB-", "10", "-RSB-", "Diligenti", ",", "M.", ",", "Coetzee", ",", "F.M.", ",", "Lawrence", ",", "S.", ",", "Giles", ",", "C.", "L.", ",", "and", "Gori", ",", "M.", "Focused", "Crawling", "Using", "Context", "Graphs", ".", "In", "Proceedings", "of", "the", "26th", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "pp.", "527-534", ",", "2000", ".", "-LSB-", "11", "-RSB-", "Aggarwal", ",", "C.", "C.", ",", "Al-Garawi", ",", "F.", ",", "and", "Yu", ",", "P.", "S.", "Intelligent", "Crawling", "on", "the", "World", "Wide", "Web", "with", "Arbitary", "Predicates", ".", "In", "Proceedings", "of", "the", "Tenth", "International", "Conference", "on", "World", "Wide", "Web", ",", "pp.", "96-105", ",", "2001", ".", "-LSB-", "12", "-RSB-", "Aggarwal", ",", "C.", "C.", "On", "Learning", "Strategies", "for", "Topic", "Specific", "Web", "Crawling", ".", "Next", "Generation", "Data", "Mining", "Applications", ",", "January", "2004", ".", "-LSB-", "13", "-RSB-", "Pant", ",", "G.", ",", "Tsjoutsiouliklis", ",", "K.", ",", "Johnson", ",", "J.", ",", "and", "Giles", ",", "C.", "L.", "Panorama", ":", "Extending", "Digital", "Libraries", "with", "Topical", "Crawlers", ".", "In", "Proceedings", "of", "the", "2004", "Joint", "ACM/IEEE", "Conference", "on", "Digital", "Libraries", ",", "pp.", "142-150", ",", "2004", ".", "-LSB-", "14", "-RSB-", "Menczer", ",", "F.", ",", "Pant", ",", "G.", ",", "and", "Srinivasan", ",", "P.", "Topical", "Web", "Crawlers", ":", "Evaluating", "Adaptive", "Algorithms", ".", "ACM", "TOIT", "4", "-LRB-", "4", "-RRB-", ":", "378-419", ",", "2004", ".", "-LSB-", "15", "-RSB-", "Pant", ",", "G.", ",", "Srinivasan", ",", "P.", ",", "and", "Menczer", ",", "F.", "Crawling", "the", "Web", ".", "In", "M.", "Levene", "and", "A.", "Poulovassilis", ",", "eds.", ":", "Web", "Dynamics", ",", "Springer", ",", "2004", ".", "-LSB-", "16", "-RSB-", "Hoff", ",", "G.", "and", "Mundhenk", ",", "M.", "Finding", "scientific", "papers", "with", "homepagesearch", "and", "MOPS", ".", "In", "Proceedings", "of", "the", "Nineteenth", "Annual", "International", "Conference", "of", "Computer", "Documentation", ",", "Communicating", "in", "the", "New", "Millennium", ",", "pp.", "201-207", ".", "October", "21-24", ",", "2001", ",", "Santa", "Fe", ",", "New", "Mexico", ",", "USA", ".", "-LSB-", "17", "-RSB-", "On", ",", "B.", "and", "Lee", ",", "D.", "PaSE", ":", "Locating", "Online", "Copy", "of", "Scientific", "Documents", "Effectively", ".", "In", "Proceedings", "of", "the", "7th", "International", "Conference", "of", "Asian", "Digital", "Libraries", "-LRB-", "ICADL", "-RRB-", ",", "pp.", "408-418", ".", "Shanghai", ",", "China", ",", "December", "2004", ".", "-LSB-", "18", "-RSB-", "Shakes", ",", "J.", ",", "Langheinrich", ",", "M.", ",", "and", "Etzioni", ",", "O.", "Dynamic", "Reference", "Sifting", ":", "a", "Case", "Study", "in", "the", "Homepage", "Domain", ".", "In", "Proceedings", "of", "the", "Sixth", "International", "World", "Wide", "Web", "Conference", ",", "pp.", "189-200", ",", "1997", ".", "-LSB-", "19", "-RSB-", "Xi", ",", "W.", "and", "Fox", ",", "E.", "A.", "Machine", "Learning", "Approach", "for", "Homepage", "Finding", "Task", ".", "In", "Proceedings", "of", "the", "Tenth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2001", "-RRB-", ",", "pp.", "686-698", ",", "2001", ".", "-LSB-", "20", "-RSB-", "Anh", ",", "V.", "N.", "and", "Moffat", ",", "A.", "Homepage", "Finding", "and", "Topic", "Distillation", "using", "a", "Common", "Retrieval", "Strategy", ".", "In", "Proceedings", "of", "the", "Eleventh", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2002", "-RRB-", ",", "2002", ".", "-LSB-", "21", "-RSB-", "Ogilvie", ",", "P.", "and", "Callan", ",", "J.", "Combining", "Structural", "Information", "and", "the", "Use", "of", "Priors", "in", "Mixed", "Named-Page", "and", "Homepage", "Finding", ".", "In", "Proceedings", "of", "the", "Twelfth", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "2003", "-RRB-", ",", "pp.", "177-184", ",", "2003", ".", "-LSB-", "22", "-RSB-", "Sundaresan", ",", "N.", ",", "Yi", ",", "J.", ",", "and", "Huang", ",", "A.", "W.", "Using", "Metadata", "to", "Enhance", "a", "Web", "Information", "Gathering", "System", ".", "In", "Proceedings", "of", "the", "Third", "International", "Workshop", "on", "the", "Web", "and", "Databases", "-LRB-", "WebDB", "2000", "-RRB-", ",", "pp.", "11-16", ",", "2000", ".", "-LSB-", "23", "-RSB-", "Flesca", ",", "S.", ",", "Furfaro", ",", "F.", ",", "and", "Greco", ",", "S.", "Weighted", "Path", "Queries", "on", "Web", "Data", ".", "In", "Proceedings", "of", "the", "Fourth", "International", "Workshop", "on", "the", "Web", "and", "Databases", "-LRB-", "WebDB", "2001", "-RRB-", ",", "pp.", "7-12", ",", "2001", ".", "-LSB-", "24", "-RSB-", "Ruiz", ",", "A.", ",", "L", "pez-de-Teruel", ",", "P.", "E.", ",", "and", "Garrido", ",", "M.", "C.", "Probabilistic", "Inference", "from", "Arbitrary", "Uncertainty", "using", "Mixtures", "of", "Factorized", "Generalized", "Gaussians", ".", "Journal", "of", "Artificial", "Intelligence", "Research", "-LRB-", "JAIR", "-RRB-", ",", "Volume", "9", ",", "pp.", "167-217", ",", "1998", ".", "-LSB-", "25", "-RSB-", "Russell", ",", "G.", ",", "Neum", "ller", ",", "M.", ",", "and", "Connor", ",", "R.", "C.", "H.", "TypEx", ":", "A", "Type", "Based", "Approach", "to", "XML", "Stream", "Querying", ".", "In", "Proceedings", "of", "the", "Sixth", "International", "Workshop", "on", "the", "Web", "and", "Databases", "-LRB-", "WebDB", "2003", "-RRB-", ",", "pp.", "55-60", ",", "2003", ".", "310"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["citeseer", "acm", "dblp", "harvesting", "digital libraries", "focused crawler"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "205", "document": ["Unwanted", "Traffic", "in", "3G", "Networks", "The", "presence", "of", "``", "unwanted", "''", "-LRB-", "or", "background", "-RRB-", "traffic", "in", "the", "Internet", "is", "a", "well-known", "fact", ".", "In", "principle", "any", "network", "that", "has", "been", "engineered", "without", "taking", "its", "presence", "into", "account", "might", "experience", "troubles", "during", "periods", "of", "massive", "exposure", "to", "unwanted", "traffic", ",", "e.g.", "during", "large-scale", "infections", ".", "A", "concrete", "example", "was", "provided", "by", "the", "spreading", "of", "Code-Red-II", "in", "2001", ",", "which", "caused", "several", "routers", "crashes", "worldwide", ".", "Similar", "events", "might", "take", "place", "in", "3G", "networks", "as", "well", ",", "with", "further", "potential", "complications", "arising", "from", "their", "high", "functional", "complexity", "and", "the", "scarcity", "of", "radio", "resources", ".", "For", "example", ",", "under", "certain", "hypothetical", "network", "configuration", "settings", "unwanted", "traffic", ",", "and", "specifically", "scanning", "traffic", "from", "infected", "Mobile", "Stations", ",", "can", "cause", "large-scale", "wastage", "of", "logical", "resources", ",", "and", "in", "extreme", "cases", "even", "starvation", ".", "Unwanted", "traffic", "is", "present", "nowdays", "also", "in", "GPRS/UMTS", ",", "mainly", "due", "to", "the", "widespread", "use", "of", "3G", "connect", "cards", "for", "laptops", ".", "We", "urge", "the", "research", "community", "and", "network", "operators", "to", "consider", "the", "issue", "of", "3G", "robustness", "to", "unwanted", "traffic", "as", "a", "prominent", "research", "area", ".", "Categories", "and", "Subject", "Descriptors", ":", "C.", "2.3", "-LSB-", "Network", "Operations", "-RSB-", ":", "Public", "networks", ",", "Network", "monitoring", ".", "General", "Terms", ":", "Security", ",", "Reliability", ",", "Measurement", ".", "Public", "wide-area", "wireless", "networks", "are", "now", "migrating", "to", "third-generation", "systems", "-LRB-", "3G", "-RRB-", ",", "designed", "to", "support", "packet-switched", "data", "services", "and", "Internet", "access", ".", "Several", "UMTS", "networks", "became", "operational", "since", "2003", "while", "early", "GPRS", "deployments", "date", "back", "to", "2000", ".", "Since", "then", ",", "the", "growing", "popularity", "of", "3G", "terminals", "and", "services", "has", "extended", "the", "coverage", "of", "Internet", "wireless", "access", "to", "the", "geographic", "area", ",", "and", "3G", "networks", "are", "becoming", "key", "components", "of", "the", "global", "Internet", ".", "In", "a", "recent", "CCR", "contribution", "Keshav", "-LSB-", "17", "-RSB-", "foresees", "that", "cell", "phones", "will", "become", "the", "dominant", "component", "of", "future", "Internet", "population", ",", "while", "Kleinrock", "expects", "this", "role", "to", "be", "played", "by", "``", "small", "pervasive", "devices", "ubiquitously", "embedded", "in", "the", "physical", "world", "''", "-LRB-", "quoted", "from", "-LSB-", "14", ",", "p.", "112", "-RSB-", "-RRB-", ".", "Both", "scenarios", "underlay", "that", "the", "main", "access", "mode", "in", "the", "future", "Internet", "will", "be", "wide-area", "wireless", ".", "Currently", "deployed", "3G", "networks", ",", "along", "with", "their", "future", "evolutions", ",", "are", "in", "pole-position", "face", "to", "concurrent", "technologies", "-LRB-", "e.g.", "WIMAX", "-RRB-", "to", "provide", "such", "access", "connectivity", "in", "the", "large-scale", ".", "Generally", "speaking", ",", "the", "3G", "network", "being", "essentially", "a", "mixture", "of", "two", "paradigms", ",", "namely", "mobile", "cellular", "and", "IP", ",", "it", "is", "exposed", "to", "the", "security", "and", "reliability", "issues", "affecting", "each", "component", ",", "plus", "the", "new", "risks", "emerging", "from", "their", "combination", ".", "The", "3G", "environment", "inherits", "from", "the", "cellular", "paradigm", "a", "number", "of", "features", "like", "terminal", "personalization", "and", "geolocalization", "that", "make", "privacy", "and", "information", "security", "particularly", "critical", ".", "When", "coupled", "with", "the", "IP", "world", ",", "markedly", "the", "``", "openess", "''", "of", "its", "applications", "and", "accessibility", ",", "the", "concerns", "of", "privacy", "and", "security", "from", "the", "user", "perspective", "become", "even", "more", "critical", "than", "in", "legacy", "2G", "networks", ".", "Because", "of", "that", "-", "and", "of", "some", "``", "lessons", "learned", "''", "from", "past", "mistakes", "in", "2G", "security", "-LSB-", "5", "-RSB-", "-", "privacy", "and", "information", "security", "aspects", "have", "received", "a", "thorough", "treatment", "in", "the", "3G", "specifications", "-LRB-", "see", "-LSB-", "7", "-RSB-", "for", "an", "exhaustive", "overview", "-RRB-", ".", "Nevertheless", ",", "the", "specific", "topic", "of", "3G", "network", "security", "in", "relation", "to", "the", "robustness", "and", "availability", "of", "the", "network", "infrastructure", "itself", "has", "not", "received", "adequate", "attention", "by", "the", "research", "community", "to", "date", ".", "The", "problem", "can", "be", "condensed", "in", "the", "following", "question", ":", "What", "is", "the", "level", "of", "robustness", "of", "a", "3G", "network", "against", "deliberate", "attacks", "or", "other", "unanticipated", "stimuli", "?", "The", "problem", "of", "network", "security", "involves", "issues", "related", "to", "network", "resilience", "and", "stability", ",", "and", "can", "not", "be", "addressed", "without", "a", "deep", "understanding", "of", "the", "detailed", "structure", "and", "organization", "of", "the", "real", "network", ".", "Considered", "the", "relative", "recent", "deployment", "of", "3G", ",", "and", "the", "very", "limited", "access", "that", "research", "groups", "have", "to", "these", "networks", ",", "it", "should", "be", "no", "surprise", "that", "the", "work", "in", "this", "area", "has", "been", "sporadic", ".", "Some", "exploits", "against", "3G", "network", "are", "known", "and", "documented", "in", "industry", "reports", "-LRB-", "e.g.", "-LSB-", "15", "-RSB-", "-LSB-", "2", "-RSB-", "-RRB-", ",", "while", "the", "fact", "that", "a", "limited", "amount", "of", "malicious", "traffic", "can", "cause", "large-case", "troubles", "to", "a", "wireless", "cellular", "network", "has", "been", "``", "unveiled", "''", "in", "the", "recent", "paper", "-LSB-", "18", "-RSB-", "with", "reference", "to", "a", "2G", "network", "supporting", "open", "SMS", "service", ".", "But", "at", "this", "stage", "what", "is", "still", "missing", "is", "an", "exhaustive", "and", "systematic", "recognition", "of", "the", "potential", "risks", ",", "threats", "and", "problems", "to", "3G", "network", "security", ",", "from", "which", "a", "research", "agenda", "can", "be", "drawn", ".", "We", "provide", "here", "a", "novel", "contribution", "towards", "this", "goal", "by", "introducing", "an", "issue", "that", "has", "passed", "unrecognized", "so", "far", ":", "the", "impact", "onto", "3G", "networks", "of", "unwanted", "traffic", ",", "and", "specifically", "large-scale", "worm", "infections", ".", "Remarkably", ",", "all", "the", "cited", "previous", "works", "consider", "deliberate", "DoS", "attack", "against", "the", "network", ".", "Instead", "here", "we", "focus", "on", "a", "slightly", "more", "subtle", "issue", ",", "namely", "the", "-LRB-", "side", "-", "-RRB-", "effects", "onto", "the", "network", "of", "-LRB-", "unwanted", "-RRB-", "traffic", ",", "whose", "intended", "target", "is", "typically", "not", "the", "network", "but", "rather", "its", "terminals", ".", "Our", "work", "was", "inspired", "by", "the", "consequences", "of", "the", "Code-Red-II", "infection", "onto", "the", "routers", "of", "the", "wired", "Internet", ",", "reported", "in", "-LSB-", "3", "-RSB-", "and", "-LSB-", "4", "-RSB-", ".", "We", "claim", "that", "under", "certain", "conditions", "and", "for", "certain", "network", "configuration", "scenarios", "large-scale", "worm", "infections", "can", "cause", "sensible", "degradation", "and", "risks", "for", "the", "network", "ACM", "SIGCOMM", "Computer", "Communication", "Review", "53", "Volume", "36", ",", "Number", "2", ",", "April", "2006", "Figure", "1", ":", "3G", "network", "structure", ".", "performances", "and", "availability", ".", "We", "urge", "the", "research", "community", "and", "network", "operators", "to", "consider", "the", "issue", "of", "3G", "robustness", "to", "unwanted", "traffic", "as", "a", "prominent", "research", "area", ".", "The", "goal", "of", "this", "contribution", "is", "to", "trigger", "interest", "and", "at", "the", "same", "time", "move", "the", "first", "pioneering", "steps", "in", "such", "direction", ".", "The", "following", "discussion", "is", "based", "on", "empirical", "observations", "from", "an", "operational", "GPRS/UMTS", "network", "collected", "during", "an", "ongoing", "research", "project", "in", "traffic", "monitoring", "and", "modeling", "in", "3G", ",", "the", "DARWIN", "project", "-LSB-", "1", "-RSB-", ",", "carried", "out", "in", "collaboration", "with", "mobilkom", "austria", "AG&C", "oKG", "-LRB-", "the", "leading", "mobile", "operator", "in", "Austria", ",", "EU", "-RRB-", "and", "Kapsch", "CarrierCom", "-LRB-", "provider", "of", "equipments", "and", "network", "engineering", "services", "-RRB-", ".", "Network", "structure", ".", "A", "3G", "network", "includes", "two", "main", "sections", ":", "a", "Packet-Switched", "Core", "Network", "-LRB-", "CN", "-RRB-", ",", "which", "is", "based", "on", "IP", ",", "and", "one", "or", "more", "Radio", "Access", "Network", "-LRB-", "RAN", "-RRB-", ".", "Along", "with", "the", "UMTS", "RAN", "-LRB-", "UTRAN", "-RRB-", "based", "on", "W-CDMA", ",", "several", "operators", "maintain", "a", "parallel", "GPRS", "RAN", "evolved", "from", "the", "legacy", "GSM", "radio", ".", "This", "structure", "is", "sketched", "in", "Figure", "1", ".", "It", "is", "also", "possible", "to", "connect", "additional", "separate", "RANs", "to", "the", "same", "CN", ",", "typically", "WLAN", "-LSB-", "13", "-RSB-", "and", "perhaps", "in", "the", "future", "also", "WIMAX", ".", "Each", "RAN", "can", "evolve", "independently", "from", "the", "CN", ":", "for", "example", "in", "several", "networks", "GPRS", "has", "been", "upgraded", "to", "EDGE", "-LSB-", "10", ",", "p.", "152", "-RSB-", ",", "while", "UMTS", "upgrade", "towards", "HSDPA", "-LSB-", "8", ",", "p.", "351", "-RSB-", "is", "ongoing", ".", "Each", "RAN", "is", "connected", "to", "the", "legacy", "2G", "Circuit-Switched", "Core-Network", "-LRB-", "not", "shown", "in", "Figure", "1", "-RRB-", "for", "traditional", "services", "like", "voice", "calls", ",", "and", "to", "the", "Packet-Switched", "Core-Network", "-LRB-", "CN", "for", "short", "-RRB-", "for", "data", "services", ".", "The", "CN", "embeds", "several", "elements", ":", "SGSN", ",", "GGSN", ",", "and", "a", "number", "of", "information", "servers", ".", "Some", "of", "the", "latter", "are", "shared", "with", "the", "Circuit-Switched", "Core-Network", "of", "the", "legacy", "2G", "system", "1", ",", "e.g.", "the", "HLR/AuC", ".", "The", "SGSNs", "perform", "functions", "such", "as", "access", "control", ",", "location", "management", ",", "paging", ",", "route", "management", "-LSB-", "10", "-RSB-", ".", "The", "GGSN", "is", "the", "logical", "gateway", "between", "the", "CN", "and", "external", "packet", "networks", "-LRB-", "Internet", "and", "private", "networks", "-RRB-", ",", "is", "endowed", "with", "a", "full", "IP-stack", "and", "handles", "the", "IP-level", "connectivity", "with", "the", "MS.", "The", "SGSN", "and", "GGSN", "of", "the", "same", "operator", "communicate", "through", "the", "Gn", "interface", ".", "The", "CNs", "of", "different", "opera-1", "Notably", "the", "close", "coupling", "between", "the", "circuit", "-", "-LRB-", "GSM", "-RRB-", "and", "packet-switched", "-LRB-", "GPRS/UMTS", "-RRB-", "sections", "is", "a", "source", "of", "concern", "since", "in", "principle", "troubles", "originated", "in", "the", "latter", "might", "cause", "impairments", "or", "side-effect", "to", "the", "former", "as", "well", ".", "tors", "are", "interconnected", "through", "the", "Gp", "interface", "for", "support", "of", "roaming", ".", "The", "Gn", "protocol", "stack", "-LSB-", "10", ",", "p.", "94", "-RSB-", "shows", "that", "a", "lower", "UDP/IP", "layer", "is", "used", "to", "carry", "the", "user", "data", "packets", "across", "Gn", ",", "with", "an", "intermediate", "encapsulation", "into", "a", "3G-specific", "protocol", "-LRB-", "GPRS", "Tunnelling", "Protocol", ",", "GTP", "-RRB-", ".", "In", "fact", ",", "the", "Gn", "interface", "is", "basically", "a", "wide-area", "IP", "network", "interconnecting", "the", "different", "SGSN/GGSN", "sites", ",", "and", "as", "such", "it", "embeds", "routers", ",", "IP", "subnets", "etc.", ".", "Besides", "that", ",", "the", "CN", "is", "rich", "in", "IP-based", "elements", ",", "including", "servers", "supporting", "control", "and", "management", "functions", "-LRB-", "e.g.", "DNS", ",", "DHCP", ",", "RADIUS", ",", "see", "-LSB-", "10", "-RSB-", "-RRB-", "and", "application", "elements", "-LRB-", "e.g.", "WAP", "gateway", ",", "proxies", ",", "internal", "servers", "-RRB-", ".", "The", "latter", "are", "always", "located", "behind", "the", "GGSN", ",", "on", "the", "Gi", "side", "-LRB-", "ref", ".", "Figure", "1", "-RRB-", "as", "they", "operate", "directly", "on", "the", "data-plane", ".", "Note", "also", "that", "packet", "filtering", "and", "other", "restiction", "policies", "can", "be", "located", "on", "separate", "dedicated", "elements", "-LRB-", "NAT", ",", "IDS", ",", "firewalls", "-RRB-", "at", "the", "network", "boundaries", "-LRB-", "Gi", ",", "Gp", "-RRB-", "and/or", "directly", "configured", "into", "the", "GGSNs", ".", "3G", "terminals", ".", "The", "population", "of", "3G", "terminals", "is", "highly", "heterogeneous", "and", "includes", "very", "different", "types", "of", "device", ":", "hand-held", "phones", "and", "PDA", ",", "connect-card", "pluggable", "into", "laptops", ",", "blackberry", ",", "etc.", ".", "Additionally", ",", "a", "broad", "range", "of", "automatic", "devices", "with", "no", "human", "interaction", "is", "emerging", ",", "taking", "advantage", "of", "the", "ubiquity", "of", "the", "GPRS/UMTS", "coverage", "-LRB-", "e.g.", "sensors", ",", "alarms", ",", "presence", "indicators", ",", "remote", "cameras", "-RRB-", ".", "Presently", "the", "most", "numerous", "3G", "terminals", "are", "hand-held", "phones", ".", "They", "span", "a", "broad", "range", "of", "technological", "platforms", ",", "a", "major", "point", "of", "difference", "-LRB-", "for", "the", "moment", "-RRB-", "from", "the", "wired", "Internet", "that", "is", "essentially", "a", "monoculture", ".", "The", "last", "aspect", "is", "critical", "when", "considering", "malware", "infections", ":", "such", "a", "``", "bi-ological", "variety", "''", "intrinsically", "limits", "the", "potential", "infection", "scope", ",", "which", "in", "turn", "reduces", "somehow", "the", "very", "appeal", "for", "programming", "new", "pieces", "of", "malware", ".", "As", "a", "result", ",", "large-scale", "infections", "of", "cellular", "phones", "have", "not", "yet", "been", "observed", ",", "despite", "a", "growing", "number", "of", "exploits", "and", "pieces", "of", "malicious", "code", "targeting", "GPRS/UMTS", "phones", "have", "already", "appeared", "in", "the", "wild", "-LRB-", "e.g.", "Cabir", ",", "Mosquito", ",", "Comwarrior", "2", "-RRB-", ".", "3G", "datacards", "for", "laptop", ".", "Many", "3G", "datacards", "for", "laptop", "were", "sold", "starting", "in", "2004", ",", "often", "coupled", "with", "flat-rate", "offers", ".", "Most", "of", "these", "laptops", "are", "equipped", "with", "Microsoft", "Windows", "-", "note", "that", "for", "some", "datacards", "drivers", "are", "not", "available", "for", "other", "operating", "systems", ".", "This", "introduced", "into", "the", "3G", "environment", "a", "sub-population", "of", "homogeneous", "terminals", ",", "i.e.", "Windows", "laptops", ",", "that", "are", "intrinsically", "exposed", "to", "all", "kinds", "of", "exploits", "and", "infections", "that", "are", "found", "in", "the", "wired", "Internet", ".", "In", "case", "of", "active", "infection", "-LRB-", "e.g.", "a", "scanning", "worm", "-RRB-", "they", "introduce", "into", "the", "3G", "network", "the", "same", "``", "unwanted", "''", "traffic", "patterns", "-LRB-", "e.g.", "probe", "SYN", "packets", "-RRB-", "that", "are", "found", "in", "wired", "LANs", "and", "in", "the", "Internet", ".", "Unwanted", "traffic", ".", "The", "term", "``", "unwanted", "traffic", "''", "has", "been", "used", "in", "-LSB-", "16", "-RSB-", "to", "refer", "cumulatively", "to", "those", "traffic", "components", "originated", "directly", "or", "indirectly", "by", "malicious", "or", "anyway", "``", "non", "productive", "''", "activities", ".", "It", "includes", "backscatter", "traffic", "asso-ciated", "to", "remote", "DoS", "attacks", ",", "scanning", "probes", ",", "spam", ",", "exploit", "attempts", "etc.", ".", "Unwanted", "traffic", "might", "have", "a", "negative", "impact", "onto", "the", "underlying", "network", ",", "and", "in", "extreme", "cases", "drive", "the", "network", "or", "at", "least", "some", "of", "its", "elements", "to", "crash", ".", "2", "See", "www.viruslist.com/en/viruses/encyclopedia", ".", "ACM", "SIGCOMM", "Computer", "Communication", "Review", "54", "Volume", "36", ",", "Number", "2", ",", "April", "2006", "A", "bright", "example", "was", "provided", "by", "the", "spreading", "of", "Code-Red", "-", "II", "in", "2001", "-LSB-", "3", "-RSB-", ".", "Once", "installed", "on", "a", "victim", "host", ",", "the", "worm", "started", "to", "scan", "for", "new", "potential", "victims", "by", "sending", "a", "high", "rate", "of", "probing", "TCP", "SYN", "packets", "to", "random", "addresses", ".", "This", "caused", "troubles", "to", "the", "packet", "forwarding", "modules", "of", "several", "edge", "routers", "all", "over", "the", "Internet", ",", "some", "of", "which", "eventually", "crashed", "-LSB-", "4", "-RSB-", ".", "In", "simple", "words", ",", "the", "problem", "is", "that", "route", "caching", "mechanisms", "were", "designed", "-LRB-", "and", "optmized", "-RRB-", "to", "operate", "under", "``", "normal", "''", "-LRB-", "i.e.", "expected", "-RRB-", "traffic", "conditions", ",", "where", "most", "of", "the", "packets", "are", "directed", "to", "a", "relativelly", "small", "subset", "of", "popular", "subnets", ".", "In", "such", "nominal", "condition", ",", "route", "caching", "can", "be", "very", "effective", ".", "But", "during", "the", "infection", "probing", "SYN", "packet", "were", "massively", "generated", "and", "sent", "to", "randomly", "chosen", "IP", "addresses", ",", "thus", "driving", "the", "cache", "access", "mechanisms", "to", "explode", ".", "In", "other", "words", ",", "the", "worm", "infection", "built-up", "a", "traffic", "aggregate", "macroscopically", "different", "from", "the", "``", "normal", "''", "pattern", ",", "and", "the", "network", "proved", "to", "be", "not", "robust", "enough", "to", "sustain", "such", "different", "conditions", ".", "The", "lesson", "to", "be", "learned", "is", "that", "in", "terms", "of", "the", "characteristics", "of", "the", "macroscopic", "traffic", "aggregate", "-LRB-", "entropy", "of", "the", "destination", "IP", "address", "distribution", ",", "packet", "size", ",", "etc.", "-RRB-", "large", "infections", "or", "other", "unwanted", "traffic", "components", "can", "expose", "the", "network", "to", "a", "different", "``", "operating", "point", "''", "from", "what", "the", "network", "was", "engineered", "and", "optmized", "for", ",", "with", "potentially", "dramatic", "effects", "3", ".", "Potential", "impact", "on", "3G", ".", "In", "principle", ",", "the", "3G", "network", "is", "exposed", "to", "the", "same", "type", "of", "incidents", ",", "and", "perhaps", "even", "more", "given", "the", "higher", "functional", "complexity", "inherited", "by", "the", "wireless", "cellular", "paradigm", ".", "The", "3G", "network", "is", "ultimately", "an", "IP", "network", ",", "but", "with", "important", "peculiarities", ".", "First", ",", "the", "underlying", "transport", "stratum", ",", "specifically", "the", "3G-specific", "lower", "protocols", "in", "the", "RAN", ",", "are", "endowed", "with", "very", "high", "functional", "complexity", "and", "signaling", "interactions", "-", "mainly", "for", "the", "sake", "of", "mobility", "management", "and", "efficient", "resource", "management", ".", "Second", ",", "the", "population", "of", "internal", "``", "hosts", "''", "is", "extremely", "large", "-LRB-", "from", "thousands", "to", "millions", "of", "MSs", "-RRB-", "and", "highly", "dynamic", "-LRB-", "activity", "periods", "can", "be", "as", "short", "as", "few", "seconds", "-RRB-", ".", "The", "potential", "impact", "of", "large-scale", "infections", "and", "unwanted", "traffic", "in", "such", "a", "system", "is", "an", "intriguing", "point", "for", "research", ",", "that", "has", "not", "yet", "been", "addressed", "by", "the", "research", "community", ".", "The", "existence", "of", "the", "problem", "has", "been", "conjectured", "in", "a", "previous", "work", "-LSB-", "9", ",", "p.", "447-448", "-RSB-", ".", "In", "lack", "of", "past", "empirical", "events", ",", "it", "is", "not", "possible", "to", "claim", "that", "3G", "network", "are", "exposed", "to", "serious", "damages", "from", "large", "infections", ".", "On", "the", "other", "hand", ",", "without", "a", "systematic", "risk", "assessment", "it", "is", "neither", "possible", "to", "provide", "a", "priori", "guarantees", "about", "their", "robustness", ".", "Empirical", "evidence", "of", "the", "very", "existence", "of", "unwanted", "traffic", "in", "a", "real", "3G", "network", "has", "been", "reported", "in", "-LSB-", "6", "-RSB-", "along", "with", "initial", "but", "technically-detailed", "speculations", "on", "the", "potential", "impact", "that", "the", "observed", "traffic", "would", "have", "under", "certain", "hypothetical", "conditions", "and", "configuration", "setting", ".", "The", "actual", "impact", ",", "if", "any", ",", "depends", "on", "a", "combination", "of", "factors", "related", "to", "the", "network", "configuration", "and", "equipment", "features", ".", "In", "the", "following", "we", "illustrate", "the", "problem", "by", "discussing", "a", "few", "examplary", "forms", "of", "impact", "that", "might", "take", "place", "in", "a", "real", "network", ".", "Stateful", "elements", ".", "The", "presence", "of", "massive", "amounts", "of", "TCP", "SYN", "packets", "might", "cause", "troubles", "to", "those", "stateful", "elements", "designed", "to", "reserve", "resources", "for", "each", "TCP", "con-3", "In", "this", "regard", ",", "this", "is", "another", "example", "of", "-LRB-", "lack", "of", "-RRB-", "robusteness", "to", "unanticipated", "types", "of", "events", "in", "HOT", "systems", "-LSB-", "11", "-RSB-", ".", "nection", "-LRB-", "e.g.", "application", "layer", "proxies", ",", "servers", ",", "NATs", "-RRB-", ".", "Note", "that", "some", "stateful", "operations", "might", "be", "enabled", "also", "on", "the", "GGSNs", ".", ".", "In", "this", "cases", "the", "GGSN", "logic", "should", "be", "robust", "to", "high", "rates", "of", "SYN", "packets", "coming", "from", "the", "MSs", ".", "Large", "volumes", "of", "SYN", "packets", "might", "be", "originated", "by", "deliberate", "DoS/DDoS", "or", "from", "large-scale", "infections", "of", "scanning", "worms", ".", "In", "both", "cases", ",", "the", "source", "-LRB-", "s", "-RRB-", "can", "be", "hosts", "in", "the", "Internet", "-LRB-", "exogenous", "traffic", "-RRB-", "or", "other", "MS", "in", "the", "RAN", "-LRB-", "endogenous", "traffic", "-RRB-", ".", "In", "general", ",", "exogenous", "traffic", "can", "be", "blocked", "at", "the", "external", "firewall", "as", "for", "any", "other", "private", "network", ".", "The", "first", "element", "to", "inspect", "the", "IP", "packets", "sent", "by", "the", "MSs", "is", "the", "GGSN", ".", "The", "latter", "generally", "embeds", "full", "router", "capabilities", ",", "therefore", "it", "can", "be", "configured", "with", "the", "same", "stateless", "/", "stateful", "firewalling", "policies", "and/or", "throttling", "mechanisms", "-LRB-", "see", "e.g.", "-LSB-", "12", "-RSB-", "-RRB-", "to", "filter", "endogenous", "uplink", "traffic", ".", "For", "an", "improved", "robusteness", "against", "residual", "unblocked", "SYNs", ",", "all", "stateful", "elements", "should", "be", "designed", "to", "resist", "massive", "SYN", "storms", "rather", "than", "just", "rely", "on", "external", "filtering", "elements", ".", "Wastage", "of", "logical", "resources", ".", "The", "UMTS", "radio", "bearer", "channels", "-LRB-", "called", "Dedicated", "Channel", ",", "DCH", "-RRB-", "are", "assigned", "dy-namically", "to", "active", "MSs", ".", "The", "assignment", "policy", "is", "implemented", "in", "the", "RNC", "and", "is", "generally", "based", "on", "a", "combination", "of", "timeouts", "from", "the", "last", "data", "packet", "and", "thresholds", "on", "the", "recent", "sending", "/", "receving", "rates", ".", "The", "exact", "algorithm", "is", "vendor-dependent", ",", "with", "parameters", "configurable", "by", "the", "operator", ".", "Let", "us", "consider", "here", "the", "simplest", "case", "of", "a", "purely", "timeout-based", "DCH", "assignment", "policy", ":", "the", "DCH", "is", "assigned", "to", "the", "MS", "at", "the", "time", "of", "the", "first", "packet", "-LRB-", "sent", "or", "received", "-RRB-", ",", "and", "is", "released", "after", "T", "DCH", "seconds", "from", "the", "last", "packet", ",", "T", "DCH", "being", "the", "holding", "timeout", "for", "DCH", ".", "Note", "that", "when", "the", "MS", "does", "not", "have", "an", "assigned", "DCH", ",", "packets", "are", "ex-changed", "on", "the", "common", "channels", "FACH", "or", "RACH", "-LRB-", "see", "-LSB-", "8", ",", "Ch", ".", "7", "-RSB-", "-RRB-", ".", "Note", "also", "that", "each", "channel", "switch", "operation", "involves", "a", "signaling", "procedure", "at", "the", "radio", "interface", ",", "contributing", "to", "the", "total", "transfer", "delay", "for", "the", "arriving", "packet", ".", "The", "value", "of", "T", "DCH", "must", "be", "tuned", "carefully", ".", "Too", "short", "values", "causes", "a", "high", "frequency", "of", "channel", "switch", "cycles", ",", "and", "consequently", "-LRB-", "i", "-RRB-", "a", "higher", "consumption", "of", "signaling", "resources", "on", "the", "radio", "link", "and", "-LRB-", "ii", "-RRB-", "longer", "packet", "delays", "and", "hence", "worse", "user", "experience", ".", "On", "the", "other", "hand", ",", "too", "long", "values", "will", "lead", "to", "wastage", "of", "logical", "resources", ",", "i.e.", "DCHs", ",", "whose", "available", "number", "if", "limited", "in", "each", "cell", ".", "Therefore", ",", "the", "optimal", "value", "of", "T", "DCH", "must", "be", "chosen", "according", "to", "the", "distribution", "of", "idle-period", "duration", "for", "``", "typical", "users", "''", ".", "Given", "such", "framework", ",", "consider", "what", "happen", "when", "a", "number", "of", "infected", "terminals", "are", "scanning", "the", "local", "address", "space", ".", "Each", "active", "MS", "-LRB-", "not", "necessarely", "infected", "-RRB-", "will", "be", "visited", "by", "scanning", "probes", "at", "an", "average", "rate", "of", "R", "v", "pkt/sec", ".", "The", "exact", "value", "of", "R", "v", "depends", "on", "several", "factors", "like", "number", "of", "scanning", "MSs", ",", "scanning", "rate", ",", "etc.", "-LRB-", "see", "-LSB-", "6", "-RSB-", "for", "more", "details", "-RRB-", "and", "can", "typically", "be", "in", "the", "order", "of", "few", "seconds", "or", "below", ".", "In", "case", "that", "the", "average", "probe", "interarrival", "time", "is", "smaller", "than", "the", "DCH", "holding", "timer", ",", "i.e.", "v", "=", "-LRB-", "R", "v", "-RRB-", "-1", "<", "T", "DCH", ",", "the", "incoming", "unwanted", "traffic", "will", "keep", "the", "DCH", "channel", "assigned", "to", "the", "target", "MSs", "indefinitely", ",", "until", "the", "user", "switches", "off", "the", "terminal", "or", "explicitely", "close", "the", "PDP-context", "4", ".", "Note", "that", "the", "volume", "in", "byte", "count", "of", "such", "incoming", "background", "traffic", "is", "extremely", "low", "and", "would", "pass", "unnoticed", "by", "the", "user", ".", "No", "assumption", "is", "made", "about", "the", "vulnerability", "of", "the", "4", "The", "``", "PDP-context", "''", "is", "the", "logical", "connection", "to", "the", "3G", "network", ",", "conceptually", "similar", "to", "a", "wired", "modem", "dial-up", ".", "ACM", "SIGCOMM", "Computer", "Communication", "Review", "55", "Volume", "36", ",", "Number", "2", ",", "April", "2006", "target", "MS", "to", "the", "specific", "exploit", ",", "the", "only", "condition", "being", "that", "it", "is", "reachable", "by", "probing", "packets", ",", "i.e.", "it", "has", "an", "active", "PDP-context", ".", "Such", "always-on", "``", "spurious", "''", "DCH", "waste", "resources", "on", "the", "radio", "interface", ".", "Notably", ",", "wastage", "is", "limited", "to", "the", "logical", "resources", ",", "i.e.", "DCH", ",", "since", "the", "physical", "bandwidth", "is", "left", "largely", "unused", "as", "only", "sporadic", "and", "small", "packets", "-LRB-", "probe", "SYNs", "-RRB-", "are", "transmitted", "over", "the", "air", ".", "Such", "phenomenon", "might", "lead", "to", "logical", "congestion", "of", "some", "radio", "cells", "as", "soon", "as", "the", "number", "of", "active", "MSs", "in", "the", "cell", "reaches", "the", "number", "of", "available", "DCHs", ".", "Signaling", "overhead", ".", "One", "key", "assumption", "in", "the", "above", "scenario", "is", "that", "the", "average", "interarrival", "of", "background", "packets", "is", "smaller", "than", "the", "DCH", "holding", "timeour", ",", "i.e.", "v", "<", "T", "DCH", ".", "Other", "problems", "arise", "in", "case", "that", "v", "is", "higher", "but", "close", "to", "T", "DCH", ",", "i.e.", "v", "=", "T", "DCH", "+", "for", "small", ",", "particularly", "in", "the", "case", "of", "low", "T", "DCH", ".", "In", "this", "case", ",", "a", "DCH", "reassignment", "follows", "immediately", "a", "DCH", "release", "at", "rate", "1/T", "DCH", ",", "thus", "wasting", "signaling", "bandwidth", "in", "the", "radio", "section", ".", "Again", ",", "the", "more", "``", "victims", "''", "are", "present", "in", "the", "same", "cell", "the", "higher", "the", "impact", ".", "We", "warn", "that", "unwanted", "-LRB-", "or", "``", "background", "''", "-RRB-", "traffic", "can", "have", "an", "impact", "onto", "the", "functionally-complex", "3G", "network", ",", "at", "least", "under", "certain", "conditions", "of", "network", "configuration", "and", "setting", ".", "Real", "measurements", "-LSB-", "6", "-RSB-", "provide", "evidence", "of", "the", "presence", "of", "such", "traffic", "inside", "a", "real", "GPRS/UMTS", "network", ".", "We", "have", "speculated", "on", "its", "potential", "impact", "under", "hypothetical", "network", "conditions", "-LRB-", "e.g.", "MS-to-MS", "communication", "enabled", ",", "no", "firewalling", "set", "in", "the", "GGSNs", "-RRB-", ".", "The", "extent", "to", "which", "such", "conditions", "are", "effectively", "found", "in", "a", "real", "network", "is", "unknown", ",", "as", "mobile", "operators", "do", "not", "disclose", "details", "about", "the", "deployment", "and", "configuration", "of", "their", "networks", ".", "Since", "the", "actual", "impact", ",", "if", "any", ",", "depends", "pointedly", "on", "a", "combination", "of", "factors", "related", "to", "the", "network", "configuration", "and", "equipment", "features", ",", "in", "many", "cases", "the", "relevant", "countermeasures", "and", "fixes", "are", "obvious", "or", "anyway", "simple", "to", "implement", "once", "that", "the", "potential", "risk", "has", "been", "identified", ".", "Often", "preventive", "actions", "are", "as", "simple", "as", "a", "careful", "and", "informed", "network", "engineering", "and", "equipment", "configuration", ".", "For", "instance", ",", "stateful", "firewalling", "at", "the", "GGSN", "prevents", "probe", "packets", "to", "reach", "the", "target", "MS", "thus", "avoding", "DCH", "channels", "to", "be", "``", "spuri-ously", "''", "kept", "alive", "by", "background", "traffic", ".", "Alternatively", ",", "a", "more", "sophisticated", "DCH", "assignment", "strategy", "-LRB-", "e.g.", "based", "on", "thresholds", "on", "the", "packet", "rate", "-RRB-", "would", "alleviate", "the", "problem", ".", "However", ",", "such", "features", "might", "never", "be", "activated", "unless", "an", "explicit", "recognition", "of", "the", "problem", "of", "unwanted", "traffic", "and", "its", "consequences", ".", "In", "summary", ",", "the", "very", "first", "problem", "is", "to", "recognize", "and", "assess", "the", "potential", "risks", ",", "which", "might", "be", "hidden", "in", "the", "intricate", "web", "of", "interactions", "and", "dependencies", "embedded", "within", "the", "functionally-complex", "3G", "network", ".", "The", "potential", "risks", "due", "to", "the", "presence", "of", "unwanted", "traffic", "must", "be", "taken", "into", "account", "in", "the", "design", "of", "the", "network", "setting", ",", "so", "as", "to", "avoid", "the", "emergence", "of", "hazardous", "conditions", ".", "A", "coherent", "process", "of", "risk", "assessment", "should", "be", "considered", "as", "a", "natural", "component", "of", "the", "network", "engineering", "process", ".", "In", "turn", ",", "risk", "recognition", "must", "be", "based", "on", "a", "thorough", "understanding", "of", "the", "specific", "traffic", "environment", ",", "which", "is", "conti-nously", "evolving", "following", "the", "emerging", "of", "new", "services", ",", "new", "types", "of", "terminals", ",", "new", "forms", "of", "infections", ",", "new", "attacks", ",", "etc.", ".", "Automatic", "or", "semi-automatic", "methods", "can", "be", "implemented", "to", "detect", "drifts", "in", "the", "macroscopic", "composition", "of", "the", "traffic", ",", "including", "the", "raise", "of", "new", "components", "of", "unwanted", "traffic", ",", "borrowing", "concepts", "and", "tools", "from", "the", "recent", "achievements", "in", "the", "field", "of", "anomaly", "detection", "in", "the", "Internet", ".", "The", "prerequisite", "for", "all", "that", "is", "a", "continuous", "-LRB-", "always-on", "-RRB-", "process", "of", "large-scale", "traffic", "monitoring", "and", "analysis", "from", "inside", "the", "network", ",", "i.e.", "on", "the", "internal", "interfaces", "like", "Gn", ".", "-LSB-", "1", "-RSB-", "DARWIN", "home", "page", "http://userver.ftw.at/", "ricciato/darwin", ".", "-LSB-", "2", "-RSB-", "A.", "Bavosa", ".", "Attacks", "and", "Counter", "Measures", "in", "2.5", "G", "and", "3G", "Cellular", "IP", "Networks", ".", "Juniper", "White", "Paper", ",", "June", "2004", ".", "Online", "at", "www.juniper.net/solutions/lit-erature/white", "papers/200074.pdf", ".", "-LSB-", "3", "-RSB-", "C.C.", "Zou", ",", "W.", "Gong", ",", "D.", "Towsley", ".", "Code", "Red", "Worm", "Propagation", "Modeling", "and", "Analysis", ".", "9th", "ACM", "Conf", ".", "on", "Computer", "and", "Comm", ".", "Security", "-LRB-", "CCS", "'", "02", "-RRB-", ",", "2002", ".", "-LSB-", "4", "-RSB-", "Cisco", ".", "Dealing", "with", "mallocfail", "and", "High", "CPU", "Utilization", "Resulting", "From", "the", "``", "Code", "Red", "''", "Worm", ".", "www.cisco.com/warp/public/117/ts", "codred", "worm.pdf", ".", "-LSB-", "5", "-RSB-", "E.", "Barkan", ",", "E.", "Biham", ",", "N.", "Keller", ".", "Instant", "Ciphertext-Only", "Cryptanalysis", "of", "GSM", "Encrypted", "Communications", ".", "Crypto", "2003", ",", "Santa", "Barbara", ",", "CA", ",", "August", "2003", ".", "-LSB-", "6", "-RSB-", "F.", "Ricciato", ",", "P.", "Svoboda", ",", "E.", "Hasenleithner", ",", "W.", "Fleischer", ".", "On", "the", "Impact", "of", "Unwanted", "Traffic", "onto", "a", "3G", "Network", ".", "Technical", "Report", "FTW-TR-2006-006", ",", "February", "2006", ".", "Available", "online", "from", "-LSB-", "1", "-RSB-", ".", "-LSB-", "7", "-RSB-", "G.", "M.", "Koien", ".", "An", "Introduction", "ro", "Access", "Security", "in", "UMTS", ".", "IEEE", "Wireless", "Communications", ",", "11", "-LRB-", "1", "-RRB-", ",", "2004", ".", "-LSB-", "8", "-RSB-", "H.", "Holma", ",", "A.", "Toskala", ".", "WCDMA", "for", "UMTS", ".", "Wiley", ".", "-LSB-", "9", "-RSB-", "H.", "Yang", ",", "F.", "Ricciato", ",", "S.", "Lu", ",", "L.", "Zhang", ".", "Securing", "a", "Wireless", "World", ".", "Proceedings", "of", "the", "IEEE", ",", "94", "-LRB-", "2", "-RRB-", ",", "2006", ".", "-LSB-", "10", "-RSB-", "J.", "Bannister", ",", "P.", "Mather", ",", "S.", "Coope", ".", "Convergence", "Technologies", "for", "3G", "Networks", ".", "Wiley", ",", "2004", ".", "-LSB-", "11", "-RSB-", "J.", "M.", "Carlson", ",", "J.", "Doyle", ".", "HOT", ":", "Robustness", "and", "design", "in", "complex", "systems", ".", "Phys", ".", "Rev.", "Let.", ",", "84", "-LRB-", "11", "-RRB-", ",", "2000", ".", "-LSB-", "12", "-RSB-", "J.", "Twycross", ",", "M.", "M.", "Williamson", ".", "Implementing", "and", "testing", "a", "virus", "throttle", ".", "Tech", ".", "Report", "HPL-2003-103", ",", "May", "2003", ".", "Online", "www.hpl.hp.com/techreports/2003", ".", "-LSB-", "13", "-RSB-", "K.", "Ahmavaara", ",", "H.", "Haverinen", ",", "R.", "Pichna", ".", "Interworking", "Architecture", "Between", "3GPP", "and", "WLAN", "systems", ".", "IEEE", "Communications", "Magazine", ",", "November", "2003", ".", "-LSB-", "14", "-RSB-", "L.", "Kleinrock", ".", "The", "Internet", ":", "History", "and", "Future", ".", "Lectio", "Magistralis", "at", "Politecnico", "di", "Torino", ",", "October", "2005", ".", "Online", "at", "www.tlc.polito.it", "/", "nordio/seminars", ".", "-LSB-", "15", "-RSB-", "O.", "Whitehouse", ".", "GPRS", "Wireless", "Security", ":", "Not", "Ready", "For", "Prime", "Time", ".", "Research", "Report", "by", "stake", ",", "June", "2002", ".", "Online", "at", "www.atstake.com/research/reports", ".", "-LSB-", "16", "-RSB-", "R.", "Pang", "et", "al.", ".", "Characteristics", "of", "Internet", "Background", "Radiation", ".", "IMC", "'", "04", ",", "Taormina", ",", "Italy", ",", "October", "2004", ".", "-LSB-", "17", "-RSB-", "S.", "Keshav", ".", "Why", "Cell", "Phones", "Will", "Dominate", "the", "Future", "Internet", ".", "Computer", "Communication", "Review", ",", "35", "-LRB-", "2", "-RRB-", ",", "April", "2005", ".", "-LSB-", "18", "-RSB-", "W.", "Enck", ",", "P.", "Traynor", ",", "P.", "McDaniel", ",", "T.", "La", "Porta", ".", "Exploiting", "Open", "Functionality", "in", "SMS", "Capable", "Cellular", "Networks", ".", "12th", "ACM", "Conf", ".", "on", "Computer", "and", "Comm", ".", "Security", "-LRB-", "CCS", "'", "05", "-RRB-", ",", "November", "2005", ".", "ACM", "SIGCOMM", "Computer", "Communication", "Review", "56", "Volume", "36", ",", "Number", "2", ",", "April", "2006"], "doc_bio_tags": ["B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["cellular networks", "3g", "unwanted traffic"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "136", "document": ["Measuring", "e-Government", "Impact", ":", "Existing", "practices", "and", "shortcomings", "Public", "administrations", "of", "all", "over", "the", "world", "invest", "an", "enormous", "amount", "of", "resources", "in", "e-government", ".", "How", "the", "success", "of", "e-government", "can", "be", "measured", "is", "often", "not", "clear", ".", "E-government", "involves", "many", "aspects", "of", "public", "administration", "ranging", "from", "introducing", "new", "technology", "to", "business", "process", "-LRB-", "re", "-", "-RRB-", "engineering", ".", "The", "measurement", "of", "the", "effectiveness", "of", "e-government", "is", "a", "complicated", "endeavor", ".", "In", "this", "paper", "current", "practices", "of", "e-government", "measurement", "are", "evaluated", ".", "A", "number", "of", "limitations", "of", "current", "measurement", "instruments", "are", "identified", ".", "Measurement", "focuses", "predominantly", "on", "the", "front", "-LRB-", "primarily", "counting", "the", "number", "of", "services", "offered", "-RRB-", "and", "not", "on", "the", "back-office", "processes", ".", "Interpretation", "of", "measures", "is", "difficult", "as", "all", "existing", "measurement", "instruments", "lack", "a", "framework", "depicting", "the", "relationships", "between", "the", "indicators", "and", "the", "use", "of", "resources", ".", "The", "different", "measures", "may", "fit", "the", "aim", "of", "the", "owners", "of", "the", "e-governmental", "services", ",", "however", ",", "due", "to", "conflicting", "aims", "and", "priorities", "little", "agreement", "exists", "on", "a", "uniform", "set", "of", "measures", ",", "needed", "for", "comparison", "of", "e-government", "development", ".", "Traditional", "methods", "of", "measuring", "e-government", "impact", "and", "resource", "usage", "fall", "short", "of", "the", "richness", "of", "data", "required", "for", "the", "effective", "evaluation", "of", "e-government", "strategies", ".", "J.", "1", "-LSB-", "Administrative", "Data", "Processing", "-RSB-", ":", "Administrative", "Data", "Processing", "-", "Government", ";", "K.", "4.4", "-LSB-", "Computing", "Milieux", "-RSB-", ":", "Computers", "and", "Society", "--", "Electronic", "Commerce", "Management", ",", "Measurement", ",", "Performance", ",", "Standardization", "Public", "institutions", "as", "well", "as", "business", "organizations", "use", "the", "Internet", "to", "deliver", "a", "wide", "range", "of", "information", "and", "services", "at", "an", "increasing", "level", "of", "sophistication", "-LSB-", "24", "-RSB-", ".", "However", ",", "Web", "sites", "and", "related", "business", "processes", "and", "information", "systems", "are", "so", "complex", "that", "it", "is", "difficult", "for", "governments", "to", "determine", "adequate", "measures", "for", "evaluating", "the", "efficiency", "and", "effectiveness", "of", "the", "spending", "of", "their", "public", "money", ".", "Moreover", "only", "measuring", "the", "front", "of", "public", "websites", "is", "a", "too", "narrow", "view", "on", "e-government", ".", "E-government", "involves", "the", "collaboration", "and", "communication", "between", "stakeholders", "and", "integration", "of", "cross-agency", "business", "processes", ".", "An", "important", "aim", "of", "having", "a", "well-funded", "theory", "on", "measuring", "e-government", "is", "to", "allow", "comparison", "or", "benchmarking", ".", "By", "examining", "the", "results", "of", "such", "benchmarks", "we", "might", "be", "able", "to", "distinct", "good", "from", "bad", "practices", "and", "to", "give", "directives", "to", "designers", "of", "e-governmental", "services", ".", "Moreover", "is", "should", "help", "to", "identify", "how", "effective", "public", "money", "is", "spend", ".", "Thus", "evaluating", "the", "relationship", "between", "results", "and", "resources", "used", ".", "Comparison", "can", "have", "different", "goals", ".", "Selecting", "between", "options", "is", "just", "one", "of", "them", ".", "Principally", "we", "can", "distinct", "three", "types", "of", "comparison", ":", "1", "-RRB-", "comparison", "of", "alternatives", "-LRB-", "e.g.", "to", "make", "a", "choice", "between", "alternative", "solutions", "-RRB-", ",", "2", "-RRB-", "vertical", "comparison", "over", "time", "-LRB-", "e.g.", "in", "order", "to", "measure", "improvement", "of", "versions", "-RRB-", "and", "3", "-RRB-", "horizontal", "comparison", "-LRB-", "e.g.", "benchmarking", "different", "solutions", "-RRB-", ".", "Whatever", "type", "of", "comparison", "we", "choose", ",", "we", "can", "only", "compare", "if", "we", "have", "a", "set", "of", "preferred", "outcomes", ".", "Many", "measurement", "instruments", "currently", "applied", "are", "not", "described", "in", "such", "way", "that", "the", "preferences", "underlying", "the", "instrument", "have", "been", "made", "explicitly", ".", "In", "this", "research", "we", "describe", "different", "measurement", "instruments", "used", "and", "we", "will", "discuss", "their", "strengths", "and", "weaknesses", ".", "The", "goal", "of", "this", "paper", "is", "to", "evaluate", "how", "current", "measurement", "instruments", "the", "impact", "of", "e-government", ".", "The", "combined", "research", "methodology", "of", "literature", "research", "and", "case", "study", "was", "chosen", "to", "answer", "the", "goal", "of", "this", "research", ".", "Case", "study", "research", "can", "be", "characterized", "as", "qualitative", "and", "observatory", ",", "using", "predefined", "research", "questions", "-LSB-", "36", "-RSB-", ".", "Case", "studies", "were", "used", "to", "examine", "existing", "measurement", "instruments", "in", "the", "Netherlands", ".", "The", "e-government", "monitor", "of", "Accenture", "and", "a", "European", "Union", "measurement", "instrument", "was", "also", "evaluated", "as", "thes", "instruments", "are", "used", "by", "Dutch", "agencies", "to", "benchmark", "their", "situation", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICEC", "'", "04", ",", "Sixth", "International", "Conference", "on", "Electronic", "Commerce", "Edited", "by", ":", "Marijn", "Janssen", ",", "Henk", "G.", "Sol", ",", "and", "Ren", "W.", "Wagenaar", "Copyright", "2004", "ACM", "1-58113-930-6", "/", "04/10", "...", "$", "5.00", "481", "Before", "analyzing", "instruments", "developed", "to", "measure", "e-government", "development", ",", "it", "is", "necessary", "to", "understand", "the", "nature", "of", "e-government", ".", "The", "organization", "of", "public", "administration", "involves", "many", ",", "heterogeneous", "types", "of", "business", "processes", ".", "When", "law", "or", "regulations", "are", "changed", "these", "processes", "and", "their", "supportive", "systems", "have", "to", "be", "adapted", ".", "Within", "one", "policy", "layer", "the", "process", "of", "adaptation", "starts", "with", "legislation", "drafting", "-LRB-", "adapting", "the", "law", "or", "regulations", "-RRB-", "followed", "by", "a", "chain", "of", "processes", "varying", "from", "translating", "these", "law", "texts", "into", "specifications", ",", "design", "of", "processes", "and", "supporting", "systems", ",", "development", "of", "these", "processes", "and", "systems", "and", "finally", "implementation", "and", "use", "-LRB-", "for", "a", "recent", "`", "legal", "engineering", "'", "approach", "see", "-LSB-", "34", "-RSB-", "-RRB-", ".", "A", "complicating", "factor", "is", "that", "more", "than", "one", "governmental", "layer", "exists", "and", "often", "interaction", "between", "these", "layers", "occurs", ".", "Especially", "the", "need", "to", "adapt", "legislation", "from", "the", "European", "Union", "is", "a", "more", "then", "ever", "dominant", "factor", "that", "even", "further", "complicates", "this", "process", "is", ".", "In", "Figure", "1", "the", "fragmented", "nature", "of", "the", "government", "is", "shown", ".", "Legislation", "and", "service", "provisioning", "efforts", "are", "distributed", "over", "the", "European", ",", "State", ",", "Region", "and", "local", "level", ".", "The", "situation", "is", "even", "more", "complicated", "as", "within", "each", "level", "many", "agencies", "of", "various", "types", "exists", ".", "At", "a", "local", "level", "municipalities", ",", "water", "boards", ",", "chambers", "of", "commerce", ",", "local", "taxes", "and", "many", "other", "public", "and", "public-private", "agencies", "exists", ".", "As", "such", "many", "agencies", "influence", "the", "impact", "of", "e-government", "and", "measurement", "should", "include", "them", "all", ".", "Europe", "Europe", "Europe", "Europe", "Europe", "state", "Europe", "region", "Europe", "Europe", "local", "int", "e", "r", "oper", "ata", "b", "ility", "int", "e", "roper", "a", "t", "ability", "int", "e", "r", "opera", "t", "a", "bility", "policy", "and", "standardization", "navigation", ",", "service", "provisioning", ",", "helpdesk", "and", "appeal", "Aggregation", "of", "local", "initaitves", ",", "navigagtion", ",", "geogprahical", "relevance", "standardization", ",", "policies", ",", "culture", ",", "enforcement", "businesses", "demand", "?", "?", "?", "?", "Figure", "1", ":", "Fragmented", "nature", "of", "public", "administration", "Two", "main", "types", "of", "interactions", "influence", "this", "fragmented", "landscape", ",", "the", "policy-making", ",", "implementation", ",", "execution", "and", "enforcement", "of", "new", "legislation", "and", "the", "business", "and", "citizens", "searching", "for", "information", "and", "services", ".", "We", "will", "denote", "the", "creation", ",", "implementation", ",", "execution", ",", "enforcement", "and", "maintenance", "of", "laws", "as", "production", "cycle", "in", "this", "paper", ".", "Governments", "are", "looking", "for", "ways", "to", "increase", "their", "efficiency", ",", "effectiveness", ",", "decrease", "the", "administrative", "burden", "and", "reduce", "the", "lead", "times", "for", "adopting", "new", "legislations", ".", "The", "consequences", "of", "new", "laws", "at", "production", "phase", "-LRB-", "drafting", "-RRB-", "are", "only", "roughly", "known", ".", "Only", "after", "implementing", "the", "new", "regulations", "in", "the", "processes", "and", "supporting", "systems", "the", "full", "meaning", "of", "applying", "these", "regulations", "becomes", "clear", ".", "Certainly", "when", "the", "interpretations", "and", "translation", "into", "practical", "applications", "take", "place", "at", "local", "government", "level", "it", "often", "will", "not", "be", "possible", "to", "timely", "inform", "the", "businesses", "or", "citizens", ",", "who", "are", "affected", "by", "the", "new", "law", ",", "pro-actively", ",", "as", "no", "information", "about", "concrete", "effects", "on", "their", "cases", "is", "available", ".", "A", "complicating", "factor", "is", "that", "many", "times", "a", "administrative", "process", "is", "supported", "by", "heterogeneous", "information", "systems", "and", "many", "different", "parties", "can", "be", "involved", "in", "adapting", "those", "systems", ".", "Most", "of", "the", "companies", "'", "ERP", "software", "components", "need", "to", "be", "updated", "quite", "frequently", "to", "be", "in", ",", "and", "keep", "being", "in", "accordance", "with", "small", "changes", "in", "administrative", "legislation", ".", "The", "same", "holds", "for", "Human", "Resources", "software", ",", "Time", "reporting", "software", ",", "Tax", "reporting", "software", "and", ",", "more", "indirectly", ",", "Logistics", "software", ".", "All", "have", "to", "be", "updated", "due", "to", "changes", "in", "legislation", ".", "It", "does", "not", "require", "extensive", "explanation", "to", "stress", "the", "need", "for", "smart", "public-private", "networks", "from", "a", "production", "chain", "perspective", ".", "Nowadays", "businesses", "expect", "that", "the", "governments", "reduce", "the", "administrative", "burden", "for", "businesses", ".", "Governments", "can", "achieve", "this", "goal", "by", "creating", "a", "smart", ",", "service", "oriented", ",", "public", "administration", ".", "To", "be", "able", "to", "provide", "these", "integrated", "services", "access", "to", "different", "legal", "sources", "or", "better", "to", "the", "formal", "models", "that", "could", "be", "derived", "from", "those", "models", "is", "needed", "-LRB-", "see", "e.g.", "-LSB-", "7", "-RSB-", "-RRB-", ".", "Standardization", "initiatives", "like", "the", "Metalex", "standard", "for", "describing", "legal", "sources", "-LRB-", "see", "www.metalex.nl", "-RRB-", "and", "the", "Power", "method", "for", "modeling", "normative", "systems", "-LRB-", "see", "www.belastingdienst.nl/epower", "-RRB-", "are", "essential", "first", "steps", "towards", "this", ".", "They", "provide", "a", "basis", "for", "interoperable", "and", "contextual", "better", "understandable", "and", "accessible", "legal", "sources", "that", "could", "easier", "be", "connected", "to", "the", "context", "of", "business", "activities", ".", "From", "the", "demand", "perspective", ",", "citizens", "and", "businesses", "find", "it", "very", "hard", "to", "access", "relevant", "legislation", ",", "local", "procedures", "and", "rules", ",", "policy", "documents", "etc.", ".", "Governmental", "bodies", "are", "engaged", "in", "a", "flurry", "of", "policy", "and", "law", "making", "activities", ".", "Not", "only", "is", "this", "a", "complex", "myriad", "of", "legal", "issues", ",", "but", "the", "information", "is", "produced", "at", "different", "levels", "of", "public", "administration", ",", "including", "local", ",", "regional", ",", "national", "and", "European", "union", ".", "A", "commonly", "accepted", "requirement", "however", "is", "that", "online", "state", "legislative", "information", "is", "equally", "accessible", "to", "all", "-LRB-", "Fage", "&", "Fagan", ",", "2004", "-RRB-", "and", "of", "course", "in", "the", "first", "place", "it", "should", "be", "accessible", ".", "Many", "governments", "currently", "are", "searching", "for", "ways", "to", "make", "their", "information", "accessible", "and", "retrievable", ".", "This", "involves", "issues", "regarding", "terminology", ",", "explaining", "the", "type", "of", "legislative", "document", ",", "understandable", "and", "easy-to-use", "search", "interfaces", "and", "accessing", "the", "official", "status", "of", "online", "documents", ".", "A", "central", "question", "for", "researchers", "working", "in", "the", "field", "of", "e-government", "is", "how", "to", "measure", "the", "progress", "made", "in", "complying", "to", "the", "requirements", "mentioned", "before", ".", "In", "this", "paper", "we", "examine", "some", "examples", "of", "measurement", "instruments", "that", "were", "developed", "to", "measure", "progress", "in", "e-Government", ".", "But", "before", "describing", "these", "instruments", "we", "will", "discuss", "some", "literature", "on", "measuring", "eGovernment", "first", ".", "There", "is", "a", "diversity", "of", "literature", "focusing", "on", "measurements", ".", "Stage", "models", "are", "often", "used", "to", "positioning", "and", "evaluate", "the", "current", "status", "of", "e-government", "development", ".", "Services", "literature", "focusing", "482", "on", "the", "measurement", "to", "of", "perceived", "quality", ",", "satisfaction", "of", "complex", ",", "multi-service", "organizations", ".", "Last", "there", "is", "the", "research", "focusing", "on", "developing", "suitable", "`", "yardstick", "'", ",", "performance", "indicators", "acting", "as", "surrogates", "for", "measuring", "the", "performance", ".", "3.1", "Stage", "models", "Many", "researchers", "on", "e-business", "address", "the", "stages", "of", "Web", "site", "development", ".", "Green", "-LSB-", "17", "-RSB-", "suggests", "three", "stages", ":", "attracting", ",", "transforming", ",", "and", "utilization", "of", "media", "technology", ".", "Fink", "et", "al.", ".", "-LRB-", "2001", "-RRB-", "focuses", "on", "attracting", ",", "enhancing", "and", "retaining", "client", "relationships", "using", "the", "Web", "site", "applications", ".", "Moon", "-LSB-", "27", "-RSB-", "proposes", "a", "five", "stage", "model", ".", "Layne", "and", "Lee", "-LSB-", "23", "-RSB-", "propose", "four", "stages", "of", "a", "growth", "model", "towards", "e-government", ".", "In", "stage", "one", ",", "governments", "create", "a", "`", "state", "website", "'", "by", "establishing", "a", "separate", "Internet", "department", ".", "There", "is", "no", "integration", "between", "the", "processes", "in", "the", "front", "and", "back", "offices", ".", "The", "web", "sites", "are", "focused", "on", "creating", "a", "web-presence", "and", "providing", "information", ".", "Transaction", "possibilities", "for", "customers", "are", "restricted", "to", "printing", "online", "forms", "and", "sending", "them", "by", "traditional", "mail", ".", "At", "stage", "two", ",", "transaction", ",", "there", "is", "two-way", "communication", ".", "Customers", "transact", "with", "government", "on-line", "by", "filling", "out", "forms", "and", "government", "responds", "by", "providing", "confirmations", ",", "receipts", ",", "etc.", ".", "The", "number", "of", "transactions", "is", "relatively", "small", "and", "the", "organization", "becomes", "confronted", "with", "translating", "information", "from", "and", "back", "to", "the", "front", "office", "and", "the", "other", "way", "around", ".", "Often", "a", "working", "database", "is", "established", "in", "the", "front", "office", "for", "supporting", "immediate", "transactions", ".", "The", "data", "in", "this", "database", "is", "periodically", "derived", "from", "and", "exported", "to", "the", "various", "databases", "in", "the", "back", "office", ".", "At", "stage", "three", ",", "vertical", "integration", ",", "the", "focus", "is", "moving", "towards", "transformation", "of", "government", "services", ",", "rather", "than", "automating", "and", "digitizing", "existing", "processes", ".", "Most", "information", "systems", "are", "localized", "and", "fragmented", ".", "Government", "organizations", "often", "maintain", "separate", "databases", "that", "are", "not", "connected", "to", "other", "governmental", "agencies", "at", "the", "same", "level", "or", "with", "similar", "agencies", "at", "the", "local", "or", "federal", "level", ".", "A", "natural", "progression", "according", "to", "Layne", "and", "Lee", "is", "the", "integration", "of", "scattered", "information", "systems", "at", "different", "levels", "-LRB-", "vertical", "-RRB-", "of", "government", "services", ".", "Layne", "and", "Lee", "-LRB-", "2001", "-RRB-", "expect", "that", "vertical", "integration", "within", "the", "similar", "functional", "walls", "but", "across", "different", "levels", "of", "government", "will", "happen", "first", ",", "because", "the", "gap", "between", "levels", "of", "government", "is", "much", "less", "than", "the", "difference", "between", "different", "functions", ".", "Information", "systems", "are", "connected", "to", "each", "other", "or", ",", "at", "least", ",", "can", "communicate", "with", "each", "other", ".", "The", "problem", "with", "the", "description", "of", "governmental", "systems", "is", "that", "they", "do", "n't", "make", "a", "distinction", "between", "the", "-LRB-", "legal", "and", "administrative", "`", "knowledge", "'", "contained", "in", "those", "systems", "and", "the", "data", "-LRB-", "of", "citizens", "-RRB-", "to", "which", "that", "knowledge", "is", "applied", "-LRB-", "e.g.", "to", "derive", "if", "someone", "is", "entitled", "to", "receive", "a", "subsidy", "-RRB-", ".", "Especially", "the", "sharing", "of", "data", "is", "limited", "and", "for", "very", "good", "reasons", "too", "!", "Both", "the", "desire", "to", "guarantee", "a", "certain", "level", "of", "privacy", "and", "the", "vulnerability", "for", "misuse", "of", "data", "have", "been", "reasons", "for", "the", "legislator", "to", "limit", "storage", ",", "reusing", "and", "sharing", "data", "between", "different", "agencies", "-LRB-", "not", "to", "speak", "of", "passing", "data", "of", "citizens", "from", "the", "government", "to", "private", "institutions", "-RRB-", ".", "The", "challenge", "consequently", "is", "how", "to", "realize", "the", "full", "potential", "of", "information", "technology", ",", "from", "the", "customer", "'s", "perspective", ",", "since", "this", "can", "only", "be", "achieved", "by", "horizontally", "integrating", "government", "services", "across", "different", "functional", "walls", "-LRB-", "`", "silos", "'", "-RRB-", "in", "Layne", "and", "Lee", "'s", "stage", "four", ",", "horizontal", "integration", ".", "The", "question", "is", "how", "to", "achieve", "this", "without", "the", "need", "for", "having", "databases", "across", "different", "functional", "areas", "to", "communicate", "with", "each", ".", "The", "situation", "that", "information", "obtained", "by", "one", "agency", "can", "be", "used", "for", "CRM", "purposes", "by", "other", "agencies", "by", "sharing", "information", "is", "for", "reasons", "mentioned", "earlier", ",", "undesirable", ".", "The", "knowledge", "contained", "in", "these", "information", "systems", "however", "can", "be", "shared", "and", "reused", "thus", "allowing", "better", "integrated", "government", "services", ".", "3.2", "Service", "literature", "The", "concepts", "of", "perceived", "quality", "and", "satisfaction", "are", "two", "of", "the", "fundamental", "pillars", "of", "recent", "evaluation", "studies", ".", "Bign", "et", "al.", "-LSB-", "5", "-RSB-", "conclude", "that", "in", "most", "cases", "the", "fundamental", "unit", "of", "analysis", "has", "been", "an", "isolated", "service", ",", "and", "the", "fact", "that", "several", "services", "may", "be", "offered", "by", "an", "individual", "organization", "has", "not", "been", "taken", "into", "account", ".", "Indeed", "multi-service", "organizations", ",", "where", "the", "customer", "has", "access", "to", "several", "services", ",", "have", "not", "been", "so", "intensively", "dealt", "with", ".", "The", "problems", "facing", "these", "organizations", "in", "terms", "of", "measurement", "and", "management", "of", "perceived", "quality", "and", "of", "satisfaction", "are", "more", "complex", "than", "in", "those", "organizations", "where", "only", "one", "service", "is", "offered", ",", "but", "less", "complex", "then", "situations", "where", "a", "service", "has", "to", "be", "assembled", "from", "many", "other", "service", "suppliers", ".", "When", "measuring", "the", "quality", "of", "such", "integrated", "service", "it", "is", "necessary", "to", "take", "into", "consideration", "not", "only", "the", "perceived", "quality", "of", "each", "of", "the", "elementary", "services", ",", "but", "also", "the", "perceived", "overall", "quality", "of", "the", "constituting", "ones", ".", "Bign", "et", "al.", "-LSB-", "5", "-RSB-", "found", "that", "the", "scale", "used", "to", "determine", "the", "perceived", "quality", "of", "the", "core", "services", "of", "hospitals", ",", "and", "universities", ",", "is", "composed", "of", "five", "dimensions", ",", "as", "proposed", "by", "Parasuraman", "et", "al.", "-LSB-", "28", "-RSB-", ":", "tangibility", ",", "reliability", ",", "responsiveness", ",", "confidence", "and", "empathy", ".", "3.3", "Performance", "indicators", "Performance", "indicators", "serve", "as", "surrogates", "to", "deduce", "the", "quality", "of", "the", "e-government", "performance", "-LSB-", "20", "-RSB-", ".", "Lee", "-LSB-", "24", "-RSB-", "provides", "measurements", "based", "on", "development", "states", "and", "a", "modification", "of", "Simeon", "'s", "-LSB-", "32", "-RSB-", "components", ".", "-LRB-", "1", "-RRB-", "The", "following", "five", "items", "determine", "the", "affect", "-LRB-", "Attracting", "-RRB-", "of", "a", "homepage", "on", "the", "Web", "site", ":", "1", ".", "Design", "of", "logo", "and", "tagline", "-LRB-", "quick", "summary", "of", "what", "a", "Web", "site", "is", "all", "about", "-RRB-", ".", "2", ".", "Graphics", "-LRB-", "e.g.", "layout", ",", "color", "and", "figures", "of", "a", "homepage", "-RRB-", ".", "3", ".", "Institution", "'s", "self-advertising", "-LRB-", "e.g.", "banner", ",", "button", ",", "and", "interstitials", "-RRB-", ".", "4", ".", "Services", "for", "attracting", "-LRB-", "e.g.", "quiz", ",", "lottery", ",", "e-card", ",", "maps", ",", "weather", ",", "channels", ",", "download", "service", "-RRB-", ".", "C", "5", ".", "Contents", "for", "attracting", "-LRB-", "e.g.", "entertainments", ",", "culture", ",", "tourism", ",", "game", ",", "kids", ",", "health", ",", "gallery", "-RRB-", ".", "-LRB-", "2", "-RRB-", "Informing", "consists", "of", "nine", "items", "developed", "by", "modifying", "Simeon", "'s", "-LRB-", "1999", "-RRB-", "components", ":", "local", "links", ",", "contents", "for", "publicity", ",", "contents", "for", "learning", ",", "reports", ",", "descriptions", "on", "the", "institution", ",", "descriptions", "on", "online", "administrative", "services", ",", "projects", ",", "contact", "information", "and", "counseling", ".", "-LRB-", "3", "-RRB-", "Community", "consists", "of", "ten", "items", ":", "online", "forum", ",", "events", ",", "partner", "links", "-LRB-", "or", "ads", "-RRB-", ",", "e-Magazine", "-LRB-", "or", "newsletter", "or", "Webcast", "-RRB-", ",", "message", "boards", ",", "users", "'", "participation", "-LRB-", "e.g.", "articles", ",", "photos", ",", "personal", "links", "-RRB-", ",", "focus", "of", "news", ",", "vision", "-LRB-", "or", "values", "-RRB-", ",", "domain", "identity", "and", "community", "services", "-LRB-", "or", "online", "support", "for", "community", "meeting", "or", "networking", "-RRB-", ".", "A", "good", "example", "of", "the", "latter", "is", "the", "``", "Citizen", "discussion", "room", "''", "of", "Ulsan", "City", "-LRB-", "eulsan.go.kr", "-RRB-", ".", "483", "-LRB-", "4", "-RRB-", "Delivering", "as", "a", "variable", "is", "determined", "by", "the", "presence", "or", "absence", "of", "features", "like", ":", "search", "engine", ",", "mailing", "list", ",", "framework", ",", "multimedia", ",", "password", "system", ",", "FAQ", ",", "chat", ",", "downloadable", "publications", "and", "update", "indication", ".", "-LRB-", "5", "-RRB-", "Innovation", ".", "Public", "institutions", "have", "to", "utilize", "the", "Internet", "for", "actual", "service", "innovation", ".", "Hence", ",", "two", "variables", "indicating", "innovation", "results", "are", "selected", ":", "transformation", "level", "of", "existing", "services", "and", "frequency", "of", "new", "innovative", "services", ".", "These", "are", "each", "rated", "on", "a", "five-point", "scale", ":", "``", "-LRB-", "1", "-RRB-", "never", ";", "-LRB-", "2", "-RRB-", "only", "descriptions", ";", "-LRB-", "3", "-RRB-", "online", "request", ";", "-LRB-", "4", "-RRB-", "partial", ";", "-LRB-", "5", "-RRB-", "full", "processing", "''", "for", "the", "first", "item", "and", "''", "-LRB-", "1", "-RRB-", "never", "to", "-LRB-", "5", "-RRB-", "many", "new", "systems", "''", ",", "for", "the", "second", "item", ".", "Such", "quantification", "is", "possible", "because", "the", "introduction", "of", "new", "innovative", "systems", "on", "public", "sector", "Web", "sites", "is", "growing", ",", "for", "example", ",", "Docket", "Access", ",", "View", "Property", "Assessments", ",", "and", "Request", "for", "Proposals", "of", "Philadelphia", "-LRB-", "phila.gov", "-RRB-", "and", "Citizen", "Assessment", "Systems", ",", "Citizen", "Satisfaction", "Monitor", ",", "Online", "Procedures", "Enhancement", "-LRB-", "OPEN", "-RRB-", "System", "of", "Seoul", "-LRB-", "metro.seoul.kr", "-RRB-", ".", "These", "measures", "focus", "mainly", "on", "components", "visible", "to", "users", "and", "do", "not", "take", "into", "account", "back-office", "components", "like", "integration", ".", "Van", "der", "Merwe", "and", "Bekker", "-LSB-", "26", "-RSB-", "classify", "website", "evaluation", "criteria", "in", "5", "groups", "as", "shown", "in", "table1", ".", "Many", "of", "their", "criteria", "seem", "to", "be", "inspired", "by", "their", "e-Commerce", "orientation", "but", "many", "of", "the", "criteria", "will", "be", "applicable", "to", "e-Government", "as", "well", ".", "Table", "1", ":", "Web", "site", "evaluation", "criteria", "groups", "according", "to", "Merwe", "and", "Bekker", "-LSB-", "26", "-RSB-", "Phase", "Criteria", "group", "This", "criteria", "group", "evaluates/measures", "Interface", "Graphic", "design", "principles", "The", "effective", "use", "of", "color", ",", "text", ",", "backgrounds", ",", "and", "other", "general", "graphic", "design", "principles", "Graphics", "and", "multimedia", "The", "effectiveness", "of", "the", "graphics", "and", "multimedia", "used", "on", "the", "site", "Style", "and", "text", "Whether", "or", "not", "the", "text", "is", "concise", "and", "relevant", ",", "and", "the", "style", "good", "Flexibility", "and", "compatibility", "The", "degree", "to", "which", "the", "interface", "is", "designed", "to", "handle", "exceptions", ",", "for", "example", ",", "text-only", "versions", "of", "pages", "Navigation", "Logical", "structure", "The", "organization", "and", "menu", "system", "of", "the", "site", "Ease", "of", "use", "The", "ease", "of", "navigation", "to", "find", "the", "pages", "that", "the", "user", "is", "looking", "for", "Search", "engine", "The", "search", "engine", "'s", "ability", "to", "find", "the", "correct", "pages", "easily", "and", "provide", "clear", "descriptions", "of", "the", "search", "results", "Navigational", "necessities", "Other", "important", "aspects", "of", "navigation", "like", "the", "absence", "of", "broken", "links", "and", "``", "under-construction", "''", "pages", "Content", "Product/service-related", "information", "Whether", "or", "not", "the", "products/services", "are", "described", "precisely", "and", "thoroughly", "Agency", "and", "contact", "Information", "Whether", "or", "not", "it", "is", "easy", "to", "find", "information", "on", "the", "company", ",", "its", "employees", "and", "its", "principals", "Information", "quality", "The", "currency", "and", "relevance", "of", "the", "content", "on", "the", "site", "Interactivity", "How", "much", "input", "the", "user", "has", "on", "the", "content", "displayed", "on", "the", "site", "Reliability", "Stored", "customer", "profile", "The", "registering", "process", "and", "how", "the", "company", "uses", "the", "stored", "customer", "profile", "Order", "process", "The", "effectiveness", "and", "ease", "of", "use", "of", "the", "online", "order", "process", "After-order", "to", "order", "receipt", "The", "company", "'s", "actions", "from", "order", "placement", "until", "the", "order", "is", "delivered", "Customer", "service", "How", "the", "company", "communicates", "and", "helps", "its", "online", "customers", "Technical", "Speed", "Different", "aspects", "of", "the", "loading", "speed", "of", "the", "site", "Security", "Security", "systems", "and", "the", "ways", "used", "by", "the", "company", "to", "protect", "customers", "'", "privacy", "on", "the", "site", "Software", "and", "database", "Flexibility", "in", "terms", "of", "different", "software", "used", ".", "Also", "looks", "at", "the", "data", "software", "and", "data", "communication", "systems", "used", "on", "the", "site", "System", "design", "The", "correct", "functioning", "of", "the", "site", "and", "how", "well", "it", "integrates", "with", "internal", "and", "external", "systems", "Hazlett", "and", "Hill", "discuss", "-LSB-", "19", "-RSB-", "discuss", "the", "current", "level", "of", "government", "measurement", ".", "Huang", "and", "Chao", "-LRB-", "2001", "-RRB-", "note", "that", "while", "the", "development", "and", "management", "of", "web", "sites", "are", "becoming", "essential", "elements", "of", "public", "sector", "management", ",", "little", "is", "known", "about", "their", "effectiveness", ".", "Indeed", ",", "Kaylor", "et", "al.", "-LRB-", "2001", "-RRB-", "note", "that", "research", "into", "the", "effectiveness", "of", "e-Government", "efforts", "tends", "to", "concentrate", "on", "content", "analysis", "or", "measures", "of", "usage", ".", "These", "may", "not", "be", "wholly", "appropriate", "metrics", "with", "which", "to", "gauge", "success", ".", "Aspects", "of", "service", "relevant", "in", "this", "context", "may", ",", "according", "to", "Voss", "-LRB-", "2000", "-RRB-", "include", ":", "consumer", "perceptions", "of", "security", "and", "levels", "of", "trust", ";", "response", "times", "-LRB-", "bearing", "in", "mind", "that", "Internet", "consumers", "may", "well", "be", "accustomed", "to", "quick", "responses", "-RRB-", ";", "navigability", "of", "the", "Web", "site", ";", "download", "time", ";", "fulfillment", "of", "service", "promised", ";", "timely", "updating", "of", "information", ";", "site", "effectiveness", "and", "functionality", ".", "Reinforcing", "a", "point", "made", "above", ",", "Voss", "-LRB-", "2000", "-RRB-", "takes", "the", "view", "that", "e-service", "channels", "should", "be", "regarded", "as", "providing", "484", "support", "for", "front-line", "service", "delivery", "and", "not", "replacements", "for", "front-line", "service", ".", "However", ",", "such", "channels", "do", "enable", "change", "in", "the", "nature", "of", "front-line", "service", "delivery", "and", "of", "human", "involvement", "in", "service", ".", "4.1", "OVERHEID.NL", "The", "Dutch", "Government", "has", "recently", "published", "``", "Overheid.nl", "Monitor", "2003", "''", ",", "its", "fifth", "annual", "e-government", "progress", "report", ".", "While", "highlighting", "a", "number", "of", "encouraging", "developments", ",", "the", "report", "concludes", "that", "much", "remains", "to", "be", "done", "in", "areas", "such", "as", "user-friendliness", ",", "transactional", "services", "and", "e-democracy", ".", "Overheid.nl", "focused", "on", "all", "government", "agencies", ",", "and", "mentions", "the", "following", "agencies", "explicitly", ".", "Municipalities", "Ministries", "Provinces", "Water", "boards", "A", "screenshot", "of", "the", "online", "monitor", "of", "the", "measurement", "of", "municipalities", "is", "shown", "in", "the", "figure", "below", ".", "Figure", "2", ":", "Screenshot", "of", "Overheid.nl", "``", "Overheid.nl", "Monitor", "2003", ":", "developments", "in", "electronic", "government", "''", "is", "based", "on", "a", "periodical", "large-scale", "survey", "of", "government", "websites", ",", "which", "was", "carried", "out", "in", "October", "2003", "by", "Advies", "Overheid.nl", "on", "behalf", "of", "the", "Dutch", "Ministry", "of", "the", "Interior", "and", "Kingdom", "Relations", ".", "The", "survey", "assessed", "1,124", "government", "websites", "according", "to", "five", "criteria", ":", "user-friendliness", ",", "general", "information", ",", "government", "information", ",", "government", "services", ",", "and", "scope", "for", "participation", "-LRB-", "interactive", "policy", "making", "-RRB-", ".", "The", "website", "user", "friendliness", "measurement", "etc", ",", "is", "very", "thorough", "in", "this", "survey", ".", "The", "e-service", "measurement", "is", "less", "well", "defined", ".", "The", "services", "investigated", "for", "the", "survey", "are", "listed", "clearly", "for", "several", "layers", "of", "government", "but", "they", "seem", "to", "be", "limited", "to", "the", "so", "called", "`", "Dutch", "service", "product", "catalogue", "'", ",", "set", "of", "typical", "municipal", "products", "and", "services", ".", "Figure", "3", ":", "Sample", "listing", "of", "services", "measured", "and", "ways", "of", "accessing", "them", "investigated", "Additionally", ",", "researchers", "measured", "the", "e-mail", "response", "time", "of", "government", "websites", "and", "assessed", "user", "satisfaction", "via", "a", "survey", "of", "3,000", "users", ".", "The", "report", "states", "that", ",", "although", "e-government", "services", "are", "developing", "on", "schedule", "and", "are", "becoming", "more", "sophisticated", ",", "there", "is", "still", "much", "room", "for", "improvement", ".", "On", "the", "positive", "side", ",", "the", "report", "finds", "that", ":", "E-government", "is", "developing", "on", "schedule", ".", "The", "2003", "target", "of", "providing", "35", "%", "of", "government", "services", "electronically", "was", "widely", "achieved", ",", "with", "39", "%", "of", "services", "for", "citizens", "and", "44", "%", "of", "services", "for", "businesses", "e-enabled", "by", "October", "2003", ".", "However", ",", "the", "report", "also", "identifies", "a", "number", "of", "shortcomings", "and", "areas", "where", "improvement", "is", "needed", ":", "Practically", "no", "full", "electronic", "transactions", "are", "available", ".", "In", "this", "respect", ",", "the", "report", "considers", "that", "development", "of", "such", "services", "will", "depend", "both", "on", "future", "solutions", "for", "user", "identification", "and", "authentication", "and", "on", "back-office", "re-engineering", ".", "Although", "the", "use", "of", "e-services", "is", "growing", ",", "the", "development", "of", "e-government", "is", "still", "mainly", "supply-driven", "and", "the", "penetration", "of", "government", "websites", "remains", "unknown", ".", "``", "Only", "if", "we", "assess", "the", "penetration", "of", "government", "websites", "and", "the", "level", "of", "their", "use", "can", "we", "take", "a", "truly", "demand-driven", "approach", "''", ",", "the", "report", "says", ".", "The", "items", "related", "to", "municipalities", "are", "connected", "to", "the", "functionalities", "within", "an", "implemented", "product", "and", "services", "catalogue", ".", "D1", "Is", "a", "product", "catalogue", "or", "another", "form", "of", "systematically", "offered", "services", "been", "used", "?", "D2", "-", "if", "so", ",", "does", "at", "least", "contain", "150", "products", "?", "D3", "-", "if", "so", ",", "does", "is", "at", "least", "contain", "50", "forms", "?", "i.e.", ":", "can", "one", "request", "for", "or", "comment", "on", "at", "least", "50", "product", "by", "using", "a", "form", "that", "is", "contained", "in", "the", "product", "catalogue", "which", "can", "be", "filled", "in", ",", "printed", "and", "send", "in", "by", "the", "users", "...", "?", "D4", "-", "if", "so", ",", "can", "these", "be", "accessed", "per", "life", "event", "?", "D5", "-", "if", "so", ",", "can", "these", "be", "accessed", "per", "theme", "?", "D6", "-", "if", "so", ",", "can", "these", "be", "accessed", "by", "using", "a", "lexicon", "-LRB-", "a-z", "-RRB-", "?", "D7", "-", "if", "so", ",", "does", "it", "contain", "a", "specific", "search", "function", "?", "-LRB-", "fill", "in", "the", "search", "term", "-RRB-", "Besides", "this", ",", "four", "commonly", "municipal", "products", "are", "mentioned", "that", "can", "be", "supplied", "more", "or", "less", "in", "a", "digital", "form", ".", "-LRB-", "choices", ":", "no", "info", ";", "info", ";", "down", "loadable", "form", ";", "up", "loadable", "form", ";", "transaction", "-RRB-", "D8a", "Request", "for", "building", "permission", "D8b", "Request", "for", "Cutting", "trees", "permission", "D8c", "Request", "for", "extract", "from", "GBA", "D8d", "Report", "of", "change", "of", "address", "/", "removal", "-LRB-", "no", "transaction", "possible", "-RRB-", "485", "Users", "'", "satisfaction", "with", "e-government", "services", "is", "still", "significantly", "lower", "than", "with", "services", "delivered", "through", "traditional", "channels", ".", "E-democracy", "tools", "and", "citizen", "engagement", "through", "electronic", "means", "remain", "embryonic", ".", "According", "to", "the", "report", ",", "this", "is", "due", "not", "only", "to", "a", "lack", "of", "demand", "but", "also", "to", "a", "poorly", "organized", "supply", "side", ",", "with", "inadequate", "moderation", ",", "unappealing", "consultation", "subjects", "and", "missing", "follow-up", ".", "In", "addition", "to", "identifying", "progress", "accomplished", "and", "remaining", "issues", ",", "the", "report", "makes", "a", "number", "of", "recommendations", "that", "should", "help", "reach", "the", "objectives", "of", "the", "Andere", "Overheid", "-LRB-", "``", "Other", "Government", "''", "-RRB-", "action", "programme", ",", "presented", "in", "December", "2003", ".", "Such", "recommendations", "include", "the", "following", ":", "E-government", "services", "must", "become", "more", "user-friendly", "and", "easier", "to", "find", ".", "Metadata", "standards", "should", "be", "defined", "to", "make", "them", "easier", "to", "find", "through", "search", "engines", ".", "FAQs", "and", "lists", "of", "the", "most", "searched", "terms", "and", "documents", "should", "also", "be", "made", "more", "widely", "available", ".", "E-government", "services", "must", "be", "permanently", "improved", ":", "even", "once", "all", "government", "websites", "are", "fully", "functional", ",", "government", "should", "still", "constantly", "aim", "to", "improve", "e-government", "and", "consult", "target", "groups", "about", "new", "services", "they", "might", "require", ",", "says", "the", "report", ".", "E-government", "must", "be", "further", "developed", "through", "service", "integration", "across", "government", "bodies", ",", "which", "is", "currently", "still", "in", "its", "infancy", ".", "According", "to", "the", "report", ",", "the", "Dutch", "supply-driven", "approach", "has", "so", "far", "sought", "solutions", "within", "the", "limits", "and", "administrative", "competencies", "of", "single", "bodies", ".", "Emphasis", "must", "be", "shifted", "from", "the", "breadth", "of", "services", "to", "their", "depth", ".", "Rather", "than", "aiming", "to", "run", "every", "electronic", "product", "and", "service", "conceivable", ",", "government", "bodies", "should", "aim", "to", "integrate", "services", "as", "deeply", "as", "possible", ",", "especially", "those", "in", "frequent", "and", "popular", "demand", ",", "the", "report", "says", ".", "This", "implies", "developing", "seamless", "links", "from", "the", "front", "to", "the", "back", "office", "and", "fostering", "a", "more", "customer-minded", "culture", ".", "From", "the", "perspective", "of", "the", "policymakers", "we", "may", "conclude", "that", "the", "benchmark", "takes", "into", "account", "individual", "agencies", "and", "their", "websites", ",", "number", "of", "services", "and", "to", "a", "certain", "degree", "also", "service", "levels", ",", "but", "the", "aim", "is", "to", "integrate", "horizontally", ",", "something", "which", "is", "not", "measured", "by", "www.overheid.nl", ".", "4.2", "WEBDAM.NL", "In", "the", "year", "2000", "the", "ministry", "of", "interior", "decided", "that", "all", "municipalities", "should", "be", "online", "by", "2002", "and", "25", "%", "of", "the", "services", "provisioning", "should", "be", "support", "by", "websites", ".", "In", "order", "to", "help", "municipalities", "to", "achieve", "this", ",", "the", "Webdam", "project", "was", "started", "in", "March", "2000", "aiming", "at", "stimulating", "municipalities", "to", "develop", "websites", ".", "These", "websites", "should", "deliver", "better", "and", "improved", "services", "provisioning", "over", "the", "Internet", "as", "citizens", "expected", ".", "One", "of", "the", "activities", "in", "the", "Webdam", "project", "has", "been", "the", "development", "of", "a", "website", "that", "allowed", "municipalities", "to", "share", "knowledge", "and", "make", "better", "use", "of", "the", "Internet", ".", "To", "further", "stimulate", "municipalities", "Webdam", "started", "a", "Top", "50", "for", "municipalities", "'", "websites", ",", "using", "criteria", "such", "as", "design", ",", "content", ",", "service", "level", "and", "communication", ".", "Assessment", "and", "ranking", "of", "each", "municipality", "is", "performed", "by", "representatives", "coming", "from", "three", "groups", ";", "civil", "servants", ",", "citizens", "and", "experts", ".", "Webdam", "uses", "a", "panel", "of", "experts", "to", "judge", "the", "public", "agencies", "'", "web", "pages", ".", "The", "stakeholders", "include", "the", "following", "groups", ":", "1", ".", "Webdam", "employees", "-LRB-", "experts", "-RRB-", "2", ".", "Public", "servants", "municipality", "under", "study", "3", ".", "Citizens", "These", "stakeholders", "judges", "the", "web", "pages", "based", "on", "fie", "main", "groups", "1", ".", "Layout", ",", "2", ".", "Content", ",", "3", ".", "Communication", ",", "4", ".", "services", "and", ",", "5", ".", "plus/minus", "remarks", "Each", "group", "has", "a", "minimum", "and", "maximum", "score", ".", "The", "total", "is", "aggregated", "to", "determine", "a", "ranking", ".", "Who", "determines", "score", "?", "Figure", "4", ":", "Screenshot", "of", "webdam", "Webdam", "focuses", "exclusively", "on", "the", "front-office", ",", "the", "aspects", "directly", "visibility", "to", "the", "citizens", "using", "the", "web", "pages", ".", "No", "connection", "to", "the", "size", "of", "the", "municipality", ",", "the", "number", "of", "citizens", "and", "other", "expect", "influencing", "the", "available", "resources", "of", "the", "municipality", ".", "is", "made", "4.3", "Accenture", "e-gov", "monitor", "The", "yearly", "research", "conduct", "by", "Accenture", "-LSB-", "1", "-RSB-", "-LSB-", "2", "-RSB-", "-LSB-", "3", "-RSB-", "has", "a", "profound", "influence", "on", "governments", ".", "An", "increase", "of", "decrease", "in", "ranking", "of", "this", "report", "results", "in", "discussions", "about", "the", "future", "of", "e-government", ".", "Accenture", "researchers", "in", "each", "of", "the", "23", "selected", "countries", "described", "the", "typical", "services", "that", "national", "government", "should", "provide", "using", "the", "Internet", "in", "order", "to", "fulfill", "the", "obvious", "needs", "of", "citizens", "and", "businesses", ".", "They", "accessed", "and", "assessed", "the", "websites", "of", "national", "government", "agencies", "to", "determine", "the", "quality", "and", "maturity", "of", "services", ",", "and", "the", "level", "at", "which", "business", "can", "be", "conducted", "electronically", "with", "government", ".", "In", "total", ",", "169", "national", "government", "services", "across", "nine", "major", "service", "sectors", "were", "investigated", "by", "Accenture", "during", "a", "two", "weeks", "lasting", "study", "-LRB-", "!", "-RRB-", "in", "2002", "using", "the", "web", "in", "23", "countries", ".", "The", "nine", "service", "sectors", "researched", "were", "Human", "Services", ",", "Justice", "&", "Public", "Safety", ",", "Revenue", ",", "Defence", ",", "Education", ",", "Transport", "&", "Motor", "Vehicles", ",", "Regulation", "&", "Democracy", ",", "Procurement", "and", "Postal", ".", "The", "main", "``", "indicator", "''", "of", "the", "eGovernment", "level", "chosen", "by", "Accenture", "486", "is", "what", "they", "call", ":", "service", "maturity", ".", "Service", "maturity", "is", "an", "indication", "for", "the", "level", "to", "which", "a", "government", "has", "developed", "an", "online", "presence", ".", "It", "takes", "into", "account", "the", "numbers", "of", "services", "for", "which", "national", "governments", "are", "responsible", "that", "are", "available", "online", "-LRB-", "Service", "Maturity", "Breadth", "-RRB-", ",", "and", "the", "level", "of", "completeness", "with", "which", "each", "service", "is", "offered", "-LRB-", "Service", "Maturity", "Depth", "-RRB-", ".", "Service", "Maturity", "Overall", "is", "the", "product", "of", "Service", "Maturity", "Breadth", "and", "Service", "Maturity", "Depth", ".", "Service", "maturity", "is", "decomposed", "into", "the", "following", "aspects", ":", "Publish", "-", "Passive/Passive", "Relationship", ".", "The", "user", "does", "not", "communicate", "electronically", "with", "the", "government", "agency", "and", "the", "agency", "does", "not", "communicate", "-LRB-", "other", "than", "through", "what", "is", "published", "on", "the", "website", "-RRB-", "with", "the", "user", ".", "Interact", "-", "Active/Passive", "Interaction", ".", "The", "user", "must", "be", "able", "to", "communicate", "electronically", "with", "the", "government", "agency", ",", "but", "the", "agency", "does", "not", "necessarily", "communicate", "with", "the", "user", ".", "Transact", "-", "Active/Active", "Interaction", ".", "The", "user", "must", "be", "able", "to", "communicate", "electronically", "with", "the", "government", "agency", ",", "and", "the", "agency", "must", "be", "able", "to", "respond", "electronically", "to", "the", "user", ".", "the", "degree", "to", "which", "the", "services", "are", "organized", "around", "the", "citizen", ",", "as", "opposed", "to", "around", "internal", "government", "structures", ".", "In", "2004", "Accenture", "again", "investigated", "12", "service", "sectors", "and", "206", "services", "in", "yet", "again", "two", "weeks", ".", "They", "were", ":", "agriculture", ";", "defence", ";", "e-Democracy", ";", "education", ";", "human", "services", ";", "immigration", ",", "justice", "and", "security", ";", "postal", ";", "procurement", ";", "regulation", ";", "participation", ";", "revenue", "and", "customs", ";", "and", "transport", ".", "Little", "is", "said", "by", "Accenture", "about", "the", "metrics", "involved", ".", "They", "have", "performed", "the", "survey", "for", "five", "years", "now", "and", "the", "perspective", "chosen", "is", "that", "of", "a", "citizen", "accessing", "a", "government", "service", "using", "on", "line", "means", ".", "For", "this", "article", "it", "is", "interesting", "to", "note", "the", "final", "remarks", "in", "the", "2004", "report", ":", "governments", "are", "at", "the", "end", "of", "what", "can", "be", "achieved", "with", "traditional", "methods", ";", "they", "are", "developing", "strategies", "to", "cope", "with", "horizontal", "integration", "between", "agencies", ".", "4.4", "Regional", "innovation", "scorecard", "-LRB-", "ris", "-RRB-", "One", "of", "the", "ambitions", "of", "the", "EU", "is", "to", "become", "the", "most", "competitive", "and", "dynamic", "knowledge-based", "economy", "of", "the", "world", "-LRB-", "Lissabon", "agenda", "-RRB-", ".", "To", "measure", "this", ",", "the", "European", "Regional", "Innovation", "Scorecard", "-LRB-", "RIS", "-RRB-", ",", "a", "scorecard", "used", "for", "monitoring", "and", "comparing", "the", "innovation", "in", "regions", ",", "has", "been", "developed", "-LSB-", "13", "-RSB-", ".", "The", "scorecard", "is", "seen", "as", "acknowledged", "instrument", "to", "compare", "regions", "in", "their", "ability", "to", "foster", "economic", "growth", ".", "The", "Largest", "province", "of", "The", "Netherlands", ",", "The", "Province", "of", "South", "Holland", ",", "explicitly", "states", "on", "their", "website", ":", "``", "The", "province", "of", "Noord-Brabant", "ranks", "third", "on", "the", "European", "regional", "innovation", "scoreboard", ".", "Zuid-Holland", "will", "have", "to", "make", "a", "considerable", "effort", "in", "the", "coming", "years", "if", "it", "is", "to", "reach", "the", "top-20", "''", ".", "They", "also", "state", "that", "``", "the", "scoreboard", "is", "regarded", "as", "extremely", "relevant", "because", "it", "is", "generally", "accepted", "as", "the", "a", "leading", "European", "benchmark", "for", "innovation", "dynamics", "''", "-LSB-", "30", "-RSB-", ".", "Surprisingly", "the", "same", "regional", "authority", "does", "not", "pay", "any", "attention", "to", "the", "contribution", "of", "their", "own", "eGovernment", "services", "to", "that", "level", "of", "innovation", "and", "economic", "growth", ".", "There", "is", "no", "mentioning", "of", "eGovernment", "or", "government", "services", "or", "anything", "close", "to", "it", "in", "the", "whole", "policy", "documents", "related", "to", "innovation", "at", "this", "Province", ".", "This", "becomes", "less", "surprising", "when", "the", "indicators", "of", "the", "RIS", "and", "the", "EIS", "are", "viewed", "more", "closely", ".", "The", "RIS", "uses", "the", "following", "indicators", ".", "-LRB-", "1", "-RRB-", "population", "with", "tertiary", "education", "-LRB-", "2", "-RRB-", "lifelong", "learning", ",", "-LRB-", "3", "-RRB-", "employment", "in", "medium/high-tech", "manufacturing", ",", "-LRB-", "4", "-RRB-", "employment", "in", "high-tech", "services", ",", "-LRB-", "5", "-RRB-", "public", "R&D", "expenditures", ",", "-LRB-", "6", "-RRB-", "business", "R&D", "expenditures", ",", "-LRB-", "7", "-RRB-", "EPO", "high-tech", "patent", "applications", ",", "-LRB-", "8", "-RRB-", "all", "EPO", "patent", "applications", ",", "and", "-LRB-", "9", "-RRB-", "five", "indicators", "using", "unpublished", "CIS-2", "data", "-LRB-", "10", "-RRB-", "the", "share", "of", "innovative", "enterprises", "in", "manufacturing", "and", "services", "innovation", "expenditures", "as", "a", "percentage", "of", "turnover", "in", "both", "-LRB-", "11", "-RRB-", "manufacturing", "and", "-LRB-", "12", "-RRB-", "services", ",", "-LRB-", "13", "-RRB-", "the", "share", "of", "sales", "of", "new-to-the-firm", "products", "in", "manufacturing", ".", "These", "indicators", "are", "based", "on", "Eurostat", "exercises", "-LSB-", "13", "-RSB-", ".", "From", "this", "analysis", "it", "becomes", "obvious", "that", "this", "Province", "considers", "innovation", "as", "a", "development", "process", "``", "outside", "''", "the", "government", "and", "its", "own", "performance", ".", "The", "basic", "assumption", "made", "by", "the", "Dutch", "Provinces", "is", "that", "governments", "can", "stimulate", "innovation", "in", "the", "economy", "without", "being", "part", "of", "the", "regional", "economy", ".", "The", "main", "political", "driver", "for", "efficient", "eGovernment", "is", "economic", "growth", "and", "jobs", "and", "the", "main", "driver", "for", "economic", "growth", "is", "considered", "to", "be", "innovation", ".", "The", "metrics", "of", "the", "benchmarks", "do", "no", "coincide", ".", "The", "evaluation", "instruments", "described", "before", "are", "just", "examples", "of", "the", "overwhelming", "number", "measurement", "instruments", "currently", "used", ".", "Table", "2", "summarizes", "the", "described", "instruments", ".", "Although", "we", "focused", "on", "a", "limited", "number", "of", "instruments", "these", "instruments", "are", "very", "likely", "representative", "for", "the", "other", "measurement", "instruments", ".", "The", "following", "observations", "can", "be", "made", "about", "the", "measurement", "instruments", ":", "Most", "instruments", "focus", "on", "the", "performance", "of", "a", "single", "agency", ";", "Measurement", "focus", "on", "front", ",", "which", "is", "directly", "visible", ",", "and", "not", "on", "the", "business", "process", "and", "information", "system", "in", "the", "back", ".", "This", "is", "surprisingly", "as", "these", "aspects", "influence", "the", "performance", "to", "a", "large", "extend", ";", "Short-term", "focus", ",", "not", "many", "indicators", "are", "focused", "on", "measuring", "the", "long-term", "performance", ";", "Interpretation", "of", "measures", "is", "difficult", "as", "all", "existing", "measurement", "instruments", "lack", "a", "framework", "depicting", "the", "relationships", "between", "the", "indicators", "and", "the", "use", "of", "resources", ".", "Different", "stakeholders", "may", "come", "to", "different", "interpretations", "of", "the", "status", "of", "e-government", ".", "From", "a", "theoretical", "point", "of", "view", "we", "conclude", "after", "examining", "many", "other", "existing", "instruments", "that", "these", "instruments", "lack", "a", "487", "clear", "connection", "to", "any", "theoretical", "framework", "on", "e-Government", "and", "a", "well-described", "set", "of", "preferences", "that", "can", "be", "used", "for", "comparison", ".", "Even", "if", "we", "would", "consider", "that", "these", "measurements", "instruments", "were", "developed", "independent", "of", "each", "other", "it", "is", "astonishing", "that", "these", "instruments", "show", "that", "little", "overlap", "both", "in", "features", "as", "in", "measurement", "method", ".", "Table", "2", ":", "Summary", "of", "measurement", "instruments", "studied", "Governmental", "performance", "is", "dependent", "on", "a", "complex", "of", "interlinked", "processes", "and", "dependencies", "between", "these", "processes", ",", "the", "stakeholders", "involved", "including", "civil", "servants", "and", "their", "departments", ".", "The", "legal", "and", "political", "context", "which", "is", "very", "dominant", "in", "a", "governmental", "setting", "furthermore", "increases", "complexity", ".", "Sometimes", "obvious", "improvements", "in", "a", "service", "provision", "chain", "may", "be", "blocked", "because", "data", "may", "not", "be", "shared", "due", "to", "data", "protection", "regulations", ".", "The", "system", "of", "checks", "an", "balances", "that", "is", "fundamental", "to", "governments", "'", "functioning", "and", "essential", "for", "maintaining", "citizens", "'", "trust", "in", "the", "government", "can", "be", "troublesome", "if", "we", "want", "to", "redesign", "inefficient", "processes", ".", "A", "combination", "of", "factors", "such", "as", "the", "volume", "of", "regulations", "and", "the", "lack", "of", "understanding", "of", "their", "original", "aims", ",", "the", "lack", "of", "formal", "process", "models", "that", "could", "help", "to", "get", "insights", "in", "the", "dependencies", "between", "processes", "and", "explain", "how", "the", "legal", "requirements", "are", "translated", "into", "process", "requirements", "and", "the", "lack", "of", "formally", "described", "legal", "models", ",", "do", "n't", "really", "help", "if", "we", "want", "to", "explicitly", "formulate", "the", "criteria", "that", "determine", "e-Government", "success", ".", "These", "criteria", "determine", "e-Government", "success", "-LRB-", "or", "failure", "-RRB-", "are", "exactly", "the", "ones", "that", "should", "be", "the", "ones", "in", "our", "measurement", "instruments", ".", "But", "even", "if", "we", "would", "have", "had", "a", "better", "theory", "on", "performance", "of", "e-Government", "processes", "and", "we", "would", "have", "had", "well", "funded", "measurement", "instruments", ",", "interpretation", "of", "the", "outcomes", "of", "applying", "those", "instruments", "would", "be", "problematic", ",", "especially", "within", "the", "political", "context", "within", "these", "instruments", "are", "generally", "used", ".", "Bruin", "-LSB-", "10", "-RSB-", "showed", "that", "when", "the", "distance", "between", "the", "interpreters", "and", "providers", "of", "information", "is", "bigger", ",", "it", "is", "more", "difficult", "to", "interpret", "information", ".", "Politicians", "do", "not", "always", "steer", "on", "rational", "grounds", "but", "suppose", "they", "would", "then", "their", "control", "system", "-LRB-", "or", "policy", "making", "process", "see", "figure", "5", "-RRB-", "would", "include", "a", "comparison", "and", "control", "function", ".", "We", "stated", "before", "that", "comparison", "is", "based", "upon", "a", "set", "of", "preferences", ".", "Public", "services", "can", "consequently", "be", "evaluated", "using", "competing", "norms", "and", "values", "-LSB-", "18", "-RSB-", ".", "A", "court", "for", "example", "might", "be", "asked", "to", "deal", "with", "cases", "as", "efficiently", "as", "possible", ",", "to", "maximize", "the", "number", "of", "cases", "dealt", "with", ",", "within", "a", "certain", "time", "period", "on", "the", "one", "hand", ",", "while", "on", "the", "other", "hand", "the", "sentence", "should", "be", "carefully", "made", ",", "funded", "with", "the", "right", "arguments", "and", "understandable", ".", "Performance", "measurement", "instruments", "that", "lack", "an", "explicit", "set", "of", "preferences", "-LRB-", "or", "norms", "for", "comparison", "-RRB-", "might", "give", "a", "wrong", "view", "on", "reality", "if", "looked", "at", "with", "other", "preferences", "in", "mind", ".", "We", "investigate", "the", "current", "e-government", "measurement", "practice", "in", "the", "Netherlands", "and", "investigated", "some", "theoretical", "work", "in", "this", "field", ".", "Our", "analyzes", "shows", "a", "messy", "picture", "on", "the", "measurement", "of", "e-government", ".", "Many", "measurement", "instruments", "take", "a", "too", "simplistic", "view", "and", "focus", "on", "measuring", "what", "is", "easy", "to", "measure", ".", "Many", "of", "the", "instruments", "focus", "on", "measuring", "the", "visible", "front", "of", "e-government", "and", "ignore", "the", "performance", "of", "the", "cross-agency", "business", "processes", ".", "None", "of", "the", "instruments", "focus", "on", "measuring", "multi-service", "organizations", ".", "The", "instruments", "focus", "on", "one", "-LRB-", "type", "of", "-RRB-", "agency", "and", "do", "not", "provide", "an", "overall", "picture", ".", "Interpretation", "of", "measures", "is", "difficult", "as", "all", "existing", "measurement", "instruments", "lack", "a", "framework", "depicting", "the", "relationships", "between", "the", "indicators", "and", "the", "use", "of", "resources", ".", "The", "different", "measures", "may", "fit", "the", "aim", "of", "the", "owners", "of", "the", "e-governmental", "services", ",", "however", ",", "due", "to", "conflicting", "aims", "and", "priorities", "little", "agreement", "exists", "on", "a", "uniform", "set", "of", "measures", ",", "needed", "for", "comparison", "of", "e-government", "development", ".", "Different", "stakeholders", "may", "come", "to", "different", "interpretations", "of", "the", "status", "of", "e-government", ".", "As", "such", "the", "existing", "instruments", "provide", "a", "picture", "of", "the", "status", "of", "e-government", "that", "may", "not", "useful", "as", "surrogates", "for", "deducing", "the", "e-government", "performance", "Traditional", "methods", "of", "measuring", "e-government", "impact", "and", "resource", "usage", "fall", "short", "of", "the", "richness", "of", "data", "required", "for", "the", "effective", "evaluation", "of", "e-government", "strategies", ".", "A", "good", "theoretical", "framework", "for", "measuring", "the", "impact", "of", "e-government", "and", "the", "use", "of", "resources", "is", "still", "lacking", ".", "Due", "to", "this", "fact", "and", "the", "many", "reports", "that", "are", "produced", "on", "e-Government", "developments", ",", "based", "on", "different", "measurement", "instruments", "that", "used", "different", "criteria", ",", "we", "can", "hardly", "learn", "from", "existing", "practices", ".", "It", "would", "be", "Measurement", "instrument", "Focus", "Update", "frequency", "Source", "data", "Characteristics", "of", "the", "method", "Overheid.nl", "All", "public", "agency", "websites", "Yearly", "Experts", "Ranking", "based", "on", "web", "site", "features", "Webdam", "Municipality", "websites", "Monthly", "-LRB-", "continuous", "-RRB-", "Expert", "panel", "consisting", "of", "3", "types", "of", "representatives", ":", "1", "-RRB-", "Civil", "servants", ",", "2", "-RRB-", "citizens", "and", "3", "-RRB-", "experts", "Ranking", "based", "on", "web", "site", "features", "Accenture", "Comparison", "of", "countries", "Yearly", "Accenture", "researchers", "based", "on", "judgment", "of", "a", "selected", "services", "Ranking", "based", "inventory", "of", "services", "Regional", "innovation", "scorecard", "European", "regions", "Eurostat", "Ranking", "based", "on", "economic", "quantitative", "indicators", "488", "beneficial", "for", "both", "citizens", "as", "for", "governments", "if", "such", "a", "theoretical", "framework", "would", "be", "developed", "and", "a", "more", "or", "less", "standardized", "measurement", "instrument", "could", "become", "available", ".", "This", "would", "allow", "governments", "and", "designers", "to", "compare", "different", "e-government", "approaches", "and", "learn", "from", "them", "and", "learning", "from", "our", "experiences", "certainly", "fits", "within", "the", "ambition", "of", "the", "European", "Union", "to", "become", "the", "most", "competitive", "and", "dynamic", "knowledge-based", "economy", "of", "the", "world", ".", "-LSB-", "1", "-RSB-", "Accenture", "-LRB-", "2001", "-RRB-", ".", "Governments", "Closing", "Gap", "Between", "Political", "Rhetoric", "and", "eGovernment", "Reality", ",", "http://www.accenture.com/xdoc/en/industries/government/20", "01FullReport.pdf", ".", "-LSB-", "2", "-RSB-", "Accenture", "-LRB-", "2002", "-RRB-", ".", "eGovernment", "Leadership", "-", "Realizing", "the", "Vision", ",", "http://www.accenture.com/xd/xd.asp?it=enWeb&xd=industri", "es/government/gove_welcome.xml", "-LSB-", "3", "-RSB-", "Accenture", "-LRB-", "2003", "-RRB-", ".", "eGovernment", "Leadership", ":", "Engaging", "the", "Customer", ",", "http://www.accenture.com/xd/xd.asp?it=enweb&xd=industri", "es/government/gove_capa_egov.xml", "-LSB-", "4", "-RSB-", "Armour", ",", "F.J.", "Kaisler", ",", "S.H.", "and", "Liu", ",", "S.Y.", "-LRB-", "1999", "-RRB-", ".", "A", "big-picture", "look", "at", "Enterprise", "Architectures", ",", "IEEE", "IT", "Professional", ",", "1", "-LRB-", "1", "-RRB-", ":", "35-42", ".", "-LSB-", "5", "-RSB-", "Bign", ",", "E.", ",", "Moliner", ",", "M.A.", ",", "and", "S", "nchez", ",", "J.", "-LRB-", "2003", "-RRB-", "Perceived", "Quality", "and", "satisfaction", "in", "multiservice", "organizations", ".", "The", "case", "of", "Spanish", "public", "services", ".", "Journal", "of", "Services", "Marketing", ",", "17", "-LRB-", "4", "-RRB-", ",", "pp.", "420-442", ".", "-LSB-", "6", "-RSB-", "Boer", ",", "A.", "Engers", ",", "T.", "van", "and", "R.", "Winkels", "-LRB-", "2003", "-RRB-", ".", "Using", "Ontologies", "for", "Comparing", "and", "Harmonizing", "Legislation", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Artificial", "Intelligence", "and", "Law", "-LRB-", "ICAIL", "-RRB-", ",", "Edinburgh", "-LRB-", "UK", "-RRB-", ",", "ACM", "Press", ".", "-LSB-", "7", "-RSB-", "Alexander", "Boer", ",", "Radboud", "Winkels", ",", "Rinke", "Hoekstra", ",", "and", "Tom", "M.", "van", "Engers", ".", "Knowledge", "Management", "for", "Legislative", "Drafting", "in", "an", "International", "Setting", ".", "In", "D.", "Bourcier", ",", "editor", ",", "Legal", "Knowledge", "and", "Information", "Systems", ".", "Jurix", "2003", ":", "The", "Sixteenth", "Annual", "Conference.", ",", "pages", "91-100", ",", "Amsterdam", ",", "2003", ".", "IOS", "Press", ".", "-LSB-", "8", "-RSB-", "Bons", "R.", ",", "Ronald", "M.Lee", "and", "Tan", ",", "Yua-Hua", ",", "-LRB-", "1999", "-RRB-", ".", "A", "Formal", "Specification", "of", "Automated", "Auditing", "of", "Trustworthy", "Trade", "Procedures", "for", "Open", "Electronic", "Commerce", ".", "Hawaii", "International", "Conference", "on", "System", "Sciences", "-LRB-", "HICCS", "-RRB-", ".", "-LSB-", "9", "-RSB-", "Buckland", "and", "F.", "Gey", "-LRB-", "1994", "-RRB-", ".", "The", "relationship", "between", "recall", "and", "precision", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "45", "-LRB-", "1", "-RRB-", ":", "12-19", ".", "-LSB-", "10", "-RSB-", "Bruin", ",", "H.", "de", "-LRB-", "2002", "-RRB-", ".", "Performance", "measurement", "in", "the", "public", "sector", ":", "strategies", "to", "cope", "with", "the", "risks", "of", "performance", "measurement", ".", "The", "International", "Journal", "of", "Public", "Sector", "Management", ",", "vol", ".", "15", ",", "no.", "7", ",", "pp.", "578-594", ".", "-LSB-", "11", "-RSB-", "Checkland", ",", "P.", "-LRB-", "1981", "-RRB-", ".", "Systems", "Thinking", ",", "Systems", "Practice", ".", "Wiley", ",", "Chichester", ".", "-LSB-", "12", "-RSB-", "Coase", ",", "R.", "-LRB-", "1937", "-RRB-", ".", "The", "Nature", "of", "the", "Firm", ".", "Economia", ",", "4", ":", "386-405", ".", "-LSB-", "13", "-RSB-", "European", "Commissions", "-LRB-", "2002", "-RRB-", ".", "2003", "European", "Innovation", "Scoreboard", ":", "European", "Trend", "Chart", "on", "Innovation", ".", "Innovation/SMEs", "Programme", ".", "-LSB-", "14", "-RSB-", "European", "Commission", "-LRB-", "2004", "-RRB-", ".", "Green", "paper", "on", "Public", "private", "partnerships", "and", "community", "law", "on", "public", "contracts", "and", "concessions", ",", "European", "Commission", ",", "no.", "327", ".", "-LSB-", "15", "-RSB-", "Fagan", ",", "J.C.", "&", "Fagan", ",", "B.", "-LRB-", "2004", "-RRB-", ".", "An", "accessibility", "study", "of", "state", "legislative", "web", "sites", ".", "Government", "Information", "Quarterly", ",", "21", ":", "65-85", ".", "-LSB-", "16", "-RSB-", "Galliers", ",", "R.D.", "-LRB-", "1992", "-RRB-", ".", "Information", "Systems", "Research", ".", "Issues", ",", "methods", "and", "practical", "guidelines", ".", "Alfred", "Waller", ",", "Fawley", ",", "England", ".", "-LSB-", "17", "-RSB-", "Green", ",", "S.H.B.", "-LRB-", "1998", "-RRB-", ",", "Cyberspace", "winners", ":", "how", "they", "did", "it", ",", "Business", "Week", ",", "22", "June", ",", "pp.", "154-60", ".", "-LSB-", "18", "-RSB-", "Groot", ",", "H.", ",", "de", "and", "R.", "Goudriaan", "-LRB-", "1991", "-RRB-", ".", "De", "productiviteit", "van", "de", "overheid", ":", "over", "prestaties", ",", "personeel", "en", "uitgaven", "in", "de", "publieke", "sector", ".", "Academic", "Service", ",", "Schoonhoven", ",", "The", "Netherlands", ".", "-LSB-", "19", "-RSB-", "Hazlett", ",", "S.A.", "and", "Hill", ",", "F.", "-LRB-", "2003", "-RRB-", ".", "E-government", ":", "the", "realities", "of", "using", "IT", "to", "transform", "the", "public", "sector", ".", "Managing", "Service", "Quality", ",", "Vol", ".", "13", ",", "No.", "6", ",", "pp.", "445-452", ".", "-LSB-", "20", "-RSB-", "Janssen", ",", "M.F.W.H.A.", "-LRB-", "2001", "-RRB-", ".", "Designing", "Electronic", "Intermediaries", ".", "Doctoral", "Dissertation", ",", "Delft", "University", "of", "Technology", ".", "-LSB-", "21", "-RSB-", "Janssen", ",", "Marijn", "&", "Davidse", ",", "Anouk", "-LRB-", "2004", "-RRB-", ".", "Evaluation", "of", "a", "Performance-based", "Accountability", "System", ".", "The", "4th", "European", "Conference", "on", "E-government", "-LRB-", "ECEG", "-RRB-", ",", "Dublin", "Castle", ",", "Dublin", ",", "Ireland", ",", "17-18", "June", "2004", "-LSB-", "22", "-RSB-", "Jensen", ",", "M.", "and", "Meckling", ",", "W.", "-LRB-", "1976", "-RRB-", ".", "Theory", "of", "the", "Firm", ":", "Managerial", "behavior", ",", "agency", "costs", ",", "and", "capital", "structure", ",", "Journal", "of", "Financial", "Economics", ",", "5", ":", "305-360", ".", "-LSB-", "23", "-RSB-", "Layne", ",", "KJL", "&", "Lee", ",", "J.", "-LRB-", "2001", "-RRB-", "``", "Developing", "fully", "functional", "E-government", ":", "A", "four", "stage", "model", "''", ",", "Government", "Information", "Quarterly", ",", "Vol", "18", ",", "No.", "2", ",", "pp", "122-136", ".", "-LSB-", "24", "-RSB-", "Lee", ",", "J.K.", "-LRB-", "2003", "-RRB-", ".", "A", "model", "for", "monitoring", "public", "sector", "web", "site", "strategy", ".", "Internet", "Research", ".", "Electronic", "networking", "application", "and", "policy", ".", "Vol", ".", "13", ",", "no.", "4", ",", "pp259-266", ".", "-LSB-", "25", "-RSB-", "Malone", ",", "T.W.", "&", "Crowston", ",", "K.", "-LRB-", "1994", "-RRB-", ".", "The", "Interdisciplinary", "Study", "of", "Coordination", ".", "ACM", "Computing", "Surveys", ",", "vol", ".", "26", ",", "no.", "2", ",", "pp.", "87-119", ".", "-LSB-", "26", "-RSB-", "Merwe", ",", "R.", "van", "der", ",", "and", "Bekker", ",", "J.", "-LRB-", "2003", "-RRB-", ".", "A", "framework", "and", "methodology", "for", "evaluating", "e-commerce", "web", "sites", ".", "Internet", "Research", ":", "electronic", "Networking", "Applications", "and", "Policy", ".", "Vol", ".", "13", ",", "No.", "5", ",", "pp.", "330-341", ".", "-LSB-", "27", "-RSB-", "Moon", ",", "M.J.", "-LRB-", "2002", "-RRB-", ".", "The", "Evolution", "of", "E-Government", "Among", "Municipalities", ";", "Rhetoric", "or", "reality", "?", "Public", "Administration", "Review", ".", "Vol", ".", "62", ",", "no.", "4", ",", "pp.", "424-433", ".", "-LSB-", "28", "-RSB-", "Parasuraman", ",", "A.", ",", "Zeithaml", ",", "V.A.", "and", "Berry", ",", "L.L.", "-LRB-", "1988", "-RRB-", ".", "SERVQUAL", ":", "a", "multiple", "item", "scale", "for", "measuring", "consumer", "perceptions", "of", "service", "quality", ",", "Journal", "of", "Retailing", ",", "Vol", ".", "64", ",", "pp.", "12-40", ".", "-LSB-", "29", "-RSB-", "Peters", ",", "Rob", "and", "Wilson", ",", "Frank", "-LRB-", "2003", "-RRB-", ".", "Natural", "Language", "access", "to", "regional", "information", "sources", ":", "the", "PortofRotterdam", "case", ":", "4th", "International", "Workshop", "on", "Image", "Analysis", "for", "Multimedia", "Interactive", "Services", ",", "WIAMIS", "2003", ".", "489", "-LSB-", "30", "-RSB-", "Provincial", "council", "-LRB-", "2003", "-RRB-", "Innovatiebrief", "kenniseconomie", "Zuid-Holland", "``", "Kennismaken", "met", "Kenniszaken", ",", "http://www.zuid-holland.nl/images/126_107822.pdf", ",", "page", "14", ".", "-LSB-", "31", "-RSB-", "Rohleder", ",", "S.J.", "et", "al.", "-LRB-", "2004", "-RRB-", ".", "eGovernment", "Leadership", ":", "High", "Performance", ",", "Maximum", "Value", ".", "Fifth", "Annual", "Accenture", "eGovernment", "Study", ".", "Accenture", "Government", "Executive", "Studies", ",", "http://www.accenture.com/xdoc/en/industries/government/go", "ve_egov_value.pdf", "-LSB-", "32", "-RSB-", "Simeon", ",", "R.", "-LRB-", "1999", "-RRB-", ",", "``", "Evaluating", "domestic", "and", "international", "Web", "site", "strategies", "''", ",", "Internet", "Research", ",", "Vol", ".", "9", "No.", "4", ",", "pp.", "297-308", ".", "-LSB-", "33", "-RSB-", "Quinn", ",", "R.E.", "and", "Rohrbaugh", ",", "J.W.", "-LRB-", "1983", "-RRB-", ".", "A", "Spatial", "Model", "of", "Effectiveness", "criteria", ":", "Towards", "a", "competing", "values", "approach", "to", "organizational", "effectiveness", ".", "Management", "Science", "29", ":", "363-377", ".", "-LSB-", "34", "-RSB-", "Van", "Engers", ",", "T.M.", ",", "2004", ",", "Legal", "Engineering", ":", "A", "Knowledge", "Engineering", "Approach", "To", "Improving", "Legal", "Quality", ",", "in", "eGovernment", "and", "eDemocracy", ":", "Progress", "and", "Challenges", ",", "Padget", ",", "J.", ",", "Neira", ",", "R.", ",", "De", "Le", "n", ",", "J.L.", ",", "Editors", ",", "Instituto", "Polit", "chnico", "Nacional", "Centro", "de", "Investigacion", "en", "Computaci", "n", ",", "ISBN", "970-36-0152-9", ",", "p189-206", ".", "-LSB-", "35", "-RSB-", "Williamson", ",", "O.E.", "-LRB-", "1975", "-RRB-", ".", "Market", "and", "Hierarchies", ",", "Analysis", "and", "Antitrust", "Implications", ".", "A", "study", "in", "the", "economics", "of", "internal", "organization", ".", "Macmillan", ",", "New", "York", ".", "-LSB-", "36", "-RSB-", "Yin", ",", "R.K.", "-LRB-", "1989", "-RRB-", ".", "Case", "Study", "Research", ":", "Design", "and", "methods", ".", "Sage", "publications", ",", "Newbury", "Park", ",", "California", "."], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["architectures", "evaluation", "benchmark", "business process", "law", "measurement", "public administration"], "abstractive_keyphrases": ["e-government", "interoperability"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "194", "document": ["Topic", "Modeling", "in", "Fringe", "Word", "Prediction", "for", "AAC", "Word", "prediction", "can", "be", "used", "for", "enhancing", "the", "communication", "ability", "of", "persons", "with", "speech", "and", "language", "impair-ments", ".", "In", "this", "work", ",", "we", "explore", "two", "methods", "of", "adapting", "a", "language", "model", "to", "the", "topic", "of", "conversation", ",", "and", "apply", "these", "methods", "to", "the", "prediction", "of", "fringe", "words", ".", "I.", "7", ".", "m", "Document", "and", "Text", "Processing", ":", "Miscellaneous", "Algorithms", "Alternative", "and", "Augmentative", "Communication", "-LRB-", "AAC", "-RRB-", "is", "the", "field", "of", "research", "concerned", "with", "finding", "ways", "to", "help", "those", "with", "speech", "difficulties", "communicate", "more", "easily", "and", "completely", ".", "Today", "there", "are", "approximately", "2", "million", "people", "in", "the", "United", "States", "with", "some", "form", "of", "communication", "difficulty", ".", "One", "means", "to", "help", "ease", "communication", "is", "the", "use", "of", "an", "electronic", "communication", "device", ",", "which", "may", "have", "synthetic", "speech", "as", "output", ".", "However", ",", "one", "issue", "in", "using", "an", "AAC", "device", "is", "communication", "rate", ".", "Whereas", "speaking", "rate", "is", "estimated", "at", "180", "words", "per", "minute", "-LRB-", "wpm", "-RRB-", ",", "many", "AAC", "users", "'", "communication", "rates", "are", "lower", "than", "15", "wpm", "-LSB-", "3", ",", "7", ",", "16", "-RSB-", ".", "Thus", "one", "goal", "of", "developers", "is", "to", "find", "ways", "to", "increase", "the", "rate", "of", "communication", ",", "by", "making", "AAC", "devices", "easier", "to", "use", "and", "more", "intelligent", ".", "Some", "researchers", "have", "attempted", "to", "speed", "communication", "rate", "by", "providing", "quick", "access", "to", "the", "core", "vocabulary", "the", "relatively", "small", "set", "of", "frequently", "used", "words", ".", "Methods", "for", "doing", "this", "include", "abbreviation", "expansion", "and", "iconic", "methods", "such", "as", "semantic", "compaction", "-LSB-", "1", "-RSB-", ".", "In", "contrast", ",", "in", "this", "work", "we", "attempt", "to", "speed", "access", "to", "the", "much", "larger", "set", "of", "words", "often", "called", "fringe", "vocabulary", ".", "This", "set", "is", "of", "interest", "because", "although", "each", "individual", "word", "occurs", "less", "frequently", ",", "the", "set", "of", "fringe", "words", "on", "the", "whole", "is", "very", "significant", ".", "Suppose", "that", "the", "user", "wants", "to", "enter", "``", "I", "want", "a", "home", "in", "the", "country", ".", "''", "After", "typing", ",", "``", "I", "want", "a", "h", "''", ",", "they", "might", "see", "something", "like", "shown", "below", ".", "The", "system", "has", "created", "a", "prediction", "window", "containing", "the", "five", "words", "that", "it", "thinks", "the", "user", "may", "be", "trying", "to", "type", ".", "In", "this", "example", ",", "the", "user", "can", "press", "F5", "to", "complete", "the", "word", "``", "home", "''", "and", "the", "system", "will", "Copyright", "is", "held", "by", "the", "author/owner", ".", "IUI", "'", "06", ",", "January", "29", "February", "1", ",", "2006", ",", "Sydney", ",", "Australia", ".", "ACM", "1-59593-287-9", "/", "06/0001", ".", "enter", "the", "word", "with", "a", "space", "afterwards", ".", "So", "in", "this", "example", ",", "the", "user", "needed", "2", "keystrokes", "to", "enter", "what", "would", "normally", "take", "5", "keystrokes", ".", "I", "want", "a", "h", "hundred", "-LRB-", "F1", "-RRB-", "half", "-LRB-", "F2", "-RRB-", "house", "-LRB-", "F3", "-RRB-", "hard", "-LRB-", "F4", "-RRB-", "home", "-LRB-", "F5", "-RRB-", "It", "is", "difficult", "to", "judge", "how", "much", "word", "prediction", "can", "speed", "communication", "rate", ".", "Much", "of", "this", "determination", "is", "dependent", "on", "the", "accuracy", "of", "the", "prediction", "method", ",", "the", "characteristics", "of", "the", "user", ",", "such", "as", "their", "physical", "and", "cognitive", "abilities", ",", "and", "the", "characteristics", "of", "the", "user", "interface", ",", "such", "as", "where", "the", "prediction", "list", "is", "displayed", "and", "how", "a", "word", "in", "the", "list", "is", "selected", ".", "Here", ",", "the", "prediction", "method", "is", "evaluated", "separately", "from", "the", "rest", "of", "a", "word", "prediction", "system", "by", "simulating", "what", "a", "user", "would", "type", "in", "a", "conversation", "if", "he/she", "were", "taking", "full", "advantage", "of", "the", "prediction", "list", ".", "This", "theoretical", "evaluation", "measures", "the", "percentage", "of", "keystrokes", "that", "were", "saved", "by", "word", "prediction", "over", "typing", "out", "every", "character", ".", "In", "this", "paper", "we", "first", "describe", "related", "work", "and", "give", "some", "background", "in", "statistical", "approaches", "to", "word", "prediction", ".", "We", "present", "approaches", "to", "topic", "modeling", "and", "compare", "the", "results", "of", "topic", "modeling", "to", "a", "baseline", "method", ".", "For", "a", "more", "thorough", "account", "of", "this", "work", ",", "visit", "http://www.cis.udel.edu/fringe/", ".", "Several", "previous", "researchers", "have", "used", "n-gram", "models", "in", "word", "prediction", "for", "AAC", "-LSB-", "4", ",", "5", ",", "12", ",", "18", "-RSB-", ".", "For", "example", ",", "Lesher", "et", "al.", "-LSB-", "12", "-RSB-", "show", "how", "increasing", "training", "set", "size", "and", "unigrams", "to", "bigrams", "-LRB-", "going", "from", "47", "%", "to", "54.7", "%", "-RRB-", "to", "trigrams", "-LRB-", "another", ".8", "%", "-RRB-", ".", "These", "evaluations", "used", "a", "window", "size", "of", "6", ".", "Other", "researchers", "have", "integrated", "grammatical", "information", "into", "n-gram", "word", "prediction", "systems", ".", "Garay-Vitoria", "and", "Gonzalez-Abascal", "-LSB-", "10", "-RSB-", "integrated", "a", "statistical", "chart", "parser", ",", "while", "Fazly", "and", "Hirst", "-LSB-", "8", "-RSB-", "and", "Copestake", "-LSB-", "7", "-RSB-", "used", "part-of-speech", "-LRB-", "POS", "-RRB-", "tagging", ".", "These", "yielded", "improvements", "of", "1-5", "%", "keystroke", "savings", ".", "There", "have", "been", "several", "attempts", "at", "topic", "modeling", "in", "the", "language", "modeling", "community", ",", "particularly", "for", "speech", "recognition", "-LSB-", "2", ",", "14", ",", "17", ",", "6", ",", "9", ",", "13", "-RSB-", ".", "Some", "of", "the", "evaluations", "of", "topic", "modeling", "have", "found", "different", "variants", "of", "it", "to", "be", "very", "beneficial", "-LSB-", "2", ",", "14", ",", "9", "-RSB-", ".", "Lesher", "and", "Rinkus", "-LSB-", "13", "-RSB-", "is", "an", "attempt", "at", "topic", "modeling", "for", "word", "prediction", ",", "but", "does", "not", "use", "dynamic", "topic", "modeling", "like", "-LSB-", "9", ",", "2", "-RSB-", "and", "this", "work", ".", "276", "Window", "Bigrams", "Trigrams", "Method", "A", "Method", "B", "1", "41.5", "%", "42.3", "%", "43.1", "%", "42.5", "%", "2", "50.6", "%", "51.1", "%", "52.3", "%", "51.4", "%", "3", "54.7", "%", "55.1", "%", "56.4", "%", "55.4", "%", "4", "57.0", "%", "57.3", "%", "58.7", "%", "57.7", "%", "5", "58.6", "%", "58.8", "%", "60.2", "%", "59.1", "%", "6", "59.8", "%", "60.0", "%", "61.4", "%", "60.3", "%", "7", "60.6", "%", "60.8", "%", "62.2", "%", "61.1", "%", "8", "61.3", "%", "61.5", "%", "62.9", "%", "61.8", "%", "9", "61.9", "%", "62.0", "%", "63.5", "%", "62.3", "%", "10", "62.4", "%", "62.5", "%", "64.0", "%", "62.8", "%", "Table", "1", ":", "The", "keystroke", "savings", "of", "topic", "modeling", "is", "shown", "compared", "to", "a", "bigram", "and", "trigram", "baseline", ".", "Like", "several", "of", "the", "aforementioned", "word", "prediction", "researchers", ",", "we", "use", "n-gram", "methods", "for", "language", "modeling", ".", "Our", "baseline", "word", "prediction", "methods", "use", "bigram", "and", "trigram-based", "n-gram", "models", "with", "backoff", "with", "Good-Turing", "smoothing", ",", "the", "current", "best", "practice", "in", "statistical", "language", "modeling", "according", "to", "Manning", "and", "Sch", "utze", "-LSB-", "15", "-RSB-", ".", "Additionally", ",", "we", "incorporate", "a", "special", "unigram", "model", "for", "the", "first", "word", "of", "each", "sentence", ".", "In", "word", "prediction", ",", "these", "language", "models", "our", "used", "to", "rank", "all", "the", "words", "that", "the", "user", "could", "possibly", "be", "typing", ".", "The", "top", "W", "words", "are", "presented", "to", "the", "user", ",", "where", "W", "is", "the", "prediction", "window", "size", ".", "Statistical", "approaches", "require", "a", "collection", "of", "text", "to", "construct", "a", "language", "model", ".", "Ideally", ",", "our", "corpus", "would", "be", "a", "large", "collection", "of", "conversations", "involving", "one", "or", "more", "people", "using", "an", "AAC", "system", ".", "Such", "a", "corpus", "is", "unavailable", ",", "so", "we", "follow", "-LSB-", "13", "-RSB-", "in", "using", "the", "Switchboard", "corpus", ",", "which", "is", "a", "collection", "of", "telephone", "conversations", "and", "their", "transcriptions", ".", "1", "The", "training", "section", "contains", "a", "randomly", "pre-selected", "2217", "conversations", "and", "the", "testing", "section", "contains", "the", "remaining", "221", "conversations", ".", "We", "perform", "preprocessing", "to", "remove", "some", "speech", "repairs", "in", "accordance", "with", "Hindle", "-LSB-", "11", "-RSB-", ".", "These", "editing", "rules", "bring", "the", "Switchboard", "conversations", "closer", "to", "what", "we", "envision", "an", "AAC", "user", "would", "type", ".", "3.1", "Evaluation", "We", "compare", "the", "number", "of", "keystrokes", "required", "for", "a", "user", "taking", "full", "advantage", "of", "our", "word", "prediction", "system", "to", "the", "number", "of", "keystrokes", "required", "to", "enter", "each", "character", "of", "the", "conversation", ".", "We", "use", "immediate", "prediction", "for", "our", "evaluations", ",", "which", "allows", "use", "of", "the", "prediction", "list", "before", "the", "first", "character", "of", "a", "word", "has", "been", "entered", ".", "We", "assume", "that", "one", "keystroke", "is", "required", "to", "``", "speak", "''", "each", "turn", "of", "input", "and", "that", "a", "space", "is", "automatically", "inserted", "after", "a", "word", "is", "selected", "from", "the", "prediction", "list", ".", "KS", "=", "keys", "normal", "-", "keys", "withprediction", "keys", "normal", "100", "%", "Because", "we", "are", "interested", "in", "the", "prediction", "of", "fringe", "words", ",", "our", "evaluations", "are", "measured", "on", "fringe", "words", "only", ".", "Core", "words", "are", "excluded", "from", "the", "list", "of", "predictions", ".", "The", "particular", "core", "vocabulary", "we", "chose", "is", "available", "from", "the", "AAC", "Centers", "at", "the", "University", "of", "Nebraska", "at", "Lincoln", ",", "available", "from", "http://aac.unl.edu/", ".", "We", "used", "the", "``", "Young", "Adult", "Conversation", "Regular", "''", "core", "vocabulary", "list", ",", "as", "it", "is", "the", "most", "similar", "to", "the", "type", "of", "conversations", "in", "the", "Switchboard", "corpus", ".", "1", "The", "Switchboard", "transcriptions", "were", "available", "from", "http://www.isip.msstate.edu/projects/switchboard/", "The", "goal", "of", "topic", "modeling", "is", "to", "identify", "the", "current", "topic", "of", "conversation", ",", "then", "increase", "the", "probability", "of", "related", "words", "and", "decrease", "the", "probability", "of", "unrelated", "words", ".", "Some", "words", "will", "be", "unaffected", "by", "topic", "modeling", ",", "such", "as", "function", "words", ",", "which", "are", "used", "similarly", "in", "all", "topics", ".", "It", "is", "for", "this", "reason", "that", "we", "chose", "to", "improve", "fringe", "word", "prediction", "with", "topic", "modeling", ":", "we", "feel", "that", "topic", "modeling", "specifically", "improves", "fringe", "word", "prediction", ".", "Researchers", "are", "consistent", "in", "representing", "a", "topic", "by", "creating", "a", "collection", "of", "representative", "text", "of", "the", "topic", ".", "However", ",", "researchers", "differ", "on", "the", "best", "way", "to", "organize", "a", "collection", "of", "topics", ".", "Some", "researchers", "have", "created", "a", "hierarchical", "collection", "of", "topics", "-LSB-", "9", "-RSB-", ",", "while", "others", "have", "created", "a", "disjoint", "set", "of", "topics", "-LSB-", "14", ",", "2", ",", "17", "-RSB-", ".", "We", "feel", "that", "the", "primary", "lure", "of", "a", "hierarchical", "approach", ",", "the", "ability", "to", "generalize", ",", "can", "be", "captured", "in", "the", "set", "approach", "as", "well", ",", "by", "giving", "varying", "weight", "to", "all", "topics", "and", "not", "just", "the", "most", "likely", "topic", ".", "For", "this", "reason", ",", "we", "represent", "topics", "as", "disjoint", "sets", "of", "conversations", ".", "The", "current", "topic", "of", "conversation", "must", "be", "identified", "from", "the", "part", "of", "the", "conversation", "that", "has", "taken", "place", "so", "far", ",", "and", "updated", "periodically", "in", "the", "conversation", ".", "Thus", ",", "we", "must", "devise", "a", "representation", "for", "a", "partial", "conversation", "for", "assessing", "the", "similarity", "of", "the", "conversation", "to", "each", "topic", ".", "In", "representing", "the", "conversation", "so", "far", ",", "we", "choose", "to", "implement", "an", "exponentially", "decayed", "cache", ",", "like", "-LSB-", "2", "-RSB-", ",", "using", "TF-IDF", "values", "rather", "than", "raw", "frequencies", ".", "This", "follows", "the", "work", "of", "Mahajan", "et", ".", "al.", "-LSB-", "14", "-RSB-", "in", "considering", "the", "inverse", "document", "frequency", "of", "a", "word", "to", "proportional", "to", "its", "utility", "in", "identifying", "the", "current", "topic", ".", "Because", "our", "approach", "is", "for", "topic", "identification", ",", "we", "ignore", "words", "that", "occur", "in", "85", "%", "or", "more", "of", "the", "topics", ",", "with", "the", "intuition", "that", "such", "words", "are", "irrelevant", "to", "selection", "of", "topic", ".", "As", "a", "step", "to", "convert", "our", "model", "of", "the", "current", "conversation", "to", "a", "model", "of", "the", "current", "topic", ",", "we", "compute", "the", "document", "similarity", "between", "the", "cache", "and", "the", "unigram", "model", "for", "each", "topic", ".", "We", "chose", "to", "use", "the", "cosine", "metric", ",", "following", "-LSB-", "9", "-RSB-", ".", "Given", "that", "we", "have", "computed", "a", "similarity", "score", "between", "each", "topic", "and", "the", "current", "conversation", ",", "there", "are", "two", "main", "variations", "on", "how", "to", "construct", "a", "new", "language", "model", ".", "Mahajan", "et", ".", "al.", "-LSB-", "14", "-RSB-", "implemented", "a", "k-nearest", "solution", ",", "constructing", "the", "topic", "model", "from", "the", "most", "similar", "k", "topics", ".", "Each", "topic", "'s", "language", "model", "was", "weighted", "equally", "for", "their", "experiments", ".", "Instead", ",", "we", "chose", "to", "follow", "Florian", "and", "Yarowsky", "'s", "approach", "-LSB-", "9", "-RSB-", ".", "They", "expand", "the", "probability", "for", "a", "word", "-LRB-", "w", "-RRB-", "given", "a", "history", "-LRB-", "h", "-RRB-", "as", "follows", ":", "P", "-LRB-", "w", "|", "h", "-RRB-", "=", "X", "ttopics", "P", "-LRB-", "t", "|", "h", "-RRB-", "P", "-LRB-", "w", "|", "t", ",", "h", "-RRB-", "P", "-LRB-", "w", "|", "t", ",", "h", "-RRB-", "is", "simply", "the", "probability", "of", "w", "taken", "from", "the", "language", "model", "constructed", "for", "topic", "t", ".", "The", "probability", "of", "the", "topic", "is", "estimated", "as", "follows", ":", "P", "-LRB-", "t", "|", "h", "-RRB-", "S", "-LRB-", "t", ",", "h", "-RRB-", "P", "t", "topics", "S", "-LRB-", "t", ",", "h", "-RRB-", "where", "S", "-LRB-", "t", ",", "h", "-RRB-", "is", "the", "cosine", "similarity", "of", "the", "topic", "to", "the", "current", "part", "of", "the", "conversation", ".", "4.1", "Method", "A", "Our", "first", "method", "of", "topic", "modeling", "is", "most", "similar", "in", "spirit", "to", "the", "work", "of", "Mahajan", "et", ".", "al.", "-LSB-", "14", "-RSB-", "and", "Florian", "and", "Yarowsky", "-LSB-", "9", "-RSB-", ".", "In", "training", ",", "a", "bigram", "model", "is", "computed", "for", "277", "each", "topic", "in", "Switchboard", ".", "In", "testing", ",", "the", "cache", "representation", "of", "the", "current", "conversation", "is", "compared", "against", "the", "unigram", "representation", "of", "each", "topic", "and", "similarity", "scores", "are", "computed", ".", "The", "similarity", "scores", "are", "then", "used", "to", "weight", "the", "frequencies", "obtained", "from", "each", "topic", "in", "a", "linear", "interpolation", ".", "Then", "this", "interpolated", "bigram", "model", "is", "used", "to", "compute", "the", "probabilities", "used", "for", "word", "prediction", ".", "Topic", "modeling", "shows", "a", "sizable", "improvement", "over", "the", "the", "bigram", "baseline", ":", "1.6", "%", "1.7", "%", ".", "We", "'ve", "included", "the", "comparison", "to", "a", "bigram", "baseline", "because", "it", "is", "the", "most", "natural", "baseline", "in", "terms", "of", "language", "understanding", ".", "However", ",", "a", "trigram", "baseline", "is", "also", "a", "natural", "comparison", "when", "considering", "that", "it", "can", "run", "with", "the", "same", "or", "less", "computational", "resources", "than", "topic", "modeling", ".", "When", "compared", "against", "the", "trigram", "baseline", ",", "the", "topic", "model", "gives", "0.8", "%", "1.5", "%", "improvement", ".", "4.2", "Method", "B", "Our", "second", "method", "of", "topic", "modeling", "is", "more", "similar", "to", "the", "work", "of", "Bellegarda", "-LSB-", "2", "-RSB-", ".", "Like", "Bellegarda", ",", "we", "compute", "topic-dependent", "unigram", "probabilities", ".", "These", "topic-dependent", "probabilities", "are", "multiplied", "with", "probabilities", "from", "a", "trigram", "backoff", "model", ".", "Additionally", ",", "we", "weight", "the", "topic", "component", "with", "a", "tuning", "parameter", ".", "After", "manual", "tuning", "on", "a", "two", "conversations", ",", "we", "found", "that", "=", ".15", "worked", "well", ".", "Method", "B", "is", "an", "improvement", "over", "a", "trigram", "baseline", ",", "but", "only", "a", "minor", "improvement", ".", "We", "feel", "that", "the", "problem", "is", "that", "a", "low", "value", "was", "necessary", "to", "avoid", "overriding", "the", "word", "preference", "that", "is", "due", "to", "context", ",", "but", "that", "it", "also", "reduced", "the", "ability", "of", "the", "overall", "model", "to", "adapt", "to", "a", "particular", "topic", ".", "4.3", "Comparison", "Method", "A", "offers", "an", "additional", "1", "%", "or", "more", "keystroke", "savings", "over", "Method", "B", "for", "most", "window", "sizes", ".", "This", "is", "due", "to", "the", "low", "weight", "of", "the", "tuning", "parameter", "for", "Method", "B", ".", "However", ",", "as", "previously", "mentioned", ",", "the", "low", "weight", "was", "necessary", ".", "Additionally", ",", "notice", "that", "Method", "A", "becomes", "comparatively", "better", "as", "the", "window", "size", "is", "increased", ".", "The", "trigram", "model", "component", "in", "Method", "B", "can", "be", "thought", "of", "as", "a", "stronger", "source", "of", "knowledge", "than", "the", "interpolated", "bigram", "model", "of", "Method", "A.", "Because", "of", "this", ",", "when", "the", "trigram", "history", "exists", "in", "the", "language", "model", ",", "Method", "B", "'s", "predictions", "are", "more", "accurate", ".", "However", ",", "because", "the", "trigram", "model", "is", "sparse", ",", "it", "can", "only", "contribute", "to", "the", "top", "few", "predictions", ".", "Thus", ",", "it", "has", "a", "much", "greater", "effect", "on", "the", "top", "few", "window", "sizes", ".", "For", "real", "world", "systems", ",", "however", ",", "absolute", "performance", "is", "not", "the", "only", "factor", ".", "The", "computational", "demands", "of", "each", "approach", "are", "often", "considered", "when", "selecting", "a", "practical", "solution", ".", "The", "trigram", "baseline", "processed", "at", "1,325", "words", "per", "minute", "-LRB-", "wpm", "-RRB-", ".", "Method", "A", "processed", "conversations", "in", "testing", "at", "32", "wpm", "and", "Method", "B", "processed", "1,267", "words", "per", "minute", ".", "Method", "B", "uses", "barely", "more", "processing", "time", "than", "the", "trigram", "baseline", "model", ".", "Topic", "modeling", "can", "be", "implemented", "in", "many", "different", "ways", ".", "We", "'ve", "demonstrated", "two", "such", "methods", "for", "topic", "modeling", ":", "one", "for", "computationally", "limited", "devices", "and", "another", "for", "computationally", "rich", "devices", ".", "Both", "methods", "show", "a", "clear", "improvement", "over", "a", "trigram", "model", "with", "backoff", ".", "Before", "the", "advent", "of", "word", "prediction", ",", "a", "user", "would", "'ve", "pressed", "6.4", "keys", "per", "fringe", "word", "on", "average", ".", "Now", ",", "with", "topic", "modeling", "for", "word", "prediction", ",", "only", "2.5", "keys", "per", "word", "are", "required", ".", "We", "would", "like", "to", "thank", "the", "US", "Department", "of", "Education", "for", "funding", "this", "research", "under", "grant", "H113G040051", ",", "under", "the", "National", "Institute", "on", "Disability", "and", "Rehabilitation", "Research", "program", ".", "We", "would", "also", "like", "to", "thank", "Dr.", "Gregory", "Lesher", "for", "correspondence", "regarding", "his", "work", "and", "Dr.", "David", "Saunders", "for", "lending", "us", "a", "compute", "server", ".", "-LSB-", "1", "-RSB-", "B.", "Baker", ".", "Minspeak", ".", "Byte", ",", "pages", "186", "202", ",", "1982", ".", "-LSB-", "2", "-RSB-", "J.", "Bellegarda", ".", "Large", "vocabulary", "speech", "recognition", "with", "multispan", "language", "models", ".", "IEEE", "Trans", ".", "On", "Speech", "and", "Audio", "Processing", ",", "8", "-LRB-", "1", "-RRB-", ",", "2000", ".", "-LSB-", "3", "-RSB-", "D.", "R.", "Beukelman", "and", "P.", "Mirenda", ".", "Augmentative", "and", "alternative", "communication", ":", "Management", "of", "severe", "communication", "disorders", "in", "children", "and", "adults", ".", "P.H.", "Brookes", "Pub", ".", "Co.", ",", "1998", ".", "-LSB-", "4", "-RSB-", "L.", "Boggess", ".", "Two", "simple", "prediction", "algorithms", "to", "facilitate", "text", "production", ".", "In", "Proceedings", "of", "the", "second", "conference", "on", "Applied", "natural", "language", "processing", ",", "pages", "33", "40", ",", "Morristown", ",", "NJ", ",", "USA", ",", "1988", ".", "Association", "for", "Computational", "Linguistics", ".", "-LSB-", "5", "-RSB-", "A.", "Carlberger", ",", "J.", "Carlberger", ",", "T.", "Magnuson", ",", "M.", "S.", "Hunnicutt", ",", "S.", "Palazuelos-Cagigas", ",", "and", "S.", "A.", "Navarro", ".", "Profet", ",", "a", "new", "generation", "of", "word", "prediction", ":", "An", "evaluation", "study", ".", "In", "Proceedings", "of", "Natural", "Language", "Processing", "for", "Communication", "Aids", ",", "1997", ".", "-LSB-", "6", "-RSB-", "S.", "Chen", ",", "K.", "Seymore", ",", "and", "R.", "Rosenfeld", ".", "Topic", "adaptation", "for", "language", "modeling", "using", "unnormalized", "exponential", "models", ".", "In", "Proc", ".", "Int", "'", "l", "Conf", ".", "on", "Acoustics", ",", "Speech", "and", "Signal", "Processing", ",", "1998", ".", "-LSB-", "7", "-RSB-", "A.", "Copestake", ".", "Augmented", "and", "alternative", "nlp", "techniques", "for", "augmentative", "and", "alternative", "communication", ".", "In", "Proceedings", "of", "the", "ACL", "workshop", "on", "Natural", "Language", "Processing", "for", "Communication", "Aids", ",", "1997", ".", "-LSB-", "8", "-RSB-", "A.", "Fazly", "and", "G.", "Hirst", ".", "Testing", "the", "efficacy", "of", "part-of-speech", "information", "in", "word", "completion", ".", "In", "Proceedings", "of", "the", "10th", "Conference", "of", "the", "European", "Chapter", "of", "the", "Association", "for", "Computational", "Linguistics", ",", "2003", ".", "-LSB-", "9", "-RSB-", "R.", "Florian", "and", "D.", "Yarowsky", ".", "Dynamic", "nonlocal", "language", "modeling", "via", "hierarchical", "topic-based", "adaptation", ".", "In", "Proceedings", "of", "ACL", "'99", ",", "pages", "167", "174", ",", "1999", ".", "-LSB-", "10", "-RSB-", "N.", "Garay-Vitoria", "and", "J.", "Gonz", "alez-Abascal", ".", "Intelligent", "word-prediction", "to", "enhance", "text", "input", "rate", ".", "In", "Proceedings", "of", "the", "second", "international", "conference", "on", "Intelligent", "User", "Interfaces", ",", "1997", ".", "-LSB-", "11", "-RSB-", "D.", "Hindle", ".", "Deterministic", "parsing", "of", "syntactic", "non-fluencies", ".", "In", "Proceedings", "of", "the", "21st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", ",", "1983", ".", "-LSB-", "12", "-RSB-", "G.", "Lesher", ",", "B.", "Moulton", ",", "and", "J.", "Higgonbotham", ".", "Effects", "of", "ngram", "order", "and", "training", "text", "size", "on", "word", "prediction", ".", "In", "Proceedings", "of", "the", "RESNA", "'99", "Annual", "Conference", ",", "1999", ".", "-LSB-", "13", "-RSB-", "G.", "Lesher", "and", "G.", "Rinkus", ".", "Domain-specific", "word", "prediction", "for", "augmentative", "communication", ".", "In", "Proceedings", "of", "the", "RESNA", "'01", "Annual", "Conference", ",", "2001", ".", "-LSB-", "14", "-RSB-", "M.", "Mahajan", ",", "D.", "Beeferman", ",", "and", "X.", "D.", "Huang", ".", "Improved", "topic-dependent", "language", "modeling", "using", "information", "retrieval", "techniques", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Acoustics", ",", "Speech", ",", "and", "Signal", "Processing", ",", "1999", ".", "-LSB-", "15", "-RSB-", "C.", "Manning", "and", "H.", "Sch", "utze", ".", "Foundations", "of", "Statistical", "Natural", "Language", "Processing", ".", "MIT", "Press", ",", "2000", ".", "-LSB-", "16", "-RSB-", "A.", "Newell", ",", "S.", "Langer", ",", "and", "M.", "Hickey", ".", "The", "r", "^", "ole", "of", "natural", "language", "processing", "in", "alternative", "and", "augmentative", "communication", ".", "Natural", "Language", "Engineering", ",", "4", "-LRB-", "1", "-RRB-", ":", "1", "16", ",", "1996", ".", "-LSB-", "17", "-RSB-", "K.", "Seymore", "and", "R.", "Rosenfeld", ".", "Using", "story", "topics", "for", "language", "model", "adaptation", ".", "In", "Proceedings", "of", "Eurospeech", "'", "97", ",", "pages", "1987", "1990", ",", "Rhodes", ",", "Greece", ",", "1997", ".", "-LSB-", "18", "-RSB-", "A.", "L.", "Swiffin", ",", "J.", "A.", "Pickering", ",", "J.", "L.", "Arnott", ",", "and", "A.", "F.", "Newell", ".", "Pal", ":", "An", "effort", "efficient", "portable", "communication", "aid", "and", "keyboard", "emulator", ".", "In", "Proceedings", "of", "the", "8th", "Annual", "Conference", "on", "Rehabilitation", "Techonology", ",", "pages", "197", "199", ",", "1985", ".", "278"], "doc_bio_tags": ["B", "I", "O", "O", "B", "I", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["core vocabulary", "prediction of fringe words", "fringe vocabulary", "communication rate", "immediate prediction", "language modeling", "word prediction", "prediction window size", "conversations in the switchboard corpus", "aac", "construct a new language model", "topic modeling"], "abstractive_keyphrases": ["decrease probability of unrelated words", "accuracy of prediction method", "identify current topic of conversation", "increase probability of related words"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "186", "document": ["TCP/IP", "Performance", "over", "3G", "Wireless", "Links", "with", "Rate", "and", "Delay", "Variation", "Wireless", "link", "losses", "result", "in", "poor", "TCP", "throughput", "since", "losses", "are", "perceived", "as", "congestion", "by", "TCP", ",", "resulting", "in", "source", "throttling", ".", "In", "order", "to", "mitigate", "this", "effect", ",", "3G", "wireless", "link", "designers", "have", "augmented", "their", "system", "with", "extensive", "local", "retransmission", "mechanisms", ".", "In", "addition", ",", "in", "order", "to", "increase", "throughput", ",", "intelligent", "channel", "state", "based", "scheduling", "have", "also", "been", "introduced", ".", "While", "these", "mechanisms", "have", "reduced", "the", "impact", "of", "losses", "on", "TCP", "throughput", "and", "improved", "the", "channel", "utilization", ",", "these", "gains", "have", "come", "at", "the", "expense", "of", "increased", "delay", "and", "rate", "variability", ".", "In", "this", "paper", ",", "we", "comprehensively", "evaluate", "the", "impact", "of", "variable", "rate", "and", "variable", "delay", "on", "long-lived", "TCP", "performance", ".", "We", "propose", "a", "model", "to", "explain", "and", "predict", "TCP", "'s", "throughput", "over", "a", "link", "with", "variable", "rate", "and/or", "delay", ".", "We", "also", "propose", "a", "network-based", "solution", "called", "Ack", "Regulator", "that", "mitigates", "the", "effect", "of", "variable", "rate", "and/or", "delay", "without", "significantly", "increasing", "the", "round", "trip", "time", ",", "while", "improving", "TCP", "performance", "by", "up", "to", "40", "%", ".", "C.", "2.1", "-LSB-", "Network", "Architecture", "and", "Design", "-RSB-", ":", "Wireless", "communication", "Algorithms", ",", "Performance", ",", "Design", "Third", "generation", "wide-area", "wireless", "networks", "are", "currently", "being", "deployed", "in", "the", "United", "States", "in", "the", "form", "of", "3G1X", "technology", "-LSB-", "10", "-RSB-", "with", "speeds", "up", "to", "144Kbps", ".", "Data-only", "enhancements", "to", "3G1X", "have", "already", "been", "standardized", "in", "the", "3G1X-EVDO", "standard", "-LRB-", "also", "called", "High", "Data", "Rate", "or", "HDR", "-RRB-", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MOBICOM", "'02", "September", "23", "28", ",", "Atlanta", ",", "Georgia", ",", "USA", "Copyright", "2002", "ACM", "1-58113-486-X", "/", "02/0009", "...", "$", "5.00", ".", "with", "speeds", "up", "to", "2", "Mbps", "-LSB-", "6", "-RSB-", ".", "UMTS", "-LSB-", "24", "-RSB-", "is", "the", "third", "generation", "wireless", "technology", "in", "Europe", "and", "Asia", "with", "deploy-ments", "planned", "this", "year", ".", "As", "these", "3G", "networks", "provide", "pervasive", "internet", "access", ",", "good", "performance", "of", "TCP", "over", "these", "wireless", "links", "will", "be", "critical", "for", "end", "user", "satisfaction", ".", "While", "the", "performance", "of", "TCP", "has", "been", "studied", "extensively", "over", "wireless", "links", "-LSB-", "3", ",", "4", ",", "15", ",", "20", "-RSB-", ",", "most", "attention", "has", "been", "paid", "to", "the", "impact", "of", "wireless", "channel", "losses", "on", "TCP", ".", "Losses", "are", "perceived", "as", "congestion", "by", "TCP", ",", "resulting", "in", "source", "throttling", "and", "very", "low", "net", "throughput", ".", "In", "order", "to", "mitigate", "the", "effects", "of", "losses", ",", "3G", "wireless", "link", "designers", "have", "augmented", "their", "system", "with", "extensive", "local", "retransmission", "mechanisms", ".", "For", "example", ",", "link", "layer", "retransmission", "protocols", "such", "as", "RLP", "and", "RLC", "are", "used", "in", "3G1X", "-LSB-", "22", "-RSB-", "and", "UMTS", "-LSB-", "21", "-RSB-", ",", "respectively", ".", "These", "mechanisms", "ensure", "packet", "loss", "probability", "of", "less", "than", "1", "%", "on", "the", "wireless", "link", ",", "thereby", "mitigating", "the", "adverse", "impact", "of", "loss", "on", "TCP", ".", "While", "these", "mechanisms", "mitigate", "losses", ",", "they", "also", "increase", "delay", "variability", ".", "For", "example", ",", "as", "we", "shall", "see", "in", "Section", "3", ",", "ping", "latencies", "vary", "between", "179ms", "to", "over", "1", "second", "in", "a", "3G1X", "system", ".", "In", "addition", ",", "in", "order", "to", "increase", "throughput", ",", "intelligent", "channel", "state", "based", "scheduling", "have", "also", "been", "introduced", ".", "Channel", "state", "based", "scheduling", "-LSB-", "7", "-RSB-", "refers", "to", "scheduling", "techniques", "which", "take", "the", "quality", "of", "wireless", "channel", "into", "account", "while", "scheduling", "data", "packets", "of", "different", "users", "at", "the", "base", "station", ".", "The", "intuition", "behind", "this", "approach", "is", "that", "since", "the", "channel", "quality", "varies", "asynchronously", "with", "time", "due", "to", "fading", ",", "it", "is", "preferable", "to", "give", "priority", "to", "a", "user", "with", "better", "channel", "quality", "at", "each", "scheduling", "epoch", ".", "While", "strict", "priority", "could", "lead", "to", "starvation", "of", "users", "with", "inferior", "channel", "quality", ",", "a", "scheduling", "algorithm", "such", "as", "proportional", "fair", "-LSB-", "6", "-RSB-", "can", "provide", "long-term", "fairness", "among", "different", "users", ".", "However", ",", "while", "channel-state", "based", "scheduling", "improves", "overall", "throughput", ",", "it", "also", "increases", "rate", "variability", ".", "Thus", ",", "while", "the", "impact", "of", "losses", "on", "TCP", "throughput", "have", "been", "significantly", "reduced", "by", "local", "link", "layer", "mechanisms", "and", "higher", "raw", "throughput", "achieved", "by", "channel-state", "based", "scheduling", "mechanisms", ",", "these", "gains", "have", "come", "at", "the", "expense", "of", "increased", "delay", "and", "rate", "variability", ".", "This", "rate", "and", "delay", "variability", "translates", "to", "bursty", "ack", "arrivals", "-LRB-", "also", "called", "ack", "compression", "-RRB-", "at", "the", "TCP", "source", ".", "Since", "TCP", "uses", "ack", "clocking", "to", "probe", "for", "more", "bandwidth", ",", "bursty", "ack", "arrival", "leads", "to", "release", "of", "a", "burst", "of", "packets", "from", "the", "TCP", "source", ".", "When", "this", "burst", "arrives", "at", "a", "link", "with", "variable", "rate", "or", "delay", ",", "it", "could", "result", "in", "multiple", "packet", "losses", ".", "These", "multiple", "losses", "significantly", "degrade", "TCPs", "throughput", ".", "In", "this", "paper", ",", "we", "make", "three", "main", "contributions", ".", "First", ",", "71", "we", "comprehensively", "evaluate", "the", "impact", "of", "variable", "rate", "and", "variable", "delay", "on", "long-lived", "TCP", "performance", ".", "Second", ",", "we", "propose", "a", "model", "to", "explain", "and", "predict", "TCP", "'s", "throughput", "over", "a", "link", "with", "variable", "rate", "and/or", "delay", ".", "Third", ",", "we", "propose", "a", "network-based", "solution", "called", "Ack", "Regulator", "that", "mitigates", "the", "effect", "of", "variable", "rate", "and/or", "delay", "without", "significantly", "increasing", "the", "round", "trip", "time", ",", "thereby", "improving", "TCP", "performance", ".", "The", "remaining", "sections", "are", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "discuss", "related", "work", ".", "In", "Section", "3", ",", "we", "present", "the", "motivation", "for", "our", "work", "using", "traces", "from", "a", "3G1X", "system", ".", "In", "Section", "4", ",", "we", "describe", "a", "model", "for", "computing", "the", "throughput", "of", "a", "long-lived", "TCP", "flow", "over", "links", "with", "variable", "rate", "and", "variable", "delay", ".", "We", "then", "present", "a", "simple", "network-based", "solution", ",", "called", "Ack", "Regulator", ",", "to", "mitigate", "the", "effect", "of", "variable", "rate/delay", "in", "Section", "5", ".", "In", "Section", "6", ",", "we", "present", "extensive", "simulation", "results", "that", "compare", "TCP", "performance", "with", "and", "without", "Ack", "Regulator", ",", "highlighting", "the", "performance", "gains", "using", "the", "Ack", "Regulator", "when", "TCP", "is", "subjected", "to", "variable", "rate", "and", "delay", ".", "Finally", ",", "in", "Section", "7", ",", "we", "present", "our", "conclusions", ".", "In", "this", "section", ",", "we", "review", "prior", "work", "on", "improving", "TCP", "performance", "over", "wireless", "networks", ".", "Related", "work", "on", "the", "modeling", "of", "TCP", "performance", "is", "presented", "in", "Section", "4", ".", "A", "lot", "of", "prior", "work", "has", "focused", "on", "avoiding", "the", "case", "of", "a", "TCP", "source", "misinterpreting", "packet", "losses", "in", "the", "wireless", "link", "as", "congestion", "signals", ".", "In", "-LSB-", "4", "-RSB-", ",", "a", "snoop", "agent", "is", "introduced", "inside", "the", "network", "to", "perform", "duplicate", "ack", "suppression", "and", "local", "retransmissions", "on", "the", "wireless", "link", "to", "enhance", "TCP", "performance", ".", "In", "-LSB-", "3", "-RSB-", ",", "the", "TCP", "connection", "is", "split", "into", "two", "separate", "connections", ",", "one", "over", "the", "fixed", "network", "and", "the", "second", "over", "the", "wireless", "link", ".", "The", "second", "connection", "can", "recover", "from", "losses", "quickly", ",", "resulting", "in", "better", "throughput", ".", "Link-layer", "enhancements", "for", "reducing", "wireless", "link", "losses", "including", "retransmission", "and", "forward", "error", "correction", "have", "been", "proposed", "in", "-LSB-", "20", "-RSB-", ".", "Link", "layer", "retransmission", "is", "now", "part", "of", "both", "the", "CDMA2000", "and", "UMTS", "standards", "-LSB-", "10", ",", "24", "-RSB-", ".", "In", "order", "to", "handle", "disconnections", "-LRB-", "a", "case", "of", "long-lived", "loss", "-RRB-", ",", "M-TCP", "has", "been", "proposed", "-LSB-", "8", "-RSB-", ".", "The", "idea", "is", "to", "send", "the", "last", "ack", "with", "a", "zero-sized", "receiver", "window", "so", "that", "the", "sender", "can", "be", "in", "persist", "mode", "during", "the", "disconnection", ".", "Link", "failures", "are", "also", "common", "in", "Ad", "Hoc", "networks", "and", "techniques", "to", "improve", "TCP", "performance", "in", "the", "presence", "of", "link", "failures", "have", "been", "proposed", "in", "-LSB-", "11", "-RSB-", ".", "Note", "that", "none", "of", "these", "approaches", "address", "specifically", "the", "impact", "of", "delay", "and", "rate", "variation", "on", "TCP", ",", "which", "is", "the", "focus", "of", "this", "paper", ".", "Several", "generic", "TCP", "enhancements", "with", "special", "applica-bility", "to", "wireless", "links", "are", "detailed", "in", "-LSB-", "12", ",", "13", "-RSB-", ".", "These", "include", "enabling", "the", "Time", "Stamp", "option", ",", "use", "of", "large", "window", "size", "and", "window", "scale", "option", ",", "disabling", "Van", "Jacobson", "header", "compression", ",", "and", "the", "use", "of", "Selective", "Acknowledgments", "-LRB-", "Sack", "-RRB-", ".", "Large", "window", "size", "and", "window", "scaling", "are", "necessary", "because", "of", "the", "large", "delay", "of", "wireless", "link", "while", "Sack", "could", "help", "TCP", "recover", "from", "multiple", "losses", "without", "the", "expensive", "timeout", "recovery", "mechanism", ".", "Another", "issue", "with", "large", "delay", "variation", "in", "wireless", "links", "is", "spurious", "timeouts", "where", "TCP", "unnecessarily", "retransmits", "a", "packet", "-LRB-", "and", "lowers", "its", "congestion", "window", "to", "a", "minimum", "-RRB-", "after", "a", "timeout", ",", "when", "the", "packet", "is", "merely", "delayed", ".", "In", "-LSB-", "13", "-RSB-", ",", "the", "authors", "refer", "to", "rate", "variability", "due", "to", "periodic", "allocation", "and", "de-allocation", "of", "high-speed", "channels", "in", "3G", "networks", "as", "Bandwidth", "Oscillation", ".", "Bandwidth", "Oscillation", "can", "also", "lead", "to", "spurious", "timeouts", "in", "TCP", "because", "as", "the", "rate", "changes", "from", "high", "to", "low", ",", "the", "rtt", "value", "increases", "and", "a", "low", "Retransmission", "Timeout", "-LRB-", "RTO", "-RRB-", "value", "causes", "a", "spurious", "retransmission", "and", "unnecessarily", "forces", "TCP", "into", "slow", "start", ".", "In", "-LSB-", "15", "-RSB-", ",", "the", "authors", "conduct", "experiments", "of", "TCP", "over", "GSM", "circuit", "channels", "and", "show", "that", "spurious", "timeouts", "are", "extremely", "rare", ".", "However", ",", "3G", "wireless", "links", "can", "have", "larger", "variations", "than", "GSM", "due", "to", "processing", "delays", "and", "rate", "variations", "due", "to", "channel", "state", "based", "scheduling", ".", "Given", "the", "increased", "variability", "on", "3G", "packet", "channels", ",", "the", "use", "of", "TCP", "time", "stamp", "option", "for", "finer", "tracking", "of", "TCP", "round", "trip", "times", "and", "possibly", "the", "use", "of", "Eifel", "retransmission", "timer", "-LSB-", "16", "-RSB-", "instead", "of", "the", "conventional", "TCP", "timer", "can", "help", "avoid", "spurious", "timeouts", ".", "As", "mentioned", "earlier", ",", "the", "effect", "of", "delay", "and", "rate", "variability", "is", "ack", "compression", "and", "this", "results", "in", "increased", "burstiness", "at", "the", "source", ".", "Ack", "compression", "can", "also", "be", "caused", "by", "bidirectional", "flows", "over", "regular", "wired", "networks", "or", "single", "flow", "over", "networks", "with", "large", "asymmetry", ".", "This", "phenomenon", "has", "been", "studied", "and", "several", "techniques", "have", "been", "proposed", "to", "tackle", "the", "burstiness", "of", "ack", "compression", ".", "In", "order", "to", "tackle", "burstiness", ",", "the", "authors", "in", "-LSB-", "18", "-RSB-", "propose", "several", "schemes", "that", "withholds", "acks", "such", "that", "there", "is", "no", "packet", "loss", "at", "the", "bottleneck", "router", ",", "resulting", "in", "full", "throughput", ".", "However", ",", "the", "round", "trip", "time", "is", "unbounded", "and", "can", "be", "very", "large", ".", "In", "-LSB-", "23", "-RSB-", ",", "the", "authors", "implement", "an", "ack", "pacing", "technique", "at", "the", "bottleneck", "router", "to", "reduce", "burstiness", "and", "ensure", "fairness", "among", "different", "flows", ".", "In", "the", "case", "of", "asymmetric", "channels", ",", "solutions", "proposed", "-LSB-", "5", "-RSB-", "include", "ack", "congestion", "control", "and", "ack", "filtering", "-LRB-", "dropping", "of", "acks", "-RRB-", ",", "reducing", "source", "burstiness", "by", "sender", "adaptation", "and", "giving", "priority", "to", "acks", "when", "scheduling", "inside", "the", "network", ".", "However", ",", "the", "magnitude", "of", "asymmetry", "in", "3G", "networks", "is", "not", "large", "enough", "and", "can", "be", "tolerated", "by", "TCP", "without", "ack", "congestion", "control", "or", "ack", "filtering", "according", "to", "-LSB-", "12", "-RSB-", ".", "Note", "that", ",", "in", "our", "case", ",", "ack", "compression", "occurs", "because", "of", "link", "variation", "and", "not", "due", "to", "asymmetry", "or", "bidirectional", "flows", ".", "Thus", ",", "we", "require", "a", "solution", "that", "specifically", "adapts", "to", "link", "variation", ".", "Moreover", ",", "the", "node", "at", "the", "edge", "of", "the", "3G", "wireless", "access", "network", "is", "very", "likely", "to", "be", "the", "bottleneck", "router", "-LRB-", "given", "rates", "of", "144Kbps", "to", "2", "Mbps", "on", "the", "wireless", "link", "-RRB-", "and", "is", "the", "element", "that", "is", "exposed", "to", "varying", "delays", "and", "service", "rates", ".", "Thus", ",", "this", "node", "is", "the", "ideal", "place", "to", "regulate", "the", "acks", "in", "order", "to", "improve", "TCP", "performance", ".", "This", "is", "discussed", "in", "more", "detail", "in", "the", "next", "section", ".", "MD", "RNC", "RNC", "BS", "BS", "PDSN", "/", "SGSN", "BS", ":", "Base", "Station", "MD", ":", "Mobile", "Device", "HA", "/", "GGSN", "HA", ":", "Home", "Agent", "RNC", ":", "Radio", "Network", "Controller", "PDSN", ":", "Packet", "Data", "Service", "Node", "SGSN", ":", "Serving", "GPRS", "Service", "Node", "GGSN", ":", "Gateway", "GPRS", "Service", "Node", "-LRB-", "RLP/RLC", "-RRB-", "Link", "Layer", "Retransmission", "INTER", "NET", "Figure", "1", ":", "3G", "network", "architecture", "A", "simplified", "architecture", "of", "a", "3G", "wireless", "network", "is", "shown", "72", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "200", "400", "600", "800", "1000", "1200", "1400", "Prob", ".", "Ping", "latency", "-LRB-", "ms", "-RRB-", "Figure", "2", ":", "CDF", "of", "Ping", "Latencies", "in", "Figure", "1", ".", "The", "base", "stations", "are", "connected", "to", "a", "node", "called", "the", "Radio", "Network", "Controller", "-LRB-", "RNC", "-RRB-", ".", "The", "RNC", "performs", "CDMA", "specific", "functions", "such", "as", "soft", "handoffs", ",", "encryption", ",", "power", "control", "etc.", ".", "It", "also", "performs", "link", "layer", "retransmission", "using", "RLP", "-LRB-", "RLC", "-RRB-", "in", "3G1X", "-LRB-", "UMTS", "-RRB-", "system", ".", "In", "the", "3G1X", "system", ",", "the", "RNC", "is", "connected", "to", "a", "PDSN", "using", "a", "GRE", "tunnel", "-LRB-", "one", "form", "of", "IP", "in", "IP", "tunnel", "-RRB-", "and", "the", "PDSN", "terminates", "PPP", "with", "the", "mobile", "device", ".", "If", "Mobile", "IP", "service", "is", "enabled", ",", "the", "PDSN", "also", "acts", "as", "a", "Foreign", "Agent", "and", "connects", "to", "a", "Home", "Agent", ".", "In", "the", "UMTS", "system", ",", "the", "RNC", "is", "connected", "to", "a", "SGSN", "using", "a", "GTP", "tunnel", "-LRB-", "another", "form", "of", "IP", "in", "IP", "tunnel", "-RRB-", ";", "the", "SGSN", "is", "connected", "to", "a", "GGSN", ",", "again", "through", "a", "GTP", "tunnel", ".", "Note", "that", "the", "tunneling", "between", "the", "various", "nodes", "allows", "for", "these", "nodes", "to", "be", "connected", "directly", "or", "through", "IP/ATM", "networks", ".", "In", "this", "architecture", ",", "the", "RNC", "receives", "a", "PPP/IP", "packet", "through", "the", "GRE/GTP", "tunnel", "from", "the", "PDSN/SGSN", ".", "The", "RNC", "fragments", "this", "packet", "into", "a", "number", "of", "radio", "frames", "and", "then", "performs", "transmission", "and", "local", "retransmission", "of", "these", "radio", "frames", "using", "the", "RLP", "-LRB-", "RLC", "-RRB-", "protocol", ".", "The", "base", "station", "-LRB-", "BS", "-RRB-", "receives", "the", "radio", "frames", "from", "the", "RNC", "and", "then", "schedules", "the", "transmission", "of", "the", "radio", "frames", "on", "the", "wireless", "link", "using", "a", "scheduling", "algorithm", "that", "takes", "the", "wireless", "channel", "state", "into", "account", ".", "The", "mobile", "device", "receives", "the", "radio", "frames", "and", "if", "it", "discovers", "loss", "of", "radio", "frames", ",", "it", "requests", "local", "retransmission", "using", "the", "RLP", "-LRB-", "RLC", "-RRB-", "protocol", ".", "Note", "that", ",", "in", "order", "to", "implement", "RLP", "-LRB-", "RLC", "-RRB-", ",", "the", "RNC", "needs", "to", "keep", "a", "per-user", "queue", "of", "radio", "frames", ".", "The", "RNC", "can", "typically", "scale", "up", "to", "tens", "of", "base", "stations", "and", "thousands", "of", "active", "users", ".", "In", "order", "to", "illustrate", "the", "variability", "seen", "in", "a", "3G", "system", ",", "we", "obtained", "some", "traces", "from", "a", "3G1X", "system", ".", "The", "system", "consisted", "of", "an", "integrated", "BS/RNC", ",", "a", "server", "connected", "to", "the", "RNC", "using", "a", "10", "Mbps", "Ethernet", "and", "a", "mobile", "device", "connected", "to", "the", "BS", "using", "a", "3G1X", "link", "with", "144Kbps", "downlink", "in", "infinite", "burst", "mode", "and", "8Kbps", "uplink", ".", "The", "infinite", "burst", "mode", "implies", "that", "the", "rate", "is", "fixed", "and", "so", "the", "system", "only", "had", "delay", "variability", ".", "Figure", "2", "plots", "the", "cumulative", "distribution", "function", "-LRB-", "cdf", "-RRB-", "of", "ping", "latencies", "from", "a", "set", "of", "1000", "pings", "from", "the", "server", "to", "the", "mobile", "device", "-LRB-", "with", "no", "observed", "loss", "-RRB-", ".", "While", "about", "75", "%", "of", "the", "latency", "values", "are", "below", "200ms", ",", "the", "latency", "values", "go", "all", "the", "way", "to", "over", "1s", "with", "about", "3", "%", "of", "the", "values", "higher", "than", "500ms", ".", "In", "the", "second", "experiment", ",", "a", "TCP", "source", "at", "the", "server", "using", "Sack", "with", "timestamp", "option", "transferred", "a", "2", "MB", "file", "to", "the", "mobile", "device", ".", "The", "MTU", "was", "1500", "bytes", "with", "user", "data", "size", "of", "1448", "bytes", ".", "The", "buffer", "at", "the", "RNC", "was", "larger", "than", "the", "TCP", "window", "size", "1", ".", "and", "thus", ",", "the", "transfer", "resulted", "in", "no", "TCP", "packet", "loss", "and", "a", "maximal", "throughput", "of", "about", "1", "We", "did", "not", "have", "control", "over", "the", "buffer", "size", "at", "the", "RNC", "in", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "Prob", ".", "Interack", "time", "Time", "-LRB-", "s", "-RRB-", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "0", "20", "40", "60", "80", "100", "120", "Rtt", "-LRB-", "s", "-RRB-", "Time", "-LRB-", "s", "-RRB-", "-LRB-", "a", "-RRB-", "TCP", "Ack", "Inter-arrival", "-LRB-", "b", "-RRB-", "TCP", "rtt", "value", "Figure", "3", ":", "3G", "Link", "Delay", "Variability", "135Kb/s", ".", "The", "transmission", "time", "at", "the", "bottleneck", "link", "is", "1.448", "8/135", "=", "86ms", ".", "If", "the", "wireless", "link", "delay", "were", "constant", ",", "the", "TCP", "acks", "arriving", "at", "the", "source", "would", "be", "evenly", "spaced", "with", "a", "duration", "of", "172ms", "because", "of", "the", "delayed", "ack", "feature", "of", "TCP", "-LRB-", "every", "2", "packets", "are", "acked", "rather", "than", "every", "packet", "-RRB-", ".", "Figure", "3", "-LRB-", "a", "-RRB-", "plots", "the", "cdf", "of", "TCP", "ack", "inter-arrival", "time", "-LRB-", "time", "between", "two", "consecutive", "acks", "-RRB-", "at", "the", "server", ".", "As", "can", "be", "seen", ",", "there", "is", "significant", "ack", "compression", "with", "over", "10", "%", "of", "the", "acks", "arriving", "within", "50ms", "of", "the", "previous", "ack", ".", "Note", "that", "the", "ack", "packet", "size", "is", "52", "bytes", "-LRB-", "40", "+", "timestamp", "-RRB-", "and", "ack", "transmission", "time", "on", "the", "uplink", "is", "52", "8/8", "=", "52ms", ";", "an", "interack", "spacing", "of", "less", "then", "52ms", "is", "a", "result", "of", "uplink", "delay", "variation", ".", "Note", "that", "the", "delay", "variability", "and", "the", "resulting", "ack", "compression", "did", "not", "cause", "any", "throughput", "degradation", "in", "our", "system", ".", "This", "was", "due", "to", "the", "fact", "that", "the", "buffering", "in", "the", "system", "was", "greater", "than", "the", "TCP", "window", "size", "resulting", "in", "no", "buffer", "overflow", "loss", ".", "Figure", "3", "-LRB-", "b", "-RRB-", "depicts", "the", "TCP", "round", "trip", "time", "-LRB-", "rtt", "-RRB-", "values", "over", "time", ".", "Since", "the", "buffer", "at", "the", "RNC", "is", "able", "to", "accommodate", "the", "whole", "TCP", "window", ",", "the", "rtt", "increases", "to", "over", "3s", "representing", "a", "case", "of", "over", "30", "packets", "in", "the", "buffer", "at", "the", "RNC", "-LRB-", "30", "0.086", "=", "2.5", "s", "-RRB-", ".", "Given", "an", "average", "ping", "latency", "of", "215ms", "and", "a", "transmission", "time", "of", "86ms", "for", "a", "1500", "byte", "packet", ",", "the", "bandwidth", "delay", "product", "of", "the", "link", "is", "approximately", "-LRB-", "0.215", "+", "0.86", "-RRB-", "135", "=", "5KB", "or", "about", "3", "packets", ".", "Thus", ",", "the", "system", "had", "a", "buffer", "of", "over", "10", "times", "the", "bandwidth", "delay", "product", ".", "Given", "that", "we", "had", "only", "one", "TCP", "flow", "in", "the", "system", ",", "a", "buffer", "of", "over", "64KB", "is", "not", "a", "problem", ".", "But", ",", "if", "every", "TCP", "flow", "is", "allocated", "a", "buffer", "of", "64KB", ",", "the", "buffer", "requirements", "at", "the", "RNC", "would", "be", "very", "expensive", ",", "since", "the", "RNC", "supports", "thousands", "of", "active", "users", ".", "Even", "discounting", "the", "cost", "of", "large", "buffers", ",", "the", "inflated", "rtt", "value", "due", "to", "the", "excessive", "buffering", "has", "several", "negative", "consequences", "as", "identified", "in", "-LSB-", "15", "-RSB-", ".", "First", ",", "an", "inflated", "rtt", "implies", "a", "large", "retransmission", "timeout", "value", "-LRB-", "rto", "-RRB-", ".", "In", "the", "case", "of", "multiple", "packet", "losses", "-LRB-", "either", "on", "the", "wireless", "link", "or", "in", "a", "router", "elsewhere", "in", "the", "network", "-RRB-", ",", "a", "timeout-based", "recovery", "would", "cause", "excessive", "delay", ",", "especially", "if", "exponential", "backoff", "gets", "invoked", ".", "Second", ",", "if", "the", "timestamp", "option", "is", "not", "used", ",", "the", "rtt", "sampling", "rate", "is", "reduced", "and", "this", "can", "cause", "spurious", "timeouts", ".", "Third", ",", "there", "is", "a", "higher", "probability", "that", "the", "data", "in", "the", "queue", "becomes", "obsolete", "-LRB-", "for", "e.g.", ",", "due", "to", "user", "aborting", "the", "transmission", "-RRB-", ",", "but", "the", "queue", "will", "still", "have", "to", "be", "drained", "resulting", "in", "wasted", "bandwidth", ".", "Thus", ",", "while", "excessive", "buffering", "at", "the", "RNC", "can", "absorb", "the", "variability", "of", "the", "wireless", "links", "without", "causing", "TCP", "throughput", "degradation", ",", "it", "has", "significant", "negative", "side", "effects", ",", "making", "it", "an", "undesirable", "solution", ".", "our", "system", ".", "73", "In", "this", "section", ",", "we", "model", "the", "performance", "of", "a", "single", "long-lived", "TCP", "flow", "over", "a", "network", "with", "a", "single", "bottleneck", "server", "that", "exhibits", "rate", "variation", "based", "on", "a", "given", "general", "distribution", "and", "a", "single", "wireless", "link", "attached", "to", "the", "bottleneck", "server", "that", "exhibits", "delay", "variation", "based", "on", "another", "given", "distribution", ".", "We", "use", "a", "general", "distribution", "of", "rate", "and", "delay", "values", "for", "the", "discussion", "in", "this", "section", "since", "we", "would", "like", "to", "capture", "the", "inherent", "variation", "in", "rate", "and", "delay", "that", "is", "a", "characteristic", "of", "the", "3G", "wireless", "data", "environment", ".", "Given", "that", "the", "wireless", "standards", "are", "constantly", "evolving", ",", "the", "actual", "rate", "and", "delay", "distribution", "will", "vary", "from", "one", "standard", "or", "implementation", "to", "another", "and", "is", "outside", "the", "scope", "of", "this", "paper", ".", "Later", ",", "in", "Section", "6", ",", "we", "will", "evaluate", "TCP", "performance", "over", "a", "specific", "wireless", "link", ",", "the", "3G1X-EVDO", "-LRB-", "HDR", "-RRB-", "system", ",", "using", "simulation", ".", "We", "would", "like", "to", "model", "TCP", "performance", "in", "the", "case", "of", "variable", "rate", "and", "delay", "for", "two", "reasons", ".", "One", ",", "we", "would", "like", "to", "understand", "the", "dynamics", "so", "that", "we", "can", "design", "an", "appropriate", "mechanism", "to", "improve", "TCP", "performance", ".", "Two", ",", "we", "would", "like", "to", "have", "a", "more", "accurate", "model", "that", "specifically", "takes", "the", "burstiness", "caused", "by", "ack", "compression", "due", "to", "rate/delay", "variability", "into", "account", ".", "TCP", "performance", "modeling", "has", "been", "extensively", "studied", "in", "the", "literature", "-LSB-", "1", ",", "2", ",", "9", ",", "14", ",", "17", ",", "19", "-RSB-", ".", "Most", "of", "these", "models", "assume", "constant", "delay", "and", "service", "rate", "at", "the", "bottleneck", "router", "and", "calculate", "TCP", "throughput", "in", "terms", "of", "packet", "loss", "probability", "and", "round", "trip", "time", ".", "In", "-LSB-", "19", "-RSB-", ",", "the", "authors", "model", "TCP", "performance", "assuming", "deterministic", "time", "between", "congestion", "events", "-LSB-", "1", "-RSB-", ".", "In", "-LSB-", "17", "-RSB-", ",", "the", "authors", "improve", "the", "throughput", "prediction", "of", "-LSB-", "19", "-RSB-", "assuming", "exponential", "time", "between", "congestion", "events", "-LRB-", "loss", "indications", "as", "Poisson", "-RRB-", ".", "In", "our", "case", ",", "ack", "compressions", "and", "link", "variation", "causes", "bursty", "losses", "and", "the", "deterministic", "or", "Poisson", "loss", "models", "are", "not", "likely", "to", "be", "as", "accurate", ".", "In", "-LSB-", "9", "-RSB-", ",", "the", "authors", "model", "an", "UMTS", "wireless", "network", "by", "extending", "the", "model", "from", "-LSB-", "19", "-RSB-", "and", "inflating", "the", "rtt", "value", "to", "account", "for", "the", "average", "additional", "delay", "incurred", "on", "the", "wireless", "link", ".", "However", ",", "we", "believe", "this", "will", "not", "result", "in", "an", "accurate", "model", "because", "1", "-RRB-", "the", "rtt", "value", "in", "-LSB-", "19", "-RSB-", "is", "already", "an", "end-to-end", "measured", "value", "and", "2", "-RRB-", "the", "loss", "process", "is", "much", "more", "bursty", "than", "the", "deterministic", "loss", "assumption", "in", "-LSB-", "19", "-RSB-", ".", "In", "-LSB-", "2", "-RSB-", ",", "the", "authors", "observe", "that", "mean", "values", "are", "not", "sufficient", "to", "predict", "the", "throughput", "when", "routers", "have", "varying", "bandwidth", "and", "show", "that", "increasing", "variance", "for", "the", "same", "mean", "service", "rate", "decreases", "TCP", "throughput", ".", "However", ",", "the", "approach", "is", "numerical", ",", "and", "provides", "little", "intuition", "in", "the", "case", "of", "delay", "variance", ".", "Our", "approach", "starts", "with", "the", "model", "in", "-LSB-", "14", "-RSB-", "which", "describes", "how", "TCP", "functions", "in", "an", "``", "ideal", "''", "environment", "with", "constant", "round", "trip", "time", ",", "constant", "service", "rate", "and", "suffers", "loss", "only", "through", "buffer", "overflow", ".", "A", "brief", "summary", "of", "the", "result", "from", "-LSB-", "14", "-RSB-", "is", "presented", "here", "before", "we", "proceed", "to", "our", "model", ",", "which", "can", "be", "seen", "as", "an", "extension", ".", "We", "chose", "to", "extend", "the", "model", "in", "-LSB-", "14", "-RSB-", "since", "it", "makes", "no", "assumption", "about", "the", "nature", "of", "loss", "event", "process", "-LRB-", "which", "is", "highly", "bursty", "in", "our", "case", "-RRB-", "and", "explicitly", "accounts", "for", "link", "delay", "and", "service", "rate", "-LRB-", "which", "are", "variable", "in", "our", "case", "-RRB-", ".", "For", "simplicity", ",", "we", "will", "only", "discuss", "the", "analysis", "of", "TCP", "Reno", ".", "TCP", "Sack", "can", "be", "analyzed", "similarly", ".", "We", "also", "assume", "that", "the", "sender", "is", "not", "limited", "by", "the", "maximum", "receiver", "window", ";", "simple", "modifications", "can", "be", "made", "to", "the", "analysis", "for", "handling", "this", "case", ".", "Figure", "4", "-LRB-", "a", "-RRB-", "shows", "how", "the", "TCP", "congestion", "window", "varies", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "0", "50", "100", "150", "200", "Ideal", "TCP", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "0", "50", "100", "150", "200", "TCP", "with", "Variable", "Delay", "-LRB-", "a", "-RRB-", "Constant", "delay", "-LRB-", "b", "-RRB-", "Variable", "delay", "Figure", "4", ":", "TCP", "Congestion", "Window", "Evolution", "over", "time", "in", "a", "constant", "rate", "and", "delay", "setting", ".", "The", "initial", "phase", "where", "TCP", "tries", "to", "probe", "for", "available", "bandwidth", "is", "the", "Slow", "Start", "phase", ".", "After", "slow", "start", ",", "TCP", "goes", "to", "Congestion", "avoidance", "phase", ".", "In", "the", "case", "of", "long-lived", "TCP", "flow", ",", "one", "can", "focus", "only", "on", "the", "congestion", "avoidance", "phase", ".", "Let", "be", "the", "constant", "service", "rate", ",", "the", "constant", "propagation", "delay", ",", "T", "the", "minimum", "round", "trip", "time", "-LRB-", "+", "1", "/", "-RRB-", "and", "B", "the", "buffer", "size", ".", "The", "congestion", "window", "follows", "a", "regular", "saw-tooth", "pattern", ",", "going", "from", "W", "0", "to", "W", "max", ",", "where", "W", "0", "=", "W", "max", "/", "2", "and", "W", "max", "=", "+", "B", "+", "1", ".", "Due", "to", "the", "regularity", "of", "each", "of", "the", "saw-tooth", ",", "consider", "one", "such", "saw-tooth", ".", "Within", "a", "single", "saw-tooth", ",", "the", "congestion", "avoidance", "phase", "is", "divided", "into", "two", "epochs", ".", "In", "the", "first", "epoch", ",", "say", "epoch", "A", ",", "the", "congestion", "window", "increases", "from", "W", "0", "to", "T", ",", "in", "time", "t", "A", "with", "number", "of", "packets", "sent", "n", "A", ".", "In", "the", "second", "epoch", ",", "say", "epoch", "B", ",", "the", "congestion", "window", "increases", "from", "T", "to", "W", "max", ",", "in", "time", "t", "B", "with", "number", "of", "packets", "sent", "n", "B", ".", "TCP", "throughput", "-LRB-", "ignoring", "slow", "start", "-RRB-", "is", "simply", "given", "by", "-LRB-", "n", "A", "+", "n", "B", "-RRB-", "/", "-LRB-", "t", "A", "+", "t", "B", "-RRB-", "where", "t", "A", "=", "T", "-LRB-", "T", "-", "W", "0", "-RRB-", "-LRB-", "1", "-RRB-", "n", "A", "=", "-LRB-", "W", "0", "t", "A", "+", "t", "2", "A", "/", "-LRB-", "2T", "-RRB-", "-RRB-", "/", "T", "-LRB-", "2", "-RRB-", "t", "B", "=", "-LRB-", "W", "2", "max", "-", "-LRB-", "T", "-RRB-", "2", "-RRB-", "/", "-LRB-", "2", "-RRB-", "-LRB-", "3", "-RRB-", "n", "B", "=", "t", "B", "-LRB-", "4", "-RRB-", "This", "model", ",", "while", "very", "accurate", "for", "constant", "and", "T", ",", "breaks", "down", "when", "the", "constant", "propagation", "and", "service", "rate", "assumptions", "are", "not", "valid", ".", "Figure", "4", "-LRB-", "b", "-RRB-", "shows", "how", "the", "congestion", "window", "becomes", "much", "more", "irregular", "when", "there", "is", "substantial", "variation", "in", "the", "wireless", "link", "delay", ".", "This", "is", "because", "the", "delay", "variation", "and", "ack", "compression", "result", "in", "multiple", "packet", "losses", ".", "There", "are", "three", "main", "differences", "in", "the", "TCP", "congestion", "window", "behavior", "under", "variable", "rate/delay", "from", "the", "traditional", "saw-tooth", "behavior", ".", "First", ",", "while", "the", "traditional", "saw-tooth", "behavior", "always", "results", "in", "one", "packet", "loss", "due", "to", "buffer", "overflow", ",", "we", "have", "possibilities", "for", "multiple", "packet", "losses", "due", "to", "link", "variation", ".", "To", "account", "for", "this", ",", "we", "augment", "our", "model", "with", "parameters", "p1", ",", "p2", ",", "p3", "representing", "respectively", "the", "conditional", "probability", "of", "a", "single", "packet", "loss", ",", "double", "packet", "loss", ",", "and", "three", "or", "more", "packet", "losses", ".", "Note", "that", ",", "p1", "+", "p2", "+", "p3", "=", "1", "by", "this", "definition", ".", "Second", ",", "while", "the", "loss", "in", "the", "traditional", "saw-tooth", "model", "always", "occurs", "when", "window", "size", "reaches", "W", "max", "=", "+", "B", "+", "1", ",", "in", "our", "model", "losses", "can", "occur", "at", "different", "values", "of", "window", "size", ",", "since", "and", "are", "now", "both", "variables", "instead", "of", "constants", ".", "We", "capture", "this", "by", "a", "parameter", "W", "f", "=", "N", "i", "=", "1", "W", "2", "max", "i", "/", "N", ",", "that", "is", "the", "square", "root", "of", "the", "second", "moment", "of", "the", "W", "max", "values", "of", "each", "cycle", ".", "The", "reason", "we", "do", "this", "instead", "of", "obtaining", "a", "simple", "mean", "of", "W", "max", "values", "is", "because", "throughput", "is", "related", "to", "W", "f", "quadratically", "-LRB-", "since", "it", "is", "the", "area", "under", "the", "curve", "in", "the", "74", "0", "5", "10", "15", "20", "25", "128", "130", "132", "134", "136", "138", "140", "142", "cwnd", "-LRB-", "packets", "-RRB-", "Time", "-LRB-", "s", "-RRB-", "0", "5", "10", "15", "20", "25", "100", "105", "110", "115", "cwnd", "-LRB-", "packets", "-RRB-", "Time", "-LRB-", "s", "-RRB-", "-LRB-", "a", "-RRB-", "Two", "packet", "loss", "-LRB-", "b", "-RRB-", "Three", "packet", "loss", "Figure", "5", ":", "Congestion", "Window", "with", "multiple", "losses", "congestion", "window", "graph", "-RRB-", ".", "Third", ",", "due", "to", "the", "fact", "that", "we", "have", "multiple", "packet", "losses", "in", "our", "model", ",", "we", "need", "to", "consider", "timeouts", "and", "slow", "starts", "in", "our", "throughput", "calculation", ".", "We", "represent", "the", "timeout", "duration", "by", "the", "T", "0", "parameter", "which", "represents", "the", "average", "timeout", "value", ",", "similar", "to", "the", "timeout", "parameter", "in", "-LSB-", "19", "-RSB-", ".", "We", "now", "model", "the", "highly", "variable", "congestion", "window", "behavior", "of", "a", "TCP", "source", "under", "rate/delay", "variation", ".", "We", "first", "use", "W", "f", "instead", "of", "W", "max", ".", "We", "approximate", "-LRB-", "the", "propagation", "delay", "-RRB-", "by", "^", ",", "the", "average", "link", "delay", "in", "the", "presence", "of", "delay", "variability", ".", "We", "replace", "-LRB-", "the", "service", "rate", "-RRB-", "by", "^", ",", "the", "average", "service", "rate", "in", "the", "presence", "of", "rate", "variability", ".", "Thus", ",", "T", "becomes", "^", "T", "=", "-LRB-", "^", "+", "1", "/", "^", "-RRB-", ".", "Now", "consider", "three", "different", "congestion", "window", "patterns", ":", "with", "probability", "p1", ",", "single", "loss", "followed", "by", "congestion", "avoidance", ",", "with", "probability", "p2", ",", "double", "loss", "followed", "by", "congestion", "avoidance", ",", "and", "with", "probability", "p3", ",", "triple", "loss", "and", "timeout", "followed", "by", "slow", "start", "and", "congestion", "avoidance", "2", ".", "First", ",", "consider", "the", "single", "loss", "event", "in", "the", "congestion", "avoidance", "phase", ".", "This", "is", "the", "classic", "saw-tooth", "pattern", "with", "two", "epochs", "as", "identified", "in", "-LSB-", "14", "-RSB-", ".", "Lets", "call", "these", "A1", "and", "B1", "epochs", ".", "In", "epoch", "A1", ",", "window", "size", "grows", "from", "W", "01", "to", "^", "^", "T", "in", "time", ",", "t", "A1", ",", "with", "number", "of", "packets", "transmitted", ",", "n", "A1", ".", "In", "epoch", "B1", ",", "window", "size", "grows", "from", "^", "^", "T", "to", "W", "f", "in", "time", ",", "t", "B1", ",", "with", "number", "of", "packets", "transmitted", ",", "n", "B1", ".", "Thus", ",", "with", "probability", "p1", ",", "n", "A1", "+", "n", "B1", "packets", "are", "transmitted", "in", "time", "t", "A1", "+", "t", "B1", "where", "W", "01", "=", "-LRB-", "int", "-RRB-", "W", "f", "/", "2", "-LRB-", "5", "-RRB-", "t", "A1", "=", "^", "T", "-LRB-", "^", "^", "T", "-", "W", "01", "-RRB-", "-LRB-", "6", "-RRB-", "n", "A1", "=", "-LRB-", "W", "01", "t", "A1", "+", "t", "2", "A1", "/", "-LRB-", "2", "^", "T", "-RRB-", "-RRB-", "/", "^", "T", "-LRB-", "7", "-RRB-", "t", "B1", "=", "-LRB-", "W", "2", "f", "-", "-LRB-", "^", "^", "T", "-RRB-", "2", "-RRB-", "/", "-LRB-", "2", "^", "-RRB-", "-LRB-", "8", "-RRB-", "n", "B1", "=", "^", "t", "B1", "-LRB-", "9", "-RRB-", "Next", ",", "consider", "the", "two", "loss", "event", ".", "An", "example", "of", "this", "event", "is", "shown", "in", "Figure", "5", "-LRB-", "a", "-RRB-", ".", "The", "trace", "is", "obtained", "using", "ns-2", "simulation", "described", "in", "Section", "6", ".", "In", "this", "case", ",", "after", "the", "first", "fast", "retransmit", "-LRB-", "around", "130s", "-RRB-", ",", "the", "source", "receives", "another", "set", "of", "duplicate", "acks", "to", "trigger", "the", "second", "fast", "retransmit", "-LRB-", "around", "131s", "-RRB-", ".", "This", "fixes", "the", "two", "losses", "and", "the", "congestion", "window", "starts", "growing", "from", "W", "02", ".", "The", "second", "retransmit", "is", "triggered", "by", "the", "new", "set", "of", "duplicate", "acks", "in", "response", "to", "the", "first", "retransmission", ".", "Thus", ",", "the", "duration", "between", "the", "first", "and", "second", "fast", "retransmit", "is", "the", "time", "re-quired", "for", "the", "first", "retransmission", "to", "reach", "the", "receiver", "-LRB-", "with", "a", "full", "buffer", "-RRB-", "plus", "the", "time", "for", "the", "duplicate", "ack", "to", "return", "2", "We", "assume", "that", "three", "or", "more", "packet", "losses", "result", "in", "a", "timeout", ";", "this", "is", "almost", "always", "true", "if", "the", "source", "is", "TCP", "reno", ".", "to", "the", "sender", ".", "In", "other", "words", ",", "this", "duration", "can", "be", "approximated", "by", "the", "average", "link", "delay", "with", "a", "full", "buffer", ",", "^", "T", "+", "B", "/", "^", "=", "t", "R", ".", "We", "have", "three", "epochs", "now", ",", "epoch", "t", "R", "-LRB-", "time", "130-131s", "-RRB-", "with", "one", "retransmission", "and", "zero", "new", "packet", ",", "epoch", "A2", "-LRB-", "131-137s", "-RRB-", "with", "window", "size", "growing", "from", "W", "02", "to", "^", "^", "T", "in", "time", ",", "t", "A2", ",", "with", "number", "of", "packets", "transmitted", ",", "n", "A2", ",", "and", "epoch", "B1", "-LRB-", "137-143s", "-RRB-", "as", "before", ".", "Thus", ",", "with", "probability", "p2", ",", "n", "A2", "+", "n", "B1", "packets", "are", "transmitted", "in", "time", "t", "R", "+", "t", "A2", "+", "t", "B1", "where", "W", "02", "=", "-LRB-", "int", "-RRB-", "W", "01", "/", "2", "-LRB-", "10", "-RRB-", "t", "R", "=", "^", "T", "+", "B", "/", "^", "-LRB-", "11", "-RRB-", "t", "A2", "=", "^", "T", "-LRB-", "^", "^", "T", "-", "W", "02", "-RRB-", "-LRB-", "12", "-RRB-", "n", "A2", "=", "-LRB-", "W", "02", "t", "A2", "+", "t", "2", "A2", "/", "-LRB-", "2", "^", "T", "-RRB-", "-RRB-", "/", "^", "T", "-LRB-", "13", "-RRB-", "Finally", ",", "consider", "the", "three", "loss", "event", ".", "An", "example", "of", "this", "event", "is", "shown", "in", "Figure", "5", "-LRB-", "b", "-RRB-", ".", "In", "this", "case", ",", "after", "the", "first", "fast", "retransmit", ",", "we", "receive", "another", "set", "of", "duplicate", "acks", "to", "trigger", "the", "second", "fast", "retransmit", ".", "This", "does", "not", "fixthe", "three", "losses", "and", "TCP", "times", "out", ".", "Thus", ",", "we", "now", "have", "five", "epochs", ":", "first", "is", "the", "retransmission", "epoch", "-LRB-", "100-101s", "-RRB-", "with", "time", "t", "R", "and", "zero", "new", "packet", ",", "second", "is", "the", "timeout", "epoch", "-LRB-", "101-103s", "-RRB-", "with", "time", "T", "0", "and", "zero", "new", "packet", ",", "third", "is", "the", "slow", "start", "epoch", "-LRB-", "103-106s", "-RRB-", "where", "the", "window", "grows", "exponentially", "up", "to", "previous", "ssthresh", "value", "of", "W", "03", "in", "time", "t", "ss", "-LRB-", "Eqn", ".", "15", "-RRB-", "with", "number", "of", "packets", "transmitted", "n", "ss", "-LRB-", "Eqn", ".", "16", "-RRB-", "3", ",", "fourth", "is", "epoch", "A3", "-LRB-", "106-111s", "-RRB-", "where", "the", "window", "size", "grows", "from", "W", "03", "to", "^", "^", "T", "in", "time", "t", "A3", "-LRB-", "Eqn", ".", "17", "-RRB-", "with", "number", "of", "packets", "transmitted", "n", "A3", "-LRB-", "Eqn", ".", "18", "-RRB-", ",", "and", "fifth", "is", "epoch", "B1", "-LRB-", "111-118s", "-RRB-", "as", "before", ".", "Thus", ",", "with", "probability", "p3", ",", "n", "ss", "+", "n", "A3", "+", "n", "B1", "packets", "are", "transmitted", "in", "time", "t", "R", "+", "T", "0", "+", "t", "ss", "+", "t", "A2", "+", "t", "B1", "where", "W", "03", "=", "-LRB-", "int", "-RRB-", "W", "02", "/", "2", "-LRB-", "14", "-RRB-", "t", "ss", "=", "^", "T", "log", "2", "-LRB-", "W", "03", "-RRB-", "-LRB-", "15", "-RRB-", "n", "ss", "=", "W", "03", "/", "^", "T", "-LRB-", "16", "-RRB-", "t", "A3", "=", "^", "T", "-LRB-", "^", "^", "T", "-", "W", "03", "-RRB-", "-LRB-", "17", "-RRB-", "n", "A3", "=", "-LRB-", "W", "03", "t", "A3", "+", "t", "2", "A3", "/", "-LRB-", "2", "^", "T", "-RRB-", "-RRB-", "/", "^", "T", "-LRB-", "18", "-RRB-", "Given", "that", "the", "different", "types", "of", "packet", "loss", "events", "are", "independent", "and", "using", "p1", "+", "p2", "+", "p3", "=", "1", ",", "the", "average", "TCP", "throughput", "can", "now", "be", "approximated", "by", "a", "weighted", "combination", "of", "the", "three", "types", "of", "loss", "events", "to", "be", "p3", "-LRB-", "n", "ss", "+", "n", "A3", "-RRB-", "+", "p2", "n", "A2", "+", "p1", "n", "A1", "+", "n", "B1", "p3", "-LRB-", "t", "R", "+", "T", "0", "+", "t", "ss", "+", "t", "A3", "-RRB-", "+", "p2", "-LRB-", "t", "R", "+", "t", "A2", "-RRB-", "+", "p1", "t", "A1", "+", "t", "B1", "-LRB-", "19", "-RRB-", "If", "any", "of", "t", "are", "less", "than", "0", ",", "those", "respective", "epochs", "do", "not", "occur", "and", "we", "can", "use", "the", "above", "equation", "while", "setting", "the", "respective", "n", ",", "t", "to", "zero", ".", "In", "this", "paper", ",", "we", "infer", "parameters", "such", "as", "p1", ",", "p2", ",", "p3", ",", "W", "f", ",", "and", "T", "0", "from", "the", "traces", ".", "Models", "such", "as", "-LSB-", "19", "-RSB-", "also", "infer", "the", "loss", "probability", ",", "round", "trip", "time", ",", "and", "timeout", "durations", "from", "traces", ".", "Table", "1", "lists", "the", "various", "parameters", "used", "by", "the", "different", "models", "for", "simulations", "with", "rate", "and", "delay", "variability", ".", "We", "use", "a", "packet", "size", "of", "1000", "bytes", ",", "a", "buffer", "of", "10", "which", "represents", "the", "product", "of", "the", "average", "bandwidth", "times", "average", "delay", "and", "we", "ensure", "that", "the", "source", "is", "not", "window", "limited", ".", "T", "D", "and", "T", "O", "denote", "the", "number", "of", "loss", "events", "that", "are", "of", "the", "triple", "duplicate", "and", "timeout", "type", "respectively", "and", "these", "values", "are", "used", "by", "models", "in", "-LSB-", "19", "-RSB-", "and", "-LSB-", "17", "-RSB-", ".", "The", "simulation", "3", "using", "analysis", "similar", "to", "-LSB-", "14", "-RSB-", "and", "assuming", "adequate", "buffer", "so", "that", "there", "is", "no", "loss", "in", "slow", "start", ".", "75", "Item", "Rate", "-LRB-", "Kb/s", "-RRB-", "Delay", "-LRB-", "ms", "-RRB-", "pkts", "TD", "TO", "T", "0", "rtt", "p1", "p2", "W", "f", "^", "T", "^", "1", "200", "400", "89713", "401", "1", "1.76", "616.2", "0.998", "0.000", "22.00", "440", "25.0", "2", "200", "380", "+", "e", "-LRB-", "20", "-RRB-", "83426", "498", "1", "1.71", "579.3", "0.639", "0.357", "21.38", "442", "25.0", "3", "200", "350", "+", "e", "-LRB-", "50", "-RRB-", "78827", "489", "12", "1.79", "595.8", "0.599", "0.367", "21.24", "461", "25.0", "4", "200", "300", "+", "e", "-LRB-", "100", "-RRB-", "58348", "496", "114", "1.92", "606.0", "0.339", "0.279", "18.95", "517", "25.0", "5", "u", "-LRB-", "200,20", "-RRB-", "400", "82180", "504", "1", "1.75", "578.1", "0.535", "0.460", "21.61", "400", "24.74", "6", "u", "-LRB-", "200,50", "-RRB-", "400", "74840", "517", "29", "1.80", "579.9", "0.510", "0.403", "20.52", "400", "23.34", "7", "u", "-LRB-", "200,75", "-RRB-", "400", "62674", "516", "81", "1.86", "585.9", "0.398", "0.348", "19.05", "400", "20.93", "8", "u", "-LRB-", "200,50", "-RRB-", "350", "+", "e", "-LRB-", "50", "-RRB-", "70489", "507", "43", "1.81", "595.7", "0.496", "0.377", "20.15", "459", "23.34", "9", "u", "-LRB-", "200,75", "-RRB-", "300", "+", "e", "-LRB-", "100", "-RRB-", "53357", "497", "93", "2.03", "635.7", "0.404", "0.298", "17.78", "511", "20.93", "Table", "1", ":", "Simulation", "and", "Model", "parameters", "Item", "Simulator", "Goodput", "Model", "1", "-LSB-", "19", "-RSB-", "-LRB-", "accu", ".", "-RRB-", "Model", "2", "-LSB-", "17", "-RSB-", "-LRB-", "accu", ".", "-RRB-", "Model", "3", "-LSB-", "Eqn", ".", "19", "-RSB-", "-LRB-", "accu", ".", "-RRB-", "1", "199.8", "228.5", "-LRB-", "0.86", "-RRB-", "201.9", "-LRB-", "0.99", "-RRB-", "199.8", "-LRB-", "1.0", "-RRB-", "2", "185.4", "208.0", "-LRB-", "0.88", "-RRB-", "186.0", "-LRB-", "1.0", "-RRB-", "186.0", "-LRB-", "1.0", "-RRB-", "3", "175.1", "195.5", "-LRB-", "0.88", "-RRB-", "177.2", "-LRB-", "0.99", "-RRB-", "180.9", "-LRB-", "0.97", "-RRB-", "4", "129.4", "145.3", "-LRB-", "0.88", "-RRB-", "153.7", "-LRB-", "0.81", "-RRB-", "137.0", "-LRB-", "0.94", "-RRB-", "5", "182.5", "205.2", "-LRB-", "0.88", "-RRB-", "184.6", "-LRB-", "0.99", "-RRB-", "181.3", "-LRB-", "0.99", "-RRB-", "6", "166.2", "186.0", "-LRB-", "0.88", "-RRB-", "174.6", "-LRB-", "0.95", "-RRB-", "165.2", "-LRB-", "0.99", "-RRB-", "7", "139.2", "158.4", "-LRB-", "0.86", "-RRB-", "163.4", "-LRB-", "0.83", "-RRB-", "137.2", "-LRB-", "0.99", "-RRB-", "8", "156.5", "174.6", "-LRB-", "0.88", "-RRB-", "166.5", "-LRB-", "0.94", "-RRB-", "160.2", "-LRB-", "0.97", "-RRB-", "9", "118.4", "134.0", "-LRB-", "0.87", "-RRB-", "142.6", "-LRB-", "0.80", "-RRB-", "125.0", "-LRB-", "0.94", "-RRB-", "Table", "2", ":", "Simulation", "and", "Model", "throughput", "values", "is", "run", "for", "3600", "seconds", ".", "We", "simulate", "delay", "and", "rate", "variability", "with", "exponential", "and", "uniform", "distributions", "respectively", "-LRB-", "u", "-LRB-", "a", ",", "b", "-RRB-", "in", "the", "table", "represents", "uniform", "distribution", "with", "mean", "a", "and", "standard", "deviation", "b", "while", "e", "-LRB-", "a", "-RRB-", "represents", "an", "exponential", "distribution", "with", "mean", "a", "-RRB-", ".", "The", "details", "of", "the", "simulation", "are", "presented", "in", "Section", "6", ".", "Table", "2", "compares", "the", "throughput", "of", "simulation", "of", "different", "distributions", "for", "rate", "and", "delay", "variability", "at", "the", "server", "and", "the", "throughput", "predicted", "by", "the", "exact", "equation", "of", "the", "model", "in", "-LSB-", "19", "-RSB-", ",", "the", "Poisson", "model", "in", "-LSB-", "17", "-RSB-", "and", "by", "equation", "19", ".", "The", "accuracy", "of", "the", "prediction", ",", "defined", "as", "1", "minus", "the", "ratio", "of", "the", "difference", "between", "the", "model", "and", "simulation", "throughput", "value", "over", "the", "simulation", "throughput", "value", ",", "is", "listed", "in", "the", "parenthesis", ".", "As", "the", "last", "column", "shows", ",", "the", "match", "between", "our", "model", "and", "simulation", "is", "extremely", "accurate", "when", "the", "delay/rate", "variation", "is", "small", "and", "the", "match", "is", "still", "well", "over", "90", "%", "even", "when", "the", "variation", "is", "large", ".", "The", "Poisson", "loss", "model", "used", "in", "-LSB-", "17", "-RSB-", "performs", "very", "well", "when", "the", "variability", "is", "low", "but", ",", "understandably", ",", "does", "not", "predict", "well", "when", "variability", "increases", ".", "The", "deterministic", "loss", "model", "seems", "to", "consistently", "overestimate", "the", "throughput", ".", "From", "Table", "1", ",", "one", "can", "clearly", "see", "the", "impact", "of", "delay", "and", "rate", "variability", ".", "As", "the", "variability", "increases", ",", "the", "probability", "of", "double", "loss", ",", "p2", ",", "and", "three", "or", "more", "losses", ",", "p3", "=", "-LRB-", "1-p2-p1", "-RRB-", ",", "start", "increasing", "while", "the", "goodput", "of", "the", "TCP", "flow", "starts", "decreasing", ".", "For", "example", ",", "comparing", "case", "1", "to", "case", "4", ",", "p1", "decreases", "from", "0.998", "to", "0.339", "while", "p3", "increases", ".", "Increases", "in", "p2", "and", "p3", "come", "about", "because", "when", "the", "product", "^", "T", "^", "decreases", ",", "a", "pipe", "that", "used", "to", "accommodate", "more", "packets", "suddenly", "becomes", "smaller", "causing", "additional", "packet", "losses", ".", "Given", "that", "n", "A1", "/", "t", "A1", ">", "n", "A2", "/", "-LRB-", "t", "R", "+", "t", "A2", "-RRB-", ">", "-LRB-", "n", "ss", "+", "n", "A3", "-RRB-", "/", "-LRB-", "t", "R", "+", "T", "0", "+", "t", "ss", "+", "t", "A3", "-RRB-", ",", "any", "solution", "that", "improves", "TCP", "performance", "must", "reduce", "the", "occurrence", "of", "multiple", "packet", "losses", ",", "p2", "and", "p3", ".", "We", "present", "a", "solution", "that", "tries", "to", "achieve", "this", "in", "the", "next", "section", ".", "In", "this", "section", ",", "we", "present", "our", "network-based", "solution", "for", "improving", "TCP", "performance", "in", "the", "presence", "of", "varying", "bandwidth", "and", "delay", ".", "The", "solution", "is", "designed", "for", "improving", "the", "performance", "of", "TCP", "flows", "towards", "the", "mobile", "host", "-LRB-", "for", "downloading-type", "applications", "-RRB-", "since", "links", "like", "HDR", "are", "designed", "for", "such", "applications", ".", "The", "solution", "is", "implemented", "at", "the", "wireless", "edge", ",", "specifically", "at", "the", "RNC", ",", "at", "the", "layer", "just", "above", "RLP/RLC", ".", "Note", "that", ",", "in", "order", "to", "implement", "the", "standard-based", "RLP/RLC", ",", "the", "RNC", "already", "needs", "to", "maintain", "a", "per-user", "queue", ".", "Our", "solution", "requires", "a", "per-TCP-flow", "queue", ",", "which", "should", "not", "result", "in", "significant", "additional", "overhead", "given", "the", "low", "bandwidth", "nature", "of", "the", "wireless", "environment", ".", "We", "also", "assume", "that", "the", "data", "and", "ack", "packets", "go", "through", "the", "same", "RNC", ";", "this", "is", "true", "in", "the", "case", "of", "3G", "networks", "where", "the", "TCP", "flow", "is", "anchored", "at", "the", "RNC", "because", "of", "the", "presence", "of", "soft", "handoff", "and", "RLP", ".", "We", "desire", "a", "solution", "that", "is", "simple", "to", "implement", "and", "remains", "robust", "across", "different", "implementations", "of", "TCP", ".", "To", "this", "end", ",", "we", "focus", "only", "on", "the", "congestion", "avoidance", "phase", "of", "TCP", "and", "aim", "to", "achieve", "the", "classic", "saw-tooth", "congestion", "window", "behavior", "even", "in", "the", "presence", "of", "varying", "rates", "and", "delays", "by", "controlling", "the", "buffer", "overflow", "process", "in", "the", "bottleneck", "link", ".", "We", "also", "assume", "for", "this", "discussion", "that", "every", "packet", "is", "acknowledged", "-LRB-", "the", "discussion", "can", "be", "easily", "modified", "to", "account", "for", "delayed", "acks", "where", "single", "ack", "packets", "acknowledge", "multiple", "data", "packets", "-RRB-", ".", "Our", "solution", "is", "called", "the", "Ack", "Regulator", "since", "it", "regulates", "the", "flow", "of", "acks", "back", "to", "the", "TCP", "source", ".", "The", "intuition", "behind", "the", "regulation", "algorithm", "is", "to", "avoid", "any", "buffer", "overflow", "loss", "until", "the", "congestion", "window", "at", "the", "TCP", "source", "reaches", "a", "pre-determined", "threshold", "and", "beyond", "that", ",", "allow", "only", "a", "single", "buffer", "overflow", "loss", ".", "This", "ensures", "that", "the", "TCP", "source", "operates", "mainly", "in", "the", "congestion", "avoidance", "phase", "with", "congestion", "window", "exhibiting", "the", "classic", "saw-tooth", "behavior", ".", "Before", "we", "present", "our", "solution", ",", "we", "describe", "two", "variables", "that", "will", "aid", "in", "the", "presentation", "of", "our", "solution", ".", "ConservativeMode", ":", "Mode", "of", "operation", "during", "which", "76", "DataSeqNoLast", "-LRB-", "DL", "-RRB-", ":", "Largest", "Sequence", "#", "of", "Last", "Data", "Packet", "Received", "DataSeqNoFirst", "-LRB-", "DF", "-RRB-", ":", "Largest", "Sequence", "#", "of", "Last", "Data", "Packet", "Sent", "AckSeqNoLast", "-LRB-", "AL", "-RRB-", ":", "Largest", "Sequence", "#", "of", "Last", "Ack", "Packet", "Received", "AckSeqNoFirst", "-LRB-", "AF", "-RRB-", ":", "Largest", "Sequence", "#", "of", "Last", "Ack", "Packet", "Sent", "DL", "DF", "AF", "AL", "Per-Flow", "Data", "and", "Ack", "Queue", "on", "RNC", "Wireless", "Network", "Wireline", "Network", "Data", "Queue", "Ack", "Queue", "QueueLength", "QueueLim", "Figure", "6", ":", "Ack", "Regulator", "Implementation", "each", "time", "an", "ack", "is", "sent", "back", "towards", "the", "TCP", "source", ",", "there", "is", "buffer", "space", "for", "at", "least", "two", "data", "packets", "from", "the", "source", ".", "Note", "that", "if", "TCP", "operates", "in", "the", "congestion", "avoidance", "phase", ",", "there", "would", "be", "no", "buffer", "overflow", "loss", "as", "long", "as", "the", "algorithm", "operates", "in", "conservative", "mode", ".", "This", "follows", "from", "the", "fact", "that", ",", "during", "congestion", "avoidance", "phase", ",", "TCP", "increases", "its", "window", "size", "by", "at", "most", "one", "on", "reception", "of", "an", "ack", ".", "This", "implies", "that", "on", "reception", "of", "an", "ack", ",", "TCP", "source", "sends", "either", "one", "packet", "-LRB-", "no", "window", "increase", "-RRB-", "or", "two", "packets", "-LRB-", "window", "increase", "-RRB-", ".", "Therefore", ",", "if", "there", "is", "space", "for", "at", "least", "two", "packets", "in", "the", "buffer", "at", "the", "time", "of", "an", "ack", "being", "sent", "back", ",", "there", "can", "be", "no", "packet", "loss", ".", "AckReleaseCount", ":", "The", "sum", "of", "total", "number", "of", "acks", "sent", "back", "towards", "the", "source", "and", "the", "total", "number", "of", "data", "packets", "from", "the", "source", "in", "transit", "towards", "the", "RNC", "due", "to", "previous", "acks", "released", ",", "assuming", "TCP", "source", "window", "is", "constant", ".", "AckReleaseCount", "represents", "the", "number", "of", "packets", "that", "can", "be", "expected", "to", "arrive", "in", "the", "buffer", "at", "the", "RNC", "assuming", "that", "the", "source", "window", "size", "remains", "constant", ".", "Thus", ",", "buffer", "space", "equal", "to", "AckReleaseCount", "must", "be", "reserved", "whenever", "a", "new", "ack", "is", "sent", "back", "to", "the", "source", "if", "buffer", "overflow", "is", "to", "be", "avoided", ".", "On", "Enque", "of", "Ack/Deque", "of", "data", "packet", ":", "1", ".", "AcksSent", "=", "0", ";", "2", ".", "BufferAvail", "=", "QueueLim-QueueLength", ";", "3", ".", "BufferAvail", "-", "=", "-LRB-", "AckReleaseCount", "+", "ConservativeMode", "-RRB-", ";", "4", ".", "if", "-LRB-", "BufferAvail", ">", "=", "1", "-RRB-", "5", ".", "if", "-LRB-", "AckSeqNoLast-AckSeqNoFirst", "<", "BufferAvail", "-RRB-", "5.1", "AcksSent", "+", "=", "-LRB-", "AckSeqNoLast-AckSeqNoFirst", "-RRB-", ";", "5.2", "AckSeqNoFirst", "=", "AckSeqNoLast", ";", "else", "5.3", "AckSeqNoFirst", "+", "=", "BufferAvail", ";", "5.4", "AcksSent", "+", "=", "BufferAvail", ";", "5.5", "Send", "acks", "up", "to", "AckSeqNoFirst", ";", "Figure", "7", ":", "Ack", "Regulator", "processing", "at", "the", "RNC", "Figure", "6", "shows", "the", "data", "and", "ack", "flow", "and", "the", "queue", "variables", "involved", "in", "the", "Ack", "Regulator", "algorithm", ",", "which", "is", "presented", "in", "Figure", "7", ".", "We", "assume", "for", "now", "that", "the", "AckReleaseCount", "and", "ConservativeMode", "variables", "are", "as", "defined", "earlier", ".", "We", "later", "discuss", "how", "these", "variables", "are", "updated", ".", "The", "Ack", "Regulator", "algorithm", "runs", "on", "every", "transmission", "of", "a", "data", "packet", "-LRB-", "deque", "-RRB-", "and", "every", "arrival", "of", "an", "ack", "packet", "-LRB-", "enque", "-RRB-", ".", "The", "instantaneous", "buffer", "availability", "in", "the", "data", "queue", "is", "maintained", "by", "the", "BufferAvail", "variable", "-LRB-", "line", "2", "-RRB-", ".", "BufferAvail", "is", "then", "reduced", "by", "the", "AckReleaseCount", "and", "the", "ConservativeMode", "variables", "-LRB-", "line", "3", "-RRB-", ".", "Depending", "on", "the", "value", "of", "the", "ConservativeMode", "variable", "-LRB-", "1", "or", "0", "-RRB-", ",", "the", "algorithm", "operates", "in", "two", "modes", ",", "a", "conservative", "mode", "or", "a", "non-conservative", ",", "respectively", ".", "In", "the", "conservative", "mode", ",", "an", "extra", "buffer", "space", "is", "reserved", "in", "the", "data", "queue", "to", "ensure", "that", "there", "is", "no", "loss", "even", "if", "TCP", "congestion", "window", "is", "increased", "by", "1", ",", "while", ",", "in", "the", "non-conservative", "mode", ",", "a", "single", "packet", "loss", "occurs", "if", "TCP", "increases", "its", "congestion", "window", "by", "1", ".", "Now", ",", "after", "taking", "AckReleaseCount", "and", "ConservativeMode", "variables", "into", "account", ",", "if", "there", "is", "at", "least", "one", "buffer", "space", "available", "-LRB-", "line", "4", "-RRB-", "and", ",", "if", "the", "number", "of", "acks", "present", "in", "the", "ack", "queue", "-LRB-", "AckSeqNoLast", "-", "AckSeqNoFirst", "-RRB-", "is", "lesser", "than", "BufferAvail", ",", "all", "those", "acks", "are", "sent", "to", "the", "source", "-LRB-", "lines", "5.1,5.2", "-RRB-", ";", "otherwise", "only", "BufferAvail", "number", "of", "acks", "are", "sent", "to", "the", "source", "-LRB-", "lines", "5.3,5.4", "-RRB-", ".", "Note", "that", "the", "actual", "transmission", "of", "acks", "-LRB-", "line", "5.5", "-RRB-", "is", "not", "presented", "here", ".", "The", "transmission", "of", "AcksSent", "acks", "can", "be", "performed", "one", "ack", "at", "a", "time", "or", "acks", "can", "be", "bunched", "together", "due", "to", "the", "cumulative", "nature", "of", "TCP", "acks", ".", "However", ",", "care", "must", "be", "taken", "to", "preserve", "the", "duplicate", "acks", "since", "the", "TCP", "source", "relies", "on", "the", "number", "of", "duplicate", "acks", "to", "adjust", "its", "congestion", "window", ".", "Also", ",", "whenever", "three", "or", "more", "duplicate", "acks", "are", "sent", "back", ",", "it", "is", "important", "that", "one", "extra", "buffer", "space", "be", "reserved", "to", "account", "for", "the", "fast", "retransmission", "algorithm", ".", "Additional", "buffer", "reservations", "of", "two", "packets", "to", "account", "for", "the", "Limited", "Transmit", "algorithm", "-LSB-", "12", "-RSB-", "can", "also", "be", "provided", "for", ",", "if", "necessary", ".", "1", ".", "Initialize", "ConservativeMode", "=", "1", ";", "=", "2", "2", ".", "On", "Enque", "of", "ack", "packet", ":", "if", "-LRB-", "-LRB-", "DataSeqNoLast-AckSeqNoFirst", "-RRB-", ">", "*", "QueueLim", "-RRB-", "ConservativeMode", "=", "0", ";", "3", ".", "On", "Enque", "and", "Drop", "of", "data", "packet", ":", "Conservative", "Mode", "=", "1", ";", "4", ".", "On", "Enque/Deque", "of", "data", "packet", ":", "if", "-LRB-", "-LRB-", "-LRB-", "DataSeqNoLast-AckSeqNoFirst", "-RRB-", "<", "*", "QueueLim/2", "-RRB-", "OR", "-LRB-", "DataQueueLength", "==", "0", "-RRB-", "-RRB-", "ConservativeMode", "=", "1", ";", "Figure", "8", ":", "ConservativeMode", "updates", "We", "now", "present", "the", "algorithm", "-LRB-", "Figure", "8", "-RRB-", "for", "updating", "the", "ConservativeMode", "variable", "which", "controls", "the", "switching", "of", "the", "Ack", "Regulator", "algorithm", "between", "the", "conservative", "and", "the", "non-conservative", "modes", ".", "The", "algorithm", "starts", "in", "conservative", "mode", "-LRB-", "line", "1", "-RRB-", ".", "Whenever", "a", "targeted", "TCP", "window", "size", "is", "reached", "-LRB-", "in", "this", "case", ",", "2", "*", "QueueLim", "-RRB-", ",", "the", "algorithm", "is", "switched", "into", "non-conservative", "mode", "-LRB-", "line", "2", "-RRB-", ".", "TCP", "Window", "Size", "is", "approximated", "here", "by", "the", "difference", "between", "the", "largest", "sequence", "number", "in", "the", "data", "queue", "and", "the", "sequence", "number", "in", "the", "ack", "queue", ".", "This", "is", "a", "reasonable", "approximation", "in", "our", "case", "since", "the", "wireless", "link", "is", "likely", "the", "bottleneck", "and", "most", "-LRB-", "if", "not", "all", "-RRB-", "of", "the", "queuing", "is", "done", "at", "the", "RNC", ".", "When", "operating", "in", "the", "non-conservative", "mode", ",", "no", "additional", "buffer", "space", "is", "reserved", ".", "This", "implies", "that", "there", "will", "be", "single", "loss", "the", "next", "time", "the", "TCP", "source", "increases", "it", "window", "size", ".", "At", "the", "detection", "of", "the", "packet", "loss", ",", "the", "algorithm", "again", "switches", "back", "to", "the", "conservative", "mode", "-LRB-", "line", "3", "-RRB-", ".", "This", "ensures", "that", "losses", "are", "of", "the", "single", "loss", "variety", "as", "long", "as", "the", "estimate", "of", "AckReleaseCount", "is", "conservative", ".", "Line", "4", "in", "the", "algorithm", "results", "in", "a", "switch", "back", "into", "conservative", "mode", "77", "whenever", "the", "data", "queue", "length", "goes", "to", "zero", "or", "whenever", "the", "TCP", "window", "size", "is", "halved", ".", "This", "handles", "the", "case", "when", "TCP", "reacts", "to", "losses", "elsewhere", "in", "the", "network", "and", "the", "Ack", "Regulator", "can", "go", "back", "to", "being", "conservative", ".", "Note", "that", ",", "if", "the", "TCP", "source", "is", "ECN", "capable", ",", "instead", "of", "switching", "to", "non-conservative", "mode", ",", "the", "Ack", "Regulator", "can", "simply", "mark", "the", "ECN", "bit", "to", "signal", "the", "source", "to", "reduce", "its", "congestion", "window", ",", "resulting", "in", "no", "packet", "loss", ".", "1", ".", "Initialize", "AckReleaseCount", "=", "0", ";", "2", ".", "On", "Enque", "of", "Ack/Deque", "of", "data", "packet", ":", "-LRB-", "after", "processing", "in", "Fig", "7", "-RRB-", "AckReleaseCount", "+", "=", "AcksSent", ";", "3", ".", "On", "Enque", "of", "data", "packet", ":", "if", "-LRB-", "AckReleaseCount", ">", "0", "-RRB-", "AckReleaseCount", ";", "4", ".", "On", "Deque", "of", "data", "packet", ":", "if", "-LRB-", "DataQueueLength", "==", "0", "-RRB-", "AckReleaseCount", "=", "0", ";", "Figure", "9", ":", "AckReleaseCount", "updates", "We", "finally", "present", "the", "algorithm", "for", "updating", "the", "AckReleaseCount", "variable", "in", "Figure", "9", ".", "Since", "AckReleaseCount", "estimates", "the", "expected", "number", "of", "data", "packets", "that", "are", "arriving", "and", "reserves", "buffer", "space", "for", "them", ",", "it", "is", "important", "to", "get", "an", "accurate", "estimate", ".", "An", "overestimate", "of", "AckReleaseCount", "would", "result", "in", "unnecessary", "reservation", "of", "buffers", "that", "wo", "n't", "be", "occupied", ",", "while", "an", "underestimate", "of", "AckReleaseCount", "can", "lead", "to", "buffer", "overflow", "loss", "-LRB-", "es", "-RRB-", "even", "in", "conservative", "mode", "due", "to", "inadequate", "reservation", ".", "With", "the", "knowledge", "of", "the", "exact", "version", "of", "the", "TCP", "source", "and", "the", "round", "trip", "time", "from", "the", "RNC", "to", "the", "source", ",", "it", "is", "possible", "to", "compute", "an", "exact", "estimate", "of", "AckReleaseCount", ".", "However", ",", "since", "we", "would", "like", "to", "be", "agnostic", "to", "TCP", "version", "as", "far", "as", "possible", "and", "also", "be", "robust", "against", "varying", "round", "trip", "times", "on", "the", "wired", "network", ",", "our", "algorithm", "tries", "to", "maintain", "a", "conservative", "estimate", "of", "AckReleaseCount", ".", "Whenever", "we", "send", "acks", "back", "to", "the", "source", ",", "we", "update", "AckReleaseCount", "by", "that", "many", "acks", "-LRB-", "line", "2", "-RRB-", ".", "Likewise", ",", "whenever", "a", "data", "packet", "arrives", "into", "the", "RNC", "from", "the", "source", ",", "we", "decrement", "the", "variable", "while", "ensuring", "that", "it", "does", "not", "go", "below", "zero", "-LRB-", "line", "3", "-RRB-", ".", "While", "maintaining", "a", "non-negative", "AckReleaseCount", "in", "this", "manner", "avoids", "underestimation", ",", "it", "also", "can", "result", "in", "unbounded", "growth", "of", "AckReleaseCount", "leading", "to", "significant", "overestimation", "as", "errors", "accumulate", ".", "For", "example", ",", "we", "increase", "AckReleaseCount", "whenever", "we", "send", "acks", "back", "to", "the", "source", ";", "however", ",", "if", "TCP", "is", "reducing", "its", "window", "size", "due", "to", "loss", ",", "we", "can", "not", "expect", "any", "data", "packets", "in", "response", "to", "the", "acks", "being", "released", ".", "Thus", ",", "over", "time", ",", "AckReleaseCount", "can", "grow", "in", "an", "unbounded", "manner", ".", "In", "order", "to", "avoid", "this", "scenario", ",", "we", "reset", "AckReleaseCount", "to", "zero", "-LRB-", "line", "4", "-RRB-", "whenever", "the", "data", "queue", "is", "empty", ".", "Thus", ",", "while", "this", "reset", "operation", "is", "necessary", "for", "synchronizing", "the", "real", "and", "estimated", "AckReleaseCount", "after", "a", "loss", ",", "it", "is", "not", "a", "conservative", "mechanism", "in", "general", "since", "a", "AckReleaseCount", "of", "zero", "implies", "that", "no", "buffer", "space", "is", "currently", "reserved", "for", "any", "incoming", "data", "packets", "that", "are", "unaccounted", "for", ".", "However", ",", "by", "doing", "the", "reset", "only", "when", "the", "data", "queue", "is", "empty", ",", "we", "significantly", "reduce", "the", "chance", "of", "the", "unaccounted", "data", "packets", "causing", "a", "buffer", "overflow", "loss", ".", "We", "discuss", "the", "impact", "of", "this", "estimation", "algorithm", "of", "AckReleaseCount", "in", "Section", "6.6", ".", "Finally", ",", "we", "assume", "that", "there", "is", "enough", "buffer", "space", "for", "RNC", "S1", "Sn", "M1", "Mn", "V", "100Mb/s", "1ms", "100Mb/s", "1ms", "L", "Mb/s", "D", "ms", "L", "Mb/s", "D", "ms", "FR", "Mb/s", "FD", "ms", "RR", "Mb/s", "RD", "ms", "Figure", "10", ":", "Simulation", "Topology", "the", "ack", "packets", "in", "the", "RNC", ".", "The", "maximum", "number", "of", "ack", "packets", "is", "the", "maximum", "window", "size", "achieved", "by", "the", "TCP", "flow", "-LRB-", "*", "QueueLim", "in", "our", "algorithm", "-RRB-", ".", "Ack", "packets", "do", "not", "have", "to", "be", "buffered", "as", "is", ",", "since", "storing", "the", "sequence", "numbers", "is", "sufficient", "-LRB-", "however", ",", "care", "should", "be", "taken", "to", "preserve", "duplicate", "ack", "sequence", "numbers", "as", "is", "-RRB-", ".", "Thus", ",", "memory", "requirement", "for", "ack", "storage", "is", "very", "minimal", ".", "In", "this", "section", ",", "we", "present", "detailed", "simulation", "results", "comparing", "the", "performance", "of", "TCP", "Reno", "and", "TCP", "Sack", ",", "in", "the", "presence", "and", "absence", "of", "the", "Ack", "Regulator", ".", "First", ",", "we", "study", "the", "effect", "of", "variable", "bandwidth", "and", "variable", "delay", "using", "different", "distributions", "on", "the", "throughput", "of", "a", "single", "long-lived", "TCP", "flow", ".", "Next", ",", "we", "present", "a", "model", "for", "3G1X-EVDO", "-LRB-", "HDR", "-RRB-", "system", "-LRB-", "which", "exhibits", "both", "variable", "rate", "and", "variable", "delay", "-RRB-", ",", "and", "evaluate", "the", "performance", "of", "a", "single", "TCP", "flow", "in", "the", "HDR", "environment", ".", "Then", ",", "we", "present", "the", "performance", "of", "multiple", "TCP", "flows", "sharing", "a", "single", "HDR", "wireless", "link", ".", "Finally", ",", "we", "briefly", "discuss", "the", "impact", "of", "different", "parameters", "affecting", "the", "behavior", "of", "Ack", "Regulator", ".", "All", "simulations", "are", "performed", "using", "ns-2", ".", "The", "simulation", "topology", "used", "is", "shown", "in", "Figure", "10", ".", "S", "i", ",", "i", "=", "1", ".", ".", "n", "corresponds", "to", "the", "set", "of", "TCP", "source", "nodes", "sending", "packets", "to", "a", "set", "of", "the", "TCP", "sink", "nodes", "M", "i", ",", "i", "=", "1", ".", ".", "n.", "Each", "set", "of", "S", "i", ",", "M", "i", "nodes", "form", "a", "TCP", "pair", ".", "The", "RNC", "is", "connected", "to", "the", "M", "i", "nodes", "through", "a", "V", "-LRB-", "virtual", "-RRB-", "node", "for", "simulation", "purposes", ".", "L", ",", "the", "bandwidth", "between", "S", "i", "and", "the", "RNC", ",", "is", "set", "to", "100Mb/s", "and", "D", "is", "set", "to", "1ms", "except", "in", "cases", "where", "D", "is", "explicitly", "varied", ".", "The", "forward", "wireless", "channel", "is", "simulated", "as", "having", "rate", "F", "R", "and", "delay", "F", "D", ",", "and", "the", "reverse", "wireless", "channel", "has", "rate", "RR", "and", "delay", "RD.", "Each", "simulation", "run", "lasts", "for", "3600s", "-LRB-", "1", "hr", "-RRB-", "unless", "otherwise", "specified", "and", "all", "simulations", "use", "packet", "size", "of", "1KB", ".", "TCP", "maximum", "window", "size", "is", "set", "to", "500KB", ".", "Using", "such", "a", "large", "window", "size", "ensures", "that", "TCP", "is", "never", "window", "limited", "in", "all", "experiments", "except", "in", "cases", "where", "the", "window", "size", "is", "explicitly", "varied", ".", "6.1", "Variable", "Delay", "In", "this", "section", ",", "the", "effect", "of", "delay", "variation", "is", "illustrated", "by", "varying", "F", "D", ",", "the", "forward", "link", "delay", ".", "Without", "modification", ",", "the", "use", "of", "a", "random", "link", "delay", "in", "the", "simulation", "will", "result", "in", "out-of-order", "packets", "since", "packet", "transmitted", "later", "with", "lower", "delay", "can", "overtake", "packets", "transmitted", "earlier", "with", "higher", "delay", ".", "However", ",", "since", "delay", "variability", "in", "our", "model", "is", "caused", "by", "factors", "that", "will", "not", "result", "in", "packet", "reordering", "-LRB-", "e.g.", "processing", "time", "variation", "-RRB-", "and", "RLP", "delivers", "packet", "in", "sequence", ",", "the", "simulation", "code", "is", "modified", "such", "that", "packets", "can", "not", "reach", "the", "next", "hop", "until", "the", "packet", "transmitted", "earlier", "has", "arrived", ".", "This", "modification", "applies", "to", "all", "simulations", "with", "variable", "link", "delay", ".", "Figure", "11", "-LRB-", "a", "-RRB-", "shows", "throughput", "for", "a", "single", "TCP", "flow", "-LRB-", "n", "=", "1", "-RRB-", "for", "F", "R", "=", "200Kb/s", "and", "RR", "=", "64Kb/s", ".", "F", "D", "has", "an", "ex-78", "100", "120", "140", "160", "180", "200", "20", "30", "40", "50", "60", "70", "80", "90", "100", "TCP", "Throughput", "-LRB-", "kb/s", "-RRB-", "Delay", "Variance", "Reno", "Reno", ",", "w/AR", "Sack", "Sack", ",", "w/AR", "100", "120", "140", "160", "180", "200", "2", "4", "6", "8", "10", "12", "14", "16", "18", "Throughput", "-LRB-", "kb/s", "-RRB-", "Buffer", "Size", "-LRB-", "packet", "-RRB-", "Reno", "Reno", ",", "w/AR", "Sack", "Sack", ",", "w/AR", "BDP", "=", "10", "-LRB-", "a", "-RRB-", "Delay", "Variability", "-LRB-", "b", "-RRB-", "Different", "Buffer", "Size", "Figure", "11", ":", "Throughput", "with", "Variable", "Delay", "e", "-LRB-", "x", "-RRB-", "+400-x", "ponential", "distribution", "with", "a", "mean", "that", "varies", "from", "20ms", "to", "100ms", ",", "and", "RD", "=", "400ms", "-", "mean", "-LRB-", "F", "D", "-RRB-", "so", "that", "average", "F", "D+RD", "is", "maintained", "at", "400ms", ".", "The", "buffer", "size", "on", "the", "bottleneck", "link", "for", "each", "run", "is", "set", "to", "10", ",", "the", "product", "of", "the", "mean", "throughput", "of", "-LRB-", "200Kb/s", "or", "25pkt/s", "-RRB-", "and", "mean", "link", "delay", "-LRB-", "0.4", "s", "-RRB-", ".", "This", "product", "will", "be", "referred", "to", "as", "the", "bandwidth-delay", "product", "-LRB-", "BDP", "-RRB-", "in", "later", "sections", ".", "Additional", "delay", "distributions", "like", "uniform", ",", "normal", ",", "lognormal", ",", "and", "Poisson", "were", "also", "experimented", "with", ".", "Since", "the", "results", "are", "similar", ",", "only", "plots", "for", "an", "exponential", "delay", "distribution", "are", "shown", ".", "As", "expected", ",", "when", "the", "delay", "variation", "increases", ",", "throughput", "decreases", "for", "both", "TCP", "Reno", "and", "TCP", "Sack", ".", "By", "increasing", "the", "delay", "variance", "from", "20", "to", "100", ",", "throughput", "of", "TCP", "Reno", "decreases", "by", "30", "%", "and", "TCP", "Sack", "decreases", "by", "19", "%", ".", "On", "the", "other", "hand", ",", "TCP", "Reno", "and", "TCP", "Sack", "flows", "which", "are", "Ack", "Regulated", "are", "much", "more", "robust", "and", "its", "throughput", "decreases", "by", "only", "8", "%", ".", "Relatively", "to", "one", "another", ",", "Ack", "Regulator", "performs", "up", "to", "43", "%", "better", "than", "TCP", "Reno", "and", "19", "%", "better", "than", "TCP", "Sack", ".", "Another", "interesting", "result", "is", "that", "Ack", "Regulator", "delivers", "the", "same", "throughput", "irrespective", "of", "whether", "the", "TCP", "source", "is", "Reno", "or", "Sack", ".", "This", "is", "understandable", "given", "the", "fact", "that", "the", "Ack", "Regulator", "tries", "to", "ensure", "that", "only", "single", "buffer", "overflow", "loss", "occurs", "and", "in", "this", "regime", ",", "Reno", "and", "Sack", "are", "known", "to", "behave", "similarly", ".", "This", "property", "of", "Ack", "Regulator", "is", "extremely", "useful", "since", "for", "a", "flow", "to", "use", "TCP", "Sack", ",", "both", "the", "sender", "and", "receiver", "needs", "to", "be", "upgraded", ".", "Given", "that", "there", "are", "still", "significant", "number", "of", "web", "servers", "that", "have", "not", "yet", "been", "upgraded", "to", "TCP", "Sack", "-LSB-", "28", "-RSB-", ",", "deployment", "of", "Ack", "Regulator", "would", "ensure", "excellent", "performance", "irrespective", "of", "the", "TCP", "version", "running", ".", "Figure", "11", "-LRB-", "b", "-RRB-", "shows", "how", "throughput", "varies", "with", "buffer", "size", "with", "the", "same", "set", "of", "parameters", "except", "for", "F", "D", ",", "which", "is", "now", "fixed", "with", "a", "mean", "of", "50ms", "-LRB-", "exponentially", "distributed", "-RRB-", ".", "Even", "with", "a", "very", "small", "buffer", "of", "5", "packets", "-LRB-", "0.5", "BDP", "-RRB-", ",", "Ack", "Regulator", "is", "able", "to", "maintain", "a", "throughput", "of", "over", "80", "%", "of", "the", "maximum", "throughput", "of", "200Kb/s", ".", "Thus", ",", "Ack", "Regulator", "delivers", "robust", "throughput", "performance", "across", "different", "buffer", "sizes", ".", "This", "property", "is", "very", "important", "in", "a", "varying", "rate", "and", "delay", "environment", "of", "a", "wireless", "system", ",", "since", "it", "is", "difficult", "to", "size", "the", "system", "with", "an", "optimal", "buffer", "size", ",", "given", "that", "the", "BDP", "also", "varies", "with", "time", ".", "For", "a", "buffer", "of", "4", "packets", ",", "the", "improvement", "over", "TCP", "Reno", "and", "Sack", "is", "about", "50", "%", "and", "24", "%", "respectively", ".", "As", "buffer", "size", "increases", ",", "the", "throughput", "difference", "decreases", ".", "With", "buffer", "size", "close", "to", "20", "packets", "-LRB-", "2", "BDP", "-RRB-", ",", "TCP", "Sack", "performs", "close", "to", "Ack", "Regulated", "flows", ",", "while", "improvement", "over", "TCP", "Reno", "is", "about", "4", "%", ".", "Finally", ",", "in", "Table", "3", ",", "we", "list", "parameter", "values", "from", "the", "simulation", "for", "delay", "variance", "of", "100", ".", "First", ",", "consider", "Reno", "and", "Item", "Rate", ",", "TD", "TO", "p1", "p2", "p3", "W", "f", "Kb/s", "Reno", "129", "496", "114", "0.34", "0.3", "0.38", "19", "Reno", "+", "AR", "184", "302", "8", "0.98", "0.0", "0.02", "24", "Sack", "160", "434", "4", "0.99", "0.0", "0.01", "19", "Sack", "+", "AR", "184", "302", "8", "0.97", "0.0", "0.03", "24", "Table", "3", ":", "Parameters", "from", "simulation", "for", "variance", "=", "100", "140", "150", "160", "170", "180", "190", "200", "0", "10", "20", "30", "40", "50", "60", "70", "80", "Throughput", "-LRB-", "kb/s", "-RRB-", "Rate", "Variance", "Reno", "Reno", ",", "w/AR", "Sack", "Sack", ",", "w/AR", "80", "100", "120", "140", "160", "180", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "Throughput", "-LRB-", "kb/s", "-RRB-", "Buffer", "Size", "-LRB-", "packet", "-RRB-", "Reno", ",", "No", "AR", "Reno", ",", "w/AR", "Sack", ",", "No", "AR", "Sack", ",", "w", "/", "AR", "BDP", "=", "9", "-LRB-", "a", "-RRB-", "Bandwidth", "Variability", "-LRB-", "b", "-RRB-", "Different", "Buffer", "Size", "Figure", "12", ":", "Throughput", "with", "Variable", "Bandwidth", "u", "-LRB-", "200", ",", "x", "-RRB-", "Reno", "with", "Ack", "Regulator", "-LRB-", "first", "two", "rows", "-RRB-", ".", "It", "is", "clear", "that", "Ack", "Regulator", "is", "able", "to", "significantly", "reduce", "the", "conditional", "probability", "of", "multiple", "losses", "p2", "and", "p3", "as", "well", "as", "absolute", "number", "of", "loss", "events", "-LRB-", "T", "D", "and", "T", "O", "-RRB-", "resulting", "in", "substantial", "gains", "over", "Reno", ".", "Next", ",", "consider", "Sack", "and", "Sack", "with", "Ack", "Regulator", "-LRB-", "last", "two", "rows", "-RRB-", ".", "In", "this", "case", ",", "we", "can", "see", "that", "Sack", "is", "very", "effective", "in", "eliminating", "most", "of", "the", "timeout", "occurrences", ".", "However", ",", "Ack", "Regulator", "is", "still", "able", "to", "reduce", "the", "absolute", "number", "of", "loss", "events", "by", "allowing", "the", "congestion", "window", "to", "grow", "to", "higher", "values", "-LRB-", "24", "vs", "19", "-RRB-", ",", "resulting", "in", "throughput", "gains", ".", "6.2", "Variable", "Bandwidth", "In", "this", "section", ",", "we", "vary", "the", "link", "bandwidth", ",", "F", "R.", "Figure", "12", "-LRB-", "a", "-RRB-", "shows", "throughput", "for", "a", "single", "TCP", "flow", ".", "F", "R", "is", "uniformly", "distributed", "with", "a", "mean", "of", "200", "Kb/s", "and", "the", "variance", "is", "varied", "from", "20", "to", "75", ".", "F", "D", "=", "200ms", ",", "RR", "=", "64Kb/s", "and", "RD", "=", "200ms", ".", "The", "buffer", "size", "on", "the", "bottleneck", "link", "for", "each", "run", "is", "10", ".", "Again", ",", "we", "have", "experimented", "with", "other", "bandwidth", "distributions", ",", "but", ",", "due", "to", "lack", "of", "space", ",", "only", "uniform", "distribution", "is", "shown", ".", "Note", "that", ",", "with", "variable", "rate", ",", "the", "maximum", "throughput", "achievable", "is", "different", "from", "the", "mean", "rate", ".", "For", "uniform", "distribution", ",", "a", "simple", "closed", "form", "formula", "for", "the", "throughput", "is", "simply", "1", "/", "b", "a", "1/xdx", "=", "1", "/", "-LRB-", "ln", "b-ln", "a", "-RRB-", "where", "b", "is", "the", "maximum", "rate", "and", "a", "is", "the", "minimum", "rate", ".", "When", "the", "rate", "variance", "increases", ",", "throughput", "of", "TCP", "Reno", "decreases", "as", "expected", ".", "Compared", "to", "TCP", "Reno", ",", "Ack", "Regulator", "improves", "the", "throughput", "by", "up", "to", "15", "%", ".", "However", ",", "TCP", "Sack", "performs", "very", "well", "and", "has", "almost", "the", "same", "throughput", "as", "Ack", "Regulated", "flows", ".", "Based", "on", "the", "calculations", "for", "maximum", "throughput", "discussed", "before", ",", "it", "can", "be", "shown", "that", "all", "flows", "except", "Reno", "achieve", "maximum", "throughput", ".", "This", "shows", "that", "if", "rate", "variation", "is", "not", "large", "enough", ",", "TCP", "Sack", "is", "able", "to", "handle", "the", "variability", ".", "However", ",", "for", "very", "large", "rate", "variations", "-LRB-", "e.g.", "rate", "with", "lognormal", "distribution", "and", "a", "large", "variance", "-RRB-", ",", "the", "performance", "of", "TCP", "Sack", "is", "worse", "than", "when", "Ack", "Regulator", "is", "present", ".", "Figure", "12", "-LRB-", "b", "-RRB-", "shows", "how", "the", "throughput", "varies", "with", "buffer", "size", ".", "Note", "that", "with", "a", "lower", "throughput", ",", "bandwidth", "delay", "product", "is", "smaller", "than", "10", "packets", ".", "Again", ",", "Ack", "Regulated", "79", "140", "145", "150", "155", "160", "165", "170", "175", "180", "185", "190", "6", "8", "10", "12", "14", "16", "18", "Throughput", "-LRB-", "kb/s", "-RRB-", "Buffer", "Size", "-LRB-", "packet", "-RRB-", "Reno", ",", "No", "AR", "Reno", ",", "w/AR", "Sack", ",", "No", "AR", "Sack", ",", "w", "/", "AR", "BDP", "=", "9", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "1.1", "1.2", "1.3", "6", "8", "10", "12", "14", "16", "18", "RTT", "-LRB-", "sec", "-RRB-", "Buffer", "Size", "-LRB-", "packet", "-RRB-", "Reno", ",", "No", "AR", "Reno", ",", "w/AR", "Sack", ",", "No", "AR", "Sack", ",", "w", "/", "AR", "BDP", "=", "9", "-LRB-", "a", "-RRB-", "Throughput", "vs", "Buffer", "Size", "-LRB-", "b", "-RRB-", "rtt", "vs", "Buffer", "Size", "Figure", "13", ":", "Throughput", "and", "rtt", "for", "u", "-LRB-", "200,50", "-RRB-", ",350", "+", "e", "-LRB-", "50", "-RRB-", "TCP", "flows", "perform", "particularly", "well", "when", "the", "buffer", "size", "is", "small", ".", "With", "buffer", "size", "of", "5", ",", "the", "improvement", "over", "TCP", "Sack", "is", "40", "%", ".", "6.3", "Variable", "Delay", "and", "Bandwidth", "In", "this", "section", ",", "we", "vary", "both", "the", "bandwidth", "and", "delay", "of", "the", "wireless", "link", ".", "F", "R", "is", "uniformly", "distributed", "with", "a", "mean", "of", "200", "Kb/s", "and", "variance", "of", "50", ",", "DR", "is", "exponentially", "distributed", "with", "a", "mean", "of", "50ms", ",", "RR", "=", "64Kb/s", "and", "RD", "=", "350ms", ".", "The", "maximum", "achievable", "throughput", "is", "186.7", "Kb/s", ".", "The", "BDP", "is", "therefore", "about", "9", "packets", ".", "Figure", "13", "-LRB-", "a", "-RRB-", "shows", "the", "throughput", "for", "a", "single", "TCP", "flow", "with", "the", "buffer", "size", "ranging", "from", "7", "to", "20", ".", "The", "combination", "of", "variable", "rate", "and", "delay", "has", "a", "large", "negative", "impact", "on", "the", "performance", "of", "TCP", "Reno", "and", "it", "is", "only", "able", "to", "achieve", "70", "%", "to", "80", "%", "of", "the", "bandwidth", "of", "Ack", "Regulated", "flows", "when", "the", "buffer", "size", "is", "6", "packets", ".", "Even", "with", "a", "buffer", "size", "of", "18", "packets", ",", "the", "throughput", "difference", "is", "more", "than", "5", "%", ".", "Throughput", "of", "TCP", "Sack", "is", "about", "5", "%", "to", "10", "%", "lower", "than", "Ack", "Regulator", ",", "until", "the", "buffer", "size", "reaches", "18", "packets", "-LRB-", "about", "2", "BDP", "-RRB-", ".", "One", "of", "the", "cost", "of", "using", "the", "Ack", "Regulator", "is", "the", "increase", "in", "average", "round", "trip", "time", "-LRB-", "rtt", "-RRB-", ".", "The", "average", "rtt", "values", "for", "all", "4", "types", "of", "flows", "are", "shown", "in", "13", "-LRB-", "b", "-RRB-", "for", "different", "buffer", "sizes", ".", "TCP", "Reno", "has", "the", "lowest", "rtt", "followed", "by", "TCP", "Sack", "and", "the", "rate", "of", "rtt", "increase", "with", "buffer", "size", "is", "comparable", ".", "With", "Ack", "Regulator", ",", "rtt", "increase", "is", "comparable", "with", "unreg-ulated", "flows", "for", "buffer", "size", "less", "than", "9", "-LRB-", "1", "BDP", "-RRB-", ".", "For", "larger", "buffer", "sizes", ",", "since", "Ack", "Regulator", "uses", "=", "2", "times", "buffer", "size", "to", "regulate", "the", "acks", "in", "conservative", "mode", ",", "rtt", "increases", "faster", "with", "buffer", "size", "than", "regular", "TCP", ",", "where", "only", "the", "data", "packet", "buffer", "size", "contributes", "to", "rtt", ".", "For", "example", ",", "with", "buffer", "size", "of", "9", ",", "Ack", "Regulated", "flows", "have", "a", "rtt", "15", "%", "larger", "and", "with", "buffer", "size", "of", "18", ",", "the", "rtt", "is", "48", "%", "larger", "compared", "to", "TCP", "Sack", ".", "This", "effect", "can", "be", "controlled", "by", "varying", "the", "parameter", "of", "the", "Ack", "Regulator", ".", "6.4", "Simulation", "with", "High", "Data", "Rate", "High", "Data", "Rate", "-LRB-", "HDR", "-RRB-", "-LSB-", "6", "-RSB-", "is", "a", "Qualcomm", "proposed", "CDMA", "air", "interface", "standard", "-LRB-", "3G1x-EVDO", "-RRB-", "for", "supporting", "high", "speed", "asymmetrical", "data", "services", ".", "One", "of", "the", "main", "ideas", "behind", "HDR", "is", "the", "use", "of", "channel-state", "based", "scheduling", "which", "transmits", "packets", "to", "the", "user", "with", "the", "best", "signal-to-noise", "ratio", ".", "The", "actual", "rate", "available", "to", "the", "selected", "user", "depends", "on", "the", "current", "signal-to-noise", "ratio", "experienced", "by", "the", "user", ".", "The", "higher", "the", "ratio", ",", "the", "higher", "the", "rate", "available", "to", "the", "user", ".", "In", "addition", ",", "in", "order", "to", "provide", "some", "form", "of", "fairness", ",", "a", "Proportional", "Fair", "scheduler", "is", "used", "which", "provides", "long-term", "fairness", "to", "flows", "from", "different", "users", ".", "We", "use", "Qualcomm", "'s", "Proportional", "Fair", "scheduler", "in", "our", "simulation", "with", "an", "averaging", "window", "of", "1000", "time", "slots", ",", "where", "each", "Rate", "-LRB-", "Kb/s", "-RRB-", "Prob", ".", "Rate", "-LRB-", "Kb/s", "-RRB-", "Prob", ".", "38.4", "0.033", "614.4", "0.172", "76.8", "0.015", "921.6", "0.145", "102.6", "0.043", "1228.8", "0.260", "153.6", "0.023", "1843.2", "0.042", "204.8", "0.060", "2457.6", "0.011", "307.2", "0.168", "Table", "4", ":", "HDR", "Data", "Rates", "for", "a", "one", "user", "system", "250", "300", "350", "400", "450", "500", "550", "600", "0", "5", "10", "15", "20", "25", "30", "35", "40", "Throughput", "-LRB-", "Kb/s", "-RRB-", "Buffer", "Size", "-LRB-", "packet", "-RRB-", "Reno", ",", "No", "AR", "Reno", ",", "w/AR", "Sack", ",", "No", "AR", "Sack", ",", "w", "/", "AR", "BDP", "=", "15", "200", "300", "400", "500", "600", "700", "800", "0", "5", "10", "15", "20", "25", "30", "35", "40", "Average", "RTT", "-LRB-", "ms", "-RRB-", "Buffer", "Size", "-LRB-", "Packet", "-RRB-", "Reno", "Reno", ",", "w/AR", "Sack", "Sack", ",", "w/AR", "BDP", "=", "15", "-LRB-", "a", "-RRB-", "Throughput", "-LRB-", "b", "-RRB-", "rtt", "Figure", "14", ":", "Throughput/rtt", "with", "HDR", ",", "Single", "Flow", "slot", "is", "1.67", "ms.", "While", "the", "HDR", "system", "results", "in", "higher", "raw", "throughput", ",", "the", "rate", "and", "delay", "variation", "seen", "is", "substantial", ".", "In", "this", "section", ",", "we", "model", "a", "simplified", "HDR", "environment", "in", "ns-2", ",", "focusing", "on", "the", "layer", "3", "scheduling", "and", "packet", "fragmentation", ".", "The", "fading", "model", "for", "the", "wireless", "link", "used", "is", "based", "on", "Jake", "'s", "Rayleigh", "fading", "channel", "model", "-LSB-", "25", "-RSB-", ".", "This", "gives", "us", "the", "instantaneous", "signal-to-noise", "ratio", ".", "Using", "Table", "2", "in", "-LSB-", "6", "-RSB-", "which", "lists", "the", "rate", "achievable", "for", "a", "given", "signal-to-noise", "ratio", "assuming", "a", "frame", "error", "rate", "of", "less", "than", "1", "%", ",", "the", "achievable", "bandwidth", "distribution", "-LRB-", "with", "one", "user", "-RRB-", "for", "our", "simulation", "is", "shown", "in", "Table", "4", ".", "The", "simulation", "settings", "are", "as", "follows", ".", "F", "R", "is", "a", "variable", "that", "has", "a", "bandwidth", "distribution", "of", "Table", "4", ",", "due", "to", "the", "variations", "of", "the", "fading", "conditions", "of", "the", "channel", ".", "Based", "on", "the", "guidelines", "from", "-LSB-", "26", "-RSB-", ",", "F", "D", "is", "modeled", "as", "having", "a", "uniform", "distribution", "with", "mean", "75ms", "and", "variance", "30", "and", "RD", "is", "modeled", "as", "having", "a", "uniform", "distribution", "with", "mean", "125ms", "and", "variance", "15", ".", "These", "are", "conservative", "estimates", ".", "We", "expect", "delay", "variations", "in", "actual", "systems", "to", "be", "higher", "-LRB-", "for", "example", ",", "note", "the", "ping", "latencies", "from", "our", "experiment", "in", "Section", "3", "-RRB-", ".", "The", "uplink", "in", "a", "HDR", "system", "is", "circuit-based", "and", "RR", "is", "set", "to", "be", "64Kb/s", ".", "Figure", "14", "-LRB-", "a", "-RRB-", "shows", "how", "throughput", "for", "a", "single", "TCP", "flow", "varies", "with", "buffer", "size", ".", "Assuming", "an", "average", "bandwidth", "of", "600Kb/s", "and", "a", "link", "delay", "of", "200ms", ",", "BDP", "is", "15", "packets", ".", "Again", ",", "the", "performance", "of", "TCP", "Reno", "flows", "that", "are", "Ack", "Regulated", "is", "significantly", "better", "than", "plain", "TCP", "Reno", "over", "the", "range", "of", "buffer", "size", "experimented", ",", "with", "improvements", "from", "4", "%", "to", "25", "%", ".", "TCP", "Sack", "flows", "also", "performs", "worse", "than", "Ack", "Regulated", "flows", "up", "to", "buffer", "size", "of", "20", ".", "The", "improvement", "of", "Ack", "Regulator", "over", "TCP", "Sack", "ranges", "from", "0.5", "%", "to", "18", "%", ".", "As", "mentioned", "earlier", ",", "one", "of", "the", "costs", "of", "using", "the", "Ack", "Regulator", "is", "increase", "in", "average", "rtt", ".", "The", "average", "rtt", "for", "all", "4", "types", "of", "flows", "are", "shown", "in", "14", "-LRB-", "b", "-RRB-", "with", "buffer", "size", "varying", "from", "5", "to", "40", ".", "The", "effect", "is", "similar", "to", "the", "rtt", "variation", "with", "buffer", "size", "seen", "in", "Section", "6.3", ".", "6.5", "Multiple", "TCP", "Flows", "In", "this", "simulation", ",", "the", "number", "of", "flows", "-LRB-", "n", "-RRB-", "sharing", "the", "bottleneck", "link", "is", "increased", "to", "4", "and", "8", ".", "Per-flow", "buffering", "is", "80", "300", "400", "500", "600", "700", "800", "2", "4", "6", "8", "10", "12", "14", "16", "18", "Total", "Throughput", "-LRB-", "Kb/s", "-RRB-", "Per", "Flow", "Buffer", "Size", "-LRB-", "Packet", "-RRB-", "4", "Reno", "Flows", "4", "Reno", "Flows", ",", "w/AR", "4", "Sack", "Flows", "4", "Sack", "Flows", ",", "w/AR", "BDP", "=", "5", "450", "500", "550", "600", "650", "700", "750", "800", "850", "900", "950", "2", "4", "6", "8", "10", "12", "14", "16", "18", "Total", "Throughput", "-LRB-", "kb/s", "-RRB-", "Per", "Flow", "Buffer", "Size", "-LRB-", "Packet", "-RRB-", "8", "Reno", "Flows", "8", "Reno", "Flows", ",", "w/AR", "8", "Sack", "Flows", "8", "Sack", "Flows", ",", "w/AR", "BDP", "=", "3", "-LRB-", "a", "-RRB-", "4", "TCP", "Flows", "-LRB-", "b", "-RRB-", "8", "TCP", "Flows", "Figure", "15", ":", "Throughput", "with", "HDR", ",", "Multiple", "Flows", "provided", "for", "each", "TCP", "flow", ".", "For", "4", "flows", ",", "using", "mean", "rate", "of", "200Kb/s", ",", "1KB", "packet", "and", "rtt", "of", "0.2", "s", ",", "BDP", "is", "5", "packets", "per", "flow", ".", "For", "8", "flows", ",", "using", "mean", "rate", "of", "120Kb/s", ",", "1KB", "packet", "and", "rtt", "of", "0.2", "s", ",", "BDP", "is", "3", "packets", "per", "flow", ".", "As", "the", "number", "of", "TCP", "flows", "increases", ",", "the", "expected", "rate", "and", "delay", "variation", "seen", "by", "individual", "flows", "also", "increases", ".", "Thus", ",", "even", "though", "the", "total", "throughout", "of", "the", "system", "increases", "with", "more", "users", "due", "to", "channel-state", "based", "scheduling", ",", "the", "improvement", "is", "reduced", "by", "the", "channel", "variability", ".", "Figure", "15", "-LRB-", "a", "-RRB-", "shows", "the", "throughput", "for", "4", "TCP", "flows", ".", "The", "improvement", "of", "Ack", "Regulator", "over", "TCP", "Sack", "increases", "compared", "to", "the", "single", "TCP", "case", ".", "For", "example", ",", "the", "gain", "is", "17", "%", "with", "per-flow", "buffer", "size", "of", "5", "-LRB-", "BDP", "-RRB-", ".", "For", "Reno", "the", "gain", "is", "even", "greater", ".", "With", "per-flow", "buffer", "size", "of", "5", ",", "the", "improvement", "is", "33", "%", ".", "Similar", "result", "can", "also", "be", "observed", "for", "the", "case", "of", "8", "TCP", "flows", "as", "shown", "in", "Figure", "15", "-LRB-", "b", "-RRB-", ".", "For", "both", "TCP", "Reno", "and", "Sack", ",", "the", "gain", "is", "about", "31", "%", "and", "29", "%", "respectively", "for", "per-flow", "buffer", "size", "of", "3", ".", "From", "the", "figure", ",", "it", "can", "seen", "that", ",", "for", "TCP", "Sack", "and", "Reno", "to", "achieve", "close", "to", "maximum", "throughput", "without", "Ack", "Regulator", ",", "at", "least", "three", "times", "the", "buffer", "requirements", "of", "Ack", "Regulator", "is", "necessary", "-LRB-", "buffer", "requirements", "for", "acks", "in", "the", "Ack", "Regulator", "is", "negligible", "compared", "to", "the", "1KB", "packet", "buffer", "since", "only", "the", "sequence", "number", "needs", "to", "be", "stored", "for", "the", "acks", "-RRB-", ".", "This", "not", "only", "increases", "the", "cost", "of", "the", "RNC", ",", "which", "needs", "to", "support", "thousands", "of", "active", "flows", ",", "it", "also", "has", "the", "undesirable", "side-effects", "of", "large", "rtt", "'s", "that", "was", "noted", "in", "Section", "3", ".", "With", "multiple", "TCP", "flows", ",", "the", "issue", "of", "throughput", "fairness", "naturally", "arises", ".", "One", "way", "to", "quantify", "how", "bandwidth", "is", "shared", "among", "flows", "is", "to", "use", "the", "fairness", "indexdescribed", "in", "-LSB-", "27", "-RSB-", ".", "This", "indexis", "computed", "as", "the", "ratio", "of", "the", "square", "of", "the", "total", "throughput", "to", "n", "times", "the", "square", "of", "the", "individual", "flow", "throughput", ".", "If", "all", "flows", "get", "the", "same", "allocation", ",", "then", "the", "fairness", "indexis", "1", ".", "As", "the", "differences", "in", "allocation", "increases", ",", "fairness", "decreases", ".", "A", "scheme", "which", "allocates", "bandwidth", "to", "only", "a", "few", "selected", "users", "has", "a", "fairness", "indexnear", "0", ".", "Computation", "of", "this", "indexis", "performed", "for", "all", "multiple", "flows", "simulation", "and", "the", "indexis", "greater", "than", "0.99", "in", "all", "cases", ".", "This", "result", "is", "expected", "since", "with", "per", "flow", "buffering", ",", "and", "proportional", "fair", "scheduling", ",", "the", "long", "term", "throughput", "of", "many", "TCP", "long-lived", "flows", "sharing", "the", "same", "link", "should", "be", "fair", ".", "6.6", "Parameters", "affecting", "the", "performance", "of", "Ack", "Regulator", "Due", "to", "lack", "of", "space", ",", "we", "will", "only", "briefly", "present", "the", "results", "of", "varying", "parameters", "such", "as", "wired", "network", "latency", "and", ".", "As", "the", "network", "latency", "is", "varied", "from", "20ms", "to", "100ms", ",", "throughput", "decreases", "by", "1.63", "%", "and", "2.62", "%", "for", "Reno", "and", "Reno", "with", "Ack", "Regulator", "flows", ",", "respectively", ".", "Most", "of", "the", "decrease", "can", "be", "accounted", "for", "by", "the", "impact", "of", "increase", "in", "latency", "on", "TCP", "throughput", ".", "The", "result", "shows", "that", "the", "AckReleaseCount", "estimation", "algorithm", "is", "effective", "and", "hence", "the", "Ack", "Regulator", "is", "able", "to", "reserve", "the", "appropriate", "amount", "of", "buffer", "for", "expected", "packet", "arrivals", "even", "with", "substantial", "wireline", "delay", ".", "In", "another", "experiment", ",", "the", "parameter", "in", "an", "Ack", "Regulated", "TCP", "flow", "is", "varied", "from", "1", "to", "4", ".", "When", "is", "increased", "from", "1", "to", "3", ",", "the", "TCP", "flow", "is", "able", "to", "achieve", "its", "maximum", "throughput", "at", "a", "smaller", "buffer", "size", ".", "As", "increases", ",", "the", "rtt", "also", "increases", "and", "when", "is", "increased", "to", "4", ",", "throughput", "decreases", "for", "larger", "buffer", "sizes", "-LRB-", ">", "15", "-RRB-", ".", "The", "decrease", "in", "throughput", "is", "caused", "by", "the", "accumulation", "of", "sufficiently", "large", "amount", "of", "duplicate", "acks", "that", "are", "sent", "to", "the", "TCP", "sender", ".", "A", "value", "of", "=", "2", "appears", "to", "be", "a", "good", "choice", ",", "balancing", "throughput", "and", "rtt", "for", "reasonable", "buffer", "sizes", ".", "6.7", "Summary", "of", "Results", "and", "Discussion", "In", "this", "section", ",", "we", "first", "summarize", "the", "results", "from", "the", "simulation", "experiments", "and", "then", "briefly", "touch", "upon", "other", "issues", ".", "We", "first", "started", "with", "experiments", "using", "a", "wireless", "link", "with", "variable", "delay", ".", "We", "showed", "that", "Ack", "Regulator", "delivers", "performance", "up", "to", "43", "%", "better", "than", "TCP", "Reno", "and", "19", "%", "better", "than", "TCP", "Sack", "when", "the", "buffer", "size", "was", "set", "to", "one", "BDP", ".", "We", "then", "examined", "the", "impact", "of", "a", "wireless", "link", "with", "variable", "rate", ".", "We", "saw", "that", "when", "the", "rate", "variance", "increases", ",", "throughput", "of", "TCP", "Reno", "decreases", "as", "expected", ".", "Compared", "to", "TCP", "Reno", ",", "Ack", "Regulator", "improves", "the", "throughput", "by", "up", "to", "15", "%", ".", "However", ",", "TCP", "Sack", "performs", "very", "well", "and", "has", "almost", "the", "same", "throughput", "as", "Ack", "Regulated", "flows", "as", "long", "as", "the", "rate", "variation", "is", "not", "extremely", "large", ".", "We", "next", "considered", "the", "impact", "of", "a", "wireless", "link", "with", "variable", "delay", "and", "variable", "rate", ".", "We", "found", "that", "this", "combination", "had", "a", "large", "negative", "impact", "on", "the", "performance", "of", "both", "TCP", "Reno", "and", "Sack", "-LRB-", "up", "to", "22", "%", "and", "10", "%", "improvement", "respectively", "for", "Ack", "Regulated", "flows", "-RRB-", ".", "We", "then", "considered", "a", "specific", "wireless", "link", "standard", "called", "HDR", "which", "exhibits", "both", "variable", "delay", "and", "variable", "rate", ".", "The", "results", "were", "as", "expected", ",", "with", "Ack", "Regulator", "improving", "TCP", "Reno", "performance", "by", "5", "%", "to", "33", "%", "and", "TCP", "Sack", "by", "0.5", "%", "to", "24", "%", ".", "We", "then", "evaluated", "the", "impact", "of", "multiple", "TCP", "flows", "sharing", "the", "HDR", "link", ".", "The", "gains", "of", "Ack", "Regulator", "over", "normal", "TCP", "flows", "were", "even", "greater", "in", "this", "case", "-LRB-", "with", "32", "%", "to", "36", "%", "improvements", "-RRB-", "when", "the", "buffer", "size", "is", "set", "to", "one", "BDP", ".", "In", "general", ",", "we", "showed", "that", "Ack", "Regulator", "delivers", "the", "same", "high", "throughput", "irrespective", "of", "whether", "the", "TCP", "flow", "is", "Reno", "or", "Sack", ".", "We", "further", "showed", "that", "Ack", "Regulator", "delivers", "robust", "throughput", "performance", "across", "different", "buffer", "sizes", "with", "the", "performance", "improvement", "of", "Ack", "Regulator", "increasing", "as", "buffer", "size", "is", "reduced", ".", "We", "only", "considered", "TCP", "flows", "towards", "the", "mobile", "host", "-LRB-", "for", "downloading-type", "applications", "-RRB-", "since", "links", "like", "HDR", "are", "designed", "for", "such", "applications", ".", "In", "the", "case", "of", "TCP", "flows", "in", "the", "other", "direction", "-LRB-", "from", "the", "mobile", "host", "-RRB-", ",", "Ack", "Regulator", "can", "be", "implemented", ",", "if", "necessary", ",", "at", "the", "mobile", "host", "to", "optimize", "the", "use", "of", "buffer", "on", "the", "wireless", "interface", "card", ".", "Finally", ",", "Ack", "Regulator", "can", "not", "be", "used", "if", "the", "flow", "uses", "end-to-end", "IPSEC", ".", "This", "is", "also", "true", "for", "all", "performance", "enhancing", "proxies", ".", "However", ",", "we", "believe", "that", "proxies", "for", "performance", "improvement", "are", "critical", "in", "current", "wireless", "networks", ".", "In", "order", "to", "allow", "for", "these", "proxies", "without", "compromising", "security", ",", "a", "split", "security", "model", "can", "be", "adopted", "where", "the", "81", "RNC", ",", "under", "the", "control", "of", "the", "network", "provider", ",", "becomes", "a", "trusted", "element", ".", "In", "this", "model", ",", "a", "VPN", "approach", "to", "security", "-LRB-", "say", ",", "using", "IPSEC", "-RRB-", "is", "used", "on", "the", "wireline", "network", "between", "the", "RNC", "and", "the", "correspondent", "host", "and", "3G", "authentication", "and", "link-layer", "encryption", "mechanisms", "are", "used", "between", "the", "RNC", "and", "mobile", "host", ".", "This", "allows", "the", "RNC", "to", "support", "proxies", "such", "as", "the", "Ack", "Regulator", "to", "improve", "performance", "without", "compromising", "security", ".", "In", "this", "paper", ",", "we", "comprehensively", "evaluated", "the", "impact", "of", "variable", "rate", "and", "variable", "delay", "on", "TCP", "performance", ".", "We", "first", "proposed", "a", "model", "to", "explain", "and", "predict", "TCP", "'s", "throughput", "over", "a", "link", "with", "variable", "rate", "and", "delay", ".", "Our", "model", "was", "able", "to", "accurately", "-LRB-", "better", "than", "90", "%", "-RRB-", "predict", "throughput", "of", "TCP", "flows", "even", "in", "the", "case", "of", "large", "delay", "and", "rate", "variation", ".", "Based", "on", "our", "TCP", "model", ",", "we", "proposed", "a", "network", "based", "solution", "called", "Ack", "Regulator", "to", "mitigate", "the", "effect", "of", "rate", "and", "delay", "variability", ".", "The", "performance", "of", "Ack", "Regulator", "was", "evaluated", "extensively", "using", "both", "general", "models", "for", "rate", "and", "delay", "variability", "as", "well", "as", "a", "simplified", "model", "of", "a", "3", "rd", "Generation", "high", "speed", "wireless", "data", "air", "interface", ".", "Ack", "Regulator", "was", "able", "to", "improve", "the", "performance", "of", "TCP", "Reno", "and", "TCP", "Sack", "by", "up", "to", "40", "%", "without", "significantly", "increasingly", "the", "round", "trip", "time", ".", "We", "also", "showed", "that", "Ack", "Regulator", "delivers", "the", "same", "high", "throughput", "irrespective", "of", "whether", "the", "TCP", "source", "is", "Reno", "or", "Sack", ".", "Furthermore", ",", "Ack", "Regulator", "also", "delivered", "robust", "throughput", "performance", "across", "different", "buffer", "sizes", ".", "Given", "the", "difficulties", "in", "knowing", "in", "advance", "the", "achievable", "throughput", "and", "delay", "-LRB-", "and", "hence", "the", "correct", "BDP", "value", "-RRB-", ",", "a", "scheme", ",", "like", "Ack", "Regulator", ",", "which", "works", "well", "for", "both", "large", "and", "small", "buffers", "is", "essential", ".", "In", "summary", ",", "Ack", "Regulator", "is", "an", "effective", "network-based", "solution", "that", "significantly", "improves", "TCP", "performance", "over", "wireless", "links", "with", "variable", "rate", "and", "delay", ".", "The", "authors", "would", "like", "to", "thank", "Lijun", "Qian", "for", "providing", "the", "fading", "code", "used", "in", "the", "HDR", "simulation", ",", "Clement", "Lee", "and", "Girish", "Chandranmenon", "for", "providing", "the", "3G1xtrace", "and", "Sandy", "Thuel", "for", "comments", "on", "earlier", "versions", "of", "this", "paper", ".", "-LSB-", "1", "-RSB-", "E.", "Altman", ",", "K.", "Avrachenkov", "and", "C.", "Barakat", ",", "``", "A", "Stochastic", "Model", "of", "TCP/IP", "with", "Stationary", "Random", "Loss", ",", "''", "in", "Proceedings", "of", "SIGCOMM", "2000", ".", "-LSB-", "2", "-RSB-", "F.", "Baccelli", "and", "D.", "Hong", ",", "``", "TCP", "is", "Max-Plus", "Linear", ",", "''", "in", "Proceedings", "of", "SIGCOMM", "2000", ".", "-LSB-", "3", "-RSB-", "A.", "Bakre", "and", "B.R.", "Badrinath", ",", "``", "Handoff", "and", "System", "Support", "for", "Indirect", "TCP/IP", ",", "''", "in", "proceedings", "of", "Second", "UsenixSymposium", "on", "Mobile", "and", "Location-Independent", "Computing", ",", "Apr", "1995", ".", "-LSB-", "4", "-RSB-", "H.", "Balakrishnan", "et", "al.", ",", "``", "Improving", "TCP/IP", "Performance", "over", "Wireless", "Networks", ",", "''", "in", "proceedings", "of", "ACM", "Mobicom", ",", "Nov", "1995", ".", "-LSB-", "5", "-RSB-", "H.", "Balakrishnan", ",", "V.N.", "Padmanabhan", ",", "R.H.", "Katz", ",", "``", "The", "Effects", "of", "Asymmetry", "on", "TCP", "Performance", ",", "''", "Proc", ".", "ACM/IEEE", "Mobicom", ",", "Sep.", "1997", ".", "-LSB-", "6", "-RSB-", "P.", "Bender", "et", "al.", ",", "``", "A", "Bandwidth", "Efficient", "High", "Speed", "Wireless", "Data", "Service", "for", "Nomadic", "Users", ",", "''", "in", "IEEE", "Communications", "Magazine", ",", "Jul", "2000", ".", "-LSB-", "7", "-RSB-", "P.", "Bhagwat", "at", "al", ",", "``", "Enhancing", "Throughput", "over", "Wireless", "LANs", "Using", "Channel", "State", "Dependent", "Packet", "Scheduling", ",", "''", "in", "Proc", ".", "IEEE", "INFOCOM", "'", "96", ".", "-LSB-", "8", "-RSB-", "K.", "Brown", "and", "S.Singh", ",", "``", "M-TCP", ":", "TCP", "for", "Mobile", "Cellular", "Networks", ",", "''", "ACM", "Computer", "Communications", "Review", "Vol", ".", "27", "-LRB-", "5", "-RRB-", ",", "1997", ".", "-LSB-", "9", "-RSB-", "A.", "Canton", "and", "T.", "Chahed", ",", "``", "End-to-end", "reliability", "in", "UMTS", ":", "TCP", "over", "ARQ", ",", "''", "in", "proceedings", "of", "Globecomm", "2001", ".", "-LSB-", "10", "-RSB-", "TIA/EIA/cdma2000", ",", "``", "Mobile", "Station", "-", "Base", "Station", "Compatibility", "Standard", "for", "Dual-Mode", "Wideband", "Spread", "Spectrum", "Cellular", "Systems", "''", ",", "Washington", ":", "Telecommunication", "Industry", "Association", ",", "1999", ".", "-LSB-", "11", "-RSB-", "G.", "Holland", "and", "N.", "H.", "Vaidya", ",", "``", "Analysis", "of", "TCP", "Performance", "over", "Mobile", "Ad", "Hoc", "Networks", ",", "''", "in", "Proceedings", "of", "ACM", "Mobicom", "'", "99", ".", "-LSB-", "12", "-RSB-", "H.", "Inamura", "et", "al.", ",", "``", "TCP", "over", "2.5", "G", "and", "3G", "Wireless", "Networks", ",", "''", "draft-ietf-pilc-2.5", "g3g-07", ",", "Aug.", "2002", ".", "-LSB-", "13", "-RSB-", "F.", "Khafizov", "and", "M.", "Yavuz", ",", "``", "TCP", "over", "CDMA2000", "networks", ",", "''", "Internet", "Draft", ",", "draft-khafizov-pilc-cdma2000-00.txt", ".", "-LSB-", "14", "-RSB-", "T.", "V.", "Lakshman", "and", "U.", "Madhow", ",", "``", "The", "Performance", "of", "Networks", "with", "High", "Bandwidth-delay", "Products", "and", "Random", "Loss", ",", "''", "in", "IEEE/ACM", "Transactions", "on", "Networking", ",", "Jun.", "1997", ".", "-LSB-", "15", "-RSB-", "R.", "Ludwig", "et", "al.", ",", "``", "Multi-layer", "Tracing", "of", "TCP", "over", "a", "Reliable", "Wireless", "Link", ",", "''", "in", "Proceedings", "of", "ACM", "SIGMETRICS", "1999", ".", "-LSB-", "16", "-RSB-", "Reiner", "Ludwig", "and", "Randy", "H.", "Katz", "``", "The", "Eifel", "Algorithm", ":", "Making", "TCP", "Robust", "Against", "Spurious", "Retransmissions", ",", "''", "in", "ACM", "Computer", "Communications", "Review", ",", "Vol", ".", "30", ",", "No.", "1", ",", "2000", ".", "-LSB-", "17", "-RSB-", "V.", "Misra", ",", "W.", "Gong", "and", "D.", "Towsley", ",", "``", "Stochastic", "Differential", "Equation", "Modeling", "and", "Analysis", "of", "TCP", "Windowsize", "Behavior", ",", "''", "in", "Proceedings", "of", "Performance", "'", "99", ".", "-LSB-", "18", "-RSB-", "P.", "Narvaez", "and", "K.-Y", ".", "Siu", ",", "``", "New", "Techniques", "for", "Regulating", "TCP", "Flow", "over", "Heterogeneous", "Networks", ",", "''", "in", "LCN", "'", "98", ".", "-LSB-", "19", "-RSB-", "``", "Modeling", "TCP", "Throughput", ":", "a", "Simple", "Model", "and", "its", "Empirical", "Validation", ",", "''", "in", "Proceedings", "of", "SIGCOMM", "1998", ".", "-LSB-", "20", "-RSB-", "S.", "Paul", "et", "al.", ",", "``", "An", "Asymmetric", "Link-Layer", "Protocol", "for", "Digital", "Cellular", "Communications", ",", "''", "in", "proceedings", "of", "INFOCOM", "1995", ".", "-LSB-", "21", "-RSB-", "Third", "Generation", "Partnership", "Project", ",", "``", "RLC", "Protocol", "Specification", "-LRB-", "3G", "TS", "25.322", ":-RRB-", "''", ",", "1999", ".", "-LSB-", "22", "-RSB-", "TIA/EIA/IS", "-707-A-2.10", ",", "``", "Data", "Service", "Options", "for", "Spread", "Spectrum", "Systems", ":", "Radio", "Link", "Protocol", "Type", "3", "''", ",", "January", "2000", ".", "-LSB-", "23", "-RSB-", "S.", "Karandikar", "et", "al.", ",", "``", "TCP", "rate", "control", ",", "''", "in", "ACM", "Computer", "Communication", "Review", ",", "Jan", "2000", ".", "-LSB-", "24", "-RSB-", "3G", "Partnership", "Project", ",", "Release", "99", ".", "-LSB-", "25", "-RSB-", "``", "Microwave", "mobile", "communications", ",", "''", "edited", "by", "W.", "C.", "Jakes", ",", "Wiley", ",", "1974", ".", "-LSB-", "26", "-RSB-", "``", "Delays", "in", "the", "HDR", "System", ",", "''", "QUALCOMM", ",", "Jun.", "2000", ".", "-LSB-", "27", "-RSB-", "R.", "Jain", ",", "``", "The", "Art", "of", "Computer", "Systems", "Performance", "Analysis", ",", "''", "Wiley", ",", "1991", ".", "-LSB-", "28", "-RSB-", "J.", "Padhye", "and", "S.", "Floyd", ",", "``", "On", "Inferring", "TCP", "Behavior", ",", "''", "in", "Proceedings", "of", "SIGCOMM", "'", "2001", ".", "82"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "B", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["network", "tcp", "3g wireless", "algorithm", "wireless communication", "design", "architecture"], "abstractive_keyphrases": ["performance evaluation", "prediction model", "link and rate variation", "simulation result", "congestion solution", "3g wireless links"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "15", "document": ["A", "New", "Statistical", "Formula", "for", "Chinese", "Text", "Segmentation", "Incorporating", "Contextual", "Information", "A", "new", "statistical", "formula", "for", "identifying", "2-character", "words", "in", "Chinese", "text", ",", "called", "the", "contextual", "information", "formula", ",", "was", "developed", "empirically", "by", "performing", "stepwise", "logistic", "regression", "using", "a", "sample", "of", "sentences", "that", "had", "been", "manually", "segmented", ".", "Contextual", "information", "in", "the", "form", "of", "the", "frequency", "of", "characters", "that", "are", "adjacent", "to", "the", "bigram", "being", "processed", "as", "well", "as", "the", "weighted", "document", "frequency", "of", "the", "overlapping", "bigrams", "were", "found", "to", "be", "significant", "factors", "for", "predicting", "the", "probablity", "that", "the", "bigram", "constitutes", "a", "word", ".", "Local", "information", "-LRB-", "the", "number", "of", "times", "the", "bigram", "occurs", "in", "the", "document", "being", "segmented", "-RRB-", "and", "the", "position", "of", "the", "bigram", "in", "the", "sentence", "were", "not", "found", "to", "be", "useful", "in", "determining", "words", ".", "The", "contextual", "information", "formula", "was", "found", "to", "be", "significantly", "and", "substantially", "better", "than", "the", "mutual", "information", "formula", "in", "identifying", "2-character", "words", ".", "The", "method", "can", "also", "be", "used", "for", "identifying", "multi-word", "terms", "in", "English", "text", ".", "Chinese", "text", "is", "different", "from", "English", "text", "in", "that", "there", "is", "no", "explicit", "word", "boundary", ".", "In", "English", "text", ",", "words", "are", "separated", "by", "spaces", ".", "Chinese", "text", "-LRB-", "as", "well", "as", "text", "of", "other", "Oriental", "languages", "-RRB-", "is", "made", "up", "of", "ideographic", "characters", ",", "and", "a", "word", "can", "comprise", "one", ",", "two", "or", "more", "such", "characters", ",", "without", "explicit", "indication", "where", "one", "word", "ends", "and", "another", "begins", ".", "This", "has", "implications", "for", "natural", "language", "processing", "and", "information", "retrieval", "with", "Chinese", "text", ".", "Text", "processing", "techniques", "that", "have", "been", "developed", "for", "Western", "languages", "deal", "with", "words", "as", "meaningful", "text", "units", "and", "assume", "that", "words", "are", "easy", "to", "identify", ".", "These", "techniques", "may", "not", "work", "well", "for", "Chinese", "text", "without", "some", "adjustments", ".", "To", "apply", "these", "techniques", "to", "Chinese", "text", ",", "automatic", "methods", "for", "identifying", "word", "boundaries", "accurately", "have", "to", "be", "developed", ".", "The", "process", "of", "identifying", "word", "boundaries", "has", "been", "referred", "to", "as", "text", "segmentation", "or", ",", "more", "accurately", ",", "word", "segmentation", ".", "Several", "techniques", "have", "been", "developed", "for", "Chinese", "text", "segmentation", ".", "They", "can", "be", "divided", "into", ":", "1", ".", "statistical", "methods", ",", "based", "on", "statistical", "properties", "and", "frequencies", "of", "characters", "and", "character", "strings", "in", "a", "corpus", "-LRB-", "e.g.", "-LSB-", "13", "-RSB-", "and", "-LSB-", "16", "-RSB-", "-RRB-", ".", "2", ".", "dictionary-based", "methods", ",", "often", "complemented", "with", "grammar", "rules", ".", "This", "approach", "uses", "a", "dictionary", "of", "words", "to", "identify", "word", "boundaries", ".", "Grammar", "rules", "are", "often", "used", "to", "resolve", "conflicts", "-LRB-", "choose", "between", "alternative", "segmentations", "-RRB-", "and", "to", "improve", "the", "segmentation", "-LRB-", "e.g.", "-LSB-", "4", "-RSB-", ",", "-LSB-", "8", "-RSB-", ",", "-LSB-", "19", "-RSB-", "and", "-LSB-", "20", "-RSB-", "-RRB-", ".", "3", ".", "syntax-based", "methods", ",", "which", "integrate", "the", "word", "segmentation", "process", "with", "syntactic", "parsing", "or", "part-of-speech", "tagging", "-LRB-", "e.g.", "-LSB-", "1", "-RSB-", "-RRB-", ".", "4", ".", "conceptual", "methods", ",", "that", "make", "use", "of", "some", "kind", "of", "semantic", "processing", "to", "extract", "information", "and", "store", "it", "in", "a", "knowledge", "representation", "scheme", ".", "Domain", "knowledge", "is", "used", "for", "disambiguation", "-LRB-", "e.g.", "-LSB-", "9", "-RSB-", "-RRB-", ".", "Many", "researchers", "use", "a", "combination", "of", "methods", "-LRB-", "e.g.", "-LSB-", "14", "-RSB-", "-RRB-", ".", "The", "objective", "of", "this", "study", "was", "to", "empirically", "develop", "a", "statistical", "formula", "for", "Chinese", "text", "segmentation", ".", "Researchers", "have", "used", "different", "statistical", "methods", "in", "segmentation", ",", "most", "of", "which", "were", "based", "on", "theoretical", "considerations", "or", "adopted", "from", "other", "fields", ".", "In", "this", "study", ",", "we", "developed", "a", "statistical", "formula", "empirically", "by", "performing", "stepwise", "logistic", "regression", "using", "a", "sample", "of", "sentences", "that", "had", "been", "manually", "segmented", ".", "This", "paper", "reports", "the", "new", "formula", "developed", "for", "identifying", "2-character", "words", ",", "and", "the", "effectiveness", "of", "this", "formula", "compared", "with", "the", "mutual", "information", "formula", ".", "This", "study", "has", "the", "following", "novel", "aspects", ":", "The", "statistical", "formula", "was", "derived", "empirically", "using", "regression", "analysis", ".", "The", "manual", "segmentation", "was", "performed", "to", "identify", "meaningful", "words", "rather", "than", "simple", "words", ".", "Meaningful", "words", "include", "phrasal", "words", "and", "multi-word", "terms", ".", "In", "addition", "to", "the", "relative", "frequencies", "of", "bigrams", "and", "characters", "often", "used", "in", "other", "studies", ",", "our", "study", "also", "investigated", "the", "use", "of", "document", "frequencies", "and", "weighted", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'99", "8/99", "Berkley", ",", "CA", "USA", "Copyright", "1999", "ACM", "1-58113-096-1", "/", "99/0007", "...", "$", "5.00", "82", "-RRB-", "-LRB-", "*", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "log", "2", "C", "freq", "B", "freq", "BC", "freq", "document", "frequencies", ".", "Weighted", "document", "frequencies", "are", "similar", "to", "document", "frequencies", "but", "each", "document", "is", "weighted", "by", "the", "square", "of", "the", "number", "of", "times", "the", "character", "or", "bigram", "occurs", "in", "the", "document", ".", "Contextual", "information", "was", "included", "in", "the", "study", ".", "To", "predict", "whether", "the", "bigram", "BC", "in", "the", "character", "string", "A", "B", "C", "D", "constitutes", "a", "word", ",", "we", "investigated", "whether", "the", "frequencies", "for", "AB", ",", "CD", ",", "A", "and", "D", "should", "be", "included", "in", "the", "formula", ".", "Local", "frequencies", "were", "included", "in", "the", "study", ".", "We", "investigated", "character", "and", "bigram", "frequencies", "within", "the", "document", "in", "which", "the", "sentence", "occurs", "-LRB-", "i.e.", "the", "number", "of", "times", "the", "character", "or", "bigram", "appears", "in", "the", "document", "being", "segmented", "-RRB-", ".", "We", "investigated", "whether", "the", "position", "of", "the", "bigram", "-LRB-", "at", "the", "beginning", "of", "the", "sentence", ",", "before", "a", "punctuation", "mark", ",", "or", "after", "a", "punctuation", "mark", "-RRB-", "had", "a", "significant", "effect", ".", "We", "developed", "a", "segmentation", "algorithm", "to", "apply", "the", "statistical", "formula", "to", "segment", "sentences", "and", "resolve", "conflicts", ".", "In", "this", "study", ",", "our", "objective", "was", "to", "segment", "text", "into", "meaningful", "words", "rather", "than", "simple", "words", ".", "A", "simple", "word", "is", "the", "smallest", "independent", "unit", "of", "a", "sentence", "that", "has", "meaning", "on", "its", "own", ".", "A", "meaningful", "word", "can", "be", "a", "simple", "word", "or", "a", "compound", "word", "comprising", "2", "or", "more", "simple", "words", "depending", "on", "the", "context", ".", "In", "many", "cases", ",", "the", "meaning", "of", "a", "compound", "word", "is", "more", "than", "just", "a", "combination", "of", "the", "meanings", "of", "the", "constituent", "simple", "words", ",", "i.e.", "some", "meaning", "is", "lost", "when", "the", "compound", "word", "is", "segmented", "into", "simple", "words", ".", "Furthermore", ",", "some", "phrases", "are", "used", "so", "often", "that", "native", "speakers", "perceive", "them", "and", "use", "them", "as", "a", "unit", ".", "Admittedly", ",", "there", "is", "some", "subjectivity", "in", "the", "manual", "segmentation", "of", "text", ".", "But", "the", "fact", "that", "statistical", "models", "can", "be", "developed", "to", "predict", "the", "manually", "segmented", "words", "substantially", "better", "than", "chance", "indicates", "some", "level", "of", "consistency", "in", "the", "manual", "segmentation", ".", "The", "problem", "of", "identifying", "meaningful", "words", "is", "not", "limited", "to", "Chinese", "and", "oriental", "languages", ".", "Identifying", "multi-word", "terms", "is", "also", "a", "problem", "in", "text", "processing", "with", "English", "and", "other", "Western", "languages", ",", "and", "researchers", "have", "used", "the", "mutual", "information", "formula", "and", "other", "statistical", "approaches", "for", "identifying", "such", "terms", "-LRB-", "e.g.", "-LSB-", "3", "-RSB-", ",", "-LSB-", "6", "-RSB-", "and", "-LSB-", "7", "-RSB-", "-RRB-", ".", "There", "are", "few", "studies", "using", "a", "purely", "statistical", "approach", "to", "Chinese", "text", "segmentation", ".", "One", "statistical", "formula", "that", "has", "been", "used", "by", "other", "researchers", "-LRB-", "e.g.", "-LSB-", "11", "-RSB-", "and", "-LSB-", "16", "-RSB-", "-RRB-", "is", "the", "mutual", "information", "formula", ".", "Given", "a", "character", "string", "A", "B", "C", "D", ",", "the", "mutual", "information", "for", "the", "bigram", "BC", "is", "given", "by", "the", "formula", ":", "MI", "-LRB-", "BC", "-RRB-", "=", "=", "log", "2", "freq", "-LRB-", "BC", "-RRB-", "log", "2", "freq", "-LRB-", "B", "-RRB-", "log", "2", "freq", "-LRB-", "C", "-RRB-", "where", "freq", "refers", "to", "the", "relative", "frequency", "of", "the", "character", "or", "bigram", "in", "the", "corpus", "-LRB-", "i.e.", "the", "number", "of", "times", "the", "character", "or", "bigram", "occurs", "in", "the", "corpus", "divided", "by", "the", "number", "of", "characters", "in", "the", "corpus", "-RRB-", ".", "Mutual", "information", "is", "a", "measure", "of", "how", "strongly", "the", "two", "characters", "are", "associated", ",", "and", "can", "be", "used", "as", "a", "measure", "of", "how", "likely", "the", "pair", "of", "characters", "constitutes", "a", "word", ".", "Sproat", "&", "Shih", "-LSB-", "16", "-RSB-", "obtained", "recall", "and", "precision", "values", "of", "94", "%", "using", "mutual", "information", "to", "identify", "words", ".", "This", "study", "probably", "segmented", "text", "into", "simple", "words", "rather", "than", "meaningful", "words", ".", "In", "our", "study", ",", "text", "was", "segmented", "into", "meaningful", "words", "and", "we", "obtained", "much", "poorer", "results", "for", "the", "mutual", "information", "formula", ".", "Lua", "-LSB-", "12", "-RSB-", "and", "Lua", "&", "Gan", "-LSB-", "13", "-RSB-", "applied", "information", "theory", "to", "the", "problem", "of", "Chinese", "text", "segmentation", ".", "They", "calculated", "the", "information", "content", "of", "characters", "and", "words", "using", "the", "information", "entropy", "formula", "I", "=", "-", "log", "2", "P", ",", "where", "P", "is", "the", "probability", "of", "occurrence", "of", "the", "character", "or", "word", ".", "If", "the", "information", "content", "of", "a", "character", "string", "is", "less", "than", "the", "sum", "of", "the", "information", "content", "of", "the", "constituent", "characters", ",", "then", "the", "character", "string", "is", "likely", "to", "constitute", "a", "word", ".", "The", "formula", "for", "calculating", "this", "loss", "of", "information", "content", "when", "a", "word", "is", "formed", "is", "identical", "to", "the", "mutual", "information", "formula", ".", "Lua", "&", "Gan", "-LSB-", "13", "-RSB-", "obtained", "an", "accuracy", "of", "99", "%", "-LRB-", "measured", "in", "terms", "of", "the", "number", "of", "errors", "per", "100", "characters", "-RRB-", ".", "Tung", "&", "Lee", "-LSB-", "18", "-RSB-", "also", "used", "information", "entropy", "to", "identify", "unknown", "words", "in", "a", "corpus", ".", "However", ",", "instead", "of", "calculating", "the", "entropy", "value", "for", "the", "character", "string", "that", "is", "hypothesized", "to", "be", "a", "word", "-LRB-", "i.e.", "the", "candidate", "word", "-RRB-", ",", "they", "identified", "all", "the", "characters", "that", "occurred", "to", "the", "left", "of", "the", "candidate", "word", "in", "the", "corpus", ".", "For", "each", "left", "character", ",", "they", "calculated", "the", "probability", "and", "entropy", "value", "for", "that", "character", "given", "that", "it", "occurs", "to", "the", "left", "of", "the", "candidate", "word", ".", "The", "same", "is", "done", "for", "the", "characters", "to", "the", "right", "of", "the", "candidate", "word", ".", "If", "the", "sum", "of", "the", "entropy", "values", "for", "the", "left", "characters", "and", "the", "sum", "of", "the", "entropy", "values", "for", "the", "right", "characters", "are", "both", "high", ",", "than", "the", "candidate", "word", "is", "considered", "likely", "to", "be", "a", "word", ".", "In", "other", "words", ",", "a", "character", "string", "is", "likely", "to", "be", "a", "word", "if", "it", "has", "several", "different", "characters", "to", "the", "left", "and", "to", "the", "right", "of", "it", "in", "the", "corpus", ",", "and", "none", "of", "the", "left", "and", "right", "characters", "predominate", "-LRB-", "i.e.", "not", "strongly", "associated", "with", "the", "character", "string", "-RRB-", ".", "Ogawa", "&", "Matsuda", "-LSB-", "15", "-RSB-", "developed", "a", "statistical", "method", "to", "segment", "Japanese", "text", ".", "Instead", "of", "attempting", "to", "identify", "words", "directly", ",", "they", "developed", "a", "formula", "to", "estimate", "the", "probability", "that", "a", "bigram", "straddles", "a", "word", "boundary", ".", "They", "referred", "to", "this", "as", "the", "segmentation", "probability", ".", "This", "was", "complemented", "with", "some", "syntactic", "information", "about", "which", "class", "of", "characters", "could", "be", "combined", "with", "which", "other", "class", ".", "All", "the", "above", "mathematical", "formulas", "used", "for", "identifying", "words", "and", "word", "boundaries", "were", "developed", "based", "on", "theoretical", "considerations", "and", "not", "derived", "empirically", ".", "Other", "researchers", "have", "developed", "statistical", "methods", "to", "find", "the", "best", "segmentation", "for", "the", "whole", "sentence", "rather", "than", "focusing", "on", "identifying", "individual", "words", ".", "Sproat", "et", "al.", "-LSB-", "17", "-RSB-", "developed", "a", "stochastic", "finite", "state", "model", "for", "segmenting", "text", ".", "In", "their", "model", ",", "a", "word", "dictionary", "is", "represented", "as", "a", "weighted", "finite", "state", "transducer", ".", "Each", "weight", "represents", "the", "estimated", "cost", "of", "the", "word", "-LRB-", "calculated", "using", "the", "negative", "log", "probability", "-RRB-", ".", "Basically", ",", "the", "system", "selects", "the", "sentence", "segmentation", "that", "has", "the", "smallest", "total", "cost", ".", "Chang", "&", "Chen", "-LSB-", "1", "-RSB-", "developed", "a", "method", "for", "word", "segmentation", "and", "part-of-speech", "tagging", "based", "on", "a", "first-order", "hidden", "Markov", "model", ".", "83", "The", "purpose", "of", "this", "study", "was", "to", "empirically", "develop", "a", "statistical", "formula", "for", "identifying", "2-character", "words", "as", "well", "as", "to", "investigate", "the", "usefulness", "of", "various", "factors", "for", "identifying", "the", "words", ".", "A", "sample", "of", "400", "sentences", "was", "randomly", "selected", "from", "2", "months", "-LRB-", "August", "and", "September", "1995", "-RRB-", "of", "news", "articles", "from", "the", "Xin", "Hua", "News", "Agency", ",", "comprising", "around", "2.3", "million", "characters", ".", "The", "sample", "sentences", "were", "manually", "segmented", ".", "The", "segmentation", "rules", "described", "in", "-LSB-", "10", "-RSB-", "were", "followed", "fairly", "closely", ".", "More", "details", "of", "the", "manual", "segmentation", "process", ",", "especially", "with", "regard", "to", "identifying", "meaningful", "words", "will", "be", "given", "in", "-LSB-", "5", "-RSB-", ".", "300", "sentences", "were", "used", "for", "model", "building", ",", "i.e.", "using", "regression", "analysis", "to", "develop", "a", "statistical", "formula", ".", "100", "sentences", "were", "set", "aside", "for", "model", "validation", "to", "evaluate", "the", "formula", "developed", "in", "the", "regression", "analysis", ".", "The", "sample", "sentences", "were", "broken", "up", "into", "overlapping", "bigrams", ".", "In", "the", "regression", "analysis", ",", "the", "dependent", "variable", "was", "whether", "a", "bigram", "was", "a", "two-character", "word", "according", "to", "the", "manual", "segmentation", ".", "The", "independent", "variables", "were", "various", "corpus", "statistics", "derived", "from", "the", "corpus", "-LRB-", "2", "months", "of", "news", "articles", "-RRB-", ".", "The", "types", "of", "frequency", "information", "investigated", "were", ":", "1", ".", "Relative", "frequency", "of", "individual", "characters", "and", "bigrams", "-LRB-", "character", "pairs", "-RRB-", "in", "the", "corpus", ",", "i.e.", "the", "number", "of", "times", "the", "character", "or", "bigram", "occurs", "in", "the", "corpus", "divided", "by", "the", "total", "number", "of", "characters", "in", "the", "corpus", ".", "2", ".", "Document", "frequency", "of", "characters", "and", "bigrams", ",", "i.e.", "the", "number", "of", "documents", "in", "the", "corpus", "containing", "the", "character", "or", "bigram", "divided", "by", "the", "total", "number", "of", "documents", "in", "the", "corpus", ".", "3", ".", "Weighted", "document", "frequency", "of", "characters", "and", "bigrams", ".", "To", "calculate", "the", "weighted", "document", "frequency", "of", "a", "character", "string", ",", "each", "document", "containing", "the", "character", "string", "is", "assigned", "a", "score", "equal", "to", "the", "square", "of", "the", "number", "of", "times", "the", "character", "string", "occurs", "in", "the", "document", ".", "The", "scores", "for", "all", "the", "documents", "containing", "the", "character", "string", "are", "then", "summed", "and", "divided", "by", "the", "total", "number", "of", "documents", "in", "the", "corpus", "to", "obtain", "the", "weighted", "document", "frequency", "for", "the", "character", "string", ".", "The", "rationale", "is", "that", "if", "a", "character", "string", "occurs", "several", "times", "within", "the", "same", "document", ",", "this", "is", "stronger", "evidence", "that", "the", "character", "string", "constitutes", "a", "word", ",", "than", "if", "the", "character", "string", "occurs", "once", "in", "several", "documents", ".", "Two", "or", "more", "characters", "can", "occur", "together", "by", "chance", "in", "several", "different", "documents", ".", "It", "is", "less", "likely", "for", "two", "characters", "to", "occur", "together", "several", "times", "within", "the", "same", "document", "by", "chance", ".", "4", ".", "Local", "frequency", "in", "the", "form", "of", "within-document", "frequency", "of", "characters", "and", "bigrams", ",", "i.e.", "the", "number", "of", "times", "the", "character", "or", "bigram", "occurs", "in", "the", "document", "being", "segmented", ".", "5", ".", "Contextual", "information", ".", "Frequency", "information", "of", "characters", "adjacent", "to", "a", "bigram", "is", "used", "to", "help", "determine", "whether", "the", "bigram", "is", "a", "word", ".", "For", "the", "character", "string", "A", "B", "C", "D", ",", "to", "determine", "whether", "the", "bigram", "BC", "is", "a", "word", ",", "frequency", "information", "for", "the", "adjacent", "characters", "A", "and", "D", ",", "as", "well", "as", "the", "overlapping", "bigrams", "AB", "and", "BC", "were", "considered", ".", "6", ".", "Positional", "information", ".", "We", "studied", "whether", "the", "position", "of", "a", "character", "string", "-LRB-", "at", "the", "beginning", ",", "middle", "or", "end", "of", "a", "sentence", "-RRB-", "gave", "some", "indication", "of", "whether", "the", "character", "string", "was", "a", "word", ".", "The", "statistical", "model", "was", "developed", "using", "forward", "stepwise", "logistic", "regression", ",", "using", "the", "Proc", "Logistic", "function", "in", "the", "SAS", "v.", "6.12", "statistical", "package", "for", "Windows", ".", "Logistic", "regression", "is", "an", "appropriate", "regression", "technique", "when", "the", "dependent", "variable", "is", "binary", "valued", "-LRB-", "takes", "the", "value", "0", "or", "1", "-RRB-", ".", "The", "formula", "developed", "using", "logistic", "regression", "predicts", "the", "probability", "-LRB-", "more", "accurately", ",", "the", "log", "of", "the", "odds", "-RRB-", "that", "a", "bigram", "is", "a", "meaningful", "word", ".", "In", "the", "stepwise", "regression", ",", "the", "threshold", "for", "a", "variable", "to", "enter", "the", "model", "was", "set", "at", "the", "0.001", "significance", "level", "and", "the", "threshold", "for", "retaining", "a", "variable", "in", "the", "model", "was", "set", "at", "0.01", ".", "In", "addition", ",", "preference", "was", "given", "to", "relative", "frequencies", "and", "local", "frequencies", "because", "they", "are", "easier", "to", "calculate", "than", "document", "frequencies", "and", "weighted", "document", "frequencies", ".", "Also", ",", "relative", "frequencies", "are", "commonly", "used", "in", "previous", "studies", ".", "Furthermore", ",", "a", "variable", "was", "entered", "in", "a", "model", "only", "if", "it", "gave", "a", "noticeable", "improvement", "to", "the", "effectiveness", "of", "the", "model", ".", "During", "regression", "analysis", ",", "the", "effectiveness", "of", "the", "model", "was", "estimated", "using", "the", "measure", "of", "concordance", "that", "was", "automatically", "output", "by", "the", "SAS", "statistical", "program", ".", "A", "variable", "was", "accepted", "into", "the", "model", "only", "if", "the", "measure", "of", "concordance", "improved", "by", "at", "least", "2", "%", "when", "the", "variable", "was", "entered", "into", "the", "model", ".", "We", "evaluated", "the", "accuracy", "of", "the", "segmentation", "using", "measures", "of", "recall", "and", "precision", ".", "Recall", "and", "precision", "in", "this", "context", "are", "defined", "as", "follows", ":", "Recall", "=", "No", ".", "of", "2-character", "words", "identified", "in", "the", "automatic", "segmentation", "that", "are", "correct", "No", ".", "of", "2-character", "words", "identified", "in", "the", "manual", "segmentation", "Precision", "=", "No", ".", "of", "2-character", "words", "identified", "in", "the", "automatic", "segmentation", "that", "are", "correct", "No", ".", "of", "2-character", "words", "identified", "in", "the", "automatic", "segmentation", "The", "formula", "that", "was", "developed", "for", "2-character", "words", "is", "as", "follows", ".", "Given", "a", "character", "string", "A", "B", "C", "D", ",", "the", "association", "strength", "for", "bigram", "BC", "is", ":", "Assoc", "-LRB-", "BC", "-RRB-", "=", "0.35", "*", "log", "2", "freq", "-LRB-", "BC", "-RRB-", "+", "0.37", "*", "log", "2", "freq", "-LRB-", "A", "-RRB-", "+", "0.32", "log", "2", "freq", "-LRB-", "D", "-RRB-", "0.36", "*", "log", "2", "docfreq", "wt", "-LRB-", "AB", "-RRB-", "0.29", "*", "log", "2", "docfreq", "wt", "-LRB-", "CD", "-RRB-", "+", "5.91", "where", "freq", "refers", "to", "the", "relative", "frequency", "in", "the", "corpus", "and", "docfreq", "wt", "refers", "to", "the", "weighted", "document", "frequency", ".", "We", "refer", "to", "this", "formula", "as", "the", "contextual", "information", "formula", ".", "More", "details", "of", "the", "regression", "model", "are", "given", "in", "Table", "1", ".", "The", "formula", "indicates", "that", "contextual", "information", "is", "helpful", "in", "identifying", "word", "boundaries", ".", "A", "in", "the", "formula", "refers", "to", "the", "character", "preceding", "the", "bigram", "that", "is", "being", "processed", ",", "whereas", "D", "is", "the", "character", "following", "the", "bigram", ".", "The", "formula", "indicates", "that", "if", "the", "character", "preceding", "and", "the", "character", "following", "the", "bigram", "have", "high", "relative", "frequencies", ",", "then", "the", "bigram", "is", "more", "likely", "to", "be", "a", "word", ".", "84", "Contextual", "information", "involving", "the", "weighted", "document", "frequency", "was", "also", "found", "to", "be", "significant", ".", "The", "formula", "indicates", "that", "if", "the", "overlapping", "bigrams", "AB", "and", "CD", "have", "high", "weighted", "document", "frequencies", ",", "then", "the", "bigram", "BC", "is", "less", "likely", "to", "be", "a", "word", ".", "We", "tried", "replacing", "the", "weighted", "document", "frequencies", "with", "the", "unweighted", "document", "frequencies", "as", "well", "as", "the", "relative", "frequencies", ".", "These", "were", "found", "to", "give", "a", "lower", "concordance", "score", ".", "Even", "with", "docfreq", "-LRB-", "AB", "-RRB-", "and", "docfreq", "-LRB-", "CD", "-RRB-", "in", "the", "model", ",", "docfreq", "wt", "-LRB-", "AB", "-RRB-", "and", "docfreq", "wt", "-LRB-", "CD", "-RRB-", "were", "found", "to", "improve", "the", "model", "significantly", ".", "However", ",", "local", "frequencies", "were", "surprisingly", "not", "found", "to", "be", "useful", "in", "predicting", "2-character", "words", ".", "We", "investigated", "whether", "the", "position", "of", "the", "bigram", "in", "the", "sentence", "was", "a", "significant", "factor", ".", "We", "included", "a", "variable", "to", "indicate", "whether", "the", "bigram", "occurred", "just", "after", "a", "punctuation", "mark", "or", "at", "the", "beginning", "of", "the", "sentence", ",", "and", "another", "variable", "to", "indicate", "whether", "the", "bigram", "occurred", "just", "before", "a", "punctuation", "mark", "or", "at", "the", "end", "of", "a", "sentence", ".", "The", "interaction", "between", "each", "of", "the", "position", "variables", "and", "the", "various", "relative", "frequencies", "were", "not", "significant", ".", "However", ",", "it", "was", "found", "that", "whether", "or", "not", "the", "bigram", "was", "at", "the", "end", "of", "a", "sentence", "or", "just", "before", "a", "punctuation", "mark", "was", "a", "significant", "factor", ".", "Bigrams", "at", "the", "end", "of", "a", "sentence", "or", "just", "before", "a", "punctuation", "mark", "tend", "to", "be", "words", ".", "However", ",", "since", "this", "factor", "did", "not", "improve", "the", "concordance", "score", "by", "2", "%", ",", "the", "effect", "was", "deemed", "too", "small", "to", "be", "included", "in", "the", "model", ".", "It", "should", "be", "noted", "that", "the", "contextual", "information", "used", "in", "the", "study", "already", "incorporates", "some", "positional", "information", ".", "The", "frequency", "of", "character", "A", "-LRB-", "the", "character", "preceding", "the", "bigram", "-RRB-", "was", "given", "the", "value", "0", "if", "the", "bigram", "was", "preceded", "by", "a", "punctuation", "mark", "or", "was", "at", "the", "beginning", "of", "a", "sentence", ".", "Similarly", ",", "the", "frequency", "of", "character", "D", "-LRB-", "the", "character", "following", "the", "bigram", "-RRB-", "was", "given", "the", "value", "0", "if", "the", "bigram", "preceded", "a", "punctuation", "mark", ".", "We", "also", "investigated", "whether", "the", "model", "would", "be", "different", "for", "high", "and", "low", "frequency", "words", ".", "We", "included", "in", "the", "regression", "analysis", "the", "interaction", "between", "the", "relative", "frequency", "of", "the", "bigram", "and", "the", "other", "relative", "frequencies", ".", "The", "interaction", "terms", "were", "not", "found", "to", "be", "significant", ".", "Finally", ",", "it", "is", "noted", "that", "the", "coefficients", "for", "the", "various", "factors", "are", "nearly", "the", "same", ",", "hovering", "around", "0.34", ".", "4.2", "Improved", "Mutual", "Information", "Formula", "In", "this", "study", ",", "the", "contextual", "information", "formula", "-LRB-", "CIF", "-RRB-", "was", "evaluated", "by", "comparing", "it", "with", "the", "mutual", "information", "formula", "-LRB-", "MIF", "-RRB-", ".", "We", "wanted", "to", "find", "out", "whether", "the", "segmentation", "results", "using", "the", "CIF", "was", "better", "than", "the", "segmentation", "results", "using", "the", "MIF", ".", "In", "the", "CIF", "model", ",", "the", "coefficients", "of", "the", "variables", "were", "determined", "using", "regression", "analysis", ".", "If", "CIF", "was", "found", "to", "give", "better", "results", "than", "MIF", ",", "it", "could", "be", "because", "the", "coefficients", "for", "the", "variables", "in", "CIF", "had", "been", "determined", "empirically", "and", "not", "because", "of", "the", "types", "of", "variables", "in", "the", "formula", ".", "To", "reject", "this", "explanation", ",", "regression", "analysis", "was", "used", "to", "determine", "the", "coefficients", "for", "the", "factors", "in", "the", "mutual", "information", "formula", ".", "We", "refer", "to", "this", "new", "version", "of", "the", "formula", "as", "the", "improved", "mutual", "information", "formula", ".", "Given", "a", "character", "string", "A", "B", "C", "D", ",", "the", "improved", "mutual", "information", "formula", "is", ":", "Improved", "MI", "-LRB-", "BC", "-RRB-", "=", "0.39", "*", "log", "2", "freq", "-LRB-", "BC", "-RRB-", "-", "0.28", "*", "log", "2", "freq", "-LRB-", "B", "-RRB-", "0", ".23", "log", "2", "freq", "-LRB-", "C", "-RRB-", "-", "0.32", "The", "coefficients", "are", "all", "close", "to", "0.3", ".", "The", "formula", "is", "thus", "quite", "similar", "to", "the", "mutual", "information", "formula", ",", "except", "for", "a", "multiplier", "of", "0.3", ".", "The", "automatic", "segmentation", "process", "has", "the", "following", "steps", ":", "1", ".", "The", "statistical", "formula", "is", "used", "to", "calculate", "a", "score", "for", "each", "bigram", "to", "indicate", "its", "association", "strength", "-LRB-", "or", "how", "likely", "the", "bigram", "is", "a", "word", "-RRB-", ".", "2", ".", "A", "threshold", "value", "is", "then", "set", "and", "used", "to", "decide", "which", "bigram", "is", "a", "word", ".", "If", "a", "bigram", "obtains", "a", "score", "above", "the", "threshold", "value", ",", "then", "it", "is", "selected", "as", "a", "word", ".", "Different", "threshold", "values", "can", "be", "used", ",", "depending", "on", "whether", "the", "user", "prefers", "high", "recall", "or", "high", "precision", ".", "3", ".", "A", "segmentation", "algorithm", "is", "used", "to", "resolve", "conflict", ".", "If", "two", "overlapping", "bigrams", "both", "have", "association", "scores", "above", "the", "Parameter", "Standard", "Wald", "Pr", ">", "Standardized", "Variable", "DF", "Estimate", "Error", "Chi-Square", "Chi-Square", "Estimate", "INTERCPT", "1", "5.9144", "0.1719", "1184.0532", "0.0001", ".", "Log", "freq", "-LRB-", "BC", "-RRB-", "1", "0.3502", "0.0106", "1088.7291", "0.0001", "0.638740", "Log", "freq", "-LRB-", "A", "-RRB-", "1", "0.3730", "0.0113", "1092.1382", "0.0001", "0.709621", "Log", "freq", "-LRB-", "D", "-RRB-", "1", "0.3171", "0.0107", "886.4446", "0.0001", "0.607326", "Log", "docfreq", "wt", "-LRB-", "AB", "-RRB-", "1", "-0.3580", "0.0111", "1034.0948", "0.0001", "-0.800520", "Log", "docfreq", "wt", "-LRB-", "CD", "-RRB-", "1", "-0.2867", "0.0104", "754.2276", "0.0001", "-0.635704", "Note", ":", "freq", "refers", "to", "the", "relative", "frequency", ",", "and", "docfreq", "wt", "refers", "to", "the", "weighted", "document", "frequency", ".", "Association", "of", "Predicted", "Probabilities", "and", "Observed", "Responses", "Concordant", "=", "90.1", "%", "Somers", "'", "D", "=", "0.803", "Discordant", "=", "9.8", "%", "Gamma", "=", "0.803", "Tied", "=", "0.1", "%", "Tau-a", "=", "0.295", "-LRB-", "23875432", "pairs", "-RRB-", "c", "=", "0.901", "Table", "1", ".", "Final", "regression", "model", "for", "2-character", "words", "85", "threshold", "value", ",", "then", "there", "is", "conflict", "or", "ambiguity", ".", "The", "frequency", "of", "such", "conflicts", "will", "rise", "as", "the", "threshold", "value", "is", "lowered", ".", "The", "segmentation", "algorithm", "resolves", "the", "conflict", "and", "selects", "one", "of", "the", "bigrams", "as", "a", "word", ".", "One", "simple", "segmentation", "algorithm", "is", "the", "forward", "match", "algorithm", ".", "Consider", "the", "sentence", "A", "B", "C", "D", "E", ".", "The", "segmentation", "process", "proceeds", "from", "the", "beginning", "of", "the", "sentence", "to", "the", "end", ".", "First", "the", "bigram", "AB", "is", "considered", ".", "If", "the", "association", "score", "is", "above", "the", "threshold", ",", "then", "AB", "is", "taken", "as", "a", "word", ",", "and", "the", "bigram", "CD", "is", "next", "considered", ".", "If", "the", "association", "score", "of", "AB", "is", "below", "the", "threshold", ",", "the", "character", "A", "is", "taken", "as", "a", "1-character", "word", ".", "And", "the", "bigram", "BC", "is", "next", "considered", ".", "In", "effect", ",", "if", "the", "association", "score", "of", "both", "AB", "and", "BC", "are", "above", "threshold", ",", "the", "forward", "match", "algorithm", "selects", "AB", "as", "a", "word", "and", "not", "BC", ".", "The", "forward", "match", "method", "for", "resolving", "ambiguity", "is", "somewhat", "arbitrary", "and", "not", "satisfactory", ".", "When", "overlapping", "bigrams", "exceed", "the", "threshold", "value", ",", "it", "simply", "decides", "in", "favour", "of", "the", "earlier", "bigram", ".", "Another", "segmentation", "algorithm", "was", "developed", "in", "this", "study", "which", "we", "refer", "to", "as", "the", "comparative", "forward", "match", "algorithm", ".", "This", "has", "an", "additional", "step", ":", "If", "2", "overlapping", "bigrams", "AB", "and", "BC", "both", "have", "scores", "above", "the", "threshold", "value", "then", "their", "scores", "are", "compared", ".", "If", "AB", "has", "a", "higher", "value", ",", "then", "it", "is", "selected", "as", "a", "word", ",", "and", "the", "program", "next", "considers", "the", "bigrams", "CD", "and", "DE", ".", "On", "the", "other", "hand", ",", "if", "AB", "has", "a", "lower", "value", ",", "then", "character", "A", "is", "selected", "as", "a", "1-character", "word", ",", "and", "the", "program", "next", "considers", "bigrams", "BC", "and", "CD", ".", "The", "comparative", "forward", "match", "method", "-LRB-", "CFM", "-RRB-", "was", "compared", "with", "the", "forward", "match", "method", "-LRB-", "FM", "-RRB-", "by", "applying", "them", "to", "the", "3", "statistical", "formulas", "-LRB-", "the", "contextual", "information", "formula", ",", "the", "mutual", "information", "formula", "and", "the", "improved", "mutual", "information", "formula", "-RRB-", ".", "One", "way", "to", "compare", "the", "effectiveness", "of", "the", "2", "segmentation", "algorithms", "is", "by", "comparing", "their", "precision", "figures", "at", "the", "same", "recall", "levels", ".", "The", "precision", "figures", "for", "selected", "recall", "levels", "are", "given", "in", "Table", "2", ".", "The", "results", "are", "based", "on", "the", "sample", "of", "300", "sentences", ".", "The", "comparative", "forward", "match", "algorithm", "gave", "better", "results", "for", "the", "mutual", "information", "and", "improved", "mutual", "information", "formulas", "especially", "at", "low", "threshold", "values", "when", "a", "large", "number", "of", "conflicts", "are", "likely", ".", "Furthermore", ",", "for", "the", "forward", "match", "method", ",", "the", "recall", "didn", "t", "go", "substantially", "higher", "than", "80", "%", "even", "at", "low", "threshold", "values", ".", "For", "the", "contextual", "information", "formula", ",", "the", "comparative", "forward", "match", "method", "did", "not", "perform", "better", "than", "forward", "match", ",", "except", "at", "very", "low", "threshold", "values", "when", "the", "recall", "was", "above", "90", "%", ".", "This", "was", "expected", "because", "the", "contextual", "information", "formula", "already", "incorporates", "information", "about", "neighboring", "characters", "within", "the", "formula", ".", "The", "formula", "gave", "very", "few", "conflicting", "segmentations", ".", "There", "were", "very", "few", "cases", "of", "overlapping", "bigrams", "both", "having", "association", "scores", "above", "the", "threshold", "except", "when", "threshold", "values", "were", "below", "1.5", ".", "In", "this", "section", "we", "compare", "the", "effectiveness", "of", "the", "contextual", "information", "formula", "with", "the", "mutual", "information", "formula", "and", "the", "improved", "mutual", "information", "formula", "using", "the", "100", "sentences", "that", "had", "been", "set", "aside", "for", "evaluation", "purposes", ".", "For", "the", "contextual", "information", "formula", ",", "the", "forward", "match", "segmentation", "algorithm", "was", "used", ".", "The", "comparative", "forward", "match", "algorithm", "was", "used", "for", "the", "mutual", "information", "and", "the", "improved", "mutual", "information", "formulas", ".", "The", "three", "statistical", "formulas", "were", "compared", "by", "comparing", "their", "precision", "figures", "at", "4", "recall", "levels", "at", "60", "%", ",", "70", "%", ",", "80", "%", "and", "90", "%", ".", "For", "each", "of", "the", "three", "statistical", "formulas", ",", "we", "identified", "the", "threshold", "values", "that", "would", "give", "a", "recall", "of", "60", "%", ",", "70", "%", ",", "80", "%", "and", "90", "%", ".", "We", "then", "determined", "the", "precision", "values", "at", "these", "threshold", "values", "to", "find", "out", "whether", "the", "contextual", "information", "formula", "gave", "better", "precision", "than", "the", "other", "two", "formulas", "at", "60", "%", ",", "70", "%", ",", "80", "%", "and", "90", "%", "recall", ".", "These", "recall", "levels", "were", "selected", "because", "a", "recall", "of", "50", "%", "or", "less", "is", "probably", "unacceptable", "for", "most", "applications", ".", "The", "precision", "figures", "for", "the", "4", "recall", "levels", "are", "given", "in", "Table", "3", ".", "The", "recall-precision", "graphs", "for", "the", "3", "formulas", "are", "given", "in", "Fig.", "1", ".", "The", "contextual", "information", "formula", "substantially", "outperforms", "the", "mutual", "information", "and", "the", "improved", "mutual", "information", "formulas", ".", "At", "the", "90", "%", "recall", "level", ",", "the", "contextual", "information", "Precision", "Recall", "Comparative", "Forward", "Match", "Forward", "Match", "Improvement", "Mutual", "Information", "90", "%", "51", "%", "80", "%", "52", "%", "47", "%", "5", "%", "70", "%", "53", "%", "51", "%", "2", "%", "60", "%", "54", "%", "52", "%", "2", "%", "Improved", "Mutual", "Information", "90", "%", "51", "%", "80", "%", "53", "%", "46", "%", "7", "%", "70", "%", "54", "%", "52", "%", "2", "%", "60", "%", "55", "%", "54", "%", "1", "%", "Contextual", "Information", "Formula", "90", "%", "55", "%", "54", "%", "1", "%", "80", "%", "62", "%", "62", "%", "0", "%", "70", "%", "65", "%", "65", "%", "0", "%", "60", "%", "68", "%", "68", "%", "0", "%", "Table", "2", ".", "Recall", "and", "precision", "values", "for", "the", "comparative", "forward", "match", "segmentation", "algorithm", "vs.", "forward", "match", "Precision", "Recall", "Mutual", "Information", "Improved", "Mutual", "Information", "Contextual", "Information", "90", "%", "57", "%", "-LRB-", "0.0", "-RRB-", "57", "%", "-LRB-", "-2.5", "-RRB-", "61", "%", "-LRB-", "-1.5", "-RRB-", "80", "%", "59", "%", "-LRB-", "3.7", "-RRB-", "59", "%", "-LRB-", "-1.5", "-RRB-", "66", "%", "-LRB-", "-0.8", "-RRB-", "70", "%", "59", "%", "-LRB-", "4.7", "-RRB-", "60", "%", "-LRB-", "-1.0", "-RRB-", "70", "%", "-LRB-", "-0.3", "-RRB-", "60", "%", "60", "%", "-LRB-", "5.6", "-RRB-", "62", "%", "-LRB-", "-0.7", "-RRB-", "74", "%", "-LRB-", "0.0", "-RRB-", "*", "Threshold", "values", "are", "given", "in", "parenthesis", ".", "Table", "3", ".", "Recall", "and", "precision", "for", "three", "statistical", "formulas", "86", "formula", "was", "better", "by", "about", "4", "%", ".", "At", "the", "60", "%", "recall", "level", ",", "it", "outperformed", "the", "mutual", "information", "formula", "by", "14", "%", "-LRB-", "giving", "a", "relative", "improvement", "of", "23", "%", "-RRB-", ".", "The", "results", "also", "indicate", "that", "the", "improved", "mutual", "information", "formula", "does", "not", "perform", "better", "than", "the", "mutual", "information", "formula", ".", "6.2", "Statistical", "Test", "of", "Significance", "In", "order", "to", "perform", "a", "statistical", "test", ",", "recall", "and", "precision", "figures", "were", "calculated", "for", "each", "of", "the", "100", "sentences", "used", "in", "the", "evaluation", ".", "The", "average", "recall", "and", "the", "average", "precision", "across", "the", "100", "sentences", "were", "then", "calculated", "for", "the", "three", "statistical", "formulas", ".", "In", "the", "previous", "section", ",", "recall", "and", "precision", "were", "calculated", "for", "all", "the", "100", "sentences", "combined", ".", "Here", ",", "recall", "and", "precision", "were", "obtained", "for", "individual", "sentences", "and", "then", "the", "average", "across", "the", "100", "sentences", "was", "calculated", ".", "The", "average", "precision", "for", "60", "%", ",", "70", "%", ",", "80", "%", "and", "90", "%", "average", "recall", "are", "given", "in", "Table", "4", ".", "For", "each", "recall", "level", ",", "an", "analysis", "of", "variance", "with", "repeated", "measures", "was", "carried", "out", "to", "find", "out", "whether", "the", "differences", "in", "precision", "were", "significant", ".", "Pairwise", "comparisons", "using", "Tukey", "s", "HSD", "test", "was", "also", "carried", "out", ".", "The", "contextual", "information", "formula", "was", "significantly", "better", "-LRB-", "=", "0.001", "-RRB-", "than", "the", "mutual", "information", "and", "the", "improved", "mutual", "information", "formulas", "at", "all", "4", "recall", "levels", ".", "The", "improved", "mutual", "information", "formula", "was", "not", "found", "to", "be", "significantly", "better", "than", "mutual", "information", ".", "The", "errors", "that", "arose", "from", "using", "the", "contextual", "information", "formula", "were", "analyzed", "to", "gain", "insights", "into", "the", "weaknesses", "of", "the", "model", "and", "how", "the", "model", "can", "be", "improved", ".", "There", "are", "two", "types", "of", "errors", ":", "errors", "of", "commission", "and", "errors", "of", "omission", ".", "Errors", "of", "commission", "are", "bigrams", "that", "are", "identified", "by", "the", "automatic", "segmentation", "to", "be", "words", "when", "in", "fact", "they", "are", "not", "-LRB-", "according", "to", "the", "manual", "segmentation", "-RRB-", ".", "Errors", "of", "omission", "are", "bigrams", "that", "are", "not", "identified", "by", "the", "automatic", "segmentation", "to", "be", "words", "but", "in", "fact", "they", "are", ".", "The", "errors", "depend", "of", "course", "on", "the", "threshold", "values", "used", ".", "A", "high", "threshold", "-LRB-", "e.g.", "1.0", "-RRB-", "emphasizes", "precision", "and", "a", "low", "threshold", "-LRB-", "e.g.", "1.0", "-RRB-", "emphasizes", "recall", ".", "50", "sentences", "were", "selected", "from", "the", "100", "sample", "sentences", "to", "find", "the", "distribution", "of", "errors", "at", "different", "regions", "of", "threshold", "values", ".", "Association", "Score", ">", "1.0", "-LRB-", "definite", "errors", "-RRB-", "will", "through", "telegraph", "-LSB-", "on", "the", "-RSB-", "day", "-LSB-", "31", "July", "-RSB-", "Association", "Score", "Between", "1.0", "and", "1.0", "-LRB-", "borderline", "errors", "-RRB-", "still", "to", "will", "be", "people", "etc.", ".", "I", "want", "Person", "'s", "name", "-LRB-", "-RRB-", "Wan", "Wen", "Ju", "Place", "name", "-LRB-", "-RRB-", "a", "village", "name", "in", "China", "-LRB-", "-RRB-", "Canada", "Name", "of", "an", "organization/institution", "-LRB-", "-RRB-", "Xin", "Hua", "Agency", "-LRB-", "-RRB-", "The", "State", "Department", "Table", "6", ".", "Bigrams", "incorrectly", "identified", "as", "words", "55", "60", "65", "70", "75", "60", "65", "70", "75", "80", "85", "90", "95", "Recall", "-LRB-", "%", "-RRB-", "Precision", "-LRB-", "%", "-RRB-", "Contextual", "information", "Mutual", "information", "Improved", "mutual", "information", "Fig.", "1", ".", "Recall-precision", "graph", "for", "the", "three", "statistical", "models", ".", "Association", "Score", ">", "1.0", "-LRB-", "definite", "errors", "-RRB-", "-LRB-", "-RRB-", "university", "-LRB-", "agricultural", "university", "-RRB-", "-LRB-", "-RRB-", "geology", "-LRB-", "geologic", "age", "-RRB-", "-LRB-", "-RRB-", "plant", "-LRB-", "upland", "plant", "-RRB-", "-LRB-", "-RRB-", "sovereignty", "-LRB-", "sovereign", "state", "-RRB-", "Association", "Score", "Between", "1.0", "and", "1.0", "-LRB-", "borderline", "errors", "-RRB-", "-LRB-", "-RRB-", "statistics", "-LRB-", "statistical", "data", "-RRB-", "-LRB-", "-RRB-", "calamity", "-LRB-", "natural", "calamity", "-RRB-", "-LRB-", "-RRB-", "resources", "-LRB-", "manpower", "resources", "-RRB-", "-LRB-", "-RRB-", "professor", "-LRB-", "associate", "professor", "-RRB-", "-LRB-", "-RRB-", "poor", "-LRB-", "pauperization", "-RRB-", "-LRB-", "-RRB-", "fourteen", "-LRB-", "the", "14", "th", "day", "-RRB-", "-LRB-", "-RRB-", "twenty", "-LRB-", "twenty", "pieces", "-RRB-", "Table", "5", ".", "Simple", "words", "that", "are", "part", "of", "a", "longer", "meaningful", "word", "Avg", "Precision", "Avg", "Recall", "Mutual", "Information", "Improved", "Mutual", "Information", "Contextual", "Information", "90", "%", "57", "%", "-LRB-", "1.0", "-RRB-", "58", "%", "-LRB-", "-2.3", "-RRB-", "61", "%", "-LRB-", "-1.5", "-RRB-", "80", "%", "60", "%", "-LRB-", "3.8", "-RRB-", "60", "%", "-LRB-", "-1.4", "-RRB-", "67", "%", "-LRB-", "-0.7", "-RRB-", "70", "%", "59", "%", "-LRB-", "4.8", "-RRB-", "60", "%", "-LRB-", "-1.0", "-RRB-", "70", "%", "-LRB-", "-0.3", "-RRB-", "60", "%", "60", "%", "-LRB-", "5.6", "-RRB-", "63", "%", "-LRB-", "-0.6", "-RRB-", "73", "%", "-LRB-", "0.0", "-RRB-", "*", "Threshold", "values", "are", "given", "in", "parenthesis", ".", "Table", "4", ".", "Average", "recall", "and", "average", "precision", "for", "the", "three", "statistical", "formulas", "87", "We", "divide", "the", "errors", "of", "commission", "-LRB-", "bigrams", "that", "are", "incorrectly", "identified", "as", "words", "by", "the", "automatic", "segmentation", "-RRB-", "into", "2", "groups", ":", "1", ".", "Definite", "errors", ":", "bigrams", "with", "association", "scores", "above", "1.0", "but", "are", "not", "words", "2", ".", "Borderline", "errors", ":", "bigrams", "with", "association", "scores", "between", "1.0", "and", "1.0", "and", "are", "not", "words", "We", "also", "divide", "the", "errors", "of", "omission", "-LRB-", "bigrams", "that", "are", "words", "but", "are", "not", "identified", "by", "the", "automatic", "segmentation", "-RRB-", "into", "2", "groups", ":", "1", ".", "Definite", "errors", ":", "bigrams", "with", "association", "scores", "below", "1.0", "but", "are", "words", "2", ".", "Borderline", "errors", ":", "bigrams", "with", "association", "scores", "between", "1.0", "and", "1.0", "and", "are", "words", ".", "7.1", "Errors", "of", "Commission", "Errors", "of", "commission", "can", "be", "divided", "into", "2", "types", ":", "1", ".", "The", "bigram", "is", "a", "simple", "word", "that", "is", "part", "of", "a", "longer", "meaningful", "word", ".", "2", ".", "The", "bigram", "is", "not", "a", "word", "-LRB-", "neither", "simple", "word", "nor", "meaningful", "word", "-RRB-", ".", "Errors", "of", "the", "first", "type", "are", "illustrated", "in", "Table", "5", ".", "The", "words", "within", "parenthesis", "are", "actually", "meaningful", "words", "but", "segmented", "as", "simple", "words", "-LRB-", "words", "on", "the", "left", "-RRB-", ".", "The", "words", "lose", "part", "of", "the", "meaning", "when", "segmented", "as", "simple", "words", ".", "These", "errors", "occurred", "mostly", "with", "3", "or", "4-character", "meaningful", "words", ".", "Errors", "of", "the", "second", "type", "are", "illustrated", "in", "Table", "6", ".", "Many", "of", "the", "errors", "are", "caused", "by", "incorrectly", "linking", "a", "character", "with", "a", "function", "word", "or", "pronoun", ".", "Some", "of", "the", "errors", "can", "easily", "be", "removed", "by", "using", "a", "list", "of", "function", "words", "and", "pronouns", "to", "identify", "these", "characters", ".", "7.2", "Errors", "of", "Omission", "Examples", "of", "definite", "errors", "of", "omission", "-LRB-", "bigrams", "with", "association", "scores", "below", "1.0", "but", "are", "words", "-RRB-", "are", "given", "in", "Table", "7", ".", "Most", "of", "the", "errors", "are", "rare", "words", "and", "time", "words", ".", "Some", "are", "ancient", "names", ",", "rare", "and", "unknown", "place", "names", ",", "as", "well", "as", "technical", "terms", ".", "Since", "our", "corpus", "comprises", "general", "news", "articles", ",", "these", "types", "of", "words", "are", "not", "frequent", "in", "the", "corpus", ".", "Time", "words", "like", "dates", "usually", "have", "low", "association", "values", "because", "they", "change", "everyday", "!", "These", "errors", "can", "be", "reduced", "by", "incorporating", "a", "separate", "algorithm", "for", "recognizing", "them", ".", "The", "proportion", "of", "errors", "of", "the", "various", "types", "are", "given", "in", "Table", "8", ".", "A", "new", "statistical", "formula", "for", "identifying", "2-character", "words", "in", "Chinese", "text", ",", "called", "the", "contextual", "information", "formula", ",", "was", "developed", "empirically", "using", "regression", "analysis", ".", "The", "focus", "was", "on", "identifying", "meaningful", "words", "-LRB-", "including", "multi-word", "terms", "and", "idioms", "-RRB-", "rather", "than", "simple", "words", ".", "The", "formula", "was", "found", "to", "give", "significantly", "and", "substantially", "better", "results", "than", "the", "mutual", "information", "formula", ".", "Contextual", "information", "in", "the", "form", "of", "the", "frequency", "of", "characters", "that", "are", "adjacent", "to", "the", "bigram", "being", "processed", "as", "well", "as", "the", "weighted", "document", "frequency", "of", "the", "overlapping", "bigrams", "were", "found", "to", "be", "significant", "factors", "for", "predicting", "the", "probablity", "that", "the", "bigram", "constitutes", "a", "word", ".", "Local", "information", "-LRB-", "e.g.", "the", "number", "of", "times", "the", "bigram", "occurs", "in", "the", "document", "being", "segmented", "-RRB-", "and", "the", "position", "of", "the", "bigram", "in", "the", "sentence", "were", "not", "found", "to", "be", "useful", "in", "determining", "words", ".", "Of", "the", "bigrams", "that", "the", "formula", "erroneously", "identified", "as", "words", ",", "about", "80", "%", "of", "them", "were", "actually", "simple", "words", ".", "Of", "the", "rest", ",", "many", "involved", "incorrect", "linking", "with", "a", "function", "words", ".", "Of", "the", "words", "that", "the", "formula", "failed", "to", "identify", "as", "words", ",", "more", "than", "a", "third", "of", "them", "were", "rare", "words", "or", "time", "words", ".", "The", "proportion", "of", "rare", "words", "increased", "as", "the", "threshold", "value", "used", "was", "lowered", ".", "These", "rare", "words", "can", "not", "be", "identified", "using", "statistical", "techniques", ".", "This", "study", "investigated", "a", "purely", "statistical", "approach", "to", "text", "Association", "Score", "between", "-1.0", "and", "-2.0", "the", "northern", "section", "of", "a", "construction", "project", "fragments", "of", "ancient", "books", "Association", "Score", "<", "-2.0", "September", "3rd", "day", "-LRB-", "name", "of", "a", "district", "in", "China", "-RRB-", "-LRB-", "name", "of", "an", "institution", "-RRB-", "the", "Book", "of", "Changes", "Table", "7", ".", "2-character", "words", "with", "association", "score", "below", "-1.0", "Errors", "of", "Commission", "Association", "score", ">", "1.0", "-LRB-", "No", ".", "of", "errors", "=", "34", "-RRB-", "Borderline", "Cases", "Association", "score", ":", "1.0", "to1", ".0", "-LRB-", "No", ".", "of", "cases", ":", "210", "-RRB-", "Errors", "of", "Omission", "Association", "score", "<", "1.0", "Association", "score", ":", "1.0", "to", "2.0", "-LRB-", "No", ".", "of", "errors", "=", "43", "-RRB-", "Association", "score", "<", "2.0", "-LRB-", "No", ".", "of", "errors", "=", "22", "-RRB-", "Simple", "words", "82.3", "%", "Not", "words", "17.7", "%", "Simple", "words", "55.2", "%", "Not", "words", "20.5", "%", "Meaningful", "words", "24.3", "%", "Rare", "words", "&", "time", "words", "23.2", "%", "Others", "76.8", "%", "Rare", "words", "&", "time", "words", "63.6", "%", "Others", "36.4", "%", "Table", "8", ".", "Proportion", "of", "errors", "of", "different", "types", "88", "segmentation", ".", "The", "advantage", "of", "the", "statistical", "approach", "is", "that", "it", "can", "be", "applied", "to", "any", "domain", ",", "provided", "that", "the", "document", "collection", "is", "sufficiently", "large", "to", "provide", "frequency", "information", ".", "A", "domain-specific", "dictionary", "of", "words", "is", "not", "required", ".", "In", "fact", ",", "the", "statistical", "formula", "can", "be", "used", "to", "generate", "a", "shortlist", "of", "candidate", "words", "for", "such", "a", "dictionary", ".", "On", "the", "other", "hand", ",", "the", "statistical", "method", "can", "not", "identify", "rare", "words", "and", "proper", "names", ".", "It", "is", "also", "fooled", "by", "combinations", "of", "function", "words", "that", "occur", "frequently", "and", "by", "function", "words", "that", "co-occur", "with", "other", "words", ".", "It", "is", "well-known", "that", "a", "combination", "of", "methods", "is", "needed", "to", "give", "the", "best", "segmentation", "results", ".", "The", "segmentation", "quality", "in", "this", "study", "can", "be", "improved", "by", "using", "a", "list", "of", "function", "words", "and", "segmenting", "the", "function", "words", "as", "single", "character", "words", ".", "A", "dictionary", "of", "common", "and", "well-known", "names", "-LRB-", "including", "names", "of", "persons", ",", "places", ",", "institutions", ",", "government", "bodies", "and", "classic", "books", "-RRB-", "could", "be", "used", "by", "the", "system", "to", "identify", "proper", "names", "that", "occur", "infrequently", "in", "the", "corpus", ".", "Chang", "et", "al.", "-LSB-", "2", "-RSB-", "developed", "a", "method", "for", "recognizing", "proper", "nouns", "using", "a", "dictionary", "of", "family", "names", "in", "combination", "with", "a", "statistical", "method", "for", "identifying", "the", "end", "of", "the", "name", ".", "An", "algorithm", "for", "identifying", "time", "and", "dates", "would", "also", "be", "helpful", ".", "It", "is", "not", "clear", "whether", "syntactic", "processing", "can", "be", "used", "to", "improve", "the", "segmentation", "results", "substantially", ".", "Our", "current", "work", "includes", "developing", "statistical", "formulas", "for", "identifying", "3", "and", "4-character", "words", ",", "as", "well", "as", "investigating", "whether", "the", "statistical", "formula", "developed", "here", "can", "be", "used", "with", "other", "corpora", ".", "The", "approach", "adopted", "in", "this", "study", "can", "also", "be", "used", "to", "develop", "statistical", "models", "for", "identifying", "multi-word", "terms", "in", "English", "text", ".", "It", "would", "be", "interesting", "to", "see", "whether", "the", "regression", "model", "developed", "for", "English", "text", "is", "similar", "to", "the", "one", "developed", "in", "this", "study", "for", "Chinese", "text", ".", "Frantzi", ",", "Ananiadou", "&", "Tsujii", "-LSB-", "7", "-RSB-", ",", "using", "a", "different", "statistical", "approach", ",", "found", "that", "contextual", "information", "could", "be", "used", "to", "improve", "the", "identification", "of", "multi-word", "terms", "in", "English", "text", ".", "-LSB-", "1", "-RSB-", "Chang", ",", "C.-H.", ",", "and", "Chen", ",", "C.-D", ".", "A", "study", "of", "integrating", "Chinese", "word", "segmentation", "and", "part-of-speech", "tagging", ".", "Communications", "of", "COLIPS", ",", "3", ",", "1", "-LRB-", "1993", "-RRB-", ",", "69-77", ".", "-LSB-", "2", "-RSB-", "Chang", ",", "J.-S.", ",", "Chen", ",", "S.-D.", ",", "Ker", ",", "S.-J.", ",", "Chen", ",", "Y.", ",", "and", "Liu", ",", "J.S.", ".", "A", "multiple-corpus", "approach", "to", "recognition", "of", "proper", "names", "in", "Chinese", "texts", ".", "Computer", "Processing", "of", "Chinese", "and", "Oriental", "Languages", ",", "8", ",", "1", "-LRB-", "June", "1994", "-RRB-", ",", "75-85", ".", "-LSB-", "3", "-RSB-", "Church", ",", "K.W.", ",", "and", "Hanks", ",", "P.", "Word", "association", "norms", ",", "mutual", "information", "and", "lexicography", ".", "In", "Proceedings", "of", "the", "27", "th", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "-LRB-", "Vancouver", ",", "June", "1989", "-RRB-", ",", "76-83", ".", "-LSB-", "4", "-RSB-", "Dai", ",", "J.C.", ",", "and", "Lee", ",", "H.J.", ".", "A", "generalized", "unification-based", "LR", "parser", "for", "Chinese", ".", "Computer", "Processing", "of", "Chinese", "and", "Oriental", "Languages", ",", "8", ",", "1", "-LRB-", "1994", "-RRB-", ",", "1-18", ".", "-LSB-", "5", "-RSB-", "Dai", ",", "Y.", "Developing", "a", "new", "statistical", "method", "for", "Chinese", "text", "segmentation", ".", "-LRB-", "Master", "s", "thesis", "in", "preparation", "-RRB-", "-LSB-", "6", "-RSB-", "Damerau", ",", "F.J.", "Generating", "and", "evaluating", "domain-oriented", "multi-word", "terms", "from", "texts", ".", "Information", "Processing", "&", "Management", ",", "29", ",", "4", "-LRB-", "1993", "-RRB-", ",", "433-447", ".", "-LSB-", "7", "-RSB-", "Frantzi", ",", "K.T.", ",", "Ananiadou", ",", "S.", ",", "and", "Tsujii", ",", "J", ".", "The", "C-value/NC", "-", "value", "method", "of", "automatic", "recognition", "for", "multi-word", "terms", ".", "In", "C.", "Nikolaou", "and", "C.", "Stephanidis", "-LRB-", "eds", ".", "-RRB-", ",", "Research", "and", "Advanced", "Technology", "for", "Digital", "Libraries", ",", "2", "nd", "European", "Conference", ",", "ECDL", "98", "-LRB-", "Heraklion", ",", "Crete", ",", "September", "1998", "-RRB-", ",", "Springer-Verlag", ",", "585-604", ".", "-LSB-", "8", "-RSB-", "Liang", ",", "N.Y.", ".", "The", "knowledge", "of", "Chinese", "words", "segmentation", "-LSB-", "in", "Chinese", "-RSB-", ".", "Journal", "of", "Chinese", "Information", "Processing", ",", "4", ",", "2", "-LRB-", "1990", "-RRB-", ",", "42-49", ".", "-LSB-", "9", "-RSB-", "Liu", ",", "I.M.", "Descriptive-unit", "analysis", "of", "sentences", ":", "Toward", "a", "model", "natural", "language", "processing", ".", "Computer", "Processing", "of", "Chinese", "&", "Oriental", "Languages", ",", "4", ",", "4", "-LRB-", "1990", "-RRB-", ",", "314-355", ".", "-LSB-", "10", "-RSB-", "Liu", ",", "Y.", ",", "Tan", ",", "Q.", ",", "and", "Shen", ",", "X.K.", "Xin", "xi", "chu", "li", "yong", "xian", "dai", "han", "yu", "fen", "ci", "gui", "fan", "ji", "zi", "dong", "fen", "ci", "fang", "fa", "-LSB-", "Modern", "Chinese", "Word", "Segmentation", "Rules", "and", "Automatic", "Word", "Segmentation", "Methods", "for", "Information", "Processing", "-RSB-", ".", "Qing", "Hua", "University", "Press", ",", "Beijing", ",", "1994", ".", "-LSB-", "11", "-RSB-", "Lua", ",", "K.T.", "Experiments", "on", "the", "use", "of", "bigram", "mutual", "information", "in", "Chinese", "natural", "language", "processing", ".", "Presented", "at", "the", "1995", "International", "Conference", "on", "Computer", "Processing", "of", "Oriental", "Languages", "-LRB-", "ICCPOL", "-RRB-", "-LRB-", "Hawaii", ",", "November", "1995", "-RRB-", ".", "Available", ":", "http://137.132.89.143/luakt/", "publication.html", "-LSB-", "12", "-RSB-", "Lua", ",", "K.T.", "From", "character", "to", "word", "-", "An", "application", "of", "information", "theory", ".", "Computer", "Processing", "of", "Chinese", "&", "Oriental", "Languages", ",", "4", ",", "4", "-LRB-", "1990", "-RRB-", ",", "304-312", ".", "-LSB-", "13", "-RSB-", "Lua", ",", "K.T.", ",", "and", "Gan", ",", "G.W.", ".", "An", "application", "of", "information", "theory", "in", "Chinese", "word", "segmentation", ".", "Computer", "Processing", "of", "Chinese", "&", "Oriental", "Languages", ",", "8", ",", "1", "-LRB-", "1994", "-RRB-", ",", "115-124", ".", "-LSB-", "14", "-RSB-", "Nie", ",", "J.Y.", ",", "Hannan", ",", "M.L.", ",", "and", "Jin", ",", "W.Y.", "Unknown", "word", "detection", "and", "segmentation", "of", "Chinese", "using", "statistical", "and", "heuristic", "knowledge", ".", "Communications", "of", "COLIPS", ",", "5", ",", "1", "&", "2", "-LRB-", "1995", "-RRB-", ",", "47-57", ".", "-LSB-", "15", "-RSB-", "Ogawa", ",", "Y.", ",", "and", "Matsuda", ",", "T.", "Overlapping", "statistical", "word", "indexing", ":", "A", "new", "indexing", "method", "for", "Japanese", "text", ".", "In", "Proceedings", "of", "the", "20th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "Philadelphia", ",", "July", "1997", "-RRB-", ",", "ACM", ",", "226-234", ".", "-LSB-", "16", "-RSB-", "Sproat", ",", "R.", ",", "and", "Shih", ",", "C.L.", ".", "A", "statistical", "method", "for", "finding", "word", "boundaries", "in", "Chinese", "text", ".", "Computer", "Processing", "of", "Chinese", "&", "Oriental", "Languages", ",", "4", ",", "4", "-LRB-", "1990", "-RRB-", ",", "336-351", ".", "-LSB-", "17", "-RSB-", "Sproat", ",", "R.", ",", "Shih", ",", "C.", ",", "Gale", ",", "W.", ",", "and", "Chang", ",", "N", ".", "A", "stochastic", "finite-state", "word-segmentation", "algorithm", "for", "Chinese", ".", "Computational", "Lingustics", ",", "22", ",", "3", "-LRB-", "1996", "-RRB-", ",", "377-404", ".", "-LSB-", "18", "-RSB-", "Tung", ",", "C.-H.", ",", "and", "Lee", ",", "H.-J", ".", "Identification", "of", "unknown", "words", "from", "a", "corpus", ".", "Computer", "Processing", "of", "Chinese", "and", "Oriental", "Languages", ",", "8", "-LRB-", "Supplement", ",", "Dec.", "1994", "-RRB-", ",", "131-145", ".", "-LSB-", "19", "-RSB-", "Wu", ",", "Z.", ",", "and", "Tseng", ",", "G.", "ACTS", ":", "An", "automatic", "Chinese", "text", "segmentation", "system", "for", "full", "text", "retrieval", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "46", ",", "2", "-LRB-", "1995", "-RRB-", ",", "83-96", ".", "-LSB-", "20", "-RSB-", "Yeh", ",", "C.L.", ",", "and", "Lee", ",", "H.J.", "Rule-based", "word", "identification", "for", "mandarin", "Chinese", "sentences", ":", "A", "unification", "approach", ".", "Computer", "Processing", "of", "Chinese", "and", "Oriental", "Languages", ",", "5", ",", "2", "-LRB-", "1991", "-RRB-", ",", "97-118", ".", "89"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "I", "I", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["statistical formula", "logistic regression", "word boundary", "natural language processing", "contextual information", "regression model", "chinese text segmentation", "mutual information"], "abstractive_keyphrases": ["word boundary identification", "multi-word terms"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "197", "document": ["Towards", "Content-Based", "Relevance", "Ranking", "for", "Video", "Search", "Most", "existing", "web", "video", "search", "engines", "index", "videos", "by", "file", "names", ",", "URLs", ",", "and", "surrounding", "texts", ".", "These", "types", "of", "video", "metadata", "roughly", "describe", "the", "whole", "video", "in", "an", "abstract", "level", "without", "taking", "the", "rich", "content", ",", "such", "as", "semantic", "content", "descriptions", "and", "speech", "within", "the", "video", ",", "into", "consideration", ".", "Therefore", "the", "relevance", "ranking", "of", "the", "video", "search", "results", "is", "not", "satisfactory", "as", "the", "details", "of", "video", "contents", "are", "ignored", ".", "In", "this", "paper", "we", "propose", "a", "novel", "relevance", "ranking", "approach", "for", "Web-based", "video", "search", "using", "both", "video", "metadata", "and", "the", "rich", "content", "contained", "in", "the", "videos", ".", "To", "leverage", "real", "content", "into", "ranking", ",", "the", "videos", "are", "segmented", "into", "shots", ",", "which", "are", "smaller", "and", "more", "semantic-meaningful", "retrievable", "units", ",", "and", "then", "more", "detailed", "information", "of", "video", "content", "such", "as", "semantic", "descriptions", "and", "speech", "of", "each", "shots", "are", "used", "to", "improve", "the", "retrieval", "and", "ranking", "performance", ".", "With", "video", "metadata", "and", "content", "information", "of", "shots", ",", "we", "developed", "an", "integrated", "ranking", "approach", ",", "which", "achieves", "improved", "ranking", "performance", ".", "We", "also", "introduce", "machine", "learning", "into", "the", "ranking", "system", ",", "and", "compare", "them", "with", "IR", "model", "-LRB-", "information", "retrieval", "model", "-RRB-", "based", "method", ".", "The", "evaluation", "results", "demonstrate", "the", "effectiveness", "of", "the", "proposed", "ranking", "methods", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "-", "Search", "process", "General", "Terms", ":", "Algorithms", ",", "Performance", ",", "Experimentation", ".", "Multimedia", "search", "has", "become", "an", "active", "research", "field", "due", "to", "the", "rapid", "increase", "of", "online-available", "content", "and", "new", "practical", "applications", ".", "Search", "technology", "is", "considered", "the", "key", "to", "navigating", "the", "Internet", "'s", "growing", "media", "-LRB-", "video", ",", "audio", "and", "image", "-RRB-", "collections", ".", "Google", "Yahoo", ",", "Blinkx", "and", "other", "search", "companies", "have", "provided", "elementary", "video", "search", "engines", ".", "However", ",", "existing", "video", "search", "engines", "are", "all", "based", "on", "the", "text", "information", "related", "to", "the", "video", "which", "can", "be", "retrieved", "from", "web", "pages", ",", "such", "as", "file", "names", ",", "URLs", ",", "and", "surrounding", "texts", ".", "These", "types", "of", "textual", "information", "can", "be", "considered", "as", "``", "metadata", "''", "of", "the", "video", "since", "they", "only", "roughly", "describe", "the", "video", ".", "There", "is", "no", "doubt", "that", "text", "searching", "is", "the", "most", "efficient", "way", "to", "retrieve", "information", "-LRB-", "even", "when", "searching", "for", "videos", "-RRB-", ",", "because", "it", "well", "matches", "the", "manner", "of", "human", "thinking", ".", "However", ",", "only", "using", "metadata", "is", "far", "form", "people", "'s", "expectation", "in", "video", "searching", ",", "because", "even", "the", "best", "case", "scenario", ",", "the", "metadata", "is", "only", "the", "highly", "concentrated", "overview", "of", "a", "video", ",", "with", "many", "losses", "on", "details", ".", "In", "general", ",", "a", "video", "consists", "of", "many", "shots", "and", "sub-events", "with", "a", "temporal", "main", "thread", ".", "The", "video", "should", "be", "segmented", "into", "smaller", "retrievable", "units", "that", "are", "directly", "related", "to", "what", "users", "perceive", "as", "meaningful", ".", "Much", "research", "has", "concentrated", "on", "segmenting", "video", "streams", "into", "``", "shots", "''", "using", "low", "level", "visual", "features", "-LSB-", "1", "-RSB-", ".", "Each", "segment", "has", "its", "own", "scenes", "and", "meanings", ".", "In", "many", "cases", ",", "when", "users", "query", "a", "video", ",", "they", "intend", "to", "find", "some", "desired", "clips", "in", "the", "video", "instead", "of", "viewing", "it", "thoroughly", ".", "However", ",", "this", "can", "seldom", "be", "achieved", "by", "searching", "the", "surrounding", "text", "which", "is", "related", "to", "the", "whole", "video", ".", "Much", "content", "information", "can", "be", "used", "to", "search", "videos", "and", "shots", ".", "In", "content-based", "video", "retrieval", "systems", ",", "video", "shots", "can", "be", "classified", "into", "or", "annotated", "by", "several", "semantic", "concepts", ".", "The", "most", "substantial", "works", "in", "this", "field", "are", "presented", "in", "the", "TREC", "Video", "Retrieval", "Evaluation", "-LRB-", "TRECVID", "-RRB-", "community", "-LSB-", "2", "-RSB-", ".", "In", "addition", ",", "speech", "is", "also", "significant", "information", "which", "has", "close", "connection", "to", "video", "contents", ".", "Some", "videos", "are", "associated", "with", "transcripts/closed", "captions", "which", "are", "provided", "by", "content", "provider", ".", "Using", "ASR", "-LRB-", "automatically", "speech", "recognition", "-RRB-", "to", "generate", "speech", "text", "is", "another", "practical", "solution", ".", "In", "this", "paper", ",", "with", "the", "video", "metadata", "and", "content", "information", "of", "video", "shots", ",", "we", "index", "and", "rank", "the", "videos", "in", "a", "way", "similar", "to", "general", "text-based", "web", "page", "search", "engines", ".", "The", "IR-model", ",", "which", "is", "widely", "employed", "in", "text", "information", "retrieval", "and", "web", "page", "search", ",", "will", "be", "applied", "to", "rank", "the", "search", "results", "by", "examining", "relevance", "between", "query", "and", "indexed", "information", "-LRB-", "including", "both", "metadata", "and", "content", "information", "-RRB-", ".", "To", "fully", "utilize", "the", "content", "information", "and", "get", "a", "better", "ranking", "performance", ",", "we", "integrate", "the", "``", "shot", "relevance", "''", "into", "``", "video", "relevance", "''", ".", "That", "is", ",", "the", "ranking", "is", "decided", "not", "only", "by", "the", "relevance", "of", "video", "-LRB-", "metadata", "of", "the", "entire", "video", "-RRB-", ",", "but", "also", "by", "all", "the", "relevant", "shots", "within", "the", "video", ".", "We", "also", "apply", "learning", "based", "method", "to", "rank", "the", "search", "results", "based", "on", "a", "set", "of", "features", "extracted", "from", "the", "corresponding", "query", ",", "video", "metadata", ",", "and", "content", "information", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "introduces", "the", "IR-model", "based", "ranking", ",", "including", "extraction", "of", "video", "metadata", "and", "content", "information", ",", "and", "a", "ranking", "method", "integrating", "these", "two", "types", "of", "information", ".", "In", "section", "3", ",", "a", "learning", "based", "ranking", "approach", "is", "presented", ".", "Section", "4", "compares", "the", "ranking", "performance", "evolution", "results", ",", "and", "Section", "5", "concludes", "the", "paper", ".", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "MM", "'", "06", ",", "October", "23", "?", "7", ",", "2006", ",", "Santa", "Barbara", ",", "California", ",", "USA", ".", "ACM", "1-59593-447-2", "/", "06/0010", ".", "627", "In", "the", "traditional", "text", "retrieval", "and", "web", "page", "search", ",", "IR", "-LRB-", "Information", "Retrieval", "-RRB-", "models", "are", "usually", "used", "to", "evaluate", "the", "relevance", "between", "a", "query", "and", "a", "document", ".", "BM25", "-LSB-", "3", "-RSB-", "is", "one", "of", "the", "frequently", "used", "evaluation", "methods", ".", "Given", "a", "query", "Q", "and", "a", "document", "D", ",", "the", "relevance", "between", "Q", "and", "D", "can", "be", "modeled", "as", "the", "summation", "of", "the", "relevance", "between", "each", "query", "term", "-LRB-", "word", "-RRB-", "t", "in", "Q", "and", "D", ":", "=", "Q", "t", "t", "D", "R", "Q", "D", "R", "-RRB-", ",", "-LRB-", "-RRB-", ",", "-LRB-", "-LRB-", "1", "-RRB-", "where", ":", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "-RRB-", "|", "|", "-RRB-", "1", "-LRB-", "-LRB-", "-RRB-", ",", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", ",", "-LRB-", "1", "1", "t", "w", "D", "t", "tf", "avdl", "D", "b", "b", "k", "D", "t", "tf", "k", "t", "D", "R", "+", "+", "+", "=", "-LRB-", "2", "-RRB-", "-RRB-", "-LRB-", "5", ".", "0", "-RRB-", "-LRB-", "log", "-RRB-", "-LRB-", "t", "df", "t", "df", "N", "t", "w", "+", "=", "-LRB-", "3", "-RRB-", "Here", "k", "1", "and", "b", "are", "parameters", ".", "tf", "-LRB-", "t", ",", "D", "-RRB-", "is", "term", "frequency", ",", "means", "the", "frequency", "of", "term", "t", "appears", "in", "document", "D.", "df", "-LRB-", "t", "-RRB-", "is", "document", "frequency", ",", "means", "the", "frequency", "of", "document", "which", "contains", "term", "t", "within", "all", "documents", ".", "|", "D", "|", "stands", "for", "the", "length", "of", "document", "D", ".", "The", "basic", "idea", "of", "this", "IR", "model", "can", "be", "explained", "as", ",", "if", "the", "query", "term", "appears", "in", "document", "more", "frequently", "-LRB-", "higher", "tf", "-RRB-", ",", "and", "the", "query", "term", "is", "more", "unique", "that", "less", "documents", "contain", "it", "-LRB-", "lower", "df", "-RRB-", ",", "the", "query", "will", "be", "more", "relevant", "to", "the", "document", ".", "2.2", "Index", "and", "Rank", "the", "Video", "Information", "The", "video", "data", "used", "in", "our", "experimental", "system", "are", "from", "MSN", "Video", "-LRB-", "http://video.msn.com/", "-RRB-", ",", "which", "contains", "7230", "videos", ".", "2.2.1", "Metadata", "of", "the", "video", "Because", "the", "videos", "in", "our", "data", "set", "are", "made", "by", "professional", "content", "provider", ",", "there", "is", "rich", "meta", "information", "that", "describes", "each", "entire", "video", "with", "brief", "text", ".", "Each", "video", "has", "the", "following", "metadata", "fields", ":", "headline", ",", "caption", ",", "keywords", ",", "source", ",", "video", "URL", ",", "thumbnail", "image", "URL", ",", "related", "web", "page", "anchor", "text", ",", "page", "URL", ",", "etc.", ".", "Besides", "these", "types", "of", "textual", "information", ",", "some", "format", "information", "of", "the", "video", ",", "such", "as", "video", "length", ",", "frame", "size", ",", "bit", "rate", ",", "and", "creation", "date", "are", "also", "extracted", ".", "Some", "selected", "information", "fields", "of", "video", "metadata", "are", "listed", "in", "Table", "1", ".", "Table", "1", ".", "Video", "metadata", "Field", "Example", "Value", "Headline", "Discovery", "launches", "Caption", "July", "26", ":", "Watch", "the", "entire", "launch", "of", "space", "shuttle", "D.", ".", ".", "Source", "MSNBC", "Keywords", "Technology", ",", "science", ",", "Space", ",", "Partner", "Codes", "...", "Video", "URL", "http://www.msnbc.msn.com/default.cdnx/id/871313", "...", "Link", "anchor", "MSNBC.com", "'s", "Technology", "and", "Science", "front", "Link", "URL", "http://www.msnbc.msn.com/id/3032118", "date", "7/26/2005", "4:40:48", "PM", "video", "length", "609.72", "seconds", "Frame", "size", "320", "x", "240", "Bit", "rate", "180", "Kbps", "For", "the", "videos", "contained", "in", "general", "web", "pages", ",", "some", "attributes", "mentioned", "above", "may", "not", "be", "obtained", "directly", ",", "but", "the", "surrounding", "texts", ",", "URL", ",", "filename", "can", "be", "extracted", "as", "the", "metadata", "fields", "of", "the", "video", ".", "These", "information", "fields", "correspond", "to", "document", "D", "in", "Section", "2.1", ".", "Different", "fields", "can", "be", "represented", "by", "different", "type", "of", "D", "-LRB-", "D", "i", "in", "Equation", "4", "-RRB-", ".", "The", "overall", "relevance", "can", "be", "calculated", "by", "the", "weighted", "summation", "of", "the", "relevance", "of", "all", "fields", ".", "The", "weight", "of", "the", "fields", "-LRB-", "DW", "i", "in", "Equation", "4", "-RRB-", "can", "be", "determined", "by", "their", "importance", ",", "significance", ",", "and", "representativeness", "to", "the", "video", ".", "=", "-RRB-", ",", "-LRB-", "-RRB-", ",", "-LRB-", "Q", "D", "R", "DW", "Q", "Video", "R", "i", "i", "-LRB-", "4", "-RRB-", "In", "our", "system", ",", "four", "major", "information", "fields", "from", "video", "metadata", "are", "selected", "to", "be", "indexed", ":", "headline", ",", "caption", ",", "keywords", ",", "and", "source", ".", "Headline", "is", "a", "highly", "representative", "description", "of", "the", "video", "content", ".", "Keywords", "are", "also", "good", "recapitulative", "terms", ".", "For", "these", "two", "fields", ",", "higher", "weights", "are", "set", ".", "Caption", "is", "a", "more", "general", "and", "detail", "depicts", "for", "the", "video", ";", "Source", "provided", "a", "higher", "level", "and", "less", "relevant", "information", ",", "they", "will", "be", "set", "lower", "weights", "for", "ranking", ".", "Table", "2", "gives", "out", "the", "weights", "of", "fields", "in", "our", "experimental", "system", ".", "Table", "2", ".", "Weights", "for", "relevance", "evaluation", "Fields", "weight", "Headline", "10", "Keywords", "10", "Caption", "5", "source", "1", "2.2.2", "Content", "information", "of", "the", "video", "shots", "There", "is", "plenty", "of", "information", "in", "the", "visual/audio", "content", "of", "the", "video", "sequence", ",", "which", "can", "not", "be", "sufficiently", "presented", "by", "the", "aforementioned", "textual", "video", "metadata", ".", "We", "can", "build", "a", "set", "of", "models", "that", "can", "be", "applied", "to", "automatically", "detect", "a", "corresponding", "set", "of", "concepts", "such", "that", "each", "video", "shot", "can", "be", "annotated", "with", "a", "detection", "confidence", "score", "for", "each", "concept", ".", "Successful", "concept", "modeling", "and", "detection", "approaches", "have", "been", "introduced", "in", "TRECVID", ",", "relying", "predominantly", "on", "visual/aural", "analysis", "and", "statistical", "machine", "learning", "methods", "-LSB-", "4", "-RSB-", ".", "The", "LSCOM-lite", "Lexicon", "-LSB-", "5", "-RSB-", "designed", "for", "the", "TRECVID", "2005", "Benchmark", "consists", "of", "more", "than", "40", "concepts", "spread", "across", "multiple", "concept-types", "such", "as", "object", ",", "events", ",", "site", "etc.", ".", "Though", "the", "size", "of", "the", "lexicon", "is", "still", "far", "from", "practical", "application", "for", "general", "Web-based", "video", "search", ",", "this", "semantic", "information", "is", "promising", "to", "enable", "real", "content-based", "video", "search", ",", "and", "therefore", "it", "is", "applied", "in", "our", "ranking", "system", ".", "Besides", "visual", "contents", ",", "information", "from", "audio", "channel", ",", "especially", "the", "speech", ",", "is", "also", "very", "useful", "for", "searching", "videos", ".", ".", "In", "our", "experimental", "system", ",", "we", "use", "Microsoft", "speech", "recognition", "engine", "-LRB-", "with", "a", "large", "vocabulary", "-RRB-", ".", "This", "engine", "gives", "recognized", "words", "with", "a", "start", "timestamp", ",", "length", ",", "and", "a", "recognition", "confidence", "value", ",", "which", "are", "very", "useful", "for", "later", "indexing", "and", "ranking", ".", "The", "speech", "texts", "are", "allotted", "and", "assigned", "into", "video", "shots", ",", "according", "to", "the", "timestamp", "of", "words", "and", "video", "shots", ".", "The", "content", "information", "is", "associated", "with", "individual", "video", "shot", ",", "which", "consist", "of", "semantic", "keywords", "-LRB-", "with", "corresponding", "detection", "confidences", "-RRB-", ",", "and", "speech", "words", "-LRB-", "with", "recognition", "confidences", "-RRB-", ".", "The", "confidences", "of", "words", "will", "act", "as", "weights", "of", "term", "frequencies", "tf", "to", "calculate", "the", "relevance", "in", "Equation", "-LRB-", "2", "-RRB-", ".", "628", "2.3", "Integrated", "Ranking", "with", "Metadata", "and", "Content", "Information", "To", "combine", "metadata", "and", "content", "to", "rank", "the", "videos", ",", "we", "index", "the", "videos", "by", "metadata", "and", "index", "the", "video", "shots", "by", "content", "information", "separately", ",", "and", "then", "integrated", "these", "two", "rank", "lists", ",", "named", "video", "list", "and", "shot", "list", ",", "to", "form", "a", "final", "ranking", ".", "The", "integrated", "ranking", "returns", "search", "result", "by", "video", ",", "but", "taking", "all", "the", "relevance", "shots", "within", "this", "video", "into", "consideration", ".", "For", "video", "list", ",", "each", "item", "is", "a", "video", ".", "Let", "item", "iv", ".", "vid", "denotes", "the", "video", "ID", "of", "the", "i", "th", "item", ",", "item", "iv", ".", "score", "denotes", "the", "ranking", "score", "of", "the", "i", "th", "item", ".", "For", "shot", "list", ",", "each", "item", "is", "a", "shot", "from", "a", "video", ".", "Let", "item", "is", ".", "vid", ",", "item", "is", ".", "sid", ",", "item", "is", ".", "score", "donote", "the", "video", "ID", "which", "the", "shot", "belong", "to", ",", "the", "shot", "ID", "within", "the", "video", ",", "and", "the", "ranking", "score", "of", "the", "i", "th", "item", "respectively", ".", "The", "integrating", "process", "is", "presented", "in", "Algorithm", "1", ".", "The", "basic", "idea", "is", "that", ",", "all", "the", "ranking", "score", "of", "the", "relevance", "shots", "within", "the", "video", "are", "accumulated", "to", "the", "ranking", "score", "of", "the", "video", ",", "with", "corresponding", "weights", ".", "The", "relevant", "shots", "in", "the", "video", "will", "be", "highlight", "when", "displaying", "the", "video", "as", "search", "result", ".", "new", "a", "integrated", "result", "list", "-LRB-", "item", "denotes", "as", "item", "iI", "-RRB-", "for", "each", "item", "iv", "in", "video", "list", "-LCB-", "new", "item", "ic", ";", "item", "iI", ".", "vid", "=", "item", "is", ".", "vid", ";", "item", "iI", "score", "=", "item", "iv", ".", "score", "*", "Weight_v", ";", "for", "each", "item", "item", "is", "in", "shot", "list", "-LCB-", "if", "-LRB-", "item", "iv", ".", "vid", "==", "item", "is", ".", "vid", "-RRB-", "-LCB-", "item", "iI", "addshot", "-LRB-", "item", "is", ".", "sid", "-RRB-", ";", "item", "iI", "score", "+", "=", "item", "is", ".", "score", "*", "Weight_s", ";", "remove", "item", "is", "from", "shot", "list", "-RCB-", "-RCB-", "remove", "item", "iv", "from", "video", "list", "add", "item", "iI", "to", "integrated", "list", "-RCB-", "add", "the", "remaining", "video", "list", "and", "shot", "list", "into", "the", "integrated", "list", "sort", "the", "integrated", "list", "by", "item", "iI", ".", "score", ".", "/", "/", "Weight_v", "and", "Weight_s", "are", "weights", "for", "score", "accumulating", "Algorithm", "1", ".", "Generate", "integrated", "rank", "list", ".", "IR-model", "based", "ranking", "just", "consider", "some", "basic", "features", "such", "as", "term", "frequency", "tf", ",", "document", "frequency", "df", ",", "and", "document", "length", ",", "etc.", ".", "In", "the", "learning", "based", "approach", ",", "more", "features", "are", "extracted", "from", "the", "query", ",", "metadata", ",", "and", "content", "information", ".", "To", "be", "clear", ",", "suppose", "the", "query", "contains", "three", "terms", "``", "a", "b", "c", "''", ",", "we", "compute", "the", "following", "features", "from", "each", "document", "field", ":", "Ordered", "match", ":", "the", "frequency", "that", "both", "``", "a", "''", "and", "``", "b", "''", "appeared", "in", "the", "indexed", "text", ",", "and", "``", "b", "''", "appears", "after", "``", "a", "''", ".", "Partly", "exact", "match", ":", "the", "frequency", "that", "``", "a", "b", "''", "or", "``", "b", "c", "''", "appeared", "in", "the", "indexed", "text", ".", "Exact", "match", ":", "the", "frequency", "that", "``", "a", "b", "c", "''", "appeared", "in", "the", "indexed", "text", ".", "Query", "length", ":", "number", "of", "query", "terms", "For", "the", "content", "information", ",", "each", "word", "has", "a", "confidence", "value", ",", "we", "also", "consider", ":", "Weighted", "tf", ":", "Term", "frequency", "with", "confidence", "weighted", ",", "High", "confident", "match", ":", "query", "term", "match", "with", "words", "with", "high", "confidence", ".", "High", "confident", "words", ":", "words", "with", "high", "confidence", "in", "the", "indexed", "text", ".", "Some", "non-textual", ",", "query-independent", "features", ",", "such", "as", "shot", "length", ",", "video", "length", ",", "frame", "size", ",", "bit", "rate", ",", "etc", ",", "are", "also", "taken", "into", "account", ".", "By", "counting", "in", "the", "combinations", "of", "several", "document", "fields", "and", "query", "terms", "-LRB-", "or", "part", "of", "query", "-RRB-", ",", "we", "have", "about", "50", "dimensional", "features", "in", "total", "for", "a", "query", "and", "search", "result", "to", "form", "a", "sample", ".", ".", "The", "GroundTruth", "of", "sample", "is", "the", "relevance", "judgments", "between", "a", "query", "and", "a", "result", ",", "which", "is", "collected", "by", "a", "user", "labeling", "system", "introduced", "in", "the", "next", "section", ".", "3.2", "Neutral", "Network", "based", "Ranking", "Traditionally", "the", "learning", "algorithms", "are", "used", "for", "classification", "problems", ".", "For", "ranking", "problems", ",", "one", "possible", "way", "is", "organize", "the", "samples", "by", "pairs", ".", "Pair", "sample", "-LRB-", "x", "1", ",", "x", "2", "-RRB-", "are", "considered", "as", "a", "positive", "sample", ",", "if", "x", "1", "are", "ranked", "ahead", "of", "x", "2", ",", "and", "vice", "versa", ".", "The", "loss", "function", "is", "also", "formulated", "in", "pair", "wise", ".", "RankNET", "-LSB-", "6", "-RSB-", "is", "used", "in", "our", "implementation", "to", "train", "the", "ranking", "model", "and", "to", "validate", "the", "performance", ".", "About", "half", "of", "the", "labeled", "data", "are", "used", "in", "training", ",", "and", "the", "second", "half", "are", "used", "for", "validation", ".", "To", "evaluate", "the", "ranking", "performance", "of", "our", "proposed", "methods", ",", "we", "developed", "a", "user", "labeling", "tool", "to", "collect", "some", "query-result", "relevance", "judgments", ".", "The", "video", "data", "set", "we", "used", "in", "our", "experiment", "includes", "news", "video", ",", "TV", "programs", ",", "movie", "trailers", ",", "advertisements", ",", "etc.", ".", "According", "to", "the", "characteristics", "of", "the", "content", "of", "these", "videos", ",", "we", "selected", "some", "news", "related", "queries", ",", "such", "as", "hot", "events", ",", "hot", "place", ",", "and", "hot", "person", "names", ",", "to", "evaluate", "the", "ranking", "performance", ".", "For", "each", "query", ",", "we", "use", "the", "IR-model", "based", "ranking", "describe", "in", "Section", "2", "to", "generate", "a", "result", "list", ",", "and", "randomly", "select", "some", "results", "form", "the", "list", "to", "label", ".", "Considering", "the", "labeling", "workload", ",", "for", "each", "labeler", "and", "each", "query", ",", "9", "results", "are", "select", "from", "the", "list", ".", "To", "make", "the", "selected", "query-result", "samples", "have", "a", "good", "uniformity", "on", "distribution", ",", "3", "results", "are", "randomly", "selected", "from", "the", "first", "1/3", "part", "of", "the", "list", ",", "3", "are", "from", "the", "second", "1/3", "part", ",", "and", "the", "other", "3", "are", "from", "the", "last", "1/3", "part", ".", "The", "order", "of", "these", "9", "selected", "results", "is", "shuffled", "and", "then", "provided", "to", "users", "to", "do", "relevance", "labeling", ".", "In", "the", "labeling", "tool", ",", "for", "a", "query", "and", "a", "result", ",", "user", "can", "see", "all", "the", "information", "of", "the", "result", ",", "including", "the", "file", "format", "information", "-LRB-", "frame", "size", ",", "bit", "rate", ",", "video", "length", ",", "etc", "-RRB-", ",", "description", "-LRB-", "headline", ",", "caption", ",", "keywords", "-RRB-", ",", "video", "thumbnail", ",", "video", "-LRB-", "in", "a", "video", "player", "-RRB-", ",", "thumbnails", "of", "video", "shots", ",", "the", "speech", "text", "of", "the", "relevant", "shots", ".", "The", "words", "matched", "with", "query", "terms", "are", "highlighted", ".", "See", "Figure", "1", ".", "If", "there", "are", "relevant", "shots", "in", "the", "result", ",", "the", "thumbnails", "of", "them", "are", "displayed", "with", "doubled", "size", ".", "The", "shot", "number", ",", "time", "629", "information", ",", "and", "the", "speech", "are", "also", "shown", "in", "the", "interface", ".", "Users", "are", "asked", "to", "read", "the", "displayed", "information", ",", "browse", "the", "thumbnails", ",", "and", "play", "the", "video", "and", "shots", "-LRB-", "a", "tool", "button", "is", "provided", "to", "play", "from", "one", "shot", "-RRB-", "to", "give", "a", "relevance", "judgment", "from", "1", ",", "2", ",", "3", ",", "4", ",", "and", "5", ",", "which", "represent", "bad", ",", "fair", ",", "good", ",", "excellent", ",", "and", "perfect", ",", "respectively", ".", "Figure", "1", ".", "Relevance", "labeling", "tool", "In", "our", "experiment", ",", "ten", "users", "are", "invited", "to", "do", "labeling", ",", "and", "about", "2,000", "relevance", "judgments", "of", "query-result", "samples", "are", "collected", ".", "4.2", "Precision", "Performance", "of", "Ranking", "We", "have", "conducted", "a", "comparison", "between", "the", "4", "approaches", "listed", "below", ":", "MR", ":", "Ranking", "only", "based", "on", "video", "metadata", "-LRB-", "Section", "2.2.1", "-RRB-", ".", "CR", ":", "Ranking", "only", "by", "content", "information", "-LRB-", "Section", "2.2.2", "-RRB-", ".", "RI", ":", "Integrated", "Ranking", "described", "in", "Section", "2.3", "RN", ":", "RankNET", "based", "ranking", "described", "in", "Section", "3.2", ".", "The", "precision", "in", "top", "N", "of", "the", "rank", "lists", "of", "all", "the", "labeled", "queries", "is", "used", "to", "evaluate", "the", "performance", "of", "ranking", "method", ".", "N", "top", "in", "results", "labeled", "total", "N", "top", "in", "results", "labeled", "relevant", "N", "Precision", "=", "@", "-LRB-", "5", "-RRB-", "In", "our", "implementation", ",", "the", "judgment", "Perfect", "or", "Excellent", "are", "considered", "as", "relevant", "results", ",", "while", "other", "judgments", "are", "treated", "as", "irrelevant", "results", ".", "The", "Presicion", "@N", "-LRB-", "N", "=", "1", "to", "5", "-RRB-", "of", "the", "4", "ranking", "methods", "are", "shown", "in", "Table", "3", ".", "From", "the", "results", ",", "we", "can", "see", "that", ":", "1", "-RRB-", "Precisions", "of", "MR", "are", "very", "low", ".", "Only", "using", "video", "metadata", "will", "result", "in", "a", "poor", "performance", ",", "since", "details", "of", "the", "video", "content", "are", "ignored", ".", "The", "content", "information", "is", "more", "effective", "to", "search", "and", "rank", "video", "than", "metadata", ",", "as", "precisions", "of", "CR", "are", "higher", "than", "that", "of", "MR.", "2", "-RRB-", "Precisions", "of", "RI", "are", "much", "higher", "than", "that", "of", "MR", "and", "CR", ".", "By", "combining", "video", "metadata", "and", "content", "information", ",", "the", "performance", "is", "significantly", "improved", "and", "reaches", "an", "acceptable", "level", ",", "which", "shows", "that", "content-based", "relevance", "ranking", "is", "a", "promising", "approach", ".", "3", "-RRB-", "RN", "has", "a", "good", "performance", ",", "even", "better", "than", "RI", ".", "Comparing", "to", "IR-model", "based", "ranking", ",", "more", "features", "are", "included", "to", "learning", "the", "relevance", ".", "The", "result", "implies", "that", "the", "learning", "method", "can", "organize", "the", "information", "for", "ranking", "in", "a", "more", "effective", "way", ".", "Table", "3", ".", "Precision", "of", "the", "ranking", "approaches", "Precision", "@", "?", "1", "2", "3", "4", "5", "MR", "0.305", "0.326", "0.299", "0.259", "0.228", "CR", "0.544", "0.526", "0.571", "0.550", "0.522", "RI", "0.796", "0.727", "0.684", "0.634", "0.606", "RN", "0.805", "0.746", "0.763", "0.717", "0.669", "We", "have", "presented", "a", "novel", "content-based", "approach", "to", "rank", "video", "search", "results", ".", "In", "addition", "to", "the", "video", "metadata", ",", "more", "detailed", "content", "information", "in", "the", "video", "is", "used", "to", "improve", "the", "relevance", "ranking", "of", "video", "search", "results", ".", "The", "videos", "are", "segmented", "into", "shots", ",", "which", "can", "carry", "rich", "content", "information", "such", "as", "semantic", "concept", "keywords", "and", "speech", ".", "With", "the", "video", "metadata", "and", "content", "information", ",", "we", "proposed", "an", "IR-model", "based", "ranking", "method", "and", "a", "learning-based", "ranking", "method", ".", "Evaluation", "of", "the", "top", "ranked", "results", "shows", "that", "the", "proposed", "ranking", "methods", "have", "significantly", "improved", "performance", "comparing", "to", "the", "approach", "use", "video", "metadata", "only", ",", "which", "is", "frequently", "used", "in", "existing", "web", "video", "search", "engines", ".", "In", "future", "work", ",", "more", "types", "of", "content", "information", "can", "be", "integrated", "into", "our", "ranking", "scheme", ",", "such", "as", "content-based", "quality", "metric", ",", "user", "comments", "and", "rating", "for", "videos", "shared", "in", "web", "communities", ".", "Moreover", ",", "how", "to", "define", "effective", "semantic", "concepts", ",", "i.e.", ",", "video", "semantic", "ontology", ",", "that", "facilitate", "video", "searching", "and", "ranking", "is", "also", "a", "challenging", "problem.", ",", "which", "is", "also", "one", "of", "our", "future", "works", ".", "-LSB-", "1", "-RSB-", "Hong-Jiang", "Zhang", ",", "A.", "Kankanhalli", ",", "and", "S.", "Smoliar", ",", "``", "Automatic", "Partitioning", "of", "Full-motion", "Video", ",", "''", "A", "Guided", "Tour", "of", "Multimedia", "Systems", "and", "Applications", ",", "IEEE", "Computer", "Society", "Press", ",", "1995", ".", "-LSB-", "2", "-RSB-", "http://www-nlpir.nist.gov/projects/trecvid", "-LSB-", "3", "-RSB-", "S.", "E.", "Robertson", ",", "S.", "Walker", ",", "and", "M.", "Beaulieu", ".", "Okapi", "at", "TREC", "7", ":", "automatic", "ad", "hoc", ",", "filtering", ",", "VLC", "and", "filtering", "tracks", ".", "In", "Proceedings", "of", "TREC", "'", "99", ".", "-LSB-", "4", "-RSB-", "M.", "Naphade", ",", "J.R.", "Smith", ",", "F.", "Souvannavong", ",", "``", "On", "the", "Detection", "of", "Semantic", "Concepts", "at", "TRECVID", ",", "''", "ACM", "Multimedia", ",", "ACM", "Press", ",", "New", "York", ",", "NY", ",", "pp.", "660-667", ",", "Oct.", ".", "10-16", ",", "2004", "-LSB-", "5", "-RSB-", "M.", "Naphade", ",", "L.", "Kennedy", ",", "J.R.", "Kender", ",", "S.F.", "Chang", ",", "J.R.", "Smith", ",", "P.", "Over", ",", "A.", "Hauptmann", ",", "``", "LSCOM-lite", ":", "A", "Light", "Scale", "Concept", "Ontology", "for", "Multimedia", "Understanding", "for", "TRECVID", "2005", ",", "''", "IBM", "Research", "Tech", ".", "Report", ",", "RC23612", "-LRB-", "W0505-104", "-RRB-", ",", "May", ",", "2005", ".", "-LSB-", "6", "-RSB-", "Chris", "Burges", ",", "et.al", ",", "``", "Learning", "to", "Rank", "using", "Gradient", "Descent", "''", ",", "ICML", "2005", ",", "Bonn", ",", "Germany", ",", "pp.89-96", ",", "August", "7-11", ",", "2005", ".", "630"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["integrated ranking", "ranking method", "video metadata", "segmented", "learning based ranking", "video search", "video retrieval", "neutral network based ranking", "metadata", "relevance ranking", "content information"], "abstractive_keyphrases": ["ir model based ranking", "ir-model", "content-based ranking", "video segmentation", "content-based relevance ranking", "video index, relevance ranking", "machine learning model", "content-based approach"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "139", "document": ["Modeling", "Behavioral", "Design", "Patterns", "of", "Concurrent", "Objects", "Object-oriented", "software", "development", "practices", "are", "being", "rapidly", "adopted", "within", "increasingly", "complex", "systems", ",", "including", "reactive", ",", "real-time", "and", "concurrent", "system", "applications", ".", "While", "data", "modeling", "is", "performed", "very", "well", "under", "current", "object-oriented", "development", "practices", ",", "behavioral", "modeling", "necessary", "to", "capture", "critical", "information", "in", "real-time", ",", "reactive", ",", "and", "concurrent", "systems", "is", "often", "lacking", ".", "Addressing", "this", "deficiency", ",", "we", "offer", "an", "approach", "for", "modeling", "and", "analyzing", "concurrent", "object-oriented", "software", "designs", "through", "the", "use", "of", "behavioral", "design", "patterns", ",", "allowing", "us", "to", "map", "stereotyped", "UML", "objects", "to", "colored", "Petri", "net", "-LRB-", "CPN", "-RRB-", "representations", "in", "the", "form", "of", "reusable", "templates", ".", "The", "resulting", "CPNs", "are", "then", "used", "to", "model", "and", "analyze", "behavioral", "properties", "of", "the", "software", "architecture", ",", "applying", "the", "results", "of", "the", "analysis", "to", "the", "original", "software", "design", ".", "D.", "2.2", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Design", "Tools", "and", "Techniques", "Object-oriented", "design", "methods", ",", "Petri", "nets", ".", "Performance", ",", "Design", ",", "Reliability", "Object-oriented", "software", "development", "practices", "are", "being", "rapidly", "adopted", "within", "increasingly", "complex", "systems", ",", "including", "reactive", ",", "real-time", "and", "concurrent", "system", "applications", ".", "In", "practice", ",", "though", ",", "object-oriented", "software", "design", "techniques", "are", "still", "predominantly", "focused", "on", "the", "creation", "of", "static", "class", "models", ".", "Dynamic", "architectural", "models", "capturing", "the", "overall", "behavioral", "properties", "of", "the", "software", "system", "are", "often", "constructed", "using", "ad", "hoc", "techniques", "with", "little", "consideration", "given", "to", "the", "resulting", "performance", "or", "reliability", "implications", "until", "the", "project", "reaches", "implementation", ".", "Efforts", "to", "analyze", "behavioral", "issues", "of", "these", "architectures", "occur", "through", "opportunistic", "rather", "than", "systematic", "approaches", "and", "are", "inherently", "cumbersome", ",", "unreliable", ",", "and", "unrepeatable", ".", "One", "means", "of", "improving", "the", "behavioral", "modeling", "capabilities", "of", "object-oriented", "architecture", "designs", "is", "to", "integrate", "formalisms", "with", "the", "object-oriented", "specifications", ".", "Using", "this", "technique", ",", "object-oriented", "design", "artifacts", "are", "captured", "in", "a", "format", "such", "as", "the", "Unified", "Modeling", "Language", "-LRB-", "UML", "-RRB-", "-LSB-", "1", "-RSB-", ",", "which", "is", "intuitive", "to", "the", "software", "architect", ".", "The", "native", "object-oriented", "design", "is", "then", "augmented", "by", "integrating", "an", "underlying", "formal", "representation", "capable", "of", "providing", "the", "necessary", "analytical", "tools", ".", "The", "particular", "method", "used", "in", "this", "research", "-LSB-", "2", "-RSB-", "is", "to", "integrate", "colored", "Petri", "nets", "-LRB-", "CPNs", "-RRB-", "-LSB-", "3", "-RSB-", "with", "object-oriented", "architecture", "designs", "captured", "in", "terms", "of", "UML", "communication", "diagrams", ".", "Specifically", ",", "this", "paper", "will", "present", "a", "method", "to", "systematically", "translate", "a", "UML", "software", "architecture", "design", "into", "an", "underlying", "CPN", "model", "using", "a", "set", "of", "pre-defined", "CPN", "templates", "based", "on", "a", "set", "of", "object", "behavioral", "roles", ".", "These", "behavioral", "roles", "are", "based", "on", "the", "object", "structuring", "criteria", "found", "in", "the", "COMET", "method", "-LSB-", "4", "-RSB-", ",", "but", "are", "not", "dependent", "on", "any", "given", "method", "and", "are", "applicable", "across", "application", "domains", ".", "This", "paper", "will", "also", "demonstrate", "some", "of", "the", "analytical", "benefits", "provided", "by", "constructing", "a", "CPN", "representation", "of", "the", "UML", "software", "architecture", ".", "After", "a", "survey", "of", "related", "research", ",", "Section", "2", "descries", "the", "concept", "of", "behavioral", "design", "pattern", "templates", "for", "modeling", "concurrent", "objects", ".", "Section", "3", "discusses", "how", "we", "construct", "an", "overall", "CPN", "model", "of", "the", "concurrent", "software", "architecture", "by", "interconnecting", "the", "individual", "behavioral", "design", "pattern", "templates", ".", "Section", "4", "describes", "the", "validation", "of", "the", "approach", ".", "1.1", "Related", "Research", "There", "are", "many", "existing", "works", "dealing", "with", "the", "use", "of", "Petri", "nets", "for", "describing", "software", "behavior", ".", "As", "they", "relate", "to", "this", "paper", ",", "the", "existing", "works", "can", "be", "broadly", "categorized", "into", "the", "modeling", "of", "software", "code", "and", "the", "modeling", "of", "software", "designs", ".", "In", "this", "research", ",", "the", "focus", "is", "on", "improving", "reliability", "of", "object-oriented", "software", "designs", "rather", "than", "delaying", "detection", "to", "the", "software", "code", ".", "In", "terms", "of", "object-oriented", "design", ",", "the", "related", "Petri", "net", "research", "can", "be", "categorized", "as", "new", "development", "methodologies", "-LSB-", "5-8", "-RSB-", ";", "object-oriented", "extensions", "to", "Petri", "nets", "-LSB-", "9-12", "-RSB-", ";", "and", "the", "integration", "of", "Petri", "nets", "with", "existing", "object-oriented", "methodologies", "-LSB-", "13-20", "-RSB-", ".", "Since", "one", "of", "the", "goals", "of", "this", "research", "effort", "is", "to", "provide", "a", "method", "that", "requires", "no", "additional", "tools", "or", "language", "constructs", "beyond", "those", "currently", "available", "for", "the", "UML", "and", "CPN", "definitions", ",", "this", "approach", "-LSB-", "2,21-25", "-RSB-", "falls", "into", "the", "last", "category", "of", "integrating", "Petri", "nets", "with", "existing", "methodologies", ".", "The", "main", "features", "that", "distinguish", "this", "approach", "from", "other", "related", "works", "are", "a", "focus", "on", "the", "concurrent", "software", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICSE", "'", "06", ",", "May", "20", "28", ",", "2006", ",", "Shanghai", ",", "China", ".", "Copyright", "2006", "ACM", "1-59593-085-X", "/", "06/0005", "...", "$", "5.00", ".", "202", "architecture", "design", "and", "the", "use", "of", "consistent", ",", "reusable", "CPN", "templates", "to", "model", "the", "behavior", "of", "concurrent", "objects", "and", "their", "interactions", ".", "This", "paper", "also", "extends", "our", "more", "recent", "works", "-LSB-", "25", "-RSB-", "by", "specifically", "focusing", "on", "the", "behavioral", "design", "patterns", "of", "individual", "concurrent", "objects", "and", "applying", "these", "patterns", "to", "construct", "an", "underlying", "representation", "of", "the", "concurrent", "software", "design", "architecture", ".", "To", "model", "concurrent", "object", "behavioral", "design", "patterns", "with", "CPNs", ",", "our", "approach", "starts", "with", "a", "concurrent", "software", "architecture", "model", "captured", "in", "UML", ".", "For", "the", "construction", "of", "this", "architecture", "model", ",", "we", "identify", "a", "set", "of", "behavioral", "design", "patterns", "used", "to", "categorize", "the", "objects", "along", "with", "a", "set", "of", "specification", "requirements", "necessary", "to", "correctly", "model", "the", "concurrent", "behavior", "with", "the", "underlying", "CPN", "model", ".", "Each", "of", "the", "identified", "behavioral", "design", "patterns", "then", "has", "a", "corresponding", "template", ",", "represented", "as", "a", "CPN", "segment", ",", "which", "is", "paired", "with", "the", "UML", "object", "and", "is", "instantiated", "to", "capture", "specific", "behavioral", "characteristics", "based", "on", "the", "object", "specifications", ".", "The", "following", "sections", "describe", "the", "object", "architecture", "definition", "along", "with", "the", "concept", "of", "behavioral", "pattern", "templates", "for", "modeling", "concurrent", "objects", ".", "Section", "3", "will", "then", "discuss", "how", "we", "construct", "an", "overall", "CPN", "model", "of", "the", "concurrent", "object", "architecture", "by", "connecting", "the", "individual", "behavioral", "pattern", "templates", ".", "2.1", "Concurrent", "Object", "Modeling", "Our", "approach", "uses", "a", "UML", "communication", "diagram", "to", "capture", "the", "concurrent", "software", "architecture", ".", "Depending", "on", "the", "desired", "level", "of", "modeling", ",", "this", "architecture", "model", "can", "be", "constructed", "for", "an", "entire", "software", "system", "or", "for", "one", "or", "more", "individual", "subsystems", ".", "This", "communication", "diagram", "contains", "a", "collection", "of", "concurrent", "-LRB-", "active", "-RRB-", "and", "passive", "objects", "along", "with", "the", "message", "communication", "that", "occurs", "between", "the", "objects", ".", "Using", "our", "approach", ",", "objects", "within", "the", "concurrent", "software", "architecture", "are", "organized", "using", "the", "notion", "of", "components", "and", "connectors", ".", "Under", "this", "paradigm", ",", "concurrent", "objects", "are", "treated", "as", "components", "that", "can", "be", "connected", "through", "passive", "message", "communication", "objects", "and", "entity", "objects", ".", "In", "keeping", "with", "the", "COMET", "object", "structuring", "criteria", ",", "each", "object", "is", "assigned", "a", "UML", "stereotype", "to", "indicate", "its", "behavioral", "design", "pattern", ".", "Objects", "are", "broadly", "divided", "into", "application", "objects", ",", "which", "perform", "the", "work", ",", "and", "connector", "objects", ",", "which", "provide", "the", "means", "of", "communicating", "between", "application", "objects", ".", "For", "application", "objects", ",", "we", "use", "six", "stereotyped", "behavioral", "design", "patterns", "as", "illustrated", "in", "Figure", "1", ":", "interface", ",", "entity", ",", "coordinator", ",", "state-dependent", ",", "timer", ",", "and", "algorithm", ".", "Additionally", ",", "connector", "objects", "can", "take", "the", "roles", "of", ":", "queue", ",", "buffer", ",", "or", "buffer-with-response", ",", "corresponding", "to", "asynchronous", ",", "synchronous", ",", "and", "return", "messages", ".", "These", "patterns", "are", "not", "intended", "to", "be", "an", "exhaustive", "list", ",", "but", "rather", "are", "intended", "to", "represent", "sufficient", "variety", "to", "model", "concurrent", "systems", "across", "a", "wide", "range", "of", "domains", "while", "also", "allowing", "these", "patterns", "to", "be", "extended", "as", "necessary", "for", "future", "applications", ".", "The", "identification", "of", "stereotyped", "behavioral", "roles", "allows", "us", "to", "select", "a", "specific", "CPN", "template", "to", "model", "each", "object", "-LRB-", "further", "described", "in", "Section", "3.2", "-RRB-", ".", "These", "behavioral", "stereotypes", "are", "generic", "across", "applications", ",", "so", "we", "also", "capture", "specific", "application", "information", "using", "the", "following", "tagged", "values", ":", "Execution", "Type", ".", "Each", "object", "must", "be", "declared", "as", "either", "passive", "or", "concurrent", "and", "for", "concurrent", "objects", ",", "further", "specified", "to", "be", "asynchronous", "or", "periodic", ".", "IO", "Mapping", ".", "Input-output", "message", "pairings", "must", "be", "specified", "for", "each", "object", "Communication", "Type", ".", "Indicate", "whether", "message", "communication", "occurs", "through", "asynchronous", "or", "synchronous", "means", ".", "Activation", "Time", ".", "The", "period", "of", "activation", "must", "be", "specified", "for", "each", "periodic", "concurrent", "object", ".", "Processing", "Time", ".", "Estimated", "processing", "times", "for", "completing", "an", "execution", "cycle", "should", "be", "assigned", "to", "each", "object", "if", "timing", "is", "to", "be", "accounted", "for", "in", "performance", "analysis", ".", "Operation", "Type", ".", "Indicate", "whether", "operations", "on", "entity", "objects", "perform", "``", "reader", "''", "or", "``", "writer", "''", "functionality", ".", "Statechart", ".", "For", "each", "state-dependent", "object", ",", "a", "UML", "statechart", "is", "used", "to", "capture", "the", "state", "behavior", "for", "that", "object", ".", "A", "detailed", "discussion", "of", "how", "the", "statechart", "is", "translated", "into", "the", "CPN", "model", "is", "provided", "in", "Pettit", "and", "Gomaa", "-LSB-", "24", "-RSB-", ".", "Figure", "1", ".", "Stereotype", "Hierarchy", "for", "Application", "Objects", "2.2", "Defining", "Behavioral", "Pattern", "Templates", "The", "basis", "for", "our", "approach", "to", "modeling", "concurrent", "object", "behavior", "lies", "in", "the", "notion", "of", "a", "behavioral", "design", "pattern", "-LRB-", "BDP", "-RRB-", "template", ",", "which", "represents", "concurrent", "objects", "according", "to", "their", "role", "along", "with", "associated", "message", "communication", "constructs", ".", "For", "each", "BDP", "template", ",", "we", "employ", "a", "self-contained", "CPN", "segment", "that", ",", "through", "its", "places", ",", "transitions", ",", "and", "tokens", ",", "models", "a", "given", "stereotyped", "behavioral", "pattern", ".", "Each", "template", "is", "generic", "in", "the", "sense", "that", "it", "provides", "us", "with", "the", "basic", "behavioral", "pattern", "and", "component", "connections", "for", "the", "stereotyped", "object", "but", "does", "not", "contain", "any", "application-specific", "information", ".", "The", "connections", "provided", "by", "each", "template", "are", "consistent", "across", "the", "set", "of", "templates", "and", "allow", "concurrent", "objects", "to", "be", "connected", "to", "passive", "objects", "-LRB-", "entities", "or", "message", "communication", "-RRB-", "in", "any", "order", ".", "We", "provide", "a", "BDP", "template", "for", "each", "object", "type", "identified", "in", "the", "previous", "section", ".", "Since", "each", "of", "these", "templates", "captures", "a", "generic", "behavioral", "design", "pattern", ",", "when", "a", "template", "is", "assigned", "to", "a", "specific", "object", ",", "we", "then", "augment", "that", "template", "with", "the", "information", "captured", "in", "the", "tagged", "values", "for", "the", "object", ".", "For", "the", "resulting", "CPN", "representation", ",", "this", "affects", "the", "color", "properties", "of", "the", "tokens", "-LRB-", "e.g.", "to", "represent", "specific", "messages", "-RRB-", "and", "the", "rules", "for", "processing", "tokens", "-LRB-", "e.g.", "to", "account", "for", "periodic", "processing", "or", "special", "algorithms", "-RRB-", ".", "The", "following", "sections", "describe", "a", "subset", "of", "our", "behavioral", "templates", "for", "both", "concurrent", "object", "components", "and", "their", "connectors", ".", "application", "interface", "entity", "control", "algorithm", "coordinator", "timer", "state", "dependent", "application", "interface", "entity", "control", "algorithm", "coordinator", "timer", "state", "dependent", "application", "interface", "entity", "control", "algorithm", "coordinator", "timer", "state", "dependent", "application", "interface", "entity", "control", "algorithm", "coordinator", "timer", "state", "dependent", "203", "2.2.1", "Asynchronous", "Interface", "Object", "Template", "Consider", "the", "case", "of", "an", "asynchronous", ",", "input-only", "interface", "object", ".", "The", "template", "for", "this", "behavioral", "design", "pattern", "is", "given", "in", "Figure", "2", ".", "This", "template", "represents", "a", "concurrent", "object", ",", "that", "is", ",", "an", "object", "that", "executes", "its", "own", "thread", "of", "control", "concurrently", "with", "other", "objects", "in", "the", "software", "system", ".", "While", "this", "template", "models", "relatively", "simple", "behavior", "-LRB-", "wait", "for", "input", ";", "process", "input", ";", "wait", "for", "next", "input", "-RRB-", ",", "it", "features", "characteristics", "found", "throughout", "the", "concurrent", "object", "templates", ".", "First", ",", "to", "model", "the", "thread", "of", "control", "within", "a", "concurrent", "object", ",", "a", "control", "token", "-LRB-", "CTRL", "-RRB-", "is", "assigned", "to", "each", "concurrent", "object", ".", "For", "this", "template", ",", "a", "control", "token", "is", "initially", "present", "in", "the", "Ready", "place", ".", "Thus", ",", "this", "template", "is", "initialized", "in", "a", "state", "whereby", "it", "is", "ready", "to", "receive", "an", "input", "at", "the", "ProcessInput", "transition", ".", "As", "an", "input", "arrives", "-LRB-", "and", "given", "that", "the", "control", "token", "is", "in", "the", "Ready", "place", "-RRB-", ",", "ProcessInput", "is", "allowed", "to", "fire", ",", "simulating", "the", "processing", "of", "the", "external", "input", "and", "the", "behavior", "of", "the", "asynchronous", "input", "interface", "object", ".", "ProcessInput", "consumes", "both", "a", "token", "representing", "the", "external", "input", "as", "well", "as", "the", "control", "token", "representing", "the", "executable", "thread", "of", "control", ".", "An", "output", "arc", "from", "ProcessInput", "uses", "a", "function", ",", "processInput", "-LRB-", "Input_event", "-RRB-", "to", "generate", "the", "appropriate", "token", "representing", "an", "internal", "message", "passed", "to", "another", "object", "within", "the", "system", ".", "The", "exact", "behavior", "of", "the", "processInput", "function", "-LRB-", "as", "with", "any", "arc-inscription", "functions", "throughout", "the", "templates", "-RRB-", "is", "determined", "from", "the", "object", "specification", "when", "a", "template", "is", "instantiated", "for", "a", "specific", "object", ".", "Finally", ",", "to", "complete", "the", "behavioral", "pattern", "for", "this", "template", ",", "the", "control", "token", "is", "passed", "to", "the", "MessageSent", "place", "and", "eventually", "back", "to", "the", "Ready", "place", ",", "enabling", "the", "template", "to", "process", "the", "next", "input", ".", "2.2.2", "Periodic", "Algorithm", "Object", "Template", "The", "asynchronous", "interface", "template", "addressed", "asynchronous", "behavior", "for", "a", "concurrent", "object", ",", "where", "the", "object", "is", "activated", "on", "demand", "by", "the", "receipt", "of", "a", "message", "or", "an", "external", "stimulus", "-LRB-", "as", "in", "the", "case", "of", "the", "interface", "example", "-RRB-", ".", "For", "periodic", "behavior", ",", "where", "an", "object", "is", "activated", "on", "a", "regular", "periodic", "interval", ",", "consider", "the", "template", "for", "a", "concurrent", "periodic", "algorithm", "object", "given", "in", "Figure", "3", ".", "Algorithm", "objects", "are", "internal", "concurrent", "objects", "that", "encapsulate", "algorithms", ",", "which", "may", "be", "activated", "or", "deactivated", "on", "demand", ".", "In", "the", "case", "of", "the", "periodic", "algorithm", "object", ",", "once", "the", "algorithm", "is", "enabled", ",", "it", "awakens", "on", "its", "activation", "period", ",", "performs", "the", "desired", "algorithmic", "task", ",", "and", "then", "returns", "to", "a", "sleep", "state", "until", "the", "next", "activation", "period", ".", "Looking", "at", "the", "periodic", "algorithm", "template", "from", "Figure", "3", ",", "you", "should", "notice", "that", ",", "like", "the", "previous", "concurrent", "object", "template", ",", "there", "is", "Ready", "place", "with", "a", "control", "token", "that", "indicates", "when", "the", "object", "is", "ready", "to", "start", "its", "next", "processing", "cycle", "and", "models", "the", "thread", "of", "execution", ".", "This", "is", "common", "across", "all", "concurrent", "object", "templates", ".", "To", "model", "the", "ability", "for", "an", "algorithm", "object", "to", "be", "enabled", "or", "disabled", ",", "the", "input", "interface", "to", "this", "template", "occurs", "through", "the", "Enable_Alg", "and", "Disable_Alg", "transitions", ".", "-LRB-", "Note", "that", "we", "maintain", "the", "use", "of", "transitions", "as", "the", "interface", "points", "for", "all", "concurrent", "objects", ".", "-RRB-", "Thus", ",", "in", "addition", "to", "the", "control", "token", "being", "present", "on", "the", "Ready", "place", ",", "an", "Enable", "token", "must", "also", "be", "present", "on", "the", "Alg_Enabled", "place", "in", "order", "for", "the", "Perform_Alg", "transition", "to", "be", "enabled", "and", "subsequently", "fired", ".", "The", "actual", "behavior", "performed", "by", "the", "algorithm", "is", "captured", "by", "decomposing", "the", "Perform_Alg", "transition", ".", "The", "resulting", "decomposition", "uses", "one", "or", "more", "place-transition", "paths", "to", "model", "the", "behavior", "performed", "within", "the", "algorithm", ".", "The", "information", "necessary", "to", "derive", "the", "CPN", "algorithm", "model", "may", "be", "contained", "in", "the", "UML", "class", "specification", "for", "the", "algorithm", "object", "or", ",", "for", "more", "complex", "algorithms", ",", "may", "be", "captured", "in", "supporting", "UML", "artifacts", "such", "as", "the", "activity", "diagram", ".", "Multiple", "algorithms", "may", "be", "encapsulated", "within", "the", "same", "algorithm", "object", ".", "In", "these", "cases", ",", "the", "enable/disable", "transitions", ",", "enabled", "place", ",", "and", "processing", "transition", "are", "repeated", "for", "each", "encapsulated", "algorithm", ".", "However", ",", "there", "will", "only", "ever", "be", "one", "control", "token", "and", "ready", "place", "in", "a", "single", "concurrent", "object", "as", "our", "approach", "does", "not", "allow", "for", "multi-threaded", "concurrent", "objects", ".", "Finally", ",", "to", "capture", "the", "periodic", "nature", "of", "this", "template", ",", "a", "Sleep", "place", "along", "with", "Wakeup", "and", "Timeout", "transitions", "have", "been", "added", "to", "the", "basic", "asynchronous", "object", "template", ".", "This", "place-transition", "pair", "will", "be", "common", "to", "all", "periodic", "templates", ".", "In", "this", "case", ",", "the", "periodic", "algorithm", "starts", "in", "the", "Sleep", "place", "rather", "than", "Ready", ".", "After", "the", "desired", "sleep", "time", "-LRB-", "indicating", "the", "activation", "period", "of", "the", "object", "-RRB-", "has", "elapsed", ",", "the", "Wakeup", "transition", "is", "enabled", "and", ",", "when", "fired", ",", "removes", "the", "CTRL", "token", "from", "the", "Sleep", "place", "and", "places", "it", "in", "the", "Ready", "place", ".", "This", "now", "enables", "the", "template", "to", "perform", "any", "enabled", "algorithms", ".", "If", "one", "or", "more", "algorithms", "are", "enabled", ",", "the", "template", "proceeds", "in", "the", "same", "manner", "as", "the", "previous", "asynchronous", "algorithm", "template", ".", "However", ",", "if", "no", "algorithms", "are", "enabled", "when", "the", "template", "wakes", "up", ",", "the", "Timeout", "transition", "will", "fire", "and", "return", "the", "Control", "token", "to", "the", "Sleep", "place", "and", "wait", "for", "the", "next", "period", "of", "activation", ".", "2.2.3", "Entity", "Object", "Template", "In", "contrast", "to", "concurrent", "objects", ",", "passive", "objects", "do", "not", "execute", "their", "own", "thread", "of", "control", "and", "must", "rely", "on", "operation", "calls", "from", "a", "concurrent", "object", ".", "Using", "our", "approach", ",", "the", "entity", "objects", "from", "Figure", "1", "are", "passive", "objects", ".", "The", "purpose", "of", "an", "entity", "object", "is", "to", "store", "persistent", "data", ".", "Entities", "provide", "operations", "to", "access", "and", "manipulate", "the", "data", "stored", "within", "the", "object", ".", "These", "operations", "provide", "the", "interface", "to", "the", "entity", "object", ".", "To", "account", "for", "the", "possibility", "of", "multiple", "concurrent", "objects", "accessing", "a", "single", "entity", "object", ",", "our", "approach", "stipulates", "that", "each", "operation", "be", "tagged", "as", "having", "``", "read", "''", "or", "``", "write", "''", "access", "and", "for", "the", "object", "to", "be", "tagged", "with", "``", "mutually", "exclusive", "''", "or", "``", "multiple-reader/single", "-", "writer", "''", "rules", "for", "access", "control", ".", "This", "allows", "us", "to", "apply", "the", "appropriate", "template", "with", "the", "desired", "mutual", "exclusion", "protection", "for", "the", "encapsulated", "object", "attributes", ".", "The", "behavioral", "design", "pattern", "template", "representing", "an", "entity", "object", "with", "mutually", "exclusive", "access", "is", "shown", "in", "Figure", "4", ".", "In", "this", "template", ",", "attributes", "are", "modeled", "with", "a", "CPN", "place", "containing", "tokens", "representing", "the", "attribute", "values", ".", "The", "underlying", "functionality", "of", "each", "operation", "is", "captured", "in", "an", "``", "idmOperation", "''", "transition", "that", "can", "be", "further", "decomposed", "as", "necessary", "to", "implement", "more", "complex", "functions", ".", "When", "instantiated", "for", "a", "specific", "entity", "object", ",", "the", "``", "idm", "''", "tag", "is", "replaced", "with", "a", "specific", "identifier", "for", "each", "operation", ".", "Finally", ",", "the", "interface", "to", "each", "operation", "is", "provided", "by", "a", "pair", "of", "CPN", "places", "one", "place", "for", "the", "operation", "call", "and", "another", "for", "the", "return", ".", "Collectively", ",", "these", "places", "form", "the", "interface", "to", "the", "entity", "object", ".", "As", "opposed", "to", "concurrent", "objects", ",", "all", "passive", "objects", "and", "message", "connectors", "will", "use", "CPN", "places", "for", "their", "interface", ",", "allowing", "concurrent", "objects", "to", "be", "connected", "through", "their", "transition", "interfaces", ".", "Thus", ",", "for", "performing", "an", "operation", "call", ",", "a", "204", "concurrent", "object", "places", "its", "control", "token", "and", "any", "necessary", "parameter", "tokens", "on", "the", "calling", "place", "and", "then", "waits", "for", "the", "control", "token", "to", "be", "returned", "along", "with", "any", "additional", "operation", "results", "at", "the", "call", "return", "place", ".", "Recall", "that", "entity", "objects", "do", "not", "have", "their", "own", "thread", "of", "control", ",", "thus", "they", "become", "part", "of", "the", "calling", "object", "'s", "thread", "of", "control", "for", "the", "duration", "of", "the", "operation", "call", ".", "2.2.4", "Message", "Communication", "Templates", "Finally", ",", "in", "addition", "to", "application", "object", "templates", ",", "our", "method", "also", "provides", "templates", "for", "connector", "objects", "representing", "message", "communication", ".", "These", "connectors", "may", "represent", "asynchronous", "or", "synchronous", "message", "communication", "between", "two", "concurrent", "objects", ".", "Figure", "2", ".", "Asynchronous", "Input-Only", "Interface", "Object", ":", "-LRB-", "a", "-RRB-", "UML", "-LRB-", "2.0", "-RRB-", ";", "-LRB-", "b", "-RRB-", "CPN", "Template", "Figure", "3", ".", "Periodic", "Algorithm", "Template", ":", "-LRB-", "a", "-RRB-", "UML", ";", "-LRB-", "b", "-RRB-", "CPN", "Representation", "-LCB-", "Execution", "=", "async", ";", "IO", "=", "input", "Process", "Time", "=", "<", "process", "time", ">", "-RCB-", "asyncInput", "Interface", "<", "<", "interface", ">", ">", "external", "InputSource", "<", "<", "external", "input", "device", ">", ">", "inputEvent", "asyncMsg", "To", "internal", "connector", "object", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LCB-", "Execution", "=", "async", ";", "IO", "=", "input", "Process", "Time", "=", "<", "process", "time", ">", "-RCB-", "asyncInput", "Interface", "<", "<", "interface", ">", ">", "external", "InputSource", "<", "<", "external", "input", "device", ">", ">", "inputEvent", "asyncMsg", "To", "internal", "connector", "object", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LCB-", "Execution", "=", "periodic", ";", "Activation", "Time", "=", "<", "sleep", "time", ">", "Process", "Time", "=", "<", "process", "time", ">", "-RCB-", "periodic", "Algorithm", "Object", "<", "<", "algorithm", ">", ">", "enable", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "periodic", "Algorithm", "Object", "-LCB-", "Execution", "=", "periodic", ";", "Activation", "Time", "=", "<", "sleep", "time", ">", "Process", "Time", "=", "<", "process", "time", ">", "-RCB-", "periodic", "Algorithm", "Object", "<", "<", "algorithm", ">", ">", "enable", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "periodic", "Algorithm", "Object", "205", "Figure", "4", ".", "Passive", "Entity", "Template", ":", "-LRB-", "a", "-RRB-", "UML", ";", "-LRB-", "b", "-RRB-", "CPN", "Representation", "Consider", "the", "message", "buffer", "template", "shown", "in", "Figure", "5", ".", "Notice", "that", ",", "as", "with", "passive", "entity", "objects", ",", "the", "interface", "to", "connector", "objects", "always", "occurs", "through", "a", "place", "rather", "than", "a", "transition", ",", "thus", "allowing", "concurrent", "object", "interfaces", "to", "be", "linked", "with", "connector", "interfaces", "while", "still", "enforcing", "the", "Petri", "net", "connection", "rules", "of", "only", "allowing", "arcs", "to", "occur", "between", "transitions", "and", "places", ".", "The", "message", "buffer", "template", "models", "synchronous", "message", "communication", "between", "two", "concurrent", "objects", ".", "Thus", ",", "only", "one", "message", "may", "be", "passed", "through", "the", "buffer", "at", "a", "time", "and", "both", "the", "producer", "-LRB-", "sender", "-RRB-", "and", "consumer", "-LRB-", "receiver", "-RRB-", "are", "blocked", "until", "the", "message", "communication", "has", "completed", ".", "The", "behavior", "of", "synchronous", "message", "communication", "is", "modeled", "through", "this", "template", "by", "first", "having", "the", "producer", "wait", "until", "the", "buffer", "is", "free", "as", "indicated", "by", "the", "presence", "of", "a", "``", "free", "''", "token", "in", "the", "buffer", ".", "The", "producer", "then", "places", "a", "message", "token", "in", "the", "buffer", "and", "removes", "the", "free", "token", ",", "indicating", "that", "the", "buffer", "is", "in", "use", ".", "Conversely", ",", "the", "consumer", "waits", "for", "a", "message", "token", "to", "appear", "in", "the", "buffer", ".", "After", "retrieving", "the", "message", "token", ",", "the", "consumer", "sets", "the", "buffer", "once", "again", "to", "free", "and", "places", "a", "token", "in", "the", "``", "Return", "''", "place", ",", "indicating", "to", "the", "producer", "that", "the", "communication", "has", "completed", ".", "Asynchronous", "message", "connector", "templates", "continue", "to", "employ", "places", "for", "their", "interfaces", ".", "However", ",", "asynchronous", "message", "communication", ",", "which", "involves", "the", "potential", "for", "queuing", "of", "messages", ",", "is", "more", "involved", "than", "the", "simple", "synchronous", "message", "buffer", "and", "must", "therefore", "add", "a", "transition", "to", "handle", "this", "behavior", ".", "The", "corresponding", "template", "is", "shown", "in", "Figure", "6", ".", "With", "asynchronous", "communication", "the", "sender", "is", "not", "blocked", "awaiting", "acknowledgement", "that", "the", "sent", "message", "has", "been", "received", "and", "a", "message", "queue", "is", "allowed", "to", "form", "for", "the", "object", "receiving", "the", "asynchronous", "messages", ".", "In", "this", "template", ",", "the", "ManageQueue", "transition", "is", "decomposed", "into", "a", "subnet", "that", "implements", "the", "FIFO", "placement", "and", "retrieval", "of", "messages", "in", "the", "queue", "-LSB-", "26", "-RSB-", ".", "To", "send", "an", "asynchronous", "message", ",", "a", "concurrent", "object", "places", "a", "message", "token", "on", "the", "Enqueue", "place", ".", "The", "subnet", "under", "ManageQueue", "would", "then", "add", "this", "message", "token", "to", "the", "tail", "of", "the", "queue", ".", "Another", "concurrent", "object", "receiving", "the", "asynchronous", "message", "would", "wait", "for", "a", "message", "token", "to", "be", "available", "in", "the", "Dequeue", "place", "-LRB-", "representing", "the", "head", "of", "the", "queue", "-RRB-", ".", "It", "would", "then", "remove", "the", "message", "token", "from", "Dequeue", "and", "signal", "DequeueComplete", "in", "a", "similar", "manner", "to", "the", "operation", "calls", "previously", "described", "for", "entities", ".", "This", "signals", "the", "queue", "that", "a", "message", "token", "has", "been", "removed", "from", "the", "head", "of", "the", "queue", "and", "that", "the", "remaining", "messages", "need", "to", "be", "advanced", ".", "Figure", "5", ".", "Synchronous", "Message", "Buffer", "Connector", "Template", ":", "-LRB-", "a", "-RRB-", "UML", ";", "-LRB-", "b", "-RRB-", "CPN", "Representation", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "anActiveObject", "anotherActive", "Object", "anEntityObject", "read", "-LRB-", "-RRB-", "write", "-LRB-", "-RRB-", "<", "<", "entity", ">", ">", "-LCB-", "Access", "Control", "=", "mutually-exclusive", "-RCB-", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "anActiveObject", "anotherActive", "Object", "anEntityObject", "read", "-LRB-", "-RRB-", "write", "-LRB-", "-RRB-", "<", "<", "entity", ">", ">", "-LCB-", "Access", "Control", "=", "mutually-exclusive", "-RCB-", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "producer", "consumer", "data", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "producer", "consumer", "data", "206", "Figure", "6", ".", "Asynchronous", "Message", "Queue", "Template", "Up", "to", "this", "point", ",", "we", "have", "just", "discussed", "individual", "CPN", "templates", "being", "used", "to", "model", "behavioral", "design", "patterns", "of", "concurrent", "objects", ",", "passive", "entity", "objects", ",", "and", "message", "communication", "mechanisms", ".", "This", "section", "presents", "our", "method", "for", "constructing", "a", "CPN", "model", "of", "the", "concurrent", "software", "architecture", "by", "applying", "and", "interconnecting", "these", "templates", ".", "The", "basic", "construction", "process", "consists", "of", "the", "following", "steps", ":", "1", ".", "Construct", "a", "concurrent", "software", "architecture", "model", "using", "a", "UML", "communication", "diagram", "to", "show", "all", "concurrent", "and", "passive", "objects", "participating", "in", "the", "-LRB-", "sub", "-RRB-", "system", "to", "be", "analyzed", "along", "with", "their", "message", "communication", ".", "2", ".", "Begin", "constructing", "the", "CPN", "model", "by", "first", "developing", "a", "context-level", "CPN", "model", "showing", "the", "system", "as", "a", "single", "CPN", "substitution", "-LRB-", "hierarchically", "structured", "-RRB-", "transition", "and", "the", "external", "interfaces", "as", "CPN", "places", ".", "Using", "a", "series", "of", "hierarchically", "structured", "transitions", "allows", "us", "to", "work", "with", "the", "CPN", "representation", "at", "varying", "levels", "of", "abstraction", ",", "from", "a", "completely", "black-box", "view", ",", "a", "concurrent", "software", "architecture", "view", "-LRB-", "in", "the", "next", "step", "-RRB-", ",", "or", "within", "an", "individual", "object", "as", "desired", "for", "the", "level", "of", "analysis", "being", "applied", "to", "the", "model", ".", "3", ".", "Decompose", "the", "system", "transition", "of", "the", "CPN", "context-level", "model", ",", "populating", "an", "architecture-level", "model", "with", "the", "appropriate", "CPN", "templates", "representing", "the", "objects", "from", "the", "concurrent", "software", "architecture", ".", "4", ".", "Elaborate", "each", "instance", "of", "CPN", "template", "to", "account", "for", "the", "specific", "behavioral", "properties", "of", "the", "object", "it", "models", ".", "5", ".", "Connect", "the", "templates", ",", "forming", "a", "connected", "graph", "between", "concurrent", "object", "templates", "and", "passive", "entity", "objects", "or", "message", "communication", "mechanisms", ".", "To", "illustrate", "the", "application", "of", "this", "approach", ",", "consider", "a", "partial", "example", "from", "the", "well-known", "Cruise", "Control", "System", "-LSB-", "4", "-RSB-", ".", "This", "example", "was", "chosen", "for", "this", "paper", "as", "it", "requires", "little", "explanation", "for", "the", "UML", "model", "and", "allows", "us", "to", "focus", "on", "the", "use", "of", "behavioral", "design", "pattern", "templates", "and", "the", "CPN", "representations", ".", "Figure", "7", "provides", "a", "partial", "communication", "diagram", "of", "the", "Cruise", "Control", "System", "concurrent", "software", "architecture", ".", "To", "begin", ",", "focus", "on", "the", "input", "events", "being", "provided", "by", "the", "Cruise", "Control", "Lever", ".", "-LRB-", "We", "will", "return", "to", "the", "brake", "and", "engine", "inputs", "later", "in", "this", "section", ".", "-RRB-", "Cruise", "control", "lever", "events", "enter", "the", "system", "via", "a", "concurrent", "interface", "object", "that", "sends", "an", "asynchronous", "message", "to", "the", "state", "dependent", "control", "object", "to", "process", "the", "requests", "based", "on", "rules", "defined", "in", "a", "corresponding", "statechart", ".", "Based", "on", "the", "state", "of", "the", "CruiseControl", "object", ",", "commands", "are", "given", "to", "a", "concurrent", "periodic", "algorithm", "object", "enabling", "it", "to", "compare", "speed", "values", "from", "two", "passive", "entity", "objects", "and", "determine", "the", "correct", "throttle", "values", ",", "which", "are", "then", "passed", "on", "to", "the", "periodic", "output", "interface", ",", "ThrottleInterface", ".", "Given", "this", "concurrent", "software", "architecture", ",", "the", "second", "step", "in", "our", "process", "would", "construct", "the", "context-level", "CPN", "model", "shown", "in", "Figure", "8", ".", "At", "this", "level", ",", "we", "see", "the", "system", "as", "a", "black-box", "represented", "as", "a", "single", "transition", ",", "``", "CruiseControlSystem", "''", ".", "External", "input", "and", "output", "interfaces", "for", "the", "cruise", "control", "lever", ",", "brake", ",", "and", "engine", "devices", "are", "represented", "as", "places", ".", "The", "purpose", "of", "this", "context-level", "CPN", "model", "is", "to", "provide", "a", "central", "starting", "point", "for", "our", "modeling", "and", "analysis", ".", "By", "structuring", "the", "CPN", "model", "in", "this", "way", ",", "we", "can", "analyze", "the", "system", "as", "a", "black", "box", ",", "dealing", "only", "with", "external", "stimuli", "and", "observed", "results", "-LRB-", "corresponding", "to", "the", "tokens", "stored", "in", "these", "places", "-RRB-", "or", "we", "can", "use", "hierarchical", "decomposition", "to", "gain", "access", "to", "the", "individual", "object", "behavioral", "design", "pattern", "templates", "-LRB-", "and", "their", "detailed", "CPN", "implementation", "-RRB-", "by", "systematically", "decomposing", "the", "hierarchically", "structured", "transitions", "-LRB-", "indicated", "with", "the", "HS", "tag", "-RRB-", ".", "In", "the", "third", "step", ",", "the", "CruiseControlSystem", "transition", "from", "the", "context-level", "model", "is", "decomposed", "into", "an", "architecture-level", "model", "populated", "with", "the", "appropriate", "CPN", "behavioral", "design", "pattern", "template", "for", "each", "of", "the", "cruise", "control", "objects", ".", "Given", "the", "architecture", "design", "from", "Figure", "7", "-LRB-", "and", "continuing", "to", "ignore", "AutoSensors", "for", "the", "moment", "-RRB-", ",", "we", "would", "need", "to", "instantiate", "two", "interface", "templates", ",", "two", "entity", "templates", ",", "one", "state", "dependent", "control", "template", ",", "and", "one", "algorithm", "template", ".", "We", "would", "also", "need", "to", "use", "queue", "and", "buffer", "templates", "for", "the", "asynchronous", "and", "synchronous", "message", "communication", "respectively", ".", "Once", "the", "appropriate", "templates", "have", "been", "assigned", "to", "each", "object", ",", "the", "fourth", "step", "in", "the", "process", "is", "to", "elaborate", "each", "template", "to", "model", "a", "specific", "object", ".", "To", "illustrate", ",", "consider", "CruiseControlLeverInterface", ".", "This", "object", "is", "an", "asynchronous", "input-only", "interface", "that", "accepts", "events", "from", "the", "cruise", "control", "lever", "device", "and", ",", "based", "on", "the", "input", "event", ",", "generates", "the", "appropriate", "messages", "for", "the", "cruise", "control", "request", "queue", ".", "Applying", "the", "asynchronous", "input", "interface", "template", "from", "Figure", "2", ",", "we", "arrive", "at", "the", "elaborated", "CPN", "segment", "for", "CruiseControlLeverInterface", "shown", "in", "Figure", "9", ".", "To", "elaborate", "the", "template", "for", "the", "CruiseControlLeverInterface", ",", "the", "place", "and", "transition", "names", "from", "the", "basic", "template", "have", "been", "appended", "with", "the", "object", "ID", "-LRB-", "1", "-RRB-", "for", "the", "specific", "object", ".", "The", "control", "token", "for", "this", "model", "has", "also", "been", "set", "to", "the", "specific", "control", "token", "for", "the", "CruiseControlLeverInterface", "object", "-LRB-", "CTRL1", "-RRB-", "and", "the", "time", "region", "for", "the", "PostProcessing_1", "transition", "has", "been", "set", "to", "''", "@", "+100", "''", "to", "reflect", "the", "Process", "Time", "tagged", "value", ".", "The", "CruiseControlLeverInterface", "CPN", "representation", "is", "then", "connected", "to", "the", "software", "architecture", "by", "establishing", "an", "input", "arc", "from", "the", "CruiseControlLeverDevice", "place", ",", "representing", "the", "external", "input", "from", "the", "device", ",", "and", "an", "output", "arc", "to", "the", "Enqueue", "place", ",", "modeling", "the", "asynchronous", "message", "communication", "identified", "in", "the", "UML", "software", "architecture", ".", "Token", "types", "-LRB-", "colors", "-RRB-", "are", "then", "specifically", "created", "to", "represent", "the", "incoming", "event", "and", "outgoing", "messages", ".", "Finally", ",", "the", "processInput1", "-LRB-", "-RRB-", "function", "is", "elaborated", "to", "generate", "the", "appropriate", "asynchronous", "message", "based", "on", "an", "incoming", "lever", "event", ".", "This", "elaboration", "process", "is", "similar", "for", "all", "templates", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "anActiveObject", "anotherActive", "Object", "data", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "anActiveObject", "anotherActive", "Object", "data", "207", "Figure", "7", ".", "Partial", "Concurrent", "Software", "Architecture", "for", "Cruise", "Control", "Figure", "8", ".", "CPN", "Context-Level", "Model", "for", "Cruise", "Control", "Figure", "9", ".", "Asynchronous", "Input-Only", "Interface", "Template", "Applied", "to", "CruiseControlLeverInterface", "Once", "all", "templates", "have", "been", "elaborated", ",", "our", "fifth", "and", "final", "step", "connects", "the", "templates", "to", "form", "a", "connected", "graph", "of", "the", "concurrent", "software", "architecture", ".", "The", "entire", "CPN", "architecture", "model", "for", "cruise", "control", "is", "too", "large", "for", "inclusion", "in", "this", "paper", ".", "However", ",", "Figure", "10", "illustrates", "the", "component", "connections", "between", "the", "CruiseControlLeverInterface", "and", "the", "CruiseControl", "templates", "using", "an", "asynchronous", "message", "queue", "connector", ".", "As", "can", "be", "seen", "from", "this", "figure", ",", "the", "two", "concurrent", "object", "templates", "communicate", "via", "the", "queue", "connector", "by", "establishing", "arcs", "between", "the", "interface", "transitions", "of", "the", "concurrent", "objects", "and", "the", "interface", "places", "of", "the", "queue", "connector", ".", "This", "component", "connection", "method", "applies", "to", "the", "entire", "software", "architecture", "using", "our", "approach", "of", "allowing", "concurrent", "objects", "to", "be", "connected", "to", "either", "passive", "entity", "objects", "or", "to", "a", "message", "communication", "connector", ".", "To", "further", "illustrate", "the", "component-based", "approach", "used", "for", "constructing", "these", "CPN", "let", "us", "now", "consider", "expanding", "the", "model", "to", "include", "input", "from", "the", "brake", "and", "engine", "devices", ".", "In", "addition", "to", "the", "cruise", "control", "lever", "inputs", ",", "Figure", "7", "also", "shows", "brake", "and", "engine", "status", "messages", "arriving", "from", "the", "respective", "devices", ".", "These", "status", "messages", "are", "handled", "by", "the", "AutoSensors", "periodic", "interface", "object", "and", "are", "passed", "to", "CruiseControl", "via", "an", "asynchronous", "message", "through", "the", "same", "cruise", "control", "request", "queue", "already", "being", "used", "by", "CruiseControlLeverInterface", ".", "Using", "our", "component-based", "modeling", "approach", ",", "the", "AutoSensors", "object", "can", "be", "added", "to", "our", "CPN", "model", "by", "simply", "instantiating", "a", "CPN", "representation", "of", "the", "periodic", "input", "interface", "behavioral", "design", "pattern", "template", "using", "the", "specified", "characteristics", "for", "AutoSensors", "and", "then", "connecting", "it", "to", "the", "existing", "queue", "template", ".", "The", "resulting", "CPN", "model", "is", "given", "in", "Figure", "11", ".", "The", "addition", "of", "AutoSensors", "also", "illustrates", "another", "capability", "of", "the", "interface", "template", ".", "Whereas", "the", "cruise", "control", "lever", "is", "an", "asynchronous", "device", ",", "providing", "interrupts", "to", "CruiseControlLeverInterface", ",", "the", "brake", "and", "engine", "devices", "are", "passive", "devices", "that", "must", "be", "polled", "for", "their", "status", ".", "In", "Figure", "11", ",", "every", "time", "AutoSensors", "is", "activated", ",", "it", "retrieves", "the", "status", "token", "from", "the", "brake", "and", "engine", "device", "places", ".", "After", "checking", "the", "status", ",", "the", "token", "is", "immediately", "returned", "to", "the", "device", "places", ",", "modeling", "persistence", "of", "device", "status", "information", "that", "can", "be", "polled", "as", "necessary", ".", "The", "remainder", "of", "the", "AutoSensors", "template", "should", "be", "familiar", ",", "being", "constructed", "of", "the", "standard", "Ready", "and", "ProcessInput", "place-transition", "pair", "for", "interface", "object", "templates", "-LRB-", "Section", "2.2.1", "-RRB-", "and", "the", "Sleep", "and", "Wakeup", "place-transition", "pair", "included", "for", "periodic", "objects", "-LRB-", "Section", "2.2.2", "-RRB-", ".", "As", "demonstrated", "in", "this", "section", ",", "the", "primary", "benefits", "of", "our", "component-based", "modeling", "approach", "are", "that", "connections", "can", "easily", "be", "added", "or", "modified", "as", "the", "architecture", "evolves", "or", "to", "provide", "rapid", "``", "what-if", "''", "modeling", "and", "analysis", ".", "select", "-LRB-", "-RRB-", ",", "clear", "-LRB-", "-RRB-", "entity", ":", "DesiredSpeed", "entity", ":", "CurrentSpeed", "ccCommand", "throttleValue", "throttleOutput", "to", "throttle", "read", "-LRB-", "-RRB-", "read", "-LRB-", "-RRB-", "cruiseControlLeverInput", "cruiseControlRequest", "-LCB-", "Execution", "=", "async", ";", "IO", "=", "input", "Process", "Time", "=", "100ms", "-RCB-", "-LCB-", "Execution", "=", "async", ";", "Process", "Time", "=", "200ms", "-RCB-", "-LCB-", "Execution", "=", "periodic", ";", "Activation", "Time", "=", "100ms", "Process", "Time", "=", "50ms", "-RCB-", "-LCB-", "Execution", "=", "periodic", ";", "IO", "=", "output", "Process", "Time", "=", "20ms", "Activation", "Time", "=", "100ms", "-RCB-", "cruiseControlRequest", "brakeStatus", "engineStatus", "-LCB-", "Execution", "=", "periodic", ";", "IO", "=", "input", "Activation", "Time", "=", "100ms", "Process", "Time", "=", "20ms", "-RCB-", "CruiseControl", "LeverInterface", "<", "<", "interface", ">", ">", "CruiseControl", "<", "<", "state", "dependent", ">", ">", "Speed", "Adjustment", "<", "<", "algorithm", ">", ">", "Throttle", "Interface", "<", "<", "interface", ">", ">", "AutoSensors", "<", "<", "interface", ">", ">", "CruiseControl", "LeverDevice", "EngineDevice", "BrakeDevice", "<", "<", "external", "input", "device", ">", ">", "<", "<", "external", "input", "device", ">", ">", "<", "<", "external", "input", "device", ">", ">", "select", "-LRB-", "-RRB-", ",", "clear", "-LRB-", "-RRB-", "entity", ":", "DesiredSpeed", "entity", ":", "CurrentSpeed", "ccCommand", "throttleValue", "throttleOutput", "to", "throttle", "read", "-LRB-", "-RRB-", "read", "-LRB-", "-RRB-", "cruiseControlLeverInput", "cruiseControlRequest", "-LCB-", "Execution", "=", "async", ";", "IO", "=", "input", "Process", "Time", "=", "100ms", "-RCB-", "-LCB-", "Execution", "=", "async", ";", "Process", "Time", "=", "200ms", "-RCB-", "-LCB-", "Execution", "=", "periodic", ";", "Activation", "Time", "=", "100ms", "Process", "Time", "=", "50ms", "-RCB-", "-LCB-", "Execution", "=", "periodic", ";", "IO", "=", "output", "Process", "Time", "=", "20ms", "Activation", "Time", "=", "100ms", "-RCB-", "cruiseControlRequest", "brakeStatus", "engineStatus", "-LCB-", "Execution", "=", "periodic", ";", "IO", "=", "input", "Activation", "Time", "=", "100ms", "Process", "Time", "=", "20ms", "-RCB-", "CruiseControl", "LeverInterface", "<", "<", "interface", ">", ">", "CruiseControl", "<", "<", "state", "dependent", ">", ">", "Speed", "Adjustment", "<", "<", "algorithm", ">", ">", "Throttle", "Interface", "<", "<", "interface", ">", ">", "AutoSensors", "<", "<", "interface", ">", ">", "CruiseControl", "LeverDevice", "EngineDevice", "BrakeDevice", "<", "<", "external", "input", "device", ">", ">", "<", "<", "external", "input", "device", ">", ">", "<", "<", "external", "input", "device", ">", ">", "208", "Figure", "10", "Connecting", "CruiseControlLeverInterface", "and", "CruiseControl", "via", "Asynchronous", "Communication", "Figure", "11", ".", "Addition", "of", "AutoSensors", "to", "the", "CPN", "Architecture", "Furthermore", ",", "by", "maintaining", "the", "integrity", "between", "a", "CPN", "template", "and", "the", "object", "it", "represents", ",", "modeling", "and", "analysis", "results", "can", "readily", "be", "applied", "to", "the", "original", "UML", "software", "architecture", "model", ".", "Thus", ",", "while", "from", "a", "pure", "CPN", "perspective", ",", "our", "CPNs", "could", "be", "further", "optimized", ",", "we", "feel", "that", "it", "is", "of", "greater", "benefit", "to", "maintain", "a", "component-based", "architecture", "that", "closely", "represents", "the", "structure", "of", "our", "original", "UML", "design", "artifacts", ".", "The", "validation", "of", "our", "approach", "was", "in", "three", "parts", ".", "First", ",", "there", "was", "the", "issue", "of", "whether", "our", "behavioral", "stereotypes", "and", "corresponding", "templates", "could", "be", "applied", "across", "domains", "and", "projects", ".", "This", "was", "demonstrated", "by", "successfully", "applying", "our", "process", "to", "two", "case", "studies", ",", "the", "cruise", "control", "system", "-LRB-", "a", "portion", "of", "which", "was", "shown", "in", "the", "previous", "sections", "-RRB-", "and", "the", "signal", "generator", "system", "-LSB-", "2", "-RSB-", ".", "Secondly", ",", "we", "performed", "validation", "to", "determine", "if", "the", "resulting", "CPN", "models", "provided", "a", "correct", "model", "of", "the", "concurrent", "software", "architecture", ".", "This", "was", "necessary", "to", "validate", "that", "our", "approach", "would", "result", "in", "an", "accurate", "representation", "of", "the", "original", "architecture", "and", "was", "by", "far", "the", "most", "tedious", "part", "of", "validation", ",", "as", "it", "required", "manual", "inspection", "and", "unit", "testing", "of", "each", "object", "and", "its", "corresponding", "CPN", "template", "representation", "for", "the", "two", "case", "studies", ".", "Finally", ",", "after", "determining", "that", "our", "template", "approach", "satisfied", "the", "modeling", "requirements", "for", "both", "case", "studies", ",", "we", "then", "sought", "to", "demonstrate", "the", "analytical", "capabilities", "gained", "from", "using", "CPNs", "to", "model", "concurrent", "software", "architectures", ".", "The", "behavioral", "analysis", "addresses", "both", "the", "functional", "behavior", "of", "the", "concurrent", "architecture", "as", "well", "as", "its", "performance", ",", "as", "described", "next", ".", "The", "detailed", "analytical", "results", "for", "both", "case", "studies", "are", "provided", "in", "-LSB-", "2", "-RSB-", ".", "4.1", "Validating", "Functional", "Behavior", "For", "functional", "analysis", ",", "the", "simulation", "capabilities", "of", "the", "DesignCPN", "tool", "are", "used", "to", "execute", "the", "model", "over", "a", "set", "of", "test", "cases", ".", "These", "test", "cases", "may", "be", "black-box", "tests", "in", "which", "we", "are", "only", "monitoring", "the", "context-level", "model", "in", "terms", "of", "input", "events", "and", "output", "results", "or", "they", "may", "be", "white-box", "tests", "in", "which", "we", "analyze", "one", "or", "more", "individual", "object", "representations", ".", "In", "our", "approach", ",", "black", "box", "test", "cases", "were", "derived", "from", "use", "cases", "while", "white", "box", "test", "cases", "were", "derived", "from", "object", "interactions", ",", "object", "specifications", ",", "and", "statecharts", ".", "In", "each", "of", "these", "cases", ",", "the", "209", "appropriate", "inputs", "for", "each", "test", "case", "were", "provided", "by", "placing", "tokens", "on", "the", "CPN", "places", "representing", "the", "external", "actors", "in", "the", "context", "model", ".", "The", "CPN", "model", "was", "then", "executed", "in", "the", "simulator", "and", "observed", "at", "the", "desired", "points", "to", "determine", "if", "the", "correct", "output", "was", "generated", "or", "if", "the", "correct", "logical", "paths", "were", "chosen", ".", "Again", ",", "consider", "the", "cruise", "control", "system", ".", "Figure", "12", "illustrates", "a", "black-box", "simulation", "in", "which", "the", "driver", "has", "selected", "``", "Accelerate", "''", "from", "the", "cruise", "control", "lever", "-LRB-", "with", "the", "engine", "being", "on", "and", "the", "brake", "being", "released", "-RRB-", ".", "Figure", "12", "-LRB-", "a", "-RRB-", "shows", "the", "state", "of", "the", "system", "before", "the", "simulation", "run", "and", "Figure", "12", "-LRB-", "b", "-RRB-", "illustrates", "the", "results", "of", "accelerating", ",", "namely", "a", "value", "being", "sent", "to", "the", "throttle", ".", "This", "form", "of", "simulation", "may", "be", "applied", "to", "as", "low", "or", "as", "high", "of", "a", "level", "of", "abstraction", "as", "desired", "in", "order", "to", "gain", "visibility", "into", "the", "desired", "behavior", "of", "the", "architecture", ".", "For", "example", ",", "one", "could", "choose", "to", "simply", "conduct", "black", "box", "testing", "by", "placing", "input", "tokens", "on", "actor", "places", ",", "executing", "the", "simulation", ",", "and", "then", "observing", "the", "resulting", "token", "values", "on", "output", "actor", "places", ".", "Alternatively", ",", "if", "a", "more", "detailed", "investigation", "is", "desired", ",", "the", "engineer", "may", "navigate", "the", "CPN", "hierarchical", "construction", "and", "observe", "such", "characteristics", "as", "the", "behavior", "of", "state", "changes", "within", "a", "state", "dependent", "object", "'s", "CPN", "representation", ".", "A", "detailed", "analysis", "of", "this", "state-dependent", "behavior", "is", "provided", "in", "-LSB-", "24", "-RSB-", ".", "Figure", "12", ".", "Example", "Cruise", "Control", "Black-Box", "Simulation", "4.2", "Validating", "Performance", "In", "addition", "to", "simulation", "capabilities", ",", "the", "DesignCPN", "-LSB-", "27", "-RSB-", "tool", "used", "in", "this", "effort", "also", "has", "a", "very", "powerful", "performance", "tool", "-LSB-", "28", "-RSB-", "that", "can", "be", "employed", "to", "analyze", "performance", "aspects", "of", "the", "concurrent", "software", "architecture", ".", "This", "tool", "can", "be", "used", "to", "analyze", "such", "things", "as", "queue", "backlogs", ",", "system", "throughput", ",", "and", "end-to-end", "timing", "characteristics", ".", "As", "an", "example", "of", "the", "latter", ",", "we", "conducted", "a", "test", "to", "monitor", "the", "cruise", "control", "system", "response", "times", "to", "commands", "being", "input", "from", "the", "cruise", "control", "lever", ".", "To", "conduct", "this", "analysis", ",", "commands", "were", "issued", "to", "the", "cruise", "control", "system", "while", "the", "system", "was", "in", "a", "simulated", "state", "of", "operation", "with", "a", "speed", "of", "60", "miles", "per", "hour", "-LRB-", "100", "kph", "-RRB-", ".", "The", "performance", "tool", "was", "used", "to", "monitor", "changes", "in", "the", "throttle", "output", "and", "compare", "the", "time", "at", "an", "observed", "output", "change", "to", "the", "time", "the", "original", "command", "was", "issued", ".", "The", "results", "from", "this", "analysis", "are", "shown", "in", "Figure", "13", ".", "From", "this", "figure", ",", "we", "can", "see", "that", "all", "cruise", "control", "commands", "complete", "in", "less", "than", "one", "second", "-LRB-", "1000ms", "-RRB-", "and", "most", "complete", "in", "less", "than", "500ms", ".", "Detailed", "performance", "requirements", "were", "not", "provided", "for", "our", "cruise", "control", "case", "study", ".", "However", ",", "if", "this", "cruise", "control", "system", "was", "an", "actual", "production", "system", ",", "an", "engineer", "could", "compare", "the", "analysis", "results", "against", "documented", "performance", "requirements", "to", "determine", "if", "the", "system", "in", "fact", "satisfies", "the", "necessary", "performance", "criteria", ".", "By", "being", "able", "to", "conduct", "this", "form", "of", "analysis", "from", "the", "concurrent", "software", "design", ",", "an", "engineer", "can", "both", "improve", "the", "reliability", "of", "the", "software", "architecture", "at", "the", "design", "level", "and", "correct", "problems", "prior", "to", "implementation", ".", "Figure", "13", ".", "Cruise", "Control", "End-to-End", "Timing", "Analysis", "The", "long-term", "goal", "of", "this", "research", "effort", "is", "to", "provide", "an", "automated", "means", "of", "translating", "a", "UML", "concurrent", "software", "architecture", "design", "into", "an", "underlying", "CPN", "representation", "that", "can", "then", "be", "used", "to", "conduct", "behavioral", "analysis", "with", "results", "communicated", "in", "terms", "of", "the", "original", "UML", "model", ".", "To", "date", ",", "we", "have", "developed", "a", "method", "for", "systematically", "translating", "a", "UML", "software", "architecture", "into", "a", "CPN", "representation", ".", "This", "method", "employs", "reusable", "templates", "that", "model", "the", "behavior", "of", "a", "set", "of", "objects", "according", "to", "their", "stereotyped", "behavioral", "roles", ".", "Each", "template", "provides", "a", "consistent", "interface", "that", "allows", "templates", "to", "be", "interconnected", "as", "components", "of", "a", "larger", "system", ",", "thus", "creating", "the", "overall", "CPN", "representation", ".", "The", "resulting", "CPN", "model", "enables", "the", "analysis", "of", "both", "the", "functional", "and", "performance", "behavior", "of", "the", "concurrently", "executing", "objects", ".", "As", "the", "CPN", "representation", "mirrors", "the", "structure", "of", "the", "concurrent", "software", "architecture", ",", "the", "results", "can", "be", "readily", "applied", "to", "the", "original", "UML", "model", ".", "Future", "research", "in", "this", "area", "will", "need", "to", "investigate", "approaches", "to", "facilitate", "the", "automated", "translation", "from", "a", "UML", "model", "into", "a", "CPN", "model", "that", "can", "be", "read", "by", "a", "tool", "such", "as", "DesignCPN", ".", "Additional", "research", "also", "needs", "to", "be", "conducted", "to", "investigate", "the", "scalability", "of", "this", "approach", "to", "larger", "systems", ",", "including", "distributed", "applications", "and", "providing", "behavioral", "templates", "for", "the", "COMET", "distributed", "components", "-LSB-", "4", "-RSB-", ".", "Finally", ",", "the", "use", "of", "state", "space", "analysis", "should", "be", "investigated", "further", ".", "Most", "of", "the", "analysis", "conducted", "with", "this", "research", "effort", "has", "focused", "on", "the", "use", "of", "simulations", "for", "functional", "analysis", "and", "on", "the", "performance", "tool", "for", "performance", "analysis", ".", "State", "space", "analysis", "Cruise", "Control", "End-To-End", "Timing", "Performance", "0", "200", "400", "600", "800", "1000", "1200", "0", "5000", "10000", "15000", "20000", "25000", "30000", "Elapsed", "Time", "-LRB-", "ms", "-RRB-", "C", "o", "m", "m", "a", "nd", "C", "o", "m", "p", "l", "e", "t", "i", "on", "Ti", "m", "e", "-LRB-", "m", "s", "-RRB-", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "1", "`", "``", "BrakeOff", "''", "1", "`", "``", "Accel", "''", "1", "`", "``", "Engine", "On", "''", "1", "1", "1", "1", "1", "1", "1", "`", "``", "BrakeOff", "''", "1", "`", "50", "1", "`", "``", "Engine", "On", "''", "210", "could", "also", "be", "used", "to", "further", "refine", "deadlock", "detection", "as", "well", "as", "to", "analyze", "system-wide", "state", "changes", ".", "-LSB-", "1", "-RSB-", "J.", "Rumbaugh", ",", "I.", "Jacobson", ",", "and", "G.", "Booch", ",", "The", "Unified", "Modeling", "Language", "Reference", "Manual", ".", "2", "nd", "Edition", ".", "Addison-Wesley", ",", "2005", ".", "-LSB-", "2", "-RSB-", "R.", "G.", "Pettit", ",", "Analyzing", "Dynamic", "Behavior", "of", "Concurrent", "Object-Oriented", "Software", "Designs", ",", "Ph.D.", ",", "School", "of", "IT&E", ",", "George", "Mason", "University", ",", "2003", ".", "-LSB-", "3", "-RSB-", "K.", "Jensen", ",", "Coloured", "Petri", "Nets", ":", "Basic", "Concepts", ",", "Analysis", "Methods", ",", "and", "Practical", "Use", ",", "vol", ".", "I-III", ".", "Berlin", ",", "Germany", ":", "Springer-Verlag", ",", "1997", ".", "-LSB-", "4", "-RSB-", "H.", "Gomaa", ",", "Designing", "Concurrent", ",", "Distributed", ",", "and", "Real-Time", "Applications", "with", "UML", ",", "Addison-Wesley", ",", "2000", ".", "-LSB-", "5", "-RSB-", "M.", "Baldassari", ",", "G.", "Bruno", ",", "and", "A.", "Castella", ",", "``", "PROTOB", ":", "an", "Object-Oriented", "CASE", "Tool", "for", "Modeling", "and", "Prototyping", "Distributed", "Systems", ",", "''", "Software-Practice", "&", "Experience", ",", "v.", "21", ",", "pp.", "823-44", ",", "1991", ".", "-LSB-", "6", "-RSB-", "B.", "Mikolajczak", "and", "C.", "A.", "Sefranek", ",", "``", "Integrating", "Object", "Oriented", "Design", "with", "Concurrency", "Using", "Petri", "Nets", ",", "''", "IEEE", "International", "Conference", "on", "Systems", ",", "Man", "and", "Cybernetics", ",", "Piscataway", ",", "NJ", ",", "USA", ",", "2001", ".", "-LSB-", "7", "-RSB-", "R.", "Aihua", ",", "``", "An", "Integrated", "Development", "Environment", "for", "Concurrent", "Software", "Developing", "Based", "on", "Object", "Oriented", "Petri", "Nets", ",", "''", "Fourth", "International", "Conference/Exhibition", "on", "High", "Performance", "Computing", "in", "the", "Asia-Pacific", "Region.", ",", "Los", "Alamitos", ",", "CA", ",", "USA", ",", "2000", ".", "-LSB-", "8", "-RSB-", "X", ".", "He", "and", "Y.", "Ding", ",", "``", "Object", "Orientation", "in", "Hierarchical", "Predicate", "Transition", "Nets", ",", "''", "Concurrent", "Object-Oriented", "Programming", "and", "Petri", "Nets", ".", "Advances", "in", "Petri", "Nets", ",", "Berlin", ":", "Springer-Verlag", ",", "2001", ",", "pp.", "196-215", ".", "-LSB-", "9", "-RSB-", "O.", "Biberstein", ",", "D.", "Buchs", ",", "and", "N.", "Guelfi", ",", "``", "Object-Oriented", "Nets", "with", "Algebraic", "Specifications", ":", "The", "CO-OPN/2", "Formalism", ",", "''", "Concurrent", "Object-Oriented", "Programming", "and", "Petri", "Nets", ".", "Advances", "in", "Petri", "Nets", ",", "Berlin", ":", "Springer-Verlag", ",", "2001", ",", "pp.", "73-130", ".", "-LSB-", "10", "-RSB-", "S.", "Chachkov", "and", "D.", "Buchs", ",", "``", "From", "Formal", "Specifications", "to", "Ready-to-Use", "Software", "Components", ":", "The", "Concurrent", "Object", "Oriented", "Petri", "Net", "Approach", ",", "''", "Second", "International", "Conference", "on", "Application", "of", "Concurrency", "to", "System", "Design", ",", "Los", "Alamitos", ",", "CA", ",", "USA", ",", "2001", ".", "-LSB-", "11", "-RSB-", "A.", "Camurri", ",", "P.", "Franchi", ",", "and", "M.", "Vitale", ",", "``", "Extending", "High-Level", "Petri", "Nets", "for", "Object-Oriented", "Design", ",", "''", "IEEE", "International", "Conference", "on", "Systems", ",", "Man", "and", "Cybernetics", ",", "New", "York", ",", "NY", ",", "USA", ",", "1992", ".", "-LSB-", "12", "-RSB-", "J.", "E.", "Hong", "and", "D.", "H.", "Bae", ",", "``", "Software", "Modeling", "and", "Analysis", "Using", "a", "Hierarchical", "Object-Oriented", "Petri", "Net", ",", "''", "Information", "Sciences", ",", "v.", "130", ",", "pp.", "133-64", ",", "2000", ".", "-LSB-", "13", "-RSB-", "D.", "Azzopardi", "and", "D.", "J.", "Holding", ",", "``", "Petri", "Nets", "and", "OMT", "for", "Modeling", "and", "Analysis", "of", "DEDS", ",", "''", "Control", "Engineering", "Practices", ",", "v.", "5", ",", "pp.", "1407-1415", ",", "1997", ".", "-LSB-", "14", "-RSB-", "C.", "Lakos", ",", "``", "Object", "Oriented", "Modeling", "With", "Object", "Petri", "Nets", ",", "''", "Concurrent", "Object-Oriented", "Programming", "and", "Petri", "Nets", ".", "Advances", "in", "Petri", "Nets", ",", "Berlin", ":", "Springer-Verlag", ",", "2001", ",", "pp.", "1-37", ".", "-LSB-", "15", "-RSB-", "C.", "Maier", "and", "D.", "Moldt", ",", "``", "Object", "Coloured", "Petri", "Nets", "-", "A", "Formal", "Technique", "for", "Object", "Oriented", "Modelling", ",", "''", "Concurrent", "Object-Oriented", "Programming", "and", "Petri", "Nets", ".", "Advances", "in", "Petri", "Nets", ",", "Berlin", ":", "Springer-Verlag", ",", "2001", ",", "pp", ".", "406-27", ".", "-LSB-", "16", "-RSB-", "J.", "A.", "Saldhana", ",", "S.", "M.", "Shatz", ",", "and", "H.", "Zhaoxia", ",", "``", "Formalization", "of", "Object", "Behavior", "and", "Interactions", "from", "UML", "Models", ",", "''", "International", "Journal", "of", "Software", "Engineering", "&", "Knowledge", "Engineering", ",", "v.", "11", ",", "pp.", "643-73", ",", "2001", ".", "-LSB-", "17", "-RSB-", "L.", "Baresi", "and", "M.", "Pezze", ",", "``", "On", "Formalizing", "UML", "with", "High-Level", "Petri", "Nets", ",", "''", "Concurrent", "Object-Oriented", "Programming", "and", "Petri", "Nets", ".", "Advances", "in", "Petri", "Nets", ",", "Berlin", ":", "Springer-Verlag", ",", "2001", ",", "pp.", "276-304", ".", "-LSB-", "18", "-RSB-", "K.", "M.", "Hansen", ",", "``", "Towards", "a", "Coloured", "Petri", "Net", "Profile", "for", "the", "Unified", "Modeling", "''", "Centre", "for", "Object", "Technology", ",", "Aarhus", ",", "Denmark", ",", "Technical", "Report", "COT/2", "-52-V0", ".1", "-LRB-", "DRAFT", "-RRB-", ",", "2001", ".", "-LSB-", "19", "-RSB-", "J.", "B.", "J", "rgensen", ",", "``", "Coloured", "Petri", "Nets", "in", "UML-Based", "Software", "Development", "-", "Designing", "Middleware", "for", "Pervasive", "Healthcare", ",", "''", "CPN", "'", "02", ",", "Aarhus", ",", "Denmark", ",", "2002", ".", "-LSB-", "20", "-RSB-", "B.", "Bordbar", ",", "L.", "Giacomini", ",", "and", "D.", "J.", "Holding", ",", "``", "UML", "and", "Petri", "Nets", "for", "Design", "and", "Analysis", "of", "Distributed", "Systems", ",", "''", "International", "Conference", "on", "Control", "Applications", ",", "Anchorage", ",", "Alaska", ",", "USA", ",", "2000", ".", "-LSB-", "21", "-RSB-", "R.", "G.", "Pettit", "and", "H.", "Gomaa", ",", "``", "Integrating", "Petri", "Nets", "with", "Design", "Methods", "for", "Concurrent", "and", "Real-Time", "Systems", ",", "''", "Real", "Time", "Applications", "Workshop", ",", "Montreal", ",", "Canada", ",", "1996", ".", "-LSB-", "22", "-RSB-", "R.", "G.", "Pettit", ",", "``", "Modeling", "Object-Oriented", "Behavior", "Using", "Petri", "Nets", ",", "''", "OOPSLA", "Workshop", "on", "Behavioral", "Specification", ",", "1999", ".", "-LSB-", "23", "-RSB-", "R.", "G.", "Pettit", "and", "H.", "Gomaa", ",", "``", "Validation", "of", "Dynamic", "Behavior", "in", "UML", "Using", "Colored", "Petri", "Nets", ",", "''", "UML", "2000", ",", "York", ",", "England", ",", "2000", ".", "-LSB-", "24", "-RSB-", "R.", "G.", "Pettit", "and", "H.", "Gomaa", ",", "``", "Modeling", "State-Dependent", "Objects", "Using", "Colored", "Petri", "Nets", ",", "''", "CPN", "01", "Workshop", "on", "Modeling", "of", "Objects", ",", "Components", ",", "and", "Agents", ",", "Aarhus", ",", "Denmark", ",", "2001", ".", "-LSB-", "25", "-RSB-", "R.G.", "Pettit", "and", "H.", "Gomaa", ",", "``", "Modeling", "Behavioral", "Patterns", "of", "Concurrent", "Software", "Architectures", "Using", "Petri", "Nets", ".", "''", "Working", "IEEE/IFIP", "Conference", "on", "Software", "Architectures", ",", "Oslo", ",", "Norway", ",", "2004", ".", "-LSB-", "26", "-RSB-", "R.", "David", "and", "H.", "Alla", ",", "``", "Petri", "Nets", "for", "Modeling", "of", "Dynamic", "Systems", ":", "A", "Survey", ".", "''", "Automatica", "v.", "30", "-LRB-", "2", "-RRB-", ".", "Pp.", "175-202", ".", "1994", ".", "-LSB-", "27", "-RSB-", "K.", "Jensen", ",", "``", "DesignCPN", ",", "''", "4.0", "ed", ".", "Aarhus", ",", "Denmark", ":", "University", "of", "Aarhus", ",", "1999", ".", "-LSB-", "28", "-RSB-", "B.", "Lindstrom", "and", "L.", "Wells", ",", "``", "Design/CPN", "Performance", "Tool", "Manual", ",", "''", "University", "of", "Aarhus", ",", "Aarhus", ",", "Denmark", "September", "1999", ".", "211"], "doc_bio_tags": ["O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["colored petri nets", "software architecture", "behavioral design patterns", "comet"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "208", "document": ["Using", "Case-Based", "Reasoning", "in", "Traffic", "Pattern", "Recognition", "for", "Best", "Resource", "Management", "in", "3G", "Networks", "With", "the", "underlying", "W-CDMA", "technique", "in", "3G", "networks", ",", "resource", "management", "is", "a", "very", "significant", "issue", "as", "it", "can", "directly", "influence", "the", "system", "capacity", "and", "also", "lead", "to", "system", "QoS", ".", "However", ",", "the", "resource", "can", "be", "dynamically", "managed", "in", "order", "to", "maintain", "the", "QoS", "according", "to", "the", "SLA", ".", "In", "this", "paper", ",", "CBR", "is", "used", "as", "part", "of", "an", "intelligent-based", "agent", "management", "system", ".", "It", "uses", "information", "from", "previously", "managed", "situations", "to", "maintain", "the", "QoS", "in", "order", "to", "meet", "the", "SLA", ".", "The", "results", "illustrate", "the", "performance", "of", "an", "agent", "in", "traffic", "pattern", "recognition", "in", "order", "to", "identify", "the", "specific", "type", "of", "problem", "and", "finally", "propose", "the", "right", "solution", ".", "C.", "2.3", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "Network", "Operations", "-", "network", "management", ",", "network", "monitoring", ".", "I.", "6.6", "-LSB-", "Simulation", "and", "Modeling", "-RSB-", ":", "Simulation", "Output", "Analysis", ".", "Algorithms", ",", "Management", ",", "Performance", "The", "third", "generation", "-LRB-", "3G", "-RRB-", "cellular", "system", "has", "been", "developed", "to", "satisfy", "increasing", "customer", "demands", "for", "higher", "bit-rate", "access", "in", "order", "to", "provide", "wireless", "Internet", "access", "anytime", "and", "anywhere", ".", "In", "addition", ",", "3G", "networks", "will", "integrate", "different", "type", "of", "services", "like", "voice", ",", "data", ",", "and", "video", ".", "With", "W-CDMA", ",", "all", "users", "share", "the", "same", "spectrum", "and", "use", "codes", "to", "identify", "themselves", ".", "Hence", "the", "whole", "bandwidth", "can", "be", "reused", "in", "every", "cell", ".", "The", "system", "is", "considered", "a", "soft", "capacity", "system", "as", "all", "users", "simultaneously", "transmit", "so", "increasing", "the", "interference", "seen", "by", "others", ".", "The", "system", "capacity", "is", ",", "therefore", ",", "limited", "by", "the", "total", "interference", "that", "occurs", "from", "other", "users", "-LRB-", "in", "the", "case", "of", "the", "network", "being", "uplink-capacity", "limited", "-RRB-", "or", "other", "base", "stations", "-LRB-", "in", "the", "case", "of", "the", "network", "being", "downlink-capacity", "limited", "-RRB-", "and", "the", "background", "noise", ".", "The", "benefit", "of", "this", "technique", "is", "therefore", "providing", "the", "flexible", ",", "higher", "bandwidth", "services", ",", "and", "maintaining", "the", "best", "system", "capacity", ".", "On", "the", "other", "hand", ",", "it", "leads", "to", "more", "complexity", "in", "resource", "management", ".", "Previous", "work", "-LSB-", "1", "-RSB-", "introduced", "the", "use", "of", "intelligent", "agents", "in", "managing", "the", "resources", "to", "meet", "the", "service", "level", "agreement", "-LRB-", "SLA", "-RRB-", "when", "congestion", "occurs", ".", "It", "shows", "that", "by", "using", "intelligent", "agents", "together", "with", "the", "assignment", "and", "admission", "scheme", ",", "the", "system", "environment", "can", "be", "monitored", "and", "the", "policy", "that", "is", "suitable", "for", "that", "particular", "situation", "will", "be", "selected", "and", "applied", "to", "the", "system", ".", "Also", "the", "quality", "of", "service", "-LRB-", "QoS", "-RRB-", "for", "each", "particular", "class", "of", "customer", "can", "be", "monitored", "and", "controlled", "according", "to", "the", "SLA", ".", "In", "-LSB-", "2", "-RSB-", ",", "Case-Based", "Reasoning", "-LRB-", "CBR", "-RRB-", "is", "introduced", "as", "a", "mean", "of", "giving", "the", "agent", "more", "``", "intelligence", "''", ".", "The", "aim", "of", "using", "CBR", "is", "so", "that", "the", "problem", "can", "be", "automatically", "solved", "by", "referring", "to", "a", "similar", "traffic", "pattern", "that", "the", "system", "has", "seen", "before", "and", "kept", "in", "the", "case", "library", ".", "The", "end", "solution", "from", "the", "previous", "case", "can", "then", "be", "applied", "immediately", "to", "give", "a", "fast", "and", "efficient", "response", ".", "In", "this", "paper", ",", "a", "wider", "range", "of", "traffic", "situations", "will", "be", "illustrated", ",", "which", "will", "also", "show", "the", "benefit", "of", "using", "CBR", "in", "order", "to", "identify", "different", "traffic", "patterns", "and", "to", "propose", "the", "best", "solution", ".", "In", "addition", ",", "results", "show", "the", "outcome", "of", "system", "flexibility", "in", "giving", "different", "priority", "patterns", "to", "customers", "according", "to", "the", "system", "requirements", ".", "The", "paper", "is", "organised", "as", "follows", ".", "The", "agent", "system", "and", "architecture", "for", "the", "multi-agent", "system", "are", "described", "in", "section", "2", ".", "In", "section", "3", ",", "the", "implementation", "of", "CBR", "in", "SLA-based", "control", "by", "the", "agent", "will", "be", "introduced", ".", "The", "assignment", "and", "admission", "scheme", "is", "presented", "in", "section", "4", "and", "section", "5", "covers", "the", "simulation", "model", ".", "Traffic", "pattern", "recognition", "and", "numerical", "results", "are", "illustrated", "and", "discussed", "in", "section", "6", ".", "Lastly", ",", "the", "conclusions", "of", "the", "paper", "are", "in", "section", "7", ".", "Critical", "in", "a", "radio", "network", "is", "the", "allocation", "of", "bandwidth", "to", "radio", "cells", "in", "order", "to", "avoid", "local", "congestion", "or", "degradation", "of", "the", "QoS", "and", "it", "is", "generally", "the", "capacity", "of", "the", "wireless", "link", "to", "the", "user", "that", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MSWiM", "'", "04", ",", "October", "4", "6", ",", "2004", ",", "Venezia", ",", "Italy", ".", "Copyright", "2004", "ACM", "1-58113-953-5", "/", "04/0010", "...", "$", "5.00", ".", "252", "limits", "the", "overall", "system", "capacity", ",", "rather", "than", "any", "back-haul", "part", "of", "the", "network", ".", "In", "-LSB-", "3", "-RSB-", ",", "an", "agent", "approach", "for", "a", "distributed", "resource", "management", "system", "is", "introduced", ".", "The", "main", "reason", "for", "using", "intelligent", "agents", "is", "to", "give", "greater", "autonomy", "to", "the", "base", "stations", ";", "this", "gives", "an", "increase", "in", "flexibility", "to", "deal", "with", "new", "situations", "in", "traffic", "load", "and", "to", "decrease", "the", "information", "load", "-LRB-", "the", "messaging", "resulting", "from", "taking", ",", "or", "determining", "control", "actions", "-RRB-", "on", "the", "network", ".", "In", "the", "past", ",", "mobile", "network", "operators", "have", "generally", "restricted", "the", "customer", "to", "only", "one", "service", "provider", ".", "With", "the", "influence", "of", "the", "Internet", ",", "more", "widespread", "choice", "of", "service", "providers", "-LRB-", "SPs", "-RRB-", "will", "be", "available", "to", "3G", "users", ".", "By", "using", "an", "agent", ",", "it", "would", "be", "possible", "to", "allow", "selection", "of", "SP", "by", "offering", "on", "price", ",", "QoS", ",", "or", "value", "added", "service", ".", "In", "this", "work", ",", "each", "agent", "uses", "three", "layers", "taking", "action", "and", "decisions", "on", "different", "timescales", ":", "reactive", ",", "local", "planning", "and", "cooperative", "planning", ".", "As", "an", "individual", "connection", "must", "have", "the", "decision", "made", "in", "real-time", ",", "the", "reactive", "layer", "is", "designed", "for", "a", "very", "fast", "response", ".", "More", "complex", "functions", "have", "been", "implemented", "at", "the", "planning", "layers", ".", "Generally", "the", "local", "planning", "layer", "is", "concerned", "with", "long-term", "actions", "within", "its", "own", "instance", ",", "whereas", "the", "co-operative", "layer", "is", "concerned", "with", "long-term", "actions", "between", "peer", "agents", ",", "or", "with", "other", "types", "of", "agent", ".", "The", "reactive", "layer", "is", ",", "therefore", "very", "simple", ",", "implementing", "policies", "being", "passed", "down", "by", "the", "higher", "layer", ".", "This", "is", "discussed", "in", "more", "detail", "later", "in", "the", "paper", ".", "CBR", "is", "an", "Artificial", "intelligence", "-LRB-", "AI", "-RRB-", "approach", "that", "can", "allow", "the", "agent", "to", "learn", "from", "past", "successes", ".", "It", "is", "a", "method", "that", "finds", "the", "solution", "to", "the", "new", "problem", "by", "analysing", "previously", "solved", "problems", ",", "called", "cases", ",", "or", "adapting", "old", "solutions", "to", "meet", "new", "demands", ".", "Figure", "1", "Case-based", "reasoning", "process", "model", "-LRB-", "Based", "on", "the", "CBR", "cycle", "in", "-LSB-", "4", "-RSB-", "-RRB-", "Figure", "1", "shows", "the", "process", "model", "of", "the", "case-based", "reasoning", ".", "The", "process", "of", "CBR", "starts", "when", "there", "is", "a", "new", "problem", "or", "new", "case", "happening", ".", "The", "first", "step", "is", "case", "retrieval", ",", "which", "uses", "the", "characterizing", "indexes", "of", "the", "event", "to", "find", "the", "best-match", "solved", "case", "-LRB-", "s", "-RRB-", "from", "the", "case", "library", ".", "The", "solution", "from", "the", "retrieved", "case", "-LRB-", "s", "-RRB-", "will", "be", "reused", ".", "However", ",", "the", "solution", "might", "need", "to", "be", "modified", "to", "fit", "the", "new", "situation", "as", "the", "new", "situation", "will", "rarely", "match", "the", "old", "one", "exactly", ":", "this", "step", "is", "called", "``", "revising", "''", ".", "Once", "the", "new", "solution", "is", "proposed", ",", "the", "next", "step", "is", "to", "test", "it", "with", "the", "real", "environment", ".", "The", "result", "is", "either", "success", "or", "failure", ".", "If", "the", "solution", "fails", ",", "a", "monitoring", "process", "will", "analyse", "the", "failure", ",", "repair", "the", "working", "solution", ",", "and", "test", "again", ".", "If", "the", "solution", "succeeds", ",", "this", "new", "solution", "will", "be", "indexed", "and", "retained", "in", "the", "case", "library", "to", "use", "for", "future", "problem", "solving", ".", "The", "work", "shown", "in", "-LSB-", "5", "-RSB-", "gives", "an", "example", "of", "using", "CBR", "in", "network", "traffic", "control", "by", "using", "it", "to", "control", "traffic", "flow", "in", "the", "standard", "public", "switched", "telephone", "network", "of", "the", "Ile", "de", "France", ".", "In", "another", "work", "in", "-LSB-", "6", "-RSB-", ",", "CBR", "is", "used", "to", "correct", "the", "error", "estimation", "of", "the", "required", "bandwidth", "computed", "by", "conventional", "connection", "admission", "control", "schemes", ".", "In", "the", "work", "described", "in", "this", "paper", ",", "CBR", "is", "used", "to", "recognise", "traffic", "patterns", "as", "congestion", "occurs", "in", "a", "3G", "network", "and", "to", "define", "the", "policies", "to", "respond", "to", "that", "congestion", "in", "the", "reactive", "layer", "of", "the", "resource", "agent", ".", "Congestion", "here", "means", "the", "situation", "where", "system", "could", "not", "maintain", "the", "QoS", "required", "by", "the", "SLA", ".", "-LRB-", "This", "is", "explained", "in", "more", "detail", "in", "section", "5", "-RRB-", "3.2", "Resource", "agent", "In", "this", "work", "the", "resource", "agent", "is", "the", "focus", "of", "attention", "as", "it", "is", "an", "important", "agent", "in", "managing", "the", "resource", "within", "the", "network", ".", "The", "architecture", "of", "the", "resource", "agent", "is", "illustrated", "in", "figure", "2", ".", "Figure", "2", "Resource", "agent", "internal", "architecture", "The", "reactive", "layer", "is", "designed", "to", "be", "fast", ",", "performing", "the", "same", "function", "that", "would", "be", "in", "a", "conventional", "RNC", "-LRB-", "Radio", "Network", "Controller", "-RRB-", ",", "assigning", "the", "connection", "a", "Node", "B", ",", "and", "performing", "Previous", "Cases", "General", "Knowledge", "Suggestion", "Solution", "Confirmed", "Solution", "RETRIEVE", "Problem", "Retrieve", "Case", "Tested", "/", "Repaired", "Case", "Solved", "Case", "Case", "New", "New", "Case", "Learned", "Case", "RETAIN", "REUSE", "REVISE", "Co-operative", "Planning", "Layer", "-", "Action", "between", "cells", "Local", "Planning", "Layer", "-", "Act", "on", "changing", "QoS", "within", "cell", "Case", "-", "Based", "Reasoning", "Reactive", "Layer", "Assignment", "OK", "OK", "CAC", "Exception", "handle", "No", "Yes", "No", "Yes", "Assigned", "request", "Modified", "request", "Set", "up", "connection", "Reject", "Request", "pol", "i", "cy", "pol", "i", "cy", "pol", "i", "cy", "S", "t", "at", "us", "re", "p", "o", "rti", "ng", "253", "CAC", "-LRB-", "Connection", "Admission", "Control", "-RRB-", "but", "it", "does", "this", "according", "to", "policies", "assigned", "by", "the", "planning", "layer", ".", "The", "connection", "request", "-LRB-", "containing", "information", "about", "the", "service", "provider", ",", "QoS", ",", "type", "of", "connection", "-RRB-", "is", "first", "considered", "for", "assignment", "to", "a", "Node", "B", "using", "an", "algorithm", "or", "set", "of", "rules", "passed", "down", "from", "the", "planning", "layer", ".", "As", "a", "result", ",", "the", "system", "performance", "can", "be", "monitored", "at", "all", "times", ".", "Any", "congestion", "occurring", "can", "be", "detected", "and", "reported", "to", "the", "planning", "layer", "which", ",", "will", "then", "find", "the", "best", "solution", "using", "the", "CBR", "approach", "in", "order", "to", "maintain", "the", "SLA", ".", "Assignment", "and", "admission", "control", "together", "determine", "which", "base", "station", "will", "have", "power", "control", "over", "a", "mobile", ",", "which", "means", "that", "base", "station", "must", "have", "available", "bandwidth", "to", "support", "the", "new", "call", ",", "and", "also", "must", "make", "sure", "that", "none", "of", "the", "existing", "connection", "will", "be", "dropped", ".", "A", "great", "deal", "of", "work", "has", "been", "done", "in", "this", "area", ".", "In", "-LSB-", "7", "-RSB-", ",", "a", "comparison", "is", "made", "between", "a", "transmitted", "power-based", "call", "admission", "control", "-LRB-", "TPCAC", "-RRB-", "that", "protects", "the", "ongoing", "calls", "and", "a", "received", "power-based", "call", "admission", "control", "-LRB-", "RPCAC", "-RRB-", "that", "blocks", "new", "calls", "when", "the", "total", "received", "power", "at", "a", "base", "station", "exceeds", "a", "threshold", ".", "The", "result", "shows", "that", "the", "RPCAC", "scheme", "is", "found", "to", "offer", "significant", "performance", "benefits", ".", "In", "-LSB-", "8", "-RSB-", ",", "the", "number-based", "CAC", "and", "interference-based", "CAC", "are", "compared", ".", "SIR-based", "CAC", "-LRB-", "signal-to-interference", "based", "CAC", "-RRB-", "has", "been", "proposed", "in", "-LSB-", "9", "-RSB-", ",", "the", "benefit", "being", "in", "improving", "the", "system", "performance", "at", "traffic", "hot-spots", ".", "In", "this", "paper", ",", "a", "combination", "between", "the", "ideal", "scheme", "and", "SIR-based", "CAC", "has", "been", "chosen", "with", "uplink", "capacity", "limitation", "-LRB-", "which", "means", "the", "signal-to-interference", "of", "the", "received", "signal", "from", "mobile", "to", "base", "station", "is", "calculated", "-RRB-", "As", "for", "the", "ideal", "scheme", ",", "the", "system", "has", "to", "make", "sure", "none", "of", "the", "existing", "connections", "will", "be", "dropped", "when", "accepting", "a", "new", "connection", "request", ".", "Hence", ",", "two", "perfect", "power", "control", "loops", "are", "run", "to", "verify", "that", "the", "new", "request", "can", "really", "be", "accepted", ";", "otherwise", "it", "would", "be", "blocked", "or", "put", "into", "the", "buffer", ".", "The", "admission", "process", "is", "as", "follow", ":", "-", "With", "the", "new", "connection", "request", ",", "the", "new", "mobile", "'s", "transmitted", "power", "is", "estimated", "in", "order", "to", "get", "the", "target", "SIR", ".", "-LRB-", "the", "open", "power", "control", "in", "section", "5.4", "-RRB-", "-", "If", "the", "estimated", "transmitted", "power", "is", "in", "the", "accepted", "range", ",", "it", "means", "the", "new", "mobile", "can", "make", "a", "connection", ".", "Otherwise", ",", "it", "will", "be", "blocked", "or", "held", "in", "the", "buffer", ".", "-", "Set", "up", "the", "new", "connection", "and", "perform", "the", "first", "perfect", "power", "control", "loop", ".", "With", "this", ",", "the", "new", "transmitted", "power", "that", "is", "supposed", "to", "give", "each", "connection", "the", "target", "SIR", "can", "be", "determined", ".", "-", "The", "second", "perfect", "power", "control", "loop", "is", "performed", "to", "achieve", "the", "actual", "SIR", "for", "each", "connection", "as", "a", "result", "of", "accepting", "a", "new", "connection", "request", ".", "-", "If", "any", "existing", "connection", "would", "be", "dropped", "-LRB-", "by", "having", "SIR", "less", "than", "the", "threshold", "-RRB-", ",", "the", "new", "connection", "is", "still", "rejected", "otherwise", "it", "is", "accepted", "and", "the", "connection", "can", "be", "made", ".", "The", "rejected", "connection", "request", "will", "be", "put", "into", "a", "queue", "until", "the", "next", "calculation", "or", "new", "call", "arrival", "and", "it", "will", "be", "blocked", "at", "the", "expiry", "of", "a", "timer", ":", "setting", "the", "timer", "to", "zero", "means", "that", "a", "request", "is", "immediately", "accepted", "or", "rejected", ".", "Furthermore", ",", "the", "base", "station", "serving", "the", "mobile", "can", "be", "reassigned", "at", "anytime", "during", "the", "connection", "if", "the", "current", "base", "station", "can", "not", "provide", "the", "required", "link", "quality", ".", "The", "simulation", "model", "has", "been", "implemented", "in", "MatLab", ".", "The", "system", "used", "for", "the", "results", "in", "this", "paper", "consists", "of", "9", "hexagonal", "cells", "-LRB-", "25", "cells", "have", "been", "used", "for", "other", "work", "but", "the", "large", "model", "suffers", "from", "an", "excessively", "long", "run", "time", "-RRB-", "and", "each", "cell", "has", "its", "own", "base", "station", "with", "an", "omni-directional", "antenna", "placed", "at", "the", "centre", "of", "the", "cell", ".", "A", "number", "of", "mobiles", "have", "been", "generated", "randomly", "according", "to", "the", "input", "traffic", ".", "When", "considering", "different", "classes", "of", "user", ",", "it", "is", "quite", "common", "to", "use", "three", "classes", ":", "bronze", ",", "silver", ",", "and", "gold", ".", "In", "the", "results", "described", "here", ",", "50", "%", "of", "the", "users", "are", "bronze", ",", "30", "%", "are", "silver", "and", "20", "%", "are", "gold", ".", "It", "is", "assumed", "that", "the", "gold", "customers", "will", "pay", "the", "highest", "service", "charge", "followed", "by", "silver", "and", "bronze", "customers", ",", "so", "that", "the", "gold", "customer", "is", "paying", "for", "the", "best", "service", "and", "more", "flexibility", "than", "the", "others", ".", "5.1", "Radio", "Propagation", "Model", "In", "cellular", "systems", ",", "radio", "propagation", "is", "crucially", "influenced", "by", "the", "path", "loss", "according", "to", "the", "distance", ",", "log-normal", "shadowing", ",", "and", "multipath", "fading", ".", "The", "relationship", "between", "the", "transmitted", "power", "and", "received", "power", "can", "be", "expressed", "as", "-LSB-", "9", "-RSB-", ".", "0", "10", "/", "10", "-RRB-", "-LRB-", "P", "r", "r", "P", "=", "-LRB-", "1", "-RRB-", "where", "P", "-LRB-", "r", "-RRB-", "is", "the", "received", "power", ",", "P0", "is", "transmitted", "power", ",", "r", "is", "the", "distance", "from", "the", "base", "station", "to", "mobile", ",", "in", "decibels", "has", "a", "normal", "distribution", "with", "zero", "mean", "and", "standard", "deviation", "of", "-LRB-", "typical", "value", "of", "8", "dB", "-RRB-", ",", "and", "2", "represents", "the", "gain", "-LRB-", "typical", "values", "of", "in", "a", "cellular", "environment", "are", "2.7-4.0", "-RRB-", ".", "5.2", "Traffic", "Model", "The", "model", "consists", "of", "two", "traffic", "types", ",", "voice", "and", "video", ".", "The", "model", "has", "been", "simplified", "from", "the", "three", "type", "traffic", "model", "that", "also", "included", "data", "traffic", ",", "which", "was", "used", "in", "-LSB-", "2", "-RSB-", ".", "The", "reason", "in", "simplifying", "the", "traffic", "model", "is", "because", "modelling", "data", "traffic", "to", "the", "level", "of", "packet", "results", "in", "unrealistically", "long", "simulation", "times", ".", "5.2.1", "Voice", "traffic", "Voice", "traffic", "is", "considered", "to", "be", "real-time", "traffic", ".", "The", "common", "model", "for", "a", "single", "voice", "source", "is", "illustrated", "by", "the", "ON-OFF", "process", ".", "It", "consists", "of", "two", "stages", ",", "active", "-LRB-", "ON", "-RRB-", "and", "silent", "-LRB-", "OFF", "-RRB-", "stage", ",", "with", "a", "transition", "rate", "from", "ON", "to", "OFF", "and", "from", "OFF", "to", "ON", "stage", ".", "Figure", "3", "illustrates", "the", "ON-OFF", "model", ".", "The", "silent", "period", "is", "assumed", "to", "be", "the", "period", "that", "can", "not", "be", "used", "to", "transmit", "data", "message", "or", "voice", "call", ".", "Figure", "3", "Traffic", "model", "for", "voice", "call", "-LRB-", "ON-OFF", "model", "-RRB-", "Silent", "Active", "Duration", "in", "silent", "state", ":", "exponential", "distribution", "Duration", "in", "active", "state", ":", "exponential", "distribution", "1", "1", "254", "To", "simplify", "the", "simulation", ",", "the", "approach", "of", "-LSB-", "9", "-RSB-", "is", "used", "with", "an", "activity", "factor", "of", "0.45", "is", "used", ".", "The", "transmission", "rate", "for", "voice", "traffic", "is", "assumed", "to", "be", "8kbit/s", "and", "mean", "holding", "time", "is", "180second", ".", "5.2.2", "Video", "traffic", "Video", "traffic", "is", "also", "considered", "as", "real-time", "traffic", ".", "The", "common", "model", "for", "video", "source", "is", "illustrated", "by", "the", "discrete-state", "continuous", "time", "Markov", "process", "illustrated", "in", "figure", "4", ".", "The", "bit", "rate", "of", "video", "traffic", "is", "quantized", "into", "finite", "discrete", "level", "-LRB-", "0", "A", "2A", "...", "MA", "-RRB-", ".", "Transitions", "between", "levels", "occur", "with", "exponential", "transition", "rates", "that", "may", "depend", "on", "the", "current", "level", ".", "-LSB-", "11", "-RSB-", "Figure", "4", "Video", "source", "model", "-LRB-", "Discrete-state", "continuous", "time", "Markov", "process", "-RRB-", "The", "and", "are", "the", "state", "transitions", "and", "they", "are", "obtained", "by", ":", "+", "=", "M", "N", "04458", ".", "5", "1", "9", ".", "3", "-LRB-", "2", "-RRB-", "=", "9", ".", "3", "-LRB-", "3", "-RRB-", "where", "N", "is", "a", "Number", "of", "aggregated", "video", "sources", "-LRB-", "typical", "assumption", "1", "-RRB-", "and", "M", "is", "a", "number", "of", "quantization", "levels", "-LRB-", "typical", "assumption", "8", "-RRB-", ".", "Implementing", "this", "video", "traffic", "model", "in", "the", "simulation", "causes", "simulation", "times", "to", "be", "very", "long", ".", "Many", "authors", "therefore", "simplify", "this", "by", "using", "activity", "factor", ".", "-LSB-", "9", "-RSB-", "-LSB-", "12", "-RSB-", "Here", ",", "an", "activity", "factor", "of", "1", "has", "been", "assumed", "for", "the", "real-time", "video", "source", "as", "use", "in", "-LSB-", "9", "-RSB-", ".", "The", "transmission", "rate", "for", "video", "traffic", "is", "assumed", "to", "be", "64", ",", "144", ",", "or", "384kbit/s", "and", "mean", "holding", "time", "is", "300", "second", ".", "5.3", "Receiver", "Model", "For", "the", "uplink", "capacity", "limited", ",", "the", "SIR", "of", "each", "transmission", "is", "calculated", "at", "the", "base", "station", "and", "it", "can", "be", "expressed", "as", "follows", ",", "-LRB-", "based", "on", "-LSB-", "13", "-RSB-", "-RRB-", "thermal", "er", "ra", "N", "I", "I", "R", "W", "SIR", "+", "+", "=", "int", "int", "Pr", "-LRB-", "4", "-RRB-", "where", ",", "-LRB-", "W/R", "-RRB-", "is", "the", "processing", "gain", ",", "Pr", "is", "the", "received", "signal", "strength", ",", "I", "intra", "is", "the", "sum", "of", "the", "received", "signal", "powers", "of", "other", "transmissions", "within", "the", "same", "cell", ",", "I", "inter", "is", "the", "sum", "of", "the", "received", "signal", "powers", "from", "the", "other", "cells", ",", "and", "N", "thermal", "is", "the", "thermal", "noise", "power", ".", "5.4", "Power", "Control", "Model", "Power", "control", "is", "the", "crucial", "part", "in", "the", "system", "since", "it", "is", "necessary", "to", "minimise", "the", "interference", "in", "the", "system", "by", "minimising", "the", "level", "of", "transmitted", "power", "to", "the", "optimum", "level", ",", "which", "means", "just", "enough", "to", "maintain", "the", "link", "quality", ".", "Power", "control", "in", "UMTS", "consists", "of", "three", "main", "functions", ":", "-LRB-", "i", "-RRB-", "open-loop", "power", "control", ",", "-LRB-", "ii", "-RRB-", "inner-loop", "power", "control", ",", "and", "-LRB-", "iii", "-RRB-", "outer-loop", "power", "control", "-LSB-", "14", "-RSB-", ".", "As", "the", "simulation", "focuses", "on", "the", "uplink-limited", "capacity", ",", "power", "control", "for", "the", "uplink", "is", "applied", ".", "In", "this", "work", ",", "the", "first", "two", "types", "are", "applied", "in", "the", "simulation", "since", "they", "have", "the", "major", "effect", "on", "the", "simulation", "result", ".", "Without", "outer-loop", "power", "control", ",", "the", "target", "SIR", "has", "to", "be", "fixed", ";", "here", ",", "it", "is", "assumed", "to", "be", "6", "dB", "and", "the", "threshold", "is", "4", "dB", ".", "-LSB-", "10", "-RSB-", "The", "power", "control", "step", "is", "assumed", "to", "be", "1", "dB", "at", "each", "power", "control", "cycle", ".", "-LSB-", "15", "-RSB-", "-LSB-", "16", "-RSB-", "5.4.1", "Open-Loop", "Power", "Control", "Open-loop", "power", "control", "is", "applied", "when", "new", "connection", "requests", "arrive", "in", "the", "system", "as", "initial", "step", "of", "the", "admission", "process", "-LRB-", "section", "4", "-RRB-", ".", "The", "total", "interference", "at", "the", "base", "station", "is", "calculated", "as", "it", "is", "the", "parameter", "that", "User", "Equipment", "-LRB-", "UE", "-RRB-", "needs", "to", "use", "in", "the", "estimation", "of", "its", "initial", "transmit", "power", ".", "According", "to", "the", "parameter", "and", "the", "target", "SIR", ",", "UE", "estimates", "the", "transmit", "power", "and", "uses", "it", "as", "an", "initial", "transmit", "power", ".", "5.4.2", "Inner-Loop", "Power", "Control", "This", "is", "done", "periodically", "to", "allow", "the", "transmitted", "power", "of", "each", "connection", "to", "be", "kept", "as", "low", "as", "possible", ",", "yet", "maintain", "the", "target", "SIR", ".", "Firstly", ",", "the", "base", "station", "calculates", "the", "received", "SIR", "from", "the", "UE", ".", "If", "the", "SIR", "is", "less", "than", "the", "target", "SIR", ",", "the", "TPC", "-LRB-", "Transmit", "Power", "Control", "-RRB-", "command", "``", "up", "''", "is", "sent", "to", "the", "UE", "which", "increases", "the", "transmitted", "power", "by", "one", "step", ".", "If", "the", "SIR", "is", "more", "than", "the", "target", "SIR", "+1", ",", "the", "TPC", "command", "``", "down", "''", "is", "sent", "to", "the", "UE", "which", "decreases", "the", "transmitted", "power", "by", "one", "step", ".", "Otherwise", ",", "the", "UE", "maintains", "the", "same", "transmitted", "power", ".", "After", "the", "power", "control", "cycle", "has", "been", "performed", ",", "the", "new", "SIR", "for", "each", "mobile", "can", "be", "calculated", ".", "Any", "mobile", "that", "has", "an", "SIR", "less", "than", "the", "threshold", "will", "not", "be", "dropped", "immediately", ";", "instead", "the", "system", "will", "try", "to", "reallocate", "that", "mobile", "to", "another", "base", "station", "nearby", "that", "still", "has", "available", "bandwidth", "and", "can", "provide", "the", "link", "quality", ".", "If", "it", "is", "possible", ",", "the", "mobile", "will", "be", "handed", "over", "to", "the", "next", "base", "station", ",", "otherwise", "the", "mobile", "will", "be", "dropped", ".", "The", "transmitted", "power", "has", "a", "maximum", "of", "21dBm", ";", "if", "the", "calculated", "transmit", "power", "is", "more", "than", "the", "maximum", "power", ",", "the", "maximum", "transmitted", "power", "will", "be", "applied", ".", "In", "this", "simulation", ",", "the", "inner-loop", "power", "control", "is", "performed", "every", "10ms", ".", "Experiments", "have", "been", "done", "by", "varying", "the", "power", "control", "time", "step", "and", "the", "results", "show", "that", "the", "blocking", "rate", "becomes", "erratic", "as", "the", "timing", "gets", "too", "high", ".", "From", "the", "experiment", ",", "the", "time", "step", "of", "10ms", "has", "been", "chosen", "as", "it", "is", "the", "highest", "value", "that", "gives", "consistent", "results", ".", "From", "the", "simulation", "point", "of", "view", ",", "it", "is", "preferable", "to", "use", "the", "highest", "time", "as", "this", "reduces", "the", "length", "of", "the", "simulation", ".", "The", "power", "control", "is", "essentially", "that", "used", "in", "3G", "without", "including", "outer-loop", "power", "control", ".", "5.5", "Verification", "and", "Validation", "One", "of", "the", "most", "important", "aspects", "in", "developing", "the", "simulation", "model", "is", "its", "credibility", ";", "therefore", "the", "validation", "and", "verification", "of", "any", "simulation", "model", "are", "essential", ".", "The", "simulation", "model", "was", "validated", "by", "comparing", "the", "result", "with", "the", "relevant", "result", "from", "-LSB-", "8", "-RSB-", ":", "this", "is", "discussed", "in", "-LSB-", "1", "-RSB-", ".", "0", "MA", "-LRB-", "M-1", "-RRB-", "A", "-LRB-", "M-2", "-RRB-", "A", "A", "2A", "2", "M", "M", "-RRB-", "1", "-LRB-", "M", "2", "-RRB-", "1", "-LRB-", "M", "255", "5.6", "CBR", "Model", "According", "to", "-LSB-", "17", "-RSB-", ",", "there", "are", "several", "proposed", "schemes", "of", "organizational", "structure", "and", "retrieval", "algorithms", "for", "CBR", ".", "In", "this", "work", ",", "the", "hierarchical", "memory", "with", "parallel", "search", "is", "used", "as", "it", "provides", "an", "efficient", "retrieval", "that", "is", "less", "time", "consuming", ",", "as", "the", "matching", "and", "retrieving", "happen", "in", "one", "step", ",", "which", "also", "give", "less", "complexity", ".", "The", "monitoring", "process", "of", "the", "system", "performed", "every", "10", "seconds", ".", "This", "means", "the", "monitoring", "parameters", "will", "be", "collected", "for", "10", "seconds", "and", "sent", "to", "the", "local", "planning", "layer", "of", "an", "agent", "where", "the", "CBR", "model", "is", "located", "as", "shown", "in", "figure", "1", ".", "The", "parameters", "will", "then", "be", "compared", "with", "the", "SLA", "requirements", "and", "any", "deviation", "from", "the", "SLA", "can", "be", "reported", ".", "The", "CBR", "model", "will", "then", "be", "used", "to", "find", "the", "best", "solution", "for", "the", "situation", ".", "Base", "on", "the", "process", "model", "in", "figure", "1", ",", "a", "solution", "will", "be", "proposed", ",", "or", "where", "the", "best", "matched", "case", "can", "not", "be", "found", "or", "the", "evaluating", "process", "fails", ",", "a", "calculation", "might", "be", "used", "instead", "in", "order", "to", "find", "the", "solution", "according", "to", "certain", "rules", ".", "As", "the", "parallel", "search", "has", "been", "chosen", "for", "the", "CBR", "model", ",", "the", "whole", "library", "will", "be", "searched", "for", "each", "characterizing", "index", "in", "one", "step", ".", "If", "the", "new", "case", "is", "to", "be", "retained", "in", "the", "library", ",", "the", "library", "indexes", "have", "to", "be", "re-sorted", "according", "to", "the", "priority", "of", "the", "characterizing", "index", "of", "the", "new", "case", ".", "5.7", "Monitoring", "and", "case", "matching", "process", "As", "explained", "above", ",", "the", "monitoring", "process", "is", "done", "every", "10", "seconds", ".", "The", "call", "blocking", ",", "call", "dropping", "and", "the", "accumulative", "value", "of", "blocking", "rate", "are", "calculated", "and", "by", "comparing", "them", "with", "the", "SLA", "requirements", ",", "the", "error", "can", "be", "detected", ".", "If", "the", "error", "being", "reported", "is", "significant", ",", "the", "CBR", "model", "will", "be", "called", ".", "There", "are", "seven", "characterising", "indexes", "used", "to", "describe", "the", "case", "at", "the", "moment", ".", "Currently", ",", "they", "are", "obtained", "by", "matching", "the", "actual", "monitoring", "factors", "into", "a", "suitable", "range", "where", "the", "value", "belongs", ".", "Therefore", ",", "the", "characterising", "indexes", "will", "be", "in", "form", "of", "small", "integer", "numbers", ".", "The", "seven", "monitoring", "factors", "are", "as", "follows", "-", ":", "Total", "throughput", "for", "the", "whole", "system", "Offered", "traffic", "for", "the", "whole", "system", "Offered", "traffic", "for", "silver", "customer", "for", "the", "whole", "system", "Offered", "traffic", "for", "gold", "customer", "for", "the", "whole", "system", "Cell", "identity", "where", "offered", "traffic", "exceeds", "limit", "Accumulative", "blocking", "rate", "for", "silver", "class", "Accumulative", "blocking", "rate", "for", "gold", "class", "In", "case", "that", "there", "is", "not", "an", "exact", "match", ",", "there", "needs", "be", "a", "way", "to", "identify", "whether", "the", "closest", "match", "is", "acceptable", "for", "the", "situation", ".", "However", ",", "in", "the", "current", "model", ",", "only", "the", "best", "match", "will", "be", "chosen", ".", "In", "future", "work", ",", "the", "acceptable", "level", "for", "each", "case", "will", "be", "determined", "by", "the", "distance", "to", "the", "seven-dimensional", "coordinates", "defining", "the", "individual", "point", "of", "the", "case", ".", "If", "it", "is", "within", "the", "tolerable", "range", ",", "the", "case", "will", "be", "used", ".", "The", "previous", "work", "-LSB-", "1", "-RSB-", "was", "done", "to", "support", "the", "basic", "idea", "that", "the", "reactive", "layer", "of", "the", "agent", "system", "can", "be", "controlled", "by", "the", "planning", "layer", "in", "order", "to", "ensure", "system", "compliance", "with", "the", "SLA", ".", "Here", ",", "the", "SLA", "assumptions", "made", "for", "the", "maximum", "acceptable", "level", "of", "call", "blocking", "rate", ".", "-", "Maximum", "acceptable", "call", "blocking", "rate", "for", "gold", ":", "0.03", "-", "Maximum", "acceptable", "call", "blocking", "rate", "for", "silver", ":", "0.05", "The", "gold", "customer", "pays", "the", "highest", "rate", "for", "the", "least", "elasticity", "of", "service", "level", ".", "These", "rates", "can", "either", "be", "instantaneous", "values", "or", "measured", "over", "a", "period", "of", "time", ";", "naturally", "the", "numerical", "limits", "would", "be", "different", ".", "In", "-LSB-", "1", "-RSB-", ",", "the", "random", "overload", "situation", "has", "been", "tested", "with", "the", "traffic", "load", "being", "increased", "after", "the", "system", "reached", "stability", ".", "The", "call", "dropping", "rate", "is", "acceptable", "before", "high", "traffic", "load", "was", "applied", ",", "but", "after", "changing", "the", "load", ",", "the", "call", "dropping", "rate", "increases", ",", "then", "slowly", "declines", "to", "about", "the", "same", "level", "as", "before", ",", "because", "of", "the", "implementation", "of", "ideal", "assignment", "and", "admission", "control", ".", "On", "the", "other", "hand", ",", "the", "call", "blocking", "rate", "increases", "as", "a", "greater", "number", "of", "mobiles", "attempt", "to", "get", "into", "the", "system", "and", "the", "system", "tries", "not", "to", "drop", "any", "existing", "connection", ",", "so", "more", "will", "be", "blocked", ".", "The", "call", "buffering", "time", "for", "all", "classes", "of", "customer", "and", "all", "types", "of", "service", "has", "been", "set", "to", "zero", "to", "give", "immediate", "accept", "or", "reject", "decisions", ".", "Figure", "5", "shows", "the", "comparison", "between", "the", "result", "from", "the", "conventional", "system", "that", "does", "not", "chance", "the", "policy", "with", "the", "dashed", "lines", "and", "the", "result", "of", "policy", "chance", "as", "the", "solid", "lines", ".", "Without", "the", "SLA", "based", "control", ",", "the", "call", "blocking", "rate", "for", "all", "customer", "classes", "raises", "as", "the", "traffic", "load", "increases", ".", "For", "the", "SLA", "based", "control", ",", "the", "implementation", "here", "uses", "a", "buffer", "mechanism", "so", "the", "a", "call", "request", "that", "can", "not", "be", "served", "immediately", "is", "held", "for", "a", "short", "time", "in", "case", "resources", "become", "available", ".", "The", "buffering", "time", "is", "configurable", ".", "From", "solid", "lines", "at", "the", "point", "when", "the", "level", "of", "call", "blocking", "rate", "for", "gold", "customer", "reaches", "the", "maximum", "level", ",", "policy", "2", "is", "applied", "which", "allocates", "a", "short", "buffering", "time", "to", "call", "requests", "from", "gold", "and", "silver", "customers", ",", "with", "that", "for", "bronze", "customers", "still", "being", "set", "to", "zero", ".", "The", "result", "shows", "that", "the", "call", "blocking", "rate", "of", "gold", "and", "silver", "customers", "stabilises", ",", "but", "does", "not", "go", "below", "the", "limit", "set", "for", "gold", ".", "After", "waiting", "for", "a", "short", "period", "-LRB-", "here", "2", "minutes", "-RRB-", "to", "ensure", "the", "trend", "is", "stable", ",", "a", "further", "change", "in", "policy", "is", "applied", ";", "this", "gives", "longer", "buffering", "time", "for", "gold", "customers", "and", "slightly", "longer", "buffering", "time", "for", "silver", "customers", ",", "so", "increasing", "still", "further", "the", "probability", "of", "gold", "and", "silver", "customers", "-LRB-", "especially", "gold", "-RRB-", "being", "accepted", "at", "the", "expense", "of", "bronze", ".", "Figure", "5", "Comparison", "between", "the", "result", "from", "the", "conventional", "system", "and", "SLA", "based", "control", "system", "Silver", "maximum", "level", "Gold", "maximum", "level", "Mean", "interarrival", "100ms", "Mean", "interarrival", "25", "ms.", "Policy", "1", "Policy", "2", "Policy", "3", "Bronze", "Silver", "Gold", "With", "SLA", "control", "Without", "SLA", "control", "Gold", "Bronze", "Silver", "0", "0.02", "0.04", "0.06", "0.08", "0.1", "0.12", "0.14", "18000", "90000", "2E", "+05", "2E", "+05", "3E", "+05", "4E", "+05", "5E", "+05", "5E", "+05", "6E", "+05", "Simulation", "time", "-LRB-", "ms.", "-RRB-", "Rate", "of", "call", "blocking", "over", "total", "avtice", "call", "256", "A", "simple", "case", "library", "has", "been", "generated", "partly", "from", "this", "previous", "work", "and", "the", "knowledge", "from", "the", "work", "under", "current", "study", ".", "By", "using", "the", "simulation", "model", "mentioned", "before", ",", "a", "few", "traffic", "patterns", "can", "be", "implemented", "to", "test", "the", "system", "performance", ".", "The", "two", "main", "environments", "being", "tested", "here", "are", "the", "random", "overload", "situation", "and", "the", "hot", "spot", "situation", ".", "As", "the", "system", "detects", "the", "congestion", ",", "the", "CBR", "model", "is", "called", "to", "analyse", "the", "situation", "and", "the", "simulation", "results", "will", "be", "divided", "in", "two", "sections", ".", "6.1", "Random", "overload", "case", "For", "this", "case", ",", "the", "simulation", "repeated", "the", "previous", "work", "explained", "before", "by", "adding", "the", "CBR", "model", "and", "also", "use", "the", "simulation", "model", "illustrated", "in", "section", "5", ".", "-LRB-", "In", "previous", "work", "-LSB-", "1", "-RSB-", "the", "less", "detailed", "simulation", "model", "has", "been", "used", ".", "-RRB-", "Figure", "6", "shows", "the", "simulation", "results", "of", "the", "call", "blocking", "across", "the", "simulation", "time", "as", "the", "traffic", "load", "increases", "in", "a", "conventional", "system", "that", "does", "not", "change", "policy", ".", "The", "call", "buffering", "time", "for", "all", "classes", "of", "customers", "and", "all", "types", "of", "services", "has", "been", "set", "to", "zero", "to", "give", "immediate", "accept", "or", "reject", "decisions", ".", "Figure", "6", "The", "simulation", "result", "from", "conventional", "system", "for", "the", "random", "overload", "situation", "Figure", "7", ",", "8", "and", "9", "show", "the", "effect", "of", "using", "the", "CBR", "approach", "to", "identify", "the", "current", "traffic", "pattern", "and", "manage", "the", "reactive", "layer", "policies", "accordingly", ".", "It", "might", "be", "thought", "that", "these", "results", "are", "simply", "the", "normal", "result", "of", "applying", "priorities", ",", "but", "the", "technique", "is", "more", "powerful", ".", "In", "many", "SLAs", ",", "it", "is", "not", "short-term", "violations", "that", "are", "important", ":", "an", "SLA", "might", "specify", "for", "instance", "that", "the", "blocking", "rate", "must", "not", "exceed", "a", "certain", "value", "during", "a", "day", "or", "a", "month", ".", "The", "new", "policy", "has", "been", "applied", "to", "the", "reactive", "layer", "as", "soon", "as", "the", "system", "recognises", "congestion", ",", "in", "this", "example", "using", "the", "accumulative", "error", "rate", "over", "a", "period", "of", "10s", ".", "The", "implementation", "here", "again", "uses", "a", "buffer", "mechanism", "to", "give", "short", "buffering", "time", "to", "call", "request", "that", "can", "not", "be", "served", "immediately", ",", "especially", "for", "the", "higher", "priority", "customer", ".", "The", "buffering", "time", "is", "configurable", ".", "It", "can", "be", "seen", "from", "the", "result", "that", "CBR", "keeps", "the", "call", "blocking", "rate", "for", "gold", "and/or", "silver", "customers", "within", "the", "SLA", "bounds", ",", "according", "to", "the", "congestion", "pattern", ".", "In", "figure", "7", ",", "the", "traffic", "reaches", "overload", "when", "the", "accumulative", "call", "blocking", "rate", "for", "gold", "exceeds", "the", "limit", ",", "at", "that", "point", "silver", "is", "still", "in", "an", "acceptable", "range", ".", "In", "this", "case", "the", "chosen", "policy", "gives", "the", "highest", "buffering", "time", "to", "gold", "and", "lower", "value", "for", "silver", "with", "that", "for", "bronze", "still", "at", "zero", ".", "Figure", "7", "Simulation", "results", "showing", "the", "effect", "of", "SLA-based", "control", "by", "CBR", "approach", "for", "the", "first", "random", "overload", "case", "It", "can", "be", "seen", "that", "the", "system", "detects", "the", "overload", "situation", "at", "the", "point", "where", "the", "traffic", "load", "increases", "and", "generates", "the", "appropriate", "policy", ".", "As", "the", "new", "policy", "gives", "priority", "to", "gold", ",", "the", "call", "blocking", "for", "gold", "customer", "is", "maintained", "within", "an", "acceptable", "range", "at", "the", "expense", "of", "both", "silver", "and", "bronze", ".", "Figure", "8", "shows", "the", "result", "from", "the", "second", "case", ",", "where", "the", "traffic", "is", "overloaded", "with", "the", "accumulative", "call", "blocking", "rate", "for", "gold", "and", "silver", "exceeding", "the", "maximum", "value", ".", "In", "this", "case", ",", "both", "silver", "and", "gold", "QoS", "need", "to", "be", "handled", ".", "By", "giving", "highest", "buffering", "time", "to", "silver", "and", "slightly", "lower", "for", "gold", ",", "the", "blocking", "for", "both", "can", "be", "kept", "within", "the", "range", ".", "As", "the", "buffer", "in", "this", "implementation", "uses", "the", "priority", "arrangement", ",", "gold", "customers", "are", "always", "in", "the", "top", "of", "the", "queue", ",", "so", ",", "in", "order", "to", "also", "give", "priority", "to", "silver", "customers", ",", "their", "buffering", "time", "has", "to", "be", "higher", ".", "Figure", "8", "Simulation", "results", "showing", "the", "effect", "of", "SLA-based", "control", "by", "CBR", "approach", "for", "the", "second", "random", "overload", "case", "Silver", "Gold", "maximum", "level", "Silver", "maximum", "level", "Normal", "traffic", "Overload", "traffic", "Gold", "Bronze", "Silver", "Gold", "maximum", "level", "Silver", "maximum", "level", "Normal", "traffic", "Overload", "traffic", "Gold", "Bronze", "Silver", "Gold", "maximum", "level", "Silver", "maximum", "level", "Normal", "traffic", "Overload", "traffic", "Gold", "Bronze", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "5", "35", "65", "95\u00a0125\u00a0155\u00a0185", "215\u00a0245\u00a0275\u00a0305", "335\u00a0365\u00a0395", "Simulation", "time", "-LRB-", "s.", "-RRB-", "Call", "blocking", "rate", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "5", "35", "65\u00a095\u00a0125\u00a0155", "185\u00a0215\u00a0245\u00a0275", "305\u00a0335\u00a0365\u00a0395", "Simulation", "time", "-LRB-", "s.", "-RRB-", "Call", "blocking", "rate", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "5", "35", "65", "95\u00a0125\u00a0155\u00a0185", "215\u00a0245\u00a0275\u00a0305", "335\u00a0365\u00a0395", "Simulation", "time", "-LRB-", "s.", "-RRB-", "Call", "blocking", "rate", "257", "In", "Figure", "9", "the", "situation", "is", "that", "the", "long-term", "value", "for", "gold", "customers", "has", "been", "met", ",", "but", "that", "for", "silver", "is", "at", "the", "limit", ".", "When", "congestion", "occurs", "then", ",", "silver", "customers", "have", "to", "be", "given", "priority", "in", "order", "that", "their", "long-term", "blocking", "is", "not", "exceeded", ",", "but", "gold", "customers", "can", "be", "allowed", "to", "have", "worse", "service", "since", "there", "is", "still", "``", "slack", "''", "in", "their", "SLA", ".", "Figure", "9", "Simulation", "results", "showing", "the", "effect", "of", "SLA-based", "control", "by", "CBR", "approach", "for", "the", "last", "random", "overload", "case", "The", "SLA", "monitoring", "here", "is", "looking", "at", "the", "long-term", "blocking", ",", "has", "detected", "that", "silver", "needs", "priority", "and", "has", "applied", "that", "priority", ".", "These", "results", "show", "the", "flexibility", "of", "the", "control", "system", "which", "assigns", "different", "policies", "to", "different", "scenarios", "and", "also", "shows", "that", "the", "highest", "priority", "can", "also", "be", "a", "sacrifice", "in", "order", "to", "maintain", "the", "customer", "who", "normally", "has", "the", "overall", "long-term", "values", ".", "In", "fact", "any", "SLA", "that", "can", "be", "evaluated", "numerically", "can", "be", "used", "as", "the", "basis", "for", "controlling", "the", "policy", ":", "the", "system", "is", "that", "flexible", ".", "6.2", "Hot", "spot", "case", "With", "hot", "spots", ",", "the", "monitoring", "process", "is", "able", "to", "identify", "the", "congestion", "from", "the", "individual", "blocking", "and", "dropping", "parameters", "of", "each", "cell", ".", "CBR", "model", "will", "then", "match", "the", "pattern", "with", "the", "cases", "in", "the", "library", ".", "The", "proposed", "mechanism", "here", "can", "be", "seen", "in", "figure", "10", ".", "The", "bronze", "and", "silver", "users", "near", "the", "boundary", "will", "be", "transferred", "to", "the", "neighbouring", "cells", "that", "have", "normal", "traffic", ":", "effectively", "then", "by", "controlling", "the", "cell", "size", "in", "a", "more", "comprehensive", "manner", "than", "simple", "cell", "breathing", "from", "power", "control", ".", "By", "doing", "this", ",", "some", "of", "the", "capacity", "will", "be", "released", "for", "the", "hot", "spot", "cell", "in", "order", "to", "maintain", "the", "users", "nearer", "to", "the", "centre", "and", "high", "priority", "users", ".", "Figure", "10", "Hot", "spot", "situation", "and", "the", "proposed", "solution", "In", "the", "initial", "work", "for", "this", "hot", "spot", "case", ",", "the", "transferring", "process", "or", "handover", "will", "be", "done", "every", "10s", ",", "which", "is", "the", "frequency", "of", "the", "monitoring", "process", ".", "An", "example", "of", "results", "from", "the", "initial", "work", "in", "this", "case", "are", "shown", "in", "figure", "11", "and", "12", ".", "In", "figure", "11", ",", "after", "the", "traffic", "load", "has", "increased", "in", "the", "hot", "spot", "cell", ",", "the", "call", "blocking", "rate", "for", "the", "hot", "spot", "call", "rise", "up", "while", "the", "other", "cells", "still", "have", "low", "blocking", "rate", "as", "the", "traffic", "was", "controlled", "within", "normal", "level", ".", "Figure", "11", "Result", "from", "the", "conventional", "system", "for", "the", "hot", "spot", "situation", "Gold", "Silver", "Bronze", "Silver", "Gold", "maximum", "level", "Silver", "maximum", "level", "Normal", "traffic", "Overload", "traffic", "Gold", "Bronze", "Silver", "Gold", "maximum", "level", "Silver", "maximum", "level", "Normal", "traffic", "Overload", "traffic", "Gold", "Bronze", "Hot", "spot", "cell", "Normal", "traffic", "cell", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "5", "35", "65", "95\u00a0125\u00a0155\u00a0185", "215\u00a0245\u00a0275\u00a0305", "335\u00a0365\u00a0395", "Simulation", "model", "-LRB-", "s.", "-RRB-", "Call", "blocking", "rat", "e", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "5", "35", "65\u00a095\u00a0125\u00a0155", "185\u00a0215\u00a0245\u00a0275", "305\u00a0335\u00a0365\u00a0395", "Simulation", "Time", "-LRB-", "s.", "-RRB-", "Call", "block", "rate", "258", "Figure", "12", "shows", "the", "result", "of", "using", "the", "CBR", "model", "which", "instructs", "the", "system", "to", "perform", "the", "handover", "for", "bronze", "and", "silver", "users", "near", "boundary", "to", "the", "neighbouring", "cells", "every", "10s", ".", "The", "blocking", "rate", "for", "the", "hot", "spot", "cell", "still", "increases", "after", "the", "traffic", "load", "has", "increased", "but", "by", "comparing", "with", "the", "result", "in", "figure", "11", ",", "the", "call", "blocking", "rate", "is", "lower", ".", "Further", "work", "is", "being", "done", "on", "evaluating", "more", "complex", "scenarios", ".", "Figure", "12", "Result", "from", "SLA", "based", "control", "system", "with", "CBR", "model", "for", "the", "hot", "spot", "situation", "This", "paper", "has", "introduced", "the", "concept", "of", "combining", "CBR", "with", "an", "intelligent", "agent", "layered", "architecture", "to", "manage", "SLAs", "in", "W-CDMA", "networks", ".", "The", "simulation", "results", "show", "that", "the", "CBR", "system", "has", "been", "able", "to", "detect", "congestion", "occurring", "and", "then", "apply", "the", "appropriate", "policy", "to", "manage", "the", "behaviour", "of", "the", "CAC", "to", "block", "those", "customers", "who", ",", "at", "that", "time", ",", "are", "perceived", "as", "less", "important", "to", "the", "operator", ".", "The", "scenarios", "illustrated", "are", "fairly", "simple", "but", "further", "work", "is", "evaluating", "the", "approach", "over", "a", "much", "more", "complex", "range", "of", "situations", ".", "-LSB-", "1", "-RSB-", "Chantaraskul", ",", "S.", "and", "Cuthbert", ",", "L.G.", "SLA", "Control", "for", "Congestion", "Management", "in", "3G", "Networks", ",", "in", "Proceeding", "of", "the", "IASTED", "International", "Conference", "on", "Wireless", "and", "Optical", "Communications", "-LRB-", "WOC2003", "-RRB-", ",", "Banff", ",", "Alberta", ",", "Canada", ",", "2003", ",", "pp.", "447-452", ".", "-LSB-", "2", "-RSB-", "Chantaraskul", ",", "S.", "and", "Cuthbert", ",", "L.G.", "Introducing", "Case-Based", "Reasoning", "in", "SLA", "Control", "for", "Congestion", "Management", "in", "3G", "Networks", ",", "in", "Proceeding", "of", "the", "IEEE", "Wireless", "Communications", "and", "Networking", "Conference", "2004", "-LRB-", "IEEE", "WCNC2004", "-RRB-", ",", "Atlanta", ",", "Georgia", ",", "USA", ",", "2004", ".", "-LSB-", "3", "-RSB-", "Cuthbert", ",", "L.G.", ",", "Ryan", ",", "D.", ",", "Tokarchuk", ",", "L.", ",", "Bigham", ",", "J.", ",", "Bodanese", ",", "E.", "Using", "intelligent", "agents", "to", "manage", "resource", "in", "3G", "Networks", ",", "Journal", "of", "IBTE", ",", "vol", ".", "2", "part", "4", ",", "Oct.-Dec", ".", "2001", ",", "pp.", "1-6", ".", "-LSB-", "4", "-RSB-", "Admodt", "A.", "and", "Plaza", "E.", ",", "Case-Based", "Reasoning", ":", "Foundational", "Issues", ",", "Methodological", "Variations", ",", "and", "System", ",", "AI", "Communications", ",", "The", "European", "Journal", "of", "Artificial", "Intelligence", ",", "vol", ".", "7:1", ",", "pp.", "39-59", ".", "1994", ".", "-LSB-", "5", "-RSB-", "Caulier", ",", "P.", "and", "Houriez", ",", "B", ".", "A", "Case-Based", "Reasoning", "Approach", "in", "Network", "Traffic", "Control", ",", "in", "Proceeding", "of", "the", "IEEE", "International", "Conference", "on", "Systems", ",", "Man", "and", "Cybernetics", ",", "1995", ".", "Intelligent", "Systems", "for", "the", "21st", "Century", ",", "Volume", "2", ",", "1995", ",", "pp.", "1430-1435", ".", "-LSB-", "6", "-RSB-", "Hassanein", ",", "H.", ",", "Al-Monayyes", ",", "A.", "and", "Al-Zubi", ",", "M.", "Improving", "Call", "Admission", "Control", "in", "ATM", "Networks", "Using", "Case-Based", "Reasoning", ",", "in", "Proceeding", "of", "the", "IEEE", "International", "Conference", "on", "Performance", ",", "Computing", ",", "and", "Communications", ",", "2001", ",", "pp.", "120-127", ".", "-LSB-", "7", "-RSB-", "Huang", ",", "C.", "Y.", "and", "Yates", ",", "R.", "D.", "Call", "Admission", "in", "Power", "Controlled", "CDMA", "Systems", ",", "in", "Proceeding", "of", "the", "IEEE", "Vehicular", "Technology", "Conference", ",", "1996", ",", "pp.227-231", ".", "-LSB-", "8", "-RSB-", "Capone", ",", "A.", ",", "Redana", "S.", "Call", "Admission", "Control", "Techniques", "for", "UMTS", ",", "in", "Proceeding", "of", "the", "IEEE", "Vehicular", "Technology", "Conference", ",", "2001", ",", "pp.925-929", ".", "-LSB-", "9", "-RSB-", "Liu", ",", "Z.", "and", "Zarki", ",", "M.", "E.", "SIR", "Based", "Call", "Admission", "Control", "for", "DS-CDMA", "Cellular", "System", ",", "IEEE", "Journal", "on", "Selected", "Areas", "in", "Communications", ",", "vol", ".", "12", ",", "issue", "4", ",", "May", "1994", ",", "pp", ".", "638-644", ".", "-LSB-", "10", "-RSB-", "Kuri", ",", "J.", "and", "Mermelstein", ",", "P.", "Call", "Admission", "on", "the", "Uplink", "of", "a", "CDMA", "System", "based", "on", "Total", "Received", "Power", ",", "in", "Proceeding", "of", "the", "IEEE", "International", "Conference", "on", "Communications", ",", "vol", ".", "3", ",", "1999", ",", "pp.", "1431-1436", ".", "-LSB-", "11", "-RSB-", "So", ",", "J.W.", "and", "Cho", ",", "D.H.", "Access", "Control", "of", "Data", "in", "Integrated", "Voice/Data/Video", "CDMA", "Systems", ",", "in", "Proceeding", "of", "the", "VTC", "Spring", "2002", ",", "IEEE", "55", "th", "vol", ".", "3", ",", "2002", ",", "p.1512-1516", ".", "-LSB-", "12", "-RSB-", "Angelou", ",", "E.S.", ",", "Koutsokeras", ",", "N.Th", ",", "Kanatas", ",", "A.G.", "and", "Constantinou", ",", "Ph.", "SIR-Based", "Uplink", "Terrestrial", "Call", "Admission", "Control", "Scheme", "with", "Handoff", "for", "Mixed", "Traffic", "W-CDMA", "Networks", ",", "in", "Proceeding", "of", "the", "4", "th", "International", "Workshop", "on", "Mobile", "and", "Wireless", "Communications", "Network", ",", "2002", ",", "pp.", "83-87", ",", "2002", ".", "-LSB-", "13", "-RSB-", "Radio", "Frequency", "-LRB-", "RF", "-RRB-", "system", "scenarios", ",", "3GPP", "TR", "253942", ",", "Avialable", ":", "htpp", ":", "/", "/", "www.sgpp.org", "-LSB-", "14", "-RSB-", "Laiho", ",", "J.", ",", "Wacker", ",", "A.", "and", "Novosad", ",", "T.", "Radio", "Network", "Planning", "and", "Optimisation", "for", "UMTS", ",", "John", "Wiley", "&", "Sons", ",", "Ltd.", ",", "2002", ".", "-LSB-", "15", "-RSB-", "Baker", ",", "M.P.J.", ",", "Moulsley", ",", "T.J.", "Power", "Control", "in", "UMTS", "Release", "'", "99", ",", "3G", "Mobile", "Communication", "Technologies", ",", "2000", ".", "First", "International", "Conference", "on", "-LRB-", "IEE", "Conf", ".", "Publ", ".", "No.", "471", "-RRB-", ",27-29", ",", "March", "2000", ",", "pp.", "36", "40", ".", "-LSB-", "16", "-RSB-", "Thong", ",", "W.S.", ",", "Bigham", ",", "J.", "Hierachical", "Managament", "of", "CDMA", "Network", "Resources", ",", "in", "Proceeding", "of", "the", "Third", "International", "Conference", "on", "3G", "Mobile", "Communication", "Technologies", ",", "2002", "-LRB-", "Conf", ".", "Publ", ".", "No.", "489", "-RRB-", ",", "8-10", "May", "2002", "pp.", "216", "220", ".", "-LSB-", "17", "-RSB-", "Kolodner", ",", "J.", "Case-Based", "Reasoning", ",", "Morgan", "Kaufmann", "Publishers", ",", "Inc.", ",", "1993", ",", "pp.", "289-320", ".", "Silver", "Gold", "maximum", "level", "Silver", "maximum", "level", "Normal", "traffic", "Overload", "traffic", "Gold", "Bronze", "Hot", "spot", "cell", "Normal", "traffic", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "5", "35", "65", "95\u00a0125\u00a0155\u00a0185", "215\u00a0245\u00a0275\u00a0305", "335\u00a0365\u00a0395", "Simulation", "Time", "-LRB-", "s.", "-RRB-", "Call", "block", "rate", "259"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["service level agreement"], "abstractive_keyphrases": ["intelligent agent and case-based reasoning", "3g resource management"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "142", "document": ["Obfuscated", "Databases", "and", "Group", "Privacy", "We", "investigate", "whether", "it", "is", "possible", "to", "encrypt", "a", "database", "and", "then", "give", "it", "away", "in", "such", "a", "form", "that", "users", "can", "still", "access", "it", ",", "but", "only", "in", "a", "restricted", "way", ".", "In", "contrast", "to", "conventional", "privacy", "mechanisms", "that", "aim", "to", "prevent", "any", "access", "to", "individual", "records", ",", "we", "aim", "to", "restrict", "the", "set", "of", "queries", "that", "can", "be", "feasibly", "evaluated", "on", "the", "encrypted", "database", ".", "We", "start", "with", "a", "simple", "form", "of", "database", "obfuscation", "which", "makes", "database", "records", "indistinguishable", "from", "lookup", "functions", ".", "The", "only", "feasible", "operation", "on", "an", "obfuscated", "record", "is", "to", "look", "up", "some", "attribute", "Y", "by", "supplying", "the", "value", "of", "another", "attribute", "X", "that", "appears", "in", "the", "same", "record", "-LRB-", "i.e.", ",", "someone", "who", "does", "not", "know", "X", "can", "not", "feasibly", "retrieve", "Y", "-RRB-", ".", "We", "then", "-LRB-", "i", "-RRB-", "generalize", "our", "construction", "to", "conjunctions", "of", "equality", "tests", "on", "any", "attributes", "of", "the", "database", ",", "and", "-LRB-", "ii", "-RRB-", "achieve", "a", "new", "property", "we", "call", "group", "privacy", ".", "This", "property", "ensures", "that", "it", "is", "easy", "to", "retrieve", "individual", "records", "or", "small", "subsets", "of", "records", "from", "the", "encrypted", "database", "by", "identifying", "them", "precisely", ",", "but", "``", "mass", "harvesting", "''", "queries", "matching", "a", "large", "number", "of", "records", "are", "computationally", "infeasible", ".", "Our", "constructions", "are", "non-interactive", ".", "The", "database", "is", "transformed", "in", "such", "a", "way", "that", "all", "queries", "except", "those", "ex-plicitly", "allowed", "by", "the", "privacy", "policy", "become", "computationally", "infeasible", ",", "i.e.", ",", "our", "solutions", "do", "not", "rely", "on", "any", "access-control", "software", "or", "hardware", ".", ":", "E.", "3", "-LSB-", "Data", "Encryption", "-RSB-", ";", "H.", "2.7", "-LSB-", "Database", "Administration", "-RSB-", ":", "Security", ",", "integrity", ",", "and", "protection", ":", "Security", "Conventional", "privacy", "mechanisms", "usually", "provide", "all-or-nothing", "privacy", ".", "For", "example", ",", "secure", "multi-party", "computation", "schemes", "enable", "two", "or", "more", "parties", "to", "compute", "some", "joint", "function", "while", "revealing", "no", "information", "about", "their", "respective", "inputs", "except", "what", "is", "leaked", "by", "the", "result", "of", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CCS", "'", "05", ",", "November", "7", "11", ",", "2005", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-226-7", "/", "05/0011", "...", "$", "5.00", ".", "computation", ".", "Privacy-preserving", "data", "mining", "aims", "to", "com-pletely", "hide", "individual", "records", "while", "computing", "global", "statistical", "properties", "of", "the", "database", ".", "Search", "on", "encrypted", "data", "and", "private", "information", "retrieval", "enable", "the", "user", "to", "retrieve", "data", "from", "an", "untrusted", "server", "without", "revealing", "the", "query", ".", "In", "this", "paper", ",", "we", "investigate", "a", "different", "concept", "of", "privacy", ".", "Consider", "a", "data", "owner", "who", "wants", "to", "distribute", "a", "database", "to", "potential", "users", ".", "Instead", "of", "hiding", "individual", "data", "entries", ",", "he", "wants", "to", "obfuscate", "the", "database", "so", "that", "only", "certain", "queries", "can", "be", "evaluated", "on", "it", ",", "i.e.", ",", "the", "goal", "is", "to", "ensure", "that", "the", "database", ",", "after", "it", "has", "been", "given", "out", "to", "users", ",", "can", "be", "accessed", "only", "in", "the", "ways", "permitted", "by", "the", "privacy", "policy", ".", "Note", "that", "there", "is", "no", "interaction", "between", "the", "data", "owner", "and", "the", "user", "when", "the", "latter", "accesses", "the", "obfuscated", "database", ".", "Our", "constructions", "show", "how", "to", "obfuscate", "the", "database", "before", "distributing", "it", "to", "users", "so", "that", "only", "the", "queries", "permitted", "by", "the", "policy", "are", "computationally", "feasible", ".", "This", "concept", "of", "privacy", "is", "incomparable", "to", "conventional", "definitions", "because", ",", "depending", "on", "the", "policy", ",", "a", "permitted", "query", "may", "or", "even", "should", "reveal", "individual", "data", "entries", ".", "For", "example", ",", "a", "college", "alumni", "directory", "may", "be", "obfuscated", "in", "such", "a", "way", "that", "someone", "who", "already", "knows", "a", "person", "'s", "name", "and", "year", "of", "graduation", "is", "able", "to", "look", "up", "that", "person", "'s", "email", "address", ",", "yet", "spammers", "can", "not", "indiscriminately", "harvest", "addresses", "listed", "in", "the", "directory", ".", "Employees", "of", "a", "credit", "bureau", "need", "to", "have", "access", "to", "customers", "'", "records", "so", "that", "they", "can", "respond", "to", "reports", "of", "fraudulent", "transactions", ",", "yet", "one", "may", "want", "to", "restrict", "the", "bureau", "'s", "ability", "to", "compile", "a", "list", "of", "customers", "'", "addresses", "and", "sell", "it", "to", "a", "third", "party", ".", "We", "develop", "provably", "secure", "obfuscation", "techniques", "for", "several", "types", "of", "queries", ".", "We", "do", "not", "assume", "that", "users", "of", "the", "obfuscated", "database", "access", "it", "through", "a", "trusted", "third", "party", ",", "nor", "that", "they", "use", "trusted", "or", "``", "tamper-proof", "''", "access-control", "software", "or", "hardware", "-LRB-", "in", "practice", ",", "such", "schemes", "are", "vulnerable", "to", "circumvention", "and", "reverse-engineering", ",", "while", "trusted", "third", "parties", "are", "scarce", "and", "often", "impractical", "-RRB-", ".", "Our", "constructions", "are", "cryptographically", "strong", ",", "i.e.", ",", "they", "assume", "an", "adversary", "who", "is", "limited", "only", "by", "his", "computational", "power", ".", "We", "prove", "security", "in", "the", "standard", "``", "virtual", "black-box", "''", "model", "for", "obfuscation", "proposed", "by", "Barak", "et", "al.", "-LSB-", "2", "-RSB-", ".", "Intuitively", ",", "a", "database", "is", "securely", "obfuscated", "if", "the", "view", "of", "any", "efficient", "adversary", "with", "access", "to", "the", "obfuscation", "can", "be", "efficiently", "simulated", "by", "a", "simulator", "who", "has", "access", "only", "to", "the", "ideal", "functionality", ",", "which", "is", "secure", "by", "definition", ".", "The", "ideal", "functionality", "can", "be", "thought", "of", "as", "the", "desired", "privacy", "policy", "for", "the", "database", ".", "One", "of", "our", "contributions", "is", "coming", "up", "with", "several", "ideal", "functionalities", "that", "capture", "interesting", "privacy", "policies", "for", "databases", ".", "102", "Directed-access", "databases", ".", "Our", "``", "warm-up", "''", "construction", "is", "a", "directed-access", "database", ".", "Some", "attributes", "of", "the", "database", "are", "designated", "as", "query", "attributes", ",", "and", "the", "rest", "as", "data", "attributes", ".", "The", "database", "is", "securely", "obfuscated", "if", ",", "for", "any", "record", ",", "it", "is", "infeasible", "to", "retrieve", "the", "values", "of", "the", "data", "attributes", "without", "supplying", "the", "values", "of", "the", "query", "attributes", ",", "yet", "a", "user", "who", "knows", "the", "query", "attributes", "can", "easily", "retrieve", "the", "corresponding", "data", "attributes", ".", "To", "illustrate", "by", "example", ",", "a", "directed-access", "obfuscation", "of", "a", "telephone", "directory", "has", "the", "property", "that", "it", "is", "easy", "to", "look", "up", "the", "phone", "number", "corresponding", "to", "a", "particular", "name-address", "pair", ",", "but", "queries", "such", "as", "``", "retrieve", "all", "phone", "numbers", "stored", "in", "the", "directory", "''", "or", "``", "retrieve", "all", "names", "''", "are", "computationally", "infeasible", ".", "Such", "a", "directory", "is", "secure", "against", "abusive", "harvesting", ",", "but", "still", "provides", "useful", "functionality", ".", "Note", "that", "it", "may", "be", "possible", "to", "efficiently", "enumerate", "all", "name-address", "pairs", "because", "these", "fields", "have", "less", "entropy", "than", "regular", "cryptographic", "keys", ",", "and", "thus", "learn", "the", "entire", "database", "through", "the", "permitted", "queries", ".", "Because", "the", "database", "is", "accessed", "only", "in", "permitted", "ways", ",", "this", "does", "not", "violate", "the", "standard", "definition", "of", "obfuscation", ".", "Below", ",", "we", "give", "some", "examples", "where", "it", "is", "not", "feasible", "to", "enumerate", "all", "possible", "values", "for", "query", "attributes", ".", "The", "directed-access", "property", "of", "a", "single", "database", "record", "can", "be", "modeled", "as", "a", "point", "function", ",", "i.e.", ",", "a", "function", "from", "-LCB-", "0", ",", "1", "-RCB-", "n", "to", "-LCB-", "0", ",", "1", "-RCB-", "that", "returns", "1", "on", "exactly", "one", "input", "x", "-LRB-", "in", "our", "case", ",", "query", "attributes", "are", "the", "arguments", "of", "the", "point", "function", "-RRB-", ".", "Directed-access", "obfuscation", "guarantees", "that", "the", "adversary", "'s", "view", "of", "any", "obfuscated", "record", "can", "be", "efficiently", "simulated", "with", "access", "only", "to", "this", "point", "function", ".", "Therefore", ",", "for", "this", "``", "warm-up", "''", "problem", ",", "we", "can", "use", "obfuscation", "techniques", "for", "point", "functions", "such", "as", "-LSB-", "22", "-RSB-", ".", "Informally", ",", "we", "encrypt", "the", "data", "attributes", "with", "a", "key", "derived", "from", "hashed", "query", "attributes", ".", "The", "only", "computationally", "feasible", "way", "to", "retrieve", "the", "data", "attributes", "is", "to", "supply", "the", "corresponding", "query", "attributes", ".", "If", "the", "retriever", "does", "not", "know", "the", "right", "query", "attributes", ",", "no", "information", "can", "be", "extracted", "at", "all", ".", "Group-exponential", "databases", ".", "We", "then", "consider", "a", "more", "interesting", "privacy", "policy", ",", "which", "requires", "that", "computational", "cost", "of", "access", "be", "exponential", "in", "the", "number", "of", "database", "records", "retrieved", ".", "We", "refer", "to", "this", "new", "concept", "of", "privacy", "as", "group", "privacy", ".", "It", "ensures", "that", "users", "of", "the", "obfuscated", "database", "can", "retrieve", "individual", "records", "or", "small", "subsets", "of", "records", "by", "identifying", "them", "precisely", ",", "i.e.", ",", "by", "submitting", "queries", "which", "are", "satisfied", "only", "by", "these", "records", ".", "Queries", "matching", "a", "large", "number", "of", "records", "are", "infeasible", ".", "We", "generalize", "the", "idea", "of", "directed", "access", "to", "queries", "consisting", "of", "conjunctions", "of", "equality", "tests", "on", "query", "attributes", ",", "and", "then", "to", "any", "boolean", "circuit", "over", "attribute", "equalities", ".", "The", "user", "can", "evaluate", "any", "query", "of", "the", "form", "attribute", "j", "1", "=", "value", "1", "...", "attribute", "j", "t", "=", "value", "t", ",", "as", "long", "as", "it", "is", "satisfied", "by", "a", "small", "number", "of", "records", ".", "Our", "construction", "is", "significantly", "more", "general", "than", "simple", "keyword", "search", "on", "encrypted", "data", "because", "the", "value", "of", "any", "query", "attribute", "or", "a", "conjunction", "thereof", "can", "be", "used", "as", "the", "``", "keyword", "''", "for", "searching", "the", "obfuscated", "database", ",", "and", "the", "obfuscator", "does", "not", "need", "to", "know", "what", "queries", "will", "be", "evaluated", "on", "the", "database", ".", "To", "distinguish", "between", "``", "small", "''", "and", "``", "large", "''", "queries", ",", "suppose", "the", "query", "predicate", "is", "satisfied", "by", "n", "records", ".", "Our", "construction", "uses", "a", "form", "of", "secret", "sharing", "that", "forces", "the", "retriever", "to", "guess", "n", "bits", "before", "he", "can", "access", "the", "data", "attributes", "in", "any", "matching", "record", ".", "-LRB-", "If", "n", "=", "1", ",", "i.e.", ",", "the", "record", "is", "unique", ",", "the", "retriever", "still", "has", "to", "guess", "1", "bit", ",", "but", "this", "simply", "means", "that", "with", "probability", "1", "2", "he", "has", "to", "repeat", "the", "query", ".", "-RRB-", "The", "policy", "that", "requires", "the", "retriever", "to", "uniquely", "identify", "a", "single", "record", ",", "i.e.", ",", "forbids", "any", "query", "that", "is", "satisfied", "by", "multiple", "records", ",", "can", "also", "be", "easily", "implemented", "using", "our", "techniques", ".", "Our", "construction", "can", "be", "viewed", "as", "the", "noninteractive", "analog", "of", "hash-reversal", "``", "client", "puzzles", "''", "used", "to", "prevent", "denial", "of", "service", "in", "network", "security", "-LSB-", "21", "-RSB-", ",", "but", ",", "unlike", "client", "puzzles", ",", "it", "comes", "with", "a", "rigorous", "proof", "of", "security", ".", "For", "example", ",", "consider", "an", "airline", "passenger", "database", "in", "which", "every", "record", "contains", "the", "passenger", "'s", "name", ",", "flight", "number", ",", "date", ",", "and", "ticket", "purchase", "details", ".", "In", "our", "construction", ",", "if", "the", "retriever", "knows", "the", "name", "and", "date", "that", "uniquely", "identify", "a", "particular", "record", "-LRB-", "e.g.", ",", "because", "this", "information", "was", "supplied", "in", "a", "court-issued", "warrant", "-RRB-", ",", "he", "-LRB-", "almost", "-RRB-", "immediately", "learns", "the", "key", "that", "encrypts", "the", "purchase", "details", "in", "the", "obfuscated", "record", ".", "If", "the", "passenger", "traveled", "on", "k", "flights", "on", "that", "date", ",", "the", "retriever", "learns", "the", "key", "except", "for", "k", "bits", ".", "Since", "k", "is", "small", ",", "guessing", "k", "bits", "is", "still", "feasible", ".", "If", ",", "however", ",", "the", "retriever", "only", "knows", "the", "date", "and", "the", "flight", "number", ",", "he", "learns", "the", "key", "except", "for", "m", "bits", ",", "where", "m", "is", "the", "number", "of", "passengers", "on", "the", "flight", ",", "and", "retrieval", "of", "these", "passengers", "'", "purchase", "details", "is", "infeasible", ".", "A", "database", "obfuscated", "using", "our", "method", "has", "the", "group", "privacy", "property", "in", "the", "following", "sense", ".", "It", "can", "be", "accessed", "only", "via", "queries", "permitted", "by", "the", "privacy", "policy", ".", "The", "probability", "of", "successfully", "evaluating", "a", "permitted", "query", "is", "inversely", "exponential", "in", "the", "number", "of", "records", "that", "satisfy", "the", "query", "predicate", ".", "In", "particular", ",", "to", "extract", "a", "large", "number", "of", "records", "from", "the", "database", ",", "the", "retriever", "must", "know", "a", "pri-ori", "specific", "information", "that", "uniquely", "identifies", "each", "of", "the", "records", ",", "or", "small", "subsets", "thereof", ".", "The", "obfuscated", "database", "itself", "does", "not", "help", "him", "obtain", "this", "information", ".", "In", "obfuscated", "databases", "with", "group", "privacy", ",", "computational", "cost", "of", "access", "depends", "on", "the", "amount", "of", "information", "retrieved", ".", "Therefore", ",", "group", "privacy", "can", "be", "thought", "of", "as", "a", "step", "towards", "a", "formal", "cryptographic", "model", "for", "``", "economics", "of", "privacy", ".", "''", "It", "is", "complementary", "to", "the", "existing", "concepts", "of", "privacy", ",", "and", "appears", "to", "be", "a", "good", "fit", "for", "applications", "such", "as", "public", "directories", "and", "customer", "relationship", "management", "-LRB-", "CRM", "-RRB-", "databases", ",", "where", "the", "database", "user", "may", "need", "to", "access", "an", "individual", "record", "for", "a", "legitimate", "business", "purpose", ",", "but", "should", "be", "prevented", "from", "extracting", "large", "subsets", "of", "records", "for", "resale", "and", "abusive", "marketing", ".", "While", "our", "constructions", "for", "group", "privacy", "are", "provably", "secure", "in", "the", "``", "virtual", "black-box", "''", "sense", "of", "-LSB-", "2", "-RSB-", ",", "the", "cost", "of", "this", "rigorous", "security", "is", "a", "quadratic", "blowup", "in", "the", "size", "of", "the", "obfuscated", "database", ",", "rendering", "the", "technique", "impractical", "for", "large", "datasets", ".", "We", "also", "present", "some", "heuristic", "techniques", "to", "decrease", "the", "size", "of", "the", "obfuscated", "database", ",", "and", "believe", "that", "further", "progress", "in", "this", "area", "is", "possible", ".", "Alternative", "privacy", "policies", ".", "Defining", "rigorous", "privacy", "policies", "that", "capture", "intuitive", "``", "database", "privacy", "''", "is", "an", "important", "challenge", ",", "and", "we", "hope", "that", "this", "work", "will", "serve", "as", "a", "starting", "point", "in", "the", "discussion", ".", "For", "example", ",", "the", "group", "privacy", "policy", "that", "we", "use", "in", "our", "constructions", "permits", "the", "retriever", "to", "learn", "whether", "a", "given", "attribute", "of", "a", "database", "record", "is", "equal", "to", "a", "particular", "value", ".", "While", "this", "leaks", "more", "information", "than", "may", "be", "desirable", ",", "we", "conjecture", "that", "the", "privacy", "policy", "without", "this", "oracle", "is", "unrealizable", ".", "We", "also", "consider", "privacy", "policies", "that", "permit", "any", "query", "rather", "than", "just", "boolean", "circuits", "of", "equality", "tests", "on", "attributes", ".", "We", "show", "that", "this", "policy", "is", "vacuous", ":", "regardless", "of", "the", "database", "contents", ",", "any", "user", "can", "efficiently", "extract", "103", "the", "entire", "database", "by", "policy-compliant", "queries", ".", "Therefore", ",", "even", "if", "the", "obfuscation", "satisfies", "the", "virtual", "black-box", "property", ",", "it", "serves", "no", "useful", "purpose", ".", "Of", "course", ",", "there", "are", "many", "types", "of", "queries", "that", "are", "more", "general", "than", "boolean", "circuits", "of", "equality", "tests", "on", "attributes", ".", "Exact", "characterization", "of", "non-vacuous", ",", "yet", "realizable", "privacy", "policies", "is", "a", "challenging", "task", ",", "and", "a", "topic", "of", "future", "research", ".", "Organization", "of", "the", "paper", ".", "We", "discuss", "related", "work", "in", "section", "2", ".", "The", "ideas", "are", "illustrated", "with", "a", "``", "warm-up", "''", "construction", "in", "section", "3", ".", "In", "section", "4", ",", "we", "explain", "group", "privacy", "and", "the", "corresponding", "obfuscation", "technique", ".", "In", "section", "5", ",", "we", "generalize", "the", "class", "of", "queries", "to", "boolean", "circuits", "over", "attribute", "equalities", ".", "In", "section", "6", ",", "we", "show", "that", "policies", "which", "permit", "arbitrary", "queries", "are", "vacuous", ",", "and", "give", "an", "informal", "argument", "that", "a", "policy", "that", "does", "not", "allow", "the", "retriever", "to", "verify", "his", "guesses", "of", "individual", "attribute", "values", "can", "not", "be", "realized", ".", "Conclusions", "are", "in", "section", "7", ".", "All", "proofs", "will", "appear", "in", "the", "full", "version", "of", "the", "paper", ".", "This", "paper", "uses", "the", "``", "virtual", "black-box", "''", "model", "of", "obfuscation", "due", "to", "Barak", "et", "al.", "-LSB-", "2", "-RSB-", ".", "In", "addition", "to", "the", "impossibility", "result", "for", "general-purpose", "obfuscation", ",", "-LSB-", "2", "-RSB-", "demonstrates", "several", "classes", "of", "circuits", "that", "can", "not", "be", "obfuscated", ".", "We", "focus", "on", "a", "different", "class", "of", "circuits", ".", "To", "the", "best", "of", "our", "knowledge", ",", "the", "first", "provably", "secure", "constructions", "for", "``", "virtual", "black-box", "''", "obfuscation", "were", "proposed", "by", "Canetti", "et", "el", ".", "-LSB-", "5", ",", "6", "-RSB-", "in", "the", "context", "of", "``", "perfectly", "one-way", "''", "hash", "functions", ",", "which", "can", "be", "viewed", "as", "obfuscators", "for", "point", "functions", "-LRB-", "a.k.a.", "oracle", "indicators", "or", "delta", "functions", "-RRB-", ".", "Dodis", "and", "Smith", "-LSB-", "15", "-RSB-", "recently", "showed", "how", "to", "construct", "noise-tolerant", "``", "perfectly", "one-way", "''", "hash", "functions", ".", "which", "they", "used", "to", "obfuscate", "proximity", "queries", "with", "``", "en-tropic", "security", ".", "''", "It", "is", "not", "clear", "how", "to", "apply", "techniques", "of", "-LSB-", "15", "-RSB-", "in", "our", "setting", ".", "In", "section", "6", ",", "we", "present", "strong", "evidence", "that", "our", "privacy", "definitions", "may", "not", "be", "realizable", "if", "queries", "other", "than", "equality", "tests", "are", "permitted", ".", "Lynn", "et", "al.", "-LSB-", "22", "-RSB-", "construct", "obfuscators", "for", "point", "functions", "-LRB-", "and", "simple", "extensions", ",", "such", "as", "public", "regular", "expressions", "with", "point", "functions", "as", "symbols", "-RRB-", "in", "the", "random", "oracle", "model", ".", "The", "main", "advantage", "of", "-LSB-", "22", "-RSB-", "is", "that", "it", "allows", "the", "adversary", "partial", "information", "about", "the", "preimage", "of", "the", "hash", "function", ",", "i.e.", ",", "secrets", "do", "not", "need", "to", "have", "high", "entropy", ".", "This", "feature", "is", "essential", "in", "our", "constructions", ",", "too", ",", "thus", "we", "also", "use", "the", "random", "oracle", "model", ".", "Wee", "-LSB-", "27", "-RSB-", "proposed", "a", "construction", "for", "a", "weaker", "notion", "of", "point", "function", "obfuscation", ",", "along", "with", "the", "impossibility", "result", "for", "uniformly", "black-box", "obfuscation", ".", "This", "impossibility", "result", "suggests", "that", "the", "use", "of", "random", "oracles", "in", "our", "proofs", "-LRB-", "in", "particular", ",", "the", "simulator", "'s", "ability", "to", "choose", "the", "random", "oracle", "-RRB-", "is", "essential", ".", "Many", "ad-hoc", "obfuscation", "schemes", "have", "been", "proposed", "in", "the", "literature", "-LSB-", "1", ",", "10", ",", "9", ",", "12", ",", "13", ",", "11", "-RSB-", ".", "Typically", ",", "these", "schemes", "contain", "neither", "a", "cryptographic", "definition", "of", "security", ",", "nor", "proofs", ",", "except", "for", "theoretical", "work", "on", "software", "protection", "with", "hardware", "restrictions", "on", "the", "adversary", "-LSB-", "19", ",", "20", "-RSB-", ".", "Forcing", "the", "adversary", "to", "pay", "some", "computational", "cost", "for", "accessing", "a", "resource", "is", "a", "well-known", "technique", "for", "preventing", "malicious", "resource", "exhaustion", "-LRB-", "a.k.a.", "denial", "of", "service", "attacks", "-RRB-", ".", "This", "approach", ",", "usually", "in", "the", "form", "of", "presenting", "a", "puzzle", "to", "the", "adversary", "and", "forcing", "him", "to", "solve", "it", ",", "has", "been", "proposed", "for", "combating", "junk", "email", "-LSB-", "16", "-RSB-", ",", "website", "metering", "-LSB-", "17", "-RSB-", ",", "prevention", "of", "TCP", "SYN", "flooding", "attacks", "-LSB-", "21", "-RSB-", ",", "protecting", "Web", "protocols", "-LSB-", "14", "-RSB-", ",", "and", "many", "other", "applications", ".", "Puzzles", "based", "on", "hash", "reversal", ",", "where", "the", "adversary", "must", "discover", "the", "preimage", "of", "a", "given", "hash", "value", "where", "he", "already", "knows", "some", "of", "the", "bits", ",", "are", "an", "especially", "popular", "technique", "-LSB-", "21", ",", "14", ",", "26", "-RSB-", ",", "albeit", "without", "any", "proof", "of", "security", ".", "Our", "techniques", "are", "similar", ",", "but", "our", "task", "is", "substantially", "harder", "in", "the", "context", "of", "non-interactive", "obfuscation", ".", "The", "obfuscation", "problem", "is", "superficially", "similar", "to", "the", "problem", "of", "private", "information", "retrieval", "-LSB-", "3", ",", "8", ",", "18", "-RSB-", "and", "keyword", "search", "on", "encrypted", "data", "-LSB-", "25", ",", "4", "-RSB-", ".", "These", "techniques", "are", "concerned", ",", "however", ",", "with", "retrieving", "data", "from", "an", "untrusted", "server", ",", "whereas", "we", "are", "concerned", "with", "encrypting", "the", "data", "and", "then", "giving", "them", "away", ",", "while", "preserving", "some", "control", "over", "what", "users", "can", "do", "with", "them", ".", "A", "recent", "paper", "by", "Chawla", "et", "al.", "-LSB-", "7", "-RSB-", "also", "considers", "database", "privacy", "in", "a", "non-interactive", "setting", ",", "but", "their", "objective", "is", "complementary", "to", "ours", ".", "Their", "definitions", "aim", "to", "capture", "privacy", "of", "data", ",", "while", "ours", "aim", "to", "make", "access", "to", "the", "database", "indistinguishable", "from", "access", "to", "a", "certain", "ideal", "functionality", ".", "As", "a", "warm-up", "example", ",", "we", "show", "how", "to", "construct", "directed-access", "databases", "in", "which", "every", "record", "is", "indistinguishable", "from", "a", "lookup", "function", ".", "The", "constructions", "and", "theorems", "in", "this", "section", "are", "mainly", "intended", "to", "illustrate", "the", "ideas", ".", "Let", "X", "be", "a", "set", "of", "tuples", "x", ",", "Y", "a", "set", "of", "tuples", "y", ",", "and", "Y", "=", "Y", "-LCB-", "-RCB-", ".", "Let", "D", "X", "Y", "be", "the", "database", ".", "We", "want", "to", "obfuscate", "each", "record", "of", "D", "so", "that", "the", "only", "operation", "that", "a", "user", "can", "perform", "on", "it", "is", "to", "retrieve", "y", "if", "he", "knows", "x", ".", "We", "use", "the", "standard", "approach", "in", "secure", "multi-party", "computation", ",", "and", "formally", "define", "this", "privacy", "policy", "in", "terms", "of", "an", "ideal", "functionality", ".", "The", "ideal", "functionality", "is", "an", "-LRB-", "imaginary", "-RRB-", "trusted", "third", "party", "that", "permits", "only", "policy-compliant", "database", "accesses", ".", "An", "obfuscation", "algorithm", "is", "secure", "if", "any", "access", "to", "the", "obfuscated", "database", "can", "be", "efficiently", "simulated", "with", "access", "only", "to", "the", "ideal", "functionality", ".", "This", "means", "that", "the", "user", "can", "extract", "no", "more", "information", "from", "the", "obfuscated", "database", "than", "he", "would", "be", "able", "to", "extract", "had", "all", "of", "his", "accesses", "been", "filtered", "by", "the", "trusted", "third", "party", ".", "Definition", "1", ".", "-LRB-", "Directed-access", "privacy", "policy", "-RRB-", "For", "database", "D", ",", "define", "the", "corresponding", "directed-access", "functionality", "DA", "D", "as", "the", "function", "that", ",", "for", "any", "input", "x", "X", "such", "that", "x", ",", "y", "1", ",", "...", ",", "x", ",", "y", "m", "D", ",", "outputs", "-LCB-", "y", "1", ",", "...", ",", "y", "m", "-RCB-", ".", "Intuitively", ",", "a", "directed-access", "database", "is", "indistinguishable", "from", "a", "lookup", "function", ".", "Given", "the", "query", "attributes", "of", "an", "individual", "record", "-LRB-", "x", "-RRB-", ",", "it", "is", "easy", "to", "learn", "the", "data", "attributes", "-LRB-", "y", "-RRB-", ",", "but", "the", "database", "can", "not", "be", "feasibly", "accessed", "in", "any", "other", "way", ".", "In", "particular", ",", "it", "is", "not", "feasible", "to", "discover", "the", "value", "of", "y", "without", "first", "discovering", "a", "corresponding", "x", ".", "Moreover", ",", "it", "is", "not", "feasible", "to", "harvest", "all", "y", "values", "from", "the", "database", "without", "first", "discovering", "all", "values", "of", "x", ".", "This", "definition", "does", "not", "say", "that", ",", "if", "set", "X", "is", "small", ",", "it", "is", "infeasible", "to", "efficiently", "enumerate", "all", "possible", "values", "of", "x", "and", "stage", "a", "dictionary", "attack", "on", "the", "obfuscated", "database", ".", "It", "does", "guarantee", "that", "even", "for", "this", "attack", ",", "the", "attacker", "is", "unable", "to", "evaluate", "any", "query", "forbidden", "by", "the", "privacy", "policy", ".", "In", "applications", "where", "X", "can", "not", "be", "efficiently", "enumerated", "-LRB-", "e.g.", ",", "X", "is", "a", "set", "of", "secret", "keywords", "known", "only", "to", "some", "users", "of", "the", "obfuscated", "database", "-RRB-", ",", "nothing", "can", "be", "retrieved", "from", "the", "obfuscated", "database", "by", "users", "who", "do", "n't", "know", "the", "keywords", ".", "Observe", "that", "x", "can", "contain", "multiple", "attributes", ",", "104", "and", "thus", "multiple", "keywords", "may", "be", "required", "for", "access", "to", "y", "in", "the", "obfuscated", "database", ".", "Directed-access", "databases", "are", "easy", "to", "construct", "in", "the", "random", "oracle", "model", ",", "since", "lookup", "functionality", "is", "essentially", "a", "point", "function", "on", "query", "attributes", ",", "and", "random", "oracles", "naturally", "provide", "an", "obfuscation", "for", "point", "functions", "-LSB-", "22", "-RSB-", ".", "The", "obfuscation", "algorithm", "OB", "da", "takes", "D", "and", "replaces", "every", "record", "x", "i", ",", "y", "i", "D", "with", "hash", "-LRB-", "r", "i", "1", "|", "|", "x", "i", "-RRB-", ",", "hash", "-LRB-", "r", "i", "2", "|", "|", "x", "i", "-RRB-", "y", "i", ",", "r", "i", "1", ",", "r", "i", "2", "where", "r", "i", "1,2", "are", "random", "numbers", ",", "|", "|", "is", "concatenation", ",", "and", "hash", "is", "a", "hash", "function", "implementing", "the", "random", "oracle", ".", "Theorem", "1", ".", "-LRB-", "Directed-access", "obfuscation", "is", "``", "virtual", "black-box", "''", "-RRB-", "Let", "OB", "da", "be", "as", "described", "above", ".", "For", "any", "probabilistic", "polynomial-time", "adversarial", "algorithm", "A", ",", "there", "exists", "a", "probabilistic", "polynomial-time", "simulator", "algorithm", "S", "and", "a", "negligible", "function", "of", "the", "security", "parameter", "k", "such", "that", "for", "any", "database", "D", ":", "|", "P", "-LRB-", "A", "-LRB-", "OB", "da", "-LRB-", "D", "-RRB-", "-RRB-", "=", "1", "-RRB-", "-", "P", "-LRB-", "S", "DA", "D", "-LRB-", "1", "|", "D", "|", "-RRB-", "=", "1", "-RRB-", "|", "-LRB-", "k", "-RRB-", "where", "probability", "P", "is", "taken", "over", "random", "oracles", "-LRB-", "implemented", "as", "hash", "functions", "-RRB-", ",", "as", "well", "as", "the", "the", "randomness", "of", "A", "and", "S.", "Intuitively", ",", "this", "theorem", "holds", "because", "retrieving", "y", "i", "requires", "finding", "the", "-LRB-", "partial", "-RRB-", "pre-image", "of", "hash", "-LRB-", "r", "i", "2", ",", "x", "i", "-RRB-", ".", "The", "standard", "definition", "of", "obfuscation", "in", "-LSB-", "2", "-RSB-", "also", "requires", "that", "there", "exist", "an", "efficient", "retrieval", "algorithm", "that", ",", "given", "some", "x", ",", "extracts", "the", "corresponding", "y", "from", "the", "obfuscation", "OB", "da", "-LRB-", "D", "-RRB-", ".", "Clearly", ",", "our", "construction", "has", "this", "property", ".", "Someone", "who", "knows", "x", "simply", "finds", "the", "record", "-LRB-", "s", "-RRB-", "in", "which", "the", "first", "value", "is", "equal", "to", "hash", "-LRB-", "r", "i", "1", "|", "|", "x", "-RRB-", ",", "computes", "hash", "-LRB-", "r", "i", "2", "|", "|", "x", "-RRB-", "and", "uses", "it", "as", "the", "key", "to", "decrypt", "y", ".", "For", "the", "purposes", "of", "this", "section", ",", "we", "restrict", "our", "attention", "to", "queries", "P", "that", "are", "conjunctions", "of", "equality", "tests", "over", "attributes", "-LRB-", "in", "section", "5", ",", "we", "show", "how", "this", "extends", "to", "arbitrary", "boolean", "circuits", "over", "equality", "tests", "-RRB-", ".", "For", "this", "class", "of", "queries", ",", "we", "show", "how", "to", "obfuscate", "the", "database", "so", "that", "evaluation", "of", "the", "query", "is", "exponential", "in", "the", "size", "of", "the", "answer", "to", "the", "query", ".", "Intuitively", ",", "this", "means", "that", "only", "precise", "query", "predicates", ",", "i.e.", ",", "those", "that", "are", "satisfied", "by", "a", "small", "number", "of", "records", ",", "can", "be", "efficiently", "computed", ".", "``", "Mass", "harvesting", "''", "queries", ",", "i.e.", ",", "predicates", "that", "are", "satisfied", "by", "a", "large", "number", "of", "records", ",", "are", "computationally", "infeasible", ".", "Recall", "that", "our", "goal", "is", "to", "restrict", "how", "the", "database", "can", "be", "accessed", ".", "For", "some", "databases", ",", "it", "may", "be", "possible", "to", "efficiently", "enumerate", "all", "possible", "combinations", "of", "query", "attributes", "and", "learn", "the", "entire", "database", "by", "querying", "it", "on", "every", "combination", ".", "For", "databases", "where", "the", "values", "of", "query", "attributes", "are", "drawn", "from", "a", "large", "set", ",", "our", "construction", "prevents", "the", "retriever", "from", "extracting", "any", "records", "that", "he", "can", "not", "describe", "precisely", ".", "In", "either", "case", ",", "we", "guarantee", "that", "the", "database", "can", "be", "accessed", "only", "through", "the", "interface", "permitted", "by", "the", "privacy", "policy", ",", "without", "any", "trust", "assumptions", "about", "the", "retriever", "'s", "computing", "environment", ".", "In", "our", "construction", ",", "each", "data", "attribute", "is", "encrypted", "with", "a", "key", "derived", "from", "a", "randomly", "generated", "secret", ".", "We", "use", "a", "different", "secret", "for", "each", "record", ".", "The", "secret", "itself", "is", "split", "into", "several", "-LRB-", "unequal", "-RRB-", "shares", ",", "one", "per", "each", "query", "attribute", ".", "Each", "share", "is", "then", "encrypted", "itself", ",", "using", "a", "key", "derived", "from", "the", "output", "of", "the", "hash", "function", "on", "the", "value", "of", "the", "corresponding", "query", "attribute", ".", "If", "the", "retriever", "knows", "the", "correct", "value", "only", "for", "some", "query", "attribute", "a", ",", "he", "must", "guess", "the", "missing", "shares", ".", "The", "size", "of", "the", "revealed", "share", "in", "bits", "is", "inversely", "related", "to", "the", "number", "of", "other", "records", "in", "the", "database", "that", "have", "the", "same", "value", "of", "attribute", "a", ".", "This", "provides", "protection", "against", "queries", "on", "frequently", "occurring", "attribute", "values", ".", "4.1", "Group", "privacy", "policy", "We", "define", "the", "privacy", "policy", "in", "terms", "of", "an", "ideal", "functionality", ",", "which", "consists", "of", "two", "parts", ".", "When", "given", "an", "index", "of", "a", "particular", "query", "attribute", "and", "a", "candidate", "value", ",", "it", "responds", "whether", "the", "guess", "is", "correct", ",", "i.e.", ",", "whether", "this", "value", "indeed", "appears", "in", "the", "corresponding", "attribute", "of", "the", "original", "database", ".", "When", "given", "a", "predicate", ",", "it", "evaluates", "this", "predicate", "on", "every", "record", "in", "the", "database", ".", "For", "each", "record", "on", "which", "the", "predicate", "is", "true", ",", "it", "returns", "this", "record", "'s", "data", "attributes", "with", "probability", "2", "-", "q", ",", "where", "q", "is", "the", "total", "number", "of", "records", "in", "the", "database", "that", "satisfy", "the", "predicate", ".", "if", "no", "more", "information", "can", "be", "extracted", "this", "ideal", "functionality", ".", "Definition", "2", ".", "-LRB-", "Group", "privacy", "policy", "-RRB-", "Let", "X", "be", "a", "set", "and", "Y", "a", "set", "of", "tuples", ".", "Let", "D", "be", "the", "database", "1", ",", "2", ",", "...", "N", "where", "i", "=", "-LCB-", "x", "i", "1", ",", "x", "i", "2", ",", "...", ",", "x", "im", ",", "y", "i", "-RCB-", "X", "m", "Y.", "Let", "P", ":", "X", "m", "-LCB-", "0", ",", "1", "-RCB-", "be", "a", "predicate", "of", "the", "form", "X", "j", "1", "=", "x", "j", "1", "X", "j", "2", "=", "x", "j", "2", "...", "X", "j", "t", "=", "x", "j", "t", ".", "Let", "D", "-LSB-", "P", "-RSB-", "=", "-LCB-", "i", "D", "|", "P", "-LRB-", "x", "i", "1", ",", "x", "i", "2", ",", "...", ",", "x", "im", "-RRB-", "=", "1", "-RCB-", "be", "the", "subset", "of", "records", "on", "which", "P", "is", "true", ".", "The", "group-exponential", "functionality", "GP", "D", "consists", "of", "two", "functions", ":", "-", "C", "D", "-LRB-", "x", ",", "i", ",", "j", "-RRB-", "is", "1", "if", "x", "=", "x", "ij", "and", "0", "otherwise", ",", "where", "1", "i", "N", ",", "1", "j", "m.", "-", "R", "D", "-LRB-", "P", "-RRB-", "=", "1iN", "-LCB-", "i", ",", "i", "-RCB-", ",", "where", "i", "=", "y", "i", "with", "probability", "2", "-", "|", "D", "-LSB-", "P", "-RSB-", "|", "if", "P", "-LRB-", "i", "-RRB-", "with", "probability", "1", "-", "2", "-", "|", "D", "-LSB-", "P", "-RSB-", "|", "if", "P", "-LRB-", "i", "-RRB-", "if", "P", "-LRB-", "i", "-RRB-", "Probability", "is", "taken", "over", "the", "internal", "coin", "tosses", "of", "GP", "D", ".", "Informally", ",", "function", "C", "answers", "whether", "the", "jth", "attribute", "of", "the", "ith", "record", "is", "equal", "to", "x", ",", "while", "function", "R", "returns", "all", "records", "that", "satisfy", "some", "predicate", "P", ",", "but", "only", "with", "probability", "inversely", "exponential", "in", "the", "number", "of", "such", "records", ".", "It", "may", "appear", "that", "function", "C", "is", "unnecessary", ".", "Moreover", ",", "it", "leaks", "additional", "information", ",", "making", "our", "privacy", "policy", "weaker", "than", "it", "might", "have", "been", ".", "In", "section", "6", ",", "we", "argue", "that", "it", "can", "not", "be", "simply", "eliminated", ",", "because", "the", "resulting", "functionality", "would", "be", "unrealizable", ".", "Of", "course", ",", "there", "may", "exist", "policies", "that", "permit", "some", "function", "C", "which", "leaks", "less", "information", "than", "C", ",", "but", "it", "is", "unclear", "what", "C", "might", "be", ".", "We", "discuss", "several", "alternatives", "to", "our", "definition", "in", "section", "6", ".", "We", "note", "that", "data", "attributes", "are", "drawn", "from", "a", "set", "of", "tuples", "Y", "because", "there", "may", "be", "multiple", "data", "attributes", "that", "need", "to", "be", "obfuscated", ".", "Also", "observe", "that", "we", "have", "no", "restrictions", "on", "the", "values", "of", "query", "attributes", ",", "i.e.", ",", "the", "same", "m", "-", "tuple", "of", "query", "attributes", "may", "appear", "in", "multiple", "records", ",", "with", "different", "or", "identical", "data", "attributes", ".", "4.2", "Obfuscating", "the", "database", "We", "now", "present", "the", "algorithm", "OB", "gp", ",", "which", ",", "given", "any", "database", "D", ",", "produces", "its", "obfuscation", ".", "For", "notational", "convenience", ",", "we", "use", "a", "set", "of", "random", "hash", "functions", "H", ":", "-LCB-", "0", ",", "1", "-RCB-", "-LCB-", "0", ",", "1", "-RCB-", "k", ".", "Given", "any", "hash", "function", "H", ",", "these", "can", "be", "implemented", "simply", "as", "H", "-LRB-", "|", "|", "x", "-RRB-", ".", "To", "convert", "the", "k-bit", "hash", "function", "output", "into", "a", "key", "as", "long", "as", "the", "plaintext", "to", "which", "it", "is", "105", "applied", ",", "we", "use", "a", "set", "of", "pseudo-random", "number", "generators", "prg", ",", ":", "-LCB-", "0", ",", "1", "-RCB-", "k", "-LCB-", "0", ",", "1", "-RCB-", "-LRB-", "this", "implements", "random", "oracles", "with", "unbounded", "output", "length", "-RRB-", ".", "Let", "N", "be", "the", "number", "of", "records", "in", "the", "database", ".", "For", "each", "row", "i", ",", "1", "i", "N", ",", "generate", "a", "random", "N", "-", "bit", "secret", "r", "i", "=", "r", "i", "1", "|", "|", "r", "i", "2", "|", "|", "...", "|", "|", "r", "iN", ",", "where", "r", "ij", "R", "-LCB-", "0", ",", "1", "-RCB-", ".", "This", "secret", "will", "be", "used", "to", "protect", "the", "data", "attribute", "y", "i", "of", "this", "record", ".", "Note", "that", "there", "is", "1", "bit", "in", "r", "i", "for", "each", "record", "of", "the", "database", ".", "Next", ",", "split", "r", "i", "into", "m", "shares", "corresponding", "to", "query", "attributes", ".", "If", "the", "retriever", "can", "supply", "the", "correct", "value", "of", "the", "jth", "attribute", ",", "he", "will", "learn", "the", "jth", "share", "-LRB-", "1", "j", "m", "-RRB-", ".", "Denote", "the", "share", "corresponding", "to", "the", "jth", "attribute", "as", "s", "ij", ".", "Shares", "are", "also", "N", "bits", "long", ",", "i.e.", ",", "s", "ij", "=", "s", "ij", "1", "|", "|", "...", "|", "|", "s", "ijN", ".", "Each", "of", "the", "N", "bits", "of", "s", "ij", "has", "a", "corresponding", "bit", "in", "r", "i", ",", "which", "in", "its", "turn", "corresponds", "to", "one", "of", "the", "N", "records", "in", "the", "database", ".", "For", "each", "p", "s.t.", "1", "p", "N", ",", "set", "s", "ijp", "=", "r", "ip", "if", "x", "ij", "=", "x", "pj", ",", "and", "set", "s", "ijp", "=", "0", "otherwise", ".", "In", "other", "words", ",", "the", "jth", "share", "s", "ij", "consists", "of", "all", "bits", "of", "r", "i", "except", "those", "corresponding", "to", "the", "records", "where", "the", "value", "of", "the", "jth", "attribute", "is", "the", "same", ".", "An", "example", "can", "be", "found", "in", "section", "4.4", ".", "The", "result", "of", "this", "construction", "is", "that", "shares", "corresponding", "to", "commonly", "occurring", "attribute", "values", "will", "be", "missing", "many", "bits", "of", "r", "i", ",", "while", "a", "share", "corresponding", "to", "an", "attribute", "that", "uniquely", "identifies", "one", "record", "will", "contain", "all", "bits", "of", "r", "i", "except", "one", ".", "Intuitively", ",", "this", "guarantees", "group", "privacy", ".", "If", "the", "retriever", "can", "supply", "query", "attribute", "values", "that", "uniquely", "identify", "a", "single", "record", "or", "a", "small", "subset", "of", "records", ",", "he", "will", "learn", "the", "shares", "that", "reveal", "all", "bits", "of", "the", "secret", "r", "i", "except", "for", "a", "few", ",", "which", "he", "can", "easily", "guess", ".", "If", "the", "retriever", "can", "not", "describe", "precisely", "what", "he", "is", "looking", "for", "and", "supplies", "attribute", "values", "that", "are", "common", "in", "the", "database", ",", "many", "of", "the", "bits", "of", "r", "i", "will", "be", "missing", "in", "the", "shares", "that", "he", "learns", ",", "and", "guessing", "all", "of", "them", "will", "be", "computationally", "infeasible", ".", "Shares", "corresponding", "to", "different", "query", "attributes", "may", "overlap", ".", "For", "example", ",", "suppose", "that", "we", "are", "obfuscating", "a", "database", "in", "which", "two", "records", "have", "the", "same", "value", "of", "attribute", "X", "1", "if", "and", "only", "if", "they", "have", "the", "same", "value", "of", "attribute", "X", "2", ".", "In", "this", "case", ",", "for", "any", "record", "in", "the", "database", ",", "the", "share", "revealed", "if", "the", "retriever", "supplies", "the", "correct", "value", "of", "X", "1", "will", "be", "exactly", "the", "same", "as", "the", "share", "revealed", "if", "the", "retriever", "supplies", "the", "value", "of", "X", "2", ".", "The", "retriver", "gains", "nothing", "by", "supplying", "X", "2", "in", "conjunction", "with", "X", "1", "because", "this", "does", "not", "help", "him", "narrow", "the", "set", "of", "records", "that", "match", "his", "query", ".", "To", "construct", "the", "obfuscated", "database", ",", "we", "encrypt", "each", "share", "with", "a", "pseudo-random", "key", "derived", "from", "the", "value", "of", "the", "corresponding", "query", "attribute", ",", "and", "encrypt", "the", "data", "attribute", "with", "a", "key", "derived", "from", "the", "secret", "r", "i", ".", "More", "precisely", ",", "we", "replace", "each", "record", "i", "=", "x", "i", "1", ",", "...", ",", "x", "im", ",", "y", "i", "of", "the", "original", "database", "with", "the", "obfuscated", "record", "v", "i", "1", ",", "w", "i", "1", ",", "v", "i", "2", ",", "w", "i", "2", ",", "...", ",", "v", "im", ",", "w", "im", ",", "u", "i", ",", "z", "i", "where", "-", "v", "ij", "=", "H", "1", ",", "i", ",", "j", "-LRB-", "x", "ij", "-RRB-", ".", "This", "enables", "the", "retriever", "to", "verify", "that", "he", "supplied", "the", "correct", "value", "for", "the", "jth", "query", "attribute", ".", "-", "w", "ij", "=", "prg", "1", ",", "i", ",", "j", "-LRB-", "H", "2", ",", "i", ",", "j", "-LRB-", "x", "ij", "-RRB-", "-RRB-", "s", "ij", ".", "This", "is", "the", "jth", "share", "of", "the", "secret", "r", "i", ",", "encrypted", "with", "a", "key", "derived", "from", "the", "value", "of", "the", "jth", "query", "attribute", ".", "-", "u", "i", "=", "H", "3", ",", "i", "-LRB-", "r", "i", "-RRB-", ".", "This", "enables", "the", "retriever", "to", "verify", "that", "he", "computed", "the", "correct", "secret", "r", "i", ".", "-", "z", "i", "=", "prg", "2", ",", "i", "-LRB-", "H", "4", ",", "i", "-LRB-", "r", "i", "-RRB-", "-RRB-", "y", "i", ".", "This", "is", "the", "data", "attribute", "y", "i", ",", "encrypted", "with", "a", "key", "derived", "from", "the", "secret", "r", "i", ".", "Clearly", ",", "algorithm", "OB", "gp", "runs", "in", "time", "polynomial", "in", "N", "-LRB-", "the", "size", "of", "the", "database", "-RRB-", ".", "The", "size", "of", "the", "resulting", "obfuscation", "is", "N", "2", "m", ".", "Even", "though", "it", "is", "within", "a", "polynomial", "factor", "of", "N", "-LRB-", "and", "thus", "satisfies", "the", "definition", "of", "-LSB-", "2", "-RSB-", "-RRB-", ",", "quadratic", "blowup", "means", "that", "our", "technique", "is", "impractical", "for", "large", "databases", ".", "This", "issue", "is", "discussed", "further", "in", "section", "4.5", ".", "We", "claim", "that", "OB", "gp", "produces", "a", "secure", "obfuscation", "of", "D", ",", "i.e.", ",", "it", "is", "not", "feasible", "to", "extract", "any", "more", "information", "from", "OB", "gp", "-LRB-", "D", "-RRB-", "than", "permitted", "by", "the", "privacy", "policy", "GP", "D", ".", "Theorem", "2", ".", "-LRB-", "Group-exponential", "obfuscation", "is", "``", "virtual", "black-box", "''", "-RRB-", "For", "any", "probabilistic", "polynomial-time", "-LRB-", "adversarial", "-RRB-", "algorithm", "A", ",", "there", "exists", "a", "probabilistic", "polynomial-time", "simulator", "algorithm", "S", "and", "a", "negligible", "function", "of", "the", "security", "parameter", "k", "s.t.", "for", "any", "database", "D", ":", "|", "P", "-LRB-", "A", "-LRB-", "OB", "gp", "-LRB-", "D", "-RRB-", "-RRB-", "=", "1", "-RRB-", "-", "P", "-LRB-", "S", "GP", "D", "-LRB-", "1", "|", "D", "|", "-RRB-", "=", "1", "-RRB-", "|", "-LRB-", "k", "-RRB-", "Remark", ".", "An", "improper", "implementation", "of", "the", "random", "oracles", "in", "the", "above", "construction", "could", "violate", "privacy", "under", "composition", "of", "obfuscation", ",", "i.e.", ",", "when", "more", "than", "one", "database", "is", "obfuscated", "and", "published", ".", "For", "instance", ",", "if", "the", "hash", "of", "some", "attribute", "is", "the", "same", "in", "two", "databases", ",", "then", "the", "adversary", "learns", "that", "the", "attributes", "are", "equal", "without", "having", "to", "guess", "their", "value", ".", "To", "prevent", "this", ",", "the", "same", "hash", "function", "may", "not", "be", "used", "more", "than", "once", ".", "One", "way", "to", "achieve", "this", "is", "to", "pick", "H", "i", "-LRB-", ".", "-RRB-", "=", "H", "-LRB-", "r", "i", "|", "|", ".", "-RRB-", "where", "r", "i", "R", "-LCB-", "0", ",", "1", "-RCB-", "k", ",", "and", "publish", "r", "i", "along", "with", "the", "obfuscation", ".", "This", "is", "an", "example", "of", "the", "pitfalls", "inherent", "in", "the", "random", "oracle", "model", ".", "4.3", "Accessing", "the", "obfuscated", "database", "We", "now", "explain", "how", "the", "retriever", "can", "efficiently", "evaluate", "queries", "on", "the", "obfuscated", "database", ".", "Recall", "that", "the", "privacy", "policy", "restricts", "the", "retriever", "to", "queries", "consisting", "of", "conjunctions", "of", "equality", "tests", "on", "query", "attributes", ",", "i.e.", ",", "every", "query", "predicate", "P", "has", "the", "form", "X", "j", "1", "=", "x", "j", "1", "...", "X", "j", "t", "=", "x", "j", "t", ",", "where", "j", "1", ",", "...", ",", "j", "t", "are", "some", "indices", "between", "1", "and", "m", ".", "The", "retriever", "processes", "the", "obfuscated", "database", "record", "by", "record", ".", "The", "ith", "record", "of", "the", "obfuscated", "database", "-LRB-", "1", "i", "N", "-RRB-", "has", "the", "form", "v", "i", "1", ",", "w", "i", "1", ",", "v", "i", "2", ",", "w", "i", "2", ",", "...", ",", "v", "im", ",", "w", "im", ",", "u", "i", ",", "z", "i", ".", "The", "retriever", "'s", "goal", "is", "to", "compute", "the", "N", "-", "bit", "secret", "r", "i", "so", "that", "he", "can", "decrypt", "the", "ciphertext", "z", "i", "and", "recover", "the", "value", "of", "y", "i", ".", "First", ",", "the", "retriever", "recovers", "as", "many", "shares", "as", "he", "can", "from", "the", "ith", "record", ".", "Recall", "from", "the", "construction", "of", "section", "4.2", "that", "each", "w", "ij", "is", "a", "ciphertext", "of", "some", "share", ",", "but", "the", "only", "way", "to", "decrypt", "it", "is", "to", "supply", "the", "corresponding", "query", "attribute", "value", "x", "ij", ".", "Let", "range", "over", "the", "indices", "of", "attributes", "supplied", "by", "the", "retriever", "as", "part", "of", "the", "query", ",", "i.e.", ",", "-LCB-", "j", "1", ",", "...", ",", "j", "t", "-RCB-", ".", "For", "each", ",", "if", "H", "1", ",", "i", ",", "-LRB-", "x", "-RRB-", "=", "v", "i", ",", "then", "the", "retriever", "extracts", "the", "corresponding", "share", "s", "i", "=", "prg", "1", ",", "i", ",", "-LRB-", "H", "2", ",", "i", ",", "-LRB-", "x", "-RRB-", "-RRB-", "w", "i", ".", "If", "H", "1", ",", "i", ",", "-LRB-", "x", "-RRB-", "=", "v", "i", ",", "this", "means", "that", "the", "retriever", "supplied", "the", "wrong", "attribute", "value", ",", "and", "he", "learns", "nothing", "about", "the", "corresponding", "share", ".", "Let", "S", "be", "the", "set", "of", "recovered", "shares", ".", "Each", "recovered", "share", "s", "S", "reveals", "only", "some", "bits", "of", "r", "i", ",", "and", ",", "as", "mentioned", "before", ",", "bits", "revealed", "by", "different", "shares", "may", "overlap", ".", "For", "each", "p", "s.t.", "1", "p", "N", ",", "the", "retriever", "sets", "the", "corresponding", "bit", "r", "ip", "of", "the", "candidate", "secret", "r", "i", "as", "follows", ":", "r", "ip", "=", "s", "p", "if", "s", "S", "s.t.", "v", "p", "=", "H", "1,1", ",", "-LRB-", "x", "-RRB-", "random", "otherwise", "Informally", ",", "if", "at", "least", "one", "of", "recovered", "shares", "s", "contains", "the", "pth", "bit", "of", "r", "i", "-LRB-", "this", "can", "be", "verified", "by", "checking", "that", "the", "value", "of", "th", "attribute", "is", "not", "the", "same", "in", "the", "pth", "record", "of", "the", "database", "--", "see", "construction", "in", "section", "4.2", "-RRB-", ",", "then", "this", "106", "bit", "is", "indeed", "to", "the", "pth", "bit", "of", "the", "secret", "r", "i", ".", "Otherwise", ",", "the", "retriever", "must", "guess", "the", "pth", "bit", "randomly", ".", "Once", "a", "candidate", "r", "i", "is", "constructed", ",", "the", "retriever", "checks", "whether", "H", "3", ",", "i", "-LRB-", "r", "i", "-RRB-", "=", "u", "i", ".", "If", "not", ",", "the", "missing", "bits", "must", "have", "been", "guessed", "incorrectly", ",", "and", "the", "retriever", "has", "to", "try", "another", "choice", "for", "these", "bits", ".", "If", "H", "3", ",", "i", "-LRB-", "r", "i", "-RRB-", "=", "u", "i", ",", "then", "the", "retriever", "decrypts", "the", "data", "attribute", "y", "i", "=", "prg", "2", ",", "i", "-LRB-", "H", "4", ",", "i", "-LRB-", "r", "i", "-RRB-", "-RRB-", "z", "i", ".", "The", "obfuscation", "algorithm", "of", "section", "4.2", "guarantees", "that", "the", "number", "of", "missing", "bits", "is", "exactly", "equal", "to", "the", "number", "of", "records", "satisfied", "by", "the", "query", "P", ".", "This", "provides", "the", "desired", "group", "privacy", "property", ".", "If", "the", "retriever", "supplies", "a", "query", "which", "is", "satisfied", "by", "a", "single", "record", ",", "then", "he", "will", "only", "have", "to", "guess", "one", "bit", "to", "decrypt", "the", "data", "attributes", ".", "If", "a", "query", "is", "satisfied", "by", "two", "records", ",", "then", "two", "bits", "must", "be", "guessed", ",", "and", "so", "on", ".", "For", "queries", "satisfied", "by", "a", "large", "number", "of", "records", ",", "the", "number", "of", "bits", "to", "guess", "will", "be", "infeasible", "large", ".", "4.4", "Example", "Consider", "a", "toy", "airline", "passenger", "database", "with", "4", "records", ",", "where", "the", "query", "attributes", "are", "``", "Last", "name", "''", "and", "``", "Flight", ",", "''", "and", "the", "data", "attribute", "-LRB-", "in", "bold", "-RRB-", "is", "``", "Purchase", "details", ".", "''", "Last", "name", "Flight", "Purchase", "details", "Smith", "88", "Acme", "Travel", ",", "Visa", "4390XXXX", "Brown", "500", "Airline", "counter", ",", "cash", "Jones", "88", "Nonrevenue", "Smith", "1492", "Travel.com", ",", "AmEx", "3735XXXX", "Because", "N", "=", "4", ",", "we", "need", "to", "create", "a", "4-bit", "secret", "to", "protect", "each", "data", "attribute", ".", "-LRB-", "4-bit", "secrets", "can", "be", "easily", "guessed", ",", "of", "course", ".", "We", "assume", "that", "in", "real", "examples", "N", "would", "be", "sufficiently", "large", ",", "and", "use", "4", "records", "in", "this", "example", "only", "to", "simplify", "the", "explanations", ".", "-RRB-", "Let", "=", "1", "2", "3", "4", "be", "the", "secret", "for", "the", "first", "data", "attribute", ",", "and", ",", ",", "the", "secrets", "for", "the", "other", "data", "attributes", ",", "respectively", ".", "For", "simplicity", ",", "we", "use", "a", "special", "symbol", "''", "?", "''", "to", "indicate", "the", "missing", "bits", "that", "the", "retriever", "must", "guess", ".", "In", "the", "actual", "construction", ",", "each", "of", "these", "bits", "is", "equal", "to", "0", ",", "but", "the", "retriever", "knows", "that", "he", "must", "guess", "the", "ith", "bit", "of", "the", "jth", "share", "if", "the", "value", "of", "the", "jth", "attribute", "in", "the", "current", "record", "is", "equal", "to", "the", "value", "of", "the", "jth", "attribute", "in", "the", "ith", "record", ".", "Consider", "the", "first", "record", ".", "Each", "of", "the", "two", "query", "attributes", ",", "``", "Last", "name", "''", "and", "``", "Flight", ",", "''", "encrypts", "a", "4-bit", "share", ".", "The", "share", "encrypted", "with", "the", "value", "of", "the", "``", "Last", "name", "''", "attribute", "-LRB-", "i.e.", ",", "``", "Smith", "''", "-RRB-", "is", "missing", "the", "1st", "and", "4th", "bits", "because", "the", "1st", "and", "4th", "records", "in", "the", "database", "have", "the", "same", "value", "of", "this", "attribute", ".", "-LRB-", "Obviously", ",", "all", "shares", "associated", "the", "ith", "record", "have", "the", "ith", "bit", "missing", "-RRB-", ".", "The", "share", "encrypted", "with", "the", "value", "of", "the", "``", "Flight", "''", "attribute", "is", "missing", "the", "1st", "and", "3rd", "bits", ".", "H", "111", "-LRB-", "``", "Smith", "''", "-RRB-", ",", "prg", "1,1,1", "-LRB-", "H", "211", "-LRB-", "``", "Smith", "''", "-RRB-", "-RRB-", "-LRB-", "?", "2", "3", "?", "-RRB-", ",", "H", "112", "-LRB-", "``", "88", "''", "-RRB-", ",", "prg", "1,1,2", "-LRB-", "H", "212", "-LRB-", "``", "88", "''", "-RRB-", "-RRB-", "-LRB-", "?", "2", "?", "4", "-RRB-", ",", "H", "31", "-LRB-", "1", "2", "3", "4", "-RRB-", ",", "prg", "2,1", "-LRB-", "H", "41", "-LRB-", "1", "2", "3", "4", "-RRB-", "-RRB-", "-LRB-", "``", "Acme", "...", "''", "-RRB-", "H", "121", "-LRB-", "``", "Brown", "''", "-RRB-", ",", "prg", "1,2,1", "-LRB-", "H", "221", "-LRB-", "``", "Brown", "''", "-RRB-", "-RRB-", "-LRB-", "1", "?", "3", "4", "-RRB-", ",", "H", "122", "-LRB-", "``", "500", "''", "-RRB-", ",", "prg", "1,2,2", "-LRB-", "H", "222", "-LRB-", "``", "500", "''", "-RRB-", "-RRB-", "-LRB-", "1", "?", "3", "4", "-RRB-", ",", "H", "32", "-LRB-", "1", "2", "3", "4", "-RRB-", ",", "prg", "2,2", "-LRB-", "H", "42", "-LRB-", "1", "2", "3", "4", "-RRB-", "-RRB-", "-LRB-", "``", "Airline", "...", "''", "-RRB-", "H", "131", "-LRB-", "``", "Jones", "''", "-RRB-", ",", "prg", "1,3,1", "-LRB-", "H", "231", "-LRB-", "``", "Jones", "''", "-RRB-", "-RRB-", "-LRB-", "1", "2", "?", "4", "-RRB-", ",", "H", "132", "-LRB-", "``", "88", "''", "-RRB-", ",", "prg", "1,3,2", "-LRB-", "H", "232", "-LRB-", "``", "88", "''", "-RRB-", "-RRB-", "-LRB-", "?", "2", "?", "4", "-RRB-", ",", "H", "33", "-LRB-", "1", "2", "3", "4", "-RRB-", ",", "prg", "2,3", "-LRB-", "H", "43", "-LRB-", "1", "2", "3", "4", "-RRB-", "-RRB-", "-LRB-", "``", "Nonrev", "...", "''", "-RRB-", "H", "141", "-LRB-", "``", "Smith", "''", "-RRB-", ",", "prg", "1,4,1", "-LRB-", "H", "241", "-LRB-", "``", "Smith", "''", "-RRB-", "-RRB-", "-LRB-", "?", "2", "3", "?", "-RRB-", ",", "H", "142", "-LRB-", "``", "1492", "''", "-RRB-", ",", "prg", "1,4,2", "-LRB-", "H", "242", "-LRB-", "``", "1492", "''", "-RRB-", "-RRB-", "-LRB-", "1", "2", "?", "4", "-RRB-", ",", "H", "34", "-LRB-", "1", "2", "3", "4", "-RRB-", ",", "prg", "2,4", "-LRB-", "H", "44", "-LRB-", "1", "2", "3", "4", "-RRB-", "-RRB-", "-LRB-", "\"Travel.com", "...", "''", "-RRB-", "Suppose", "the", "retriever", "knows", "only", "that", "the", "flight", "number", "is", "88", ".", "There", "are", "2", "records", "in", "the", "database", "that", "match", "this", "predicate", ".", "From", "the", "first", "obfuscated", "record", ",", "he", "recovers", "?", "2", "?", "4", "and", "from", "the", "third", "obfuscated", "record", ",", "?", "2", "?", "4", ".", "The", "retriever", "learns", "which", "bits", "he", "must", "guess", "by", "computing", "H", "2i2", "-LRB-", "``", "88", "''", "-RRB-", "for", "1", "i", "4", ",", "and", "checking", "whether", "the", "result", "is", "equal", "to", "v", "i", "2", "from", "the", "ith", "obfuscated", "record", ".", "In", "both", "cases", ",", "the", "retriever", "learns", "that", "he", "must", "guess", "2", "bits", "-LRB-", "1st", "and", "3rd", "-RRB-", "in", "order", "to", "reconstruct", "the", "secret", "and", "decrypt", "the", "data", "attribute", ".", "Now", "suppose", "the", "retriever", "knows", "that", "the", "flight", "number", "is", "88", "and", "the", "last", "name", "is", "Smith", ".", "There", "is", "only", "1", "record", "in", "the", "database", "that", "satisfies", "this", "predicate", ".", "From", "the", "first", "part", "of", "the", "first", "obfuscated", "record", ",", "the", "retriever", "can", "recover", "?", "2", "3", "?", ",", "and", "from", "the", "second", "part", "?", "2", "?", "4", "-LRB-", "note", "how", "the", "shares", "overlap", "-RRB-", ".", "Combining", "them", ",", "he", "learns", "?", "2", "3", "4", ",", "so", "he", "needs", "to", "guess", "only", "1", "bit", "to", "decrypt", "the", "data", "attribute", ".", "It", "may", "appear", "that", "this", "toy", "example", "is", "potentially", "vulnerable", "to", "a", "dictionary", "attack", ",", "since", "it", "is", "conceivable", "that", "all", "combinations", "of", "last", "names", "and", "flight", "numbers", "can", "be", "efficiently", "enumerated", "with", "enough", "computing", "power", ".", "Note", ",", "however", ",", "that", "this", "``", "attack", "''", "does", "not", "violate", "the", "definition", "of", "secure", "obfuscation", "because", "the", "retriever", "must", "supply", "the", "name-flight", "pair", "before", "he", "can", "recover", "the", "purchase", "details", ".", "Therefore", ",", "the", "obfuscated", "database", "is", "only", "accessed", "via", "queries", "permitted", "by", "the", "privacy", "policy", ".", "In", "databases", "where", "values", "are", "drawn", "from", "a", "large", "set", ",", "even", "this", "``", "attack", "''", "is", "infeasible", ".", "4.5", "Efficiency", "The", "algorithm", "of", "section", "4.2", "produces", "obfuscations", "which", "are", "a", "factor", "of", "-LRB-", "N", "-RRB-", "larger", "than", "original", "databases", ".", "Thus", ",", "while", "our", "results", "establish", "feasibility", "of", "database", "obfuscation", "and", "group", "privacy", ",", "they", "are", "not", "directly", "applicable", "to", "real-world", "databases", ".", "This", "appears", "to", "be", "a", "recurring", "problem", "in", "the", "field", "of", "database", "privacy", ":", "the", "cryptography", "community", "has", "very", "strict", "definitions", "of", "security", "but", "loose", "notions", "of", "efficiency", "-LRB-", "typically", "polynomial", "time", "and", "space", "-RRB-", ",", "whereas", "the", "database", "community", "has", "very", "strict", "efficiency", "requirements", "but", "loose", "security", "-LRB-", "typically", "heuristic", "or", "statistical", "-RRB-", ".", "As", "a", "result", ",", "many", "proposed", "schemes", "are", "either", "too", "inefficient", ",", "or", "too", "insecure", "for", "practical", "use", ".", "A", "possible", "compromise", "might", "be", "to", "start", "with", "a", "provably", "secure", "but", "inefficient", "construction", "and", "employ", "heuristic", "techniques", "to", "improve", "its", "efficiency", ".", "In", "this", "spirit", ",", "we", "now", "propose", "some", "modifications", "to", "reduce", "the", "size", "of", "the", "obfuscated", "database", "without", "providing", "a", "security", "proof", ".", "The", "presentation", "is", "informal", "due", "to", "lack", "of", "space", ";", "see", "the", "full", "version", "of", "the", "paper", "for", "a", "more", "rigorous", "version", ".", "The", "obfuscation", "algorithm", "is", "modified", "as", "follows", ".", "For", "each", "record", "i", ",", "we", "split", "r", "i", "into", "N", "k", "``", "blocks", "''", "of", "k", "bits", "each", ",", "padding", "the", "last", "block", "if", "necessary", "-LRB-", "k", "is", "the", "security", "parameter", "-RRB-", ".", "Instead", "of", "generating", "the", "bits", "randomly", ",", "we", "create", "a", "binary", "tree", "of", "depth", "log", "N", "k", ".", "A", "key", "of", "length", "k", "is", "associated", "with", "each", "node", "of", "the", "tree", ",", "with", "the", "property", "the", "two", "``", "children", "''", "keys", "are", "derived", "from", "the", "``", "parent", "''", "key", "-LRB-", "e.g.", ",", "using", "a", "size-doubling", "pseudo-random", "generator", "-RRB-", ".", "This", "is", "similar", "to", "a", "Merkle", "tree", "in", "which", "keys", "are", "derived", "in", "the", "reverse", "direction", ".", "The", "edge", "of", "tree", "-LRB-", "minus", "the", "padding", "of", "the", "last", "block", "-RRB-", "is", "r", "i", ".", "Let", "us", "denote", "the", "j", "th", "attribute", "of", "the", "i", "th", "record", "by", "i", ",", "j", ".", "Say", "that", "i", ",", "j", "is", "entitled", "to", "the", "secret", "bit", "r", "i", "j", "if", "x", "ij", "=", "x", "i", "j", ",", "and", "i", ",", "j", "is", "entitled", "to", "an", "entire", "block", "B", "if", "it", "is", "entitled", "to", "each", "secret", "bit", "r", "i", "j", "in", "that", "block", ".", "Intuitively", ",", "if", "an", "entire", "block", "is", "entitled", ",", "then", "we", "encode", "it", "efficiently", "using", "the", "``", "reverse", "Merkle", "''", "tree", "described", "above", ";", "if", "it", "is", "partially", "entitled", ",", "then", "we", "fall", "back", "on", "our", "original", "construction", ".", "Thus", ",", "107", "let", "N", "ij", "be", "the", "minimal", "set", "of", "nodes", "in", "the", "tree", "which", "are", "sufficient", "for", "reconstructing", "all", "entitled", "blocks", "-LRB-", "i.e.", ",", "every", "entitled", "block", "has", "among", "its", "parents", "an", "element", "of", "N", "ij", "-RRB-", ",", "and", "only", "these", "blocks", ".", "Then", "the", "share", "s", "ij", "consists", "of", "-LRB-", "a", "suitable", "encoding", "of", "-RRB-", "N", "ij", "together", "with", "the", "remaining", "bits", "r", "i", "j", "to", "which", "i", ",", "j", "is", "entitled", ".", "These", "are", "the", "entitled", "bits", "from", "any", "block", "which", "also", "includes", "non-entitled", "bits", ".", "In", "the", "worst", "case", ",", "this", "algorithm", "does", "not", "decrease", "the", "blowup", "in", "the", "size", "of", "the", "obfuscated", "database", ".", "This", "occurs", "when", "for", "every", "query", "attribute", "j", "of", "every", "record", "i", ",", "there", "are", "-LRB-", "N", "-RRB-", "records", "i", "for", "which", "the", "value", "of", "the", "query", "attribute", "is", "the", "same", ",", "i.e.", ",", "x", "ij", "=", "x", "i", "j", ".", "If", "we", "assume", "a", "less", "pathological", "database", ",", "however", ",", "we", "can", "get", "a", "better", "upper", "bound", ".", "If", "there", "is", "a", "threshold", "t", "such", "that", "for", "any", "-LRB-", "i", ",", "j", "-RRB-", "there", "are", "at", "most", "t", "records", "i", "for", "which", "x", "ij", "=", "x", "i", "j", ",", "then", "the", "size", "of", "the", "key", "material", "-LRB-", "which", "causes", "the", "blowup", "in", "the", "size", "of", "the", "obfuscated", "database", "-RRB-", "is", "O", "-LRB-", "mN", "t", "-LRB-", "k", "log", "N", "k", "-RRB-", "-RRB-", "bits", "-LRB-", "recall", "that", "m", "is", "the", "number", "of", "attributes", "-RRB-", ".", "This", "bound", "is", "tight", "only", "for", "small", "values", "of", "t", ",", "and", "the", "new", "algorithm", "does", "no", "worse", "than", "the", "original", "one", "even", "when", "t", "=", "-LRB-", "N", "-RRB-", ".", "When", "we", "consider", "that", "each", "of", "the", "mN", "entries", "of", "the", "original", "database", "is", "several", "bits", "long", ",", "the", "size", "of", "the", "obfuscated", "database", "could", "be", "acceptably", "small", "for", "practical", "use", ".", "It", "must", "be", "noted", "that", "this", "obfuscation", "reveals", "the", "size", "of", "the", "share", ",", "and", "thus", ",", "for", "a", "given", "attribute", "of", "a", "given", "record", ",", "it", "leaks", "information", "about", "the", "number", "of", "other", "records", "whose", "attribute", "value", "is", "the", "same", "-LRB-", "but", "not", "which", "records", "they", "are", "-RRB-", ".", "This", "opens", "two", "research", "questions", ":", "-", "Is", "there", "a", "provably", "secure", "database", "obfuscation", "algorithm", "that", "produces", "obfuscations", "that", "are", "smaller", "than", "O", "-LRB-", "N", "2", "-RRB-", ".", "-", "Can", "the", "heuristic", "described", "in", "this", "section", "be", "improved", "to", "obtain", "acceptable", "lower", "bounds", "in", "the", "worst", "case", "?", "We", "now", "consider", "queries", "formed", "by", "taking", "an", "arbitrary", "predicate", "P", "over", "m", "boolean", "variables", "b", "1", ",", "b", "2", "...", "b", "m", ",", "and", "substituting", "-LRB-", "X", "j", "=", "x", "j", "-RRB-", "for", "b", "j", ",", "where", "X", "j", "is", "a", "query", "attribute", ",", "and", "x", "j", "X", "-LCB-", "-RCB-", "is", "a", "candidate", "value", "for", "this", "attribute", ",", "drawn", "from", "the", "domain", "X", "of", "query", "attribute", "values", ".", "The", "special", "value", "denotes", "that", "the", "value", "of", "the", "X", "j", "attribute", "is", "ignored", "when", "evaluating", "the", "predicate", ".", "The", "class", "of", "queries", "considered", "in", "section", "4", "is", "a", "partial", "case", "of", "this", "definition", ",", "where", "P", "=", "1jm", "b", "j", ".", "The", "group-exponential", "property", "is", "similar", "to", "definition", "2", "except", "for", "the", "domain", "of", "P.", "Let", "C", "be", "a", "boolean", "circuit", "computing", "P", ".", "We", "assume", "that", "C", "is", "a", "monotone", "circuit", ",", "i.e.", ",", "a", "poly-size", "directed", "acyclic", "graph", "where", "each", "node", "is", "an", "AND", ",", "OR", "or", "FANOUT", "gate", ".", "AND", "and", "OR", "gates", "have", "two", "inputs", "and", "one", "output", "each", ",", "while", "FANOUT", "gates", "have", "one", "input", "and", "two", "outputs", ".", "Circuit", "C", "has", "m", "inputs", ",", "one", "per", "each", "query", "attribute", ".", "Below", ",", "we", "show", "how", "to", "generalize", "our", "obfuscation", "technique", "to", "non-monotone", "circuits", ".", "Obfuscation", "algorithm", ".", "The", "algorithm", "is", "similar", "to", "the", "one", "in", "section", "4", ",", "and", "consists", "of", "generating", "a", "random", "secret", "to", "encrypt", "each", "data", "attribute", ",", "splitting", "this", "secret", "into", "-LRB-", "unequal", "-RRB-", "shares", ",", "and", "encrypting", "these", "shares", "under", "the", "keys", "derived", "from", "the", "values", "of", "query", "attributes", ".", "As", "before", ",", "let", "H", ":", "-LCB-", "0", ",", "1", "-RCB-", "-LCB-", "0", ",", "1", "-RCB-", "k", "be", "a", "set", "of", "random", "hash", "functions", "and", "prg", ",", ":", "-LCB-", "0", ",", "1", "-RCB-", "k", "-LCB-", "0", ",", "1", "-RCB-", "a", "set", "of", "pseudo-random", "generators", ".", "For", "each", "record", "i", "in", "the", "database", ",", "do", "the", "following", ":", "Generate", "a", "block", "of", "uniformly", "random", "bits", "-LCB-", "r", "ilEt", "-RCB-", ",", "where", "1", "l", "N", ",", "E", "ranges", "over", "all", "edges", "of", "the", "circuit", "C", ",", "and", "1", "t", "k", ",", "where", "k", "is", "the", "length", "of", "the", "hash", "functions", "'", "output", ".", "Denote", "r", "iEt", "=", "r", "i", "1Et", "|", "|", "r", "i", "2Et", "|", "|", "...", "|", "|", "r", "iN", "Et", "-", "r", "ilE", "=", "r", "ilE", "1", "|", "|", "r", "ilE", "2", "|", "|", "...", "|", "|", "r", "ilEk", "Then", ",", "for", "each", "query", "attribute", "X", "j", ":", "Output", "v", "ij", "=", "H", "1", ",", "i", ",", "j", "-LRB-", "x", "ij", "-RRB-", "Let", "E", "j", "be", "the", "input", "edge", "in", "the", "circuit", "C", "whose", "input", "is", "the", "X", "j", "=", "x", "j", "test", ".", "Define", "the", "bits", "of", "the", "corresponding", "share", "s", "iljt", "=", "r", "ilE", "j", "t", "if", "x", "ij", "=", "x", "lj", ",", "and", "0", "otherwise", ".", "Encrypt", "the", "resulting", "share", "using", "a", "key", "derived", "from", "x", "ij", ",", "i.e.", ",", "output", "w", "ij", "=", "prg", "1", ",", "i", ",", "j", "-LRB-", "H", "2", ",", "i", ",", "j", "-LRB-", "x", "ij", "-RRB-", "-RRB-", "-LRB-", "s", "i", "1j", "|", "|", "-", "s", "i", "2j", "|", "|", "...", "|", "|", "-", "s", "iN", "j", "-RRB-", ".", "Let", "E", "out", "be", "the", "output", "edge", "in", "the", "circuit", "C.", "Output", "u", "i", "=", "H", "3", ",", "i", "-LRB-", "r", "iE", "out", "0", "-RRB-", "Output", "z", "i", "=", "prg", "2", ",", "i", "-LRB-", "H", "4", ",", "i", "-LRB-", "r", "iE", "out", "0", "-RRB-", "-RRB-", "y", "i", ".", "The", "previous", "procedure", "obfuscated", "only", "the", "output", "edge", "of", "C.", "Repeat", "the", "following", "step", "recursively", "for", "each", "gate", "G", "C", ",", "whose", "output", "edge", "-LRB-", "or", "both", "of", "whose", "output", "edges", ",", "for", "a", "FANOUT", "gate", "-RRB-", "have", "been", "obfuscated", ".", "Stop", "when", "all", "edges", "have", "been", "obfuscated", ":", "If", "G", "is", "an", "AND", "gate", ",", "let", "E", "0", "and", "E", "1", "be", "the", "input", "edges", "and", "E", "the", "output", "edge", ".", "For", "each", "l", ",", "set", "-", "r", "ilE", "0", "=", "-", "r", "ilE", "1", "=", "-", "r", "ilE", ".", "If", "G", "is", "an", "OR", "gate", ",", "then", ",", "for", "each", "l", ",", "generate", "random", "-", "r", "ilE", "0", "R", "-LCB-", "0", ",", "1", "-RCB-", "k", "and", "set", "-", "r", "ilE", "1", "=", "-", "r", "ilE", "0", "-", "r", "ilE", ".", "If", "G", "is", "a", "FANOUT", "gate", ",", "let", "E", "0", "and", "E", "1", "be", "the", "output", "edges", "and", "E", "the", "input", "edge", ".", "For", "each", "l", ",", "generate", "random", "-", "r", "ilE", "0", ",", "-", "r", "ilE", "1", "R", "-LCB-", "0", ",", "1", "-RCB-", "k", "and", "output", "ilE", "0", "=", "H", "5", ",", "i", ",", "l", ",", "E", "0", "-LRB-", "-", "r", "ilE", "-RRB-", "-", "r", "ilE", "0", "and", "ilE", "1", "=", "H", "5", ",", "i", ",", "l", ",", "E", "1", "-LRB-", "-", "r", "ilE", "-RRB-", "-", "r", "ilE", "1", "Retrieval", "algorithm", ".", "Let", "Q", "be", "the", "query", "predicate", "in", "which", "specific", "values", "of", "x", "j", "or", "have", "been", "plugged", "into", "all", "X", "j", "=", "x", "j", "expressions", "in", "the", "leaves", "of", "the", "circuit", "C", ".", "The", "retrieval", "algorithm", "consists", "of", "two", "functions", ":", "C", "ob", "-LRB-", "OB", "gp", "-LRB-", "D", "-RRB-", ",", "x", ",", "i", ",", "j", "-RRB-", ",", "which", "enables", "the", "retriever", "to", "check", "whether", "the", "jth", "query", "attribute", "of", "the", "ith", "record", "is", "equal", "to", "x", ",", "and", "R", "ob", "-LRB-", "OB", "gp", "-LRB-", "D", "-RRB-", ",", "Q", ",", "i", "-RRB-", ",", "which", "attempts", "to", "retrieve", "the", "value", "of", "the", "obfuscated", "data", "attribute", "in", "the", "ith", "record", ".", "Define", "C", "ob", "-LRB-", "OB", "gp", "-LRB-", "D", "-RRB-", ",", "x", ",", "i", ",", "j", "-RRB-", "=", "1", "if", "H", "1", ",", "i", ",", "j", "-LRB-", "x", "-RRB-", "=", "v", "ij", "and", "0", "otherwise", ".", "Evaluate", "Q", "-LRB-", "i", "-RRB-", "using", "C", "ob", ".", "If", "Q", "OB", "gp", "-LRB-", "i", "-RRB-", ",", "then", "R", "ob", "-LRB-", "OB", "gp", "-LRB-", "D", "-RRB-", ",", "Q", ",", "i", "-RRB-", "=", ".", "For", "each", "l", "and", "each", "circuit", "edge", "E", ",", "set", "-", "r", "ilE", "=", "??", "...", "?", "-LRB-", "i.e.", ",", "none", "of", "the", "bits", "of", "the", "secret", "are", "initially", "known", "-RRB-", ".", "For", "each", "query", "attribute", "j", ",", "let", "E", "j", "be", "the", "input", "edge", "of", "the", "circuit", "associated", "with", "the", "equality", "test", "for", "this", "attribute", ".", "If", "Q", "contains", "this", "test", ",", "i.e.", ",", "if", "Q", "contains", "X", "j", "=", "108", "x", "j", "for", "some", "candidate", "value", "x", "j", "-LRB-", "rather", "than", "X", "j", "=", "-RRB-", ",", "then", "set", "-LRB-", "s", "i", "1j", "|", "|", "...", "|", "|", "-", "s", "iN", "j", "-RRB-", "=", "w", "ij", "prg", "1", ",", "i", ",", "j", "-LRB-", "H", "2", ",", "i", ",", "j", "-LRB-", "x", "ij", "-RRB-", "-RRB-", ",", "i.e.", ",", "decrypt", "the", "secret", "bits", "with", "the", "key", "derived", "from", "the", "value", "of", "the", "jth", "attribute", ".", "For", "each", "l", ",", "if", "C", "ob", "-LRB-", "x", "ij", ",", "l", ",", "j", "-RRB-", "=", "0", ",", "then", "set", "-", "r", "ilE", "j", "=", "s", "ilj", ",", "i.e.", ",", "use", "only", "those", "of", "the", "decrypted", "bits", "that", "are", "true", "bits", "of", "the", "secret", "-", "r", "ilE", ".", "So", "far", ",", "only", "the", "input", "gates", "of", "the", "circuit", "have", "been", "visited", ".", "Find", "a", "gate", "all", "of", "whose", "input", "edges", "have", "been", "visited", ",", "and", "repeat", "the", "following", "step", "for", "every", "gate", "until", "the", "output", "edge", "E", "out", "has", "been", "visited", ".", "If", "E", "is", "the", "output", "of", "an", "AND", "gate", "with", "inputs", "E", "0", "and", "E", "1", ",", "then", ",", "for", "each", "l", ",", "if", "-", "r", "ilE", "0", "=", "?", ",", "set", "-", "r", "ilE", "=", "-", "r", "ilE", "0", ";", "if", "-", "r", "ilE", "1", "=", "?", ",", "set", "-", "r", "ilE", "=", "-", "r", "ilE", "1", ".", "E", "is", "the", "output", "of", "an", "OR", "gate", "with", "inputs", "E", "0", "and", "E", "1", ".", "For", "each", "l", ",", "if", "-", "r", "ilE", "0", "=", "?", "and", "-", "r", "ilE", "1", "=", "?", ",", "set", "-", "r", "ilE", "=", "-", "r", "ilE", "0", "-", "r", "ilE", "1", ".", "E", "is", "the", "output", "of", "a", "FANOUT", "gate", "with", "input", "E", "0", ".", "For", "each", "l", ",", "if", "-", "r", "ilE", "0", "=", "?", ",", "set", "r", "ilE", "=", "ilE", "0", "H", "5", ",", "i", ",", "l", ",", "E", "0", "-LRB-", "-", "r", "ilE", "0", "-RRB-", ".", "For", "each", "l", ",", "if", "r", "ilE", "out", "0", "=", "?", ",", "this", "means", "that", "the", "corresponding", "secret", "bit", "must", "be", "guessed", ".", "Choose", "random", "r", "ilE", "out", "0", "R", "-LCB-", "0", ",", "1", "-RCB-", ".", "If", "H", "3", ",", "i", "-LRB-", "r", "iE", "out", "0", "-RRB-", "=", "u", "i", ",", "this", "means", "that", "the", "retriever", "successfully", "reconstructed", "the", "secret", ".", "In", "this", "case", ",", "define", "R", "ob", "-LRB-", "OB", "gp", "-LRB-", "D", "-RRB-", ",", "Q", ",", "i", "-RRB-", "=", "prg", "2", ",", "i", "-LRB-", "H", "4", ",", "i", "-LRB-", "r", "iE", "out", "0", "-RRB-", "-RRB-", "z", "i", ".", "Otherwise", ",", "define", "R", "ob", "-LRB-", "OB", "gp", "-LRB-", "D", "-RRB-", ",", "Q", ",", "i", "-RRB-", "=", ".", "Theorem", "3", ".", "The", "obfuscation", "algorithm", "for", "arbitrary", "predicates", "over", "equalities", "on", "attributes", "satisfies", "the", "virtual", "black-box", "property", ".", "5.1", "Obfuscating", "non-monotone", "circuits", "Given", "a", "non-monotone", "circuit", "C", ",", "let", "C", "be", "the", "monotone", "circuit", "whose", "leaves", "are", "literals", "and", "negated", "literals", "formed", "by", "``", "pushing", "down", "''", "all", "the", "NOT", "gates", ".", "Observe", "that", "C", "has", "at", "most", "twice", "as", "many", "gates", "as", "C.", "Also", ",", "C", "can", "be", "considered", "a", "monotone", "circuit", "over", "the", "2m", "predicates", "X", "1", "=", "x", "1", ",", "X", "2", "=", "x", "2", ",", "...", ",", "X", "m", "=", "x", "m", ",", "X", "1", "=", "x", "1", ",", "X", "2", "=", "x", "2", ",", "...", "X", "m", "=", "x", "m", ".", "Observe", "that", "a", "predicate", "of", "the", "form", "X", "j", "=", "x", "j", "is", "meaningful", "only", "when", "x", "j", "=", "x", "ij", "for", "some", "record", "i", ".", "This", "is", "because", "if", "x", "j", "=", "x", "ij", "for", "any", "record", "i", ",", "then", "X", "j", "=", "x", "j", "matches", "all", "the", "records", ".", "Hence", "there", "exists", "a", "circuit", "C", "-LRB-", "obtained", "by", "setting", "the", "leaf", "in", "C", "corresponding", "to", "the", "predicate", "X", "j", "=", "x", "j", "to", "true", "-RRB-", "that", "evaluates", "to", "the", "same", "value", "as", "C", "for", "every", "record", "in", "the", "database", ".", "Given", "that", "x", "j", "=", "x", "ij", "for", "some", "record", "i", ",", "the", "predicate", "X", "j", "=", "x", "j", "is", "equivalent", "to", "the", "predicate", "X", "j", "=", "x", "ij", "for", "some", "value", "of", "i.", "C", "can", "thus", "be", "viewed", "as", "a", "monotone", "circuit", "over", "the", "m", "+", "mN", "attribute", "equality", "predicates", "X", "1", "=", "x", "1", ",", "X", "2", "=", "x", "2", ",", "...", ",", "X", "m", "=", "x", "m", ",", "and", "X", "j", "=", "x", "ij", "for", "each", "i", "and", "j", ".", "It", "follows", "that", "a", "database", "D", "with", "N", "records", "and", "m", "columns", "can", "be", "transformed", "into", "a", "database", "D", "with", "N", "records", "and", "m", "+", "mN", "columns", "such", "that", "obfuscating", "D", "over", "the", "circuit", "C", "is", "equivalent", "to", "obfuscating", "D", "over", "the", "monotone", "circuit", "C", ".", "In", "general", ",", "a", "privacy", "policy", "can", "be", "any", "computable", ",", "possibly", "randomized", ",", "joint", "function", "of", "the", "database", "and", "the", "query", ".", "Clearly", ",", "it", "may", "be", "useful", "to", "consider", "generalizations", "of", "our", "privacy", "policies", "in", "several", "directions", ".", "First", ",", "we", "discuss", "alternatives", "to", "definition", "2", "that", "may", "be", "used", "to", "model", "the", "requirement", "that", "accessing", "individual", "records", "should", "be", "easy", ",", "but", "mass", "harvesting", "of", "records", "should", "be", "hard", ".", "To", "motivate", "this", "discussion", ",", "let", "us", "consider", "a", "small", "database", "with", ",", "say", ",", "10", "or", "20", "records", ".", "For", "such", "a", "database", ",", "the", "group-exponential", "property", "is", "meaningless", ".", "Even", "if", "all", "records", "match", "the", "adversary", "'s", "query", ",", "he", "can", "easily", "try", "all", "2", "10", "or", "2", "20", "possibilities", "for", "the", "random", "bits", "r", "ik", "because", "database", "accesses", "are", "noninteractive", ".", "This", "does", "not", "in", "any", "way", "violate", "our", "definition", "of", "privacy", ".", "Exactly", "the", "same", "attack", "is", "possible", "against", "the", "ideal", "functionality", ",", "therefore", ",", "the", "simulation", "argument", "goes", "through", ",", "showing", "that", "the", "obfuscated", "database", "leaks", "no", "more", "information", "than", "the", "ideal", "functionality", ".", "It", "is", "thus", "natural", "to", "seek", "an", "alternative", "privacy", "definition", "that", "will", "make", "the", "above", "attack", "infeasible", "when", "N", "is", "small", "-LRB-", "especially", "when", "N", "<", "k", ",", "the", "security", "parameter", "-RRB-", ".", "Our", "construction", "can", "be", "easily", "modified", "to", "support", "a", "wide", "variety", "of", "-LRB-", "monotonically", "decreasing", "-RRB-", "functions", "capturing", "the", "dependence", "between", "the", "probability", "of", "the", "ideal", "functionality", "returning", "the", "protected", "attributes", "and", "the", "number", "of", "records", "matching", "the", "query", ".", "For", "example", ",", "the", "following", "threshold", "ideal", "functionality", "can", "be", "implemented", "using", "a", "threshold", "-LRB-", "n-t", "-RRB-", "-", "out-of-n", "secret", "sharing", "scheme", "-LSB-", "24", "-RSB-", ".", "-", "C", "D", "-LRB-", "x", ",", "i", ",", "j", "-RRB-", "is", "1", "if", "x", "=", "x", "ij", "and", "0", "otherwise", ",", "where", "1", "i", "N", ",", "1", "j", "m.", "-", "R", "D", "-LRB-", "P", "-RRB-", "=", "1iN", "-LCB-", "i", ",", "i", "-RCB-", ",", "where", "i", "=", "y", "i", "if", "P", "-LRB-", "i", "-RRB-", "and", "|", "D", "-LSB-", "P", "-RSB-", "|", "t", "if", "P", "-LRB-", "i", "-RRB-", "and", "|", "D", "-LSB-", "P", "-RSB-", "|", ">", "t", "if", "P", "-LRB-", "i", "-RRB-", "The", "adversary", "can", "evaluate", "the", "query", "if", "there", "are", "at", "most", "t", "matching", "records", ",", "but", "learns", "nothing", "otherwise", ".", "The", "details", "of", "the", "construction", "are", "deferred", "to", "the", "full", "version", ".", "We", "may", "also", "consider", "which", "query", "language", "should", "be", "permitted", "by", "the", "privacy", "policy", ".", "We", "demonstrated", "how", "to", "obfuscate", "databases", "in", "accordance", "with", "any", "privacy", "policy", "that", "permits", "evaluation", "of", "some", "predicate", "consisting", "of", "equality", "tests", "over", "database", "attributes", ".", "Such", "queries", "can", "be", "considered", "a", "generalization", "of", "``", "partial", "match", "''", "searches", "-LSB-", "23", "-RSB-", ",", "which", "is", "a", "common", "query", "model", "in", "the", "database", "literature", ".", "Also", ",", "our", "algorithms", "can", "be", "easily", "modified", "to", "support", "policies", "that", "forbid", "some", "attributes", "from", "having", "as", "a", "legal", "value", ",", "i.e.", ",", "policies", "that", "require", "the", "retriever", "to", "supply", "the", "correct", "value", "for", "one", "or", "more", "designated", "attributes", "before", "he", "can", "extract", "anything", "from", "the", "obfuscated", "database", ".", "It", "is", "worth", "asking", "if", "we", "can", "allow", "predicates", "over", "primitives", "looser", "than", "exact", "attribute", "equality", "-LRB-", "e.g.", ",", "proximity", "queries", "of", "-LSB-", "15", "-RSB-", "are", "an", "interesting", "class", "-RRB-", ".", "We", "present", "strong", "evidence", "that", "this", "is", "impossible", "with", "our", "privacy", "definitions", ".", "In", "fact", ",", "even", "using", "ideal", "functionalities", "-LRB-", "IF", "-RRB-", "that", "are", "more", "restrictive", "than", "the", "one", "we", "have", "used", "does", "not", "seem", "to", "help", ".", "Recall", "that", "the", "IF", "considered", "in", "section", "4", "consists", "of", "two", "functions", ":", "C", "D", "-LRB-", "it", "tells", "the", "retriever", "whether", "his", "guess", "of", "a", "particular", "query", "attribute", "value", "is", "correct", "-RRB-", "and", "R", "D", "-LRB-", "it", "evaluates", "the", "query", "with", "the", "inverse-exponential", "probability", "-RRB-", ".", "We", "will", "call", "this", "IF", "the", "permissive", "IF", ".", "We", "define", "two", "more", "IFs", ".", "The", "strict", "IF", "is", "like", "the", "permissive", "IF", "except", "that", "it", "does", "n't", "have", "the", "function", "C", ".", "The", "semi-permissive", "IF", "falls", "in", "between", "the", "two", ".", "It", ",", "too", ",", "109", "does", "n't", "have", "the", "function", "C", ",", "but", "its", "retrieval", "function", "R", "leaks", "slightly", "more", "information", ".", "Instead", "of", "the", "same", "symbol", ",", "function", "R", "of", "the", "semi-permissive", "IF", "gives", "different", "responses", "depending", "on", "whether", "it", "failed", "to", "evaluate", "the", "query", "because", "it", "matches", "no", "records", "-LRB-", "no-matches", "-RRB-", "or", "because", "it", "matches", "too", "many", "records", ",", "and", "the", "probability", "came", "out", "to", "the", "retriever", "'s", "disadvantage", "-LRB-", "too-many-matches", "-RRB-", ".", "Define", "R", "D", "-LRB-", "P", "-RRB-", "as", "1iN", "R", "-LRB-", "P", ",", "i", "-RRB-", ",", "where", "R", "is", "as", "follows", ":", "If", "P", "-LRB-", "i", "-RRB-", ",", "then", "R", "-LRB-", "P", ",", "i", "-RRB-", "=", ".", "If", "P", "-LRB-", "i", "-RRB-", ",", "then", "R", "-LRB-", "P", ",", "i", "-RRB-", "=", "y", "i", "with", "probability", "2", "-", "|", "D", "-LSB-", "P", "-RSB-", "|", "and", "with", "probability", "1", "-", "2", "-", "|", "D", "-LSB-", "P", "-RSB-", "|", ".", "Observe", "that", "if", ",", "for", "any", "privacy", "policy", "allowing", "single-attribute", "equality", "tests", ",", "i.e.", ",", "if", "all", "queries", "of", "the", "form", "X", "j", "=", "x", "j", "are", "permitted", ",", "then", "the", "semi-permissive", "IF", "can", "simulate", "the", "permissive", "IF", ".", "Of", "course", ",", "the", "permissive", "IF", "can", "always", "simulate", "the", "semi-permissive", "IF", ".", "We", "say", "that", "a", "privacy", "policy", "leaks", "query", "attributes", "if", "all", "x", "ij", "can", "be", "computed", "-LRB-", "with", "overwhelming", "probability", "-RRB-", "simply", "by", "accessing", "the", "corresponding", "ideal", "functionality", "I", "D", ",", "i.e.", ",", "there", "exists", "a", "probabilistic", "poly-time", "oracle", "algorithm", "A", "s.t.", ",", "for", "any", "database", "D", ",", "P", "-LRB-", "A", "I", "D", ",", "O", "-LRB-", "i", ",", "j", "-RRB-", "=", "x", "ij", "-RRB-", "1", "-", "-LRB-", "k", "-RRB-", ".", "Note", "that", "the", "order", "of", "quantifiers", "has", "been", "changed", ":", "the", "algorithm", "A", "is", "now", "independent", "of", "the", "database", ".", "This", "captures", "the", "idea", "that", "A", "has", "no", "knowledge", "of", "the", "specific", "query", "attributes", ",", "yet", "successfully", "retrieves", "them", "with", "access", "only", "to", "the", "ideal", "functionality", ".", "Such", "a", "policy", ",", "even", "if", "securely", "realized", ",", "provides", "no", "meaningful", "privacy", ".", "We", "have", "the", "following", "results", "-LRB-", "proofs", "omitted", "-RRB-", ":", "If", "X", "=", "-LCB-", "1", ",", "2", ",", "...", "M", "-RCB-", "and", "queries", "consisting", "of", "conjunctions", "over", "inequalities", "are", "allowed", ",", "then", "the", "semi-permissive", "IF", "leaks", "query", "attributes", ".", "Each", "of", "the", "x", "ij", "can", "be", "separately", "computed", "by", "binary", "search", "using", "queries", "of", "the", "form", "X", "j", "x", "low", "X", "j", "x", "high", ".", "If", "arbitrary", "PPT-computable", "queries", "are", "allowed", ",", "then", "even", "the", "strict", "IF", "leaks", "query", "attributes", ".", "Note", "that", "a", "policy", "does", "not", "have", "to", "leak", "all", "query", "attributes", "to", "be", "intuitively", "useless", "or", "vacuous", ".", "For", "instance", ",", "a", "policy", "which", "allows", "the", "retriever", "to", "evaluate", "conjunctions", "of", "inequalities", "on", "the", "first", "m", "-", "1", "query", "attributes", ",", "and", "allows", "no", "queries", "involving", "the", "last", "attribute", ",", "is", "vacuous", "for", "the", "semi-permissive", "IF", ".", "Therefore", ",", "we", "give", "a", "stronger", "criterion", "for", "vacuousness", ",", "which", "formalizes", "the", "notion", "that", "``", "all", "information", "contained", "in", "the", "IF", "can", "be", "extracted", "without", "knowing", "anything", "about", "the", "query", "attributes", "''", ".", "Note", "that", "the", "definition", "below", "applies", "to", "arbitrary", "privacy", "policies", ",", "for", "it", "makes", "no", "reference", "to", "query", "or", "data", "attributes", ".", "Definition", "3", ".", "-LRB-", "Vacuous", "privacy", "policy", "-RRB-", "We", "say", "that", "an", "ideal", "functionality", "I", "D", "is", "vacuous", "if", "there", "exists", "an", "efficient", "extractor", "Ext", "such", "that", "for", "any", "PPT", "algorithm", "A", "there", "exists", "a", "simulator", "S", "so", "that", "for", "any", "database", "D", ":", "|", "P", "-LRB-", "A", "I", "D", "-LRB-", "1", "k", "-RRB-", "=", "1", "-RRB-", "-", "P", "-LRB-", "S", "-LRB-", "Ext", "I", "D", "-LRB-", "1", "k", "-RRB-", "-RRB-", "-RRB-", "=", "1", "-RRB-", "|", "=", "-LRB-", "k", "-RRB-", "In", "other", "words", ",", "we", "first", "extract", "all", "useful", "information", "from", "I", "D", "without", "any", "specific", "knowledge", "of", "the", "database", ",", "throw", "away", "I", "D", ",", "and", "use", "the", "extracted", "information", "to", "simulate", "I", "D", "against", "an", "arbitrary", "adversary", ".", "As", "a", "special", "case", ",", "if", "Ext", "can", "recover", "the", "entire", "database", "D", "from", "I", "D", ",", "then", "the", "functionality", "can", "be", "simulated", ",", "because", "the", "privacy", "policy", "is", "required", "to", "be", "computable", "and", "the", "simulator", "is", "not", "required", "to", "be", "computationally", "bounded", "-LRB-", "if", "we", "consider", "only", "privacy", "policies", "which", "are", "computable", "in", "probabilistic", "polynomial", "time", ",", "then", "we", "can", "define", "vacuousness", "with", "a", "PPT", "simulator", "as", "well", "-RRB-", ".", "At", "the", "other", "extreme", ",", "the", "ideal", "functionality", "that", "permits", "no", "queries", "is", "also", "simulatable", ":", "Ext", "simply", "outputs", "nothing", ".", "The", "reader", "may", "verify", "that", "the", "IF", "in", "the", "all-but-one", "-", "query-attribute", "example", "above", "is", "also", "vacuous", ".", "Theorem", "4", ".", "The", "strict", "ideal", "functionality", "that", "permits", "arbitrary", "queries", "is", "vacuous", ".", "Finally", ",", "we", "consider", "what", "happens", "if", "we", "use", "the", "strict", "IF", "but", "do", "n't", "increase", "the", "power", "of", "the", "query", "language", ".", "We", "conjecture", "the", "existence", "of", "very", "simple", "languages", ",", "including", "a", "language", "that", "contains", "only", "conjunctions", "of", "equality", "tests", "on", "attributes", ",", "which", "are", "unrealizable", "even", "for", "single-record", "databases", "in", "the", "sense", "that", "there", "is", "no", "efficient", "obfuscation", "algorithm", "that", "would", "make", "the", "database", "indistinguishable", "from", "the", "corresponding", "IF", ".", "This", "can", "be", "seen", "as", "justification", "for", "the", "choice", "of", "the", "permissive", ",", "rather", "than", "strict", "IF", "for", "our", "constructions", ".", "conjecture", "1", ".", "The", "strict", "IF", "for", "the", "following", "query", "language", "can", "not", "be", "realized", "even", "for", "single-record", "databases", ":", "2k", "i", "=", "1", "-LRB-", "X", "2i-1", "=", "x", "2i-1", "X", "2i", "=", "x", "2i", "-RRB-", "where", "i", "x", "i", "-LCB-", "0", ",", "1", "-RCB-", ".", "Note", "that", "the", "only", "constraint", "on", "the", "database", "is", "that", "its", "size", "should", "be", "polynomial", "in", "the", "security", "parameter", "k", ",", "and", "therefore", "we", "are", "allowed", "to", "have", "2k", "query", "attributes", ".", "We", "expect", "that", "a", "proof", "of", "this", "conjecture", "will", "also", "yield", "a", "proof", "of", "the", "following", "conjecture", ":", "conjecture", "2", ".", "The", "strict", "IF", "for", "a", "query", "language", "consisting", "of", "conjunction", "of", "equality", "tests", "on", "k", "query", "attributes", "is", "unrealizable", "even", "for", "single-record", "databases", ".", "These", "conjectures", "are", "interesting", "from", "another", "perspective", ".", "They", "can", "be", "interpreted", "as", "statements", "about", "the", "impossibility", "of", "circuit", "obfuscation", "in", "the", "random", "oracle", "model", ".", "They", "also", "motivate", "the", "question", ":", "given", "a", "query", "language", ",", "it", "is", "possible", "to", "achieve", "the", "group-exponential", "property", "with", "the", "strict", "IF", "provided", "there", "exists", "an", "obfuscation", "algorithm", "for", "this", "query", "language", "on", "a", "single", "record", "?", "In", "other", "words", ",", "given", "a", "class", "of", "predicates", "over", "single", "records", "and", "an", "efficient", "obfuscator", "for", "the", "corresponding", "circuit", "class", ",", "does", "there", "exist", "an", "obfuscator", "for", "the", "entire", "database", "that", "realizes", "the", "group-exponential", "ideal", "functionality", "for", "that", "query", "language", "?", "We", "discuss", "this", "question", "in", "the", "full", "version", "of", "the", "paper", ".", "We", "introduced", "a", "new", "concept", "of", "database", "privacy", ",", "which", "is", "based", "on", "permitted", "queries", "rather", "than", "secrecy", "of", "individual", "records", ",", "and", "realized", "it", "using", "provably", "secure", "obfuscation", "techniques", ".", "This", "is", "but", "a", "first", "step", "in", "investigating", "the", "connection", "between", "obfuscation", "and", "database", "privacy", ".", "While", "our", "constructions", "are", "secure", "in", "the", "``", "virtual", "black-box", "''", "model", "for", "obfuscation", ",", "the", "blowup", "in", "the", "size", "of", "the", "obfuscated", "database", "may", "render", "our", "techniques", "impractical", "for", "large", "databases", ".", "Our", "query", "language", "permits", "any", "predicate", "over", "equalities", "on", "database", "attributes", ",", "but", "other", "query", "languages", "may", "also", "be", "realizable", ".", "We", "define", "group", "privacy", "in", "terms", "of", "a", "particular", "ideal", "functionality", ",", "but", "there", "may", "be", "110", "other", "functionalities", "that", "better", "capture", "intuitive", "security", "against", "``", "mass", "harvesting", "''", "queries", ".", "In", "general", ",", "investigating", "which", "ideal", "functionalities", "for", "database", "privacy", "can", "be", "securely", "realized", "is", "an", "important", "topic", "of", "future", "research", ".", "Finally", ",", "all", "proofs", "in", "this", "paper", "are", "carried", "out", "in", "the", "random", "oracle", "model", ".", "Whether", "privacy-via-obfuscation", "can", "be", "achieved", "in", "the", "plain", "model", "is", "another", "research", "challenge", ".", "-LSB-", "1", "-RSB-", "D.", "Aucsmith", ".", "Tamper", "resistant", "software", ":", "an", "implementation", ".", "In", "Proc", ".", "1st", "International", "Workshop", "on", "Information", "Hiding", ",", "volume", "1174", "of", "LNCS", ",", "pages", "317", "333", ".", "Springer", ",", "1996", ".", "-LSB-", "2", "-RSB-", "B.", "Barak", ",", "O.", "Goldreich", ",", "R.", "Impagliazzo", ",", "S.", "Rudich", ",", "A.", "Sahai", ",", "S.", "Vadhan", ",", "and", "K.", "Yang", ".", "On", "the", "-LRB-", "im", "-RRB-", "possibility", "of", "obfuscating", "programs", ".", "In", "Proc", ".", "Advances", "in", "Cryptology", "-", "CRYPTO", "2001", ",", "volume", "2139", "of", "LNCS", ",", "pages", "1", "18", ".", "Springer", ",", "2001", ".", "-LSB-", "3", "-RSB-", "D.", "Beaver", ",", "J.", "Feigenbaum", ",", "J.", "Kilian", ",", "and", "P.", "Rogaway", ".", "Locally", "random", "reductions", ":", "improvements", "and", "applications", ".", "J.", "Cryptology", ",", "10:17", "36", ",", "1997", ".", "-LSB-", "4", "-RSB-", "D.", "Boneh", ",", "G.", "Di", "Crescenzo", ",", "R.", "Ostrovsky", ",", "and", "G.", "Persiano", ".", "Public", "key", "encryption", "with", "keyword", "search", ".", "In", "Proc", ".", "Advances", "in", "Cryptology", "EUROCRYPT", "2004", ",", "volume", "3027", "of", "LNCS", ",", "pages", "506", "522", ".", "Springer", ",", "2004", ".", "-LSB-", "5", "-RSB-", "R.", "Canetti", ".", "Towards", "realizing", "random", "oracles", ":", "hash", "functions", "that", "hide", "all", "partial", "information", ".", "In", "Proc", ".", "Advances", "in", "Cryptology", "-", "CRYPTO", "1997", ",", "volume", "1294", "of", "LNCS", ",", "pages", "455", "469", ".", "Springer", ",", "1997", ".", "-LSB-", "6", "-RSB-", "R.", "Canetti", ",", "D.", "Micciancio", ",", "and", "O.", "Reingold", ".", "Perfectly", "one-way", "probabilistic", "hash", "functions", ".", "In", "Proc", ".", "30th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", "-LRB-", "STOC", "-RRB-", ",", "pages", "131", "140", ".", "ACM", ",", "1998", ".", "-LSB-", "7", "-RSB-", "S.", "Chawla", ",", "C.", "Dwork", ",", "F.", "McSherry", ",", "A.", "Smith", ",", "and", "H.", "Wee", ".", "Towards", "privacy", "in", "public", "databases", ".", "In", "Proc", ".", "2nd", "Theory", "of", "Cryptography", "Conference", "-LRB-", "TCC", "-RRB-", ",", "volume", "3378", "of", "LNCS", ",", "pages", "363", "385", ".", "Springer", ",", "2005", ".", "-LSB-", "8", "-RSB-", "B.", "Chor", ",", "E.", "Kushilevitz", ",", "O.", "Goldreich", ",", "and", "M.", "Sudan", ".", "Private", "information", "retrieval", ".", "J.", "ACM", ",", "45", "-LRB-", "6", "-RRB-", ":", "965", "981", ",", "1998", ".", "-LSB-", "9", "-RSB-", "S.", "Chow", ",", "P.", "Eisen", ",", "H.", "Johnson", ",", "and", "P.", "van", "Oorschot", ".", "White-box", "cryptography", "and", "an", "AES", "implementation", ".", "In", "9th", "Annual", "International", "Workshop", "on", "Selected", "Areas", "in", "Cryptography", "-LRB-", "SAC", "-RRB-", ",", "volume", "2595", "of", "LNCS", ",", "pages", "250", "270", ".", "Springer", ",", "2003", ".", "-LSB-", "10", "-RSB-", "S.", "Chow", ",", "P.", "Eisen", ",", "H.", "Johnson", ",", "and", "P.", "van", "Oorschot", ".", "A", "white-box", "DES", "implementation", "for", "DRM", "applications", ".", "In", "ACM", "Digital", "Rights", "Management", "Workshop", ",", "volume", "2696", "of", "LNCS", ",", "pages", "1", "15", ".", "Springer", ",", "2003", ".", "-LSB-", "11", "-RSB-", "C.", "Collberg", "and", "C.", "Thomborson", ".", "Watermarking", ",", "tamper-proofing", ",", "and", "obfuscation", "-", "tools", "for", "software", "protection", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "28", "-LRB-", "8", "-RRB-", ":", "735", "746", ",", "2002", ".", "-LSB-", "12", "-RSB-", "C.", "Collberg", ",", "C.", "Thomborson", ",", "and", "D.", "Low", ".", "A", "taxonomy", "of", "obfuscating", "transformations", ".", "Technical", "Report", "148", ",", "Department", "of", "Computer", "Sciences", ",", "The", "University", "of", "Auckland", ",", "July", "1997", ".", "-LSB-", "13", "-RSB-", "C.", "Collberg", ",", "C.", "Thomborson", ",", "and", "D.", "Low", ".", "Manufacturing", "cheap", ",", "resilient", ",", "and", "stealthy", "opaque", "constructs", ".", "In", "Proc", ".", "25th", "ACM", "SIGPLAN-SIGACT", "Symposium", "on", "Principles", "of", "Programming", "Languages", "-LRB-", "POPL", "-RRB-", ",", "pages", "184", "196", ".", "ACM", ",", "1998", ".", "-LSB-", "14", "-RSB-", "D.", "Dean", "and", "A.", "Stubblefield", ".", "Using", "client", "puzzles", "to", "protect", "TLS", ".", "In", "Proc", ".", "10th", "USENIX", "Security", "Symposium", ",", "pages", "1", "8", ".", "USENIX", ",", "2001", ".", "-LSB-", "15", "-RSB-", "Y.", "Dodis", "and", "A.", "Smith", ".", "Correcting", "errors", "without", "leaking", "partial", "information", ".", "In", "Proc", ".", "37th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", "-LRB-", "STOC", "-RRB-", ",", "pages", "654", "663", ".", "ACM", ",", "2005", ".", "-LSB-", "16", "-RSB-", "C.", "Dwork", "and", "M.", "Naor", ".", "Pricing", "via", "processing", "or", "combatting", "junk", "mail", ".", "In", "Proc", ".", "Advances", "in", "Cryptology", "-", "CRYPTO", "1992", ",", "volume", "740", "of", "LNCS", ",", "pages", "139", "147", ".", "Springer", ",", "1993", ".", "-LSB-", "17", "-RSB-", "M.", "Franklin", "and", "D.", "Malkhi", ".", "Auditable", "metering", "with", "lightweight", "security", ".", "J.", "Computer", "Security", ",", "6", "-LRB-", "4", "-RRB-", ":", "237", "255", ",", "1998", ".", "-LSB-", "18", "-RSB-", "Y.", "Gertner", ",", "Y.", "Ishai", ",", "E.", "Kushilevitz", ",", "and", "T.", "Malkin", ".", "Protecting", "data", "privacy", "in", "private", "information", "retrieval", "schemes", ".", "In", "Proc", ".", "30th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", "-LRB-", "STOC", "-RRB-", ",", "pages", "151", "160", ".", "ACM", ",", "1998", ".", "-LSB-", "19", "-RSB-", "O.", "Goldreich", "and", "R.", "Ostrovsky", ".", "Software", "protection", "and", "simulation", "on", "oblivious", "rams", ".", "J.", "ACM", ",", "43", "-LRB-", "3", "-RRB-", ":", "431", "473", ",", "1996", ".", "-LSB-", "20", "-RSB-", "Y.", "Ishai", ",", "A.", "Sahai", ",", "and", "D.", "Wagner", ".", "Private", "circuits", ":", "securing", "hardware", "against", "probing", "attacks", ".", "In", "Proc", ".", "Advances", "in", "Cryptology", "-", "CRYPTO", "2003", ",", "volume", "2729", "of", "LNCS", ",", "pages", "463", "481", ".", "Springer", ",", "2003", ".", "-LSB-", "21", "-RSB-", "A.", "Juels", "and", "J.", "Brainard", ".", "Client", "puzzles", ":", "a", "cryptographic", "defense", "against", "connection", "depletion", ".", "In", "Proc", ".", "Network", "and", "Distributed", "System", "Security", "Symposium", "-LRB-", "NDSS", "-RRB-", ",", "pages", "151", "165", ".", "The", "Internet", "Society", ",", "1999", ".", "-LSB-", "22", "-RSB-", "B.", "Lynn", ",", "M.", "Prabhakaran", ",", "and", "A.", "Sahai", ".", "Positive", "results", "and", "techniques", "for", "obfuscation", ".", "In", "Proc", ".", "Advances", "in", "Cryptology", "-", "EUROCRYPT", "2004", ",", "volume", "3027", "of", "LNCS", ",", "pages", "20", "39", ".", "Springer", ",", "2004", ".", "-LSB-", "23", "-RSB-", "R.", "Rivest", ".", "Partial-match", "retrieval", "algorithms", ".", "SIAM", "Journal", "of", "Computing", ",", "5", "-LRB-", "1", "-RRB-", ":", "19", "50", ",", "1976", ".", "-LSB-", "24", "-RSB-", "A.", "Shamir", ".", "How", "to", "share", "a", "secret", ".", "Communications", "of", "the", "ACM", ",", "22", "-LRB-", "11", "-RRB-", ":", "612", "613", ",", "1979", ".", "-LSB-", "25", "-RSB-", "D.", "Song", ",", "D.", "Wagner", ",", "and", "A.", "Perrig", ".", "Practical", "techniques", "for", "searches", "on", "encrypted", "data", ".", "In", "Proc", ".", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "pages", "44", "55", ".", "IEEE", "Computer", "Society", ",", "2000", ".", "-LSB-", "26", "-RSB-", "X.", "Wang", "and", "M.", "Reiter", ".", "Defending", "against", "denial-of-service", "attacks", "with", "puzzle", "auctions", ".", "In", "Proc", ".", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "pages", "78", "92", ".", "IEEE", "Computer", "Society", ",", "2003", ".", "-LSB-", "27", "-RSB-", "H.", "Wee", ".", "On", "obfuscating", "point", "functions", ".", "In", "Proc", ".", "37th", "Annual", "ACM", "Symposium", "on", "Theory", "of", "Computing", "-LRB-", "STOC", "-RRB-", ",", "pages", "523", "532", ".", "ACM", ",", "2005", ".", "111"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["obfuscation", "database privacy"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "174", "document": ["Secure", "Access", "to", "IP", "Multimedia", "Services", "Using", "Generic", "Bootstrapping", "Architecture", "-LRB-", "GBA", "-RRB-", "for", "3G", "&", "Beyond", "Mobile", "Networks", "The", "IP", "Multimedia", "Subsystem", "-LRB-", "IMS", "-RRB-", "defined", "by", "Third", "Generation", "Partnership", "Projects", "-LRB-", "3GPP", "and", "3GPP2", "-RRB-", "is", "a", "technology", "designed", "to", "provide", "robust", "multimedia", "services", "across", "roaming", "boundaries", "and", "over", "diverse", "access", "technologies", "with", "promising", "features", "like", "quality-of-service", "-LRB-", "QoS", "-RRB-", ",", "reliability", "and", "security", ".", "The", "IMS", "defines", "an", "overlay", "service", "architecture", "that", "merges", "the", "paradigms", "and", "technologies", "of", "the", "Internet", "with", "the", "cellular", "and", "fixed", "telecommunication", "worlds", ".", "Its", "architecture", "enables", "the", "efficient", "provision", "of", "an", "open", "set", "of", "potentially", "highly", "integrated", "multimedia", "services", ",", "combining", "web", "browsing", ",", "email", ",", "instant", "messaging", ",", "presence", ",", "VoIP", ",", "video", "conferencing", ",", "application", "sharing", ",", "telephony", ",", "unified", "messaging", ",", "multimedia", "content", "delivery", ",", "etc.", "on", "top", "of", "possibly", "different", "network", "technologies", ".", "As", "such", "IMS", "enables", "various", "business", "models", "for", "providing", "seamless", "business", "and", "consumer", "multimedia", "applications", ".", "In", "this", "communication", "converged", "world", ",", "the", "challenging", "issues", "are", "security", ",", "quality", "of", "service", "-LRB-", "QoS", "-RRB-", "and", "management", "&", "administration", ".", "In", "this", "paper", "our", "focus", "is", "to", "manage", "secure", "access", "to", "multimedia", "services", "and", "applications", "based", "on", "SIP", "and", "HTTP", "on", "top", "of", "IP", "Multimedia", "Subsystem", "-LRB-", "IMS", "-RRB-", ".", "These", "services", "include", "presence", ",", "video", "conferencing", ",", "messaging", ",", "video", "broadcasting", ",", "and", "push", "to", "talk", "etc.", ".", "We", "will", "utilize", "Generic", "Bootstrapping", "Architecture", "-LRB-", "GBA", "-RRB-", "model", "to", "authenticate", "multimedia", "applications", "before", "accessing", "these", "multimedia", "services", "offered", "by", "IMS", "operators", ".", "We", "will", "make", "enhancement", "in", "GBA", "model", "to", "access", "these", "services", "securely", "by", "introducing", "Authentication", "Proxy", "-LRB-", "AP", "-RRB-", "which", "is", "responsible", "to", "implement", "Transport", "Layer", "Security", "-LRB-", "TLS", "-RRB-", "for", "HTTP", "and", "SIP", "communication", ".", "This", "research", "work", "is", "part", "of", "Secure", "Service", "Provisioning", "-LRB-", "SSP", "-RRB-", "Framework", "for", "IP", "Multimedia", "System", "at", "Fokus", "Fraunhofer", "IMS", "3Gb", "Testbed", ".", "C.", "2", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "C.", "2.0", "General", "-", "Security", "and", "protection", ";", "C.", "2.1", "Network", "Architecture", "and", "Design", ";", "C.", "2.3", "Network", "Operation", ".", "Algorithms", ",", "Management", ",", "Design", ",", "Reliability", ",", "Experimentation", ",", "Security", ",", "Standardization", ",", "Verification", ".", "With", "the", "emergence", "of", "mobile", "multimedia", "services", ",", "such", "as", "unified", "messaging", ",", "click", "to", "dial", ",", "across", "network", "multiparty", "conferencing", "and", "seamless", "multimedia", "streaming", "services", ",", "the", "convergence", "of", "networks", "-LRB-", "i.e.", "fixed", "mobile", "convergence", "and", "voice", "data", "integration", "-RRB-", "has", "started", ",", "leading", "to", "an", "overall", "Internet", "Telecommunications", "convergence", ".", "In", "prospect", "of", "these", "global", "trends", ",", "the", "mobile", "communications", "world", "has", "defined", "within", "the", "evolution", "of", "cellular", "systems", "an", "All-IP", "Network", "vision", "which", "integrates", "cellular", "networks", "and", "the", "Internet", ".", "This", "is", "the", "IP", "Multimedia", "System", "-LRB-", "IMS", "-RRB-", "-LSB-", "1", "-RSB-", ",", "namely", "overlay", "architecture", "for", "the", "provision", "of", "multimedia", "services", ",", "such", "as", "VoIP", "-LRB-", "Voice", "over", "Internet", "Protocol", "-RRB-", "and", "videoconferencing", "on", "top", "of", "globally", "emerging", "3G", "-LRB-", "Third", "Generation", "-RRB-", "broadband", "packet", "networks", ".", "The", "IP", "Multimedia", "System", "-LRB-", "IMS", "-RRB-", "which", "is", "standardized", "by", "Third", "Generation", "Partnership", "Project", "-LRB-", "3GPP", "&", "3GGP2", "-RRB-", "in", "releases", "5", "is", "an", "overlay", "network", "on", "top", "of", "GPRS/UMTS", "-LRB-", "General", "Packet", "Radio", "Systems/Universal", "Mobile", "Telecommunication", "Systems", "-RRB-", "networks", "and", "extended", "by", "ETSI", "TISPAN", "-LSB-", "2", "-RSB-", "for", "fixed", "line", "access", "network", "within", "the", "Next", "Generation", "Network", "-LRB-", "NGN", "-RRB-", "architecture", ".", "The", "IMS", "provides", "all", "IP", "Service", "Delivery", "Platform", "-LRB-", "SDP", "-RRB-", "for", "mobile", "multimedia", "services", "provisioning", "e.g.", "VoIP", ",", "Video-telephony", ",", "Multimedia", "conferencing", ",", "Mobile", "Content", ",", "Push-to-Talk", "etc.", "and", "it", "is", "based", "on", "IETF", "protocols", "like", "SIP", "for", "session", "control", ",", "Diameter", "for", "AAA", "-LRB-", "Authentication", ",", "Authorization", ",", "and", "Auditing", "-RRB-", "and", "SDP", "-LRB-", "Service", "Delivery", "Protocol", "-RRB-", ",", "RTP", "etc.", ".", "Different", "components", "and", "parts", "of", "IMS", "are", "highlighted", "in", "figure", "1", "consisting", "IMS", "Core", "-LRB-", "P-CSCF", ",", "I-CSCF", ",", "S-CSCF", "-RRB-", ",", "IMS", "Client", "-LRB-", "UE", "-RRB-", "and", "Application", "&", "Media", "Servers", "along", "with", "the", "concept", "of", "home", "network", "and", "visited", "network", "for", "roaming", "users", "on", "top", "of", "different", "access", "networks", "technologies", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Q2SWinet", "'", "06", ",", "October", "2", ",", "2006", ",", "Torremolinos", ",", "Malaga", ",", "Spain", ".", "Copyright", "2006", "ACM", "1-59593-486-3", "/", "06/0010", "...", "$", "5.00", ".", "17", "The", "security", "and", "data", "privacy", "is", "a", "big", "challenge", "when", "there", "is", "integration", "of", "different", "networks", "and", "technologies", ".", "The", "integration", "of", "different", "access", "technologies", "causes", "much", "vulnerability", "and", "hackers", "get", "access", "to", "steal", "financial", "and", "confidential", "information", ".", "As", "these", "hackers", "networks", "are", "often", "beyond", "the", "law", "enforcement", "agencies", "of", "the", "today", "'s", "communication", "world", ".", "So", "the", "question", "arises", "how", "to", "prevent", "these", "hackers", "for", "performing", "such", "attacks", "on", "the", "corporate", "networks", ".", "In", "order", "to", "provide", "confidentiality", ",", "security", "and", "privacy", ",", "the", "3G", "authentication", "infrastructure", "is", "a", "valuable", "and", "milestone", "development", "and", "asset", "for", "3G", "operators", ".", "This", "infrastructure", "consists", "of", "authentication", "centre", "-LRB-", "AuC", "-RRB-", ",", "the", "USIM", "-LRB-", "Universal", "Subscriber", "Identity", "Module", "-RRB-", "or", "ISIM", "-LRB-", "IP", "Multimedia", "Services", "Identity", "Module", "-RRB-", "and", "AKA", "-LRB-", "Authentication", "and", "Key", "Agreement", "-RRB-", "Procedure", ".", "It", "has", "recognized", "that", "this", "infrastructure", "could", "utilize", "to", "enable", "application", "function", "in", "the", "network", "and", "on", "the", "user", "side", "to", "enable", "shared", "keys", ".", "Therefore", ",", "Third", "Generation", "Partnership", "Project", "-LRB-", "3GPP", "-RRB-", "has", "provided", "the", "bootstrapping", "of", "application", "security", "to", "authenticate", "the", "subscriber", "by", "defining", "a", "Generic", "Bootstrapping", "Architecture", "-LRB-", "GBA", "-RRB-", "-LSB-", "3", "-RSB-", "based", "on", "Authentication", "and", "Key", "Agreement", "-LRB-", "AKA", "-RRB-", "protocol", ".", "The", "GBA", "model", "can", "be", "utilized", "to", "authenticate", "subscriber", "before", "accessing", "multimedia", "services", "and", "applications", "over", "HTTP", ".", "The", "candidate", "applications", "to", "use", "this", "bootstrapping", "mechanism", "include", "but", "are", "not", "restricted", "to", "subscriber", "certificate", "distribution", ".", "These", "certificates", "supports", "services", "including", "presence", ",", "conferencing", ",", "messaging", "and", "push", "to", "talk", "etc.", "provided", "by", "mobile", "operators", ".", "The", "GBA", "model", "has", "enhanced", "by", "implementing", "Generic", "Authentication", "Architecture", "-LRB-", "GAA", "-RRB-", "-LSB-", "4", "-RSB-", "to", "provide", "secure", "assess", "over", "HTTP", "using", "TLS", "-LRB-", "Transport", "Layer", "Security", "-RRB-", ".", "In", "prospective", "of", "the", "advancement", "of", "telecommunication", ",", "the", "Fraunhofer", "Fokus", "established", "a", "Third", "Generation", "&", "beyond", "-LRB-", "3Gb", "-RRB-", "Testbed", "and", "IMS", "Testbed", "-LSB-", "5", "-RSB-", "for", "research", "&", "development", "and", "educational", "purpose", "to", "provide", "state-of-the-art", "knowledge", "to", "engineers", ",", "researchers", ",", "educationists", "and", "technologists", "in", "this", "area", "of", "modern", "telecommunication", ".", "Fokus", "Fraunhofer", "has", "developed", "a", "Secure", "Service", "Provisioning", "-LRB-", "SSP", "-RRB-", "Framework", "-LSB-", "6", "-RSB-", "for", "IMS", "Testbed", "to", "provide", "security", ",", "privacy", "and", "authentication", "of", "subscriber", "as", "well", "as", "confidential", "and", "protection", "to", "the", "network", "resources", "of", "3G", "operators", ".", "The", "paper", "is", "organised", "as", ":", "section", "2", "is", "about", "IMS", "as", "platform", "for", "multimedia", "services", ",", "sections", "3", ",", "4", "and", "5", "explain", "generic", "bootstrapping", "architecture", ",", "bootstrapping", "authentication", "procedure", "and", "its", "application", "usage", "procedure", "respectively", ".", "Section", "6", "discusses", "the", "use", "of", "authentication", "proxy", "for", "implementing", "TLS", "for", "securing", "multimedia", "services", ".", "In", "section", "7", ",", "we", "will", "discus", "briefly", "the", "IMS", "Testbed", "at", "Fokus", "and", "than", "concludes", "the", "paper", "in", "last", "section", ".", "The", "IMS", "defines", "service", "provision", "architecture", ",", "and", "it", "can", "be", "considered", "as", "the", "next", "generation", "service", "delivery", "platform", ".", "It", "consists", "of", "modular", "design", "with", "open", "interfaces", "and", "enables", "the", "flexibility", "for", "providing", "multimedia", "services", "over", "IP", "technology", ".", "The", "IMS", "does", "not", "standardize", "specific", "services", "but", "uses", "standard", "service", "enablers", "e.g.", "presence", ",", "GLMS/XDMS", "etc.", "and", "supports", "inherently", "multimedia", "over", "IP", ",", "VoIP", ",", "Internet", "Multimedia", "and", "presence", ".", "In", "IMS", "architecture", ",", "SIP", "protocol", "use", "as", "the", "standard", "signaling", "protocol", "that", "establishes", "controls", ",", "modifies", "and", "terminates", "voice", ",", "video", "and", "messaging", "sessions", "between", "two", "or", "more", "participants", ".", "The", "related", "signaling", "servers", "in", "the", "architecture", "are", "referred", "to", "as", "Call", "State", "Control", "Functions", "-LRB-", "CSCFs", "-RRB-", "and", "distinguished", "by", "their", "specific", "functionalities", ".", "It", "is", "important", "to", "note", "that", "an", "IMS", "compliant", "end", "user", "system", "has", "to", "provide", "the", "necessary", "IMS", "protocol", "support", ",", "namely", "SIP", ",", "and", "the", "service", "related", "media", "codecs", "for", "multimedia", "applications", "in", "addition", "to", "basic", "connectivity", "support", ",", "e.g.", "GPRS", ",", "WLAN", ",", "etc.", ".", "The", "IMS", "is", "designed", "to", "provide", "number", "of", "key", "capabilities", "required", "to", "enable", "new", "IP", "services", "via", "mobile", "and", "fixed", "networks", ".", "The", "important", "key", "functionalities", "which", "enable", "new", "mobile", "IP", "services", "are", ":", "Multimedia", "session", "negotiation", "and", "management", "Quality", "of", "service", "management", "Mobility", "management", "Service", "execution", ",", "control", "and", "interaction", "Privacy", "and", "security", "management", "Figure", "1", ":", "-", "IP", "Multimedia", "Subsystem", "-LRB-", "IMS", "-RRB-", "Architecture", "In", "IMS", "specification", ",", "Application", "Server", "-LRB-", "AS", "-RRB-", "provides", "the", "service", "logic", "and", "service", "creation", "environment", "for", "applications", "and", "services", ".", "The", "AS", "is", "intended", "to", "influence", "and", "maintain", "the", "various", "IMS", "SIP", "sessions", "on", "behalf", "of", "the", "services", ".", "It", "can", "behave", "as", "a", "termination", "point", "for", "signaling", ",", "redirecting", "or", "forwarding", "SIP", "requests", ".", "It", "also", "can", "act", "as", "third", "party", "call", "control", "unit", ".", "Services", "in", "this", "instance", "refer", "to", "IMS", "services", ",", "which", "are", "based", "on", "the", "IMS", "reference", "points", "-LRB-", "e.g.", "instant", "messaging", ",", "presence", ",", "conferencing", "etc.", "-RRB-", ".", "The", "advantage", "of", "application", "server", "is", "to", "enable", "IMS", "to", "operate", "in", "a", "more", "flexible", "and", "dynamic", "way", ",", "whereas", "the", "AS", "provides", "more", "intelligence", "to", "the", "system", ".", "Most", "Application", "Servers", "are", "closed", "boxes", "which", "map", "network", "functions", "-LRB-", "e.g.", "via", "OSA", "gateways", "-RRB-", "or", "signaling", "protocols", "-LRB-", "SIP", "-RRB-", "onto", "application", "programming", "interfaces", "based", "on", "a", "particular", "technology", "-LRB-", "Java", ",", "18", "CORBA", ",", "web-services", "-RRB-", ".", "An", "alternative", "approach", "pursued", "by", "the", "Open", "Mobile", "Alliance", "-LRB-", "OMA", "-RRB-", "is", "strongly", "related", "to", "the", "service", "oriented", "methodology", ",", "which", "follows", "the", "top-down", "approach", "beginning", "with", "service", "design", "down", "to", "service", "mapping", "over", "the", "underlying", "network", "technologies", ".", "The", "SIP", "services", "can", "be", "developed", "and", "deployed", "on", "a", "SIP", "application", "server", "using", "several", "technologies", "such", "as", "SIP", "servlets", ",", "Call", "Processing", "Language", "-LRB-", "CPL", "-RRB-", "script", ",", "SIP", "Common", "Gateway", "Interface", "-LRB-", "CGI", "-RRB-", "and", "JAIN", "APIs", ".", "Different", "3G", "Multimedia", "Services", "including", "video", "conferencing", ",", "presence", ",", "push", "to", "talk", "etc.", "has", "potential", "usage", "of", "Generic", "Bootstrapping", "Architecture", "-LRB-", "GBA", "-RRB-", "to", "distribute", "subscriber", "certificates", ".", "These", "certificates", "are", "used", "by", "mobile", "operators", "to", "authenticate", "the", "subscriber", "before", "accessing", "the", "multimedia", "services", "and", "applications", ".", "Now", "we", "discuss", "components", ",", "entities", "and", "interfaces", "of", "GBA", ".", "3.1", "GBA", "Components", "and", "Entities", "The", "GBA", "consists", "of", "five", "entities", ":", "UE", "-LRB-", "User", "Equipment", "-RRB-", ",", "NAF", "-LRB-", "Network", "Authentication", "Function", "-RRB-", ",", "BSF", "-LRB-", "Bootstrapping", "Server", "Function", "-RRB-", "and", "HSS", "-LRB-", "Home", "Subscriber", "Server", "-RRB-", "and", "are", "explained", "below", "as", "specified", "in", "3GPP", "standards", "-LRB-", "shown", "in", "figure", "2", "-RRB-", ".", "User", "Equipment", ":", "UE", "is", "UICC", "-LRB-", "Universal", "Integrated", "Circuit", "Card", "-RRB-", "containing", "USIM", "or", "ISIM", "related", "information", "that", "supports", "HTTP", "Digest", "AKA", "-LRB-", "Authentication", "&", "Key", "Agreement", "-RRB-", "and", "NAF", "-LRB-", "Network", "Authentication", "Function", "-RRB-", "specific", "protocols", ".", "A", "USIM", "-LRB-", "Universal", "Subscriber", "Identity", "Module", "-RRB-", "is", "an", "application", "for", "UMTS", "mobile", "telephony", "running", "on", "a", "UICC", "smartcard", "which", "is", "inserted", "in", "a", "3G", "mobile", "phone", ".", "It", "stores", "user", "subscriber", "information", ",", "authentication", "information", "and", "provides", "with", "storage", "space", "for", "text", "messages", ".", "An", "IP", "Multimedia", "Services", "Identity", "Module", "-LRB-", "ISIM", "-RRB-", "is", "an", "application", "running", "on", "a", "UICC", "smartcard", "in", "a", "3G", "telephone", "in", "the", "IP", "Multimedia", "Subsystem", "-LRB-", "IMS", "-RRB-", ".", "It", "contains", "parameters", "for", "identifying", "and", "authenticating", "the", "user", "to", "the", "IMS", ".", "The", "ISIM", "application", "can", "co-exist", "with", "SIM", "and", "USIM", "on", "the", "same", "UICC", "making", "it", "possible", "to", "use", "the", "same", "smartcard", "in", "both", "GSM", "networks", "and", "earlier", "releases", "of", "UMTS", ".", "Bootstrapping", "Server", "Function", "-LRB-", "BSF", "-RRB-", ":", "It", "hosts", "in", "a", "network", "element", "under", "the", "control", "of", "mobile", "network", "operator", ".", "The", "BSF", ",", "HSS", ",", "and", "UEs", "participate", "in", "GBA", "in", "which", "a", "shared", "secret", "is", "established", "between", "the", "network", "and", "a", "UE", "by", "running", "the", "bootstrapping", "procedure", ".", "The", "shared", "secret", "can", "be", "used", "between", "NAFs", "and", "UEs", ",", "for", "example", ",", "for", "authentication", "purposes", ".", "A", "generic", "Bootstrapping", "Server", "Function", "-LRB-", "BSF", "-RRB-", "and", "the", "UE", "shall", "mutually", "authenticate", "using", "the", "AKA", "protocol", ",", "and", "agree", "on", "session", "keys", "that", "are", "afterwards", "applied", "between", "UE", "and", "a", "Network", "Application", "Function", "-LRB-", "NAF", "-RRB-", ".", "The", "BSF", "shall", "restrict", "the", "applicability", "of", "the", "key", "material", "to", "a", "specific", "NAF", "by", "using", "the", "key", "derivation", "procedure", ".", "The", "key", "derivation", "procedure", "may", "be", "used", "with", "multiple", "NAFs", "during", "the", "lifetime", "of", "the", "key", "material", ".", "The", "lifetime", "of", "the", "key", "material", "is", "set", "according", "to", "the", "local", "policy", "of", "the", "BSF", ".", "The", "BSF", "shall", "be", "able", "to", "acquire", "the", "GBA", "User", "security", "Settings", "-LRB-", "GUSS", "-RRB-", "from", "HSS", "-LSB-", "3", "-RSB-", ".", "Figure", "2", ":", "Network", "Entities", "of", "GBA", "Network", "Authentication", "Function", ":", "NAF", "has", "the", "functionality", "to", "locate", "and", "communicate", "securely", "with", "subscriber", "'s", "BSF", "-LRB-", "Bootstrapping", "Server", "Function", "-RRB-", ".", "It", "should", "be", "able", "to", "acquire", "a", "shared", "key", "material", "established", "between", "the", "UE", "and", "the", "BSF", "during", "application", "specific", "protocol", "runs", ".", "Home", "Subscriber", "Server", ":", "HSS", "stores", "GBA", "user", "security", "settings", "-LRB-", "GUSSs", "-RRB-", ".", "The", "GUSS", "is", "defined", "in", "such", "a", "way", "that", "interworking", "of", "different", "operators", "for", "standardized", "application", "profiles", "is", "possible", ".", "It", "also", "supports", "operator", "specific", "application", "profiles", "without", "the", "standardized", "of", "existing", "application", "profiles", ".", "The", "GUSS", "shall", "be", "able", "to", "contain", "application-specific", "USSs", "that", "contain", "parameters", "that", "relates", "to", "key", "selection", "indication", ",", "identification", "or", "authorization", "information", "of", "one", "or", "more", "applications", "hosted", "by", "one", "ore", "more", "NAFs", ".", "Any", "other", "types", "of", "parameters", "are", "not", "allowed", "in", "the", "application-specific", "USS", "-LSB-", "3", "-RSB-", ".", "Diameter-Proxy", ":", "In", "case", "where", "UE", "has", "contacted", "NAF", "of", "visited", "network", "than", "home", "network", ",", "this", "visited", "NAF", "will", "use", "diameter", "proxy", "-LRB-", "D-Proxy", "-RRB-", "of", "NAFs", "network", "to", "communicate", "with", "subscriber", "'s", "BSF", "-LRB-", "i.e.", "home", "BSF", "-RRB-", ".", "D-Proxy", "'s", "general", "functionality", "requirements", "include", "-LSB-", "3", "-RSB-", ":", "D-Proxy", "functions", "as", "a", "proxy", "between", "visited", "NAF", "and", "subscriber", "'s", "home", "BSF", "and", "it", "will", "be", "able", "to", "locate", "subscriber", "'s", "home", "BSF", "and", "communicate", "with", "it", "over", "secure", "channel", ".", "The", "D-Proxy", "will", "be", "able", "to", "validate", "that", "the", "visited", "NAF", "is", "authorized", "to", "participate", "in", "GBA", "and", "shall", "be", "able", "to", "assert", "to", "subscriber", "'s", "home", "BSF", "the", "visited", "NAFs", "DNS", "name", ".", "The", "D-Proxy", "shall", "also", "be", "able", "to", "assert", "to", "the", "BSF", "that", "the", "visited", "NAF", "is", "authorized", "to", "request", "the", "GBA", "specific", "user", "profiles", "contained", "in", "the", "NAF", "request", ".", "19", "Figure", "3", ":", "Bootstrapping", "Authentication", "Procedure", "3.2", "GBA", "Reference", "Points", "Ub", ":", "The", "reference", "point", "Ub", "is", "between", "the", "UE", "and", "the", "BSF", "and", "provides", "mutual", "authentication", "between", "them", ".", "It", "allows", "the", "UE", "to", "bootstrap", "the", "session", "keys", "based", "on", "3GPP", "AKA", "infrastructure", ".", "The", "HTTP", "Digest", "AKA", "protocol", "is", "used", "on", "the", "reference", "point", "Ub", ".", "It", "is", "based", "on", "the", "3GPP", "AKA", "-LSB-", "7", "-RSB-", "protocol", ".", "Ua", ":", "The", "reference", "point", "Ua", "carries", "the", "application", "protocol", ",", "which", "is", "secured", "using", "the", "keys", "material", "agreed", "between", "UE", "and", "BSF", "as", "a", "result", "of", "running", "of", "HTTP", "Digest", "AKA", "over", "reference", "point", "Ub", ".", "For", "instance", ",", "in", "case", "of", "support", "for", "subscriber", "certificates", ",", "it", "is", "a", "protocol", ",", "which", "allows", "the", "user", "to", "request", "certificates", "from", "NAF", ".", "In", "this", "case", ",", "NAF", "would", "be", "PKI", "portal", ".", "Zh", ":", "The", "reference", "point", "Zh", "used", "between", "BSF", "and", "HSS", ".", "It", "allows", "BSF", "to", "fetch", "the", "required", "authentication", "information", "and", "all", "GBA", "user", "security", "settings", "from", "HSS", ".", "The", "interface", "to", "3G", "Authentication", "Centre", "is", "HSS-internal", ",", "and", "it", "need", "not", "be", "standardised", "as", "part", "of", "this", "architecture", ".", "Zn", ":", "The", "reference", "point", "Zn", "is", "used", "by", "the", "NAF", "to", "fetch", "the", "key", "material", "agreed", "during", "a", "previous", "HTTP", "Digest", "AKA", "protocol", "run", "over", "the", "reference", "point", "Ub", "from", "the", "UE", "to", "the", "BSF", ".", "It", "is", "also", "used", "to", "fetch", "application-specific", "user", "security", "settings", "from", "the", "BSF", ",", "if", "requested", "by", "the", "NAF", ".", "The", "UE", "and", "Network", "Authentication", "Function", "-LRB-", "NAF", "-RRB-", "have", "to", "decide", "whether", "to", "use", "GBA", "before", "the", "start", "of", "communication", "between", "them", ".", "When", "UE", "wants", "to", "interact", "with", "NAF", ",", "it", "starts", "communication", "with", "NAF", "over", "Ua", "interface", "without", "GBA", "parameters", ".", "If", "NAF", "requires", "the", "use", "of", "shared", "keys", "obtained", "by", "means", "of", "GBA", ",", "but", "the", "request", "from", "UE", "does", "not", "include", "GBA-related", "parameters", ",", "the", "NAF", "replies", "with", "a", "bootstrapping", "initiation", "message", "-LSB-", "3", "-RSB-", ".", "When", "UE", "wants", "to", "interact", "with", "NAF", ",", "and", "it", "knows", "20", "that", "the", "bootstrapping", "procedure", "is", "needed", ",", "it", "shall", "first", "perform", "a", "bootstrapping", "authentication", "as", "shown", "in", "figure", "3", ".", "Otherwise", ",", "the", "UE", "shall", "perform", "a", "bootstrapping", "authentication", "only", "when", "it", "has", "received", "bootstrapping", "initiation", "required", "message", "or", "a", "bootstrapping", "negotiation", "indication", "from", "the", "NAF", ",", "or", "when", "the", "lifetime", "of", "the", "key", "in", "UE", "has", "expired", ".", "The", "UE", "sends", "an", "HTTP", "request", "to", "the", "BSF", "and", "the", "BSF", "retrieves", "the", "complete", "set", "of", "GBA", "user", "security", "settings", "and", "one", "Authentication", "Vector", "-LRB-", "AV", "-RRB-", "-LSB-", "8", "-RSB-", "as", "given", "in", "equation", "1", "over", "the", "reference", "point", "Zh", "from", "the", "HSS", ".", "AV", "=", "RAND", "|", "|", "AUTN", "|", "|", "XRES", "|", "|", "CK", "|", "|", "IK", "-------------------", "Eq", ".", "1", "After", "that", "BSF", "forwards", "the", "RAND", "and", "AUTN", "to", "the", "UE", "in", "the", "401", "message", "without", "the", "CK", ",", "IK", "and", "XRES", ".", "This", "is", "to", "demand", "the", "UE", "to", "authenticate", "itself", ".", "The", "UE", "checks", "AUTN", "to", "verify", "that", "the", "challenge", "is", "from", "an", "authorized", "network", ";", "the", "UE", "also", "calculates", "CK", ",", "IK", "and", "RES", "-LSB-", "8", "-RSB-", ".", "This", "will", "result", "in", "session", "keys", "IK", "and", "CK", "in", "both", "BSF", "and", "UE", ".", "The", "UE", "sends", "another", "HTTP", "request", "to", "the", "BSF", ",", "containing", "the", "Digest", "AKA", "response", "which", "is", "calculated", "using", "RES", ".", "The", "BSF", "authenticates", "the", "UE", "by", "verifying", "the", "Digest", "AKA", "response", ".", "The", "BSF", "generates", "key", "material", "Ks", "by", "concatenating", "CK", "and", "IK", "and", "it", "also", "generates", "B-TID", "-LRB-", "Bootstrapping", "Transaction", "Identifier", "-RRB-", "which", "is", "used", "to", "bind", "the", "subscriber", "identity", "to", "the", "keying", "material", "in", "reference", "points", "Ua", ",", "Ub", "and", "Zn", ".", "The", "BSF", "shall", "send", "a", "200", "OK", "message", ",", "including", "a", "B-TID", "to", "the", "UE", "to", "indicate", "the", "success", "of", "the", "authentication", "and", "the", "lifetime", "of", "the", "key", "Ks", ".", "The", "key", "material", "Ks", "is", "generated", "in", "UE", "by", "concatenating", "CK", "and", "IK", ".", "Both", "the", "UE", "and", "the", "BSF", "shall", "use", "the", "Ks", "to", "derive", "the", "key", "material", "Ks-NAF", "which", "will", "be", "used", "for", "securing", "the", "reference", "point", "Ua", ".", "The", "Ks-NAF", "is", "computed", "as", "equation", "2", ".", "Ks-NAF", "=", "f", "KD", "-LRB-", "Ks", ",", "``", "gba-me", "''", ",", "RAND", ",", "IMPI", ",", "NAF-ID", "-RRB-", "-----", "Eq", ".", "2", "where", "f", "KD", "is", "the", "key", "derivation", "function", "and", "will", "be", "implemented", "in", "the", "ME", ",", "and", "the", "key", "derivation", "parameters", "consist", "of", "user", "'s", "IMPI", ",", "NAF-ID", "and", "RAND", ".", "The", "NAF-ID", "consists", "of", "the", "full", "DNS", "name", "of", "the", "NAF", ",", "concatenated", "with", "the", "Ua", "security", "protocol", "identifier", ".", "The", "UE", "and", "the", "BSF", "shall", "store", "the", "key", "Ks", "with", "the", "associated", "B-TID", "for", "further", "use", ",", "until", "the", "lifetime", "of", "Ks", "has", "expired", ",", "or", "until", "the", "key", "Ks", "is", "updated", "-LSB-", "3", "-RSB-", ".", "Before", "communication", "between", "the", "UE", "and", "the", "NAF", "can", "start", ",", "the", "UE", "and", "the", "NAF", "first", "have", "to", "agree", "whether", "to", "use", "shared", "keys", "obtained", "by", "means", "of", "the", "GBA", ".", "If", "the", "UE", "does", "not", "know", "whether", "to", "use", "GBA", "with", "this", "NAF", ",", "it", "uses", "the", "initiation", "of", "bootstrapping", "procedure", ".", "Once", "the", "UE", "and", "the", "NAF", "have", "decided", "that", "they", "want", "to", "use", "GBA", "then", "every", "time", "the", "UE", "wants", "to", "interact", "with", "NAF", ".", "The", "UE", "starts", "communication", "over", "reference", "point", "Ua", "with", "the", "NAF", "by", "supplying", "the", "B-TID", "to", "the", "NAF", "to", "allow", "the", "NAF", "to", "retrieve", "the", "corresponding", "keys", "from", "the", "BSF", ".", "The", "NAF", "starts", "communication", "over", "reference", "point", "Zn", "with", "BSF", ".", "The", "NAF", "requests", "key", "material", "corresponding", "to", "the", "B-TID", "supplied", "by", "the", "UE", "to", "the", "NAF", "over", "reference", "point", "Ua", ".", "With", "the", "key", "material", "request", ",", "the", "NAF", "shall", "supply", "NAF", "'s", "public", "hostname", "that", "UE", "has", "used", "to", "access", "NAF", "to", "BSF", ",", "and", "BSF", "shall", "be", "able", "to", "verify", "that", "NAF", "is", "authorized", "to", "use", "that", "hostname", ".", "The", "NAF", "may", "also", "request", "one", "or", "more", "application-specific", "USSs", "for", "the", "applications", ",", "which", "the", "request", "received", "over", "Ua", "from", "UE", "may", "access", ".", "The", "BSF", "derives", "the", "keys", "required", "to", "protect", "the", "protocol", "used", "over", "reference", "point", "Ua", "from", "the", "key", "Ks", "and", "the", "key", "derivation", "parameters", ".", "Than", "it", "supplies", "requested", "key", "Ks-NAF", ",", "bootstrapping", "time", "and", "the", "lifetime", "of", "the", "key", "to", "NAF", ".", "If", "the", "key", "identified", "by", "the", "B-TID", "supplied", "by", "the", "NAF", "is", "not", "available", "at", "the", "BSF", ",", "the", "BSF", "shall", "indicate", "this", "in", "the", "reply", "to", "the", "NAF", ".", "The", "NAF", "then", "indicates", "a", "bootstrapping", "renegotiation", "request", "to", "the", "UE", ".", "The", "BSF", "may", "also", "send", "the", "private", "user", "identity", "-LRB-", "IMPI", "-RRB-", "and", "requested", "USSs", "to", "NAF", "according", "to", "the", "BSF", "'s", "policy", ".", "The", "NAF", "continues", "with", "the", "protocol", "used", "over", "the", "reference", "point", "Ua", "with", "the", "UE", ".", "Once", "the", "run", "of", "the", "protocol", "used", "over", "reference", "point", "Ua", "is", "completed", "the", "purpose", "of", "bootstrapping", "is", "fulfilled", "as", "it", "enabled", "UE", "and", "NAF", "to", "use", "reference", "point", "Ua", "in", "a", "secure", "way", ".", "Figure", "4", ":", "Bootstrapping", "Application", "Authentication", "Proxy", "-LRB-", "AP", "-RRB-", "is", "like", "a", "Network", "Authentication", "Function", "-LRB-", "NAF", "-RRB-", "and", "performs", "the", "function", "of", "HTTP", "proxy", "for", "the", "UE", ".", "It", "is", "responsible", "to", "handle", "the", "Transport", "Layer", "Security", "-LRB-", "TLS", "-RRB-", "and", "implement", "the", "secure", "HTTP", "channel", "between", "AP", "and", "UE", "as", "shown", "in", "figure", "5", ".", "It", "utilizes", "the", "generic", "bootstrapping", "architecture", "to", "assure", "the", "application", "servers", "-LRB-", "ASs", "-RRB-", "that", "the", "request", "is", "coming", "from", "an", "authorized", "subscriber", "of", "mobile", "21", "network", "operator", ".", "When", "HTTPS", "request", "is", "sent", "to", "AS", "through", "AP", ",", "the", "AP", "performs", "UE", "authentication", ".", "The", "AP", "may", "insert", "the", "user", "identity", "when", "it", "forwards", "the", "request", "to", "application", "server", ".", "Figure", "5b", "presents", "the", "architecture", "view", "of", "using", "AP", "for", "different", "IMS", "SIP", "services", "e.g.", "presence", ",", "messaging", ",", "conferencing", "etc.", ".", "Figure", "5", ":", "Authentication", "Proxy", "The", "UE", "shall", "manipulate", "own", "data", "such", "as", "groups", ",", "through", "the", "Ua/Ut", "reference", "point", "-LSB-", "4", "-RSB-", ".", "The", "reference", "point", "Ut", "will", "be", "applicable", "to", "data", "manipulation", "of", "IMS", "based", "SIP", "services", ",", "such", "as", "Presence", ",", "Messaging", "and", "Conferencing", "services", ".", "When", "the", "HTTPS", "client", "starts", "communication", "via", "Ua", "reference", "point", "with", "the", "NAF", ",", "it", "shall", "establish", "a", "TLS", "tunnel", "with", "the", "NAF", ".", "The", "NAF", "is", "authenticated", "to", "the", "HTTPS", "client", "by", "means", "of", "a", "public", "key", "certificate", ".", "The", "HTTPS", "client", "will", "verify", "that", "the", "server", "certificate", "corresponds", "to", "the", "FQDN", "-LRB-", "Fully", "Qualified", "Domain", "Name", "-RRB-", "of", "the", "AP", "it", "established", "the", "tunnel", "with", ".", "We", "explain", "the", "procedure", "briefly", "as", ":", "The", "HTTPS", "client", "sends", "an", "HTTP", "request", "to", "NAF", "inside", "the", "TLS", "tunnel", ".", "In", "response", "to", "HTTP", "request", "over", "Ua", "interface", ",", "the", "AP", "will", "invoke", "HTTP", "digest", "with", "HTTPS", "client", "in", "order", "to", "perform", "client", "authentication", "using", "the", "shared", "keys", ".", "On", "the", "receipt", "of", "HTTPS", "digest", "from", "AP", ",", "the", "client", "will", "verify", "that", "the", "FDQN", "corresponds", "the", "AP", "it", "established", "the", "TLS", "connection", "with", ",", "if", "not", "the", "client", "will", "terminate", "the", "TLS", "connection", "with", "the", "AP", ".", "In", "this", "way", "the", "UE", "and", "AP", "are", "mutually", "authenticated", "as", "the", "TLS", "tunnel", "endpoints", ".", "Now", "we", "discuss", "an", "example", "that", "application", "residing", "on", "UICC", "-LRB-", "Universal", "Integrated", "Circuit", "Card", "-RRB-", "may", "use", "TLS", "over", "HTTP", "in", "Generic", "Authentication", "Architecture", "-LRB-", "GAA", "-RRB-", "mechanism", "to", "secure", "its", "communication", "with", "Authentication", "Proxy", "-LRB-", "AP", "-RRB-", ".", "The", "GBA", "security", "association", "between", "a", "UICC-based", "application", "and", "AP", "could", "establish", "as", ":", "Figure", "6", ":", "HTTPS", "and", "BIP", "-LRB-", "Bearer", "Independent", "Protocol", "-RRB-", "Procedures", "The", "ME", "-LRB-", "Mobile", "Equipment", "-RRB-", "executes", "the", "bootstrapping", "procedure", "with", "the", "BSF", "supporting", "the", "Ub", "reference", "point", ".", "The", "UICC", ",", "which", "hosts", "the", "HTTPS", "client", ",", "runs", "the", "bootstrapping", "usage", "procedure", "with", "AP", "supporting", "the", "Ua", "reference", "point", "-LSB-", "9", "-RSB-", ".", "Figure", "6", "shows", "the", "use", "of", "BIP", "-LRB-", "Bearer", "Independent", "Protocol", "-RRB-", "to", "establish", "the", "HTTPS", "connection", "between", "UICC", "and", "AP", ".", "When", "UICC", "opens", "channel", "with", "AP", "as", "described", "in", "-LSB-", "10", "-RSB-", "than", "an", "active", "TCP/IP", "connection", "establishes", "between", "UICC", "and", "AP", ".", "In", "face", "of", "the", "current", "challenges", "within", "telecommunications", "market", "are", "mainly", "consequences", "of", "insufficient", "early", "access", "to", "new", "enabling", "technologies", "by", "all", "market", "players", ".", ",", "In", "this", "development", "Fraunhofer", "Institute", "FOKUS", ",", "known", "as", "a", "leading", "research", "institute", "in", "the", "field", "of", "open", "communication", "systems", ",", "has", "established", "with", "support", "of", "German", "Ministry", "of", "Education", "and", "Research", "-LRB-", "BMBF", "-RRB-", "a", "3G", "beyond", "Testbed", ",", "known", "as", "``", "National", "Host", "for", "3Gb", "Applications", "''", ".", "This", "Testbed", "provides", "technologies", "and", "related", "know-how", "in", "the", "field", "of", "fixed", "and", "wireless", "next", "generation", "network", "technologies", "and", "related", "service", "delivery", "22", "platforms", ".", "As", "a", "part", "of", "3Gb", "Testbed", ",", "the", "FOKUS", "Open", "IMS", "Playground", "is", "deployed", "as", "an", "open", "technology", "test", "field", "with", "the", "target", "to", "validate", "existing", "and", "emerging", "IMS", "standards", "and", "to", "extend", "the", "IMS", "appropriately", "to", "be", "used", "on", "top", "of", "new", "access", "networks", "as", "well", "as", "to", "provide", "new", "seamless", "multimedia", "applications", "-LSB-", "11", "-RSB-", ".", "All", "major", "IMS", "core", "components", ",", "i.e.", ",", "x-CSCF", ",", "HSS", ",", "MG", ",", "MRF", ",", "Application", "Servers", ",", "Application", "Server", "Simulators", ",", "service", "creation", "toolkits", ",", "and", "demo", "applications", "are", "integrated", "into", "one", "single", "environment", "and", "can", "be", "used", "and", "extended", "for", "R&D", "activities", "by", "academic", "and", "industrial", "partners", ".", "All", "these", "components", "can", "be", "used", "locally", "on", "top", "of", "all", "available", "access", "technologies", "or", "can", "be", "used", "over", "IP", "tunnels", "remotely", ".", "Users", "of", "the", "``", "Open", "IMS", "playground", "''", "can", "test", "their", "components", "performing", "interoperability", "tests", ".", "The", "SIP", "Express", "Router", "-LRB-", "SER", "-RRB-", ",", "one", "of", "the", "fastest", "existing", "SIP", "Proxies", ",", "can", "be", "used", "as", "a", "reference", "implementation", "and", "to", "proof", "interoperability", "with", "other", "SIP", "components", "-LSB-", "11", "-RSB-", ".", "The", "major", "focal", "point", "of", "IMS", "Playground", "is", "to", "put", "Application", "Server", "aside", ".", "Varieties", "of", "platforms", "enable", "rapid", "development", "of", "innovative", "services", ".", "Figure", "7", ":", "Fokus", "IMS", "Testbed", "The", "Open", "IMS", "playground", "is", "deployed", "as", "an", "open", "technology", "test", "field", "with", "the", "target", "to", "develop", "prototype", "and", "validate", "existing", "and", "emerging", "NGN/IMS", "standard", "components", ".", "It", "extends", "the", "IMS", "architecture", "and", "protocols", "appropriately", "to", "be", "used", "on", "top", "of", "new", "access", "networks", "as", "well", "as", "to", "provide", "new", "seamless", "multimedia", "applications", ".", "It", "is", "important", "to", "stress", "that", "all", "components", "have", "been", "developed", "by", "FOKUS", "as", "reference", "implementations", ",", "such", "as", "an", "own", "open", "source", "IMS", "core", "system", "-LRB-", "to", "be", "publicly", "released", "in", "2006", "based", "on", "the", "famous", "SIP", "Express", "Router", "-RRB-", ",", "IMS", "Clients", "and", "application", "servers", "-LRB-", "SIPSee", "-RRB-", ",", "and", "HSS", ".", "The", "IMS", "playground", "is", "used", "on", "the", "one", "hand", "as", "the", "technology", "basis", "for", "own", "industry", "projects", "performed", "for", "national", "and", "international", "vendors", "and", "network", "operators", "as", "well", "as", "for", "more", "mid", "term", "academic", "R&D", "projects", "in", "the", "European", "IST", "context", ".", "In", "addition", ",", "the", "playground", "is", "used", "by", "others", "as", "well", ",", "i.e.", "FOKUS", "is", "providing", "consultancy", "and", "support", "services", "around", "the", "IMS", "playground", ".", "Users", "of", "the", "``", "Open", "IMS", "playground", "''", ",", "e.g.", "vendors", ",", "are", "testing", "their", "components", "performing", "interoperability", "and", "benchmarking", "tests", ".", "Application", "developers", "are", "developing", "new", "IMS", "applications", "based", "on", "various", "programming", "platforms", "provided", ",", "i.e.", "IN/CAMEL", ",", "OSA/Parlay", ",", "JAIN", ",", "SIP", "Servlets", ",", "etc.", ",", "and", "gain", "a", "proof", "of", "concept", "implementation", ".", ".", "The", "different", "platform", "options", ",", "each", "with", "their", "strengths", "and", "weaknesses", ",", "can", "be", "selected", "and", "used", "according", "to", "the", "customers", "'", "needs", ".", "Figure", "7", "displays", "the", "Open", "IMS", "playground", "partner", "components", ".", "In", "this", "paper", ",", "we", "have", "presented", "the", "architecture", "of", "secure", "access", "and", "authentication", "of", "IP", "Multimedia", "Services", "based", "of", "SIP", "and", "HTTP", "communication", "using", "GBA", "-LRB-", "Generic", "Bootstrapping", "Architecture", "-RRB-", "as", "recommended", "by", "3GPP", "and", "TISPAN", "as", "a", "part", "of", "Secure", "Service", "Provisioning", "-LRB-", "SSP", "-RRB-", "Framework", "of", "IMS", "at", "Fokus", "Fraunhofer", "IMS", "and", "3Gb", "Testbed", ".", "-LSB-", "1", "-RSB-", "Third", "Generation", "Partnership", "Project", ";", "Technical", "Specification", "Group", "Services", "and", "System", "Aspects", ";", "TS", "23.228", "IP", "Multimedia", "Subsystem", "-LRB-", "IMS", "-RRB-", ",", "Stage", "2", "/", "3GPP2", "X.S0013-002-0", "v1", ".0", ",", "www.3gpp.org", ".", "-LSB-", "2", "-RSB-", "ETSI", "TISPAN", "-LRB-", "Telecommunications", "and", "Internet", "converged", "Services", "and", "Protocols", "for", "Advanced", "Networking", "-RRB-", "WG", "http://portal.etsi.org/tispan/TISPAN_ToR.asp", ".", "-LSB-", "3", "-RSB-", "Third", "Generation", "Partnership", "Project", ";", "Technical", "Specification", "Group", "Services", "and", "System", "Aspects", ";", "Generic", "Authentication", "Architecture", "-LRB-", "GAA", "-RRB-", ";", "Generic", "Bootstrapping", "Architecture", "-LRB-", "GBA", "-RRB-", "-LRB-", "Release", "7", "-RRB-", ",", "3GPP", "TS", "33.220", "V7", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "4", "-RSB-", "Third", "Generation", "Partnership", "Project", ";", "Technical", "Specification", "Group", "Services", "and", "System", "Aspects", ";", "Generic", "Authentication", "Architecture", "-LRB-", "GAA", "-RRB-", ";", "Access", "to", "Network", "Application", "Functions", "using", "Hypertext", "Transfer", "Protocol", "over", "Transport", "Layer", "Security", "-LRB-", "HTTPS", "-RRB-", "-LRB-", "Release", "7", "-RRB-", ",", "3GPP", "TS", "33.222", "V7", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "5", "-RSB-", "Third", "Generation", "&", "Beyond", "-LRB-", "3Gb", "-RRB-", "Testbed", ",", "www.fokus.fraunhofer.de/national_host", "&", "IP", "Multimedia", "System", "-LRB-", "IMS", "-RRB-", "Playground", "www.fokus.fraunhofer.de/ims", ".", "-LSB-", "6", "-RSB-", "M.", "Sher", ",", "T.", "Magedanz", ",", "``", "Secure", "Service", "Provisioning", "Framework", "-LRB-", "SSPF", "-RRB-", "for", "IP", "Multimedia", "System", "and", "Next", "Generation", "Mobile", "Networks", "''", "3rd", "International", "Workshop", "in", "Wireless", "Security", "Technologies", ",", "London", ",", "U.K.", "-LRB-", "April", "2005", "-RRB-", ",", "IWWST", "'05", "Proceeding", "-LRB-", "101-106", "-RRB-", ",", "ISSN", "1746-904X", ".", "-LSB-", "7", "-RSB-", "Third", "Generation", "Partnership", "Project", ";", "Technical", "Specification", "Group", "Services", "and", "System", "Aspects", ";", "3G", "Security", ";", "Security", "Architecture", "-LRB-", "Release", "6", "-RRB-", ";", "3GPP", ",", "TS", "33.102", "V6", "-LRB-", "2004", "-RRB-", ".", "-LSB-", "8", "-RSB-", "M.", "Sher", ",", "T.", "Magedanz", ":", "``", "Network", "Access", "Security", "Management", "-LRB-", "NASM", "-RRB-", "Model", "for", "Next", "Generation", "Mobile", "Telecommunication", "Networks", "''", ",", "IEEE/IFIP", "MATA", "'", "2005", ",", "2", "nd", "International", "Workshop", "on", "Mobility", "Aware", "Technologies", "and", "Applications", "-", "Service", "Delivery", "Platforms", "for", "Next", "Generation", "Networks", ",", "Montreal", ",", "Canada", ",", "October", "17-19", ",", "2005", ",", "Proceeding", "Springer-Verlag", "LNCS", "3744-0263", ",", "Berlin", "23", "Heidelberg", "2005", ",", "pp.", "263-272", ".", "http://www.congresbcu.com/mata2005", "-LSB-", "9", "-RSB-", "Third", "Generation", "Partnership", "Project", ";", "Technical", "Specification", "Group", "Services", "and", "System", "Aspects", ";", "Generic", "Authentication", "Architecture", "-LRB-", "GAA", "-RRB-", ";", "Early", "Implementation", "of", "HTTPS", "Connection", "between", "a", "Universal", "Integrated", "Circuit", "Card", "-LRB-", "UICC", "-RRB-", "and", "Network", "Application", "Function", "-LRB-", "NAF", "-RRB-", "-LRB-", "Release", "7", "-RRB-", ",", "3GPP", "TR", "33.918", "V7", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "10", "-RSB-", "Third", "Generation", "Partnership", "Project", ";", "Technical", "Specification", "Group", "Core", "Network", "and", "Terminals", ";", "Universal", "Subscriber", "Identity", "Module", "-LRB-", "USIM", "-RRB-", "Application", "Toolkit", "-LRB-", "USAT", "-RRB-", "-LRB-", "Release", "7", "-RRB-", ",", "3GPP", "TS", "31.111", "V7", "-LRB-", "2005", "-RRB-", ".", "-LSB-", "11", "-RSB-", "K.", "Kn", "ttel", ",", "T.Magedanz", ",", "D.", "Witszek", ":", "``", "The", "IMS", "Playground", "@", "Fokus", "an", "Open", "Testbed", "for", "Next", "Generation", "Network", "Multimedia", "Services", "''", ",", "1", "st", "Int", ".", "IFIP", "Conference", "on", "Testbeds", "and", "Research", "Infrastructures", "for", "the", "Development", "of", "Networks", "and", "Communities", "-LRB-", "Tridentcom", "-RRB-", ",", "Trento", ",", "Italian", ",", "February", "23", "-", "25", ",", "2005", ",", "Proceedings", "pp.", "2", "11", ",", "IBSN", "0-7695", "-2219-x", ",", "IEEE", "Computer", "Society", "Press", ",", "Los", "Alamitos", ",", "California", ".", "3GPP", "Third", "Generation", "Partnership", "Project", "3GPP2", "Third", "Generation", "Partnership", "Project", "2", "AAA", "Authentication", ",", "Authorisation", ",", "and", "Accounting", "AKA", "Authentication", "and", "Key", "Agreement", "AP", "Authentication", "Proxy", "AS", "Application", "Server", "AuC", "Authentication", "Centre", "AV", "Authentication", "Function", "BGA", "Generic", "Bootstrapping", "Architecture", "BSF", "Bootstrapping", "Server", "Function", "B-TID", "Bootstrapping", "Transaction", "Identifier", "CAMEL", "Customized", "Applications", "for", "Mobile", "Enhanced", "Logic", "CGI", "Common", "Gateway", "Interface", "CK", "Cipher", "Key", "CORBA", "Common", "Object", "Request", "Broker", "Architecture", "CPL", "Call", "Programming", "Language", "CSCFs", "Call", "State", "Control", "Functions", "DNS", "Domain", "Name", "Server", "FMC", "Fixed", "Mobile", "Convergence", "FQDN", "Fully", "Qualified", "Domain", "Name", "GAA", "Generic", "Authentication", "Architecture", "GPRS", "General", "Packet", "Radio", "System", "GUSS", "GBA", "User", "Security", "Settings", "HSS", "Home", "Subscriber", "Server", "HTTP", "Hyper", "Text", "Transfer", "Protocol", "HTTPS", "HTTP", "Secure", "-LRB-", "HTTP", "over", "TLS", "-RRB-", "ICSCF", "Interrogating", "Call", "State", "Control", "Function", "IETF", "Internet", "Engineering", "Task", "Force", "IK", "Integrity", "Key", "IM", "IP", "Multimedia", "IMPI", "IP", "Multimedia", "Private", "Identity", "IMS", "IP", "Multimedia", "Subsystem", "IN", "Intelligent", "Network", "IP", "Internet", "Protocol", "ISIM", "IM", "Service", "Identity", "Module", "Ks", "Session", "Key", "ME", "Mobile", "Equipment", "MG", "Media", "Gate", "MRF", "Media", "Resource", "Function", "NAF", "Network", "Authentication", "Function", "NGN", "Next", "Generation", "Network", "OMA", "Open", "Mobile", "Alliance", "OSA", "Open", "Service", "Access", "PCSCF", "Proxy", "Call", "State", "Control", "Function", "PDP", "Packet", "Data", "Protocol", "PoC", "PPT", "over", "Cellular", "PTT", "Push", "To", "Talk", "QoS", "Quality", "of", "Service", "RES", "Response", "RTP", "Real-time", "Transport", "Protocol", "SCSCF", "Serving", "Call", "State", "Control", "Function", "SDP", "Service", "Delivery", "Platform", "SER", "SIP", "Express", "Router", "SIP", "Session", "Initiation", "Protocol", "SSP", "Secure", "Service", "Provisioning", "TCP", "Transmission", "Control", "Protocol", "TISPAN", "Telecoms", "&", "Internet", "converged", "Services", "&", "Protocols", "for", "Advanced", "Networks", "TLS", "Transport", "Layer", "Security", "UE", "User", "Equipment", "UICC", "Universal", "Integrated", "Circuit", "Card", "UMTS", "Universal", "Mobile", "Telecommunication", "Standard", "USIM", "Universal", "Subscriber", "Identity", "Module", "WLAN", "Wireless", "Local", "Area", "Network", "24"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["ip multimedia subsystem", "ap", "fokus ims testbed", "security and privacy", "generic bootstrapping architecture", "naf", "gba", "network authentication function", "diameter proxy", "ip multimedia system", "generic authentication architecture", "authentication proxy", "tls", "transport layer security"], "abstractive_keyphrases": ["ims platform", "general bootstrapping architecture", "tls tunnel end points", "signalling protocols", "glms/xdms"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "23", "document": ["A", "Unified", "Approach", "For", "Improving", "Qos", "And", "Provider", "Revenue", "In", "3G", "Mobile", "Networks", "In", "this", "paper", ",", "we", "introduce", "a", "unified", "approach", "for", "the", "adaptive", "control", "of", "3G", "mobile", "networks", "in", "order", "to", "improve", "both", "quality", "of", "service", "-LRB-", "QoS", "-RRB-", "for", "mobile", "subscribers", "and", "to", "increase", "revenue", "for", "service", "providers", ".", "The", "introduced", "approach", "constantly", "monitors", "QoS", "measures", "as", "packet", "loss", "probability", "and", "the", "current", "number", "of", "active", "mobile", "users", "during", "operation", "of", "the", "network", ".", "Based", "on", "the", "values", "of", "the", "QoS", "measures", "just", "observed", ",", "the", "system", "parameters", "of", "the", "admission", "controller", "and", "packet", "scheduler", "are", "controlled", "by", "the", "adaptive", "performance", "management", "entity", ".", "Considering", "UMTS", ",", "we", "present", "performance", "curves", "showing", "that", "handover", "failure", "probability", "is", "improved", "by", "more", "than", "one", "order", "of", "magnitude", ".", "Moreover", ",", "the", "packet", "loss", "probability", "can", "be", "effectively", "regulated", "to", "a", "predefined", "level", "and", "provider", "revenue", "is", "significantly", "increased", "for", "all", "pricing", "policies", ".", "The", "third", "generation", "-LRB-", "3G", "-RRB-", "of", "mobile", "networks", "is", "expected", "to", "complete", "the", "worldwide", "globalization", "process", "of", "mobile", "communication", ".", "Since", "different", "parts", "of", "the", "worlds", "emphasize", "different", "issues", ",", "the", "global", "term", "3G", "has", "regional", "synonyms", ":", "In", "the", "US", "and", "Japan", ",", "3G", "often", "carries", "the", "name", "International", "Mobile", "Telephony", "2000", "-LRB-", "IMT2000", "-RRB-", ".", "In", "Europe", ",", "3G", "has", "become", "Universal", "Mobile", "Telecommunications", "System", "-LRB-", "UMTS", "-RRB-", "following", "the", "ETSI", "perspective", ".", "The", "European", "industrial", "players", "have", "created", "the", "3rd", "Generation", "Partnership", "Project", "-LRB-", "3GPP", "-RRB-", "-LSB-", "1", "-RSB-", "for", "the", "standardization", "of", "UMTS", ".", "3G", "mobile", "networks", "provide", "the", "foundation", "for", "new", "services", "with", "high-rate", "data", "not", "provided", "by", "current", "second", "generation", "systems", "-LSB-", "26", "-RSB-", ".", "While", "the", "standardization", "of", "3G", "is", "still", "ongoing", "the", "discussion", "of", "technical", "issues", "beyond", "3G", "has", "already", "started", "-LSB-", "23,28", "-RSB-", ".", "Recently", ",", "Aretz", "et", "al.", "reported", "a", "vision", "for", "the", "future", "of", "wireless", "communication", "systems", "beyond", "3G", "that", "consists", "of", "a", "combination", "of", "several", "optimized", "access", "systems", "on", "a", "common", "IP-based", "medium", "access", "and", "core", "network", "platform", "-LSB-", "5", "-RSB-", ".", "Charging", "and", "pricing", "are", "essential", "issues", "for", "network", "operations", "of", "3G", "mobile", "networks", ".", "A", "primary", "target", "of", "differen-tiated", "pricing", "of", "Internet", "services", "is", "the", "prevention", "of", "system", "overload", "and", "an", "optimal", "resource", "usage", "according", "to", "different", "daytimes", "and", "different", "traffic", "intensities", "-LSB-", "12", "-RSB-", ".", "Among", "the", "proposed", "pricing", "proposals", ",", "flat-rate", "pricing", "-LSB-", "11", "-RSB-", "is", "the", "most", "common", "mode", "of", "payment", "today", "for", "bandwidth", "services", ".", "Flat-rate", "pricing", "is", "popular", "because", "of", "its", "minimal", "accounting", "overhead", ".", "A", "flat-rate", "encourages", "usage", "but", "does", "not", "offer", "any", "motivation", "for", "users", "to", "adjust", "their", "demand", ".", "Dynamic", "pricing", "models", "that", "take", "the", "state", "of", "the", "network", "into", "account", "in", "the", "price", "determination", "have", "been", "proposed", "as", "being", "more", "Corresponding", "author", ".", "responsive", ".", "Usage-based", "pricing", "regulates", "usage", "by", "imposing", "a", "fee", "based", "on", "the", "amount", "of", "data", "actually", "sent", ",", "whereas", "congestion-sensitive", "pricing", "uses", "a", "fee", "based", "on", "the", "current", "state", "of", "congestion", "in", "the", "network", ".", "Thus", ",", "a", "unified", "approach", "considering", "both", "dynamic", "pricing", "and", "controlling", "quality", "of", "service", "-LRB-", "i.e.", ",", "performance", "management", "-RRB-", "provides", "an", "effective", "tool", "for", "the", "operation", "of", "3G", "mobile", "networks", ".", "However", ",", "in", "previous", "work", "-LSB-", "8,13,19,21,25", "-RSB-", "the", "improvement", "of", "Quality", "of", "Service", "-LRB-", "QoS", "-RRB-", "in", "3G", "mobile", "networks", "and", "the", "optimization", "of", "mobile", "service", "provider", "revenue", "has", "been", "considered", "sepa-rately", ".", "The", "Quality", "of", "Service", "-LRB-", "QoS", "-RRB-", "concept", "and", "architecture", "for", "UMTS", "networks", "specified", "in", "-LSB-", "2", "-RSB-", "provides", "means", "for", "sharing", "radio", "resources", "among", "different", "groups", "of", "users", "according", "to", "their", "individual", "QoS", "demands", ".", "Furthermore", ",", "the", "concept", "of", "UMTS", "management", "and", "control", "functions", "such", "as", "admission", "controller", "and", "resource", "manager", "is", "roughly", "outlined", ".", "Das", "et", "al.", "proposed", "a", "framework", "for", "QoS", "provisioning", "for", "multimedia", "services", "in", "3G", "wireless", "access", "networks", "-LSB-", "8", "-RSB-", ".", "They", "developed", "an", "integrated", "framework", "by", "combining", "various", "approaches", "for", "call", "admission", "control", ",", "channel", "reservation", ",", "bandwidth", "degradation", ",", "and", "bandwidth", "compaction", ".", "In", "-LSB-", "19", "-RSB-", ",", "we", "introduced", "a", "framework", "for", "the", "adaptive", "control", "of", "UMTS", "networks", ",", "which", "utilizes", "online", "monitoring", "of", "QoS", "measures", "-LRB-", "e.g.", ",", "handover", "failure", "and", "call", "blocking", "probabilities", "-RRB-", "in", "order", "to", "adjust", "system", "parameters", "of", "the", "admission", "controller", "and", "the", "packet", "scheduler", ".", "The", "presented", "approach", "is", "based", "on", "a", "lookup", "table", "called", "the", "Performance", "Management", "Information", "Base", "-LRB-", "P-MIB", "-RRB-", ".", "Entries", "of", "the", "P-MIB", "have", "to", "be", "determined", "using", "extensive", "off-line", "simulation", "experiments", "to", "determine", "optimal", "parameter", "configuration", "for", "the", "considered", "scenarios", ".", "Given", "the", "entries", "of", "the", "P-MIB", ",", "we", "showed", "how", "to", "improve", "QoS", "for", "mobile", "users", "by", "periodi-cally", "adjusting", "system", "parameters", ".", "The", "practical", "applicability", "of", "this", "approach", "is", "limited", "if", "the", "P-MIB", "comprises", "many", "en-210", "C.", "LINDEMANN", "ET", "AL.", "tries", "-LRB-", "i.e.", ",", "many", "scenarios", "have", "to", "be", "considered", "-RRB-", "because", "of", "the", "high", "computational", "effort", "for", "determining", "these", "entries", "by", "simulation", ".", "This", "paper", "introduces", "a", "unified", "approach", "for", "the", "adaptive", "performance", "management", "for", "3G", "mobile", "networks", ".", "As", "the", "main", "result", "of", "the", "paper", ",", "the", "introduced", "approach", "is", "based", "on", "a", "mathematical", "framework", "for", "the", "proposed", "update", "schemes", "rather", "than", "a", "lookup", "table", ".", "As", "a", "consequence", ",", "the", "adaptive", "control", "mechanism", "can", "be", "adjusted", "in", "an", "intuitive", "way", "and", "optimal", "system", "parameter", "configuration", "can", "efficiently", "be", "determined", ".", "We", "effectively", "utilize", "adaptive", "performance", "management", "for", "improving", "not", "only", "QoS", "for", "mobile", "users", "but", "also", "increase", "revenue", "earned", "by", "service", "providers", ".", "As", "in", "-LSB-", "19", "-RSB-", ",", "controlled", "system", "parameters", "comprise", "queueing", "weights", "for", "packet", "scheduling", ",", "a", "threshold", "value", "of", "the", "access", "queue", "for", "admission", "of", "non", "real-time", "traffic", ",", "and", "a", "portion", "of", "the", "overall", "available", "bandwidth", "reserved", "for", "handover", "calls", ".", "Beyond", "-LSB-", "19", "-RSB-", ",", "we", "propose", "a", "scheme", "for", "adjusting", "the", "queueing", "weights", "for", "both", "improving", "QoS", "for", "higher", "priority", "users", "that", "suffer", "from", "a", "high", "population", "of", "users", "with", "lower", "priority", "and", "for", "increasing", "the", "revenue", "earned", "by", "the", "service", "provider", ".", "For", "the", "analysis", "of", "the", "update", "strategy", "of", "the", "queuing", "weights", ",", "we", "consider", "a", "usage-based", "and", "a", "usage", "-", "/", "throughput-based", "pricing", "policy", "according", "to", "-LSB-", "11,12,21", "-RSB-", ".", "Furthermore", ",", "we", "introduce", "a", "hybrid", "pricing", "policy", "combining", "the", "notion", "of", "flat-rate", "and", "a", "usage-based", "pricing", "according", "to", "current", "policies", "of", "GSM", "networks", ".", "Performance", "curves", "derived", "by", "simulation", "evidently", "illustrate", "the", "gain", "of", "the", "unified", "approach", "for", "adaptive", "performance", "management", ".", "In", "fact", ",", "for", "UMTS", "networks", ",", "simulation", "results", "show", "that", "handover", "failure", "probability", "can", "be", "improved", "by", "more", "than", "one", "order", "of", "magnitude", ".", "Moreover", ",", "packet", "loss", "probability", "can", "be", "effectively", "regulated", "to", "a", "predefined", "level", "and", "the", "provider", "revenue", "is", "significantly", "increased", "for", "all", "considered", "pricing", "policies", ".", "The", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "introduces", "the", "unified", "approach", "for", "adaptive", "performance", "management", "and", "describes", "its", "embedding", "in", "the", "system", "architecture", "of", "3G", "mobile", "networks", ".", "Section", "3", "introduces", "strategies", "for", "controlling", "the", "parameters", "of", "an", "admission", "controller", "in", "order", "to", "improve", "QoS", ".", "Section", "4", "describes", "the", "parameter", "control", "of", "a", "packet", "scheduler", "for", "the", "combined", "improvement", "of", "both", "QoS", "and", "provider", "revenue", ".", "In", "section", "5", ",", "we", "present", "simulation", "results", "that", "illustrate", "the", "benefit", "of", "employing", "the", "proposed", "approach", "for", "adaptive", "performance", "management", ".", "Finally", ",", "concluding", "remarks", "are", "given", ".", "This", "section", "introduces", "the", "unified", "approach", "for", "regularly", "adjusting", "system", "parameters", "to", "changing", "traffic", "load", ",", "packet", "arrival", "pattern", "or", "population", "of", "users", ",", "etc.", ".", "We", "consider", "a", "cellular", "mobile", "network", "in", "which", "a", "different", "transceiver", "station", "serves", "each", "cell", ".", "The", "purpose", "of", "the", "transceiver", "station", "is", "the", "modu-Figure", "1", ".", "System", "architecture", "for", "adaptive", "performance", "management", ".", "lation", "of", "carrier", "frequencies", "and", "demodulation", "of", "signals", ".", "Furthermore", ",", "a", "base", "station", "controller", "-LRB-", "BSC", "-RRB-", "is", "considered", "that", "is", "responsible", "for", "a", "cluster", "of", "cells", ",", "i.e.", ",", "several", "transceiver", "stations", ".", "The", "BSC", "manages", "the", "radio", "resources", ",", "i.e.", ",", "schedules", "data", "packets", ",", "and", "controls", "handovers", "inside", "the", "cell", "cluster", "as", "well", "as", "handovers", "towards", "and", "from", "neighboring", "cell", "clusters", ".", "To", "improve", "QoS", "for", "mobile", "users", "as", "well", "as", "to", "increase", "revenue", "earned", "by", "service", "providers", ",", "an", "entity", "for", "Adaptive", "Performance", "Management", "-LRB-", "APM", "-RRB-", "is", "included", "in", "a", "BSC", ".", "Furthermore", ",", "a", "BSC", "has", "to", "be", "extended", "by", "an", "online", "performance", "monitoring", "component", "that", "derives", "QoS", "measures", "in", "a", "certain", "time", "window", "-LRB-", "e.g.", ",", "handover", "failure", "probabilities", "of", "mobile", "users", "or", "packet", "loss", "probabilities", "-RRB-", ".", "These", "QoS", "measures", "form", "a", "system", "pattern", "that", "is", "submitted", "in", "fixed", "time", "intervals", "-LRB-", "i.e.", ",", "a", "control", "period", "-RRB-", "to", "the", "APM", "entity", ",", "which", "subsequently", "updates", "corresponding", "system", "parameters", "-LRB-", "i.e.", ",", "parameters", "of", "traffic", "controlling", "components", "like", "the", "admission", "controller", "and", "packet", "scheduler", "-RRB-", ".", "Thus", ",", "the", "proposed", "approach", "closes", "the", "loop", "between", "network", "operation", "and", "network", "control", ".", "Figure", "1", "shows", "the", "system", "architecture", "for", "performance", "management", "embedded", "in", "a", "BSC", ".", "2.1.1", ".", "Online", "performance", "monitoring", "System", "parameters", "of", "a", "BSC", "can", "be", "effectively", "updated", "by", "monitoring", "QoS", "measures", ",", "which", "are", "immediately", "affected", "by", "these", "parameters", ".", "A", "current", "value", "for", "a", "QoS", "measure", "is", "determined", "online", "based", "on", "a", "set", "of", "relevant", "events", "corresponding", "to", "this", "QoS", "measure", "-LRB-", "e.g.", ",", "packet", "arrivals", "are", "relevant", "events", "for", "computing", "packet", "loss", "probabilities", "-RRB-", ".", "The", "online", "monitoring", "of", "QoS", "measures", "is", "done", "by", "a", "sliding", "window", "technique", "as", "introduced", "in", "-LSB-", "19", "-RSB-", ".", "The", "width", "of", "the", "sliding", "window", "over", "time", "depends", "on", "the", "number", "of", "relevant", "events", "that", "are", "occurred", "according", "to", "a", "QoS", "measure", ".", "Upon", "arrival", "of", "a", "new", "relevant", "event", "the", "sliding", "window", "moves", "in", "time", ".", "At", "the", "end", "of", "a", "control", "period", "the", "QoS", "measures", "are", "derived", "for", "each", "sliding", "window", "-LRB-", "e.g.", ",", "packet", "loss", "probability", "can", "be", "derived", "from", "number", "of", "lost", "packets", "divided", "by", "number", "of", "all", "packet", "arrivals", "in", "the", "sliding", "window", "-RRB-", ".", "These", "QoS", "measures", "and", "the", "number", "of", "events", "occurred", "in", "the", "last", "control", "period", "form", "the", "system", "pattern", "that", "is", "transferred", "to", "the", "adaptive", "performance", "management", "entity", "-LRB-", "see", "figure", "1", "-RRB-", ".", "IMPROVING", "QoS", "AND", "PROVIDER", "REVENUE", "IN", "3G", "MOBILE", "NETWORKS", "211", "Note", "that", "an", "accurate", "online", "monitoring", "of", "QoS", "measures", "requires", "a", "specific", "width", "for", "the", "sliding", "window", ".", "A", "certain", "number", "of", "events", "representing", "the", "history", "of", "the", "QoS", "measure", "have", "to", "be", "considered", "to", "get", "an", "expressive", "measure", ".", "On", "the", "other", "hand", "considering", "a", "big", "sliding", "window", "prevents", "the", "APM", "entity", "from", "fast", "reaction", "on", "changing", "traffic", "conditions", ".", "A", "bigger", "sliding", "window", "contains", "more", "history", "and", ",", "thus", ",", "more", "events", "have", "to", "be", "collected", "to", "cause", "a", "significant", "change", "in", "the", "online", "monitored", "QoS", "measure", ".", "This", "tradeoff", "between", "accurate", "online", "monitoring", "and", "fast", "reaction", "of", "the", "APM", "to", "changing", "traffic", "conditions", "has", "to", "be", "studied", "carefully", "in", "several", "experiments", "to", "get", "the", "optimal", "width", "of", "the", "sliding", "window", "for", "each", "QoS", "measure", ".", "2.1.2", ".", "Adaptive", "performance", "management", "Whenever", "a", "system", "pattern", "S", "=", "-LCB-", "-LRB-", "P", "1", ",", "n", "1", "-RRB-", ",", "...", ",", "-LRB-", "P", "m", ",", "n", "m", "-RRB-", "-RCB-", ",", "consisting", "of", "online", "monitored", "QoS", "measures", "P", "1", ",", "...", ",", "P", "m", "and", "the", "numbers", "of", "relevant", "events", "n", "1", ",", "...", ",", "n", "m", "occurred", "in", "the", "last", "control", "period", "is", "transmitted", "to", "the", "APM", "an", "update", "of", "the", "system", "parameters", "can", "be", "performed", ".", "In", "general", ",", "an", "update", "of", "a", "system", "parameter", "is", "made", "according", "to", "a", "function", "f", "depending", "on", "a", "subset", "of", "the", "QoS", "measures", "P", "1", ",", "...", ",", "P", "m", "and", "the", "previous", "value", "-LRB-", "old", "-RRB-", "of", "the", "system", "parameter", ".", "Let", "P", "-LRB-", "1", "-RRB-", ",", "...", ",", "P", "-LRB-", "k", "-RRB-", ",", "k", "m", ",", "be", "the", "QoS", "measures", "corresponding", "to", "system", "parameter", ",", "then", "the", "update", "is", "made", "if", "a", "certain", "minimum", "number", "n", "-LRB-", "-RRB-", "of", "relevant", "events", "occurred", "in", "the", "last", "control", "period", ".", "That", "is", ":", "-LRB-", "new", "-RRB-", "=", "f", "P", "-LRB-", "1", "-RRB-", ",", "...", ",", "P", "-LRB-", "k", "-RRB-", ",", "-LRB-", "old", "-RRB-", ",", "if", "min", "-LCB-", "n", "-LRB-", "1", "-RRB-", ",", "...", ",", "n", "-LRB-", "k", "-RRB-", "-RCB-", "n", "-LRB-", "-RRB-", ".", "-LRB-", "1", "-RRB-", "We", "classify", "update", "functions", "in", "relative", "functions", ",", "that", "perform", "a", "parameter", "update", "relative", "to", "the", "old", "parameter", "value", "and", "absolute", "functions", "that", "set", "the", "new", "parameter", "value", "independent", "of", "the", "old", "value", ",", "i.e.", ",", "f", "is", "independent", "of", "-LRB-", "old", "-RRB-", "in", "-LRB-", "1", "-RRB-", ".", "With", "relative", "update", "functions", "strong", "fluctuations", "of", "the", "corresponding", "system", "parameter", "in", "one", "update", "step", "can", "be", "avoided", ".", "In", "section", "3", ",", "we", "study", "a", "special", "class", "of", "relative", "update", "functions", "in", "order", "to", "set", "the", "parameters", "of", "an", "admission", "controller", ".", "Furthermore", ",", "we", "develop", "in", "section", "4", "an", "absolute", "update", "function", "for", "adjusting", "the", "weights", "of", "a", "weighted", "fair", "queueing", "packet", "scheduler", ".", "2.2", ".", "Economics", "and", "pricing", "policies", "in", "3G", "mobile", "networks", "There", "are", "multiple", "requirements", ",", "which", "should", "be", "fulfilled", "for", "any", "viable", "pricing", "mechanism", "in", "multi-service", "class", "data", "communication", "networks", "-LSB-", "12", "-RSB-", ".", "A", "primary", "target", "of", "differen-tiated", "pricing", "of", "Internet", "services", "is", "the", "prevention", "of", "system", "overload", "and", "an", "optimal", "resource", "usage", "according", "to", "different", "daytimes", "and", "different", "traffic", "intensities", ".", "Furthermore", ",", "the", "pricing", "scheme", "should", "be", "implemented", "in", "a", "completely", "de-centralized", "manner", "and", "there", "should", "be", "multiple", "priorities", "in", "order", "to", "take", "into", "account", "the", "different", "QoS", "required", "by", "different", "applications", "and", "users", ".", "In", "general", ",", "pricing", "policies", "can", "be", "partitioned", "into", "usage-based", "-LRB-", "pay-as-you-go", "-RRB-", "pricing", ",", "flat-rate", "-LRB-", "all-you-can-eat", "-RRB-", "pricing", ",", "and", "dynamic", "pricing", ".", "In", "usage-based", "pricing", "policies", "a", "user", "is", "charged", "according", "to", "a", "connection", "time", "or", "traffic", "volume", ".", "Whereas", "connection", "based", "calls", "-LRB-", "e.g.", ",", "in", "GSM", "-RRB-", "are", "charged", "by", "connection", "time", ",", "packet-switched", "services", "-LRB-", "e.g.", ",", "in", "UMTS", "-RRB-", "are", "charging", "the", "transferred", "data", "volume", ".", "Dynamic", "pricing", "models", "take", "into", "account", "the", "state", "of", "the", "mobile", "radio", "network", "for", "determining", "the", "current", "price", "of", "a", "service", ".", "Congestion-sensitive", "pricing", "as", "a", "particular", "dynamic", "pricing", "model", "has", "been", "shown", "to", "be", "more", "responsive", ".", "MacKie-Mason", "and", "Varian", "introduced", "the", "concept", "of", "congestion-sensitive", "pricing", "in", "their", "smart", "market", "scheme", "-LSB-", "21", "-RSB-", ".", "Under", "this", "model", ",", "the", "actual", "price", "for", "each", "packet", "is", "determined", "based", "on", "the", "current", "state", "of", "network", "congestion", ".", "In", "-LSB-", "25", "-RSB-", ",", "Rao", "and", "Petersen", "discussed", "the", "optimal", "pricing", "of", "priority", "services", ".", "Analogously", "to", "the", "smart", "market", "approach", ",", "Gupta", "et", "al.", "presented", "a", "pricing", "scheme", "that", "uses", "priorities", "on", "the", "packet-level", "-LSB-", "13", "-RSB-", ".", "They", "proposed", "to", "differentiate", "Internet", "traffic", "according", "to", "delay", "and", "loss", "requirements", ".", "For", "the", "analysis", "of", "the", "update", "strategy", "of", "the", "queuing", "weights", ",", "we", "consider", "in", "section", "4", "a", "usage-based", "and", "a", "usage", "-", "/", "throughput-based", "pricing", "policy", "according", "to", "-LSB-", "11,12,21", "-RSB-", ".", "Furthermore", ",", "we", "introduce", "a", "hybrid", "pricing", "policy", "combining", "the", "notion", "of", "flat-rate", "and", "a", "usage-based", "pricing", "according", "to", "current", "policies", "of", "GSM", "networks", ".", "The", "proposed", "approach", "distinguishes", "three", "different", "types", "of", "services", ":", "circuit-switched", "services", ",", "packet-switched", "real-time", "services", "-LRB-", "RT", "-RRB-", ",", "and", "packet-switched", "non", "real-time", "services", "-LRB-", "NRT", "-RRB-", ".", "Typically", ",", "circuit-switched", "services", "are", "voice", "calls", "from", "a", "GSM", "mobile", "station", ".", "As", "proposed", "by", "3GPP", ",", "RT", "services", "belong", "to", "the", "conversational", "and", "streaming", "classes", "and", "NRT", "services", "fall", "into", "the", "interactive", "and", "background", "classes", "-LSB-", "2", "-RSB-", ".", "The", "bandwidth", "available", "in", "a", "cell", "must", "be", "shared", "by", "calls", "of", "these", "different", "service", "classes", "and", "the", "different", "service", "requirements", "have", "to", "be", "met", ".", "Before", "a", "mobile", "session", "begins", ",", "the", "user", "needs", "to", "specify", "its", "traffic", "characteristics", "and", "desired", "performance", "requirements", "by", "a", "QoS", "profile", ".", "Then", ",", "an", "admission", "controller", "decides", "to", "accept", "or", "reject", "the", "users", "request", "based", "on", "the", "QoS", "profile", "and", "the", "current", "network", "state", "as", ",", "e.g.", ",", "given", "by", "queueing", "length", ".", "The", "purpose", "of", "the", "admission", "controller", "is", "to", "guarantee", "the", "QoS", "requirements", "of", "the", "user", "who", "requested", "admission", "while", "not", "violating", "the", "QoS", "profiles", "of", "already", "admitted", "users", ".", "The", "call", "admission", "criteria", "will", "be", "different", "for", "each", "service", "class", ".", "The", "QoS", "profile", "for", "RT", "sessions", "specifies", "a", "guaranteed", "bandwidth", "to", "be", "provided", "for", "the", "application", "in", "order", "to", "meet", "its", "QoS", "requirements", ".", "If", "the", "network", "can", "not", "satisfy", "the", "desired", "bandwidth", ",", "the", "corresponding", "admission", "request", "is", "rejected", ".", "Data", "packets", "arriving", "at", "the", "BSC", "are", "queued", "until", "they", "are", "scheduled", "to", "be", "transmitted", "over", "the", "radio", "link", ".", "For", "NRT", "sessions", ",", "we", "consider", "an", "admission", "controller", "taking", "into", "account", "free", "buffer", "space", "in", "the", "NRT", "queue", "-LSB-", "8", "-RSB-", ".", "In", "order", "to", "prevent", "buffer", "overflow", "once", "a", "call", "is", "admitted", ",", "the", "current", "queueing", "length", "is", "set", "against", "certain", "buffer", "availability", "threshold", "212", "C.", "LINDEMANN", "ET", "AL.", "of", "the", "capacity", ",", "denoted", "by", ".", "The", "admission", "criteria", "for", "voice", "and", "RT", "handovers", "are", "the", "same", "as", "for", "new", "voice", "calls", "and", "RT", "sessions", "except", "that", "additional", "handover", "bandwidth", "can", "be", "utilized", ".", "The", "analysis", "of", "several", "admission", "control", "schemes", "for", "cellular", "systems", "presented", "in", "-LSB-", "24", "-RSB-", "showed", "that", "the", "simple", "reservation", "scheme", "-LRB-", "i.e.", ",", "reserving", "bandwidth", "for", "handover", "calls", "-RRB-", "performs", "remarkably", "well", ".", "For", "simple", "cellular", "networks", ",", "the", "optimal", "amount", "of", "bandwidth", "reserved", "for", "handover", "calls", "can", "be", "determined", "by", "analytical", "models", "-LSB-", "14", "-RSB-", ".", "In", "the", "model", "presented", "here", ",", "we", "denote", "with", "b", "h", "the", "portion", "of", "the", "overall", "bandwidth", "that", "is", "exclusively", "reserved", "for", "handover", "calls", "from", "neighboring", "cells", ".", "The", "considered", "admission", "controller", "does", "not", "prioritize", "NRT", "handovers", "over", "new", "NRT", "sessions", ".", "Further", "details", "of", "the", "admission", "controller", "are", "given", "in", "-LSB-", "19", "-RSB-", ".", "3.2", ".", "Adjusting", "the", "admission", "controller", "for", "QoS", "improvement", "In", "this", "section", ",", "we", "show", "how", "to", "utilize", "equation", "-LRB-", "1", "-RRB-", "for", "setting", "the", "parameters", "and", "b", "h", "of", "the", "admission", "controller", "in", "order", "to", "reduce", "packet", "loss", "probability", "and", "handover", "failure", "probability", ".", "For", "updating", "the", "system", "parameters", ",", "we", "split", "the", "general", "function", "introduced", "in", "section", "2.1", "into", "separate", "functions", "each", "depending", "only", "on", "one", "QoS", "measure", ".", "Let", "P", "1", ",", "...", ",", "P", "k", "be", "the", "QoS", "measures", "corresponding", "to", "a", "system", "parameter", ".", "Then", ",", "equation", "-LRB-", "1", "-RRB-", "can", "be", "simplified", "to", "-LRB-", "new", "-RRB-", "=", "f", "1", "-LRB-", "P", "1", "-RRB-", "+", "+", "f", "k", "-LRB-", "P", "k", "-RRB-", "k", "-LRB-", "old", "-RRB-", ",", "L", "-LRB-", "new", "-RRB-", "R.", "-LRB-", "2", "-RRB-", "The", "interpretation", "of", "-LRB-", "2", "-RRB-", "is", "the", "following", ".", "Each", "update", "function", "f", "i", "describes", "the", "influence", "that", "the", "QoS", "measure", "P", "i", "should", "have", "on", "the", "system", "parameter", ".", "Subsequently", ",", "the", "overall", "update", "is", "performed", "by", "computing", "the", "arithmetic", "mean", "of", "the", "functions", "f", "i", "multiplied", "with", "the", "old", "value", "of", "the", "system", "parameter", ".", "Note", "that", "the", "value", "-LRB-", "new", "-RRB-", "must", "be", "truncated", "at", "a", "certain", "lower", "bound", "L", "and", "an", "upper", "bound", "R", "in", "order", "to", "guarantee", "that", "the", "computation", "of", "-LRB-", "new", "-RRB-", "results", "in", "a", "valid", "value", "of", "the", "system", "parameter", ".", "As", "basic", "update", "function", "we", "consider", "a", "logarithmic", "linear", "function", "of", "the", "form", ":", "f", "i", "-LRB-", "P", "i", "-RRB-", "=", "m", "i", "log", "P", "i", "+", "b", "i", ".", "-LRB-", "3", "-RRB-", "The", "reason", "for", "this", "choice", "is", "that", "we", "want", "to", "consider", "QoS", "measures", "like", "loss", "probabilities", "and", "failure/blocking", "probabilities", ",", "which", "are", "in", "the", "range", "of", "10", "-5", "to", "1", ".", "Therefore", ",", "a", "logarithmic", "shape", "is", "more", "suitable", ".", "In", "previous", "work", "-LSB-", "19", "-RSB-", ",", "we", "have", "studied", "update", "schemes", "of", "system", "parameters", "of", "an", "admission", "controller", "and", "a", "packet", "scheduler", "based", "on", "a", "lookup", "table", ".", "In", "order", "to", "determine", "the", "optimal", "entries", "of", "this", "lookup", "table", "extensive", "off-line", "simulation", "experiments", "have", "been", "conducted", ".", "Applying", "regression", "statistics", "to", "the", "entries", "of", "this", "lookup", "table", "shows", "that", "these", "entries", "are", "well", "represented", "by", "functions", "with", "logarithmic", "shape", ".", "Thus", ",", "besides", "the", "motivation", "of", "the", "update", "functions", "given", "here", ",", "their", "choice", "is", "to", "a", "large", "extend", "originated", "from", "regression", "statistics", "conducted", "in", "earlier", "work", ".", "The", "strength", "of", "the", "influence", "of", "f", "i", "on", "-LRB-", "new", "-RRB-", "can", "be", "adjusted", "with", "the", "gradient", "m", "i", ".", "The", "parameter", "b", "i", "can", "be", "determined", "by", "the", "following", "interpretation", ":", "suppose", "the", "desired", "level", "of", "the", "QoS", "measure", "P", "i", "is", "i", "-LRB-", "e.g.", ",", "the", "desired", "packet", "loss", "probability", "is", "0.001", "-RRB-", ".", "That", "is", ",", "if", "the", "online", "measured", "value", "of", "P", "i", "is", "i", "the", "system", "parameter", "should", "not", "be", "changed", "in", "the", "update", "step", "from", "the", "point", "of", "view", "of", "measure", "P", "i", ".", "Therefore", ",", "we", "chose", "f", "i", "-LRB-", "i", "-RRB-", "=", "1", "and", "from", "this", "relation", "we", "get", "b", "i", "=", "1", "-", "m", "i", "log", "i", ".", "Inserting", "in", "equation", "-LRB-", "3", "-RRB-", "results", "in", "the", "final", "form", "of", "the", "update", "function", ":", "f", "i", "-LRB-", "P", "i", "-RRB-", "=", "m", "i", "log", "P", "i", "i", "+", "1", ".", "-LRB-", "4", "-RRB-", "For", "ease", "of", "notation", ",", "we", "abbreviate", "the", "QoS", "measures", "handover", "failure", "probability", "and", "new", "call/session", "blocking", "probability", "corresponding", "to", "voice", "calls", "and", "RT", "sessions", "by", "HFP", "and", "CBP", ",", "respectively", ".", "The", "probability", "of", "a", "packet", "loss", "due", "to", "buffer", "overflow", "in", "the", "NRT", "queue", "is", "abbreviated", "by", "PLP", ".", "The", "update", "strategy", "according", "to", "equations", "-LRB-", "2", "-RRB-", "-LRB-", "4", "-RRB-", "is", "justified", "by", "its", "intuitive", "understanding", "and", "the", "performance", "results", "presented", "in", "section", "5", ".", "The", "suitability", "of", "update", "functions", "other", "than", "-LRB-", "2", "-RRB-", "-LRB-", "4", "-RRB-", ",", "is", "subject", "for", "further", "study", "and", "out", "of", "the", "scope", "of", "this", "paper", ".", "3.2.1", ".", "Update", "of", "non", "real-time", "queue", "threshold", "Recall", "that", "a", "system", "parameter", "update", "is", "performed", "each", "time", "a", "system", "pattern", "arrives", "at", "the", "APM", "entity", "and", "the", "minimum", "number", "of", "relevant", "events", "corresponding", "to", "this", "system", "parameter", "is", "reached", ".", "Determining", "the", "update", "for", "the", "system", "parameter", ",", "i.e.", ",", "determining", "-LRB-", "new", "-RRB-", ",", "is", "performed", "corresponding", "to", "the", "old", "value", "-LRB-", "old", "-RRB-", "and", "the", "actually", "observed", "QoS", "measure", "PLP", ".", "That", "is", ":", "-LRB-", "new", "-RRB-", "=", "f", "-LRB-", "PLP", "-RRB-", "-LRB-", "old", "-RRB-", ",", "0.001", "-LRB-", "new", "-RRB-", "1", ".", "-LRB-", "5", "-RRB-", "The", "truncation", "of", "-LRB-", "new", "-RRB-", "at", "the", "lower", "bound", "guaranties", "that", "the", "value", "does", "not", "accumulate", "near", "zero", "for", "long", "periods", "of", "low", "traffic", "load", ".", "The", "minimum", "number", "of", "relevant", "events", "required", "for", "an", "update", "of", "is", "counted", "in", "data", "volume", "rather", "than", "in", "packet", "arrivals", "-LRB-", "in", "the", "experiments", "this", "number", "is", "5", "MB", "-RRB-", ".", "The", "setting", "of", "the", "gradient", "m", "of", "the", "corresponding", "update", "function", "is", "derived", "from", "a", "couple", "of", "experiments", "for", "different", "values", "of", "the", "gradient", ".", "We", "found", "m", "=", "-0.02", "to", "be", "suitable", ".", "Choosing", "a", "suitable", "value", "for", "the", "gradient", "is", "a", "similar", "tradeoff", "as", "explained", "for", "the", "sliding", "window", "size", ".", "A", "large", "gradient", "results", "in", "a", "fast", "update", "of", "the", "system", "parameter", "in", "a", "few", "number", "of", "update", "steps", ",", "but", "also", "introduces", "higher", "fluctuations", "of", "the", "system", "parameter", "over", "time", ".", "We", "demonstrate", "the", "speed", "of", "the", "parameter", "adjustment", "in", "an", "experiment", "in", "section", "5", ".", "Furthermore", ",", "several", "experiments", "for", "different", "desired", "loss", "values", "are", "presented", ".", "3.2.2", ".", "Update", "of", "fraction", "of", "bandwidth", "reserved", "for", "handover", "The", "update", "for", "the", "system", "parameter", "b", "h", ",", "i.e.", ",", "determining", "b", "-LRB-", "new", "-RRB-", "h", ",", "is", "performed", "based", "on", "the", "old", "value", "and", "the", "actually", "observed", "QoS", "measures", "HFP", "and", "CBP", ".", "That", "is", ":", "b", "-LRB-", "new", "-RRB-", "h", "=", "f", "1", "-LRB-", "HFP", "-RRB-", "+", "f", "2", "-LRB-", "CBP", "-RRB-", "2", "b", "-LRB-", "old", "-RRB-", "h", ",", "0.001", "b", "-LRB-", "new", "-RRB-", "h", "R.", "-LRB-", "6", "-RRB-", "IMPROVING", "QoS", "AND", "PROVIDER", "REVENUE", "IN", "3G", "MOBILE", "NETWORKS", "213", "The", "value", "b", "-LRB-", "new", "-RRB-", "h", "is", "truncated", "at", "a", "lower", "bound", "of", "0.1", "%", "and", "a", "certain", "upper", "bound", "R", "which", "is", "a", "fraction", "of", "the", "overall", "bandwidth", "available", "-LRB-", "in", "the", "experiments", "we", "fix", "R", "=", "0.7", "-RRB-", ".", "The", "truncation", "at", "the", "lower", "bound", "is", "for", "the", "same", "reason", "as", "explained", "above", ".", "In", "fact", ",", "for", "computing", "b", "-LRB-", "new", "-RRB-", "h", "two", "QoS", "measures", "corresponding", "to", "the", "actually", "observed", "HFP", "and", "CBP", "are", "taken", "into", "account", ".", "A", "high", "HFP", "should", "increase", "b", "-LRB-", "new", "-RRB-", "h", "but", "this", "obviously", "also", "increases", "the", "CBP", "because", "less", "bandwidth", "is", "available", "for", "new", "voice", "calls", "and", "RT", "sessions", ".", "Therefore", ",", "the", "HFP", "and", "the", "CBP", "influence", "the", "handover", "bandwidth", "b", "-LRB-", "new", "-RRB-", "h", ".", "In", "fact", ",", "m", "1", "=", "-", "m", "2", "holds", "in", "the", "update", "functions", "f", "1", "and", "f", "2", ".", "From", "a", "couple", "of", "experiments", "for", "different", "gradients", ",", "we", "found", "m", "1", "=", "0.08", "to", "be", "suitable", ".", "A", "common", "assumption", "in", "cellular", "networks", "is", "to", "prioritize", "handover", "calls", "over", "new", "calls", ".", "Therefore", ",", "the", "desired", "handover", "failure", "level", "1", "should", "be", "smaller", "than", "the", "desired", "call", "blocking", "level", "2", ".", "According", "to", "these", "values", "the", "handover", "bandwidth", "is", "slightly", "increased", ",", "if", "HFP", "is", "equal", "to", "CBP", ".", "With", "the", "presented", "strategy", "the", "parameters", "of", "the", "update", "functions", "can", "be", "chosen", "in", "an", "intuitive", "way", "and", "optimal", "parameter", "configuration", "can", "efficiently", "be", "determined", ".", "This", "is", "the", "major", "advantage", "over", "the", "approach", "based", "on", "a", "Performance", "Management", "Information", "Base", "introduced", "in", "-LSB-", "19", "-RSB-", "which", "requires", "extensive", "off-line", "simulation", "experiments", ".", "At", "a", "BSC", "responsible", "for", "a", "cluster", "of", "cells", ",", "data", "packets", "from", "various", "connections", "arrive", "and", "are", "queued", "until", "bandwidth", "for", "transmission", "is", "available", ".", "In", "order", "to", "distinguish", "different", "priorities", "for", "NRT", "traffic", "corresponding", "to", "the", "traffic", "handling", "priority", "defined", "by", "3GPP", "-LSB-", "2", "-RSB-", ",", "scheduling", "algorithms", "like", "Weighted", "Round", "Robin", "-LRB-", "WRR", "-RRB-", ",", "Weighted", "Fair", "Queueing", "-LRB-", "WFQ", "-LSB-", "9", "-RSB-", "-RRB-", "or", "Class", "Based", "Queueing", "-LRB-", "CBQ", "-LSB-", "10", "-RSB-", "-RRB-", "have", "to", "be", "implemented", ".", "An", "overview", "of", "queueing", "issues", "for", "guaranteed", "performance", "services", "can", "be", "found", "in", "-LSB-", "27", "-RSB-", ".", "In", "WFQ", ",", "the", "weights", "control", "the", "amount", "of", "traffic", "a", "source", "may", "deliver", "relative", "to", "other", "active", "sources", "during", "some", "period", "of", "time", ".", "From", "the", "scheduling", "algorithm", "'s", "point", "of", "view", ",", "a", "source", "is", "considered", "to", "be", "active", ",", "if", "it", "has", "data", "queued", "in", "the", "NRT", "queue", ".", "Let", "B", "be", "the", "overall", "bandwidth", "available", "for", "NRT", "sessions", "at", "time", "t.", "For", "an", "active", "source", "i", "with", "weight", "w", "i", ",", "the", "bandwidth", "B", "i", "that", "is", "allocated", "to", "this", "transfer", "at", "time", "t", "is", "given", "by", "B", "i", "=", "w", "i", "j", "w", "j", "B.", "-LRB-", "7", "-RRB-", "In", "-LRB-", "7", "-RRB-", "the", "sum", "is", "taken", "over", "all", "active", "NRT", "sources", "j", ".", "A", "class", "based", "version", "of", "WFQ", "serves", "packets", "of", "each", "priority", "class", "according", "to", "the", "weights", "rather", "than", "every", "active", "source", ".", "4.2", ".", "Adjusting", "the", "packet", "scheduler", "for", "QoS", "and", "revenue", "improvement", "This", "section", "utilizes", "the", "proposed", "approach", "for", "the", "adaptive", "control", "of", "the", "weights", "of", "a", "weighted", "fair", "queueing", "packet", "scheduler", "in", "order", "to", "improve", "QoS", "as", "well", "as", "to", "increase", "the", "revenue", ".", "The", "strategy", "for", "adjusting", "the", "weights", "combined", "with", "the", "introduction", "of", "several", "pricing", "policies", "constitutes", "a", "further", "contribution", "of", "the", "paper", ".", "Recall", "that", "the", "revenue", "earned", "by", "a", "mobile", "service", "provider", "is", "determined", "by", "the", "monthly", "payment", "of", "mobile", "users", "as", "well", "as", "by", "the", "additional", "usage-based", "pricing", "after", "the", "monthly", "amount", "of", "data", "volume", "is", "consumed", ".", "Note", ",", "that", "the", "monthly", "subscription", "rate", "is", "only", "relevant", "for", "monthly", "revenue", "calculations", ".", "In", "this", "section", ",", "we", "consider", "the", "revenue", "improvement", "in", "a", "certain", "small", "time", "period", "regardless", "the", "monthly", "subscription", "rates", ".", "In", "section", "5", ",", "we", "briefly", "discuss", "monthly", "revenue", "calculation", ".", "Let", "P", "denote", "the", "number", "of", "different", "priority", "classes", ",", "i.e.", ",", "weights", "of", "the", "weighted", "fair", "queueing", "scheduler", ".", "Define", "by", "b", "i", "-LRB-", "t", "-RRB-", "the", "transferred", "data", "volume", "in", "time", "t", "of", "users", "of", "priority", "i", "and", "by", "r", "i", "-LRB-", "t", "-RRB-", "the", "payment", "of", "users", "of", "priority", "i", "at", "time", "t", ",", "i.e.", ",", "the", "user", "pays", "for", "the", "transferred", "data", "volume", ".", "We", "distinguish", "a", "pure", "usage-based", "and", "a", "usage", "-", "/", "throughput-based", "pricing", "policy", ":", "-LRB-", "a", "-RRB-", "A", "user", "of", "priority", "i", "has", "a", "fixed", "payment", "p", "i", "per", "kbit", "during", "his", "session", ",", "i.e.", ",", "r", "i", "-LRB-", "t", "-RRB-", "=", "p", "i", ".", "-LRB-", "b", "-RRB-", "The", "payment", "of", "a", "user", "of", "priority", "i", "consists", "of", "a", "fixed", "part", "p", "i", "that", "is", "increased", "proportional", "to", "the", "additional", "throughput", "i", "-LRB-", "t", "-RRB-", "he", "received", "due", "to", "the", "update", "of", "the", "queueing", "weights", ",", "i.e.", ",", "r", "i", "-LRB-", "t", "-RRB-", "=", "p", "i", "i", "-LRB-", "t", "-RRB-", ".", "According", "to", "the", "proposed", "data", "volume", "based", "pricing", "with", "respect", "to", "different", "priority", "classes", "the", "revenue", "function", "-LRB-", "t", "-RRB-", "is", "given", "by", "-LRB-", "t", "-RRB-", "=", "P", "i", "=", "1", "r", "i", "-LRB-", "t", "-RRB-", "b", "i", "-LRB-", "t", "-RRB-", ".", "-LRB-", "8", "-RRB-", "The", "revenue", "function", "of", "equation", "-LRB-", "8", "-RRB-", "is", "utilized", "in", "section", "5", "for", "evaluating", "the", "strategies", "for", "revenue", "improvement", "presented", "below", ".", "4.2.1", ".", "Update", "of", "WFQ", "weights", "Recall", "that", "packets", "of", "NRT", "users", "arriving", "at", "the", "BSC", "are", "first", "queued", "until", "they", "are", "scheduled", "for", "transfer", "by", "a", "weighted", "fair", "queueing", "discipline", ".", "Let", "w", "i", "w", "i", "+1", ",", "i", "=", "1", ",", "...", ",", "P", "-", "1", ",", "be", "the", "basic", "weights", "of", "the", "WFQ", "scheduler", ".", "The", "update", "of", "the", "queueing", "weights", ",", "i.e.", ",", "determining", "w", "-LRB-", "new", "-RRB-", "i", "is", "made", "according", "to", "an", "absolute", "update", "function", "depending", "on", "the", "basic", "weights", "w", "i", "and", "the", "current", "number", "of", "NRT", "sessions", "belonging", "to", "priority", "i.", "Therefore", ",", "every", "system", "pattern", "that", "is", "transmitted", "from", "the", "online", "monitoring", "component", "to", "the", "adaptive", "performance", "management", "entity", "contains", "the", "current", "number", "of", "active", "NRT", "sessions", "with", "priority", "i", "in", "the", "cell", ".", "For", "ease", "of", "notation", ",", "the", "number", "of", "active", "non", "real-time", "sessions", "with", "priority", "i", "is", "abbreviated", "by", "NRT", "i", ".", "The", "idea", "behind", "the", "strategy", "for", "revenue", "improvement", "is", "to", "shift", "the", "overall", "utilization", "of", "bandwidth", "for", "NRT", "traffic", "214", "C.", "LINDEMANN", "ET", "AL.", "towards", "higher", "priority", "users", ",", "which", "pay", "more", "for", "the", "transferred", "data", "volume", ".", "Note", "that", "the", "update", "strategy", "should", "be", "conservative", "in", "a", "way", "that", "the", "transfer", "of", "packets", "of", "low", "priority", "is", "not", "simply", "blocked", "if", "packets", "of", "higher", "priorities", "are", "arriving", ",", "i.e.", ",", "priority", "queueing", ".", "Assuming", "that", "the", "majority", "of", "users", "will", "buy", "a", "cheaper", "low", "priority", "service", "class", ",", "priority", "queueing", "will", "leave", "most", "users", "unsatisfied", ".", "Therefore", ",", "the", "update", "strategy", "also", "considers", "the", "QoS", "aspect", ".", "The", "update", "strategy", "concerning", "the", "queueing", "weights", "is", "developed", "according", "to", "the", "following", "premises", ":", "-LRB-", "i", "-RRB-", "If", "the", "number", "of", "active", "NRT", "users", "in", "the", "cell", "is", "the", "same", "for", "each", "priority", "class", ",", "i.e.", ",", "NRT", "i", "=", "NRT", "j", ",", "i", "=", "j", ",", "the", "weights", "w", "-LRB-", "new", "-RRB-", "i", "should", "be", "set", "according", "to", "the", "basic", "weights", "w", "i", "for", "i", "=", "1", ",", "...", ",", "P", ".", "-LRB-", "ii", "-RRB-", "Priority", "classes", "with", "low", "population", "of", "users", "compared", "to", "other", "classes", "should", "be", "prioritized", ",", "i.e.", ",", "the", "corresponding", "weights", "should", "be", "increased", ".", "-LRB-", "iii", "-RRB-", "The", "relative", "ordering", "of", "the", "weights", "should", "be", "preserved", "in", "a", "strong", "way", ",", "i.e.", ",", "w", "-LRB-", "new", "-RRB-", "i", "-LRB-", "w", "i", "/", "w", "i", "+1", "-RRB-", "w", "-LRB-", "new", "-RRB-", "i", "+1", "for", "i", "=", "1", ",", "...", ",", "P", "-", "1", ".", "Premise", "-LRB-", "i", "-RRB-", "constitutes", "the", "key", "of", "the", "update", "strategy", ".", "If", "all", "priority", "classes", "have", "the", "same", "population", "of", "users", "the", "scheduling", "should", "work", "as", "in", "the", "case", "without", "adaptive", "control", "of", "the", "weights", ".", "The", "rationale", "behind", "premise", "-LRB-", "ii", "-RRB-", "is", "to", "prioritize", "users", "that", "are", "consuming", "less", "bandwidth", "-LRB-", "relative", "to", "their", "weights", "-RRB-", "than", "users", "belonging", "to", "other", "classes", ",", "i.e.", ",", "users", "of", "low", "population", "should", "be", "made", "more", "independent", "from", "the", "influence", "of", "user", "classes", "with", "higher", "population", ".", "This", "premise", "constitutes", "the", "basic", "idea", "for", "QoS", "improvement", "and", "is", "demon-strated", "by", "the", "following", "example", "that", "considers", "two", "priority", "classes", ",", "i.e.", ",", "a", "high", "and", "low", "priority", "class", ".", "In", "WFQ", "the", "available", "bandwidth", "is", "shared", "among", "all", "active", "users", "according", "to", "their", "weights", ".", "That", "is", ",", "if", "the", "minority", "are", "high", "priority", "users", ",", "the", "overall", "bandwidth", "consumed", "by", "these", "users", "will", "suffer", "from", "a", "strong", "influence", "of", "low", "priority", "users", "that", "hold", "the", "majority", ".", "Therefore", ",", "increasing", "the", "weights", "for", "high", "priority", "users", "will", "result", "in", "a", "higher", "QoS", "for", "this", "user", "class", ".", "Updating", "the", "weights", "according", "to", "this", "strategy", "will", "result", "in", "a", "scheduling", "algorithm", "somewhere", "between", "a", "WFQ", "and", "a", "class", "based", "queueing", "scheduler", ".", "In", "fact", ",", "the", "benefit", "of", "both", "is", "utilized", ":", "the", "fair", "sharing", "of", "the", "bandwidth", "of", "WFQ", "and", "the", "higher", "bandwidth", "guarantees", "for", "each", "priority", "class", "provided", "by", "a", "class", "based", "queueing", "scheduler", ".", "Preserving", "the", "relative", "ordering", "of", "the", "weights", "-LRB-", "i.e.", ",", "premise", "-LRB-", "iii", "-RRB-", "-RRB-", "guarantees", "that", "QoS", "for", "higher", "priority", "users", "and", ",", "therefore", ",", "the", "provider", "revenue", "can", "only", "be", "improved", "due", "to", "the", "adaptive", "control", "of", "the", "weights", ".", "If", "the", "intention", "of", "the", "update", "strategy", "is", "not", "primary", "on", "improving", "provider", "revenue", "the", "weights", "can", "be", "also", "set", "in", "a", "weak", "relation", ",", "i.e.", ",", "w", "-LRB-", "new", "-RRB-", "i", "w", "-LRB-", "new", "-RRB-", "i", "+1", ".", "This", "might", "be", "useful", "to", "increase", "QoS", "for", "users", "of", "low", "population", "independent", "of", "their", "priority", "class", ".", "With", "the", "following", "algorithm", "the", "computation", "of", "the", "weights", "w", "-LRB-", "new", "-RRB-", "1", ",", "...", ",", "w", "-LRB-", "new", "-RRB-", "P", "can", "be", "performed", "iteratively", "in", "P", "-1", "minimum", "calculations", ".", "The", "iteration", "is", "given", "by", "w", "-LRB-", "new", "-RRB-", "1", "=", "w", "1", "-LRB-", "NRT", "1", "-RRB-", ",", "-LRB-", "9", "-RRB-", "w", "-LRB-", "new", "-RRB-", "i", "=", "min", "w", "i", "w", "i", "-1", "w", "-LRB-", "new", "-RRB-", "i", "-1", ",", "w", "i", "-LRB-", "NRT", "i", "-RRB-", ",", "i", "=", "2", ",", "...", ",", "P.", "-LRB-", "10", "-RRB-", "In", "order", "to", "smooth", "the", "influence", "of", "the", "number", "of", "NRT", "users", "on", "the", "queueing", "weights", ",", "an", "exponent", "0", "is", "considered", "-LRB-", "e.g.", ",", "=", "1/2", "-RRB-", ".", "It", "is", "easy", "to", "show", "that", "premises", "-LRB-", "i", "-RRB-", ",", "-LRB-", "ii", "-RRB-", "and", "-LRB-", "iii", "-RRB-", "hold", "for", "the", "weights", "set", "according", "to", "equations", "-LRB-", "9", "-RRB-", "and", "-LRB-", "10", "-RRB-", ".", "The", "iteration", "starts", "with", "setting", "w", "-LRB-", "new", "-RRB-", "1", "according", "to", "NRT", "1", "and", "continues", "up", "to", "w", "-LRB-", "new", "-RRB-", "P", ".", "Note", "that", "this", "is", "only", "one", "possibility", "to", "set", "the", "new", "weights", ".", "Any", "other", "starting", "position", "for", "the", "iteration", "is", "possible", "and", "results", "in", "a", "slightly", "different", "update", "of", "the", "weights", ".", "Nevertheless", ",", "the", "algorithms", "work", "in", "a", "similar", "way", ",", "and", "therefore", ",", "we", "consider", "only", "the", "iteration", "of", "-LRB-", "9", "-RRB-", "and", "-LRB-", "10", "-RRB-", ".", "If", "currently", "no", "users", "of", "priority", "i", "are", "in", "the", "cell", ",", "i.e.", ",", "NRT", "i", "=", "0", ",", "the", "algorithm", "skips", "the", "setting", "of", "the", "corresponding", "weight", "w", "-LRB-", "new", "-RRB-", "i", "and", "the", "next", "iteration", "step", "i", "+", "1", "is", "related", "to", "step", "i", "-", "1", ".", "Subsequently", ",", "these", "weights", "were", "set", "to", "zero", ".", "For", "other", "scheduling", "disciplines", "like", "weighted", "round", "robin", "or", "a", "class", "based", "queueing", "corresponding", "update", "strategies", "can", "be", "derived", "in", "a", "similar", "way", ".", "4.2.2", ".", "Considering", "advanced", "pricing", "policies", "In", "pricing", "policy", "-LRB-", "b", "-RRB-", "introduced", "above", ",", "users", "have", "to", "pay", "an", "additional", "fee", "depending", "on", "the", "throughput", "improvement", "due", "to", "the", "update", "of", "the", "queueing", "weights", ".", "This", "concept", "of", "pricing", "indicates", "strong", "similarities", "to", "the", "congestion-sensitive", "pricing", "of", "the", "smart", "market", "scheme", "-LSB-", "21", "-RSB-", ",", "where", "the", "actual", "price", "for", "each", "packet", "is", "determined", "based", "on", "the", "current", "state", "of", "network", "congestion", ".", "Similarly", ",", "in", "our", "throughput-based", "pricing", "policy", "the", "throughput", "of", "users", "is", "determined", "by", "their", "willingness-to-pay", "additional", "costs", "-LRB-", "according", "to", "their", "choice", "of", "priority", "class", "-RRB-", "for", "transmission", "of", "packets", "in", "a", "congested", "network", ".", "The", "additional", "payment", "is", "justified", "because", "the", "throughput", "for", "users", "of", "higher", "priority", "will", "be", "maintained", ",", "even", "if", "more", "and", "more", "users", "of", "lower", "priority", "attend", "the", "cell", ",", "i.e.", ",", "the", "network", "is", "currently", "congested", ".", "We", "describe", "the", "relative", "throughput", "increase", "of", "priority", "class", "i", "with", "the", "function", "i", "-LRB-", "t", "-RRB-", "=", "-LRB-", "new", "-RRB-", "i", "=", "w", "P", "THR", "i", "w", "i", "THR", "P", ".", "-LRB-", "11", "-RRB-", "In", "equation", "-LRB-", "11", "-RRB-", ",", "THR", "i", "is", "the", "current", "throughput", "of", "class", "i", "derived", "from", "the", "corresponding", "sliding", "window", "and", "0", "1", "is", "a", "scaling", "exponent", "-LRB-", "e.g.", ",", "=", "1/4", "-RRB-", "that", "has", "to", "be", "adjusted", "by", "the", "service", "provider", "for", "appropriate", "revenue", "dimensioning", ".", "In", "order", "to", "guarantee", "that", "revenue", "will", "be", "only", "improved", ",", "i", "-LRB-", "t", "-RRB-", "has", "to", "be", "truncated", ",", "i.e.", ",", "i", "-LRB-", "t", "-RRB-", "1", ".", "Next", ",", "we", "adjust", "the", "weights", "according", "to", "an", "advanced", "pricing", "policy", "that", "adopts", "ideas", ",", "which", "have", "been", "successful", "in", "existing", "GSM", "networks", ".", "In", "GSM", "networks", ",", "the", "pricing", "of", "a", "provided", "service", "is", "as", "follows", ":", "the", "proposed", "service", "is", "offered", "based", "on", "a", "monthly", "payment", "for", "a", "dedicated", "amount", "IMPROVING", "QoS", "AND", "PROVIDER", "REVENUE", "IN", "3G", "MOBILE", "NETWORKS", "215", "of", "call", "time", ".", "If", "a", "user", "has", "consumed", "this", "amount", "of", "time", "before", "the", "end", "of", "the", "month", ",", "he", "has", "to", "pay", "for", "any", "further", "use", "of", "this", "service", "based", "on", "a", "time-dependent", "accounting", ".", "This", "idea", "can", "be", "generalized", "and", "extended", "towards", "packet-switched", "services", "in", "3G", "networks", ".", "Analogously", ",", "a", "user", "has", "to", "pay", "a", "monthly", "charge", "for", "a", "dedicated", "amount", "of", "data", "volume", ",", "which", "can", "be", "transferred", "without", "further", "pricing", ".", "After", "using", "up", "this", "monthly", "amount", "of", "data", ",", "the", "user", "has", "to", "pay", "for", "the", "desired", "services", "according", "to", "the", "transferred", "data", "volume", "-LRB-", "byte-based", "-RRB-", ".", "Moreover", ",", "analogous", "to", "GSM", "networks", "a", "user", "can", "utilize", "``", "unused", "''", "data", "volume", ",", "i.e.", ",", "the", "unused", "fraction", "of", "the", "prepaid", "monthly", "amount", "of", "data", "volume", ",", "in", "subsequent", "months", ".", "If", "the", "monthly", "amount", "of", "data", "is", "unrestricted", ",", "this", "pricing", "would", "become", "a", "flat-rate", "pricing", "and", "if", "there", "is", "no", "monthly", "payment", ",", "the", "pricing", "follows", "a", "usage-based", "policy", ".", "Thus", ",", "our", "pricing", "policy", "constitutes", "a", "hybrid", "approach", "of", "flat-rate", "and", "usage-based", "pricing", ".", "The", "update", "of", "the", "queueing", "weights", "can", "now", "be", "extended", "in", "a", "way", "that", "users", "consuming", "their", "monthly", "amount", "of", "data", "are", "served", "with", "a", "lower", "priority", "than", "users", "currently", "paying", "for", "their", "data", "transfer", ".", "Therefore", ",", "we", "introduce", "a", "new", "weight", "w", "corresponding", "to", "the", "not", "paying", "users", ".", "The", "weight", "w", "must", "be", "sorted", "in", "the", "weights", "w", "1", ",", "...", ",", "w", "P", "and", "the", "iterative", "update", "algorithm", "-LRB-", "9", "-RRB-", "-LRB-", "10", "-RRB-", "can", "be", "applied", "to", "the", "P", "+", "1", "weights", "as", "described", "above", ".", "In", "order", "to", "distinguish", "not", "paying", "users", "with", "different", "priorities", "these", "users", "are", "served", "by", "the", "WFQ", "scheduler", "with", "weights", "w", "1", ",", "...", ",", "w", "P", "relative", "to", "w", ".", "That", "is", ",", "WFQ", "is", "applied", "to", "2", "P", "weights", ",", "i.e.", ",", "w", "1", ",", "...", ",", "w", "P", "and", "-LRB-", "w", "/", "w", "-RRB-", "w", "1", ",", "...", ",", "-LRB-", "w", "/", "w", "-RRB-", "w", "P", "with", "w", "=", "w", "1", "+", "+", "w", "P", ".", "4.3", ".", "Implementation", "issues", "As", "outlined", "in", "section", "2.1", ",", "the", "controlled", "system", "parameters", "for", "QoS", "and", "revenue", "improvement", ",", "i.e.", ",", ",", "b", "h", ",", "w", "i", ",", "i", ",", "constitute", "an", "integral", "component", "of", "the", "proposed", "extension", "to", "a", "BSC", ".", "The", "adjustment", "of", "system", "parameters", "is", "only", "based", "on", "implicit", "information", "that", "is", "directly", "measured", "by", "the", "online", "monitoring", "component", ".", "Therefore", ",", "no", "additional", "signaling", "with", "other", "BSCs", "is", "necessary", "for", "updating", "system", "parameters", ".", "The", "online", "monitored", "QoS", "measures", ",", "i.e.", ",", "PLP", ",", "HFP", ",", "CBP", ",", "NRT", "i", ",", "and", "THR", "i", ",", "can", "easily", "be", "derived", "and", "stored", "within", "the", "BSC", "-LRB-", "see", "figure", "1", "-RRB-", ".", "The", "PLP", "can", "directly", "be", "determined", "by", "counting", "the", "number", "of", "IP", "packets", ",", "which", "are", "lost", "due", "to", "buffer", "overflow", "in", "the", "NRT", "queue", ".", "HFP", "as", "well", "as", "the", "CBP", "is", "determined", "by", "the", "non-admitted", "handover", "calls", "and", "new", "calls", "in", "the", "admission", "controller", ",", "respectively", ".", "Admission", ",", "termination", ",", "and", "handover", "of", "NRT", "calls", "enable", "the", "profiling", "of", "NRT", "i", ",", "the", "number", "of", "non", "real-time", "sessions", "with", "priority", "i.", "Moreover", ",", "the", "packet", "scheduler", "allows", "the", "throughput", "computation", "of", "NRT", "users", "according", "to", "their", "individual", "priorities", ".", "Furthermore", ",", "no", "time", "consuming", "signaling", "is", "needed", "to", "transfer", "the", "system", "pattern", "inside", "the", "BSC", "because", "the", "online", "performance", "monitoring", "component", "and", "the", "performance", "management", "entity", "both", "reside", "in", "the", "BSC", ".", "The", "question", "arises", "how", "call", "charging", "can", "be", "accomplished", "for", "the", "considered", "pricing", "policies", "in", "3G", "mobile", "networks", ".", "For", "pricing", "policy", "-LRB-", "a", "-RRB-", ",", "i.e.", ",", "a", "fixed", "payment", "per", "kbit", ",", "call", "charging", "can", "easily", "be", "processed", "by", "the", "subscription", "management", "component", "of", "the", "operation", "subsystem", "-LRB-", "OSS", "-RRB-", "by", "means", "of", "the", "call", "charging", "mechanism", "using", "the", "home", "location", "register", "-LRB-", "HLR", "-RRB-", "-LSB-", "1", "-RSB-", ".", "Similarly", ",", "the", "hybrid", "pricing", "scheme", "can", "be", "realized", "except", "that", "the", "remaining", "amount", "of", "prepaid", "data", "volume", "has", "to", "be", "stored", "in", "the", "HLR", "for", "charging", "the", "transferred", "data", "volume", ".", "Utilizing", "these", "existing", "charging", "mechanisms", ",", "no", "additionally", "signaling", "overhead", "arises", "for", "charging", "data", "services", ".", "The", "throughput-based", "pricing", "policy", "-LRB-", "pricing", "policy", "-LRB-", "b", "-RRB-", "-RRB-", "just", "slightly", "changes", "the", "situation", "and", "can", "easily", "be", "implemented", "within", "the", "BSC", "using", "a", "local", "copy", "of", "the", "user", "'s", "HLR", "charging", "data", "fields", ".", "This", "local", "data", "minimizes", "signaling", "overhead", "of", "individual", "user", "charging", ".", "According", "to", "the", "transferred", "data", "volume", "and", "current", "throughput", "of", "the", "user", "'s", "bandwidth", "class", ",", "this", "local", "charging", "profile", "is", "continuously", "updated", ".", "Handovers", "with", "changing", "BSC", "of", "response", "induce", "the", "transfer", "of", "this", "local", "charging", "profile", "to", "the", "new", "BSC", "of", "response", ".", "Subsequently", ",", "these", "local", "data", "have", "to", "be", "updated", "in", "the", "HLR", "for", "individual", "user", "accounting", "after", "termination", "of", "the", "call", ".", "Note", ",", "that", "this", "transfer", "of", "local", "charging", "profiles", "can", "naturally", "be", "embedded", "in", "the", "OSS", "functionality", ".", "For", "traffic", "modeling", "of", "RT", "applications", "we", "utilize", "the", "approach", "proposed", "in", "-LSB-", "18", "-RSB-", ",", "where", "variable", "bit", "rate", "video", "traffic", "is", "modeled", "in", "terms", "of", "time-discrete", "M/G", "/", "input", "processes", ".", "This", "model", "is", "based", "on", "measured", "video", "streams", "and", "efficiently", "captures", "the", "correlation", "structure", "of", "the", "considered", "video", "traffic", "applying", "the", "time-discrete", "M/G", "/", "input", "process", ".", "The", "generated", "traffic", "is", "transformed", "utilizing", "a", "hybrid", "Gamma/Pareto", "numerical", "transformation", "in", "order", "to", "capture", "the", "marginal", "distribution", "of", "the", "measured", "traffic", "stream", ".", "Subsequently", ",", "the", "synthetically", "generated", "traffic", "is", "broken", "down", "to", "IP", "packets", "of", "a", "maximum", "size", "of", "1500", "bytes", ",", "which", "are", "uniformly", "distributed", "within", "a", "given", "frame-duration", "of", "the", "MPEG", "video", "sequence", "comprising", "of", "1/30", "s.", "Note", "that", "this", "traffic", "model", "does", "not", "propose", "information", "for", "modeling", "RT", "session", "durations", ".", "Therefore", ",", "we", "assume", "session", "durations", "to", "be", "exponentially", "distributed", "-LRB-", "see", "section", "5.2", "-RRB-", ".", "Recent", "recommendations", "for", "modeling", "NRT", "traffic", "and", "analytical", "traffic", "models", "for", "3G", "mobile", "networks", "are", "proposed", "in", "-LSB-", "15,16", "-RSB-", ",", "respectively", ".", "The", "traffic", "model", "is", "based", "on", "real", "measurements", "conducted", "at", "an", "Internet", "service", "provider", "dial-in", "link", ",", "which", "comprises", "comparable", "characteristics", "of", "future", "mobile", "networks", "-LSB-", "17", "-RSB-", ",", "i.e.", ",", "different", "access", "speeds", ",", "influence", "of", "the", "user", "behavior", "due", "to", "different", "tariff", "limits", ",", "as", "well", "as", "asymmetric", "up", "-", "and", "downlink", "traffic", ".", "Based", "on", "these", "measurements", "a", "NRT", "traffic", "model", "is", "conducted", ",", "applying", "the", "idea", "of", "the", "single", "user", "traffic", "model", ",", "which", "describes", "traffic", "characteristics", "on", "session-level", ",", "connection-level", ",", "i.e.", ",", "application-level", ",", "and", "packet-level", ",", "respectively", ".", "The", "key", "insight", "of", "this", "modeling", "approach", "lies", "in", "an", "appropriate", "scaling", "procedure", "of", "216", "C.", "LINDEMANN", "ET", "AL.", ".", "Table", "1", "Characteristics", "for", "different", "UMTS", "session", "types", ".", "Circuit", "switched", "Streaming", "real", "time", "-LRB-", "RT", "-RRB-", "Interactive", "non", "real", "time", "-LRB-", "NRT", "-RRB-", "voice", "service", "Audio", "Video", "high", "priority", "normal", "priority", "low", "priority", "Portion", "of", "arriving", "requests", "25", "%", "12", "%", "3", "%", "6", "%", "18", "%", "36", "%", "Session", "duration", "120", "s", "180", "s", "determined", "by", "session", "volume", "distribution", "Session", "dwell", "time", "60", "s", "120", "s", "120", "s", "the", "measured", "trace", "data", "towards", "typical", "bandwidth", "classes", "of", "3G", "mobile", "networks", ",", "i.e.", ",", "64", "kbps", ",", "144", "kbps", ",", "and", "384", "kbps", ".", "In", "this", "context", ",", "a", "bandwidth", "class", "denotes", "the", "maximum", "bandwidth", "capability", "of", "future", "handheld", "devices", ".", "We", "refer", "to", "-LSB-", "15", "-RSB-", "for", "details", "of", "the", "NRT", "traffic", "model", ",", "especially", "for", "the", "parameterization", "of", "the", "traffic", "characteristics", ".", "5.2", ".", "The", "simulation", "environment", "In", "order", "to", "evaluate", "the", "proposed", "approach", "for", "adaptive", "control", ",", "we", "developed", "a", "simulation", "environment", "for", "a", "UMTS", "access", "network", ",", "i.e.", ",", "a", "UMTS", "Terrestrial", "Radio", "Access", "Network", "-LRB-", "UTRAN", "-LSB-", "3", "-RSB-", "-RRB-", ".", "The", "simulator", "considers", "a", "cell", "cluster", "comprising", "of", "seven", "hexagonal", "cells", "with", "corresponding", "transceiver", "stations", "-LRB-", "i.e.", ",", "Node", "B", "elements", "-RRB-", ",", "that", "are", "managed", "by", "a", "base", "station", "controller", "-LRB-", "i.e.", ",", "a", "Radio", "Network", "Controller", ",", "RNC", "-RRB-", ".", "We", "assume", "that", "a", "mobile", "user", "requests", "a", "new", "session", "in", "a", "cell", "according", "to", "a", "Poisson", "process", ".", "When", "a", "mobile", "user", "starts", "a", "new", "session", ",", "the", "session", "is", "classified", "as", "voice", ",", "RT", ",", "or", "NRT", "session", ",", "i.e.", ",", "with", "the", "session", "the", "user", "utilizes", "voice", ",", "RT", ",", "or", "NRT", "services", "mutually", "exclusive", ".", "RT", "sessions", "consist", "of", "streaming", "downlink", "traffic", "corresponding", "to", "the", "UMTS", "streaming", "class", "specified", "by", "3GPP", "-LSB-", "2", "-RSB-", "and", "NRT", "sessions", "consist", "of", "elastic", "traffic", "and", "correspond", "to", "the", "UMTS", "interactive", "class", "or", "background", "class", ",", "respectively", ".", "For", "the", "year", "2010", "an", "amount", "of", "about", "50", "%", "voice", "calls", "is", "anticipated", "-LSB-", "26", "-RSB-", ".", "We", "assume", "that", "one", "half", "of", "the", "voice", "calls", "are", "served", "over", "the", "frequency", "spectrum", "for", "traditional", "GSM", "services", "-LRB-", "i.e.", ",", "890", "915", "and", "935", "960", "MHz", "-RRB-", "and", "the", "second", "half", "is", "served", "over", "the", "new", "frequency", "spectrum", "allocated", "for", "UMTS", ".", "Nevertheless", ",", "the", "simulator", "considers", "only", "the", "new", "frequency", "spectrum", ".", "Therefore", ",", "we", "assume", "that", "25", "%", "of", "the", "call", "requests", "are", "voice", "calls", "whereas", "RT", "and", "NRT", "sessions", "constitute", "15", "%", "and", "60", "%", "of", "the", "overall", "arriving", "requests", "-LRB-", "see", "table", "1", "-RRB-", ".", "Subsequently", ",", "we", "have", "to", "specify", "the", "QoS", "profile", "for", "RT", "and", "NRT", "sessions", ".", "For", "RT", "sessions", "the", "simulator", "considers", "two", "QoS", "profiles", ",", "i.e.", ",", "a", "low", "bandwidth", "profile", "comprising", "of", "a", "guaranteed", "bit", "rate", "of", "64", "kbps", "corresponding", "to", "streaming", "audio", "and", "a", "high", "bandwidth", "profile", "comprising", "of", "a", "guaranteed", "bit", "rate", "of", "192", "kbps", "corresponding", "to", "streaming", "video", ".", "According", "to", "the", "RT", "traffic", "model", "presented", "in", "section", "5.1", ",", "we", "assume", "that", "80", "%", "of", "the", "RT", "sessions", "utilize", "the", "low", "bandwidth", "profile", "whereas", "the", "remaining", "20", "%", "utilize", "the", "high", "bandwidth", "profile", ".", "Following", "the", "single", "user", "traffic", "model", ",", "NRT", "sessions", "are", "partitioned", "according", "to", "different", "bandwidth", "classes", "as", "follows", ":", "60", "%", "for", "64", "kbps", ",", "30", "%", "for", "144", "kbps", ",", "and", "10", "%", "for", "384", "kbps", ",", "comprising", "of", "different", "priorities", "-LRB-", "see", "table", "1", "-RRB-", ",", "respectively", ".", "The", "amount", "of", "time", "that", "a", "mobile", "user", "with", "an", "ongoing", "session", "remains", "within", "the", "cell", "is", "called", "dwell", "time", ".", "If", "the", "session", "is", "still", "active", "after", "the", "dwell", "time", ",", "a", "handover", "toward", "an", "adjacent", "cell", "takes", "place", ".", "The", "call/session", "duration", "is", "defined", "as", "the", "amount", "of", "time", "that", "the", "call", "will", "be", "active", ",", "assuming", "it", "completes", "without", "being", "forced", "to", "terminate", "due", "to", "handover", "failure", ".", "We", "assume", "the", "duration", "of", "voice", "calls", "and", "RT", "sessions", "to", "be", "exponentially", "distributed", ".", "As", "proposed", "in", "-LSB-", "6", "-RSB-", ",", "the", "dwell", "time", "is", "modeled", "by", "a", "lognormal", "distribution", ".", "All", "corresponding", "mean", "values", "are", "shown", "in", "table", "1", ".", "A", "NRT", "session", "remains", "active", "until", "a", "specific", "data", "volume", "drawn", "according", "to", "a", "bandwidth-dependent", "lognormal", "distribution", "is", "transferred", ".", "To", "distinguish", "between", "NRT", "traffic", "classes", ",", "the", "UMTS", "simulator", "implements", "a", "WFQ", "scheduler", "with", "three", "packet", "priorities", ":", "1", "-LRB-", "high", "-RRB-", ",", "2", "-LRB-", "normal", "-RRB-", ",", "and", "3", "-LRB-", "low", "-RRB-", "with", "weights", "w", "1", "=", "4", ",", "w", "2", "=", "2", ",", "and", "w", "3", "=", "1", ".", "These", "priorities", "correspond", "to", "the", "traffic", "handling", "priority", "specified", "by", "3GPP", ".", "To", "model", "the", "user", "behavior", "in", "the", "cell", ",", "the", "simulator", "considers", "the", "handover", "flow", "of", "active", "mobile", "users", "from", "adjacent", "cells", ".", "The", "iterative", "procedure", "introduced", "in", "-LSB-", "4", "-RSB-", "is", "employed", "for", "balancing", "the", "incoming", "and", "outgoing", "handover", "rates", ".", "The", "iteration", "is", "based", "on", "the", "assumption", "that", "the", "incoming", "handover", "rate", "of", "a", "user", "class", "at", "step", "i", "+", "1", "is", "equal", "to", "the", "corresponding", "outgoing", "handover", "rate", "computed", "at", "step", "i.", "5.2.1", ".", "UMTS", "system", "model", "assumptions", "The", "simulator", "exactly", "mimics", "UMTS", "system", "behavior", "on", "the", "IP", "level", ".", "The", "focus", "is", "not", "on", "studying", "link", "level", "dynamics", ".", "Therefore", ",", "we", "assume", "a", "reliable", "link", "layer", "as", "provided", "by", "the", "automatic", "repeat", "request", "-LRB-", "ARQ", "-RRB-", "mechanism", "of", "the", "Radio", "Link", "Control", "-LRB-", "RLC", "-RRB-", "protocol", ".", "As", "shown", "in", "-LSB-", "22", "-RSB-", "for", "the", "General", "Packet", "Radio", "Service", "-LRB-", "GPRS", "-RRB-", ",", "the", "ARQ", "mechanism", "is", "fast", "enough", "to", "recover", "from", "packet", "losses", "before", "reliable", "protocols", "on", "higher", "layers", "-LRB-", "e.g.", ",", "TCP", "-RRB-", "recognize", "these", "losses", "due", "to", "timer", "expiration", ".", "Thus", ",", "a", "reliable", "link", "level", "can", "be", "assumed", "when", "considering", "higher", "layer", "protocol", "actions", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "20", "-RSB-", "-RRB-", ".", "To", "accurately", "model", "the", "UMTS", "radio", "access", "network", ",", "the", "simulator", "represents", "the", "functionality", "of", "one", "radio", "network", "controller", "and", "seven", "Node", "B", "transceiver", "stations", ",", "one", "for", "each", "of", "the", "considered", "cells", ".", "Since", "in", "the", "end-to-end", "path", ",", "the", "wireless", "link", "is", "typically", "the", "bottleneck", ",", "and", "given", "the", "anticipated", "traffic", "asymmetry", ",", "the", "simulator", "focuses", "on", "resource", "contention", "in", "the", "downlink", "-LRB-", "i.e.", ",", "the", "path", "RNC", "Node", "B", "MS", "-RRB-", "of", "the", "radio", "interface", ".", "The", "simulator", "considers", "the", "UTRAN", "access", "scheme", "based", "on", "Wideband-Code", "Division", "Multiple", "Access", "-LRB-", "W-CDMA", "-RRB-", "in", "Frequency", "Division", "Duplex", "mode", "-LRB-", "FDD", "-RRB-", "proposed", "by", "3GPP", "-LSB-", "1", "-RSB-", ".", "In", "FDD", "downlink", ",", "a", "division", "of", "the", "radio", "frequencies", "into", "IMPROVING", "QoS", "AND", "PROVIDER", "REVENUE", "IN", "3G", "MOBILE", "NETWORKS", "217", "four", "physical", "code", "channels", "with", "data", "rates", "of", "1,920", "kbps", "each", "up", "to", "512", "physical", "code", "channels", "with", "15", "kbps", "data", "rates", "each", "is", "possible", ".", "Therefore", ",", "the", "overall", "bandwidth", "that", "is", "available", "in", "one", "cell", "is", "7,680", "kbps", ".", "For", "the", "channel", "coding", ",", "we", "assume", "a", "convolution-coding", "scheme", "with", "coding", "factor", "2", ".", "In", "the", "experiments", "without", "adaptive", "control", "the", "handover", "bandwidth", "portion", "b", "h", "is", "5", "%", "and", "the", "NRT", "queue", "threshold", "is", "set", "to", "95", "%", ".", "The", "simulation", "environment", "was", "implemented", "using", "the", "simulation", "library", "CSIM", "-LSB-", "7", "-RSB-", ".", "In", "a", "presimulation", "run", "the", "handover", "flow", "is", "balanced", ",", "for", "each", "cell", "at", "the", "boundary", "of", "the", "seven-cell", "cluster", ".", "All", "simulation", "results", "are", "derived", "with", "confidence", "level", "of", "95", "%", "using", "the", "batch", "means", "method", ".", "The", "execution", "of", "a", "single", "simulation", "run", "requires", "about", "40", "60", "min", "of", "CPU", "time", "-LRB-", "depending", "on", "the", "call", "arrival", "rate", "-RRB-", "on", "a", "dual", "processor", "Sun", "Sparc", "Enterprise", "with", "one", "GByte", "main", "memory", ".", "5.2.2", ".", "Implementation", "of", "the", "hybrid", "pricing", "policy", "in", "the", "simulator", "According", "to", "the", "hybrid", "pricing", "policy", "as", "introduced", "in", "section", "4.2.2", ",", "the", "user", "'s", "overall", "remaining", "amount", "of", "prepaid", "data", "volume", "d", "out", "of", "the", "user", "'s", "monthly", "data", "volume", "D", "is", "determined", "at", "the", "beginning", "of", "a", "session", ".", "Moreover", ",", "the", "remaining", "amount", "of", "data", "volume", "of", "previous", "months", "r", "is", "determined", ".", "For", "simulation", "study", "purposes", ",", "this", "is", "accomplished", "by", "choosing", "the", "random", "value", "d", "uniformly", "out", "of", "the", "interval", "-LSB-", "0", ",", "kD", "-RSB-", ".", "kD", "captures", "the", "monthly", "amount", "of", "data", "a", "user", "typically", "transfers", ",", "i.e.", ",", "a", "user", "typically", "transfers", "a", "multiple", "k", "of", "the", "data", "volume", "D", "that", "is", "available", "for", "a", "fixed", "monthly", "payment", ".", "The", "random", "value", "r", ",", "is", "sampled", "according", "to", "a", "uniform", "distribution", "out", "of", "the", "interval", "-LSB-", "0", ",", "0.1", "D", "-RSB-", ",", "where", "0.1", "D", "measures", "the", "maximum", "amount", "of", "``", "unused", "''", "data", "volume", "of", "previous", "months", ".", "If", "d", "exceeds", "D", "+", "r", "the", "user", "has", "no", "remaining", "prepaid", "data", "volume", ",", "including", "the", "data", "volume", "of", "the", "current", "and", "the", "previous", "months", ".", "Otherwise", ",", "there", "is", "a", "remaining", "amount", "of", "prepaid", "data", "volume", "D", "+", "r", "-", "d", "for", "the", "considered", "user", "and", "additional", "pricing", "arises", "only", ",", "if", "the", "transferred", "data", "volume", "of", "the", "user", "session", "exceeds", "D", "+", "r", "-", "d.", "Thus", ",", "during", "the", "user", "session", "the", "remaining", "data", "volume", "has", "to", "be", "updated", "according", "to", "the", "actually", "transferred", "data", ".", "In", "the", "simulation", "studies", "we", "utilize", "the", "proposed", "hybrid-pricing", "scheme", "with", "a", "prepaid", "monthly", "data", "volume", "of", "150", "MB", ".", "According", "to", "the", "different", "priority", "classes", "1", ",", "2", ",", "and", "3", ",", "the", "volume-based", "pricing", "for", "transferred", "data", "exceeding", "the", "prepaid", "monthly", "data", "volume", "comprises", "of", "20", ",", "15", ",", "and", "10", "cost-units", "per", "MB", ",", "respectively", ".", "Considering", "the", "changing", "traffic", "loads", "according", "to", "the", "daytime", ",", "this", "approach", "can", "be", "refined", ",", "by", "the", "notion", "of", "different", "pricing", "for", "daily", "periods", "of", "time", ".", "For", "the", "parameterization", "of", "the", "typically", "monthly", "transferred", "data", "volume", ",", "we", "assume", "k", "=", "2", ".", "Note", "that", "the", "parameterization", "of", "the", "pricing", "scheme", "is", "chosen", "for", "demonstration", "purposes", "only", ".", "Due", "to", "the", "high", "flexibility", "of", "the", "hybrid", "pricing", "scheme", ",", "it", "can", "be", "easily", "extended", "towards", "multiple", ",", "concurrent", "pricing", "schemes", "comprising", "of", ",", "e.g.", ",", "different", "monthly", "amounts", "of", "prepaid", "data", "volumes", ",", "different", "payments", "for", "the", "individual", "priority", "classes", ",", "or", "a", "pure", "usage-based", "pricing", "as", "well", "as", "pure", "flat-rate", "pricing", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "2", ".", "Impact", "of", "adaptive", "performance", "management", "on", "non", "real-time", "traffic", ".", "5.3", ".", "Performance", "results", "Using", "simulation", "experiments", ",", "we", "illustrate", "the", "benefit", "of", "the", "proposed", "unified", "approach", "for", "adaptive", "performance", "management", "of", "UMTS", "systems", ".", "In", "particular", ",", "we", "show", "the", "improvement", "of", "QoS", "measures", "and", "the", "increase", "in", "revenue", "earned", "by", "service", "providers", ".", "The", "presented", "curves", "plot", "the", "mean", "values", "of", "the", "confidence", "intervals", "for", "the", "considered", "QoS", "measures", ".", "In", "almost", "all", "figures", ",", "the", "overall", "call/session", "arrival", "rate", "of", "new", "mobile", "users", "is", "varied", "to", "study", "the", "cell", "under", "increasing", "load", "conditions", ".", "For", "ease", "of", "notation", ",", "results", "with", "and", "without", "adaptive", "performance", "management", "-LRB-", "APM", "-RRB-", "are", "abbreviated", "by", "APM", "on", "and", "APM", "off", ",", "respectively", ".", "In", "a", "first", "experiment", ",", "we", "investigate", "the", "effect", "of", "adaptive", "control", "on", "the", "threshold", "for", "the", "buffer", "size", "of", "the", "NRT", "queue", "denoted", "by", ".", "Figure", "2", "shows", "the", "NRT", "packet", "loss", "probability", "-LRB-", "a", "-RRB-", "and", "the", "average", "number", "of", "NRT", "users", "in", "the", "cell", "-LRB-", "b", "-RRB-", "for", "the", "UMTS", "system", "with", "and", "without", "adaptive", "control", ".", "Furthermore", ",", "the", "figures", "distinguish", "between", "different", "desired", "loss", "levels", "as", "introduced", "in", "section", "3.2", ".", "We", "observe", "that", "the", "APM", "achieves", "a", "substantially", "decrease", "in", "packet", "loss", "probability", ".", "Moreover", ",", "the", "packet", "loss", "probability", "can", "be", "kept", "below", "a", "constant", "level", "for", "increasing", "arrival", "rates", "of", "mobile", "users", ".", "Note", ",", "that", "this", "level", "slightly", "differs", "from", "the", "desired", "level", "of", "the", "QoS", "measure", ".", "This", "is", "due", "to", "the", "fact", "that", "the", "update", "function", "only", "decreases", "the", "NRT", "threshold", "if", "the", "online", "218", "C.", "LINDEMANN", "ET", "AL.", ".", "Figure", "3", ".", "Number", "of", "packet", "losses", "for", "a", "half", "day", "window", "of", "a", "weekly", "usage", "pattern", ".", "measured", "packet", "loss", "probability", "is", "greater", "than", ".", "Therefore", ",", "the", "packet", "loss", "probability", "is", "in", "steady", "state", "also", "slightly", "greater", "than", ".", "Nevertheless", ",", "figure", "2", "shows", "that", "the", "resulting", "packet", "loss", "probability", "can", "be", "adjusted", "quite", "well", ".", "For", "very", "low", "arrival", "rates", ",", "the", "packet", "loss", "probability", "is", "increased", "compared", "to", "the", "case", "without", "adaptive", "control", ".", "This", "is", "because", "the", "packet", "loss", "probability", "is", "below", "the", "desired", "level", "and", "is", "adjusted", "towards", "100", "%", ".", "Figure", "2", "-LRB-", "b", "-RRB-", "shows", "the", "average", "number", "of", "NRT", "users", "admitted", "in", "the", "cell", ".", "For", "all", "curves", ",", "the", "number", "of", "NRT", "users", "in", "the", "cell", "first", "increases", "up", "to", "about", "70", "users", "for", "an", "arrival", "rate", "of", "1.0", "arrivals", "per", "second", ".", "For", "higher", "arrival", "rates", "the", "admission", "controller", "decides", "to", "reject", "requests", "depending", "on", "the", "choice", "of", "the", "NRT", "threshold", ".", "In", "the", "case", "without", "APM", "the", "number", "of", "NRT", "users", "approaches", "100", "whereas", "in", "the", "cases", "with", "adaptive", "control", "less", "users", "are", "admitted", "in", "the", "cell", "because", "the", "threshold", "parameter", "is", "decreased", "-LRB-", "e.g.", ",", "about", "80", "users", "for", "=", "0.001", "-RRB-", ".", "For", "high", "arrival", "rates", "a", "slightly", "decrease", "of", "the", "average", "number", "of", "NRT", "users", "can", "be", "observed", ".", "This", "is", "due", "to", "the", "fact", "that", "with", "increasing", "arrival", "rate", "the", "competition", "between", "voice", ",", "RT", "and", "NRT", "traffic", "decreases", "the", "bandwidth", "capacity", "available", "for", "NRT", "traffic", ".", "Therefore", ",", "less", "NRT", "users", "are", "admitted", ".", "In", "the", "experiment", "presented", "in", "figure", "3", ",", "we", "study", "the", "absolute", "number", "of", "packet", "losses", "observed", "in", "one", "hour", "for", "a", "transient", "scenario", ",", "i.e.", ",", "the", "arrival", "rate", "of", "new", "calls", "is", "changing", "every", "hour", "according", "to", "a", "half", "day", "window", "of", "a", "weekly", "usage", "pattern", "-LSB-", "15", "-RSB-", ".", "The", "purpose", "of", "this", "experiment", "is", "to", "show", "that", "the", "adaptive", "performance", "management", "is", "fast", "enough", "to", "react", "on", "changing", "traffic", "conditions", ",", "i.e.", ",", "to", "effectively", "adjust", "the", "NRT", "threshold", "in", "order", "to", "reduce", "packet", "losses", ".", "The", "bars", "shown", "in", "figure", "3", "correspond", "to", "the", "number", "of", "packet", "losses", "for", "experiments", "with", "and", "without", "adaptive", "control", ".", "Furthermore", ",", "the", "figure", "distinguishes", "between", "a", "desired", "loss", "level", "of", "0.01", "and", "0.001", ",", "respectively", ".", "The", "new", "call", "arrival", "rates", "considered", "in", "one", "hour", "are", "depicted", "above", "the", "bars", ".", "We", "conclude", "from", "figure", "3", "that", "for", "a", "real-life", "pattern", "of", "changing", "arrival", "rates", "the", "packet", "losses", "can", "be", "effectively", "controlled", "by", "the", "APM", ".", "This", "justifies", "the", "choice", "of", "the", "gradient", "m", "=", "-0.02", "in", "the", "update", "function", "for", "the", "NRT", "threshold", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "4", ".", "Impact", "of", "adaptive", "performance", "management", "on", "handover", "traffic", ".", "Next", ",", "we", "study", "the", "effect", "of", "the", "APM", "on", "the", "handover", "traffic", ".", "Figure", "4", "shows", "the", "handover", "failure", "probability", "-LRB-", "a", "-RRB-", "and", "the", "new", "call", "blocking", "probability", "-LRB-", "b", "-RRB-", "for", "the", "UMTS", "system", "with", "and", "without", "APM", ".", "Similar", "to", "figure", "2", ",", "we", "distinguish", "between", "different", "desired", "levels", "for", "the", "handover", "failure", "probability", ".", "The", "desired", "level", "for", "new", "call", "blocking", "is", "fixed", "to", "0.1", ".", "Note", ",", "that", "for", "controlling", "the", "handover", "bandwidth", "the", "desired", "level", "can", "be", "used", "only", "to", "adjust", "the", "degree", "of", "prioritization", "of", "handover", "failure", "over", "new", "call", "blocking", ".", "Distinct", "from", "the", "packet", "loss", "probability", ",", "it", "can", "not", "be", "expected", "to", "keep", "the", "handover", "failure", "probability", "at", "a", "constant", "level", "for", "increasing", "traffic", "load", ".", "That", "is", "for", "two", "reasons", ":", "-LRB-", "1", "-RRB-", "the", "handover", "bandwidth", "is", "adjusted", "according", "to", "two", "QoS", "measures", "that", "have", "a", "contrary", "influence", "and", "-LRB-", "2", "-RRB-", "the", "increase", "of", "the", "handover", "bandwidth", "must", "be", "limited", "by", "a", "certain", "portion", "of", "the", "overall", "available", "bandwidth", "-LRB-", "see", "section", "3.2", "-RRB-", ".", "If", "this", "limit", "is", "reached", "handover", "failures", "occur", "more", "frequently", "for", "further", "increasing", "call", "arrival", "rate", ".", "These", "two", "effects", "can", "be", "observed", "in", "the", "curves", "of", "figure", "4", ".", "Nevertheless", ",", "the", "handover", "failure", "probability", "is", "improved", "more", "than", "one", "order", "of", "magnitude", "for", "call", "arrival", "rates", "between", "0.75", "and", "1.25", "call", "requests", "per", "second", "and", "a", "desired", "loss", "level", "=", "0.001", ".", "When", "studying", "the", "blocking", "probability", "of", "new", "voice", "calls", "and", "RT", "sessions", "-LRB-", "see", "figure", "4", "-LRB-", "b", "-RRB-", "-RRB-", ",", "we", "surly", "observe", "a", "higher", "blocking", "probability", "of", "new", "calls", "in", "the", "case", "with", "adaptive", "control", "and", "high", "arrival", "rate", ".", "In", "IMPROVING", "QoS", "AND", "PROVIDER", "REVENUE", "IN", "3G", "MOBILE", "NETWORKS", "219", "Figure", "5", ".", "Improving", "QoS", "for", "high", "priority", "non", "real-time", "users", ".", "Figure", "6", ".", "Effect", "of", "adjusting", "WFQ", "weights", "on", "bandwidth", "utilization", "of", "NRT", "traffic", ".", "fact", ",", "almost", "all", "call", "requests", "are", "blocked", "if", "system", "load", "is", "high", ".", "In", "a", "next", "experiment", ",", "we", "study", "the", "impact", "of", "NRT", "users", "on", "QoS", "by", "the", "adaptive", "control", "of", "the", "queueing", "weights", "as", "introduced", "in", "section", "4.2", ".", "Figure", "5", "plots", "the", "average", "throughput", "per", "user", "for", "each", "priority", "class", "of", "NRT", "traffic", ".", "As", "shown", "in", "table", "1", ",", "we", "assume", "10", "%", "NRT", "users", "with", "high", "priority", ",", "30", "%", "with", "normal", "priority", ",", "and", "60", "%", "with", "low", "priority", ".", "Recall", ",", "that", "higher", "priority", "service", "is", "more", "expensive", "and", ",", "hence", ",", "more", "users", "choose", "low", "priority", "service", ".", "If", "the", "overall", "load", "in", "the", "cell", "is", "very", "low", "-LRB-", "i.e.", ",", "less", "than", "0.3", "call", "arrivals", "per", "second", "-RRB-", "each", "NRT", "user", "receives", "the", "maximal", "throughput", "independent", "of", "the", "priority", "class", ".", "However", ",", "when", "the", "cell", "load", "is", "further", "increased", "-LRB-", "arrival", "rates", "of", "more", "than", "0.5", "arrivals", "per", "second", "-RRB-", ",", "throughput", "for", "users", "of", "all", "priority", "classes", "decreases", ".", "The", "intention", "of", "adaptively", "controlling", "the", "queueing", "weights", "is", "to", "reduce", "heavy", "throughput", "degradation", "of", "high", "priority", "users", "in", "this", "case", ".", "The", "performance", "increase", "of", "high", "priority", "users", "and", "the", "decrease", "of", "low", "priority", "users", "are", "shown", "in", "figure", "5", ".", "Figure", "6", "plots", "the", "bandwidth", "portion", "utilized", "for", "each", "priority", "class", "of", "NRT", "traffic", ".", "For", "low", "arrival", "rate", "-LRB-", "i.e.", ",", "less", "than", "0.5", "call", "arrivals", "per", "second", "-RRB-", "NRT", "users", "with", "low", "priority", "utilize", "the", "greatest", "portion", "of", "the", "NRT", "bandwidth", "because", "most", "NRT", "users", "have", "priority", "low", ".", "When", "the", "cell", "load", "is", "increased", "-LRB-", "arrival", "rates", "of", "more", "than", "0.5", "arrivals", "per", "second", "-RRB-", ",", "the", "band", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "7", ".", "Revenue", "improvement", "for", "usage-based", "pricing", "policy", ".", "width", "will", "be", "utilized", "more", "and", "more", "by", "high", "priority", "users", ".", "The", "adaptive", "control", "of", "the", "WFQ", "weights", "decides", "to", "intensify", "this", "effect", "because", "users", "belonging", "to", "priority", "high", "suffer", "from", "the", "high", "population", "of", "low", "priority", "users", ".", "Figures", "5", "and", "6", "are", "derived", "from", "simulation", "runs", "with", "=", "1/2", "-LRB-", "see", "section", "4.2", "-RRB-", ".", "In", "the", "following", "experiments", ",", "we", "study", "the", "impact", "of", "controlling", "the", "queueing", "weights", "on", "the", "revenue", "function", "-LRB-", "see", "equation", "-LRB-", "8", "-RRB-", "-RRB-", "for", "the", "three", "proposed", "pricing", "policies", ",", "i.e.", ",", "usage-based", ",", "usage", "-", "/", "throughput-based", ",", "and", "the", "hybrid", "pricing", "policy", ".", "From", "the", "revenue", "function", "the", "average", "-LRB-", "steady", "state", "-RRB-", "provider", "revenue", "in", "the", "considered", "cell", "can", "be", "derived", ".", "Recall", "that", "the", "available", "bandwidth", "for", "NRT", "traffic", "is", "variable", "for", "different", "call", "arrival", "rates", ".", "Therefore", ",", "we", "consider", "the", "revenue", "earned", "by", "the", "provider", "in", "one", "hour", "per", "available", "bandwidth", "unit", ",", "i.e.", ",", "per", "available", "kbit", ",", "for", "NRT", "traffic", ".", "Figure", "7", "shows", "the", "provider", "revenue", "for", "the", "usage-based", "pricing", "policy", "-LRB-", "i.e.", ",", "=", "0", "-RRB-", "and", "different", "values", "of", "the", "exponent", ".", "As", "discussed", "in", "section", "4.2", ",", "the", "best", "revenue", "improvement", "will", "be", "achieved", "with", "priority", "queueing", ".", "From", "the", "curves", "we", "conclude", "that", "the", "update", "strategy", "increases", "the", "revenue", "in", "one", "cell", "successfully", "for", "the", "considered", "traffic", "assumptions", ".", "Recall", "that", "the", "revenue", "improvement", "stems", "from", "a", "shift", "in", "bandwidth", "utilization", "towards", "higher", "priority", "users", "-LRB-", "see", "figure", "6", "-RRB-", "if", "the", "population", "of", "high", "priority", "users", "is", "low", "compared", "to", "users", "of", "lower", "priority", ".", "Figure", "7", "-LRB-", "b", "-RRB-", "shows", "the", "revenue", "improvement", "for", "different", "user", "populations", ".", "In", "the", "experiment", "the", "percentage", "of", "high", "220", "C.", "LINDEMANN", "ET", "AL.", ".", "Figure", "8", ".", "Revenue", "improvement", "for", "usage", "-", "/", "throughput-based", "pricing", "policy", ".", "Figure", "9", ".", "Revenue", "improvement", "for", "hybrid", "pricing", "policy", ".", "priority", "users", "among", "the", "arriving", "user", "requests", "is", "varied", ".", "The", "remaining", "users", "are", "assumed", "to", "be", "low", "priority", "users", ".", "Normal", "priority", "users", "are", "not", "considered", "in", "this", "experiment", "-LRB-", "i.e.", ",", "0", "%", "normal", "priority", "users", "-RRB-", ".", "This", "figure", "shows", "how", "the", "adaptive", "control", "of", "the", "queueing", "weights", "works", ".", "As", "expected", ",", "for", "a", "low", "percentage", "of", "high", "priority", "users", "the", "corresponding", "weight", "is", "increased", ".", "Therefore", ",", "QoS", "for", "high", "priority", "users", "and", "the", "provider", "revenue", "is", "also", "increased", ".", "For", "more", "than", "50", "%", "high", "priority", "users", "the", "revenue", "is", "the", "same", "as", "in", "the", "case", "without", "adaptive", "control", ".", "No", "further", "revenue", "improvement", "is", "allowed", "because", "degradation", "of", "QoS", "for", "low", "priority", "users", "would", "be", "unacceptable", ".", "Considering", "a", "weak", "relation", "among", "the", "weights", "as", "introduced", "in", "section", "4.2", "would", "decrease", "the", "revenue", "compared", "to", "the", "case", "without", "adaptive", "control", "for", "more", "than", "50", "%", "high", "priority", "users", ".", "This", "might", "be", "useful", "to", "increase", "QoS", "for", "users", "of", "low", "population", "independent", "of", "their", "priority", "class", ".", "Figure", "8", "shows", "the", "revenue", "improvement", "for", "the", "usage", "-", "/", "throughput-based", "pricing", "policy", "and", "scaling", "exponents", "=", "1/4", "and", "=", "1/16", ".", "In", "the", "last", "experiment", "we", "studied", "the", "revenue", "improvement", "for", "the", "hybrid", "pricing", "policy", "-LRB-", "see", "figure", "9", "-RRB-", ".", "We", "assume", "that", "half", "of", "the", "arriving", "users", "start", "their", "session", "in", "non-paying", "mode", "-LRB-", "i.e.", ",", "k", "=", "2", "-RRB-", ".", "The", "curves", "distinguish", "between", "weights", "w", "=", "1", "and", "w", "=", "2", "for", "the", "non-paying", "users", ".", "Furthermore", ",", "the", "revenue", "for", "the", "case", "with", "and", "without", "adaptive", "control", "is", "compared", ".", "The", "curves", "are", "derived", "from", "simulations", "with", "=", "0", "and", "=", "1/2", ".", "From", "the", "revenue", "curves", "of", "figures", "7", "9", "the", "average", "monthly", "revenue", "can", "be", "computed", "considering", "a", "daily/weekly", "usage-pattern", "and", "different", "splits", "of", "call", "arrival", "rates", "of", "users", "requesting", "different", "services", "-LRB-", "i.e.", ",", "voice", ",", "RT", ",", "NRT", "with", "different", "priorities", "-RRB-", ".", "Comparing", "the", "monthly", "revenue", "for", "the", "pricing", "policies", "used", "in", "figures", "7", "9", "with", "the", "monthly", "revenue", "for", "the", "hybrid", "pricing", "policy", "a", "provider", "can", "determine", "values", "such", "as", "the", "monthly", "free", "data", "volume", "and", "monthly", "payment", "per", "user", ".", "We", "introduced", "a", "unified", "approach", "based", "on", "a", "mathematical", "framework", "for", "the", "adaptive", "performance", "management", "of", "3G", "mobile", "networks", ".", "Opposed", "to", "previous", "work", "-LSB-", "8,13,19,21,25", "-RSB-", ",", "the", "improvement", "of", "quality", "of", "service", "-LRB-", "QoS", "-RRB-", "and", "the", "optimization", "of", "mobile", "service", "provider", "revenue", "was", "considered", "in", "an", "integrated", "way", ".", "The", "unified", "approach", "aims", "at", "improving", "both", "QoS", "for", "mobile", "subscribers", "and", "increasing", "revenue", "earned", "by", "service", "providers", ".", "System", "parameters", "controlled", "by", "adaptive", "performance", "management", "constitute", "the", "portion", "of", "bandwidth", "reserved", "for", "handovers", ",", "the", "buffer", "threshold", "of", "the", "queue", "for", "non", "real-time", "traffic", ",", "and", "the", "weights", "of", "a", "weighted", "fair", "queueing", "packet", "scheduler", ".", "Using", "the", "UMTS", "traffic", "model", "of", "-LSB-", "15", "-RSB-", "and", "a", "simulator", "on", "the", "IP", "level", "for", "the", "UMTS", "system", ",", "we", "presented", "performance", "curves", "for", "various", "QoS", "measures", "to", "illustrate", "the", "benefit", "of", "the", "unified", "approach", "for", "adaptive", "performance", "management", ".", "We", "introduced", "update", "functions", "that", "effectively", "control", "the", "packet", "loss", "probability", "and", "the", "handover", "failure", "probability", ".", "Considering", "usage-based", ",", "usage", "-", "/", "throughput-based", ",", "and", "hybrid", "pricing", "policies", ",", "we", "showed", "that", "the", "provider", "revenue", "in", "one", "cell", "can", "be", "significantly", "increased", "by", "the", "adaptive", "control", "of", "the", "queueing", "weights", ".", "Throughout", "the", "paper", ",", "we", "considered", "the", "services", "and", "QoS", "profiles", "standardized", "for", "UMTS", ".", "Thus", ",", "the", "proposed", "approach", "for", "adaptive", "control", "is", "tailored", "to", "UMTS", "networks", ".", "However", ",", "by", "considering", "other", "services", "and", "QoS", "profiles", ",", "the", "basic", "ideas", "underlying", "the", "unified", "approach", "for", "adaptive", "performance", "management", "can", "also", "be", "applied", "for", "the", "adaptive", "control", "of", "other", "kinds", "of", "multi-service", "IP", "networks", ".", "-LSB-", "1", "-RSB-", "3GPP", ",", "http://www.3gpp.org", "-LSB-", "2", "-RSB-", "3GPP", ",", "QoS", "concept", "and", "architecture", ",", "Technical", "Specification", "TS", "23.107", "-LRB-", "September", "2001", "-RRB-", ".", "-LSB-", "3", "-RSB-", "3GPP", ",", "UTRAN", "overall", "description", ",", "Technical", "Specification", "TS", "25.401", "-LRB-", "September", "2001", "-RRB-", ".", "-LSB-", "4", "-RSB-", "M.", "Ajmone", "Marsan", ",", "S.", "Marano", ",", "C.", "Mastroianni", "and", "M.", "Meo", ",", "Performance", "analysis", "of", "cellular", "mobile", "communication", "networks", "supporting", "multimedia", "services", ",", "Mobile", "Networks", "and", "Applications", "5", "-LRB-", "2000", "-RRB-", "167", "177", ".", "-LSB-", "5", "-RSB-", "K.", "Aretz", ",", "M.", "Haardt", ",", "W.", "Konh", "user", "and", "W.", "Mohr", ",", "The", "future", "of", "wireless", "communications", "beyond", "the", "third", "generation", ",", "Computer", "Networks", "37", "-LRB-", "2001", "-RRB-", "83", "92", ".", "-LSB-", "6", "-RSB-", "F.", "Barcel", "and", "J.", "Jord", "n", ",", "Channel", "holding", "time", "distribution", "in", "public", "cellular", "telephony", ",", "in", ":", "Proceedings", "of", "the", "16th", "International", "Teletraffic", "Congress", ",", "Edinburgh", ",", "Scotland", "-LRB-", "1999", "-RRB-", "pp.", "107", "116", ".", "IMPROVING", "QoS", "AND", "PROVIDER", "REVENUE", "IN", "3G", "MOBILE", "NETWORKS", "221", "-LSB-", "7", "-RSB-", "CSIM18", "The", "Simulation", "Engine", ",", "http://www.mesquite.com", "-LSB-", "8", "-RSB-", "S.K.", "Das", ",", "R.", "Jayaram", ",", "N.K.", "Kakani", "and", "S.K.", "Sen", ",", "A", "call", "admission", "and", "control", "scheme", "for", "Quality-of-Service", "provisioning", "in", "next", "generation", "wireless", "networks", ",", "Wireless", "Networks", "6", "-LRB-", "2000", "-RRB-", "17", "30", ".", "-LSB-", "9", "-RSB-", "A.", "Demers", ",", "S.", "Keshav", "and", "S.", "Shenker", ",", "Analysis", "and", "simulation", "of", "a", "fair", "queueing", "algorithm", ",", "in", ":", "Proceedings", "of", "the", "International", "Symposium", "on", "Communications", "Architectures", "and", "Protocols", "-LRB-", "SIGCOMM", "-RRB-", ",", "Austin", ",", "TX", "-LRB-", "1989", "-RRB-", "pp.", "1", "12", ".", "-LSB-", "10", "-RSB-", "S.", "Floyd", "and", "V.", "Jacobson", ",", "Link-sharing", "and", "resource", "management", "models", "for", "packet", "networks", ",", "IEEE/ACM", "Transactions", "on", "Networking", "3", "-LRB-", "1995", "-RRB-", "365", "386", ".", "-LSB-", "11", "-RSB-", "X.", "Geng", "and", "A.B.", "Whinston", ",", "Profiting", "from", "value-added", "wireless", "services", ",", "IEEE", "Computer", "34", "-LRB-", "August", "2001", "-RRB-", "87", "89", ".", "-LSB-", "12", "-RSB-", "A.", "Gupta", ",", "D.O.", "Stahl", "and", "A.B.", "Whinston", ",", "The", "economics", "of", "network", "management", ",", "Communications", "of", "the", "ACM", "42", "-LRB-", "1999", "-RRB-", "57", "63", ".", "-LSB-", "13", "-RSB-", "A.", "Gupta", ",", "D.O.", "Stahl", "and", "A.B.", "Whinston", ",", "Priority", "pricing", "of", "integrated", "services", "networks", ",", "in", ":", "Internet", "Economics", ",", "eds", ".", "L.", "McKnight", "and", "J.", "Bailey", "-LRB-", "MIT", "Press", ",", "1995", "-RRB-", "pp.", "323", "378", ".", "-LSB-", "14", "-RSB-", "G.", "Haring", ",", "R.", "Marie", "and", "K.S.", "Trivedi", ",", "Loss", "formulas", "and", "their", "application", "to", "optimization", "for", "cellular", "networks", ",", "IEEE", "Transactions", "on", "Vehicular", "Technology", "50", "-LRB-", "2001", "-RRB-", "664", "673", ".", "-LSB-", "15", "-RSB-", "A.", "Klemm", ",", "C.", "Lindemann", "and", "M.", "Lohmann", ",", "Traffic", "modeling", "and", "characterization", "for", "UMTS", "networks", ",", "in", ":", "Proceedings", "of", "GLOBECOM", "2001", ",", "San", "Antonio", ",", "TX", "-LRB-", "November", "2001", "-RRB-", "pp.", "1741", "1746", ".", "-LSB-", "16", "-RSB-", "A.", "Klemm", ",", "C.", "Lindemann", "and", "M.", "Lohmann", ",", "Traffic", "modeling", "of", "IP", "networks", "using", "the", "batch", "Markovian", "arrival", "process", ",", "in", ":", "Proceedings", "of", "Tools", "2002", ",", "London", ",", "Great", "Britain", "-LRB-", "April", "2002", "-RRB-", "pp.", "92", "110", ".", "-LSB-", "17", "-RSB-", "J.", "Kilpi", "and", "I.", "Norros", ",", "Call", "level", "traffic", "analysis", "of", "a", "large", "ISP", ",", "in", ":", "Proceedings", "of", "the", "13th", "ITC", "Specialist", "Seminar", "on", "Measurement", "and", "Modeling", "of", "IP", "Traffic", ",", "Monterey", ",", "CA", "-LRB-", "2000", "-RRB-", "pp.", "6.1", "6.9", ".", "-LSB-", "18", "-RSB-", "M.", "Krunz", "and", "A.", "Makowski", ",", "A", "source", "model", "for", "VBR", "video", "traffic", "based", "on", "M/G", "/", "input", "processes", ",", "in", ":", "Proceedings", "of", "the", "17th", "Conference", "on", "Computer", "Communications", "-LRB-", "IEEE", "INFOCOM", "-RRB-", ",", "San", "Francisco", ",", "CA", "-LRB-", "1998", "-RRB-", "pp.", "1441", "1449", ".", "-LSB-", "19", "-RSB-", "C.", "Lindemann", ",", "M.", "Lohmann", "and", "A.", "Th", "mmler", ",", "Adaptive", "performance", "management", "for", "UMTS", "networks", ",", "Computer", "Networks", "38", "-LRB-", "2002", "-RRB-", "477", "496", ".", "-LSB-", "20", "-RSB-", "R.", "Ludwig", ",", "A.", "Konrad", "and", "A.D.", "Joseph", ",", "Optimizing", "the", "end-to-end", "performance", "of", "reliable", "flows", "over", "wireless", "links", ",", "in", ":", "Proceedings", "of", "the", "5th", "Conference", "on", "Mobile", "Computing", "and", "Networking", "-LRB-", "ACM", "MobiCom", "-RRB-", ",", "Seattle", ",", "WA", "-LRB-", "1999", "-RRB-", "pp.", "113", "119", ".", "-LSB-", "21", "-RSB-", "J.K.", "MacKie-Mason", "and", "H.R.", "Varian", ",", "Pricing", "the", "Internet", ",", "in", ":", "Public", "Access", "to", "the", "Internet", ",", "eds", ".", "B.", "Kahin", "and", "J.", "Keller", "-LRB-", "MIT", "Press", ",", "1995", "-RRB-", "pp.", "269", "314", ".", "-LSB-", "22", "-RSB-", "M.", "Meyer", ",", "TCP", "performance", "over", "GPRS", ",", "in", ":", "Proceedings", "of", "the", "First", "Wireless", "Communications", "and", "Networking", "Conference", "-LRB-", "IEEE", "WCNC", "-RRB-", ",", "New", "Orleans", ",", "MS", "-LRB-", "1999", "-RRB-", "pp.", "1248", "1252", ".", "-LSB-", "23", "-RSB-", "Mobile", "Wireless", "Internet", "Forum", "-LRB-", "MWIF", "-RRB-", ",", "OpenRAN", "architecture", "in", "3rd", "generation", "mobile", "systems", ",", "Technical", "report", "MTR-007", "-LRB-", "September", "2001", "-RRB-", "http://www.mwif.org", "-LSB-", "24", "-RSB-", "J.M.", "Peha", "and", "A.", "Sutivong", ",", "Admission", "control", "algorithms", "for", "cellular", "systems", ",", "Wireless", "Networks", "7", "-LRB-", "2001", "-RRB-", "117", "125", ".", "-LSB-", "25", "-RSB-", "S.", "Rao", "and", "E.R.", "Petersen", ",", "Optimal", "pricing", "of", "priority", "services", ",", "Operations", "Research", "46", "-LRB-", "1998", "-RRB-", "46", "56", ".", "-LSB-", "26", "-RSB-", "UMTS-Forum", ",", "UMTS/IMT", "-2000", "Spectrum", ",", "Report", "No.", "6", "-LRB-", "1999", "-RRB-", ".", "-LSB-", "27", "-RSB-", "H.", "Zhang", ",", "Service", "disciplines", "for", "guaranteed", "performance", "service", "in", "packet-switched", "networks", ",", "Proceedings", "of", "the", "IEEE", "83", "-LRB-", "1995", "-RRB-", "1374", "1396", ".", "-LSB-", "28", "-RSB-", "Wireless", "World", "Research", "Forum", "-LRB-", "WWRF", "-RRB-", ",", "http://www", ".", "wireless-world-research.org", "Christoph", "Lindemann", "is", "an", "Associate", "Professor", "in", "the", "Department", "of", "Computer", "Science", "at", "the", "University", "of", "Dortmund", "and", "leads", "the", "Computer", "Systems", "and", "Performance", "Evaluation", "group", ".", "From", "1994", "to", "1997", ",", "he", "was", "a", "Senior", "Research", "Scientist", "at", "the", "GMD", "Institute", "for", "Computer", "Architecture", "and", "Software", "Technology", "-LRB-", "GMD", "FIRST", "-RRB-", "in", "Berlin", ".", "In", "the", "summer", "1993", "and", "during", "the", "academic", "year", "1994/1995", ",", "he", "was", "a", "Visiting", "Scientist", "at", "the", "IBM", "Almaden", "Research", "Center", ",", "San", "Jose", ",", "CA", ".", "Christoph", "Lindemann", "is", "a", "Senior", "Member", "of", "the", "IEEE", ".", "He", "is", "author", "of", "the", "monograph", "Performance", "Modelling", "with", "Deterministic", "and", "Stochastic", "Petri", "Nets", "-LRB-", "Wiley", ",", "1998", "-RRB-", ".", "Moreover", ",", "he", "co-authored", "the", "survey", "text", "Performance", "Evaluation", "Origins", "and", "Directions", "-LRB-", "Springer-Verlag", ",", "2000", "-RRB-", ".", "He", "served", "on", "the", "program", "committees", "of", "various", "well-known", "international", "conferences", ".", "His", "current", "research", "interests", "include", "mobile", "computing", ",", "communication", "networks", ",", "Internet", "search", "technology", ",", "and", "performance", "evaluation", ".", "E-mail", ":", "cl@cs.uni-dortmund.de", "WWW", ":", "http://www4.cs.uni-dortmund.de/", "Lindemann", "/", "Marco", "Lohmann", "received", "the", "degree", "Diplom-Infor-matiker", "-LRB-", "M.S.", "in", "computer", "science", "-RRB-", "with", "honors", "from", "the", "University", "of", "Dortmund", "in", "March", "2000", ".", "Presently", ",", "he", "is", "a", "Ph.D.", "student", "in", "the", "Computer", "Systems", "and", "Performance", "Evaluation", "group", "at", "the", "University", "of", "Dortmund", ".", "He", "is", "a", "student", "member", "of", "the", "IEEE", "and", "the", "ACM", ".", "His", "research", "interests", "include", "mobile", "computing", ",", "Internet", "search", "technology", ",", "and", "stochastic", "modeling", ".", "E-mail", ":", "ml@ls4.cs.uni-dortmund.de", "Axel", "Th", "mmler", "received", "the", "degree", "Diplom-Infor-matiker", "-LRB-", "M.S.", "in", "computer", "science", "-RRB-", "from", "the", "University", "of", "Dortmund", "in", "April", "1998", ".", "Presently", ",", "he", "is", "a", "Ph.D.", "student", "in", "the", "Computer", "Systems", "and", "Performance", "Evaluation", "group", "at", "the", "University", "of", "Dortmund", ".", "His", "research", "interests", "include", "mobile", "computing", ",", "communication", "networks", ",", "and", "performance", "evaluation", ".", "E-mail", ":", "at@ls4.cs.uni-dortmund.de"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["adaptive performance management", "provider revenue", "admission control", "pricing policy", "3g mobile networks", "packet loss probability", "packet scheduler", "qos"], "abstractive_keyphrases": ["performance evaluation of next generation mobile systems", "pricing and revenue optimization", "admission control in mobile system", "quality of service in mobile systems"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "176", "document": ["Sensorbus", ":", "A", "Middleware", "Model", "For", "Wireless", "Sensor", "Networks", "The", "use", "of", "middleware", "eases", "the", "development", "of", "distributed", "applications", "by", "abstracting", "the", "intricacies", "-LRB-", "communication", "and", "coordination", "among", "software", "components", "-RRB-", "of", "the", "distributed", "network", "environment", ".", "In", "wireless", "sensor", "networks", ",", "this", "is", "even", "trickier", "because", "of", "their", "specific", "issues", "such", "as", "addressing", ",", "mobility", ",", "number", "of", "sensors", "and", "energy-limited", "nodes", ".", "This", "paper", "describes", "SensorBus", ",", "a", "message-oriented", "middleware", "-LRB-", "MOM", "-RRB-", "model", "for", "wireless", "sensor", "networks", "based", "on", "the", "publish-subscribe", "paradigm", "and", "that", "allows", "the", "free", "exchange", "of", "the", "communication", "mechanism", "among", "sensor", "nodes", "allowing", "as", "result", "the", "capability", "of", "using", "more", "than", "one", "communication", "mechanism", "to", "address", "the", "requirements", "of", "larger", "number", "of", "applications", ".", "We", "intend", "to", "provide", "a", "platform", "which", "addresses", "the", "main", "characteristics", "of", "wireless", "sensor", "networks", "and", "also", "allows", "the", "development", "of", "energy-efficient", "applications", ".", "SensorBus", "incorporates", "constraint", "and", "query", "languages", "which", "will", "aid", "the", "development", "of", "interactive", "applications", ".", "It", "intends", "with", "the", "utilization", "of", "filters", "reduces", "data", "movement", "minimizing", "the", "energy", "consumption", "of", "nodes", ".", "Recent", "advances", "in", "wireless", "networking", "technology", ",", "low-power", "digital", "circuits", ",", "sensing", "materials", "and", "Micro", "Electro-Mechanical", "Systems", "-LRB-", "MEMS", "-RRB-", "opened", "up", "the", "possibility", "of", "building", "small", "sensor", "devices", "capable", "of", "data", "processing", ",", "remote", "sensing", "and", "wireless", "communication", ".", "When", "several", "small", "sensors", "are", "scattered", "and", "linked", "over", "an", "area", "we", "may", "call", "this", "arrangement", "a", "``", "Sensor", "Network", "''", ".", "These", "networks", "can", "be", "used", "for", "collecting", "and", "analyzing", "data", "from", "the", "physical", "environment", ".", "More", "specifically", ",", "sensor", "networks", "are", "comprised", "of", "hundreds", "or", "even", "thousands", "of", "heterogeneous", "sensor", "nodes", "exchanging", "information", "to", "perform", "distributed", "sensing", "and", "collaborative", "data", "processing", "-LSB-", "1", "-RSB-", ".", "From", "a", "functional", "perspective", "sensor", "networks", "behave", "like", "distributed", "systems", "with", "many", "different", "types", "of", "sensor", "nodes", ".", "Given", "the", "diversity", "of", "node", "functionality", "and", "the", "size", "of", "these", "networks", "it", "is", "important", "for", "a", "user", "to", "be", "able", "to", "program", "and", "manage", "the", "distributed", "applications", "that", "perform", "the", "information", "gathering", ".", "A", "programmer", "may", "develop", "these", "applications", "using", "operating", "system", "primitives", ".", "This", "kind", "of", "procedure", ",", "however", ",", "brings", "another", "level", "of", "complexity", "to", "the", "programmer", ",", "in", "which", "he", "not", "only", "has", "to", "deal", "with", "low-level", "primitives", "but", "he", "will", "also", "have", "to", "treat", "issues", "concerning", "communication", "and", "coordination", "among", "software", "components", "distributed", "over", "the", "network", ".", "A", "much", "friendlier", "approach", "is", "the", "utilization", "of", "a", "middleware", "in", "order", "to", "provide", "higher-level", "primitives", "to", "hide", "issues", "concerning", "the", "distributed", "environment", ".", "Traditional", "middleware", "is", "not", "suited", "to", "this", "task", "because", "of", "the", "characteristics", "of", "wireless", "networks", ".", "For", "example", ",", "conventional", "middleware", "designed", "for", "wired", "networks", "raises", "exceptions", "when", "they", "do", "not", "find", "a", "specific", "component", ",", "but", "this", "situation", "is", "much", "more", "like", "the", "standard", "than", "the", "exception", "in", "wireless", "environments", ".", "The", "lower", "bandwidth", "available", "for", "wireless", "networks", "requires", "optimizing", "the", "transport", "of", "data", "and", "this", "is", "not", "considered", "in", "conventional", "middleware", ".", "The", "coordination", "primitives", "of", "these", "middleware", "products", "do", "not", "take", "into", "account", "the", "frequent", "disconnections", "that", "happen", "in", "wireless", "networks", ".", "Another", "problem", "is", "the", "size", "and", "computing", "requirements", "of", "these", "middleware", "products", ";", "they", "are", "often", "too", "large", "and", "too", "heavy", "to", "be", "running", "in", "a", "device", "with", "so", "few", "resources", ".", "Finally", ",", "the", "transparency", "level", "provided", "is", "not", "sufficient", "enough", "because", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "LANC", "'", "05", ",", "October", "10-12", ",", "2005", ",", "Cali", ",", "Colombia", "-LRB-", "c", "-RRB-", "2005", "ACM", "1-59593-008-6", "/", "05/0010", ".", ".", "$", "5.00", "2", "application", "running", "in", "such", "devices", "needs", "information", "about", "the", "execution", "context", "to", "better", "adapt", "itself", ".", "A", "series", "of", "new", "middleware", "environments", "were", "proposed", "to", "deal", "with", "the", "requirements", "imposed", "by", "the", "wireless", "environment", "-LSB-", "2", "-RSB-", ".", "Middleware", "products", "based", "on", "computing", "reflection", "are", "designed", "to", "be", "light", "-LRB-", "concerning", "the", "computing", "power", "required", "to", "run", "-RRB-", "and", "easily", "configurable", ".", "Middleware", "based", "on", "tuple", "space", "were", "proposed", "to", "address", "the", "problem", "of", "frequent", "disconnections", ",", "and", "present", "a", "more", "natural", "way", "to", "deal", "with", "asynchronous", "communication", ".", "Context-aware", "middleware", "includes", "the", "ability", "of", "an", "application", "to", "access", "its", "information", "context", "-LRB-", "context-awareness", "-RRB-", ".", "These", "proposals", "addressed", "adequately", "the", "issues", "brought", "by", "the", "mobile", "networks", ",", "but", "are", "not", "well", "suited", "to", "support", "the", "specific", "requirements", "of", "the", "target", "applications", "used", "or", "to", "be", "used", "in", "wireless", "sensor", "networks", "because", "they", "are", "designed", "to", "support", "traditional", "client-server", "applications", "used", "in", "regular", "-LRB-", "wired", "-RRB-", "environments", ".", "Wireless", "sensor", "networks", "are", "very", "similar", "to", "conventional", "wireless", "networks", ";", "including", "energy-limited", "nodes", ",", "low", "bandwidth", "and", "communication", "channels", "more", "prone", "to", "errors", ".", "However", ",", "communication", "in", "wireless", "sensor", "nets", "differs", "from", "the", "end-to-end", "connections", "often", "necessary", "in", "usual", "networks", "-LSB-", "1", "-RSB-", ".", "In", "other", "words", ",", "the", "function", "of", "the", "network", "is", "to", "report", "information", "considering", "the", "phenomenon", "to", "the", "observer", "who", "is", "not", "necessarily", "aware", "that", "the", "sensor", "infrastructure", "is", "being", "used", "as", "a", "means", "of", "communication", ".", "In", "addition", ",", "energy", "is", "much", "more", "limited", "in", "sensor", "networks", "than", "in", "other", "types", "of", "wireless", "nets", "due", "to", "the", "nature", "of", "the", "sensor", "devices", "and", "the", "difficulty", "of", "reloading", "batteries", "in", "hostile", "regions", ".", "Some", "works", "have", "shown", "that", "the", "execution", "of", "3000", "instructions", "costs", "the", "same", "amount", "of", "energy", "necessary", "to", "send", "1-bit", "of", "data", "over", "100", "meters", "via", "radio", "-LSB-", "3", "-RSB-", ".", "Those", "studies", "indicate", "that", "we", "must", "prioritize", "computing", "over", "communications", ".", "The", "communication", "issues", "are", "addressed", "in", "the", "several", "routing", "protocols", "proposed", "for", "wireless", "sensor", "nets", ".", "The", "communication", "model", "allows", "other", "ways", "of", "addressing", "the", "sensor", "nodes", "besides", "single", "addressing", ".", "The", "sensor", "nodes", "can", "be", "addressed", "by", "their", "own", "attributes", "or", "by", "attributes", "extracted", "from", "the", "physical", "environment", "-LRB-", "attribute-based", "naming", "-RRB-", ".", "The", "sharp", "limitation", "of", "energy", "demands", "that", "sensor", "nodes", "actively", "take", "part", "in", "the", "processing", "and", "dissemination", "of", "information", "in", "order", "to", "save", "as", "much", "energy", "as", "possible", ".", "Although", "the", "majority", "of", "the", "protocols", "reviewed", "are", "efficient", "in", "saving", "energy", ",", "they", "differ", "in", "addressing", "capabilities", ".", "Some", "of", "them", "utilize", "single", "addressing", "-LSB-", "4", "-RSB-", "while", "others", "utilize", "attribute-based", "naming", "-LSB-", "5", "-RSB-", ".", "Thus", ",", "each", "type", "of", "application", "requires", "an", "adaptation", "of", "the", "communication", "mechanism", "to", "address", "specific", "application", "issues", ".", "Trying", "to", "overcome", "these", "problems", "this", "paper", "proposes", "SensorBus", ",", "a", "message", "oriented", "middleware", "for", "sensor", "networks", "allowing", "the", "free", "exchanging", "of", "the", "communication", "mechanism", "among", "sensor", "nodes", ".", "We", "propose", "a", "platform", "that", "provides", "facilities", "for", "the", "development", "of", "energy-efficient", "applications", "and", "that", "also", "addresses", "the", "key", "characteristics", "of", "sensor", "networks", ".", "This", "type", "of", "middleware", "should", "be", "suited", "to", "perform", "environmental", "monitoring", "where", "single", "addressing", "is", "demanded", "-LRB-", "small", "areas", "-RRB-", "as", "well", "as", "where", "attribute-based", "naming", "is", "necessary", "-LRB-", "large", "areas", "-RRB-", ".", "The", "remainder", "of", "this", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "describes", "the", "type", "of", "sensor", "networks", "considered", "in", "this", "research", ";", "Section", "3", "presents", "the", "target", "application", "and", "explains", "its", "requirements", ";", "Section", "4", "broaches", "the", "abstractions", "and", "mechanisms", "needed", "to", "address", "the", "requirements", "listed", "on", "the", "previous", "section", ";", "Section", "5", "describes", "the", "components", "of", "the", "SensorBus", "architecture", ";", "Section", "6", "presents", "the", "communication", "architecture", "and", "explains", "the", "steps", "needed", "to", "develop", "an", "application", "using", "SensorBus", ";", "Section", "7", "broaches", "implementing", "and", "coding", "issue", ";", "Section", "8", "presents", "the", "related", "works", ",", "and", "finally", "Section", "9", "concludes", "the", "paper", ".", "Most", "of", "the", "algorithms", "catalogued", "in", "the", "sensor", "networks", "literature", "are", "hypothetical", "-LSB-", "1", "-RSB-", ",", "i.e.", ",", "they", "were", "proposed", "as", "an", "experiment", "and", "were", "not", "tested", "in", "real", "networks", "-LRB-", "although", "many", "of", "them", "were", "deployed", "in", "testbed", "environments", "-RRB-", ".", "This", "research", "is", "no", "different", ".", "When", "we", "speak", "about", "wireless", "sensor", "networks", ",", "we", "are", "referring", "to", "the", "projected", "and", "experimental", "designs", "and", "deployments", "discussed", "in", "the", "literature", "and", "not", "to", "actual", "instances", "of", "wireless", "sensor", "networks", "deployed", "in", "the", "field", ".", "Differently", "from", "the", "real", "settings", ",", "the", "testbed", "environments", "are", "built", "and", "organized", "focusing", "on", "the", "network", "features", "one", "wants", "to", "observe", "and", "test", ".", "This", "organization", "involves", "three", "main", "components", ":", "infrastructure", ",", "network", "protocols", "and", "applications", "-LSB-", "6", "-RSB-", ".", "The", "infrastructure", "is", "formed", "of", "sensor", "nodes", "and", "their", "topology", "the", "way", "they", "were", "scattered", "over", "a", "determined", "region", ".", "The", "network", "protocol", "is", "responsible", "for", "the", "creation", "and", "maintenance", "of", "communication", "links", "between", "sensor", "nodes", "and", "the", "applications", ".", "The", "applications", "extract", "information", "about", "a", "determined", "phenomenon", "through", "the", "sensor", "nodes", ".", "The", "following", "topics", "introduce", "in", "more", "details", "the", "assumptions", "made", "considering", "those", "aspects", ".", "2.1", "Applications", "The", "way", "in", "which", "the", "applications", "gather", "data", "from", "the", "sensor", "nodes", "depends", "on", "the", "network", "design", ".", "In", "the", "literature", ",", "we", "found", "that", "there", "are", "four", "data", "transfer", "modes", "between", "sensor", "nodes", "and", "applications", ":", "continuous", ",", "event-oriented", ",", "query-oriented", "and", "hybrid", "-LSB-", "6", "-RSB-", ".", "In", "the", "continuous", "model", ",", "sensor", "nodes", "transfer", "their", "data", "continuously", "at", "a", "predefined", "rate", ".", "In", "the", "event-oriented", "model", ",", "nodes", "transfer", "data", "only", "when", "an", "event", "of", "interest", "occurs", ".", "In", "the", "query-oriented", "model", "the", "application", "is", "responsible", "for", "deciding", "which", "events", "are", "of", "interest", ",", "thus", "requesting", "data", "about", "a", "phenomenon", ".", "Lastly", ",", "in", "the", "hybrid", "model", ",", "the", "three", "approaches", "may", "coexist", "together", ".", "In", "this", "research", ",", "we", "adopt", "a", "hybrid", "approach", "in", "the", "way", "that", "it", "utilizes", "the", "query", "and", "the", "event-oriented", "model", "as", "will", "be", "shown", "in", "the", "target", "application", "presented", "in", "Section", "3", ".", "2.2", "Network", "Protocol", "The", "performance", "of", "the", "network", "protocol", "is", "influenced", "by", "the", "communications", "model", "adopted", ",", "the", "packet", "data", "transfer", "mode", "and", "the", "network", "mobility", ".", "In", "order", "to", "evaluate", "how", "a", "network", "protocol", "behaves", "it", "is", "important", "to", "take", "into", "account", "these", "aspects", ".", "Communication", "in", "sensor", "networks", "is", "classified", "in", "two", "major", "categories", "-LSB-", "6", "-RSB-", ":", "application", "and", "infrastructure", ".", "Application", "communication", "consists", "of", "the", "transfer", "of", "data", "obtained", "by", "the", "sensor", "nodes", "to", "the", "observer", ".", "This", "kind", "of", "communication", "is", "of", "3", "two", "types", ":", "cooperative", "and", "non-cooperative", ".", "In", "cooperative", "mode", "sensor", "nodes", "exchange", "data", "among", "themselves", "before", "transmitting", "the", "data", "gathered", ".", "In", "non-cooperative", "mode", ",", "however", ",", "sensor", "nodes", "do", "not", "exchange", "any", "kind", "of", "information", ";", "each", "one", "is", "solely", "responsible", "for", "reporting", "its", "collected", "data", ".", "The", "infrastructure", "data", "refers", "to", "the", "information", "needed", "to", "set", ",", "maintain", "and", "optimize", "the", "running", "network", ".", "As", "the", "network", "protocol", "must", "support", "both", "categories", ",", "the", "SensorBus", "architecture", "will", "not", "address", "those", "issues", ".", "The", "packet", "data", "transfer", "is", "a", "routing", "issue", "concerning", "the", "network", "protocol", ".", "This", "routing", "is", "divided", "into", "three", "types", ":", "flooding", ",", "unicast", "and", "multicast", "-LSB-", "6", "-RSB-", ".", "In", "the", "flooding", "approach", ",", "the", "sensor", "node", "broadcasts", "its", "information", "to", "neighboring", "nodes", "that", ",", "in", "turn", ",", "broadcast", "this", "information", "to", "their", "neighboring", "nodes", "until", "the", "information", "reaches", "the", "destination", "node", ".", "Alternatively", ",", "the", "sensor", "node", "may", "transmit", "its", "data", "directly", "to", "the", "observer", "using", "unicast", "multi-hop", "routing", "and", "also", "might", "use", "a", "cluster-head", "through", "one-to", "-", "one", "unicast", ".", "Lastly", ",", "the", "multicast", "approach", "casts", "information", "to", "predefined", "groups", "of", "nodes", ".", "The", "routing", "protocol", "is", "responsible", "for", "treating", "packet", "data", "transfer", "relieving", "SensorBus", "of", "these", "issues", ".", "Regarding", "mobility", ",", "sensor", "networks", "are", "divided", "into", "static", "and", "dynamic", "-LSB-", "6", "-RSB-", ".", "In", "static", "nets", "there", "is", "no", "movement", "by", "sensor", "nodes", ",", "the", "observers", "or", "the", "phenomenon", "to", "be", "studied", ".", "Conversely", ",", "in", "dynamic", "networks", "the", "nodes", ",", "observers", "and", "the", "phenomenon", "might", "well", "change", "their", "locations", ".", "This", "kind", "of", "network", "is", "further", "classified", "by", "the", "mobility", "of", "its", "components", "in", "dynamic", "nets", "with", "mobile", "observer", ",", "dynamic", "nets", "with", "mobile", "sensors", "and", "dynamic", "nets", "with", "mobile", "phenomena", "respectively", ".", "In", "the", "first", ",", "the", "observer", "is", "mobile", "in", "relation", "to", "the", "sensors", "and", "phenomena", ";", "in", "the", "second", ";", "the", "sensors", "are", "moving", "with", "respect", "to", "each", "other", "and", "the", "observer", ";", "and", "in", "the", "later", ";", "the", "phenomenon", "itself", "is", "in", "motion", ".", "The", "routing", "protocol", "is", "also", "responsible", "for", "treating", "mobility", "issues", ",", "relieving", "SensorBus", "of", "these", "concerns", ".", "2.3", "Infrastructure", "As", "for", "the", "infrastructure", ",", "the", "issues", "to", "take", "into", "consideration", "are", "location", ",", "access", "point", "and", "sensor", "node", "'s", "computing", "power", ".", "The", "nodes", "have", "well-know", "locations", "and", "are", "to", "be", "scattered", "over", "a", "well-defined", "area", ".", "We", "will", "assume", "that", "all", "information", "is", "transmitted", "and", "received", "by", "means", "of", "a", "unique", "access", "point", "called", "the", "sink", "node", ".", "Despite", "the", "fact", "that", ",", "for", "this", "model", ",", "we", "will", "consider", "all", "nodes", "as", "being", "the", "same", ",", "there", "is", "nothing", "to", "prevent", "one", "node", "from", "having", "more", "memory", ",", "more", "energy", "or", "more", "computing", "power", "available", ".", "Environmental", "Monitoring", "Applications", "are", "used", "to", "evaluate", "qualitatively", "and", "quantitatively", "the", "natural", "resources", "of", "a", "determined", "area", ".", "These", "applications", "collect", "data", ",", "analyze", "and", "follow", "continuously", "and", "systematically", "environmental", "variables", "in", "order", "to", "identify", "current", "patterns", "and", "predict", "future", "trends", "-LSB-", "7", "-RSB-", ".", "Environmental", "monitoring", "provides", "information", "about", "the", "factors", "influencing", "conservation", ",", "preservation", ",", "degradation", "and", "environmental", "recovery", ".", "One", "might", "consider", "it", "a", "tool", "of", "evaluation", "and", "control", ".", "Wireless", "sensor", "networks", "can", "be", "used", "for", "performing", "environmental", "monitoring", "in", "indoor", "locations", "such", "as", "a", "building", "or", "a", "house", "or", "outdoors", "locations", "such", "as", "forests", ",", "lakes", ",", "deserts", ",", "rivers", ",", "etc.", ".", "Internal", "monitoring", "might", "be", "described", "as", "tracking", "the", "variables", "in", "an", "indoor", "location", ".", "For", "example", ",", "one", "might", "deploy", "an", "infrared", "camera", "to", "track", "motion", "in", "a", "room", "that", "is", "supposed", "to", "be", "secure", ";", "if", "motion", "is", "detected", "an", "internal", "device", "might", "trigger", "an", "alarm", ".", "Sometimes", "in", "order", "to", "detect", "and", "identify", "an", "event", ",", "information", "from", "more", "than", "one", "sensor", "might", "be", "required", ".", "These", "results", "are", "processed", "and", "compared", "with", "the", "signature", "of", "the", "event", "of", "interest", ".", "In", "outdoor", "monitoring", ",", "there", "may", "be", "thousands", "of", "sensors", "scattered", "over", "an", "area", "and", "when", "an", "event", "of", "interest", "occurs", "such", "as", "temperature", "change", ",", "moisture", "change", "or", "CO2", "increase", "the", "sensor", "might", "trigger", "the", "management", "events", "module", "which", "in", "turn", "sends", "the", "observer", "a", "signal", "to", "notify", "him", "or", "her", "of", "the", "event", ".", "Wireless", "sensors", "might", "be", "useful", "in", "a", "way", "that", "can", "save", "money", "in", "deploying", "a", "sensor", "infrastructure", "such", "as", "described", "in", "-LSB-", "8", "-RSB-", "where", "the", "authors", "were", "able", "to", "decrease", "the", "number", "of", "sensors", "needed", "to", "monitor", "forest", "fires", "in", "comparison", "with", "a", "wired", "model", ".", "In", "summary", ",", "the", "value", "of", "a", "wireless", "sensor", "network", "relies", "in", "its", "ability", "to", "provide", "information", "over", "a", "large", "area", "in", "reply", "to", "the", "questions", "put", "to", "users", ".", "The", "query", "mode", "is", "the", "most", "common", "approach", "used", ".", "Another", "approach", "is", "the", "mode", "in", "which", "sensors", "may", "remain", "waiting", "for", "some", "event", "to", "happen", ".", "By", "observing", "these", "aspects", "we", "draw", "the", "first", "requirement", "-LRB-", "R1", "-RRB-", "of", "our", "middleware", "model", ":", "The", "system", "must", "be", "able", "to", "function", "in", "two", "modes", ":", "query-driven", "and", "event-oriented", ".", "Depending", "on", "the", "application", "would", "be", "more", "convenient", "to", "access", "a", "specific", "node", "or", "a", "specific", "property", ".", "For", "example", ",", "in", "internal", "environmental", "monitoring", ",", "if", "one", "wants", "to", "know", "the", "temperature", "of", "a", "determined", "room", "you", "will", "have", "to", "access", "the", "information", "collected", "by", "a", "specific", "sensor", ",", "thus", "requiring", "unique", "node", "addressing", "and", "identification", ".", "On", "the", "other", "hand", ",", "in", "external", "environmental", "monitoring", ",", "sensor", "nodes", "do", "not", "need", "to", "be", "uniquely", "identified", ",", "as", "in", "this", "kind", "of", "application", "the", "purpose", "is", "to", "collect", "the", "value", "of", "a", "certain", "variable", "in", "a", "given", "area", ".", "From", "that", "observation", "we", "extract", "the", "second", "requirement", "-LRB-", "R2", "-RRB-", ":", "The", "system", "must", "be", "able", "to", "address", "uniquely", "the", "sensor", "nodes", "and", "also", "by", "attribute", "-LRB-", "property", "to", "be", "observed", "-RRB-", ".", "In", "some", "applications", "the", "mobility", "of", "sensor", "nodes", "must", "be", "taken", "into", "account", ".", "For", "example", ",", "sensors", "scattered", "over", "a", "forest", "for", "collecting", "dampness", "and", "temperature", "data", "are", "to", "be", "static", ",", "i.e.", "they", "must", "not", "change", "its", "geographical", "location", ",", "while", "that", "placing", "sensors", "in", "a", "river", "'s", "surface", "for", "collecting", "data", "about", "its", "contamination", "levels", "characterizes", "a", "mobile", "environment", ".", "Thus", ",", "the", "third", "requirement", "-LRB-", "R3", "-RRB-", "of", "our", "middleware", "model", "is", "taking", "into", "consideration", "mobility", "issues", ".", "The", "sensing", "coverage", "area", "of", "a", "given", "wireless", "node", "is", "smaller", "than", "its", "radio", "coverage", ".", "Besides", ",", "sensors", "operate", "in", "noisy", "environments", ".", "To", "achieve", "a", "trustworthy", "sensory", "resolution", "a", "high", "density", "of", "sensors", "is", "required", ".", "In", "some", "applications", "the", "size", "of", "the", "coverage", "area", "leads", "to", "a", "great", "number", "of", "sensor", "nodes", ".", "A", "simple", "application", "in", "the", "field", "of", "environmental", "monitoring", "such", "as", "surveillance", "of", "oceans", "and", "forests", "requires", "from", "hundreds", "to", "thousands", "of", "nodes", ".", "In", "other", "applications", ",", "like", "internal", "environmental", "monitoring", ",", "the", "amount", "of", "nodes", "is", "limited", "by", "the", "size", "of", "the", "area", ".", "Therefore", ",", "the", "fourth", "requirement", "-LRB-", "R4", "-RRB-", "is", "to", "take", "into", "account", "the", "size", "of", "the", "network", ".", "4", "In", "external", "environmental", "monitoring", ",", "the", "nodes", "are", "spread", "in", "a", "hostile", "region", ",", "where", "it", "is", "not", "possible", "to", "access", "them", "for", "maintenance", ".", "The", "lifetime", "of", "each", "sensor", "node", "depends", "exclusively", "on", "the", "little", "available", "energy", "for", "the", "node", ".", "To", "conserve", "energy", ",", "the", "speed", "of", "the", "CPU", "and", "the", "bandwidth", "of", "the", "RF", "channel", "-LRB-", "Radio", "Frequency", "-RRB-", "must", "be", "limited", ".", "This", "requirement", "adds", "some", "restrictions", "in", "CPU", "performance", ",", "memory", "size", ",", "RF", "bandwidth", "and", "in", "battery", "size", ".", "In", "applications", "where", "the", "sensors", "are", "not", "spread", "in", "a", "hostile", "region", "it", "is", "possible", "to", "access", "them", "for", "maintenance", "and", "the", "battery", "lifetime", "of", "each", "sensor", "does", "not", "become", "a", "critical", "aspect", ".", "Finally", ",", "the", "fifth", "requirement", "-LRB-", "R5", "-RRB-", "is", "to", "take", "into", "consideration", "the", "limited", "energy", "resources", "of", "each", "sensor", "node", ".", "This", "middleware", "model", "is", "comprised", "of", "three", "mechanisms", "and", "one", "abstraction", ".", "The", "publish-subscribe", "paradigm", "is", "employed", "as", "well", "as", "constraints", "and", "query", "languages", "and", "application", "filters", "to", "meet", "R1", ",", "R2", "and", "R5", "requirements", ".", "The", "design", "patterns", "abstraction", "is", "used", "to", "meet", "R2", ",", "R3", "and", "R4", "requirements", ".", "4.1", "Publish-Subscribe", "Paradigm", "The", "SensorBus", "is", "a", "Message", "Oriented", "Middleware", "-LRB-", "MOM", "-RRB-", "that", "employs", "the", "publish-subscribe", "paradigm", ".", "In", "this", "approach", ",", "a", "component", "that", "generates", "events", "-LRB-", "producer", "-RRB-", "publishes", "the", "types", "of", "events", "that", "will", "be", "available", "to", "other", "components", "-LRB-", "consumers", "-RRB-", "-LSB-", "9", "-RSB-", ".", "The", "consumer", "interested", "in", "a", "determined", "event", "``", "subscribes", "''", "to", "this", "event", ",", "receiving", "from", "this", "moment", "on", "notifications", "about", "the", "event", "``", "subscribed", "''", "to", ".", "These", "notifications", "are", "sent", "asynchronously", "from", "producers", "to", "all", "interested", "consumers", ".", "The", "MOM", "performs", "the", "functions", "of", "collecting", "producer", "'s", "messages", ",", "filtering", "and", "transforming", "such", "messages", "-LRB-", "when", "necessary", "-RRB-", "and", "routing", "them", "to", "the", "appropriate", "consumers", ".", "The", "publish-subscribe", "communication", "is", "anonymous", ",", "asynchronous", "and", "multicast", ".", "Data", "are", "sent", "and", "received", "by", "asynchronous", "broadcast", "messages", ",", "based", "in", "subject", ",", "independent", "from", "identity", "and", "location", "of", "producers", "and", "consumers", ".", "This", "kind", "of", "communication", "enlists", "desirable", "properties", "for", "sensor", "networks", ";", "for", "example", ",", "this", "model", "saves", "energy", "while", "a", "given", "node", "does", "not", "need", "to", "be", "waiting", "for", "a", "synchronous", "response", "to", "proceed", "as", "it", "is", "in", "networks", "that", "implements", "end-to-end", "connections", ",", "increasing", "the", "lifetime", "of", "the", "network", ".", "Furthermore", ",", "as", "it", "also", "implements", "multicast", ",", "a", "group", "of", "sensor", "might", "be", "formed", "regarding", "a", "specific", "application", ".", "As", "a", "consequence", ",", "the", "adoption", "of", "the", "publish-subscribe", "paradigm", "meets", "the", "R1", "requirement", ",", "concerning", "the", "need", "for", "events", "and", "the", "R2", "requirement", "pertaining", "to", "attribute", "addressing", ".", "In", "addition", "it", "also", "meets", "the", "R5", "requirement", "related", "to", "energy", "saving", ".", "4.2", "Constraint", "and", "Query", "Languages", "Constraint", "and", "Query", "languages", "are", "used", "to", "filter", "collecting", "data", "by", "specifying", "restrictions", "in", "the", "values", "and", "preferences", "of", "the", "attributes", ".", "A", "statement", "in", "these", "languages", "is", "a", "string", "that", "represents", "an", "expression", ".", "The", "constraint", "language", "only", "includes", "constants", "-LRB-", "values", "-RRB-", "and", "operations", "over", "values", ".", "Values", "and", "operations", "with", "integer", ",", "float", ",", "boolean", "and", "strings", "are", "allowed", ".", "The", "language", "admits", "several", "types", "of", "expressions", ".", "The", "expressions", "can", "be", "comparative", ":", "==", "-LRB-", "equality", "-RRB-", ",", "!", "=", "-LRB-", "inequality", "-RRB-", ",", ">", ",", ">", "=", ",", "<", ",", "<", "=", ".", "For", "instance", ",", "Temperature", "<", "36.6", "means", "to", "consider", "data", "where", "the", "attribute", "Temperature", "is", "less", "than", "36.6", "degrees", "Celsius", ".", "The", "expressions", "can", "be", "boolean", ":", "AND", ",", "OR", ",", "NOT", ".", "For", "example", ",", "Temperature", ">", "=", "26.6", "AND", "Temperature", "<", "=", "36.6", "implies", "to", "consider", "data", "where", "the", "value", "of", "the", "attribute", "Temperature", "is", "between", "26.6", "and", "36.6", "degrees", "Celsius", ".", "The", "expressions", "can", "be", "numerical", "with", "the", "mathematical", "operators", "+", "-LRB-", "addition", "-RRB-", ",", "-", "-LRB-", "subtraction", "-RRB-", ",", "*", "-LRB-", "multiplication", "-RRB-", "and", "/", "-LRB-", "division", "-RRB-", ".", "The", "query", "language", "has", "its", "syntax", "based", "on", "a", "subgroup", "of", "the", "conditional", "expression", "syntax", "SQL92", "-LSB-", "10", "-RSB-", ".", "It", "is", "an", "extension", "of", "the", "constraints", "language", "with", "new", "functions", ".", "This", "new", "language", "embodies", "identifiers", "that", "can", "hold", "a", "constant", "value", ".", "A", "mapping", "between", "identifiers", "and", "values", "is", "required", ".", "In", "the", "evaluation", "of", "an", "expression", ",", "the", "occurrence", "of", "an", "identifier", "is", "replaced", "by", "its", "associated", "value", ".", "The", "addition", "of", "new", "operators", "-LRB-", "between", ",", "like", ",", "in", ",", "is", ",", "escape", "-RRB-", "allows", "submitting", "queries", "similar", "to", "those", "used", "in", "databases", "compliant", "with", "SQL92", ".", "For", "example", ",", "queries", "of", "the", "type", "--", "Temperature", "between", "26.6", "and", "36.6", "--", "are", "possible", ".", "The", "constraint", "and", "query", "languages", "are", "intended", "to", "ease", "the", "work", "programming", "of", "online", "applications", ".", "This", "type", "of", "application", "access", "the", "information", "sent", "in", "real-time", "by", "the", "sensor", "nodes", ".", "Thus", ",", "it", "completes", "the", "attendance", "of", "the", "R1", "requirement", "on", "the", "way", "of", "operation", "for", "query", ".", "4.3", "Application", "Filters", "Filters", "are", "application", "specific", "software", "modules", "that", "deal", "with", "diffusion", "and", "data", "processing", "-LSB-", "11", "-RSB-", ".", "Filters", "are", "provided", "before", "deploying", "a", "sensor", "network", ".", "Each", "filter", "is", "specified", "using", "a", "list", "of", "attributes", "to", "make", "possible", "the", "matching", "with", "the", "incoming", "data", ".", "Filters", "are", "used", "to", "make", "internal", "aggregation", "of", "data", ",", "collaborative", "signals", "processing", ",", "caching", "and", "tasks", "that", "control", "the", "data", "flow", "in", "the", "sensor", "network", "-LSB-", "11", "-RSB-", ".", "In", "SensorBus", ",", "filters", "will", "be", "used", "to", "limit", "the", "data", "flow", "in", "the", "network", ".", "A", "filter", "can", "be", "designed", "to", "restrict", "the", "range", "of", "values", "of", "a", "determined", "attribute", ",", "for", "example", "the", "application", "requires", "that", "the", "attribute", "Temperature", "has", "values", "ranging", "between", "20", "and", "30", "degrees", "Celsius", ",", "the", "values", "outside", "this", "particular", "range", "are", "of", "no", "interest", ".", "The", "filtering", "process", "discards", "the", "unnecessary", "data", "reducing", "the", "flow", "between", "the", "nodes", ".", "This", "decrease", "reduces", "the", "consumption", "of", "energy", "in", "sensor", "nodes", ".", "Thus", ",", "it", "completes", "the", "attendance", "of", "the", "R5", "requirement", "about", "the", "energy", "saving", "of", "the", "sensor", "nodes", ".", "4.4", "Design", "Patterns", "Design", "patterns", "are", "descriptions", "of", "objects", "and", "communicating", "classes", "that", "are", "customized", "to", "solve", "a", "general", "design", "problem", "within", "a", "particular", "context", "-LSB-", "12", "-RSB-", ".", "It", "describes", "commonly", "recurring", "design", "architectures", "extracted", "from", "the", "experience", "of", "one", "or", "more", "domain", "specialists", ".", "A", "design", "pattern", "names", ",", "abstracts", ",", "and", "identifies", "the", "key", "aspects", "of", "a", "common", "design", "structure", "that", "make", "it", "useful", "for", "creating", "a", "reusable", "object-oriented", "design", "-LSB-", "12", "-RSB-", ".", "We", "make", "use", "of", "design", "patterns", "in", "SensorBus", "project", "and", "the", "types", "we", "have", "utilized", "are", "as", "follows", ":", "5", "The", "Observer", "pattern", ":", "Defines", "a", "one-to-many", "dependency", "between", "objects", "so", "that", "when", "one", "object", "changes", "state", ",", "all", "of", "its", "dependents", "are", "notified", "and", "updated", "automatically", ".", "We", "utilize", "this", "pattern", "to", "implement", "the", "publish-subscribe", "mechanism", ".", "The", "Interpreter", "pattern", ":", "Defines", "a", "representation", "for", "its", "grammar", "along", "with", "an", "interpreter", "that", "uses", "the", "representation", "to", "interpret", "sentences", "in", "the", "language", ".", "We", "make", "use", "of", "this", "pattern", "to", "implement", "the", "constraint", "and", "query", "language", ".", "The", "Facade", "pattern", ":", "Defines", "a", "unified", "-LRB-", "higher-level", "-RRB-", "interface", "to", "a", "set", "of", "interfaces", "in", "a", "subsystem", "that", "makes", "the", "subsystem", "easier", "to", "use", ".", "We", "use", "this", "pattern", "to", "implement", "the", "middleware", "high-level", "primitives", "which", "will", "be", "available", "to", "developers", ".", "The", "Mediator", "pattern", ":", "Defines", "an", "object", "that", "encapsulates", "how", "a", "set", "of", "objects", "interact", ".", "Mediator", "promotes", "loose", "coupling", "by", "keeping", "objects", "from", "referring", "to", "each", "other", "explicitly", ",", "and", "it", "lets", "you", "vary", "their", "interaction", "independently", ".", "The", "Adapter", "pattern", ":", "Converts", "the", "interface", "of", "a", "class", "into", "another", "interface", "clients", "expect", ".", "Adapter", "lets", "classes", "work", "together", "that", "could", "n't", "otherwise", "because", "of", "incompatible", "interfaces", ".", "The", "Router", "pattern", ":", "Decouples", "multiple", "sources", "of", "input", "from", "multiple", "sources", "of", "output", "to", "route", "data", "correctly", "without", "blocking", ".", "The", "design", "patterns", "Mediator", ",", "Adapter", "e", "Router", "are", "utilized", "to", "implement", "the", "middleware", "message", "bus", ".", "The", "exchangeable", "communication", "mechanism", "was", "written", "using", "these", "patterns", ".", "This", "mechanism", "allows", "the", "utilization", "of", "any", "routing", "protocol", "designed", "for", "sensor", "networks", "meeting", "as", "a", "result", "the", "requirements", "R2", ",", "R3", "and", "R4", ".", "SensorBus", "is", "comprised", "of", "the", "following", "elements", ":", "an", "application", "service", ",", "a", "message", "service", "and", "a", "context", "service", "as", "shown", "in", "Figure", "1", ".", "Figure", "1", ".", "Middleware", "architecture", ".", "The", "following", "sections", "present", "each", "one", "of", "the", "services", "mentioned", "by", "the", "means", "of", "UML", "-LRB-", "Unified", "Modeling", "Language", "-RRB-", "component", "diagrams", "-LSB-", "13", "-RSB-", ".", "5.1", "Application", "Service", "The", "application", "service", "provides", "Application", "Programming", "Interface", "-LRB-", "API", "-RRB-", "which", "simplifies", "application", "development", ".", "This", "service", "is", "comprised", "of", "three", "components", "as", "shown", "in", "Figure", "2", ":", "Figure", "2", ".", "Application", "Service", "Architecture", ".", "DataBus", ":", "component", "providing", "a", "set", "of", "operations", "relating", "to", "bus", "communication", "for", "consumers", "and", "producers", ".", "These", "operations", "include", ":", "Announcement", "of", "data", "item", "-LRB-", "producer", "-RRB-", ";", "to", "find", "a", "data", "item", "-LRB-", "consumer", "-RRB-", ";", "Announcement", "of", "data", "change", "-LRB-", "consumer", "-RRB-", ";", "Exclude", "data", "item", "-LRB-", "producer", "-RRB-", ".", "Filter", ":", "component", "providing", "a", "set", "of", "operations", "relating", "to", "data", "filtering", ".", "Language", ":", "component", "that", "implements", "the", "commands", "and", "the", "constraint", "and", "query", "language", "interpreter", ".", "5.2", "Message", "Service", "Message", "service", "is", "responsible", "for", "providing", "communication", "and", "coordination", "for", "the", "distributed", "components", ",", "abstracting", "the", "developer", "from", "these", "issues", ".", "This", "service", "also", "comprises", "three", "components", "as", "is", "shown", "in", "figure", "3", ":", "Figure", "3", ".", "Message", "Service", "Architecture", ".", "Channel", ":", "Component", "designed", "to", "deal", "with", "the", "specific", "transport", "implementations", ".", "Each", "instance", "of", "Channel", "represents", "a", "simple", "system", "channel", ".", "The", "component", "Channel", "maintains", "the", "global", "state", "information", "about", "the", "availability", "of", "channels", "and", "is", "also", "responsible", "for", "exchanging", "channel", "'s", "messages", "to", "the", "transport", "implementation", "and", "vice", "versa", ".", "Transport", ":", "The", "communication", "among", "the", "nodes", "is", "made", "through", "a", "specific", "transport", "implementation", "such", "as", "sockets", ".", "Each", "transport", "implementation", "communicates", "through", "a", "channel", "with", "a", "message", "exchange", "server", "called", "Sinker", ".", "All", "transport", "implementations", "have", "a", "common", "interface", "which", "is", "called", "ITransport", ".", "Sinker", ":", "Component", "responsible", "for", "routing", "messages", "among", "instances", "of", "transport", "implementation", ",", "each", "instance", "corresponding", "to", "an", "instance", "of", "Channel", ".", "Channel", "IChannel", "Sinker", "Transport", "ITransport", "Filter", "DataBus", "IDataBus", "Language", "ILanguage", "NOS", "-", "JVM/KVM", "Application/User", "Application", "Service", "Message", "Context", "Service", "6", "5.3", "Context", "Service", "Inherently", ",", "an", "application", "running", "on", "a", "wireless", "sensor", "network", "needs", "to", "capture", "information", "from", "the", "execution", "context", ",", "for", "example", ",", "battery", "level", ",", "memory", "availability", ",", "bandwidth", ",", "location", ",", "application", "specific", "information", "such", "as", "temperature", "and", "pressure", ",", "etc.", ".", "The", "middleware", "gets", "this", "information", "by", "interacting", "with", "several", "heterogeneous", "sensors", ";", "for", "example", ",", "the", "level", "of", "energy", "remaining", "on", "batteries", "can", "be", "obtained", "by", "executing", "an", "operating", "system", "primitive", ",", "location", "can", "be", "acquired", "from", "various", "communications", "technology", "such", "as", "GPS", ",", "infrared", "and", "RF", ".", "This", "work", "does", "not", "take", "into", "consideration", "how", "the", "context", "sensing", "is", "executed", ";", "it", "is", "assumed", "that", "each", "sensor", "provides", "an", "interface", "so", "the", "middleware", "can", "use", "it", "to", "get", "the", "value", "of", "the", "resource", "of", "interest", ".", "The", "context", "service", "manages", "the", "heterogeneous", "sensors", "that", "collect", "information", "from", "the", "environment", ".", "For", "each", "resource", "the", "middleware", "manages", ",", "there", "is", "an", "adapter", "that", "interacts", "with", "the", "physical", "sensor", ",", "processes", "its", "information", "thus", "obtaining", "the", "information", "demanded", "by", "the", "application", ".", "Only", "resource", "adapters", "that", "are", "necessary", "to", "the", "running", "application", "will", "be", "loaded", "to", "avoid", "unnecessary", "spending", "of", "the", "node", "'s", "scarce", "computing", "power", ".", "Figure", "4", "shows", "an", "energy", "adapter", "interacting", "with", "an", "energy", "sensor", "-LRB-", "an", "operating", "system", "primitive", ",", "in", "this", "example", "-RRB-", ".", "Figure", "4", ".", "Context", "Service", "Architecture", ".", "Figure", "5", "shows", "the", "sensor", "network", "communication", "architecture", ".", "Each", "node", "in", "the", "field", "has", "the", "ability", "to", "collect", "data", "and", "send", "it", "to", "the", "next", "sink", "node", ".", "The", "sink", "node", "can", "be", "a", "mobile", "node", "acting", "as", "a", "data", "source", "or", "a", "fixed", "host", "computer", "-LRB-", "a", "PC", "-RRB-", ".", "The", "user", "node", "connects", "with", "the", "sink", "node", "through", "a", "conventional", "wireless", "LAN", "-LRB-", "e.g.", "IEEE", "802.11", "x", "-RRB-", ".", "Figure", "5", ".", "Communication", "Architecture", ".", "The", "services", "and", "components", "of", "SensorBus", "are", "distributed", "in", "three", "distinct", "types", "of", "sensor", "nodes", ".", "The", "components", "DataBus", ",", "Language", ",", "Channel", "and", "Transport", "are", "in", "the", "user", "node", ".", "The", "Sinker", "component", "is", "in", "the", "sink", "node", ".", "The", "sensor", "nodes", "contains", "the", "Channel", "and", "Transport", "components", "while", "filter", "component", "and", "context", "service", "will", "only", "be", "loaded", "if", "the", "application", "requires", "energy", "management", "and", "other", "resources", "such", "as", "memory", "and", "bandwidth", ".", "The", "development", "of", "an", "application", "using", "SensorBus", "consists", "in", "coding", "the", "parts", "for", "the", "producer", "and", "consumer", ".", "The", "consumer", "code", "runs", "in", "the", "user", "machine", "while", "the", "producer", "code", "runs", "in", "sensor", "nodes", ".", "The", "minimum", "steps", "required", "for", "the", "use", "of", "SensorBus", "are", "as", "follows", ":", "1", ".", "Create", "a", "new", "DataBus", "instance", ".", "A", "new", "transport", "implementation", "is", "created", "by", "identifying", "a", "specific", "Sinker", ";", "2", ".", "Instantiate", "a", "producer", "or", "a", "consumer", ";", "3", ".", "Instantiate", "a", "``", "Channel", "''", "entity", ";", "4", ".", "Register", "the", "just", "created", "producer", "or", "consumer", "for", "the", "channel", ";", "and", "5", ".", "The", "producer", "generates", "data", "items", "and", "places", "them", "into", "Channel", "while", "the", "consumer", "finds", "and", "``", "crunches", "''", "those", "data", ".", "SensorBus", "offers", "other", "functions", "that", "might", "be", "implemented", ",", "such", "as", "listing", "the", "available", "channels", ",", "adding", "new", "channels", "and", "stop", "receiving", "new", "channels", ".", "The", "producer", "sensor", "code", "has", "to", "be", "implemented", "before", "setup", "of", "the", "network", ".", "If", "it", "is", "not", "possible", "to", "retrieve", "the", "sensor", "for", "maintenance", ",", "the", "attributes", "of", "the", "data", "sent", "will", "always", "be", "the", "same", ".", "To", "overcome", "this", "obstacle", "the", "constraint", "and", "query", "languages", "are", "used", "to", "add", "new", "queries", "that", "had", "not", "been", "initially", "foreseen", ".", "These", "queries", "are", "sent", "by", "the", "interested", "consumer", "-LRB-", "client", "-RRB-", "in", "the", "form", "of", "messages", ".", "Figure", "6", ".", "Middleware", "architecture", "example", ".", "WLAN", "Sink", "node", "User", "node", "Sensor", "field", "Sensor", "nodes", "EnergySensor", "EnergyAdapter", "EnergyEvent", "IEvent", "IAdapter", "Data", "<", "<", "user", ">", ">", "<", "<", "application", ">", ">", "Language", "Filter", "Channel", "Transport", "Sinker", "Battery", "Battery", "Temperature", "Sensor", "IAdapter", "Application", "Service", "Message", "Service", "Context", "Service", "Temperature", "Adapter", "7", "Filters", "are", "as", "well", "implemented", "in", "nodes", ".", "Soon", "after", "a", "producer", "is", "instantiated", ",", "a", "filter", "is", "also", "instantiated", "and", "registered", "for", "a", "new", "channel", ".", "Figure", "6", "shows", "the", "components", "that", "may", "be", "active", "in", "a", "given", "moment", ".", "Although", "most", "of", "the", "components", "are", "the", "same", "for", "a", "given", "application", ",", "different", "settings", "may", "occur", "on", "the", "context", "service", ".", "The", "figure", "shows", "only", "two", "adapters", "running", "at", "the", "same", "time", "and", "interacting", "with", "its", "associated", "sensors", "-LRB-", "temperature", "and", "battery", "-RRB-", ".", "Distinct", "sensors", "can", "be", "used", "depending", "on", "the", "physical", "measurement", "to", "be", "taken", "and", "the", "type", "of", "computing", "resource", "to", "be", "managed", ".", "The", "testbed", "setup", "for", "SensorBus", "evaluation", "consists", "of", "Intel-based", "equipment", "equipped", "with", "802.11", "b", "cards", ".", "The", "sink", "node", "is", "a", "centrino-based", "Dell", "Lattitude", "notebook", ",", "the", "sensor", "nodes", "are", "deployed", "in", "handheld", "computers", "HP", "iPAQ", "running", "Linux", "operating", "system", "on", "Intel", "XScale", "processor", ".", "The", "sensor", "nodes", "are", "placed", "at", "various", "locations", "in", "the", "Electrical", "Engineering", "Department", "Building", "-LRB-", "about", "40m", "60m", "-RRB-", "at", "Federal", "University", "of", "Par", ".", "Linksys", "Wireless", "LAN", "cards", "are", "used", "working", "in", "the", "DCF", "mode", "with", "a", "channel", "bandwidth", "of", "11", "Mbps", ".", "In", "the", "building", ",", "there", "is", "interference", "from", "IEEE", "802.11", "access", "points", "-LRB-", "AP", "-RRB-", "and", "other", "electronic", "devices", ".", "7.1", "Working", "Prototype", "For", "our", "working", "prototype", ",", "we", "have", "chosen", "the", "Java", "platform", "as", "our", "implementation", "technology", "because", "of", "its", "broad", "installed", "base", "and", "to", "ensure", "compatibility", "with", "most", "hardware", "platforms", ".", "The", "KVM", "-LRB-", "Kilobyte", "Virtual", "Machine", "-RRB-", "-LSB-", "14", "-RSB-", "is", "being", "used", "due", "to", "its", "freely", "available", "source-code", "and", "its", "designed", "targeting", "towards", "small", "limited-resources", "devices", "similar", "to", "the", "sensor", "nodes", "of", "this", "work", ".", "The", "SensorBus", "API", "and", "its", "constraint", "and", "query", "language", "are", "being", "coded", "as", "Java", "classes", ".", "Due", "to", "issues", "regarding", "efficiency", ",", "the", "code", "that", "will", "run", "in", "sensor", "nodes", "is", "being", "implemented", "as", "native", "code", ".", "An", "object", "serialization", "mechanism", "was", "implemented", "because", "KVM", "does", "not", "support", "this", "facility", ".", "Serialization", "mechanism", "converts", "an", "object", "and", "its", "state", "into", "a", "byte", "stream", "allowing", "this", "object", "to", "be", "moved", "over", "a", "network", "or", "persisted", "in", "a", "local", "file", "system", ".", "Object", "recovery", "is", "performed", "through", "another", "mechanism", "called", "deserialization", ".", "Other", "Java", "technologies", "as", "J2SE", "Java", "2", "Standard", "Edition", "utilize", "this", "kind", "of", "facility", "to", "support", "the", "encoding", "of", "objects", "into", "a", "stream", "of", "bytes", "while", "protecting", "private", "and", "transient", "data", ".", "Serialization", "is", "used", "in", "distributed", "programming", "through", "sockets", "or", "Remote", "Method", "Invocation", "-LRB-", "RMI", "-RRB-", ".", "We", "have", "coded", "a", "semiautomatic", "serialization", "in", "order", "to", "store", "the", "state", "of", "the", "objects", ".", "To", "achieve", "this", ",", "we", "had", "to", "define", "a", "series", "of", "new", "interfaces", "and", "classes", ".", "One", "of", "the", "most", "critical", "problems", "with", "serialization", "is", "security", "because", "when", "an", "object", "is", "converted", "in", "a", "byte", "stream", "any", "attacker", "equipped", "with", "properly", "sniffer", "software", "can", "intercept", "and", "access", "it", ";", "in", "this", "case", "even", "private", "attributes", "can", "be", "accessed", "without", "any", "special", "technique", ".", "To", "tackle", "this", "issue", ",", "secure", "protocols", "as", "HTTPS", "-LRB-", "Secure", "HyperText", "Transport", "Protocol", "-RRB-", "or", "serialization", "encryption", "can", "be", "used", ".", "7.2", "Simulation", "Having", "implemented", "this", "working", "prototype", ",", "this", "research", "now", "intends", "to", "do", "performance", "evaluation", "by", "using", "the", "very", "well", "known", "tool", "NS", "Network", "Simulator", "-LSB-", "15", "-RSB-", ".", "We", "plan", "to", "integrate", "the", "SensorBus", "middleware", "with", "NS", "in", "a", "way", "that", "the", "sensor", "nodes", "will", "plug", "into", "NS", "in", "order", "to", "provide", "real", "data", "for", "feeding", "the", "simulator", "model", ".", "To", "do", "so", ",", "an", "execution", "environment", "will", "be", "added", "to", "the", "simulator", ".", "This", "environment", "will", "run", "as", "a", "sole", "UNIX", "process", "and", "will", "be", "plugged", "to", "the", "NS", "protocol", "stack", "through", "a", "sensor", "agent", ".", "The", "sensor", "agent", "is", "actually", "a", "NS", "agent", "responsible", "for", "connecting", "an", "execution", "environment", "instance", "to", "the", "NS", "protocol", "stack", ".", "The", "communication", "takes", "place", "through", "a", "pair", "of", "UDP", "-LRB-", "User", "Datagram", "Protocol", "-RRB-", "sockets", ".", "Incoming", "packets", "are", "encapsulated", "in", "NS", "packets", "and", "transmitted", "through", "the", "simulated", "sensor", "network", ".", "Parameters", "that", "need", "to", "be", "known", "to", "the", "protocol", "stack", "are", "placed", "in", "the", "header", "of", "the", "NS", "packet", "while", "the", "rest", "of", "the", "information", "is", "added", "to", "the", "payload", "of", "the", "NS", "packet", ".", "Similarly", ",", "outgoing", "packets", "are", "retrieved", "from", "the", "NS", "packets", "and", "sent", "to", "the", "execution", "environment", "to", "be", "processed", ".", "It", "will", "be", "necessary", "to", "provide", "a", "mechanism", "to", "synchronize", "the", "execution", "and", "simulation", "environment", "since", "they", "run", "in", "distinct", "times", ".", "Simulations", "will", "be", "performed", "using", "a", "NS", "Directed", "Diffusion", "transport", "implementation", "-LSB-", "5", "-RSB-", "for", "wireless", "sensor", "networks", ".", "In", "-LSB-", "16", "-RSB-", "an", "overall", "description", "of", "the", "challenges", "involving", "middleware", "for", "wireless", "sensor", "networks", "is", "presented", "focusing", "on", "the", "restraint", "aspects", "of", "these", "systems", ".", "Cougar", "-LSB-", "17", "-RSB-", "and", "SINA", "-LSB-", "18", "-RSB-", ",", "Sensor", "Information", "Networking", "Architecture", ",", "provide", "a", "distributed", "database", "interface", "for", "wireless", "sensor", "networks", "that", "use", "a", "query", "language", "to", "allow", "applications", "to", "run", "monitoring", "functions", ".", "Cougar", "manages", "the", "power", "by", "distributing", "the", "query", "among", "the", "sensor", "nodes", "to", "minimize", "energy", "required", "in", "data", "gathering", ".", "SINA", "adds", "low-level", "mechanisms", "to", "build", "hierarchical", "clustering", "of", "sensors", "aiming", "at", "efficient", "data", "aggregation", "and", "also", "provides", "protocols", "which", "limit", "the", "rebroadcast", "of", "similar", "information", "to", "neighbor", "'s", "nodes", ".", "AutoSec", "-LSB-", "19", "-RSB-", ",", "Automatic", "Service", "Composition", ",", "manages", "resources", "of", "the", "sensor", "networks", "by", "providing", "access", "control", "for", "applications", "to", "ensure", "quality", "of", "service", ".", "This", "approach", "is", "very", "similar", "to", "conventional", "middleware", "technology", "but", "the", "techniques", "to", "collect", "resource", "information", "are", "suitable", "for", "wireless", "sensor", "networks", ".", "DSWare", "-LSB-", "20", "-RSB-", "provides", "service", "abstraction", "similar", "to", "AutoSec", ",", "but", "instead", "of", "having", "a", "service", "provided", "by", "only", "one", "sensor", "node", ",", "the", "service", "is", "supplied", "by", "a", "group", "of", "neighbor", "'s", "nodes", ".", "Smart", "Messages", "Project", "-LSB-", "21", "-RSB-", "proposes", "a", "distributed", "computing", "model", "based", "on", "migration", "of", "executing", "units", ".", "Smart", "messages", "are", "migratory", "units", "containing", "data", "and", "code", ".", "The", "goal", "of", "Smart", "Messages", "Project", "is", "to", "develop", "a", "computing", "model", "and", "systems", "architecture", "to", "Networks", "Embedded", "Systems", "-LRB-", "NES", "-RRB-", ".", "EnviroTrack", "-LSB-", "22", "-RSB-", "is", "a", "middleware", "for", "object-based", "distributed", "systems", "that", "lifts", "the", "abstraction", "level", "for", "programming", "8", "environmental", "monitoring", "applications", ".", "It", "contains", "mechanisms", "that", "abstract", "groups", "of", "sensors", "into", "logical", "objects", ".", "Impala", "-LSB-", "23", "-RSB-", "exploits", "mobile", "code", "techniques", "to", "alter", "the", "middleware", "'s", "functionality", "running", "on", "a", "sensor", "node", ".", "The", "key", "to", "energy-efficient", "management", "in", "Impala", "is", "that", "applications", "are", "as", "modular", "and", "concise", "as", "possible", "so", "little", "changes", "demands", "fewer", "energy", "resources", ".", "MiLAN", "-LSB-", "24", "-RSB-", "was", "developed", "to", "allow", "dynamic", "network", "setup", "to", "meet", "the", "applications", "performance", "requirements", ".", "The", "applications", "represent", "its", "requests", "by", "the", "means", "of", "specialized", "graphics", "which", "incorporates", "changes", "due", "to", "applications", "needs", ".", "In", "-LSB-", "25", "-RSB-", ",", "an", "adaptative", "middleware", "is", "proposed", "to", "explore", "the", "commitment", "between", "resource", "spending", "and", "quality", "during", "information", "collecting", ".", "The", "main", "goal", "is", "to", "decrease", "the", "transmissions", "among", "sensor", "nodes", "without", "compromising", "the", "overall", "result", ".", "Every", "one", "of", "those", "middleware", "proposals", "is", "designed", "to", "make", "efficient", "use", "of", "wireless", "sensor", "networks", ";", "they", "do", "not", "support", "free", "exchange", "of", "the", "transport", "mechanism", ".", "More", "specifically", ",", "most", "of", "those", "approaches", "are", "not", "capable", "of", "altering", "the", "routing", "protocol", "to", "meet", "different", "application", "requirements", ".", "As", "was", "demonstrated", ",", "application", "development", "is", "closely", "related", "to", "wireless", "sensor", "network", "design", ".", "Each", "communication", "mechanism", "provided", "by", "a", "determined", "routing", "protocol", "is", "application", "specific", ",", "e.g.", "it", "is", "designed", "to", "meet", "some", "application", "specific", "requirement", ".", "We", "suggest", "that", "the", "utility", "of", "the", "middleware", "for", "wireless", "sensor", "networks", "is", "supported", "by", "decoupling", "the", "communication", "mechanism", "from", "the", "programming", "interfaces", "and", "also", "by", "capability", "of", "using", "more", "than", "one", "communication", "mechanism", "to", "address", "the", "requirements", "of", "larger", "number", "of", "applications", ".", "We", "have", "shown", "that", "SensorBus", ",", "a", "sensor", "network", "middleware", "that", "we", "are", "developing", "to", "meet", "these", "goals", ",", "can", "aid", "the", "development", "of", "different", "types", "of", "sensor", "network", "applications", ".", "-LSB-", "1", "-RSB-", "P.", "Rentala", ",", "R.", "Musunuri", ",", "S.", "Gandham", "and", "U.", "Saxena", ",", "Survey", "on", "Sensor", "Networks", ",", "Technical", "Report", ",", "University", "of", "Texas", ",", "Dept.", "of", "Computer", "Science", ",", "2002", ".", "-LSB-", "2", "-RSB-", "G.", "-", "C.", "Roman", ",", "A.", "L.", "Murphy", ",", "and", "G.", "P.", "Picco", ",", "Software", "Engineering", "for", "Mobility", ":", "A", "Roadmap", ".", "In", "The", "Future", "of", "Software", "Engineering", "22", "nd", "Int", ".", "Conf", ".", "On", "Software", "Engineering", "-LRB-", "ICSE2000", "-RRB-", ",", "pages", "243-258", ".", "ACM", "Press", ",", "May", "2000", ".", "-LSB-", "3", "-RSB-", "J.", "Pottie", "and", "W.", "J.", "Kaiser", ",", "Embedding", "the", "internet", "wireless", "integrated", "network", "sensors", ",", "Communications", "of", "the", "ACM", ",", "vol", ".", "43", ",", "no.", "5", ",", "pp.", "51-58", ",", "May", "2000", ".", "-LSB-", "4", "-RSB-", "W.", "Heinzelman", ",", "A.", "Chandrakasan", "and", "H.", "Balakrishnan", ",", "Energy-efficient", "communication", "protocol", "for", "wireless", "micro", "sensor", "networks", ".", "Proceedings", "of", "the", "33", "rd", "Annual", "Hawaii", "International", "Conference", "on", "System", "Sciences", ",", "Pages", "3005-3014", ",", "2000", ".", "-LSB-", "5", "-RSB-", "C.", "Intanagonwiwat", ",", "R.", "Govindan", ",", "and", "D.", "Estrin", ",", "Directed", "diffusion", ":", "A", "scalable", "and", "robust", "communication", "paradigm", "for", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "ACM/IEEE", "International", "Conference", "on", "Mobile", "Computing", "and", "Networking", ",", "pages", "56-67", ",", "Boston", ",", "MA", ",", "USA", ",", "Aug.", "2000", ".", "-LSB-", "6", "-RSB-", "T.", "Sameer", ",", "N.", "B.", "Abu-Ghazaleh", "and", "Heinzelman", "W", ".", "A", "Taxonomy", "of", "Wireless", "Micro-Sensor", "Network", "Models", ".", "Mobile", "Computing", "and", "Communications", "Review", ",", "Volume", "1", ",", "Number", "2", ",", "2003", ".", "-LSB-", "7", "-RSB-", "Guia", "de", "Chefe", "Brazilian", "Institute", "of", "Environment", "-LRB-", "IBAMA", "-RRB-", "http://www2.ibama.gov.br/unidades/guiadechefe/guia/t-1corpo", ".", "htm", ".", "December", ",", "2004", ".", "-LSB-", "8", "-RSB-", "B.", "C.", "Arrue", ",", "A.", "Ollero", "e", "J.", "R.", "M.", "de", "DIOS", ",", "An", "intelligent", "system", "for", "false", "alarm", "reduction", "in", "infrared", "forest-fire", "detection", ",", "IEEE", "Intelligent", "Systems", ",", "vol", ".", "15", ",", "pp.", "64-73", ",", "2000", ".", "-LSB-", "9", "-RSB-", "G.", "Couloris", ",", "J.", "Dollimore", ",", "e", "T.", "Kindberg", "Distributed", "Systems", ":", "Concepts", "and", "Design", ".", "Third", "edition", ".", "Addison-Wesley", ",", "2001", ".", "-LSB-", "10", "-RSB-", "SQL92", "Database", "Language", "SQL", "July", "30", ",", "1992", ".", "http://www.cs.cmu.edu/afs/andrew.cmu.edu/usr/shadow/www", "/", "sql/sql1992.txt", "-LSB-", "11", "-RSB-", "J.", "Heidemann", ",", "F.", "Silva", ",", "C.", "Intanagonwiwat", ",", "R.", "Govindan", ",", "D.", "Estrin", "and", "D.", "Ganesan", ".", "Building", "efficient", "wireless", "sensor", "networks", "with", "low-level", "naming", ".", "In", "Proceedings", "of", "the", "Symposium", "on", "Operating", "Systems", "Principles", ",", "pages", "146-159", ",", "Chateau", "Lake", "Louise", ",", "Banff", ",", "Alberta", ",", "Canada", ",", "October", "2001", ".", "-LSB-", "12", "-RSB-", "E.", "Gamma", ",", "R.", "Helm", ",", "R.", "Johnson", "e", "J.", "Vlissides", ",", "Design", "Patterns", ".", "Addison-Wesley", ",", "1995", ".", "-LSB-", "13", "-RSB-", "J.", "Rumbaugh", ",", "I.", "Jacobson", "and", "G.", "Booch", ".", "The", "Unified", "Modeling", "Language", "Reference", "Manual", ".", "Addison", "Wesley", ",", "1998", ".", "-LSB-", "14", "-RSB-", "KVM", "The", "K", "Virtual", "Machine", "Specification", ".", "http://java.sun.com/products/kvm/", ",", "August", "2004", ".", "-LSB-", "15", "-RSB-", "UCB/LBNL/VINT", "Network", "Simulator", "NS", "-LRB-", "Version", "2", "-RRB-", ".", "http", "/", "/", "www.isi.edu", ".", "/", "nsnam/ns", "/", ",", "August", "2004", ".", "-LSB-", "16", "-RSB-", "K.", "R", "mer", ",", "O.", "Kasten", "and", "F.", "Mattern", ".", "Middleware", "Challenges", "for", "Wireless", "Sensor", "Networks", ".", "Mobile", "Computing", "and", "Communications", "Review", ",", "volume", "6", ",", "number", "2", ",", "2002", ".", "-LSB-", "17", "-RSB-", "P.", "Bonnet", ",", "J.", "Gehrke", "and", "P.", "Seshadri", ".", "Querying", "the", "Physycal", "World", ".", "IEEE", "Personal", "Communication", ",", "7:10-15", ",", "October", "2000", ".", "-LSB-", "18", "-RSB-", "C.", "Srisathapornphat", ",", "C.", "Jaikaeo", "and", "C.", "Shen", ".", "Sensor", "Information", "Networking", "Architecture", ",", "International", "Workshop", "on", "Pervasive", "Computing", "-LRB-", "IWPC00", "-RRB-", ",", "Toronto", "Canada", ",", "August", "2000", ".", "-LSB-", "19", "-RSB-", "Q.", "Han", "and", "N.", "Venkatasubramanian", ".", "AutoSec", ":", "An", "integrated", "middleware", "framework", "for", "dynamic", "service", "brokering", ".", "IEEE", "Distributed", "Systems", "Online", ",", "2", "-LRB-", "7", "-RRB-", ",", "2001", ".", "9", "-LSB-", "20", "-RSB-", "S.", "Li", ",", "S.", "Son", ",", "and", "J.", "Stankovic", ".", "Event", "detection", "services", "using", "data", "service", "middleware", "in", "distributed", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "2", "nd", "International", "Workshop", "on", "Information", "Processing", "in", "Sensor", "Networks", ",", "April", "2003", ".", "-LSB-", "21", "-RSB-", "Smart", "Messages", "project", ".", "March", ",", "2003", ".", "http://discolab.rutgers.edu/sm", ".", "-LSB-", "22", "-RSB-", "T.", "Abdelzaher", ",", "B.", "Blum", ",", "Q.", "Cao", ",", "D.", "Evans", ",", "J.", "George", ",", "S.", "George", ",", "T.", "He", ",", "L.", "Luo", ",", "S.", "Son", ",", "R.", "Stoleru", ",", "J.", "Stankovic", "and", "A.", "Wood", ".", "EnviroTrack", ":", "Towards", "an", "Environmental", "Computing", "Paradigm", "for", "Distributed", "Sensor", "Networks", ".", "Technical", "report", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Virginia", ",", "2003", ".", "-LSB-", "23", "-RSB-", "T.", "Liu", "and", "M.", "Martonosi", ".", "Impala", ":", "A", "middleware", "system", "for", "managing", "autonomic", ",", "parallel", "sensor", "systems", ".", "In", "ACM", "SIGPLAN", "Symposium", "on", "Principles", "and", "Practice", "of", "Parallel", "Programming", "-LRB-", "PPoPP", "03", "-RRB-", ",", "June", "2003", "-LSB-", "24", "-RSB-", "A.", "Murphy", "and", "W.", "Heinzelman", ",", "MiLan", ":", "Middleware", "linking", "applications", "and", "networks", ",", "Technical", "Report", "TR-795", ",", "University", "of", "Rochester", ",", "2002", ".", "-LSB-", "25", "-RSB-", "X.", "Yu", ",", "K.", "Niyogi", ",", "S.", "Mehrotra", "and", "N.", "Venkatasubramanian", ",", "Adaptive", "middleware", "for", "distributed", "sensor", "networks", ",", "IEEE", "Distributed", "Systems", "Online", ",", "May", "2003", "."], "doc_bio_tags": ["O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["design pattern", "environmental monitoring applications", "constraint and query languages", "context service", "middleware", "wireless sensor network", "application service", "wireless sensor networks", "application filters", "message service"], "abstractive_keyphrases": ["message-oriented middleware model", "publish-subscribe paradigm"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "201", "document": ["Translating", "Unknown", "Cross-Lingual", "Queries", "in", "Digital", "Libraries", "Using", "a", "Web-based", "Approach", "Users", "'", "cross-lingual", "queries", "to", "a", "digital", "library", "system", "might", "be", "short", "and", "not", "included", "in", "a", "common", "translation", "dictionary", "-LRB-", "unknown", "terms", "-RRB-", ".", "In", "this", "paper", ",", "we", "investigate", "the", "feasibility", "of", "exploiting", "the", "Web", "as", "the", "corpus", "source", "to", "translate", "unknown", "query", "terms", "for", "cross-language", "information", "retrieval", "-LRB-", "CLIR", "-RRB-", "in", "digital", "libraries", ".", "We", "propose", "a", "Web-based", "term", "translation", "approach", "to", "determine", "effective", "translations", "for", "unknown", "query", "terms", "by", "mining", "bilingual", "search-result", "pages", "obtained", "from", "a", "real", "Web", "search", "engine", ".", "This", "approach", "can", "enhance", "the", "construction", "of", "a", "domain-specific", "bilingual", "lexicon", "and", "benefit", "CLIR", "services", "in", "a", "digital", "library", "that", "only", "has", "monolingual", "document", "collections", ".", "Very", "promising", "results", "have", "been", "obtained", "in", "generating", "effective", "translation", "equivalents", "for", "many", "unknown", "terms", ",", "including", "proper", "nouns", ",", "technical", "terms", "and", "Web", "query", "terms", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", ";", "H.", "3.7", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Digital", "Libraries", ".", "Algorithms", ",", "Experimentation", ",", "Performance", "With", "the", "development", "of", "digital", "library", "technologies", ",", "large", "amounts", "of", "library", "content", "and", "cultural", "heritage", "material", "are", "being", "digitized", "all", "over", "the", "world", ".", "As", "digital", "library", "systems", "become", "commonly", "constructed", "and", "digitized", "content", "becomes", "widely", "accessible", "on", "the", "Web", ",", "digital", "libraries", "that", "cross", "language", "and", "regional", "boundaries", "will", "be", "in", "increasingly", "high", "demand", "globally", ".", "Unfortunately", ",", "most", "of", "existing", "digital", "library", "systems", "only", "provide", "monolingual", "content", "and", "search", "support", "in", "certain", "target", "languages", ".", "To", "facilitate", "a", "cross-language", "information", "retrieval", "-LRB-", "CLIR", "-RRB-", "service", "in", "digital", "library", "systems", ",", "it", "is", "important", "to", "develop", "a", "powerful", "query", "translation", "engine", ".", "This", "must", "be", "able", "to", "automatically", "translate", "users", "'", "queries", "from", "multiple", "source", "languages", "to", "the", "target", "languages", "that", "the", "systems", "accept", ".", "Conventional", "approaches", "to", "CLIR", "incorporate", "parallel", "texts", "-LSB-", "16", "-RSB-", "as", "the", "corpus", ".", "These", "texts", "contain", "bilingual", "sentences", ",", "from", "which", "word", "or", "phrase", "translations", "can", "be", "extracted", "with", "appropriate", "sentence", "alignment", "methods", "-LSB-", "7", "-RSB-", ".", "The", "basic", "assumption", "of", "such", "an", "approach", "is", "that", "queries", "may", "be", "long", "so", "query", "expansion", "methods", "can", "be", "used", "to", "enrich", "query", "terms", "not", "covered", "in", "parallel", "texts", ".", "However", ",", "this", "approach", "presents", "some", "fundamental", "difficulties", "for", "digital", "libraries", "that", "wish", "to", "support", "practical", "CLIR", "services", ".", "First", ",", "since", "most", "existing", "digital", "libraries", "contain", "only", "monolingual", "text", "collections", ",", "there", "is", "no", "bilingual", "corpus", "for", "cross-lingual", "training", ".", "Second", ",", "real", "queries", "are", "often", "short", ",", "diverse", "and", "dynamic", "so", "that", "only", "a", "subset", "of", "translations", "can", "be", "extracted", "through", "the", "corpora", "in", "limited", "domains", ".", "How", "to", "efficiently", "construct", "a", "domain-specific", "translation", "dictionary", "for", "each", "text", "collection", "has", "become", "a", "major", "challenge", "for", "practical", "CLIR", "services", "in", "digital", "libraries", ".", "In", "this", "paper", ",", "we", "propose", "a", "Web-based", "approach", "to", "deal", "with", "this", "problem", ".", "We", "intend", "to", "exploit", "the", "Web", "as", "the", "corpus", "to", "find", "effective", "translations", "automatically", "for", "query", "terms", "not", "included", "in", "a", "dictionary", "-LRB-", "unknown", "terms", "-RRB-", ".", "Besides", ",", "to", "speedup", "online", "translation", "process", "of", "unknown", "terms", ",", "we", "extract", "possible", "key", "terms", "from", "the", "document", "set", "in", "digital", "libraries", "and", "try", "to", "obtain", "their", "translations", "in", "advance", ".", "For", "some", "language", "pairs", ",", "such", "as", "Chinese", "and", "English", ",", "as", "well", "as", "Japanese", "and", "English", ",", "the", "Web", "offers", "rich", "texts", "in", "a", "mixture", "of", "languages", ".", "Many", "of", "them", "contain", "bilingual", "translations", "of", "proper", "nouns", ",", "such", "as", "company", "names", "and", "personal", "names", ".", "We", "want", "to", "realize", "if", "this", "positive", "characteristic", "makes", "it", "possible", "to", "automatically", "extract", "bilingual", "translations", "of", "a", "large", "number", "of", "query", "terms", ".", "Real", "search", "engines", ",", "such", "as", "Google", "1", "and", "AltaVista", "2", ",", "allow", "us", "to", "search", "English", "terms", "for", "pages", "in", "a", "certain", "language", ",", "e.g.", "Chinese", "or", "Japanese", ".", "This", "has", "motivated", "us", "to", "develop", "the", "proposed", "approach", "for", "mining", "bilingual", "search-result", "pages", ",", "which", "are", "normally", "returned", "in", "a", "long", ",", "ordered", "list", "of", "snippets", "of", "summaries", "to", "help", "users", "locate", "interesting", "documents", ".", "The", "proposed", "approach", "uses", "the", "bilingual", "search-result", "pages", "of", "unknown", "queries", "as", "the", "corpus", "for", "extracting", "translations", "by", "utilizing", "the", "following", "useful", "techniques", ":", "-LRB-", "1", "-RRB-", "Term", "extraction", "1", "http://www.google.com/", "2", "http://www.altavista.com/", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "JCDL", "'", "04", ",", "June", "7", "11", ",", "2004", ",", "Tucson", ",", "Arizona", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-832-6", "/", "04/0006", "...", "$", "5.00", ".", "108", "methods", "that", "extract", "translation", "candidates", "with", "correct", "lexical", "boundaries", ".", "-LRB-", "2", "-RRB-", "Term", "translation", "methods", "that", "determine", "correct", "translations", "based", "on", "co-occurrence", "and", "context", "similarity", "analysis", ".", "Several", "preliminary", "experiments", "have", "been", "conducted", "to", "test", "the", "performance", "of", "the", "proposed", "approach", ".", "For", "example", ",", "very", "promising", "translation", "accuracy", "has", "been", "obtained", "in", "generating", "effective", "translation", "equivalents", "for", "many", "unknown", "terms", ",", "including", "proper", "nouns", ",", "technical", "terms", "and", "Web", "query", "terms", ".", "Also", ",", "it", "has", "been", "shown", "that", "the", "approach", "can", "enhance", "bilingual", "lexicon", "construction", "in", "a", "very", "efficient", "manner", "and", "thereby", "benefit", "CLIR", "services", "in", "digital", "libraries", "that", "only", "have", "monolingual", "document", "collections", ".", "In", "Section", "2", "of", "this", "paper", ",", "we", "examine", "the", "possibility", "of", "using", "search-result", "pages", "for", "term", "translation", ".", "The", "technical", "details", "of", "the", "proposed", "approach", ",", "including", "the", "term", "extraction", "and", "term", "translation", "methods", ",", "are", "presented", "with", "some", "experiments", "in", "Sections", "3", "and", "4", "respectively", ".", "An", "application", "of", "the", "proposed", "approach", "to", "bilingual", "lexicon", "construction", "is", "described", "in", "Section", "5", ".", "Finally", ",", "in", "Section", "6", "we", "list", "our", "conclusions", ".", "A", "large", "number", "of", "Web", "pages", "contain", "a", "mixture", "of", "multiple", "languages", ".", "For", "example", ",", "Chinese", "pages", "on", "the", "Web", "consist", "of", "rich", "texts", "in", "a", "mixture", "of", "Chinese", "-LRB-", "main", "language", "-RRB-", "and", "English", "-LRB-", "auxiliary", "language", "-RRB-", ",", "many", "of", "which", "contain", "translations", "of", "proper", "nouns", "and", "foreign", "terms", ".", "In", "fact", ",", "in", "the", "Chinese", "writing", "style", ",", "the", "first", "time", "a", "foreign", "term", "appears", "in", "the", "text", ",", "we", "might", "also", "write", "its", "original", "word", ",", "e.g.", ",", "''", "''", "-LRB-", "Yahoo", "-RRB-", ".", "In", "our", "research", ",", "we", "are", "seeking", "to", "determine", "if", "the", "percentage", "of", "correct", "translations", "for", "real", "queries", "is", "high", "enough", "in", "the", "top", "search-result", "pages", ".", "If", "this", "is", "the", "case", ",", "search-result-based", "methods", "can", "be", "useful", "in", "alleviating", "the", "difficulty", "of", "term", "translation", ".", "According", "to", "our", "observations", ",", "many", "query", "terms", "are", "very", "likely", "to", "appear", "simultaneously", "with", "their", "translations", "in", "search-result", "pages", ".", "Figure", "1", "illustrates", "the", "search-result", "page", "of", "the", "English", "query", "``", "National", "Palace", "Museum", "''", ",", "which", "was", "submitted", "to", "Google", "to", "search", "Chinese", "pages", ".", "Many", "relevant", "results", "were", "obtained", ",", "including", "both", "the", "query", "itself", "and", "its", "Chinese", "aliases", ",", "such", "as", "''", "''", "-LRB-", "National", "Palace", "Museum", "-RRB-", ",", "''", "''", "-LRB-", "an", "abbreviation", "of", "National", "Palace", "Museum", "-RRB-", "and", "''", "''", "-LRB-", "Palace", "Museum", "-RRB-", ",", "which", "might", "not", "be", "covered", "in", "general-purpose", "translation", "dictionaries", ".", "Figure", "1", ".", "An", "illustration", "showing", "translation", "equivalents", ",", "such", "as", "National", "Palace", "Museum", "/", "''", "''", "-LRB-", "''", "''", "-RRB-", ",", "which", "co-occur", "in", "search", "results", "returned", "from", "Google", ".", "Although", "search-result", "pages", "might", "contain", "translations", ",", "the", "difficulties", "in", "developing", "a", "high-performance", "search-result-based", "term", "translation", "approach", "still", "remain", ".", "For", "example", ",", "it", "is", "not", "straightforward", "to", "extract", "translation", "candidates", "with", "correct", "lexical", "boundaries", "and", "minimum", "noisy", "terms", "from", "a", "text", ".", "It", "is", "also", "challenging", "to", "find", "correct", "translations", "for", "each", "unknown", "term", "within", "an", "acceptable", "number", "of", "search-result", "pages", "and", "an", "acceptable", "amount", "of", "network", "access", "time", ".", "To", "deal", "with", "these", "problems", ",", "the", "proposed", "approach", "contains", "three", "major", "modules", ":", "search-result", "collection", ",", "term", "extraction", "and", "term", "translation", ",", "as", "shown", "in", "Figure", "2", "-LRB-", "a", "-RRB-", ".", "In", "the", "search-result", "collection", "module", ",", "a", "given", "source", "query", "-LRB-", "unknown", "term", "-RRB-", "is", "submitted", "to", "a", "real-world", "search", "engine", "to", "collect", "top", "search-result", "pages", ".", "In", "the", "term", "extraction", "module", ",", "translation", "candidates", "are", "extracted", "from", "the", "collected", "search-result", "pages", "using", "the", "term", "extraction", "method", ".", "Finally", ",", "the", "term", "translation", "module", "is", "used", "to", "determine", "the", "most", "promising", "translations", "based", "on", "the", "similarity", "estimation", "between", "source", "queries", "and", "target", "translations", ".", "In", "fact", "there", "are", "two", "scenarios", "to", "which", "the", "proposed", "approach", "can", "be", "applied", ".", "Except", "online", "translation", "of", "unknown", "queries", ",", "another", "application", "is", "offline", "translation", "of", "key", "terms", "as", "in", "Figure", "2", "-LRB-", "b", "-RRB-", ".", "To", "reduce", "unnecessary", "online", "translation", "processes", ",", "the", "proposed", "approach", "can", "be", "used", "to", "augment", "the", "bilingual", "lexicon", "via", "translating", "key", "terms", "extracted", "from", "the", "document", "set", "in", "a", "digital", "library", ".", "These", "extracted", "key", "terms", "are", "likely", "to", "be", "similar", "to", "terms", "that", "users", "may", "use", "in", "real", "user", "queries", ".", "The", "proposed", "approach", "can", "be", "applied", "to", "those", "unknown", "key", "terms", "to", "obtain", "their", "translations", "with", "an", "offline", "batch", "process", "-LRB-", "the", "extracted", "translations", "might", "be", "edited", "by", "indexers", "-RRB-", ".", "Furthermore", ",", "the", "constructed", "bilingual", "lexicon", "can", "be", "incrementally", "updated", "with", "the", "input", "of", "unknown", "queries", "from", "users", "and", "the", "performing", "of", "online", "translation", "processes", ".", "To", "facilitate", "the", "above", "scenarios", "the", "proposed", "term", "extraction", "and", "term", "translation", "techniques", "are", "required", ",", "which", "will", "be", "further", "described", "in", "the", "following", "sections", ".", "Figure", "2", ".", "-LRB-", "a", "-RRB-", "An", "abstract", "diagram", "showing", "the", "concept", "of", "the", "proposed", "approach", "for", "translating", "an", "unknown", "query", ".", "-LRB-", "b", "-RRB-", "Two", "application", "scenarios", "of", "the", "proposed", "Web-based", "term", "translation", "approach", ":", "online", "translation", "of", "unknown", "queries", "and", "offline", "translation", "of", "key", "terms", "extracted", "from", "the", "document", "set", ".", "Search-Result", "Collection", "Search-Result", "Pages", "Translation", "Candidates", "Term", "Extraction", "Term", "Translation", "Search", "Engine", "Source", "Query", "Target", "Translations", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Proposed", "Approach", "Q", "Doc", "Online", "Translation", "of", "Unknown", "Queries", "Offline", "Translation", "of", "Key", "Terms", "109", "The", "first", "challenge", "of", "the", "proposed", "approach", "is", ":", "how", "to", "efficiently", "and", "effectively", "extract", "translation", "candidates", "for", "an", "unknown", "source", "term", "from", "a", "set", "of", "search-result", "pages", ".", "Other", "challenging", "issues", "include", ":", "whether", "all", "possible", "translations", "can", "be", "extracted", "and", "whether", "their", "lexical", "boundaries", "can", "be", "correctly", "segmented", ".", "Conventionally", ",", "there", "are", "two", "types", "of", "term", "extraction", "methods", "that", "can", "be", "employed", ".", "The", "first", "is", "the", "language-dependent", "linguistics-based", "method", "that", "relies", "on", "lexical", "analysis", ",", "word", "segmentation", "and", "syntactic", "analysis", "to", "extract", "named", "entities", "from", "documents", ".", "The", "second", "type", "is", "the", "language-independent", "statistics-based", "method", "that", "extracts", "significant", "lexical", "patterns", "without", "length", "limitation", ",", "such", "as", "the", "local", "maxima", "method", "-LSB-", "19", "-RSB-", "and", "the", "PAT-tree-based", "method", "-LSB-", "3", "-RSB-", ".", "Considering", "the", "diverse", "applications", "in", "digital", "library", "and", "Web", "environments", ",", "we", "have", "adopted", "the", "second", "approach", ".", "Our", "proposed", "term", "extraction", "method", ",", "i.e.", ",", "the", "PAT-tree-based", "local", "maxima", "method", ",", "is", "a", "hybrid", "of", "the", "local", "maxima", "method", "-LSB-", "19", "-RSB-", "and", "the", "PAT-tree-based", "method", "-LSB-", "3", "-RSB-", ",", "which", "has", "been", "found", "more", "efficient", "and", "effective", ".", "First", ",", "we", "construct", "a", "PAT", "tree", "data", "structure", "for", "the", "corpus", ",", "in", "this", "case", ",", "a", "set", "of", "search-result", "pages", "retrieved", "using", "the", "source", "term", "as", "query", ".", "-LRB-", "The", "same", "term", "extraction", "method", "will", "be", "applied", "to", "extract", "key", "terms", "from", "digital", "libraries", "in", "Section", "5", "where", "the", "corpus", "is", "the", "documents", "in", "digital", "libraries", "-RRB-", ".", "By", "utilizing", "the", "PAT", "tree", ",", "we", "can", "efficiently", "calculate", "the", "association", "measurement", "of", "every", "character", "or", "word", "n-gram", "in", "the", "corpus", "and", "apply", "the", "local", "maxima", "algorithm", "to", "extract", "the", "terms", ".", "The", "association", "measurement", "is", "determined", "not", "only", "by", "the", "symmetric", "conditional", "probability", "-LSB-", "19", "-RSB-", "but", "also", "by", "the", "context", "independency", "ratio", "-LSB-", "3", "-RSB-", "of", "the", "n-gram", ".", "We", "detail", "the", "proposed", "method", "in", "the", "following", "subsections", ".", "3.1", "Association", "Measurement", "The", "proposed", "association", "measurement", ",", "called", "SCPCD", ",", "combines", "the", "symmetric", "conditional", "probability", "-LRB-", "SCP", "-RRB-", "-LSB-", "19", "-RSB-", "with", "the", "concept", "of", "context", "dependency", "-LRB-", "CD", "-RRB-", "-LSB-", "3", "-RSB-", ".", "SCP", "is", "the", "association", "estimation", "of", "the", "correlation", "between", "its", "composed", "sub", "n-grams", ",", "which", "is", "as", "defined", "below", ":", "=", "+", "=", "+", "=", "=", "1", "1", "1", "1", "2", "1", "1", "1", "1", "1", "2", "1", "1", "-RRB-", "...", "-LRB-", "-RRB-", "...", "-LRB-", "1", "1", "-RRB-", "...", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "n", "i", "n", "i", "i", "n", "n", "i", "n", "i", "i", "n", "n", "w", "w", "freq", "w", "w", "freq", "n", "w", "w", "freq", "w", "w", "p", "w", "w", "p", "n", "w", "w", "p", "w", "w", "SCP", "K", "K", "K", "K", "-LRB-", "1", "-RRB-", "where", "w", "1", "...", "w", "n", "is", "the", "n-gram", "to", "be", "estimated", ",", "p", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", "is", "the", "probability", "of", "the", "occurrence", "of", "the", "n-gram", "w", "1", "...", "w", "n", ",", "and", "freq", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", "is", "the", "frequency", "of", "the", "n-gram", ".", "To", "a", "certain", "degree", ",", "SCP", "can", "measure", "the", "cohesion", "holding", "the", "words", "together", "within", "a", "word", "n-gram", ",", "but", "it", "can", "not", "determine", "the", "lexical", "boundaries", "of", "the", "n-gram", ".", "An", "n-gram", "with", "complete", "lexical", "boundaries", "implies", "that", "it", "tends", "to", "have", "free", "association", "with", "other", "n-grams", "appearing", "in", "the", "same", "context", ".", "Therefore", ",", "to", "further", "ensure", "that", "an", "n-gram", "has", "complete", "lexical", "boundaries", ",", "the", "concept", "of", "context", "dependency", "is", "introduced", ".", "Moreover", ",", "we", "consolidate", "the", "concept", "with", "SCP", "to", "form", "one", "association", "measurement", ".", "In", "order", "to", "achieve", "this", "goal", ",", "a", "refined", "measure", ",", "the", "context", "independency", "ratio", "-", "which", "is", "a", "ratio", "value", "between", "0", "and", "1", "-", "is", "extended", "from", "-LSB-", "3", "-RSB-", ".", "It", "is", "defined", "as", "follows", ":", "2", "1", "1", "1", "1", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "n", "n", "n", "n", "w", "w", "freq", "w", "w", "RC", "w", "w", "LC", "w", "w", "CD", "K", "K", "K", "K", "=", "-LRB-", "2", "-RRB-", "where", "LC", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", "is", "the", "number", "of", "unique", "left", "adjacent", "words", "in", "western", "languages", ",", "or", "characters", "in", "oriental", "languages", ",", "for", "the", "n-gram", "in", "the", "corpus", ",", "or", "is", "equal", "to", "the", "frequency", "of", "the", "n-gram", "if", "there", "is", "no", "left", "adjacent", "word/character", ".", "Similarly", ",", "RC", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", "is", "the", "number", "of", "unique", "right", "adjacent", "words/characters", "for", "the", "n-gram", ",", "or", "is", "equal", "to", "the", "frequency", "of", "the", "n-gram", "if", "there", "is", "no", "right", "adjacent", "word/character", ".", "Using", "this", "ratio", "we", "are", "able", "to", "judge", "whether", "the", "appearance", "of", "an", "n-gram", "is", "dependent", "on", "a", "certain", "string", "containing", "it", ".", "For", "example", ",", "if", "w", "1", "...", "w", "n", "is", "always", "a", "substring", "of", "string", "xw", "1", "...", "w", "n", "y", "in", "the", "corpus", ",", "then", "CD", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", "is", "close", "to", "0", ".", "Combining", "formulae", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", ",", "the", "proposed", "association", "measure", "SCPCD", "is", "as", "follows", "=", "+", "=", "=", "1", "1", "1", "1", "1", "1", "1", "1", "1", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "n", "i", "n", "i", "i", "n", "n", "n", "n", "n", "w", "w", "freq", "w", "w", "freq", "n", "w", "w", "RC", "w", "w", "LC", "w", "w", "CD", "w", "w", "SCP", "w", "w", "SCPCD", "K", "K", "K", "K", "K", "K", "K", "-LRB-", "3", "-RRB-", "Note", "that", "the", "difference", "between", "the", "formulae", "of", "SCPCD", "and", "SCP", "is", "in", "their", "numerator", "items", ".", "For", "SCP", ",", "those", "n-grams", "with", "low", "frequency", "tend", "to", "be", "discarded", ",", "which", "is", "prevented", "in", "the", "case", "of", "SCPCD", ".", "The", "proposed", "new", "measure", "determines", "a", "highly", "cohesive", "term", "because", "of", "the", "frequencies", "of", "its", "substrings", "and", "the", "number", "of", "its", "unique", "left", "and", "right", "adjacent", "words/characters", ".", "3.2", "Local", "Maxima", "Algorithm", "The", "local", "maxima", "algorithm", ",", "called", "LocalMaxs", "in", "-LSB-", "18", "-RSB-", ",", "is", "based", "on", "the", "idea", "that", "each", "n-gram", "has", "a", "kind", "of", "cohesion", "that", "holds", "the", "words", "together", "within", "the", "n-gram", ".", "This", "is", "a", "heuristic", "algorithm", "used", "to", "combine", "with", "the", "previous", "association", "measurements", "to", "extract", "n-grams", ",", "which", "are", "supposed", "to", "be", "key", "terms", "from", "the", "text", ".", "We", "know", "different", "n-grams", "usually", "have", "different", "cohesion", "values", ".", "Given", "that", ":", "An", "antecedent", "-LRB-", "in", "size", "-RRB-", "of", "the", "n-gram", "w", "1", "w", "2", "...", "w", "n", ",", "ant", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", ",", "is", "a", "sub-n-gram", "of", "the", "n-gram", "w", "1", "...", "w", "n", ",", "having", "size", "n", "-", "1", ".", "i.e.", ",", "the", "-LRB-", "n-1", "-RRB-", "-", "gram", "w", "1", "...", "w", "n-1", "or", "w", "2", "...", "w", "n", ".", "A", "successor", "-LRB-", "in", "size", "-RRB-", "of", "the", "n-gram", "w", "1", "w", "2", "...", "w", "n", ",", "succ", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", ",", "is", "a", "-LRB-", "n", "+1", "-RRB-", "-", "gram", "N", "such", "that", "the", "n-gram", "w", "1", "...", "w", "n", "is", "an", "ant", "-LRB-", "N", "-RRB-", ".", "i.e.", ",", "succ", "-LRB-", "w", "1", "...", "w", "n", "-RRB-", "contains", "the", "n-gram", "w", "1", "...", "w", "n", "and", "an", "additional", "word", "before", "-LRB-", "on", "the", "left", "-RRB-", "or", "after", "-LRB-", "on", "the", "right", "-RRB-", "it", ".", "The", "local", "maxima", "algorithm", "extracts", "each", "term", "whose", "cohesion", ",", "i.e.", "association", "measure", ",", "is", "local", "maxima", ".", "That", "is", ",", "the", "term", "whose", "association", "measure", "is", "greater", "than", ",", "or", "equal", "to", ",", "the", "association", "measures", "of", "its", "antecedents", "and", "is", "greater", "than", "the", "association", "measures", "of", "its", "successors", ".", "3.3", "The", "PAT-Tree", "Based", "Local", "Maxima", "Algorithm", "Despite", "the", "usefulness", "of", "the", "local", "maxima", "algorithm", ",", "without", "a", "suitable", "data", "structure", "the", "time", "complexity", "of", "the", "algorithm", "is", "high", ".", "The", "main", "time", "complexity", "problems", "occur", "in", "two", "areas", ".", "One", "is", "calculating", "the", "context", "independency", "ratio", "-LRB-", "CD", "-RRB-", "for", "each", "unique", "n-gram", "in", "the", "corpus", "and", "the", "other", "is", "to", "find", "the", "successor", "of", "an", "n-gram", ".", "The", "two", "problems", "can", "be", "treated", "as", "one", ",", "i.e.", "finding", "the", "successors", "of", "an", "n-gram", ".", "An", "intuitive", "way", "to", "do", "this", "is", "to", "find", "out", "all", "-LRB-", "n", "+1", "-RRB-", "-", "grams", "and", "then", "compare", "the", "n-gram", "with", "them", "sequentially", "to", "see", "if", "they", "are", "the", "successors", "of", "it", ".", "As", "this", "is", "time-consuming", ",", "we", "introduce", "PAT", "tree", "as", "the", "data", "structure", ".", "110", "The", "above", "method", "is", "time", "consuming", ",", "however", ",", "so", "we", "use", "the", "PAT", "tree", ",", "which", "is", "a", "more", "efficient", "data", "structure", ".", "It", "was", "developed", "by", "Gonnet", "-LSB-", "8", "-RSB-", "from", "Morrison", "'s", "PATRICIA", "algorithm", "-LRB-", "Practical", "Algorithm", "to", "Retrieve", "Information", "Coded", "in", "Alphanumeric", "-RRB-", "-LSB-", "15", "-RSB-", "for", "indexing", "a", "continuous", "data", "stream", "and", "locating", "every", "possible", "position", "of", "a", "prefix", "in", "the", "stream", ".", "The", "PAT", "tree", "structure", "is", "conceptually", "equivalent", "to", "a", "compressed", "digital", "search", "tree", ",", "but", "smaller", ".", "The", "superior", "feature", "of", "this", "structure", "mostly", "resulted", "from", "its", "use", "of", "semi-infinite", "strings", "-LSB-", "14", "-RSB-", "to", "store", "the", "substream", "values", "in", "the", "nodes", "of", "the", "tree", ".", "This", "also", "makes", "it", "easier", "and", "more", "efficient", "to", "find", "the", "successors", "of", "an", "n-gram", ".", "More", "details", "on", "the", "PAT", "tree", "can", "be", "found", "in", "-LSB-", "3", "-RSB-", ".", "By", "utilizing", "the", "constructed", "PAT", "tree", "as", "the", "corpus", ",", "we", "can", "efficiently", "retrieve", "all", "n-grams", "from", "the", "corpus", ",", "obtain", "their", "frequencies", "and", "context", "dependency", "values", ",", "and", "then", "calculate", "the", "association", "measures", ",", "SCPCD", ",", "of", "all", "of", "them", ".", "3.4", "Experiments", "on", "Term", "Extraction", "To", "determine", "the", "effectiveness", "of", "the", "proposed", "association", "measure", "SCPCD", "and", "the", "efficiency", "of", "the", "PAT-tree", "data", "structure", ",", "we", "conducted", "several", "experiments", "on", "Web", "search-result", "pages", "using", "the", "proposed", "PAT-tree-based", "local", "maxima", "algorithm", ".", "First", ",", "to", "test", "whether", "SCPCD", "can", "perform", "better", "than", "SCP", "and", "CD", ",", "we", "randomly", "selected", "50", "real", "queries", "in", "English", "from", "a", "Chinese", "search", "engine", "called", "Openfind", "3", ".", "We", "then", "submitted", "each", "of", "them", "to", "Google", "to", "search", "Chinese", "result", "pages", ".", "Most", "of", "these", "query", "terms", "such", "as", "proper", "nouns", "and", "technical", "terms", "were", "not", "covered", "in", "the", "common", "translation", "dictionary", ".", "After", "using", "the", "term", "extraction", "method", ",", "the", "top", "30", "extracted", "Chinese", "translation", "candidates", "were", "examined", "and", "the", "extraction", "accuracy", "of", "each", "candidate", "to", "the", "source", "query", "was", "manually", "determined", ".", "We", "applied", "this", "test", "mainly", "to", "determine", "whether", "the", "SCPCD", "measurement", "can", "extract", "more", "relevant", "translation", "candidates", "and", "segment", "them", "with", "correct", "lexical", "boundaries", ".", "A", "translation", "candidate", "was", "taken", "as", "correctly", "extracted", "only", "if", "it", "was", "correctly", "segmented", "and", "contained", "meanings", "relevant", "to", "the", "source", "term", ".", "A", "relevant", "translation", "candidate", "was", "not", "necessarily", "a", "correct", "translation", ".", "The", "whole", "relevant", "set", "was", "determined", "by", "examining", "the", "terms", "extracted", "by", "all", "of", "the", "test", "methods", ",", "e.g.", ",", "CD", ",", "SCP", ",", "and", "SCPCD", ".", "Table", "1", "clearly", "shows", "that", "the", "method", "based", "on", "the", "SCPCD", "measurement", "achieves", "the", "best", "performance", ".", "Table", "1", ".", "The", "obtained", "extraction", "accuracy", "including", "precision", ",", "recall", ",", "and", "average", "recall-precision", "of", "auto-extracted", "translation", "candidates", "using", "different", "methods", ".", "Association", "Measure", "Precision", "Recall", "Avg", ".", "R-P", "CD", "68.1", "%", "5.9", "%", "37.0", "%", "SCP", "62.6", "%", "63.3", "%", "63.0", "%", "SCPCD", "79.3", "%", "78.2", "%", "78.7", "%", "In", "order", "to", "determine", "the", "efficiency", "of", "the", "PAT-tree", "data", "structure", ",", "we", "compared", "the", "speed", "performance", "of", "the", "local", "maxima", "method", "and", "the", "PAT-tree-based", "local", "maxima", "method", ".", "As", "Table", "2", "shows", ",", "the", "PAT-tree", "data", "structure", "is", "more", "efficient", "in", "term", "extraction", ".", "Although", "the", "PAT-tree", "construction", "phase", "took", "a", "little", "more", "time", "3", "http://www.openfind.com/", "in", "a", "small", "corpus", ",", "in", "a", "real-world", "case", "for", "a", "large", "corpus", "-", "where", "1,367", "and", "5,357", "scientific", "documents", "were", "tested", "-LRB-", "refer", "to", "Section", "5.2", "for", "the", "details", "-RRB-", "-", "the", "PAT-tree-based", "local", "maxima", "method", "performed", "much", "better", "than", "the", "local", "maxima", "method", ".", "Table", "2", ".", "The", "obtained", "average", "speed", "performance", "of", "different", "term", "extraction", "methods", ".", "Term", "Extraction", "Method", "Time", "for", "Preprocessing", "Time", "for", "Extraction", "LocalMaxs", "-LRB-", "Web", "Queries", "-RRB-", "0.87", "s", "0.99", "s", "PATtree", "+", "LocalMaxs", "-LRB-", "Web", "Queries", "-RRB-", "2.30", "s", "0.61", "s", "LocalMaxs", "-LRB-", "1,367", "docs", "-RRB-", "63.47", "s", "4,851.67", "s", "PATtree", "+", "LocalMaxs", "-LRB-", "1,367", "docs", "-RRB-", "840.90", "s", "71.24", "s", "LocalMaxs", "-LRB-", "5,357", "docs", "-RRB-", "47,247.55", "s", "350,495.65", "s", "PATtree", "+", "LocalMaxs", "-LRB-", "5,357", "docs", "-RRB-", "11,086.67", "s", "759.32", "s", "In", "the", "term", "translation", "module", ",", "we", "utilize", "the", "co-occurrence", "relation", "and", "the", "context", "information", "between", "source", "queries", "and", "target", "translations", "to", "estimate", "their", "semantic", "similarity", "and", "determine", "the", "most", "promising", "translations", ".", "Several", "similarity", "estimation", "methods", "were", "investigated", "based", "on", "co-occurrence", "analysis", ".", "These", "included", "mutual", "information", ",", "DICE", "coefficient", ",", "and", "statistical", "tests", "including", "the", "chi-square", "test", "and", "the", "log-likelihood", "ratio", "test", "-LSB-", "17", ",", "20", "-RSB-", ",", "where", "the", "chi-square", "test", "and", "the", "context", "vector", "analysis", "achieved", "the", "best", "performance", ".", "These", "will", "be", "introduced", "below", ".", "4.1", "The", "Chi-Square", "Test", "The", "chi-square", "test", "-LRB-", "2", "-RRB-", "was", "adopted", "as", "the", "major", "method", "of", "co-occurrence", "analysis", "in", "our", "study", ".", "One", "major", "reason", "is", "that", "the", "required", "parameters", "for", "the", "chi-square", "test", "can", "be", "effectively", "computed", "using", "the", "search-result", "pages", ",", "which", "alleviates", "the", "data", "sparseness", "problem", ".", "It", "also", "makes", "good", "use", "of", "all", "relations", "of", "co-occurrence", "between", "the", "source", "and", "target", "terms", ",", "especially", "the", "information", "that", "they", "do", "not", "co-occur", ".", "For", "source", "term", "s", "and", "target", "term", "t", ",", "the", "conventional", "chi-square", "test", "can", "be", "transformed", "as", "the", "similarity", "measure", "defined", "below", "-LSB-", "6", "-RSB-", ":", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "2", "2", "d", "c", "d", "b", "c", "a", "b", "a", "c", "b", "d", "a", "N", "t", "s", "S", "+", "+", "+", "+", "=", "-LRB-", "4", "-RRB-", "w", "here", "a", ":", "the", "number", "of", "pages", "containing", "both", "terms", "s", "and", "t", ";", "b", ":", "the", "number", "of", "pages", "containing", "term", "s", "but", "not", "t", ";", "c", ":", "the", "number", "of", "pages", "containing", "term", "t", "but", "not", "s", ";", "d", ":", "the", "number", "of", "pages", "containing", "neither", "term", "s", "nor", "t", ";", "N", ":", "the", "total", "number", "of", "pages", ",", "i.e.", ",", "N", "=", "a", "+", "b", "+", "c", "+", "d", ".", "Since", "most", "search", "engines", "accept", "Boolean", "queries", "and", "can", "report", "the", "number", "of", "pages", "matched", ",", "the", "required", "parameters", "for", "the", "chi-square", "test", "can", "be", "obtained", "by", "submitting", "Boolean", "queries", "such", "as", "`", "st", "'", ",", "`", "~", "st", "'", ",", "`", "s", "~", "t", "'", "to", "search", "engines", "and", "utilizing", "the", "returned", "page", "counts", ".", "On", "the", "other", "hand", ",", "it", "is", "easy", "to", "get", "number", "N", "using", "some", "search", "engines", "-LRB-", "e.g.", ",", "Google", "-RRB-", ",", "which", "indicates", "the", "111", "total", "number", "of", "their", "collected", "Web", "pages", ".", "The", "number", "d", "may", "not", "be", "directly", "available", "from", "the", "search", "engine", ",", "but", "it", "can", "be", "calculated", "using", "the", "formula", "N", "=", "a", "+", "b", "+", "c", "+", "d", ",", "i.e.", ",", "d", "=", "N-a-b-c", ".", "4.2", "Context", "Vector", "Analysis", "Co-occurrence", "analysis", "is", "applicable", "to", "higher", "frequency", "terms", "since", "they", "are", "more", "likely", "to", "appear", "with", "their", "translation", "candidates", ".", "On", "the", "other", "hand", ",", "lower", "frequency", "terms", "have", "little", "chance", "of", "appearing", "with", "candidates", "on", "the", "same", "pages", ".", "The", "context", "vector", "method", "-LRB-", "CV", "-RRB-", "is", "therefore", "adopted", "to", "deal", "with", "this", "problem", ".", "As", "translation", "equivalents", "may", "share", "similar", "terms", ",", "for", "each", "query", "term", ",", "we", "take", "the", "co-occurring", "feature", "terms", "as", "the", "feature", "vector", ".", "The", "similarity", "between", "query", "terms", "and", "translation", "candidates", "can", "be", "computed", "based", "on", "their", "feature", "vectors", ".", "Thus", ",", "lower", "frequency", "query", "terms", "still", "have", "a", "chance", "to", "extract", "correct", "translations", ".", "The", "context", "vector-based", "method", "has", "been", "used", "to", "extract", "translations", "from", "comparable", "corpora", ",", "such", "as", "the", "use", "of", "Fung", "et", "al.", "'s", "seed", "word", "-LSB-", "5", "-RSB-", ".", "In", "our", "method", ",", "real", "users", "'", "popular", "query", "terms", "are", "used", "as", "the", "feature", "set", ",", "which", "should", "help", "to", "avoid", "many", "inappropriate", "feature", "terms", ".", "Like", "Fung", "et", "al.", "'s", "vector", "space", "model", ",", "we", "also", "use", "the", "TF-IDF", "weighting", "scheme", "to", "estimate", "the", "significance", "of", "context", "features", ".", "This", "is", "defined", "as", "follows", ":", "-RRB-", "n", "log", "-LRB-", "-RRB-", ",", "-LRB-", "max", "-RRB-", ",", "-LRB-", "N", "d", "t", "f", "d", "t", "f", "w", "j", "j", "i", "t", "i", "=", "-LRB-", "5", "-RRB-", "where", "f", "-LRB-", "t", "i", ",", "d", "-RRB-", "is", "the", "frequency", "of", "term", "t", "i", "in", "search-result", "page", "d", ",", "N", "is", "the", "total", "number", "of", "Web", "pages", "in", "the", "collection", "of", "search", "engines", ",", "and", "n", "is", "the", "number", "of", "pages", "containing", "t", "i", ".", "Given", "the", "context", "vectors", "of", "a", "source", "query", "term", "and", "each", "target", "translation", "candidate", ",", "their", "similarity", "is", "estimated", "with", "cosine", "measure", "as", "follows", ":", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "-LRB-", "1", "2", "1", "2", "1", "=", "=", "=", "=", "m", "i", "t", "m", "i", "s", "t", "s", "m", "i", "cv", "i", "i", "i", "i", "w", "w", "w", "w", "t", "s", "S", "-LRB-", "6", "-RRB-", "It", "is", "not", "difficult", "to", "construct", "context", "vectors", "for", "source", "query", "terms", "and", "their", "translation", "candidates", ".", "For", "a", "source", "query", "term", ",", "we", "can", "use", "a", "fixed", "number", "of", "the", "top", "search", "results", "to", "extract", "translation", "candidates", ".", "The", "co-occurring", "feature", "terms", "of", "each", "query", "can", "also", "be", "extracted", ",", "and", "their", "weights", "calculated", ",", "which", "together", "form", "the", "context", "vector", "of", "the", "query", ".", "The", "same", "procedure", "is", "used", "to", "construct", "a", "context", "vector", "for", "each", "translation", "candidate", ".", "4.3", "The", "Combined", "Method", "Benefiting", "from", "real-world", "search", "engines", ",", "the", "search-result-based", "method", "using", "the", "chi-square", "test", "can", "reduce", "the", "work", "of", "corpus", "collection", ",", "but", "has", "difficulty", "in", "dealing", "with", "low-frequency", "query", "terms", ".", "Although", "context", "vector", "analysis", "can", "deal", "with", "difficulties", "encountered", "by", "the", "chi-square", "test", ",", "it", "is", "not", "difficult", "to", "see", "that", "the", "feature", "selection", "issue", "needs", "to", "be", "carefully", "handled", ".", "Intuitively", ",", "a", "more", "complete", "solution", "is", "to", "integrate", "the", "above", "two", "methods", ".", "Considering", "the", "various", "ranges", "of", "similarity", "values", "in", "the", "two", "methods", ",", "we", "use", "a", "linear", "combination", "weighting", "scheme", "to", "compute", "the", "similarity", "measure", "as", "follows", ":", "=", "m", "m", "m", "t", "s", "R", "t", "s", "S", "all", "-RRB-", ",", "-LRB-", "-RRB-", ",", "-LRB-", "-LRB-", "7", "-RRB-", "where", "m", "is", "an", "assigned", "weight", "for", "each", "similarity", "measure", "S", "m", ",", "and", "R", "m", "-LRB-", "s", ",", "t", "-RRB-", "-", "which", "represents", "the", "similarity", "ranking", "of", "each", "target", "candidate", "t", "with", "respect", "to", "source", "term", "s", "-", "is", "assigned", "to", "be", "from", "1", "to", "k", "-LRB-", "the", "number", "of", "candidates", "-RRB-", "in", "decreasing", "order", "of", "similarity", "measure", "S", "m", "-LRB-", "s", ",", "t", "-RRB-", ".", "4.4", "Experiments", "on", "Term", "Translation", "4.4.1", "The", "Test", "Bed", "To", "determine", "the", "effectiveness", "of", "the", "proposed", "approach", ",", "we", "conducted", "several", "experiments", "to", "extract", "translation", "pairs", "for", "Chinese", "and", "English", "terms", "in", "different", "domains", ".", "Web", "Queries", ":", "We", "collected", "query", "terms", "and", "the", "logs", "from", "two", "real-world", "Chinese", "search", "engines", "in", "Taiwan", ",", "i.e.", ",", "Dreamer", "and", "GAIS", ".", "The", "Dreamer", "log", "contained", "228,566", "unique", "query", "terms", "for", "a", "period", "of", "over", "3", "months", "in", "1998", ",", "while", "the", "GAIS", "log", "contained", "114,182", "unique", "query", "terms", "for", "a", "period", "of", "two", "weeks", "in", "1999", ".", "We", "prepared", "two", "different", "test", "query", "sets", "based", "on", "these", "logs", ".", "The", "first", ",", "called", "the", "popular-query", "set", ",", "contained", "a", "set", "of", "430", "frequent", "Chinese", "queries", "in", "the", "logs", ".", "These", "queries", "were", "obtained", "from", "the", "Chinese", "translations", "of", "1,230", "English", "terms", "out", "of", "the", "most", "popular", "9,709", "query", "terms", "-LRB-", "with", "frequencies", "above", "10", "in", "both", "logs", "-RRB-", ",", "which", "co-occurred", "with", "their", "English", "counterparts", "in", "the", "logs", ".", "The", "popular-query", "set", "was", "further", "divided", "into", "two", "types", ":", "type", "Dic", "-LRB-", "the", "terms", "covered", "in", "the", "dictionary", "-RRB-", ",", "consisting", "of", "about", "36", "%", "-LRB-", "156/430", "-RRB-", "of", "the", "test", "queries", "and", "type", "OOV", "-LRB-", "out", "of", "vocabulary", ";", "the", "terms", "not", "in", "the", "dictionary", "-RRB-", ",", "consisting", "of", "about", "64", "%", "-LRB-", "274/430", "-RRB-", "of", "the", "test", "queries", ".", "The", "second", "set", ",", "called", "the", "random-query", "set", ",", "contained", "200", "Chinese", "query", "terms", ",", "which", "were", "randomly", "selected", "from", "the", "top", "20,000", "queries", "in", "the", "Dreamer", "log", ",", "where", "165", "-LRB-", "about", "82.5", "%", "-RRB-", "were", "not", "included", "in", "general-purpose", "translation", "dictionaries", ".", "Proper", "Names", "and", "Technical", "Terms", ":", "To", "further", "investigate", "the", "translation", "effectiveness", "for", "proper", "names", "and", "technical", "terms", ",", "we", "prepared", "two", "other", "query", "sets", "containing", "50", "scientists", "'", "names", "and", "50", "disease", "names", "in", "English", ".", "These", "were", "randomly", "selected", "from", "the", "256", "scientists", "-LRB-", "Science/People", "-RRB-", "and", "664", "diseases", "-LRB-", "Health/Diseases", "and", "Conditions", "-RRB-", "in", "the", "Yahoo!", "Directory", ".", "It", "should", "be", "noted", "that", "76", "%", "-LRB-", "38/50", "-RRB-", "of", "the", "scientists", "'", "names", "and", "72", "%", "-LRB-", "36/50", "-RRB-", "of", "the", "disease", "names", "were", "not", "included", "in", "the", "general-purpose", "translation", "dictionary", ",", "which", "contained", "202,974", "entries", "collected", "from", "the", "Internet", ".", "To", "evaluate", "the", "search-result-based", "methods", ",", "we", "obtained", "search-result", "pages", "of", "the", "source", "query", "terms", "by", "submitting", "them", "to", "real-world", "Chinese", "search", "engines", ",", "such", "as", "Google", "Chinese", "and", "Openfind", ".", "Basically", ",", "we", "used", "only", "the", "first", "100", "retrieved", "results", "-LRB-", "snippets", "-RRB-", "to", "extract", "translation", "candidates", ".", "The", "context", "vector", "of", "each", "source", "query", "and", "the", "required", "parameters", "-LRB-", "page", "counts", "-RRB-", "for", "the", "chi-square", "test", "were", "also", "extracted", "from", "the", "retrieved", "search-result", "pages", ".", "To", "evaluate", "the", "performance", "of", "translation", "extraction", ",", "we", "used", "the", "average", "top-n", "inclusion", "rate", "as", "a", "metric", ".", "For", "a", "set", "of", "test", "queries", ",", "the", "top-n", "inclusion", "rate", "was", "defined", "as", "the", "percentage", "of", "queries", "whose", "translations", "could", "be", "found", "in", "the", "first", "n", "extracted", "translations", ".", "Also", ",", "we", "wished", "to", "know", "if", "the", "coverage", "rate", "of", "translations", ",", "i.e.", "the", "percentage", "of", "queries", "whose", "translations", "could", "be", "found", "in", "the", "whole", "extracted", "candidate", "set", ",", "was", "high", "enough", "in", "the", "top", "search-result", "pages", "for", "real", "queries", ".", "112", "4.4.2", "Performance", "Web", "Queries", "We", "carried", "out", "experiments", "to", "determine", "the", "performance", "of", "the", "proposed", "approach", "by", "extracting", "translations", "for", "the", "popular-query", "set", ".", "Tables", "3", "and", "4", "show", "the", "results", "in", "terms", "of", "top", "1-5", "inclusion", "rates", "and", "coverage", "rates", "for", "Chinese", "and", "English", "queries", "respectively", ".", "In", "this", "table", ",", "``", "CV", "''", ",", "''", "2", "''", "and", "``", "Combined", "''", "represent", "the", "context-vector", "analysis", ",", "the", "chi-square", "test", ",", "and", "the", "combined", "method", ",", "respectively", ".", "In", "addition", ",", "``", "Dic", "''", ",", "``", "OOV", "''", "and", "``", "All", "''", "represent", "the", "terms", "covered", "in", "a", "dictionary", ",", "the", "terms", "not", "in", "a", "dictionary", ",", "and", "the", "total", "test", "query", "set", ",", "respectively", ".", "The", "coverage", "rates", "we", "obtained", "were", "promising", ",", "which", "shows", "that", "the", "Web", "contains", "rich", "mixed", "texts", "in", "both", "languages", ".", "The", "performance", "of", "the", "English", "query", "set", "was", "not", "as", "good", "as", "the", "Chinese", "query", "set", ".", "The", "reason", "for", "this", "was", "that", "the", "English", "queries", "suffered", "from", "more", "noise", "in", "Chinese", "translation", "candidates", "since", "the", "search-result", "pages", "in", "the", "Chinese", "Web", "generally", "contain", "much", "more", "Chinese", "than", "English", "content", ".", "We", "also", "conducted", "an", "experiment", "for", "random", "queries", ".", "As", "Table", "5", "shows", ",", "the", "coverage", "rates", "were", "encouraging", ".", "Proper", "Names", ",", "Technical", "Terms", "and", "Common", "Terms", "To", "further", "determine", "the", "effectiveness", "of", "the", "proposed", "approach", "in", "dealing", "with", "the", "translation", "of", "proper", "names", "and", "technical", "terms", ",", "we", "conducted", "an", "experiment", "on", "the", "test", "sets", "of", "scientists", "'", "names", "and", "medical", "terms", "using", "the", "combined", "method", ".", "As", "the", "results", "in", "Table", "6", "show", ",", "the", "top-1", "inclusion", "rates", "for", "the", "scientists", "'", "and", "disease", "names", "were", "40", "%", "and", "44", "%", "respectively", ".", "Some", "examples", "of", "the", "extracted", "correct", "translations", "are", "shown", "in", "Table", "7", ".", "Although", "the", "achieved", "performance", "for", "real", "queries", "looked", "promising", ",", "we", "wished", "to", "know", "if", "it", "was", "equally", "effective", "for", "common", "terms", ".", "We", "randomly", "selected", "100", "common", "nouns", "and", "100", "common", "verbs", "from", "a", "general-purpose", "Chinese", "dictionary", ".", "Table", "8", "shows", "the", "results", "obtained", "using", "the", "combined", "method", ".", "It", "is", "easy", "to", "see", "that", "the", "proposed", "approach", "is", "less", "reliable", "in", "Table", "3", ".", "Coverage", "and", "inclusion", "rates", "for", "popular", "Chinese", "queries", "using", "different", "methods", ".", "Method", "Query", "Type", "Top-1", "Top-3", "Top-5", "Coverage", "Dic", "56.4", "%", "70.5", "%", "74.4", "%", "80.1", "%", "OOV", "56.2", "%", "66.1", "%", "69.3", "%", "85.0", "%", "CV", "All", "56.3", "%", "67.7", "%", "71.2", "%", "83.3", "%", "Dic", "40.4", "%", "61.5", "%", "67.9", "%", "80.1", "%", "OOV", "54.7", "%", "65.0", "%", "68.2", "%", "85.0", "%", "2", "All", "49.5", "%", "63.7", "%", "68.1", "%", "83.3", "%", "Dic", "57.7", "%", "71.2", "%", "75.0", "%", "80.1", "%", "OOV", "56.6", "%", "67.9", "%", "70.9", "%", "85.0", "%", "Combined", "All", "57.2", "%", "68.6", "%", "72.8", "%", "83.3", "%", "Table", "4", ".", "Coverage", "and", "inclusion", "rates", "for", "popular", "English", "queries", "using", "different", "methods", ".", "Method", "Top-1", "Top-3", "Top-5", "Coverage", "CV", "50.9", "%", "60.1", "%", "60.8", "%", "80.9", "%", "2", "44.6", "%", "56.1", "%", "59.2", "%", "80.9", "%", "Combined", "51.8", "%", "60.7", "%", "62.2", "%", "80.9", "%", "Table", "5", ".", "Coverage", "and", "inclusion", "rates", "for", "random", "queries", "using", "the", "different", "methods", ".", "Method", "Top-1", "Top-3", "Top-5", "Coverage", "CV", "25.5", "%", "45.5", "%", "50.5", "%", "60.5", "%", "2", "26.0", "%", "44.5", "%", "50.5", "%", "60.5", "%", "Combined", "29.5", "%", "49.5", "%", "56.5", "%", "60.5", "%", "Table", "6", ".", "Inclusion", "rates", "for", "proper", "names", "and", "technical", "terms", "using", "the", "combined", "method", ".", "Query", "Type", "Top-1", "Top-3", "Top-5", "Scientist", "Name", "40.0", "%", "52.0", "%", "60.0", "%", "Disease", "Name", "44.0", "%", "60.0", "%", "70.0", "%", "113", "extracting", "translations", "of", "such", "common", "terms", ".", "One", "possible", "reason", "is", "that", "the", "usages", "of", "common", "terms", "are", "diverse", "on", "the", "Web", "and", "the", "retrieved", "search", "results", "are", "not", "highly", "relevant", ".", "It", "is", "fortunate", "that", "many", "of", "these", "common", "words", "can", "be", "found", "in", "general-purpose", "translation", "dictionaries", ".", "Table", "8", ".", "Top", "1", ",", "3", ",", "5", "inclusion", "rates", "obtained", "using", "the", "combined", "method", "for", "extracting", "translations", "of", "common", "nouns", "and", "verbs", ".", "Query", "Type", "Top-1", "Top-3", "Top-5", "100", "Common", "Nouns", "23.0", "%", "33.0", "%", "43.0", "%", "100", "Common", "Verbs", "6.0", "%", "8.0", "%", "10.0", "%", "To", "enhance", "CLIR", "services", "in", "a", "digital", "library", "that", "only", "has", "monolingual", "document", "collections", ",", "the", "proposed", "approach", "can", "be", "used", "to", "construct", "a", "domain-specific", "bilingual", "lexicon", ".", "We", "take", "the", "document", "set", "in", "digital", "libraries", "into", "consideration", ".", "The", "document", "set", "in", "the", "target", "language", "is", "first", "analyzed", "and", "possible", "key", "terms", "that", "are", "representative", "of", "the", "document", "set", "are", "extracted", ",", "using", "the", "proposed", "term", "extraction", "method", ".", "These", "extracted", "key", "terms", "are", "likely", "to", "be", "similar", "to", "terms", "that", "users", "may", "use", "in", "real", "user", "queries", ",", "since", "they", "are", "relatively", "more", "significant", "than", "other", "terms", "in", "the", "documents", ".", "The", "proposed", "term", "translation", "method", "can", "then", "be", "applied", "to", "those", "key", "terms", "not", "included", "in", "common", "translation", "dictionaries", "to", "obtain", "the", "translation", "of", "key", "terms", "in", "the", "source", "language", ".", "Therefore", ",", "a", "bilingual", "lexicon", "can", "then", "be", "constructed", "where", "the", "mappings", "between", "key", "terms", "and", "relevant", "terms", "in", "the", "source", "and", "target", "languages", "are", "maintained", ".", "As", "we", "have", "already", "indicated", ",", "the", "constructed", "bilingual", "lexicon", "can", "benefit", "CLIR", "services", ".", "For", "a", "given", "source", "query", ",", "the", "similarity", "with", "candidate", "source", "relevant", "terms", "can", "be", "calculated", "using", "the", "context", "vector", "method", "presented", "in", "Section", "4", ".", "Also", ",", "and", "the", "top-ranked", "relevant", "terms", "can", "be", "extracted", "using", "the", "constructed", "bilingual", "lexicon", ".", "After", "the", "corresponding", "translations", "of", "relevant", "terms", "are", "obtained", ",", "relevant", "documents", "in", "the", "target", "language", "can", "be", "retrieved", ",", "using", "these", "relevant", "translations", ".", "The", "source", "query", "can", "then", "be", "expanded", "with", "the", "relevant", "translations", "and", "conventional", "CLIR", "methods", "can", "be", "used", "to", "retrieve", "documents", "in", "the", "target", "language", ".", "5.2", ".", "An", "Application", "We", "tested", "the", "STICNET", "Database", "4", ",", "which", "is", "a", "government-supported", "Web-accessible", "digital", "library", "system", "providing", "a", "search", "service", "for", "scientific", "documents", "collected", "in", "Taiwan", ".", "The", "system", "contained", "documents", "in", "either", "English", "or", "Chinese", ",", "but", "no", "cross-language", "search", "was", "provided", ".", "To", "test", "the", "performance", "of", "bilingual", "lexicon", "construction", ",", "we", "selected", "1,367", "Information", "Engineering", "documents", "and", "5,357", "Medical", "documents", "respectively", "from", "the", "STICNET", "Database", "for", "the", "period", "1983", "to", "1997", "as", "the", "test", "bed", ".", "Using", "the", "PAT-tree-based", "term", "extraction", "method", ",", "key", "terms", "were", "automatically", "extracted", "from", "each", "document", "collection", "and", "their", "relevant", "translations", "were", "extracted", "by", "the", "proposed", "term", "translation", "approach", ".", "In", "the", "collection", "of", "Information", "Engineering", "documents", ",", "1,330", "key", "terms", "-LRB-", "with", "a", "threshold", "of", "2", "to", "6-gram", "character", "strings", ",", "a", "term", "frequency", ">", "10", ",", "and", "an", "association", "value", ">", "0.1", "-RRB-", "were", "automatically", "extracted", ".", "Meanwhile", ",", "5,708", "key", "terms", "-LRB-", "with", "a", "threshold", "of", "2", "to", "6-gram", "character", "strings", "and", "a", "term", "frequency", ">", "40", "-RRB-", "were", "automatically", "extracted", "from", "the", "Medical", "document", "collection", ".", "Among", "the", "1,330", "auto-extracted", "key", "terms", "from", "the", "Information", "Engineering", "documents", ",", "32", "%", "were", "not", "included", "in", "KUH", "Chinese", "Dictionary", "5", "-LRB-", "unknown", "terms", "-RRB-", "-", "one", "of", "the", "largest", "Chinese", "dictionaries", "with", "158,239", "term", "entries", "-", "where", "75", "%", "of", "these", "unknown", "terms", "were", "found", "useful", ".", "In", "the", "case", "of", "Medical", "documents", ",", "71", "%", "of", "the", "5,708", "auto-extracted", "key", "terms", "were", "not", "included", "in", "KUH", "Chinese", "Dictionary", "where", "36.6", "%", "of", "these", "unknown", "terms", "were", "found", "useful", ".", "Table", "9", "shows", "the", "accuracy", "of", "the", "extracted", "translations", "for", "these", "useful", "unknown", "terms", ".", "The", "promising", "result", "shows", "the", "potential", "of", "the", "proposed", "approach", "to", "assist", "bilingual", "lexicon", "construction", ".", "4", "http://sticnet.stic.gov.tw/", "5", "http://www.edu.tw/mandr/clc/dict/", "Table", "7", ".", "Some", "examples", "of", "the", "test", "English", "proper", "names", "and", "technical", "terms", ",", "and", "their", "extracted", "Chinese", "translations", ".", "Query", "Type", "English", "Query", "Extracted", "Translations", "-LRB-", "in", "Traditional", "Chinese", "-RRB-", "Scientist", "Name", "Galilei", ",", "Galileo", "-LRB-", "Astronomer", "-RRB-", "Crick", ",", "Francis", "-LRB-", "Biologists", "-RRB-", "Kepler", ",", "Johannes", "-LRB-", "Mathematician", "-RRB-", "Dalton", ",", "John", "-LRB-", "Physicist", "-RRB-", "Feynman", ",", "Richard", "-LRB-", "Physicist", "-RRB-", "/", "/", "/", "/", "/", "/", "/", "Disease", "Name", "Hypoplastic", "Left", "Heart", "Syndrome", "Legionnaires", "'", "Disease", "Shingles", "Stockholm", "Syndrome", "Sudden", "Infant", "Death", "Syndrome", "-LRB-", "SIDS", "-RRB-", "/", "114", "Table", "9", ".", "The", "top-n", "inclusion", "rates", "of", "translations", "for", "auto-extracted", "useful", "unknown", "terms", ".", "Query", "Type", "Top-1", "Top-3", "Top-5", "Auto-extracted", "useful", "terms", "in", "Information", "Engineering", "33.3", "%", "37.5", "%", "50.0", "%", "Auto-extracted", "useful", "terms", "in", "Medicine", "34.6", "%", "46.2", "%", "50.0", "%", "Many", "effective", "retrieval", "models", "have", "been", "developed", "for", "CLIR", ".", "For", "example", ",", "the", "Latent", "Semantic", "Indexing", "-LRB-", "LSI", "-RRB-", "method", "-LSB-", "4", "-RSB-", "has", "been", "utilized", "to", "model", "inter-term", "relationships", ",", "instead", "of", "exact", "term", "matching", ".", "Other", "methods", "include", "the", "cross-lingual", "relevance", "model", "-LSB-", "11", "-RSB-", ",", "which", "integrates", "popular", "techniques", "of", "disambiguation", "and", "query", "expansion", ".", "However", ",", "translation", "of", "queries", "not", "covered", "in", "a", "bilingual", "dictionary", "remains", "one", "of", "the", "major", "challenges", "in", "practical", "CLIR", "services", "-LSB-", "9", "-RSB-", ".", "To", "deal", "with", "the", "translation", "of", "out-of-dictionary", "terms", ",", "conventional", "research", "on", "machine", "translation", "has", "generally", "used", "statistical", "techniques", "to", "automatically", "extract", "translations", "from", "domain-specific", ",", "sentence-aligned", "parallel", "bilingual", "corpora", "-LSB-", "20", "-RSB-", ".", "However", ",", "a", "large", "parallel", "corpus", "is", "difficult", "to", "obtain", ".", "Some", "work", "has", "been", "done", "on", "term", "translation", "extraction", "from", "comparable", "texts", ",", "such", "as", "bilingual", "newspapers", "-LSB-", "5", "-RSB-", ",", "which", "are", "easier", "to", "obtain", ".", "Using", "a", "non-parallel", "corpus", "is", "more", "difficult", "than", "a", "parallel", "one", ",", "due", "to", "the", "lack", "of", "alignment", "correspondence", "for", "sentence", "pairs", ".", "On", "the", "other", "hand", ",", "research", "on", "digital", "libraries", "has", "made", "the", "same", "endeavor", ".", "Larson", "et", "al.", "-LSB-", "10", "-RSB-", "proposed", "a", "method", "for", "translingual", "vocabulary", "mapping", "using", "multilingual", "subject", "headings", "of", "book", "titles", "in", "online", "library", "catalogs", "-", "a", "kind", "of", "parallel", "corpus", ".", "However", ",", "book", "titles", "are", "still", "limited", "in", "coverage", ",", "compared", "to", "the", "rich", "resources", "on", "the", "Web", ".", "A", "new", "potential", "research", "direction", "is", "to", "perform", "query", "translation", "directly", ",", "through", "mining", "the", "Web", "'s", "multilingual", "and", "wide-range", "resources", "-LSB-", "16", "-RSB-", ".", "Web", "mining", "is", "a", "new", "research", "area", "that", "focuses", "on", "finding", "useful", "information", "from", "large", "amounts", "of", "semi-structured", "hypertexts", "and", "unstructured", "texts", "-LSB-", "1", "-RSB-", ".", "Chen", "et", "al.", "-LSB-", "2", "-RSB-", "proposed", "a", "dictionary-based", "approach", "in", "which", "the", "search", "results", "returned", "from", "Yahoo", "China", "search", "engine", "were", "utilized", "to", "extract", "translations", "for", "terms", "not", "covered", "in", "the", "dictionary", ".", "In", "their", "work", "only", "an", "English", "term", "appearing", "-LRB-", "maybe", "in", "parenthesis", "-RRB-", "immediately", "or", "closely", "after", "a", "Chinese", "term", "was", "considered", "a", "possible", "translation", ".", "In", "our", "previous", "research", ",", "we", "proposed", "an", "approach", "for", "extracting", "translations", "of", "Web", "queries", "through", "the", "mining", "of", "anchor", "texts", "and", "link", "structures", "and", "obtained", "very", "promising", "results", "-LSB-", "12", ",", "13", "-RSB-", ".", "Previous", "experiments", "showed", "that", "the", "anchor-text-based", "approach", "can", "achieve", "a", "good", "precision", "rate", "for", "popular", "queries", ".", "Its", "major", "drawback", "is", "the", "very", "high", "cost", "of", "the", "hardware", "and", "software", "required", "to", "collect", "sufficient", "anchor", "texts", "from", "Web", "pages", ".", "Collecting", "anchor", "texts", "requires", "a", "powerful", "Web", "spider", "and", "takes", "cost", "of", "network", "bandwidth", "and", "storage", ".", "Because", "of", "the", "practical", "needs", "of", "digital", "libraries", ",", "search-result", "pages", ",", "which", "are", "easier", "to", "obtain", "are", ",", "therefore", ",", "investigated", "in", "this", "paper", ".", "In", "this", "paper", ",", "we", "have", "introduced", "a", "Web-based", "approach", "for", "dealing", "with", "the", "translation", "of", "unknown", "query", "terms", "for", "cross-language", "information", "retrieval", "in", "digital", "libraries", ".", "With", "the", "proposed", "term", "extraction", "and", "translation", "methods", ",", "it", "is", "feasible", "to", "translate", "unknown", "terms", "and", "construct", "a", "bilingual", "lexicon", "for", "key", "terms", "extracted", "from", "documents", "in", "a", "digital", "library", ".", "With", "the", "help", "of", "such", "bilingual", "lexicons", ",", "it", "would", "be", "convenient", "for", "users", "to", "formulate", "cross-lingual", "queries", ".", "The", "simplicity", "of", "the", "approach", "not", "only", "makes", "it", "very", "suitable", "for", "digital", "library", "systems", ",", "but", "would", "also", "facilitate", "the", "implementation", "of", "CLIR", "services", ".", "-LSB-", "1", "-RSB-", "Chakrabarti", ",", "S.", "Mining", "the", "Web", ":", "Analysis", "of", "Hypertext", "and", "Semi", "Structured", "Data", ",", "Morgan", "Kaufmann", ",", "2002", ".", "-LSB-", "2", "-RSB-", "Chen", ",", "A.", ",", "Jiang", ",", "H.", ",", "and", "Gey", ",", "F.", "Combining", "Multiple", "Sources", "for", "Short", "Query", "Translation", "in", "Chinese-English", "Cross-Language", "Information", "Retrieval", ".", "In", "Proceedings", "of", "the", "5th", "International", "Workshop", "on", "Information", "Retrieval", "with", "Asian", "Languages", "-LRB-", "IRAL", "2000", "-RRB-", ",", "2000", ",", "17-23", ".", "-LSB-", "3", "-RSB-", "Chien", ",", "L.F.", "PAT-Tree-based", "Keyword", "Extraction", "for", "Chinese", "Information", "Retrieval", ".", "In", "Proceedings", "of", "the", "20", "th", "Annual", "International", "ACM", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "1997", "-RRB-", ",", "1997", ",", "50-58", ".", "-LSB-", "4", "-RSB-", "Dumais", ",", "S.", "T.", ",", "Landauer", ",", "T.", "K.", ",", "and", "Littman", ",", "M.", "L.", "Automatic", "Cross-Linguistic", "Information", "Retrieval", "Using", "Latent", "Semantic", "Indexing", ".", "In", "Proceedings", "of", "ACM-SIGIR", "Workshop", "on", "Cross-Linguistic", "Information", "Retrieval", "-LRB-", "SIGIR", "1996", "-RRB-", ",", "1996", ",", "16-24", ".", "-LSB-", "5", "-RSB-", "Fung", ",", "P.", "and", "Yee", ",", "L.", "Y", ".", "An", "IR", "Approach", "for", "Translating", "New", "Words", "from", "Nonparallel", ",", "Comparable", "Texts", ".", "In", "Proceedings", "of", "the", "36th", "Annual", "Conference", "of", "the", "Association", "for", "Computational", "Linguistics", "-LRB-", "ACL", "1998", "-RRB-", ",", "1998", ",", "414-420", ".", "-LSB-", "6", "-RSB-", "Gale", ",", "W.", "A.", "and", "Church", ",", "K.", "W.", "Identifying", "Word", "Correspondences", "in", "Parallel", "Texts", ".", "In", "Proceedings", "of", "DARPA", "Speech", "and", "Natural", "Language", "Workshop", ",", "1991", ",", "152-157", ".", "-LSB-", "7", "-RSB-", "Gale", ",", "W.A.", "and", "Church", ",", "K.W.", ".", "A", "Program", "for", "Aligning", "Sentences", "in", "Bilingual", "Corpora", ".", "Computational", "Linguistics", ",", "19", ",", "1", "-LRB-", "1993", "-RRB-", ",", "75-102", ".", "-LSB-", "8", "-RSB-", "Gonnet", ",", "G.H.", ",", "Baeza-yates", ",", "R.A.", "and", "Snider", ",", "T.", "New", "Indices", "for", "Text", ":", "Pat", "Trees", "and", "Pat", "Arrays", ".", "Information", "Retrieval", "Data", "Structures", "&", "Algorithms", ",", "Prentice", "Hall", ",", "1992", ",", "66-82", ".", "-LSB-", "9", "-RSB-", "Kwok", ",", "K.", "L.", "NTCIR-2", "Chinese", ",", "Cross", "Language", "Retrieval", "Experiments", "Using", "PIRCS", ".", "In", "Proceedings", "of", "NTCIR", "workshop", "meeting", ",", "2001", ",", "111-118", ".", "-LSB-", "10", "-RSB-", "Larson", ",", "R.", "R.", ",", "Gey", ",", "F.", ",", "and", "Chen", ",", "A.", "Harvesting", "Translingual", "Vocabulary", "Mappings", "for", "Multilingual", "Digital", "Libraries", ".", "In", "Proceedings", "of", "ACM/IEEE", "Joint", "Conference", "on", "Digital", "Libraries", "-LRB-", "JCDL", "2002", "-RRB-", ",", "2002", ",", "185-190", ".", "-LSB-", "11", "-RSB-", "Lavrenko", ",", "V.", ",", "Choquette", ",", "M.", ",", "and", "Croft", ",", "W.", "B.", "Cross-Lingual", "Relevance", "Models", ".", "In", "Proceedings", "of", "ACM", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "2002", "-RRB-", ",", "2002", ",", "175-182", ".", "-LSB-", "12", "-RSB-", "Lu", ",", "W.", "H.", ",", "Chien", ",", "L.", "F.", ",", "and", "Lee", ",", "H.", "J.", "Translation", "of", "Web", "Queries", "using", "Anchor", "Text", "Mining", ".", "ACM", "Transactions", "on", "Asian", "Language", "Information", "Processing", ",", "1", "-LRB-", "2002", "-RRB-", ",", "159-172", ".", "-LSB-", "13", "-RSB-", "Lu", ",", "W.", "H.", ",", "Chien", ",", "L.", "F.", ",", "and", "Lee", ",", "H.", "J.", "Anchor", "Text", "Mining", "for", "Translation", "of", "Web", "Queries", ":", "A", "Transitive", "Translation", "Approach", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "22", "-LRB-", "2004", "-RRB-", ",", "1", "28", ".", "-LSB-", "14", "-RSB-", "Manber", ",", "U.", "and", "Baeza-yates", ",", "R", ".", "An", "Algorithm", "for", "String", "Matching", "with", "a", "Sequence", "of", "Do", "n't", "Cares", ".", "Information", "Processing", "Letters", ",", "37", "-LRB-", "1991", "-RRB-", ",", "133-136", ".", "-LSB-", "15", "-RSB-", "Morrison", ",", "D.", "PATRICIA", ":", "Practical", "Algorithm", "to", "Retrieve", "Information", "Coded", "in", "Alphanumeric", ".", "JACM", ",", "1968", ",", "514-534", ".", "115", "-LSB-", "16", "-RSB-", "Nie", ",", "J.", "Y.", ",", "Isabelle", ",", "P.", ",", "Simard", ",", "M.", ",", "and", "Durand", ",", "R.", "Cross-language", "Information", "Retrieval", "Based", "on", "Parallel", "Texts", "and", "Automatic", "Mining", "of", "Parallel", "Texts", "from", "the", "Web", ".", "In", "Proceedings", "of", "ACM", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "1999", "-RRB-", ",", "1999", ",", "74-81", ".", "-LSB-", "17", "-RSB-", "Rapp", ",", "R.", "Automatic", "Identification", "of", "Word", "Translations", "from", "Unrelated", "English", "and", "German", "Corpora", ",", "In", "Proceedings", "of", "the", "37th", "Annual", "Conference", "of", "the", "Association", "for", "Computational", "Linguistics", "-LRB-", "ACL", "1999", "-RRB-", ",", "1999", ",", "519-526", ".", "-LSB-", "18", "-RSB-", "Silva", ",", "J.", "F.", ",", "Dias", ",", "G.", ",", "Guillore", ",", "S.", ",", "and", "Lopes", ",", "G.", "P.", "Using", "LocalMaxs", "Algorithm", "for", "the", "Extraction", "of", "Contiguous", "and", "Non-contiguous", "Multiword", "Lexical", "Units", ".", "Lecture", "Notes", "in", "Artificial", "Intelligence", ",", "1695", ",", "Springer-Verlag", ",", "1999", ",", "113-132", ".", "-LSB-", "19", "-RSB-", "Silva", ",", "J.", "F.", "and", "Lopes", ",", "G.", "P", ".", "A", "Local", "Maxima", "Method", "and", "a", "Fair", "Dispersion", "Normalization", "for", "Extracting", "Multiword", "Units", ".", "In", "Proceedings", "of", "the", "6", "th", "Meeting", "on", "the", "Mathematics", "of", "Language", ",", "1999", ",", "369-381", ".", "-LSB-", "20", "-RSB-", "Smadja", ",", "F.", ",", "McKeown", ",", "K.", ",", "and", "Hatzivassiloglou", ",", "V.", "Translating", "Collocations", "for", "Bilingual", "Lexicons", ":", "A", "Statistical", "Approach", ",", "Computational", "Linguistics", ",", "22", ",", "1", "-LRB-", "1996", "-RRB-", ",", "1-38", ".", "116"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["digital library", "term extraction", "context vector analysis", "information search and retrieval", "web mining", "clir services", "bilingual lexicon construction", "term translation", "translation dictionary", "digital libraries"], "abstractive_keyphrases": ["unknown cross-lingual queries", "pat-tree based local maxima algorithm", "web-based term translation approach", "cross-language information retrieval"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "210", "document": ["Using", "Web", "Helper", "Agent", "Profiles", "in", "Query", "Generation", "Personalized", "information", "agents", "can", "help", "overcome", "some", "of", "the", "limitations", "of", "communal", "Web", "information", "sources", "such", "as", "portals", "and", "search", "engines", ".", "Two", "important", "components", "of", "these", "agents", "are", ":", "user", "profiles", "and", "information", "filtering", "or", "gathering", "services", ".", "Ideally", ",", "these", "components", "can", "be", "sep-arated", "so", "that", "a", "single", "user", "profile", "can", "be", "leveraged", "for", "a", "variety", "of", "information", "services", ".", "Toward", "that", "end", ",", "we", "are", "building", "an", "information", "agent", "called", "SurfAgent", ";", "in", "previous", "studies", ",", "we", "have", "developed", "and", "tested", "methods", "for", "automatically", "learning", "a", "user", "profile", "-LSB-", "20", "-RSB-", ".", "In", "this", "paper", ",", "we", "evaluate", "alternative", "methods", "for", "recommending", "new", "documents", "to", "a", "user", "by", "generating", "queries", "from", "the", "user", "profile", "and", "submitting", "them", "to", "a", "popular", "search", "engine", ".", "Our", "study", "focuses", "on", "three", "questions", ":", "How", "do", "different", "algorithms", "for", "query", "generation", "perform", "relative", "to", "each", "other", "?", "Is", "positive", "relevance", "feedback", "adequate", "to", "support", "the", "task", "?", "Can", "a", "user", "profile", "be", "learned", "independent", "of", "the", "service", "?", "We", "found", "that", "three", "algorithms", "appear", "to", "excel", "and", "that", "using", "only", "positive", "feedback", "does", "degrade", "the", "results", "somewhat", ".", "We", "conclude", "with", "the", "results", "of", "a", "pilot", "user", "study", "for", "assessing", "interaction", "of", "the", "profile", "and", "the", "query", "generation", "mechanisms", ".", "H.", "3.3", "-LSB-", "Information", "storage", "and", "retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "--", "Query", "formulation", ",", "Search", "process", ",", "Information", "filtering", "The", "Web", "has", "become", "an", "indispensable", "source", "of", "information", "for", "many", "people", ".", "Based", "on", "surveys", "of", "the", "most", "popular", "Web", "sites", "-LSB-", "14", "-RSB-", ",", "users", "deal", "with", "the", "overwhelming", "amount", "and", "constantly", "updating", "nature", "of", "the", "information", "by", "routinely", "visiting", "hub", "sites", "-LRB-", "e.g.", ",", "Netscape", ",", "Yahoo", ",", "CNN", "-RRB-", "and", "making", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "AAMAS", "'", "03", ",", "July", "14-18", ",", "2003", ",", "Melbourne", ",", "Australia", "Copyright", "2003", "ACM", "1-58113-683-8", "/", "03/0007", ".", ".", "$", "5.00", "copious", "use", "of", "search", "engines", "-LRB-", "e.g.", ",", "AltaVista", ",", "Excite", ",", "Magellan", "-RRB-", ".", "Users", "have", "derived", "tremendous", "leverage", "from", "shared", "information", "resources", "such", "as", "those", "just", "mentioned", ".", "Hubs", "or", "portals", "provide", "communally", "useful", "information", "about", "perennial", "-LRB-", "e.g.", ",", "financial", "management", ",", "child", "rearing", "-RRB-", "and", "timely", "-LRB-", "e.g.", ",", "September", "11", "events", ",", "stock", "quote", "-RRB-", "topics", ".", "Search", "engines", "satisfy", "specific", ",", "spontaneous", "information", "needs", ".", "As", "our", "appetite", "for", "information", "increases", ",", "so", "does", "its", "availability", "on", "the", "Web", ".", "Studies", "-LRB-", "e.g.", ",", "-LSB-", "21", ",", "12", "-RSB-", "-RRB-", "have", "identified", "limitations", "with", "these", "tools", "for", "satisfying", "users", "'", "needs", ";", "for", "example", ",", "users", "appear", "to", "lack", "the", "motivation", "to", "learn", "how", "to", "formulate", "complex", "queries", "or", "to", "view", "long", "lists", "of", "potential", "matches", ".", "Meta-search", "engines", ",", "such", "as", "Meta-Crawler", "-LSB-", "18", "-RSB-", ",", "SavvySearch", "-LSB-", "6", "-RSB-", ",", "and", "NECI", "-LSB-", "11", "-RSB-", ",", "propose", "to", "overcome", "the", "Web", "coverage", "problem", "by", "combining", "the", "indexing", "power", "of", "multiple", "stand-alone", "search", "engines", ".", "However", ",", "because", "they", "leverage", "the", "capabilities", "of", "many", "search", "engines", ",", "they", "tend", "to", "generalize", "the", "search", "task", ":", "limiting", "the", "access", "to", "search-engine", "-", "specific", "advanced", "search", "capabilities", "and", ",", "perhaps", ",", "introducing", "even", "more", "noise", "into", "the", "return", "results", ".", "One", "promising", "approach", "to", "compensating", "for", "the", "limitations", "is", "to", "personalize", "the", "tools", ".", "Pretschner", "and", "Gauch", "divide", "personalization", "into", "two", "types", ":", "personalized", "access", "to", "resources", "and", "filtering/ranking", "-LSB-", "15", "-RSB-", ".", "For", "example", ",", "My", "Yahoo", "-LRB-", "http://my.yahoo.com", "-RRB-", "provides", "personalized", "access", "by", "allowing", "users", "to", "design", "their", "own", "Yahoo", "page", "with", "pertinent", "information", ";", "many", "search", "and", "meta-search", "engines", "support", "some", "customization", "-LRB-", "e.g.", ",", "types", "of", "search", ",", "return", "amount", ",", "and", "search", "engine", "selection", "-RRB-", ".", "``", "Softbot", "``", "s", "or", "information", "agents", "augment", "searching", "and", "information", "gathering", "-LRB-", "filtering/ranking", "-RRB-", ".", "Personalized", "information", "agents", ",", "such", "as", "Letizia", "-LSB-", "13", "-RSB-", ",", "WebWatcher", "-LSB-", "1", ",", "10", "-RSB-", ",", "and", "WebMate", "-LSB-", "5", "-RSB-", ",", "can", "provide", "a", "range", "of", "services", "from", "automatically", "retrieving", "Web", "pages", "to", "assisting", "in", "formulating", "queries", ".", "These", "agents", "generally", "comply", "with", "the", "architecture", "presented", "in", "Figure", "1", ".", "The", "agent", "intercedes", "between", "the", "user", "and", "their", "Web", "access", ",", "monitoring", "the", "user", "'s", "activities", "to", "construct", "a", "model", "of", "user", "requests", "-LRB-", "the", "profile", "-RRB-", "to", "be", "used", "for", "specific", "information", "services", "-LRB-", "e.g.", ",", "modifying", "requests", "and/or", "filtering", "results", "-RRB-", ".", "In", "our", "research", ",", "we", "adopt", "the", "principle", "that", "user", "overhead", "needs", "to", "be", "minimized", ":", "The", "profile", "should", "be", "learned", "by", "asking", "the", "user", "to", "simply", "click", "on", "a", "feedback", "button", "positioned", "on", "the", "bottom", "of", "each", "page", "to", "indicate", "interest", ".", "Learning", "should", "track", "changes", "in", "user", "interests", ".", "The", "profile", "should", "support", "multiple", "information", "services", ".", "812", "monitor", "generate", "request", "for", "doc", ".", "stream", "filter", "user", "Web", "user", "profile", "document", "flow", "command", "flow", "Figure", "1", ":", "Architecture", "of", "a", "Web", "information", "helper", "agent", "In", "previous", "papers", ",", "we", "have", "assessed", "some", "alternative", "approaches", "to", "learning", "user", "profiles", "-LSB-", "20", ",", "19", "-RSB-", ".", "In", "this", "paper", ",", "we", "examine", "alternative", "approaches", "to", "one", "of", "the", "services", ":", "query", "generation", "to", "find", "new", "documents", "-LRB-", "i.e.", ",", "automatically", "retrieving", "Web", "pages", "that", "match", "a", "user", "'s", "interests", "by", "submitting", "queries", "to", "a", "Web", "search", "engine", "-RRB-", ".", "In", "particular", ",", "we", "are", "interested", "in", "answering", "the", "following", "questions", ":", "1", ".", "How", "do", "different", "algorithms", "for", "query", "generation", "perform", "relative", "to", "each", "other", "?", "For", "our", "case", ",", "query", "generation", "involves", "constructing", "queries", "from", "a", "user", "profile", "that", "are", "submitted", "to", "a", "search", "engine", "for", "the", "purpose", "of", "harvesting", "documents", ".", "2", ".", "Is", "positive", "relevance", "feedback", "adequate", "to", "support", "the", "task", "?", "To", "minimize", "user", "overhead", ",", "we", "have", "solicited", "only", "positive", "relevance", "feedback", ".", "Obviously", ",", "this", "provides", "relatively", "weak", "knowledge", ",", "requiring", "the", "profiling", "mechanism", "to", "self-organize", "the", "categories", "of", "interest", "and", "to", "trade-off", "precision", ".", "3", ".", "Can", "a", "user", "profile", "be", "learned", "independent", "of", "the", "service", "?", "If", "so", ",", "then", "user", "overhead", "can", "be", "minimized", "and", "multiple", "services", "provided", "as", "part", "of", "the", "same", "agent", ".", "This", "paper", "describes", "a", "framework", "for", "evaluating", "alternative", "algorithms", "for", "information", "gathering", "agents", "and", "a", "study", "that", "was", "designed", "to", "address", "the", "three", "questions", "above", ".", "In", "summary", ",", "we", "found", ":", "Three", "algorithms", "perform", "best", "in", "terms", "of", "extracting", "sufficient", "numbers", "of", "documents", "from", "the", "search", "engine", "and", "in", "terms", "of", "the", "relevance", "of", "the", "links", "returned", ".", "We", "did", "find", "evidence", "that", "soliciting", "only", "positive", "feedback", "hampers", "query", "generation", ";", "however", ",", "it", "is", "not", "clear", "that", "the", "degradation", "in", "performance", "is", "worth", "the", "cost", "of", "obtaining", "the", "negative", "feedback", ".", "As", "often", "happens", ",", "the", "study", "raised", "some", "issues", "that", "are", "still", "to", "be", "resolved", "-LRB-", "particularly", "about", "the", "evaluation", "criteria", "and", "the", "interaction", "of", "profiling", "and", "query", "generation", "-RRB-", ";", "we", "conclude", "with", "a", "pilot", "study", "in", "which", "we", "investigate", "how", "to", "resolve", "these", "issues", ".", "SurfAgent", "-LSB-", "19", "-RSB-", "is", "a", "personalized", "Web", "information", "agent", ",", "which", "follows", "the", "basic", "architecture", "in", "Figure", "1", ".", "It", "is", "designed", "as", "a", "testbed", "for", "expediting", "plug-and-play", "and", "evaluation", "of", "alternative", "algorithms", ",", "front-ends", ",", "and", "service", "tasks", ".", "Its", "two", "primary", "components", "are", "the", "user", "profile", "and", "the", "module", "which", "generates", "requests", "for", "document", "streams", ".", "Monitoring", "should", "be", "simple", "and", "unobtrusive", ".", "Filtering", "depends", "on", "the", "representation", "and", "construction", "of", "the", "user", "profile", ",", "forcing", "a", "relatively", "tight", "coupling", "of", "those", "two", "components", ".", "This", "section", "provides", "an", "overview", "of", "its", "user", "profiling", "and", "document", "stream", "generation", ".", "2.1", "Building", "User", "Profiles", "and", "Filtering", "The", "user", "profile", "maintained", "by", "a", "Web", "helper", "agent", "is", "a", "model", "of", "what", "documents", "the", "user", "finds", "relevant", ".", "Like", "most", "other", "personal", "Web", "helper", "agents", ",", "SurfAgent", "uses", "TF-IDF", "vectors", "-LSB-", "17", "-RSB-", "as", "the", "basis", "of", "its", "user", "profile", "representation", ".", "One", "such", "vector", "is", "used", "to", "represent", "each", "of", "the", "several", "different", "topics", "of", "interest", "associated", "with", "each", "user", ".", "Over", "time", ",", "topic", "descriptions", "are", "learned", "from", "user-supplied", "examples", "of", "relevant", "documents", ",", "which", "are", "added", "to", "the", "existing", "TF-IDF", "vectors", "in", "what", "is", "known", "as", "relevance", "feedback", "-LSB-", "16", "-RSB-", ".", "Associated", "with", "each", "vector", "is", "a", "dissemination", "threshold", ",", "which", "is", "used", "when", "new", "documents", "are", "filtered", "by", "the", "agent", ":", "if", "the", "similarity", "between", "the", "new", "document", "'s", "vector", "and", "a", "vector", "in", "the", "profile", "exceeds", "the", "associated", "dissemination", "threshold", ",", "the", "document", "is", "considered", "relevant", "and", "shown", "to", "the", "user", ".", "We", "found", "that", "learning", "the", "appropriate", "dissemination", "threshold", "was", "critical", "to", "filtering", "performance", "and", "that", "one", "could", "be", "learned", "with", "relatively", "little", "feedback", "-LRB-", "i.e.", ",", "10", "relevance", "judgments", "-RRB-", "-LSB-", "19", "-RSB-", ".", "TF-IDF", "vectors", "and", "their", "associated", "dissemination", "thresholds", "are", "known", "in", "the", "Information", "Retrieval", "-LRB-", "IR", "-RRB-", "literature", "as", "filtering", "queries", ".", "This", "type", "of", "query", "is", "distinguished", "from", "a", "typical", "retrieval", "query", "-LRB-", "used", "with", "search", "engines", "or", "at", "a", "library", "-RRB-", "by", "a", "few", "characteristics", ".", "Filtering", "queries", "tend", "to", "be", "used", "repeatedly", "over", "a", "long", "period", "of", "time", ",", "during", "which", "they", "can", "be", "improved", "and", "maintained", "through", "learning", "and", "relevance", "feedback", ",", "whereas", "retrieval", "queries", "are", "typically", "used", "only", "once", ".", "Also", ",", "filtering", "queries", "typically", "contain", "lots", "of", "terms", "with", "complex", "weighting", "schemes", ",", "whereas", "retrieval", "queries", "tend", "to", "be", "a", "boolean", "combination", "of", "relatively", "few", "terms", ",", "with", "no", "weighting", "at", "all", ".", "Each", "filtering", "query", "in", "SurfAgent", "'s", "user", "profile", "corresponds", "to", "a", "distinct", "topic", "of", "interest", ".", "User", "profiles", "are", "learned", "in", "one", "of", "two", "ways", ".", "First", ",", "relevant", "documents", "provided", "as", "training", "by", "the", "user", "can", "be", "explicitly", "associated", "with", "the", "topic", "of", "interest", ".", "Alternatively", ",", "to", "minimize", "overhead", "to", "the", "user", ",", "incremental", "clustering", "can", "be", "used", "by", "the", "agent", "to", "automatically", "classify", "relevant", "examples", "into", "internally", "learned", "topics", "-LSB-", "20", ",", "5", "-RSB-", ".", "In", "the", "latter", "situation", ",", "the", "user", "only", "needs", "to", "prompt", "the", "agent", "when", "a", "relevant", "document", "has", "been", "encountered", ",", "without", "having", "to", "associate", "it", "with", "a", "particular", "topic", "of", "interest", ".", "To", "minimize", "user", "disruption", ",", "we", "request", "only", "positive", "examples", ".", "We", "augmented", "existing", "IR", "clustering", "techniques", "to", "accommodate", "Web", "needs", "-LRB-", "i.e.", ",", "avoid", "storing", "the", "documents", "themselves", ",", "require", "minimal", "user", "overhead", "and", "be", "associated", "with", "a", "user", "-RRB-", ".", "In", "our", "earlier", "study", ",", "we", "found", "that", "a", "tuned", "version", "of", "the", "Doubling", "algorithm", "-LSB-", "4", "-RSB-", "achieved", "high", "recall", ",", "without", "a", "great", "sacrifice", "on", "precision", ".", "2.2", "Incoming", "Document", "Streams", "Personal", "information", "agents", "use", "a", "wide", "range", "of", "techniques", "to", "generate", "incoming", "streams", ".", "Letizia", "pre-fetches", "Web", "pages", "by", "exploring", "the", "links", "in", "the", "Web", "page", "cur-rently", "being", "viewed", ".", "Similarly", ",", "WebWatcher", "analyzes", "text", "in", "and", "around", "links", "in", "the", "current", "page", "to", "predict", "relevant", "links", "worth", "following", ".", "Fab", "builds", "a", "list", "of", "likely", "to", "be", "relevant", "documents", "through", "best-first", "search", ";", "documents", "that", "pass", "the", "filtering", "phase", "are", "then", "included", "in", "a", "list", "of", "recom-813", "User", "User", "Profile", "Extract", "Query", "Search", "Engine", "Filter", "Documents", "Figure", "2", ":", "Incoming", "document", "streams", "generated", "by", "querying", "a", "search", "engine", "mended", "links", ".", "Finally", ",", "WebMate", "filters", "articles", "found", "on", "a", "list", "of", "well-known", "news", "sources", "in", "order", "to", "compile", "a", "personal", "newspaper", "for", "its", "user", ".", "Our", "goals", "are", "to", "maximize", "the", "quality", "of", "the", "incoming", "document", "stream", "generated", "for", "SurfAgent", ",", "while", "at", "the", "same", "time", "minimizing", "effort", ".", "For", "this", "purpose", ",", "a", "promising", "technique", "appears", "to", "be", "the", "construction", "of", "queries", "that", "are", "suitable", "for", "a", "large-scale", "search", "engine", "such", "as", "Google", "-LSB-", "3", "-RSB-", ".", "Well-formulated", "queries", "have", "the", "potential", "to", "off-load", "significant", "portions", "of", "the", "filtering", "task", "to", "the", "search", "engine", ",", "which", "should", "provide", "the", "agent", "with", "a", "document", "stream", "consisting", "of", "more", "relevant", "documents", ".", "In", "this", "paper", ",", "we", "explore", "several", "methods", "of", "generating", "search", "engine", "queries", "from", "the", "user", "profile", "of", "a", "personal", "Web", "helper", "agent", ".", "We", "wish", "to", "find", "both", "the", "method", "and", "the", "query", "length", "that", "would", "optimize", "the", "relevance", "of", "the", "documents", "returned", "by", "the", "search", "engine", "with", "respect", "to", "the", "user", "profile", ".", "This", "process", "is", "illustrated", "in", "Figure", "2", ".", "Filtering", "queries", "are", "not", "directly", "suitable", "for", "being", "submitted", "to", "a", "search", "engine", ".", "They", "are", "complex", "models", "representing", "a", "possibly", "large", "collection", "of", "documents", ";", "they", "contain", "a", "large", "number", "of", "terms", "with", "associated", "weights", ",", "which", "would", "overly", "restrict", "the", "range", "of", "documents", "a", "search", "engine", "might", "return", ".", "Query", "generation", "techniques", "have", "evolved", "from", "the", "more", "general", "query", "refinement", "mechanism", "of", "relevance", "feedback", "-LSB-", "16", "-RSB-", ".", "For", "instance", ",", "in", "-LSB-", "9", ",", "7", "-RSB-", "search", "engine", "queries", "are", "extended", "with", "features", "extracted", "from", "positive", "and", "negative", "examples", "in", "order", "to", "bias", "them", "toward", "a", "more", "relevant", "sub-topic", ".", "Several", "other", "researchers", "have", "been", "concerned", "with", "extracting", "only", "a", "few", "highly", "representative", "terms", "from", "the", "representation", "of", "a", "large", "document", "cluster", ".", "For", "WebACE", "-LSB-", "2", "-RSB-", ",", "the", "authors", "propose", "a", "mechanism", "for", "generating", "queries", "from", "a", "cluster", "of", "documents", "based", "on", "the", "average", "word", "count", "-LRB-", "term", "frequency", ",", "TF", "-RRB-", "of", "the", "terms", "contained", "in", "the", "documents", "of", "the", "cluster", ",", "and", "the", "document", "frequency", "-LRB-", "DF", "-RRB-", ",", "i.e.", ",", "the", "number", "of", "documents", "in", "the", "cluster", "that", "contain", "a", "specified", "term", ".", "A", "set", "of", "k", "terms", "with", "the", "highest", "TF", ",", "and", "another", "set", "of", "k", "terms", "with", "the", "highest", "DF", "are", "selected", "from", "the", "cluster", ".", "The", "intersection", "of", "these", "two", "sets", "was", "submitted", "to", "Yahoo", "search", "as", "a", "query", ",", "yielding", "a", "total", "of", "2280", "results", ",", "which", "were", "later", "refined", "to", "372", "by", "augmenting", "the", "query", "with", "terms", "resulting", "from", "the", "difference", "between", "the", "TF", "and", "DF", "sets", ".", "CorpusBuilder", "-LSB-", "8", "-RSB-", "uses", "automatic", "query", "generation", "to", "collect", "documents", "in", "a", "specified", "language", "-LRB-", "Slovenian", "-RRB-", "from", "the", "Web", ",", "with", "the", "purpose", "of", "building", "a", "corpus", "in", "that", "language", ".", "The", "point", "is", "to", "preserve", "computation", "power", "by", "avoiding", "a", "brute-force", "crawl", "of", "the", "Web", "where", "an", "expensive", "classifier", "would", "have", "to", "be", "run", "on", "each", "encountered", "document", ".", "By", "generating", "queries", "from", "the", "already", "existing", "corpus", ",", "the", "authors", "hope", "to", "significantly", "increase", "the", "likelihood", "that", "the", "resulting", "documents", "would", "already", "be", "in", "Slovenian", ",", "thus", "speeding", "up", "document", "collection", ".", "Several", "methods", "for", "generating", "queries", "are", "used", "interchangeably", ":", "uniform", "select", "n", "terms", "from", "the", "relevant", "documents", "with", "equal", "probability", ";", "term-frequency", "select", "n", "most", "frequent", "terms", "from", "the", "relevant", "documents", ";", "probabilistic", "term-frequency", "select", "n", "terms", "from", "the", "relevant", "documents", "with", "probability", "proportional", "to", "their", "term", "frequency", ";", "odds-ratio", "select", "n", "terms", "with", "highest", "odds-ratio", "scores", ",", "as", "given", "by", "the", "formula", ":", "OR", "t", "=", "log", "2", "P", "-LRB-", "t", "|", "relevant", "-RRB-", "-LRB-", "1", "-", "P", "-LRB-", "t", "|", "nonrelevant", "-RRB-", "-RRB-", "P", "-LRB-", "t", "|", "nonrelevant", "-RRB-", "-LRB-", "1", "-", "P", "-LRB-", "t", "|", "relevant", "-RRB-", "-RRB-", "where", "t", "is", "the", "term", ",", "and", "P", "-LRB-", "t", "|", "relevant", "-RRB-", "and", "P", "-LRB-", "t", "|", "nonrelevant", "-RRB-", "are", "the", "probabilities", "of", "t", "appearing", "in", "a", "relevant", "and", "non-relevant", "document", ",", "respectively", ";", "probabilistic", "odds-ratio", "select", "n", "terms", "with", "probability", "proportional", "to", "their", "odds-ratio", "score", ";", "The", "authors", "report", "best", "results", "with", "n", "=", "4", "and", "the", "simple", "odds-ratio", "method", ".", "However", ",", "this", "method", "is", "not", "necessarily", "applicable", "to", "our", "task", "because", "identifying", "relevance", "with", "respect", "to", "a", "query", "cluster", "is", "somewhat", "more", "subtle", "than", "determining", "whether", "a", "returned", "document", "is", "in", "a", "particular", "language", "such", "as", "Slovenian", ".", "The", "purpose", "of", "this", "study", "is", "to", "examine", "the", "role", "of", "query", "generation", "technique", "for", "a", "Web", "information", "agent", ":", "what", "techniques", "work", "well", ",", "how", "much", "user", "overhead", "is", "warranted", "and", "how", "query", "generation", "interacts", "with", "profiling", ".", "These", "three", "factors", "correspond", "to", "the", "three", "questions", "articulated", "in", "the", "Introduction", ".", "4.1", "Experiment", "Design", "The", "basic", "protocol", "for", "our", "study", "was", "as", "follows", ":", "1", ".", "construct", "user", "profiles", ",", "2", ".", "generate", "queries", "from", "those", "profiles", "using", "each", "of", "the", "query", "generation", "methods", ",", "3", ".", "submit", "queries", "of", "different", "lengths", "to", "Google", ",", "4", ".", "evaluate", "the", "results", ".", "This", "led", "to", "a", "factorial", "experiment", "in", "which", "the", "independent", "variables", "were", "query", "generation", "method", "and", "query", "length", "and", "the", "dependent", "variables", "were", "two", "evaluation", "metrics", ":", "return", "count", "and", "relevance", ".", "814", "4.1.1", "Constructing", "the", "profiles", "To", "expedite", "experimental", "control", "and", "data", "collection", ",", "we", "constructed", "two", "user", "profiles", "from", "TREC", "1", "disk", "#", "5", ".", "TREC", "data", "consist", "of", "a", "large", "number", "of", "articles", "-LRB-", "over", "250,000", "-RRB-", ",", "of", "which", "a", "large", "portion", "have", "been", "judged", "as", "either", "relevant", "or", "non-relevant", "with", "respect", "to", "a", "set", "of", "450", "different", "topics", ".", "Our", "first", "topic", "is", "on", "airport", "security", "measures", ",", "and", "was", "constructed", "based", "on", "46", "relevant", "documents", "which", "appeared", "in", "the", "Los", "Angeles", "Times", "over", "the", "course", "of", "two", "years", "-LRB-", "1989-1990", "-RRB-", ";", "this", "topic", "will", "be", "referred", "to", "as", "LATIMES", ".", "The", "second", "topic", "is", "on", "genetic", "research", ",", "and", "was", "constructed", "based", "on", "55", "relevant", "documents", "from", "the", "Foreign", "Broadcasting", "Information", "Service", "appeared", "in", "1996", ";", "this", "topic", "will", "be", "referred", "to", "as", "FBIS", ".", "One", "topic", "was", "picked", "randomly", "from", "each", "of", "the", "two", "document", "collection", "on", "the", "TREC", "disk", ".", "We", "used", "synthetically", "generated", "topics", "in", "order", "to", "test", "the", "hypothetical", "scenario", "in", "which", "negative", "feedback", "is", "available", ".", "By", "default", ",", "SurfAgent", "does", "not", "collect", "negative", "feedback", "in", "the", "form", "of", "documents", "which", "are", "non-relevant", "to", "a", "given", "topic", ".", "Thus", ",", "we", "are", "interested", "in", "how", "much", "performance", "might", "be", "sacrificed", "by", "restricting", "feedback", "to", "only", "positive", "examples", ".", "The", "number", "of", "positive", "documents", "used", "in", "the", "construction", "of", "each", "topic", "-LRB-", "46", "and", "55", ",", "respectively", "-RRB-", "is", "realistic", "compared", "to", "what", "a", "human", "user", "would", "have", "been", "capable", "of", "providing", "while", "building", "her", "profile", "in", "real", "life", ".", "4.1.2", "Generating", "Queries", "We", "implemented", "several", "methods", ",", "including", "both", "methods", "which", "use", "such", "negative", "examples", "-LRB-", "e.g.", ",", "odds-ratio", "-RRB-", "against", "methods", "which", "do", "not", "-LRB-", "e.g.", ",", "Boley", "'s", "method", "-LSB-", "2", "-RSB-", "and", "term", "frequency", "based", "methods", "-RRB-", ".", "In", "addition", "to", "the", "methods", "mentioned", "in", "Section", "3", ",", "we", "add", "two", "methods", ":", "deterministic", "extraction", "of", "highest", "weight", "terms", "for", "SurfAgent", "'s", "TF-IDF", "profile", "vectors", "and", "probabilistic", "weighted", "extraction", "from", "the", "TF-IDF", "profile", "vectors", ".", "The", "complete", "list", "of", "methods", "used", "is", "given", "below", ":", "Uniform", "-LRB-", "Unif", "-RRB-", "baseline", "case", ",", "select", "n", "terms", "with", "uniform", "probability", ";", "Boley", "select", "the", "intersection", "of", "the", "k", "top", "ranking", "terms", "according", "to", "term", "frequency", "in", "one", "set", ",", "and", "document", "frequency", "in", "the", "other", ";", "TF", "select", "n", "top", "ranking", "terms", "according", "to", "term", "frequency", ";", "Probabilistic", "TF", "-LRB-", "P-TF", "-RRB-", "select", "n", "terms", "with", "probability", "proportional", "to", "their", "term", "frequency", ";", "OR", "select", "the", "top", "ranking", "n", "terms", "according", "to", "their", "odds-ratio", "score", ";", "Probabilistic", "OR", "-LRB-", "P-OR", "-RRB-", "select", "n", "terms", "with", "probability", "proportional", "to", "their", "odds-ratio", "score", ";", "TFIDF", "select", "n", "terms", "with", "the", "highest", "TF-IDF", "weight", "from", "the", "profile", "vector", ";", "Probabilistic", "TF-IDF", "-LRB-", "P-TFIDF", "-RRB-", "select", "n", "terms", "with", "probability", "proportional", "to", "their", "TF-IDF", "weights", ";", "1", "Text", "REtrieval", "Conference", ":", "TREC", "benchmark", "disks", "are", "publicly", "available", "and", "can", "be", "ordered", "from", "the", "conference", "homepage", "at", "http://trec.nist.gov", "The", "probabilistic", "versions", "were", "included", "because", "injection", "of", "small", "amounts", "of", "randomness", "has", "been", "found", "to", "be", "helpful", "in", "other", "search", "problems", ".", "Code", "from", "SurfAgent", "was", "modified", "to", "collect", "the", "data", "required", "by", "all", "query", "generation", "methods", "employed", ".", "For", "each", "topic", ",", "we", "collected", "the", "following", "data", ":", "average", "term", "frequencies", "for", "terms", "in", "relevant", "documents", ";", "document", "frequencies", "for", "terms", "in", "relevant", "documents", ";", "TF-IDF", "vector", "built", "from", "relevant", "documents", ";", "odds-ratio", "scores", "for", "terms", "in", "relevant", "documents", "-LRB-", "odds-ratio", "scores", "are", "based", "on", "both", "relevant", "and", "non-relevant", "documents", "related", "to", "the", "topic", "-RRB-", ".", "From", "these", "data", ",", "we", "generated", "queries", "of", "seven", "lengths", "-LRB-", "two", "to", "eight", "terms", "-RRB-", "for", "each", "of", "the", "eight", "methods", ".", "For", "the", "four", "probabilistic", "methods", ",", "we", "generated", "10", "queries", "of", "each", "length", ",", "which", "means", "their", "reported", "results", "will", "be", "averages", "over", "those", "10", "queries", ".", "For", "Boley", "'s", "method", ",", "we", "repeatedly", "computed", "the", "intersection", "of", "the", "sets", "consisting", "of", "the", "top", "k", "ranking", "terms", "w.r.t.", "TF", "and", "DF", ",", "while", "incrementing", "k", ".", "We", "retained", "all", "distinct", "queries", "of", "length", "between", "2", "and", "8", ".", "For", "FBIS", ",", "no", "value", "of", "k", "generated", "a", "query", "of", "length", "6", ".", "Similarly", ",", "for", "LATIMES", ",", "there", "was", "no", "value", "of", "k", "resulting", "in", "a", "query", "of", "length", "7", ".", "4.1.3", "Submit", "the", "Queries", "The", "previous", "step", "resulted", "in", "614", "queries", "-LRB-", "307", "for", "each", "topic", "-RRB-", ".", "We", "submitted", "these", "queries", "to", "the", "Google", "search", "engine", "and", "collected", "back", "the", "first", "page", "of", "results", ".", "By", "default", ",", "a", "page", "can", "contain", "up", "to", "10", "responses", ".", "4.1.4", "Collect", "the", "results", "The", "results", "of", "the", "queries", "-LRB-", "the", "URLs", "returned", "-RRB-", "were", "parsed", "out", "of", "the", "page", "returned", "by", "Google", ",", "and", "their", "corresponding", "documents", "were", "retrieved", "from", "the", "Web", "and", "stored", "locally", ".", "We", "discarded", "-LRB-", "and", "decremented", "our", "hit", "count", "accordingly", "-RRB-", "all", "dead", "links", "and", "all", "hits", "that", "were", "in", "a", "format", "other", "than", "ASCII", "2", "or", "PDF", ":", "a", "total", "of", "312", "out", "of", "2917", "hits", "were", "discarded", ".", "The", "PDF", "documents", "were", "converted", "into", "ASCII", "using", "the", "pdftotext", "utility", ".", "4.2", "Results", "For", "each", "valid", "hit", ",", "we", "computed", "the", "similarity", "between", "the", "document", "'s", "TF-IDF", "vector", "and", "the", "TF-IDF", "vector", "of", "the", "appropriate", "topic", ",", "which", "is", "a", "measure", "of", "the", "document", "'s", "relevance", ".", "For", "each", "combination", "of", "query", "generation", "method", "and", "query", "length", ",", "we", "recorded", "the", "number", "of", "hits", "received", ",", "the", "relevance", "of", "the", "best", "hit", ",", "and", "the", "average", "relevance", "over", "all", "hits", "received", ".", "For", "the", "probabilistic", "methods", ",", "these", "measurements", "represent", "average", "values", "obtained", "over", "the", "ten", "repetitions", "for", "each", "combination", "of", "parameters", ".", "The", "results", "are", "summarized", "in", "Table", "1", "for", "the", "FBIS", "topic", ",", "and", "Table", "2", "for", "the", "LATIMES", "topic", ".", "The", "three", "rows", "corresponding", "to", "each", "method", "indicate", "average", "relevance", "-LRB-", "top", "-RRB-", ",", "maximum", "relevance", ",", "and", "number", "of", "returned", "hits", "-LRB-", "bottom", "-RRB-", ".", "All", "methods", "return", "at", "least", "seven", "documents", "with", "query", "lengths", "of", "2", ",", "but", "most", "taper", "off", "in", "the", "number", "returned", "2", "ASCII", "includes", "all", "variants", "and", "versions", "of", "HTML", ",", "XML", ",", "etc.", "815", "query", "length", "method", "2", "3", "4", "5", "6", "7", "8", "avg", ":", ".022", ".046", ".059", ".018", ".011", "Unif", "max", ":", ".051", ".077", ".101", ".019", ".011", "cnt", ":", "7.7", "4.3", "3.2", "0.4", "0", "0", "0.1", "avg", ":", ".026", ".054", ".044", ".053", ".069", ".091", ".082", "P-TF", "max", ":", ".059", ".096", ".079", ".102", ".120", ".192", ".138", "cnt", ":", "8.9", "7.7", "7.9", "5.2", "6.5", "7.2", "6.3", "avg", ":", ".039", ".047", ".019", "-", "P", "-", "OR", "max", ":", ".099", ".090", ".019", "-", "cnt", ":", "9.0", "3.2", "0", "0.1", "0", "0", "0", "avg", ":", ".045", ".058", ".088", ".069", ".035", ".034", ".030", "P-TFIDF", "max", ":", ".100", ".110", ".178", ".097", ".054", ".035", ".055", "cnt", ":", "9.1", "6.1", "8.4", "2.4", "2.7", "0.6", "1.4", "avg", ":", ".053", ".077", ".090", ".081", ".111", ".088", "Boley", "max", ":", ".120", ".112", ".136", ".168", ".239", ".239", "cnt", ":", "9", "9", "10", "7", "0", "8", "9", "avg", ":", ".036", ".031", ".048", ".082", ".081", ".087", ".083", "TF", "max", ":", ".065", ".059", ".129", ".134", ".103", ".130", ".135", "cnt", ":", "10", "9", "10", "9", "9", "10", "9", "avg", ":", ".123", ".186", ".102", "-", "OR", "max", ":", ".155", ".361", ".190", "-", "cnt", ":", "9", "8", "2", "0", "0", "0", "0", "avg", ":", ".100", ".144", ".160", ".176", ".214", ".278", ".242", "TFIDF", "max", ":", ".377", ".377", ".377", ".279", ".399", ".404", ".242", "cnt", ":", "9", "10", "10", "7", "10", "4", "1", "Table", "1", ":", "Average", "relevance", ",", "Maximum", "relevance", ",", "and", "count", "of", "returned", "hits", "for", "the", "FBIS", "topic", "on", "genetic", "technology", "query", "length", "method", "2", "3", "4", "5", "6", "7", "8", "avg", ":", ".012", ".012", ".012", ".013", ".004", "-", "Unif", "max", ":", ".024", ".024", ".028", ".019", ".006", "-", "cnt", ":", "8.0", "5.3", "3.9", "1.0", "0.6", "0", "0", "avg", ":", ".017", ".026", ".025", ".028", ".032", ".024", ".010", "P-TF", "max", ":", ".042", ".073", ".062", ".061", ".046", ".042", ".011", "cnt", ":", "9.1", "9.5", "6.0", "6.5", "2.0", "4.0", "0.7", "avg", ":", ".017", ".018", ".016", ".011", ".007", "-", "P", "-", "OR", "max", ":", ".052", ".039", ".029", ".013", ".007", "-", "cnt", ":", "8.2", "8.3", "4.0", "0.9", "0", "0.1", "0", "avg", ":", ".026", ".036", ".064", ".063", ".059", ".020", ".010", "P-TFIDF", "max", ":", ".058", ".103", ".125", ".156", ".106", ".036", ".014", "cnt", ":", "9.2", "8.1", "8.1", "5.7", "5.3", "1.3", "0.2", "avg", ":", ".040", ".098", ".135", ".193", ".199", ".167", "Boley", "max", ":", ".086", ".199", ".299", ".343", ".359", ".299", "cnt", ":", "8", "9", "8", "8", "8", "0", "7", "avg", ":", ".107", ".058", ".030", ".048", ".041", ".069", "-", "TF", "max", ":", ".222", ".093", ".051", ".075", ".069", ".069", "-", "cnt", ":", "7", "10", "10", "7", "6", "1", "0", "avg", ":", ".048", ".036", ".348", "-", "OR", "max", ":", ".122", ".096", ".402", "-", "cnt", ":", "9", "9", "2", "0", "0", "0", "0", "avg", ":", ".115", ".144", ".155", ".171", ".144", ".153", ".143", "TFIDF", "max", ":", ".331", ".331", ".357", ".299", ".276", ".349", ".349", "cnt", ":", "9", "7", "8", "8", "9", "9", "9", "Table", "2", ":", "Average", "relevance", ",", "Maximum", "relevance", ",", "and", "count", "of", "returned", "hits", "for", "the", "LATIMES", "topic", "on", "airport", "security", "with", "longer", "query", "lengths", ".", "For", "the", "deterministic", "methods", ",", "the", "relevance", "increases", "as", "the", "query", "length", "increases", "-LRB-", "until", "7", "or", "8", "-RRB-", ",", "but", "the", "relevance", "for", "the", "probabilistic", "methods", "tends", "to", "plateau", "early", ".", "All", "methods", "consistently", "outperform", "the", "baseline", "uniform", "term", "selection", ".", "Probabilistic", "methods", "are", "outperformed", "by", "Figure", "3", ":", "Box", "plot", "of", "relevance", "by", "method", "for", "FBIS", "topic", "at", "query", "length", "2", "Figure", "4", ":", "Box", "plot", "of", "relevance", "by", "method", "for", "FBIS", "topic", "at", "query", "length", "3", "the", "non-probabilistic", "ones", ",", "which", "is", "consistent", "with", "the", "observations", "in", "-LSB-", "8", "-RSB-", ".", "The", "best", "results", "for", "the", "FBIS", "topic", "were", "obtained", "using", "TFIDF", "at", "query", "length", "7", ":", "a", "total", "of", "4", "hits", "were", "returned", ",", "with", "an", "average", "relevance", "of", ".278", ",", "and", "a", "maximum", "relevance", "of", ".404", ".", "The", "best", "results", "for", "the", "LATIMES", "topic", "were", "obtained", "using", "OR", "at", "query", "length", "4", ":", "two", "hits", "were", "returned", ",", "with", "average", "relevance", "of", ".348", "and", "maximum", "relevance", "of", ".402", ".", "Query", "lengths", "2", "and", "3", "were", "the", "only", "ones", "where", "all", "methods", "lead", "to", "non-empty", "returns", "for", "both", "topics", ".", "To", "test", "whether", "the", "differences", "between", "the", "methods", "were", "significant", ",", "we", "ran", "an", "analysis", "of", "variance", "-LRB-", "ANOVA", "-RRB-", "study", "on", "each", "topic", "at", "query", "lengths", "2", "and", "3", ",", "with", "the", "query", "generation", "method", "as", "the", "independent", "variable", ",", "and", "relevance", "as", "the", "dependent", ".", "The", "effects", "were", "significant", "in", "each", "case", ":", "for", "FBIS", ",", "we", "obtained", "F", "=", "14.007", ",", "p", "<", "0.001", "at", "query", "length", "2", ",", "and", "F", "=", "8.692", ",", "p", "<", "0.001", "at", "query", "length", "3", ";", "for", "LATIMES", ",", "we", "obtained", "F", "=", "24.027", ",", "p", "<", "0.001", "at", "query", "length", "2", ",", "and", "F", "=", "20.277", ",", "p", "<", "0.001", "at", "query", "length", "3", ".", "Box", "plots", "of", "relevance", "by", "method", "for", "query", "lengths", "2", "and", "3", "are", "given", "in", "Figures", "3", "and", "4", "for", "FBIS", ",", "and", "Figures", "5", "and", "816", "Figure", "5", ":", "Box", "plot", "of", "relevance", "by", "method", "for", "LATIMES", "topic", "at", "query", "length", "2", "Figure", "6", ":", "Box", "plot", "of", "relevance", "by", "method", "for", "LATIMES", "topic", "at", "query", "length", "3", "6", "for", "LATIMES", ".", "Note", "that", "medians", "rather", "than", "means", "are", "marked", "on", "the", "graph", ".", "These", "plots", "illustrate", "several", "points", "obscured", "by", "the", "previous", "table", ".", "First", ",", "while", "TFIDF", "returns", "the", "best", "match", "and", "second", "best", "median", "in", "all", "cases", ",", "overall", "better", "results", "are", "obtained", "using", "OR", "for", "FBIS", ",", "and", "TF", "and", "Boley", "for", "LATIMES", ".", "Second", ",", "each", "method", "can", "show", "high", "variance", "in", "the", "results", ",", "although", "TFIDF", "tends", "generally", "to", "higher", "variance", ".", "Additionally", ",", "the", "results", "for", "query", "length", "3", "have", "higher", "variance", "than", "those", "for", "query", "length", "2", ".", "Finally", ",", "the", "distributions", "are", "often", "skewed", ".", "For", "example", ",", "Boley", "consistently", "has", "a", "higher", "median", "than", "mean", ".", "Because", "relevance", "for", "all", "returned", "documents", "is", "measured", "against", "the", "TF-IDF", "vector", "of", "the", "corresponding", "topic", ",", "the", "experiments", "are", "slightly", "biased", "in", "favor", "of", "the", "TFIDF", "query", "generation", "method", ".", "Our", "experiments", "can", "not", "prove", "that", "TFIDF", "query", "generation", "is", "sufficient", ",", "but", "its", "good", "performance", "coupled", "with", "the", "not", "always", "good", "performance", "of", "OR", "suggest", "that", "we", "do", "not", "incur", "a", "significant", "loss", "by", "leaving", "out", "negative", "feedback", ".", "Collecting", "other", "information", "based", "on", "positive", "feedback", "in", "addition", "to", "TF-IDF", "topic", "vectors", "may", "be", "required", "with", "SurfAgent", ":", "e.g.", ",", "straight", "TF", "vectors", "and", "query", "length", "method", "2", "3", "4", "5", "6", "7", "8", "TFIDF", "nrel", ":", "8", "3", "4", "4", "4", "-", "cnt", ":", "10", "10", "10", "10", "9", "0", "0", "P-TFIDF", "nrel", ":", "1.0", "1.8", "0.7", "0.4", "0.0", "0.5", "-", "cnt", ":", "9.5", "8.1", "7.7", "4.1", "1.3", "1.3", "0.0", "Table", "3", ":", "Number", "of", "relevant", "documents", "and", "count", "of", "returned", "hits", "for", "the", "user-generated", "topic", "on", "stress", "relief", "topic-specific", "document", "frequency", "information", "would", "allow", "us", "to", "use", "TF", "and", "Boley", "query", "generation", "in", "addition", "to", "the", "TFIDF", "method", ".", "As", "the", "results", "show", ",", "sometimes", "TF", "and", "Boley", "perform", "better", "than", "OR", "and", "TFIDF", ".", "Both", "Boley", "and", "TFIDF", "consistently", "result", "in", "many", "links", "being", "returned", ",", "even", "for", "long", "query", "lengths", ".", "Many", "hits", "are", "desirable", "when", "the", "agent", "will", "be", "pruning", "out", "previously", "visited", "sites", "and", "filtering", "the", "returned", "links", "according", "to", "a", "filtering", "threshold", ".", "The", "computation", "time", "required", "for", "query", "generation", "by", "each", "of", "the", "studied", "methods", "is", "negligible", "when", "compared", "to", "the", "network-related", "delays", "incurred", "while", "downloading", "the", "actual", "documents", ".", "To", "gain", "an", "understanding", "of", "the", "performance", "of", "TFIDF", "query", "generation", "without", "the", "bias", "present", "in", "our", "experiments", "with", "synthetically", "generated", "topics", ",", "we", "have", "also", "performed", "a", "pilot", "study", "with", "a", "user-generated", "topic", ",", "containing", "34", "documents", "on", "stress", "relief", ".", "Since", "SurfAgent", "only", "collects", "TF-IDF", "information", "at", "this", "time", ",", "query", "generation", "was", "limited", "to", "the", "TFIDF", "and", "P-TFIDF", "methods", ".", "We", "followed", "the", "same", "protocol", "as", "with", "the", "synthetically", "generated", "topics", ":", "query", "lengths", "were", "between", "2", "and", "8", ",", "and", "results", "were", "aver-aged", "over", "ten", "trials", "for", "the", "probabilistic", "version", "P-TFIDF", ".", "A", "total", "of", "343", "distinct", "URLs", "were", "returned", "by", "Google", ".", "We", "shuffled", "these", "URLs", "and", "asked", "the", "user", "to", "examine", "each", "one", "of", "them", ",", "and", "mark", "the", "ones", "she", "found", "to", "be", "relevant", "to", "her", "topic", ".", "56", "documents", "out", "of", "the", "total", "of", "343", "were", "found", "relevant", ".", "Table", "3", "presents", "the", "number", "of", "relevant", "documents", "and", "the", "number", "of", "hits", "returned", "for", "each", "parameter", "combination", ".", "This", "pilot", "study", "supports", "the", "hypothesis", "that", "TFIDF", "based", "queries", "will", "generate", "an", "adequate", "incoming", "stream", ":", "queries", "of", "length", "up", "to", "six", "returned", "at", "least", "nine", "hits", "from", "Google", ".", "Unlike", "the", "previous", "study", ",", "the", "shorter", "queries", "yielded", "lower", "relevance", ",", "which", "could", "be", "due", "to", "the", "way", "the", "user", "was", "judging", "relevance", "or", "to", "the", "nature", "of", "the", "topic", ".", "As", "a", "followup", ",", "we", "will", "be", "designing", "a", "user", "study", "that", "includes", "the", "three", "apparently", "best", "methods", "-LRB-", "TF", ",", "TFIDF", ",", "and", "Boley", "-RRB-", ".", "We", "will", "focus", "on", "three", "issues", ":", "Does", "method", "performance", "vary", "among", "users", "and", "topics", "-LRB-", "as", "is", "suggested", "by", "our", "current", "study", "-RRB-", "?", "Should", "profile", "construction", "incorporate", "more", "information", "?", "Does", "relevance", "assessment", "change", "as", "profiles", "become", "more", "mature", "?", "Can", "the", "best", "query", "length", "be", "determined", "a", "priori", "?", "We", "studied", "several", "methods", "for", "generating", "queries", "from", "a", "user", "profile", "to", "answer", "three", "questions", "related", "to", "the", "design", "of", "Web", "information", "agents", ".", "First", ",", "how", "do", "different", "query", "817", "generation", "algorithms", "perform", "relative", "to", "each", "other", "?", "In", "fact", ",", "we", "observed", "significantly", "different", "performance", "among", "the", "eight", "methods", "tested", ".", "Overall", ",", "Boley", ",", "TFIDF", "and", "to", "a", "lesser", "extent", "TF", "provided", "a", "good", "number", "of", "hits", "and", "relatively", "high", "relevance", ".", "Second", ",", "is", "positive", "relevance", "feedback", "adequate", "to", "support", "the", "task", "?", "We", "found", "that", "leaving", "out", "negative", "training", "examples", "does", "not", "incur", "a", "significant", "performance", "loss", ".", "Odds-Ratio", "was", "found", "to", "excel", "on", "one", "topic", ",", "but", "its", "competitive", "advantage", "does", "not", "appear", "to", "be", "worth", "the", "additional", "overhead", "expected", "from", "the", "user", ".", "TFIDF", "and", "Boley", ",", "requiring", "only", "positive", "relevance", "feedback", ",", "generated", "queries", "that", "resulted", "in", "relevant", "hits", ".", "Third", ",", "can", "user", "profiles", "be", "learned", "independently", "of", "the", "service", "?", "The", "results", "from", "TFIDF", "and", "the", "pilot", "experiment", "do", "suggest", "it", ".", "However", ",", "the", "pilot", "study", "also", "suggests", "that", "either", "user", "relevance", "judgments", "may", "be", "a", "bit", "lower", "-LRB-", "harsher", "-RRB-", "than", "the", "automated", "method", "or", "that", "the", "profile", "may", "not", "adequately", "reflect", "the", "users", "'", "interests", ".", "In", "fact", ",", "the", "good", "performance", "of", "Boley", "and", "TF", "indicates", "that", "in", "some", "cases", "it", "might", "be", "worthwhile", "to", "collect", "more", "than", "TF-IDF", "information", "from", "the", "user-supplied", "positive", "training", "examples", ".", "This", "last", "question", "will", "be", "examined", "in", "more", "detail", "in", "the", "future", ".", "Our", "study", "confirmed", "that", "additional", "user", "burden", "in", "the", "form", "of", "negative", "feedback", "appears", "unwarranted", "to", "support", "document", "generation", "and", "that", "queries", "generated", "based", "on", "automatically", "learned", "profiles", "can", "guide", "harvesting", "of", "new", "documents", "of", "interest", ".", "This", "last", "result", "is", "excellent", "news", "for", "the", "development", "of", "agents", "that", "leverage", "a", "single", "learned", "profile", "to", "personalize", "a", "multitude", "of", "web", "information", "services", ".", "This", "research", "was", "supported", "in", "part", "by", "National", "Science", "Foundation", "Career", "Award", "IRI-9624058", ".", "The", "United", "States", "Government", "is", "authorized", "to", "reproduce", "and", "distribute", "reprints", "for", "governmental", "purposes", "notwithstanding", "any", "copyright", "notation", "herein", ".", "-LSB-", "1", "-RSB-", "R.", "Armstrong", ",", "D.", "Freitag", ",", "T.", "Joachims", ",", "and", "T.", "Mitchell", ".", "WebWatcher", ":", "A", "Learning", "Apprentice", "for", "the", "World", "Wide", "Web", ".", "In", "Proceedings", "of", "the", "AAAI", "Spring", "Symposium", "on", "Information", "Gathering", "from", "Heterogeneous", ",", "Distributed", "Resources", ",", "Stanford", ",", "CA", ",", "1995", ".", "-LSB-", "2", "-RSB-", "D.", "Boley", ",", "M.", "Gini", ",", "R.", "Gross", ",", "E.", "Han", ",", "K.", "Hastingsand", "G.", "Karypis", ",", "V.", "Kumar", ",", "M.", "Bamshad", ",", "and", "J.", "Moore", ".", "Document", "Categorization", "and", "Query", "Generation", "on", "the", "World", "Wide", "Web", "Using", "WebAce", ".", "AI", "Review", ",", "13", "-LRB-", "5-6", "-RRB-", ":", "365", "391", ",", "1999", ".", "-LSB-", "3", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "Anatomy", "of", "a", "Large-scale", "Hypertextual", "Web", "Search", "Engine", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "pages", "107", "117", ",", "1998", ".", "-LSB-", "4", "-RSB-", "M.", "Charikar", ",", "C.", "Chekuri", ",", "T.", "Feder", ",", "and", "R.", "Motwani", ".", "Incremental", "Clustering", "and", "Dynamic", "Information", "Retrieval", ".", "Proceedings", "of", "the", "29th", "ACM", "Symposium", "on", "Theory", "of", "Computing", ",", "1997", ".", "-LSB-", "5", "-RSB-", "L.", "Chen", "and", "Katia", "Sycara", ".", "WebMate", ":", "A", "Personal", "Agent", "for", "Browsing", "and", "Searching", ".", "In", "Proceedings", "of", "the", "Second", "International", "Conference", "on", "Autonomous", "Agents", ",", "Minneapolis", ",", "MN", ",", "1998", ".", "-LSB-", "6", "-RSB-", "D.", "Dreilinger", "and", "A.E.", "Howe", ".", "Experiences", "with", "selecting", "search", "engines", "using", "meta-search", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "15", "-LRB-", "3", "-RRB-", ":", "195", "222", ",", "1997", ".", "-LSB-", "7", "-RSB-", "G.W.", "Flake", ",", "E.J.", "Glover", ",", "S.", "Lawrence", ",", "and", "C.L.", "Giles", "Extracting", "Query", "Modifications", "from", "Nonlinear", "SVMs", ".", "In", "Proceedings", "of", "the", "Eleventh", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "2002", "-RRB-", ",", "Honolulu", ",", "HI", ",", "U.S.A.", ",", "2002", ".", "-LSB-", "8", "-RSB-", "R.", "Ghani", ",", "R.", "Jones", ",", "and", "D.", "Mladenic", ".", "On-line", "learning", "for", "query", "generation", ":", "Finding", "documents", "matching", "a", "minority", "concept", "on", "the", "web", ".", "In", "Proc", ".", "of", "the", "First", "Asia-Pacific", "Conference", "on", "Web", "Intelligence", ",", "2001", ".", "-LSB-", "9", "-RSB-", "E.J.", "Glover", ",", "G.W.", "Flake", ",", "S.", "Lawrence", ",", "W.P.", "Birmingham", ",", "A.", "Kruger", ",", "C.L.", "Giles", ",", "and", "D.", "Pennock", ".", "Improving", "Category", "Specific", "Web", "Search", "by", "Learning", "Query", "Modifications", ".", "In", "Proceedings", "of", "the", "IEEE", "Symposium", "on", "Applications", "and", "the", "Internet", "-LRB-", "SAINT", "2001", "-RRB-", ",", "San", "Diego", ",", "CA", ",", "U.S.A.", ",", "2001", ".", "-LSB-", "10", "-RSB-", "T.", "Joachims", ",", "D.", "Freitag", ",", "and", "T.", "Mitchell", ".", "WebWatcher", ":", "A", "Tour", "Guide", "for", "the", "World", "Wide", "Web", ".", "In", "Proc", ".", "of", "the", "15th", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", ",", "Nagoya", ",", "Japan", ",", "1997", ".", "-LSB-", "11", "-RSB-", "S.", "Lawrence", "and", "C.L.", "Giles", ".", "Context", "and", "page", "analysis", "for", "improved", "web", "search", ".", "IEEE", "Internet", "Computing", ",", "2", "-LRB-", "4", "-RRB-", ":", "38", "46", ",", "1998", ".", "-LSB-", "12", "-RSB-", "S.", "Lawrence", "and", "C.L.", "Giles", ".", "Searching", "the", "world", "wide", "web", ".", "Science", ",", "280:98", "100", ",", "April", "3", "1998", ".", "-LSB-", "13", "-RSB-", "H.", "Lieberman", ".", "Letizia", ":", "An", "agent", "that", "assists", "web", "browsing", ".", "In", "Proceedings", "of", "the", "14th", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI-95", "-RRB-", ",", "Montreal", ",", "Canada", ",", "1995", ".", "-LSB-", "14", "-RSB-", "Inc.", ".", "Netmation", ".", "100", "most", "popular", "web", "sites", ".", "http://netmation.com/list100.htm", ".", "-LSB-", "15", "-RSB-", "A.", "Pretschner", "and", "S.", "Gauch", ".", "Personalization", "on", "the", "web", ".", "Technical", "Report", "ITTC-FY2000-TR-13591-01", ",", "Dept.", "of", "Electrical", "Engineering", "and", "Computer", "Science", ",", "University", "of", "Kansas", ",", "December", "1999", ".", "-LSB-", "16", "-RSB-", "J.J.", "Rocchio", ".", "Relevance", "feedback", "in", "information", "retrieval", ".", "In", "G.", "Salton", ",", "editor", ",", "The", "SMART", "Retrieval", "System", ":", "Experiments", "in", "Automatic", "Document", "Processing", ".", "Prentice-Hall", ",", "1971", ".", "-LSB-", "17", "-RSB-", "G.", "Salton", ".", "Automatic", "Text", "Processing", ":", "The", "Transformation", ",", "Analysis", ",", "and", "Retrieval", "of", "Information", "by", "Computer", ".", "Addison-Wesley", ",", "1988", ".", "-LSB-", "18", "-RSB-", "E.", "Selberg", "and", "O.", "Etzioni", ".", "The", "metacrawler", "architecture", "for", "resource", "aggregation", "on", "the", "web", ".", "IEEE", "Expert", ",", "12", "-LRB-", "1", "-RRB-", ":", "8", "14", ",", "1997", ".", "-LSB-", "19", "-RSB-", "G.L.", "Somlo", "and", "A.E.", "Howe", ".", "Adaptive", "lightweight", "text", "filtering", ".", "In", "Proceedings", "of", "the", "2001", "Conference", "on", "Intelligent", "Data", "Analysis", "-LRB-", "IDA", "'", "01", "-RRB-", ",", "Lisbon", ",", "Portugal", ",", "September", "2001", ".", "-LSB-", "20", "-RSB-", "Gabriel", "L.", "Somlo", "and", "Adele", "E.", "Howe", ".", "Incremental", "clustering", "for", "profile", "maintenance", "in", "information", "gathering", "web", "agents", ".", "In", "Proceedings", "of", "the", "2001", "International", "Conference", "on", "Autonomous", "Agents", "-LRB-", "AGENTS", "'", "01", "-RRB-", ",", "Montreal", ",", "Canada", ",", "May", "2001", ".", "-LSB-", "21", "-RSB-", "A.", "Spink", ",", "J.", "Bateman", ",", "and", "B.J.", "Jansen", ".", "Searching", "heterogeneous", "collections", "on", "the", "web", ":", "Behavior", "of", "excite", "users", ".", "Information", "Research", ":", "An", "Electronic", "Journal", ",", "5", "-LRB-", "2", "-RRB-", ",", "1998", ".", "http://www.shef.ac.uk/~is/publications/infers", "818"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information agents", "query generation"], "abstractive_keyphrases": ["user modeling"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "138", "document": ["Modeling", "and", "Predicting", "Personal", "Information", "Dissemination", "Behavior", "In", "this", "paper", ",", "we", "propose", "a", "new", "way", "to", "automatically", "model", "and", "predict", "human", "behavior", "of", "receiving", "and", "disseminating", "information", "by", "analyzing", "the", "contact", "and", "content", "of", "personal", "communications", ".", "A", "personal", "profile", ",", "called", "CommunityNet", ",", "is", "established", "for", "each", "individual", "based", "on", "a", "novel", "algorithm", "incorporating", "contact", ",", "content", ",", "and", "time", "information", "simultaneously", ".", "It", "can", "be", "used", "for", "personal", "social", "capital", "management", ".", "Clusters", "of", "CommunityNets", "provide", "a", "view", "of", "informal", "networks", "for", "organization", "management", ".", "Our", "new", "algorithm", "is", "developed", "based", "on", "the", "combination", "of", "dynamic", "algorithms", "in", "the", "social", "network", "field", "and", "the", "semantic", "content", "classification", "methods", "in", "the", "natural", "language", "processing", "and", "machine", "learning", "literatures", ".", "We", "tested", "CommunityNets", "on", "the", "Enron", "Email", "corpus", "and", "report", "experimental", "results", "including", "filtering", ",", "prediction", ",", "and", "recommendation", "capabilities", ".", "We", "show", "that", "the", "personal", "behavior", "and", "intention", "are", "somewhat", "predictable", "based", "on", "these", "models", ".", "For", "instance", ",", "``", "to", "whom", "a", "person", "is", "going", "to", "send", "a", "specific", "email", "''", "can", "be", "predicted", "by", "one", "'s", "personal", "social", "network", "and", "content", "analysis", ".", "Experimental", "results", "show", "the", "prediction", "accuracy", "of", "the", "proposed", "adaptive", "algorithm", "is", "58", "%", "better", "than", "the", "social", "network-based", "predictions", ",", "and", "is", "75", "%", "better", "than", "an", "aggregated", "model", "based", "on", "Latent", "Dirichlet", "Allocation", "with", "social", "network", "enhancement", ".", "Two", "online", "demo", "systems", "we", "developed", "that", "allow", "interactive", "exploration", "of", "CommunityNet", "are", "also", "discussed", ".", "I.", "2.6", "-LSB-", "Artificial", "Intelligence", "-RSB-", ":", "Learning", "General", "Terms", ":", "algorithms", ",", "experimentation", "Working", "in", "the", "information", "age", ",", "the", "most", "important", "is", "not", "what", "you", "know", ",", "but", "who", "you", "know", "-LSB-", "1", "-RSB-", ".", "A", "social", "network", ",", "the", "graph", "of", "relationships", "and", "interactions", "within", "a", "group", "of", "individuals", ",", "plays", "a", "fundamental", "role", "as", "a", "medium", "for", "the", "spread", "of", "information", ",", "ideas", ",", "and", "influence", ".", "At", "the", "organizational", "level", ",", "personal", "social", "networks", "are", "activated", "for", "recruitment", ",", "partnering", ",", "and", "information", "access", ".", "At", "the", "individual", "level", ",", "people", "exploit", "their", "networks", "to", "advance", "careers", "and", "gather", "information", ".", "Informal", "network", "within", "formal", "organizations", "is", "a", "major", ",", "but", "hard", "to", "acquire", ",", "factor", "affecting", "companies", "'", "performance", ".", "Krackhardt", "-LSB-", "2", "-RSB-", "showed", "that", "companies", "with", "strong", "informal", "networks", "perform", "five", "or", "six", "times", "better", "than", "those", "with", "weak", "networks", ",", "especially", "on", "the", "long-term", "performance", ".", "Friend", "and", "advice", "networks", "drive", "enterprise", "operations", "in", "a", "way", "that", ",", "if", "the", "real", "organization", "structure", "does", "not", "match", "the", "informal", "networks", ",", "then", "a", "company", "tends", "to", "fail", "-LSB-", "3", "-RSB-", ".", "Since", "Max", "Weber", "first", "studied", "modern", "bureaucracy", "structures", "in", "the", "1920s", ",", "decades", "of", "related", "social", "scientific", "researches", "have", "been", "mainly", "relying", "on", "questionnaires", "and", "interviews", "to", "understand", "individuals", "'", "thoughts", "and", "behaviors", "for", "sensing", "informal", "networks", ".", "However", ",", "data", "collection", "is", "time", "consuming", "and", "seldom", "provides", "timely", ",", "continuous", ",", "and", "dynamic", "information", ".", "This", "is", "usually", "the", "biggest", "hurdle", "in", "social", "studies", ".", "Personal", "Social", "Network", "-LRB-", "PSN", "-RRB-", "could", "provide", "an", "organizing", "principle", "for", "advanced", "user", "interfaces", "that", "offer", "information", "management", "and", "communication", "services", "in", "a", "single", "integrated", "system", ".", "One", "of", "the", "most", "pronounced", "examples", "is", "the", "networking", "study", "by", "Nardi", "et", "al.", "-LSB-", "4", "-RSB-", ",", "who", "coined", "the", "term", "intensional", "networks", "to", "describe", "personal", "social", "networks", ".", "They", "presented", "a", "visual", "model", "of", "user", "'s", "PSN", "to", "organize", "personal", "communications", "in", "terms", "of", "a", "social", "network", "of", "contacts", ".", "From", "this", "perspective", ",", "many", "tools", "were", "built", "such", "as", "LinkedIn", "-LSB-", "5", "-RSB-", ",", "Orkut", "-LSB-", "6", "-RSB-", ",", "and", "Friendster", "-LSB-", "7", "-RSB-", ".", "However", ",", "all", "of", "them", "only", "provide", "tools", "for", "visually", "managing", "personal", "social", "networks", ".", "Users", "need", "to", "manually", "input", ",", "update", ",", "and", "manage", "these", "networks", ".", "This", "results", "in", "serious", "drawbacks", ".", "For", "instance", ",", "people", "may", "not", "be", "able", "to", "invest", "necessary", "efforts", "in", "creating", "rich", "information", ",", "or", "they", "may", "not", "keep", "the", "information", "up-to-date", "as", "their", "interests", ",", "responsibilities", ",", "and", "network", "change", ".", "They", "need", "a", "way", "to", "organize", "the", "relationship", "and", "remember", "who", "have", "the", "resources", "to", "help", "them", ".", "We", "coin", "the", "terminology", "of", "managing", "these", "goals", "as", "personal", "social", "capital", "management", "1", ".", "In", "this", "paper", ",", "we", "develop", "a", "user-centric", "modeling", "technology", ",", "which", "can", "dynamically", "describe", "and", "update", "a", "1", "Social", "capital", "infers", "to", "the", "accumulated", "contacts", "'", "human", "capital", "-LRB-", "asset", ",", "power", ",", "resources", "-RRB-", "that", "a", "person", "can", "explore", "through", "social", "network", "-LSB-", "8", "-RSB-", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "05", ",", "August", "21", "24", ",", "2005", ",", "Chicago", ",", "Illinois", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-135-X", "/", "05/0008", "...", "$", "5.00", ".", "479", "Industry/Government", "Track", "Paper", "person", "'s", "personal", "social", "network", "with", "context-dependent", "and", "temporal", "evolution", "information", "from", "personal", "communications", ".", "We", "refer", "to", "the", "model", "as", "a", "CommunityNet", ".", "Senders", "and", "receivers", ",", "time", "stamps", ",", "subject", "and", "content", "of", "emails", "contribute", "three", "key", "components", "content", "semantics", ",", "temporal", "information", ",", "and", "social", "relationship", ".", "We", "propose", "a", "novel", "Content-Time-Relation", "-LRB-", "CTR", "-RRB-", "algorithm", "to", "capture", "dynamic", "and", "context-dependent", "information", "in", "an", "unsupervised", "way", ".", "Based", "on", "the", "CommunityNet", "models", ",", "many", "questions", "can", "be", "addressed", "by", "inference", ",", "prediction", "and", "filtering", ".", "For", "instance", ",", "1", "-RRB-", "Who", "are", "semantically", "related", "to", "each", "other", "?", "2", "-RRB-", "Who", "will", "be", "involved", "in", "a", "special", "topic", "?", "Who", "are", "the", "important", "-LRB-", "central", "-RRB-", "people", "in", "this", "topic", "?", "3", "-RRB-", "How", "does", "the", "information", "flow", "?", "and", "4", "-RRB-", "If", "we", "want", "to", "publicize", "a", "message", ",", "whom", "should", "we", "inform", "?", "Figure", "1", "shows", "the", "procedure", "of", "our", "proposed", "scheme", ".", "First", ",", "topic", "detection", "and", "clustering", "is", "conducted", "on", "training", "emails", "in", "order", "to", "define", "topic-communities", ".", "Then", ",", "for", "each", "individual", ",", "CommunityNet", "is", "built", "based", "on", "the", "detected", "topics", ",", "the", "sender", "and", "receiver", "information", ",", "and", "the", "time", "stamps", ".", "Afterwards", ",", "these", "personal", "CommunityNets", "can", "be", "applied", "for", "inferring", "organizational", "informal", "networks", "and", "predicting", "personal", "behaviors", "to", "help", "users", "manage", "their", "social", "capitals", ".", "We", "incorporate", "the", "following", "innovative", "steps", ":", "1", "-RRB-", "Incorporate", "content", "analysis", "into", "social", "network", "in", "an", "unsupervised", "way", "2", "-RRB-", "Build", "a", "CommunityNet", "for", "each", "user", "to", "capture", "the", "context-dependent", ",", "temporal", "evolutionary", "personal", "social", "network", "based", "on", "email", "communication", "records", "3", "-RRB-", "Analyze", "people", "'s", "behaviors", "based", "on", "CommunityNet", ",", "including", "predicting", "people", "'s", "information", "sending", "and", "receiving", "behaviors", "4", "-RRB-", "Show", "the", "potential", "of", "using", "automatically", "acquired", "personal", "social", "network", "for", "organization", "and", "personal", "social", "capital", "management", "Input", ":", "Emails", "From", ":", "sally.beck@enron.com", "To", ":", "shona.wilson@enron.com", "Subject", ":", "Re", ":", "timing", "of", "submitting", "information", "to", "Risk", "Controls", "Good", "memo", "-", "let", "me", "know", "if", "you", "see", "results", ".", "...", ".", "Topic", "Detection", ",", "Content", "Analysis", "Topics", "Meeting", "schedule", "Agreement", "California", "Energy", "Game", "Holiday", "celebration", "CommunityNet", "CommunityNet", "Modeling", "Applications", "Recommendation", "system", "Prediction", ",", "Filtering", "Input", ":", "Emails", "From", ":", "sally.beck@enron.com", "To", ":", "shona.wilson@enron.com", "Subject", ":", "Re", ":", "timing", "of", "submitting", "information", "to", "Risk", "Controls", "Good", "memo", "-", "let", "me", "know", "if", "you", "see", "results", ".", "...", ".", "Topic", "Detection", ",", "Content", "Analysis", "Topics", "Meeting", "schedule", "Agreement", "California", "Energy", "Game", "Holiday", "celebration", "CommunityNet", "CommunityNet", "Modeling", "Applications", "Recommendation", "system", "Prediction", ",", "Filtering", "Figure", "1", ".", "An", "Overview", "of", "CommunityNet", "We", "tested", "the", "CommunityNet", "model", "on", "the", "Enron", "email", "corpus", "comprising", "the", "communication", "records", "of", "154", "Enron", "employees", "dating", "from", "Jan.", "1999", "to", "Aug.", "2002", ".", "The", "Enron", "email", "dataset", "was", "originally", "made", "available", "to", "public", "by", "the", "Federal", "Energy", "Regulatory", "Commission", "during", "the", "investigation", "-LSB-", "9", "-RSB-", ".", "It", "was", "later", "collected", "and", "prepared", "by", "Melinda", "Gervasio", "at", "SRI", "for", "the", "CALO", "-LRB-", "A", "Cognitive", "Assistant", "that", "Learns", "and", "Organizes", "-RRB-", "project", ".", "William", "Cohen", "from", "CMU", "has", "put", "up", "the", "dataset", "on", "the", "web", "for", "research", "purpose", "-LSB-", "9", "-RSB-", ".", "This", "version", "of", "the", "dataset", "contains", "around", "517,432", "emails", "within", "150", "folders", ".", "We", "clean", "the", "data", "and", "extract", "154", "users", "from", "those", "150", "folders", "with", "166,653", "unique", "messages", "from", "1999", "to", "2002", ".", "In", "the", "experiments", ",", "we", "use", "16,873", "intra-organizational", "emails", "which", "connect", "these", "154", "people", ".", "The", "primary", "contributions", "of", "this", "paper", "are", "three-fold", ".", "First", "we", "develop", "an", "algorithm", "incorporating", "content-time-relation", "detection", ".", "Second", ",", "we", "generate", "an", "application", "model", "which", "describes", "personal", "dynamic", "community", "network", ".", "Third", ",", "we", "show", "how", "this", "model", "can", "be", "applied", "to", "organization", "and", "social", "capital", "management", ".", "To", "the", "best", "of", "our", "knowledge", ",", "this", "is", "among", "the", "first", "reported", "technologies", "on", "fusing", "research", "in", "the", "social", "network", "analysis", "field", "and", "the", "content", "analysis", "field", "for", "information", "management", ".", "We", "propose", "the", "CTR", "algorithm", "and", "the", "CommunityNet", "based", "on", "the", "Latent", "Dirichlet", "Allocation", "algorithm", ".", "In", "our", "experiments", ",", "we", "observed", "clear", "benefit", "of", "discovering", "knowledge", "based", "on", "multi-modality", "information", "rather", "than", "using", "only", "single", "type", "of", "data", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "present", "an", "overview", "of", "related", "work", ".", "In", "Section", "3", ",", "we", "present", "our", "model", ".", "We", "discuss", "how", "to", "use", "CommunityNet", "to", "analyze", "communities", "and", "individuals", "in", "section", "4", "and", "5", ",", "respectively", ".", "In", "Section", "6", ",", "we", "show", "two", "demo", "systems", "for", "query", ",", "visualization", "and", "contact", "recommendation", ".", "Finally", ",", "conclusions", "and", "future", "work", "are", "addressed", "in", "Section", "7", ".", "To", "capture", "relationships", "between", "entities", ",", "social", "network", "has", "been", "a", "subject", "of", "study", "for", "more", "than", "50", "years", ".", "An", "early", "sign", "of", "the", "potential", "of", "social", "network", "was", "perhaps", "the", "classic", "paper", "by", "Milgram", "-LSB-", "10", "-RSB-", "estimating", "that", "on", "average", ",", "every", "person", "in", "the", "world", "is", "only", "six", "edges", "away", "from", "each", "other", ",", "if", "an", "edge", "between", "i", "and", "j", "means", "``", "i", "knows", "j", "''", ".", "Lately", ",", "introducing", "social", "network", "analysis", "into", "information", "mining", "is", "becoming", "an", "important", "research", "area", ".", "Schwartz", "and", "Wood", "-LSB-", "11", "-RSB-", "mined", "social", "relationships", "from", "email", "logs", "by", "using", "a", "set", "of", "heuristic", "graph", "algorithms", ".", "The", "Referral", "Web", "project", "-LSB-", "12", "-RSB-", "mined", "a", "social", "network", "from", "a", "wide", "variety", "of", "publicly-available", "online", "information", ",", "and", "used", "it", "to", "help", "individuals", "find", "experts", "who", "could", "answer", "their", "questions", "based", "on", "geographical", "proximity", ".", "Flake", "et", "al.", "-LSB-", "13", "-RSB-", "used", "graph", "algorithms", "to", "mine", "communities", "from", "the", "Web", "-LRB-", "defined", "as", "sets", "of", "sites", "that", "have", "more", "links", "to", "each", "other", "than", "to", "non-members", "-RRB-", ".", "Tyler", "et", "al.", "-LSB-", "14", "-RSB-", "use", "a", "betweenness", "centrality", "algorithm", "for", "the", "automatic", "identification", "of", "communities", "of", "practice", "from", "email", "logs", "within", "an", "organization", ".", "The", "Google", "search", "engine", "-LSB-", "15", "-RSB-", "and", "Kleinberg", "'s", "HITS", "algorithm", "of", "finding", "hubs", "and", "authorities", "on", "the", "Web", "-LSB-", "16", "-RSB-", "are", "also", "based", "on", "social", "network", "concepts", ".", "The", "success", "of", "these", "approaches", ",", "and", "the", "discovery", "of", "widespread", "network", "topologies", "with", "nontrivial", "properties", ",", "have", "led", "to", "a", "recent", "flurry", "of", "research", "on", "applying", "link", "analysis", "for", "information", "mining", ".", "A", "promising", "class", "of", "statistical", "models", "for", "expressing", "structural", "properties", "of", "social", "networks", "is", "the", "class", "of", "Exponential", "Random", "Graph", "Models", "-LRB-", "ERGMs", "-RRB-", "-LRB-", "or", "p", "*", "model", "-RRB-", "-LSB-", "17", "-RSB-", ".", "This", "statistical", "model", "can", "represent", "structural", "properties", "that", "define", "complicated", "dependence", "patterns", "that", "can", "not", "be", "easily", "modeled", "by", "deterministic", "models", ".", "Let", "Y", "denote", "a", "random", "graph", "on", "a", "set", "of", "n", "nodes", "and", "let", "y", "denote", "a", "particular", "graph", "on", "those", "nodes", ".", "Then", ",", "the", "probability", "of", "Y", "equals", "to", "y", "is", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "exp", "T", "s", "y", "P", "Y", "y", "c", "=", "=", "-LRB-", "1", "-RRB-", "480", "Industry/Government", "Track", "Paper", "where", "-LRB-", "-RRB-", "s", "y", "is", "a", "known", "vector", "of", "graph", "statistics", "-LRB-", "Density", ",", "Reciprocity", ",", "Transitivity", ",", "etc", "-RRB-", "on", "y", ",", "is", "a", "vector", "of", "coefficients", "to", "model", "the", "influence", "of", "each", "statistics", "for", "the", "whole", "graph", ",", "T", "means", "``", "transpose", "''", ",", "-LRB-", "-RRB-", "c", "is", "a", "normalization", "term", "to", "satisfy", "-LRB-", "-RRB-", "1", "y", "P", "Y", "y", "=", "=", ".", "The", "parameters", "are", "estimated", "based", "on", "the", "observed", "graph", "obs", "y", "by", "maximum", "likelihood", "estimation", ".", "All", "the", "research", "discussed", "above", "has", "focused", "on", "using", "static", "properties", "in", "a", "network", "to", "represent", "the", "complex", "structure", ".", "However", ",", "social", "networks", "evolve", "over", "time", ".", "Evolution", "property", "has", "a", "great", "deal", "of", "influence", ";", "e.g.", ",", "it", "affects", "the", "rate", "of", "information", "diffusion", ",", "the", "ability", "to", "acquire", "and", "use", "information", ",", "and", "the", "quality", "and", "accuracy", "of", "organizational", "decisions", ".", "Dynamics", "of", "social", "networks", "have", "attracted", "many", "researchers", "'", "attentions", "recently", ".", "Given", "a", "snapshot", "of", "a", "social", "network", ",", "-LSB-", "19", "-RSB-", "tries", "to", "infer", "which", "new", "interactions", "among", "its", "members", "are", "likely", "to", "occur", "in", "the", "near", "future", ".", "In", "-LSB-", "20", "-RSB-", ",", "Kubica", "et", "al.", "are", "interested", "in", "tracking", "changes", "in", "large-scale", "data", "by", "periodically", "creating", "an", "agglomerative", "clustering", "and", "examining", "the", "evolution", "of", "clusters", "over", "time", ".", "Among", "the", "known", "dynamical", "social", "networks", "in", "literature", ",", "Snijder", "'s", "dynamic", "actor-oriented", "social", "network", "-LSB-", "18", "-RSB-", "is", "one", "of", "the", "most", "successful", "algorithms", ".", "Changes", "in", "the", "network", "are", "modeled", "as", "the", "stochastic", "result", "of", "network", "effects", "-LRB-", "density", ",", "reciprocity", ",", "etc.", "-RRB-", ".", "Evolution", "is", "modeled", "by", "continuous-time", "Markov", "chains", ",", "whose", "parameters", "are", "estimated", "by", "the", "Markov", "chain", "Monte", "Carlo", "procedures", ".", "In", "-LSB-", "21", "-RSB-", ",", "Handcock", "et", "al.", "proposed", "a", "curved", "ERGM", "model", "and", "applied", "it", "to", "the", "new", "specifications", "of", "ERGMs", "This", "latest", "model", "uses", "nonlinear", "parameters", "to", "represent", "structural", "properties", "of", "networks", ".", "The", "above", "mentioned", "dynamic", "analyses", "show", "some", "success", "in", "analyzing", "longitudinal", "stream", "data", ".", "However", ",", "most", "of", "them", "are", "only", "based", "on", "pure", "network", "properties", ",", "without", "knowing", "what", "people", "are", "talking", "about", "and", "why", "they", "have", "close", "relationships", ".", "2.2", "Content", "Analysis", "In", "statistical", "Natural", "Language", "processing", ",", "one", "common", "way", "of", "modeling", "the", "contributions", "of", "different", "topics", "to", "a", "document", "is", "to", "treat", "each", "topic", "as", "a", "probability", "distribution", "over", "words", ",", "viewing", "a", "document", "as", "a", "probability", "distribution", "over", "words", ",", "and", "thus", "viewing", "a", "document", "as", "a", "probabilistic", "mixture", "over", "these", "topics", ".", "Given", "T", "topics", ",", "the", "probability", "of", "the", "ith", "word", "in", "a", "given", "document", "is", "formalized", "as", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "|", "T", "i", "i", "i", "i", "j", "P", "w", "P", "w", "z", "j", "P", "z", "j", "=", "=", "=", "=", "-LRB-", "2", "-RRB-", "where", "i", "z", "is", "a", "latent", "variable", "indicating", "the", "topic", "from", "which", "the", "i", "th", "word", "was", "drawn", "and", "-LRB-", "-RRB-", "|", "i", "i", "P", "w", "z", "j", "=", "is", "the", "probability", "of", "the", "word", "i", "w", "under", "the", "jth", "topic", ".", "-LRB-", "-RRB-", "i", "P", "z", "j", "=", "gives", "the", "probability", "of", "choosing", "a", "word", "from", "topics", "j", "in", "the", "current", "document", ",", "which", "varies", "across", "different", "documents", ".", "Hofmann", "-LSB-", "22", "-RSB-", "introduced", "the", "aspect", "model", "Probabilistic", "Latent", "Semantic", "Analysis", "-LRB-", "PLSA", "-RRB-", ",", "in", "which", ",", "topics", "are", "modeled", "as", "multinomial", "distributions", "over", "words", ",", "and", "documents", "are", "assumed", "to", "be", "generated", "by", "the", "activation", "of", "multiple", "topics", ".", "Blei", "et", "al.", "-LSB-", "23", "-RSB-", "proposed", "Latent", "Dirichlet", "Allocation", "-LRB-", "LDA", "-RRB-", "to", "address", "the", "problems", "of", "PLSA", "that", "parameterization", "was", "susceptible", "to", "overfitting", "and", "did", "not", "provide", "a", "straightforward", "way", "to", "infer", "testing", "documents", ".", "A", "distribution", "over", "topics", "is", "sampled", "from", "a", "Dirichlet", "distribution", "for", "each", "document", ".", "Each", "word", "is", "sampled", "from", "a", "multinomial", "distribution", "over", "words", "specific", "to", "the", "sampled", "topic", ".", "Following", "the", "notations", "in", "-LSB-", "24", "-RSB-", ",", "in", "LDA", ",", "D", "documents", "containing", "T", "topics", "expressed", "over", "W", "unique", "words", ",", "we", "can", "represent", "-LRB-", "|", "-RRB-", "P", "w", "z", "with", "a", "set", "of", "T", "multinomial", "distributions", "over", "the", "W", "words", ",", "such", "that", "-LRB-", "-RRB-", "-LRB-", "|", "-RRB-", "w", "j", "P", "w", "z", "j", "=", "=", ",", "and", "P", "-LRB-", "z", "-RRB-", "with", "a", "set", "of", "D", "multinomial", "distribution", "over", "the", "T", "topics", ",", "such", "that", "for", "a", "word", "in", "document", "d", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "d", "j", "P", "z", "j", "=", "=", ".", "Recently", ",", "the", "Author-Topic", "-LRB-", "AT", "-RRB-", "model", "-LSB-", "25", "-RSB-", "extends", "LDA", "to", "include", "authorship", "information", ",", "trying", "to", "recognize", "which", "part", "of", "the", "document", "is", "contributed", "by", "which", "co-author", ".", "In", "a", "recent", "unpublished", "work", ",", "McCallum", "et", "al.", "-LSB-", "26", "-RSB-", "further", "extend", "the", "AT", "model", "to", "the", "Author-Recipient-Topic", "model", "by", "regarding", "the", "sender-receiver", "pair", "as", "an", "additional", "author", "variable", "for", "topic", "classification", ".", "Their", "goal", "is", "role", "discovery", ",", "which", "is", "similar", "to", "one", "of", "our", "goals", "as", "discussed", "in", "Sec.", "4.1.2", "without", "taking", "the", "temporal", "nature", "of", "emails", "into", "consideration", ".", "Using", "LDA", ",", "and", "are", "parameters", "that", "need", "to", "be", "estimated", "by", "using", "sophisticated", "approximation", "either", "with", "variational", "Bayes", "or", "expectation", "propagation", ".", "To", "solve", "this", "problem", ",", "Griffiths", "and", "Steyvers", "-LSB-", "24", "-RSB-", "extended", "LDA", "by", "considering", "the", "posterior", "distribution", "over", "the", "assignments", "of", "words", "to", "topics", "and", "showed", "how", "Gibbs", "sampling", "could", "be", "applied", "to", "build", "models", ".", "Specifically", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", ",", ",", ",", "|", ",", "i", "i", "i", "w", "d", "i", "j", "i", "j", "i", "i", "d", "i", "j", "i", "n", "n", "P", "z", "j", "z", "w", "n", "W", "n", "T", "+", "+", "=", "+", "+", "-LRB-", "3", "-RRB-", "where", "-LRB-", "-RRB-", "i", "n", "is", "a", "count", "that", "does", "not", "include", "the", "current", "assignment", ",", "-LRB-", "-RRB-", "w", "j", "n", "is", "the", "number", "of", "times", "word", "w", "has", "been", "assigned", "to", "topic", "j", "in", "the", "vector", "of", "assignments", "z", ",", "-LRB-", "-RRB-", "d", "j", "n", "is", "the", "number", "of", "times", "a", "word", "from", "document", "d", "has", "been", "assigned", "to", "topic", "j", ",", "-LRB-", "-RRB-", "j", "n", "is", "a", "sum", "of", "-LRB-", "-RRB-", "w", "j", "n", ",", "-LRB-", "-RRB-", "d", "n", "is", "a", "sum", "of", "-LRB-", "-RRB-", "d", "j", "n", ".", "Further", ",", "one", "can", "estimate", "-LRB-", "-RRB-", "w", "j", ",", "the", "probability", "of", "using", "word", "w", "in", "topic", "j", ",", "and", "-LRB-", "-RRB-", "d", "j", ",", "the", "probability", "of", "topic", "j", "in", "document", "d", "as", "follows", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "^", "w", "w", "j", "j", "j", "n", "n", "W", "+", "=", "+", "-LRB-", "4", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "^", "d", "d", "j", "j", "d", "n", "n", "T", "+", "=", "+", "-LRB-", "5", "-RRB-", "In", "-LSB-", "24", "-RSB-", ",", "experiments", "show", "that", "topics", "can", "be", "recovered", "by", "their", "algorithm", "and", "show", "meaningful", "aspects", "of", "the", "structure", "and", "relationships", "between", "scientific", "papers", ".", "Contextual", ",", "relational", ",", "and", "temporal", "information", "are", "three", "key", "factors", "for", "current", "data", "mining", "and", "knowledge", "management", "models", ".", "However", ",", "there", "are", "few", "papers", "addressing", "these", "three", "components", "simultaneously", ".", ".", "In", "our", "recent", "paper", ",", "we", "built", "user", "models", "to", "explicitly", "describe", "a", "person", "'s", "expertise", "by", "a", "relational", "and", "evolutionary", "graph", "representation", "called", "ExpertisetNet", "-LSB-", "27", "-RSB-", ".", "In", "this", "paper", ",", "we", "continue", "exploring", "this", "thread", ",", "and", "build", "a", "CommunityNet", "model", "which", "incorporates", "these", "three", "components", "together", "for", "data", "mining", "and", "knowledge", "management", ".", "In", "this", "section", ",", "we", "first", "define", "terminologies", ".", "Then", ",", "we", "propose", "a", "Content-Time-Relation", "-LRB-", "CTR", "-RRB-", "algorithm", "to", "build", "the", "481", "Industry/Government", "Track", "Paper", "personal", "CommunityNet", ".", "We", "also", "specifically", "address", "the", "prediction", "of", "the", "user", "'s", "behaviors", "as", "a", "classification", "problem", "and", "solve", "it", "based", "on", "the", "CommunityNet", "models", ".", "3.1", "Terminology", "Definition", "1", ".", "Topic-Community", ":", "A", "topic", "community", "is", "a", "group", "of", "people", "who", "participate", "in", "one", "specific", "topic", ".", "Definition", "2", ":", "Personal", "Topic-Community", "Network", "-LRB-", "PTCN", "-RRB-", ":", "A", "personal", "topic-community", "network", "is", "a", "group", "of", "people", "directly", "connected", "to", "one", "person", "about", "a", "specific", "topic", ".", "Definition", "3", ".", "Evolutionary", "Personal", "Social", "Network", ":", "An", "evolutionary", "personal", "social", "network", "illustrates", "how", "a", "personal", "social", "network", "changes", "over", "time", ".", "Definition", "4", ".", "Evolutionary", "Personal", "Topic-Community", "Network", ":", "An", "evolutionary", "network", "illustrates", "how", "a", "person", "'s", "personal", "topic-community", "network", "changes", "over", "time", ".", "Definition", "5", ".", "Personal", "Social", "Network", "Information", "Flow", ":", "A", "personal", "social", "network", "information", "flow", "illustrates", "how", "the", "information", "flows", "over", "a", "person", "'s", "personal", "social", "network", "to", "other", "people", "'s", "personal", "social", "networks", "Definition", "6", ":", "Personal", "Topic-Community", "Information", "Flow", ":", "A", "personal", "Topic-CommunityNet", "information", "flow", "illustrates", "how", "the", "information", "about", "one", "topic", "flows", "over", "a", "person", "'s", "personal", "social", "network", "to", "other", "people", "'s", "personal", "social", "networks", ".", "3.2", "Personal", "Social", "Network", "We", "build", "people", "'s", "personal", "social", "networks", "by", "collecting", "their", "communication", "records", ".", "The", "nodes", "of", "a", "network", "represent", "whom", "this", "person", "contacts", "with", ".", "The", "weights", "of", "the", "links", "measure", "the", "probabilities", "of", "the", "emails", "he", "sends", "to", "the", "other", "people", ":", "A", "basic", "form", "of", "the", "probability", "that", "an", "user", "u", "sending", "email", "to", "a", "recipient", "r", "is", ":", "-LRB-", "-RRB-", "number", "of", "times", "sends", "emails", "to", "|", "total", "number", "of", "emails", "sent", "out", "by", "u", "r", "P", "r", "u", "u", "=", "-LRB-", "6", "-RRB-", "We", "build", "evolutionary", "personal", "social", "networks", "to", "explore", "the", "dynamics", "and", "the", "evolution", ".", "The", "ERGM", "in", "Eq", ".", "-LRB-", "1", "-RRB-", "can", "be", "used", "to", "replace", "Eq", ".", "-LRB-", "6", "-RRB-", "for", "probabilistic", "graph", "modeling", ".", "A", "big", "challenge", "of", "automatically", "building", "evolutionary", "personal", "social", "network", "is", "the", "evolutionary", "segmentation", ",", "which", "is", "to", "detect", "changes", "between", "personal", "social", "network", "cohesive", "sections", ".", "Here", "we", "apply", "the", "same", "algorithm", "as", "we", "proposed", "in", "-LSB-", "27", "-RSB-", ".", "For", "each", "personal", "social", "network", "in", "one", "time", "period", "t", ",", "we", "use", "the", "exponential", "random", "graph", "model", "-LSB-", "17", "-RSB-", "to", "estimate", "an", "underlying", "distribution", "to", "describe", "the", "social", "network", ".", "An", "ERGM", "is", "estimated", "from", "the", "data", "in", "each", "temporal", "sliding", "window", ".", "With", "these", "operations", ",", "we", "obtain", "a", "series", "of", "parameters", "which", "indicates", "the", "graph", "configurations", ".", "3.3", "Content-Time-Relation", "Algorithm", "We", "begin", "with", "email", "content", ",", "sender", "and", "receiver", "information", ",", "and", "time", "stamps", ",", "and", "use", "these", "sources", "of", "knowledge", "to", "create", "a", "joint", "probabilistic", "model", ".", "An", "observation", "is", "-LRB-", "u", ",", "r", ",", "d", ",", "w", ",", "t", "-RRB-", "corresponds", "to", "an", "event", "of", "a", "user", "u", "sending", "to", "receivers", "r", "an", "email", "d", "containing", "words", "w", "during", "a", "particular", "time", "period", "t.", "Conceptually", ",", "users", "choose", "latent", "topics", "z", ",", "which", "in", "turn", "generate", "receivers", "r", ",", "documents", "d", ",", "and", "their", "content", "words", "w", "during", "time", "period", "t.", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "|", ",", ",", "|", ",", "|", ",", "z", "P", "u", "r", "d", "t", "P", "u", "r", "z", "t", "P", "z", "d", "t", "=", "-LRB-", "7", "-RRB-", "where", ",", "u", "r", "is", "a", "sender-receiver", "pair", "during", "time", "period", "t", ".", ",", "u", "r", "can", "be", "replaced", "by", "any", "variable", "to", "indicate", "the", "user", "'s", "behavior", ",", "as", "long", "as", "it", "is", "also", "assumed", "to", "be", "dependent", "on", "latent", "topics", "of", "emails", ".", "In", "order", "to", "model", "the", "PTCN", ",", "one", "challenge", "is", "how", "to", "detect", "latent", "topics", "dynamically", "and", "at", "the", "same", "time", "track", "the", "emails", "related", "to", "the", "old", "topics", ".", "This", "is", "a", "problem", "similar", "to", "topic", "detection", "tracking", "-LSB-", "28", "-RSB-", ".", "We", "propose", "an", "incremental", "LDA", "-LRB-", "ILDA", "-RRB-", "algorithm", "to", "solve", "it", ",", "in", "which", "the", "number", "of", "topics", "is", "dynamically", "updated", "based", "on", "the", "Bayesian", "model", "selection", "principle", "-LSB-", "24", "-RSB-", ".", "The", "procedures", "of", "the", "algorithm", "are", "illustrated", "as", "follows", ":", "Incremental", "Latent", "Dirichlet", "Allocation", "-LRB-", "ILDA", "-RRB-", "algorithm", ":", "Input", ":", "Email", "streams", "with", "timestamp", "t", "Output", ":", "-LRB-", "-RRB-", ",", "w", "j", "t", ",", "-LRB-", "-RRB-", ",", "d", "j", "t", "for", "different", "time", "period", "t", "Steps", ":", "1", "-RRB-", "Apply", "LDA", "on", "a", "data", "set", "with", "currently", "observed", "emails", "in", "a", "time", "period", "t", "to", "generate", "latent", "topics", "j", "z", "and", "estimate", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "0", "0", ",", "|", ",", "w", "j", "j", "t", "P", "w", "z", "t", "=", "and", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "0", "0", ",", "|", ",", "d", "j", "j", "t", "P", "z", "d", "t", "=", "by", "equation", "-LRB-", "4", "-RRB-", "and", "-LRB-", "5", "-RRB-", ".", "The", "number", "of", "topics", "is", "determined", "by", "the", "Bayesian", "model", "selection", "principle", ".", "2", "-RRB-", "When", "new", "emails", "arrive", "during", "time", "period", "k", ",", "use", "Bayesian", "model", "selection", "principle", "to", "determine", "the", "number", "of", "topics", "and", "apply", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "1", ",", "|", ",", ",", "|", ",", "i", "i", "d", "i", "j", "i", "i", "k", "i", "k", "d", "i", "n", "P", "z", "j", "z", "w", "t", "P", "w", "z", "j", "t", "n", "T", "+", "=", "=", "+", "to", "estimate", "-LRB-", "-RRB-", "|", ",", "k", "P", "z", "d", "t", ",", "-LRB-", "-RRB-", "|", ",", "k", "P", "w", "z", "t", ",", "and", "-LRB-", "-RRB-", "|", ",", "k", "P", "z", "w", "t", ".", "3", "-RRB-", "Repeat", "step", "2", "-RRB-", "until", "no", "data", "arrive", ".", "Based", "on", "this", "ILDA", "algorithm", ",", "we", "propose", "a", "Content-Time-Relation", "-LRB-", "CTR", "-RRB-", "algorithm", ".", "It", "consists", "of", "two", "phases", ",", "the", "training", "phase", "and", "the", "testing", "phase", ".", "In", "the", "training", "phase", ",", "emails", "as", "well", "as", "the", "senders", ",", "receivers", "and", "time", "stamps", "are", "available", ".", "-LRB-", "-RRB-", "|", ",", "old", "P", "w", "z", "t", "and", "-LRB-", "-RRB-", ",", "|", ",", "old", "P", "u", "r", "z", "t", "are", "learnt", "from", "the", "observed", "data", ".", "In", "the", "testing", "phase", ",", "we", "apply", "ILDA", "to", "learn", "-LRB-", "-RRB-", "|", ",", "new", "P", "z", "d", "t", ".", "Based", "on", "-LRB-", "-RRB-", ",", "|", ",", "old", "P", "u", "r", "z", "t", ",", "which", "is", "learnt", "from", "the", "training", "phase", ",", ",", "u", "r", "can", "be", "inferred", ".", "Again", ",", ",", "u", "r", "represents", "a", "sender-receiver", "pair", "or", "any", "variable", "to", "indicate", "the", "user", "'s", "behavior", ",", "as", "long", "as", "it", "is", "dependent", "on", "the", "latent", "topics", "of", "emails", ".", "Content-Time-Relation", "-LRB-", "CTR", "-RRB-", "algorithm", ":", "1", "-RRB-", "Training", "phase", "Input", ":", "Old", "emails", "with", "content", ",", "sender", "and", "receiver", "information", ",", "and", "time", "stamps", "old", "t", "Output", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "|", ",", ",", "|", ",", ",", "and", ",", "|", ",", "old", "old", "old", "P", "w", "z", "t", "P", "z", "d", "t", "P", "u", "r", "z", "t", "Steps", ":", "a", "-RRB-", "Apply", "Gibbs", "Sampling", "on", "the", "data", "according", "to", "equation", "-LRB-", "3", "-RRB-", ".", "b", "-RRB-", "Estimate", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "|", ",", "old", "w", "j", "old", "j", "t", "P", "w", "z", "t", "=", "and", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "|", ",", "old", "d", "j", "old", "j", "t", "P", "z", "d", "t", "=", "by", "equation", "-LRB-", "4", "-RRB-", ",", "and", "-LRB-", "5", "-RRB-", ".", "c", "-RRB-", "Estimate", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "|", ",", ",", "|", ",", "|", ",", ",", "|", ",", "|", ",", "old", "old", "old", "d", "old", "old", "d", "P", "u", "r", "z", "t", "P", "u", "r", "d", "t", "P", "d", "z", "t", "P", "u", "r", "d", "t", "P", "z", "d", "t", "=", "-LRB-", "8", "-RRB-", "2", "-RRB-", "Testing", "phase", "Input", ":", "New", "emails", "with", "content", "and", "time", "stamps", "new", "t", "482", "Industry/Government", "Track", "Paper", "Output", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "|", ",", ",", "|", ",", ",", "and", "|", ",", "new", "new", "new", "P", "u", "r", "d", "t", "P", "w", "z", "t", "P", "z", "d", "t", "Steps", ":", "a", "-RRB-", "Apply", "incremental", "LDA", "by", "Gibbs", "Sampling", "based", "on", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", ",", "|", ",", ",", ",", "|", "i", "i", "d", "i", "j", "i", "i", "new", "i", "old", "d", "i", "n", "P", "z", "j", "z", "w", "t", "P", "w", "z", "j", "t", "n", "T", "+", "=", "=", "+", "to", "estimate", "-LRB-", "-RRB-", "|", ",", "j", "new", "P", "w", "z", "t", ",", "and", "-LRB-", "-RRB-", "|", ",", "new", "P", "z", "d", "t", "by", "equation", "-LRB-", "4", "-RRB-", "and", "-LRB-", "5", "-RRB-", ".", "b", "-RRB-", "If", "the", "topics", "are", "within", "the", "training", "set", ",", "estimate", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "^", ",", "|", ",", ",", "|", ",", "|", ",", "new", "old", "new", "z", "P", "u", "r", "d", "t", "P", "u", "r", "z", "t", "P", "z", "d", "t", "=", ",", "else", "if", "the", "sender", "and", "receivers", "are", "within", "the", "training", "set", ",", "estimate", "-LRB-", "-RRB-", "^", ",", "|", ",", "new", "P", "u", "r", "d", "t", "by", "topic-independent", "social", "network", "-LRB-", "-RRB-", ",", "|", "old", "P", "u", "r", "t", ".", "c", "-RRB-", "If", "there", "are", "new", "topics", "detected", ",", "update", "the", "model", "by", "incorporating", "the", "new", "topics", ".", "Inference", ",", "filtering", ",", "and", "prediction", "can", "be", "conducted", "based", "on", "this", "model", ".", "For", "the", "CTR", "algorithm", ",", "sender", "variable", "u", "or", "receiver", "variable", "r", "is", "fixed", ".", "For", "instance", ",", "if", "we", "are", "interested", "in", "-LRB-", "-RRB-", "|", ",", ",", "P", "r", "u", "d", "t", ",", "which", "is", "to", "answer", "a", "question", "of", "whom", "we", "should", "send", "the", "message", "d", "to", "during", "the", "time", "period", "t", ".", "The", "answer", "will", "be", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "/", "^", "argmax", "|", ",", ",", "argmax", "|", ",", ",", "|", ",", ",", "|", ",", "|", ",", ",", "old", "old", "new", "t", "t", "t", "old", "new", "old", "new", "r", "t", "old", "t", "new", "old", "t", "new", "r", "z", "z", "z", "P", "r", "u", "d", "t", "P", "r", "u", "z", "t", "P", "z", "u", "d", "t", "P", "r", "u", "t", "P", "z", "u", "d", "t", "=", "+", "-LRB-", "9", "-RRB-", "where", "z", "/", "new", "old", "t", "t", "z", "represents", "the", "new", "topics", "emerging", "during", "the", "time", "period", "t.", "Another", "question", "is", "if", "we", "receive", "an", "email", ",", "who", "will", "be", "possibly", "the", "sender", "?", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "/", "^", "argmax", "|", ",", ",", "argmax", "|", ",", ",", "|", ",", ",", "|", ",", "|", ",", ",", "old", "old", "old", "t", "t", "t", "old", "new", "old", "new", "u", "t", "old", "t", "new", "old", "t", "new", "u", "z", "z", "z", "P", "u", "r", "d", "t", "P", "u", "r", "z", "t", "P", "z", "r", "d", "t", "P", "u", "r", "t", "P", "z", "r", "d", "t", "=", "+", "-LRB-", "10", "-RRB-", "Eq", ".", "-LRB-", "9", "-RRB-", "and", "Eq", ".", "-LRB-", "10", "-RRB-", "integrate", "the", "PSN", ",", "content", "and", "temporal", "analysis", ".", "Social", "network", "models", "such", "as", "ERGM", "in", "Eq", ".", "-LRB-", "1", "-RRB-", "or", "the", "model", "in", "Sec.", "3.2", "can", "be", "applied", "to", "the", "-LRB-", "-RRB-", ",", "|", ",", "P", "u", "r", "d", "t", "terms", ".", "Figure", "2", "illustrates", "the", "CTR", "model", "and", "compares", "to", "the", "LDA", ",", "AT", "and", "ART", "models", ".", "In", "CTR", ",", "the", "observed", "variables", "not", "only", "include", "the", "words", "w", "in", "an", "email", "but", "also", "the", "sender", "u", "and", "the", "timestamp", "on", "each", "email", "d.", "3.4", "Predictive", "Algorithms", "For", "the", "sake", "of", "easier", "evaluation", ",", "we", "focus", "on", "prediction", "schemes", "in", "details", ".", "Specifically", ",", "we", "address", "the", "problem", "of", "predicting", "receivers", "and", "senders", "of", "emails", "as", "a", "classification", "problem", ",", "in", "which", "we", "train", "classifiers", "to", "predict", "the", "senders", "or", "receivers", "and", "other", "behavior", "patterns", "given", "the", "observed", "people", "'s", "communication", "records", ".", "The", "trained", "classifier", "represents", "a", "function", "in", "the", "form", "of", ":", ":", "-LRB-", ",", "-RRB-", "f", "Comm", "t", "i", "t", "Y", "-LRB-", "11", "-RRB-", "where", "-LRB-", "-RRB-", ",", "Comm", "t", "i", "t", "is", "the", "observed", "communication", "record", "during", "the", "interval", "from", "time", "t-i", "to", "t", ",", "Y", "is", "a", "set", "of", "receivers", "or", "senders", "or", "other", "user", "behavior", "patterns", "to", "be", "discriminated", ",", "and", "the", "value", "of", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", "f", "Comm", "t", "i", "t", "is", "the", "classifier", "prediction", "regarding", "which", "user", "behavior", "patterns", "gave", "rise", "to", "the", "observed", "communication", "records", ".", "The", "classifier", "is", "trained", "by", "providing", "the", "history", "of", "the", "communication", "records", "with", "known", "user", "behaviors", ".", "3.4.1", "Using", "Personal", "Social", "Network", "Model", "We", "aggregate", "all", "the", "communication", "records", "in", "the", "history", "of", "a", "given", "user", ",", "and", "build", "his/her", "personal", "social", "network", ".", "We", "choose", "those", "people", "with", "the", "highest", "communication", "frequency", "with", "this", "person", "as", "the", "prediction", "result", ".", "3.4.2", "Using", "LDA", "combined", "with", "PSN", "Model", "We", "use", "the", "LDA", "model", "and", "combine", "it", "with", "PSN", "to", "do", "the", "prediction", ",", "which", "is", "referred", "as", "LDA-PSN", "in", "the", "paper", ".", "Latent", "topics", "are", "detected", "by", "applying", "original", "LDA", "on", "the", "training", "set", "and", "LDA", "is", "used", "for", "inference", "in", "testing", "data", "without", "incorporating", "new", "topics", "when", "time", "passes", "by", ".", "The", "possible", "senders", "and", "receivers", "when", "new", "emails", "arrive", ",", "-LRB-", "-RRB-", ",", "|", ",", "new", "P", "u", "r", "d", "t", "is", "estimated", "as", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "^", ",", "|", ",", ",", "|", ",", "|", ",", "new", "old", "new", "z", "P", "u", "r", "d", "t", "P", "u", "r", "z", "t", "P", "z", "d", "t", "=", ".", "People", "are", "ranked", "by", "this", "probability", "as", "the", "prediction", "results", ".", "3.4.3", "Using", "CTR", "Model", "People", "tend", "to", "send", "emails", "to", "different", "group", "of", "people", "under", "different", "topics", "during", "different", "time", "periods", ".", "This", "is", "the", "assumption", "we", "made", "for", "our", "predictive", "model", "based", "on", "CTR", ".", "LDA", "AT", "ART", "u", "u", "LDA", "AT", "ART", "u", "u", "LDA", "AT", "ART", "u", "u", ":", "observations", "A", "N", "D", "T", "u", "z", "w", "r", "CTR", "S", "Tm", "t", ":", "observations", "A", "N", "D", "T", "u", "z", "w", "r", "CTR", "S", "Tm", "t", "Figure", "2", ".", "The", "graphical", "model", "for", "the", "CTR", "model", "comparing", "to", "LDA", ",", "AT", "and", "ART", "models", ",", "where", "u", ":", "sender", ",", "t", ":", "time", ",", "r", ":", "receivers", ",", "w", ":", "words", ",", "z", ":", "latent", "topics", ",", "S", ":", "social", "network", ",", "D", ":", "number", "of", "emails", ",", "N", ":", "number", "of", "words", "in", "one", "email", ",", "T", ":", "number", "of", "topics", ",", "Tm", ":", "size", "of", "the", "time", "sliding", "window", ",", "A", ":", "number", "of", "authors", ",", ",", "and", "are", "the", "parameters", "we", "want", "to", "estimate", "with", "the", "hyperparameters", ",", ",", "483", "Industry/Government", "Track", "Paper", "-LRB-", "-RRB-", ",", "|", ",", "new", "P", "u", "r", "d", "t", "is", "estimated", "by", "applying", "the", "CTR", "model", "discussed", "in", "section", "3.3", ".", "The", "prediction", "results", "are", "people", "with", "highest", "scores", "calculated", "by", "equation", "-LRB-", "9", "-RRB-", "and", "-LRB-", "10", "-RRB-", ".", "3.4.4", "Using", "an", "Adaptive", "CTR", "Model", "Both", "the", "personal", "social", "network", "and", "the", "CTR", "model", "ignore", "a", "key", "piece", "of", "information", "from", "communication", "records", "--", "the", "dynamical", "nature", "of", "emails", ".", "Both", "personal", "social", "network", "and", "Topic-Community", "dynamically", "change", "and", "evolve", ".", "Only", "based", "on", "the", "training", "data", "which", "are", "collected", "in", "history", "will", "not", "get", "the", "optimal", "performance", "for", "the", "prediction", "task", ".", "Adaptive", "prediction", "by", "updating", "the", "model", "with", "newest", "user", "behavior", "information", "is", "necessary", ".", "We", "apply", "several", "strategies", "for", "the", "adaptive", "prediction", ".", "The", "first", "strategy", "is", "aggregative", "updating", "the", "model", "by", "adding", "new", "user", "behavior", "information", "including", "the", "senders", "and", "receivers", "into", "the", "model", ".", "Then", "the", "model", "becomes", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "/", "^", ",", "|", ",", ",", "|", ",", "|", ",", ",", "|", "|", ",", "i", "t", "t", "i", "old", "K", "i", "k", "old", "k", "i", "old", "t", "i", "k", "z", "z", "P", "u", "r", "d", "t", "P", "u", "r", "z", "t", "P", "z", "d", "t", "P", "u", "r", "t", "P", "z", "d", "t", "=", "=", "+", "-LRB-", "12", "-RRB-", "where", "K", "is", "the", "number", "of", "old", "topics", ".", "Here", ",", "we", "always", "use", "the", "data", "from", "old", "t", ",", "including", "0", "t", "to", "1", "i", "t", "to", "predict", "the", "user", "behavior", "during", "i", "t", ".", "In", "the", "second", "strategy", ",", "we", "assume", "the", "correlation", "between", "current", "data", "and", "the", "previous", "data", "decays", "over", "time", ".", "The", "more", "recent", "data", "are", "more", "important", ".", "Thus", ",", "a", "sliding", "window", "of", "size", "n", "is", "used", "to", "choose", "the", "data", "for", "building", "the", "prediction", "model", ",", "in", "which", "the", "prediction", "is", "only", "dependent", "on", "the", "recent", "data", ",", "with", "the", "influence", "of", "old", "data", "ignored", ".", "Here", "in", "equation", "-LRB-", "12", "-RRB-", ",", "old", "t", "consists", "of", "i", "n", "t", "to", "1", "i", "t", ".", "3.5", "CommunityNet", "Model", "We", "then", "build", "a", "CommunityNet", "model", "based", "on", "the", "CTR", "algorithm", ".", "The", "CommunityNet", "model", ",", "which", "refers", "to", "the", "personal", "Topic-Community", "Network", ",", "draws", "upon", "the", "strengths", "of", "the", "topic", "model", "and", "the", "social", "network", "as", "well", "as", "the", "dynamic", "model", ",", "using", "a", "topic-based", "representation", "to", "model", "the", "content", "of", "the", "document", ",", "the", "interests", "of", "the", "users", ",", "the", "correlation", "of", "the", "users", "and", "the", "receivers", "and", "all", "these", "relationship", "changing", "over", "time", ".", "For", "prediction", ",", "CommunityNet", "incorporates", "the", "adaptive", "CTR", "model", "as", "described", "in", "Section", "3.4.4", ".", "The", "first", "part", "of", "our", "analysis", "focuses", "on", "identifying", "clusters", "of", "topics", ",", "and", "the", "senders", "and", "receivers", "who", "participated", "in", "those", "topics", ".", "First", ",", "we", "analyze", "the", "topics", "detected", "from", "the", "Enron", "Corpus", ".", "Then", ",", "we", "study", "the", "topic-community", "patterns", ".", "4.1", "Topic", "Analysis", "In", "the", "experiment", ",", "we", "applied", "Bayesian", "model", "selection", "-LSB-", "24", "-RSB-", "to", "choose", "the", "number", "of", "topics", ".", "In", "the", "Enron", "intra-organization", "emails", ",", "there", "are", "26,178", "word-terms", "involved", "after", "we", "apply", "stop-words", "removal", "and", "stemming", ",", "We", "computed", "-LRB-", "-RRB-", "|", "P", "w", "T", "for", "T", "values", "of", "30", ",", "50", ",", "70", ",", "100", ",", "110", ",", "150", "topics", "and", "chose", "T", "=", "100", "with", "the", "maximum", "value", "of", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "log", "|", "P", "w", "T", "for", "the", "experiment", ".", "4.1.1", "Topic", "Distribution", "After", "topic", "clustering", "based", "on", "words", ",", "for", "each", "document", ",", "we", "have", "P", "-LRB-", "z", "|", "d", "-RRB-", ",", "which", "indicates", "how", "likely", "each", "document", "belongs", "to", "each", "topic", ".", "By", "summing", "up", "this", "probability", "for", "all", "the", "documents", ",", "we", "get", "the", "topic", "distribution", "of", "how", "likely", "each", "topic", "occurs", "in", "this", "corpus", ".", "We", "define", "this", "summed", "likelihood", "as", "``", "Popularity", "''", "of", "the", "topic", "in", "the", "dataset", ".", "From", "this", "topic", "distribution", ",", "we", "can", "see", "that", "some", "topics", "are", "hot", "-", "people", "frequently", "communicate", "with", "each", "other", "about", "them", ",", "while", "some", "others", "are", "cold", ",", "with", "only", "few", "emails", "related", "to", "them", ".", "Table", "1", "illustrates", "the", "top", "5", "topics", "in", "Enron", "corpus", ".", "We", "can", "see", "that", "most", "of", "them", "are", "talking", "about", "regular", "issues", "in", "the", "company", "like", "meeting", ",", "deal", ",", "and", "document", ".", "Table", "2", "illustrates", "the", "bottom", "5", "topics", "in", "Enron", "corpus", ".", "Most", "of", "them", "are", "specific", "and", "sensitive", "topics", ",", "like", "``", "Stock", "''", "or", "``", "Market", "''", ".", "People", "may", "feel", "less", "comfortable", "to", "talk", "about", "them", "broadly", ".", "Table", "1", ".", "Hot", "Topics", "meeting", "deal", "Petroleum", "Texas", "document", "meeting", "plan", "conference", "balance", "presentation", "discussion", "deal", "desk", "book", "bill", "group", "explore", "Petroleum", "research", "dear", "photo", "Enron", "station", "Houston", "Texas", "Enron", "north", "America", "street", "letter", "draft", "attach", "comment", "review", "mark", "Table", "2", ".", "Cold", "Topics", "Trade", "stock", "network", "Project", "Market", "trade", "London", "bank", "name", "Mexico", "conserve", "Stock", "earn", "company", "share", "price", "new", "network", "world", "user", "save", "secure", "system", "Court", "state", "India", "server", "project", "govern", "call", "market", "week", "trade", "description", "respond", "4.1.2", "Topic", "Trend", "Analysis", "To", "sense", "the", "trend", "of", "the", "topics", "over", "time", ",", "we", "calculate", "the", "topic", "popularity", "for", "year", "2000", "and", "2001", ",", "and", "calculate", "the", "correlation", "coefficients", "of", "these", "two", "series", ".", "For", "some", "topics", ",", "the", "trends", "over", "years", "are", "similar", ".", "Figure", "3", "-LRB-", "a", "-RRB-", "illustrates", "the", "trends", "for", "two", "topics", "which", "have", "largest", "correlation", "coefficients", "between", "two", "years", ".", "Topic", "45", ",", "which", "is", "talking", "about", "a", "schedule", "issue", ",", "reaches", "a", "peak", "during", "June", "to", "September", ".", "For", "topic", "19", ",", "it", "is", "talking", "about", "a", "meeting", "issue", ".", "The", "trend", "repeats", "year", "to", "year", ".", "Figure", "3", "-LRB-", "b", "-RRB-", "illustrates", "the", "trend", "of", "Topic", "``", "California", "Power", "''", "over", "2000", "to", "2001", ".", "We", "can", "see", "that", "it", "reaches", "a", "peak", "from", "the", "end", "of", "year", "2000", "to", "the", "beginning", "of", "year", "2001", ".", "From", "the", "timeline", "of", "Enron", "-LSB-", "29", "-RSB-", ",", "we", "found", "that", "``", "California", "Energy", "Crisis", "''", "occurred", "at", "exactly", "this", "time", "period", ".", "Among", "the", "key", "people", "related", "to", "this", "topic", ",", "Jeff", "Dasovich", "was", "an", "Enron", "government", "relations", "executive", ".", "His", "boss", ",", "James", "Steffes", "was", "Vice", "President", "of", "Government", "Affairs", ".", "Richard", "Schapiro", "was", "Vice", "President", "of", "Regulatory", "Affairs", ".", "Richard", "Sanders", "was", "Vice", "President", "and", "Assistant", "General", "Counsel", ".", "Steven", "Kean", "was", "Executive", "Vice", "President", "and", "Chief", "of", "Staff", ".", "Vincent", "Kaminski", "was", "a", "Ph.D.", ".", "economist", "and", "Head", "of", "Research", "for", "Enron", "Corp.", ".", "Mary", "Han", "was", "a", "lawyer", "at", "Enron", "'s", "West", "Coast", "trading", "hub", ".", "From", "the", "timeline", ",", "we", "found", "all", "these", "people", "except", "Vince", "were", "very", "active", "in", "this", "event", ".", "We", "will", "further", "analyze", "their", "roles", "in", "Section", "5", ".", "484", "Industry/Government", "Track", "Paper", "Topic", "Trend", "Comparison", "0", "0.005", "0.01", "0.015", "0.02", "0.025", "0.03", "Jan", "Mar", "May", "Jul", "Sep", "Nov", "Po", "p", "u", "l", "a", "r", "i", "t", "y", "Topic45", "-LRB-", "y2000", "-RRB-", "Topic45", "-LRB-", "y2001", "-RRB-", "Topic19", "-LRB-", "y2000", "-RRB-", "Topic19", "-LRB-", "y2001", "-RRB-", "-LRB-", "a", "-RRB-", "Trends", "of", "two", "yearly", "repeating", "events", ".", "Topic", "Analysis", "for", "Topic", "61", "0", "0.002", "0.004", "0.006", "0.008", "0.01", "0.012", "0.014", "0.016", "0.018", "Jan-00", "Apr-00", "Jul-00", "Oct-00", "Jan-01", "Apr-01", "Jul-01", "Oct-01", "P", "opul", "ar", "i", "t", "y", "Keywords", "with", "-LRB-", "-RRB-", "|", "P", "w", "z", "power", "0.089361", "California", "0.088160", "electrical", "0.087345", "price", "0.055940", "energy", "0.048817", "generator", "0.035345", "market", "0.033314", "until", "0.030681", "Key", "people", "with", "-LRB-", "-RRB-", "|", "P", "u", "z", "Jeff_Dasovich", "0.249863", "James_Steffes", "0.139212", "Richard_Shapiro", "0.096179", "Mary_Hain", "0.078131", "Richard_Sanders", "0.052866", "Steven_Kean", "0.044745", "Vince_Kaminski", "0.035953", "-LRB-", "b", "-RRB-", "The", "trend", "of", "``", "California", "Power", "''", "and", "most", "related", "keywords", "and", "people", ".", "Figure", "3", ".", "Topic", "trends", "4.2", "Predicting", "Community", "Patterns", "We", "assume", "that", ",", "people", "communicate", "with", "certain", "people", "only", "under", "certain", "few", "topics", ".", "People", "in", "the", "same", "community", "under", "a", "topic", "would", "share", "the", "information", ".", "Thus", ",", "if", "there", "is", "something", "new", "about", "one", "topic", ",", "people", "in", "that", "topic-community", "will", "most", "likely", "get", "the", "information", "and", "propagate", "it", "to", "others", "in", "the", "community", ".", "Finally", ",", "many", "people", "in", "the", "community", "will", "get", "the", "information", ".", "To", "evaluate", "our", "assumption", "and", "answer", "the", "question", "of", "who", "will", "be", "possibly", "involved", "in", "an", "observed", "email", ",", "we", "collect", "the", "ground", "truth", "about", "who", "are", "the", "senders", "and", "receivers", "for", "the", "emails", "and", "use", "the", "CTR", "algorithm", "to", "infer", "-LRB-", "-RRB-", ",", "|", ",", "j", "new", "P", "u", "r", "z", "t", "by", "-LRB-", "-RRB-", ",", "|", ",", "j", "old", "P", "u", "r", "z", "t", ".", "We", "partitioned", "the", "data", "into", "training", "set", "and", "testing", "set", ".", "We", "tried", "two", "strategies", "for", "this", "experiment", ".", "First", "is", "to", "randomly", "partition", "the", "data", "into", "a", "training", "set", "with", "8465", "messages", "and", "a", "testing", "set", "with", "8408", "messages", ".", "Prediction", "accuracy", "is", "calculated", "by", "comparing", "the", "inference", "results", "and", "the", "ground", "truth", "-LRB-", "i.e.", ",", "receiver-sender", "pair", "of", "that", "email", "-RRB-", ".", "We", "found", "that", "96.8446", "%", "people", "stick", "in", "the", "old", "topics", "they", "are", "familiar", "with", ".", "The", "second", "strategy", "is", "to", "partition", "data", "by", "time", ":", "emails", "before", "1/31/2000", "as", "the", "training", "data", "-LRB-", "8011", "-RRB-", "and", "after", "that", "as", "the", "testing", "data", "-LRB-", "8862", "-RRB-", ".", "We", "found", "89.2757", "%", "of", "the", "people", "keep", "their", "old", "topics", ".", "Both", "results", "are", "quite", "promising", ".", "It", "is", "found", "that", "people", "really", "stick", "in", "old", "topics", "they", "are", "familiar", "with", ".", "In", "this", "section", ",", "we", "evaluate", "the", "performance", "of", "CommunityNet", ".", "First", ",", "we", "show", "how", "people", "'s", "roles", "in", "an", "event", "can", "be", "inferred", "by", "CommunityNet", ".", "Then", ",", "we", "show", "the", "predicting", "capability", "of", "the", "proposed", "model", "in", "experiments", ".", "5.1", "Role", "Discovery", "People", "with", "specific", "roles", "at", "company", "hierarchy", "behave", "specifically", "on", "specific", "topics", ".", "Here", "we", "show", "it", "is", "possible", "to", "infer", "people", "'s", "roles", "by", "using", "CommunityNet", ".", "In", "Section", "4.1.2", ",", "we", "show", "there", "are", "some", "key", "people", "involved", "in", "``", "California", "Energy", "Crisis", "''", ".", "In", "reality", ",", "Dasovich", ",", "Steffes", ",", "Schapiro", ",", "Sanders", ",", "and", "Kean", ",", "were", "in", "charge", "of", "government", "affairs", ".", "Their", "roles", "were", "to", "``", "solve", "the", "problem", "''", ".", "Mary", "Hain", "was", "a", "lawyer", "during", "the", "worst", "of", "the", "crisis", "and", "attended", "meetings", "with", "key", "insiders", ".", "We", "calculated", "the", "correlation", "coefficients", "of", "the", "trends", "of", "these", "people", "and", "the", "overall", "trend", "of", "this", "topic", ".", "Jeff", "Dasovich", "got", "0.7965", ",", "James", "Steffes", "got", "0.6501", ",", "Mary", "Hain", "got", "0.5994", ",", "Richard", "Shapiro", "got", "0.5604", ",", "Steven", "Kean", "got", "0.3585", "-LRB-", "all", "among", "the", "10", "highest", "correlation", "scores", "among", "154", "people", "-RRB-", ",", "and", "Richard", "Sanders", "got", "0.2745", "-LRB-", "ranked", "19", "-RRB-", ",", "while", "Vince", "Kaminski", "had", "correlation", "coefficient", "of", "-0.4617", "-LRB-", "Figure", "4", "-RRB-", ".", "We", "can", "see", "that", "all", "the", "key", "people", "except", "Vince", "Kaminski", "have", "strong", "correlation", "with", "the", "overall", "trend", "of", "``", "California", "Energy", "Crisis", "''", ".", "From", "their", "positions", ",", "we", "can", "see", "that", "all", "of", "them", "were", "sort", "of", "politicians", "while", "Vince", "Kaminski", "is", "a", "researcher", ".", "Thus", ",", "it", "is", "clear", "to", "see", "the", "difference", "of", "their", "roles", "in", "this", "topic", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "Jan-00", "May-00", "Sep-00", "Jan-01", "May-01", "Sep-01", "Po", "p", "u", "l", "a", "r", "i", "t", "y", "Overall", "trend", "Jeff_Dasovich", "Vince_Kaminski", "Figure", "4", ".", "Personal", "topic", "trend", "comparison", "on", "``", "California", "Power", "''", "5.2", "Predicting", "Receivers", "Here", "we", "want", "to", "address", "the", "problem", "of", "whether", "it", "is", "possible", "to", "infer", "who", "will", "possibly", "be", "the", "receivers", "by", "a", "person", "'s", "own", "historic", "communication", "records", "and", "the", "content", "of", "the", "email-to", "-", "send", ".", "One", "possible", "application", "is", "to", "help", "people", "organize", "personal", "social", "capital", ".", "For", "instance", ",", "if", "a", "user", "has", "some", "information", "to", "send", "or", "a", "question", "to", "ask", ",", "CommunityNet", "can", "recommend", "the", "right", "persons", "to", "send", "the", "info", "or", "get", "the", "answer", ".", "We", "conduct", "experiments", "by", "partitioning", "the", "dataset", "into", "a", "training", "set", "with", "the", "emails", "from", "1999", "to", "2000", ",", "and", "a", "testing", "set", "with", "the", "emails", "from", "2001", "to", "2002", ".", "The", "testing", "set", "is", "further", "partitioned", "into", "sub-sets", "with", "emails", "from", "one", "month", "as", "a", "subset", ".", "With", "this", ",", "we", "have", "15", "testing", "sets", ".", "-LRB-", "We", "exclude", "the", "emails", "after", "March", "2002", "because", "the", "total", "number", "of", "emails", "after", "that", "is", "only", "78", ".", "-RRB-", "One", "issue", "we", "want", "to", "mention", "is", "that", "the", "number", "of", "people", "from", "1999", "to", "2000", "is", "138", ",", "while", "from", "2001", "to", "2002", "is", "154", ".", "In", "this", "study", ",", "we", "test", "each", "email", "in", "the", "training", "set", "by", "using", "its", "content", ",", "485", "Industry/Government", "Track", "Paper", "sender", ",", "and", "time", "as", "prior", "information", "to", "predict", "the", "receiver", ",", "which", "is", "compared", "to", "the", "real", "receiver", "of", "that", "email", ".", "In", "Figure", "5", ",", "we", "illustrate", "the", "prediction", "performance", "by", "comparing", "the", "CTR", "algorithm", ",", "PSN", ",", "and", "the", "aggregated", "LDA-PSN", "model", ".", "The", "result", "shows", "that", "CTR", "beats", "PSN", "by", "10", "%", "on", "accuracy", ".", "The", "aggregated", "LDA-PSN", "model", "performs", "even", "worse", "than", "PSN", ",", "because", "of", "the", "inaccurate", "clustering", "results", ".", "The", "performance", "gain", "is", "21", "%", ".", "Moreover", ",", "intuitively", ",", "personal", "contacts", "evolve", "over", "time", ".", "Models", "built", "at", "a", "specific", "time", "should", "have", "decreasing", "predicting", "capability", "over", "time", ".", "In", "this", "figure", ",", "we", "obtain", "strong", "evidence", "of", "this", "hypothesis", "by", "observing", "that", "the", "performance", "of", "these", "models", "monotonically", "decays", ".", "This", "also", "implies", "our", "models", "well", "match", "the", "practice", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "Jan-01", "Apr-01", "Jul-01", "Oct-01", "Jan-02", "A", "c", "cu", "r", "a", "cy", "by", "PSN", "by", "CTR", "by", "LDA-PSN", "-LRB-", "a", "-RRB-", "Accuracy", "based", "on", "the", "top", "5", "most", "likely", "people", "0", "0.2", "0.4", "0.6", "0.8", "1", "Jan-01", "Apr-01", "Jul-01", "Oct-01", "Jan-02", "A", "c", "cu", "r", "a", "cy", "by", "PSN", "by", "CTR", "by", "LDA-PSN", "-LRB-", "b", "-RRB-", "Accuracy", "based", "on", "the", "top", "10", "most", "likely", "people", "Figure", "5", ".", "Prediction", "Accuracy", "comparisons", ".", "Accuracy", "is", "measured", "by", "testing", "whether", "the", "``", "real", "''", "receiver", "is", "among", "the", "prediction", "list", "of", "the", "top", "5", "or", "10", "most", "likely", "people", "5.3", "Inferring", "Senders", "We", "test", "whether", "it", "is", "possible", "to", "infer", "who", "will", "possibly", "be", "the", "senders", "given", "a", "person", "'s", "CommunityNet", "and", "the", "content", "of", "the", "email", ".", "One", "possible", "application", "is", "to", "exclude", "spam", "emails", "or", "detect", "identification", "forgery", ".", "Figure", "6", "illustrates", "the", "prediction", "result", ",", "which", "also", "shows", "the", "prediction", "accuracy", "decays", "over", "time", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "Jan-01", "Mar-01", "May-01", "Jul-01", "Sep-01", "Nov-01", "A", "ccu", "r", "a", "c", "y", "top5", "top3", "Figure", "6", ".", "Predicting", "senders", "given", "receiver", "and", "content", "5.4", "Adaptive", "Prediction", "We", "observed", "the", "prediction", "performance", "decays", "over", "time", "from", "the", "results", "of", "5.2", "and", "5.3", ",", "which", "reflects", "the", "changes", "of", "the", "nature", "of", "email", "streams", ".", "Here", "we", "apply", "adaptive", "prediction", "algorithms", "we", "mentioned", "in", "3.4.3", ",", "in", "which", "we", "incrementally", "and", "adaptively", "estimate", "statistical", "parameters", "of", "the", "model", "by", "gradually", "forgetting", "out-of-state", "statistics", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "Jan-01", "Mar-01", "May-01", "Jul-01", "Sep-01", "Nov-01", "Ac", "c", "u", "r", "a", "c", "y", "Adaptive", "CT", "R", "-LRB-", "T", "op", "5", "-RRB-", "Adaptive", "CT", "R", "-LRB-", "T", "op", "10", "-RRB-", "CT", "R", "-LRB-", "T", "op5", "-RRB-", "CT", "R", "-LRB-", "T", "op10", "-RRB-", "-LRB-", "a", "-RRB-", ".", "Comparison", "between", "Adaptive", "CTR", "and", "CTR", "models", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "Jan-01", "Mar-01", "May-01", "Jul-01", "Sep-01", "Nov-01", "Adaptive", "CTR", "-LRB-", "aggregative", "-RRB-", "Adaptive", "CTR", "-LRB-", "6", "months", "-RRB-", "CTR", "LDA-PSN", "PSN", "-LRB-", "b", "-RRB-", "Comparison", "of", "algorithms", "using", "Breese", "evaluation", "metrics", "Figure", "7", ".", "Performance", "evaluation", "for", "adaptive", "prediction", "algorithm", "and", "overall", "comparison", "Figure", "7", "-LRB-", "a", "-RRB-", "illustrates", "the", "performance", "of", "the", "Adaptive", "CTR", "algorithm", "and", "compares", "it", "to", "the", "CTR", "algorithm", ".", "For", "the", "data", "far", "away", "from", "the", "training", "data", ",", "the", "improvement", "is", "more", "than", "30", "%", ".", "And", ",", "if", "we", "compare", "it", "to", "the", "PSN", "and", "LDA-PSN", "algorithms", ",", "the", "performance", "gains", "are", "58", "%", "and", "75", "%", ",", "respectively", ".", "Evaluation", "by", "this", "accuracy", "metric", "tells", "us", "how", "related", "the", "top", "people", "ranked", "in", "the", "prediction", "results", "are", ".", "To", "understand", "the", "overall", "performance", "of", "the", "ranked", "prediction", "results", ",", "we", "apply", "the", "evaluation", "metric", "proposed", "by", "Breese", "-LSB-", "30", "-RSB-", ",", "and", "illustrate", "the", "overall", "comparison", "in", "Figure", "7", "-LRB-", "b", "-RRB-", ".", "This", "metric", "is", "an", "aggregation", "of", "the", "accuracy", "measurements", "in", "various", "top-n", "retrievals", "in", "the", "ranked", "list", ".", "Among", "all", "predictive", "algorithms", ",", "adaptive", "CTR", "models", "perform", "best", "and", "PSN", "performs", "worst", ".", "In", "adaptive", "CTR", "models", ",", "estimating", "from", "recent", "data", "of", "six", "months", "beats", "aggregative", "updating", "the", "model", "from", "all", "the", "data", "from", "the", "history", ".", "In", "this", "section", ",", "we", "show", "two", "application", "systems", "we", "built", "based", "on", "the", "CommunityNet", ".", "The", "first", "one", "is", "a", "visualization", "and", "query", "tool", "to", "demonstrate", "informal", "networks", "incorporation", ".", "The", "second", "one", "is", "a", "receiver", "recommendation", "tool", "which", "can", "be", "used", "in", "popular", "email", "systems", ".", "These", "demos", "can", "be", "accessed", "from", "http://nansen.ee.washington.edu/CommunityNet/", ".", "6.1", "Sensing", "Informal", "Networks", "6.1.1", "Personal", "Social", "Network", "Figure", "8", "illustrates", "the", "interface", "of", "a", "visualization", "and", "query", "system", "of", "CommunityNet", ".", "The", "distance", "of", "nodes", "represents", "the", "closeness", "-LRB-", "measured", "by", "the", "communication", "frequencies", "-RRB-", "of", "a", "person", "to", "the", "center", "person", ".", "Users", "can", "click", "on", "the", "node", "to", "link", "to", "486", "Industry/Government", "Track", "Paper", "the", "CommunityNet", "of", "another", "person", ".", "This", "system", "can", "show", "personal", "social", "networks", ",", "which", "includes", "all", "the", "people", "a", "user", "contacts", "with", "during", "a", "certain", "time", "period", ".", "For", "instance", ",", "Figure", "8", "-LRB-", "a", "-RRB-", "illustrates", "the", "personal", "social", "network", "of", "Vice", "President", "John", "Arnold", "from", "January", "1999", "to", "December", "2000", ".", "During", "this", "period", ",", "there", "were", "22", "people", "he", "sent", "emails", "to", ",", "regardless", "what", "they", "were", "talking", "about", ".", "An", "evolutionary", "personal", "social", "network", "is", "illustrated", "in", "Figure", "8", "-LRB-", "b", "-RRB-", ",", "in", "which", "we", "show", "people", "'s", "personal", "social", "network", "changes", "over", "time", ".", "From", "Jan.", "1999", "to", "Dec.", "2000", ",", "no", "new", "contact", "was", "added", "to", "John", "'s", "PSN", ".", "However", ",", "people", "'s", "relationship", "changed", "in", "2000", ".", "A", "Personal", "Social", "Network", "Information", "Flow", "is", "illustrated", "in", "Figure", "8", "-LRB-", "c", "-RRB-", ",", "in", "which", "we", "show", "how", "the", "information", "flows", "through", "the", "network", "-LRB-", "here", "we", "illustrate", "the", "information", "in", "two", "levels", ".", "-RRB-", "-LRB-", "a", "-RRB-", "Personal", "Social", "Network", "of", "John", "Arnold", "-LRB-", "b1", "-RRB-", "Jan", "-", "`", "99", "to", "Dec", "-", "`", "99", "-LRB-", "b2", "-RRB-", "Jan", "-", "`", "00", "to", "Jun", "-", "`", "00", "-LRB-", "b3", "-RRB-", "Jul", "-", "`", "00", "to", "Dec", "-", "`", "00", "-LRB-", "b", "-RRB-", "Evolutionary", "Personal", "Social", "Network", "-LRB-", "c", "-RRB-", "Personal", "Social", "Network", "Information", "Flow", "with", "two-level", "personal", "social", "network", "of", "John", "Arnold", "Figure", "8", ".", "Personal", "social", "networks", "of", "John", "Arnold", "6.1.2", "Personal", "Topic-Community", "Network", "Personal", "topic-community", "network", "can", "show", "whom", "this", "user", "will", "contact", "with", "under", "a", "certain", "topic", ".", "On", "retrieval", ",", "keywords", "are", "required", "for", "inferring", "the", "related", "topics", ".", "Figure", "9", "illustrates", "several", "personal", "topic-community", "networks", "for", "John", "Arnold", ".", "First", ",", "we", "type", "in", "``", "Christmas", "''", "as", "the", "keyword", ".", "CommunityNet", "infers", "it", "as", "``", "holiday", "celebration", "''", "and", "shows", "the", "four", "people", "John", "contacted", "with", "about", "this", "topic", ".", "About", "``", "Stock", "''", ",", "we", "find", "John", "talked", "with", "five", "people", "on", "``", "Stock", "Market", "''", "and", "``", "Company", "Share", "''", "from", "Jan.", "1999", "to", "Dec.", "2000", ".", "Personal", "Topic-Community", "network", "can", "be", "depicted", "by", "the", "system", ",", "too", ".", "Figure", "9", ".", "Personal", "Topic-Community", "Networks", "when", "we", "type", "in", "``", "Christmas", "''", "and", "``", "Stock", "''", "6.2", "Personal", "Social", "Capital", "Management", "Receiver", "Recommendation", "Demo", "When", "a", "user", "has", "some", "questions", ",", "he/she", "may", "want", "to", "know", "whom", "to", "ask", "how", "to", "find", "an", "expert", "and", "who", "may", "tell", "him/her", "more", "details", "because", "of", "their", "close", "relationships", ".", "In", "our", "second", "demo", ",", "we", "show", "a", "CommunityNet", "application", "which", "addresses", "this", "problem", ".", "This", "tool", "can", "be", "incorporated", "with", "general", "email", "systems", "to", "help", "users", "organize", "their", "personal", "social", "capitals", ".", "First", ",", "after", "a", "user", "login", "a", "webmail", "system", ",", "he", "can", "type", "in", "content", "and/or", "subject", "then", "click", "on", "the", "``", "Show", "Content", "Topic-Community", "''", ".", "This", "tool", "shall", "recommend", "appropriate", "people", "to", "send", "this", "email", "to", ",", "based", "on", "the", "learned", "personal", "social", "network", "or", "personal", "topic-community", ".", "The", "distances", "of", "nodes", "represent", "the", "closeness", "of", "the", "people", "to", "the", "user", ".", "Users", "can", "click", "on", "the", "node", "to", "select", "an", "appropriate", "person", "to", "send", "email", "to", ".", "If", "the", "center", "node", "is", "clicked", ",", "then", "a", "sphere", "grows", "to", "represent", "his", "ties", "to", "a", "group", "of", "experts", ".", "Click", "on", "``", "Mail", "To", "''", ",", "then", "the", "people", "in", "the", "sphere", "will", "be", "included", "in", "the", "sender", "list", ".", "In", "the", "examples", "in", "Figure", "10", ",", "we", "log", "in", "as", "Jeff", "Dasovich", ".", "He", "can", "ask", "his", "closest", "friends", "whenever", "he", "has", "questions", "or", "wants", "to", "disseminate", "information", ".", "If", "he", "wants", "to", "inform", "or", "get", "informed", "on", "487", "Industry/Government", "Track", "Paper", "``", "Government", "''", "related", "topics", ",", "the", "system", "will", "suggest", "him", "to", "send", "emails", "to", "Steffes", ",", "Allen", ",", "Hain", ",", "or", "Scott", ".", "The", "topics", "are", "inferred", "by", "matching", "the", "terms", "from", "the", "Subject", "as", "well", "as", "the", "content", "of", "the", "email", ".", "He", "can", "also", "type", "in", "``", "Can", "you", "tell", "me", "the", "current", "stock", "price", "?", "''", "as", "the", "email", "content", ".", "This", "system", "will", "detect", "``", "Stock", "Market", "''", "as", "the", "most", "relevant", "topic", ".", "Based", "on", "Dasovich", "'s", "CommunityNet", ",", "it", "shows", "three", "possible", "contacts", ".", "He", "then", "chooses", "appropriate", "contact", "-LRB-", "s", "-RRB-", ".", "-LRB-", "a", "-RRB-", "Receiver", "recommendation", "for", "``", "Government", "''", "-LRB-", "b", "-RRB-", "Receiver", "recommendation", "for", "``", "Can", "you", "tell", "me", "the", "current", "stock", "price", "?", "''", "Figure", "10", ".", "Receiver", "recommendation", "demo", "system", "In", "this", "paper", ",", "we", "propose", "a", "new", "way", "to", "automatically", "model", "and", "predict", "human", "behavior", "of", "receiving", "and", "disseminating", "information", ".", "We", "establish", "personal", "CommunityNet", "profiles", "based", "on", "a", "novel", "Content-Time-Relation", "algorithm", ",", "which", "incorporates", "contact", ",", "content", ",", "and", "time", "information", "simultaneously", "from", "personal", "communication", ".", "CommunityNet", "can", "model", "and", "predict", "the", "community", "behavior", "as", "well", "as", "personal", "behavior", ".", "Many", "interesting", "results", "are", "explored", ",", "such", "as", "finding", "the", "most", "important", "employees", "in", "events", ",", "predicting", "senders", "and", "receivers", "of", "emails", ",", "etc.", ".", "Our", "experiments", "show", "that", "this", "multi-modality", "algorithm", "performs", "better", "than", "both", "the", "social", "network-based", "predictions", "and", "the", "content-based", "predictions", ".", "Ongoing", "work", "includes", "studying", "the", "response", "time", "of", "each", "individual", "to", "emails", "from", "different", "people", "to", "further", "analyze", "user", "'s", "behavior", ",", "and", "also", "incorporating", "nonparametric", "Bayesian", "methods", "such", "as", "hierarchical", "LDA", "with", "contact", "and", "time", "information", ".", "We", "would", "like", "to", "thank", "D.", "Blei", ",", "T.", "Griffiths", ",", "Yi", "Wu", "and", "anonymous", "reviewers", "for", "valuable", "discussions", "and", "comments", ".", "This", "work", "was", "supported", "by", "funds", "from", "NEC", "Labs", "America", ".", "-LSB-", "1", "-RSB-", "B.", "A.", "Nardi", ",", "S.", "Whittaker", ",", "and", "H.", "Schwarz", ".", "``", "It", "'s", "not", "what", "you", "know", ",", "it", "'s", "who", "you", "know", ":", "work", "in", "the", "information", "age", ",", "''", "First", "Mon.", ",", "5", ",", "2000", ".", "-LSB-", "2", "-RSB-", "D.", "Krackhardt", ",", "``", "Panel", "on", "Informal", "Networks", "within", "Formal", "Organizations", ",", "''", "XXV", "Intl.", ".", "Social", "Network", "Conf.", ",", "Feb.", "2005", ".", "-LSB-", "3", "-RSB-", "D.", "Krackhardt", "and", "M.", "Kilduff", ",", "``", "Structure", ",", "culture", "and", "Simmelian", "ties", "in", "entrepreneurial", "firms", ",", "''", "Social", "Networks", ",", "Vol", ".", "24", ",", "2002", ".", "-LSB-", "4", "-RSB-", "B.", "Nardi", ",", "S.", "Whittaker", ",", "E.", "Isaacs", ",", "M.", "Creech", ",", "J.", "Johnson", ",", "and", "J.", "Hainsworth", ",", "``", "ContactMap", ":", "Integrating", "Communication", "and", "Information", "Through", "Visualizing", "Personal", "Social", "Networks", ",", "''", "Com", ".", "of", "the", "Association", "for", "Computing", "Machinery", ".", "April", ",", "2002", ".", "-LSB-", "5", "-RSB-", "https://www.linkedin.com/home?trk=logo", ".", "-LSB-", "6", "-RSB-", "https://www.orkut.com/Login.aspx", ".", "-LSB-", "7", "-RSB-", "http://www.friendster.com/", ".", "-LSB-", "8", "-RSB-", "N.", "Lin", ",", "``", "Social", "Capital", ",", "''", "Cambridge", "Univ.", ".", "Press", ",", "2001", ".", "-LSB-", "9", "-RSB-", "W.", "Cohen", ".", "http://www-2.cs.cmu.edu/~enron/", ".", "-LSB-", "10", "-RSB-", "S.", "Milgram", ".", "``", "The", "Small", "World", "Problem", ",", "''", "Psychology", "Today", ",", "pp", "60-67", ",", "May", "1967", ".", "-LSB-", "11", "-RSB-", "M.", "Schwartz", "and", "D.", "Wood", ",", "``", "Discovering", "Shared", "Interests", "Among", "People", "Using", "Graph", "Analysis", "''", ",", "Comm", ".", "ACM", ",", "v.", "36", ",", "Aug.", "1993", ".", "-LSB-", "12", "-RSB-", "H.", "Kautz", ",", "B.", "Selman", ",", "and", "M.", "Shah", ".", "``", "Referral", "Web", ":", "Combining", "social", "networks", "and", "collaborative", "filtering", ",", "''", "Comm", ".", "ACM", ",", "March", "1997", ".", "-LSB-", "13", "-RSB-", "G.", "W.", "Flake", ",", "S.", "Lawrence", ",", "C.", "Lee", "Giles", ",", "and", "F.", "M.", "Coetzee", ".", "``", "Self-organization", "and", "identification", "of", "Web", "communities", ",", "''", "IEEE", "Computer", ",", "35", "-LRB-", "3", "-RRB-", ":", "66", "70", ",", "March", "2002", ".", "-LSB-", "14", "-RSB-", "J.", "Tyler", ",", "D.", "Wilkinson", ",", "and", "B.", "A.", "Huberman", ".", "``", "Email", "as", "spectroscopy", ":", "Automated", "Discovery", "of", "Community", "Structure", "Within", "Organizations", ",", "''", "Intl.", ".", "Conf", ".", "on", "Communities", "and", "Technologies.", ",", "2003", ".", "-LSB-", "15", "-RSB-", "L.", "Page", ",", "S.", "Brin", ",", "R.", "Motwani", "and", "T.", "Winograd", ".", "``", "The", "PageRank", "Citation", "Ranking", ":", "Bringing", "Order", "to", "the", "Web", ",", "''", "Stanford", "Digital", "Libraries", "Working", "Paper", ",", "1998", ".", "-LSB-", "16", "-RSB-", "J.", "Kleinberg", ".", "``", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ",", "''", "In", "Proc", ".", "9th", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", ",", "1998", ".", "-LSB-", "17", "-RSB-", "S.", "Wasserman", ",", "and", "P.", "E.", "Pattison", ",", "``", "Logit", "models", "and", "logistic", "regression", "for", "social", "networks", ":", "I", ".", "An", "introduction", "to", "Markov", "graphs", "and", "p", "*", "''", ",", "Psychometrika", ",", "61", ":", "401", "425", ",", "1996", ".", "-LSB-", "18", "-RSB-", "T.", "A.B.", "Snijders", ".", "``", "Models", "for", "Longitudinal", "Network", "Data", ",", "''", "Chapter", "11", "in", "Models", "and", "methods", "in", "social", "network", "analysis", ",", "New", "York", ":", "Cambridge", "University", "Press", ",", "2004", ".", "-LSB-", "19", "-RSB-", "D.", "L.-Nowell", "and", "J.", "Kleinberg", ",", "``", "The", "Link", "Prediction", "Problem", "for", "Social", "Networks", ",", "''", "In", "Proceedings", "of", "the", "12th", "Intl.", ".", "Conf", ".", "on", "Information", "and", "Knowledge", "Management", ",", "2003", ".", "-LSB-", "20", "-RSB-", "J.", "Kubica", ",", "A.", "Moore", ",", "J.", "Schneider", ",", "and", "Y.", "Yang", ".", "``", "Stochastic", "Link", "and", "Group", "Detection", ",", "''", "In", "Proceedings", "of", "the", "2002", "AAAI", "Conference", ".", "Edmonton", ",", "Alberta", ",", "798-804", ",", "2002", ".", "-LSB-", "21", "-RSB-", "M.", "Handcock", "and", "D.", "Hunter", ",", "``", "Curved", "Exponential", "Family", "Models", "for", "Networks", ",", "''", "XXV", "Intl.", ".", "Social", "Network", "Conf.", ",", "Feb.", "2005", ".", "-LSB-", "22", "-RSB-", "T.", "Hofmann", ",", "``", "Probabilistic", "Latent", "Semantic", "Analysis", ",", "''", "Proc", ".", "of", "the", "Conf", ".", "on", "Uncertainty", "in", "Artificial", "Intelligence", ",", "1999", ".", "-LSB-", "23", "-RSB-", "D.", "Blei", ",", "A.", "Ng", ",", "and", "M.", "Jordan", ",", "``", "Latent", "Dirichlet", "allocation", ",", "''", "Journal", "of", "Machine", "Learning", "Research", ",", "3:993-1022", ",", "January", "2003", ".", "-LSB-", "24", "-RSB-", "T.", "Griffiths", "and", "M.", "Steyvers", ",", "``", "Finding", "Scientific", "Topics", ",", "''", "Proc", ".", "of", "the", "National", "Academy", "of", "Sciences", ",", "5228-5235", ",", "2004", ".", "-LSB-", "25", "-RSB-", "M.", "R.-Zvi", ",", "T.", "Griffiths", ",", "M.", "Steyvers", "and", "P.", "Smyth", ",", "``", "The", "Author-Topic", "Model", "for", "Authors", "and", "Documents", "''", ",", "Proc", ".", "of", "the", "Conference", "on", "Uncertainty", "in", "Artificial", "Intelligence", "volume", "21", ",", "2004", ".", "-LSB-", "26", "-RSB-", "A.", "McCallum", ",", "A.", "Corrada-Emmanuel", ",", "and", "X.", "Wang", ",", "``", "The", "Author-Recipient-Topic", "Model", "for", "Topic", "and", "Role", "Discovery", "in", "Social", "Networks", ":", "Experiments", "with", "Enron", "and", "Academic", "Email", ",", "''", "Technical", "Report", "UM-CS-2004-096", ",", "2004", ".", "-LSB-", "27", "-RSB-", "X.", "Song", ",", "B.", "L.", "Tseng", ",", "C.-Y", ".", "Lin", ",", "and", "M.-T", ".", "Sun", ",", "``", "ExpertiseNet", ":", "Relational", "and", "Evolutionary", "Expert", "Modeling", ",", "''", "10th", "Intl.", ".", "Conf", ".", "on", "User", "Modeling", ",", "Edinburgh", ",", "UK", ",", "July", "24-30", ",", "2005", ".", "-LSB-", "28", "-RSB-", "J.", "Allan", ",", "R.", "Papka", ",", "and", "V.", "Lavrenko", ".", "``", "On-line", "New", "Event", "Detection", "and", "Tracking", ",", "''", "Proc", ".", "of", "21st", "ACM", "SIGIR", ",", "pp.37-45", ",", "August", "1998", ".", "-LSB-", "29", "-RSB-", "http://en.wikipedia.org/wiki/Timeline_of_the_Enron_scandal", ".", "-LSB-", "30", "-RSB-", "J.", "Breese", ",", "D.", "Heckerman", ",", "and", "C.", "Kadie", ".", "``", "Empirical", "analysis", "of", "predictive", "algorithms", "for", "collaborative", "filtering", ",", "''", "Conf", ".", "on", "Uncertainty", "in", "Artificial", "Intelligence", ",", "Madison", ",", "WI", ",", "July", "1998", ".", "488", "Industry/Government", "Track", "Paper"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information dissemination"], "abstractive_keyphrases": ["personal information management", "user behavior modeling"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "165", "document": ["Ranking", "Web", "Objects", "from", "Multiple", "Communities", "Vertical", "search", "is", "a", "promising", "direction", "as", "it", "leverages", "domain-specific", "knowledge", "and", "can", "provide", "more", "precise", "information", "for", "users", ".", "In", "this", "paper", ",", "we", "study", "the", "Web", "object-ranking", "problem", ",", "one", "of", "the", "key", "issues", "in", "building", "a", "vertical", "search", "engine", ".", "More", "specifically", ",", "we", "focus", "on", "this", "problem", "in", "cases", "when", "objects", "lack", "relationships", "between", "different", "Web", "communities", ",", "and", "take", "high-quality", "photo", "search", "as", "the", "test", "bed", "for", "this", "investigation", ".", "We", "proposed", "two", "score", "fusion", "methods", "that", "can", "automatically", "integrate", "as", "many", "Web", "communities", "-LRB-", "Web", "forums", "-RRB-", "with", "rating", "information", "as", "possible", ".", "The", "proposed", "fusion", "methods", "leverage", "the", "hidden", "links", "discovered", "by", "a", "duplicate", "photo", "detection", "algorithm", ",", "and", "aims", "at", "minimizing", "score", "differences", "of", "duplicate", "photos", "in", "different", "forums", ".", "Both", "intermediate", "results", "and", "user", "studies", "show", "the", "proposed", "fusion", "methods", "are", "practical", "and", "efficient", "solutions", "to", "Web", "object", "ranking", "in", "cases", "we", "have", "described", ".", "Though", "the", "experiments", "were", "conducted", "on", "high-quality", "photo", "ranking", ",", "the", "proposed", "algorithms", "are", "also", "applicable", "to", "other", "ranking", "problems", ",", "such", "as", "movie", "ranking", "and", "music", "ranking", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", ";", "G.", "2.2", "-LSB-", "Discrete", "Mathematics", "-RSB-", ":", "Graph", "Theory", ";", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Online", "Information", "Services", "Web-based", "services", "Le", "Chen", "did", "this", "work", "at", "Microsoft", "Research", "Asia", "as", "a", "visiting", "scholar", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "06", ",", "November", "5", "11", ",", "2006", ",", "Arlington", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-433-2", "/", "06/0011", "...", "$", "5.00", ".", "Algorithms", ",", "Experimentation", "Despite", "numerous", "refinements", "and", "optimizations", ",", "general", "purpose", "search", "engines", "still", "fail", "to", "find", "relevant", "results", "for", "many", "queries", ".", "As", "a", "new", "trend", ",", "vertical", "search", "has", "shown", "promise", "because", "it", "can", "leverage", "domain-specific", "knowledge", "and", "is", "more", "effective", "in", "connecting", "users", "with", "the", "information", "they", "want", ".", "There", "are", "many", "vertical", "search", "engines", ",", "including", "some", "for", "paper", "search", "-LRB-", "e.g.", "Libra", "-LSB-", "21", "-RSB-", ",", "Citeseer", "-LSB-", "7", "-RSB-", "and", "Google", "Scholar", "-LSB-", "4", "-RSB-", "-RRB-", ",", "product", "search", "-LRB-", "e.g.", "Froogle", "-LSB-", "5", "-RSB-", "-RRB-", ",", "movie", "search", "-LSB-", "6", "-RSB-", ",", "image", "search", "-LSB-", "1", ",", "8", "-RSB-", ",", "video", "search", "-LSB-", "6", "-RSB-", ",", "local", "search", "-LSB-", "2", "-RSB-", ",", "as", "well", "as", "news", "search", "-LSB-", "3", "-RSB-", ".", "We", "believe", "the", "vertical", "search", "engine", "trend", "will", "continue", "to", "grow", ".", "Essentially", ",", "building", "vertical", "search", "engines", "includes", "data", "crawling", ",", "information", "extraction", ",", "object", "identification", "and", "integration", ",", "and", "object-level", "Web", "information", "retrieval", "-LRB-", "or", "Web", "object", "ranking", "-RRB-", "-LSB-", "20", "-RSB-", ",", "among", "which", "ranking", "is", "one", "of", "the", "most", "important", "factors", ".", "This", "is", "because", "it", "deals", "with", "the", "core", "problem", "of", "how", "to", "combine", "and", "rank", "objects", "coming", "from", "multiple", "communities", ".", "Although", "object-level", "ranking", "has", "been", "well", "studied", "in", "building", "vertical", "search", "engines", ",", "there", "are", "still", "some", "kinds", "of", "vertical", "domains", "in", "which", "objects", "can", "not", "be", "effectively", "ranked", ".", "For", "example", ",", "algorithms", "that", "evolved", "from", "PageRank", "-LSB-", "22", "-RSB-", ",", "PopRank", "-LSB-", "21", "-RSB-", "and", "LinkFusion", "-LSB-", "27", "-RSB-", "were", "proposed", "to", "rank", "objects", "coming", "from", "multiple", "communities", ",", "but", "can", "only", "work", "on", "well-defined", "graphs", "of", "heterogeneous", "data", ".", "``", "Well-defined", "''", "means", "that", "like", "objects", "-LRB-", "e.g.", "authors", "in", "paper", "search", "-RRB-", "can", "be", "identified", "in", "multiple", "communities", "-LRB-", "e.g.", "conferences", "-RRB-", ".", "This", "allows", "heterogeneous", "objects", "to", "be", "well", "linked", "to", "form", "a", "graph", "through", "leveraging", "all", "the", "relationships", "-LRB-", "e.g.", "cited-by", ",", "authored-by", "and", "published-by", "-RRB-", "among", "the", "multiple", "communities", ".", "However", ",", "this", "assumption", "does", "not", "always", "stand", "for", "some", "domains", ".", "High-quality", "photo", "search", ",", "movie", "search", "and", "news", "search", "are", "exceptions", ".", "For", "example", ",", "a", "photograph", "forum", "377", "website", "usually", "includes", "three", "kinds", "of", "objects", ":", "photos", ",", "authors", "and", "reviewers", ".", "Yet", "different", "photo", "forums", "seem", "to", "lack", "any", "relationships", ",", "as", "there", "are", "no", "cited-by", "relationships", ".", "This", "makes", "it", "difficult", "to", "judge", "whether", "two", "authors", "cited", "are", "the", "same", "author", ",", "or", "two", "photos", "are", "indeed", "identical", "photos", ".", "Consequently", ",", "although", "each", "photo", "has", "a", "rating", "score", "in", "a", "forum", ",", "it", "is", "non-trivial", "to", "rank", "photos", "coming", "from", "different", "photo", "forums", ".", "Similar", "problems", "also", "exist", "in", "movie", "search", "and", "news", "search", ".", "Although", "two", "movie", "titles", "can", "be", "identified", "as", "the", "same", "one", "by", "title", "and", "director", "in", "different", "movie", "discussion", "groups", ",", "it", "is", "non-trivial", "to", "combine", "rating", "scores", "from", "different", "discussion", "groups", "and", "rank", "movies", "effectively", ".", "We", "call", "such", "non-trivial", "object", "relationship", "in", "which", "identification", "is", "difficult", ",", "incomplete", "relationships", ".", "Other", "related", "work", "includes", "rank", "aggregation", "for", "the", "Web", "-LSB-", "13", ",", "14", "-RSB-", ",", "and", "learning", "algorithm", "for", "rank", ",", "such", "as", "RankBoost", "-LSB-", "15", "-RSB-", ",", "RankSVM", "-LSB-", "17", ",", "19", "-RSB-", ",", "and", "RankNet", "-LSB-", "12", "-RSB-", ".", "We", "will", "contrast", "differences", "of", "these", "methods", "with", "the", "proposed", "methods", "after", "we", "have", "described", "the", "problem", "and", "our", "methods", ".", "We", "will", "specifically", "focus", "on", "Web", "object-ranking", "problem", "in", "cases", "that", "lack", "object", "relationships", "or", "have", "with", "incomplete", "object", "relationships", ",", "and", "take", "high-quality", "photo", "search", "as", "the", "test", "bed", "for", "this", "investigation", ".", "In", "the", "following", ",", "we", "will", "introduce", "rationale", "for", "building", "high-quality", "photo", "search", ".", "1.1", "High-Quality", "Photo", "Search", "In", "the", "past", "ten", "years", ",", "the", "Internet", "has", "grown", "to", "become", "an", "incredible", "resource", ",", "allowing", "users", "to", "easily", "access", "a", "huge", "number", "of", "images", ".", "However", ",", "compared", "to", "the", "more", "than", "1", "billion", "images", "indexed", "by", "commercial", "search", "engines", ",", "actual", "queries", "submitted", "to", "image", "search", "engines", "are", "relatively", "minor", ",", "and", "occupy", "only", "8-10", "percent", "of", "total", "image", "and", "text", "queries", "submitted", "to", "commercial", "search", "engines", "-LSB-", "24", "-RSB-", ".", "This", "is", "partially", "because", "user", "requirements", "for", "image", "search", "are", "far", "less", "than", "those", "for", "general", "text", "search", ".", "On", "the", "other", "hand", ",", "current", "commercial", "search", "engines", "still", "can", "not", "well", "meet", "various", "user", "requirements", ",", "because", "there", "is", "no", "effective", "and", "practical", "solution", "to", "understand", "image", "content", ".", "To", "better", "understand", "user", "needs", "in", "image", "search", ",", "we", "conducted", "a", "query", "log", "analysis", "based", "on", "a", "commercial", "search", "engine", ".", "The", "result", "shows", "that", "more", "than", "20", "%", "of", "image", "search", "queries", "are", "related", "to", "nature", "and", "places", "and", "daily", "life", "categories", ".", "Users", "apparently", "are", "interested", "in", "enjoying", "high-quality", "photos", "or", "searching", "for", "beautiful", "images", "of", "locations", "or", "other", "kinds", ".", "However", ",", "such", "user", "needs", "are", "not", "well", "supported", "by", "current", "image", "search", "engines", "because", "of", "the", "difficulty", "of", "the", "quality", "assessment", "problem", ".", "Ideally", ",", "the", "most", "critical", "part", "of", "a", "search", "engine", "the", "ranking", "function", "can", "be", "simplified", "as", "consisting", "of", "two", "key", "factors", ":", "relevance", "and", "quality", ".", "For", "the", "relevance", "factor", ",", "search", "in", "current", "commercial", "image", "search", "engines", "provide", "most", "returned", "images", "that", "are", "quite", "relevant", "to", "queries", ",", "except", "for", "some", "ambiguity", ".", "However", ",", "as", "to", "quality", "factor", ",", "there", "is", "still", "no", "way", "to", "give", "an", "optimal", "rank", "to", "an", "image", ".", "Though", "content-based", "image", "quality", "assessment", "has", "been", "investigated", "over", "many", "years", "-LSB-", "23", ",", "25", ",", "26", "-RSB-", ",", "it", "is", "still", "far", "from", "ready", "to", "provide", "a", "realistic", "quality", "measure", "in", "the", "immediate", "future", ".", "Seemingly", ",", "it", "really", "looks", "pessimistic", "to", "build", "an", "image", "search", "engine", "that", "can", "fulfill", "the", "potentially", "large", "requirement", "of", "enjoying", "high-quality", "photos", ".", "Various", "proliferating", "Web", "communities", ",", "however", ",", "notices", "us", "that", "people", "today", "have", "created", "and", "shared", "a", "lot", "of", "high-quality", "photos", "on", "the", "Web", "on", "virtually", "any", "topics", ",", "which", "provide", "a", "rich", "source", "for", "building", "a", "better", "image", "search", "engine", ".", "In", "general", ",", "photos", "from", "various", "photo", "forums", "are", "of", "higher", "quality", "than", "personal", "photos", ",", "and", "are", "also", "much", "more", "appealing", "to", "public", "users", "than", "personal", "photos", ".", "In", "addition", ",", "photos", "uploaded", "to", "photo", "forums", "generally", "require", "rich", "metadata", "about", "title", ",", "camera", "setting", ",", "category", "and", "description", "to", "be", "provide", "by", "photographers", ".", "These", "metadata", "are", "actually", "the", "most", "precise", "descriptions", "for", "photos", "and", "undoubtedly", "can", "be", "indexed", "to", "help", "search", "engines", "find", "relevant", "results", ".", "More", "important", ",", "there", "are", "volunteer", "users", "in", "Web", "communities", "actively", "providing", "valuable", "ratings", "for", "these", "photos", ".", "The", "rating", "information", "is", "generally", "of", "great", "value", "in", "solving", "the", "photo", "quality", "ranking", "problem", ".", "Motivated", "by", "such", "observations", ",", "we", "have", "been", "attempting", "to", "build", "a", "vertical", "photo", "search", "engine", "by", "extracting", "rich", "metadata", "and", "integrating", "information", "form", "various", "photo", "Web", "forums", ".", "In", "this", "paper", ",", "we", "specifically", "focus", "on", "how", "to", "rank", "photos", "from", "multiple", "Web", "forums", ".", "Intuitively", ",", "the", "rating", "scores", "from", "different", "photo", "forums", "can", "be", "empirically", "normalized", "based", "on", "the", "number", "of", "photos", "and", "the", "number", "of", "users", "in", "each", "forum", ".", "However", ",", "such", "a", "straightforward", "approach", "usually", "requires", "large", "manual", "effort", "in", "both", "tedious", "parameter", "tuning", "and", "subjective", "results", "evaluation", ",", "which", "makes", "it", "impractical", "when", "there", "are", "tens", "or", "hundreds", "of", "photo", "forums", "to", "combine", ".", "To", "address", "this", "problem", ",", "we", "seek", "to", "build", "relationships/links", "between", "different", "photo", "forums", ".", "That", "is", ",", "we", "first", "adopt", "an", "efficient", "algorithm", "to", "find", "duplicate", "photos", "which", "can", "be", "considered", "as", "hidden", "links", "connecting", "multiple", "forums", ".", "We", "then", "formulate", "the", "ranking", "challenge", "as", "an", "optimization", "problem", ",", "which", "eventually", "results", "in", "an", "optimal", "ranking", "function", ".", "1.2", "Main", "Contributions", "and", "Organization", ".", "The", "main", "contributions", "of", "this", "paper", "are", ":", "1", ".", "We", "have", "proposed", "and", "built", "a", "vertical", "image", "search", "engine", "by", "leveraging", "rich", "metadata", "from", "various", "photo", "forum", "Web", "sites", "to", "meet", "user", "requirements", "of", "searching", "for", "and", "enjoying", "high-quality", "photos", ",", "which", "is", "impossible", "in", "traditional", "image", "search", "engines", ".", "2", ".", "We", "have", "proposed", "two", "kinds", "of", "Web", "object-ranking", "algorithms", "for", "photos", "with", "incomplete", "relationships", ",", "which", "can", "automatically", "and", "efficiently", "integrate", "as", "many", "as", "possible", "Web", "communities", "with", "rating", "information", "and", "achieves", "an", "equal", "qualitative", "result", "compared", "with", "the", "manually", "tuned", "fusion", "scheme", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "present", "in", "detail", "the", "proposed", "solutions", "to", "the", "ranking", "problem", ",", "including", "how", "to", "find", "hidden", "links", "between", "different", "forums", ",", "normalize", "rating", "scores", ",", "obtain", "the", "optimal", "ranking", "function", ",", "and", "contrast", "our", "methods", "with", "some", "other", "related", "research", ".", "In", "Section", "3", ",", "we", "describe", "the", "experimental", "setting", "and", "experiments", "and", "user", "studies", "conducted", "to", "evaluate", "our", "algorithm", ".", "Our", "conclusion", "and", "a", "discussion", "of", "future", "work", "is", "in", "Section", "4", ".", "It", "is", "worth", "noting", "that", "although", "we", "treat", "vertical", "photo", "search", "as", "the", "test", "bed", "in", "this", "paper", ",", "the", "proposed", "ranking", "algorithm", "can", "also", "be", "applied", "to", "rank", "other", "content", "that", "includes", "video", "clips", ",", "poems", ",", "short", "stories", ",", "drawings", ",", "sculptures", ",", "music", ",", "and", "so", "on", ".", "378", "The", "difficulty", "of", "integrating", "multiple", "Web", "forums", "is", "in", "their", "different", "rating", "systems", ",", "where", "there", "are", "generally", "two", "kinds", "of", "freedom", ".", "The", "first", "kind", "of", "freedom", "is", "the", "rating", "interval", "or", "rating", "scale", "including", "the", "minimal", "and", "maximal", "ratings", "for", "each", "Web", "object", ".", "For", "example", ",", "some", "forums", "use", "a", "5-point", "rating", "scale", "whereas", "other", "forums", "use", "3-point", "or", "10-point", "rating", "scales", ".", "It", "seems", "easy", "to", "fix", "this", "freedom", ",", "but", "detailed", "analysis", "of", "the", "data", "and", "experiments", "show", "that", "it", "is", "a", "non-trivial", "problem", ".", "The", "second", "kind", "of", "freedom", "is", "the", "varying", "rating", "criteria", "found", "in", "different", "Web", "forums", ".", "That", "is", ",", "the", "same", "score", "does", "not", "mean", "the", "same", "quality", "in", "different", "forums", ".", "Intuitively", ",", "if", "we", "can", "detect", "same", "photographers", "or", "same", "photographs", ",", "we", "can", "build", "relationships", "between", "any", "two", "photo", "forums", "and", "therefore", "can", "standardize", "the", "rating", "criterion", "by", "score", "normalization", "and", "transformation", ".", "Fortunately", ",", "we", "find", "that", "quite", "a", "number", "of", "duplicate", "photographs", "exist", "in", "various", "Web", "photo", "forums", ".", "This", "fact", "is", "reasonable", "when", "considering", "that", "photographers", "sometimes", "submit", "a", "photo", "to", "more", "than", "one", "forum", "to", "obtain", "critiques", "or", "in", "hopes", "of", "widespread", "publicity", ".", "In", "this", "work", ",", "we", "adopt", "an", "efficient", "duplicate", "photo", "detection", "algorithm", "-LSB-", "10", "-RSB-", "to", "find", "these", "photos", ".", "The", "proposed", "methods", "below", "are", "based", "on", "the", "following", "considerations", ".", "Faced", "with", "the", "need", "to", "overcome", "a", "ranking", "problem", ",", "a", "standardized", "rating", "criterion", "rather", "than", "a", "reasonable", "rating", "criterion", "is", "needed", ".", "Therefore", ",", "we", "can", "take", "a", "large", "scale", "forum", "as", "the", "reference", "forum", ",", "and", "align", "other", "forums", "by", "taking", "into", "account", "duplicate", "Web", "objects", "-LRB-", "duplicate", "photos", "in", "this", "work", "-RRB-", ".", "Ideally", ",", "the", "scores", "of", "duplicate", "photos", "should", "be", "equal", "even", "though", "they", "are", "in", "different", "forums", ".", "Yet", "we", "can", "deem", "that", "scores", "in", "different", "forums", "except", "for", "the", "reference", "forum", "can", "vary", "in", "a", "parametric", "space", ".", "This", "can", "be", "determined", "by", "minimizing", "the", "objective", "function", "defined", "by", "the", "sum", "of", "squares", "of", "the", "score", "differences", ".", "By", "formulating", "the", "ranking", "problem", "as", "an", "optimization", "problem", "that", "attempts", "to", "make", "the", "scores", "of", "duplicate", "photos", "in", "non-reference", "forums", "as", "close", "as", "possible", "to", "those", "in", "the", "reference", "forum", ",", "we", "can", "effectively", "solve", "the", "ranking", "problem", ".", "For", "convenience", ",", "the", "following", "notations", "are", "employed", ".", "S", "ki", "and", "S", "ki", "denote", "the", "total", "score", "and", "mean", "score", "of", "ith", "Web", "object", "-LRB-", "photo", "-RRB-", "in", "the", "kth", "Web", "site", ",", "respectively", ".", "The", "total", "score", "refers", "to", "the", "sum", "of", "the", "various", "rating", "scores", "-LRB-", "e.g.", ",", "novelty", "rating", "and", "aesthetic", "rating", "-RRB-", ",", "and", "the", "mean", "score", "refers", "to", "the", "mean", "of", "the", "various", "rating", "scores", ".", "Suppose", "there", "are", "a", "total", "of", "K", "Web", "sites", ".", "We", "further", "use", "-LCB-", "S", "kl", "i", "|", "i", "=", "1", ",", "...", ",", "I", "kl", ";", "k", ",", "l", "=", "1", ",", "...", ",", "K", ";", "k", "=", "l", "-RCB-", "to", "denote", "the", "set", "of", "scores", "for", "Web", "objects", "-LRB-", "photos", "-RRB-", "in", "kth", "Web", "forums", "that", "are", "duplicate", "with", "the", "lth", "Web", "forums", ",", "where", "I", "kl", "is", "the", "total", "number", "of", "duplicate", "Web", "objects", "between", "these", "two", "Web", "sites", ".", "In", "general", ",", "score", "fusion", "can", "be", "seen", "as", "the", "procedure", "of", "finding", "K", "transforms", "k", "-LRB-", "S", "ki", "-RRB-", "=", "e", "S", "ki", ",", "k", "=", "1", ",", "...", ",", "K", "such", "that", "e", "S", "ki", "can", "be", "used", "to", "rank", "Web", "objects", "from", "different", "Web", "sites", ".", "The", "objective", "function", "described", "in", "the", "above", "Figure", "1", ":", "Web", "community", "integration", ".", "Each", "Web", "community", "forms", "a", "subgraph", ",", "and", "all", "communities", "are", "linked", "together", "by", "some", "hidden", "links", "-LRB-", "dashed", "lines", "-RRB-", ".", "paragraph", "can", "then", "be", "formulated", "as", "min", "-LCB-", "k", "|", "k", "=", "2", ",", "...", ",", "K", "-RCB-", "K", "X", "k", "=", "2", "I", "k1", "X", "i", "=", "1", "w", "k", "i", "``", "S", "1k", "i", "k", "-LRB-", "S", "k1", "i", "-RRB-", "''", "2", "-LRB-", "1", "-RRB-", "where", "we", "use", "k", "=", "1", "as", "the", "reference", "forum", "and", "thus", "1", "-LRB-", "S", "1i", "-RRB-", "=", "S", "1i", ".", "w", "k", "i", "-LRB-", "0", "-RRB-", "is", "the", "weight", "coefficient", "that", "can", "be", "set", "heuris-tically", "according", "to", "the", "numbers", "of", "voters", "-LRB-", "reviewers", "or", "com-menters", "-RRB-", "in", "both", "the", "reference", "forum", "and", "the", "non-reference", "forum", ".", "The", "more", "reviewers", ",", "the", "more", "popular", "the", "photo", "is", "and", "the", "larger", "the", "corresponding", "weight", "w", "k", "i", "should", "be", ".", "In", "this", "work", ",", "we", "do", "not", "inspect", "the", "problem", "of", "how", "to", "choose", "w", "k", "i", "and", "simply", "set", "them", "to", "one", ".", "But", "we", "believe", "the", "proper", "use", "of", "w", "k", "i", ",", "which", "leverages", "more", "information", ",", "can", "significantly", "improve", "the", "results", ".", "Figure", "1", "illustrates", "the", "aforementioned", "idea", ".", "The", "Web", "Community", "1", "is", "the", "reference", "community", ".", "The", "dashed", "lines", "are", "links", "indicating", "that", "the", "two", "linked", "Web", "objects", "are", "actually", "the", "same", ".", "The", "proposed", "algorithm", "will", "try", "to", "find", "the", "best", "k", "-LRB-", "k", "=", "2", ",", "...", ",", "K", "-RRB-", ",", "which", "has", "certain", "parametric", "forms", "according", "to", "certain", "models", ".", "So", "as", "to", "minimize", "the", "cost", "function", "defined", "in", "Eq", ".", "1", ",", "the", "summation", "is", "taken", "on", "all", "the", "red", "dashed", "lines", ".", "We", "will", "first", "discuss", "the", "score", "normalization", "methods", "in", "Section", "2.2", ",", "which", "serves", "as", "the", "basis", "for", "the", "following", "work", ".", "Before", "we", "describe", "the", "proposed", "ranking", "algorithms", ",", "we", "first", "introduce", "a", "manually", "tuned", "method", "in", "Section", "2.3", ",", "which", "is", "laborious", "and", "even", "impractical", "when", "the", "number", "of", "communities", "become", "large", ".", "In", "Section", "2.4", ",", "we", "will", "briefly", "explain", "how", "to", "precisely", "find", "duplicate", "photos", "between", "Web", "forums", ".", "Then", "we", "will", "describe", "the", "two", "proposed", "methods", ":", "Linear", "fusion", "and", "Non-linear", "fusion", ",", "and", "a", "performance", "measure", "for", "result", "evaluation", "in", "Section", "2.5", ".", "Finally", ",", "in", "Section", "2.6", "we", "will", "discuss", "the", "relationship", "of", "the", "proposed", "methods", "with", "some", "other", "related", "work", ".", "2.2", "Score", "Normalization", "Since", "different", "Web", "-LRB-", "photo", "-RRB-", "forums", "on", "the", "Web", "usually", "have", "different", "rating", "criteria", ",", "it", "is", "necessary", "to", "normalize", "them", "before", "applying", "different", "kinds", "of", "fusion", "methods", ".", "In", "addition", ",", "as", "there", "are", "many", "kinds", "of", "ratings", ",", "such", "as", "ratings", "for", "novelty", ",", "ratings", "for", "aesthetics", "etc", ",", "it", "is", "reasonable", "to", "choose", "a", "common", "one", "--", "total", "score", "or", "average", "score", "-", "that", "can", "always", "be", "extracted", "in", "any", "Web", "forum", "or", "calculated", "by", "corresponding", "ratings", ".", "This", "allows", "the", "normaliza-379", "tion", "method", "on", "the", "total", "score", "or", "average", "score", "to", "be", "viewed", "as", "an", "impartial", "rating", "method", "between", "different", "Web", "forums", ".", "It", "is", "straightforward", "to", "normalize", "average", "scores", "by", "lin-early", "transforming", "them", "to", "a", "fixed", "interval", ".", "We", "call", "this", "kind", "of", "score", "as", "Scaled", "Mean", "Score", ".", "The", "difficulty", ",", "however", ",", "of", "using", "this", "normalization", "method", "is", "that", ",", "if", "there", "are", "only", "a", "few", "users", "rating", "an", "object", ",", "say", "a", "photo", "in", "a", "photo", "forum", ",", "the", "average", "score", "for", "the", "object", "is", "likely", "to", "be", "spammed", "or", "skewed", ".", "Total", "score", "can", "avoid", "such", "drawbacks", "that", "contain", "more", "information", "such", "as", "a", "Web", "object", "'s", "quality", "and", "popularity", ".", "The", "problem", "is", "thus", "how", "to", "normalize", "total", "scores", "in", "different", "Web", "forums", ".", "The", "simplest", "way", "may", "be", "normalization", "by", "the", "maximal", "and", "minimal", "scores", ".", "The", "drawback", "of", "this", "normalization", "method", "is", "it", "is", "non", "robust", ",", "or", "in", "other", "words", ",", "it", "is", "sensitive", "to", "outliers", ".", "To", "make", "the", "normalization", "insensitive", "to", "unusual", "data", ",", "we", "propose", "the", "Mode-90", "%", "Percentile", "normalization", "method", ".", "Here", ",", "the", "mode", "score", "represents", "the", "total", "score", "that", "has", "been", "assigned", "to", "more", "photos", "than", "any", "other", "total", "score", ".", "And", "The", "high", "percentile", "score", "-LRB-", "e.g.", ",90", "%", "-RRB-", "represents", "the", "total", "score", "for", "which", "the", "high", "percentile", "of", "images", "have", "a", "lower", "total", "score", ".", "This", "normalization", "method", "utilizes", "the", "mode", "and", "90", "%", "percentile", "as", "two", "reference", "points", "to", "align", "two", "rating", "systems", ",", "which", "makes", "the", "distributions", "of", "total", "scores", "in", "different", "forums", "more", "consistent", ".", "The", "underlying", "assumption", ",", "for", "example", "in", "different", "photo", "forums", ",", "is", "that", "even", "the", "qualities", "of", "top", "photos", "in", "different", "forums", "may", "vary", "greatly", "and", "be", "less", "dependent", "on", "the", "forum", "quality", ",", "the", "distribution", "of", "photos", "of", "middle-level", "quality", "-LRB-", "from", "mode", "to", "90", "%", "percentile", "-RRB-", "should", "be", "almost", "of", "the", "same", "quality", "up", "to", "the", "freedom", "which", "reflects", "the", "rating", "criterion", "-LRB-", "strictness", "-RRB-", "of", "Web", "forums", ".", "Photos", "of", "this", "middle-level", "in", "a", "Web", "forum", "usually", "occupy", "more", "than", "70", "%", "of", "total", "photos", "in", "that", "forum", ".", "We", "will", "give", "more", "detailed", "analysis", "of", "the", "scores", "in", "Section", "3.2", ".", "2.3", "Manual", "Fusion", "The", "Web", "movie", "forum", ",", "IMDB", "-LSB-", "16", "-RSB-", ",", "proposed", "to", "use", "a", "Bayesian-ranking", "function", "to", "normalize", "rating", "scores", "within", "one", "community", ".", "Motivated", "by", "this", "ranking", "function", ",", "we", "propose", "this", "manual", "fusion", "method", ":", "For", "the", "kth", "Web", "site", ",", "we", "use", "the", "following", "formula", "e", "S", "ki", "=", "k", ",", ",", "n", "k", "S", "ki", "n", "k", "+", "n", "k", "+", "n", "k", "S", "k", "n", "k", "+", "n", "k", "-LRB-", "2", "-RRB-", "to", "rank", "photos", ",", "where", "n", "k", "is", "the", "number", "of", "votes", "and", "n", "k", ",", "S", "k", "and", "k", "are", "three", "parameters", ".", "This", "ranking", "function", "first", "takes", "a", "balance", "between", "the", "original", "mean", "score", "S", "ki", "and", "a", "reference", "score", "S", "k", "to", "get", "a", "weighted", "mean", "score", "which", "may", "be", "more", "reliable", "than", "S", "ki", ".", "Then", "the", "weighted", "mean", "score", "is", "scaled", "by", "k", "to", "get", "the", "final", "score", "f", "S", "ki", ".", "For", "n", "Web", "communities", ",", "there", "are", "then", "about", "3n", "parameters", "in", "-LCB-", "-LRB-", "k", ",", "n", "k", ",", "S", "k", "-RRB-", "|", "k", "=", "1", ",", "...", ",", "n", "-RCB-", "to", "tune", ".", "Though", "this", "method", "can", "achieves", "pretty", "good", "results", "after", "careful", "and", "thorough", "manual", "tuning", "on", "these", "parameters", ",", "when", "n", "becomes", "increasingly", "large", ",", "say", "there", "are", "tens", "or", "hundreds", "of", "Web", "communities", "crawled", "and", "indexed", ",", "this", "method", "will", "become", "more", "and", "more", "laborious", "and", "will", "eventually", "become", "impractical", ".", "It", "is", "therefore", "desirable", "to", "find", "an", "effective", "fusion", "method", "whose", "parameters", "can", "be", "automatically", "determined", ".", "2.4", "Duplicate", "Photo", "Detection", "We", "use", "Dedup", "-LSB-", "10", "-RSB-", ",", "an", "efficient", "and", "effective", "duplicate", "image", "detection", "algorithm", ",", "to", "find", "duplicate", "photos", "between", "any", "two", "photo", "forums", ".", "This", "algorithm", "uses", "hash", "function", "to", "map", "a", "high", "dimensional", "feature", "to", "a", "32", "bits", "hash", "code", "-LRB-", "see", "below", "for", "how", "to", "construct", "the", "hash", "code", "-RRB-", ".", "Its", "computational", "complexity", "to", "find", "all", "the", "duplicate", "images", "among", "n", "images", "is", "about", "O", "-LRB-", "n", "log", "n", "-RRB-", ".", "The", "low-level", "visual", "feature", "for", "each", "photo", "is", "extracted", "on", "k", "k", "regular", "grids", ".", "Based", "on", "all", "features", "extracted", "from", "the", "image", "database", ",", "a", "PCA", "model", "is", "built", ".", "The", "visual", "features", "are", "then", "transformed", "to", "a", "relatively", "low-dimensional", "and", "zero", "mean", "PCA", "space", ",", "or", "29", "dimensions", "in", "our", "system", ".", "Then", "the", "hash", "code", "for", "each", "photo", "is", "built", "as", "follows", ":", "each", "dimension", "is", "transformed", "to", "one", ",", "if", "the", "value", "in", "this", "dimension", "is", "greater", "than", "0", ",", "and", "0", "otherwise", ".", "Photos", "in", "the", "same", "bucket", "are", "deemed", "potential", "duplicates", "and", "are", "further", "filtered", "by", "a", "threshold", "in", "terms", "of", "Euclidean", "similarity", "in", "the", "visual", "feature", "space", ".", "Figure", "2", "illustrates", "the", "hashing", "procedure", ",", "where", "visual", "features", "--", "mean", "gray", "values", "--", "are", "extracted", "on", "both", "6", "6", "and", "7", "7", "grids", ".", "The", "85-dimensional", "features", "are", "transformed", "to", "a", "32-dimensional", "vector", ",", "and", "the", "hash", "code", "is", "generated", "according", "to", "the", "signs", ".", "Figure", "2", ":", "Hashing", "procedure", "for", "duplicate", "photo", "dectection", "2.5", "Score", "Fusion", "In", "this", "section", ",", "we", "will", "present", "two", "solutions", "on", "score", "fusion", "based", "on", "different", "parametric", "form", "assumptions", "of", "k", "in", "Eq", ".", "1", ".", "2.5.1", "Linear", "Fusion", "by", "Duplicate", "Photos", "Intuitively", ",", "the", "most", "straightforward", "way", "to", "factor", "out", "the", "uncertainties", "caused", "by", "the", "different", "criterion", "is", "to", "scale", ",", "rel-380", "ative", "to", "a", "given", "center", ",", "the", "total", "scores", "of", "each", "unreferenced", "Web", "photo", "forum", "with", "respect", "to", "the", "reference", "forum", ".", "More", "strictly", ",", "we", "assume", "k", "has", "the", "following", "form", "k", "-LRB-", "S", "ki", "-RRB-", "=", "k", "S", "ki", "+", "t", "k", ",", "k", "=", "2", ",", "...", ",", "K", "-LRB-", "3", "-RRB-", "1", "-LRB-", "S", "1i", "-RRB-", "=", "S", "1i", "-LRB-", "4", "-RRB-", "which", "means", "that", "the", "scores", "of", "k", "-LRB-", "=", "1", "-RRB-", "th", "forum", "should", "be", "scaled", "by", "k", "relative", "to", "the", "center", "t", "k", "1k", "as", "shown", "in", "Figure", "3", ".", "Then", ",", "if", "we", "substitute", "above", "k", "to", "Eq", ".", "1", ",", "we", "get", "the", "following", "objective", "function", ",", "min", "-LCB-", "k", ",", "t", "k", "|", "k", "=", "2", ",", "...", ",", "K", "-RCB-", "K", "X", "k", "=", "2", "I", "k1", "X", "i", "=", "1", "w", "k", "i", "hS", "1k", "i", "k", "S", "k1", "i", "-", "t", "k", "i", "2", ".", "-LRB-", "5", "-RRB-", "By", "solving", "the", "following", "set", "of", "functions", ",", "-LRB-", "f", "k", "=", "=", "0", "f", "t", "k", "=", "0", ",", "k", "=", "1", ",", "...", ",", "K", "where", "f", "is", "the", "objective", "function", "defined", "in", "Eq", ".", "5", ",", "we", "get", "the", "closed", "form", "solution", "as", ":", ",", ",", "k", "t", "k", "=", "A", "-1", "k", "L", "k", "-LRB-", "6", "-RRB-", "where", "A", "k", "=", ",", ",", "P", "i", "w", "i", "-LRB-", "S", "k1", "i", "-RRB-", "2", "P", "i", "w", "i", "S", "k1", "i", "P", "i", "w", "i", "S", "k1", "i", "P", "i", "w", "i", "-LRB-", "7", "-RRB-", "L", "k", "=", ",", ",", "P", "i", "w", "i", "S", "1k", "i", "S", "k1", "i", "P", "i", "w", "i", "S", "1k", "i", "-LRB-", "8", "-RRB-", "and", "k", "=", "2", ",", "...", ",", "K", ".", "This", "is", "a", "linear", "fusion", "method", ".", "It", "enjoys", "simplicity", "and", "excellent", "performance", "in", "the", "following", "experiments", ".", "Figure", "3", ":", "Linear", "Fusion", "method", "2.5.2", "Nonlinear", "Fusion", "by", "Duplicate", "Photos", "Sometimes", "we", "want", "a", "method", "which", "can", "adjust", "scores", "on", "intervals", "with", "two", "endpoints", "unchanged", ".", "As", "illustrated", "in", "Figure", "4", ",", "the", "method", "can", "tune", "scores", "between", "-LSB-", "C", "0", ",", "C", "1", "-RSB-", "while", "leaving", "scores", "C", "0", "and", "C", "1", "unchanged", ".", "This", "kind", "of", "fusion", "method", "is", "then", "much", "finer", "than", "the", "linear", "ones", "and", "contains", "many", "more", "parameters", "to", "tune", "and", "expect", "to", "further", "improve", "the", "results", ".", "Here", ",", "we", "propose", "a", "nonlinear", "fusion", "solution", "to", "satisfy", "such", "constraints", ".", "First", ",", "we", "introduce", "a", "transform", ":", "c", "0", ",", "c", "1", ",", "-LRB-", "x", "-RRB-", "=", "-LRB-", "''", "x-c", "0", "c", "1", "-", "c", "0", "''", "-LRB-", "c", "1", "-", "c", "0", "-RRB-", "+", "c", "0", ",", "if", "x", "-LRB-", "c", "0", ",", "c", "1", "-RSB-", "x", "otherwise", "where", ">", "0", ".", "This", "transform", "satisfies", "that", "for", "x", "-LSB-", "c", "0", ",", "c", "1", "-RSB-", ",", "c", "0", ",", "c", "1", ",", "-LRB-", "x", "-RRB-", "-LSB-", "c", "0", ",", "c", "1", "-RSB-", "with", "c", "0", ",", "c", "1", ",", "-LRB-", "c", "0", "-RRB-", "=", "c", "0", "and", "c", "0", ",", "c", "1", ",", "-LRB-", "c", "1", "-RRB-", "=", "c", "1", ".", "Then", "we", "can", "utilize", "this", "nonlinear", "transform", "to", "adjust", "the", "scores", "in", "certain", "interval", ",", "say", "-LRB-", "M", ",", "T", "-RSB-", ",", "k", "-LRB-", "S", "ki", "-RRB-", "=", "M", ",", "T", ",", "-LRB-", "S", "ki", "-RRB-", ".", "-LRB-", "9", "-RRB-", "Figure", "4", ":", "Nonlinear", "Fusion", "method", ".", "We", "intent", "to", "finely", "adjust", "the", "shape", "of", "the", "curves", "in", "each", "segment", ".", "Even", "there", "is", "no", "closed-form", "solution", "for", "the", "following", "optimization", "problem", ",", "min", "-LCB-", "k", "|", "k", "-LSB-", "2", ",", "K", "-RSB-", "-RCB-", "K", "X", "k", "=", "2", "I", "k1", "X", "i", "=", "1", "w", "k", "i", "hS", "1k", "i", "M", ",", "T", ",", "-LRB-", "S", "ki", "-RRB-", "i", "2", "it", "is", "not", "hard", "to", "get", "the", "numeric", "one", ".", "Under", "the", "same", "assumptions", "made", "in", "Section", "2.2", ",", "we", "can", "use", "this", "method", "to", "adjust", "scores", "of", "the", "middle-level", "-LRB-", "from", "the", "mode", "point", "to", "the", "90", "%", "percentile", "-RRB-", ".", "This", "more", "complicated", "non-linear", "fusion", "method", "is", "expected", "to", "achieve", "better", "results", "than", "the", "linear", "one", ".", "However", ",", "difficulties", "in", "evaluating", "the", "rank", "results", "block", "us", "from", "tuning", "these", "parameters", "extensively", ".", "The", "current", "experiments", "in", "Section", "3.5", "do", "not", "reveal", "any", "advantages", "over", "the", "simple", "linear", "model", ".", "2.5.3", "Performance", "Measure", "of", "the", "Fusion", "Results", "Since", "our", "objective", "function", "is", "to", "make", "the", "scores", "of", "the", "same", "Web", "objects", "-LRB-", "e.g.", "duplicate", "photos", "-RRB-", "between", "a", "non-reference", "forum", "and", "the", "reference", "forum", "as", "close", "as", "possible", ",", "it", "is", "natural", "to", "investigate", "how", "close", "they", "become", "to", "each", "other", "and", "how", "the", "scores", "of", "the", "same", "Web", "objects", "change", "between", "the", "two", "non-reference", "forums", "before", "and", "after", "score", "fusion", ".", "Taken", "Figure", "1", "as", "an", "example", ",", "the", "proposed", "algorithms", "minimize", "the", "score", "differences", "of", "the", "same", "Web", "objects", "in", "two", "Web", "forums", ":", "the", "reference", "forum", "-LRB-", "the", "Web", "Community", "1", "-RRB-", "and", "a", "non-reference", "forum", ",", "which", "corresponds", "to", "minimizing", "the", "objective", "function", "on", "the", "red", "dashed", "-LRB-", "hidden", "-RRB-", "links", ".", "After", "the", "optimization", ",", "we", "must", "ask", "what", "happens", "to", "the", "score", "differences", "of", "the", "same", "Web", "objects", "in", "two", "non-reference", "forums", "?", "Or", ",", "in", "other", "words", ",", "whether", "the", "scores", "of", "two", "objects", "linked", "by", "the", "green", "dashed", "-LRB-", "hidden", "-RRB-", "links", "become", "more", "consistent", "?", "We", "therefore", "define", "the", "following", "performance", "measure", "-", "measure", "--", "to", "quantify", "the", "changes", "for", "scores", "of", "the", "same", "Web", "objects", "in", "different", "Web", "forums", "as", "kl", "=", "Sim", "-LRB-", "S", "lk", ",", "S", "kl", "-RRB-", "-", "Sim", "-LRB-", "S", "lk", ",", "S", "kl", "-RRB-", "-LRB-", "10", "-RRB-", "381", "where", "S", "kl", "=", "-LRB-", "S", "kl", "1", ",", "...", ",", "S", "kl", "I", "kl", "-RRB-", "T", ",", "S", "kl", "=", "-LRB-", "e", "S", "kl", "1", ",", "...", ",", "e", "S", "kl", "I", "kl", "-RRB-", "T", "and", "Sim", "-LRB-", "a", ",", "b", "-RRB-", "=", "a", "b", "|", "|", "a", "|", "|", "|", "|", "b", "|", "|", ".", "kl", ">", "0", "means", "after", "score", "fusion", ",", "scores", "on", "the", "same", "Web", "objects", "between", "kth", "and", "lth", "Web", "forum", "become", "more", "consistent", ",", "which", "is", "what", "we", "expect", ".", "On", "the", "contrary", ",", "if", "kl", "<", "0", ",", "those", "scores", "become", "more", "inconsistent", ".", "Although", "we", "can", "not", "rely", "on", "this", "measure", "to", "evaluate", "our", "final", "fusion", "results", "as", "ranking", "photos", "by", "their", "popularity", "and", "qualities", "is", "such", "a", "subjective", "process", "that", "every", "person", "can", "have", "its", "own", "results", ",", "it", "can", "help", "us", "understand", "the", "intermediate", "ranking", "results", "and", "provide", "insights", "into", "the", "final", "performances", "of", "different", "ranking", "methods", ".", "2.6", "Contrasts", "with", "Other", "Related", "Work", "We", "have", "already", "mentioned", "the", "differences", "of", "the", "proposed", "methods", "with", "the", "traditional", "methods", ",", "such", "as", "PageRank", "-LSB-", "22", "-RSB-", ",", "PopRank", "-LSB-", "21", "-RSB-", ",", "and", "LinkFusion", "-LSB-", "27", "-RSB-", "algorithms", "in", "Section", "1", ".", "Here", ",", "we", "discuss", "some", "other", "related", "works", ".", "The", "current", "problem", "can", "also", "be", "viewed", "as", "a", "rank", "aggregation", "one", "-LSB-", "13", ",", "14", "-RSB-", "as", "we", "deal", "with", "the", "problem", "of", "how", "to", "combine", "several", "rank", "lists", ".", "However", ",", "there", "are", "fundamental", "differences", "between", "them", ".", "First", "of", "all", ",", "unlike", "the", "Web", "pages", ",", "which", "can", "be", "easily", "and", "accurately", "detected", "as", "the", "same", "pages", ",", "detecting", "the", "same", "photos", "in", "different", "Web", "forums", "is", "a", "non-trivial", "work", ",", "and", "can", "only", "be", "implemented", "by", "some", "delicate", "algorithms", "while", "with", "certain", "precision", "and", "recall", ".", "Second", ",", "the", "numbers", "of", "the", "duplicate", "photos", "from", "different", "Web", "forums", "are", "small", "relative", "to", "the", "whole", "photo", "sets", "-LRB-", "see", "Table", "1", "-RRB-", ".", "In", "another", "words", ",", "the", "top", "K", "rank", "lists", "of", "different", "Web", "forums", "are", "almost", "disjointed", "for", "a", "given", "query", ".", "Under", "this", "condition", ",", "both", "the", "algorithms", "proposed", "in", "-LSB-", "13", "-RSB-", "and", "their", "measurements", "--", "Kendall", "tau", "distance", "or", "Spearman", "footrule", "distance", "--", "will", "degenerate", "to", "some", "trivial", "cases", ".", "Another", "category", "of", "rank", "fusion", "-LRB-", "aggregation", "-RRB-", "methods", "is", "based", "on", "machine", "learning", "algorithms", ",", "such", "as", "RankSVM", "-LSB-", "17", ",", "19", "-RSB-", ",", "RankBoost", "-LSB-", "15", "-RSB-", ",", "and", "RankNet", "-LSB-", "12", "-RSB-", ".", "All", "of", "these", "methods", "entail", "some", "labelled", "datasets", "to", "train", "a", "model", ".", "In", "current", "settings", ",", "it", "is", "difficult", "or", "even", "impossible", "to", "get", "these", "datasets", "labelled", "as", "to", "their", "level", "of", "professionalism", "or", "popularity", ",", "since", "the", "photos", "are", "too", "vague", "and", "subjective", "to", "rank", ".", "Instead", ",", "the", "problem", "here", "is", "how", "to", "combine", "several", "ordered", "sub", "lists", "to", "form", "a", "total", "order", "list", ".", "In", "this", "section", ",", "we", "carry", "out", "our", "research", "on", "high-quality", "photo", "search", ".", "We", "first", "briefly", "introduce", "the", "newly", "proposed", "vertical", "image", "search", "engine", "--", "EnjoyPhoto", "in", "section", "3.1", ".", "Then", "we", "focus", "on", "how", "to", "rank", "photos", "from", "different", "Web", "forums", ".", "In", "order", "to", "do", "so", ",", "we", "first", "normalize", "the", "scores", "-LRB-", "ratings", "-RRB-", "for", "photos", "from", "different", "multiple", "Web", "forums", "in", "section", "3.2", ".", "Then", "we", "try", "to", "find", "duplicate", "photos", "in", "section", "3.3", ".", "Some", "intermediate", "results", "are", "discussed", "using", "measure", "in", "section", "3.4", ".", "Finally", "a", "set", "of", "user", "studies", "is", "carried", "out", "carefully", "to", "justify", "our", "proposed", "method", "in", "section", "3.5", ".", "3.1", "EnjoyPhoto", ":", "high-quality", "Photo", "Search", "Engine", "In", "order", "to", "meet", "user", "requirement", "of", "enjoying", "high-quality", "photos", ",", "we", "propose", "and", "build", "a", "high-quality", "photo", "search", "engine", "--", "EnjoyPhoto", ",", "which", "accounts", "for", "the", "following", "three", "key", "issues", ":", "1", ".", "how", "to", "crawl", "and", "index", "photos", ",", "2", ".", "how", "to", "determine", "the", "qualities", "of", "each", "photo", "and", "3", ".", "how", "to", "display", "the", "search", "results", "in", "order", "to", "make", "the", "search", "process", "enjoyable", ".", "For", "a", "given", "text", "based", "query", ",", "this", "system", "ranks", "the", "photos", "based", "on", "certain", "combination", "of", "relevance", "of", "the", "photo", "to", "this", "query", "-LRB-", "Issue", "1", "-RRB-", "and", "the", "quality", "of", "the", "photo", "-LRB-", "Issue", "2", "-RRB-", ",", "and", "finally", "displays", "them", "in", "an", "enjoyable", "manner", "-LRB-", "Issue", "3", "-RRB-", ".", "As", "for", "Issue", "3", ",", "we", "devise", "the", "interface", "of", "the", "system", "de-liberately", "in", "order", "to", "smooth", "the", "users", "'", "process", "of", "enjoying", "high-quality", "photos", ".", "Techniques", ",", "such", "as", "Fisheye", "and", "slides", "show", ",", "are", "utilized", "in", "current", "system", ".", "Figure", "5", "shows", "the", "interface", ".", "We", "will", "not", "talk", "more", "about", "this", "issue", "as", "it", "is", "not", "an", "emphasis", "of", "this", "paper", ".", "Figure", "5", ":", "EnjoyPhoto", ":", "an", "enjoyable", "high-quality", "photo", "search", "engine", ",", "where", "26,477", "records", "are", "returned", "for", "the", "query", "``", "fall", "''", "in", "about", "0.421", "seconds", "As", "for", "Issue", "1", ",", "we", "extracted", "from", "a", "commercial", "search", "engine", "a", "subset", "of", "photos", "coming", "from", "various", "photo", "forums", "all", "over", "the", "world", ",", "and", "explicitly", "parsed", "the", "Web", "pages", "containing", "these", "photos", ".", "The", "number", "of", "photos", "in", "the", "data", "collection", "is", "about", "2.5", "million", ".", "After", "the", "parsing", ",", "each", "photo", "was", "associated", "with", "its", "title", ",", "category", ",", "description", ",", "camera", "setting", ",", "EXIF", "data", "1", "-LRB-", "when", "available", "for", "digital", "images", "-RRB-", ",", "location", "-LRB-", "when", "available", "in", "some", "photo", "forums", "-RRB-", ",", "and", "many", "kinds", "of", "ratings", ".", "All", "these", "metadata", "are", "generally", "precise", "descriptions", "or", "annotations", "for", "the", "image", "content", ",", "which", "are", "then", "indexed", "by", "general", "text-based", "search", "technologies", "-LSB-", "9", ",", "18", ",", "11", "-RSB-", ".", "In", "current", "system", ",", "the", "ranking", "function", "was", "specifically", "tuned", "to", "emphasize", "title", ",", "categorization", ",", "and", "rating", "information", ".", "Issue", "2", "is", "essentially", "dealt", "with", "in", "the", "following", "sections", "which", "derive", "the", "quality", "of", "photos", "by", "analyzing", "ratings", "provided", "by", "various", "Web", "photo", "forums", ".", "Here", "we", "chose", "six", "photo", "forums", "to", "study", "the", "ranking", "problem", "and", "denote", "them", "as", "Web-A", ",", "Web-B", ",", "Web-C", ",", "Web-D", ",", "Web-E", "and", "Web-F", ".", "3.2", "Photo", "Score", "Normalization", "Detailed", "analysis", "of", "different", "score", "normalization", "methods", "are", "analyzed", "in", "this", "section", ".", "In", "this", "analysis", ",", "the", "zero", "1", "Digital", "cameras", "save", "JPEG", "-LRB-", ".", "jpg", "-RRB-", "files", "with", "EXIF", "-LRB-", "Exchangeable", "Image", "File", "-RRB-", "data", ".", "Camera", "settings", "and", "scene", "information", "are", "recorded", "by", "the", "camera", "into", "the", "image", "file", ".", "www.digicamhelp.com/what-is-exif/", "382", "0", "2", "4", "6", "8", "10", "0", "1000", "2000", "3000", "4000", "Normalized", "Score", "Total", "Number", "-LRB-", "a", "-RRB-", "Web-A", "0", "2", "4", "6", "8", "10", "0", "0.5", "1", "1.5", "2", "2.5", "3", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "b", "-RRB-", "Web-B", "0", "2", "4", "6", "8", "10", "0", "0.5", "1", "1.5", "2", "x", "10", "5", "Normalized", "Score", "Total", "Number", "-LRB-", "c", "-RRB-", "Web-C", "0", "2", "4", "6", "8", "10", "0", "2", "4", "6", "8", "10", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "d", "-RRB-", "Web-D", "0", "2", "4", "6", "8", "10", "0", "2000", "4000", "6000", "8000", "10000", "12000", "14000", "Normalized", "Score", "Total", "Number", "-LRB-", "e", "-RRB-", "Web-E", "0", "2", "4", "6", "8", "10", "0", "1", "2", "3", "4", "5", "6", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "f", "-RRB-", "Web-F", "Figure", "6", ":", "Distributions", "of", "mean", "scores", "normalized", "to", "-LSB-", "0", ",", "10", "-RSB-", "scores", "that", "usually", "occupy", "about", "than", "30", "%", "of", "the", "total", "number", "of", "photos", "for", "some", "Web", "forums", "are", "not", "currently", "taken", "into", "account", ".", "How", "to", "utilize", "these", "photos", "is", "left", "for", "future", "explorations", ".", "In", "Figure", "6", ",", "we", "list", "the", "distributions", "of", "the", "mean", "score", ",", "which", "is", "transformed", "to", "a", "fixed", "interval", "-LSB-", "0", ",", "10", "-RSB-", ".", "The", "distributions", "of", "the", "average", "scores", "of", "these", "Web", "forums", "look", "quite", "different", ".", "Distributions", "in", "Figure", "6", "-LRB-", "a", "-RRB-", ",", "6", "-LRB-", "b", "-RRB-", ",", "and", "6", "-LRB-", "e", "-RRB-", "looks", "like", "Gaussian", "distributions", ",", "while", "those", "in", "Figure", "6", "-LRB-", "d", "-RRB-", "and", "6", "-LRB-", "f", "-RRB-", "are", "dominated", "by", "the", "top", "score", ".", "The", "reason", "of", "these", "eccentric", "distributions", "for", "Web-D", "and", "Web-F", "lies", "in", "their", "coarse", "rating", "systems", ".", "In", "fact", ",", "Web-D", "and", "Web-F", "use", "2", "or", "3", "point", "rating", "scales", "whereas", "other", "Web", "forums", "use", "7", "or", "14", "point", "rating", "scales", ".", "Therefore", ",", "it", "will", "be", "problematic", "if", "we", "directly", "use", "these", "averaged", "scores", ".", "Furthermore", "the", "average", "score", "is", "very", "likely", "to", "be", "spammed", ",", "if", "there", "are", "only", "a", "few", "users", "rating", "a", "photo", ".", "Figure", "7", "shows", "the", "total", "score", "normalization", "method", "by", "maximal", "and", "minimal", "scores", ",", "which", "is", "one", "of", "our", "base", "line", "system", ".", "All", "the", "total", "scores", "of", "a", "given", "Web", "forum", "are", "normalized", "to", "-LSB-", "0", ",", "100", "-RSB-", "according", "to", "the", "maximal", "score", "and", "minimal", "score", "of", "corresponding", "Web", "forum", ".", "We", "notice", "that", "total", "score", "distribution", "of", "Web-A", "in", "Figure", "7", "-LRB-", "a", "-RRB-", "has", "two", "larger", "tails", "than", "all", "the", "others", ".", "To", "show", "the", "shape", "of", "the", "distributions", "more", "clearly", ",", "we", "only", "show", "the", "distributions", "on", "-LSB-", "0", ",", "25", "-RSB-", "in", "Figure", "7", "-LRB-", "b", "-RRB-", ",7", "-LRB-", "c", "-RRB-", ",7", "-LRB-", "d", "-RRB-", ",7", "-LRB-", "e", "-RRB-", ",", "and", "7", "-LRB-", "f", "-RRB-", ".", "Figure", "8", "shows", "the", "Mode-90", "%", "Percentile", "normalization", "method", ",", "where", "the", "modes", "of", "the", "six", "distributions", "are", "normalized", "to", "5", "and", "the", "90", "%", "percentile", "to", "8", ".", "We", "can", "see", "that", "this", "normalization", "method", "makes", "the", "distributions", "of", "total", "scores", "in", "different", "forums", "more", "consistent", ".", "The", "two", "proposed", "algorithms", "are", "all", "based", "on", "these", "normalization", "methods", ".", "3.3", "Duplicate", "photo", "detection", "Targeting", "at", "computational", "efficiency", ",", "the", "Dedup", "algorithm", "may", "lose", "some", "recall", "rate", ",", "but", "can", "achieve", "a", "high", "precision", "rate", ".", "We", "also", "focus", "on", "finding", "precise", "hidden", "links", "rather", "than", "all", "hidden", "links", ".", "Figure", "9", "shows", "some", "duplicate", "detection", "examples", ".", "The", "results", "are", "shown", "in", "Table", "1", "and", "verify", "that", "large", "numbers", "of", "duplicate", "photos", "exist", "in", "any", "two", "Web", "forums", "even", "with", "the", "strict", "condition", "for", "Dedup", "where", "we", "chose", "first", "29", "bits", "as", "the", "hash", "code", ".", "Since", "there", "are", "only", "a", "few", "parameters", "to", "estimate", "in", "the", "proposed", "fusion", "methods", ",", "the", "numbers", "of", "duplicate", "photos", "shown", "Table", "1", "are", "0", "20", "40", "60", "80", "100", "0", "100", "200", "300", "400", "500", "600", "Normalized", "Score", "Total", "Number", "-LRB-", "a", "-RRB-", "Web-A", "0", "5", "10", "15", "20", "25", "0", "1", "2", "3", "4", "5", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "b", "-RRB-", "Web-B", "0", "5", "10", "15", "20", "25", "0", "1", "2", "3", "4", "5", "x", "10", "5", "Normalized", "Score", "Total", "Number", "-LRB-", "c", "-RRB-", "Web-C", "0", "5", "10", "15", "20", "25", "0", "0.5", "1", "1.5", "2", "2.5", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "d", "-RRB-", "Web-D", "0", "5", "10", "15", "20", "25", "0", "2000", "4000", "6000", "8000", "10000", "Normalized", "Score", "Total", "Number", "-LRB-", "e", "-RRB-", "Web-E", "0", "5", "10", "15", "20", "25", "0", "0.5", "1", "1.5", "2", "2.5", "3", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "f", "-RRB-", "Web-F", "Figure", "7", ":", "Maxmin", "Normalization", "0", "5", "10", "15", "0", "200", "400", "600", "800", "1000", "1200", "1400", "Normalized", "Score", "Total", "Number", "-LRB-", "a", "-RRB-", "Web-A", "0", "5", "10", "15", "0", "1", "2", "3", "4", "5", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "b", "-RRB-", "Web-B", "0", "5", "10", "15", "0", "2", "4", "6", "8", "10", "12", "14", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "c", "-RRB-", "Web-C", "0", "5", "10", "15", "0", "0.5", "1", "1.5", "2", "2.5", "x", "10", "4", "Normalized", "Score", "Total", "Number", "-LRB-", "d", "-RRB-", "Web-D", "0", "5", "10", "15", "0", "2000", "4000", "6000", "8000", "10000", "12000", "Normalized", "Score", "Total", "Number", "-LRB-", "e", "-RRB-", "Web-E", "0", "5", "10", "15", "0", "2000", "4000", "6000", "8000", "10000", "Normalized", "Score", "Total", "Number", "-LRB-", "f", "-RRB-", "Web-F", "Figure", "8", ":", "Mode-90", "%", "Percentile", "Normalization", "sufficient", "to", "determine", "these", "parameters", ".", "The", "last", "table", "column", "lists", "the", "total", "number", "of", "photos", "in", "the", "corresponding", "Web", "forums", ".", "3.4", "Measure", "The", "parameters", "of", "the", "proposed", "linear", "and", "nonlinear", "algorithms", "are", "calculated", "using", "the", "duplicate", "data", "shown", "in", "Table", "1", ",", "where", "the", "Web-C", "is", "chosen", "as", "the", "reference", "Web", "forum", "since", "it", "shares", "the", "most", "duplicate", "photos", "with", "other", "forums", ".", "Table", "2", "and", "3", "show", "the", "measure", "on", "the", "linear", "model", "and", "nonlinear", "model", ".", "As", "kl", "is", "symmetric", "and", "kk", "=", "0", ",", "we", "only", "show", "the", "upper", "triangular", "part", ".", "The", "NaN", "values", "in", "both", "tables", "lie", "in", "that", "no", "duplicate", "photos", "have", "been", "detected", "by", "the", "Dedup", "algorithm", "as", "reported", "in", "Table", "1", ".", "The", "linear", "model", "guarantees", "that", "the", "measures", "related", "Table", "1", ":", "Number", "of", "duplicate", "photos", "between", "each", "pair", "of", "Web", "forums", "A", "B", "C", "D", "E", "F", "Scale", "A", "0", "316", "1,386", "178", "302", "0", "130k", "B", "316", "0", "14,708", "909", "8,023", "348", "675k", "C", "1,386", "14,708", "0", "1,508", "19,271", "1,083", "1,003", "k", "D", "178", "909", "1,508", "0", "1,084", "21", "155k", "E", "302", "8,023", "19,271", "1,084", "0", "98", "448k", "F", "0", "348", "1,083", "21", "98", "0", "122k", "383", "Figure", "9", ":", "Some", "results", "of", "duplicate", "photo", "detection", "Table", "2", ":", "measure", "on", "the", "linear", "model", ".", "Web-B", "Web-C", "Web-D", "Web-E", "Web-F", "Web-A", "0.0659", "0.0911", "0.0956", "0.0928", "NaN", "Web-B", "0.0672", "0.0578", "0.0791", "0.4618", "Web-C", "0.0105", "0.0070", "0.2220", "Web-D", "0.0566", "0.0232", "Web-E", "0.6525", "to", "the", "reference", "community", "should", "be", "no", "less", "than", "0", "theo-retically", ".", "It", "is", "indeed", "the", "case", "-LRB-", "see", "the", "underlined", "numbers", "in", "Table", "2", "-RRB-", ".", "But", "this", "model", "can", "not", "guarantee", "that", "the", "measures", "on", "the", "non-reference", "communities", "can", "also", "be", "no", "less", "than", "0", ",", "as", "the", "normalization", "steps", "are", "based", "on", "duplicate", "photos", "between", "the", "reference", "community", "and", "a", "non-reference", "community", ".", "Results", "shows", "that", "all", "the", "numbers", "in", "the", "measure", "are", "greater", "than", "0", "-LRB-", "see", "all", "the", "non-underlined", "numbers", "in", "Table", "2", "-RRB-", ",", "which", "indicates", "that", "it", "is", "probable", "that", "this", "model", "will", "give", "optimal", "results", ".", "On", "the", "contrary", ",", "the", "nonlinear", "model", "does", "not", "guarantee", "that", "measures", "related", "to", "the", "reference", "community", "should", "be", "no", "less", "than", "0", ",", "as", "not", "all", "duplicate", "photos", "between", "the", "two", "Web", "forums", "can", "be", "used", "when", "optimizing", "this", "model", ".", "In", "fact", ",", "the", "duplicate", "photos", "that", "lie", "in", "different", "intervals", "will", "not", "be", "used", "in", "this", "model", ".", "It", "is", "these", "specific", "duplicate", "photos", "that", "make", "the", "measure", "negative", ".", "As", "a", "result", ",", "there", "are", "both", "negative", "and", "positive", "items", "in", "Table", "3", ",", "but", "overall", "the", "number", "of", "positive", "ones", "are", "greater", "than", "negative", "ones", "-LRB-", "9:5", "-RRB-", ",", "that", "indicates", "the", "model", "may", "be", "better", "than", "the", "``", "nor-malization", "only", "''", "method", "-LRB-", "see", "next", "subsection", "-RRB-", "which", "has", "an", "all-zero", "measure", ",", "and", "worse", "than", "the", "linear", "model", ".", "3.5", "User", "Study", "Because", "it", "is", "hard", "to", "find", "an", "objective", "criterion", "to", "evaluate", "Table", "3", ":", "measure", "on", "the", "nonlinear", "model", ".", "Web-B", "Web-C", "Web-D", "Web-E", "Web-F", "Web-A", "0.0559", "0.0054", "-0.0185", "-0.0054", "NaN", "Web-B", "-0.0162", "-0.0345", "-0.0301", "0.0466", "Web-C", "0.0136", "0.0071", "0.1264", "Web-D", "0.0032", "0.0143", "Web-E", "0.214", "which", "ranking", "function", "is", "better", ",", "we", "chose", "to", "employ", "user", "studies", "for", "subjective", "evaluations", ".", "Ten", "subjects", "were", "invited", "to", "participate", "in", "the", "user", "study", ".", "They", "were", "recruited", "from", "nearby", "universities", ".", "As", "search", "engines", "of", "both", "text", "search", "and", "image", "search", "are", "familiar", "to", "university", "students", ",", "there", "was", "no", "prerequisite", "criterion", "for", "choosing", "students", ".", "We", "conducted", "user", "studies", "using", "Internet", "Explorer", "6.0", "on", "Windows", "XP", "with", "17-inch", "LCD", "monitors", "set", "at", "1,280", "pixels", "by", "1,024", "pixels", "in", "32-bit", "color", ".", "Data", "was", "recorded", "with", "server", "logs", "and", "paper-based", "surveys", "after", "each", "task", ".", "Figure", "10", ":", "User", "study", "interface", "We", "specifically", "device", "an", "interface", "for", "user", "study", "as", "shown", "in", "Figure", "10", ".", "For", "each", "pair", "of", "fusion", "methods", ",", "participants", "were", "encouraged", "to", "try", "any", "query", "they", "wished", ".", "For", "those", "without", "specific", "ideas", ",", "two", "combo", "boxes", "-LRB-", "category", "list", "and", "query", "list", "-RRB-", "were", "listed", "on", "the", "bottom", "panel", ",", "where", "the", "top", "1,000", "image", "search", "queries", "from", "a", "commercial", "search", "engine", "were", "provided", ".", "After", "a", "participant", "submitted", "a", "query", ",", "the", "system", "randomly", "selected", "the", "left", "or", "right", "frame", "to", "display", "each", "of", "the", "two", "ranking", "results", ".", "The", "participant", "were", "then", "required", "to", "judge", "which", "ranking", "result", "was", "better", "of", "the", "two", "ranking", "results", ",", "or", "whether", "the", "two", "ranking", "results", "were", "of", "equal", "quality", ",", "and", "submit", "the", "judgment", "by", "choosing", "the", "corresponding", "radio", "button", "and", "clicking", "the", "``", "Submit", "''", "button", ".", "For", "example", ",", "in", "Figure", "10", ",", "query", "``", "sunset", "''", "is", "submitted", "to", "the", "system", ".", "Then", ",", "79,092", "photos", "were", "returned", "and", "ranked", "by", "the", "Minmax", "fusion", "method", "in", "the", "left", "frame", "and", "linear", "fusion", "method", "in", "the", "right", "frame", ".", "A", "participant", "then", "compares", "the", "two", "ranking", "results", "-LRB-", "without", "knowing", "the", "ranking", "methods", "-RRB-", "and", "submits", "his/her", "feedback", "by", "choosing", "answers", "in", "the", "``", "Your", "option", ".", "''", "Table", "4", ":", "Results", "of", "user", "study", "Norm.Only", "Manually", "Linear", "Linear", "29:13:10", "14:22:15", "-", "Nonlinear", "29:15:9", "12:27:12", "6:4:45", "Table", "4", "shows", "the", "experimental", "results", ",", "where", "``", "Linear", "''", "denotes", "the", "linear", "fusion", "method", ",", "``", "Nonlinear", "''", "denotes", "the", "non", "linear", "fusion", "method", ",", "``", "Norm", ".", "Only", "''", "means", "Maxmin", "normalization", "method", ",", "``", "Manually", "''", "means", "the", "manually", "tuned", "method", ".", "The", "three", "numbers", "in", "each", "item", ",", "say", "29:13:10", ",", "mean", "that", "29", "judgments", "prefer", "the", "linear", "fusion", "results", ",", "10", "384", "judgments", "prefer", "the", "normalization", "only", "method", ",", "and", "13", "judgments", "consider", "these", "two", "methods", "as", "equivalent", ".", "We", "conduct", "the", "ANOVA", "analysis", ",", "and", "obtain", "the", "following", "conclusions", ":", "1", ".", "Both", "the", "linear", "and", "nonlinear", "methods", "are", "significantly", "better", "than", "the", "``", "Norm", ".", "Only", "''", "method", "with", "respective", "P-values", "0", ".00165", "-LRB-", "<", "0.05", "-RRB-", "and", "0.00073", "-LRB-", "<", "<", "0.05", "-RRB-", ".", "This", "result", "is", "consistent", "with", "the", "-", "measure", "evaluation", "result", ".", "The", "``", "Norm", ".", "Only", "''", "method", "assumes", "that", "the", "top", "10", "%", "photos", "in", "different", "forums", "are", "of", "the", "same", "quality", ".", "However", ",", "this", "assumption", "does", "not", "stand", "in", "general", ".", "For", "example", ",", "a", "top", "10", "%", "photo", "in", "a", "top", "tier", "photo", "forum", "is", "generally", "of", "higher", "quality", "than", "a", "top", "10", "%", "photo", "in", "a", "second-tier", "photo", "forum", ".", "This", "is", "similar", "to", "that", ",", "those", "top", "10", "%", "students", "in", "a", "top-tier", "university", "and", "those", "in", "a", "second-tier", "university", "are", "generally", "of", "different", "quality", ".", "Both", "linear", "and", "nonlinear", "fusion", "methods", "acknowledge", "the", "existence", "of", "such", "differences", "and", "aim", "at", "quantizing", "the", "differences", ".", "Therefore", ",", "they", "perform", "better", "than", "the", "``", "Norm", ".", "Only", "''", "method", ".", "2", ".", "The", "linear", "fusion", "method", "is", "significantly", "better", "than", "the", "nonlinear", "one", "with", "P-value", "1", ".195", "10", "-10", ".", "This", "result", "is", "rather", "surprising", "as", "this", "more", "complicated", "ranking", "method", "is", "expected", "to", "tune", "the", "ranking", "more", "finely", "than", "the", "linear", "one", ".", "The", "main", "reason", "for", "this", "result", "may", "be", "that", "it", "is", "difficult", "to", "find", "the", "best", "intervals", "where", "the", "nonlinear", "tuning", "should", "be", "carried", "out", "and", "yet", "simply", "the", "middle", "part", "of", "the", "Mode-90", "%", "Percentile", "Normalization", "method", "was", "chosen", ".", "The", "time-consuming", "and", "subjective", "evaluation", "methods", "--", "user", "studies", "--", "blocked", "us", "extensively", "tuning", "these", "parameters", ".", "3", ".", "The", "proposed", "linear", "and", "nonlinear", "methods", "perform", "almost", "the", "same", "with", "or", "slightly", "better", "than", "the", "manually", "tuned", "method", ".", "Given", "that", "the", "linear/nonlinear", "fusion", "methods", "are", "fully", "automatic", "approaches", ",", "they", "are", "considered", "practical", "and", "efficient", "solutions", "when", "more", "communities", "-LRB-", "e.g.", "dozens", "of", "communities", "-RRB-", "need", "to", "be", "integrated", ".", "In", "this", "paper", ",", "we", "studied", "the", "Web", "object-ranking", "problem", "in", "the", "cases", "of", "lacking", "object", "relationships", "where", "traditional", "ranking", "algorithms", "are", "no", "longer", "valid", ",", "and", "took", "high-quality", "photo", "search", "as", "the", "test", "bed", "for", "this", "investigation", ".", "We", "have", "built", "a", "vertical", "high-quality", "photo", "search", "engine", ",", "and", "proposed", "score", "fusion", "methods", "which", "can", "automatically", "integrate", "as", "many", "data", "sources", "-LRB-", "Web", "forums", "-RRB-", "as", "possible", ".", "The", "proposed", "fusion", "methods", "leverage", "the", "hidden", "links", "discovered", "by", "duplicate", "photo", "detection", "algorithm", ",", "and", "minimize", "score", "differences", "of", "duplicate", "photos", "in", "different", "forums", ".", "Both", "the", "intermediate", "results", "and", "the", "user", "studies", "show", "that", "the", "proposed", "fusion", "methods", "are", "a", "practical", "and", "efficient", "solution", "to", "Web", "object", "ranking", "in", "the", "aforesaid", "relationships", ".", "Though", "the", "experiments", "were", "conducted", "on", "high-quality", "photo", "ranking", ",", "the", "proposed", "algorithms", "are", "also", "applicable", "to", "other", "kinds", "of", "Web", "objects", "including", "video", "clips", ",", "poems", ",", "short", "stories", ",", "music", ",", "drawings", ",", "sculptures", ",", "and", "so", "on", ".", "Current", "system", "is", "far", "from", "being", "perfect", ".", "In", "order", "to", "make", "this", "system", "more", "effective", ",", "more", "delicate", "analysis", "for", "the", "vertical", "domain", "-LRB-", "e.g.", ",", "Web", "photo", "forums", "-RRB-", "are", "needed", ".", "The", "following", "points", ",", "for", "example", ",", "may", "improve", "the", "searching", "results", "and", "will", "be", "our", "future", "work", ":", "1", ".", "more", "subtle", "analysis", "and", "then", "utilization", "of", "different", "kinds", "of", "ratings", "-LRB-", "e.g.", ",", "novelty", "ratings", ",", "aesthetic", "ratings", "-RRB-", ";", "2", ".", "differentiating", "various", "communities", "who", "may", "have", "different", "interests", "and", "preferences", "or", "even", "distinct", "culture", "understandings", ";", "3", ".", "incorporating", "more", "useful", "information", ",", "including", "photographers", "'", "and", "reviewers", "'", "information", ",", "to", "model", "the", "photos", "in", "a", "heterogeneous", "data", "space", "instead", "of", "the", "current", "homogeneous", "one", ".", "We", "will", "further", "utilize", "collaborative", "filtering", "to", "recommend", "relevant", "high-quality", "photos", "to", "browsers", ".", "One", "open", "problem", "is", "whether", "we", "can", "find", "an", "objective", "and", "efficient", "criterion", "for", "evaluating", "the", "ranking", "results", ",", "instead", "of", "employing", "subjective", "and", "inefficient", "user", "studies", ",", "which", "blocked", "us", "from", "trying", "more", "ranking", "algorithms", "and", "tuning", "parameters", "in", "one", "algorithm", ".", "We", "thank", "Bin", "Wang", "and", "Zhi", "Wei", "Li", "for", "providing", "Dedup", "codes", "to", "detect", "duplicate", "photos", ";", "Zhen", "Li", "for", "helping", "us", "design", "the", "interface", "of", "EnjoyPhoto", ";", "Ming", "Jing", "Li", ",", "Longbin", "Chen", ",", "Changhu", "Wang", ",", "Yuanhao", "Chen", ",", "and", "Li", "Zhuang", "etc.", "for", "useful", "discussions", ".", "Special", "thanks", "go", "to", "Dwight", "Daniels", "for", "helping", "us", "revise", "the", "language", "of", "this", "paper", ".", "-LSB-", "1", "-RSB-", "Google", "image", "search", ".", "http://images.google.com", ".", "-LSB-", "2", "-RSB-", "Google", "local", "search", ".", "http://local.google.com/", ".", "-LSB-", "3", "-RSB-", "Google", "news", "search", ".", "http://news.google.com", ".", "-LSB-", "4", "-RSB-", "Google", "paper", "search", ".", "http://Scholar.google.com", ".", "-LSB-", "5", "-RSB-", "Google", "product", "search", ".", "http://froogle.google.com", ".", "-LSB-", "6", "-RSB-", "Google", "video", "search", ".", "http://video.google.com", ".", "-LSB-", "7", "-RSB-", "Scientific", "literature", "digital", "library", ".", "http://citeseer.ist.psu.edu", ".", "-LSB-", "8", "-RSB-", "Yahoo", "image", "search", ".", "http://images.yahoo.com", ".", "-LSB-", "9", "-RSB-", "R.", "Baeza-Yates", "and", "B.", "Ribeiro-Neto", ".", "Modern", "Information", "Retrieval", ".", "New", "York", ":", "ACM", "Press", ";", "Harlow", ",", "England", ":", "Addison-Wesley", ",", "1999", ".", "-LSB-", "10", "-RSB-", "W.", "Bin", ",", "L.", "Zhiwei", ",", "L.", "Ming", "Jing", ",", "and", "M.", "Wei-Ying", ".", "Large-scale", "duplicate", "detection", "for", "web", "image", "search", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Multimedia", "and", "Expo", ",", "page", "353", ",", "2006", ".", "-LSB-", "11", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine", ".", "In", "Computer", "Networks", ",", "volume", "30", ",", "pages", "107", "117", ",", "1998", ".", "-LSB-", "12", "-RSB-", "C.", "Burges", ",", "T.", "Shaked", ",", "E.", "Renshaw", ",", "A.", "Lazier", ",", "M.", "Deeds", ",", "N.", "Hamilton", ",", "and", "G.", "Hullender", ".", "Learning", "to", "rank", "using", "gradient", "descent", ".", "In", "Proceedings", "of", "the", "22nd", "international", "conference", "on", "Machine", "learning", ",", "pages", "89", "96", ",", "2005", ".", "-LSB-", "13", "-RSB-", "C.", "Dwork", ",", "R.", "Kumar", ",", "M.", "Naor", ",", "and", "D.", "Sivakumar", ".", "Rank", "aggregation", "methods", "for", "the", "web", ".", "In", "Proceedings", "10th", "International", "Conference", "on", "World", "Wide", "Web", ",", "pages", "613", "622", ",", "Hong-Kong", ",", "2001", ".", "-LSB-", "14", "-RSB-", "R.", "Fagin", ",", "R.", "Kumar", ",", "and", "D.", "Sivakumar", ".", "Comparing", "top", "k", "lists", ".", "SIAM", "Journal", "on", "Discrete", "Mathematics", ",", "17", "-LRB-", "1", "-RRB-", ":", "134", "160", ",", "2003", ".", "-LSB-", "15", "-RSB-", "Y.", "Freund", ",", "R.", "Iyer", ",", "R.", "E.", "Schapire", ",", "and", "Y.", "Singer", ".", "An", "efficient", "boosting", "algorithm", "for", "combining", "preferences", ".", "385", "Journal", "of", "Machine", "Learning", "Research", ",", "4", "-LRB-", "1", "-RRB-", ":", "933", "969", "-LRB-", "37", "-RRB-", ",", "2004", ".", "-LSB-", "16", "-RSB-", "IMDB", ".", "Formula", "for", "calculating", "the", "top", "rated", "250", "titles", "in", "imdb", ".", "http://www.imdb.com/chart/top", ".", "-LSB-", "17", "-RSB-", "T.", "Joachims", ".", "Optimizing", "search", "engines", "using", "clickthrough", "data", ".", "In", "Proceedings", "of", "the", "eighth", "ACM", "SIGKDD", "international", "conference", "on", "Knowledge", "discovery", "and", "data", "mining", ",", "pages", "133", "142", ",", "2002", ".", "-LSB-", "18", "-RSB-", "J.", "M.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "Journal", "of", "the", "ACM", ",", "46", "-LRB-", "5", "-RRB-", ":", "604", "632", ",", "1999", ".", "-LSB-", "19", "-RSB-", "R.", "Nallapati", ".", "Discriminative", "models", "for", "information", "retrieval", ".", "In", "Proceedings", "of", "the", "25th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "64", "71", ",", "2004", ".", "-LSB-", "20", "-RSB-", "Z.", "Nie", ",", "Y.", "Ma", ",", "J.-R", ".", "Wen", ",", "and", "W.-Y", ".", "Ma", ".", "Object-level", "web", "information", "retrieval", ".", "In", "Technical", "Report", "of", "Microsoft", "Research", ",", "volume", "MSR-TR-2005-11", ",", "2005", ".", "-LSB-", "21", "-RSB-", "Z.", "Nie", ",", "Y.", "Zhang", ",", "J.-R", ".", "Wen", ",", "and", "W.-Y", ".", "Ma", ".", "Object-level", "ranking", ":", "Bringing", "order", "to", "web", "objects", ".", "In", "Proceedings", "of", "the", "14th", "international", "conference", "on", "World", "Wide", "Web", ",", "pages", "567", "574", ",", "Chiba", ",", "Japan", ",", "2005", ".", "-LSB-", "22", "-RSB-", "L.", "Page", ",", "S.", "Brin", ",", "R.", "Motwani", ",", "and", "T.", "Winograd", ".", "The", "pagerank", "citation", "ranking", ":", "Bringing", "order", "to", "the", "web", ".", "In", "Technical", "report", ",", "Stanford", "Digital", "Libraries", ",", "1998", ".", "-LSB-", "23", "-RSB-", "A.", "Savakis", ",", "S.", "Etz", ",", "and", "A.", "Loui", ".", "Evaluation", "of", "image", "appeal", "in", "consumer", "photography", ".", "In", "SPIE", "Human", "Vision", "and", "Electronic", "Imaging", ",", "pages", "111", "120", ",", "2000", ".", "-LSB-", "24", "-RSB-", "D.", "Sullivan", ".", "Hitwise", "search", "engine", "ratings", ".", "Search", "Engine", "Watch", "Articles", ",", "http://searchenginewatch", ".", "com/reports/article", ".", "php/3099931", ",", "August", "23", ",", "2005", ".", "-LSB-", "25", "-RSB-", "S.", "Susstrunk", "and", "S.", "Winkler", ".", "Color", "image", "quality", "on", "the", "internet", ".", "In", "IS&T", "/", "SPIE", "Electronic", "Imaging", "2004", ":", "Internet", "Imaging", "V", ",", "volume", "5304", ",", "pages", "118", "131", ",", "2004", ".", "-LSB-", "26", "-RSB-", "H.", "Tong", ",", "M.", "Li", ",", "Z.", "H.J.", ",", "J.", "He", ",", "and", "Z.", "C.S.", "Classification", "of", "digital", "photos", "taken", "by", "photographers", "or", "home", "users", ".", "In", "Pacific-Rim", "Conference", "on", "Multimedia", "-LRB-", "PCM", "-RRB-", ",", "pages", "198", "205", ",", "2004", ".", "-LSB-", "27", "-RSB-", "W.", "Xi", ",", "B.", "Zhang", ",", "Z.", "Chen", ",", "Y.", "Lu", ",", "S.", "Yan", ",", "W.-Y", ".", "Ma", ",", "and", "E.", "A.", "Fox", ".", "Link", "fusion", ":", "a", "unified", "link", "analysis", "framework", "for", "multi-type", "interrelated", "data", "objects", ".", "In", "Proceedings", "of", "the", "13th", "international", "conference", "on", "World", "Wide", "Web", ",", "pages", "319", "327", ",", "2004", ".", "386"], "doc_bio_tags": ["B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["web objects", "ranking", "image search"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "21", "document": ["A", "Taxonomy", "of", "Ambient", "Information", "Systems", ":", "Four", "Patterns", "of", "Design", "Researchers", "have", "explored", "the", "design", "of", "ambient", "information", "systems", "across", "a", "wide", "range", "of", "physical", "and", "screen-based", "media", ".", "This", "work", "has", "yielded", "rich", "examples", "of", "design", "approaches", "to", "the", "problem", "of", "presenting", "information", "about", "a", "user", "'s", "world", "in", "a", "way", "that", "is", "not", "distracting", ",", "but", "is", "aesthetically", "pleasing", ",", "and", "tangible", "to", "varying", "degrees", ".", "Despite", "these", "successes", ",", "accumulating", "theoretical", "and", "craft", "knowledge", "has", "been", "stymied", "by", "the", "lack", "of", "a", "unified", "vocabulary", "to", "describe", "these", "systems", "and", "a", "consequent", "lack", "of", "a", "framework", "for", "understanding", "their", "design", "attributes", ".", "We", "argue", "that", "this", "area", "would", "significantly", "benefit", "from", "consensus", "about", "the", "design", "space", "of", "ambient", "information", "systems", "and", "the", "design", "attributes", "that", "define", "and", "distinguish", "existing", "approaches", ".", "We", "present", "a", "definition", "of", "ambient", "information", "systems", "and", "a", "taxonomy", "across", "four", "design", "dimensions", ":", "Information", "Capacity", ",", "Notification", "Level", ",", "Representational", "Fidelity", ",", "and", "Aesthetic", "Emphasis", ".", "Our", "analysis", "has", "uncovered", "four", "patterns", "of", "system", "design", "and", "points", "to", "unexplored", "regions", "of", "the", "design", "space", ",", "which", "may", "motivate", "future", "work", "in", "the", "field", ".", "Visual", "Interface", "Design", ",", "Tangible", "Interfaces", "From", "the", "very", "first", "formulation", "of", "Ubiquitous", "Computing", ",", "the", "idea", "of", "a", "calmer", "and", "more", "environmentally", "integrated", "way", "of", "displaying", "information", "has", "held", "intuitive", "appeal", ".", "Weiser", "called", "this", "``", "calm", "computing", "''", "-LSB-", "35", "-RSB-", "and", "described", "the", "area", "through", "an", "elegant", "example", ":", "a", "small", ",", "tangible", "representation", "of", "information", "in", "the", "world", ",", "a", "dangling", "string", "that", "would", "wiggle", "based", "on", "network", "traffic", ".", "When", "information", "can", "be", "conveyed", "via", "calm", "changes", "in", "the", "environment", ",", "users", "are", "more", "able", "to", "focus", "on", "their", "primary", "work", "tasks", "while", "staying", "aware", "of", "non-critical", "information", "that", "affects", "them", ".", "Research", "in", "this", "sub-domain", "goes", "by", "various", "names", "including", "``", "ambient", "displays", "''", ",", "``", "peripheral", "displays", "''", ",", "and", "``", "notification", "systems", "''", ".", "The", "breadth", "of", "the", "systems", "in", "these", "broad", "categories", "is", "quite", "large", ".", "We", "seek", "to", "disentangle", "the", "terminology", "used", "to", "describe", "and", "categorize", "the", "wide", "array", "of", "systems", "in", "order", "to", "provide", "a", "common", "language", "for", "discussing", "research", "therein", ".", "An", "ambient", "display", "can", "represent", "many", "types", "of", "data", ",", "from", "stock", "prices", ",", "to", "weather", "forecasts", ",", "to", "the", "presence", "or", "absence", "of", "colleagues", ".", "Maintaining", "awareness", "of", "co-located", "and", "distant", "work", "and", "social", "groups", "has", "been", "a", "long-term", "research", "thread", "in", "the", "area", "of", "Computer", "Supported", "Cooperative", "Work", "-LRB-", "CSCW", "-RRB-", "-LSB-", "5", ",", "8", "-RSB-", ".", "The", "Tangible", "Media", "Group", "at", "the", "MIT", "Media", "Lab", ",", "directed", "by", "Ishii", ",", "also", "helped", "shape", "the", "field", "of", "ambient", "computation", ".", "They", "coined", "the", "term", "``", "tangible", "media", ",", "''", "citing", "inspiration", "from", "Weiser", "'s", "vision", "-LSB-", "35", "-RSB-", "and", "from", "Pederson", "and", "Sokoler", "'s", "AROMA", "system", "-LSB-", "29", "-RSB-", "and", "developed", "AmbientROOM", "-LSB-", "17", "-RSB-", "and", "Ambient", "Fixtures", "-LSB-", "6", ",", "18", "-RSB-", ".", "These", "systems", "use", "ambient", "displays", "to", "make", "people", "aware", "of", "both", "group", "activity", "and", "other", "information", "such", "as", "network", "traffic", ".", "Recent", "work", "in", "Ambient", "Intelligence", "has", "brought", "techniques", "from", "Artificial", "Intelligence", "to", "ambient", "systems", ",", "spearheaded", "by", "the", "Disappearing", "Computer", "initiative", "of", "the", "European", "Union", "-LSB-", "31", "-RSB-", ".", "This", "research", "thrust", "seeks", "to", "imbue", "ambient", "systems", "with", "contextual", "knowledge", "about", "the", "environment", ".", "The", "Roomware", "project", "has", "resulted", "in", "smart", "architectural", "spaces", "that", "support", "information", "conveyance", "-LRB-", "and", "group", "collaboration", "-RRB-", "-LSB-", "33", "-RSB-", ".", "Researchers", "have", "developed", "systems", "that", "use", "a", "multitude", "of", "everyday", "objects", "to", "display", "information", ".", "Examples", "include", "lights", "of", "various", "sorts", "-LSB-", "2", ",", "17", "-RSB-", ",", "sounds", "-LSB-", "25", "-RSB-", ",", "shadows", "-LSB-", "8", "-RSB-", ",", "artificial", "flowers", "-LSB-", "18", "-RSB-", ",", "mobiles", "-LSB-", "24", "-RSB-", ",", "and", "office-d", "cor", "water", "fountains", "-LSB-", "12", ",", "16", "-RSB-", ".", "Further", "research", "has", "sought", "to", "use", "framed", "photographs", "-LSB-", "26", "-RSB-", "and", "larger", "artistic", "pictures", "to", "represent", "information", "from", "the", "world", "in", "an", "art-like", "manner", "-LSB-", "14", ",", "30", ",", "32", "-RSB-", ".", "There", "are", "also", "peripheral", "display", "``", "modes", "''", "of", "a", "user", "'s", "main", "desktop", ",", "including", "screensavers", "like", "What", "'s", "Happening", "-LSB-", "36", "-RSB-", ",", "information", "bars", "and", "menus", "such", "as", "those", "leveraged", "in", "Sideshow", "and", "Irwin", "-LSB-", "6", ",", "22", "-RSB-", ",", "and", "alternate", "panes", ",", "like", "Apple", "'s", "Dashboard", "-LSB-", "3", "-RSB-", ".", "As", "one", "can", "see", ",", "the", "design", "space", "is", "large", ".", "All", "these", "systems", "provide", "a", "rich", "history", "of", "system", "design", "principles", ",", "approaches", ",", "and", "decisions", ",", "but", "accumulating", "theoretical", "and", "craft", "knowledge", "has", "been", "stymied", "by", "the", "lack", "of", "a", "unified", "vocabulary", "to", "define", "and", "describe", "these", "systems", ".", "In", "this", "paper", "we", "propose", "a", "set", "of", "design", "choices", "that", "developers", "of", "ambient", "information", "systems", "must", "confront", "to", "build", "successful", "and", "compelling", "systems", ".", "First", "we", "set", "out", "a", "definition", "of", "an", "ambient", "information", "system", "that", "is", "a", "synthesis", "of", "the", "varied", "definitions", "given", "in", "published", "research", ".", "We", "hone", "the", "intuitive", "set", "of", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "AVI", "'", "06", ",", "May", "23-26", ",", "2006", ",", "Venezia", ",", "Italy", ".", "Copyright", "2006", "ACM", "1-59593-353-0", "/", "06/0005", ".", "$", "5.00", ".", "67", "characteristics", "that", "distinguish", "ambient", "systems", "from", "other", "ubiquitous", "computing", "research", "systems", ".", "Next", ",", "we", "propose", "a", "set", "of", "design", "dimensions", "for", "ambient", "information", "systems", ".", "The", "four", "dimensions", "of", "system", "design", "elucidate", "the", "main", "decisions", "one", "confronts", "when", "designing", "an", "effective", "ambient", "system", ".", "Finally", ",", "we", "explore", "the", "clusters", "across", "dimensions", "to", "uncover", "four", "coherent", "combinations", "of", "system", "designs", ",", "which", "work", "as", "design", "patterns", "for", "the", "field", ".", "The", "results", "also", "identify", "new", "ways", "of", "combining", "the", "design", "attributes", "to", "explore", "new", "possibilities", "for", "ambient", "information", "systems", ".", "Many", "different", "terms", "have", "been", "used", "to", "describe", "the", "types", "of", "systems", "we", "discuss", "in", "this", "paper", ".", "Three", "of", "the", "most", "commonly", "used", "terms", "are", "``", "ambient", "display", ",", "''", "``", "peripheral", "display", ",", "''", "and", "``", "notification", "system", ".", "''", "But", "how", "does", "one", "differentiate", "these", "terms", "?", "Based", "on", "general", "understandings", ",", "we", "claim", "that", ":", "all", "ambient", "displays", "are", "peripheral", "displays", ",", "some", "notification", "systems", "are", "peripheral", "displays", "-LRB-", "some", "notification", "systems", "are", "not", "peripheral", "but", "are", "instead", "the", "object", "of", "focused", "work", "and", "attention", "-RRB-", "The", "words", "of", "researchers", "themselves", "likely", "best", "explain", "their", "conceptions", "of", "the", "systems", "that", "they", "have", "built", ".", "Below", ",", "we", "present", "germane", "definitional", "quotes", ".", "Ishii", "et", "al", ":", "''", "-LSB-", "In", "Ambient", "Displays", "-RSB-", "information", "is", "moved", "off", "the", "screen", "into", "the", "physical", "environment", ",", "manifesting", "itself", "as", "subtle", "changes", "in", "form", ",", "movement", ",", "sound", ",", "color", ",", "smell", ",", "temperature", ",", "or", "light", ".", "Ambient", "displays", "are", "well", "suited", "as", "a", "means", "to", "keep", "users", "aware", "of", "people", "or", "general", "states", "of", "large", "systems", ",", "like", "network", "traffic", "and", "weather", ".", "''", "-LSB-", "17", "-RSB-", "Matthews", "et", "al", ":", "Peripheral", "displays", ",", "then", ",", "are", "displays", "that", "show", "information", "that", "a", "person", "is", "aware", "of", ",", "but", "not", "focused", "on", ".", "-LSB-", "24", "-RSB-", "Matthews", "et", "al", ":", "``", "Ambient", "displays", "might", "be", "defined", "as", "those", "that", "are", "``", "minimally", "attended", "''", "-LRB-", "e.g.", "just", "salient", "enough", "for", "conscious", "perception", "-RRB-", "while", "alerting", "displays", "are", "``", "maximally", "divided", "''", "-LRB-", "e.g.", "slightly", "less", "salient", "than", "focal", "tasks", "-RRB-", ".", "-LSB-", "24", "-RSB-", "Stasko", "et", "al", ":", "Ambient", "displays", "typically", "communicate", "just", "one", ",", "or", "perhaps", "a", "few", "at", "the", "most", ",", "pieces", "of", "information", "and", "the", "aesthetics", "and", "visual", "appeal", "of", "the", "display", "is", "often", "paramount", ".", "Peripheral", "displays", "refer", "to", "systems", "that", "are", "out", "of", "a", "person", "'s", "primary", "focus", "of", "attention", "and", "may", "communicate", "one", "or", "more", "pieces", "of", "information", ".", "''", "-LSB-", "32", "-RSB-", "Mankoff", "et", "al", ":", "``", "Ambient", "displays", "are", "abstract", "and", "aesthetic", "peripheral", "displays", "portraying", "non-critical", "information", "on", "the", "periphery", "of", "a", "user", "'s", "attention", "...", "They", "generally", "support", "monitoring", "of", "non-critical", "information", ".", "''", "``", "Ambient", "displays", "have", "the", "ambitious", "goal", "of", "presenting", "information", "without", "distracting", "or", "burdening", "the", "user", ".", "''", "-LSB-", "20", "-RSB-", "Rounding", "and", "Greenberg", ":", "``", "The", "-LSB-", "notification", "collage", "-RSB-", "is", "designed", "to", "present", "info", "-LSB-", "rmation", "-RSB-", "as", "lightweight", "and", "peripheral", "objects", ".", "It", "does", "not", "demand", "the", "full", "attention", "of", "its", "users", ":", "rather", "it", "can", "be", "attended", "to", "in", "passing", ",", "where", "people", "collaborate", "should", "the", "need", "or", "desire", "arise", ".", "''", "-LSB-", "14", "-RSB-", "McCrickard", "et", "al", ":", "``", "Often", "implemented", "as", "ubiquitous", "systems", "or", "within", "a", "small", "portion", "of", "the", "traditional", "desktop", ",", "notification", "systems", "typically", "deliver", "information", "of", "interest", "in", "a", "parallel", ",", "multitasking", "approach", ",", "extraneous", "or", "supplemental", "to", "a", "user", "'s", "attention", "priority", ".", "''", "-LSB-", "21", "-RSB-", "McCrickard", "et", "al", ":", "Notification", "systems", "are", "defined", "as", "interfaces", "that", "are", "typically", "used", "in", "a", "divided-attention", ",", "multitasking", "situation", ",", "attempting", "to", "deliver", "current", ",", "valued", "information", "through", "a", "variety", "of", "platforms", "and", "modes", "in", "an", "efficient", "and", "effective", "manner", "-LSB-", "21", "-RSB-", ".", "The", "easiest", "way", "to", "explain", "the", "differences", "between", "systems", "is", "to", "look", "at", "the", "design", "motivations", "that", "informed", "them", ".", "Ambient", "displays", "are", "those", "that", "have", "pointed", "aesthetic", "goals", "and", "present", "a", "very", "small", "number", "of", "information", "elements", ".", "These", "systems", "are", "a", "proper", "subset", "of", "peripheral", "displays", ",", "which", "can", "appear", "either", "in", "the", "environment", "or", "on", "secondary", "or", "even", "primary", "computer", "displays", ".", "Notification", "systems", "'", "design", "motivation", "results", "from", "divided", "attention", "situations", ".", "As", "such", ",", "they", "can", "be", "equal", "to", "a", "primary", "work", "task", "in", "their", "attentional", "needs", "or", "be", "secondary", ".", "When", "notification", "systems", "are", "designed", "to", "be", "secondary", "to", "a", "primary", "task", ",", "the", "systems", "are", "appropriately", "defined", "as", "peripheral", ".", "In", "this", "paper", ",", "we", "propose", "the", "term", "ambient", "information", "system", "as", "the", "unit", "of", "study", "and", "define", "the", "behavioral", "characteristics", "of", "such", "as", "systems", "as", "follows", ":", "Display", "information", "that", "is", "important", "but", "not", "critical", ".", "Can", "move", "from", "the", "periphery", "to", "the", "focus", "of", "attention", "and", "back", "again", ".", "Focus", "on", "the", "tangible", ";", "representations", "in", "the", "environment", ".", "Provide", "subtle", "changes", "to", "reflect", "updates", "in", "information", "-LRB-", "should", "not", "be", "distracting", "-RRB-", ".", "Are", "aesthetically", "pleasing", "and", "environmentally", "appropriate", ".", "A", "small", "number", "of", "research", "papers", "that", "describe", "ambient", "information", "systems", "also", "include", "extended", "discussions", "of", "the", "design", "dimensions", "that", "motivate", "and", "contextualize", "their", "work", ".", "The", "authors", "provide", "dimensions", "to", "compare", "and", "contrast", "their", "systems", "to", "others", "in", "order", "to", "explain", "their", "design", "rationales", ".", "Matthews", "et", "al", "use", "the", "dimensions", "notification", "level", ",", "transition", ",", "and", "abstraction", "to", "characterize", "systems", "in", "this", "space", "-LSB-", "24", "-RSB-", ".", "They", "developed", "the", "Peripheral", "Display", "Toolkit", "-LSB-", "23", "-RSB-", "that", "helps", "people", "to", "develop", "ambient", "information", "displays", "more", "easily", ".", "Their", "concept", "of", "notification", "level", "means", "the", "relative", "importance", "of", "a", "particular", "data", "stream", ".", "Transitions", "are", "the", "programmatic", "changes", "to", "the", "display", ",", "based", "on", "the", "data", ".", "Transitions", "include", "fading", ",", "scrolling", ",", "or", "animation", "effects", ".", "They", "define", "abstraction", "as", "the", "mapping", "that", "takes", "a", "piece", "of", "numerical", "or", "ordinal", "data", "and", "turns", "it", "into", "something", "that", "the", "ambient", "display", "can", "use", ",", "something", "``", "more", "easily", "interpreted", "with", "less", "-LSB-", "user", "-RSB-", "attention", ".", "''", "Matthews", "et", "al", "segregate", "notification", "level", "into", "five", "levels", ":", "Ignore", ",", "Change", "Blind", ",", "Make", "Aware", ",", "Interrupt", ",", "and", "Demand", "Attention", ".", "The", "gradations", "run", "from", "low", ",", "a", "system", "ignoring", "the", "change", "in", "the", "data", ",", "to", "high", ",", "a", "system", "demanding", "attention", "in", "a", "way", "that", "must", "also", "be", "explicitly", "dismissed", ".", "They", "propose", "categories", "of", "transition", ":", "interrupt", ",", "make", "aware", ",", "and", "change", "blind", ".", "Finally", ",", "they", "bifurcate", "abstraction", "into", "feature", "abstraction", "or", "degradation", ".", "McCrickard", "et", "al", "introduce", "a", "different", "set", "of", "three", "dimensions", "to", "classify", "notification", "systems", ":", "interruption", ",", "reaction", ",", "and", "comprehension", "-LSB-", "21", "-RSB-", ".", "Interruption", "is", "defined", "psychologically", ",", "similar", "to", "Matthews", "'", "notion", ",", "``", "as", "an", "event", "prompting", "transition", "and", "reallocation", "of", "attention", "focus", "from", "a", "-LSB-", "primary", "-RSB-", "task", "to", "the", "notification", ".", "''", "Reaction", "is", "defined", "as", "the", "rapid", "response", "to", "a", "given", "stimulus", ",", "while", "comprehension", "is", "the", "long-term", "notion", "of", "remembering", "and", "sense-making", ".", "68", "McCrickard", "et", "al", "then", "plot", "the", "design", "space", "as", "a", "3-tuple", "of", "interaction", ",", "reaction", ",", "and", "comprehension", "-LRB-", "IRC", "-RRB-", ".", "Each", "dimension", "is", "assigned", "a", "rating", "of", "high", "-LRB-", "1", "-RRB-", "or", "low", "-LRB-", "0", "-RRB-", ",", "creating", "models", "like", "0-1-0", ".", "They", "label", "these", "models", "with", "meaningful", "names", "like", "``", "Ambient", "Media", ",", "0-0-1", "''", "``", "Indicator", ",", "0-1-0", "''", "and", "``", "Critical", "Activity", "Monitor", ",", "1-1-1", ".", "''", "Eight", "models", "serve", "as", "the", "corners", "of", "a", "design", "space", ".", "The", "resulting", "space", ",", "it", "should", "be", "noted", ",", "is", "larger", "than", "the", "design", "space", "of", "ambient", "information", "systems", "as", "we", "discuss", "in", "this", "paper", "because", "it", "contains", "games", ",", "secondary", "displays", ",", "and", "critical", "activity", "monitors", "-LRB-", "which", "by", "our", "definition", ",", "are", "notification", "systems", "that", "are", "not", "also", "peripheral", "systems", "-RRB-", ".", "McCrickard", "also", "classifies", "a", "set", "of", "14", "extant", "systems", "in", "the", "design", "space", "on", "the", "three", "dimensions", ".", "Both", "of", "these", "taxonomies", "deal", "thoroughly", "with", "interruption", "and", "detail", "some", "of", "the", "criteria", "for", "categorizing", "systems", "along", "this", "design", "dimension", ".", "We", "extend", "this", "analysis", "to", "other", "dimensions", "of", "data", "representation", ",", "flexibility", ",", "and", "aesthetics", ".", "This", "more", "holistic", "view", "points", "out", "design", "trade-offs", "between", "aesthetic", "emphasis", "and", "and", "flexibility", ",", "and", "between", "a", "system", "'s", "information", "display", "style", "and", "display", "capacity", ".", "Mankoff", "et", "al", "proposed", "a", "set", "of", "heuristics", "for", "evaluating", "ambient", "systems", "-LSB-", "20", "-RSB-", ",", "which", "may", "also", "assist", "system", "builders", ".", "The", "heuristics", "attempt", "to", "give", "guidance", "for", "the", "formative", "evaluation", "of", "ambient", "systems", ",", "but", "they", "also", "can", "be", "viewed", "as", "high-level", "design", "guidelines", ",", "such", "as", "``", "The", "display", "should", "be", "designed", "to", "give", "`", "just", "enough", "'", "information", ".", "Too", "much", "information", "cramps", "the", "display", ",", "and", "too", "little", "makes", "the", "display", "less", "useful", ".", "''", "Designers", "of", "ambient", "information", "systems", "make", "decisions", "about", "how", "much", "information", "to", "display", ",", "what", "specific", "aspects", "to", "depict", ",", "and", "how", "exactly", "to", "display", "it", ",", "transparently", "or", "abstractly", ",", "on", "a", "monitor", "or", "via", "a", "decorative", "sculpture", ".", "We", "present", "four", "design", "dimensions", "that", "capture", "the", "space", "of", "ambient", "information", "systems", ".", "The", "dimensions", "can", "be", "thought", "of", "as", "design", "choices", "or", "design", "questions", "that", "system", "builders", "must", "answer", ".", "The", "dimensions", "are", ":", "information", "capacity", "notification", "level", "representational", "fidelity", "aesthetic", "emphasis", "We", "rank", "19", "research", "systems", "and", "three", "consumer", "ambient", "information", "systems", "on", "each", "of", "the", "four", "axes", ".", "Each", "axis", "is", "divided", "into", "5", "bands", ",", "from", "low", "to", "high", ".", "We", "place", "systems", "into", "groups", "based", "on", "information", "from", "published", "conference", "and", "journal", "proceedings", ",", "including", "images", "and", "videos", "of", "systems", "in", "use", "if", "available", ".", "The", "19", "systems", "we", "chose", "are", "not", "intended", "to", "be", "an", "exhaustive", "list", "of", "all", "ambient", "information", "systems", "in", "the", "research", "literature", ".", "The", "19", "systems", "are", "representative", "of", "the", "breadth", "of", "the", "field", "and", "we", "feel", "that", "attempting", "an", "exhaustive", "list", ",", "while", "amplifying", "completeness", ",", "would", "not", "significantly", "alter", "the", "design", "dimensions", ".", "Research", "systems", "that", "we", "analyzed", "include", ":", "Bus", "Mobile", "-LSB-", "24", "-RSB-", ",", "Dangling", "String", "-LSB-", "35", "-RSB-", ",", "Digital", "Family", "Portrait", "-LSB-", "26", "-RSB-", ",", "InfoCanvas", "-LSB-", "33", "-RSB-", ",", "Informative", "Art", "-LSB-", "30", "-RSB-", ",", "Information", "Percolator", "-LSB-", "16", "-RSB-", ",", "Irwin", "-LSB-", "22", "-RSB-", ",", "Kandinsky", "-LSB-", "11", "-RSB-", ",", "Kiumra", "-LSB-", "19", "-RSB-", ",", "Lumitouch", "-LSB-", "5", "-RSB-", ",", "Notification", "Collage", "-LSB-", "14", "-RSB-", ",", "Scope", "-LSB-", "34", "-RSB-", ",", "Sideshow", "-LSB-", "7", "-RSB-", ",", "Table", "Fountain", "-LSB-", "12", "-RSB-", ",", "Water", "Lamp", "-LSB-", "8", "-RSB-", ",", "and", "What", "'s", "Happening", "-LSB-", "36", "-RSB-", ".", "We", "include", "three", "consumer", "systems", "that", "fit", "our", "definition", "of", "ambient", "information", "systems", ",", "Ambient", "Devices", "Ambient", "Orb", "-LSB-", "2", "-RSB-", ",", "the", "My", "Yahoo!", "web", "portal", "-LSB-", "27", "-RSB-", "and", "Apple", "'s", "Dashboard", "-LSB-", "3", "-RSB-", ".", "Figure", "1", "shows", "the", "four", "dimensions", "for", "our", "analysis", ",", "and", "each", "of", "the", "19", "systems", "placed", "into", "a", "group", "along", "each", ".", "Thin", "colored", "lines", "trace", "the", "rankings", "of", "systems", "on", "each", "axis", ",", "similar", "to", "a", "parallel", "coordinates", "plot", ".", "Each", "axis", "has", "values", "that", "range", "from", "low", "to", "high", "through", "five", "grades", ".", "The", "dimensions", "of", "notification", "level", "and", "representational", "fidelity", "have", "more", "descriptive", "axis", "labels", "that", "will", "be", "explained", "in", "detail", "below", ".", "4.1", "Information", "Capacity", "Ambient", "information", "systems", "are", "created", "to", "convey", "information", "to", "users", "--", "information", "that", "typically", "is", "important", "to", "a", "user", "'s", "sense", "of", "wellbeing", "and", "general", "awareness", ",", "but", "not", "critical", "to", "their", "work", "or", "personal", "life", ".", "Information", "capacity", "represents", "the", "number", "of", "discrete", "information", "sources", "that", "a", "system", "can", "represent", ".", "Some", "systems", "are", "capable", "of", "displaying", "a", "single", "piece", "of", "data", "such", "as", "the", "current", "price", "of", "a", "stock", "index", ".", "Others", "can", "display", "the", "value", "of", "20", "-LRB-", "or", "more", "-RRB-", "different", "information", "elements", "on", "one", "screen", ".", "We", "rank", "systems", "from", "``", "Low", "''", "to", "``", "High", "''", "on", "this", "design", "dimension", ".", "Information", "elements", "are", "discrete", "information", "``", "nuggets", "''", ".", "For", "example", ",", "if", "a", "system", "monitors", "campus", "shuttle", "buses", ",", "each", "bus", "is", "a", "single", "nugget", ".", "If", "the", "system", "can", "represent", "both", "the", "time", "to", "a", "location", "and", "a", "direction", "of", "travel", ",", "then", "there", "are", "two", "nuggets", "of", "information", "for", "each", "bus", "that", "is", "monitored", ".", "Information", "capacity", "makes", "visible", "the", "design", "trade-off", "between", "space", "and", "time", ".", "A", "designer", "can", "increase", "the", "information", "capacity", "of", "a", "display", "by", "increasing", "the", "space", "for", "information", "to", "be", "presented", "or", "by", "creating", "a", "display", "that", "transitions", "through", "a", "set", "of", "views", "over", "time", ".", "If", "a", "system", "is", "designed", "with", "multiple", "views", "or", "uses", "scrolling", ",", "we", "rank", "it", "in", "the", "top", "tier", ",", "since", "the", "number", "of", "pieces", "of", "information", "that", "it", "could", "display", "is", "arbitrarily", "large", ".", "A", "further", "caveat", "about", "information", "capacity", "is", "necessary", ".", "Some", "of", "the", "analyzed", "systems", "such", "as", "InfoCanvas", ",", "Sideshow", ",", "and", "Dashboard", "are", "user-configured", "and", "user-customizable", ".", "This", "means", "that", "these", "and", "other", "systems", "could", "potentially", "be", "made", "to", "display", "hundreds", "of", "elements", ".", "Instead", "of", "attempting", "to", "calculate", "a", "theoretical", "maximum", "throughput", "for", "the", "display", "in", "these", "cases", ",", "we", "use", "the", "system", "designer", "'s", "naturalistic", "portrayal", "in", "their", "published", "work", "to", "determine", "the", "``", "everyday", "maximum", ".", "''", "Each", "of", "these", "systems", "is", "also", "in", "the", "top", "tier", "of", "information", "capacity", ".", "The", "design", "dimension", "of", "information", "capacity", "has", "a", "barbell", "distribution", ".", "Five", "of", "the", "19", "systems", "display", "a", "single", "information", "element", "and", "are", "ranked", "``", "Low", "''", ".", "Conversely", ",", "there", "are", "eight", "systems", "that", "display", "from", "ten", "to", "20", "information", "elements", ",", "with", "some", "systems", "having", "the", "potential", "to", "display", "more", "and", "these", "are", "ranked", "``", "High", ".", "''", "Only", "a", "few", "systems", "take", "a", "middle-ground", "approach", ",", "attempting", "to", "display", "a", "small", "number", "-LRB-", "from", "two", "to", "ten", "-RRB-", "of", "information", "elements", ".", "The", "systems", "with", "low", "ratings", "on", "the", "attribute", "of", "information", "conveyance", "are", "those", "that", "are", "physical", "displays", ".", "Fountains", ",", "glowing", "lights", ",", "and", "office-decoration", "sculptures", "afford", "designers", "only", "so", "much", "flexibility", "for", "changes", ".", "69", "Figure", "1", ":", "Parallel", "Coordinate", "plot", "of", "19", "existing", "ambient", "information", "systems", "across", "four", "design", "dimensions", ".", "Colored", "lines", "trace", "each", "system", "'s", "ranking", "along", "the", "design", "dimensions", ".", "Different", "colors", "are", "used", "to", "denote", "groups", "of", "systems", "which", "are", "similar", "as", "explained", "more", "fully", "in", "Section", "5", ".", "Since", "the", "number", "of", "changes", "possible", "is", "small", ",", "the", "total", "number", "of", "information", "nuggets", "that", "can", "be", "represented", "is", "correspondingly", "small", ".", "The", "systems", "with", "high", "information", "conveyance", "are", "those", "that", "are", "presented", "on", "LCD", "screens", ".", "The", "systems", "that", "run", "at", "full", "screen", "-LRB-", "instead", "of", "as", "a", "small", "section", "of", "a", "focused", "main", "monitor", "-RRB-", "are", "ranked", "the", "highest", ".", "4.2", "Notification", "Level", "Notification", "level", "is", "the", "degree", "to", "which", "system", "alerts", "are", "meant", "to", "interrupt", "a", "user", ".", "Notification", "level", "is", "a", "design", "attribute", "that", "is", "present", "in", "the", "two", "taxonomies", "of", "ambient", "and", "peripheral", "information", "systems", "we", "reviewed", "earlier", ".", "Matthews", "et", "al", "subdivides", "notification", "level", "into", "five", "categories", ":", "ignore", ",", "change", "blind", ",", "make", "aware", ",", "interrupt", ",", "and", "demand", "attention", ".", "For", "our", "analysis", "we", "adopt", "those", "categories", "but", "replace", "the", "lowest", "level", "of", "system", "alert", "function", ",", "ignore", "-LRB-", "a", "degenerate", "case", "-RRB-", "with", "user", "poll", ".", "Systems", "such", "as", "Apple", "Dashboard", "and", "My", "Yahoo!", "do", "not", "always", "appear", "in", "a", "user", "'s", "environment", "and", "must", "be", "explicitly", "called", "to", "the", "fore", ".", "Notification", "level", "can", "be", "thought", "of", "as", "the", "``", "ambience", "''", "of", "the", "systems", "in", "question", ".", "Some", "systems", "in", "the", "ambient", "space", "are", "quiet", ",", "and", "afford", "opportunistic", "glances", "to", "the", "information", ",", "while", "others", "provide", "more", "strident", "alerts", "by", "blinking", ",", "flashing", ",", "beeping", ",", "or", "even", "opening", "dialog", "windows", ".", "Systems", "that", "provide", "unobtrusive", "change", "blind", "or", "make", "aware", "notifications", "to", "the", "user", "are", "at", "the", "core", "of", "the", "ambient", "information", "system", "design", "space", ".", "Systems", "that", "interrupt", "users", "with", "alarms", "or", "that", "demand", "attention", "-LRB-", "by", "launching", "system", "dialog", "windows", "-RRB-", "are", "not", "subtle", ",", "so", "are", "further", "from", "the", "core", "concept", "of", "ambient", "information", "systems", ",", "though", ",", "as", "Matthews", "et", "al", "argues", ",", "the", "smooth", "transition", "from", "more", "subtle", "to", "more", "jarring", "is", "an", "interesting", "design", "direction", "for", "ambient", "system", "designers", ".", "Notification", "level", "is", "the", "designer-intended", "level", "of", "alert", ".", "We", "do", "not", "take", "pains", "to", "distinguish", "between", "systems", "that", "are", "proven", "to", "be", "``", "change", "blind", "''", "through", "user", "experimentation", "versus", "those", "that", "merely", "claim", "change", "blindness", ".", "We", "remain", "agnostic", "here", "about", "the", "techniques", "used", "for", "ensuring", "subtlety", "including", "slow", "animation", ",", "scrolling", ",", "and", "fading", "-LRB-", "these", "implementation", "details", "are", "at", "a", "lower", "level", "of", "design", "rationale", "-RRB-", ".", "Once", "the", "decision", "has", "been", "made", "to", "produce", "a", "system", "with", "change", "blind", "transitions", ",", "the", "designer", "must", "then", "produce", "system", "transitions", "that", "meet", "the", "goal", "in", "the", "specifics", "of", "the", "system", ".", "Our", "analysis", "focuses", "on", "the", "high", "level", "decision", "on", "the", "part", "of", "the", "designer", "or", "design", "team", ".", "The", "distribution", "of", "systems", "here", "shows", "a", "good", "fit", "to", "our", "definition", "of", "ambient", "information", "systems", ".", "It", "is", "apparent", "that", "most", "ambient", "information", "systems", "adhere", "to", "the", "central", "notion", "of", "subtle", "visual", "or", "representational", "changes", ".", "The", "vast", "majority", "of", "ambient", "information", "systems", "fall", "into", "the", "change", "blind", "and", "make", "aware", "transition", "categories", "-LRB-", "somewhat", "low", "and", "medium", "-RRB-", ".", "Few", "systems", "are", "designed", "to", "interrupt", "users", "or", "demand", "attention", ".", "70", "Two", "that", "do", "however", "are", "Scope", "and", "Sideshow", ".", "Note", "that", "most", "systems", "that", "are", "physical", "displays", "do", "not", "have", "make-aware", "or", "interruption-level", "alerts", ",", "much", "less", "demand", "attention", "alerts", ".", "The", "Bus", "Mobile", "does", "enable", "make-aware", "transitions", ",", "when", ",", "for", "example", ",", "the", "last", "bus", "of", "the", "day", "approaches", ".", "4.3", "Representational", "Fidelity", "Representational", "fidelity", "describes", "a", "system", "'s", "display", "components", "and", "how", "the", "data", "from", "the", "world", "is", "encoded", "into", "patterns", ",", "pictures", ",", "words", ",", "or", "sounds", ".", "Some", "systems", "reproduce", "the", "information", "being", "monitored", "in", "a", "very", "direct", "way", ",", "while", "others", "are", "much", "more", "abstract", "in", "their", "representation", ".", "Matthews", "et", "al", "'s", "taxonomy", "characterizes", "this", "design", "choice", "as", "abstraction", ",", "but", "only", "distinguishes", "two", "sub-types", ",", "feature", "degradation", "and", "feature", "abstraction", ".", "We", "consider", "this", "design", "dimension", "to", "be", "rich", "and", "complex", ",", "so", "we", "will", "try", "to", "tease", "apart", "the", "many", "different", "types", "of", "abstraction", "that", "appear", "in", "ambient", "information", "systems", ".", "Representational", "fidelity", "can", "be", "described", "in", "the", "language", "of", "Semiotics", ",", "the", "branch", "of", "Philosophy", "that", "deals", "with", "signs", ",", "sign", "systems", "-LRB-", "such", "as", "natural", "languages", "-RRB-", "and", "their", "meanings", ".", "As", "such", "it", "has", "an", "accepted", "vocabulary", "for", "the", "elements", "of", "a", "symbolic", "representation", ".", "Semiotics", "can", "help", "analyze", "the", "way", "that", "particular", "signifiers", "--", "words", ",", "pictures", ",", "sounds", ",", "and", "other", "things", "--", "stand", "for", "the", "things", "they", "represent", ".", "A", "semiotic", "sign", "is", "made", "up", "of", "three", "parts", "-LSB-", "28", "-RSB-", ".", "The", "object", "is", "called", "the", "signified", ";", "it", "is", "the", "physical", "thing", "or", "idea", "that", "the", "sign", "stands", "for", ".", "The", "signifier", "is", "the", "representation", "of", "the", "object", ",", "which", "could", "be", "a", "word", ",", "a", "picture", ",", "or", "a", "a", "sound", ".", "The", "sense", "is", "the", "understanding", "that", "an", "observer", "gets", "from", "seeing", "or", "experiencing", "either", "the", "signified", "or", "its", "signifier", ".", "The", "signifier", "and", "the", "signified", "need", "not", "have", "any", "direct", "relationship", ".", "However", ",", "both", "the", "signified", "and", "the", "signifier", "create", "the", "same", "sense", "in", "the", "head", "of", "an", "observer", ";", "seeing", "a", "log", "aflame", "and", "seeing", "the", "word", "``", "fire", "''", "create", "the", "same", "meaning", "for", "a", "person", ".", "Ambient", "information", "systems", ",", "in", "the", "vocabulary", "of", "semiotics", ",", "contain", "one", "or", "more", "signs", ".", "Each", "sign", "has", "its", "object", ",", "information", "in", "the", "world", ",", "and", "its", "representation", ",", "the", "lights", ",", "pictures", ",", "or", "sounds", "used", "to", "signify", "that", "information", ".", "Many", "ambient", "information", "systems", "contain", "multiple", "signs", "--", "each", "picture", "element", "standing", "for", "a", "different", "piece", "of", "information", ".", "The", "theory", "of", "Semiotics", "also", "helps", "to", "explain", "the", "notion", "that", "some", "signs", "are", "transparent", ",", "easily", "understood", ",", "while", "others", "are", "metaphorical", "and", "still", "others", "are", "abstract", ".", "Signs", "can", "be", "symbolic", ",", "iconic", ",", "or", "indexical", ".", "Symbolic", "signs", "are", "those", "that", "are", "completely", "arbitrary", ".", "For", "example", "languages", "are", "arbitrary", ",", "for", "the", "word", "``", "bachelor", "''", "has", "no", "more", "natural", "relation", "to", "an", "unmarried", "man", "than", "does", "the", "word", "``", "foobar", ".", "''", "Symbolic", "signs", "are", "those", "signs", "for", "which", "a", "code", ",", "or", "rule-following", "convention", ",", "is", "required", "to", "understand", ".", "Language", "characters", "and", "numbers", "are", "all", "symbolic", ",", "as", "are", "abstract", "visual", "representations", "-LRB-", "the", "color", "red", "standing", "for", "``", "danger", "''", "-RRB-", ".", "Iconic", "signs", "are", "those", "signs", "that", "have", "an", "intermediate", "degree", "of", "transparency", "to", "the", "signified", "object", ".", "Iconic", "signs", "include", "metaphors", "as", "well", "as", "doodles", ",", "drawings", ",", "and", "caricatures", ".", "Icons", "represent", "their", "objects", "by", "having", "some", "similarity", "or", "resemblance", "to", "the", "object", "or", "to", "an", "essential", "aspects", "of", "the", "object", ".", "Indexical", "signs", "are", "those", "that", "are", "directly", "connected", "to", "the", "signified", ".", "Examples", "include", "measuring", "instruments", ",", "maps", ",", "and", "photographs", ".", "We", "have", "subdivided", "the", "three", "main", "categories", "of", "representational", "fidelity", "to", "distinguish", "between", "ambient", "information", "systems", ".", "We", "propose", "five", "groups", ",", "ranked", "from", "indexical", "-LRB-", "high", "-RRB-", "to", "symbolic", "-LRB-", "low", "-RRB-", ":", "INDEXICAL", ":", "measuring", "instruments", ",", "maps", ",", "photographs", "ICONIC", ":", "drawings", ",", "doodles", ",", "caricatures", "ICONIC", ":", "Metaphors", "SYMBOLIC", ":", "language", "symbols", "-LRB-", "letters", "and", "numbers", "-RRB-", "SYMBOLIC", ":", "abstract", "symbols", "Some", "ambient", "information", "systems", "have", "displays", "that", "do", "not", "afford", "representational", "flexibility", ",", "because", "of", "the", "constraints", "of", "the", "display", ".", "For", "example", ",", "the", "LiveWire", "system", "and", "the", "Ambient", "Orb", "can", "not", "represent", "language", "symbols", ",", "nor", "can", "they", "convey", "indexical", "forms", "like", "photographs", ".", "However", ",", "some", "flexibility", "is", "present", ".", "The", "systems", "might", "map", "information", "in", "an", "arbitrary", "way", ",", "remaining", "fully", "abstract", "-LRB-", "representing", "stock", "increases", "with", "the", "color", "green", "and", "losses", "with", "the", "color", "red", "-RRB-", ",", "or", "it", "could", "map", "information", "more", "metaphorically", ",", "as", "would", "be", "the", "case", "if", "LiveWire", "were", "connected", "to", "information", "from", "a", "seismograph", "or", "ocean", "tides", ".", "As", "one", "can", "see", ",", "the", "question", "concerning", "representational", "flexibility", "requires", "one", "to", "consider", "both", "the", "display", "and", "the", "information", "that", "is", "displayed", ".", "The", "InfoCanvas", "is", "a", "very", "flexible", "system", "when", "considering", "representational", "fidelity", ".", "The", "InfoCanvas", "uses", "all", "five", "types", "of", "representational", "fidelity", ".", "It", "uses", "abstract", "symbols", ",", "such", "as", "the", "color", "red", "standing", "for", "traffic", "being", "stopped", ",", "metaphors", ",", "like", "a", "cartoon", "drawing", "of", "a", "cloud", "representing", "cloudy", "conditions", ",", "and", "also", "photographs", "and", "words", "of", "news", "stories", ",", "which", "are", "fully", "indexical", ".", "We", "show", "this", "ability", "for", "a", "system", "to", "straddle", "multiple", "representational", "forms", "by", "duplicating", "the", "system", "in", "each", "category", "and", "noting", "them", "with", "an", "asterisk", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "Systems", "which", "are", "designed", "to", "represent", "information", "at", "multiple", "levels", "of", "fidelity", "are", ":", "Apple", "'s", "Dashboard", ",", "InfoCanvas", ",", "Informative", "Art", ",", "Notification", "Collage", ",", "Sideshow", ",", "and", "What", "'s", "Happening", ".", "In", "these", "cases", ",", "we", "draw", "the", "parallel", "coordinate", "plot", "to", "the", "top-most", "tier", "of", "representational", "fidelity", "for", "each", "system", ".", "The", "majority", "of", "systems", "however", ",", "only", "afford", "a", "single", "level", "of", "representational", "fidelity", ".", "Many", "of", "the", "sculptural", "displays", "only", "afford", "symbolic", ",", "that", "is", "abstract", ",", "representations", ",", "while", "a", "smaller", "number", "afford", "text", "and", "photographic", "representations", ".", "4.4", "Aesthetic", "Emphasis", "The", "final", "dimension", "concerns", "the", "relative", "importance", "of", "the", "aesthetics", "of", "the", "display", ".", "Some", "system", "designers", "seek", "to", "build", "displays", "and", "artifacts", "with", "sculptural", "or", "artistic", "conventions", ".", "For", "these", "systems", ",", "being", "visually", "pleasing", "is", "a", "primary", "objective", ".", "Others", "however", "place", "relatively", "little", "focus", "on", "aesthetics", "and", "typically", "focus", "more", "on", "information", "communication", "ability", ".", "Since", "aesthetic", "judgment", "is", "at", "its", "core", "a", "subjective", "phenomenon", ",", "we", "do", "not", "judge", "systems", "on", "their", "relative", "artistic", "merits", ".", "Instead", "we", "attempt", "to", "rank", "ambient", "information", "systems", "by", "our", "perception", "of", "the", "importance", "given", "to", "aesthetics", ".", "There", "is", "often", "a", "tradeoff", "made", "between", "communication", "capacity", ",", "representational", "fidelity", ",", "and", "aesthetics", ",", "a", "relationship", "that", "we", "explore", "in", "this", "section", ".", "Ambient", "information", "systems", "are", "intended", "to", "be", "visible", ";", "positioned", "on", "a", "shelf", ",", "hung", "on", "the", "wall", ",", "or", "placed", "as", "a", "small", "sculpture", "on", "a", "desk", ",", "the", "systems", "are", "seen", "not", "just", "by", "a", "user", ",", "but", "also", "by", "co-workers", ",", "colleagues", ",", "or", "family", "members", ".", "There", "are", "a", "71", "multitude", "of", "approaches", "when", "it", "comes", "to", "building", "aesthetically", "pleasing", "devices", ".", "One", "approach", "is", "to", "build", "systems", "that", "mirror", "existing", "artworks", "by", "a", "particular", "artist", ",", "as", "is", "the", "case", "in", "Kandinsky", "and", "Informative", "Art", ".", "A", "second", "approach", "is", "to", "design", "a", "display", "that", "is", "representative", "of", "a", "particular", "style", "or", "art", "movement", ".", "InfoCanvas", ",", "through", "its", "use", "of", "themes", ",", "allows", "the", "display", "to", "take", "on", "characteristics", "of", "Asian", "water-color", "paintings", ",", "for", "example", ".", "We", "rank", "systems", "on", "the", "design", "dimension", "of", "aesthetic", "emphasis", "as", "low", ",", "somewhat", "low", ",", "medium", ",", "somewhat", "high", "and", "high", ".", "Note", "again", "that", "we", "are", "not", "assessing", "the", "degree", "to", "which", "the", "systems", "are", "successful", "as", "art", ".", "We", "are", "providing", "a", "subjective", "measure", "of", "how", "much", "the", "system", "designers", "focused", "on", "aesthetics", "and", "how", "much", "they", "emphasized", "aesthetic", "considerations", "in", "their", "research", "and", "design", "decisions", ".", "Most", "systems", "that", "we", "analyzed", "had", "medium", "or", "somewhat", "high", "degrees", "of", "aesthetic", "emphasis", "-LRB-", "12", "of", "19", "-RRB-", ".", "The", "decisions", "of", "designers", "to", "strive", "for", "visually", "pleasing", "displays", "is", "most", "clear", "in", "the", "cases", "where", "the", "display", "is", "intended", "to", "leverage", "the", "work", "of", "existing", "artists", ".", "The", "physical", "ambient", "information", "displays", "are", "often", "sculptural", "in", "their", "design", "decisions", ".", "They", "attempt", "to", "set", "themselves", "off", "from", "the", "rest", "of", "the", "environment", ",", "often", "on", "pedestals", "or", "stands", ".", "Their", "capability", "to", "display", "much", "information", "-LRB-", "information", "capacity", "-RRB-", "is", "often", "limited", "by", "their", "design", "clarity", "and", "austerity", ".", "We", "consider", "this", "design", "trade-off", "in", "the", "next", "section", ".", "Systems", "that", "we", "ranked", "at", "the", "middle", "of", "the", "spectrum", "of", "aesthetic", "emphasis", "are", "those", "which", "are", "not", "intended", "by", "their", "designers", "to", "be", "art", "worthy", "of", "contemplation", "as", "art", "objects", ".", "But", "they", "are", "explicitly", "intended", "to", "be", "viewed", "as", "calm", "pleasing", "objects", "and", "displays", ".", "Apple", "'s", "Dashboard", "widgets", "have", "a", "clean", "design", "sense", "about", "them", ",", "as", "does", "Kimura", ",", "What", "'s", "Happening", "and", "the", "Information", "Percolator", ".", "The", "systems", "that", "are", "ranked", "low", "on", "aesthetic", "emphasis", "are", "Scope", ",", "Sideshow", ",", "Bus", "Mobile", ",", "Elvin", ",", "and", "My", "Yahoo!", ".", "These", "systems", "put", "information", "conveyance", "at", "a", "higher", "priority", "than", "being", "aesthetically", "pleasing", ".", "They", "are", "still", "calm", "and", "environmentally", "appropriate", ",", "but", "their", "designers", "did", "not", "emphasize", "their", "aesthetic", "qualities", ".", "Cleary", ",", "some", "systems", "that", "are", "early-stage", "prototypes", "like", "Bus", "Mobile", ",", "may", "not", "have", "the", "aesthetic", "polish", "of", "more", "finished", "systems", ".", "In", "this", "section", ",", "we", "introduce", "four", "design", "patterns", "for", "ambient", "information", "systems", ",", "after", "Alexander", "'s", "pattern", "language", "for", "architectural", "studies", "-LSB-", "1", "-RSB-", ".", "The", "design", "patterns", "illustrate", "four", "coherent", "combinations", "of", "the", "four", "design", "dimensions", "previously", "presented", ".", "We", "have", "already", "pointed", "out", "trends", "and", "clusters", "that", "are", "present", "in", "each", "particular", "design", "dimension", ".", "However", ",", "there", "are", "fruitful", "conclusions", "for", "system", "designers", "as", "we", "consider", "the", "interaction", "between", "the", "design", "dimensions", "to", "form", "design", "patterns", ".", "Considering", "the", "clusters", "of", "systems", "in", "each", "dimension", "and", "the", "correspondences", "that", "are", "visible", "in", "the", "parallel", "coordinate", "plot", ",", "we", "find", "four", "main", "archetypes", "in", "existing", "ambient", "information", "system", "design", ":", "Symbolic", "Sculptural", "Display", ",", "Multiple-Information", "Consolidators", ",", "Information", "Monitor", "Display", ",", "and", "High", "Throughput", "Textual", "Display", ".", "Figure", "2", "shows", "the", "pattern", "of", "each", "archetype", "across", "the", "dimensions", ".", "Figure", "2", ":", "a-d", "System", "design", "archetypes", "shown", "in", "the", "context", "of", "the", "design", "space", ".", "Heavy", "boxes", "indicate", "core", "design", "decisions", ",", "while", "light", "boxes", "show", "alternate", "choices", ".", "Symbolic", "Sculptural", "Displays", "are", "ambient", "information", "systems", "that", "display", "very", "few", "pieces", "of", "information", ",", "usually", "a", "single", "element", ".", "They", "represent", "information", "in", "an", "abstract", "sculptural", "way", "with", "light", ",", "water", ",", "or", "moving", "objects", ".", "They", "are", "intended", "to", "be", "decorative", "objects", "for", "a", "home", "or", "office", "setting", "and", "as", "such", "are", "highly", "aesthetic", "in", "their", "design", "-LRB-", "see", "Figure", "2a", "-RRB-", ".", "This", "design", "pattern", "is", "a", "core", "of", "ambient", "system", "design", ",", "and", "accounts", "for", "six", "of", "our", "analyzed", "systems", ":", "Ambient", "Orb", ",", "Dangling", "String", ",", "Digital", "Family", "Portrait", ",", "Information", "Percolator", ",", "Lumitouch", ",", "Table", "Fountain", ",", "and", "Water", "Lamp", ".", "The", "Digital", "Family", "Portrait", "combines", "multiple", "information", "sources", "and", "so", "truly", "represents", "more", "information", "than", "the", "other", "members", "of", "this", "type", ".", "72", "Multiple", "Information", "Consolidators", "are", "ambient", "systems", "that", "display", "many", "individual", "pieces", "of", "information", "in", "a", "consolidated", "manner", ".", "They", "are", "typically", "screen-based", "in", "order", "to", "convey", "much", "information", "and", "make", "users", "aware", "of", "changes", "to", "that", "information", "-LRB-", "usually", "by", "blinking", "the", "visual", "representation", "of", "a", "certain", "element", "-RRB-", ".", "They", "are", "reasonably", "aesthetically", "motivated", ",", "but", "all", "clearly", "demonstrate", "the", "trade-off", "between", "aesthetics", "and", "customization", "and", "information", "capacity", "-LRB-", "see", "Figure", "2b", "-RRB-", ".", "Systems", "which", "illustrate", "this", "design", "pattern", "are", ":", "Kandinsky", ",", "Kimura", ",", "InfoCanvas", ",", "Notification", "Collage", ",", "and", "What", "'s", "Happening", ".", "Kandinsky", "departs", "from", "the", "other", "systems", "in", "that", "it", "is", "explicitly", "modeled", "on", "the", "fine", "art", "of", "Kandinsky", ",", "and", "as", "such", "is", "highly", "stylized", "and", "design-focused", ".", "It", "does", "so", "at", "the", "expense", "of", "flexibility", ",", "since", "it", "can", "only", "display", "photographs", "in", "its", "slots", ".", "Information", "Monitor", "Displays", "are", "displays", "that", "are", "a", "peripheral", "part", "of", "a", "user", "'s", "computer", "desktop", ".", "As", "such", ",", "they", "afford", "different", "interactions", "and", "design", "choices", ".", "They", "display", "multiple", "sources", "of", "information", ",", "and", "do", "so", "usually", "by", "visual", "metaphors", ".", "They", "are", "capable", "of", "notifying", "users", "in", "multiple", "ways", "about", "changes", "in", "the", "source", "data", ",", "including", "subtle", "awareness", ",", "interrupting", ",", "and", "even", "demanding", "user", "attention", "when", "necessary", "-LRB-", "i.e.", ",", "requiring", "the", "user", "to", "switch", "focus", "to", "dismiss", "a", "notification", "-RRB-", ".", "The", "systems", "achieve", "aesthetics", ",", "but", "their", "primary", "purpose", "is", "not", "good", "looks", "-LRB-", "see", "Figure", "2c", "-RRB-", ".", "Examples", "of", "this", "design", "archetype", "include", ":", "Scope", ",", "and", "Sideshow", ".", "High", "Throughput", "Textual", "Display", "systems", "are", "those", "that", "use", "text", "and", "very", "simple", "graphics", "-LRB-", "icons", "-RRB-", "to", "denote", "information", ".", "They", "are", "capable", "of", "representing", "voluminous", "information", ",", "but", "do", "not", "draw", "attention", "with", "interruption-level", "notifications", ".", "These", "systems", "are", "not", "primarily", "as", "concerned", "with", "aesthetics", "as", "they", "are", "with", "information", "conveyance", "-LRB-", "see", "Figure", "2d", "-RRB-", ".", "These", "systems", "are", "simple", "but", "efficient", "for", "certain", "types", "of", "tasks", ".", "Examples", "of", "this", "design", "archetype", "are", ":", "Elvin", ",", "and", "My", "Yahoo!", ".", "The", "four", "design", "archetypes", "cover", "nearly", "all", "of", "the", "analyzed", "systems", ",", "but", "do", "not", "cleanly", "categorize", "three", "systems", ".", "Apple", "'s", "Dashboard", "system", "is", "most", "similar", "to", "a", "Multiple", "Information", "Consolidator", ".", "It", "fails", "being", "a", "pure", "example", "of", "this", "archetype", "because", "of", "its", "inability", "to", "alert", "users", "to", "changes", "in", "information", "it", "requires", "users", "poll", "the", "system", "by", "calling", "up", "the", "transparent", "pane", "via", "a", "hot", "key", ".", "The", "Bus", "Mobile", "is", "an", "early", "stage", "prototype", ",", "and", "as", "such", "is", "not", "concerned", "with", "aesthetics", "to", "a", "large", "degree", ".", "With", "a", "higher", "degree", "of", "aesthetic", "emphasis", ",", "it", "might", "be", "closer", "to", "a", "Information", "Monitor", "Display", "-LRB-", "albeit", "a", "physical", "instead", "of", "screen-based", "system", "-RRB-", ".", "Informative", "Art", "is", "quite", "unlike", "the", "four", "design", "archetypes", ".", "Informative", "Art", "has", "high", "aesthetic", "emphasis", ",", "but", "low", "information", "capacity", "-LRB-", "e.g.", "5", "or", "6", "city", "'s", "weather", "forecast", "information", "-RRB-", ".", "It", "is", "metaphorical", "and", "abstract", "in", "its", "information", "mapping", "fidelity", ".", "The", "four", "patterns", "for", "system", "design", "can", "help", "designers", "to", "make", "appropriate", "choices", "as", "they", "develop", "new", "ambient", "information", "systems", ".", "The", "design", "patterns", "can", "be", "used", "as", "models", "so", "a", "designer", "can", "decide", "to", "build", "``", "an", "information", "monitor", "display", "for", "a", "home", "health", "awareness", "application", "''", ",", "or", "``", "a", "set", "of", "symbolic", "sculptural", "displays", "for", "work-group", "collaboration", "''", ".", "Further", ",", "the", "designer", "may", "be", "depart", "from", "the", "pattern", ",", "by", "building", "up", "a", "system", "'s", "range", "of", "possible", "notification", "levels", ",", "or", "by", "choosing", "to", "trade", "aesthetics", "for", "increased", "information", "capacity", ".", "However", ",", "our", "analysis", "also", "points", "at", "what", "has", "not", "yet", "been", "explored", ".", "The", "four", "design", "patterns", "show", "four", "coherent", "combinations", ",", "but", "they", "are", "not", "the", "only", "possibilities", "for", "building", "useful", "ambient", "systems", ".", "Combined", "with", "longer-term", "trends", "in", "the", "fields", "of", "Ambient", "Intelligence", "and", "Ubiquitous", "Computing", ",", "new", "archetypes", "for", "system", "design", "are", "emerging", ".", "We", "note", "possibilities", "here", ",", "which", "change", "both", "the", "dimensions", "and", "the", "four", "design", "patterns", ".", "We", "do", "not", "expect", "the", "information", "capacity", "for", "ambient", "systems", "to", "increase", "by", "dramatically", ".", "Though", "scrolling", "or", "time-divided", "ambient", "systems", "-LRB-", "What", "'s", "Happening", ",", "Elvin", "-RRB-", "can", "already", "display", "data", "elements", "numbering", "in", "the", "hundreds", ",", "simultaneous", "visual", "displays", "are", "usually", "limited", "to", "25", "or", "30", "elements", "by", "readability", "and", "user", "learnability", ".", "Ambient", "information", "systems", "will", "not", "turn", "into", "information", "visualization", "systems", "showing", "thousands", "of", "data", "points", ".", "However", ",", "contextual", "sets", "of", "information", "may", "be", "useful", "for", "ambient", "systems", "in", "specialized", "environments", ".", "Systems", "which", "display", "contextual", "sets", "of", "information", "like", "that", "of", "the", "Bus", "Mobile", "-LRB-", "all", "of", "the", "buses", "on", "a", "college", "campus", "-RRB-", "or", "Scope", "-LRB-", "email", "and", "calendar", "data", "-RRB-", "would", "increase", "the", "number", "of", "systems", "in", "the", "middle", "portion", "of", "this", "design", "dimension", ".", "We", "also", "expect", "to", "see", "changes", "to", "the", "design", "dimension", "of", "representational", "flexibility", ".", "Designers", "have", "begun", "to", "explore", "the", "affordances", "of", "abstract", "and", "symbolic", "mappings", "between", "information", "sources", "and", "their", "representations", ".", "We", "see", "this", "continuing", ",", "with", "new", "systems", "focusing", "on", "personally", "relevant", "symbolic", "representations", ",", "and", "utilizing", "metaphors", "from", "the", "natural", "and", "built", "worlds", ".", "Another", "shift", "that", "we", "foresee", "is", "the", "designers", "creating", "systems", "where", "multiple", "information", "sources", "and", "aspects", "interact", "to", "affect", "a", "single", "part", "of", "the", "representation", ".", "This", "is", "apparent", "already", "in", "Digital", "Family", "Portrait", "where", "the", "size", "of", "the", "butterflies", "represents", "``", "activity", ",", "''", "even", "though", "activity", "is", "not", "the", "reading", "from", "a", "single", "sensor", ",", "but", "it", "instead", "a", "reading", "from", "multiple", "sensors", "in", "a", "home", ".", "Informative", "Art", "also", "has", "aspects", "of", "this", "approach", ",", "changing", "both", "the", "color", "and", "dimensions", "of", "squares", "based", "on", "two", "different", "aspects", "of", "weather", ".", "As", "regards", "aesthetic", "emphasis", ",", "we", "foresee", "a", "more", "radical", "change", ".", "We", "predict", "further", "exploration", "of", "the", "space", "of", "truly", "artistically", "motivated", "ambient", "information", "systems", ".", "These", "generative", "artworks", "use", "information", "from", "the", "world", "to", "drive", "their", "behavior", "and", "ask", "-LRB-", "and", "answer", "-RRB-", "art", "questions", "as", "well", "as", "technology", "questions", ".", "Though", "most", "of", "these", "works", "are", "outside", "the", "academy", "-LRB-", "they", "are", "shown", "in", "galleries", "instead", "of", "computer", "science", "conferences", "-RRB-", ",", "Bolen", "and", "Mateas", "'", "Office", "Plant", "#", "1", "-LSB-", "4", "-RSB-", "is", "a", "sculpture", "that", "characterizes", "the", "mood", "of", "a", "user", "'s", "email", "stream", "and", "conveys", "it", "via", "transformations", "of", "a", "robotic", "plant", ".", "These", "systems", "are", "going", "to", "create", "a", "new", "design", "space", "above", "the", "top", "tier", "that", "we", "depict", "in", "this", "work", ".", "In", "this", "work", "we", "synthesize", "a", "definition", "that", "distinguishes", "research", "in", "ambient", "information", "systems", "from", "that", "of", "notification", "systems", "and", "peripheral", "displays", ".", "We", "propose", "four", "design", "dimensions", ",", "rank", "systems", "to", "show", "clusters", ",", "and", "uncover", "four", "design", "patterns", "on", "which", "system", "developers", "may", "model", "their", "system", "designs", ".", "Future", "work", "will", "expand", "the", "four", "dimensions", "to", "include", "aspects", "of", "the", "social", "interaction", "and", "impact", "that", "system", "have", "on", "the", "behavior", "of", "individuals", "and", "groups", ".", "In", "this", "work", "we", "point", "toward", "open", "areas", "in", "the", "design", "space", ",", "and", "we", "point", "to", "new", "design", "directions", "that", "may", "fill", "these", "gaps", ".", "Future", "work", "may", "also", "turn", "this", "taxonomy", "into", "an", "evaluation", "framework", "for", "ambient", "information", "systems", ".", "73", "1", ".", "Alexander", ",", "C.", ",", "A", "Pattern", "Language", ":", "Towns", ",", "Buildings", ",", "Construction", ".", "Oxford", "University", "Press", ",", "1977", ".", "2", ".", "Ambient", "Orb", ".", "http://www.ambientdevices.com/", "3", ".", "Apple", "Mac", "OS", "X", "Dashboard", ".", "http://www.apple.com/", "macosx/features/dashboard/index.htm", "4", ".", "Bohlen", ",", "M.", ",", "and", "Mateas", ",", "M.", "Office", "Plant", "#", "1", ".", "Leonardo", "31:5", ".", "pp", ".", "345-349", ".", "5", ".", "Chang", ",", "A.", ",", "Resner", ",", "B.", ",", "Koerner", "B.", ",", "Wang", ",", "X", "and", "Ishii", ",", "H.", ",", "Lumitouch", ":", "An", "emotional", "communication", "device", ".", "Extended", "Abstracts", "of", "CHI", "2001", ",", "pp.", "371-372", ".", "6", ".", "Cadiz", ",", "J", ".", ",", "Fussell", ",", "S.", ",", "Kraut", ",", "R.", ",", "Lerch", ",", "J.", ",", "and", "Scherlis", ",", "W", ".", "The", "Awareness", "Monitor", ":", "A", "Coordination", "Tool", "for", "Asynchronous", ",", "Distributed", "Work", "Teams", ".", "Unpublished", "manuscript", ".", "Demonstrated", "at", "CSCW", "1998", ".", "7", ".", "Cadiz", ",", "J.", ",", "Venolia", ",", "G.", ",", "Janke", ",", "G.", ",", "ans", "Gupta", ",", "A.", "Designing", "and", "deploying", "an", "information", "awareness", "interface", ".", "Proceedings", "of", "CSCW", "2002", ",", "pp.", "314", "-", "323", ".", "8", ".", "Dahley", ",", "A.", ",", "Wisneski", ",", "C.", ",", "and", "Ishii", ",", "H.", "Water", "lamp", "and", "pinwheels", ":", "Ambient", "projection", "of", "digital", "information", "into", "architectural", "space", ".", "CHI", "Conference", "Summary", "1998", ",", "pp", ".", "269", "270", ".", "9", ".", "Espinosa", ",", "A.", ",", "Cadiz", ",", "J.", ",", "Rico-Gutierrez", "L.", ",", "Kraut", ",", "R.", ",", "Sherlis", ",", "W.", ",", "and", "Lautenbacher", ",", "G.", "Coming", "to", "the", "Wrong", "Decision", "Quickly", ":", "Why", "Awareness", "Tools", "Must", "be", "Matched", "with", "Appropriate", "Tasks", ".", "Proceedings", "of", "CHI", "2000", ",", "pp.", "392-399", ".", "10", ".", "Fitzpatrick", ",", "G.", ",", "Kaplan", ",", "S.", ",", "Arnold", ",", "D.", ",", "Phelps", ",", "T.", ",", "and", "Segall", ",", "B.", "Augmenting", "the", "Workaday", "World", "with", "Elvin", ".", "Proceedings", "of", "ECSCW", "1999", ",", "pp.", "431-450", ".", "11", ".", "Fogarty", ",", "J.", ",", "Forlizzi", ",", "J.", ",", "and", "Hudson", ",", "S.", "Aesthetic", "Information", "Collages", ":", "Generating", "Decorative", "Displays", "that", "Contain", "Information", ".", "Proceedings", "of", "the", "UIST", "2001", ",", "pp.", "141-150", ".", "12", ".", "Gellersen", ",", "H.-W.", ",", "Schmidt", ",", "A.", "and", "Beigl", ".", "M.", "Ambient", "Media", "for", "Peripheral", "Information", "Display", ".", "Personal", "Technologies", "3", ",", "4", ":", "199-208", ".", "1999", ".", "13", ".", "Greenberg", ",", "S.", ",", "and", "Fitchett", ",", "C.", "Phidgets", ":", "Easy", "development", "of", "physical", "interfaces", "through", "physical", "widgets", ".", "Proceedings", "of", "UIST", "2001", ".", "pp", "209-218", ".", "14", ".", "Greenberg", ",", "S.", ",", "and", "Rounding", ",", "M", ".", "The", "Notification", "Collage", ":", "Posting", "Information", "to", "Public", "and", "Personal", "Displays", ".", "Proceedings", "of", "CHI", "2001", ",", "pp.", "515-521", ".", "15", ".", "De", "Guzman", ",", "E.", ",", "Yau", "M", ",", "Park", ",", "A.", ",", "and", "Gagliano", ",", "A.", "Exploring", "the", "Design", "and", "Use", "of", "Peripheral", "Displays", "of", "Awareness", "Information", ".", "Extended", "Abstracts", "of", "CHI", "2004", ",", "pp.", "1247-1250", ".", "16", ".", "Heiner", ",", "J.", "M.", ",", "Hudson", ",", "S.", ",", "and", "Kenichiro", ",", "T", ".", "The", "Information", "Percolator", ":", "Ambient", "information", "display", "in", "a", "decorative", "object", ".", "In", "Proc", ".", "of", "UIST", "1999", ",", "pp.", "141-148", ".", "17", ".", "Ishii", ",", "H.", ",", "Wisenski", ",", "C.", ",", "Brave", ",", "S.", ",", "Dahley", ",", "A.", ",", "Gorbet", ",", "M.", ",", "Ullmer", ",", "B.", ",", "and", "Yarin", ",", "P.", "AmbientROOM", ":", "Integrating", "Ambient", "Media", "with", "Architectural", "Space", ".", "Summary", "of", "CHI", "1998", ",", "pp.173-174", ".", "18", ".", "Ishii", ",", "H.", ",", "Ren", ",", "S.", ",", "and", "Frei", ",", "P.", "Pinwheels", ":", "visualizing", "information", "flow", "in", "an", "architectural", "space", ".", "Extended", "Abstracts", "of", "CHI", "2001", ",", "pp.", "111-112", ".", "19", ".", "MacIntyre", ",", "B.", ",", "Mynatt", ",", "E.", ",", "Voida", ",", "S.", ",", "Hansen", ",", "K.", ",", "Tullio", ",", "J.", ",", "and", "Corso", ",", "G.", "Support", "For", "Multitasking", "and", "Background", "Awareness", "Using", "Interactive", "Peripheral", "Displays", ".", "Proceedings", "of", "UIST", "2001", ",", "pp.", "41-50", ".", "20", ".", "Mankoff", ",", "J.", ",", "Dey", ",", "A.", ",", "Heish", ",", "G.", ",", "Kientz", ",", "J.", ",", "Lederer", ",", "S.", ",", "and", "Ames", ",", "M.", "Heuristic", "evaluation", "of", "ambient", "displays", ".", "Proceedings", "of", "CHI", "2003", ",", "pp.", "169-176", ".", "21", ".", "McCrickard", ",", "D.", "S.", ",", "Chewar", ",", "C.", ",", "Somervell", ",", "J.", ",", "and", "Ndiwalana", ",", "A", ".", "A", "Model", "for", "Notification", "Systems", "Evaluation", "--", "Assessing", "User", "Goals", "for", "Multitasking", "Activity", ".", "ACM", "Transactions", "on", "CHI", "10,4", ":", "312", "338", ".", "2002", "22", ".", "McCrickard", ",", "D.S.", ",", "Catrambone", ",", "R.", ",", "and", "Stasko", ",", "J.", "Evaluating", "animation", "in", "the", "periphery", "as", "a", "mechanism", "for", "maintaining", "awareness", ".", "Proceedings", "of", "INTERACT", "2001", ",", "pp.", "148-156", ".", "23", ".", "Matthews", ",", "T.", ",", "Dey", ",", "A.", ".", ",", "Mankoff", ",", "J.", ",", "Carter", "S.", ",", "and", "Rattenbury", ",", "T", ".", "A", "Toolkit", "for", "Managing", "User", "Attention", "in", "Peripheral", "Displays", ".", "Proceedings", "of", "UIST", "2004", ",", "pp", ".", "247-256", ".", "24", ".", "Matthews", ",", "T.", ",", "Rattenbury", ",", "T.", ",", "Carter", ",", "S.", ",", "Dey", ",", "A.", ",", "and", "Mankoff", ",", "J", ".", "A", "Peripheral", "Display", "Toolkit", ".", "Tech", "Report", "IRB-TR", "-03-018", ".", "Intel", "Research", "Berkeley", ".", "2002", ".", "25", ".", "Mynatt", ",", "E.D.", ",", "Back", ",", "M.", ",", "Want", ",", "R.", ",", "and", "Ellis", ",", "J.B.", "Designing", "audio", "aura", ".", "Proceedings", "of", "CHI", "1998", ",", "pp.", "566-573", ".", "26", ".", "Mynatt", ",", "E.D.", ",", "Rowan", ",", "J.", ",", "Jacobs", ",", "A.", ",", "and", "Craighill", ",", "S.", "Digital", "Family", "Portraits", ":", "Supporting", "Peace", "of", "Mind", "for", "Extended", "Family", "Members", ".", "Proceedings", "of", "CHI", "2001", ",", "pp.", "333-340", ".", "27", ".", "My", "Yahoo!", ".", "http://my.yahoo.com/index.html", "28", ".", "Ogden", ",", "C.", ",", "and", "Richards", "I", ".", "The", "Meaning", "of", "Meaning", ".", "Routledge", "&", "Kegan", ".", "London", ",", "England", ".", "1923", ".", "29", ".", "Pederson", ",", "E.", "R.", ",", "and", "Sokoler", ",", "T.", "AROMA", ":", "Abstract", "Representation", "of", "Presence", "Supporting", "Mutual", "Awareness", ".", "Proceedings", "of", "CHI", "1997", ",", "pp.51-58", ".", "30", ".", "Redstrom", ",", "J.", ",", "Skog", ",", "T.", ",", "and", "Hallanas", ",", "L.", "Informative", "Art", ":", "Using", "Amplified", "Artworks", "as", "Information", "Displays", ".", "Proceedings", "of", "DARE", "2000", ",", "pp.", "103-114", ".", "31", ".", "Russel", ",", "D.", ",", "Streitz", ",", "N.", ",", "and", "Winograd", ",", "T.", "Building", "Disappearing", "Computers", ".", "Communications", "of", "the", "ACM", ".", "48", "-LRB-", "3", "-RRB-", ":", "42-48", ".", "2005", ".", "32", ".", "Stasko", ",", "J.", ",", "Miller", ",", "T.", ",", "Pousman", "Z.", ",", "Plaue", ",", "C.", ",", "and", "Ullah", ",", "O.", "Personalized", "Peripheral", "Information", "Awareness", "through", "Information", "Art", ".", "Proceedings", "of", "UbiComp", "2004", ",", "pp.", "18-35", ".", "33", ".", "Streitz", ",", "N.", ",", "Tandler", ",", "P.", ",", "Muller-Tomfelde", ",", "C.", ",", "and", "Konomi", ",", "S.", "Roomware", ":", "Towards", "the", "Next", "Generation", "of", "Human-Computer", "Interaction", "based", "on", "an", "Integrated", "Design", "of", "Real", "and", "Virtual", "Worlds", ".", "In", ":", "J.", "Carroll", "-LRB-", "Ed", ".", "-RRB-", ":", "Human-Computer", "Interaction", "in", "the", "New", "Millennium", ",", "Addison-Wesley", ".", "pp", ".", "553-578", ".", "2001", ".", "34", ".", "Van", "Dantzich", ",", "M.", ",", "Robbins", ",", "D.", ",", "Horvitz", ",", "E.", ",", "and", "Czerwinski", ",", "M.", "Scope", ":", "Providing", "Awareness", "of", "Multiple", "Notifications", "at", "a", "Glance", ".", "Proceedings", "of", "AVI", "2002", ".", "pp.", "157-166", ".", "35", ".", "Weiser", ",", "M.", "and", "Brown", ",", "J.S.", "Designing", "Calm", "Technology", ".", "PowerGrid", "Journal", ",", "1:1", ",", "1996", ".", "36", ".", "Zhao", ",", "A.", ",", "and", "Stasko", ",", "J.", "What", "'s", "Happening", "?", ":", "Promoting", "Community", "Awareness", "through", "Opportunistic", ",", "Peripheral", "Interfaces", ".", "Proceedings", "of", "AVI", "2002", ",", "pp.", "69-74", ".", "74"], "doc_bio_tags": ["O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["taxonomy", "peripheral display", "ambient display", "calm computing", "information monitor display", "ambient information system", "design guidelines", "high throughput textual display", "symbolic sculptural display", "notification systems and peripheral displays", "notification system", "ubiquitous computing"], "abstractive_keyphrases": ["user interface", "multiple-information consolidators", "framework to understand design attributes", "definition and characteristics of ambient systems", "four main design patterns"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "171", "document": ["S", "DB", ":", "A", "Novel", "Simulation-Based", "Debugg", "er", "for", "S", "ensor", "Network", "Applications", "S", "e", "nsor", "net", "wor", "k", "c", "omput", "i", "ng", "can", "be", "char", "act", "eri", "zed", "as", "resource-const", "r", "ai", "ned", "distributed", "computing", "using", "unreliable", ",", "low", "bandwidth", "communication", ".", "This", "combination", "of", "characteristics", "poses", "significant", "software", "development", "and", "maintenance", "challenges", ".", "Effective", "and", "efficient", "debugging", "tools", "for", "sensor", "network", "are", "thus", "critical", ".", "Existent", "development", "tools", ",", "such", "as", "TOSSIM", ",", "EmStar", ",", "ATEMU", "and", "Avrora", ",", "provide", "useful", "debugging", "support", ",", "but", "not", "with", "the", "fidelity", ",", "scale", "and", "functionality", "that", "we", "believe", "are", "sufficient", "to", "meet", "the", "needs", "of", "the", "next", "generation", "of", "applications", ".", "In", "this", "paper", ",", "we", "propose", "a", "debugger", ",", "called", "S", "2", "DB", ",", "based", "on", "a", "distributed", "full", "system", "sensor", "network", "simulator", "with", "high", "fidelity", "and", "scalable", "performance", ",", "DiSenS", ".", "By", "exploiting", "the", "potential", "of", "DiSenS", "as", "a", "scalable", "full", "system", "simulator", ",", "S", "2", "DB", "extends", "conventional", "debugging", "methods", "by", "adding", "novel", "device", "level", ",", "program", "source", "level", ",", "group", "level", ",", "and", "network", "level", "debugging", "abstractions", ".", "The", "performance", "evaluation", "shows", "that", "all", "these", "debugging", "features", "introduce", "overhead", "that", "is", "generally", "less", "than", "10", "%", "into", "the", "simulator", "and", "thus", "making", "S", "2", "DB", "an", "efficient", "and", "effective", "debugging", "tool", "for", "sensor", "networks", ".", "D.", "2", ".", "5", "-LSB-", "S", "oftware", "E", "n", "gi", "n", "eeri", "n", "g", "-RSB-", ":", "Te", "st", "i", "ng", "a", "nd", "D", "e", "buggi", "ng", ";", "I", ".", "6", "-LSB-", "Simu", "lation", "and", "Modeling", "-RSB-", "Experimentation", ",", "Performance", "Sensor", "networks", ",", "comprised", "of", "tiny", "resource-constrained", "devices", "connected", "by", "short", "range", "radios", "and", "powered", "by", "batteries", ",", "provide", "This", "work", "was", "supported", "by", "grants", "from", "Intel/UCMicro", ",", "Mi-crosoft", ",", "and", "the", "National", "Science", "Foundation", "-LRB-", "No", ".", "EHS-0209195", "No", ".", "CNF-0423336", ",", "and", "No", ".", "NGS-0204019", "-RRB-", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "EMSOFT", "'", "06", ",", "October", "22", "25", ",", "2006", ",", "Seoul", ",", "Korea", ".", "Copyright", "2006", "ACM", "1-59593-542-8", "/", "06/0010", "...", "$", "5.00", ".", "an", "innovative", "way", "to", "implement", "pervasive", "and", "non-intrusive", "envi-ronmental", "instrumentation", "and", "-LRB-", "potentially", "-RRB-", "actuation", ".", "The", "resource-constrained", "nature", "of", "sensor", "network", "devices", "poses", "significant", "software", "development", "and", "maintenance", "challenges", ".", "To", "prolong", "battery", "life", "and", "promote", "miniaturization", ",", "most", "devices", "have", "little", "memory", ",", "use", "low-power", "and", "unreliable", "radios", ",", "and", "run", "long", "duty", "cycles", ".", "In", "addition", "to", "these", "per-device", "constraints", ",", "by", "definition", "sensor", "networks", "are", "also", "distributed", "systems", ",", "with", "all", "of", "the", "concomitant", "synchronization", "and", "consistency", "concerns", "that", "distributed", "coordination", "implies", ".", "For", "these", "reasons", ",", "effective", "debugging", "support", "is", "critical", ".", "A", "number", "of", "sensor", "network", "development", "systems", "-LSB-", "2", ",", "18", ",", "3", ",", "17", ",", "13", ",", "6", "-RSB-", "provide", "debugging", "support", "for", "individual", "devices", "and/or", "the", "complete", "network", ".", "However", ",", "they", "all", "have", "their", "limitations", ".", "Some", "rely", "on", "hardware", "support", ",", "subject", "to", "the", "same", "resource", "constraints", "that", "as", "the", "programs", "on", "which", "they", "operate", ".", "Some", "only", "monitor", "the", "network", "radio", "traffic", ".", "And", "most", "importantly", ",", "as", "networks", "scale", ",", "these", "tools", "become", "difficult", "to", "apply", "to", "the", "details", "of", "collections", "of", "interacting", "sensor", "nodes", ".", "In", "this", "paper", ",", "we", "present", "a", "new", "approach", "that", "is", "based", "on", "scalable", "full", "system", "sensor", "network", "simulation", "with", "enhanced", "debugging", "features", ".", "Our", "debugging", "tool", "is", "called", "S", "2", "DB", "-LRB-", "where", "S", "2", "stands", "for", "Simulation", "and", "Sensor", "network", "-RRB-", ".", "The", "goal", "of", "S", "2", "DB", "is", "to", "adapt", "conventional", "debugging", "methods", "to", "sensor", "network", "applications", "so", "that", "we", "can", "have", "better", "control", "of", "hardware", "details", "and", "debug", "the", "complete", "sensor", "network", "in", "a", "coordinated", "way", ".", "Our", "approach", "relies", "upon", "four", "principle", "innovations", "in", "the", "area", "of", "debugging", "resource", "constrained", "devices", ".", "At", "the", "single", "device", "level", ",", "we", "introduce", "the", "concept", "of", "debugging", "point", "a", "generalized", "notion", "of", "break", "point", ",", "watch", "point", ",", "and", "state", "interrogation", "that", "permits", "state", "display", "from", "all", "sensor", "device", "subsystems", "-LRB-", "flash", "pages", ",", "buffers", ",", "etc.", "-RRB-", ";", "Also", "at", "the", "device", "level", ",", "we", "introduce", "virtual", "registers", "within", "the", "simulator", "to", "support", "source", "level", "instrumentation", "and", "tracing", ".", "The", "access", "to", "these", "registers", "does", "not", "affect", "the", "correct", "functioning", "of", "other", "components", ";", "At", "the", "multi-device", "level", ",", "we", "introduce", "a", "coordinated", "break", "condition", ",", "which", "enables", "the", "coordinated", "execution", "control", "of", "multiple", "devices", ";", "Finally", ",", "at", "the", "network", "level", ",", "we", "provide", "a", "``", "time", "traveling", "''", "facility", "to", "use", "with", "network", "level", "trace", "analysis", ",", "so", "that", "error", "site", "can", "be", "rapidly", "restored", "for", "detailed", "inspection", ".", "S", "2", "DB", "is", "built", "upon", "DiSenS", "-LSB-", "25", "-RSB-", ",", "a", "scalable", "distributed", "full", "system", "sensor", "network", "simulator", "DiSenS", "has", "a", "distributed", "simulation", "framework", ".", "Individual", "sensor", "devices", "are", "emulated", "in", "separated", "operating", "system", "threads", ".", "DiSenS", "then", "partitions", "and", "schedules", "these", "102", "device", "emulations", "to", "the", "computer", "nodes", "of", "a", "cluster", ",", "and", "simulates", "inter-device", "communication", "at", "the", "radio", "level", "-LRB-", "i.e.", "below", "the", "communication", "protocol", "stack", "and", "radio", "hardware", "device", "interfaces", "-RRB-", ".", "Sensor", "device", "emulations", "in", "DiSenS", "are", "cycle-accurate", ".", "Moreover", ",", "a", "plugin", "mechanism", "allows", "the", "insertion", "of", "power", "models", "and", "radio", "models", "with", "different", "fidelity", "levels", ".", "Thus", "DiSenS", "is", "capable", "of", "accurate", ",", "large-scale", "sensor", "network", "simulation", "where", "the", "application", "and", "operating", "system", "code", "can", "be", "executed", ",", "unmodified", "on", "native", "hardware", ".", "DiSenS", "benefits", "our", "design", "and", "implementation", "in", "many", "aspects", ".", "Its", "simulator", "infrastructure", "gives", "us", "the", "full", "control", "of", "device", "states", ",", "which", "enables", "the", "design", "of", "debugging", "points", ".", "Its", "high", "performance", "makes", "our", "debugger", "execute", "efficiently", ".", "Its", "scalability", "enables", "us", "to", "debug", "large-scale", "sensor", "networks", ".", "While", "the", "availability", "of", "a", "high-fidelity", "radio", "model", "for", "sensor", "network", "radio", "remains", "elusive", "-LRB-", "making", "many", "senor", "network", "implementors", "reluctant", "to", "embrace", "simulation", "and/or", "emulation", "-RRB-", ",", "we", "believe", "the", "ability", "to", "debug", "sensor", "network", "programs", "at", "scale", "as", "a", "precursor", "to", "actual", "deployment", "will", "cut", "development", "time", "and", "reduce", "the", "amount", "of", "in", "situ", "debugging", "that", "will", "be", "required", "in", "an", "actual", "deployment", ".", "We", "also", "wish", "to", "emphasize", "that", "in", "this", "paper", "we", "do", "not", "claim", "S", "2", "DB", "adequately", "addresses", "many", "of", "the", "thorny", "difficulties", "associated", "with", "all", "debugging", "tools", "-LRB-", "e.g.", "the", "ability", "to", "debug", "optimized", "code", "-RRB-", ".", "Rather", "our", "focus", "is", "on", "innovations", "that", "we", "believe", "are", "important", "to", "the", "development", "of", "large-scale", "senor", "network", "deploy-ments", "and", "that", "also", "improve", "the", "current", "state-of-the-practice", "in", "sensor", "network", "debugging", ".", "In", "Section", "2", ",", "we", "first", "give", "the", "background", "of", "sensor", "network", "debugging", ".", "In", "Section", "3", ",", "we", "briefly", "introduce", "the", "features", "and", "details", "of", "DiSenS", "that", "are", "relevant", "to", "our", "debugging", "purpose", ".", "In", "Section", "4", ",", "we", "introduce", "the", "debugging", "point", "and", "its", "use", "with", "break", "conditions", ".", "We", "also", "present", "the", "design", "of", "virtual", "hardware", "based", "source", "level", "instrumentation", ".", "In", "Section", "5", ",", "we", "discuss", "how", "to", "control", "the", "execution", "of", "multiple", "devices", "in", "a", "coordinated", "way", ".", "We", "focus", "on", "the", "implementation", "detail", "in", "DiSenS", "infrastructure", ".", "In", "Section", "6", ",", "we", "talk", "about", "the", "checkpoint", "implementations", "for", "fast", "time", "traveling", ".", "We", "evaluate", "the", "performance", "of", "our", "enhancing", "techniques", "in", "Section", "7", ".", "And", "we", "conclude", "our", "work", "in", "Section", "8", ".", "Like", "most", "embedded", "devices", ",", "sensor", "network", "devices", "can", "be", "debugged", "with", "special", "hardware", "support", ".", "For", "motes", "-LRB-", "e.g.", "Mica2", "and", "MicaZ", "-RRB-", ",", "Atmel", "'s", "AVR", "JTAG", "ICE", "-LRB-", "In-Circuit", "Emulator", "-RRB-", "-LSB-", "2", "-RSB-", "is", "one", "of", "the", "popular", "hardware-based", "debuggers", ".", "Atmel", "'s", "AVR", "family", "of", "microcontrollers", "-LRB-", "that", "are", "currently", "used", "as", "the", "processing", "elements", "in", "many", "mote", "implementations", "-RRB-", "has", "built-in", "debugging", "support", ",", "called", "On-Chip", "Debugging", "-LRB-", "OCD", "-RRB-", ".", "Developers", "can", "access", "the", "OCD", "functions", "via", "JTAG", "-LSB-", "10", "-RSB-", "hardware", "interface", ".", "With", "JTAG", "ICE", ",", "developers", "can", "set", "break", "points", ",", "step-execute", "program", "and", "query", "hardware", "resources", ".", "JTAG", "ICE", "can", "also", "be", "used", "with", "GUI", "interfaces", "or", "a", "GDB", "debugging", "console", ".", "Hardware-based", "approaches", "such", "as", "JTAG", "ICE", "typically", "have", "their", "limitations", ".", "For", "example", ",", "it", "is", "not", "possible", "to", "synchronize", "the", "states", "of", "program", "execution", "with", "I/O", "systems", "in", "debugging", ".", "This", "is", "because", "when", "the", "program", "execution", "is", "stopped", "in", "JTAG", "ICE", ",", "the", "I/O", "system", "continues", "to", "run", "at", "full", "speed", "-LSB-", "1", "-RSB-", ".", "Also", "since", "the", "debugging", "support", "is", "only", "provided", "with", "the", "processing", "unit", "-LRB-", "i.e.", "the", "microcontroller", "-RRB-", ",", "it", "is", "not", "easy", "to", "interrogate", "the", "state", "of", "other", "on-board", "systems", ",", "like", "flash", "memory", ".", "In", "contrast", ",", "by", "working", "with", "the", "full", "system", "DiSenS", "simulations", ",", "S", "2", "DB", "does", "not", "suffer", "from", "these", "limitations", ".", "At", "network", "level", ",", "many", "monitoring", "and", "visualization", "tools", "like", "Sympathy", "-LSB-", "18", ",", "19", "-RSB-", ",", "SpyGlass", "-LSB-", "3", "-RSB-", ",", "Surge", "Network", "Viewer", "-LSB-", "22", "-RSB-", "and", "Mote-VIEW", "-LSB-", "16", "-RSB-", "provide", "a", "way", "to", "trace", ",", "display", "and", "analyze", "network", "activities", "for", "a", "physical", "sensor", "network", ".", "These", "tools", "usually", "use", "a", "software", "data", "collecting", "module", "running", "on", "sensor", "nodes", "in", "the", "network", ".", "The", "collected", "data", "is", "transferred", "using", "flooding", "or", "multihop", "routing", "to", "the", "gateway", "node", ".", "The", "gateway", "node", "then", "forwards", "the", "data", "to", "a", "PC", "class", "machine", "for", "analysis", "or", "visualization", ".", "These", "tools", "are", "useful", "for", "displaying", "the", "network", "topology", "and", "and", "analyzing", "the", "dynamics", "of", "data", "flow", ",", "particularly", "with", "respect", "to", "specific", "inter-node", "communication", "events", ".", "Tools", "like", "Sympathy", "even", "specialize", "in", "detecting", "and", "localizing", "sensor", "network", "failures", "in", "data", "collection", "applications", ".", "However", ",", "these", "monitoring", "may", "be", "intrusive", "in", "that", "they", "share", "many", "of", "the", "scarce", "device", "resources", "they", "use", "with", "the", "applications", "they", "are", "intended", "to", "instrument", ".", "These", "tools", "may", "complement", "what", "we", "have", "with", "S", "2", "DB", ".", "When", "a", "communication", "anomaly", "is", "detected", ",", "for", "example", ",", "often", "a", "program-level", "debugger", "may", "still", "be", "necessary", "to", "pinpoint", "the", "exact", "location", "of", "error", "in", "code", ".", "More", "generally", ",", "while", "debugging", "on", "real", "hardware", "is", "the", "ultimate", "way", "to", "verify", "the", "correctness", "of", "sensor", "network", "applications", ",", "simulation", "based", "debuggers", "provide", "complementary", "advantages", "that", "have", "been", "successfully", "demonstrated", "by", "other", "projects", ".", "Many", "sensor", "network", "simulators", ",", "like", "TOSSIM", "-LSB-", "13", "-RSB-", ",", "ATEMU", "-LSB-", "17", "-RSB-", ",", "Avrora", "-LSB-", "23", "-RSB-", "and", "EmStar", "-LSB-", "6", "-RSB-", ",", "provide", "significant", "debugging", "capabilities", ".", "TOSSIM", "is", "a", "discrete", "event", "simulator", "for", "TinyOS", "applications", ".", "It", "translates", "the", "TinyOS", "code", "into", "emulation", "code", "and", "links", "with", "the", "emulator", "itself", ".", "So", "debugging", "with", "TOSSIM", "is", "actually", "debugging", "the", "emulator", ".", "Developers", "have", "to", "keep", "in", "their", "mind", "the", "internal", "representation", "of", "device", "states", ".", "While", "discrete", "event", "simulators", "are", "useful", "for", "verifying", "functional", "correctness", ",", "they", "typically", "do", "not", "capture", "the", "precise", "timing", "characteristics", "of", "device", "hardware", ",", "and", "thus", "have", "limited", "capability", "in", "exposing", "errors", "in", "program", "logic", ".", "In", "contrast", ",", "full", "system", "simulators", ",", "such", "as", "ATEMU", "and", "Avrora", ",", "have", "much", "higher", "fidelity", ".", "ATEMU", "features", "a", "source", "level", "debugger", "XATDB", ",", "which", "has", "a", "graphic", "frontend", "for", "easy", "use", ".", "XATDB", "can", "debug", "multiple", "sensor", "devices", ",", "but", "can", "only", "focus", "on", "one", "at", "a", "time", ".", "Avrora", "provides", "rich", "built-in", "support", "for", "profiling", "and", "instrumentation", ".", "User", "code", "can", "be", "inserted", "at", "any", "program", "address", ",", "watches", "can", "be", "attached", "to", "memory", "locations", ",", "and", "specific", "events", "can", "be", "monitored", ".", "These", "facilities", "can", "be", "quite", "useful", "for", "debugging", "purposes", ".", "Indeed", ",", "we", "extend", "Avrora", "'s", "probe", "and", "watch", "concepts", "in", "the", "development", "of", "S", "2", "DB", "'s", "debugging", "points", "-LRB-", "cf.", "Section", "4", "-RRB-", ".", "In", "addition", "to", "this", "support", "for", "simulator", "instrumentation", ",", "S", "2", "DB", "also", "provides", "a", "source", "code", "level", "instrumentation", "facility", ",", "via", "virtual", "debugging", "registers", ",", "since", "it", "is", "easier", "to", "use", "for", "some", "debugging", "problems", ".", "Time", "traveling", "for", "debugging", "is", "currently", "the", "subject", "of", "much", "research", "-LSB-", "11", ",", "20", "-RSB-", "in", "the", "field", "of", "software", "system", "development", "and", "virtualization", ".", "Flashback", "-LSB-", "20", "-RSB-", "is", "a", "lightweight", "extension", "for", "rollback", "and", "replay", "for", "software", "debugging", ".", "Flashback", "uses", "shadow", "processes", "to", "take", "snapshots", "of", "the", "in-memory", "states", "of", "a", "running", "process", "and", "logs", "the", "process", "'", "I/O", "events", "with", "the", "underlying", "system", "to", "support", "deterministic", "rollback", "or", "replay", ".", "VMM", "-LRB-", "virtual", "machine", "monitor", "-RRB-", "level", "logging", "is", "used", "in", "-LSB-", "11", "-RSB-", "for", "replaying", "the", "system", "executing", "in", "a", "virtual", "machine", ".", "Checkpointing", "the", "state", "of", "a", "full", "system", "simulator", "is", "easier", "than", "that", "in", "a", "real", "OS", "or", "virtual", "machine", "monitor", "since", "all", "the", "hardware", "are", "simulated", "in", "software", ".", "Our", "results", "show", "that", "time", "traveling", "support", "in", "DiSenS", "has", "very", "low", "overhead", "due", "to", "the", "simpleness", "of", "sensor", "hardware", "it", "emulates", ".", "S", "2", "DB", "is", "built", "upon", "DiSenS", "-LSB-", "25", "-RSB-", ",", "a", "distributed", "sensor", "network", "simulator", "designed", "for", "high", "fidelity", "and", "scalable", "performance", ".", "DiSenS", "provides", "sensor", "network", "applications", "an", "execution", "environment", "as", "``", "close", "''", "to", "real", "deployment", "as", "possible", ".", "DiSenS", "is", "also", "able", "103", "to", "simulate", "a", "sensor", "network", "with", "hundreds", "of", "nodes", "in", "real", "time", "speed", "using", "computer", "clusters", ".", "In", "this", "section", ",", "we", "briefly", "introduce", "the", "design", "aspects", "of", "DiSenS", "that", "are", "relevant", "to", "the", "implementation", "of", "S", "2", "DB", ".", "The", "complete", "discussion", "and", "evaluation", "of", "DiSenS", "are", "in", "papers", "-LSB-", "25", ",", "24", "-RSB-", ".", "3.1", "Full", "System", "Device", "Simulation", "The", "building", "blocks", "of", "DiSenS", "are", "full", "system", "device", "simulators", ",", "supporting", "popular", "sensor", "network", "devices", ",", "including", "iPAQ", "-LSB-", "9", "-RSB-", ",", "Stargate", "-LSB-", "21", "-RSB-", "and", "Mica2/MicaZ", "motes", "-LSB-", "15", "-RSB-", ".", "In", "this", "paper", ",", "we", "confine", "our", "description", "to", "the", "functionality", "necessary", "for", "debugging", "mote", "applications", ".", "However", ",", "the", "same", "functionality", "is", "implemented", "for", "more", "complex", "devices", "such", "as", "the", "iPAQ", "and", "Stargate", ".", "A", "more", "full", "examination", "of", "debugging", "for", "heterogeneous", "sensor", "devices", "is", "the", "subject", "of", "our", "future", "work", ".", "The", "mote", "device", "simulator", "in", "DiSenS", "supports", "most", "of", "the", "Mica2", "and", "MicaZ", "hardware", "features", ",", "including", "the", "AVR", "instruction", "set", ",", "the", "ATmega128L", "microcontroller", "-LRB-", "memories", ",", "UARTs", ",", "timers", ",", "SPI", "and", "ADC", ",", "etc.", "-RRB-", ",", "the", "on-board", "Flash", "memory", ",", "CC1000", "-LRB-", "Mica2", "-RRB-", "and", "CC2420", "-LRB-", "MicaZ", "-RRB-", "radio", "chips", "and", "other", "miscellaneous", "components", "-LRB-", "like", "sensor", "board", ",", "LEDs", ",", "etc.", "-RRB-", ".", "The", "core", "of", "the", "device", "simulator", "is", "a", "cycle-accurate", "AVR", "instruction", "emulator", ".", "The", "instruction", "emulator", "interacts", "with", "other", "hardware", "simulation", "components", "via", "memory", "mapped", "I/O", ".", "When", "an", "application", "binary", "is", "executed", "in", "the", "simulator", ",", "each", "machine", "instruction", "is", "fed", "into", "the", "instruction", "emulator", ",", "shifting", "the", "internal", "representation", "of", "hardware", "states", "accordingly", "and", "faithfully", ".", "Asyn-chronous", "state", "change", "is", "modelled", "as", "events", ".", "Events", "are", "scheduled", "by", "hardware", "components", "and", "kept", "in", "an", "event", "queue", ".", "The", "instruction", "emulator", "checks", "the", "event", "queue", "for", "each", "instruction", "execution", ",", "triggering", "timed", "events", ".", "The", "collection", "of", "simulated", "hardware", "features", "is", "rich", "enough", "to", "boot", "and", "execute", "unmodified", "binaries", "of", "TinyOS", "-LSB-", "8", "-RSB-", "and", "most", "sensor", "network", "applications", ",", "including", "Surge", ",", "TinyDB", "-LSB-", "14", "-RSB-", "and", "Deluge", "-LSB-", "4", "-RSB-", ".", "By", "correctly", "simulating", "hardware", "components", ",", "the", "device", "simulator", "ensures", "the", "cycle", "accuracy", ",", "providing", "the", "basis", "of", "faithful", "simulation", "of", "a", "complete", "sensor", "network", ".", "The", "full", "system", "device", "simulator", "in", "DiSenS", "also", "presents", "extension", "points", "or", "``", "hooks", "''", "for", "integrating", "power", "and", "radio", "models", ".", "This", "extensible", "architecture", "provides", "a", "way", "to", "support", "the", "development", "of", "new", "models", "and", "to", "trade", "simulation", "speed", "for", "level", "of", "accuracy", ".", "For", "debugging", ",", "this", "extensibility", "enables", "developers", "to", "test", "applications", "with", "different", "settings", ".", "For", "example", ",", "radio", "models", "representing", "different", "environments", "-LRB-", "like", "outdoor", ",", "indoor", ",", "etc.", "-RRB-", "can", "be", "plugged", "in", "to", "test", "applications", "under", "different", "circumstances", ".", "In", "i", "t", "s", "defaul", "t", "confi", "gurat", "i", "on", ",", "Di", "S", "enS", "i", "ncorporat", "es", "an", "accurat", "e", "power", "model", "from", "-LSB-", "12", "-RSB-", ",", "a", "simple", "linear", "battery", "model", ",", "a", "basic", "lossless", "radio", "model", ",", "and", "a", "simple", "parameterized", "statistical", "model", ".", "The", "structure", "of", "the", "system", ",", "however", ",", "incorporates", "these", "models", "as", "modules", "that", "can", "be", "replaced", "with", "more", "sophisticated", "counterparts", ".", "3.2", "Scalable", "Distributed", "Simulation", "DiSenS", "'s", "ability", "to", "simulate", "hundreds", "of", "mote", "devices", "using", "distributed", "cluster", "computing", "resources", "is", "its", "most", "distinctive", "feature", ".", "This", "level", "of", "scalability", "makes", "it", "possible", "to", "experiment", "with", "large", "sensor", "network", "applications", "before", "they", "are", "actually", "deployed", "and", "to", "explore", "reconfiguration", "options", "``", "virtually", "''", "so", "that", "only", "the", "most", "promising", "need", "to", "be", "investigated", "in", "situ", ".", "As", "a", "debugging", "tool", ",", "DiSenS", "'s", "scalability", "allows", "developers", "to", "identify", "and", "correct", "problems", "associated", "with", "scale", ".", "For", "example", ",", "a", "data", "sink", "application", "may", "work", "well", "in", "a", "network", "of", "dozens", "of", "nodes", ",", "but", "fails", "when", "the", "network", "size", "increases", "to", "hundreds", ",", "due", "to", "the", "problems", "such", "as", "insufficient", "queue", "or", "buffer", "size", ".", "Even", "for", "small", "scale", "network", ",", "the", "scalability", "is", "useful", "because", "it", "translates", "into", "simulation", "speed", ",", "and", "thus", "debugging", "efficiency", ".", "DiSenS", "achieves", "its", "scalability", "by", "using", "a", "simple", "yet", "effective", "synchronization", "protocol", "for", "radio", "simulation", "and", "applying", "automatic", "node", "partition", "algorithms", "to", "spread", "the", "simulation/emulation", "workload", "across", "machines", "in", "a", "computer", "cluster", ".", "In", "DiSenS", ",", "sensor", "nodes", "are", "simulated", "in", "parallel", ",", "each", "running", "in", "its", "own", "operating", "system", "thread", "and", "keeping", "its", "own", "virtual", "clock", ".", "Sensor", "nodes", "interact", "with", "each", "other", "only", "in", "the", "radio", "transmission", ",", "during", "which", "radio", "packets", "are", "exchanged", ".", "The", "radio", "interaction", "of", "sensor", "nodes", "can", "be", "abstracted", "into", "two", "operations", ":", "read", "radio", "channel", "and", "write", "radio", "channel", ".", "The", "analysis", "-LSB-", "25", "-RSB-", "shows", "that", "only", "when", "a", "node", "reads", "radio", "channel", ",", "it", "needs", "to", "synchronize", "its", "clock", "with", "its", "neighbors", "-LRB-", "i.e.", ",", "potential", "radio", "transmitters", "in", "its", "radio", "range", "-RRB-", ".", "This", "ensures", "that", "each", "receiving", "node", "receives", "all", "the", "packets", "it", "is", "supposed", "to", "receive", ".", "A", "primitive", "called", "wait", "on", "sync", "is", "introduced", "to", "perform", "this", "synchronization", ",", "which", "forces", "the", "caller", "to", "wait", "for", "neighbor", "nodes", "to", "catch", "up", "with", "its", "current", "clock", "time", ".", "To", "implement", "this", "protocol", ",", "each", "node", "also", "has", "to", "keep", "its", "neighbors", "updated", "about", "its", "clock", "advance", "by", "periodically", "sending", "out", "its", "current", "clock", "time", ".", "A", "more", "detailed", "description", "and", "analysis", "of", "this", "protocol", "is", "in", "-LSB-", "25", "-RSB-", ".", "To", "utilize", "distributed", "computing", "r", "esources", ",", "D", "iS", "enS", "partitions", "nodes", "into", "groups", ",", "each", "simulated", "on", "one", "machine", "within", "a", "cluster", ".", "Communication", "between", "sensor", "nodes", "assigned", "to", "the", "same", "machine", "is", "via", "a", "shared-memory", "communication", "channel", ".", "However", ",", "when", "motes", "assigned", "to", "distinct", "machines", "communicate", ",", "that", "communication", "and", "synchronization", "must", "be", "implemented", "via", "a", "message", "pass", "between", "machines", ".", "Due", "to", "the", "relatively", "large", "overhead", "of", "remote", "synchronization", "via", "message", "passing", "-LRB-", "caused", "by", "network", "latency", "-RRB-", ",", "partitioning", "of", "simulated", "nodes", "to", "cluster", "machines", "plays", "an", "important", "role", "in", "making", "the", "ensemble", "simulation", "efficient", ".", "To", "address", "this", "problem", ",", "graph-partitioning", "algorithms", ",", "originally", "developed", "for", "tightly-coupled", "data-parallel", "high-performance", "computing", "applications", ",", "are", "employed", ".", "DiSenS", "uses", "a", "popular", "partitioning", "package", "-LSB-", "7", "-RSB-", "to", "partition", "nodes", "nearly", "optimally", ".", "Our", "S", "2", "DB", "debugging", "tool", "is", "built", "upon", "DiSenS", ",", "whose", "design", "has", "huge", "impact", "on", "how", "the", "debugging", "facilities", "that", "we", "have", "implemented", ",", "including", "both", "advantages", "and", "limitations", ".", "In", "the", "next", "3", "sections", ",", "we", "'ll", "discuss", "how", "DiSenS", "interacts", "with", "S", "2", "DB", "to", "support", "both", "conventional", "and", "novel", "debugging", "techniques", ".", "S", "2", "DB", "was", "first", "built", "as", "a", "conventional", "distributed", "debugger", "on", "the", "DiSenS", "simulator", ".", "Each", "group", "of", "sensor", "nodes", "has", "a", "standalone", "debugging", "proxy", "waiting", "for", "incoming", "debugging", "commands", ".", "A", "debugger", "console", "thus", "can", "attach", "to", "each", "individual", "sensor", "node", "via", "this", "group", "proxy", "and", "perform", "debugging", "operations", ".", "The", "basic", "S", "2", "DB", "includes", "most", "functions", "in", "a", "conventional", "debugger", ",", "like", "state", "-LRB-", "register", "and", "memory", "-RRB-", "checking", ",", "break", "points", "and", "step", "execution", ",", "etc.", ".", "In", "this", "section", ",", "we", "discuss", "how", "we", "exploit", "the", "potential", "of", "a", "simulation", "environment", "to", "devise", "novel", "techniques", "for", "debugging", "single", "sensor", "devices", ".", "4.1", "Debugging", "Point", "Debugging", "is", "essentially", "a", "process", "of", "exposing", "program", "'s", "internal", "states", "relevant", "to", "its", "abnormal", "behavior", "and", "pinpointing", "the", "cause", ".", "Visibility", "of", "execution", "states", "is", "a", "determining", "factor", "of", "how", "difficult", "the", "debugging", "task", "is", ".", "Building", "upon", "a", "full", "system", "simulator", "for", "each", "device", "gives", "S", "2", "DB", "a", "great", "potential", "to", "expose", "time", "synchronized", "state", ".", "Conventional", "debuggers", "essentially", "manipulate", "three", "states", "of", "a", "program", ":", "register", ",", "memory", "and", "program", "counter", "-LRB-", "PC", "-RRB-", ".", "Simulators", "104", "Component", "Parameters", "Value", "Interrupt", "Watchable", "Overhead", "PC", "-LRB-", "pc", "-RRB-", "microcontroller", "none", "Int", "No", "Yes", "Large", "Register", "-LRB-", "reg", "-RRB-", "microcontroller", "address", "Int", "No", "Yes", "Large", "Memory", "Read", "-LRB-", "mem", "rd", "-RRB-", "SRAM", "address", "Boolean", "No", "Yes", "Small", "Memory", "Write", "-LRB-", "mem", "wr", "-RRB-", "SRAM", "address", "Boolean", "No", "Yes", "Small", "Memory", "-LRB-", "mem", "-RRB-", "SRAM", "address", "Int", "No", "Yes", "Small", "Flash", "Access", "-LRB-", "flash", "access", "-RRB-", "Flash", "command", ",", "address", "Boolean", "No", "Yes", "Small", "Flash", "-LRB-", "flash", "-RRB-", "Flash", "address", "Int", "No", "Yes", "Small", "Power", "Change", "-LRB-", "power", "-RRB-", "Power", "Model", "none", "Float", "No", "Yes", "Small", "Timer", "Match", "-LRB-", "timer", "-RRB-", "Timers", "none", "Boolean", "Yes", "No", "Small", "Radio", "Data", "Ready", "-LRB-", "spi", "-RRB-", "SPI", "-LRB-", "radio", "-RRB-", "none", "Boolean", "Yes", "No", "Small", "ADC", "Data", "Ready", "-LRB-", "adc", "-RRB-", "ADC", "-LRB-", "radio/sensor", "-RRB-", "none", "Boolean", "Yes", "No", "Small", "Serial", "Data", "Received", "-LRB-", "uart", "-RRB-", "UART", "none", "Boolean", "Yes", "No", "Small", "Clock", "-LRB-", "clock", "-RRB-", "Virtual", "none", "Int", "No", "Yes", "Minimal", "Radio", "Packet", "Ready", "-LRB-", "packet", "-RRB-", "Radio", "Chip", "none", "Packet", "No", "Yes", "Small", "Program", "Defined", "-LRB-", "custom", "-RRB-", "Virtual", "Debugging", "Hardware", "ID", "Int", "No", "Yes", "Program", "defined", "Table", "1", ":", "The", "current", "set", "of", "debugging", "points", "in", "S", "2", "DB", ".", "can", "provide", "much", "more", "abundant", "state", "information", ",", "which", "may", "enable", "or", "ease", "certain", "debugging", "tasks", ".", "For", "example", ",", "to", "debug", "a", "TinyOS", "module", "that", "manages", "on-board", "flash", "memory", ",", "it", "is", "important", "for", "the", "internal", "buffers", "and", "flash", "pages", "to", "be", "displayed", "directly", ".", "It", "is", "straightforward", "for", "DiSenS", "but", "rather", "difficult", "in", "a", "conventional", "debugger", ",", "which", "has", "to", "invoke", "complex", "code", "sequence", "to", "access", "the", "flash", "indirectly", ".", "We", "carefully", "studied", "the", "device", "states", "in", "DiSenS", "and", "defined", "a", "series", "of", "debugging", "points", ".", "A", "debugging", "point", "is", "the", "access", "point", "to", "one", "of", "the", "internal", "states", "of", "the", "simulated", "device", ".", "The", "device", "state", "that", "is", "exposed", "by", "a", "debugging", "point", "can", "then", "be", "used", "by", "the", "debugger", "for", "displaying", "program", "status", "and", "controlling", "program", "execution", ",", "e.g.", ",", "break", "and", "watch", ",", "as", "that", "in", "a", "conventional", "debugger", ".", "In", "this", "sense", ",", "debugging", "points", "have", "extended", "our", "debugger", "'s", "capability", "of", "program", "manipulation", ".", "Table", "1", "lists", "the", "current", "set", "of", "debugging", "points", "defined", "in", "S", "2", "DB", ".", "It", "is", "not", "a", "complete", "list", "since", "we", "are", "still", "improving", "our", "implementation", "and", "discovering", "more", "meaningful", "debugging", "points", ".", "In", "the", "table", ",", "the", "first", "column", "shows", "the", "debugging", "point", "name", "and", "the", "abbreviated", "notation", "-LRB-", "in", "parentheses", "-RRB-", "used", "by", "the", "debugger", "console", ".", "The", "corresponding", "hardware", "component", "that", "a", "debugging", "point", "belongs", "to", "is", "listed", "in", "the", "second", "column", ".", "The", "third", "and", "fourth", "columns", "specify", "the", "parameters", "and", "return", "value", "of", "a", "debugging", "point", ".", "For", "example", ",", "the", "``", "memory", "''", "point", "returns", "the", "byte", "content", "by", "the", "given", "memory", "address", ".", "The", "fifth", "column", "tells", "whether", "a", "debugging", "point", "has", "an", "interrupt", "associated", ".", "And", "the", "sixth", "column", "specifies", "whether", "a", "watch", "can", "be", "added", "to", "the", "point", ".", "The", "last", "column", "estimates", "the", "theoretical", "performance", "overhead", "of", "monitoring", "a", "particular", "debugging", "point", ".", "As", "we", "see", "in", "the", "table", ",", "the", "common", "program", "states", "interrogated", "by", "convent", "i", "onal", "debugger", "s", ",", "i", ".", "e", ".", "r", "egi", "s", "t", "e", "r", ",", "memor", "y", "and", "pr", "ogr", "am", "count", "er", ",", "are", "also", "generalized", "as", "debugging", "points", "in", "S", "2", "DB", ",", "listed", "as", "reg", ",", "mem", "and", "pc", ".", "For", "memory", ",", "we", "also", "introduced", "two", "extra", "debugging", "points", ",", "mem", "rd", "and", "mem", "wr", ",", "to", "monitor", "the", "access", "to", "memory", "in", "terms", "of", "direction", ".", "Notice", "that", "debugging", "points", "have", "different", "time", "properties", ":", "some", "are", "persistent", "while", "others", "are", "transient", ".", "In", "the", "memory", "case", ",", "the", "memory", "content", ",", "mem", ",", "is", "persistent", ",", "while", "memory", "accesses", ",", "mem", "rd", "and", "mem", "wr", ",", "are", "transient", ".", "They", "are", "valid", "only", "when", "memory", "is", "read", "or", "written", ".", "Similarly", ",", "the", "on-board", "flash", "has", "two", "defined", "debugging", "points", ":", "one", "for", "the", "page", "content", "-LRB-", "flash", "-RRB-", "and", "the", "other", "-LRB-", "flash", "access", "-RRB-", "for", "the", "flash", "access", ",", "including", "read", ",", "program", "and", "erase", ".", "The", "power", "debugging", "point", "is", "used", "to", "access", "the", "simulated", "power", "state", "of", "the", "device", ",", "which", "may", "be", "useful", "for", "debugging", "power-aware", "algorithms", ".", "Four", "important", "hardware", "events", "are", "defined", "as", "debugging", "points", ":", "timer", "match", "event", "-LRB-", "timer", "-RRB-", ",", "radio", "-LRB-", "SPI", "-RRB-", "data", "ready", "-LRB-", "spi", "-RRB-", ",", "ADC", "data", "ready", "-LRB-", "adc", "-RRB-", "and", "serial", "data", "ready", "-LRB-", "uart", "-RRB-", ".", "They", "are", "all", "transient", "and", "all", "related", "to", "an", "interrupt", ".", "These", "debugging", "points", "provide", "a", "natural", "and", "convenient", "way", "to", "debug", "sensor", "network", "programs", "since", "many", "of", "these", "programs", "are", "event-driven", ",", "such", "as", "TinyOS", "and", "its", "application", "suite", ".", "As", "an", "example", ",", "if", "we", "want", "to", "break", "the", "program", "execution", "at", "the", "occurrence", "of", "a", "timer", "match", "event", ",", "we", "can", "simply", "invoke", "the", "command", ":", ">", "break", "when", "timer", "-LRB-", "-RRB-", "==", "true", "In", "a", "more", "conventional", "debugger", ",", "a", "breakpoint", "is", "typically", "set", "in", "the", "interrupt", "handling", "code", ",", "the", "name", "of", "which", "must", "be", "known", "to", "the", "programmer", ".", "Furthermore", ",", "breaking", "on", "these", "event-based", "debugging", "points", "is", "much", "more", "efficient", "than", "breaking", "on", "a", "source", "code", "line", "-LRB-", "i.e.", ",", "a", "specific", "program", "address", "-RRB-", ".", "This", "is", "because", "matching", "program", "addresses", "requires", "a", "comparison", "after", "the", "execution", "of", "each", "instruction", "while", "matching", "event-based", "debugging", "points", "only", "happens", "when", "the", "corresponding", "hardware", "events", "are", "triggered", ",", "which", "occur", "much", "less", "frequently", ".", "We", "will", "discuss", "how", "to", "use", "debugging", "points", "to", "set", "break", "conditions", "and", "their", "overhead", "in", "later", "this", "subsection", ".", "The", "clock", "debugging", "point", "provides", "a", "way", "for", "accurate", "timing", "control", "over", "program", "execution", ".", "It", "can", "be", "used", "to", "fast", "forward", "the", "execution", "to", "a", "certain", "point", "if", "we", "know", "that", "the", "bug", "of", "our", "interest", "will", "not", "occur", "until", "after", "a", "period", "of", "time", ".", "It", "would", "be", "rather", "difficult", "to", "implement", "this", "in", "a", "conventional", "debugger", "since", "there", "is", "no", "easy", "way", "to", "obtain", "accurate", "clock", "timing", "across", "device", "subsystems", ".", "It", "is", "also", "possible", "to", "analyze", "the", "states", "and", "data", "in", "the", "simulator", "to", "extract", "useful", "high-level", "semantics", "and", "use", "them", "to", "build", "advanced", "debugging", "points", ".", "An", "example", "is", "the", "recognition", "of", "radio", "packet", ".", "The", "Mica2", "sensor", "device", "uses", "the", "CC1000", "radio", "chip", ",", "which", "operates", "at", "the", "byte", "level", ".", "Thus", "an", "emulator", "can", "only", "see", "the", "byte", "stream", "transmitted", "from/to", "neighbor", "nodes", "and", "not", "packet", "boundaries", ".", "For", "application", "debugging", ",", "however", ",", "it", "is", "often", "necessary", "to", "break", "program", "execution", "when", "a", "complete", "packet", "has", "been", "transmitted", "or", "received", ".", "A", "typical", "debugging", "strategy", "is", "to", "set", "a", "breakpoint", "in", "the", "radio", "software", "stack", "at", "the", "the", "line", "of", "code", "line", "that", "finishes", "a", "packet", "reception", ".", "However", ",", "this", "process", "can", "be", "both", "tedious", "and", "unreliable", "-LRB-", "e.g.", "software", "stack", "may", "change", "when", "a", "new", "image", "is", "installed", "-RRB-", ",", "especially", "during", "development", "or", "maintenance", "of", "the", "radio", "stack", "itself", ".", "Fortunately", ",", "in", "the", "current", "TinyOS", "radio", "stack", "implementation", ",", "the", "radio", "packet", "has", "a", "fixed", "format", ".", "We", "implemented", "a", "tiny", "radio", "packet", "recognizer", "in", "the", "radio", "chip", "simulation", "code", ".", "A", "``", "radio", "packet", "ready", "''", "-LRB-", "packet", "-RRB-", "debugging", "point", "is", "defined", "to", "signal", "the", "state", "105", "when", "a", "complete", "packet", "is", "received", ".", "These", "extracted", "high-level", "semantics", "are", "useful", "because", "we", "can", "debug", "applications", "without", "relying", "on", "the", "source", "code", ",", "especially", "when", "the", "application", "binary", "is", "optimized", "code", "and", "it", "is", "hard", "to", "associate", "exact", "program", "addresses", "with", "specific", "source", "code", "line", ".", "However", ",", "discovering", "these", "semantics", "using", "low-level", "data/states", "is", "challenging", "and", "non-obvious", "-LRB-", "at", "least", ",", "to", "us", "-RRB-", "and", "as", "such", "continues", "to", "be", "a", "focus", "of", "our", "on-going", "research", "in", "this", "area", ".", "4.1.1", "Break", "Conditions", "Using", "Debugging", "Points", "Debugging", "points", "are", "used", "in", "a", "functional", "form", ".", "For", "example", ",", "if", "we", "want", "to", "print", "a", "variable", "X", ",", "we", "can", "use", ":", ">", "print", "mem", "-LRB-", "X", "-RRB-", "To", "implement", "conditional", "break", "or", "watch", "points", ",", "they", "can", "be", "included", "in", "imperatives", "such", "as", ":", ">", "break", "when", "flash_access", "-LRB-", "erase", ",", "0x1", "-RRB-", "which", "breaks", "the", "execution", "when", "the", "first", "page", "of", "the", "flash", "is", "erased", ".", "It", "is", "also", "possible", "to", "compose", "them", ":", ">", "break", "when", "timer", "-LRB-", "-RRB-", "&", "&", "mem", "-LRB-", "Y", "-RRB-", ">", "1", "which", "breaks", "when", "a", "timer", "match", "event", "occurs", "and", "a", "state", "variable", "Y", ",", "like", "a", "counter", ",", "is", "larger", "than", "1", ".", "The", "basic", "algorithm", "for", "monitoring", "and", "evaluating", "break", "conditions", "is", "as", "follows", ".", "Each", "debugging", "point", "maintains", "a", "monitor", "queue", ".", "Whenever", "a", "break", "point", "is", "set", ",", "its", "condition", "is", "added", "to", "the", "queue", "of", "every", "debugging", "point", "that", "is", "used", "by", "the", "condition", ".", "Every", "time", "the", "state", "changes", "at", "a", "debugging", "point", ",", "the", "conditions", "in", "its", "queue", "is", "re-evaluated", "to", "check", "whether", "any", "of", "them", "is", "satisfied", ".", "If", "so", ",", "one", "of", "the", "break", "points", "is", "reached", "and", "the", "execution", "is", "suspended", ".", "Otherwise", ",", "the", "execution", "continues", ".", "Note", "that", "the", "monitoring", "overhead", "varies", "for", "different", "debugging", "points", "revealing", "the", "possibility", "for", "optimization", "of", "the", "basic", "condition", "evaluating", "algorithm", ".", "The", "monitoring", "overhead", "is", "determined", "by", "the", "frequency", "of", "state", "change", "at", "a", "debugging", "point", ".", "Obviously", ",", "pc", "has", "the", "largest", "overhead", "because", "it", "changes", "at", "each", "instruction", "execution", ".", "Event", "related", "debugging", "points", "have", "very", "low", "overhead", "since", "hardware", "events", "occur", "less", "frequently", ".", "For", "example", ",", "the", "timer", "event", "may", "be", "triggered", "for", "every", "hundreds", "of", "cycles", ".", "Clock", "logi-cally", "has", "a", "large", "overhead", "since", "it", "changes", "every", "clock", "cycle", ".", "However", ",", "in", "simulation", ",", "clock", "time", "is", "checked", "anyway", "for", "event", "triggering", ".", "By", "implementing", "the", "clock", "monitoring", "itself", "as", "an", "event", ",", "we", "introduce", "no", "extra", "overhead", "for", "monitoring", "clock", "debugging", "point", ".", "Thus", "we", "are", "able", "to", "optimize", "the", "implementation", "of", "condition", "evaluation", ".", "For", "example", ",", "considering", "the", "following", "break", "condition", ":", ">", "break", "when", "pc", "-LRB-", "-RRB-", "==", "foo", "&", "&", "mem", "-LRB-", "Y", "-RRB-", ">", "1", "Using", "the", "basic", "algorithm", ",", "the", "overhead", "of", "monitoring", "the", "condition", "is", "the", "sum", "of", "pc", "'s", "overhead", "and", "mem", "'s", "overhead", ".", "However", ",", "since", "the", "condition", "is", "satisfied", "when", "both", "debugging", "points", "match", "their", "expression", ",", "we", "could", "only", "track", "mem", "since", "it", "has", "smaller", "overhead", "than", "pc", ".", "When", "mem", "is", "satisfied", ",", "we", "then", "continue", "to", "check", "pc", ".", "In", "this", "way", ",", "the", "overall", "overhead", "reduces", ".", "Now", "we", "present", "the", "general", "condition", "evaluation", "algorithm", ".", "Given", "a", "condition", "as", "a", "logic", "expression", ",", "C", ",", "it", "is", "first", "converted", "into", "canonical", "form", "using", "product", "of", "maxterms", ":", "C", "=", "t", "1", "t", "2", "...", "t", "n", "-LRB-", "1", "-RRB-", "where", "t", "i", "is", "a", "maxterm", ".", "The", "overhead", "function", "f", "ov", "is", "defined", "as", "the", "total", "overhead", "to", "monitor", "all", "the", "debugging", "points", "in", "a", "maxterm", ".", "Then", "we", "sort", "the", "maxterms", "by", "the", "value", "of", "f", "ov", "-LRB-", "t", "i", "-RRB-", "in", "incremental", "order", ",", "say", ",", "t", "k", "1", ",", "...", ",", "t", "k", "n", ".", "We", "start", "the", "monitoring", "of", "C", "first", "using", "maxterm", "t", "k", "1", "by", "adding", "C", "to", "all", "the", "debugging", "points", "that", "belong", "to", "t", "k", "1", ".", "When", "t", "k", "1", "is", "satisfied", ",", "we", "re-evaluate", "C", "and", "stop", "if", "it", "is", "true", ".", "Otherwise", ",", "we", "remove", "C", "from", "t", "k", "1", "'s", "debugging", "points", "and", "start", "monitoring", "t", "k", "2", ".", "If", "t", "k", "n", "is", "monitored", "and", "C", "is", "still", "not", "satisfied", ",", "we", "loop", "back", "to", "t", "k", "1", ".", "We", "repeat", "this", "process", "until", "C", "is", "satisfied", ".", "If", "C", "is", "unsatisfiable", ",", "this", "process", "never", "ends", ".", "Debugging", "points", "give", "us", "powerful", "capability", "to", "debug", "sensor", "network", "programs", "at", "a", "level", "between", "the", "hardware", "level", "and", "the", "source-code", "level", ".", "However", ",", "a", "direct", "instrumentation", "of", "the", "source", "code", "i", "s", "somet", "i", "m", "es", "easi", "est", "and", "m", "ost", "s", "t", "r", "ai", "ght", "-", "f", "or", "war", "d", "debuggi", "ng", "met", "hod", ".", "The", "typical", "methodology", "for", "implementing", "source-level", "instrumentation", "is", "to", "use", "print", "statements", "to", "dump", "states", ".", "Printing", ",", "however", ",", "can", "introduce", "considerable", "overhead", "that", "can", "mask", "the", "problem", "being", "tracked", ".", "In", "S", "2", "DB", "we", "include", "an", "instrumentation", "facility", "based", "on", "virtual", "registers", "that", "serves", "the", "same", "purpose", "with", "reduced", "overhead", ".", "We", "introduce", "our", "instrumentation", "facility", "in", "the", "next", "subsection", ".", "4.2", "Virtual", "Hardware", "Based", "Source", "Code", "Instrumentation", "Sensor", "devices", "are", "usually", "resource-constrained", ",", "lacking", "the", "necessary", "facility", "for", "debugging", "in", "both", "hardware", "and", "software", ".", "On", "a", "Mica2", "sensor", "device", ",", "the", "only", "I/O", "method", "that", "can", "be", "used", "for", "display", "internal", "status", "by", "the", "program", "is", "to", "flash", "the", "three", "LEDs", ",", "which", "is", "tedious", "and", "error-prone", "to", "decode", ".", "DiSenS", "faithfully", "simulates", "the", "sensor", "hardware", ",", "thus", "inheriting", "this", "limitation", ".", "Because", "we", "insist", "that", "DiSenS", "maintain", "binary", "transparency", "with", "the", "native", "hardware", "it", "emulates", ",", "the", "simulated", "sensor", "network", "program", "is", "not", "able", "to", "perform", "a", "simple", "``", "printf", "''", ".", "To", "solve", "this", "problem", ",", "we", "introduce", "three", "virtual", "registers", "as", "an", "I/O", "channel", "for", "the", "communication", "between", "application", "and", "simulator", ".", "Their", "I/O", "addresses", "are", "allocated", "in", "the", "reserved", "memory", "space", "of", "ATmega128L", ".", "Thus", "the", "access", "of", "these", "virtual", "registers", "will", "not", "affect", "the", "correct", "functioning", "of", "other", "components", ".", "Table", "2", "lists", "the", "three", "registers", "and", "their", "functions", ".", "Address", "Name", "Functionality", "0x75", "VDBCMD", "Command", "Register", "0x76", "VDBIN", "Input", "Register", "0x77", "VDBOUT", "Output", "Register", "Table", "2", ":", "Virtual", "registers", "for", "communication", "between", "application", "and", "simulator", ".", "The", "operation", "of", "virtual", "registers", "is", "as", "follows", ":", "an", "application", "first", "issues", "a", "command", "in", "the", "command", "register", ",", "VDBCMD", ";", "then", "the", "output", "data", "is", "transferred", "via", "VDBOUT", "register", "and", "the", "input", "data", "is", "read", "from", "em", "VDBIN", "register", ".", "The", "simplest", "application", "of", "virtual", "registers", "is", "to", "print", "debugging", "messages", "by", "first", "sending", "a", "``", "PRINT", "''", "command", "and", "then", "continuously", "writing", "the", "ASCII", "characters", "in", "a", "string", "to", "the", "VDBOUT", "register", "until", "a", "new", "line", "is", "reached", ".", "On", "the", "simulator", "side", ",", "whenever", "a", "command", "is", "issued", ",", "it", "either", "reads", "from", "the", "VDBOUT", "register", "or", "sending", "data", "to", "VDBIN", ".", "In", "the", "print", "case", ",", "when", "the", "simulator", "gets", "all", "the", "characters", "-LRB-", "ended", "by", "a", "new", "line", "-RRB-", ",", "it", "will", "print", "out", "on", "the", "host", "console", "of", "the", "simulating", "machine", ".", "A", "more", "advanced", "use", "of", "virtual", "registers", "is", "to", "control", "a", "debugging", "point", ".", "We", "term", "this", "combination", "of", "virtual", "registers", "and", "debugging", "points", "a", "program", "defined", "debugging", "point", "-LRB-", "custom", ",", "as", "listed", "in", "the", "last", "line", "of", "Table", "1", "-RRB-", ".", "The", "state", "of", "a", "custom", "debugging", "point", "is", "generated", "by", "the", "instrumentation", "code", "in", "the", "program", ".", "To", "do", "so", ",", "the", "instrumentation", "code", "first", "sends", "a", "``", "DEBUG", "''", "command", "to", "the", "VD-106", "BCMD", "register", ",", "then", "outputs", "the", "debugging", "data", "on", "the", "VDBOUT", "register", ",", "in", "the", "form", "of", "a", "tuple", ",", "<", "id", ",", "value", ">", ".", "The", "id", "is", "used", "to", "identify", "the", "instrumentation", "point", "in", "the", "source", "code", "and", "the", "value", "is", "any", "value", "generated", "by", "the", "instrumented", "code", ".", "If", "there", "is", "a", "break", "condition", "registered", "at", "this", "point", ",", "it", "will", "be", "checked", "against", "the", "tuple", "and", "execution", "will", "stop", "when", "it", "is", "matched", ".", "As", "an", "example", ",", "if", "we", "want", "to", "break", "at", "the", "10th", "entry", "of", "a", "function", ",", "we", "can", "instrument", "the", "function", "and", "keep", "a", "counter", "of", "entries", ".", "Every", "time", "the", "counter", "changes", ",", "we", "output", "the", "counter", "value", "via", "virtual", "registers", ".", "The", "break", "condition", "will", "be", "satisfied", "when", "the", "value", "equals", "to", "10", ".", "To", "make", "it", "easy", "to", "use", ",", "we", "developed", "a", "small", "C", "library", "for", "accessing", "the", "virtual", "registers", "transparently", ".", "Developers", "can", "invoke", "accessing", "functions", "on", "these", "registers", "by", "simply", "calling", "the", "C", "APIs", ",", "for", "example", ",", "in", "a", "TinyOS", "program", ".", "Instrumentation", "via", "the", "virtual", "registers", "has", "the", "minimal", "intru-siveness", "on", "application", "execution", ".", "When", "generating", "a", "debugging", "point", "event", "by", "sending", "a", "<", "id", ",", "value", ">", "tuple", ",", "only", "three", "register", "accesses", "are", "needed", "if", "both", "values", "in", "the", "tuple", "are", "8-bits", "each", "-LRB-", "one", "for", "the", "command", "and", "two", "for", "the", "data", "-RRB-", ".", "DiSenS", "'s", "scalability", "and", "performance", "enables", "S", "2", "DB", "to", "debug", "large", "cooperating", "ensembles", "of", "sensors", "as", "a", "simulated", "sensor", "network", "deployment", ".", "Like", "other", "debuggers", ",", "S", "2", "DB", "permits", "its", "user", "to", "attach", "to", "and", "``", "focus", "''", "on", "a", "specific", "sensor", "while", "the", "other", "sensors", "in", "the", "ensemble", "execute", "independently", ".", "However", ",", "often", ",", "more", "systematic", "errors", "emerge", "from", "the", "interactions", "among", "sensor", "nodes", "even", "when", "individual", "devices", "and/or", "applications", "are", "functioning", "correctly", ".", "To", "reveal", "these", "kinds", "of", "errors", ",", "developers", "must", "be", "able", "to", "interrogate", "and", "control", "multiple", "sensor", "devices", "in", "a", "coordinated", "way", ".", "Debugging", "a", "program", "normally", "involves", "displaying", "program", "status", ",", "breaking", "program", "execution", "at", "arbitrary", "points", ",", "step-executing", ",", "etc.", ".", "By", "extending", "this", "concept", "to", "parallel", "debugging", ",", "we", "want", "to", "be", "able", "to", ":", "1", ".", "Display", "the", "status", "of", "multiple", "devices", "in", "parallel", ";", "2", ".", "Break", "the", "execution", "of", "multiple", "devices", "at", "certain", "common", "point", ";", "3", ".", "Step-execute", "multiple", "devices", "at", "the", "same", "pace", ".", "The", "first", "and", "third", "items", "in", "the", "above", "``", "wish", "list", "''", "are", "easy", "to", "implement", "in", "a", "simulation", "context", ".", "S", "2", "DB", "can", "simply", "``", "multicast", "''", "its", "debugging", "commands", "to", "a", "batch", "of", "sensor", "nodes", "once", "their", "execution", "stop", "at", "a", "certain", "common", "point", ".", "As", "for", "the", "second", "item", ",", "since", "DiSenS", "is", ",", "in", "effect", ",", "executing", "multiple", "parallel", "simulations", "without", "a", "centralized", "clock", ",", "implementing", "a", "time-correlated", "and", "common", "breakpoint", "shares", "the", "same", "coordination", "challenges", "with", "in", "parallel", "debugging", "counterpart", ".", "The", "simplest", "form", "of", "coordinated", "break", "is", "to", "pause", "the", "execution", "of", "a", "set", "of", "involved", "nodes", "at", "a", "specific", "virtual", "time", ",", "T", ":", ">", ":", "break", "when", "clock", "-LRB-", "-RRB-", "==", "T", "where", "the", "colon", "before", "``", "break", "''", "indicates", "that", "it", "is", "a", "batch", "command", "and", "will", "be", "sent", "to", "all", "the", "nodes", "in", "a", "global", "batch", "list", "-LRB-", "maintained", "by", "other", "commands", "-RRB-", ".", "It", "is", "necessary", "to", "review", "DiSenS", "'s", "synchronization", "mechanism", "first", ".", "We", "summarize", "the", "major", "rules", "as", "follows", ":", "1", ".", "A", "node", "that", "receives", "or", "samples", "radio", "channel", "must", "wait", "for", "all", "its", "neighbors", "to", "catch", "up", "with", "its", "current", "clock", "time", ";", "A", "C", "B", "D", "Y", "Receive", "Receive", "Update", "Transmit", "X", "clock", "update", "&", "byte", "transmission", "clock", "update", "Figure", "1", ":", "Illustration", "of", "synchronization", "between", "sensor", "nodes", "in", "DiSenS", ".", "Dashed", "arrows", "indicate", "the", "update", "and", "transmission", "messages", ".", "A", "<", "B", "<", "C", "<", "D.", "2", ".", "All", "nodes", "must", "periodically", "broadcast", "their", "clock", "updates", "to", "neighbors", ";", "3", ".", "Before", "any", "wait", ",", "a", "node", "must", "first", "send", "its", "clock", "update", "-LRB-", "to", "avoid", "loop", "waiting", "-RRB-", ";", "4", ".", "Radio", "byte", "is", "always", "sent", "with", "a", "clock", "update", "at", "the", "end", "of", "its", "last", "bit", "transmission", ".", "Figure", "1", "illustrates", "the", "process", ".", "At", "time", "point", "A", ",", "node", "X", "receives", ".", "It", "first", "sends", "an", "update", "of", "its", "clock", "and", "wait", "for", "its", "neighbor", "Y", "-LRB-", "rule", "3", "&", "1", "-RRB-", ".", "Y", "runs", "to", "B", "and", "sends", "its", "clock", "update", "-LRB-", "rule", "2", "-RRB-", ",", "which", "wakes", "up", "X.", "X", "proceeds", "to", "C", "and", "receives", "again", ".", "Y", "starts", "a", "byte", "transmission", "at", "B", ".", "At", "D", ",", "the", "last", "bit", "transmitted", "and", "so", "the", "byte", "along", "with", "a", "clock", "update", "is", "sent", "to", "X", "-LRB-", "rule", "4", "-RRB-", ".", "X", "receives", "the", "byte", ",", "knowing", "Y", "passes", "its", "current", "time", ",", "and", "proceeds", ".", "B", "Y", "X", "A", "Receive", "C", "Break", "point", "Last", "update", "Next", "update", "update", "for", "break", "Figure", "2", ":", "Break", "at", "a", "certain", "point", "of", "time", ".", "Dashed", "arrows", "indicate", "the", "update", "and", "transmission", "messages", ".", "B", "<", "A", "<", "C.", "Now", ",", "let", "'s", "see", "what", "happens", "when", "we", "ask", "multiple", "nodes", "to", "stop", "at", "the", "same", "time", ".", "Figure", "2", "shows", "one", "case", "of", "the", "situation", ".", "X", "receives", "at", "time", "A", "and", "sends", "an", "update", "and", "waits", "for", "Y", ".", "Y", "sends", "an", "update", "at", "B.", "Its", "next", "update", "time", "is", "C", ".", "But", "we", "want", "to", "break", "at", "a", "point", "before", "C", "but", "after", "A", ".", "Since", "Y", "breaks", "-LRB-", "thus", "waits", "-RRB-", ",", "it", "sends", "an", "update", "-LRB-", "rule", "3", "-RRB-", ".", "X", "receives", "the", "update", ",", "wakes", "up", ",", "proceeds", "to", "the", "break", "point", "and", "stops", ".", "Now", "both", "X", "and", "Y", "are", "stopped", "at", "the", "same", "time", "point", ".", "In", "Figure", "3", ",", "the", "situation", "is", "similar", "to", "the", "case", "in", "Figure", "2", ".", "The", "difference", "is", "that", "now", "the", "break", "point", "is", "in", "the", "middle", "of", "a", "byte", "transmission", "for", "Y", ".", "Y", "can", "not", "just", "send", "an", "update", "to", "X", "and", "let", "X", "proceeds", "to", "break", "point", "as", "in", "Figure", "2", ".", "because", "if", "X", "gets", "the", "update", "from", "Y", ",", "it", "believes", "Y", "has", "no", "byte", "to", "send", "up", "to", "the", "break", "point", "and", "will", "continue", "its", "radio", "receiving", "logic", ".", "Thus", "the", "partial", "byte", "from", "Y", "is", "lost", ".", "This", "problem", "is", "caused", "by", "rule", "4", ".", "We", "solve", "it", "by", "relaxing", "the", "rule", ":", "Whenever", "a", "node", "is", "stopped", "-LRB-", "thus", "it", "waits", "-RRB-", "in", "the", "middle", "of", "a", "byte", "transmission", ",", "the", "byte", "is", "pre-transmitted", "with", "the", "clock", "update", ".", "We", "can", "do", "this", "because", "mote", "radio", "always", "transmits", "in", "byte", "unit", ".", "Once", "a", "byte", "transmission", "starts", ",", "we", "already", "107", "B", "Y", "X", "A", "Receive", "C", "Break", "point", "Transmit", "start", "Transmit", "update", "&", "pre-transmit", "Figure", "3", ":", "Extension", "to", "the", "synchronization", "protocol", ":", "pre-transmission", ".", "Dashed", "arrows", "indicate", "the", "update", "and", "transmission", "messages", ".", "B", "<", "A", "<", "C.", "know", "its", "content", ".", "Also", ",", "in", "DiSenS", ",", "each", "byte", "received", "by", "a", "node", "is", "buffered", "with", "timestamp", ".", "It", "will", "be", "processed", "only", "when", "the", "time", "matches", "the", "local", "clock", ".", "With", "this", "relaxed", "rule", ",", "we", "are", "now", "able", "to", "stop", "multiple", "sensor", "nodes", "at", "the", "same", "virtual", "time", ".", "The", "next", "question", "is", "how", "to", "perform", "a", "conditional", "break", "on", "multiple", "nodes", ".", "Notice", "that", "we", "can", "not", "simply", "implement", ":", ">", ":", "break", "when", "mem", "-LRB-", "X", "-RRB-", ">", "3", "because", "it", "asks", "the", "nodes", "to", "break", "independently", ".", "Whenever", "a", "node", "breaks", "at", "some", "point", ",", "other", "nodes", "with", "direct", "or", "indirect", "neighborhood", "relationship", "with", "it", "will", "wait", "at", "indeterminate", "points", "due", "to", "the", "synchronization", "requirement", ".", "Whether", "they", "all", "satisfy", "the", "condition", "is", "not", "clear", ".", "A", "reasonable", "version", "of", "this", "command", "is", ":", ">", ":", "break", "when", "*", ".", "mem", "-LRB-", "X", "-RRB-", ">", "3", "or", ">", ":", "break", "when", "node1.mem", "-LRB-", "X", "-RRB-", ">", "3", "&", "&", "...", "&", "&", "nodek.mem", "-LRB-", "X", "-RRB-", ">", "3", "which", "means", "``", "break", "when", "X", ">", "3", "for", "all", "the", "nodes", "''", ".", "In", "the", "general", "form", ",", "we", "define", "a", "coordinated", "break", "as", "a", "break", "with", "condition", "cond", "1", "cond", "2", "...", "cond", "k", ",", "where", "cond", "i", "is", "a", "logic", "expression", "for", "node", "i.", "000000000000000", "000000000000000", "111111111111111", "111111111111111", "000000000", "000000000", "111111111", "111111111", "00000000000000", "00000000000000", "11111111111111", "11111111111111", "X", "Y", "Z", "A", "B", "C", "D", "Condition", "satisfied", "Figure", "4", ":", "Coordinated", "break", ".", "The", "shaded", "boxes", "represent", "the", "time", "range", "during", "which", "a", "local", "condition", "is", "satisfied", ".", "Between", "C", "and", "D", ",", "the", "global", "condition", "is", "satisfied", ".", "A", "<", "B", "<", "C", "<", "D.", "Figure", "4", "illustrates", "the", "meaning", "of", "this", "form", "of", "breakpoint", ".", "The", "shaded", "boxes", "are", "the", "time", "period", "during", "which", "the", "local", "condition", "for", "a", "node", "is", "satisfied", ".", "In", "Figure", "4", ",", "the", "global", "condition", ",", "i.e.", "cond", "x", "cond", "y", "cond", "z", ",", "is", "satisfied", "between", "time", "C", "and", "D.", "Time", "C", "is", "the", "exact", "point", "where", "we", "want", "to", "break", ".", "Before", "we", "present", "the", "algorithm", "that", "implements", "coordinated", "break", ",", "we", "need", "to", "first", "introduce", "a", "new", "synchronization", "scheme", ".", "We", "call", "it", "partially", "ordered", "synchronization", ".", "By", "default", "DiSenS", "implements", "peer", "synchronization", ":", "all", "the", "nodes", "are", "running", "in", "arbitrary", "order", "except", "synchronized", "during", "receiving", "or", "sampling", ".", "The", "new", "scheme", "imposes", "a", "partial", "order", ".", "In", "this", "scheme", ",", "a", "node", "master", "is", "first", "specified", ".", "Then", "all", "the", "other", "nodes", "proceed", "by", "following", "the", "master", "node", ".", "That", "is", ",", "at", "any", "wall", "clock", "time", "t", "wall", "-LRB-", "i.e.", ",", "the", "real", "world", "time", "-RRB-", ",", "for", "any", "node", "i", ",", "clock", "i", "<", "=", "clock", "master", ".", "A", "C", "B", "D", "A", "C", "E", "B", "D", "X", "Y", "X", "Y", "Figure", "5", ":", "TOP", ":", "peer", "synchronization", "in", "DiSenS", ".", "A", "<", "B", "<", "D", "<", "C.", "BOTTOM", ":", "partially", "ordered", "synchronization", "for", "S", "2", "DB", ".", "A", "<", "C", "<", "E", ",", "B", "=", "C", ",", "D", "=", "E.", "Dashed", "arrows", "indicate", "the", "update", "and", "transmission", "messages", ".", "-LRB-", "Some", "update", "messages", "are", "omitted", "-RRB-", "Figure", "5", "illustrates", "the", "two", "synchronization", "schemes", ".", "The", "top", "part", "shows", "DiSenS", "'s", "peer", "synchronization", "scheme", ".", "Node", "X", "waits", "at", "A.", "Y", "sends", "update", "at", "B", "and", "wakes", "X", ".", "Then", "Y", "waits", "at", "D", ",", "waken", "by", "X", "'s", "update", "at", "C.", "X", "and", "Y", "proceed", "in", "parallel", "afterwards", ".", "The", "bottom", "part", "shows", "S", "2", "DB", "'s", "partially", "ordered", "synchronization", "scheme", ".", "Here", "Y", "is", "the", "master", ".", "X", "first", "waits", "at", "A.", "Y", "sends", "its", "update", "at", "B.", "X", "receives", "the", "update", "and", "runs", "to", "the", "updated", "point", ",", "which", "is", "C", "-LRB-", "=", "B", "-RRB-", ".", "Then", "X", "waits", "again", ".", "When", "Y", "runs", "to", "D", "and", "sends", "update", ".", "X", "can", "proceed", "to", "E", "-LRB-", "=D", "-RRB-", ".", "If", "Y", "needs", "to", "wait", "to", "receive", ",", "X", "will", "wake", "it", "up", "when", "X", "reaches", "E", "according", "to", "rule", "3", ".", "Obviously", ",", "in", "this", "scheme", ",", "X", "always", "follows", "Y", ".", "Now", "we", "can", "give", "our", "algorithm", "for", "coordinated", "break", ".", "Using", "Figure", "4", "as", "the", "example", ",", "we", "first", "designate", "X", "as", "the", "master", ".", "At", "point", "A", ",", "X", "'s", "condition", "is", "satisfied", ".", "X", "stops", "at", "A", ".", "Since", "Y", "and", "Z", "follow", "X", ",", "they", "all", "stop", "at", "A", ".", "Then", "we", "choose", "the", "next", "node", "as", "the", "new", "master", ",", "whose", "condition", "is", "not", "satisfied", "yet", ".", "It", "is", "Y", ".", "X", "and", "Z", "follow", "Y", "until", "Y", "reaches", "B.", "Next", ",", "similarly", ",", "we", "choose", "Z", "as", "new", "master", ".", "At", "time", "C", ",", "we", "find", "cond", "x", "cond", "y", "cond", "z", "=", "true", ".", "We", "break", "the", "execution", "and", "C", "is", "exactly", "our", "break", "point", ".", "In", "this", "algorithm", ",", "the", "aforementioned", "pre-transmission", "also", "plays", "an", "important", "role", "in", "that", "it", "enables", "us", "to", "stop", "all", "nodes", "at", "the", "same", "time", "point", "precisely", ".", "Coordinated", "break", ",", "however", ",", "does", "not", "work", "with", "arbitrary", "conditions", ".", "Consider", "the", "case", "where", "the", "local", "conditions", "in", "Figure", "4", "are", "connected", "by", "injunction", "instead", "of", "conjunction", ".", "The", "break", "point", "now", "should", "be", "at", "time", "A", ".", "Since", "we", "are", "not", "able", "to", "predict", "which", "node", "will", "first", "satisfy", "its", "condition", ",", "it", "is", "not", "possible", "for", "us", "to", "stop", "all", "the", "nodes", "together", "at", "time", "A", "unless", "we", "synchronize", "all", "the", "nodes", "cycle", "by", "cycle", ",", "which", "would", "limit", "the", "scalability", "and", "the", "performance", "significantly", ".", "For", "the", "same", "reason", ",", "we", "can", "not", "set", "up", "multiple", "coordinated", "break", "points", ".", "We", "reiterate", "that", "these", "limita-108", "tions", "are", "a", "direct", "result", "of", "our", "desire", "to", "scale", "DiSenS", "and", "to", "use", "S", "2", "DB", "on", "large-scale", "simulated", "networks", ".", "That", "is", ",", "we", "have", "sacri-ficed", "generality", "in", "favor", "of", "the", "performance", "gained", "through", "parallel", "and", "distributed-memory", "implementation", ".", "Although", "the", "generality", "of", "coordinated", "break", "is", "limited", ",", "it", "is", "still", "useful", "in", "many", "situations", ".", "For", "example", ",", "for", "a", "data", "sink", "application", ",", "we", "may", "want", "to", "determine", "why", "data", "is", "lost", "when", "a", "surge", "of", "data", "flows", "to", "the", "sink", "node", ".", "In", "this", "case", ",", "we", "would", "break", "the", "execution", "of", "the", "sink", "node", "based", "on", "the", "condition", "that", "its", "neighbor", "nodes", "have", "sent", "data", "to", "it", ".", "Then", "we", "step-execute", "the", "program", "running", "on", "the", "sink", "node", "to", "determine", "why", "the", "data", "is", "being", "lost", ".", "To", "implement", "the", "condition", "of", "data", "sent", "on", "neighbor", "nodes", "we", "can", "simply", "use", "source", "code", "instrumentation", "exporting", "a", "custom", "debugging", "point", ".", "Thus", "this", "example", "also", "illustrates", "how", "the", "single-device", "debugging", "features", "discussed", "in", "the", "previous", "section", "can", "be", "integrated", "with", "the", "group", "debugging", "features", ".", "Even", "with", "the", "ability", "to", "perform", "coordinated", "breakpoints", ",", "the", "normal", "debugging", "cycle", "of", "break/step/print", "i", "s", "still", "cumbersome", "when", "the", "complete", "sensor", "network", "is", "debugged", ",", "especially", "if", "the", "size", "of", "network", "is", "large", ".", "The", "high", "level", "nature", "of", "some", "systematic", "errors", "requires", "a", "global", "view", "of", "the", "interactions", "among", "sensor", "nodes", ".", "An", "alternative", "model", "for", "debugging", "sensor", "networks", "is", ":", "A", "simulation", "is", "conducted", "with", "tracing", ".", "Trace", "log", "is", "analyzed", "to", "pinpoint", "the", "anomaly", ".", "Quickly", "return", "to", "the", "point", "when", "the", "anomaly", "occurs", "to", "perform", "detailed", "source", "code", "level", "debugging", ".", "To", "achieve", "this", ",", "we", "need", "to", "trace", "the", "simulation", "and", "restore", "the", "state", "of", "network", "at", "any", "point", "in", "the", "trace", ".", "The", "debugging", "points", "and", "virtual", "hardware", "based", "instrumentation", "discussed", "in", "section", "4", "can", "be", "used", "to", "trace", "the", "simulation", "in", "a", "way", "similar", "to", "-LSB-", "23", "-RSB-", ".", "In", "this", "section", ",", "we", "present", "the", "S", "2", "DB", "'s", "design", "of", "fast", "time", "traveling", ",", "which", "enables", "the", "restoration", "of", "network", "states", ".", "The", "basic", "mechanism", "required", "to", "implement", "time", "traveling", "is", "a", "periodic", "checkpoint", ".", "A", "checkpoint", "of", "a", "simulation", "is", "a", "complete", "copy", "of", "the", "state", "of", "the", "simulated", "sensor", "network", ".", "DiSenS", "is", "an", "object", "oriented", "framework", "in", "representing", "device", "components", ".", "When", "a", "checkpoint", "is", "initiated", ",", "the", "state", "saving", "function", "is", "invoked", "first", "at", "the", "highest", "level", "``", "machine", "''", "object", ".", "Recursively", ",", "the", "sub-components", "in", "the", "``", "machine", "''", "invoke", "their", "own", "state", "saving", "functions", ".", "The", "saved", "state", "is", "comprised", "of", "registers", ",", "memories", "-LRB-", "SRAM", ",", "EEPROM", ",", "etc.", "-RRB-", "and", "auxiliary", "state", "variables", "in", "each", "component", ".", "It", "also", "includes", "some", "simulation", "related", "states", ".", "For", "example", ",", "we", "need", "to", "save", "the", "event", "queue", "content", ",", "the", "received", "radio", "byte", "queue", "in", "the", "radio", "model", "and", "the", "status", "of", "the", "power", "model", ",", "etc.", ".", "The", "complete", "binary", "of", "the", "state", "is", "saved", "into", "a", "timestamped", "file", ".", "The", "result", "checkpoint", "file", "for", "DiSenS", "has", "a", "size", "of", "4948", "bytes", ",", "mostly", "comprised", "of", "SRAM", "-LRB-", "4KB", "-RRB-", "content", ".", "Checkpoint", "for", "the", "on-board", "flash", "has", "to", "be", "handled", "differently", ".", "Motes", "have", "a", "512KB", "flash", "chip", "used", "for", "sensor", "data", "logging", "and", "in-network", "programming", ".", "If", "flash", "content", "is", "saved", "as", "other", "components", ",", "the", "checkpoint", "file", "will", "be", "as", "large", "as", "over", "half", "megabyte", ",", "which", "is", "128", "times", "larger", "than", "the", "one", "without", "flash", ".", "So", "if", "flash", "is", "also", "saved", "in", "a", "snapshot", "way", ",", "it", "is", "both", "extremely", "space", "and", "time", "inefficient", "for", "a", "large", "scale", "sensor", "network", ".", "We", "solve", "this", "problem", "by", "saving", "flash", "operations", "in", "a", "log", "file", ".", "Since", "most", "sensor", "network", "applications", "use", "flash", "infrequently", "and", "flash", "content", "is", "updated", "in", "page", "unit", ",", "the", "overhead", "of", "saving", "log", "is", "much", "smaller", "than", "saving", "flash", "snapshots", ".", "Notice", "that", "the", "flash", "buffers", "have", "to", "be", "saved", "in", "the", "snapshot", "checkpoint", "file", ".", "Once", "a", "simulation", "is", "finished", ",", "we", "have", "a", "set", "of", "snapshot", "checkpoints", "and", "a", "continuous", "flash", "log", ".", "Given", "an", "arbitrary", "time", "point", "T", ",", "to", "restore", "the", "state", "of", "system", "includes", "the", "following", "steps", ":", "1", ".", "Restore", ":", "find", "the", "latest", "checkpoint", "CP", "that", "is", "prior", "to", "T", "and", "load", "the", "snapshot", "checkpoint", "file", ";", "2", ".", "Replay", ":", "if", "flash", "is", "used", ",", "replay", "the", "flash", "operation", "log", "up", "to", "CP", "'s", "time", ";", "3", ".", "Re-run", ":", "start", "from", "CP", ",", "re-run", "the", "simulation", "until", "time", "T", ".", "Checkpoints", "can", "also", "be", "initiated", "by", "methods", "other", "than", "the", "need", "to", "take", "a", "periodic", "snapshot", ".", "For", "example", ",", "under", "S", "2", "DB", "a", "break", "point", "can", "be", "associated", "with", "a", "checkpoint", "so", "that", "once", "the", "execution", "breaks", ",", "a", "checkpoint", "is", "generated", ".", "Thus", ",", "a", "developer", "can", "move", "between", "the", "checkpoints", "to", "find", "the", "exact", "point", "when", "error", "occurs", "during", "a", "replayed", "simulation", ".", "Checkpoint", "can", "also", "be", "initiated", "by", "a", "debugging", "point", ",", "especially", "custom", "debugging", "points", ".", "By", "allowing", "checkpoint", "to", "be", "triggered", "in", "conjunction", "with", "debugging", "points", "S", "2", "DB", "integrates", "the", "replay", "and", "state-saving", "capabilities", "needed", "to", "efficiently", "re-examine", "an", "error", "condition", "with", "the", "execution", "control", "over", "state", "changes", ".", "Since", "S", "2", "DB", "is", "built", "upon", "DiSenS", ",", "its", "performance", "is", "highly", "dependent", "on", "DiSenS", "itself", ".", "We", "begin", "this", "section", "by", "focusing", "on", "the", "the", "performance", "of", "DiSenS", "simulation/emulation", "and", "then", "show", "the", "overhead", "introduced", "by", "various", "S", "2", "DB", "debugging", "facilities", ".", "All", "experiments", "described", "in", "this", "section", "are", "conducted", "using", "a", "16-node", "cluster", "in", "which", "each", "host", "has", "dual", "3.2", "GHz", "Intel", "Xeon", "processors", "with", "1", "GB", "memory", ".", "The", "hosts", "are", "connected", "via", "switched", "gigabit", "Ethernet", ".", "To", "make", "fair", "comparison", ",", "we", "use", "the", "same", "sensor", "network", "application", "CntToRfm", "for", "evaluation", ".", "7.1", "Performance", "of", "DiSenS", "For", "brevity", ",", "we", "present", "only", "the", "typical", "simulation", "speed", "of", "DiSenS", "on", "the", "cluster", ".", "A", "more", "thorough", "examination", "of", "scalability", "and", "performance", "under", "different", "configurations", "can", "be", "found", "in", "paper", "-LSB-", "25", "-RSB-", ".", "Figure", "6", "shows", "the", "performance", "achieved", "by", "DiSenS", "when", "simulating", "various", "numbers", "of", "nodes", "on", "the", "cluster", "in", "both", "1-D", "and", "2-D", "topologies", ".", "In", "the", "figure", ",", "the", "X", "axis", "shows", "the", "total", "number", "of", "nodes", "simulated", ".", "The", "Y", "-", "axis", "is", "the", "normalized", "simulation", "speed", "-LRB-", "compared", "to", "real", "time", "speed", "on", "hardware", "-RRB-", ".", "For", "the", "1-D", "topology", ",", "all", "nodes", "are", "oriented", "on", "a", "straight", "line", ",", "50", "meters", "apart", "-LRB-", "assuming", "the", "maximal", "radio", "range", "is", "60", "meters", "-RRB-", ".", "For", "the", "2-D", "topology", ",", "nodes", "are", "arranged", "in", "a", "square", "grid", ".", "Again", "the", "distance", "between", "two", "nodes", "is", "50", "meters", ".", "Both", "performance", "curves", "are", "very", "close", "except", "in", "the", "middle", "part", ",", "where", "2-D", "topology", "has", "slightly", "worse", "performance", ".", "The", "simulation", "speed", "drops", "noticeably", "from", "1", "to", "4", "nodes", "but", "then", "the", "speed", "curve", "keeps", "flat", "until", "128", "nodes", "are", "simulated", ".", "After", "that", ",", "the", "speed", "decreases", "linearly", ".", "The", "transition", "from", "flat", "to", "linear", "decrement", "is", "because", "there", "is", "not", "enough", "computing", "resources", "within", "the", "cluster", "-LRB-", "16", "hosts", "-RRB-", ".", "To", "summarize", "the", "results", "from", "-LSB-", "25", "-RSB-", ",", "DiSenS", "is", "able", "to", "simulate", "one", "mote", "9", "times", "faster", "than", "real", "time", "speed", ",", "or", "160", "nodes", "at", "near", "real", "time", "speed", ",", "or", "2048", "nodes", "at", "nearly", "a", "tenth", "of", "real", "time", "speed", ".", "109", "Total", "number", "of", "nodes", "Normalized", "simulated", "clock", "speed", "1", "2", "4", "8", "16", "32", "64", "128", "256", "512", "1024", "0.01", "0.10", "1.00", "10.00", "one", "dimension", "two", "dimensions", "Figure", "6", ":", "DiSenS", "simulation", "performance", "in", "1-D", "and", "2-D", "topologies", ".", "X-axis", "is", "total", "number", "of", "nodes", "simulated", ".", "Y", "-", "axis", "is", "normalized", "simulation", "speed", "-LRB-", "compared", "to", "execution", "speed", "on", "real", "device", "-RRB-", ".", "7.2", "Performance", "of", "a", "Break", "Condition", "on", "a", "Single", "Device", "We", "first", "evaluate", "the", "cost", "of", "monitoring", "debugging", "points", "in", "single-device", "debugging", ".", "Not", "all", "the", "listed", "-LRB-", "in", "Table", "1", "-RRB-", "debugging", "points", "are", "evaluated", "since", "the", "overhead", "for", "some", "of", "them", "is", "application", "dependent", ".", "pc", "memrd", "memwr", "power", "timer", "spi", "Debugging", "Point", "Relative", "Simulation", "Speed", "0.0", "0.2", "0.4", "0.6", "0.8", "1.0", "Figure", "7", ":", "Relative", "simulation", "speed", "for", "various", "debugging", "points", ".", "X-axis", "shows", "the", "name", "of", "debugging", "points", ".", "Y", "-", "axis", "is", "the", "ratio", "to", "original", "simulation", "speed", "-LRB-", "without", "monitoring", "debugging", "points", "-RRB-", ".", "Figure", "7", "gives", "the", "relative", "simulation", "speed", "of", "evaluating", "various", "debugging", "points", ".", "For", "each", "one", ",", "we", "set", "a", "break", "condition", "using", "the", "debugging", "point", "and", "run", "the", "simulation", ".", "The", "result", "shows", "that", "pc", "has", "the", "largest", "overhead", "since", "the", "PC", "change", "occurs", "for", "every", "instruction", "execution", ".", "Memory", "related", "debugging", "points", "has", "less", "overhead", ".", "Power", "and", "event-based", "debugging", "points", "have", "the", "least", "overhead", "since", "their", "states", "change", "infrequently", ".", "7.3", "Performance", "of", "a", "Coordinated", "Break", "Condition", "with", "Multiple", "Devices", "We", "evaluate", "the", "overhead", "of", "monitoring", "the", "coordinated", "break", "condition", "in", "this", "subsection", ".", "We", "run", "our", "experiments", "with", "a", "2-D", "4", "4", "grid", "of", "sensor", "nodes", ",", "distributed", "in", "4", "groups", "-LRB-", "hosts", "-RRB-", ".", "0.85", "0.90", "0.95", "1.00", "Involved", "Groups", "Relative", "Simulation", "Speed", "1", "2", "3", "4", "Figure", "8", ":", "Relative", "simulation", "speed", "of", "monitoring", "a", "coordinated", "break", "condition", "for", "multiple", "devices", ".", "X-axis", "is", "the", "number", "of", "groups", "-LRB-", "hosts", "-RRB-", "involved", ".", "Y", "-", "axis", "is", "the", "ratio", "to", "original", "simulation", "speed", "-LRB-", "without", "condition", "monitoring", "-RRB-", ".", "Figure", "8", "shows", "the", "speed", "ratio", "between", "the", "simulation", "with", "monitoring", "and", "without", ".", "When", "the", "group", "number", "is", "1", ",", "only", "nodes", "in", "one", "group", "are", "involved", "in", "the", "break", "condition", ".", "For", "group", "number", "2", ",", "nodes", "in", "both", "groups", "are", "used", "in", "the", "break", "condition", ",", "and", "so", "on", ".", "The", "speed", "ratio", "curve", "drops", "when", "the", "number", "of", "groups", "increases", ".", "The", "overhead", "of", "monitoring", "coordinated", "break", "condition", "is", "mostly", "due", "to", "the", "extra", "synchronization", "cost", "introduced", "by", "the", "new", "partially", "ordered", "synchronization", "scheme", ".", "Obviously", ",", "when", "more", "nodes", "-LRB-", "especially", "remote", "nodes", "-RRB-", "involved", ",", "the", "simulation", "overhead", "is", "higher", ".", "7.4", "Performance", "of", "Checkpointing", "for", "Time", "Traveling", "We", "evaluate", "the", "overhead", "of", "checkpointing", "in", "four", "configurations", ":", "1", "1", ",", "4", "1", ",", "16", "1", "and", "4", "4", ",", "where", "x", "y", "means", "x", "nodes", "per", "group", "and", "y", "groups", ".", "For", "each", "one", ",", "we", "vary", "the", "checkpoint", "interval", "from", "1/8", "up", "to", "4", "virtual", "seconds", ".", "Figure", "9", "shows", "the", "relative", "simulation", "speed", "when", "checkpointing", "the", "system", "periodically", ".", "Naturally", ",", "the", "overhead", "increases", "when", "checkpointing", "more", "frequently", ".", "It", "is", "hard", "to", "distinguish", "the", "single-group", "curves", "since", "their", "differences", "are", "so", "small", ".", "In", "general", ",", "checkpointing", "in", "multi-group", "simulation", "seems", "to", "have", "larger", "overhead", "than", "single-group", ".", "However", ",", "the", "checkpoint", "overhead", "is", "relatively", "small", ".", "All", "four", "curves", "lie", "above", "96", "%", "of", "original", "simulation", "speed", ",", "which", "translates", "to", "less", "than", "4", "%", "of", "overhead", ".", "This", "result", "encourages", "us", "to", "use", "time-traveling", "extensively", "in", "debugging", ".", "Developers", "thus", "can", "always", "return", "to", "the", "last", "break", "point", "or", "a", "previous", "trace", "point", "with", "little", "cost", ".", "To", "summarize", ",", "we", "find", "that", "most", "of", "the", "new", "debugging", "facilities", "we", "have", "introduced", "with", "S", "2", "DB", "have", "small", "overhead", "-LRB-", "less", "than", "10", "%", "-RRB-", ".", "As", "a", "result", ",", "we", "are", "able", "to", "debug", "sensor", "network", "applications", "using", "tools", "that", "operate", "at", "different", "levels", "of", "abstraction", "while", "preserving", "the", "high", "performance", "and", "scalability", "provided", "by", "DiSenS", ".", "110", "0.96", "0.98", "1.00", "1.02", "1.04", "Checkpoint", "Interval", "in", "Virtual", "Time", "-LRB-", "second", "-RRB-", "Relative", "Simulation", "Speed", "1/8", "1/4", "1/2", "1", "2", "4", "1x1", "4x1", "16x1", "4x4", "Figure", "9", ":", "Relative", "simulation", "speed", "for", "checkpointing", ".", "X-axis", "is", "the", "interval", "between", "two", "checkpoints", "-LRB-", "in", "terms", "of", "virtual", "clock", "time", "of", "mote", "device", "-RRB-", ".", "Y", "-", "axis", "is", "the", "ratio", "to", "original", "simulation", "speed", "-LRB-", "without", "checkpointing", "-RRB-", ".", "S", "2", "DB", "is", "an", "efficient", "and", "effective", "sensor", "network", "debugger", "based", "on", "DiSenS", ",", "a", "scalable", "distributed", "sensor", "network", "simulator", ".", "S", "2", "DB", "makes", "four", "innovations", "to", "the", "conventional", "debugging", "scheme", "at", "different", "levels", "of", "abstraction", ".", "For", "effective", "debugging", "of", "single", "sensor", "devices", ",", "debugging", "points", "are", "introduced", "for", "the", "interrogation", "of", "all", "interested", "subsystem", "states", "in", "a", "sensor", "device", ".", "To", "facilitate", "source", "level", "tracing", "and", "instrumentation", ",", "we", "extend", "the", "simulated", "sensor", "device", "hardware", "with", "a", "set", "of", "virtual", "registers", "providing", "a", "way", "for", "the", "communication", "between", "simulator", "and", "simulated", "program", ".", "At", "the", "multi-device", "level", ",", "we", "discuss", "the", "implementation", "of", "coordinated", "break", "condition", "in", "the", "distributed", "framework", ".", "This", "new", "type", "of", "break", "condition", "enables", "coordinated", "parallel", "execution", "control", "of", "multiple", "sensor", "devices", ".", "A", "time", "traveling", "facility", "is", "introduced", "for", "the", "network", "level", "debugging", ",", "used", "for", "rapid", "error", "site", "restoration", "when", "working", "with", "sensor", "network", "trace", "analysis", ".", "Overall", ",", "these", "debugging", "features", "impose", "overhead", "of", "less", "than", "10", "%", "-LRB-", "generally", "-RRB-", "to", "DiSenS", ",", "and", "thus", "enable", "efficient", "debugging", "of", "large", "scale", "sensor", "networks", ".", "S", "2", "DB", "is", "still", "an", "ongoing", "project", "that", "we", "think", "to", "make", "it", "a", "comprehensive", "debugging", "tool", "for", "sensor", "networks", ",", "there", "is", "still", "a", "lot", "of", "work", "to", "do", ".", "The", "most", "imperative", "task", "is", "to", "design", "and", "implement", "a", "graphic", "user", "interface", "for", "intuitive", "and", "productive", "debugging", ".", "We", "are", "planning", "to", "build", "a", "plugin", "in", "the", "famous", "Eclipse", "-LSB-", "5", "-RSB-", "development", "environment", ",", "which", "controls", "the", "debugging", "and", "simulation", "functions", "in", "S", "2", "DB", "and", "DiSenS", ".", "We", "are", "also", "interested", "in", "incorporating", "the", "debugging", "needs", "according", "to", "people", "'s", "experiences", "in", "sensor", "network", "development", "and", "discovering", "new", "debugging", "techniques", ",", "especially", "at", "the", "network", "level", ".", "-LSB-", "1", "-RSB-", "Atmel", ".", "AVR", "JTAG", "ICE", "User", "Guide", ".", "2001", ".", "http://www.atmel", ".", "com/dyn/resources", "/", "prod", "documents/DOC2475.PDF", ".", "-LSB-", "2", "-RSB-", "Atmel", "'s", "AVR", "JTAG", "ICE", ".", "http://www.atmel.com/dyn/", "products/tools", "card.asp?tool", "id", "=", "2737", ".", "-LSB-", "3", "-RSB-", "C.", "Buschmann", ",", "D.", "Pfisterer", ",", "S.", "Fischer", ",", "S.", "P.", "Fekete", ",", "and", "A.", "Kr", "oller", ".", "SpyGlass", ":", "taking", "a", "closer", "look", "at", "sensor", "networks", ".", "In", "the", "Proceedings", "of", "the", "2nd", "international", "conference", "on", "Embedded", "networked", "sensor", "systems", ",", "pages", "301", "302", ",", "2004", ".", "New", "York", ",", "NY", ",", "USA", ".", "-LSB-", "4", "-RSB-", "A.", "Chlipala", ",", "J.", "W.", "Hui", ",", "and", "G.", "Tolle", ".", "Deluge", ":", "Dissemination", "Protocols", "for", "Network", "Reprogramming", "at", "Scale", ".", "Fall", "2003", "UC", "Berkeley", "class", "project", "paper", ",", "2003", ".", "-LSB-", "5", "-RSB-", "Eclipse", ":", "an", "extensible", "development", "platform", "and", "application", "frameworks", "for", "building", "software", ".", "http://www.eclipse.org", ".", "-LSB-", "6", "-RSB-", "L.", "Girod", ",", "J.", "Elson", ",", "A.", "Cerpa", ",", "T.", "Stathopoulos", ",", "N.", "Ramanathan", ",", "and", "D.", "Estrin", ".", "EmStar", ":", "a", "Software", "Environment", "for", "Developing", "and", "Deploying", "Wireless", "Sensor", "Networks", ".", "USENIX", "Technical", "Conference", ",", "2004", ".", "-LSB-", "7", "-RSB-", "B.", "Hendrickson", "and", "R.", "Leland", ".", "The", "Chaco", "User", "'s", "Guide", ":", "Version", "2.0", ".", "Technical", "Report", "SAND94", "2692", ",", "Sandia", "National", "Lab", ",", "1994", ".", "-LSB-", "8", "-RSB-", "J.", "Hill", ",", "R.", "Szewczyk", ",", "A.", "Woo", ",", "S.", "Hollar", ",", "D.", "Culler", ",", "and", "K.", "Pister", ".", "System", "architecture", "directions", "for", "network", "sensors", ".", "International", "Conference", "on", "Architectural", "Support", "for", "Programming", "Languages", "and", "Operating", "Systems", ",", "Oct.", "2000", ".", "-LSB-", "9", "-RSB-", "iPAQ", "devices", ".", "http://welcome.hp.com/country/us/en/", "prodserv/handheld.html", ".", "-LSB-", "10", "-RSB-", "Boundary-Scan", "-LRB-", "JTAG", "-RRB-", "test", "and", "in-system", "programming", "solutions", "-LRB-", "IEEE", "1149.1", "-RRB-", ".", "http://www.jtag.com/main.php", ".", "-LSB-", "11", "-RSB-", "S.", "T.", "King", ",", "G.", "W.", "Dunlap", ",", "and", "P.", "M.", "Chen", ".", "Debugging", "Operating", "Systems", "with", "Time-Traveling", "Virtual", "Machines", ".", "In", "the", "Proceedings", "of", "USENIX", "Annual", "Technical", "Conference", "2005", ",", "Apr.", "2005", ".", "Anaheim", ",", "CA", ".", "-LSB-", "12", "-RSB-", "O.", "Landsiedel", ",", "K.", "Wehrle", ",", "and", "S.", "Gtz", ".", "Accurate", "Prediction", "of", "Power", "Consumption", "in", "Sensor", "Networks", ".", "In", "Proceedings", "of", "The", "Second", "IEEE", "Workshop", "on", "Embedded", "Networked", "Sensors", "-LRB-", "EmNetS-II", "-RRB-", ",", "May", "2005", ".", "Sydney", ",", "Australia", ".", "-LSB-", "13", "-RSB-", "P.", "Levis", ",", "N.", "Lee", ",", "M.", "Welsh", ",", "and", "D.", "Culler", ".", "TOSSIM", ":", "Accurate", "and", "Scalable", "Simulation", "of", "Entire", "TinyOS", "Applications", ".", "ACM", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", ",", "Nov.", "2003", ".", "-LSB-", "14", "-RSB-", "S.", "R.", "Madden", ",", "M.", "J.", "Franklin", ",", "J.", "M.", "Hellerstein", ",", "and", "W.", "Hong", ".", "The", "Design", "of", "an", "Acquisitional", "Query", "Processor", "for", "Sensor", "Networks", ".", "In", "Proceedings", "of", "SIGMOD", "2003", ",", "June", "2003", ".", "-LSB-", "15", "-RSB-", "Mote", "hardware", "platform", ".", "http://www.tinyos.net/scoop/special/hardware", ".", "-LSB-", "16", "-RSB-", "MOTE-VIEW", "Monitoring", "Software", ".", "http://www.xbow.com/", "Products/productsdetails", ".", "aspx?sid", "=", "88", ".", "-LSB-", "17", "-RSB-", "J.", "Polley", ",", "D.", "Blazakis", ",", "J.", "McGee", ",", "D.", "Rusk", ",", "and", "J.", "S.", "Baras", ".", "ATEMU", ":", "A", "Fine-grained", "Sensor", "Network", "Simulator", ".", "IEEE", "Communications", "Society", "Conference", "on", "Sensor", "and", "Ad", "Hoc", "Communications", "and", "Networks", ",", "2004", ".", "-LSB-", "18", "-RSB-", "N.", "Ramanathan", ",", "K.", "Chang", ",", "R.", "Kapur", ",", "L.", "Girod", ",", "E.", "Kohler", ",", "and", "D.", "Estrin", ".", "Sympathy", "for", "the", "Sensor", "Network", "Debugger", ".", "In", "the", "Proceedings", "of", "3rd", "ACM", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", "-LRB-", "SenSys", "'", "05", "-RRB-", ",", "Nov.", "2005", ".", "San", "Diego", ",", "California", ".", "-LSB-", "19", "-RSB-", "N.", "Ramanathan", ",", "E.", "Kohler", ",", "and", "D.", "Estrin", ".", "Towards", "a", "debugging", "system", "for", "sensor", "networks", ".", "International", "Journal", "of", "Network", "Management", ",", "15", "-LRB-", "4", "-RRB-", ":", "223", "234", ",", "2005", ".", "-LSB-", "20", "-RSB-", "S.", "M.", "Srinivasan", ",", "S.", "Kandula", ",", "C.", "R.", "Andrews", ",", "and", "Y.", "Zhou", ".", "Flashback", ":", "A", "Lightweight", "Extension", "for", "Rollback", "and", "Deterministic", "Replay", "for", "Software", "Debugging", ".", "In", "the", "Proceedings", "of", "USENIX", "Annual", "Technical", "Conference", "2004", ",", "June", "2004", ".", "Boston", ",", "MA", ".", "-LSB-", "21", "-RSB-", "Stargate", ":", "a", "platform", "X", "project", ".", "http://platformx.sourceforge.net/", ".", "-LSB-", "22", "-RSB-", "Surge", "Network", "Viewer", ".", "http://xbow.com/Products/", "productsdetails.aspx?sid", "=", "86", ".", "-LSB-", "23", "-RSB-", "B.", "Titzer", "and", "J.", "Palsberg", ".", "Nonintrusive", "Precision", "Instrumentation", "of", "Microcontroller", "Software", ".", "In", "the", "Proceedings", "of", "ACM", "SIGPLAN/SIGBED", "2005", "Conference", "on", "Languages", ",", "Compilers", ",", "and", "Tools", "for", "Embedded", "Systems", "-LRB-", "LCTES", "'", "05", "-RRB-", ",", "June", "2005", ".", "Chicago", ",", "Illinois", ".", "-LSB-", "24", "-RSB-", "Y.", "Wen", ",", "S.", "Gurun", ",", "N.", "Chohan", ",", "R.", "Wolski", ",", "and", "C.", "Krintz", ".", "SimGate", ":", "Full-System", ",", "Cycle-Close", "Simulation", "of", "the", "Stargate", "Sensor", "Network", "Intermediate", "Node", ".", "In", "Proceedings", "of", "International", "Conference", "on", "Embedded", "Computer", "Systems", ":", "Architectures", ",", "MOdeling", ",", "and", "Simulation", "-LRB-", "IC-SAMOS", "-RRB-", ",", "2006", ".", "Samos", ",", "Greece", ".", "-LSB-", "25", "-RSB-", "Y.", "Wen", ",", "R.", "Wolski", ",", "and", "G.", "Moore", ".", "DiSenS", ":", "Scalable", "Distributed", "Sensor", "Network", "Simulation", ".", "Technical", "Report", "CS2005-30", ",", "University", "of", "California", ",", "Santa", "Barbara", ",", "2005", ".", "111"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["debugging", "sensor network", "simulation"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "177", "document": ["Seven", "Cardinal", "Properties", "of", "Sensor", "Network", "Broadcast", "Authentication", "We", "investigate", "the", "design", "space", "of", "sensor", "network", "broadcast", "authentication", ".", "We", "show", "that", "prior", "approaches", "can", "be", "organized", "based", "on", "a", "taxonomy", "of", "seven", "fundamental", "proprieties", ",", "such", "that", "each", "approach", "can", "satisfy", "at", "most", "six", "of", "the", "seven", "proprieties", ".", "An", "empirical", "study", "of", "the", "design", "space", "reveals", "possibilities", "of", "new", "approaches", ",", "which", "we", "present", "in", "the", "following", "two", "new", "authentication", "protocols", ":", "RPT", "and", "LEA", ".", "Based", "on", "this", "taxonomy", ",", "we", "offer", "guidance", "in", "selecting", "the", "most", "appropriate", "protocol", "based", "on", "an", "application", "'s", "desired", "proprieties", ".", "Finally", ",", "we", "pose", "the", "open", "challenge", "for", "the", "research", "community", "to", "devise", "a", "protocol", "simultaneously", "providing", "all", "seven", "properties", ".", "C.", "2.0", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "General", "Security", "and", "protection", ";", "K.", "6.5", "-LSB-", "Security", "and", "Protection", "-RSB-", ":", "Security", "and", "Protection", "Authentication", "Security", ",", "Design", "Due", "to", "the", "nature", "of", "wireless", "communication", "in", "sensor", "networks", ",", "attackers", "can", "easily", "inject", "malicious", "data", "messages", "or", "alter", "the", "content", "of", "legitimate", "messages", "during", "multihop", "forwarding", ".", "Sensor", "network", "applications", "thus", "need", "to", "rely", "on", "authentication", "mechanisms", "to", "ensure", "that", "data", "from", "a", "valid", "source", "was", "not", "altered", "in", "transit", ".", "Authentication", "is", "thus", "arguably", "the", "most", "important", "secu", "This", "research", "was", "supported", "in", "part", "by", "CyLab", "at", "Carnegie", "Mellon", "under", "grant", "DAAD19-02-1-0389", "from", "the", "Army", "Research", "Office", ",", "and", "grant", "CNS-0347807", "from", "the", "National", "Science", "Foundation", ",", "and", "by", "a", "gift", "from", "Bosch", ".", "The", "views", "and", "conclusions", "contained", "here", "are", "those", "of", "the", "authors", "and", "should", "not", "be", "interpreted", "as", "necessarily", "representing", "the", "official", "policies", "or", "endorsements", ",", "either", "express", "or", "implied", ",", "of", "ARO", ",", "Bosch", ",", "Carnegie", "Mellon", "University", ",", "NSF", ",", "or", "the", "U.S.", "Government", "or", "any", "of", "its", "agencies", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SASN", "'", "06", ",", "October", "30", ",", "2006", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-554-1", "/", "06/0010", "...", "$", "5.00", ".", "rity", "primitive", "in", "sensor", "network", "communication", ".", "Source", "authentication", "ensures", "a", "receiver", "that", "the", "message", "originates", "from", "the", "claimed", "sender", ",", "and", "data", "authentication", "ensures", "that", "the", "data", "from", "that", "sender", "was", "unchanged", "-LRB-", "thus", "also", "providing", "message", "integrity", "-RRB-", ".", "When", "we", "use", "the", "term", "authentication", "we", "mean", "both", "source", "and", "data", "authentication", ".", "Broadcast", "authentication", "is", "a", "challenging", "problem", ".", "Furthermore", ",", "it", "is", "of", "central", "importance", "as", "broadcasts", "are", "used", "in", "many", "applications", ".", "For", "example", ",", "routing", "tree", "construction", ",", "network", "query", ",", "software", "updates", ",", "time", "synchronization", ",", "and", "network", "management", "all", "rely", "on", "broadcast", ".", "Without", "an", "efficient", "broadcast", "authentication", "algorithm", ",", "the", "base", "station", "would", "have", "to", "resort", "to", "per-node", "unicast", "messages", ",", "which", "does", "not", "scale", "to", "large", "networks", ".", "The", "practical-ity", "of", "many", "secure", "sensor", "network", "applications", "thus", "hinges", "on", "the", "presence", "of", "an", "efficient", "algorithm", "for", "broadcast", "authentication", ".", "In", "point-to-point", "authentication", ",", "authentication", "can", "be", "achieved", "through", "purely", "symmetric", "means", ":", "the", "sender", "and", "receiver", "would", "share", "a", "secret", "key", "used", "to", "compute", "a", "cryptographic", "message", "authentication", "code", "-LRB-", "MAC", "-RRB-", "over", "each", "message", "-LSB-", "15", ",", "23", "-RSB-", ".", "When", "a", "message", "with", "a", "valid", "MAC", "is", "received", ",", "the", "receiver", "can", "be", "assured", "that", "the", "message", "originated", "from", "the", "sender", ".", "Researchers", "showed", "that", "MACs", "can", "be", "efficiently", "implemented", "on", "resource-constrained", "sensor", "network", "nodes", "-LSB-", "31", "-RSB-", ",", "and", "find", "that", "computing", "a", "MAC", "function", "requires", "on", "the", "order", "of", "1ms", "on", "the", "computation-constrained", "Berkeley", "mote", "platform", "-LSB-", "11", ",", "14", "-RSB-", ".", "Authentication", "of", "broadcast", "messages", "in", "sensor", "networks", "is", "much", "harder", "than", "point-to-point", "authentication", "-LSB-", "1", "-RSB-", ".", "The", "symmetric", "approach", "used", "in", "point-to-point", "authentication", "is", "not", "secure", "in", "broadcast", "settings", ",", "where", "receivers", "are", "mutually", "untrusted", ".", "If", "all", "nodes", "share", "one", "secret", "key", ",", "any", "compromised", "receiver", "can", "forge", "messages", "from", "the", "sender", ".", "In", "fact", ",", "authenticated", "broadcast", "requires", "an", "asymmetric", "mechanism", "-LSB-", "1", "-RSB-", ".", "The", "traditional", "approach", "for", "asymmetric", "mechanisms", "is", "to", "use", "digital", "signatures", ",", "for", "example", "the", "RSA", "signature", "-LSB-", "34", "-RSB-", ".", "Unfortunately", ",", "asymmetric", "cryptographic", "mechanisms", "have", "high", "computation", ",", "communication", ",", "and", "storage", "overhead", ",", "making", "their", "usage", "on", "resource-constrained", "devices", "impractical", "for", "many", "applications", ".", "The", "property", "we", "need", "is", "asymmetry", ",", "and", "many", "approaches", "had", "been", "suggested", "for", "sensor", "network", "broadcast", "authentication", ".", "However", ",", "objectively", "comparing", "such", "approaches", "and", "selecting", "the", "most", "appropriate", "one", "for", "a", "given", "application", "is", "a", "non-trivial", "process", ",", "especially", "for", "an", "engineer", "not", "specialized", "in", "security", ".", "The", "goal", "of", "this", "work", "is", "to", "provide", "guidance", "for", "sensor", "network", "broadcast", "authentication", "by", "presenting", "a", "systematic", "investigation", "of", "the", "design", "space", ".", "We", "arrive", "at", "a", "taxonomy", "of", "seven", "fundamental", "properties", ",", "and", "present", "protocols", "that", "satisfy", "all", "but", "one", "property", ".", "The", "list", "of", "the", "desired", "properties", "are", ":", "147", "1", ".", "Resistance", "against", "node", "compromise", ",", "2", ".", "Low", "computation", "overhead", ",", "3", ".", "Low", "communication", "overhead", ",", "4", ".", "Robustness", "to", "packet", "loss", ",", "5", ".", "Immediate", "authentication", ",", "6", ".", "Messages", "sent", "at", "irregular", "times", ",", "7", ".", "High", "message", "entropy", ".", "If", "we", "remove", "any", "one", "of", "the", "above", "requirements", ",", "a", "viable", "protocol", "exists", ".", "Table", "1", "gives", "an", "overview", "of", "the", "seven", "approaches", "for", "addressing", "each", "case", ".", "We", "show", "that", "existing", "protocols", ",", "or", "small", "modifications", "thereof", ",", "make", "up", "for", "five", "of", "the", "seven", "possible", "cases", ".", "We", "also", "introduce", "novel", "approaches", "for", "addressing", "the", "final", "two", "cases", ":", "the", "RPT", "protocol", "to", "authenticate", "messages", "sent", "at", "regular", "times", ",", "and", "the", "LEA", "protocol", "to", "authenticate", "low-entropy", "messages", ".", "Finally", ",", "we", "pose", "the", "open", "challenge", "to", "the", "research", "community", "to", "design", "a", "broadcast", "authentication", "mechanism", "that", "satisfies", "all", "seven", "properties", ".", "Outline", ".", "The", "paper", "is", "organized", "as", "follows", ".", "We", "introduce", "the", "taxonomy", "of", "seven", "properties", "and", "discuss", "how", "current", "approaches", "can", "be", "organized", "based", "on", "our", "taxonomy", "in", "Section", "2", ".", "Section", "3", "describes", "the", "TESLA", "broadcast", "authentication", "protocol", "and", "presents", "several", "extensions", "to", "increase", "its", "efficiency", "and", "robustness", "to", "DoS", "attacks", ".", "In", "Section", "3.3", ",", "we", "introduce", "RPT", ",", "a", "novel", "protocol", "that", "authenticates", "synchronous", "messages", ".", "In", "Section", "4", ",", "we", "introduce", "LEA", ",", "a", "novel", "protocol", "for", "efficient", "network", "broadcast", "authentication", "for", "low-entropy", "messages", ".", "Implementation", "and", "evaluation", "is", "discussed", "in", "Section", "5", ".", "Finally", ",", "we", "present", "related", "work", "in", "Section", "6", "and", "our", "conclusions", "and", "future", "work", "in", "Section", "7", ".", "In", "this", "section", ",", "we", "discuss", "the", "seven", "properties", "of", "broadcast", "authentication", "and", "describe", "possible", "approaches", "if", "we", "were", "to", "leave", "out", "one", "of", "the", "seven", "requirements", ".", "Node", "Compromise", ".", "Since", "sensor", "nodes", "are", "not", "equipped", "with", "tamper-proof", "or", "tamper-resistant", "hardware", ",", "any", "physical", "attacker", "would", "be", "able", "to", "physically", "compromise", "a", "node", "and", "obtain", "its", "cryptographic", "keys", "-LSB-", "5", "-RSB-", ".", "Since", "it", "is", "unlikely", "that", "tamper-proof", "hardware", "will", "be", "deployed", "on", "sensor", "motes", "in", "the", "near", "future", ",", "secure", "sensor", "network", "protocols", "need", "to", "be", "resilient", "against", "compromised", "nodes", ".", "However", ",", "if", "the", "nodes", "are", "deployed", "in", "a", "physically", "secured", "area", "-LRB-", "such", "as", "an", "attended", "army", "base", "-RRB-", ",", "or", "if", "the", "application", "itself", "is", "resilient", "against", "malicious", "nodes", ",", "node", "compromise", "might", "not", "be", "an", "issue", ".", "If", "we", "assume", "no", "compromised", "nodes", ",", "all", "parties", "could", "maintain", "a", "network-wide", "key", "that", "is", "used", "to", "generate", "and", "verify", "a", "single", "Message", "Authentication", "Code", "-LRB-", "MAC", "-RRB-", "per", "message", ".", "If", "instead", "one", "can", "assume", "a", "low", "number", "of", "compromised", "nodes", ",", "a", "simple", "approach", "exists", "which", "uses", "a", "different", "key", "for", "each", "receiver", "and", "adds", "one", "MAC", "per", "receiver", "to", "each", "message", ".", "Unfortunately", ",", "this", "approach", "does", "not", "scale", "to", "large", "networks", "since", "a", "10-byte", "MACs", "per", "receiver", "would", "result", "in", "prohibitively", "large", "messages", ".", "To", "trade", "off", "communication", "overhead", "with", "security", ",", "researchers", "propose", "a", "multi-MAC", "approach", "-LSB-", "3", "-RSB-", ".", "In", "their", "scheme", ",", "the", "sender", "chooses", "some", "number", "of", "random", "MAC", "keys", ",", "and", "distributes", "a", "subset", "of", "keys", "to", "each", "node", ".", "Every", "message", "carries", "one", "MAC", "with", "each", "key", "-LRB-", "assuming", "10", "bytes", "per", "MAC", "-RRB-", ",", "1", "which", "adds", "a", "substantial", "overhead", ".", "If", "an", "attacker", "compromises", "a", "node", ",", "it", "can", "only", "forge", "a", "subset", "of", "MACs", ",", "thus", "with", "high", "probability", ",", "other", "nodes", "will", "be", "able", "to", "detect", "the", "forgery", "with", "their", "subset", "of", "keys", ".", "A", "variant", "of", "this", "approach", "was", "used", "to", "prevent", "malicious", "injection", "of", "messages", "in", "sensor", "networks", "-LSB-", "36", ",", "37", "-RSB-", ".", "Computation", "Overhead", ".", "Sensor", "nodes", "have", "limited", "computation", "resources", ",", "so", "an", "ideal", "protocol", "would", "have", "low", "computation", "overhead", "for", "both", "sender", "and", "receiver", ".", "However", ",", "there", "exist", "scenarios", "where", "computation", "might", "not", "be", "a", "particularly", "critical", "issue", ".", "For", "example", ",", "it", "is", "conceivable", "that", "certain", "applications", "would", "only", "require", "authenticated", "broadcasts", "for", "a", "small", "number", "of", "packets", ".", "In", "such", "a", "case", ",", "the", "application", "engineer", "might", "be", "willing", "to", "allow", "for", "a", "small", "number", "of", "intensive", "computations", ".", "If", "we", "admit", "a", "high", "computation", "overhead", ",", "we", "can", "use", "digital", "signatures", ".", "RSA", "today", "requires", "at", "least", "a", "1024-bit", "modulus", "to", "achieve", "a", "reasonable", "level", "of", "security", ",", "and", "a", "2048-bit", "modulus", "for", "a", "high", "level", "of", "security", "-LSB-", "18", "-RSB-", ".", "ECC", "can", "offer", "the", "same", "level", "of", "security", "using", "160-bit", "keys", "and", "224-bit", "keys", ",", "respectively", ".", "Recent", "advancement", "in", "ECC", "signature", "schemes", "on", "embedded", "processors", "can", "perform", "signature", "verification", "using", "160-bit", "ECC", "keys", "in", "about", "1", "second", "-LSB-", "10", "-RSB-", ".", "Although", "this", "represents", "a", "dramatic", "improvement", "over", "earlier", "public", "key", "cryptographic", "schemes", "-LSB-", "2", ",", "4", ",", "21", "-RSB-", ",", "signature", "verification", "is", "still", "3", "orders", "of", "magnitude", "slower", "than", "MAC", "verification", ",", "while", "signature", "generation", "is", "4", "orders", "of", "magnitude", "slower", ".", "While", "we", "expect", "future", "sensor", "nodes", "to", "have", "more", "powerful", "processors", ",", "the", "energy", "constraints", "dictated", "by", "the", "limited", "battery", "resources", "will", "always", "favor", "the", "use", "of", "more", "efficient", "symmetric", "cryptographic", "primitives", ".", "Communication", "Overhead", ".", "Energy", "is", "an", "extremely", "scarce", "resource", "on", "sensor", "nodes", ",", "and", "as", "a", "result", ",", "heavily", "influences", "the", "design", "of", "sensor", "network", "protocols", ".", "In", "particular", ",", "radio", "communication", "consumes", "the", "most", "amount", "of", "energy", ",", "and", "thus", "protocols", "with", "high", "communication", "overhead", "are", "avoided", "if", "possible", ".", "However", ",", "in", "some", "settings", "-LRB-", "e.g.", ",", "powered", "nodes", "-RRB-", "energy", "consumption", "is", "not", "an", "issue", ".", "Thus", "an", "authentication", "protocol", "that", "requires", "high", "communication", "overhead", "would", "be", "acceptable", ".", "If", "we", "admit", "a", "high", "communication", "overhead", ",", "we", "can", "leverage", "efficient", "one-time", "signatures", "that", "are", "fast", "to", "compute", ",", "but", "require", "on", "the", "order", "of", "100", "200", "bytes", "per", "signature", ".", "Examples", "include", "the", "Merkle-Winternitz", "-LRB-", "MW", "-RRB-", "signature", "which", "requires", "230", "bytes", "per", "signature", "-LSB-", "25", ",", "26", ",", "35", "-RSB-", "-LRB-", "we", "describe", "the", "MW", "signature", "in", "detail", "in", "Section", "4.1", "-RRB-", ",", "or", "the", "HORS", "signature", ",", "which", "requires", "around", "100", "bytes", "per", "signature", "-LSB-", "33", "-RSB-", ".", "The", "MW", "signature", "requires", "around", "200", "one-way", "function", "computations", "to", "verify", "a", "signature", "-LRB-", "which", "corresponds", "to", "roughly", "200", "ms", "computation", "time", "on", "a", "sensor", "node", "-RRB-", ",", "while", "the", "HORS", "signature", "only", "requires", "11", "one-way", "function", "computations", ".", "The", "disadvantage", "of", "the", "HORS", "signature", "is", "that", "the", "public", "key", "is", "about", "10", "Kbytes", ",", "2", "whereas", "the", "public", "key", "for", "the", "MW", "signature", "is", "only", "10", "bytes", ".", "Signature", "generation", "is", "very", "efficient", "for", "both", "mechanisms", ",", "and", "can", "be", "reduced", "to", "a", "single", "hash", "function", "computation", "assuming", "a", "lookup", "table", "for", "the", "cryptographic", "values", ".", "We", "leverage", "the", "MW", "signature", "to", "construct", "the", "LEA", "broadcast", "authentication", "mechanism", ",", "which", "we", "present", "in", "Section", "4", ".", "Message", "Reliability", ".", "Our", "fourth", "property", "is", "message", "reliability", ".", "Reliable", "message", "delivery", "is", "the", "property", "of", "a", "network", "such", "that", "valid", "messages", "are", "not", "dropped", ".", "Ultimately", ",", "message", "reliability", "is", "an", "applications", "issue", "-", "some", "applications", "require", "message", "reliability", ",", "while", "others", "do", "not", ".", "1", "An", "80-bit", "MAC", "value", "achieves", "security", "comparable", "to", "a", "1024-bit", "RSA", "signature", "-LSB-", "18", "-RSB-", ".", "2", "This", "is", "prohibitively", "large", ",", "since", "each", "public", "key", "of", "a", "one-time", "signature", "can", "be", "used", "to", "authenticate", "only", "a", "single", "message", ".", "148", "Desired", "property", "Approach", "if", "property", "is", "relaxed", "Resistance", "to", "node", "compromise", "Network-wide", "key", "Low", "computation", "overhead", "Digital", "signatures", "Low", "communication", "overhead", "One-time", "signatures", "Robustness", "to", "packet", "loss", "HORS", "+", "chaining", "of", "public", "keys", "Immediate", "authentication", "TESLA", "Messages", "sent", "at", "irregular", "times", "RPT", ",", "described", "in", "Section", "3.3", "High", "message", "entropy", "LEA", ",", "described", "in", "Section", "4.2", "Table", "1", ":", "Overview", "of", "desired", "properties", "of", "broadcast", "authentication", "and", "approaches", ".", "The", "left", "column", "presents", "the", "desired", "property", ",", "and", "the", "right", "column", "presents", "the", "approach", "that", "achieves", "all", "properties", "but", "relaxes", "the", "property", "in", "its", "left", "column", ".", "The", "text", "describes", "each", "approach", "in", "more", "detail", ".", "If", "we", "have", "perfect", "message", "reliability", ",", "we", "can", "achieve", "efficient", "and", "immediate", "authentication", "by", "using", "the", "HORS", "signature", "in", "a", "special", "construction", "that", "combines", "multiple", "public", "keys", "-LSB-", "28", "-RSB-", ".", "In", "this", "construction", ",", "a", "public", "key", "is", "still", "10", "Kbytes", ",", "but", "a", "single", "public", "key", "can", "be", "used", "to", "authenticate", "almost", "arbitrarily", "many", "messages", ",", "as", "the", "public", "values", "are", "incrementally", "updated", "as", "signed", "messages", "are", "sent", ".", "The", "communication", "and", "computation", "costs", "are", "the", "same", "as", "for", "the", "HORS", "signature", ":", "1", "ms", "for", "signature", "generation", ",", "11", "ms", "for", "signature", "verification", ",", "and", "100", "bytes", "for", "the", "signature", ".", "Note", "that", "in", "such", "a", "scheme", ",", "an", "attacker", "can", "start", "forging", "HORS", "signatures", "if", "many", "packets", "are", "dropped", ".", "Authentication", "Delay", ".", "Depending", "on", "the", "application", ",", "authentication", "delay", "may", "influence", "the", "design", "of", "the", "sensor", "network", "protocol", ".", "For", "time-critical", "messages", "such", "as", "fire", "alarms", ",", "the", "receiver", "would", "most", "likely", "need", "to", "authenticate", "the", "message", "immediately", ".", "However", ",", "authentication", "delay", "is", "typically", "acceptable", "for", "non-time-critical", "messages", ".", "If", "we", "admit", "an", "authentication", "delay", "and", "assume", "that", "the", "receivers", "are", "loosely", "time", "synchronized", "with", "the", "sender", ",", "the", "TESLA", "broadcast", "authentication", "protocol", "only", "adds", "a", "10", "byte", "MAC", "and", "an", "optional", "10", "byte", "key", "to", "each", "message", "-LSB-", "31", "-RSB-", ".", "We", "review", "the", "TESLA", "protocol", "in", "detail", "in", "Section", "3.1", ".", "To", "achieve", "a", "low", "computation", "overhead", "in", "the", "case", "of", "infrequent", "messages", "sent", "at", "unpredictable", "times", ",", "we", "need", "to", "extend", "the", "TESLA", "protocol", "to", "enable", "fast", "authentication", "of", "the", "keys", "in", "the", "one-way", "key", "chain", ".", "In", "Section", "3.2", "we", "present", "a", "more", "efficient", "key", "chain", "construction", "that", "enables", "efficient", "authentication", "in", "this", "case", ".", "Simultaneously", ",", "our", "approach", "protects", "TESLA", "against", "denial-of-service", "attacks", "by", "sending", "bogus", "key", "chain", "values", ".", "Synchronous", "Messages", ".", "Some", "applications", "send", "synchronous", "messages", "at", "regular", "and", "predictable", "times", ".", "For", "example", ",", "a", "key", "revocation", "list", "might", "be", "sent", "to", "the", "entire", "network", "everyday", "at", "noon", ".", "We", "extend", "the", "TESLA", "protocol", "to", "provide", "efficient", "and", "immediate", "authentication", "for", "synchronous", "messages", "sent", "at", "regular", "and", "predictable", "times", ".", "We", "name", "the", "protocol", "RPT", "-LRB-", "Regular-Predictable", "Tesla", "-RRB-", ",", "and", "we", "present", "its", "details", "in", "Section", "3.3", ".", "Message", "Entropy", ".", "So", "far", ",", "all", "schemes", "we", "describe", "authenticate", "unpredictable", "messages", "with", "high", "entropy", ".", "However", ",", "in", "practice", ",", "many", "protocols", "might", "only", "communicate", "with", "low-entropy", "messages", ".", "For", "example", ",", "in", "many", "applications", ",", "there", "are", "only", "a", "handful", "of", "valid", "commands", "that", "a", "base", "station", "can", "send", "to", "a", "sensor", "node", ".", "Therefore", ",", "these", "command", "packets", "could", "be", "considered", "as", "low-entropy", "messages", ".", "If", "we", "can", "assure", "a", "low", "upper", "bound", "on", "message", "entropy", ",", "we", "can", "leverage", "one-time", "signatures", "in", "constructions", "that", "provide", "message", "recovery", ",", "where", "the", "message", "is", "not", "hashed", "but", "directly", "encoded", "in", "the", "signature", ".", "We", "describe", "our", "new", "LEA", "protocol", "in", "Section", "4", ".", "For", "messages", "with", "merely", "a", "single", "bit", "of", "entropy", ",", "we", "could", "employ", "the", "following", "optimization", "using", "two", "hash", "chains", ".", "One", "hash", "chain", "would", "correspond", "to", "messages", "of", "'", "1", "'", ",", "while", "another", "would", "correspond", "to", "messages", "of", "'", "0", "'", ".", "The", "sender", "first", "sends", "the", "last", "value", "of", "both", "chains", "to", "the", "receivers", "in", "an", "authenticated", "manner", "-LRB-", "e.g.", ",", "using", "one-time", "signatures", "or", "digital", "signatures", "-RRB-", ".", "Next", ",", "whenever", "the", "sender", "wishes", "to", "send", "a", "'", "0", "'", ",", "it", "would", "reveal", "the", "next", "value", "in", "the", "hash", "chain", "corresponding", "to", "'", "0", "'", ".", "The", "same", "is", "done", "for", "the", "hash", "chain", "corresponding", "to", "'", "1", "'", ".", "The", "receiver", "needs", "to", "keep", "state", "of", "the", "most", "recent", "value", "it", "received", "for", "each", "hash", "chain", ".", "Consequently", ",", "the", "receiver", "can", "easily", "verify", "the", "authenticity", "of", "new", "values", "by", "hashing", "them", "and", "comparing", "them", "against", "the", "most", "recent", "value", "of", "each", "hash", "chain", ".", "TESLA", "PROTOCOL", "In", "this", "section", ",", "we", "first", "present", "a", "brief", "overview", "of", "the", "TESLA", "protocol", "-LSB-", "29", "-RSB-", ",", "the", "recommended", "broadcast", "authentication", "protocol", "if", "immediate", "authentication", "is", "not", "required", ".", "We", "improve", "the", "TESLA", "broadcast", "authentication", "protocol", "to", "provide", "efficient", "authentication", "for", "infrequent", "messages", "sent", "at", "unpredictable", "times", "-LRB-", "Section", "3.2", "-RRB-", ".", "In", "Section", "3.3", ",", "we", "describe", "RPT", ",", "further", "modification", "of", "TESLA", "that", "provides", "immediate", "authentication", "for", "synchronous", "messages", "sent", "at", "regular", "and", "predictable", "times", ".", "3.1", "TESLA", "Overview", "The", "TESLA", "protocol", "provides", "efficient", "broadcast", "authentication", "over", "the", "Internet", "which", "can", "scale", "to", "millions", "of", "users", ",", "tolerate", "packet", "loss", ",", "and", "support", "real", "time", "applications", "-LSB-", "30", "-RSB-", ".", "Currently", ",", "TESLA", "is", "in", "the", "process", "of", "being", "standardized", "in", "the", "MSEC", "working", "group", "of", "the", "IETF", "for", "multicast", "authentication", ".", "TESLA", "has", "been", "adapted", "for", "broadcast", "authentication", "in", "sensor", "networks", ",", "the", "resulting", "protocol", "is", "called", "the", "TESLA", "broadcast", "authentication", "protocol", "-LSB-", "30", ",", "31", "-RSB-", ".", "TESLA", "is", "used", "to", "secure", "routing", "information", "-LSB-", "17", "-RSB-", ",", "data", "aggregation", "messages", "-LSB-", "12", ",", "32", "-RSB-", ",", "etc.", ".", "We", "now", "overview", "the", "TESLA", "protocol", ",", "a", "detailed", "description", "is", "available", "in", "our", "earlier", "paper", "-LSB-", "31", "-RSB-", ".", "Broadcast", "authentication", "requires", "a", "source", "of", "asymmetry", ",", "such", "that", "the", "receivers", "can", "only", "verify", "the", "authentication", "information", ",", "but", "not", "generate", "valid", "authentication", "information", ".", "TESLA", "uses", "time", "for", "asymmetry", ".", "TESLA", "assumes", "that", "receivers", "are", "all", "loosely", "time", "synchronized", "with", "the", "sender", "up", "to", "some", "time", "synchronization", "error", ",", "all", "parties", "agree", "on", "the", "current", "time", ".", "Recent", "research", "in", "sensor", "network", "time", "synchronization", "protocols", "has", "made", "significant", "progress", ",", "resulting", "in", "time", "synchronization", "accuracy", "in", "the", "range", "of", "s", "-LSB-", "6", ",", "7", "-RSB-", ",", "which", "is", "much", "more", "accurate", "than", "the", "loose", "time", "synchronization", "required", "by", "TESLA", ".", "By", "using", "only", "symmetric", "cryptographic", "primitives", ",", "TESLA", "is", "very", "efficient", "and", "provides", "practical", "solutions", "for", "resource-constrained", "sensor", "networks", ".", "Figure", "1", "shows", "an", "example", "of", "TESLA", "authentication", ",", "and", "here", "is", "a", "sketch", "of", "the", "basic", "approach", ":", "149", "M", "j", "M", "j", "+1", "M", "j", "+2", "M", "j", "+3", "M", "j", "+4", "M", "j", "+5", "M", "j", "+6", "K", "i", "-1", "K", "i", "K", "i", "+1", "K", "i", "+2", "F", "-LRB-", "Ki", "-RRB-", "F", "-LRB-", "Ki", "+1", "-RRB-", "F", "-LRB-", "Ki", "+2", "-RRB-", "F", "-LRB-", "Ki", "+3", "-RRB-", "Interval", "i", "-", "1", "Interval", "i", "Interval", "i", "+", "1", "Interval", "i", "+", "2", "time", "Figure", "1", ":", "At", "the", "top", "of", "the", "figure", "is", "the", "one-way", "key", "chain", "-LRB-", "using", "the", "one-way", "function", "F", "-RRB-", ".", "Time", "advances", "left-to-right", ".", "At", "the", "bottom", "of", "the", "figure", ",", "we", "can", "see", "the", "messages", "that", "the", "sender", "sends", "in", "each", "time", "interval", ".", "For", "each", "message", ",", "the", "sender", "uses", "the", "current", "time", "interval", "key", "to", "compute", "the", "MAC", "of", "the", "message", ".", "The", "sender", "splits", "up", "the", "time", "into", "time", "intervals", "of", "uniform", "duration", ".", "Next", ",", "the", "sender", "forms", "a", "one-way", "chain", "of", "self-authenticating", "keys", ",", "by", "selecting", "key", "K", "N", "of", "interval", "N", "at", "random", ",", "and", "by", "repeatedly", "applying", "a", "one-way", "hash", "function", "F", "to", "derive", "earlier", "keys", ".", "A", "cryptographic", "hash", "function", ",", "such", "as", "SHA-1", "-LSB-", "27", "-RSB-", ",", "offers", "the", "required", "properties", ".", "The", "sender", "assigns", "keys", "sequentially", "to", "time", "intervals", "-LRB-", "one", "key", "per", "time", "interval", "-RRB-", ".", "The", "one-way", "chain", "is", "used", "in", "the", "reverse", "order", "of", "generation", ",", "so", "any", "key", "of", "a", "time", "interval", "can", "be", "used", "to", "derive", "keys", "of", "previous", "time", "intervals", ".", "For", "example", ",", "assuming", "a", "disclosure", "delay", "of", "2", "time", "intervals", ",", "key", "K", "i", "will", "be", "used", "to", "compute", "MACs", "of", "broadcast", "messages", "sent", "during", "time", "interval", "i", ",", "but", "disclosed", "during", "time", "interval", "i", "+", "2", ".", "The", "sender", "defines", "a", "disclosure", "delay", "for", "keys", ",", "usually", "on", "the", "order", "of", "a", "few", "time", "intervals", ".", "The", "sender", "publishes", "the", "keys", "after", "the", "disclosure", "time", ".", "The", "sender", "attaches", "a", "MAC", "to", "each", "message", ",", "computed", "over", "the", "data", ",", "using", "the", "key", "for", "the", "current", "time", "interval", ".", "Along", "with", "the", "message", ",", "the", "sender", "also", "sends", "the", "most", "recent", "key", "that", "it", "can", "disclose", ".", "In", "the", "example", "of", "Figure", "1", ",", "the", "sender", "uses", "key", "K", "i", "+1", "to", "compute", "the", "MAC", "of", "message", "M", "j", "+3", ",", "and", "publishes", "key", "K", "i", "-1", "assuming", "a", "key", "disclosure", "delay", "of", "two", "time", "intervals", ".", "Each", "receiver", "that", "receives", "the", "message", "performs", "the", "following", "operation", ".", "It", "knows", "the", "schedule", "for", "disclosing", "keys", "and", ",", "since", "the", "clocks", "are", "loosely", "synchronized", ",", "can", "check", "that", "the", "key", "used", "to", "compute", "the", "MAC", "is", "still", "secret", "by", "determining", "that", "the", "sender", "could", "not", "have", "yet", "reached", "the", "time", "interval", "for", "disclosing", "it", ".", "If", "the", "MAC", "key", "is", "still", "secret", ",", "then", "the", "receiver", "buffers", "the", "message", ".", "In", "the", "example", "of", "Figure", "1", ",", "when", "the", "receiver", "gets", "message", "M", "j", "+3", ",", "it", "needs", "to", "verify", "that", "the", "sender", "did", "not", "yet", "publish", "key", "K", "i", "+1", ",", "by", "using", "the", "loose", "time", "synchronization", "and", "the", "maximum", "time", "synchronization", "error", ".", "If", "the", "receiver", "is", "certain", "that", "the", "sender", "did", "not", "yet", "reach", "interval", "i", "+", "3", ",", "it", "knows", "that", "key", "K", "i", "+1", "is", "still", "secret", ",", "and", "it", "can", "buffer", "the", "packet", "for", "later", "verification", ".", "Each", "receiver", "also", "checks", "that", "the", "disclosed", "key", "is", "correct", "-LRB-", "using", "self-authentication", "and", "previously", "released", "keys", "-RRB-", "and", "then", "checks", "the", "correctness", "of", "the", "MAC", "of", "buffered", "messages", "that", "were", "sent", "in", "the", "time", "interval", "of", "the", "disclosed", "key", ".", "Assuming", "the", "receiver", "knows", "the", "authentic", "key", "K", "i", "-2", ",", "it", "can", "verify", "the", "authenticity", "of", "key", "K", "i", "-1", "by", "checking", "that", "F", "-LRB-", "K", "i", "-1", "-RRB-", "equals", "K", "i", "-2", ".", "If", "K", "i", "-1", "is", "authentic", ",", "the", "receiver", "can", "verify", "the", "authenticity", "of", "buffered", "packets", "sent", "during", "time", "interval", "i", "-", "1", ",", "since", "they", "were", "authenticated", "using", "key", "K", "i", "-1", "to", "compute", "the", "MAC", ".", "One-way", "chains", "have", "the", "property", "that", "if", "intermediate", "keys", "are", "lost", ",", "they", "can", "be", "recomputed", "using", "later", "keys", ".", "So", ",", "even", "if", "some", "disclosed", "keys", "are", "lost", "due", "to", "packet", "loss", "or", "jamming", "attacks", ",", "a", "receiver", "can", "recover", "the", "key", "from", "keys", "disclosed", "later", "and", "check", "the", "authenticity", "of", "earlier", "messages", ".", "Along", "with", "each", "message", "M", "i", ",", "the", "sender", "broadcasts", "the", "TESLA", "authentication", "information", ".", "The", "broadcast", "channel", "may", "be", "lossy", ",", "but", "the", "sender", "would", "need", "to", "retransmit", "with", "an", "updated", "MAC", "key", ".", "Despite", "loss", ",", "each", "receiver", "can", "authenticate", "all", "the", "messages", "it", "receives", ".", "3.2", "Reducing", "Verification", "Overhead", "of", "TESLA", "Even", "though", "TESLA", "provides", "a", "viable", "solution", "for", "broadcast", "authentication", "in", "sensor", "networks", ",", "many", "challenges", "still", "remain", ".", "We", "describe", "the", "remaining", "challenges", "below", "and", "propose", "extensions", "and", "new", "approaches", "to", "address", "these", "challenges", ".", "Some", "applications", "broadcast", "messages", "infrequently", "at", "unpredictable", "times", "and", "the", "receivers", "may", "need", "to", "authenticate", "messages", "immediately", ".", "For", "example", ",", "a", "fire", "alarm", "event", "is", "infrequent", "and", "needs", "to", "be", "quickly", "distributed", "and", "authenticated", ".", "Unfortunately", ",", "when", "messages", "are", "infrequent", ",", "due", "to", "the", "one-way", "chain", "approach", "to", "verify", "the", "authenticity", "of", "keys", ",", "a", "receiver", "may", "need", "to", "compute", "a", "long", "chain", "of", "hash", "values", "in", "order", "to", "authenticate", "the", "key", "which", "could", "take", "several", "tens", "of", "seconds", "for", "verification", ".", "Such", "verification", "delays", "the", "message", "authentication", "significantly", "and", "may", "consume", "significant", "computation", "and", "energy", "resources", ".", "This", "approach", "also", "introduces", "a", "Denial-of-Service", "-LRB-", "DoS", "-RRB-", "attack", ":", "an", "attacker", "sends", "a", "bogus", "key", "to", "a", "receiver", ",", "and", "the", "receiver", "spends", "several", "thousands", "of", "one-way", "function", "computations", "-LRB-", "and", "several", "seconds", "-RRB-", "to", "finally", "notice", "that", "the", "sent", "key", "was", "incorrect", ".", "One", "approach", "is", "to", "periodically", "release", "TESLA", "keys", "and", "hence", "the", "work", "for", "verification", "of", "an", "infrequent", "message", "would", "be", "distributed", "over", "time", ".", "However", ",", "this", "approach", "wastes", "energy", "for", "periodic", "broadcast", "of", "TESLA", "keys", ".", "In", "the", "same", "vein", ",", "a", "sender", "can", "publish", "several", "keys", "in", "a", "packet", "to", "reduce", "the", "effect", "of", "DoS", "attacks", "by", "requiring", "a", "receiver", "to", "perform", "a", "small", "number", "of", "one-way", "function", "computations", "to", "incrementally", "authenticate", "each", "key", "of", "the", "one-way", "chain", ".", "An", "advantage", "of", "this", "approach", "is", "that", "it", "makes", "the", "DoS", "attack", "described", "above", "less", "attractive", "to", "an", "attacker", ",", "as", "a", "receiver", "would", "need", "to", "follow", "the", "one-way", "chain", "for", "a", "short", "interval", "only", "to", "detect", "a", "bogus", "key", ".", "Another", "approach", "to", "counteract", "the", "slow", "and", "expensive", "verification", "problem", "is", "to", "use", "a", "Merkle", "hash", "tree", "-LSB-", "24", "-RSB-", "instead", "of", "a", "one-way", "chain", "to", "authenticate", "TESLA", "keys", ".", "This", "approach", "has", "been", "suggested", "in", "another", "context", "-LSB-", "13", "-RSB-", ".", "For", "N", "keys", ",", "the", "tree", "has", "height", "d", "=", "log", "2", "-LRB-", "N", "-RRB-", "and", "along", "with", "each", "message", ",", "the", "sender", "sends", "d", "values", "to", "verify", "the", "key", ".", "Despite", "the", "logarithmic", "communication", "cost", ",", "this", "is", "still", "too", "large", "for", "most", "sensor", "networks", ":", "consider", "a", "network", "where", "we", "switch", "to", "a", "different", "hash", "tree", "every", "day", ",", "and", "we", "need", "a", "150", "k", "2", "k", "5", "k", "8", "k", "11", "k", "14", "k", "17", "k", "20", "k", "23", "k", "1", "k", "4", "k", "7", "k", "10", "k", "13", "k", "16", "k", "19", "k", "22", "k", "0", "k", "3", "k", "6", "k", "9", "k", "12", "k", "15", "k", "18", "k", "21", "F", "v", "0", "-7", "=", "F", "-LRB-", "v", "0", "-3", "|", "|", "v", "4", "-7", "-RRB-", "v", "0", "-3", "v", "4", "-7", "v", "01", "v", "23", "v", "45", "v", "67", "v", "0", "v", "1", "v", "2", "v", "3", "v", "4", "v", "5", "v", "6", "v", "7", "Figure", "2", ":", "Hash", "tree", "constructed", "over", "one-way", "chains", "of", "TESLA", "keys", ".", "key", "resolution", "of", "1", "second", ".", "The", "86,400", "keys", "that", "we", "need", "in", "one", "day", "require", "a", "tree", "of", "height", "17", ".", "Assuming", "a", "hash", "output", "of", "10", "bytes", ",", "the", "sender", "would", "need", "to", "consequently", "add", "170", "bytes", "to", "each", "message", "for", "authentication", "-LRB-", "17", "nodes", "at", "10", "bytes", "each", "-RRB-", ".", "This", "is", "far", "too", "much", "for", "most", "sensor", "networks", ",", "where", "nodes", "typically", "communicate", "with", "messages", "shorter", "than", "100", "bytes", ".", "Splitting", "the", "load", "up", "into", "two", "messages", "is", "not", "a", "viable", "approach", ",", "because", "of", "the", "usually", "high", "packet", "loss", "rates", "in", "sensor", "networks", ".", "The", "receiver", "would", "only", "need", "to", "compute", "O", "-LRB-", "log", "-LRB-", "N", "-RRB-", "-RRB-", "operations", "for", "verification", ",", "17", "hash", "function", "computations", "in", "our", "example", "which", "requires", "around", "17ms", "on", "current", "sensor", "nodes", ".", "To", "reduce", "the", "bandwidth", "overhead", ",", "we", "design", "a", "different", "approach", "that", "achieves", "lower", "message", "size", "at", "the", "cost", "of", "higher", "verification", "computation", ".", "our", "approach", "is", "to", "combine", "one-way", "chains", "with", "hash", "trees", ".", "Consider", "the", "structure", "that", "Figure", "2", "shows", ".", "We", "construct", "a", "hash", "tree", "over", "short", "one-way", "chains", ".", "If", "each", "one-way", "chain", "has", "a", "length", "of", "k", ",", "the", "verification", "cost", "is", "expected", "to", "be", "k", "/", "2", "+", "log", "-LRB-", "N/k", "-RRB-", "-LRB-", "it", "is", "at", "most", "k", "+", "log", "-LRB-", "N/k", "-RRB-", "-RRB-", ",", "and", "the", "communication", "cost", "is", "log", "-LRB-", "N/k", "-RRB-", ".", "For", "a", "given", "upper", "bound", "on", "the", "verification", "time", ",", "we", "can", "thus", "minimize", "the", "communication", "overhead", ".", "Consider", "an", "upper", "bound", "on", "the", "verification", "time", "of", "approximately", "500ms", ".", "We", "can", "set", "k", "=", "2", "9", "=", "512", ",", "thus", "the", "hash", "tree", "will", "have", "8", "levels", ",", "requiring", "80", "bytes", "per", "packet", ",", "making", "this", "an", "attractive", "approach", "for", "many", "applications", ".", "An", "alternative", "approach", "would", "be", "to", "construct", "a", "hash", "tree", "over", "the", "one-way", "key", "chain", ",", "where", "the", "every", "k", "`", "th", "key", "will", "be", "a", "leaf", "node", "of", "the", "hash", "tree", "-LRB-", "for", "example", ",", "in", "Figure", "2", ",", "the", "value", "k", "0", "would", "be", "derived", "from", "the", "previous", "leaf", "node", "k", "0", "=", "F", "-LRB-", "v", "1", "-RRB-", "-RRB-", ".", "The", "advantage", "of", "this", "approach", "is", "that", "a", "sender", "would", "not", "need", "to", "send", "the", "hash", "tree", "values", "along", "with", "a", "message", ",", "as", "a", "value", "can", "be", "authenticated", "by", "following", "the", "one-way", "chain", "to", "the", "last", "known", "value", ".", "However", ",", "if", "the", "sender", "did", "not", "send", "out", "any", "message", "during", "an", "extended", "time", "period", ",", "that", "authentication", "would", "be", "computationally", "expensive", "and", "thus", "the", "sender", "can", "choose", "to", "also", "send", "the", "hash", "tree", "nodes", "along", "for", "fast", "verification", ".", "This", "approach", "would", "also", "prevent", "DoS", "attacks", "since", "the", "verification", "is", "very", "efficient", ".", "M", "i", "M", "i", "K", "i", "-1", "K", "i", "K", "i", "+1", "F", "-LRB-", "Ki", "-RRB-", "F", "-LRB-", "Ki", "+1", "-RRB-", "Interval", "i", "-", "1", "Interval", "i", "time", "T", "i", "-1", "T", "i", "T", "i", "+1", "Figure", "3", ":", "This", "figure", "shows", "authentication", "of", "one", "message", "in", "the", "RPT", "protocol", ".", "Message", "M", "i", "=", "MAC", "K", "i", "-LRB-", "M", "i", "-RRB-", ",", "and", "message", "M", "i", "=", "M", "i", ",", "K", "i", ".", "3.3", "RPT", ":", "Authenticating", "Messages", "Sent", "at", "Regular", "and", "Predictable", "Times", "As", "described", "in", "our", "taxonomy", "in", "Section", "2", ",", "one", "additional", "property", "in", "the", "design", "space", "of", "broadcast", "authentication", "is", "to", "authenticate", "asynchronous", "messages", "sent", "at", "irregular", "and", "unpredictable", "times", ".", "All", "protocols", "described", "so", "far", "can", "achieve", "this", "property", ".", "However", ",", "if", "we", "were", "to", "remove", "this", "requirement", ",", "new", "possible", "approaches", "exist", "that", "can", "only", "authenticate", "messages", "sent", "at", "regular", "and", "predictable", "times", ",", "yet", "satisfy", "all", "of", "the", "other", "cardinal", "properties", "defined", "in", "our", "taxonomy", ".", "In", "this", "section", ",", "we", "introduce", "our", "design", "of", "one", "such", "protocol", "called", "RPT", ",", "a", "modification", "of", "the", "TESLA", "protocol", ".", "In", "practice", ",", "many", "protocols", "send", "synchronous", "messages", "at", "regular", "and", "predictable", "times", ".", "The", "plaintext", "of", "these", "messages", "are", "often", "known", "by", "the", "sender", "a", "priori", ".", "In", "particular", ",", "messages", "containing", "meta-data", "are", "especially", "well-suited", "for", "this", "type", "of", "communication", ".", "For", "example", ",", "a", "base-station", "often", "performs", "key", "update", "or", "time", "re-synchronization", "at", "a", "preset", "time", "of", "day", ".", "In", "these", "examples", ",", "the", "sender", "knows", "exactly", "what", "message", "needs", "to", "be", "sent", "at", "a", "particular", "time", ",", "but", "the", "protocol", "dictates", "that", "such", "messages", "can", "not", "be", "sent", "until", "a", "pre-specified", "time", ".", "Consider", "an", "application", "that", "broadcasts", "a", "message", "every", "day", "at", "noon", "to", "all", "nodes", ".", "If", "we", "use", "standard", "TESLA", "with", "one", "key", "per", "151", "day", ",", "it", "would", "take", "one", "day", "to", "authenticate", "the", "message", ",", "since", "the", "receivers", "would", "need", "to", "wait", "for", "the", "disclosed", "key", "one", "day", "later", ".", "On", "the", "other", "hand", ",", "if", "we", "use", "many", "keys", ",", "for", "example", ",", "one", "key", "per", "second", ",", "it", "would", "require", "86", ",400", "keys", "per", "day", "-LRB-", "not", "using", "the", "optimization", "we", "presented", "in", "the", "previous", "section", "-RRB-", ",", "and", "a", "sensor", "node", "would", "require", "an", "expected", "time", "of", "43", "seconds", "to", "verify", "the", "authenticity", "of", "the", "key", ".", "Hence", ",", "if", "messages", "are", "sent", "at", "very", "regular", "time", "intervals", ",", "we", "can", "streamline", "TESLA", "to", "immediately", "authenticate", "these", "messages", ".", "The", "RPT", "protocol", "-LRB-", "Regular-Predictable", "TESLA", "-RRB-", "achieves", "immediate", "authentication", "for", "messages", "sent", "at", "regular", "and", "predictable", "times", ".", "Consider", "a", "message", "that", "needs", "to", "be", "sent", "at", "times", "T", "i", "=", "T", "0", "+", "i", "D", ".", "The", "sender", "creates", "a", "one-way", "key", "chain", ",", "and", "assigns", "one", "key", "to", "each", "time", "interval", "of", "duration", "D", ".", "We", "assume", "that", "the", "sender", "knows", "the", "content", "of", "the", "message", "M", "i", "to", "be", "broadcast", "at", "time", "T", "i", "by", "time", "T", "i", "-", ",", "where", "is", "the", "maximum", "network", "broadcast", "propagation", "delay", "plus", "the", "maximum", "time", "synchronization", "error", ".", "At", "time", "T", "i", "-", ",", "the", "sender", "broadcasts", "message", "MAC", "K", "i", "-LRB-", "M", "i", "-RRB-", ",", "and", "at", "time", "T", "i", "the", "sender", "broadcasts", "M", "i", ",", "K", "i", ".", "As", "soon", "as", "the", "receiver", "receives", "the", "first", "message", ",", "it", "needs", "to", "verify", "the", "safety", "condition", "that", "key", "K", "i", "is", "still", "secret", ",", "given", "its", "current", "time", "and", "the", "maximum", "time", "synchronization", "error", ".", "When", "receiving", "the", "second", "message", ",", "the", "receiver", "first", "verifies", "the", "key", "K", "i", ".", "If", "the", "key", "is", "correct", "it", "verifies", "the", "MAC", ",", "and", "if", "the", "MAC", "is", "correct", "it", "is", "assured", "that", "M", "i", "is", "authentic", ".", "Note", "that", "this", "approach", "does", "not", "exhibit", "any", "authentication", "delay", ",", "as", "the", "receiver", "can", "immediately", "authenticate", "M", "i", "immediately", "after", "reception", ".", "At", "first", "glance", ",", "it", "may", "appear", "that", "RPT", "is", "susceptible", "to", "a", "denial-of", "-", "broadcast", "attack", ",", "where", "an", "attacker", "sends", "a", "large", "number", "of", "forged", "MACs", "around", "the", "time", "the", "legitimate", "is", "sent", "out", ".", "This", "problem", "had", "been", "studied", "and", "addressed", "in", "previous", "work", "-LSB-", "16", "-RSB-", ".", "However", ",", "it", "is", "not", "easy", "to", "evaluate", "how", "well", "this", "works", "in", "practice", ".", "Another", "way", "to", "achieve", "asymmetric", "authentication", "is", "through", "the", "use", "of", "one-time", "signatures", ".", "A", "one-time", "signature", "is", "much", "faster", "to", "generate", "and", "verify", "than", "general", "purpose", "signatures", ",", "but", "the", "private", "key", "associated", "with", "the", "signature", "can", "be", "used", "to", "sign", "only", "a", "single", "message", ",", "otherwise", "the", "security", "degrades", "and", "an", "attacker", "could", "forge", "signatures", ".", "Unlike", "TESLA", ",", "time", "synchronization", "is", "not", "necessary", "and", "authentication", "is", "immediate", ".", "Moreover", ",", "one-time", "signatures", "achieve", "non-repudiation", "in", "addition", "to", "authentication", ",", "which", "enables", "a", "node", "to", "buffer", "a", "message", "and", "retransmit", "it", "later", ".", "The", "receiver", "of", "the", "retransmitted", "message", "can", "still", "authenticate", "the", "message", ".", "One-time", "signatures", "are", "advantageous", "in", "applications", "with", "infrequent", "messages", "at", "unpredictable", "times", ",", "as", "they", "do", "not", "add", "computation", "to", "the", "receiver", "based", "upon", "the", "time", "at", "which", "the", "message", "is", "received", ".", "This", "makes", "them", "resilient", "to", "many", "forms", "of", "DoS", "attacks", ".", "We", "now", "present", "an", "overview", "of", "one-time", "signatures", ",", "and", "then", "present", "our", "LEA", "broadcast", "authentication", "protocol", "for", "authentication", "of", "low-entropy", "messages", "in", "Section", "4.2", ".", "4.1", "One-Time", "Signatures", "Overview", "The", "Merkle-Winternitz", "signature", "was", "first", "drafted", "by", "Merkle", "-LSB-", "25", ",", "26", "-RSB-", ",", "and", "was", "later", "also", "used", "by", "Even", ",", "Goldreich", ",", "and", "Micali", "-LSB-", "8", "-RSB-", ",", "and", "more", "recently", "also", "by", "Rohatgi", "for", "efficient", "stream", "authentication", "-LSB-", "35", "-RSB-", ".", "We", "briefly", "describe", "the", "basic", "principle", "of", "the", "Merkle-Winternitz", "signature", ".", "A", "Merkle-Winternitz", "signature", "relies", "on", "efficient", "one-way", "functions", "to", "construct", "a", "DAG", "-LRB-", "directed", "acyclic", "graph", "-RRB-", "to", "encode", "a", "signature", ".", "Each", "edge", "between", "two", "vertices", "-LRB-", "v", "1", "v", "2", "-RRB-", "in", "the", "graph", "represents", "an", "application", "of", "the", "one-way", "function", ",", "where", "the", "value", "of", "the", "end", "node", "is", "the", "result", "of", "the", "one-way", "function", "applied", "to", "the", "beginning", "node", "-LRB-", "v", "2", "=", "F", "-LRB-", "v", "1", "-RRB-", ",", "where", "F", "represents", "the", "one-way", "function", "-RRB-", ".", "End", "nodes", "with", "multiple", "incoming", "edges", "take", "on", "the", "value", "of", "the", "hash", "of", "the", "concatenation", "of", "predecessor", "nodes", ".", "The", "initial", "values", "of", "the", "graph", "represent", "the", "private", "key", ",", "and", "the", "final", "value", "represents", "the", "public", "key", ".", "To", "achieve", "a", "secure", "one-time", "signature", ",", "the", "property", "of", "the", "signature", "encoding", "is", "that", "an", "attacker", "would", "have", "to", "invert", "at", "least", "one", "one-way", "function", "to", "sign", "any", "other", "value", "-LRB-", "i.e.", ",", "forge", "a", "signature", "-RRB-", ".", "We", "now", "discuss", "an", "example", "of", "a", "signature", "graph", "and", "signature", "encoding", ".", "Figure", "4", "-LRB-", "a", "-RRB-", "depicts", "the", "one-time", "signature", ".", "A", "one-way", "hash", "chain", "of", "length", "4", "can", "be", "used", "to", "encode", "the", "values", "0", "-", "3", ".", "For", "this", "signature", "chain", ",", "we", "will", "use", "the", "convention", "that", "the", "1st", "value", "s", "3", "in", "the", "chain", "encodes", "the", "value", "3", ",", "the", "second", "2", ",", "etc.", ".", "The", "signer", "derives", "the", "value", "s", "3", "from", "a", "randomly", "generated", "private", "key", "K", "priv", "by", "using", "a", "Pseudo-Random", "Function", "-LRB-", "PRF", "-RRB-", ",", "e.g.", ",", "s", "3", "=", "PRF", "K", "priv", "-LRB-", "0", "-RRB-", ".", "3", "To", "prevent", "signature", "forgery", "-LRB-", "as", "we", "will", "explain", "later", "-RRB-", ",", "the", "sender", "also", "creates", "a", "checksum", "chain", "c", "0", "...", "c", "3", ",", "deriving", "value", "c", "0", "also", "from", "the", "private", "key", ",", "e.g.", ",", "c", "0", "=", "PRF", "K", "priv", "-LRB-", "1", "-RRB-", ",", "and", "again", "using", "the", "one-way", "function", "to", "derive", "the", "other", "values", ",", "e.g.", ",", "c", "1", "=", "F", "-LRB-", "c", "0", "-RRB-", ".", "The", "application", "of", "the", "one-way", "function", "on", "s", "0", "and", "c", "3", "forms", "the", "public", "key", ":", "K", "pub", "=", "F", "-LRB-", "s", "0", "|", "|", "c", "3", "-RRB-", ".", "To", "sign", "value", "i", ",", "where", "0", "i", "3", ",", "the", "signer", "uses", "values", "s", "i", "and", "c", "i", "as", "the", "signature", ".", "To", "verify", "the", "signature", "s", "i", "and", "c", "i", ",", "the", "receiver", "follows", "the", "one-way", "chains", "and", "recomputes", "the", "public", "key", "as", "follows", ",", "with", "F", "0", "-LRB-", "x", "-RRB-", "=", "x", ":", "K", "pub", "=", "F", "-LRB-", "F", "i", "-LRB-", "s", "i", "-RRB-", "|", "|", "F", "3", "-", "i", "-LRB-", "c", "i", "-RRB-", "-RRB-", "A", "signature", "is", "correct", "if", "the", "recomputed", "value", "matches", "the", "public", "key", "For", "example", ",", "consider", "a", "signature", "on", "value", "2", ":", "s", "2", "and", "c", "2", ".", "To", "verify", ",", "the", "receiver", "checks", "that", "K", "pub", "=", "F", "-LRB-", "F", "-LRB-", "F", "-LRB-", "s", "2", "-RRB-", "-RRB-", "|", "|", "F", "-LRB-", "c", "2", "-RRB-", "-RRB-", ".", "An", "attacker", "who", "wishes", "to", "forge", "a", "signature", "is", "forced", "to", "invert", "at", "least", "one", "one-way", "function", "-LRB-", "since", "the", "indices", "of", "the", "checksum", "chain", "run", "in", "direction", "opposite", "to", "the", "signature", "chain", "-RRB-", ".", "Assuming", "the", "one-way", "function", "is", "secure", ",", "an", "attacker", "can", "not", "invert", "the", "function", "to", "forge", "a", "signature", ",", "hence", ",", "the", "signature", "is", "secure", ".", "In", "practice", ",", "we", "can", "use", "a", "secure", "cryptographic", "hash", "function", "for", "our", "one-way", "function", ",", "but", "for", "increased", "efficiency", "we", "use", "a", "block", "cipher", "in", "hash", "mode", ",", "for", "example", "the", "commonly", "used", "Matyas-Meyer-Oseas", "mode", "-LSB-", "22", "-RSB-", ".", "Using", "two", "chains", "achieves", "a", "secure", "one-time", "signature", ",", "but", "does", "not", "scale", "well", "to", "sign", "a", "large", "number", "of", "bits", ".", "If", "we", "use", "two", "chains", ",", "a", "signature", "on", "32", "bits", "would", "require", "a", "chain", "2", "32", "values", "long", ",", "which", "has", "a", "very", "high", "overhead", "to", "generate", "and", "verify", ".", "Instead", ",", "if", "more", "than", "one", "chain", "is", "used", ",", "each", "chain", "can", "encode", "some", "number", "of", "bits", "of", "the", "signature", ".", "For", "example", ",", "one", "could", "encode", "an", "8", "bit", "number", "by", "using", "four", "chains", "of", "length", "4", "to", "encode", "two", "bits", "in", "each", "chain", ".", "The", "public", "key", "is", "derived", "from", "the", "last", "value", "on", "all", "the", "chains", ".", "However", ",", "in", "this", "scheme", ",", "we", "would", "still", "need", "an", "additional", "4", "chains", "of", "length", "4", "to", "encode", "the", "values", "in", "the", "opposite", "direction", "to", "prevent", "forgeries", ".", "The", "Merkle-Winternitz", "signature", "reduces", "the", "number", "of", "checksum", "chains", ",", "in", "that", "the", "redundant", "checksum", "chains", "do", "not", "encode", "the", "actual", "value", ",", "but", "instead", "encode", "the", "sum", "of", "the", "values", "on", "the", "signature", "chains", ".", "As", "explained", "in", "detail", "by", "Merkle", "-LSB-", "25,26", "-RSB-", ",", "the", "checksum", "chain", "encodes", "the", "sum", "of", "all", "values", "in", "the", "signature", "chains", ".", "Assuming", "k", "signature", "chains", "that", "sign", "m", "bits", "each", ",", "the", "maximum", "sum", "would", "be", "k", "-LRB-", "2", "m", "-1", "-RRB-", ",", "thus", "the", "checksum", "chains", "would", "encode", "3", "We", "use", "a", "block", "cipher", "to", "implement", "the", "PRF", "efficiently", ".", "A", "block", "cipher", "is", "a", "good", "PRF", "as", "long", "as", "we", "do", "not", "use", "the", "PRF", "to", "compute", "more", "than", "O", "-LRB-", "2", "n", "-RRB-", "operations", "with", "the", "same", "key", ",", "where", "n", "is", "the", "blocksize", "in", "bits", ".", "Since", "we", "only", "perform", "a", "few", "operations", ",", "the", "block", "cipher", "is", "a", "secure", "and", "efficient", "PRF", ".", "152", "K", "priv", "K", "pub", "s", "0", "s", "1", "s", "2", "s", "3", "c", "3", "c", "2", "c", "1", "c", "0", "-LRB-", "a", "-RRB-", "Simple", "one-time", "signature", "to", "sign", "2", "bits", ".", "F", "K", "priv", "K", "pub", "s", "0", ",0", "s", "0", ",1", "s", "0", ",2", "s", "0", ",3", "s", "1", ",0", "s", "1", ",1", "s", "1", ",2", "s", "1", ",3", "s", "2", ",0", "s", "2", ",1", "s", "2", ",2", "s", "2", ",3", "s", "3", ",0", "s", "3", ",1", "s", "3", ",2", "s", "3", ",3", "c", "0", ",3", "c", "0", ",2", "c", "0", ",1", "c", "0", ",0", "c", "1", ",3", "c", "1", ",2", "c", "1", ",1", "c", "1", ",0", "-LRB-", "b", "-RRB-", "Merkle-Winternitz", "one-time", "signature", ".", "This", "construction", "can", "sign", "8", "bits", ".", "Figure", "4", ":", "This", "figure", "illustrates", "the", "Merkle-Winternitz", "one-time", "signature", ".", "log", "2", "k", "-LRB-", "2", "m", "-", "1", "-RRB-", "bits", ",", "providing", "for", "a", "significant", "savings", ".", "This", "approach", "still", "ensures", "that", "an", "attacker", "would", "have", "to", "invert", "at", "least", "one", "one-way", "function", "to", "forge", "a", "signature", ".", "Using", "signature", "chains", "with", "4", "values", ",", "a", "signature", "on", "n", "bits", "will", "then", "require", "n", "/", "2", "signature", "chains", ".", "Since", "each", "chain", "encodes", "up", "to", "the", "value", "3", ",", "the", "checksum", "chain", "at", "most", "needs", "to", "encode", "the", "value", "-LRB-", "n/2", "-RRB-", "3", "as", "the", "total", "sum", ";", "thus", ",", "the", "checksum", "chains", "need", "to", "sign", "log", "2", "-LRB-", "n/2", "3", "-RRB-", "bits", ".", "If", "we", "also", "use", "checksum", "chains", "with", "4", "values", ",", "each", "checksum", "chain", "can", "again", "sign", "2", "bits", "and", "we", "need", "log", "2", "-LRB-", "n/2", "3", "-RRB-", "/", "2", "checksum", "chains", ".", "Figure", "4", "-LRB-", "b", "-RRB-", "shows", "an", "example", "of", "such", "a", "signature", "for", "signing", "8", "bits", ".", "Since", "the", "four", "signature", "chains", "can", "at", "most", "encode", "the", "number", "3", ",", "the", "total", "sum", "is", "at", "most", "4", "3", "=", "12", ".", "Thus", "we", "only", "need", "2", "additional", "checksum", "chains", "to", "encode", "the", "4", "bits", ".", "Again", ",", "the", "indices", "in", "the", "checksum", "chain", "run", "opposite", "to", "the", "indices", "in", "the", "signature", "chain", ",", "to", "ensure", "that", "an", "attacker", "would", "have", "to", "invert", "at", "least", "one", "one-way", "function", "to", "forge", "a", "different", "signature", ".", "For", "the", "specific", "case", "of", "signing", "80", "bits", ",", "researchers", "suggest", "using", "chains", "of", "length", "16", "to", "encode", "4", "bits", "per", "chain", "-LSB-", "35", "-RSB-", ".", "Thus", ",", "we", "need", "20", "=", "80/4", "signature", "chains", ",", "and", "the", "checksum", "chains", "would", "need", "to", "encode", "at", "most", "values", "0", "...", "300", "-LRB-", "=", "20", "15", "-RRB-", ",", "which", "will", "require", "9", "bits", ",", "which", "again", "requires", "3", "checksum", "chains", "-LRB-", "where", "the", "third", "chain", "only", "requires", "2", "values", "to", "sign", "a", "single", "bit", "-RRB-", ".", "4", "We", "now", "compute", "the", "computation", "overhead", "of", "signature", "verification", ".", "On", "average", ",", "signature", "verification", "requires", "following", "half", "the", "signature", "chains", ",", "which", "requires", "8", "one-way", "function", "computations", ".", "In", "the", "case", "of", "signing", "80", "bits", "with", "20", "signature", "chains", ",", "this", "will", "result", "in", "160", "one-way", "function", "computations", ".", "On", "average", ",", "the", "checksum", "chains", "require", "16", "one-way", "function", "computations", ",", "adding", "up", "to", "a", "total", "of", "176", "computations", ".", "4.2", "LEA", ":", "Authentication", "of", "Low-Entropy", "Messages", "If", "messages", "have", "high", "entropy", ",", "the", "one-time", "signature", "is", "still", "quite", "large", "in", "size", ".", "For", "example", ",", "if", "messages", "have", "80", "bits", "or", "more", "of", "entropy", ",", "the", "signer", "can", "hash", "the", "message", "before", "signing", "it", ".", "Using", "4", "We", "could", "also", "use", "2", "signature", "chains", "with", "18", "values", "each", ",", "as", "18", "2", "=", "324", ",", "saving", "one", "checksum", "chain", ".", "the", "construction", "we", "discussed", "in", "Section", "4.1", ",", "signing", "an", "80-bit", "hash", "value", "would", "yield", "a", "230", "bytes", "signature", "-LRB-", "or", "184", "bytes", "if", "we", "assume", "8", "byte", "long", "hash", "chain", "values", "-RRB-", ".", "Unfortunately", ",", "this", "is", "still", "too", "large", "for", "current", "sensor", "networks", ".", "However", ",", "for", "messages", "with", "lower", "entropy", ",", "one-time", "signatures", "can", "be", "very", "effective", ".", "We", "thus", "present", "the", "LEA", "-LRB-", "Low-Entropy", "Authentication", "-RRB-", "protocol", ".", "The", "LEA", "protocol", "is", "based", "on", "Merkle-Winternitz", "one-time", "signatures", ",", "and", "periodically", "pre-distributes", "onetime", "public", "keys", "to", "receivers", ",", "and", "the", "sender", "uses", "the", "corresponding", "private", "keys", "to", "sign", "messages", ".", "The", "Merkle-Winternitz", "one-time", "signature", "is", "efficient", "for", "signing", "small", "numbers", "of", "bits", ".", "For", "example", ",", "assuming", "chains", "of", "length", "16", ",", "to", "sign", "a", "message", "of", "n", "bits", ",", "we", "would", "need", "n", "/", "4", "signature", "chains", ".", "Thus", "we", "need", "to", "encode", "log", "2", "-LRB-", "n/415", "-RRB-", "bits", "in", "the", "checksum", "chains", ",", "hence", "requiring", "log", "2", "-LRB-", "n/4", "15", "-RRB-", "/", "4", "additional", "checksum", "chains", ".", "For", "signing", "8", "bits", ",", "the", "signature", "would", "require", "2", "signature", "chains", "and", "2", "additional", "checksum", "chains", "to", "encode", "the", "sum", "ranging", "from", "0", "...", "30", ",", "which", "would", "require", "32", "bytes", "assuming", "8", "byte", "values", ".", "Since", "communication", "cost", "is", "a", "premium", ",", "we", "could", "use", "a", "single", "checksum", "chain", "of", "length", "30", "to", "encode", "the", "checksum", ",", "thus", "saving", "8", "bytes", ".", "Hence", ",", "the", "total", "size", "of", "the", "authentication", "information", "would", "be", "24", "bytes", ".", "Since", "the", "size", "of", "the", "signature", "depends", "on", "the", "number", "of", "bits", "being", "signed", ",", "this", "method", "is", "preferable", "for", "situations", "where", "the", "message", "is", "a", "simple", "time", "critical", "command", ",", "such", "as", "an", "alarm", ",", "or", "a", "preset", "command", ".", "For", "example", ",", "to", "sign", "128", "different", "commands", ",", "we", "would", "only", "need", "one", "signature", "chain", "with", "16", "values", ",", "one", "signature", "chain", "with", "8", "values", ",", "and", "one", "checksum", "chain", "with", "22", "values", ".", "Assuming", "8", "byte", "values", ",", "the", "total", "signature", "length", "is", "24", "bytes", ".", "In", "some", "applications", "it", "may", "be", "possible", "to", "use", "a", "lossy", "compression", "algorithm", "to", "compress", "and", "quantize", "the", "data", "for", "the", "signature", ".", "This", "would", "allow", "the", "message", "to", "contain", "uncompressed", "data", ",", "but", "the", "attacher", "would", "only", "be", "able", "to", "change", "the", "message", "to", "a", "small", "degree", ".", "This", "could", "be", "helpful", "in", "commands", "which", "set", "the", "sensitivity", "of", "a", "motion", "sensor", "and", "the", "administrator", "is", "willing", "to", "allow", "a", "small", "error", "in", "the", "sensitivity", "which", "is", "actually", "received", "on", "the", "device", ".", "One", "of", "the", "main", "challenges", "of", "using", "one-time", "signatures", "is", "to", "dis-153", "tribute", "one", "authentic", "public", "key", "for", "each", "signature", "to", "the", "receivers", ".", "Without", "an", "authentic", "public", "key", "an", "attacker", "could", "inject", "it", "'s", "own", "public", "key", "and", "one-time", "signatures", ".", "This", "problem", "is", "easier", "than", "the", "original", "problem", "of", "general", "broadcast", "authentication", "because", "the", "public", "keys", "can", "be", "distributed", "far", "ahead", "of", "time", "at", "a", "predictable", "time", ".", "There", "are", "several", "methods", "by", "which", "this", "may", "be", "achieved", ".", "The", "simplest", "would", "be", "to", "distribute", "a", "set", "of", "k", "public", "keys", "to", "each", "receiver", "at", "bootstrap", "and", "these", "keys", "would", "be", "usable", "for", "the", "first", "k", "messages", ".", "If", "the", "lifetime", "of", "the", "devices", "compared", "to", "k", "is", "small", ",", "then", "the", "devices", "will", "not", "have", "to", "be", "re-bootstrapped", ".", "In", "general", ",", "the", "number", "of", "total", "messages", "is", "unknown", ".", "Thus", ",", "we", "design", "a", "mechanism", "to", "efficiently", "replenish", "authentic", "public", "keys", "after", "their", "use", ".", "We", "leverage", "the", "RPT", "protocol", "for", "this", "purpose", ".", "Nodes", "store", "a", "number", "of", "authentic", "public", "keys", ".", "The", "sender", "uses", "up", "one", "one-time", "signature", "-LRB-", "or", "one", "private", "key", "-RRB-", "per", "message", "it", "broadcasts", ".", "With", "this", "approach", ",", "all", "receivers", "can", "immediately", "authenticate", "the", "message", ".", "Periodically", ",", "the", "sender", "sends", "a", "RPT", "message", "at", "a", "regular", "time", "with", "new", "one-time", "public", "keys", "to", "replenish", "the", "used-up", "public", "keys", "at", "receivers", ".", "Since", "each", "public", "key", "is", "only", "10", "bytes", "long", ",", "this", "is", "an", "efficient", "approach", ".", "4.3", "Chaining", "Merkle-Winternitz", "Public", "Keys", "The", "above", "scheme", "illustrates", "an", "effective", "way", "to", "use", "TESLA", "in", "conjunction", "with", "Merkle-Winternitz", "signatures", "to", "provide", "fast", "and", "efficient", "authentication", ".", "The", "only", "drawback", "of", "using", "the", "Merkle-Winternitz", "one-time", "signature", "is", "that", "the", "public", "key", "can", "only", "be", "used", "once", ".", "Therefore", "when", "a", "TESLA", "authenticated", "message", "is", "sent", "at", "the", "beginning", "of", "the", "day", "authenticating", "k", "Merkle-Winternitz", "public", "keys", ",", "the", "sender", "and", "receiver", "are", "limited", "to", "only", "being", "able", "to", "authenticate", "k", "messages", "that", "day", ".", "The", "tradeoff", "is", "that", "choosing", "a", "large", "k", "uses", "up", "receiver", "memory", "resources", ".", "To", "circumvent", "this", "problem", ",", "rather", "than", "sending", "a", "fixed", "number", "of", "messages", "per", "interval", ",", "the", "public", "keys", "can", "be", "chained", "together", "in", "such", "a", "way", "that", "if", "more", "messages", "are", "needed", "they", "can", "be", "sent", "to", "the", "receiver", "and", "authenticated", "immediately", ".", "In", "this", "approach", ",", "the", "sender", "generates", "a", "large", "number", "of", "public", "and", "private", "keys", "for", "one-time", "signatures", ",", "labeling", "the", "public", "keys", "P", "0", ",", "P", "1", ",", "...", ",", "P", "n", ".", "These", "public", "keys", "are", "then", "combined", ",", "such", "that", "verification", "of", "one", "signature", "will", "automatically", "authenticate", "the", "public", "key", "of", "the", "next", "signature", ":", "V", "0", "=", "P", "0", "V", "1", "=", "H", "-LRB-", "P", "1", "|", "|", "V", "0", "-RRB-", "...", "V", "i", "=", "H", "-LRB-", "P", "i", "|", "|", "V", "i", "-1", "-RRB-", "...", "V", "n", "=", "H", "-LRB-", "P", "n", "|", "|", "V", "n", "-1", "-RRB-", "In", "this", "approach", ",", "the", "sender", "only", "needs", "to", "send", "the", "value", "V", "n", "authenticated", "with", "TESLA", ".", "The", "sender", "subsequently", "uses", "the", "private", "key", "that", "corresponds", "to", "the", "public", "key", "P", "n", "to", "sign", "a", "message", ",", "and", "sends", "value", "V", "n", "-1", "along", "with", "the", "message", ".", "From", "the", "signature", ",", "the", "receiver", "can", "compute", "the", "public", "key", "P", "n", ",", "and", "together", "with", "the", "value", "V", "n", "-1", "the", "receiver", "can", "authenticate", "the", "public", "key", "and", "V", "n", "-1", "based", "on", "the", "trusted", "value", "V", "n", ".", "Now", "that", "the", "receiver", "trusts", "value", "V", "n", "-1", ",", "the", "next", "public", "key", "P", "n", "-1", "can", "be", "authenticated", "in", "the", "same", "way", ".", "This", "approach", "has", "the", "drawback", "that", "the", "message", "to", "be", "authenticated", "also", "needs", "to", "carry", "the", "value", "V", "n", "-1", "increasing", "the", "message", "size", "by", "8", "10", "bytes", ",", "and", "that", "message", "loss", "prevents", "later", "messages", "to", "be", "authenticated", ".", "We", "propose", "to", "use", "a", "hybrid", "approach", ":", "send", "k", "public", "keys", "authenticated", "with", "RPT", "each", "day", ",", "along", "with", "one", "value", "V", "n", ".", "If", "the", "sender", "needs", "to", "send", "more", "than", "k", "authenticated", "messages", ",", "it", "can", "then", "use", "the", "chained", "public", "keys", "after", "the", "first", "k", "messages", ".", "0uA", "500uA", "1000uA", "1500uA", "2000uA", "22", "23", "24", "25", "26", "97", "bits", "60", "bits", "32", "bits", "Power", "consumed", "-LRB-", "uA", "-RRB-", "vs.", "chain", "lengths", "Figure", "5", ":", "The", "power", "consumption", "for", "an", "MSP430", "sensor", "node", "receiving", "and", "validating", "Merkle-Winternitz", "signatures", "for", "varying", "signature", "chain", "lengths", ".", "Figure", "5", "illustrates", "the", "amount", "of", "energy", "required", "for", "using", "a", "Merkle-Winternitz", "signature", "for", "signing", "32", "bits", ",", "60", "bits", ",", "and", "97", "bits", ".", "In", "this", "example", ",", "the", "sensor", "is", "an", "16-bit", "TI", "MSP430", "processor", "running", "at", "1", "MHz", ",", "which", "can", "compute", "an", "8-byte", "hash", "in", "approximately", "5ms", "using", "RC5", ".", "This", "processor", "uses", "up", "0.28", "A", "per", "ms", ",", "and", "3.8", "A", "per", "byte", "received", ".", "Shown", "are", "the", "overall", "power", "consumption", "for", "five", "different", "chain", "lengths", ",", "2", "2", ",", "2", "3", ",", "2", "4", ",", "2", "5", ",", "2", "6", ",", "and", "2", "7", ".", "Table", "2", "shows", "the", "power", "consumption", ",", "validation", "times", ",", "and", "communication", "overhead", "for", "signing", "60", "bits", "with", "varying", "length", "chains", ".", "We", "implemented", "the", "PRF", "using", "the", "Helix", "stream", "cipher", "-LSB-", "9", "-RSB-", ".", "Unlike", "RC5", ",", "this", "cipher", "is", "not", "patented", ".", "It", "also", "features", "an", "efficient", "MAC", "construction", "which", "we", "use", "in", "our", "implementation", "of", "TESLA", ".", "The", "PRF", "is", "computed", "by", "using", "the", "input", "to", "the", "PRF", "as", "the", "key", "in", "encryption", "mode", ",", "and", "using", "the", "keystream", "as", "the", "output", "of", "the", "PRF", ".", "In", "this", "implementation", ",", "it", "takes", "about", "8", "ms", "to", "compute", "an", "8-byte", "PRF", ".", "Since", "the", "signature", "generation", "requires", "comparable", "amount", "of", "computation", "as", "verification", ",", "generation", "of", "a", "64-bit", "signature", "takes", "about", "1.2", "seconds", "and", "verification", "takes", "about", "1", "second", "in", "our", "un-optimized", "implementation", ".", "However", ",", "in", "this", "scheme", ",", "the", "public", "keys", "are", "generated", "in", "advance", ",", "so", "the", "sender", "must", "compute", "twice", "as", "many", "hashes", "because", "it", "must", "recompute", "the", "hashes", "when", "he", "wishes", "to", "actually", "compute", "a", "signature", "instead", "of", "simply", "generating", "the", "public", "key", ".", "This", "still", "makes", "it", "feasible", "for", "a", "sensor-node", "to", "act", "as", "the", "base", "station", "in", "our", "implementation", ",", "but", "generating", "a", "large", "amount", "of", "public", "keys", "becomes", "costly", ".", "The", "implementation", "is", "about", "4k", "in", "size", ",", "2k", "for", "the", "Helix", "assembly", "code", ",", "and", "2k", "for", "the", "Merkle-Winternitz", "code", "-LRB-", "with", "code", "for", "both", "generation", "and", "validation", "-RRB-", ".", "The", "TESLA", "protocol", "is", "a", "viable", "mechanism", "for", "broadcast", "authentication", "in", "sensor", "networks", "-LSB-", "31", "-RSB-", ".", "Unfortunately", ",", "this", "approach", "introduces", "an", "authentication", "delay", "and", "thus", "does", "not", "provide", "immediate", "authentication", "of", "messages", "which", "is", "necessary", "in", "applications", "154", "2", "2", "2", "3", "2", "4", "2", "5", "2", "6", "2", "7", "Power-cons", "-LRB-", "A", "-RRB-", "1126.7", "823.1", "707.2", "717.5", "858.3", "1163.2", "Auth-time", "-LRB-", "ms", "-RRB-", "332.5", "442.5", "680.0", "1042.5", "1762.5", "2960.0", "Overhead", "-LRB-", "bytes", "-RRB-", "272", "184", "136", "112", "96", "88", "Table", "2", ":", "Efficiency", "for", "signing", "a", "60", "bit", "value", "using", "Merkle-Winternitz", "one-time", "signature", ".", "with", "real-time", "requirements", ".", "Moreover", ",", "the", "TESLA", "approach", "has", "some", "denial-of-service", "vulnerabilities", ",", "which", "we", "address", "in", "this", "paper", ".", "Liu", "and", "Ning", "subsequently", "improved", "the", "efficiency", "of", "bootstrapping", "new", "clients", ",", "using", "multiple", "levels", "of", "one-way", "key", "chains", "-LSB-", "20", "-RSB-", ".", "This", "work", "also", "discussed", "the", "DoS", "attack", "explained", "in", "Section", "3.2", ".", "Liu", "et", "al.", "also", "outlines", "a", "potential", "approach", "to", "authenticate", "commitment", "messages", "with", "Merkle", "hash", "trees", "-LSB-", "19", "-RSB-", ".", "Several", "researchers", "have", "investigated", "the", "use", "of", "asymmetric", "cryptographic", "techniques", "in", "sensor", "networks", ".", "Unfortunately", ",", "the", "overhead", "is", "too", "high", "to", "warrant", "use", "of", "such", "techniques", "for", "per-packet", "broadcast", "authentication", ".", "Such", "schemes", "were", "discussed", "in", "Section", "2", "in", "the", "context", "of", "protocols", "with", "high", "computation", "overhead", ".", "We", "have", "studied", "viable", "and", "efficient", "solutions", "for", "efficient", "broadcast", "authentication", "in", "sensor", "networks", ".", "This", "problem", "is", "challenging", "due", "to", "the", "highly", "constrained", "nature", "of", "the", "devices", "and", "the", "unpredictable", "nature", "of", "communication", "in", "many", "environments", ".", "Since", "the", "authentication", "of", "broadcast", "messages", "is", "one", "of", "the", "most", "important", "security", "properties", "in", "sensor", "networks", ",", "we", "need", "to", "study", "viable", "approaches", "for", "a", "variety", "of", "settings", ".", "We", "establish", "a", "set", "of", "properties", "of", "broadcast", "authentication", ":", "security", "against", "compromised", "nodes", ",", "low", "computation", "and", "communication", "cost", ",", "immediate", "authentication", "-LRB-", "with", "no", "receiver", "delay", "-RRB-", ",", "authentication", "of", "unpredictable", "messages", "with", "high", "entropy", ",", "and", "robustness", "to", "packet", "loss", ".", "We", "present", "a", "viable", "protocol", "for", "each", "case", "where", "we", "relax", "one", "property", ",", "and", "pose", "the", "open", "challenge", "to", "find", "a", "protocol", "that", "satisfies", "all", "properties", "-LSB-", "1", "-RSB-", "D.", "Boneh", ",", "G.", "Durfee", ",", "and", "M.", "Franklin", ".", "Lower", "bounds", "for", "multicast", "message", "authentication", ".", "In", "Advances", "in", "Cryptology", "--", "EUROCRYPT", "'", "01", ",", "pages", "434", "450", ",", "2001", ".", "-LSB-", "2", "-RSB-", "M.", "Brown", ",", "D.", "Cheung", ",", "D.", "Hankerson", ",", "J.", "Lopez", "Hernandez", ",", "M.", "Kirkup", ",", "and", "A.", "Menezes", ".", "PGP", "in", "constrained", "wireless", "devices", ".", "In", "Proceedings", "of", "USENIX", "Security", "Symposium", ",", "August", "2000", ".", "-LSB-", "3", "-RSB-", "R.", "Canetti", ",", "J.", "Garay", ",", "G.", "Itkis", ",", "D.", "Micciancio", ",", "M.", "Naor", ",", "and", "B.", "Pinkas", ".", "Multicast", "security", ":", "A", "taxonomy", "and", "some", "efficient", "constructions", ".", "In", "INFOCOMM", "'", "99", ",", "pages", "708", "716", ",", "March", "1999", ".", "-LSB-", "4", "-RSB-", "J.", "Deng", ",", "R.", "Han", ",", "and", "S.", "Mishra", ".", "A", "performance", "evaluation", "of", "intrusion-tolerant", "routing", "in", "wireless", "sensor", "networks", ".", "In", "Proceedings", "of", "IEEE", "Workshop", "on", "Information", "Processing", "in", "Sensor", "Networks", "-LRB-", "IPSN", "-RRB-", ",", "April", "2003", ".", "-LSB-", "5", "-RSB-", "J.", "Deng", ",", "C.", "Hartung", ",", "R.", "Han", ",", "and", "S.", "Mishra", ".", "A", "practical", "study", "of", "transitory", "master", "key", "establishment", "for", "wireless", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "First", "IEEE/CreateNet", "Conference", "on", "Security", "and", "Privacy", "for", "Emerging", "Areas", "in", "Communication", "Networks", "-LRB-", "SecureComm", "-RRB-", ",", "2005", ".", "-LSB-", "6", "-RSB-", "Jeremy", "Elson", ",", "Lewis", "Girod", ",", "and", "Deborah", "Estrin", ".", "Fine-grained", "network", "time", "synchronization", "using", "reference", "broadcasts", ".", "In", "Proceedings", "of", "Symposium", "on", "Operating", "Systems", "Design", "and", "Implementation", "-LRB-", "OSDI", "-RRB-", ",", "December", "2002", ".", "-LSB-", "7", "-RSB-", "Jeremy", "Elson", "and", "Kay", "R", "omer", ".", "Wireless", "sensor", "networks", ":", "A", "new", "regime", "for", "time", "synchronization", ".", "In", "Proceedings", "of", "Workshop", "on", "Hot", "Topics", "In", "Networks", "-LRB-", "HotNets-I", "-RRB-", ",", "October", "2002", ".", "-LSB-", "8", "-RSB-", "S.", "Even", ",", "O.", "Goldreich", ",", "and", "S.", "Micali", ".", "On-line/off-line", "digital", "signatures", ".", "In", "Advances", "in", "Cryptology", "--", "CRYPTO", "'", "89", ",", "volume", "435", ",", "pages", "263", "277", ",", "1990", ".", "-LSB-", "9", "-RSB-", "Niels", "Ferguson", ",", "Doug", "Whiting", ",", "Bruce", "Schneier", ",", "John", "Kelsey", ",", "Stefan", "Lucks", ",", "and", "Tadayoshi", "Kohno", ".", "Helix", ":", "Fast", "encryption", "and", "authentication", "in", "a", "single", "cryptographic", "primitive", ".", "In", "Proceedings", "of", "the", "International", "Workshop", "on", "Fast", "Software", "Encryption", "-LRB-", "FSE", "2003", "-RRB-", ",", "2003", ".", "-LSB-", "10", "-RSB-", "V.", "Gupta", ",", "M.", "Millard", ",", "S.", "Fung", ",", "Y.", "Zhu", ",", "N.", "Gura", ",", "H.", "Eberle", ",", "and", "S.", "C.", "Shantz", ".", "Sizzle", ":", "A", "standards-based", "end-to-end", "security", "architecture", "for", "the", "embedded", "internet", ".", "In", "Proceedings", "of", "the", "Third", "IEEE", "International", "Conference", "on", "Pervasive", "Computing", "and", "Communication", "-LRB-", "PerCom", "-RRB-", ",", "2005", ".", "-LSB-", "11", "-RSB-", "Jason", "Hill", ",", "Robert", "Szewczyk", ",", "Alec", "Woo", ",", "Seth", "Hollar", ",", "David", "E.", "Culler", ",", "and", "Kristofer", "S.", "J.", "Pister", ".", "System", "architecture", "directions", "for", "networked", "sensors", ".", "In", "Proceedings", "of", "Architectural", "Support", "for", "Programming", "Languages", "and", "Operating", "Systems", "-LRB-", "ASPLOS", "IX", "-RRB-", ",", "pages", "93", "104", ",", "2000", ".", "-LSB-", "12", "-RSB-", "Lingxuan", "Hu", "and", "David", "Evans", ".", "Secure", "aggregation", "for", "wireless", "networks", ".", "In", "Workshop", "on", "Security", "and", "Assurance", "in", "Ad", "hoc", "Networks", ",", "January", "2003", ".", "-LSB-", "13", "-RSB-", "Yih-Chun", "Hu", ",", "Adrian", "Perrig", ",", "and", "David", "B.", "Johnson", ".", "Packet", "leashes", ":", "A", "defense", "against", "wormhole", "attacks", "in", "wireless", "networks", ".", "In", "Proceedings", "of", "IEEE", "INFOCOM", ",", "April", "2003", ".", "-LSB-", "14", "-RSB-", "J.", "M.", "Kahn", ",", "R.", "H.", "Katz", ",", "and", "K.", "S.", "Pister", ".", "Mobile", "networking", "for", "smart", "dust", ".", "In", "Proceedings", "of", "ACM/IEEE", "Conference", "on", "Mobile", "Computing", "and", "Networking", "-LRB-", "MobiCom", "-RRB-", ",", "August", "1999", ".", "-LSB-", "15", "-RSB-", "C.", "Karlof", ",", "N.", "Sastry", ",", "and", "D.", "Wagner", ".", "TinySec", ":", "A", "link", "layer", "security", "architecture", "for", "wireless", "sensor", "networks", ".", "In", "ACM", "SenSys", ",", "November", "2004", ".", "-LSB-", "16", "-RSB-", "Chris", "Karlof", ",", "Naveen", "Sastry", ",", "Yaping", "Li", ",", "Adrian", "Perrig", ",", "and", "J.", "D.", "Tygar", ".", "Distillation", "codes", "and", "applications", "to", "dos", "resistant", "multicast", "authentication", ".", "In", "Proceedings", "of", "the", "Symposium", "on", "Network", "and", "Distributed", "Systems", "Security", "-LRB-", "NDSS", "-RRB-", ",", "November", "2004", ".", "-LSB-", "17", "-RSB-", "Chris", "Karlof", "and", "David", "Wagner", ".", "Secure", "routing", "in", "wireless", "sensor", "networks", ":", "Attacks", "and", "countermeasures", ".", "In", "Proceedings", "of", "First", "IEEE", "International", "Workshop", "on", "Sensor", "Network", "Protocols", "and", "Applications", ",", "May", "2003", ".", "-LSB-", "18", "-RSB-", "A.", "Lenstra", "and", "E.", "Verheul", ".", "Selecting", "cryptographic", "key", "sizes", ".", "Journal", "of", "Cryptology", ",", "14", "-LRB-", "4", "-RRB-", ":", "255", "293", ",", "2001", ".", "-LSB-", "19", "-RSB-", "D.", "Liu", ",", "P.", "Ning", ",", "S.", "Zhu", ",", "and", "S.", "Jajodia", ".", "Practical", "broadcast", "authentication", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "The", "2nd", "Annual", "International", "Conference", "on", "Mobile", "and", "Ubiquitous", "Systems", ":", "Networking", "and", "Services", ",", "November", "2005", ".", "-LSB-", "20", "-RSB-", "Donggang", "Liu", "and", "Peng", "Ning", ".", "Efficient", "distribution", "of", "key", "chain", "commitments", "for", "broadcast", "authentication", "in", "155", "distributed", "sensor", "networks", ".", "In", "Proceedings", "of", "Network", "and", "Distributed", "System", "Security", "Symposium", "-LRB-", "NDSS", "-RRB-", ",", "pages", "263", "276", ",", "February", "2003", ".", "-LSB-", "21", "-RSB-", "David", "Malan", ",", "Matt", "Welsh", ",", "and", "Michael", "Smith", ".", "A", "public-key", "infrastructure", "for", "key", "distribution", "in", "TinyOS", "based", "on", "elliptic", "curve", "cryptography", ".", "In", "Proceedings", "of", "IEEE", "International", "Conference", "on", "Sensor", "and", "Ad", "hoc", "Communications", "and", "Networks", "-LRB-", "SECON", "-RRB-", ",", "October", "2004", ".", "-LSB-", "22", "-RSB-", "S.", "Matyas", ",", "C.", "Meyer", ",", "and", "J.", "Oseas", ".", "Generating", "strong", "one-way", "functions", "with", "cryptographic", "algorithm", ".", "IBM", "Technical", "Disclosure", "Bulletin", ",", "27:5658", "5659", ",", "1985", ".", "-LSB-", "23", "-RSB-", "A.", "Menezes", ",", "P.", "van", "Oorschot", ",", "and", "S.", "Vanstone", ".", "Handbook", "of", "Applied", "Cryptography", ".", "CRC", "Press", ",", "1997", ".", "-LSB-", "24", "-RSB-", "R.", "Merkle", ".", "Protocols", "for", "public", "key", "cryptosystems", ".", "In", "Proceedings", "of", "the", "IEEE", "Symposium", "on", "Research", "in", "Security", "and", "Privacy", ",", "pages", "122", "134", ",", "April", "1980", ".", "-LSB-", "25", "-RSB-", "R.", "Merkle", ".", "A", "digital", "signature", "based", "on", "a", "conventional", "encryption", "function", ".", "In", "Advances", "in", "Cryptology", "--", "CRYPTO", "'", "87", ",", "pages", "369", "378", ",", "1988", ".", "-LSB-", "26", "-RSB-", "R.", "Merkle", ".", "A", "certified", "digital", "signature", ".", "In", "Advances", "in", "Cryptology", "--", "CRYPTO", "'", "89", ",", "pages", "218", "238", ",", "1990", ".", "-LSB-", "27", "-RSB-", "National", "Institute", "of", "Standards", "and", "Technology", "-LRB-", "NIST", "-RRB-", ",", "Computer", "Systems", "Laboratory", ".", "Secure", "Hash", "Standard", ".", "Federal", "Information", "Processing", "Standards", "Publication", "-LRB-", "FIPS", "PUB", "-RRB-", "180-2", ",", "February", "2004", ".", "-LSB-", "28", "-RSB-", "A.", "Perrig", ".", "The", "BiBa", "one-time", "signature", "and", "broadcast", "authentication", "protocol", ".", "In", "Proceedings", "of", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", "-LRB-", "CCS", "-RRB-", ",", "pages", "28", "37", ",", "November", "2001", ".", "-LSB-", "29", "-RSB-", "A.", "Perrig", ",", "R.", "Canetti", ",", "J.", "D.", "Tygar", ",", "and", "D.", "Song", ".", "Efficient", "authentication", "and", "signature", "of", "multicast", "streams", "over", "lossy", "channels", ".", "In", "Proceedings", "of", "the", "IEEE", "Symposium", "on", "Research", "in", "Security", "and", "Privacy", ",", "pages", "56", "73", ",", "May", "2000", ".", "-LSB-", "30", "-RSB-", "A.", "Perrig", ",", "R.", "Canetti", ",", "J.", "D.", "Tygar", ",", "and", "D.", "Song", ".", "The", "TESLA", "broadcast", "authentication", "protocol", ".", "RSA", "CryptoBytes", ",", "5", "-LRB-", "Summer", "-RRB-", ",", "2002", ".", "-LSB-", "31", "-RSB-", "Adrian", "Perrig", ",", "Robert", "Szewczyk", ",", "Victor", "Wen", ",", "David", "Culler", ",", "and", "J.", "D.", "Tygar", ".", "SPINS", ":", "Security", "protocols", "for", "sensor", "networks", ".", "In", "Proceedings", "of", "ACM", "Conference", "on", "Mobile", "Computing", "and", "Networks", "-LRB-", "MobiCom", "-RRB-", ",", "pages", "189", "199", ",", "2001", ".", "-LSB-", "32", "-RSB-", "Bartosz", "Przydatek", ",", "Dawn", "Song", ",", "and", "Adrian", "Perrig", ".", "SIA", ":", "Secure", "information", "aggregation", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "First", "ACM", "International", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", "-LRB-", "SenSys", "2003", "-RRB-", ",", "pages", "255", "265", ",", "November", "2003", ".", "-LSB-", "33", "-RSB-", "Leonid", "Reyzin", "and", "Natan", "Reyzin", ".", "Better", "than", "BiBa", ":", "Short", "one-time", "signatures", "with", "fast", "signing", "and", "verifying", ".", "In", "Proceedings", "of", "Conference", "on", "Information", "Security", "and", "Privacy", "-LRB-", "ACISP", "-RRB-", ",", "July", "2002", ".", "-LSB-", "34", "-RSB-", "R.", "Rivest", ",", "A.", "Shamir", ",", "and", "L.", "Adleman", ".", "A", "method", "for", "obtaining", "digital", "signatures", "and", "public-key", "cryptosystems", ".", "Communications", "of", "the", "ACM", ",", "21", "-LRB-", "2", "-RRB-", ":", "120", "126", ",", "February", "1978", ".", "-LSB-", "35", "-RSB-", "P.", "Rohatgi", ".", "A", "compact", "and", "fast", "hybrid", "signature", "scheme", "for", "multicast", "packet", ".", "In", "Proceedings", "of", "the", "6th", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", ",", "pages", "93", "100", ".", "ACM", "Press", ",", "November", "1999", ".", "-LSB-", "36", "-RSB-", "F.", "Ye", ",", "H.", "Luo", ",", "S.", "Lu", ",", "and", "L.", "Zhang", ".", "Statistical", "en-route", "filtering", "of", "injected", "false", "data", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "IEEE", "INFOCOM", ",", "March", "2004", ".", "-LSB-", "37", "-RSB-", "S.", "Zhu", ",", "S.", "Setia", ",", "S.", "Jajodia", ",", "and", "P.", "Ning", ".", "An", "interleaved", "hop-by-hop", "authentication", "scheme", "for", "filtering", "false", "data", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "pages", "259", "271", ",", "May", "2004", ".", "156"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["taxonomy", "broadcast authentication", "sensor network"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "147", "document": ["Performance", "Enhancing", "Proxy", "for", "Interactive", "3G", "Network", "Gaming", "Unlike", "non-time-critical", "applications", "like", "email", "and", "file", "transfer", ",", "network", "games", "demand", "timely", "data", "delivery", "to", "maintain", "the", "seemingly", "interactive", "presence", "of", "players", "in", "the", "virtual", "game", "world", ".", "Yet", "the", "inherently", "large", "transmission", "delay", "mean", "and", "variance", "of", "3G", "cellular", "links", "make", "on-time", "game", "data", "delivery", "difficult", ".", "Further", "complicating", "the", "timely", "game", "data", "delivery", "problem", "is", "the", "frequent", "packet", "drops", "at", "these", "links", "due", "to", "inter-symbol", "interference", ",", "fading", "and", "shadowing", "at", "the", "physical", "layer", ".", "In", "this", "paper", ",", "we", "propose", "a", "proxy", "architecture", "that", "enhances", "the", "timeliness", "and", "reliability", "of", "data", "delivery", "of", "interactive", "games", "over", "3G", "wireless", "networks", ".", "In", "particular", ",", "a", "performance", "enhancing", "proxy", "is", "designed", "to", "optimize", "a", "new", "time-critical", "data", "type", "--", "variable-deadline", "data", ",", "where", "the", "utility", "of", "a", "datum", "is", "inversely", "proportional", "to", "the", "time", "required", "to", "deliver", "it", ".", "We", "show", "how", "a", "carefully", "designed", "and", "configured", "proxy", "can", "noticeably", "improve", "the", "delivery", "of", "network", "game", "data", ".", "C.", "2", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "Network", "Architecture", "and", "Design", "--", "Wireless", "communication", "Algorithms", ",", "Performance", ",", "Design", "While", "network", "gaming", "has", "long", "been", "projected", "to", "be", "an", "application", "of", "massive", "economic", "growth", ",", "as", "seen", "in", "the", "recent", "explosive", "development", "on", "the", "wired", "Internet", "in", "South", "Korea", "and", "Japan", ",", "deployment", "of", "similar", "network", "games", "on", "3G", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "IWCMC", "'06", "July", "3", "6", ",", "2006", ",", "Vancouver", ",", "British", "Columbia", ",", "Canada", ".", "Copyright", "2006", "ACM", "1-59593-306-9", "/", "06/0007", "...", "$", "5.00", ".", "Radio", "Access", "Network", "BS", "IMS", "UE", "WING", "Game", "Server", "Network", "IP", "3G", "Wireless", "Network", "PSTN/ISDN", "/", "CSPDN", "Core", "Packet", "Network", "Figure", "1", ":", "WING", "in", "3G", "Wireless", "Network", "wireless", "networks", "continues", "to", "be", "slow", "and", "difficult", ".", "One", "reason", "is", "that", "unlike", "their", "wired", "counterparts", ",", "wireless", "links", "are", "notoriously", "prone", "to", "errors", "due", "to", "channel", "fading", ",", "shadowing", "and", "inter-symbol", "interference", ".", "While", "3G", "wireless", "networks", ",", "such", "as", "High", "Speed", "Downlink", "Packet", "Access", "-LRB-", "HSDPA", "-RRB-", "of", "3rd", "Generation", "Partnership", "Project", "-LRB-", "3GPP", "-RRB-", "Release", "5", "-LRB-", "R5", "-RRB-", "-LSB-", "1", "-RSB-", "and", "CDMA", "1x", "EvDO", "of", "3GPP2", "-LSB-", "5", "-RSB-", ",", "combat", "wireless", "link", "failures", "at", "the", "MAC", "and", "physical", "layer", "with", "an", "elaborate", "system", "of", "channel", "coding", ",", "retransmission", ",", "modulation", "and", "spreading", ",", "with", "resulting", "packet", "loss", "rate", "being", "reduced", "to", "negligible", "1", "to", "2", "%", ",", "the", "detrimental", "side-effect", "to", "network", "gaming", "is", "the", "large", "and", "often", "unpredictable", "transmission", "delay", "mean", "and", "variance", "-LSB-", "15", "-RSB-", ".", "Such", "large", "and", "variable", "delays", "greatly", "reduce", "the", "necessary", "interactivity", "of", "network", "game", "players", "and", "deteriorate", "the", "overall", "gaming", "experience", ".", "In", "a", "separate", "development", ",", "a", "new", "3G", "network", "element", "called", "IP", "Multimedia", "Subsystem", "-LRB-", "IMS", "-RRB-", "-LSB-", "3", "-RSB-", "has", "been", "intro-duced", "in", "3GPP", "specifications", "R5", "and", "later", ",", "as", "shown", "in", "Figure", "1", ".", "The", "Session", "Initiation", "Protocol", "-LRB-", "SIP", "-RRB-", "-", "based", "IMS", "provides", "a", "multitude", "of", "multimedia", "services", ":", "from", "establishing", "connections", "from", "the", "legacy", "telephone", "networks", "to", "the", "new", "IP", "core", "network", "using", "Voice", "over", "IP", "-LRB-", "VoIP", "-RRB-", ",", "to", "delivering", "streaming", "services", "such", "as", "video", "as", "a", "value-added", "service", "to", "mobile", "users", "-LRB-", "UE", "-RRB-", ".", "Strategically", "located", "as", "a", "pseudo-gateway", "to", "the", "private", "and", "heavily", "provisioned", "3G", "networks", ",", "it", "is", "foreseeable", "that", "IMS", "will", "continue", "to", "enlarge", "and", "enrich", "its", "set", "of", "multimedia", "services", "in", "future", "wireless", "networks", ".", "In", "this", "paper", ",", "we", "propose", "a", "performance", "enhancing", "proxy", "-LRB-", "PEP", "-RRB-", "called", "-LRB-", "W", "-RRB-", "ireless", "-LRB-", "I", "-RRB-", "nteractive", "-LRB-", "N", "-RRB-", "etwork", "-LRB-", "G", "-RRB-", "aming", "Proxy", "-LRB-", "WING", "-RRB-", "to", "improve", "the", "timely", "delivery", "of", "network", "game", "data", "in", "3G", "wireless", "networks", ".", "WING", "is", "located", "inside", "IMS", "as", "an", "application", "service", "on", "top", "of", "the", "myriad", "of", "207", "services", "that", "IMS", "already", "provides", ".", "In", "a", "nutshell", ",", "WING", "improves", "the", "delivery", "of", "game", "data", "from", "the", "game", "server", "to", "3G", "wireless", "game", "players", "1", "using", "the", "following", "three", "techniques", ".", "First", ",", "by", "virtue", "of", "locating", "at", "the", "intersection", "of", "the", "private", "wireless", "network", "and", "the", "open", "Internet", ",", "connection", "from", "the", "game", "server", "to", "the", "wireless", "game", "player", "can", "be", "strategi-cally", "split", ";", "for", "the", "server-WING", "connection", ",", "only", "the", "statis-tically", "stable", "and", "fast", "round-trip", "time", "-LRB-", "RTT", "-RRB-", "and", "low", "wired-network", "-", "only", "packet", "loss", "rate", "-LRB-", "PLR", "-RRB-", "are", "used", "for", "congestion", "control", ",", "resulting", "in", "a", "steady", "yet", "TCP-friendly", "server-WING", "connection", ".", "Second", ",", "by", "configuring", "parameters", "in", "the", "radio", "link", "layer", "-LRB-", "RLC", "-RRB-", "specifically", "for", "gaming", "during", "session", "setup", ",", "excessive", "RLC", "retransmissions", "are", "avoided", ",", "and", "timeliness", "of", "game", "data", "is", "improved", "at", "the", "controlled", "expense", "of", "in-creased", "packet", "losses", ".", "Finally", ",", "by", "constructing", "small", "but", "error-resilient", "packets", "that", "contain", "location", "data", ",", "packets", "can", "be", "transmitted", "in", "fewer", "MAC-layer", "protocol", "data", "units", "-LRB-", "PDU", "-RRB-", "and", "hence", "further", "reduces", "delay", ".", "The", "paper", "is", "organized", "as", "follows", ".", "Related", "work", "is", "presented", "in", "Section", "2", ".", "We", "overview", "the", "3G", "wireless", "system", "in", "focus", ",", "HSDPA", "of", "3GPP", "R5", ",", "in", "Section", "3", ".", "Note", "that", "because", "similar", "link", "and", "MAC", "layer", "transport", "optimizations", "that", "chiefly", "affect", "delay", "mean", "and", "variance", "are", "also", "employed", "in", "other", "3G", "networks", ",", "our", "proposed", "WING", "can", "conceivably", "be", "applied", "to", "other", "wireless", "networks", "such", "as", "CDMA", "1x", "EvDO", "of", "3GPP2", ".", "We", "discuss", "the", "design", "of", "WING", "in", "details", "in", "Section", "4", ".", "Finally", ",", "experimental", "results", "and", "conclusion", "are", "provided", "in", "Section", "5", "and", "6", ",", "respectively", ".", "We", "divide", "the", "discussion", "on", "the", "large", "volume", "of", "related", "work", "into", "two", "section", ".", "Section", "2.1", "discusses", "related", "research", "on", "wireless", "transport", "optimization", ".", "Section", "2.2", "discusses", "related", "research", "in", "transport", "of", "network", "game", "data", ".", "2.1", "Wireless", "Transport", "Optimization", "We", "note", "that", "proxy-based", "transport", "optimization", "for", "last-hop", "wireless", "networks", "has", "a", "long", "history", ",", "with", "the", "majority", "of", "the", "research", "-LSB-", "4", ",", "15", "-RSB-", "focusing", "on", "optimization", "of", "TCP", "over", "last-hop", "wireless", "networks", ".", "In", "particular", ",", "-LSB-", "15", "-RSB-", "showed", "that", "while", "3G", "network", "packet", "losses", "can", "indeed", "be", "successfully", "overcome", "by", "using", "ample", "link", "layer", "retransmissions", ",", "the", "resulting", "large", "RTT", "mean", "and", "variance", "may", "severely", "affect", "the", "performance", "of", "a", "TCP-like", "congestion", "avoidance", "rate", "control", "that", "is", "based", "on", "end-to-end", "observable", "statistics", "of", "RTT", "and", "PLR", ".", "The", "limiting", "rate", "constraint", "and", "undesirable", "fluctuations", "can", "be", "alleviated", "using", "a", "proxy", "with", "split-connection", "--", "a", "theme", "we", "develop", "in", "Section", "4.2", ".", "Recently", ",", "efforts", "on", "proxy", "design", "have", "shifted", "to", "delay-sensitive", "multimedia", "transport", "-LSB-", "18", ",", "13", ",", "8", ",", "9", "-RSB-", ",", "though", "all", "of", "them", "focused", "exclusively", "on", "streaming", "media", ",", "while", "we", "focus", "on", "network", "gaming", ".", "Note", "that", "due", "to", "cited", "complexity", "reason", ",", "a", "competing", "end-to-end", "approach", "for", "rate", "control", "that", "does", "not", "rely", "on", "an", "intermediate", "proxy", "is", "popular", "as", "well", "-LSB-", "17", ",", "6", "-RSB-", ".", "However", ",", "we", "chose", "the", "proxy-based", "approach", "and", "will", "juxtapose", "its", "advantages", "in", "Section", "4.2", ".", "1", "While", "peer-to-peer", "model", "for", "interactive", "network", "games", "is", "also", "possible", ",", "we", "assume", "the", "more", "common", "server-client", "model", "where", "the", "game", "server", "maintains", "and", "disseminates", "all", "game", "states", "in", "this", "paper", ".", "2.2", "Transport", "of", "Network", "Game", "Data", "In", "-LSB-", "3", "-RSB-", ",", "a", "general", "gaming", "platform", "for", "IMS", "that", "provides", "network", "services", "needed", "for", "network", "gaming", "such", "as", "session", "setup", "and", "registration", "is", "proposed", "to", "ease", "deployment", "over", "3G", "networks", ".", "Our", "work", "is", "orthogonal", "to", "-LSB-", "3", "-RSB-", "since", "we", "focus", "only", "on", "the", "efficient", "transport", "of", "game", "data", ".", "An", "early", "work", "on", "gaming", "protocol", "is", "-LSB-", "10", "-RSB-", ",", "which", "defined", "a", "Game", "Transport", "Protocol", "-LRB-", "GTP", "-RRB-", "for", "massive", "multi-player", "on-line", "games", "-LRB-", "MMPOGs", "-RRB-", "over", "the", "Internet", ".", "Our", "proposed", "gaming", "proxy", "WING", "differs", "in", "the", "following", "respects", ":", "i", "-RRB-", "we", "design", "WING", "specifically", "for", "lossy", ",", "bandwidth-limited", "networks", ",", "hence", "focusing", "on", "design", "of", "network-optimized", "differential", "coding", "to", "produce", "small", "but", "loss-resilient", "packets", ";", "and", ",", "ii", "-RRB-", "we", "tailor", "WING", "for", "HSDPA", "of", "3G", "wireless", "networks", ",", "optimizing", "performance", "by", "intelligently", "configuring", "parameters", "of", "the", "RLC", "layer", ".", "The", "most", "similar", "related", "work", "is", "-LSB-", "12", "-RSB-", ",", "which", "proposed", "an", "end-to-end", "adaptive", "FEC", "and", "dynamic", "packetization", "algorithm", "to", "combat", "packet", "losses", "due", "to", "wireless", "link", "failures", "and", "reduce", "packet", "sizes", ".", "Unlike", "-LSB-", "12", "-RSB-", ",", "our", "approach", "is", "proxy-based", ",", "and", "we", "tailor", "our", "gaming", "optimization", "exclusively", "for", "3G", "networks", ".", "HSDPA", "of", "UMTS", "Release", "5", ",", "also", "known", "as", "3.5", "G", ",", "improves", "upon", "Release", "4", "with", "numerous", "lower-layer", "optimizations", ".", "First", ",", "a", "shared", "channel", "is", "periodically", "scheduled", "to", "users", "in", "the", "cell", "with", "good", "observable", "network", "conditions", "to", "take", "advantage", "of", "user", "diversity", "during", "fading", "without", "sacrificing", "fairness", ".", "Second", ",", "an", "elaborate", "MAC-layer", "scheme", "chooses", "an", "appropriate", "combination", "of", "FEC", ",", "hybrid", "ARQ", ",", "modulation", "and", "spreading", "based", "on", "client", "observable", "network", "state", ".", "In", "this", "section", ",", "we", "instead", "focus", "on", "the", "RLC", "layer", ",", "where", "the", "user", "has", "limited", "control", "over", "behavior", "using", "configuration", "of", "parameters", "during", "session", "setup", ".", "The", "Radio", "Link", "control", "-LRB-", "RLC", "-RRB-", "layer", "-LSB-", "1", "-RSB-", "buffers", "upper", "layer", "service", "data", "units", "-LRB-", "SDU", "-RRB-", "on", "a", "per-session", "basis", "--", "IP", "packets", "in", "this", "case", ",", "and", "segments", "each", "SDU", "into", "smaller", "protocol", "data", "units", "-LRB-", "PDU", "-RRB-", "of", "size", "S", "P", "DU", "and", "await", "transmission", "at", "lower", "layers", ".", "There", "are", "three", "transmission", "modes", ":", "transparent", "mode", "-LRB-", "TM", "-RRB-", ",", "unacknowledged", "mode", "-LRB-", "UM", "-RRB-", "and", "acknowledged", "mode", "-LRB-", "AM", "-RRB-", ".", "Only", "AM", "performs", "link-layer", "retransmissions", "if", "transmission", "in", "the", "lower", "layer", "fails", ".", "For", "error", "resiliency", ",", "we", "focus", "only", "on", "AM", ".", "In", "particular", ",", "we", "look", "at", "how", "SDUs", "are", "discarded", "in", "the", "RLC", "layer", ":", "using", "a", "method", "of", "retransmission-based", "discard", "-LRB-", "RBD", "-RRB-", ",", "an", "SDU", "can", "be", "discarded", "before", "successful", "transmission", ".", "In", "a", "nutshell", ",", "an", "SDU", "is", "discarded", "if", "a", "predefined", "maximum", "number", "of", "retransmissions", "B", "has", "been", "reached", "before", "successful", "transmission", "of", "a", "PDU", "belonging", "to", "the", "SDU", ".", "We", "will", "investigate", "how", "the", "value", "B", "can", "be", "selected", "to", "trade", "off", "error", "resiliency", "with", "delay", "in", "Section", "4.3", ".", "Before", "we", "discuss", "the", "three", "optimizations", "of", "our", "proposed", "gaming", "proxy", "WING", "in", "details", "in", "Section", "4.2", ",", "4.3", "and", "4.4", ",", "we", "first", "define", "a", "new", "type", "of", "transport", "data", "called", "variable", "deadline", "data", "in", "Section", "4.1", "--", "a", "consequence", "of", "a", "prediction", "procedure", "used", "at", "a", "network", "game", "client", "to", "predict", "locations", "of", "other", "game", "players", "in", "the", "virtual", "game", "world", ".", "208", "0", "100", "200", "300", "400", "500", "1", "2", "3", "4", "5", "6", "delay", "in", "ms", "distortion", "distortion", "vs.", "delay", "for", "dead-reckoning", "random", "walk", "weighted", "random", "walk", "0", "100", "200", "300", "400", "500", "0.2", "0.4", "0.6", "0.8", "1", "delay", "in", "ms", "utility", "utility", "vs.", "delay", "for", "dead-reckoning", "random", "walk", "weighted", "random", "walk", "a", "-RRB-", "distortion", "vs.", "delay", "b", "-RRB-", "utility", "vs.", "delay", "Figure", "2", ":", "Examples", "of", "Dead-Reckoning", "4.1", "Variable", "Deadline", "Data", "Delivery", "Unlike", "media", "streaming", "applications", "where", "a", "data", "unit", "containing", "media", "data", "is", "fully", "consumed", "if", "it", "is", "correctly", "delivered", "by", "a", "playback", "deadline", "and", "useless", "otherwise", "-LSB-", "9", "-RSB-", ",", "the", "usefulness", "-LRB-", "utility", "-RRB-", "of", "a", "game", "datum", "is", "inversely", "proportional", "to", "the", "time", "it", "requires", "to", "deliver", "it", ".", "This", "relationship", "between", "utility", "and", "transmission", "delay", "is", "the", "behavioral", "result", "of", "a", "commonly", "used", "game", "view", "reconstruction", "procedure", "at", "a", "game", "client", "called", "dead-reckoning", "-LSB-", "2", "-RSB-", ".", "It", "works", "as", "follows", ".", "To", "maintain", "time-synchronized", "virtual", "world", "views", "among", "game", "players", "at", "time", "t", "0", ",", "a", "player", "P", "A", "predicts", "the", "location", "t", "0", "of", "another", "player", "P", "B", "and", "draws", "it", "in", "P", "A", "'s", "virtual", "world", "at", "time", "t", "0", ",", "extrapolating", "from", "previously", "received", "location", "updates", "of", "P", "B", "in", "the", "past", ",", ",", "<", "t", "0", ".", "When", "location", "update", "t", "0", "arrives", "at", "P", "A", "from", "P", "B", "at", "a", "later", "time", "t", "1", ",", "P", "A", "updates", "its", "record", "of", "P", "B", "'s", "locations", "with", "-LRB-", "t", "0", ",", "t", "0", "-RRB-", ",", "in", "order", "to", "make", "an", "accurate", "prediction", "of", "-LRB-", "t", "1", ",", "t", "1", "-RRB-", "for", "display", "in", "P", "A", "'s", "virtual", "world", "at", "time", "t", "1", ".", "Regardless", "of", "what", "prediction", "method", "is", "used", "at", "the", "client", ",", "it", "is", "clear", "that", "a", "smaller", "transmission", "delay", "will", "in", "general", "induce", "a", "smaller", "prediction", "error", ".", "We", "term", "this", "type", "of", "data", "with", "inversely", "proportional", "relationship", "between", "quantifiable", "utility", "and", "delay", "variable", "deadline", "data", ".", "We", "next", "show", "examples", "of", "how", "such", "utility-delay", "curve", "u", "-LRB-", "d", "-RRB-", "can", "be", "derived", "in", "practice", "given", "a", "player", "movement", "model", "and", "a", "prediction", "method", ".", "4.1.1", "Examples", "of", "Dead-Reckoning", "We", "first", "consider", "two", "simple", "movement", "models", "that", "model", "a", "game", "player", "in", "two-dimensional", "space", "-LRB-", "x", ",", "y", "-RRB-", ".", "The", "first", "is", "random", "walk", ",", "where", "for", "each", "time", "increment", "t", ",", "probability", "mass", "function", "-LRB-", "pmf", "-RRB-", "of", "random", "variable", "of", "x-coordinate", "x", "t", ",", "p", "-LRB-", "x", "t", "-RRB-", ",", "is", "defined", "as", "follows", ":", "p", "-LRB-", "x", "t", "+1", "=", "x", "t", "+", "1", "-RRB-", "=", "1/3", "p", "-LRB-", "x", "t", "+1", "=", "x", "t", "-RRB-", "=", "1/3", "p", "-LRB-", "x", "t", "+1", "=", "x", "t", "-", "1", "-RRB-", "=", "1/3", "-LRB-", "1", "-RRB-", "Random", "variable", "of", "y-coordinate", "y", "t", "is", "calculated", "similarly", "and", "is", "independent", "of", "x", "t", ".", "The", "second", "movement", "model", "is", "weighted", "random", "walk", ",", "whose", "pmf", "is", "defined", "as", "follows", ":", "p", "-LRB-", "x", "t", "+1", "=", "x", "t", "+", "-LRB-", "-LRB-", "x", "t", "-", "x", "t-1", "+", "1", "-RRB-", "mod", "2", "-RRB-", "-RRB-", "=", "1/6", "p", "-LRB-", "x", "t", "+1", "=", "x", "t", "+", "-LRB-", "x", "t", "-", "x", "t-1", "-RRB-", "-RRB-", "=", "2/3", "p", "-LRB-", "x", "t", "+1", "=", "x", "t", "+", "-LRB-", "-LRB-", "x", "t", "-", "x", "t-1", "-", "1", "-RRB-", "mod", "2", "-RRB-", "-RRB-", "=", "1/6", "-LRB-", "2", "-RRB-", "In", "words", ",", "the", "player", "continues", "the", "same", "movement", "as", "done", "in", "the", "previous", "instant", "with", "probability", "2/3", ",", "and", "changes", "to", "one", "of", "two", "other", "movements", "each", "with", "probability", "1/6", ".", "Random", "variable", "y-coordinate", "y", "t", "is", "calculated", "similarly", ".", "We", "defined", "a", "simple", "prediction", "method", "called", "0th-order", "prediction", "as", "follows", ":", "each", "unknown", "x", "t", "is", "simply", "set", "to", "the", "most", "recently", "updated", "x", ".", "Using", "each", "of", "the", "two", "movement", "models", "in", "combination", "with", "the", "prediction", "method", ",", "we", "constructed", "distortion-delay", "curves", "experimentally", "as", "shown", "in", "Figure", "2a", ".", "As", "seen", ",", "0th-order", "prediction", "is", "a", "better", "match", "to", "random", "walk", "than", "weighted", "random", "walk", ",", "inducing", "a", "smaller", "distortion", "for", "all", "delay", "values", ".", "Utility", "u", "-LRB-", "d", "-RRB-", "--", "shown", "in", "Figure", "2b", "is", "simply", "the", "reciprocal", "of", "distortion", ".", "Having", "derived", "u", "-LRB-", "d", "-RRB-", "gives", "us", "a", "quantifiable", "metric", "on", "which", "we", "can", "objectively", "evaluate", "game", "data", "transport", "systems", ".", "4.2", "Proxy-based", "Congestion", "Control", "We", "argue", "that", "by", "locating", "WING", "between", "the", "open", "wired", "Internet", "and", "the", "provisioned", "wireless", "networks", "to", "conduct", "split-connection", "data", "transfer", ",", "stable", "TCP-friendly", "congestion", "control", "can", "be", "maintained", "on", "top", "of", "UDP", "in", "the", "wired", "server-WING", "connection", ".", "Traditional", "congestion", "control", "algorithms", "like", "TCP-friendly", "Rate", "Control", "-LRB-", "TFRC", "-RRB-", "-LSB-", "11", "-RSB-", "space", "outgoing", "packets", "with", "interval", "T", "cc", "as", "a", "function", "of", "estimated", "packet", "loss", "rate", "-LRB-", "PLR", "-RRB-", "cc", ",", "RTT", "mean", "m", "cc", "and", "RTT", "variance", "2", "cc", "due", "to", "wired", "network", "congestion", ":", "T", "cc", "=", "m", "cc", "p2", "cc", "/", "3", "+", "3", "-LRB-", "m", "cc", "+", "4", "2", "cc", "-RRB-", "cc", "`", "1", "+", "32", "2", "cc", "p3", "cc", "/", "8", "-LRB-", "3", "-RRB-", "Past", "end-to-end", "efforts", "-LSB-", "17", ",", "6", "-RSB-", "have", "focused", "on", "methodologies", "to", "distinguish", "wired", "network", "congestion", "losses", "from", "wireless", "link", "losses", ",", "in", "order", "to", "avoid", "unnecessary", "rate", "reduction", "due", "to", "erroneous", "perception", "of", "wireless", "losses", "as", "network", "congestion", ".", "Split", "connection", "offers", "the", "same", "effect", "regarding", "PLR", "by", "completely", "shielding", "sender", "from", "packet", "losses", "due", "to", "wireless", "link", "failures", ".", "Moreover", ",", "by", "performing", "TFRC", "-LRB-", "3", "-RRB-", "in", "the", "server-WING", "connection", "using", "only", "stable", "wired", "network", "statistics", ",", "split", "connection", "shields", "the", "server-WING", "connection", "from", "large", "rate", "fluctuations", "due", "to", "large", "RTT", "variance", "in", "the", "last-hop", "3G", "link", "as", "shown", "in", "-LSB-", "15", "-RSB-", ".", "For", "this", "reason", ",", "-LSB-", "15", "-RSB-", "showed", "experimentally", "that", "indeed", "proxy-based", "split-connection", "congestion", "control", "performs", "better", "than", "end-to-end", "counterparts", ",", "even", "in", "negligible", "wireless", "loss", "environments", ".", "Lastly", ",", "we", "note", "that", "split", "connection", "can", "benefit", "from", "a", "rate-mismatch", "environment", "-LSB-", "8", ",", "9", "-RSB-", ",", "where", "the", "available", "bandwidth", "R", "1", "in", "the", "server-WING", "connection", "is", "larger", "than", "the", "available", "bandwidth", "R", "2", "in", "the", "WING-client", "connection", ".", "In", "such", "case", ",", "the", "surplus", "bandwidth", "R", "1", "-", "R", "2", "can", "b", "e", "used", "for", "redundancy", "packets", "like", "forward-error", "correction", "-LRB-", "FEC", "-RRB-", "or", "retransmission", "to", "lower", "PLR", "in", "the", "server-WING", "connection", ".", "We", "refer", "interested", "readers", "to", "-LSB-", "8", ",", "9", "-RSB-", "for", "further", "details", ".", "4.3", "Optimizing", "RLC", "Configuration", "Given", "utility-delay", "function", "u", "-LRB-", "d", "-RRB-", "in", "Section", "4.1", ",", "we", "optimize", "configuration", "of", "RLC", "to", "maximize", "utility", ".", "More", "pre-cisely", ",", "we", "pick", "the", "value", "of", "maximum", "retransmission", "limit", "B", "--", "inducing", "expected", "SDU", "loss", "rate", "l", "and", "delay", "d", ",", "so", "that", "the", "expected", "utility", "-LRB-", "1", "-", "l", "-RRB-", "u", "-LRB-", "d", "-RRB-", "is", "maximized", ".", "We", "assume", "a", "known", "average", "SDU", "size", "S", "SDU", ",", "PDU", "loss", "rate", "P", "DU", ",", "and", "probability", "density", "function", "-LRB-", "pdf", "-RRB-", "of", "PDU", "transmission", "delay", "-LRB-", "-RRB-", "with", "mean", "m", "and", "variance", "2", ".", "First", ",", "the", "expected", "number", "of", "PDUs", "fragmented", "from", "an", "SDU", "is", "N", "=", "l", "S", "SDU", "S", "P", "DU", "m", ".", "For", "a", "given", "B", ",", "the", "expected", "SDU", "209", "loss", "rate", "l", "SDU", "can", "b", "e", "written", "simply", ":", "P", "P", "DU", "=", "B", "X", "i", "=", "1", "i-1", "P", "DU", "-LRB-", "1", "P", "DU", "-RRB-", "-LRB-", "4", "-RRB-", "l", "SDU", "=", "1", "-", "P", "N", "P", "DU", "-LRB-", "5", "-RRB-", "where", "P", "P", "DU", "is", "the", "probability", "that", "a", "PDU", "is", "successfully", "delivered", "given", "B", ".", "The", "delay", "d", "SDU", "experienced", "by", "a", "successfully", "delivered", "SDU", "is", "the", "sum", "of", "queuing", "delay", "d", "q", "SDU", "and", "transmission", "delay", "d", "t", "SDU", ".", "Queuing", "delay", "d", "q", "SDU", "is", "the", "delay", "experienced", "by", "an", "SDU", "while", "waiting", "for", "head-of-queue", "SDUs", "to", "clear", "due", "to", "early", "termination", "or", "delivery", "success", ".", "d", "t", "SDU", "is", "the", "expected", "wireless", "medium", "transmission", "delay", "given", "the", "SDU", "is", "successfully", "delivered", ".", "d", "t", "SDU", "is", "easier", "and", "can", "be", "calculated", "as", ":", "X", "P", "DU", "=", "1", "P", "P", "DU", "B", "X", "i", "=", "1", "i", "i-1", "P", "DU", "-LRB-", "1", "P", "DU", "-RRB-", "-LRB-", "6", "-RRB-", "d", "t", "SDU", "=", "N", "m", "X", "P", "DU", "-LRB-", "7", "-RRB-", "where", "X", "P", "DU", "is", "the", "expected", "number", "of", "PDU", "-LRB-", "re", "-RRB-", "transmissions", "given", "PDU", "delivery", "success", ".", "To", "calculate", "d", "q", "SDU", ",", "we", "assume", "a", "M/G/1", "queue", "2", "with", "arrival", "rate", "q", ",", "mean", "service", "time", "m", "q", ",", "and", "variance", "of", "service", "time", "2", "q", ".", "Using", "Pollaczek-Khinchin", "mean", "value", "formula", "-LSB-", "14", "-RSB-", ",", "d", "q", "SDU", "can", "b", "e", "written", "as", ":", "d", "q", "SDU", "=", "q", "m", "q", "`", "1", "+", "2", "q", "/", "m", "2", "q", "2", "-LRB-", "1", "q", "m", "q", "-RRB-", "m", "q", "-LRB-", "8", "-RRB-", "In", "our", "application", ",", "q", "is", "the", "rate", "at", "which", "game", "data", "arrive", "at", "WING", "from", "the", "server", ",", "which", "we", "assume", "to", "be", "known", ".", "m", "q", "is", "the", "mean", "service", "rate", "for", "both", "cases", "of", "SDU", "delivery", "success", "and", "failure", "and", "can", "be", "derived", "as", "follows", ":", "Y", "SDU", "=", "1", "l", "SDU", "N", "X", "i", "=", "1", "-LRB-", "B", "+", "-LRB-", "i", "-", "1", "-RRB-", "X", "P", "DU", "-RRB-", "B", "P", "DU", "P", "i-1", "P", "DU", "-LRB-", "9", "-RRB-", "m", "q", "=", "-LRB-", "1", "-", "l", "SDU", "-RRB-", "d", "t", "SDU", "+", "l", "SDU", "m", "Y", "SDU", "-LRB-", "10", "-RRB-", "where", "Y", "SDU", "is", "the", "expected", "total", "number", "of", "PDU", "-LRB-", "re", "-RRB-", "transmissions", "in", "an", "SDU", "given", "SDU", "delivery", "failure", ".", "Similar", "analysis", "will", "show", "that", "the", "variance", "of", "service", "rate", "2", "q", "for", "our", "application", "is", ":", "2", "q", "=", "-LRB-", "1", "-", "l", "SDU", "-RRB-", "N", "2", "X", "2", "P", "DU", "2", "+", "l", "SDU", "Y", "2", "SDU", "2", "-LRB-", "11", "-RRB-", "We", "can", "now", "evaluate", "expected", "queuing", "delay", "d", "q", "SDU", ",", "from", "which", "we", "evaluate", "expected", "delay", "d", "SDU", ".", "Optimal", "B", "is", "one", "that", "maximizes", "-LRB-", "1", "-", "l", "SDU", "-RRB-", "u", "-LRB-", "d", "SDU", "-RRB-", ".", "4.4", "Loss-optimized", "Differential", "Coding", "If", "the", "location", "data", "--", "player", "position", "updates", "sent", "to", "improve", "dead-reckoning", "discussed", "in", "Section", "4.1", "--", "are", "in", "absolute", "values", ",", "then", "the", "size", "of", "the", "packet", "containing", "the", "data", "can", "be", "large", ",", "resulting", "in", "large", "delay", "due", "to", "many", "PDU", "fragmentation", "and", "spreading", ".", "The", "alternative", "is", "to", "describe", "the", "location", "in", "relative", "terms", "--", "the", "difference", "in", "the", "location", "from", "a", "previous", "time", "slot", ".", "Differential", "values", "are", "smaller", ",", "resulting", "in", "fewer", "encoded", "bits", "and", "smaller", "packets", ",", "and", "hence", "2", "Our", "system", "is", "actually", "more", "similar", "to", "a", "D/G/1", "queue", ",", "since", "the", "arrivals", "of", "game", "data", "are", "more", "likely", "to", "be", "deter-ministic", "than", "Markovian", ".", "Instead", ",", "we", "use", "M/G/1", "queue", "as", "a", "first-order", "approximation", ".", "1", "2", "3", "4", "ACK", "boundary", "2", "3", "4", "1", "Figure", "3", ":", "Example", "of", "Differential", "Coding", "mode", "mode", "marker", "ref", ".", "size", "coord", ".", "size", "total", "0", "00", "0", "32", "2", "+", "64n", "1", "01", "0", "16", "2", "+", "32n", "2", "10", "2", "8", "4", "+", "16n", "3", "11", "4", "4", "6", "+", "8n", "Table", "1", ":", "Differential", "Coding", "Modes", "smaller", "transmission", "delay", ".", "This", "differential", "coding", "of", "location", "data", "is", "used", "today", "in", "networked", "games", ".", "The", "obvious", "disadvantage", "of", "differential", "coding", "is", "that", "the", "created", "dependency", "chain", "is", "vulnerable", "to", "network", "loss", ";", "a", "single", "loss", "can", "result", "in", "error", "propagation", "until", "the", "next", "absolute", "location", "data", "-LRB-", "refresh", "-RRB-", ".", "To", "lessen", "the", "error", "propagation", "effect", "while", "maintaining", "the", "coding", "benefit", "of", "differential", "coding", ",", "one", "can", "reference", "a", "position", "in", "an", "earlier", "time", "slot", ".", "An", "example", "is", "shown", "in", "Figure", "3", ",", "where", "we", "see", "position", "3", "-LRB-", "3", "-RRB-", "references", "1", "instead", "of", "2", ".", "This", "way", ",", "loss", "of", "packet", "containing", "2", "will", "not", "affect", "3", ",", "which", "depends", "only", "on", "1", ".", "The", "problem", "is", "then", ":", "for", "a", "new", "position", "t", ",", "how", "to", "select", "reference", "position", "t-r", "for", "differential", "coding", "such", "that", "the", "right", "tradeoff", "of", "error", "resilience", "and", "packet", "size", "can", "be", "selected", "?", "This", "selection", "must", "be", "done", "in", "an", "on-line", "manner", "as", "new", "position", "becomes", "available", "from", "the", "application", "to", "avoid", "additional", "delay", ".", "4.4.1", "Specifying", "Coding", "Modes", "To", "implement", "loss-optimized", "differential", "coding", ",", "we", "first", "define", "a", "coding", "specification", "that", "dictates", "how", "the", "receiver", "should", "decode", "location", "packets", ".", "For", "simplicity", ",", "we", "propose", "only", "four", "coding", "modes", ",", "where", "each", "mode", "is", "specified", "by", "a", "designated", "bit", "sequence", "-LRB-", "mode", "marker", "-RRB-", "in", "the", "packet", ".", "Assuming", "the", "original", "absolute", "position", "is", "specified", "by", "two", "32-bit", "fixed", "point", "numbers", ",", "mode", "0", "encodes", "the", "unaltered", "absolute", "position", "in", "x-y", "order", ",", "resulting", "in", "data", "payload", "size", "of", "2", "+", "64n", "bits", "for", "n", "game", "entities", ".", "Mode", "1", "uses", "the", "previous", "position", "as", "reference", "for", "differential", "encoding", "with", "16", "bits", "per", "coordinate", ",", "resulting", "in", "2", "+", "32n", "bits", "for", "n", "entities", ".", "Mode", "2", "uses", "the", "first", "2", "bits", "to", "specify", "r", "in", "reference", "position", "t", "-", "r", "for", "differential", "encoding", ".", "Each", "coordinate", "takes", "8", "bits", ",", "resulting", "in", "4", "+", "16n", "total", "bits", "for", "n", "entities", ".", "Mode", "3", "is", "similar", "to", "mode", "2", "with", "the", "exception", "that", "each", "of", "the", "reference", "marker", "and", "the", "two", "coordinate", "takes", "only", "4", "bits", "to", "encode", ",", "resulting", "in", "6", "+", "8n", "bits", "for", "n", "entities", ".", "For", "given", "position", "t", "=", "-LRB-", "x", "t", ",", "y", "t", "-RRB-", "and", "reference", "t-r", "=", "-LRB-", "x", "t-r", ",", "y", "t-r", "-RRB-", ",", "some", "modes", "may", "be", "infeasible", "due", "to", "the", "fixed", "coding", "bit", "budgets", "for", "reference", "and", "coordinate", "sizes", ".", "So", "limited", "to", "the", "set", "of", "feasible", "modes", ",", "we", "seek", "a", "reference", "position", "/", "mode", "pair", "that", "maximizes", "an", "objective", "function", ".", "210", "PLR", "RTT", "mean", "RTT", "variance", "Tokyo-Singapore", "-LRB-", "50", "-RRB-", "0", "94.125", "ms", "178.46", "Tokyo-Singapore", "-LRB-", "100", "-RRB-", "0", "95.131", "ms", "385.30", "Tokyo-Singapore", "-LRB-", "200", "-RRB-", "0", "96.921", "ms", "445.63", "HSDPA", "-LRB-", "50", "-RRB-", "0", "62.232", "ms", "7956.8", "HSDPA", "-LRB-", "100", "-RRB-", "0", "72.547", "ms", "25084", "HSDPA", "-LRB-", "200", "-RRB-", "0", "152.448", "ms", "143390", "Table", "2", ":", "Comparison", "of", "Network", "Statistics", "4.4.2", "Finding", "Optimal", "Coding", "Modes", "For", "an", "IP", "packet", "of", "size", "s", "t", "containing", "position", "t", "that", "is", "sent", "at", "time", "t", ",", "we", "first", "define", "the", "probability", "that", "it", "is", "correctly", "delivered", "b", "y", "time", "as", "t", "-LRB-", "-RRB-", ".", "t", "-LRB-", "-RRB-", "depends", "on", "expected", "PLR", "l", "-LRB-", "s", "t", "-RRB-", "and", "delay", "d", "-LRB-", "s", "t", "-RRB-", ",", "resulting", "from", "retransmission", "limit", "B", "chosen", "in", "Section", "4.3", ":", "N", "-LRB-", "s", "t", "-RRB-", "=", "s", "t", "S", "P", "DU", "i", "-LRB-", "12", "-RRB-", "l", "-LRB-", "s", "t", "-RRB-", "=", "1", "-", "-LRB-", "P", "P", "DU", "-RRB-", "N", "-LRB-", "s", "t", "-RRB-", "-LRB-", "13", "-RRB-", "d", "-LRB-", "s", "t", "-RRB-", "=", "d", "q", "SDU", "+", "N", "-LRB-", "s", "t", "-RRB-", "m", "X", "P", "DU", "-LRB-", "14", "-RRB-", "where", "N", "-LRB-", "s", "t", "-RRB-", "is", "the", "number", "of", "PDUs", "fragmented", "from", "an", "SDU", "of", "size", "s", "t", ".", "l", "-LRB-", "s", "t", "-RRB-", "is", "PLR", "in", "-LRB-", "5", "-RRB-", "generalized", "to", "SDU", "size", "s", "t", ".", "d", "-LRB-", "s", "t", "-RRB-", "is", "the", "expected", "queuing", "delay", "in", "-LRB-", "8", "-RRB-", "plus", "the", "transmission", "delay", "in", "-LRB-", "7", "-RRB-", "generalized", "to", "SDU", "size", "s", "t", ".", "We", "can", "now", "approximate", "t", "-LRB-", "-RRB-", "as", ":", "t", "-LRB-", "-RRB-", "1", "if", "ACKed", "b", "y", "-LRB-", "1", "-", "l", "-LRB-", "s", "t", "-RRB-", "-RRB-", "1", "-LRB-", "-", "t", "-", "d", "-LRB-", "s", "t", "-RRB-", "-RRB-", "o.w.", "-LRB-", "15", "-RRB-", "where", "1", "-LRB-", "x", "-RRB-", "=", "1", "if", "x", "0", ",", "and", "=", "0", "otherwise", ".", "If", "no", "acknowledgment", "packets", "-LRB-", "ACK", "-RRB-", "are", "sent", "from", "client", "to", "WING", ",", "then", "t", "-LRB-", "-RRB-", "is", "simply", "the", "second", "case", "in", "-LRB-", "15", "-RRB-", ".", "We", "next", "define", "the", "probability", "that", "position", "t", "is", "correctly", "decoded", "b", "y", "time", "as", "P", "t", "-LRB-", "-RRB-", ".", "Due", "to", "dependencies", "resulting", "from", "differential", "coding", ",", "P", "t", "-LRB-", "-RRB-", "is", "written", "as", "follows", ":", "P", "t", "-LRB-", "-RRB-", "=", "t", "-LRB-", "-RRB-", "Y", "jt", "j", "-LRB-", "-RRB-", "-LRB-", "16", "-RRB-", "where", "j", "i", "is", "the", "set", "of", "positions", "j", "'s", "that", "precedes", "t", "in", "the", "dependency", "graph", "due", "to", "differential", "coding", ".", "Given", "utility", "function", "u", "-LRB-", "d", "-RRB-", "in", "Section", "4.1", "and", "decode", "probability", "-LRB-", "16", "-RRB-", ",", "the", "optimal", "reference", "position", "/", "mode", "pair", "is", "one", "that", "maximizes", "the", "following", "objective", "function", ":", "max", "P", "t", "-LRB-", "t", "+", "d", "-LRB-", "s", "t", "-RRB-", "-RRB-", "u", "-LRB-", "d", "-LRB-", "s", "t", "-RRB-", "-RRB-", "-LRB-", "17", "-RRB-", "We", "first", "present", "network", "statistics", "for", "HSDPA", "and", "discuss", "the", "implications", ".", "We", "collected", "network", "statistics", "of", "10,000", "ping", "packets", ",", "of", "packet", "size", "50", ",", "100", "and", "200", "bytes", ",", "spaced", "200ms", "apart", ",", "between", "hosts", "in", "Tokyo", "and", "Singapore", "inside", "HP", "intranet", ".", "The", "results", "are", "shown", "in", "Table", "2", ".", "We", "then", "conducted", "the", "same", "experiment", "over", "a", "network", "emu-lator", "called", "WiNe2", "-LSB-", "16", "-RSB-", "emulating", "the", "HSDPA", "link", "with", "10", "competing", "ftp", "users", "each", "with", "mobility", "model", "Pedestrian", "A", ".", "We", "make", "two", "observations", "in", "Table", "2", ".", "One", ",", "though", "results", "from", "both", "experiments", "had", "similar", "RTT", "means", ",", "HSDPA", "'s", "RTT", "variances", "were", "very", "large", ",", "substantiating", "our", "claim", "that", "using", "split-connection", "to", "shield", "the", "server-WING", "connection", "from", "HSDPA", "'s", "RTT", "variance", "would", "drastically", "improve", "TFRC", "bandwidth", "-LRB-", "3", "-RRB-", "of", "server-WING", "connection", ".", "number", "of", "entities", "n", "4", "frame", "rate", "10", "fps", "IP", "+", "UDP", "header", "20", "+", "8", "bytes", "RLC", "PDU", "size", "40", "bytes", "RLC", "PDU", "loss", "rate", "0.1", "to", "0.3", "average", "packet", "size", "61", "bytes", "shifted", "Gamma", "parameter", "g", "2", "shifted", "Gamma", "parameter", "g", "0.1", "shifted", "Gamma", "parameter", "g", "10.0", "Table", "3", ":", "Simulation", "Parameters", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "50", "100", "150", "200", "250", "300", "350", "400", "retransmission", "limit", "expected", "delay", "in", "ms", "expected", "delay", "vs.", "retrans", ".", "limit", "epsilon", "=", "0.1", "epsilon", "=", "0.2", "epsilon", "=", "0.3", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "0.2", "0.22", "0.24", "0.26", "0.28", "0.3", "0.32", "0.34", "0.36", "0.38", "retransmission", "limit", "expected", "utility", "expected", "utility", "vs.", "retrans", ".", "limit", "epsilon", "=", "0.1", "epsilon", "=", "0.2", "epsilon", "=", "0.3", "a", "-RRB-", "delay", "vs.", "retrans", ".", "limit", "B", "b", "-RRB-", "utility", "vs.", "retrans", ".", "limit", "B", "Figure", "4", ":", "Delay", "andUtility", "vs.", "Retrans", ".", "Limit", "Two", ",", "larger", "packets", "entailed", "larger", "RTT", "means", "for", "HSDPA", ".", "This", "means", "that", "the", "differential", "coding", "discussed", "in", "Section", "4.4", "indeed", "has", "substantial", "performance", "improvement", "potential", ".", "We", "next", "used", "an", "internally", "developed", "network", "simulator", "called", "-LRB-", "mu", "-RRB-", "lti-path", "-LRB-", "n", "-RRB-", "etwork", "-LRB-", "s", "-RRB-", "imulator", "-LRB-", "muns", "-RRB-", "that", "was", "used", "in", "other", "simulations", "-LSB-", "7", "-RSB-", "to", "test", "RLC", "configurations", "and", "differential", "coding", ".", "For", "PDU", "transmission", "delay", "-LRB-", "-RRB-", ",", "we", "used", "a", "shifted", "Gamma", "distribution", ":", "-LRB-", "-RRB-", "=", "g", "g", "-LRB-", "g", "-RRB-", "g", "-1", "e", "g", "-LRB-", "g", "-RRB-", "-LRB-", "g", "-RRB-", ",", "g", "<", "<", "-LRB-", "18", "-RRB-", "where", "-LRB-", "-RRB-", "is", "the", "Gamma", "function", "-LSB-", "14", "-RSB-", ".", "The", "parameters", "used", "are", "shown", "in", "Table", "3", ".", "Figure", "4", "shows", "the", "expected", "delay", "and", "utility", "as", "a", "function", "of", "retransmission", "limit", "B", "for", "different", "PDU", "loss", "rates", ".", "As", "expected", ",", "when", "B", "increases", ",", "the", "expected", "delay", "increases", ".", "The", "expected", "utility", ",", "on", "the", "other", "hand", ",", "reaches", "a", "peak", "and", "decreases", ".", "For", "given", "PDU", "loss", "rate", ",", "we", "simply", "select", "B", "with", "the", "largest", "expected", "utility", ".", "Next", ",", "we", "compare", "the", "results", "of", "our", "loss-optimized", "differential", "coding", "optimization", "opt", "in", "Section", "4.4", "with", "two", "schemes", ":", "abs", ",", "which", "always", "encodes", "in", "absolute", "values", ";", "and", ",", "rel", ",", "which", "uses", "only", "previous", "frame", "for", "differential", "coding", "and", "refreshes", "with", "absolute", "values", "every", "10", "updates", ".", "abs", "P", "DU", "B", "abs", "-LRB-", "1", "-RRB-", "abs", "-LRB-", "B", "-RRB-", "rel", "-LRB-", "1", "-RRB-", "rel", "-LRB-", "B", "-RRB-", "opt", "0.10", "2", "1.181", "1.134", "1.806", "1.154", "1.070", "0.15", "3", "1.222", "1.166", "2.288", "1.108", "1.073", "0.20", "2", "1.290", "1.192", "2.619", "1.380", "1.086", "0.25", "2", "1.356", "1.232", "3.035", "1.568", "1.090", "0.30", "2", "1.449", "1.268", "3.506", "1.750", "1.110", "0.35", "2", "1.509", "1.300", "3.556", "2.054", "1.121", "Table", "4", ":", "Distortion", "Comparison", "211", "represents", "the", "most", "error", "resilient", "coding", "method", "in", "differential", "coding", ",", "while", "rel", "represents", "a", "reasonably", "coding-efficient", "method", "with", "periodical", "resynchronization", ".", "Note", ",", "however", ",", "that", "neither", "abs", "nor", "rel", "adapts", "differential", "coding", "in", "real", "time", "using", "client", "feedbacks", ".", "abs", "and", "rel", "were", "each", "tested", "twice", ".", "In", "the", "first", "trial", ",", "limit", "B", "was", "set", "to", "1", ",", "and", "in", "the", "second", ",", "B", "was", "set", "to", "the", "optimal", "configured", "value", "as", "discussed", "in", "Section", "4.3", ".", "20000", "data", "points", "were", "generated", "and", "averaged", "for", "each", "distortion", "value", "in", "Table", "4", ".", "As", "we", "see", "in", "Table", "4", "for", "various", "PDU", "loss", "rate", "P", "DU", ",", "the", "resulting", "distortions", "for", "opt", "were", "always", "lower", "than", "abs", "'s", "and", "rel", "'s", ",", "particularly", "for", "high", "PDU", "loss", "rates", ".", "opt", "performed", "better", "than", "rel", "because", "of", "opt", "'s", "error", "resiliency", "of", "loss-optimized", "differential", "coding", ",", "while", "opt", "performed", "better", "than", "abs", "because", "opt", "'s", "smaller", "packets", "in-duced", "a", "smaller", "queuing", "delay", "and", "a", "smaller", "transmission", "delay", "due", "to", "smaller", "number", "of", "RLC", "fragmentations", ".", "This", "demonstrates", "that", "it", "is", "important", "not", "only", "to", "find", "an", "optimal", "RLC", "configuration", ",", "but", "a", "suitable", "differential", "coding", "scheme", "to", "match", "the", "resulting", "loss", "rate", "and", "delay", "of", "the", "configuration", ".", "We", "propose", "a", "performance", "enhancing", "proxy", "called", "WING", "to", "improve", "the", "delivery", "of", "game", "data", "from", "a", "game", "server", "to", "3G", "game", "players", "using", "three", "techniques", ":", "i", "-RRB-", "split-connection", "TCP-friendly", "congestion", "control", ",", "ii", "-RRB-", "network", "game", "optimized", "RLC", "configuration", ",", "and", ",", "iii", "-RRB-", "packet", "compression", "using", "differential", "coding", ".", "For", "future", ",", "we", "will", "investigate", "how", "similar", "techniques", "can", "be", "applied", "for", "the", "3G", "uplink", "from", "game", "player", "to", "game", "server", ".", "The", "authors", "thank", "other", "members", "of", "the", "multimedia", "systems", "architecture", "team", ",", "Yasuhiro", "Araki", "and", "Takeaki", "Ota", ",", "for", "their", "valuable", "comments", "and", "discussions", ".", "-LSB-", "1", "-RSB-", "Universal", "Mobile", "Telecommunications", "System", "-LRB-", "UMTS", "-RRB-", ";", "Radio", "Link", "Control", "-LRB-", "RLC", "-RRB-", "protocol", "specification", "-LRB-", "3GPP", "TS", ".25.322", "version", "5.12.0", "Release", "5", "-RRB-", ".", "http://www.3gpp.org/ftp/Specs/archive/25", "series", "/", "25.322/25322-5c0.zip", ",", "September", "2005", ".", "-LSB-", "2", "-RSB-", "S.", "Aggarwal", ",", "H.", "Banavar", ",", "and", "A.", "Khandelwal", ".", "Accuracy", "in", "dead-reckoning", "based", "distributed", "multi-player", "games", ".", "In", "ACM", "SIGCOMM", "NetGames", ",", "Portland", ",", "OR", ",", "August", "2004", ".", "-LSB-", "3", "-RSB-", "A.", "Akkawi", ",", "S.", "Schaller", ",", "O.", "Wellnitz", ",", "and", "L.", "Wolf", ".", "A", "mobile", "gaming", "platform", "for", "the", "IMS", ".", "In", "ACM", "SIGCOMM", "NetGames", ",", "Portland", ",", "OR", ",", "August", "2004", ".", "-LSB-", "4", "-RSB-", "H.", "Balakrishnan", ",", "V.", "Padmanabhan", ",", "S.", "Seshan", ",", "and", "R.", "Katz", ".", "A", "comparison", "of", "mechanisms", "for", "improving", "TCP", "performance", "over", "wireless", "links", ".", "In", "IEEE/ACM", "Trans", ".", "Networking", ",", "volume", "5", ",", "no.", "6", ",", "December", "1997", ".", "-LSB-", "5", "-RSB-", "Q.", "Bi", "and", "S.", "Vitebsky", ".", "Performance", "analysis", "of", "3G-1x", "EvDO", "high", "data", "rate", "system", ".", "In", "IEEE", "Wireless", "Communications", "and", "Networking", "Conference", ",", "Orlando", ",", "FL", ",", "March", "2002", ".", "-LSB-", "6", "-RSB-", "M.", "Chen", "and", "A.", "Zakhor", ".", "AIO-TRFC", ":", "A", "light-weight", "rate", "control", "scheme", "for", "streaming", "over", "wireless", ".", "In", "IEEE", "WirelessCom", ",", "Maui", ",", "HI", ",", "June", "2005", ".", "-LSB-", "7", "-RSB-", "G.", "Cheung", ",", "P.", "Sharma", ",", "and", "S.", "J.", "Lee", ".", "Striping", "delay-sensitive", "packets", "over", "multiple", "bursty", "wireless", "channels", ".", "In", "IEEE", "International", "Conference", "on", "Multimedia", "and", "Expo", ",", "Amsterdam", ",", "the", "Netherlands", ",", "July", "2005", ".", "-LSB-", "8", "-RSB-", "G.", "Cheung", "and", "W.", "t.", "Tan", ".", "Streaming", "agent", "for", "wired", "network", "/", "wireless", "link", "rate-mismatch", "environment", ".", "In", "International", "Workshop", "on", "Multimedia", "Signal", "Processing", ",", "St.", "Thomas", ",", "Virgin", "Islands", ",", "December", "2002", ".", "-LSB-", "9", "-RSB-", "G.", "Cheung", ",", "W.", "t.", "Tan", ",", "and", "T.", "Yoshimura", ".", "Double", "feedback", "streaming", "agent", "for", "real-time", "delivery", "of", "media", "over", "3G", "wireless", "networks", ".", "In", "IEEE", "Transactions", "on", "Multimedia", ",", "volume", "6", ",", "no.", "2", ",", "pages", "304", "314", ",", "April", "2004", ".", "-LSB-", "10", "-RSB-", "S.", "P.", "et", "al.", ".", "Game", "transport", "protocol", ":", "A", "reliable", "lightweight", "transport", "protocol", "for", "massively", "multiplayer", "on-line", "games", "-LRB-", "MMPOGs", "-RRB-", ".", "In", "SPIE-ITCOM", ",", "Boston", ",", "MA", ",", "July", "2002", ".", "-LSB-", "11", "-RSB-", "S.", "Floyd", ",", "M.", "Handley", ",", "J.", "Padhye", ",", "and", "J.", "Widmer", ".", "Equation-based", "congestion", "control", "for", "unicast", "applications", ".", "In", "ACM", "SIGCOMM", ",", "Stockholm", ",", "Sweden", ",", "August", "2000", ".", "-LSB-", "12", "-RSB-", "P.", "Ghosh", ",", "K.", "Basu", ",", "and", "S.", "Das", ".", "A", "cross-layer", "design", "to", "improve", "quality", "of", "service", "in", "online", "multiplayer", "wireless", "gaming", "networks", ".", "In", "IEEE", "Broadnets", ",", "Boston", ",", "MA", ",", "October", "2005", ".", "-LSB-", "13", "-RSB-", "L.", "Huang", ",", "U.", "Horn", ",", "F.", "Hartung", ",", "and", "M.", "Kampmann", ".", "Proxy-based", "TCP-friendly", "streaming", "over", "mobile", "networks", ".", "In", "IEEE", "International", "Symposium", "on", "a", "World", "of", "Wireless", ",", "Mobile", "and", "Multimedia", "Networks", ",", "Atlanta", ",", "GA", ",", "September", "2002", ".", "-LSB-", "14", "-RSB-", "A.", "Leon-Garcia", ".", "Probability", "and", "Random", "Processes", "for", "Electrical", "Engineering", ".", "Addison", "Wesley", ",", "1994", ".", "-LSB-", "15", "-RSB-", "M.", "Meyer", ",", "J.", "Sachs", ",", "and", "M.", "Holzke", ".", "Performance", "evaluation", "of", "a", "TCP", "proxy", "in", "WCDMA", "networks", ".", "In", "IEEE", "Wireless", "Communications", ",", "October", "2003", ".", "-LSB-", "16", "-RSB-", "Nomor", "Research", "GmbH", ".", "WiSe2", ".", "http://www.nomor.de", ".", "-LSB-", "17", "-RSB-", "F.", "Yang", ",", "Q.", "Zhang", ",", "W.", "Zhu", ",", "and", "Y.-Q", ".", "Zhang", ".", "Bit", "allocation", "for", "scalable", "video", "streaming", "over", "mobile", "wireless", "internet", ".", "In", "IEEE", "Infocom", ",", "Hong", "Kong", ",", "March", "2004", ".", "-LSB-", "18", "-RSB-", "T.", "Yoshimura", ",", "T.", "Ohya", ",", "T.", "Kawahara", ",", "and", "M.", "Etoh", ".", "Rate", "and", "robustness", "control", "with", "RTP", "monitoring", "agent", "for", "mobile", "multimedia", "streaming", ".", "In", "IEEE", "International", "Conference", "on", "Communication", ",", "New", "York", ",", "NY", ",", "April", "2002", ".", "212"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["proxy architecture", "wireless networks", "congestion control", "network gaming", "rlc configuration", "3g wireless network"], "abstractive_keyphrases": ["time critical data", "loss-optimized"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "175", "document": ["Secure", "Hierarchical", "In-Network", "Aggregation", "in", "Sensor", "Networks", "In-network", "aggregation", "is", "an", "essential", "primitive", "for", "performing", "queries", "on", "sensor", "network", "data", ".", "However", ",", "most", "aggregation", "algorithms", "assume", "that", "all", "intermediate", "nodes", "are", "trusted", ".", "In", "contrast", ",", "the", "standard", "threat", "model", "in", "sensor", "network", "security", "assumes", "that", "an", "attacker", "may", "control", "a", "fraction", "of", "the", "nodes", ",", "which", "may", "misbehave", "in", "an", "arbitrary", "-LRB-", "Byzantine", "-RRB-", "manner", ".", "We", "present", "the", "first", "algorithm", "for", "provably", "secure", "hierarchical", "in-network", "data", "aggregation", ".", "Our", "algorithm", "is", "guaranteed", "to", "detect", "any", "manipulation", "of", "the", "aggregate", "by", "the", "adversary", "beyond", "what", "is", "achievable", "through", "direct", "injection", "of", "data", "values", "at", "compromised", "nodes", ".", "In", "other", "words", ",", "the", "adversary", "can", "never", "gain", "any", "advantage", "from", "misrepresenting", "intermediate", "aggregation", "computations", ".", "Our", "algorithm", "incurs", "only", "O", "-LRB-", "log", "2", "n", "-RRB-", "node", "congestion", ",", "supports", "arbitrary", "tree-based", "aggregator", "topologies", "and", "retains", "its", "resistance", "against", "aggregation", "manipulation", "in", "the", "presence", "of", "arbitrary", "numbers", "of", "malicious", "nodes", ".", "The", "main", "algorithm", "is", "based", "on", "performing", "the", "SUM", "aggregation", "securely", "by", "first", "forcing", "the", "adversary", "to", "commit", "to", "its", "choice", "of", "intermediate", "aggregation", "results", ",", "and", "then", "having", "the", "sensor", "nodes", "independently", "verify", "that", "their", "contributions", "to", "the", "aggregate", "are", "correctly", "incorporated", ".", "We", "show", "how", "to", "reduce", "secure", "MEDIAN", ",", "COUNT", ",", "and", "AVERAGE", "to", "this", "primitive", ".", "C.", "2.0", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "General", "--", "Security", "and", "Protection", "Security", ",", "Algorithms", "This", "research", "was", "supported", "in", "part", "by", "CyLab", "at", "Carnegie", "Mellon", "under", "grant", "DAAD19-02-1-0389", "from", "the", "Army", "Research", "Office", ",", "and", "grant", "CNS-0347807", "from", "the", "National", "Science", "Foundation", ",", "and", "by", "a", "gift", "from", "Bosch", ".", "The", "views", "and", "conclusions", "contained", "here", "are", "those", "of", "the", "authors", "and", "should", "not", "be", "interpreted", "as", "necessarily", "representing", "the", "official", "policies", "or", "endorsements", ",", "either", "express", "or", "implied", ",", "of", "ARO", ",", "Bosch", ",", "Carnegie", "Mellon", "University", ",", "NSF", ",", "or", "the", "U.S.", "Government", "or", "any", "of", "its", "agencies", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CCS", "'", "06", ",", "October", "30", "November", "3", ",", "2006", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-518-5", "/", "06/0010", "...", "$", "5.00", ".", "Wireless", "sensor", "networks", "are", "increasingly", "deployed", "in", "security-critical", "applications", "such", "as", "factory", "monitoring", ",", "environmental", "monitoring", ",", "burglar", "alarms", "and", "fire", "alarms", ".", "The", "sensor", "nodes", "for", "these", "applications", "are", "typically", "deployed", "in", "unsecured", "locations", "and", "are", "not", "made", "tamper-proof", "due", "to", "cost", "considerations", ".", "Hence", ",", "an", "adversary", "could", "undetectably", "take", "control", "of", "one", "or", "more", "sensor", "nodes", "and", "launch", "active", "attacks", "to", "subvert", "correct", "network", "operations", ".", "Such", "environments", "pose", "a", "particularly", "challenging", "set", "of", "constraints", "for", "the", "protocol", "designer", ":", "sensor", "network", "protocols", "must", "be", "highly", "energy", "efficient", "while", "being", "able", "to", "function", "securely", "in", "the", "presence", "of", "possible", "malicious", "nodes", "within", "the", "network", ".", "In", "this", "paper", "we", "focus", "on", "the", "particular", "problem", "of", "securely", "and", "efficiently", "performing", "aggregate", "queries", "-LRB-", "such", "as", "MEDIAN", ",", "SUM", "and", "AVERAGE", "-RRB-", "on", "sensor", "networks", ".", "In-network", "data", "aggregation", "is", "an", "efficient", "primitive", "for", "reducing", "the", "total", "message", "complexity", "of", "aggregate", "sensor", "queries", ".", "For", "example", ",", "in-network", "aggregation", "of", "the", "SUM", "function", "is", "performed", "by", "having", "each", "intermediate", "node", "forward", "a", "single", "message", "containing", "the", "sum", "of", "the", "sensor", "readings", "of", "all", "the", "nodes", "downstream", "from", "it", ",", "rather", "than", "forwarding", "each", "downstream", "message", "one-by-one", "to", "the", "base", "station", ".", "The", "energy", "savings", "of", "performing", "in-network", "aggregation", "have", "been", "shown", "to", "be", "significant", "and", "are", "crucial", "for", "energy-constrained", "sensor", "networks", "-LSB-", "9", ",", "11", ",", "20", "-RSB-", ".", "Unfortunately", ",", "most", "in-network", "aggregation", "schemes", "assume", "that", "all", "sensor", "nodes", "are", "trusted", "-LSB-", "12", ",", "20", "-RSB-", ".", "An", "adversary", "controlling", "just", "a", "few", "aggregator", "nodes", "could", "potentially", "cause", "the", "sensor", "network", "to", "return", "arbitrary", "results", ",", "thus", "completely", "subverting", "the", "function", "of", "the", "network", "to", "the", "adversary", "'s", "own", "purposes", ".", "Despite", "the", "importance", "of", "the", "problem", "and", "a", "significant", "amount", "of", "work", "on", "the", "area", ",", "the", "known", "approaches", "to", "secure", "aggregation", "either", "require", "strong", "assumptions", "about", "network", "topology", "or", "adversary", "capabilities", ",", "or", "are", "only", "able", "to", "provide", "limited", "probabilistic", "security", "properties", ".", "For", "example", ",", "Hu", "and", "Evans", "-LSB-", "8", "-RSB-", "propose", "a", "secure", "aggregation", "scheme", "under", "the", "assumption", "that", "at", "most", "a", "single", "node", "is", "malicious", ".", "Przydatek", "et", "al.", "-LSB-", "17", "-RSB-", "propose", "Secure", "Information", "Aggregation", "-LRB-", "SIA", "-RRB-", ",", "which", "provides", "a", "statistical", "security", "property", "under", "the", "assumption", "of", "a", "single-aggregator", "model", ".", "In", "the", "single-aggregator", "model", ",", "sensor", "nodes", "send", "their", "data", "to", "a", "single", "aggregator", "node", ",", "which", "computes", "the", "aggregate", "and", "sends", "it", "to", "the", "base", "station", ".", "This", "form", "of", "aggregation", "reduces", "communications", "only", "on", "the", "link", "between", "the", "aggregator", "and", "the", "base", "station", ",", "and", "is", "not", "scalable", "to", "large", "multihop", "sensor", "deployments", ".", "Most", "of", "the", "algorithms", "in", "SIA", "-LRB-", "in", "particular", ",", "MEDIAN", ",", "SUM", "and", "AVERAGE", "-RRB-", "can", "not", "be", "directly", "adapted", "to", "a", "hierarchical", "aggregation", "model", "since", "278", "they", "involve", "sorting", "all", "of", "the", "input", "values", ";", "the", "final", "aggregator", "in", "the", "hierarchy", "thus", "needs", "to", "access", "all", "the", "data", "values", "of", "the", "sensor", "nodes", ".", "In", "this", "paper", ",", "we", "present", "the", "first", "provably", "secure", "sensor", "network", "data", "aggregation", "protocol", "for", "general", "networks", "and", "multiple", "adver-sarial", "nodes", ".", "The", "algorithm", "limits", "the", "adversary", "'s", "ability", "to", "manipulate", "the", "aggregation", "result", "with", "the", "tightest", "bound", "possible", "for", "general", "algorithms", "with", "no", "knowledge", "of", "the", "distribution", "of", "sensor", "data", "values", ".", "Specifically", ",", "an", "adversary", "can", "gain", "no", "additional", "influence", "over", "the", "final", "result", "by", "manipulating", "the", "results", "of", "the", "in-network", "aggregate", "computation", "as", "opposed", "to", "simply", "reporting", "false", "data", "readings", "for", "the", "compromised", "nodes", "under", "its", "control", ".", "Furthermore", ",", "unlike", "prior", "schemes", ",", "our", "algorithm", "is", "designed", "for", "general", "hierarchical", "aggregator", "topologies", "and", "multiple", "malicious", "sensor", "nodes", ".", "Our", "metric", "for", "communication", "cost", "is", "congestion", ",", "which", "is", "the", "maximum", "communication", "load", "on", "any", "node", "in", "the", "network", ".", "Let", "n", "be", "the", "number", "of", "nodes", "in", "the", "network", ",", "and", "be", "the", "maximum", "degree", "of", "any", "node", "in", "the", "aggregation", "tree", ".", "Our", "algorithm", "induces", "only", "O", "-LRB-", "log", "2", "n", "-RRB-", "node", "congestion", "in", "the", "aggregation", "tree", ".", "Researchers", "have", "investigated", "resilient", "aggregation", "algorithms", "to", "provide", "increased", "likelihood", "of", "accurate", "results", "in", "environments", "prone", "to", "message", "loss", "or", "node", "failures", ".", "This", "class", "of", "algorithms", "includes", "work", "by", "Gupta", "et", "al.", "-LSB-", "7", "-RSB-", ",", "Nath", "et", "al.", "-LSB-", "15", "-RSB-", ",", "Chen", "et", "al.", "-LSB-", "3", "-RSB-", "and", "Manjhi", "et", "al.", "-LSB-", "14", "-RSB-", ".", "A", "number", "of", "aggregation", "algorithms", "have", "been", "proposed", "to", "ensure", "secrecy", "of", "the", "data", "against", "intermediate", "aggregators", ".", "Such", "algorithms", "have", "been", "proposed", "by", "Girao", "et", "al.", "-LSB-", "5", "-RSB-", ",", "Castelluccia", "et", "al.", "-LSB-", "2", "-RSB-", ",", "and", "Cam", "et", "al.", "-LSB-", "1", "-RSB-", ".", "Hu", "and", "Evans", "-LSB-", "8", "-RSB-", "propose", "securing", "in-network", "aggregation", "against", "a", "single", "Byzantine", "adversary", "by", "requiring", "aggregator", "nodes", "to", "forward", "their", "inputs", "to", "their", "parent", "nodes", "in", "the", "aggregation", "tree", ".", "Jadia", "and", "Mathuria", "-LSB-", "10", "-RSB-", "extend", "the", "Hu", "and", "Evans", "approach", "by", "incorporating", "privacy", ",", "but", "also", "considered", "only", "a", "single", "malicious", "node", ".", "Several", "secure", "aggregation", "algorithms", "have", "been", "proposed", "for", "the", "single-aggregator", "model", ".", "Przydatek", "et", "al.", "-LSB-", "17", "-RSB-", "proposed", "Secure", "Information", "Aggregation", "-LRB-", "SIA", "-RRB-", "for", "this", "topology", ".", "Also", "for", "the", "single-aggregator", "case", ",", "Du", "et", "al.", "-LSB-", "4", "-RSB-", "propose", "using", "multiple", "witness", "nodes", "as", "additional", "aggregators", "to", "verify", "the", "integrity", "of", "the", "aggregator", "'s", "result", ".", "Mahimkar", "and", "Rappaport", "-LSB-", "13", "-RSB-", "also", "propose", "an", "aggregation-verification", "scheme", "for", "the", "single-aggregator", "model", "using", "a", "threshold", "signature", "scheme", "to", "ensure", "that", "at", "least", "t", "of", "the", "nodes", "agree", "with", "the", "aggregation", "result", ".", "Yang", "et", "al.", "-LSB-", "19", "-RSB-", "describe", "a", "probabilistic", "aggregation", "algorithm", "which", "subdivides", "an", "aggregation", "tree", "into", "subtrees", ",", "each", "of", "which", "reports", "their", "aggregates", "directly", "to", "the", "base", "station", ".", "Outliers", "among", "the", "subtrees", "are", "then", "probed", "for", "inconsistencies", ".", "Wagner", "-LSB-", "18", "-RSB-", "addressed", "the", "issue", "of", "measuring", "and", "bounding", "malicious", "nodes", "'", "contribution", "to", "the", "final", "aggregation", "result", ".", "The", "paper", "measures", "how", "much", "damage", "an", "attacker", "can", "inflict", "by", "taking", "control", "of", "a", "number", "of", "nodes", "and", "using", "them", "solely", "to", "inject", "erroneous", "data", "values", ".", "In", "general", ",", "the", "goal", "of", "secure", "aggregation", "is", "to", "compute", "aggregate", "functions", "-LRB-", "such", "as", "SUM", ",", "COUNT", "or", "AVERAGE", "-RRB-", "of", "the", "sensed", "data", "values", "residing", "on", "sensor", "nodes", ",", "while", "assuming", "that", "a", "portion", "of", "the", "sensor", "nodes", "are", "controlled", "by", "an", "adversary", "which", "is", "attempting", "to", "skew", "the", "final", "result", ".", "In", "this", "section", ",", "we", "present", "the", "formal", "parameters", "of", "the", "problem", ".", "3.1", "Network", "Assumptions", "We", "assume", "a", "general", "multihop", "network", "with", "a", "set", "S", "=", "-LCB-", "s", "1", ",", "...", ",", "s", "n", "-RCB-", "of", "n", "sensor", "nodes", "and", "a", "single", "-LRB-", "untrusted", "-RRB-", "base", "station", "R", ",", "which", "is", "able", "to", "communicate", "with", "the", "querier", "which", "resides", "outside", "of", "the", "network", ".", "The", "querier", "knows", "the", "total", "number", "of", "sensor", "nodes", "n", ",", "and", "that", "all", "n", "nodes", "are", "alive", "and", "reachable", ".", "We", "assume", "the", "aggregation", "is", "performed", "over", "an", "aggregation", "tree", "which", "is", "the", "directed", "tree", "formed", "by", "the", "union", "of", "all", "the", "paths", "from", "the", "sensor", "nodes", "to", "the", "base", "station", "-LRB-", "one", "such", "tree", "is", "shown", "in", "Figure", "1", "-LRB-", "a", "-RRB-", "-RRB-", ".", "These", "paths", "may", "be", "arbitrarily", "chosen", "and", "are", "not", "necessarily", "shortest", "paths", ".", "The", "optimisation", "of", "the", "aggregation", "tree", "structure", "is", "out", "of", "the", "scope", "of", "this", "paper", "--", "our", "algorithm", "takes", "the", "structure", "of", "the", "aggregation", "tree", "as", "given", ".", "One", "method", "for", "constructing", "an", "aggregation", "tree", "is", "described", "in", "TaG", "-LSB-", "11", "-RSB-", ".", "3.2", "Security", "Infrastructure", "We", "assume", "that", "each", "sensor", "node", "has", "a", "unique", "identifier", "s", "and", "shares", "a", "unique", "secret", "symmetric", "key", "K", "s", "with", "the", "querier", ".", "We", "further", "assume", "the", "existence", "of", "a", "broadcast", "authentication", "primitive", "where", "any", "node", "can", "authenticate", "a", "message", "from", "the", "querier", ".", "This", "broadcast", "authentication", "could", ",", "for", "example", ",", "be", "performed", "using", "TESLA", "-LSB-", "16", "-RSB-", ".", "We", "assume", "the", "sensor", "nodes", "have", "the", "ability", "to", "perform", "symmetric-key", "encryption", "and", "decryption", "as", "well", "as", "computations", "of", "a", "collision-resistant", "cryptographic", "hash", "function", "H.", "3.3", "Attacker", "Model", "We", "assume", "that", "the", "attacker", "is", "in", "complete", "control", "of", "an", "arbitrary", "number", "of", "sensor", "nodes", ",", "including", "knowledge", "of", "all", "their", "secret", "keys", ".", "The", "attacker", "has", "a", "network-wide", "presence", "and", "can", "record", "and", "inject", "messages", "at", "will", ".", "The", "sole", "goal", "of", "the", "attacker", "is", "to", "launch", "what", "Przydatek", "et", "al.", "-LSB-", "17", "-RSB-", "call", "a", "stealthy", "attack", ",", "i.e.", ",", "to", "cause", "the", "querier", "to", "accept", "a", "false", "aggregate", "that", "is", "higher", "or", "lower", "than", "the", "true", "aggregate", "value", ".", "We", "do", "not", "consider", "denial-of-service", "-LRB-", "DoS", "-RRB-", "attacks", "where", "the", "goal", "of", "the", "adversary", "is", "to", "prevent", "the", "querier", "from", "getting", "any", "aggregation", "result", "at", "all", ".", "While", "such", "attacks", "can", "disrupt", "the", "normal", "operation", "of", "the", "sensor", "network", ",", "they", "are", "not", "as", "potentially", "hazardous", "in", "security-critical", "applications", "as", "the", "ability", "to", "cause", "the", "operator", "of", "the", "network", "to", "accept", "arbitrary", "data", ".", "Furthermore", ",", "any", "maliciously", "induced", "extended", "loss", "of", "service", "is", "a", "detectable", "anomaly", "which", "will", "-LRB-", "eventually", "-RRB-", "expose", "the", "adversary", "'s", "presence", "if", "subsequent", "protocols", "or", "manual", "intervention", "do", "not", "succeed", "in", "resolving", "the", "problem", ".", "3.4", "Problem", "Definition", "and", "Metrics", "Each", "sensor", "node", "s", "i", "has", "a", "data", "value", "a", "i", ".", "We", "assume", "that", "the", "data", "value", "is", "a", "non-negative", "bounded", "real", "value", "a", "i", "-LSB-", "0", ",", "r", "-RSB-", "for", "some", "maximum", "allowed", "data", "value", "r", ".", "The", "objective", "of", "the", "aggregation", "process", "is", "to", "compute", "some", "function", "f", "over", "all", "the", "data", "values", ",", "i.e.", ",", "f", "-LRB-", "a", "1", ",", "...", ",", "a", "n", "-RRB-", ".", "Note", "that", "for", "the", "SUM", "aggregate", ",", "the", "case", "where", "data", "values", "are", "in", "a", "range", "-LSB-", "r", "1", ",", "r", "2", "-RSB-", "-LRB-", "where", "r", "1", ",", "r", "2", "can", "be", "negative", "-RRB-", "is", "reducible", "to", "this", "case", "by", "setting", "r", "=", "r", "2", "-", "r", "1", "and", "add", "nr", "1", "to", "the", "aggregation", "result", ".", "Definition", "1", "A", "direct", "data", "injection", "attack", "occurs", "when", "an", "attacker", "modifies", "the", "data", "readings", "reported", "by", "the", "nodes", "under", "its", "direct", "control", ",", "under", "the", "constraint", "that", "only", "legal", "readings", "in", "-LSB-", "0", ",", "r", "-RSB-", "are", "reported", ".", "Wagner", "-LSB-", "18", "-RSB-", "performed", "a", "quantitative", "study", "measuring", "the", "effect", "of", "direct", "data", "injection", "on", "various", "aggregates", ",", "and", "concludes", "that", "the", "aggregates", "addressed", "in", "this", "paper", "-LRB-", "truncated", "SUM", "and", "AV", "ERAGE", ",", "COUNT", "and", "QUANTILE", "-RRB-", "can", "be", "resilient", "under", "such", "attacks", ".", "279", "Without", "domain", "knowledge", "about", "what", "constitutes", "an", "anomalous", "sensor", "reading", ",", "it", "is", "impossible", "to", "detect", "a", "direct", "data", "injection", "attack", ",", "since", "they", "are", "indistinguishable", "from", "legitimate", "sensor", "readings", "-LSB-", "17", ",", "19", "-RSB-", ".", "Hence", ",", "if", "a", "secure", "aggregation", "scheme", "does", "not", "make", "assumptions", "on", "the", "distribution", "of", "data", "values", ",", "it", "can", "not", "limit", "the", "adversary", "'s", "capability", "to", "perform", "direct", "data", "injection", ".", "We", "can", "thus", "define", "an", "optimal", "level", "of", "aggregation", "security", "as", "follows", ".", "Definition", "2", "An", "aggregation", "algorithm", "is", "optimally", "secure", "if", ",", "by", "tampering", "with", "the", "aggregation", "process", ",", "an", "adversary", "is", "unable", "to", "induce", "the", "querier", "to", "accept", "any", "aggregation", "result", "which", "is", "not", "already", "achievable", "by", "direct", "data", "injection", ".", "As", "a", "metric", "for", "communication", "overhead", ",", "we", "consider", "node", "congestion", ",", "which", "is", "the", "worst", "case", "communication", "load", "on", "any", "single", "sensor", "node", "during", "the", "algorithm", ".", "Congestion", "is", "a", "commonly", "used", "metric", "in", "ad-hoc", "networks", "since", "it", "measures", "how", "quickly", "the", "heaviest-loaded", "nodes", "will", "exhaust", "their", "batteries", "-LSB-", "6", ",", "12", "-RSB-", ".", "Since", "the", "heaviest-loaded", "nodes", "are", "typically", "the", "nodes", "which", "are", "most", "essential", "to", "the", "connectivity", "of", "the", "network", "-LRB-", "e.g.", ",", "the", "nodes", "closest", "to", "the", "base", "station", "-RRB-", ",", "their", "failure", "may", "cause", "the", "network", "to", "partition", "even", "though", "other", "sensor", "nodes", "in", "the", "network", "may", "still", "have", "high", "battery", "levels", ".", "A", "lower", "communication", "load", "on", "the", "heaviest-loaded", "nodes", "is", "thus", "desirable", "even", "if", "the", "trade-off", "is", "a", "larger", "amount", "of", "communication", "in", "the", "network", "as", "a", "whole", ".", "For", "a", "lower", "bound", "on", "congestion", ",", "consider", "an", "unsecured", "aggregation", "protocol", "where", "each", "node", "sends", "just", "a", "single", "message", "to", "its", "parent", "in", "the", "aggregation", "tree", ".", "This", "is", "the", "minimum", "number", "of", "messages", "that", "ensures", "that", "each", "sensor", "node", "contributes", "to", "the", "aggregation", "result", ".", "There", "is", "-LRB-", "1", "-RRB-", "congestion", "on", "each", "edge", "on", "the", "aggregation", "tree", ",", "thus", "resulting", "in", "-LRB-", "d", "-RRB-", "congestion", "on", "the", "node", "-LRB-", "s", "-RRB-", "with", "highest", "degree", "d", "in", "the", "aggregation", "tree", ".", "The", "parameter", "d", "is", "dependent", "on", "the", "shape", "of", "the", "given", "aggregation", "tree", "and", "can", "be", "as", "large", "as", "-LRB-", "n", "-RRB-", "for", "a", "single-aggregator", "topology", "or", "as", "small", "as", "-LRB-", "1", "-RRB-", "for", "a", "balanced", "aggregation", "tree", ".", "Since", "we", "are", "taking", "the", "aggregation", "tree", "topology", "as", "an", "input", ",", "we", "have", "no", "control", "over", "d.", "Hence", ",", "it", "is", "often", "more", "informative", "to", "consider", "per-edge", "congestion", ",", "which", "can", "be", "independent", "of", "the", "structure", "of", "the", "aggregation", "tree", ".", "Consider", "the", "simplest", "solution", "where", "we", "omit", "aggregation", "altogether", "and", "simply", "send", "all", "data", "values", "-LRB-", "encrypted", "and", "authenticated", "-RRB-", "directly", "to", "the", "base", "station", ",", "which", "then", "forwards", "it", "to", "the", "querier", ".", "This", "provides", "perfect", "data", "integrity", ",", "but", "induces", "O", "-LRB-", "n", "-RRB-", "congestion", "at", "the", "nodes", "and", "edges", "nearest", "the", "base", "station", ".", "For", "an", "algorithm", "to", "be", "practical", ",", "it", "must", "cause", "only", "sublinear", "edge", "congestion", ".", "Our", "goal", "is", "to", "design", "an", "optimally", "secure", "aggregation", "algorithm", "with", "only", "sublinear", "edge", "congestion", ".", "In", "this", "section", "we", "describe", "our", "algorithm", "for", "the", "SUM", "aggregate", ",", "where", "the", "aggregation", "function", "f", "is", "addition", ".", "Specifically", ",", "we", "wish", "to", "compute", "a", "1", "+", "+", "a", "n", ",", "where", "a", "i", "is", "the", "data", "value", "at", "node", "i", ".", "We", "defer", "analysis", "of", "the", "algorithm", "properties", "to", "Section", "5", ",", "and", "discuss", "the", "application", "of", "the", "algorithm", "to", "other", "aggregates", "such", "as", "COUNT", ",", "AVERAGE", "and", "MEDIAN", "in", "Section", "6", ".", "We", "build", "on", "the", "aggregate-commit-prove", "framework", "described", "by", "Przydatek", "et", "al.", "-LSB-", "17", "-RSB-", "but", "extend", "their", "single", "aggregator", "model", "to", "a", "fully", "distributed", "setting", ".", "Our", "algorithm", "involves", "computing", "a", "cryptographic", "commitment", "structure", "-LRB-", "similar", "to", "a", "hash", "tree", "-RRB-", "over", "the", "data", "values", "of", "the", "sensor", "nodes", "as", "well", "as", "the", "aggregation", "process", ".", "This", "forces", "the", "adversary", "to", "choose", "a", "fixed", "aggregation", "topology", "and", "set", "of", "aggregation", "results", ".", "The", "individual", "sensor", "nodes", "then", "independently", "audit", "the", "commitment", "structure", "to", "verify", "that", "their", "respective", "contributions", "have", "been", "added", "to", "the", "aggregate", ".", "If", "the", "adversary", "attempts", "to", "discard", "or", "reduce", "the", "contribution", "of", "a", "legitimate", "sensor", "node", ",", "this", "necessarily", "induces", "an", "inconsistency", "in", "the", "commitment", "structure", "which", "can", "be", "detected", "by", "the", "affected", "node", ".", "This", "basic", "approach", "provides", "us", "with", "a", "lower", "bound", "for", "the", "SUM", "aggregate", ".", "To", "provide", "an", "upper-bound", "for", "SUM", ",", "we", "can", "re-use", "the", "same", "lower-bounding", "approach", ",", "but", "on", "a", "complementary", "aggregate", "called", "the", "COMPLEMENT", "aggregate", ".", "Where", "SUM", "is", "defined", "as", "a", "i", ",", "COMPLEMENT", "is", "defined", "as", "-LRB-", "r", "-", "a", "i", "-RRB-", "where", "r", "is", "the", "upper", "bound", "on", "allowable", "data", "values", ".", "When", "the", "final", "aggregates", "are", "computed", ",", "the", "querier", "enforces", "the", "constraint", "that", "SUM", "+", "COM", "PLEMENT", "=", "nr", ".", "Hence", "any", "adversary", "that", "wishes", "to", "increase", "SUM", "must", "also", "decrease", "COMPLEMENT", ",", "and", "vice-versa", ",", "otherwise", "the", "discrepancy", "will", "be", "detected", ".", "Hence", ",", "by", "enforcing", "a", "lower-bound", "on", "COMPLEMENT", ",", "we", "are", "also", "enforcing", "an", "upper-bound", "on", "SUM", ".", "The", "overall", "algorithm", "has", "three", "main", "phases", ":", "query", "dissemination", ",", "aggregation-commit", ",", "and", "result-checking", ".", "Query", "dissemination", ".", "The", "base", "station", "broadcasts", "the", "query", "to", "the", "network", ".", "An", "aggregation", "tree", ",", "or", "a", "directed", "spanning", "tree", "over", "the", "network", "topology", "with", "the", "base", "station", "at", "the", "root", ",", "is", "formed", "as", "the", "query", "is", "sent", "to", "all", "the", "nodes", ",", "if", "one", "is", "not", "already", "present", "in", "the", "network", ".", "Aggregation", "commit", ".", "In", "this", "phase", ",", "the", "sensor", "nodes", "iteratively", "construct", "a", "commitment", "structure", "resembling", "a", "hash", "tree", ".", "First", ",", "the", "leaf", "nodes", "in", "the", "aggregation", "tree", "send", "their", "data", "values", "to", "their", "parents", "in", "the", "aggregation", "tree", ".", "Each", "internal", "sensor", "node", "in", "the", "aggregation", "tree", "performs", "an", "aggregation", "operation", "whenever", "it", "has", "heard", "from", "all", "its", "child", "sensor", "nodes", ".", "Whenever", "a", "sensor", "node", "s", "performs", "an", "aggregation", "operation", ",", "s", "creates", "a", "commitment", "to", "the", "set", "of", "inputs", "used", "to", "compute", "the", "aggregate", "by", "computing", "a", "hash", "over", "all", "the", "inputs", "-LRB-", "including", "the", "commitments", "that", "were", "computed", "by", "the", "children", "of", "s", "-RRB-", ".", "Both", "the", "aggregation", "result", "and", "the", "commitment", "are", "then", "passed", "on", "to", "the", "parent", "of", "s", ".", "After", "the", "final", "commitment", "values", "are", "reported", "to", "the", "base", "station", "-LRB-", "and", "thus", "also", "to", "the", "querier", "-RRB-", ",", "the", "adversary", "can", "not", "subsequently", "claim", "a", "different", "aggregation", "structure", "or", "result", ".", "We", "describe", "an", "optimisation", "to", "ensure", "that", "the", "constructed", "commitment", "trees", "are", "perfectly", "balanced", ",", "thus", "requiring", "low", "congestion", "overhead", "in", "the", "next", "phase", ".", "Result-checking", ".", "The", "result-checking", "phase", "is", "a", "novel", "distributed", "verification", "process", ".", "In", "prior", "work", ",", "algorithms", "have", "relied", "on", "the", "querier", "to", "issue", "probes", "into", "the", "commitment", "structure", "to", "verify", "its", "integrity", "-LSB-", "17", ",", "19", "-RSB-", ".", "This", "induces", "congestion", "nearest", "the", "base", "station", ",", "and", "moreover", ",", "such", "algorithms", "yield", "at", "best", "probabilistic", "security", "properties", ".", "We", "show", "that", "if", "the", "verification", "step", "is", "instead", "fully", "distributed", ",", "it", "is", "possible", "to", "achieve", "provably", "optimal", "security", "while", "maintaining", "sublinear", "edge", "congestion", ".", "The", "result-checking", "phase", "proceeds", "as", "follows", ".", "Once", "the", "querier", "has", "received", "the", "final", "commitment", "values", ",", "it", "disseminates", "them", "to", "the", "rest", "of", "the", "network", "in", "an", "authenticated", "broadcast", ".", "At", "the", "same", "time", ",", "sensor", "nodes", "disseminate", "information", "that", "will", "allow", "their", "peers", "to", "verify", "that", "their", "respective", "data", "values", "have", "been", "incorporated", "into", "the", "aggregate", ".", "Each", "sensor", "node", "is", "responsible", "for", "checking", "that", "its", "own", "contribution", "was", "added", "into", "the", "aggregate", ".", "If", "a", "sensor", "node", "determines", "that", "its", "data", "value", "was", "indeed", "added", "towards", "the", "final", "sum", ",", "it", "sends", "an", "authentication", "code", "up", "the", "aggregation", "tree", "towards", "to", "the", "base", "station", ".", "Authentication", "codes", "are", "aggregated", "along", "the", "way", "with", "the", "XOR", "function", "for", "communication", "efficiency", ".", "When", "the", "querier", "has", "received", "the", "XOR", "of", "all", "the", "authentication", "codes", ",", "it", "can", "then", "verify", "that", "all", "the", "sensor", "nodes", "have", "confirmed", "that", "the", "aggregation", "structure", "is", "consistent", "with", "their", "data", "values", ".", "If", "so", ",", "then", "it", "accepts", "the", "aggregation", "result", ".", "We", "now", "describe", "the", "details", "of", "each", "of", "the", "three", "phases", "in", "turn", ".", "280", "-LRB-", "a", "-RRB-", "Example", "network", "graph", ".", "Arrows", ":", "Aggregation", "tree", ".", "R", ":", "Base", "station", ".", "Q", ":", "Querier", ".", "G", "0", "=", "1", ",", "a", "G", ",", "r", "-", "a", "G", ",", "G", "F", "1", "=", "2", ",", "v", "F", "1", ",", "v", "F", "1", ",", "H", "-LSB-", "N", "|", "|", "2", "|", "|", "v", "F", "1", "|", "|", "v", "F", "1", "|", "|", "F", "0", "|", "|", "G", "0", "-RSB-", "C", "1", "=", "4", ",", "v", "C", "1", ",", "v", "C", "1", ",", "H", "-LSB-", "N", "|", "|", "4", "|", "|", "v", "C", "1", "|", "|", "v", "C", "1", "|", "|", "C", "0", "|", "|", "E", "0", "|", "|", "F", "1", "-RSB-", "A", "1", "=", "9", ",", "v", "A", "1", ",", "v", "A", "1", ",", "H", "-LSB-", "N", "|", "|", "9", "|", "|", "v", "A", "1", "|", "|", "v", "A", "1", "|", "|", "A", "0", "|", "|", "B", "1", "|", "|", "C", "1", "|", "|", "D", "0", "-RSB-", "R", "=", "12", ",", "v", "R", ",", "v", "R", ",", "H", "-LSB-", "N", "|", "|", "12", "|", "|", "v", "R", "|", "|", "v", "R", "|", "|", "H", "0", "|", "|", "A", "1", "|", "|", "I", "0", "-RSB-", "-LRB-", "b", "-RRB-", "Naive", "commitment", "tree", ",", "showing", "derivations", "of", "some", "of", "the", "vertices", ".", "For", "each", "sensor", "node", "X", ",", "X", "0", "is", "its", "leaf", "vertex", ",", "while", "X", "1", "is", "the", "internal", "vertex", "representing", "the", "aggregate", "computation", "at", "X", "-LRB-", "if", "any", "-RRB-", ".", "On", "the", "right", "we", "list", "the", "labels", "of", "the", "vertices", "on", "the", "path", "of", "node", "G", "to", "the", "root", ".", "Figure", "1", ":", "Aggregation", "and", "naive", "commitment", "tree", "in", "network", "context", "4.1", "Query", "Dissemination", "First", ",", "an", "aggregation", "tree", "is", "established", "if", "one", "is", "not", "already", "present", ".", "Various", "algorithms", "for", "selecting", "the", "structure", "of", "an", "aggregation", "tree", "may", "be", "used", ".", "For", "completeness", ",", "we", "describe", "one", "such", "process", ",", "while", "noting", "that", "our", "algorithm", "is", "directly", "applicable", "to", "any", "aggregation", "tree", "structure", ".", "The", "Tiny", "Aggregation", "Service", "-LRB-", "TaG", "-RRB-", "-LSB-", "11", "-RSB-", "uses", "a", "broadcast", "from", "the", "base", "station", "where", "each", "node", "chooses", "as", "its", "parent", "in", "the", "aggregation", "tree", ",", "the", "node", "from", "which", "it", "first", "heard", "the", "tree-formation", "message", ".", "To", "initiate", "a", "query", "in", "the", "aggregation", "tree", ",", "the", "base", "station", "originates", "a", "query", "request", "message", "which", "is", "distributed", "following", "the", "aggregation", "tree", ".", "The", "query", "request", "message", "contains", "an", "attached", "nonce", "N", "to", "prevent", "replay", "of", "messages", "belonging", "to", "a", "prior", "query", ",", "and", "the", "entire", "request", "message", "is", "sent", "using", "an", "authenticated", "broadcast", ".", "4.2", "Aggregation-Commit", "Phase", "The", "goal", "of", "the", "aggregation-commit", "phase", "is", "to", "iteratively", "construct", "a", "series", "of", "cryptographic", "commitments", "to", "data", "values", "and", "to", "intermediate", "in-network", "aggregation", "operations", ".", "This", "commitment", "is", "then", "passed", "on", "to", "the", "querier", ".", "The", "querier", "then", "rebroadcasts", "the", "commitment", "to", "the", "sensor", "network", "using", "an", "authenticated", "broadcast", "so", "that", "the", "rest", "of", "the", "sensor", "network", "is", "able", "to", "verify", "that", "their", "respective", "data", "values", "have", "been", "incorporated", "into", "the", "aggregate", ".", "4.2.1", "Aggregation-Commit", ":", "Naive", "Approach", "We", "first", "describe", "a", "naive", "approach", "that", "yields", "the", "desired", "security", "properties", "but", "has", "suboptimal", "congestion", "overhead", "when", "sensor", "nodes", "perform", "their", "respective", "verifications", ".", "In", "the", "naive", "approach", ",", "when", "each", "sensor", "node", "performs", "an", "aggregation", "operation", ",", "it", "computes", "a", "cryptographic", "hash", "of", "all", "its", "inputs", "-LRB-", "including", "its", "own", "data", "value", "-RRB-", ".", "The", "hash", "value", "is", "then", "passed", "on", "to", "the", "parent", "in", "the", "aggregation", "tree", "along", "with", "the", "aggregation", "result", ".", "Figure", "1", "-LRB-", "b", "-RRB-", "shows", "a", "commitment", "tree", "which", "consists", "of", "a", "series", "of", "hashes", "of", "data", "values", "and", "intermediate", "results", ",", "culminating", "in", "a", "set", "of", "final", "commitment", "values", "which", "is", "passed", "on", "by", "the", "base", "station", "to", "the", "querier", "along", "with", "the", "aggregation", "results", ".", "Conceptually", ",", "a", "commitment", "tree", "is", "a", "hash", "tree", "with", "some", "additional", "aggregate", "accounting", "information", "attached", "to", "the", "nodes", ".", "A", "definition", "follows", ".", "Recall", "that", "N", "is", "the", "query", "nonce", "that", "is", "disseminated", "with", "each", "query", ".", "Definition", "3", "A", "commitment", "tree", "is", "a", "tree", "where", "each", "vertex", "has", "an", "associated", "label", "representing", "the", "data", "that", "is", "passed", "on", "to", "its", "parent", ".", "The", "labels", "have", "the", "following", "format", ":", "count", ",", "value", ",", "complement", ",", "commitment", "Where", "count", "is", "the", "number", "of", "leaf", "vertices", "in", "the", "subtree", "rooted", "at", "this", "vertex", ";", "value", "is", "the", "SUM", "aggregate", "computed", "over", "all", "the", "leaves", "in", "the", "subtree", ";", "complement", "is", "the", "aggregate", "over", "the", "COMPLEMENT", "of", "the", "data", "values", ";", "and", "commitment", "is", "a", "cryptographic", "commitment", ".", "The", "labels", "are", "defined", "inductively", "as", "follows", ":", "There", "is", "one", "leaf", "vertex", "u", "s", "for", "each", "sensor", "node", "s", ",", "which", "we", "call", "the", "leaf", "vertex", "of", "s", ".", "The", "label", "of", "u", "s", "consists", "of", "count", "=", "1", ",", "value", "=", "a", "s", "where", "a", "s", "is", "the", "data", "value", "of", "s", ",", "complement", "=", "r", "-", "a", "s", "where", "r", "is", "the", "upper", "bound", "on", "allowable", "data", "values", ",", "and", "commitment", "is", "the", "node", "'s", "unique", "ID", ".", "Internal", "vertices", "represent", "aggregation", "operations", ",", "and", "have", "labels", "that", "are", "defined", "based", "on", "their", "children", ".", "Suppose", "an", "internal", "vertex", "has", "child", "vertices", "with", "the", "following", "labels", ":", "u", "1", ",", "u", "2", ",", "...", ",", "u", "q", ",", "where", "u", "i", "=", "c", "i", ",", "v", "i", ",", "v", "i", ",", "h", "i", ".", "Then", "the", "vertex", "has", "label", "c", ",", "v", ",", "v", ",", "h", ",", "with", "c", "=", "c", "i", ",", "v", "=", "v", "i", ",", "v", "=", "v", "i", "and", "h", "=", "H", "-LSB-", "N", "|", "|", "c", "|", "|", "v", "|", "|", "v", "|", "|", "u", "1", "|", "|", "u", "2", "|", "|", "|", "|", "u", "q", "-RSB-", ".", "For", "brevity", ",", "in", "the", "remainder", "of", "the", "paper", "we", "will", "often", "omit", "references", "to", "labels", "and", "instead", "refer", "directly", "to", "the", "count", ",", "value", ",", "complement", "or", "commitment", "of", "a", "vertex", ".", "While", "there", "exists", "a", "natural", "mapping", "between", "vertices", "in", "a", "commitment", "tree", "and", "sensor", "nodes", "in", "the", "aggregation", "tree", ",", "a", "vertex", "is", "a", "logical", "element", "in", "a", "graph", "while", "a", "sensor", "node", "is", "a", "physical", "device", ".", "To", "prevent", "confusion", ",", "we", "will", "always", "refer", "to", "the", "vertices", "in", "the", "commitment", "tree", ";", "the", "term", "nodes", "always", "refers", "to", "the", "physical", "sensor", "node", "device", ".", "Since", "we", "assume", "that", "our", "hash", "function", "provides", "collision", "resistance", ",", "it", "is", "computationally", "infeasible", "for", "an", "adversary", "to", "change", "any", "of", "the", "contents", "of", "the", "commitment", "tree", "once", "the", "final", "commitment", "values", "have", "reached", "the", "root", ".", "With", "knowledge", "of", "the", "root", "commitment", "value", ",", "a", "node", "s", "may", "verify", "the", "aggregation", "steps", "between", "its", "leaf", "vertex", "u", "s", "and", "the", "root", "of", "the", "commitment", "tree", ".", "To", "do", "so", ",", "s", "needs", "the", "labels", "of", "all", "its", "off-path", "vertices", ".", "Definition", "4", "The", "set", "of", "off-path", "vertices", "for", "a", "vertex", "u", "in", "a", "tree", "is", "the", "set", "of", "all", "the", "siblings", "of", "each", "of", "the", "vertices", "on", "the", "path", "from", "u", "to", "the", "root", "of", "the", "tree", "that", "u", "is", "in", "-LRB-", "the", "path", "is", "inclusive", "of", "u", "-RRB-", ".", "281", "Figure", "2", ":", "Off-path", "vertices", "for", "u", "are", "highlighted", "in", "bold", ".", "The", "path", "from", "u", "to", "the", "root", "of", "its", "tree", "is", "shaded", "grey", ".", "Figure", "2", "shows", "a", "pictorial", "depiction", "of", "the", "off-path", "vertices", "for", "a", "vertex", "u", "in", "a", "tree", ".", "For", "a", "more", "concrete", "example", ",", "the", "set", "of", "off-path", "commitment", "tree", "vertices", "for", "G", "0", "in", "Figure", "1", "is", "-LCB-", "F", "0", ",", "E", "0", ",", "C", "0", ",", "B", "1", ",", "A", "0", ",", "D", "0", ",", "H", "0", ",", "I", "0", "-RCB-", ".", "To", "allow", "sensor", "node", "G", "to", "verify", "its", "contribution", "to", "the", "aggregate", ",", "the", "sensor", "network", "delivers", "labels", "of", "each", "off-path", "vertex", "to", "G", "0", ".", "Sensor", "node", "G", "then", "recomputes", "the", "sequence", "of", "computations", "and", "hashes", "and", "verifies", "that", "they", "lead", "to", "the", "correct", "root", "commitment", "value", ".", "Consider", "the", "congestion", "on", "the", "naive", "scheme", ".", "Let", "h", "be", "the", "height", "of", "the", "aggregation", "tree", "and", "be", "the", "maximum", "degree", "of", "any", "node", "inside", "the", "tree", ".", "Each", "leaf", "vertex", "has", "O", "-LRB-", "h", "-RRB-", "off-path", "vertices", ",", "and", "it", "needs", "to", "receive", "all", "their", "labels", "to", "verify", "its", "contribution", "to", "the", "aggregate", ",", "thus", "leading", "to", "O", "-LRB-", "h", "-RRB-", "congestion", "at", "the", "leaves", "of", "the", "commitment", "tree", ".", "For", "an", "aggregation", "tree", "constructed", "with", "TaG", ",", "the", "height", "h", "of", "the", "aggregation", "tree", "depends", "on", "the", "diameter", "-LRB-", "in", "number", "of", "hops", "-RRB-", "of", "the", "network", ",", "which", "in", "turn", "depends", "on", "the", "node", "density", "and", "total", "number", "of", "nodes", "n", "in", "the", "network", ".", "In", "a", "2-dimensional", "deployment", "area", "with", "a", "constant", "node", "density", ",", "the", "best", "bound", "on", "the", "diameter", "of", "the", "network", "is", "O", "-LRB-", "n", "-RRB-", "if", "the", "network", "is", "regularly", "shaped", ".", "In", "irregular", "topologies", "the", "diameter", "of", "the", "network", "may", "be", "-LRB-", "n", "-RRB-", ".", "4.2.2", "Aggregation-Commit", ":", "Improved", "Approach", "We", "present", "an", "optimization", "to", "improve", "the", "congestion", "cost", ".", "The", "main", "observation", "is", "that", ",", "since", "the", "aggregation", "trees", "are", "a", "sub-graph", "of", "the", "network", "topology", ",", "they", "may", "be", "arbitrarily", "unbalanced", ".", "Hence", ",", "if", "we", "decouple", "the", "structure", "of", "the", "commitment", "tree", "from", "the", "structure", "of", "the", "aggregation", "tree", ",", "then", "the", "commitment", "tree", "could", "be", "perfectly", "balanced", ".", "In", "the", "naive", "commitment", "tree", ",", "each", "sensor", "node", "always", "computes", "the", "aggregate", "sum", "of", "all", "its", "inputs", ".", "This", "can", "be", "considered", "a", "strategy", "of", "greedy", "aggregation", ".", "Consider", "instead", "the", "benefit", "of", "delayed", "aggregation", "at", "node", "C", "1", "in", "Figure", "1", "-LRB-", "b", "-RRB-", ".", "Suppose", "that", "C", ",", "instead", "of", "greedily", "computing", "the", "aggregate", "sum", "over", "its", "own", "reading", "-LRB-", "C", "0", "-RRB-", "and", "both", "its", "child", "nodes", "E", "0", "and", "F", "1", ",", "instead", "computes", "the", "sum", "only", "over", "C", "0", "and", "E", "0", ",", "and", "passes", "F", "1", "directly", "to", "A", "along", "with", "C", "1", "=", "C", "0", "+", "E", "0", ".", "In", "such", "a", "commitment", "tree", ",", "F", "1", "becomes", "a", "child", "of", "A", "1", "-LRB-", "instead", "of", "C", "1", "-RRB-", ",", "thus", "reducing", "the", "depth", "of", "the", "commitment", "tree", "by", "1", ".", "Delayed", "aggregation", "thus", "trades", "off", "increased", "communication", "during", "the", "aggregation", "phase", "in", "return", "for", "a", "more", "balanced", "commitment", "tree", ",", "which", "results", "in", "lower", "verification", "overhead", "in", "the", "result-checking", "phase", ".", "Greenwald", "and", "Khanna", "-LSB-", "6", "-RSB-", "used", "a", "form", "of", "delayed", "aggregation", "in", "their", "quantile", "summary", "algorithm", ".", "Our", "strategy", "for", "delayed", "aggregation", "is", "as", "follows", ":", "we", "perform", "an", "aggregation", "operation", "-LRB-", "along", "with", "the", "associated", "commit", "operation", "-RRB-", "if", "and", "only", "if", "it", "results", "in", "a", "complete", ",", "binary", "commitment", "tree", ".", "We", "now", "describe", "our", "delayed", "aggregation", "algorithm", "for", "producing", "balanced", "commitment", "trees", ".", "In", "the", "naive", "commitment", "tree", ",", "each", "sensor", "node", "passes", "to", "its", "parent", "a", "single", "message", "containing", "the", "label", "of", "the", "root", "vertex", "of", "its", "commitment", "subtree", "T", "s", ".", "In", "the", "delayed", "aggregation", "algorithm", ",", "each", "sensor", "node", "now", "passes", "on", "the", "labels", "of", "the", "root", "vertices", "of", "a", "set", "of", "commitment", "subtrees", "F", "=", "-LCB-", "T", "1", ",", "...", ",", "T", "q", "-RCB-", ".", "We", "call", "this", "set", "a", "commitment", "forest", ",", "and", "we", "enforce", "the", "condition", "that", "the", "trees", "in", "the", "forest", "must", "be", "complete", "binary", "trees", ",", "and", "no", "two", "trees", "have", "the", "same", "height", ".", "These", "constraints", "are", "enforced", "by", "continually", "combining", "equal-height", "trees", "into", "complete", "binary", "trees", "of", "greater", "height", ".", "Definition", "5", "A", "commitment", "forest", "is", "a", "set", "of", "complete", "binary", "commitment", "trees", "such", "that", "there", "is", "at", "most", "one", "commitment", "tree", "of", "any", "given", "height", ".", "A", "commitment", "forest", "has", "at", "most", "n", "leaf", "vertices", "-LRB-", "one", "for", "each", "sensor", "node", "included", "in", "the", "forest", ",", "up", "to", "a", "maximum", "of", "n", "-RRB-", ".", "Since", "all", "the", "trees", "are", "complete", "binary", "trees", ",", "the", "tallest", "tree", "in", "any", "commitment", "forest", "has", "height", "at", "most", "log", "n", ".", "Since", "there", "are", "no", "two", "trees", "of", "the", "same", "height", ",", "any", "commitment", "forest", "has", "at", "most", "log", "n", "trees", ".", "In", "the", "following", "discussion", ",", "we", "will", "for", "brevity", "make", "reference", "to", "``", "communicating", "a", "vertex", "''", "to", "another", "sensor", "node", ",", "or", "``", "communicating", "a", "commitment", "forest", "''", "to", "another", "sensor", "node", ".", "The", "actual", "data", "communicated", "is", "the", "label", "of", "the", "vertex", "and", "the", "labels", "of", "the", "roots", "of", "the", "trees", "in", "the", "commitment", "forest", ",", "respectively", ".", "The", "commitment", "forest", "is", "built", "as", "follows", ".", "Leaf", "sensor", "nodes", "in", "the", "aggregation", "tree", "originate", "a", "single-vertex", "commitment", "forest", ",", "which", "they", "then", "communicate", "to", "their", "parent", "sensor", "nodes", ".", "Each", "internal", "sensor", "node", "s", "originates", "a", "similar", "single-vertex", "commitment", "forest", ".", "In", "addition", ",", "s", "also", "receives", "commitment", "forests", "from", "each", "of", "its", "children", ".", "Sensor", "node", "s", "keeps", "track", "of", "which", "root", "vertices", "were", "received", "from", "which", "of", "its", "children", ".", "It", "then", "combines", "all", "the", "forests", "to", "form", "a", "new", "forest", "as", "follows", ".", "Suppose", "s", "wishes", "to", "combine", "q", "commitment", "forests", "F", "1", ",", "...", ",", "F", "q", ".", "Note", "that", "since", "all", "commitment", "trees", "are", "complete", "binary", "trees", ",", "tree", "heights", "can", "be", "determined", "by", "inspecting", "the", "count", "field", "of", "the", "root", "vertex", ".", "We", "let", "the", "intermediate", "result", "be", "F", "=", "F", "1", "F", "q", ",", "and", "repeat", "the", "following", "until", "no", "two", "trees", "are", "the", "same", "height", "in", "F", ":", "Let", "h", "be", "the", "smallest", "height", "such", "that", "more", "than", "one", "tree", "in", "F", "has", "height", "h.", "Find", "two", "commitment", "trees", "T", "1", "and", "T", "2", "of", "height", "h", "in", "F", ",", "and", "merge", "them", "into", "a", "tree", "of", "height", "h", "+1", "by", "creating", "a", "new", "vertex", "that", "is", "the", "parent", "of", "both", "the", "roots", "of", "T", "1", "and", "T", "2", "according", "to", "the", "inductive", "rule", "in", "Definition", "3", ".", "Figure", "3", "shows", "an", "example", "of", "the", "process", "for", "node", "A", "based", "on", "the", "topology", "in", "Figure", "1", ".", "The", "algorithm", "terminates", "in", "O", "-LRB-", "qlogn", "-RRB-", "steps", "since", "each", "step", "reduces", "the", "number", "of", "trees", "in", "the", "forest", "by", "one", ",", "and", "there", "are", "at", "most", "q", "log", "n", "+", "1", "trees", "in", "the", "forest", ".", "Hence", ",", "each", "sensor", "node", "creates", "at", "most", "q", "log", "n", "+", "1", "=", "O", "-LRB-", "logn", "-RRB-", "vertices", "in", "the", "commitment", "forest", ".", "When", "F", "is", "a", "valid", "commitment", "forest", ",", "s", "sends", "the", "root", "vertices", "of", "each", "tree", "in", "F", "to", "its", "parent", "sensor", "node", "in", "the", "aggregation", "tree", ".", "The", "sensor", "node", "s", "also", "keeps", "track", "of", "every", "vertex", "that", "it", "created", ",", "as", "well", "as", "all", "the", "inputs", "that", "it", "received", "-LRB-", "i.e.", ",", "the", "labels", "of", "the", "root", "vertices", "of", "the", "commitment", "forests", "that", "were", "sent", "to", "s", "by", "its", "children", "-RRB-", ".", "This", "takes", "O", "-LRB-", "d", "logn", "-RRB-", "memory", "per", "sensor", "node", ".", "Consider", "the", "communication", "costs", "of", "the", "entire", "process", "of", "creating", "the", "final", "commitment", "forest", ".", "Since", "there", "are", "at", "most", "log", "n", "commitment", "trees", "in", "each", "of", "the", "forests", "presented", "by", "any", "sensor", "node", "to", "its", "parent", ",", "the", "per-node", "communication", "cost", "for", "constructing", "the", "final", "forest", "is", "O", "-LRB-", "logn", "-RRB-", ".", "This", "is", "greater", "than", "the", "O", "-LRB-", "1", "-RRB-", "congestion", "cost", "of", "constructing", "the", "naive", "commitment", "tree", ".", "However", ",", "no", "path", "in", "the", "forest", "is", "longer", "than", "log", "n", "hops", ".", "This", "will", "eventually", "enable", "us", "to", "prove", "a", "bound", "of", "O", "-LRB-", "log", "2", "n", "-RRB-", "edge", "congestion", "for", "the", "result-checking", "phase", "in", "Section", "5.2", ".", "Once", "the", "querier", "has", "received", "the", "final", "commitment", "forest", "from", "the", "base", "station", ",", "it", "checks", "that", "none", "of", "the", "SUM", "or", "COMPLEMENT", "aggregates", "of", "the", "roots", "of", "the", "trees", "in", "the", "forest", "are", "negative", ".", "If", "282", "A", "0", "=", "1", ",", "a", "A", ",", "r", "-", "a", "A", ",", "A", "D", "0", "=", "1", ",", "a", "D", ",", "r", "-", "a", "D", ",", "D", "K", "0", "=", "1", ",", "a", "K", ",", "r", "-", "a", "K", ",", "K", "C", "2", "=", "4", ",", "v", "C", "2", ",", "v", "C", "2", ",", "H", "-LSB-", "N", "|", "|", "4", "|", "|", "v", "C", "2", "|", "|", "v", "C", "2", "|", "|", "F", "1", "|", "|", "C", "1", "-RSB-", "B", "1", "=", "2", ",", "v", "B", "1", ",", "v", "B", "1", ",", "H", "-LSB-", "N", "|", "|", "2", "|", "|", "v", "B", "1", "|", "|", "v", "B", "1", "|", "|", "B", "0", "|", "|", "J", "0", "-RSB-", "-LRB-", "a", "-RRB-", "Inputs", ":", "A", "generates", "A", "0", ",", "and", "receives", "D", "0", "from", "D", ",", "C", "2", "from", "C", ",", "and", "-LRB-", "B", "1", ",", "K", "0", "-RRB-", "from", "B.", "Each", "dashed-line", "box", "shows", "the", "commitment", "forest", "received", "from", "a", "given", "sensor", "node", ".", "The", "solid-line", "box", "shows", "the", "vertex", "labels", ",", "each", "solid-line", "box", "below", "shows", "the", "labels", "of", "the", "new", "vertices", ".", "v", "A", "1", "=", "a", "A", "+", "a", "D", "v", "A", "1", "=", "r", "-", "a", "A", "+", "r", "-", "a", "D", "A", "1", "=", "2", ",", "v", "A", "1", ",", "v", "A", "1", ",", "H", "-LSB-", "N", "|", "|", "2", "|", "|", "v", "A", "1", "|", "|", "v", "A", "1", "|", "|", "A", "0", "|", "|", "D", "0", "-RSB-", "-LRB-", "b", "-RRB-", "First", "merge", ":", "Vertex", "A", "1", "created", "v", "A", "2", "=", "v", "A", "1", "+", "v", "B", "1", "v", "A", "2", "=", "v", "A", "1", "+", "v", "B", "1", "A", "2", "=", "4", ",", "v", "A", "2", ",", "v", "A", "2", ",", "H", "-LSB-", "N", "|", "|", "4", "|", "|", "v", "A", "2", "|", "|", "v", "A", "2", "|", "|", "A", "1", "|", "|", "B", "1", "-RSB-", "-LRB-", "c", "-RRB-", "Second", "merge", ":", "Vertex", "A", "2", "created", "v", "A", "3", "=", "v", "A", "2", "+", "v", "C", "2", "v", "A", "3", "=", "v", "A", "2", "+", "v", "C", "2", "A", "3", "=", "8", ",", "v", "A", "3", ",", "v", "A", "3", ",", "H", "-LSB-", "N", "|", "|", "8", "|", "|", "v", "A", "3", "|", "|", "v", "A", "3", "|", "|", "A", "2", "|", "|", "C", "2", "-RSB-", "-LRB-", "d", "-RRB-", "Final", "merge", ":", "Vertex", "A", "3", "created", ".", "A", "3", "and", "K", "0", "are", "sent", "to", "the", "parent", "of", "A", "in", "the", "aggregation", "tree", ".", "Figure", "3", ":", "Process", "of", "node", "A", "-LRB-", "from", "Figure", "1", "-RRB-", "deriving", "its", "commitment", "forest", "from", "the", "commitment", "forests", "received", "from", "its", "children", ".", "any", "aggregates", "are", "negative", ",", "the", "querier", "rejects", "the", "result", "and", "raises", "an", "alarm", ":", "a", "negative", "aggregate", "is", "a", "sure", "sign", "of", "tampering", "since", "all", "the", "data", "values", "-LRB-", "and", "their", "complements", "-RRB-", "are", "non-negative", ".", "Otherwise", ",", "the", "querier", "then", "computes", "the", "final", "pair", "of", "aggregates", "SUM", "and", "COMPLEMENT", ".", "The", "querier", "verifies", "that", "SUM", "+", "COMPLEMENT", "=", "nr", "where", "r", "is", "the", "upper", "bound", "on", "the", "range", "of", "allowable", "data", "values", "on", "each", "node", ".", "If", "this", "verifies", "correctly", ",", "the", "querier", "then", "initiates", "the", "result-checking", "phase", ".", "4.3", "Result-checking", "phase", "The", "purpose", "of", "the", "result-checking", "phase", "is", "to", "enable", "each", "sensor", "node", "s", "to", "independently", "verify", "that", "its", "data", "value", "a", "s", "was", "added", "into", "the", "SUM", "aggregate", ",", "and", "the", "complement", "-LRB-", "r", "-", "a", "s", "-RRB-", "of", "its", "data", "value", "was", "added", "into", "the", "COMPLEMENT", "aggregate", ".", "The", "verification", "is", "performed", "by", "inspecting", "the", "inputs", "and", "aggregation", "operations", "in", "the", "commitment", "forest", "on", "the", "path", "from", "the", "leaf", "vertex", "of", "s", "to", "the", "root", "of", "its", "tree", ";", "if", "all", "the", "operations", "are", "consistent", ",", "then", "the", "root", "aggregate", "value", "must", "have", "increased", "by", "a", "s", "due", "to", "the", "incorporation", "of", "the", "data", "value", ".", "If", "each", "legitimate", "node", "performs", "this", "verification", ",", "then", "it", "ensures", "that", "the", "SUM", "aggregate", "is", "at", "least", "the", "sum", "of", "all", "the", "data", "values", "of", "the", "legitimate", "nodes", ".", "Similarly", ",", "the", "COMPLEMENT", "aggregate", "is", "at", "least", "the", "sum", "of", "all", "the", "complements", "of", "the", "data", "values", "of", "the", "legitimate", "nodes", ".", "Since", "the", "querier", "enforces", "SUM", "+", "COMPLEMENT", "=", "nr", ",", "these", "two", "inequalities", "form", "lower", "and", "upper", "bounds", "on", "an", "adversary", "'s", "ability", "to", "manipulate", "the", "final", "result", ".", "In", "Section", "5", "we", "shall", "show", "that", "they", "are", "in", "fact", "the", "tightest", "bounds", "possible", ".", "A", "high", "level", "overview", "of", "the", "process", "is", "as", "follows", ".", "First", ",", "the", "aggregation", "results", "from", "the", "aggregation-commit", "phase", "are", "sent", "using", "authenticated", "broadcast", "to", "every", "sensor", "node", "in", "the", "network", ".", "Each", "sensor", "node", "then", "individually", "verifies", "that", "its", "contributions", "to", "the", "respective", "SUM", "and", "COMPLEMENT", "aggregates", "were", "indeed", "counted", ".", "If", "so", ",", "it", "sends", "an", "authentication", "code", "to", "the", "base", "station", ".", "The", "authentication", "code", "is", "also", "aggregated", "for", "communication", "effi-283", "Figure", "4", ":", "Dissemination", "of", "off-path", "values", ":", "t", "sends", "the", "label", "of", "u", "1", "to", "u", "2", "and", "vice-versa", ";", "each", "node", "then", "forwards", "it", "to", "all", "the", "vertices", "in", "their", "subtrees", ".", "ciency", ".", "When", "the", "querier", "has", "received", "all", "the", "authentication", "codes", ",", "it", "is", "then", "able", "to", "verify", "that", "all", "sensor", "nodes", "have", "checked", "that", "their", "contribution", "to", "the", "aggregate", "has", "been", "correctly", "counted", ".", "For", "simplicity", ",", "we", "describe", "each", "step", "of", "the", "process", "with", "reference", "to", "the", "commitment", "tree", "visualised", "as", "an", "overlay", "network", "over", "the", "actual", "aggregation", "tree", ".", "Hence", ",", "we", "will", "refer", "to", "vertices", "in", "the", "commitment", "tree", "sending", "information", "to", "each", "other", ";", "in", "the", "physical", "world", ",", "it", "is", "the", "sensor", "node", "that", "created", "the", "vertex", "is", "the", "physical", "entity", "that", "is", "responsible", "for", "performing", "communications", "and", "computations", "on", "behalf", "of", "the", "vertex", ".", "Each", "edge", "in", "the", "commitment", "tree", "may", "involve", "multiple", "hops", "in", "the", "aggregation", "tree", ";", "the", "routing", "on", "the", "aggregation", "tree", "is", "straightforward", ".", "Dissemination", "of", "final", "commitment", "values", ".", "After", "the", "querier", "has", "received", "the", "labels", "of", "the", "roots", "of", "the", "final", "commitment", "forest", ",", "the", "querier", "sends", "each", "of", "these", "labels", "to", "the", "entire", "sensor", "network", "using", "authenticated", "broadcast", ".", "Dissemination", "of", "off-path", "values", ".", "To", "enable", "verification", ",", "each", "leaf", "vertex", "must", "receive", "all", "its", "off-path", "values", ".", "Each", "internal", "vertex", "t", "in", "the", "commitment", "forest", "has", "two", "children", "u", "1", "and", "u", "2", ".", "To", "disseminate", "off-path", "values", ",", "t", "sends", "the", "label", "of", "u", "1", "to", "u", "2", ",", "and", "vice-versa", "-LRB-", "t", "also", "attaches", "relevant", "information", "tagging", "u", "1", "as", "the", "right", "child", "and", "u", "2", "as", "the", "left", "child", "-RRB-", ".", "Vertex", "t", "also", "sends", "any", "labels", "-LRB-", "and", "left/right", "tags", "-RRB-", "received", "from", "its", "parent", "to", "both", "its", "children", ".", "See", "Figure", "4", "for", "an", "illustration", "of", "the", "process", ".", "The", "correctness", "of", "this", "algorithm", "in", "delivering", "all", "the", "necessary", "off-path", "vertex", "labels", "to", "each", "vertex", "is", "proven", "in", "Theorem", "14", "in", "Section", "5.2", ".", "Once", "a", "vertex", "has", "received", "all", "the", "labels", "of", "its", "off-path", "vertices", ",", "it", "can", "proceed", "to", "the", "verification", "step", ".", "Verification", "of", "inclusion", ".", "When", "the", "leaf", "vertex", "u", "s", "of", "a", "sensor", "node", "s", "has", "received", "all", "the", "labels", "of", "its", "off-path", "vertices", ",", "it", "may", "then", "verify", "that", "no", "aggregation", "result-tampering", "has", "occurred", "on", "the", "path", "between", "u", "s", "and", "the", "root", "of", "its", "commitment", "tree", ".", "For", "each", "vertex", "t", "on", "the", "path", "from", "u", "s", "to", "the", "root", "of", "its", "commitment", "tree", ",", "u", "s", "derives", "the", "label", "of", "t", "-LRB-", "via", "the", "computations", "in", "Definition", "3", "-RRB-", ".", "It", "is", "able", "to", "do", "so", "since", "the", "off-path", "labels", "provide", "all", "the", "necessary", "data", "to", "perform", "the", "label", "computation", ".", "During", "the", "computation", ",", "u", "s", "inspects", "the", "off-path", "labels", ":", "for", "each", "node", "t", "on", "the", "path", "from", "u", "s", "to", "the", "root", ",", "u", "s", "checks", "that", "the", "input", "values", "fed", "into", "the", "aggregation", "operation", "at", "t", "are", "never", "negative", ".", "Negative", "values", "should", "never", "occur", "since", "the", "data", "and", "complement", "values", "are", "non-negative", ";", "hence", "if", "a", "negative", "input", "is", "encountered", ",", "the", "verification", "fails", ".", "Once", "u", "s", "has", "derived", "the", "label", "of", "the", "root", "of", "its", "commitment", "tree", ",", "it", "compares", "the", "derived", "label", "against", "the", "label", "with", "the", "same", "count", "that", "was", "disseminated", "by", "the", "querier", ".", "If", "the", "labels", "are", "identical", ",", "then", "u", "s", "proceeds", "to", "the", "next", "step", ".", "Otherwise", ",", "the", "verification", "fails", "and", "u", "s", "may", "either", "immediately", "raise", "an", "alarm", "-LRB-", "for", "example", ",", "using", "broadcast", "-RRB-", ",", "or", "it", "may", "simply", "do", "nothing", "and", "allow", "the", "aggregate", "algorithm", "to", "fail", "due", "to", "the", "absence", "of", "its", "confirmation", "message", "in", "the", "subsequent", "steps", ".", "Collection", "of", "confirmations", ".", "After", "each", "sensor", "node", "s", "has", "suc-cessfully", "performed", "the", "verification", "step", "for", "its", "leaf", "vertex", "u", "s", ",", "it", "sends", "an", "authentication", "code", "to", "the", "querier", ".", "The", "authentication", "code", "for", "sensor", "node", "s", "is", "MAC", "K", "s", "-LRB-", "N", "|", "|", "OK", "-RRB-", "where", "OK", "is", "a", "unique", "message", "identifier", "and", "K", "s", "is", "the", "key", "that", "s", "shares", "with", "the", "querier", ".", "The", "collation", "of", "the", "authentication", "codes", "proceeds", "as", "follows", "-LRB-", "note", "that", "we", "are", "referring", "to", "the", "aggregation", "tree", "at", "this", "point", ",", "not", "the", "commitment", "tree", "-RRB-", ".", "Leaf", "sensor", "nodes", "in", "the", "aggregation", "tree", "first", "send", "their", "authentication", "codes", "to", "their", "parents", "in", "the", "aggregation", "tree", ".", "Once", "an", "internal", "sensor", "node", "has", "received", "authentication", "codes", "from", "all", "its", "children", ",", "it", "computes", "the", "XOR", "of", "its", "own", "authentication", "code", "with", "all", "the", "received", "codes", ",", "and", "forwards", "it", "to", "its", "parent", ".", "At", "the", "end", "of", "the", "process", ",", "the", "querier", "will", "receive", "a", "single", "authentication", "code", "from", "the", "base", "station", "that", "consists", "of", "the", "XOR", "of", "all", "the", "authentication", "codes", "received", "in", "the", "network", ".", "Verification", "of", "confirmations", ".", "Since", "the", "querier", "knows", "the", "key", "K", "s", "for", "each", "sensor", "node", "s", ",", "it", "verifies", "that", "every", "sensor", "node", "has", "released", "its", "authentication", "code", "by", "computing", "the", "XOR", "of", "the", "authentication", "codes", "for", "all", "the", "sensor", "nodes", "in", "the", "network", ",", "i.e.", ",", "MAC", "K", "1", "-LRB-", "N", "|", "|", "OK", "-RRB-", "MAC", "K", "n", "-LRB-", "N", "|", "|", "OK", "-RRB-", ".", "The", "querier", "then", "compares", "the", "computed", "code", "with", "the", "received", "code", ".", "If", "the", "two", "codes", "match", ",", "then", "the", "querier", "accepts", "the", "aggregation", "result", ".", "Otherwise", ",", "the", "querier", "rejects", "the", "result", ".", "A", "rejection", "may", "indicate", "the", "presence", "of", "the", "adversary", "in", "some", "unknown", "nodes", "in", "the", "network", ",", "or", "it", "may", "be", "due", "to", "natural", "factors", "such", "as", "node", "death", "or", "message", "loss", ".", "The", "querier", "may", "either", "retry", "the", "query", "or", "attempt", "to", "determine", "the", "cause", "of", "the", "rejection", ".", "For", "example", ",", "it", "could", "directly", "request", "the", "leaf", "values", "of", "every", "sensor", "node", ":", "if", "rejections", "due", "to", "natural", "causes", "are", "sufficiently", "rare", ",", "the", "high", "cost", "of", "this", "direct", "query", "is", "incurred", "infre-quently", "and", "can", "be", "amortised", "over", "the", "other", "successful", "queries", ".", "In", "this", "section", "we", "prove", "the", "properties", "of", "the", "SUM", "algorithm", ".", "In", "Section", "5.1", "we", "prove", "the", "security", "properties", "of", "the", "algorithm", ",", "and", "in", "Section", "5.2", "we", "prove", "bounds", "on", "the", "congestion", "of", "the", "algorithm", ".", "5.1", "Security", "Properties", "We", "assume", "that", "the", "adversary", "is", "able", "to", "freely", "choose", "any", "arbitrary", "topology", "and", "set", "of", "labels", "for", "the", "final", "commitment", "forest", ".", "We", "then", "show", "that", "any", "such", "forest", "which", "passes", "all", "the", "verification", "tests", "must", "report", "an", "aggregate", "result", "that", "is", "-LRB-", "optimally", "-RRB-", "close", "to", "the", "actual", "result", ".", "First", ",", "we", "define", "the", "notion", "of", "an", "inconsistency", ",", "or", "evidence", "of", "tampering", ",", "at", "a", "given", "node", "in", "the", "commitment", "forest", ".", "Definition", "6", "Let", "t", "=", "c", "t", ",", "v", "t", ",", "v", "t", ",", "H", "t", "be", "an", "internal", "vertex", "in", "a", "commitment", "forest", ".", "Let", "its", "two", "children", "be", "u", "1", "=", "c", "1", ",", "v", "1", ",", "v", "1", ",", "H", "1", "and", "u", "2", "=", "c", "2", ",", "v", "2", ",", "v", "2", ",", "H", "2", ".", "There", "is", "an", "inconsistency", "at", "vertex", "t", "in", "a", "commitment", "tree", "if", "either", "-LRB-", "1", "-RRB-", "v", "t", "=", "v", "1", "+", "v", "2", "or", "v", "t", "=", "v", "1", "+", "v", "2", "or", "-LRB-", "2", "-RRB-", "any", "of", "-LCB-", "v", "1", ",", "v", "2", ",", "v", "1", ",", "v", "2", "-RCB-", "is", "negative", ".", "Informally", ",", "an", "inconsistency", "occurs", "at", "t", "if", "the", "sums", "do", "n't", "add", "up", "at", "t", ",", "or", "if", "any", "of", "the", "inputs", "to", "t", "are", "negative", ".", "Intuitively", ",", "if", "there", "are", "no", "inconsistencies", "on", "a", "path", "from", "a", "vertex", "to", "the", "root", "of", "the", "commitment", "tree", ",", "then", "the", "aggregate", "value", "along", "the", "path", "should", "be", "non-decreasing", "towards", "the", "root", ".", "Definition", "7", "Call", "a", "leaf-vertex", "u", "accounted-for", "if", "there", "is", "no", "inconsistency", "at", "any", "vertex", "on", "the", "path", "from", "the", "leaf-vertex", "u", "to", "the", "root", "of", "its", "commitment", "tree", ",", "including", "at", "the", "root", "vertex", ".", "Lemma", "8", "Suppose", "there", "is", "a", "set", "of", "accounted-for", "leaf-vertices", "with", "distinct", "labels", "u", "1", ",", "...", ",", "u", "m", "and", "committed", "data", "values", "v", "1", ",", "...", ",", "v", "m", "in", "284", "the", "commitment", "forest", ".", "Then", "the", "total", "of", "the", "aggregation", "values", "at", "the", "roots", "of", "the", "commitment", "trees", "in", "the", "forest", "is", "at", "least", "m", "i", "=", "1", "v", "i", ".", "Lemma", "8", "can", "be", "rigorously", "proven", "using", "induction", "on", "the", "height", "of", "the", "subtrees", "in", "the", "forest", "-LRB-", "see", "Appendix", "A", "-RRB-", ".", "Here", "we", "present", "a", "more", "intuitive", "argument", ".", "P", "ROOF", ".", "-LRB-", "Sketch", "-RRB-", "We", "show", "the", "result", "for", "m", "=", "2", ";", "a", "similar", "reasoning", "applies", "for", "arbitrary", "m.", "Case", "1", ":", "Suppose", "u", "1", "and", "u", "2", "are", "in", "different", "trees", ".", "Then", ",", "since", "there", "is", "no", "inconsistency", "on", "any", "vertex", "on", "the", "path", "from", "u", "1", "to", "the", "root", "of", "its", "tree", ",", "the", "root", "of", "the", "tree", "containing", "u", "1", "must", "have", "an", "aggregation", "value", "of", "at", "least", "v", "1", ".", "By", "a", "similar", "reasoning", ",", "the", "root", "of", "the", "tree", "containing", "u", "2", "must", "have", "an", "aggregation", "value", "of", "at", "least", "v", "2", ".", "Hence", "the", "total", "aggregation", "value", "of", "the", "two", "trees", "containing", "u", "1", "and", "u", "2", "is", "at", "least", "v", "1", "+", "v", "2", ".", "Case", "2", ":", "Now", "suppose", "u", "1", "and", "u", "2", "are", "in", "the", "same", "tree", ".", "Since", "they", "have", "distinct", "labels", ",", "they", "must", "be", "distinct", "vertices", ",", "and", "they", "must", "have", "a", "lowest", "common", "ancestor", "t", "in", "the", "commitment", "tree", ".", "The", "vertices", "between", "u", "1", "and", "t", "-LRB-", "including", "u", "1", "-RRB-", "must", "have", "aggregation", "value", "at", "least", "v", "1", "since", "there", "are", "no", "inconsistencies", "on", "the", "path", "from", "u", "1", "to", "t", ",", "so", "the", "aggregation", "value", "could", "not", "have", "decreased", ".", "Similarly", ",", "the", "vertices", "between", "u", "2", "and", "t", "-LRB-", "including", "u", "2", "-RRB-", "must", "have", "aggregation", "value", "at", "least", "v", "2", ".", "Hence", ",", "one", "of", "the", "children", "of", "t", "has", "aggregation", "value", "at", "least", "v", "1", "and", "the", "other", "has", "aggregation", "value", "at", "least", "v", "2", ".", "Since", "there", "was", "no", "inconsistency", "at", "t", ",", "vertex", "t", "must", "have", "aggregation", "value", "at", "least", "v", "1", "+", "v", "2", ".", "Since", "there", "are", "no", "inconsistencies", "on", "the", "path", "from", "t", "to", "the", "root", "of", "the", "commitment", "tree", ",", "the", "root", "also", "must", "have", "aggregation", "value", "at", "least", "v", "1", "+", "v", "2", ".", "Negative", "root", "aggregate", "values", "are", "detected", "by", "the", "querier", "at", "the", "end", "of", "the", "aggregate-commit", "phase", ",", "so", "the", "total", "sum", "of", "the", "aggregate", "values", "of", "the", "roots", "of", "all", "the", "trees", "is", "thus", "at", "least", "v", "1", "+", "v", "2", ".", "The", "following", "is", "a", "restatement", "of", "Lemma", "8", "for", "the", "COMPLE", "MENTARY", "SUM", "aggregate", ";", "its", "proof", "follows", "an", "identical", "structure", "and", "is", "thus", "omitted", ".", "Lemma", "9", "Suppose", "there", "is", "a", "set", "of", "accounted-for", "leaf", "vertices", "with", "distinct", "labels", "u", "1", ",", "...", ",", "u", "m", "with", "committed", "complement", "values", "v", "1", ",", "...", ",", "v", "m", "in", "the", "commitment", "forest", ".", "Then", "the", "total", "COMPLEMENT", "aggregation", "value", "of", "the", "roots", "of", "the", "commitment", "trees", "in", "the", "forest", "is", "at", "least", "m", "i", "=", "1", "v", "i", ".", "Lemma", "10", "A", "legitimate", "sensor", "node", "will", "only", "release", "its", "confirmation", "MAC", "if", "it", "is", "accounted-for", ".", "P", "ROOF", ".", "By", "construction", ",", "each", "sensor", "node", "s", "only", "releases", "its", "confirmation", "MAC", "if", "-LRB-", "1", "-RRB-", "s", "receives", "an", "authenticated", "message", "from", "the", "querier", "containing", "the", "query", "nonce", "N", "and", "the", "root", "labels", "of", "all", "the", "trees", "in", "the", "final", "commitment", "forest", "and", "-LRB-", "2", "-RRB-", "s", "receives", "all", "labels", "of", "its", "off-path", "vertices", "-LRB-", "the", "sibling", "vertices", "to", "the", "vertices", "on", "the", "path", "from", "the", "leaf", "vertex", "corresponding", "to", "s", "to", "the", "root", "of", "the", "commitment", "tree", "containing", "the", "leaf", "vertex", "in", "the", "commitment", "forest", "-RRB-", ",", "and", "-LRB-", "3", "-RRB-", "s", "is", "able", "to", "recompute", "the", "root", "commitment", "value", "that", "it", "received", "from", "the", "base", "station", "and", "correctly", "authenticated", ",", "and", "-LRB-", "4", "-RRB-", "s", "verified", "that", "all", "the", "computations", "on", "the", "path", "from", "its", "leaf", "vertex", "u", "s", "to", "the", "root", "of", "its", "commitment", "tree", "are", "correct", ",", "i.e.", ",", "there", "are", "no", "inconsistencies", "on", "the", "path", "from", "u", "s", "to", "the", "root", "of", "the", "commitment", "tree", "containing", "u", "s", ".", "Since", "the", "hash", "function", "is", "collision-resistant", ",", "it", "is", "computationally", "infeasible", "for", "an", "adversary", "to", "provide", "s", "with", "false", "labels", "that", "also", "happen", "to", "compute", "to", "the", "correct", "root", "commitment", "value", ".", "Hence", ",", "it", "must", "be", "that", "s", "was", "accounted-for", "in", "the", "commitment", "forest", ".", "Lemma", "11", "The", "querier", "can", "only", "receive", "the", "correct", "final", "XOR", "check", "value", "if", "all", "the", "legitimate", "sensor", "nodes", "replied", "with", "their", "confirmation", "MACs", ".", "P", "ROOF", ".", "To", "compute", "the", "correct", "final", "XOR", "check", "value", ",", "the", "adversary", "needs", "to", "know", "the", "XOR", "of", "all", "the", "legitimate", "sensor", "nodes", "that", "did", "not", "release", "their", "MAC", ".", "Since", "we", "assume", "that", "each", "of", "the", "distinct", "MACs", "are", "unforgeable", "-LRB-", "and", "not", "correlated", "with", "each", "other", "-RRB-", ",", "the", "adversary", "has", "no", "information", "about", "this", "XOR", "value", ".", "Hence", ",", "the", "only", "way", "to", "produce", "the", "correct", "XOR", "check", "value", "is", "for", "all", "the", "legitimate", "sensor", "nodes", "to", "have", "released", "their", "relevant", "MACs", ".", "Theorem", "12", "Let", "the", "final", "SUM", "aggregate", "received", "by", "the", "querier", "be", "S", ".", "If", "the", "querier", "accepts", "S", ",", "then", "S", "L", "S", "-LRB-", "S", "L", "+", "r", "-RRB-", "where", "S", "L", "is", "the", "sum", "of", "the", "data", "values", "of", "all", "the", "legitimate", "nodes", ",", "is", "the", "total", "number", "of", "malicious", "nodes", ",", "and", "r", "is", "the", "upper", "bound", "on", "the", "range", "of", "allowable", "values", "on", "each", "node", ".", "P", "ROOF", ".", "Suppose", "the", "querier", "accepts", "the", "SUM", "result", "S.", "Let", "the", "COMPLEMENT", "SUM", "received", "by", "the", "querier", "be", "S", ".", "The", "querier", "accepts", "S", "if", "and", "only", "if", "it", "receives", "the", "correct", "final", "XOR", "check", "value", "in", "the", "result-checking", "phase", ",", "and", "S", "+", "S", "=", "nr", ".", "Since", "the", "querier", "received", "the", "correct", "XOR", "check", "value", ",", "we", "know", "that", "each", "legitimate", "sensor", "node", "must", "have", "released", "its", "confirmation", "MAC", "-LRB-", "Lemma", "11", "-RRB-", ",", "and", "so", "the", "leaf", "vertices", "of", "each", "legitimate", "sensor", "node", "must", "be", "accounted-for", "-LRB-", "Lemma", "10", "-RRB-", ".", "The", "set", "of", "labels", "of", "the", "leaf", "vertices", "of", "the", "legitimate", "nodes", "is", "distinct", "since", "the", "labels", "contain", "the", "-LRB-", "unique", "-RRB-", "node", "ID", "of", "each", "legitimate", "node", ".", "Since", "all", "the", "leaf", "vertices", "of", "the", "legitimate", "sensor", "nodes", "are", "distinct", "and", "accounted-for", ",", "by", "Theorem", "8", ",", "S", "S", "L", "where", "S", "L", "is", "the", "sum", "of", "the", "data", "values", "of", "all", "the", "legitimate", "nodes", ".", "Furthermore", ",", "by", "Theorem", "9", ",", "S", "S", "L", ",", "where", "S", "L", "is", "the", "sum", "of", "the", "complements", "of", "the", "data", "values", "of", "all", "the", "legitimate", "nodes", ".", "Let", "L", "be", "the", "set", "of", "legitimate", "sensor", "nodes", ",", "with", "|", "L", "|", "=", "l.", "Observe", "that", "S", "L", "=", "i", "L", "r", "-", "a", "i", "=", "lr", "-", "S", "L", "=", "-LRB-", "n", "-", "-RRB-", "r", "-", "S", "L", "=", "nr", "-", "-LRB-", "S", "L", "+", "r", "-RRB-", ".", "We", "have", "that", "S", "+", "S", "=", "nr", "and", "S", "nr", "-", "-LRB-", "S", "L", "+", "r", "-RRB-", ".", "Substituting", ",", "S", "=", "nr", "-", "S", "S", "L", "+", "r.", "Hence", ",", "S", "L", "S", "-LRB-", "S", "L", "+", "r", "-RRB-", ".", "Note", "that", "nowhere", "was", "it", "assumed", "that", "the", "malicious", "nodes", "were", "constrained", "to", "reporting", "data", "values", "between", "-LSB-", "0", ",", "r", "-RSB-", ":", "in", "fact", "it", "is", "possible", "to", "have", "malicious", "nodes", "with", "data", "values", "above", "r", "or", "below", "0", "without", "risking", "detection", "if", "S", "L", "S", "-LRB-", "S", "L", "+", "r", "-RRB-", ".", "Theorem", "13", "The", "SUM", "algorithm", "is", "optimally", "secure", ".", "P", "ROOF", ".", "Let", "the", "sum", "of", "the", "data", "values", "of", "all", "the", "legitimate", "nodes", "be", "S", "L", ".", "Consider", "an", "adversary", "with", "malicious", "nodes", "which", "only", "performs", "direct", "data", "injection", "attacks", ".", "Recall", "that", "in", "a", "direct", "data", "injection", "attack", ",", "an", "adversary", "only", "causes", "the", "nodes", "under", "its", "control", "to", "each", "report", "a", "data", "value", "within", "the", "legal", "range", "-LSB-", "0", ",", "r", "-RSB-", ".", "The", "lowest", "result", "the", "adversary", "can", "induce", "is", "by", "setting", "all", "its", "malicious", "nodes", "to", "have", "data", "value", "0", ";", "in", "this", "case", "the", "computed", "aggregate", "is", "S", "L", ".", "The", "highest", "result", "the", "adversary", "can", "induce", "is", "by", "setting", "all", "nodes", "under", "its", "control", "to", "yield", "the", "highest", "value", "r", ".", "In", "this", "case", "the", "computed", "aggregate", "is", "S", "L", "+", "r.", "Clearly", "any", "aggregation", "value", "between", "these", "two", "extremes", "is", "also", "achievable", "by", "direct", "data", "injection", ".", "The", "bound", "proven", "in", "Theorem", "12", "falls", "exactly", "on", "the", "range", "of", "possible", "results", "achievable", "by", "direct", "data", "injection", ",", "hence", "the", "algorithm", "is", "optimal", "by", "Definition", "2", ".", "The", "optimal", "security", "property", "holds", "regardless", "of", "the", "number", "or", "fraction", "of", "malicious", "nodes", ";", "this", "is", "significant", "since", "the", "security", "property", "holds", "in", "general", ",", "and", "not", "just", "for", "a", "subclass", "of", "attacker", "multiplicities", ".", "For", "example", ",", "we", "do", "not", "assume", "that", "the", "attacker", "is", "limited", "to", "some", "fraction", "of", "the", "nodes", "in", "the", "network", ".", "5.2", "Congestion", "Complexity", "We", "now", "consider", "the", "congestion", "induced", "by", "the", "secure", "SUM", "algorithm", ".", "Recall", "that", "node", "congestion", "is", "defined", "as", "the", "communication", "load", "on", "the", "most", "heavily", "loaded", "sensor", "node", "in", "the", "network", ",", "285", "and", "edge", "congestion", "is", "the", "heaviest", "communication", "load", "on", "a", "given", "link", "in", "the", "network", ".", "We", "only", "need", "to", "consider", "the", "case", "where", "the", "adversary", "is", "not", "performing", "an", "attack", ".", "If", "the", "adversary", "attempts", "to", "send", "more", "messages", "than", "the", "proven", "congestion", "bound", ",", "legitimate", "nodes", "can", "easily", "detect", "this", "locally", "and", "either", "raise", "an", "alarm", "or", "refuse", "to", "respond", "with", "their", "confirmation", "values", ",", "thus", "exposing", "the", "presence", "of", "the", "adversary", ".", "Recall", "that", "when", "we", "refer", "to", "a", "vertex", "sending", "and", "receiving", "information", ",", "we", "are", "referring", "to", "the", "commitment", "tree", "overlay", "network", "that", "lies", "over", "the", "actual", "physical", "aggregation", "tree", ".", "Theorem", "14", "Each", "vertex", "u", "receives", "the", "labels", "of", "its", "off-path", "vertices", "and", "no", "others", ".", "P", "ROOF", ".", "Since", ",", "when", "the", "vertices", "are", "disseminating", "their", "labels", "in", "the", "result-checking", "phase", ",", "every", "vertex", "always", "forwards", "any", "labels", "received", "from", "its", "parents", "to", "both", "its", "children", ",", "it", "is", "clear", "that", "when", "a", "label", "is", "forwarded", "to", "a", "vertex", "u", ",", "it", "is", "eventually", "forwarded", "to", "the", "entire", "subtree", "rooted", "at", "u", ".", "By", "definition", ",", "every", "off-path", "vertex", "u", "1", "of", "u", "has", "a", "parent", "p", "which", "is", "a", "node", "on", "the", "path", "between", "u", "and", "the", "root", "of", "its", "commitment", "tree", ".", "By", "construction", ",", "p", "sends", "the", "label", "of", "u", "1", "to", "its", "sibling", "u", "2", "which", "is", "on", "the", "path", "to", "u", "-LRB-", "i.e.", ",", "either", "u", "2", "is", "an", "ancestor", "of", "u", ",", "or", "u", "2", "=", "u", "-RRB-", ".", "Hence", ",", "the", "label", "u", "1", "is", "eventually", "forwarded", "to", "u.", "Every", "vertex", "u", "1", "that", "is", "not", "an", "off-path", "vertex", "has", "a", "sibling", "u", "2", "which", "is", "not", "on", "the", "path", "between", "u", "and", "the", "root", "of", "its", "commitment", "tree", ".", "Hence", ",", "u", "is", "not", "in", "the", "subtree", "rooted", "at", "u", "2", ".", "Since", "the", "label", "of", "u", "1", "is", "only", "forwarded", "to", "the", "subtree", "rooted", "at", "its", "sibling", "and", "nowhere", "else", ",", "the", "label", "of", "u", "1", "never", "reaches", "u.", "Theorem", "15", "The", "SUM", "algorithm", "induces", "O", "-LRB-", "log", "2", "n", "-RRB-", "edge", "congestion", "-LRB-", "and", "hence", "O", "-LRB-", "log", "2", "n", "-RRB-", "node", "congestion", "-RRB-", "in", "the", "aggregation", "tree", ".", "P", "ROOF", ".", "Every", "step", "in", "the", "algorithm", "except", "the", "label", "dissemination", "step", "involves", "either", "broadcast", "or", "convergecast", "of", "messages", "that", "are", "at", "most", "O", "-LRB-", "logn", "-RRB-", "size", ".", "The", "label-dissemination", "step", "is", "the", "dominating", "factor", ".", "Consider", "an", "arbitrary", "edge", "in", "the", "commitment-tree", "between", "parent", "vertex", "x", "and", "child", "vertex", "y", ".", "In", "the", "label", "dissemination", "step", ",", "messages", "are", "only", "sent", "from", "parent", "to", "child", "in", "the", "commitment", "tree", ".", "Hence", "the", "edge", "xy", "carries", "exactly", "the", "labels", "that", "y", "receives", ".", "From", "Theorem", "14", ",", "y", "receives", "O", "-LRB-", "logn", "-RRB-", "labels", ",", "hence", "the", "total", "number", "of", "labels", "passing", "through", "xy", "is", "O", "-LRB-", "logn", "-RRB-", ".", "Hence", ",", "the", "edge", "congestion", "in", "the", "commitment", "tree", "is", "O", "-LRB-", "logn", "-RRB-", ".", "Now", "consider", "an", "arbitrary", "aggregation", "tree", "edge", "with", "parent", "node", "u", "and", "child", "node", "v", ".", "The", "child", "node", "v", "presents", "-LRB-", "i.e.", ",", "sends", "-RRB-", "at", "most", "log", "n", "commitment-tree", "vertices", "to", "its", "parent", "u", ",", "and", "hence", "the", "edge", "uv", "is", "responsible", "for", "carrying", "traffic", "on", "behalf", "of", "at", "most", "log", "n", "commitment-tree", "edges", "--", "these", "are", "the", "edges", "incident", "on", "the", "commitment", "tree", "vertices", "that", "v", "presented", "to", "u.", "Note", "that", "v", "may", "not", "be", "responsible", "for", "creating", "all", "the", "vertices", "that", "it", "presents", "to", "u", ",", "but", "v", "is", "nonetheless", "responsible", "for", "forwarding", "the", "messages", "down", "to", "the", "sensor", "nodes", "which", "created", "those", "vertices", ".", "Since", "each", "edge", "in", "the", "commitment", "tree", "has", "O", "-LRB-", "logn", "-RRB-", "congestion", ",", "and", "each", "edge", "in", "the", "aggregation", "tree", "carries", "traffic", "for", "at", "most", "log", "n", "commitment-tree", "edges", ",", "the", "edge", "congestion", "in", "the", "aggregation", "tree", "is", "O", "-LRB-", "log", "2", "n", "-RRB-", ".", "The", "node-congestion", "bound", "of", "O", "-LRB-", "log", "2", "n", "-RRB-", "follows", "from", "the", "O", "-LRB-", "log", "2", "n", "-RRB-", "edge", "congestion", "and", "the", "definition", "of", "as", "the", "greatest", "degree", "in", "the", "aggregation", "tree", ".", "In", "this", "section", "we", "briefly", "discuss", "how", "to", "use", "the", "SUM", "algorithm", "as", "a", "primitive", "for", "the", "COUNT", ",", "AVERAGE", "and", "QUANTILE", "aggregates", ".", "The", "C", "OUNT", "Aggregate", ".", "The", "query", "COUNT", "is", "generally", "used", "to", "determine", "the", "total", "number", "of", "nodes", "in", "the", "network", "with", "some", "property", ";", "without", "loss", "of", "generality", "it", "can", "be", "considered", "a", "SUM", "aggregation", "where", "all", "the", "nodes", "have", "value", "either", "1", "-LRB-", "the", "node", "has", "the", "property", "-RRB-", "or", "0", "-LRB-", "otherwise", "-RRB-", ".", "More", "formally", ",", "each", "sensor", "node", "s", "has", "a", "data", "value", "a", "s", "-LCB-", "0,1", "-RCB-", ",", "and", "we", "wish", "to", "compute", "f", "-LRB-", "a", "1", ",", "...", ",", "a", "n", "-RRB-", "=", "a", "1", "+", "a", "2", "+", "+", "a", "n", ".", "Since", "count", "is", "a", "special", "case", "of", "SUM", ",", "we", "can", "use", "the", "basic", "algorithm", "for", "SUM", "without", "modification", ".", "The", "A", "VERAGE", "Aggregate", ".", "The", "AVERAGE", "aggregate", "can", "be", "computed", "by", "first", "computing", "the", "SUM", "of", "data", "values", "over", "the", "nodes", "of", "interest", ",", "and", "then", "the", "COUNT", "of", "the", "number", "of", "nodes", "of", "interest", ",", "and", "then", "dividing", "the", "SUM", "by", "the", "COUNT", ".", "The", "-", "Q", "UANTILE", "Aggregate", ".", "In", "the", "QUANTILE", "aggregate", ",", "we", "wish", "to", "find", "the", "value", "that", "is", "in", "the", "n-th", "position", "in", "the", "sorted", "list", "of", "data", "values", ".", "For", "example", ",", "the", "median", "is", "a", "special", "case", "where", "=", "0.5", ".", "Without", "loss", "of", "generality", "we", "can", "assume", "that", "all", "the", "data", "values", "are", "distinct", ";", "ties", "can", "be", "broken", "using", "unique", "node", "IDs", ".", "If", "we", "wished", "to", "verify", "the", "correctness", "of", "a", "proposed", "-", "quantile", "q", ",", "we", "can", "perform", "a", "COUNT", "computation", "where", "each", "node", "s", "presents", "a", "value", "a", "s", "=", "1", "if", "its", "data", "value", "a", "s", "q", "and", "presents", "a", "s", "=", "0", "otherwise", ".", "If", "q", "is", "the", "-", "quantile", ",", "then", "the", "computed", "sum", "should", "be", "equal", "to", "n.", "Hence", ",", "we", "can", "use", "any", "insecure", "approximate", "-", "quantile", "aggregation", "scheme", "to", "compute", "a", "proposed", "-", "quantile", ",", "and", "then", "securely", "test", "to", "see", "if", "the", "result", "truly", "is", "within", "the", "approximation", "bounds", "of", "the", "-", "quantile", "algorithm", ".", "In-network", "data", "aggregation", "is", "an", "important", "primitive", "for", "sensor", "network", "operation", ".", "The", "strong", "standard", "threat", "model", "of", "multiple", "Byzantine", "nodes", "in", "sensor", "networks", "requires", "the", "use", "of", "aggregation", "techniques", "that", "are", "robust", "against", "malicious", "result-tampering", "by", "covert", "adversaries", ".", "We", "present", "the", "first", "optimally", "secure", "aggregation", "scheme", "for", "arbitrary", "aggregator", "topologies", "and", "multiple", "malicious", "nodes", ".", "This", "contribution", "significantly", "improves", "on", "prior", "work", "which", "requires", "strict", "limitations", "on", "aggregator", "topology", "or", "malicious", "node", "multiplicity", ",", "or", "which", "only", "yields", "a", "probabilistic", "security", "bound", ".", "Our", "algorithm", "is", "based", "on", "a", "novel", "method", "of", "distributing", "the", "verification", "of", "aggregation", "results", "onto", "the", "sensor", "nodes", ",", "and", "combining", "this", "with", "a", "unique", "technique", "for", "balancing", "commitment", "trees", "to", "achieve", "sublinear", "congestion", "bounds", ".", "The", "algorithm", "induces", "O", "-LRB-", "log", "2", "n", "-RRB-", "node", "congestion", "-LRB-", "where", "is", "the", "maximum", "degree", "in", "the", "aggregation", "tree", "-RRB-", "and", "provides", "the", "strongest", "security", "bound", "that", "can", "be", "proven", "for", "any", "secure", "aggregation", "scheme", "without", "making", "assumptions", "about", "the", "distribution", "of", "data", "values", ".", "-LSB-", "1", "-RSB-", "H.", "Cam", ",", "S.", "Ozdemir", ",", "P.", "Nair", ",", "D.", "Muthuavinashiappan", ",", "and", "H.", "O.", "Sanli", ".", "Energy-efficient", "secure", "pattern", "based", "data", "aggregation", "for", "wireless", "sensor", "networks", ".", "Computer", "Communications", ",", "29:446", "455", ",", "2006", ".", "-LSB-", "2", "-RSB-", "C.", "Castelluccia", ",", "E.", "Mykletun", ",", "and", "G.", "Tsudik", ".", "Efficient", "aggregation", "of", "encrypted", "data", "in", "wireless", "sensor", "networks", ".", "In", "Proceedings", "of", "The", "Second", "Annual", "International", "Conference", "on", "Mobile", "and", "Ubiquitous", "Systems", ",", "2005", ".", "-LSB-", "3", "-RSB-", "J.-Y", ".", "Chen", ",", "G.", "Pandurangan", ",", "and", "D.", "Xu", ".", "Robust", "computation", "of", "aggregates", "in", "wireless", "sensor", "networks", ":", "distributed", "randomized", "algorithms", "and", "analysis", ".", "In", "Proceedings", "of", "the", "Fourth", "International", "Symposium", "on", "Information", "Processing", "in", "Sensor", "Networks", ",", "2005", ".", "-LSB-", "4", "-RSB-", "W.", "Du", ",", "J.", "Deng", ",", "Y.", "Han", ",", "and", "P.", "K.", "Varshney", ".", "A", "witness-based", "approach", "for", "data", "fusion", "assurance", "in", "wireless", "sensor", "286", "networks", ".", "In", "Proceedings", "of", "the", "IEEE", "Global", "Telecommunications", "Conference", ",", "2003", ".", "-LSB-", "5", "-RSB-", "J.", "Girao", ",", "M.", "Schneider", ",", "and", "D.", "Westhoff", ".", "CDA", ":", "Concealed", "data", "aggregation", "in", "wireless", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "ACM", "Workshop", "on", "Wireless", "Security", ",", "2004", ".", "-LSB-", "6", "-RSB-", "M.", "B.", "Greenwald", "and", "S.", "Khanna", ".", "Power-conserving", "computation", "of", "order-statistics", "over", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "twenty-third", "ACM", "SIGMOD-SIGACT-SIGART", "symposium", "on", "Principles", "of", "database", "systems", ",", "2004", ".", "-LSB-", "7", "-RSB-", "I.", "Gupta", ",", "R.", "van", "Renesse", ",", "and", "K.", "P.", "Birman", ".", "Scalable", "fault-tolerant", "aggregation", "in", "large", "process", "groups", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Dependable", "Systems", "and", "Networks", ",", "2001", ".", "-LSB-", "8", "-RSB-", "L.", "Hu", "and", "D.", "Evans", ".", "Secure", "aggregation", "for", "wireless", "networks", ".", "In", "Workshop", "on", "Security", "and", "Assurance", "in", "Ad", "hoc", "Networks", ",", "2003", ".", "-LSB-", "9", "-RSB-", "C.", "Intanagonwiwat", ",", "D.", "Estrin", ",", "R.", "Govindan", ",", "and", "J.", "Heidemann", ".", "Impact", "of", "network", "density", "on", "data", "aggregation", "in", "wireless", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "22nd", "International", "Conference", "on", "Distributed", "Computing", "Systems", ",", "2002", ".", "-LSB-", "10", "-RSB-", "P.", "Jadia", "and", "A.", "Mathuria", ".", "Efficient", "secure", "aggregation", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "11th", "International", "Conference", "on", "High", "Performance", "Computing", ",", "2004", ".", "-LSB-", "11", "-RSB-", "S.", "Madden", ",", "M.", "J.", "Franklin", ",", "J.", "M.", "Hellerstein", ",", "and", "W.", "Hong", ".", "TAG", ":", "a", "tiny", "aggregation", "service", "for", "ad-hoc", "sensor", "networks", ".", "SIGOPS", "Oper", ".", "Syst", ".", "Rev.", ",", "36", "-LRB-", "SI", "-RRB-", ":", "131", "146", ",", "2002", ".", "-LSB-", "12", "-RSB-", "S.", "Madden", ",", "M.", "J.", "Franklin", ",", "J.", "M.", "Hellerstein", ",", "and", "W.", "Hong", ".", "The", "design", "of", "an", "acquisitional", "query", "processor", "for", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "2003", "ACM", "International", "Conference", "on", "Management", "of", "Data", ",", "2003", ".", "-LSB-", "13", "-RSB-", "A.", "Mahimkar", "and", "T.", "Rappaport", ".", "SecureDAV", ":", "A", "secure", "data", "aggregation", "and", "verification", "protocol", "for", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "IEEE", "Global", "Telecommunications", "Conference", ",", "2004", ".", "-LSB-", "14", "-RSB-", "A.", "Manjhi", ",", "S.", "Nath", ",", "and", "P.", "B.", "Gibbons", ".", "Tributaries", "and", "deltas", ":", "efficient", "and", "robust", "aggregation", "in", "sensor", "network", "streams", ".", "In", "Proceedings", "of", "the", "ACM", "International", "Conference", "on", "Management", "of", "Data", ",", "2005", ".", "-LSB-", "15", "-RSB-", "S.", "Nath", ",", "P.", "B.", "Gibbons", ",", "S.", "Seshan", ",", "and", "Z.", "R.", "Anderson", ".", "Synopsis", "diffusion", "for", "robust", "aggregation", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "2nd", "International", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", ",", "2004", ".", "-LSB-", "16", "-RSB-", "A.", "Perrig", ",", "R.", "Szewczyk", ",", "J.", "D.", "Tygar", ",", "V.", "Wen", ",", "and", "D.", "E.", "Culler", ".", "SPINS", ":", "Security", "protocols", "for", "sensor", "networks", ".", "Wirel", ".", "Netw.", ",", "8", "-LRB-", "5", "-RRB-", ":", "521", "534", ",", "2002", ".", "-LSB-", "17", "-RSB-", "B.", "Przydatek", ",", "D.", "Song", ",", "and", "A.", "Perrig", ".", "SIA", ":", "Secure", "information", "aggregation", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "1st", "International", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", ",", "2003", ".", "-LSB-", "18", "-RSB-", "D.", "Wagner", ".", "Resilient", "aggregation", "in", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "2nd", "ACM", "Workshop", "on", "Security", "of", "Ad-hoc", "and", "Sensor", "Networks", ",", "2004", ".", "-LSB-", "19", "-RSB-", "Y.", "Yang", ",", "X.", "Wang", ",", "S.", "Zhu", ",", "and", "G.", "Cao", ".", "SDAP", ":", "A", "secure", "hop-by-hop", "data", "aggregation", "protocol", "for", "sensor", "networks", ".", "In", "Proceedings", "of", "the", "ACM", "International", "Symposium", "on", "Mobile", "Ad", "Hoc", "Networking", "and", "Computing", ",", "2006", ".", "-LSB-", "20", "-RSB-", "Y.", "Yao", "and", "J.", "Gehrke", ".", "The", "COUGAR", "approach", "to", "in-network", "query", "processing", "in", "sensor", "networks", ".", "SIGMOD", "Rec.", ",", "31", "-LRB-", "3", "-RRB-", ":", "9", "18", ",", "2002", ".", "APPENDIX", "A.", "PROOF", "OF", "LEMMA", "8", "We", "first", "prove", "the", "following", ":", "Lemma", "16", "Let", "F", "be", "a", "collection", "of", "commitment", "trees", "of", "height", "at", "most", "h.", "Suppose", "there", "is", "a", "set", "U", "of", "accounted-for", "leaf-vertices", "with", "distinct", "labels", "u", "1", ",", "...", ",", "u", "m", "and", "committed", "values", "v", "1", ",", "...", ",", "v", "m", "in", "F.", "Let", "the", "set", "of", "trees", "that", "contain", "at", "least", "one", "member", "of", "U", "be", "T", "F", ".", "Define", "val", "-LRB-", "X", "-RRB-", "for", "any", "forest", "X", "to", "be", "the", "total", "of", "the", "aggregation", "values", "at", "the", "roots", "of", "the", "trees", "in", "X", ".", "Then", "val", "-LRB-", "T", "F", "-RRB-", "m", "i", "=", "1", "v", "i", ".", "P", "ROOF", ".", "Proof", ":", "By", "induction", "on", "h.", "Base", "case", ":", "h", "=", "0", ".", "Then", "all", "the", "trees", "are", "singleton-trees", ".", "The", "total", "aggregation", "value", "of", "all", "the", "singleton-trees", "that", "contain", "at", "least", "one", "member", "of", "U", "is", "exactly", "m", "i", "=", "1", "v", "i", ".", "Induction", "step", ":", "Assume", "the", "theorem", "holds", "for", "h", ",", "and", "consider", "an", "arbitrary", "collection", "F", "of", "commitment", "trees", "with", "at", "most", "height", "h", "+", "1", "where", "the", "premise", "holds", ".", "If", "there", "are", "no", "trees", "of", "height", "h", "+", "1", "then", "we", "are", "done", ".", "Otherwise", ",", "let", "the", "set", "R", "be", "all", "the", "root", "vertices", "of", "the", "trees", "of", "height", "h", "+", "1", ".", "Consider", "F", "=", "F", "\\", "R", ",", "i.e.", ",", "remove", "all", "the", "vertices", "in", "R", "from", "F", ".", "The", "result", "is", "a", "collection", "of", "trees", "with", "height", "at", "most", "h.", "Let", "T", "F", "be", "the", "set", "of", "trees", "in", "F", "containing", "at", "least", "one", "member", "of", "U", ".", "The", "induction", "hypothesis", "holds", "for", "F", ",", "so", "val", "-LRB-", "T", "F", "-RRB-", "m", "i", "=", "1", "v", "i", ".", "We", "now", "show", "that", "replacing", "the", "vertices", "from", "R", "can", "not", "produce", "an", "T", "F", "such", "that", "val", "-LRB-", "T", "F", "-RRB-", "<", "val", "-LRB-", "T", "F", "-RRB-", ".", "Each", "vertex", "r", "from", "R", "is", "the", "root", "of", "two", "subtrees", "of", "height", "h", "in", "F", ".", "We", "have", "three", "cases", ":", "Case", "1", ":", "Neither", "subtree", "contains", "any", "members", "of", "U", ".", "Then", "the", "new", "tree", "contains", "no", "members", "of", "U", ",", "and", "so", "is", "not", "a", "member", "of", "T", "F", ".", "Case", "2", ":", "One", "subtree", "t", "1", "contains", "members", "of", "U", ".", "Since", "all", "the", "members", "of", "U", "are", "accounted-for", ",", "this", "implies", "that", "there", "is", "no", "inconsistency", "at", "r.", "Hence", ",", "the", "subtree", "without", "a", "member", "of", "U", "must", "have", "a", "non-negative", "aggregate", "value", ".", "We", "know", "that", "r", "performs", "the", "aggregate", "sum", "correctly", "over", "its", "inputs", ",", "so", "it", "must", "have", "aggregate", "value", "at", "least", "equal", "to", "the", "aggregate", "value", "of", "t", "1", ".", "Case", "3", ":", "Both", "subtrees", "contain", "members", "of", "U", ".", "Since", "all", "the", "members", "of", "U", "are", "accounted-for", ",", "this", "implies", "that", "there", "is", "no", "inconsistency", "at", "r", ".", "The", "aggregate", "result", "of", "r", "is", "exactly", "the", "sum", "of", "the", "aggregate", "values", "of", "the", "two", "subtrees", ".", "In", "case", "2", "and", "3", ",", "the", "aggregate", "values", "of", "the", "roots", "of", "the", "trees", "of", "height", "h", "+1", "that", "were", "in", "T", "F", ",", "was", "no", "less", "than", "the", "sum", "of", "the", "aggregate", "values", "of", "their", "constituent", "subtrees", "in", "T", "F", ".", "Hence", ",", "val", "-LRB-", "T", "F", "-RRB-", "val", "-LRB-", "T", "F", "-RRB-", "m", "i", "=", "1", "v", "i", ".", "Let", "the", "commitment", "forest", "in", "Lemma", "8", "be", "F.", "Let", "the", "set", "of", "trees", "in", "F", "that", "contain", "at", "least", "one", "of", "the", "accounted-for", "leaf-vertices", "be", "T", ".", "By", "the", "above", "lemma", ",", "val", "-LRB-", "T", "-RRB-", "m", "i", "=", "1", "v", "i", ".", "We", "know", "that", "there", "are", "no", "root", "labels", "with", "negative", "aggregation", "values", "in", "the", "commitment", "forest", ",", "otherwise", "the", "querier", "would", "have", "rejected", "the", "result", ".", "Hence", ",", "val", "-LRB-", "F", "-RRB-", "val", "-LRB-", "T", "-RRB-", "m", "i", "=", "1", "v", "i", ".", "287"], "doc_bio_tags": ["O", "O", "O", "B", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["aggregation commit", "query dissemination", "commitment tree", "algorithm", "sensor network", "aggregation", "commitment forest", "sensor networks", "congestion complexity"], "abstractive_keyphrases": ["result checking", "secure hierarchical data aggregation protocol", "data aggregation", "in-network data", "secure aggregation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "213", "document": ["Web", "Taxonomy", "Integration", "through", "Co-Bootstrapping", "We", "address", "the", "problem", "of", "integrating", "objects", "from", "a", "source", "taxonomy", "into", "a", "master", "taxonomy", ".", "This", "problem", "is", "not", "only", "currently", "pervasive", "on", "the", "web", ",", "but", "also", "important", "to", "the", "emerging", "semantic", "web", ".", "A", "straightforward", "approach", "to", "automating", "this", "process", "would", "be", "to", "learn", "a", "classifier", "that", "can", "classify", "objects", "from", "the", "source", "taxonomy", "into", "categories", "of", "the", "master", "taxonomy", ".", "The", "key", "insight", "is", "that", "the", "availability", "of", "the", "source", "taxonomy", "data", "could", "be", "helpful", "to", "build", "better", "classifiers", "for", "the", "master", "taxonomy", "if", "their", "categorizations", "have", "some", "semantic", "overlap", ".", "In", "this", "paper", ",", "we", "propose", "a", "new", "approach", ",", "co-bootstrapping", ",", "to", "enhance", "the", "classification", "by", "exploiting", "such", "implicit", "knowledge", ".", "Our", "experiments", "with", "real-world", "web", "data", "show", "substantial", "improvements", "in", "the", "performance", "of", "taxonomy", "integration", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "data", "mining", ";", "H.", "2.5", "-LSB-", "Database", "Management", "-RSB-", ":", "Heterogeneous", "Databases", ";", "I.", "2.6", "-LSB-", "Artificial", "Intelligence", "-RSB-", ":", "Learning", ";", "I.", "5.2", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Design", "Methodology", "classifier", "design", "and", "evaluation", ".", "Algorithms", ",", "Experimentation", ",", "Theory", ".", "A", "taxonomy", ",", "or", "directory", "or", "catalog", ",", "is", "a", "division", "of", "a", "set", "of", "objects", "-LRB-", "documents", ",", "images", ",", "products", ",", "goods", ",", "services", ",", "etc.", "-RRB-", "into", "a", "set", "of", "categories", ".", "There", "are", "a", "tremendous", "number", "of", "taxonomies", "on", "the", "web", ",", "and", "we", "often", "need", "to", "integrate", "objects", "from", "a", "source", "taxonomy", "into", "a", "master", "taxonomy", ".", "This", "problem", "is", "currently", "pervasive", "on", "the", "web", ",", "given", "that", "many", "websites", "are", "aggregators", "of", "information", "from", "various", "other", "websites", "-LSB-", "2", "-RSB-", ".", "A", "few", "examples", "will", "illustrate", "the", "scenario", ".", "A", "web", "marketplace", "like", "Amazon", "1", "may", "want", "to", "combine", "goods", "from", "multiple", "vendors", "'", "catalogs", "into", "its", "own", ".", "A", "web", "portal", "like", "NCSTRL", "2", "may", "want", "to", "combine", "documents", "from", "multiple", "libraries", "'", "directories", "into", "its", "own", ".", "A", "company", "may", "want", "to", "merge", "its", "service", "taxonomy", "with", "its", "partners", "'", ".", "A", "researcher", "may", "want", "to", "merge", "his/her", "bookmark", "taxonomy", "with", "his/her", "peers", "'", ".", "Singapore-MIT", "Alliance", "3", ",", "an", "innovative", "engineering", "education", "and", "research", "collaboration", "among", "MIT", ",", "NUS", "and", "NTU", ",", "has", "a", "need", "to", "integrate", "the", "academic", "resource", "-LRB-", "courses", ",", "seminars", ",", "reports", ",", "softwares", ",", "etc.", "-RRB-", "taxonomies", "of", "these", "three", "universities", ".", "This", "problem", "is", "also", "important", "to", "the", "emerging", "semantic", "web", "-LSB-", "4", "-RSB-", ",", "where", "data", "has", "structures", "and", "ontologies", "describe", "the", "semantics", "of", "the", "data", ",", "thus", "better", "enabling", "computers", "and", "people", "to", "work", "in", "cooperation", ".", "On", "the", "semantic", "web", ",", "data", "often", "come", "from", "many", "different", "ontologies", ",", "and", "information", "processing", "across", "ontologies", "is", "not", "possible", "without", "knowing", "the", "semantic", "mappings", "between", "them", ".", "Since", "taxonomies", "are", "central", "components", "of", "ontologies", ",", "ontology", "mapping", "necessarily", "involves", "finding", "the", "correspondences", "between", "two", "taxonomies", ",", "which", "is", "often", "based", "on", "integrating", "objects", "from", "one", "taxonomy", "into", "the", "other", "and", "vice", "versa", "-LSB-", "10", ",", "14", "-RSB-", ".", "If", "all", "taxonomy", "creators", "and", "users", "agreed", "on", "a", "universal", "standard", ",", "taxonomy", "integration", "would", "not", "be", "so", "difficult", ".", "But", "the", "web", "has", "evolved", "without", "central", "editorship", ".", "Hence", "the", "correspondences", "between", "two", "taxonomies", "are", "inevitably", "noisy", "and", "fuzzy", ".", "For", "illustration", ",", "consider", "the", "taxonomies", "of", "two", "web", "portals", "Google", "4", "and", "Yahoo", "5", ":", "what", "is", "``", "Arts/Music/Styles", "/", "''", "in", "one", "may", "be", "``", "Entertainment/Music/Genres", "/", "''", "in", "the", "other", ",", "category", "``", "Computers_and_Internet", "/", "Software/Freeware", "''", "and", "category", "1", "http://www.amazon.com/", "2", "http://www.ncstrl.org/", "3", "http://web.mit.edu/sma/", "4", "http://www.google.com/", "5", "http://www.yahoo.com/", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "04", ",", "July", "25-29", ",", "2004", ",", "Sheffield", ",", "South", "Yorkshire", ",", "UK", ".", "Copyright", "2004", "ACM", "1-58113-881-4", "/", "04/0007", "...", "$", "5.00", ".", "410", "``", "Computers/Open", "_", "Source/Software", "''", "have", "similar", "contents", "but", "show", "non-trivial", "differences", ",", "and", "so", "on", ".", "It", "is", "unclear", "if", "a", "universal", "standard", "will", "appear", "outside", "specific", "domains", ",", "and", "even", "for", "those", "domains", ",", "there", "is", "a", "need", "to", "integrate", "objects", "from", "legacy", "taxonomy", "into", "the", "standard", "taxonomy", ".", "Manual", "taxonomy", "integration", "is", "tedious", ",", "error-prone", ",", "and", "clearly", "not", "possible", "at", "the", "web", "scale", ".", "A", "straightforward", "approach", "to", "automating", "this", "process", "would", "be", "to", "formulate", "it", "as", "a", "classification", "problem", "which", "has", "being", "well-studied", "in", "machine", "learning", "area", "-LSB-", "18", "-RSB-", ".", "Normally", "the", "classifier", "would", "be", "constructed", "using", "objects", "in", "the", "master", "taxonomy", "as", "training", "examples", ",", "and", "the", "source", "taxonomy", "would", "be", "completely", "ignored", "during", "learning", ".", "However", ",", "the", "availability", "of", "the", "source", "taxonomy", "data", "could", "be", "helpful", "to", "build", "better", "classifiers", "for", "the", "master", "taxonomy", "if", "their", "categorizations", "have", "some", "semantic", "overlap", ",", "particularly", "when", "the", "number", "of", "training", "examples", "is", "not", "very", "large", ".", "Possible", "useful", "semantic", "relationships", "between", "a", "master", "category", "C", "and", "a", "source", "category", "S", "include", ":", "C", "S", "=", "-LRB-", "identical", "-RRB-", ":", "an", "object", "belongs", "to", "C", "if", "and", "only", "if", "it", "belongs", "to", "S", ";", "C", "S", "=", "-LRB-", "mutual", "exclusion", "-RRB-", ":", "if", "an", "object", "belongs", "to", "S", "it", "can", "not", "belong", "to", "C", ";", "C", "S", "-LRB-", "superset", "-RRB-", ":", "any", "object", "that", "belonging", "to", "S", "must", "also", "belong", "to", "C", ";", "C", "S", "-LRB-", "subset", "-RRB-", ":", "any", "object", "not", "belonging", "to", "S", "also", "can", "not", "belong", "to", "C", ";", "C", "and", "S", "overlap", "but", "neither", "is", "a", "superset", "of", "the", "other", ".", "In", "addition", ",", "semantic", "relationships", "may", "involve", "multiple", "master", "and", "source", "categories", ".", "For", "example", ",", "a", "master", "category", "C", "may", "be", "a", "subset", "of", "the", "union", "of", "two", "source", "categories", "a", "S", "and", "b", "S", ",", "so", "if", "an", "object", "does", "not", "belong", "to", "either", "a", "S", "or", "b", "S", ",", "it", "can", "not", "belong", "to", "C", ".", "The", "real-world", "semantic", "relationships", "are", "noisy", "and", "fuzzy", ",", "but", "they", "can", "still", "provide", "valuable", "information", "for", "classification", ".", "For", "example", ",", "knowing", "that", "most", "-LRB-", "80", "%", "-RRB-", "objects", "in", "a", "source", "category", "S", "belong", "to", "one", "master", "category", "a", "C", "and", "the", "rest", "-LRB-", "20", "%", "-RRB-", "examples", "belong", "to", "another", "master", "category", "b", "C", "is", "obviously", "helpful", ".", "The", "difficulty", "is", "that", "knowledge", "about", "those", "semantic", "relationships", "is", "not", "explicit", "but", "hidden", "in", "the", "data", ".", "In", "this", "paper", ",", "we", "propose", "a", "new", "approach", ",", "co-bootstrapping", ",", "to", "enhance", "the", "classification", "by", "exploiting", "such", "implicit", "knowledge", ".", "Our", "experiments", "with", "real-world", "web", "data", "show", "substantial", "improvements", "in", "the", "performance", "of", "taxonomy", "integration", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "2", ",", "we", "give", "the", "formal", "problem", "statement", ".", "In", "3", ",", "we", "describe", "a", "state-of-the-art", "solution", ".", "In", "4", ",", "we", "present", "our", "approach", "in", "detail", ".", "In", "5", ",", "we", "conduct", "experimental", "evaluations", ".", "In", "6", ",", "we", "review", "the", "related", "work", ".", "In", "7", ",", "we", "make", "concluding", "remarks", ".", "Taxonomies", "are", "often", "organized", "as", "hierarchies", ".", "In", "this", "work", ",", "we", "assume", "for", "simplicity", ",", "that", "any", "objects", "assigned", "to", "an", "interior", "node", "really", "belong", "to", "a", "leaf", "node", "which", "is", "an", "offspring", "of", "that", "interior", "node", ".", "Since", "we", "now", "have", "all", "objects", "only", "at", "leaf", "nodes", ",", "we", "can", "flatten", "the", "hierarchical", "taxonomy", "to", "a", "single", "level", "and", "treat", "it", "as", "a", "set", "of", "categories", "-LSB-", "2", "-RSB-", ".", "Now", "we", "formally", "define", "the", "taxonomy", "integration", "problem", "that", "we", "are", "solving", ".", "Given", "two", "taxonomies", ":", "a", "master", "taxonomy", "M", "with", "a", "set", "of", "categories", "1", "2", ",", ",", "...", ",", "M", "C", "C", "C", "each", "containing", "a", "set", "of", "objects", ",", "and", "a", "source", "taxonomy", "N", "with", "a", "set", "of", "categories", "1", "2", ",", ",", "...", ",", "N", "S", "S", "S", "each", "containing", "a", "set", "of", "objects", ",", "we", "need", "to", "find", "the", "categories", "in", "M", "for", "each", "object", "in", "N.", "To", "formulate", "taxonomy", "integration", "as", "a", "classification", "problem", ",", "we", "take", "1", "2", ",", ",", "...", ",", "M", "C", "C", "C", "as", "classes", ",", "the", "objects", "in", "M", "as", "training", "examples", ",", "the", "objects", "in", "N", "as", "test", "examples", ",", "so", "that", "taxonomy", "integration", "can", "be", "automatically", "accomplished", "by", "predicting", "the", "classes", "of", "each", "test", "example", ".", "Such", "a", "classification", "problem", "is", "multi-class", "and", "multi-label", ",", "in", "the", "sense", "that", "there", "are", "usually", "more", "than", "two", "possible", "classes", "and", "one", "object", "may", "be", "relevant", "to", "more", "than", "one", "class", ".", "Agrawal", "and", "Srikant", "recently", "proposed", "an", "elegant", "approach", "to", "taxonomy", "integration", "by", "enhancing", "the", "Na", "ve", "Bayes", "algorithm", "-LSB-", "2", "-RSB-", ".", "The", "Na", "ve", "Bayes", "-LRB-", "NB", "-RRB-", "algorithm", "is", "a", "well-known", "text", "classification", "technique", "-LSB-", "18", "-RSB-", ".", "NB", "tries", "to", "fit", "a", "generative", "model", "for", "documents", "using", "training", "examples", "and", "apply", "this", "model", "to", "classify", "test", "examples", ".", "The", "generative", "model", "of", "NB", "assumes", "that", "a", "document", "is", "generated", "by", "first", "choosing", "its", "class", "according", "to", "a", "prior", "distribution", "of", "classes", ",", "and", "then", "producing", "its", "words", "independently", "according", "to", "a", "-LRB-", "typically", "multinomial", "-RRB-", "distribution", "of", "terms", "conditioned", "on", "the", "chosen", "class", "-LSB-", "15", "-RSB-", ".", "Given", "a", "test", "document", "d", ",", "NB", "predicts", "its", "class", "to", "be", "arg", "max", "Pr", "-LSB-", "|", "-RSB-", "C", "C", "d", ".", "The", "posterior", "probability", "Pr", "-LSB-", "|", "-RSB-", "C", "d", "can", "be", "computed", "via", "Bayes", "'s", "rule", ":", "Pr", "-LSB-", "|", "-RSB-", "C", "d", "Pr", "-LSB-", ",", "-RSB-", "Pr", "-LSB-", "-RSB-", "C", "d", "d", "=", "Pr", "-LSB-", "-RSB-", "Pr", "-LSB-", "|", "-RSB-", "Pr", "-LSB-", "-RSB-", "C", "d", "C", "d", "=", "Pr", "-LSB-", "-RSB-", "Pr", "-LSB-", "|", "-RSB-", "C", "d", "C", "-LRB-", "-RRB-", "-LRB-", ",", "-RRB-", "Pr", "-LSB-", "-RSB-", "Pr", "-LSB-", "|", "-RSB-", "n", "d", "w", "w", "d", "C", "w", "C", "=", ",", "where", "-LRB-", ",", "-RRB-", "n", "d", "w", "is", "the", "number", "of", "occurrences", "of", "w", "in", "d", ".", "The", "probability", "Pr", "-LSB-", "-RSB-", "C", "can", "be", "estimated", "by", "the", "proportion", "of", "training", "documents", "in", "C", ".", "The", "probability", "Pr", "-LSB-", "|", "-RSB-", "w", "C", "can", "be", "estimated", "by", "-LRB-", "-RRB-", "-LRB-", ",", "-RRB-", "-LRB-", ",", "-RRB-", "i", "i", "w", "V", "n", "C", "w", "n", "C", "w", "+", "+", ",", "where", "-LRB-", ",", "-RRB-", "n", "C", "w", "is", "the", "number", "of", "occurrences", "of", "w", "in", "training", "documents", "in", "C", ",", "V", "is", "the", "vocabulary", "of", "terms", ",", "and", "0", "1", "<", "is", "the", "Lidstone", "'s", "smoothing", "parameter", "-LSB-", "1", "-RSB-", ".", "Taking", "logs", ",", "we", "see", "that", "NB", "is", "actually", "a", "linear", "classifier", ":", "log", "Pr", "-LSB-", "|", "-RSB-", "C", "d", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", ",", "-RRB-", "log", "Pr", "-LSB-", "-RSB-", "Pr", "-LSB-", "|", "-RSB-", "n", "d", "w", "w", "d", "C", "w", "C", "-LRB-", "-RRB-", "log", "Pr", "-LSB-", "-RSB-", "-LRB-", ",", "-RRB-", "log", "Pr", "-LSB-", "|", "-RSB-", "w", "d", "C", "n", "d", "w", "w", "C", "=", "+", ".", "The", "enhanced", "Na", "ve", "Bayes", "-LRB-", "ENB", "-RRB-", "algorithm", "-LSB-", "2", "-RSB-", "uses", "the", "categorization", "of", "the", "source", "taxonomy", "to", "get", "better", "probability", "estimations", ".", "Given", "a", "test", "document", "d", "that", "is", "know", "to", "be", "in", "category", "S", "in", "N", ",", "ENB", "predicts", "its", "category", "in", "M", "to", "be", "arg", "max", "Pr", "-LSB-", "|", ",", "-RSB-", "C", "C", "d", "S", ".", "The", "posterior", "probability", "Pr", "-LSB-", "|", ",", "-RSB-", "C", "d", "S", "can", "411", "be", "computed", "as", "Pr", "-LSB-", "|", ",", "-RSB-", "C", "d", "S", "Pr", "-LSB-", ",", ",", "-RSB-", "Pr", "-LSB-", ",", "-RSB-", "C", "d", "S", "d", "S", "=", "Pr", "-LSB-", "-RSB-", "Pr", "-LSB-", ",", "|", "-RSB-", "Pr", "-LSB-", ",", "-RSB-", "S", "C", "d", "S", "d", "S", "=", "Pr", "-LSB-", ",", "|", "-RSB-", "C", "d", "S", ".", "ENB", "invokes", "a", "simplification", "that", "assumes", "d", "and", "S", "are", "independent", "given", "C", ",", "therefore", "Pr", "-LSB-", ",", "|", "-RSB-", "C", "d", "S", "Pr", "-LSB-", "|", "-RSB-", "Pr", "-LSB-", "|", ",", "-RSB-", "C", "S", "d", "S", "C", "=", "Pr", "-LSB-", "|", "-RSB-", "Pr", "-LSB-", "|", "-RSB-", "C", "S", "d", "C", "=", "-LRB-", "-RRB-", "-LRB-", ",", "-RRB-", "Pr", "-LSB-", "|", "-RSB-", "Pr", "-LSB-", "|", "-RSB-", "n", "d", "w", "w", "d", "C", "S", "w", "C", "=", ".", "The", "probability", "Pr", "-LSB-", "|", "-RSB-", "w", "C", "can", "be", "estimated", "in", "the", "same", "way", "of", "NB", ".", "For", "the", "probability", "Pr", "-LSB-", "|", "-RSB-", "C", "S", ",", "ENB", "estimates", "it", "by", "-LRB-", "-RRB-", "i", "i", "i", "C", "C", "C", "S", "C", "C", "S", ",", "where", "C", "is", "the", "number", "of", "documents", "in", "C", ",", "C", "S", "is", "the", "number", "of", "documents", "in", "S", "classified", "into", "C", "by", "the", "NB", "classifier", ",", "and", "0", "is", "a", "parameter", "reflecting", "the", "degree", "of", "semantic", "overlap", "between", "the", "categorizations", "of", "M", "and", "N", ".", "The", "optimal", "value", "of", "can", "be", "found", "using", "a", "tune", "set", "-LRB-", "a", "set", "of", "objects", "whose", "categories", "in", "both", "taxonomies", "are", "known", "-RRB-", ".", "The", "tune", "set", "can", "be", "made", "available", "via", "random", "sampling", "or", "active", "learning", "-LSB-", "2", "-RSB-", ".", "Taking", "logs", ",", "we", "see", "that", "ENB", "is", "still", "a", "linear", "classifier", ":", "log", "Pr", "-LSB-", "|", ",", "-RSB-", "C", "d", "S", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", ",", "-RRB-", "log", "Pr", "-LSB-", "|", "-RSB-", "Pr", "-LSB-", "|", "-RSB-", "n", "d", "w", "w", "d", "C", "S", "w", "C", "-LRB-", "-RRB-", "log", "Pr", "-LSB-", "|", "-RSB-", "-LRB-", ",", "-RRB-", "log", "Pr", "-LSB-", "|", "-RSB-", "w", "d", "C", "S", "n", "d", "w", "w", "C", "=", "+", ".", "Comparing", "the", "classification", "functions", "of", "NB", "and", "ENB", ",", "it", "is", "obvious", "that", "all", "ENB", "does", "is", "to", "shift", "the", "classification", "threshold", "of", "its", "base", "NB", "classifier", ",", "no", "more", "and", "no", "less", ".", "To", "achieve", "multi-class", "multi-label", "classification", "that", "is", "required", "by", "taxonomy", "integration", ",", "we", "use", "the", "``", "one-vs-rest", "''", "method", "to", "create", "an", "ensemble", "of", "binary", "-LRB-", "yes/no", "-RRB-", "NB", "or", "ENB", "classifiers", ",", "one", "for", "each", "category", "C", "in", "M", ".", "Here", "we", "present", "our", "approach", "in", "detail", ".", "In", "4.1", ",", "we", "introduce", "the", "boosting", "technique", ".", "In", "4.2", ",", "we", "propose", "the", "co-bootstrapping", "method", ".", "In", "4.3", ",", "we", "discuss", "the", "advantages", "of", "our", "approach", ".", "4.1", "Boosting", "In", "our", "approach", "to", "taxonomy", "integration", ",", "we", "utilize", "a", "powerful", "machine", "learning", "method", ",", "boosting", "-LSB-", "17", ",", "23", "-RSB-", ",", "to", "build", "classifiers", ".", "The", "main", "idea", "of", "boosting", "is", "to", "combine", "many", "weak", "hypotheses", "-LRB-", "simple", "and", "moderately", "accurate", "classification", "rules", "-RRB-", ",", "into", "a", "highly", "accurate", "classifier", ".", "In", "this", "paper", ",", "we", "focus", "on", "boosting", "for", "text", "classification", ".", "Generalization", "to", "other", "kinds", "of", "data", "and", "learning", "algorithms", "would", "be", "straightforward", ".", "4.1.1", "Term-Features", "Text", "objects", "-LRB-", "documents", "-RRB-", "can", "be", "represented", "using", "a", "set", "of", "term-features", "1", "2", "-LCB-", ",", ",", "...", "-RCB-", "T", "T", "T", "T", "n", "F", "f", "f", "f", "=", ".", "The", "term-feature", "Th", "f", "-LRB-", "1", "-RRB-", "h", "n", "of", "a", "given", "object", "x", "is", "a", "binary", "feature", "indicating", "the", "presence", "or", "absence", "of", "h", "w", "-LRB-", "the", "h-th", "distinct", "word", "in", "the", "document", "collection", "-RRB-", "in", "x", ",", "i.e.", ",", "1", "if", "0", "if", "h", "Th", "h", "w", "x", "f", "w", "x", "=", ".", "4.1.2", "Weak", "Hypotheses", "Let", "X", "denote", "the", "domain", "of", "possible", "objects", ",", "and", "let", "Y", "be", "a", "set", "of", "k", "possible", "classes", ".", "A", "labeled", "example", "is", "a", "pair", "-LRB-", ",", "-RRB-", "x", "Y", "where", "x", "X", "is", "an", "object", "and", "Y", "Y", "is", "the", "set", "of", "classes", "which", "x", "belongs", "to", ".", "We", "define", "-LSB-", "-RSB-", "Y", "l", "for", "l", "Y", "to", "be", "1", "if", "-LSB-", "-RSB-", "1", "if", "l", "Y", "Y", "l", "l", "Y", "+", "=", ".", "A", "hypothesis", "is", "a", "real-valued", "function", ":", "h", "R", "X", "Y", ".", "The", "sign", "of", "-LRB-", ",", "-RRB-", "h", "x", "l", "is", "a", "prediction", "of", "-LSB-", "-RSB-", "Y", "l", "for", "x", ",", "i.e.", ",", "whether", "object", "x", "is", "contained", "in", "class", "l", ".", "The", "magnitude", "of", "-LRB-", ",", "-RRB-", "h", "x", "l", "is", "interpreted", "as", "a", "measure", "of", "confidence", "in", "the", "prediction", ".", "Based", "on", "a", "binary", "feature", "f", ",", "we", "are", "interested", "in", "weak", "hypotheses", "h", "which", "are", "simple", "decision", "stumps", "of", "the", "form", "1", "0", "if", "1", "-LRB-", ",", "-RRB-", "if", "0", "l", "l", "c", "f", "h", "x", "l", "c", "f", "=", "=", "=", ",", "where", "1", "0", ",", "l", "l", "c", "c", ".", "4.1.3", "AdaBoost", "Algorithm", "The", "most", "popular", "boosting", "algorithm", "is", "AdaBoost", "introduced", "in", "1995", "by", "Freund", "and", "Schapire", "-LSB-", "12", "-RSB-", ".", "Our", "work", "is", "based", "on", "a", "multi-class", "multi-label", "version", "of", "AdaBoost", ",", "AdaBoost.MH", "-LSB-", "24", ",", "25", "-RSB-", ",", "which", "is", "described", "in", "Figure", "1", ".", "Given", "m", "training", "examples", "1", "1", "-LRB-", ",", "-RRB-", ",", "...", ",", "-LRB-", ",", "-RRB-", "m", "m", "x", "Y", "x", "Y", "where", "each", "i", "x", "X", ",", "i", "Y", "Y", ",", "AdaBoost.MH", "dynamically", "maintains", "a", "distribution", "t", "D", "over", "all", "objects", "and", "classes", ".", "Initially", "this", "distribution", "1", "D", "is", "uniform", ".", "In", "the", "t-th", "round", ",", "the", "optimal", "weak", "hypothesis", "t", "h", "is", "selected", "based", "on", "the", "set", "of", "training", "examples", "and", "the", "current", "distribution", "t", "D", ".", "Then", "a", "parameter", "t", "is", "chosen", ",", "and", "the", "distribution", "t", "D", "is", "updated", "in", "a", "manner", "that", "puts", "more", "weights", "on", "``", "difficult", "''", "examples", "-LRB-", "object-class", "pairs", "-RRB-", "that", "are", "misclassified", "by", "t", "h", ".", "Please", "be", "referred", "to", "-LSB-", "24", ",", "25", "-RSB-", "for", "the", "details", "on", "computing", "optimal", "t", "h", "and", "t", ".", "This", "procedure", "repeats", "for", "T", "rounds", ".", "The", "final", "hypothesis", "-LRB-", ",", "-RRB-", "H", "x", "l", "is", "actually", "a", "weighted", "vote", "Given", ":", "1", "1", "-LRB-", ",", "-RRB-", ",", "...", ",", "-LRB-", ",", "-RRB-", "m", "m", "x", "Y", "x", "Y", "where", "each", "i", "x", "X", ",", "i", "Y", "Y", ".", "Initialize", "1", "-LRB-", ",", "-RRB-", "1", "-LRB-", "-RRB-", "D", "i", "l", "mk", "=", ".", "for", "1", ",", "...", ",", "t", "T", "=", "do", "Pass", "distribution", "t", "D", "to", "weak", "learner", ".", "Get", "weak", "hypothesis", ":", "ht", "R", "X", "Y", ".", "Choose", "t", ".", "Update", ":", "1", "-LRB-", ",", "-RRB-", "exp", "-LRB-", "-LSB-", "-RSB-", "-LRB-", ",", "-RRB-", "-RRB-", "-LRB-", ",", "-RRB-", "t", "t", "i", "t", "i", "t", "t", "D", "i", "l", "Y", "l", "h", "x", "l", "D", "i", "l", "Z", "+", "=", "where", "t", "Z", "is", "the", "normalization", "factor", "end", "for", "Output", "the", "final", "hypothesis", ":", "1", "-LRB-", ",", "-RRB-", "-LRB-", ",", "-RRB-", "T", "t", "t", "t", "H", "x", "l", "h", "x", "l", "=", "=", ".", "Figure", "1", ":", "The", "boosting", "algorithm", "AdaBoost.MH", ".", "412", "of", "weak", "hypotheses", "1", "-LRB-", ",", "-RRB-", "T", "t", "t", "t", "h", "x", "l", "=", ",", "and", "the", "final", "prediction", "can", "be", "computed", "according", "to", "the", "sign", "of", "-LRB-", ",", "-RRB-", "H", "x", "l", ".", "4.2", "Co-Bootstrapping", "Thus", "far", "we", "have", "completely", "ignored", "the", "categorization", "of", "N.", "Although", "M", "and", "N", "are", "usually", "not", "identical", ",", "their", "categorizations", "often", "have", "some", "semantic", "overlap", ".", "Therefore", "the", "categorization", "of", "N", "contains", "valuable", "implicit", "knowledge", "about", "the", "categorization", "of", "M.", "Hereby", "we", "propose", "a", "new", "approach", ",", "co-bootstrapping", ",", "to", "enhance", "the", "classification", "by", "exploiting", "such", "implicit", "knowledge", ".", "4.2.1", "Category-Features", "If", "we", "have", "indicator", "functions", "for", "each", "category", "in", "N", ",", "we", "can", "imagine", "taking", "those", "indicator", "functions", "as", "features", "when", "we", "learn", "the", "classifier", "for", "M", ".", "This", "allows", "us", "to", "exploit", "the", "semantic", "relationship", "among", "the", "categories", "of", "M", "and", "N", "without", "explicitly", "figuring", "out", "what", "the", "semantic", "relationships", "are", ".", "More", "specifically", ",", "for", "each", "object", "in", "M", ",", "we", "augment", "the", "ordinary", "term-features", "with", "a", "set", "of", "category-features", "1", "2", "-LCB-", ",", "...", ",", "-RCB-", "N", "F", "f", "f", "f", "=", "N", "N", "N", "N", "derived", "from", "N", ".", "The", "category-feature", "j", "f", "N", "-LRB-", "1", "-RRB-", "j", "N", "of", "a", "given", "object", "x", "is", "a", "binary", "feature", "indicating", "whether", "x", "belongs", "to", "category", "j", "S", "-LRB-", "the", "j-th", "category", "of", "N", "-RRB-", ",", "i.e.", ",", "1", "if", "0", "if", "j", "j", "j", "x", "S", "f", "x", "S", "=", "N", ".", "In", "the", "same", "way", ",", "we", "can", "get", "a", "set", "of", "category-features", "1", "2", "-LCB-", ",", "...", ",", "-RCB-", "M", "F", "f", "f", "f", "=", "M", "M", "M", "M", "derived", "from", "M", "to", "be", "used", "for", "supplementing", "the", "features", "of", "objects", "in", "N", ".", "The", "remaining", "problem", "is", "to", "obtain", "these", "indicator", "functions", ",", "which", "are", "initially", "not", "available", ".", "4.2.2", "Co-Bootstrapping", "Algorithm", "When", "building", "the", "classifier", "for", "M", ",", "the", "training", "examples", "are", "the", "objects", "in", "M", "and", "the", "test", "examples", "are", "the", "objects", "in", "N.", "To", "leverage", "the", "categorization", "of", "N", "to", "reinforce", "classification", ",", "our", "classifier", "uses", "term-features", "T", "F", "as", "well", "as", "category-features", "F", "N", ".", "However", ",", "we", "do", "not", "know", "the", "exact", "values", "of", "F", "N", "of", "the", "training", "examples", ".", "Our", "proposed", "algorithm", "overcomes", "the", "above", "obstacle", "by", "utilizing", "the", "bootstrapping", "idea", ".", "Let", "-LRB-", "-RRB-", "r", "F", "T", "B", "denote", "a", "boosting-classifier", "for", "taxonomy", "T", "'s", "categorization", "based", "on", "feature", "set", "F", "at", "step", "r", ".", "Initially", "we", "build", "a", "classifiers", "0", "-LRB-", "-RRB-", "T", "F", "B", "N", "based", "on", "only", "term-features", ",", "then", "use", "it", "to", "classify", "the", "objects", "in", "M", "-LRB-", "the", "training", "examples", "-RRB-", "into", "the", "categories", "of", "N", ",", "thus", "we", "can", "predict", "the", "value", "of", "each", "category-feature", "j", "f", "F", "N", "N", "for", "each", "object", "x", "M", ".", "At", "next", "step", "we", "will", "be", "able", "to", "build", "1", "-LRB-", "-RRB-", "T", "F", "F", "M", "N", "B", "using", "the", "predicted", "values", "of", "F", "N", "of", "the", "training", "examples", ".", "Similarly", "we", "can", "build", "0", "-LRB-", "-RRB-", "T", "F", "M", "B", "and", "1", "-LRB-", "-RRB-", "T", "F", "F", "N", "M", "B", ".", "The", "new", "classifier", "1", "-LRB-", "-RRB-", "T", "F", "F", "N", "M", "B", "ought", "to", "be", "better", "than", "0", "-LRB-", "-RRB-", "T", "F", "B", "N", "because", "1", "-LRB-", "-RRB-", "T", "F", "F", "N", "M", "B", "leverages", "more", "knowledge", ".", "Hence", "we", "can", "predict", "the", "value", "of", "each", "category-feature", "j", "f", "F", "N", "N", "for", "each", "object", "x", "M", "more", "accurately", "using", "1", "-LRB-", "-RRB-", "T", "F", "F", "N", "M", "B", "instead", "of", "0", "-LRB-", "-RRB-", "T", "F", "B", "N", ",", "and", "afterwards", "we", "can", "build", "2", "-LRB-", "-RRB-", "T", "F", "F", "M", "N", "B", ".", "Also", "2", "-LRB-", "-RRB-", "T", "F", "F", "M", "N", "B", "is", "very", "likely", "to", "be", "better", "than", "1", "-LRB-", "-RRB-", "T", "F", "F", "M", "N", "B", "because", "2", "-LRB-", "-RRB-", "T", "F", "F", "M", "N", "B", "is", "based", "on", "a", "more", "accurate", "prediction", "of", "F", "N", ".", "This", "process", "can", "be", "repeated", "iteratively", "in", "a", "``", "ping-pong", "''", "manner", ".", "We", "name", "this", "approach", "co-bootstrapping", "since", "the", "two", "classifiers", "-LRB-", "-RRB-", "r", "T", "F", "F", "B", "M", "N", "and", "-LRB-", "-RRB-", "r", "T", "F", "F", "B", "N", "M", "collaborate", "to", "bootstrap", "themselves", "together", ".", "Figure", "2", "presents", "the", "co-bootstrapping", "algorithm", ",", "and", "Figure", "3", "depicts", "its", "process", ".", "4.3", "Discussion", "4.3.1", "Why", "Choose", "Boosting", "We", "have", "selected", "to", "employ", "the", "boosting", "technique", "to", "build", "classifiers", "in", "our", "co-bootstrapping", "approach", "to", "taxonomy", "integration", "because", "of", "its", "following", "virtues", ".", "Boosting", "has", "shown", "outstanding", "classification", "performance", "on", "many", "kinds", "of", "data", "such", "as", "text", "documents", "-LSB-", "17", ",", "23", ",", "24", "-RSB-", ".", "Boosting", "finds", "the", "optimal", "combination", "of", "heterogeneous", "weak", "hypotheses", "automatically", ",", "therefore", "alleviates", "the", "problem", "of", "how", "to", "weight", "ordinary", "features", "-LRB-", "e.g.", "term-features", "-RRB-", "and", "category-features", "appropriately", ".", "In", "contrast", ",", "approaches", "based", "on", "other", "machine", "learning", "algorithms", "like", "Support", "Vector", "Machines", "-LRB-", "SVMs", "-RRB-", "-LSB-", "9", "-RSB-", "would", "require", "to", "adjust", "relative", "combination", "weights", ",", "which", "is", "a", "non-trivial", "problem", ".", "Boosting", "generates", "descriptive", "and", "human-readable", "hypotheses", "as", "the", "final", "classifier", ",", "and", "the", "learned", "classifier", "is", "usually", "sparse", "despite", "the", "large", "feature", "set", ".", "Although", "boosting", "looks", "an", "ideal", "choice", ",", "other", "machine", "learning", "algorithms", "can", "also", "be", "utilized", "in", "the", "co-bootstrapping", "approach", ".", "We", "have", "not", "investigated", "this", "issue", "yet", ".", "4.3.2", "Comparison", "with", "ENB", "Although", "ENB", "-LSB-", "2", "-RSB-", "has", "been", "shown", "to", "work", "well", "for", "taxonomy", "integration", ",", "we", "think", "that", "a", "more", "general", "approach", "is", "still", "attractive", ".", "It", "has", "been", "experimentally", "shown", "that", "AdaBoost", "is", "more", "promising", "than", "NB", "for", "text", "classification", "-LSB-", "24", "-RSB-", ".", "The", "co-bootstrapping", "approach", "allows", "more", "powerful", "machine", "learning", "algorithms", "like", "AdaBoost", "to", "be", "utilized", ".", "Both", "ENB", "and", "our", "co-bootstrapping", "approach", "exploit", "the", "categorization", "of", "N", "to", "enhance", "classification", ".", "While", "all", "ENB", "does", "is", "to", "shift", "the", "classification", "threshold", "of", "its", "base", "NB", "classifier", "-LRB-", "see", "3", "-RRB-", ",", "co-bootstrapping", "has", "the", "ability", "to", "achieve", "more", "complex", "adjustments", "on", "the", "classification", "function", "of", "its", "base", "classifier", ".", "413", "Furthermore", ",", "ENB", "needs", "a", "stand-alone", "tune", "set", "to", "find", "the", "optimal", "value", "of", "parameter", "which", "controls", "the", "influence", "of", "source", "categorization", "information", "on", "classification", ",", "whereas", "co-bootstrapping", "based", "on", "boosting", "does", "not", "have", "such", "burdens", ".", "Although", "co-bootstrapping", "looks", "more", "effective", ",", "ENB", "still", "holds", "an", "advantage", "in", "efficiency", ".", "We", "have", "collected", "5", "datasets", "from", "Google", "and", "Yahoo", ".", "One", "dataset", "includes", "the", "slice", "of", "Google", "'s", "taxonomy", "and", "the", "slice", "of", "Yahoo", "'s", "taxonomy", "about", "websites", "on", "one", "specific", "topic", ",", "as", "shown", "in", "Table", "1", ".", "In", "each", "slice", "of", "taxonomy", ",", "we", "take", "only", "the", "top", "level", "directories", "as", "categories", ",", "e.g.", ",", "the", "``", "Movie", "''", "slice", "of", "Google", "'s", "taxonomy", "has", "categories", "like", "``", "Action", "''", ",", "``", "Comedy", "''", ",", "``", "Horror", "''", ",", "etc.", ".", "For", "each", "dataset", ",", "we", "show", "in", "Table", "2", "the", "number", "of", "categories", "occurred", "in", "Google", "and", "Yahoo", "respectively", ".", "In", "each", "category", ",", "we", "take", "all", "items", "listed", "on", "the", "corresponding", "directory", "page", "and", "its", "sub-directory", "pages", "as", "its", "objects", ".", "An", "object", "-LRB-", "list", "item", "-RRB-", "corresponds", "to", "a", "website", "on", "the", "world", "wide", "web", ",", "which", "is", "usually", "described", "by", "its", "URL", ",", "its", "title", ",", "and", "optionally", "a", "short", "annotation", "about", "its", "content", ".", "Here", "each", "object", "is", "considered", "as", "a", "text", "document", "composed", "of", "its", "title", "and", "annotation", ".", "All", "documents", "are", "pre-processed", "by", "removal", "of", "stop-words", "and", "stemming", ".", "For", "each", "dataset", ",", "we", "show", "in", "Table", "3", "the", "number", "of", "objects", "occurred", "in", "Google", "-LRB-", "G", "-RRB-", ",", "Yahoo", "-LRB-", "Y", "-RRB-", ",", "either", "of", "them", "-LRB-", "G", "Y", "-RRB-", ",", "and", "both", "of", "them", "-LRB-", "G", "Y", "-RRB-", "respectively", ".", "The", "set", "of", "objects", "in", "GY", "covers", "only", "a", "small", "portion", "-LRB-", "usually", "less", "than", "10", "%", "-RRB-", "of", "the", "set", "of", "objects", "in", "Google", "or", "Yahoo", "alone", ",", "which", "suggests", "the", "great", "benefit", "of", "automatically", "integrating", "them", ".", "This", "observation", "is", "consistent", "with", "-LSB-", "2", "-RSB-", ".", "Figure", "3", ":", "The", "co-bootstrapping", "process", ".", "Given", ":", "two", "taxonomies", "M", "and", "N", ".", "Build", "classifier", "0", "-LRB-", "-RRB-", "T", "F", "B", "M", ",", "then", "use", "it", "to", "predict", "the", "value", "of", "each", "category-feature", "i", "f", "F", "M", "M", "for", "each", "object", "x", "N", ".", "Build", "classifier", "0", "-LRB-", "-RRB-", "T", "F", "B", "N", ",", "then", "use", "it", "to", "predict", "the", "value", "of", "each", "category-feature", "j", "f", "F", "N", "N", "for", "each", "object", "x", "M", ".", "for", "1", ",", "...", ",", "r", "R", "=", "do", "Build", "classifier", "-LRB-", "-RRB-", "r", "T", "F", "F", "B", "M", "N", ",", "then", "use", "it", "to", "predict", "the", "value", "of", "each", "category-feature", "i", "f", "F", "M", "M", "for", "each", "object", "x", "N", ".", "Build", "classifier", "-LRB-", "-RRB-", "r", "T", "F", "F", "B", "N", "M", ",", "then", "use", "it", "to", "predict", "the", "value", "of", "each", "category-feature", "j", "f", "F", "N", "N", "for", "each", "object", "x", "M", ".", "end", "for", "For", "each", "object", "x", "N", ",", "if", "the", "value", "of", "its", "category-feature", "i", "f", "F", "M", "M", "is", "positive", ",", "then", "we", "classify", "it", "into", "i", "C", "M", ".", "For", "each", "object", "x", "M", ",", "if", "the", "value", "of", "its", "category-feature", "j", "f", "F", "N", "N", "is", "positive", ",", "then", "we", "classify", "it", "into", "j", "S", "N", ".", "Figure", "2", ":", "The", "co-bootstrapping", "algorithm", ".", "Table", "1", ":", "The", "datasets", ".", "Google", "Yahoo", "Book", "/", "Top", "/", "Shopping", "/", "Publications", "/", "Books", "/", "/", "Business_and_Economy", "/", "Shopping_and_Services", "/", "Books", "/", "Bookstores", "/", "Disease", "/", "Top", "/", "Health", "/", "Conditions_and_Diseases", "/", "/", "Health", "/", "Diseases_and_Conditions", "/", "Movie", "/", "Top", "/", "Arts", "/", "Movies", "/", "Genres", "/", "/", "Entertainment", "/", "Movies_and_Film", "/", "Genres", "/", "Music", "/", "Top", "/", "Arts", "/", "Music", "/", "Styles", "/", "/", "Entertainment", "/", "Music", "/", "Genres", "/", "News", "/", "Top", "/", "News", "/", "By_Subject", "/", "/", "News_and_Media", "/", "Table", "3", ":", "The", "number", "of", "objects", ".", "Google", "Yahoo", "G", "Y", "GY", "Book", "10,842", "11,268", "21,111", "999", "Disease", "34,047", "9,785", "41,439", "2,393", "Movie", "36,787", "14,366", "49,744", "1,409", "Music", "76,420", "24,518", "95,971", "4,967", "News", "31,504", "19,419", "49,303", "1,620", "Table", "2", ":", "The", "number", "of", "categories", ".", "Google", "Yahoo", "Book", "49", "41", "Disease", "30", "51", "Movie", "34", "25", "Music", "47", "24", "News", "27", "34", "414", "The", "number", "of", "categories", "per", "object", "in", "these", "datasets", "is", "1.54", "on", "average", ".", "This", "observation", "justifies", "the", "necessity", "of", "building", "multi-class", "multi-label", "classifiers", ".", "5.2", "Tasks", "For", "each", "dataset", ",", "we", "pose", "2", "symmetric", "taxonomy", "integration", "tasks", ":", "G", "Y", "-LRB-", "integrating", "objects", "from", "Yahoo", "into", "Google", "-RRB-", "and", "Y", "G", "-LRB-", "integrating", "objects", "from", "Google", "into", "Yahoo", "-RRB-", ".", "As", "described", "in", "2", ",", "we", "formulate", "each", "task", "as", "a", "classification", "problem", ".", "The", "objects", "in", "G", "Y", "can", "be", "used", "as", "test", "examples", ",", "because", "their", "categories", "in", "both", "taxonomies", "are", "known", "to", "us", "-LSB-", "2", "-RSB-", ".", "We", "hide", "the", "test", "examples", "'", "master", "categories", "but", "expose", "their", "source", "categories", "to", "the", "learning", "algorithm", "in", "training", "phase", ",", "and", "then", "compare", "their", "hidden", "master", "categories", "with", "the", "predictions", "of", "the", "learning", "algorithm", "in", "test", "phase", ".", "Suppose", "the", "number", "of", "the", "test", "examples", "is", "n", ".", "For", "G", "Y", "tasks", ",", "we", "randomly", "sample", "n", "objects", "from", "the", "set", "G-Y", "as", "training", "examples", ".", "For", "Y", "G", "tasks", ",", "we", "randomly", "sample", "n", "objects", "from", "the", "set", "Y-G", "as", "training", "examples", ".", "This", "is", "to", "simulate", "the", "common", "situation", "that", "the", "sizes", "of", "M", "and", "N", "are", "roughly", "in", "same", "magnitude", ".", "For", "each", "task", ",", "we", "do", "such", "random", "sampling", "5", "times", ",", "and", "report", "the", "classification", "performance", "averaged", "over", "these", "5", "random", "samplings", ".", "5.3", "Measures", "As", "stated", "in", "2", ",", "it", "is", "natural", "to", "accomplish", "taxonomy", "integration", "tasks", "via", "building", "multi-class", "multi-label", "classifiers", ".", "To", "measure", "classification", "performance", "for", "each", "class", "-LRB-", "category", "in", "M", "-RRB-", ",", "we", "use", "the", "standard", "F-score", "-LRB-", "F", "1", "measure", "-RRB-", "-LSB-", "3", "-RSB-", ".", "The", "F-score", "is", "defined", "as", "the", "harmonic", "average", "of", "precision", "-LRB-", "p", "-RRB-", "and", "recall", "-LRB-", "r", "-RRB-", ",", "2", "-LRB-", "-RRB-", "F", "pr", "p", "r", "=", "+", ",", "where", "precision", "is", "the", "proportion", "of", "correctly", "predicted", "positive", "examples", "among", "all", "predicted", "positive", "examples", ",", "and", "recall", "is", "the", "proportion", "of", "correctly", "predicted", "positive", "examples", "among", "all", "true", "positive", "examples", ".", "The", "F-scores", "can", "be", "computed", "for", "the", "binary", "decisions", "on", "each", "individual", "category", "first", "and", "then", "be", "averaged", "over", "categories", ".", "Or", "they", "can", "be", "computed", "globally", "over", "all", "the", "M", "n", "binary", "decisions", "where", "M", "is", "the", "number", "of", "categories", "in", "consideration", "-LRB-", "the", "number", "of", "categories", "in", "M", "-RRB-", "and", "n", "is", "the", "number", "of", "total", "test", "examples", "-LRB-", "the", "number", "of", "objects", "in", "N", "-RRB-", ".", "The", "former", "way", "is", "called", "macro-averaging", "and", "the", "latter", "way", "is", "called", "micro-averaging", "-LSB-", "27", "-RSB-", ".", "It", "is", "understood", "that", "the", "micro-averaged", "F-score", "-LRB-", "miF", "-RRB-", "tends", "to", "be", "dominated", "the", "classification", "performance", "on", "common", "categories", ",", "and", "that", "the", "macro-averaged", "F-score", "-LRB-", "maF", "-RRB-", "is", "more", "influenced", "by", "the", "classification", "performance", "on", "rare", "categories", "-LSB-", "27", "-RSB-", ".", "Providing", "both", "kinds", "of", "scores", "is", "more", "informative", "than", "providing", "either", "alone", ".", "5.4", "Settings", "We", "use", "our", "own", "implementation", "of", "NB", "and", "ENB", ".", "The", "Lidstone", "'s", "smoothing", "parameter", "is", "set", "to", "an", "appropriate", "value", "0.1", "-LSB-", "1", "-RSB-", ".", "The", "performance", "of", "ENB", "would", "be", "greatly", "affected", "by", "its", "parameter", ".", "We", "run", "ENB", "with", "a", "series", "of", "exponentially", "increasing", "values", "of", ":", "-LRB-", "0", ",", "1", ",", "3", ",", "10", ",", "30", ",", "100", ",", "300", ",", "1000", "-RRB-", "-LSB-", "2", "-RSB-", "for", "each", "taxonomy", "integration", "task", ",", "and", "report", "the", "best", "experimental", "results", ".", "We", "use", "BoosTexter", "-LSB-", "24", "-RSB-", "for", "the", "implementation", "of", "AdaBoost", ",", "taking", "single", "words", "as", "terms", ".", "We", "set", "the", "boosting", "rounds", "1000", "T", "=", "and", "the", "co-bootstrapping", "iteration", "number", "8", "R", "=", "-LRB-", "see", "Figure", "1", "&", "2", "-RRB-", ".", "In", "the", "following", "sections", ",", "we", "denote", "the", "normal", "AdaBoost", "approach", "by", "AB", ",", "and", "denote", "the", "co-bootstrapping", "approach", "based", "on", "AdaBoost", "algorithm", "by", "CB-AB", ".", "5.5", "Results", "The", "experimental", "results", "of", "NB", "and", "ENB", "are", "shown", "in", "Table", "4", ".", "We", "see", "that", "ENB", "really", "can", "achieve", "much", "better", "performance", "than", "NB", "for", "taxonomy", "integration", ".", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0", "1", "2", "3", "4", "5", "6", "7", "8", "maF", "-LRB-", "G", "Y", "-RRB-", "miF", "-LRB-", "G", "Y", "-RRB-", "maF", "-LRB-", "Y", "G", "-RRB-", "miF", "-LRB-", "Y", "G", "-RRB-", "Figure", "4", ":", "The", "taxonomy", "integration", "performance", "increases", "along", "with", "the", "number", "of", "co-bootstrapping", "iterations", ",", "on", "the", "Book", "dataset", ".", "Table", "5", ":", "Experimental", "Results", "of", "AB", "and", "CB-AB", ".", "AB", "CB-AB", "maF", "miF", "maF", "miF", "Book", "0.1740", "0.4499", "0.2540", "0.6030", "Disease", "0.5375", "0.6674", "0.6533", "0.7703", "Movie", "0.1930", "0.4892", "0.3172", "0.6716", "Music", "0.3316", "0.5025", "0.4851", "0.6826", "G", "Y", "News", "0.2150", "0.4625", "0.3083", "0.6218", "Book", "0.2436", "0.3853", "0.3516", "0.6341", "Disease", "0.3719", "0.6350", "0.4371", "0.7287", "Movie", "0.2559", "0.5214", "0.3922", "0.7154", "Music", "0.4369", "0.6397", "0.5799", "0.7994", "Y", "G", "News", "0.3774", "0.4942", "0.4340", "0.6421", "Table", "4", ":", "Experimental", "Results", "of", "NB", "and", "ENB", ".", "NB", "ENB", "maF", "miF", "maF", "miF", "Book", "0.1286", "0.2384", "0.1896", "0.5856", "Disease", "0.4386", "0.5602", "0.5230", "0.6895", "Movie", "0.1709", "0.3003", "0.2094", "0.5331", "Music", "0.2386", "0.3881", "0.2766", "0.5408", "G", "Y", "News", "0.2233", "0.4450", "0.2578", "0.5987", "Book", "0.1508", "0.2107", "0.2227", "0.5471", "Disease", "0.2746", "0.4812", "0.3415", "0.6370", "Movie", "0.2319", "0.4046", "0.2884", "0.5534", "Music", "0.3124", "0.5359", "0.3572", "0.6824", "Y", "G", "News", "0.2966", "0.4219", "0.3639", "0.6007", "415", "The", "experimental", "results", "of", "AB", "and", "CB-AB", "are", "shown", "in", "Table", "5", ".", "Obviously", "AB", "beats", "NB", ",", "which", "is", "consistent", "with", "the", "conclusion", "of", "-LSB-", "24", "-RSB-", ".", "Also", "we", "find", "that", "CB-AB", "works", "better", "than", "AB", "for", "taxonomy", "integration", ",", "which", "suggests", "that", "co-bootstrapping", "makes", "effective", "use", "of", "the", "categorization", "of", "N", "to", "enhance", "classification", "for", "M.", "Figure", "4", "shows", "that", "the", "taxonomy", "integration", "performance", "increases", "along", "with", "the", "number", "of", "co-bootstrapping", "iterations", ",", "on", "the", "Book", "dataset", ".", "This", "implies", "that", "the", "two", "boosting-classifiers", "learned", "from", "two", "taxonomies", "do", "mutually", "boost", "each", "other", "until", "they", "become", "stable", ".", "The", "experimental", "results", "of", "ENB", "and", "CB-AB", "are", "compared", "in", "Figure", "5", "and", "6", ".", "It", "is", "clear", "that", "CB-AB", "outperforms", "ENB", "consistently", "and", "significantly", ".", "Most", "of", "the", "recent", "research", "efforts", "related", "to", "taxonomy", "integration", "are", "in", "the", "context", "of", "ontology", "mapping", "on", "semantic", "web", ".", "An", "ontology", "specifies", "a", "conceptualization", "of", "a", "domain", "in", "terms", "of", "concepts", ",", "attributes", ",", "and", "relations", "-LSB-", "11", "-RSB-", ".", "The", "concepts", "in", "an", "ontology", "are", "usually", "organized", "into", "a", "taxonomy", ":", "each", "concept", "is", "represented", "by", "a", "category", "and", "associated", "with", "a", "set", "of", "objects", "-LRB-", "called", "the", "extension", "of", "that", "concept", "-RRB-", ".", "The", "basic", "goal", "of", "ontology", "mapping", "is", "to", "identify", "-LRB-", "typically", "one-to-one", "-RRB-", "semantic", "correspondences", "between", "the", "taxonomies", "of", "two", "given", "ontologies", ":", "for", "each", "concept", "-LRB-", "category", "-RRB-", "in", "one", "taxonomy", ",", "find", "the", "most", "similar", "concept", "-LRB-", "category", "-RRB-", "in", "the", "other", "taxonomy", ".", "Many", "works", "in", "this", "field", "use", "a", "variety", "of", "heuristics", "to", "find", "mappings", "-LSB-", "7", ",", "16", ",", "19", ",", "21", "-RSB-", ".", "Recently", "machine", "learning", "techniques", "have", "been", "introduced", "to", "further", "automate", "the", "ontology", "mapping", "process", "-LSB-", "10", ",", "13", ",", "14", ",", "20", ",", "26", "-RSB-", ".", "Some", "of", "them", "derive", "similarities", "between", "concepts", "-LRB-", "categories", "-RRB-", "based", "on", "their", "extensions", "-LRB-", "objects", "-RRB-", "-LSB-", "10", ",", "13", ",", "14", "-RSB-", ",", "therefore", "they", "need", "to", "first", "integrate", "objects", "from", "one", "taxonomy", "into", "the", "other", "and", "vice", "versa", "-LRB-", "i.e.", ",", "taxonomy", "integration", "-RRB-", ".", "So", "our", "work", "can", "be", "utilized", "as", "a", "basic", "component", "of", "an", "ontology", "mapping", "system", ".", "As", "stated", "in", "2", ",", "taxonomy", "integration", "can", "be", "formulated", "as", "a", "classification", "problem", ".", "The", "Rocchio", "algorithm", "-LSB-", "3", ",", "22", "-RSB-", "has", "been", "applied", "to", "this", "problem", "in", "-LSB-", "14", "-RSB-", ";", "and", "the", "Na", "ve", "Bayes", "-LRB-", "NB", "-RRB-", "algorithm", "-LSB-", "18", "-RSB-", "has", "been", "applied", "to", "this", "problem", "in", "-LSB-", "10", "-RSB-", ",", "without", "exploiting", "information", "in", "the", "source", "taxonomy", ".", "To", "our", "knowledge", ",", "the", "most", "advanced", "approach", "to", "taxonomy", "integration", "is", "the", "enhanced", "Na", "ve", "Bayes", "-LRB-", "ENB", "-RRB-", "algorithm", "proposed", "by", "Agrawal", "and", "Srikant", "-LSB-", "2", "-RSB-", ",", "which", "we", "have", "reviewed", "and", "compared", "with", "our", "approach", ".", "In", "-LSB-", "6", "-RSB-", ",", "AdaBoost", "is", "selected", "as", "the", "framework", "to", "combine", "term-features", "and", "automatically", "extracted", "semantic-features", "in", "the", "context", "of", "text", "categorization", ".", "We", "also", "choose", "AdaBoost", "to", "combine", "heterogeneous", "features", "-LRB-", "term-features", "and", "category-features", "-RRB-", ",", "but", "it", "is", "for", "a", "different", "problem", "-LRB-", "taxonomy", "integration", "-RRB-", "and", "it", "works", "in", "a", "more", "complex", "way", "-LRB-", "through", "co-bootstrapping", "-RRB-", ".", "In", "-LSB-", "8", "-RSB-", ",", "an", "approach", "called", "co-boosting", "is", "proposed", "for", "named", "entity", "classification", ".", "Essentially", "co-boosting", "is", "a", "co-training", "-LSB-", "5", "-RSB-", "method", "that", "attempts", "to", "utilize", "unlabeled", "data", "to", "help", "classification", "through", "exploiting", "a", "particular", "form", "of", "redundancy", "in", "data", ":", "each", "instance", "is", "described", "by", "multiple", "views", "-LRB-", "disjoint", "feature", "sets", "-RRB-", "which", "are", "both", "compatible", "and", "uncorrelated", "-LRB-", "conditionally", "independent", "-RRB-", ".", "However", ",", "the", "multi-view", "assumption", "does", "not", "hold", "in", "the", "context", "of", "taxonomy", "integration", ":", "the", "set", "of", "category", "features", "should", "not", "be", "considered", "as", "a", "view", "because", "category", "features", "alone", "are", "not", "sufficient", "for", "classification", "and", "they", "are", "strongly", "correlated", "with", "term", "features", ".", "In", "contrast", "to", "co-boosting", "-LRB-", "co-training", "-RRB-", ",", "co-bootstrapping", "works", "with", "two", "taxonomies", "but", "not", "two", "views", ".", "Our", "main", "contribution", "is", "to", "propose", "a", "new", "approach", ",", "co-bootstrapping", ",", "that", "can", "effectively", "exploit", "the", "implicit", "knowledge", "in", "the", "source", "taxonomy", "to", "improve", "taxonomy", "integration", ".", "The", "future", "work", "may", "include", ":", "theoretical", "analysis", "of", "the", "co-bootstrapping", "approach", ",", "incorporating", "commonsense", "knowledge", "and", "domain", "constraints", "into", "the", "taxonomy", "integration", "process", ",", "and", "so", "forth", ".", "We", "would", "like", "to", "thank", "the", "anonymous", "reviewers", "for", "their", "helpful", "comments", "and", "suggestions", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "B", "ook", "Di", "s", "e", "a", "s", "e", "Mo", "v", "i", "e", "Mu", "s", "i", "c", "Ne", "ws", "B", "ook", "Di", "s", "e", "a", "s", "e", "Mo", "v", "i", "e", "Mu", "s", "i", "c", "Ne", "ws", "G", "Y", "Y", "G", "ENB", "CB-AB", "Figure", "5", ":", "Comparing", "the", "macro-averaged", "F-scores", "of", "ENB", "and", "CB-AB", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "B", "ook", "Di", "s", "e", "a", "s", "e", "Mo", "v", "i", "e", "Mu", "s", "i", "c", "Ne", "ws", "B", "ook", "Di", "s", "e", "a", "s", "e", "Mo", "v", "i", "e", "Mu", "s", "i", "c", "Ne", "ws", "G", "Y", "Y", "G", "ENB", "CB-AB", "Figure", "6", ":", "Comparing", "the", "micro-averaged", "F-scores", "of", "ENB", "and", "CB-AB", ".", "416", "-LSB-", "1", "-RSB-", "Agrawal", ",", "R.", ",", "Bayardo", ",", "R.", "and", "Srikant", ",", "R.", "Athena", ":", "Mining-based", "Interactive", "Management", "of", "Text", "Databases", ".", "in", "Proceedings", "of", "the", "7th", "International", "Conference", "on", "Extending", "Database", "Technology", "-LRB-", "EDBT", "-RRB-", ",", "Konstanz", ",", "Germany", ",", "2000", ",", "365-379", ".", "-LSB-", "2", "-RSB-", "Agrawal", ",", "R.", "and", "Srikant", ",", "R.", "On", "Integrating", "Catalogs", ".", "in", "Proceedings", "of", "the", "10th", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "-RRB-", ",", "Hong", "Kong", ",", "2001", ",", "603-612", ".", "-LSB-", "3", "-RSB-", "Baeza-Yates", ",", "R.", "and", "Ribeiro-Neto", ",", "B.", "Modern", "Information", "Retrieval", ".", "Addison-Wesley", ",", "New", "York", ",", "NY", ",", "1999", ".", "-LSB-", "4", "-RSB-", "Berners-Lee", ",", "T.", ",", "Hendler", ",", "J.", "and", "Lassila", ",", "O", ".", "The", "Semantic", "Web", "Scientific", "American", ",", "2001", ".", "-LSB-", "5", "-RSB-", "Blum", ",", "A.", "and", "Mitchell", ",", "T.", "Combining", "Labeled", "and", "Unlabeled", "Data", "with", "Co-Training", ".", "in", "Proceedings", "of", "the", "11th", "Annual", "Conference", "on", "Computational", "Learning", "Theory", "-LRB-", "COLT", "-RRB-", ",", "Madison", ",", "WI", ",", "1998", ",", "92-100", ".", "-LSB-", "6", "-RSB-", "Cai", ",", "L.", "and", "Hofmann", ",", "T.", "Text", "Categorization", "by", "Boosting", "Automatically", "Extracted", "Concepts", ".", "in", "Proceedings", "of", "the", "26th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "-RRB-", ",", "Toronto", ",", "Canada", ",", "2003", ",", "182-189", ".", "-LSB-", "7", "-RSB-", "Chalupsky", ",", "H.", "OntoMorph", ":", "A", "Translation", "System", "for", "Symbolic", "Knowledge", ".", "in", "Proceedings", "of", "the", "7th", "International", "Conference", "on", "Principles", "of", "Knowledge", "Representation", "and", "Reasoning", "-LRB-", "KR", "-RRB-", ",", "Breckenridge", ",", "CO", ",", "2000", ",", "471-482", ".", "-LSB-", "8", "-RSB-", "Collins", ",", "M.", "and", "Singer", ",", "Y.", "Unsupervised", "Models", "for", "Named", "Entity", "Classification", ".", "in", "Proceedings", "of", "the", "Joint", "SIGDAT", "Conference", "on", "Empirical", "Methods", "in", "Natural", "Language", "Processing", "and", "Very", "Large", "Corpora", "-LRB-", "EMNLP", "-RRB-", ",", "College", "Park", ",", "MD", ",", "1999", ",", "189-196", ".", "-LSB-", "9", "-RSB-", "Cristianini", ",", "N.", "and", "Shawe-Taylor", ",", "J", ".", "An", "Introduction", "to", "Support", "Vector", "Machines", ".", "Cambridge", "University", "Press", ",", "Cambridge", ",", "UK", ",", "2000", ".", "-LSB-", "10", "-RSB-", "Doan", ",", "A.", ",", "Madhavan", ",", "J.", ",", "Domingos", ",", "P.", "and", "Halevy", ",", "A.", "Learning", "to", "Map", "between", "Ontologies", "on", "the", "Semantic", "Web", ".", "in", "Proceedings", "of", "the", "11th", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "-RRB-", ",", "Hawaii", ",", "USA", ",", "2002", ".", "-LSB-", "11", "-RSB-", "Fensel", ",", "D.", "Ontologies", ":", "A", "Silver", "Bullet", "for", "Knowledge", "Management", "and", "Electronic", "Commerce", ".", "Springer-Verlag", ",", "2001", ".", "-LSB-", "12", "-RSB-", "Freund", ",", "Y.", "and", "Schapire", ",", "R.E.", ".", "A", "Decision-theoretic", "Generalization", "of", "On-line", "Learning", "and", "an", "Application", "to", "Boosting", ".", "Journal", "of", "Computer", "and", "System", "Sciences", ",", "55", "-LRB-", "1", "-RRB-", ".", "119-139", ".", "-LSB-", "13", "-RSB-", "Ichise", ",", "R.", ",", "Takeda", ",", "H.", "and", "Honiden", ",", "S.", "Rule", "Induction", "for", "Concept", "Hierarchy", "Alignment", ".", "in", "Proceedings", "of", "the", "Workshop", "on", "Ontologies", "and", "Information", "Sharing", "at", "the", "17th", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI", "-RRB-", ",", "Seattle", ",", "WA", ",", "2001", ",", "26-29", ".", "-LSB-", "14", "-RSB-", "Lacher", ",", "M.S.", "and", "Groh", ",", "G.", "Facilitating", "the", "Exchange", "of", "Explicit", "Knowledge", "through", "Ontology", "Mappings", ".", "in", "Proceedings", "of", "the", "Fourteenth", "International", "Florida", "Artificial", "Intelligence", "Research", "Society", "Conference", "-LRB-", "FLAIRS", "-RRB-", ",", "Key", "West", ",", "FL", ",", "2001", ",", "305-309", ".", "-LSB-", "15", "-RSB-", "McCallum", ",", "A.", "and", "Nigam", ",", "K", ".", "A", "Comparison", "of", "Event", "Models", "for", "Naive", "Bayes", "Text", "Classification", ".", "in", "AAAI-98", "Workshop", "on", "Learning", "for", "Text", "Categorization", ",", "Madison", ",", "WI", ",", "1998", ",", "41-48", ".", "-LSB-", "16", "-RSB-", "McGuinness", ",", "D.L.", ",", "Fikes", ",", "R.", ",", "Rice", ",", "J.", "and", "Wilder", ",", "S", ".", "The", "Chimaera", "Ontology", "Environment", ".", "in", "Proceedings", "of", "the", "17th", "National", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "AAAI", "-RRB-", ",", "Austin", ",", "TX", ",", "2000", ",", "1123", "--", "1124", ".", "-LSB-", "17", "-RSB-", "Meir", ",", "R.", "and", "Ratsch", ",", "G", ".", "An", "Introduction", "to", "Boosting", "and", "Leveraging", ".", "in", "Mendelson", ",", "S.", "and", "Smola", ",", "A.J.", "eds", ".", "Advanced", "Lectures", "on", "Machine", "Learning", ",", "LNCS", ",", "Springer-Verlag", ",", "2003", ",", "119-184", ".", "-LSB-", "18", "-RSB-", "Mitchell", ",", "T.", "Machine", "Learning", ".", "McGraw", "Hill", ",", "1997", ".", "-LSB-", "19", "-RSB-", "Mitra", ",", "P.", ",", "Wiederhold", ",", "G.", "and", "Jannink", ",", "J.", "Semi-automatic", "Integration", "of", "Knowledge", "Sources", ".", "in", "Proceedings", "of", "The", "2nd", "International", "Conference", "on", "Information", "Fusion", ",", "Sunnyvale", ",", "CA", ",", "1999", ".", "-LSB-", "20", "-RSB-", "Noy", ",", "N.F.", "and", "Musen", ",", "M.A.", "Anchor-PROMPT", ":", "Using", "Non-Local", "Context", "for", "Semantic", "Matching", ".", "in", "Proceedings", "of", "the", "Workshop", "on", "Ontologies", "and", "Information", "Sharing", "at", "the", "17th", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI", "-RRB-", ",", "Seattle", ",", "WA", ",", "2001", ",", "63-70", ".", "-LSB-", "21", "-RSB-", "Noy", ",", "N.F.", "and", "Musen", ",", "M.A.", "PROMPT", ":", "Algorithm", "and", "Tool", "for", "Automated", "Ontology", "Merging", "and", "Alignment", ".", "in", "Proceedings", "of", "the", "National", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "AAAI", "-RRB-", ",", "Austin", ",", "TX", ",", "2000", ",", "450-455", ".", "-LSB-", "22", "-RSB-", "Rocchio", ",", "J.J.", "Relevance", "Feedback", "in", "Information", "Retrieval", ".", "in", "Salton", ",", "G.", "ed", ".", "The", "SMART", "Retrieval", "System", ":", "Experiments", "in", "Automatic", "Document", "Processing", ",", "Prentice-Hall", ",", "1971", ",", "313-323", ".", "-LSB-", "23", "-RSB-", "Schapire", ",", "R.E.", ".", "The", "Boosting", "Approach", "to", "Machine", "Learning", ":", "An", "Overview", ".", "in", "MSRI", "Workshop", "on", "Nonlinear", "Estimation", "and", "Classification", ",", "Berkeley", ",", "CA", ",", "2002", ".", "-LSB-", "24", "-RSB-", "Schapire", ",", "R.E.", "and", "Singer", ",", "Y.", "BoosTexter", ":", "A", "Boosting-based", "System", "for", "Text", "Categorization", ".", "Machine", "Learning", ",", "39", "-LRB-", "2/3", "-RRB-", ".", "135-168", ".", "-LSB-", "25", "-RSB-", "Schapire", ",", "R.E.", "and", "Singer", ",", "Y.", "Improved", "Boosting", "Algorithms", "Using", "Confidence-rated", "Predictions", ".", "Machine", "Learning", ",", "37", "-LRB-", "3", "-RRB-", ".", "297-336", ".", "-LSB-", "26", "-RSB-", "Stumme", ",", "G.", "and", "Maedche", ",", "A.", "FCA-MERGE", ":", "Bottom-Up", "Merging", "of", "Ontologies", ".", "in", "Proceedings", "of", "the", "17th", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI", "-RRB-", ",", "Seattle", ",", "WA", ",", "2001", ",", "225-230", ".", "-LSB-", "27", "-RSB-", "Yang", ",", "Y.", "and", "Liu", ",", "X", ".", "A", "Re-examination", "of", "Text", "Categorization", "Methods", ".", "in", "Proceedings", "of", "the", "22nd", "ACM", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "-RRB-", ",", "Berkeley", ",", "CA", ",", "1999", ",", "42-49", ".", "417"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["taxonomy integration", "machine learning", "semantic web", "classification", "bootstrapping", "boosting", "ontology mapping"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "214", "document": ["Webkhoj", ":", "Indian", "Language", "Ir", "From", "Multiple", "Character", "Encodings", "Today", "web", "search", "engines", "provide", "the", "easiest", "way", "to", "reach", "information", "on", "the", "web", ".", "In", "this", "scenario", ",", "more", "than", "95", "%", "of", "Indian", "language", "content", "on", "the", "web", "is", "not", "searchable", "due", "to", "multiple", "encodings", "of", "web", "pages", ".", "Most", "of", "these", "encodings", "are", "proprietary", "and", "hence", "need", "some", "kind", "of", "standardization", "for", "making", "the", "content", "accessible", "via", "a", "search", "engine", ".", "In", "this", "paper", "we", "present", "a", "search", "engine", "called", "WebKhoj", "which", "is", "capable", "of", "searching", "multi-script", "and", "multi-encoded", "Indian", "language", "content", "on", "the", "web", ".", "We", "describe", "a", "language", "focused", "crawler", "and", "the", "transcoding", "processes", "involved", "to", "achieve", "accessibility", "of", "Indian", "langauge", "content", ".", "In", "the", "end", "we", "report", "some", "of", "the", "experiments", "that", "were", "conducted", "along", "with", "results", "on", "Indian", "language", "web", "content", ".", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "Information", "filtering", ",", "Selection", "process", ";", "H.", "3.1", "-LSB-", "Content", "Analysis", "and", "Indexing", "-RSB-", ":", "Linguistic", "processing", "Standardization", ",", "Languages", "India", "is", "a", "multi-language", ",", "multi-script", "country", "with", "22", "official", "languages", "and", "11", "written", "script", "forms", ".", "About", "a", "billion", "people", "in", "India", "use", "these", "languages", "as", "their", "first", "language", ".", "English", ",", "the", "most", "common", "technical", "language", ",", "is", "the", "lingua", "franca", "of", "commerce", ",", "government", ",", "and", "the", "court", "system", ",", "but", "is", "not", "widely", "understood", "beyond", "the", "middle", "class", "and", "those", "who", "can", "afford", "formal", ",", "foreign-language", "education", ".", "Not", "only", "Copyright", "is", "held", "by", "the", "International", "World", "Wide", "Web", "Conference", "Committee", "-LRB-", "IW3C2", "-RRB-", ".", "Distribution", "of", "these", "papers", "is", "limited", "to", "classroom", "use", ",", "and", "personal", "use", "by", "others", ".", "WWW2006", ",", "May", "23", "26", ",", "2006", ",", "Edinburgh", ",", "Scotland", ".", "ACM", "1-59593-323-9", "/", "06/0005", ".", "is", "there", "a", "large", "societal", "gap", "between", "the", "rich", "and", "poor", ",", "but", "that", "gap", "appears", "to", "be", "widening", "due", "the", "dominance", "of", "English", "in", "the", "society", ".", "About", "5", "%", "of", "the", "population", "-LRB-", "usually", "the", "educated", "class", "-RRB-", "can", "understand", "English", "as", "their", "second", "language", ".", "Hindi", "is", "spoken", "by", "about", "30", "%", "-LSB-", "5", "-RSB-", "of", "the", "population", ",", "but", "it", "is", "concentrated", "in", "urban", "areas", "and", "north-central", "India", ",", "and", "is", "still", "not", "only", "foreign", "but", "often", "unpopular", "in", "many", "other", "regions", ".", "Computability", "of", "Indian", "languages", "could", "help", "bridge", "the", "societal", "gaps", "in", "education", ",", "economy", "and", "health-care", ".", "However", "the", "research", "and", "development", ",", "availability", "of", "standards", ",", "support", "from", "operating", "systems", "and", "applications", "in", "these", "directions", "moved", "very", "slow", "due", "to", "language", "heterogeneity", ".", "Today", "this", "phenomenon", "can", "also", "be", "observed", "on", "the", "world", "wide", "web", ".", "The", "percentage", "of", "Indian", "language", "content", "is", "very", "less", "compared", "to", "the", "official", "languages", "of", "United", "Nations", "-LSB-", "7", "-RSB-", ".", "Even", "within", "the", "available", "content", ",", "majority", "is", "not", "searchable", "and", "hence", "not", "reachable", "due", "to", "multiple", "encodings", "used", "while", "authoring", "such", "websites", ".", "Web", "publishers", "of", "such", "content", "were", "hesitant", "to", "use", "any", "available", "standards", "such", "as", "Unicode", "due", "to", "very", "delayed", "support", "from", "operating", "systems", "and", "browsers", "in", "rendering", "Indic", "scripts", ".", "Even", "today", "Hindi", "is", "rendered", "properly", "only", "on", "Windows", "XP", "and", "beyond", ".", "Linux", "has", "very", "little", "support", "for", "these", "languages", ".", "Indian", "languages", "had", "barely", "any", "support", "till", "Windows", "2000", "operating", "system", ".", "This", "creates", "a", "major", "bottleneck", "for", "web", "publishers", "in", "these", "languages", "to", "get", "viewership", ".", "Despite", "all", "these", "issues", ",", "we", "found", "considerable", "amount", "of", "content", "being", "published", "on", "the", "web", ".", "However", "such", "content", "gets", "unnoticed", "or", "gets", "very", "less", "viewership", "since", "most", "of", "such", "content", "is", "not", "accessible", "through", "search", "engines", "due", "to", "nonstandard", "encodings", "being", "rendered", "using", "proprietary", "fonts", ".", "This", "paper", "is", "organized", "into", "seven", "sections", ".", "In", "the", "next", "sub-section", "we", "give", "an", "introduction", "to", "characters", ",", "glyphs", "and", "fonts", "in", "order", "to", "appreciate", "the", "complexity", "involved", "in", "rendering", "complex", "scripts", ".", "We", "then", "introduce", "to", "the", "complexity", "of", "Indic", "scripts", "in", "the", "sub-section", "1.2", ".", "In", "Section", "2", "we", "make", "the", "problem", "statement", "and", "explain", "an", "implementation", "to", "solve", "this", "problem", "in", "Section", "3", ".", "We", "report", "some", "experiments", "and", "results", "in", "Section", "4", ",", "followed", "by", "a", "conclusion", "in", "Section", "5", ".", "1.1", "Fonts", ",", "characters", "and", "glyphs", "In", "the", "history", "of", "mankind", "the", "act", "of", "writing", "has", "always", "been", "considered", "as", "an", "activity", "producing", "visual", "results", ",", "namely", "text", ".", "The", "computer", "has", "brought", "a", "more", "abstract", "layer", "to", "801", "it", ",", "by", "storing", "and", "transmitting", "textual", "data", ".", "The", "atomic", "unit", "of", "this", "abstract", "representation", "of", "text", ",", "as", "defined", "in", "the", "Unicode", "standard", "-LSB-", "8", "-RSB-", ",", "is", "called", "a", "character", ".", "And", "indeed", ",", "characters", "prove", "to", "be", "useful", "for", "obtaining", "alternative", "-LRB-", "non-visual", "-RRB-", "representations", "of", "text", "such", "as", "Braille", ",", "speech", "synthesis", ",", "etc.", ".", "The", "visual", "representation", "of", "a", "character", "is", "called", "a", "glyph", "-LSB-", "8", "-RSB-", ".", "Displaying", "textual", "contents", ",", "whether", "on", "screen", "or", "on", "paper", ",", "involves", "translating", "characters", "into", "glyphs", ",", "a", "non-trivial", "operation", "for", "many", "writing", "systems", ".", "Going", "in", "the", "opposite", "direction", "-LRB-", "from", "glyphs", "to", "characters", "-RRB-", "is", "known", "as", "OCR", "when", "done", "by", "a", "machine", ",", "or", "as", "reading", "when", "done", "by", "a", "human", "-LSB-", "8", "-RSB-", ".", "The", "technology", "trend", "over", "the", "last", "few", "years", "has", "been", "to", "use", "characters", "for", "most", "of", "the", "text", "processing", "and", "to", "limit", "glyph", "issues", "to", "the", "last", "stage", ",", "namely", "rendering", ".", "At", "that", "level", ",", "character", "to", "glyph", "translation", "is", "handled", "by", "increasingly", "``", "intelligent", "''", "-LRB-", "cf.", "OpenType", "and", "AAT", "technologies", "-RRB-", "fonts", "and", "font", "encodings", ".", "Unicode", "is", "an", "effort", "in", "this", "direction", ".", "At", "the", "same", "time", ",", "restoring", "the", "original", "character", "stream", "from", "a", "rendered", "electronic", "document", "output", "for", "operations", "such", "as", "searching", ",", "indexing", ",", "or", "copy-pasting", ",", "no", "general", "solution", "exists", "in", "today", "'s", "popular", "document", "formats", "yet", ".", "Despite", "the", "problems", "involved", ",", "web", "authors", "tend", "to", "use", "proprietary", "encodings", "due", "to", "the", "complex", "characteristics", "of", "Indic", "scripts", "as", "described", "in", "the", "following", "section", ".", "1.2", "Characteristics", "of", "Indic", "Scripts", "Indic", "scripts", "are", "phonetic", "in", "nature", ".", "There", "are", "vowels", "and", "consonant", "symbols", ".", "The", "consonants", "become", "a", "syllable", "after", "the", "addition", "of", "a", "vowel", "sound", "to", "it", ".", "Further", "to", "compound", "the", "problem", "there", "are", "`", "compound", "syllables", "'", "also", "referred", "as", "ligatures", ".", "For", "instance", ",", "if", "we", "consider", "`", "tri", "'", "in", "`", "triangle", "'", ",", "there", "are", "three", "letters", "corresponding", "to", "three", "sounds", "`", "ta", "'", ",", "`", "ra", "'", ",", "`", "yi", "'", ".", "But", "in", "the", "case", "of", "Indic", "Scripts", "the", "three", "are", "built", "together", "to", "make", "a", "single", "compound", "consonant", "having", "a", "non-linear", "structure", "unlike", "Latin", "based", "languages", ".", "The", "main", "problem", "with", "display", "of", "Indic", "scripts", "is", "dealing", "with", "their", "non-linear", "structures", ".", "Glyphs", "have", "variable", "widths", "and", "have", "positional", "attributes", ".", "Vowel", "signs", "can", "be", "attached", "to", "the", "top", ",", "bottom", ",", "left", "and", "right", "sides", "of", "the", "base", "consonant", ".", "Vowel", "signs", "may", "also", "combine", "with", "consonants", "to", "form", "independent", "glyphs", ".", "Consonants", "frequently", "combine", "with", "each", "other", "to", "form", "complex", "conjunct", "glyphs", ".", "Although", "the", "encoding", "encapsulates", "only", "the", "basic", "alphabetic", "characters", ",", "the", "number", "of", "glyphs", "and", "their", "combinations", "required", "for", "the", "exhaustive", "rendering", "of", "these", "scripts", "can", "be", "quite", "large", "-LSB-", "11", "-RSB-", ".", "Since", "the", "character", "to", "glyph", "mappings", "have", "to", "be", "achieved", "using", "a", "256", "character", "address", "space", ",", "web", "authors", "come", "up", "with", "an", "intelligent", "way", "of", "representing", "all", "the", "characters", "in", "the", "language", "using", "some", "256", "glyphs", ".", "Most", "of", "these", "glyphs", "do", "not", "have", "any", "semantic", "significance", "in", "the", "language", "by", "themselves", ".", "However", "when", "displayed", "together", "using", "some", "positional", "parameters", ",", "they", "achieve", "human", "readable", "characters", ".", "This", "situation", "makes", "the", "Indian", "language", "web", "content", "inaccessible", "for", "machine", "processing", ".", "Many", "information", "seekers", "use", "a", "search", "engine", "to", "begin", "their", "Web", "activity", ".", "In", "this", "case", ",", "users", "submit", "a", "query", ",", "typically", "a", "list", "of", "keywords", ",", "and", "receive", "a", "list", "of", "Web", "pages", "that", "may", "be", "relevant", ",", "typically", "pages", "that", "contain", "the", "keywords", ".", "Today", "though", "considerable", "amount", "of", "content", "is", "available", "in", "Indian", "languages", ",", "users", "are", "unable", "to", "search", "such", "content", ".", "Because", "Indian", "language", "websites", "rely", "on", "unique", "encodings", "or", "proprietary", "extensions", "of", "existing", "standard", "encodings", "-LSB-", "11", "-RSB-", ".", "This", "plurality", "of", "encodings", "creates", "a", "problem", "for", "information", "retrieval", "to", "function", "as", "desired", ".", "Also", "many", "research", "groups", "in", "information", "retrieval", "and", "natural", "language", "processing", "feel", "the", "need", "to", "collect", "corpora", "in", "these", "languages", "from", "the", "web", "in", "the", "same", "way", "they", "obtain", "corpora", "for", "other", "languages", "-LSB-", "14", "-RSB-", ",", "-LSB-", "7", "-RSB-", ",", "-LSB-", "1", "-RSB-", ",", "-LSB-", "10", "-RSB-", ".", "Therefore", "in", "order", "to", "search", "or", "process", "Indian", "language", "websites", ",", "we", "should", "be", "able", "to", "transliterate", "all", "the", "encodings", "into", "one", "standard", "encoding", "and", "accept", "the", "user", "'s", "queries", "in", "the", "same", "encoding", "and", "build", "the", "search", "index", ".", "This", "task", "involves", "many", "steps", ".", "First", "step", "is", "to", "be", "able", "to", "identify", "the", "various", "encodings", "in", "Indian", "languages", "on", "the", "web", ".", "Since", "these", "encodings", "are", "non-standard", ",", "there", "is", "no", "one", "comprehensive", "list", "of", "such", "possible", "encodings", ".", "Therefore", "we", "need", "to", "somehow", "identify", "all", "such", "encodings", "and", "also", "be", "able", "to", "classify", "these", "encodings", "into", "the", "existing", "types", ".", "Second", "step", "is", "to", "build", "a", "transliteration", "mapping", "for", "the", "given", "encoding", "into", "a", "standard", "encoding", "which", "is", "UTF-8", "and", "hence", "convert", "any", "page", "into", "a", "standard", "and", "index", "it", ".", "Third", "step", "is", "to", "be", "able", "to", "accept", "user", "'s", "queries", "in", "the", "same", "standard", "as", "that", "of", "the", "transliterated", "documents", "which", "is", "UTF-8", ".", "In", "this", "paper", "we", "report", "a", "search", "engine", "called", "WebKhoj", "which", "can", "search", "web", "pages", "in", "the", "top", "10", "Indian", "languages", "according", "to", "the", "number", "of", "native", "speakers", ".", "WebKhoj", "cur-rently", "supports", "Hindi", ",", "Telugu", ",", "Tamil", ",", "Malayalam", ",", "Marathi", ",", "Kannada", ",", "Bengali", ",", "Punjabi", ",", "Gujarati", "and", "Oriya", ".", "Before", "we", "describe", "the", "architecture", "of", "WebKhoj", ",", "it", "is", "useful", "to", "understand", "how", "a", "Web", "search", "engine", "is", "typically", "put", "together", "and", "then", "see", "its", "extensions", "for", "our", "task", ".", "3.1", "General", "web", "search", "engine", "Figure", "1", "shows", "a", "general", "web", "search", "engine", "schematically", "-LSB-", "2", "-RSB-", ".", "The", "major", "modules", "of", "a", "web", "search", "engine", "are", "a", "Crawler", ",", "an", "Indexer", ",", "a", "Query", "Engine", "and", "a", "Ranking", "Engine", ".", "Every", "engine", "relies", "on", "a", "crawler", "module", "to", "provide", "the", "grist", "for", "its", "operation", "-LRB-", "shown", "on", "the", "left", "in", "Figure", "1", "-RRB-", ".", "Crawlers", "are", "small", "programs", "that", "browse", "the", "Web", "on", "the", "search", "engine", "'s", "behalf", ",", "similar", "to", "how", "a", "human", "user", "follows", "links", "to", "reach", "different", "pages", ".", "The", "programs", "are", "given", "a", "starting", "set", "of", "URLs", "whose", "pages", "they", "retrieve", "from", "the", "Web", ".", "The", "crawler", "extracts", "URLs", "appearing", "in", "the", "retrieved", "pages", "and", "give", "this", "information", "to", "the", "crawler", "control", "module", ".", "This", "module", "determines", "what", "links", "to", "visit", "next", "and", "feeds", "these", "links", "back", "to", "the", "crawler", ".", "-LRB-", "Some", "of", "the", "functionality", "of", "the", "crawler", "control", "module", "may", "be", "implemented", "by", "the", "crawlers", "themselves", ".", "-RRB-", "The", "crawlers", "also", "pass", "the", "retrieved", "pages", "into", "a", "page", "repository", ".", "Crawlers", "continue", "visiting", "the", "Web", "until", "local", "resources", ",", "such", "as", "storage", ",", "are", "exhausted", ".", "The", "indexer", "module", "extracts", "all", "the", "words", "from", "each", "page", "and", "records", "the", "URL", "where", "each", "word", "occurred", ".", "The", "result", "is", "a", "generally", "very", "large", "``", "lookup", "table", "''", "that", "can", "provide", "all", "the", "URLs", "that", "point", "to", "pages", "where", "a", "given", "word", "occurs", "-LRB-", "the", "text", "index", "in", "Figure", "1", "-RRB-", ".", "The", "table", "is", "of", "course", "limited", "to", "the", "pages", "that", "were", "covered", "in", "the", "crawling", "process", ".", "As", "mentioned", "earlier", ",", "text", "indexing", "of", "the", "Web", "poses", "special", "difficulties", ",", "due", "to", "its", "size", "and", "its", "rapid", "rate", "of", "change", ".", "In", "addition", "to", "these", "quantitative", "challenges", ",", "the", "Web", "calls", "for", "some", "special", ",", "less", "common", ",", "kinds", "of", "indexes", ".", "For", "example", ",", "the", "indexing", "802", "Figure", "1", ":", "General", "web", "search", "engine", "architecture", "module", "may", "also", "create", "a", "structure", "index", ",", "which", "reflects", "the", "links", "between", "pages", ".", "Such", "indexes", "would", "not", "be", "appropriate", "for", "traditional", "text", "collections", "that", "do", "not", "contain", "links", ".", "The", "collection", "analysis", "module", "is", "responsible", "for", "creating", "a", "variety", "of", "other", "indexes", ".", "During", "a", "crawling", "and", "indexing", "run", ",", "search", "engines", "must", "store", "the", "pages", "they", "retrieve", "from", "the", "Web", ".", "The", "page", "repository", "in", "Figure", "1", "represents", "this", "possibly", "temporary", "collection", ".", "Search", "engines", "sometimes", "maintain", "a", "cache", "of", "the", "pages", "they", "have", "visited", "beyond", "the", "time", "required", "to", "build", "the", "index", ".", "This", "cache", "allows", "them", "to", "serve", "out", "result", "pages", "very", "quickly", ",", "in", "addition", "to", "providing", "basic", "search", "facilities", ".", "Some", "systems", ",", "such", "as", "the", "Internet", "Archive", ",", "have", "aimed", "to", "maintain", "a", "very", "large", "number", "of", "pages", "for", "permanent", "archival", "purposes", ".", "Storage", "at", "such", "a", "scale", "again", "requires", "special", "consideration", ".", "The", "query", "engine", "module", "is", "responsible", "for", "receiving", "and", "filling", "search", "requests", "from", "users", ".", "The", "engine", "relies", "heavily", "on", "the", "indexes", ",", "and", "sometimes", "on", "the", "page", "repository", ".", "Due", "to", "the", "Web", "'s", "size", "and", "the", "fact", "that", "users", "typically", "only", "enter", "one", "or", "two", "keywords", ",", "result", "sets", "are", "usually", "very", "large", ".", "Hence", "the", "ranking", "module", "has", "the", "task", "of", "sorting", "the", "results", "such", "that", "results", "near", "the", "top", "are", "the", "most", "likely", "to", "be", "what", "the", "user", "is", "looking", "for", ".", "In", "the", "rest", "of", "this", "section", "we", "describe", "the", "additional", "modules", "that", "were", "used", "in", "a", "general", "web", "search", "engine", "to", "make", "it", "work", "for", "Indian", "languages", ".", "3.2", "Language", "focused", "crawling", "Since", "our", "goal", "is", "to", "be", "able", "to", "search", "web", "sites", "of", "specific", "languages", ",", "we", "are", "looking", "for", "a", "relatively", "narrow", "segment", "of", "the", "web", ".", "Crawlers", "that", "fetch", "pages", "related", "to", "a", "particular", "topic", "of", "interest", "are", "called", "topic", "focused", "crawlers", "-LSB-", "6", "-RSB-", ".", "While", "our", "crawler", "is", "very", "similar", "to", "the", "one", "mentioned", "in", "-LSB-", "6", "-RSB-", ",", "we", "use", "a", "language", "identification", "module", "instead", "of", "a", "classifier", "and", "hence", "call", "it", "as", "language", "focused", "crawling", ".", "The", "language", "identification", "module", "returns", "the", "name", "of", "the", "language", "for", "a", "given", "web", "page", ".", "This", "module", "is", "aware", "of", "all", "the", "proprietary", "encodings", "and", "also", "uses", "a", "bag", "of", "words", "to", "recognize", "unknown", "encodings", "from", "meta-tag", "information", "that", "might", "be", "found", "in", "an", "HTML", "page", ".", "In", "many", "cases", "web", "pages", "contain", "more", "than", "one", "language", ",", "especially", "one", "of", "the", "languages", "being", "English", ".", "This", "happens", "since", "many", "of", "the", "website", "organzi-ation", "information", "such", "as", "menu", "items", ",", "or", "disclaimers", "and", "other", "such", "formatting", "information", ".", "In", "some", "websites", "such", "as", "blogs", "or", "forums", "majority", "of", "the", "content", "might", "be", "English", ",", "with", "Indian", "language", "content", "being", "a", "minority", ".", "The", "language", "identifier", "module", "returns", "a", "language", "only", "if", "the", "number", "of", "words", "in", "a", "web", "page", "are", "above", "a", "given", "threshold", "value", ".", "3.3", "Transcoding", "Since", "Indian", "language", "content", "is", "being", "published", "in", "multiple", "encodings", "on", "the", "web", ",", "transliteration", "of", "encodings", "to", "a", "popular", "standard", "such", "as", "Unicode", "-LSB-", "15", "-RSB-", "is", "needed", ".", "In", "order", "to", "transliterate", "a", "non-UTF-8", "encoding", "into", "UTF-8", "which", "is", "a", "Unicode", "based", "encoding", "one", "has", "to", "come", "up", "with", "byte", "sequence", "mappings", "between", "source", "and", "target", "encodings", ".", "Such", "mappings", "are", "rarely", "one", "to", "one", "mappings", ",", "and", "involve", "many", "to", "one", ",", "one", "to", "many", "and", "many", "to", "many", "mappings", "of", "byte", "sequences", ".", "As", "it", "was", "explained", "in", "the", "beginning", "of", "this", "paper", ",", "a", "sequence", "of", "bytes", "represent", "a", "sequence", "of", "glyphs", "of", "a", "font", ",", "which", "in", "turn", "could", "render", "a", "single", "character", "or", "a", "ligature", "in", "the", "Indic", "script", ".", "Ideally", "mappings", "are", "to", "be", "created", "to", "all", "the", "unique", "characters", "in", "the", "language", ",", "which", "could", "be", "a", "large", "number", "in", "the", "order", "of", "tens", "of", "thousands", ".", "Since", "it", "would", "be", "tedious", "to", "list", "out", "all", "the", "characters", "and", "ligatures", ",", "we", "make", "use", "of", "the", "large", "number", "of", "documents", "collected", "by", "the", "crawler", "to", "come", "up", "with", "a", "semi-automatic", "process", "of", "generating", "mappings", ".", "We", "use", "a", "simple", "heuristic", "to", "identify", "the", "potential", "character", "boundaries", "from", "byte", "sequences", ".", "First", "the", "text", "from", "the", "collected", "web", "pages", "is", "divided", "into", "words", "using", "a", "suitable", "word", "tokenizer", ".", "Then", "the", "algorithm", "lists", "all", "the", "possible", "word", "beginning", "bytes", "in", "both", "the", "source", "and", "target", "font", "encodings", ".", "Now", "each", "word", "is", "scanned", "from", "left", "to", "right", "until", "one", "such", "byte", "occurs", "in", "the", "word", ".", "Whenever", "a", "valid", "word", "beginner", "occurs", "in", "the", "word", ",", "we", "tokenize", "at", "that", "point", ",", "and", "the", "byte", "sequence", "till", "that", "point", "is", "treated", "as", "a", "potential", "character", ".", "For", "example", "in", "a", "given", "encoding", "if", "all", "the", "possible", "word", "beginning", "bytes", "are", "`", "a", "'", ",", "`", "b", "'", "and", "`", "c", "'", ",", "a", "new", "word", "`", "cars", "'", "is", "tokenized", "as", "`", "c", "'", ",", "`", "ars", "'", ",", "since", "neither", "`", "r", "'", "nor", "`", "s", "'", "are", "803", "Figure", "2", ":", "Transcoding", "from", "Jagran", "encoding", "to", "UTF-8", "valid", "word", "beginners", ".", "The", "byte", "sequences", "thus", "obtained", "by", "segmentation", "are", "potential", "characters", "or", "ligatures", "in", "that", "language", ".", "Once", "such", "segmentation", "is", "done", ",", "the", "frequency", "of", "such", "byte", "sequences", "-LRB-", "or", "potential", "characters", "-RRB-", "is", "calculated", ".", "It", "was", "found", "from", "our", "experiments", "that", "the", "ranks", "based", "on", "the", "normalized", "frequency", "of", "such", "potential", "characters", "is", "highly", "cor-related", "-LRB-", "we", "present", "more", "details", "in", "our", "experiments", "section", "-RRB-", ".", "Therefore", "we", "use", "this", "algorithm", "to", "come", "up", "initial", "suggested", "mappings", "for", "transcoding", ",", "and", "then", "the", "user", "would", "manually", "correct", "any", "errors", "by", "going", "through", "the", "font", "mappings", "as", "shown", "in", "the", "Figure", "2", ".", "The", "transcoding", "tool", "sorts", "the", "potential", "characters", "according", "to", "their", "ranks", ",", "so", "that", "the", "user", "would", "find", "the", "equivalent", "match", "in", "the", "target", "encoding", "among", "the", "top", "few", "possibilities", ".", "Also", "since", "the", "mappings", "are", "ordered", "based", "on", "the", "normalized", "frequency", "found", "in", "the", "corpus", ",", "mapping", "source", "and", "target", "bytes", "in", "this", "order", "ensures", "optimal", "precision", "that", "can", "be", "obtained", "from", "a", "set", "of", "mappings", ".", "Once", "such", "transcoder", "mappings", "are", "generated", "for", "all", "possible", "encodings", "in", "Indian", "languages", ",", "a", "transcoding", "module", "is", "called", "during", "indexing", "of", "the", "web", "documents", ".", "If", "a", "web", "document", "is", "encoded", "in", "an", "encoding", "other", "than", "UTF-8", ",", "the", "transcoder", "module", "is", "called", "to", "transliterate", "the", "encoding", "of", "the", "given", "web", "page", "into", "UTF-8", "standard", ".", "In", "order", "to", "do", "this", ",", "the", "HTML", "page", "is", "parsed", "to", "obtain", "its", "document", "object", "model", "-LRB-", "DOM", "-RRB-", "using", "the", "JTidy", "utility", "1", ".", "All", "the", "nodes", "of", "type", "``", "font", "''", "are", "extracted", "from", "the", "DOM", "and", "the", "font", "encoding", "is", "checked", "against", "a", "known", "set", "of", "encodings", "on", "the", "web", ".", "Based", "on", "the", "font", "encoding", ",", "the", "appropriate", "transcoder", "mappings", "are", "used", "to", "transliterate", "the", "relevant", "text", "into", "UTF-8", ".", "One", "word", "is", "transcoded", "at", "a", "time", ".", "In", "order", "to", "transcode", ",", "the", "maximum", "byte", "sequence", "available", "in", "the", "mapping", "table", "is", "used", "to", "transliterate", "the", "encodings", "and", "the", "process", "is", "repeated", "to", "the", "remaining", "substring", "of", "the", "word", ".", "This", "transliterated", "document", "is", "then", "sent", "to", "the", "indexer", "to", "build", "the", "inverted", "index", ".", "3.4", "Retrieval", "Algorithm", "The", "score", "of", "query", "q", "for", "document", "d", "is", "defined", "in", "terms", "of", "TFIDF", "-LSB-", "13", "-RSB-", "metric", "as", "shown", "below", ":", "score", "-LRB-", "q", ",", "d", "-RRB-", "=", "c", "-LRB-", "q", ",", "d", "-RRB-", ".", "q", "n", "-LRB-", "q", "-RRB-", ".", "-LRB-", "X", "t", "in", "q", "tf", "-LRB-", "t", "in", "d", "-RRB-", ".", "idf", "-LRB-", "t", "-RRB-", "-RRB-", "1", "JTidy", "is", "a", "Java", "implementation", "of", "Dave", "Raggett", "'s", "HTML", "tidy", ".", "JTidy", "can", "be", "found", "at", "http://jtidy.sourceforge.net", "3.4.1", "tf", "-LRB-", "term", "frequency", "-RRB-", "`", "tf", "'", "-LRB-", "also", "known", "as", "term", "frequency", "-RRB-", "is", "a", "score", "factor", "based", "on", "a", "term", "or", "phrase", "'s", "frequency", "in", "a", "document", ".", "Terms", "and", "phrases", "repeated", "in", "a", "document", "indicate", "the", "topic", "of", "the", "document", ",", "so", "implementations", "of", "this", "score", "usually", "return", "larger", "values", "when", "frequency", "is", "large", ",", "and", "smaller", "values", "when", "frequency", "is", "small", ".", "3.4.2", "idf", "-LRB-", "inverse", "document", "frequency", "-RRB-", "`", "idf", "'", "is", "a", "score", "factor", "based", "on", "a", "term", "'s", "document", "frequency", "-LRB-", "the", "number", "of", "documents", "which", "contain", "the", "term", "-RRB-", ".", "Terms", "that", "occur", "in", "fewer", "documents", "are", "better", "discriminators", "of", "topic", ",", "so", "implemenations", "of", "this", "method", "usually", "return", "larger", "values", "for", "rare", "terms", ",", "and", "smaller", "values", "for", "common", "terms", ".", "3.4.3", "c", "-LRB-", "coverage", "of", "query", "terms", "-RRB-", "`", "c", "'", "is", "a", "score", "factor", "based", "on", "the", "fraction", "of", "all", "query", "terms", "that", "a", "document", "contains", ".", "This", "value", "is", "multiplied", "into", "scores", ".", "The", "presence", "of", "a", "large", "portion", "of", "the", "query", "terms", "indicates", "a", "better", "match", "with", "the", "query", ",", "so", "implemenations", "of", "this", "function", "usually", "return", "larger", "values", "when", "the", "ratio", "between", "these", "parameters", "is", "large", "and", "smaller", "values", "when", "the", "ratio", "between", "them", "is", "small", ".", "3.4.4", "q", "n", "-LRB-", "query", "normalization", "-RRB-", "This", "is", "the", "normalization", "value", "for", "a", "query", "given", "the", "sum", "of", "the", "squared", "weights", "of", "each", "of", "the", "query", "terms", ".", "This", "value", "is", "then", "multiplied", "into", "the", "weight", "of", "each", "query", "term", ".", "This", "does", "not", "affect", "ranking", ",", "but", "rather", "just", "attempts", "to", "make", "scores", "from", "different", "queries", "comparable", ".", "3.5", "User", "Interface", "Currently", "there", "is", "no", "easy", "means", "to", "key-in", "UTF-8", "queries", "to", "the", "search", "engine", "using", "the", "normal", "keyboard", ".", "So", "WebKhoj", "is", "provided", "with", "a", "soft", "keyboard", "which", "displays", "the", "UTF-8", "character", "set", "of", "the", "language", "on", "the", "screen", ".", "The", "layout", "of", "the", "keys", "is", "very", "similar", "to", "the", "Keylekh", "layout", "-LSB-", "9", "-RSB-", ".", "We", "also", "tried", "providing", "a", "roman", "to", "local", "language", "transliteration", "keyboard", "which", "dynamically", "renders", "Indian", "language", "text", "when", "its", "phonetic", "equivalent", "is", "typed", "using", "roman", "characters", ".", "We", "had", "student", "volunteers", "from", "a", "near", "by", "village", "to", "try", "out", "the", "keyboards", ".", "However", ",", "we", "found", "that", "the", "students", "who", "are", "taught", "in", "the", "local", "language", "in", "schools", "are", "not", "comfortable", "with", "English", "symbols", ".", "Also", "within", "the", "local", "language", ",", "the", "way", "symbols", "are", "taught", "in", "schools", "is", "much", "804", "Figure", "3", ":", "Hindi", "soft", "keyboard", "user", "interface", "for", "WebKhoj", "search", "engine", "Figure", "4", ":", "Search", "results", "being", "displayed", "for", "a", "Hindi", "query", "in", "UTF-8", "805", "different", "from", "the", "way", "UTF-8", "characters", "need", "to", "be", "typed", "in", ".", "However", ",", "with", "some", "training", "these", "students", "were", "able", "to", "adapt", "to", "the", "soft", "keyboard", ".", "Currently", "soft", "keyboards", "for", "10", "Indian", "languages", "are", "provided", "in", "the", "searching", "interface", ".", "One", "language", "is", "shown", "to", "the", "user", "at", "any", "given", "instance", ".", "The", "user", "can", "change", "the", "keyboard", "to", "a", "different", "language", "by", "clicking", "on", "the", "desired", "language", "hyperlink", "displayed", "on", "the", "interface", "as", "shown", "in", "Figure", "3", ".", "After", "thus", "framing", "the", "query", ",", "the", "user", "can", "search", "for", "the", "web", "documents", ",", "and", "the", "results", "are", "ranked", "and", "displayed", "much", "like", "Google", "as", "shown", "in", "Figure", "4", ".", "3.6", "Word", "spelling", "normalization", "Indian", "language", "words", "face", "standardization", "issues", "in", "spelling", ",", "thereby", "resulting", "in", "multiple", "spelling", "variants", "for", "the", "same", "word", ".", "For", "example", "we", "found", "widely", "used", "spelling", "variations", "for", "the", "hindi", "word", "`", "angrezi", "'", "as", "shown", "below", "The", "major", "reasons", "for", "this", "phenomenon", "can", "be", "attributed", "to", "unavailability", "of", "proper", "website", "authoring", "tools", "equipped", "with", "spell", "checkers", "for", "Indian", "languages", "and", "multiple", "dialects", "of", "spoken", "language", ",", "transliteration", "of", "proper", "names", "and", "words", "borrowed", "from", "foreign", "languages", "whose", "spellings", "are", "not", "standardized", ".", "While", "we", "have", "to", "handle", "Indian", "language", "words", "with", "spelling", "variations", "and", "errors", ",", "we", "also", "showed", "that", "a", "considerable", "percentage", "of", "foreign", "language", "words", "mainly", "English", "have", "entered", "into", "Indian", "language", "usage", "which", "can", "not", "be", "ignored", ".", "While", "such", "words", "are", "being", "frequently", "used", "by", "people", ",", "there", "is", "no", "standardization", "in", "spelling", "for", "such", "words", "thereby", "resulting", "in", "huge", "variations", "due", "to", "transliteration", ".", "Given", "such", "variations", "in", "spelling", "it", "becomes", "difficult", "for", "web", "Information", "Retrieval", "applications", "built", "for", "Indian", "languages", ",", "since", "finding", "relevant", "documents", "would", "require", "more", "than", "performing", "an", "exact", "string", "match", ".", "It", "was", "shown", "that", "normalization", "rules", "for", "specific", "languages", "work", "best", "with", "spelling", "normalization", "problems", ".", "We", "make", "use", "of", "a", "set", "of", "rules", "-LSB-", "12", "-RSB-", "to", "normalize", "the", "words", "before", "indexing", "them", "or", "looking", "them", "up", "from", "the", "index", ".", "These", "rules", "are", "language", "specific", "and", "we", "describe", "the", "rules", "for", "Hindi", "in", "the", "next", "sub-sections", ".", "We", "achieve", "normalization", "of", "word", "spellings", "by", "mapping", "the", "alphabet", "of", "the", "given", "language", "L", "into", "another", "alphabet", "L", "where", "L", "L", ".", "We", "use", "the", "following", "rules", "to", "achieve", "such", "a", "normalized", "mapping", ".", "3.6.1", "Mapping", "chandrabindu", "to", "bindu", "Often", "people", "tend", "to", "use", "chandrabindu", "-LRB-", "a", "half-moon", "with", "a", "dot", "-RRB-", "and", "bindu", "-LRB-", "a", "dot", "on", "top", "of", "alphabet", "-RRB-", "interchangeably", ".", "Lots", "of", "confusion", "exists", "in", "common", "language", "usage", "on", "which", "to", "use", "when", ".", "In", "order", "to", "equate", "all", "such", "words", "we", "convert", "all", "occurrences", "of", "chandrabindu", "to", "bindu", ",", "which", "would", "equate", "all", "the", "words", "shown", "below", ".", "3.6.2", "nukta", "deletion", "Unicode", "contains", "10", "consonant", "characters", "with", "nukta", "-LRB-", "a", "dot", "under", "consonant", "-RRB-", "and", "one", "nukta", "character", "itself", ".", "We", "delete", "all", "occurrences", "of", "nukta", "character", "and", "replace", "all", "consonants", "with", "nuktas", "with", "their", "corresponding", "consonant", "character", ".", "This", "would", "equate", "words", "like", "the", "ones", "shown", "below", ".", "3.6.3", "halanth", "deletion", "Hindi", "and", "many", "other", "Indian", "languages", "face", "the", "problems", "of", "`", "schwa", "'", "-LRB-", "the", "default", "vowel", "`", "a", "'", "that", "occurs", "with", "every", "consonant", "-RRB-", "deletion", ".", "Lots", "of", "spelling", "variations", "occur", "due", "to", "`", "schwa", "'", "deletion", ".", "In", "order", "to", "normalize", "such", "words", "we", "delete", "all", "the", "halanth", "characters", "in", "the", "given", "word", "before", "making", "a", "string", "match", ".", "This", "operation", "would", "normalize", "words", "as", "shown", "in", "the", "example", "below", ".", "3.6.4", "vowel", "shortening", "Many", "times", "in", "written", "script", "people", "use", "shorter", "vowels", "instead", "of", "longer", "ones", "or", "vice", "versa", ".", "Therefore", "in", "our", "application", "we", "convert", "all", "the", "longer", "vowels", "to", "their", "corresponding", "shorter", "ones", ".", "Using", "this", "feature", "we", "can", "normalize", "words", "as", "shown", "in", "this", "example", ".", "3.6.5", "chandra", "deletion", "`", "chandra", "'", "-LRB-", "half-moon", "-RRB-", "is", "used", "for", "vowel", "rounding", ".", "Usually", "words", "borrowed", "from", "English", "at", "times", "require", "vowel", "rounding", "operation", ".", "For", "example", "the", "word", "``", "documentary", "''", ".", "But", "this", "character", "is", "used", "inconsistently", "many", "times", ".", "Therefore", "deleting", "such", "a", "character", "would", "normalize", "the", "words", "where", "vowel", "rounding", "has", "been", "used", ".", "These", "rules", "were", "compared", "with", "many", "approximate", "string", "matching", "algorithms", "are", "were", "found", "to", "result", "in", "a", "better", "f-measure", "-LSB-", "12", "-RSB-", ".", "We", "report", "here", "some", "experiments", "that", "were", "conducted", "in", "transcoding", "the", "proprietary", "encodings", "and", "present", "some", "statistics", "from", "our", "language", "focused", "crawl", "about", "the", "Indian", "language", "web", ".", "The", "transcoding", "tool", "was", "designed", "to", "generate", "mappings", "between", "two", "encodings", "in", "a", "semi-automatic", "fashion", ".", "In", "order", "to", "achieve", "this", "the", "tool", "automatically", "gives", "some", "mapping", "suggestions", "based", "on", "the", "rank", "correlation", "of", "the", "two", "encodings", "in", "question", ".", "We", "found", "that", "the", "byte", "sequences", "from", "two", "encodings", "of", "same", "language", "correlate", "very", "well", ",", "by", "looking", "at", "the", "Spearman", "'s", "rank", "correlation", "coefficient", ".", "In-tuitively", "this", "phenomenon", "can", "be", "understood", "as", "the", "convergence", "of", "unique", "lexicon", "from", "two", "encodings", "from", "sufficiently", "large", "corpus", ",", "since", "they", "both", "belong", "to", "the", "same", "language", ".", "To", "find", "the", "amount", "of", "correlation", ",", "we", "experimented", "with", "two", "different", "encodings", "from", "Hindi", ".", "We", "ran", "the", "character", "segmentation", "algorithm", "and", "computed", "the", "normalized", "frequencies", "as", "mentioned", "above", "and", "ranked", "the", "character", "sequences", "in", "both", "the", "encodings", "from", "a", "corpus", "of", "2,000", "documents", "from", "each", "of", "these", "encodings", ".", "We", "manually", "marked", "806", "the", "corresponding", "frequency", "based", "rank", "positions", "of", "a", "given", "character", "or", "a", "ligature", "from", "these", "encodings", "and", "calculated", "the", "Spearman", "'s", "rank", "correlation", "coefficient", ".", "We", "then", "plotted", "a", "graph", "with", "the", "Spearman", "'s", "correlation", "coefficient", "on", "y-axis", "and", "the", "number", "of", "mappings", "on", "x-axis", "as", "shown", "in", "Figure", "5", ".", "We", "observed", "that", "the", "rank", "correlation", "is", "100", "%", "for", "the", "first", "25", "mappings", "that", "were", "automatically", "generated", ",", "and", "are", "close", "to", "90", "%", "for", "the", "first", "200", "mappings", "which", "can", "achieve", "a", "transcoding", "precision", "of", "above", "90", "%", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "20", "40", "60", "80", "100", "120", "140", "160", "180", "200", "Rank", "Correlation", "coefficient", "Number", "of", "byte", "sequences", "Rank", "Correlation", "of", "byte", "sequence", "frequencies", "``", "Spearman", "Correlation", "''", "Figure", "5", ":", "Spearman", "'s", "rank", "correlation", "for", "number", "of", "byte", "sequences", "between", "Jagran", "and", "Webdunia", "font", "encodings", "Since", "these", "byte", "sequences", "are", "an", "ordered", "set", ",", "ordered", "by", "their", "normalized", "frequency", ",", "the", "precision", "of", "transliteration", "obtained", "by", "providing", "mappings", "between", "encodings", "in", "the", "order", "provided", "in", "the", "ordered", "set", "is", "optimal", ".", "We", "have", "observed", "that", "with", "about", "2,000", "encoding", "mappings", "for", "each", "encoding", "on", "average", "once", "can", "achieve", "around", "99", "%", "precision", ".", "However", "this", "number", "also", "depends", "on", "the", "language", "complexity", ".", "For", "instance", ",", "the", "number", "of", "encodings", "required", "in", "Telugu", "transliteration", "is", "more", "than", "the", "number", "of", "encodings", "required", "in", "Hindi", "to", "obtain", "the", "same", "amount", "of", "precision", ".", "We", "now", "report", "some", "of", "our", "experiments", "on", "the", "Indian", "language", "focused", "crawling", ".", "We", "ran", "a", "daily", "crawl", "for", "6", "months", "period", ".", "Our", "crawler", "was", "focused", "to", "fetch", "content", "in", "the", "top", "10", "spoken", "languages", "in", "India", ",", "namely", "Hindi", ",", "Telugu", ",", "Tamil", ",", "Bengali", ",", "Marathi", ",", "Gujarati", ",", "Kannada", ",", "Malayalam", ",", "Oriya", "and", "Punjabi", ".", "In", "another", "experiment", ",", "in", "order", "to", "find", "the", "effectiveness", "of", "language", "focused", "crawling", ",", "we", "executed", "the", "crawler", "in", "two", "modes", "with", "a", "set", "of", "100", "seed", "URLs", "which", "constitute", "popular", "Indian", "based", "web", "portals", ",", "news", "sites", "and", "home", "pages", "of", "people", "of", "Indian", "origin", ".", "In", "the", "first", "mode", "it", "was", "executed", "without", "language", "focus", "restriction", "using", "a", "pure", "FIFO", "crawl", "queue", "while", "the", "second", "mode", "was", "with", "language", "focus", "restriction", "using", "a", "priority", "queue", "from", "which", "the", "crawler", "fetched", "the", "next", "crawl", "URL", ".", "We", "plotted", "the", "number", "of", "relevant", "pages", "fetched", "in", "the", "first", "50,000", "URLs", "in", "both", "the", "runs", "as", "shown", "in", "the", "Figure", "6", ".", "The", "relevance", "of", "the", "fetched", "pages", "was", "calculated", "by", "checking", "the", "encoding", "on", "that", "page", ".", "It", "can", "be", "clearly", "seen", "that", "language", "focus", "restriction", "on", "the", "crawler", "helps", "in", "downloading", "more", "relevant", "pages", ".", "From", "the", "6", "month", "crawl", ",", "about", "half", "a", "million", "unique", "documents", "were", "collected", "from", "all", "the", "languages", ".", "Unique", "web", "pages", "were", "picked", "after", "eliminating", "approximate", "duplicate", "pages", "using", "shingling", "technique", "-LSB-", "4", "-RSB-", ".", "These", "half", "a", "million", "pages", "were", "distributed", "across", "the", "10", "languages", "as", "shown", "in", "the", "Figure", "7", ".", "Figure", "8", "shows", "the", "population", "of", "people", "speaking", "the", "various", "Indian", "languages", "-LSB-", "3", "-RSB-", ".", "It", "can", "be", "observed", "that", "even", "within", "India", "there", "is", "a", "divide", "in", "the", "web", "publishing", "activity", "in", "various", "languages", ".", "For", "instance", "it", "can", "be", "observed", "that", "the", "content", "is", "actively", "getting", "published", "in", "south", "Indian", "languages", "like", "Telugu", ",", "Tamil", "and", "Malayalam", "when", "compared", "to", "the", "northern", "languages", "such", "as", "Marathi", ",", "Gujarati", ",", "Oriya", ",", "Bengali", "and", "Punjabi", ".", "Hindi", "has", "the", "majority", "of", "content", "published", "on", "the", "web", "but", "Hindi", "is", "also", "the", "language", "spoken", "by", "majority", "of", "Indian", "population", ".", "It", "can", "be", "seen", "from", "Figure", "10", "that", "a", "very", "few", "websites", "publish", "content", "using", "a", "global", "standard", "such", "as", "Unicode", ".", "This", "explains", "the", "reason", "for", "most", "of", "the", "Indian", "language", "not", "being", "indexed", "or", "searchable", "by", "the", "present", "day", "popular", "web", "search", "engines", ".", "On", "the", "other", "hand", "it", "can", "be", "seen", "from", "Figure", "9", "and", "Figure", "11", "that", "the", "number", "of", "unique", "encodings", "found", "on", "the", "web", "for", "these", "languages", "is", "almost", "equivalent", "to", "the", "number", "of", "websites", ".", "This", "observation", "suggests", "that", "every", "web", "publisher", "is", "coming", "up", "with", "their", "own", "proprietary", "encodings", "to", "publish", "web", "content", ".", "We", "did", "not", "consider", "the", "websites", "that", "publish", "using", "images", "in", "this", "study", ",", "but", "our", "preliminary", "study", "suggests", "that", "there", "are", "a", "large", "number", "of", "websites", "that", "publish", "content", "as", "images", "as", "well", ".", "Figure", "6", ":", "Crawl", "with", "and", "without", "language", "focus", "Figure", "7", ":", "Languages", "on", "x-axis", "and", "number", "of", "unique", "web", "pages", "on", "y-axis", "807", "Figure", "8", ":", "Languages", "on", "x-axis", "and", "number", "of", "native", "speakers", "on", "y-axis", "Figure", "9", ":", "Languages", "on", "x-axis", "and", "number", "of", "encodings", "found", "on", "web", "including", "UTF-8", "on", "y-axis", "Figure", "10", ":", "Languages", "on", "x-axis", "and", "number", "of", "UTF-8", "websites", "on", "y-axis", "In", "this", "paper", "we", "discussed", "the", "importance", "of", "being", "able", "to", "search", "the", "Indian", "language", "web", "content", "and", "presented", "a", "web", "search", "engine", "which", "takes", "the", "UTF-8", "queries", "from", "a", "soft", "keyboard", "and", "capable", "of", "searching", "10", "most", "spoken", "Indian", "languages", "'", "web", "pages", "encoded", "in", "multiple", "encodings", ".", "We", "presented", "a", "language", "focussed", "crawler", "which", "can", "fetch", "web", "pages", "of", "specific", "languages", "and", "also", "the", "distribution", "of", "Figure", "11", ":", "Languages", "on", "x-axis", "and", "number", "of", "websites", "-LRB-", "web", "servers", "-RRB-", "on", "y-axis", "the", "Indian", "language", "content", "on", "web", "based", "on", "the", "pages", "that", "were", "crawled", ".", "This", "distribution", "clearly", "shows", "the", "need", "for", "processes", "and", "algorithms", "to", "transcode", "non-Unicode", "encodings", "to", "Unicode", ".", "Hence", "we", "have", "discussed", "a", "semi-automatic", "algorithm", "to", "generate", "the", "mappings", "between", "different", "encodings", ".", "This", "shows", "that", "transcoding", "of", "proprietary", "encodings", "into", "a", "standard", "encoding", "makes", "Indian", "language", "web", "content", "accessible", "through", "search", "engines", ".", "We", "would", "like", "to", "thank", "the", "Department", "of", "Science", "and", "Technology", ",", "Ministry", "of", "Communications", "and", "IT", ",", "Government", "of", "India", "for", "funding", "this", "project", ".", "-LSB-", "1", "-RSB-", "J.", "Allan", ",", "J.", "Aslam", ",", "N.", "Belkin", ",", "C.", "Buckley", ",", "J.", "Callan", ",", "B.", "Croft", ",", "S.", "Dumais", ",", "N.", "Fuhr", ",", "D.", "Harman", ",", "D.", "J.", "Harper", ",", "D.", "Hiemstra", ",", "T.", "Hofmann", ",", "E.", "Hovy", ",", "W.", "Kraaij", ",", "J.", "Lafferty", ",", "V.", "Lavrenko", ",", "D.", "Lewis", ",", "L.", "Liddy", ",", "R.", "Manmatha", ",", "A.", "McCallum", ",", "J.", "Ponte", ",", "J.", "Prager", ",", "D.", "Radev", ",", "P.", "Resnik", ",", "S.", "Robertson", ",", "R.", "Rosenfeld", ",", "S.", "Roukos", ",", "M.", "Sanderson", ",", "R.", "Schwartz", ",", "A.", "Singhal", ",", "A.", "Smeaton", ",", "H.", "Turtle", ",", "E.", "Voorhees", ",", "R.", "Weischedel", ",", "J.", "Xu", ",", "and", "C.", "Zhai", ".", "Challenges", "in", "Information", "Retrieval", "and", "Language", "Modeling", ":", "Report", "of", "a", "Workshop", "held", "at", "the", "Center", "for", "Intelligent", "Information", "Retrieval", ",", "University", "of", "Massachusetts", "Amherst", ",", "September", "2002", ".", "SIGIR", "Forum", ",", "37", "-LRB-", "1", "-RRB-", ":", "31", "47", ",", "2003", ".", "-LSB-", "2", "-RSB-", "A.", "Arasu", ",", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "A.", "Paepcke", ",", "and", "S.", "Raghavan", ".", "Searching", "the", "Web", ".", "ACM", "Trans", ".", "Inter", ".", "Tech.", ",", "1", "-LRB-", "1", "-RRB-", ":", "2", "43", ",", "2001", ".", "-LSB-", "3", "-RSB-", "G.", "B.", "14th", "ed", ".", "Ethnologue", ":", "Languages", "of", "the", "World", ".", "SIL", "International", ",", "Dallas", ",", "TX", ",", "2003", ".", "-LSB-", "4", "-RSB-", "S.", "Brin", ",", "J.", "Davis", ",", "and", "H.", "Garcia-Molina", ".", "Copy", "Detection", "Mechanisms", "for", "Digital", "Documents", ".", "In", "SIGMOD", "'", "95", ":", "Proceedings", "of", "the", "1995", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pages", "398", "409", ",", "New", "York", ",", "NY", ",", "USA", ",", "1995", ".", "ACM", "Press", ".", "-LSB-", "5", "-RSB-", "G.", "E.", "Burkhart", ",", "S.", "E.", "Goodman", ",", "A.", "Mehta", ",", "and", "L.", "Press", ".", "The", "Internet", "in", "India", ":", "Better", "times", "ahead", "?", "Commun", ".", "ACM", ",", "41", "-LRB-", "11", "-RRB-", ":", "21", "26", ",", "1998", ".", "808", "-LSB-", "6", "-RSB-", "S.", "Chakrabarti", ",", "K.", "Punera", ",", "and", "M.", "Subramanyam", ".", "Accelerated", "Focused", "Crawling", "through", "Online", "Relevance", "Feedback", ".", "In", "WWW", "'", "02", ":", "Proceedings", "of", "the", "11th", "International", "Conference", "on", "World", "Wide", "Web", ",", "pages", "148", "159", ",", "New", "York", ",", "NY", ",", "USA", ",", "2002", ".", "ACM", "Press", ".", "-LSB-", "7", "-RSB-", "F.", "Gey", ",", "N.", "Kando", ",", "and", "C.", "Peters", ".", "Cross", "Language", "Information", "Retrieval", ":", "A", "Research", "Roadmap", ".", "SIGIR", "Forum", ",", "36", "-LRB-", "2", "-RRB-", ":", "72", "80", ",", "2002", ".", "-LSB-", "8", "-RSB-", "Y.", "Haralambous", "and", "G.", "Bella", ".", "Injecting", "Information", "into", "Atomic", "Units", "of", "Text", ".", "In", "DocEng", "'", "05", ":", "Proceedings", "of", "the", "2005", "ACM", "Symposium", "on", "Document", "Engineering", ",", "pages", "134", "142", ",", "New", "York", ",", "NY", ",", "USA", ",", "2005", ".", "ACM", "Press", ".", "-LSB-", "9", "-RSB-", "A.", "Joshi", ",", "A.", "Ganu", ",", "A.", "Chand", ",", "V.", "Parmar", ",", "and", "G.", "Mathur", ".", "Keylekh", ":", "a", "Keyboard", "for", "Text", "Entry", "in", "Indic", "Scripts", ".", "In", "CHI", "'", "04", ":", "CHI", "'04", "Extended", "Abstracts", "on", "Human", "Factors", "in", "Computing", "Systems", ",", "pages", "928", "942", ",", "New", "York", ",", "NY", ",", "USA", ",", "2004", ".", "ACM", "Press", ".", "-LSB-", "10", "-RSB-", "L.", "S.", "Larkey", ",", "M.", "E.", "Connell", ",", "and", "N.", "Abduljaleel", ".", "Hindi", "CLIR", "in", "thirty", "days", ".", "ACM", "Transactions", "on", "Asian", "Language", "Information", "Processing", "-LRB-", "TALIP", "-RRB-", ",", "2", "-LRB-", "2", "-RRB-", ":", "130", "142", ",", "2003", ".", "-LSB-", "11", "-RSB-", "D.", "P.", "Madalli", ".", "Unicode", "for", "Multilingual", "Representation", "in", "Digital", "Libraries", "from", "the", "Indian", "Perspective", ".", "In", "JCDL", "'", "02", ":", "Proceedings", "of", "the", "2nd", "ACM/IEEE-CS", "Joint", "Conference", "on", "Digital", "Libraries", ",", "pages", "398", "398", ",", "New", "York", ",", "NY", ",", "USA", ",", "2002", ".", "ACM", "Press", ".", "-LSB-", "12", "-RSB-", "P.", "Pingali", "and", "V.", "Varma", ".", "Word", "Normalization", "in", "Indian", "Languages", ".", "In", "ICON05", ":", "Proceedings", "of", "the", "2005", "International", "Conference", "on", "Natural", "Language", "Processing", ",", "2005", ".", "-LSB-", "13", "-RSB-", "G.", "Salton", "and", "C.", "Buckley", ".", "Term-weighting", "Approaches", "in", "Automatic", "Text", "Retrieval", ".", "Information", "Process", ".", "Management", ",", "24", "-LRB-", "5", "-RRB-", ":", "513", "523", ",", "1988", ".", "-LSB-", "14", "-RSB-", "S.", "Strassel", ",", "M.", "Maxwell", ",", "and", "C.", "Cieri", ".", "Linguistic", "Resource", "Creation", "for", "Research", "and", "Technology", "Development", ":", "A", "Recent", "Experiment", ".", "ACM", "Transactions", "on", "Asian", "Language", "Information", "Processing", "-LRB-", "TALIP", "-RRB-", ",", "2", "-LRB-", "2", "-RRB-", ":", "101", "117", ",", "2003", ".", "-LSB-", "15", "-RSB-", "F.", "Yergeau", ".", "UTF-8", ",", "a", "transformation", "format", "of", "ISO", "10646", ".", "RFC", "Editor", ",", "United", "States", ",", "2003", ".", "809"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["web search", "indian languages"], "abstractive_keyphrases": ["non-standard encodings"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "17", "document": ["A", "Pseudo", "Random", "Coordinated", "Scheduling", "Algorithm", "for", "Bluetooth", "Scatternets", "The", "emergence", "of", "Bluetooth", "as", "a", "default", "radio", "interface", "allows", "handheld", "devices", "to", "be", "rapidly", "interconnected", "into", "ad", "hoc", "networks", ".", "Bluetooth", "allows", "large", "numbers", "of", "piconets", "to", "form", "a", "scatternet", "using", "designated", "nodes", "that", "participate", "in", "multiple", "piconets", ".", "A", "unit", "that", "participates", "in", "multiple", "piconets", "can", "serve", "as", "a", "bridge", "and", "forwards", "traffic", "between", "neighbouring", "piconets", ".", "Since", "a", "Bluetooth", "unit", "can", "transmit", "or", "receive", "in", "only", "one", "piconet", "at", "a", "time", ",", "a", "bridging", "unit", "has", "to", "share", "its", "time", "among", "the", "different", "piconets", ".", "To", "schedule", "communication", "with", "bridging", "nodes", "one", "must", "take", "into", "account", "their", "availability", "in", "the", "different", "piconets", ",", "which", "represents", "a", "difficult", ",", "scatternet", "wide", "coordination", "problem", "and", "can", "be", "an", "important", "performance", "bottleneck", "in", "building", "scatternets", ".", "In", "this", "paper", "we", "propose", "the", "Pseudo-Random", "Coordinated", "Scatternet", "Scheduling", "-LRB-", "PCSS", "-RRB-", "algorithm", "to", "perform", "the", "scheduling", "of", "both", "intra", "and", "inter-piconet", "communication", ".", "In", "this", "algorithm", "Bluetooth", "nodes", "assign", "meeting", "points", "with", "their", "peers", "such", "that", "the", "sequence", "of", "meeting", "points", "follows", "a", "pseudo", "random", "process", "that", "is", "different", "for", "each", "pair", "of", "nodes", ".", "The", "uniqueness", "of", "the", "pseudo", "random", "sequence", "guarantees", "that", "the", "meeting", "points", "with", "different", "peers", "of", "the", "node", "will", "collide", "only", "occasionally", ".", "This", "removes", "the", "need", "for", "explicit", "information", "exchange", "between", "peer", "devices", ",", "which", "is", "a", "major", "advantage", "of", "the", "algorithm", ".", "The", "lack", "of", "explicit", "signaling", "between", "Bluetooth", "nodes", "makes", "it", "easy", "to", "deploy", "the", "PCSS", "algorithm", "in", "Bluetooth", "devices", ",", "while", "conformance", "to", "the", "current", "Bluetooth", "specification", "is", "also", "maintained", ".", "To", "assess", "the", "performance", "of", "the", "algorithm", "we", "define", "two", "reference", "case", "schedulers", "and", "perform", "simulations", "in", "a", "number", "of", "scenarios", "where", "we", "compare", "the", "performance", "of", "PCSS", "to", "the", "performance", "of", "the", "reference", "schedulers", ".", "Short", "range", "radio", "technologies", "enable", "users", "to", "rapidly", "interconnect", "handheld", "electronic", "devices", "such", "as", "cellular", "phones", ",", "palm", "devices", "or", "notebook", "computers", ".", "The", "emergence", "of", "Bluetooth", "-LSB-", "1", "-RSB-", "as", "default", "radio", "interface", "in", "these", "devices", "provides", "an", "opportunity", "to", "turn", "them", "from", "stand-alone", "tools", "into", "networked", "equipment", ".", "Building", "Bluetooth", "ad", "hoc", "networks", "also", "represents", ",", "however", ",", "a", "number", "of", "new", "challenges", ",", "partly", "stemming", "from", "the", "fact", "that", "Bluetooth", "was", "originally", "developed", "for", "single", "hop", "wireless", "connections", ".", "In", "this", "paper", "we", "study", "the", "scheduling", "problems", "of", "inter-piconet", "communication", "and", "propose", "a", "lightweight", "scheduling", "algorithm", "that", "Bluetooth", "nodes", "can", "employ", "to", "perform", "the", "scheduling", "of", "both", "intra", "and", "inter-piconet", "communication", ".", "Bluetooth", "is", "a", "short", "range", "radio", "technology", "operating", "in", "the", "unlicensed", "ISM", "-LRB-", "Industrial-Scientific-Medical", "-RRB-", "band", "using", "a", "frequency", "hopping", "scheme", ".", "Bluetooth", "-LRB-", "BT", "-RRB-", "units", "are", "organized", "into", "piconets", ".", "There", "is", "one", "Bluetooth", "device", "in", "each", "piconet", "that", "acts", "as", "the", "master", ",", "which", "can", "have", "any", "number", "of", "slaves", "out", "of", "which", "up", "to", "seven", "can", "be", "active", "simultaneously", ".", "The", "communication", "within", "a", "piconet", "is", "organized", "by", "the", "master", "which", "polls", "each", "slave", "according", "to", "some", "polling", "scheme", ".", "A", "slave", "is", "only", "allowed", "to", "transmit", "in", "a", "slave-to", "-", "master", "slot", "if", "it", "has", "been", "polled", "by", "the", "master", "in", "the", "previous", "master-to-slave", "slot", ".", "In", "Section", "3", "we", "present", "a", "brief", "overview", "of", "the", "Bluetooth", "technology", ".", "A", "Bluetooth", "unit", "can", "participate", "in", "more", "than", "one", "piconet", "at", "any", "time", "but", "it", "can", "be", "a", "master", "in", "only", "one", "piconet", ".", "A", "unit", "that", "participates", "in", "multiple", "piconets", "can", "serve", "as", "a", "bridge", "thus", "allowing", "the", "piconets", "to", "form", "a", "larger", "network", ".", "We", "define", "bridging", "degree", "as", "the", "number", "of", "piconets", "a", "bridging", "node", "is", "member", "of", ".", "A", "set", "of", "piconets", "that", "are", "all", "interconnected", "by", "such", "bridging", "units", "is", "referred", "to", "as", "a", "scatternet", "network", "-LRB-", "Figure", "1", "-RRB-", ".", "Since", "a", "Bluetooth", "unit", "can", "transmit", "or", "receive", "in", "only", "one", "piconet", "at", "a", "time", ",", "bridging", "units", "must", "switch", "between", "piconets", "on", "a", "time", "division", "basis", ".", "Due", "to", "the", "fact", "that", "different", "piconets", "are", "not", "synchronized", "in", "time", "a", "bridging", "unit", "necessarily", "loses", "some", "time", "while", "switching", "from", "one", "piconet", "to", "the", "other", ".", "Furthermore", ",", "the", "temporal", "unavailability", "of", "bridging", "nodes", "in", "the", "different", "piconets", "makes", "it", "difficult", "to", "coordinate", "the", "communication", "with", "them", ",", "which", "impacts", "throughput", "and", "can", "be", "an", "important", "performance", "constraint", "in", "building", "scatternets", ".", "There", "are", "two", "important", "phenomena", "that", "can", "reduce", "the", "efficiency", "of", "the", "polling", "based", "communication", "in", "Bluetooth", "scatternets", ":", "slaves", "that", "have", "no", "data", "to", "transmit", "may", "be", "unnecessarily", "polled", ",", "while", "other", "slaves", "with", "data", "to", "transmit", "may", "have", "to", "wait", "to", "be", "polled", ";", "and", "at", "the", "time", "of", "an", "expected", "poll", "one", "of", "the", "nodes", "of", "a", "master-slave", "node", "pair", "may", "not", "be", "present", "in", "the", "piconet", "-LRB-", "the", "slave", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "part", "or", "all", "of", "this", "work", "or", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", ",", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MobiHOC", "2001", ",", "Long", "Beach", ",", "CA", ",", "USA", "ACM", "2001", "1-58113-390-1", "/", "01/10", "...", "$", "5.00", "193", "master", "slave", "slave", "in", "two", "piconets", "slave", "in", "one", "piconet", "and", "master", "in", "another", "A", "B", "C", "D", "E", "G", "F", "H", "Figure", "1", ":", "Example", "scatternet", "that", "is", "being", "polled", "is", "not", "listening", "or", "the", "master", "that", "is", "expected", "to", "poll", "is", "not", "polling", "-RRB-", ".", "The", "first", "problem", "applies", "to", "polling", "based", "schemes", "in", "general", ",", "while", "the", "second", "one", "is", "specific", "to", "the", "Bluetooth", "environment", ".", "In", "order", "to", "improve", "the", "efficiency", "of", "inter-piconet", "communication", "the", "scheduling", "algorithm", "has", "to", "coordinate", "the", "presence", "of", "bridging", "nodes", "in", "the", "different", "piconets", "such", "that", "the", "effect", "of", "the", "second", "phenomenon", "be", "minimized", ".", "However", ",", "the", "scheduling", "of", "inter-piconet", "communication", "expands", "to", "a", "scatternet", "wide", "coordination", "problem", ".", "Each", "node", "that", "has", "more", "than", "one", "Bluetooth", "links", "have", "to", "schedule", "the", "order", "in", "which", "it", "communicates", "with", "its", "respective", "neighbours", ".", "A", "node", "with", "multiple", "Bluetooth", "links", "can", "be", "either", "a", "piconet", "master", "or", "a", "bridging", "node", "or", "both", ".", "The", "scheduling", "order", "of", "two", "nodes", "will", "mutually", "depend", "on", "each", "other", "if", "they", "have", "a", "direct", "Bluetooth", "link", "in", "which", "case", "they", "have", "to", "schedule", "the", "communication", "on", "their", "common", "link", "for", "the", "same", "time", "slots", ".", "This", "necessitates", "some", "coordination", "between", "the", "respective", "schedulers", ".", "For", "instance", "in", "Figure", "1", "the", "scheduling", "order", "of", "node", "A", "and", "the", "scheduling", "order", "of", "its", "bridging", "neighbours", ",", "B", ",", "C", ",", "D", "and", "E", "mutually", "depend", "on", "each", "other", ",", "while", "nodes", "D", "and", "E", "further", "effects", "nodes", "F", ",", "G", "and", "H", "as", "well", ".", "Furthermore", ",", "the", "possible", "loops", "in", "a", "scatternet", "-LRB-", "e.g.", ",", "A-E-G-H-F-D", "-RRB-", "makes", "it", "even", "more", "complicated", "to", "resolve", "scheduling", "conflicts", ".", "In", "case", "of", "bursty", "traffic", "in", "the", "scatternet", "the", "scheduling", "problem", "is", "further", "augmented", "by", "the", "need", "to", "adjust", "scheduling", "order", "in", "response", "to", "dynamic", "variation", "of", "traffic", "intensity", ".", "In", "a", "bursty", "traffic", "environment", "it", "is", "desirable", "that", "a", "node", "spends", "most", "of", "its", "time", "on", "those", "links", "that", "have", "a", "backlogged", "burst", "of", "data", ".", "One", "way", "to", "address", "the", "coordination", "problem", "of", "inter-piconet", "scheduling", "is", "to", "explicitly", "allocate", ",", "in", "advance", ",", "time", "slots", "for", "communication", "in", "each", "pair", "of", "nodes", ".", "Such", "a", "hard", "coordination", "approach", "eliminates", "ambiguity", "with", "regards", "to", "a", "node", "'s", "presence", "in", "piconets", ",", "but", "it", "implies", "a", "complex", ",", "scatternet", "wide", "coordination", "problem", "and", "requires", "explicit", "signaling", "between", "nodes", "of", "a", "scatternet", ".", "In", "the", "case", "of", "bursty", "traffic", ",", "hard", "coordination", "schemes", "generate", "a", "significant", "computation", "and", "signaling", "overhead", "as", "the", "communication", "slots", "have", "to", "be", "reallocated", "in", "response", "to", "changes", "in", "traffic", "intensity", "and", "each", "time", "when", "a", "new", "connection", "is", "established", "or", "released", ".", "In", "this", "paper", "we", "propose", "the", "Pseudo-Random", "Coordinated", "Scatternet", "Scheduling", "algorithm", "which", "falls", "in", "the", "category", "of", "soft", "coordination", "schemes", ".", "In", "soft", "coordination", "schemes", "nodes", "decide", "their", "presence", "in", "piconets", "based", "on", "local", "information", ".", "By", "nature", ",", "soft", "coordination", "schemes", "can", "not", "guarantee", "conflict-free", "participation", "of", "bridging", "nodes", "in", "the", "different", "piconets", ",", "however", ",", "they", "have", "a", "significantly", "reduced", "complexity", ".", "In", "the", "PCSS", "algorithm", "coordination", "is", "achieved", "by", "implicit", "rules", "in", "the", "communication", "without", "the", "need", "of", "exchanging", "explicit", "control", "information", ".", "The", "low", "complexity", "of", "the", "algorithm", "and", "its", "conformance", "to", "the", "current", "Bluetooth", "specification", "allow", "easy", "implementation", "and", "deployment", ".", "The", "first", "key", "component", "of", "the", "algorithm", "is", "the", "notion", "of", "checkpoints", "which", "are", "defined", "in", "relation", "to", "each", "pair", "of", "nodes", "that", "are", "connected", "by", "a", "Bluetooth", "link", "and", "which", "represent", "predictable", "points", "in", "time", "when", "packet", "transmission", "can", "be", "initiated", "on", "the", "particular", "link", ".", "In", "other", "words", ",", "checkpoints", "serve", "as", "regular", "meeting", "points", "for", "neighboring", "nodes", "when", "they", "can", "exchange", "packets", ".", "In", "order", "to", "avoid", "systematic", "collision", "of", "checkpoints", "on", "different", "links", "of", "a", "node", "the", "position", "of", "checkpoints", "follows", "a", "pseudo", "random", "sequence", "that", "is", "specific", "to", "the", "particular", "link", "the", "checkpoints", "belong", "to", ".", "The", "second", "key", "component", "of", "the", "algorithm", "is", "the", "dynamic", "adjustment", "of", "checking", "intensity", ",", "which", "is", "necessary", "in", "order", "to", "effec-tively", "support", "bursty", "data", "traffic", ".", "Bandwidth", "can", "be", "allocated", "and", "deallocated", "to", "a", "particular", "link", "by", "increasing", "and", "decreasing", "checkpoint", "intensity", ",", "respectively", ".", "To", "assess", "the", "performance", "of", "the", "algorithm", "we", "define", "two", "reference", "schedulers", "and", "relate", "the", "performance", "of", "the", "PCSS", "scheme", "to", "these", "reference", "algorithms", "in", "a", "number", "of", "simulation", "scenarios", ".", "The", "remainder", "of", "the", "paper", "is", "structured", "as", "follows", ".", "In", "Section", "2", "we", "give", "an", "overview", "of", "related", "work", "focusing", "on", "Bluetooth", "scheduling", "related", "studies", "available", "in", "the", "literature", ".", "Section", "3", "gives", "a", "brief", "overview", "of", "the", "Bluetooth", "technology", ".", "In", "Section", "4", "and", "5", "we", "introduce", "the", "proposed", "algorithm", ".", "In", "Section", "6", "we", "define", "the", "reference", "schedulers", ".", "Finally", ",", "in", "Section", "7", "we", "present", "simulation", "results", ".", "A", "number", "of", "researchers", "have", "addressed", "the", "issue", "of", "scheduling", "in", "Bluetooth", ".", "Most", "of", "these", "studies", "have", "been", "restricted", ",", "however", ",", "to", "the", "single", "piconet", "environment", ",", "where", "the", "fundamental", "question", "is", "the", "polling", "discipline", "used", "by", "the", "piconet", "master", "to", "poll", "its", "slaves", ".", "These", "algorithms", "are", "often", "referred", "to", "as", "intra-piconet", "scheduling", "schemes", ".", "In", "-LSB-", "7", "-RSB-", "the", "authors", "assume", "a", "simple", "round", "robin", "polling", "scheme", "and", "investigate", "queueing", "delays", "in", "master", "and", "slave", "units", "depending", "on", "the", "length", "of", "the", "Bluetooth", "packets", "used", ".", "In", "-LSB-", "5", "-RSB-", "Johansson", "et", "al.", "analyze", "and", "compare", "the", "behavior", "of", "three", "different", "polling", "algorithms", ".", "They", "conclude", "that", "the", "simple", "round", "robin", "scheme", "may", "perform", "poorly", "in", "Bluetooth", "systems", "and", "they", "propose", "a", "scheme", "called", "Fair", "Exhaustive", "Polling", ".", "The", "authors", "demonstrate", "the", "strength", "of", "this", "scheme", "and", "argue", "in", "favor", "of", "using", "multi-slot", "packets", ".", "Similar", "conclusions", "are", "drawn", "by", "Kalia", "et", "al.", "who", "argue", "that", "the", "traditional", "round", "robin", "scheme", "may", "result", "in", "waste", "and", "un-fairness", "-LSB-", "8", "-RSB-", ".", "The", "authors", "propose", "two", "new", "scheduling", "disciplines", "that", "utilize", "information", "about", "the", "status", "of", "master", "and", "slave", "queues", ".", "In", "-LSB-", "9", ",", "10", "-RSB-", "the", "authors", "concentrate", "on", "scheduling", "policies", "designed", "with", "the", "aim", "of", "low", "power", "consumption", ".", "A", "number", "of", "scheduling", "policies", "are", "proposed", "which", "exploit", "either", "the", "park", "or", "sniff", "low", "power", "modes", "of", "Bluetooth", ".", "194", "Although", "the", "above", "studies", "have", "revealed", "a", "number", "of", "important", "performance", "aspects", "of", "scheduling", "in", "Bluetooth", "piconets", ",", "the", "algorithms", "developed", "therein", "are", "not", "applicable", "for", "inter-piconet", "communication", ".", "In", "-LSB-", "6", "-RSB-", "the", "authors", "have", "shown", "that", "constructing", "an", "optimal", "link", "schedule", "that", "maximizes", "total", "throughput", "in", "a", "Bluetooth", "scatternet", "is", "an", "NP", "hard", "problem", "even", "if", "scheduling", "is", "performed", "by", "a", "central", "entity", ".", "The", "authors", "also", "propose", "a", "scheduling", "algorithm", "referred", "to", "as", "Distributed", "Scatternet", "Scheduling", "Algorithm", "-LRB-", "DSSA", "-RRB-", ",", "which", "falls", "in", "the", "category", "of", "distributed", ",", "hard", "coordination", "schemes", ".", "Although", "the", "DSSA", "algorithm", "provides", "a", "solution", "for", "scheduling", "communication", "in", "a", "scatternet", ",", "some", "of", "its", "idealized", "properties", "-LRB-", "e.g.", ",", "nodes", "are", "aware", "of", "the", "traffic", "requirements", "of", "their", "neighbours", "-RRB-", "and", "its", "relatively", "high", "complexity", "make", "it", "difficult", "to", "apply", "it", "in", "a", "real", "life", "environment", ".", "There", "is", "an", "ongoing", "work", "in", "the", "Personal", "Area", "Networking", "-LRB-", "PAN", "-RRB-", "working", "group", "of", "the", "Bluetooth", "Special", "Interest", "Group", "-LRB-", "SIG", "-RRB-", "-LSB-", "2", "-RSB-", "to", "define", "an", "appropriate", "scheduling", "algorithm", "for", "Bluetooth", "scatternets", "Bluetooth", "is", "a", "short", "range", "radio", "technology", "that", "uses", "frequency", "hopping", "scheme", ",", "where", "hopping", "is", "performed", "on", "79", "RF", "channels", "spaced", "1", "MHz", "apart", ".", "Communication", "in", "Bluetooth", "is", "always", "between", "master", "and", "slave", "nodes", ".", "Being", "a", "master", "or", "a", "slave", "is", "only", "a", "logical", "state", ":", "any", "Bluetooth", "unit", "can", "be", "a", "master", "or", "a", "slave", ".", "The", "Bluetooth", "system", "provides", "full-duplex", "transmission", "based", "on", "slotted", "Time", "Division", "Duplex", "-LRB-", "TDD", "-RRB-", "scheme", ",", "where", "each", "slot", "is", "0.625", "ms", "long", ".", "Master-to-slave", "transmission", "always", "starts", "in", "an", "even-numbered", "time", "slot", ",", "while", "slave-to-master", "transmission", "always", "starts", "in", "an", "odd-numbered", "time", "slot", ".", "A", "pair", "of", "master-to-slave", "and", "slave-to-master", "slots", "are", "often", "referred", "to", "as", "a", "frame", ".", "The", "communication", "within", "a", "piconet", "is", "organized", "by", "the", "master", "which", "polls", "each", "slave", "according", "to", "some", "polling", "scheme", ".", "A", "slave", "is", "only", "allowed", "to", "transmit", "in", "a", "slave-to-master", "slot", "if", "it", "has", "been", "polled", "by", "the", "master", "in", "the", "previous", "master-to-slave", "slot", ".", "The", "master", "may", "or", "may", "not", "include", "data", "in", "the", "packet", "used", "to", "poll", "a", "slave", ".", "Bluetooth", "packets", "can", "carry", "synchronous", "data", "-LRB-", "e.g.", ",", "real-time", "traffic", "-RRB-", "on", "Synchronous", "Connection", "Oriented", "-LRB-", "SCO", "-RRB-", "links", "or", "asynchronous", "data", "-LRB-", "e.g.", ",", "elastic", "data", "traffic", ",", "which", "is", "the", "case", "in", "our", "study", "-RRB-", "on", "Asynchronous", "Connectionless", "-LRB-", "ACL", "-RRB-", "links", ".", "Bluetooth", "packets", "on", "an", "ACL", "link", "can", "be", "1", ",", "3", "or", "5", "slot", "long", "and", "they", "can", "carry", "different", "amount", "of", "user", "data", "depending", "on", "whether", "the", "payload", "is", "FEC", "coded", "or", "not", ".", "Accordingly", ",", "the", "Bluetooth", "packet", "types", "DH1", ",", "DH3", "and", "DH5", "denote", "1", ",", "3", "and", "5", "slot", "packets", ",", "respectively", ",", "where", "the", "payload", "is", "not", "FEC", "encoded", ",", "while", "in", "case", "of", "packet", "types", "DM1", ",", "DM3", "and", "DM5", "the", "payload", "is", "protected", "with", "FEC", "encoding", ".", "There", "are", "two", "other", "types", "of", "packets", ",", "the", "POLL", "and", "NULL", "packets", "that", "do", "not", "carry", "user", "data", ".", "The", "POLL", "packet", "is", "used", "by", "the", "master", "when", "it", "has", "no", "user", "data", "to", "the", "slave", "but", "it", "still", "wants", "to", "poll", "it", ".", "Similarly", ",", "the", "NULL", "packet", "is", "used", "by", "the", "slave", "to", "respond", "to", "the", "master", "if", "it", "has", "no", "user", "data", ".", "For", "further", "information", "regarding", "the", "Bluetooth", "technology", "the", "reader", "is", "referred", "to", "-LSB-", "1", ",", "3", "-RSB-", ".", "Coordination", "in", "the", "PCSS", "algorithm", "is", "achieved", "by", "the", "unique", "pseudo", "random", "sequence", "of", "checkpoints", "that", "is", "specific", "to", "each", "master-slave", "node", "pair", "and", "by", "implicit", "information", "exchange", "between", "peer", "devices", ".", "A", "checkpoint", "is", "a", "designated", "Bluetooth", "frame", ".", "The", "activity", "of", "being", "present", "at", "a", "checkpoint", "is", "referred", "to", "as", "to", "check", ".", "A", "master", "node", "actively", "checks", "its", "slave", "by", "sending", "a", "packet", "to", "the", "slave", "at", "the", "corresponding", "checkpoint", "and", "waiting", "for", "a", "response", "from", "the", "slave", ".", "The", "slave", "node", "passively", "checks", "its", "master", "by", "listening", "to", "the", "master", "at", "the", "checkpoint", "and", "sending", "a", "response", "packet", "in", "case", "of", "being", "addressed", ".", "The", "expected", "behaviour", "of", "nodes", "is", "that", "they", "show", "up", "at", "each", "checkpoint", "on", "all", "of", "their", "links", "and", "check", "their", "peers", "for", "available", "user", "data", ".", "The", "exchange", "of", "user", "data", "packets", "started", "at", "a", "checkpoint", "can", "be", "continued", "in", "the", "slots", "following", "the", "checkpoint", ".", "A", "node", "remains", "active", "on", "the", "current", "link", "until", "there", "is", "user", "data", "in", "either", "the", "master-to-slave", "or", "slave-to-master", "directions", "or", "until", "it", "has", "to", "leave", "for", "a", "next", "checkpoint", "on", "one", "of", "its", "other", "links", ".", "In", "the", "PCSS", "scheme", "we", "exploit", "the", "concept", "of", "randomness", "in", "assigning", "the", "position", "of", "checkpoints", ",", "which", "excludes", "the", "possibility", "that", "checkpoints", "on", "different", "links", "of", "a", "node", "will", "collide", "systematically", ",", "thus", "giving", "the", "node", "an", "equal", "chance", "to", "visit", "all", "of", "its", "checkpoints", ".", "The", "pseudo", "random", "procedure", "is", "similar", "to", "the", "one", "used", "to", "derive", "the", "pseudo", "random", "frequency", "hopping", "sequence", ".", "In", "particular", ",", "the", "PCSS", "scheme", "assigns", "the", "positions", "of", "checkpoints", "on", "a", "given", "link", "following", "a", "pseudo", "random", "sequence", "that", "is", "generated", "based", "on", "the", "Bluetooth", "clock", "of", "the", "master", "and", "the", "MAC", "address", "of", "the", "slave", ".", "This", "scheme", "guarantees", "that", "the", "same", "pseudo", "random", "sequence", "will", "be", "generated", "by", "both", "nodes", "of", "a", "master-slave", "pair", ",", "while", "the", "sequences", "belonging", "to", "different", "node", "pairs", "will", "be", "different", ".", "Figure", "2", "shows", "an", "example", "for", "the", "pseudo", "random", "arrangement", "of", "checkpoints", "in", "case", "of", "a", "node", "pair", "A", "and", "B", ".", "The", "length", "of", "the", "current", "base", "checking", "interval", "is", "denoted", "by", "T", "-LRB-", "i", "-RRB-", "check", "and", "the", "current", "checking", "intensity", "is", "defined", "accordingly", "as", "1", "T", "-LRB-", "i", "-RRB-", "check", ".", "There", "is", "one", "checkpoint", "within", "each", "base", "checking", "interval", "and", "the", "position", "of", "the", "checkpoint", "within", "this", "window", "is", "changing", "from", "one", "time", "window", "to", "the", "other", "in", "a", "pseudo", "random", "manner", ".", "checkpoints", "of", "A", "toward", "B", "checkpoints", "of", "B", "toward", "A", "1", "frame", "T", "-LRB-", "i", "-RRB-", "check", "Figure", "2", ":", "Pseudo-random", "positioning", "of", "checkpoints", "Since", "the", "pseudo", "random", "sequence", "is", "different", "from", "one", "link", "to", "another", ",", "checkpoints", "on", "different", "links", "of", "a", "node", "will", "collide", "only", "occasionally", ".", "In", "case", "of", "collision", "the", "node", "can", "attend", "only", "one", "of", "the", "colliding", "checkpoints", ",", "which", "implies", "that", "the", "corresponding", "neighbours", "have", "to", "be", "prepared", "for", "a", "non-present", "peer", ".", "That", "is", ",", "the", "master", "might", "not", "poll", "and", "the", "slave", "might", "not", "listen", "at", "a", "checkpoint", ".", "We", "note", "that", "a", "collision", "occurs", "either", "if", "there", "are", "more", "than", "one", "checkpoints", "scheduled", "for", "the", "same", "time", "slot", "or", "if", "the", "checkpoints", "are", "so", "close", "to", "each", "other", "that", "a", "packet", "transmission", "started", "at", "the", "first", "checkpoint", "necessarily", "overlaps", "the", "second", "one", ".", "Furthermore", ",", "if", "the", "colliding", "checkpoints", "belong", "to", "links", "in", "different", "piconets", ",", "the", "necessary", "time", "to", "perform", "the", "switch", "must", "be", "also", "taken", "into", "account", ".", "During", "the", "communication", "there", "is", "the", "possibility", "to", "increase", "or", "decrease", "the", "intensity", "of", "checkpoints", "depending", "on", "the", "amount", "of", "user", "data", "to", "be", "transmitted", "and", "on", "the", "available", "capacity", "of", "the", "node", ".", "According", "to", "the", "PCSS", "algorithm", "a", "node", "performs", "certain", "traffic", "measurements", "at", "the", "checkpoints", "and", "increases", "or", "decreases", "the", "current", "checking", "intensity", "based", "on", "these", "measurements", ".", "Since", "195", "nodes", "decide", "independently", "about", "the", "current", "checking", "intensity", "without", "explicit", "coordination", ",", "two", "nodes", "on", "a", "given", "link", "may", "select", "different", "base", "checking", "periods", ".", "In", "order", "to", "ensure", "that", "two", "nodes", "with", "different", "checking", "intensities", "on", "the", "same", "link", "can", "still", "communicate", "we", "require", "the", "pseudo", "random", "generation", "of", "checkpoints", "to", "be", "such", "that", "the", "set", "of", "checkpoint", "positions", "at", "a", "lower", "checking", "intensity", "is", "a", "subset", "of", "checkpoint", "positions", "at", "any", "higher", "checking", "intensities", ".", "In", "the", "Appendix", "we", "are", "going", "to", "present", "a", "pseudo", "random", "scheme", "for", "generating", "the", "position", "of", "checkpoints", ",", "which", "has", "the", "desired", "properties", ".", "In", "what", "follows", ",", "we", "describe", "the", "procedures", "of", "the", "PCSS", "algorithm", ".", "We", "start", "by", "the", "initialization", "process", "which", "ensures", "that", "two", "nodes", "can", "start", "communication", "as", "soon", "as", "a", "new", "link", "has", "been", "established", "or", "the", "connection", "has", "been", "reset", ".", "Next", ",", "we", "describe", "the", "rules", "that", "define", "how", "nodes", "calculate", "their", "checkpoints", ",", "decide", "upon", "their", "presence", "at", "checkpoints", "and", "exchange", "packets", ".", "Finally", ",", "we", "present", "the", "way", "neighboring", "nodes", "can", "dynamically", "increase", "and", "decrease", "of", "checkpoint", "intensity", ".", "5.1", "Initialization", "In", "the", "PCSS", "algorithm", "there", "is", "no", "need", "for", "a", "separate", "initialization", "procedure", "to", "start", "communication", ",", "since", "the", "pseudo", "random", "generation", "of", "checkpoints", "is", "defined", "such", "that", "once", "a", "master", "slave", "node", "pair", "share", "the", "same", "master", "'s", "clock", "and", "slave", "'s", "MAC", "address", "information", ",", "it", "is", "guaranteed", "that", "the", "same", "pseudo", "random", "sequence", "will", "be", "produced", "at", "each", "node", ".", "That", "is", ",", "it", "is", "guaranteed", "that", "two", "nodes", "starting", "checkpoint", "generation", "at", "different", "time", "instants", "with", "different", "checking", "intensities", "will", "be", "able", "to", "communicate", ".", "It", "is", "the", "own", "decision", "of", "the", "nodes", "to", "select", "an", "appropriate", "initial", "checking", "intensity", ",", "which", "may", "depend", "for", "example", "on", "the", "free", "capacities", "of", "the", "node", "or", "on", "the", "amount", "of", "data", "to", "transmit", ".", "Once", "the", "communication", "is", "established", "the", "increase", "and", "decrease", "procedures", "will", "adjust", "the", "possibly", "different", "initial", "checking", "intensities", "to", "a", "common", "value", ".", "5.2", "Communication", "A", "pair", "of", "nodes", "can", "start", "exchanging", "user", "data", "packets", "at", "a", "checkpoint", ",", "which", "can", "expand", "through", "the", "slots", "following", "the", "checkpoint", ".", "The", "nodes", "remain", "active", "on", "the", "current", "link", "following", "a", "checkpoint", "until", "there", "is", "user", "data", "to", "be", "transmitted", "or", "one", "of", "them", "has", "to", "leave", "in", "order", "to", "attend", "a", "checkpoint", "on", "one", "of", "its", "other", "links", ".", "After", "a", "POLL/NULL", "packet", "pair", "has", "been", "exchanged", "indicating", "that", "there", "is", "no", "more", "user", "data", "left", "the", "nodes", "switch", "off", "their", "transmit-ters/receivers", "and", "remain", "idle", "until", "a", "next", "checkpoint", "comes", "on", "one", "of", "their", "links", ".", "However", ",", "during", "the", "communication", "any", "of", "the", "nodes", "can", "leave", "in", "order", "to", "attend", "a", "coming", "checkpoint", "on", "one", "of", "its", "other", "links", ".", "After", "one", "of", "the", "nodes", "has", "left", "the", "remaining", "peer", "will", "realize", "the", "absence", "of", "the", "node", "and", "will", "go", "idle", "until", "the", "time", "of", "its", "next", "checkpoint", ".", "If", "the", "master", "has", "left", "earlier", "the", "slave", "will", "realize", "the", "absence", "of", "the", "master", "at", "the", "next", "master-to-slave", "slot", "by", "not", "receiving", "the", "expected", "poll", ".", "In", "the", "worst", "case", "the", "master", "has", "left", "before", "receiving", "the", "last", "packet", "response", "from", "the", "slave", ",", "which", "can", "be", "a", "5", "slot", "packet", "in", "which", "case", "the", "slave", "wastes", "5", "+1", "slots", "before", "realizing", "the", "absence", "of", "the", "master", ".", "Similarly", ",", "if", "the", "master", "does", "not", "get", "a", "response", "from", "the", "slave", "it", "assumes", "that", "the", "slave", "has", "already", "left", "the", "checkpoint", "and", "goes", "idle", "until", "its", "next", "checkpoint", ".", "Note", "that", "the", "master", "may", "also", "waste", "5", "+1", "slots", "in", "the", "worst", "case", "before", "realizing", "the", "absence", "of", "the", "slave", ".", "A", "node", "stores", "the", "current", "length", "of", "the", "base", "checking", "interval", "and", "the", "time", "of", "the", "next", "checkpoint", "for", "each", "of", "its", "Bluetooth", "links", "separately", ".", "For", "its", "i", "th", "link", "a", "node", "maintains", "the", "variable", "T", "-LRB-", "i", "-RRB-", "check", "to", "store", "the", "length", "of", "the", "current", "base", "checking", "period", "in", "number", "of", "frames", "and", "the", "variable", "t", "-LRB-", "i", "-RRB-", "check", ",", "which", "stores", "the", "Bluetooth", "clock", "of", "the", "master", "at", "the", "next", "checkpoint", ".", "After", "passing", "a", "checkpoint", "the", "variable", "t", "-LRB-", "i", "-RRB-", "check", "is", "updated", "to", "the", "next", "checkpoint", "by", "running", "the", "pseudo", "random", "generator", "-LRB-", "P", "seudoChkGen", "-RRB-", "with", "the", "current", "value", "of", "the", "master", "'s", "clock", "t", "-LRB-", "i", "-RRB-", "and", "the", "length", "of", "the", "base", "checking", "period", "T", "-LRB-", "i", "-RRB-", "check", "and", "with", "the", "MAC", "address", "of", "the", "slave", "A", "-LRB-", "i", "-RRB-", "slave", "as", "input", "parameters", ";", "t", "-LRB-", "i", "-RRB-", "check", "=", "P", "seudoChkGen", "-LRB-", "T", "-LRB-", "i", "-RRB-", "check", ",", "A", "-LRB-", "i", "-RRB-", "slave", ",", "t", "-LRB-", "i", "-RRB-", "-RRB-", ".", "The", "procedure", "P", "seudoChkGen", "is", "described", "in", "the", "Appendix", ".", "There", "is", "a", "maximum", "and", "minimum", "checking", "interval", "T", "max", "=", "2", "f", "max", "and", "T", "min", "=", "2", "f", "min", ",", "respectively", ".", "The", "length", "of", "the", "checking", "period", "must", "be", "a", "power", "of", "2", "number", "of", "frames", "and", "it", "must", "take", "a", "value", "from", "the", "interval", "-LSB-", "2", "f", "min", ",", "2", "f", "max", "-RSB-", ".", "5.3", "Increasing", "and", "Decreasing", "Checking", "Intensity", "The", "increase", "and", "decrease", "procedures", "are", "used", "to", "adjust", "the", "checking", "intensity", "of", "a", "node", "according", "to", "the", "traffic", "intensity", "and", "to", "the", "availability", "of", "the", "peer", "device", ".", "Each", "node", "decides", "independently", "about", "the", "current", "checking", "intensity", "based", "on", "traffic", "measurements", "at", "checkpoints", ".", "Since", "the", "time", "spent", "by", "a", "node", "on", "a", "link", "is", "proportional", "to", "the", "ratio", "of", "the", "number", "of", "checkpoints", "on", "that", "link", "and", "the", "number", "of", "checkpoints", "on", "all", "links", "of", "the", "node", ",", "the", "bandwidth", "allocated", "to", "a", "link", "can", "be", "controlled", "by", "the", "intensity", "of", "checkpoints", "on", "that", "link", ".", "This", "can", "be", "shown", "by", "the", "following", "simple", "calculation", ".", "Let", "us", "assume", "that", "the", "node", "has", "L", "number", "of", "links", "and", "assume", "further", "that", "for", "the", "base", "checking", "periods", "on", "all", "links", "of", "the", "node", "it", "holds", "that", "T", "min", "T", "-LRB-", "i", "-RRB-", "check", "T", "max", ",", "i", "=", "1", ",", "...", ",", "L", ".", "Then", "the", "average", "number", "of", "checkpoints", "within", "an", "interval", "of", "length", "T", "max", "is", "N", "=", "L", "i", "=", "1", "T", "max", "T", "-LRB-", "i", "-RRB-", "check", ",", "and", "the", "average", "time", "between", "two", "consecutive", "checkpoints", "is", "t", "=", "T", "max", "N", "=", "1", "L", "i", "=", "1", "1", "T", "-LRB-", "i", "-RRB-", "check", ",", "provided", "that", "the", "pseudo", "random", "generator", "produces", "a", "uniformly", "distributed", "sequence", "of", "checkpoints", ".", "Then", ",", "the", "share", "of", "link", "j", "from", "the", "total", "capacity", "of", "the", "node", "is", "r", "j", "=", "1/T", "-LRB-", "j", "-RRB-", "check", "L", "i", "=", "1", "1", "T", "-LRB-", "i", "-RRB-", "check", ".", "A", "node", "has", "to", "measure", "the", "utilization", "of", "checkpoints", "on", "each", "of", "its", "links", "separately", "in", "order", "to", "provide", "input", "to", "the", "checking", "intensity", "increase", "and", "decrease", "procedures", ".", "According", "to", "the", "algorithm", "a", "given", "checkpoint", "is", "considered", "to", "be", "utilized", "if", "both", "nodes", "have", "shown", "up", "at", "the", "checkpoint", "and", "at", "least", "one", "Bluetooth", "packet", "carrying", "user", "data", "has", "been", "transmitted", "or", "received", ".", "If", "there", "has", "not", "been", "a", "successful", "poll", "at", "the", "checkpoint", "due", "to", "the", "unavailability", "of", "any", "of", "the", "nodes", "or", "if", "there", "has", "been", "only", "a", "POLL/NULL", "packet", "pair", "exchange", "but", "no", "user", "data", "has", "been", "transmitted", ",", "the", "checkpoint", "is", "considered", "to", "be", "unutilized", ".", "We", "note", "that", "due", "to", "packet", "losses", "the", "utilization", "of", "a", "given", "checkpoint", "might", "be", "interpreted", "differently", "by", "the", "nodes", ".", "However", ",", "this", "does", "not", "impact", "correct", "operation", "of", "the", "algorithm", ".", "196", "To", "measure", "the", "utilization", "of", "checkpoints", "-LRB-", "i", "-RRB-", "on", "the", "i", "th", "link", "of", "the", "node", "we", "employ", "the", "moving", "average", "method", "as", "follows", ".", "The", "utilization", "of", "a", "checkpoint", "equals", "to", "1", "if", "it", "has", "been", "utilized", ",", "otherwise", "it", "equals", "to", "0", ".", "If", "the", "checkpoint", "has", "been", "utilized", "the", "variable", "-LRB-", "i", "-RRB-", "is", "updated", "as", ",", "-LRB-", "i", "-RRB-", "=", "q", "uti", "-LRB-", "i", "-RRB-", "+", "-LRB-", "1", "-", "q", "uti", "-RRB-", "1", ";", "if", "the", "checkpoint", "has", "not", "been", "utilized", "it", "is", "updated", "as", ",", "-LRB-", "i", "-RRB-", "=", "q", "uti", "-LRB-", "i", "-RRB-", "+", "-LRB-", "1", "-", "q", "uti", "-RRB-", "0", ",", "where", "0", "q", "uti", "<", "1", "is", "the", "time", "scale", "parameter", "of", "the", "moving", "average", "method", ".", "A", "further", "parameter", "of", "the", "utilization", "measurement", "is", "the", "minimum", "number", "of", "samples", "that", "have", "to", "be", "observed", "before", "the", "measured", "utilization", "value", "is", "considered", "to", "be", "confident", "and", "can", "be", "used", "as", "input", "to", "decide", "about", "increase", "and", "decrease", "of", "checking", "intensity", ".", "This", "minimum", "number", "of", "samples", "is", "a", "denoted", "by", "N", "sample", ",", "min", ".", "Finally", ",", "a", "node", "also", "has", "to", "measure", "its", "total", "utilization", ",", "which", "is", "defined", "as", "the", "fraction", "of", "time", "slots", "where", "the", "node", "has", "been", "active", "-LRB-", "transmitted", "or", "received", "-RRB-", "over", "the", "total", "number", "of", "time", "slots", ".", "To", "measure", "the", "total", "utilization", "of", "a", "node", "we", "employ", "the", "moving", "average", "method", "again", ".", "Each", "node", "measures", "its", "own", "utilization", "-LRB-", "node", "-RRB-", "and", "updates", "the", "-LRB-", "node", "-RRB-", "variable", "after", "each", "N", "uti", ",", "win", "number", "of", "slots", "as", "follows", ":", "-LRB-", "node", "-RRB-", "=", "q", "-LRB-", "node", "-RRB-", "uti", "-LRB-", "node", "-RRB-", "+", "-LRB-", "1", "-", "q", "-LRB-", "node", "-RRB-", "uti", "-RRB-", "-LRB-", "win", "-RRB-", ",", "where", "-LRB-", "win", "-RRB-", "is", "the", "fraction", "of", "time", "slots", "in", "the", "past", "time", "window", "of", "length", "N", "uti", ",", "win", "where", "the", "node", "has", "been", "active", "over", "the", "total", "number", "of", "time", "slots", "N", "uti", ",", "win", ".", "If", "the", "utilization", "of", "checkpoints", "on", "link", "i", "falls", "below", "the", "lower", "threshold", "lower", ",", "the", "current", "base", "checking", "period", "T", "-LRB-", "i", "-RRB-", "check", "will", "be", "doubled", ".", "Having", "a", "low", "checkpoint", "utilization", "can", "be", "either", "because", "one", "or", "both", "of", "the", "nodes", "have", "not", "shown", "up", "at", "all", "of", "the", "checkpoints", "or", "because", "there", "is", "not", "enough", "user", "data", "to", "be", "transmitted", ".", "In", "either", "cases", "the", "intensity", "of", "checkpoints", "has", "to", "be", "decreased", ".", "Whenever", "a", "decrease", "or", "increase", "is", "performed", "on", "link", "i", "the", "measured", "utilization", "-LRB-", "i", "-RRB-", "must", "be", "reset", ".", "Since", "the", "parameter", "T", "-LRB-", "i", "-RRB-", "check", "is", "one", "of", "the", "inputs", "to", "the", "pseudo", "random", "checkpoint", "generation", "process", ",", "P", "seudoChkGen", "the", "checkpoints", "after", "the", "decrease", "will", "be", "generated", "according", "to", "the", "new", "period", ".", "Furthermore", ",", "due", "to", "the", "special", "characteristic", "of", "the", "checkpoint", "generation", "scheme", "the", "remaining", "checkpoints", "after", "the", "decrease", "will", "be", "a", "subset", "of", "the", "original", "checkpoints", ",", "which", "guarantees", "that", "the", "two", "nodes", "can", "sustain", "communication", "independent", "of", "local", "changes", "in", "checking", "intensities", ".", "An", "example", "for", "the", "checking", "intensity", "decrease", "in", "case", "of", "a", "node", "pair", "A", "and", "B", "is", "shown", "in", "Figure", "3", ".", "First", ",", "node", "A", "decreases", "checking", "intensity", "by", "doubling", "its", "current", "base", "checking", "period", "in", "response", "to", "the", "measured", "low", "utilization", ".", "As", "a", "consequence", "node", "B", "will", "find", "node", "A", "on", "average", "only", "at", "every", "second", "checkpoint", "and", "its", "measured", "utilization", "will", "decrease", "rapidly", ".", "When", "the", "measured", "utilization", "at", "node", "B", "falls", "below", "the", "threshold", "lower", ",", "B", "realizes", "that", "its", "peer", "has", "a", "lower", "checking", "intensity", "and", "follows", "the", "decrease", "by", "doubling", "its", "current", "base", "checking", "period", ".", "Although", "we", "have", "not", "explicitly", "indicated", "in", "the", "Figure", ",", "it", "is", "assumed", "that", "there", "has", "been", "user", "data", "exchanged", "at", "each", "checkpoint", "where", "both", "nodes", "were", "present", ".", "=", "0.35", "<", "lower", "=", "0.36", "<", "lower", "node", "A", "reduces", "the", "checking", "intensity", ",", "by", "doubling", "its", "base", "period", "checkpoints", "of", "B", "toward", "A", "checkpoints", "of", "A", "toward", "B", "doubles", "its", "base", "period", "node", "B", "realizes", "the", "decrease", "and", "=", "0.6", "=", "0.5", "=", "0.5", "=", "0.2", "=", "0.7", "=", "0.48", "=", "0.56", "=", "0.46", "=", "0.5", "=", "0.58", "=", "0.35", "=", "0.35", "=", "0.65", "=", "0.2", "Figure", "3", ":", "Checking", "intensity", "decrease", "Recall", "from", "the", "utilization", "measurement", "procedure", "that", "there", "is", "a", "minimum", "number", "of", "checkpoints", "N", "sample", ",", "min", "that", "has", "to", "be", "sam-pled", "before", "the", "measured", "utilization", "is", "considered", "to", "be", "confident", "and", "can", "be", "used", "to", "decide", "about", "checking", "intensity", "decrease", ".", "The", "parameter", "N", "sample", ",", "min", "together", "with", "the", "parameter", "of", "the", "moving", "average", "method", "q", "uti", "determine", "the", "time", "scale", "over", "which", "the", "utilization", "of", "checkpoints", "has", "to", "be", "above", "the", "threshold", "lower", ",", "otherwise", "the", "node", "decreases", "checking", "intensity", ".", "It", "might", "be", "also", "reasonable", "to", "allow", "that", "the", "parameter", "N", "sample", ",", "min", "and", "the", "moving", "average", "parameter", "q", "uti", "can", "be", "changed", "after", "each", "decrease", "or", "increase", "taking", "into", "account", "for", "example", "the", "current", "checking", "intensity", ",", "the", "available", "resources", "of", "the", "node", "or", "the", "amount", "of", "user", "data", "to", "be", "transmitted", ",", "etc.", ".", "However", ",", "in", "the", "current", "implementation", "we", "apply", "fixed", "parameter", "values", ".", "After", "a", "checkpoint", "where", "user", "data", "has", "been", "exchanged", "-LRB-", "not", "only", "a", "POLL/NULL", "packet", "pair", "-RRB-", "checking", "intensity", "can", "be", "increased", "provided", "that", "the", "measured", "utilization", "of", "checkpoints", "exceeds", "the", "upper", "threshold", "upper", "and", "the", "node", "has", "available", "capacity", ".", "Formally", "a", "checking", "intensity", "increase", "is", "performed", "on", "link", "i", "if", "the", "following", "two", "conditions", "are", "satisfied", ":", "-LRB-", "i", "-RRB-", ">", "upper", "and", "-LRB-", "node", "-RRB-", "<", "-LRB-", "node", "-RRB-", "upper", ",", "where", "-LRB-", "node", "-RRB-", "upper", "is", "the", "upper", "threshold", "of", "the", "total", "utilization", "of", "the", "node", ".", "This", "last", "condition", "ensures", "that", "the", "intensity", "of", "checkpoints", "will", "not", "increase", "unbounded", ".", "The", "intensity", "of", "checkpoints", "is", "doubled", "at", "each", "increase", "by", "dividing", "the", "current", "length", "of", "the", "base", "checking", "period", "T", "-LRB-", "i", "-RRB-", "check", "by", "2", ".", "For", "typical", "values", "of", "upper", "we", "recommend", "0.8", "upper", "0.9", "in", "which", "case", "the", "respective", "lower", "value", "should", "be", "lower", "0.4", "in", "order", "to", "avoid", "oscillation", "of", "increases", "and", "decreases", ".", "Figure", "4", "shows", "an", "example", "where", "node", "A", "and", "B", "communicate", "and", "after", "exchanging", "user", "data", "at", "the", "second", "checkpoint", "both", "nodes", "double", "the", "checking", "intensity", ".", "In", "the", "Figure", "we", "have", "explicitly", "indicated", "whether", "there", "has", "been", "user", "data", "exchanged", "at", "a", "checkpoint", "or", "not", ".", "user", "data", "checkpoints", "of", "B", "toward", "A", "checkpoints", "of", "A", "toward", "B", "=", "0.8", ">", "upper", "=", "0.8", ">", "upper", "=", "0.7", "=", "0.2", "=", "0.55", "=", "0.4", "=", "0.55", "=", "0.7", "user", "data", "user", "data", "user", "data", "=", "0.4", "=", "0.2", "checking", "intensity", "both", "node", "A", "and", "B", "double", "=", "0.3", "=", "0.3", "Figure", "4", ":", "Checking", "intensity", "increase", "197", "In", "this", "section", "we", "define", "the", "Ideal", "Coordinated", "Scatternet", "Scheduler", "-LRB-", "ICSS", "-RRB-", "and", "the", "Uncoordinated", "Greedy", "Scatternet", "Scheduler", "-LRB-", "UGSS", "-RRB-", "reference", "algorithms", ".", "The", "ICSS", "algorithm", "represents", "the", "``", "ideal", "''", "case", "where", "nodes", "exploit", "all", "extra", "information", "when", "scheduling", "packet", "transmissions", ",", "which", "would", "not", "be", "available", "in", "a", "realistic", "scenario", ".", "The", "UGSS", "algorithm", "represents", "the", "greedy", "case", "where", "nodes", "continuously", "switch", "among", "their", "Bluetooth", "links", "in", "a", "random", "order", ".", "6.1", "The", "ICSS", "Algorithm", "The", "ICSS", "algorithm", "is", "a", "hypothetical", ",", "ideal", "scheduling", "algorithm", "that", "we", "use", "as", "a", "reference", "case", "in", "the", "evaluation", "of", "the", "PCSS", "scheme", ".", "In", "the", "ICSS", "algorithm", "a", "node", "has", "the", "following", "extra", "information", "about", "its", "neighbours", ",", "which", "represents", "the", "idealized", "property", "of", "the", "algorithm", ":", "a", "node", "is", "aware", "of", "the", "already", "pre-scheduled", "transmissions", "of", "its", "neighbours", ";", "and", "a", "node", "is", "aware", "of", "the", "content", "of", "the", "transmission", "buffers", "of", "its", "neighbours", ".", "According", "to", "the", "ICSS", "algorithm", "each", "node", "maintains", "a", "scheduling", "list", ",", "which", "contains", "the", "already", "pre-scheduled", "tasks", "of", "the", "node", ".", "A", "task", "always", "corresponds", "to", "one", "packet", "pair", "exchange", "with", "a", "given", "peer", "of", "the", "node", ".", "Knowing", "the", "scheduling", "list", "of", "the", "neighbours", "allows", "the", "node", "to", "schedule", "communication", "with", "its", "neighbours", "without", "overlapping", "their", "other", "communication", ",", "such", "that", "the", "capacity", "of", "the", "nodes", "is", "utilized", "as", "much", "as", "possible", ".", "Furthermore", "being", "aware", "of", "the", "content", "of", "the", "transmission", "buffers", "of", "neighbours", "eliminates", "the", "inefficiencies", "of", "the", "polling", "based", "scheme", ",", "since", "there", "will", "be", "no", "unnecessary", "polls", "and", "the", "system", "will", "be", "work-conserving", ".", "In", "the", "scheduling", "list", "of", "a", "node", "there", "is", "at", "most", "one", "packet", "pair", "exchange", "scheduled", "in", "relation", "to", "each", "of", "its", "peers", ",", "provided", "that", "there", "is", "a", "Bluetooth", "packet", "carrying", "user", "data", "either", "in", "the", "transmission", "buffer", "of", "the", "node", "or", "in", "the", "transmission", "buffer", "of", "the", "peer", "or", "in", "both", ".", "After", "completing", "a", "packet", "exchange", "on", "a", "given", "link", "the", "two", "nodes", "schedule", "the", "next", "packet", "exchange", ",", "provided", "that", "there", "is", "user", "data", "to", "be", "transmitted", "in", "at", "least", "one", "of", "the", "directions", ".", "If", "there", "is", "user", "data", "in", "only", "one", "of", "the", "directions", ",", "a", "POLL", "or", "NULL", "packet", "is", "assumed", "for", "the", "reverse", "direction", "depending", "on", "whether", "it", "is", "the", "master-to-slave", "or", "slave-to-master", "direction", ",", "respectively", ".", "The", "new", "task", "is", "fitted", "into", "the", "scheduling", "lists", "of", "the", "nodes", "using", "a", "first", "fit", "strategy", ".", "According", "to", "this", "strategy", "the", "task", "is", "fitted", "into", "the", "first", "time", "interval", "that", "is", "available", "in", "both", "of", "the", "scheduling", "lists", "and", "that", "is", "long", "enough", "to", "accommodate", "the", "new", "task", ".", "Note", "that", "the", "algorithm", "strives", "for", "maximal", "utilization", "of", "node", "capacity", "by", "trying", "to", "fill", "in", "the", "unused", "gaps", "in", "the", "scheduling", "lists", ".", "If", "there", "is", "no", "more", "user", "data", "to", "be", "transmitted", "on", "a", "previously", "busy", "link", ",", "the", "link", "goes", "to", "idle", "in", "which", "case", "no", "tasks", "corresponding", "to", "the", "given", "link", "will", "be", "scheduled", "until", "there", "is", "user", "data", "again", "in", "at", "least", "one", "of", "the", "directions", ".", "An", "example", "for", "the", "scheduling", "lists", "of", "a", "node", "pair", "A", "and", "B", "is", "shown", "in", "Figure", "5", ".", "The", "tasks", "are", "labeled", "with", "the", "name", "of", "the", "corresponding", "peers", "the", "different", "tasks", "belong", "to", ".", "Each", "node", "has", "as", "many", "pre-scheduled", "tasks", "in", "its", "scheduling", "list", "as", "the", "number", "of", "its", "active", "Bluetooth", "links", ".", "A", "link", "is", "considered", "to", "be", "active", "if", "there", "is", "schedule", "the", "next", "packet", "pair", "exchange", "for", "node", "A", "and", "B", "scheduling", "list", "of", "node", "A", "current", "time", "scheduling", "list", "of", "node", "B", "t", "t", "peer", "B", "peer", "A", "peer", "A", "peer", "B", "peer", "E", "peer", "E", "peer", "C", "peer", "D", "peer", "C", "Figure", "5", ":", "Example", "for", "the", "scheduling", "lists", "of", "a", "node", "pair", "in", "case", "of", "the", "ICSS", "algorithm", "user", "data", "packet", "in", "at", "least", "one", "of", "the", "directions", ".", "Node", "A", "has", "active", "peers", "B", "and", "C", ",", "while", "node", "B", "has", "active", "peers", "A", ",", "D", "and", "E", ".", "After", "node", "A", "and", "B", "have", "finished", "the", "transmission", "of", "a", "packet", "pair", "they", "schedule", "the", "next", "task", "for", "the", "nearest", "time", "slots", "that", "are", "available", "in", "both", "of", "their", "scheduling", "lists", "and", "the", "number", "of", "consecutive", "free", "time", "slots", "is", "greater", "than", "or", "equal", "to", "the", "length", "of", "the", "task", ".", "6.2", "The", "UGSS", "Algorithm", "In", "the", "UGSS", "algorithm", "Bluetooth", "nodes", "do", "not", "attempt", "to", "coordinate", "their", "meeting", "points", ",", "instead", "each", "node", "visits", "its", "neighbours", "in", "a", "random", "order", ".", "Nodes", "switch", "continuously", "among", "their", "Bluetooth", "links", "in", "a", "greedy", "manner", ".", "If", "the", "node", "has", "n", "number", "of", "links", "it", "chooses", "each", "of", "them", "with", "a", "probability", "of", "1/n", ".", "The", "greedy", "nature", "of", "the", "algorithm", "results", "in", "high", "power", "consumption", "of", "Bluetooth", "devices", ".", "If", "the", "node", "is", "the", "master", "on", "the", "visited", "link", "it", "polls", "the", "slave", "by", "sending", "a", "packet", "on", "the", "given", "link", ".", "The", "type", "of", "Bluetooth", "packet", "sent", "can", "be", "a", "1", ",", "3", "or", "5", "slot", "packet", "carrying", "useful", "data", "or", "an", "empty", "POLL", "packet", "depending", "on", "whether", "there", "is", "user", "data", "to", "be", "transmitted", "or", "not", ".", "After", "the", "packet", "has", "been", "sent", "the", "master", "remains", "active", "on", "the", "link", "in", "order", "to", "receive", "any", "response", "from", "the", "slave", ".", "If", "the", "slave", "has", "not", "been", "active", "on", "the", "given", "link", "at", "the", "time", "when", "the", "master", "has", "sent", "the", "packet", "it", "could", "not", "have", "received", "the", "packet", "and", "consequently", "it", "will", "not", "send", "a", "response", "to", "the", "master", ".", "After", "the", "master", "has", "received", "the", "response", "of", "the", "slave", "or", "if", "it", "has", "sensed", "the", "link", "to", "be", "idle", "indicating", "that", "no", "response", "from", "the", "salve", "can", "be", "expected", ",", "it", "selects", "the", "next", "link", "to", "visit", "randomly", ".", "Similar", "procedure", "is", "followed", "when", "the", "node", "is", "the", "slave", "on", "the", "visited", "link", ".", "The", "slave", "tunes", "its", "receiver", "to", "the", "master", "and", "listens", "for", "a", "packet", "transmission", "from", "the", "master", "in", "the", "current", "master-to", "-", "slave", "slot", ".", "If", "the", "slave", "has", "not", "been", "addressed", "by", "the", "master", "in", "the", "actual", "master-to-slave", "slot", "it", "immediately", "goes", "to", "the", "next", "link", ".", "However", ",", "if", "the", "slave", "has", "been", "addressed", "it", "remains", "active", "on", "the", "current", "link", "and", "receives", "the", "packet", ".", "After", "having", "received", "the", "packet", "of", "the", "master", "the", "slave", "responds", "with", "its", "own", "packet", "in", "the", "following", "slave-to-master", "slot", ".", "After", "the", "slave", "has", "sent", "its", "response", "it", "selects", "the", "next", "link", "to", "visit", "randomly", ".", "First", ",", "we", "evaluate", "the", "algorithm", "in", "a", "realistic", "usage", "scenario", ",", "which", "is", "the", "Network", "Access", "Point", "-LRB-", "NAP", "-RRB-", "scenario", ".", "Next", "we", "investigate", "theoretical", "configurations", "and", "obtain", "asymptotical", "results", "that", "reveals", "the", "scaling", "properties", "of", "the", "algorithm", ".", "For", "instance", "we", "investigate", "the", "carried", "traffic", "in", "function", "of", "the", "number", "of", "forwarding", "198", "hops", "along", "the", "path", "and", "in", "function", "of", "bridging", "degree", ".", "Both", "in", "the", "realistic", "and", "theoretical", "configurations", "we", "relate", "the", "performance", "of", "the", "PCSS", "scheme", "to", "the", "performance", "of", "the", "ICSS", "and", "UGSS", "reference", "algorithms", ".", "Before", "presenting", "the", "scenarios", "and", "simulation", "results", "we", "shortly", "describe", "the", "simulation", "environment", "and", "define", "the", "performance", "metrics", "that", "are", "going", "to", "be", "measured", "during", "the", "simulations", ".", "7.1", "Simulation", "Environment", "We", "have", "developed", "a", "Bluetooth", "packet", "level", "simulator", ",", "which", "is", "based", "on", "the", "Plasma", "simulation", "environment", "-LSB-", "4", "-RSB-", ".", "The", "simulator", "has", "a", "detailed", "model", "of", "all", "the", "packet", "transmission", ",", "reception", "procedures", "in", "the", "Bluetooth", "Baseband", "including", "packet", "buffering", ",", "upper", "layer", "packet", "segmentation/reassemble", ",", "the", "ARQ", "mechanism", ",", "etc.", ".", "The", "simulator", "supports", "all", "Bluetooth", "packet", "types", "and", "follows", "the", "same", "master-slave", "slot", "structure", "as", "in", "Bluetooth", ".", "For", "the", "physical", "layer", "we", "employ", "a", "simplified", "analytical", "model", "that", "captures", "the", "frequency", "collision", "effect", "of", "interfering", "piconets", ".", "In", "the", "current", "simulations", "the", "connection", "establishment", "procedures", ",", "e.g.", ",", "the", "inquiry", "and", "page", "procedures", "are", "not", "simulated", "in", "detail", "and", "we", "do", "not", "consider", "dynamic", "scatternet", "formation", "either", ".", "Instead", "we", "perform", "simulations", "in", "static", "scatternet", "configurations", "where", "the", "scatternet", "topology", "is", "kept", "constant", "during", "one", "particular", "run", "of", "simulation", ".", "In", "the", "current", "simulations", "we", "run", "IP", "directly", "on", "top", "of", "the", "Bluetooth", "link", "layer", "and", "we", "apply", "AODV", "as", "the", "routing", "protocol", "in", "the", "IP", "layer", ".", "The", "simulator", "also", "includes", "various", "implementations", "of", "the", "TCP", "protocol", "-LRB-", "we", "employed", "RenoPlus", "-RRB-", "and", "supports", "different", "TCP/IP", "applications", ",", "from", "which", "we", "used", "TCP", "bulk", "data", "transfer", "in", "the", "current", "simulations", ".", "One", "of", "the", "most", "important", "user", "perceived", "performance", "measures", "is", "the", "achieved", "throughput", ".", "We", "are", "going", "to", "investigate", "the", "throughput", "in", "case", "of", "bulk", "TCP", "data", "transfer", "and", "in", "case", "of", "Constant", "Bit", "Rate", "-LRB-", "CBR", "-RRB-", "sources", ".", "In", "order", "to", "take", "into", "account", "the", "power", "consumption", "of", "nodes", "we", "define", "activity", "ratio", "of", "a", "node", ",", "r", "act", "as", "the", "fraction", "of", "time", "when", "the", "node", "has", "been", "active", "over", "the", "total", "elapsed", "time", ";", "and", "power", "efficiency", ",", "p", "ef", "f", "as", "the", "fraction", "of", "the", "number", "of", "user", "bytes", "success-fully", "communicated", "-LRB-", "transmitted", "and", "received", "-RRB-", "over", "the", "total", "time", "the", "node", "has", "been", "active", ".", "The", "power", "efficiency", "shows", "the", "number", "of", "user", "bytes", "that", "can", "be", "communicated", "by", "the", "node", "during", "an", "active", "period", "of", "length", "1", "sec", ".", "Power", "efficiency", "can", "be", "measured", "in", "-LSB-", "kbit/sec", "-RSB-", ",", "or", "assuming", "that", "being", "active", "for", "1", "sec", "consumes", "1", "unit", "of", "energy", "we", "can", "get", "a", "more", "straightforward", "dimension", "of", "-LSB-", "kbit/energy", "unit", "-RSB-", ",", "which", "is", "interpreted", "as", "the", "number", "of", "bits", "that", "can", "be", "transmitted", "while", "consuming", "one", "unit", "of", "energy", ".", "7.2", "Network", "Access", "Point", "Scenario", "In", "this", "scenario", "we", "have", "a", "NAP", "that", "is", "assumed", "to", "be", "connected", "to", "a", "wired", "network", "infrastructure", "and", "it", "provides", "network", "access", "via", "its", "Bluetooth", "radio", "interface", ".", "The", "NAP", "acts", "as", "a", "master", "and", "up", "to", "7", "laptops", ",", "all", "acting", "as", "slaves", ",", "can", "connect", "to", "the", "NAP", ".", "Furthermore", "we", "assume", "that", "each", "laptop", "has", "a", "Bluetooth", "enabled", "mouse", "and", "each", "laptop", "connects", "to", "its", "mouse", "by", "forming", "a", "new", "piconet", "as", "it", "is", "shown", "in", "Figure", "6", ".", "We", "simulate", "a", "bulk", "TCP", "data", "transfer", "from", "the", "NAP", "towards", "each", "laptop", "separately", ".", "Regarding", "the", "traffic", "generated", "by", "the", "mouse", "we", "assume", "that", "the", "mouse", "produces", "a", "16", "byte", "long", "packet", "each", "50", "ms", ",", "NAP", "laptop", "max", "7", "laptop", "mouse", "mouse", "Figure", "6", ":", "Network", "Access", "Point", "Scenario", "periodically", ".", "In", "the", "NAP-laptop", "communication", "we", "are", "interested", "in", "the", "achieved", "throughput", "while", "in", "the", "laptop-mouse", "communication", "we", "are", "concerned", "with", "the", "delay", "perceived", "by", "the", "mouse", ".", "In", "the", "current", "scenario", "we", "switched", "off", "the", "dynamic", "checkperiod", "adjustment", "capability", "of", "the", "PCSS", "algorithm", "and", "we", "set", "the", "base", "checking", "period", "to", "32", "frames", "-LRB-", "40", "ms", "-RRB-", ",", "which", "is", "in", "accordance", "with", "the", "delay", "requirement", "of", "a", "mouse", ".", "Note", "that", "this", "same", "base", "checking", "period", "is", "applied", "also", "on", "the", "NAP-laptop", "links", ",", "although", ",", "there", "is", "no", "delay", "requirement", "for", "the", "TCP", "traffic", ".", "However", ",", "the", "current", "implementation", "in", "the", "simulator", "does", "not", "yet", "support", "the", "setting", "of", "the", "base", "checking", "periods", "for", "each", "link", "separately", ".", "The", "dynamic", "checking", "period", "adjustment", "would", "definitely", "improve", "the", "throughput", "of", "NAP-laptop", "communication", "as", "we", "are", "going", "to", "see", "later", "in", "case", "of", "other", "configurations", ".", "The", "simulation", "results", "are", "shown", "in", "Figure", "7", ".", "In", "plot", "-LRB-", "a", "-RRB-", "the", "averaged", "throughput", "of", "NAP-laptop", "communications", "are", "shown", "in", "the", "function", "of", "number", "of", "laptops", "for", "the", "different", "algorithms", ",", "respectively", ".", "Graph", "-LRB-", "b", "-RRB-", "plots", "the", "sum", "of", "the", "throughputs", "between", "the", "NAP", "and", "all", "laptops", ".", "As", "we", "expect", ",", "the", "individual", "laptop", "throughput", "decreases", "as", "the", "number", "of", "laptops", "increases", ".", "However", ",", "it", "is", "important", "to", "notice", "that", "the", "sum", "of", "laptop", "throughputs", "do", "not", "decrease", "with", "increasing", "number", "of", "laptops", "in", "case", "of", "the", "PCSS", "and", "ICSS", "algorithms", ".", "As", "the", "number", "of", "laptops", "increases", "the", "efficient", "coordination", "becomes", "more", "important", "and", "the", "total", "carried", "traffic", "will", "decrease", "with", "the", "uncoordinated", "UGSS", "scheme", ".", "The", "increase", "of", "the", "total", "throughput", "in", "case", "of", "the", "PCSS", "algorithm", "is", "the", "consequence", "of", "the", "fixed", "checking", "intensities", ",", "which", "allocates", "one", "half", "of", "a", "laptop", "capacity", "to", "the", "mouse", "and", "the", "other", "half", "to", "the", "NAP", ".", "In", "case", "of", "small", "number", "of", "laptops", "this", "prevents", "the", "laptops", "to", "fully", "utilize", "the", "NAP", "capacity", ",", "which", "improves", "as", "the", "number", "of", "laptops", "increases", ".", "The", "99", "%", "percentile", "of", "the", "delay", "seen", "by", "mouse", "packets", "is", "shown", "in", "plot", "-LRB-", "c", "-RRB-", ".", "The", "delay", "that", "can", "be", "provided", "with", "the", "PCSS", "algorithm", "is", "determined", "by", "the", "base", "checking", "period", "that", "we", "use", ".", "Recall", ",", "that", "in", "the", "current", "setup", "the", "base", "checking", "period", "of", "the", "PCSS", "scheme", "was", "set", "to", "32", "frames", ",", "which", "implies", "that", "the", "delay", "has", "to", "be", "in", "the", "order", "of", "32", "frames", ",", "as", "shown", "in", "the", "figure", ".", "The", "low", "delay", "with", "the", "UGSS", "algorithm", "is", "due", "to", "the", "continuous", "switching", "among", "the", "links", "of", "a", "node", ",", "which", "ensures", "high", "polling", "intensity", "within", "a", "piconet", "and", "frequent", "switching", "between", "piconets", ".", "The", "UGSS", "algorithm", "provides", "an", "unnecessarily", "low", "delay", ",", "which", "is", "less", "than", "the", "delay", "requirement", "at", "the", "expense", "of", "higher", "power", "consumption", ".", "Plots", "-LRB-", "d", "-RRB-", "and", "-LRB-", "e", "-RRB-", "show", "the", "averaged", "activity", "ratio", "over", "all", "laptops", "and", "mice", ",", "respectively", ".", "The", "considerably", "higher", "throughput", "achieved", "for", "small", "number", "of", "laptops", "by", "the", "ICSS", "scheme", "explains", "its", "higher", "activity", "ratio", ".", "On", "graph", "-LRB-", "f", "-RRB-", "the", "averaged", "power", "efficiency", "of", "laptops", "is", "shown", ",", "which", "relates", "the", "number", "of", "bytes", "transmitted", "to", "the", "total", "time", "of", "activity", ".", "The", "power", "efficiency", "of", "the", "PCSS", "199", "scheme", "decreases", "with", "increasing", "number", "of", "laptops", ",", "which", "is", "a", "consequence", "of", "the", "fixed", "checking", "intensities", ".", "Since", "the", "NAP", "has", "to", "share", "its", "capacity", "among", "the", "laptops", ",", "with", "an", "increasing", "number", "of", "laptops", "there", "will", "be", "an", "increasing", "number", "of", "checkpoints", "where", "the", "NAP", "can", "not", "show", "up", ".", "In", "such", "cases", "the", "dynamic", "checking", "intensity", "adjustment", "procedure", "could", "help", "by", "decreasing", "checking", "intensity", "on", "the", "NAP-laptop", "links", ".", "Recall", "that", "in", "the", "current", "scenario", "we", "employed", "fixed", "checking", "intensities", "in", "order", "to", "satisfy", "the", "mouse", "delay", "requirement", ".", "It", "is", "also", "important", "to", "notice", "that", "with", "the", "uncoordinated", "UGSS", "scheme", "the", "activity", "ratio", "of", "a", "mouse", "is", "relatively", "high", ",", "which", "is", "an", "important", "drawback", "considering", "the", "low", "power", "capabilities", "of", "such", "devices", ".", "7.3", "Impact", "of", "Number", "of", "Forwarding", "Hops", "In", "what", "follows", ",", "we", "investigate", "the", "performance", "impact", "of", "the", "number", "of", "forwarding", "hops", "along", "the", "communication", "path", "in", "the", "scatternet", "configuration", "shown", "in", "Figure", "8", ".", "The", "configuration", "consists", "of", "a", "chain", "of", "S/M", "forwarding", "nodes", "-LRB-", "F", "i", "-RRB-", "and", "a", "certain", "number", "of", "additional", "node", "pairs", "connected", "to", "each", "forwarding", "node", "in", "order", "to", "generate", "background", "traffic", ".", "The", "number", "of", "S/M", "forwarding", "nodes", "is", "denoted", "by", "N", "F", ".", "There", "are", "N", "B", "number", "of", "background", "node", "pairs", "connected", "to", "each", "forwarding", "node", "as", "masters", ".", "The", "background", "traffic", "flows", "from", "each", "source", "node", "B", "-LRB-", "S", "-RRB-", "ij", "to", "its", "destination", "pair", "B", "-LRB-", "D", "-RRB-", "ij", "through", "the", "corresponding", "forwarding", "node", "F", "i", ".", "The", "traffic", "that", "we", "are", "interested", "in", "is", "a", "bulk", "TCP", "data", "transfer", "between", "node", "S", "and", "D", ".", "The", "background", "traffic", "is", "a", "CBR", "source", ",", "which", "generates", "512", "byte", "long", "IP", "packets", "with", "a", "period", "of", "length", "0.05", "sec", ".", "D", "B", "-LRB-", "D", "-RRB-", "1i", "B", "-LRB-", "D", "-RRB-", "2i", "B", "-LRB-", "D", "-RRB-", "NF", "i", "B", "-LRB-", "S", "-RRB-", "NF", "i", "B", "-LRB-", "S", "-RRB-", "2i", "B", "-LRB-", "S", "-RRB-", "1i", "F", "1", "F", "2", "F", "NF", "S", "Figure", "8", ":", "Impact", "of", "number", "of", "forwarding", "nodes", "During", "the", "simulations", "we", "vary", "the", "number", "of", "forwarding", "hops", "N", "F", "and", "the", "number", "of", "background", "node", "pairs", "N", "B", "connected", "to", "each", "forwarding", "node", ".", "As", "one", "would", "expect", ",", "with", "increasing", "number", "of", "forwarding", "hops", "and", "background", "node", "pairs", "the", "coordinated", "algorithms", "will", "perform", "significantly", "better", "than", "the", "one", "without", "any", "coordination", "-LRB-", "UGSS", "-RRB-", ".", "The", "throughput", "of", "the", "S-D", "traffic", "as", "a", "function", "of", "the", "number", "of", "forwarding", "nodes", "-LRB-", "N", "F", "-RRB-", "without", "background", "traffic", "-LRB-", "N", "B", "=", "0", "-RRB-", "and", "with", "two", "pairs", "of", "background", "nodes", "-LRB-", "N", "B", "=", "2", "-RRB-", "are", "shown", "in", "Figure", "9", "-LRB-", "a", "-RRB-", "and", "-LRB-", "b", "-RRB-", ",", "respectively", ".", "The", "throughput", "in", "case", "of", "no", "cross", "traffic", "drops", "roughly", "by", "half", "when", "we", "introduce", "the", "first", "forwarding", "node", ".", "Adding", "additional", "forwarding", "hops", "continuously", "reduces", "the", "throughput", ",", "however", ",", "the", "decrease", "at", "each", "step", "is", "less", "drasti-cal", ".", "We", "note", "that", "in", "case", "of", "the", "ICSS", "scheme", "one", "would", "expect", "that", "for", "N", "F", ">", "1", "the", "throughput", "should", "not", "decrease", "by", "adding", "additional", "forwarding", "hops", ".", "However", ",", "there", "are", "a", "number", "of", "other", "effects", "besides", "the", "number", "of", "forwarding", "hops", "that", "decrease", "the", "throughput", ".", "For", "instance", ",", "with", "an", "increasing", "number", "of", "forwarding", "hops", "the", "number", "of", "piconets", "in", "the", "same", "area", "increases", ",", "which", ",", "in", "turn", ",", "causes", "an", "increasing", "number", "of", "lost", "packets", "over", "the", "radio", "interface", "due", "to", "frequency", "collisions", ".", "Furthermore", "with", "increasing", "number", "of", "hops", "the", "end-to-end", "delay", "suffered", "by", "the", "TCP", "flow", "increases", ",", "which", "makes", "the", "TCP", "connection", "less", "reactive", "to", "recover", "from", "packet", "losses", ".", "In", "the", "no", "background", "traffic", "case", "the", "PCSS", "scheme", "performs", "close", "to", "the", "UGSS", "algorithm", "in", "terms", "of", "throughput", ".", "However", ",", "as", "we", "introduce", "two", "pairs", "of", "background", "nodes", "the", "UGSS", "algorithm", "fails", "completely", ",", "while", "the", "PCSS", "scheme", "still", "achieves", "approximately", "20", "kbit/sec", "throughput", ".", "Furthermore", ",", "the", "power", "efficiency", "of", "the", "PCSS", "scheme", "is", "an", "order", "of", "magnitude", "higher", "than", "that", "of", "the", "UGSS", "algorithm", "in", "both", "cases", ",", "which", "indicates", "that", "the", "PCSS", "algorithm", "consumes", "significantly", "less", "power", "to", "transmit", "the", "same", "amount", "of", "data", "than", "the", "UGSS", "scheme", ".", "7.4", "Impact", "of", "Bridging", "Degree", "Next", "we", "investigate", "the", "performance", "of", "scheduling", "algorithms", "as", "the", "number", "of", "piconets", "that", "a", "bridging", "node", "participates", "in", "is", "increased", ".", "The", "scatternet", "setup", "that", "we", "consider", "is", "shown", "in", "Figure", "10", ",", "where", "we", "are", "interested", "in", "the", "performance", "of", "the", "bridging", "node", "C.", "Node", "C", "is", "an", "all", "slave", "bridging", "node", "and", "it", "is", "connected", "to", "master", "nodes", "P", "i", ",", "where", "the", "number", "of", "these", "master", "nodes", "is", "denoted", "by", "N", "P", ".", "To", "each", "master", "node", "P", "i", "we", "connect", "N", "L", "number", "of", "leaf", "nodes", "as", "slaves", "in", "order", "to", "generate", "additional", "background", "load", "in", "the", "piconets", ".", "We", "introduce", "bulk", "TCP", "data", "transfer", "from", "node", "C", "towards", "each", "of", "its", "master", "node", "P", "i", "and", "CBR", "background", "traffic", "on", "each", "L", "ij", "-", "P", "i", "link", ".", "The", "packet", "generation", "interval", "for", "background", "sources", "was", "set", "to", "0.25", "sec", ",", "which", "corresponds", "to", "a", "16", "kbit/sec", "stream", ".", "During", "the", "simulation", "we", "vary", "the", "number", "of", "piconets", "N", "P", "participated", "by", "node", "C", "and", "investigate", "the", "performance", "of", "the", "PCSS", "algorithm", "with", "and", "without", "dynamic", "checkpoint", "intensity", "changes", ".", "The", "number", "of", "background", "nodes", "N", "L", "connected", "to", "each", "master", "node", "P", "i", "was", "set", "to", "N", "L", "=", "3", "and", "it", "was", "kept", "constant", "in", "the", "simulations", ".", "C", "P", "1", "L", "1i", "L", "1N", "L", "L", "N", "P", "1", "L", "N", "P", "N", "L", "P", "N", "P", "Figure", "10", ":", "Impact", "of", "number", "of", "participated", "piconets", "The", "throughputs", "of", "TCP", "flows", "between", "node", "C", "and", "each", "P", "i", "are", "averaged", "and", "it", "is", "shown", "in", "Figure", "10", "-LRB-", "a", "-RRB-", ".", "The", "sum", "of", "TCP", "throughputs", "are", "plotted", "in", "graph", "-LRB-", "b", "-RRB-", "and", "the", "power", "efficiency", "of", "the", "central", "node", "is", "shown", "in", "graph", "-LRB-", "c", "-RRB-", ".", "The", "PCSS", "algorithm", "has", "been", "tested", "both", "with", "fixed", "base", "checking", "periods", "equal", "to", "32", "frames", "-LRB-", "``", "PCSS-32", "''", "-RRB-", "and", "with", "dynamic", "checking", "intensity", "changes", "as", "well", "-LRB-", "``", "PCSS-dyn", "''", "-RRB-", ".", "The", "parameter", "settings", "of", "the", "dynamic", "case", "is", "shown", "in", "Table", "1", ".", "q", "uti", "=", "0.7", "N", "sample", ",", "min", "=", "4", "lower", "=", "0.3", "upper", "=", "0.7", "q", "-LRB-", "node", "-RRB-", "uti", "=", "0.7", "N", "uti", ",", "win", "=", "10", "-LRB-", "node", "-RRB-", "max", "=", "0.8", "T", "min", "=", "8", "T", "max", "=", "256", "Table", "1", ":", "Parameter", "setting", "of", "the", "dynamic", "PCSS", "scheme", "200", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "1", "2", "3", "4", "5", "6", "7", "Throughput", "-LSB-", "kbit/s", "-RSB-", "Number", "of", "laptops", "TCP", "throughput", "per", "laptop", "PCSS", "UGSS", "ICSS", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "1", "2", "3", "4", "5", "6", "7", "Throughput", "-LSB-", "kbit/s", "-RSB-", "Number", "of", "laptops", "Sum", "TCP", "throughput", "of", "laptops", "PCSS", "UGSS", "ICSS", "0", "0.01", "0.02", "0.03", "0.04", "0.05", "0.06", "1", "2", "3", "4", "5", "6", "7", "Delay", "-LSB-", "sec", "-RSB-", "Number", "of", "laptops", "0.99", "percentile", "of", "mouse", "dealy", "PCSS", "UGSS", "ICSS", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "2", "3", "4", "5", "6", "7", "Activity", "ratio", "Number", "of", "laptops", "Activity", "Ratio", "of", "laptops", "PCSS", "UGSS", "ICSS", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "2", "3", "4", "5", "6", "7", "Activity", "ratio", "Number", "of", "laptops", "Activity", "Ratio", "of", "mice", "PCSS", "UGSS", "ICSS", "0", "100", "200", "300", "400", "500", "600", "1", "2", "3", "4", "5", "6", "7", "kbit/Energy", "unit", "Number", "of", "laptops", "Power", "efficiency", "of", "laptops", "PCSS", "UGSS", "ICSS", "-LRB-", "d", "-RRB-", "-LRB-", "e", "-RRB-", "-LRB-", "f", "-RRB-", "Figure", "7", ":", "Throughput", ",", "delay", "and", "power", "measures", "in", "the", "function", "of", "number", "of", "laptops", "connected", "to", "the", "NAP", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "0", "1", "2", "3", "4", "5", "6", "7", "8", "TCP", "throughput", "-LSB-", "kbit/s", "-RSB-", "Number", "of", "forwarding", "nodes", "-LRB-", "N_F", "-RRB-", "TCP", "throughput", "without", "background", "nodes", "-LRB-", "N_B", "=", "0", "-RRB-", "PCSS", "UGSS", "ICSS", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "0", "1", "2", "3", "4", "5", "6", "7", "8", "TCP", "throughput", "-LSB-", "kbit/s", "-RSB-", "Number", "of", "forwarding", "nodes", "-LRB-", "N_F", "-RRB-", "TCP", "throughput", "with", "2", "pairs", "of", "background", "nodes", "-LRB-", "N_B", "=", "2", "-RRB-", "PCSS", "UGSS", "ICSS", "0", "100", "200", "300", "400", "500", "600", "0", "1", "2", "3", "4", "5", "6", "7", "8", "Power", "Efficiency", "-LSB-", "kbit/Energy", "unit", "-RSB-", "Number", "of", "forwarding", "nodes", "-LRB-", "N_F", "-RRB-", "Power", "efficiency", "of", "forwarding", "nodes", "-LRB-", "N_B", "=", "2", "-RRB-", "PCSS", "UGSS", "ICSS", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "9", ":", "Throughput", "and", "power", "efficiency", "in", "function", "of", "number", "of", "forwarding", "hops", "It", "is", "important", "to", "notice", "that", "the", "per", "flow", "TCP", "throughputs", "in", "case", "of", "the", "dynamic", "PCSS", "scheme", "matches", "quite", "closely", "the", "throughput", "achieved", "by", "the", "ICSS", "algorithm", "and", "it", "significantly", "exceeds", "the", "throughput", "that", "has", "been", "achieved", "by", "the", "fixed", "PCSS", ".", "This", "large", "difference", "is", "due", "to", "the", "relatively", "low", "background", "traffic", "in", "the", "neighbouring", "piconets", "of", "node", "C", ",", "in", "which", "case", "the", "dynamic", "PCSS", "automatically", "reduces", "checkpoint", "intensity", "on", "the", "lightly", "loaded", "links", "and", "allocates", "more", "bandwidth", "to", "the", "highly", "loaded", "ones", "by", "increasing", "checking", "intensity", ".", "We", "have", "presented", "Pseudo", "Random", "Coordinated", "Scatternet", "Scheduling", ",", "an", "algorithm", "that", "can", "efficiently", "control", "communication", "in", "Bluetooth", "scatternets", "without", "exchange", "of", "control", "information", "between", "Bluetooth", "devices", ".", "The", "algorithm", "relies", "on", "two", "key", "components", ",", "namely", "the", "use", "of", "pseudo", "random", "sequences", "of", "meeting", "points", ",", "that", "eliminate", "systematic", "collisions", ",", "and", "a", "set", "of", "rules", "that", "govern", "the", "increase", "and", "decrease", "of", "meeting", "point", "intensity", "without", "explicit", "coordination", ".", "We", "have", "evaluated", "the", "performance", "of", "PCSS", "in", "a", "number", "of", "simulation", "scenarios", ",", "where", "we", "have", "compared", "throughput", "and", "power", "measures", "achieved", "by", "PCSS", "to", "those", "achieved", "by", "two", "reference", "schedulers", ".", "The", "first", "reference", "scheduler", "is", "an", "uncoordinated", "greedy", "algorithm", ",", "while", "the", "other", "is", "a", "hypothetical", "``", "ideal", "''", "scheduler", ".", "In", "all", "the", "scenarios", "investigated", "we", "have", "found", "that", "PCSS", "achieves", "higher", "throughput", "than", "the", "uncoordinated", "reference", "algorithm", ".", "Moreover", ",", "with", "the", "traffic", "dependent", "meeting", "point", "intensity", "adjustments", "the", "throughput", "and", "power", "measures", "of", "PCSS", "quite", "closely", "match", "the", "results", "of", "the", "``", "ideal", "''", "reference", "algorithm", ".", "At", "the", "same", "time", "PCSS", "consumes", "approximately", "the", "same", "amount", "of", "power", "as", "the", "ideal", "scheduler", "to", "achieve", "the", "same", "throughput", ",", "which", "is", "significantly", "less", "than", "the", "power", "consumption", "of", "the", "uncoordinated", "reference", "scheduler", ".", "-LSB-", "1", "-RSB-", "Bluetooth", "Special", "Interest", "Group", ".", "Bluetooth", "Baseband", "Specification", "Version", "1.0", "B.", "http://www.bluetooth.com/", ".", "201", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "1", "2", "3", "4", "5", "6", "Throughput", "-LSB-", "kbit/s", "-RSB-", "Number", "of", "piconets", "participated", "by", "the", "central", "node", "-LRB-", "N_P", "-RRB-", "Averaged", "TCP", "throughput", "between", "central", "node", "and", "master", "nodes", "PCSS-32", "PCSS-dyn", "UGSS", "ICSS", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "1", "2", "3", "4", "5", "6", "Throughput", "-LSB-", "kbit/s", "-RSB-", "Number", "of", "piconets", "participated", "by", "the", "central", "node", "-LRB-", "N_P", "-RRB-", "Sum", "of", "TCP", "throughputs", "at", "the", "central", "node", "PCSS-32", "PCSS-dyn", "UGSS", "ICSS", "0", "100", "200", "300", "400", "500", "600", "1", "2", "3", "4", "5", "6", "Power", "efficiency", "-LSB-", "kbit/Energy", "unit", "-RSB-", "Number", "of", "piconets", "participated", "by", "the", "central", "node", "-LRB-", "N_P", "-RRB-", "Effective", "power", "of", "central", "node", "PCSS-32", "PCSS-dyn", "UGSS", "ICSS", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "11", ":", "Throughput", "and", "power", "efficiency", "in", "function", "of", "the", "bridging", "degree", "of", "node", "C", "-LSB-", "2", "-RSB-", "Bluetooth", "Special", "Interest", "Group", ".", "http://www.bluetooth.com/", ".", "-LSB-", "3", "-RSB-", "J.", "Haartsen", ".", "BLUETOOTH", "-", "the", "universal", "radio", "interface", "for", "ad-hoc", ",", "wireless", "connectivity", ".", "Ericsson", "Review", ",", "-LRB-", "3", "-RRB-", ",", "1998", ".", "-LSB-", "4", "-RSB-", "Z.", "Haraszti", ",", "I.", "Dahlquist", ",", "A.", "Farag", "o", ",", "and", "T.", "Henk", ".", "Plasma", "an", "integrated", "tool", "for", "ATM", "network", "operation", ".", "In", "Proc", ".", "International", "Switching", "Symposium", ",", "1995", ".", "-LSB-", "5", "-RSB-", "N.", "Johansson", ",", "U.", "K", "orner", ",", "and", "P.", "Johansson", ".", "Performance", "evaluation", "of", "scheduling", "algorithms", "for", "Bluetooth", ".", "In", "IFIP", "TC6", "WG6", ".2", "Fifth", "International", "Conference", "on", "Broadband", "Communications", "-LRB-", "BC", "'", "99", "-RRB-", ",", "Hong", "Kong", ",", "November", "1999", ".", "-LSB-", "6", "-RSB-", "N.", "Johansson", ",", "U.", "K", "orner", ",", "and", "L.", "Tassiulas", ".", "A", "distributed", "scheduling", "algorithm", "for", "a", "Bluetooth", "scatternet", ".", "In", "Proc", ".", "of", "The", "Seventeenth", "International", "Teletraffic", "Congress", ",", "ITC", "'", "17", ",", "Salvador", "da", "Bahia", ",", "Brazil", ",", "September", "2001", ".", "-LSB-", "7", "-RSB-", "P.", "Johansson", ",", "N.", "Johansson", ",", "U.", "K", "orner", ",", "J.", "Elgg", ",", "and", "G.", "Svennarp", ".", "Short", "range", "radio", "based", "ad", "hoc", "networking", ":", "Performance", "and", "properties", ".", "In", "Proc", ".", "of", "ICC", "'", "99", ",", "Vancouver", ",", "1999", ".", "-LSB-", "8", "-RSB-", "M.", "Kalia", ",", "D.", "Bansal", ",", "and", "R.", "Shorey", ".", "MAC", "scheduling", "and", "SAR", "policies", "for", "Bluetooth", ":", "A", "master", "driven", "TDD", "pico-cellular", "wireless", "system", ".", "In", "IEEE", "Mobile", "Multimedia", "Communications", "Conference", "MOMUC", "'", "99", ",", "San", "Diego", ",", "November", "1999", ".", "-LSB-", "9", "-RSB-", "M.", "Kalia", ",", "D.", "Bansal", ",", "and", "R.", "Shorey", ".", "MAC", "scheduling", "policies", "for", "power", "optimization", "in", "Bluetooth", ":", "A", "master", "driven", "TDD", "wireless", "system", ".", "In", "IEEE", "Vehicular", "Technology", "Conference", "2000", ",", "Tokyo", ",", "2000", ".", "-LSB-", "10", "-RSB-", "M.", "Kalia", ",", "S.", "Garg", ",", "and", "R.", "Shorey", ".", "Efficient", "policies", "for", "increasing", "capacity", "in", "Bluetooth", ":", "An", "indoor", "pico-cellular", "wireless", "system", ".", "In", "IEEE", "Vehicular", "Technology", "Conference", "2000", ",", "Tokyo", ",", "2000", ".", "APPENDIX", "Here", ",", "we", "present", "the", "procedure", "for", "generating", "the", "pseudo", "random", "sequence", "of", "checkpoints", ",", "where", "we", "reuse", "the", "elements", "of", "the", "pseudo", "random", "frequency", "hop", "generation", "procedure", "available", "in", "Bluetooth", ".", "The", "inputs", "to", "the", "checkpoint", "generation", "procedure", "P", "seudoChkGen", "are", "the", "current", "checking", "period", "T", "-LRB-", "i", "-RRB-", "check", ",", "the", "Bluetooth", "MAC", "address", "of", "the", "slave", "A", "slave", "and", "the", "current", "value", "of", "the", "master", "'s", "clock", "t", "-LRB-", "i", "-RRB-", ".", "A", "node", "can", "perform", "checkpoint", "generation", "using", "the", "P", "seudoChkGen", "procedure", "at", "any", "point", "in", "time", ",", "it", "is", "always", "guaranteed", "that", "the", "position", "of", "checkpoint", "generated", "by", "the", "two", "nodes", "will", "be", "the", "same", ",", "as", "it", "has", "been", "pointed", "out", "in", "Section", "5.1", ".", "Nevertheless", "the", "typical", "case", "will", "be", "that", "whenever", "a", "node", "arrives", "to", "a", "checkpoint", "it", "generates", "the", "position", "of", "the", "next", "checkpoint", "on", "the", "given", "link", ".", "The", "variable", "t", "-LRB-", "i", "-RRB-", "check", "always", "stores", "the", "master", "'s", "clock", "at", "the", "next", "checkpoint", ",", "thus", "it", "needs", "to", "be", "updated", "every", "time", "a", "checkpoint", "is", "passed", ".", "Here", "we", "note", "that", "the", "Bluetooth", "clock", "of", "a", "device", "is", "a", "28", "bit", "counter", ",", "where", "the", "LSB", "changes", "at", "every", "half", "slot", ".", "Let", "us", "assume", "that", "the", "base", "period", "of", "checkpoints", "on", "the", "i", "th", "link", "of", "the", "node", "is", "T", "-LRB-", "i", "-RRB-", "check", "=", "2", "j-2", ",", "j", ">", "2", "number", "of", "frames", ",", "which", "means", "that", "there", "is", "one", "pseudo", "randomly", "positioned", "checkpoint", "in", "each", "consecutive", "time", "interval", "of", "length", "T", "-LRB-", "i", "-RRB-", "check", "and", "the", "j", "th", "bit", "of", "the", "Bluetooth", "clock", "changes", "at", "every", "T", "-LRB-", "i", "-RRB-", "check", ".", "Upon", "arrival", "to", "a", "checkpoint", "the", "variable", "t", "-LRB-", "i", "-RRB-", "check", "equals", "to", "the", "current", "value", "of", "the", "master", "'s", "clock", "on", "that", "link", ".", "After", "the", "checkpoint", "generation", "procedure", "has", "been", "executed", "the", "variable", "t", "-LRB-", "i", "-RRB-", "check", "will", "store", "the", "master", "'s", "clock", "at", "the", "time", "of", "the", "next", "checkpoint", "on", "that", "link", ".", "Before", "starting", "the", "procedure", "the", "variable", "t", "-LRB-", "i", "-RRB-", "check", "is", "set", "to", "the", "current", "value", "of", "the", "master", "'s", "clock", "t", "-LRB-", "i", "-RRB-", "in", "order", "to", "cover", "the", "general", "case", "when", "at", "the", "time", "of", "generating", "the", "next", "checkpoint", "the", "value", "of", "t", "-LRB-", "i", "-RRB-", "check", "does", "not", "necessarily", "equals", "to", "the", "current", "value", "of", "the", "master", "'s", "clock", "t", "-LRB-", "i", "-RRB-", ".", "The", "position", "of", "the", "next", "checkpoint", "is", "obtained", "such", "that", "the", "node", "first", "adds", "the", "current", "value", "of", "T", "-LRB-", "i", "-RRB-", "check", "to", "the", "variable", "t", "-LRB-", "i", "-RRB-", "check", ",", "clears", "the", "bits", "-LSB-", "j", "-", "1", ",", "...", ",", "0", "-RSB-", "of", "t", "-LRB-", "i", "-RRB-", "check", "and", "then", "generates", "the", "bits", "-LSB-", "j", "-", "1", ",", "...", ",", "2", "-RSB-", "one", "by", "one", "using", "the", "procedure", "P", "seudoBitGen", "-LRB-", "X", ",", "W", "ctrl", "-RRB-", ".", "When", "generating", "the", "k", "th", "bit", "-LRB-", "j", "-1", "k", "2", "-RRB-", "the", "clock", "bits", "X", "=", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "k", "+1", ",", "...", ",", "k", "+5", "-RSB-", "are", "fed", "as", "inputs", "to", "the", "P", "seudoBitGen", "procedure", ",", "while", "the", "control", "word", "W", "ctrl", "is", "derived", "from", "t", "-LRB-", "i", "-RRB-", "check", "including", "the", "bits", "already", "generated", "and", "from", "the", "MAC", "address", "of", "the", "slave", "A", "slave", ".", "The", "schematic", "view", "of", "generating", "the", "clock", "bits", "of", "the", "next", "checkpoint", "is", "illustrated", "in", "Figure", "12", ".", "W", "27", ".", "X", "PseudoBitGen", "ctrl", "k.", "k", "+5", ".", "k", "+1", ".", "28", ".", "0", ".", "1", ".", "2", ".", "Figure", "12", ":", "Generating", "the", "clock", "bits", "of", "the", "next", "checkpoint", "202", "The", "P", "seudoBitGen", "procedure", "is", "based", "on", "the", "pseudo", "random", "scheme", "used", "for", "frequency", "hop", "selection", "in", "Bluetooth", ".", "However", ",", "before", "presenting", "the", "P", "seudoBitGen", "procedure", "we", "give", "the", "pseudo-code", "of", "the", "P", "seudoChkGen", "procedure", ".", "PseudoChkGen", "procedure", ":", "t", "-LRB-", "i", "-RRB-", ":", "the", "current", "value", "of", "the", "master", "'s", "clock", ";", "T", "-LRB-", "i", "-RRB-", "check", "=", "2", "j-2", ",", "j", ">", "2", ":", "current", "length", "of", "the", "base", "checkperiod", "in", "terms", "of", "number", "of", "frames", ".", "t", "-LRB-", "i", "-RRB-", "check", "=", "t", "-LRB-", "i", "-RRB-", ";", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "j", "-", "1", ",", "...", ",", "0", "-RSB-", "=", "0", ";", "t", "-LRB-", "i", "-RRB-", "check", "=", "t", "-LRB-", "i", "-RRB-", "check", "+", "T", "-LRB-", "i", "-RRB-", "check", ";", "k", "=", "j", "-", "1", ";", "while", "-LRB-", "k", "2", "-RRB-", "X", "-LSB-", "0", ",", "...", ",", "4", "-RSB-", "=", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "k", "+", "1", ",", "...", ",", "k", "+", "5", "-RSB-", ";", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "k", "-RSB-", "=", "P", "seudoBitGen", "-LRB-", "X", ",", "W", "ctrl", "-RRB-", ";", "k", "=", "k-1", ";", "end", "Finally", ",", "we", "discuss", "the", "P", "seudoBitGen", "procedure", ",", "which", "is", "illustrated", "in", "Figure", "13", ".", "5", "A", "Y", "5", "X", "5", "O", "1", "5", "B", "Z", "5", "PERM5", "5", "C", "9", "D", "V", "5", "V", "-LSB-", "k", "mod", "5", "-RSB-", "bit", "selector", "X", "O", "R", "Add", "mod", "32", "Figure", "13", ":", "The", "PseudoBitGen", "procedure", "The", "control", "words", "of", "the", "P", "seudoBitGen", "procedure", "W", "ctrl", "=", "-LCB-", "A", ",", "B", ",", "C", ",", "D", "-RCB-", "are", "the", "same", "as", "the", "control", "words", "of", "the", "frequency", "hop", "selection", "scheme", "in", "Bluetooth", "and", "they", "are", "shown", "in", "Table", "2", ".", "However", ",", "the", "input", "X", "and", "the", "additional", "bit", "selection", "operator", "at", "the", "end", "are", "different", ".", "As", "it", "has", "been", "discussed", "above", "the", "input", "X", "is", "changing", "depending", "on", "which", "bit", "of", "the", "checkpoint", "is", "going", "to", "be", "generated", ".", "When", "generating", "the", "k", "th", "clock", "bit", "of", "the", "next", "checkpoint", "the", "clock", "bits", "X", "=", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "k", "+", "1", ",", "...", ",", "k", "+", "5", "-RSB-", "are", "fed", "as", "inputs", "and", "the", "bit", "selection", "operator", "at", "the", "end", "selects", "the", "-LRB-", "k", "mod", "5", "-RRB-", "th", "bit", "of", "the", "5", "bits", "long", "output", "V", ".", "A", "A", "slave", "-LSB-", "27", "-", "23", "-RSB-", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "25", "-", "21", "-RSB-", "B", "B", "-LSB-", "0", "-", "3", "-RSB-", "=", "A", "slave", "-LSB-", "22", "-", "19", "-RSB-", ",", "B", "-LSB-", "4", "-RSB-", "=", "0", "C", "A", "slave", "-LSB-", "8", ",", "6", ",", "4", ",", "2", ",", "0", "-RSB-", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "20", "-", "16", "-RSB-", "D", "A", "slave", "-LSB-", "18", "-", "10", "-RSB-", "t", "-LRB-", "i", "-RRB-", "check", "-LSB-", "15", "-", "7", "-RSB-", "Table", "2", ":", "Control", "words", "The", "operation", "PERM5", "is", "a", "butterfly", "permutation", ",", "which", "is", "the", "same", "as", "in", "the", "frequency", "hop", "selection", "scheme", "of", "Bluetooth", "and", "it", "is", "described", "in", "Figure", "14", ".", "Each", "bit", "of", "the", "control", "word", "P", "is", "associated", "with", "a", "given", "bit", "exchange", "in", "the", "input", "word", ".", "If", "the", "given", "bit", "of", "the", "control", "word", "equals", "to", "1", "the", "corresponding", "bit", "exchange", "is", "performed", "otherwise", "skipped", ".", "The", "control", "word", "P", "is", "obtained", "from", "C", "and", "D", ",", "such", "that", "P", "-LSB-", "i", "-RSB-", "=", "D", "-LSB-", "i", "-RSB-", ",", "i", "=", "0", "...", "8", "and", "P", "-LSB-", "j", "+", "9", "-RSB-", "=", "C", "-LSB-", "j", "-RSB-", ",", "j", "=", "0", "...", "4", ".", "Z", "-LSB-", "1", "-RSB-", "Z", "-LSB-", "2", "-RSB-", "Z", "-LSB-", "3", "-RSB-", "Z", "-LSB-", "4", "-RSB-", "Z", "-LSB-", "0", "-RSB-", "P", "-LSB-", "11,10", "-RSB-", "P", "-LSB-", "13,12", "-RSB-", "P", "-LSB-", "9,8", "-RSB-", "P", "-LSB-", "7,6", "-RSB-", "P", "-LSB-", "5,4", "-RSB-", "P", "-LSB-", "3,2", "-RSB-", "P", "-LSB-", "1,0", "-RSB-", "Figure", "14", ":", "Butterfly", "permutation", "203"], "doc_bio_tags": ["O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["checkpoint", "intensity", "total utilization", "bluetooth", "threshold", "pcss algorithm", "scatternet", "slaves", "network access point", "scheduling", "piconets", "bridging unit"], "abstractive_keyphrases": ["inter-piconet communication"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "131", "document": ["Lower", "Bounds", "&", "Competitive", "Algorithms", "for", "Online", "Scheduling", "of", "Unit-Size", "Tasks", "to", "Related", "Machines", "In", "this", "paper", "we", "study", "the", "problem", "of", "assigning", "unit-size", "tasks", "to", "related", "machines", "when", "only", "limited", "online", "information", "is", "provided", "to", "each", "task", ".", "This", "is", "a", "general", "framework", "whose", "special", "cases", "are", "the", "classical", "multiple-choice", "games", "for", "the", "assignment", "of", "unit-size", "tasks", "to", "identical", "machines", ".", "The", "latter", "case", "was", "the", "subject", "of", "intensive", "research", "for", "the", "last", "decade", ".", "The", "problem", "is", "intriguing", "in", "the", "sense", "that", "the", "natural", "extensions", "of", "the", "greedy", "oblivious", "schedulers", ",", "which", "are", "known", "to", "achieve", "near-optimal", "performance", "in", "the", "case", "of", "identical", "machines", ",", "are", "proved", "to", "perform", "quite", "poorly", "in", "the", "case", "of", "the", "related", "machines", ".", "In", "this", "work", "we", "present", "a", "rather", "surprising", "lower", "bound", "stating", "that", "any", "oblivious", "scheduler", "that", "assigns", "an", "arbitrary", "number", "of", "tasks", "to", "n", "related", "machines", "would", "need", "log", "n", "loglog", "n", "polls", "of", "machine", "loads", "per", "task", ",", "in", "order", "to", "achieve", "a", "constant", "competitive", "ratio", "versus", "the", "optimum", "offline", "assignment", "of", "the", "same", "input", "sequence", "to", "these", "machines", ".", "On", "the", "other", "hand", ",", "we", "prove", "that", "the", "missing", "information", "for", "an", "oblivious", "scheduler", "to", "perform", "almost", "optimally", ",", "is", "the", "amount", "of", "tasks", "to", "be", "inserted", "into", "the", "system", ".", "In", "particular", ",", "we", "provide", "an", "oblivious", "scheduler", "that", "only", "uses", "O", "-LRB-", "loglog", "n", "-RRB-", "polls", ",", "along", "with", "the", "additional", "information", "of", "the", "size", "of", "the", "input", "sequence", ",", "in", "order", "to", "achieve", "a", "constant", "competitive", "ratio", "vs.", "the", "optimum", "offline", "assignment", ".", "The", "philosophy", "of", "this", "scheduler", "is", "based", "on", "an", "interesting", "exploitation", "of", "the", "slowfit", "concept", "-LRB-", "-LSB-", "1", ",", "5", ",", "3", "-RSB-", ";", "for", "a", "survey", "see", "-LSB-", "6", ",", "9", ",", "16", "-RSB-", "-RRB-", "for", "the", "assignment", "of", "the", "tasks", "to", "the", "related", "machines", "despite", "the", "restrictions", "on", "the", "provided", "online", "information", ",", "in", "combination", "with", "a", "layered", "in-This", "work", "has", "been", "partially", "supported", "by", "the", "IST", "Program", "of", "the", "European", "Union", "under", "contract", "number", "IST-1999", "-14186", "-LRB-", "ALCOM-FT", "-RRB-", "A", "full", "version", "of", "this", "paper", "is", "available", "at", "www.mpi-sb.mpg.de", "/", "spyros", "/", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "STOC", "'02", "May", "19-21", ",", "2002", ",", "Montreal", ",", "Quebec", ",", "Canada", ".", "Copyright", "2002", "ACM", "1-58113-495-9", "/", "02/0005", "...", "$", "5.00", ".", "duction", "argument", "for", "bounding", "the", "tails", "of", "the", "number", "of", "tasks", "passing", "from", "slower", "to", "faster", "machines", ".", "We", "finally", "use", "this", "oblivious", "scheduler", "as", "the", "core", "of", "an", "adaptive", "scheduler", "that", "does", "not", "demand", "the", "knowledge", "of", "the", "input", "sequence", "and", "yet", "achieves", "almost", "the", "same", "performance", ".", "The", "problem", "of", "the", "Online", "Assignment", "of", "Tasks", "to", "Related", "Machines", "is", "defined", "as", "follows", ":", "there", "are", "n", "machines", "possibly", "of", "different", "speeds", ",", "that", "are", "determined", "by", "a", "speed", "vector", "c", "-LRB-", "C", "1", ",", "...", ",", "C", "n", "-RRB-", "IR", "n", "+", ",", "and", "an", "input", "sequence", "of", "m", "independent", "tasks", "to", "be", "assigned", "to", "these", "machines", ".", "The", "tasks", "arrive", "sequentially", ",", "along", "with", "their", "associated", "weights", "-LRB-", "positive", "reals", "-RRB-", "and", "have", "to", "be", "assigned", "immediately", "and", "uniquely", "to", "the", "machines", "of", "the", "system", ".", "The", "size", "of", "the", "input", "sequence", "as", "well", "as", "the", "weights", "of", "the", "tasks", "are", "determined", "by", "an", "oblivious", "adversary", "-LRB-", "denoted", "here", "by", "ADV", "-RRB-", ".", "Each", "task", "has", "to", "be", "assigned", "upon", "its", "arrival", "to", "one", "of", "the", "machines", ",", "using", "the", "following", "information", ":", "-LRB-", "possibly", "a", "portion", "of", "-RRB-", "the", "online", "information", "of", "current", "status", "of", "the", "system", ",", "the", "offline", "information", "of", "the", "machine", "speeds", ",", "and", "its", "own", "weight", ".", "The", "tasks", "are", "considered", "to", "be", "of", "infinite", "duration", "-LRB-", "permanent", "tasks", "-RRB-", "and", "no", "preemption", "is", "allowed", ".", "The", "cost", "of", "an", "online", "scheduler", "ALG", "for", "the", "assignment", "of", "an", "input", "sequence", "of", "tasks", "-LRB-", "denoted", "by", "ALG", "-LRB-", "-RRB-", "-RRB-", "is", "the", "maximum", "load", "eventually", "appearing", "in", "the", "system", ".", "In", "case", "that", "a", "random-ized", "scheduler", "is", "taken", "into", "account", ",", "then", "the", "cost", "of", "the", "scheduler", "is", "the", "expectation", "of", "the", "corresponding", "random", "variable", ".", "The", "quality", "of", "an", "online", "scheduler", "is", "compared", "vs.", "the", "optimum", "offline", "assignment", "of", "the", "same", "input", "sequence", "to", "the", "n", "machines", ".", "We", "denote", "the", "optimum", "offline", "cost", "for", "by", "ADV", "-LRB-", "-RRB-", ".", "That", "is", ",", "we", "consider", "the", "competitive", "ratio", "-LRB-", "or", "performance", "guarantee", "-RRB-", "to", "be", "the", "quality", "measure", ",", "-LRB-", "eg", ",", "see", "-LSB-", "6", "-RSB-", "-RRB-", ":", "Definition", "1.1", ".", "An", "online", "scheduler", "ALG", "is", "said", "to", "achieve", "a", "competitive", "ratio", "of", "parameters", "-LRB-", "a", ",", "-RRB-", ",", "if", "for", "any", "124", "input", "sequence", "the", "relation", "connecting", "its", "own", "cost", "ALG", "-LRB-", "-RRB-", "and", "the", "optimum", "offline", "cost", "of", "ADV", ",", "are", "related", "by", "ALG", "-LRB-", "-RRB-", "a", "ADV", "-LRB-", "-RRB-", "+", ".", "ALG", "is", "strictly", "a-competitive", "if", ",", "ALG", "-LRB-", "-RRB-", "a", "ADV", "-LRB-", "-RRB-", ".", "In", "this", "work", "we", "study", "the", "consequences", "of", "providing", "only", "some", "portion", "of", "the", "online", "information", "to", "a", "scheduler", ".", "That", "is", ",", "we", "focus", "our", "interest", "on", "the", "case", "where", "each", "task", "is", "capable", "of", "checking", "the", "online", "status", "only", "by", "a", "-LRB-", "small", "wrt", "n", "-RRB-", "number", "d", "of", "polls", "from", "the", "n", "machines", ".", "In", "this", "case", ",", "the", "objective", "is", "to", "determine", "the", "trade-off", "between", "the", "number", "of", "polls", "that", "are", "available", "to", "each", "of", "the", "tasks", "and", "the", "performance", "guarantee", "of", "the", "online", "scheduler", ",", "or", "equivalently", ",", "to", "determine", "the", "minimum", "number", "of", "polls", "per", "task", "so", "that", "a", "strictly", "constant", "competitive", "ratio", "is", "achieved", ".", "Additionally", ",", "we", "consider", "the", "case", "of", "unit-size", "tasks", "that", "are", "assigned", "to", "related", "machines", ".", "Thus", ",", "each", "task", "t", "-LSB-", "m", "-RSB-", "has", "to", "be", "assigned", "to", "a", "machine", "host", "-LRB-", "t", "-RRB-", "-LSB-", "n", "-RSB-", "using", "the", "following", "information", "that", "is", "provided", "to", "it", ":", "the", "current", "loads", "of", "d", "suitably", "chosen", "machines", "-LRB-", "the", "kind", "of", "the", "``", "suitable", "''", "selection", "is", "one", "of", "the", "basic", "elements", "of", "a", "scheduler", "and", "will", "be", "called", "the", "polling", "strategy", "from", "now", "on", "-RRB-", "and", "an", "assignment", "strategy", "that", "determines", "the", "host", "of", "t", "among", "these", "d", "selected", "candidates", "on", "behalf", "of", "t", ".", "In", "what", "follows", "we", "shall", "consider", "homogeneous", "schedulers", ",", "ie", ",", "schedulers", "that", "apply", "exactly", "the", "same", "protocol", "on", "all", "the", "tasks", "that", "are", "inserted", "into", "the", "system", ".", "This", "choice", "is", "justified", "by", "the", "fact", "that", "no", "task", "is", "allowed", "to", "have", "access", "to", "knowledge", "concerning", "previous", "or", "forthcoming", "choices", "of", "other", "tasks", "in", "the", "system", ",", "except", "only", "for", "the", "current", "loads", "of", "those", "machines", "that", "have", "been", "chosen", "to", "be", "its", "candidate", "hosts", ".", "Additionally", ",", "we", "shall", "use", "the", "terms", "-LRB-", "capacitated", "-RRB-", "bins", "instead", "of", "-LRB-", "related", "-RRB-", "machines", "and", "-LRB-", "identical", "-RRB-", "balls", "instead", "of", "-LRB-", "unit-size", "-RRB-", "tasks", "interchangeably", ",", "due", "to", "the", "profound", "analogy", "of", "the", "problem", "under", "consideration", "with", "the", "corresponding", "Balls", "&", "Bins", "problem", ".", "1.1", "Polling", "Strategies", "The", "way", "a", "scheduler", "ALG", "lets", "each", "newly", "inserted", "task", "choose", "its", "d", "candidate", "hosts", "is", "called", "a", "polling", "strategy", "-LRB-", "PS", "-RRB-", ".", "We", "call", "the", "strategies", "that", "poll", "candidate", "machines", "homogeneously", "for", "all", "the", "inserted", "tasks", "of", "the", "same", "size", ",", "homogeneous", "polling", "strategies", "-LRB-", "HPS", "-RRB-", ".", "In", "the", "present", "work", "we", "consider", "the", "tasks", "to", "be", "indistinguishable", ":", "Each", "task", "upon", "its", "arrival", "knows", "only", "the", "loads", "of", "the", "machines", "that", "it", "polls", ",", "along", "with", "the", "speed", "-LRB-", "or", "equiv", ".", "capacity", "wrt", "bins", "-RRB-", "vector", "c", "of", "the", "system", ".", "This", "is", "why", "we", "focus", "our", "interest", "in", "schedulers", "belonging", "to", "HPS", ".", "Depending", "on", "the", "dependencies", "of", "the", "polls", "that", "are", "taken", "on", "behalf", "of", "a", "task", ",", "we", "classify", "the", "polling", "strategies", "as", "follows", ":", "Oblivious", "polling", "strategies", "-LRB-", "HOPS", "-RRB-", "In", "this", "case", "we", "consider", "that", "the", "polling", "strategy", "on", "behalf", "of", "a", "newly", "inserted", "task", "t", "consists", "of", "an", "independent", "-LRB-", "from", "other", "tasks", "-RRB-", "choice", "of", "a", "d-tuple", "from", "-LSB-", "n", "-RSB-", "d", "according", "to", "a", "fixed", "probability", "distribution", "f", ":", "-LSB-", "n", "-RSB-", "d", "-LSB-", "0", ",", "1", "-RSB-", ".", "This", "probability", "distribution", "may", "only", "depend", "on", "the", "common", "offline", "information", "provided", "to", "each", "of", "the", "tasks", ".", "It", "should", "be", "clear", "that", "any", "kind", "of", "d", "independent", "polls", "-LRB-", "with", "or", "without", "replacement", "-RRB-", "on", "behalf", "of", "each", "task", ",", "falls", "into", "this", "family", "of", "polling", "strategies", ".", "Thus", "the", "whole", "polling", "strategy", "is", "the", "sequence", "of", "m", "d-tuples", "chosen", "independently", "-LRB-", "using", "the", "same", "probability", "distribution", "f", "-RRB-", "on", "behalf", "of", "the", "m", "tasks", "that", "are", "to", "be", "inserted", "into", "the", "system", ".", "Clearly", "for", "any", "polling", "strategy", "belonging", "to", "HOPS", ",", "the", "d", "random", "polls", "on", "behalf", "of", "each", "of", "the", "m", "tasks", "could", "have", "been", "fixed", "prior", "to", "the", "start", "of", "the", "assignments", ".", "Adaptive", "polling", "strategies", "-LRB-", "HAPS", "-RRB-", "In", "this", "case", "the", "i", "th", "poll", "on", "behalf", "of", "ball", "t", "-LSB-", "m", "-RSB-", "is", "allowed", "to", "exploit", "the", "information", "gained", "by", "the", "i", "-", "1", "previous", "polls", "on", "behalf", "of", "the", "same", "ball", ".", "That", "is", ",", "unlike", "the", "case", "of", "HOPS", "where", "the", "choice", "of", "d", "candidates", "of", "a", "task", "was", "oblivious", "to", "the", "current", "system", "state", ",", "now", "the", "polling", "strategy", "is", "allowed", "to", "direct", "the", "next", "poll", "to", "specific", "machines", "of", "the", "system", "according", "to", "the", "outcome", "of", "the", "polls", "up", "to", "this", "point", ".", "In", "this", "case", "all", "the", "polls", "on", "behalf", "of", "each", "task", "have", "to", "be", "taken", "at", "runtime", ",", "upon", "the", "arrival", "of", "the", "task", ".", "Remark", ":", "It", "is", "commented", "that", "this", "kind", "of", "polling", "strategies", "are", "not", "actually", "helpful", "in", "the", "case", "of", "identical", "machines", ",", "where", "HOPS", "schedulers", "achieve", "asymptotically", "optimal", "performance", "-LRB-", "see", "-LSB-", "18", "-RSB-", "-RRB-", ".", "Nevertheless", ",", "we", "prove", "here", "that", "this", "is", "not", "the", "case", "for", "the", "related", "machines", ".", "It", "will", "be", "shown", "that", "oblivious", "strategies", "perform", "rather", "poorly", "in", "this", "setting", ",", "while", "HAPS", "schedulers", "achieve", "actually", "asymptotically", "optimal", "performance", ".", "1.2", "Assignment", "Strategies", "Having", "chosen", "the", "d-size", "set", "of", "candidate", "hosts", "for", "task", "t", "-LSB-", "m", "-RSB-", ",", "the", "next", "thing", "is", "to", "assign", "this", "task", "to", "one", "of", "these", "machines", "given", "their", "current", "loads", "and", "possibly", "exploiting", "the", "knowledge", "on", "the", "way", "that", "they", "were", "selected", ".", "We", "call", "this", "procedure", "the", "assignment", "strategy", ".", "The", "significant", "question", "that", "arises", "here", "is", "the", "following", ":", "Given", "the", "polling", "strategy", "adopted", "and", "the", "knowledge", "that", "is", "acquired", "at", "runtime", "by", "the", "polled", "d-tuple", "on", "behalf", "of", "a", "task", "t", "-LSB-", "m", "-RSB-", ",", "which", "would", "be", "the", "optimal", "assignment", "strategy", "for", "this", "task", "so", "that", "the", "eventual", "maximum", "load", "in", "the", "system", "be", "minimized", "?", "In", "the", "Unit", "Size", "Tasks-Identical", "Machines", "case", ",", "when", "each", "of", "the", "d", "polls", "is", "chosen", "iur", "-LRB-", "with", "replacement", "-RRB-", "from", "-LSB-", "n", "-RSB-", ",", "Azar", "et", "al.", "-LRB-", "-LSB-", "2", "-RSB-", "-RRB-", "show", "that", "the", "best", "assignment", "strategy", "is", "the", "minimum", "load", "rule", "and", "requires", "O", "-LRB-", "log", "n", "-RRB-", "polls", "per", "task", "for", "a", "strictly", "constant", "competitive", "ratio", ".", "Consequently", "V", "ocking", "-LRB-", "-LSB-", "18", "-RSB-", "-RRB-", "has", "suggested", "the", "always", "go", "left", "strategy", ",", "which", "-LRB-", "in", "combination", "with", "a", "properly", "chosen", "oblivious", "polling", "strategy", "-RRB-", "only", "requires", "a", "total", "number", "of", "O", "-LRB-", "loglog", "n", "-RRB-", "in", "order", "to", "achieve", "a", "constant", "competitive", "ratio", ".", "In", "the", "same", "work", "it", "was", "also", "shown", "that", "one", "should", "not", "expect", "much", "by", "exploiting", "possible", "dependencies", "of", "the", "polls", "in", "the", "case", "of", "unit-size", "tasks", "that", "are", "placed", "into", "identical", "machines", ",", "since", "the", "load", "of", "the", "fullest", "machine", "is", "roughly", "the", "same", "as", "the", "one", "achieved", "in", "the", "case", "of", "non-uniform", "but", "independent", "polls", "using", "the", "always", "go", "left", "rule", ".", "Nevertheless", ",", "things", "are", "quite", "different", "in", "the", "Related", "Machines", "case", ":", "we", "show", "by", "our", "lower", "bound", "-LRB-", "section", "3", "-RRB-", "that", "even", "if", "a", "scheduler", "ALG", "considers", "any", "oblivious", "polling", "strategy", "and", "the", "best", "possible", "assignment", "strategy", ",", "ALG", "has", "a", "strict", "competitive", "ratio", "of", "at", "least", "2d", "n", "4", "d-2", ",", "where", "d", "is", "the", "number", "of", "oblivious", "polls", "per", "task", ".", "This", "implies", "that", "in", "the", "case", "of", "the", "related", "machines", "there", "is", "still", "much", "space", "for", "the", "adaptive", "polling", "strategies", "until", "the", "lower", "bound", "of", "-LRB-", "loglog", "n", "-RRB-", "polls", "per", "task", "is", "matched", ".", "125", "1.3", "Related", "Work", "In", "the", "case", "of", "assigning", "unit-size", "tasks", "to", "identical", "machines", ",", "there", "has", "been", "a", "lot", "of", "intensive", "research", "during", "the", "last", "decade", ".", "If", "each", "task", "is", "capable", "of", "viewing", "the", "whole", "status", "of", "the", "system", "upon", "its", "arrival", "-LRB-", "we", "call", "this", "the", "Full", "Information", "case", "-RRB-", ",", "then", "Graham", "'s", "greedy", "algorithm", "assures", "a", "competitive", "ratio", "that", "asymptotically", "tends", "to", "2", "1", "n", "-LRB-", "-LSB-", "6", "-RSB-", "-RRB-", ".", "Nevertheless", ",", "when", "the", "tasks", "are", "granted", "only", "a", "limited", "number", "of", "polls", ",", "things", "are", "much", "more", "complicated", ":", "In", "the", "case", "of", "unit-size", "tasks", "and", "a", "single", "poll", "per", "task", ",", "the", "result", "of", "Gonnet", "-LSB-", "10", "-RSB-", "has", "proved", "that", "for", "m", "n", "the", "maximum", "load", "is", "-LRB-", "1", "+", "o", "-LRB-", "1", "-RRB-", "-RRB-", "ln", "n", "lnln", "n", "when", "the", "poll", "of", "each", "task", "is", "chosen", "iur", "from", "the", "n", "machines", ",", "whp", ".", "1", "In", "-LSB-", "15", "-RSB-", "an", "explicit", "form", "for", "the", "expected", "maximum", "load", "is", "given", "for", "all", "combinations", "of", "n", "and", "m.", "From", "this", "work", "it", "easily", "seen", "that", "for", "m", "n", "ln", "n", ",", "the", "maximum", "load", "is", "m", "n", "+", "-LRB-", "m", "ln", "n/n", "-RRB-", ",", "which", "implies", "that", "by", "means", "of", "competitive", "ratio", ",", "m", "n", "is", "actually", "the", "hardest", "instance", ".", "In", "the", "case", "of", "d", "2", "polls", "per", "task", ",", "a", "bunch", "of", "new", "techniques", "had", "to", "be", "applied", "for", "the", "analysis", "of", "such", "schedulers", ".", "The", "main", "tools", "used", "in", "the", "literature", "for", "this", "problem", "have", "been", "the", "layered", "induction", ",", "the", "witness", "tree", "argument", "and", "the", "method", "of", "fluid", "models", "-LRB-", "a", "comprehensive", "presentation", "of", "these", "techniques", "may", "be", "found", "in", "the", "very", "good", "survey", "of", "Mitzenmacher", "et", "al.", "-LSB-", "14", "-RSB-", "-RRB-", ".", "In", "the", "seminal", "paper", "of", "Azar", "Broder", "Karlin", "and", "Upfal", "-LSB-", "2", "-RSB-", "it", "was", "proved", "that", "the", "proposed", "scheduler", "abku", "that", "chooses", "each", "of", "the", "polls", "of", "a", "task", "iur", "from", "-LSB-", "n", "-RSB-", "and", "then", "assigns", "the", "task", "to", "the", "candidate", "machine", "of", "minimum", "load", ",", "achieves", "a", "maximum", "load", "that", "is", "at", "most", "m", "n", "+", "lnln", "n", "ln", "d", "-LRB-", "1", "-RRB-", ".", "This", "implies", "a", "strictly", "O", "lnln", "n", "ln", "d", "competitive", "ratio", ",", "or", "equivalently", ",", "at", "least", "O", "-LRB-", "ln", "n", "-RRB-", "polls", "per", "task", "would", "be", "necessary", "in", "order", "to", "achieve", "a", "strictly", "constant", "competitive", "ratio", ".", "In", "-LSB-", "18", "-RSB-", "the", "always", "go", "left", "algorithm", "was", "proposed", ",", "which", "assures", "a", "maximum", "load", "of", "at", "most", "m", "n", "+", "lnln", "n", "d", "ln", "2", "-LRB-", "1", "-RRB-", "and", "thus", "only", "needs", "an", "amount", "of", "O", "-LRB-", "loglog", "n", "-RRB-", "polls", "per", "task", "in", "order", "to", "achieve", "a", "strictly", "constant", "competitive", "ratio", ".", "In", "addition", "it", "was", "shown", "that", "this", "is", "the", "best", "possible", "that", "one", "may", "hope", "for", "in", "the", "case", "of", "assigning", "unit-size", "tasks", "to", "identical", "machines", "with", "only", "d", "-LRB-", "either", "oblivious", "or", "adaptive", "-RRB-", "polls", "per", "task", ".", "The", "Online", "Assignment", "of", "Tasks", "to", "Related", "Machines", "problem", "has", "been", "thoroughly", "studied", "during", "the", "past", "years", "for", "the", "Full", "Information", "case", "-LRB-", "eg", ",", "see", "chapter", "12", "in", "-LSB-", "6", "-RSB-", "-RRB-", ".", "In", "particular", ",", "it", "has", "been", "shown", "that", "a", "strictly", "-LRB-", "small", "-RRB-", "constant", "competitive", "ratio", "can", "be", "achieved", "using", "the", "slowfit-like", "algorithms", "that", "are", "based", "on", "the", "idea", "of", "exploiting", "the", "least", "favourable", "machines", "-LRB-", "this", "idea", "first", "appeared", "in", "-LSB-", "17", "-RSB-", "-RRB-", ".", "The", "case", "of", "Limited", "Information", "has", "attracted", "little", "attention", "up", "to", "this", "point", ":", "some", "recent", "works", "-LRB-", "-LSB-", "12", ",", "13", ",", "8", "-RSB-", "-RRB-", "study", "the", "case", "of", "each", "task", "having", "a", "single", "poll", ",", "for", "its", "assignment", "to", "one", "of", "the", "-LRB-", "possibly", "related", "-RRB-", "machines", "when", "the", "probability", "distributions", "of", "the", "tasks", "comprise", "a", "Nash", "Equilibrium", ".", "For", "example", ",", "in", "-LSB-", "8", "-RSB-", "it", "was", "shown", "that", "in", "the", "Related", "Machines", "case", "a", "coordination", "ratio", "-LRB-", "ie", ",", "the", "ratio", "between", "the", "worst", "possible", "expected", "maximum", "load", "among", "Nash", "Equilibria", "over", "the", "offline", "optimum", "-RRB-", "of", "O", "log", "n", "logloglog", "n", ".", "However", ",", "when", "all", "the", "task", "weights", "are", "equal", "then", "it", "was", "shown", "by", "Mavronicolas", "and", "Spirakis", "-LSB-", "13", "-RSB-", "that", "the", "coordination", "ratio", "1", "A", "probabilistic", "event", "A", "is", "said", "to", "hold", "with", "high", "probability", "-LRB-", "whp", "-RRB-", "if", "for", "some", "arbitrarily", "chosen", "constant", ">", "0", ",", "IP", "-LSB-", "A", "-RSB-", "1", "-", "n", ".", "is", "O", "log", "n", "loglog", "n", ".", "As", "for", "the", "case", "of", "d", ">", "1", "in", "the", "Related", "Machines", "problem", ",", "up", "to", "the", "author", "'s", "knowledge", "this", "is", "the", "first", "time", "that", "this", "problem", "is", "dealt", "with", ".", "1.4", "New", "results", "In", "this", "work", "we", "show", "that", "any", "HOPS", "scheduler", "requires", "at", "least", "O", "log", "n", "loglog", "n", "polls", "in", "order", "to", "achieve", "a", "strictly", "constant", "competitive", "ratio", "vs.", "an", "oblivious", "adversary", ".", "The", "key", "point", "in", "this", "lower", "bound", "argument", "is", "the", "construction", "of", "a", "system", "of", "d", "+1", "groups", "of", "machines", "running", "at", "the", "same", "speed", "within", "each", "group", ",", "while", "the", "machine", "speeds", "-LRB-", "comparing", "machines", "of", "consecutive", "groups", "-RRB-", "fall", "by", "a", "fixed", "factor", "and", "on", "the", "other", "hand", "the", "cumulative", "capacities", "of", "the", "groups", "are", "raised", "by", "the", "same", "factor", ".", "Then", "it", "is", "intuitively", "clear", "that", "any", "HOPS", "scheduler", "can", "not", "keep", "track", "of", "the", "current", "status", "within", "each", "of", "these", "d", "+", "1", "groups", "while", "having", "only", "d", "polls", "per", "new", "task", ",", "and", "thus", "it", "will", "have", "to", "pay", "the", "cost", "of", "misplacing", "balls", "in", "at", "least", "one", "of", "these", "groups", ".", "More", "specifically", ",", "we", "show", "the", "following", "lower", "bound", ":", "Theorem", "1", ".", "d", "1", ",", "the", "competitive", "ratio", "of", "any", "d-hops", "scheduler", "is", "at", "least", "2d", "n", "4", "d-2", ".", "Then", "we", "propose", "a", "new", "d-hops", "scheduler", "OBL", "which", ",", "if", "it", "is", "fortified", "with", "the", "additional", "knowledge", "of", "the", "total", "number", "of", "tasks", "to", "be", "inserted", ",", "then", "it", "achieves", "the", "following", "upper-bound", ":", "Theorem", "2", ".", "Let", "lnln", "n", "-", "lnlnln", "n", ">", "d", "2", "and", "suppose", "that", "the", "size", "of", "the", "input", "sequence", "is", "given", "as", "offline", "information.If", "OBL", "provides", "each", "task", "with", "-LRB-", "at", "most", "-RRB-", "2d", "polls", ",", "then", "it", "has", "a", "strict", "competitive", "ratio", "that", "drops", "double-exponentially", "with", "d.In", "particular", "the", "cost", "of", "OBL", "is", "with", "high", "probability", "at", "most", "OBL", "-LRB-", "m", "-RRB-", "-LRB-", "1", "+", "o", "-LRB-", "1", "-RRB-", "-RRB-", "8", "n", "d2", "d", "+3", "1", "/", "-LRB-", "2", "d", "+1", "-1", "-RRB-", "+", "1", "ADV", "-LRB-", "m", "-RRB-", "It", "is", "commented", "that", "all", "the", "schedulers", "for", "the", "Identical", "Machines-Limited", "Information", "case", "up", "to", "now", "used", "minimum", "load", "as", "the", "profound", "assignment", "rule", ".", "On", "the", "other", "hand", ",", "OBL", "was", "inspired", "by", "the", "slowfit", "approaches", "for", "the", "Related", "Machines-Full", "Information", "problem", "and", "the", "fact", "that", "a", "greedy", "scheduler", "behaves", "badly", "in", "that", "case", ".", "Up", "to", "the", "author", "'s", "knowledge", ",", "the", "idea", "of", "using", "the", "slow-est", "machine", "possible", "first", "appeared", "in", "-LSB-", "17", "-RSB-", ".", "Additionally", ",", "a", "layered", "induction", "argument", "is", "employed", "for", "bounding", "the", "amount", "of", "tasks", "that", "flow", "from", "the", "slower", "to", "the", "faster", "machines", "in", "the", "system", ".", "2", "This", "then", "allows", "the", "use", "of", "relatively", "simple", "arguments", "for", "bounding", "the", "maximum", "load", "of", "the", "tasks", "that", "end", "up", "in", "a", "small", "fraction", "of", "the", "system", "that", "consists", "of", "the", "fastest", "machines", ".", "Clearly", "this", "upper", "bound", "is", "near-optimal", "-LRB-", "up", "to", "a", "multiplicative", "constant", "-RRB-", ",", "since", "it", "matches", "the", "-LRB-", "loglog", "n", "-RRB-", "lower", "bound", "of", "the", "Unit", "Size", "Tasks-Identical", "Machines", "problem", "-LRB-", "-LSB-", "18", "-RSB-", "-RRB-", "which", "is", "a", "subcase", "of", "our", "setting", ".", "Finally", "we", "propose", "a", "haps", "scheduler", "-LRB-", "ADAPT", "-RRB-", "that", "combines", "the", "previous", "hops", "scheduler", "with", "a", "classical", "guessing", "2", "Note", "that", "this", "does", "not", "imply", "preemption", "of", "tasks", "which", "is", "not", "allowed", "in", "our", "setting", ",", "but", "rather", "the", "event", "that", "a", "task", "hits", "slower", "machines", "that", "are", "already", "overloaded", "and", "thus", "has", "to", "assign", "itself", "to", "a", "faster", "machine", ".", "126", "argument", "for", "the", "cost", "of", "ADV", "and", "assures", "a", "cost", "roughly", "5", "times", "the", "cost", "of", "OBL", ":", "Theorem", "3", ".", "For", "any", "input", "sequence", "of", "identical", "tasks", "that", "have", "to", "be", "assigned", "to", "n", "related", "machines", "using", "at", "most", "2d", "+", "1", "polls", "per", "task", ",", "the", "cost", "of", "ADAPT", "is", "-LRB-", "whp", "-RRB-", ",", "ADAPT", "-LRB-", "-RRB-", "<", "O", "n", "d2", "d", "+3", "1", "/", "-LRB-", "2", "d", "+1", "-1", "-RRB-", "+", "1", "ADV", "-LRB-", "-RRB-", "This", "section", "contains", "a", "simple", "argument", "for", "the", "claimed", "lower", "bound", "on", "online", "schedulers", "that", "devote", "a", "single", "poll", "per", "new", "task", ",", "ie", ",", "d", "=", "1", ".", "Clearly", "by", "their", "nature", "these", "are", "HOPS", "schedulers", ",", "since", "there", "is", "no", "actual", "option", "for", "the", "assignment", "strategy", ".", "The", "proof", "for", "the", "lower", "bound", "of", "these", "schedulers", "is", "rather", "simple", "but", "it", "will", "and", "shed", "some", "light", "to", "the", "essence", "of", "the", "construction", "for", "the", "proof", "of", "the", "general", "lower", "bound", "that", "will", "follow", "in", "the", "next", "section", ".", "Let", "'s", "assume", "that", "there", "exists", "a", "HOPS", "scheduler", "that", "only", "uses", "1", "poll", "per", "task", "and", "claims", "to", "be", "strict", "a-competitive", "against", "any", "oblivious", "adversary", "ADV.", "Initially", "ADV", "chooses", "an", "arbitrary", "real", "number", "r", "n", "which", "will", "be", "fixed", "in", "the", "end", "so", "as", "to", "maximize", "the", "lower", "bound", "on", "a.", "Let", "also", "the", "variables", "C", "total", ",", "C", "max", "denote", "the", "total", "capacity", "and", "the", "maximum", "possible", "polled", "capacity", "using", "one", "poll", "-LRB-", "ie", ",", "the", "maximum", "bin", "capacity", "in", "this", "case", "-RRB-", "in", "the", "system", ".", "Consequently", "ADV", "uses", "the", "following", "system", "of", "capacitated", "bins", "so", "that", "these", "values", "are", "preserved", ":", "C", "1", "=", "C", "max", ",", "C", "i", "=", "C", "max", "r", ",", "i", "=", "2", ",", "...", ",", "C", "total", "-", "C", "max", "C", "max", "r", "+", "1", "-LRB-", "n", "-RRB-", "Observe", "that", "the", "capacity", "of", "bin", "i", "2", "is", "r", "times", "smaller", "than", "C", "max", ",", "while", "on", "the", "other", "hand", ",", "the", "cumulative", "capacity", "of", "the", "last", "n", "-", "1", "machines", "is", "n-1", "r", "times", "larger", "than", "the", "capacity", "of", "the", "largest", "bin", "in", "the", "system", ".", "Consider", "also", "the", "following", "abbreviations", "of", "probabilities", "and", "events", "that", "may", "occur", "upon", "the", "arrival", "of", "a", "new", "ball", ":", "E", "i", "``", "bin", "i", "is", "hit", "by", "a", "ball", "''", "P", "1", "IP", "-LSB-", "E", "1", "-RSB-", ",", "P", "1", "1", "-", "P", "1", "Obviously", "due", "to", "the", "assumption", "of", "a-competitiveness", ",", "a", "C", "total", "C", "max", "=", "C", "max", "+", "-LRB-", "n-1", "-RRB-", "C", "max", "r", "C", "max", "=", "1", "+", "n", "-", "1", "r", "since", "ALG", "could", "choose", "to", "assign", "all", "the", "incoming", "balls", "to", "the", "largest", "bin", "in", "the", "system", ".", "The", "question", "that", "arises", "is", "whether", "there", "exists", "a", "1-poll", "scheduler", "that", "can", "do", "better", "than", "that", ".", "We", "consider", "the", "following", "input", "sequences", ":", "|", "|", "=", "1", ",", "w", "1", "=", "w", ":", "ALG", "-LRB-", "-RRB-", "=", "IE", "-LSB-", "L", "max", "-LRB-", "-RRB-", "-RSB-", "P", "1", "w", "C", "max", "+", "P", "1", "w", "Cmax", "r", "ADV", "-LRB-", "-RRB-", "=", "w", "C", "max", "/", "a-comp", ".", "/", "=", "a", "P", "1", "+", "r", "P", "1", "=", "r", "-", "P", "1", "-LRB-", "r", "-", "1", "-RRB-", "P", "1", "r-a", "r-1", "|", "|", "=", ",", "t", "1", ",", "w", "t", "=", "w", ":", "In", "this", "case", "the", "loads", "of", "all", "the", "bins", "will", "tend", "to", "their", "expected", "values", ",", "and", "thus", "|", "|", "-LRB-", "1", "-RRB-", "=", "IE", "-LSB-", "|", "|", "-LRB-", "1", "-RRB-", "-RSB-", "=", "P", "1", "|", "|", "w", "C", "max", "ALG", "-LRB-", "-RRB-", "=", "IE", "-LSB-", "L", "max", "-LRB-", "-RRB-", "-RSB-", "P", "1", "|", "|", "w", "C", "max", "ADV", "-LRB-", "-RRB-", "=", "|", "|", "w", "C", "total", "/", "a-comp", ".", "/", "=", "a", "|", "|", "w", "C", "total", "P", "1", "|", "|", "w", "C", "max", "P", "1", "aC", "max", "C", "total", "=", "a", "n-1", "r", "+1", "Combining", "the", "two", "bounds", "on", "P", "1", "we", "get", ":", "aC", "max", "C", "total", "=", "a", "n-1", "r", "+", "1", "P", "1", "r", "-", "a", "r", "-", "1", "a", "r", "-", "a", "n", "-", "1", "+", "r", "-", "a", "n", "-", "1", "r", "+", "1", "a", "r", "+", "n", "-", "1", "r", "r", "+", "n", "-", "1", "a", "r", "+", "n", "-", "1", "r", "+", "n-1", "r", "=", "r", "2", "+", "n", "r", "-", "r", "r", "2", "+", "n", "-", "1", "which", "is", "maximized", "for", "r", "=", "n", "+", "1", "and", "assures", "a", "lower", "bound", "on", "a", "of", "n", "2", ".", "Remark", ":", "It", "is", "worth", "noting", "that", "the", "lower", "bound", "com-pletely", "depends", "on", "the", "number", "of", "bins", "in", "the", "system", ",", "and", "on", "the", "ratio", "r", "=", "C", "max", "C", "min", "and", "does", "not", "depend", "at", "all", "on", "the", "total", "capacity", "of", "the", "system", ",", "C", "total", ".", "In", "this", "section", "we", "study", "the", "behaviour", "of", "homogeneous", "schedulers", "that", "adopt", "an", "oblivious", "polling", "strategy", "-LRB-", "ie", ",", "the", "polling", "strategy", "is", "from", "HOPS", "-RRB-", "and", "an", "arbitrary", "assignment", "strategy", ".", "We", "call", "these", "d-hops", "schedulers", ",", "since", "the", "choice", "of", "the", "d", "candidates", "on", "behalf", "of", "each", "ball", "is", "done", "independently", "for", "each", "ball", ",", "according", "to", "a", "common", "probability", "distribution", "f", ":", "-LSB-", "n", "-RSB-", "d", "-LSB-", "0", ",", "1", "-RSB-", ".", "Recall", "that", "the", "choice", "of", "the", "candidate", "bins", "for", "each", "ball", "is", "oblivious", "to", "the", "current", "system", "state", "and", "thus", "could", "have", "been", "fixed", "prior", "to", "the", "beginning", "of", "the", "assignments", ".", "Theorem", "1", ".", "d", "1", ",", "the", "competitive", "ratio", "of", "any", "d-hops", "scheduler", "is", "at", "least", "2d", "n", "4", "d-2", ".", "Proof", ":", "Let", "f", ":", "-LSB-", "n", "-RSB-", "d", "-LSB-", "0", ",", "1", "-RSB-", "be", "the", "adopted", "Oblivious", "polling", "strategy", "by", "an", "arbitrary", "d-hops", "scheduler", ",", "ALG", ".", "Assume", "also", "that", "ALG", "uses", "the", "best", "possible", "assignment", "strategy", "given", "this", "polling", "strategy", ",", "that", "is", ",", "each", "ball", "chooses", "its", "own", "candidate", "bins", "according", "to", "f", "and", "then", "it", "may", "assign", "itself", "to", "an", "arbitrarily", "chosen", "host", "among", "its", "candidates", ",", "depending", "on", "the", "current", "loads", "of", "the", "candidate", "bins", ".", "Assume", "also", "that", "ALG", "claims", "a", "-LRB-", "strict", "-RRB-", "competitive", "ratio", "a", "against", "oblivious", "adversaries", ".", "As", "parameters", "of", "the", "problem", "we", "consider", "again", "the", "quantities", "C", "total", "=", "n", "i", "=", "1", "C", "i", "and", "C", "max", ":", "the", "total", "capacity", "of", "a", "system", "of", "n", "related", "machines", "and", "the", "maximum", "capacity", "that", "may", "be", "returned", "by", "a", "single", "poll", ".", "We", "shall", "describe", "an", "adversary", "ADV", "that", "initially", "chooses", "an", "arbitrary", "real", "number", "1", "r", "n", "and", "then", "considers", "the", "system", "of", "-LRB-", "d", "+", "1", "groups", "of", "-RRB-", "n", "capacitated", "bins", "that", "is", "described", "in", "Table", "1", ".", "Observe", "that", "this", "construction", "preserves", "the", "following", "two", "invariants", "when", "considering", "two", "successive", "groups", "of", "bins", "F", ",", "F", "+1", ":", "1", "d", ":", "127", "Group", "of", "Bins", "Number", "of", "Bins", "in", "group", "Capacity", "per", "Bin", "Cumulative", "Group", "Capacity", "F", "1", "1", "C", "max", "C", "max", "F", "2", "r", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "/", "r", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "F", "3", "r", "3", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "/", "r", "2", "r", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "F", "4", "r", "5", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "/", "r", "3", "r", "2", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", ".", ".", ".", ".", ".", ".", ".", ".", ".", ".", ".", ".", "F", "d", "r", "2", "d-3", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "/", "r", "d-1", "r", "d-2", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "F", "d", "+1", "n", "-", "1", "r", "r", "+1", "-LRB-", "r", "2", "d-2", "-", "1", "-RRB-", "n", "-", "r", "2", "d-2", "C", "max", "/", "r", "d", "-LRB-", "n", "r", "d", "-", "r", "d-2", "-RRB-", "C", "max", "Table", "1", ":", "The", "system", "of", "-LRB-", "d", "+", "1", "groups", "of", "-RRB-", "capacitated", "bins", "considered", "by", "ADV", "for", "the", "proof", "of", "the", "Lower", "Bound", "on", "d-HOPS", "schedulers", ".", "-LRB-", "I1", "-RRB-", "when", "going", "from", "one", "group", "to", "its", "successor", ",", "the", "bin", "capacities", "decrease", "by", "a", "factor", "of", "r", ",", "and", "-LRB-", "I2", "-RRB-", "the", "cumulative", "capacity", "of", "the", "first", "+", "1", "groups", "is", "larger", "than", "the", "cumulative", "capacity", "of", "the", "first", "groups", "by", "a", "factor", "of", "r", ".", "We", "shall", "denote", "by", "C", "-LSB-", "F", "-RSB-", "the", "cumulative", "capacity", "of", "any", "group", "of", "bins", "F", "-LSB-", "n", "-RSB-", ".", "Remark", ":", "The", "preservation", "of", "invariant", "-LRB-", "I2", "-RRB-", "when", "=", "d", "implies", "that", "C", "-LSB-", "F", "d", "+1", "-RSB-", "r", "d-1", "-LRB-", "r-1", "-RRB-", "C", "max", "n", "r", "d", "-", "r", "d-2", "C", "max", "r", "d-1", "-LRB-", "r", "-", "1", "-RRB-", "C", "max", "n", "r", "2", "d", "-", "r", "2", "d-1", "+", "r", "2", "d-2", ".", "We", "fortify", "ALG", "by", "allowing", "a", "perfect", "balance", "of", "the", "bins", "of", "a", "group", "F", "whenever", "at", "least", "one", "poll", "on", "behalf", "of", "a", "new", "ball", "goes", "to", "a", "bin", "of", "this", "group", ".", "This", "is", "actually", "in", "order", "to", "capture", "the", "notion", "of", "the", "``", "perfect", "assignment", "strategy", "given", "the", "polling", "strategy", "''", "claim", "stated", "above", ".", "Clearly", "this", "does", "not", "cause", "any", "problem", "since", "we", "are", "looking", "for", "a", "lower", "bound", ".", "Because", "ALG", "could", "lock", "its", "d", "choices", "to", "the", "first", "d", "groups", "of", "the", "system", ",", "it", "is", "obvious", "that", "its", "competitive", "ratio", "a", "is", "at", "most", "a", "C", "total", "C", "-LSB-", "d", "=", "1", "F", "-RSB-", "=", "n", "r", "2d-1", "+", "1", ".", "Consider", "now", "the", "d", "events", "E", "``", "F", "is", "hit", "by", "a", "ball", "''", "-LRB-", "1", "d", "-RRB-", ",", "while", "P", "IP", "-LSB-", "E", "-RSB-", "-LRB-", "call", "it", "the", "hitting", "probability", "of", "group", "F", "-RRB-", "is", "the", "probability", "of", "at", "least", "one", "bin", "from", "F", "being", "hit", "by", "a", "ball", ".", "We", "shall", "charge", "ALG", "according", "to", "the", "hitting", "probabilities", "that", "its", "polling", "strategy", "determines", ".", "Notice", "that", "these", "are", "fixed", "at", "the", "beginning", "of", "the", "assignments", "since", "the", "polling", "strategy", "of", "ALG", "is", "an", "oblivious", "strategy", ".", "Furthermore", ",", "the", "following", "conditional", "hitting", "probabilities", "are", "also", "determined", "uniquely", "by", "the", "polling", "strategy", "of", "ALG", ":", "i", ",", "j", "-LSB-", "n", "-RSB-", ":", "i", ">", "j", ",", "P", "i", "|", "j", "IP", "-LSB-", "E", "i", "|", "E", "1", "E", "2", "E", "j", "-RSB-", ",", "Q", "i", "|", "j", "IP", "-LSB-", "E", "i", "|", "E", "1", "E", "2", "E", "j", "-RSB-", ".", "Finally", ",", "let", "B", "-LRB-", "-RRB-", "-LRB-", "=", "1", ",", "...", ",", "d", "-RRB-", "denote", "the", "maximum", "number", "of", "balls", "that", "may", "be", "hosted", "by", "bins", "of", "the", "set", "=", "1", "F", "without", "violating", "the", "assumption", "of", "a-competitiveness", "of", "ALG", ",", "when", "the", "input", "sequence", "of", "tasks", "is", "chosen", "by", "ADV.", "The", "following", "lemma", "states", "an", "inherent", "property", "of", "any", "d-hops", "scheduler", ":", "Lemma", "3.1", ".", "For", "any", ">", "1", ",", "unless", "ALG", "admits", "a", "competitive", "ratio", "a", ">", "-LRB-", "-1", "-RRB-", "-LRB-", "1-r", "-2", "-RRB-", "d", "2", "r", ",", "the", "following", "property", "holds", ":", "1", "d", ",", "P", "|", "-1", "1", "-", "1", "a", "r", "Proof", ":", "We", "prove", "this", "lemma", "by", "considering", "the", "following", "input", "sequences", "of", "balls", "of", "the", "same", "-LRB-", "arbitrarily", "chosen", "-RRB-", "size", "w", ":", "|", "|", "=", "1", ":", "In", "this", "case", "we", "know", "that", "ADV", "-LRB-", "-RRB-", "=", "w", "C", "max", ".", "The", "cost", "-LRB-", "ie", ",", "the", "expectation", "of", "maximum", "load", "-RRB-", "of", "ALG", "is", ":", "ALG", "-LRB-", "-RRB-", "P", "1", "w", "C", "max", "+", "-LRB-", "1", "-", "P", "1", "-RRB-", "Q", "2", "|", "1", "rw", "C", "max", "+", "-LRB-", "1", "-", "Q", "2", "|", "1", "-RRB-", "Q", "3", "|", "2", "r", "2", "w", "C", "max", "+", "+", "+", "-LRB-", "1", "-", "Q", "2", "|", "1", "-RRB-", "-LRB-", "1", "-", "Q", "d", "|", "d-1", "-RRB-", "r", "d", "w", "C", "max", "Due", "to", "the", "demand", "for", "a-competitiveness", "of", "ALG", "against", "ADV", ",", "this", "then", "implies", "a", "r", "1", "-", "P", "1", "P", "1", "1", "a", "r", ".", "|", "|", "=", "r", "2-2", ",", "=", "2", ",", ",", "d", ":", "In", "this", "case", "ADV", "will", "use", "only", "the", "bins", "of", "=", "1", "F", "and", "thus", "he", "will", "pay", "a", "cost", "of", "ADV", "-LRB-", "-RRB-", "=", "r", "2-2", "w", "r", "-1", "C", "max", "=", "r", "-1", "w", "C", "max", ".", "As", "for", "the", "cost", "of", "ALG", ",", "we", "shall", "only", "charge", "it", "for", "the", "input", "subsequence", "of", "balls", "that", "definitely", "hit", "groups", "F", "1", ",", "...", ",", "F", "-1", "-LRB-", "call", "it", "^", "-RRB-", ".", "Our", "purpose", "is", "from", "this", "sequence", "of", "tasks", "to", "determine", "P", "|", "-1", ",", "ie", ",", "the", "conditional", "hitting", "probability", "of", "group", "F", "given", "that", "all", "the", "previous", "groups", "are", "hit", "by", "a", "ball", ".", "Clearly", ",", "IE", "-LSB-", "|", "^", "|", "-RSB-", "=", "|", "|", "-1", "=", "1", "P", "|", "-1", "=", "r", "2", "-2", "-1", "=", "1", "P", "|", "-1", "-LRB-", "where", "for", "symmetry", "of", "representation", "we", "let", "P", "1", "|", "0", "=", "P", "1", "-RRB-", ".", "Recall", "that", "B", "-1", "-LRB-", "-RRB-", "denotes", "the", "maximum", "number", "of", "balls", "that", "may", "be", "assigned", "to", "the", "bins", "of", "the", "first", "-", "1", "groups", ",", "given", "the", "claimed", "competitive", "ratio", "a", "by", "ALG", "and", "the", "input", "sequence", ".", "Then", "we", "have", ":", "wB", "-1", "-LRB-", "-RRB-", "C", "-LSB-", "-1", "=", "1", "F", "-RSB-", "a", "ADV", "-LRB-", "-RRB-", "B", "-1", "-LRB-", "-RRB-", "a", "r", "2", "-3", ".", "Thus", ",", "there", "is", "a", "subsequence", "~", "of", "^", "that", "consists", "of", "those", "tasks", "which", "can", "not", "be", "assigned", "to", "the", "bins", "of", "the", "first", "-", "1", "groups", "due", "to", "the", "a-competitiveness", "constraint", ".", "All", "these", "tasks", "have", "to", "exploit", "their", "remaining", "-LRB-", "at", "most", "-RRB-", "d", "-", "+", "1", "polls", "among", "the", "bins", "of", "-LSB-", "n", "-RSB-", "\\", "-1", "=", "1", "F", ".", "It", "is", "clear", "that", "ALG", "has", "no", "reason", "to", "spoil", "more", "than", "one", "poll", "per", "group", "due", "to", "the", "optimal", "assignment", "strategy", "that", "it", "adopts", ".", "Thus", "we", "can", "safely", "assume", "that", "there", "remain", "exactly", "d", "-", "+", "1", "polls", "for", "the", "remaining", "groups", ".", "Obviously", "IE", "-LSB-", "|", "~", "|", "-RSB-", "IE", "-LSB-", "|", "^", "|", "-RSB-", "-", "B", "-1", "-LRB-", "-RRB-", "r", "2", "-2", "-1", "=", "1", "P", "|", "-1", "-", "ar", "2", "-3", "r", "2", "-3", "-LRB-", "r", "-1", "-", "a", "-RRB-", ",", "where", "for", "simplification", "of", "notation", "we", "use", "the", "bounding", "se-128", "quence", "-1", "=", "-2", "1", "-1", "a", "r", "-1", "=", "1", "-1", "a", "r", "-1", "and", "0", "=", "1", ".", "This", "is", "true", "because", "P", "1", "1", "a", "r", "1", "=", "1", "-1", "a", "r", ",", ">", "1", ",", "while", "we", "assume", "inductively", "that", "-1", "=", "1", "P", "|", "-1", "-1", ".", "By", "showing", "that", "P", "|", "-1", "1", "-1", "a", "r", "we", "shall", "also", "have", "assured", "that", "=", "1", "P", "|", "-1", ".", "We", "apply", "the", "Markov", "Inequality", "-LRB-", "on", "the", "complementary", "random", "variable", "|", "|", "-", "|", "~", "|", "-RRB-", "to", "find", "a", "lower", "bound", "on", "the", "size", "of", "~", ":", ">", "1", ",", "IP", "-LSB-", "|", "~", "|", "r", "2", "-3", "-LRB-", "r", "-", "r", "+", "r", "-1", "-", "a", "-RRB-", "-RSB-", "1", "-", "1", ".", "Now", "it", "is", "clear", "that", "if", "ALG", "claims", "a", "competitive", "ratio", "a", "-LRB-", "-", "1", "-RRB-", "-LRB-", "1", "-", "r", "-2", "-RRB-", "2", "d", "r", "-LRB-", "-", "1", "-RRB-", "1", "1", "r", "2-2", "2", "r", ",", "then", "at", "least", "one", "ball", "of", "will", "belong", "to", "~", "with", "probability", "at", "least", "1", "1", ".", "Thus", ",", "either", "ALG", "has", "a", ">", "-LRB-", "-1", "-RRB-", "-LRB-", "1-r", "-2", "-RRB-", "2", "dr", ",", "or", "-LRB-", "by", "simply", "charging", "it", "only", "for", "this", "very", "specific", "ball", "-RRB-", "ALG", "-LRB-", "-RRB-", "1", "-", "1", "-LSB-", "P", "|", "-1", "+", "-LRB-", "1", "-", "P", "|", "-1", "-RRB-", "r", "-RSB-", "r", "-1", "w", "C", "max", "which", ",", "combined", "with", "the", "demand", "for", "a-competitiveness", "and", "the", "cost", "of", "ADV", "for", ",", "implies", "that", "P", "|", "-1", "1", "-", "1", "a", "r", ".", "We", "finally", "try", "the", "following", "input", "sequence", ",", "in", "case", "that", "ALG", "still", "claims", "a", "competitive", "ratio", "a", "-LRB-", "-1", "-RRB-", "-LRB-", "1-r", "-2", "-RRB-", "d", "2", "r", ":", "|", "|", "=", ":", "For", "this", "input", "sequence", "it", "is", "clear", "that", "ADV", "-LRB-", "-RRB-", "=", "|", "|", "w", "C", "total", "=", "|", "|", "w", "r", "d-1", "-", "r", "d-2", "+", "n", "r", "d", "C", "max", ".", "For", "ALG", "we", "again", "consider", "the", "subsequence", "^", "of", "balls", "that", "definitely", "hit", "the", "first", "d", "-", "1", "groups", "of", "the", "system", ".", "Clearly", "|", "^", "|", "=", "IE", "-LSB-", "|", "^", "|", "-RSB-", "d-1", "|", "|", "since", "we", "now", "consider", "an", "infinite", "sequence", "of", "incoming", "balls", ".", "As", "for", "the", "upper", "bound", "on", "the", "balls", "that", "the", "first", "d", "-", "1", "groups", "can", "host", ",", "this", "is", "again", "given", "by", "the", "demand", "for", "a-competitiveness", ":", "wB", "d-1", "-LRB-", "-RRB-", "C", "-LSB-", "d-1", "=", "1", "F", "-RSB-", "=", "wB", "d-1", "-LRB-", "-RRB-", "r", "d-2", "C", "max", "a", "|", "|", "w", "r", "d-1", "-", "r", "d-2", "+", "n", "r", "d", "C", "max", "B", "d-1", "-LRB-", "-RRB-", "r", "d-1", "r", "d-1", "-", "r", "d-2", "+", "n", "r", "d", "a", "r", "|", "|", "The", "subsequence", "~", "^", "that", "has", "to", "exploit", "a", "single", "poll", "among", "the", "bins", "of", "-LSB-", "n", "-RSB-", "\\", "d-1", "=", "1", "F", "has", "size", "at", "least", "|", "~", "|", "=", "IE", "-LSB-", "|", "~", "|", "-RSB-", "IE", "-LSB-", "|", "^", "|", "-RSB-", "-", "B", "d-1", "-LRB-", "-RRB-", "d-1", "r", "d-1", "r", "d-1", "-", "r", "d-2", "+", "n", "r", "d", "a", "r", "|", "|", "1", "-", "-LRB-", "d", "-", "1", "-RRB-", "-", "1", "a", "r", "r", "d-1", "r", "d-1", "-", "r", "d-2", "+", "n", "r", "d", "a", "r", "|", "|", "1", "-", "d", "-", "1", "-", "1", "a", "r", "|", "|", "where", "for", "the", "last", "inequality", "we", "consider", "that", "n", "r", "2", "d-2", ".", "Since", "we", "consider", "that", "a", "-LRB-", "-1", "-RRB-", "-LRB-", "1-r", "-2", "-RRB-", "2", "dr", ",", "we", "can", "be", "sure", "that", "|", "~", "|", "1", "1", "+", "1", "r", "2", "|", "|", "and", "thus", ",", "the", "cost", "of", "ALG", "will", "be", "lower", "bounded", "by", "the", "expected", "load", "of", "the", "bins", "in", "F", "d", "due", "to", "the", "tasks", "of", "~", ":", "a", "ADV", "-LRB-", "-RRB-", "ALG", "-LRB-", "-RRB-", "P", "d", "|", "d-1", "|", "~", "|", "w", "-LRB-", "r", "d-1", "-", "r", "d-2", "-RRB-", "C", "max", "a", "r", "d-1", "-", "r", "d-2", "+", "n", "r", "d", "P", "d", "|", "d-1", "1", "-LRB-", "-1", "-RRB-", "-LRB-", "1-r", "-2", "-RRB-", "2", "dr", "d-1", "-", "r", "d-2", "1", "1", "-LRB-", "-1", "-RRB-", "-LRB-", "1-r", "-2", "-RRB-", "-LRB-", "d-1", "-RRB-", "1", "+", "n", "r", "2d-2", "-LRB-", "r-1", "-RRB-", "1", "-", "1", "a", "r", "1", "-", "1", "-", "r", "-2", "d", "-", "1", "which", "is", "not", "possible", "for", "any", ">", "1", "and", "n", "r", "2", "d", ".", "Thus", "we", "conclude", "that", "ALG", "can", "not", "avoid", "a", "competitive", "ratio", "a", "min", "-", "1", "-LRB-", "d", "-", "1", "-RRB-", "r", ",", "n", "r", "2", "d-1", "+", "1", "for", "any", ">", "1", "and", "n", "r", "2", "d", ",", "which", "for", "=", "2", "and", "n", "=", "r", "2", "d", "gives", "the", "desired", "bound", ".", "In", "this", "section", "we", "prove", "that", "the", "missing", "information", "for", "an", "oblivious", "scheduler", "to", "perform", "efficiently", "is", "the", "size", "of", "the", "input", "sequence", ".", "More", "specifically", ",", "considering", "that", "the", "input", "size", "is", "provided", "as", "offline", "information", "to", "each", "of", "the", "newly", "inserted", "tasks", ",", "we", "construct", "an", "oblivious", "scheduler", "that", "exploits", "this", "information", "along", "with", "a", "slowfit", "assignment", "rule", "and", "a", "layered", "induction", "argument", "for", "the", "flow", "of", "balls", "from", "slower", "to", "faster", "bins", ",", "in", "order", "to", "achieve", "a", "strictly", "constant", "competitive", "ratio", "with", "only", "O", "-LRB-", "loglog", "n", "-RRB-", "polls", "per", "task", ".", "Assume", "that", "m", "unit-size", "balls", "are", "thrown", "into", "a", "system", "of", "n", "capacitated", "bins", "with", "capacities", "C", "max", "=", "C", "n", "C", "n-1", "C", "1", "=", "C", "min", ".", "Assume", "also", "that", "each", "ball", "is", "allowed", "to", "poll", "up", "to", "2d", "bins", "and", "then", "it", "has", "to", "assign", "itself", "to", "one", "of", "these", "candidates", ".", "We", "additionally", "assume", "that", "C", "max", "n", "2", "d", "+1", ".", "As", "it", "will", "become", "clear", "later", "by", "the", "analysis", ",", "if", "this", "was", "not", "the", "case", "then", "it", "could", "only", "be", "in", "favour", "of", "the", "oblivious", "scheduler", "that", "we", "propose", ",", "because", "this", "would", "allow", "the", "absorption", "of", "the", "large", "additive", "constants", "in", "the", "performance", "guarantee", "of", "the", "scheduler", ".", "We", "consider", "-LRB-", "wlog", "-RRB-", "that", "the", "capacity", "vector", "c", "is", "nor-malized", "by", "n", "|", "|", "c", "|", "|", "1", "so", "that", "n", "i", "=", "1", "C", "i", "=", "n", ".", "We", "also", "assume", "that", "the", "total", "size", "m", "the", "input", "sequence", "is", "given", "to", "every", "newly", "inserted", "ball", ".", "This", "implies", "that", "each", "ball", "can", "estimate", "the", "cost", "ADV", "-LRB-", "m", "-RRB-", "opt", "-LRB-", "ie", ",", "the", "optimum", "offline", "assignment", "of", "the", "m", "unit-size", "balls", "to", "the", "n", "capacitated", "bins", "-RRB-", ",", "and", "thus", "it", "can", "know", "a", "priori", "the", "subset", "of", "bins", "that", "may", "have", "been", "used", "by", "ADV", "during", "the", "whole", "process", ".", "3", "Having", "this", "in", "mind", ",", "we", "can", "assume", "that", "every", "bin", "in", "the", "system", "is", "legitimate", ",", "that", "is", ",", "it", "might", "have", "been", "used", "by", "the", "optimum", "solution", ",", "otherwise", "we", "could", "have", "each", "ball", "ignore", "all", "the", "illegitimate", "bins", "in", "the", "system", ".", "Thus", ",", "opt", "max", "1", "C", "min", ",", "m", "C", "total", "=", "max", "1", "C", "min", ",", "m", "n", ".", "Finally", ",", "we", "assume", "that", "each", "of", "the", "legitimate", "bins", "of", "the", "system", "gets", "at", "3", "A", "bin", "i", "-LSB-", "n", "-RSB-", "may", "have", "been", "used", "by", "ADV", "if", "and", "only", "if", "1/C", "i", "opt", ".", "129", "least", "one", "ball", "in", "the", "optimum", "offline", "schedule", ".", "This", "does", "not", "affect", "the", "performance", "of", "ADV", ",", "while", "it", "may", "only", "deteriorate", "the", "performance", "of", "an", "online", "scheduler", ".", "Nevertheless", ",", "it", "assures", "that", "m", "n", "opt", "m", "n", "+", "1", ",", "meaning", "that", "the", "fractional", "load", "on", "the", "bins", "is", "actually", "a", "good", "estimation", "of", "opt", ".", "Let", "the", "load", "of", "bin", "i", "-LSB-", "n", "-RSB-", "at", "time", "t", "-LRB-", "that", "is", ",", "right", "after", "the", "assignment", "of", "the", "t", "th", "ball", "of", "the", "input", "sequence", "-RRB-", "be", "denoted", "as", "t", "-LRB-", "i", "-RRB-", "q", "t", "-LRB-", "i", "-RRB-", "C", "i", ",", "where", "q", "t", "-LRB-", "i", "-RRB-", "is", "the", "number", "of", "balls", "assigned", "to", "bin", "i", "up", "to", "that", "time", ".", "The", "following", "definition", "refers", "to", "the", "notion", "of", "saturated", "bins", "in", "the", "system", ",", "ie", ",", "overloaded", "bins", "wrt", "the", "designed", "performance", "guarantee", "of", "an", "oblivious", "scheduler", ":", "Definition", "4.1", ".", "A", "bin", "i", "-LSB-", "n", "-RSB-", "is", "called", "saturated", "upon", "the", "arrival", "of", "a", "new", "ball", "t", "m", ",", "if", "and", "only", "if", "it", "has", "t-1", "-LRB-", "i", "-RRB-", ">", "a", "opt", "-LRB-", "a", "-RRB-", ",", "where", "-LRB-", "a", "-RRB-", "is", "called", "the", "designed", "performance", "guarantee", "of", "the", "oblivious", "scheduler", ".", "Let", "r", "-LSB-", "d", "-RSB-", ",", "i", "r", "min", "-LCB-", "i", "-LSB-", "n", "-RSB-", ":", "i", "j", "=", "1", "C", "j", "r", "=", "1", "n", "2", "-RCB-", ".", "Then", ",", "we", "consider", "the", "following", "partition", "of", "the", "set", "of", "bins", "-LSB-", "n", "-RSB-", "into", "d", "+", "1", "groups", "of", "-LRB-", "roughly", "geometrically", "-RRB-", "decreasing", "cumulative", "capacities", ":", "F", "1", "-LCB-", "1", ",", "...", ",", "i", "1", "-RCB-", ",", "F", "r", "-LCB-", "i", "r-1", "+", "1", ",", "...", ",", "i", "r", "-RCB-", ",", "r", "=", "2", ",", "...", ",", "d", ",", "F", "d", "+1", "-LCB-", "i", "d", "+", "1", ",", "...", ",", "n", "-RCB-", ".", "Although", "the", "cumulative", "capacity", "of", "group", "F", "r", "may", "vary", "from", "n", "2", "r", "-", "C", "max", "to", "n", "2", "r", "+", "C", "max", ",", "for", "ease", "of", "the", "following", "computations", "we", "assume", "that", "asymptotically", "r", "-LSB-", "d", "-RSB-", ",", "C", "-LSB-", "F", "r", "-RSB-", "n", "2", "r", "and", "C", "-LSB-", "F", "d", "+1", "-RSB-", "n", "2", "d", ".", "We", "denote", "by", "C", "min", "the", "capacity", "of", "the", "smallest", "bin", "in", "F", ",", "-LSB-", "d", "+", "1", "-RSB-", ".", "We", "now", "consider", "the", "following", "ideal", "scheduler", "that", "uses", "an", "oblivious", "polling", "strategy", "and", "an", "assignment", "strategy", "based", "on", "the", "slowfit", "rule", ".", "This", "scheduler", "-LRB-", "we", "call", "it", "OBL", "-RRB-", "initially", "discards", "all", "the", "illegitimate", "bins", "in", "the", "system", ",", "using", "the", "knowledge", "of", "m", ".", "Then", "first", "it", "normalizes", "the", "capacity", "vector", "of", "the", "remaining", "bins", "and", "afterwards", "it", "considers", "the", "grouping", "mentioned", "above", "and", "adopts", "the", "following", "pair", "of", "strategies", ":", "POLLING", ":", "1", "r", "d", "group", "F", "r", "gets", "exactly", "1", "poll", ",", "which", "is", "chosen", "among", "the", "bins", "of", "the", "group", "proportionally", "to", "the", "bin", "capacities", ".", "That", "is", ",", "r", "-LSB-", "d", "-RSB-", ",", "i", "F", "r", ",", "IP", "-LSB-", "bin", "i", "F", "r", "is", "a", "candidate", "host", "of", "a", "ball", "-RSB-", "C", "i", "C", "-LSB-", "F", "r", "-RSB-", ".", "The", "remaining", "d", "polls", "are", "assigned", "to", "the", "bins", "of", "group", "F", "d", "+1", ",", "either", "to", "the", "d", "fastest", "bins", ",", "or", "according", "to", "the", "polling", "strategy", "of", "always", "go", "left", ",", "depending", "only", "on", "the", "parameters", "-LRB-", "c", ",", "d", "-RRB-", "of", "the", "problem", "instance", ".", "4", "ASSIGNMENT", ":", "Upon", "the", "arrival", "of", "a", "new", "ball", "t", "-LSB-", "m", "-RSB-", ",", "the", "smallest", "polled", "bin", "from", "d", "=", "1", "F", "-LRB-", "starting", "from", "F", "1", ",", "to", "F", "2", ",", "a.s.o.", "-RRB-", "that", "is", "unsaturated", "gets", "this", "ball", "-LRB-", "slowfit", "rule", "-RRB-", ".", "In", "case", "that", "all", "the", "first", "d", "polls", "of", "a", "ball", "are", "already", "saturated", ",", "then", "this", "ball", "has", "to", "be", "assigned", "to", "a", "bin", "of", "F", "d", "+1", "using", "its", "remaining", "d", "candidates", ".", "Within", "group", "F", "d", "+1", ",", "either", "the", "minimum", "post", "load", "rule", "-LRB-", "ie", ",", "the", "bin", "of", "minimum", "load", "among", "the", "d", "choices", "from", "F", "d", "+1", "is", "chosen", ",", "taking", "into", "account", "also", "the", "additional", "load", "of", "the", "new", "ball", "-RRB-", ",", "or", "the", "slowfit", "rule", "4", "Observe", "that", "this", "is", "offline", "information", "and", "thus", "this", "decision", "can", "be", "made", "at", "the", "beginning", "of", "the", "assignment", "process", ",", "for", "all", "the", "balls", "of", "the", "input", "sequence", ".", "is", "applied", ",", "depending", "on", "the", "offline", "parameters", "-LRB-", "c", ",", "d", "-RRB-", "of", "the", "problem", "instance", ".", "If", "all", "the", "2d", "polled", "bins", "are", "saturated", ",", "then", "the", "minimum", "post", "load", "rule", "is", "applied", "among", "them", ".", "Ties", "are", "always", "broken", "in", "favour", "of", "smaller", "bins", "-LRB-", "ie", ",", "slower", "machines", "-RRB-", ".", "The", "following", "theorem", "gives", "the", "performance", "of", "OBL", ",", "when", "the", "additional", "information", "of", "the", "input", "size", "is", "also", "provided", "offline", ":", "Theorem", "2", ".", "For", "lnln", "n", "-", "lnlnln", "n", ">", "d", "2", ",", "when", "the", "size", "of", "the", "input", "sequence", "m", "n", "is", "given", "as", "offline", "information", ",", "OBL", "has", "a", "strict", "competitive", "ratio", "that", "drops", "double-exponentially", "with", "d.In", "particular", "the", "cost", "of", "OBL", "is", "-LRB-", "whp", "-RRB-", "at", "most", "OBL", "-LRB-", "m", "-RRB-", "-LRB-", "1", "+", "o", "-LRB-", "1", "-RRB-", "-RRB-", "8", "n", "d2", "d", "+3", "1", "/", "-LRB-", "2", "d", "+1", "-1", "-RRB-", "+", "1", "ADV", "-LRB-", "m", "-RRB-", "Proof", ":", "Let", "+", "1", "m", "be", "the", "first", "ball", "in", "the", "system", "that", "hits", "only", "saturated", "bins", "by", "its", "2d", "polls", ".", "Our", "purpose", "is", "to", "determine", "the", "value", "of", "a", "in", "the", "designed", "performance", "guarantee", "-LRB-", "a", "-RRB-", ",", "so", "that", "the", "probability", "of", "ball", "+1", "existing", "to", "be", "polynomially", "small", ".", "As", "stated", "before", ",", "the", "technique", "that", "we", "shall", "employ", "is", "a", "layered", "induction", "argument", "on", "the", "number", "of", "balls", "that", "are", "passed", "to", "the", "right", "of", "group", "F", "r", ",", "r", "-LSB-", "d", "-RSB-", ".", "For", "the", "assignment", "of", "the", "balls", "that", "end", "up", "in", "group", "F", "d", "+1", "we", "use", "a", "slightly", "modified", "version", "of", "the", "always", "go", "left", "scheduler", "of", "-LSB-", "18", "-RSB-", "that", "gives", "an", "upper", "bound", "on", "the", "maximum", "load", "in", "group", "F", "d", "+1", "-LRB-", "we", "denote", "this", "by", "L", "max", "-LSB-", "F", "d", "+1", "-RSB-", "-RRB-", ".", "This", "upper", "bound", "on", "L", "max", "-LSB-", "F", "d", "+1", "-RSB-", "holds", "with", "high", "probability", ".", "This", "assignment", "is", "only", "used", "when", "it", "produces", "a", "smaller", "maximum", "load", "than", "the", "brute", "assignment", "of", "all", "the", "balls", "ending", "up", "in", "F", "d", "+1", "to", "the", "d", "fastest", "bins", "of", "the", "group", ".", "We", "shall", "consider", "a", "notion", "of", "time", "that", "corresponds", "to", "the", "assignments", "of", "newly", "arrived", "balls", "into", "the", "system", ":", "At", "time", "t", "m", ",", "the", "t", "th", "ball", "of", "the", "input", "sequence", "is", "thrown", "into", "the", "system", "and", "it", "has", "to", "be", "immediately", "assigned", "to", "one", "of", "its", "2d", "candidates", ".", "Consider", "the", "polls", "on", "behalf", "of", "a", "ball", "to", "be", "ordered", "according", "to", "the", "groups", "from", "which", "they", "are", "taken", ".", "Observe", "then", "that", "each", "ball", "t", "is", "assigned", "to", "the", "first", "unsaturated", "bin", "that", "it", "hits", "from", "the", "first", "d", "groups", ",", "or", "to", "a", "bin", "in", "group", "F", "d", "+1", ".", "Thus", ",", "-LSB-", "d", "+1", "-RSB-", ",", "each", "ball", "that", "has", "been", "assigned", "to", "group", "F", "up", "to", "-LRB-", "and", "including", "-RRB-", "ball", ",", "has", "definitely", "failed", "to", "hit", "an", "unsaturated", "bin", "in", "all", "the", "groups", "F", "1", ",", "...", ",", "F", "-1", ".", "For", "any", "ball", "t", "m", "and", "-LSB-", "d", "-RSB-", ",", "let", "Q", "t", "-LRB-", "-RRB-", "denote", "the", "number", "of", "balls", "that", "have", "been", "assigned", "to", "group", "F", "up", "to", "time", "t", "-LRB-", "ie", ",", "right", "after", "the", "assignment", "of", "the", "t", "th", "ball", "-RRB-", ",", "while", "~", "Q", "t", "-LRB-", "-RRB-", "denotes", "the", "balls", "that", "have", "been", "assigned", "to", "the", "right", "of", "group", "F", ",", "that", "is", ",", "to", "bins", "of", "-LSB-", "n", "-RSB-", "\\", "=", "1", "F", ".", "Thus", ",", "~", "Q", "t", "-LRB-", "-RRB-", "=", "d", "+1", "=", "+1", "Q", "t", "-LRB-", "-RRB-", ".", "Let", "also", "S", "t", "-LRB-", "-RRB-", "denote", "the", "set", "of", "saturated", "bins", "in", "F", "at", "time", "t.", "Then", ",", "-LSB-", "d", "-RSB-", ",", "t", ",", "IP", "-LSB-", "t", "hits", "a", "saturated", "bin", "in", "F", "-RSB-", "=", "C", "-LSB-", "S", "t-1", "-LRB-", "-RRB-", "-RSB-", "C", "-LSB-", "F", "-RSB-", "C", "-LSB-", "S", "-LRB-", "-RRB-", "-RSB-", "C", "-LSB-", "F", "-RSB-", ".", "Observe", "now", "that", "-LSB-", "d", "-RSB-", ",", "Q", "-LRB-", "-RRB-", "=", "iF", "q", "-LRB-", "i", "-RRB-", "iS", "-LRB-", "-RRB-", "C", "i", "q", "-LRB-", "i", "-RRB-", "C", "i", ">", "C", "-LSB-", "S", "-LRB-", "-RRB-", "-RSB-", "-LRB-", "a", "-RRB-", "C", "-LSB-", "S", "-LRB-", "-RRB-", "-RSB-", "C", "-LSB-", "F", "-RSB-", "<", "Q", "-LRB-", "-RRB-", "-LRB-", "a", "-RRB-", "C", "-LSB-", "F", "-RSB-", "P", "-LRB-", "1", "-RRB-", "130", "Recall", "that", "up", "to", "time", ",", "we", "can", "be", "sure", "that", "Q", "-LRB-", "-RRB-", "-LRB-", "a", "-RRB-", "C", "-LSB-", "F", "-RSB-", "-LRB-", "because", "all", "these", "balls", "are", "assigned", "to", "unsaturated", "bins", "-RRB-", ",", "which", "in", "turn", "assures", "that", "P", "1", ".", "Inequality", "-LRB-", "1", "-RRB-", "implies", "that", ",", "had", "we", "known", "~", "Q", "-LRB-", "-1", "-RRB-", ",", "then", "the", "number", "~", "Q", "-LRB-", "-RRB-", "of", "balls", "before", "ball", "+", "1", "that", "go", "to", "the", "right", "of", "set", "F", "would", "be", "stochastically", "dominated", "by", "the", "number", "of", "successes", "in", "~", "Q", "-LRB-", "-1", "-RRB-", "Bernoulli", "trials", "with", "success", "probability", "P", ".", "We", "shall", "denote", "this", "number", "by", "B", "-LRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", ",", "P", "-RRB-", ".", "5", "In", "the", "following", "lemma", ",", "we", "apply", "the", "Chernoff-Hoeffding", "bound", "on", "these", "Bernoulli", "trials", "to", "get", "an", "upper", "bound", "on", "the", "amount", "of", "balls", "that", "have", "to", "be", "assigned", "beyond", "group", "F", ",", "for", "-LSB-", "d", "-RSB-", ",", "as", "a", "function", "of", "the", "number", "of", "balls", "that", "have", "been", "assigned", "beyond", "group", "F", "-1", ":", "Lemma", "4.1", ".", "-LSB-", "d", "-RSB-", "and", "for", "an", "arbitrary", "constant", ">", "1", ",", "with", "probability", "at", "least", "1", "-", "n", "~", "Q", "-LRB-", "-RRB-", "max", "2", "+1", "-LSB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-RSB-", "2", "-LRB-", "a", "-RRB-", "n", ",", "2", "ln", "n", "~", "Q", "-LRB-", "-", "1", "-RRB-", ".", "Proof", ":", "Let", "'s", "assume", "that", "we", "already", "know", "the", "number", "~", "Q", "-LRB-", "-", "1", "-RRB-", "of", "balls", "that", "have", "already", "failed", "in", "F", "1", ",", "...", ",", "F", "-1", ".", "Then", "~", "Q", "-LRB-", "-RRB-", "is", "stochastically", "dominated", "by", "the", "random", "variable", "B", "-LRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", ",", "P", "-RRB-", ".", "By", "applying", "Chernoff-Hoeffding", "bounds", "-LRB-", "-LSB-", "11", "-RSB-", ",", "p.", "198", "-RRB-", "on", "these", "Bernoulli", "trials", ",", "we", "get", "that", "IP", "-LSB-", "B", "-LRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", ",", "P", "-RRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-LRB-", "P", "+", "-RRB-", "-RSB-", "exp", "-LRB-", "-2", "~", "Q", "-LRB-", "-", "1", "-RRB-", "2", "-RRB-", ",", ">", "0", "IP", "B", "-LRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", ",", "P", "-RRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", "P", "+", "ln", "n", "2", "~", "Q", "-LRB-", "-1", "-RRB-", "n", ",", ">", "0", "where", "we", "have", "set", "=", "ln", "n", "2", "~", "Q", "-LRB-", "-1", "-RRB-", ".", "But", "recall", "that", "P", "=", "Q", "-LRB-", "-RRB-", "-LRB-", "a", "-RRB-", "C", "-LSB-", "F", "-RSB-", "and", "also", "that", "C", "-LSB-", "F", "-RSB-", "n", "2", ".", "Thus", "we", "conclude", "that", "with", "probability", "at", "least", "1", "-", "n", ",", "~", "Q", "-LRB-", "-RRB-", "B", "-LRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", ",", "P", "-RRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", "2", "Q", "-LRB-", "-RRB-", "-LRB-", "a", "-RRB-", "n", "+", "ln", "n", "2", "~", "Q", "-LRB-", "-1", "-RRB-", "Q", "-LRB-", "-RRB-", "=", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-", "~", "Q", "-LRB-", "-RRB-", "~", "Q", "-LRB-", "-RRB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", "2", "-LSB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-", "~", "Q", "-LRB-", "-RRB-", "-RSB-", "-LRB-", "a", "-RRB-", "n", "+", "ln", "n", "2", "~", "Q", "-LRB-", "-", "1", "-RRB-", "~", "Q", "-LRB-", "-RRB-", "1", "+", "2", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-LRB-", "a", "-RRB-", "n", "~", "Q", "-LRB-", "-", "1", "-RRB-", "2", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-LRB-", "a", "-RRB-", "n", "+", "ln", "n", "2", "~", "Q", "-LRB-", "-", "1", "-RRB-", "~", "Q", "-LRB-", "-RRB-", "2", "-LSB-", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-RSB-", "2", "+", "-LRB-", "a", "-RRB-", "n", "ln", "n", "2", "~", "Q", "-LRB-", "-", "1", "-RRB-", "-LRB-", "a", "-RRB-", "n", "+", "2", "~", "Q", "-LRB-", "-", "1", "-RRB-", "from", "which", "we", "get", "the", "desired", "bound", ".", "Consider", "now", "the", "following", "finite", "sequence", "^", "Q", "-LRB-", "-RRB-", "=", "max", "2", "+1", "-LSB-", "^", "Q", "-LRB-", "-1", "-RRB-", "-RSB-", "2", "-LRB-", "a", "-RRB-", "n", ",", "2", "ln", "n", "^", "Q", "-LRB-", "-", "1", "-RRB-", ",", "-LSB-", "d", "-RSB-", "^", "Q", "-LRB-", "0", "-RRB-", "=", "m", "5", "For", "the", "integrity", "of", "the", "representation", "we", "set", "~", "Q", "-LRB-", "0", "-RRB-", "=", "m", "-", "1", ".", "We", "then", "bound", "the", "number", "of", "balls", "that", "end", "up", "in", "group", "F", "d", "+1", "by", "the", "d", "th", "term", "of", "this", "sequence", ":", "Lemma", "4.2", ".", "With", "probability", "at", "least", "1", "-", "dn", ",", "at", "most", "^", "Q", "-LRB-", "d", "-RRB-", "balls", "end", "up", "in", "group", "F", "d", "+1", ".", "Proof", ":", "The", "proof", "of", "this", "lemma", "is", "relatively", "simple", "and", "due", "to", "lack", "of", "space", "it", "is", "differed", "to", "the", "full", "version", "of", "the", "paper", ".", "Consequently", "we", "estimate", "a", "closed", "form", "for", "the", "first", "terms", "of", "the", "bounding", "sequence", "^", "Q", "-LRB-", "-RRB-", ",", "=", "0", ",", "...", ",", "d", "that", "was", "determined", "earlier", ":", "Lemma", "4.3", ".", "The", "first", "log", "log", "m", "ln", "n", "log", "-LRB-", "a/8", "-RRB-", "+2", "terms", "of", "the", "bounding", "sequence", "^", "Q", "-LRB-", "-RRB-", ",", "=", "0", ",", "...", ",", "d", "are", "given", "by", "the", "closed", "form", "^", "Q", "-LRB-", "-RRB-", "=", "m", "2", "-LRB-", "a", "8", "-RRB-", "2-1", ".", "Proof", ":", "Assume", "that", "was", "the", "first", "element", "in", "the", "sequence", "for", "which", "2", "+1", "-LSB-", "^", "Q", "-LRB-", "-", "1", "-RRB-", "-RSB-", "2", "-LRB-", "a", "-RRB-", "n", "<", "2", "ln", "n", "^", "Q", "-LRB-", "-", "1", "-RRB-", "-LRB-", "2", "-RRB-", "Then", ",", "up", "to", "term", "-", "1", "the", "sequence", "is", "dominated", "by", "the", "right-hand", "term", "of", "the", "above", "inequality", ",", "and", "thus", ",", "r", "<", ",", "^", "Q", "-LRB-", "r", "-RRB-", "=", "2", "r", "+1", "-LRB-", "a", "-RRB-", "n", "-LSB-", "^", "Q", "-LRB-", "r", "-", "1", "-RRB-", "-RSB-", "2", "=", "2", "r", "+1", "-LRB-", "a", "-RRB-", "n", "2", "r", "-LRB-", "a", "-RRB-", "n", "2", "-LSB-", "^", "Q", "-LRB-", "r", "-", "2", "-RRB-", "-RSB-", "4", "=", "2", "r", "+1", "-LRB-", "a", "-RRB-", "n", "2", "0", "2", "r", "-LRB-", "a", "-RRB-", "n", "2", "1", "2", "r-1", "-LRB-", "a", "-RRB-", "n", "2", "2", "-LSB-", "^", "Q", "-LRB-", "r", "-", "3", "-RRB-", "-RSB-", "2", "3", "=", "=", "r", "=", "1", "2", "2", "r", "+2", "-LRB-", "a", "-RRB-", "n", "2", "-1", "-LSB-", "^", "Q", "-LRB-", "0", "-RRB-", "-RSB-", "2", "r", "=", "2", "r", "=", "1", "-LRB-", "r", "+2", "-", "-RRB-", "2", "-1", "1", "-LRB-", "a", "-RRB-", "n", "r", "=", "1", "2", "-1", "-LSB-", "^", "Q", "-LRB-", "0", "-RRB-", "-RSB-", "2", "r", "=", "2", "3", "2", "r", "-", "r-3", "-LRB-", "a", "-RRB-", "n", "m", "2", "r", "-1", "m", "m", "2", "r", "a", "8", "2", "r", "-1", "since", "-LRB-", "a", "-RRB-", "n", "8", "m", "a", "8", ".", "We", "now", "plug", "in", "this", "closed", "form", "for", "^", "Q", "-LRB-", "1", "-RRB-", "in", "inequality", "-LRB-", "2", "-RRB-", "to", "get", "the", "following", ":", "2", "ln", "n", ">", "2", "+1", "-LRB-", "a", "-RRB-", "n", "m", "2", "-1", "a8", "2", "-1", "-1", "3", "/", "2", "m", "3", "/", "2", "2", "lnn", "<", "-LRB-", "a", "-RRB-", "n", "2", "+1", "2", "3", "2", "-LRB-", "-1", "-RRB-", "-LRB-", "a", "-RRB-", "n", "8m", "2", "-1", "-1", "m", "2", "ln", "n", "<", "2", "1", "2", "-LRB-", "+3", "-RRB-", "a", "8", "2", "-1", "From", "the", "above", "and", "the", "definition", "of", ",", "it", "is", "easy", "to", "see", "that", "-1", "=", "max", "r", "-LSB-", "d", "-RSB-", ":", "ln", "m-ln", "-", "lnln", "n", "ln", "2", "-", "4", "r", "+", "2", "r-2", "ln", "a", "8", ".", "By", "setting", "A", "=", "log", "m", "lnln", "n", "+", "ln", "ln", "2", "-", "4", "and", "B", "=", "ln", "a", "8", "we", "get", "the", "solution", "A", "W", "-LSB-", "B", "ln", "2", "4", "exp", "-LRB-", "A", "ln", "2", "-RRB-", "-RSB-", "ln", "2", "+", "1", ",", "where", "W", "-LRB-", "x", "-RRB-", "is", "the", "Lambert", "W", "Function", "-LRB-", "-LSB-", "7", "-RSB-", "-RRB-", ".", "By", "approximating", "this", "function", "by", "ln", "x", "-", "lnln", "x", "-LRB-", "since", "x", "=", "B", "ln", "2", "4", "exp", "-LRB-", "A", "ln", "2", "-RRB-", "-RRB-", "we", "conclude", "that", "log", "log", "m", "ln", "n", "log", "-LRB-", "a/8", "-RRB-", "+", "3", "131", "Lemma", "4.4", ".", "Assume", "that", "m", "n", "and", "d", "<", "lnln", "n-lnlnln", "n", "-LRB-", "2", "+1", "-RRB-", "ln", "2", ".", "If", "we", "set", "a", "=", "8", "n", "d2", "d", "+3", "1", "/", "-LRB-", "2", "d", "+1", "-1", "-RRB-", "the", "cost", "of", "OBL", "is", "upper", "bounded", "-LRB-", "whp", "-RRB-", "by", "OBL", "-LRB-", "m", "-RRB-", "-LRB-", "1", "+", "o", "-LRB-", "1", "-RRB-", "-RRB-", "-LRB-", "a", "+", "1", "-RRB-", "ADV", "-LRB-", "m", "-RRB-", ".", "Proof", ":", "The", "cost", "of", "OBL", "up", "to", "time", "is", "upper-bounded", "by", "max", "-LCB-", "L", "max", "-LSB-", "F", "d", "+1", "-RSB-", ",", "-LRB-", "a", "+", "1", "-RRB-", "opt", "-RCB-", "since", "in", "the", "first", "d", "groups", "no", "saturated", "bin", "ever", "gets", "another", "ball", "and", "all", "the", "bins", "are", "legitimate", ".", "We", "choose", "a", "so", "that", "the", "cost", "in", "the", "first", "d", "groups", "is", "at", "least", "as", "large", "as", "L", "max", "-LSB-", "F", "d", "+1", "-RSB-", "-LRB-", "whp", "-RRB-", ",", "given", "the", "upper", "bound", "^", "Q", "-LRB-", "d", "-RRB-", "on", "the", "number", "of", "balls", "that", "end", "up", "in", "the", "last", "group", ".", "Thus", "the", "probability", "of", "+", "1", "existing", "will", "be", "then", "polynomially", "small", "because", "at", "least", "one", "poll", "in", "F", "d", "+1", "will", "have", "to", "be", "unsaturated", "whp", ".", "This", "then", "implies", "the", "claimed", "upper", "bound", "on", "the", "performance", "of", "OBL", ".", "Due", "to", "lack", "of", "space", ",", "the", "complete", "proof", "of", "this", "lemma", "is", "presented", "in", "the", "full", "version", "of", "the", "paper", ".", "Combining", "the", "statements", "of", "all", "these", "technical", "lemmas", ",", "we", "conclude", "with", "the", "desired", "bound", "on", "the", "competitive", "ratio", "of", "OBL", ".", "In", "the", "previous", "section", "we", "have", "proposed", "a", "hops", "scheduler", "that", "is", "based", "on", "the", "knowledge", "of", "the", "size", "of", "the", "input", "sequence", "and", "then", "assures", "that", "its", "own", "performance", "is", "never", "worse", "than", "-LRB-", "a", "+", "1", "-RRB-", "opt", ",", "whp", ".", "In", "this", "section", "we", "propose", "a", "haps", "scheduler", "-LRB-", "call", "it", "ADAPT", "-RRB-", "whose", "main", "purpose", "is", "to", "``", "guess", "''", "the", "value", "opt", "of", "the", "optimum", "offline", "cost", "by", "a", "classical", "guessing", "argument", "and", "then", "let", "OBL", "do", "the", "rest", "of", "the", "assignments", ".", "This", "approach", "is", "in", "complete", "analogy", "with", "the", "online", "schedulers", "of", "the", "Related", "Machines-Full", "Information", "problem", "-LRB-", "see", "-LSB-", "6", "-RSB-", ",", "pp.", "208-210", "-RRB-", ".", "The", "only", "difference", "is", "that", "OBL", "has", "a", "performance", "which", "holds", "whp", ",", "and", "this", "is", "why", "the", "final", "result", "also", "holds", "whp", ".", "A", "significant", "difficulty", "of", "ADAPT", "is", "exactly", "this", "guessing", "mechanism", "that", "will", "have", "to", "be", "based", "on", "the", "limited", "information", "provided", "to", "each", "of", "the", "new", "tasks", ".", "Our", "goal", "is", "not", "to", "assume", "that", "any", "kind", "of", "additional", "information", "-LRB-", "eg", ",", "global", "environment", "variables", "-RRB-", "is", "provided", "to", "the", "balls", ",", "other", "than", "the", "capacity", "vector", "and", "the", "current", "loads", "of", "each", "ball", "'s", "candidates", ".", "ADAPT", "sacrifices", "one", "of", "the", "available", "polls", "per", "ball", ",", "in", "order", "to", "create", "such", "a", "good", "guessing", "mechanism", ".", "Of", "course", ",", "a", "different", "approach", "that", "would", "be", "based", "on", "the", "outcome", "of", "some", "of", "the", "polls", "-LRB-", "eg", ",", "a", "constant", "fraction", "of", "the", "polls", "-RRB-", "in", "order", "to", "estimate", "a", "proper", "online", "prediction", "of", "opt", "would", "be", "more", "interesting", "in", "the", "sense", "that", "it", "would", "not", "create", "a", "communication", "bottleneck", "for", "the", "tasks", ".", "Nevertheless", ",", "the", "purpose", "of", "ADAPT", "is", "mainly", "to", "demonstrate", "the", "possibility", "of", "constructing", "such", "an", "adaptive", "scheduler", "whose", "performance", "is", "close", "to", "that", "of", "OBL", ".", "Let", "'s", "assume", "that", "the", "system", "now", "has", "n", "+", "1", "capacitated", "bins", "-LRB-", "C", "min", "=", "C", "1", "C", "2", "C", "n", "+1", "=", "C", "max", "-RRB-", ".", "Assume", "also", "that", "each", "new", "task", "is", "provided", "with", "2d", "+", "1", "polls", ".", "Fix", "a", "number", "r", ">", "1", ".", "Then", "an", "r-guessing", "mechanism", "proceeds", "in", "stages", ":", "Stage", "-LRB-", "=", "0", ",", "1", ",", "...", "-RRB-", "contains", "a", "-LRB-", "consecutive", "-RRB-", "subsequence", "of", "tasks", "from", "the", "input", "sequence", "that", "use", "the", "same", "prediction", "=", "r", "0", "for", "their", "assignment", ".", "We", "set", "0", "=", "1", "C", "max", ".", "The", "following", "definitions", "refer", "to", "the", "notions", "of", "eligible", "and", "saturated", "machines", "upon", "the", "arrival", "of", "a", "new", "task", "t", "-LSB-", "m", "-RSB-", "into", "the", "system", ",", "that", "are", "used", "in", "a", "similar", "fashion", "as", "in", "-LSB-", "5", "-RSB-", "where", "the", "concept", "of", "eligible-saturated", "machines", "was", "introduced", ":", "Definition", "5.1", ".", "Suppose", "that", "task", "t", "m", "belongs", "to", "stage", ".", "The", "set", "of", "eligible", "machines", "for", "t", "is", "E", "i", "-LSB-", "n", "-RSB-", ":", "1", "C", "i", "=", "r", "0", ",", "while", "a", "machine", "i", "-LSB-", "n", "-RSB-", "is", "considered", "to", "be", "saturated", "upon", "the", "arrival", "of", "task", "t", ",", "if", "t-1", "-LRB-", "i", "-RRB-", ">", "a", "=", "r", "a", "0", ",", "where", "a", "=", "8", "max", "1", ",", "|", "E", "|", "d2", "d", "+3", "1", "/", "-LRB-", "2", "d", "+1", "-1", "-RRB-", ".", "Notice", "that", "the", "static", "information", "of", "-LRB-", "E", ",", "a", "-RRB-", ",", "=", "0", ",", "1", ",", "...", "only", "depends", "on", "the", "capacity", "vector", "c", "and", "the", "number", "d", "of", "polls", "per", "task", ".", "Thus", "it", "can", "be", "easily", "computed", "by", "each", "of", "the", "tasks", ",", "or", "alternatively", "it", "can", "be", "provided", "a", "priori", "to", "all", "the", "tasks", "as", "additional", "offline", "information", ".", "ADAPT", "proceeds", "in", "phases", "and", "works", "as", "follows", ":", "Upon", "the", "arrival", "of", "a", "new", "ball", "t", "-LSB-", "m", "-RSB-", ",", "first", "the", "fastest", "bin", "in", "the", "system", "is", "polled", "and", "the", "stage", "s", "-LRB-", "t", "-RRB-", "to", "which", "this", "ball", "belongs", "is", "determined", ",", "according", "to", "the", "following", "rule", ":", "s", "-LRB-", "t", "-RRB-", "=", "IN", ":", "r", "-1", "a", "-1", "+", "1", "<", "q", "t-1", "-LRB-", "n", "+", "1", "-RRB-", "r", "a", "+", "1", "-LRB-", "obviously", "for", "stage", "0", "only", "the", "second", "inequality", "must", "hold", "-RRB-", ".", "The", "remaining", "2d", "polls", "of", "task", "t", "are", "taken", "from", "group", "E", "s", "-LRB-", "t", "-RRB-", "in", "a", "fashion", "similar", "to", "that", "of", "OBL", ".", "The", "assignment", "strategy", "of", "ADAPT", "is", "exactly", "the", "same", "with", "that", "of", "OBL", ",", "with", "the", "only", "difference", "that", "whenever", "the", "first", "2d", "candidates", "of", "a", "task", "are", "already", "saturated", ",", "then", "this", "task", "is", "assigned", "to", "the", "fastest", "machine", "in", "the", "system", ",", "n", "+", "1", ".", "If", "the", "latter", "event", "causes", "machine", "n", "+", "1", "to", "become", "also", "saturated", ",", "then", "by", "the", "definition", "of", "the", "stages", "this", "task", "is", "the", "last", "ball", "of", "the", "current", "stage", "and", "a", "new", "stage", "-LRB-", "with", "an", "r", "times", "larger", "prediction", "-RRB-", "starts", "from", "the", "next", "task", "on", ".", "Lemma", "5.1", ".", "Suppose", "that", "ADAPT", "uses", "r", "=", "9/4", ".", "Let", "h", "denote", "the", "stage", "at", "which", "the", "prediction", "h", "of", "ADAPT", "reaches", "opt", "for", "the", "first", "time.Then", "the", "last", "stage", "of", "ADAPT", "is", "at", "most", "h", "+", "1", ".", "Proof", ":", "The", "case", "of", "h", "=", "0", "is", "easy", "since", "this", "implies", "that", "opt", "=", "1/C", "max", "and", "then", "ADAPT", "can", "not", "be", "worse", "than", "OBL", "which", "-LRB-", "having", "the", "right", "prediction", "-RRB-", "succeeds", "to", "assign", "all", "the", "incoming", "tasks", "-LRB-", "but", "for", "those", "that", "might", "fit", "in", "machine", "n", "+1", "without", "making", "it", "saturated", "-RRB-", "below", "-LRB-", "a", "0", "+", "1", "-RRB-", "opt", ",", "whp", ".", "So", "let", "'s", "consider", "the", "case", "where", "h", "1", ".", "Let", "E", "denote", "the", "set", "of", "legitimate", "machines", "in", "the", "system", "-LRB-", "ie", ",", "E", "=", "-LCB-", "i", "-LSB-", "n", "+", "1", "-RSB-", ":", "1/C", "i", "opt", "-RCB-", "-RRB-", ".", "The", "amount", "of", "work", "inserted", "into", "the", "system", "during", "the", "whole", "assignment", "process", "is", "bounded", "by", "C", "-LSB-", "E", "-RSB-", "opt", ".", "By", "definition", "of", "h", ",", "r", "h-1", "/", "C", "max", "<", "opt", "r", "h", "/", "C", "max", ".", "Stage", "h", "+", "1", "ends", "when", "machine", "n", "+", "1", "becomes", "saturated", ".", "Let", "W", "-LRB-", "-RRB-", "denote", "the", "total", "amount", "of", "work", "assigned", "during", "stage", ",", "while", "R", "-LRB-", "-RRB-", "denotes", "the", "amount", "of", "remaining", "work", "at", "the", "end", "of", "stage", ".", "We", "shall", "prove", "that", "the", "amount", "of", "remaining", "work", "at", "the", "end", "of", "stage", "h", "is", "not", "enough", "to", "make", "OBL", "fail", "within", "stage", "h", "+", "1", ".", "Observe", "that", "at", "the", "end", "of", "stage", "h", ",", "no", "machine", "has", "exceeded", "a", "load", "of", "-LRB-", "a", "h", "+", "1", "-RRB-", "h", "=", "-LRB-", "a", "h", "+", "1", "-RRB-", "r", "h", "/", "C", "max", "-LRB-", "by", "definition", "of", "stages", "-RRB-", ".", "On", "the", "other", "hand", ",", "during", "stage", "h", "+", "1", ",", "each", "of", "the", "eligible", "machines", "i", "E", "h", "+1", "needs", "a", "load", "of", "more", "than", "a", "h", "+1", "h", "+1", "=", "a", "h", "+1", "r", "h", "+1", "/", "C", "max", "in", "order", "to", "become", "saturated", "for", "this", "stage", ".", "We", "denote", "the", "additional", "free", "space", "of", "bin", "132", "i", "E", "h", "+1", "by", "f", "ree", "i", "-LRB-", "h", "+1", "-RRB-", ">", "a", "h", "+1", "r", "h", "+1", "C", "max", "-LRB-", "a", "h", "+1", "-RRB-", "r", "h", "C", "max", "C", "i", ",", "while", "F", "REE", "-LRB-", "h", "+", "1", "-RRB-", "iE", "h", "+1", "f", "ree", "i", "-LRB-", "h", "+", "1", "-RRB-", ">", "a", "h", "+1", "r", "h", "+1", "C", "max", "-", "-LRB-", "a", "h", "+", "1", "-RRB-", "r", "h", "C", "max", "C", "-LSB-", "E", "h", "+1", "-RSB-", ">", "a", "h", "+1", "r", "h", "+1", "C", "max", "1", "-", "a", "h", "+", "1", "r", "a", "h", "+1", "C", "-LSB-", "E", "h", "+1", "-RSB-", ">", "-LRB-", "a", "h", "+1", "+", "1", "-RRB-", "optC", "-LSB-", "E", "h", "+1", "-RSB-", "ra", "h", "+1", "a", "h", "+1", "+", "1", "a", "h", "+", "1", "a", "h", "+1", "+", "1", "-LRB-", "3", "-RRB-", "is", "the", "cumulative", "free", "space", "granted", "to", "the", "eligible", "bins", "of", "the", "system", "for", "stage", "h", "+", "1", ".", "It", "only", "remains", "to", "prove", "that", "the", "amount", "of", "work", "that", "has", "to", "be", "dealt", "with", "by", "OBL", "using", "only", "the", "bins", "of", "-LSB-", "n", "-RSB-", "is", "less", "than", "F", "REE", "-LRB-", "h", "+1", "-RRB-", "/", "-LRB-", "a", "h", "+1", "+1", "-RRB-", ".", "Observe", "now", "that", "OBL", "uses", "the", "bins", "of", "E", "h", "+1", "and", "has", "to", "deal", "with", "an", "amount", "of", "work", "less", "than", "W", "-LRB-", "h", "+", "1", "-RRB-", "-", "f", "ree", "n", "+1", "-LRB-", "h", "+", "1", "-RRB-", "<", "R", "-LRB-", "h", "-RRB-", "-", "a", "h", "+1", "r", "h", "C", "max", "r", "a", "h", "+1", "a", "h", "+1", "C", "max", "<", "C", "-LSB-", "E", "-RSB-", "opt", "-", "a", "h", "+1", "-LRB-", "r-2", "-RRB-", "opt", "C", "max", "<", "opt", "-LRB-", "C", "-LSB-", "E", "-RSB-", "-", "-LRB-", "r-2", "-RRB-", "a", "h", "+1", "C", "max", "-RRB-", "<", "-LRB-", "C", "-LSB-", "E", "-RSB-", "-", "C", "max", "-RRB-", "opt", "if", "we", "set", "r", "17/8", ".", "This", "is", "because", "a", "h", "+1", "a", "h", "8", "and", "at", "the", "end", "of", "stage", "h", "+1", "bin", "n", "+1", "must", "have", "already", "become", "saturated", ".", "Observe", "also", "that", "E", "h", "+1", "E", "h", "E", "\\", "-LCB-", "n", "+", "1", "-RCB-", "by", "definition", "of", "h.", "Thus", ",", "C", "-LSB-", "E", "h", "+1", "-RSB-", "C", "-LSB-", "E", "-RSB-", "-", "C", "max", ".", "Thus", ",", "the", "amount", "of", "work", "that", "has", "to", "be", "served", "by", "OBL", "during", "stage", "h", "+", "1", "is", "less", "than", "opt", "C", "-LSB-", "E", "h", "+1", "-RSB-", ".", "Then", ",", "setting", "r", "=", "9/4", "in", "inequality", "-LRB-", "3", "-RRB-", "assures", "that", "ra", "h", "+1", "a", "h", "+1", "+1", "a", "h", "+1", "a", "h", "+1", "+1", "1", "-LRB-", "recall", "that", "a", "h", "+1", "a", "h", "8", "-RRB-", "and", "thus", "the", "remaining", "work", "at", "the", "end", "of", "stage", "h", "is", "not", "enough", "to", "make", "OBL", "fail", ".", "The", "following", "theorem", "is", "now", "a", "straightforward", "consequence", "of", "the", "previous", "lemma", ":", "Theorem", "3", ".", "For", "any", "input", "sequence", "of", "identical", "tasks", "that", "have", "to", "be", "assigned", "to", "n", "related", "machines", "using", "at", "most", "2d", "+", "1", "polls", "per", "task", ",", "the", "cost", "of", "ADAPT", "is", "-LRB-", "whp", "-RRB-", ",", "ADAPT", "-LRB-", "-RRB-", "<", "O", "n", "d2", "d", "+3", "1", "/", "-LRB-", "2", "d", "+1", "-1", "-RRB-", "+", "1", "ADV", "-LRB-", "-RRB-", ".", "In", "this", "work", "we", "have", "studied", "the", "problem", "of", "exploiting", "limited", "online", "information", "for", "the", "assignment", "of", "a", "sequence", "of", "unit-size", "tasks", "to", "related", "machines", ".", "We", "have", "shown", "that", "the", "oblivious", "schedulers", "that", "perform", "asymptotically", "optimally", "in", "the", "case", "of", "identical", "machines", ",", "deteriorate", "significantly", "in", "this", "case", ".", "We", "have", "then", "determined", "an", "adaptive", "scheduler", "that", "actually", "mimics", "the", "behaviour", "of", "an", "ideal", "oblivious", "scheduler", ",", "in", "order", "to", "achieve", "roughly", "the", "asymptotically", "optimal", "performance", "similar", "to", "the", "case", "of", "the", "identical", "machines", ".", "As", "for", "further", "research", ",", "the", "issue", "of", "providing", "only", "limited", "information", "to", "online", "algorithms", "is", "critical", "in", "many", "problems", "for", "which", "an", "objective", "is", "also", "the", "minimization", "of", "the", "communication", "cost", ".", "In", "this", "category", "fall", "most", "of", "the", "network", "design", "problems", ".", "Another", "interesting", "line", "of", "research", "would", "be", "the", "avoidance", "of", "communication", "bottlenecks", "for", "such", "limited", "information", "online", "algorithms", ".", "Additionally", ",", "it", "would", "be", "very", "interesting", "to", "study", "the", "case", "of", "tasks", "of", "arbitrary", "sizes", "being", "injected", "into", "the", "system", ".", "The", "author", "wishes", "to", "thank", "Paul", "Spirakis", "for", "valuable", "discussions", "during", "the", "write-up", "of", "the", "paper", "and", "also", "for", "suggesting", "an", "appropriate", "terminology", "on", "the", "categorization", "of", "polling", "strategies", ".", "-LSB-", "1", "-RSB-", "J.", "Aspens", ",", "Y.", "Azar", ",", "A.", "Fiat", ",", "S.", "Plotkin", ",", "O.", "Waarts", ".", "Online", "Machine", "Scheduling", "with", "Applications", "to", "Load", "Balancing", "and", "Virtual", "Circuit", "Routing", ".", "In", "Journal", "of", "ACM", ",", "Vol", ".", "44", "-LRB-", "1997", "-RRB-", ",", "pp.", "486-504", ".", "-LSB-", "2", "-RSB-", "Y.", "Azar", ",", "A.", "Broder", ",", "A.", "Karlin", ",", "E.", "Upfal", ".", "Ballanced", "Allocations", ".", "In", "Proc", ".", "of", "26th", "ACM-STOC", "-LRB-", "1994", "-RRB-", ",", "pp.", "593-602", ".", "Also", "in", "SIAM", "J.", "Computing", ",", "29", "-LRB-", "1999", "-RRB-", ",", "pp.", "180-200", ".", "-LSB-", "3", "-RSB-", "P.", "Berman", ",", "M.", "Charikar", ",", "M.", "Karpinski", ".", "Online", "Load", "Balancing", "for", "Related", "Machines", ".", "In", "Proc", ".", "of", "5th", "Int", ".", "Workshop", "on", "Algorithms", "and", "Data", "Structures", "-LRB-", "1997", "-RRB-", ",", "LNCS", "1272", ",", "Springer-Verlag", "1997", ",", "pp.", "116-125", ".", "-LSB-", "4", "-RSB-", "P.", "Berenbrink", ",", "A.", "Czumaj", ",", "A.", "Steger", ",", "and", "B.", "V", "ocking", ".", "Balanced", "Allocations", ":", "The", "Heavily", "Loaded", "Case", ".", "In", "Proc", ".", "of", "32", "nd", "ACM-STOC", "-LRB-", "Portland", ",", "2000", "-RRB-", ",", "pp.", "745-754", ".", "-LSB-", "5", "-RSB-", "A.", "Bar-Noy", ",", "A.", "Freund", ",", "J.", "Naor", ".", "NewAlgorithms", "for", "Related", "Machines", "with", "Temporary", "Jobs", ".", "In", "Journal", "of", "Scheduling", ",", "Vol", ".", "3", "-LRB-", "2000", "-RRB-", ",", "pp.", "259-272", ".", "-LSB-", "6", "-RSB-", "A.", "Borodin", ",", "R.", "El", "Yaniv", ".", "Online", "Computation", "and", "Competitive", "Analysis", ".", "Cambridge", "Univ.", ".", "Press", "1998", ".", "-LSB-", "7", "-RSB-", "R.", "Corless", ",", "G.", "Gonnet", ",", "D.", "Hare", ",", "D.", "Jeffrey", ",", "D.", "Knuth", ".", "On", "the", "Lambert", "W", "Function", ".", "In", "Advances", "in", "Computational", "Mathematics", ",", "Vol", ".", "5", "-LRB-", "1996", "-RRB-", ",", "pp.", "329-359", ".", "-LSB-", "8", "-RSB-", "A.", "Czumaj", "and", "B.", "V", "ocking", ".", "Tight", "Bounds", "for", "Worst-Case", "Equilibria", ".", "In", "Proc", ".", "of", "13", "th", "ACM-SIAM", "SODA", "-LRB-", "San", "Francisco", ",", "2002", "-RRB-", ",", "pp.", "413-420", ".", "-LSB-", "9", "-RSB-", "Y.", "Azar", ".", "Online", "Load", "Balancing", ".", "In", "Online", "Algorithms", ":", "The", "State", "of", "the", "Art", ",", "A.", "Fiat", ",", "G.", "Woeginger", ",", "-LRB-", "Eds", ".", "-RRB-", ".", "LNCS", "1442", ",", "Springer", "1998", ",", "pp.", "178-195", ".", "-LSB-", "10", "-RSB-", "G.", "Gonnet", ".", "Expected", "Length", "of", "the", "Longest", "Probe", "Sequence", "in", "Hash", "Code", "Searching", ".", "In", "J.", "of", "ACM", ",", "Vol", ".", "28", ",", "No.", "2", "-LRB-", "1981", "-RRB-", ",", "pp.", "289-304", ".", "-LSB-", "11", "-RSB-", "M.", "Habib", ",", "C.", "McDiarmid", ",", "J.", "Ramirez-Alfonsin", ",", "B.", "Reed", "-LRB-", "Eds", ".", "-RRB-", ".", "Probabilistic", "Methods", "for", "Algorithmic", "Discrete", "Mathematics", ".", "ISBN", ":", "3-540-64622-1", ",", "Springer-Velrag", "1998", ".", "-LSB-", "12", "-RSB-", "E.", "Koutsoupias", ",", "C.", "Papadimitriou", ".", "Worst-case", "Equilibria", ".", "In", "Proc", ".", "of", "16", "th", "Annual", "Symposium", "on", "Theoretical", "Aspects", "of", "Computer", "Science", "-LRB-", "STACS", "-RRB-", ",", "LNCS", "1563", ",", "Springer-Verlag", "1999", ",", "pp.", "404-413", ".", "-LSB-", "13", "-RSB-", "M.", "Mavronicolas", ",", "P.", "Spirakis", ".", "The", "Price", "of", "Selfish", "Routing", ".", "In", "Proc", ".", "of", "33", "rd", "ACM-STOC", "-LRB-", "Krete", ",", "2001", "-RRB-", ",", "pp.", "510-519", ".", "-LSB-", "14", "-RSB-", "M.", "Mitzenmacher", ",", "A.", "Richa", ",", "R.", "Sitaraman", ".", "The", "Power", "of", "Two", "Random", "Choices", ":", "A", "Survey", "of", "Techniques", "and", "Results", ".", "In", "Handbook", "of", "Randomized", "Algorithms", "-LRB-", "to", "appear", "-RRB-", ".", "Also", "available", "through", "http://www.eecs.harvard.edu/", "michaelm", "/", ".", "-LSB-", "15", "-RSB-", "A.", "Steger", ",", "M.", "Raab", ".", "``", "Balls", "into", "Bins", "''", "-", "A", "Simple", "and", "Tight", "Analysis", ".", "In", "Proc", ".", "of", "RANDOM", "'", "98", ",", "LNCS", "1518", ",", "Springer", "Verlag", ",", "1998", ",", "pp.", "159-170", ".", "-LSB-", "16", "-RSB-", "J.", "Sgall", ".", "Online", "Scheduling", ".", "In", "Online", "Algorithms", ":", "The", "State", "of", "the", "Art", ",", "A.", "Fiat", ",", "G.", "Woeginger", "-LRB-", "Eds", ".", "-RRB-", ".", "LNCS", "1442", ",", "Springer", "1998", ",", "pp.", "196-231", ".", "-LSB-", "17", "-RSB-", "D.", "Shmoys", ",", "J.", "Wein", ",", "D.", "Williamson", ".", "Scheduling", "Parallel", "Machines", "Online", ".", "In", "Proc", ".", "of", "the", "32", "nd", "IEEE-FOCS", "-LRB-", "1991", "-RRB-", ",", "pp.", "131-140", ".", "-LSB-", "18", "-RSB-", "B.", "V", "ocking", ".", "HowAsymmetry", "Helps", "Load", "Balancing", ".", "In", "Proc", ".", "of", "40", "th", "IEEE-FOCS", "-LRB-", "NewYork", ",", "1999", "-RRB-", ",", "pp.", "131-140", ".", "133"], "doc_bio_tags": ["B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["hops", "input sequence", "online load balancing", "lower bounds", "limited information", "oblivious scheduler", "related machines", "scheduling", "online information"], "abstractive_keyphrases": ["unit-size task"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "35", "document": ["An", "Intensional", "Approach", "to", "the", "Specification", "of", "Test", "Cases", "for", "Database", "Applications", "When", "testing", "database", "applications", ",", "in", "addition", "to", "creating", "in-memory", "fixtures", "it", "is", "also", "necessary", "to", "create", "an", "initial", "database", "state", "that", "is", "appropriate", "for", "each", "test", "case", ".", "Current", "approaches", "either", "require", "exact", "database", "states", "to", "be", "specified", "in", "advance", ",", "or", "else", "generate", "a", "single", "initial", "state", "-LRB-", "under", "guidance", "from", "the", "user", "-RRB-", "that", "is", "intended", "to", "be", "suitable", "for", "execution", "of", "all", "test", "cases", ".", "The", "first", "method", "allows", "large", "test", "suites", "to", "be", "executed", "in", "batch", ",", "but", "requires", "considerable", "programmer", "effort", "to", "create", "the", "test", "cases", "-LRB-", "and", "to", "maintain", "them", "-RRB-", ".", "The", "second", "method", "requires", "less", "programmer", "effort", ",", "but", "increases", "the", "likelihood", "that", "test", "cases", "will", "fail", "in", "non-fault", "situations", ",", "due", "to", "unexpected", "changes", "to", "the", "content", "of", "the", "database", ".", "In", "this", "paper", ",", "we", "propose", "a", "new", "approach", "in", "which", "the", "database", "states", "required", "for", "testing", "are", "specified", "intensionally", ",", "as", "constrained", "queries", ",", "that", "can", "be", "used", "to", "prepare", "the", "database", "for", "testing", "automatically", ".", "This", "technique", "overcomes", "the", "limitations", "of", "the", "other", "approaches", ",", "and", "does", "not", "appear", "to", "impose", "significant", "performance", "overheads", ".", "D.", "2.5", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Testing", "and", "Debugging-Testing", "tools", "Experimentation", ",", "Verification", "Modern", "information", "systems", "are", "typically", "organised", "as", "collections", "of", "independent", "application", "programs", "that", "communicate", "with", "one", "another", "by", "means", "of", "a", "central", "database", ".", "The", "database", "records", "the", "state", "of", "the", "organisation", "that", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICSE", "'", "06", ",", "May", "20", "28", ",", "2006", ",", "Shanghai", ",", "China", ".", "Copyright", "2006", "ACM", "1-59593-085-X", "/", "06/0005", "...", "$", "5.00", ".", "information", "system", "supports", ",", "while", "the", "application", "programs", "implement", "the", "business", "processes", "that", "manipulate", "the", "state", ".", "To", "take", "a", "simple", "but", "ubiquitous", "example", ",", "a", "database", "system", "might", "record", "details", "of", "customers", ",", "products", "and", "sales", ",", "while", "the", "application", "programs", "associated", "with", "it", "handle", "operations", "such", "as", "new", "product", "purchases", "and", "update", "of", "the", "product", "catalogue", ",", "as", "well", "as", "supporting", "decision", "making", "by", "generating", "reports", "regarding", "the", "most", "profitable", "product", "lines", ",", "names", "and", "addresses", "of", "loss-making", "customers", ",", "etc.", ".", "In", "order", "to", "test", "such", "application", "programs", ",", "it", "is", "necessary", "to", "create", "test", "fixtures", "that", "simulate", "the", "presence", "of", "the", "rest", "of", "the", "information", "system", ".", "Fixtures", "for", "traditional", "test", "cases", "typically", "consist", "of", "in-memory", "objects", "and", "data", "structures", "that", "provide", "the", "inputs", "to", "the", "program", "being", "tested", ".", "This", "kind", "of", "fixture", "is", "also", "needed", "when", "testing", "database", "applications", "-LRB-", "especially", "when", "performing", "unit", "testing", "-RRB-", ";", "however", ",", "since", "it", "is", "unrealistic", "-LRB-", "and", "often", "incorrect", "-RRB-", "to", "execute", "test", "cases", "against", "an", "empty", "database", ",", "we", "need", "to", "create", "additional", "fixture", "elements", "within", "the", "database", "itself", ".", "Current", "practice", "in", "the", "software", "industry", "is", "to", "maintain", "one", "or", "more", "test", "databases", "that", "can", "be", "used", "for", "testing", "individual", "programs", ".", "These", "databases", "can", "be", "artificially", "generated", "-LRB-", "e.g.", ",", "using", "tools", "such", "as", "DBMonster", "1", "and", "DataFac-tory", "2", "-RRB-", "or", "they", "may", "be", "subsets", "of", "the", "live", "database", ",", "taken", "as", "a", "snapshot", "at", "some", "recent", "point", "in", "time", ".", "Copies", "of", "the", "live", "data", "sets", "have", "the", "advantage", "that", "they", "are", "more", "likely", "to", "be", "representative", "of", "the", "patterns", "of", "data", "encountered", "in", "practice", ",", "while", "artificial", "data", "sets", "have", "the", "advantage", "that", "they", "can", "be", "made", "to", "embody", "specific", "characteristics", "-LRB-", "such", "as", "particular", "data", "skew", "patterns", "or", "volumes", "-RRB-", ",", "which", "may", "be", "useful", "for", "load", "and", "stress", "testing", ".", "Both", "approaches", ",", "however", ",", "suffer", "from", "several", "disadvantages", ".", "The", "most", "significant", "problem", "occurs", "when", "none", "of", "the", "available", "test", "databases", "are", "suitable", "starting", "points", "for", "a", "particular", "test", "case", ".", "For", "example", ",", "suppose", "a", "particular", "test", "case", "executes", "a", "program", "which", "purges", "inactive", "customers", ",", "with", "the", "aim", "of", "verifying", "that", "the", "business", "rule", "forbidding", "deletion", "of", "customers", "with", "negative", "balances", "is", "correctly", "en-forced", ".", "If", "none", "of", "the", "test", "databases", "contains", "any", "inactive", "customers", "with", "negative", "balances", ",", "then", "the", "test", "case", "can", "not", "be", "executed", "successfully", ".", "For", "a", "one-off", "test", "run", ",", "testing", "personnel", "can", "choose", "a", "database", "that", "is", "close", "to", "what", "is", "required", ",", "and", "manually", "update", "it", "so", "that", "it", "is", "suitable", "for", "use", "with", "the", "test", "case", ".", "But", "if", "a", "complete", "test", "suite", "is", "to", "be", "executed", "-LRB-", "possibly", "including", "test", "cases", "which", "themselves", "make", "modifications", "to", "the", "database", "state", "-RRB-", "then", "in", "the", "worst", "case", "1", "http://DBMonster.kernelpanic.pl", "2", "http://www.quest.com/datafactory", "102", "this", "manual", "intervention", "will", "be", "required", "in", "between", "every", "test", "case", "execution", ".", "This", "is", "clearly", "undesirable", "if", "test", "suites", "are", "large", "or", "time-consuming", "to", "execute", ",", "or", "if", "the", "test", "suite", "is", "to", "be", "run", "in", "batch", "-LRB-", "as", "in", "the", "case", "of", "overnight", "regression", "testing", ",", "for", "example", "-RRB-", ".", "Current", "research", "in", "testing", "for", "database", "systems", "proposes", "two", "approaches", "to", "this", "problem", ".", "One", "of", "these", "is", "to", "include", "within", "the", "test", "case", "description", "a", "full", "-LRB-", "extensional", "-RRB-", "specification", "of", "the", "database", "state", "against", "which", "it", "is", "to", "be", "run", "-LRB-", "and", "of", "the", "database", "state", "that", "should", "be", "produced", "if", "the", "test", "has", "executed", "successfully", "-RRB-", "-LSB-", "13", ",", "14", "-RSB-", ".", "This", "solution", "is", "exemplified", "by", "DBUnit", "3", ",", "an", "extension", "of", "the", "JUnit", "testing", "framework", "4", "that", "is", "designed", "for", "testing", "database", "applications", "written", "in", "Java", ".", "Each", "DBUnit", "test", "case", "is", "accompanied", "by", "an", "XML", "file", "describing", "the", "data", "set", "required", "for", "the", "test", ".", "Before", "each", "test", "run", ",", "DBUnit", "clears", "the", "database", "state", "and", "inserts", "the", "data", "described", "by", "the", "XML", "file", ".", "This", "approach", "has", "the", "advantage", "of", "simplicity", ",", "but", "it", "places", "a", "considerable", "burden", "on", "testing", "personnel", ",", "especially", "when", "complex", "database", "states", "are", "required", ".", "It", "is", "also", "inefficient", ",", "since", "the", "database", "must", "be", "continually", "destroyed", "and", "recre-ated", "between", "tests", ",", "even", "when", "significant", "parts", "of", "the", "database", "might", "have", "been", "reused", "by", "the", "succeeding", "tests", ".", "Moreover", ",", "maintenance", "of", "a", "large", "suite", "of", "such", "tests", "is", "extremely", "challenging", ",", "since", "any", "small", "change", "to", "the", "database", "schema", "may", "require", "corresponding", "changes", "to", "many", "test", "cases", ".", "The", "second", "approach", "that", "has", "been", "explored", "in", "the", "literature", "is", "more", "efficient", "in", "that", "it", "requires", "the", "creation", "of", "only", "one", "database", "state", "per", "test", "suite", "-LRB-", "rather", "than", "one", "per", "test", "case", "-RRB-", ".", "It", "is", "exemplified", "by", "the", "AGENDA", "database", "testing", "toolkit", "-LSB-", "6", ",", "7", "-RSB-", ",", "which", "can", "automatically", "generate", "a", "database", "state", "given", "information", "about", "the", "schema", ",", "some", "data", "generation", "functions", "for", "individual", "attributes", "and", "some", "user-selected", "heuristics", "describing", "the", "kind", "of", "database", "state", "required", ".", "The", "AGENDA", "tool", "also", "generates", "test", "cases", "from", "a", "simple", "analysis", "of", "the", "program", "being", "verified", ".", "The", "user", "must", "then", "add", "preconditions", "to", "each", "test", "case", "that", "are", "checked", "just", "before", "it", "is", "executed", "and", "that", "will", "prevent", "a", "case", "from", "being", "executed", "against", "an", "inappropriate", "database", "state", ".", "This", "approach", "successfully", "relieves", "the", "user", "of", "the", "need", "to", "specify", "complete", "database", "states", "in", "full", "detail", ",", "but", "at", "a", "cost", ".", "The", "user", "must", "accept", "that", "some", "of", "the", "test", "cases", "may", "not", "be", "executed", "because", "the", "database", "state", "fails", "the", "precondition", ",", "even", "when", "it", "would", "require", "only", "a", "small", "change", "to", "bring", "the", "database", "into", "a", "suitable", "state", "for", "the", "test", ".", "Since", "only", "one", "database", "state", "is", "created", "per", "test", "suite", ",", "this", "problem", "of", "failed", "tests", "is", "likely", "to", "become", "more", "severe", "as", "the", "size", "of", "the", "test", "suite", "grows", ".", "There", "is", "also", "a", "potential", "inefficiency", "involved", "in", "generating", "test", "descriptions", "and", "inputs", ",", "and", "in", "creating", "the", "additional", "log", "tables", "and", "constraints/triggers", "needed", "by", "the", "AGENDA", "tool", ",", "for", "test", "cases", "that", "are", "not", "in", "fact", "going", "to", "be", "executed", ".", "Ideally", ",", "we", "would", "prefer", "to", "be", "able", "to", "combine", "the", "advantages", "of", "both", "these", "approaches", ",", "to", "give", "a", "form", "of", "database", "test", "case", "that", "is", "quick", "and", "natural", "to", "specify", ",", "and", "which", "maximises", "the", "number", "of", "cases", "within", "the", "suite", "that", "can", "be", "executed", "while", "minimising", "the", "number", "of", "full", "test", "databases", "that", "need", "to", "be", "maintained", ".", "Our", "thesis", "is", "that", "this", "can", "be", "achieved", "by", "allowing", "testing", "personnel", "to", "describe", "the", "database", "states", "involved", "in", "their", "test", "cases", "intensionally", ",", "in", "3", "http://www.dbunit.org", "4", "http://www.junit.org", "the", "form", "of", "declarative", "conditions", "that", "the", "input", "database", "must", "satisfy", ",", "and", "by", "providing", "a", "testing", "harness", "that", "can", "automatically", "adjust", "the", "input", "database", "so", "that", "the", "test", "conditions", "are", "satisfied", "-LSB-", "19", "-RSB-", ".", "In", "this", "paper", ",", "we", "present", "a", "language", "for", "specifying", "such", "intensional", "database", "tests", ",", "and", "describe", "its", "semantics", "and", "operational", "behaviour", "-LRB-", "Section", "2", "-RRB-", ".", "We", "present", "an", "algorithm", "for", "automatically", "modifying", "database", "states", "so", "that", "test", "preconditions", "are", "satisfied", "-LRB-", "Section", "3", "-RRB-", ",", "thus", "ensuring", "that", "all", "test", "cases", "can", "be", "executed", "without", "requiring", "any", "human", "intervention", ".", "We", "further", "describe", "how", "we", "have", "extended", "the", "JUnit", "testing", "framework", "to", "allow", "intensional", "database", "tests", "to", "be", "specified", "and", "executed", "in", "practice", "-LRB-", "Section", "4", "-RRB-", ".", "Finally", ",", "we", "present", "the", "results", "of", "an", "evaluation", "of", "the", "performance", "of", "the", "techniques", "-LRB-", "Section", "5", "-RRB-", "and", "conclude", "-LRB-", "Section", "6", "-RRB-", ".", "A", "conventional", "test", "case", "is", "typically", "modelled", "as", "a", "triple", "<", "p", ",", "i", ",", "o", ">", ",", "which", "denotes", "a", "test", "that", "executes", "program", "p", "with", "inputs", "-LRB-", "e.g.", ",", "parameters", "-RRB-", "denoted", "by", "i", ".", "If", "no", "faults", "are", "encountered", "during", "the", "test", "execution", ",", "the", "output", "that", "will", "be", "produced", "is", "o", ".", "In", "the", "case", "of", "test", "cases", "for", "database", "applications", ",", "we", "must", "add", "two", "further", "elements", "--", "the", "specification", "of", "the", "database", "state", "against", "which", "p", "is", "to", "be", "executed", ",", "and", "some", "statement", "of", "the", "database", "state", "that", "should", "result", "from", "the", "execution", "of", "p", "if", "it", "is", "operating", "correctly", "according", "to", "its", "specification", ".", "For", "example", ",", "consider", "the", "example", "program", "mentioned", "in", "Section", "1", "that", "prunes", "inactive", "customer", "details", "from", "the", "database", ".", "For", "this", "test", "case", ",", "we", "require", "a", "database", "state", "that", "contains", "at", "least", "one", "inactive", "customer", ".", "This", "could", "easily", "be", "stated", "as", "a", "predicate", "logic", "condition", "over", "the", "database", ",", "assuming", "the", "obvious", "mapping", "between", "stored", "relations", "and", "predicates", ",", "e.g.", ":", "-LRB-", "custNo", ",", "lastOrderOn", ",", "a", ",", "b", ",", "c", "-RRB-", "customer", "-LRB-", "custNo", ",", "a", ",", "b", ",", "c", ",", "lastOrderOn", "-RRB-", "lastOrderOn", "<", "today", "-", "90", "The", "program", "in", "question", "does", "not", "access", "any", "parts", "of", "the", "database", "other", "than", "the", "customer", "table", ".", "Therefore", ",", "we", "do", "not", "care", "what", "values", "the", "other", "tables", "contain", "and", "need", "not", "mention", "them", "in", "the", "intensional", "specification", "of", "the", "test", ".", "This", "approach", "works", "equally", "well", "for", "observing", "the", "results", "of", "the", "test", ".", "For", "example", ",", "when", "testing", "the", "customer", "pruning", "behaviour", ",", "we", "might", "require", "that", "no", "inactive", "customer", "with", "a", "non-negative", "balance", "should", "exist", "in", "the", "database", "after", "the", "test", ":", "-LRB-", "-LRB-", "custNum", ",", "lastOrderDate", ",", "a", ",", "b", ",", "c", "-RRB-", "customer", "-LRB-", "custNum", ",", "a", ",", "bal", ",", "c", ",", "lastOrderDate", "-RRB-", "lastOrderDate", "<", "today", "-", "90", "bal", ">", "0", "-RRB-", "Effectively", ",", "the", "test", "case", "describes", "a", "set", "of", "valid", "-LRB-", "i.e.", ",", "fault-free", "-RRB-", "state", "transition", "for", "the", "database", ",", "as", "a", "classic", "pre/post-condition", "pair", ".", "This", "first-order-logic", "style", "of", "database", "specification", "does", "not", "work", "so", "well", "when", "we", "consider", "the", "testing", "problem", "in", "more", "depth", ",", "however", ".", "The", "problem", "is", "that", "we", "need", "to", "do", "more", "than", "test", "the", "input", "database", "for", "compliance", "with", "the", "requirements", "of", "the", "test", "case", ";", "we", "also", "need", "to", "extract", "information", "from", "it", "to", "be", "used", "to", "instantiate", "other", "elements", "103", "of", "the", "test", "case", ".", "For", "example", ",", "suppose", "we", "wish", "to", "test", "a", "program", "that", "deletes", "details", "of", "individual", "customers", ".", "Such", "programs", "typically", "require", "some", "input", "from", "the", "user", ",", "identifying", "the", "specific", "customer", "record", "that", "is", "to", "be", "deleted", "-LRB-", "e.g.", ",", "by", "supplying", "the", "relevant", "customer", "code", "as", "a", "parameter", "-RRB-", ".", "This", "could", "be", "achieved", "by", "requiring", "the", "tester", "to", "embed", "the", "customer", "code", "into", "the", "test", "case", "elements", ",", "as", "literal", "values", ".", "Alternatively", ",", "we", "could", "search", "for", "a", "suitable", "customer", "that", "already", "exists", "in", "the", "database", ",", "using", "a", "standard", "database", "query", ",", "and", "use", "the", "values", "from", "that", "in", "specifying", "the", "inputs", "for", "the", "test", "case", ".", "This", "would", "minimise", "the", "amount", "of", "work", "required", "to", "prepare", "the", "database", "for", "test", "execution", "-LRB-", "since", "we", "would", "be", "using", "data", "already", "present", "in", "the", "database", "-RRB-", ",", "and", "it", "would", "also", "mean", "that", "test", "cases", "can", "be", "written", "very", "quickly", ",", "since", "the", "user", "does", "not", "need", "to", "specify", "every", "last", "detail", "of", "the", "data", "to", "be", "used", ".", "Under", "this", "approach", ",", "the", "specification", "of", "the", "input", "database", "state", "now", "has", "a", "dual", "role", ":", "it", "must", "state", "the", "condition", "that", "determines", "whether", "the", "database", "state", "is", "suitable", "for", "execution", "of", "the", "test", "case", "and", "it", "must", "also", "return", "bindings", "for", "the", "free", "variables", "that", "appear", "in", "the", "remaining", "components", "of", "the", "test", "case", ".", "For", "the", "latter", "purpose", ",", "we", "would", "prefer", "to", "use", "a", "straightforward", "query", "language", ",", "while", "for", "the", "former", "we", "require", "the", "ability", "to", "place", "conditions", "on", "the", "data", ".", "With", "a", "simple", "extension", "of", "a", "standard", "query", "language", "such", "as", "SQL", ",", "we", "can", "combine", "both", "these", "purposes", "in", "a", "single", "statement", ".", "For", "example", ",", "the", "following", "statement", ":", "ANY", ":", "cn", "GENERATED", "BY", "SELECT", "custNo", "FROM", "customer", "WHERE", "lastOrderDate", "<", "today", "-LRB-", "-RRB-", "-", "90", "AND", "balance", "<", "0", "retrieves", "the", "customer", "code", "of", "some", "record", "that", "meets", "the", "given", "conditions", "-LRB-", "an", "inactive", "customer", "with", "negative", "balance", "-RRB-", "from", "the", "database", ",", "and", "binds", "it", "to", "the", "variable", ":", "cn", ".", "It", "also", "places", "a", "cardinality", "constraint", "on", "the", "result", "of", "the", "query", ",", "that", "at", "least", "one", "such", "binding", "must", "exist", "-LRB-", "implied", "by", "the", "use", "of", "the", "keyword", "ANY", "-RRB-", ".", "The", "variable", ":", "cn", "can", "then", "be", "used", "to", "specify", "other", "elements", "of", "the", "test", "case", ".", "The", "obvious", "usage", "in", "this", "example", "is", "in", "specifying", "the", "inputs", "to", "the", "program", "being", "tested", ",", "but", "it", "can", "also", "be", "used", "in", "describing", "the", "expected", "outputs", "of", "the", "program", ".", "In", "this", "example", "test", "case", ",", "the", "correct", "behaviour", "of", "the", "DeleteCustomer", "program", "is", "to", "reject", "the", "deletion", "of", ":", "cn", ",", "since", "customers", "with", "a", "negative", "balance", "can", "not", "be", "purged", "from", "the", "database", ".", "We", "might", "therefore", "give", "the", "following", "specification", "of", "the", "desired", "output", "database", "state", ":", "AT", "LEAST", "1", ":", "cn2", "GENERATED", "BY", "SELECT", "custNo", "FROM", "customer", "WHERE", "custNo", "=", ":", "cn", "Of", "course", ",", "not", "all", "test", "cases", "are", "best", "specified", "in", "terms", "of", "values", "retrieved", "from", "the", "database", ".", "For", "example", ",", "suppose", "that", "we", "wish", "to", "write", "test", "cases", "for", "a", "program", "that", "adds", "new", "customers", "to", "the", "database", ".", "The", "inputs", "to", "this", "program", "are", "the", "details", "of", "the", "new", "customer", ",", "and", "the", "precondition", "for", "one", "particular", "test", "case", "states", "that", "no", "customer", "should", "exist", "that", "has", "the", "same", "customer", "code", "as", "that", "of", "the", "customer", "being", "created", ".", "We", "can", "not", "retrieve", "the", "customer", "details", "from", "the", "database", "in", "this", "case", ",", "as", "they", "have", "not", "yet", "been", "stored", "in", "it", ".", "Again", ",", "we", "could", "force", "the", "user", "to", "include", "the", "required", "values", "as", "literals", "in", "the", "test", "case", ",", "but", "ideally", "we", "would", "like", "to", "give", "<", "CONDITION", ">", ":", ":", "=", "<", "TYPE", ">", "<", "BINDINGLIST", ">", "GENERATED", "BY", "<", "SELECT", ">", "<", "TYPE", ">", ":", ":", "=", "ANY", "|", "NO", "|", "AT", "LEAST", "<", "i", ">", "|", "AT", "MOST", "<", "i", ">", "|", "EXACTLY", "<", "i", ">", "|", "ALL", "|", "FIRST", "<", "i", ">", ":", ":", "=", "-LCB-", "0-9", "-RCB-", "<", "BINDINGLIST", ">", ":", ":", "=", "<", "BINDING", ">", "-LCB-", "`", ",", "'", "<", "BINDINGLIST", ">", "-RCB-", "<", "BINDING", ">", ":", ":", "=", "-LCB-", "A-Z", "|", "a-z", "-RCB-", "<", "SELECT", ">", ":", ":", "=", "...", "Figure", "1", ":", "Simplified", "BNF", "Grammar", "for", "SQL", "Extensions", "more", "support", "to", "the", "process", "of", "test", "case", "generation", ".", "One", "way", "to", "achieve", "this", "is", "to", "allow", "user-defined", "data", "generator", "functions", "to", "be", "incorporated", "within", "queries", "as", "though", "they", "were", "relations", ".", "For", "example", ",", "the", "following", "expression", "states", "our", "requirements", "for", "this", "test", "case", ",", "while", "also", "binding", "the", "variables", "needed", "for", "input", "to", "the", "program", ":", "ANY", ":", "cn", ",", ":", "name", ",", ":", "addr", ",", ":", "bal", "GENERATED", "BY", "SELECT", "gc.custno", ",", "gc.name", ",", "gc.addr", ",", "0", "FROM", "genCustomerDetails", "-LRB-", "-RRB-", "AS", "gc", "WHERE", "gc.custno", "NOT", "IN", "-LRB-", "SELECT", "custno", "FROM", "customer", "WHERE", "balance", ">", "0", "-RRB-", "Here", ",", "the", "data", "generator", "function", "getCustomerDetails", "-LRB-", "-RRB-", "is", "used", "as", "if", "it", "were", "a", "normal", "relation", ",", "whereas", "in", "fact", "the", "results", "it", "returns", "are", "computed", "on", "the", "fly", ".", "In", "fact", ",", "several", "of", "the", "main", "commercial", "database", "management", "systems", "already", "allow", "user-defined", "functions", "to", "be", "embedded", "in", "queries", "in", "this", "way", ",", "so", "this", "does", "not", "require", "a", "further", "extension", "of", "SQL", ".", "Figure", "1", "shows", "the", "minimal", "extensions", "that", "are", "needed", "to", "support", "all", "the", "kinds", "of", "constrained", "query", "shown", "above", "using", "the", "SQL99", "standard", "-LSB-", "17", "-RSB-", ".", "2.1", "Test", "Case", "Semantics", "Clearly", ",", "the", "semantics", "of", "these", "intensional", "database", "test", "cases", "is", "more", "complex", "than", "for", "traditional", "extensional", "tests", ".", "However", ",", "we", "can", "define", "their", "semantics", "formally", "in", "terms", "of", "a", "mapping", "from", "intensional", "tests", "to", "sets", "of", "equivalent", "extensional", "database", "test", "cases", ".", "We", "first", "present", "a", "formal", "definition", "of", "the", "structure", "of", "our", "intensional", "test", "cases", ":", "Definition", "1", ".", "An", "intensional", "database", "test", "case", "is", "a", "quintuple", "<", "p", ",", "i", ",", "DB", "i", ",", "o", ",", "DB", "o", ">", ",", "where", ":", "p", "is", "the", "program", "to", "be", "executed", "in", "the", "test", ",", "i", "is", "a", "tuple", "of", "n", "variables", "and", "literals", "that", "describes", "the", "inputs", "to", "be", "given", "to", "program", "p", ",", "where", "n", "is", "the", "number", "of", "parameters", "expected", "by", "p", ",", "DB", "i", "is", "a", "set", "of", "constrained", "queries", "that", "together", "specify", "the", "initial", "database", "state", ".", "o", "is", "a", "tuple", "of", "m", "variables", "and", "literal", "that", "describes", "the", "expected", "outputs", "from", "the", "program", "p.", "DB", "o", "is", "a", "set", "of", "constrained", "queries", "that", "together", "specify", "the", "conditions", "that", "must", "hold", "in", "the", "database", "state", "after", "execution", "of", "p", "if", "no", "fault", "has", "been", "encountered", ".", "104", "A", "constrained", "query", "has", "the", "form", "<", "Q", ",", "min", ",", "max", ",", "vars", ">", ",", "where", "Q", "is", "a", "standard", "relational", "algebra", "query", ",", "min", "and", "max", "describe", "the", "constraints", "on", "the", "cardinality", "of", "the", "query", "result", "set", ",", "and", "vars", "is", "the", "list", "of", "variables", "bound", "by", "the", "query", "result", ".", "A", "database", "test", "case", "is", "well-formed", "for", "use", "with", "a", "particular", "database", "schema", "iff", ":", "for", "every", "variable", "v", "that", "occurs", "free", "in", "i", ",", "DB", "i", ",", "o", "and", "DB", "o", ",", "there", "exists", "a", "query", "in", "DB", "i", "that", "provides", "a", "binding", "for", "v", ",", "for", "every", "query", "<", "q", ",", "n", ",", "m", ",", "vs", ">", "in", "DB", "i", "DB", "o", ",", "q", "is", "a", "well-formed", "query", "over", "that", "returns", "k-tuples", ",", "where", "|", "vs", "|", "=", "k", ",", "and", "there", "are", "no", "circular", "variable", "dependencies", "amongst", "the", "queries", "in", "DB", "i", ".", "We", "can", "now", "define", "a", "semantics", "for", "the", "intensional", "database", "test", "cases", "as", "follows", ".", "Every", "intensional", "test", "case", "is", "equivalent", "to", "a", "set", "of", "extensional", "test", "cases", ".", "An", "extensional", "test", "case", "defines", "a", "specific", "test", "run", ",", "in", "terms", "of", "actual", "inputs", "and", "outputs", ",", "rather", "than", "expressions", "denoting", "sets", "of", "inputs", "and", "outputs", ".", "The", "set", "of", "all", "possible", "extensional", "test", "cases", "is", "given", "by", ":", "P", "L", "n", "DB", "L", "DB", "where", "P", "is", "the", "set", "of", "all", "programs", ",", "L", "is", "the", "set", "of", "all", "literals", ",", "L", "n", "is", "the", "set", "of", "all", "n-tuples", "formed", "from", "L", "and", "DB", "is", "the", "set", "of", "all", "database", "states", "-LRB-", "relative", "to", "all", "schemas", "-RRB-", "5", ".", "The", "components", "of", "each", "extensional", "test", "are", "the", "program", "to", "be", "tested", ",", "the", "input", "values", ",", "the", "initial", "database", "state", ",", "the", "expected", "output", "and", "the", "expected", "final", "database", "state", ",", "respectively", ".", "An", "intensional", "test", "case", "is", "effectively", "a", "shorthand", "expression", "for", "a", "set", "of", "extensional", "test", "cases", "that", "are", "all", "derived", "from", "the", "same", "equivalence", "partition", "of", "the", "test", "case", "inputs", ".", "An", "intensional", "database", "test", "<", "p", ",", "i", ",", "DB", "i", ",", "o", ",", "DB", "o", ">", ",", "where", "DB", "i", "=", "-LCB-", "<", "q", "i", ",", "n", "i", ",", "m", "i", ",", "v", "i", ">", "-RCB-", "and", "DB", "o", "=", "-LCB-", "<", "q", "o", ",", "n", "o", ",", "m", "o", ",", "v", "o", ">", "-RCB-", ",", "is", "equivalent", "to", "the", "following", "set", "of", "extensional", "tests", ":", "-LCB-", "<", "p", ",", "i", "-LSB-", "v", "i", "/", "v", "-RSB-", ",", "db", "i", ",", "o", "-LSB-", "v", "i", "/", "v", "-RSB-", ",", "db", "o", ">", "|", "db", "i", "DB", "-LRB-", "n", "i", "|", "q", "i", "-LRB-", "db", "i", "-RRB-", "|", "m", "i", "-RRB-", "v", "q", "i", "-LRB-", "db", "i", "-RRB-", "db", "o", "DB", "-LRB-", "n", "o", "|", "-LRB-", "q", "o", "-LSB-", "v", "i", "/", "v", "-RSB-", "-RRB-", "-LRB-", "db", "o", "-RRB-", "|", "m", "o", "-RRB-", "-RCB-", "We", "use", "the", "notation", "exp", "-LSB-", "1", "/", "2", "-RSB-", "to", "express", "the", "substitution", "of", "the", "values", "in", "1", "by", "the", "corresponding", "values", "in", "2", "whereever", "they", "occur", "in", "exp", ".", "Therefore", ",", "this", "expression", "denotes", "the", "set", "of", "extensional", "tests", "where", "the", "input", "database", "satisfies", "the", "constraints", "imposed", "by", "the", "initial", "constrained", "query", ",", "and", "where", "the", "bindings", "from", "execution", "of", "that", "query", "-LRB-", "here", "expressed", "as", "the", "tuple", "of", "variables", "v", "-RRB-", "are", "substituted", "into", "the", "5", "For", "simplicity", "of", "presentation", ",", "we", "assume", "that", "all", "programs", "require", "the", "same", "number", "of", "inputs", "-LRB-", "n", "-RRB-", ".", "In", "practice", ",", "n", "can", "be", "the", "largest", "number", "of", "inputs", "required", "by", "any", "program", ",", "and", "the", "unused", "values", "can", "be", "filled", "with", "nulls", ".", "expressions", "defining", "the", "inputs", ",", "expected", "output", "and", "expected", "final", "database", "state", "before", "they", "too", "are", "evaluated", "6", ".", "The", "idea", "underlying", "this", "notion", "of", "an", "intensional", "test", "is", "that", "when", "any", "of", "its", "corresponding", "extensional", "sets", "are", "executed", ",", "the", "intensional", "test", "is", "itself", "deemed", "to", "have", "been", "executed", ".", "Thus", ",", "the", "use", "of", "intensional", "tests", "allows", "much", "greater", "freedom", "at", "test", "execution", "time", ",", "since", "we", "may", "choose", "any", "of", "the", "possible", "extensional", "tests", ",", "depending", "on", "which", "is", "closest", "to", "our", "starting", "environment", ".", "In", "the", "next", "section", ",", "we", "will", "consider", "the", "practical", "ramifications", "of", "this", "approach", "to", "testing", ",", "and", "describe", "how", "the", "semantics", "just", "described", "can", "be", "implemented", "in", "practice", ".", "The", "execution", "of", "an", "intensional", "database", "test", "case", "consists", "of", "three", "distinct", "phases", ":", "1", "-RRB-", "preparation", "of", "the", "environment", "for", "test", "execution", ";", "2", "-RRB-", "execution", "of", "the", "test", "with", "the", "prepared", "inputs", ";", "and", "3", "-RRB-", "capture", "and", "storage", "of", "the", "results", ",", "for", "later", "analysis", ".", "Since", "all", "the", "work", "of", "finding", "bindings", "for", "the", "variables", "in", "the", "test", "case", "specification", "is", "done", "in", "the", "preparation", "phase", ",", "the", "final", "two", "phases", "are", "straightforward", "and", "differ", "little", "from", "standard", "testing", "procedures", ".", "When", "program", "execution", "is", "complete", ",", "the", "constrained", "query", "that", "determines", "whether", "the", "test", "has", "been", "successful", "or", "not", "is", "evaluated", "against", "the", "database", ",", "and", "the", "output", "from", "the", "program", "is", "checked", "against", "what", "is", "expected", ".", "In", "the", "case", "of", "test", "failure", ",", "the", "details", "of", "the", "actual", "extensional", "test", "that", "was", "executed", "are", "recorded", ",", "for", "diagnosis", "purposes", ".", "The", "first", "phase", ",", "however", ",", "is", "more", "complex", ".", "If", "we", "were", "content", "to", "execute", "only", "those", "test", "cases", "which", "happen", "to", "be", "suitable", "for", "use", "with", "the", "initial", "database", "state", ",", "then", "the", "preparation", "phase", "would", "simply", "be", "a", "matter", "of", "executing", "the", "input", "constrained", "queries", "against", "the", "database", "and", ",", "if", "they", "are", "all", "successful", ",", "using", "the", "bindings", "thus", "produced", "to", "instantiate", "the", "remaining", "components", "of", "the", "test", "case", ".", "However", ",", "thanks", "to", "the", "declarative", "nature", "of", "our", "test", "case", "specifications", ",", "the", "testing", "framework", "can", "be", "pro-active", "in", "cases", "where", "the", "given", "database", "is", "not", "suitable", "for", "use", "by", "the", "test", "case", ",", "and", "can", "automatically", "generate", "a", "sequence", "of", "updates", "that", "will", "cause", "the", "constrained", "queries", "to", "produce", "the", "required", "number", "of", "bindings", ".", "In", "fact", ",", "this", "problem", "is", "similar", "-LRB-", "though", "not", "identical", "-RRB-", "to", "one", "that", "has", "been", "studied", "by", "the", "database", "and", "artificial", "intelligence", "communities", "for", "many", "years", ".", "It", "is", "known", "variously", "as", "the", "view", "update", "problem", "-LSB-", "9", "-RSB-", ",", "the", "knowledge", "base", "update", "problem", "-LSB-", "12", "-RSB-", ",", "and", "the", "transaction", "repair", "problem", "-LSB-", "10", "-RSB-", ".", "Many", "database", "systems", "have", "the", "capability", "to", "define", "views", "on", "top", "of", "the", "basic", "database", ".", "A", "view", "is", "a", "kind", "of", "virtual", "relation", ".", "To", "the", "user", ",", "it", "appears", "to", "be", "a", "normal", "relation", ",", "but", "it", "contains", "no", "stored", "data", ".", "Instead", ",", "the", "contents", "of", "the", "view", "are", "defined", "by", "a", "expression", "over", "other", "relations", ",", "and", "attempts", "to", "retrieve", "data", "from", "the", "view", "are", "converted", "into", "queries", "over", "these", "relations", ".", "To", "take", "a", "simple", "example", "for", "illustration", ",", "we", "might", "create", "a", "view", "called", "Debtors", "which", "appears", "to", "be", "a", "relation", "of", "the", "same", "name", "containing", "all", "customers", "with", "a", "negative", "balance", ".", "Attempts", "to", "retrieve", "Debtors", "is", "6", "For", "simplicity", "of", "presentation", ",", "we", "assume", "here", "that", "there", "is", "only", "one", "query", "in", "each", "of", "DB", "i", "and", "DB", "o", ".", "In", "practice", ",", "it", "may", "be", "necessary", "to", "include", "several", "queries", ",", "each", "producing", "different", "bindings", "and", "imposing", "different", "cardinality", "constraints", ".", "In", "this", "case", ",", "the", "constraints", "must", "be", "conjoined", ",", "and", "the", "full", "set", "of", "bindings", "can", "be", "retrieved", "by", "performing", "a", "natural", "join", "of", "all", "the", "queries", ",", "with", "join", "condition", "true", ".", "105", "converted", "into", "a", "query", "against", "the", "customer", "table", "with", "an", "added", "constraint", "on", "the", "balance", ".", "If", "views", "are", "truly", "to", "act", "as", "normal", "relations", "then", "it", "should", "be", "possible", "to", "update", "them", "as", "well", "query", "them", ".", "But", "what", "does", "it", "mean", "to", "update", "a", "virtual", "relation", "?", "In", "this", "case", ",", "the", "view", "update", "must", "be", "converted", "into", "a", "sequence", "of", "updates", "on", "the", "stored", "relations", "that", "will", "cause", "the", "desired", "change", "in", "the", "contents", "of", "the", "view", "itself", ".", "This", "is", "a", "non-trivial", "problem", "for", "realistic", "view", "languages", ",", "and", "becomes", "even", "more", "difficult", "when", "we", "move", "into", "the", "context", "of", "knowledge", "bases", ",", "where", "virtual", "relations", "can", "be", "defined", "using", "rules", "over", "other", "relations", ",", "and", "when", "we", "add", "integrity", "constraints", "that", "must", "be", "maintained", "by", "all", "updates", "-LSB-", "1", ",", "2", ",", "3", ",", "4", ",", "5", ",", "8", ",", "11", "-RSB-", ".", "Only", "in", "very", "narrow", "circumstances", "does", "a", "view", "update", "have", "a", "single", "translation", "into", "real", "updates", "-LSB-", "15", ",", "18", "-RSB-", ".", "Various", "heuristics", "for", "selecting", "from", "amongst", "the", "possible", "translations", "have", "been", "proposed", "-LRB-", "of", "which", "the", "most", "common", "is", "to", "choose", "the", "update", "that", "results", "in", "the", "smallest", "change", "to", "the", "existing", "data", "set", "-LSB-", "2", "-RSB-", "-RRB-", ",", "but", "in", "real", "applications", "user", "input", "is", "needed", "in", "order", "to", "identify", "the", "translation", "that", "corresponds", "most", "closely", "to", "the", "real", "world", "state", "that", "the", "database", "should", "reflect", "-LSB-", "10", "-RSB-", ".", "In", "the", "case", "of", "intensional", "database", "tests", ",", "we", "have", "a", "query", "-LRB-", "the", "constrained", "query", "that", "describes", "our", "requirements", "for", "the", "test", "-RRB-", "that", "does", "not", "produce", "the", "correct", "number", "of", "answers", "when", "executed", "against", "the", "test", "database", ".", "We", "need", "to", "find", "a", "sequence", "of", "updates", "to", "the", "base", "data", "that", "will", "cause", "our", "query", "to", "produce", "the", "number", "of", "answers", "we", "need", ".", "However", ",", "in", "this", "case", ",", "there", "is", "no", "requirement", "to", "find", "the", "set", "of", "updates", "that", "matches", "the", "state", "of", "reality", "--", "any", "sensible", "update", "that", "satisfies", "the", "query", "conditions", "will", "be", "acceptable", ".", "This", "simplifies", "the", "problem", "considerably", ",", "removing", "the", "need", "for", "complex", "search", "procedures", "and", "for", "any", "user", "input", ".", "3.1", "The", "Preparation", "Algorithm", "One", "of", "the", "advantages", "of", "using", "a", "query-based", "language", "for", "test", "specification", "-LRB-", "as", "opposed", "to", "a", "predicate", "calculus-based", "language", "-RRB-", "is", "that", "we", "can", "make", "use", "of", "a", "very", "common", "and", "easy-to-analyse", "internal", "form", "for", "-LRB-", "relational", "-RRB-", "database", "queries", ",", "called", "relational", "algebra", ".", "This", "form", "provides", "a", "small", "number", "of", "operations", "on", "relations", "that", "can", "be", "combined", "to", "form", "complex", "queries", ".", "For", "example", ",", "the", "three", "most", "basic", "-LRB-", "and", "useful", "-RRB-", "relational", "algebra", "operators", "are", ":", "The", "projection", "operator", ",", "Atts", "R", ",", "which", "creates", "a", "relation", "from", "R", "by", "deleting", "all", "attributes", "not", "in", "Atts", ".", "For", "example", ",", "-LSB-", "Country", "-RSB-", "Customer", "produces", "a", "relation", "that", "contains", "just", "the", "countries", "that", "appear", "in", "the", "Customer", "relation", ".", "The", "selection", "operator", ",", "c", "R", ",", "which", "creates", "a", "relation", "that", "contains", "all", "the", "rows", "from", "relation", "R", "that", "satisfy", "the", "condition", "c.", "For", "example", ",", "bal", "<", "0", "Customer", "returns", "a", "relation", "containing", "details", "of", "all", "customers", "with", "negative", "balances", ".", "The", "join", "operator", ",", "R", "1", "c", "S", ",", "which", "creates", "a", "relation", "containing", "rows", "from", "the", "cross", "product", "of", "R", "and", "S", "that", "satisfy", "the", "join", "condition", "c", ".", "The", "query", "Debtor", "1", "dNo", "=", "iNo", "Inactive", "returns", "details", "of", "all", "debtors", "who", "are", "also", "inactive", ".", "Since", "the", "result", "of", "each", "relational", "algebra", "operator", "is", "itself", "a", "relation", ",", "together", "they", "form", "a", "closed", "algebra", ".", "This", "means", "that", "we", "can", "form", "arbitrarily", "complex", "queries", "by", "applying", "operators", "to", "the", "results", "of", "other", "operators", ".", "For", "example", ",", "a", "query", "which", "retrieves", "the", "customer", "number", "of", "all", "customers", "with", "a", "negative", "balance", "would", "be", "written", "as", ":", "-LSB-", "custNo", "-RSB-", "-LRB-", "balance", "<", "0", "Customer", "-RRB-", "A", "common", "way", "to", "visualise", "such", "expressions", "is", "as", "a", "tree", "of", "operators", ".", "The", "tree", "for", "the", "above", "query", "is", "shown", "in", "Figure", "2", ".", "Figure", "2", ":", "Relational", "Algebra", "Tree", "for", "Negative", "Balance", "Query", ".", "Our", "algorithm", "for", "preparing", "a", "database", "for", "testing", "is", "based", "around", "this", "notion", "of", "a", "relational", "algebra", "tree", ".", "We", "take", "the", "cardinality", "constraints", "from", "the", "test", "specification", ",", "and", "push", "them", "down", "through", "the", "nodes", "of", "the", "input", "database", "query", "tree", ",", "collecting", "up", "additional", "conditions", "as", "we", "go", ".", "When", "we", "reach", "a", "leaf", "node", "-LRB-", "i.e.", "a", "base", "relation", "-RRB-", ",", "we", "make", "updates", "to", "the", "database", "so", "that", "the", "pushed-down", "constraints", "are", "satisfied", "for", "that", "relation", ".", "At", "each", "stage", ",", "we", "collect", "up", "the", "different", "kinds", "of", "constraint", "and", "push", "them", "further", "down", "into", "the", "tree", ".", "These", "constraint", "types", "are", ":", "Min", "and", "Max", ",", "the", "upper", "and", "lower", "bounds", "on", "the", "desired", "cardinality", "of", "the", "result", "set", ".", "SelC", ",", "the", "selection", "conditions", "on", "the", "relations", "that", "we", "are", "interested", "in", ".", "UAtts", ",", "the", "collection", "of", "attributes", "that", "are", "used", "in", "the", "constrained", "query", ",", "and", "that", "must", "be", "populated", "in", "any", "new", "data", "that", "we", "insert", ".", "We", "also", "build", "up", "a", "collection", "of", "queries", "that", "describe", "the", "data", "that", "has", "been", "prepared", "for", "testing", "so", "far", ",", "as", "we", "progress", "through", "the", "tree", ".", "We", "call", "these", "queries", "``", "bindings", "''", "-LRB-", "Bgs", "-RRB-", ",", "since", "they", "give", "us", "values", "for", "the", "variables", "that", "occur", "within", "the", "selection", "and", "join", "conditions", ".", "At", "each", "stage", ",", "the", "bindings", "should", "contain", "one", "query", "for", "each", "leaf", "node", "that", "has", "so", "far", "been", "prepared", ".", "It", "is", "easiest", "to", "see", "how", "this", "works", "by", "considering", "a", "simple", "example", ",", "such", "as", "that", "shown", "in", "Figure", "2", ".", "Let", "us", "assume", "we", "have", "a", "constrained", "query", "that", "requires", "at", "least", "one", "customer", "with", "negative", "balance", "to", "exist", ",", "and", "that", "our", "database", "does", "not", "currently", "contain", "any", "such", "customers", ".", "We", "begin", "at", "the", "root", "node", "of", "the", "tree", ",", "with", "only", "the", "cardinality", "constraints", "extracted", "from", "the", "test", "specification", ":", "Min", "=", "1", ",", "Max", "=", "null", ",", "SelC", "=", "true", ",", "UAtts", "=", ",", "Bgs", "=", "The", "top", "node", "is", "a", "projection", "operator", ".", "Projection", "does", "not", "affect", "the", "cardinality", "of", "the", "result", "set", ",", "nor", "impose", "any", "conditions", ",", "but", "it", "does", "tell", "us", "something", "about", "the", "attributes", "used", "106", "Figure", "3", ":", "Relational", "Algebra", "Tree", "Showing", "Multiple", "Joins", "by", "the", "query", ".", "We", "therefore", "add", "the", "projection", "attributes", "to", "UAtts", "and", "push", "the", "constraints", "down", "to", "the", "next", "node", ":", "Min", "=", "1", ",", "Max", "=", "null", ",", "SelC", "=", "true", ",", "UAtts", "=", "-LCB-", "custNo", "-RCB-", ",", "Bgs", "=", "Next", "we", "must", "deal", "with", "the", "selection", "node", ".", "Selection", "nodes", "reduce", "the", "cardinality", "of", "their", "input", ",", "so", "we", "need", "to", "push", "down", "the", "selection", "conditions", "to", "ensure", "that", "any", "updates", "we", "may", "make", "affect", "the", "correct", "tuples", ".", "We", "also", "need", "to", "add", "any", "attributes", "appearing", "in", "the", "selection", "condition", "to", "UAtts", ":", "Min", "=", "1", ",", "Max", "=", "null", ",", "SelC", "=", "balance", "<", "0", ",", "UAtts", "=", "-LCB-", "custNo", ",", "balance", "-RCB-", ",", "Bgs", "=", "The", "final", "node", "is", "the", "leaf", "node", ",", "representing", "the", "Customer", "relation", ".", "We", "construct", "a", "query", "from", "the", "conditions", "on", "that", "relation", "and", "execute", "it", ",", "to", "find", "out", "how", "many", "answers", "are", "currently", "in", "the", "database", ".", "In", "this", "case", ",", "there", "are", "none", ",", "so", "we", "need", "to", "insert", "a", "new", "Customer", "record", "with", "at", "least", "the", "custNo", "and", "balance", "attributes", "populated", ",", "and", "with", "a", "negative", "balance", ".", "If", "there", "are", "any", "integrity", "constraints", "on", "this", "relation", ",", "then", "we", "need", "to", "make", "sure", "they", "are", "also", "satisfied", "by", "the", "new", "data", ".", "We", "use", "the", "DBMonster", "data", "generator", "mentioned", "earlier", "to", "create", "the", "new", "data", ".", "It", "allows", "generation", "functions", "to", "be", "specified", "for", "attributes", ",", "and", "additional", "constraints", "to", "be", "placed", "on", "them", ".", "It", "will", "also", "maintain", "primary", "key", ",", "foreign", "key", ",", "non-null", "and", "domain", "constraints", "if", "configured", "appro-priately", "using", "the", "information", "present", "in", "the", "pushed-down", "constraints", ".", "Of", "course", ",", "this", "is", "a", "very", "simple", "example", ".", "In", "general", ",", "we", "can", "expect", "to", "have", "to", "deal", "with", "more", "complicated", "queries", "involving", "several", "joins", ",", "such", "as", "that", "shown", "in", "Figure", "3", ".", "This", "relational", "algebra", "tree", "is", "equivalent", "to", "the", "following", "constrained", "query", ":", "ANY", ":", "orderNo", ",", ":", "productNo", "GENERATED", "BY", "SELECT", "o.orderno", ",", "p.productno", "FROM", "Order", "o", ",", "Orderdetail", "d", ",", "Product", "p", "WHERE", "o.orderno", "=", "d.orderno", "AND", "d.productno", "=", "p.productno", "AND", "p.price", ">", "50", "which", "requires", "that", "at", "least", "one", "order", "must", "exist", "that", "involves", "the", "purchase", "of", "at", "least", "one", "product", "that", "costs", "more", "than", "50", ".", "Joins", "complicate", "the", "process", "of", "preparing", "the", "database", ",", "because", "they", "introduce", "dependencies", "between", "the", "updates", "that", "take", "place", "at", "different", "leaf", "nodes", ".", "For", "example", ",", "imagine", "that", "we", "have", "processed", "the", "tree", "shown", "in", "Figure", "3", "as", "far", "as", "the", "leaf", "node", "representing", "the", "OrderDetail", "relation", ".", "Join", "operators", "further", "constrain", "the", "selection", "condition", "-LRB-", "by", "conjoining", "in", "their", "join", "condition", "-RRB-", ",", "but", "add", "no", "other", "constraints", ".", "So", ",", "by", "the", "time", "we", "reach", "this", "leaf", "node", ",", "SelC", "will", "have", "been", "set", "to", ":", "o.orderno", "=", "d.orderno", "d.productno", "=", "p.productno", "We", "need", "to", "find", "out", "whether", "a", "suitable", "OrderDetail", "record", "exists", "within", "the", "database", ".", "However", ",", "in", "order", "to", "do", "this", ",", "we", "need", "to", "know", "something", "about", "what", "preparation", "actions", "were", "performed", "when", "the", "Product", "leaf", "node", "was", "processed", ".", "Maybe", "there", "were", "already", "plenty", "of", "50-plus", "products", "in", "the", "catalogue", ",", "or", "maybe", "there", "were", "none", "and", "one", "had", "to", "be", "created", ".", "How", "is", "this", "information", "passed", "through", "to", "the", "OrderDetail", "node", "so", "that", "the", "correct", "tuple", "can", "be", "identified", "or", "created", "?", "In", "the", "current", "version", "of", "our", "algorithm", ",", "we", "have", "chosen", "to", "use", "the", "database", "itself", "to", "communicate", "these", "values", ".", "If", "there", "are", "many", "suitable", "Product", "records", ",", "then", "we", "can", "find", "one", "by", "querying", "the", "database", "directly", "once", "again", ".", "If", "a", "new", "product", "had", "to", "be", "created", ",", "then", "it", "will", "now", "be", "present", "in", "the", "database", ",", "so", "we", "can", "still", "retrieve", "it", "by", "querying", ".", "The", "information", "needed", "to", "construct", "these", "queries", "is", "present", "in", "the", "selection", "conditions", "that", "have", "been", "considered", "during", "the", "processing", "of", "the", "relational", "algebra", "tree", "up", "to", "this", "point", ".", "For", "example", ",", "in", "order", "to", "search", "for", "an", "OrderDetail", "tuple", "that", "is", "connected", "to", "a", "suitable", "Product", ",", "we", "need", "to", "issue", "the", "following", "query", ":", "SELECT", "d.", "*", "FROM", "OrderDetail", "d", ",", "Product", "p", "WHERE", "d.productno", "=", "p.productno", "AND", "p.price", ">", "50", "This", "query", "can", "not", "be", "constructed", "from", "only", "the", "constraints", "pushed-down", "from", "the", "parent", "nodes", "of", "the", "leaf", "node", ";", "instead", ",", "we", "need", "to", "collect", "up", "the", "constraints", "imposed", "by", "all", "nodes", "visited", "before", "the", "current", "node", ",", "so", "that", "they", "are", "available", "for", "query", "formation", ".", "This", "is", "done", "using", "the", "Bgs", "data", "structure", "mentioned", "earlier", ".", "Figure", "4", "presents", "the", "complete", "algorithm", ",", "showing", "the", "behaviour", "required", "for", "each", "different", "type", "of", "operator", ".", "The", "algorithm", "is", "presented", "as", "a", "side-effecting", "function", "which", "takes", "the", "constrained", "query", "that", "is", "to", "be", "satisfied", "by", "the", "database", ",", "and", "a", "set", "of", "initial", "conditions", "that", "state", "the", "required", "cardinality", "bounds", "and", "initialise", "SelC", "to", "true", ",", "UAtts", "to", "and", "Bgs", "to", ".", "The", "function", "returns", "a", "set", "of", "bindings", ",", "but", "these", "are", "discarded", ".", "The", "main", "task", "of", "the", "algorithm", "is", "carried", "out", "by", "the", "side-effecting", "updates", "that", "occur", "when", "leaf", "nodes", "are", "processed", ".", "The", "intensional", "database", "test", "language", "and", "accompanying", "preparation", "algorithm", "have", "been", "implemented", "within", "a", "testing", "tool", ",", "called", "DOT-Unit", ".", "This", "tool", "is", "part", "of", "a", "larger", "Data-Oriented", "Testing", "7", "framework", "that", "is", "under", "development", "at", "the", "University", "of", "Manchester", "-LSB-", "20", "-RSB-", ".", "DOT-Unit", "has", "been", "implemented", "as", "an", "extension", "to", "the", "JUnit", "testing", "framework", "7", "http://www.cs.man.ac.uk/", "willmord/dot", "/", "107", "Projection", "operator", "prepare", "-LRB-", "Atts", "Q", ",", "Min", ",", "Max", ",", "UAtts", ",", "SelC", ",", "Bgs", "-RRB-", "=", "prepare", "-LRB-", "Q", ",", "Min", ",", "Max", ",", "UAtts", "Atts", ",", "SelC", ",", "Bgs", "-RRB-", "Selection", "operator", "prepare", "-LRB-", "c", "Q", ",", "Min", ",", "Max", ",", "UAtts", ",", "SelC", ",", "Bgs", "-RRB-", "=", "prepare", "-LRB-", "Q", ",", "Min", ",", "Max", ",", "UAtts", ",", "SelC", "c", ",", "Bgs", "-RRB-", "Join", "operator", "prepare", "-LRB-", "Q", "1", "1", "jc", "Q", "2", ",", "Min", ",", "Max", ",", "UAtts", ",", "SelC", ",", "Bgs", "-RRB-", "=", "prepare", "-LRB-", "Q", "2", ",", "Min", ",", "Max", ",", "UAtts", ",", "SelC", "jc", ",", "prepare", "-LRB-", "Q", "1", ",", "Min", ",", "Max", ",", "UAtts", ",", "SelC", ",", "Bgs", "-RRB-", "-RRB-", "Relation", "-LRB-", "leaf", "node", "-RRB-", "prepare", "-LRB-", "Rasv", ",", "Min", ",", "Max", ",", "UAtts", ",", "SelC", ",", "Bgs", "-RRB-", "Q", "=", "bindingQuery", "-LRB-", "v", ",", "SelC", ",", "Bgs", "-RRB-", "Execute", "Q", "to", "produce", "result", "set", "RS", "if", "|", "RS", "|", "<", "Min", "then", "Invoke", "DBMonster", "to", "create", "-LRB-", "Min", "-", "|", "RS", "|", "-RRB-", "more", "instances", "of", "R", "that", "satisfy", "the", "conditions", "in", "Q", "else", "if", "|", "RS", "|", ">", "Max", "then", "Delete", "the", "first", "-LRB-", "|", "RS", "|", "-", "Max", "-RRB-", "tuples", "in", "RS", "else", "No", "preparation", "updates", "needed", "return", "-LRB-", "Bgs", "binding", "-LRB-", "v", ",", "Q", "-RRB-", "-RRB-", "Figure", "4", ":", "The", "Database", "Preparation", "Algorithm", "for", "the", "unit", "testing", "of", "Java", "applications", "-LSB-", "16", "-RSB-", ".", "We", "have", "subclassed", "the", "standard", "JUnit", "TestCase", "class", ",", "to", "create", "a", "dedicated", "DatabaseTestCase", "class", "for", "specifying", "and", "managing", "intensional", "database", "tests", ".", "DatabaseTestCase", "provides", "facilities", "for", "specifying", "pre-conditions", "on", "database", "state", ",", "generating", "and", "manipulating", "the", "bindings", "that", "are", "produced", "by", "such", "pre-conditions", ",", "and", "evaluating", "post-conditions", "on", "the", "database", "state", "after", "the", "test", "has", "been", "completed", ".", "The", "standard", "JUnit", "methods", "for", "determining", "the", "results", "of", "test", "execution", "on", "the", "in-memory", "fixture", "can", "also", "be", "used", ".", "Figure", "5", "shows", "an", "example", "DatabaseTestCase", "that", "includes", "two", "individual", "tests", ".", "The", "first", "verifies", "that", "when", "a", "customer", "with", "a", "non-negative", "balance", "is", "deleted", ",", "all", "customers", "with", "that", "customer", "number", "really", "do", "disappear", "from", "the", "database", ".", "The", "second", "uses", "a", "data", "generation", "function", "to", "propose", "attribute", "values", "for", "a", "new", "customer", "record", "-LRB-", "including", "a", "unique", "customer", "number", "-RRB-", ",", "and", "checks", "that", "after", "the", "program", "has", "executed", "only", "one", "customer", "with", "the", "generated", "customer", "number", "exists", ".", "We", "use", "a", "prefixed", "colon", "to", "indicate", "variables", "that", "are", "shared", "amongst", "the", "test", "components", "--", "a", "notation", "that", "will", "be", "familiar", "to", "many", "database", "programmers", ",", "since", "it", "is", "commonly", "used", "in", "various", "forms", "of", "embedded", "SQL", ".", "The", "shared", "variables", "acquire", "their", "values", "when", "the", "test", "harness", "evaluates", "the", "precondition", "-LRB-", "and", "performs", "any", "necessary", "database", "preparation", "steps", "-RRB-", ".", "These", "values", "can", "then", "be", "accessed", "using", "the", "binding", "method", ",", "and", "can", "be", "used", "in", "arbitrarily", "complex", "assert", "conditions", ",", "as", "well", "as", "in", "instantiating", "the", "post-condition", "query", ".", "One", "of", "the", "main", "advantages", "of", "using", "the", "JUnit", "framework", "as", "the", "basis", "for", "the", "implementation", "of", "DOT-Unit", "is", "that", "it", "allows", "us", "to", "integrate", "our", "tool", "seamlessly", "into", "existing", "development", "environments", ",", "such", "as", "Eclipse", "8", ".", "Thus", ",", "DOT-Unit", "tests", "are", "executed", "in", "exactly", "the", "same", "way", "as", "a", "standard", "JUnit", "test", "case", ",", "and", "the", "results", "are", "displayed", "using", "the", "same", "interface", "components", ".", "This", "allows", "testing", "of", "database", "and", "non-database", "components", "to", "be", "interleaved", "in", "a", "convenient", "and", "natural", "manner", ".", "8", "http://www.eclipse.org", "The", "practicality", "of", "this", "intensional", "test", "case", "approach", "depends", "largely", "on", "the", "performance", "overhead", "imposed", "by", "the", "database", "preparation", "algorithm", ".", "If", "the", "time", "required", "to", "execute", "each", "individual", "test", "case", "is", "significantly", "higher", "using", "our", "approach", "than", "with", "DBUnit", ",", "say", ",", "then", "fewer", "tests", "will", "be", "able", "to", "be", "executed", "in", "the", "time", "available", "and", "the", "benefits", "of", "faster", "test", "development", "and", "fewer", "spurious", "test", "failures", "will", "be", "negated", ".", "To", "gain", "a", "handle", "on", "the", "degree", "of", "performance", "overhead", "to", "be", "expected", "from", "DOT-Unit", ",", "we", "made", "use", "of", "an", "existing", "extensional", "DB", "test", "suite", "that", "we", "created", "for", "earlier", "work", "-LSB-", "20", "-RSB-", ".", "This", "suite", "was", "designed", "for", "mp3cd", "browser", "9", ",", "an", "open-source", "Java/JDBC", "program", "that", "stories", "information", "about", "mp3", "files", "in", "a", "MySQL", "5.0", "database", "10", ".", "The", "schema", "of", "the", "database", "consists", "of", "6", "relations", "with", "22", "attributes", ",", "7", "primary", "key", "constraints", "and", "6", "foreign", "key", "constraints", ".", "We", "created", "an", "equivalent", "intensional", "test", "suite", ",", "consisting", "of", "20", "test", "cases", ",", "from", "the", "extensional", "suite", "by", "converting", "each", "test", "case", "into", "DOT-Unit", "pre", "-", "and", "post-conditions", ".", "We", "also", "re-placed", "each", "hard-coded", "test", "parameter", "in", "the", "original", "tests", "into", "constrained", "query", "bindings", ".", "We", "wanted", "to", "investigate", "two", "specific", "aspects", "of", "the", "performance", "of", "DOT-Unit", ".", "First", ",", "we", "wanted", "to", "compare", "its", "performance", "with", "that", "of", "DBUnit", "over", "the", "equivalent", "test", "cases", "as", "the", "database", "size", "grows", ".", "Second", ",", "we", "wanted", "to", "gain", "some", "idea", "of", "what", "aspects", "of", "DB", "preparation", "and", "testing", "were", "dominating", "the", "performance", "of", "DOT-Unit", ".", "The", "results", "of", "the", "experiments", "we", "performed", "are", "presented", "below", ".", "All", "experiments", "were", "run", "on", "a", "Pentium-M", "2.0", "GHz", "machine", ",", "with", "1Gb", "RAM", ",", "running", "Ubuntu", "Linux", ".", "5.1", "Comparison", "with", "DBUnit", "At", "first", "sight", ",", "the", "extensional", "approach", ",", "as", "exemplified", "by", "DBUnit", ",", "would", "seem", "to", "be", "the", "more", "efficient", "method", "of", "the", "two", ",", "as", "the", "testing", "harness", "does", "not", "need", "to", "spend", "any", "time", "figuring", "out", "what", "updates", "need", "to", "be", "made", "prior", "to", "each", "test", "--", "it", "only", "needs", "to", "execute", "them", ".", "This", "does", "9", "http://mp3cdbrowser.sourceforge.net/mp3cd/", "10", "http://www.mysql.com", "108", "public", "class", "ProgramTest", "extends", "DatabaseTestCase", "-LCB-", "public", "void", "testDeleteCustomer", "-LRB-", "-RRB-", "-LCB-", "preCondition", "-LRB-", "``", "ANY", ":", "cn", "GENERATED", "BY", "SELECT", "custNo", "FROM", "customer", "WHERE", "balance", ">", "0", ";", "''", "-RRB-", ";", "Program", "p", "=", "new", "Program", "-LRB-", "-RRB-", ";", "p.deleteCustomer", "-LRB-", "binding", "-LRB-", "''", ":", "cn", "''", "-RRB-", "-RRB-", ";", "postCondition", "-LRB-", "``", "NO", ":", "cn2", "GENERATED", "BY", "SELECT", "custno", "FROM", "customer", "WHERE", "custNo", "=", ":", "cn", ";", "''", "-RRB-", ";", "-RCB-", "public", "void", "testNewCustomer", "-LRB-", "-RRB-", "-LCB-", "preCondition", "-LRB-", "``", "ANY", ":", "cn", ",", ":", "name", ",", ":", "addr", "GENERATED", "BY", "SELECT", "gc.custNo", ",", "gc.name", ",", "gc.addr", "FROM", "genCustomerDetails", "-LRB-", "-RRB-", "AS", "gc", "WHERE", "gc.custNo", "NOT", "IN", "-LRB-", "SELECT", "custNo", "FROM", "customer", "-RRB-", ";", "''", "-RRB-", ";", "Program", "p", "=", "new", "Program", "-LRB-", "-RRB-", ";", "boolean", "b", "=", "p.newCustomer", "-LRB-", "binding", "-LRB-", "''", ":", "cn", "''", "-RRB-", ",", "binding", "-LRB-", "''", ":", "name", "''", "-RRB-", ",", "binding", "-LRB-", "''", ":", "addr", "''", "-RRB-", "-RRB-", ";", "assertTrue", "-LRB-", "b", "-RRB-", ";", "postCondition", "-LRB-", "``", "EXACTLY", "1", ":", "cn", ",", ":", "name", ",", ":", "addr", "GENERATED", "BY", "SELECT", "custno", ",", "name", ",", "addr", "FROM", "customer", ";", "''", "-RRB-", ";", "-RCB-", "-RCB-", "Figure", "5", ":", "Example", "DOT-Unit", "Test", "Case", "not", "happen", "by", "accident", ",", "but", "because", "a", "human", "programmer", "has", "spent", "time", "earlier", ",", "deciding", "exactly", "what", "the", "database", "should", "look", "like", "for", "each", "test", "case", ".", "However", ",", "when", "writing", "DBUnit", "tests", ",", "it", "is", "common", "to", "try", "to", "reuse", "database", "descriptions", "for", "multiple", "test", "cases", "where", "possible", ",", "to", "reduce", "the", "amount", "of", "programming", "and", "maintenance", "time", ".", "In", "this", "case", ",", "some", "redundant", "updates", "will", "be", "made", "before", "each", "test", "case", "-", "updates", "that", "our", "extensional", "approach", "will", "not", "bother", "to", "make", ".", "It", "is", "also", "the", "case", "that", "DBUnit", "makes", "its", "updates", "blindly", ",", "whether", "they", "are", "needed", "or", "not", ",", "whereas", "the", "intensional", "approach", "will", "be", "able", "to", "reuse", "much", "of", "the", "existing", "database", "state", "for", "each", "new", "test", "case", ".", "Given", "this", ",", "it", "seems", "likely", "that", "the", "performance", "of", "DBUnit", "will", "be", "better", "when", "the", "database", "state", "required", "for", "each", "test", "case", "is", "relatively", "small", ",", "but", "that", "the", "situation", "will", "be", "reversed", "when", "the", "database", "state", "grows", "much", "larger", ".", "In", "order", "to", "gauge", "the", "point", "at", "which", "this", "change", "occurs", ",", "we", "ran", "our", "two", "test", "suites", "-LRB-", "extensional", "and", "intensional", "-RRB-", "with", "databases", "of", "varying", "sizes", ",", "and", "measured", "the", "execution", "time", "taken", "to", "execute", "the", "whole", "test", "suite", ".", "In", "each", "case", ",", "we", "generated", "initial", "database", "states", "of", "varying", "sizes", "at", "random", "-", "either", "populating", "the", "database", "directly", "-LRB-", "for", "the", "intensional", "test", "cases", "-RRB-", "or", "generating", "XML", "descriptions", "of", "the", "required", "state", "-LRB-", "for", "the", "extensional", "test", "cases", "-RRB-", ".", "The", "results", "are", "shown", "in", "Figure", "6", ".", "Figure", "6", ":", "Comparison", "of", "Approaches", "as", "DB", "Size", "Increases", "To", "our", "surprise", ",", "although", "the", "performance", "of", "DOT-Unit", "was", "initially", "worse", "than", "that", "of", "DBUnit", ",", "it", "overtook", "its", "competitor", "at", "a", "comparatively", "small", "database", "size", "of", "around", "20", "tuples", "per", "relation", ".", "Obviously", ",", "this", "experiment", "is", "a", "little", "unfair", "to", "DBUnit", ",", "since", "programmers", "are", "unlikely", "to", "create", "database", "descriptions", "consisting", "of", "1000s", "of", "tuples", "per", "relation", ".", "However", ",", "tests", "of", "this", "scale", "will", "be", "needed", "at", "some", "point", "in", "the", "development", "cycle", ",", "in", "order", "to", "verify", "the", "behaviour", "of", "the", "system", "on", "more", "realistic", "data", "sets", ".", "In", "order", "to", "assess", "the", "behaviour", "of", "DOT-Unit", "more", "pre-cisely", ",", "consider", "the", "graph", "in", "Figure", "7", ",", "which", "shows", "the", "results", "at", "small", "databases", "sizes", "in", "more", "detail", ".", "It", "can", "be", "ob-served", "that", "the", "performance", "of", "DOT-Unit", "first", "improves", "and", "then", "begins", "to", "degrade", "again", "at", "a", "database", "size", "of", "around", "50", "tuples", "per", "relation", ".", "Figure", "7", ":", "Detailed", "Comparison", "of", "Approaches", "One", "possible", "explanation", "for", "this", "initial", "improvement", "in", "performance", "is", "that", ",", "as", "the", "database", "size", "rises", ",", "so", "does", "the", "probability", "that", "the", "data", "needed", "for", "the", "test", "case", "is", "already", "present", "in", "the", "database", ".", "For", "the", "very", "small", "states", ",", "a", "lot", "of", "preparation", "work", "is", "required", "to", "create", "the", "needed", "data", ",", "whereas", "less", "work", "is", "needed", "for", "a", "more", "fully", "populated", "database", ".", "As", "the", "database", "size", "increases", "further", ",", "however", ",", "the", "costs", "of", "making", "the", "queries", "needed", "to", "test", "the", "preconditions", "and", "formulate", "the", "preparation", "updates", "rises", ",", "pushing", "up", "the", "time", "required", "for", "the", "entire", "preparation", "step", ".", "This", "109", "behaviour", "may", "be", "a", "peculiarity", "of", "the", "particular", "test", "suite", "used", ",", "of", "course", ",", "and", "further", ",", "more", "extensive", "studies", "will", "be", "required", "in", "order", "to", "completely", "characterise", "the", "performance", "of", "the", "DOT-Unit", "test", "harness", ".", "From", "these", "initial", "results", ",", "however", ",", "DOT-Unit", "appears", "to", "scale", "well", "relative", "to", "database", "size", ",", "and", "the", "execution", "times", "are", "of", "the", "same", "order", "of", "magnitude", "as", "those", "resulting", "from", "DBUnit", ".", "This", "suggests", "that", "the", "intensional", "approach", "may", "provide", "a", "good", "compromise", "between", "saving", "expensive", "programmer", "time", "in", "developing", "new", "test", "cases", "and", "expenditure", "of", "cheaper", "processing", "time", "in", "executing", "the", "test", "cases", ".", "5.2", "Effect", "of", "Constraint", "Complexity", "A", "further", "concern", "was", "the", "effect", "of", "increasing", "constraint", "complexity", "on", "the", "performance", "of", "DOT-Unit", "test", "cases", ".", "How", "much", "additional", "overhead", "is", "added", "for", "conditions", "involving", "a", "higher", "number", "of", "selection", "conditions", "and", "-LRB-", "most", "impor-tantly", "-RRB-", "joins", "?", "In", "order", "to", "assess", "this", ",", "we", "grouped", "the", "test", "cases", "into", "three", "groups", ",", "according", "to", "their", "complexity", ":", "A", ":", "queries", "with", "one", "or", "more", "selections", "and", "no", "joins", ",", "B", ":", "queries", "with", "one", "or", "more", "selections", "and", "a", "join", "between", "two", "relations", ",", "C", ":", "queries", "with", "one", "or", "more", "selections", "and", "joins", "between", "three", "relations", ".", "This", "gave", "a", "test", "suite", "with", "5", "test", "cases", "in", "each", "of", "these", "categories", ",", "which", "we", "executed", "against", "a", "randomly", "generated", "database", "state", "with", "500", "tuples", "per", "relation", "that", "does", "not", "satisfy", "any", "of", "the", "test", "case", "pre-conditions", ".", "Figure", "8", "shows", "the", "results", "obtained", "for", "the", "three", "complexity", "categories", ".", "We", "measured", "the", "average", "time", "taken", "to", "execute", "the", "test", "cases", "in", "each", "category", ",", "including", "a", "breakdown", "of", "where", "the", "time", "is", "spent", "in", "each", "case", ":", "Test", ":", "the", "time", "required", "to", "execute", "the", "procedural", "aspects", "of", "the", "test", "case", ";", "Query", ":", "the", "time", "required", "to", "execute", "the", "query", "aspect", "of", "the", "test", "case", "condition", ";", "Prepare", "the", "time", "required", "to", "execute", "the", "preparation", "aspect", "of", "the", "test", "case", "condition", ".", "While", "the", "overall", "time", "required", "to", "execute", "the", "test", "cases", "rises", "as", "the", "complexity", "rises", "-LRB-", "unsurprisingly", "-RRB-", ",", "the", "relative", "proportions", "of", "time", "spent", "in", "the", "various", "phases", "remains", "roughly", "the", "same", ".", "The", "preparation", "phase", "seems", "to", "account", "for", "slightly", "more", "than", "half", "of", "the", "time", "in", "each", "case", ",", "indicating", "that", "significant", "improvements", "could", "be", "achieved", "with", "a", "less-naive", "preparation", "algorithm", ".", "We", "have", "presented", "a", "new", "approach", "to", "the", "specification", "of", "test", "cases", "for", "database", "systems", "that", "attempts", "to", "reduce", "the", "amount", "of", "manual", "intervention", "required", "in", "between", "test", "case", "runs", "while", "also", "minimising", "the", "number", "of", "spurious", "test", "failures", "due", "to", "inappropriate", "input", "database", "states", ".", "The", "approach", "has", "the", "further", "advantage", "that", "it", "sits", "naturally", "on", "top", "of", "test", "data", "sets", "taken", "from", "live", "databases", ",", "and", "this", "allows", "testing", "to", "be", "carried", "out", "using", "realistic", "data", "sets", "without", "requiring", "significant", "programmer", "effort", "to", "tailor", "the", "data", "set", "to", "the", "test", "cases", ".", "In", "effect", ",", "the", "intensional", "approach", "we", "have", "Figure", "8", ":", "The", "Affect", "of", "Changing", "Constraint", "Complexity", "described", "allows", "software", "developers", "to", "trade", "programmer", "time", "for", "test", "execution", "time", "Our", "experience", "has", "indicated", "that", "intensional", "test", "cases", "are", "quick", "and", "natural", "to", "write", "for", "anyone", "who", "is", "familiar", "with", "SQL", "and", "database", "programming", ",", "although", "a", "study", "with", "an", "independent", "testing", "team", "would", "be", "necessary", "before", "we", "can", "make", "any", "strong", "claims", "in", "this", "regard", ".", "However", ",", "compared", "with", "what", "is", "involved", "in", "writing", "pure", "JDBC", "database", "test", "cases", "and", "DBUnit", "test", "cases", ",", "we", "found", "that", "the", "self-contained", "nature", "of", "the", "intensional", "test", "cases", "was", "a", "definite", "advantage", ".", "Writing", "DBUnit", "test", "cases", "requires", "the", "programmer", "to", "continually", "check", "that", "the", "test", "case", "is", "compatible", "with", "the", "database", "description", ".", "Moreover", ",", "since", "it", "is", "common", "to", "try", "to", "reuse", "database", "descriptions", "for", "multiple", "test", "cases", "by", "combining", "their", "requirements", "into", "one", "database", "state", ",", "it", "becomes", "very", "easy", "to", "break", "one", "test", "case", "by", "changing", "the", "database", "description", "in", "order", "to", "ready", "it", "for", "another", ".", "These", "problems", "do", "not", "arise", "with", "intensional", "testing", ",", "since", "all", "the", "information", "about", "the", "test", "case", "is", "present", "in", "a", "single", "file", "-LRB-", "the", "Java", "class", "file", "-RRB-", ".", "We", "designed", "this", "first", "version", "of", "the", "preparation", "algorithm", "for", "simplicity", "and", "correctness", "rather", "than", "efficiency", ",", "and", "as", "such", "it", "performs", "rather", "stupidly", "in", "many", "cases", ".", "We", "are", "currently", "exploring", "options", "for", "improving", "the", "algorithm", ",", "including", "more", "intelligent", "selection", "of", "the", "order", "in", "which", "the", "relational", "algebra", "tree", "is", "traversed", ",", "alternating", "between", "passing", "query", "bindings", "and", "passing", "literal", "value", "bindings", "as", "is", "most", "efficient", ",", "and", "making", "use", "of", "modifications", "to", "existing", "tuples", "as", "well", "as", "simply", "adding", "and", "deleting", "tuples", "-LRB-", "both", "of", "which", "are", "comparatively", "expensive", "operations", "-RRB-", ".", "The", "complexity", "of", "the", "conditions", "we", "can", "handle", "is", "at", "present", "limited", "by", "the", "capabilities", "of", "DBMonster", ",", "and", "can", "be", "expanded", "by", "development", "of", "a", "custom", "data", "generation", "facility", ".", "We", "also", "need", "to", "expand", "the", "range", "of", "queries", "that", "can", "be", "handled", ",", "beyond", "simple", "select-project-join", "queries", ".", "For", "example", ",", "standard", "SQL", "also", "allows", "aggregation", "and", "ordering", "within", "queries-both", "of", "which", "offer", "challenges", "in", "terms", "of", "automatic", "preparation", ".", "A", "further", "problem", "with", "our", "current", "algorithm", "is", "that", "it", "may", "sometimes", "fail", "to", "find", "a", "solution", "to", "the", "database", "preparation", "problem", ",", "even", "though", "one", "exists", ".", "This", "is", "due", "to", "the", "fact", "that", "updates", "are", "made", "at", "leaf", "nodes", "before", "the", "full", "set", "of", "constraints", "on", "those", "nodes", "has", "been", "encountered", ".", "It", "should", "110", "be", "possible", "to", "address", "the", "problem", "with", "more", "sophisticated", "querying", "techniques", "-LRB-", "this", "is", "an", "example", "of", "a", "fairly", "standard", "constrained", "search", "problem", ",", "after", "all", "-RRB-", ",", "although", "this", "will", "add", "to", "the", "performance", "overhead", ".", "A", "thorough", "study", "of", "the", "trade-offs", "between", "spurious", "failures", "and", "more", "intelligent", "searching", "will", "need", "to", "be", "carried", "out", "before", "any", "concrete", "recommendations", "can", "be", "made", ".", "Finally", ",", "we", "note", "that", "where", "it", "is", "important", "to", "test", "large", "numbers", "of", "frame", "constraints", "-LRB-", "i.e.", "aspects", "of", "the", "original", "database", "state", "that", "are", "not", "affected", "by", "the", "execution", "of", "the", "program", "under", "test", "-RRB-", ",", "it", "may", "be", "easier", "to", "express", "the", "test", "case", "using", "DBUnit", ",", "rather", "than", "cluttering", "up", "the", "intensional", "test", "with", "many", "such", "constraints", ".", "Our", "work", "presents", "a", "number", "of", "possible", "avenues", "for", "future", "work", "beyond", "the", "improvements", "mentioned", "above", ",", "of", "which", "the", "most", "urgent", "is", "the", "question", "of", "ordering", "of", "test", "cases", "within", "suites", ".", "This", "ordering", "can", "be", "in", "terms", "of", "reducing", "the", "cost", "of", "the", "modifications", "to", "database", "state", "or", "to", "maximise", "fault", "coverage", ".", "There", "is", "also", "the", "question", "of", "whether", "the", "modifications", "to", "database", "state", "should", "always", "persist", "between", "test", "cases", "or", "under", "certain", "conditions", "discarded", ".", "For", "example", ",", "a", "test", "case", "may", "specify", "that", "a", "relation", "be", "empty", "and", "to", "satisfy", "the", "condition", "the", "content", "is", "discarded", ".", "However", ",", "this", "relation", "may", "be", "required", "by", "later", "test", "cases", "and", "so", "by", "discarding", "its", "contents", "we", "increase", "the", "divide", "between", "the", "test", "state", "and", "the", "real", "world", ".", "This", "could", "be", "accomplished", "by", "either", "embedding", "the", "modifications", "inside", "of", "a", "transaction", "which", "can", "then", "be", "aborted", "or", "by", "using", "a", "hypothetical", "database", "engine", ".", "We", "thank", "Leonardo", "Mariani", "and", "the", "anonymous", "reviewers", "for", "comments", "on", "earlier", "drafts", "of", "this", "paper", ".", "David", "Willmor", "is", "supported", "by", "a", "research", "studentship", "from", "the", "UK", "Engineering", "and", "Physical", "Sciences", "Research", "Council", ".", "-LSB-", "1", "-RSB-", "M.", "Arenas", ",", "L.", "E.", "Bertossi", ",", "and", "J.", "Chomicki", ".", "Consistent", "query", "answers", "in", "inconsistent", "databases", ".", "In", "Proceedings", "of", "the", "18th", "ACM", "SIGACT-SIGMOD-SIGART", "Symposium", "on", "Principles", "of", "Database", "Systems", "-LRB-", "PODS", "-RRB-", ",", "pages", "68", "79", ".", "ACM", "Press", ",", "1999", ".", "-LSB-", "2", "-RSB-", "L.", "E.", "Bertossi", "and", "J.", "Chomicki", ".", "Query", "answering", "in", "inconsistent", "databases", ".", "In", "J.", "Chomicki", ",", "R.", "van", "der", "Meyden", ",", "and", "G.", "Saake", ",", "editors", ",", "Logics", "for", "Emerging", "Applications", "of", "Databases", ",", "pages", "43", "83", ".", "Springer", ",", "2003", ".", "-LSB-", "3", "-RSB-", "P.", "Bohannon", ",", "M.", "Flaster", ",", "W.", "Fan", ",", "and", "R.", "Rastogi", ".", "A", "cost-based", "model", "and", "effective", "heuristic", "for", "repairing", "constraints", "by", "value", "modification", ".", "In", "Proceedings", "of", "the", "SIGMOD", "Conference", ",", "pages", "143", "154", ".", "ACM", ",", "2005", ".", "-LSB-", "4", "-RSB-", "L.", "Bravo", "and", "L.", "E.", "Bertossi", ".", "Logic", "programs", "for", "consistently", "querying", "data", "integration", "systems", ".", "In", "G.", "Gottlob", "and", "T.", "Walsh", ",", "editors", ",", "Proceedings", "of", "the", "18th", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI", "-RRB-", ",", "pages", "10", "15", ".", "Morgan", "Kaufmann", ",", "August", "2003", ".", "-LSB-", "5", "-RSB-", "A.", "Cal", "`", "i", ",", "D.", "Lembo", ",", "and", "R.", "Rosati", ".", "On", "the", "decidability", "and", "complexity", "of", "query", "answering", "over", "inconsistent", "and", "incomplete", "databases", ".", "In", "Proceedings", "of", "the", "22nd", "ACM", "SIGACT-SIGMOD-SIGART", "Symposium", "on", "Principles", "of", "Database", "Systems", "-LRB-", "PODS", "-RRB-", ",", "pages", "260", "271", ".", "ACM", ",", "June", "2003", ".", "-LSB-", "6", "-RSB-", "D.", "Chays", ",", "S.", "Dan", ",", "P.", "G.", "Frankl", ",", "F.", "I.", "Vokolos", ",", "and", "E.", "J.", "Weber", ".", "A", "framework", "for", "testing", "database", "applications", ".", "In", "Proceedings", "of", "the", "International", "Symposium", "on", "Software", "Testing", "and", "Analysis", "-LRB-", "ISSTA", "-RRB-", ",", "pages", "147", "157", ",", "August", "2000", ".", "-LSB-", "7", "-RSB-", "D.", "Chays", ",", "Y.", "Deng", ",", "P.", "G.", "Frankl", ",", "S.", "Dan", ",", "F.", "I.", "Vokolos", ",", "and", "E.", "J.", "Weyuker", ".", "An", "AGENDA", "for", "testing", "relational", "database", "applications", ".", "Software", "Testing", ",", "Verification", "and", "Reliability", ",", "14", "-LRB-", "1", "-RRB-", ":", "17", "44", ",", "2004", ".", "-LSB-", "8", "-RSB-", "J.", "Chomicki", "and", "J.", "Marcinkowski", ".", "On", "the", "computational", "complexity", "of", "minimal-change", "integrity", "maintenance", "in", "relational", "databases", ".", "In", "L.", "E.", "Bertossi", ",", "A.", "Hunter", ",", "and", "T.", "Schaub", ",", "editors", ",", "Inconsistency", "Tolerance", ",", "volume", "3300", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "119", "150", ".", "Springer", ",", "2005", ".", "-LSB-", "9", "-RSB-", "S.", "S.", "Cosmadakis", "and", "C.", "H.", "Papadimitriou", ".", "Updates", "of", "relational", "views", ".", "Journal", "of", "the", "ACM", ",", "31", "-LRB-", "4", "-RRB-", ":", "742", "760", ",", "1984", ".", "-LSB-", "10", "-RSB-", "S.", "M.", "Embury", ",", "S.", "M.", "Brandt", ",", "J.", "S.", "Robinson", ",", "I.", "Sutherland", ",", "F.", "A.", "Bisby", ",", "W.", "A.", "Gray", ",", "A.", "C.", "Jones", ",", "and", "R.", "J.", "White", ".", "Adapting", "integrity", "enforcement", "techniques", "for", "data", "reconciliation", ".", "Information", "Systems", ",", "26", "-LRB-", "8", "-RRB-", ":", "657", "689", ",", "2001", ".", "-LSB-", "11", "-RSB-", "G.", "Greco", ",", "S.", "Greco", ",", "and", "E.", "Zumpano", ".", "A", "logical", "framework", "for", "querying", "and", "repairing", "inconsistent", "databases", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "15", "-LRB-", "6", "-RRB-", ":", "1389", "1408", ",", "2003", ".", "-LSB-", "12", "-RSB-", "A.", "Guessoum", "and", "J.", "W.", "Lloyd", ".", "Updating", "knowledge", "bases", ".", "New", "Generation", "Computing", ",", "8", "-LRB-", "1", "-RRB-", ":", "71", "89", ",", "1990", ".", "-LSB-", "13", "-RSB-", "F.", "Haftmann", ",", "D.", "Kossmann", ",", "and", "A.", "Kreutz", ".", "Efficient", "regression", "tests", "for", "database", "applications", ".", "In", "Proceedings", "of", "the", "2nd", "Biennial", "Conference", "on", "Innovative", "Data", "Systems", "Research", "-LRB-", "CIDR", "-RRB-", ",", "pages", "95", "106", ".", "Online", "Proceedings", ",", "January", "2005", ".", "-LSB-", "14", "-RSB-", "G.", "M.", "Kapfhammer", "and", "M.", "L.", "Soffa", ".", "A", "family", "of", "test", "adequacy", "criteria", "for", "database-driven", "applications", ".", "In", "Proceedings", "of", "the", "11th", "ACM", "SIGSOFT", "Symposium", "on", "Foundations", "of", "Software", "Engineering", ",", "pages", "98", "107", ".", "ACM", ",", "September", "2003", ".", "-LSB-", "15", "-RSB-", "R.", "Langerak", ".", "View", "updates", "in", "relational", "databases", "with", "an", "independent", "scheme", ".", "ACM", "Transactions", "on", "Database", "Systems", "-LRB-", "TODS", "-RRB-", ",", "15", "-LRB-", "1", "-RRB-", ":", "40", "66", ",", "1990", ".", "-LSB-", "16", "-RSB-", "P.", "Louridas", ".", "Junit", ":", "Unit", "testing", "and", "coding", "in", "tandem", ".", "IEEE", "Software", ",", "22", "-LRB-", "4", "-RRB-", ":", "12", "15", ",", "July-Aug", "2005", ".", "-LSB-", "17", "-RSB-", "J.", "Melton", "and", "A.", "R.", "Simon", ".", "SQL", ":", "1999", "Understanding", "Relational", "Language", "Components", ".", "Morgan", "Kaufmann", ",", "2002", ".", "-LSB-", "18", "-RSB-", "H.", "Shu", ".", "Using", "constraint", "satisfaction", "for", "view", "update", ".", "Journal", "of", "Intelligent", "Information", "Systems", ",", "15", "-LRB-", "2", "-RRB-", ":", "147", "173", ",", "2000", ".", "-LSB-", "19", "-RSB-", "D.", "Willmor", "and", "S.", "M.", "Embury", ".", "Exploring", "test", "adequacy", "for", "database", "systems", ".", "In", "Proceedings", "of", "the", "3rd", "UK", "Software", "Testing", "Research", "Workshop", "-LRB-", "UKTest", "-RRB-", ",", "pages", "123", "133", ".", "The", "University", "of", "Sheffield", ",", "September", "2005", ".", "-LSB-", "20", "-RSB-", "D.", "Willmor", "and", "S.", "M.", "Embury", ".", "A", "safe", "regression", "test", "selection", "technique", "for", "database", "driven", "applications", ".", "In", "Proceedings", "of", "the", "21st", "International", "Conference", "on", "Software", "Maintenance", "-LRB-", "ICSM", "-RRB-", ",", "pages", "421", "430", ".", "IEEE", "Computer", "Society", ",", "September", "2005", ".", "111"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["database testing", "testing for database systems", "software testing", "intensional test cases", "databases", "testing framework"], "abstractive_keyphrases": ["performance testing", "efficient testing", "improvement for the intensional test cases", "dot-unit", "query based language", "seamless integration", "lesser programmer effort for test cases"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "34", "document": ["An", "Integrated", "Environment", "to", "Visually", "Construct", "3D", "Animations", "In", "this", "paper", ",", "we", "present", "an", "expressive", "3D", "animation", "environment", "that", "enables", "users", "to", "rapidly", "and", "visually", "prototype", "animated", "worlds", "with", "a", "fully", "3D", "user-interface", ".", "A", "3D", "device", "allows", "the", "specification", "of", "complex", "3D", "motion", ",", "while", "virtual", "tools", "are", "visible", "mediators", "that", "live", "in", "the", "same", "3D", "space", "as", "application", "objects", "and", "supply", "the", "interaction", "metaphors", "to", "control", "them", ".", "In", "our", "environment", ",", "there", "is", "no", "intrinsic", "difference", "between", "user", "interface", "and", "application", "objects", ".", "Multi-way", "constraints", "provide", "the", "necessary", "tight", "coupling", "among", "components", "that", "makes", "it", "possible", "to", "seamlessly", "compose", "animated", "and", "interactive", "behaviors", ".", "By", "recording", "the", "effects", "of", "manipulations", ",", "all", "the", "expressive", "power", "of", "the", "3D", "user", "interface", "is", "exploited", "to", "define", "animations", ".", "Effective", "editing", "of", "recorded", "manipulations", "is", "made", "possible", "by", "compacting", "all", "continuous", "parameter", "evolutions", "with", "an", "incremental", "data-reduction", "algorithm", ",", "designed", "to", "preserve", "both", "geometry", "and", "timing", ".", "The", "automatic", "generation", "of", "editable", "representations", "of", "interactive", "performances", "overcomes", "one", "of", "the", "major", "limitations", "of", "current", "performance", "animation", "systems", ".", "Novel", "interactive", "solutions", "to", "animation", "problems", "are", "made", "possible", "by", "the", "tight", "integration", "of", "all", "system", "components", ".", "In", "particular", ",", "animations", "can", "be", "synchronized", "by", "using", "constrained", "manipulation", "during", "playback", ".", "The", "accompanying", "video-tape", "illustrates", "our", "approach", "with", "interactive", "sequences", "showing", "the", "visual", "construction", "of", "3D", "animated", "worlds", ".", "All", "the", "demonstrations", "in", "the", "video", "were", "recorded", "live", "and", "were", "not", "edited", ".", "CRS4", ",", "Scientific", "Visualization", "Group", ",", "Via", "Nazario", "Sauro", "10", ",", "09123", "Cagliari", ",", "Italy", ".", "E-mail", ":", "-LCB-", "gobbetti", "|", "balaguer", "-RCB-", "@crs4", ".", "it", "WWW", ":", "http://www.crs4.it/~gobbetti", "http://www.crs4.it/~balaguer", "Modern", "3D", "graphics", "systems", "allow", "a", "rapidly", "growing", "user", "community", "to", "create", "and", "animate", "increasingly", "sophisticated", "worlds", ".", "Despite", "their", "inherent", "three-dimensionality", ",", "these", "systems", "are", "still", "largely", "controlled", "by", "2D", "WIMP", "user-interfaces", ".", "The", "lack", "of", "correlation", "between", "manipulation", "and", "effect", "and", "the", "high", "cognitive", "distance", "from", "users", "to", "edited", "models", "are", "the", "major", "drawbacks", "of", "this", "solution", "-LSB-", "13", "-RSB-", ".", "The", "inadequacy", "of", "user-interfaces", "based", "on", "2D", "input", "devices", "and", "mindsets", "becomes", "particularly", "evident", "in", "the", "realm", "of", "interactive", "3D", "animation", ".", "In", "this", "case", ",", "the", "low-bandwidth", "communication", "between", "user-interface", "and", "application", "and", "the", "restrictions", "in", "interactive", "3D", "motion", "specification", "capabilities", "make", "it", "extremely", "difficult", "to", "define", "animations", "with", "straight-ahead", "actions", ".", "This", "inability", "to", "interactively", "specify", "the", "animation", "timing", "is", "a", "major", "obstacle", "in", "all", "cases", "where", "the", "spontaneity", "of", "the", "animated", "object", "'s", "behavior", "is", "important", "-LSB-", "21", ";", "35", ";", "4", "-RSB-", ".", "In", "this", "paper", ",", "we", "present", "an", "expressive", "3D", "animation", "environment", "that", "enables", "users", "to", "rapidly", "and", "visually", "prototype", "animated", "worlds", "with", "a", "fully", "3D", "user-interface", ".", "A", "3D", "device", "allows", "the", "specification", "of", "complex", "3D", "motion", ",", "while", "virtual", "tools", "supply", "the", "interaction", "metaphors", "to", "control", "application", "objects", ".", "In", "our", "environment", ",", "there", "is", "no", "intrinsic", "difference", "between", "user", "interface", "and", "application", "objects", ".", "Multi-way", "constraints", "provide", "the", "necessary", "tight", "coupling", "among", "components", "that", "makes", "it", "possible", "to", "compose", "animated", "and", "interactive", "behaviors", ".", "By", "recording", "the", "effects", "of", "manipulations", ",", "all", "the", "expressive", "power", "of", "the", "3D", "user", "interface", "is", "exploited", "to", "define", "animations", ".", "Effective", "editing", "of", "recorded", "manipulations", "is", "made", "possible", "by", "compacting", "all", "continuous", "parameter", "evolutions", "with", "our", "data-reduction", "algorithm", ",", "designed", "to", "preserve", "both", "geometry", "and", "timing", ".", "Novel", "interactive", "solutions", "to", "animation", "problems", "are", "made", "possible", "by", "the", "tight", "integration", "of", "all", "system", "components", ".", "In", "particular", ",", "animations", "can", "be", "synchronized", "using", "constrained", "manipulation", "during", "playback", ".", "In", "the", "following", "sections", ",", "we", "present", "an", "overview", "of", "the", "system", ",", "we", "make", "comparisons", "with", "related", "work", ",", "and", "we", "conclude", "with", "a", "view", "of", "future", "directions", ".", "The", "accompanying", "video-tape", "illustrates", "our", "approach", "with", "interactive", "sequences", "showing", "the", "visual", "construction", "of", "3D", "animated", "worlds", ".", "All", "demonstrations", "in", "the", "video", "were", "recorded", "live", "and", "were", "not", "edited", ".", "Our", "animation", "environment", "is", "built", "on", "top", "of", "VB2", "-LSB-", "17", ";", "18", "-RSB-", ",", "a", "graphics", "architecture", "based", "on", "objects", "and", "constraints", ".", "During", "interaction", ",", "the", "user", "is", "the", "source", "of", "a", "flow", "of", "information", "propagating", "from", "input", "device", "sensors", "to", "manipulated", "models", ".", "Permission", "to", "make", "digital/hard", "copy", "of", "part", "or", "all", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", ",", "the", "copyright", "notice", ",", "the", "title", "of", "the", "publication", "and", "its", "date", "appear", ",", "and", "notice", "is", "given", "that", "copying", "is", "by", "permission", "of", "ACM", ",", "Inc.", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", ",", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "1995", "ACM-0-89791-701-4", "/", "95/008", "...", "$", "3.50", "395", "VB2", "applications", "are", "represented", "by", "a", "network", "of", "interrelated", "objects", ",", "and", "the", "maintenance", "of", "relationships", "is", "delegated", "to", "a", "constraint-based", "change", "propagation", "mechanism", ".", "Different", "primitive", "elements", "represent", "the", "various", "aspects", "of", "the", "system", "'s", "state", "and", "behavior", ":", "active", "variables", "store", "the", "system", "'s", "state", ",", "domain-independent", "hierarchical", "constraints", "-LSB-", "9", "-RSB-", "maintain", "multi", "way", "relations", "between", "active", "variables", ",", "daemons", "provide", "support", "for", "discrete", "simulation", "tasks", ",", "and", "indirect", "expressions", "allow", "constraints", "and", "daemons", "to", "dynamically", "locate", "their", "variables", ".", "Constraints", "are", "maintained", "using", "an", "efficient", "local", "propagation", "algorithm", "based", "on", "Skyblue", "-LSB-", "27", ";", "17", ";", "18", "-RSB-", ".", "The", "solver", "is", "domain", "independent", "and", "can", "maintain", "a", "hierarchy", "of", "multi-way", ",", "multi", "output", "dataflow", "constraints", ".", "The", "fact", "that", "constraint", "solving", "consists", "in", "performing", "method", "selection", "on", "the", "basis", "of", "constraint", "priorities", "and", "graph", "structure", ",", "without", "considering", "the", "variables", "'", "values", ",", "allows", "an", "effective", "application", "of", "a", "lazy", "evaluation", "strategy", "-LSB-", "17", ";", "18", "-RSB-", ".", "The", "main", "drawback", "of", "such", "a", "local", "propagation", "algorithm", "is", "the", "limitation", "to", "acyclic", "constraint", "graphs", ".", "However", ",", "as", "noted", "by", "Sannella", "et", "al.", "-LSB-", "28", "-RSB-", ",", "cyclic", "constraint", "networks", "are", "seldom", "encountered", "in", "the", "construction", "of", "user", "interfaces", ",", "and", "limiting", "the", "constraint", "solver", "to", "graphs", "without", "cycles", "gives", "enough", "efficiency", "and", "flexibility", "to", "create", "highly", "responsive", "complex", "interactive", "systems", ".", "In", "VB2", ",", "the", "objects", "'", "internal", "constraint", "networks", "are", "designed", "so", "as", "to", "reduce", "the", "possibility", "of", "creating", "cyclic", "constraint", "graphs", ".", "Runtime", "introduction", "of", "a", "constraint", "that", "would", "create", "a", "cyclic", "graph", "causes", "an", "exception", "that", "can", "be", "handled", "to", "remove", "the", "offending", "constraint", "1", ".", "The", "state", "manager", "behavior", "and", "the", "constraint", "solving", "techniques", "are", "detailed", "in", "-LSB-", "17", ";", "18", "-RSB-", ".", "2.2", "Interaction", "The", "system", "'s", "desktop", "configuration", "uses", "keyboard", "commands", "to", "trigger", "mode", "changes", "and", "animation", "playback", ",", "a", "Spaceball", "for", "continuous", "specification", "of", "spatial", "transformations", ",", "and", "a", "mouse", "for", "picking", ".", "Both", "hands", "are", "thus", "used", "simultaneously", "to", "input", "information", ".", "LCD", "shutter", "glasses", "provide", "binocular", "perception", "of", "the", "synthetic", "world", ".", "Since", "our", "main", "research", "goal", "is", "to", "explore", "the", "potentialities", "of", "3D", "interaction", ",", "we", "do", "not", "provide", "a", "two", "dimensional", "graphical", "user", "interface", ".", "A", "3D", "cursor", ",", "controlled", "by", "the", "Spaceball", ",", "is", "used", "to", "select", "and", "manipulate", "objects", "of", "the", "synthetic", "world", ".", "Direct", "manipulation", "and", "virtual", "tools", "are", "the", "two", "techniques", "used", "to", "input", "information", ".", "Both", "techniques", "involve", "using", "mediator", "objects", "that", "transform", "the", "cursor", "'s", "movements", "into", "modifications", "of", "manipulated", "objects", ".", "Virtual", "tools", "are", "visible", "first", "class", "objects", "that", "live", "in", "the", "same", "3D", "space", "as", "application", "objects", "and", "offer", "the", "interaction", "metaphor", "to", "control", "them", ".", "Their", "visual", "appearance", "is", "determined", "by", "a", "modeling", "hierarchy", ",", "while", "their", "behavior", "is", "controlled", "by", "an", "internal", "constraint", "network", "-LSB-", "18", "-RSB-", ".", "As", "in", "the", "real", "world", ",", "users", "configure", "their", "workspaces", "by", "selecting", "tools", ",", "positioning", "and", "orienting", "them", "in", "space", ",", "and", "binding", "them", "to", "application", "objects", ".", "At", "the", "moment", "of", "binding", ",", "the", "tool", "decides", "whether", "to", "accept", "the", "connection", "by", "checking", "if", "the", "application", "object", "contains", "all", "the", "needed", "information", "and", "by", "verifying", "that", "the", "constraint", "graph", "obtained", "by", "connecting", "the", "tool", "to", "the", "model", "can", "be", "handled", "by", "the", "underlying", "solver", "-LRB-", "i.e.", "it", "is", "acyclic", "-RRB-", ".", "The", "binding", "mechanism", "is", "defined", "in", "a", "declarative", "way", "by", "using", "indirect", "constraints", "-LSB-", "18", "-RSB-", ".", "1", "VB2", "'s", "current", "constraint", "solver", "-LSB-", "17", ";", "28", "-RSB-", "is", "unable", "to", "find", "acyclic", "solutions", "of", "potentially", "cyclic", "constraint", "graphs", ".", "An", "algorithm", "that", "removes", "this", "limitation", "is", "presented", "in", "-LSB-", "36", "-RSB-", ".", "Information", "control", "Information", "display", "MODEL", "TOOL", "v1", "v2", "c1", "c2", "bound", "bound.v1", "bound.v2", "v1", "v2", "out_variable", "in_variable", "constraint", "in_out_variable", "direct", "reference", "indirect", "reference", "Instance", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "1a", ".", "Design", "notation", "Figure", "1b", ".", "Model", "and", "virtual", "tool", "When", "bound", ",", "the", "tool", "changes", "its", "visual", "appearance", "to", "a", "shape", "that", "provides", "information", "about", "its", "behavior", "and", "offers", "semantic", "feedback", ".", "During", "manipulation", ",", "the", "tool", "'s", "and", "the", "application", "object", "'s", "constraint", "networks", "remain", "continuously", "connected", ",", "so", "as", "to", "ensure", "information", "propagation", ".", "Multiple", "tools", "can", "be", "active", "simultaneously", "in", "the", "same", "3D", "environment", "in", "order", "to", "control", "all", "its", "aspects", ".", "The", "environment", "'s", "consistency", "is", "continuously", "ensured", "by", "the", "underlying", "constraint", "solver", ".", "The", "bi-directionality", "of", "the", "relationships", "between", "user-interface", "and", "application", "objects", "makes", "it", "possible", "to", "use", "virtual", "tools", "to", "interact", "with", "a", "dynamic", "environment", ",", "opening", "the", "door", "to", "the", "integration", "of", "animation", "and", "interaction", "techniques", ".", "2.3", "Animation", "By", "recording", "the", "effects", "of", "manipulations", ",", "animations", "can", "be", "sketched", ".", "In", "order", "to", "be", "able", "to", "edit", "the", "captured", "performance", ",", "a", "compact", "representation", "of", "continuous", "parameter", "evolution", "must", "be", "obtained", ".", "This", "representation", "must", "not", "only", "precisely", "approximate", "the", "shape", "of", "the", "initial", "parameter", "curves", "but", "also", "their", "timing", ".", "The", "data", "reduction", "algorithm", "must", "therefore", "treat", "the", "geometry", "and", "time", "components", "simultaneously", "in", "order", "to", "avoid", "the", "introduction", "of", "errors", "that", "would", "be", "difficult", "to", "control", ".", "We", "have", "developed", "an", "algorithm", "that", "incrementally", "builds", ",", "from", "the", "input", "sequence", ",", "a", "parametric", "B-spline", "preserving", "value", "and", "time", "of", "each", "input", "sample", "within", "a", "given", "tolerance", ".", "It", "is", "an", "incremental", "version", "of", "the", "Lyche", "and", "M", "rken", "algorithm", "-LSB-", "22", "-RSB-", "that", "works", "in", "parallel", "with", "the", "interactive", "specification", "by", "considering", "only", "a", "small", "portion", "of", "the", "input", "curve", "at", "any", "time", ".", "Latency", "time", "and", "memory", "requirements", "for", "handling", "each", "portion", "of", "the", "curve", "are", "constant", ".", "Data", "reduction", "may", "therefore", "be", "performed", "concurrently", "with", "interactive", "parameter", "input", ",", "and", "the", "responsiveness", "of", "the", "application", "can", "be", "ensured", "when", "handling", "animations", "defined", "by", "any", "number", "of", "samples", ".", "The", "algorithm", "is", "presented", "in", "detail", "in", "-LSB-", "2", ";", "4", "-RSB-", ".", "This", "performance-based", "approach", "complements", "key-framing", "by", "providing", "the", "ability", "to", "create", "animations", "with", "straight-ahead", "actions", ".", "It", "provides", "complete", "control", "over", "the", "animation", "shape", "and", "timing", ",", "while", "key-framing", "offers", "control", "only", "at", "a", "limited", "number", "of", "points", ".", "The", "mediation", "of", "virtual", "tools", "makes", "it", "possible", "to", "sketch", "the", "evolution", "of", "non-geometric", "attributes", ",", "while", "constrained", "or", "free", "motion", "can", "be", "specified", "with", "3D", "devices", ".", "Since", "these", "devices", "offer", "continuous", "control", "of", "spatial", "transformations", ",", "subtle", "synchronizations", "between", "position", "and", "orientation", "components", "can", "be", "directly", "specified", ".", "In", "our", "environment", ",", "straight-ahead", "animations", "are", "defined", "by", "expressing", "the", "desire", "to", "record", "parameter", "evolution", "during", "interaction", ".", "This", "is", "done", "simply", "by", "pressing", "a", "different", "mouse", "button", "when", "starting", "an", "interaction", "task", ".", "A", "controller", "object", "is", "connected", "to", "each", "animatable", "model", "and", "is", "responsible", "for", "monitoring", "model", "state", "changes", ".", "While", "recording", ",", "all", "changes", "are", "handled", "by", "the", "controller", "to", "feed", "the", "animation", "tracks", ".", "Continuous", "tracks", "apply", "the", "data", "reduction", "396", "algorithm", "to", "the", "incoming", "information", ",", "while", "discrete", "tracks", "simply", "store", "a", "change", "value", "event", ".", "During", "playback", ",", "information", "propagates", "from", "the", "animation", "tracks", "through", "the", "controllers", "and", "down", "to", "the", "models", ".", "All", "connections", "are", "realized", "by", "bi-directional", "constraints", ".", "Since", "playback", "constraints", "are", "weaker", "than", "interaction", "constraints", ",", "the", "user", "can", "take", "control", "over", "animated", "models", "during", "playback", ".", "Animations", "involving", "synchronizations", "with", "the", "environment", "'s", "evolution", "can", "thus", "be", "specified", "by", "interacting", "during", "playback", "-LSB-", "5", "-RSB-", ".", "Discrete", "Track", "Interaction", "Mediator", "Data", "reduction", "Data", "sampling", "Editing", "Animation", "recording", "Animation", "playback", "Continuous", "Track", "Application", "Object", "Animation", "Controller", "Figure", "2", ".", "Interactive", "animation", "and", "playback", "Constraint-based", "architectures", "have", "long", "been", "used", "for", "2D", "graphics", "systems", "-LRB-", "see", "-LSB-", "28", "-RSB-", "for", "a", "survey", "-RRB-", ".", "In", "the", "3D", "graphics", "world", ",", "one-way", "constraints", "are", "commonly", "employed", "to", "maintain", "dependencies", "between", "components", "-LSB-", "20", ";", "34", ";", "37", ";", "38", "-RSB-", ".", "This", "type", "of", "constraint", "can", "not", "easily", "model", "mutual", "relations", "between", "objects", ",", "thus", "hindering", "the", "tight", "coupling", "between", "user-interface", "and", "application", "objects", "-LSB-", "28", "-RSB-", ".", "Our", "system", "uses", "instead", "multi-way", "local", "propagation", "constraints", ",", "which", "offer", "support", "for", "two-way", "communication", "between", "objects", "while", "remaining", "efficient", "enough", "to", "ensure", "the", "responsiveness", "of", "the", "system", "-LSB-", "17", ";", "18", ";", "27", "-RSB-", ".", "TBAG", "-LSB-", "14", "-RSB-", "also", "uses", "multi-way", "constraints", "maintained", "by", "Skyblue", "-LSB-", "27", "-RSB-", ",", "but", "its", "functional", "approach", "concentrates", "more", "on", "modeling", "time", "varying", "behaviors", "than", "on", "creating", "interactive", "systems", ".", "Much", "effort", "has", "been", "spent", "in", "developing", "powerful", "numerical", "solvers", "for", "computer", "graphics", "-LRB-", "e.g.", "-LSB-", "7", ";", "15", ";", "16", "-RSB-", "-RRB-", ".", "This", "work", "is", "complementary", "to", "ours", ",", "which", "focuses", "more", "on", "providing", "ways", "to", "interact", "with", "constrained", "environments", ".", "Such", "advanced", "solvers", "could", "replace", "local", "propagation", "in", "our", "system", "for", "the", "maintenance", "of", "numerical", "relationships", ".", "3.2", "Three-dimensional", "User", "Interfaces", "Much", "recent", "research", "has", "focused", "on", "obtaining", "rich", "interaction", "with", "3D", "environments", "by", "means", "of", "advanced", "devices", "and", "3D", "interaction", "metaphors", "-LSB-", "8", ";", "10", ";", "11", ";", "13", ";", "16", ";", "19", ";", "26", ";", "30", ";", "32", "-RSB-", ".", "3D", "widgets", "or", "manipulators", ",", "similar", "to", "our", "virtual", "tools", ",", "are", "presented", "in", "-LSB-", "13", ";", "32", "-RSB-", ".", "These", "works", "focused", "on", "providing", "support", "for", "3D", "widget", "construction", ",", "while", "we", "concentrate", "more", "on", "the", "integration", "of", "multiple", "tools", "in", "a", "single", "dynamic", "environment", ".", "We", "are", "not", "aware", "of", "any", "attempts", "to", "apply", "the", "results", "of", "3D", "interaction", "research", "to", "enhance", "animation", "capabilities", ".", "3.3", "Performance", "Animation", "A", "number", "of", "authors", "have", "proposed", "using", "live", "performances", "to", "drive", "computer", "animations", "-LRB-", "e.g.", "-LSB-", "1", ";", "23", ";", "33", ";", "35", "-RSB-", "-RRB-", ".", "We", "strive", "to", "bring", "the", "expressiveness", "of", "these", "approaches", "to", "general", "purpose", "animation", "systems", "running", "on", "graphics", "workstations", ".", "Instead", "of", "relying", "on", "advanced", "motion", "capture", "devices", ",", "we", "exploit", "our", "fully", "3D", "user-interface", "to", "control", "the", "animated", "environment", "at", "a", "higher", "level", "of", "abstraction", ".", "The", "guiding", "approach", "proposed", "in", "-LSB-", "23", "-RSB-", "also", "seeks", "to", "provide", "better", "control", "of", "synthetic", "objects", "by", "raising", "the", "abstraction", "level", "of", "user", "interaction", ".", "That", "work", "concentrates", "on", "modeling", "complex", "behaviors", "in", "a", "discrete", "simulation", "framework", ",", "while", "we", "focus", "on", "providing", "intuitive", "user", "interfaces", ".", "A", "major", "limitation", "of", "current", "performance", "animation", "systems", "is", "the", "inability", "to", "build", "editable", "representations", "out", "of", "captured", "performances", "-LSB-", "35", "-RSB-", ".", "3.4", "Data", "Reduction", "Data", "reduction", "or", "curve", "fitting", "techniques", "have", "been", "successfully", "applied", "for", "the", "interactive", "specification", "of", "2D", "or", "3D", "curves", "or", "surfaces", "-LRB-", "e.g.", "-LSB-", "12", ";", "24", ";", "25", ";", "29", "-RSB-", "-RRB-", ".", "These", "techniques", "can", "not", "be", "easily", "adapted", "to", "sketching", "animations", "of", "multi-dimensional", "parameters", "because", "they", "all", "exhibit", "one", "or", "more", "of", "the", "following", "problems", ":", "-LRB-", "i", "-RRB-", "restriction", "to", "2D", "or", "3D", "geometric", "constructions", ",", "-LRB-", "ii", "-RRB-", "lack", "of", "control", "on", "parameterization", "errors", ",", "and", "-LRB-", "iii", "-RRB-", "need", "to", "consider", "the", "entire", "input", "curve", "before", "reduction", ".", "An", "early", "attempt", "to", "use", "data", "reduction", "for", "animation", "is", "described", "in", "-LSB-", "29", "-RSB-", ".", "In", "that", "system", ",", "path", "geometry", "and", "path", "timing", "specifications", "were", "decoupled", ",", "loosing", "thus", "the", "advantages", "of", "performance", "approaches", ".", "Banks", "and", "Cohen", "-LSB-", "6", "-RSB-", "proposed", "for", "their", "drafting", "tool", "an", "incremental", "version", "of", "the", "Lyche", "and", "M", "rken", "algorithm", "-LSB-", "22", "-RSB-", "that", "does", "not", "have", "the", "aforementioned", "drawbacks", "and", "could", "be", "used", "in", "a", "performance", "animation", "context", ".", "Their", "method", "shares", "with", "ours", "the", "idea", "of", "processing", "successive", "portions", "of", "the", "input", "curve", "which", "are", "then", "spliced", "together", ",", "but", "is", "unable", "to", "ensure", "constant", "latency", "times", "and", "memory", "needs", "-LSB-", "4", "-RSB-", ".", "In", "this", "video-paper", ",", "we", "have", "presented", "an", "integrated", "environment", "for", "the", "rapid", "and", "visual", "prototyping", "of", "3D", "animated", "worlds", ".", "Using", "our", "fully", "3D", "user-interface", ",", "non-professional", "users", "can", "swiftly", "create", "complex", "animations", "with", "pose-to-pose", "and", "straight-ahead", "techniques", ".", "Thanks", "to", "automatic", "data-reduction", ",", "animations", "created", "by", "interactive", "performances", "can", "then", "be", "effectively", "edited", ".", "In", "our", "future", "work", ",", "we", "intend", "to", "develop", "new", "virtual", "tools", "and", "visualizations", "that", "will", "improve", "our", "3D", "user", "interface", "for", "discrete", "and", "continuous", "track", "manipulation", ".", "To", "allow", "the", "system", "to", "adhere", "to", "timing", "requirements", ",", "we", "are", "developing", "time-critical", "techniques", "for", "controlling", "rendering", "complexity", "and", "constraint", "evaluation", ".", "The", "authors", "would", "like", "to", "thank", "Ronan", "Boulic", "for", "providing", "the", "walking", "engine", "used", "in", "the", "interactive", "sequences", ",", "Sally", "Kleinfeldt", "as", "well", "as", "Dean", "Allaman", "for", "helpful", "comments", "and", "suggestions", ",", "Angelo", "Mangili", "for", "technical", "help", ",", "and", "Michele", "M", "ller", "for", "doing", "the", "voice", "on", "the", "video", ".", "This", "research", "was", "conducted", "by", "the", "authors", "while", "at", "the", "Swiss", "Federal", "Institute", "of", "Technology", "in", "Lausanne", ".", "397", "-LSB-", "1", "-RSB-", "Baecker", "RM", "-LRB-", "1969", "-RRB-", "Picture-driven", "Animation", ".", "Proc", ".", "Spring", "Joint", "Computer", "Conference", "34", ":", "273-288", ".", "-LSB-", "2", "-RSB-", "Balaguer", "JF", "-LRB-", "1993", "-RRB-", "Virtual", "Studio", ":", "Un", "syst", "me", "d'animation", "en", "environnement", "virtuel", ".", "PhD", "Thesis", ",", "Swiss", "Federal", "Institute", "of", "Technology", "in", "Lausanne", ".", "-LSB-", "3", "-RSB-", "Balaguer", "JF", ",", "Gobbetti", "E", "-LRB-", "1995", "-RRB-", "Animating", "Spaceland", ".", "To", "appear", "in", "IEEE", "Computer", "Special", "Isssue", "on", "Real-world", "Virtual", "Environments", "28", "-LRB-", "7", "-RRB-", ".", "-LSB-", "4", "-RSB-", "Balaguer", "JF", ",", "Gobbetti", "E", "-LRB-", "1995", "-RRB-", "Sketching", "3D", "Animations", ".", "To", "appear", "in", "Proc", ".", "EUROGRAPHICS", ".", "-LSB-", "5", "-RSB-", "Balaguer", "JF", ",", "Gobbetti", "E", "-LRB-", "1995", "-RRB-", "Supporting", "Interactive", "Animation", "using", "Multi-way", "Constraints", ".", "Submitted", "for", "publication", ".", "-LSB-", "6", "-RSB-", "Banks", "M", ",", "Cohen", "E", "-LRB-", "1990", "-RRB-", "Real-time", "Spline", "Curves", "from", "Interactively", "Sketched", "Data", ".", "Proc", ".", "SIGGRAPH", "Symposium", "on", "Interactive", "3D", "Graphics", ":", "99-107", "-LSB-", "7", "-RSB-", "Barzel", "R", ",", "Barr", "A", "-LRB-", "1988", "-RRB-", "A", "Modeling", "System", "Based", "on", "Dynamic", "Constraints", ".", "Proc", ".", "SIGGRAPH", ":", "179-188", ".", "-LSB-", "8", "-RSB-", "Bier", "EA", "-LRB-", "1990", "-RRB-", "Snap-Dragging", "in", "Three", "Dimensions", ".", "Proc", ".", "SIGGRAPH", "Symposium", "on", "Interactive", "3D", "Graphics", ":", "193", "204", ".", "-LSB-", "9", "-RSB-", "Borning", "A", ",", "Freeman-Benson", "B", ",", "Wilson", "M", "-LRB-", "1992", "-RRB-", "Constraint", "Hierarchies", ".", "Lisp", "and", "Symbolic", "Computation", "5", "-LRB-", "3", "-RRB-", ":", "221-268", ".", "-LSB-", "10", "-RSB-", "Butterworth", "J", ",", "Davidson", "A", ",", "Hench", "S", ",", "Olano", "TM", "-LRB-", "1992", "-RRB-", "3DM", ":", "A", "Three", "Dimensional", "Modeler", "Using", "a", "Head-Mounted", "Display", ".", "Proc", ".", "SIGGRAPH", "Symposium", "on", "Interactive", "3D", "Graphics", ":", "135-138", ".", "-LSB-", "11", "-RSB-", "Card", "SK", ",", "Robertson", "GG", ",", "Mackinlay", "JD", "-LRB-", "1991", "-RRB-", "The", "Information", "Visualizer", ":", "An", "Information", "Workspace", ".", "Proc", ".", "SIGCHI", ":", "181-188", ".", "-LSB-", "12", "-RSB-", "Chou", "JJ", ",", "Piegl", "LA", "-LRB-", "1992", "-RRB-", "Data", "Reduction", "Using", "Cubic", "Rational", "Splines", ".", "IEEE", "Computer", "Graphics", "and", "Applications", "12", "-LRB-", "3", "-RRB-", ":", "60-68", ".", "-LSB-", "13", "-RSB-", "Conner", "DB", ",", "Snibbe", "SS", ",", "Herndon", "KP", ",", "Robbins", "DC", ",", "Zeleznik", "RC", ",", "Van", "Dam", "A", "-LRB-", "1992", "-RRB-", "Three-Dimensional", "Widgets", ".", "SIGGRAPH", "Symposium", "on", "Interactive", "3D", "Graphics", ":", "183", "188", ".", "-LSB-", "14", "-RSB-", "Elliott", "C", ",", "Schechter", "G", ",", "Yeung", "R", ",", "Abi-Ezzi", "S", "-LRB-", "1994", "-RRB-", "TBAG", ":", "A", "High", "Level", "Framework", "for", "Interactive", ",", "Animated", "3D", "Graphics", "Applications", ".", "Proc", ".", "SIGGRAPH", ":", "421-434", ".", "-LSB-", "15", "-RSB-", "Gleicher", "M", "-LRB-", "1993", "-RRB-", "A", "Graphics", "Toolkit", "Based", "on", "Differential", "Constraints", ".", "Proc", ".", "UIST", ":", "109-120", ".", "-LSB-", "16", "-RSB-", "Gleicher", "M", ",", "Witkin", "A", "-LRB-", "1992", "-RRB-", "Through-the-Lens", "Camera", "Control", ".", "Proc", ".", "SIGGRAPH", ":", "331-340", ".", "-LSB-", "17", "-RSB-", "Gobbetti", "E", "-LRB-", "1993", "-RRB-", "Virtuality", "Builder", "II", ":", "Vers", "une", "architecture", "pour", "l'interaction", "avec", "des", "modes", "sysnth", "tiques", ".", "PhD", "Thesis", ",", "Swiss", "Federal", "Institute", "of", "Technology", "in", "Lausanne", ".", "-LSB-", "18", "-RSB-", "Gobbetti", "E", ",", "Balaguer", "JF", "-LRB-", "1993", "-RRB-", "VB2", ":", "A", "Framework", "for", "Interaction", "in", "Synthetic", "Worlds", ".", "Proc", ".", "UIST", ":", "167-178", ".", "-LSB-", "19", "-RSB-", "Herndon", "KP", ",", "van", "Dam", "A", ",", "Gleicher", "M", "-LRB-", "1994", "-RRB-", "Report", ":", "Workshop", "on", "the", "Challenges", "of", "3D", "Interaction", ",", "CHI", "Bulletin", ",", "October", ".", "-LSB-", "20", "-RSB-", "Kass", "M", "-LRB-", "1992", "-RRB-", "CONDOR", ":", "Constraint-based", "Dataflow", ".", "Proc", ".", "SIGGRAPH", ":", "321-330", ".", "-LSB-", "21", "-RSB-", "Lasseter", "J", "-LRB-", "1987", "-RRB-", "Principles", "of", "Traditional", "Animation", "Applied", "to", "3D", "Computer", "Animation", ".", "Proc", ".", "SIGGRAPH", ":", "35", "44", ".", "-LSB-", "22", "-RSB-", "Lyche", "T", ",", "M", "rken", "K", "-LRB-", "1987", "-RRB-", "Knot", "Removal", "for", "Parametric", "B", "spline", "Curves", "and", "Surfaces", ".", "Computer", "Aided", "Geometric", "Design", "4", ":", "217-230", ".", "-LSB-", "23", "-RSB-", "McKenna", "M", ",", "Pieper", "S", ",", "Zeltzer", "D", "-LRB-", "1990", "-RRB-", "Control", "of", "a", "Virtual", "Actor", ":", "The", "Roach", ".", "Proc", ".", "SIGGRAPH", "Symposium", "on", "Interactive", "3D", "Graphics", ":", "165-174", ".", "-LSB-", "24", "-RSB-", "Plass", "M", ",", "Stone", "M", "-LRB-", "1983", "-RRB-", "Curve", "Fitting", "with", "Piecewise", "Parametric", "Cubics", ".", "Proc", ".", "SIGGRAPH", ":", "229-239", ".", "-LSB-", "25", "-RSB-", "Pudet", "T", "-LRB-", "1994", "-RRB-", "Real", "Time", "Fitting", "of", "Hand", "Sketched", "Pressure", "Brushstrokes", ".", "Proc", ".", "EUROGRAPHICS", ":", "205-220", ".", "-LSB-", "26", "-RSB-", "Sachs", "E", ",", "Roberts", "A", ",", "Stoops", "D", "-LRB-", "1990", "-RRB-", "3-Draw", ":", "A", "Tool", "for", "Designing", "3D", "Shapes", ".", "IEEE", "Computer", "Graphics", "and", "Applications", "11", "-LRB-", "6", "-RRB-", ":", "18-26", ".", "-LSB-", "27", "-RSB-", "Sannella", "M", "-LRB-", "1994", "-RRB-", "Skyblue", ":", "A", "Multi-Way", "Local", "Propagation", "Constraint", "Solver", "for", "User", "Interface", "Construction", ".", "Proc", ".", "UIST", ":", "137-146", ".", "-LSB-", "28", "-RSB-", "Sannella", "M", ",", "Maloney", "J", ",", "Freeman-Benson", "B", ",", "Borning", "A", "-LRB-", "1992", "-RRB-", "Multi-way", "versus", "One-way", "Constraints", "in", "User", "Interfaces", ".", "Software", "Practice", "and", "Experience", "23", "-LRB-", "5", "-RRB-", ":", "529-566", ".", "-LSB-", "29", "-RSB-", "Schneider", "PJ", "-LRB-", "1988", "-RRB-", "Phoenix", ":", "An", "Interactive", "Curve", "Design", "System", "Based", "on", "the", "Automatic", "Fitting", "of", "Hand-Sketched", "Curves", ".", "Master", "'s", "Thesis", ",", "University", "of", "Washington", ".", "-LSB-", "30", "-RSB-", "Shaw", "C", ",", "Green", "M", "-LRB-", "1994", "-RRB-", "Two-Handed", "Polygonal", "Surface", "Design", ".", "Proc", ".", "UIST", ":", "212-215", ".", "-LSB-", "31", "-RSB-", "Shelley", "KL", ",", "Greenberg", "DP", "-LRB-", "1982", "-RRB-", "Path", "Specification", "and", "Path", "Coherence", ".", "Proc", ".", "SIGGRAPH", ":", "157-166", ".", "-LSB-", "32", "-RSB-", "Strauss", "PS", ",", "Carey", "R", "-LRB-", "1992", "-RRB-", "An", "Object-Oriented", "3D", "Graphics", "Toolkit", ".", "Proc", ".", "SIGGRAPH", ":", "341-347", ".", "-LSB-", "33", "-RSB-", "Tice", "S", "-LRB-", "1993", "-RRB-", "VActor", "Animation", "Creation", "System", ".", "SIGGRAPH", "Tutorial", "1", ".", "-LSB-", "34", "-RSB-", "Upson", "C", ",", "Fulhauber", "T", ",", "Kamins", "D", ",", "Laidlaw", "D", ",", "Schlegel", "D", ",", "Vroom", "J", ",", "Gurwitz", "R", ",", "van", "Dam", "A", "-LRB-", "1989", "-RRB-", "The", "Application", "Visualization", "System", ":", "A", "Computational", "Environment", "for", "Scientific", "Visualization", ".", "IEEE", "CG&A", "9", "-LRB-", "4", "-RRB-", ":", "30-42", ".", "-LSB-", "35", "-RSB-", "Walters", "G", "-LRB-", "1993", "-RRB-", "Performance", "Animation", "at", "PDI", ".", "SIGGRAPH", "Tutorial", "1", ".", "-LSB-", "36", "-RSB-", "Vander", "Zanden", "B", "-LRB-", "1995", "-RRB-", "An", "Incremental", "Algorithm", "for", "Satisfying", "Hierarchies", "of", "Multi-way", ",", "Dataflow", "Constraints", ".", "Technical", "Report", ",", "University", "of", "Tennessee", ",", "Knoxville", ".", "-LSB-", "37", "-RSB-", "Zeleznik", "RC", ",", "Conner", "DB", ",", "Wlocka", "MM", ",", "Aliaga", "DG", ",", "Wang", "NT", ",", "Hubbard", "PM", ",", "Knepp", "B", ",", "Kaufman", "H", ",", "Hughes", "JF", ",", "van", "Dam", "A", "-LRB-", "1991", "-RRB-", "An", "Object-Oriented", "Framework", "for", "the", "Integration", "of", "Interactive", "Animation", "Techniques", ".", "Proc", ".", "SIGGRAPH", ":", "105-112", ".", "-LSB-", "38", "-RSB-", "Zeltzer", "D", ",", "Pieper", "S", ",", "Sturman", "DJ", "-LRB-", "1989", "-RRB-", "An", "Integrated", "Graphical", "Simulation", "Platform", ".", "Proc", ".", "Graphics", "Interface", ":", "266-274", ".", "398"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["data reduction", "computer graphics", "3d user interface", "3d widgets", "local propagation constraints", "3d animation environment", "virtual tools", "3d animation", "3d interaction", "visualization"], "abstractive_keyphrases": ["object-oriented graphics", "recording 3d manipulation", "human interaction", "multi-way constrained architecture", "animation synchronization", "dynamic model"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "26", "document": ["Accelerating", "3D", "Convolution", "using", "Graphics", "Hardware", "Many", "volume", "filtering", "operations", "used", "for", "image", "enhancement", ",", "data", "processing", "or", "feature", "detection", "can", "be", "written", "in", "terms", "of", "three-dimensional", "convolutions", ".", "It", "is", "not", "possible", "to", "yield", "interactive", "frame", "rates", "on", "todays", "hardware", "when", "applying", "such", "convolutions", "on", "volume", "data", "using", "software", "filter", "routines", ".", "As", "modern", "graphics", "workstations", "have", "the", "ability", "to", "render", "two-dimensional", "convoluted", "images", "to", "the", "frame", "buffer", ",", "this", "feature", "can", "be", "used", "to", "accelerate", "the", "process", "significantly", ".", "This", "way", "generic", "3D", "convolution", "can", "be", "added", "as", "a", "powerful", "tool", "in", "interactive", "volume", "visualization", "toolkits", ".", "Direct", "volume", "rendering", "is", "a", "very", "important", "technique", "for", "visualizing", "three", "dimensional", "data", ".", "Several", "fundamental", "different", "methods", "have", "been", "introduced", "-LSB-", "2", ",", "4", ",", "5", ",", "6", ",", "8", ",", "12", "-RSB-", ".", "Hardware-based", "volume", "texturing", "-LSB-", "9", ",", "14", "-RSB-", "is", "one", "of", "the", "most", "prominent", "variants", "for", "interactive", "visualization", "due", "to", "the", "high", "frame", "rates", "that", "can", "be", "achieved", "with", "this", "technique", ".", "The", "basic", "principle", "of", "texture", "based", "volume", "rendering", "is", "depicted", "in", "Figure", "1", ".", "According", "to", "the", "sampling", "theorem", "a", "3D", "view", "of", "the", "volume", "is", "generated", "by", "drawing", "an", "adequate", "number", "of", "equidistant", ",", "semi-transparent", "polygons", "parallel", "to", "the", "image", "plane", "with", "respect", "to", "the", "current", "viewing", "direction", "-LRB-", "``", "volume", "slicing", "''", "-RRB-", ".", "Filtering", "on", "the", "other", "hand", "is", "a", "major", "part", "of", "the", "visualization", "pipeline", ".", "It", "is", "broadly", "used", "for", "improving", "images", ",", "reducing", "noise", ",", "and", "enhancing", "detail", "structure", ".", "Volume", "rendering", "can", "benefit", "from", "filter", "operations", ",", "as", "low", "pass", "filters", "reduce", "the", "noise", "e.g.", "of", "sam-pled", "medical", "volume", "images", "and", "high", "pass", "filters", "can", "be", "used", "for", "edge", "extraction", ",", "visualizing", "prominent", "data", "features", ".", "Multiscale", "approaches", "as", "-LSB-", "13", "-RSB-", "regularly", "use", "disjunct", "filtering", "and", "downsampling", "steps", "and", "can", "benefit", "from", "any", "speedups", "of", "the", "filtering", "process", ".", "-LCB-", "hopf", ",", "ertl", "-RCB-", "@informatik", ".", "uni-stuttgart", ".", "de", "Institut", "f", "ur", "Informatik", "Breitwiesenstr", ".", "20", "22", "70565", "Stuttgart", "Germany", "Figure", "1", ":", "Texture", "based", "volume", "rendering", "Filters", "can", "be", "classified", "as", "linear", "or", "non-linear", ".", "Discrete", "linear", "filters", "can", "be", "written", "as", "convolutions", "with", "filter", "kernels", "that", "completely", "specify", "the", "filtering", "operation", ".", "Non-linear", "filters", ",", "as", "for", "instance", "morphological", "operators", ",", "were", "recently", "used", "for", "volume", "analysis", "and", "visualization", "-LSB-", "7", "-RSB-", ".", "Segmentation", "and", "classification", "depend", "heavily", "on", "filtering", "operations", "as", "well", ".", "Bro-Nielson", "-LSB-", "1", "-RSB-", "already", "thought", "about", "using", "convolution", "hardware", "for", "accelerating", "the", "registration", "process", ".", "For", "texture", "based", "volume", "rendering", "the", "data", "set", "has", "to", "be", "loaded", "into", "special", "texture", "memory", ",", "which", "can", "be", "addressed", "by", "the", "graphics", "pipe", "very", "fast", ".", "The", "loading", "process", "itself", "is", "relatively", "slow", ",", "taking", "several", "seconds", "for", "big", "data", "sets", "even", "on", "the", "fastest", "available", "graphics", "workstations", ".", "As", "the", "data", "set", "has", "to", "be", "reloaded", "after", "a", "filter", "operation", "has", "been", "performed", "in", "software", ",", "interactive", "filtering", "will", "benefit", "a", "lot", "from", "convolution", "algorithms", "that", "directly", "work", "on", "the", "texture", "hardware", ".", "Additionally", ",", "we", "will", "show", "in", "the", "following", "that", "computing", "the", "convolution", "with", "graphics", "hardware", "is", "much", "faster", "than", "software", "solutions", ".", "The", "general", "three-dimensional", "discrete", "convolution", "can", "be", "written", "as", "~", "f", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "=", "i", "1", ",", "i", "2", ",", "i", "3", "k", "-LRB-", "i", "1", ",", "i", "2", ",", "i", "3", "-RRB-", "f", "-LRB-", "x", "+", "i", "1", ",", "y", "+", "i", "2", ",", "z", "+", "i", "3", "-RRB-", "with", "f", "being", "the", "input", "data", "function", "and", "k", "being", "the", "filter", "kernel", ",", "resulting", "in", "the", "convoluted", "data", "~", "f", ".", "In", "the", "following", "examination", "we", "will", "assume", "without", "loss", "of", "generality", "that", "k", "-LRB-", "i", "1", ",", "i", "2", ",", "i", "3", "-RRB-", "is", "given", "for", "0", "i", "1", ",", "i", "2", ",", "i", "3", "<", "n", "and", "vanishes", "outside", "this", "interval", ".", "Also", ",", "we", "will", "assume", "that", "the", "input", "data", "function", "vanishes", "for", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "outside", "the", "interval", "-LSB-", "0", ",", "m", "-RRB-", "3", ".", "In", "the", "special", "case", "of", "k", "-LRB-", "i", "1", ",", "i", "2", ",", "i", "3", "-RRB-", "=", "k", "1", "-LRB-", "i", "1", "-RRB-", "k", "2", "-LRB-", "i", "2", "-RRB-", "k", "3", "-LRB-", "i", "3", "-RRB-", "the", "0-7803-5897-X", "/", "99", "/", "$", "10.00", "Copyright", "1999", "IEEE", "471", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "-3", "-2", "-1", "0", "1", "2", "3", "0.1", "0.2", "0.3", "0", "1", "2", "3", "4", "5", "6", "7", "-0.5", "-0.4", "-0.3", "-0.2", "-0.1", "0", "0.1", "0.2", "0.3", "-3", "-2", "-1", "0", "1", "2", "3", "-0.5", "-0.4", "-0.3", "-0.2", "-0.1", "0", "0.1", "0.2", "0.3", "0", "1", "2", "3", "4", "5", "6", "7", "Figure", "2", ":", "The", "Gau", "filter", "function", "and", "its", "second", "derivative", "Figure", "3", ":", "Example", "image", ";", "original", ",", "filtered", "with", "Gau", ",", "and", "filtered", "with", "second", "derivative", "kernel", "is", "called", "separable", ".", "In", "this", "case", "the", "number", "of", "operations", "necessary", "for", "the", "convolution", "can", "be", "reduced", "down", "to", "O", "-LRB-", "m", "3", "n", "-RRB-", ",", "from", "O", "-LRB-", "m", "3", "n", "3", "-RRB-", "in", "the", "non-separable", "case", ":", "~", "f", "1", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "=", "i", "1", "k", "1", "-LRB-", "i", "1", "-RRB-", "f", "-LRB-", "x", "+", "i", "1", ",", "y", ",", "z", "-RRB-", "-LRB-", "1", "-RRB-", "~", "f", "2", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "=", "i", "2", "k", "2", "-LRB-", "i", "2", "-RRB-", "~", "f", "1", "-LRB-", "x", ",", "y", "+", "i", "2", ",", "z", "-RRB-", "-LRB-", "2", "-RRB-", "~", "f", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "=", "i", "3", "k", "3", "-LRB-", "i", "3", "-RRB-", "~", "f", "2", "-LRB-", "x", ",", "y", ",", "z", "+", "i", "3", "-RRB-", "-LRB-", "3", "-RRB-", "Of", "course", "special", "care", "has", "to", "be", "taken", "near", "the", "boundaries", "of", "the", "input", "data", "function", ",", "as", "convolution", "routines", "are", "generally", "written", "on", "a", "very", "low", "language", "level", "for", "speed", "purposes", ".", "Figure", "2", "shows", "two", "well", "known", "convolution", "filters", ",", "the", "Gau", "filter", "and", "its", "second", "derivative", ",", "both", "in", "their", "continuous", "and", "discrete", "forms", ".", "They", "can", "be", "used", "for", "noise", "reduction", "and", "edge", "detection", ",", "respectively", ".", "An", "example", "image", "that", "was", "filtered", "with", "these", "kernels", "can", "be", "seen", "in", "Figure", "3", ".", "In", "order", "to", "accelerate", "the", "convolution", "process", ",", "special", "purpose", "hardware", "can", "be", "used", ".", "On", "systems", "that", "have", "built-in", "Digital", "Signal", "Processors", "-LRB-", "DSPs", "-RRB-", ",", "for", "example", "for", "multimedia", "acceleration", ",", "a", "spe-cialized", "convolution", "subroutine", "could", "be", "downloaded", "to", "the", "signal", "2D", "Convolution", "Figure", "4", ":", "The", "first", "pass", "of", "the", "hardware", "filtering", "algorithm", "0", "1", "000000000000000000000000000000", "000000000000000000000000000000", "000000000000000000000000000000", "000000000000000000000000000000", "111111111111111111111111111111", "111111111111111111111111111111", "111111111111111111111111111111", "111111111111111111111111111111", "Used", "texture", "coordinates", "0", "00", "00", "11", "11", "the", "data", "value", "15/16", "Texel", "inside", "a", "texel", "Exact", "position", "of", "1/16", "3/4", "7/8", "1", "Texture", "coordinates", "5/8", "1/8", "1/4", "3/8", "1/2", "00", "00", "11", "11", "00", "00", "11", "11", "00", "00", "11", "11", "00", "00", "11", "11", "00", "00", "11", "11", "Figure", "5", ":", "Texture", "coordinates", "used", "for", "exact", "texel", "hits", "processor", ".", "On", "the", "other", "hand", ",", "most", "times", "these", "DSPs", "are", "not", "well", "documented", "or", "the", "run-time", "system", "can", "not", "be", "modified", "by", "the", "user", ".", "In", "general", "they", "are", "not", "faster", "than", "the", "main", "processor", "as", "well", ".", "Additionally", ",", "there", "exists", "a", "wide", "range", "of", "different", "DSP", "systems", ",", "all", "of", "which", "are", "incompatible", "to", "each", "other", ".", "The", "approach", "we", "have", "implemented", "in", "our", "system", "is", "to", "combine", "a", "2D", "and", "a", "1D", "convolution", "kernel", "in", "order", "to", "calculate", "three-dimensional", "separable", "convolutions", ".", "Several", "vendors", "of", "the", "graphics", "API", "OpenGL", "--", "as", "for", "example", "Silicon", "Graphics", "Inc.", "-LSB-", "10", "-RSB-", "-", "have", "included", "extensions", "for", "one", "-", "and", "two-dimensional", "filtering", ".", "In", "contrast", "to", "most", "implementations", "that", "emulate", "these", "extensions", "only", "in", "software", ",", "the", "SGI", "graphics", "pipes", "MXE", "and", "BasicReality", "calculate", "the", "convolutions", "on-board", ",", "boosting", "performance", "by", "an", "order", "of", "magnitude", "already", "for", "reasonably", "sized", "filters", ".", "The", "CRM", "graphics", "system", "of", "the", "O", "2", "is", "capable", "of", "rendering", "convolutions", "in", "hardware", "as", "well", ",", "but", "it", "does", "not", "support", "volume", "textures", ",", "which", "are", "crucial", "for", "the", "algorithm", "as", "well", ".", "Recall", "that", "the", "volume", "data", "is", "already", "stored", "in", "texture", "memory", "for", "visualization", "using", "texture", "hardware", ".", "Now", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", "are", "combined", "to", "one", "2D", "convolution", "that", "is", "to", "be", "applied", "to", "every", "plane", "of", "the", "volume", "data", "perpendicular", "to", "the", "z-axis", ".", "Therefore", ",", "plane", "by", "plane", "is", "drawn", "by", "rendering", "textured", "triangle", "strips", "-LRB-", "two", "triangles", "per", "strip", "-RRB-", "into", "the", "frame", "buffer", "as", "it", "is", "sketched", "in", "Figure", "4", ".", "The", "texture", "coordinates", "assigned", "to", "the", "vertices", "of", "the", "triangle", "strips", "are", "specified", "in", "such", "way", "that", "no", "interpolation", "of", "the", "texture", "is", "necessary", "-LRB-", "see", "Figure", "5", "-RRB-", ".", "In", "order", "to", "increase", "the", "potential", "speedup", "and", "to", "avoid", "rounding", "problems", ",", "nearest", "neighbor", "interpolation", "is", "activated", "during", "the", "rendering", "process", ".", "Each", "plane", "is", "then", "read", "back", "with", "the", "OpenGL", "routine", "glCopyTexSubImage3DEXT", ",", "which", "replaces", "one", "plane", "of", "the", "active", "volume", "texture", "orthogonal", "to", "the", "z-axis", "by", "data", "that", "is", "read", "directly", "from", "the", "frame", "buffer", ".", "While", "transfering", "the", "data", "to", "the", "texture", "memory", ",", "the", "separable", "2D", "convolution", "filter", "is", "activated", "using", "glSeparableFilter2DEXT", ".", "After", "this", "first", "pass", ",", "the", "volume", "texture", "contains", "data", "filtered", "along", "the", "x", "-", "and", "y-axes", ".", "472", "1D", "Convolution", "Figure", "6", ":", "The", "second", "pass", "Framebuffer", "Operations", "Memory", "Texture", "Pixel", "Data", "Textures", "Pixel", "Transfer", "Modes", "Primitives", "Per-Fragment", "Rasterization", "Engine", "Geometry", "Geometric", "Scale", ",", "Bias", "Clamping", "Storage", "Mode", "Convolution", "Post-Convolution", "Scale", ",", "Bias", "Pixel", "Figure", "7", ":", "The", "OpenGL", "graphics", "pipeline", "Applying", "the", "convolution", "to", "the", "third", "axis", "is", "more", "complicated", "and", "depicted", "in", "Figure", "6", ".", "In", "this", "second", "pass", "planes", "are", "rendered", "perpendicular", "to", "one", "of", "the", "other", "axes", ".", "Assume", "that", "the", "y-axis", "has", "been", "chosen", ".", "As", "glCopyTexSubImage3DEXT", "can", "not", "write", "planes", "orthogonal", "to", "any", "other", "axis", "than", "the", "z-axis", "to", "the", "texture", "memory", ",", "they", "have", "to", "be", "transfered", "to", "a", "second", "volume", "texture", ".", "OpenGL", "'s", "texture", "objects", "are", "used", "by", "calling", "glBindTexture", "for", "switching", "between", "them", ",", "which", "implies", "only", "a", "very", "small", "overhead", ".", "While", "copying", "the", "data", "from", "the", "frame", "buffer", "to", "the", "texture", "memory", ",", "a", "one-dimensional", "convolution", "filter", "is", "activated", ".", "As", "we", "are", "dealing", "with", "two-dimensional", "image", "data", ",", "we", "specify", "a", "2D", "convolution", "filter", "with", "glConvolutionFilter2DEXT", ",", "using", "a", "filter", "kernel", "that", "is", "exactly", "one", "pixel", "wide", ".", "After", "this", "second", "pass", "the", "convoluted", "volume", "data", "has", "been", "mirrored", "at", "the", "plane", "y", "-", "z", "=", "0", ".", "For", "texture", "based", "volume", "renderers", "this", "does", "not", "impose", "any", "restrictions", ",", "as", "they", "only", "have", "to", "swap", "coordinates", "during", "texture", "coordinate", "calculations", ".", "When", "data", "order", "is", "crucial", "for", "the", "application", ",", "the", "algorithm", "of", "pass", "two", "can", "be", "used", "for", "both", "passes", ",", "thus", "restoring", "the", "data", "order", "in", "the", "second", "pass", ".", "However", ",", "the", "textured", "planes", "have", "to", "be", "drawn", "two", "times", "perpendicular", "to", "the", "y-axis", ".", "Cache", "misses", "are", "much", "more", "likely", "in", "this", "case", "in", "respect", "to", "planes", "rendered", "orthogonal", "to", "the", "z-axis", ".", "This", "can", "increase", "the", "convolution", "times", "on", "big", "volumes", "by", "up", "to", "50", "%", "even", "on", "fast", "graphics", "hardware", ".", "Figure", "7", "depicts", "the", "relevant", "part", "of", "the", "OpenGL", "pipeline", ".", "It", "reveals", ",", "that", "pixel", "fragments", "read", "from", "the", "frame", "buffer", "are", "clamped", "to", "-LSB-", "0", ",", "1", "-RRB-", "before", "they", "can", "be", "written", "back", "to", "the", "frame", "buffer", "or", "into", "the", "texture", "memory", ".", "Filter", "kernels", "with", "negative", "coefficients", "can", "compute", "negative", "intermediary", "values", "during", "the", "two-dimensional", "convolution", "pass", ",", "which", "will", "not", "contribute", "to", "the", "final", "1D", "convolution", ".", "Additionally", ",", "no", "negative", "results", "can", "be", "stored", "in", "the", "output", "volume", ".", "These", "values", "are", "especially", "needed", "when", "the", "filter", "kernel", "is", "not", "symmetrical", ".", "The", "strategy", "for", "avoiding", "these", "effects", "depends", "on", "the", "particular", "application", ".", "For", "edge", "detection", "the", "absolute", "maxima", "of", "the", "filtered", "volume", "data", "are", "of", "interest", ".", "In", "this", "case", ",", "calculating", "the", "absolute", "value", "can", "be", "performed", "in", "hardware", "as", "well", ",", "further", "reducing", "necessary", "computations", "on", "the", "CPU", ".", "In", "most", "other", "cases", "post-convolution", "scaling", "and", "bias", "can", "be", "used", "to", "map", "the", "expected", "results", "to", "the", "interval", "-LSB-", "0", ",", "1", "-RRB-", "just", "before", "the", "clamping", "takes", "place", ".", "OpenGL", "provides", "the", "GL", "POST", "CONVOLUTION", "c", "SCALE", "EXT", "and", "GL", "POST", "CONVOLUTION", "c", "BIAS", "EXT", "parameters", ",", "which", "are", "applied", "to", "pixel", "color", "values", "after", "convolution", "and", "before", "clamping", "as", "depicted", "in", "Figure", "7", ".", "The", "used", "data", "sets", "are", "presented", "on", "the", "color", "plate", ".", "Figures", "8", "to", "12", "show", "slices", "of", "a", "head", "data", "set", "of", "size", "128", "3", ".", "Figure", "8", "reveals", "the", "unfiltered", "data", "set", ",", "whereas", "Figure", "9", "and", "10", "present", "slices", "of", "the", "software", "and", "hardware", "low", "pass", "filtered", "volume", "data", ",", "respectively", ".", "Here", ",", "a", "Gau", "filter", "kernel", "of", "size", "5", "3", "has", "been", "used", ".", "Almost", "no", "differences", "can", "be", "detected", ".", "Figure", "11", "and", "12", "depict", "the", "results", "for", "high", "pass", "filtering", "using", "the", "second", "derivative", "of", "the", "Gau", "filter", ",", "again", "computed", "in", "software", "and", "in", "hardware", ".", "The", "hardware", "convoluted", "volume", "displays", "noticeable", "artifacts", "that", "occur", "due", "to", "the", "already", "mentioned", "clamping", "step", "in", "the", "OpenGL", "pipeline", ".", "By", "using", "post-convolution", "scaling", "and", "bias", "the", "artifacts", "disappear", "completely", ".", "The", "Figures", "13", "to", "18", "picture", "another", "data", "set", "that", "has", "been", "used", "for", "testing", "the", "implementation", ".", "They", "have", "been", "visualized", "with", "the", "hardware", "based", "volume", "rendering", "toolkit", "TiVOR", "-LSB-", "11", "-RSB-", ",", "again", "with", "the", "first", "picture", "being", "rendered", "with", "the", "original", "data", "set", ".", "While", "the", "noise", "reduction", "effect", "of", "the", "Gau", "filter", "is", "rather", "bothering", "in", "Figure", "14", "by", "smearing", "volume", "details", ",", "it", "has", "remarkable", "positive", "effects", "on", "ISO", "surface", "generation", "-LRB-", "compare", "Figures", "17", "and", "18", "-RRB-", ".", "Please", "remark", "that", "the", "ISO", "surfaces", "are", "rendered", "in", "real-time", "using", "a", "hardware", "accelerated", "volume", "rendering", "approach", "described", "in", "-LSB-", "14", "-RSB-", ".", "Noise", "interferes", "with", "high", "pass", "filters", ",", "which", "can", "be", "seen", "in", "Figure", "15", ".", "Using", "a", "high", "pass", "filter", "on", "the", "already", "low", "pass", "filtered", "data", "set", "reveals", "by", "far", "more", "and", "better", "separable", "details", "-LRB-", "see", "Figure", "16", "-RRB-", "compared", "to", "the", "directly", "filtered", "volume", ".", "We", "have", "tested", "the", "speed", "our", "implementation", "against", "a", "well", "tuned", "software", "convolution", "filter", ".", "Unsurprisingly", ",", "the", "software", "convolution", "is", "almost", "completely", "memory", "bound", ".", "Even", "extremely", "fast", "workstations", "as", "the", "Octane", "are", "limited", "by", "the", "main", "memory", "band-473", "Filter", "size", "2", "3", "3", "3", "5", "3", "7", "3", "head", "0.33", "/", "0.72", "0.33", "/", "1.02", "0.33", "/", "1.56", "0.48", "/", "2.0", "angio", "2.5", "/", "6.0", "2.5", "/", "8.7", "2.5", "/", "14.7", "3.7", "/", "21.3", "Data", "set", "created", "by", "computer", "tomography", ",", "128", "3", "Data", "set", "created", "by", "MR", "angiography", ",", "256", "3", "All", "times", "were", "measured", "on", "a", "Silicon", "Graphics", "Onyx2", "equipped", "with", "a", "BasicReality", "graphics", "pipe", ".", "The", "system", "has", "two", "R10000/195", "MHz", "processors", "and", "640", "MB", "main", "memory", ".", "Table", "1", ":", "Convolution", "times", "in", "seconds", "using", "hardware", "/", "software", "width", ",", "as", "today", "'s", "caches", "are", "far", "too", "small", "for", "the", "values", "needed", "for", "convolution", "along", "the", "z-axis", ".", "High", "end", "machines", "as", "the", "Onyx2", "perform", "huge", "3D", "convolutions", "three", "times", "faster", "than", "the", "Octane", ",", "even", "when", "equipped", "with", "slower", "CPUs", ".", "Standard", "PCs", "can", "not", "cope", "with", "the", "memory", "bandwidth", "of", "the", "Onyx2", "system", ",", "and", "multipro-cessor", "options", "will", "not", "accelerate", "the", "process", "because", "it", "is", "not", "CPU", "bound", ".", "Table", "1", "shows", "convolution", "times", "for", "different", "data", "sets", "and", "filter", "sizes", ",", "using", "software", "and", "hardware", "convolution", ".", "All", "times", "have", "been", "measured", "on", "an", "Onyx2", "equipped", "with", "a", "BasicReality", "graphics", "pipe", ".", "The", "maximum", "filter", "size", "supported", "by", "the", "graphics", "system", "is", "7", "2", ".", "Therefor", ",", "the", "maximum", "3D", "convolution", "that", "can", "be", "performed", "in", "hardware", "on", "this", "system", "is", "7", "3", ".", "Noteworthy", "is", "the", "fact", "that", "the", "BasicReality", "graphics", "system", "is", "optimized", "for", "filter", "kernels", "of", "size", "5", "2", ".", "Convolutions", "with", "smaller", "kernels", "need", "exactly", "the", "same", "computation", "time", ".", "Filters", "of", "size", "6", "2", "and", "7", "2", "share", "their", "timing", "results", "as", "well", ".", "The", "x", "and", "y", "coordinates", "of", "the", "volume", "are", "swapped", "during", "the", "hardware", "based", "convolution", "process", ",", "which", "is", "a", "side", "effect", "of", "the", "presented", "3D", "convolution", "algorithm", ".", "As", "several", "of", "today", "'s", "graphics", "workstation", "vendors", "have", "added", "two-dimensional", "convolution", "to", "their", "OpenGL", "pipeline", ",", "using", "this", "capability", "for", "accelerating", "3D", "convolution", "is", "an", "almost", "straightforward", "approach", ".", "We", "have", "determined", "that", "by", "using", "the", "implemented", "algorithm", "three-dimensional", "convolution", "can", "be", "performed", "even", "on", "big", "data", "sets", "with", "nearly", "interactive", "rates", ".", "First", "promising", "approaches", "of", "accelerating", "wavelet", "decomposition", "and", "reconstruction", "have", "been", "investigated", "as", "well", "-LSB-", "3", "-RSB-", ".", "As", "all", "intermediary", "data", "is", "transfered", "to", "the", "frame", "buffer", ",", "clamping", "can", "swallow", "negative", "values", "that", "result", "from", "the", "two-dimensional", "convolution", "as", "well", "as", "final", "negative", "results", ".", "Thus", "this", "approach", "is", "currently", "most", "useful", "for", "symmetrical", "filter", "kernels", ".", "By", "using", "post-convolution", "scaling", "and", "bias", "extensions", "these", "problems", "can", "be", "easily", "overcome", ".", "Non-separable", "convolutions", "are", "not", "possible", "right", "now", "with", "this", "algorithm", ".", "However", ",", "by", "applying", "several", "two-dimensional", "filter", "kernels", "and", "blending", "convoluted", "images", "in", "the", "frame", "buffer", "the", "use", "of", "non-separable", "3D", "kernels", "will", "be", "a", "possibility", "for", "the", "future", "as", "well", ".", "-LSB-", "1", "-RSB-", "M", "Bro-Nielson", ".", "Medical", "Image", "Registration", "and", "Surgery", "Simulation", ".", "PhD", "thesis", ",", "IMM", ",", "Technical", "University", "of", "Denmark", ",", "1996", ".", "-LSB-", "2", "-RSB-", "R.", "A.", "Crawfis", "and", "N.", "L.", "Max", ".", "Texture", "Splats", "for", "3D", "Scalar", "and", "Vector", "Field", "Visualization", ".", "In", "G.", "M.", "Nielson", "and", "Bergeron", "D.", ",", "editors", ",", "Visualization", "93", ",", "pages", "261", "265", ",", "Los", "Alamitos", ",", "CA", ",", "1993", ".", "IEEE", "Computer", "Society", ",", "IEEE", "Computer", "Society", "Press", ".", "-LSB-", "3", "-RSB-", "M.", "Hopf", "and", "T.", "Ertl", ".", "Hardware", "Based", "Wavelet", "Transformations", ".", "In", "Erlangen", "Workshop", "'99", "on", "Vision", ",", "Modeling", "and", "Visualization", ",", "Erlangen", ",", "November", "1999", ".", "IEEE", ".", "accepted", "for", "publication", ",", "November", "17", "19", ".", "-LSB-", "4", "-RSB-", "A.", "Kaufman", ".", "Volume", "Visualization", ".", "IEEE", "Computer", "Society", "Press", ",", "1991", ".", "-LSB-", "5", "-RSB-", "P.", "Lacroute", "and", "M.", "Levoy", ".", "Fast", "Volume", "Rendering", "Using", "a", "Shear-Warp", "Factorization", "of", "the", "Viewing", "Transformation", ".", "In", "Computer", "Graphics", "Proceedings", ",", "Annual", "Conference", "Series", ",", "pages", "451", "457", ",", "Los", "Angeles", ",", "California", ",", "July", "1994", ".", "ACM", "SIGGRAPH", ",", "Addison-Wesley", "Publishing", "Company", ",", "Inc.", "-LSB-", "6", "-RSB-", "L.", "Lippert", ",", "M.", "H.", "Gross", ",", "and", "C.", "Kurmann", ".", "Compression", "Domain", "Volume", "Rendering", "for", "Distributed", "Environments", ".", "In", "D.", "Fellner", "and", "L.", "Szirmay-Kalos", ",", "editors", ",", "EUROGRAPHICS", "'", "97", ",", "volume", "14", ",", "pages", "C95", "C107", ".", "Eurographics", "Association", ",", "Blackwell", "Publishers", ",", "1997", ".", "-LSB-", "7", "-RSB-", "C.", "L", "urig", "and", "T.", "Ertl", ".", "Hierarchical", "Volume", "Analysis", "and", "Visualization", "Based", "on", "Morphological", "Operators", ".", "In", "Proc", ".", "IEEE", "Visualization", "'", "98", ",", "pages", "335", "341", ",", "1998", ".", "-LSB-", "8", "-RSB-", "P.", "Schr", "oder", "and", "G.", "Stoll", ".", "Data", "Parallel", "Volume", "Rendering", "as", "Line", "Drawing", ".", "In", "1992", "Workshop", "on", "Volume", "Visualization", ".", "ACM", "SIGGRAPH", ",", "October", "1992", ".", "-LSB-", "9", "-RSB-", "Silicon", "Graphics", "Inc.", ",", "Mountain", "View", ",", "California", ".", "Volume", "Rendering", "using", "RE2", "Technology", ",", "1994", ".", "-LSB-", "10", "-RSB-", "Silicon", "Graphics", "Inc.", ",", "Mountain", "View", ",", "California", ".", "OpenGL", "on", "Silicon", "Graphics", "Systems", ",", "1996", ".", "-LSB-", "11", "-RSB-", "O.", "Sommer", ",", "A.", "Dietz", ",", "R.", "Westermann", ",", "and", "T.", "Ertl", ".", "An", "Interactive", "Visualization", "and", "Navigation", "Tool", "for", "Medical", "Volume", "Data", ".", "In", "N.", "M.", "Thalmann", "and", "V.", "Skala", ",", "editors", ",", "WSCG", "'", "98", ",", "The", "Sixth", "International", "Conference", "in", "Central", "Europe", "on", "Computer", "Graphics", "and", "Visualization", "'", "98", ",", "volume", "II", ",", "pages", "362", "371", ",", "Plzen", ",", "Czech", "Republic", ",", "February", "1998", ".", "University", "of", "West", "Bohemia", "Press", ".", "-LSB-", "12", "-RSB-", "T.", "Totsuka", "and", "M.", "Levoy", ".", "Frequency", "Domain", "Volume", "Rendering", ".", "Computer", "Graphics", ",", "27", "-LRB-", "4", "-RRB-", ":", "271", "78", ",", "August", "1993", ".", "-LSB-", "13", "-RSB-", "R.", "Westermann", "and", "T.", "Ertl", ".", "A", "Multiscale", "Approach", "to", "Integrated", "Volume", "Segmentation", "and", "Rendering", ".", "In", "Computer", "Graphics", "Forum", "16", "-LRB-", "3", "-RRB-", "-LRB-", "Proc", ".", "EUROGRAPHICS", "'", "97", "-RRB-", ",", "number", "3", ",", "pages", "117", "129", ".", "Blackwell", ",", "1997", ".", "-LSB-", "14", "-RSB-", "R.", "Westermann", "and", "T.", "Ertl", ".", "Efficiently", "Using", "Graphics", "Hardware", "in", "Volume", "Rendering", "Applications", ".", "In", "Computer", "Graphics", "Proceedings", ",", "Annual", "Conference", "Series", ",", "pages", "169", "177", ",", "Orlando", ",", "Florida", ",", "1998", ".", "ACM", "SIGGRAPH", ".", "474", "Figure", "8", ":", "The", "unfiltered", "head", "data", "set", "Figure", "9", ":", "Head", ",", "low", "pass", "filtered", "in", "software", "Figure", "10", ":", "Head", ",", "low", "pass", "filtered", "in", "hardware", "Figure", "11", ":", "Head", ",", "high", "pass", "filtered", "in", "software", "Figure", "12", ":", "Head", ",", "high", "pass", "filtered", "in", "hardware", "Figure", "13", ":", "The", "original", "angiography", "data", "set", "Figure", "14", ":", "The", "Gau", "filtered", "data", "set", "Figure", "15", ":", "Data", ",", "after", "direct", "filtering", "with", "Gau", "'", "second", "derivative", "Figure", "16", ":", "First", "low", "pass", ",", "then", "high", "pass", "filtered", "data", "Figure", "17", ":", "ISO", "surfaces", "on", "the", "original", "angiography", "data", "set", "Figure", "18", ":", "ISO", "surfaces", "on", "the", "Gau", "filtered", "data", "set"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["3d convolution", "volume rendering", "convolution", "filtering", "visualization"], "abstractive_keyphrases": ["hardware acceleration", "volume visualization"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "43", "document": ["Beyond", "Pagerank", ":", "Machine", "Learning", "For", "Static", "Ranking", "Since", "the", "publication", "of", "Brin", "and", "Page", "'s", "paper", "on", "PageRank", ",", "many", "in", "the", "Web", "community", "have", "depended", "on", "PageRank", "for", "the", "static", "-LRB-", "query-independent", "-RRB-", "ordering", "of", "Web", "pages", ".", "We", "show", "that", "we", "can", "significantly", "outperform", "PageRank", "using", "features", "that", "are", "independent", "of", "the", "link", "structure", "of", "the", "Web", ".", "We", "gain", "a", "further", "boost", "in", "accuracy", "by", "using", "data", "on", "the", "frequency", "at", "which", "users", "visit", "Web", "pages", ".", "We", "use", "RankNet", ",", "a", "ranking", "machine", "learning", "algorithm", ",", "to", "combine", "these", "and", "other", "static", "features", "based", "on", "anchor", "text", "and", "domain", "characteristics", ".", "The", "resulting", "model", "achieves", "a", "static", "ranking", "pairwise", "accuracy", "of", "67.3", "%", "-LRB-", "vs.", "56.7", "%", "for", "PageRank", "or", "50", "%", "for", "random", "-RRB-", ".", "I.", "2.6", "-LSB-", "Artificial", "Intelligence", "-RSB-", ":", "Learning", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", ".", "Algorithms", ",", "Measurement", ",", "Performance", ",", "Experimentation", ".", "Over", "the", "past", "decade", ",", "the", "Web", "has", "grown", "exponentially", "in", "size", ".", "Unfortunately", ",", "this", "growth", "has", "not", "been", "isolated", "to", "good-quality", "pages", ".", "The", "number", "of", "incorrect", ",", "spamming", ",", "and", "malicious", "-LRB-", "e.g.", ",", "phishing", "-RRB-", "sites", "has", "also", "grown", "rapidly", ".", "The", "sheer", "number", "of", "both", "good", "and", "bad", "pages", "on", "the", "Web", "has", "led", "to", "an", "increasing", "reliance", "on", "search", "engines", "for", "the", "discovery", "of", "useful", "information", ".", "Users", "rely", "on", "search", "engines", "not", "only", "to", "return", "pages", "related", "to", "their", "search", "query", ",", "but", "also", "to", "separate", "the", "good", "from", "the", "bad", ",", "and", "order", "results", "so", "that", "the", "best", "pages", "are", "suggested", "first", ".", "To", "date", ",", "most", "work", "on", "Web", "page", "ranking", "has", "focused", "on", "improving", "the", "ordering", "of", "the", "results", "returned", "to", "the", "user", "-LRB-", "query-dependent", "ranking", ",", "or", "dynamic", "ranking", "-RRB-", ".", "However", ",", "having", "a", "good", "query-independent", "ranking", "-LRB-", "static", "ranking", "-RRB-", "is", "also", "crucially", "important", "for", "a", "search", "engine", ".", "A", "good", "static", "ranking", "algorithm", "provides", "numerous", "benefits", ":", "Relevance", ":", "The", "static", "rank", "of", "a", "page", "provides", "a", "general", "indicator", "to", "the", "overall", "quality", "of", "the", "page", ".", "This", "is", "a", "useful", "input", "to", "the", "dynamic", "ranking", "algorithm", ".", "Efficiency", ":", "Typically", ",", "the", "search", "engine", "'s", "index", "is", "ordered", "by", "static", "rank", ".", "By", "traversing", "the", "index", "from", "high-quality", "to", "low-quality", "pages", ",", "the", "dynamic", "ranker", "may", "abort", "the", "search", "when", "it", "determines", "that", "no", "later", "page", "will", "have", "as", "high", "of", "a", "dynamic", "rank", "as", "those", "already", "found", ".", "The", "more", "accurate", "the", "static", "rank", ",", "the", "better", "this", "early-stopping", "ability", ",", "and", "hence", "the", "quicker", "the", "search", "engine", "may", "respond", "to", "queries", ".", "Crawl", "Priority", ":", "The", "Web", "grows", "and", "changes", "as", "quickly", "as", "search", "engines", "can", "crawl", "it", ".", "Search", "engines", "need", "a", "way", "to", "prioritize", "their", "crawl", "--", "to", "determine", "which", "pages", "to", "re-crawl", ",", "how", "frequently", ",", "and", "how", "often", "to", "seek", "out", "new", "pages", ".", "Among", "other", "factors", ",", "the", "static", "rank", "of", "a", "page", "is", "used", "to", "determine", "this", "prioritization", ".", "A", "better", "static", "rank", "thus", "provides", "the", "engine", "with", "a", "higher", "quality", ",", "more", "up-to", "-", "date", "index", ".", "Google", "is", "often", "regarded", "as", "the", "first", "commercially", "successful", "search", "engine", ".", "Their", "ranking", "was", "originally", "based", "on", "the", "PageRank", "algorithm", "-LSB-", "5", "-RSB-", "-LSB-", "27", "-RSB-", ".", "Due", "to", "this", "-LRB-", "and", "possibly", "due", "to", "Google", "'s", "promotion", "of", "PageRank", "to", "the", "public", "-RRB-", ",", "PageRank", "is", "widely", "regarded", "as", "the", "best", "method", "for", "the", "static", "ranking", "of", "Web", "pages", ".", "Though", "PageRank", "has", "historically", "been", "thought", "to", "perform", "quite", "well", ",", "there", "has", "yet", "been", "little", "academic", "evidence", "to", "support", "this", "claim", ".", "Even", "worse", ",", "there", "has", "recently", "been", "work", "showing", "that", "PageRank", "may", "not", "perform", "any", "better", "than", "other", "simple", "measures", "on", "certain", "tasks", ".", "Upstill", "et", "al.", ".", "have", "found", "that", "for", "the", "task", "of", "finding", "home", "pages", ",", "the", "number", "of", "pages", "linking", "to", "a", "page", "and", "the", "type", "of", "URL", "were", "as", ",", "or", "more", ",", "effective", "than", "PageRank", "-LSB-", "32", "-RSB-", ".", "They", "found", "similar", "results", "for", "the", "task", "of", "finding", "high", "quality", "companies", "-LSB-", "31", "-RSB-", ".", "PageRank", "has", "also", "been", "used", "in", "systems", "for", "TREC", "'s", "``", "very", "large", "collection", "''", "and", "``", "Web", "track", "''", "competitions", ",", "but", "with", "much", "less", "success", "than", "had", "been", "expected", "-LSB-", "17", "-RSB-", ".", "Finally", ",", "Amento", "et", "al.", ".", "-LSB-", "1", "-RSB-", "found", "that", "simple", "features", ",", "such", "as", "the", "number", "of", "pages", "on", "a", "site", ",", "performed", "as", "well", "as", "PageRank", ".", "Despite", "these", ",", "the", "general", "belief", "remains", "among", "many", ",", "both", "academic", "and", "in", "the", "public", ",", "that", "PageRank", "is", "an", "essential", "factor", "for", "a", "good", "static", "rank", ".", "Failing", "this", ",", "it", "is", "still", "assumed", "that", "using", "the", "link", "structure", "is", "crucial", ",", "in", "the", "form", "of", "the", "number", "of", "inlinks", "or", "the", "amount", "of", "anchor", "text", ".", "In", "this", "paper", ",", "we", "show", "there", "are", "a", "number", "of", "simple", "url", "-", "or", "page", "-", "based", "features", "that", "significantly", "outperform", "PageRank", "-LRB-", "for", "the", "purposes", "of", "statically", "ranking", "Web", "pages", "-RRB-", "despite", "ignoring", "the", "Copyright", "is", "held", "by", "the", "International", "World", "Wide", "Web", "Conference", "Committee", "-LRB-", "IW3C2", "-RRB-", ".", "Distribution", "of", "these", "papers", "is", "limited", "to", "classroom", "use", ",", "and", "personal", "use", "by", "others", ".", "WWW", "2006", ",", "May", "23", "26", ",", "2006", ",", "Edinburgh", ",", "Scotland", ".", "ACM", "1-59593-323-9", "/", "06/0005", ".", "707", "structure", "of", "the", "Web", ".", "We", "combine", "these", "and", "other", "static", "features", "using", "machine", "learning", "to", "achieve", "a", "ranking", "system", "that", "is", "significantly", "better", "than", "PageRank", "-LRB-", "in", "pairwise", "agreement", "with", "human", "labels", "-RRB-", ".", "A", "machine", "learning", "approach", "for", "static", "ranking", "has", "other", "advantages", "besides", "the", "quality", "of", "the", "ranking", ".", "Because", "the", "measure", "consists", "of", "many", "features", ",", "it", "is", "harder", "for", "malicious", "users", "to", "manipulate", "it", "-LRB-", "i.e.", ",", "to", "raise", "their", "page", "'s", "static", "rank", "to", "an", "undeserved", "level", "through", "questionable", "techniques", ",", "also", "known", "as", "Web", "spamming", "-RRB-", ".", "This", "is", "particularly", "true", "if", "the", "feature", "set", "is", "not", "known", ".", "In", "contrast", ",", "a", "single", "measure", "like", "PageRank", "can", "be", "easier", "to", "manipulate", "because", "spammers", "need", "only", "concentrate", "on", "one", "goal", ":", "how", "to", "cause", "more", "pages", "to", "point", "to", "their", "page", ".", "With", "an", "algorithm", "that", "learns", ",", "a", "feature", "that", "becomes", "unusable", "due", "to", "spammer", "manipulation", "will", "simply", "be", "reduced", "or", "removed", "from", "the", "final", "computation", "of", "rank", ".", "This", "flexibility", "allows", "a", "ranking", "system", "to", "rapidly", "react", "to", "new", "spamming", "techniques", ".", "A", "machine", "learning", "approach", "to", "static", "ranking", "is", "also", "able", "to", "take", "advantage", "of", "any", "advances", "in", "the", "machine", "learning", "field", ".", "For", "example", ",", "recent", "work", "on", "adversarial", "classification", "-LSB-", "12", "-RSB-", "suggests", "that", "it", "may", "be", "possible", "to", "explicitly", "model", "the", "Web", "page", "spammer", "'s", "-LRB-", "the", "adversary", "-RRB-", "actions", ",", "adjusting", "the", "ranking", "model", "in", "advance", "of", "the", "spammer", "'s", "attempts", "to", "circumvent", "it", ".", "Another", "example", "is", "the", "elimination", "of", "outliers", "in", "constructing", "the", "model", ",", "which", "helps", "reduce", "the", "effect", "that", "unique", "sites", "may", "have", "on", "the", "overall", "quality", "of", "the", "static", "rank", ".", "By", "moving", "static", "ranking", "to", "a", "machine", "learning", "framework", ",", "we", "not", "only", "gain", "in", "accuracy", ",", "but", "also", "gain", "in", "the", "ability", "to", "react", "to", "spammer", "'s", "actions", ",", "to", "rapidly", "add", "new", "features", "to", "the", "ranking", "algorithm", ",", "and", "to", "leverage", "advances", "in", "the", "rapidly", "growing", "field", "of", "machine", "learning", ".", "Finally", ",", "we", "believe", "there", "will", "be", "significant", "advantages", "to", "using", "this", "technique", "for", "other", "domains", ",", "such", "as", "searching", "a", "local", "hard", "drive", "or", "a", "corporation", "'s", "intranet", ".", "These", "are", "domains", "where", "the", "link", "structure", "is", "particularly", "weak", "-LRB-", "or", "non-existent", "-RRB-", ",", "but", "there", "are", "other", "domain-specific", "features", "that", "could", "be", "just", "as", "powerful", ".", "For", "example", ",", "the", "author", "of", "an", "intranet", "page", "and", "his/her", "position", "in", "the", "organization", "-LRB-", "e.g.", ",", "CEO", ",", "manager", ",", "or", "developer", "-RRB-", "could", "provide", "significant", "clues", "as", "to", "the", "importance", "of", "that", "page", ".", "A", "machine", "learning", "approach", "thus", "allows", "rapid", "development", "of", "a", "good", "static", "algorithm", "in", "new", "domains", ".", "This", "paper", "'s", "contribution", "is", "a", "systematic", "study", "of", "static", "features", ",", "including", "PageRank", ",", "for", "the", "purposes", "of", "-LRB-", "statically", "-RRB-", "ranking", "Web", "pages", ".", "Previous", "studies", "on", "PageRank", "typically", "used", "subsets", "of", "the", "Web", "that", "are", "significantly", "smaller", "-LRB-", "e.g.", ",", "the", "TREC", "VLC2", "corpus", ",", "used", "by", "many", ",", "contains", "only", "19", "million", "pages", "-RRB-", ".", "Also", ",", "the", "performance", "of", "PageRank", "and", "other", "static", "features", "has", "typically", "been", "evaluated", "in", "the", "context", "of", "a", "complete", "system", "for", "dynamic", "ranking", ",", "or", "for", "other", "tasks", "such", "as", "question", "answering", ".", "In", "contrast", ",", "we", "explore", "the", "use", "of", "PageRank", "and", "other", "features", "for", "the", "direct", "task", "of", "statically", "ranking", "Web", "pages", ".", "We", "first", "briefly", "describe", "the", "PageRank", "algorithm", ".", "In", "Section", "3", "we", "introduce", "RankNet", ",", "the", "machine", "learning", "technique", "used", "to", "combine", "static", "features", "into", "a", "final", "ranking", ".", "Section", "4", "describes", "the", "static", "features", ".", "The", "heart", "of", "the", "paper", "is", "in", "Section", "5", ",", "which", "presents", "our", "experiments", "and", "results", ".", "We", "conclude", "with", "a", "discussion", "of", "related", "and", "future", "work", ".", "The", "basic", "idea", "behind", "PageRank", "is", "simple", ":", "a", "link", "from", "a", "Web", "page", "to", "another", "can", "be", "seen", "as", "an", "endorsement", "of", "that", "page", ".", "In", "general", ",", "links", "are", "made", "by", "people", ".", "As", "such", ",", "they", "are", "indicative", "of", "the", "quality", "of", "the", "pages", "to", "which", "they", "point", "when", "creating", "a", "page", ",", "an", "author", "presumably", "chooses", "to", "link", "to", "pages", "deemed", "to", "be", "of", "good", "quality", ".", "We", "can", "take", "advantage", "of", "this", "linkage", "information", "to", "order", "Web", "pages", "according", "to", "their", "perceived", "quality", ".", "Imagine", "a", "Web", "surfer", "who", "jumps", "from", "Web", "page", "to", "Web", "page", ",", "choosing", "with", "uniform", "probability", "which", "link", "to", "follow", "at", "each", "step", ".", "In", "order", "to", "reduce", "the", "effect", "of", "dead-ends", "or", "endless", "cycles", "the", "surfer", "will", "occasionally", "jump", "to", "a", "random", "page", "with", "some", "small", "probability", ",", "or", "when", "on", "a", "page", "with", "no", "out-links", ".", "If", "averaged", "over", "a", "sufficient", "number", "of", "steps", ",", "the", "probability", "the", "surfer", "is", "on", "page", "j", "at", "some", "point", "in", "time", "is", "given", "by", "the", "formula", ":", "+", "=", "j", "i", "i", "i", "P", "N", "j", "P", "B", "F", "-RRB-", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "1", "-RRB-", "Where", "F", "i", "is", "the", "set", "of", "pages", "that", "page", "i", "links", "to", ",", "and", "B", "j", "is", "the", "set", "of", "pages", "that", "link", "to", "page", "j", ".", "The", "PageRank", "score", "for", "node", "j", "is", "defined", "as", "this", "probability", ":", "PR", "-LRB-", "j", "-RRB-", "=P", "-LRB-", "j", "-RRB-", ".", "Because", "equation", "-LRB-", "1", "-RRB-", "is", "recursive", ",", "it", "must", "be", "iteratively", "evaluated", "until", "P", "-LRB-", "j", "-RRB-", "converges", "-LRB-", "typically", ",", "the", "initial", "distribution", "for", "P", "-LRB-", "j", "-RRB-", "is", "uniform", "-RRB-", ".", "The", "intuition", "is", ",", "because", "a", "random", "surfer", "would", "end", "up", "at", "the", "page", "more", "frequently", ",", "it", "is", "likely", "a", "better", "page", ".", "An", "alternative", "view", "for", "equation", "-LRB-", "1", "-RRB-", "is", "that", "each", "page", "is", "assigned", "a", "quality", ",", "P", "-LRB-", "j", "-RRB-", ".", "A", "page", "``", "gives", "''", "an", "equal", "share", "of", "its", "quality", "to", "each", "page", "it", "points", "to", ".", "PageRank", "is", "computationally", "expensive", ".", "Our", "collection", "of", "5", "billion", "pages", "contains", "approximately", "370", "billion", "links", ".", "Computing", "PageRank", "requires", "iterating", "over", "these", "billions", "of", "links", "multiple", "times", "-LRB-", "until", "convergence", "-RRB-", ".", "It", "requires", "large", "amounts", "of", "memory", "-LRB-", "or", "very", "smart", "caching", "schemes", "that", "slow", "the", "computation", "down", "even", "further", "-RRB-", ",", "and", "if", "spread", "across", "multiple", "machines", ",", "requires", "significant", "communication", "between", "them", ".", "Though", "much", "work", "has", "been", "done", "on", "optimizing", "the", "PageRank", "computation", "-LRB-", "see", "e.g.", ",", "-LSB-", "25", "-RSB-", "and", "-LSB-", "6", "-RSB-", "-RRB-", ",", "it", "remains", "a", "relatively", "slow", ",", "computationally", "expensive", "property", "to", "compute", ".", "Much", "work", "in", "machine", "learning", "has", "been", "done", "on", "the", "problems", "of", "classification", "and", "regression", ".", "Let", "X", "=", "-LCB-", "x", "i", "-RCB-", "be", "a", "collection", "of", "feature", "vectors", "-LRB-", "typically", ",", "a", "feature", "is", "any", "real", "valued", "number", "-RRB-", ",", "and", "Y", "=", "-LCB-", "y", "i", "-RCB-", "be", "a", "collection", "of", "associated", "classes", ",", "where", "y", "i", "is", "the", "class", "of", "the", "object", "described", "by", "feature", "vector", "x", "i", ".", "The", "classification", "problem", "is", "to", "learn", "a", "function", "f", "that", "maps", "y", "i", "=", "f", "-LRB-", "x", "i", "-RRB-", ",", "for", "all", "i", ".", "When", "y", "i", "is", "real-valued", "as", "well", ",", "this", "is", "called", "regression", ".", "Static", "ranking", "can", "be", "seen", "as", "a", "regression", "problem", ".", "If", "we", "let", "x", "i", "represent", "features", "of", "page", "i", ",", "and", "y", "i", "be", "a", "value", "-LRB-", "say", ",", "the", "rank", "-RRB-", "for", "each", "page", ",", "we", "could", "learn", "a", "regression", "function", "that", "mapped", "each", "page", "'s", "features", "to", "their", "rank", ".", "However", ",", "this", "over-constrains", "the", "problem", "we", "wish", "to", "solve", ".", "All", "we", "really", "care", "about", "is", "the", "order", "of", "the", "pages", ",", "not", "the", "actual", "value", "assigned", "to", "them", ".", "Recent", "work", "on", "this", "ranking", "problem", "-LSB-", "7", "-RSB-", "-LSB-", "13", "-RSB-", "-LSB-", "18", "-RSB-", "directly", "attempts", "to", "optimize", "the", "ordering", "of", "the", "objects", ",", "rather", "than", "the", "value", "assigned", "to", "them", ".", "For", "these", ",", "let", "Z", "={", "<", "i", ",", "j", ">", "-RCB-", "be", "a", "collection", "of", "pairs", "of", "items", ",", "where", "item", "i", "should", "be", "assigned", "a", "higher", "value", "than", "item", "j", ".", "The", "goal", "of", "the", "ranking", "problem", ",", "then", ",", "is", "to", "learn", "a", "function", "f", "such", "that", ",", "-RRB-", "-LRB-", "-RRB-", "-LRB-", ",", ",", "j", "i", "f", "f", "j", "i", "x", "x", "Z", ">", "708", "Note", "that", ",", "as", "with", "learning", "a", "regression", "function", ",", "the", "result", "of", "this", "process", "is", "a", "function", "-LRB-", "f", "-RRB-", "that", "maps", "feature", "vectors", "to", "real", "values", ".", "This", "function", "can", "still", "be", "applied", "anywhere", "that", "a", "regression-learned", "function", "could", "be", "applied", ".", "The", "only", "difference", "is", "the", "technique", "used", "to", "learn", "the", "function", ".", "By", "directly", "optimizing", "the", "ordering", "of", "objects", ",", "these", "methods", "are", "able", "to", "learn", "a", "function", "that", "does", "a", "better", "job", "of", "ranking", "than", "do", "regression", "techniques", ".", "We", "used", "RankNet", "-LSB-", "7", "-RSB-", ",", "one", "of", "the", "aforementioned", "techniques", "for", "learning", "ranking", "functions", ",", "to", "learn", "our", "static", "rank", "function", ".", "RankNet", "is", "a", "straightforward", "modification", "to", "the", "standard", "neural", "network", "back-prop", "algorithm", ".", "As", "with", "back-prop", ",", "RankNet", "attempts", "to", "minimize", "the", "value", "of", "a", "cost", "function", "by", "adjusting", "each", "weight", "in", "the", "network", "according", "to", "the", "gradient", "of", "the", "cost", "function", "with", "respect", "to", "that", "weight", ".", "The", "difference", "is", "that", ",", "while", "a", "typical", "neural", "network", "cost", "function", "is", "based", "on", "the", "difference", "between", "the", "network", "output", "and", "the", "desired", "output", ",", "the", "RankNet", "cost", "function", "is", "based", "on", "the", "difference", "between", "a", "pair", "of", "network", "outputs", ".", "That", "is", ",", "for", "each", "pair", "of", "feature", "vectors", "<", "i", ",", "j", ">", "in", "the", "training", "set", ",", "RankNet", "computes", "the", "network", "outputs", "o", "i", "and", "o", "j", ".", "Since", "vector", "i", "is", "supposed", "to", "be", "ranked", "higher", "than", "vector", "j", ",", "the", "larger", "is", "o", "j", "-", "o", "i", ",", "the", "larger", "the", "cost", ".", "RankNet", "also", "allows", "the", "pairs", "in", "Z", "to", "be", "weighted", "with", "a", "confidence", "-LRB-", "posed", "as", "the", "probability", "that", "the", "pair", "satisfies", "the", "ordering", "induced", "by", "the", "ranking", "function", "-RRB-", ".", "In", "this", "paper", ",", "we", "used", "a", "probability", "of", "one", "for", "all", "pairs", ".", "In", "the", "next", "section", ",", "we", "will", "discuss", "the", "features", "used", "in", "our", "feature", "vectors", ",", "x", "i", ".", "To", "apply", "RankNet", "-LRB-", "or", "other", "machine", "learning", "techniques", "-RRB-", "to", "the", "ranking", "problem", ",", "we", "needed", "to", "extract", "a", "set", "of", "features", "from", "each", "page", ".", "We", "divided", "our", "feature", "set", "into", "four", ",", "mutually", "exclusive", ",", "categories", ":", "page-level", "-LRB-", "Page", "-RRB-", ",", "domain-level", "-LRB-", "Domain", "-RRB-", ",", "anchor", "text", "and", "inlinks", "-LRB-", "Anchor", "-RRB-", ",", "and", "popularity", "-LRB-", "Popularity", "-RRB-", ".", "We", "also", "optionally", "used", "the", "PageRank", "of", "a", "page", "as", "a", "feature", ".", "Below", ",", "we", "describe", "each", "of", "these", "feature", "categories", "in", "more", "detail", ".", "PageRank", "We", "computed", "PageRank", "on", "a", "Web", "graph", "of", "5", "billion", "crawled", "pages", "-LRB-", "and", "20", "billion", "known", "URLs", "linked", "to", "by", "these", "pages", "-RRB-", ".", "This", "represents", "a", "significant", "portion", "of", "the", "Web", ",", "and", "is", "approximately", "the", "same", "number", "of", "pages", "as", "are", "used", "by", "Google", ",", "Yahoo", ",", "and", "MSN", "for", "their", "search", "engines", ".", "Because", "PageRank", "is", "a", "graph-based", "algorithm", ",", "it", "is", "important", "that", "it", "be", "run", "on", "as", "large", "a", "subset", "of", "the", "Web", "as", "possible", ".", "Most", "previous", "studies", "on", "PageRank", "used", "subsets", "of", "the", "Web", "that", "are", "significantly", "smaller", "-LRB-", "e.g.", "the", "TREC", "VLC2", "corpus", ",", "used", "by", "many", ",", "contains", "only", "19", "million", "pages", "-RRB-", "We", "computed", "PageRank", "using", "the", "standard", "value", "of", "0.85", "for", ".", "Popularity", "Another", "feature", "we", "used", "is", "the", "actual", "popularity", "of", "a", "Web", "page", ",", "measured", "as", "the", "number", "of", "times", "that", "it", "has", "been", "visited", "by", "users", "over", "some", "period", "of", "time", ".", "We", "have", "access", "to", "such", "data", "from", "users", "who", "have", "installed", "the", "MSN", "toolbar", "and", "have", "opted", "to", "provide", "it", "to", "MSN", ".", "The", "data", "is", "aggregated", "into", "a", "count", ",", "for", "each", "Web", "page", ",", "of", "the", "number", "of", "users", "who", "viewed", "that", "page", ".", "Though", "popularity", "data", "is", "generally", "unavailable", ",", "there", "are", "two", "other", "sources", "for", "it", ".", "The", "first", "is", "from", "proxy", "logs", ".", "For", "example", ",", "a", "university", "that", "requires", "its", "students", "to", "use", "a", "proxy", "has", "a", "record", "of", "all", "the", "pages", "they", "have", "visited", "while", "on", "campus", ".", "Unfortunately", ",", "proxy", "data", "is", "quite", "biased", "and", "relatively", "small", ".", "Another", "source", ",", "internal", "to", "search", "engines", ",", "are", "records", "of", "which", "results", "their", "users", "clicked", "on", ".", "Such", "data", "was", "used", "by", "the", "search", "engine", "``", "Direct", "Hit", "''", ",", "and", "has", "recently", "been", "explored", "for", "dynamic", "ranking", "purposes", "-LSB-", "20", "-RSB-", ".", "An", "advantage", "of", "the", "toolbar", "data", "over", "this", "is", "that", "it", "contains", "information", "about", "URL", "visits", "that", "are", "not", "just", "the", "result", "of", "a", "search", ".", "The", "raw", "popularity", "is", "processed", "into", "a", "number", "of", "features", "such", "as", "the", "number", "of", "times", "a", "page", "was", "viewed", "and", "the", "number", "of", "times", "any", "page", "in", "the", "domain", "was", "viewed", ".", "More", "details", "are", "provided", "in", "section", "5.5", ".", "Anchor", "text", "and", "inlinks", "These", "features", "are", "based", "on", "the", "information", "associated", "with", "links", "to", "the", "page", "in", "question", ".", "It", "includes", "features", "such", "as", "the", "total", "amount", "of", "text", "in", "links", "pointing", "to", "the", "page", "-LRB-", "``", "anchor", "text", "''", "-RRB-", ",", "the", "number", "of", "unique", "words", "in", "that", "text", ",", "etc.", ".", "Page", "This", "category", "consists", "of", "features", "which", "may", "be", "determined", "by", "looking", "at", "the", "page", "-LRB-", "and", "its", "URL", "-RRB-", "alone", ".", "We", "used", "only", "eight", ",", "simple", "features", "such", "as", "the", "number", "of", "words", "in", "the", "body", ",", "the", "frequency", "of", "the", "most", "common", "term", ",", "etc.", ".", "Domain", "This", "category", "contains", "features", "that", "are", "computed", "as", "averages", "across", "all", "pages", "in", "the", "domain", ".", "For", "example", ",", "the", "average", "number", "of", "outlinks", "on", "any", "page", "and", "the", "average", "PageRank", ".", "Many", "of", "these", "features", "have", "been", "used", "by", "others", "for", "ranking", "Web", "pages", ",", "particularly", "the", "anchor", "and", "page", "features", ".", "As", "mentioned", ",", "the", "evaluation", "is", "typically", "for", "dynamic", "ranking", ",", "and", "we", "wish", "to", "evaluate", "the", "use", "of", "them", "for", "static", "ranking", ".", "Also", ",", "to", "our", "knowledge", ",", "this", "is", "the", "first", "study", "on", "the", "use", "of", "actual", "page", "visitation", "popularity", "for", "static", "ranking", ".", "The", "closest", "similar", "work", "is", "on", "using", "click-through", "behavior", "-LRB-", "that", "is", ",", "which", "search", "engine", "results", "the", "users", "click", "on", "-RRB-", "to", "affect", "dynamic", "ranking", "-LRB-", "see", "e.g.", ",", "-LSB-", "20", "-RSB-", "-RRB-", ".", "Because", "we", "use", "a", "wide", "variety", "of", "features", "to", "come", "up", "with", "a", "static", "ranking", ",", "we", "refer", "to", "this", "as", "fRank", "-LRB-", "for", "feature-based", "ranking", "-RRB-", ".", "fRank", "uses", "RankNet", "and", "the", "set", "of", "features", "described", "in", "this", "section", "to", "learn", "a", "ranking", "function", "for", "Web", "pages", ".", "Unless", "otherwise", "specified", ",", "fRank", "was", "trained", "with", "all", "of", "the", "features", ".", "In", "this", "section", ",", "we", "will", "demonstrate", "that", "we", "can", "out", "perform", "PageRank", "by", "applying", "machine", "learning", "to", "a", "straightforward", "set", "of", "features", ".", "Before", "the", "results", ",", "we", "first", "discuss", "the", "data", ",", "the", "performance", "metric", ",", "and", "the", "training", "method", ".", "5.1", "Data", "In", "order", "to", "evaluate", "the", "quality", "of", "a", "static", "ranking", ",", "we", "needed", "a", "``", "gold", "standard", "''", "defining", "the", "correct", "ordering", "for", "a", "set", "of", "pages", ".", "For", "this", ",", "we", "employed", "a", "dataset", "which", "contains", "human", "judgments", "for", "28000", "queries", ".", "For", "each", "query", ",", "a", "number", "of", "results", "are", "manually", "assigned", "a", "rating", ",", "from", "0", "to", "4", ",", "by", "human", "judges", ".", "The", "rating", "is", "meant", "to", "be", "a", "measure", "of", "how", "relevant", "the", "result", "is", "for", "the", "query", ",", "where", "0", "means", "``", "poor", "''", "and", "4", "means", "``", "excellent", "''", ".", "There", "are", "approximately", "500k", "judgments", "in", "all", ",", "or", "an", "average", "of", "18", "ratings", "per", "query", ".", "The", "queries", "are", "selected", "by", "randomly", "choosing", "queries", "from", "among", "those", "issued", "to", "the", "MSN", "search", "engine", ".", "The", "probability", "that", "a", "query", "is", "selected", "is", "proportional", "to", "its", "frequency", "among", "all", "709", "of", "the", "queries", ".", "As", "a", "result", ",", "common", "queries", "are", "more", "likely", "to", "be", "judged", "than", "uncommon", "queries", ".", "As", "an", "example", "of", "how", "diverse", "the", "queries", "are", ",", "the", "first", "four", "queries", "in", "the", "training", "set", "are", "``", "chef", "schools", "''", ",", "``", "chicagoland", "speedway", "''", ",", "``", "eagles", "fan", "club", "''", ",", "and", "``", "Turkish", "culture", "''", ".", "The", "documents", "selected", "for", "judging", "are", "those", "that", "we", "expected", "would", ",", "on", "average", ",", "be", "reasonably", "relevant", "-LRB-", "for", "example", ",", "the", "top", "ten", "documents", "returned", "by", "MSN", "'s", "search", "engine", "-RRB-", ".", "This", "provides", "significantly", "more", "information", "than", "randomly", "selecting", "documents", "on", "the", "Web", ",", "the", "vast", "majority", "of", "which", "would", "be", "irrelevant", "to", "a", "given", "query", ".", "Because", "of", "this", "process", ",", "the", "judged", "pages", "tend", "to", "be", "of", "higher", "quality", "than", "the", "average", "page", "on", "the", "Web", ",", "and", "tend", "to", "be", "pages", "that", "will", "be", "returned", "for", "common", "search", "queries", ".", "This", "bias", "is", "good", "when", "evaluating", "the", "quality", "of", "static", "ranking", "for", "the", "purposes", "of", "index", "ordering", "and", "returning", "relevant", "documents", ".", "This", "is", "because", "the", "most", "important", "portion", "of", "the", "index", "to", "be", "well-ordered", "and", "relevant", "is", "the", "portion", "that", "is", "frequently", "returned", "for", "search", "queries", ".", "Because", "of", "this", "bias", ",", "however", ",", "the", "results", "in", "this", "paper", "are", "not", "applicable", "to", "crawl", "prioritization", ".", "In", "order", "to", "obtain", "experimental", "results", "on", "crawl", "prioritization", ",", "we", "would", "need", "ratings", "on", "a", "random", "sample", "of", "Web", "pages", ".", "To", "convert", "the", "data", "from", "query-dependent", "to", "query-independent", ",", "we", "simply", "removed", "the", "query", ",", "taking", "the", "maximum", "over", "judgments", "for", "a", "URL", "that", "appears", "in", "more", "than", "one", "query", ".", "The", "reasoning", "behind", "this", "is", "that", "a", "page", "that", "is", "relevant", "for", "some", "query", "and", "irrelevant", "for", "another", "is", "probably", "a", "decent", "page", "and", "should", "have", "a", "high", "static", "rank", ".", "Because", "we", "evaluated", "the", "pages", "on", "queries", "that", "occur", "frequently", ",", "our", "data", "indicates", "the", "correct", "index", "ordering", ",", "and", "assigns", "high", "value", "to", "pages", "that", "are", "likely", "to", "be", "relevant", "to", "a", "common", "query", ".", "We", "randomly", "assigned", "queries", "to", "a", "training", ",", "validation", ",", "or", "test", "set", ",", "such", "that", "they", "contained", "84", "%", ",", "8", "%", ",", "and", "8", "%", "of", "the", "queries", ",", "respectively", ".", "Each", "set", "contains", "all", "of", "the", "ratings", "for", "a", "given", "query", ",", "and", "no", "query", "appears", "in", "more", "than", "one", "set", ".", "The", "training", "set", "was", "used", "to", "train", "fRank", ".", "The", "validation", "set", "was", "used", "to", "select", "the", "model", "that", "had", "the", "highest", "performance", ".", "The", "test", "set", "was", "used", "for", "the", "final", "results", ".", "This", "data", "gives", "us", "a", "query-independent", "ordering", "of", "pages", ".", "The", "goal", "for", "a", "static", "ranking", "algorithm", "will", "be", "to", "reproduce", "this", "ordering", "as", "closely", "as", "possible", ".", "In", "the", "next", "section", ",", "we", "describe", "the", "measure", "we", "used", "to", "evaluate", "this", ".", "5.2", "Measure", "We", "chose", "to", "use", "pairwise", "accuracy", "to", "evaluate", "the", "quality", "of", "a", "static", "ranking", ".", "The", "pairwise", "accuracy", "is", "the", "fraction", "of", "time", "that", "the", "ranking", "algorithm", "and", "human", "judges", "agree", "on", "the", "ordering", "of", "a", "pair", "of", "Web", "pages", ".", "If", "S", "-LRB-", "x", "-RRB-", "is", "the", "static", "ranking", "assigned", "to", "page", "x", ",", "and", "H", "-LRB-", "x", "-RRB-", "is", "the", "human", "judgment", "of", "relevance", "for", "x", ",", "then", "consider", "the", "following", "sets", ":", "-RRB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", ":", ",", "-LCB-", "y", "H", "x", "H", "y", "x", ">", "=", "p", "H", "and", "-RRB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", ":", ",", "-LCB-", "y", "S", "x", "S", "y", "x", ">", "=", "p", "S", "The", "pairwise", "accuracy", "is", "the", "portion", "of", "H", "p", "that", "is", "also", "contained", "in", "S", "p", ":", "p", "p", "p", "H", "S", "H", "=", "accuracy", "pairwise", "This", "measure", "was", "chosen", "for", "two", "reasons", ".", "First", ",", "the", "discrete", "human", "judgments", "provide", "only", "a", "partial", "ordering", "over", "Web", "pages", ",", "making", "it", "difficult", "to", "apply", "a", "measure", "such", "as", "the", "Spearman", "rank", "order", "correlation", "coefficient", "-LRB-", "in", "the", "pairwise", "accuracy", "measure", ",", "a", "pair", "of", "documents", "with", "the", "same", "human", "judgment", "does", "not", "affect", "the", "score", "-RRB-", ".", "Second", ",", "the", "pairwise", "accuracy", "has", "an", "intuitive", "meaning", ":", "it", "is", "the", "fraction", "of", "pairs", "of", "documents", "that", ",", "when", "the", "humans", "claim", "one", "is", "better", "than", "the", "other", ",", "the", "static", "rank", "algorithm", "orders", "them", "correctly", ".", "5.3", "Method", "We", "trained", "fRank", "-LRB-", "a", "RankNet", "based", "neural", "network", "-RRB-", "using", "the", "following", "parameters", ".", "We", "used", "a", "fully", "connected", "2", "layer", "network", ".", "The", "hidden", "layer", "had", "10", "hidden", "nodes", ".", "The", "input", "weights", "to", "this", "layer", "were", "all", "initialized", "to", "be", "zero", ".", "The", "output", "``", "layer", "''", "-LRB-", "just", "a", "single", "node", "-RRB-", "weights", "were", "initialized", "using", "a", "uniform", "random", "distribution", "in", "the", "range", "-LSB-", "-0.1", ",", "0.1", "-RSB-", ".", "We", "used", "tanh", "as", "the", "transfer", "function", "from", "the", "inputs", "to", "the", "hidden", "layer", ",", "and", "a", "linear", "function", "from", "the", "hidden", "layer", "to", "the", "output", ".", "The", "cost", "function", "is", "the", "pairwise", "cross", "entropy", "cost", "function", "as", "discussed", "in", "section", "3", ".", "The", "features", "in", "the", "training", "set", "were", "normalized", "to", "have", "zero", "mean", "and", "unit", "standard", "deviation", ".", "The", "same", "linear", "transformation", "was", "then", "applied", "to", "the", "features", "in", "the", "validation", "and", "test", "sets", ".", "For", "training", ",", "we", "presented", "the", "network", "with", "5", "million", "pairings", "of", "pages", ",", "where", "one", "page", "had", "a", "higher", "rating", "than", "the", "other", ".", "The", "pairings", "were", "chosen", "uniformly", "at", "random", "-LRB-", "with", "replacement", "-RRB-", "from", "all", "possible", "pairings", ".", "When", "forming", "the", "pairs", ",", "we", "ignored", "the", "magnitude", "of", "the", "difference", "between", "the", "ratings", "-LRB-", "the", "rating", "spread", "-RRB-", "for", "the", "two", "URLs", ".", "Hence", ",", "the", "weight", "for", "each", "pair", "was", "constant", "-LRB-", "one", "-RRB-", ",", "and", "the", "probability", "of", "a", "pair", "being", "selected", "was", "independent", "of", "its", "rating", "spread", ".", "We", "trained", "the", "network", "for", "30", "epochs", ".", "On", "each", "epoch", ",", "the", "training", "pairs", "were", "randomly", "shuffled", ".", "The", "initial", "training", "rate", "was", "0.001", ".", "At", "each", "epoch", ",", "we", "checked", "the", "error", "on", "the", "training", "set", ".", "If", "the", "error", "had", "increased", ",", "then", "we", "decreased", "the", "training", "rate", ",", "under", "the", "hypothesis", "that", "the", "network", "had", "probably", "overshot", ".", "The", "training", "rate", "at", "each", "epoch", "was", "thus", "set", "to", ":", "Training", "rate", "=", "1", "+", "Where", "is", "the", "initial", "rate", "-LRB-", "0.001", "-RRB-", ",", "and", "is", "the", "number", "of", "times", "the", "training", "set", "error", "has", "increased", ".", "After", "each", "epoch", ",", "we", "measured", "the", "performance", "of", "the", "neural", "network", "on", "the", "validation", "set", ",", "using", "1", "million", "pairs", "-LRB-", "chosen", "randomly", "with", "replacement", "-RRB-", ".", "The", "network", "with", "the", "highest", "pairwise", "accuracy", "on", "the", "validation", "set", "was", "selected", ",", "and", "then", "tested", "on", "the", "test", "set", ".", "We", "report", "the", "pairwise", "accuracy", "on", "the", "test", "set", ",", "calculated", "using", "all", "possible", "pairs", ".", "These", "parameters", "were", "determined", "and", "fixed", "before", "the", "static", "rank", "experiments", "in", "this", "paper", ".", "In", "particular", ",", "the", "choice", "of", "initial", "training", "rate", ",", "number", "of", "epochs", ",", "and", "training", "rate", "decay", "function", "were", "taken", "directly", "from", "Burges", "et", "al", "-LSB-", "7", "-RSB-", ".", "Though", "we", "had", "the", "option", "of", "preprocessing", "any", "of", "the", "features", "before", "they", "were", "input", "to", "the", "neural", "network", ",", "we", "refrained", "from", "doing", "so", "on", "most", "of", "them", ".", "The", "only", "exception", "was", "the", "popularity", "features", ".", "As", "with", "most", "Web", "phenomenon", ",", "we", "found", "that", "the", "distribution", "of", "site", "popularity", "is", "Zipfian", ".", "To", "reduce", "the", "dynamic", "range", ",", "and", "hopefully", "make", "the", "feature", "more", "useful", ",", "we", "presented", "the", "network", "with", "both", "the", "unpreprocessed", ",", "as", "well", "as", "the", "logarithm", ",", "of", "the", "popularity", "features", "-LRB-", "As", "with", "the", "others", ",", "the", "logarithmic", "feature", "values", "were", "also", "normalized", "to", "have", "zero", "mean", "and", "unit", "standard", "deviation", "-RRB-", ".", "710", "Applying", "fRank", "to", "a", "document", "is", "computationally", "efficient", ",", "taking", "time", "that", "is", "only", "linear", "in", "the", "number", "of", "input", "features", ";", "it", "is", "thus", "within", "a", "constant", "factor", "of", "other", "simple", "machine", "learning", "methods", "such", "as", "na", "ve", "Bayes", ".", "In", "our", "experiments", ",", "computing", "the", "fRank", "for", "all", "five", "billion", "Web", "pages", "was", "approximately", "100", "times", "faster", "than", "computing", "the", "PageRank", "for", "the", "same", "set", ".", "5.4", "Results", "As", "Table", "1", "shows", ",", "fRank", "significantly", "outperforms", "PageRank", "for", "the", "purposes", "of", "static", "ranking", ".", "With", "a", "pairwise", "accuracy", "of", "67.4", "%", ",", "fRank", "more", "than", "doubles", "the", "accuracy", "of", "PageRank", "-LRB-", "relative", "to", "the", "baseline", "of", "50", "%", ",", "which", "is", "the", "accuracy", "that", "would", "be", "achieved", "by", "a", "random", "ordering", "of", "Web", "pages", "-RRB-", ".", "Note", "that", "one", "of", "fRank", "'s", "input", "features", "is", "the", "PageRank", "of", "the", "page", ",", "so", "we", "would", "expect", "it", "to", "perform", "no", "worse", "than", "PageRank", ".", "The", "significant", "increase", "in", "accuracy", "implies", "that", "the", "other", "features", "-LRB-", "anchor", ",", "popularity", ",", "etc.", "-RRB-", "do", "in", "fact", "contain", "useful", "information", "regarding", "the", "overall", "quality", "of", "a", "page", ".", "Table", "1", ":", "Basic", "Results", "Technique", "Accuracy", "-LRB-", "%", "-RRB-", "None", "-LRB-", "Baseline", "-RRB-", "50.00", "PageRank", "56.70", "fRank", "67.43", "There", "are", "a", "number", "of", "decisions", "that", "go", "into", "the", "computation", "of", "PageRank", ",", "such", "as", "how", "to", "deal", "with", "pages", "that", "have", "no", "outlinks", ",", "the", "choice", "of", ",", "numeric", "precision", ",", "convergence", "threshold", ",", "etc.", ".", "We", "were", "able", "to", "obtain", "a", "computation", "of", "PageRank", "from", "a", "completely", "independent", "implementation", "-LRB-", "provided", "by", "Marc", "Najork", "-RRB-", "that", "varied", "somewhat", "in", "these", "parameters", ".", "It", "achieved", "a", "pairwise", "accuracy", "of", "56.52", "%", ",", "nearly", "identical", "to", "that", "obtained", "by", "our", "implementation", ".", "We", "thus", "concluded", "that", "the", "quality", "of", "the", "PageRank", "is", "not", "sensitive", "to", "these", "minor", "variations", "in", "algorithm", ",", "nor", "was", "PageRank", "'s", "low", "accuracy", "due", "to", "problems", "with", "our", "implementation", "of", "it", ".", "We", "also", "wanted", "to", "find", "how", "well", "each", "feature", "set", "performed", ".", "To", "answer", "this", ",", "for", "each", "feature", "set", ",", "we", "trained", "and", "tested", "fRank", "using", "only", "that", "set", "of", "features", ".", "The", "results", "are", "shown", "in", "Table", "2", ".", "As", "can", "be", "seen", ",", "every", "single", "feature", "set", "individually", "outperformed", "PageRank", "on", "this", "test", ".", "Perhaps", "the", "most", "interesting", "result", "is", "that", "the", "Page-level", "features", "had", "the", "highest", "performance", "out", "of", "all", "the", "feature", "sets", ".", "This", "is", "surprising", "because", "these", "are", "features", "that", "do", "not", "depend", "on", "the", "overall", "graph", "structure", "of", "the", "Web", ",", "nor", "even", "on", "what", "pages", "point", "to", "a", "given", "page", ".", "This", "is", "contrary", "to", "the", "common", "belief", "that", "the", "Web", "graph", "structure", "is", "the", "key", "to", "finding", "a", "good", "static", "ranking", "of", "Web", "pages", ".", "Table", "2", ":", "Results", "for", "individual", "feature", "sets", ".", "Feature", "Set", "Accuracy", "-LRB-", "%", "-RRB-", "PageRank", "56.70", "Popularity", "60.82", "Anchor", "59.09", "Page", "63.93", "Domain", "59.03", "All", "Features", "67.43", "Because", "we", "are", "using", "a", "two-layer", "neural", "network", ",", "the", "features", "in", "the", "learned", "network", "can", "interact", "with", "each", "other", "in", "interesting", ",", "nonlinear", "ways", ".", "This", "means", "that", "a", "particular", "feature", "that", "appears", "to", "have", "little", "value", "in", "isolation", "could", "actually", "be", "very", "important", "when", "used", "in", "combination", "with", "other", "features", ".", "To", "measure", "the", "final", "contribution", "of", "a", "feature", "set", ",", "in", "the", "context", "of", "all", "the", "other", "features", ",", "we", "performed", "an", "ablation", "study", ".", "That", "is", ",", "for", "each", "set", "of", "features", ",", "we", "trained", "a", "network", "to", "contain", "all", "of", "the", "features", "except", "that", "set", ".", "We", "then", "compared", "the", "performance", "of", "the", "resulting", "network", "to", "the", "performance", "of", "the", "network", "with", "all", "of", "the", "features", ".", "Table", "3", "shows", "the", "results", "of", "this", "experiment", ",", "where", "the", "``", "decrease", "in", "accuracy", "''", "is", "the", "difference", "in", "pairwise", "accuracy", "between", "the", "network", "trained", "with", "all", "of", "the", "features", ",", "and", "the", "network", "missing", "the", "given", "feature", "set", ".", "Table", "3", ":", "Ablation", "study", ".", "Shown", "is", "the", "decrease", "in", "accuracy", "when", "we", "train", "a", "network", "that", "has", "all", "but", "the", "given", "set", "of", "features", ".", "The", "last", "line", "is", "shows", "the", "effect", "of", "removing", "the", "anchor", ",", "PageRank", ",", "and", "domain", "features", ",", "hence", "a", "model", "containing", "no", "network", "or", "link-based", "information", "whatsoever", ".", "Feature", "Set", "Decrease", "in", "Accuracy", "PageRank", "0.18", "Popularity", "0.78", "Anchor", "0.47", "Page", "5.42", "Domain", "Anchor", ",", "PageRank", "&", "Domain", "0.10", "0.60", "The", "results", "of", "the", "ablation", "study", "are", "consistent", "with", "the", "individual", "feature", "set", "study", ".", "Both", "show", "that", "the", "most", "important", "feature", "set", "is", "the", "Page-level", "feature", "set", ",", "and", "the", "second", "most", "important", "is", "the", "popularity", "feature", "set", ".", "Finally", ",", "we", "wished", "to", "see", "how", "the", "performance", "of", "fRank", "improved", "as", "we", "added", "features", ";", "we", "wanted", "to", "find", "at", "what", "point", "adding", "more", "feature", "sets", "became", "relatively", "useless", ".", "Beginning", "with", "no", "features", ",", "we", "greedily", "added", "the", "feature", "set", "that", "improved", "performance", "the", "most", ".", "The", "results", "are", "shown", "in", "Table", "4", ".", "For", "example", ",", "the", "fourth", "line", "of", "the", "table", "shows", "that", "fRank", "using", "the", "page", ",", "popularity", ",", "and", "anchor", "features", "outperformed", "any", "network", "that", "used", "the", "page", ",", "popularity", ",", "and", "some", "other", "feature", "set", ",", "and", "that", "the", "performance", "of", "this", "network", "was", "67.25", "%", ".", "Table", "4", ":", "fRank", "performance", "as", "feature", "sets", "are", "added", ".", "At", "each", "row", ",", "the", "feature", "set", "that", "gave", "the", "greatest", "increase", "in", "accuracy", "was", "added", "to", "the", "list", "of", "features", "-LRB-", "i.e.", ",", "we", "conducted", "a", "greedy", "search", "over", "feature", "sets", "-RRB-", ".", "Feature", "Set", "Accuracy", "-LRB-", "%", "-RRB-", "None", "50.00", "+", "Page", "63.93", "+", "Popularity", "66.83", "+", "Anchor", "67.25", "+", "PageRank", "67.31", "+", "Domain", "67.43", "711", "Finally", ",", "we", "present", "a", "qualitative", "comparison", "of", "PageRank", "vs.", "fRank", ".", "In", "Table", "5", "are", "the", "top", "ten", "URLs", "returned", "for", "PageRank", "and", "for", "fRank", ".", "PageRank", "'s", "results", "are", "heavily", "weighted", "towards", "technology", "sites", ".", "It", "contains", "two", "QuickTime", "URLs", "-LRB-", "Apple", "'s", "video", "playback", "software", "-RRB-", ",", "as", "well", "as", "Internet", "Explorer", "and", "FireFox", "URLs", "-LRB-", "both", "of", "which", "are", "Web", "browsers", "-RRB-", ".", "fRank", ",", "on", "the", "other", "hand", ",", "contains", "more", "consumer-oriented", "sites", "such", "as", "American", "Express", ",", "Target", ",", "Dell", ",", "etc.", ".", "PageRank", "'s", "bias", "toward", "technology", "can", "be", "explained", "through", "two", "processes", ".", "First", ",", "there", "are", "many", "pages", "with", "``", "buttons", "''", "at", "the", "bottom", "suggesting", "that", "the", "site", "is", "optimized", "for", "Internet", "Explorer", ",", "or", "that", "the", "visitor", "needs", "QuickTime", ".", "These", "generally", "link", "back", "to", ",", "in", "these", "examples", ",", "the", "Internet", "Explorer", "and", "QuickTime", "download", "sites", ".", "Consequently", ",", "PageRank", "ranks", "those", "pages", "highly", ".", "Though", "these", "pages", "are", "important", ",", "they", "are", "not", "as", "important", "as", "it", "may", "seem", "by", "looking", "at", "the", "link", "structure", "alone", ".", "One", "fix", "for", "this", "is", "to", "add", "information", "about", "the", "link", "to", "the", "PageRank", "computation", ",", "such", "as", "the", "size", "of", "the", "text", ",", "whether", "it", "was", "at", "the", "bottom", "of", "the", "page", ",", "etc.", ".", "The", "other", "bias", "comes", "from", "the", "fact", "that", "the", "population", "of", "Web", "site", "authors", "is", "different", "than", "the", "population", "of", "Web", "users", ".", "Web", "authors", "tend", "to", "be", "technologically-oriented", ",", "and", "thus", "their", "linking", "behavior", "reflects", "those", "interests", ".", "fRank", ",", "by", "knowing", "the", "actual", "visitation", "popularity", "of", "a", "site", "-LRB-", "the", "popularity", "feature", "set", "-RRB-", ",", "is", "able", "to", "eliminate", "some", "of", "that", "bias", ".", "It", "has", "the", "ability", "to", "depend", "more", "on", "where", "actual", "Web", "users", "visit", "rather", "than", "where", "the", "Web", "site", "authors", "have", "linked", ".", "The", "results", "confirm", "that", "fRank", "outperforms", "PageRank", "in", "pairwise", "accuracy", ".", "The", "two", "most", "important", "feature", "sets", "are", "the", "page", "and", "popularity", "features", ".", "This", "is", "surprising", ",", "as", "the", "page", "features", "consisted", "only", "of", "a", "few", "-LRB-", "8", "-RRB-", "simple", "features", ".", "Further", "experiments", "found", "that", ",", "of", "the", "page", "features", ",", "those", "based", "on", "the", "text", "of", "the", "page", "-LRB-", "as", "opposed", "to", "the", "URL", "-RRB-", "performed", "the", "best", ".", "In", "the", "next", "section", ",", "we", "explore", "the", "popularity", "feature", "in", "more", "detail", ".", "5.5", "Popularity", "Data", "As", "mentioned", "in", "section", "4", ",", "our", "popularity", "data", "came", "from", "MSN", "toolbar", "users", ".", "For", "privacy", "reasons", ",", "we", "had", "access", "only", "to", "an", "aggregate", "count", "of", ",", "for", "each", "URL", ",", "how", "many", "times", "it", "was", "visited", "by", "any", "toolbar", "user", ".", "This", "limited", "the", "possible", "features", "we", "could", "derive", "from", "this", "data", ".", "For", "possible", "extensions", ",", "see", "section", "6.3", ",", "future", "work", ".", "For", "each", "URL", "in", "our", "train", "and", "test", "sets", ",", "we", "provided", "a", "feature", "to", "fRank", "which", "was", "how", "many", "times", "it", "had", "been", "visited", "by", "a", "toolbar", "user", ".", "However", ",", "this", "feature", "was", "quite", "noisy", "and", "sparse", ",", "particularly", "for", "URLs", "with", "query", "parameters", "-LRB-", "e.g.", ",", "http://search", ".", "msn.com/results.aspx?q=machine+learning&form=QBHP", "-RRB-", ".", "One", "solution", "was", "to", "provide", "an", "additional", "feature", "which", "was", "the", "number", "of", "times", "any", "URL", "at", "the", "given", "domain", "was", "visited", "by", "a", "toolbar", "user", ".", "Adding", "this", "feature", "dramatically", "improved", "the", "performance", "of", "fRank", ".", "We", "took", "this", "one", "step", "further", "and", "used", "the", "built-in", "hierarchical", "structure", "of", "URLs", "to", "construct", "many", "levels", "of", "backoff", "between", "the", "full", "URL", "and", "the", "domain", ".", "We", "did", "this", "by", "using", "the", "set", "of", "features", "shown", "in", "Table", "6", ".", "Table", "6", ":", "URL", "functions", "used", "to", "compute", "the", "Popularity", "feature", "set", ".", "Function", "Example", "Exact", "URL", "cnn.com/2005/tech/wikipedia.html?v=mobile", "No", "Params", "cnn.com/2005/tech/wikipedia.html", "Page", "wikipedia.html", "URL-1", "cnn.com/2005/tech", "URL-2", "cnn.com/2005", "...", "Domain", "cnn.com", "Domain", "+1", "cnn.com/2005", "...", "Each", "URL", "was", "assigned", "one", "feature", "for", "each", "function", "shown", "in", "the", "table", ".", "The", "value", "of", "the", "feature", "was", "the", "count", "of", "the", "number", "of", "times", "a", "toolbar", "user", "visited", "a", "URL", ",", "where", "the", "function", "applied", "to", "that", "URL", "matches", "the", "function", "applied", "to", "the", "URL", "in", "question", ".", "For", "example", ",", "a", "user", "'s", "visit", "to", "cnn.com/2005/sports.html", "would", "increment", "the", "Domain", "and", "Domain", "+1", "features", "for", "the", "URL", "cnn.com/2005/tech/wikipedia.html", ".", "As", "seen", "in", "Table", "7", ",", "adding", "the", "domain", "counts", "significantly", "improved", "the", "quality", "of", "the", "popularity", "feature", ",", "and", "adding", "the", "numerous", "backoff", "functions", "listed", "in", "Table", "6", "improved", "the", "accuracy", "even", "further", ".", "Table", "7", ":", "Effect", "of", "adding", "backoff", "to", "the", "popularity", "feature", "set", "Features", "Accuracy", "-LRB-", "%", "-RRB-", "URL", "count", "58.15", "URL", "and", "Domain", "counts", "59.31", "All", "backoff", "functions", "-LRB-", "Table", "6", "-RRB-", "60.82", "Table", "5", ":", "Top", "ten", "URLs", "for", "PageRank", "vs.", "fRank", "PageRank", "fRank", "google.com", "google.com", "apple.com/quicktime/download", "yahoo.com", "amazon.com", "americanexpress.com", "yahoo.com", "hp.com", "microsoft.com/windows/ie", "target.com", "apple.com/quicktime", "bestbuy.com", "mapquest.com", "dell.com", "ebay.com", "autotrader.com", "mozilla.org/products/firefox", "dogpile.com", "ftc.gov", "bankofamerica.com", "712", "Backing", "off", "to", "subsets", "of", "the", "URL", "is", "one", "technique", "for", "dealing", "with", "the", "sparsity", "of", "data", ".", "It", "is", "also", "informative", "to", "see", "how", "the", "performance", "of", "fRank", "depends", "on", "the", "amount", "of", "popularity", "data", "that", "we", "have", "collected", ".", "In", "Figure", "1", "we", "show", "the", "performance", "of", "fRank", "trained", "with", "only", "the", "popularity", "feature", "set", "vs.", "the", "amount", "of", "data", "we", "have", "for", "the", "popularity", "feature", "set", ".", "Each", "day", ",", "we", "receive", "additional", "popularity", "data", ",", "and", "as", "can", "be", "seen", "in", "the", "plot", ",", "this", "increases", "the", "performance", "of", "fRank", ".", "The", "relation", "is", "logarithmic", ":", "doubling", "the", "amount", "of", "popularity", "data", "provides", "a", "constant", "improvement", "in", "pairwise", "accuracy", ".", "In", "summary", ",", "we", "have", "found", "that", "the", "popularity", "features", "provide", "a", "useful", "boost", "to", "the", "overall", "fRank", "accuracy", ".", "Gathering", "more", "popularity", "data", ",", "as", "well", "as", "employing", "simple", "backoff", "strategies", ",", "improve", "this", "boost", "even", "further", ".", "5.6", "Summary", "of", "Results", "The", "experiments", "provide", "a", "number", "of", "conclusions", ".", "First", ",", "fRank", "performs", "significantly", "better", "than", "PageRank", ",", "even", "without", "any", "information", "about", "the", "Web", "graph", ".", "Second", ",", "the", "page", "level", "and", "popularity", "features", "were", "the", "most", "significant", "contributors", "to", "pairwise", "accuracy", ".", "Third", ",", "by", "collecting", "more", "popularity", "data", ",", "we", "can", "continue", "to", "improve", "fRank", "'s", "performance", ".", "The", "popularity", "data", "provides", "two", "benefits", "to", "fRank", ".", "First", ",", "we", "see", "that", "qualitatively", ",", "fRank", "'s", "ordering", "of", "Web", "pages", "has", "a", "more", "favorable", "bias", "than", "PageRank", "'s", ".", "fRank", "'s", "ordering", "seems", "to", "correspond", "to", "what", "Web", "users", ",", "rather", "than", "Web", "page", "authors", ",", "prefer", ".", "Second", ",", "the", "popularity", "data", "is", "more", "timely", "than", "PageRank", "'s", "link", "information", ".", "The", "toolbar", "provides", "information", "about", "which", "Web", "pages", "people", "find", "interesting", "right", "now", ",", "whereas", "links", "are", "added", "to", "pages", "more", "slowly", ",", "as", "authors", "find", "the", "time", "and", "interest", ".", "Since", "the", "original", "PageRank", "paper", ",", "there", "has", "been", "work", "on", "improving", "it", ".", "Much", "of", "that", "work", "centers", "on", "speeding", "up", "and", "parallelizing", "the", "computation", "-LSB-", "15", "-RSB-", "-LSB-", "25", "-RSB-", ".", "One", "recognized", "problem", "with", "PageRank", "is", "that", "of", "topic", "drift", ":", "A", "page", "about", "``", "dogs", "''", "will", "have", "high", "PageRank", "if", "it", "is", "linked", "to", "by", "many", "pages", "that", "themselves", "have", "high", "rank", ",", "regardless", "of", "their", "topic", ".", "In", "contrast", ",", "a", "search", "engine", "user", "looking", "for", "good", "pages", "about", "dogs", "would", "likely", "prefer", "to", "find", "pages", "that", "are", "pointed", "to", "by", "many", "pages", "that", "are", "themselves", "about", "dogs", ".", "Hence", ",", "a", "link", "that", "is", "``", "on", "topic", "''", "should", "have", "higher", "weight", "than", "a", "link", "that", "is", "not", ".", "Richardson", "and", "Domingos", "'s", "Query", "Dependent", "PageRank", "-LSB-", "29", "-RSB-", "and", "Haveliwala", "'s", "Topic-Sensitive", "PageRank", "-LSB-", "16", "-RSB-", "are", "two", "approaches", "that", "tackle", "this", "problem", ".", "Other", "variations", "to", "PageRank", "include", "differently", "weighting", "links", "for", "inter", "-", "vs.", "intra-domain", "links", ",", "adding", "a", "backwards", "step", "to", "the", "random", "surfer", "to", "simulate", "the", "``", "back", "''", "button", "on", "most", "browsers", "-LSB-", "24", "-RSB-", "and", "modifying", "the", "jump", "probability", "-LRB-", "-RRB-", "-LSB-", "3", "-RSB-", ".", "See", "Langville", "and", "Meyer", "-LSB-", "23", "-RSB-", "for", "a", "good", "survey", "of", "these", ",", "and", "other", "modifications", "to", "PageRank", ".", "6.2", "Other", "related", "work", "PageRank", "is", "not", "the", "only", "link", "analysis", "algorithm", "used", "for", "ranking", "Web", "pages", ".", "The", "most", "well-known", "other", "is", "HITS", "-LSB-", "22", "-RSB-", ",", "which", "is", "used", "by", "the", "Teoma", "search", "engine", "-LSB-", "30", "-RSB-", ".", "HITS", "produces", "a", "list", "of", "hubs", "and", "authorities", ",", "where", "hubs", "are", "pages", "that", "point", "to", "many", "authority", "pages", ",", "and", "authorities", "are", "pages", "that", "are", "pointed", "to", "by", "many", "hubs", ".", "Previous", "work", "has", "shown", "HITS", "to", "perform", "comparably", "to", "PageRank", "-LSB-", "1", "-RSB-", ".", "One", "field", "of", "interest", "is", "that", "of", "static", "index", "pruning", "-LRB-", "see", "e.g.", ",", "Carmel", "et", "al.", "-LSB-", "8", "-RSB-", "-RRB-", ".", "Static", "index", "pruning", "methods", "reduce", "the", "size", "of", "the", "search", "engine", "'s", "index", "by", "removing", "documents", "that", "are", "unlikely", "to", "be", "returned", "by", "a", "search", "query", ".", "The", "pruning", "is", "typically", "done", "based", "on", "the", "frequency", "of", "query", "terms", ".", "Similarly", ",", "Pandey", "and", "Olston", "-LSB-", "28", "-RSB-", "suggest", "crawling", "pages", "frequently", "if", "they", "are", "likely", "to", "incorrectly", "appear", "-LRB-", "or", "not", "appear", "-RRB-", "as", "a", "result", "of", "a", "search", ".", "Similar", "methods", "could", "be", "incorporated", "into", "the", "static", "rank", "-LRB-", "e.g.", ",", "how", "many", "frequent", "queries", "contain", "words", "found", "on", "this", "page", "-RRB-", ".", "Others", "have", "investigated", "the", "effect", "that", "PageRank", "has", "on", "the", "Web", "at", "large", "-LSB-", "9", "-RSB-", ".", "They", "argue", "that", "pages", "with", "high", "PageRank", "are", "more", "likely", "to", "be", "found", "by", "Web", "users", ",", "thus", "more", "likely", "to", "be", "linked", "to", ",", "and", "thus", "more", "likely", "to", "maintain", "a", "higher", "PageRank", "than", "other", "pages", ".", "The", "same", "may", "occur", "for", "the", "popularity", "data", ".", "If", "we", "increase", "the", "ranking", "for", "popular", "pages", ",", "they", "are", "more", "likely", "to", "be", "clicked", "on", ",", "thus", "further", "increasing", "their", "popularity", ".", "Cho", "et", "al.", "-LSB-", "10", "-RSB-", "argue", "that", "a", "more", "appropriate", "measure", "of", "Web", "page", "quality", "would", "depend", "on", "not", "only", "the", "current", "link", "structure", "of", "the", "Web", ",", "but", "also", "on", "the", "change", "in", "that", "link", "structure", ".", "The", "same", "technique", "may", "be", "applicable", "to", "popularity", "data", ":", "the", "change", "in", "popularity", "of", "a", "page", "may", "be", "more", "informative", "than", "the", "absolute", "popularity", ".", "One", "interesting", "related", "work", "is", "that", "of", "Ivory", "and", "Hearst", "-LSB-", "19", "-RSB-", ".", "Their", "goal", "was", "to", "build", "a", "model", "of", "Web", "sites", "that", "are", "considered", "high", "quality", "from", "the", "perspective", "of", "``", "content", ",", "structure", "and", "navigation", ",", "visual", "design", ",", "functionality", ",", "interactivity", ",", "and", "overall", "experience", "''", ".", "They", "used", "over", "100", "page", "level", "features", ",", "as", "well", "as", "features", "encompassing", "the", "performance", "and", "structure", "of", "the", "site", ".", "This", "let", "them", "qualitatively", "describe", "the", "qualities", "of", "a", "page", "that", "make", "it", "appear", "attractive", "-LRB-", "e.g.", ",", "rare", "use", "of", "italics", ",", "at", "least", "9", "point", "font", ",", "...", "-RRB-", ",", "and", "-LRB-", "in", "later", "work", "-RRB-", "to", "build", "a", "system", "that", "assists", "novel", "Web", "page", "authors", "in", "creating", "quality", "pages", "by", "evaluating", "it", "according", "to", "these", "features", ".", "The", "primary", "differences", "between", "this", "work", "and", "ours", "are", "the", "goal", "-LRB-", "discovering", "what", "constitutes", "a", "good", "Web", "page", "vs.", "ordering", "Web", "pages", "for", "the", "purposes", "of", "Web", "search", "-RRB-", ",", "the", "size", "of", "the", "study", "-LRB-", "they", "used", "a", "dataset", "of", "less", "than", "6000", "pages", "vs.", "our", "set", "of", "468,000", "-RRB-", ",", "and", "our", "comparison", "with", "PageRank", ".", "y", "=", "0.577", "Ln", "-LRB-", "x", "-RRB-", "+", "58.283", "R", "2", "=", "0.9822", "58", "58.5", "59", "59.5", "60", "60.5", "61", "1", "10", "100", "Days", "of", "Toolbar", "Data", "P", "a", "i", "r", "w", "i", "s", "e", "A", "c", "c", "u", "r", "a", "c", "y", "Figure", "1", ":", "Relation", "between", "the", "amount", "of", "popularity", "data", "and", "the", "performance", "of", "the", "popularity", "feature", "set", ".", "Note", "the", "x-axis", "is", "a", "logarithmic", "scale", ".", "713", "Nevertheless", ",", "their", "work", "provides", "insights", "to", "additional", "useful", "static", "features", "that", "we", "could", "incorporate", "into", "fRank", "in", "the", "future", ".", "Recent", "work", "on", "incorporating", "novel", "features", "into", "dynamic", "ranking", "includes", "that", "by", "Joachims", "et", "al.", ".", "-LSB-", "21", "-RSB-", ",", "who", "investigate", "the", "use", "of", "implicit", "feedback", "from", "users", ",", "in", "the", "form", "of", "which", "search", "engine", "results", "are", "clicked", "on", ".", "Craswell", "et", "al.", ".", "-LSB-", "11", "-RSB-", "present", "a", "method", "for", "determining", "the", "best", "transformation", "to", "apply", "to", "query", "independent", "features", "-LRB-", "such", "as", "those", "used", "in", "this", "paper", "-RRB-", "for", "the", "purposes", "of", "improving", "dynamic", "ranking", ".", "Other", "work", ",", "such", "as", "Boyan", "et", "al.", "-LSB-", "4", "-RSB-", "and", "Bartell", "et", "al.", ".", "-LSB-", "2", "-RSB-", "apply", "machine", "learning", "for", "the", "purposes", "of", "improving", "the", "overall", "relevance", "of", "a", "search", "engine", "-LRB-", "i.e.", ",", "the", "dynamic", "ranking", "-RRB-", ".", "They", "do", "not", "apply", "their", "techniques", "to", "the", "problem", "of", "static", "ranking", ".", "6.3", "Future", "work", "There", "are", "many", "ways", "in", "which", "we", "would", "like", "to", "extend", "this", "work", ".", "First", ",", "fRank", "uses", "only", "a", "small", "number", "of", "features", ".", "We", "believe", "we", "could", "achieve", "even", "more", "significant", "results", "with", "more", "features", ".", "In", "particular", "the", "existence", ",", "or", "lack", "thereof", ",", "of", "certain", "words", "could", "prove", "very", "significant", "-LRB-", "for", "instance", ",", "``", "under", "construction", "''", "probably", "signifies", "a", "low", "quality", "page", "-RRB-", ".", "Other", "features", "could", "include", "the", "number", "of", "images", "on", "a", "page", ",", "size", "of", "those", "images", ",", "number", "of", "layout", "elements", "-LRB-", "tables", ",", "divs", ",", "and", "spans", "-RRB-", ",", "use", "of", "style", "sheets", ",", "conforming", "to", "W3C", "standards", "-LRB-", "like", "XHTML", "1.0", "Strict", "-RRB-", ",", "background", "color", "of", "a", "page", ",", "etc.", ".", "Many", "pages", "are", "generated", "dynamically", ",", "the", "contents", "of", "which", "may", "depend", "on", "parameters", "in", "the", "URL", ",", "the", "time", "of", "day", ",", "the", "user", "visiting", "the", "site", ",", "or", "other", "variables", ".", "For", "such", "pages", ",", "it", "may", "be", "useful", "to", "apply", "the", "techniques", "found", "in", "-LSB-", "26", "-RSB-", "to", "form", "a", "static", "approximation", "for", "the", "purposes", "of", "extracting", "features", ".", "The", "resulting", "grammar", "describing", "the", "page", "could", "itself", "be", "a", "source", "of", "additional", "features", "describing", "the", "complexity", "of", "the", "page", ",", "such", "as", "how", "many", "non-terminal", "nodes", "it", "has", ",", "the", "depth", "of", "the", "grammar", "tree", ",", "etc.", "fRank", "allows", "one", "to", "specify", "a", "confidence", "in", "each", "pairing", "of", "documents", ".", "In", "the", "future", ",", "we", "will", "experiment", "with", "probabilities", "that", "depend", "on", "the", "difference", "in", "human", "judgments", "between", "the", "two", "items", "in", "the", "pair", ".", "For", "example", ",", "a", "pair", "of", "documents", "where", "one", "was", "rated", "4", "and", "the", "other", "0", "should", "have", "a", "higher", "confidence", "than", "a", "pair", "of", "documents", "rated", "3", "and", "2", ".", "The", "experiments", "in", "this", "paper", "are", "biased", "toward", "pages", "that", "have", "higher", "than", "average", "quality", ".", "Also", ",", "fRank", "with", "all", "of", "the", "features", "can", "only", "be", "applied", "to", "pages", "that", "have", "already", "been", "crawled", ".", "Thus", ",", "fRank", "is", "primarily", "useful", "for", "index", "ordering", "and", "improving", "relevance", ",", "not", "for", "directing", "the", "crawl", ".", "We", "would", "like", "to", "investigate", "a", "machine", "learning", "approach", "for", "crawl", "prioritization", "as", "well", ".", "It", "may", "be", "that", "a", "combination", "of", "methods", "is", "best", ":", "for", "example", ",", "using", "PageRank", "to", "select", "the", "best", "5", "billion", "of", "the", "20", "billion", "pages", "on", "the", "Web", ",", "then", "using", "fRank", "to", "order", "the", "index", "and", "affect", "search", "relevancy", ".", "Another", "interesting", "direction", "for", "exploration", "is", "to", "incorporate", "fRank", "and", "page-level", "features", "directly", "into", "the", "PageRank", "computation", "itself", ".", "Work", "on", "biasing", "the", "PageRank", "jump", "vector", "-LSB-", "16", "-RSB-", ",", "and", "transition", "matrix", "-LSB-", "29", "-RSB-", ",", "have", "demonstrated", "the", "feasibility", "and", "advantages", "of", "such", "an", "approach", ".", "There", "is", "reason", "to", "believe", "that", "a", "direct", "application", "of", "-LSB-", "29", "-RSB-", ",", "using", "the", "fRank", "of", "a", "page", "for", "its", "``", "relevance", "''", ",", "could", "lead", "to", "an", "improved", "overall", "static", "rank", ".", "Finally", ",", "the", "popularity", "data", "can", "be", "used", "in", "other", "interesting", "ways", ".", "The", "general", "surfing", "and", "searching", "habits", "of", "Web", "users", "varies", "by", "time", "of", "day", ".", "Activity", "in", "the", "morning", ",", "daytime", ",", "and", "evening", "are", "often", "quite", "different", "-LRB-", "e.g.", ",", "reading", "the", "news", ",", "solving", "problems", ",", "and", "accessing", "entertainment", ",", "respectively", "-RRB-", ".", "We", "can", "gain", "insight", "into", "these", "differences", "by", "using", "the", "popularity", "data", ",", "divided", "into", "segments", "of", "the", "day", ".", "When", "a", "query", "is", "issued", ",", "we", "would", "then", "use", "the", "popularity", "data", "matching", "the", "time", "of", "query", "in", "order", "to", "do", "the", "ranking", "of", "Web", "pages", ".", "We", "also", "plan", "to", "explore", "popularity", "features", "that", "use", "more", "than", "just", "the", "counts", "of", "how", "often", "a", "page", "was", "visited", ".", "For", "example", ",", "how", "long", "users", "tended", "to", "dwell", "on", "a", "page", ",", "did", "they", "leave", "the", "page", "by", "clicking", "a", "link", "or", "by", "hitting", "the", "back", "button", ",", "etc.", ".", "Fox", "et", "al.", "did", "a", "study", "that", "showed", "that", "features", "such", "as", "this", "can", "be", "valuable", "for", "the", "purposes", "of", "dynamic", "ranking", "-LSB-", "14", "-RSB-", ".", "Finally", ",", "the", "popularity", "data", "could", "be", "used", "as", "the", "label", "rather", "than", "as", "a", "feature", ".", "Using", "fRank", "in", "this", "way", "to", "predict", "the", "popularity", "of", "a", "page", "may", "useful", "for", "the", "tasks", "of", "relevance", ",", "efficiency", ",", "and", "crawl", "priority", ".", "There", "is", "also", "significantly", "more", "popularity", "data", "than", "human", "labeled", "data", ",", "potentially", "enabling", "more", "complex", "machine", "learning", "methods", ",", "and", "significantly", "more", "features", ".", "A", "good", "static", "ranking", "is", "an", "important", "component", "for", "today", "'s", "search", "engines", "and", "information", "retrieval", "systems", ".", "We", "have", "demonstrated", "that", "PageRank", "does", "not", "provide", "a", "very", "good", "static", "ranking", ";", "there", "are", "many", "simple", "features", "that", "individually", "out", "perform", "PageRank", ".", "By", "combining", "many", "static", "features", ",", "fRank", "achieves", "a", "ranking", "that", "has", "a", "significantly", "higher", "pairwise", "accuracy", "than", "PageRank", "alone", ".", "A", "qualitative", "evaluation", "of", "the", "top", "documents", "shows", "that", "fRank", "is", "less", "technology-biased", "than", "PageRank", ";", "by", "using", "popularity", "data", ",", "it", "is", "biased", "toward", "pages", "that", "Web", "users", ",", "rather", "than", "Web", "authors", ",", "visit", ".", "The", "machine", "learning", "component", "of", "fRank", "gives", "it", "the", "additional", "benefit", "of", "being", "more", "robust", "against", "spammers", ",", "and", "allows", "it", "to", "leverage", "further", "developments", "in", "the", "machine", "learning", "community", "in", "areas", "such", "as", "adversarial", "classification", ".", "We", "have", "only", "begun", "to", "explore", "the", "options", ",", "and", "believe", "that", "significant", "strides", "can", "be", "made", "in", "the", "area", "of", "static", "ranking", "by", "further", "experimentation", "with", "additional", "features", ",", "other", "machine", "learning", "techniques", ",", "and", "additional", "sources", "of", "data", ".", "Thank", "you", "to", "Marc", "Najork", "for", "providing", "us", "with", "additional", "PageRank", "computations", "and", "to", "Timo", "Burkard", "for", "assistance", "with", "the", "popularity", "data", ".", "Many", "thanks", "to", "Chris", "Burges", "for", "providing", "code", "and", "significant", "support", "in", "using", "training", "RankNets", ".", "Also", ",", "we", "thank", "Susan", "Dumais", "and", "Nick", "Craswell", "for", "their", "edits", "and", "suggestions", ".", "-LSB-", "1", "-RSB-", "B.", "Amento", ",", "L.", "Terveen", ",", "and", "W.", "Hill", ".", "Does", "``", "authority", "''", "mean", "quality", "?", "Predicting", "expert", "quality", "ratings", "of", "Web", "documents", ".", "In", "Proceedings", "of", "the", "23", "rd", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "2000", ".", "-LSB-", "2", "-RSB-", "B.", "Bartell", ",", "G.", "Cottrell", ",", "and", "R.", "Belew", ".", "Automatic", "combination", "of", "multiple", "ranked", "retrieval", "systems", ".", "In", "Proceedings", "of", "the", "17th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "1994", ".", "-LSB-", "3", "-RSB-", "P.", "Boldi", ",", "M.", "Santini", ",", "and", "S.", "Vigna", ".", "PageRank", "as", "a", "function", "of", "the", "damping", "factor", ".", "In", "Proceedings", "of", "the", "International", "World", "Wide", "Web", "Conference", ",", "May", "2005", ".", "714", "-LSB-", "4", "-RSB-", "J.", "Boyan", ",", "D.", "Freitag", ",", "and", "T.", "Joachims", ".", "A", "machine", "learning", "architecture", "for", "optimizing", "web", "search", "engines", ".", "In", "AAAI", "Workshop", "on", "Internet", "Based", "Information", "Systems", ",", "August", "1996", ".", "-LSB-", "5", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine", ".", "In", "Proceedings", "of", "the", "Seventh", "International", "Wide", "Web", "Conference", ",", "Brisbane", ",", "Australia", ",", "1998", ".", "Elsevier", ".", "-LSB-", "6", "-RSB-", "A.", "Broder", ",", "R.", "Lempel", ",", "F.", "Maghoul", ",", "and", "J.", "Pederson", ".", "Efficient", "PageRank", "approximation", "via", "graph", "aggregation", ".", "In", "Proceedings", "of", "the", "International", "World", "Wide", "Web", "Conference", ",", "May", "2004", ".", "-LSB-", "7", "-RSB-", "C.", "Burges", ",", "T.", "Shaked", ",", "E.", "Renshaw", ",", "A.", "Lazier", ",", "M.", "Deeds", ",", "N.", "Hamilton", ",", "G.", "Hullender", ".", "Learning", "to", "rank", "using", "gradient", "descent", ".", "In", "Proceedings", "of", "the", "22", "nd", "International", "Conference", "on", "Machine", "Learning", ",", "Bonn", ",", "Germany", ",", "2005", ".", "-LSB-", "8", "-RSB-", "D.", "Carmel", ",", "D.", "Cohen", ",", "R.", "Fagin", ",", "E.", "Farchi", ",", "M.", "Herscovici", ",", "Y.", "S.", "Maarek", ",", "and", "A.", "Soffer", ".", "Static", "index", "pruning", "for", "information", "retrieval", "systems", ".", "In", "Proceedings", "of", "the", "24th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "43-50", ",", "New", "Orleans", ",", "Louisiana", ",", "USA", ",", "September", "2001", ".", "-LSB-", "9", "-RSB-", "J.", "Cho", "and", "S.", "Roy", ".", "Impact", "of", "search", "engines", "on", "page", "popularity", ".", "In", "Proceedings", "of", "the", "International", "World", "Wide", "Web", "Conference", ",", "May", "2004", ".", "-LSB-", "10", "-RSB-", "J.", "Cho", ",", "S.", "Roy", ",", "R.", "Adams", ".", "Page", "Quality", ":", "In", "search", "of", "an", "unbiased", "web", "ranking", ".", "In", "Proceedings", "of", "the", "ACM", "SIGMOD", "2005", "Conference", ".", "Baltimore", ",", "Maryland", ".", "June", "2005", ".", "-LSB-", "11", "-RSB-", "N.", "Craswell", ",", "S.", "Robertson", ",", "H.", "Zaragoza", ",", "and", "M.", "Taylor", ".", "Relevance", "weighting", "for", "query", "independent", "evidence", ".", "In", "Proceedings", "of", "the", "28", "th", "Annual", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "-RRB-", ",", "August", ",", "2005", ".", "-LSB-", "12", "-RSB-", "N.", "Dalvi", ",", "P.", "Domingos", ",", "Mausam", ",", "S.", "Sanghai", ",", "D.", "Verma", ".", "Adversarial", "Classification", ".", "In", "Proceedings", "of", "the", "Tenth", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "pp.", "99-108", "-RRB-", ",", "Seattle", ",", "WA", ",", "2004", ".", "-LSB-", "13", "-RSB-", "O.", "Dekel", ",", "C.", "Manning", ",", "and", "Y.", "Singer", ".", "Log-linear", "models", "for", "label-ranking", ".", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "16", ".", "Cambridge", ",", "MA", ":", "MIT", "Press", ",", "2003", ".", "-LSB-", "14", "-RSB-", "S.", "Fox", ",", "K", "S.", "Fox", ",", "K.", "Karnawat", ",", "M.", "Mydland", ",", "S.", "T.", "Dumais", "and", "T.", "White", "-LRB-", "2005", "-RRB-", ".", "Evaluating", "implicit", "measures", "to", "improve", "the", "search", "experiences", ".", "In", "the", "ACM", "Transactions", "on", "Information", "Systems", ",", "23", "-LRB-", "2", "-RRB-", ",", "pp.", "147-168", ".", "April", "2005", ".", "-LSB-", "15", "-RSB-", "T.", "Haveliwala", ".", "Efficient", "computation", "of", "PageRank", ".", "Stanford", "University", "Technical", "Report", ",", "1999", ".", "-LSB-", "16", "-RSB-", "T.", "Haveliwala", ".", "Topic-sensitive", "PageRank", ".", "In", "Proceedings", "of", "the", "International", "World", "Wide", "Web", "Conference", ",", "May", "2002", ".", "-LSB-", "17", "-RSB-", "D.", "Hawking", "and", "N.", "Craswell", ".", "Very", "large", "scale", "retrieval", "and", "Web", "search", ".", "In", "D.", "Harman", "and", "E.", "Voorhees", "-LRB-", "eds", "-RRB-", ",", "The", "TREC", "Book", ".", "MIT", "Press", ".", "-LSB-", "18", "-RSB-", "R.", "Herbrich", ",", "T.", "Graepel", ",", "and", "K.", "Obermayer", ".", "Support", "vector", "learning", "for", "ordinal", "regression", ".", "In", "Proceedings", "of", "the", "Ninth", "International", "Conference", "on", "Artificial", "Neural", "Networks", ",", "pp", ".", "97-102", ".", "1999", ".", "-LSB-", "19", "-RSB-", "M.", "Ivory", "and", "M.", "Hearst", ".", "Statistical", "profiles", "of", "highly-rated", "Web", "sites", ".", "In", "Proceedings", "of", "the", "ACM", "SIGCHI", "Conference", "on", "Human", "Factors", "in", "Computing", "Systems", ",", "2002", ".", "-LSB-", "20", "-RSB-", "T.", "Joachims", ".", "Optimizing", "search", "engines", "using", "clickthrough", "data", ".", "In", "Proceedings", "of", "the", "ACM", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "KDD", "-RRB-", ",", "2002", ".", "-LSB-", "21", "-RSB-", "T.", "Joachims", ",", "L.", "Granka", ",", "B.", "Pang", ",", "H.", "Hembrooke", ",", "and", "G.", "Gay", ".", "Accurately", "Interpreting", "Clickthrough", "Data", "as", "Implicit", "Feedback", ".", "In", "Proceedings", "of", "the", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "-RRB-", ",", "2005", ".", "-LSB-", "22", "-RSB-", "J.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "Journal", "of", "the", "ACM", "46:5", ",", "pp.", "604-32", ".", "1999", ".", "-LSB-", "23", "-RSB-", "A.", "Langville", "and", "C.", "Meyer", ".", "Deeper", "inside", "PageRank", ".", "Internet", "Mathematics", "1", "-LRB-", "3", "-RRB-", ":", "335-380", ",", "2004", ".", "-LSB-", "24", "-RSB-", "F.", "Matthieu", "and", "M.", "Bouklit", ".", "The", "effect", "of", "the", "back", "button", "in", "a", "random", "walk", ":", "application", "for", "PageRank", ".", "In", "Alternate", "track", "papers", "and", "posters", "of", "the", "Thirteenth", "International", "World", "Wide", "Web", "Conference", ",", "2004", ".", "-LSB-", "25", "-RSB-", "F.", "McSherry", ".", "A", "uniform", "approach", "to", "accelerated", "PageRank", "computation", ".", "In", "Proceedings", "of", "the", "International", "World", "Wide", "Web", "Conference", ",", "May", "2005", ".", "-LSB-", "26", "-RSB-", "Y.", "Minamide", ".", "Static", "approximation", "of", "dynamically", "generated", "Web", "pages", ".", "In", "Proceedings", "of", "the", "International", "World", "Wide", "Web", "Conference", ",", "May", "2005", ".", "-LSB-", "27", "-RSB-", "L.", "Page", ",", "S.", "Brin", ",", "R.", "Motwani", ",", "and", "T.", "Winograd", ".", "The", "PageRank", "citation", "ranking", ":", "Bringing", "order", "to", "the", "web", ".", "Technical", "report", ",", "Stanford", "University", ",", "Stanford", ",", "CA", ",", "1998", ".", "-LSB-", "28", "-RSB-", "S.", "Pandey", "and", "C.", "Olston", ".", "User-centric", "Web", "crawling", ".", "In", "Proceedings", "of", "the", "International", "World", "Wide", "Web", "Conference", ",", "May", "2005", ".", "-LSB-", "29", "-RSB-", "M.", "Richardson", "and", "P.", "Domingos", ".", "The", "intelligent", "surfer", ":", "probabilistic", "combination", "of", "link", "and", "content", "information", "in", "PageRank", ".", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "14", ",", "pp.", "1441-1448", ".", "Cambridge", ",", "MA", ":", "MIT", "Press", ",", "2002", ".", "-LSB-", "30", "-RSB-", "C.", "Sherman", ".", "Teoma", "vs.", "Google", ",", "Round", "2", ".", "Available", "from", "World", "Wide", "Web", "-LRB-", "http://dc.internet.com/news/article.php/", "1002061", "-RRB-", ",", "2002", ".", "-LSB-", "31", "-RSB-", "T.", "Upstill", ",", "N.", "Craswell", ",", "and", "D.", "Hawking", ".", "Predicting", "fame", "and", "fortune", ":", "PageRank", "or", "indegree", "?", ".", "In", "the", "Eighth", "Australasian", "Document", "Computing", "Symposium", ".", "2003", ".", "-LSB-", "32", "-RSB-", "T.", "Upstill", ",", "N.", "Craswell", ",", "and", "D.", "Hawking", ".", "Query-independent", "evidence", "in", "home", "page", "finding", ".", "In", "ACM", "Transactions", "on", "Information", "Systems", ".", "2003", ".", "715"], "doc_bio_tags": ["O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dynamic ranking", "search engines", "static features", "ranknet", "pairwise accuracy", "web pages", "frank", "relevance", "static ranking", "pagerank", "anchor text", "popularity data"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "38", "document": ["Attack-Resilient", "Hierarchical", "Data", "Aggregation", "in", "Sensor", "Networks", "In", "a", "large", "sensor", "network", ",", "in-network", "data", "aggregation", ",", "i.e.", ",", "combining", "partial", "results", "at", "intermediate", "nodes", "during", "message", "routing", ",", "significantly", "reduces", "the", "amount", "of", "communication", "and", "hence", "the", "energy", "consumed", ".", "Recently", "several", "researchers", "have", "proposed", "robust", "aggregation", "frameworks", ",", "which", "combine", "multi-path", "routing", "schemes", "with", "duplicate-insensitive", "algorithms", ",", "to", "accurately", "compute", "aggregates", "-LRB-", "e.g.", ",", "Sum", ",", "Count", ",", "Average", "-RRB-", "in", "spite", "of", "message", "losses", "resulting", "from", "node", "and", "transmission", "failures", ".", "However", ",", "these", "aggregation", "frameworks", "have", "been", "designed", "without", "security", "in", "mind", ".", "Given", "the", "lack", "of", "hardware", "support", "for", "tamper-resistance", "and", "the", "unattended", "nature", "of", "sensor", "nodes", ",", "sensor", "networks", "are", "highly", "vulnerable", "to", "node", "compromises", ".", "We", "show", "that", "even", "if", "a", "few", "compromised", "nodes", "contribute", "false", "sub-aggregate", "values", ",", "this", "results", "in", "large", "errors", "in", "the", "aggregate", "computed", "at", "the", "root", "of", "the", "hierarchy", ".", "We", "present", "modifications", "to", "the", "aggregation", "algorithms", "that", "guard", "against", "such", "attacks", ",", "i.e.", ",", "we", "present", "algorithms", "for", "resilient", "hierarchical", "data", "aggregation", "despite", "the", "presence", "of", "compromised", "nodes", "in", "the", "aggregation", "hierarchy", ".", "We", "evaluate", "the", "performance", "and", "costs", "of", "our", "approach", "via", "both", "analysis", "and", "simulation", ".", "Our", "results", "show", "that", "our", "approach", "is", "scalable", "and", "efficient", ".", "C.", "2.0", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "General", "--", "Security", "and", "protection", ";", "C.", "2.1", "-LSB-", "Computer-Communication", "Networks", "-RSB-", ":", "Network", "Architecture", "and", "Design", "--", "Wireless", "communication", ";", "D.", "4.6", "-LSB-", "Operating", "Systems", "-RSB-", ":", "Security", "and", "Protection", "--", "Cryptographic", "controls", ";", "K.", "6.5", "-LSB-", "Management", "of", "Computing", "and", "Information", "Systems", "-RSB-", ":", "Security", "and", "Protection", "Algorithms", ",", "Design", ",", "Security", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SASN", "'", "06", ",", "October", "30", ",", "2006", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-554-1", "/", "06/0010", "...", "$", "5.00", ".", "In", "large", "sensor", "networks", ",", "computing", "aggregates", "in-network", ",", "i.e.", ",", "combining", "partial", "results", "at", "intermediate", "nodes", "during", "message", "routing", ",", "significantly", "reduces", "the", "amount", "of", "communication", "and", "hence", "the", "energy", "consumed", "-LSB-", "11", ",", "23", "-RSB-", ".", "An", "approach", "used", "by", "several", "data", "acquisition", "systems", "for", "sensor", "networks", "is", "to", "construct", "a", "spanning", "tree", "rooted", "at", "the", "querying", "node", ",", "and", "then", "perform", "in-network", "aggregation", "along", "the", "tree", ".", "Partial", "results", "propagate", "level-by-level", "up", "the", "tree", ",", "with", "each", "node", "awaiting", "messages", "from", "all", "its", "children", "before", "sending", "a", "new", "partial", "result", "to", "its", "parent", ".", "Tree-based", "aggregation", "approaches", ",", "however", ",", "are", "not", "resilient", "to", "communication", "losses", "resulting", "from", "node", "and", "transmission", "failures", ",", "which", "are", "relatively", "common", "in", "sensor", "networks", "-LSB-", "11", ",", "22", ",", "23", "-RSB-", ".", "Because", "each", "communication", "failure", "loses", "an", "entire", "subtree", "of", "readings", ",", "a", "large", "fraction", "of", "sensor", "readings", "are", "potentially", "un-accounted", "for", "at", "the", "querying", "node", ",", "leading", "to", "a", "significant", "error", "in", "the", "query", "answer", ".", "To", "address", "this", "problem", ",", "researchers", "have", "proposed", "the", "use", "of", "multi-path", "routing", "techniques", "for", "forwarding", "sub-aggregates", "-LSB-", "11", "-RSB-", ".", "For", "aggregates", "such", "as", "Min", "and", "Max", "which", "are", "duplicate-insensitive", ",", "this", "approach", "provides", "a", "fault-tolerant", "solution", ".", "For", "duplicate-sensitive", "aggregates", "such", "as", "Count", "and", "Sum", ",", "however", ",", "multi-path", "routing", "leads", "to", "double-counting", "of", "sensor", "readings", ",", "resulting", "in", "an", "incorrect", "aggregate", "being", "computed", ".", "Recently", "researchers", "-LSB-", "3", ",", "12", ",", "14", "-RSB-", "have", "presented", "clever", "algorithms", "to", "solve", "the", "double-counting", "problem", "associated", "with", "multi-path", "approaches", ".", "A", "robust", "and", "scalable", "aggregation", "framework", "called", "Synopsis", "Diffusion", "has", "been", "proposed", "for", "computing", "duplicate", "-", "sensitive", "aggregates", "such", "as", "Count", "and", "Sum", ".", "There", "are", "two", "primary", "elements", "of", "this", "approach", "-", "the", "use", "of", "a", "ring-based", "topology", "instead", "of", "a", "tree-based", "topology", "for", "organizing", "the", "nodes", "in", "the", "aggregation", "hierarchy", ",", "and", "the", "use", "of", "duplicate-insensitive", "algorithms", "for", "computing", "aggregates", "based", "on", "Flajolet", "and", "Martin", "'s", "algorithm", "for", "counting", "distinct", "elements", "in", "a", "multi-set", "-LSB-", "5", "-RSB-", ".", "As", "presented", ",", "the", "Synopsis", "Diffusion", "aggregation", "framework", "does", "not", "include", "any", "provisions", "for", "security", ".", "Although", "we", "can", "easily", "prevent", "unauthorized", "nodes", "from", "launching", "attacks", "by", "augmenting", "the", "aggregation", "framework", "with", "authentication", "and", "encryption", "protocols", "-LSB-", "15", ",", "24", "-RSB-", ",", "compromised", "nodes", "present", "an", "entirely", "new", "set", "of", "security", "challenges", ".", "The", "lack", "of", "tamper-resistance", "and", "the", "unattended", "nature", "of", "many", "networks", "renders", "sensor", "nodes", "highly", "vulnerable", "to", "compromise", ".", "Standard", "authentication", "mechanisms", "can", "not", "prevent", "a", "compromised", "node", "from", "launching", "attacks", "since", "all", "its", "keys", "are", "also", "compromised", ".", "In", "this", "paper", ",", "we", "present", "novel", "mechanisms", "for", "making", "the", "synopsis", "diffusion", "aggregation", "framework", "resilient", "to", "attacks", "launched", "by", "compromised", "nodes", ".", "We", "present", "counter-measures", "against", "attacks", "in", "which", "a", "compromised", "node", "attempts", "to", "change", "the", "aggregate", "value", "computed", "at", "the", "root", "of", "the", "hierarchy", ".", "In", "particular", ",", "we", "focus", "on", "an", "attack", "in", "which", "71", "a", "sensor", "node", "that", "is", "not", "a", "leaf", "node", "in", "the", "aggregation", "hierarchy", "relays", "a", "false", "sub-aggregate", "value", "to", "its", "parents", ".", "We", "refer", "to", "this", "attack", "as", "the", "falsified", "sub-aggregate", "attack", ".", "We", "show", "that", "if", "the", "synopsis", "diffusion", "approach", "is", "used", "to", "compute", "aggregates", "such", "as", "Count", "and", "Sum", ",", "an", "adversary", "can", "use", "the", "falsified", "sub-aggregate", "attack", "to", "cause", "the", "answer", "computed", "at", "the", "base", "station", "in", "response", "to", "a", "query", "to", "differ", "from", "the", "true", "value", "by", "an", "arbitrary", "amount", ".", "Moreover", ",", "we", "show", "that", "this", "attack", "can", "be", "launched", "with", "a", "high", "rate", "of", "success", ",", "even", "if", "only", "one", "or", "a", "small", "number", "of", "nodes", "are", "compromised", ".", "We", "present", "an", "approach", "in", "which", "the", "synopsis", "diffusion", "aggregation", "frameork", "is", "augmented", "with", "a", "set", "of", "countermeasures", "that", "mitigate", "the", "effect", "of", "the", "falsified", "sub-aggregate", "attack", ".", "In", "our", "approach", ",", "a", "subset", "of", "the", "total", "number", "of", "nodes", "in", "the", "network", "include", "an", "authentication", "code", "-LRB-", "MAC", "-RRB-", "along", "with", "their", "response", "to", "a", "query", ".", "These", "MACs", "are", "propagated", "to", "the", "base", "station", "along", "with", "the", "partial", "results", "that", "are", "computed", "at", "each", "level", "in", "the", "hierarchy", ".", "By", "verifying", "these", "MACs", ",", "the", "base", "station", "can", "estimate", "the", "accuracy", "of", "the", "final", "aggregate", "value", "it", "computes", ",", "and", "can", "filter", "out", "the", "effect", "of", "any", "false", "sub-aggregates", "contributed", "by", "compromised", "nodes", ".", "Thus", ",", "our", "approach", "can", "be", "used", "in", "conjunction", "with", "synopsis", "diffusion", "to", "compute", "basic", "aggregates", "such", "as", "Count", "and", "Sum", "despite", "the", "presence", "of", "compromised", "nodes", "in", "the", "aggregation", "hierarchy", ".", "The", "communication", "overhead", "of", "our", "approach", "depends", "upon", "the", "number", "of", "contributing", "nodes", "which", "send", "a", "MAC", "to", "the", "base", "station", ".", "We", "evaluate", "the", "performance", "and", "costs", "of", "our", "approach", "via", "both", "analysis", "and", "simulation", ".", "We", "show", "that", "our", "approach", "is", "scalable", "since", "the", "number", "of", "contributing", "nodes", "-LRB-", "and", "hence", "the", "average", "communication", "overhead", "-RRB-", "do", "not", "increase", "with", "network", "size", ".", "To", "further", "reduce", "the", "communication", "overhead", ",", "we", "describe", "a", "variation", "of", "our", "basic", "approach", "that", "trades", "communication", "costs", "for", "latency", ".", "In", "this", "section", ",", "we", "provide", "a", "brief", "overview", "of", "the", "synopsis", "diffusion", "approach", "for", "robust", "aggregation", "-LSB-", "3", ",", "14", "-RSB-", ".", "Figure", "1", "illustrates", "how", "the", "synopsis", "diffusion", "approach", "uses", "a", "rings", "topology", "for", "aggregation", ".", "R0", "R1", "R2", "q", "C", "B", "A", "D", "Figure", "1", ":", "Synopsis", "Diffusion", "over", "a", "rings", "topology", "In", "the", "query", "distribution", "phase", ",", "nodes", "form", "a", "set", "of", "rings", "around", "the", "querying", "node", "q", "based", "on", "their", "distance", "in", "hops", "from", "q", ".", "During", "the", "subsequent", "query", "aggregation", "period", ",", "starting", "in", "the", "outermost", "ring", "each", "node", "generates", "a", "local", "synopsis", "s", "=", "SG", "-LRB-", "v", "-RRB-", "where", "v", "is", "the", "sensor", "reading", "relevant", "to", "the", "query", ",", "and", "broadcasts", "it", ".", "-LRB-", "SG", "-LRB-", "-RRB-", "is", "the", "synopsis", "generation", "function", ".", "-RRB-", "A", "node", "in", "ring", "R", "i", "will", "receive", "broadcasts", "from", "all", "the", "nodes", "in", "its", "range", "in", "ring", "R", "i", "+1", ".", "It", "will", "then", "combine", "its", "own", "local", "synopsis", "with", "the", "synopses", "received", "from", "its", "children", "using", "a", "synopsis", "fusion", "function", "SF", "-LRB-", "-RRB-", ",", "and", "then", "broadcast", "the", "updated", "synopsis", ".", "Thus", ",", "the", "fused", "synopses", "propagate", "level-by", "-", "level", "until", "they", "reach", "the", "querying", "node", ",", "who", "first", "combines", "the", "received", "synopses", "with", "its", "local", "synopsis", "using", "SF", "-LRB-", "-RRB-", "and", "then", "uses", "the", "synopsis", "evaluation", "function", "SE", "-LRB-", "-RRB-", "to", "translate", "the", "final", "synopsis", "to", "the", "answer", "to", "the", "query", ".", "The", "functions", "SG", "-LRB-", "-RRB-", ",", "SF", "-LRB-", "-RRB-", ",", "and", "SE", "-LRB-", "-RRB-", "depend", "upon", "the", "target", "aggregation", "function", ",", "e.g.", "Count", ",", "Sum", ",", "etc.", ".", "We", "now", "describe", "the", "duplicate-insensitive", "synopsis", "diffusion", "algorithms", "for", "the", "Count", "aggregate", ",", "i.e.", ",", "the", "total", "number", "of", "nodes", "in", "the", "sensor", "network", ",", "and", "the", "Sum", "aggregate", ",", "i.e.", ",", "the", "sum", "of", "the", "sensor", "readings", "of", "the", "nodes", "in", "the", "network", ".", "These", "algorithms", "are", "based", "on", "Flajolet", "and", "Martin", "'s", "well-known", "probablistic", "algorithm", "for", "counting", "the", "number", "of", "distinct", "elements", "in", "a", "multi-set", "-LSB-", "5", "-RSB-", ".", "2.1", "COUNT", "In", "this", "algorithm", ",", "each", "node", "generates", "a", "local", "synopsis", "which", "is", "a", "bit", "vector", "ls", "of", "length", "k", ">", "log", "n", ",", "where", "n", "is", "an", "upper", "bound", "on", "the", "nodes", "in", "the", "network", ".", "To", "generate", "its", "local", "synopsis", ",", "each", "node", "executes", "the", "function", "CT", "-LRB-", "X", ",", "k", "-RRB-", "given", "below", ",", "where", "X", "is", "the", "node", "'s", "identifier", "and", "k", "is", "the", "length", "of", "ls", "in", "bits", ".", "CT", "-LRB-", "-RRB-", "can", "be", "interpreted", "as", "a", "coin-tossing", "experiment", "-LRB-", "with", "a", "cryptographic", "hash", "function", "h", "-LRB-", "-RRB-", ",", "modeled", "as", "a", "random", "oracle", "whose", "output", "is", "0", "or", "1", ",", "simulating", "a", "fair", "coin-toss", "-RRB-", ",", "which", "returns", "the", "number", "of", "coin", "tosses", "until", "the", "first", "heads", "occurs", "or", "k", "+", "1", "if", "k", "tosses", "have", "occurred", "with", "no", "heads", "occurring", ".", "In", "the", "local", "synopsis", "ls", "of", "node", "X", ",", "a", "single", "bit", "i", "is", "set", "to", "1", ",", "where", "i", "is", "the", "output", "of", "CT", "-LRB-", "X", ",", "k", "-RRB-", ".", "Thus", "ls", "is", "a", "bitmap", "of", "the", "form", "0", "i", "-1", "1", "with", "probability", "2", "-", "i", ".", "Algorithm", "1", "CT", "-LRB-", "X", ",", "k", "-RRB-", "i", "=", "1", ";", "while", "i", "<", "k", "+", "1", "AND", "h", "-LRB-", "X", ",", "i", "-RRB-", "=", "0", "do", "i", "=", "i", "+", "1", ";", "end", "while", "return", "i", ";", "The", "synopsis", "fusion", "function", "SF", "-LRB-", "-RRB-", "is", "simply", "the", "bitwise", "Boolean", "OR", "of", "the", "synopses", "being", "combined", ".", "Each", "node", "fuses", "its", "local", "synopsis", "ls", "with", "the", "synopses", "it", "receives", "from", "its", "children", "by", "computing", "the", "bit-wise", "OR", "of", "all", "the", "synopses", ".", "Let", "S", "denote", "the", "final", "synopsis", "computed", "by", "the", "querying", "node", "by", "combining", "all", "the", "synopses", "received", "from", "its", "children", "and", "its", "local", "synopsis", ".", "We", "observe", "that", "S", "will", "be", "a", "bitmap", "of", "length", "k", "of", "the", "form", "1", "r", "-1", "0", ".", "The", "querying", "node", "can", "estimate", "Count", "from", "S", "via", "the", "synopsis", "evaluation", "function", "SE", "-LRB-", "-RRB-", ":", "if", "r", "is", "the", "lowest-order", "bit", "in", "S", "that", "is", "0", ",", "the", "count", "of", "nodes", "in", "the", "network", "is", "2", "r", "-1", "/", "0.7735", ".", "The", "synopsis", "evaluation", "function", "SE", "-LRB-", "-RRB-", "is", "based", "on", "Property", "2", "below", ".", "Intuitively", ",", "the", "number", "of", "sensor", "nodes", "is", "proportional", "to", "2", "r", "-1", "since", "no", "node", "has", "set", "the", "rth", "bit", "while", "computing", "CT", "-LRB-", "X", ",", "k", "-RRB-", ".", "We", "now", "present", "a", "few", "important", "properties", "of", "the", "final", "synopsis", "S", "computed", "at", "the", "querying", "node", "that", "have", "been", "derived", "in", "-LSB-", "5", ",", "3", "-RSB-", ",", "and", "that", "we", "will", "find", "useful", "in", "the", "rest", "of", "this", "paper", ".", "Let", "S", "-LSB-", "i", "-RSB-", ",", "1", "i", "k", "denote", "the", "ith", "bit", "of", "S", ",", "where", "bits", "are", "numbered", "starting", "at", "the", "left", ".", "Property", "1", "For", "i", "<", "log", "2", "n", "-2", "log", "2", "log", "2", "n", ",", "S", "-LSB-", "i", "-RSB-", "=", "1", "with", "probability", "1", ".", "For", "i", "3", "2", "log", "2", "n", ",", "S", "-LSB-", "i", "-RSB-", "=", "0", "with", "probability", "1", ".", "This", "result", "implies", "that", "for", "a", "network", "of", "n", "nodes", ",", "we", "expect", "that", "S", "has", "an", "initial", "prefix", "of", "all", "ones", "and", "a", "suffix", "of", "all", "zeros", ",", "while", "only", "the", "bits", "around", "S", "-LSB-", "log", "2", "n", "-RSB-", "exhibit", "much", "variation", ".", "This", "provides", "an", "estimate", "of", "the", "number", "of", "bits", ",", "k", ",", "required", "for", "a", "node", "'s", "local", "synopsis", ".", "In", "practice", ",", "k", "=", "log", "2", "n", "+", "4", "bits", "are", "sufficient", "to", "represent", "S", "with", "high", "probability", "-LSB-", "5", "-RSB-", ".", "This", "result", "also", "indicates", "that", "the", "length", "of", "the", "prefix", "of", "all", "ones", "in", "S", "can", "be", "used", "to", "estimate", "n.", "Let", "r", "=", "72", "min", "-LCB-", "i", "|", "S", "-LSB-", "i", "-RSB-", "=", "0", "-RCB-", ",", "i.e.", ",", "r", "is", "the", "location", "of", "the", "leftmost", "zero", "in", "S", ".", "Then", "R", "=", "r", "-1", "is", "a", "random", "variable", "representing", "the", "length", "of", "the", "prefix", "of", "all", "ones", "in", "the", "sketch", ".", "The", "following", "results", "hold", "for", "R.", "Property", "2", "The", "expected", "value", "of", "R", ",", "E", "-LRB-", "R", "-RRB-", "log", "2", "-LRB-", "n", "-RRB-", "where", "the", "constant", "is", "approximately", "0.7735", ".", "This", "result", "implies", "that", "R", "can", "be", "used", "for", "an", "unbiased", "estimator", "of", "log", "2", "-LRB-", "n", "-RRB-", ",", "and", "it", "is", "the", "basis", "for", "the", "synopsis", "evaluation", "function", "SE", "-LRB-", "-RRB-", "which", "estimates", "n", "as", "2", "R", "/", ".", "Property", "3", "The", "variance", "of", "R", ",", "denoted", "as", "2", "R", "n", ",", "satisfies", "2", "R", "n", "=", "2", "R", "+", "Q", "-LRB-", "log", "2", "n", "-RRB-", "+", "o", "-LRB-", "1", "-RRB-", ",", "where", "constant", "R", "is", "approximately", "1", ".1213", "and", "Q", "-LRB-", "x", "-RRB-", "is", "a", "periodic", "function", "with", "mean", "value", "0", "and", "period", "1", ".", "This", "property", "implies", "that", "the", "standard", "deviation", "of", "R", "is", "approximately", "1", ".1213", ",", "i.e.", ",", "the", "estimates", "of", "n", "derived", "from", "R", "will", "often", "be", "off", "by", "a", "factor", "of", "two", "or", "more", "in", "either", "direction", ".", "To", "reduce", "the", "standard", "deviation", "of", "R", ",", "Flajolet", "et", "al", "-LSB-", "5", "-RSB-", "proposed", "an", "algorithm", "named", "PCSA", ",", "where", "m", "synopses", "are", "computed", "in", "parallel", "and", "the", "new", "estimator", "-LRB-", "R", "-RRB-", "is", "the", "average", "of", "all", "individual", "R", "'s", "of", "these", "synopses", ".", "For", "PCSA", ",", "the", "standard", "error", "in", "the", "estimate", "of", "n", ",", "i.e.", ",", "n", "/", "n", ",", "is", "equal", "to", "0", ".78", "/", "m", "-LSB-", "5", "-RSB-", ".", "Property", "4", "In", "a", "network", "of", "n", "nodes", ",", "the", "expected", "number", "of", "nodes", "that", "will", "have", "the", "ith", "bit", "of", "their", "local", "synopsis", "ls", "-LSB-", "i", "-RSB-", "=", "1", "is", "n/2", "i", ".", "This", "result", "implies", "that", "the", "expected", "number", "of", "nodes", "that", "contribute", "a", "1", "to", "the", "ith", "bit", "of", "S", "and", "the", "bits", "to", "the", "right", "of", "the", "ith", "bit", "in", "S", "-LRB-", "i.e.", ",", "bits", "j", ",", "where", "i", "j", "k", "-RRB-", "is", "n/2", "i", "-1", ".", "2.2", "SUM", "Considine", "et", "al.", "-LSB-", "3", "-RSB-", "extended", "the", "Count", "algorithm", "described", "above", "for", "computing", "the", "Sum", "aggregate", ".", "The", "synopsis", "generation", "function", "SG", "-LRB-", "-RRB-", "for", "Sum", "is", "a", "modification", "of", "that", "for", "Count", "while", "the", "fusion", "function", "SF", "-LRB-", "-RRB-", "and", "the", "evaluation", "function", "SE", "-LRB-", "-RRB-", "for", "Sum", "are", "identical", "to", "those", "for", "Count", ".", "To", "generate", "its", "local", "synopsis", "for", "a", "sensor", "reading", "v", ",", "a", "node", "X", "invokes", "the", "function", "CT", "-LRB-", "-RRB-", "v", "times", "1", "and", "ORs", "the", "results", ".", "As", "a", "result", ",", "the", "local", "synopsis", "of", "a", "node", "is", "a", "bitmap", "of", "length", "k", "=", "log", "2", "u", "s", "+", "4", "where", "u", "s", "is", "an", "upper", "bound", "on", "the", "value", "of", "Sum", "aggregate", ".", "Unlike", "the", "local", "synopsis", "of", "a", "node", "for", "Count", ",", "more", "than", "one", "bit", "in", "the", "local", "synopsis", "of", "a", "node", "for", "Sum", "will", "be", "equal", "to", "1", ".", "Count", "can", "be", "considered", "as", "a", "special", "case", "of", "Sum", "where", "each", "node", "'s", "sensor", "reading", "is", "equal", "to", "one", "unit", ".", "Considine", "et", "al.", "-LSB-", "3", "-RSB-", "proposed", "an", "optimized", "version", "of", "SG", "-LRB-", "-RRB-", "for", "Sum", "to", "make", "it", "suitable", "for", "a", "low-end", "sensor", "node", ",", "even", "if", "the", "sensed", "value", "v", "is", "high", ".", "Moreover", ",", "they", "showed", "that", "Properties", "14", "described", "above", "for", "Count", "also", "hold", "for", "Sum", "-LRB-", "with", "appropriate", "modifications", "-RRB-", ".", "Similarly", ",", "as", "in", "the", "case", "of", "Count", ",", "the", "PCSA", "algorithm", "can", "be", "used", "to", "reduce", "the", "standard", "deviation", "of", "the", "estimate", "for", "Sum", ".", "The", "Synopsis", "Diffusion", "aggregation", "framework", "does", "not", "include", "any", "provisions", "for", "security", ";", "as", "a", "result", ",", "it", "is", "vulnerable", "to", "many", "attacks", "that", "can", "be", "launched", "by", "unauthorized", "or", "compromised", "nodes", ".", "To", "prevent", "unauthorized", "nodes", "from", "eavesdropping", "on", "or", "participating", "in", "communications", "between", "legitimate", "nodes", ",", "we", "can", "augment", "the", "aggregation", "framework", "with", "any", "one", "of", "several", "recently", "proposed", "authentication", "and", "encryption", "protocols", "-LSB-", "15", ",", "24", "-RSB-", ".", "However", ",", "compromised", "nodes", "pose", "an", "entirely", "new", "set", "of", "security", "challenges", ".", "Sensor", "nodes", "are", "often", "deployed", "in", "unattended", "environments", ",", "so", "they", "are", "vulnerable", "to", "physical", "tampering", ".", "Current", "sensor", "nodes", "1", "Each", "sensor", "reading", "is", "assumed", "to", "be", "an", "integer", "lack", "hardware", "support", "for", "tamper-resistance", ".", "Consequently", ",", "it", "is", "relatively", "easy", "for", "an", "adversary", "to", "compromise", "a", "node", "without", "being", "detected", ".", "The", "adversary", "can", "obtain", "confidential", "information", "-LRB-", "e.g.", ",", "cryptographic", "keys", "-RRB-", "from", "the", "compromised", "sensor", "and", "repro-gram", "it", "with", "malicious", "code", ".", "A", "compromised", "node", "can", "be", "used", "to", "launch", "multiple", "attacks", "against", "the", "sensor", "application", ".", "These", "attacks", "include", "jamming", "at", "physical", "or", "link", "layer", ",", "other", "denial", "of", "service", "attacks", "like", "flooding", ",", "route", "disruption", ",", "message", "dropping", ",", "message", "modification", ",", "false", "data", "injection", "and", "many", "others", ".", "Standard", "authentication", "mechanisms", "can", "not", "prevent", "these", "insider", "attacks", "since", "the", "adversary", "knows", "all", "the", "keying", "material", "possessed", "by", "the", "compromised", "nodes", ".", "In", "this", "paper", ",", "we", "focus", "on", "defending", "against", "an", "important", "subclass", "of", "these", "insider", "attacks", "which", "can", "potentially", "corrupt", "the", "final", "result", "of", "the", "aggregation", "query", ".", "Below", "we", "describe", "these", "attacks", "in", "the", "context", "of", "the", "Count", "and", "Sum", "aggregates", ".", "A", "compromised", "node", "M", "can", "corrupt", "the", "aggregate", "value", "computed", "at", "the", "root", "-LRB-", "i.e.", ",", "the", "sink", "-RRB-", "of", "the", "hierarchical", "aggregation", "framework", "in", "three", "ways", ".", "First", ",", "M", "can", "simply", "drop", "aggregation", "messages", "that", "it", "is", "supposed", "to", "relay", "towards", "the", "sink", ".", "If", "M", "is", "located", "at", "a", "relatively", "high", "position", "in", "the", "aggregation", "hierarchy", ",", "this", "has", "the", "effect", "of", "omitting", "a", "large", "fraction", "of", "the", "set", "of", "sensor", "readings", "being", "aggregated", ".", "Second", ",", "M", "can", "falsify", "its", "own", "sensor", "reading", "with", "the", "goal", "of", "influencing", "the", "aggregate", "value", ".", "Third", ",", "M", "can", "falsify", "the", "sub-aggregate", "which", "M", "is", "supposed", "to", "compute", "based", "on", "the", "messages", "received", "from", "M", "'s", "child", "nodes", ".", "The", "effect", "of", "the", "first", "attack", "in", "which", "a", "node", "intentionally", "drops", "aggregation", "messages", "is", "no", "different", "from", "the", "effect", "of", "transmission", "and", "node", "failures", ",", "which", "are", "common", "in", "sensor", "networks", "-LSB-", "7", "-RSB-", ".", "The", "synopsis", "diffusion", "approach", "employs", "multi-path", "routing", "for", "addressing", "these", "failures", ",", "and", "thus", "it", "also", "addresses", "message", "losses", "due", "to", "compromised", "nodes", "-LSB-", "3", ",", "12", ",", "14", "-RSB-", ".", "We", "refer", "to", "the", "second", "attack", "in", "which", "a", "sensor", "intentionally", "falsifies", "its", "own", "reading", "as", "the", "falsified", "local", "value", "attack", ".", "This", "attack", "is", "similar", "to", "the", "behavior", "of", "nodes", "with", "faulty", "sensors", "and", "can", "be", "addressed", "by", "well-studied", "approaches", "for", "fault", "tolerance", "such", "as", "majority", "voting", "and", "reputation-based", "frameworks", "-LSB-", "10", ",", "6", "-RSB-", ".", "The", "third", "attack", ",", "however", ",", "in", "which", "a", "node", "falsifies", "the", "aggregate", "value", "it", "is", "relaying", "to", "its", "parents", "in", "the", "hierarchy", "is", "much", "more", "difficult", "to", "address", ",", "and", "is", "the", "main", "focus", "of", "this", "paper", ".", "We", "refer", "to", "this", "attack", "as", "the", "falsified", "sub-aggregate", "attack", ".", "The", "Falsified", "Sub-Aggregate", "Attack", "Since", "the", "sink", "estimates", "the", "aggregate", "based", "on", "the", "lowest-order", "bit", "r", "that", "is", "0", "in", "the", "final", "fused", "synopsis", ",", "a", "compromised", "node", "would", "need", "to", "falsify", "its", "own", "fused", "synopsis", "such", "that", "it", "would", "affect", "the", "value", "of", "r", ".", "It", "can", "accomplish", "this", "quite", "easily", "by", "simply", "inserting", "ones", "in", "one", "or", "more", "bits", "in", "positions", "j", ",", "where", "r", "j", "k", ",", "in", "its", "own", "fused", "synopsis", "which", "it", "broadcasts", "to", "its", "parents", ".", "Note", "that", "the", "compromised", "node", "does", "not", "need", "to", "know", "the", "true", "value", "of", "r", ";", "it", "can", "simply", "set", "some", "higher-order", "bits", "to", "1", "in", "the", "hope", "that", "this", "will", "affect", "the", "value", "of", "r", "computed", "by", "the", "sink", ".", "Since", "the", "synopsis", "fusion", "function", "is", "a", "bitwise", "Boolean", "OR", ",", "the", "resulting", "synopsis", "computed", "at", "the", "sink", "will", "reflect", "the", "contributions", "of", "the", "compromised", "node", ".", "Let", "r", "be", "the", "lowest-order", "bit", "that", "is", "0", "in", "the", "corrupted", "synopsis", ",", "whereas", "r", "is", "the", "lowest-order", "bit", "that", "is", "0", "in", "the", "correct", "synopsis", ".", "Then", "the", "sink", "'s", "estimate", "of", "the", "aggregate", "will", "be", "larger", "than", "the", "correct", "estimate", "by", "a", "factor", "of", "2", "r", "-", "r", ".", "It", "is", "easy", "to", "see", "that", ",", "with", "the", "above", "technique", ",", "the", "compromised", "node", "can", "inject", "a", "large", "amount", "of", "error", "in", "the", "final", "estimate", "of", "the", "sink", ".", "We", "also", "observe", "that", "even", "a", "single", "node", "can", "launch", "this", "attack", "with", "a", "high", "rate", "of", "success", "because", "the", "use", "of", "multi-path", "routing", "in", "the", "synopsis", "diffusion", "approach", "makes", "it", "highly", "likely", "that", "the", "falsified", "synopsis", "will", "be", "propagated", "to", "the", "base", "station", ".", "If", "p", "is", "the", "73", "packet", "loss", "rate", "and", "if", "each", "node", "has", "parents", "in", "the", "aggregation", "hierarchy", "then", "the", "probability", "of", "success", "for", "this", "attack", "is", "-LRB-", "1", "-", "p", "-RRB-", "h", ",", "where", "the", "compromised", "node", "is", "h", "hops", "away", "from", "the", "sink", ".", "As", "an", "example", ",", "if", "p", "=", "0.2", ",", "=", "3", ",", "and", "h", "=", "5", "then", "the", "probability", "that", "the", "attack", "will", "succeed", "is", "96", "%", ".", "On", "the", "other", "hand", ",", "it", "is", "very", "hard", "to", "launch", "an", "attack", "which", "results", "in", "the", "aggregate", "estimated", "at", "the", "sink", "being", "lower", "than", "the", "true", "estimate", ".", "This", "is", "because", "setting", "a", "bit", "in", "the", "falsified", "synopsis", "to", "0", "has", "no", "effect", "if", "there", "is", "another", "node", "X", "that", "contributes", "a", "1", "to", "the", "same", "position", "in", "the", "fused", "synopsis", ".", "To", "make", "this", "attack", "a", "success", "the", "attacker", "has", "to", "compromise", "all", "the", "possible", "paths", "from", "node", "X", "to", "the", "sink", "so", "that", "X", "'s", "1", "can", "not", "reach", "the", "sink", ",", "which", "is", "hard", "to", "achieve", ".", "If", "there", "is", "more", "than", "one", "node", "which", "contributes", "to", "the", "same", "bit", "then", "it", "is", "even", "harder", ".", "As", "an", "example", ",", "in", "Count", "algorithm", ",", "half", "of", "the", "nodes", "are", "likely", "to", "contribute", "to", "the", "leftmost", "bit", "of", "the", "synopsis", ",", "one-fourth", "nodes", "of", "contribute", "to", "the", "second", "bit", ",", "and", "so", "on", ".", "There", "are", "bits", "in", "the", "synopsis", "to", "which", "only", "one", "or", "two", "nodes", "contribute", "but", "it", "is", "very", "hard", "to", "predict", "in", "advance", "which", "nodes", "will", "be", "contributing", "to", "these", "particular", "bits", "if", "the", "sink", "broadcasts", "along", "the", "query", "request", "a", "random", "seed", "to", "be", "used", "with", "the", "hash", "function", "in", "the", "synopsis", "generation", "phase", ".", "Hence", ",", "we", "can", "safely", "assume", "that", "this", "attack", "is", "extremely", "difficult", "to", "launch", ".", "In", "the", "rest", "of", "this", "paper", ",", "we", "restrict", "our", "discussion", "to", "the", "previous", "attack", "where", "the", "goal", "of", "the", "attacker", "is", "only", "to", "increase", "the", "estimate", ".", "In", "a", "sensor", "network", "where", "some", "fraction", "of", "the", "nodes", "are", "potentially", "compromised", ",", "there", "are", "three", "sources", "that", "contribute", "to", "the", "error", "in", "the", "sink", "'s", "estimate", "of", "the", "aggregate", "being", "computed", ":", "-LRB-", "i", "-RRB-", "error", "due", "to", "packet", "losses", ",", "-LRB-", "ii", "-RRB-", "error", "due", "to", "the", "approximation", "algorithm", "used", ",", "e.g.", ",", "Flajolet", "and", "Martin", "'s", "probabilistic", "algorithm", "-LSB-", "5", "-RSB-", ",", "and", "-LRB-", "iii", "-RRB-", "error", "injected", "by", "compromised", "nodes", ".", "The", "first", "two", "types", "of", "error", "are", "already", "addressed", "by", "the", "synposis", "diffusion", "aggregation", "framework", ".", "Our", "paper", "is", "complementary", "to", "this", "previous", "work", ";", "our", "objective", "is", "to", "filter", "out", "the", "third", "type", "of", "error", ".", "In", "particular", ",", "we", "aim", "to", "make", "the", "synopsis", "diffusion", "approach", "resilient", "to", "the", "falsified", "local", "value", "attack", "and", "the", "falsified", "sub-aggregate", "attack", ",", "i.e.", ",", "to", "enable", "the", "sink", "to", "get", "the", "``", "true", "''", "estimate", "of", "the", "aggregate", "being", "computed", "despite", "the", "presence", "of", "compromised", "nodes", "in", "the", "aggregation", "hierarchy", ".", "By", "``", "true", "''", "estimate", "we", "mean", "the", "estimate", "of", "the", "aggregate", "which", "the", "sink", "would", "compute", "if", "there", "were", "no", "compromised", "nodes", ".", "4.2", "Assumptions", "We", "now", "discuss", "our", "assumptions", "with", "respect", "to", "the", "sensor", "network", "and", "the", "adversary", ".", "System", "Assumptions", "We", "assume", "that", "the", "base", "station", "is", "located", "at", "the", "center", "of", "the", "sensor", "network", ",", "and", "nodes", "are", "deployed", "around", "the", "base", "station", ".", "However", ",", "our", "approach", "for", "attack-resilient", "aggregation", "does", "not", "depend", "upon", "this", "assumption", ".", "We", "assume", "that", "sensor", "nodes", "are", "similar", "to", "the", "current", "generation", "of", "sensor", "nodes", ",", "e.g.", ",", "Mica2", "motes", "-LSB-", "13", "-RSB-", ",", "in", "their", "computational", "and", "communication", "capabilities", "and", "power", "resources", ",", "while", "the", "sink", "is", "a", "laptop", "class", "device", "supplied", "with", "long-lasting", "power", ".", "We", "assume", "that", "the", "sink", "has", "an", "estimate", "of", "the", "upper", "bound", "on", "the", "value", "of", "the", "Count", "aggregate", ".", "If", "the", "sink", "does", "not", "have", "any", "further", "knowledge", ",", "the", "upper", "bound", "of", "Count", "can", "be", "set", "to", "the", "total", "number", "of", "nodes", "deployed", ".", "We", "also", "assume", "that", "there", "exists", "an", "upper", "bound", "on", "the", "value", "of", "a", "sensor", "reading", ".", "The", "upper", "bound", "of", "Sum", "can", "be", "conservatively", "set", "to", "be", "equal", "to", "product", "of", "the", "upper", "bound", "of", "Count", "and", "the", "upper", "bound", "of", "a", "sensor", "reading", ".", "Previous", "works", "on", "the", "synopsis", "diffusion", "approach", "-LSB-", "3", ",", "14", "-RSB-", "have", "made", "the", "same", "assumptions", "regarding", "the", "upper", "bounds", "for", "Count", "and", "Sum", ";", "these", "bounds", "provide", "an", "estimate", "of", "the", "length", "of", "the", "synopsis", ".", "Security", "Assumptions", "We", "assume", "that", "the", "sink", "can", "not", "be", "compromised", "and", "it", "uses", "a", "protocol", "such", "as", "Tesla", "-LSB-", "15", "-RSB-", "-RRB-", "to", "authenticate", "its", "broadcast", "messages", ".", "We", "also", "assume", "that", "each", "node", "shares", "a", "pairwise", "key", "with", "the", "sink", ",", "which", "is", "used", "to", "authenticate", "the", "messages", "it", "sends", "to", "the", "sink", ".", "We", "assume", "that", "the", "adversary", "can", "compromise", "sensor", "nodes", "without", "being", "detected", ".", "If", "a", "node", "is", "compromised", ",", "all", "the", "information", "it", "holds", "will", "also", "be", "compromised", ".", "We", "use", "a", "Byzantine", "fault", "model", ",", "where", "the", "adversary", "can", "inject", "malicious", "messages", "into", "the", "network", "through", "the", "compromised", "nodes", ".", "We", "conservatively", "assume", "that", "all", "compromised", "nodes", "can", "collude", ",", "or", "are", "under", "the", "control", "of", "a", "single", "attacker", ".", "Notations", "The", "following", "notations", "are", "used", "in", "the", "description", "of", "our", "attack-resilient", "aggregation", "algorithms", ".", "BS", "refers", "to", "the", "base", "station", ",", "i.e.", ",", "the", "sink", ".", "X", "is", "the", "identifier", "of", "a", "the", "sensor", "node", "whereas", "M", "represents", "a", "compromised", "node", ".", "K", "X", "is", "the", "pair-wise", "key", "X", "shares", "with", "the", "sink", ".", "m1", "|", "m2", "denotes", "the", "concatenation", "of", "two", "message", "fields", "m1", "and", "m2", ".", "MAC", "-LRB-", "K", ",", "m", "-RRB-", "is", "the", "message", "authentication", "code", "-LRB-", "MAC", "-RRB-", "of", "the", "message", "m", "generated", "using", "the", "key", "K.", "X", "Y", ":", "m", "denotes", "a", "one-hop", "delivery", "of", "message", "m", "from", "X", "to", "Y", ",", "while", "X", ":", "m", "denotes", "that", "X", "broadcasts", "message", "m", "to", "all", "of", "its", "one-hop", "neighbors", ",", "and", "X", ":", "m", "denotes", "that", "X", "broadcasts", "message", "m", "to", "all", "nodes", "in", "the", "network", ".", "In", "this", "section", ",", "we", "present", "an", "attack-resilient", "approach", "for", "computing", "the", "Count", "and", "Sum", "aggregates", ".", "In", "this", "approach", "we", "assume", "that", "the", "BS", "has", "an", "estimate", "of", "the", "lower", "bound", "and", "the", "upper", "bound", "of", "the", "aggregates", ".", "We", "will", "see", "that", "this", "approach", "is", "scalable", "only", "if", "the", "ratio", "of", "the", "upper", "bound", "to", "the", "lower", "bound", "is", "small", ".", "Despite", "this", "limitation", ",", "we", "discuss", "this", "approach", "in", "detail", "because", "it", "provides", "the", "background", "and", "motivation", "for", "our", "extended", "approach", ",", "which", "is", "discussed", "in", "Section", "6", ".", "We", "first", "present", "the", "main", "idea", "underlying", "the", "basic", "approach", "and", "then", "present", "the", "detailed", "protocol", "for", "securing", "Count", "and", "Sum", ".", "5.1", "The", "Main", "Idea", "In", "our", "approach", ",", "nodes", "execute", "the", "synopsis", "diffusion", "aggregation", "algorithm", "as", "specified", "in", "-LSB-", "3", ",", "14", "-RSB-", ".", "However", ",", "a", "subset", "of", "the", "nodes", "include", "along", "with", "their", "synopses", "a", "message", "authentication", "code", "-LRB-", "MAC", "-RRB-", "that", "can", "be", "used", "by", "the", "sink", "to", "verify", "the", "validity", "of", "their", "contribution", "to", "the", "aggregate", "function", ".", "The", "key", "observations", "behind", "the", "design", "of", "our", "approach", "are", "that", "In", "order", "to", "derive", "the", "correct", "estimate", "from", "the", "final", "synopsis", "-LRB-", "say", "S", "-RRB-", "computed", "at", "the", "sink", ",", "we", "need", "only", "to", "figure", "out", "the", "correct", "lowest", "order", "bit", "-LRB-", "say", "r", "-RRB-", "in", "S", "that", "is", "0", ".", "The", "number", "of", "nodes", "contributing", "a", "1", "to", "bit", "j", "decreases", "exponentially", "as", "we", "move", "from", "the", "lowest", "order", "bit", "-LRB-", "j", "=", "1", "-RRB-", "to", "higher", "order", "bits", "of", "the", "synopsis", ".", "For", "example", ",", "in", "the", "case", "74", "of", "Count", ",", "on", "average", ",", "half", "the", "nodes", "in", "the", "network", "will", "contribute", "2", "to", "the", "leftmost", "bit", "of", "the", "synopsis", ",", "one-fourth", "of", "the", "nodes", "contribute", "to", "the", "second", "bit", "of", "the", "synposis", ",", "and", "so", "on", ".", "Thus", ",", "we", "expect", "that", "only", "a", "small", "number", "of", "nodes", "will", "contribute", "to", "the", "bits", "around", "the", "expected", "value", "of", "r.", "Each", "such", "node", "includes", "along", "with", "its", "response", "to", "an", "aggregation", "query", "a", "MAC", "computed", "using", "a", "pairwise", "key", "shared", "exclusively", "with", "sink", ".", "We", "demonstrate", "that", "these", "MACs", "enable", "the", "sink", "to", "filter", "out", "the", "contributions", "of", "the", "falsified", "sub-aggregates", "injected", "by", "the", "compromised", "nodes", "to", "the", "final", "aggregate", ".", "For", "our", "scheme", "to", "work", ",", "two", "issues", "need", "to", "be", "addressed", ".", "First", ",", "since", "the", "the", "value", "of", "r", "is", "not", "known", "before", "the", "execution", "of", "the", "query", ",", "we", "need", "to", "specify", "a", "criterion", "whereby", "a", "node", "can", "determine", "if", "it", "needs", "to", "include", "a", "MAC", "along", "with", "its", "synopsis", ".", "Second", ",", "this", "criterion", "should", "be", "designed", "so", "that", "the", "number", "of", "such", "nodes", "who", "include", "a", "MAC", "is", "minimized", ".", "In", "our", "basic", "approach", ",", "we", "assume", "that", "the", "BS", "has", "an", "estimate", "of", "the", "lower", "bound", "and", "the", "upper", "bound", "of", "Count", "which", "are", "denoted", "by", "l", "c", "and", "u", "c", "respectively", ".", "Based", "upon", "these", "bounds", ",", "the", "BS", "knows", "that", "bit", "r", "will", "lie", "between", "a", "and", "b", ",", "which", "are", "the", "bit", "positions", "in", "the", "synopsis", "S", "corresponding", "to", "l", "c", "and", "u", "c", "respectively", ",", "i.e.", ",", "a", "=", "log", "2", "-LRB-", "l", "c", "-RRB-", "and", "b", "=", "log", "2", "-LRB-", "u", "c", "-RRB-", "-LRB-", "by", "Property", "2", "in", "Section", "2", "-RRB-", ".", "Thus", ",", "there", "is", "no", "need", "for", "the", "BS", "to", "verify", "the", "bits", "to", "the", "left", "of", "a", ";", "only", "nodes", "contributing", "to", "bits", "in", "the", "range", "a", "to", "b", "need", "to", "prove", "to", "the", "BS", "that", "their", "contribution", "to", "the", "synopsis", "S", "is", "valid", ".", "We", "refer", "to", "the", "collection", "of", "bits", "in", "the", "range", "a", "to", "b", "in", "synopsis", "S", "as", "the", "synopsis-edge", "as", "shown", "in", "Figure", "2", ".", "It", "is", "easy", "to", "see", "that", "the", "length", "of", "the", "synopsis-edge", "is", "-LRB-", "log", "2", "-LRB-", "u", "c", "l", "c", "-RRB-", "+1", "-RRB-", "bits", ".", "If", "we", "denote", "the", "number", "of", "nodes", "contributing", "to", "the", "synopsis-edge", "by", ",", "then", ",", "by", "Property", "4", "in", "Section", "2", ",", "-LRB-", "u", "c", "2", "a", "+", "...", "+", "u", "c", "2", "b", "-RRB-", "1", "-LRB-", "2u", "c", "l", "c", "-1", "-RRB-", ".", "The", "upper", "bound", "for", "Count", "-LRB-", "u", "c", "-RRB-", "can", "be", "set", "to", "the", "total", "number", "of", "nodes", "deployed", ".", "The", "lower", "bound", "for", "Count", "-LRB-", "l", "c", "-RRB-", "can", "be", "guessed", "depending", "on", "the", "the", "energy", "reserve", "of", "the", "sensor", "nodes", "and", "rate", "of", "energy", "expenditure", ".", "As", "an", "example", ",", "if", "2000", "nodes", "are", "deployed", "then", "u", "c", "=", "2000", "and", "l", "c", "=", "1000", "may", "be", "a", "safe", "estimate", "at", "the", "time", "of", "the", "Count", "query", "'s", "execution", ".", "For", "this", "example", ",", "the", "length", "of", "the", "synopsis-edge", "is", "u", "c", "l", "c", "=", "2", "and", "the", "expected", "number", "of", "nodes", "contributing", "to", "synopsis-edge", "is", "less", "than", "3.87", ".", "synopsis-edge", "corresponds", "to", "Lower", "Bound", "corresponds", "to", "Upper", "Bound", "Figure", "2", ":", "Securing", "Count", "synopsis", ".", "To", "securely", "compute", "Count", "synopsis", ",", "the", "base", "station", "needs", "to", "verify", "only", "bits", "in", "the", "synopsis-edge", ".", "For", "the", "ease", "of", "presentation", ",", "we", "present", "the", "basic", "approach", "assuming", "that", "only", "one", "synopsis", "is", "computed", ".", "We", "can", "easily", "extend", "this", "approach", "to", "compute", "m", "synopses", "in", "parallel", "as", "in", "algorithm", "PCSA", ".", "5.2", "Securing", "Count", "To", "compute", "the", "Count", "aggregate", "securely", ",", "we", "extend", "the", "original", "Count", "algorithm", "discussed", "in", "Section", "2", "as", "follows", ".", "For", "the", "sake", "2", "For", "convenience", ",", "henceforth", ",", "we", "say", "that", "a", "node", "``", "contributes", "''", "to", "a", "position", "j", "in", "the", "synopsis", "S", "if", "bit", "j", "in", "its", "local", "synopsis", "is", "1", ".", "of", "completeness", ",", "we", "first", "briefly", "describe", "the", "query", "dissemination", "phase", ",", "and", "then", "we", "present", "the", "aggregation", "procedure", "in", "detail", ".", "In", "the", "query", "dissemination", "phase", ",", "the", "BS", "broadcasts", "the", "name", "of", "the", "aggregation", "function", ",", "a", "random", "number", "-LRB-", "Seed", "-RRB-", "and", "the", "bit", "positions", "of", "the", "start", "and", "the", "end", "of", "the", "synopsis-edge", ",", "which", "are", "specified", "by", "a", "and", "b", "respectively", ".", "Each", "node", "will", "use", "the", "random", "number", ",", "Seed", ",", "as", "an", "input", "to", "the", "hash", "function", "in", "the", "synopsis", "generation", "procedure", ".", "In", "more", "concrete", "terms", ",", "a", "query", "packet", "that", "the", "BS", "broadcasts", "is", "as", "follows", ":", "BS", ":", "F", "agg", ",", "Seed", ",", "a", ",", "b", ",", "s", ",", "t", ",", "h", "where", "F", "agg", "is", "the", "name", "of", "the", "aggregation", "function", "-LRB-", "i.e.", "`", "Count", "'", "-RRB-", ",", "s", "denotes", "the", "time", "when", "the", "aggregation", "phase", "will", "start", ",", "t", "represents", "the", "duration", "of", "one", "round", "i.e.", "t", "=", "T", "h", ",", "where", "h", "is", "the", "total", "number", "of", "hops", "and", "T", "is", "the", "duration", "of", "the", "aggregation", "phase", "-LRB-", "also", "called", "epoch", "-RRB-", ".", "Note", "that", ",", "as", "in", "the", "original", "Count", "algorithm", "discussed", "in", "Section", "2", ",", "the", "epoch", "is", "sub-divided", "into", "a", "series", "of", "rounds", ",", "one", "for", "each", "hop", ",", "starting", "from", "the", "farthest", "hop", ".", "Tesla", "-LSB-", "15", "-RSB-", "can", "be", "used", "for", "authenticating", "the", "broadcast", "packet", ".", "In", "the", "aggregation", "phase", ",", "each", "node", "executes", "the", "synopsis", "generation", "function", "SG", "-LRB-", "-RRB-", "and", "the", "synopsis", "fusion", "function", "SF", "-LRB-", "-RRB-", "for", "Count", "as", "discussed", "in", "Section", "2", ".", "In", "addition", ",", "each", "node", "checks", "whether", "it", "contributes", "to", "the", "synopsis-edge", ",", "and", "if", "so", ",", "it", "generates", "a", "MAC", "and", "forwards", "the", "MAC", "along", "with", "its", "fused", "synopsis", ".", "Specifically", ",", "if", "node", "X", "contributes", "to", "bit", "i", "in", "the", "synopsis-edge", ",", "it", "generates", "a", "MAC", ",", "M", "=", "MAC", "-LRB-", "K", "X", ",", "m", "-RRB-", "over", "the", "message", "m", "whose", "format", "is", "-LSB-", "X", "|", "i", "|", "Seed", "-RSB-", ",", "where", "Seed", "is", "the", "random", "number", "which", "was", "dissem-inated", "in", "the", "query", "distribution", "phase", ".", "Each", "node", "X", "forwards", "to", "its", "parents", "its", "fused", "synopsis", "along", "with", "the", "set", "of", "MACs", "-LRB-", "M", "-RRB-", "it", "received", "from", "its", "child", "nodes", "and", "its", "own", "MAC", "if", "it", "generated", "one", ".", "The", "format", "of", "the", "message", "a", "node", "X", "forwards", "to", "its", "parents", "is", "as", "follows", ":", "X", ":", "S", "l", "|", "M", ",", "where", "S", "l", "is", "the", "fused", "synopsis", "computed", "by", "X", ".", "If", "the", "message", "does", "not", "fit", "into", "one", "packet", ",", "node", "X", "breaks", "it", "into", "several", "packets", "and", "forwards", "them", ".", "In", "Appendix", "A", ",", "we", "formally", "describe", "the", "algorithm", "-LRB-", "SecureCount", "-RRB-", "executed", "by", "each", "node", "in", "response", "to", "an", "aggregation", "query", ".", "After", "the", "BS", "receives", "the", "MACs", ",", "it", "checks", "their", "validity", ".", "In", "particular", ",", "for", "each", "message", "and", "MAC", "pair", "-LSB-", "m", "|", "MAC", "-LRB-", "K", "X", ",", "m", "-RRB-", "-RSB-", "where", "m", "is", "-LSB-", "X", "|", "i", "|", "Seed", "-RSB-", ",", "the", "BS", "executes", "the", "synopsis", "generation", "function", "SG", "-LRB-", "-RRB-", "of", "X", "and", "verifies", "whether", "node", "X", "really", "contributes", "to", "bit", "i", "in", "the", "synopsis-edge", ",", "and", "then", "checks", "whether", "the", "attached", "MAC", "is", "valid", ".", "If", "any", "of", "these", "tests", "fail", ",", "the", "corresponding", "MAC", "is", "discarded", ".", "After", "this", "verification", "step", ",", "the", "BS", "checks", "whether", "it", "has", "received", "at", "least", "one", "valid", "MAC", "for", "each", "bit", "in", "the", "synopsis-edge", ".", "The", "bits", "in", "the", "synopsis-edge", "for", "which", "the", "BS", "has", "not", "received", "a", "valid", "MAC", "are", "reset", "to", "0", ".", "The", "bits", "at", "positions", "to", "the", "left", "of", "the", "synopsis-edge", "are", "set", "to", "1", ".", "Finally", ",", "the", "BS", "computes", "the", "Count", "using", "the", "synopsis", "evaluation", "function", "SE", "-LRB-", "-RRB-", ".", "Security", "Analysis", "The", "security", "of", "our", "approach", "follows", "from", "two", "facts", ":", "The", "sink", "can", "independently", "verify", "the", "output", "of", "SG", "-LRB-", "-RRB-", "for", "a", "particular", "node", "X", ".", "This", "is", "because", "the", "output", "of", "SG", "-LRB-", "-RRB-", "depends", "only", "upon", "the", "node", "id", "X", ",", "and", "the", "random", "seed", "included", "in", "the", "query", "message", ".", "Each", "bit", "that", "is", "set", "to", "1", "in", "the", "synopsis", "edge", "has", "an", "associated", "MAC", "that", "can", "be", "verified", "by", "the", "sink", ".", "This", "MAC", "is", "computed", "using", "a", "pairwise", "key", "that", "is", "known", "only", "to", "the", "contributing", "node", "and", "the", "sink", ",", "thus", "the", "MAC", "can", "not", "be", "fabricated", "by", "an", "attacker", "-LRB-", "as", "long", "as", "it", "is", "reasonably", "long", ".", "-RRB-", "75", "Although", "a", "compromised", "node", "can", "falsely", "set", "some", "bits", "in", "its", "fused", "synopsis", "and", "forward", "false", "MACs", "corresponding", "to", "those", "bits", ",", "the", "sink", "will", "be", "able", "to", "discard", "any", "false", "MACs", ".", "This", "implies", "that", "the", "attacker", "can", "not", "falsely", "increase", "the", "Count", ".", "On", "the", "other", "hand", ",", "the", "attacker", "may", "attempt", "to", "decrease", "the", "Count", "by", "dropping", "a", "genuine", "MAC", "-LRB-", "or", "by", "corrupting", "a", "genuine", "MAC", "-RRB-", "sent", "by", "a", "contributing", "node", ",", "but", "the", "genuine", "MAC", "is", "likely", "to", "reach", "BS", "via", "an", "alternate", "path", ".", "If", "BS", "receives", "at", "least", "one", "valid", "MAC", "for", "each", "1", "bit", "in", "the", "synopsis-edge", ",", "then", "BS", "obtains", "the", "true", "estimate", "of", "Count", "as", "discussed", "below", ".", "As", "discussed", "in", "Section", "2", ",", "the", "synopsis", "diffusion", "approach", "uses", "a", "multi-path", "routing", "scheme", "to", "reduce", "the", "aggregation", "error", "due", "to", "packet", "losses", "resulting", "from", "node", "and", "link", "failures", ".", "The", "effect", "of", "packets", "being", "dropped", "by", "compromised", "nodes", "is", "simply", "to", "increase", "the", "overall", "packet", "loss", "rate", ",", "and", "this", "can", "be", "countered", "by", "an", "appropriate", "choice", "of", ",", "the", "number", "of", "parents", "of", "a", "node", "in", "the", "synopsis", "diffusion", "ring-based", "aggregation", "hierarchy", ".", "Specifically", ",", "if", "each", "node", "has", "more", "than", "parents", ",", "the", "total", "number", "of", "rings", "in", "the", "rings", "topology", "is", "h", ",", "and", "if", "the", "probability", "of", "a", "node", "being", "compromised", "is", "p", "then", ",", "on", "average", ",", "a", "contributing", "node", "'s", "MAC", "will", "reach", "the", "BS", "with", "probability", "q", ",", "where", "q", "1h", "h", "j", "=", "1", "-LRB-", "1", "-", "p", "-RRB-", "j", "Here", "we", "have", "assumed", "that", "the", "contributing", "nodes", "are", "uniformly", "distributed", "over", "the", "rings", "in", "the", "hierarchy", ".", "As", "an", "example", ",", "if", "p", "=", "0", ".05", ",", "=", "3", ",", "and", "h", "=", "10", "then", "q", "is", "greater", "than", "0.999", ",", "i.e.", ",", "the", "impact", "of", "the", "compromised", "nodes", "on", "the", "communication", "error", "is", "negligible", ".", "We", "also", "note", "that", "while", "deriving", "q", "we", "assumed", "that", "there", "is", "only", "one", "node", "which", "contributes", "to", "a", "particular", "bit", "in", "the", "synopsis", ".", "In", "reality", ",", "the", "expected", "number", "of", "nodes", "contributing", "to", "a", "bit", "increases", "exponentially", "as", "we", "move", "from", "the", "Rth", "bit", ",", "where", "R", "is", "the", "the", "length", "of", "the", "prefix", "of", "all", "ones", "in", "the", "synopsis", "S", ",", "to", "the", "lower-order", "bits", ",", "thereby", "increasing", "the", "probability", "that", "at", "least", "one", "MAC", "corresponding", "to", "a", "bit", "position", "reaches", "the", "sink", ".", "Computation", "and", "Communication", "Overhead", "Each", "contributing", "node", "computes", "one", "MAC", ".", "The", "expected", "number", "of", "contributing", "nodes", "is", "=", "1", "-LRB-", "2u", "c", "l", "c", "-1", "-RRB-", ",", "which", "is", "independent", "of", "network", "size", ".", "Thus", ",", "only", "a", "subset", "of", "nodes", "will", "incur", "any", "computational", "overhead", ".", "With", "respect", "to", "communication", "overhead", ",", "the", "maximum", "number", "of", "MACs", "that", "any", "node", "will", "need", "to", "forward", "is", ".", "Thus", "this", "approach", "is", "scalable", ",", "and", "can", "be", "used", "in", "large-scale", "sensor", "networks", "as", "long", "as", "the", "ratio", "u", "c", "/", "l", "c", "is", "reasonably", "small", ".", "5.3", "Securing", "SUM", "We", "can", "extend", "the", "approach", "used", "for", "making", "the", "Count", "aggregate", "resilient", "to", "compromised", "nodes", "to", "the", "Sum", "aggregate", ".", "To", "derive", "the", "synopsis-edge", "for", "Sum", "we", "need", "to", "assume", "upper", "and", "lower", "bounds", "for", "the", "value", "of", "a", "sensor", "reading", "in", "addition", "to", "the", "upper", "and", "lower", "bounds", "for", "the", "number", "of", "sensor", "nodes", ".", "A", "node", "X", "sends", "to", "the", "BS", "a", "MAC", ",", "M", "=", "MAC", "-LRB-", "K", "X", ",", "m", "-RRB-", ",", "only", "if", "it", "contributes", "to", "the", "synopsis-edge", "as", "in", "SecureCount", ".", "The", "format", "of", "the", "message", "m", "sent", "by", "a", "node", "is", "-LSB-", "X", "|", "A", "|", "Seed", "|", "v", "-RSB-", ",", "where", "X", "is", "the", "node", "id", ",", "Seed", "is", "the", "random", "seed", "included", "in", "the", "broadcast", "query", ",", "A", "represents", "the", "collection", "of", "bits", "in", "the", "synopsis", "to", "which", "X", "contributes", ",", "and", "v", "is", "X", "'s", "sensed", "value", ".", "Security", "Analysis", "In", "the", "case", "of", "the", "Sum", "aggregate", ",", "the", "attacker", "could", "falsely", "set", "some", "bits", "in", "its", "synopsis", "not", "only", "by", "using", "a", "false", "node", "id", "but", "also", "using", "a", "false", "sensor", "reading", ".", "Although", "MACs", "from", "the", "contributing", "nodes", "enable", "the", "BS", "to", "verify", "the", "node", "Ids", ",", "the", "BS", "can", "not", "verify", "the", "sensed", "value", "of", "a", "node", ".", "A", "compromised", "node", "can", "claim", "to", "have", "a", "large", "sensed", "value", "close", "to", "the", "upper", "bound", "u", "v", "to", "increase", "its", "chance", "of", "being", "able", "to", "contribute", "to", "the", "synopsis-edge", ".", "The", "following", "theorem", "-LRB-", "whose", "proof", "can", "be", "found", "in", "Appendix", "B", "-RRB-", "shows", "that", "this", "attack", "'s", "impact", "is", "limited", ".", "Theorem", "1", ".", "Let", "be", "the", "number", "of", "compromised", "nodes", "in", "a", "network", "of", "n", "nodes", ".", "Let", "u", "v", "and", "a", "v", "denote", "the", "upper", "bound", "and", "the", "average", "value", "of", "the", "sensor", "reading", "respectively", ".", "Let", "S", "be", "the", "final", "synopsis", "computed", "at", "the", "sink", "and", "let", "R", "be", "the", "length", "of", "the", "prefix", "of", "all", "ones", "in", "S.", "Let", "s", "denote", "the", "value", "of", "the", "Sum", "aggregate", ".", "If", "each", "compromised", "node", "claims", "that", "its", "sensed", "value", "is", "equal", "to", "the", "upper", "bound", "u", "v", ",", "and", "if", "-LRB-", "u", "v", "-RRB-", "<", "s", ",", "then", "the", "probability", "Pr", "-LSB-", "S", "-LSB-", "R", "+", "1", "-RSB-", "=", "1", "-RSB-", "is", "proportional", "to", "the", "product", "of", "the", "fraction", "of", "compromised", "nodes", "in", "the", "network", ",", "/", "n.", "Note", "that", "if", "the", "compromised", "node", "contributes", "to", "the", "-LRB-", "R", "+", "1", "-RRB-", "th", "bit", "BS", "'s", "estimate", "of", "Sum", "doubles", ".", "Thus", ",", "the", "theorem", "shows", "that", "for", "a", "large", "network", ",", "as", "long", "the", "fraction", "of", "compromised", "nodes", "grows", "sub-linearly", ",", "the", "probability", "of", "this", "attack", "succeeding", "is", "small", ".", "For", "smaller", "networks", ",", "the", "probability", "of", "this", "attack", "succeeding", "depends", "upon", "the", "ratio", "/", "n", "and", "on", "the", "ratio", "u", "v", "/", "a", "v", ".", "As", "an", "example", ",", "if", "n", "=", "1000", ",", "=", "25", ",", "and", "u", "v", "/", "a", "v", "=", "4", ",", "then", "Pr", "-LSB-", "S", "-LSB-", "R", "+", "1", "-RSB-", "=", "1", "-RSB-", "=", "0.064", ".", "The", "impact", "of", "the", "attack", "is", "further", "reduced", "if", "we", "employ", "the", "PCSA", "algorithm", "in", "which", "m", "independent", "synopses", "are", "computed", "and", "the", "final", "estimator", "R", "is", "calculated", "by", "averaging", "these", "m", "esti-mators", ".", "As", "an", "example", ",", "to", "add", "an", "error", "of", "40", "%", "to", "the", "final", "Sum", ",", "the", "attacker", "needs", "to", "set", "the", "R", "+", "1-th", "bit", "in", "at", "least", "m", "2", "synopses", ".", "In", "the", "example", "above", "where", "Pr", "-LSB-", "S", "-LSB-", "R", "+", "1", "-RSB-", "=", "1", "-RSB-", "is", "0.064", ",", "this", "probability", "is", "close", "to", "zero", "when", "m", "is", "20", ".", "This", "example", "illustrates", "that", "this", "attack", "'s", "impact", "is", "limited", "when", "-LRB-", "u", "v", "n", "a", "v", "-RRB-", "is", "small", ".", "On", "the", "other", "hand", ",", "when", "-LRB-", "u", "v", "n", "a", "v", "-RRB-", "is", "large", ",", "we", "can", "not", "neglect", "the", "possibility", "that", "the", "attacker", "will", "succeed", "in", "injecting", "a", "significant", "error", "to", "the", "Sum", "computed", "at", "the", "sink", ".", "To", "address", "this", "scenario", ",", "we", "can", "use", "a", "scheme", "in", "which", "a", "node", "that", "contributes", "to", "the", "synopsis-edge", "needs", "an", "endorsement", "from", "at", "least", "neighbors", "attesting", "to", "the", "validity", "of", "its", "sensed", "value", ".", "We", "assume", "that", "the", "sensed", "values", "of", "one-hop", "neighbors", "are", "correlated", "so", "that", "one", "node", "can", "verify", "the", "reading", "of", "its", "neighbors", ".", "We", "assume", "that", "there", "are", "fewer", "than", "compromised", "nodes", "among", "the", "one", "hop", "neighbors", "of", "any", "node", ".", "Each", "contributing", "node", "X", "collects", "at", "least", "endorsements", "from", "its", "one-hop", "neighbors", "in", "the", "form", "of", "a", "MAC", "computed", "over", "the", "sensor", "reading", "using", "the", "pairwise", "key", "that", "the", "neighbor", "shares", "with", "the", "sink", ".", "Then", "X", "computes", "an", "XMAC", "-LSB-", "1", "-RSB-", "by", "XORing", "the", "collected", "MACs", "and", "X", "'s", "own", "MAC", ",", "and", "sends", "the", "XMAC", "to", "the", "BS", ".", "-LRB-", "Zhu", "et", "al.", "-LSB-", "25", "-RSB-", "use", "an", "identical", "scheme", "to", "reduce", "the", "total", "size", "of", "the", "MACs", ".", "-RRB-", "We", "also", "assume", "that", "BS", "has", "the", "knowledge", "to", "verify", "if", "a", "set", "of", "nodes", "are", "one-hop", "neighbors", ",", "which", "prevents", "the", "collusion", "attack", ".", "-LRB-", "We", "refer", "to", "this", "scheme", "as", "the", "XMAC-based", "scheme", ".", "-RRB-", "Computation", "and", "Communication", "Overhead", "The", "number", "of", "contributing", "nodes", "is", "less", "than", "1", "-LRB-", "2u", "s", "l", "s", "-1", "-RRB-", ",", "where", "u", "s", "and", "l", "s", "are", "the", "upper", "bound", "and", "lower", "bound", "of", "Sum", ".", "As", "in", "the", "case", "of", "Count", ",", "is", "independent", "of", "the", "network", "size", "and", "thus", "this", "approach", "is", "scalable", ".", "With", "respect", "to", "worst", "case", "communication", "overhead", ",", "a", "node", "will", "need", "to", "forward", "at", "most", "MACs", ".", "When", "the", "ratio", "-LRB-", "-RRB-", "of", "the", "upper", "bound", "of", "the", "aggregate", "to", "the", "lower", "bound", "is", "high", ",", "the", "basic", "approach", "described", "in", "the", "previous", "section", "is", "not", "scalable", "because", "the", "worst", "case", "communication", "cost", "incurred", "by", "a", "node", "is", "proportional", "to", ".", "In", "this", "section", ",", "we", "describe", "an", "approach", "which", "has", "lower", "communication", "costs", "in", "comparison", "to", "the", "basic", "approach", "at", "the", "expense", "of", "greater", "latency", ".", "76", "6.1", "Protocol", "Overview", "Our", "extended", "approach", "is", "based", "on", "the", "observation", "that", "the", "expected", "number", "of", "nodes", "that", "contribute", "to", "bits", "i", ",", "where", "R", "<", "i", "k", "in", "the", "synopsis", "-LRB-", "k", "is", "the", "length", "of", "the", "synopsis", "-RRB-", "is", "very", "small", ".", "In", "fact", ",", "using", "Property", "2", "and", "Property", "4", "from", "Section", "2", ",", "we", "can", "show", "that", "expected", "number", "of", "nodes", "contributing", "to", "the", "Rth", "and", "higher-order", "bits", "of", "S", "is", "less", "than", "2", "/", "2.58", ".", "We", "use", "a", "sliding-window", "based", "approach", "in", "which", "the", "aggregation", "phase", "is", "divided", "into", "multiple", "epochs", "3", ".", "Starting", "at", "the", "right-most", "bit", "k", ",", "we", "proceed", "from", "right", "to", "left", "within", "the", "synopsis", "S", "using", "a", "bit", "window", "of", "w", "bits", ".", "In", "each", "epoch", ",", "only", "the", "nodes", "that", "contribute", "a", "1", "to", "the", "bits", "in", "S", "corresponding", "to", "the", "current", "position", "of", "the", "window", ",", "send", "MACs", "to", "the", "sink", "that", "can", "be", "used", "to", "verify", "their", "contribution", "to", "S", ".", "In", "other", "words", ",", "in", "the", "first", "epoch", ",", "only", "nodes", "that", "contribute", "a", "1", "to", "bits", "k", "to", "k", "-", "w", "+1", "respond", "to", "the", "query", ".", "In", "epoch", "two", ",", "nodes", "that", "contribute", "to", "bits", "between", "k", "-", "w", "and", "k", "-", "2w", "+", "1", "respond", ",", "and", "so", "on", ".", "The", "algorithm", "terminates", "when", "the", "querying", "node", "has", "determined", "that", "the", "remaining", "bits", "of", "S", "to", "the", "left", "of", "the", "current", "window", "are", "likely", "to", "be", "1", "with", "high", "probability", ".", "The", "design", "of", "this", "termination", "criterion", "is", "the", "main", "challenge", "in", "using", "this", "approach", ";", "we", "discuss", "the", "termination", "criterion", "and", "its", "analytical", "underpinnings", "in", "detail", ".", "Once", "the", "querying", "node", "determines", "that", "the", "algorithm", "can", "terminate", "it", "broadcasts", "a", "STOP", "message", "to", "the", "network", "to", "announce", "the", "end", "of", "the", "iterative", "aggregation", "procedure", ".", "6.2", "Protocol", "Operation", "The", "operation", "of", "the", "protocol", "is", "similar", "to", "that", "of", "the", "protocol", "used", "in", "the", "basic", "approach", "with", "some", "minor", "differences", "as", "follows", ".", "The", "query", "message", "broadcast", "to", "the", "network", "includes", "the", "window", "size", "w", "in", "addition", "to", "the", "other", "parameters", ".", "As", "in", "the", "original", "synopsis", "diffusion", "algorithm", "-LSB-", "3", ",", "14", "-RSB-", ",", "we", "assume", "that", "the", "time", "is", "syn-chronized", "among", "BS", "and", "the", "sensor", "nodes", ".", "Each", "node", "computes", "the", "start", "and", "end", "time", "of", "the", "current", "epoch", ",", "based", "on", "the", "window", "w.", "Further", ",", "although", "the", "MACs", "generated", "by", "nodes", "are", "sent", "to", "the", "BS", "over", "the", "course", "of", "multiple", "epochs", ",", "the", "fused", "synopsis", "computed", "by", "each", "node", "is", "forwarded", "to", "its", "parent", "in", "the", "first", "epoch", ".", "Thus", ",", "the", "BS", "can", "compute", "the", "aggregate", "at", "the", "end", "of", "the", "first", "epoch", "itself", ",", "although", "this", "aggregate", "may", "be", "erroneous", "in", "the", "presence", "of", "compromised", "nodes", ".", "6.3", "Termination", "Criterion", "The", "goal", "of", "our", "algorithm", "is", "to", "find", "r", ",", "the", "lowest-order", "bit", "in", "S", "that", "is", "0", ".", "Further", ",", "recall", "that", "S", "is", "of", "the", "form", "1", "r", "-1", "0", ",", "where", "the", "bits", "at", "positions", "i", ">", "r", "are", "highly", "likely", "to", "be", "0", ".", "Thus", ",", "the", "intuition", "behind", "our", "termination", "criterion", "is", "simple", ":", "as", "we", "examine", "the", "bits", "of", "S", "moving", "from", "right", "to", "left", ",", "if", "we", "observe", "two", "consecutive", "1", "'s", ",", "i.e.", ",", "if", "we", "observe", "the", "string", "``", "110", "''", ",", "it", "is", "highly", "likely", "that", "the", "0", "is", "at", "the", "rth", "position", ".", "In", "fact", ",", "we", "can", "show", "analytically", "that", "the", "probability", "of", "this", "event", "is", "greater", "than", "90", "%", "which", "follows", "from", "the", "following", "theorem", ".", "Theorem", "2", ".", "Let", "F", "denote", "the", "event", "that", "the", "string", "``", "0s", "l", "11", "''", "where", "s", "l", "represents", "any", "string", "of", "length", "l", ",", "l", "0", "appears", "in", "a", "synopsis", "S", ".", "The", "probability", "of", "the", "event", "F", "is", "less", "than", "10", "%", ".", "-LRB-", "The", "proof", "is", "given", "in", "the", "appendix", ".", "-RRB-", "Further", ",", "we", "can", "take", "advantage", "of", "the", "fact", "that", "most", "applications", "will", "use", "the", "PCSA", "algorithm", "to", "reduce", "the", "approximation", "error", "in", "estimating", "R", "=", "r", "-1", ".", "Recall", "that", "in", "the", "PCSA", "algorithm", "m", "synopses", "are", "computed", "in", "parallel", ".", "Let", "R", "i", "denote", "the", "value", "of", "R", "estimated", "from", "the", "ith", "synopsis", ".", "Then", ",", "according", "to", "the", "PCSA", "algorithm", ",", "3", "The", "original", "synopsis", "diffusion", "algorithm", "-LSB-", "3", ",", "14", "-RSB-", "takes", "one", "epoch", "to", "complete", ".", "the", "the", "expected", "value", "of", "the", "random", "variable", "R", "is", "estimated", "by", "averaging", "the", "individual", "values", "of", "R", "for", "each", "synopsis", ",", "i.e.", ",", "E", "-LSB-", "R", "-RSB-", "=", "R", "=", "i", "=", "m", "i", "=", "1", "R", "i", ".", "Although", "there", "is", "likely", "to", "be", "some", "variation", "among", "the", "R", "i", ",", "we", "know", "from", "Property", "3", "in", "Section", "2", "that", "the", "variation", "is", "expected", "to", "correspond", "to", "two", "bit", "position", "both", "to", "the", "left", "and", "the", "right", "of", "the", "true", "value", "of", "R", ".", "This", "suggests", "that", "there", "is", "a", "high", "degree", "of", "correlation", "between", "the", "R", "i", "for", "different", "synopses", ".", "Thus", ",", "in", "our", "window-based", "approach", ",", "we", "can", "increase", "our", "confidence", "that", "we", "have", "found", "the", "correct", "position", "of", "R", ",", "if", "we", "observe", "the", "bit", "pattern", "``", "11", "''", "in", "multiple", "synopses", "among", "the", "m", "that", "are", "being", "computed", "in", "parallel", ".", "Based", "on", "this", "intuition", ",", "our", "termination", "criterion", "consists", "of", "checking", "whether", "we", "have", "observed", "the", "string", "``", "11", "''", "in", "at", "least", "m", "out", "of", "the", "m", "synopses", ".", "1", "1", "1", "1", "1", "1", "0", "0", "1st", "Synopsis", "2nd", "Synopsis", "m-th", "Synopsis", "3rd", "Synopsis", "1st", "position", "of", "the", "window", "the", "aggregation", "after", "this", "window", "process", "stops", "the", "termination-test", "passes", "in", "this", "window", "1", "1", "1", "1", "1", "1", "1", "0", "Figure", "3", ":", "Each", "synopsis", "is", "divided", "into", "several", "windows", "of", "width", "w", "=", "2", "bits", ".", "After", "the", "termination", "criterion", "is", "satisfied", ",", "the", "base", "station", "broadcasts", "a", "STOP", "message", "and", "the", "aggregation", "phase", "stops", "after", "the", "next", "epoch", ".", "In", "each", "epoch", ",", "nodes", "which", "contribute", "to", "the", "corresponding", "window", "send", "a", "MAC", "to", "the", "base", "station", ".", "The", "MACs", "which", "correspond", "to", "the", "crossed", "bits", "are", "never", "sent", ".", "Our", "goal", "in", "selecting", "the", "threshold", "m", "is", "to", "reduce", "the", "likelihood", "of", "both", "a", "false", "positive", ",", "which", "means", "that", "the", "algorithm", "was", "terminated", "too", "early", ",", "and", "a", "false", "negative", ",", "which", "means", "that", "the", "algorithm", "terminated", "too", "late", ",", "i.e.", ",", "after", "the", "sliding", "window", "had", "already", "crossed", "the", "true", "position", "of", "R", ".", "A", "false", "positive", "results", "in", "an", "over-estimate", "of", "R", ",", "whereas", "a", "false", "negative", "results", "in", "additional", "communication", "overhead", ".", "We", "now", "show", "that", "it", "is", "possible", "to", "find", "a", "suitable", "value", "for", "m", "such", "that", "the", "probability", "of", "false", "positive", "and", "the", "probability", "of", "false", "negative", "are", "both", "low", ".", "Theorem", "3", ".", "Let", "G", "i", "denote", "the", "event", "that", "both", "bit", "i", "and", "-LRB-", "i", "+", "1", "-RRB-", "in", "a", "synopsis", "S", "are", "1", ".", "Let", "denote", "the", "expected", "value", "of", "the", "estimator", "R", ".", "Then", ",", "Pr", "-LSB-", "G", "-RSB-", "=", "0.3454", ",", "Pr", "-LSB-", "G", "+1", "-RSB-", "=", "0.1315", ",", "and", "Pr", "-LSB-", "G", "+2", "-RSB-", "=", "0", ".0412", ".", "Because", "of", "space", "limitations", ",", "the", "proof", "of", "this", "theorem", "can", "be", "found", "in", "the", "appendix", ".", "If", "the", "sliding", "window", "in", "our", "algorithm", "is", "two", "bits", "wide", ",", "i.e", ",", "w", "=", "2", ",", "from", "the", "definition", "of", "the", "false", "positive", "-LRB-", "FP", "-RRB-", ",", "we", "get", "that", "the", "probability", "Pr", "-LSB-", "FP", "-RSB-", "is", "the", "probability", "that", "the", "event", "G", "+2", "occurs", "in", "m", "or", "more", "synopses", ".", "Similarly", ",", "the", "probability", "of", "a", "false", "negative", ",", "Pr", "-LSB-", "FN", "-RSB-", "is", "the", "probability", "that", "the", "event", "G", "occurs", "in", "fewer", "than", "m", "synopses", ".", "For", "m", "=", "20", "-LRB-", "which", "is", "the", "typical", "value", "used", "in", "previous", "77", "work", "-LSB-", "3", ",", "14", "-RSB-", ",", "we", "find", "that", "the", "best", "value", "of", "m", "is", "4", "in", "which", "case", "Pr", "-LSB-", "FP", "-RSB-", "=", "0.0082", "and", "Pr", "-LSB-", "FN", "-RSB-", "=", "0.0484", ".", "The", "same", "approach", "illus-trated", "here", "can", "be", "used", "to", "derive", "the", "appropriate", "threshold", "m", "for", "other", "window", "sizes", ".", "Figure", "3", "illustrates", "the", "operation", "of", "our", "algorithm", "for", "w", "=", "2", ".", "Assume", "that", "the", "termination", "criterion", "is", "satisfied", "in", "epoch", "e", ".", "The", "BS", "broadcasts", "a", "STOP", "message", "which", "directs", "all", "nodes", "to", "terminate", "the", "aggregation", "phase", ".", "Note", "that", "by", "the", "time", "each", "node", "in", "the", "network", "receives", "the", "broadcast", "STOP", "message", ",", "many", "of", "the", "nodes", "will", "have", "already", "sent", "MACs", "corresponding", "to", "their", "contributions", "to", "the", "next", "epoch", "e", "+", "1", "of", "the", "algorithm", ".", "Thus", ",", "the", "effect", "of", "the", "termination", "criterion", "being", "satisfied", "in", "epoch", "e", "message", "is", "to", "terminate", "the", "aggregation", "after", "epoch", "e", "+", "1", ".", "We", "can", "take", "advantage", "of", "this", "extra", "epoch", "to", "further", "increase", "our", "level", "of", "confidence", "in", "the", "estimated", "value", "of", "R.", "Let", "the", "bit", "position", "of", "the", "sliding", "window", "in", "epoch", "e", "correspond", "to", "bits", "and", "+", "1", ".", "Instead", "of", "estimating", "R", "=", "+", "1", "because", "m", "out", "of", "m", "synopses", "had", "both", "bits", "and", "+1", "equal", "to", "1", ",", "we", "can", "now", "estimate", "R", "based", "on", "the", "observed", "value", "of", "R", "i", "for", "all", "m", "synopses", ".", "Our", "simulations", "show", "that", "estimate", "of", "the", "aggregate", "computed", "using", "our", "extended", "approach", "is", "close", "to", "the", "estimate", "computed", "using", "the", "original", "synopsis", "diffusion", "-LSB-", "3", ",", "14", "-RSB-", "algorithm", ".", "Latency", "The", "number", "of", "epochs", "taken", "by", "our", "sliding", "window", "approach", "depends", "on", "the", "ratio", "-LRB-", "-RRB-", "of", "the", "upper", "bound", "of", "the", "aggregate", "to", "the", "actual", "value", ".", "If", "the", "upper", "bound", "is", "u", "and", "the", "actual", "value", "is", ",", "for", "a", "window", "of", "width", "w", "the", "number", "of", "epochs", "is", "equal", "to", "-LRB-", "log", "2", "u", "m", "-", "log", "2", "m", "w", "+2", "-RRB-", "=", "-LRB-", "log", "2", "w", "+2", "-RRB-", "Communication", "Overhead", "Theorem", "3", "implies", "that", "it", "is", "highly", "likely", "that", "the", "sliding", "window", "contains", "the", "position", "R", "when", "the", "termination", "criterion", "is", "satisfied", ".", "As", "discussed", "above", ",", "if", "the", "termination", "criterion", "is", "satisfied", "in", "epoch", "e", ",", "the", "aggregation", "completes", "after", "epoch", "e", "+", "1", ".", "Thus", ",", "by", "property", "2", "and", "property", "4", "in", "Section", "2", ",", "if", "m", "synopses", "are", "computed", "in", "parallel", ",", "the", "expected", "number", "of", "nodes", "which", "send", "a", "MAC", "varies", "in", "the", "range", "of", "-LRB-", "2.58", "m", "-RRB-", "to", "-LRB-", "5.16", "m", "-RRB-", ".", "Even", "if", "a", "sensor", "node", "contributes", "to", "more", "than", "one", "bits", ",", "it", "sends", "just", "one", "MAC", "validating", "all", "the", "bits", ".", "Note", "that", "the", "number", "of", "contributing", "nodes", "does", "not", "exceed", "this", "range", "even", "if", "the", "network", "size", "is", "increased", ".", "Our", "simulation", "results", "show", "that", "85", "MACs", "are", "sent", "on", "average", "when", "m", "=", "20", ".", "We", "observe", "that", "the", "width", "of", "the", "window", "w", "determines", "a", "tradeoff", "between", "the", "communication", "overhead", "and", "the", "latency", ".", "If", "we", "divide", "the", "synopses", "into", "wider", "windows", ",", "the", "number", "of", "MACs", "sent", "and", "hence", "the", "communication", "overhead", "will", "increase", "while", "the", "latency", "of", "the", "aggregation", "process", "will", "decrease", ",", "and", "vice", "versa", ".", "6.4", "Discussion", "An", "alternative", "approach", "to", "the", "sliding", "window-based", "approach", "described", "above", "is", "one", "in", "which", "the", "base", "station", "computes", "the", "aggregate", "of", "interest", "in", "the", "first", "epoch", "using", "the", "original", "Synopsis", "Diffusion", "algorithm", ".", "It", "then", "broadcasts", "a", "message", "requesting", "only", "the", "nodes", "that", "contribute", "to", "the", "bit", "window", "that", "contains", "R", "to", "send", "the", "MACs", "authenticating", "their", "local", "synopses", ".", "If", "the", "BS", "success-fully", "verifies", "all", "the", "MACs", "it", "receives", ",", "then", "the", "protocol", "terminates", "at", "the", "end", "of", "the", "second", "epoch", ".", "However", ",", "if", "it", "does", "not", "receive", "the", "requested", "MACs", "or", "if", "one", "or", "more", "MACs", "are", "invalid", ",", "the", "BS", "executes", "the", "sliding-window", "protocol", "described", "above", "to", "compute", "the", "correct", "value", "of", "R", ".", "If", "the", "probability", "of", "compromised", "nodes", "being", "present", "in", "the", "network", "is", "low", ",", "then", "this", "alternative", "approach", "is", "preferable", "to", "the", "extended", "approach", "since", "it", "will", "have", "much", "lower", "latency", "on", "average", ".", "In", "this", "section", ",", "we", "report", "on", "a", "detailed", "simulation", "study", "that", "examined", "the", "performance", "of", "our", "attack-resilient", "aggregation", "algorithms", "discussed", "in", "Sections", "5", "and", "6", ".", "Our", "simulations", "were", "written", "using", "the", "TAG", "simulator", "developed", "by", "Madden", "et", "al.", "-LSB-", "11", "-RSB-", ".", "We", "added", "the", "attack-resilient", "functionality", "to", "the", "source", "code", "provided", "by", "Considine", "et", "al.", "-LSB-", "3", "-RSB-", "which", "simulates", "their", "multipath", "aggregation", "algorithms", "in", "the", "TAG", "simulator", "environment", ".", "7.1", "Simulation", "Environment", "For", "our", "basic", "experimental", "network", "topology", ",", "we", "used", "a", "regular", "30", "30", "grid", "with", "900", "sensor", "nodes", ",", "where", "one", "sensor", "is", "placed", "at", "each", "grid", "point", "and", "the", "base", "station", "is", "at", "the", "center", "of", "the", "grid", ",", "as", "in", "-LSB-", "3", "-RSB-", ".", "The", "communication", "radius", "of", "each", "node", "is", "2", "unit", "allowing", "the", "nearest", "eight", "grid", "neighbors", "to", "be", "reached", ".", "The", "goal", "of", "our", "simulation", "experiments", "is", "to", "examine", "the", "communication", "overhead", "and", "accuracy", "of", "our", "scheme", "in", "the", "presence", "of", "packet", "losses", ",", "which", "are", "relatively", "frequent", "in", "sensor", "networks", ".", "We", "use", "a", "simple", "packet", "loss", "model", "in", "which", "packets", "are", "dropped", "with", "a", "fixed", "probability", ";", "this", "packet", "loss", "rate", "is", "assumed", "to", "include", "packets", "that", "are", "lost", "due", "to", "being", "dropped", "by", "compromised", "nodes", ".", "We", "do", "not", "model", "any", "additional", "attacks", "by", "compromised", "nodes", ",", "specifically", "the", "falsified", "subaggregate", "and", "the", "falsified", "local", "value", "attacks", ",", "in", "our", "simulation", ".", "This", "is", "because", "we", "have", "already", "shown", "that", "these", "attacks", "can", "not", "affect", "the", "estimate", "of", "the", "aggregate", "computed", "at", "the", "sink", ".", "Consequently", ",", "these", "attacks", "simply", "have", "the", "effect", "of", "increasing", "the", "communication", "and", "computation", "overhead", ";", "in", "effect", ",", "they", "become", "a", "form", "of", "DOS", "or", "resource", "consumption", "attacks", ".", "We", "assign", "a", "unique", "id", "to", "each", "sensor", ",", "and", "we", "assume", "that", "the", "sensor", "reading", "is", "a", "random", "integer", "uniformly", "distributed", "in", "the", "range", "of", "0", "to", "250", "units", ".", "We", "compute", "20", "synopses", "in", "parallel", "using", "the", "PCSA", "algorithm", "as", "in", "the", "experiments", "reported", "in", "-LSB-", "3", ",", "14", "-RSB-", ".", "We", "use", "the", "method", "of", "independent", "replications", "as", "our", "simulation", "methodology", ".", "Each", "simulation", "experiment", "was", "repeated", "200", "times", "with", "a", "different", "seed", ".", "The", "plots", "below", "show", "the", "95", "%", "confidence", "intervals", "of", "the", "reported", "metric", ".", "7.2", "Results", "and", "Discussion", "Due", "to", "space", "constraints", ",", "we", "will", "only", "present", "the", "results", "of", "our", "extended", "approach", "for", "computing", "the", "Sum", "aggregate", ".", "Accuracy", "of", "our", "estimate", "In", "the", "first", "set", "of", "experiments", ",", "we", "validate", "our", "claim", "that", "our", "attack-resilient", "approach", "has", "the", "same", "accuracy", "in", "computing", "the", "true", "value", "of", "the", "aggregate", "as", "the", "original", "synopsis", "diffusion", "approach", ".", "Figure", "4a", "plots", "the", "estimates", "of", "our", "approach", "and", "the", "synopsis", "diffusion", "approach", "as", "a", "function", "of", "the", "packet", "loss", "rate", ".", "We", "observe", "that", "the", "two", "estimates", "are", "indeed", "very", "close", "in", "all", "loss", "rate", "conditions", ".", "We", "observe", "that", "the", "average", "value", "of", "the", "sensor", "reading", "is", "approximately", "125", ",", "i.e.", ",", "the", "accurate", "Sum", "is", "900", "125", "=", "11250", ".", "Communication", "overhead", "We", "now", "compare", "the", "communication", "overhead", "of", "our", "approach", "to", "that", "of", "the", "original", "synopsis", "diffusion", "approach", ".", "Figure", "4", "-LRB-", "b", "-RRB-", "plots", "the", "total", "number", "of", "bytes", "transmitted", "for", "computing", "the", "Sum", "aggregate", ".", "As", "discussed", "in", "Section", "5.3", ",", "for", "preventing", "a", "node", "from", "using", "a", "false", "reading", "to", "generate", "its", "own", "local", "synopsis", ",", "we", "can", "adopt", "two", "approaches", ".", "In", "the", "first", "approach", ",", "we", "ignore", "the", "impact", "of", "the", "falsified", "local", "value", "attack", ";", "in", "the", "figure", ",", "this", "approach", "is", "labeled", "as", "ARSD", "-LRB-", "attack-resilient", "synopsis", "diffusion", "-RRB-", ".", "The", "second", "approach", "requires", "the", "contributing", "node", "to", "include", "a", "XMAC", ",", "which", "corresponds", "to", "an", "endorsement", "from", "its", "neighbors", ",", "in", "the", "message", ";", "in", "the", "figure", ",", "this", "approach", "is", "labeled", "ARSD+XMAC", ".", "For", "ARSD+XMAC", ",", "each", "contributing", "node", "sends", "an", "authentication", "message", "which", "has", "two", "parts", ":", "the", "first", "part", "contains", "the", "ID", "-LRB-", "2", "78", "0", "0.1", "0.2", "0.3", "0.6", "0.8", "1", "1.2", "1.4", "x", "10", "5", "Link", "Loss", "Rate", "Estimated", "Sum", "ARSD", "SD", "Actual", "Sum", "0", "0.1", "0.2", "0.3", "1", "2", "3", "4", "5", "6", "x", "10", "4", "Link", "Loss", "Rate", "Total", "Byte", "Transmitted", "ARSD", "ARSD+XMAC", "SD", "a.", "Accuracy", "of", "Sum", "b.", "Byte", "overhead", "0", "2", "4", "6", "8", "10", "12", "0", "2", "4", "6", "8", "Log", "-LRB-", "upper", "bound", "/", "actual", "Sum", "-RRB-", "Number", "of", "epochs", "ARSD", "-LRB-", "window", "width", "=", "2", "-RRB-", "1000", "2000", "3000", "4000", "5000", "40", "60", "80", "100", "120", "Number", "of", "sensor", "nodes", "Number", "of", "Contributing", "nodes", "ARSD", "c.", "Latency", "d.", "Varying", "the", "network", "size", "Figure", "4", ":", "Experimental", "Results", "bytes", "-RRB-", "of", "the", "contributing", "node", "and", "its", "sensed", "value", "-LRB-", "3", "bytes", "-RRB-", ",", "and", "the", "second", "part", "includes", "the", "IDs", "of", "the", "k", "neighbors", "and", "a", "XMAC", "-LRB-", "4", "bytes", "-RRB-", ".", "If", "the", "value", "of", "k", "is", "not", "more", "than", "4", "then", "a", "node", "needs", "8", "bytes", "to", "specify", "the", "identity", "of", "the", "neighbors", "whose", "MACs", "are", "used", "to", "generate", "the", "XMAC", ".", "Thus", ",", "the", "size", "of", "one", "authentication", "message", "is", "17", "bytes", ".", "For", "ARSD", ",", "the", "contributing", "node", "just", "needs", "to", "send", "its", "own", "MAC", ";", "no", "neighbor", "endorsement", "is", "needed", ",", "which", "reduces", "the", "authentication", "message", "size", "to", "9", "bytes", ".", "Figure", "4", "-LRB-", "b", "-RRB-", "shows", "that", "the", "byte", "overhead", "of", "the", "ARSD+XMAC", "scheme", "is", "roughly", "5", "times", "larger", "than", "the", "original", "approach", ",", "whereas", "ARSD", "is", "2.5", "times", "larger", "than", "the", "original", "approach", ".", "One", "might", "expect", "that", "if", "loss", "rate", "is", "high", "our", "extended", "approach", "may", "take", "more", "time", "to", "stop", "because", "some", "MACs", "could", "be", "lost", "en-route", ",", "and", ",", "as", "a", "result", ",", "the", "communication", "overhead", "could", "increase", ".", "But", "Figure", "4", "-LRB-", "b", "-RRB-", "demonstrates", "that", "the", "overhead", "of", "the", "extended", "approach", "does", "not", "increase", "with", "the", "loss", "rate", ".", "Latency", "As", "discussed", "in", "Section", "6", ",", "the", "latency", "of", "the", "extended", "approach", "depends", "on", "the", "looseness", "of", "the", "base", "station", "'s", "estimate", "of", "the", "upper", "bound", "of", "Sum", ".", "Figure", "4", "-LRB-", "c", "-RRB-", "plots", "the", "number", "of", "epochs", "taken", "by", "our", "extended", "approach", "as", "a", "function", "of", "the", "ratio", "of", "the", "upper", "bound", "to", "the", "actual", "value", "of", "the", "aggregate", ".", "The", "figure", "shows", "that", "the", "number", "of", "epochs", "increases", "at", "logarithmic", "scale", "with", "the", "ratio", "of", "the", "upper", "bound", "to", "the", "actual", "Sum", ".", "We", "note", ",", "however", ",", "that", "the", "byte", "overhead", "of", "our", "scheme", "is", "independent", "of", "this", "ratio", ".", "Effect", "of", "network", "size", "In", "this", "experiment", ",", "we", "study", "the", "impact", "of", "the", "network", "size", "on", "the", "communication", "overhead", "of", "the", "extended", "approach", ".", "The", "communication", "overhead", "depends", "upon", "the", "number", "of", "contributing", "nodes", "that", "send", "a", "MAC", "to", "the", "base", "station", ",", "authenticating", "their", "synopsis", ".", "Recall", "from", "Section", "6", "that", "the", "expected", "number", "of", "contributing", "nodes", "is", "independent", "of", "the", "network", "size", ".", "Figure", "4", "-LRB-", "d", "-RRB-", "confirms", "our", "analysis", ";", "we", "observe", "that", "the", "number", "of", "contributing", "nodes", "is", "more", "or", "less", "constant", "as", "the", "network", "size", "increases", "4", ".", "This", "figure", "thus", "illustrates", "the", "scalability", "of", "our", "approach", "for", "attack-resilient", "aggregation", ".", "Several", "data", "aggregation", "protocols", "-LSB-", "11", ",", "19", ",", "23", "-RSB-", "have", "been", "proposed", "in", "the", "literature", "which", "efficiently", "fuse", "the", "sensed", "information", "en-route", "to", "the", "base", "station", "to", "reduce", "the", "communication", "overhead", ".", "Since", "packet", "losses", "and", "node", "failures", "are", "relatively", "common", "in", "sensor", "networks", ",", "several", "studies", "have", "investigated", "the", "design", "of", "robust", "aggregation", "algorithms", ".", "Considine", "et", "al.", "-LSB-", "3", "-RSB-", "and", "Nath", "et", "al.", "-LSB-", "14", ",", "12", "-RSB-", "have", "presented", "robust", "aggregation", "approaches", "that", "combine", "the", "use", "of", "multi-path", "routing", "with", "clever", "algorithms", "that", "avoid", "double-counting", "of", "sensor", "readings", ".", "Jelasity", "et", "al.", "-LSB-", "9", "-RSB-", "proposed", "a", "robust", "gossip-based", "protocol", "for", "computing", "aggregates", "over", "network", "components", "in", "a", "fully", "decentralized", "fashion", ".", "They", "assume", "that", "nodes", "form", "an", "overlay", "network", "where", "any", "pair", "of", "nodes", "are", "considered", "to", "be", "neighbors", ",", "which", "makes", "this", "protocol", "impractical", "for", "sensor", "networks", ".", "We", "note", "that", "none", "of", "the", "above", "algorithms", "were", "designed", "with", "security", "in", "mind", ".", "Recently", "several", "researchers", "have", "examined", "security", "issues", "in", "aggregation", ".", "Wagner", "-LSB-", "17", "-RSB-", "examined", "the", "problem", "of", "resilient", "data", "aggregation", "in", "presence", "of", "malicious", "nodes", ",", "and", "provided", "guidelines", "for", "selecting", "aggregation", "functions", "in", "a", "sensor", "network", ".", "Buttyan", "et", "al.", "-LSB-", "2", "-RSB-", "proposed", "a", "model", "of", "resilient", "aggregation", "and", "analyzed", "the", "maximum", "deviation", "from", "the", "true", "value", "of", "the", "aggregate", "that", "an", "adversary", "could", "introduce", "while", "remaining", "undetected", ".", "The", "models", "used", "by", "by", "both", "Buttyan", "et", "al", "and", "Wagner", "assume", "that", "there", "is", "no", "in-network", "aggregation", ",", "that", "is", ",", "the", "aggregation", "is", "performed", "at", "the", "sink", ".", "Przydatek", "et", "al", "-LSB-", "16", "-RSB-", "present", "protocols", "that", "can", "be", "used", "by", "a", "trusted", "remote", "user", "to", "query", "a", "sensor", "network", "in", "which", "the", "base", "4", "The", "link", "loss", "rate", "is", "held", "at", "20", "%", "in", "this", "set", "of", "experiments", ".", "79", "station", "may", "be", "compromised", "and", "the", "base", "station", "is", "the", "only", "aggregator", ".", "One", "of", "the", "protocols", "described", "by", "Przydatek", "et", "al", "is", "a", "robust", "approach", "for", "counting", "distinct", "elements", "in", "a", "data", "stream", "that", "can", "be", "used", "for", "estimating", "the", "size", "of", "the", "network", ",", "i.e.", ",", "the", "Count", "aggregate", ".", "Their", "approach", "for", "counting", "distinct", "elements", "is", "similar", "to", "our", "scheme", "for", "Count", "in", "the", "sense", "that", "in", "both", "cases", "only", "a", "subset", "of", "elements", "need", "to", "be", "verified", ".", "The", "first", "secure", "in-network", "data", "aggregation", "protocol", "was", "designed", "by", "Hu", "and", "Evans", "-LSB-", "8", "-RSB-", ".", "Their", "protocol", "is", "effective", "only", "if", "no", "more", "than", "one", "node", "is", "compromised", ".", "Recently", ",", "Yang", "et", "al.", "-LSB-", "18", "-RSB-", "proposed", "SDAP", ",", "a", "secure", "hop-by-hop", "data", "aggregation", "protocol", "which", "can", "tolerate", "more", "than", "one", "compromised", "node", ".", "SDAP", "is", "a", "tree-based", "aggregation", "protocol", "with", "communication", "cost", "comparable", "with", "that", "of", "the", "ordinary", "aggregation", "protocols", "while", "it", "provides", "certain", "level", "of", "assurance", "on", "the", "trustworthiness", "of", "the", "aggregation", "result", ".", "As", "SDAP", "is", "a", "tree-based", "protocol", ",", "it", "is", "vulnerable", "to", "link", "loss", "and", "node", "failures", "which", "are", "relatively", "common", "in", "sensor", "networks", ",", "whereas", "our", "protocol", "is", "robust", "to", "this", "communication", "loss", "and", ",", "at", "the", "same", "time", ",", "secure", "against", "compromised", "nodes", ".", "We", "note", "that", "our", "work", "is", "related", "to", "the", "general", "problem", "of", "preventing", "false", "data", "injection", ".", "Du", "et", "al.", "-LSB-", "4", "-RSB-", "proposed", "a", "mechanism", "that", "allows", "the", "base", "station", "to", "check", "the", "aggregated", "values", "submit-ted", "by", "several", "designated", "aggregators", ",", "based", "on", "the", "endorsements", "provided", "by", "a", "certain", "number", "of", "witness", "nodes", "around", "the", "aggregators", ".", "Their", "scheme", "does", "not", "provide", "per-hop", "aggregation", ".", "Several", "other", "works", "-LSB-", "20", ",", "21", ",", "25", "-RSB-", "have", "also", "proposed", "solutions", "to", "prevent", "false", "data", "injection", "attacks", "in", "sensor", "networks", ",", "but", "they", "do", "not", "involve", "data", "aggregation", ".", "In", "this", "paper", ",", "we", "investigated", "the", "security", "issues", "of", "synopsis", "diffusion", "framework", "in", "presence", "of", "compromised", "nodes", ".", "We", "showed", "that", "a", "compromised", "node", "can", "launch", "several", "simple", "attacks", "on", "the", "existing", "aggregation", "algorithms", ",", "which", "could", "significantly", "deviate", "the", "estimate", "of", "the", "aggregate", ".", "We", "also", "proposed", "modifications", "to", "the", "aggregation", "algorithms", "that", "guard", "against", "these", "attacks", ".", "Our", "analytical", "results", "and", "simulation", "results", "show", "that", "our", "approach", "is", "effective", "and", "it", "incurs", "minimal", "computation", "and", "communication", "overhead", ".", "In", "this", "paper", ",", "we", "assume", "that", "a", "sensor", "node", "has", "a", "security", "association", "only", "with", "the", "base", "station", ",", "and", ",", "as", "a", "result", ",", "the", "authentication", "messages", "can", "not", "be", "processed", "in-network", "in", "our", "approach", ".", "To", "further", "reduce", "the", "communication", "overhead", ",", "we", "plan", "to", "exploit", "other", "security", "settings", ",", "e.g.", ",", "local", "pairwise", "keys", "among", "nodes", ",", "as", "a", "part", "of", "our", "future", "work", ".", "-LSB-", "1", "-RSB-", "M.", "Bellare", ",", "R.", "Guerin", ",", "and", "P.", "Rogaway", ".", "XOR", "MACs", ":", "New", "methods", "for", "message", "authentication", "using", "finite", "pseudorandom", "functions", ".", "In", "Proc", ".", "of", "the", "15th", "Annual", "International", "Cryptology", "Conference", "on", "Advances", "in", "Cryptology", "-", "CRYPTO", "'95", ",", "pages", "15", "28", ",", "1995", ".", "-LSB-", "2", "-RSB-", "L.", "Buttyan", ",", "P.", "Schaffer", ",", "and", "I.", "Vajda", ".", "Resilient", "aggregation", "with", "attack", "detection", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "2nd", "IEEE", "Workshop", "on", "Sensor", "Networks", "and", "Systems", "for", "Pervasive", "Computing", ",", "2006", ".", "-LSB-", "3", "-RSB-", "J.", "Considine", ",", "F.", "Li", ",", "G.", "Kollios", ",", "and", "J.", "Byers", ".", "Approximate", "aggregation", "techniques", "for", "sensor", "databases", ".", "In", "Proc", ".", "of", "IEEE", "Int", "'", "l", "Conf", ".", "on", "Data", "Engineering", "-LRB-", "ICDE", "-RRB-", ",", "2004", ".", "-LSB-", "4", "-RSB-", "W.", "Du", ",", "J.", "Deng", ",", "Y.", "S.", "Han", ",", "and", "P.", "Varshney", ".", "A", "pairwise", "key", "pre-distribution", "scheme", "for", "wireless", "sensor", "networks", ".", "In", "Proc", ".", "of", "the", "10th", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", "-LRB-", "CCS", "'", "03", "-RRB-", ".", ",", "2003", ".", "-LSB-", "5", "-RSB-", "P.", "Flajolet", "and", "G.", "N.", "Martin", ".", "Probabilistic", "counting", "algorithms", "for", "data", "base", "applications", ".", "Journal", "of", "Computer", "and", "System", "Sciences", ",", "31", "-LRB-", "2", "-RRB-", ":", "182", "209", ",", "1985", ".", "-LSB-", "6", "-RSB-", "S.", "Ganeriwal", "and", "M.", "B.", "Sribastava", ".", "Reputation-based", "framework", "for", "highly", "integrity", "sensor", "networks", ".", "In", "Proc", ".", "of", "ACM", "Workshop", "on", "Security", "of", "Sensor", "and", "Adhoc", "Networks", "-LRB-", "SASN", "-RRB-", ",", "Washington", ",", "DC", ",", "2004", ".", "-LSB-", "7", "-RSB-", "D.", "Ganesan", ",", "R.", "Govindan", ",", "S.", "Shenker", ",", "and", "D.", "Estrin", ".", "Highly-resilient", "energy-efficient", "multipath", "routing", "in", "wireless", "sensor", "networks", ".", "Mobile", "Comuting", "and", "Communication", "Review", ",", "4", "-LRB-", "5", "-RRB-", ":", "11", "25", ",", "2001", ".", "-LSB-", "8", "-RSB-", "L.", "Hu", "and", "D.", "Evans", ".", "Secure", "aggregation", "for", "wireless", "networks", ".", "In", "Proc", ".", "of", "Workshop", "on", "Security", "and", "Assurance", "in", "Ad", "hoc", "Networks", ".", ",", "2003", ".", "-LSB-", "9", "-RSB-", "M.", "Jelasity", ",", "A.", "Montresor", ",", "and", "O.", "Babaoglu", ".", "Gossip-based", "aggregation", "in", "large", "dynamic", "networks", ".", "ACM", "Transactions", "on", "Computer", "Systems", ",", "23", "-LRB-", "3", "-RRB-", ":", "219", "252", ",", "2005", ".", "-LSB-", "10", "-RSB-", "F.", "Koushanfar", ",", "M.", "Potkonjak", ",", "and", "A.", "Sangiovanni-Vincentelli", ".", "Fault", "tolerance", "techniques", "in", "wireless", "ad-hoc", "sensor", "networks", ".", "In", "Sensors", "2002", ".", "Proceedings", "of", "IEEE", ",", "pages", "1491", "1496", ".", "-LSB-", "11", "-RSB-", "S.", "Madden", ",", "M.", "J.", "Franklin", ",", "J.M.", "Hellerstein", ",", "and", "W.", "Hong", ".", "TAG", ":", "A", "tiny", "aggregation", "service", "for", "ad", "hoc", "sensor", "networks", ".", "In", "Proc", ".", "of", "5th", "USENIX", "Symposium", "on", "Operating", "Systems", "Design", "and", "Implementation", ",", "2002", ".", "-LSB-", "12", "-RSB-", "A.", "Manjhi", ",", "S.", "Nath", ",", "and", "P.", "Gibbons", ".", "Tributeries", "and", "deltas", ":", "Efficient", "and", "robust", "aggregation", "in", "sensor", "network", "streams", ".", "In", "Proc", ".", "of", "ACM", "International", "Conference", "on", "Management", "of", "Data", "-LRB-", "SIGMOD", "-RRB-", ",", "2005", ".", "-LSB-", "13", "-RSB-", "Mica", "Motes", ".", "http://www.xbow.com", ".", "-LSB-", "14", "-RSB-", "S.", "Nath", ",", "P.", "B.", "Gibbons", ",", "S.", "Seshan", ",", "and", "Z.", "Anderson", ".", "Synopsis", "diffusion", "for", "robust", "aggregation", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "the", "2nd", "international", "conference", "on", "Embedded", "networked", "sensor", "systems", "-LRB-", "SenSys", "-RRB-", ",", "2004", ".", "-LSB-", "15", "-RSB-", "A.", "Perrig", ",", "R.", "Szewczyk", ",", "V.", "Wen", ",", "D.", "Culler", ",", "and", "J.", "D.", "Tygar", ".", "SPINS", ":", "Security", "protocols", "for", "sensor", "networks", ".", "In", "Seventh", "Annual", "International", "Conference", "on", "Mobile", "Computing", "and", "Networks", "-LRB-", "MobiCOM", "-RRB-", ",", "2001", ".", "-LSB-", "16", "-RSB-", "B.", "Przydatek", ",", "D.", "Song", ",", "and", "A.", "Perrig", ".", "SIA", ":", "Secure", "information", "aggregation", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "the", "1st", "international", "conference", "on", "Embedded", "networked", "sensor", "systems", "-LRB-", "SenSys", "-RRB-", ",", "2003", ".", "-LSB-", "17", "-RSB-", "D.", "Wagner", ".", "Resilient", "aggregation", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "ACM", "Workshop", "on", "Security", "of", "Sensor", "and", "Adhoc", "Networks", "-LRB-", "SASN", "-RRB-", ",", "2004", ".", "-LSB-", "18", "-RSB-", "Y.", "Yang", ",", "X.", "Wang", ",", "S.", "Zhu", ",", "and", "G.", "Cao", ".", "SDAP", ":", "A", "secure", "hop-by-hop", "data", "aggregation", "protocol", "for", "sensor", "networks", ".", "In", "Proc", ".", "of", "ACM", "MOBIHOC", ",", "2006", ".", "-LSB-", "19", "-RSB-", "Y.", "Yao", "and", "J.", "E.", "Gehrke", ".", "The", "cougar", "approach", "to", "in-network", "query", "processing", "in", "sensor", "networks", ".", "ACM", "SIGMOD", "Record", ",", "31", "-LRB-", "2", "-RRB-", ":", "9", "18", ",", "September", "2002", ".", "-LSB-", "20", "-RSB-", "Fan", "Ye", ",", "Haiyun", "Luo", ",", "Songwu", "Lu", ",", "and", "Lixia", "Zhang", ".", "Statistical", "en-route", "filtering", "of", "injected", "false", "data", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "IEEE", "Infocom", ",", "2004", ".", "-LSB-", "21", "-RSB-", "W.", "Zhang", "and", "G.", "Cao", ".", "Group", "rekeying", "for", "filtering", "false", "data", "in", "sensor", "networks", ":", "A", "predistribution", "and", "local", "collaboration-based", "approach", ".", "Proc", ".", "of", "IEEE", "Infocom", ",", "2005", ".", "-LSB-", "22", "-RSB-", "J.", "Zhao", "and", "R.", "Govindan", ".", "Understanding", "packet", "delivery", "performance", "in", "dense", "wireless", "sensor", "networks", ".", "In", "Proc", ".", "of", "80", "the", "1st", "international", "conference", "on", "Embedded", "networked", "sensor", "systems", "-LRB-", "SenSys", "-RRB-", ",", "2003", ".", "-LSB-", "23", "-RSB-", "J.", "Zhao", ",", "R.", "Govindan", ",", "and", "D.", "Estrin", ".", "Computing", "aggregates", "for", "monitoring", "sensor", "networks", ".", "In", "Proc", ".", "of", "the", "2nd", "IEEE", "International", "Workshop", "on", "Sensor", "Network", "Protocols", "and", "Applications", ",", "2003", ".", "-LSB-", "24", "-RSB-", "S.", "Zhu", ",", "S.", "Setia", ",", "and", "S.", "Jajodia", ".", "LEAP", ":", "Efficient", "security", "mechanisms", "for", "large-scale", "distributed", "sensor", "networks", ".", "In", "Proc", ".", "of", "the", "10th", "ACM", "Conference", "on", "Computer", "and", "Communications", "Security", "-LRB-", "CCS", "'", "03", "-RRB-", ".", ",", "2003", ".", "-LSB-", "25", "-RSB-", "S.", "Zhu", ",", "S.", "Setia", ",", "S.", "Jajodia", ",", "and", "P.", "Ning", ".", "An", "interleaved", "hop-by-hop", "authentication", "scheme", "for", "filtering", "injected", "false", "data", "in", "sensor", "networks", ".", "In", "Proc", ".", "of", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "2004", ".", "Appendix", "A.", "Below", "we", "describe", "the", "algorithm", "-LRB-", "SecureCount", "-RRB-", "executed", "by", "each", "node", "in", "response", "to", "a", "Count", "query", ".", "X", "represents", "the", "node", "Id", ".", "Algorithm", "2", "SecureCount", "-LRB-", "X", ",", "Seed", ",", "a", ",", "b", "-RRB-", "1", ":", "M", "=", "-LCB-", "-RCB-", ";", "/", "/", "M", "is", "initialized", "as", "an", "empty", "set", "2", ":", "i", "=", "SG", "-LRB-", "X", ",", "Seed", "-RRB-", ";", "/", "/", "X", "contributes", "to", "bit", "i", "3", ":", "if", "-LRB-", "a", "i", "b", "-RRB-", "then", "4", ":", "m", "=", "-LSB-", "X", "|", "i", "|", "Seed", "-RSB-", ";", "5", ":", "M", "=", "MAC", "-LRB-", "K", "X", ",", "m", "-RRB-", ";", "6", ":", "M", "=", "M", "M", ";", "7", ":", "end", "if", "8", ":", "S", "l", "=", "SF", "-LRB-", "-RRB-", ";", "/", "/", "S", "l", "is", "the", "fused", "synopsis", "at", "X", "9", ":", "M", "=", "M", "C", ";", "/", "/", "C", "represents", "the", "set", "of", "MACs", "X", "received", "from", "/", "/", "its", "child", "nodes", "10", ":", "X", ":", "S", "l", "|", "M", ";", "B.", "Proofs", "of", "Theorems", "We", "provide", "the", "proofs", "for", "the", "theorems", "present", "in", "the", "paper", ".", "Theorem", "1", ".", "Let", "there", "be", "n", "nodes", "in", "the", "sensor", "network", "among", "which", "nodes", "are", "compromised", ".", "Let", "u", "v", "and", "a", "v", "denote", "the", "upper", "bound", "and", "the", "average", "value", "of", "the", "sensor", "reading", "respectively", ".", "Let", "S", "be", "the", "final", "synposis", "computed", "at", "the", "sink", "and", "let", "R", "be", "the", "length", "of", "the", "prefix", "of", "all", "ones", "in", "S.", "Let", "s", "denote", "the", "value", "of", "the", "Sum", "aggregate", ".", "If", "each", "compromised", "node", "claims", "that", "its", "sensed", "value", "is", "equal", "to", "the", "upper", "bound", "u", "v", ",", "and", "if", "-LRB-", "u", "v", "-RRB-", "<", "s", ",", "then", "the", "probability", "Pr", "-LSB-", "S", "-LSB-", "R", "+", "1", "-RSB-", "=", "1", "-RSB-", "is", "proportional", "to", "the", "product", "of", "the", "fraction", "of", "compromised", "nodes", "in", "the", "network", ",", "/", "n", ",", "and", "the", "ratio", "u", "v", "/", "a", "v", ".", "P", "ROOF", ".", "By", "property", "2", "in", "Section", "2", ",", "the", "expected", "value", "of", "the", "estimator", "R", ",", "for", "the", "Sum", "synopsis", "S", ",", "is", "log", "2", "-LRB-", "s", "-RRB-", ",", "where", "s", "denotes", "the", "Sum", ".", "As", "a", "node", "X", "with", "sensed", "value", "v", "invokes", "the", "function", "CT", "-LRB-", "-RRB-", "v", "times", "-LRB-", "in", "the", "synopsis", "generation", "phase", "-RRB-", ",", "the", "probability", "that", "X", "does", "not", "contribute", "to", "bit", "i", "in", "S", "is", "-LRB-", "1", "1", "2", "i", "-RRB-", "u", "v", ".", "So", ",", "the", "probability", "-LRB-", "p", "-RRB-", "that", "a", "node", "with", "sensed", "value", "u", "v", "will", "contribute", "to", "the", "-LRB-", "R", "+", "1", "-RRB-", "th", "bit", "is", "-LRB-", "1", "-", "-LRB-", "11", "2", "R", "+1", "-RRB-", "u", "v", "-RRB-", ".", "After", "simplifying", ",", "we", "get", "p", "=", "1", "-", "-LRB-", "1", "-", "1", "2", "s", "-RRB-", "u", "v", "1", "-", "-LRB-", "1", "-", "u", "v", "2", "s", "-RRB-", "=", "u", "v", "2", "s", "The", "above", "approximation", "is", "valid", "as", "u", "v", "is", "smaller", "than", "s", ".", "If", "there", "are", "compromised", "nodes", ",", "then", "Pr", "-LRB-", "S", "-LSB-", "R", "+", "1", "-RSB-", "=", "1", "-RRB-", "is", "q", "=", "1", "-", "-LRB-", "1", "-", "p", "-RRB-", "p", "=", "u", "v", "2", "s", "=", "-LRB-", "1", "2", "-RRB-", "-LRB-", "n", "-RRB-", "-LRB-", "u", "v", "a", "v", "-RRB-", "To", "prove", "Theorem", "2", ",", "we", "first", "prove", "the", "following", "results", ".", "Lemma", "1", ".", "Let", "E", "i", ",", "1", "i", "k", "-2", "denote", "the", "event", "that", "the", "string", "``", "011", "''", "appears", "in", "a", "synopsis", "S", "from", "bit", "i", "to", "bit", "-LRB-", "i", "+", "2", "-RRB-", "-LRB-", "i.e.", ",", "S", "-LSB-", "i", "-RSB-", "=", "0", ",", "S", "-LSB-", "i", "+", "1", "-RSB-", "=", "1", ",", "and", "S", "-LSB-", "i", "+", "2", "-RSB-", "=", "1", "-RRB-", ",", "where", "k", "is", "the", "length", "of", "S", ".", "The", "maximum", "value", "of", "the", "probability", "-LRB-", "p", "i", "-RRB-", "of", "the", "event", "E", "i", "is", "0.037", "for", "any", "value", "of", "i", "and", "for", "any", "value", "of", "Count", "-LRB-", "or", "Sum", "-RRB-", "shared", "by", "S.", "P", "ROOF", ".", "If", "function", "CT", "-LRB-", "-RRB-", "is", "invoked", "once", "-LRB-", "ref", ".", "Section", "2", "-RRB-", ",", "then", "Pr", "-LSB-", "S", "-LSB-", "j", "-RSB-", "=", "1", "-RSB-", "=", "q", "j", "=", "1", "2", "j", ",", "1", "j", "k", ".", "This", "probability", "increases", "if", "it", "is", "given", "that", "bit", "j", ",", "1", "j", "k", "will", "remain", "0", ".", "Specifically", ",", "Pr", "-LSB-", "S", "-LSB-", "j", "-RSB-", "=", "1", "|", "S", "-LSB-", "j", "-RSB-", "=", "0", "-RSB-", "=", "q", "j", "1", "-", "q", "j", "=", "1", "-LRB-", "2", "j", "-RRB-", "-LRB-", "1", "1", "2", "j", "-RRB-", ".", "If", "is", "the", "total", "Count", "-LRB-", "or", "Sum", "-RRB-", "shared", "by", "synopsis", "S", ",", "then", "Pr", "-LSB-", "S", "-LSB-", "i", "-RSB-", "=", "0", "-RSB-", "=", "-LRB-", "1", "-", "q", "i", "-RRB-", ",", "and", "Pr", "-LSB-", "S", "-LSB-", "i", "+", "1", "-RSB-", "=", "1", ",", "S", "-LSB-", "i", "+", "2", "-RSB-", "=", "1", "-RSB-", "=", "1", "-", "Pr", "-LSB-", "S", "-LSB-", "i", "+1", "-RSB-", "=", "0", "-RSB-", "-", "Pr", "-LSB-", "S", "-LSB-", "i", "+2", "-RSB-", "=", "0", "-RSB-", "+", "Pr", "-LSB-", "S", "-LSB-", "i", "+", "1", "-RSB-", "=", "0", ",", "S", "-LSB-", "i", "+", "2", "-RSB-", "=", "0", "-RSB-", "-LRB-", "1", "-RRB-", "=", "1", "-", "-LRB-", "1-q", "i", "+1", "-RRB-", "-", "-LRB-", "1-q", "i", "+2", "-RRB-", "+", "-LRB-", "1", "-", "q", "i", "+1", "-", "q", "i", "+2", "-RRB-", "=", "1", "-", "-LRB-", "11", "2", "i", "+1", "-RRB-", "-", "-LRB-", "11", "2", "i", "+2", "-RRB-", "+", "-LRB-", "1", "1", "2", "i", "+1", "1", "2", "i", "+2", "-RRB-", "So", ",", "the", "probability", "of", "the", "event", "E", "i", "is", "p", "i", "=", "Pr", "-LSB-", "S", "-LSB-", "i", "-RSB-", "=", "0", "-RSB-", "Pr", "-LSB-", "S", "-LSB-", "i", "+", "1", "-RSB-", "=", "1", ",", "S", "-LSB-", "i", "+", "2", "-RSB-", "=", "1", "|", "S", "-LSB-", "i", "-RSB-", "=", "0", "-RSB-", "=", "-LRB-", "1", "1", "2", "i", "-RRB-", "-LSB-", "1", "-", "-LRB-", "11", "-LRB-", "2", "i", "+1", "-RRB-", "-LRB-", "11", "2i", "-RRB-", "-RRB-", "-", "-LRB-", "11", "-LRB-", "2", "i", "+2", "-RRB-", "-LRB-", "11", "2i", "-RRB-", "-RRB-", "+", "-LRB-", "1", "1", "-LRB-", "2", "i", "+1", "-RRB-", "-LRB-", "11", "2i", "-RRB-", "1", "-LRB-", "2", "i", "+2", "-RRB-", "-LRB-", "11", "2i", "-RRB-", "-RRB-", "-RSB-", "-LRB-", "2", "-RRB-", "Note", "that", "if", "i", "<", "<", "log", "2", "-LRB-", "-RRB-", ",", "the", "1st", "factor", "is", "close", "to", "0", "and", "second", "factor", "is", "close", "to", "1", ",", "making", "p", "i", "close", "to", "0", ".", "On", "the", "other", "hand", ",", "if", "i", ">", ">", "log", "2", "-LRB-", "-RRB-", ",", "the", "1st", "factor", "is", "close", "to", "1", ",", "but", "the", "2nd", "factor", "are", "close", "to", "0", ",", "again", "making", "p", "i", "close", "to", "0", ".", "p", "i", "attains", "the", "highest", "value", "when", "i", "is", "close", "to", "log", "2", "-LRB-", "-RRB-", ".", "We", "have", "numerically", "found", "that", "the", "maximum", "value", "of", "p", "i", "is", "0.037", ",", "for", "any", "value", "of", "i", "or", ".", "Lemma", "2", ".", "Let", "E", "denote", "the", "event", "that", "the", "string", "``", "011", "''", "appears", "in", "a", "synopsis", "S", "at", "any", "position", ".", "The", "probability", "of", "the", "event", "E", "is", "less", "than", "0.099", ".", "P", "ROOF", ".", "E", "i", "denotes", "the", "event", "that", "``", "011", "''", "appears", "in", "a", "synopsis", "S", "where", "0", "is", "at", "the", "ith", "bit", ".", "We", "observe", "that", "the", "events", "E", "i", ",", "E", "i", "+1", ",", "E", "i", "+2", "are", "mutually", "exclusive", ",", "for", "any", "value", "of", "i.", "Following", "the", "same", "direction", "of", "Lemma", "1", ",", "we", "can", "show", "that", "the", "probability", "that", "''", "011s", "l", "011", "''", "appears", "in", "synopsis", "S", "is", "close", "to", "zero", ",", "where", "s", "l", "represents", "any", "string", "of", "length", "l", ",", "l", "0", ".", "So", ",", "the", "probability", "that", "two", "events", "E", "i", "and", "E", "j", "where", "j", "-LRB-", "i", "+3", "-RRB-", "can", "occur", "together", "is", "negligible", ",", "for", "any", "value", "of", "i", ".", "As", "a", "result", ",", "we", "can", "approximate", "that", "events", "E", "i", "s", "are", "mutually", "exclusive", "and", "hence", "the", "probability", "of", "event", "E", "is", "p", "=", "k", "i", "=", "1", "p", "i", ",", "where", "p", "i", "is", "given", "by", "expression", "-LRB-", "2", "-RRB-", "and", "k", "is", "the", "length", "of", "S", ".", "We", "have", "numerically", "found", "that", "maximum", "value", "of", "p", "is", "0.099", ".", "Lemma", "3", ".", "Let", "F", "i", "denote", "the", "event", "that", "a", "string", "``", "0s", "i", "11", "''", "appears", "in", "a", "synopsis", "S", ",", "and", "let", "F", "denote", "the", "general", "event", "that", "a", "string", "81", "``", "0s", "l", "11", "''", ",", "l", "0", "appears", "in", "S", ",", "where", "s", "l", "represents", "any", "string", "of", "length", "l", ".", "Pr", "-LSB-", "F", "-RSB-", "=", "Pr", "-LSB-", "F", "0", "-RSB-", "P", "ROOF", ".", "As", "the", "string", "``", "011", "''", "is", "a", "special", "case", "of", "string", "``", "0s", "l", "11", "''", "where", "l", "=", "0", ",", "Pr", "-LSB-", "F", "-RSB-", "Pr", "-LSB-", "F", "0", "-RSB-", ".", "On", "the", "other", "hand", ",", "if", "string", "s", "=", "``", "0s", "l", "11", "''", ",", "l", "0", "appears", "in", "S", ",", "string", "``", "011", "''", "must", "also", "appear", "as", "a", "substring", "of", "s", ".", "As", "an", "example", ",", "if", "s", "=", "``", "01011", "''", "where", "s", "l", "=", "``", "10", "''", ",", "we", "can", "see", "``", "011", "''", "as", "a", "substring", "of", "s", ".", "Hence", ",", "Pr", "-LSB-", "F", "-RSB-", "Pr", "-LSB-", "F", "0", "-RSB-", ".", "So", ",", "we", "get", "that", "Pr", "-LSB-", "F", "-RSB-", "=", "Pr", "-LSB-", "F", "0", "-RSB-", ".", "Theorem", "2", ".", "Let", "F", "denote", "the", "event", "that", "the", "string", "``", "0s", "l", "11", "''", "where", "s", "l", "represents", "any", "string", "of", "length", "l", ",", "l", "0", "appears", "in", "a", "synopsis", "S", ".", "The", "probability", "of", "the", "event", "F", "is", "less", "than", "10", "%", ".", "P", "ROOF", ".", "As", "the", "event", "F", "0", "in", "Lemma", "3", "is", "same", "as", "the", "event", "E", "in", "Lemma", "2", ",", "we", "get", "that", "the", "probability", "of", "event", "F", "is", "less", "than", "10", "%", ".", "Theorem", "3", ".", "Let", "G", "i", "denote", "the", "event", "that", "both", "bit", "i", "and", "-LRB-", "i", "+", "1", "-RRB-", "in", "a", "synopsis", "S", "are", "1", ".", "Let", "denote", "the", "expected", "value", "of", "the", "estimator", "R", ".", "Then", ",", "Pr", "-LSB-", "G", "-RSB-", "=", "0.3454", ",", "Pr", "-LSB-", "G", "+1", "-RSB-", "=", "0.1315", ",", "and", "Pr", "-LSB-", "G", "+2", "-RSB-", "=", "0", ".0412", ".", "P", "ROOF", ".", "The", "expected", "value", "of", "R", "is", "log", "2", "-LRB-", "m", "-RRB-", ",", "which", "we", "denote", "by", ",", "where", "is", "the", "total", "Count", "-LRB-", "or", "Sum", "-RRB-", "shared", "by", "m", "synopses", "following", "the", "algorithm", "PCSA", ".", "If", "function", "CT", "-LRB-", "-RRB-", "is", "invoked", "once", "-LRB-", "ref", ".", "Section", "2", "-RRB-", ",", "Pr", "-LSB-", "S", "-LSB-", "i", "-RSB-", "=", "1", "-RSB-", "=", "q", "i", "=", "1", "m", "1", "2", "i", ",", "1", "i", "k", "because", "synopsis", "S", "is", "selected", "with", "probability", "1", "m", "among", "m", "synopses", ".", "As", "is", "the", "total", "Count", "-LRB-", "or", "Sum", "-RRB-", "shared", "by", "all", "synopses", ",", "we", "get", "by", "using", "similar", "expression", "as", "-LRB-", "1", "-RRB-", "in", "Lemma", "1", "that", "Pr", "-LSB-", "G", "i", "-RSB-", "=", "1", "-", "-LRB-", "11", "m", "2", "i", "-RRB-", "-", "-LRB-", "11", "m", "2", "i", "+1", "-RRB-", "+", "-LRB-", "1", "1", "m", "2", "i", "1", "m", "2", "i", "+1", "-RRB-", "So", ",", "Pr", "-LSB-", "G", "-RSB-", "=", "1", "-", "-LRB-", "11", "m", "m", "-RRB-", "-", "-LRB-", "11", "m", "2", "m", "-RRB-", "+", "-LRB-", "1", "1", "m", "m", "1", "m", "2", "m", "-RRB-", "1-e", "1", "-", "e", "1", "2", "+", "e", "3", "2", "=", "0.3454", "Similarly", ",", "we", "find", "Pr", "-LSB-", "G", "+1", "-RSB-", "=", "0.1315", ",", "and", "Pr", "-LSB-", "G", "+2", "-RSB-", "=", "0.0412", ".", "82"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["hierarchical aggregation", "sum aggregate", "count aggregate", "synopsis diffusion aggregation framework", "synopsis diffusion", "sensor networks", "robust aggregation", "falsified local value attack", "data aggregation"], "abstractive_keyphrases": ["attack resilient heirarchical data aggregation", "sensor network security", "falsified sub-aggregate attack", "in-network data aggregation", "node compromise prevention", "attack-resilient", "network aggregation algorithms"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "24", "document": ["A", "Weighted", "Ranking", "Algorithm", "For", "Facet-Based", "Component", "Retrieval", "System", "Facet-based", "component", "retrieval", "techniques", "have", "been", "proved", "to", "be", "an", "effective", "way", "for", "retrieving", ".", "These", "Techniques", "are", "widely", "adopted", "by", "component", "library", "systems", ",", "but", "they", "usually", "simply", "list", "out", "all", "the", "retrieval", "results", "without", "any", "kind", "of", "ranking", ".", "In", "our", "work", ",", "we", "focus", "on", "the", "problem", "that", "how", "to", "determine", "the", "ranks", "of", "the", "components", "retrieved", "by", "user", ".", "Factors", "which", "can", "influence", "the", "ranking", "are", "extracted", "and", "identified", "through", "the", "analysis", "of", "ER-Diagram", "of", "facet-based", "component", "library", "system", ".", "In", "this", "paper", ",", "a", "mathematical", "model", "of", "weighted", "ranking", "algorithm", "is", "proposed", "and", "the", "timing", "of", "ranks", "calculation", "is", "discussed", ".", "Experiment", "results", "show", "that", "this", "algorithm", "greatly", "improves", "the", "efficiency", "of", "component", "retrieval", "system", ".", "A", "high", "efficiency", "retrieval", "system", "for", "software", "component", "library", "is", "important", "for", "the", "reuse", "of", "software", "components", ".", "The", "point", "of", "high", "efficiency", "is", "not", "that", "the", "time", "performance", "in", "one", "matching", "or", "retrieving", "process", "which", "can", "be", "measured", "by", "how", "many", "seconds", "or", "how", "many", "milliseconds", "elapsed", ",", "but", "that", "the", "efficiency", "to", "make", "the", "component", "consumers", "be", "able", "to", "find", "what", "they", "need", "as", "soon", "as", "possible", ",", "even", "though", "the", "former", "is", "the", "basis", "of", "the", "latter", ".", "No", "matter", "accuracy", "matching", "or", "fuzzy", "matching", ",", "our", "component", "retrieval", "system", "usually", "simply", "lists", "out", "all", "the", "retrieval", "results", "without", "any", "kind", "of", "ranking", ",", "or", "at", "least", "without", "a", "systematic", "ranking", ".", "Users", "have", "to", "view", "the", "detail", "information", "of", "all", "the", "retrieval", "results", "one", "by", "one", "to", "find", "out", "which", "is", "the", "best", "to", "fit", "their", "requirements", ",", "or", "else", "they", "have", "to", "adjust", "their", "query", "conditions", "to", "retrieve", "again", ".", "If", "there", "are", "a", "large", "number", "of", "components", "retrieved", "from", "the", "component", "library", ",", "it", "could", "be", "a", "tough", "and", "torturous", "experience", "to", "find", "a", "proper", "component", ".", "However", ",", "it", "'s", "a", "fact", "that", "there", "'s", "a", "matching", "degree", "between", "the", "query", "conditions", "and", "retrieval", "results", ".", "The", "matching", "degree", "is", "just", "the", "similarity", "and", "relevancy", "between", "the", "query", "condition", "and", "its", "retrieval", "results", ".", "Only", "when", "we", "rank", "the", "retrieval", "results", "by", "the", "matching", "degree", "as", "the", "Web", "search", "engines", "can", "component", "consumers", "easily", "find", "what", "they", "need", ".", "They", "only", "have", "to", "compare", "the", "first", "several", "retrieval", "results", "but", "not", "all", "of", "them", ".", "According", "to", "the", "discussion", "above", ",", "it", "'s", "clear", "that", "a", "formula", "to", "calculate", "the", "matching", "degree", "and", "its", "corresponding", "ranking", "algorithm", ",", "which", "can", "greatly", "improve", "the", "retrieval", "efficiency", "for", "software", "component", "library", ",", "are", "needed", ".", "In", "this", "paper", ",", "we", "propose", "a", "weighted", "ranking", "algorithm", "for", "facet-based", "component", "retrieval", "system", ".", "This", "algorithm", "has", "been", "implemented", "in", "a", "software", "component", "library", ",", "called", "DLCL", ",", "and", "greatly", "improves", "the", "efficiency", "of", "the", "retrieval", "system", ".", "2.1", "Existing", "Retrieval", "Methods", "for", "Component", "Library", "Retrieval", "of", "software", "components", "is", "a", "core", "technique", "of", "component", "library", ".", "Today", "there", "are", "lots", "of", "retrieval", "methods", "for", "software", "component", "library", ".", "The", "main", "are", "as", "follows", "-LSB-", "1", ",", "2", "-RSB-", ":", "-LRB-", "1", "-RRB-", "Specification", "matching", "method", ";", "-LRB-", "2", "-RRB-", "AI", "Based", "method", ";", "-LRB-", "3", "-RRB-", "Information", "science", "method", ";", "-LRB-", "4", "-RRB-", "Hypertext", "browsing", "method", ".", "As", "to", "the", "four", "methods", ",", "each", "has", "its", "own", "features", "and", "there", "'s", "no", "a", "general", "formula", "to", "calculate", "the", "matching", "degree", ".", "For", "example", ",", "specification", "matching", "method", "uses", "formal", "specifications", "to", "describe", "the", "behavior", "of", "software", "components", "and", "relies", "on", "theorem", "proving", "to", "determine", "match", "and", "mismatch", ".", "AI", "Based", "method", "relies", "on", "the", "use", "of", "AI", "planning", "techniques", "to", "automatically", "search", "software", "components", "in", "component", "library", ".", "So", "we", "have", "to", "use", "different", "calculating", "strategies", "to", "calculate", "the", "matching", "degree", "of", "each", "retrieval", "method", ".", "Among", "the", "retrieval", "methods", "discussed", "above", ",", "information", "science", "method", "is", "widely", "used", "in", "practice", ".", "Information", "science", "method", "usually", "comprises", "several", "different", "retrieval", "methods", "which", "are", "attribute-value", ",", "enumerated", ",", "faceted", ",", "and", "keyword", "method", ".", "Of", "the", "four", "methods", ",", "facet-based", "component", "retrieval", "method", "has", "been", "proved", "to", "be", "an", "effective", "way", "for", "retrieving", "and", "has", "been", "widely", "adopted", "by", "component", "library", "systems", ".", "In", "the", "following", "section", ",", "we", "'ll", "discuss", "the", "facet-based", "retrieval", "method", ".", "505-049", "274", "2.2", "Facet-based", "Retrieval", "Method", "A", "component", "classification", "is", "a", "set", "of", "-LCB-", "facet", ",", "facet", "term", "-RCB-", "pairs", ",", "also", "called", "descriptors", "-LSB-", "3", "-RSB-", ".", "Reusable", "software", "components", "-LRB-", "RSC", "-RRB-", "are", "classified", "by", "assigning", "appropriate", "facet", "terms", "for", "all", "applicable", "facets", ".", "The", "objective", "in", "classifying", "the", "RSC", "is", "to", "make", "it", "possible", "for", "all", "users", "who", "might", "use", "the", "RSC", "to", "retrieve", "it", "as", "a", "result", "of", "their", "requests", ".", "Faceted", "classification", "scheme", "is", "an", "effective", "way", "for", "classifying", "the", "components", "and", "widely", "adopted", "by", "component", "library", "systems", ".", "Correspondingly", ",", "there", "are", "several", "retrieving", "algorithms", "for", "faceted", "classification", "scheme", ".", "Some", "systems", "use", "the", "traditional", "database", "query", "techniques", "in", "facet-based", "retrieval", ".", "Wang", "YF", "proposed", "a", "tree", "matching", "algorithm", "in", "his", "PH.D", "dissertation", "-LSB-", "4", "-RSB-", ".", "This", "algorithm", "maps", "the", "component", "facets", "into", "a", "facet", "tree", "and", "maps", "the", "query", "conditions", "into", "a", "query", "tree", ".", "The", "matching", "algorithm", "deals", "with", "the", "match", "of", "the", "facet", "tree", "and", "query", "tree", "and", "calculates", "the", "matching", "cost", ".", "This", "algorithm", "bases", "on", "the", "tree", "matching", "theories", ",", "such", "as", "tree", "embedding", ",", "tree", "inclusion", ",", "and", "tree", "containment", ".", "These", "three", "tree", "matching", "methods", "are", "becoming", "more", "and", "more", "elastic", "in", "order", "to", "improve", "the", "retrieving", "recall", "while", "maintaining", "the", "precision", "to", "a", "certain", "extent", ".", "Matching", "cost", "of", "the", "tree", "matching", "will", "be", "calculated", "to", "measure", "the", "approximate", "degree", "between", "the", "facet", "trees", "of", "the", "components", "and", "the", "query", "tree", ".", "The", "data", "structure", "of", "a", "tree", "is", "represented", "by", "a", "three-tuple", ":", "T", "=", "-LRB-", "V", ",", "E", ",", "root", "-LRB-", "T", "-RRB-", "-RRB-", ",", "V", "represents", "a", "limited", "set", "of", "vectors", ",", "root", "-LRB-", "T", "-RRB-", "represents", "the", "root", "of", "the", "tree", ",", "E", "represents", "the", "set", "of", "edges", ".", "There", "'s", "no", "a", "general", "formula", "to", "calculate", "the", "matching", "degree", "due", "to", "the", "different", "feature", "of", "each", "retrieval", "method", ".", "Facet-based", "retrieval", "method", "has", "been", "widely", "adopted", "by", "existing", "component", "library", "systems", ",", "such", "as", "REBOOT", ",", "Proteus", ",", "Asset", "Library", ",", "and", "JBCL", "-LSB-", "5", "-RSB-", ".", "It", "has", "been", "proved", "to", "be", "an", "effective", "method", "to", "the", "retrieval", "of", "component", "library", "system", ".", "And", "therefore", ",", "it", "makes", "great", "sense", "to", "propose", "a", "component", "ranking", "algorithm", "for", "facet-based", "retrieval", "system", ".", "3.1", "ER-Diagram", "of", "Software", "Component", "Library", "The", "extraction", "and", "identification", "of", "the", "influential", "factors", "which", "are", "used", "to", "calculate", "the", "matching", "degree", "is", "the", "first", "step", "to", "establish", "a", "mathematical", "model", ".", "To", "Analyze", "the", "ER-Diagram", "of", "software", "component", "library", "is", "an", "effective", "way", "to", "extract", "the", "factors", ".", "An", "ER-diagram", "of", "facet-based", "component", "library", "was", "given", "below", ":", "Producer", "Provide", "Consume", "r", "Component", "Reuse", "Facet", "Term", "Describe", "Feedback", "Summary", "Feedback", "1", "n", "1", "1", "1", "1", "n", "n", "n", "n", "m", "m", "Relate", "n", "m", "Include", "Describe", "Fig.", "1", ".", "ER-Diagram", "of", "Component", "Library", "Entities", "list", ":", "Component", ":", "component", "is", "the", "basic", "and", "primary", "entity", "in", "component", "library", ".", "Besides", "the", "attributes", ",", "there", "are", "facet-term", "pairs", "and", "information", "summary", "to", "describe", "a", "component", ".", "User", "Feedback", ":", "an", "opinion", ",", "a", "comment", "or", "a", "score", "provided", "by", "users", "after", "they", "have", "used", "a", "component", ".", "Component", "Summary", ":", "an", "information", "summary", "to", "describe", "a", "component", "which", "enables", "users", "to", "know", "well", "the", "component", "quickly", ".", "Facet", ":", "facet", "and", "its", "terms", "are", "used", "to", "classify", "and", "represent", "the", "components", ".", "3.2", "Factors", "of", "Weighted", "Ranking", "Algorithm", "As", "to", "a", "facet-based", "component", "library", "system", ",", "facet", "is", "the", "most", "important", "method", "to", "classify", "and", "represent", "the", "components", ".", "Correspondingly", ",", "facet-based", "retrieval", "methods", ",", "such", "as", "facet", "tree", "matching", "method", ",", "are", "important", "for", "the", "component", "retrieval", "system", ".", "The", "matching", "degree", "between", "facet", "tree", "and", "query", "tree", "is", "of", "much", "importance", "for", "ranking", ".", "However", ",", "matching", "degree", "of", "facet", "is", "not", "the", "only", "factor", "which", "is", "able", "to", "influence", "the", "ranking", ".", "Retrieval", "system", "of", "component", "library", "usually", "has", "two", "search", "modes", ":", "simple", "query", "and", "complex", "query", ".", "Simple", "query", "just", "simply", "uses", "the", "traditional", "database", "query", "method", "to", "match", "the", "Attribute-Valued", "pairs", ".", "In", "contrast", ",", "complex", "query", "is", "a", "much", "more", "effective", "way", "which", "combines", "several", "query", "methods", "together", "to", "match", "different", "kinds", "of", "component", "information", ".", "And", "therefore", ",", "275", "we", "should", "take", "other", "factors", "into", "account", "besides", "the", "facet", "for", "ranking", "the", "retrieval", "results", ".", "According", "to", "the", "analysis", "of", "ER-Diagram", "above", ",", "we", "can", "extract", "some", "other", "factors", "which", "are", "able", "to", "influence", "the", "ranking", "of", "component", "retrieval", "results", "while", "using", "the", "complex", "query", ".", "Attributes", "of", "component", ",", "such", "as", "component", "name", ",", "can", "be", "used", "to", "match", "the", "keywords", "in", "the", "query", "conditions", ".", "The", "matching", "degree", "of", "Attribute-Valued", "pairs", "should", "be", "an", "influential", "factor", "for", "ranking", ".", "Summary", "of", "component", "can", "also", "be", "used", "to", "match", "the", "query", "conditions", ".", "Query", "conditions", "usually", "consist", "of", "several", "keywords", ".", "The", "density", ",", "prominence", ",", "and", "position", "of", "keywords", "within", "the", "component", "summary", "will", "influence", "the", "ranking", "of", "components", ".", "The", "keyword", "density", "is", "just", "the", "number", "of", "occurrences", "of", "the", "keywords", "within", "the", "component", "summary", "divided", "by", "the", "total", "number", "of", "words", ".", "Keyword", "prominence", "is", "related", "to", "the", "location", "of", "keywords", "in", "the", "summary", ".", "For", "example", ",", "keywords", "placed", "at", "the", "beginning", "of", "the", "summary", "maybe", "carry", "more", "weight", "than", "those", "towards", "the", "end", "of", "it", ".", "User", "feedback", "of", "a", "component", "is", "very", "useful", "for", "other", "users", "who", "want", "to", "use", "it", "to", "evaluate", "the", "quality", "and", "other", "features", "of", "the", "component", ".", "They", "can", "acquire", "much", "more", "objective", "description", "and", "useful", "information", "about", "the", "component", "besides", "the", "component", "attributes", "and", "summary", ".", "How", "many", "times", "the", "component", "information", "has", "been", "visited", "and", "how", "many", "times", "the", "component", "has", "been", "downloaded", "for", "reusing", "should", "also", "be", "taken", "into", "account", "as", "the", "factors", "to", "calculate", "the", "matching", "degree", "for", "ranking", ".", "They", "reflect", "the", "popularity", "and", "reusability", "of", "the", "component", "from", "another", "aspect", ".", "3.3", "Mathematical", "Model", "Retrieval", "results", "consist", "of", "a", "collection", "of", "components", "matching", "the", "query", "conditions", ":", "Definition", "1", ":", "Components", "-LRB-", "C", "1", ",", "C", "2", ",", "...", ",", "C", "i", ",", "...", ",", "Cn", "-RRB-", ";", "-LRB-", "n", "N", ",", "n1", "-RRB-", "It", "makes", "no", "sense", "to", "discuss", "the", "circumstance", "of", "empty", "retrieval", "results", ",", "since", "that", "we", "are", "going", "to", "discuss", "the", "ranking", "of", "component", "lists", ".", "Accordingly", ",", "each", "component", "has", "a", "rank", "value", ":", "Definition", "2", ":", "Ranks", "-LRB-", "R", "1", ",", "R", "2", ",", "...", ",", "R", "i", ",", "...", ",", "Rn", "-RRB-", ";", "-LRB-", "n", "N", ",", "n1", "-RRB-", "The", "query", "condition", "consists", "of", "a", "collection", "of", "keywords", ":", "Definition", "3", ":", "Keywords", "-LRB-", "K", "1", ",", "K", "2", ",", "...", ",", "K", "i", ",", "...", ",", "K", "n0", "-RRB-", ";", "-LRB-", "n", "0", "N", ",", "n", "0", "1", "-RRB-", "Each", "component", "is", "described", "by", "a", "set", "of", "Attribute-Valued", "pairs", ":", "Definition", "4", ":", "Attributes", "-LRB-", "A", "1", ",", "A", "2", ",", "...", ",", "A", "i", ",", "...", ",", "A", "n1", "-RRB-", ";", "-LRB-", "n", "1", "N", ",", "n", "1", "1", "-RRB-", "Besides", "with", "Attribute-Valued", "pairs", ",", "components", "are", "also", "classified", "and", "represented", "by", "a", "set", "of", "facets", "and", "their", "terms", ":", "Definition", "5", ":", "Facets", "-LRB-", "F", "1", ",", "F", "2", ",", "...", ",", "F", "i", ",", "...", ",", "F", "n2", "-RRB-", ";", "-LRB-", "n", "2", "N", ",", "n", "2", "1", "-RRB-", "Summary", "of", "component", "information", "differs", "from", "Attribute-Valued", "pairs", ".", "It", "provides", "a", "comprehensive", "description", "of", "a", "component", "in", "context", ".", "Definition", "6", ":", "Summary", "-LRB-", "S", "-RRB-", ";", "User", "feedback", "includes", "all", "the", "comments", "and", "feedback", "to", "a", "specific", "component", ":", "Definition", "7", ":", "User", "Feedback", "-LRB-", "U", "1", ",", "U", "2", ",", "...", ",", "U", "i", ",", "...", ",", "U", "n3", "-RRB-", ";", "-LRB-", "n", "3", "N", ",", "n", "3", "1", "-RRB-", "User", "feedback", "must", "be", "analyzed", "and", "evaluated", "to", "a", "relative", "number", ".", "We", "use", "E", "to", "represent", "the", "Evaluation", "number", "of", "user", "feedback", ".", "Definition", "8", ":", "E", "=", "Evaluate", "-LRB-", "User", "Feedback", "-RRB-", ".", "Definition", "9", ":", "Visited", "times", "of", "a", "component", ":", "Visited", "times", "-LRB-", "V", "-RRB-", ";", "Definition", "10", ":", "Downloaded", "times", "of", "a", "component", ":", "Downloaded", "times", "-LRB-", "D", "-RRB-", ";", "We", "have", "listed", "out", "all", "the", "influential", "factors", "above", ",", "which", "constitute", "a", "six-tuple", ":", "Factors", "-LRB-", "A", ",", "F", ",", "S", ",", "U", ",", "V", ",", "D", "-RRB-", ";", "Their", "influential", "weights", "differ", "from", "each", "other", "according", "to", "their", "feature", "and", "importance", ":", "Definition", "11", ":", "Weights", "-LRB-", "W", "A", ",", "W", "F", ",", "W", "S", ",", "W", "U", ",", "W", "V", ",", "W", "D", "-RRB-", ";", "-LRB-", "0W", "A", ",", "W", "F", ",", "W", "S", ",", "W", "U", ",", "W", "V", ",", "W", "D", "1", ",", "W", "A", "+", "W", "F", "+", "W", "S", "+", "W", "U", "+", "W", "V", "+", "W", "D", "=", "1", "-RRB-", "W", "A", "represents", "the", "weight", "of", "Attributes", ";", "W", "F", "represents", "the", "weight", "of", "Facets", ";", "W", "S", ",", "W", "U", ",", "W", "V", ",", "and", "W", "D", "also", "represent", "the", "weight", "of", "corresponding", "factor", "discussed", "above", ".", "There", "are", "several", "functions", "for", "calculating", "the", "matching", "degree", "of", "some", "factors", ".", "The", "core", "calculating", "formula", "of", "each", "function", "relies", "on", "its", "corresponding", "matching", "algorithm", ".", "Functions", "Formulas", "Summary", "F", "S", "-LRB-", "Keywords", ",", "Summary", "-RRB-", "=", "no", "i", "S", "Ki", "match", "1", "-RRB-", ",", "-LRB-", "Facets", "F", "F", "-LRB-", "Keywords", ",", "Facets", "-RRB-", "=", "=", "no", "i", "n", "j", "Fj", "Ki", "match", "1", "2", "1", "-RRB-", ",", "-LRB-", "Attributes", "F", "A", "-LRB-", "Keywords", ",", "Attributes", "-RRB-", "=", "=", "no", "i", "n", "j", "Aj", "Ki", "match", "1", "1", "1", "-RRB-", ",", "-LRB-", "Match", "function", "of", "component", "summary", "uses", "the", "content-based", "similarity", "measurement", "algorithm", "of", "the", "search", "engine", "techniques", ".", "A", "Best-First", "algorithm", "was", "proposed", "by", "Cho", "-LSB-", "6", "-RSB-", ".", "This", "algorithm", "uses", "a", "vector", "space", "model", "to", "calculate", "the", "similarity", "between", "the", "keywords", "and", "the", "content", ".", "Its", "formula", "is", "given", "as", "following", ":", "=", "p", "k", "q", "k", "kq", "kp", "p", "q", "k", "kp", "kq", "W", "W", "W", "W", "p", "q", "sim", "2", "2", "|", "-RRB-", ",", "-LRB-", "The", "variable", "q", "represents", "the", "collection", "of", "keywords", ",", "p", "represents", "the", "content", ",", "and", "W", "kp", "represents", "the", "importance", "of", "k", "to", "a", "specific", "topic", ".", "In", "our", "mathematical", "model", ",", "variable", "q", "represents", "the", "query", "condition", ",", "and", "the", "variable", "p", "represents", "the", "summary", "of", "the", "component", "information", ".", "276", "Facet-based", "retrieving", "method", "usually", "adopts", "the", "facet", "tree", "matching", ".", "And", "therefore", ",", "its", "match", "function", "calculates", "the", "matching", "degree", "between", "the", "facet", "tree", "of", "component", "and", "the", "query", "tree", ".", "A", "formula", "to", "calculate", "the", "matching", "cost", "of", "tree", "containment", "matching", "was", "given", "by", "Xu", "-LSB-", "7", "-RSB-", ":", "Q", "=", "-LRB-", "V", ",", "E", ",", "root", "-LRB-", "Q", "-RRB-", "-RRB-", ",", "D", "=", "-LRB-", "W", ",", "F", ",", "root", "-LRB-", "D", "-RRB-", "-RRB-", "are", "two", "unordered", "label", "tree", ",", "TCostM", "-LRB-", "Q", ",", "D", "-RRB-", "represents", "the", "tree", "containment", "matching", "cost", "from", "tree", "Q", "to", "tree", "D.", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "D", "Q", "f", "f", "=", ":", "|", "min", "D", "-RRB-", "TCostM", "-LRB-", "Q", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "+", "+", "=", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-LRB-", "f", "Range", "f", "spectrum", "w", "f", "domain", "V", "v", "f", "domain", "v", "v", "label", "v", "label", "v", "f", "label", "v", "label", "f", "-RRB-", "If", "f", "is", "a", "tree", "containment", "matching", "from", "tree", "Q", "to", "tree", "D", ",", "and", "-LRB-", "f", "-RRB-", "=", "TCostM", "-LRB-", "Q", ",", "D", "-RRB-", ",", "then", "f", "is", "the", "tree", "containment", "matching", "which", "obtains", "the", "minimum", "matching", "cost", "from", "tree", "Q", "to", "tree", "D", ".", "This", "definition", "could", "be", "also", "applied", "to", "the", "containment", "matching", "between", "tree", "and", "forest", "or", "between", "forest", "and", "forest", ".", "As", "to", "the", "match", "function", "of", "component", "attributes", ",", "we", "just", "use", "the", "traditional", "database", "query", "methods", "to", "deal", "with", "it", ".", "E", ",", "V", ",", "and", "D", "are", "three", "ranking", "factors", "without", "any", "relation", "to", "query", "keywords", ".", "Even", "though", "they", "are", "numbers", ",", "we", "could", "not", "use", "them", "directly", "for", "ranking", ".", "Functions", "should", "be", "provided", "to", "transform", "them", ".", "Functions", "Evaluation", "of", "Feedback", "F", "E", "-LRB-", "E", "-RRB-", "Visited", "Times", "F", "V", "-LRB-", "V", "-RRB-", "Downloaded", "Times", "F", "D", "-LRB-", "D", "-RRB-", "According", "to", "the", "discussion", "above", ",", "we", "finally", "draw", "out", "a", "very", "simple", "formula", "to", "calculate", "the", "rank", "for", "each", "component", ":", "Rank", "=", "F", "A", "W", "A", "+", "F", "F", "W", "F", "+", "F", "S", "W", "S", "+", "F", "E", "W", "E", "+", "F", "V", "W", "V", "+", "F", "D", "W", "D", "We", "can", "use", "matrix", "operation", "to", "represent", "the", "calculation", "of", "rank", "value", "for", "each", "component", "in", "the", "retrieval", "results", ".", "There", "are", "n", "components", "and", "6", "influential", "factors", ".", "F", "6", "n", "W", "1", "6", "=", "R", "1", "n", ":", "=", "n", "i", "D", "V", "E", "S", "F", "A", "Dn", "Vn", "En", "Sn", "Fn", "An", "Di", "Vi", "Ei", "Si", "Fi", "Ai", "D", "V", "E", "S", "F", "A", "D", "V", "E", "S", "F", "A", "R", "R", "R", "R", "W", "W", "W", "W", "W", "W", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "F", "M", "M", "M", "M", "M", "M", "M", "M", "M", "M", "M", "M", "M", "M", "2", "1", "2", "2", "2", "2", "2", "2", "1", "1", "1", "1", "1", "1", "We", "specify", "the", "weights", "with", "experiential", "values", "at", "the", "very", "beginning", ",", "and", "then", "use", "the", "data", "mining", "technology", "to", "analyze", "the", "user", "logs", "to", "dynamically", "and", "iteratively", "adjust", "those", "values", ".", "3.4", "Timing", "of", "Ranks", "Calculation", "It", "'s", "time", "for", "us", "to", "determine", "when", "to", "deal", "with", "the", "calculation", "of", "ranks", ",", "since", "that", "we", "have", "designed", "how", "to", "deal", "with", "it", ".", "It", "'s", "just", "the", "matter", "of", "the", "timing", "of", "rank", "calculation", ".", "There", "are", "two", "probable", "times", "for", "calculation", ":", "calculating", "after", "the", "retrieving", "process", "has", "been", "finished", ";", "calculating", "during", "the", "process", "of", "retrieving", ".", "Both", "of", "the", "probable", "times", "have", "their", "own", "advantages", "and", "disadvantages", ".", "If", "we", "calculate", "the", "rank", "after", "the", "retrieving", "process", "has", "been", "finished", ",", "we", "can", "deal", "with", "the", "retrieving", "and", "ranking", "separately", ".", "It", "will", "be", "much", "easier", "for", "us", "to", "design", "and", "maintain", "the", "system", ",", "since", "the", "retrieving", "and", "ranking", "process", "are", "independent", ".", "However", ",", "it", "costs", "much", "more", "time", "and", "space", "to", "calculate", "the", "rank", ".", "It", "needs", "a", "lot", "of", "memory", "space", "to", "store", "a", "large", "number", "of", "retrieval", "results", "temporally", "before", "they", "are", "ranked", ",", "and", "costs", "much", "more", "time", "to", "manage", "the", "transmission", "of", "data", "between", "storage", "devices", "and", "CPU", ".", "On", "the", "contrary", ",", "if", "we", "calculate", "the", "rank", "during", "the", "process", "of", "retrieving", ",", "we", "have", "to", "combine", "the", "retrieving", "with", "the", "ranking", "process", "completely", "or", "partly", ".", "Undoubtedly", ",", "it", "will", "be", "hard", "for", "us", "to", "implement", "and", "maintain", "the", "system", ",", "but", "it", "can", "greatly", "improve", "the", "time", "and", "the", "space", "performances", ".", "According", "to", "the", "discussion", "above", ",", "we", "can", "choose", "a", "proper", "time", "to", "calculate", "the", "ranks", ".", "Which", "solution", "we", "should", "choose", "depends", "on", "the", "requirements", "of", "the", "system", ".", "The", "solution", "which", "calculates", "the", "ranks", "during", "the", "retrieving", "process", "should", "be", "adopted", "if", "the", "time", "and", "the", "space", "performances", "are", "rigorously", "required", ".", "Our", "component", "library", "system", ",", "named", "DLCL", ",", "is", "implemented", "with", "J2EE", "platform", ".", "The", "mathematical", "model", "and", "its", "algorithm", "we", "discussed", "above", "have", "been", "implemented", "in", "this", "system", "with", "Java", ".", "Java", "is", "an", "object-oriented", "language", ".", "Its", "implementation", "consists", "of", "several", "core", "interfaces", "and", "classes", ".", "The", "core", "interfaces", ",", "classes", "and", "the", "relationship", "between", "them", "are", "demonstrated", "in", "the", "UML", "class", "diagram", ":", "277", "Fig.", "2", ".", "Class", "Diagram", "of", "Ranking", "Module", "We", "calculate", "the", "ranks", "during", "the", "retrieving", "process", "to", "improve", "the", "time", "and", "space", "performances", ",", "and", "therefore", ",", "we", "have", "to", "combine", "the", "ranking", "module", "partly", "with", "the", "retrieving", "module", ".", "In", "order", "to", "lower", "the", "coupled", "degree", "between", "these", "two", "modules", ",", "a", "callback", "mechanism", "was", "adopted", ".", "We", "define", "an", "interface", "Rank", ",", "which", "consists", "of", "only", "one", "method", "to", "calculate", "the", "ranks", ".", "RankComponentImpl", "is", "a", "class", "implementing", "the", "interface", "Rank", "to", "calculate", "the", "ranks", "of", "those", "components", "retrieved", "by", "users", ".", "The", "method", "of", "its", "concrete", "object", "can", "be", "executed", "by", "the", "searcher", "during", "the", "retrieving", "process", ".", "Class", "Component", "encapsulates", "those", "methods", "which", "provide", "the", "component", "information", ".", "ComponentMatchingDegree", "is", "a", "class", "providing", "those", "methods", "for", "calculating", "the", "matching", "degree", "between", "the", "query", "keywords", "and", "component", ".", "Each", "influential", "factor", "has", "its", "own", "strategy", "for", "calculation", ".", "There", "'s", "also", "a", "class", "Weight", ",", "which", "provides", "the", "methods", "to", "get", "the", "influential", "weight", "of", "each", "factor", ".", "In", "order", "to", "verify", "the", "efficiency", "of", "the", "component", "retrieving", "system", "which", "adoptes", "our", "weighted", "ranking", "algorithm", ",", "we", "design", "an", "experiment", "and", "carry", "out", "this", "experiment", "in", "our", "component", "library", "system", ",", "named", "DLCL", ".", "There", "are", "more", "than", "1000", "components", "in", "this", "system", ".", "Retrieving", "system", "of", "DLCL", "splits", "the", "retrieval", "results", "into", "several", "pages", "if", "there", "are", "too", "many", "components", "retrieved", ",", "and", "lists", "out", "10", "components", "per", "page", ".", "The", "experiment", "separates", "the", "users", "into", "two", "groups", ",", "group", "1", "and", "group", "2", ".", "Each", "group", "consists", "of", "10", "persons", ".", "All", "the", "users", "know", "about", "the", "knowledge", "of", "component", "reuse", "to", "a", "certain", "extent", ".", "Both", "groups", "use", "the", "facet-based", "component", "retrieving", "method", "to", "retrieve", "the", "components", ".", "Retrieval", "results", "of", "group", "1", "are", "listed", "out", "without", "any", "ranking", ",", "however", ",", "those", "of", "group", "2", "are", "ranked", "by", "our", "weighted", "ranking", "algorithm", ".", "There", "are", "several", "aspects", "to", "measure", "the", "efficiency", "of", "each", "group", ":", "how", "many", "pages", "they", "turned", ";", "how", "many", "times", "they", "had", "to", "adjust", "the", "query", "condition", ";", "and", "the", "most", "important", ",", "how", "many", "time", "was", "elapsed", "during", "the", "whole", "retrieving", "process", ".", "The", "experimental", "results", "are", "given", "in", "the", "following", "table", ":", "Group", "1", "Group", "2", "Average", "Turned", "Pages", "-LRB-", "pages", "-RRB-", "2.7", "1.4", "Average", "Adjusted", "Times", "-LRB-", "times", "-RRB-", "2.3", "1.1", "Average", "Time", "elapsed", "-LRB-", "minutes", "-RRB-", "26.6", "9.5", "The", "experimental", "results", "obviously", "shows", "that", "the", "efficiency", "of", "group", "2", "is", "greatly", "higher", "than", "group", "1", ".", "By", "applying", "the", "weighted", "ranking", "algorithm", "into", "the", "retrieving", "system", "of", "DLCL", ",", "users", "need", "n't", "turn", "too", "many", "pages", "to", "view", "and", "compare", "the", "component", "information", "or", "to", "adjust", "the", "query", "condition", "to", "improve", "the", "query", "precision", ".", "Only", "to", "view", "the", "first", "page", "of", "retrieval", "results", "will", "be", "enough", "most", "of", "the", "time", ".", "And", "therefore", ",", "it", "greatly", "saves", "the", "time", "and", "retrieval", "costs", ".", "The", "idea", "of", "Component", "Rank", "comes", "from", "computing", "fair", "impact", "factors", "of", "published", "papers", "-LSB-", "8", "-RSB-", ".", "Google", "is", "a", "web", "search", "engine", ".", "Its", "method", "can", "be", "considered", "as", "an", "HTML", "extension", "of", "the", "method", "proposed", "for", "counting", "impact", "of", "publications", ",", "called", "influence", "weight", "in", "-LSB-", "8", "-RSB-", ".", "Google", "computes", "the", "ranks", "-LRB-", "called", "PageRanks", "-RRB-", "for", "HTML", "documents", "in", "the", "Internet", "-LSB-", "9", ",", "10", "-RSB-", ".", "In", "reference", "-LSB-", "11", "-RSB-", ",", "the", "authors", "present", "the", "Component", "Rank", "model", "for", "ranking", "software", "components", ",", "and", "show", "a", "system", "for", "computing", "Component", "Rank", ".", "In", "this", "model", ",", "a", "collection", "of", "software", "components", "is", "represented", "as", "a", "weighted", "directed", "graph", "whose", "nodes", "correspond", "to", "the", "components", "and", "edges", "correspond", "to", "the", "usage", "relations", ".", "Similar", "components", "are", "clustered", "into", "one", "node", "so", "that", "effect", "of", "simply", "duplicated", "nodes", "is", "removed", ".", "The", "nodes", "in", "the", "graph", "are", "ranked", "by", "their", "weights", "which", "are", "defined", "as", "the", "elements", "of", "the", "eigenvector", "of", "an", "adjacent", "matrix", "for", "the", "directed", "graph", ".", "A", "major", "distinction", "of", "Component", "Rank", "model", "in", "-LSB-", "11", "-RSB-", "from", "PageRank", "and", "the", "influence", "weight", "in", "-LSB-", "9", ",", "10", "-RSB-", "is", "that", "Component", "Rank", "model", "explores", "similarity", "between", "components", "before", "the", "weight", "computation", ".", "In", "this", "paper", ",", "we", "also", "propose", "a", "weighted", "ranking", "algorithm", "for", "component", "retrieval", "system", ".", "This", "weighted", "ranking", "algorithm", "uses", "different", "calculating", "strategies", "according", "to", "the", "feature", "of", "facet-based", "retrieval", "methods", ".", "While", "in", "-LSB-", "11", "-RSB-", ",", "the", "authors", "employed", "only", "statical", "use", "relations", ".", "In", "this", "paper", ",", "a", "mathematical", "model", "of", "weighted", "ranking", "algorithm", "is", "proposed", "and", "the", "timing", "of", "ranks", "calculation", "is", "discussed", ".", "We", "have", "applied", "this", "ranking", "algorithm", "into", "our", "component", "library", "system", ",", "named", "DLCL", ".", "The", "experiment", "we", "carried", "out", "shows", "that", "this", "algorithm", "greatly", "improves", "the", "efficiency", "of", "component", "retrieving", "system", ",", "saving", "the", "time", "and", "retrieval", "costs", "for", "component", "reusing", ".", "278", "This", "research", "is", "partially", "supported", "by", "the", "National", "High", "Technology", "Development", "863", "Program", "under", "Grant", "No", ".", "2004AA116010", ".", "-LSB-", "1", "-RSB-", "Frakes", "WB", ",", "Pole", "TP", ",", "An", "empirical", "study", "of", "representation", "methods", "for", "reusable", "software", "components", ",", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "1994", ",", "l20", "-LRB-", "8", "-RRB-", ",", "pp617-630", "-LSB-", "2", "-RSB-", "H.", "Mili", ",", "R.", "Rada", ",", "W.", "Wang", ",", "K.", "Strickland", ",", "C.", "Boldyreff", ",", "L.", "Olsen", ",", "J.", "Witt", ",", "J.", "Heger", ",", "W.", "Scherr", ",", "and", "P.", "Elzer", ",", "Practitioner", "and", "SoftClass", ":", "A", "Comparative", "Study", "of", "Two", "Software", "Reuse", "Research", "Projects", ",", "J.", "Systems", "and", "Software", ",", "1994", ",", "27", "-LRB-", "5", "-RRB-", "-LSB-", "3", "-RSB-", "NEC", "Software", "Engineering", "Laboratory", ",", "NATO", "Standard", "for", "Management", "of", "a", "Reusable", "Software", "Component", "Library", ",", "NATO", "Communications", "and", "Information", "Systems", "Agency", ",", "1991", "-LSB-", "4", "-RSB-", "Wang", "YF", ".", "Research", "on", "retrieving", "reusable", "components", "classified", "in", "faceted", "scheme", "-LSB-", "Ph.D.", ".", "Thesis", "-RSB-", ".", "Shanghai", ":", "Fudan", "University", ",", "2002", ".", "-LSB-", "5", "-RSB-", "Chang", "JC", ",", "et", "al.", ".", "Representation", "and", "Retrieval", "of", "Reusable", "Software", "Components", "-LSB-", "J", "-RSB-", ".", "Computer", "Science", ",", "1999", ",", "26", "-LRB-", "5", "-RRB-", ":", "41-48", ".", "-LSB-", "6", "-RSB-", "Cho", "J", ",", "Garcia-Molina", "H", ",", "Page", "L.", "Efficient", "Crawling", "Through", "URL", "Ordering", "-LSB-", "J", "-RSB-", ".", "Computer", "Networks", ",", "1998", ",", "30", "-LRB-", "1", "~", "7", "-RRB-", ":", "161-172", "-LSB-", "7", "-RSB-", "Xu", "RZ", ",", "et", "al.", ".", "Research", "on", "Matching", "Algorithm", "for", "XML-Based", "Software", "Component", "Query", ",", "Journal", "of", "Software", ",", "2003", ",", "14", "-LRB-", "7", "-RRB-", ":", "1195-1202", ".", "-LSB-", "8", "-RSB-", "G.", "Pinski", "and", "F.", "Narin", ".", "``", "Citation", "Influence", "for", "Journal", "Aggregates", "of", "Scientific", "Publications", ":", "Theory", ",", "with", "Application", "to", "the", "Literature", "of", "Physics", "''", ".", "Information", "Processing", "and", "Management", ",", "12", "-LRB-", "5", "-RRB-", ":", "297.312", ",", "1976", ".", "-LSB-", "9", "-RSB-", "L.", "Page", ",", "S.", "Brin", ",", "R.", "Motwani", ",", "and", "T.", "Winograd", ".", "``", "The", "PageRank", "Citation", "Ranking", ":", "Bringing", "Order", "to", "the", "Web", "''", ".", "Technical", "Report", "of", "Stanford", "Digital", "Library", "Technologies", "Project", ",", "1998", ".", "``", "http://www-db", ".", "stanford.edu/.backrub/", "pageranksub.ps", "''", ".", "-LSB-", "10", "-RSB-", "J.", "Kleinberg", ".", "``", "Authoritative", "Sources", "in", "a", "Hyperlinked", "Environment", "''", ".", "Journal", "of", "the", "ACM", ",", "46", "-LRB-", "5", "-RRB-", ":", "604.632", ",", "1999", ".", "-LSB-", "11", "-RSB-", "Katsuro", "Inoue", ",", "Reishi", "Yokomori", ",", "Hikaru", "Fujiwara", ",", "Tetsuo", "Yamamoto", ",", "Makoto", "Matsushita", ",", "Shinji", "Kusumoto", ":", "Component", "Rank", ":", "Relative", "Significance", "Rank", "for", "Software", "Component", "Search", ".", "ICSE", "2003", ":", "14-24", "279"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["component rank", "retrieval system", "matching degree", "facet", "ranking algorithm", "component retrieval", "component library"], "abstractive_keyphrases": ["and component library", "facet-based component retrieval", "weighted ranking algorithm"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "29", "document": ["An", "Analytical", "Model", "Based", "On", "G/M/1", "With", "Self-Similar", "Input", "To", "Provide", "End-To-End", "Qos", "In", "3G", "Networks", "The", "dramatic", "increase", "in", "demand", "for", "wireless", "Internet", "access", "has", "lead", "to", "the", "introduction", "of", "new", "wireless", "architectures", "and", "systems", "including", "3G", ",", "Wi-Fi", "and", "WiMAX", ".", "3G", "systems", "such", "as", "UMTS", "and", "CDMA2000", "are", "leaning", "towards", "an", "all-IP", "architecture", "for", "transporting", "IP", "multimedia", "services", ",", "mainly", "due", "to", "its", "scalability", "and", "promising", "capability", "of", "inter-working", "heterogeneous", "wireless", "access", "networks", ".", "During", "the", "last", "ten", "years", ",", "substantial", "work", "has", "been", "done", "to", "understand", "the", "nature", "of", "wired", "IP", "traffic", "and", "it", "has", "been", "proven", "that", "IP", "traffic", "exhibits", "self-similar", "properties", "and", "burstiness", "over", "a", "large", "range", "of", "time", "scales", ".", "Recently", ",", "because", "of", "the", "large", "deployment", "of", "new", "wireless", "architectures", ",", "researchers", "have", "focused", "their", "attention", "towards", "understanding", "the", "nature", "of", "traffic", "carried", "by", "different", "wireless", "architecture", "and", "early", "studies", "have", "shown", "that", "wireless", "data", "traffic", "also", "exhibits", "strong", "long-range", "dependency", ".", "Thus", ",", "the", "classical", "tele-traffic", "theory", "based", "on", "a", "simple", "Markovian", "process", "can", "not", "be", "used", "to", "evaluate", "the", "performance", "of", "wireless", "networks", ".", "Unfortunately", ",", "the", "area", "of", "understanding", "and", "modeling", "of", "different", "kinds", "of", "wireless", "traffic", "is", "still", "immature", "which", "constitutes", "a", "problem", "since", "it", "is", "crucial", "to", "guarantee", "tight", "bound", "QoS", "parameters", "to", "heterogeneous", "end", "users", "of", "the", "mobile", "Internet", ".", "In", "this", "paper", ",", "we", "make", "several", "contributions", "to", "the", "accurate", "modeling", "of", "wireless", "IP", "traffic", "by", "presenting", "a", "novel", "analytical", "model", "that", "takes", "into", "account", "four", "different", "classes", "of", "self-similar", "traffic", ".", "The", "model", "consists", "of", "four", "queues", "and", "is", "based", "on", "a", "G/M/1", "queueing", "system", ".", "We", "analyze", "it", "on", "the", "basis", "of", "priority", "with", "no", "preemption", "and", "find", "exact", "packet", "delays", ".", "To", "date", ",", "no", "closed", "form", "expressions", "have", "been", "presented", "for", "G/M/1", "with", "priority", ".", "C.", "2.3", ".", "-LSB-", "Computer", "Communication", "Networks", "-RSB-", ":", "Network", "Management", "G.", "3", ".", "-LSB-", "Mathematics", "of", "Computing", "-RSB-", ":", "Queueing", "Theory", ",", "Markov", "Processes", "Theory", ",", "Design", ",", "Performance", ",", "Reliability", "During", "the", "past", "decade", ",", "researchers", "have", "made", "significant", "efforts", "to", "understand", "the", "nature", "of", "Internet", "traffic", "and", "it", "has", "been", "proven", "that", "Internet", "traffic", "exhibits", "self-similar", "properties", ".", "The", "first", "study", ",", "which", "stimulated", "research", "on", "self-similar", "traffic", ",", "was", "based", "on", "measurements", "of", "Ethernet", "traffic", "at", "Bellcore", "-LSB-", "1", "-RSB-", ".", "Subsequently", ",", "the", "self-similar", "feature", "has", "been", "discovered", "in", "many", "other", "types", "of", "Internet", "traffic", "including", "studies", "on", "Transmission", "Control", "Protocol", "-LRB-", "TCP", "-RRB-", "-LSB-", "2", ",", "3", "-RSB-", ",", "WWW", "traffic", "-LSB-", "4", "-RSB-", ",", "VBR", "video", "-LSB-", "5", "-RSB-", "and", "Signaling", "System", "No", "7", "-LSB-", "6", "-RSB-", ".", "Deeper", "studies", "into", "the", "characteristics", "of", "Internet", "traffic", "has", "discovered", "and", "investigated", "various", "properties", "such", "as", "self-similarity", "-LSB-", "7", "-RSB-", ",", "long-range", "dependence", "-LSB-", "8", "-RSB-", "and", "scaling", "behavior", "at", "small", "time-scale", "-LSB-", "9", "-RSB-", ".", "The", "references", "-LSB-", "10", ",", "11", "-RSB-", "provide", "two", "extensive", "bibliographies", "on", "self-similarity", "and", "long-range", "dependence", "research", "covering", "both", "theoretical", "and", "applied", "papers", "on", "the", "subject", ".", "Concurrently", ",", "over", "the", "past", "few", "years", ",", "we", "have", "witnessed", "a", "growing", "popularity", "of", "Third", "Generation", "Systems", "-LRB-", "3G", "-RRB-", ",", "which", "have", "been", "designed", "to", "provide", "high-speed", "data", "services", "and", "multimedia", "applications", "over", "mobile", "personal", "communication", "networks", ".", "The", "Universal", "Mobile", "Telecommunication", "System", "-LRB-", "UMTS", "-RRB-", "is", "the", "predominant", "global", "standard", "for", "3G", "developed", "by", "Third", "Generation", "Partnership", "Project", "-LRB-", "3GPP", "-RRB-", "-LSB-", "12", "-RSB-", ".", "The", "UMTS", "architecture", "is", "shown", "in", "Fig.", "1", ".", "It", "consists", "of", "two", "service", "domains", ",", "a", "Circuit", "Switched", "-LRB-", "CS", "-RRB-", "service", "domain", "and", "a", "Packet", "Switched", "-LRB-", "PS", "-RRB-", "service", "domain", ",", "which", "is", "of", "interest", "in", "this", "paper", ".", "In", "the", "PS", "service", "domain", ",", "a", "UMTS", "network", "connects", "to", "a", "public", "data", "network", "-LRB-", "PDN", "-RRB-", "through", "Serving", "GPRS", "Support", "node", "-LRB-", "SGSN", "-RRB-", "and", "Gateway", "GPRS", "support", "node", "-LRB-", "GGSN", "-RRB-", ".", "3GPP", "has", "defined", "four", "different", "QoS", "classes", "for", "UMTS", ";", "-LRB-", "1", "-RRB-", "Conversational", "-LRB-", "2", "-RRB-", "Interactive", "-LRB-", "3", "-RRB-", "Streaming", "and", "-LRB-", "4", "-RRB-", "Background", ",", "conversational", "being", "the", "most", "delay-sensitive", "and", "background", "the", "least", "delay", "sensitive", "class", "-LSB-", "12", "-RSB-", ".", "With", "the", "increasing", "demand", "of", "Internet", "connectivity", "and", "the", "flexibility", "and", "wide", "deployment", "of", "IP", "technologies", ",", "there", "has", "emerged", "a", "paradigm", "shift", "towards", "IP-based", "solutions", "for", "wireless", "networking", "-LSB-", "13", "-RSB-", ".", "Several", "Wireless", "IP", "architectures", "have", "been", "proposed", "-LSB-", "17-23", "-RSB-", "based", "on", "three", "main", "IP", "QoS", "models", ",", "IntServ", "-LSB-", "14", "-RSB-", ",", "DiffServ", "-LSB-", "15", "-RSB-", "and", "MPLS", "-LSB-", "16", "-RSB-", ".", "3GPP", "has", "also", "recently", "introduced", "a", "new", "domain", "called", "IP", "Multimedia", "Subsystem", "-LRB-", "IMS", "-RRB-", "for", "UMTS", ".", "The", "main", "objective", "of", "IMS", "is", "to", "deliver", "innovative", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MobiWAC", "'", "06", ",", "October", "2", ",", "2006", ",", "Torremolinos", ",", "Malaga", ",", "Spain", ".", "Copyright", "2006", "ACM", "1-59593-488-X", "/", "06/0010", "...", "$", "5.00", ".", "180", "Fig.", "1", ":", "A", "Simplified", "UMTS", "Network", "Architecture", "and", "cost-effective", "services", "such", "as", "IP", "telephony", ",", "media", "streaming", "and", "multiparty", "gaming", "by", "providing", "IP", "connectivity", "to", "every", "mobile", "device", "-LSB-", "24", "-RSB-", ".", "In", "the", "light", "of", "this", ",", "researchers", "have", "recently", "focused", "on", "understanding", "the", "nature", "of", "wireless", "IP", "traffic", "and", "early", "studies", "have", "shown", "that", "wireless", "data", "traffic", "also", "exhibits", "self-similarity", "and", "long-range", "dependency", "-LSB-", "25-28", "-RSB-", ".", "Much", "of", "the", "current", "understanding", "of", "wireless", "IP", "traffic", "modeling", "is", "based", "on", "the", "simplistic", "Poisson", "model", ",", "which", "can", "yield", "misleading", "results", "and", "hence", "poor", "wireless", "network", "planning", ".", "Since", "the", "properties", "and", "behavior", "of", "self-similar", "traffic", "is", "very", "different", "from", "traditional", "Poisson", "or", "Markovian", "traffic", ",", "several", "issues", "need", "to", "be", "addressed", "in", "modeling", "wireless", "IP", "traffic", "to", "provide", "end-to-end", "QoS", "to", "a", "variety", "of", "heterogeneous", "applications", ".", "We", "begin", "by", "giving", "an", "overview", "of", "related", "work", "on", "wired", "and", "wireless", "IP", "traffic", "modeling", "along", "with", "a", "comparison", "of", "our", "model", "with", "previous", "work", ".", "In", "this", "section", ",", "we", "first", "discuss", "the", "related", "work", "which", "has", "been", "done", "in", "the", "area", "of", "performance", "evaluation", "of", "wired", "IP", "and", "Wireless", "IP", "networks", "under", "self-similar", "input", "and", "then", "we", "compare", "our", "model", "with", "the", "previous", "ones", ".", "2.1", "Previous", "Work", "on", "IP", "Traffic", "Modeling", "There", "has", "been", "much", "work", "done", "on", "Internet", "traffic", "modeling", "based", "on", "queueing", "theory", "in", "the", "presence", "of", "self-similar", "traffic", "-LSB-", "29-34", "-RSB-", ".", "In", "-LSB-", "33", "-RSB-", ",", "a", "Matrix", "Geometric", "-LRB-", "analytical", "-RRB-", "method", "is", "used", "to", "compute", "numerical", "results", "for", "a", "two", "class", "DiffServ", "link", "being", "fed", "by", "a", "Markovian", "Modulated", "Poisson", "Process", "-LRB-", "MMPP", "-RRB-", "input", ".", "A", "weakness", "of", "this", "model", "is", "that", "MMPP", "may", "require", "an", "estimation", "of", "a", "large", "number", "of", "parameters", ".", "An", "OPNET", "based", "simulation", "approach", "was", "adopted", "in", "-LSB-", "34", "-RSB-", "to", "see", "the", "impact", "of", "self-similarity", "on", "the", "performance", "evaluation", "of", "DiffServ", "networks", ".", "As", "a", "result", ",", "an", "idea", "of", "expected", "queue", "length", "was", "given", "in", "relation", "to", "the", "Hurst", "parameter", "and", "server", "utilization", ".", "It", "is", "difficult", "to", "offer", "guaranteed", "QoS", "parameters", "on", "the", "basis", "of", "such", "analysis", ".", "The", "major", "weakness", "of", "the", "majority", "of", "available", "queueing", "based", "results", "is", "that", "only", "the", "FIFO", "queueing", "discipline", "has", "been", "considered", "for", "serving", "the", "incoming", "traffic", "and", "thus", "differential", "treatment", "to", "different", "kinds", "of", "traffic", "can", "not", "be", "provided", ".", "In", "addition", ",", "the", "previous", "results", "are", "asymptotic", ".", "We", "also", "refer", "the", "readers", "to", "-LSB-", "35-39", "-RSB-", "for", "an", "overview", "of", "previous", "work", "that", "has", "been", "carried", "out", "to", "evaluate", "the", "performance", "of", "IP", "networks", ".", "The", "major", "drawback", "of", "the", "existing", "work", "is", "that", ",", "the", "queueing", "models", "considered", "are", "not", "able", "to", "capture", "the", "self-similar", "characteristics", "of", "Internet", "traffic", ".", "Furthermore", ",", "it", "is", "important", "to", "note", "that", "most", "of", "the", "previous", "work", "is", "focused", "on", "the", "analysis", "of", "one", "type", "of", "traffic", "only", "without", "discussing", "its", "affect", "on", "the", "performance", "of", "other", "kinds", "of", "network", "traffic", ".", "2.2", "Previous", "Work", "on", "Wireless", "IP", "Traffic", "Modeling", "Few", "studies", "have", "focused", "on", "wireless", "traffic", "modeling", "and", "here", "we", "discuss", "the", "most", "relevant", "work", ".", "As", "shown", "in", "Fig.", "1", ",", "the", "principle", "of", "allocation", "of", "data", "flows", "between", "end", "users", "and", "GGSN", "leads", "to", "increasing", "load", "on", "the", "network", "elements", "when", "moving", "closer", "to", "the", "GGSN", ".", "Hence", ",", "GGSN", "is", "the", "node", "most", "exposed", "to", "self-similar", "influence", "in", "UMTS", "-LSB-", "40", "-RSB-", ".", "The", "influence", "of", "self-similar", "input", "on", "GGSN", "performance", "in", "the", "UMTS", "Release", "5", "IM-subsystem", "has", "been", "analyzed", "on", "the", "basis", "of", "a", "FBM/D/1", "/", "W", "queueing", "system", "-LRB-", "FBM-Fractional", "Brownian", "Motion", "-RRB-", "in", "-LSB-", "40", "-RSB-", ".", "In", "this", "work", ",", "different", "probabilistic", "parameters", "of", "GGSN", "such", "as", "average", "queue", "length", "and", "average", "service", "rate", "were", "also", "found", ".", "The", "work", "in", "-LSB-", "41", "-RSB-", "presents", "modeling", "and", "a", "simulation", "study", "of", "the", "Telus", "Mobility", "-LRB-", "a", "commercial", "service", "provider", "-RRB-", "Cellular", "Digital", "Packet", "Data", "-LRB-", "CDPD", "-RRB-", "network", ".", "The", "collected", "results", "on", "average", "queueing", "delay", "and", "buffer", "overflow", "probability", "indicated", "that", "genuine", "traffic", "traces", "181", "produce", "longer", "queues", "as", "compared", "to", "traditional", "Poisson", "based", "traffic", "models", ".", "To", "get", "an", "overview", "of", "the", "analysis", "done", "in", "wireless", "IP", "traffic", "modeling", "with", "self-similar", "input", ",", "we", "refer", "the", "readers", "to", "-LSB-", "42-45", "-RSB-", ".", "These", "studies", "are", "merely", "based", "on", "characterization", "of", "wireless", "traffic", ".", "To", "provide", "differential", "treatment", "to", "multiple", "traffic", "classes", "with", "different", "QoS", "demands", ",", "there", "is", "a", "need", "to", "accurately", "determine", "end-to-end", "QoS", "parameters", "such", "as", "delay", ",", "jitter", ",", "throughput", ",", "packet", "loss", ",", "availability", "and", "per-flow", "sequence", "preservation", ".", "2.3", "Comparison", "of", "our", "Model", "with", "Prior", "Work", "To", "overcome", "the", "limitations", "of", "the", "previous", "work", "in", "traffic", "modeling", "-LRB-", "wired", "and", "wireless", "IP", "traffic", "-RRB-", ",", "we", "present", "a", "realistic", "and", "novel", "analytical", "model", "by", "considering", "four", "different", "classes", "of", "traffic", "that", "exhibit", "long-range", "dependence", "and", "self-similarity", ".", "Our", "model", "implements", "four", "queues", "based", "on", "a", "G/M/1", "queueing", "system", "and", "we", "analyze", "it", "on", "the", "basis", "of", "priority", "with", "no", "preemption", ".", "The", "traffic", "model", "considered", "is", "parsimonious", "with", "few", "parameters", "and", "has", "been", "studied", "in", "-LSB-", "46", "-RSB-", ".", "The", "model", "is", "furthermore", "similar", "to", "on/off", "processes", ",", "in", "particular", "to", "its", "variation", "N-Burst", "model", "studied", "in", "-LSB-", "47", "-RSB-", "where", "packets", "are", "incorporated", ".", "However", ",", "only", "a", "single", "type", "of", "traffic", "is", "considered", "in", "-LSB-", "47", "-RSB-", ".", "We", "present", "a", "novel", "analytical", "approach", "and", "make", "the", "following", "contributions", "to", "Wireless", "IP", "traffic", "modeling", ".", "Interarrival", "Time", "Calculations", ":", "We", "calculate", "the", "packet", "interarrival", "time", "distributions", "for", "the", "particular", "self-similar", "traffic", "model", "-LSB-", "46", "-RSB-", "for", "the", "first", "time", "in", "this", "paper", ".", "The", "distribution", "of", "cross", "interarrival", "time", "between", "different", "types", "of", "packets", "is", "derived", "on", "the", "basis", "of", "single", "packet", "results", ".", "Packet", "Delays", "for", "Multiple", "Self-Similar", "Traffic", "Classes", ":", "We", "consider", "a", "G/M/1", "queueing", "system", "which", "takes", "into", "account", "four", "different", "classes", "of", "self-similar", "input", "traffic", "denoted", "by", "SS/M/1", "and", "analyze", "it", "on", "the", "basis", "of", "non", "preemptive", "priority", "and", "find", "exact", "packet", "delays", ".", "To", "date", ",", "no", "closed", "form", "expressions", "have", "been", "presented", "for", "G/M/1", "with", "priority", ".", "Embedded", "Markov", "Chain", "Formulation", ":", "We", "also", "formulate", "the", "embedded", "Markov", "chain", "of", "G/M/1", "by", "considering", "all", "possible", "states", "and", "derive", "the", "corresponding", "transition", "probabilities", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "3", "and", "4", "are", "devoted", "to", "explaining", "the", "self-similar", "traffic", "model", "with", "multiple", "classes", "and", "the", "calculation", "of", "interarrival", "times", "respectively", ".", "Section", "5", "explains", "the", "procedure", "of", "formulating", "the", "embedded", "Markov", "Chain", "along", "with", "the", "derivation", "of", "packet", "delays", ".", "The", "applications", "of", "the", "model", "are", "discussed", "in", "section", "6", ".", "Finally", ",", "conclusion", "and", "future", "work", "is", "given", "in", "Section", "7", ".", "The", "traffic", "model", "considered", "here", "-LSB-", "46", "-RSB-", "belongs", "to", "a", "particular", "class", "of", "self-similar", "traffic", "models", "also", "called", "telecom", "process", "in", "-LSB-", "48", "-RSB-", ",", "recently", ".", "The", "model", "captures", "the", "dynamics", "of", "packet", "generation", "while", "accounting", "for", "the", "scaling", "properties", "of", "the", "traffic", "in", "telecommunication", "networks", ".", "Such", "models", ",", "also", "called", "infinite", "source", "models", ",", "are", "similar", "to", "on/off", "processes", "with", "heavy", "tailed", "on", "and/or", "off", "times", ".", "What", "is", "more", ",", "our", "model", "abstracts", "the", "packet", "arrival", "process", "in", "particular", "and", "facilitates", "queueing", "analysis", "by", "the", "approaches", "developed", "in", "the", "sequel", ".", "In", "the", "framework", "of", "a", "Poisson", "point", "process", ",", "the", "model", "represents", "an", "infinite", "number", "of", "potential", "sources", ".", "The", "traffic", "is", "found", "by", "aggregating", "the", "number", "of", "packets", "generated", "by", "such", "sources", ".", "Each", "source", "initiates", "a", "session", "with", "a", "heavy-tailed", "distribution", ",", "in", "particular", "a", "Pareto", "distribution", "whose", "density", "is", "given", "by", ",", "1", "-RRB-", "-LRB-", "=", "r", "b", "r", "g", "r", ">", "b", "where", "is", "related", "to", "the", "Hurst", "parameter", "by", "2", "/", "-RRB-", "3", "-LRB-", "=", "H", ".", "The", "sessions", "arrive", "according", "to", "a", "Poisson", "process", "with", "rate", ".", "The", "packets", "arrive", "according", "to", "a", "Poisson", "process", "with", "rate", ",", "locally", ",", "over", "each", "session", ".", "For", "each", "class", ",", "the", "traffic", "Y", "-LRB-", "t", "-RRB-", "measured", "as", "the", "total", "number", "of", "packets", "injected", "in", "-LSB-", "0", ",", "t", "-RSB-", "is", "found", "by", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-LRB-", "=", "t", "S", "i", "i", "i", "i", "S", "t", "R", "U", "t", "Y", "where", "denote", "the", "local", "Poisson", "process", ",", "the", "duration", "and", "the", "arrival", "time", "of", "session", "i", ",", "respectively", ".", "Hence", ",", "Y", "-LRB-", "t", "-RRB-", "corresponds", "to", "the", "sum", "of", "packets", "generated", "by", "all", "sessions", "initiated", "in", "-LSB-", "0", ",", "t", "-RSB-", "until", "the", "session", "expires", "if", "that", "happens", "before", "t", ",", "and", "until", "t", "if", "is", "does", "not", ".", "The", "stationary", "version", "of", "this", "model", "based", "on", "an", "infinite", "past", "is", "considered", "in", "calculations", "below", ".", "The", "packet", "sizes", "are", "assumed", "to", "be", "fixed", "because", "each", "queue", "corresponds", "to", "a", "certain", "type", "of", "application", "where", "the", "packets", "have", "fixed", "size", "or", "at", "least", "fixed", "service", "time", "distribution", ".", "i", "i", "i", "S", "R", "U", ",", ",", "The", "traffic", "model", "Y", "is", "long-range", "dependent", "and", "almost", "second-order", "self-similar", ";", "the", "auto", "covariance", "function", "of", "its", "increments", "is", "that", "of", "fractional", "Gaussian", "noise", ".", "Three", "different", "heavy", "traffic", "limits", "are", "possible", "depending", "on", "the", "rate", "of", "increase", "in", "the", "traffic", "parameters", "-LSB-", "46", ",", "48", "-RSB-", ".", "Two", "of", "these", "limits", "are", "well", "known", "self-similar", "processes", ",", "fractional", "Brownian", "motion", "and", "Levy", "process", ",", "which", "do", "not", "account", "for", "packet", "dynamics", "in", "particular", ".", "Packet", "interarrival", "time", "distributions", "for", "the", "particular", "self-similar", "traffic", "model", "are", "calculated", "for", "the", "first", "time", "in", "this", "paper", ".", "We", "consider", "a", "single", "type", "of", "packet", "first", ".", "The", "distributions", "of", "cross", "interarrival", "time", "between", "different", "types", "of", "packets", "are", "derived", "on", "the", "basis", "of", "single", "packet", "results", ".", "4.1", "Interarrival", "Times", "for", "a", "Single", "Class", "Although", "the", "packet", "arrival", "process", "itself", "is", "long-range", "dependent", "and", "shows", "self-similarity", ",", "the", "number", "of", "alive", "sessions", "at", "a", "period", "of", "time", ",", "say", "of", "length", "t", ",", "has", "a", "stationary", "distribution", "and", "is", "Poisson", "distributed", ".", "The", "alive", "sessions", "at", "any", "time", "can", "be", "further", "split", "into", "independent", "components", "as", "those", "session", "that", "last", "longer", "than", "t", "and", "those", "that", "expire", "before", "t", ".", "Such", "results", "are", "well", "known", "-LSB-", "49", ",", "pg", ".273", "-RSB-", "and", "will", "be", "used", "to", "derive", "the", "interarrival", "time", "distribution", "of", "the", "packets", ".", "Given", "that", "there", "is", "a", "packet", "arrival", "at", "an", "instant", "in", "time", ",", "we", "aim", "to", "find", "the", "distribution", "of", "the", "time", "until", "next", "arrival", "denoted", "by", "T", ".", "We", "will", "find", "-RRB-", "-LRB-", "t", "F", "=", ",", "for", ".", "When", "the", "event", "is", "considered", ",", "the", "information", "that", "there", "is", "a", "packet", "arrival", "is", "equivalent", "to", "the", "information", "that", "there", "is", "at", "least", "one", "session", "alive", "at", "the", "given", "instant", ".", "This", "follows", "from", "the", "assumption", "that", "local", "packet", "generation", "process", "is", "Poisson", "over", "each", "session", ".", "The", "probability", "that", "next", "interarrival", "is", "greater", "than", "t", "-RCB-", "-LCB-", "t", "T", "P", ">", "0", "t", "-RCB-", "-LCB-", "t", "T", ">", "182", "on", "a", "particular", "session", "is", "the", "same", "as", "the", "probability", "that", "the", "remaining", "time", "until", "next", "arrival", "is", "greater", "than", "t", "due", "to", "the", "memoryless", "property", "of", "exponential", "distribution", ".", "That", "is", ",", "=", ">", "-RCB-", "-LCB-", "t", "T", "P", "P", "-LCB-", "Next", "packet", "interarrival", "is", "greater", "than", "t", "|", "there", "is", "a", "packet", "arrival", "-RCB-", "=", "1", "P", "-LCB-", "Next", "packet", "interarrival", "is", "greater", "than", "t", ",", "there", "is", "at", "least", "one", "alive", "session", "-RCB-", "where", "is", "the", "probability", "that", "there", "is", "at", "least", "one", "alive", "session", ",", "in", "other", "words", "the", "utilization", "of", "an", "system", ".", "The", "event", "that", "next", "packet", "interarrival", "is", "greater", "than", "t", "can", "be", "split", "as", "follows", ":", "/", "/", "G", "M", "The", "active", "sessions", "that", "expire", "before", "t", "do", "not", "incur", "any", "new", "arrivals", ".", "The", "active", "sessions", "that", "expire", "after", "t", "do", "not", "incur", "any", "new", "arrivals", "No", "new", "session", "arrivals", "in", "t", "or", "at", "least", "one", "session", "arrival", "with", "no", "packet", "arrival", "in", "t", ".", "We", "find", "the", "probability", "that", "all", "three", "events", "occur", "at", "the", "same", "time", "by", "using", "the", "independence", "of", "a", "Poisson", "point", "process", "over", "disjoint", "sets", ".", "The", "result", "is", "-RCB-", "-LCB-", "t", "T", "P", ">", "=", "-RRB-", "-RSB-", "1", "-LRB-", "exp", "-LSB-", "-LCB-", "1", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "t", "B", "v", "A", "v", "e", "t", "e", "e", "t", "t", "-RRB-", "1", "-RSB-", "/", "-RRB-", "1", "-RRB-", "-LRB-", "-LRB-", "exp", "-LSB-", "-RRB-", "1", "-RSB-", "-RRB-", "-LRB-", "-LRB-", "exp", "-LSB-", "t", "e", "B", "v", "e", "A", "v", "t", "t", "t", "t", "-RRB-", "1", "-RSB-", "e", "-RRB-", "-LRB-", "-RRB-", "-RSB-", "-LRB-", "exp", "-LSB-", "1", "-LRB-", "exp", "-LSB-", "e", "e", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "+", "t", "t", "t", "B", "A", "A", "e", "t", "t", "t", "-RCB-", "-RRB-", "1", "-RSB-", "/", "-RRB-", "e", "1", "-RRB-", "-LRB-", "-LRB-", "-RRB-", "-RSB-", "-LRB-", "exp", "-LSB-", "1", "-LRB-", "exp", "-LSB-", "e", "e", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "+", "t", "B", "e", "t", "t", "t", "t", "B", "A", "t", "t", "where", "=", "-RRB-", "-LRB-", "t", "A", "t", "dy", "y", "g", "t", "y", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "1", "-RRB-", "+", "=", "t", "t", "t", "G", "t", "dy", "y", "yg", "B", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "2", "-RRB-", "and", "-RRB-", "-RSB-", "duration", "session", "-LSB-", "E", "exp", "-LRB-", "1", "=", "-RSB-", "-RRB-", "1", "/", "-LRB-", "exp", "-LSB-", "1", "=", "b", "because", "the", "steady", "state", "number", "in", "the", "system", "in", "/", "/", "G", "M", "queue", "is", "Poisson", "distributed", "with", "mean", "E", "-LSB-", "Session", "duration", "-RSB-", "-LSB-", "50", "-RSB-", ",", "and", "and", "b", "are", "the", "parameters", "of", "the", "session", "duration", "with", "complementary", "distribution", "function", "G", "and", "density", "1", "-RRB-", "-LRB-", "=", "r", "b", "r", "g", "b", "r", ">", "which", "is", "Pareto", ".", "4.2", "Interarrival", "Times", "for", "Multiple", "Classes", "Here", "we", "explain", "the", "detailed", "procedure", "to", "find", "out", "the", "Interarrival", "times", "for", "two", "classes", ",", "the", "Interarrival", "times", "for", "more", "than", "two", "classes", "can", "be", "found", "in", "a", "similar", "way", ".", "Let", "denote", "the", "interarrival", "time", "between", "a", "class", "i", "packet", "that", "comes", "first", "and", "a", "class", "j", "packet", "that", "follows", ",", "The", "analysis", ",", "which", "can", "be", "extended", "to", ",", "provides", "a", "method", "for", "other", "self-similar", "models", "as", "well", "provided", "that", "the", "distribution", "of", "interarrivals", "are", "available", ".", "ij", "T", ".", "2", ",", "1", ",", "=", "j", "i", "3", ",", "j", "i", "i", "T", "For", "the", "consecutive", "packet", "1", "arrival", "time", ",", "we", "have", "11", "T", ",", "-LCB-", "-RCB-", "-LCB-", "1", "11", "t", "T", "P", "t", "T", "P", ">", "=", ">", "no", "arrivals", "of", "class", "2", "in", "-RCB-", "1", "T", "=", "t", "T", "ds", "s", "f", "P", "-RRB-", "-LRB-", "-RCB-", "s", "in", "2", "class", "of", "arrivals", "no", "-LCB-", "1", "=", "t", "T", "ds", "s", "f", "s", "F", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "0", "2", "where", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "0", "2", "2", "2", "-RRB-", "-LRB-", "t", "t", "A", "v", "B", "v", "e", "e", "t", "F", "=", ".", "-RSB-", "-RRB-", "-LRB-", "exp", "-LSB-", "-RRB-", "-RSB-", "1", "-LRB-", "exp", "-LSB-", "2", "2", "2", "2", "t", "t", "t", "e", "A", "v", "e", "t", "-LRB-", "3", "-RRB-", "-RSB-", "/", "-RRB-", "1", "-RRB-", "-LRB-", "-LRB-", "exp", "-LSB-", "2", "2", "2", "t", "e", "B", "v", "t", "t", "-RRB-", "-LRB-", "2", "t", "A", "and", "-RRB-", "-LRB-", "2", "t", "B", "are", "defined", "analogously", "as", "in", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", ",", "and", "we", "used", "the", "independence", "of", "class", "1", "and", "2", "packet", "inputs", ".", "Here", ",", "0", "2", "F", "is", "found", "through", "similar", "arguments", "used", "for", "P", "-LCB-", "T", ">", "t", "-RCB-", "in", "the", "last", "subsection", ",", "without", "assuming", "that", "there", "is", "an", "alive", "session", "of", "type", "2", ".", "As", "a", "result", ",", "by", "differentiation", "we", "find", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "0", "2", "1", "11", "t", "F", "t", "f", "t", "f", "T", "T", "=", "Now", "consider", "the", "interarrival", "time", "T", "12", "occurring", "between", "a", "class", "1", "packet", "followed", "by", "a", "class", "2", "packet", ".", "For", "T", "12", ",", "we", "get", "=", "-RCB-", "-LCB-", "12", "t", "T", "P", "t", "ds", "s", "P", "s", "f", "0", "0", "2", "-RCB-", "arrived", "packet", "class1", "a", "|", "in", "1", "class", "of", "arrivals", "no", "-LCB-", "-RRB-", "-LRB-", "=", "t", "T", "ds", "s", "F", "s", "f", "0", "0", "2", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "where", "is", "the", "density", "function", "corresponding", "to", "the", "event", "that", "there", "is", "an", "arrival", "of", "class", "2", "packet", "at", "time", "s", ",", "and", "we", "used", "independence", "of", "class", "1", "and", "2", "packet", "streams", ".", "As", "a", "matter", "of", "fact", ",", "can", "be", "obtained", "by", "taking", "the", "derivative", "of", "the", "complementary", "distribution", "function", "-RRB-", "-LRB-", "0", "2", "s", "f", "-RRB-", "-LRB-", "0", "2", "s", "f", "0", "2", "F", "given", "in", "-LRB-", "3", "-RRB-", ".", "As", "a", "result", ",", "we", "get", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "12", "0", "2", "t", "F", "t", "f", "t", "f", "T", "T", "=", "183", "Similarly", ",", "it", "can", "be", "shown", "that", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "0", "1", "2", "22", "t", "F", "t", "f", "t", "f", "T", "T", "=", ",", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "2", "21", "0", "1", "t", "F", "t", "f", "t", "f", "T", "T", "=", "We", "consider", "a", "model", "of", "four", "queues", "based", "on", "G/M/1", "by", "considering", "four", "different", "classes", "of", "self-similar", "input", "traffic", "denoted", "by", "SS/M/1", ",", "and", "analyze", "it", "on", "the", "basis", "of", "priority", "with", "no", "preemption", ".", "Let", "the", "service", "time", "distribution", "have", "rate", "1", ",", "2", "3", ",", "and", "4", "for", "type", "1", ",", "type", "2", ",", "type", "3", "and", "type", "4", "packets", ",", "respectively", ",", "and", "let", "type", "1", "packets", "have", "the", "highest", "priority", "and", "type", "4", "packets", "have", "the", "lowest", "priority", ".", "5.1", "With", "Four", "Classes", "1", "/", "/", "M", "SS", "The", "usual", "embedded", "Markov", "chain", "-LSB-", "51", "-RSB-", "formulation", "of", "is", "based", "on", "the", "observation", "of", "the", "queueing", "system", "at", "the", "time", "of", "arrival", "instants", ",", "right", "before", "an", "arrival", ".", "At", "such", "instants", ",", "the", "number", "in", "the", "system", "is", "the", "number", "of", "packets", "that", "arriving", "packet", "sees", "in", "the", "queue", "plus", "packets", "in", "service", ",", "if", "any", ",", "excluding", "the", "arriving", "packet", "itself", ".", "We", "specify", "the", "states", "and", "the", "transition", "probability", "matrix", "P", "of", "the", "Markov", "chain", "with", "the", "self-similar", "model", "for", "four", "types", "of", "traffic", ".", "1", "/", "/", "M", "G", "Let", "denote", "the", "embedded", "Markov", "chain", "at", "the", "time", "of", "arrival", "instants", ".", "As", "the", "service", "is", "based", "on", "priority", ",", "the", "type", "of", "packet", "in", "service", "is", "important", "at", "each", "arrival", "instant", "of", "a", "given", "type", "of", "packet", "to", "determine", "the", "queueing", "time", ".", "Therefore", ",", "we", "define", "the", "state", "space", "as", ":", "-RCB-", "0", ":", "-LCB-", "n", "X", "n", "-RCB-", ",", ",", ",", "-RCB-", ",", ",", ",", ",", ",", "-LCB-", "-RCB-", ",", ",", ",", ",", "-LCB-", ":", "-RRB-", ",", ",", ",", ",", ",", "-LCB-", "-LRB-", "4", "3", "2", "1", "4", "3", "2", "1", "4", "3", "2", "1", "4", "3", "2", "1", "+", "=", "Z", "i", "i", "i", "i", "I", "s", "s", "s", "s", "s", "a", "a", "a", "a", "a", "s", "a", "i", "i", "i", "i", "S", "-LRB-", "4", "-RRB-", "where", "are", "labels", "to", "denote", "the", "type", "of", "arrival", ",", "are", "labels", "to", "denote", "the", "type", "of", "packet", "in", "service", ",", "are", "the", "number", "of", "packets", "in", "each", "queue", "including", "a", "possible", "packet", "in", "service", ",", "I", "denotes", "the", "idle", "state", "in", "which", "no", "packet", "is", "in", "service", "or", "queued", "and", "is", "the", "set", "of", "nonnegative", "integers", ".", "Some", "of", "the", "states", "in", "the", "state", "space", "S", "given", "in", "-LRB-", "4", "-RRB-", "have", "zero", "probability", ".", "For", "example", ",", "is", "impossible", ".", "The", "particular", "notation", "in", "-LRB-", "4", "-RRB-", "for", "S", "is", "chosen", "for", "simplicity", ",", "although", "the", "impossible", "states", "could", "be", "excluded", "from", "S.", "Each", "possible", "state", ",", "the", "reachable", "states", "from", "each", "and", "the", "corresponding", "transition", "probabilities", "will", "be", "calculated", ".", "4", "3", "2", "1", ",", ",", ",", "a", "a", "a", "a", "4", "3", "2", "1", ",", ",", ",", "s", "s", "s", "s", "4", "3", "2", "1", ",", ",", ",", "i", "i", "i", "i", "+", "Z", "-RRB-", ",", ",", ",", ",", "0", ",", "-LRB-", "2", "1", "4", "3", "1", "s", "a", "i", "i", "i", "5.2", "States", "of", "the", "Embedded", "Markov", "Chain", "The", "states", "of", "the", "Markov", "chain", "and", "the", "possible", "transitions", "with", "respective", "probabilities", "can", "be", "enumerated", "by", "considering", "each", "case", ".", "We", "will", "only", "analyze", "the", "states", "with", "non-empty", "queues", "in", "this", "paper", ".", "5.2.1", "States", "with", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "0", ",", ",", ",", "4", "3", "2", "1", "i", "i", "i", "i", "We", "can", "divide", "the", "states", "and", "transitions", "into", "256", "groups", ".", "Because", "-LRB-", "a", ",", "s", "-RRB-", "can", "occur", "4x4", "=", "16", "different", "ways", ",", "and", "the", "next", "state", "-LRB-", "p", ",", "q", "-RRB-", "can", "be", "composed", "similarly", "in", "16", "different", "ways", "as", "-RCB-", ",", ",", ",", "-LCB-", ",", "4", "3", "2", "1", "a", "a", "a", "a", "p", "a", "and", ".", "We", "will", "analyze", "only", "the", "first", "one", "in", "detail", ";", "the", "others", "follow", "similarly", ".", "-RCB-", ",", ",", ",", "-LCB-", ",", "4", "3", "2", "1", "s", "s", "s", "s", "q", "s", "5.2.2", "Transition", "from", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "2", "2", "4", "3", "2", "1", "1", "1", "4", "3", "2", "1", "s", "a", "j", "j", "j", "j", "s", "a", "i", "i", "i", "i", "This", "is", "the", "case", "where", "a", "transition", "occurs", "from", "an", "arrival", "of", "type", "1", "to", "an", "arrival", "of", "type", "2", "such", "that", "the", "first", "arrival", "has", "seen", "a", "type", "1", "packet", "in", "service", ",", "packets", "of", "type", "1", "-LRB-", "equivalently", ",", "total", "of", "queue", "1", "and", "the", "packet", "in", "service", "-RRB-", "and", "packets", "of", "type", "2", "-LRB-", "in", "this", "case", "only", "queue", "2", "-RRB-", ",", "packets", "of", "type", "3", "and", "packets", "of", "type", "4", "in", "the", "system", ".", "The", "transition", "occurs", "to", "packets", "of", "type", "1", ",", "packets", "of", "type", "2", ",", "with", "a", "type", "2", "packet", "in", "service", ",", "packets", "of", "type", "3", "and", "packets", "of", "type", "4", "in", "the", "system", ".", "Due", "to", "priority", "scheduling", ",", "an", "arrival", "of", "type", "2", "can", "see", "a", "type", "2", "packet", "in", "service", "in", "the", "next", "state", "only", "if", "all", "type", "1", "packets", "including", "the", "one", "that", "arrived", "in", "the", "previous", "state", "are", "exhausted", "during", "the", "interarrival", "time", ".", "That", "is", "why", "can", "take", "only", "the", "value", "0", "and", "exactly", "1", "i", "2", "i", "3", "i", "4", "i", "1", "j", "2", "j", "3", "j", "4", "j", "1", "j", "1", "1", "+", "i", "packets", "of", "type", "1", "are", "served", ".", "In", "contrast", ",", "the", "number", "of", "packets", "served", "from", "queue", "2", ",", "say", "k", ",", "can", "be", "anywhere", "between", "0", "and", "1", "2", "i", "as", "at", "least", "one", "type", "2", "packet", "is", "in", "the", "system", ",", "one", "being", "in", "service", ",", "when", "a", "new", "arrival", "occurs", ".", "The", "transition", "probabilities", "are", "-RRB-", "-RCB-", ",", ",", ",", ",", ",", "-LRB-", "|", "-RRB-", ",", ",", ",", ",", ",", "0", "-LRB-", "-LCB-", "1", "1", "4", "3", "2", "1", "2", "2", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "X", "s", "a", "i", "i", "k", "i", "X", "P", "n", "n", "=", "=", "+", "1", "-LCB-", "1", "+", "=", "i", "P", "served", "from", "type", "1", ",", "k", "served", "from", "type", "2", "and", "a", "type", "2", "packet", "remains", "in", "service", "during", "-RCB-", "12", "T", "where", "we", "use", "the", "fact", "that", "the", "remaining", "service", "time", "of", "a", "type", "1", "packet", "in", "service", "has", "the", "same", "exponential", "distribution", "Exp", "-LRB-", "1", "-RRB-", ",", "due", "to", "the", "memory-less", "property", "of", "a", "Markovian", "service", ".", "Therefore", ",", "for", "1", ",", ",", "0", "2", "=", "i", "k", "K", "-RRB-", "-RCB-", ",", ",", ",", ",", ",", "-LRB-", "|", "-RRB-", ",", ",", ",", ",", ",", "0", "-LRB-", "-LCB-", "1", "1", "4", "3", "2", "1", "2", "2", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "X", "s", "a", "i", "i", "k", "i", "X", "P", "n", "n", "=", "=", "+", "+", "+", "=", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "12", "2", "1", "1", "1", "2", "t", "x", "t", "T", "S", "S", "S", "dt", "dx", "ds", "t", "f", "x", "f", "s", "f", "k", "i", "where", ":", "sum", "of", "l", "independent", "service", "times", "of", "type", "m", "packets", ",", "m", "=", "1", ",", "2", ",", "l", "m", "S", "+", "Z", "l", ".", "Note", "that", "has", "an", "Erlang", "distribution", "with", "parameters", "l", "m", "S", "-RRB-", ",", "-LRB-", "m", "l", "as", "each", "service", "time", "has", "an", "exponential", "distribution", ",", "and", "the", "sum", "being", "the", "sum", "of", "several", "exponentially", "distributed", "random", "variables", "has", "a", "hypoexponential", "distribution", ".", "The", "density", "functions", "of", "all", "these", "distributions", "can", "easily", "be", "evaluated", "numerically", ".", "Similarly", ",", "we", "can", "enumerate", "all", "256", "cases", ".", "The", "results", "for", "first", "64", "cases", "are", "given", "in", "Table", "1", "in", "the", "Appendix", ".", "2", "1", "2", "1", "l", "l", "S", "S", "+", "184", "5.3", "Limiting", "Distribution", "and", "Waiting", "Times", "Steady", "state", "distribution", "as", "seen", "by", "an", "arrival", "can", "be", "found", "by", "solving", "=", "P", "using", "the", "transition", "matrix", "P", "of", "the", "Markov", "chain", "analyzed", "above", ".", "In", "practice", ",", "the", "queue", "capacity", "is", "limited", "in", "a", "router", ".", "So", ",", "the", "steady", "state", "distribution", "exists", ".", "To", "the", "best", "of", "our", "knowledge", ",", "no", "previous", "analytical", "expressions", "are", "available", "for", "the", "waiting", "time", "of", "a", "G/M/1", "queue", "with", "priority", ".", "Our", "analysis", "relies", "on", "the", "limiting", "distribution", "of", "the", "state", "of", "the", "queue", "at", "the", "arrival", "instances", ",", "which", "can", "be", "computed", "using", "the", "analysis", "given", "above", "for", "our", "self-similar", "traffic", "model", ".", "In", "general", ",", "the", "following", "analysis", "is", "valid", "for", "any", "G/M/1", "queueing", "system", "where", "the", "limiting", "distribution", "at", "the", "arrival", "instances", "can", "be", "computed", ".", "The", "expected", "waiting", "time", "for", "the", "highest", "priority", "queue", "can", "be", "found", "as", "+", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "=", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RSB-", "-LSB-", "2", "1", "4", "3", "2", "1", "1", "0", "1", "0", "0", "2", "1", "1", "1", "1", "4", "3", "2", "1", "1", "1", "0", "0", "0", "1", "1", "1", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "s", "a", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "W", "E", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "1", "-LRB-", "4", "1", "4", "3", "2", "1", "1", "0", "0", "0", "1", "4", "1", "1", "3", "1", "4", "3", "2", "1", "3", "1", "0", "0", "1", "0", "1", "1", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "s", "a", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "=", "=", "=", "=", "=", "=", "=", "=", "+", "+", "+", "where", "and", "are", "the", "respective", "capacities", "of", "each", "queue", ".", "This", "follows", "clearly", "from", "the", "fact", "that", "an", "arriving", "packet", "of", "higher", "priority", "will", "wait", "until", "all", "packets", "of", "the", "same", "priority", "as", "well", "as", "the", "packet", "in", "service", "are", "served", ".", "Depending", "on", "the", "type", "of", "the", "packet", "in", "service", ",", "we", "have", "the", "constituent", "expressions", "in", "the", "sum", ".", ",", ",", "2", "1", "J", "J", "3", "J", "4", "J", "On", "the", "other", "hand", ",", "we", "obtain", "the", "expected", "waiting", "time", "for", "the", "low", "priority", "queues", "by", "analyzing", "the", "events", "that", "constitute", "this", "delay", ".", "The", "amount", "of", "work", "in", "the", "system", "at", "any", "time", "is", "defined", "as", "the", "-LRB-", "random", "-RRB-", "sum", "of", "all", "service", "times", "that", "will", "be", "required", "by", "the", "packets", "in", "the", "system", "at", "that", "instant", ".", "The", "waiting", "time", "of", "a", "type", "2", "packet", "-LRB-", "which", "is", "2", "nd", "highest", "priority", "queue", "-RRB-", "can", "be", "written", "as", "...", "3", "2", "1", "2", "+", "+", "+", "=", "Z", "Z", "Z", "W", "-LRB-", "5", "-RRB-", "where", "Z", "1", "is", "the", "amount", "of", "work", "seen", "by", "the", "arriving", "packet", "in", "queue", "1", "and", "queue", "2", "-LRB-", "i.e", ",", "higher", "priority", "and", "equal", "priority", "-RRB-", ",", "Z", "2", "is", "the", "amount", "of", "work", "associated", "with", "higher", "priority", "-LRB-", "i.e.type", "1", "-RRB-", "packets", "arriving", "during", "Z", "1", ",", "Z", "3", "is", "the", "amount", "of", "work", "associated", "with", "type", "1", "packets", "arriving", "during", "Z", "2", ",", "and", "so", "on", ".", "As", "illustrated", "in", "Fig.", "2", ",", "the", "waiting", "time", "of", "an", "arriving", "packet", "of", "type", "2", "is", "indeed", "given", "by", "the", "total", "workload", "building", "in", "front", "of", "it", ".", "The", "arrows", "in", "the", "figure", "denote", "the", "arrival", "times", "of", "type", "1", "packets", ",", "and", "all", "the", "oblique", "lines", "have", "45", "degrees", "angle", "with", "the", "time", "axis", ".", "In", "this", "figure", "the", "waiting", "time", "is", "4", "3", "2", "1", "2", "Z", "Z", "Z", "Z", "W", "+", "+", "+", "=", "for", "example", ".", "Let", "M", "j", "denote", "the", "number", "of", "type", "j", "arrivals", "over", "Z", "i", ",", "j", "=", "1,2", ",", "...", "Then", "L", "+", "+", "+", "=", "2", "1", "1", "1", "1", "2", "M", "M", "S", "S", "Z", "W", "where", "denotes", "the", "random", "sum", "of", "M", "j", "M", "S", "1", "j", "independent", "service", "times", "of", "type", "1", "packets", ".", "Then", ",", "L", "+", "+", "+", "=", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-LSB-", "2", "1", "1", "1", "1", "2", "-RSB-", "M", "E", "S", "E", "M", "E", "S", "E", "Z", "E", "W", "E", "since", "the", "service", "times", "and", "the", "arrival", "process", "are", "independent", ".", "For", "a", "stationary", "packet", "arrival", "process", ",", "we", "get", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RSB-", "-RSB-", "|", "-LSB-", "-LSB-", "-RSB-", "-LSB-", "1", "1", "j", "j", "j", "j", "j", "Z", "E", "c", "Z", "c", "E", "Z", "M", "E", "E", "M", "E", "=", "=", "=", "due", "to", "mentioned", "independence", ",", "where", "is", "a", "constant", "particular", "to", "the", "arrival", "process", ".", "That", "is", ",", "expectation", "of", "the", "number", "of", "arrivals", "in", "any", "period", "of", "time", "is", "proportional", "to", "the", "length", "of", "that", "period", "because", "of", "stationarity", "in", "time", "and", "linearity", "of", "expectation", ".", "In", "our", "stationary", "self-similar", "traffic", "input", "process", ",", "c", "0", "1", ">", "c", "1", "is", "the", "expected", "number", "of", "arrivals", "per", "unit", "time", "which", "can", "be", "called", "the", "arrival", "rate", ",", "given", "by", "the", "product", "of", "the", "arrival", "rate", "of", "session", "arrivals", ",", "the", "arrival", "rate", "of", "packets", "over", "a", "session", ",", "and", "the", "expected", "session", "length", "-LSB-", "46", "-RSB-", ".", "Explicitly", ",", ".", "Hence", ",", "the", "expected", "waiting", "time", "reduces", "to", "-RRB-", "1", "/", "-LRB-", "1", "=", "b", "c", "L", "+", "+", "+", "=", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-LSB-", "2", "1", "1", "1", "1", "1", "1", "2", "-RSB-", "Z", "E", "c", "S", "E", "Z", "E", "c", "S", "E", "Z", "E", "W", "E", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-RRB-", "-RSB-", "-LSB-", "-RSB-", "-LSB-", "-LRB-", "-RSB-", "-LSB-", "2", "1", "1", "1", "2", "1", "1", "1", "1", "W", "E", "c", "Z", "E", "Z", "E", "Z", "E", "c", "Z", "E", "+", "=", "+", "+", "+", "=", "L", "In", "view", "of", "-LRB-", "5", "-RRB-", ",", "therefore", "we", "get", "from", "-RSB-", "-LSB-", "2", "W", "E", "+", "+", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "=", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "-RSB-", "-LSB-", "2", "2", "4", "3", "2", "1", "2", "2", "0", "1", "1", "0", "0", "1", "1", "1", "2", "4", "3", "2", "1", "2", "2", "1", "1", "0", "0", "0", "1", "1", "2", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "s", "a", "j", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "j", "W", "E", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "1", "2", "1", "4", "2", "4", "3", "2", "1", "4", "0", "1", "0", "0", "1", "2", "2", "1", "1", "3", "2", "4", "3", "2", "1", "3", "0", "1", "0", "1", "0", "2", "2", "1", "1", "-RSB-", "-LSB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "1", "-LRB-", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "W", "E", "c", "s", "a", "j", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "+", "+", "+", "+", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "Z", "4", "Z", "3", "Z", "2", "Z", "1", "time", "Work", "-LRB-", "time", "-RRB-", "Fig.", "2", "Waiting", "time", "of", "a", "type", "2", "packet", "in", "terms", "of", "Z", "j", "'s", ".", "185", "Similarly", ",", "we", "can", "directly", "write", "down", "the", "expected", "waiting", "time", "for", "a", "packet", "of", "type", "3", "-LRB-", "3", "rd", "priority", "queue", "-RRB-", "and", "type", "4", "-LRB-", "lowest", "priority", "queue", "-RRB-", ".", "The", "expected", "waiting", "time", "for", "a", "packet", "of", "type", "3", "can", "be", "found", "from", ":", "+", "+", "+", "+", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "=", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "-RSB-", "-LSB-", "2", "3", "4", "3", "2", "1", "3", "3", "0", "1", "1", "0", "0", "2", "2", "1", "1", "1", "3", "4", "3", "2", "1", "3", "3", "2", "2", "1", "0", "1", "0", "0", "1", "1", "3", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "s", "a", "j", "j", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "j", "j", "W", "E", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "-RSB-", "-LSB-", "-RRB-", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "3", "2", "2", "1", "1", "4", "3", "4", "3", "2", "1", "4", "0", "0", "1", "0", "1", "3", "3", "2", "2", "1", "1", "3", "3", "4", "3", "2", "1", "3", "3", "2", "2", "0", "0", "1", "1", "0", "1", "1", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "W", "E", "c", "c", "s", "a", "j", "j", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "j", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "+", "+", "+", "+", "+", "+", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "and", "can", "be", "determined", "from", "-RSB-", "-LSB-", "4", "W", "E", "+", "+", "+", "+", "+", "+", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "=", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "-RSB-", "-LSB-", "2", "4", "4", "3", "2", "1", "4", "4", "3", "3", "0", "1", "0", "1", "0", "2", "2", "1", "1", "1", "4", "4", "3", "2", "1", "4", "4", "3", "3", "2", "2", "1", "0", "0", "1", "0", "1", "1", "4", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "s", "a", "j", "j", "j", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "j", "j", "j", "W", "E", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "+", "+", "+", "+", "+", "+", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "-RRB-", "-LRB-", "4", "4", "4", "3", "2", "1", "4", "4", "0", "0", "0", "1", "1", "3", "3", "2", "2", "1", "1", "3", "4", "4", "3", "2", "1", "4", "4", "0", "0", "1", "1", "0", "3", "3", "2", "2", "1", "1", "1", "1", "2", "2", "3", "3", "4", "4", "1", "1", "2", "2", "3", "3", "4", "4", "s", "a", "j", "j", "j", "j", "j", "j", "j", "j", "s", "a", "j", "j", "j", "j", "j", "j", "j", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "J", "j", "-RSB-", "-LSB-", "-RRB-", "-LRB-", "4", "3", "3", "2", "2", "1", "1", "W", "E", "c", "c", "c", "+", "+", "Here", "we", "give", "an", "overview", "of", "the", "prime", "application", "of", "the", "model", ".", "3G", "systems", "such", "as", "UMTS", "and", "CDMA2000", "are", "leaning", "towards", "an", "all-IP", "network", "architecture", "for", "transporting", "IP", "multimedia", "services", "-LSB-", "52", "-RSB-", ".", "An", "all-IP", "DiffServ", "platform", "is", "the", "currently", "most", "promising", "architecture", "to", "interwork", "the", "heterogeneous", "wireless", "access", "networks", "and", "the", "Internet", "to", "provide", "broadband", "access", ",", "seamless", "global", "roaming", "and", "QoS", "guarantees", "for", "various", "IP", "multimedia", "services", "-LSB-", "53", "-RSB-", ".", "To", "transport", "UMTS", "services", "through", "IP", "networks", "without", "loosing", "end-to-end", "QoS", "provisioning", ",", "a", "consistent", "and", "efficient", "QoS", "mapping", "between", "UMTS", "services", "and", "IP", "QoS", "classes", "is", "required", ".", "According", "to", "3GPP", ",", "UMTS-to-IP", "QoS", "mapping", "is", "performed", "by", "a", "translation", "function", "in", "the", "GGSN", "router", "that", "classifies", "each", "UMTS", "packet", "flow", "and", "maps", "it", "to", "a", "suitable", "IP", "QoS", "class", "-LSB-", "52", "-RSB-", ".", "In", "order", "to", "make", "accurate", "mappings", "and", "to", "ensure", "guaranteed", "QoS", "parameters", "to", "the", "end", "user", "of", "mobile", "Internet", ",", "it", "is", "essential", "to", "being", "able", "to", "accurately", "model", "the", "end-to", "-", "end", "behavior", "of", "different", "classes", "of", "wireless", "IP", "traffic", "-LRB-", "conversational", ",", "interactive", ",", "streaming", "and", "background", "-RRB-", "passing", "through", "a", "DiffServ", "domain", ".", "Several", "queueing", "tools", "have", "been", "developed", "that", "can", "be", "implemented", "in", "IP", "routers", "within", "different", "QoS", "domains", "including", "Priority", "Queueing", "-LRB-", "PQ", "-RRB-", ",", "Custom", "Queueing", "-LRB-", "CQ", "-RRB-", ",", "Weighted", "Fair", "Queueing", "-LRB-", "WFQ", "-RRB-", ",", "Class", "Based", "Weighted", "Fair", "Queueing", "-LRB-", "CBWFQ", "-RRB-", "and", "Low-Latency", "Queueing", "-LRB-", "LLQ", "-RRB-", "-LSB-", "54", "-RSB-", ".", "Our", "model", "is", "directly", "applicable", "to", "the", "problem", "of", "determining", "the", "end-to-end", "queueing", "behavior", "of", "IP", "traffic", "through", "both", "Wired", "and", "wireless", "IP", "domains", ",", "but", "modeling", "accuracy", "is", "more", "crucial", "in", "resource", "constrained", "environments", "such", "as", "wireless", "networks", ".", "For", "example", ",", "our", "model", "is", "directly", "able", "to", "analyze", "the", "behavior", "of", "four", "different", "QoS", "classes", "of", "UMTS", "traffic", "passing", "through", "a", "DiffServ", "domain", ",", "in", "which", "routers", "are", "implemented", "with", "priority", "queueing", ".", "Thus", ",", "the", "model", "enables", "tighter", "bounds", "on", "actual", "behavior", "so", "that", "over-provisioning", "can", "be", "minimized", ".", "It", "also", "enables", "translations", "of", "traffic", "behavior", "between", "different", "kinds", "of", "QoS", "domains", "so", "that", "it", "is", "possible", "to", "map", "reservations", "made", "in", "different", "domains", "to", "provide", "session", "continuity", ".", "In", "this", "paper", ",", "we", "have", "presented", "a", "novel", "analytical", "model", "based", "on", "G/M/1", "queueing", "system", "for", "accurate", "modeling", "of", "wireless", "IP", "traffic", "behavior", "under", "the", "assumption", "of", "four", "different", "classes", "of", "self-similar", "traffic", ".", "We", "have", "analyzed", "it", "on", "the", "basis", "of", "non-preemptive", "priority", "and", "explicit", "expressions", "of", "expected", "waiting", "time", "for", "the", "corresponding", "classes", "have", "been", "derived", ".", "The", "model", "represents", "an", "important", "step", "towards", "the", "overall", "aim", "of", "finding", "realistic", "-LRB-", "under", "self-similar", "traffic", "assumptions", "-RRB-", "end-to-end", "QoS", "behavior", "-LRB-", "in", "terms", "of", "QoS", "parameters", "such", "as", "delay", ",", "jitter", "and", "throughput", "-RRB-", "of", "multiple", "traffic", "classes", "passing", "through", "heterogeneous", "wireless", "IP", "domains", "-LRB-", "IntServ", ",", "DiffServ", "and", "MPLS", "-RRB-", ".", "At", "the", "moment", ",", "we", "are", "working", "on", "the", "numerical", "analysis", "to", "find", "solutions", "to", "the", "suggested", "imbedded", "Markov", "Chain", "in", "order", "to", "find", "exact", "QoS", "parameter", "bounds", "for", "a", "given", "system", ".", "Our", "future", "work", "will", "focus", "to", "analyze", "the", "performance", "of", "different", "QoS", "domains", "implemented", "with", "different", "queueing", "disciplines", ".", "-LSB-", "1", "-RSB-", "W.", "Leland", ",", "M.", "Taqqu", ",", "W.", "Willinger", "and", "D.", "Wilson", ",", "``", "On", "the", "self-similar", "nature", "of", "Ethernet", "traffic", "-LRB-", "extended", "version", "-RRB-", "''", ",", "IEEE/ACM", "Transactions", "on", "Networking", ",", "vol", ".", "2", ".", "no.", "1", ",", "pp.", "1-15", ",", "Feb.", "1994", ".", "-LSB-", "2", "-RSB-", "V.", "Paxon", ",", "``", "Empirically", "derived", "analytical", "models", "of", "wide-area", "TCP", "connections", "''", ",", "IEEE/ACM", "Transactions", "on", "Networking", ",", "vol", ".", "2", ",", "pp", ".", "316-336", ",", "Aug.", "1994", "-LSB-", "3", "-RSB-", "V.", "Paxon", "and", "S.", "Floyd", ",", "``", "Wide-area", "traffic", ":", "the", "failure", "of", "Poisson", "modeling", "''", ",", "in", "Proc", ".", "ACM", "SIGCOMM", "94", ",", "London", ",", "U.K.", ",", "Aug.", ".", "1994", ",", "pp.", "257-268", "-LSB-", "4", "-RSB-", "M.", "Crovella", "and", "A.", "Bestavros", ",", "``", "Explaining", "World", "Wide", "Web", "Traffic", "Self-Similarity", "''", ",", "Tech", ".", "Rep.", "TR-95-015", ",", "Boston", "University", ",", "CS", "Dept", ",", "Boston", ",", "MA", "02215", ",", "Aug.", "1995", "-LSB-", "5", "-RSB-", "M.", "W.", "Garrett", "and", "W.", "Willinger", ",", "``", "Analysis", ",", "Modeling", "and", "Generation", "of", "Self-Similar", "VBR", "Video", "Traffic", "''", ",", "ACM", "Computer", "Communication", "Review", ",", "vol", ".", "24", ",", "Oct.", "1994", ",", "SIGCOMM", "94", "Symposium", "-LSB-", "6", "-RSB-", "W.", "Willinger", "et", "al", ",", "``", "Statistical", "analysis", "of", "CCSN/SS7", "traffic", "data", "from", "working", "CCS", "subnetworks", "''", ",", "IEEE", ".", "Journal", "on", "Selected", "Areas", "of", "Communication", ",", "vol", ".", "12", ",", "no.", "3", ",", "pp.", "544-551", ",", "Apr.", "1994", "-LSB-", "7", "-RSB-", "M.", "Crovella", "and", "A.", "Bestavros", ",", "``", "Self-Similarity", "in", "World", "Wide", "Web", "Traffic", ":", "Evidence", "and", "Possible", "Causes", "''", ",", "in", "ACM", "Sigmetrics", ",", "May", "1996", "-LSB-", "8", "-RSB-", "J.C", "Bolot", "and", "M.", "Grossglauser", ",", "``", "On", "the", "Relevance", "of", "Long-Range", "Dependence", "in", "Network", "Traffic", "''", ",", "Computer", "Communication", "Review", ",", "vol", ".", "26", ",", "no.", "4", ",", "pp.", "15-24", ",", "October", "1996", ".", "186", "-LSB-", "9", "-RSB-", "Z.", "L.", "Zhang", ",", "V.", "Ribeiro", ",", "S.", "Moon", "and", "C.", "Diot", ",", "``", "Small-Time", "Scaling", "behavior", "of", "internet", "backbone", "traffic", ":", "An", "Empirical", "Study", "''", ",", "in", "IEEE", "INFOCOM", ",", "march", "2003", "-LSB-", "10", "-RSB-", "M.", "S.", "Taqqu", ",", "``", "Self-Similar", "processes", "''", ".", "In", "S.", "Kotz", "and", "N.", "Johnson", ",", "editors", ",", "Encyclopedia", "of", "Statistical", "Sciences", ",", "vol", ".", "8", ",", "pp.", "352-357", ".", "Wiley", ",", "New", "York", ",", "1988", ".", "-LSB-", "11", "-RSB-", "W.", "Willinger", ",", "M.S", "Taqqu", "and", "A.", "Erramilli", ",", "``", "A", "bibliographical", "guide", "to", "self-similar", "traffic", "and", "performance", "modeling", "for", "modern", "high", "speed", "networks", "''", ",", "In", "F.", "P.", "Kelly", ",", "S.", "Zachary", "and", "I.", "Ziedins", ",", "editors", ",", "Stochastic", "Networks", ":", "Theory", "and", "Applications", ",", "pp.", "339-366", ",", "Claredon", "Press", ",", "Oxford", ",", "1996", "-LSB-", "12", "-RSB-", "H.", "Holma", "and", "A.", "Taskala", ",", "``", "WCDMA", "for", "UMTS", ",", "Radio", "Access", "for", "Third", "Generation", "Mobile", "Communications", ",", "2", "nd", "Edition", "''", ",", "John", "Wiley", "&", "Sons", ",", "Ltd.", "2002", ",", "pp.", "1-5", "-LSB-", "13", "-RSB-", "J.", "Yang", "and", "I.", "Kriaras", ",", "``", "Migration", "to", "all-IP", "based", "UMTS", "networks", ",", "''", "IEEE", "1", "st", "International", "Conference", "on", "3G", "Mobile", "Communication", "Technologies", ",", "27-29", "March", ",", "2000", ",", "pp.", "19-23", "-LSB-", "14", "-RSB-", "W.", "Stallings", ",", "``", "Integrated", "Services", "Architecture", ":", "The", "Next-Generation", "Internet", "''", ",", "International", "Journal", "of", "Network", "Management", ",", "9", ",", "1999", ",", "pp.", "38-43", "-LSB-", "15", "-RSB-", "S.", "Blake", "et", "al.", ",", "``", "An", "Architecture", "for", "Differentiated", "Services", "''", ",", "IETF", "RFC", "2475", ",", "Dec.", "1998", "-LSB-", "16", "-RSB-", "Rosen", "E.", "et", "al.", ",", "``", "Multiprotocol", "Label", "Switching", "-LRB-", "MPLS", "-RRB-", "Architecture", "''", ",", "RFC", "3031", ",", "Jan.", "2001", "-LSB-", "17", "-RSB-", "K.", "Venken", ",", "J.", "De", "Vriendt", "and", "D.", "De", "Vleeschauwer", ",", "``", "Designing", "a", "DiffServ-capable", "IP-backbone", "for", "the", "UTRAN", "''", ",", "IEEE", "2", "nd", "International", "Conference", "on", "3G", "Mobile", "Communication", "Technologies", ",", "26-28", "March", "2001", ",", "pp.", "47-52", "-LSB-", "18", "-RSB-", "S.", "Maniatis", ",", "C.", "Grecas", "and", "I.", "Venieris", ",", "``", "End-to-End", "QoS", "Issues", "Over", "Next", "Generation", "Mobile", "Internet", "''", ",", "IEEE", "Symposium", "on", "Communication", "and", "Vehicular", "Technology", ",", "2000", ",", "SVCT-2000", ",", "19", "Oct", ",", "2000", ",", "pp.", "150-154", "-LSB-", "19", "-RSB-", "P.", "Newman", ",", "Netillion", "Inc.", "``", "In", "Search", "of", "the", "All-IP", "Mobile", "Network", "''", ",", "IEEE", "Communication", "Magazine", ",", "vol", ".", "42", ",", "issue", "12", ",", "Dec.", ".", "2004", ",", "pp", ".", "S3-S8", "-LSB-", "20", "-RSB-", "G.", "Araniti", ",", "F.", "Calabro", ",", "A.", "Iera", ",", "A.", "Molinaro", "and", "S.", "Pulitano", ",", "``", "Differentiated", "Services", "QoS", "Issues", "in", "Next", "Generation", "Radio", "Access", "Network", ":", "a", "New", "Management", "Policy", "for", "Expedited", "Forwarding", "Per-Hop", "Behavior", "''", ",", "IEEE", "Vehicular", "Technology", "Conference", ",", "VTC", "2004-Fall", ",", "vol", ".", "4", ",", "26-29", "Sept.", "2004", ",", "pp.", "2693-2697", "-LSB-", "21", "-RSB-", "S.", "Uskela", ",", "``", "All", "IP", "Architectures", "for", "Cellular", "Networks", "''", ",", "2", "nd", "International", "Conference", "on", "3G", "Mobile", "Communication", "Technologies", ",", "26-28", "March", "2001", ",", "pp.", "180-185", "-LSB-", "22", "-RSB-", "Jeong-Hyun", "Park", ",", "``", "Wireless", "Internet", "Access", "for", "Mobile", "Subscribers", "Based", "on", "GPRS/UMTS", "Network", "''", "IEEE", "Communication", "Magazine", ",", "vol", ".", "40", ",", "issue", "4", ",", "April", "2002", ",", "pp.", "38-39", "-LSB-", "23", "-RSB-", "K.", "Daniel", "Wong", "and", "Vijay", "K.", "Varma", ",", "``", "Supporting", "Real-Time", "IP", "Multimedia", "Services", "in", "UMTS", "''", ",", "IEEE", "Communication", "Magazine", ",", "vol", ".", "41", ",", "issue", "11", ",", "Nov.", "2003", ",", "pp.", "148-155", "-LSB-", "24", "-RSB-", "3GPP", ",", "``", "Universal", "Mobile", "Telecommunication", "System", "-LRB-", "UMTS", "-RRB-", ";", "QoS", "Concepts", "and", "Architecture", "''", ",", "TS23", ".107", "V6", ",", "March", "2004", "-LSB-", "25", "-RSB-", "R.", "Chakravorty", ",", "J.", "Cartwright", "and", "I.", "Pratt", ",", "``", "Practical", "Experience", "with", "TCP", "over", "GPRS", "''", ",", "in", "IEEE", "GlobeCom", ",", "Nov.", "2002", "-LSB-", "26", "-RSB-", "D.", "Schwab", "and", "R.", "Bunt", ",", "``", "Characterizing", "the", "use", "of", "a", "Campus", "Wireless", "Network", "''", ",", "in", "IEEE", "INFOCOM", ",", "March", "2004", "-LSB-", "27", "-RSB-", "X.", "Meng", ",", "S.", "Wong", ",", "Y.", "Yuan", "and", "S.Lu", ",", "``", "Characterizing", "Flows", "in", "Large", "Wireless", "Data", "Networks", "''", ",", "in", "ACM", "Mobicom", ",", "Sep", "2004", "-LSB-", "28", "-RSB-", "A.", "Balachandran", ",", "G.", "M.", "Voelker", ",", "P.", "Bahl", "and", "P.", "Venkat", "Rangan", ",", "``", "Characterizing", "user", "behavior", "and", "network", "performance", "in", "a", "public", "Wireless", "LAN", "''", ",", "Sigmetrics", "Performance", "Evaluation", ".", "Review", ",", "vol", ".", "30", ".", "no.", "1", ",", "2002", ",", "pp.", "195-205", "-LSB-", "29", "-RSB-", "A.", "Adas", "and", "A.", "Mukherjee", ",", "``", "On", "Resource", "Management", "and", "QoS", "guarantees", "for", "long-range", "dependant", "traffic", "''", ",", "In", "Proc", "IEEE", "INFOCOM", ",", "1995", ",", "pp.", "779-787", "-LSB-", "30", "-RSB-", "M.", "Parulekar", "and", "A.", "Makowski", ",", "``", "Tail", "Probabilities", "for", "a", "Multiplexer", "with", "self-similar", "input", "''", ",", "In", "proc", "IEEE", "INFOCOM", ",", "1996", ",", "pp.", "1452-1459", "-LSB-", "31", "-RSB-", "I.", "Norros", ",", "``", "A", "Storage", "Model", "with", "self-similar", "input", "''", ",", "Queueing", "System", ",", "16", ",", "1994", ",", "pp.", "387-396", "-LSB-", "32", "-RSB-", "B.", "Tsybakov", "and", "N.", "D.", "Georganas", ",", "``", "Self-Similar", "traffic", "and", "upper", "bounds", "to", "buffer", "overflow", "in", "ATM", "queue", "''", ",", "Performance", "Evaluation", ",", "36", ",", "1998", ",", "pp.", "57-80", "-LSB-", "33", "-RSB-", "M.", "Zukerman", "et", "al", ",", "``", "Analytical", "Performance", "Evaluation", "of", "a", "Two", "Class", "DiffServ", "link", "''", ",", "IEEE", "ICS", ",", "25-28", "Nov.", "2002", ",", "vol", ".", "1", ",", "pp.", "373-377", "-LSB-", "34", "-RSB-", "J.", "M.", "Chung", ",", "Z.", "Quan", ",", "``", "Impact", "of", "Self-Similarity", "on", "Performance", "Evaluation", "in", "DiffServ", "Networks", "''", ",", "IEEE", "MWSCAS", ",", "4-7", "Aug.", "2002", ",", "vol", ".", "2", ",", "pp.", "326-329", "-LSB-", "35", "-RSB-", "C.", "F.", "Chou", "et", "al", ",", "``", "Low", "Latency", "and", "efficient", "packet", "scheduling", "for", "streaming", "applications", "''", ",", "IEEE", "ICC", ",", "20-24", "June", ",", "2004", ",", "vol", ".", "4", ",", "pp", ".", "1963-1967", "-LSB-", "36", "-RSB-", "A.", "Kos", "and", "B.", "Klepec", ",", "``", "Performance", "of", "VoIP", "applications", "in", "a", "simple", "Differentiated", "Services", "network", "architecture", "''", ",", "IEEE", "EUROCON", ",", "4-7", "July", ",", "2001", ",", "vol", ".", "1", ",", "pp.", "214-217", "-LSB-", "37", "-RSB-", "J.", "M.", "Chung", "and", "H.", "M.", "Soo", ",", "``", "Analysis", "of", "non", "preemptive", "priority", "queueing", "of", "MPLS", "networks", "with", "Bulk", "arrivals", "''", ",", "IEEE", "MWSCAS", ",", "4-7", "Aug.", "2002", ",", "vol", ".", "3", ".", "pp.", "81-84", "-LSB-", "38", "-RSB-", "Salil", "S.", "Kanhere", "and", "Harish", "Sethu", ",", "``", "Fair", ",", "Efficient", "and", "Low-Latency", "Packet", "Scheduling", "using", "Nested", "Deficit", "Round", "Robin", "''", ",", "Proceedings", "of", "the", "IEEE", "Workshop", "on", "High", "Performance", "Switching", "and", "Routing", "-LRB-", "HSPR", "-RRB-", ",", "May", "2001", "-LSB-", "39", "-RSB-", "N.", "F.", "MIR", "and", "A.", "Chien", ",", "``", "Simulation", "of", "Voice", "over", "MPLS", "communication", "networks", "''", ",", "IEEE", "ICCS", ",", "25-28", "Nov.", "2002", ",", "vol", ".", "1", ",", "pp.", "389-393", "-LSB-", "40", "-RSB-", "A.", "Krendzel", ",", "Y.", "Koucheryavy", ",", "J.", "Harju", "and", "S.", "Lopatin", ",", "``", "Traffic", "and", "QoS", "management", "in", "Wireless", "Multimedia", "Networks", "''", "COST", "290", ":", ":", "Wi-QoST", ",", "Working", "group", "N3", "http://www.cost290.org", "-LSB-", "41", "-RSB-", "M.", "Jiang", ",", "M.", "Nikolic", ",", "S.", "Hardy", "and", "L.", "Trajkovic", ",", "``", "Impact", "of", "Self-Similarity", "on", "Wireless", "Data", "Network", "Performance", "''", ",", "IEEE", "ICC", ",", "2001", ",", "vol", ".", "2", ",", "pp.", "477-481", "-LSB-", "42", "-RSB-", "J.", "Ridoux", ",", "A.", "Nucci", "and", "D.", "Veitch", ",", "``", "Characterization", "of", "Wireless", "Traffic", "based", "on", "Semi-Experiments", "''", ",", "Technical", "Report-LIP6", ",", "December", "2005", "-LSB-", "43", "-RSB-", "Z.", "Sahinoglu", "and", "S.", "Tekinay", ",", "``", "On", "Multimedia", "Networks", ":", "Self-Similar", "Traffic", "and", "Network", "Performance", "''", ",", "IEEE", "Communication", "Magazine", ",", "vol", ".", "37", ",", "issue", "1", ",", "Jan.", "1999", ",", "pp.", "48-52", "-LSB-", "44", "-RSB-", "I.", "Norros", ",", "``", "On", "the", "use", "of", "Fractional", "Brownian", "Motion", "in", "theory", "of", "connectionless", "networks", "''", ",", "IEEE", "Journal", "on", "Selected", "Areas", "in", "Communications", ",", "vol", ".", "13", ".", "no.", "6", ",", "August", "1995", ",", "pp.", "953-962", "-LSB-", "45", "-RSB-", "P.", "Benko", ",", "G.", "Malicsko", "and", "A.", "Veres", ",", "``", "A", "Large-scale", ",", "passive", "analysis", "of", "end-to-end", "TCP", "Performances", "over", "GPRS", "''", ",", "in", "IEEE", "INFOCOM", ",", "March", "2004", "-LSB-", "46", "-RSB-", "M.", "Caglar", ",", "``", "A", "Long-Range", "Dependant", "Workload", "Model", "for", "Packet", "Data", "Traffic", "''", ",", "Mathematics", "of", "Operations", "Research", ",", "29", ",", "2004", ",", "pp", ".", "92-105", "187", "-LSB-", "47", "-RSB-", "H.", "P.", "Schwefel", ",", "L.", "Lipsky", ",", "``", "Impact", "of", "aggregated", "self-similar", "ON/OFF", "traffic", "on", "delay", "in", "stationary", "queueing", "models", "-LRB-", "extended", "version", "-RRB-", "''", ",", "Performance", "Evaluation", ",", "43", ",", "2001", ",", "pp.", "203-221", "-LSB-", "51", "-RSB-", "E.", "Cinlar", ",", "``", "Introduction", "to", "Stochastic", "Processes", "''", ",", "1975", ",", "pp.", "178", "-LSB-", "52", "-RSB-", "R.", "Ben", "Ali", ",", "Y", "Lemieux", "and", "S.", "Pierre", ",", "``", "UMTS-to-IP", "QoS", "Mapping", "for", "Voice", "and", "Video", "Telephony", "Services", ",", "IEEE", "Network", ",", "vol", ".", "19", ",", "issue", "2", ",", "March/April", "2005", ",", "pp.", "26-32", "-LSB-", "48", "-RSB-", "I.", "Kaj", ",", "``", "Limiting", "fractal", "random", "processes", "in", "heavy-tailed", "systems", "''", ",", "In", "Fractals", "in", "Engineering", ",", "New", "Trends", "in", "Theory", "and", "Applications", ",", "Eds.J", ".", "Levy-Lehel", ",", "E.", "Lutton", ",", "Springer-Verlag", "London", ",", "2005", ",", "pp.", "199-218", "-LSB-", "53", "-RSB-", "Y.", "Cheng", ",", "H", ",", "Jiang", ",", "W", ",", "Zhuang", ",", "Z.", "Niu", "and", "C.", "Lin", ",", "``", "Efficient", "Resource", "Allocation", "for", "China", "'s", "3G/4G", "Wireless", "Networks", ",", "IEEE", "Communication", "Magazine", ",", "vol", ".", "43", ",", "issue", "1", ",", "Jan", "2005", ",", "pp.", "76-83", "-LSB-", "49", "-RSB-", "S.M.", "Ross", ",", "``", "Introduction", "to", "Probability", "Models", "''", "Academic", "Press", ",", "1997", ".", "-LSB-", "54", "-RSB-", "W.", "Odom", "and", "M.", "J.", "Cavanaugh", ",", "``", "IP", "Telephony", "Self-Study", "Cisco", "DQoS", "Exam", "Certification", "Guide", "''", ",", "Cisco", "Press", ",", "2004", ",", "pp.", "3-314", "-LSB-", "50", "-RSB-", "K.S.", "Trivedi", ",", "Probability", "and", "statistics", "with", "reliability", ",", "queueing", ",", "and", "computer", "science", "applications", "Wiley", ",", "New", "York", ",", "2002", ".", "APPENDIX", "Table", ":", "1", "The", "States", "of", "the", "Markov", "Chain", "and", "Transition", "Probabilities", "Initial", "State", "Reachable", "States", "-LRB-", "4", ",", "3", ",", "2", ",", "1", "=", "m", "-RRB-", "Transition", "Probability", "-RRB-", ",", ",", ",", ",", ",", "1", "-LRB-", "1", "4", "3", "2", "1", "s", "a", "i", "i", "i", "k", "i", "m", "+", ",", "1", ",", ",", "0", "i", "k", "K", "=", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "1", "t", "x", "t", "T", "S", "S", "dt", "dx", "ds", "t", "f", "x", "f", "s", "f", "m", "k", "-RRB-", ",", ",", ",", ",", ",", "0", "-LRB-", "2", "4", "3", "2", "s", "a", "i", "i", "k", "i", "m", ",", "1", ",", ",", "0", "2", "=", "i", "k", "K", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "2", "1", "1", "1", "2", "t", "x", "t", "T", "S", "S", "S", "dt", "dx", "ds", "t", "f", "x", "f", "s", "f", "m", "k", "i", "1", ",", "...", "1", ",", "0", "-RRB-", ",", ",", ",", ",", "0", ",", "0", "-LRB-", "3", "3", "4", "3", "=", "i", "k", "s", "a", "i", "k", "i", "m", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "T", "S", "S", "S", "t", "x", "t", "S", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "3", "2", "2", "1", "1", "1", "3", "0", "0", "+", "+", "+", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "1", "1", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "1", "...", ",", "...", "1", ",", "0", "-RRB-", ",", ",", ",", "0", ",", "0", ",", "0", "-LRB-", "4", "4", "4", "=", "i", "k", "s", "a", "k", "i", "m", "+", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "4", "3", "3", "2", "2", "1", "1", "1", "4", "t", "x", "t", "T", "S", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "i", "-RRB-", ",", ",", ",", ",", "1", ",", "1", "-LRB-", "1", "4", "3", "2", "1", "s", "a", "i", "i", "i", "k", "i", "m", "+", ",", "1", ",", ",", "0", "i", "k", "K", "=", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "2", "1", "1", "t", "x", "t", "T", "S", "S", "S", "dt", "dx", "ds", "t", "f", "x", "f", "s", "f", "m", "k", "-RRB-", ",", ",", ",", ",", ",", "1", "-LRB-", "2", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "m", "+", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "2", "t", "T", "S", "dt", "ds", "t", "f", "s", "f", "m", "-RRB-", ",", ",", ",", ",", ",", "0", "-LRB-", "2", "4", "3", "2", "s", "a", "i", "i", "k", "i", "m", "K", ",", "3", ",", "2", "2", "=", "i", "and", "1", ",", ",", "1", "2", "=", "i", "k", "K", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "2", "1", "1", "1", "2", "t", "x", "t", "T", "S", "S", "S", "dt", "dx", "ds", "t", "f", "x", "f", "s", "f", "m", "k", "i", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "2", "1", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "1", "...", ",", "...", "1", ",", "0", "-RRB-", ",", ",", ",", ",", "0", ",", "0", "-LRB-", "3", "3", "4", "3", "=", "i", "k", "s", "a", "i", "k", "i", "m", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "3", "2", "2", "1", "1", "1", "3", "t", "x", "t", "T", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "188", "1", "...", ",", "...", "2", ",", "1", ",", "0", "-RRB-", ",", ",", ",", "0", ",", "0", ",", "0", "-LRB-", "4", "4", "4", "=", "i", "k", "s", "a", "k", "i", "m", "+", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "4", "3", "3", "2", "2", "1", "1", "1", "4", "t", "x", "t", "T", "S", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "i", "1", "1", "4", "3", "2", "1", "...", ",", "...", "1", ",", "0", "-RRB-", ",", ",", ",", "1", ",", ",", "1", "-LRB-", "i", "k", "s", "a", "i", "i", "i", "k", "i", "m", "=", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "3", "1", "1", "t", "x", "t", "T", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "1", "...", ",", "...", "1", ",", "0", "-RRB-", ",", ",", ",", "1", ",", ",", "0", "-LRB-", "2", "2", "4", "3", "2", "=", "i", "k", "s", "a", "i", "i", "k", "i", "m", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "3", "2", "1", "1", "1", "2", "t", "x", "t", "T", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "-RRB-", ",", ",", ",", ",", ",", "1", "-LRB-", "3", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "m", "+", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "3", "t", "T", "S", "dt", "ds", "t", "f", "s", "f", "m", "-RRB-", ",", ",", ",", ",", "0", ",", "0", "-LRB-", "3", "4", "3", "s", "a", "i", "k", "i", "m", ",", "...", "3", ",", "2", "3", "=", "i", "1", ",", ",", "1", "3", "=", "i", "k", "K", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "3", "2", "2", "1", "1", "1", "3", "t", "x", "t", "T", "S", "S", "S", "S", "dt", "dx", "ds", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "3", "1", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "1", "...", ",", "...", "1", ",", "0", "-RRB-", ",", ",", ",", "0", ",", "0", ",", "0", "-LRB-", "4", "4", "4", "=", "i", "k", "s", "a", "k", "i", "m", "+", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "4", "3", "3", "2", "2", "1", "1", "1", "4", "t", "x", "t", "T", "S", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "i", "1", "1", "4", "3", "2", "1", ".", ".", ",", "...", "1", ",", "0", "-RRB-", ",", ",", "1", ",", ",", ",", "1", "-LRB-", "i", "k", "s", "a", "i", "i", "i", "k", "i", "m", "=", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "4", "1", "1", "t", "x", "t", "T", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "1", ".", ".", ",", "...", "1", ",", "0", "-RRB-", ",", ",", "1", ",", ",", ",", "0", "-LRB-", "2", "2", "4", "3", "2", "=", "i", "k", "s", "a", "i", "i", "k", "i", "m", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "4", "2", "1", "1", "1", "2", "t", "x", "t", "T", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "1", "...", ",", "...", "1", ",", "0", "-RRB-", ",", ",", "1", ",", ",", "0", ",", "0", "-LRB-", "3", "3", "4", "3", "=", "i", "k", "s", "a", "i", "k", "i", "m", "+", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "1", "4", "3", "2", "2", "1", "1", "1", "3", "t", "x", "t", "T", "S", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "-RRB-", ",", ",", ",", ",", ",", "1", "-LRB-", "4", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", "m", "+", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "4", "t", "T", "S", "dsdt", "t", "f", "s", "f", "m", "-RRB-", ",", ",", ",", ",", ",", "-LRB-", "4", "1", "4", "3", "2", "1", "s", "a", "i", "i", "i", "i", ".", ".", ",", "...", "3", ",", "2", "-RRB-", ",", ",", ",", "0", ",", "0", ",", "0", "-LRB-", "4", "4", "4", "=", "i", "s", "a", "k", "i", "m", "1", ",", "...", "2", ",", "1", "4", "=", "i", "k", "+", "+", "+", "+", "0", "0", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "1", "4", "3", "3", "2", "2", "1", "1", "1", "4", "t", "x", "t", "T", "S", "S", "S", "S", "S", "dsdxdt", "t", "f", "x", "f", "s", "f", "m", "k", "i", "i", "i", "189"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["ggsn", "3g", "umts", "wireless ip traffic", "qos"], "abstractive_keyphrases": ["traffic modelling", "queuing model", "self-similar", "self-similar traffic", "3g networks"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "3", "document": ["A", "Computational", "Approach", "to", "Reflective", "Meta-Reasoning", "about", "Languages", "with", "Bindings", "We", "present", "a", "foundation", "for", "a", "computational", "meta-theory", "of", "languages", "with", "bindings", "implemented", "in", "a", "computer-aided", "formal", "reasoning", "environment", ".", "Our", "theory", "provides", "the", "ability", "to", "reason", "abstractly", "about", "operators", ",", "languages", ",", "open-ended", "languages", ",", "classes", "of", "languages", ",", "etc.", ".", "The", "theory", "is", "based", "on", "the", "ideas", "of", "higher-order", "abstract", "syntax", ",", "with", "an", "appropriate", "induction", "principle", "parameterized", "over", "the", "language", "-LRB-", "i.e.", "a", "set", "of", "operators", "-RRB-", "being", "used", ".", "In", "our", "approach", ",", "both", "the", "bound", "and", "free", "variables", "are", "treated", "uniformly", "and", "this", "uniform", "treatment", "extends", "naturally", "to", "variable-length", "bindings", ".", "The", "implementation", "is", "reflective", ",", "namely", "there", "is", "a", "natural", "mapping", "between", "the", "meta-language", "of", "the", "theorem-prover", "and", "the", "object", "language", "of", "our", "theory", ".", "The", "object", "language", "substitution", "operation", "is", "mapped", "to", "the", "meta-language", "substitution", "and", "does", "not", "need", "to", "be", "defined", "recursively", ".", "Our", "approach", "does", "not", "require", "designing", "a", "custom", "type", "theory", ";", "in", "this", "paper", "we", "describe", "the", "implementation", "of", "this", "foundational", "theory", "within", "a", "general-purpose", "type", "theory", ".", "This", "work", "is", "fully", "implemented", "in", "the", "MetaPRL", "theorem", "prover", ",", "using", "the", "pre-existing", "NuPRL-like", "Martin-L", "of-style", "computational", "type", "theory", ".", "Based", "on", "this", "implementation", ",", "we", "lay", "out", "an", "outline", "for", "a", "framework", "for", "programming", "language", "experimentation", "and", "exploration", "as", "well", "as", "a", "general", "reflective", "reasoning", "framework", ".", "This", "paper", "also", "includes", "a", "short", "survey", "of", "the", "existing", "approaches", "to", "syntactic", "reflection", ".", "D.", "3.1", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Formal", "Definitions", "and", "Theory", "--", "Syntax", ";", "F.", "4.3", "-LSB-", "Mathematical", "Logic", "and", "Formal", "Languages", "-RSB-", ":", "Formal", "Languages-Operations", "on", "languages", "Languages", ",", "Theory", ",", "Verification", "An", "extended", "version", "of", "this", "paper", "is", "available", "as", "Caltech", "Technical", "Report", "CaltechCSTR", ":", "2005.003", "-LSB-", "NKYH05", "-RSB-", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MERLIN", "'05", "September", "30", ",", "2005", ",", "Tallinn", ",", "Estonia", ".", "Copyright", "c", "2005", "ACM", "1-59593-072-8", "/", "05/0009", "...", "$", "5.00", ".", "1.1", "Reflection", "Very", "generally", ",", "reflection", "is", "the", "ability", "of", "a", "system", "to", "be", "``", "self-aware", "''", "in", "some", "way", ".", "More", "specifically", ",", "by", "reflection", "we", "mean", "the", "property", "of", "a", "computational", "or", "formal", "system", "to", "be", "able", "to", "access", "and", "internalize", "some", "of", "its", "own", "properties", ".", "There", "are", "many", "areas", "of", "computer", "science", "where", "reflection", "plays", "or", "should", "play", "a", "major", "role", ".", "When", "exploring", "properties", "of", "programming", "languages", "-LRB-", "and", "other", "languages", "-RRB-", "one", "often", "realizes", "that", "languages", "have", "at", "least", "two", "kinds", "of", "properties", "--", "semantic", "properties", "that", "have", "to", "do", "with", "the", "meaning", "of", "what", "the", "language", "'s", "constructs", "express", "and", "syntactic", "properties", "of", "the", "language", "itself", ".", "Suppose", "for", "example", "that", "we", "are", "exploring", "some", "language", "that", "contains", "arithmetic", "operations", ".", "And", "in", "particular", ",", "in", "this", "language", "one", "can", "write", "polynomials", "like", "x", "2", "+", "2x", "+", "1", ".", "In", "this", "case", "the", "number", "of", "roots", "of", "a", "polynomial", "is", "a", "semantic", "property", "since", "it", "has", "to", "do", "with", "the", "valuation", "of", "the", "polynomial", ".", "On", "the", "other", "hand", ",", "the", "degree", "of", "a", "polynomial", "could", "be", "considered", "an", "example", "of", "a", "syntactic", "property", "since", "the", "most", "natural", "way", "to", "define", "it", "is", "as", "a", "property", "of", "the", "expression", "that", "represents", "that", "polynomial", ".", "Of", "course", ",", "syntactic", "properties", "often", "have", "semantic", "consequences", ",", "which", "is", "what", "makes", "them", "especially", "important", ".", "In", "this", "example", ",", "the", "number", "of", "roots", "of", "a", "polynomial", "is", "bounded", "by", "its", "degree", ".", "Another", "area", "where", "reflection", "plays", "an", "important", "role", "is", "run-time", "code", "generation", "--", "in", "most", "cases", ",", "a", "language", "that", "supports", "run-time", "code", "generation", "is", "essentially", "reflective", ",", "as", "it", "is", "capable", "of", "manipulating", "its", "own", "syntax", ".", "In", "order", "to", "reason", "about", "run-time", "code", "generation", "and", "to", "express", "its", "semantics", "and", "properties", ",", "it", "is", "natural", "to", "use", "a", "reasoning", "system", "that", "is", "reflective", "as", "well", ".", "There", "are", "many", "different", "flavors", "of", "reflection", ".", "The", "syntactic", "reflection", "we", "have", "seen", "in", "the", "examples", "above", ",", "which", "is", "the", "ability", "of", "a", "system", "to", "internalize", "its", "own", "syntax", ",", "is", "just", "one", "of", "these", "many", "flavors", ".", "Another", "very", "important", "kind", "of", "reflection", "is", "logical", "reflection", ",", "which", "is", "the", "ability", "of", "a", "reasoning", "system", "or", "logic", "to", "internalize", "and", "reason", "about", "its", "own", "logical", "properties", ".", "A", "good", "example", "of", "a", "logical", "reflection", "is", "reasoning", "about", "knowledge", "-", "since", "the", "result", "of", "reasoning", "about", "knowledge", "is", "knowledge", "itself", ",", "the", "logic", "of", "knowledge", "is", "naturally", "reflective", "-LSB-", "Art04", "-RSB-", ".", "In", "most", "cases", "it", "is", "natural", "for", "reflection", "to", "be", "iterated", ".", "In", "the", "case", "of", "syntactic", "reflection", "we", "might", "care", "not", "only", "about", "the", "syntax", "of", "our", "language", ",", "but", "also", "about", "the", "syntax", "used", "for", "expressing", "the", "syntax", ",", "the", "syntax", "for", "expressing", "the", "syntax", "for", "expressing", "the", "syntax", "and", "so", "forth", ".", "In", "the", "case", "of", "the", "logic", "of", "knowledge", "it", "is", "natural", "to", "have", "iterations", "of", "the", "form", "``", "I", "know", "that", "he", "knows", "that", "I", "know", "...", "''", ".", "When", "a", "formal", "system", "is", "used", "to", "reason", "about", "properties", "of", "programming", "languages", ",", "iterated", "reflection", "magnifies", "the", "power", "of", "the", "2", "system", ",", "making", "it", "more", "natural", "to", "reason", "not", "just", "about", "individual", "languages", ",", "but", "also", "about", "classes", "of", "languages", ",", "language", "schemas", ",", "and", "so", "on", ".", "More", "generally", ",", "reflection", "adds", "a", "lot", "of", "additional", "power", "to", "a", "formal", "reasoning", "system", "-LSB-", "GS89", ",", "Art99", "-RSB-", ".", "In", "particular", ",", "it", "is", "well-known", "-LSB-", "G", "od36", ",", "Mos52", ",", "EM71", ",", "Par71", "-RSB-", "that", "reflection", "allows", "a", "super-exponential", "reduction", "in", "the", "size", "of", "certain", "proofs", ".", "In", "addition", ",", "reflection", "could", "be", "a", "very", "useful", "mechanism", "for", "implementing", "proof", "search", "algorithms", "-LSB-", "ACU93", ",", "GWZ00", ",", "CFW04", "-RSB-", ".", "See", "also", "-LSB-", "Har95", "-RSB-", "for", "a", "survey", "of", "reflection", "in", "theorem", "proving", ".", "1.2", "Uniform", "Reflection", "Framework", "For", "each", "of", "the", "examples", "in", "the", "previous", "section", "there", "are", "many", "ad-hoc", "ways", "of", "achieving", "the", "specific", "benefits", "of", "a", "specific", "flavor", "of", "reflection", ".", "This", "work", "aims", "at", "creating", "a", "unifying", "reflective", "framework", "that", "would", "allow", "achieving", "most", "of", "these", "benefits", "in", "a", "uniform", "manner", ",", "without", "having", "to", "reinvent", "and", "re-implement", "the", "basic", "reflective", "methodology", "every", "time", ".", "We", "believe", "that", "such", "a", "framework", "will", "increase", "the", "power", "of", "the", "formal", "reasoning", "tools", ",", "and", "it", "may", "also", "become", "an", "invaluable", "tool", "for", "exploring", "the", "properties", "of", "novel", "programming", "languages", ",", "for", "analyzing", "run-time", "code", "generation", ",", "and", "for", "formalizing", "logics", "of", "knowledge", ".", "This", "paper", "establishes", "a", "foundation", "for", "the", "development", "of", "this", "framework", "--", "a", "new", "approach", "to", "reflective", "meta-reasoning", "about", "languages", "with", "bindings", ".", "We", "present", "a", "theory", "of", "syntax", "that", ":", "in", "a", "natural", "way", "provides", "both", "a", "higher-order", "abstract", "syntax", "-LRB-", "HOAS", "-RRB-", "approach", "to", "bindings", "and", "a", "de", "Bruijn-style", "approach", "to", "bindings", ",", "with", "easy", "and", "natural", "translation", "between", "the", "two", ";", "provides", "a", "uniform", "HOAS-style", "approach", "to", "both", "bound", "and", "free", "variables", "that", "extends", "naturally", "to", "variable-length", "``", "vectors", "''", "of", "binders", ";", "permits", "meta-reasoning", "about", "languages", "--", "in", "particular", ",", "the", "operators", ",", "languages", ",", "open-ended", "languages", ",", "classes", "of", "languages", "etc.", "are", "all", "first-class", "objects", "that", "can", "be", "reasoned", "about", "both", "abstractly", "and", "concretely", ";", "comes", "with", "a", "natural", "induction", "principle", "for", "syntax", "that", "can", "be", "parameterized", "by", "the", "language", "being", "used", ";", "provides", "a", "natural", "mapping", "between", "the", "object", "syntax", "and", "meta-syntax", "that", "is", "free", "of", "exotic", "terms", ",", "and", "allows", "mapping", "the", "object-level", "substitution", "operation", "directly", "to", "the", "meta-level", "one", "-LRB-", "i.e.", "-", "reduction", "-RRB-", ";", "is", "fully", "derived", "in", "a", "pre-existing", "type", "theory", "in", "a", "theorem", "prover", ";", "is", "designed", "to", "serve", "as", "a", "foundation", "for", "a", "general", "reflective", "reasoning", "framework", "in", "a", "theorem", "prover", ";", "is", "designed", "to", "serve", "as", "a", "foundation", "for", "a", "programming", "language", "experimentation", "framework", ".", "The", "paper", "is", "structured", "as", "follows", ".", "Our", "work", "inherits", "a", "large", "number", "of", "ideas", "from", "previous", "efforts", "and", "we", "start", "in", "Section", "2", "with", "a", "brief", "survey", "of", "existing", "techniques", "for", "formal", "reasoning", "about", "syntax", ".", "Next", "in", "Section", "3", "we", "outline", "our", "approach", "to", "reasoning", "about", "syntax", "and", "in", "Section", "4", "we", "present", "a", "formal", "account", "of", "our", "theory", "based", "on", "a", "Martin-L", "of", "style", "computational", "type", "theory", "-LSB-", "CAB", "+", "86", ",", "HAB", "+", "-RSB-", "and", "the", "implementation", "of", "that", "account", "in", "the", "MetaPRL", "theorem", "prover", "-LSB-", "Hic97", ",", "Hic99", ",", "Hic01", ",", "HNC", "+", "03", ",", "HNK", "+", ",", "HAB", "+", "-RSB-", ".", "Then", "in", "Section", "5", "we", "outline", "our", "plan", "for", "building", "a", "uniform", "reflection", "framework", "based", "on", "the", "syntactic", "reflection", ".", "Finally", ",", "in", "Section", "6", "we", "resume", "the", "discussion", "of", "related", "work", "that", "was", "started", "in", "Section", "2", ".", "1.3", "Notation", "and", "Terminology", "We", "believe", "that", "our", "approach", "to", "reasoning", "about", "syntax", "is", "fairly", "general", "and", "does", "not", "rely", "on", "any", "special", "features", "of", "the", "theorem", "prover", "we", "use", ".", "However", ",", "since", "we", "implement", "this", "theory", "in", "MetaPRL", ",", "we", "introduce", "some", "basic", "knowledge", "about", "MetaPRL", "terms", ".", "A", "MetaPRL", "term", "consists", "of", ":", "1", ".", "An", "operator", "name", "-LRB-", "like", "``", "sum", "''", "-RRB-", ",", "which", "is", "a", "unique", "name", "indicating", "the", "logic", "and", "component", "of", "a", "term", ";", "2", ".", "A", "list", "of", "parameters", "representing", "constant", "values", ";", "and", "3", ".", "A", "set", "of", "subterms", "with", "possible", "variable", "bindings", ".", "We", "use", "the", "following", "syntax", "to", "describe", "terms", ",", "based", "on", "the", "NuPRL", "definition", "-LSB-", "ACHA90", "-RSB-", ":", "opname", "operator", "name", "-LSB-", "p", "1", ";", ";", "p", "n", "-RSB-", "parameters", "-LCB-", "v", "1", ".", "t", "1", ";", ";", "v", "m", ".", "t", "m", "-RCB-", "subt", "er", "ms", "In", "addition", ",", "MetaPRL", "has", "a", "meta-syntax", "somewhat", "similar", "to", "the", "higher-order", "abstract", "syntax", "presented", "in", "Pfenning", "and", "Elliott", "-LSB-", "PE88", "-RSB-", ".", "MetaPRL", "uses", "the", "second-order", "variables", "in", "the", "style", "of", "Huet", "and", "Lang", "-LSB-", "HL78", "-RSB-", "to", "describe", "term", "schemas", ".", "For", "example", ",", "x.V", "-LSB-", "x", "-RSB-", ",", "where", "V", "is", "a", "second-order", "variable", "of", "arity", "1", ",", "is", "a", "schema", "that", "stands", "for", "an", "arbitrary", "term", "whose", "top-level", "operator", "is", ".", "This", "meta-syntax", "requires", "that", "every", "time", "a", "binding", "occurrence", "is", "explicitly", "specified", "in", "a", "schema", ",", "all", "corresponding", "bound", "occurrences", "have", "to", "be", "specified", "as", "well", ".", "This", "requirement", "makes", "it", "very", "easy", "to", "specify", "free", "variable", "restrictions", "--", "for", "example", ",", "x.V", ",", "where", "V", "is", "a", "second-order", "meta-variable", "of", "arity", "0", ",", "is", "a", "schema", "that", "stands", "for", "an", "arbitrary", "term", "whose", "top-level", "operator", "is", "and", "whose", "body", "does", "not", "have", "any", "free", "occurrences", "of", "the", "variable", "bound", "by", "that", ".", "In", "particular", ",", "the", "schema", "x.V", "matches", "the", "term", "y.", "1", ",", "but", "not", "the", "term", "x.x.", ".", "In", "addition", ",", "this", "meta-language", "allows", "specifying", "certain", "term", "transformations", ",", "including", "implicit", "substitution", "specifications", ".", "For", "example", ",", "a", "beta", "reduction", "transformation", "may", "be", "specified", "using", "the", "following", "schema", ":", "-LRB-", "x.V", "1", "-LSB-", "x", "-RSB-", "-RRB-", "V", "2", "V", "1", "-LSB-", "V", "2", "-RSB-", "Here", "the", "substitution", "of", "V", "2", "for", "x", "in", "V", "1", "is", "specified", "implicitly", ".", "Throughout", "this", "paper", "we", "will", "use", "this", "second-order", "notation", "to", "denote", "arbitrary", "terms", "--", "namely", ",", "unless", "stated", "otherwise", ",", "when", "we", "write", "``", "x.t", "-LSB-", "x", "-RSB-", "''", "we", "mean", "an", "arbitrary", "term", "of", "this", "form", ",", "not", "a", "term", "containing", "a", "concrete", "second-order", "variable", "named", "``", "t", "''", ".", "As", "in", "LF", "-LSB-", "HHP93", "-RSB-", "we", "assume", "that", "object", "level", "variables", "-LRB-", "i.e.", "the", "variables", "of", "the", "language", "whose", "syntax", "we", "are", "expressing", "-RRB-", "are", "directly", "mapped", "to", "meta-theory", "variables", "-LRB-", "i.e.", "the", "variable", "of", "the", "language", "that", "we", "use", "to", "express", "the", "syntax", "-RRB-", ".", "Similarly", ",", "we", "assume", "that", "the", "object-level", "binding", "structure", "is", "mapped", "to", "the", "meta-level", "binding", "structure", ".", "In", "other", "words", ",", "the", "object-level", "notion", "of", "the", "``", "binding/bound", "occurrence", "''", "is", "a", "subset", "of", "that", "in", "the", "metalanguage", ".", "We", "also", "consider", "-", "equal", "terms", "--", "both", "on", "the", "object", "level", "and", "on", "the", "meta-level", "--", "to", "be", "identical", "and", "we", "assume", "that", "substitution", "avoids", "capture", "by", "renaming", ".", "The", "sequent", "schema", "language", "we", "use", "-LSB-", "NH02", "-RSB-", "contains", "a", "number", "of", "more", "advanced", "features", "in", "addition", "to", "those", "outlined", "here", ".", "However", ",", "for", "the", "purposes", "of", "this", "presentation", ",", "the", "basic", "features", "outlined", "above", "are", "sufficient", ".", "In", "1931", "G", "odel", "used", "reflection", "to", "prove", "his", "famous", "incompleteness", "theorem", "-LSB-", "G", "od31", "-RSB-", ".", "To", "express", "arithmetic", "in", "arithmetic", "itself", ",", "he", "assigned", "a", "unique", "number", "-LRB-", "a", "G", "odel", "number", "-RRB-", "to", "each", "arithmetic", "3", "formula", ".", "A", "G", "odel", "number", "of", "a", "formula", "is", "essentially", "a", "numeric", "code", "of", "a", "string", "of", "symbols", "used", "to", "represent", "that", "formula", ".", "A", "modern", "version", "of", "the", "G", "odel", "'s", "approach", "was", "used", "by", "Aitken", "et", "al.", ".", "-LSB-", "ACHA90", ",", "AC92", ",", "ACU93", ",", "Con94", "-RSB-", "to", "implement", "reflection", "in", "the", "NuPRL", "theorem", "prover", "-LSB-", "CAB", "+", "86", ",", "ACE", "+", "00", "-RSB-", ".", "A", "large", "part", "of", "this", "effort", "was", "essentially", "a", "reimplementation", "of", "the", "core", "of", "the", "NuPRL", "prover", "inside", "NuPRL", "'s", "logical", "theory", ".", "In", "G", "odel", "'s", "approach", "and", "its", "variations", "-LRB-", "including", "Aitken", "'s", "one", "-RRB-", ",", "a", "general", "mechanism", "that", "could", "be", "used", "for", "formalizing", "one", "logical", "theory", "in", "another", "is", "applied", "to", "formalizing", "a", "logical", "theory", "in", "itself", ".", "This", "can", "be", "very", "convenient", "for", "reasoning", "about", "reflection", ",", "but", "for", "our", "purposes", "it", "turns", "out", "to", "be", "extremely", "impractical", ".", "First", ",", "when", "formalizing", "a", "theory", "in", "itself", "using", "generic", "means", ",", "the", "identity", "between", "the", "theory", "being", "formalized", "and", "the", "one", "in", "which", "the", "formalization", "happens", "becomes", "very", "obfuscated", ",", "which", "makes", "it", "almost", "impossible", "to", "relate", "the", "reflected", "theory", "back", "to", "the", "original", "one", ".", "Second", ",", "when", "one", "has", "a", "theorem", "proving", "system", "that", "already", "implements", "the", "logical", "theory", "in", "question", ",", "creating", "a", "completely", "new", "implementation", "of", "this", "logical", "theory", "inside", "itself", "is", "a", "very", "tedious", "redundant", "effort", ".", "Another", "practical", "disadvantage", "of", "the", "G", "odel", "numbers", "approach", "is", "that", "it", "tends", "to", "blow", "up", "the", "size", "of", "the", "formulas", ";", "and", "iterated", "reflection", "would", "cause", "the", "blow-up", "to", "be", "iterated", "as", "well", ",", "making", "it", "exponential", "or", "worse", ".", "A", "much", "more", "practical", "approach", "is", "being", "used", "in", "some", "programming", "languages", ",", "such", "as", "Lisp", "and", "Scheme", ".", "There", ",", "the", "common", "solution", "is", "for", "the", "implementation", "to", "expose", "its", "internal", "syntax", "representation", "to", "user-level", "code", "by", "the", "quote", "constructor", "-LRB-", "where", "quote", "-LRB-", "t", "-RRB-", "prevents", "the", "evaluation", "of", "the", "expression", "t", "-RRB-", ".", "The", "problems", "outlined", "above", "are", "solved", "instantly", "by", "this", "approach", ":", "there", "is", "no", "blow-up", ",", "there", "is", "no", "repetition", "of", "structure", "definitions", ",", "there", "is", "even", "no", "need", "for", "verifying", "that", "the", "reflected", "part", "is", "equivalent", "to", "the", "original", "implementation", "since", "they", "are", "identical", ".", "Most", "Scheme", "implementations", "take", "this", "even", "further", ":", "the", "eval", "function", "is", "the", "internal", "function", "for", "evaluating", "a", "Scheme", "expression", ",", "which", "is", "exposed", "to", "the", "user-level", ";", "Smith", "-LSB-", "Smi84", "-RSB-", "showed", "how", "this", "approach", "can", "achieve", "an", "infinite", "tower", "of", "processors", ".", "A", "similar", "language", "with", "the", "quotation", "and", "antiquotation", "operators", "was", "introduced", "in", "-LSB-", "GMO03", "-RSB-", ".", "This", "approach", ",", "however", ",", "violates", "the", "congruence", "property", "with", "respect", "to", "computation", ":", "if", "two", "terms", "are", "computationally", "equal", "then", "one", "can", "be", "substituted", "for", "the", "other", "in", "any", "context", ".", "For", "instance", ",", "although", "2", "2", "is", "equal", "to", "4", ",", "the", "expressions", "``", "2", "*", "2", "''", "and", "``", "4", "''", "are", "syntactically", "different", ",", "thus", "we", "can", "not", "substitute", "2", "*", "2", "by", "4", "in", "the", "expression", "quote", "-LRB-", "2", "*", "2", "-RRB-", ".", "The", "congruence", "property", "is", "essential", "in", "many", "logical", "reasoning", "systems", ",", "including", "the", "NuPRL", "system", "mentioned", "above", "and", "the", "MetaPRL", "system", "-LSB-", "HNC", "+", "03", ",", "HNK", "+", ",", "HAB", "+", "-RSB-", "that", "our", "group", "uses", ".", "A", "possible", "way", "to", "expose", "the", "internal", "syntax", "without", "violating", "the", "congruence", "property", "is", "to", "use", "the", "so-called", "``", "quoted", "''", "or", "``", "shifted", "''", "operators", "-LSB-", "AA99", ",", "Bar01", ",", "Bar05", "-RSB-", "rather", "than", "quoting", "the", "whole", "expression", "at", "once", ".", "For", "any", "operator", "op", "in", "the", "original", "language", ",", "we", "add", "the", "quoted", "operator", "-LRB-", "denoted", "as", "op", "-RRB-", "to", "represent", "a", "term", "built", "with", "the", "operator", "op", ".", "For", "example", ",", "if", "the", "original", "language", "contains", "the", "constant", "``", "0", "''", "-LRB-", "which", ",", "presumably", ",", "represents", "the", "number", "0", "-RRB-", ",", "then", "in", "the", "reflected", "language", ",", "0", "would", "stand", "for", "the", "term", "that", "denotes", "the", "expression", "``", "0", "''", ".", "Generally", ",", "the", "quoted", "operator", "has", "the", "same", "arity", "as", "the", "original", "operator", ",", "but", "it", "is", "defined", "on", "syntactic", "terms", "rather", "than", "on", "semantic", "objects", ".", "For", "instance", ",", "while", "is", "a", "binary", "operator", "on", "numbers", ",", "is", "a", "binary", "operator", "on", "terms", ".", "Namely", ",", "if", "t", "1", "and", "t", "2", "are", "syntactic", "terms", "that", "stand", "for", "expressions", "e", "1", "and", "e", "2", "respectively", ",", "then", "t", "1", "t", "2", "is", "a", "new", "syntactic", "term", "that", "stands", "for", "the", "expression", "e", "1", "e", "2", ".", "Thus", ",", "the", "quotation", "of", "the", "expression", "12", "would", "be", "1", "2", ".", "In", "general", ",", "the", "well-formedness", "-LRB-", "typing", "-RRB-", "rule", "for", "a", "quoted", "operator", "is", "the", "following", ":", "t", "1", "Term", "...", "t", "n", "Term", "op", "-LCB-", "t", "1", ";", "...", ";", "t", "n", "-RCB-", "Term", "-LRB-", "1", "-RRB-", "where", "Term", "is", "a", "type", "of", "terms", ".", "Note", "that", "quotations", "can", "be", "iterated", "arbitrarily", "many", "times", ",", "allowing", "us", "to", "quote", "quoted", "terms", ".", "For", "instance", ",", "1", "stands", "for", "the", "term", "that", "denotes", "the", "term", "that", "denotes", "the", "numeral", "1", ".", "Problems", "arise", "when", "quoting", "expressions", "that", "contain", "binding", "variables", ".", "For", "example", ",", "what", "is", "the", "quotation", "of", "x.x", "?", "There", "are", "several", "possible", "ways", "of", "answering", "this", "question", ".", "A", "commonly", "used", "approach", "-LSB-", "PE88", ",", "DH94", ",", "DFH95", ",", "ACM02", ",", "ACM03", "-RSB-", "in", "logical", "frameworks", "such", "as", "Elf", "-LSB-", "Pfe89", "-RSB-", ",", "LF", "-LSB-", "HHP93", "-RSB-", ",", "and", "Isabelle", "-LSB-", "PN90", ",", "Pau94", "-RSB-", "is", "to", "construct", "an", "object", "logic", "with", "a", "concrete", "operator", "that", "has", "a", "type", "like", "-LRB-", "Term", "Term", "-RRB-", "Term", "or", "-LRB-", "Var", "Term", "-RRB-", "Term", ".", "In", "this", "approach", ",", "the", "quoted", "x.x", "might", "look", "like", "-LRB-x.x-RRB-", "and", "the", "quoted", "x.", "1", "might", "look", "like", "-LRB-", "x.", "1", "-RRB-", ".", "Note", "that", "in", "these", "examples", "the", "quoted", "terms", "have", "to", "make", "use", "of", "both", "the", "syntactic", "-LRB-", "i.e.", "quoted", "-RRB-", "operator", "and", "the", "semantic", "operator", ".", "Exotic", "Terms", ".", "Na", "ive", "implementations", "of", "the", "above", "approach", "suffer", "from", "the", "well-known", "problem", "of", "exotic", "terms", "-LSB-", "DH95", ",", "DFH95", "-RSB-", ".", "The", "issue", "is", "that", "in", "general", "we", "can", "not", "allow", "applying", "the", "operator", "to", "an", "arbitrary", "function", "that", "maps", "terms", "to", "terms", "-LRB-", "or", "variables", "to", "terms", "-RRB-", "and", "expect", "the", "result", "of", "such", "an", "application", "to", "be", "a", "``", "proper", "''", "reflected", "term", ".", "Consider", "for", "example", "the", "following", "term", ":", "-LRB-", "x.", "if", "x", "=", "1", "then", "1", "else", "2", "-RRB-", "It", "is", "relatively", "easy", "to", "see", "that", "it", "is", "not", "a", "real", "syntactic", "term", "and", "can", "not", "be", "obtained", "by", "quoting", "an", "actual", "term", ".", "-LRB-", "For", "comparison", ",", "consider", "-LRB-", "x.", "if", "x", "=", "1", "then", "1", "else", "2", "-RRB-", ",", "which", "is", "a", "quotation", "of", "x.", "if", "x", "=", "1", "then", "1", "else", "2", "-RRB-", ".", "How", "can", "one", "ensure", "that", "e", "denotes", "a", "``", "real", "''", "term", "and", "not", "an", "``", "exotic", "''", "one", "?", "That", "is", ",", "is", "it", "equal", "to", "a", "result", "of", "quoting", "an", "actual", "term", "of", "the", "object", "language", "?", "One", "possibility", "is", "to", "require", "e", "to", "be", "a", "substitution", "function", ";", "in", "other", "words", "it", "has", "to", "be", "equal", "to", "an", "expression", "of", "the", "form", "x.t", "-LSB-", "x", "-RSB-", "where", "t", "is", "composed", "entirely", "of", "term", "constructors", "-LRB-", "i.e.", "quoted", "operators", "-RRB-", "and", "x", ",", "while", "using", "destructors", "-LRB-", "such", "as", "case", "analysis", ",", "the", "if", "operator", "used", "in", "the", "example", "above", ",", "etc", "-RRB-", "is", "prohibited", ".", "There", "are", "a", "number", "of", "approaches", "to", "enforcing", "the", "above", "restriction", ".", "One", "of", "them", "is", "the", "usage", "of", "logical", "frameworks", "with", "restricted", "function", "spaces", "-LSB-", "PE88", ",", "HHP93", "-RSB-", ",", "where", "-", "terms", "may", "only", "contain", "constructors", ".", "Another", "is", "to", "first", "formalize", "the", "larger", "type", "that", "does", "include", "exotic", "terms", "and", "then", "to", "define", "recursively", "a", "predicate", "describing", "the", "``", "validity", "''", "or", "``", "well-formedness", "''", "of", "a", "term", "-LSB-", "DH94", ",", "DFH95", "-RSB-", "thus", "removing", "the", "exotic", "terms", "from", "consideration", ".", "Yet", "another", "approach", "is", "to", "create", "a", "specialized", "type", "theory", "that", "combines", "the", "idea", "of", "restricted", "function", "spaces", "with", "a", "modal", "type", "operator", "-LSB-", "DPS97", ",", "DL99", ",", "DL01", "-RSB-", ".", "There", "the", "case", "analysis", "is", "disallowed", "on", "objects", "of", "``", "pure", "''", "type", "T", ",", "but", "is", "allowed", "on", "objects", "of", "a", "special", "type", "T", ".", "This", "allows", "expressing", "both", "the", "restricted", "function", "space", "``", "T", "1", "T", "2", "''", "and", "the", "unrestricted", "one", "''", "-LRB-", "T", "1", "-RRB-", "T", "2", "''", "within", "a", "single", "type", "theory", ".", "Another", "way", "of", "regarding", "the", "problem", "of", "exotic", "terms", "is", "that", "it", "is", "caused", "by", "the", "attempt", "to", "give", "a", "semantic", "definition", "to", "a", "primarily", "syntactic", "property", ".", "A", "more", "syntax-oriented", "approach", "was", "used", "by", "Barzilay", "et", "al.", ".", "-LSB-", "BA02", ",", "BAC03", ",", "Bar05", "-RSB-", ".", "In", "Barzilay", "'s", "approach", ",", "the", "quoted", "version", "of", "an", "operator", "that", "introduces", "a", "binding", "has", "the", "same", "shape", "-LRB-", "i.e.", "the", "number", "of", "subterms", "and", "the", "binding", "structure", "-RRB-", "as", "the", "original", "one", "and", "the", "variables", "-LRB-", "both", "the", "binding", "and", "the", "4", "bound", "occurrences", "-RRB-", "are", "unaffected", "by", "the", "quotation", ".", "For", "instance", ",", "the", "quotation", "of", "x.x", "is", "just", "x.x.", ".", "The", "advantages", "of", "this", "approach", "include", ":", "This", "approach", "is", "simple", "and", "clear", ".", "Quoted", "terms", "have", "the", "same", "structure", "as", "original", "ones", ",", "inheriting", "a", "lot", "of", "properties", "of", "the", "object", "syntax", ".", "In", "all", "the", "above", "approaches", ",", "the", "-", "equivalence", "relation", "for", "quoted", "terms", "is", "inherited", "``", "for", "free", "''", ".", "For", "example", ",", "x.x", "and", "y.y", "are", "automatically", "considered", "to", "be", "the", "same", "term", ".", "Substitution", "is", "also", "easy", ":", "we", "do", "not", "need", "to", "re-implement", "the", "substitution", "that", "renames", "binding", "variables", "to", "avoid", "the", "capture", "of", "free", "variables", ";", "we", "can", "use", "the", "substitution", "of", "the", "original", "language", "instead", ".", "To", "prune", "exotic", "terms", ",", "Barzilay", "says", "that", "x.t", "-LSB-", "x", "-RSB-", "is", "a", "valid", "term", "when", "x.t", "-LSB-", "x", "-RSB-", "is", "a", "substitution", "function", ".", "He", "demonstrates", "that", "it", "is", "possible", "to", "formalize", "this", "notion", "in", "a", "purely", "syntactical", "fashion", ".", "In", "this", "setting", ",", "the", "general", "well-formedness", "rule", "for", "quoted", "terms", "with", "bindings", "is", "the", "following", ":", "is", "subst", "k", "-LCB-", "x", "1", ",", ",", "x", "k", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "is", "subst", "l", "-LCB-", "z", "1", ",", ",", "z", "l", ".", "s", "-LSB-", "z", "-RSB-", "-RCB-", "op", "-LCB-", "x", "1", ",", ",", "x", "k", ".", "t", "-LSB-", "x", "-RSB-", ";", ";", "z", "1", ",", ",", "z", "l", ".", "s", "-LSB-", "z", "-RSB-", "-RCB-", "Term", "-LRB-", "2", "-RRB-", "where", "is", "subst", "n", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "is", "the", "proposition", "that", "t", "is", "a", "substitution", "function", "over", "variables", "x", "1", ",", ",", "x", "n", "-LRB-", "in", "other", "words", ",", "it", "is", "a", "syntactic", "version", "of", "the", "Valid", "predicate", "of", "-LSB-", "DH94", ",", "DFH95", "-RSB-", "-RRB-", ".", "This", "proposition", "is", "defined", "syntactically", "by", "the", "following", "two", "rules", ":", "is", "subst", "n", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "x", "i", "-RCB-", "and", "is", "subst", "n", "+", "k", "-LCB-", "x", "1", ",", ",", "x", "n", ",", "y", "1", ",", ",", "y", "k", ".", "t", "-LSB-", "x", ";", "y", "-RSB-", "-RCB-", ".", ".", ".", "is", "subst", "n", "+", "l", "-LCB-", "x", "1", ",", ",", "x", "n", ",", "z", "1", ",", ",", "z", "l", ".", "s", "-LSB-", "x", ";", "z", "-RSB-", "-RCB-", "-RCB-", "is", "subst", "n", "-LCB-", "x", "1", "x", "n", ".", "op", "-LCB-", "y", "1", "y", "k", ".", "t", "-LSB-", "x", ";", "y", "-RSB-", ";", ";", "z", "1", "z", "l", ".", "s", "-LSB-", "x", ";", "z", "-RSB-", "-RCB-", "-RCB-", "In", "this", "approach", "the", "is", "subst", "n", "-LCB-", "-RCB-", "and", "operators", "are", "essentially", "untyped", "-LRB-", "in", "NuPRL", "type", "theory", ",", "the", "computational", "properties", "of", "untyped", "terms", "are", "at", "the", "core", "of", "the", "semantics", ";", "types", "are", "added", "on", "top", "of", "the", "untyped", "computational", "system", "-RRB-", ".", "Recursive", "Definition", "and", "Structural", "Induction", "Principle", ".", "A", "difficulty", "shared", "by", "both", "the", "straightforward", "implementations", "of", "the", "-LRB-", "Term", "Term", "-RRB-", "Term", "approach", "and", "by", "the", "Barzilay", "'s", "one", "is", "the", "problem", "of", "recursively", "defining", "the", "Term", "type", ".", "We", "want", "to", "define", "the", "Term", "type", "as", "the", "smallest", "set", "satisfying", "rules", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", ".", "Note", ",", "however", ",", "that", "unlike", "rule", "-LRB-", "1", "-RRB-", ",", "rule", "-LRB-", "2", "-RRB-", "is", "not", "monotonic", "in", "the", "sense", "that", "is", "subst", "k", "-LCB-", "x", "1", ",", ",", "x", "k", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "depends", "non-monotonically", "on", "the", "Term", "type", ".", "For", "example", ",", "to", "say", "whether", "x.t", "-LSB-", "x", "-RSB-", "is", "a", "term", ",", "we", "should", "check", "whether", "t", "is", "a", "substitution", "function", "over", "x", ".", "It", "means", "at", "least", "that", "for", "every", "x", "in", "Term", ",", "t", "-LSB-", "x", "-RSB-", "should", "be", "in", "Term", "as", "well", ".", "Thus", "we", "need", "to", "define", "the", "whole", "type", "Term", "before", "using", "-LRB-", "2", "-RRB-", ",", "which", "produces", "a", "logical", "circle", ".", "Moreover", ",", "since", "has", "type", "-LRB-", "Term", "Term", "-RRB-", "Term", ",", "it", "is", "hard", "to", "formulate", "the", "structural", "induction", "principle", "for", "terms", "built", "with", "the", "term", "constructor", ".", "Variable-Length", "Lists", "of", "Binders", ".", "In", "Barzilay", "'s", "approach", ",", "for", "each", "number", "n", ",", "is", "subst", "n", "-LCB-", "-RCB-", "is", "considered", "to", "be", "a", "separate", "operator", "--", "there", "is", "no", "way", "to", "quantify", "over", "n", ",", "and", "there", "is", "no", "way", "to", "express", "variable-length", "lists", "of", "binders", ".", "This", "issue", "of", "expressing", "the", "unbounded-length", "lists", "of", "binders", "is", "common", "to", "some", "of", "the", "other", "approaches", "as", "well", ".", "Meta-Reasoning", ".", "Another", "difficulty", "that", "is", "especially", "apparent", "in", "Barzilay", "'s", "approach", "is", "that", "it", "only", "allows", "reasoning", "about", "concrete", "operators", "in", "concrete", "languages", ".", "This", "approach", "does", "not", "provide", "the", "ability", "to", "reason", "about", "operators", "abstractly", ";", "in", "particular", ",", "there", "is", "no", "way", "to", "state", "and", "prove", "meta-theorems", "that", "quantify", "over", "operators", "or", "languages", ",", "much", "less", "classes", "of", "languages", ".", "Although", "it", "is", "possible", "to", "solve", "the", "problems", "outlined", "in", "the", "previous", "Section", "-LRB-", "and", "we", "will", "return", "to", "the", "discussion", "of", "some", "of", "those", "solutions", "in", "Section", "6", "-RRB-", ",", "our", "desire", "is", "to", "avoid", "these", "difficulties", "from", "the", "start", ".", "We", "propose", "a", "natural", "model", "of", "reflection", "that", "manages", "to", "work", "around", "those", "difficulties", ".", "We", "will", "show", "how", "to", "give", "a", "simple", "recursive", "definition", "of", "terms", "with", "binding", "variables", ",", "which", "does", "not", "allow", "the", "construction", "of", "exotic", "terms", "and", "does", "allow", "structural", "induction", "on", "terms", ".", "In", "this", "Section", "we", "provide", "a", "conceptual", "overview", "of", "our", "approach", ";", "details", "are", "given", "in", "Section", "4", ".", "3.1", "Bound", "Terms", "One", "of", "the", "key", "ideas", "of", "our", "approach", "is", "how", "we", "deal", "with", "terms", "containing", "free", "variables", ".", "We", "extend", "to", "free", "variables", "the", "principle", "that", "variable", "names", "do", "not", "really", "matter", ".", "In", "fact", ",", "we", "model", "free", "variables", "as", "bindings", "that", "can", "be", "arbitrarily", "-", "renamed", ".", "Namely", ",", "we", "will", "write", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "for", "a", "term", "t", "over", "variables", "x", "1", ",", ",", "x", "n", ".", "For", "example", ",", "instead", "of", "term", "xy", "we", "will", "use", "the", "term", "bterm", "-LCB-", "x", ",", "y.xy", "-RCB-", "when", "it", "is", "considered", "over", "variables", "x", "and", "y", "and", "bterm", "-LCB-", "x", ",", "y", ",", "z.xy", "-RCB-", "when", "it", "is", "considered", "over", "variables", "x", ",", "y", "and", "z.", "Free", "occurrences", "of", "x", "i", "in", "t", "-LSB-", "x", "-RSB-", "are", "considered", "bound", "in", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "and", "two", "-", "equal", "bterm", "-LCB-", "-RCB-", "expressions", "-LRB-", "``", "bterms", "''", "-RRB-", "are", "considered", "to", "be", "identical", ".", "Not", "every", "bterm", "is", "necessarily", "well-formed", ".", "We", "will", "define", "the", "type", "of", "terms", "in", "such", "a", "way", "as", "to", "eliminate", "exotic", "terms", ".", "Consider", "for", "example", "a", "definition", "of", "lambda-terms", ".", "E", "XAMPLE", "1", ".", "We", "can", "define", "a", "set", "of", "reflected", "lambda-terms", "as", "the", "smallest", "set", "such", "that", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "x", "i", "-RCB-", ",", "where", "1", "i", "n", ",", "is", "a", "lambda-term", "-LRB-", "a", "variable", "-RRB-", ";", "if", "bterm", "x", "1", ",", ",", "x", "n", ",", "x", "n", "+1", ".", "t", "-LSB-", "x", "-RSB-", "is", "a", "lambda-term", ",", "then", "bterm", "x", "1", ",", ",", "x", "n", ".", "x", "n", "+1", ".", "t", "-LSB-", "x", "-RSB-", "is", "also", "a", "lambda-term", "-LRB-", "an", "abstraction", "-RRB-", ";", "if", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "t", "1", "-LSB-", "x", "-RSB-", "-RCB-", "and", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "t", "2", "-LSB-", "x", "-RSB-", "-RCB-", "are", "lambda-terms", ",", "then", "bterm", "-LCB-", "x", "1", ";", ";", "x", "n", ".", "apply", "-LCB-", "t", "1", "-LSB-", "x", "-RSB-", ";", "t", "2", "-LSB-", "x", "-RSB-", "-RCB-", "-RCB-", "is", "also", "a", "lambda-term", "-LRB-", "an", "application", "-RRB-", ".", "In", "a", "way", ",", "bterms", "could", "be", "understood", "as", "an", "explicit", "coding", "for", "Barzilay", "'s", "substitution", "functions", ".", "And", "indeed", ",", "some", "of", "the", "basic", "definitions", "are", "quite", "similar", ".", "The", "notion", "of", "bterms", "is", "also", "very", "similar", "to", "that", "of", "local", "variable", "contexts", "-LSB-", "FPT99", "-RSB-", ".", "3.2", "Terminology", "Before", "we", "proceed", "further", ",", "we", "need", "to", "define", "some", "terminology", ".", "D", "EFINITION", "1", ".", "We", "change", "the", "notion", "of", "subterm", "so", "that", "the", "subterms", "of", "a", "bterm", "are", "also", "bterms", ".", "For", "example", ",", "the", "immediate", "subterms", "of", "bterm", "-LCB-", "x", ",", "y.x", "y", "-RCB-", "are", "bterm", "-LCB-", "x", ",", "y.x", "-RCB-", "and", "bterm", "-LCB-", "x", ",", "y.y", "-RCB-", ";", "the", "immediate", "subterm", "of", "bterm", "-LCB-", "x", ".", "y.x", "-RCB-", "is", "bterm", "-LCB-", "x", ",", "y.x", "-RCB-", ".", "D", "EFINITION", "2", ".", "We", "call", "the", "number", "of", "outer", "binders", "in", "a", "bterm", "expression", "its", "binding", "depth", ".", "Namely", ",", "the", "binding", "depth", "of", "the", "bterm", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "is", "n.", "D", "EFINITION", "3", ".", "Throughout", "the", "rest", "of", "the", "paper", "we", "use", "the", "notion", "of", "operator", "shape", ".", "The", "shape", "of", "an", "operator", "is", "a", "list", "of", "natural", "numbers", "each", "stating", "how", "many", "new", "binders", "the", "operator", "introduces", "on", "5", "the", "corresponding", "subterm", ".", "The", "length", "of", "the", "shape", "list", "is", "therefore", "the", "arity", "of", "the", "operator", ".", "For", "example", ",", "the", "shape", "of", "the", "+", "operator", "is", "-LSB-", "0", ";", "0", "-RSB-", "and", "the", "shape", "of", "the", "operator", "is", "-LSB-", "1", "-RSB-", ".", "The", "mapping", "from", "operators", "to", "shapes", "is", "also", "sometimes", "called", "a", "binding", "signature", "of", "a", "language", "-LSB-", "FPT99", ",", "Plo90", "-RSB-", ".", "D", "EFINITION", "4", ".", "Let", "op", "be", "an", "operator", "with", "shape", "-LSB-", "d", "1", ";", ";", "d", "N", "-RSB-", ",", "and", "let", "btl", "be", "a", "list", "of", "bterms", "-LSB-", "b", "1", ";", ";", "b", "M", "-RSB-", ".", "We", "say", "that", "btl", "is", "compatible", "with", "op", "at", "depth", "n", "when", ",", "1", ".", "N", "=", "M", ";", "2", ".", "the", "binding", "depth", "of", "bterm", "b", "j", "is", "n", "+", "d", "j", "for", "each", "1", "j", "N", ".", "3.3", "Abstract", "Operators", "Expressions", "of", "the", "form", "bterm", "-LCB-", "x.op", "-LCB-", "-RCB-", "-RCB-", "can", "only", "be", "used", "to", "express", "syntax", "with", "concrete", "operators", ".", "In", "other", "words", ",", "each", "expression", "of", "this", "form", "contains", "a", "specific", "constant", "operator", "op", ".", "However", ",", "we", "would", "like", "to", "reason", "about", "operators", "abstractly", ";", "in", "particular", ",", "we", "want", "to", "make", "it", "possible", "to", "have", "variables", "of", "the", "type", "``", "Op", "''", "that", "can", "be", "quantified", "over", "and", "used", "in", "the", "same", "manner", "as", "operator", "constants", ".", "In", "order", "to", "address", "this", "we", "use", "explicit", "term", "constructors", "in", "addition", "to", "bterm", "-LCB-", "x.op", "-LCB-", "-RCB-", "-RCB-", "constants", ".", "The", "expression", "mk", "bterm", "-LCB-", "n", ";", "``", "op", "''", ";", "btl", "-RCB-", ",", "where", "``", "op", "''", "is", "some", "encoding", "of", "the", "quoted", "operator", "op", ",", "stands", "for", "a", "bterm", "with", "binding", "depth", "n", ",", "operator", "op", "and", "subterms", "btl", ".", "Namely", ",", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ",", "y", "1", ".", "t", "1", "-LSB-", "x", ";", "y", "1", "-RSB-", "-RCB-", ":", ":", ":", ":", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ",", "y", "k", ".", "t", "k", "-LSB-", "x", ";", "y", "k", "-RSB-", "-RCB-", ":", ":", "nil", "-RCB-", "is", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "op", "-LCB-", "y", "1", ".", "t", "1", "-LSB-", "x", ";", "y", "1", "-RSB-", ";", ";", "y", "k", ".", "t", "k", "-LSB-", "x", ";", "y", "k", "-RSB-", "-RCB-", "-RCB-", ".", "Here", ",", "nil", "is", "the", "empty", "list", "and", ":", ":", "is", "the", "list", "cons", "operator", "and", "therefore", "the", "expression", "b", "1", ":", ":", ":", ":", "b", "n", ":", ":", "nil", "represents", "the", "concrete", "list", "-LSB-", "b", "1", ";", ";", "b", "n", "-RSB-", ".", "Note", "that", "if", "we", "know", "the", "shape", "of", "the", "operator", "op", "and", "we", "know", "that", "the", "mk", "bterm", "expression", "is", "well-formed", "-LRB-", "or", ",", "more", "specifically", ",", "if", "we", "know", "that", "btl", "is", "compatible", "with", "op", "at", "depth", "n", "-RRB-", ",", "then", "it", "would", "normally", "be", "possible", "to", "deduce", "the", "value", "of", "n", "-LRB-", "since", "n", "is", "the", "difference", "between", "the", "binding", "depth", "of", "any", "element", "of", "the", "list", "btl", "and", "the", "corresponding", "element", "of", "the", "shape", "-LRB-", "op", "-RRB-", "list", "-RRB-", ".", "There", "are", "two", "reasons", ",", "however", ",", "for", "supplying", "n", "explicitly", ":", "When", "btl", "is", "empty", "-LRB-", "in", "other", "words", ",", "when", "the", "arity", "of", "op", "is", "0", "-RRB-", ",", "the", "value", "of", "n", "can", "not", "be", "deduced", "this", "way", "and", "still", "needs", "to", "be", "supplied", "somehow", ".", "One", "could", "consider", "0-arity", "operators", "to", "be", "a", "special", "case", ",", "but", "this", "results", "in", "a", "significant", "loss", "of", "uniformity", ".", "When", "we", "do", "not", "know", "whether", "an", "mk", "bterm", "expression", "is", "necessarily", "well-formed", "-LRB-", "and", "as", "we", "will", "see", "it", "is", "often", "useful", "to", "allow", "this", "to", "happen", "-RRB-", ",", "then", "a", "lot", "of", "definitions", "and", "proofs", "are", "greatly", "simplified", "when", "the", "binding", "depth", "of", "mk", "bterm", "expressions", "is", "explicitly", "specified", ".", "Using", "the", "mk", "bterm", "constructor", "and", "a", "few", "other", "similar", "constructors", "that", "will", "be", "introduced", "later", ",", "it", "becomes", "easy", "to", "reason", "abstractly", "about", "operators", ".", "Indeed", ",", "the", "second", "argument", "to", "mk", "bterm", "can", "now", "be", "an", "arbitrary", "expression", ",", "not", "just", "a", "constant", ".", "This", "has", "a", "cost", "of", "making", "certain", "definitions", "slightly", "more", "complicated", ".", "For", "example", ",", "the", "notion", "of", "``", "compatible", "with", "op", "at", "depth", "n", "''", "now", "becomes", "an", "important", "part", "of", "the", "theory", "and", "will", "need", "to", "be", "explicitly", "formalized", ".", "However", ",", "this", "is", "a", "small", "price", "to", "pay", "for", "the", "ability", "to", "reason", "abstractly", "about", "operators", ",", "which", "easily", "extends", "to", "reasoning", "abstractly", "about", "languages", ",", "classes", "of", "languages", "and", "so", "forth", ".", "3.4", "Inductively", "Defining", "the", "Type", "of", "Well-Formed", "Bterms", "There", "are", "two", "equivalent", "approaches", "to", "inductively", "defining", "the", "general", "type", "-LRB-", "set", "-RRB-", "of", "all", "well-formed", "bterms", ".", "The", "first", "one", "follows", "the", "same", "idea", "as", "in", "Example", "1", ":", "bterm", "-LCB-", "x", "1", ",", ",", "x", "n", ".", "x", "i", "-RCB-", "is", "a", "well-formed", "bterm", "for", "1", "i", "n", ";", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "btl", "-RCB-", "is", "a", "well-formed", "bterm", "when", "op", "is", "a", "well-formed", "quoted", "operator", "and", "btl", "is", "a", "list", "of", "well-formed", "bterms", "that", "is", "compatible", "with", "op", "at", "some", "depth", "n", ".", "If", "we", "denote", "bterm", "-LCB-", "x", "1", ",", ",", "x", "l", ",", "y", ",", "z", "1", ",", ",", "z", "r", ".", "y", "-RCB-", "as", "var", "-LCB-", "l", ";", "r", "-RCB-", ",", "we", "can", "restate", "the", "base", "case", "of", "the", "above", "definition", "as", "``", "var", "-LCB-", "l", ";", "r", "-RCB-", ",", "where", "l", "and", "r", "are", "arbitrary", "natural", "numbers", ",", "is", "a", "well-formed", "bterm", "''", ".", "Once", "we", "do", "this", "it", "becomes", "apparent", "that", "the", "above", "definition", "has", "a", "lot", "of", "similarities", "with", "de", "Bruijn-style", "indexing", "of", "variables", "-LSB-", "dB72", "-RSB-", ".", "Indeed", ",", "one", "might", "call", "the", "numbers", "l", "and", "r", "the", "left", "and", "right", "indices", "of", "the", "variable", "var", "-LCB-", "l", ";", "r", "-RCB-", ".", "It", "is", "possible", "to", "provide", "an", "alternate", "definition", "that", "is", "closer", "to", "pure", "HOAS", ":", "bnd", "-LCB-", "x", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", ",", "where", "t", "is", "a", "well-formed", "substitution", "function", ",", "is", "a", "well-formed", "bterm", "-LRB-", "the", "bnd", "operation", "increases", "the", "binding", "depth", "of", "t", "by", "one", "by", "adding", "x", "to", "the", "beginning", "of", "the", "list", "of", "t", "'s", "outer", "binders", "-RRB-", ".", "mk", "term", "-LCB-", "op", ";", "btl", "-RCB-", ",", "where", "op", "is", "a", "well-formed", "quoted", "operator", ",", "and", "btl", "is", "a", "list", "of", "well-formed", "bterms", "that", "is", "compatible", "with", "op", "at", "depth", "0", ",", "is", "a", "well-formed", "bterm", "-LRB-", "of", "binding", "depth", "0", "-RRB-", ".", "Other", "than", "better", "capturing", "the", "idea", "of", "HOAS", ",", "the", "latter", "definition", "also", "makes", "it", "easier", "to", "express", "the", "reflective", "correspondence", "between", "the", "meta-syntax", "-LRB-", "the", "syntax", "used", "to", "express", "the", "theory", "of", "syntax", ",", "namely", "the", "one", "that", "includes", "the", "operators", "mk", "bterm", ",", "bnd", ",", "etc.", "-RRB-", "and", "the", "meta-meta-syntax", "-LRB-", "the", "syntax", "that", "is", "used", "to", "express", "the", "theory", "of", "syntax", "and", "the", "underlying", "theory", ",", "in", "other", "words", ",", "the", "syntax", "that", "includes", "the", "second-order", "notations", ".", "-RRB-", "Namely", ",", "provided", "that", "we", "define", "the", "subst", "-LCB-", "bt", ";", "t", "-RCB-", "operation", "to", "compute", "the", "result", "of", "substituting", "a", "closed", "term", "t", "for", "the", "first", "outer", "binder", "of", "the", "bterm", "bt", ",", "we", "can", "state", "that", "subst", "-LCB-", "bnd", "-LCB-", "x", ".", "t", "1", "-LSB-", "x", "-RSB-", "-RCB-", ";", "t", "2", "-RCB-", "t", "1", "-LSB-", "t", "2", "-RSB-", "-LRB-", "3", "-RRB-", "-LRB-", "where", "t", "1", "and", "t", "2", "are", "literal", "second-order", "variables", "-RRB-", ".", "In", "other", "words", ",", "we", "can", "state", "that", "the", "substitution", "operator", "subst", "and", "the", "implicit", "second-order", "substitution", "in", "the", "``", "meta-meta", "-", "''", "language", "are", "equivalent", ".", "The", "downside", "of", "the", "alternate", "definition", "is", "that", "it", "requires", "defining", "the", "notion", "of", "``", "being", "a", "substitution", "function", "''", ".", "3.5", "Our", "Approach", "In", "our", "work", "we", "try", "to", "combine", "the", "advantages", "of", "both", "approaches", "outlined", "above", ".", "In", "the", "next", "Section", "we", "present", "a", "theory", "that", "includes", "both", "the", "HOAS-style", "operations", "-LRB-", "bnd", ",", "mk", "term", "-RRB-", "and", "the", "de", "Bruijn-style", "ones", "-LRB-", "var", ",", "mk", "bterm", "-RRB-", ".", "Our", "theory", "also", "allows", "deriving", "the", "equivalence", "-LRB-", "3", "-RRB-", ".", "In", "our", "theory", "the", "definition", "of", "the", "basic", "syntactic", "operations", "is", "based", "on", "the", "HOAS-style", "operators", ";", "however", ",", "the", "recursive", "definition", "of", "the", "type", "of", "well-formed", "syntax", "is", "based", "on", "the", "de", "Bruijn-style", "operations", ".", "Our", "theory", "includes", "also", "support", "for", "variable-length", "lists", "of", "binders", ".", "In", "this", "Section", "we", "describe", "how", "the", "foundations", "of", "our", "theory", "are", "formally", "defined", "and", "derived", "in", "the", "NuPRL-style", "Computational", "Type", "Theory", "in", "the", "MetaPRL", "Theorem", "Prover", ".", "For", "brevity", ",", "we", "will", "present", "a", "slightly", "simplified", "version", "of", "our", "implementation", ";", "full", "details", "are", "available", "in", "the", "extended", "version", "of", "this", "paper", "-LSB-", "NKYH05", ",", "Appendix", "-RSB-", ".", "4.1", "Computations", "and", "Types", "In", "our", "work", "we", "make", "heavy", "usage", "of", "the", "fact", "that", "our", "type", "theory", "allows", "us", "to", "define", "computations", "without", "stating", "upfront", "-LRB-", "or", "even", "knowing", "-RRB-", "what", "the", "relevant", "types", "are", ".", "In", "NuPRL-style", "type", "theo-6", "ries", "-LRB-", "which", "some", "even", "dubbed", "``", "untyped", "type", "theory", "''", "-RRB-", ",", "one", "may", "define", "arbitrary", "recursive", "functions", "-LRB-", "even", "potentially", "nonterminating", "ones", "-RRB-", ".", "Only", "when", "proving", "that", "such", "function", "belongs", "to", "a", "particular", "type", ",", "one", "may", "have", "to", "prove", "termination", ".", "See", "-LSB-", "All87a", ",", "All87b", "-RSB-", "for", "a", "semantics", "that", "justifies", "this", "approach", ".", "The", "formal", "definition", "of", "the", "syntax", "of", "terms", "consists", "of", "two", "parts", ":", "The", "definition", "of", "untyped", "term", "constructors", "and", "term", "operations", ",", "which", "includes", "both", "HOAS-style", "operations", "and", "de", "Bruijn-style", "operations", ".", "As", "it", "turns", "out", ",", "we", "can", "establish", "most", "of", "the", "reduction", "properties", "without", "explicitly", "giving", "types", "to", "all", "the", "operations", ".", "The", "definition", "of", "the", "type", "of", "terms", ".", "We", "will", "define", "the", "type", "of", "terms", "as", "the", "type", "that", "contains", "all", "terms", "that", "can", "be", "legitimately", "constructed", "by", "the", "term", "constructors", ".", "4.2", "HOAS", "Constructors", "At", "the", "core", "of", "our", "term", "syntax", "definition", "are", "two", "basic", "HOAS-style", "constructors", ":", "bnd", "-LCB-", "x", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "is", "meant", "to", "represent", "a", "term", "with", "a", "free", "variable", "x", ".", "The", "intended", "semantics", "-LRB-", "which", "will", "not", "become", "explicit", "until", "later", "-RRB-", "is", "that", "bnd", "-LCB-", "x.t", "-LSB-", "x", "-RSB-", "-RCB-", "will", "only", "be", "considered", "well-formed", "when", "t", "is", "a", "substitution", "function", ".", "Internally", ",", "bnd", "-LCB-", "x.t", "-LSB-", "x", "-RSB-", "-RCB-", "is", "implemented", "simply", "as", "the", "pair", "0", ",", "x.t", "-LSB-", "x", "-RSB-", ".", "This", "definition", "is", "truly", "internal", "and", "is", "used", "only", "to", "prove", "the", "properties", "of", "the", "two", "destructors", "presented", "below", ";", "it", "is", "never", "used", "outside", "of", "this", "Section", "-LRB-", "Section", "4.2", "-RRB-", ".", "mk", "term", "-LCB-", "op", ";", "ts", "-RCB-", "pairs", "op", "with", "ts", ".", "The", "intended", "usage", "of", "this", "operation", "-LRB-", "which", ",", "again", ",", "will", "only", "become", "explicit", "later", "-RRB-", "is", "that", "it", "represents", "a", "closed", "term", "-LRB-", "i.e.", "a", "bterm", "of", "binding", "depth", "0", "-RRB-", "with", "operator", "op", "and", "subterms", "ts", ".", "It", "will", "be", "considered", "well-formed", "when", "op", "is", "an", "operator", "and", "ts", "is", "a", "list", "of", "terms", "that", "is", "compatible", "with", "op", "at", "depth", "0", ".", "For", "example", ",", "mk", "term", "-LCB-", ";", "bnd", "-LCB-", "x.x", "-RCB-", "-RCB-", "is", "x.x.", "Internally", ",", "mk", "term", "-LCB-", "op", ";", "ts", "-RCB-", "is", "implemented", "as", "the", "nested", "pair", "1", ",", "op", ",", "ts", ".", "Again", ",", "this", "definition", "is", "never", "used", "outside", "of", "this", "Section", ".", "We", "also", "implement", "two", "destructors", ":", "subst", "-LCB-", "bt", ";", "t", "-RCB-", "is", "meant", "to", "represent", "the", "result", "of", "substituting", "term", "t", "for", "the", "first", "variable", "of", "the", "bterm", "bt", ".", "Internally", ",", "subst", "-LCB-", "bt", ";", "t", "-RCB-", "is", "defined", "simply", "as", "an", "application", "-LRB-", "bt", ".2", "-RRB-", "t", "-LRB-", "where", "bt", ".2", "is", "the", "second", "element", "of", "the", "pair", "bt", "-RRB-", ".", "We", "derive", "the", "following", "property", "of", "this", "substitution", "operation", ":", "subst", "-LCB-", "bnd", "-LCB-", "x.t", "1", "-LSB-", "x", "-RSB-", "-RCB-", ";", "t", "2", "-RCB-", "t", "1", "-LSB-", "t", "2", "-RSB-", "where", "''", "''", "is", "the", "computational", "equality", "relation", "1", "and", "t", "1", "and", "t", "2", "may", "be", "absolutely", "arbitrary", ",", "even", "ill-typed", ".", "This", "derivation", "is", "the", "only", "place", "where", "the", "internal", "definition", "of", "subst", "-LCB-", "bt", ";", "t", "-RCB-", "is", "used", ".", "Note", "that", "the", "above", "equality", "is", "exactly", "the", "``", "reflective", "property", "of", "substitution", "''", "-LRB-", "3", "-RRB-", "that", "was", "one", "of", "the", "design", "goals", "for", "our", "theory", ".", "weak", "dest", "-LCB-", "bt", ";", "bcase", ";", "op", ",", "ts.mkt", "case", "-LSB-", "op", ";", "ts", "-RSB-", "-RCB-", "is", "designed", "to", "provide", "a", "way", "to", "find", "out", "whether", "bt", "is", "a", "bnd", "-LCB-", "-RCB-", "or", "a", "mk", "term", "-LCB-", "op", ";", "ts", "-RCB-", "1", "In", "NuPRL-style", "type", "theories", "the", "computational", "equality", "relation", "-LRB-", "which", "is", "also", "sometimes", "called", "``", "squiggle", "equality", "''", "and", "is", "sometimes", "denoted", "as", "''", "''", "or", "''", "''", "-RRB-", "is", "the", "finest-grained", "equality", "relation", "in", "the", "theory", ".", "When", "a", "b", "is", "true", ",", "a", "may", "be", "replaced", "with", "b", "in", "an", "arbitrary", "context", ".", "Examples", "of", "computational", "equality", "include", "beta-reduction", "x.a", "-LSB-", "x", "-RSB-", "b", "a", "-LSB-", "b", "-RSB-", ",", "arithmetical", "equalities", "-LRB-", "1", "+", "2", "3", "-RRB-", ",", "and", "definitional", "equality", "-LRB-", "an", "abstraction", "is", "considered", "to", "be", "computationally", "equal", "to", "its", "definition", "-RRB-", ".", "and", "to", "``", "extract", "''", "the", "op", "and", "ts", "in", "the", "latter", "case", ".", "In", "the", "rest", "of", "this", "paper", "we", "will", "use", "the", "``", "pretty-printed", "''", "form", "for", "weak", "dest", "--", "``", "match", "bt", "with", "bnd", "-LCB-", "-RCB-", "bcase", "|", "mk", "term", "-LCB-", "op", ";", "ts", "-RCB-", "mkt", "case", "-LSB-", "op", ";", "ts", "-RSB-", "''", ".", "Internally", ",", "it", "is", "defined", "as", "if", "bt", ".", "1", "=", "0", "then", "bcase", "else", "mkt", "case", "-LSB-", "bt", ".2.1", ";", "bt", ".2.2", "-RSB-", ".", "From", "this", "internal", "definition", "we", "derive", "the", "following", "properties", "of", "weak", "dest", ":", "match", "bnd", "-LCB-", "x.t", "-LSB-", "x", "-RSB-", "-RCB-", "with", "bnd", "-LCB-", "-RCB-", "bcase", "|", "mk", "term", "-LCB-", "op", ";", "ts", "-RCB-", "mkt", "case", "-LSB-", "op", ";", "ts", "-RSB-", "bcase", "match", "mk", "term", "-LCB-", "op", ";", "ts", "-RCB-", "with", "bnd", "-LCB-", "-RCB-", "bcase", "|", "mk", "term", "-LCB-", "o", ";", "t", "-RCB-", "mkt", "case", "-LSB-", "o", ";", "t", "-RSB-", "mkt", "case", "-LSB-", "op", ";", "ts", "-RSB-", "4.3", "Vector", "HOAS", "Operations", "As", "we", "have", "mentioned", "at", "the", "end", "of", "Section", "2", ",", "some", "approaches", "to", "reasoning", "about", "syntax", "make", "it", "hard", "or", "even", "impossible", "to", "express", "arbitrary-length", "lists", "of", "binders", ".", "In", "our", "approach", ",", "we", "address", "this", "challenge", "by", "allowing", "operators", "where", "a", "single", "binding", "in", "the", "metalanguage", "stands", "for", "a", "list", "of", "object-level", "bindings", ".", "In", "particular", ",", "we", "allow", "representing", "bnd", "-LCB-", "x", "1", ".", "bnd", "-LCB-", "x", "2", ".", "bnd", "-LCB-", "x", "n", ".", "t", "-LSB-", "x", "1", ";", "...", ";", "x", "n", "-RSB-", "-RCB-", "-RCB-", "-RCB-", "as", "vbnd", "-LCB-", "n", ";", "x", ".", "t", "-LSB-", "nth", "-LCB-", "1", ";", "x", "-RCB-", ";", "...", ";", "nth", "-LCB-", "n", ";", "x", "-RCB-", "-RSB-", "-RCB-", ",", "where", "``", "nth", "-LCB-", "i", ";", "l", "-RCB-", "''", "is", "the", "``", "i", "th", "element", "of", "the", "list", "l", "''", "function", ".", "We", "define", "the", "following", "vector-style", "operations", ":", "vbnd", "-LCB-", "n", ";", "x", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "represents", "a", "``", "telescope", "''", "of", "nested", "bnd", "operations", ".", "It", "is", "defined", "by", "induction", "2", "on", "the", "natural", "number", "n", "as", "follows", ":", "vbnd", "-LCB-", "0", ";", "x.t", "-LSB-", "x", "-RSB-", "-RCB-", ":", "=", "t", "-LSB-", "nil", "-RSB-", "vbnd", "-LCB-", "n", "+", "1", ";", "x.t", "-LSB-", "x", "-RSB-", "-RCB-", ":", "=", "bnd", "-LCB-", "v.vbnd", "-LCB-", "n", ";", "x", ".", "t", "-LSB-", "v", ":", ":", "x", "-RSB-", "-RCB-", "-RCB-", "We", "also", "introduce", "vbnd", "-LCB-", "n", ";", "t", "-RCB-", "as", "a", "simplified", "notation", "for", "vbnd", "-LCB-", "n", ";", "x", ".", "t", "-RCB-", "when", "t", "does", "not", "have", "free", "occurrences", "of", "x.", "vsubst", "-LCB-", "bt", ";", "ts", "-RCB-", "is", "a", "``", "vector", "''", "substitution", "operation", "that", "is", "meant", "to", "represent", "the", "result", "of", "simultaneous", "substitution", "of", "the", "terms", "in", "the", "ts", "list", "for", "the", "first", "|", "ts", "|", "variables", "of", "the", "bterm", "bt", "-LRB-", "here", "|", "l", "|", "is", "the", "length", "of", "the", "list", "l", "-RRB-", ".", "vsubst", "-LCB-", "bt", ";", "ts", "-RCB-", "is", "defined", "by", "induction", "on", "the", "list", "ts", "as", "follows", ":", "vsubst", "-LCB-", "bt", ";", "nil", "-RCB-", ":", "=", "bt", "vsubst", "-LCB-", "bt", ";", "t", ":", ":", "ts", "-RCB-", ":", "=", "vsubst", "-LCB-", "subst", "-LCB-", "bt", ";", "t", "-RCB-", ";", "ts", "-RCB-", "Below", "are", "some", "of", "the", "derived", "properties", "of", "these", "operations", ":", "bnd", "-LCB-", "v.t", "-LSB-", "v", "-RSB-", "-RCB-", "vbnd", "-LCB-", "1", ";", "hd", "-LRB-", "v", "-RRB-", "-RCB-", "-LRB-", "4", "-RRB-", "m", ",", "n", "N.", "vbnd", "-LCB-", "m", "+", "n", ";", "x", ".", "t", "-LSB-", "x", "-RSB-", "-RCB-", "vbnd", "-LCB-", "m", ";", "y.vbnd", "-LCB-", "n", ";", "z.t", "-LSB-", "y", "@z", "-RSB-", "-RCB-", "-RCB-", "-LRB-", "5", "-RRB-", "l", "List", ".", "-LRB-", "vsubst", "-LCB-", "vbnd", "-LCB-", "|", "l", "|", ";", "v.t", "-LSB-", "v", "-RSB-", "-RCB-", ";", "l", "-RCB-", "t", "-LSB-", "l", "-RSB-", "-RRB-", "-LRB-", "6", "-RRB-", "l", "List.n", "N.", "-LRB-", "n", "|", "l", "|", "-RRB-", "-LRB-", "vsubst", "-LCB-", "vbnd", "-LCB-", "n", ";", "v.t", "-LSB-", "v", "-RSB-", "-RCB-", ";", "l", "-RCB-", "vbnd", "-LCB-", "n", "-", "|", "l", "|", ";", "v.bt", "-LSB-", "l", "@v", "-RSB-", "-RCB-", "-RRB-", "-LRB-", "7", "-RRB-", "n", "N.", "vbnd", "-LCB-", "n", ";", "l.vsubst", "-LCB-", "vbnd", "-LCB-", "n", ";", "v.t", "-LSB-", "v", "-RSB-", "-RCB-", ";", "l", "-RCB-", "-RCB-", "vbnd", "-LCB-", "n", ";", "l.t", "-LSB-", "l", "-RSB-", "-RCB-", "-LRB-", "8", "-RRB-", "where", "``", "hd", "''", "is", "the", "list", "``", "head", "''", "operation", ",", "''", "@", "''", "is", "the", "list", "append", "operation", ",", "``", "List", "''", "is", "the", "type", "of", "arbitrary", "lists", "-LRB-", "the", "elements", "of", "a", "list", "do", "not", "have", "to", "belong", "to", "any", "particular", "type", "-RRB-", ",", "N", "is", "the", "type", "of", "natural", "numbers", ",", "and", "all", "the", "variables", "that", "are", "not", "explicitly", "constrained", "to", "a", "specific", "type", "stand", "for", "arbitrary", "expressions", ".", "2", "Our", "presentation", "of", "the", "inductive", "definitions", "is", "slightly", "simplified", "by", "omitting", "some", "minor", "technical", "details", ".", "See", "-LSB-", "NKYH05", ",", "Appendix", "-RSB-", "for", "complete", "details", ".", "7", "Equivalence", "-LRB-", "5", "-RRB-", "allows", "the", "merging", "and", "splitting", "of", "vector", "bnd", "operations", ".", "Equivalence", "-LRB-", "6", "-RRB-", "is", "a", "vector", "variant", "of", "equivalence", "-LRB-", "3", "-RRB-", ".", "Equivalence", "-LRB-", "8", "-RRB-", "is", "very", "similar", "to", "equivalence", "-LRB-", "6", "-RRB-", "applied", "in", "the", "vbnd", "-LCB-", "n", ";", "l.", "-RCB-", "context", ",", "except", "that", "-LRB-", "8", "-RRB-", "does", "not", "require", "l", "to", "be", "a", "member", "of", "any", "special", "type", ".", "4.4", "De", "Bruijn-style", "Operations", "Based", "on", "the", "HOAS", "constructors", "defined", "in", "the", "previous", "two", "sections", ",", "we", "define", "two", "de", "Bruijn-style", "constructors", ".", "var", "-LCB-", "i", ";", "j", "-RCB-", "is", "defined", "as", "vbnd", "-LCB-", "i", ";", "bnd", "-LCB-", "v.vbnd", "-LCB-", "j", ";", "v", "-RCB-", "-RCB-", "-RCB-", ".", "It", "is", "easy", "to", "see", "that", "this", "definition", "indeed", "corresponds", "to", "the", "informal", "bterm", "-LCB-", "x", "1", ",", ",", "x", "l", ",", "y", ",", "z", "1", ",", ",", "z", "r", ".", "y", "-RCB-", "definition", "given", "in", "Section", "3.4", ".", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "is", "meant", "to", "compute", "a", "bterm", "of", "binding", "depth", "n", ",", "with", "operator", "op", ",", "and", "with", "ts", "as", "its", "subterms", ".", "This", "operation", "is", "defined", "by", "induction", "on", "natural", "number", "n", "as", "follows", ":", "mk", "bterm", "-LCB-", "0", ";", "op", ";", "ts", "-RCB-", ":", "=", "mk", "term", "-LCB-", "op", ";", "ts", "-RCB-", "mk", "bterm", "-LCB-", "n", "+", "1", ";", "op", ";", "ts", "-RCB-", ":", "=", "bnd", "-LCB-", "v.mk", "bterm", "-LCB-", "n", ";", "op", ";", "map", "t.subst", "-LCB-", "t", ";", "v", "-RCB-", "ts", "-RCB-", "-RCB-", "Note", "that", ",", "if", "ts", "is", "a", "list", "of", "bnd", "expressions", "-LRB-", "which", "is", "the", "intended", "usage", "of", "the", "mk", "bterm", "operation", "-RRB-", ",", "then", "the", "bnd", "-LCB-", "v.", "map", "t.subst", "-LCB-", "t", ";", "v", "-RCB-", "ts", "-RCB-", "has", "the", "effect", "of", "stripping", "the", "outer", "bnd", "from", "each", "of", "the", "members", "of", "the", "ts", "list", "and", "``", "moving", "''", "them", "into", "a", "single", "``", "merged", "''", "bnd", "on", "the", "outside", ".", "We", "also", "define", "a", "number", "of", "de", "Bruijn-style", "destructors", ",", "i.e.", ",", "operations", "that", "compute", "various", "de", "Bruijn-style", "characteristics", "of", "a", "bterm", ".", "Since", "the", "var", "and", "mk", "bterm", "constructors", "are", "defined", "in", "terms", "of", "the", "HOAS", "constructors", ",", "the", "destructors", "have", "to", "be", "defined", "in", "terms", "of", "HOAS", "operations", "as", "well", ".", "Because", "of", "this", ",", "these", "definitions", "are", "often", "far", "from", "straightforward", ".", "It", "is", "important", "to", "emphasize", "that", "the", "tricky", "definitions", "that", "we", "use", "here", "are", "only", "needed", "to", "establish", "the", "basic", "properties", "of", "the", "operations", "we", "defined", ".", "Once", "the", "basic", "theory", "is", "complete", ",", "we", "can", "raise", "the", "level", "of", "abstraction", "and", "no", "usage", "of", "this", "theory", "will", "ever", "require", "using", "any", "of", "these", "definitions", ",", "being", "aware", "of", "these", "definitions", ",", "or", "performing", "similar", "tricks", "again", ".", "bdepth", "-LCB-", "t", "-RCB-", "computes", "the", "binding", "depth", "of", "term", "t", ".", "It", "is", "defined", "recursively", "using", "the", "Y", "combinator", "as", "Y", "f.b.match", "b", "with", "bnd", "-LCB-", "-RCB-", "1", "+", "f", "subst", "-LCB-", "b", ";", "mk", "term", "-LCB-", "0", ";", "0", "-RCB-", "-RCB-", "|", "mk", "term", "-LCB-", ";", "-RCB-", "0", "t", "In", "effect", ",", "this", "recursive", "function", "strips", "the", "outer", "binders", "from", "a", "bterm", "one", "by", "one", "using", "substitution", "-LRB-", "note", "that", "here", "we", "can", "use", "an", "arbitrary", "mk", "bterm", "expression", "as", "a", "second", "argument", "for", "the", "substitution", "function", ";", "the", "arguments", "to", "mk", "bterm", "do", "not", "have", "to", "have", "the", "``", "correct", "''", "type", "-RRB-", "and", "counts", "the", "number", "of", "times", "it", "needs", "to", "do", "this", "before", "the", "outermost", "mk", "bterm", "is", "exposed", ".", "We", "derive", "the", "following", "properties", "of", "bdepth", ":", "l", ",", "r", "N.", "bdepth", "-LCB-", "var", "-LCB-", "l", ";", "r", "-RCB-", "-RCB-", "-LRB-", "l", "+", "r", "+", "1", "-RRB-", ";", "n", "N.", "bdepth", "-LCB-", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "-RCB-", "n", ".", "Note", "that", "the", "latter", "equivalence", "only", "requires", "n", "to", "have", "the", "``", "correct", "''", "type", ",", "while", "op", "and", "ts", "may", "be", "arbitrary", ".", "Since", "the", "bdepth", "operator", "is", "needed", "for", "defining", "the", "type", "of", "Term", "of", "well-formed", "bterms", ",", "at", "this", "point", "we", "would", "not", "have", "been", "able", "to", "express", "what", "the", "``", "correct", "''", "type", "for", "ts", "would", "be", ".", "left", "-LCB-", "t", "-RCB-", "is", "designed", "to", "compute", "the", "``", "left", "index", "''", "of", "a", "var", "expression", ".", "It", "is", "defined", "as", "Y", "f.b.l.", "match", "b", "with", "bnd", "-LCB-", "-RCB-", "1", "+", "f", "subst", "-LCB-", "b", ";", "mk", "term", "-LCB-", "l", ";", "0", "-RCB-", "-RCB-", "-LRB-", "l", "+", "1", "-RRB-", "|", "mk", "term", "l", ";", "l", "t", "0", "In", "effect", ",", "this", "recursive", "function", "substitutes", "mk", "term", "-LCB-", "0", ";", "0", "-RCB-", "for", "the", "first", "binding", "of", "t", ",", "mk", "term", "-LCB-", "1", ";", "0", "-RCB-", "for", "the", "second", "one", ",", "mk", "term", "-LCB-", "2", ";", "0", "-RCB-", "for", "the", "next", "one", "and", "so", "forth", ".", "Once", "all", "the", "binders", "are", "stripped", "and", "a", "mk", "term", "-LCB-", "l", ";", "0", "-RCB-", "is", "exposed", ",", "l", "is", "the", "index", "we", "were", "looking", "for", ".", "Note", "that", "here", "we", "intentionally", "supply", "mk", "term", "with", "an", "argument", "of", "a", "``", "wrong", "''", "type", "-LRB-", "N", "instead", "of", "Op", "-RRB-", ";", "we", "could", "have", "avoided", "this", ",", "but", "then", "the", "definition", "would", "have", "been", "significantly", "more", "complicated", ".", "As", "expected", ",", "we", "derive", "that", "l", ",", "r", "N.", "-LRB-", "left", "-LCB-", "var", "-LCB-", "l", ";", "r", "-RCB-", "-RCB-", "l", "-RRB-", ".", "right", "-LCB-", "t", "-RCB-", "computes", "the", "``", "right", "index", "''", "of", "a", "var", "expression", ".", "It", "is", "trivial", "to", "define", "in", "terms", "of", "the", "previous", "two", "operators", ":", "right", "-LCB-", "t", "-RCB-", ":", "=", "bdepth", "-LCB-", "t", "-RCB-", "-", "left", "-LCB-", "t", "-RCB-", "-", "1", ".", "get", "op", "-LCB-", "t", ";", "op", "-RCB-", "is", "an", "operation", "such", "that", "n", "N.", "get", "op", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", ";", "op", "op", ",", "l", ",", "r", "N.", "-LRB-", "get", "op", "-LCB-", "var", "-LCB-", "i", ";", "j", "-RCB-", ";", "op", "-RCB-", "op", ".", "Its", "definition", "is", "similar", "to", "that", "of", "left", "-LCB-", "-RCB-", ".", "subterms", "-LCB-", "t", "-RCB-", "is", "designed", "to", "recover", "the", "last", "argument", "of", "a", "mk", "bterm", "expression", ".", "The", "definition", "is", "rather", "technical", "and", "complicated", ",", "so", "we", "omit", "it", ";", "see", "-LSB-", "NKYH05", ",", "Appendix", "C", "-RSB-", "for", "details", ".", "The", "main", "property", "of", "the", "subterms", "operation", "that", "we", "derive", "is", "n", "N.btl", "List", ".", "subterms", "-LCB-", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "btl", "-RCB-", "-RCB-", "map", "b.vbnd", "-LCB-", "n", ";", "v.vsubst", "-LCB-", "b", ";", "v", "-RCB-", "-RCB-", "btl", "The", "right-hand", "side", "of", "this", "equivalence", "is", "not", "quite", "the", "plain", "``", "btl", "''", "that", "one", "might", "have", "hoped", "to", "see", "here", ".", "However", ",", "when", "btl", "is", "a", "list", "of", "bterms", "with", "binding", "depths", "at", "least", "n", ",", "which", "is", "necessarily", "the", "case", "for", "any", "well-formed", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "btl", "-RCB-", ",", "equivalence", "-LRB-", "8", "-RRB-", "would", "allow", "simplifying", "this", "right-hand", "side", "to", "the", "desired", "btl", ".", "4.5", "Operators", "For", "this", "basic", "theory", "the", "exact", "representation", "details", "for", "operators", "are", "not", "essential", "and", "we", "define", "the", "type", "of", "operators", "Op", "abstractly", ".", "We", "only", "require", "that", "operators", "have", "decidable", "equality", "and", "that", "there", "exist", "a", "function", "of", "the", "type", "Op", "N", "List", "that", "computes", "operators", "'", "shapes", ".", "Using", "this", "shape", "function", "and", "the", "bdepth", "function", "from", "Section", "4.4", ",", "it", "is", "trivial", "to", "formalize", "the", "``", "ts", "is", "compatible", "with", "op", "at", "depth", "n", "''", "predicate", "of", "Definition", "4", ".", "We", "denote", "this", "predicate", "as", "shape", "compat", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "and", "define", "it", "as", "|", "shape", "-LCB-", "op", "-RCB-", "|", "=", "|", "btl", "|", "i", "1", ".", ".", "|", "btl", "|", ".", "bdepth", "-LCB-", "nth", "-LCB-", "btl", ";", "i", "-RCB-", "-RCB-", "=", "n", "+", "nth", "-LCB-", "shape", "-LCB-", "op", "-RCB-", ";", "i", "-RCB-", "4.6", "The", "Type", "of", "Terms", "In", "this", "section", "we", "will", "define", "the", "type", "of", "terms", "-LRB-", "i.e.", "well-formed", "bterms", "-RRB-", ",", "Term", ",", "as", "the", "type", "of", "all", "terms", "that", "can", "be", "constructed", "by", "the", "de", "Bruijn", "constructors", "from", "Section", "4.4", ".", "That", "is", ",", "the", "Term", "type", "contains", "all", "expressions", "of", "the", "forms", ":", "var", "-LCB-", "i", ";", "j", "-RCB-", "for", "all", "natural", "numbers", "i", ",", "j", ";", "or", "8", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "for", "any", "natural", "number", "n", ",", "operator", "op", ",", "and", "list", "of", "terms", "ts", "that", "is", "compatible", "with", "op", "at", "depth", "n", ".", "The", "Term", "type", "is", "defined", "as", "a", "fixpoint", "of", "the", "following", "function", "from", "types", "to", "types", ":", "Iter", "-LRB-", "X", "-RRB-", ":", "=", "Image", "-LRB-", "dom", "-LRB-", "X", "-RRB-", ";", "x", ".", "mk", "-LRB-", "x", "-RRB-", "-RRB-", ",", "where", "Image", "is", "a", "type", "constructor", "such", "that", "Image", "-LRB-", "T", ";", "x.", "f", "-LSB-", "x", "-RSB-", "-RRB-", "is", "the", "type", "of", "all", "the", "f", "-LSB-", "t", "-RSB-", "for", "t", "T", "-LRB-", "for", "it", "to", "be", "well-formed", ",", "T", "must", "be", "a", "well-formed", "type", "and", "f", "must", "not", "have", "any", "free", "variables", "except", "for", "x", "-RRB-", ";", "dom", "-LRB-", "X", "-RRB-", "is", "a", "type", "defined", "as", "-LRB-", "N", "N", "-RRB-", "+", "n", ":", "N", "op", ":", "Op", "-LCB-", "ts", ":", "X", "List", "|", "shape", "compat", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "-RCB-", ";", "and", "mk", "-LRB-", "x", "-RRB-", "-LRB-", "where", "x", "is", "presumably", "a", "member", "of", "the", "type", "dom", "-LRB-", "X", "-RRB-", "-RRB-", "is", "defined", "as", "match", "x", "with", "inl", "-LRB-", "i", ",", "j", "-RRB-", "var", "-LCB-", "i", ";", "j", "-RCB-", "|", "inr", "-LRB-", "n", ",", "op", ",", "ts", "-RRB-", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", ".", "The", "fixpoint", "of", "Iter", "is", "reached", "by", "defining", "Term", "0", ":", "=", "Void", "-LRB-", "an", "empty", "type", "-RRB-", "Term", "n", "+1", ":", "=", "Iter", "-LRB-", "Term", "n", "-RRB-", "Term", ":", "=", "n", "N", "Term", "n", "We", "derive", "the", "intended", "introduction", "rules", "for", "the", "Term", "type", ":", "i", "N", "j", "N", "var", "-LCB-", "i", ";", "j", "-RCB-", "Term", "and", "n", "N", "op", "Op", "ts", "Term", "List", "shape", "compat", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "Term", ".", "Also", ",", "the", "structural", "induction", "principle", "is", "derived", "for", "the", "Term", "type", ".", "Namely", ",", "we", "show", "that", "to", "prove", "that", "some", "property", "P", "-LSB-", "t", "-RSB-", "holds", "for", "any", "term", "t", ",", "it", "is", "sufficient", "to", "prove", "-LRB-", "Base", "case", "-RRB-", "P", "holds", "for", "all", "variables", ",", "that", "is", ",", "P", "-LSB-", "var", "-LCB-", "i", ";", "j", "-RCB-", "-RSB-", "holds", "for", "all", "natural", "numbers", "i", "and", "j", ";", "-LRB-", "Induction", "step", "-RRB-", "P", "-LSB-", "mk", "bterm", "-LCB-", "n", ";", "op", ";", "ts", "-RCB-", "-RSB-", "is", "true", "for", "any", "natural", "number", "n", ",", "any", "operator", "op", ",", "and", "any", "list", "of", "terms", "ts", "that", "is", "compatible", "with", "op", "at", "depth", "n", ",", "provided", "P", "-LSB-", "t", "-RSB-", "is", "true", "for", "any", "element", "t", "of", "the", "list", "ts", ".", "Note", "that", "the", "type", "of", "``", "terms", "over", "n", "variables", "''", "-LRB-", "where", "n", "=", "0", "corresponds", "to", "closed", "terms", "-RRB-", "may", "be", "trivially", "defined", "using", "the", "Term", "type", "and", "the", "``", "subset", "''", "type", "constructor", "--", "-LCB-", "t", ":", "Term", "|", "bdepth", "-LCB-", "t", "-RCB-", "=", "n", "-RCB-", ".", "In", "Sections", "3", "and", "4", "we", "have", "presented", "a", "basic", "theory", "of", "syntax", "that", "is", "fully", "implemented", "in", "a", "theorem", "prover", ".", "As", "we", "mentioned", "in", "the", "introduction", ",", "the", "approach", "is", "both", "natural", "and", "expressive", ",", "and", "provides", "a", "foundation", "for", "reflective", "reasoning", "about", "classes", "of", "languages", "and", "logics", ".", "However", ",", "we", "consider", "this", "theory", "to", "be", "only", "the", "first", "step", "towards", "building", "a", "user-accessible", "uniform", "reflection", "framework", "and", "a", "user-accessible", "uniform", "framework", "for", "programming", "language", "reasoning", "and", "experimentation", ",", "where", "tasks", "similar", "to", "the", "ones", "presented", "in", "the", "P", "OPL", "M", "ARK", "challenge", "-LSB-", "ABF", "+", "05", "-RSB-", "can", "be", "performed", "easily", "and", "naturally", ".", "In", "this", "section", "we", "provide", "an", "outline", "of", "our", "plans", "for", "building", "such", "frameworks", "on", "top", "of", "the", "basic", "syntactic", "theory", ".", "5.1", "Higher-Level", "User", "Interface", "One", "obvious", "shortcoming", "of", "the", "theory", "presented", "in", "Sections", "3", "and", "4", "is", "that", "it", "provides", "only", "the", "basic", "low-level", "operations", "such", "as", "bnd", ",", "var", ",", "subterms", ",", "etc.", ".", "It", "presents", "a", "very", "low-level", "account", "of", "syntax", "in", "a", "way", "that", "would", "often", "fail", "to", "abstract", "away", "the", "details", "irrelevant", "to", "the", "user", ".", "To", "address", "this", "problem", "we", "are", "planning", "to", "provide", "user", "interface", "functionality", "capable", "of", "mapping", "the", "high-level", "concepts", "to", "the", "low-level", "ones", ".", "In", "particular", ",", "we", "are", "going", "to", "provide", "an", "interface", "that", "would", "allow", "instantiating", "general", "theorems", "to", "specific", "collections", "of", "operators", "and", "specific", "languages", ".", "Thus", ",", "the", "user", "will", "be", "able", "to", "write", "something", "like", "``", "reflect", "language", "-LSB-", "x.", ";", "apply", "-LCB-", ";", "-RCB-", "-RSB-", "''", "and", "the", "system", "will", "create", "all", "the", "components", "outlined", "in", "Example", "1", ":", "It", "will", "create", "a", "definition", "for", "the", "type", "Language", "-LSB-", "x.", ";", "apply", "-LCB-", ";", "-RCB-", "-RSB-", "of", "reflected", "lambda-terms", "-LRB-", "where", "Language", "-LSB-", "l", "-RSB-", "is", "a", "general", "definition", "of", "a", "language", "over", "a", "list", "of", "operators", "l", "-RRB-", ";", "It", "will", "state", "and", "derive", "the", "introduction", "rules", "for", "this", "type", ";", "It", "will", "state", "and", "derive", "the", "elimination", "rule", "for", "this", "type", "-LRB-", "the", "induction", "principle", "-RRB-", ".", "Moreover", ",", "we", "are", "planning", "to", "support", "even", "more", "complicated", "language", "declarations", ",", "such", "as", "t", ":", "=", "int", "|", "t", "t", ";", "e", ":", "=", "v", "|", "x", ":", "t.e", "-LSB-", "x", "-RSB-", "|", "apply", "-LCB-", "e", ";", "e", "-RCB-", "that", "would", "cause", "the", "system", "to", "create", "mutually", "recursive", "type", "definitions", "and", "appropriate", "rules", ".", "Finally", ",", "we", "are", "also", "planning", "to", "support", "``", "pattern", "bindings", "''", "that", "are", "needed", "for", "a", "natural", "encoding", "of", "ML-like", "pattern", "matching", "-LRB-", "such", "as", "the", "one", "sketched", "in", "the", "P", "OPL", "M", "ARK", "challenge", "-LSB-", "ABF", "+", "05", "-RSB-", "-RRB-", ".", "As", "far", "as", "the", "underlying", "theory", "goes", ",", "we", "believe", "that", "the", "mechanisms", "very", "similar", "to", "the", "``", "vector", "bindings", "''", "presented", "in", "Section", "4.3", "will", "be", "sufficient", "here", ".", "5.2", "``", "Dereferencing", "''", "Quoted", "Terms", "As", "in", "Barzilay", "'s", "work", ",", "the", "quoted", "operator", "approach", "makes", "it", "easy", "to", "define", "the", "``", "unquoting", "''", "-LRB-", "or", "``", "dereferencing", "''", "-RRB-", "operator", "-LSB-", "-LSB-", "-RSB-", "-RSB-", "unq", ".", "If", "t", "is", "a", "syntactic", "term", ",", "then", "-LSB-", "-LSB-", "t", "-RSB-", "-RSB-", "unq", "is", "the", "value", "represented", "by", "t", ".", "By", "definition", ",", "-LSB-", "-LSB-", "op", "-LCB-", "t", "1", ";", "...", ";", "t", "n", "-RCB-", "-RSB-", "-RSB-", "unq", "=", "op", "-LCB-", "-LSB-", "-LSB-", "t", "1", "-RSB-", "-RSB-", "unq", ";", "...", ";", "-LSB-", "-LSB-", "t", "n", "-RSB-", "-RSB-", "unq", "-RCB-", ".", "For", "instance", ",", "-LSB-", "-LSB-", "2", "3", "-RSB-", "-RSB-", "unq", "is", "2", "3", "-LRB-", "i.e.", "6", "-RRB-", ".", "In", "order", "to", "define", "unquoting", "on", "terms", "with", "bindings", ",", "we", "need", "to", "introduce", "the", "``", "guard", "''", "operation", "such", "that", "-LSB-", "-LSB-", "t", "-RSB-", "-RSB-", "unq", "is", "t", "for", "an", "arbitrary", "expression", "t", ".", "Then", "-LSB-", "-LSB-", "-RSB-", "-RSB-", "unq", "can", "be", "defined", "as", "follows", ":", "-LSB-", "-LSB-", "op", "-LCB-", "x", "1", ",", ",", "x", "k", ".", "t", "-LSB-", "x", "1", ";", "...", ";", "x", "k", "-RSB-", ";", ";", "z", "1", ",", ",", "z", "l", ".", "s", "-LSB-", "z", "1", ";", "...", ";", "z", "l", "-RSB-", "-RCB-", "-RSB-", "-RSB-", "unq", "=", "op", "-LCB-", "x", "1", ",", ",", "x", "k", ".", "-LSB-", "-LSB-", "t", "-LSB-", "x", "1", ";", "...", ";", "x", "k", "-RSB-", "-RSB-", "-RSB-", "unq", ";", ";", "z", "1", ",", ",", "z", "l", ".", "-LSB-", "-LSB-", "s", "-LSB-", "z", "1", ";", "...", ";", "z", "l", "-RSB-", "-RSB-", "-RSB-", "unq", "-RCB-", ".", "For", "example", ",", "-LSB-", "-LSB-", "x.", "2", "x", "-RSB-", "-RSB-", "unq", "=", "x.", "-LSB-", "-LSB-", "2", "x", "-RSB-", "-RSB-", "unq", "=", "x.", "-LSB-", "-LSB-", "2", "-RSB-", "-RSB-", "unq", "-LSB-", "-LSB-", "x", "-RSB-", "-RSB-", "unq", "=", "x.", "2", "x", ".", "The", "unquote", "operation", "establishes", "the", "identity", "between", "the", "original", "syntax", "and", "the", "reflected", "syntax", ",", "making", "it", "a", "``", "true", "''", "reflection", ".", "Note", "that", "the", "type", "theory", "-LRB-", "which", "ensures", ",", "in", "particular", ",", "that", "only", "terminating", "functions", "may", "be", "shown", "to", "belong", "to", "a", "function", "type", "-RRB-", "would", "keep", "the", "-LSB-", "-LSB-", "-RSB-", "-RSB-", "unq", "operation", "from", "introducing", "logical", "paradox", "es", ".", "3", "3", "This", "is", ",", "obviously", ",", "not", "a", "proper", "argument", ".", "While", "a", "proper", "argument", "can", "be", "made", "here", ",", "it", "is", "outside", "of", "the", "scope", "of", "this", "particular", "paper", ".", "9", "Also", ",", "since", "the", "notion", "of", "the", "quoted", "operators", "is", "fully", "open-ended", ",", "each", "new", "language", "added", "to", "the", "system", "will", "automatically", "get", "to", "use", "the", "-LSB-", "-LSB-", "-RSB-", "-RSB-", "unq", "operation", "for", "all", "its", "newly", "introduced", "operators", ".", "5.3", "Logical", "Reflection", "After", "defining", "syntactic", "reflection", ",", "it", "is", "easy", "to", "define", "logical", "reflection", ".", "If", "we", "consider", "the", "proof", "system", "open-ended", ",", "then", "the", "logical", "reflection", "is", "trivial", "--", "when", "P", "is", "a", "quotation", "of", "a", "proposition", ",", "we", "can", "regard", "''", "-LSB-", "-LSB-", "P", "-RSB-", "-RSB-", "unq", "''", "as", "meaning", "''", "P", "is", "true", "''", ".", "The", "normal", "modal", "rules", "for", "the", "-LSB-", "-LSB-", "-RSB-", "-RSB-", "unq", "modality", "are", "trivially", "derivable", ".", "For", "example", "modus", "ponens", "-LSB-", "-LSB-", "P", "Q", "-RSB-", "-RSB-", "unq", "-LSB-", "-LSB-", "P", "-RSB-", "-RSB-", "unq", "-LSB-", "-LSB-", "Q", "-RSB-", "-RSB-", "unq", "is", "trivially", "true", "because", "if", "we", "evaluate", "the", "first", "-LSB-", "-LSB-", "-RSB-", "-RSB-", "unq", "-LRB-", "remember", ",", "-LSB-", "-LSB-", "P", "Q", "-RSB-", "-RSB-", "unq", "=", "-LSB-", "-LSB-", "P", "-RSB-", "-RSB-", "unq", "-LSB-", "-LSB-", "Q", "-RSB-", "-RSB-", "unq", "by", "definition", "of", "-LSB-", "-LSB-", "-RSB-", "-RSB-", "unq", "-RRB-", ",", "we", "get", "an", "obvious", "tautology", "-LRB-", "-LSB-", "-LSB-", "P", "-RSB-", "-RSB-", "unq", "-LSB-", "-LSB-", "Q", "-RSB-", "-RSB-", "unq", "-RRB-", "-LSB-", "-LSB-", "P", "-RSB-", "-RSB-", "unq", "-LSB-", "-LSB-", "Q", "-RSB-", "-RSB-", "unq", ".", "In", "order", "to", "consider", "a", "closed", "proof", "system", "-LRB-", "in", "other", "words", ",", "if", "we", "want", "to", "be", "able", "to", "do", "induction", "over", "derivations", "-RRB-", ",", "we", "would", "need", "to", "define", "a", "provability", "predicate", "for", "that", "system", ".", "We", "are", "planning", "to", "provide", "user", "interface", "functionality", "that", "would", "allow", "users", "to", "describe", "a", "set", "of", "proof", "rules", "and", "the", "system", "would", "generate", "appropriate", "proof", "predicate", "definitions", "and", "derive", "appropriate", "rules", "-LRB-", "in", "a", "style", "similar", "to", "the", "one", "outlined", "in", "Section", "5.1", "for", "the", "case", "of", "language", "descriptions", "-RRB-", ".", "In", "Section", "2", "we", "have", "already", "discussed", "a", "number", "of", "approaches", "that", "we", "consider", "ourselves", "inheriting", "from", ".", "Here", "we", "would", "like", "to", "revisit", "some", "of", "them", "and", "mention", "a", "few", "other", "related", "efforts", ".", "Our", "work", "has", "a", "lot", "in", "common", "with", "the", "HOAS", "implemented", "in", "Coq", "by", "Despeyroux", "and", "Hirschowitz", "-LSB-", "DH94", "-RSB-", ".", "In", "both", "cases", ",", "the", "more", "general", "space", "of", "terms", "-LRB-", "that", "include", "the", "exotic", "ones", "-RRB-", "is", "later", "restricted", "in", "a", "recursive", "manner", ".", "In", "both", "cases", ",", "the", "higher-order", "analogs", "of", "first-order", "de", "Bruijn", "operators", "are", "defined", "and", "used", "as", "a", "part", "of", "the", "``", "well-formedness", "''", "specification", "for", "the", "terms", ".", "Despeyroux", "and", "Hirschowitz", "use", "functions", "over", "infinite", "lists", "of", "variables", "to", "define", "open", "terms", ",", "which", "is", "similar", "to", "our", "vector", "bindings", ".", "There", "are", "a", "number", "of", "significant", "differences", "as", "well", ".", "Our", "approach", "is", "sufficiently", "syntactical", ",", "which", "allows", "eliminating", "all", "exotic", "terms", ",", "even", "those", "that", "are", "extensionally", "equal", "to", "the", "well-formed", "ones", ",", "while", "the", "more", "semantic", "approach", "of", "-LSB-", "DH94", ",", "DFH95", "-RSB-", "has", "to", "accept", "such", "exotic", "terms", "-LRB-", "their", "solution", "to", "this", "problem", "is", "to", "consider", "an", "object", "term", "to", "be", "represented", "by", "the", "whole", "equivalence", "class", "of", "extensionally", "equal", "terms", "-RRB-", ";", "more", "generally", "while", "-LSB-", "DH94", "-RSB-", "states", "that", "``", "this", "problem", "of", "extensionality", "is", "recurrent", "all", "over", "our", "work", "''", ",", "most", "of", "our", "lemmas", "establish", "identity", "and", "not", "just", "equality", ",", "thus", "avoiding", "most", "of", "the", "issues", "of", "extensional", "equality", ".", "In", "our", "implementation", ",", "the", "substitution", "on", "object", "terms", "is", "mapped", "directly", "to", "-", "reduction", ",", "while", "Despeyroux", "et", "al.", ".", "-LSB-", "DFH95", "-RSB-", "have", "to", "define", "it", "recursively", ".", "In", "addition", ",", "we", "provide", "a", "uniform", "approach", "to", "both", "free", "and", "bound", "variables", "that", "naturally", "extends", "to", "variable-length", "``", "vector", "''", "bindings", ".", "While", "our", "approach", "is", "quite", "different", "from", "the", "modal", "-", "calculus", "one", "-LSB-", "DPS97", ",", "DL99", ",", "DL01", "-RSB-", ",", "there", "are", "some", "similarities", "in", "the", "intuition", "behind", "it", ".", "Despeyroux", "et", "al.", ".", "-LSB-", "DPS97", "-RSB-", "says", "``", "Intuitively", ",", "we", "interpret", "B", "as", "the", "type", "of", "closed", "objects", "of", "type", "B", ".", "We", "can", "iterate", "or", "distinguish", "cases", "over", "closed", "objects", ",", "since", "all", "constructors", "are", "statically", "known", "and", "can", "be", "provided", "for", ".", "''", "The", "intuition", "behind", "our", "approach", "is", "in", "part", "based", "on", "the", "canonical", "model", "of", "the", "NuPRL", "type", "theory", "-LSB-", "All87a", ",", "All87b", "-RSB-", ",", "where", "each", "type", "is", "mapped", "to", "an", "equivalence", "relations", "over", "the", "closed", "terms", "of", "that", "type", ".", "Gordon", "and", "Melham", "-LSB-", "GM96", "-RSB-", "define", "the", "type", "of", "-", "terms", "as", "a", "quotient", "of", "the", "type", "of", "terms", "with", "concrete", "binding", "variables", "over", "-", "equivalence", ".", "Michael", "Norrish", "-LSB-", "Nor04", "-RSB-", "builds", "upon", "this", "work", "by", "replacing", "certain", "variable", "``", "freshness", "''", "requirements", "with", "variable", "``", "swapping", "''", ".", "This", "approach", "has", "a", "number", "of", "attractive", "properties", ";", "however", ",", "we", "believe", "that", "the", "level", "of", "abstraction", "provided", "by", "the", "HOAS-style", "approaches", "makes", "the", "HOAS", "style", "more", "convenient", "and", "accessible", ".", "Ambler", ",", "Crole", ",", "and", "Momigliano", "-LSB-", "ACM02", "-RSB-", "have", "combined", "the", "HOAS", "with", "the", "induction", "principle", "using", "an", "approach", "which", "in", "some", "sense", "is", "opposite", "to", "ours", ".", "Namely", ",", "they", "define", "the", "HOAS", "operators", "on", "top", "of", "the", "de", "Bruijn", "definition", "of", "terms", "using", "higher", "order", "pattern", "matching", ".", "In", "a", "later", "work", "-LSB-", "ACM03", "-RSB-", "they", "have", "de-scribed", "the", "notion", "of", "``", "terms-in-infinite-context", "''", "which", "is", "quite", "similar", "to", "our", "approach", "to", "vector", "binding", ".", "While", "our", "vector", "bindings", "presented", "in", "Section", "4.3", "are", "finite", "length", ",", "the", "exact", "same", "approach", "would", "work", "for", "the", "infinite-length", "``", "vectors", "''", "as", "well", ".", "The", "authors", "are", "grateful", "to", "Eli", "Barzilay", "whose", "ideas", "were", "an", "inspiration", "for", "some", "of", "the", "work", "that", "lead", "to", "this", "paper", ".", "We", "are", "also", "grateful", "for", "his", "comments", "on", "an", "early", "draft", "of", "this", "paper", ".", "We", "are", "grateful", "to", "the", "anonymous", "reviewers", "for", "their", "very", "thorough", "and", "fair", "feedback", "and", "many", "helpful", "suggestions", ".", "-LSB-", "AA99", "-RSB-", "Eric", "Aaron", "and", "Stuart", "Allen", ".", "Justifying", "calculational", "logic", "by", "a", "conventional", "metalinguistic", "semantics", ".", "Technical", "Report", "TR99-1771", ",", "Cornell", "University", ",", "Ithaca", ",", "New", "York", ",", "September", "1999", ".", "-LSB-", "ABF", "+", "05", "-RSB-", "Brian", "E.", "Aydemir", ",", "Aaron", "Bohannon", ",", "Matthew", "Fairbairn", ",", "J.", "Nathan", "Foster", ",", "Benjamin", "C.", "Pierce", ",", "Peter", "Sewell", ",", "Dimitrios", "Vytiniotis", ",", "Geoffrey", "Washburn", ",", "Stephanie", "Weirich", ",", "and", "Steve", "Zdancewic", ".", "Mechanized", "metatheory", "for", "the", "masses", ":", "The", "POPLmark", "challenge", ".", "Available", "from", "http://www.cis", ".", "upenn.edu/group/proj/plclub/mmm/", ",", "2005", ".", "-LSB-", "AC92", "-RSB-", "William", "Aitken", "and", "Robert", "L.", "Constable", ".", "Reflecting", "on", "NuPRL", ":", "Lessons", "1", "4", ".", "Technical", "report", ",", "Cornell", "University", ",", "Computer", "Science", "Department", ",", "Ithaca", ",", "NY", ",", "1992", ".", "-LSB-", "ACE", "+", "00", "-RSB-", "Stuart", "Allen", ",", "Robert", "Constable", ",", "Richard", "Eaton", ",", "Christoph", "Kreitz", ",", "and", "Lori", "Lorigo", ".", "The", "NuPRL", "open", "logical", "environment", ".", "In", "David", "McAllester", ",", "editor", ",", "Proceedings", "of", "the", "17", "t", "h", "International", "Conference", "on", "Automated", "Deduction", ",", "volume", "1831", "of", "Lecture", "Notes", "in", "Artificial", "Intelligence", ",", "pages", "170", "176", ".", "Springer", "Verlag", ",", "2000", ".", "-LSB-", "ACHA90", "-RSB-", "Stuart", "F.", "Allen", ",", "Robert", "L.", "Constable", ",", "Douglas", "J.", "Howe", ",", "and", "William", "Aitken", ".", "The", "semantics", "of", "reflected", "proof", ".", "In", "Proceedings", "of", "the", "5", "t", "h", "Symposium", "on", "Logic", "in", "Computer", "Science", ",", "pages", "95", "197", ".", "IEEE", "Computer", "Society", "Press", ",", "June", "1990", ".", "-LSB-", "ACM02", "-RSB-", "Simon", "Ambler", ",", "Roy", "L.", "Crole", ",", "and", "Alberto", "Momigliano", ".", "Combining", "higher", "order", "abstract", "syntax", "with", "tactical", "theorem", "proving", "and", "-LRB-", "co", "-RRB-", "induction", ".", "In", "TPHOLs", "'", "02", ":", "Proceedings", "of", "the", "15th", "International", "Conference", "on", "Theorem", "Proving", "in", "Higher", "Order", "Logics", ",", "pages", "13", "30", ",", "London", ",", "UK", ",", "2002", ".", "Springer-Verlag", ".", "-LSB-", "ACM03", "-RSB-", "S.", "J.", "Ambler", ",", "R.", "L.", "Crole", ",", "and", "Alberto", "Momigliano", ".", "A", "definitional", "approach", "to", "primitive", "recursion", "over", "higher", "order", "abstract", "syntax", ".", "In", "Proceedings", "of", "the", "2003", "workshop", "on", "Mechanized", "reasoning", "about", "languages", "with", "variable", "binding", ",", "pages", "1", "11", ".", "ACM", "Press", ",", "2003", ".", "-LSB-", "ACU93", "-RSB-", "William", "Aitken", ",", "Robert", "L.", "Constable", ",", "and", "Judith", "Underwood", ".", "Metalogical", "Frameworks", "II", ":", "Using", "reflected", "decision", "procedures", ".", "Journal", "of", "Automated", "Reasoning", ",", "22", "-LRB-", "2", "-RRB-", ":", "171", "221", ",", "1993", ".", "10", "-LSB-", "All87a", "-RSB-", "Stuart", "F.", "Allen", ".", "A", "Non-type-theoretic", "Definition", "of", "Martin-L", "of", "'s", "Types", ".", "In", "D.", "Gries", ",", "editor", ",", "Proceedings", "of", "the", "2", "nd", "IEEE", "Symposium", "on", "Logic", "in", "Computer", "Science", ",", "pages", "215", "224", ".", "IEEE", "Computer", "Society", "Press", ",", "June", "1987", ".", "-LSB-", "All87b", "-RSB-", "Stuart", "F.", "Allen", ".", "A", "Non-Type-Theoretic", "Semantics", "for", "Type-Theoretic", "Language", ".", "PhD", "thesis", ",", "Cornell", "University", ",", "1987", ".", "-LSB-", "Art99", "-RSB-", "Sergei", "Artemov", ".", "On", "explicit", "reflection", "in", "theorem", "proving", "and", "formal", "verification", ".", "In", "Ganzinger", "-LSB-", "Gan99", "-RSB-", ",", "pages", "267", "281", ".", "-LSB-", "Art04", "-RSB-", "Sergei", "Artemov", ".", "Evidence-based", "common", "knowledge", ".", "Technical", "Report", "TR-2004018", ",", "CUNY", "Ph.D.", ".", "Program", "in", "Computer", "Science", "Technical", "Reports", ",", "November", "2004", ".", "-LSB-", "BA02", "-RSB-", "Eli", "Barzilay", "and", "Stuart", "Allen", ".", "Reflecting", "higher-order", "abstract", "syntax", "in", "NuPRL", ".", "In", "Victor", "A.", "Carre", "~", "no", ",", "C", "ezar", "A.", "Mu", "~", "noz", ",", "and", "Sophi`ene", "Tahar", ",", "editors", ",", "Theorem", "Proving", "in", "Higher", "Order", "Logics", ";", "Track", "B", "Proceedings", "of", "the", "15", "t", "h", "International", "Conference", "on", "Theorem", "Proving", "in", "Higher", "Order", "Logics", "-LRB-", "TPHOLs", "2002", "-RRB-", ",", "Hampton", ",", "VA", ",", "August", "2002", ",", "pages", "23", "32", ".", "National", "Aeronautics", "and", "Space", "Administration", ",", "2002", ".", "-LSB-", "BAC03", "-RSB-", "Eli", "Barzilay", ",", "Stuart", "Allen", ",", "and", "Robert", "Constable", ".", "Practical", "reflection", "in", "NuPRL", ".", "Short", "paper", "presented", "at", "18th", "Annual", "IEEE", "Symposium", "on", "Logic", "in", "Computer", "Science", ",", "June", "22", "25", ",", "Ottawa", ",", "Canada", ",", "2003", ".", "-LSB-", "Bar01", "-RSB-", "Eli", "Barzilay", ".", "Quotation", "and", "reflection", "in", "NuPRL", "and", "Scheme", ".", "Technical", "Report", "TR2001-1832", ",", "Cornell", "University", ",", "Ithaca", ",", "New", "York", ",", "January", "2001", ".", "-LSB-", "Bar05", "-RSB-", "Eli", "Barzilay", ".", "Implementing", "Reflection", "in", "NuPRL", ".", "PhD", "thesis", ",", "Cornell", "University", ",", "2005", ".", "In", "preparation", ".", "-LSB-", "CAB", "+", "86", "-RSB-", "Robert", "L.", "Constable", ",", "Stuart", "F.", "Allen", ",", "H.", "M.", "Bromley", ",", "W.", "R.", "Cleaveland", ",", "J.", "F.", "Cremer", ",", "R.", "W.", "Harper", ",", "Douglas", "J.", "Howe", ",", "T.", "B.", "Knoblock", ",", "N.", "P.", "Mendler", ",", "P.", "Panangaden", ",", "James", "T.", "Sasaki", ",", "and", "Scott", "F.", "Smith", ".", "Implementing", "Mathematics", "with", "the", "NuPRL", "Proof", "Development", "System", ".", "Prentice-Hall", ",", "NJ", ",", "1986", ".", "-LSB-", "CFW04", "-RSB-", "Lu", "is", "Crus-Filipe", "and", "Freek", "Weidijk", ".", "Hierarchical", "reflection", ".", "In", "Slind", "et", "al.", ".", "-LSB-", "SBG04", "-RSB-", ",", "pages", "66", "81", ".", "-LSB-", "Con94", "-RSB-", "Robert", "L.", "Constable", ".", "Using", "reflection", "to", "explain", "and", "enhance", "type", "theory", ".", "In", "Helmut", "Schwichtenberg", ",", "editor", ",", "Proof", "and", "Computation", ",", "volume", "139", "of", "NATO", "Advanced", "Study", "Institute", ",", "International", "Summer", "School", "held", "in", "Marktoberdorf", ",", "Germany", ",", "July", "20-August", "1", ",", "NATO", "Series", "F", ",", "pages", "65", "100", ".", "Springer", ",", "Berlin", ",", "1994", ".", "-LSB-", "dB72", "-RSB-", "N.", "G.", "de", "Bruijn", ".", "Lambda", "calculus", "notation", "with", "nameless", "dummies", ",", "a", "tool", "for", "automatic", "formula", "manipulation", ",", "with", "application", "to", "the", "Church-Rosser", "theorem", ".", "Indagaciones", "Mathematische", ",", "34:381", "392", ",", "1972", ".", "This", "also", "appeared", "in", "the", "Proceedings", "of", "the", "Koninklijke", "Nederlandse", "Akademie", "van", "Wetenschappen", ",", "Amsterdam", ",", "series", "A", ",", "75", ",", "No.", "5", ".", "-LSB-", "DFH95", "-RSB-", "Jo", "elle", "Despeyroux", ",", "Amy", "Felty", ",", "and", "Andr", "e", "Hirschowitz", ".", "Higher-order", "abstract", "syntax", "in", "Coq", ".", "In", "M.", "Dezani-Ciancaglini", "and", "G.", "Plotkin", ",", "editors", ",", "Proceedings", "of", "the", "International", "Conference", "on", "Typed", "Lambda", "Calculus", "and", "its", "Applications", ",", "volume", "902", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "124", "138", ".", "Springer-Verlag", ",", "April", "1995", ".", "Also", "appears", "as", "INRIA", "research", "report", "RR-2556", ".", "-LSB-", "DH94", "-RSB-", "Jo", "elle", "Despeyroux", "and", "Andr", "e", "Hirschowitz", ".", "Higher-order", "abstract", "syntax", "with", "induction", "in", "Coq", ".", "In", "LPAR", "'", "94", ":", "Proceedings", "of", "the", "5th", "International", "Conference", "on", "Logic", "Programming", "and", "Automated", "Reasoning", ",", "volume", "822", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "159", "173", ".", "Springer-Verlag", ",", "1994", ".", "Also", "appears", "as", "INRIA", "research", "report", "RR-2292", ".", "-LSB-", "DH95", "-RSB-", "James", "Davis", "and", "Daniel", "Huttenlocher", ".", "Shared", "annotations", "for", "cooperative", "learning", ".", "In", "Proceedings", "of", "the", "ACM", "Conference", "on", "Computer", "Supported", "Cooperative", "Learning", ",", "September", "1995", ".", "-LSB-", "DL99", "-RSB-", "Jo", "elle", "Despeyroux", "and", "Pierre", "Leleu", ".", "A", "modal", "lambda", "calculus", "with", "iteration", "and", "case", "constructs", ".", "In", "T.", "Altenkirch", ",", "W.", "Naraschewski", ",", "and", "B.", "Reus", ",", "editors", ",", "Types", "for", "Proofs", "and", "Programs", ":", "International", "Workshop", ",", "TYPES", "'", "98", ",", "Kloster", "Irsee", ",", "Germany", ",", "March", "1998", ",", "volume", "1657", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "47", "61", ",", "1999", ".", "-LSB-", "DL01", "-RSB-", "Jo", "elle", "Despeyroux", "and", "Pierre", "Leleu", ".", "Recursion", "over", "objects", "of", "functional", "type", ".", "Mathematical", "Structures", "in", "Computer", "Science", ",", "11", "-LRB-", "4", "-RRB-", ":", "555", "572", ",", "2001", ".", "-LSB-", "DPS97", "-RSB-", "Jo", "elle", "Despeyroux", ",", "Frank", "Pfenning", ",", "and", "Carsten", "Sch", "urmann", ".", "Primitive", "recursion", "for", "higher", "order", "abstract", "syntax", ".", "In", "R.", "Hindley", ",", "editor", ",", "Proceedings", "of", "the", "Third", "International", "Conference", "on", "Typed", "Lambda", "Calculus", "and", "Applications", "-LRB-", "TLCA", "'", "97", "-RRB-", ",", "volume", "1210", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "147", "163", ".", "Springer-Verlag", ",", "April", "1997", ".", "An", "extended", "version", "is", "available", "as", "Technical", "Report", "CMU-CS-96", "-172", ",", "Carnegie", "Mellon", "University", ".", "-LSB-", "EM71", "-RSB-", "Andrzej", "Ehrenfeucht", "and", "Jan", "Mycielski", ".", "Abbreviating", "proofs", "by", "adding", "new", "axioms", ".", "Bulletin", "of", "the", "American", "Mathematical", "Society", ",", "77:366", "367", ",", "1971", ".", "-LSB-", "F", "+", "86", "-RSB-", "Solomon", "Feferman", "et", "al.", ",", "editors", ".", "Kurt", "G", "odel", "Collected", "Works", ",", "volume", "1", ".", "Oxford", "University", "Press", ",", "Oxford", ",", "Clarendon", "Press", ",", "New", "York", ",", "1986", ".", "-LSB-", "FPT99", "-RSB-", "Marcelo", "Fiore", ",", "Gordon", "Plotkin", ",", "and", "Daniele", "Turi", ".", "Abstract", "syntax", "and", "variable", "binding", ".", "In", "Proceedings", "of", "14", "t", "h", "IEEE", "Symposium", "on", "Logic", "in", "Computer", "Science", ",", "pages", "193", "+", ".", "IEEE", "Computer", "Society", "Press", ",", "1999", ".", "-LSB-", "Gan99", "-RSB-", "Harald", "Ganzinger", ",", "editor", ".", "Proceedings", "of", "the", "16", "t", "h", "International", "Conference", "on", "Automated", "Deduction", ",", "volume", "1632", "of", "Lecture", "Notes", "in", "Artificial", "Intelligence", ",", "Berlin", ",", "July", "7", "10", "1999", ".", "Trento", ",", "Italy", ".", "-LSB-", "GM96", "-RSB-", "A.", "D.", "Gordon", "and", "T.", "Melham", ".", "Five", "axioms", "of", "alpha-conversion", ".", "In", "J.", "von", "Wright", ",", "J.", "Grundy", ",", "and", "J.", "Harrison", ",", "editors", ",", "Theorem", "Proving", "in", "Higher", "Order", "Logics", ":", "9th", "International", "Conference", ",", "Turku", ",", "Finland", ",", "August", "1996", ":", "Proceedings", ",", "volume", "1125", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "173", "190", ".", "Springer-Verlag", ",", "1996", ".", "-LSB-", "GMO03", "-RSB-", "Jim", "Grundy", ",", "Tom", "Melham", ",", "and", "John", "O'Leary", ".", "A", "reflective", "functional", "language", "for", "hardware", "design", "and", "theorem", "proving", ".", "Technical", "Report", "PRG-RR-03-16", ",", "Oxford", "Univerity", ",", "Computing", "Laboratory", ",", "2003", ".", "-LSB-", "G", "od31", "-RSB-", "Kurt", "G", "odel", ".", "Uber", "formal", "unentscheidbare", "s", "atze", "der", "principia", "mathematica", "und", "verwandter", "systeme", "I.", "Monatshefte", "f", "ur", "Mathematik", "und", "Physik", ",", "38:173", "198", ",", "1931", ".", "English", "version", "in", "-LSB-", "vH67", "-RSB-", ".", "-LSB-", "G", "od36", "-RSB-", "K.", "G", "odel", ".", "Uber", "die", "L", "ange", "von", "beweisen", ".", "Ergebnisse", "eines", "mathematischen", "Kolloquiums", ",", "7:23", "24", ",", "1936", ".", "English", "translation", "in", "-LSB-", "F", "+", "86", "-RSB-", ",", "pages", "397", "399", ".", "-LSB-", "GS89", "-RSB-", "F.", "Giunchiglia", "and", "A.", "Smaill", ".", "Reflection", "in", "constructive", "and", "non-constructive", "automated", "reasoning", ".", "In", "H.", "Abramson", "and", "M.", "H.", "Rogers", ",", "editors", ",", "Meta-Programming", "in", "Logic", "Programming", ",", "pages", "123", "140", ".", "MIT", "Press", ",", "Cambridge", ",", "Mass.", ",", "1989", ".", "-LSB-", "GWZ00", "-RSB-", "H.", "Geuvers", ",", "F.", "Wiedijk", ",", "and", "J.", "Zwanenburg", ".", "Equational", "reasoning", "via", "partial", "reflection", ".", "In", "J.", "Harrison", "and", "M.", "Aagaard", ",", "editors", ",", "Theorem", "Proving", "in", "Higher", "Order", "Logics", ":", "13", "t", "h", "International", "Conference", ",", "TPHOLs", "2000", ",", "volume", "1869", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "162", "178", ".", "Springer-Verlag", ",", "2000", ".", "-LSB-", "HAB", "+", "-RSB-", "Jason", "J.", "Hickey", ",", "Brian", "Aydemir", ",", "Yegor", "Bryukhov", ",", "Alexei", "Kopylov", ",", "Aleksey", "Nogin", ",", "and", "Xin", "Yu", ".", "A", "listing", "of", "MetaPRL", "theories", ".", "http://metaprl.org/theories.pdf", ".", "-LSB-", "Har95", "-RSB-", "J.", "Harrison", ".", "Metatheory", "and", "reflection", "in", "theorem", "proving", ":", "A", "survey", "and", "critique", ".", "Technical", "Report", "CRC-53", ",", "SRI", "International", ",", "Cambridge", "Computer", "Science", "Research", "Centre", ",", "Millers", "Yard", ",", "Cambridge", ",", "UK", ",", "February", "1995", ".", "11", "-LSB-", "HHP93", "-RSB-", "Robert", "Harper", ",", "Furio", "Honsell", ",", "and", "Gordon", "Plotkin", ".", "A", "framework", "for", "defining", "logics", ".", "Journal", "of", "the", "Association", "for", "Computing", "Machinery", ",", "40", "-LRB-", "1", "-RRB-", ":", "143", "184", ",", "January", "1993", ".", "A", "revised", "and", "expanded", "verion", "of", "'87", "paper", ".", "-LSB-", "Hic97", "-RSB-", "Jason", "J.", "Hickey", ".", "NuPRL-Light", ":", "An", "implementation", "framework", "for", "higher-order", "logics", ".", "In", "William", "McCune", ",", "editor", ",", "Proceedings", "of", "the", "14", "t", "h", "International", "Conference", "on", "Automated", "Deduction", ",", "volume", "1249", "of", "Lecture", "Notes", "in", "Artificial", "Intelligence", ",", "pages", "395", "399", ".", "Springer", ",", "July", "13", "17", "1997", ".", "An", "extended", "version", "of", "the", "paper", "can", "be", "found", "at", "http://www.cs.caltech.edu/~jyh/papers/cade14_", "nl/default.html", ".", "-LSB-", "Hic99", "-RSB-", "Jason", "J.", "Hickey", ".", "Fault-tolerant", "distributed", "theorem", "proving", ".", "In", "Ganzinger", "-LSB-", "Gan99", "-RSB-", ",", "pages", "227", "231", ".", "-LSB-", "Hic01", "-RSB-", "Jason", "J.", "Hickey", ".", "The", "MetaPRL", "Logical", "Programming", "Environment", ".", "PhD", "thesis", ",", "Cornell", "University", ",", "Ithaca", ",", "NY", ",", "January", "2001", ".", "-LSB-", "HL78", "-RSB-", "G", "erard", "P.", "Huet", "and", "Bernard", "Lang", ".", "Proving", "and", "applying", "program", "transformations", "expressed", "with", "second-order", "patterns", ".", "Acta", "Informatica", ",", "11:31", "55", ",", "1978", ".", "-LSB-", "HNC", "+", "03", "-RSB-", "Jason", "Hickey", ",", "Aleksey", "Nogin", ",", "Robert", "L.", "Constable", ",", "Brian", "E.", "Aydemir", ",", "Eli", "Barzilay", ",", "Yegor", "Bryukhov", ",", "Richard", "Eaton", ",", "Adam", "Granicz", ",", "Alexei", "Kopylov", ",", "Christoph", "Kreitz", ",", "Vladimir", "N.", "Krupski", ",", "Lori", "Lorigo", ",", "Stephan", "Schmitt", ",", "Carl", "Witty", ",", "and", "Xin", "Yu", ".", "MetaPRL", "--", "A", "modular", "logical", "environment", ".", "In", "David", "Basin", "and", "Burkhart", "Wolff", ",", "editors", ",", "Proceedings", "of", "the", "16", "t", "h", "International", "Conference", "on", "Theorem", "Proving", "in", "Higher", "Order", "Logics", "-LRB-", "TPHOLs", "2003", "-RRB-", ",", "volume", "2758", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "287", "303", ".", "Springer-Verlag", ",", "2003", ".", "-LSB-", "HNK", "+", "-RSB-", "Jason", "J.", "Hickey", ",", "Aleksey", "Nogin", ",", "Alexei", "Kopylov", ",", "et", "al.", ".", "MetaPRL", "home", "page", ".", "http://metaprl.org/", ".", "-LSB-", "Mos52", "-RSB-", "Andrzej", "Mostowski", ".", "Sentences", "undecidable", "in", "formalized", "arithmetic", ":", "an", "exposition", "of", "the", "theory", "of", "Kurt", "G", "odel", ".", "Amsterdam", ":", "North-Holland", ",", "1952", ".", "-LSB-", "NH02", "-RSB-", "Aleksey", "Nogin", "and", "Jason", "Hickey", ".", "Sequent", "schema", "for", "derived", "rules", ".", "In", "Victor", "A.", "Carre", "~", "no", ",", "C", "ezar", "A.", "Mu", "~", "noz", ",", "and", "Sophi`ene", "Tahar", ",", "editors", ",", "Proceedings", "of", "the", "15", "t", "h", "International", "Conference", "on", "Theorem", "Proving", "in", "Higher", "Order", "Logics", "-LRB-", "TPHOLs", "2002", "-RRB-", ",", "volume", "2410", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "281", "297", ".", "Springer-Verlag", ",", "2002", ".", "-LSB-", "NKYH05", "-RSB-", "Aleksey", "Nogin", ",", "Alexei", "Kopylov", ",", "Xin", "Yu", ",", "and", "Jason", "Hickey", ".", "A", "computational", "approach", "to", "reflective", "meta-reasoning", "about", "languages", "with", "bindings", ".", "Technical", "Report", "CaltechCSTR", ":", "2005.003", ",", "California", "Institure", "of", "Technology", ",", "2005", ".", "Available", "at", "http://resolver.caltech.edu/", "CaltechCSTR", ":", "2005.003", ".", "-LSB-", "Nor04", "-RSB-", "Michael", "Norrish", ".", "Recursive", "function", "definition", "for", "types", "with", "binders", ".", "In", "Slind", "et", "al.", ".", "-LSB-", "SBG04", "-RSB-", ",", "pages", "241", "256", ".", "-LSB-", "Par71", "-RSB-", "R.", "Parikh", ".", "Existence", "and", "feasibility", "in", "arithmetic", ".", "The", "Journal", "of", "Symbolic", "Logic", ",", "36:494", "508", ",", "1971", ".", "-LSB-", "Pau94", "-RSB-", "Lawrence", "C.", "Paulson", ".", "Isabelle", ":", "A", "Generic", "Theorem", "Prover", ",", "volume", "828", "of", "Lecture", "Notes", "in", "Computer", "Science", ".", "Springer-Verlag", ",", "New", "York", ",", "1994", ".", "-LSB-", "PE88", "-RSB-", "Frank", "Pfenning", "and", "Conal", "Elliott", ".", "Higher-order", "abstract", "syntax", ".", "In", "Proceedings", "of", "the", "ACM", "SIGPLAN", "'88", "Conference", "on", "Programming", "Language", "Design", "and", "Implementation", "-LRB-", "PLDI", "-RRB-", ",", "volume", "23", "-LRB-", "7", "-RRB-", "of", "SIGPLAN", "Notices", ",", "pages", "199", "208", ",", "Atlanta", ",", "Georgia", ",", "June", "1988", ".", "ACM", "Press", ".", "-LSB-", "Pfe89", "-RSB-", "Frank", "Pfenning", ".", "Elf", ":", "a", "language", "for", "logic", "definition", "and", "verified", "metaprogramming", ".", "In", "Proceedings", "of", "the", "4", "t", "h", "IEEE", "Symposium", "on", "Logic", "in", "Computer", "Science", ",", "pages", "313", "322", ",", "Asilomar", "Conference", "Center", ",", "Pacific", "Grove", ",", "California", ",", "June", "1989", ".", "IEEE", "Computer", "Society", "Press", ".", "-LSB-", "Plo90", "-RSB-", "Gordon", "Plotkin", ".", "An", "illative", "theory", "of", "relations", ".", "In", "R.", "Cooper", ",", "K.", "Mukai", ",", "and", "J.", "Perry", ",", "editors", ",", "Situation", "Theory", "and", "Its", "Applications", ",", "Volume", "1", ",", "number", "22", "in", "CSLI", "Lecture", "Notes", ",", "pages", "133", "146", ".", "Centre", "for", "the", "Study", "of", "Language", "and", "Information", ",", "1990", ".", "-LSB-", "PN90", "-RSB-", "L.", "Paulson", "and", "T.", "Nipkow", ".", "Isabelle", "tutorial", "and", "user", "'s", "manual", ".", "Technical", "report", ",", "University", "of", "Cambridge", "Computing", "Laboratory", ",", "1990", ".", "-LSB-", "SBG04", "-RSB-", "Konrad", "Slind", ",", "Annette", "Bunker", ",", "and", "Ganesh", "Gopalakrishnan", ",", "editors", ".", "Proceedings", "of", "the", "17", "t", "h", "International", "Conference", "on", "Theorem", "Proving", "in", "Higher", "Order", "Logics", "-LRB-", "TPHOLs", "2004", "-RRB-", ",", "volume", "3223", "of", "Lecture", "Notes", "in", "Computer", "Science", ".", "Springer-Verlag", ",", "2004", ".", "-LSB-", "Sch01", "-RSB-", "Carsten", "Sch", "urmann", ".", "Recursion", "for", "higher-order", "encodings", ".", "In", "L.", "Fribourg", ",", "editor", ",", "Computer", "Science", "Logic", ",", "Proceedings", "of", "the", "10", "t", "h", "Annual", "Conference", "of", "the", "EACSL", ",", "volume", "2142", "of", "Lecture", "Notes", "in", "Computer", "Science", ",", "pages", "585", "599", ".", "Springer-Verlag", ",", "2001", ".", "-LSB-", "Smi84", "-RSB-", "B.C.", "Smith", ".", "Reflection", "and", "semantics", "in", "Lisp", ".", "Principles", "of", "Programming", "Languages", ",", "pages", "23", "35", ",", "1984", ".", "-LSB-", "vH67", "-RSB-", "J.", "van", "Heijenoort", ",", "editor", ".", "From", "Frege", "to", "G", "odel", ":", "A", "Source", "Book", "in", "Mathematical", "Logic", ",", "1879", "1931", ".", "Harvard", "University", "Press", ",", "Cambridge", ",", "MA", ",", "1967", ".", "12"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["metaprl theorem prover", "theory of syntax", "uniform reflection framework", "runtime code generation", "nuprl", "languages with bindings", "reflection", "theorem prover", "reflective reasoning", "programming language", "formal languages", "type theory", "metaprl", "substitution", "recursive definition"], "abstractive_keyphrases": ["meta-syntax", "computer aided reasoning", "high order abstract syntax", "meta-language", "meta-reasoning", "system reflection", "higher-order abstract syntax", "formal definition and theory", "bruijn-style operations", "nuprl-like martin-lof-style computational type theory", "hoas-style operations", "programming language experimentation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "28", "document": ["An", "Adaptive", "Information", "Retrieval", "System", "based", "on", "Associative", "Networks", "In", "this", "paper", "we", "present", "a", "multilingual", "information", "retrieval", "system", "that", "provides", "access", "to", "Tourism", "information", "by", "exploiting", "the", "intuitiveness", "of", "natural", "language", ".", "In", "particular", ",", "we", "describe", "the", "knowledge", "representation", "model", "underlying", "the", "information", "retrieval", "system", ".", "This", "knowledge", "representation", "approach", "is", "based", "on", "associative", "networks", "and", "allows", "the", "definition", "of", "semantic", "relationships", "between", "domain-intrinsic", "information", "items", ".", "The", "network", "structure", "is", "used", "to", "define", "weighted", "associations", "between", "information", "items", "and", "augments", "the", "system", "with", "a", "fuzzy", "search", "strategy", ".", "This", "particular", "search", "strategy", "is", "performed", "by", "a", "constrained", "spreading", "activation", "algorithm", "that", "implements", "information", "retrieval", "on", "associative", "networks", ".", "Strictly", "speaking", ",", "we", "take", "the", "relatedness", "of", "terms", "into", "account", "and", "show", ",", "how", "this", "fuzzy", "search", "strategy", "yields", "beneficial", "results", "and", ",", "moreover", ",", "determines", "highly", "associated", "matches", "to", "users", "'", "queries", ".", "Thus", ",", "the", "combination", "of", "the", "associative", "network", "and", "the", "constrained", "spreading", "activation", "approach", "constitutes", "a", "search", "algorithm", "that", "evaluates", "the", "relatedness", "of", "terms", "and", ",", "therefore", ",", "provides", "a", "means", "for", "implicit", "query", "expansion", ".", "Providing", "easy", "and", "intuitive", "access", "to", "information", "still", "remains", "a", "challenge", "in", "the", "area", "of", "information", "system", "research", "and", "development", ".", "Moreover", ",", "as", "Van", "Rijsbergen", "-LRB-", "1979", "-RRB-", "points", "out", ",", "the", "amount", "of", "available", "information", "is", "increasing", "rapidly", "and", "offering", "accurate", "and", "speedy", "access", "to", "this", "information", "is", "becoming", "ever", "more", "difficult", ".", "This", "quote", ",", "although", "about", "20", "years", "old", ",", "is", "still", "valid", "nowadays", "if", "you", "consider", "the", "amount", "of", "information", "offered", "on", "the", "Internet", ".", "But", "how", "to", "address", "these", "problems", "?", "How", "to", "overcome", "the", "limitations", "associated", "with", "conventional", "search", "interfaces", "?", "Furthermore", ",", "users", "of", "information", "retrieval", "systems", "are", "often", "computer", "illiterate", "and", "not", "familiar", "with", "the", "required", "logic", "for", "formulating", "appropriate", "queries", ",", "e.g.", "the", "burdens", "associated", "with", "Boolean", "Copyright", "c", "2004", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "First", "Asia-Pacific", "Conference", "on", "Conceptual", "Modelling", "-LRB-", "APCCM", "2004", "-RRB-", ",", "Dunedin", ",", "New", "Zealand", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "31", ".", "Sven", "Hartmann", "and", "John", "Roddick", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "logic", ".", "This", "goes", "hand", "in", "hand", "with", "the", "urge", "to", "understand", "what", "users", "really", "want", "to", "know", "from", "information", "retrieval", "systems", ".", "Standard", "information", "retrieval", "interfaces", "consist", "of", "check", "boxes", ",", "predefined", "option", "sets", "or", "selection", "lists", "forcing", "users", "to", "express", "her", "or", "his", "needs", "in", "a", "very", "restricted", "manner", ".", "Therefore", ",", "an", "approach", "leaving", "the", "means", "of", "expression", "in", "users", "'", "hands", ",", "narrows", "the", "gap", "between", "users", "'", "needs", "and", "interfaces", "used", "to", "express", "these", "needs", ".", "An", "approach", "addressing", "this", "particular", "problem", "is", "to", "allow", "query", "formulation", "in", "natural", "language", ".", "Natural", "language", "interfaces", "offer", "easy", "and", "intuitive", "access", "to", "information", "sources", "and", "users", "can", "express", "their", "information", "needs", "in", "their", "own", "words", ".", "Hence", ",", "we", "present", "a", "multilingual", "information", "retrieval", "system", "allowing", "for", "query", "formulation", "in", "natural", "language", ".", "To", "reduce", "word", "sense", "ambiguities", "the", "system", "operates", "on", "a", "restricted", "domain", ".", "In", "particular", ",", "the", "system", "provides", "access", "to", "tourism", "information", ",", "like", "accommodations", "and", "their", "amenities", "throughout", "Austria", ".", "However", ",", "the", "core", "element", "of", "the", "information", "retrieval", "system", "remains", "the", "underlying", "knowledge", "representation", "model", ".", "In", "order", "to", "provide", "a", "knowledge", "representation", "model", "allowing", "to", "define", "relations", "among", "information", "items", ",", "an", "approach", "based", "on", "a", "network", "structure", ",", "namely", "an", "associative", "network", ",", "is", "used", ".", "More", "precisely", ",", "this", "associative", "network", "incorporates", "a", "means", "for", "knowledge", "representation", "allowing", "for", "the", "definition", "of", "semantic", "relationships", "of", "domain-intrinsic", "information", ".", "Processing", "the", "network", "and", ",", "therefore", ",", "result", "determination", "is", "accomplished", "by", "a", "technique", "refereed", "to", "as", "spreading", "activation", ".", "Some", "nodes", "of", "the", "network", "act", "as", "sources", "of", "activation", "and", ",", "subsequently", ",", "activation", "is", "propagated", "to", "adjacent", "nodes", "via", "weighted", "links", ".", "These", "newly", "activated", "nodes", ",", "in", "turn", ",", "transmit", "activation", "to", "associated", "nodes", ",", "and", "so", "on", ".", "We", "introduce", "a", "knowledge", "representation", "approach", "based", "on", "an", "associative", "network", "consisting", "of", "three", "layers", ".", "Moreover", ",", "a", "constrained", "spreading", "activation", "algorithm", "implements", "a", "processing", "technique", "that", "operates", "on", "the", "network", ".", "Due", "to", "the", "network", "structure", "of", "the", "knowledge", "representation", "model", "and", "the", "processing", "technique", ",", "implicit", "query", "expansion", "enriches", "the", "result", "set", "with", "additional", "matches", ".", "Hence", ",", "a", "fuzzy", "search", "strategy", "is", "implemented", ".", "The", "remainder", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", "we", "review", "the", "architecture", "of", "the", "information", "retrieval", "system", "that", "acts", "as", "a", "basis", "for", "the", "redeveloped", "approach", "presented", "herein", ".", "Moreover", ",", "Section", "3", "gives", "an", "overview", "about", "associative", "networks", "and", "we", "present", "an", "algorithm", "for", "processing", "such", "networks", ",", "i.e.", "spreading", "activation", ".", "In", "Section", "4", "we", "describe", "our", "approach", "based", "on", "associative", "net-27", "works", "and", "finally", ",", "some", "conclusions", "are", "given", "in", "Section", "5", ".", "Crestani", "-LRB-", "1997", "-RRB-", "points", "out", "that", "information", "retrieval", "is", "a", "science", "that", "aims", "to", "store", "and", "allow", "fast", "access", "to", "a", "large", "amount", "of", "data", ".", "In", "contrast", "to", "conventional", "database", "systems", ",", "an", "information", "retrieval", "system", "does", "not", "provide", "an", "exact", "answer", "to", "a", "query", "but", "tries", "to", "produce", "a", "ranking", "that", "reflects", "the", "intention", "of", "the", "user", ".", "More", "precisely", ",", "documents", "are", "ranked", "according", "to", "statistical", "similarities", "based", "on", "the", "occurrence", "frequency", "of", "terms", "in", "queries", "and", "documents", ".", "The", "occurrence", "frequency", "of", "a", "term", "provides", "an", "indicator", "of", "the", "significance", "of", "this", "term", ".", "Moreover", ",", "in", "order", "to", "get", "a", "measure", "for", "determining", "the", "significance", "of", "a", "sentence", ",", "the", "position", "of", "terms", "within", "a", "sentence", "is", "taken", "into", "account", "and", "evaluated", ".", "For", "comprehensive", "reports", "about", "information", "retrieval", "see", "Salton", "&", "McGill", "-LRB-", "1983", "-RRB-", ",", "Salton", "-LRB-", "1989", "-RRB-", "and", "Baeza-Yates", "&", "Ribeiro-Neto", "-LRB-", "1999", "-RRB-", ".", "In", "order", "to", "adapt", "information", "retrieval", "systems", "to", "the", "multilingual", "demands", "of", "users", ",", "great", "efforts", "have", "been", "made", "in", "the", "field", "of", "multilingual", "information", "retrieval", ".", "Hull", "&", "Grafenstette", "-LRB-", "1996", "-RRB-", "subsume", "several", "attempts", "to", "define", "multilingual", "information", "retrieval", ",", "where", "Harman", "-LRB-", "1995", "-RRB-", "formulates", "the", "most", "concise", "one", ":", "``", "multilingual", "information", "retrieval", "is", "information", "retrieval", "in", "any", "language", "other", "than", "English", "''", ".", "Multilingual", "information", "retrieval", "systems", "have", "to", "be", "augmented", "by", "mechanisms", "for", "query", "or", "document", "translation", "to", "support", "query", "formulation", "in", "multiple", "languages", ".", "Information", "retrieval", "is", "such", "an", "inexact", "discipline", "that", "it", "is", "not", "clear", "whether", "or", "not", "query", "translation", "is", "necessary", "or", "even", "optimal", "for", "identifying", "relevant", "documents", "and", ",", "therefore", ",", "to", "determine", "appropriate", "matches", "to", "the", "user", "query", ".", "Strictly", "speaking", ",", "the", "process", "of", "translating", "documents", "or", "queries", "represents", "one", "of", "the", "main", "barriers", "in", "multilingual", "information", "retrieval", ".", "Due", "to", "the", "shortness", "of", "user", "queries", ",", "query", "translation", "introduces", "ambiguities", "that", "are", "hard", "to", "overcome", ".", "Contrarily", ",", "resolving", "ambiguity", "in", "document", "translation", "is", "easier", "to", "handle", "because", "of", "the", "quantity", "of", "text", "available", ".", "Nevertheless", ",", "state-of-the-art", "machine", "translation", "systems", "provide", "only", "an", "insufficient", "means", "for", "translating", "documents", ".", "Therefore", ",", "resolving", "ambiguities", "associated", "with", "translations", "remains", "a", "crucial", "task", "in", "the", "field", "of", "multilingual", "information", "retrieval", ".", "Ballesteros", "&", "Croft", "-LRB-", "1998", "-RRB-", ",", "for", "instance", ",", "present", "a", "technique", "based", "on", "co-occurrence", "statistics", "from", "unlinked", "text", "corpora", "which", "can", "be", "used", "to", "reduce", "the", "ambiguity", "associated", "with", "translations", ".", "Furthermore", ",", "a", "quite", "straightforward", "approach", "in", "reducing", "ambiguities", "is", "to", "restrict", "the", "domain", "a", "multilingual", "information", "retrieval", "system", "operates", "on", ".", "Xu", ",", "Netter", "&", "Stenzhorn", "-LRB-", "2000", "-RRB-", "describe", "an", "information", "retrieval", "system", "that", "aims", "at", "providing", "uniform", "multilingual", "access", "to", "heterogeneous", "data", "sources", "on", "the", "web", ".", "The", "MIETTA", "-LRB-", "Multilingual", "Tourist", "Information", "on", "the", "World", "Wide", "Web", "-RRB-", "system", "has", "been", "applied", "to", "the", "tourism", "domain", "containing", "information", "about", "three", "European", "regions", ",", "namely", "Saarland", ",", "Turku", ",", "and", "Rome", ".", "The", "languages", "supported", "are", "English", ",", "Finnish", ",", "French", ",", "German", ",", "and", "Italian", ".", "Since", "some", "of", "the", "tourism", "information", "about", "the", "regions", "were", "available", "in", "only", "one", "language", ",", "machine", "translation", "was", "used", "to", "deal", "with", "these", "web", "documents", ".", "Due", "to", "the", "restricted", "domain", ",", "automatic", "translation", "should", "suffice", "to", "understand", "the", "basic", "meaning", "of", "the", "translated", "document", "without", "having", "knowledge", "of", "the", "source", "language", ".", "Users", "can", "query", "the", "system", "in", "various", "ways", ",", "such", "as", "free", "text", "queries", ",", "form-based", "queries", ",", "or", "browsing", "through", "the", "concept", "hierarchy", "employed", "in", "the", "system", ".", "MIETTA", "makes", "it", "transparent", "to", "the", "users", "whether", "they", "search", "in", "a", "database", "or", "a", "free-form", "document", "collection", ".", "2.1", "The", "Architecture", "of", "the", "Original", "System", "The", "software", "architecture", "of", "the", "natural", "language", "information", "retrieval", "system", "is", "designed", "as", "a", "pipeline", "structure", ".", "Hence", ",", "successively", "activated", "pipeline", "elements", "apply", "transformations", "on", "natural", "language", "queries", "that", "are", "posed", "via", "arbitrary", "client", "devices", ",", "such", "as", ",", "for", "instance", ",", "web", "browsers", ",", "PDAs", "or", "mobile", "phones", ".", "Due", "to", "the", "flexibility", "of", "this", "approach", ",", "different", "pipeline", "layouts", "can", "be", "used", "to", "implement", "different", "processing", "strategies", ".", "Figure", "1", "depicts", "the", "layout", "of", "the", "software", "architecture", "and", "illustrates", "the", "way", "of", "interaction", "of", "the", "pipeline", "elements", ".", "In", "a", "first", "step", ",", "the", "natural", "language", "query", "is", "evaluated", "by", "an", "automatic", "language", "identification", "module", "to", "determine", "the", "language", "of", "the", "query", ".", "Next", ",", "the", "system", "corrects", "typographic", "errors", "and", "misspellings", "to", "improve", "retrieval", "performance", ".", "Before", "adding", "grammar", "rules", "and", "semantic", "information", "to", "the", "query", "terms", ",", "a", "converter", "transforms", "numerals", "to", "their", "nu-meric", "equivalents", ".", "Depending", "on", "the", "rules", "assigned", "to", "the", "query", "terms", ",", "a", "mapping", "process", "associates", "these", "terms", "with", "SQL", "fragments", "that", "represent", "the", "query", "in", "a", "formal", "way", ".", "Due", "to", "the", "fact", "that", "the", "system", "uses", "a", "relational", "database", "as", "backend", "this", "mapping", "process", "is", "crucial", ".", "In", "a", "next", "step", "the", "SQL", "fragments", "are", "combined", "according", "to", "the", "modifiers", "-LRB-", "e.g.", "``", "and", "''", ",", "``", "or", "''", ",", "``", "near", "''", ",", "``", "not", "''", "-RRB-", "identified", "in", "the", "query", "and", "a", "single", "SQL", "statement", "that", "reflects", "the", "intention", "of", "the", "query", "is", "obtained", ".", "Then", "the", "system", "determines", "the", "appropriate", "result", "and", "generates", "an", "XML", "representation", "for", "further", "processing", ".", "Finally", ",", "the", "XML", "result", "set", "is", "adapted", "to", "fit", "the", "needs", "of", "the", "client", "device", ".", "The", "remainder", "of", "this", "section", "gives", "a", "brief", "outline", "of", "the", "system", ".", "2.1.1", "The", "Knowledge", "Base", "A", "major", "objective", "of", "the", "Ad.M.In", ".", "-LRB-", "Adaptive", "Multilingual", "Interfaces", "-RRB-", "system", "was", "to", "separate", "the", "program", "logic", "from", "domain", "dependent", "data", ".", "In", "particular", ",", "language", ",", "domain", "and", "device", "dependent", "portions", "are", "placed", "in", "the", "knowledge", "base", ".", "Thus", ",", "the", "knowledge", "base", "represents", "the", "backbone", "of", "the", "system", "and", "consists", "of", "a", "relational", "database", "and", "a", "set", "of", "ontologies", ".", "The", "database", "stores", "information", "about", "domain", "entities", ",", "as", ",", "for", "instance", ",", "amenities", "of", "accommodations", ".", "The", "ontologies", "store", "synonyms", ",", "define", "semantic", "relations", "and", "grammar", "rules", ".", "Basically", ",", "the", "knowledge", "base", "consists", "of", "separate", "XML", "files", ",", "whereas", "the", "synonym", "ontology", "is", "used", "to", "associate", "terms", "having", "the", "same", "semantic", "meaning", ",", "i.e.", "describes", "linguistic", "relationships", "like", "synonymy", ".", "The", "synonym", "ontology", "is", "based", "on", "a", "flat", "structure", ",", "allowing", "to", "define", "synonymy", ".", "Taking", "a", "look", "at", "the", "tourism", "domain", ",", "``", "playground", "''", "represents", "a", "concept", "possessing", "several", "semantic", "equivalents", ",", "as", ",", "for", "instance", ",", "``", "court", "''", ".", "Unfortunately", ",", "the", "synonym", "ontology", "provides", "no", "means", "to", "associate", "concepts", ".", "Consider", ",", "for", "example", ",", "the", "three", "concepts", "``", "sauna", "''", ",", "``", "steam", "bath", "''", "and", "``", "vegetarian", "kitchen", "''", ".", "Straightforward", ",", "someone", "might", "derive", "a", "stronger", "degree", "of", "relatedness", "between", "the", "concepts", "``", "sauna", "''", "and", "``", "steam", "bath", "''", "as", "between", "``", "sauna", "''", "and", "``", "vegetarian", "kitchen", "''", ".", "The", "second", "component", "of", "the", "knowledge", "base", "stores", "a", "set", "of", "grammar", "rules", ".", "More", "precisely", ",", "a", "lightweight", "grammar", "describes", "how", "certain", "concepts", "28", "Figure", "1", ":", "Software", "Architecture", "may", "be", "modified", "by", "prepositions", ",", "adverbial", "or", "adjectival", "structures", "that", "are", "also", "specified", "in", "the", "synonym", "ontology", ".", "For", "a", "more", "detailed", "description", "we", "refer", "to", "Berger", "-LRB-", "2001", "-RRB-", ".", "2.1.2", "Language", "Identification", "To", "identify", "the", "language", "of", "a", "query", ",", "an", "n-gram-based", "text", "classification", "approach", "-LRB-", "cf.", "Cavnar", "&", "Trenkle", "-LRB-", "1994", "-RRB-", "-RRB-", "is", "used", ".", "An", "n-gram", "is", "an", "n-character", "slice", "of", "a", "longer", "character", "string", ".", "As", "an", "example", ",", "for", "n", "=", "3", ",", "the", "tri", "grams", "of", "the", "string", "``", "language", "''", "are", ":", "-LCB-", "la", ",", "lan", ",", "ang", ",", "ngu", ",", "gua", ",", "uag", ",", "age", ",", "ge", "-RCB-", ".", "Dealing", "with", "multiple", "words", "in", "a", "string", ",", "the", "blank", "character", "is", "usu-ally", "replaced", "by", "an", "underscore", "''", "''", "and", "is", "also", "taken", "into", "account", "for", "the", "construction", "of", "an", "n-gram", "document", "representation", ".", "This", "language", "classification", "approach", "using", "n-grams", "requires", "sample", "texts", "for", "each", "language", "to", "build", "statistical", "models", ",", "i.e.", "n-gram", "frequency", "profiles", ",", "of", "the", "languages", ".", "We", "used", "various", "tourism-related", "texts", ",", "e.g.", "hotel", "descriptions", "and", "holiday", "package", "descriptions", ",", "as", "well", "as", "news", "articles", "both", "in", "English", "and", "German", "language", ".", "The", "n-grams", ",", "with", "n", "ranging", "from", "1", "...", "5", ",", "of", "these", "sample", "texts", "were", "an-alyzed", "and", "sorted", "in", "descending", "order", "according", "to", "their", "frequency", ",", "separately", "for", "each", "language", ".", "These", "sorted", "histograms", "are", "the", "n-gram", "frequency", "profiles", "for", "a", "given", "language", ".", "For", "a", "comprehensive", "description", "see", "Berger", ",", "Dittenbach", "&", "Merkl", "-LRB-", "2003", "-RRB-", ".", "2.1.3", "Error", "Correction", "To", "improve", "retrieval", "performance", ",", "potential", "orthographic", "errors", "have", "to", "be", "considered", "in", "the", "web-based", "interface", ".", "After", "identifying", "the", "language", ",", "a", "spell-checking", "module", "is", "used", "to", "determine", "the", "correctness", "of", "query", "terms", ".", "The", "efficiency", "of", "the", "spell", "checking", "process", "improves", "during", "the", "runtime", "of", "the", "system", "by", "learning", "from", "previous", "queries", ".", "The", "spell", "checker", "uses", "the", "metaphone", "algorithm", "-LRB-", "cf.", "Philips", "-LRB-", "1990", "-RRB-", "-RRB-", "to", "transform", "the", "words", "into", "their", "soundalikes", ".", "Because", "this", "algorithm", "has", "originally", "been", "developed", "for", "the", "English", "language", ",", "the", "rule", "set", "defining", "the", "mapping", "of", "words", "to", "the", "phonetic", "code", "has", "to", "be", "adapted", "for", "other", "languages", ".", "In", "addition", "to", "the", "base", "dictionary", "of", "the", "spell", "checker", ",", "domain-dependent", "words", "and", "proper", "names", "like", "names", "of", "cities", ",", "regions", "or", "states", ",", "have", "to", "be", "added", "to", "the", "dictionary", ".", "For", "every", "misspelled", "term", "of", "the", "query", ",", "a", "list", "of", "potentially", "correct", "words", "is", "returned", ".", "First", ",", "the", "misspelled", "word", "is", "mapped", "to", "its", "metaphone", "equivalent", ",", "then", "the", "words", "in", "the", "dictionary", ",", "whose", "metaphone", "translations", "have", "at", "most", "an", "edit", "distance", "-LRB-", "cf.", "Levenshtein", "-LRB-", "1966", "-RRB-", "-RRB-", "of", "two", ",", "are", "added", "to", "the", "list", "of", "suggested", "words", ".", "The", "suggestions", "are", "ranked", "according", "to", "the", "mean", "of", "first", ",", "the", "edit", "distance", "between", "the", "misspelled", "word", "and", "the", "suggested", "word", ",", "and", "second", ",", "the", "edit", "distance", "between", "the", "misspelled", "word", "'s", "metaphone", "and", "the", "suggested", "word", "'s", ".", "The", "smaller", "this", "value", "is", "for", "a", "suggestion", ",", "the", "more", "likely", "it", "is", "to", "be", "the", "correct", "substitution", "from", "the", "orthographic", "or", "phonetic", "point", "of", "view", ".", "However", ",", "this", "ranking", "does", "not", "take", "domain-specific", "information", "into", "account", ".", "Because", "of", "this", "deficiency", ",", "correctly", "spelled", "words", "in", "queries", "are", "stored", "and", "their", "respective", "number", "of", "occurrences", "is", "counted", ".", "The", "words", "in", "the", "suggestion", "list", "for", "a", "misspelled", "query", "term", "are", "looked", "up", "in", "this", "repository", "and", "the", "suggested", "word", "having", "the", "highest", "number", "of", "occurrences", "is", "chosen", "as", "the", "replacement", "of", "the", "erroneous", "original", "query", "term", ".", "In", "case", "of", "two", "or", "more", "words", "having", "the", "same", "number", "of", "occurrences", "the", "word", "that", "is", "ranked", "first", "is", "selected", ".", "If", "the", "query", "term", "is", "not", "present", "in", "the", "repository", "up", "to", "this", "moment", ",", "it", "is", "replaced", "by", "the", "first", "suggestion", ",", "i.e.", "the", "word", "being", "phonetically", "or", "orthographically", "closest", ".", "Therefore", ",", "suggested", "words", "that", "are", "very", "similar", "to", "the", "misspelled", "word", ",", "yet", "make", "no", "sense", "in", "the", "context", "of", "the", "application", "domain", ",", "might", "be", "rejected", "as", "replacements", ".", "Consequently", ",", "the", "word", "correction", "process", "described", "above", "is", "improved", "by", "dynamic", "adaptation", "to", "past", "knowledge", ".", "Another", "important", "issue", "in", "interpreting", "the", "natural", "language", "query", "is", "to", "detect", "terms", "consisting", "of", "multiple", "words", ".", "Proper", "names", "like", "``", "Bad", "Kleinkirch-heim", "''", "or", "nouns", "like", "``", "parking", "garage", "''", "have", "to", "be", "treated", "as", "one", "element", "of", "the", "query", ".", "Therefore", ",", "all", "multi-word", "denominations", "known", "to", "the", "system", "are", "stored", "in", "an", "efficient", "data", "structure", "allowing", "to", "identify", "such", "cases", ".", "More", "precisely", ",", "regular", "expressions", "are", "used", "to", "describe", "rules", "applied", "during", "the", "identification", "process", ".", "2.1.4", "SQL", "Mapping", "With", "the", "underlying", "relational", "database", "management", "system", "PostgreSQL", ",", "the", "natural", "language", "query", "has", "to", "be", "transformed", "into", "a", "SQL", "statement", "to", "retrieve", "29", "the", "requested", "information", ".", "As", "mentioned", "above", "the", "knowledge", "base", "describes", "parameterized", "SQL", "fragments", "that", "are", "used", "to", "build", "a", "single", "SQL", "statement", "representing", "the", "natural", "language", "query", ".", "The", "query", "terms", "are", "tagged", "with", "class", "information", ",", "i.e.", "the", "relevant", "concepts", "of", "the", "domain", "-LRB-", "e.g.", "``", "hotel", "''", "as", "a", "type", "of", "accommodation", "or", "``", "sauna", "''", "as", "a", "facility", "provided", "by", "a", "hotel", "-RRB-", ",", "numerals", "or", "modifying", "terms", "like", "``", "not", "''", ",", "``", "at", "least", "''", ",", "``", "close", "to", "''", "or", "``", "in", "''", ".", "If", "none", "of", "the", "classes", "specified", "in", "the", "ontology", "can", "be", "applied", ",", "the", "database", "tables", "containing", "proper", "names", "have", "to", "be", "searched", ".", "If", "a", "noun", "is", "found", "in", "one", "of", "these", "tables", ",", "it", "is", "tagged", "with", "the", "respective", "table", "'s", "name", ",", "such", "that", "``", "Tyrol", "''", "will", "be", "marked", "as", "a", "federal", "state", ".", "In", "the", "next", "step", ",", "this", "class", "information", "is", "used", "by", "the", "grammar", "to", "select", "the", "appropriate", "SQL", "fragments", ".", "Finally", ",", "the", "SQL", "fragments", "have", "to", "be", "combined", "to", "a", "single", "SQL", "statement", "reflecting", "the", "natural", "language", "query", "of", "the", "user", ".", "The", "operators", "combining", "the", "SQL", "fragments", "are", "again", "chosen", "according", "to", "the", "definitions", "in", "the", "grammar", ".", "Quillian", "-LRB-", "1968", "-RRB-", "introduced", "the", "basic", "principle", "of", "a", "semantic", "network", "and", "it", "played", ",", "since", "then", ",", "a", "central", "role", "in", "knowledge", "representation", ".", "The", "building", "blocks", "of", "semantic", "networks", "are", ",", "first", ",", "nodes", "that", "express", "knowledge", "in", "terms", "of", "concepts", ",", "second", ",", "concept", "properties", ",", "and", "third", ",", "the", "hierarchical", "sub-super", "class", "relationship", "between", "these", "concepts", ".", "Each", "concept", "in", "a", "semantic", "network", "represents", "a", "semantic", "entity", ".", "Associations", "between", "concepts", "describe", "the", "hierarchical", "relationship", "between", "these", "semantic", "entities", "via", "is-a", "or", "instance-of", "links", ".", "The", "higher", "a", "concept", "moves", "up", "in", "the", "hierarchy", "along", "is-a", "relations", ",", "the", "more", "abstract", "is", "its", "semantic", "meaning", ".", "Properties", "are", "attached", "to", "concepts", "and", ",", "therefore", ",", "properties", "are", "also", "represented", "by", "concepts", "and", "linked", "to", "nodes", "via", "labeled", "associations", ".", "Furthermore", ",", "a", "property", "that", "is", "linked", "to", "a", "high-level", "concept", "is", "inherited", "by", "all", "descendants", "of", "the", "concept", ".", "Hence", ",", "it", "is", "assumed", "that", "the", "property", "applies", "to", "all", "subsequent", "nodes", ".", "An", "example", "of", "a", "semantic", "network", "is", "depicted", "in", "Figure", "2", ".", "Semantic", "networks", "initially", "emerged", "in", "cognitive", "psychology", "and", "the", "term", "itself", "has", "been", "used", "in", "the", "field", "of", "knowledge", "representation", "in", "a", "far", "more", "general", "sense", "than", "described", "above", ".", "In", "particular", ",", "the", "term", "semantic", "network", "has", "been", "commonly", "used", "to", "refer", "to", "a", "conceptual", "approach", "known", "as", "associative", "network", ".", "An", "associative", "network", "defines", "a", "generic", "network", "which", "consists", "of", "nodes", "representing", "information", "items", "-LRB-", "semantic", "entities", "-RRB-", "and", "associations", "between", "nodes", ",", "that", "express", ",", "not", "necessarily", "defined", "or", "labeled", ",", "relations", "among", "nodes", ".", "Links", "between", "particular", "nodes", "might", "be", "weighted", "to", "determine", "the", "strength", "of", "connectivity", ".", "3.1", "Spreading", "Activation", "A", "commonly", "used", "technique", ",", "which", "implements", "information", "retrieval", "on", "semantic", "or", "associative", "networks", ",", "is", "often", "referred", "to", "as", "spreading", "activation", ".", "The", "spreading", "activation", "processing", "paradigm", "is", "tight-knit", "with", "the", "supposed", "mode", "of", "operation", "of", "human", "memory", ".", "It", "was", "introduced", "to", "the", "field", "of", "artificial", "intelligence", "to", "obtain", "a", "means", "of", "processing", "semantic", "or", "associative", "networks", ".", "The", "algorithm", ",", "which", "underlies", "the", "spreading", "activation", "-LRB-", "SA", "-RRB-", "paradigm", ",", "is", "based", "on", "a", "quite", "simple", "approach", "and", "operates", "on", "a", "data", "structure", "that", "reflects", "the", "relationships", "between", "information", "items", ".", "Thus", ",", "nodes", "model", "real", "world", "entities", "and", "links", "between", "these", "nodes", "define", "the", "relatedness", "of", "entities", ".", "Furthermore", ",", "links", "might", "possess", ",", "first", ",", "a", "specific", "direction", ",", "second", ",", "a", "label", "and", ",", "third", ",", "a", "weight", "that", "reflects", "the", "degree", "of", "association", ".", "This", "conceptual", "approach", "allows", "for", "the", "definition", "of", "a", "more", "general", ",", "a", "more", "generic", "network", "than", "the", "basic", "structure", "of", "a", "semantic", "network", "demands", ".", "Nevertheless", ",", "it", "could", "be", "used", "to", "model", "a", "semantic", "network", "as", "well", "as", "a", "more", "generic", "one", ",", "for", "instance", "an", "associative", "network", ".", "The", "idea", ",", "underlying", "spreading", "activation", ",", "is", "to", "propagate", "activation", "starting", "from", "source", "nodes", "via", "weighted", "links", "over", "the", "network", ".", "More", "precisely", ",", "the", "process", "of", "propagating", "activation", "from", "one", "node", "to", "adjacent", "nodes", "is", "called", "a", "pulse", ".", "The", "SA", "algorithm", "is", "based", "on", "an", "iterative", "approach", "that", "is", "divided", "into", "two", "steps", ":", "first", ",", "one", "or", "more", "pulses", "are", "triggered", "and", ",", "second", ",", "a", "termination", "check", "determines", "if", "the", "process", "has", "to", "continue", "or", "to", "halt", ".", "Furthermore", ",", "a", "single", "pulse", "consists", "of", "a", "pre-adjustment", "phase", ",", "the", "spreading", "process", "and", "a", "post-adjustment", "phase", ".", "The", "optional", "pre", "-", "and", "post-adjustment", "phases", "might", "incorporate", "a", "means", "of", "activation", "decay", ",", "or", "to", "avoid", "reactivation", "from", "previous", "pulses", ".", "Strictly", "speaking", ",", "these", "two", "phases", "are", "used", "to", "gain", "more", "control", "over", "the", "network", ".", "The", "spreading", "phase", "implements", "propagation", "of", "activation", "over", "the", "network", ".", "Spreading", "activation", "works", "according", "to", "the", "formula", ":", "I", "j", "-LRB-", "p", "-RRB-", "=", "k", "i", "-LRB-", "O", "i", "-LRB-", "p", "-", "1", "-RRB-", "w", "ij", "-RRB-", "-LRB-", "1", "-RRB-", "Each", "node", "j", "determines", "the", "total", "input", "I", "j", "at", "pulse", "p", "of", "all", "linked", "nodes", ".", "Therefore", ",", "the", "output", "O", "i", "-LRB-", "p", "-", "1", "-RRB-", "at", "the", "previous", "pulse", "p", "-", "1", "of", "node", "i", "is", "multiplied", "with", "the", "associated", "weight", "w", "ij", "of", "the", "link", "connecting", "node", "i", "to", "node", "j", "and", "the", "grand", "total", "for", "all", "k", "connected", "nodes", "is", "calculated", ".", "Inputs", "or", "weights", "can", "be", "expressed", "by", "binary", "values", "-LRB-", "0/1", "-RRB-", ",", "inhibitory", "or", "reinforcing", "values", "-LRB-", "-1", "/", "+1", "-RRB-", ",", "or", "real", "values", "defining", "the", "strength", "of", "the", "connection", "between", "nodes", ".", "More", "precisely", ",", "the", "first", "two", "options", "are", "used", "in", "the", "application", "of", "semantic", "networks", ",", "the", "latter", "one", "is", "commonly", "used", "for", "associative", "networks", ".", "This", "is", "due", "to", "the", "fact", "that", "the", "type", "of", "association", "does", "not", "necessarily", "have", "some", "exact", "semantic", "meaning", ".", "The", "weight", "rather", "describes", "the", "relationship", "between", "nodes", ".", "Furthermore", ",", "the", "output", "value", "of", "a", "node", "has", "to", "be", "determined", ".", "In", "most", "cases", ",", "no", "distinction", "is", "made", "between", "the", "input", "value", "and", "the", "activation", "level", "of", "a", "node", ",", "i.e.", "the", "input", "value", "of", "a", "node", "and", "its", "activation", "level", "are", "equal", ".", "Before", "firing", "the", "activation", "to", "adjacent", "nodes", "a", "function", "calculates", "the", "output", "depending", "on", "the", "activation", "level", "of", "the", "node", ":", "O", "i", "=", "f", "-LRB-", "I", "i", "-RRB-", "-LRB-", "2", "-RRB-", "Various", "functions", "can", "be", "used", "to", "determine", "the", "output", "value", "of", "a", "node", ",", "for", "instance", "the", "sigmoid", "function", ",", "or", "a", "linear", "activation", "function", ",", "but", "most", "commonly", "used", "is", "the", "threshold", "function", ".", "The", "threshold", "function", "determines", ",", "if", "a", "node", "is", "considered", "to", "be", "active", "or", "not", ",", "i.e.", "the", "activation", "level", "of", "each", "node", "is", "compared", "to", "the", "threshold", "value", ".", "If", "the", "activation", "level", "exceeds", "the", "threshold", ",", "the", "state", "of", "the", "node", "is", "set", "to", "active", ".", "Subsequent", "to", "the", "calculation", "of", "the", "activation", "state", ",", "the", "output", "value", "is", "propagated", "to", "adjacent", "nodes", ".", "Normally", ",", "the", "same", "output", "value", "is", "sent", "to", "all", "adjacent", "nodes", ".", "The", "process", "described", "above", "is", "repeated", ",", "pulse", "after", "pulse", ",", "and", "activation", "spreads", "through", "the", "network", "and", "activates", "more", "and", "more", "nodes", "until", "a", "termination", "condition", "is", "met", ".", "Finally", ",", "the", "SA", "process", "halts", "and", "a", "final", "activation", "state", "is", "obtained", ".", "Depending", "on", "the", "application", "'s", "task", "the", "30", "accomodation", "hotel", "animal", "farm", "pension", "pig", "sheep", "facility", "steam", "bath", "sauna", "hot", "is_a", "is_a", "is_a", "is_a", "is_a", "is_a", "is_a", "has", "offers", "is", "is", "Figure", "2", ":", "A", "semantic", "network", "example", "of", "tourism-related", "terms", "activation", "levels", "are", "evaluated", "and", "interpreted", "accordingly", ".", "3.2", "Taming", "Spreading", "Activation", "Unfortunately", ",", "the", "basic", "approach", "of", "spreading", "activation", "entails", "some", "major", "drawbacks", ".", "Strictly", "speaking", ",", "without", "appropriate", "control", ",", "activation", "might", "be", "propagated", "all", "over", "the", "network", ".", "Furthermore", ",", "the", "semantics", "of", "labeled", "associations", "are", "not", "incorporated", "in", "SA", "and", "it", "is", "quite", "difficult", "to", "integrate", "an", "inference", "mechanism", "based", "on", "the", "semantics", "of", "associations", ".", "To", "overcome", "these", "undesired", "side-effects", "the", "integration", "of", "constraints", "helps", "to", "tame", "the", "spreading", "process", "-LRB-", "cf.", "Crestani", "-LRB-", "1997", "-RRB-", "-RRB-", ".", "Some", "constraints", "commonly", "used", "are", "described", "as", "follows", ".", "Fan-out", "constraint", ":", "Nodes", "with", "a", "broad", "semantic", "meaning", "possess", "a", "vast", "number", "of", "links", "to", "adjacent", "nodes", ".", "This", "circumstance", "implies", "that", "such", "nodes", "activate", "large", "areas", "of", "the", "network", ".", "Therefore", ",", "activation", "should", "diminish", "at", "nodes", "with", "a", "high", "degree", "of", "connectivity", "to", "avoid", "this", "unwanted", "effect", ".", "Distance", "constraint", ":", "The", "basic", "idea", "underlying", "this", "constraint", "is", ",", "that", "activation", "ceases", "when", "it", "reaches", "nodes", "far", "away", "from", "the", "activation", "source", ".", "Thus", ",", "the", "term", "far", "corresponds", "to", "the", "number", "of", "links", "over", "which", "activation", "was", "spread", ",", "i.e.", "the", "greater", "the", "distance", "between", "two", "nodes", ",", "the", "weaker", "is", "their", "semantic", "relationship", ".", "According", "to", "the", "distance", "of", "two", "nodes", "their", "relation", "can", "be", "classified", ".", "Directly", "connected", "nodes", "share", "a", "first", "order", "relation", ".", "Two", "nodes", "connected", "via", "an", "intermediate", "node", "are", "associated", "by", "a", "second", "order", "relation", ",", "and", "so", "on", ".", "Activation", "constraint", ":", "Threshold", "values", "are", "assigned", "to", "nodes", "-LRB-", "it", "is", "not", "necessary", "to", "apply", "the", "same", "value", "to", "all", "nodes", "-RRB-", "and", "are", "interpreted", "by", "the", "threshold", "function", ".", "Moreover", ",", "threshold", "values", "can", "be", "adapted", "during", "the", "spreading", "process", "in", "relation", "to", "the", "total", "amount", "of", "activity", "in", "the", "network", ".", "Path", "constraint", ":", "Usually", ",", "activation", "spreads", "over", "the", "network", "using", "all", "available", "links", ".", "The", "integration", "of", "preferred", "paths", "allows", "to", "direct", "activation", "according", "to", "application-dependent", "rules", ".", "Another", "enhancement", "of", "the", "spreading", "activation", "model", "is", "the", "integration", "of", "a", "feedback", "process", ".", "The", "activation", "level", "of", "some", "nodes", "or", "the", "entire", "network", "is", "evaluated", "by", ",", "for", "instance", ",", "another", "process", "or", "by", "a", "user", ".", "More", "precisely", ",", "a", "user", "checks", "the", "activation", "level", "of", "some", "nodes", "and", "adapts", "them", "according", "to", "her", "or", "his", "needs", ".", "Subsequently", ",", "activation", "spreads", "depending", "on", "the", "user", "refinement", ".", "Additionally", ",", "users", "may", "indicate", "preferred", "paths", "for", "spreading", "activation", "and", ",", "therefore", ",", "are", "able", "to", "adapt", "the", "spreading", "process", "to", "their", "own", "needs", ".", "One", "of", "the", "first", "information", "retrieval", "systems", "using", "constrained", "spreading", "activation", "was", "GRANT", ".", "Kjeldsen", "&", "Cohen", "-LRB-", "1987", "-RRB-", "developed", "a", "system", "that", "handles", "information", "about", "research", "proposals", "and", "potential", "funding", "agencies", ".", "GRANT", "'s", "domain", "knowledge", "is", "stored", "in", "a", "highly", "associated", "semantic", "network", ".", "The", "search", "process", "is", "carried", "out", "by", "constrained", "spreading", "activation", "over", "the", "network", ".", "In", "particular", ",", "the", "system", "extensively", "uses", "path", "constraints", "in", "the", "form", "of", "path", "endorsement", ".", "GRANT", "can", "be", "considered", "as", "an", "inference", "system", "applying", "repeatedly", "the", "same", "inference", "schema", ":", "IF", "x", "AND", "R", "-LRB-", "x", ",", "y", "-RRB-", "y", "-LRB-", "3", "-RRB-", "R", "-LRB-", "x", ",", "y", "-RRB-", "represents", "a", "path", "between", "two", "nodes", "x", "and", "y", ".", "This", "inference", "rule", "can", "be", "interpreted", "as", "follows", ":", "``", "if", "a", "founding", "agency", "is", "interested", "in", "topic", "x", "and", "there", "is", "a", "relation", "between", "topic", "x", "and", "topic", "y", "then", "the", "founding", "agency", "might", "be", "interested", "in", "the", "related", "topic", "y.", "''", "Croft", ",", "Lucia", ",", "Crigean", "&", "Willet", "-LRB-", "1989", "-RRB-", "developed", "an", "information", "retrieval", "system", "initially", "intended", "to", "study", "the", "possibility", "of", "retrieving", "documents", "by", "plausible", "inference", ".", "In", "order", "to", "implement", "plausible", "inference", "constrained", "spreading", "activation", "was", "chosen", "accidently", ".", "The", "I", "3", "R", "system", "acts", "as", "a", "search", "intermediary", "-LRB-", "cf.", "Croft", "&", "Thompson", "-LRB-", "1987", "-RRB-", "-RRB-", ".", "To", "accomplish", "this", "task", "the", "system", "uses", "domain", "knowledge", "to", "refine", "user", "queries", ",", "determines", "the", "appropriate", "search", "strategy", ",", "assists", "the", "user", "in", "evaluating", "the", "output", "and", "reformulating", "the", "query", ".", "In", "its", "initial", "version", ",", "the", "domain", "knowledge", "was", "represented", "using", "a", "tree", "structure", "of", "concepts", ".", "The", "design", "was", "later", "refined", "to", "meet", "the", "requirements", "of", "a", "semantic", "network", ".", "Belew", "-LRB-", "1989", "-RRB-", "investigated", "the", "use", "of", "connectionist", "techniques", "in", "an", "information", "retrieval", "system", "called", "Adaptive", "Information", "Retrieval", "-LRB-", "AIR", "-RRB-", ".", "The", "system", "handles", "information", "about", "scientific", "publications", ",", "like", "the", "publication", "title", "and", "the", "author", ".", "AIR", "uses", "a", "weighted", "graph", "as", "knowledge", "representation", "paradigm", ".", "For", "each", "document", ",", "author", "and", "keyword", "-LRB-", "keywords", "are", "words", "found", "in", "publication", "titles", "-RRB-", "a", "node", "is", "created", "and", "associations", "between", "nodes", "are", "constructed", "from", "an", "initial", "representation", "of", "documents", "and", "attributes", ".", "A", "user", "'s", "query", "causes", "initial", "activity", "to", "be", "placed", "on", "some", "nodes", "of", "the", "network", ".", "31", "This", "activity", "is", "propagated", "to", "other", "nodes", "until", "certain", "conditions", "are", "met", ".", "Nodes", "with", "the", "highest", "level", "of", "activation", "represent", "the", "answer", "to", "the", "query", "by", "the", "AIR", "system", ".", "Furthermore", ",", "users", "are", "allowed", "to", "assign", "a", "degree", "of", "relevance", "to", "the", "results", "-LRB-", "+", "+", ",", "+", ",", "-", ",", "--", "-RRB-", ".", "This", "causes", "new", "links", "to", "be", "created", "and", "the", "adaptation", "of", "weights", "between", "existing", "links", ".", "Moreover", ",", "feedback", "is", "averaged", "across", "the", "judgments", "of", "many", "users", ".", "A", "mentionable", "aspect", "of", "the", "AIR", "system", "is", "that", "no", "provision", "is", "made", "for", "the", "traditional", "Boolean", "operators", "like", "AND", "and", "OR", ".", "Rather", ",", "AIR", "emulates", "these", "logical", "operations", "because", "``", "the", "point", "is", "that", "the", "difference", "between", "AND", "and", "OR", "is", "a", "matter", "of", "degree", "''", ".", "This", "insight", "goes", "back", "to", "Von", "Neumann", "-LRB-", "as", "pointed", "out", "by", "Belew", "-LRB-", "1989", "-RRB-", "-RRB-", ".", "A", "system", "based", "on", "a", "combination", "of", "an", "ostensive", "approach", "with", "the", "associative", "retrieval", "approach", "is", "described", "in", "Crestani", "&", "Lee", "-LRB-", "2000", "-RRB-", ".", "In", "the", "WebSCSA", "-LRB-", "Web", "Searching", "by", "Constrained", "Spreading", "Activation", "-RRB-", "approach", "a", "query", "does", "not", "consist", "of", "keywords", ".", "Instead", ",", "the", "system", "is", "based", "on", "an", "ostensive", "approach", "and", "assumes", "that", "the", "user", "has", "already", "identified", "relevant", "Web", "pages", "that", "act", "as", "a", "basis", "for", "the", "following", "retrieval", "process", ".", "Subsequently", ",", "relevant", "pages", "are", "parsed", "for", "links", "and", "they", "are", "followed", "to", "search", "for", "other", "relevant", "associated", "pages", ".", "The", "user", "does", "not", "ex-plicitly", "refine", "the", "query", ".", "More", "precisely", ",", "users", "point", "to", "a", "number", "of", "relevant", "pages", "to", "initiate", "a", "query", "and", "the", "WebSCSA", "system", "combines", "the", "content", "of", "these", "pages", "to", "build", "a", "search", "profile", ".", "In", "contrast", "to", "conventional", "search", "engines", "WebSCSA", "does", "not", "make", "use", "of", "extensive", "indices", "during", "the", "search", "process", ".", "Strictly", "speaking", ",", "it", "retrieves", "relevant", "information", "only", "by", "navigating", "the", "Web", "at", "the", "time", "the", "user", "searches", "for", "information", ".", "The", "navigation", "is", "processed", "and", "controlled", "by", "means", "of", "a", "constrained", "spreading", "activation", "model", ".", "In", "order", "to", "unleash", "the", "power", "of", "WebSCSA", "the", "system", "should", "be", "used", "when", "users", "already", "have", "a", "point", "to", "start", "for", "her", "or", "his", "search", ".", "Pragmatically", "speaking", ",", "the", "intention", "of", "WebSCSA", "is", "to", "enhance", "conventional", "search", "engines", ",", "use", "these", "as", "starting", "points", "and", "not", "to", "compete", "with", "them", ".", "Hartmann", "&", "Strothotte", "-LRB-", "2002", "-RRB-", "focus", "on", "a", "spreading", "activation", "approach", "to", "automatically", "find", "associations", "between", "text", "passages", "and", "multimedia", "material", "like", "illustrations", ",", "animations", ",", "sounds", ",", "and", "videos", ".", "Moreover", ",", "a", "media-independent", "formal", "representation", "of", "the", "underlying", "knowledge", "is", "used", "to", "automatically", "adapt", "illustrations", "to", "the", "contents", "of", "small", "text", "segments", ".", "The", "system", "contains", "a", "hierarchical", "representation", "of", "basic", "anatomic", "concepts", "such", "as", "bones", ",", "muscles", ",", "articulations", ",", "tendons", ",", "as", "well", "as", "their", "parts", "and", "regions", ".", "Network", "structures", "provide", "a", "flexible", "model", "for", "adaptation", "and", "integration", "of", "additional", "information", "items", ".", "Nevertheless", ",", "Crestani", "-LRB-", "1997", "-RRB-", "points", "out", "that", "''", "...", "the", "problem", "of", "building", "a", "network", "which", "effec-tively", "represents", "the", "useful", "relations", "-LRB-", "in", "terms", "of", "the", "IRs", "aims", "-RRB-", "has", "always", "been", "the", "critical", "point", "of", "many", "of", "the", "attempts", "to", "use", "SA", "in", "IR", ".", "These", "networks", "are", "very", "difficult", "to", "build", ",", "to", "maintain", "and", "keep", "up", "to", "date", ".", "Their", "construction", "requires", "in", "depth", "application", "domain", "knowledge", "that", "only", "experts", "in", "the", "application", "domain", "can", "provide", ".", "''", "Dittenbach", ",", "Merkl", "&", "Berger", "-LRB-", "2003", "-RRB-", "present", "an", "approach", "based", "on", "neural", "networks", "for", "organizing", "words", "of", "a", "specific", "domain", "according", "to", "their", "semantic", "relations", ".", "A", "two-dimensional", "map", "is", "used", "to", "display", "semantically", "similar", "words", "in", "spatially", "regions", ".", "This", "representation", "can", "support", "the", "construction", "and", "enrichment", "of", "information", "stored", "in", "the", "associative", "network", ".", "4.1", "The", "Redeveloped", "System", "Architecture", "To", "overcome", "the", "limitations", "of", "the", "knowledge", "base", "of", "the", "original", "system", ",", "the", "development", "of", "an", "alternative", "approach", "to", "model", "domain", "knowledge", "was", "necessary", ".", "Basically", ",", "the", "unassociated", ",", "non-hierarchic", "knowledge", "representation", "model", "inhibits", "the", "power", "of", "the", "system", ".", "Strictly", "speaking", ",", "the", "original", "system", "failed", "to", "retrieve", "results", "on", "a", "fuzzy", "basis", ",", "i.e.", "the", "results", "determined", "by", "the", "system", "provide", "exact", "matches", "only", ",", "without", "respect", "to", "first", ",", "interactions", "users", "made", "during", "past", "sessions", ",", "second", ",", "personal", "preferences", "of", "users", ",", "third", ",", "semantic", "relations", "of", "domain", "intrinsic", "information", ",", "and", "fourth", ",", "locational", "interdependencies", ".", "In", "order", "to", "adapt", "the", "system", "architecture", "accordingly", ",", "an", "approach", "based", "on", "associative", "networks", "was", "developed", ".", "This", "associative", "network", "replaces", "the", "flat", "synonym", "ontology", "used", "in", "the", "original", "system", ".", "Moreover", ",", "both", "the", "grammar", "rules", "and", "the", "SQL", "fragments", "have", "been", "removed", "from", "the", "knowledge", "base", ".", "More", "precisely", ",", "the", "functionality", "and", "logic", "is", "now", "covered", "by", "newly", "developed", "pipeline", "elements", "or", "implic-itly", "resolved", "by", "the", "associative", "network", ".", "In", "analogy", "to", "the", "original", "pipeline", ",", "the", "first", "three", "processing", "steps", "are", "accomplished", ".", "Next", ",", "a", "newly", "implemented", "initialization", "element", "associates", "concepts", "extracted", "from", "the", "query", "with", "nodes", "of", "the", "associative", "network", ".", "These", "nodes", "act", "as", "activation", "sources", ".", "Subsequently", ",", "the", "newly", "designed", "spreading", "element", "implements", "the", "process", "of", "activation", "propagation", ".", "Finally", ",", "the", "new", "evaluation", "element", "analyzes", "the", "activation", "level", "of", "the", "associative", "network", "determined", "during", "the", "spreading", "phase", "and", "produces", "a", "ranking", "according", "to", "this", "activation", "level", ".", "4.1.1", "The", "Knowledge", "Representation", "Model", "Basically", ",", "the", "knowledge", "base", "of", "the", "information", "retrieval", "system", "is", "composed", "of", "two", "major", "parts", ":", "first", ",", "a", "relational", "database", "that", "stores", "information", "about", "domain", "entities", "and", ",", "second", ",", "a", "data", "structure", "based", "on", "an", "associative", "network", "that", "models", "the", "relationships", "among", "terms", "relevant", "to", "the", "domain", ".", "Each", "domain", "entity", "is", "described", "by", "a", "freely", "definable", "set", "of", "attributes", ".", "To", "provide", "a", "flexible", "and", "extensible", "means", "for", "specifying", "entity", "attributes", ",", "these", "attributes", "are", "organized", "as", "<", "name", ",", "value", ">", "pairs", ".", "An", "example", "from", "the", "tourism", "domain", "is", "depicted", "in", "Table", "1", ".", "Hotel", "Wellnesshof", "category", "4", "facility", "sauna", "facility", "solarium", "facility", "...", "Table", "1", ":", "<", "name", ",", "value", ">", "-", "pair", "example", "for", "entity", "``", "Hotel", "Wellnesshof", "''", "The", "associative", "network", "consists", "of", "a", "set", "of", "nodes", "and", "each", "node", "represents", "an", "information", "item", ".", "Moreover", ",", "each", "node", "is", "member", "of", "one", "of", "three", "logical", "layers", "defined", "as", "follows", ":", "Abstraction", "layer", ":", "One", "objective", "of", "the", "rede-velopment", "of", "the", "knowledge", "base", "was", "to", "integrate", "information", "items", "with", "abstract", "semantic", "meaning", ".", "More", "precisely", ",", "in", "contrast", "to", "the", "knowledge", "base", "used", "in", "the", "original", "system", "which", "only", "supported", "modeling", "of", "entity", "attributes", ",", "the", "new", "approach", "allows", "the", "integration", "of", "a", "broader", "set", "of", "terms", ",", "e.g.", "terms", "like", "``", "wellness", "''", "or", "``", "summer", "activities", "''", "that", "virtually", "combine", "several", "information", "items", ".", "32", "Conceptual", "layer", ":", "The", "second", "layer", "is", "used", "to", "associate", "entity", "attributes", "according", "to", "their", "semantic", "relationship", ".", "Thus", ",", "each", "entity", "attribute", "has", "a", "representation", "at", "the", "conceptual", "layer", ".", "Furthermore", ",", "the", "strengths", "of", "the", "relationships", "between", "information", "items", "are", "expressed", "by", "a", "real", "value", "associated", "with", "the", "link", ".", "Entity", "layer", ":", "Finally", ",", "the", "entity", "layer", "associates", "entities", "with", "information", "items", "-LRB-", "entity", "attributes", "-RRB-", "of", "the", "conceptual", "layer", ",", "e.g.", "an", "entity", "possessing", "the", "attribute", "``", "sauna", "''", "is", "associated", "with", "the", "sauna", "node", "of", "the", "conceptual", "layer", ".", "The", "building", "blocks", "of", "the", "network", "are", "concepts", ".", "A", "concept", "represents", "an", "information", "item", "possessing", "several", "semantically", "equivalent", "terms", ",", "i.e.", "synonyms", ",", "in", "different", "languages", ".", "Each", "concept", "possesses", "one", "of", "three", "different", "roles", ":", "Concrete", "concepts", "are", "used", "to", "represent", "information", "items", "at", "the", "conceptual", "layer", ".", "More", "precisely", ",", "concrete", "concepts", "refer", "to", "entity", "attributes", ".", "Concepts", "with", "an", "abstract", "role", "refer", "to", "terms", "at", "the", "abstraction", "layer", ".", "Finally", ",", "the", "modifier", "role", "is", "used", "to", "categorize", "concepts", "that", "alter", "the", "processing", "rules", "for", "abstract", "or", "concrete", "concepts", ".", "A", "modifier", "like", ",", "for", "instance", ",", "``", "not", "''", "allows", "the", "exclusion", "of", "concepts", "by", "negation", "of", "the", "assigned", "initialization", "value", ".", "Moreover", ",", "concepts", "provide", ",", "depending", "on", "their", "role", ",", "a", "method", "for", "expressing", "relationships", "among", "them", ".", "The", "connectedTo", "relation", "defines", "a", "bidirec-tional", "weighted", "link", "between", "two", "concrete", "concepts", ",", "e.g.", "the", "concrete", "concept", "``", "sauna", "''", "is", "linked", "to", "``", "steam", "bath", "''", ".", "The", "second", "relation", "used", "to", "link", "information", "items", "is", "the", "parentOf", "association", ".", "It", "is", "used", "to", "express", "the", "sub-super", "class", "relationship", "between", "abstract", "concepts", "or", "concrete", "and", "abstract", "concepts", ".", "A", "set", "of", "concepts", "representing", "a", "particular", "domain", "is", "described", "in", "a", "single", "XML", "file", "and", "acts", "as", "input", "source", "for", "the", "information", "retrieval", "system", ".", "During", "initialization", ",", "the", "application", "parses", "the", "XML", "file", ",", "in-stantiates", "all", "concepts", ",", "generates", "a", "list", "of", "synonyms", "pointing", "at", "corresponding", "concepts", ",", "associates", "concepts", "according", "to", "their", "relations", "and", ",", "finally", ",", "links", "the", "entities", "to", "concrete", "concepts", ".", "Currently", ",", "the", "associative", "network", "consists", "of", "about", "2,200", "concepts", ",", "10,000", "links", "and", "more", "than", "13,000", "entities", ".", "The", "concept", "network", "includes", "terms", "that", "describe", "the", "tourism", "domain", "as", "well", "as", "towns", ",", "cities", "and", "federal", "states", "throughout", "Austria", ".", "To", "get", "a", "better", "picture", "of", "the", "interdependencies", "associated", "with", "the", "layers", "introduced", "above", "see", "Figure", "3", ".", "Each", "layer", "holds", "a", "specific", "set", "of", "concepts", ".", "Abstract", "concepts", "associate", "concepts", "at", "the", "same", "or", "at", "the", "conceptual", "layer", ".", "Concepts", "at", "the", "conceptual", "layer", "define", "links", "between", "entity", "attributes", "and", "associate", "these", "attributes", "with", "entities", "at", "the", "entity", "layer", ".", "Finally", ",", "entities", "are", "placed", "at", "the", "lowest", "layer", ",", "the", "entity", "layer", ".", "Concepts", "at", "the", "entity", "layer", "are", "not", "associated", "with", "items", "at", "the", "same", "layer", ".", "Consider", ",", "for", "example", ",", "the", "abstract", "concept", "``", "indoor", "sports", "''", "and", "the", "concept", "``", "sauna", "''", "as", "concepts", "from", "which", "activation", "originates", "from", ".", "First", ",", "activation", "is", "propagated", "between", "the", "abstraction", "layer", "to", "the", "conceptual", "layer", "via", "the", "dashed", "line", "from", "``", "indoor", "sports", "''", "to", "``", "table", "tennis", "''", ".", "We", "shall", "note", ",", "that", "dashed", "lines", "indicate", "links", "between", "concepts", "of", "different", "layers", ".", "Thus", ",", "``", "sauna", "''", "and", "``", "table", "tennis", "''", "act", "as", "source", "concepts", "and", ",", "moreover", ",", "activation", "is", "spread", "through", "the", "network", "along", "links", "at", "the", "conceptual", "layer", ".", "Activation", "received", "by", "concepts", "at", "the", "conceptual", "layer", "is", "propagated", "to", "the", "entities", "at", "the", "entity", "layer", "stimulating", ",", "in", "this", "particular", "case", ",", "the", "entities", "``", "Hotel", "Stams", "''", ",", "``", "Hotel", "Thaya", "''", "as", "well", "as", "``", "Wachauerhof", "''", ".", "Moreover", ",", "a", "fraction", "of", "activation", "is", "propagated", "to", "adjacent", "concept", "nodes", "at", "the", "conceptual", "layer", ",", "i.e.", "``", "solarium", "''", ",", "``", "whirlpool", "''", "as", "well", "as", "``", "tennis", "''", ",", "and", "to", "entities", ",", "i.e.", "``", "Hotel", "Wiental", "''", "and", "``", "Forellenhof", "''", ",", "respectively", ".", "4.1.2", "Processing", "the", "Associative", "Network", "Due", "to", "the", "flexibility", "and", "adaptivity", "of", "the", "original", "system", ",", "the", "integration", "of", "the", "redesigned", "parts", "has", "been", "accomplished", "with", "relatively", "little", "effort", ".", "In", "particular", ",", "the", "existing", "knowledge", "base", "has", "been", "replaced", "by", "the", "associative", "network", "and", "additional", "pipeline", "elements", "to", "implement", "spreading", "activation", "have", "been", "incorporated", ".", "Figure", "4", "depicts", "the", "redeveloped", "knowledge", "base", "on", "which", "the", "processing", "algorithm", "operates", ".", "The", "conceptual", "layer", "stores", "concrete", "concepts", "and", "the", "weighted", "links", "among", "them", ".", "Associating", "abstract", "concepts", "with", "concrete", "concepts", "is", "done", "at", "the", "abstraction", "layer", ".", "Each", "entity", "has", "a", "unique", "identifier", "that", "is", "equivalent", "to", "the", "entity", "identifier", "stored", "in", "the", "relational", "database", ".", "Furthermore", ",", "entities", "are", "connected", "to", "concepts", "at", "the", "conceptual", "layer", ".", "More", "precisely", ",", "an", "entity", "is", "connected", "to", "all", "attributes", "it", "possesses", ".", "As", "an", "example", "consider", "the", "entity", "``", "Hotel", "Stams", "''", "as", "depicted", "in", "Figure", "4", ".", "This", "hotel", "offers", "a", "``", "sauna", "''", ",", "a", "``", "steam", "bath", "''", "and", "a", "``", "solarium", "''", "and", "is", ",", "therefore", ",", "linked", "to", "the", "corresponding", "concepts", "at", "the", "conceptual", "layer", ".", "First", ",", "a", "user", "'s", "query", ",", "received", "by", "the", "information", "retrieval", "system", ",", "is", "decomposed", "into", "single", "terms", ".", "After", "applying", "an", "error", "correction", "mechanism", "and", "a", "phrase", "detection", "algorithm", "to", "the", "query", ",", "terms", "found", "in", "the", "synonym", "lexicon", "are", "linked", "to", "their", "corresponding", "concept", "at", "the", "abstraction", "or", "conceptual", "layer", ".", "These", "concepts", "act", "as", "activation", "sources", "and", ",", "subsequently", ",", "the", "activation", "process", "is", "initiated", "and", "activation", "spreads", "according", "to", "the", "algorithm", "outlined", "below", ".", "At", "the", "beginning", ",", "the", "role", "of", "each", "concept", "is", "evaluated", ".", "Depending", "on", "its", "role", ",", "different", "initialization", "strategies", "are", "applied", ":", "Modifier", "role", ":", "In", "case", "of", "the", "``", "not", "''", "modifier", ",", "the", "initialization", "value", "of", "the", "subsequent", "concept", "is", "multiplied", "with", "a", "negative", "number", ".", "Due", "to", "the", "fact", "that", "the", "``", "and", "''", "and", "``", "or", "''", "modifiers", "are", "im-plicitly", "resolved", "by", "the", "associative", "network", ",", "they", "receive", "no", "special", "treatment", ".", "More", "precisely", ",", "if", ",", "for", "instance", ",", "somebody", "is", "searching", "for", "an", "accommodation", "with", "a", "sauna", "or", "solarium", ",", "those", "accommodations", "offering", "both", "facilities", "will", "be", "ranked", "higher", "than", "others", ",", "providing", "only", "one", "of", "the", "desired", "facilities", ".", "Furthermore", ",", "the", "``", "near", "''", "modifier", "reflecting", "geographic", "dependencies", ",", "is", "automatically", "resolved", "by", "associating", "cities", "or", "towns", "within", "a", "circumference", "of", "15", "km", ".", "Depending", "on", "the", "distance", ",", "the", "weights", "are", "adapted", "accordingly", ",", "i.e.", "the", "closer", "they", "are", "together", ",", "the", "higher", "is", "the", "weight", "of", "the", "link", "in", "the", "associative", "network", ".", "Abstract", "role", ":", "If", "a", "source", "concept", "is", "abstract", ",", "the", "set", "of", "source", "concepts", "is", "expanded", "by", "resolving", "the", "parentOf", "relation", "between", "parent", "and", "child", "concepts", ".", "This", "process", "is", "repeated", "until", "all", "abstract", "concepts", "are", "resolved", ",", "i.e.", "the", "set", "of", "source", "concepts", "contains", "members", "of", "the", "conceptual", "layer", "only", ".", "The", "initial", "activation", "value", "is", "propagated", "to", "all", "child", "concepts", ",", "with", "respect", "to", "the", "weighted", "links", ".", "33", "Figure", "3", ":", "Network", "layer", "interdependencies", "Concrete", "role", ":", "The", "initial", "activation", "level", "of", "concrete", "concepts", "is", "set", "to", "initialization", "value", "defined", "in", "the", "XML", "source", "file", ".", "The", "spreading", "activation", "process", "takes", "place", "at", "the", "conceptual", "layer", ",", "i.e.", "the", "connectedTo", "relations", "between", "adjacent", "concepts", "are", "used", "to", "propagate", "activation", "through", "the", "network", ".", "After", "the", "initialization", "phase", "has", "completed", ",", "the", "iterative", "spreading", "process", "is", "activated", ".", "During", "a", "single", "iteration", "one", "pulse", "is", "performed", ",", "i.e.", "the", "number", "of", "iterations", "equals", "the", "number", "of", "pulses", ".", "Starting", "from", "the", "set", "of", "source", "concepts", "determined", "during", "initialization", ",", "in", "the", "current", "implementation", "activation", "is", "spread", "to", "adjacent", "nodes", "according", "to", "the", "following", "formula", ":", "O", "i", "-LRB-", "p", "-RRB-", "=", "0", "if", "I", "i", "-LRB-", "p", "-RRB-", "<", ",", "F", "i", "p", "+1", "I", "i", "-LRB-", "p", "-RRB-", "else", ",", "with", "F", "i", "=", "-LRB-", "1", "C", "i", "C", "T", "-RRB-", "-LRB-", "4", "-RRB-", "The", "output", ",", "O", "i", "-LRB-", "p", "-RRB-", ",", "sent", "from", "node", "i", "at", "pulse", "p", ",", "is", "calculated", "as", "the", "fraction", "of", "F", "i", ",", "which", "limits", "the", "propagation", "according", "to", "the", "degree", "of", "connectivity", "of", "node", "i", "-LRB-", "i.e.", "fan-out", "constraint", ",", "cf.", "Section", "3.2", "-RRB-", ",", "and", "p", "+", "1", ",", "expressing", "the", "diminishing", "semantic", "relationship", "according", "to", "the", "distance", "of", "node", "i", "to", "activation", "source", "nodes", "-LRB-", "i.e.", "distance", "constraint", ",", "cf.", "Section", "3.2", "-RRB-", ".", "Moreover", ",", "F", "i", "is", "calculated", "by", "dividing", "the", "number", "of", "concepts", "C", "i", "directly", "connected", "to", "node", "i", "by", "the", "total", "number", "of", "nodes", "C", "T", "building", "the", "associative", "network", ".", "Note", ",", "represents", "a", "threshold", "value", ".", "Simultaneous", "to", "calculating", "the", "output", "value", "for", "all", "connected", "nodes", ",", "the", "activation", "level", "I", "i", "-LRB-", "p", "-RRB-", "of", "node", "i", "is", "added", "to", "all", "associated", "entities", ".", "More", "precisely", ",", "each", "entity", "connected", "to", "node", "i", "receives", "the", "same", "value", "and", "adds", "it", "to", "an", "internal", "variable", "representing", "the", "total", "activation", "of", "the", "entity", ".", "As", "an", "example", ",", "if", "the", "concept", "node", "``", "sauna", "''", "is", "activated", ",", "the", "activation", "potential", "is", "propagated", "to", "the", "entities", "``", "Hotel", "Stams", "''", "and", "``", "Hotel", "Thaya", "''", "-LRB-", "cf.", "Figure", "4", "-RRB-", ".", "Next", ",", "all", "newly", "activated", "nodes", "are", "used", "in", "the", "subsequent", "iteration", "as", "activation", "sources", "and", "the", "spreading", "process", "continues", "until", "the", "maximum", "number", "of", "iterations", "is", "reached", ".", "After", "the", "spreading", "process", "has", "terminated", ",", "the", "system", "inspects", "all", "entities", "and", "ranks", "them", "according", "to", "their", "activation", ".", "Figure", "5", "depicts", "the", "results", "determined", "for", "the", "example", "query", "Ich", "und", "meine", "Kinder", "m", "ochten", "in", "einem", "Hotel", "in", "Kitzb", "uhel", "Urlaub", "machen", ".", "Es", "sollte", "ein", "Dampfbad", "hab", "en", ".", "1", "In", "this", "particular", "case", ",", "the", "entities", "``", "Schwarzer", "Adler", "Kitzb", "uhel", "''", "and", "``", "Hotel", "Schloss", "Lebenberg", "Kitzb", "uhel", "''", "located", "in", "``", "Kitzb", "uhel", "''", "are", "suggested", "to", "be", "the", "best", "matching", "answers", "to", "the", "query", ".", "Moreover", ",", "the", "result", "set", "includes", "matches", "that", "are", "closely", "related", "to", "the", "user", "'s", "query", ".", "Thus", ",", "depending", "on", "the", "relations", "stored", "in", "the", "associative", "network", ",", "entities", "offering", "related", "concepts", "are", "activated", "accordingly", ".", "More", "precisely", ",", "not", "only", "the", "attributes", "``", "hotel", "''", ",", "``", "steam", "bath", "''", "and", "``", "kids", "''", "are", "taken", "into", "account", ",", "but", "also", "all", "other", "related", "entity", "attributes", "-LRB-", "e.g.", "``", "sauna", "''", ",", "``", "whirlpool", "''", ",", "``", "solarium", "''", ",", "etc.", "-RRB-", "have", "some", "influence", "on", "the", "ranking", "position", ".", "Furthermore", ",", "accommodations", "in", "cities", "in", "the", "vicinity", "of", "``", "Kitzb", "uhel", "''", "providing", "the", "same", "or", "even", "better", "offers", "are", "also", "included", "in", "the", "result", "set", ".", "Thus", ",", "the", "associative", "network", "provides", "a", "means", "for", "exact", "information", "retrieval", "and", "incorporates", "a", "fuzzy", "search", "strategy", "that", "determines", "closely", "related", "matches", "to", "the", "user", "'s", "query", ".", "1", "Me", "and", "my", "kids", "would", "like", "to", "spend", "our", "holidays", "in", "a", "hotel", "in", "Kitzbhel", ".", "It", "should", "have", "a", "steam", "bath", ".", "34", "Figure", "4", ":", "Knowledge", "base", "architecture", "A", "natural", "language", "system", "based", "on", "an", "approach", "described", "in", "Berger", "-LRB-", "2001", "-RRB-", "and", "Berger", ",", "Dittenbach", ",", "Merkl", "&", "Winiwarter", "-LRB-", "2001", "-RRB-", "has", "been", "reviewed", "in", "this", "paper", "and", ",", "furthermore", ",", "provided", "the", "basis", "for", "the", "research", "presented", "herein", ".", "The", "reviewed", "system", "offers", "multilingual", "access", "to", "information", "on", "a", "restricted", "domain", ".", "In", "this", "particular", "case", "the", "system", "operates", "on", "the", "tourism", "domain", ".", "Moreover", ",", "users", "of", "the", "search", "interface", "are", "encouraged", "to", "formulate", "queries", "in", "natural", "language", ",", "i.e.", "they", "are", "able", "to", "express", "their", "intentions", "in", "their", "own", "words", ".", "We", "developed", "a", "knowledge", "representation", "model", "that", "facilitates", "the", "definition", "of", "semantic", "relations", "between", "information", "items", "exemplified", "by", "terms", "of", "the", "tourism", "domain", ".", "In", "particular", ",", "an", "associative", "network", "based", "on", "a", "three", "layered", "structure", "was", "introduced", ".", "First", ",", "the", "abstraction", "layer", "allows", "modelling", "of", "terms", "with", "a", "subjective", "or", "broader", "semantic", "meaning", ",", "second", ",", "the", "conceptual", "layer", "is", "used", "to", "define", "relations", "via", "weighted", "links", "between", "terms", ",", "and", ",", "finally", ",", "the", "entity", "layer", "provides", "a", "means", "to", "associate", "elements", "stored", "in", "a", "relational", "database", "with", "information", "items", "in", "the", "associative", "network", ".", "Moreover", ",", "a", "constrained", "spreading", "activation", "algorithm", "implements", "a", "processing", "technique", "operating", "on", "the", "network", ".", "Generally", ",", "the", "combination", "of", "the", "associative", "nature", "of", "the", "knowledge", "representation", "model", "and", "the", "constrained", "spreading", "activation", "approach", "constitutes", "a", "search", "algorithm", "that", "evaluates", "the", "relatedness", "of", "terms", "and", ",", "therefore", ",", "provides", "a", "means", "for", "implicit", "query", "expansion", ".", "The", "flexible", "method", "of", "defining", "relationships", "between", "terms", "unleashes", "the", "ability", "to", "determine", "highly", "associated", "results", "as", "well", "as", "results", "that", "are", "predefined", "due", "to", "personal", "preferences", ".", "Moreover", ",", "especially", "designed", "associative", "networks", "can", "be", "used", "to", "model", "scenarios", ",", "as", ",", "for", "instance", ",", "a", "winter", "holiday", "scenario", "that", "favors", "accommodations", "offering", "winter", "sports", "activities", "by", "adapting", "the", "weights", "of", "links", "accordingly", ".", "One", "important", "task", "for", "further", "enhancement", "is", "the", "possibility", "to", "express", "the", "relevance", "of", "query", "terms", ".", "Users", "should", "be", "able", "to", "assign", "a", "degree", "of", "significance", "to", "terms", ".", "Consider", ",", "for", "example", ",", "a", "user", "searching", "for", "an", "accommodation", "with", "several", "amenities", "in", "the", "capital", "city", "of", "Austria", ".", "Moreover", ",", "the", "user", "is", "a", "vegetarian", ".", "Therefore", ",", "a", "means", "for", "expressing", "the", "importance", "of", "vegetarian", "kitchen", "is", "needed", ".", "In", "order", "to", "accomplish", "this", "requirement", ",", "the", "system", "might", "be", "extended", "to", "understand", "words", "that", "emphasis", "terms", ",", "e.g.", "in", "analogy", "to", "modifiers", "like", "``", "and", "''", ",", "``", "or", "''", ",", "``", "near", "''", ",", "etc.", "the", "word", "``", "important", "''", "is", "handled", "like", "a", "modifier", "and", "influences", "the", "activation", "level", "of", "the", "following", "query", "term", ".", "Additionally", ",", "an", "interface", "providing", "a", "graphical", "instrument", "to", "express", "relevance", "by", "means", "of", "a", "slide", "controller", "might", "be", "considered", ".", "Furthermore", ",", "an", "associative", "network", "might", "act", "as", "a", "kind", "of", "short", "term", "memory", ".", "More", "precisely", ",", "during", "a", "user", "session", "a", "particular", "network", "is", "used", "to", "store", "the", "activation", "level", "determined", "during", "past", "user", "interactions", ".", "A", "user", ",", "for", "instance", ",", "is", "searching", "for", "a", "hotel", "in", "Vienna", ".", "Thus", ",", "the", "associative", "network", "stores", "the", "activation", "level", "for", "further", "processing", ".", "Next", ",", "the", "user", "might", "restrict", "the", "results", "to", "accommodations", "offering", "a", "sauna", ".", "This", "spreading", "process", "is", "carried", "out", "using", "the", "associative", "network", "determined", "during", "the", "previous", "interaction", ".", "Baeza-Yates", ",", "R.", "A.", "&", "Ribeiro-Neto", ",", "B.", "-LRB-", "1999", "-RRB-", ",", "Modern", "Information", "Retrieval", ",", "Addison-Wesley", ",", "Reading", ",", "MA", ".", "Ballesteros", ",", "L.", "&", "Croft", ",", "W.", "B.", "-LRB-", "1998", "-RRB-", ",", "Resolving", "ambiguity", "for", "cross-language", "retrieval", ",", "in", "`", "Re-search", "and", "Development", "in", "Information", "Retrieval", "'", ",", "pp.", "64", "71", ".", "Belew", ",", "R.", "K.", "-LRB-", "1989", "-RRB-", ",", "Adaptive", "information", "retrieval", ":", "Using", "a", "connectionist", "representation", "to", "retrieve", "and", "learn", "about", "documents", ",", "in", "N.", "J.", "Nicholas", "J.", "Belkin", "&", "C.", "J.", "Van", "Rijsbergen", ",", "eds", ",", "`", "Proceedings", "of", "the", "12th", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "'", "89", "-RRB-", "'", ",", "ACM", ",", "pp.", "11", "20", ".", "Berger", ",", "H.", "-LRB-", "2001", "-RRB-", ",", "Adaptive", "multilingual", "interfaces", ",", "Master", "'s", "thesis", ",", "Vienna", "University", "of", "Technology", ".", "Berger", ",", "H.", ",", "Dittenbach", ",", "M.", "&", "Merkl", ",", "D.", "-LRB-", "2003", "-RRB-", ",", "Querying", "tourism", "information", "systems", "in", "natural", "language", ",", "in", "`", "Proceedings", "of", "the", "2nd", "International", "Conference", "on", "Information", "System", "Technology", "and", "its", "Applications", "-LRB-", "ISTA", "2003", "-RRB-", "'", ",", "Kharkiv", ",", "Ukraine", ".", "Berger", ",", "H.", ",", "Dittenbach", ",", "M.", ",", "Merkl", ",", "D.", "&", "Winiwarter", ",", "W.", "-LRB-", "2001", "-RRB-", ",", "Providing", "multilingual", "natural", "language", "access", "to", "tourism", "information", ",", "in", "W.", "Winiwarter", ",", "S.", "Bressan", "&", "I.", "K.", "Ibrahim", ",", "eds", ",", "`", "Proceedings", "of", "the", "3rd", "International", "Conference", "on", "35", "Figure", "5", ":", "Weighted", "result", "set", "determined", "by", "constrained", "spreading", "activation", "Information", "Integration", "and", "Web-based", "Applications", "and", "Services", "-LRB-", "IIWAS", "2001", "-RRB-", "'", ",", "Austrian", "Computer", "Society", ",", "Linz", ",", "Austria", ",", "pp.", "269", "276", ".", "Cavnar", ",", "W.", "B.", "&", "Trenkle", ",", "J.", "M.", "-LRB-", "1994", "-RRB-", ",", "N-gram-based", "text", "categorization", ",", "in", "`", "International", "Symposium", "on", "Document", "Analysis", "and", "Information", "Retrieval", "'", ",", "Las", "Vegas", ",", "NV", ".", "Crestani", ",", "F.", "-LRB-", "1997", "-RRB-", ",", "`", "Application", "of", "spreading", "activation", "techniques", "in", "information", "retrieval", "'", ",", "Artificial", "Intelligence", "Review", "11", "-LRB-", "6", "-RRB-", ",", "453", "582", ".", "Crestani", ",", "F.", "&", "Lee", ",", "P.", "L.", "-LRB-", "2000", "-RRB-", ",", "`", "Searching", "the", "web", "by", "constrained", "spreading", "activation", "'", ",", "Information", "Processing", "and", "Management", "36", "-LRB-", "4", "-RRB-", ",", "585", "605", ".", "Croft", ",", "W.", ",", "Lucia", ",", "T.", ",", "Crigean", ",", "J.", "&", "Willet", ",", "P.", "-LRB-", "1989", "-RRB-", ",", "`", "Retrieving", "documents", "by", "plausible", "inference", ":", "an", "experimental", "study", "'", ",", "Information", "Processing", "&", "Management", "25", "-LRB-", "6", "-RRB-", ",", "599", "614", ".", "Croft", ",", "W.", "&", "Thompson", ",", "R.", "H.", "-LRB-", "1987", "-RRB-", ",", "`", "I", "3", "R", ":", "A", "New", "Approach", "to", "the", "Design", "of", "Document", "Retrieval", "Systems", "'", ",", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "38", "-LRB-", "6", "-RRB-", ",", "389", "404", ".", "Dittenbach", ",", "M.", ",", "Merkl", ",", "D.", "&", "Berger", ",", "H.", "-LRB-", "2003", "-RRB-", ",", "Using", "a", "connectionist", "approach", "for", "enhancing", "domain", "ontologies", ":", "Self-organizing", "word", "category", "maps", "revisited", ",", "in", "`", "Proceedings", "of", "the", "5th", "International", "Conference", "on", "Data", "Warehousing", "and", "Knowledge", "Discovery", "-", "-LRB-", "DaWaK", "2003", "-RRB-", "'", ".", "Accepted", "for", "publication", ".", "Harman", ",", "D.", "K.", "-LRB-", "1995", "-RRB-", ",", "Overview", "of", "the", "3rd", "Text", "Retrieval", "Conference", "-LRB-", "TREC-3", "-RRB-", ",", "in", "D.", "K.", "Harman", ",", "ed.", ",", "`", "Proceedings", "of", "the", "3rd", "Text", "Retrieval", "Conference", "-LRB-", "TREC-3", "-RRB-", "'", ",", "NIST", "Special", "Publication", "500", "225", ",", "pp.", "1", "19", ".", "Hartmann", ",", "K.", "&", "Strothotte", ",", "T.", "-LRB-", "2002", "-RRB-", ",", "A", "spreading", "activation", "approach", "to", "text", "illustration", ",", "in", "`", "Proceedings", "of", "the", "2nd", "International", "Symposium", "on", "Smart", "graphics", "'", ",", "ACM", "Press", ",", "pp.", "39", "46", ".", "Hull", ",", "D.", "A.", "&", "Grafenstette", ",", "G.", "-LRB-", "1996", "-RRB-", ",", "Querying", "across", "languages", ":", "A", "dictionary-based", "approach", "to", "multilingual", "information", "retrieval", ",", "in", "`", "Proceedings", "of", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "1996", "-RRB-", "'", ",", "pp.", "49", "57", ".", "Kjeldsen", ",", "R.", "&", "Cohen", ",", "P.", "-LRB-", "1987", "-RRB-", ",", "`", "The", "evolution", "and", "performance", "of", "the", "GRANT", "system", "'", ",", "IEEE", "Expert", "pp.", "73", "79", ".", "Levenshtein", ",", "V.", "I.", "-LRB-", "1966", "-RRB-", ",", "`", "Binary", "codes", "capable", "of", "correcting", "deletions", ",", "insertions", "and", "reversals", "'", ",", "Soviet", "Physics", "Doklady", "10", "-LRB-", "8", "-RRB-", ",", "707", "710", ".", "Philips", ",", "L.", "-LRB-", "1990", "-RRB-", ",", "`", "Hanging", "on", "the", "metaphone", "'", ",", "Computer", "Language", "Magazine", "7", "-LRB-", "12", "-RRB-", ".", "Quillian", ",", "M.", "R.", "-LRB-", "1968", "-RRB-", ",", "Semantic", "memory", ",", "in", "M.", "Min-sky", ",", "ed.", ",", "`", "Semantic", "Information", "Processing", "'", ",", "MIT", "Press", ",", "pp.", "227", "270", ".", "Salton", ",", "G.", "-LRB-", "1989", "-RRB-", ",", "Automatic", "Text", "Processing", ":", "The", "Transformation", ",", "Analysis", ",", "and", "Retrieval", "of", "Information", "by", "Computer", ",", "Addison-Wesley", ",", "Reading", ",", "MA", ".", "Salton", ",", "G.", "&", "McGill", ",", "M.", "J.", "-LRB-", "1983", "-RRB-", ",", "Introduction", "to", "Modern", "Information", "Retrieval", ",", "McGraw-Hill", ",", "New", "York", ".", "Van", "Rijsbergen", ",", "C.", "J.", "-LRB-", "1979", "-RRB-", ",", "Information", "Retrieval", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Glasgow", ".", "Xu", ",", "F.", ",", "Netter", ",", "K.", "&", "Stenzhorn", ",", "H.", "-LRB-", "2000", "-RRB-", ",", "Mietta", "a", "framework", "for", "uniform", "and", "multilingual", "access", "to", "structured", "database", "and", "web", "information", ",", "in", "`", "Proceedings", "of", "the", "5th", "International", "Workshop", "on", "Information", "Retrieval", "with", "Asian", "languages", "'", ".", "36"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["associative networks", "natural language query", "knowledge representation model", "query expansion", "natural language information retrieval", "multilingual information retrieval system", "knowledge representation", "constrained spreading activation", "spreading activation"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "27", "document": ["Agent", "Technology", "for", "Personalized", "Information", "Filtering", ":", "The", "PIA-System", "As", "today", "the", "amount", "of", "accessible", "information", "is", "overwhelming", ",", "the", "intelligent", "and", "personalized", "filtering", "of", "available", "information", "is", "a", "main", "challenge", ".", "Additionally", ",", "there", "is", "a", "growing", "need", "for", "the", "seamless", "mobile", "and", "multi-modal", "system", "usage", "throughout", "the", "whole", "day", "to", "meet", "the", "requirements", "of", "the", "modern", "society", "-LRB-", "``", "anytime", ",", "anywhere", ",", "anyhow", "''", "-RRB-", ".", "A", "personal", "information", "agent", "that", "is", "delivering", "the", "right", "information", "at", "the", "right", "time", "by", "accessing", ",", "filtering", "and", "presenting", "information", "in", "a", "situation-aware", "matter", "is", "needed", ".", "Applying", "Agent-technology", "is", "promising", ",", "because", "the", "inherent", "capabilities", "of", "agents", "like", "autonomy", ",", "pro-", "and", "reactiveness", "offer", "an", "adequate", "approach", ".", "We", "developed", "an", "agent-based", "personal", "information", "system", "called", "PIA", "for", "collecting", ",", "filtering", ",", "and", "integrating", "information", "at", "a", "common", "point", ",", "offering", "access", "to", "the", "information", "by", "WWW", ",", "e-mail", ",", "SMS", ",", "MMS", ",", "and", "J2ME", "clients", ".", "Push", "and", "pull", "techniques", "are", "combined", "allowing", "the", "user", "to", "search", "explicitly", "for", "specific", "information", "on", "the", "one", "hand", "and", "to", "be", "informed", "automatically", "about", "relevant", "information", "divided", "in", "pre", "-", ",", "work", "and", "recreation", "slots", "on", "the", "other", "hand", ".", "In", "the", "core", "of", "the", "PIA", "system", "advanced", "filtering", "techniques", "are", "deployed", "through", "multiple", "filtering", "agent", "communities", "for", "content-based", "and", "collaborative", "filtering", ".", "Information-extracting", "agents", "are", "constantly", "gathering", "new", "relevant", "information", "from", "a", "variety", "of", "selected", "sources", "-LRB-", "internet", ",", "files", ",", "databases", ",", "web-services", "etc.", "-RRB-", ".", "A", "personal", "agent", "for", "each", "user", "is", "managing", "the", "individual", "information", "provisioning", ",", "tailored", "to", "the", "needs", "of", "this", "specific", "user", ",", "knowing", "the", "profile", ",", "the", "current", "situation", "and", "learning", "from", "feedback", ".", "-LSB-", "Information", "Systems", "-RSB-", ":", "Information", "Systems", "Applications", "general", ",", "Communications", "Applications", ".", "Algorithms", ",", "Management", "Nowadays", ",", "desired", "information", "often", "remains", "unfound", ",", "because", "it", "is", "hidden", "in", "a", "huge", "amount", "of", "unnecessary", "and", "irrelevant", "data", ".", "On", "the", "Internet", "there", "are", "well", "maintained", "search", "engines", "that", "are", "highly", "useful", "if", "you", "want", "to", "do", "full-text", "keyword-search", "-LSB-", "1", "-RSB-", ",", "but", "they", "are", "not", "able", "to", "support", "you", "in", "a", "personalized", "way", "and", "typically", "do", "not", "offer", "any", "``", "push-services", "''", "or", "in", "other", "words", "no", "information", "will", "be", "sent", "to", "you", "when", "you", "are", "not", "active", ".", "Also", ",", "as", "they", "normally", "do", "not", "adapt", "themselves", "to", "mobile", "devices", ",", "they", "can", "not", "be", "used", "throughout", "a", "whole", "day", "because", "you", "are", "not", "sitting", "in", "front", "of", "a", "standard", "browser", "all", "the", "time", "and", "when", "you", "return", ",", "these", "systems", "will", "treat", "you", "in", "the", "very", "same", "way", "as", "if", "you", "have", "never", "been", "there", "before", "-LRB-", "no", "personalization", ",", "no", "learning", "-RRB-", ".", "Users", "who", "are", "not", "familiar", "with", "domain-specific", "keywords", "wo", "n't", "be", "able", "to", "do", "successful", "research", ",", "because", "no", "support", "is", "offered", ".", "Predefined", "or", "auto-generated", "keywords", "for", "the", "search-domains", "are", "needed", "to", "fill", "that", "gap", ".", "As", "information", "demands", "are", "continuously", "increasing", "today", "and", "the", "gathering", "of", "information", "is", "time-consuming", ",", "there", "is", "a", "growing", "need", "for", "a", "personalized", "support", ".", "Labor-saving", "information", "is", "needed", "to", "increase", "productivity", "at", "work", "and", "also", "there", "is", "an", "increasing", "aspiration", "for", "a", "personalized", "offer", "of", "general", "information", ",", "specific", "domain", "knowledge", ",", "entertainment", ",", "shopping", ",", "fitness", ",", "lifestyle", "and", "health", "information", ".", "Existing", "commercial", "``", "personalized", "''", "systems", "are", "far", "away", "from", "that", "functionality", ",", "as", "they", "usually", "do", "not", "offer", "much", "more", "than", "allowing", "to", "choose", "the", "kind", "of", "the", "layout", "or", "collecting", "some", "of", "the", "offered", "information", "channels", "-LRB-", "and", "the", "information", "within", "is", "not", "personalized", "-RRB-", ".", "To", "overcome", "that", "situation", "you", "need", "a", "personal", "information", "agent", "-LRB-", "PIA", "-RRB-", "who", "``", "knows", "''", "the", "way", "of", "your", "thinking", ".", "and", "can", "really", "support", "you", "throughout", "the", "whole", "day", "by", "accessing", ",", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SAC", "'", "05", ",", "March", "13-17", ",", "2005", ",", "Santa", "Fe", ",", "New", "Mexico", ",", "USA", ".", "Copyright", "2005", "ACM", "1-58113-964-0", "/", "05/0003", "...", "$", "5.00", ".", "54", "2005", "ACM", "Symposium", "on", "Applied", "Computing", "filtering", "and", "presenting", "information", "to", "you", "in", "a", "situation-aware", "matter", "-LRB-", "figure", "1", "-RRB-", ".", "Some", "systems", "exist", "-LRB-", "FAB", "-LSB-", "2", "-RSB-", ",", "Amalthaea", "-LSB-", "3", "-RSB-", ",", "WAIR", "-LSB-", "4", "-RSB-", ",", "P-Tango", "-LSB-", "5", "-RSB-", ",", "TripMatcher", "-LSB-", "6", "-RSB-", ",", "PIAgent", "-LSB-", "7", "-RSB-", ",", "Letizia", "-LSB-", "8", "-RSB-", ",", "Let", "'s", "Browse", "-LSB-", "9", "-RSB-", ",", "Newt", "-LSB-", "10", "-RSB-", ",", "WebWatcher", "-LSB-", "11", "-RSB-", ",", "PEA", "-LSB-", "12", "-RSB-", ",", "BAZAR", "-LSB-", "13", "-RSB-", "-RRB-", "that", "implement", "advanced", "algorithmic", "technology", ",", "but", "did", "not", "become", "widely", "accepted", ",", "maybe", "because", "of", "real", "world", "requirements", "like", "availability", ",", "scalability", "and", "adaptation", "to", "current", "and", "future", "standards", "and", "mobile", "devices", ".", "In", "this", "paper", "we", "present", "an", "agent-based", "approach", "for", "the", "efficient", ",", "seamless", "and", "tailored", "provisioning", "of", "relevant", "information", "on", "the", "basis", "of", "end-users", "'", "daily", "routine", ".", "As", "we", "assume", "the", "reader", "will", "be", "familiar", "with", "agent-technology", "-LRB-", "see", "-LSB-", "14", "-RSB-", ",", "-LSB-", "15", "-RSB-", "for", "a", "good", "introduction", "-RRB-", ",", "we", "will", "concentrate", "on", "the", "practical", "usage", "and", "the", "real-world", "advantages", "of", "agent-technology", ".", "We", "describe", "the", "design", "and", "architecture", "in", "the", "following", "section", "and", "afterwards", "depict", "the", "system", "in", "section", "three", ".", "To", "meet", "the", "discussed", "requirements", "and", "to", "support", "the", "user", "in", "that", "matter", ",", "we", "designed", "a", "multi-agent", "system", "composed", "of", "four", "classes", "of", "agents", ":", "many", "information", "extracting", "agents", ",", "agents", "that", "implement", "different", "filtering", "strategies", ",", "agents", "for", "providing", "different", "kinds", "of", "presentation", "and", "one", "personal", "agent", "for", "each", "user", ".", "Logically", ",", "all", "this", "can", "be", "seen", "as", "a", "classical", "three", "tier", "application", "-LRB-", "figure", "2", "-RRB-", ".", "Concerning", "the", "information", "extraction", ",", "general", "search", "engines", "on", "the", "one", "hand", "but", "also", "domain-specific", "portals", "on", "the", "other", "hand", "have", "to", "be", "integrated", ".", "Additional", "information", "sources", "-LRB-", "Databases", ",", "Files", ",", "Mailinglists", "etc.", "-RRB-", "should", "also", "be", "integrated", "easily", "at", "run-time", ".", "Several", "agents", "realize", "different", "filtering", "strategies", "-LRB-", "content-based", "and", "collaborative", "filtering", "-LSB-", "16", "-RSB-", ",", "-LSB-", "5", "-RSB-", "-RRB-", "that", "have", "to", "be", "combined", "in", "an", "intelligent", "matter", ".", "Also", "agents", "for", "providing", "information", "actively", "via", "SMS", ",", "MMS", ",", "Fax", ",", "e-mail", "-LRB-", "push-services", "-RRB-", "are", "needed", ".", "A", "Multi-access", "service", "platform", "has", "to", "manage", "the", "presentation", "of", "the", "results", "tailored", "to", "the", "used", "device", "and", "the", "current", "situation", ".", "The", "personal", "agent", "should", "constantly", "improve", "the", "knowledge", "about", "``", "his", "''", "user", "by", "learning", "from", "the", "given", "feedback", ",", "which", "is", "also", "taken", "for", "collaborative", "filtering", ",", "as", "information", "that", "has", "been", "rated", "as", "highly", "interesting", "might", "be", "useful", "for", "a", "user", "with", "a", "similar", "profile", "as", "well", ".", "As", "users", "usually", "are", "not", "very", "keen", "on", "giving", "explicit", "feedback", "-LRB-", "ratings", "-RRB-", ",", "implicit", "feedback", "like", "the", "fact", "that", "the", "user", "stored", "an", "article", "can", "also", "be", "taken", "into", "account", "-LSB-", "18", "-RSB-", ".", "A", "``", "keywordassistant", "''", "should", "support", "the", "user", "to", "be", "able", "to", "define", "queries", "even", "if", "he", "is", "not", "familiar", "with", "a", "certain", "domain", ".", "Keywords", "predefined", "by", "experts", "should", "be", "offered", "and", "also", "the", "possibility", "to", "point", "to", "a", "``", "basis-paper", "''", "serving", "as", "an", "example", ".", "The", "keywordassistant", "will", "extract", "automatically", "the", "most", "important", "keywords", "of", "that", "paper", "and", "will", "provide", "them", "for", "searching", ".", "The", "whole", "system", "is", "designed", "to", "be", "highly", "scalable", ",", "easy", "to", "modify", ",", "to", "adapt", "and", "to", "improve", "and", "therefore", "an", "agent-based", "approach", "that", "allows", "to", "integrate", "or", "to", "remove", "agents", "even", "at", "run-time", "is", "a", "smart", "choice", ".", "The", "different", "filtering", "techniques", "are", "needed", "to", "provide", "accurate", "results", ",", "because", "the", "weakness", "of", "individual", "techniques", "should", "be", "compensated", "by", "the", "strengths", "of", "others", ".", "Documents", "should", "be", "logically", "clustered", "by", "their", "domains", "to", "allow", "fast", "access", ",", "and", "for", "each", "document", "several", "``", "models", "''", "-LSB-", "19", "-RSB-", "will", "be", "built", ",", "all", "including", "stemming", "and", "stop-word", "elimination", ",", "but", "some", "tailored", "for", "very", "efficient", "retrieval", "at", "run-time", "and", "others", "to", "support", "advanced", "filtering", "algorithms", "for", "a", "high", "accuracy", ".", "PIA", "Demand", "for", "information", "is", "increasing", "continuously", "Information", "gathering", "is", "time", "consuming", "Users", "have", "different", "devices", "Facts", "Portals", "Databases", "General", "Information", "News", "Weather", "Information", "to", "increase", "productivity", "/", "Labor-saving", "information", "Domain", "knowledge", "Recreation", "Entertainment", "Shopping", "Health", "/", "Fitness", "/", "Lifestyle", "Technologies", "End", "Devices", "Software", "Networks", "www", "/", "Internet", "Not", "structured", "content", "Structured", "Dedicated", "content", "Structured", "content", "Profile", "Demand", "for", "information", "Figure", "1", ":", "Demand", "for", "a", "personal", "information", "agent", "55", "Figure", "2", ":", "The", "PIA", "System", "seen", "as", "a", "three", "tier", "application", "If", "the", "system", "notices", "that", "the", "content-based", "filtering", "is", "not", "able", "to", "offer", "sufficient", "results", ",", "additional", "information", "should", "be", "offered", "by", "collaborative", "filtering", ",", "i.e.", "information", "that", "was", "rated", "as", "interesting", "by", "a", "user", "with", "a", "similar", "profile", "will", "be", "presented", ".", "With", "the", "``", "push-services", "''", ",", "the", "user", "can", "decide", "to", "get", "new", "integrated", "relevant", "information", "immediately", "and", "on", "a", "mobile", "device", ",", "but", "for", "users", "who", "do", "not", "want", "to", "get", "new", "information", "immediately", ",", "a", "personalized", "newsletter", "also", "has", "to", "be", "offered", ".", "This", "newsletter", "is", "collecting", "new", "relevant", "information", "to", "be", "conveniently", "delivered", "by", "e-mails", ",", "allowing", "users", "to", "stay", "informed", "even", "if", "they", "are", "not", "actively", "using", "the", "system", "for", "some", "time", ".", "We", "implemented", "the", "system", "using", "Java", "and", "standard", "open", "source", "database", "and", "web-technology", "and", "based", "on", "the", "JIAC", "IV", "1", "agent", "framework", "-LSB-", "20", "-RSB-", ".", "JIAC", "IV", "is", "FIPA", "2000", "compliant", "-LSB-", "21", "-RSB-", ",", "that", "is", "it", "is", "conforming", "to", "the", "latest", "standards", ".", "It", "consists", "of", "a", "communication", "infrastructure", "as", "well", "as", "services", "for", "administrating", "and", "organizing", "agents", "-LRB-", "Agent", "Management", "Service", ",", "AMS", "and", "Directory", "Facilitator", ",", "DF", "-RRB-", ".", "The", "JIAC", "IV", "framework", "provides", "a", "variety", "of", "management", "and", "security", "functions", ",", "management", "services", "including", "configuration", ",", "fault", "management", "and", "event", "logging", ",", "security", "aspects", "including", "authorization", ",", "authentication", "and", "mechanisms", "for", "measuring", "and", "ensuring", "trust", "and", "therefore", "has", "been", "a", "good", "choice", "to", "be", "used", "from", "the", "outset", "to", "the", "development", "of", "a", "real", "world", "application", ".", "Within", "JIAC", "IV", ",", "agents", "are", "arranged", "on", "platforms", ",", "allowing", "the", "arrangement", "of", "agents", "that", "belong", "together", "with", "the", "control", "of", "at", "least", "one", "``", "manager", "''", ".", "A", "lot", "of", "visual", "tools", "are", "offered", "to", "deal", "with", "administration", "aspects", ".", "Figure", "3", "shows", "a", "platform", ",", "in", "this", "case", "with", "agents", "for", "the", "building", "of", "different", "models", "specialized", "for", "different", "retrieval", "algorithms", ".", "The", "prototypical", "system", "is", "currently", "running", "on", "Sun-Fire-880", ",", "Sun-Fire-480R", "and", "Sun", "Fire", "V65x", ",", "whereas", "the", "main", "filtering", "computation", ",", "database", "-", "and", "web-server", "and", "information-extraction", "is", "placed", "on", "different", "machines", "for", "performance", "reasons", ".", "1", "JIAC", "IV", "is", "funded", "by", "T-Systems", "Nova", "GmbH", "Figure", "3", ":", "Several", "Agents", "are", "building", "different", "models", "specialized", "for", "different", "retrieval", "algorithms", ".", "56", "New", "content", "is", "stored", ",", "validated", "and", "consolidated", "in", "a", "central", "relational", "database", "-LRB-", "update-driven", "-RRB-", ".", "Information", "can", "be", "accessed", "by", "WWW", ",", "e-mail", ",", "SMS", ",", "MMS", ",", "and", "J2ME", "Clients", ",", "where", "the", "system", "adapts", "the", "presentation", "accordingly", ",", "using", "the", "CC/PP", "-LRB-", "Preferences", "Profile", "-RRB-", "with", "a", "tailored", "layout", "for", "a", "mobile", "phone", "and", "a", "PDA", "-LRB-", "see", "section", "3.5", "-RRB-", ".", "The", "personalized", "newsletter", "and", "the", "push-services", "are", "sent", "via", "e-mail", ",", "SMS", "or", "MMS", ".", "The", "user", "can", "use", "self-defined", "keywords", "for", "a", "request", "for", "information", "or", "choose", "a", "category", "and", "therefore", "the", "system", "will", "use", "a", "list", "of", "keywords", "predefined", "by", "experts", "and", "updated", "smoothly", "by", "learning", "from", "collaborative", "filtering", ".", "A", "combination", "of", "both", "is", "also", "possible", ".", "The", "keyword", "assistant", "is", "able", "to", "extract", "the", "most", "import", "keywords", "of", "a", "given", "article", "using", "the", "term", "frequency", "inverse", "document", "frequency", "-LRB-", "TFIDF", "-RRB-", "-", "algorithm", "-LSB-", "22", "-RSB-", ".", "3.2", "Gathering", "new", "Information", "New", "information", "is", "constantly", "inserted", "in", "the", "system", "by", "information", "extraction", "agents", ",", "e.g.", "web-reader", "agents", "or", "agents", "that", "are", "searching", "specified", "databases", "or", "directories", ".", "Additional", "agents", "for", "the", "collection", "of", "new", "content", "can", "easily", "be", "integrated", "even", "at", "runtime", ",", "as", "all", "that", "is", "necessary", "for", "a", "new", "agent", "is", "to", "register", "himself", "at", "the", "system", ",", "store", "the", "extracted", "information", "at", "a", "defined", "database", "table", "and", "inform", "the", "modeling-manager", "agent", "about", "the", "insertion", ".", "As", "a", "file", "reader-agent", "is", "constantly", "observing", "a", "special", "directory", ",", "manual", "insertion", "of", "documents", "can", "be", "done", "simply", "by", "drag-and-drop", "and", "an", "e-mail", "and", "upload-interface", "also", "exists", ".", "Source", "can", "also", "be", "integrated", "by", "Web", "services", ".", "New", "Readers", "can", "be", "created", "using", "a", "easy-to-handle", "tool", "and", "another", "tool", "is", "enabling", "to", "conveniently", "observe", "the", "extraction-agents", ",", "as", "this", "is", "the", "interface", "to", "the", "outside", "that", "might", "become", "critical", "if", "for", "example", "the", "data-format", "of", "a", "source", "is", "changed", ".", "3.3", "Pre", "processing", "for", "efficient", "retrieval", "The", "first", "step", "of", "pre", "processing", "information", "for", "efficient", "retrieval", "is", "the", "use", "of", "distinct", "tables", "in", "the", "global", "database", "for", "different", "domains", "like", "e.g.", "news", ",", "agent-related", "papers", ",", "etc.", ".", "Depending", "on", "the", "filtering", "request", ",", "tables", "with", "no", "chance", "of", "being", "relevant", "can", "therefore", "be", "omitted", ".", "The", "next", "step", "is", "the", "building", "of", "several", "models", "for", "each", "document", ".", "Stemming", "and", "stop-word", "elimination", "is", "implemented", "in", "every", "model", "but", "different", "models", "are", "built", "by", "computing", "a", "term", "importance", "either", "based", "only", "on", "local", "frequencies", ",", "or", "based", "on", "term", "frequency", "inverse", "document", "frequency", "-LRB-", "TFIDF", "-RRB-", "approach", ".", "Furthermore", "number", "of", "words", "that", "should", "be", "included", "in", "models", "is", "different", "which", "makes", "models", "either", "more", "accurate", "or", "more", "efficient", ".", "Created", "models", "are", "indexed", "either", "on", "document", "or", "word", "level", ",", "which", "facilitate", "their", "efficient", "retrieval", ".", "The", "manager", "agent", "is", "assigning", "the", "appropriate", "modeling", "agents", "to", "start", "building", "their", "models", "but", "might", "decide", "-LRB-", "or", "the", "human", "system", "administrator", "can", "tell", "him", "-RRB-", "at", "runtime", "to", "delay", "latest", "time-consuming", "modeling", "activity", "for", "a", "while", "if", "system", "load", "is", "critical", "at", "a", "moment", ".", "This", "feature", "is", "important", "for", "a", "real-world", "application", ",", "as", "overloading", "has", "been", "a", "main", "reason", "for", "the", "unusability", "of", "advanced", "academic", "systems", ".", "3.4", "Filtering", "technology", "As", "the", "quality", "of", "results", "to", "a", "particular", "filtering", "request", "might", "heavily", "depend", "on", "the", "information", "domain", "-LRB-", "news", ",", "scientific", "papers", ",", "conference", "calls", "-RRB-", ",", "different", "filtering", "communities", "are", "implemented", ".", "For", "each", "domain", ",", "there", "is", "at", "least", "one", "community", "which", "contains", "agents", "being", "tailored", "to", "do", "specific", "filtering", "and", "managing", "tasks", "in", "an", "efficient", "way", ".", "Instead", "of", "having", "only", "filtering", "agents", ",", "each", "and", "every", "community", "has", "also", "one", "so", "called", "manager", "agent", "that", "is", "mainly", "responsible", "for", "doing", "coordination", "of", "filtering", "tasks", ".", "The", "coordination", "is", "based", "on", "quality", ",", "CPU", ",", "DB", "and", "memory", "fitness", "values", ",", "which", "are", "the", "measures", "being", "associated", "to", "each", "filtering", "agent", "-LSB-", "23", "-RSB-", ".", "These", "measures", "respectively", "illustrate", "filtering", "agent", "successfulness", "in", "the", "past", ",", "its", "efficiency", "in", "using", "available", "CPU", "and", "DB", "resources", ",", "and", "the", "amount", "of", "memory", "being", "required", "for", "filtering", ".", "A", "higher", "CPU", ",", "DB", "or", "memory", "fitness", "value", "means", "that", "filtering", "agent", "needs", "a", "particular", "resource", "in", "a", "smaller", "extent", "for", "performing", "a", "filtering", "task", ".", "This", "further", "means", "that", "an", "insufficiency", "of", "a", "particular", "resource", "has", "a", "smaller", "influence", "on", "filtering", "agents", "with", "a", "higher", "particular", "fitness", "value", ".", "The", "introduced", "different", "fitness", "values", "together", "with", "the", "knowledge", "about", "the", "current", "system", "runtime", "performance", "can", "make", "coordination", "be", "situation", "aware", "-LRB-", "see", "also", "-LSB-", "23", "-RSB-", "-RRB-", "in", "the", "way", "that", "when", "a", "particular", "resource", "is", "highly", "loaded", "a", "priority", "in", "coordination", "should", "be", "given", "to", "filtering", "agents", "for", "which", "a", "particular", "resource", "has", "a", "minor", "importance", ".", "This", "situation", "aware", "coordination", "provides", "a", "way", "to", "balance", "response", "time", "and", "filtering", "accuracy", ",", "which", "is", "needed", "in", "overcoming", "the", "problem", "of", "finding", "a", "perfect", "filtering", "result", "after", "few", "hours", "or", "even", "few", "days", "of", "an", "expensive", "filtering", ".", "Instead", "of", "assigning", "filtering", "task", "to", "the", "agent", "with", "the", "best", "combination", "of", "fitness", "values", "in", "the", "current", "runtime", "situation", ",", "manager", "is", "going", "to", "employ", "a", "proportional", "selection", "principle", "-LSB-", "24", "-RSB-", "where", "the", "probability", "for", "the", "agent", "to", "be", "chosen", "to", "do", "actual", "filtering", "is", "proportional", "to", "the", "mentioned", "combination", "of", "its", "fitness", "values", ".", "By", "not", "always", "relying", "only", "on", "the", "most", "promising", "agents", ",", "but", "also", "sometimes", "offering", "a", "job", "to", "other", "agents", ",", "manager", "gives", "a", "chance", "to", "each", "and", "every", "agent", "to", "improve", "its", "fitness", "values", ".", "While", "the", "adaptation", "of", "quality", "fitness", "value", "can", "be", "accomplished", "after", "the", "user", "feedback", "became", "available", ",", "the", "other", "fitness", "values", "can", "be", "changed", "immediately", "after", "the", "filtering", "was", "finished", "through", "the", "response", "time", "analyses", ".", "The", "adaptation", "scheme", "has", "a", "decreasing", "learning", "rate", "that", "prevents", "already", "learnt", "fitness", "values", "of", "being", "destroyed", ",", "which", "further", "means", "that", "proven", "agents", "pay", "smaller", "penalties", "for", "bad", "jobs", "than", "the", "novice", "ones", "-LSB-", "17", "-RSB-", ".", "In", "the", "case", "where", "the", "received", "filtering", "task", "can", "not", "be", "successfully", "locally", "accomplished", "usually", "because", "of", "belonging", "to", "unsupported", "information", "domain", ",", "manager", "agent", "has", "to", "cooperate", "with", "other", "communities", ".", "While", "coordination", "takes", "place", "inside", "each", "community", "between", "manager", "and", "filtering", "agents", ",", "cooperation", "occurs", "between", "communities", "among", "manager", "agents", ".", "Cooperation", "is", "based", "on", "either", "finding", "a", "community", "which", "supports", "given", "domain", "or", "in", "splitting", "received", "task", "on", "sub-tasks", "where", "for", "each", "sub-task", "a", "community", "with", "good", "support", "exists", ".", "Figure", "4", "presents", "a", "high", "level", "overview", "of", "the", "filtering", "framework", "being", "composed", "of", "three", "different", "filtering", "communities", "-LRB-", "FC", "-RRB-", ",", "where", "each", "community", "has", "one", "filter", "manager", "agent", "-LRB-", "M", "-RRB-", "and", "different", "number", "of", "specialized", "filtering", "agents", "-LRB-", "F", "-RRB-", ".", "There", "are", "two", "different", "databases", "-LRB-", "DB", "-RRB-", "with", "information", "from", "different", "domains", ",", "and", "they", "are", "accessed", "at", "least", "by", "one", "community", ".", "On", "the", "figure", "cooperation", "is", "illustrated", "as", "a", "circle", "with", "arrows", "which", "connect", "manager", "agents", ".", "57", "Figure", "4", ":", "Filtering", "framework", "with", "three", "different", "communities", "3.5", "Presentation", "As", "one", "of", "the", "main", "design", "principles", "has", "been", "to", "support", "the", "user", "throughout", "the", "whole", "day", ",", "the", "PIA", "system", "provides", "several", "different", "access", "methods", "and", "adapts", "its", "interfaces", "to", "the", "used", "device", "-LRB-", "Figure", "5", "-RRB-", ".", "To", "fulfill", "these", "requirements", "an", "agent", "platform", "-LRB-", "``", "Multi", "Access", "Service", "Platform", "''", "-RRB-", "was", "developed", "that", "optimizes", "the", "graphical", "user", "interface", "for", "the", "access", "by", "Desktop", "PCs", ",", "PDAs", "and", "smart", "phones", ".", "If", "the", "user", "wants", "to", "use", "the", "PIA", "system", ",", "the", "request", "is", "received", "by", "the", "Multi", "Access", "Service", "Platform", "-LRB-", "MAP", "-RRB-", ".", "The", "MAP", "delegates", "the", "request", "to", "an", "agent", ",", "providing", "the", "logic", "for", "this", "service", ".", "In", "the", "PIA", "system", "the", "requests", "are", "forwarded", "either", "to", "login", "agent", "or", "the", "personal", "agent", ".", "The", "chosen", "agent", "performs", "the", "service", "specific", "actions", "and", "sends", "the", "MAP", "an", "abstract", "description", "of", "the", "formular", "that", "should", "be", "presented", "to", "the", "user", ".", "For", "this", "purpose", "the", "XML", "based", "Abstract", "Interaction", "Description", "Language", "-LRB-", "AIDL", "-RRB-", "has", "been", "defined", ".", "Based", "on", "the", "abstract", "description", "and", "the", "features", "of", "the", "used", "device", "the", "MAP", "generates", "an", "optimized", "interface", "presented", "to", "the", "user", ".", "The", "conversion", "is", "implemented", "as", "a", "XSLT", "transformation", "in", "which", "the", "optimal", "XSLT", "style", "sheet", "is", "selected", "based", "on", "the", "CC/PP", "information", "about", "the", "user", "'s", "device", ".", "This", "approach", "simplifies", "the", "creation", "of", "optimized", "user", "interfaces", "for", "different", "devices", ".", "The", "abstract", "interface", "description", "can", "be", "easily", "transformed", "into", "HTML", ",", "PDA", "optimized", "HTML", "or", "WML", ".", "If", "the", "user", "wants", "to", "have", "a", "voice", "interface", ",", "a", "style", "sheet", "for", "converting", "the", "abstract", "user", "interface", "description", "into", "VoiceXML", "has", "to", "be", "added", "to", "the", "MAP", ".", "Additional", "changes", "at", "the", "PIA", "system", "are", "not", "needed", ".", "Beside", "of", "the", "features", "provided", "by", "MAP", "the", "design", "of", "the", "user", "interface", "must", "create", "an", "easy", "to", "use", "system", "even", "on", "devices", "with", "a", "tiny", "screen", "and", "without", "a", "keyboard", ".", "That", "is", "why", "the", "PIA", "interface", "provides", "additional", "navigation", "elements", "on", "complex", "forms", "and", "minimizes", "the", "use", "of", "text", "input", "fields", ".", "New", "results", "matching", "a", "defined", "request", "are", "presented", "first", "as", "a", "list", "of", "short", "blocks", "containing", "only", "title", ",", "abstract", "and", "some", "meta-information", "-LRB-", "as", "this", "is", "familiar", "to", "every", "user", "from", "well-known", "search-engines", "-RRB-", ".", "This", "information", "is", "also", "well", "readable", "on", "PDAs", "or", "even", "mobile", "phones", ".", "Important", "articles", "can", "be", "stored", "in", "a", "repository", ".", "This", "allows", "the", "user", "to", "choose", "the", "articles", "on", "his", "PDA", "he", "wants", "to", "read", "later", "at", "his", "desktop", "PC", ".", "Depending", "on", "the", "personal", "options", "specified", "by", "the", "user", ",", "old", "information", "found", "for", "a", "specific", "query", "may", "be", "deleted", "automatically", "step", "by", "step", "after", "a", "given", "time", ",", "that", "is", ",", "there", "is", "always", "up", "to", "date", "information", "that", "is", "presented", "to", "the", "user", "-LRB-", "we", "call", "this", "``", "smart", "mode", "''", "-RRB-", ".", "This", "is", "for", "example", "convenient", "for", "getting", "personalized", "filtering", "news", ".", "The", "other", "option", "is", "to", "keep", "that", "information", "unlimited", "-LRB-", "``", "global", "mode", "''", "-RRB-", "for", "a", "query", "for", "e.g.", "basic", "scientific", "papers", ".", "For", "the", "``", "push-services", "''", "-LRB-", "that", "is", ",", "the", "system", "is", "becoming", "active", "and", "sending", "the", "user", "information", "without", "an", "explicit", "request", "-RRB-", ",", "the", "user", "specifies", "his", "working", "time", "-LRB-", "e.g.", "9", "am", "to", "5", "pm", "-RRB-", ".", "This", "divides", "the", "day", "in", "a", "pre", "-", ",", "work", ",", "and", "a", "recreation", "slot", ",", "where", "the", "PIA", "system", "assumes", "different", "demands", "of", "information", ".", "For", "each", "slot", "an", "adequate", "delivering", "technology", "can", "be", "chosen", "-LRB-", "e-mail", ",", "sms", ",", "mms", ",", "fax", "or", "Voice", "-RRB-", ".", "If", "you", "decide", "to", "subscribe", "to", "the", "personalized", "newsletter", ",", "new", "relevant", "information", "for", "you", "will", "be", "collected", "and", "sent", "by", "e-mail", "or", "fax", "once", "a", "day", "with", "a", "similar", "layout", "and", "structure", "for", "convenient", "reading", "if", "you", "have", "not", "seen", "it", "already", "by", "other", "pull", "-", "or", "push", "services", ".", "Therefore", "you", "can", "also", "stay", "informed", "without", "having", "to", "log", "into", "the", "system", "and", "if", "you", "do", "not", "want", "to", "get", "all", "new", "information", "immediately", ".", "Figure", "5", ":", "Information", "accessed", "by", "browser", "or", "tailored", "for", "presentation", "on", "a", "PDA", "or", "a", "mobile", "phone", "58", "The", "implemented", "system", "has", "an", "acceptable", "runtime", "performance", "and", "shows", "that", "it", "is", "a", "good", "choice", "to", "develop", "a", "personal", "information", "system", "using", "agent-technology", "based", "on", "a", "solid", "agent-framework", "like", "JIAC", "IV", ".", "Currently", ",", "PIA", "system", "supports", "more", "than", "120", "different", "web", "sources", ",", "grabs", "daily", "around", "3.000", "new", "semi-structured", "and", "unstructured", "documents", ",", "has", "almost", "500.000", "already", "pre-processed", "articles", ",", "and", "actively", "helps", "about", "fifty", "scientists", "related", "to", "our", "laboratory", "in", "their", "information", "retrieval", "activities", ".", "Their", "feedback", "and", "evaluation", "is", "a", "valuable", "input", "for", "the", "further", "improvement", "of", "PIA", ".", "In", "the", "near", "future", "we", "plan", "to", "increase", "the", "number", "of", "users", "to", "thousands", ",", "and", "therefore", "we", "plan", "to", "work", "on", "the", "further", "optimization", "of", "the", "filtering", "algorithms", "to", "be", "able", "to", "simultaneously", "respond", "to", "multiple", "filtering", "requests", ".", "Also", ",", "we", "think", "about", "integrating", "additional", "services", "for", "the", "user", "that", "provide", "information", "tailored", "to", "his", "geographical", "position", "-LRB-", "GPS", "-RRB-", ",", "a", "natural", "speech", "interface", "and", "innovative", "ways", "to", "motivate", "the", "user", "to", "give", "precise", "explicit", "feedback", ",", "as", "the", "learning", "ability", "of", "the", "system", "is", "depending", "on", "that", "information", ".", "-LSB-", "1", "-RSB-", "Brin", ",", "S.", ";", "Page", ",", "L.", ":", "The", "anatomy", "of", "a", "large-scale", "hyper", "textual", "-LRB-", "Web", "-RRB-", "search", "engine", ",", "Proc", ".", "7th", "International", "World", "Wide", "Web", "Conference", "on", "Computer", "Networks", ",", "30", "-LRB-", "1-7", "-RRB-", ",", "pp", ".", "107-117", ",", "1998", ".", "-LSB-", "2", "-RSB-", "Balabanovic", ",", "M.", ";", "Yoav", ",", "S.", ":", "FAB", ":", "Content-Based", "Collaborative", "Recommendation", ",", "Communication", "of", "the", "ACM", ",", "Volume", "40", ",", "Number", "3", ",", "pp.", "66-72", ",", "1997", ".", "-LSB-", "3", "-RSB-", "Moukas", ",", "A.", ":", "Amalthaea", ":", "Information", "Discovery", "and", "Filtering", "using", "a", "Multi", "agent", "Evolving", "Ecosystem", ",", "Practical", "Application", "of", "Intelligent", "Agents", "&", "Multi-Agent", "Technology", ",", "London", "1998", ".", "-LSB-", "4", "-RSB-", "Zhang", ",", "B.", ";", "Seo", ",", "Y.", ":", "Personalized", "Web-Document", "Filtering", "Using", "Reinforcement", "Learning", ",", "Applied", "Artificial", "Intelligence", ",", "Volume", "15", "Number", "7", ",", "pp.", "665-685", ",", "2001", ".", "-LSB-", "5", "-RSB-", "Claypool", ",", "M.", ";", "Gokhale", ",", "A.", ";", "Miranda", ",", "T.", ";", "Murnikov", ",", "P.", ";", "Netes", ",", "D.", ";", "Sartin", ",", "N.", ":", "Combining", "Content-Based", "and", "Collaborative", "Filters", "in", "an", "Online", "Newspaper", ",", "ACM", "SIGIR", "Workshop", "on", "Recommender", "Systems", ",", "Berkeley", ",", "CA", ",", "August", "19", ",", "1999", ".", "-LSB-", "6", "-RSB-", "Delgado", ",", "J.", ";", "Davidson", ",", "R.", ":", "Knowledge", "bases", "and", "user", "profiling", "in", "travel", "and", "hospitality", "recommender", "systems", ",", "In", "Proceedings", "of", "the", "ENTER", "2002", "Conference", ",", "Innsbruck", ",", "Austria", ",", "January", "22-25", "2002", ",", "Springer", "Verlag", ",", "pp.", "1-16", ".", "-LSB-", "7", "-RSB-", "Kuropka", ",", "D.", ";", "Serries", ",", "T.", ":", "Personal", "Information", "Agent", ",", "Informatik", "Jahrestagung", "2001", ",", "pp.", "940-946", ".", "-LSB-", "8", "-RSB-", "Lieberman", ",", "H.", ":", "Letizia", ":", "An", "Agent", "That", "Assists", "Web", "Browsing", ",", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", ",", "Montreal", ",", "August", "1995", ".", "-LSB-", "9", "-RSB-", "Lieberman", ",", "H.", ";", "Van", "Dyke", ",", "N", ",", ";", "Vivacqua", ",", "A.", ":", "Let", "'s", "Browse", ":", "A", "Collaborative", "Browsing", "Agent", ",", "Knowledge-Based", "Systems", ",", "12", "-LRB-", "8", "-RRB-", ",", "1999", ",", "pp.", "427", "431", ".", "-LSB-", "10", "-RSB-", "Sheth", ",", "B.", ":", "A", "Learning", "Approach", "to", "Personalized", "Information", "Filtering", ",", "M.S.", "Thesis", ",", "MIT", "-", "EECS", "dept", ",", "USA", ",", "1994", ".", "-LSB-", "11", "-RSB-", "Joachims", ",", "T.", ";", "Freitag", ",", "D.", ";", "Mitchell", ",", "T.", ":", "WebWatcher", ":", "A", "Tour", "Guide", "for", "the", "World", "Wide", "Web", ",", "In", "IJCAI", "-LRB-", "1", "-RRB-", ",", "1997", ",", "pp.", "770-777", ".", "-LSB-", "12", "-RSB-", "Winiwarter", ",", "W.", ":", "PEA", "-", "A", "Personal", "Email", "Assistant", "with", "Evolutionary", "Adaptation", ",", "International", "Journal", "of", "Information", "Technology", ",", "Vol", ".", "5", ",", "No.", "1", ",", "1999", ".", "-LSB-", "13", "-RSB-", "Thomas", ",", "C.", ";", "Fischer", ",", "G.", ":", "Using", "agents", "to", "improve", "the", "usability", "and", "usefulness", "of", "the", "world", "wide", "web", ".", "In", "Proceedings", "of", "the", "Fifth", "International", "Conference", "on", "User", "Modelling", ",", "pages", "5", "--", "12", ",", "1996", ".", "-LSB-", "14", "-RSB-", "Jennings", ",", "N", ";", "Wooldridge", ",", "M", ":", "Agent-oriented", "software", "engineering", ",", "Handbook", "of", "Agent", "Technology", "-LRB-", "ed", ".", "J.", "Bradshaw", "-RRB-", ".", "AAAI/MIT", "Press", ",", "2000", ".", "-LSB-", "15", "-RSB-", "Sesseler", ",", "R.", ";", "Albayrak", ",", "S.", ":", "Agent-based", "Marketplaces", "for", "Electronic", "Commerce", ",", "International", "Conference", "on", "Artificial", "Intelligence", ",", "IC-AI", "2001", ".", "-LSB-", "16", "-RSB-", "Resnick", ",", "P.", ";", "Neophytos", ",", "J.", ";", "Suchak", ",", "M.", ";", "Bergstrom", ",", "P.", ";", "Riedl", ",", "J.", ":", "GroupLens", ":", "An", "open", "architecture", "for", "collaborative", "filtering", "of", "net", "news", ",", "Proceedings", "ACM", "Conference", "on", "Computer-Supported", "Cooperative", "Work", ",", "pp.", "175-186", ",", "1994", ".", "-LSB-", "17", "-RSB-", "Albayrak", ",", "S.", ";", "Milosevic", ",", "D.", ":", "Self", "Improving", "Coordination", "in", "Multi", "Agent", "Filtering", "Framework", ",", "IEEE/WIC/ACM", "International", "Joint", "Conference", "on", "Intelligent", "Agent", "technology", "-LRB-", "IAT", "04", "-RRB-", "and", "Web", "Intelligence", "-LRB-", "WI", "04", "-RRB-", ",", "Beijing", ",", "China", ",", "September", "2004", ".", ",", "-LRB-", "to", "appear", "-RRB-", ".", "-LSB-", "18", "-RSB-", "Nichols", ",", "D.", ":", "Implicit", "Rating", "and", "Filtering", ",", "Proc", ".", "Fifth", "DELOS", "Workshop", "on", "Filtering", "and", "Collaborative", "Filtering", ",", "Budapest", ",", "Hungary", ",", "10-12", "November", ",", "ERCIM", ",", "pp.", "31-36", ",", "1997", ".", "-LSB-", "19", "-RSB-", "Tauritz", ",", "D.", ":", "Adaptive", "Information", "Filtering", ":", "concepts", "and", "algorithms", ",", "Ph.D.", "dissertation", ",", "Leiden", "University", ",", "2002", ".", "-LSB-", "20", "-RSB-", "Fricke", ",", "S.", ";", "Bsufka", ",", "K.", ";", "Keiser", ",", "J.", ";", "Schmidt", ",", "T.", ";", "Sesseler", ",", "R.", ";", "Albayrak", ",", "S.", ":", "Agent-based", "Telematic", "Services", "and", "Telecom", "Applications", ",", "Communications", "of", "the", "ACM", ",", "April", ".", "2001", ".", "-LSB-", "21", "-RSB-", "Foundation", "for", "Intelligent", "Physical", "Agents", ",", "www.fipa.org", ",", "2004", ".", "-LSB-", "22", "-RSB-", "Jing", ",", "L.", ";", "Huang", ",", "H.", ";", "Shi", ",", "H.", ":", "Improved", "Feature", "Selection", "Approach", "TFIDF", "in", "Text", "Mining", ",", "Proc", ".", "1", "st", "Internat", ".", "Conference", "on", "Machine", "Learning", "and", "Cybernetics", ",", "Beijing", ",", "2002", ".", "-LSB-", "23", "-RSB-", "Albayrak", ",", "S", ";", "Milosevic", "D.", ":", "Situation-aware", "Coordination", "in", "Multi", "Agent", "Filtering", "Framework", ",", "The", "19th", "International", "Symposium", "on", "Computer", "and", "Information", "Sciences", "-LRB-", "ISCIS", "04", "-RRB-", ",", "Antalya", ",", "Turkey", ",", "October", "2004", ".", ",", "-LRB-", "to", "appear", "-RRB-", ".", "-LSB-", "24", "-RSB-", "Zbigniew", ",", "M.", ";", "Fogel", ",", "D.", ":", "How", "to", "Solve", "It", ":", "Modern", "Heuristics", ",", "Springer-Verlag", "New", "York", ",", "Inc.", ",", "New", "York", ",", "NY", ",", "2000", ".", "59"], "doc_bio_tags": ["B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["filtering", "agent technology", "personal information agent"], "abstractive_keyphrases": ["recommendation systems", "agent-based deployed applications", "ubiquitous access", "evolution", "adaptation and learning", "agents and complex systems", "intelligent and personalized filtering"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "40", "document": ["Automatic", "Extraction", "of", "Titles", "from", "General", "Documents", "using", "Machine", "Learning", "In", "this", "paper", ",", "we", "propose", "a", "machine", "learning", "approach", "to", "title", "extraction", "from", "general", "documents", ".", "By", "general", "documents", ",", "we", "mean", "documents", "that", "can", "belong", "to", "any", "one", "of", "a", "number", "of", "specific", "genres", ",", "including", "presentations", ",", "book", "chapters", ",", "technical", "papers", ",", "brochures", ",", "reports", ",", "and", "letters", ".", "Previously", ",", "methods", "have", "been", "proposed", "mainly", "for", "title", "extraction", "from", "research", "papers", ".", "It", "has", "not", "been", "clear", "whether", "it", "could", "be", "possible", "to", "conduct", "automatic", "title", "extraction", "from", "general", "documents", ".", "As", "a", "case", "study", ",", "we", "consider", "extraction", "from", "Office", "including", "Word", "and", "PowerPoint", ".", "In", "our", "approach", ",", "we", "annotate", "titles", "in", "sample", "documents", "-LRB-", "for", "Word", "and", "PowerPoint", "respectively", "-RRB-", "and", "take", "them", "as", "training", "data", ",", "train", "machine", "learning", "models", ",", "and", "perform", "title", "extraction", "using", "the", "trained", "models", ".", "Our", "method", "is", "unique", "in", "that", "we", "mainly", "utilize", "formatting", "information", "such", "as", "font", "size", "as", "features", "in", "the", "models", ".", "It", "turns", "out", "that", "the", "use", "of", "formatting", "information", "can", "lead", "to", "quite", "accurate", "extraction", "from", "general", "documents", ".", "Precision", "and", "recall", "for", "title", "extraction", "from", "Word", "is", "0.810", "and", "0.837", "respectively", ",", "and", "precision", "and", "recall", "for", "title", "extraction", "from", "PowerPoint", "is", "0.875", "and", "0.895", "respectively", "in", "an", "experiment", "on", "intranet", "data", ".", "Other", "important", "new", "findings", "in", "this", "work", "include", "that", "we", "can", "train", "models", "in", "one", "domain", "and", "apply", "them", "to", "another", "domain", ",", "and", "more", "surprisingly", "we", "can", "even", "train", "models", "in", "one", "language", "and", "apply", "them", "to", "another", "language", ".", "Moreover", ",", "we", "can", "significantly", "improve", "search", "ranking", "results", "in", "document", "retrieval", "by", "using", "the", "extracted", "titles", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "-", "Search", "Process", ";", "H.", "4.1", "-LSB-", "Information", "Systems", "Applications", "-RSB-", ":", "Office", "Automation", "-", "Word", "processing", ";", "D.", "2.8", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Metrics", "-", "complexity", "measures", ",", "performance", "measures", "Algorithms", ",", "Experimentation", ",", "Performance", ".", "Metadata", "of", "documents", "is", "useful", "for", "many", "kinds", "of", "document", "processing", "such", "as", "search", ",", "browsing", ",", "and", "filtering", ".", "Ideally", ",", "metadata", "is", "defined", "by", "the", "authors", "of", "documents", "and", "is", "then", "used", "by", "various", "systems", ".", "However", ",", "people", "seldom", "define", "document", "metadata", "by", "themselves", ",", "even", "when", "they", "have", "convenient", "metadata", "definition", "tools", "-LSB-", "26", "-RSB-", ".", "Thus", ",", "how", "to", "automatically", "extract", "metadata", "from", "the", "bodies", "of", "documents", "turns", "out", "to", "be", "an", "important", "research", "issue", ".", "Methods", "for", "performing", "the", "task", "have", "been", "proposed", ".", "However", ",", "the", "focus", "was", "mainly", "on", "extraction", "from", "research", "papers", ".", "For", "instance", ",", "Han", "et", "al.", "-LSB-", "10", "-RSB-", "proposed", "a", "machine", "learning", "based", "method", "to", "conduct", "extraction", "from", "research", "papers", ".", "They", "formalized", "the", "problem", "as", "that", "of", "classification", "and", "employed", "Support", "Vector", "Machines", "as", "the", "classifier", ".", "They", "mainly", "used", "linguistic", "features", "in", "the", "model", ".", "1", "In", "this", "paper", ",", "we", "consider", "metadata", "extraction", "from", "general", "documents", ".", "By", "general", "documents", ",", "we", "mean", "documents", "that", "may", "belong", "to", "any", "one", "of", "a", "number", "of", "specific", "genres", ".", "General", "documents", "are", "more", "widely", "available", "in", "digital", "libraries", ",", "intranets", "and", "the", "internet", ",", "and", "thus", "investigation", "on", "extraction", "from", "them", "is", "1", "The", "work", "was", "conducted", "when", "the", "first", "author", "was", "visiting", "Microsoft", "Research", "Asia", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "JCDL", "'", "05", ",", "June", "7", "11", ",", "2005", ",", "Denver", ",", "Colorado", ",", "USA", "Copyright", "2005", "ACM", "1-58113-876-8", "/", "05/0006", "...", "$", "5.00", ".", "145", "sorely", "needed", ".", "Research", "papers", "usually", "have", "well-formed", "styles", "and", "noticeable", "characteristics", ".", "In", "contrast", ",", "the", "styles", "of", "general", "documents", "can", "vary", "greatly", ".", "It", "has", "not", "been", "clarified", "whether", "a", "machine", "learning", "based", "approach", "can", "work", "well", "for", "this", "task", ".", "There", "are", "many", "types", "of", "metadata", ":", "title", ",", "author", ",", "date", "of", "creation", ",", "etc.", ".", "As", "a", "case", "study", ",", "we", "consider", "title", "extraction", "in", "this", "paper", ".", "General", "documents", "can", "be", "in", "many", "different", "file", "formats", ":", "Microsoft", "Office", ",", "PDF", "-LRB-", "PS", "-RRB-", ",", "etc.", ".", "As", "a", "case", "study", ",", "we", "consider", "extraction", "from", "Office", "including", "Word", "and", "PowerPoint", ".", "We", "take", "a", "machine", "learning", "approach", ".", "We", "annotate", "titles", "in", "sample", "documents", "-LRB-", "for", "Word", "and", "PowerPoint", "respectively", "-RRB-", "and", "take", "them", "as", "training", "data", "to", "train", "several", "types", "of", "models", ",", "and", "perform", "title", "extraction", "using", "any", "one", "type", "of", "the", "trained", "models", ".", "In", "the", "models", ",", "we", "mainly", "utilize", "formatting", "information", "such", "as", "font", "size", "as", "features", ".", "We", "employ", "the", "following", "models", ":", "Maximum", "Entropy", "Model", ",", "Perceptron", "with", "Uneven", "Margins", ",", "Maximum", "Entropy", "Markov", "Model", ",", "and", "Voted", "Perceptron", ".", "In", "this", "paper", ",", "we", "also", "investigate", "the", "following", "three", "problems", ",", "which", "did", "not", "seem", "to", "have", "been", "examined", "previously", ".", "-LRB-", "1", "-RRB-", "Comparison", "between", "models", ":", "among", "the", "models", "above", ",", "which", "model", "performs", "best", "for", "title", "extraction", ";", "-LRB-", "2", "-RRB-", "Generality", "of", "model", ":", "whether", "it", "is", "possible", "to", "train", "a", "model", "on", "one", "domain", "and", "apply", "it", "to", "another", "domain", ",", "and", "whether", "it", "is", "possible", "to", "train", "a", "model", "in", "one", "language", "and", "apply", "it", "to", "another", "language", ";", "-LRB-", "3", "-RRB-", "Usefulness", "of", "extracted", "titles", ":", "whether", "extracted", "titles", "can", "improve", "document", "processing", "such", "as", "search", ".", "Experimental", "results", "indicate", "that", "our", "approach", "works", "well", "for", "title", "extraction", "from", "general", "documents", ".", "Our", "method", "can", "significantly", "outperform", "the", "baselines", ":", "one", "that", "always", "uses", "the", "first", "lines", "as", "titles", "and", "the", "other", "that", "always", "uses", "the", "lines", "in", "the", "largest", "font", "sizes", "as", "titles", ".", "Precision", "and", "recall", "for", "title", "extraction", "from", "Word", "are", "0.810", "and", "0.837", "respectively", ",", "and", "precision", "and", "recall", "for", "title", "extraction", "from", "PowerPoint", "are", "0.875", "and", "0.895", "respectively", ".", "It", "turns", "out", "that", "the", "use", "of", "format", "features", "is", "the", "key", "to", "successful", "title", "extraction", ".", "-LRB-", "1", "-RRB-", "We", "have", "observed", "that", "Perceptron", "based", "models", "perform", "better", "in", "terms", "of", "extraction", "accuracies", ".", "-LRB-", "2", "-RRB-", "We", "have", "empirically", "verified", "that", "the", "models", "trained", "with", "our", "approach", "are", "generic", "in", "the", "sense", "that", "they", "can", "be", "trained", "on", "one", "domain", "and", "applied", "to", "another", ",", "and", "they", "can", "be", "trained", "in", "one", "language", "and", "applied", "to", "another", ".", "-LRB-", "3", "-RRB-", "We", "have", "found", "that", "using", "the", "extracted", "titles", "we", "can", "significantly", "improve", "precision", "of", "document", "retrieval", "-LRB-", "by", "10", "%", "-RRB-", ".", "We", "conclude", "that", "we", "can", "indeed", "conduct", "reliable", "title", "extraction", "from", "general", "documents", "and", "use", "the", "extracted", "results", "to", "improve", "real", "applications", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", ",", "we", "introduce", "related", "work", ",", "and", "in", "section", "3", ",", "we", "explain", "the", "motivation", "and", "problem", "setting", "of", "our", "work", ".", "In", "section", "4", ",", "we", "describe", "our", "method", "of", "title", "extraction", ",", "and", "in", "section", "5", ",", "we", "describe", "our", "method", "of", "document", "retrieval", "using", "extracted", "titles", ".", "Section", "6", "gives", "our", "experimental", "results", ".", "We", "make", "concluding", "remarks", "in", "section", "7", ".", "Methods", "have", "been", "proposed", "for", "performing", "automatic", "metadata", "extraction", "from", "documents", ";", "however", ",", "the", "main", "focus", "was", "on", "extraction", "from", "research", "papers", ".", "The", "proposed", "methods", "fall", "into", "two", "categories", ":", "the", "rule", "based", "approach", "and", "the", "machine", "learning", "based", "approach", ".", "Giuffrida", "et", "al.", "-LSB-", "9", "-RSB-", ",", "for", "instance", ",", "developed", "a", "rule-based", "system", "for", "automatically", "extracting", "metadata", "from", "research", "papers", "in", "Postscript", ".", "They", "used", "rules", "like", "``", "titles", "are", "usually", "located", "on", "the", "upper", "portions", "of", "the", "first", "pages", "and", "they", "are", "usually", "in", "the", "largest", "font", "sizes", "''", ".", "Liddy", "et", "al.", "-LSB-", "14", "-RSB-", "and", "Yilmazel", "el", "al.", "-LSB-", "23", "-RSB-", "performed", "metadata", "extraction", "from", "educational", "materials", "using", "rule-based", "natural", "language", "processing", "technologies", ".", "Mao", "et", "al.", "-LSB-", "16", "-RSB-", "also", "conducted", "automatic", "metadata", "extraction", "from", "research", "papers", "using", "rules", "on", "formatting", "information", ".", "The", "rule-based", "approach", "can", "achieve", "high", "performance", ".", "However", ",", "it", "also", "has", "disadvantages", ".", "It", "is", "less", "adaptive", "and", "robust", "when", "compared", "with", "the", "machine", "learning", "approach", ".", "Han", "et", "al.", "-LSB-", "10", "-RSB-", ",", "for", "instance", ",", "conducted", "metadata", "extraction", "with", "the", "machine", "learning", "approach", ".", "They", "viewed", "the", "problem", "as", "that", "of", "classifying", "the", "lines", "in", "a", "document", "into", "the", "categories", "of", "metadata", "and", "proposed", "using", "Support", "Vector", "Machines", "as", "the", "classifier", ".", "They", "mainly", "used", "linguistic", "information", "as", "features", ".", "They", "reported", "high", "extraction", "accuracy", "from", "research", "papers", "in", "terms", "of", "precision", "and", "recall", ".", "2.2", "Information", "Extraction", "Metadata", "extraction", "can", "be", "viewed", "as", "an", "application", "of", "information", "extraction", ",", "in", "which", "given", "a", "sequence", "of", "instances", ",", "we", "identify", "a", "subsequence", "that", "represents", "information", "in", "which", "we", "are", "interested", ".", "Hidden", "Markov", "Model", "-LSB-", "6", "-RSB-", ",", "Maximum", "Entropy", "Model", "-LSB-", "1", ",", "4", "-RSB-", ",", "Maximum", "Entropy", "Markov", "Model", "-LSB-", "17", "-RSB-", ",", "Support", "Vector", "Machines", "-LSB-", "3", "-RSB-", ",", "Conditional", "Random", "Field", "-LSB-", "12", "-RSB-", ",", "and", "Voted", "Perceptron", "-LSB-", "2", "-RSB-", "are", "widely", "used", "information", "extraction", "models", ".", "Information", "extraction", "has", "been", "applied", ",", "for", "instance", ",", "to", "part-of-speech", "tagging", "-LSB-", "20", "-RSB-", ",", "named", "entity", "recognition", "-LSB-", "25", "-RSB-", "and", "table", "extraction", "-LSB-", "19", "-RSB-", ".", "2.3", "Search", "Using", "Title", "Information", "Title", "information", "is", "useful", "for", "document", "retrieval", ".", "In", "the", "system", "Citeseer", ",", "for", "instance", ",", "Giles", "et", "al.", "managed", "to", "extract", "titles", "from", "research", "papers", "and", "make", "use", "of", "the", "extracted", "titles", "in", "metadata", "search", "of", "papers", "-LSB-", "8", "-RSB-", ".", "In", "web", "search", ",", "the", "title", "fields", "-LRB-", "i.e.", ",", "file", "properties", "-RRB-", "and", "anchor", "texts", "of", "web", "pages", "-LRB-", "HTML", "documents", "-RRB-", "can", "be", "viewed", "as", "`", "titles", "'", "of", "the", "pages", "-LSB-", "5", "-RSB-", ".", "Many", "search", "engines", "seem", "to", "utilize", "them", "for", "web", "page", "retrieval", "-LSB-", "7", ",", "11", ",", "18", ",", "22", "-RSB-", ".", "Zhang", "et", "al.", ",", "found", "that", "web", "pages", "with", "well-defined", "metadata", "are", "more", "easily", "retrieved", "than", "those", "without", "well-defined", "metadata", "-LSB-", "24", "-RSB-", ".", "To", "the", "best", "of", "our", "knowledge", ",", "no", "research", "has", "been", "conducted", "on", "using", "extracted", "titles", "from", "general", "documents", "-LRB-", "e.g.", ",", "Office", "documents", "-RRB-", "for", "search", "of", "the", "documents", ".", "146", "We", "consider", "the", "issue", "of", "automatically", "extracting", "titles", "from", "general", "documents", ".", "By", "general", "documents", ",", "we", "mean", "documents", "that", "belong", "to", "one", "of", "any", "number", "of", "specific", "genres", ".", "The", "documents", "can", "be", "presentations", ",", "books", ",", "book", "chapters", ",", "technical", "papers", ",", "brochures", ",", "reports", ",", "memos", ",", "specifications", ",", "letters", ",", "announcements", ",", "or", "resumes", ".", "General", "documents", "are", "more", "widely", "available", "in", "digital", "libraries", ",", "intranets", ",", "and", "internet", ",", "and", "thus", "investigation", "on", "title", "extraction", "from", "them", "is", "sorely", "needed", ".", "Figure", "1", "shows", "an", "estimate", "on", "distributions", "of", "file", "formats", "on", "intranet", "and", "internet", "-LSB-", "15", "-RSB-", ".", "Office", "and", "PDF", "are", "the", "main", "file", "formats", "on", "the", "intranet", ".", "Even", "on", "the", "internet", ",", "the", "documents", "in", "the", "formats", "are", "still", "not", "negligible", ",", "given", "its", "extremely", "large", "size", ".", "In", "this", "paper", ",", "without", "loss", "of", "generality", ",", "we", "take", "Office", "documents", "as", "an", "example", ".", "Figure", "1", ".", "Distributions", "of", "file", "formats", "in", "internet", "and", "intranet", ".", "For", "Office", "documents", ",", "users", "can", "define", "titles", "as", "file", "properties", "using", "a", "feature", "provided", "by", "Office", ".", "We", "found", "in", "an", "experiment", ",", "however", ",", "that", "users", "seldom", "use", "the", "feature", "and", "thus", "titles", "in", "file", "properties", "are", "usually", "very", "inaccurate", ".", "That", "is", "to", "say", ",", "titles", "in", "file", "properties", "are", "usually", "inconsistent", "with", "the", "`", "true", "'", "titles", "in", "the", "file", "bodies", "that", "are", "created", "by", "the", "authors", "and", "are", "visible", "to", "readers", ".", "We", "collected", "6,000", "Word", "and", "6,000", "PowerPoint", "documents", "from", "an", "intranet", "and", "the", "internet", "and", "examined", "how", "many", "titles", "in", "the", "file", "properties", "are", "correct", ".", "We", "found", "that", "surprisingly", "the", "accuracy", "was", "only", "0.265", "-LRB-", "cf.", ",", "Section", "6.3", "for", "details", "-RRB-", ".", "A", "number", "of", "reasons", "can", "be", "considered", ".", "For", "example", ",", "if", "one", "creates", "a", "new", "file", "by", "copying", "an", "old", "file", ",", "then", "the", "file", "property", "of", "the", "new", "file", "will", "also", "be", "copied", "from", "the", "old", "file", ".", "In", "another", "experiment", ",", "we", "found", "that", "Google", "uses", "the", "titles", "in", "file", "properties", "of", "Office", "documents", "in", "search", "and", "browsing", ",", "but", "the", "titles", "are", "not", "very", "accurate", ".", "We", "created", "50", "queries", "to", "search", "Word", "and", "PowerPoint", "documents", "and", "examined", "the", "top", "15", "results", "of", "each", "query", "returned", "by", "Google", ".", "We", "found", "that", "nearly", "all", "the", "titles", "presented", "in", "the", "search", "results", "were", "from", "the", "file", "properties", "of", "the", "documents", ".", "However", ",", "only", "0.272", "of", "them", "were", "correct", ".", "Actually", ",", "`", "true", "'", "titles", "usually", "exist", "at", "the", "beginnings", "of", "the", "bodies", "of", "documents", ".", "If", "we", "can", "accurately", "extract", "the", "titles", "from", "the", "bodies", "of", "documents", ",", "then", "we", "can", "exploit", "reliable", "title", "information", "in", "document", "processing", ".", "This", "is", "exactly", "the", "problem", "we", "address", "in", "this", "paper", ".", "More", "specifically", ",", "given", "a", "Word", "document", ",", "we", "are", "to", "extract", "the", "title", "from", "the", "top", "region", "of", "the", "first", "page", ".", "Given", "a", "PowerPoint", "document", ",", "we", "are", "to", "extract", "the", "title", "from", "the", "first", "slide", ".", "A", "title", "sometimes", "consists", "of", "a", "main", "title", "and", "one", "or", "two", "subtitles", ".", "We", "only", "consider", "extraction", "of", "the", "main", "title", ".", "As", "baselines", "for", "title", "extraction", ",", "we", "use", "that", "of", "always", "using", "the", "first", "lines", "as", "titles", "and", "that", "of", "always", "using", "the", "lines", "with", "largest", "font", "sizes", "as", "titles", ".", "Figure", "2", ".", "Title", "extraction", "from", "Word", "document", ".", "Figure", "3", ".", "Title", "extraction", "from", "PowerPoint", "document", ".", "Next", ",", "we", "define", "a", "`", "specification", "'", "for", "human", "judgments", "in", "title", "data", "annotation", ".", "The", "annotated", "data", "will", "be", "used", "in", "training", "and", "testing", "of", "the", "title", "extraction", "methods", ".", "Summary", "of", "the", "specification", ":", "The", "title", "of", "a", "document", "should", "be", "identified", "on", "the", "basis", "of", "common", "sense", ",", "if", "there", "is", "no", "difficulty", "in", "the", "identification", ".", "However", ",", "there", "are", "many", "cases", "in", "which", "the", "identification", "is", "not", "easy", ".", "There", "are", "some", "rules", "defined", "in", "the", "specification", "that", "guide", "identification", "for", "such", "cases", ".", "The", "rules", "include", "``", "a", "title", "is", "usually", "in", "consecutive", "lines", "in", "the", "same", "format", "''", ",", "``", "a", "document", "can", "have", "no", "title", "''", ",", "``", "titles", "in", "images", "are", "not", "considered", "''", ",", "``", "a", "title", "should", "not", "contain", "words", "like", "`", "draft", "'", ",", "147", "`", "whitepaper", "'", ",", "etc", "''", ",", "``", "if", "it", "is", "difficult", "to", "determine", "which", "is", "the", "title", ",", "select", "the", "one", "in", "the", "largest", "font", "size", "''", ",", "and", "``", "if", "it", "is", "still", "difficult", "to", "determine", "which", "is", "the", "title", ",", "select", "the", "first", "candidate", "''", ".", "-LRB-", "The", "specification", "covers", "all", "the", "cases", "we", "have", "encountered", "in", "data", "annotation", ".", "-RRB-", "Figures", "2", "and", "3", "show", "examples", "of", "Office", "documents", "from", "which", "we", "conduct", "title", "extraction", ".", "In", "Figure", "2", ",", "`", "Differences", "in", "Win32", "API", "Implementations", "among", "Windows", "Operating", "Systems", "'", "is", "the", "title", "of", "the", "Word", "document", ".", "`", "Microsoft", "Windows", "'", "on", "the", "top", "of", "this", "page", "is", "a", "picture", "and", "thus", "is", "ignored", ".", "In", "Figure", "3", ",", "`", "Building", "Competitive", "Advantages", "through", "an", "Agile", "Infrastructure", "'", "is", "the", "title", "of", "the", "PowerPoint", "document", ".", "We", "have", "developed", "a", "tool", "for", "annotation", "of", "titles", "by", "human", "annotators", ".", "Figure", "4", "shows", "a", "snapshot", "of", "the", "tool", ".", "Figure", "4", ".", "Title", "annotation", "tool", ".", "Title", "extraction", "based", "on", "machine", "learning", "consists", "of", "training", "and", "extraction", ".", "The", "same", "pre-processing", "step", "occurs", "before", "training", "and", "extraction", ".", "During", "pre-processing", ",", "from", "the", "top", "region", "of", "the", "first", "page", "of", "a", "Word", "document", "or", "the", "first", "slide", "of", "a", "PowerPoint", "document", "a", "number", "of", "units", "for", "processing", "are", "extracted", ".", "If", "a", "line", "-LRB-", "lines", "are", "separated", "by", "`", "return", "'", "symbols", "-RRB-", "only", "has", "a", "single", "format", ",", "then", "the", "line", "will", "become", "a", "unit", ".", "If", "a", "line", "has", "several", "parts", "and", "each", "of", "them", "has", "its", "own", "format", ",", "then", "each", "part", "will", "become", "a", "unit", ".", "Each", "unit", "will", "be", "treated", "as", "an", "instance", "in", "learning", ".", "A", "unit", "contains", "not", "only", "content", "information", "-LRB-", "linguistic", "information", "-RRB-", "but", "also", "formatting", "information", ".", "The", "input", "to", "pre-processing", "is", "a", "document", "and", "the", "output", "of", "pre-processing", "is", "a", "sequence", "of", "units", "-LRB-", "instances", "-RRB-", ".", "Figure", "5", "shows", "the", "units", "obtained", "from", "the", "document", "in", "Figure", "2", ".", "Figure", "5", ".", "Example", "of", "units", ".", "In", "learning", ",", "the", "input", "is", "sequences", "of", "units", "where", "each", "sequence", "corresponds", "to", "a", "document", ".", "We", "take", "labeled", "units", "-LRB-", "labeled", "as", "title_begin", ",", "title_end", ",", "or", "other", "-RRB-", "in", "the", "sequences", "as", "training", "data", "and", "construct", "models", "for", "identifying", "whether", "a", "unit", "is", "title_begin", "title_end", ",", "or", "other", ".", "We", "employ", "four", "types", "of", "models", ":", "Perceptron", ",", "Maximum", "Entropy", "-LRB-", "ME", "-RRB-", ",", "Perceptron", "Markov", "Model", "-LRB-", "PMM", "-RRB-", ",", "and", "Maximum", "Entropy", "Markov", "Model", "-LRB-", "MEMM", "-RRB-", ".", "In", "extraction", ",", "the", "input", "is", "a", "sequence", "of", "units", "from", "one", "document", ".", "We", "employ", "one", "type", "of", "model", "to", "identify", "whether", "a", "unit", "is", "title_begin", ",", "title_end", ",", "or", "other", ".", "We", "then", "extract", "units", "from", "the", "unit", "labeled", "with", "`", "title_begin", "'", "to", "the", "unit", "labeled", "with", "`", "title_end", "'", ".", "The", "result", "is", "the", "extracted", "title", "of", "the", "document", ".", "The", "unique", "characteristic", "of", "our", "approach", "is", "that", "we", "mainly", "utilize", "formatting", "information", "for", "title", "extraction", ".", "Our", "assumption", "is", "that", "although", "general", "documents", "vary", "in", "styles", ",", "their", "formats", "have", "certain", "patterns", "and", "we", "can", "learn", "and", "utilize", "the", "patterns", "for", "title", "extraction", ".", "This", "is", "in", "contrast", "to", "the", "work", "by", "Han", "et", "al.", ",", "in", "which", "only", "linguistic", "features", "are", "used", "for", "extraction", "from", "research", "papers", ".", "4.2", "Models", "The", "four", "models", "actually", "can", "be", "considered", "in", "the", "same", "metadata", "extraction", "framework", ".", "That", "is", "why", "we", "apply", "them", "together", "to", "our", "current", "problem", ".", "Each", "input", "is", "a", "sequence", "of", "instances", "k", "x", "x", "x", "L", "2", "1", "together", "with", "a", "sequence", "of", "labels", "k", "y", "y", "y", "L", "2", "1", ".", "i", "x", "and", "i", "y", "represents", "an", "instance", "and", "its", "label", ",", "respectively", "-LRB-", "k", "i", ",", ",", "2", ",", "1", "L", "=", "-RRB-", ".", "Recall", "that", "an", "instance", "here", "represents", "a", "unit", ".", "A", "label", "represents", "title_begin", ",", "title_end", ",", "or", "other", ".", "Here", ",", "k", "is", "the", "number", "of", "units", "in", "a", "document", ".", "In", "learning", ",", "we", "train", "a", "model", "which", "can", "be", "generally", "denoted", "as", "a", "conditional", "probability", "distribution", "-RRB-", "|", "-LRB-", "1", "1", "k", "k", "X", "X", "Y", "Y", "P", "L", "L", "where", "i", "X", "and", "i", "Y", "denote", "random", "variables", "taking", "instance", "i", "x", "and", "label", "i", "y", "as", "values", ",", "respectively", "-LRB-", "k", "i", ",", ",", "2", ",", "1", "L", "=", "-RRB-", ".", "Learning", "Tool", "Extraction", "Tool", "2", "1", "1", "2", "1", "2", "22", "21", "2", "22", "21", "1", "12", "11", "1", "12", "11", "nk", "n", "n", "k", "n", "n", "k", "k", "k", "k", "y", "y", "y", "x", "x", "x", "y", "y", "y", "x", "x", "x", "y", "y", "y", "x", "x", "x", "L", "L", "L", "L", "L", "L", "L", "L", "-RRB-", "|", "-LRB-", "max", "arg", "1", "1", "mk", "m", "mk", "m", "x", "x", "y", "y", "P", "L", "L", "-RRB-", "|", "-LRB-", "1", "1", "k", "k", "X", "X", "Y", "Y", "P", "L", "L", "Conditional", "Distribution", "mk", "m", "m", "x", "x", "x", "L", "2", "1", "Figure", "6", ".", "Metadata", "extraction", "model", ".", "We", "can", "make", "assumptions", "about", "the", "general", "model", "in", "order", "to", "make", "it", "simple", "enough", "for", "training", ".", "148", "For", "example", ",", "we", "can", "assume", "that", "k", "Y", "Y", ",", ",", "1", "L", "are", "independent", "of", "each", "other", "given", "k", "X", "X", ",", ",", "1", "L", ".", "Thus", ",", "we", "have", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "1", "1", "1", "1", "k", "k", "k", "k", "X", "Y", "P", "X", "Y", "P", "X", "X", "Y", "Y", "P", "L", "L", "L", "=", "In", "this", "way", ",", "we", "decompose", "the", "model", "into", "a", "number", "of", "classifiers", ".", "We", "train", "the", "classifiers", "locally", "using", "the", "labeled", "data", ".", "As", "the", "classifier", ",", "we", "employ", "the", "Perceptron", "or", "Maximum", "Entropy", "model", ".", "We", "can", "also", "assume", "that", "the", "first", "order", "Markov", "property", "holds", "for", "k", "Y", "Y", ",", ",", "1", "L", "given", "k", "X", "X", ",", ",", "1", "L", ".", "Thus", ",", "we", "have", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "1", "1", "1", "1", "1", "k", "k", "k", "k", "k", "X", "Y", "Y", "P", "X", "Y", "P", "X", "X", "Y", "Y", "P", "=", "L", "L", "L", "Again", ",", "we", "obtain", "a", "number", "of", "classifiers", ".", "However", ",", "the", "classifiers", "are", "conditioned", "on", "the", "previous", "label", ".", "When", "we", "employ", "the", "Percepton", "or", "Maximum", "Entropy", "model", "as", "a", "classifier", ",", "the", "models", "become", "a", "Percepton", "Markov", "Model", "or", "Maximum", "Entropy", "Markov", "Model", ",", "respectively", ".", "That", "is", "to", "say", ",", "the", "two", "models", "are", "more", "precise", ".", "In", "extraction", ",", "given", "a", "new", "sequence", "of", "instances", ",", "we", "resort", "to", "one", "of", "the", "constructed", "models", "to", "assign", "a", "sequence", "of", "labels", "to", "the", "sequence", "of", "instances", ",", "i.e.", ",", "perform", "extraction", ".", "For", "Perceptron", "and", "ME", ",", "we", "assign", "labels", "locally", "and", "combine", "the", "results", "globally", "later", "using", "heuristics", ".", "Specifically", ",", "we", "first", "identify", "the", "most", "likely", "title_begin", ".", "Then", "we", "find", "the", "most", "likely", "title_end", "within", "three", "units", "after", "the", "title_begin", ".", "Finally", ",", "we", "extract", "as", "a", "title", "the", "units", "between", "the", "title_begin", "and", "the", "title_end", ".", "For", "PMM", "and", "MEMM", ",", "we", "employ", "the", "Viterbi", "algorithm", "to", "find", "the", "globally", "optimal", "label", "sequence", ".", "In", "this", "paper", ",", "for", "Perceptron", ",", "we", "actually", "employ", "an", "improved", "variant", "of", "it", ",", "called", "Perceptron", "with", "Uneven", "Margin", "-LSB-", "13", "-RSB-", ".", "This", "version", "of", "Perceptron", "can", "work", "well", "especially", "when", "the", "number", "of", "positive", "instances", "and", "the", "number", "of", "negative", "instances", "differ", "greatly", ",", "which", "is", "exactly", "the", "case", "in", "our", "problem", ".", "We", "also", "employ", "an", "improved", "version", "of", "Perceptron", "Markov", "Model", "in", "which", "the", "Perceptron", "model", "is", "the", "so-called", "Voted", "Perceptron", "-LSB-", "2", "-RSB-", ".", "In", "addition", ",", "in", "training", ",", "the", "parameters", "of", "the", "model", "are", "updated", "globally", "rather", "than", "locally", ".", "4.3", "Features", "There", "are", "two", "types", "of", "features", ":", "format", "features", "and", "linguistic", "features", ".", "We", "mainly", "use", "the", "former", ".", "The", "features", "are", "used", "for", "both", "the", "title-begin", "and", "the", "title-end", "classifiers", ".", "4.3.1", "Format", "Features", "Font", "Size", ":", "There", "are", "four", "binary", "features", "that", "represent", "the", "normalized", "font", "size", "of", "the", "unit", "-LRB-", "recall", "that", "a", "unit", "has", "only", "one", "type", "of", "font", "-RRB-", ".", "If", "the", "font", "size", "of", "the", "unit", "is", "the", "largest", "in", "the", "document", ",", "then", "the", "first", "feature", "will", "be", "1", ",", "otherwise", "0", ".", "If", "the", "font", "size", "is", "the", "smallest", "in", "the", "document", ",", "then", "the", "fourth", "feature", "will", "be", "1", ",", "otherwise", "0", ".", "If", "the", "font", "size", "is", "above", "the", "average", "font", "size", "and", "not", "the", "largest", "in", "the", "document", ",", "then", "the", "second", "feature", "will", "be", "1", ",", "otherwise", "0", ".", "If", "the", "font", "size", "is", "below", "the", "average", "font", "size", "and", "not", "the", "smallest", ",", "the", "third", "feature", "will", "be", "1", ",", "otherwise", "0", ".", "It", "is", "necessary", "to", "conduct", "normalization", "on", "font", "sizes", ".", "For", "example", ",", "in", "one", "document", "the", "largest", "font", "size", "might", "be", "`", "12", "pt", "'", ",", "while", "in", "another", "the", "smallest", "one", "might", "be", "`", "18", "pt", "'", ".", "Boldface", ":", "This", "binary", "feature", "represents", "whether", "or", "not", "the", "current", "unit", "is", "in", "boldface", ".", "Alignment", ":", "There", "are", "four", "binary", "features", "that", "respectively", "represent", "the", "location", "of", "the", "current", "unit", ":", "`", "left", "'", ",", "`", "center", "'", ",", "`", "right", "'", ",", "and", "`", "unknown", "alignment", "'", ".", "The", "following", "format", "features", "with", "respect", "to", "`", "context", "'", "play", "an", "important", "role", "in", "title", "extraction", ".", "Empty", "Neighboring", "Unit", ":", "There", "are", "two", "binary", "features", "that", "represent", ",", "respectively", ",", "whether", "or", "not", "the", "previous", "unit", "and", "the", "current", "unit", "are", "blank", "lines", ".", "Font", "Size", "Change", ":", "There", "are", "two", "binary", "features", "that", "represent", ",", "respectively", ",", "whether", "or", "not", "the", "font", "size", "of", "the", "previous", "unit", "and", "the", "font", "size", "of", "the", "next", "unit", "differ", "from", "that", "of", "the", "current", "unit", ".", "Alignment", "Change", ":", "There", "are", "two", "binary", "features", "that", "represent", ",", "respectively", ",", "whether", "or", "not", "the", "alignment", "of", "the", "previous", "unit", "and", "the", "alignment", "of", "the", "next", "unit", "differ", "from", "that", "of", "the", "current", "one", ".", "Same", "Paragraph", ":", "There", "are", "two", "binary", "features", "that", "represent", ",", "respectively", ",", "whether", "or", "not", "the", "previous", "unit", "and", "the", "next", "unit", "are", "in", "the", "same", "paragraph", "as", "the", "current", "unit", ".", "4.3.2", "Linguistic", "Features", "The", "linguistic", "features", "are", "based", "on", "key", "words", ".", "Positive", "Word", ":", "This", "binary", "feature", "represents", "whether", "or", "not", "the", "current", "unit", "begins", "with", "one", "of", "the", "positive", "words", ".", "The", "positive", "words", "include", "`", "title", ":", "'", ",", "`", "subject", ":", "'", ",", "`", "subject", "line", ":", "'", "For", "example", ",", "in", "some", "documents", "the", "lines", "of", "titles", "and", "authors", "have", "the", "same", "formats", ".", "However", ",", "if", "lines", "begin", "with", "one", "of", "the", "positive", "words", ",", "then", "it", "is", "likely", "that", "they", "are", "title", "lines", ".", "Negative", "Word", ":", "This", "binary", "feature", "represents", "whether", "or", "not", "the", "current", "unit", "begins", "with", "one", "of", "the", "negative", "words", ".", "The", "negative", "words", "include", "`", "To", "'", ",", "`", "By", "'", ",", "`", "created", "by", "'", ",", "`", "updated", "by", "'", ",", "etc.", ".", "There", "are", "more", "negative", "words", "than", "positive", "words", ".", "The", "above", "linguistic", "features", "are", "language", "dependent", ".", "Word", "Count", ":", "A", "title", "should", "not", "be", "too", "long", ".", "We", "heuristically", "create", "four", "intervals", ":", "-LSB-", "1", ",", "2", "-RSB-", ",", "-LSB-", "3", ",", "6", "-RSB-", ",", "-LSB-", "7", ",", "9", "-RSB-", "and", "-LSB-", "9", ",", "-RRB-", "and", "define", "one", "feature", "for", "each", "interval", ".", "If", "the", "number", "of", "words", "in", "a", "title", "falls", "into", "an", "interval", ",", "then", "the", "corresponding", "feature", "will", "be", "1", ";", "otherwise", "0", ".", "Ending", "Character", ":", "This", "feature", "represents", "whether", "the", "unit", "ends", "with", "`", ":", "'", ",", "`", "-", "'", ",", "or", "other", "special", "characters", ".", "A", "title", "usually", "does", "not", "end", "with", "such", "a", "character", ".", "We", "describe", "our", "method", "of", "document", "retrieval", "using", "extracted", "titles", ".", "Typically", ",", "in", "information", "retrieval", "a", "document", "is", "split", "into", "a", "number", "of", "fields", "including", "body", ",", "title", ",", "and", "anchor", "text", ".", "A", "ranking", "function", "in", "search", "can", "use", "different", "weights", "for", "different", "fields", "of", "149", "the", "document", ".", "Also", ",", "titles", "are", "typically", "assigned", "high", "weights", ",", "indicating", "that", "they", "are", "important", "for", "document", "retrieval", ".", "As", "explained", "previously", ",", "our", "experiment", "has", "shown", "that", "a", "significant", "number", "of", "documents", "actually", "have", "incorrect", "titles", "in", "the", "file", "properties", ",", "and", "thus", "in", "addition", "of", "using", "them", "we", "use", "the", "extracted", "titles", "as", "one", "more", "field", "of", "the", "document", ".", "By", "doing", "this", ",", "we", "attempt", "to", "improve", "the", "overall", "precision", ".", "In", "this", "paper", ",", "we", "employ", "a", "modification", "of", "BM25", "that", "allows", "field", "weighting", "-LSB-", "21", "-RSB-", ".", "As", "fields", ",", "we", "make", "use", "of", "body", ",", "title", ",", "extracted", "title", "and", "anchor", ".", "First", ",", "for", "each", "term", "in", "the", "query", "we", "count", "the", "term", "frequency", "in", "each", "field", "of", "the", "document", ";", "each", "field", "frequency", "is", "then", "weighted", "according", "to", "the", "corresponding", "weight", "parameter", ":", "=", "f", "tf", "f", "t", "tf", "w", "wtf", "Similarly", ",", "we", "compute", "the", "document", "length", "as", "a", "weighted", "sum", "of", "lengths", "of", "each", "field", ".", "Average", "document", "length", "in", "the", "corpus", "becomes", "the", "average", "of", "all", "weighted", "document", "lengths", ".", "=", "f", "f", "f", "dl", "w", "wdl", "In", "our", "experiments", "we", "used", "75", ".", "0", ",", "8", ".", "1", "1", "=", "=", "b", "k", ".", "Weight", "for", "content", "was", "1.0", ",", "title", "was", "10.0", ",", "anchor", "was", "10.0", ",", "and", "extracted", "title", "was", "5.0", ".", "We", "used", "two", "data", "sets", "in", "our", "experiments", ".", "First", ",", "we", "downloaded", "and", "randomly", "selected", "5,000", "Word", "documents", "and", "5,000", "PowerPoint", "documents", "from", "an", "intranet", "of", "Microsoft", ".", "We", "call", "it", "MS", "hereafter", ".", "Second", ",", "we", "downloaded", "and", "randomly", "selected", "500", "Word", "and", "500", "PowerPoint", "documents", "from", "the", "DotGov", "and", "DotCom", "domains", "on", "the", "internet", ",", "respectively", ".", "Figure", "7", "shows", "the", "distributions", "of", "the", "genres", "of", "the", "documents", ".", "We", "see", "that", "the", "documents", "are", "indeed", "`", "general", "documents", "'", "as", "we", "define", "them", ".", "Figure", "7", ".", "Distributions", "of", "document", "genres", ".", "Third", ",", "a", "data", "set", "in", "Chinese", "was", "also", "downloaded", "from", "the", "internet", ".", "It", "includes", "500", "Word", "documents", "and", "500", "PowerPoint", "documents", "in", "Chinese", ".", "We", "manually", "labeled", "the", "titles", "of", "all", "the", "documents", ",", "on", "the", "basis", "of", "our", "specification", ".", "Not", "all", "the", "documents", "in", "the", "two", "data", "sets", "have", "titles", ".", "Table", "1", "shows", "the", "percentages", "of", "the", "documents", "having", "titles", ".", "We", "see", "that", "DotCom", "and", "DotGov", "have", "more", "PowerPoint", "documents", "with", "titles", "than", "MS.", "This", "might", "be", "because", "PowerPoint", "documents", "published", "on", "the", "internet", "are", "more", "formal", "than", "those", "on", "the", "intranet", ".", "Table", "1", ".", "The", "portion", "of", "documents", "with", "titles", "Domain", "Type", "MS", "DotCom", "DotGov", "Word", "75.7", "%", "77.8", "%", "75.6", "%", "PowerPoint", "82.1", "%", "93.4", "%", "96.4", "%", "In", "our", "experiments", ",", "we", "conducted", "evaluations", "on", "title", "extraction", "in", "terms", "of", "precision", ",", "recall", ",", "and", "F-measure", ".", "The", "evaluation", "measures", "are", "defined", "as", "follows", ":", "Precision", ":", "P", "=", "A", "/", "-LRB-", "A", "+", "B", "-RRB-", "Recall", ":", "R", "=", "A", "/", "-LRB-", "A", "+", "C", "-RRB-", "F-measure", ":", "F1", "=", "2PR", "/", "-LRB-", "P", "+", "R", "-RRB-", "Here", ",", "A", ",", "B", ",", "C", ",", "and", "D", "are", "numbers", "of", "documents", "as", "those", "defined", "in", "Table", "2", ".", "Table", "2", ".", "Contingence", "table", "with", "regard", "to", "title", "extraction", "Is", "title", "Is", "not", "title", "Extracted", "A", "B", "Not", "extracted", "C", "D", "6.2", "Baselines", "We", "test", "the", "accuracies", "of", "the", "two", "baselines", "described", "in", "section", "4.2", ".", "They", "are", "denoted", "as", "`", "largest", "font", "size", "'", "and", "`", "first", "line", "'", "respectively", ".", "6.3", "Accuracy", "of", "Titles", "in", "File", "Properties", "We", "investigate", "how", "many", "titles", "in", "the", "file", "properties", "of", "the", "documents", "are", "reliable", ".", "We", "view", "the", "titles", "annotated", "by", "humans", "as", "true", "titles", "and", "test", "how", "many", "titles", "in", "the", "file", "properties", "can", "approximately", "match", "with", "the", "true", "titles", ".", "We", "use", "Edit", "Distance", "to", "conduct", "the", "approximate", "match", ".", "-LRB-", "Approximate", "match", "is", "only", "used", "in", "this", "evaluation", "-RRB-", ".", "This", "is", "because", "sometimes", "human", "annotated", "titles", "can", "be", "slightly", "different", "from", "the", "titles", "in", "file", "properties", "on", "the", "surface", ",", "e.g.", ",", "contain", "extra", "spaces", "-RRB-", ".", "Given", "string", "A", "and", "string", "B", ":", "if", "-LRB-", "-LRB-", "D", "==", "0", "-RRB-", "or", "-LRB-", "D", "/", "-LRB-", "La", "+", "Lb", "-RRB-", "<", "-RRB-", "-RRB-", "then", "string", "A", "=", "string", "B", "D", ":", "Edit", "Distance", "between", "string", "A", "and", "string", "B", "La", ":", "length", "of", "string", "A", "Lb", ":", "length", "of", "string", "B", ":", "0.1", "+", "+", "+", "=", "t", "t", "n", "N", "wtf", "avwdl", "wdl", "b", "b", "k", "k", "wtf", "F", "BM", "-RRB-", "log", "-LRB-", "-RRB-", "-RRB-", "1", "-LRB-", "-LRB-", "-RRB-", "1", "-LRB-", "25", "1", "1", "150", "Table", "3", ".", "Accuracies", "of", "titles", "in", "file", "properties", "File", "Type", "Domain", "Precision", "Recall", "F1", "MS", "0.299", "0.311", "0.305", "DotCom", "0.210", "0.214", "0.212", "Word", "DotGov", "0.182", "0.177", "0.180", "MS", "0.229", "0.245", "0.237", "DotCom", "0.185", "0.186", "0.186", "PowerPoint", "DotGov", "0.180", "0.182", "0.181", "6.4", "Comparison", "with", "Baselines", "We", "conducted", "title", "extraction", "from", "the", "first", "data", "set", "-LRB-", "Word", "and", "PowerPoint", "in", "MS", "-RRB-", ".", "As", "the", "model", ",", "we", "used", "Perceptron", ".", "We", "conduct", "4-fold", "cross", "validation", ".", "Thus", ",", "all", "the", "results", "reported", "here", "are", "those", "averaged", "over", "4", "trials", ".", "Tables", "4", "and", "5", "show", "the", "results", ".", "We", "see", "that", "Perceptron", "significantly", "outperforms", "the", "baselines", ".", "In", "the", "evaluation", ",", "we", "use", "exact", "matching", "between", "the", "true", "titles", "annotated", "by", "humans", "and", "the", "extracted", "titles", ".", "Table", "4", ".", "Accuracies", "of", "title", "extraction", "with", "Word", "Precision", "Recall", "F1", "Model", "Perceptron", "0.810", "0.837", "0.823", "Largest", "font", "size", "0.700", "0.758", "0.727", "Baselines", "First", "line", "0.707", "0.767", "0.736", "Table", "5", ".", "Accuracies", "of", "title", "extraction", "with", "PowerPoint", "Precision", "Recall", "F1", "Model", "Perceptron", "0.875", "0", ".", "895", "0.885", "Largest", "font", "size", "0.844", "0.887", "0.865", "Baselines", "First", "line", "0.639", "0.671", "0.655", "We", "see", "that", "the", "machine", "learning", "approach", "can", "achieve", "good", "performance", "in", "title", "extraction", ".", "For", "Word", "documents", "both", "precision", "and", "recall", "of", "the", "approach", "are", "8", "percent", "higher", "than", "those", "of", "the", "baselines", ".", "For", "PowerPoint", "both", "precision", "and", "recall", "of", "the", "approach", "are", "2", "percent", "higher", "than", "those", "of", "the", "baselines", ".", "We", "conduct", "significance", "tests", ".", "The", "results", "are", "shown", "in", "Table", "6", ".", "Here", ",", "`", "Largest", "'", "denotes", "the", "baseline", "of", "using", "the", "largest", "font", "size", ",", "`", "First", "'", "denotes", "the", "baseline", "of", "using", "the", "first", "line", ".", "The", "results", "indicate", "that", "the", "improvements", "of", "machine", "learning", "over", "baselines", "are", "statistically", "significant", "-LRB-", "in", "the", "sense", "p-value", "<", "0.05", "-RRB-", "Table", "6", ".", "Sign", "test", "results", "Documents", "Type", "Sign", "test", "between", "p-value", "Perceptron", "vs.", "Largest", "3.59e-26", "Word", "Perceptron", "vs.", "First", "7.12e-10", "Perceptron", "vs.", "Largest", "0.010", "PowerPoint", "Perceptron", "vs.", "First", "5.13e-40", "We", "see", ",", "from", "the", "results", ",", "that", "the", "two", "baselines", "can", "work", "well", "for", "title", "extraction", ",", "suggesting", "that", "font", "size", "and", "position", "information", "are", "most", "useful", "features", "for", "title", "extraction", ".", "However", ",", "it", "is", "also", "obvious", "that", "using", "only", "these", "two", "features", "is", "not", "enough", ".", "There", "are", "cases", "in", "which", "all", "the", "lines", "have", "the", "same", "font", "size", "-LRB-", "i.e.", ",", "the", "largest", "font", "size", "-RRB-", ",", "or", "cases", "in", "which", "the", "lines", "with", "the", "largest", "font", "size", "only", "contain", "general", "descriptions", "like", "`", "Confidential", "'", ",", "`", "White", "paper", "'", ",", "etc.", ".", "For", "those", "cases", ",", "the", "`", "largest", "font", "size", "'", "method", "can", "not", "work", "well", ".", "For", "similar", "reasons", ",", "the", "`", "first", "line", "'", "method", "alone", "can", "not", "work", "well", ",", "either", ".", "With", "the", "combination", "of", "different", "features", "-LRB-", "evidence", "in", "title", "judgment", "-RRB-", ",", "Perceptron", "can", "outperform", "Largest", "and", "First", ".", "We", "investigate", "the", "performance", "of", "solely", "using", "linguistic", "features", ".", "We", "found", "that", "it", "does", "not", "work", "well", ".", "It", "seems", "that", "the", "format", "features", "play", "important", "roles", "and", "the", "linguistic", "features", "are", "supplements", ".", ".", "Figure", "8", ".", "An", "example", "Word", "document", ".", "Figure", "9", ".", "An", "example", "PowerPoint", "document", ".", "We", "conducted", "an", "error", "analysis", "on", "the", "results", "of", "Perceptron", ".", "We", "found", "that", "the", "errors", "fell", "into", "three", "categories", ".", "-LRB-", "1", "-RRB-", "About", "one", "third", "of", "the", "errors", "were", "related", "to", "`", "hard", "cases", "'", ".", "In", "these", "documents", ",", "the", "layouts", "of", "the", "first", "pages", "were", "difficult", "to", "understand", ",", "even", "for", "humans", ".", "Figure", "8", "and", "9", "shows", "examples", ".", "-LRB-", "2", "-RRB-", "Nearly", "one", "fourth", "of", "the", "errors", "were", "from", "the", "documents", "which", "do", "not", "have", "true", "titles", "but", "only", "contain", "bullets", ".", "Since", "we", "conduct", "extraction", "from", "the", "top", "regions", ",", "it", "is", "difficult", "to", "get", "rid", "of", "these", "errors", "with", "the", "current", "approach", ".", "-LRB-", "3", "-RRB-", ".", "Confusions", "between", "main", "titles", "and", "subtitles", "were", "another", "type", "of", "error", ".", "Since", "we", "only", "labeled", "the", "main", "titles", "as", "titles", ",", "the", "extractions", "of", "both", "titles", "were", "considered", "incorrect", ".", "This", "type", "of", "error", "does", "little", "harm", "to", "document", "processing", "like", "search", ",", "however", ".", "6.5", "Comparison", "between", "Models", "To", "compare", "the", "performance", "of", "different", "machine", "learning", "models", ",", "we", "conducted", "another", "experiment", ".", "Again", ",", "we", "perform", "4-fold", "cross", "151", "validation", "on", "the", "first", "data", "set", "-LRB-", "MS", "-RRB-", ".", "Table", "7", ",", "8", "shows", "the", "results", "of", "all", "the", "four", "models", ".", "It", "turns", "out", "that", "Perceptron", "and", "PMM", "perform", "the", "best", ",", "followed", "by", "MEMM", ",", "and", "ME", "performs", "the", "worst", ".", "In", "general", ",", "the", "Markovian", "models", "perform", "better", "than", "or", "as", "well", "as", "their", "classifier", "counterparts", ".", "This", "seems", "to", "be", "because", "the", "Markovian", "models", "are", "trained", "globally", ",", "while", "the", "classifiers", "are", "trained", "locally", ".", "The", "Perceptron", "based", "models", "perform", "better", "than", "the", "ME", "based", "counterparts", ".", "This", "seems", "to", "be", "because", "the", "Perceptron", "based", "models", "are", "created", "to", "make", "better", "classifications", ",", "while", "ME", "models", "are", "constructed", "for", "better", "prediction", ".", "Table", "7", ".", "Comparison", "between", "different", "learning", "models", "for", "title", "extraction", "with", "Word", "Model", "Precision", "Recall", "F1", "Perceptron", "0.810", "0.837", "0.823", "MEMM", "0.797", "0.824", "0.810", "PMM", "0.827", "0.823", "0.825", "ME", "0.801", "0.621", "0.699", "Table", "8", ".", "Comparison", "between", "different", "learning", "models", "for", "title", "extraction", "with", "PowerPoint", "Model", "Precision", "Recall", "F1", "Perceptron", "0.875", "0", ".", "895", "0", ".", "885", "MEMM", "0.841", "0.861", "0.851", "PMM", "0.873", "0.896", "0.885", "ME", "0.753", "0.766", "0.759", "6.6", "Domain", "Adaptation", "We", "apply", "the", "model", "trained", "with", "the", "first", "data", "set", "-LRB-", "MS", "-RRB-", "to", "the", "second", "data", "set", "-LRB-", "DotCom", "and", "DotGov", "-RRB-", ".", "Tables", "9-12", "show", "the", "results", ".", "Table", "9", ".", "Accuracies", "of", "title", "extraction", "with", "Word", "in", "DotGov", "Precision", "Recall", "F1", "Model", "Perceptron", "0.716", "0.759", "0.737", "Largest", "font", "size", "0.549", "0.619", "0.582", "Baselines", "First", "line", "0.462", "0.521", "0.490", "Table", "10", ".", "Accuracies", "of", "title", "extraction", "with", "PowerPoint", "in", "DotGov", "Precision", "Recall", "F1", "Model", "Perceptron", "0.900", "0.906", "0.903", "Largest", "font", "size", "0.871", "0.888", "0.879", "Baselines", "First", "line", "0.554", "0.564", "0.559", "Table", "11", ".", "Accuracies", "of", "title", "extraction", "with", "Word", "in", "DotCom", "Precisio", "n", "Recall", "F1", "Model", "Perceptron", "0.832", "0.880", "0.855", "Largest", "font", "size", "0.676", "0.753", "0.712", "Baselines", "First", "line", "0.577", "0.643", "0.608", "Table", "12", ".", "Performance", "of", "PowerPoint", "document", "title", "extraction", "in", "DotCom", "Precisio", "n", "Recall", "F1", "Model", "Perceptron", "0.910", "0.903", "0.907", "Largest", "font", "size", "0.864", "0.886", "0.875", "Baselines", "First", "line", "0.570", "0.585", "0.577", "From", "the", "results", ",", "we", "see", "that", "the", "models", "can", "be", "adapted", "to", "different", "domains", "well", ".", "There", "is", "almost", "no", "drop", "in", "accuracy", ".", "The", "results", "indicate", "that", "the", "patterns", "of", "title", "formats", "exist", "across", "different", "domains", ",", "and", "it", "is", "possible", "to", "construct", "a", "domain", "independent", "model", "by", "mainly", "using", "formatting", "information", ".", "6.7", "Language", "Adaptation", "We", "apply", "the", "model", "trained", "with", "the", "data", "in", "English", "-LRB-", "MS", "-RRB-", "to", "the", "data", "set", "in", "Chinese", ".", "Tables", "13-14", "show", "the", "results", ".", "Table", "13", ".", "Accuracies", "of", "title", "extraction", "with", "Word", "in", "Chinese", "Precision", "Recall", "F1", "Model", "Perceptron", "0.817", "0.805", "0.811", "Largest", "font", "size", "0.722", "0.755", "0.738", "Baselines", "First", "line", "0.743", "0.777", "0.760", "Table", "14", ".", "Accuracies", "of", "title", "extraction", "with", "PowerPoint", "in", "Chinese", "Precision", "Recall", "F1", "Model", "Perceptron", "0.766", "0.812", "0.789", "Largest", "font", "size", "0.753", "0.813", "0.782", "Baselines", "First", "line", "0.627", "0.676", "0.650", "We", "see", "that", "the", "models", "can", "be", "adapted", "to", "a", "different", "language", ".", "There", "are", "only", "small", "drops", "in", "accuracy", ".", "Obviously", ",", "the", "linguistic", "features", "do", "not", "work", "for", "Chinese", ",", "but", "the", "effect", "of", "not", "using", "them", "is", "negligible", ".", "The", "results", "indicate", "that", "the", "patterns", "of", "title", "formats", "exist", "across", "different", "languages", ".", "From", "the", "domain", "adaptation", "and", "language", "adaptation", "results", ",", "we", "conclude", "that", "the", "use", "of", "formatting", "information", "is", "the", "key", "to", "a", "successful", "extraction", "from", "general", "documents", ".", "6.8", "Search", "with", "Extracted", "Titles", "We", "performed", "experiments", "on", "using", "title", "extraction", "for", "document", "retrieval", ".", "As", "a", "baseline", ",", "we", "employed", "BM25", "without", "using", "extracted", "titles", ".", "The", "ranking", "mechanism", "was", "as", "described", "in", "Section", "5", ".", "The", "weights", "were", "heuristically", "set", ".", "We", "did", "not", "conduct", "optimization", "on", "the", "weights", ".", "The", "evaluation", "was", "conducted", "on", "a", "corpus", "of", "1.3", "M", "documents", "crawled", "from", "the", "intranet", "of", "Microsoft", "using", "100", "evaluation", "queries", "obtained", "from", "this", "intranet", "'s", "search", "engine", "query", "logs", ".", "50", "queries", "were", "from", "the", "most", "popular", "set", ",", "while", "50", "queries", "other", "were", "chosen", "randomly", ".", "Users", "were", "asked", "to", "provide", "judgments", "of", "the", "degree", "of", "document", "relevance", "from", "a", "scale", "of", "1to", "5", "-LRB-", "1", "meaning", "detrimental", ",", "2", "bad", ",", "3", "fair", ",", "4", "good", "and", "5", "excellent", "-RRB-", ".", "152", "Figure", "10", "shows", "the", "results", ".", "In", "the", "chart", "two", "sets", "of", "precision", "results", "were", "obtained", "by", "either", "considering", "good", "or", "excellent", "documents", "as", "relevant", "-LRB-", "left", "3", "bars", "with", "relevance", "threshold", "0.5", "-RRB-", ",", "or", "by", "considering", "only", "excellent", "documents", "as", "relevant", "-LRB-", "right", "3", "bars", "with", "relevance", "threshold", "1.0", "-RRB-", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "P@10", "P", "@", "5", "Reciprocal", "P@10", "P", "@", "5", "Reciprocal", "0.5", "1", "BM25", "Anchor", ",", "Title", ",", "Body", "BM25", "Anchor", ",", "Title", ",", "Body", ",", "ExtractedTitle", "Name", "All", "RelevanceThreshold", "Data", "Description", "Figure", "10", ".", "Search", "ranking", "results", ".", "Figure", "10", "shows", "different", "document", "retrieval", "results", "with", "different", "ranking", "functions", "in", "terms", "of", "precision", "@", "10", ",", "precision", "@", "5", "and", "reciprocal", "rank", ":", "Blue", "bar", "BM25", "including", "the", "fields", "body", ",", "title", "-LRB-", "file", "property", "-RRB-", ",", "and", "anchor", "text", ".", "Purple", "bar", "BM25", "including", "the", "fields", "body", ",", "title", "-LRB-", "file", "property", "-RRB-", ",", "anchor", "text", ",", "and", "extracted", "title", ".", "With", "the", "additional", "field", "of", "extracted", "title", "included", "in", "BM25", "the", "precision", "@", "10", "increased", "from", "0.132", "to", "0.145", ",", "or", "by", "~", "10", "%", ".", "Thus", ",", "it", "is", "safe", "to", "say", "that", "the", "use", "of", "extracted", "title", "can", "indeed", "improve", "the", "precision", "of", "document", "retrieval", ".", "In", "this", "paper", ",", "we", "have", "investigated", "the", "problem", "of", "automatically", "extracting", "titles", "from", "general", "documents", ".", "We", "have", "tried", "using", "a", "machine", "learning", "approach", "to", "address", "the", "problem", ".", "Previous", "work", "showed", "that", "the", "machine", "learning", "approach", "can", "work", "well", "for", "metadata", "extraction", "from", "research", "papers", ".", "In", "this", "paper", ",", "we", "showed", "that", "the", "approach", "can", "work", "for", "extraction", "from", "general", "documents", "as", "well", ".", "Our", "experimental", "results", "indicated", "that", "the", "machine", "learning", "approach", "can", "work", "significantly", "better", "than", "the", "baselines", "in", "title", "extraction", "from", "Office", "documents", ".", "Previous", "work", "on", "metadata", "extraction", "mainly", "used", "linguistic", "features", "in", "documents", ",", "while", "we", "mainly", "used", "formatting", "information", ".", "It", "appeared", "that", "using", "formatting", "information", "is", "a", "key", "for", "successfully", "conducting", "title", "extraction", "from", "general", "documents", ".", "We", "tried", "different", "machine", "learning", "models", "including", "Perceptron", ",", "Maximum", "Entropy", ",", "Maximum", "Entropy", "Markov", "Model", ",", "and", "Voted", "Perceptron", ".", "We", "found", "that", "the", "performance", "of", "the", "Perceptorn", "models", "was", "the", "best", ".", "We", "applied", "models", "constructed", "in", "one", "domain", "to", "another", "domain", "and", "applied", "models", "trained", "in", "one", "language", "to", "another", "language", ".", "We", "found", "that", "the", "accuracies", "did", "not", "drop", "substantially", "across", "different", "domains", "and", "across", "different", "languages", ",", "indicating", "that", "the", "models", "were", "generic", ".", "We", "also", "attempted", "to", "use", "the", "extracted", "titles", "in", "document", "retrieval", ".", "We", "observed", "a", "significant", "improvement", "in", "document", "ranking", "performance", "for", "search", "when", "using", "extracted", "title", "information", ".", "All", "the", "above", "investigations", "were", "not", "conducted", "in", "previous", "work", ",", "and", "through", "our", "investigations", "we", "verified", "the", "generality", "and", "the", "significance", "of", "the", "title", "extraction", "approach", ".", "We", "thank", "Chunyu", "Wei", "and", "Bojuan", "Zhao", "for", "their", "work", "on", "data", "annotation", ".", "We", "acknowledge", "Jinzhu", "Li", "for", "his", "assistance", "in", "conducting", "the", "experiments", ".", "We", "thank", "Ming", "Zhou", ",", "John", "Chen", ",", "Jun", "Xu", ",", "and", "the", "anonymous", "reviewers", "of", "JCDL", "'05", "for", "their", "valuable", "comments", "on", "this", "paper", ".", "-LSB-", "1", "-RSB-", "Berger", ",", "A.", "L.", ",", "Della", "Pietra", ",", "S.", "A.", ",", "and", "Della", "Pietra", ",", "V.", "J", ".", "A", "maximum", "entropy", "approach", "to", "natural", "language", "processing", ".", "Computational", "Linguistics", ",", "22:39-71", ",", "1996", ".", "-LSB-", "2", "-RSB-", "Collins", ",", "M.", "Discriminative", "training", "methods", "for", "hidden", "markov", "models", ":", "theory", "and", "experiments", "with", "perceptron", "algorithms", ".", "In", "Proceedings", "of", "Conference", "on", "Empirical", "Methods", "in", "Natural", "Language", "Processing", ",", "1-8", ",", "2002", ".", "-LSB-", "3", "-RSB-", "Cortes", ",", "C.", "and", "Vapnik", ",", "V.", "Support-vector", "networks", ".", "Machine", "Learning", ",", "20:273-297", ",", "1995", ".", "-LSB-", "4", "-RSB-", "Chieu", ",", "H.", "L.", "and", "Ng", ",", "H.", "T", ".", "A", "maximum", "entropy", "approach", "to", "information", "extraction", "from", "semi-structured", "and", "free", "text", ".", "In", "Proceedings", "of", "the", "Eighteenth", "National", "Conference", "on", "Artificial", "Intelligence", ",", "768-791", ",", "2002", ".", "-LSB-", "5", "-RSB-", "Evans", ",", "D.", "K.", ",", "Klavans", ",", "J.", "L.", ",", "and", "McKeown", ",", "K.", "R.", "Columbia", "newsblaster", ":", "multilingual", "news", "summarization", "on", "the", "Web", ".", "In", "Proceedings", "of", "Human", "Language", "Technology", "conference", "/", "North", "American", "chapter", "of", "the", "Association", "for", "Computational", "Linguistics", "annual", "meeting", ",", "1-4", ",", "2004", ".", "-LSB-", "6", "-RSB-", "Ghahramani", ",", "Z.", "and", "Jordan", ",", "M.", "I.", "Factorial", "hidden", "markov", "models", ".", "Machine", "Learning", ",", "29:245-273", ",", "1997", ".", "-LSB-", "7", "-RSB-", "Gheel", ",", "J.", "and", "Anderson", ",", "T.", "Data", "and", "metadata", "for", "finding", "and", "reminding", ",", "In", "Proceedings", "of", "the", "1999", "International", "Conference", "on", "Information", "Visualization", ",", "446-451,1999", ".", "-LSB-", "8", "-RSB-", "Giles", ",", "C.", "L.", ",", "Petinot", ",", "Y.", ",", "Teregowda", "P.", "B.", ",", "Han", ",", "H.", ",", "Lawrence", ",", "S.", ",", "Rangaswamy", ",", "A.", ",", "and", "Pal", ",", "N.", "eBizSearch", ":", "a", "niche", "search", "engine", "for", "e-Business", ".", "In", "Proceedings", "of", "the", "26th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "413-414", ",", "2003", ".", "-LSB-", "9", "-RSB-", "Giuffrida", ",", "G.", ",", "Shek", ",", "E.", "C.", ",", "and", "Yang", ",", "J.", "Knowledge-based", "metadata", "extraction", "from", "PostScript", "files", ".", "In", "Proceedings", "of", "the", "Fifth", "ACM", "Conference", "on", "Digital", "Libraries", ",", "77-84", ",", "2000", ".", "-LSB-", "10", "-RSB-", "Han", ",", "H.", ",", "Giles", ",", "C.", "L.", ",", "Manavoglu", ",", "E.", ",", "Zha", ",", "H.", ",", "Zhang", ",", "Z.", ",", "and", "Fox", ",", "E.", "A.", "Automatic", "document", "metadata", "extraction", "using", "support", "vector", "machines", ".", "In", "Proceedings", "of", "the", "Third", "ACM/IEEE-CS", "Joint", "Conference", "on", "Digital", "Libraries", ",", "37-48", ",", "2003", ".", "-LSB-", "11", "-RSB-", "Kobayashi", ",", "M.", ",", "and", "Takeda", ",", "K.", "Information", "retrieval", "on", "the", "Web", ".", "ACM", "Computing", "Surveys", ",", "32:144-173", ",", "2000", ".", "-LSB-", "12", "-RSB-", "Lafferty", ",", "J.", ",", "McCallum", ",", "A.", ",", "and", "Pereira", ",", "F.", "Conditional", "random", "fields", ":", "probabilistic", "models", "for", "segmenting", "and", "153", "labeling", "sequence", "data", ".", "In", "Proceedings", "of", "the", "Eighteenth", "International", "Conference", "on", "Machine", "Learning", ",", "282-289", ",", "2001", ".", "-LSB-", "13", "-RSB-", "Li", ",", "Y.", ",", "Zaragoza", ",", "H.", ",", "Herbrich", ",", "R.", ",", "Shawe-Taylor", "J.", ",", "and", "Kandola", ",", "J.", "S", ".", "The", "perceptron", "algorithm", "with", "uneven", "margins", ".", "In", "Proceedings", "of", "the", "Nineteenth", "International", "Conference", "on", "Machine", "Learning", ",", "379-386", ",", "2002", ".", "-LSB-", "14", "-RSB-", "Liddy", ",", "E.", "D.", ",", "Sutton", ",", "S.", ",", "Allen", ",", "E.", ",", "Harwell", ",", "S.", ",", "Corieri", ",", "S.", ",", "Yilmazel", ",", "O.", ",", "Ozgencil", ",", "N.", "E.", ",", "Diekema", ",", "A.", ",", "McCracken", ",", "N.", ",", "and", "Silverstein", ",", "J.", "Automatic", "Metadata", "generation", "&", "evaluation", ".", "In", "Proceedings", "of", "the", "25th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "401-402", ",", "2002", ".", "-LSB-", "15", "-RSB-", "Littlefield", ",", "A.", "Effective", "enterprise", "information", "retrieval", "across", "new", "content", "formats", ".", "In", "Proceedings", "of", "the", "Seventh", "Search", "Engine", "Conference", ",", "http://www.infonortics.com/searchengines/sh02/02prog.html", ",", "2002", ".", "-LSB-", "16", "-RSB-", "Mao", ",", "S.", ",", "Kim", ",", "J.", "W.", ",", "and", "Thoma", ",", "G.", "R", ".", "A", "dynamic", "feature", "generation", "system", "for", "automated", "metadata", "extraction", "in", "preservation", "of", "digital", "materials", ".", "In", "Proceedings", "of", "the", "First", "International", "Workshop", "on", "Document", "Image", "Analysis", "for", "Libraries", ",", "225-232", ",", "2004", ".", "-LSB-", "17", "-RSB-", "McCallum", ",", "A.", ",", "Freitag", ",", "D.", ",", "and", "Pereira", ",", "F.", "Maximum", "entropy", "markov", "models", "for", "information", "extraction", "and", "segmentation", ".", "In", "Proceedings", "of", "the", "Seventeenth", "International", "Conference", "on", "Machine", "Learning", ",", "591-598", ",", "2000", ".", "-LSB-", "18", "-RSB-", "Murphy", ",", "L.", "D.", "Digital", "document", "metadata", "in", "organizations", ":", "roles", ",", "analytical", "approaches", ",", "and", "future", "research", "directions", ".", "In", "Proceedings", "of", "the", "Thirty-First", "Annual", "Hawaii", "International", "Conference", "on", "System", "Sciences", ",", "267-276", ",", "1998", ".", "-LSB-", "19", "-RSB-", "Pinto", ",", "D.", ",", "McCallum", ",", "A.", ",", "Wei", ",", "X.", ",", "and", "Croft", ",", "W.", "B.", "Table", "extraction", "using", "conditional", "random", "fields", ".", "In", "Proceedings", "of", "the", "26th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "235-242", ",", "2003", ".", "-LSB-", "20", "-RSB-", "Ratnaparkhi", ",", "A.", "Unsupervised", "statistical", "models", "for", "prepositional", "phrase", "attachment", ".", "In", "Proceedings", "of", "the", "Seventeenth", "International", "Conference", "on", "Computational", "Linguistics", ".", "1079-1085", ",", "1998", ".", "-LSB-", "21", "-RSB-", "Robertson", ",", "S.", ",", "Zaragoza", ",", "H.", ",", "and", "Taylor", ",", "M.", "Simple", "BM25", "extension", "to", "multiple", "weighted", "fields", ",", "In", "Proceedings", "of", "ACM", "Thirteenth", "Conference", "on", "Information", "and", "Knowledge", "Management", ",", "42-49", ",", "2004", ".", "-LSB-", "22", "-RSB-", "Yi", ",", "J.", "and", "Sundaresan", ",", "N.", "Metadata", "based", "Web", "mining", "for", "relevance", ",", "In", "Proceedings", "of", "the", "2000", "International", "Symposium", "on", "Database", "Engineering", "&", "Applications", ",", "113-121", ",", "2000", ".", "-LSB-", "23", "-RSB-", "Yilmazel", ",", "O.", ",", "Finneran", ",", "C.", "M.", ",", "and", "Liddy", ",", "E.", "D.", "MetaExtract", ":", "An", "NLP", "system", "to", "automatically", "assign", "metadata", ".", "In", "Proceedings", "of", "the", "2004", "Joint", "ACM/IEEE", "Conference", "on", "Digital", "Libraries", ",", "241-242", ",", "2004", ".", "-LSB-", "24", "-RSB-", "Zhang", ",", "J.", "and", "Dimitroff", ",", "A.", "Internet", "search", "engines", "'", "response", "to", "metadata", "Dublin", "Core", "implementation", ".", "Journal", "of", "Information", "Science", ",", "30:310-320", ",", "2004", ".", "-LSB-", "25", "-RSB-", "Zhang", ",", "L.", ",", "Pan", ",", "Y.", ",", "and", "Zhang", ",", "T.", "Recognising", "and", "using", "named", "entities", ":", "focused", "named", "entity", "recognition", "using", "machine", "learning", ".", "In", "Proceedings", "of", "the", "27th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "281-288", ",", "2004", ".", "-LSB-", "26", "-RSB-", "http://dublincore.org/groups/corporate/Seattle/", "154"], "doc_bio_tags": ["O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["search", "powerpoint documents", "metadata extraction", "machine learning", "file formats", "extraction"], "abstractive_keyphrases": ["generic languages", "microsoft office automation", "information search and retrieval", "file extraction", "digital copies", "metadata processing", "search ranking results", "precision extraction", "information extraction"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "33", "document": ["An", "Index", "System", "For", "Quality", "Synthesis", "Evaluation", "Of", "Btoc", "Business", "Website", "It", "is", "important", "for", "successful", "electronic", "business", "to", "have", "a", "hi-quality", "business", "website", ".", "So", "we", "need", "an", "accurate", "and", "effective", "index", "system", "to", "evaluate", "and", "analyses", "the", "quality", "of", "the", "business", "website", ".", "In", "this", "paper", ",", "the", "evaluation", "index", "system", "following", "the", "`", "grey", "box", "'", "principle", "is", "proposed", "which", "considers", "both", "efficiency", "of", "business", "website", "and", "performance", "of", "electronic", "business", "system", ".", "Using", "R-Hierarchical", "clustering", "method", "to", "extract", "the", "typical", "indexes", "from", "sub-indexes", "is", "theoretically", "proved", "to", "have", "a", "rationality", "and", "effectiveness", ".", "Finally", ",", "the", "evaluation", "method", "is", "briefly", "discussed", ".", "TP393", ".4", "Business", "website", "is", "an", "online", "media", "between", "buyer", "and", "seller", ".", "A", "hi-quality", "website", "is", "crucial", "to", "a", "company", "for", "a", "successful", "e-business", ".", "What", "is", "a", "hi-quality", "business", "website", "?", "In", "terms", "of", "maintaining", "the", "website", ",", "what", "do", "we", "focus", "on", "so", "that", "the", "quality", "meets", "the", "users", "'", "needs", "?", "Apparently", ",", "using", "click-through", "rate", "to", "assess", "the", "popularity", "can", "not", "objectively", "and", "accurately", "evaluate", "the", "quality", "of", "the", "business", "websites", ".", "Instead", ",", "we", "need", "to", "rely", "on", "scientific", "evaluation", "index", "system", "and", "methods", ".", "At", "present", ",", "there", "are", "many", "methods", "available", "for", "business", "website", "comparison", "or", "ranking", ",", "such", "as", "Usage", "Ranking", ",", "Purchase", "Comparison", ",", "Expert", "Opinion", "and", "Synthesis", "Evaluation", "etc.", ".", "You", "can", "find", "both", "official", "authority", "and", "non-governmental", "organization", "that", "issue", "their", "power", "ranking", ".", "The", "former", "one", "is", "to", "monitor", "and", "regulate", "the", "market", ",", "such", "as", "CNNIC", ",", "which", "organized", "the", "competition", "for", "the", "Top", "Ten", "Websites", "in", "domestic", ".", "The", "latter", "one", ",", "such", "as", "Consumerreports", "-LRB-", "www.consumerreports", ".", "org", "-RRB-", ",", "BizRate", "-LRB-", "www.bizrate.com", "-RRB-", ",", "Forrester", "Research", "etc.", ",", "is", "mainly", "to", "guide", "the", "web", "users", "'", "activity", ".", "These", "kinds", "of", "comparison", "or", "ranking", "have", "special", "value", "in", "getting", "reputation", "and", "increasing", "recognition", "of", "the", "business", "websites", "among", "the", "users", ",", "however", ",", "e-business", "enterprise", "can", "not", "improve", "the", "quality", "of", "their", "websites", "directly", "based", "on", "the", "results", "of", "these", "kinds", "of", "assessments", ".", "The", "main", "purpose", "of", "this", "paper", "is", "to", "develop", "an", "index", "system", "for", "quantitative", "evaluation", "of", "the", "BtoC", "websites", ",", "which", "dose", "not", "emphasize", "the", "income", "of", "the", "website", "but", "focus", "on", "evaluating", "of", "its", "synthesis", "quality", ".", "We", "hope", "that", "the", "applying", "of", "this", "index", "system", "will", "provide", "the", "technique", "developers", "and", "maintainers", "some", "references", "for", "designing", ",", "appraising", "and", "diagnosing", "their", "e-business", "system", "to", "improve", "its", "quality", "level", ",", "and", "to", "support", "managers", "to", "make", "decisions", "for", "operation", "of", "the", "websites", ".", "Comparing", "to", "the", "fast", "growing", "of", "e-business", "websites", "in", "the", "world", ",", "currently", "we", "can", "rarely", "find", "the", "particular", "research", "on", "the", "evaluation", "index", "system", "of", "business", "website", ".", "QEM", "-LRB-", "The", "website", "quality", "evaluation", "method", "-RRB-", "proposed", "by", "Olsina", "and", "Godoy", "etc.", "in", "1999", "can", "be", "considered", "as", "one", "of", "the", "representative", "approaches", ".", "It", "based", "on", "the", "main", "factors", "to", "evaluate", "the", "quality", "of", "the", "websites", ",", "including", "functionality", "-LRB-", "global", "search", ",", "navigability", ",", "and", "content", "relativity", "-RRB-", ",", "usability", "-LRB-", "website", "map", ",", "addresses", "directory", "-RRB-", ",", "efficiency", "and", "reliability", ".", "In", "2000", ",", "American", "researcher", ",", "Panla", "Solaman", ",", "presented", "e-SERVQUAL", "model", "based", "on", "the", "conventional", "service", "quality", "evaluation", "model", "SERVQUAL", ".", "It", "contains", "some", "factors", "like", "efficiency", ",", "deal", "completeness", ",", "reliability", ",", "privacy", "protection", ",", "responsiveness", ",", "recompense", "and", "contact", "etc.", ".", "In", "the", "same", "year", ",", "another", "American", "researcher", ",", "Hauler", ",", "introduced", "an", "e-QUAL", "model", "which", "includes", "the", "factors", "of", "content", ",", "accessibility", ",", "navigability", ",", "design", "and", "presentation", ",", "responsiveness", ",", "background", ",", "personalization", "and", "customization", ",", "etc.", ".", "In", "2004", ",", "F.J.", "Miranda", "Gonzalez", "and", "T.M.Banegil", "Palacios", "developed", "an", "universal", "evaluation", "index", "system", "WIS", "-LRB-", "Web", "Assessment", "Index", "-RRB-", "that", "can", "be", "employed", "to", "assess", "websites", "by", "different", "organizations", ".", "It", "consists", "of", "four", "indexes", "of", "accessibility", ",", "navigability", ",", "speed", "and", "content", ".", "-LSB-", "1", "-RSB-", "However", ",", "the", "universal", "index", "system", "can", "not", "measure", "a", "website", "exactly", "and", "absolutely", "due", "to", "the", "industry", "specialty", ",", "organizational", "characteristics", "and", "different", "usages", ".", "One", "of", "the", "representative", "researches", "is", "Mr.", "ZhongHai", "Li", "'s", "paper", "about", "ergonomics", "standard", "of", "online", "store", ".", "It", "assesses", "the", "business", "websites", "by", "testing", "if", "the", "design", "of", "the", "website", "coincides", "with", "the", "shopping", "process", "of", "online", "consumers", ".", "This", "standard", "has", "five", "factors", ",", "such", "as", "search", "and", "browse", ",", "merchandise", "information", ",", "shopping", "cart", ",", "register", "and", "pay", ",", "service", "and", "support", ".", "-LSB-", "4", "-RSB-", "Another", "index", "system", "for", "small", "and", "medium", "business", "websites", "covers", "the", "factors", "of", "general", "features", ",", "design", ",", "promotion", ",", "information", "and", "the", "others", ".", "-LSB-", "5", "-RSB-", "Here", "we", "list", "our", "major", "findings", "from", "the", "previous", "researches", ":", "2.1", "Unreasonable", "Selection", "of", "the", "Index", "Some", "research", "consider", "not", "only", "the", "original", "design", "but", "also", "the", "factors", "such", "as", "promotion", "and", "income", "of", "business", "website", ".", "75", "Some", "evaluation", "systems", "have", "correlative", "or", "contradictive", "indexes", ".", "For", "example", ",", "it", "considers", "the", "download", "speed", ",", "at", "the", "same", "time", ",", "it", "requires", "the", "web", "designers", "not", "to", "excessively", "use", "flash", "and", "sounds", "to", "slow", "down", "the", "speed", ".", "2.2", "Unilateral", "Evaluation", "Most", "of", "the", "research", "takes", "the", "users", "'", "view", "to", "evaluate", "the", "function", "and", "design", "of", "website", ".", "It", "treats", "the", "business", "system", "as", "a", "`", "black", "box", "'", "and", "ignores", "the", "impact", "of", "system", "performance", "on", "the", "websites", "quality", ".", "But", "considering", "the", "factors", "of", "system", "performance", "alone", "is", "also", "not", "a", "complete", "evaluation", "for", "improving", "service", "quality", "of", "website", ".", "2.3", "Lack", "of", "a", "Complete", "Set", "of", "Quality", "Synthesis", "Evaluation", "System", "A", "complete", "set", "of", "tool", "to", "evaluate", "the", "websites", "must", "include", "the", "following", "important", "elements", ":", "categories", ",", "factors", ",", "weights", ",", "rankings", "standard", "and", "assessment", "model", ".", "So", "far", ",", "we", "have", "not", "seen", "any", "literature", "discussing", "complete", "set", "of", "evaluation", "index", "system", "aiming", "at", "the", "quality", "of", "BtoC", "websites", ".", "First", ",", "the", "three", "fundamental", "principles", "we", "need", "to", "follow", "are", "to", "be", "comprehensive", ",", "to", "be", "scientific", "and", "to", "be", "feasible", ".", "We", "should", "evaluate", "all", "the", "facets", "of", "the", "website", "from", "different", "dimensions", "and", "avoid", "missing", "value", "of", "important", "factors", ".", "Moreover", ",", "the", "definition", "of", "the", "evaluation", "index", "should", "be", "accurateobjective", "and", "logical", "so", "it", "can", "eliminate", "the", "impact", "on", "the", "evaluation", "result", "brought", "by", "the", "correlative", "indexes", ".", "Concurrently", ",", "we", "need", "reduce", "the", "quantity", "of", "indexes", "or", "adopt", "the", "simple", "ones", "which", "data", "is", "easier", "to", "be", "collected", ",", "and", "prevent", "from", "complicated", "calculation", "due", "to", "the", "excessive", "indexes", ".", "The", "main", "purpose", "of", "improving", "business", "websites", "is", "to", "serve", "the", "users", "better", ".", "They", "are", "concerned", "only", "about", "the", "websites", "'", "external", "attributes", ",", "such", "as", "content", ",", "function", ",", "presentation", "and", "browse", "speed", ",", "etc.", ".", "So", ",", "evaluating", "only", "by", "taking", "their", "views", "can", "not", "directly", "guide", "to", "develop", ",", "maintain", "and", "administrate", "the", "website", ".", "Just", "like", "treating", "the", "patient", "'s", "symptom", "but", "not", "the", "disease", "itself", ",", "the", "technique", "developer", "or", "maintainer", "can", "not", "radically", "improve", "the", "quality", "of", "their", "websites", "by", "correcting", "system", "structure", "and", "web", "design", "according", "to", "the", "evaluation", "result", ".", "Only", "after", "we", "adopt", "the", "`", "grey", "box", "'", "index", "system", "that", "considers", "both", "efficiency", "of", "business", "website", "and", "performance", "of", "e-business", "system", ",", "we", "can", "establish", "a", "quality", "synthesis", "evaluation", "index", "system", "to", "benefit", "the", "management", "of", "BtoC", "websites", ".", "Selection", "of", "index", "items", "lays", "down", "the", "foundation", "for", "constructing", "evaluation", "index", "system", ".", "After", "we", "thoroughly", "analyze", "the", "evaluation", "objectives", "based", "on", "the", "characteristics", "of", "business", "website", ",", "we", "propose", "an", "initial", "index", "system", "includes", "5", "categories", "and", "totally", "28", "index", "items", "shown", "in", "the", "following", "Table", "1", ".", "Table", "1", "Quality", "evaluation", "indexes", "for", "business", "websites", "Categories", "Indexes", "Function", "Effectiveness", "1", "Integrative", "Function", "2", "Interactive", "Function", "3", "Convenience", "4", "Service", "Personalization", "5", "Website", "Credibility", "6", "Business", "Authorization", "Business", "Information", "7", "Accuracy", "8", "Authoritativeness", "9", "Variety", "in", "Type", "10", "Inclusiveness", "11", "Uniqueness", "12", "Orderliness", "13", "Timeliness", "14", "Variety", "in", "Search", "Method", "15", "Search", "Effectiveness", "16", "Version", "Internationalization", "Website", "Design", "17", "User", "Interface", "Friendliness", "18", "Development", "Standardization", "19", "Website", "Uniqueness", "20", "Columns", "Originality", "21", "Website", "Structure", "Clarity", "22", "Page", "Style", "Consistency", "23", "Harmonization", "System", "Usability", "24", "System", "Stableness", "25", "Compatibility", "26", "System", "Security", "27", "Self-adaptability", "System", "Efficiency", "28", "System", "Speediness", "Website", "self-adaptability", "refers", "to", "capability", "of", "e-business", "system", "intelligently", "providing", "personalized", "service", "and", "dynamic", "optimizing", "system", "performance", ".", "System", "Efficiency", "refers", "to", "the", "ability", "that", "the", "system", "response", "quickly", "to", "the", "requests", "of", "numbers", "of", "web", "users", ".", "It", "can", "be", "measured", "through", "values", "of", "some", "quantitative", "indexes", ",", "such", "as", "response", "time", ",", "throughput", "or", "utilization", "rate", ",", "etc.", ".", "It", "is", "necessary", "for", "our", "initial", "evaluation", "system", "to", "optimize", "if", "it", "can", "be", "applied", "in", "practice", ".", "First", ",", "the", "indexes", "are", "more", "or", "less", "correlative", "which", "will", "affects", "the", "objectiveness", "of", "the", "evaluation", ".", "Second", ",", "there", "are", "too", "more", "indexes", "that", "will", "result", "in", "lower", "efficiency", ".", "Therefore", ",", "we", "try", "to", "extract", "and", "simplify", "the", "indexes", "by", "using", "R-Hierarchical", "clustering", "method", ".", "Generally", ",", "R", "indicates", "the", "coefficient", "of", "correlation", "between", "two", "items", ".", "R-Hierarchical", "clustering", "method", "is", "usually", "applied", "to", "cluster", "the", "indexes", ".", "The", "steps", "are", "described", "as", "following", ".", "5.1", "Calculate", "Coefficient", "of", "Correlation", "and", "Clustering", "It", "firstly", "treats", "every", "index", "as", "one", "cluster", ".", "So", ",", "we", "have", "28", "clusters", ".", "Then", ",", "coefficient", "of", "correlation", "is", "calculated", "between", "every", "two", "clusters", "by", "minimum-distance", "method", ".", "Next", ",", "the", "two", "clusters", "with", "the", "maximal", "coefficient", "of", "correlation", "are", "clustered", "into", "a", "new", "one", ".", "The", "same", "process", "is", "repeated", "until", "all", "the", "indexes", "are", "clustered", "into", "one", ".", "76", "5.2", "Analyze", "the", "Clustering", "Process", "and", "Determine", "Clusters", "We", "analyze", "the", "variation", "of", "minimum", "coefficient", "of", "correlation", "during", "the", "clustering", "process", "to", "find", "the", "leap", "points", ".", "According", "to", "the", "number", "of", "leap", "points", "and", "the", "knowledge", "of", "special", "field", ",", "we", "can", "eventually", "determine", "how", "many", "clusters", "we", "need", ".", "The", "whole", "process", "is", "illustrated", "in", "the", "following", "Figure", "1", ".", "Figure", "1", "The", "process", "of", "R-Hierarchical", "clustering", "Following", "the", "principle", "of", "simplification", "and", "feasibility", "and", "considering", "the", "characteristics", "of", "BtoC", "website", ",", "we", "cluster", "the", "28", "index", "items", "into", "10", ".", "The", "precision", "rate", "is", "over", "0.75", ".", "5.3", "Calculate", "Correlation", "Index", "and", "Extract", "the", "Representative", "Indexes", "First", ",", "we", "calculate", "the", "correlation", "index", "that", "is", "the", "average", "of", "R", "between", "one", "index", "and", "every", "other", "index", "in", "the", "same", "cluster", ".", "1", "2", "2", "=", "j", "j", "m", "r", "R", "mi", "in", "this", "formula", "is", "the", "number", "of", "the", "indexes", "in", "the", "cluster", "that", "index", "Xj", "belongs", "to", ".", "Then", ",", "we", "select", "the", "index", "with", "the", "maximal", "correlation", "index", "in", "the", "total", "10", "clusters", "individually", "and", "identify", "10", "of", "them", "as", "the", "most", "representative", "indexes", ".", "Finally", ",", "the", "weights", "of", "the", "indexes", "are", "derived", "by", "the", "expert", "grade", "method", ".", "The", "final", "indexes", "and", "their", "weights", "are", "shown", "in", "the", "following", "table", "2", ".", "Table", "2", "The", "final", "indexes", "and", "their", "weights", "Category", "Weight", "Index", "Weight", "1.1", "Service", "Personalization", "0.10", "Function", "Effectiveness", "0.22", "1.2", "Website", "Credibility", "0.12", "2.1", "Information", "Inclusiveness", "0.10", "Business", "Information", "0.18", "2.2", "Version", "Internationalization", "0.08", "3.1", "Columns", "Originality", "0.09", "Website", "Design", "0.28", "3.2", "Website", "Structure", "Clarity", "0.10", "3.3", "Harmonization", "0.09", "4.1", "System", "Stableness", "0.10", "System", "Usability", "0.22", "4.2", "System", "Security", "0.12", "System", "Efficiency", "0.10", "5.1", "System", "Speediness", "0.10", "In", "this", "paper", ",", "we", "have", "proposed", "an", "index", "system", "for", "quality", "synthesis", "evaluation", "and", "diagnosis", "of", "the", "BtoC", "websites", "following", "the", "`", "Grey", "Box", "'", "evaluation", "principle", ",", "and", "scientifically", "determined", "and", "simplified", "the", "index", "items", ".", "Usually", ",", "factor", "analysis", "or", "principal", "component", "analysis", "is", "used", "to", "solve", "the", "problem", "of", "common-factor", "and", "multiple", "indexes", ".", "But", "these", "methods", "are", "only", "suitable", "for", "the", "quantitative", "indexes", ",", "and", "the", "evaluation", "process", "is", "not", "truly", "simplified", ".", "Because", "the", "new", "index", "is", "the", "linear", "function", "of", "some", "original", "ones", ",", "it", "still", "needs", "to", "calculate", "the", "value", "of", "new", "indexes", "by", "collecting", "all", "the", "values", "of", "the", "original", "ones", ".", "In", "our", "index", "system", ",", "most", "of", "index", "is", "descriptive", "one", ".", "So", "we", "have", "finalized", "the", "indexes", "by", "using", "the", "R-Hierarchical", "clustering", "method", ".", "It", "really", "has", "reduced", "the", "number", "of", "the", "evaluation", "indexes", "without", "losing", "the", "major", "information", "from", "the", "original", "indexes", ".", "Furthermore", ",", "it", "has", "effectively", "avoided", "the", "impact", "of", "common-factors", "on", "the", "evaluation", "result", ".", "Only", "the", "index", "of", "system", "efficiency", "can", "be", "measured", "through", "quantitative", "sub-indexes", "such", "as", "response", "time", ",", "etc.", ".", "Most", "of", "depictive", "indexes", "are", "subjective", "and", "fuzzy", ".", "In", "view", "of", "this", ",", "we", "should", "use", "fuzzy", "comprehensive", "analysis", "method", "to", "evaluate", "to", "get", "more", "efficiency", "result", ".", "In", "our", "future", "work", "we", "are", "intended", "to", "propose", "an", "evaluation", "model", "and", "conduct", "evaluation", "to", "some", "famous", "domestic", "BtoC", "websites", "to", "prove", "if", "this", "index", "system", "is", "scientific", "and", "feasible", ".", "Moreover", ",", "we", "will", "improve", "this", "set", "of", "index", "system", "including", "evaluation", "model", "to", "make", "the", "whole", "set", "of", "index", "system", "more", "feasibility", ".", "-LSB-", "1", "-RSB-", "F.J.", "Miranda", "Gonzalez", ",", "T.M.", "Banegil", "Palacios", ",", "Quantitative", "evaluation", "of", "commercial", "web", "sites", ":", "an", "empirical", "study", "of", "Spanish", "firms", ",", "International", "Journal", "of", "Information", "Management", ",", "24", "-LRB-", "2004", "-RRB-", "313-328", "-LSB-", "2", "-RSB-", "Chang", "Liu", ",", "Kirk", "P.", "Amett", ",", "Exploring", "the", "factors", "associated", "with", "Web", "site", "success", "in", "the", "context", "of", "electronic", "commerce", ",", "Information", "&", "Management", ",", "38", "-LRB-", "2000", "-RRB-", "23-33", "-LSB-", "3", "-RSB-", "Evans", ",", "J.", "R.", ",", "&", "King", ",", "V.", "E.", ".", "Business-to-business", "marketing", "and", "the", "World", "Wide", "Web", ":", "Planning", ",", "managing", "and", "assessing", "web", "sites", ".", "Industrial", "Marketing", "Management", ",", "28", "-LRB-", "1999", "-RRB-", "343", "358", "-LSB-", "4", "-RSB-", "Zhonghai", "Li", ",", "Jianqiao", "Liao", ",", "Hui", "Xiao", ";", "the", "analyze", "of", "work", "efficiency", "on", "webshop", "design", "in", "China", ";", "human", "work", "efficiency", ";", "4", "-LRB-", "2002", "-RRB-", "43-45", "-LSB-", "5", "-RSB-", "Research", "a", "index", "system", "for", "evaluation", "of", "on", "enterprise", "website", ",", "http://www.365un.com/", "xmb/viewthread.php", "?", "tid", "=", "1", "998", "77"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["clustering", "business website", "quality synthesis evaluation", "system performance", "evaluation system", "correlation index"], "abstractive_keyphrases": ["b2c websites", "quality evaluation index", "r-hierarchical clustering method", "representitive indexes", "fuzzy analysis", "index optimization", "r-hierarchical clustering", "e-commerce"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "41", "document": ["Autonomous", "and", "Distributed", "Node", "Recovery", "in", "Wireless", "Sensor", "Networks", "Intrusion", "or", "misbehaviour", "detection", "systems", "are", "an", "important", "and", "widely", "accepted", "security", "tool", "in", "computer", "and", "wireless", "sensor", "networks", ".", "Their", "aim", "is", "to", "detect", "misbehaving", "or", "faulty", "nodes", "in", "order", "to", "take", "appropriate", "countermeasures", ",", "thus", "limiting", "the", "damage", "caused", "by", "adversaries", "as", "well", "as", "by", "hard", "or", "software", "faults", ".", "So", "far", ",", "however", ",", "once", "detected", ",", "misbehaving", "nodes", "have", "just", "been", "isolated", "from", "the", "rest", "of", "the", "sensor", "network", "and", "hence", "are", "no", "longer", "usable", "by", "running", "applications", ".", "In", "the", "presence", "of", "an", "adversary", "or", "software", "faults", ",", "this", "proceeding", "will", "inevitably", "lead", "to", "an", "early", "and", "complete", "loss", "of", "the", "whole", "network", ".", "For", "this", "reason", ",", "we", "propose", "to", "no", "longer", "expel", "misbehaving", "nodes", ",", "but", "to", "recover", "them", "into", "normal", "operation", ".", "In", "this", "paper", ",", "we", "address", "this", "problem", "and", "present", "a", "formal", "specification", "of", "what", "is", "considered", "a", "secure", "and", "correct", "node", "recovery", "algorithm", "together", "with", "a", "distributed", "algorithm", "that", "meets", "these", "properties", ".", "We", "discuss", "its", "requirements", "on", "the", "soft", "-", "and", "hardware", "of", "a", "node", "and", "show", "how", "they", "can", "be", "fulfilled", "with", "current", "and", "upcoming", "technologies", ".", "The", "algorithm", "is", "evaluated", "analytically", "as", "well", "as", "by", "means", "of", "extensive", "simulations", ",", "and", "the", "findings", "are", "compared", "to", "the", "outcome", "of", "a", "real", "implementation", "for", "the", "BTnode", "sensor", "platform", ".", "The", "results", "show", "that", "recovering", "sensor", "nodes", "is", "an", "expensive", ",", "though", "feasible", "and", "worthwhile", "task", ".", "Moreover", ",", "the", "proposed", "program", "code", "update", "algorithm", "is", "not", "only", "secure", "but", "also", "fair", "and", "robust", ".", "C.", "2.0", "-LSB-", "Computer-communication", "networks", "-RSB-", ":", "General-Security", "and", "protection", "Algorithms", ",", "Reliability", ",", "Security", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SASN", "'", "06", ",", "October", "30", ",", "2006", ",", "Alexandria", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-554-1", "/", "06/0010", "...", "$", "5.00", ".", "Wireless", "sensor", "networks", "-LRB-", "WSNs", "-RRB-", "consist", "of", "many", "wireless", "communicating", "sensor", "nodes", ".", "Essentially", ",", "these", "are", "mi-crocontrollers", "including", "a", "communication", "unit", "and", "a", "power", "supply", ",", "as", "well", "as", "several", "attached", "sensors", "to", "examine", "the", "environment", ".", "Sensor", "nodes", "typically", "have", "very", "limited", "computing", "and", "storage", "capacities", "and", "can", "only", "communicate", "with", "their", "direct", "neighbourhood", ".", "In", "addition", ",", "WSNs", "have", "to", "work", "unattended", "most", "of", "the", "time", "as", "their", "operation", "area", "can", "not", "or", "must", "not", "be", "visited", ".", "Reasons", "can", "be", "that", "the", "area", "is", "inhospitable", ",", "unwieldy", ",", "or", "ecologically", "too", "sensitive", "for", "human", "visitation", ";", "or", "that", "manual", "maintenance", "would", "just", "be", "too", "expensive", ".", "More", "and", "more", ",", "WSN", "applications", "are", "supposed", "to", "operate", "in", "hostile", "environments", ",", "where", "their", "communication", "might", "be", "overheard", "and", "nodes", "can", "be", "removed", "or", "manipu-lated", ".", "Regarding", "attacks", "on", "sensor", "networks", ",", "one", "differentiates", "between", "so", "called", "outsider", "and", "insider", "attacks", "-LSB-", "21", "-RSB-", ".", "In", "the", "former", ",", "a", "potential", "attacker", "tries", "to", "disclose", "or", "influence", "a", "confidential", "outcome", "without", "participating", "in", "its", "computation", ";", "for", "instance", ",", "by", "intercepting", ",", "modifying", ",", "or", "adding", "messages", ".", "In", "the", "latter", ",", "by", "contrast", ",", "an", "attacker", "appears", "as", "an", "adequate", "member", "of", "the", "WSN", "by", "either", "plausibly", "impersonating", "regular", "nodes", "or", "by", "capturing", "and", "compromising", "them", ".", "Cryptographic", "methods", ",", "such", "as", "encrypting", "or", "signing", "messages", ",", "are", "an", "effective", "protection", "against", "attacks", "from", "outside", "the", "network", ",", "but", "are", "of", "only", "limited", "help", "against", "insider", "attacks", ".", "Once", "an", "adversary", "possesses", "one", "or", "several", "valid", "node", "identities", "-LRB-", "including", "the", "associated", "keys", "-RRB-", ",", "it", "can", "actively", "participate", "in", "the", "operations", "of", "the", "WSN", "and", "influence", "the", "computed", "results", ".", "Intrusion", "or", "misbehaviour", "detection", "systems", "-LRB-", "IDS", "-RRB-", ",", "on", "the", "other", "hand", ",", "are", "an", "important", "and", "widely", "accepted", "security", "tool", "against", "insider", "attacks", "-LSB-", "18", ",", "21", "-RSB-", ".", "They", "allow", "for", "the", "detection", "of", "malicious", "or", "failed", "nodes", "and", "the", "application", "of", "appropriate", "countermeasures", ".", "So", "far", ",", "however", ",", "once", "detected", ",", "misbehaving", "nodes", "have", "just", "been", "isolated", "from", "the", "rest", "of", "the", "network", "and", "hence", "are", "no", "longer", "usable", "by", "running", "applications", ".", "In", "the", "presence", "of", "an", "adversary", "or", "software", "faults", ",", "this", "proceding", "will", "inevitably", "result", "in", "an", "early", "and", "complete", "loss", "of", "the", "whole", "network", ".", "Therefore", ",", "not", "only", "the", "detection", "of", "misbehaving", "nodes", "is", "important", ",", "but", "also", "the", "selection", "and", "application", "of", "effective", "countermeasures", ".", "Their", "aim", "must", "not", "be", "to", "simply", "expel", "suspected", "nodes", "but", "to", "recover", "them", "into", "correct", "operation", ".", "In", "combination", ",", "the", "advantages", "of", "an", "IDS", "together", "with", "the", "appropriate", "recov-113", "ery", "measures", "are", "manifold", ".", "Not", "only", "do", "they", "help", "in", "case", "of", "program", "faults", "-LRB-", "e.g.", ",", "deadlocks", "or", "crashes", "-RRB-", "but", "even", "if", "an", "attacker", "manages", "to", "capture", "a", "node", "and", "to", "abuse", "it", "for", "his", "own", "purposes", ",", "there", "is", "a", "chance", "that", "the", "aberrant", "behaviour", "of", "this", "node", "will", "be", "detected", "and", "the", "node", "be", "recovered", ",", "thus", "nullifying", "the", "attack", ".", "However", ",", "due", "to", "the", "size", "of", "sensor", "networks", ",", "both", "the", "IDS", "functionality", "as", "well", "as", "the", "recovery", "measures", "should", "be", "autonomously", "executed", "by", "the", "involved", "nodes", "in", "a", "distributed", "and", "cooperative", "manner", "and", "without", "the", "need", "for", "central", "instances", "with", "extended", "functionality", ".", "Motivated", "by", "the", "above", "mentioned", "insights", ",", "this", "paper", "focuses", "on", "autonomous", "an", "distributed", "node", "recovery", "in", "wireless", "sensor", "networks", "and", "proposes", "three", "alternative", "countermeasures", "to", "node", "expelling", ";", "namely", "to", "switch", "a", "node", "off", ",", "to", "restart", "it", ",", "and", "to", "update", "its", "program", "code", ".", "We", "formally", "specify", "what", "we", "consider", "a", "secure", "and", "correct", "recovery", "algorithm", ",", "present", "a", "distributed", "algorithm", "which", "meets", "these", "properties", ",", "and", "reason", "why", "it", "can", "help", "to", "extend", "the", "overall", "lifetime", "of", "a", "sensor", "network", ".", "In", "addition", ",", "we", "discuss", "the", "limitations", "of", "the", "proposed", "countermeasures", ",", "show", "which", "hard-and", "software", "parts", "of", "a", "corrupted", "node", "must", "still", "work", "correctly", "to", "make", "them", "applicable", ",", "and", "explain", "how", "this", "can", "be", "achieved", "with", "current", "and", "upcoming", "technologies", ".", "More", "precisely", ",", "the", "contributions", "of", "this", "paper", "are", "as", "follows", ":", "We", "propose", "to", "no", "longer", "expel", "misbehaving", "nodes", ",", "but", "to", "either", "-LRB-", "i", "-RRB-", "switch", "them", "off", ",", "-LRB-", "ii", "-RRB-", "restart", "them", ",", "or", "-LRB-", "iii", "-RRB-", "update", "their", "program", "code", ".", "We", "give", "a", "formal", "specification", "of", "a", "secure", "and", "correct", "recovery", "algorithm", ".", "We", "present", "a", "provably", "secure", "and", "robust", "distributed", "node", "recovery", "algorithm", ".", "We", "discuss", "the", "requirements", "on", "the", "soft", "-", "and", "hardware", "of", "a", "node", "in", "order", "to", "make", "the", "countermeasures", "applicable", "and", "show", "how", "they", "can", "be", "fulfilled", "with", "current", "and", "upcoming", "technologies", ".", "The", "algorithm", "is", "evaluated", "analytically", "as", "well", "as", "by", "means", "of", "extensive", "simulations", "and", "the", "findings", "are", "compared", "to", "the", "outcome", "of", "a", "real", "implementation", "for", "the", "BTnode", "sensor", "platform", ".", "The", "results", "show", "that", "recovering", "sensor", "nodes", "is", "an", "expensive", ",", "though", "feasible", "and", "worthwhile", "task", ".", "Moreover", ",", "the", "proposed", "program", "code", "update", "algorithm", "is", "not", "only", "provably", "secure", "but", "also", "fair", "and", "robust", ".", "It", "distributes", "the", "update", "load", "equally", "over", "all", "participating", "nodes", "and", "terminates", "as", "long", "as", "at", "least", "one", "of", "them", "remains", "correct", ".", "The", "rest", "of", "this", "paper", "is", "organised", "as", "follows", ".", "Section", "1.1", "presents", "the", "related", "work", "in", "the", "area", "of", "intrusion", "detection", "and", "node", "recovery", "in", "wireless", "sensor", "networks", ".", "Section", "2", "states", "the", "required", "definitions", "and", "assumptions", ".", "Section", "3", "specifies", "the", "proposed", "recovery", "algorithm", "whose", "correctness", "is", "proven", "in", "section", "4", ".", "The", "algorithm", "is", "evaluated", "in", "section", "5", "and", "section", "6", "concludes", "the", "paper", ".", "1.1", "Related", "Work", "In", "this", "section", ",", "we", "present", "related", "work", "in", "the", "area", "of", "intrusion", "detection", "in", "wireless", "sensor", "networks", ".", "Additionally", ",", "related", "work", "regarding", "program", "code", "updates", "in", "sensor", "networks", "is", "also", "discussed", ",", "as", "we", "propose", "program", "code", "updates", "as", "a", "mean", "to", "recover", "nodes", ".", "Intrusion", "Detection", "In", "recent", "years", ",", "intrusion", "detection", "systems", "for", "wireless", "sensor", "networks", "have", "become", "a", "major", "research", "issue", "and", "several", "approaches", "have", "been", "proposed", ".", "However", ",", "to", "our", "best", "knowledge", ",", "the", "only", "countermeasure", "applied", "so", "far", "was", "to", "-LRB-", "logically", "-RRB-", "exclude", "malicious", "nodes", ".", "Khalil", ",", "Bagchi", ",", "and", "Nina-Rotaru", "present", "a", "distributed", "IDS", "where", "nodes", "monitor", "the", "communication", "among", "their", "neighbours", "-LSB-", "14", "-RSB-", ".", "For", "each", "monitored", "node", "a", "malignity", "counter", "is", "maintained", "and", "incremented", "whenever", "the", "designated", "node", "misbehaves", ".", "Once", "a", "counter", "exceeds", "a", "predefined", "threshold", ",", "an", "according", "alert", "is", "sent", "to", "all", "neighbours", "and", "if", "enough", "alerts", "are", "received", "the", "accused", "node", "is", "revoked", "from", "the", "neighbourhood", "list", ".", "Hsin", "and", "Liu", "suggest", "a", "two-phase", "timeout", "system", "for", "neighbour", "monitoring", "which", "uses", "active", "probing", "to", "reduce", "the", "probability", "of", "false-positives", "-LSB-", "10", "-RSB-", ".", "A", "rule-based", "IDS", ",", "which", "proceeds", "in", "three", "phases", ",", "is", "proposed", "by", "da", "Silva", "et", "al.", ".", "-LSB-", "5", "-RSB-", ".", "In", "the", "first", "phase", ",", "messages", "are", "overheard", "and", "the", "collected", "information", "is", "filtered", "and", "ordered", ".", "In", "the", "second", "phase", ",", "the", "detection", "rules", "are", "applied", "to", "the", "gathered", "data", "and", "each", "inconsistency", "counted", "as", "a", "failure", ".", "Finally", ",", "in", "the", "third", "phase", ",", "the", "number", "or", "failures", "is", "compared", "to", "the", "expected", "amount", "of", "occasional", "failures", "and", "if", "too", "high", "an", "intrusion", "alert", "is", "raised", ".", "Inverardi", ",", "Mostarda", "and", "Navarra", "introduce", "a", "framework", "which", "enables", "the", "automatic", "translation", "of", "IDS", "specifications", "into", "program", "code", "-LSB-", "12", "-RSB-", ".", "The", "so", "generated", "code", "is", "then", "installed", "on", "the", "sensor", "nodes", "in", "order", "to", "locally", "detect", "violations", "of", "the", "node", "interaction", "policies", ".", "In", "the", "approach", "by", "Herbert", "et", "al.", ".", "-LSB-", "6", "-RSB-", ",", "predefined", "correctness", "properties", "-LRB-", "invariants", "-RRB-", "are", "associated", "with", "conditions", "of", "individual", "nodes", "or", "the", "whole", "network", "and", "program", "code", "to", "verify", "these", "invariants", "is", "automatically", "inserted", "during", "compilation", ".", "A", "reputation-based", "IDS", "framework", "for", "WSNs", "where", "sensor", "nodes", "maintain", "a", "reputation", "for", "other", "nodes", "is", "presented", "by", "Ganeriwal", "and", "Srivastava", "-LSB-", "8", "-RSB-", ".", "It", "uses", "a", "Bayesian", "formula-tion", "for", "reputation", "representation", ",", "update", ",", "and", "integration", ".", "Program", "Code", "Update", "The", "main", "difference", "between", "the", "already", "available", "reprogramming", "algorithms", "and", "the", "proposed", "recovery", "measures", "are", "that", "the", "former", "focus", "on", "the", "propagation", "of", "new", "program", "releases", "among", "all", "nodes", "of", "the", "network", ",", "whereas", "the", "aim", "of", "the", "latter", "is", "the", "local", "and", "autonomous", "update", "of", "a", "single", "node", ".", "Furthermore", ",", "most", "reprogramming", "mechanisms", "do", "not", "care", "about", "security", "at", "all", ",", "or", "rely", "on", "expensive", "public", "key", "cryptography", ".", "Kulkarni", "and", "Wang", "propose", "a", "multihop", "reprogramming", "service", "for", "wireless", "sensor", "networks", "which", "uses", "a", "sender", "selection", "algorithm", "to", "avoid", "collisions", "-LSB-", "16", "-RSB-", ".", "Impala", ",", "a", "middleware", "system", "for", "managing", "sensor", "systems", "is", "presented", "by", "Liu", "and", "Martonosi", "-LSB-", "17", "-RSB-", ".", "Its", "modular", "architecture", "supports", "updates", "to", "the", "running", "system", ".", "An", "application", "consists", "of", "several", "modules", "which", "are", "independently", "transferred", ";", "an", "update", "is", "complete", "if", "all", "its", "modules", "have", "been", "received", ".", "Jeong", "and", "Culler", "introduce", "an", "efficient", "incremental", "network", "programming", "mechanism", "-LSB-", "13", "-RSB-", ".", "Thanks", "to", "the", "usage", "of", "the", "Rsync", "algorithm", ",", "only", "incremental", "changes", "to", "the", "new", "program", "must", "be", "transferred", ".", "A", "secure", "dissemination", "algorithm", "to", "distribute", "new", "program", "releases", "among", "nodes", "is", "presented", "by", "Dutta", "et", "al.", ".", "-LSB-", "7", "-RSB-", ".", "Program", "binaries", "are", "propagated", "as", "a", "sequence", "of", "data", "blocks", "of", "which", "the", "first", "is", "authenticated", "with", "the", "private", "key", "of", "114", "the", "base", "station", "and", "the", "subsequent", "ones", "by", "means", "of", "a", "hash", "chain", ".", "In", "order", "to", "improve", "the", "fault", "tolerance", "of", "the", "sensor", "network", ",", "nodes", "use", "a", "grenade", "timer", "to", "reboot", "period-ically", ".", "During", "the", "boot", "process", "neighboring", "nodes", "are", "asked", "whether", "a", "new", "program", "release", "is", "available", "and", "if", "so", ",", "its", "download", "is", "initiated", ".", "In", "this", "section", ",", "we", "define", "our", "assumptions", "regarding", "the", "observation", "of", "nodes", "and", "the", "network", "communication", "model", ".", "We", "specify", "the", "capabilities", "of", "a", "potential", "adversary", ",", "explain", "what", "we", "consider", "a", "correct", "recover", "algorithm", ",", "and", "discuss", "the", "requirements", "on", "the", "hard", "-", "and", "software", "of", "a", "sensor", "node", ".", "2.1", "Intrusion", "and", "Misbehaviour", "Detection", "Troughout", "this", "paper", ",", "we", "assume", "that", "the", "network", "is", "divided", "into", "N", "C", "so", "called", "observation", "clusters", "C", "i", "=", "-LRB-", "V", "i", ",", "E", "i", "-RRB-", ",", "0", "i", "<", "N", "C", "of", "size", "n", ",", "n", "=", "|", "V", "i", "|", ".", "Within", "a", "cluster", "each", "node", "is", "connected", "to", "each", "other", "-LRB-", "v", "i", ",", "v", "j", "V", "k", ",", "v", "i", "=", "v", "j", ":", "-LCB-", "v", "i", ",", "v", "j", "-RCB-", "E", "k", "-RRB-", "and", "observes", "the", "behaviour", "of", "its", "cluster", "neighbours", ".", "For", "the", "actual", "monitoring", "of", "the", "neighbours", "an", "arbitrary", "IDS", "can", "be", "used", ",", "as", "long", "as", "each", "node", "ends", "up", "with", "an", "-LRB-", "individual", "-RRB-", "decision", "about", "whether", "a", "certain", "node", "behaves", "correct", "or", "malicious", ".", "The", "set", "of", "malicious", "nodes", "in", "a", "cluster", "is", "denoted", "by", "M", "i", "and", "their", "number", "by", "t", ",", "t", "=", "|", "M", "i", "|", "n.", "2.2", "Network", "Model", "In", "the", "following", ",", "p", "s", "-LRB-", "p", "r", "-RRB-", "denotes", "the", "probability", "that", "the", "sending", "-LRB-", "receiving", "-RRB-", "of", "a", "message", "fails", ".", "Thus", ",", "for", "0", "p", "s", ",", "p", "l", "<", "1", "the", "resulting", "probability", "for", "an", "unsuccessful", "transmission", "-LRB-", "packet", "loss", "ratio", ",", "PLR", "-RRB-", "is", "p", "l", ":", "=", "1", "-", "-LRB-", "1", "-", "p", "s", "-RRB-", "-LRB-", "1", "-", "p", "r", "-RRB-", "=", "p", "s", "+", "p", "r", "+", "p", "s", "p", "r", "Additionally", ",", "we", "assume", "that", "there", "exists", "a", "constant", "upper", "bound", "p", "O", "-LRB-", "1", "-RRB-", "on", "the", "transmission", "time", "of", "a", "message", ".", "2.3", "Adversary", "Model", "We", "consider", "an", "omnipresent", "but", "computationally", "bounded", "adversary", "who", "can", "perform", "both", "outsider", "as", "well", "as", "insider", "attacks", ".", "This", "means", "that", "a", "potential", "adversary", "is", "able", "to", "intercept", "and", "create", "arbitrary", "messages", "but", "unable", "to", "decrypt", "or", "authenticate", "messages", "for", "which", "he", "does", "not", "possess", "the", "required", "keys", ".", "We", "further", "assume", "that", "nodes", "can", "be", "either", "logically", "-LRB-", "i.e.", ",", "by", "exploiting", "a", "software", "bug", "-RRB-", "or", "physically", "captured", ".", "However", ",", "the", "time", "to", "compromise", "a", "node", "physically", "is", "considered", "non-negligible", "-LRB-", "i.e.", ",", "it", "takes", "some", "time", "to", "move", "from", "node", "to", "node", "and", "to", "perform", "the", "physical", "manipulations", "-RRB-", "and", "to", "not", "significantly", "decrease", "with", "the", "number", "of", "already", "captured", "nodes", ".", "2.4", "Hard", "-", "and", "Software", "Requirements", "To", "all", "presented", "recovery", "measures", "applies", "that", "they", "are", "only", "applicable", "if", "at", "least", "the", "therefore", "needed", "systems", "of", "the", "corrupt", "node", "in", "the", "following", "denoted", "as", "the", "recovery", "system", "still", "work", "correctly", ".", "In", "order", "to", "achieve", "this", ",", "one", "has", "to", "make", "sure", "that", "the", "recovery", "system", "is", "logically", "and", ",", "if", "feasible", ",", "physically", "protected", ".", "Logical", "Protection", "of", "the", "Recovery", "System", "Logical", "protection", "means", "that", "it", "should", "not", "be", "possible", "for", "a", "running", "application", "to", "prevent", "the", "execution", "of", "the", "recovery", "procedures", ".", "That", "is", ",", "if", "the", "program", "code", "running", "on", "a", "node", "has", "crashed", "or", "been", "corrupted", "by", "an", "adversary", "-LRB-", "e.g.", ",", "by", "exploiting", "a", "security", "hole", "-RRB-", ",", "this", "should", "not", "affect", "the", "integrity", "and", "availability", "of", "the", "recovery", "system", ".", "One", "mechanism", "to", "achieve", "this", "is", "to", "set", "up", "a", "hardware", "interrupt", "which", "can", "not", "be", "suppressed", "or", "redirected", "by", "the", "application", "and", "by", "locating", "the", "dedicated", "interrupt", "routine", "in", "a", "write", "protected", "memory", "area", ".", "Consequently", ",", "on", "each", "interrupt", "request", ",", "control", "is", "handed", "over", "to", "the", "immutable", "interrupt", "routine", "an", "thus", "to", "the", "recovery", "system", ".", "A", "simple", "variant", "of", "this", "mechanism", "in", "which", "a", "grenade", "timer", "period-ically", "reboots", "the", "system", "and", "the", "bootloader", "is", "located", "in", "read", "only", "memory", "-LRB-", "ROM", "-RRB-", "is", "used", "by", "Dutta", "et", "al.", ".", "-LSB-", "7", "-RSB-", ".", "Another", "approach", "would", "be", "to", "misuse", "some", "additionally", "available", "MCUs", "-LSB-", "23", "-RSB-", ",", "for", "example", "the", "ARM", "CPU", "on", "the", "ARM-based", "Bluetooth", "module", "on", "the", "BTnode", ".", "Some", "of", "these", "MCUs", "are", "powerful", "enough", "to", "take", "on", "additional", "tasks", "like", "monitoring", "the", "main", "MCUs", "activities", "or", "rewriting", "the", "application", "memory", ".", "In", "case", "of", "the", "BTnode", "that", "extra", "MCU", "is", "directly", "responsible", "for", "communication", "and", "thus", "it", "would", "be", "guaranteed", "that", "it", "has", "access", "to", "all", "received", "packets", "as", "well", ".", "On", "more", "advanced", "systems", ",", "mechanisms", "as", "provided", "by", "Intel", "'s", "protected", "mode", "-LRB-", "e.g.", ",", "isolated", "memory", "areas", ",", "privilege", "levels", ",", "etc.", "-RRB-", "could", "be", "used", "to", "protect", "the", "recovery", "system", "more", "efficiently", ".", "Current", "technologies", "such", "as", "ARM", "'s", "TrustZone", "-LSB-", "1", "-RSB-", "for", "embedded", "devices", "or", "Intel", "'s", "LaGrande", "technology", "-LSB-", "11", "-RSB-", "go", "even", "further", "and", "enable", "a", "comprehensive", "protection", "of", "the", "CPU", ",", "memory", ",", "and", "peripherals", "from", "software", "attacks", ".", "Physical", "Protection", "of", "the", "Recovery", "System", "The", "physical", "protection", "of", "current", "sensor", "node", "platforms", "is", "very", "poor", "because", "of", "their", "focus", "on", "simple", "maintenance", "-LSB-", "9", "-RSB-", ".", "However", ",", "although", "it", "is", "generally", "agreed", "that", "entirely", "tamper-proof", "sensor", "nodes", "would", "be", "too", "expensive", ",", "current", "trends", "in", "the", "hardware", "development", "of", "embedded", "devices", "indicate", "that", "some", "level", "of", "physical", "protection", "will", "be", "available", "in", "the", "near", "future", "-LSB-", "20", ",", "15", "-RSB-", ".", "Security", "mechanisms", "regarding", "the", "packaging", "of", "sensor", "nodes", "as", ",", "for", "instance", ",", "those", "proposed", "by", "FIPS", "140-2", "level", "2", "-LSB-", "19", "-RSB-", "could", "already", "significantly", "increase", "the", "cost", "for", "an", "adversary", ".", "For", "integrity", "and", "not", "confidentiality", "is", "the", "main", "concern", "with", "the", "recovery", "module", ",", "it", "has", "only", "to", "be", "protected", "against", "manipulations", "but", "not", "against", "unintended", "disclosure", "or", "side-channel", "attacks", ".", "In", "fact", ",", "it", "would", "be", "sufficient", "to", "have", "mechanisms", "which", "render", "a", "node", "useless", "if", "the", "case", "of", "the", "recovery", "system", "was", "opened", ";", "complete", "tamper", "resistance", "is", "not", "required", ".", "2.5", "Correct", "Node", "Recover", "Algorithms", "A", "node", "recovery", "algorithm", "for", "a", "cluster", "C", "i", "=", "-LRB-", "V", "i", ",", "E", "i", "-RRB-", "is", "considered", "correct", "if", "the", "following", "liveness", "and", "safety", "properties", "hold", ":", "L1", "If", "all", "correct", "nodes", "-LRB-", "V", "i", "\\", "M", "i", "-RRB-", "accuse", "a", "node", "m", "V", "i", "to", "be", "faulty", "or", "malicious", ",", "its", "recovery", "process", "will", "finally", "be", "initiated", "with", "high", "probability", ".", "L2", "Once", "the", "recovery", "process", "for", "a", "node", "m", "V", "i", "has", "been", "initiated", ",", "it", "will", "eventually", "terminate", "as", "long", "as", "there", "remain", "at", "least", "k", "1", "correct", "nodes", "V", "i", "\\", "M", "i", ".", "S1", "If", "no", "more", "than", "n-1", "3", "correct", "nodes", "-LRB-", "i.e.", ",", "a", "minority", "-RRB-", "accuse", "another", "correct", "node", "v", "V", "i", "\\", "M", "i", "the", "recovery", "process", "will", "not", "be", "initiated", ".", "115", "S2", "After", "the", "recovery", "process", ",", "a", "node", "m", "V", "i", "must", "either", "-LRB-", "i", "-RRB-", "be", "halted", ",", "-LRB-", "ii", "-RRB-", "contain", "the", "same", "program", "code", "as", "before", ",", "or", "-LRB-", "iii", "-RRB-", "contain", "the", "correct", "program", "code", ".", "The", "two", "liveness", "properties", "L1", "and", "L2", "ensure", "that", "each", "malicious", "node", "is", "recovered", "if", "its", "aberrant", "behaviour", "is", "detected", "by", "enough", "neighbours", ".", "Safety", "property", "S1", "is", "required", "to", "make", "sure", "that", "a", "node", "is", "only", "recovered", "if", "a", "majority", "of", "correct", "nodes", "accuses", "it", "and", "property", "S2", "ensures", "that", "things", "are", "not", "worsened", "by", "applying", "the", "recovery", "process", ".", "In", "this", "section", ",", "we", "present", "a", "distributed", "node", "recovery", "algorithm", "which", "is", "autonomously", "executed", "within", "an", "observation", "cluster", ".", "The", "supported", "recovery", "measures", "are", ":", "node", "shutdown", ",", "node", "restart", ",", "and", "program", "code", "update", ".", "As", "long", "as", "the", "recovery", "module", "of", "an", "otherwise", "faulty", "or", "malicious", "node", "is", "still", "intact", ",", "it", "is", "tried", "to", "recover", "it", "by", "restarting", "it", "or", "updating", "its", "program", "code", ";", "or", "to", "at", "least", "eliminate", "its", "interfering", "influence", "by", "turning", "it", "off", ".", "If", "a", "node", "does", "not", "respond", "to", "any", "of", "these", "measures", ",", "it", "is", "still", "possible", "to", "logically", "expell", "it", ";", "preferably", "by", "means", "of", "a", "reliable", "majority", "decision", "-LSB-", "22", "-RSB-", "to", "avoid", "inconsistencies", "among", "the", "cluster", "members", ".", "3.1", "Description", "of", "the", "Recovery", "Procedure", "The", "proposed", "recovery", "algorithm", "consists", "of", "two", "phases", ".", "In", "the", "first", ",", "so", "called", "accusation", "phase", ",", "nodes", "accuse", "all", "neighbours", "which", "are", "regarded", "as", "being", "malicious", ".", "If", "a", "node", "is", "accused", "by", "at", "least", "two", "third", "of", "its", "neighbours", "it", "initiates", "the", "second", ",", "so", "called", "recovery", "phase", ",", "during", "which", "the", "actual", "countermeasures", "are", "executed", ".", "To", "simplify", "the", "cooperative", "program", "code", "update", ",", "the", "program", "memory", "of", "a", "node", "is", "divided", "into", "F", "frames", "f", "i", ",", "0", "i", "<", "F", "of", "size", "f", "s.", "Additionally", ",", "for", "each", "frame", "f", "i", "its", "corresponding", "hash", "value", "h", "i", ":", "=", "h", "-LRB-", "f", "i", "-RRB-", "is", "computed", ".", "Accusation", "Phase", "Recovery", "Phase", "Round", "1", "Round", "2", "Round", "3", "Figure", "1", ":", "Schematic", "depiction", "of", "a", "recovery", "procedure", "which", "performs", "a", "program", "update", "as", "the", "countermeasure", ".", "Accusation", "Phase", "Nodes", "which", "conclude", "that", "one", "of", "their", "neighbours", "behaves", "maliciously", ",", "send", "it", "an", "authenticated", "accusation", "mes", "sage", "1", ".", "The", "proposed", "countermeasure", "depends", "on", "the", "observed", "aberration", "and", "can", "be", "either", "of", "type", "shutdown", ",", "reset", ",", "or", "update", ",", "if", "the", "node", "should", "be", "halted", ",", "restarted", ",", "or", "its", "program", "code", "updated", ",", "respectively", ".", "Accusation", "messages", "have", "to", "be", "ac-knowledged", "and", "are", "resent", "up", "to", "r", "times", "otherwise", ".", "1", "For", "simplicity", ",", "it", "is", "assumed", "that", "nodes", "can", "accuse", "their", "neighbours", "at", "any", "time", ".", "However", ",", "if", "the", "recovery", "module", "is", "only", "active", "from", "time", "to", "time", ",", "nodes", "could", "of", "course", "also", "actively", "ask", "for", "-LRB-", "pending", "-RRB-", "accusations", ".", "In", "case", "that", "a", "program", "update", "is", "requested", ",", "the", "accusation", "messages", "also", "include", "a", "list", "of", "the", "sender", "'s", "F", "frame", "hash", "values", "h", "i", ".", "They", "represent", "the", "current", "state", "of", "its", "program", "memory", "and", "are", "required", "to", "deduce", "the", "correct", "program", "code", ".", "Therefore", ",", "for", "each", "frame", "f", "i", "not", "only", "its", "hash", "value", "h", "i", "but", "also", "a", "counter", "c", "i", ",", "which", "is", "initialised", "with", "zero", ",", "is", "stored", ".", "Upon", "reception", "of", "a", "accusation", "message", ",", "each", "included", "hash", "value", "is", "compared", "to", "the", "already", "stored", "one", "and", "if", "they", "are", "equal", ",", "c", "i", "is", "incremented", "by", "one", ".", "If", "they", "differ", "and", "c", "i", ">", "0", "the", "counter", "is", "decremented", "by", "one", ";", "otherwise", "-LRB-", "i.e.", ",", "they", "are", "not", "equal", "and", "c", "i", "=", "0", "-RRB-", "the", "stored", "hash", "value", "is", "replaced", "with", "the", "received", "value", ".", "This", "procedure", "ensures", "that", ",", "for", "3t", "<", "n", "-", "1", ",", "every", "h", "i", "will", "contain", "the", "hash", "value", "of", "the", "correct", "program", "code", "frame", "after", "2", "-LRB-", "n-1", "-RRB-", "3", "accusations", "have", "been", "received", "-LRB-", "see", "Proof", "4", "-RRB-", ".", "Recovery", "Phase", "When", "a", "node", "m", "has", "received", "2", "-LRB-", "n-1", "-RRB-", "3", "accusations", "of", "a", "certain", "recovery", "type", ",", "the", "corresponding", "measure", "is", "initiated", ".", "In", "the", "non", "trivial", "case", "of", "a", "distributed", "program", "code", "update", ",", "the", "correct", "program", "code", "has", "therefore", "to", "be", "down-loaded", "from", "the", "neighboring", "nodes", ".", "Otherwise", ",", "the", "node", "is", "just", "rebooted", "or", "shutdown", "and", "no", "further", "communication", "or", "coordination", "is", "required", ".", "The", "autonomous", "program", "code", "transfer", "is", "performed", "in", "rounds", "of", "which", "each", "starts", "with", "the", "broadcasting", "of", "an", "authenticated", "update", "request", "message", "by", "the", "accused", "node", "m.", "Essentially", ",", "the", "message", "contains", "a", "list", "of", "so", "called", "frame", "descriptors", "-LRB-", "u", "i", ",", "Q", "i", "-RRB-", ",", "consisting", "of", "a", "node", "id", "u", "i", "and", "a", "set", "of", "requested", "frame", "numbers", "Q", "i", ":", "=", "-LCB-", "r", "0", ",", "r", "1", ",", "...", ",", "r", "|", "Q", "|", "-1", "-RCB-", ".", "Upon", "reception", "of", "a", "valid", "request", ",", "a", "node", "v", "seeks", "for", "descriptors", "which", "contain", "its", "own", "id", "-LRB-", "i.e.", ",", "u", "i", "=", "v", "-RRB-", ".", "If", "present", ",", "for", "each", "requested", "frame", "number", "r", "j", "Q", "i", "the", "corresponding", "program", "code", "frame", "is", "sent", "back", "to", "m", "with", "an", "update", "message", ".", "All", "received", "program", "code", "fragments", "f", "i", ",", "in", "turn", ",", "are", "verified", "by", "m", "using", "the", "stored", "hash", "values", "h", "i", ".", "Valid", "code", "fragments", "are", "copied", "into", "the", "program", "memory", "2", "and", "the", "frame", "marked", "as", "updated", ".", "If", "for", "a", "duration", "of", "round", "no", "update", "messages", "arrive", "although", "there", "are", "still", "some", "outstanding", "frames", ",", "a", "new", "update", "request", "message", "is", "broadcasted", "and", "the", "next", "round", "initiated", ".", "As", "soon", "as", "all", "frames", "have", "been", "received", ",", "the", "node", "is", "rebooted", "and", "thus", "the", "new", "program", "code", "activated", ".", "In", "order", "to", "distribute", "the", "transfer", "load", "equally", "among", "all", "participating", "nodes", "and", "to", "ensure", "that", "the", "update", "procedure", "terminates", "if", "at", "least", "one", "correct", "node", "is", "available", ",", "the", "frame", "descriptors", "are", "determined", "as", "follows", ":", "First", ",", "the", "n", "-", "1", "participating", "nodes", "are", "ordered", "such", "that", "id", "-LRB-", "v", "0", "-RRB-", "<", "id", "-LRB-", "v", "1", "-RRB-", "<", "...", "<", "id", "-LRB-", "v", "n-2", "-RRB-", ".", "Next", ",", "the", "F", "memory", "frames", "are", "divided", "into", "n", "-", "1", "sectors", "of", "length", "l", ":", "=", "F", "n-1", ".", "Finally", ",", "to", "each", "node", "one", "such", "fragment", "is", "assigned", "per", "update", "round", "in", "a", "round", "robin", "fashion", ".", "Thus", ",", "in", "round", "i", "node", "v", "j", ",", "is", "responsible", "for", "the", "segment", "s", ":", "=", "j", "+", "i", "mod", "-LRB-", "n", "-", "1", "-RRB-", ",", "that", "is", ",", "for", "the", "frames", "sl", "to", "min", "-LRB-", "-LRB-", "s", "+", "1", "-RRB-", "l", "-", "1", ",", "F", "-", "1", "-RRB-", ".", "In", "the", "first", "round", ",", "for", "example", ",", "the", "first", "node", "is", "responsible", "for", "the", "first", "l", "frames", ",", "the", "second", "node", "for", "the", "second", "l", "frames", "and", "so", "on", ".", "In", "the", "second", "round", ",", "however", ",", "the", "assignment", "is", "rotated", "by", "one", "and", "thus", "the", "outstanding", "frames", "of", "the", "first", "sector", "are", "now", "requested", "from", "the", "second", "node", ".", "This", "process", "has", "to", "be", "continued", "until", "all", "required", "frames", "have", "been", "received", ".", "2", "On", "most", "sensor", "node", "platforms", ",", "new", "code", "is", "not", "directly", "written", "into", "program", "memory", "but", "into", "a", "therefore", "available", "Flash", "memory", "and", "installed", "during", "a", "subsequent", "reboot", ".", "116", "Extensions", "and", "Optimisations", "Even", "though", "not", "all", "but", "only", "the", "subset", "of", "modified", "program", "code", "frames", "has", "to", "be", "requested", ",", "updating", "a", "node", "is", "still", "a", "time", "consuming", "and", "expensive", "task", ".", "Consequently", ",", "the", "amount", "of", "update", "load", "that", "a", "specific", "node", "can", "cause", "should", "be", "restricted", ",", "for", "instance", "by", "limiting", "the", "number", "of", "update", "messages", "that", "are", "sent", "to", "it", ".", "To", "further", "reduce", "the", "load", "for", "the", "participating", "nodes", ",", "the", "F", "hash", "values", "h", "i", "in", "an", "accusation", "message", "can", "be", "replaced", "by", "the", "hash", "value", "h", ":", "=", "h", "-LRB-", "h", "0", "|", "|", "h", "1", "|", "|", "...", "|", "|", "h", "F", "-1", "-RRB-", ".", "Once", "the", "correct", "value", "h", "has", "been", "determinded", "using", "the", "corresponding", "counter", "c", "in", "analogy", "to", "the", "above", "mentioned", "algorithm", ",", "the", "actual", "hash", "values", "can", "be", "requested", "from", "the", "neighbours", "in", "a", "second", "step", "and", "verified", "with", "h", ".", "In", "order", "to", "decrease", "the", "total", "number", "of", "required", "accusation", "messages", ",", "more", "than", "one", "recovery", "measure", "per", "message", "should", "be", "allowed", ".", "Alternatively", ",", "the", "measures", "could", "be", "hierarchically", "organised", ",", "having", "the", "type", "update", "also", "counting", "as", "a", "reboot", "or", "shutdown", "request", ".", "3.2", "Algorithms", "Listing", "1", ":", "Algorithm", "for", "an", "accusing", "node", "v.", "v", "a", "r", "a", "c", "c", "r", "e", "t", "r", "i", "e", "s", "-LSB-", "n", "-", "1", "-RSB-", ":", "=", "-LCB-", "0", ",", "...", ",0", "-RCB-", "a", "c", "c", "f", "a", "i", "l", "e", "d", "-LSB-", "n", "-", "1", "-RSB-", ":", "=", "-LCB-", "false", ",", "...", ",", "false", "-RCB-", "n", "u", "m", "u", "p", "d", "a", "t", "e", "s", "-LSB-", "n", "-", "1", "-RSB-", ":", "=", "-LCB-", "0", ",", "...", ",0", "-RCB-", "upon", "m", "i", "s", "b", "e", "h", "a", "v", "i", "o", "r", "d", "e", "t", "e", "c", "t", "i", "o", "n", "o", "f", "n", "o", "d", "e", "m", "c", "h", "o", "o", "s", "e", "an", "a", "p", "p", "r", "o", "p", "r", "i", "a", "t", "e", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", "-", "t", "y", "p", "e", "a", "m", "i", "f", "a", "m", "=", "acc", "update", "s", "e", "n", "d", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", ",", "v", ",", "m", ",", ",", "a", "m", ",", "-LCB-", "h", "-LRB-", "f", "0", "-RRB-", ",", "...", ",", "h", "-LRB-", "f", "F", "-1", "-RRB-", "-RCB-", "t", "o", "m", "e", "l", "s", "e", "s", "e", "n", "d", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", ",", "v", ",", "m", ",", ",", "a", "m", "t", "o", "m", "s", "t", "a", "r", "t", "t", "i", "m", "e", "r", "A", "m", "upon", "r", "e", "c", "e", "p", "t", "i", "o", "n", "o", "f", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", "a", "c", "k", ",", "m", ",", ",", "a", "f", "r", "o", "m", "m", "s", "t", "o", "p", "t", "i", "m", "e", "r", "A", "m", "a", "c", "c", "r", "e", "t", "r", "i", "e", "s", "-LSB-", "m", "-RSB-", ":", "=", "0", "upon", "t", "i", "m", "e", "o", "u", "t", "o", "f", "t", "i", "m", "e", "r", "A", "m", "i", "f", "a", "c", "c", "r", "e", "t", "r", "i", "e", "s", "-LSB-", "m", "-RSB-", "<", "max", "acc", "retries", "a", "c", "c", "r", "e", "t", "r", "i", "e", "s", "-LSB-", "m", "-RSB-", ":", "=", "a", "c", "c", "r", "e", "t", "r", "i", "e", "s", "-LSB-", "m", "-RSB-", "+", "1", "s", "e", "n", "d", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", ",", "v", ",", "m", ",", ",", "a", "m", ",", "-LCB-", "h", "-LRB-", "f", "0", "-RRB-", ",", "...", ",", "h", "-LRB-", "f", "F", "-1", "-RRB-", "-RCB-", "t", "o", "m", "s", "t", "a", "r", "t", "t", "i", "m", "e", "r", "A", "m", "e", "l", "s", "e", "a", "c", "c", "f", "a", "i", "l", "e", "d", "-LSB-", "m", "-RSB-", ":", "=", "true", "upon", "r", "e", "c", "e", "p", "t", "i", "o", "n", "o", "f", "u", "p", "d", "a", "t", "e", "r", "e", "q", "u", "e", "s", "t", ",", "m", ",", ",", "R", "f", "r", "o", "m", "m", "i", "f", "n", "u", "m", "u", "p", "d", "a", "t", "e", "s", "-LSB-", "m", "-RSB-", "<", "m", "a", "x", "u", "p", "d", "a", "t", "e", "s", "and", "-LRB-", "u", ",", "-LCB-", "r", "0", ",", "...", ",", "r", "k", "-RCB-", "-RRB-", "R", "n", "u", "m", "u", "p", "d", "a", "t", "e", "s", "-LSB-", "m", "-RSB-", ":", "=", "n", "u", "m", "u", "p", "d", "a", "t", "e", "s", "-LSB-", "m", "-RSB-", "+", "1", "r", "i", ",", "0", "i", "k", "s", "e", "n", "d", "u", "p", "d", "a", "t", "e", ",", "v", ",", "m", ",", "r", "i", ",", "f", "r", "i", "t", "o", "m", "Listing", "2", ":", "Algorithm", "for", "the", "accused", "node", "m.", "v", "a", "r", "u", "p", "d", "a", "t", "i", "n", "g", ":", "=", "false", "n", "u", "m", "a", "c", "c", "r", "e", "s", "e", "t", ":", "=", "0", "n", "u", "m", "a", "c", "c", "u", "p", "d", "a", "t", "e", ":", "=", "0", "n", "u", "m", "a", "c", "c", "s", "h", "u", "t", "d", "o", "w", "n", ":", "=", "0", "s", "t", "a", "r", "t", "n", "o", "d", "e", ":", "=", "0", "a", "c", "c", "r", "e", "s", "e", "t", "r", "e", "c", "v", "d", "-LSB-", "n", "-", "1", "-RSB-", ":", "=", "-LCB-", "0", ",", "...", ",0", "-RCB-", "a", "c", "c", "u", "p", "d", "a", "t", "e", "r", "e", "c", "v", "d", "-LSB-", "n", "-", "1", "-RSB-", ":", "=", "-LCB-", "0", ",", "...", ",0", "-RCB-", "a", "c", "c", "s", "h", "u", "t", "d", "o", "w", "r", "e", "c", "v", "d", "-LSB-", "n", "-", "1", "-RSB-", ":", "=", "-LCB-", "0", ",", "...", ",0", "-RCB-", "f", "r", "a", "m", "e", "u", "p", "d", "a", "t", "e", "d", "-LSB-", "F", "-", "1", "-RSB-", ":", "=", "-LCB-", "false", ",", "...", ",", "false", "-RCB-", "f", "r", "a", "m", "e", "d", "i", "g", "e", "s", "t", "-LSB-", "F", "-", "1", "-RSB-", ":", "=", "-LCB-", "h", "-LRB-", "f", "0", "-RRB-", ",", "...", ",", "h", "-LRB-", "f", "F", "-1", "-RRB-", "-RCB-", "f", "r", "a", "m", "e", "c", "o", "u", "n", "t", "-LSB-", "F", "-", "1", "-RSB-", ":", "=", "-LCB-", "0", ",", "...", ",0", "-RCB-", "upon", "r", "e", "c", "e", "p", "t", "i", "o", "n", "o", "f", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", ",", "v", ",", "m", ",", ",", "acc", "reset", "f", "r", "o", "m", "v", "s", "e", "n", "d", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", "a", "c", "k", ",", "m", ",", ",", "acc", "reset", "t", "o", "v", "i", "f", "n", "o", "t", "u", "p", "d", "a", "t", "i", "n", "g", "and", "n", "o", "t", "a", "c", "c", "r", "e", "s", "e", "t", "r", "e", "c", "v", "d", "-LSB-", "v", "-RSB-", "a", "c", "c", "r", "e", "s", "e", "t", "r", "e", "c", "v", "d", "-LSB-", "v", "-RSB-", ":", "=", "true", "n", "u", "m", "a", "c", "c", "r", "e", "s", "e", "t", ":", "=", "n", "u", "m", "a", "c", "c", "r", "e", "s", "e", "t", "+", "1", "i", "f", "n", "o", "t", "u", "p", "d", "a", "t", "i", "n", "g", "and", "n", "u", "m", "a", "c", "c", "r", "e", "s", "e", "t", "2", "-LRB-", "n-1", "-RRB-", "3", "r", "e", "s", "e", "t", "n", "o", "d", "e", "upon", "r", "e", "c", "e", "p", "t", "i", "o", "n", "o", "f", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", ",", "v", ",", "m", ",", ",", "acc", "shutdown", "f", "r", "o", "m", "v", "s", "e", "n", "d", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", "a", "c", "k", ",", "m", ",", ",", "acc", "shutdown", "t", "o", "v", "i", "f", "n", "o", "t", "u", "p", "d", "a", "t", "i", "n", "g", "and", "n", "o", "t", "a", "c", "c", "s", "h", "u", "t", "d", "o", "w", "n", "r", "e", "c", "v", "d", "-LSB-", "v", "-RSB-", "a", "c", "c", "s", "h", "u", "t", "d", "o", "w", "n", "r", "e", "c", "v", "d", "-LSB-", "v", "-RSB-", ":", "=", "true", "n", "u", "m", "a", "c", "c", "s", "h", "u", "t", "d", "o", "w", "n", ":", "=", "n", "u", "m", "a", "c", "c", "s", "h", "u", "t", "d", "o", "w", "n", "+", "1", "i", "f", "n", "o", "t", "u", "p", "d", "a", "t", "i", "n", "g", "and", "n", "u", "m", "a", "c", "c", "s", "h", "u", "t", "d", "o", "w", "n", "2", "-LRB-", "n-1", "-RRB-", "3", "shutdown", "n", "o", "d", "e", "f", "u", "n", "c", "t", "i", "o", "n", "s", "e", "t", "u", "p", "u", "p", "d", "a", "t", "e", "r", "e", "q", "u", "e", "s", "t", "-LRB-", "-RRB-", "k", ":", "=", "0", "R", ":", "=", "-LCB-", "-RCB-", "f", "o", "r", "0", "i", "<", "n", ",", "i", "=", "m", "w", ":", "=", "-LRB-", "s", "t", "a", "r", "t", "n", "o", "d", "e", "+", "i", "-RRB-", "mod", "n", "Q", ":", "=", "-LCB-", "-RCB-", "f", "o", "r", "0", "j", "<", "F", "n", "i", "f", "n", "o", "t", "f", "r", "a", "m", "e", "u", "p", "d", "a", "t", "e", "d", "-LSB-", "k", "-RSB-", "Q", ":", "=", "Q", "-LCB-", "k", "-RCB-", "k", ":", "=", "k", "+", "1", "i", "f", "Q", "=", "-LCB-", "-RCB-", "R", ":", "=", "R", "-LCB-", "-LRB-", "w", ",", "Q", "-RRB-", "-RCB-", "s", "t", "a", "r", "t", "n", "o", "d", "e", ":", "=", "s", "t", "a", "r", "t", "n", "o", "d", "e", "+", "1", "r", "e", "t", "u", "r", "n", "R", "upon", "r", "e", "c", "e", "p", "t", "i", "o", "n", "o", "f", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", ",", "v", ",", "m", ",", ",", "acc", "update", ",", "-LCB-", "h", "0", ",", "...", ",", "h", "F", "-1", "-RCB-", "f", "r", "o", "m", "v", "s", "e", "n", "d", "a", "c", "c", "u", "s", "a", "t", "i", "o", "n", "a", "c", "k", ",", "m", ",", ",", "acc", "update", "t", "o", "v", "i", "f", "n", "o", "t", "u", "p", "d", "a", "t", "i", "n", "g", "and", "n", "o", "t", "a", "c", "c", "u", "p", "d", "a", "t", "e", "r", "e", "c", "v", "d", "-LSB-", "v", "-RSB-", "a", "c", "c", "u", "p", "d", "a", "t", "e", "r", "e", "c", "v", "d", "-LSB-", "v", "-RSB-", ":", "=", "true", "n", "u", "m", "a", "c", "c", "u", "p", "d", "a", "t", "e", ":", "=", "n", "u", "m", "a", "c", "c", "u", "p", "d", "a", "t", "e", "+", "1", "f", "o", "r", "0", "i", "<", "F", "i", "f", "f", "r", "a", "m", "e", "d", "i", "g", "e", "s", "t", "-LSB-", "i", "-RSB-", "=", "h", "i", "f", "r", "a", "m", "e", "c", "o", "u", "n", "t", "-LSB-", "i", "-RSB-", ":", "=", "f", "r", "a", "m", "e", "c", "o", "u", "n", "t", "-LSB-", "i", "-RSB-", "+", "1", "e", "l", "s", "e", "i", "f", "f", "r", "a", "m", "e", "c", "o", "u", "n", "t", "-LSB-", "i", "-RSB-", ">", "0", "f", "r", "a", "m", "e", "c", "o", "u", "n", "t", "-LSB-", "i", "-RSB-", ":", "=", "f", "r", "a", "m", "e", "c", "o", "u", "n", "t", "-LSB-", "i", "-RSB-", "-", "1", "e", "l", "s", "e", "f", "r", "a", "m", "e", "d", "i", "g", "e", "s", "t", "-LSB-", "i", "-RSB-", ":", "=", "h", "i", "i", "f", "n", "o", "t", "u", "p", "d", "a", "t", "i", "n", "g", "and", "n", "u", "m", "a", "c", "c", "u", "p", "d", "a", "t", "e", "2", "-LRB-", "n-1", "-RRB-", "3", "R", ":", "=", "s", "e", "t", "u", "p", "u", "p", "d", "a", "t", "e", "r", "e", "q", "u", "e", "s", "t", "-LRB-", "-RRB-", "b", "r", "o", "a", "d", "c", "a", "s", "t", "u", "p", "d", "a", "t", "e", "r", "e", "q", "u", "e", "s", "t", ",", "m", ",", ",", "R", "s", "t", "a", "r", "t", "t", "i", "m", "e", "r", "U", "u", "p", "d", "a", "t", "i", "n", "g", "=", "true", "upon", "t", "i", "m", "e", "o", "u", "t", "o", "f", "t", "i", "m", "e", "r", "U", "R", ":", "=", "s", "e", "t", "u", "p", "u", "p", "d", "a", "t", "e", "r", "e", "q", "u", "e", "s", "t", "-LRB-", "-RRB-", "b", "r", "o", "a", "d", "c", "a", "s", "t", "u", "p", "d", "a", "t", "e", "r", "e", "q", "u", "e", "s", "t", ",", "m", ",", ",", "R", "s", "t", "a", "r", "t", "t", "i", "m", "e", "r", "U", "upon", "r", "e", "c", "e", "p", "t", "i", "o", "n", "o", "f", "u", "p", "d", "a", "t", "e", ",", "v", ",", "m", ",", "i", ",", "f", "f", "r", "o", "m", "v", "r", "e", "s", "e", "t", "t", "i", "m", "e", "r", "U", "117", "i", "f", "h", "-LRB-", "f", "-RRB-", "=", "f", "r", "a", "m", "e", "d", "i", "g", "e", "s", "t", "-LSB-", "i", "-RSB-", "and", "n", "o", "t", "f", "r", "a", "m", "e", "u", "p", "d", "a", "t", "e", "d", "-LSB-", "i", "-RSB-", "u", "p", "d", "a", "t", "e", "memory", "f", "r", "a", "m", "e", "i", "f", "r", "a", "m", "e", "u", "p", "d", "a", "t", "e", "d", "-LSB-", "i", "-RSB-", ":", "=", "true", "i", "f", "i", ",", "0", "i", "<", "F", "f", "r", "a", "m", "e", "u", "p", "d", "a", "t", "e", "d", "-LSB-", "i", "-RSB-", "r", "e", "s", "e", "t", "n", "o", "d", "e", "In", "this", "section", ",", "we", "proof", "the", "correctness", "of", "the", "proposed", "algorithm", "with", "respect", "to", "the", "specifications", "of", "section", "2", ".", "Theorem", "1", ".", "Given", "the", "network", "and", "adversary", "model", "specified", "in", "section", "2", ",", "the", "proposed", "recovery", "algorithm", "is", "correct", "and", "fulfils", "the", "properties", "L1", ",", "L2", ",", "S1", ",", "and", "S2", "if", "the", "recovery", "module", "of", "the", "accused", "node", "m", "is", "intact", ",", "if", "h", "-LRB-", "-RRB-", "is", "a", "secure", "hashfunction", ",", "and", "if", "less", "than", "one", "third", "of", "the", "participating", "nodes", "are", "malicious", "-LRB-", "i.e.", ",", "3t", "<", "n", "-", "1", "-RRB-", ".", "In", "order", "to", "prove", "Theorem", "1", "we", "have", "to", "show", "that", "the", "properties", "L1", ",", "L2", ",", "S1", ",", "and", "S2", "hold", ".", "We", "therefore", "first", "prove", "some", "helper", "Lemmas", ".", "Lemma", "1", ".", "If", "all", "correct", "nodes", "accuse", "a", "node", "m", ",", "its", "recovery", "process", "will", "be", "initiated", "with", "high", "probability", ".", "Proof", ".", "The", "probability", "that", "less", "than", "2", "-LRB-", "n-1", "-RRB-", "3", "accusations", "are", "received", "is", "equal", "to", "the", "probability", "that", "more", "than", "n-1", "3", "messages", "are", "either", "not", "sent", "or", "lost", ".", "Assuming", "that", "the", "t", "malicious", "nodes", "do", "not", "participate", "in", "the", "distributed", "update", ",", "at", "least", "n-1", "3", "-", "t", "+1", "accusations", "must", "get", "lost", ".", "Given", "0", "p", "l", "<", "1", ",", "the", "probability", "for", "this", "is", "-LRB-", "p", "r", "l", "-RRB-", "n-1", "3", "-", "t", "+1", "+", "-LRB-", "p", "r", "l", "-RRB-", "n-1", "3", "-", "t", "+2", "+", "...", "+", "-LRB-", "p", "r", "l", "-RRB-", "n-1", "2", "-LRB-", "n-1", "-RRB-", "+3", "t", "3", "-LRB-", "p", "r", "l", "-RRB-", "n-1", "3", "-", "t", "+1", ".", "It", "holds", "that", "c", ">", "1", ":", "r", "1", "such", "that", "2", "-LRB-", "n-1", "-RRB-", "+3", "t", "3", ",", ",", "p", "n-1", "3", "-", "t", "+1", "l", "r", "<", "n", "-", "c", ".", "Thus", ",", "the", "node", "m", "gets", "2", "-LRB-", "n-1", "-RRB-", "3", "accusations", "w.h.p.", "and", "the", "recovery", "process", "is", "initiated", ".", "Lemma", "2", ".", "Once", "the", "recovery", "process", "for", "a", "node", "m", "has", "been", "initiated", "it", "will", "eventually", "terminate", "as", "long", "as", "there", "remain", "at", "least", "k", "1", "correct", "nodes", ".", "Proof", ".", "In", "order", "that", "a", "frame", "is", "updated", "in", "a", "specific", "round", ",", "the", "dedicated", "request", "as", "well", "as", "its", "actual", "transmission", "must", "succeed", ".", "The", "probability", "that", "this", "is", "the", "case", "is", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", ".", "With", "only", "one", "correct", "node", "-LRB-", "k", "=", "1", "-RRB-", "the", "expected", "number", "of", "update", "rounds", "per", "frame", "a", "can", "be", "described", "as", "a", "Markov", "chain", "described", "by", "the", "expression", "a", "=", "-LRB-", "a", "+", "1", "-RRB-", "-LRB-", "1", "-", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", "-RRB-", "+", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", "with", "the", "solution", "a", "=", "1", "-LRB-", "1-p", "l", "-RRB-", "2", ".", "The", "overall", "expected", "number", "of", "rounds", "is", "thus", "aF", "=", "F", "-LRB-", "1-p", "l", "-RRB-", "2", "O", "-LRB-", "1", "-RRB-", ".", "In", "each", "round", "at", "most", "one", "request", "and", "F", "updates", "are", "transmitted", ",", "leading", "to", "an", "upper", "bound", "for", "its", "duration", "of", "-LRB-", "F", "+", "1", "-RRB-", "p", "O", "-LRB-", "1", "-RRB-", ".", "Altogether", ",", "the", "expected", "worst", "case", "duration", "is", "F", "-LRB-", "F", "+1", "-RRB-", "-LRB-", "1-p", "l", "-RRB-", "2", "p", "O", "-LRB-", "1", "-RRB-", ".", "Lemma", "3", ".", "If", "no", "more", "than", "n-1", "3", "correct", "nodes", "accuse", "another", "correct", "node", "v", "M", "the", "recovery", "process", "will", "not", "be", "initiated", ".", "Proof", ".", "From", "each", "node", "only", "one", "accusation", "is", "accepted", "and", "thus", "the", "number", "of", "valid", "accusations", "is", "at", "most", "n-1", "3", "+", "t", "<", "2", "-LRB-", "n-1", "-RRB-", "3", ".", "Lemma", "4", ".", "At", "the", "start", "of", "a", "program", "code", "update", "the", "target", "node", "m", "has", "stored", "the", "correct", "hash", "value", "h", "i", "for", "all", "frames", ",", "given", "that", "all", "correct", "nodes", "have", "loaded", "the", "same", "program", "code", ".", "Proof", ".", "Let", "'s", "assume", "that", "there", "is", "a", "hash", "value", "h", "i", "which", "is", "not", "correct", "when", "the", "program", "code", "update", "starts", ".", "As", "a", "stored", "hash", "value", "is", "only", "substituted", "if", "the", "dedicated", "counter", "c", "i", "is", "zero", ",", "the", "node", "must", "have", "received", "at", "least", "as", "many", "wrong", "values", "as", "correct", "ones", ".", "From", "each", "node", "only", "one", "accusation", "is", "accepted", ",", "thus", "of", "the", "a", "2", "-LRB-", "n-1", "-RRB-", "3", "received", "values", "at", "most", "t", "<", "n-1", "3", "are", "false", ".", "It", "follows", "that", "at", "least", "a", "-", "t", ">", "2", "-LRB-", "n-1", "-RRB-", "3", "n", "-1", "3", "=", "n-1", "3", ">", "t", "values", "must", "be", "correct", ",", "which", "contradicts", "the", "assumption", "that", "at", "least", "as", "many", "false", "as", "correct", "hash", "values", "were", "received", ".", "The", "properties", "L1", ",", "L2", ",", "and", "S1", "are", "proven", "by", "Lemma", "1", ",", "2", ",", "and", "3", ",", "respectively", ".", "If", "the", "accused", "node", "is", "turned", "off", "or", "restarted", ",", "property", "S2", "holds", "by", "definition", ".", "Otherwise", ",", "if", "the", "program", "code", "is", "updated", ",", "Lemma", "4", "and", "property", "L2", "guarantee", "that", "only", "correct", "code", "frames", "are", "installed", "and", "that", "the", "procedure", "finally", "terminates", ".", "In", "this", "section", "we", "provide", "an", "analytical", "evaluation", "of", "the", "proposed", "algorithm", "and", "present", "the", "findings", "of", "extensive", "simulations", "as", "well", "as", "of", "a", "real", "implementation", "for", "the", "BTnodes", ".", "The", "evaluated", "metrics", "are", ":", "-LRB-", "a", "-RRB-", "number", "of", "update", "rounds", ",", "-LRB-", "b", "-RRB-", "update", "load", "for", "the", "accused", "nodes", ",", "-LRB-", "c", "-RRB-", "update", "load", "for", "the", "other", "participating", "nodes", ",", "and", "-LRB-", "d", "-RRB-", "update", "duration", ".", "5.1", "Analytical", "Evaluation", "Number", "of", "Update", "Rounds", "In", "order", "to", "update", "a", "frame", "it", "is", "required", "that", "the", "dedicated", "request", "as", "well", "as", "the", "actual", "frame", "itself", "are", "successfully", "transmitted", ".", "The", "expected", "fraction", "of", "erroneous", "updates", "is", "therefore", "1", "-", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", ".", "If", "one", "further", "assumes", "that", "the", "t", "malicious", "nodes", "do", "not", "participate", "in", "the", "program", "update", ",", "the", "fraction", "increases", "to", "1", "n", "-1-t", "n-1", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", ".", "Thus", ",", "the", "expected", "number", "of", "outstanding", "frames", "after", "the", "first", "and", "second", "update", "round", "are", "E", "f", "-LRB-", "1", "-RRB-", "=", "F", "-LRB-", "1", "n", "-1-t", "n-1", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", "-RRB-", "and", "E", "f", "-LRB-", "2", "-RRB-", "=", "E", "f", "-LRB-", "1", "-RRB-", "-LRB-", "1-n", "-1-t", "n-1", "-LRB-", "1-p", "l", "-RRB-", "2", "-RRB-", "=", "F", "-LRB-", "1-n", "-1-t", "n-1", "-LRB-", "1-p", "l", "-RRB-", "2", "-RRB-", "2", ",", "respectively", ".", "In", "general", ",", "the", "expected", "number", "of", "outstanding", "frames", "after", "i", ">", "0", "rounds", "is", ":", "E", "f", "-LRB-", "i", "-RRB-", "=", "E", "f", "-LRB-", "i", "-", "1", "-RRB-", ",", ",", "1", "-", "n", "-", "1", "-", "t", "n", "-", "1", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", "=", "F", ",", ",", "1", "-", "n", "-", "1", "-", "t", "n", "-", "1", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", "i", "Consequently", ",", "the", "expected", "number", "of", "update", "rounds", "is", "E", "r", "log", "-LRB-", "0.5", "-RRB-", "-", "log", "-LRB-", "F", "-RRB-", "log", "-LRB-", "1", "n", "-1-t", "n-1", "-LRB-", "1", "-", "p", "l", "-RRB-", "2", "-RRB-", "For", "reliable", "connections", "-LRB-", "p", "l", "=", "0", "-RRB-", "we", "get", "E", "r", "log", "-LRB-", "0.5", "-RRB-", "-", "log", "-LRB-", "F", "-RRB-", "log", "-LRB-", "1/3", "-RRB-", "O", "-LRB-", "1", "-RRB-", ".", "In", "a", "worst", "case", "scenario", "a", "continuous", "sequence", "of", "frames", "is", "assigned", "to", "the", "t", "malicious", "nodes", "and", "thus", "at", "least", "t", "+", "1", ",", "that", "is", "O", "-LRB-", "t", "-RRB-", "=", "O", "-LRB-", "n", "-RRB-", "rounds", "are", "required", ".", "Moreover", ",", "for", "a", "fixed", "p", "l", ",", "the", "expected", "number", "of", "rounds", "is", "-LRB-", "almost", "-RRB-", "independent", "of", "the", "cluster", "size", "n", "as", "2", "3", "<", "n-1-t", "n-1", "1", "for", "a", "fixed", "t", ",", "0", "t", "<", "n-1", "3", ".", "118", "Update", "Load", "The", "expected", "amount", "of", "data", "-LRB-", "in", "bytes", "-RRB-", "to", "transfer", "for", "the", "accused", "node", "is", "E", "tm", "=", "E", "r", "-1", "X", "i", "=", "0", ",", ",", "C", "req", "+", "C", "mac", "-LRB-", "n", "-", "1", "-RRB-", "+", "C", "sel", "-LRB-", "n", "-", "1", "-RRB-", "E", "f", "-LRB-", "i", "-RRB-", "F", "-LRB-", "C", "req", "+", "C", "mac", "-LRB-", "n", "-", "1", "-RRB-", "+", "C", "sel", "-LRB-", "n", "-", "1", "-RRB-", "-RRB-", "E", "r", "and", "E", "tv", "=", "E", "r", "-1", "X", "i", "=", "0", "E", "f", "-LRB-", "i", "-RRB-", "n", "-", "1", "-LRB-", "1", "-", "p", "l", "-RRB-", "-LRB-", "C", "update", "+", "f", "s", "-RRB-", "F", "n", "-", "1", "-LRB-", "1", "-", "p", "l", "-RRB-", "-LRB-", "C", "update", "+", "f", "s", "-RRB-", "E", "r", "for", "the", "other", "participating", "nodes", ".", "In", "the", "above", "expressions", "-LRB-", "n", "-", "1", "-RRB-", "E", "f", "-LRB-", "i", "-RRB-", "F", "is", "the", "expected", "number", "of", "addressed", "nodes", "and", "E", "f", "-LRB-", "i", "-RRB-", "n-1", "-LRB-", "1", "-", "p", "l", "-RRB-", "expresses", "the", "expected", "number", "of", "successfully", "requested", "frames", "per", "node", ".", "Update", "Duration", "The", "total", "number", "of", "sent", "messages", "E", "m", "is", "bound", "by", "-LRB-", "F", "+", "1", "-RRB-", "E", "r", "O", "-LRB-", "E", "r", "-RRB-", "as", "there", "are", "only", "one", "request", "and", "no", "more", "that", "F", "update", "messages", "per", "round", ".", "Thus", ",", "the", "expected", "value", "of", "E", "m", "is", "in", "O", "-LRB-", "1", "-RRB-", "for", "reliable", "connections", "and", "in", "O", "-LRB-", "n", "-RRB-", "in", "the", "worst", "case", ".", "More", "precisely", ",", "the", "expected", "number", "of", "messages", "is", "given", "by", "E", "m", "=", "E", "r", "-1", "X", "i", "=", "0", ",", ",", "1", "+", "E", "f", "-LRB-", "i", "-RRB-", "n", "-", "1", "-LRB-", "1", "-", "p", "l", "-RRB-", "=", "E", "r", "+", "-LRB-", "n", "-", "1", "-", "t", "-RRB-", "E", "tv", "C", "update", "+", "f", "s", "Neglecting", "the", "delays", "caused", "by", "the", "involved", "software", "routines", ",", "a", "good", "approximation", "for", "the", "update", "duration", "can", "be", "achieved", "by", "considering", "the", "overall", "transfer", "time", "and", "the", "delays", "caused", "by", "the", "round", "timeouts", ".", "The", "expected", "time", "to", "transfer", "all", "messages", "is", "E", "tm", "+", "-LRB-", "n-1-t", "-RRB-", "E", "tv", "B", "+", "E", "m", "mac", "whereas", "the", "overhead", "of", "the", "round", "timer", "is", "given", "by", "-LRB-", "E", "r", "-", "1", "-RRB-", "round", ",", "resulting", "in", "a", "total", "update", "duration", "of", "E", "d", "E", "tm", "+", "-LRB-", "n", "-", "1", "-", "t", "-RRB-", "E", "tv", "B", "+", "E", "m", "mac", "+", "-LRB-", "E", "r", "-", "1", "-RRB-", "round", "Parametrisation", "For", "the", "comparison", "of", "the", "analytical", "results", "with", "the", "simulation", "and", "implementation", "of", "the", "algorithm", ",", "the", "following", "parameters", "were", "used", ":", "Baudrate", "B", "19.2", "kBit/s", "B-MAC", "preamble", "mac", "100", "ms", "Round", "timeout", "round", "3", "s", "Request", "header", "size", "C", "req", "12", "Bytes", "Update", "header", "size", "C", "update", "11", "Bytes", "Frame", "selector", "site", "C", "sel", "10", "Bytes", "MAC", "size", "C", "mac", "20", "Bytes", "Frame", "size", "f", "s", "1024", "Bytes", "5.2", "Simulation", "The", "simulation", "of", "the", "algorithm", "was", "carried", "out", "with", "the", "Java", "based", "JiST/SWANS", "simulator", "-LSB-", "2", "-RSB-", ".", "In", "order", "to", "make", "the", "results", "comparable", "to", "the", "real", "BTnode", "implementation", ",", "the", "radio", "module", "was", "set", "up", "according", "to", "the", "characteristics", "of", "0", "10", "20", "30", "40", "50", "60", "70", "80", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "packet", "loss", "ratio", "Expected", "number", "of", "update", "rounds", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "simulated", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "simulated", "-RRB-", "Figure", "2", ":", "Expected", "number", "of", "rounds", "to", "update", "a", "node", ".", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "packet", "loss", "ratio", "Expected", "duration", "-LRB-", "in", "sec", ".", "-RRB-", "to", "update", "a", "node", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "simulated", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "simulated", "-RRB-", "Figure", "3", ":", "Expected", "duration", "to", "update", "a", "node", ".", "the", "Chipcon", "CC1000", "transceiver", "-LSB-", "4", "-RSB-", "and", "B-MAC", "was", "chosen", "as", "the", "data", "link", "layer", "protocol", ".", "The", "complete", "parametrisa-tion", "of", "the", "simulation", "is", "given", "in", "the", "table", "below", ":", "Transmission", "frequency", "868", "MHz", "Transmission", "power", "5", "dBm", "Receiver", "sensitivity", "-100", "dBm", "Memory", "size", "100", "kByte", "Number", "of", "nodes", "10", "Deployment", "area", "20", "x", "20", "m", "-LRB-", "u.r.d.", "-RRB-", "5.3", "Implementation", "In", "addition", "to", "the", "above", "mentioned", "simulations", ",", "the", "algorithm", "was", "also", "implemented", "for", "the", "BTnodes", ",", "a", "wireless", "sensor", "platform", "running", "NutOS", "-LSB-", "3", "-RSB-", ".", "A", "detailed", "description", "of", "the", "created", "software", "is", "omitted", "due", "to", "space", "reasons", "but", "can", "be", "found", "in", "-LSB-", "22", "-RSB-", ".", "The", "implementation", "was", "evaluated", "by", "randomly", "distributing", "a", "cluster", "of", "10", "nodes", "in", "a", "field", "of", "20", "x", "20", "m", ",", "whereupon", "each", "node", "in", "turn", "initiated", "a", "complete", "program", "update", ".", "Altogether", ",", "over", "100", "recovery", "procedures", "where", "measured", ".", "5.4", "Results", "The", "packet", "loss", "ratio", "has", ",", "as", "expected", ",", "a", "significant", "effect", "on", "all", "evaluated", "metrics", "and", "each", "of", "them", "increases", "exponen-tially", "if", "the", "ratio", "worsens", ".", "The", "number", "of", "nodes", ",", "in", "contrast", ",", "119", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "packet", "loss", "ratio", "Expected", "amount", "of", "data", "to", "transfer", "-LRB-", "in", "kBytes", "-RRB-", "for", "the", "updating", "node", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "simulated", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "simulated", "-RRB-", "Figure", "4", ":", "Expected", "update", "load", "for", "the", "accused", "node", ".", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "packet", "loss", "ratio", "Expected", "amount", "of", "data", "to", "transfer", "-LRB-", "in", "kBytes", "-RRB-", "for", "the", "participating", "nodes", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "analytic", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "0", "-LRB-", "simulated", "-RRB-", "F", "=", "100", ",", "n", "=", "10", ",", "t", "=", "2", "-LRB-", "simulated", "-RRB-", "Figure", "5", ":", "Expected", "update", "load", "for", "the", "participating", "nodes", ".", "has", "for", "a", "fixed", "packet", "loss", "ratio", "almost", "no", "negative", "impact", "on", "the", "evaluated", "metrics", ",", "showing", "that", "the", "algorithm", "itself", "scales", "well", ".", "Furthermore", ",", "the", "results", "show", "that", "the", "update", "algorithm", "is", "fair", "and", "equally", "distributes", "the", "update", "load", "over", "all", "participating", "nodes", ".", "Update", "Rounds", "and", "Update", "Duration", "Whilst", "the", "expected", "number", "of", "update", "rounds", "-LRB-", "see", "Figure", "2", "-RRB-", "is", "only", "of", "secondary", "importance", ",", "the", "update", "duration", "-LRB-", "see", "Figure", "3", "-RRB-", "is", "of", "major", "interest", "for", "the", "feasibility", "of", "the", "algorithm", ".", "The", "faster", "a", "node", "recovery", "is", "completed", ",", "the", "sooner", "the", "network", "is", "operable", "again", ".", "Even", "though", "the", "update", "duration", "almost", "triples", "from", "50", "to", "150", "s", "if", "the", "packet", "loss", "ratio", "increases", "from", "0", "to", "40", "percent", ",", "it", "is", "still", "in", "a", "range", "which", "most", "WSN", "application", "should", "be", "able", "to", "cope", "with", ".", "Update", "Load", "In", "a", "cluster", "of", "10", "nodes", "the", "update", "load", "for", "the", "accused", "node", "-LRB-", "see", "Figure", "4", "-RRB-", "is", "0.5", "to", "3.5", "kByte", "for", "0", "p", "l", "0.4", "and", "thus", "considerably", "smaller", "than", "for", "the", "other", "participating", "nodes", "-LRB-", "see", "Figure", "5", "-RRB-", "with", "a", "load", "of", "12", "to", "24", "kByte", ".", "However", ",", "the", "latter", "is", ",", "as", "expected", ",", "inverse", "proportional", "to", "the", "cluster", "size", "-LRB-", "see", "Figure", "7", "-RRB-", ":", "the", "larger", "a", "cluster", "and", "the", "lower", "the", "number", "of", "malicious", "nodes", ",", "the", "smaller", "the", "expected", "update", "load", "per", "participating", "node", ".", "0", "50", "100", "150", "200", "250", "5", "10", "15", "20", "25", "30", "number", "of", "nodes", "Expected", "duration", "-LRB-", "in", "sec", ".", "-RRB-", "to", "update", "a", "node", "F", "=", "100", ",", "plr", "=", "0.1", ",", "t", "=", "0", "F", "=", "100", ",", "plr", "=", "0.5", ",", "t", "=", "0", "F", "=", "100", ",", "plr", "=", "0.1", ",", "t", "=", "n/3", "F", "=", "100", ",", "plr", "=", "0.5", ",", "t", "=", "n/3", "Figure", "6", ":", "Influence", "of", "the", "cluster", "size", "on", "the", "update", "duration", ".", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "5", "10", "15", "20", "25", "30", "number", "of", "nodes", "Expected", "amount", "of", "data", "to", "transfer", "-LRB-", "in", "kBytes", "-RRB-", "for", "the", "participating", "nodes", "F", "=", "100", ",", "plr", "=", "0.1", ",", "t", "=", "0", "F", "=", "100", ",", "plr", "=", "0.5", ",", "t", "=", "0", "F", "=", "100", ",", "plr", "=", "0.1", ",", "t", "=", "n/3", "F", "=", "100", ",", "plr", "=", "0.5", ",", "t", "=", "n/3", "Figure", "7", ":", "Influence", "of", "the", "cluster", "size", "on", "the", "expected", "update", "load", "for", "the", "participating", "nodes", ".", "Implementation", "In", "the", "experiments", "conducted", "with", "the", "BTnode", "implementation", ",", "the", "average", "number", "of", "update", "rounds", "was", "five", ",", "the", "update", "duration", "about", "100", "s", "-LRB-", "10", "s", "-RRB-", ",", "and", "the", "load", "for", "the", "participating", "nodes", "about", "15", "kByte", "-LRB-", "1", "kByte", "-RRB-", ".", "Applied", "to", "the", "analytical", "model", "this", "would", "mean", "that", "the", "gross", "packet", "loss", "ratio", "was", "roughly", "20", "%", ".", "In", "this", "paper", ",", "we", "presented", "an", "autonomous", "and", "distributed", "recovery", "algorithm", "for", "sensor", "networks", ".", "The", "algorithm", "allows", "for", "bringing", "malicious", "or", "failed", "nodes", "back", "into", "normal", "operation", "or", ",", "at", "least", ",", "for", "securely", "shutting", "them", "down", ".", "Particularly", "in", "remote", "or", "unwieldy", "areas", ",", "such", "as", "deserts", ",", "the", "bottom", "of", "the", "sea", ",", "mountains", ",", "or", "even", "on", "planets", "in", "outer", "space", ",", "where", "redeployment", "is", "expensive", "and", "sensor", "nodes", "can", "not", "easily", "be", "exchanged", "or", "maintained", ",", "the", "application", "of", "a", "node", "recovery", "system", "is", "most", "likely", "to", "extend", "the", "lifetime", "of", "the", "whole", "network", ".", "The", "results", "of", "the", "simulation", "and", "analytical", "analysis", "were", "confirmed", "by", "the", "real", "BTnode", "implementation", ".", "They", "show", "that", "recovering", "sensor", "nodes", "is", "as", "any", "form", "of", "reprogramming", "an", "expensive", ",", "though", "feasible", "task", ".", "Moreover", ",", "the", "proposed", "program", "code", "update", "algorithm", "is", "not", "only", "prov-120", "ably", "secure", "but", "also", "fair", "and", "robust", ".", "It", "distributes", "the", "update", "load", "equally", "over", "all", "participating", "nodes", "and", "terminates", "as", "long", "as", "at", "least", "one", "of", "the", "nodes", "remains", "correct", ".", "To", "all", "presented", "recovery", "measures", "applies", "that", "they", "are", "only", "applicable", "if", "at", "least", "the", "therefore", "needed", "systems", "of", "the", "corrupt", "node", "still", "work", "correctly", ".", "However", ",", "although", "it", "is", "generally", "agreed", "that", "entirely", "tamper-proof", "sensor", "nodes", "are", "too", "expensive", ",", "current", "trends", "in", "the", "hardware", "development", "of", "embedded", "devices", "indicate", "that", "at", "least", "some", "logical", "and", "physical", "protection", "-LRB-", "e.g.", ",", "CPUs", "which", "support", "isolated", "memory", "areas", "or", "automatic", "memory", "erason", "if", "a", "node", "is", "tempered", "with", "-RRB-", "will", "be", "available", "in", "the", "near", "future", ".", "We", "discussed", "how", "these", "upcoming", "technologies", "can", "be", "exploited", "to", "protect", "the", "recovery", "mechanisms", "of", "a", "sensor", "node", "and", "what", "is", "already", "feasible", "with", "existing", "systems", ".", "-LSB-", "1", "-RSB-", "T.", "Alves", "and", "D.", "Felton", ".", "TrustZone", ":", "Integrated", "Hardware", "and", "Software", "Security", ".", "ARM", "Ltd", ",", "July", "2004", ".", "-LSB-", "2", "-RSB-", "R.", "Barr", ",", "Z.", "J.", "Haas", ",", "and", "R.", "van", "Renesse", ".", "Jist", ":", "an", "efficient", "approach", "to", "simulation", "using", "virtual", "machines", ":", "Research", "articles", ".", "Softw", ".", "Pract", ".", "Exper.", ",", "35", "-LRB-", "6", "-RRB-", ":", "539", "576", ",", "2005", ".", "-LSB-", "3", "-RSB-", "J.", "Beutel", ",", "O.", "Kasten", ",", "and", "M.", "Ringwald", ".", "Poster", "abstract", ":", "Btnodes", "a", "distributed", "platform", "for", "sensor", "nodes", ".", "In", "Proceedings", "of", "the", "1st", "International", "Conference", "on", "Embedded", "Networked", "Sensor", "Systems", ",", "pages", "292", "293", ",", "Los", "Angeles", ",", "California", ",", "USA", ",", "Jan.", "2003", ".", "ACM", "Press", ".", "http://www.btnode.ethz.ch/", ".", "-LSB-", "4", "-RSB-", "Chipcon", "AS", ",", "Oslo", ",", "Norway", ".", "Single", "Chip", "Very", "Low", "Power", "RF", "Transceiver", ",", "Rev.", "2.1", ",", "Apr.", "2002", ".", "http://www.chipcon.com/", ".", "-LSB-", "5", "-RSB-", "A.", "P.", "R.", "da", "Silva", ",", "M.", "H.", "T.", "Martins", ",", "B.", "P.", "S.", "Rocha", ",", "A.", "A.", "F.", "Loureiro", ",", "L.", "B.", "Ruiz", ",", "and", "H.", "C.", "Wong", ".", "Decentralized", "intrusion", "detection", "in", "wireless", "sensor", "networks", ".", "In", "Q2SWinet", "'", "05", ":", "Proceedings", "of", "the", "1st", "ACM", "international", "workshop", "on", "Quality", "of", "service", "&", "security", "in", "wireless", "and", "mobile", "networks", ",", "pages", "16", "23", ",", "New", "York", ",", "NY", ",", "USA", ",", "2005", ".", "ACM", "Press", ".", "-LSB-", "6", "-RSB-", "S.", "B.", "Douglas", "Herbert", ",", "Yung-Hsiang", "Lu", "and", "Z.", "Li", ".", "Detection", "and", "repair", "of", "software", "errors", "in", "hierarchical", "sensor", "networks", ".", "To", "appear", "in", "IEEE", "conference", "on", "Sensor", "Networks", "and", "Ubiquitous", "Trustworthy", "Computing", "-LRB-", "SUTC", "-RRB-", ",", "June", "2006", ".", "-LSB-", "7", "-RSB-", "P.", "K.", "Dutta", ",", "J.", "W.", "Hui", ",", "D.", "C.", "Chu", ",", "and", "D.", "E.", "Culler", ".", "Towards", "secure", "network", "programming", "and", "recovery", "in", "wireless", "sensor", "networks", ".", "Technical", "Report", "UCB/EECS", "-2005-7", ",", "Electrical", "Engineering", "and", "Computer", "Sciences", "University", "of", "California", "at", "Berkeley", ",", "Oct.", "2005", ".", "-LSB-", "8", "-RSB-", "S.", "Ganeriwal", "and", "M.", "B.", "Srivastava", ".", "Reputation-based", "framework", "for", "high", "integrity", "sensor", "networks", ".", "In", "SASN", "'", "04", ":", "Proceedings", "of", "the", "2nd", "ACM", "workshop", "on", "Security", "of", "ad", "hoc", "and", "sensor", "networks", ",", "pages", "66", "77", ",", "New", "York", ",", "NY", ",", "USA", ",", "2004", ".", "ACM", "Press", ".", "-LSB-", "9", "-RSB-", "C.", "Hartung", ",", "J.", "Balasalle", ",", "and", "R.", "Han", ".", "Node", "compromise", "in", "sensor", "networks", ":", "The", "need", "for", "secure", "systems", ".", "Technical", "Report", "CU-CS-990-05", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Colorado", ",", "Jan.", "2005", ".", "-LSB-", "10", "-RSB-", "C.", "Hsin", "and", "M.", "Liu", ".", "A", "distributed", "monitoring", "mechanism", "for", "wireless", "sensor", "networks", ".", "In", "WiSE", "'", "02", ":", "Proceedings", "of", "the", "3rd", "ACM", "workshop", "on", "Wireless", "security", ",", "pages", "57", "66", ",", "New", "York", ",", "NY", ",", "USA", ",", "2002", ".", "ACM", "Press", ".", "-LSB-", "11", "-RSB-", "Intel", "Corporation", ".", "LaGrande", "Technology", "Architectural", "Overview", ",", "Sept.", "2003", ".", "-LSB-", "12", "-RSB-", "P.", "Inverardi", ",", "L.", "Mostarda", ",", "and", "A.", "Navarra", ".", "Distributed", "IDSs", "for", "enhancing", "security", "in", "mobile", "wireless", "sensor", "networks", ".", "AINA", ",", "2:116", "120", ",", "2006", ".", "-LSB-", "13", "-RSB-", "J.", "Jeong", "and", "D.", "Culler", ".", "Incremental", "network", "programming", "for", "wireless", "sensors", ".", "In", "Proceedings", "of", "the", "First", "IEEE", "Communications", "Society", "Conference", "on", "Sensor", "and", "Ad-Hoc", "Communications", "and", "Networks", "-LRB-", "SECON", "-RRB-", ",", "2004", ".", "-LSB-", "14", "-RSB-", "I.", "Khalil", ",", "S.", "Bagchi", ",", "and", "C.", "Nina-Rotaru", ".", "Dicas", ":", "Detection", ",", "diagnosis", "and", "isolation", "of", "control", "attacks", "in", "sensor", "networks", ".", "securecomm", ",", "00:89", "100", ",", "2005", ".", "-LSB-", "15", "-RSB-", "P.", "Kocher", ",", "R.", "Lee", ",", "G.", "McGraw", ",", "and", "A.", "Raghunathan", ".", "Security", "as", "a", "new", "dimension", "in", "embedded", "system", "design", ".", "In", "DAC", "'", "04", ":", "Proceedings", "of", "the", "41st", "annual", "conference", "on", "Design", "automation", ",", "pages", "753", "760", ",", "New", "York", ",", "NY", ",", "USA", ",", "2004", ".", "ACM", "Press", ".", "Moderator-Srivaths", "Ravi", ".", "-LSB-", "16", "-RSB-", "S.", "S.", "Kulkarni", "and", "L.", "Wang", ".", "Mnp", ":", "Multihop", "network", "reprogramming", "service", "for", "sensor", "networks", ".", "icdcs", ",", "00:7", "16", ",", "2005", ".", "-LSB-", "17", "-RSB-", "T.", "Liu", "and", "M.", "Martonosi", ".", "Impala", ":", "a", "middleware", "system", "for", "managing", "autonomic", ",", "parallel", "sensor", "systems", ".", "SIGPLAN", "Not.", ",", "38", "-LRB-", "10", "-RRB-", ":", "107", "118", ",", "2003", ".", "-LSB-", "18", "-RSB-", "S.", "Northcutt", "and", "J.", "Novak", ".", "IDS", ":", "Intrusion", "Detection-Systeme", ".", "mitp", "Verlag", "Bonn", ",", "2001", ".", "-LSB-", "19", "-RSB-", "N.", "B.", "of", "Standards", ".", "Security", "Requirements", "for", "Cryptographic", "Modules", ".", "National", "Bureau", "of", "Standards", ",", "Dec.", "2002", ".", "-LSB-", "20", "-RSB-", "S.", "Ravi", ",", "A.", "Raghunathan", ",", "P.", "Kocher", ",", "and", "S.", "Hattangady", ".", "Security", "in", "embedded", "systems", ":", "Design", "challenges", ".", "Trans", ".", "on", "Embedded", "Computing", "Sys.", ",", "3", "-LRB-", "3", "-RRB-", ":", "461", "491", ",", "2004", ".", "-LSB-", "21", "-RSB-", "E.", "Shi", "and", "A.", "Perrig", ".", "Designing", "secure", "sensor", "networks", ".", "IEEE", "Wireless", "Communication", "Magazine", ",", "11", "-LRB-", "6", "-RRB-", ":", "38", "43", ",", "Dec.", "2004", ".", "-LSB-", "22", "-RSB-", "M.", "Strasser", ".", "Intrusion", "detection", "and", "failure", "recovery", "in", "sensor", "networks", ".", "Master", "'s", "thesis", ",", "Department", "of", "Computer", "Science", ",", "ETH", "Zurich", ",", "2005", ".", "-LSB-", "23", "-RSB-", "H.", "Vogt", ",", "M.", "Ringwald", ",", "and", "M.", "Strasser", ".", "Intrusion", "detection", "and", "failure", "recovery", "in", "sensor", "nodes", ".", "In", "Tagungsband", "INFORMATIK", "2005", ",", "Workshop", "Proceedings", ",", "LNCS", ",", "Heidelberg", ",", "Germany", ",", "Sept.", "2005", ".", "Springer-Verlag", ".", "121"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["intrusion detection", "ids", "distributed algorithm", "security", "countermeasures", "sensor networks", "sensor nodes", "node recovery"], "abstractive_keyphrases": ["wireless sensor networks"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "31", "document": ["An", "empirical", "comparison", "of", "supervised", "machine", "learning", "techniques", "in", "bioinformatics", "Research", "in", "bioinformatics", "is", "driven", "by", "the", "experimental", "data", ".", "Current", "biological", "databases", "are", "populated", "by", "vast", "amounts", "of", "experimental", "data", ".", "Machine", "learning", "has", "been", "widely", "applied", "to", "bioinformatics", "and", "has", "gained", "a", "lot", "of", "success", "in", "this", "research", "area", ".", "At", "present", ",", "with", "various", "learning", "algorithms", "available", "in", "the", "literature", ",", "researchers", "are", "facing", "difficulties", "in", "choosing", "the", "best", "method", "that", "can", "apply", "to", "their", "data", ".", "We", "performed", "an", "empirical", "study", "on", "7", "individual", "learning", "systems", "and", "9", "different", "combined", "methods", "on", "4", "different", "biological", "data", "sets", ",", "and", "provide", "some", "suggested", "issues", "to", "be", "considered", "when", "answering", "the", "following", "questions", ":", "-LRB-", "i", "-RRB-", "How", "does", "one", "choose", "which", "algorithm", "is", "best", "suitable", "for", "their", "data", "set", "?", "-LRB-", "ii", "-RRB-", "Are", "combined", "methods", "better", "than", "a", "single", "approach", "?", "-LRB-", "iii", "-RRB-", "How", "does", "one", "compare", "the", "effectiveness", "of", "a", "particular", "algorithm", "to", "the", "others", "?", "In", "the", "post-genome", "era", ",", "research", "in", "bioinformatics", "has", "been", "overwhelmed", "by", "the", "experimental", "data", ".", "The", "complexity", "of", "biological", "data", "ranges", "from", "simple", "strings", "-LRB-", "nucleotides", "and", "amino", "acids", "sequences", "-RRB-", "to", "complex", "graphs", "-LRB-", "biochemical", "networks", "-RRB-", ";", "from", "1D", "-LRB-", "sequence", "data", "-RRB-", "to", "3D", "-LRB-", "protein", "and", "RNA", "structures", "-RRB-", ".", "Considering", "the", "amount", "and", "complexity", "of", "the", "data", ",", "it", "is", "becoming", "impossible", "for", "an", "expert", "to", "compute", "and", "compare", "the", "entries", "within", "the", "current", "databases", ".", "Thus", ",", "machine", "learning", "and", "artificial", "intelligence", "techniques", "have", "been", "widely", "applied", "in", "this", "domain", "to", "discover", "and", "mine", "the", "knowledge", "in", "the", "databases", ".", "Quoting", "from", "Baldi", "and", "Brunak", "-LRB-", "Baldi", "and", "Brunak", ",", "2001", "-RRB-", "``", "As", "a", "result", ",", "the", "need", "for", "computer", "/", "statistical", "/", "machine", "learning", "techniques", "is", "today", "stronger", "rather", "than", "weaker", ".", "''", "Shavlik", "et", "al.", "-LRB-", "Shavlik", "et", "al.", ",", "1995", "-RRB-", "described", "the", "field", "of", "molecular", "biology", "as", "tailor-made", "for", "machine", "learning", "approaches", ".", "This", "is", "due", "to", "the", "nature", "of", "machine", "learning", "approaches", "that", "performs", "well", "in", "domains", "where", "there", "is", "a", "vast", "amount", "of", "data", "but", "little", "theory", "this", "is", "exactly", "the", "situation", "in", "bioinformatics", ".", "Since", "the", "introduction", "of", "machine", "learning", "to", "this", "field", ",", "various", "algorithms", "and", "methods", "have", "been", "produced", "and", "applied", "to", "study", "different", "data", "sets", ".", "Most", "of", "these", "studies", "compare", "a", "`", "new", "'", "algorithm", "with", "the", "conventional", "ones", ",", "asserting", "the", "effectiveness", "and", "efficiencies", "of", "their", "methods", "in", "particular", "data", "sets", ".", "The", "variety", "of", "learning", "algorithms", "currently", "available", "for", "the", "researchers", "are", "enormous", "and", "the", "main", "problems", "faced", "by", "researchers", "are", ":", "-LRB-", "i", "-RRB-", "How", "does", "one", "choose", "which", "algorithm", "is", "best", "suitable", "for", "their", "data", "set", "?", "-LRB-", "ii", "-RRB-", "Are", "combined", "methods", "better", "than", "a", "single", "approach", "?", "-LRB-", "iii", "-RRB-", "How", "does", "one", "compare", "the", "effectiveness", "of", "a", "particular", "algorithm", "to", "the", "others", "?", "Copyright", "2003", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "First", "Asia-Pacific", "Bioinformatics", "Conference", ",", "Adelaide", ",", "Australia", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "19", ".", "Yi-Ping", "Phoebe", "Chen", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "The", "objective", "of", "this", "study", "is", "to", "provide", "some", "suggestions", "for", "the", "community", "by", "answering", "the", "above", "questions", ".", "This", "paper", "is", "organised", "as", "follows", ".", "Section", "2", "presents", "a", "brief", "summary", "of", "machine", "learning", ".", "Section", "3", "outlines", "the", "materials", "and", "methods", "used", "in", "this", "study", ".", "Section", "4", "presents", "the", "results", "and", "discussion", ",", "and", "the", "final", "section", "summarises", "this", "work", ".", "A", "machine", "learning", "algorithm", "is", "one", "that", "can", "learn", "from", "experience", "-LRB-", "observed", "examples", "-RRB-", "with", "respect", "to", "some", "class", "of", "tasks", "and", "a", "performance", "measure", ".", "-LRB-", "Mitchell", ",", "1997", "-RRB-", ".", "Machine", "learning", "methods", "are", "suitable", "for", "molecular", "biology", "data", "due", "to", "the", "learning", "algorithm", "'s", "ability", "to", "construct", "classifiers/hypotheses", "that", "can", "explain", "complex", "relationships", "in", "the", "data", ".", "The", "classifiers", "or", "hypotheses", "can", "then", "be", "interpreted", "by", "a", "domain", "expert", "who", "suggests", "some", "wet-lab", "experiments", "to", "validate", "or", "refute", "the", "hypotheses", ".", "This", "feedback", "loop", "between", "in", "silico", "and", "in", "vivo", "/", "in", "vitro", "experiments", "accelerates", "the", "knowledge", "discovery", "process", "over", "the", "biological", "data", ".", "This", "feedback", "is", "an", "important", "characteristic", "of", "machine", "learning", "in", "bioinformatics", ".", "Generally", ",", "there", "are", "two", "types", "of", "learning", "schemes", "in", "machine", "learning", ":", "supervised", "learning", "where", "the", "output", "has", "been", "given", "a", "priori", "labelled", "or", "the", "learner", "has", "some", "prior", "knowledge", "of", "the", "data", ";", "and", "unsupervised", "learning", "where", "no", "prior", "information", "is", "given", "to", "the", "learner", "regarding", "the", "data", "or", "the", "output", ".", "The", "overall", "tasks", "for", "the", "learner", "are", "to", "classify", ",", "characterise", ",", "and", "cluster", "the", "input", "data", ".", "Classification", "is", "the", "most", "common", "task", "in", "biological", "problem", "where", "given", "two", "different", "sets", "of", "examples", ",", "namely", "positive", "E", "+", "and", "negative", "E", "examples", "-LRB-", "E", "+", "E", "=", "-RRB-", ",", "the", "learner", "needs", "to", "construct", "a", "classifier", "to", "distinguish", "between", "the", "positive", "examples", "and", "the", "negative", "set", ".", "This", "classifier", "can", "then", "be", "used", "as", "the", "basis", "for", "classifying", "as", "yet", "unseen", "data", "in", "the", "future", ".", "Usually", ",", "for", "a", "supervised", "classification", "problem", ",", "the", "training", "examples", "are", "in", "the", "form", "of", "a", "set", "of", "tuples", "-LCB-", "-LRB-", "where", "x", "-RRB-", "-RCB-", ",", "-LRB-", "-RRB-", ",", "...", ",", ",", "1", "1", "j", "n", "n", "j", "y", "x", "y", "x", "i", "is", "the", "class", "label", "and", "y", "ij", "is", "the", "set", "of", "attributes", "for", "the", "instances", ".", "The", "task", "of", "the", "learning", "algorithm", "is", "to", "produce", "a", "classifier", "-LRB-", "hypothesis", ",", "function", "-RRB-", "to", "classify", "the", "instances", "into", "the", "correct", "class", ".", "In", "this", "study", ",", "we", "only", "consider", "supervised", "machine", "learning", "applied", "to", "classification", ".", "We", "performed", "an", "empirical", "comparison", "of", "rule-based", "learning", "systems", "-LRB-", "Decision", "trees", ",", "One", "Rule", ",", "Decision", "rules", "-RRB-", ",", "statistical", "learning", "system", "-LRB-", "Na", "ve", "Bayes", ",", "Instance", "Based", ",", "SVM", "and", "neural", "networks", "-RRB-", "and", "ensemble", "methods", "-LRB-", "Stacking", ",", "Bagging", "and", "Boosting", "-RRB-", "on", "the", "data", "listed", "in", "Table", "1", "based", "on", "the", "accuracy", ",", "positive", "predicted", "value", ",", "specificity", "and", "sensitivity", "of", "the", "learning", "algorithms", ".", "All", "the", "learning", "methods", "used", "in", "this", "study", "were", "obtained", "from", "the", "WEKA", "machine", "learning", "package", "-LRB-", "http://www.cs.waikato.ac.nz/~ml/weka/", "-RRB-", ".", "3.2", "Data", "set", "In", "this", "study", "we", "used", "the", "following", "data", "sets", "obtained", "from", "UCI", "machine", "learning", "repository", "-LRB-", "Blake", "and", "Merz", ",", "1998", "-RRB-", ".", "We", "briefly", "describe", "the", "biological", "motivation", "for", "the", "data", "sets", ";", "interested", "readers", "should", "refer", "to", "the", "cited", "papers", "for", "details", ".", "E.coli", "data", "set", "The", "objective", "of", "this", "data", "set", "is", "to", "predict", "the", "cellular", "localisation", "sites", "of", "E.coli", "proteins", "-LRB-", "Horton", "and", "Nakai", ",", "1996", "-RRB-", ".", "There", "are", "8", "different", "cellular", "sites", ",", "which", "are", "cytoplasm", "-LRB-", "cp", "-RRB-", ",", "inner", "membrane", "without", "signal", "sequence", "-LRB-", "im", "-RRB-", ",", "periplasm", "-LRB-", "pp", "-RRB-", ",", "inner", "membrane", "with", "uncleavable", "signal", "sequence", "-LRB-", "imU", "-RRB-", ",", "outer", "membrane", "-LRB-", "om", "-RRB-", ",", "outer", "membrane", "lipoprotein", "-LRB-", "omL", "-RRB-", ",", "inner", "membrane", "lipoprotein", "-LRB-", "imL", "-RRB-", "and", "inner", "membrane", "with", "cleavable", "signal", "sequence", "-LRB-", "imS", "-RRB-", ".", "The", "attributes", "are", "signal", "sequence", "recognition", "methods", "-LRB-", "specifically", "those", "of", "McGeoch", "and", "von", "Heijne", "-RRB-", ",", "the", "presence", "of", "charge", "on", "N-terminus", "of", "predicted", "lipoproteins", "and", "3", "different", "scoring", "functions", "on", "the", "amino", "acid", "contents", "whether", "predicted", "as", "a", "outer", "membrane", "or", "inner", "membrane", ",", "cleavable", "or", "uncleavable", "sequence", "signal", ".", "Yeast", "data", "set", "The", "objective", "is", "similar", "to", "the", "E.coli", "data", ",", "which", "is", "to", "determine", "the", "cellular", "localisation", "of", "the", "yeast", "proteins", "-LRB-", "Horton", "and", "Nakai", ",", "1996", "-RRB-", ".", "There", "are", "10", "different", "sites", ",", "which", "include", ":", "CYT", "-LRB-", "cytosolic", "or", "cytoskeletal", "-RRB-", ";", "NUC", "-LRB-", "nuclear", "-RRB-", ";", "MIT", "-LRB-", "mitochondrial", "-RRB-", ";", "ME3", "-LRB-", "membrane", "protein", ",", "no", "N-terminal", "signal", "-RRB-", ";", "ME2", "-LRB-", "membrane", "protein", ",", "uncleaved", "signal", "-RRB-", ";", "ME1", "-LRB-", "membrane", "protein", ",", "cleaved", "signal", "-RRB-", ";", "EXC", "-LRB-", "extracellular", "-RRB-", ";", "VAC", "-LRB-", "vacuolar", "-RRB-", ";", "POX", "-LRB-", "peroxisomal", "-RRB-", "and", "ERL", "-LRB-", "endoplasmic", "reticulum", "lumen", "-RRB-", ".", "The", "attributes", "are", "similar", "to", "the", "E.coli", "data", "set", "with", "the", "addition", "of", "nuclear", "localisation", "information", ".", "Promoter", "data", "set", ".", "The", "task", "of", "the", "classifier", "is", "to", "predict", "whether", "a", "DNA", "sequence", "from", "E.coli", "is", "either", "a", "promoter", "or", "not", "-LRB-", "Towell", "et", "al.", ",", "1990", "-RRB-", ".", "The", "input", "data", "is", "a", "57-nucleotide", "sequence", "-LRB-", "A", ",", "C", ",", "T", "or", "G", "-RRB-", ".", "HIV", "data", "set", "The", "data", "set", "contains", "362", "octamer", "protein", "sequences", "each", "of", "which", "needs", "to", "be", "classified", "as", "an", "HIV", "protease", "cleavable", "site", "or", "uncleavable", "site", "-LRB-", "Cai", "and", "Chou", ",", "1998", "-RRB-", ".", "Data", "set", "E.coli", "Yeast", "Promoters", "HIV", "Continuous", "Attribute", "2", "0", "57", "8", "Discrete", "Attribute", "5", "8", "0", "0", "Classes", "8", "10", "2", "2", "Data", "Size", "336\u00a01484\u00a0106", "362", "Table", "1", ":", "Data", "sets", "used", "in", "this", "study", ".", "3.3", "Evaluation", "We", "constructed", "a", "confusion", "matrix", "-LRB-", "contingency", "table", "-RRB-", "to", "evaluate", "the", "classifier", "'s", "performance", ".", "Table", "2", "shows", "a", "generic", "contingency", "table", "for", "a", "binary", "class", "problem", ".", "True", "positives", "-LRB-", "TP", "-RRB-", "denote", "the", "correct", "classifications", "of", "positive", "examples", ".", "True", "negatives", "-LRB-", "TN", "-RRB-", "are", "the", "correct", "classifications", "of", "negative", "examples", ".", "False", "positives", "-LRB-", "FP", "-RRB-", "represent", "the", "incorrect", "classifications", "of", "negative", "examples", "into", "class", "positive", "and", "False", "negatives", "-LRB-", "FN", "-RRB-", "are", "the", "positive", "examples", "incorrectly", "classified", "into", "class", "negative", ".", "Predicted", "Positive", "Negative", "Positive", "TP", "FN", "Actual", "Negative", "FP", "TN", "Table", "2", ":", "A", "contingency", "table", "for", "a", "binary", "class", "problem", ".", "Based", "on", "the", "contingency", "table", ",", "several", "measurements", "can", "be", "carried", "out", "to", "evaluate", "the", "performance", "of", "the", "induced", "classifier", ".", "The", "most", "popular", "performance", "evaluation", "measure", "used", "in", "prediction", "or", "classification", "learning", "is", "classifier", "accuracy", "which", "measures", "the", "proportion", "of", "correctly", "classified", "instances", ";", "FN", "FP", "TN", "TP", "TN", "TP", "+", "+", "+", "Acc", "+", "=", ".", "Positive", "Predictive", "Accuracy", "-LRB-", "PPV", ",", "or", "the", "reliability", "of", "positive", "predictions", "of", "the", "induced", "classifier", "-RRB-", "is", "computed", "by", "FP", "TP", "TP", "PPV", "+", "=", ".", "Sensitivity", "-LRB-", "S", "n", "-RRB-", "measures", "the", "fraction", "of", "actual", "positive", "examples", "that", "are", "correctly", "classified", "FN", "TP", "TP", "+", "=", "S", "n", ";", "while", "specificity", "-LRB-", "S", "p", "-RRB-", "measures", "the", "fraction", "of", "actual", "negative", "examples", "that", "are", "correctly", "classified", "FP", "TN", "TN", "+", "S", ".", "p", "=", "3.4", "Cross-validation", "To", "evaluate", "the", "robustness", "of", "the", "classifier", ",", "the", "normal", "methodology", "is", "to", "perform", "cross", "validation", "on", "the", "classifier", ".", "Ten", "fold", "cross", "validation", "has", "been", "proved", "to", "be", "statistically", "good", "enough", "in", "evaluating", "the", "performance", "of", "the", "classifier", "-LRB-", "Witten", "and", "Frank", ",", "2000", "-RRB-", ".", "In", "ten", "fold", "cross", "validation", ",", "the", "training", "set", "is", "equally", "divided", "into", "10", "different", "subsets", ".", "Nine", "out", "of", "ten", "of", "the", "training", "subsets", "are", "used", "to", "train", "the", "learner", "and", "the", "tenth", "subset", "is", "used", "as", "the", "test", "set", ".", "The", "procedure", "is", "repeated", "ten", "times", ",", "with", "a", "different", "subset", "being", "used", "as", "the", "test", "set", ".", "We", "summarise", "our", "experimental", "results", "in", "Figure", "1", "and", "2", ".", "The", "full", "analysis", "of", "this", "study", "is", "available", "in", "http://www.brc.dcs.gla.ac.uk/~actan/APBC2003", ".", "Figure", "1", ".", "Accuracy", "vs", "Positive", "Predictive", "Value", "Figure", "2", ".", "Specificity", "vs", "Sensitivity", "From", "the", "results", ",", "we", "observed", "that", "most", "of", "the", "individual", "learners", "tend", "to", "perform", "well", "either", "in", "accuracy", "or", "specificity", ".", "Probably", "this", "is", "due", "to", "the", "induced", "classifier", "being", "able", "to", "characterise", "the", "negative", "examples", "-LRB-", "most", "of", "the", "training", "sets", "have", "large", "ratio", "of", "negative", "examples", "compared", "to", "positive", "examples", "-RRB-", ".", "Furthermore", ",", "the", "results", "suggest", "that", "combination", "approaches", "are", "in", "general", "better", "at", "minimising", "overfitting", "of", "the", "training", "data", ".", "We", "also", "observed", "from", "this", "experiment", "that", "boosting", "performs", "better", "than", "bagging", ".", "This", "is", "because", "attributes", "which", "are", "highly", "important", "in", "discriminating", "between", "classes", "are", "randomly", "removed", "by", "bagging", ";", "however", "they", "are", "preserved", "in", "boosting", "and", "thus", "contribute", "to", "the", "final", "voting", "scheme", ".", "The", "only", "individual", "learning", "system", "that", "perform", "better", "than", "the", "combined", "methods", "is", "Na", "ve", "Bayes", "learning", ".", "This", "may", "suggest", "that", "Na", "ve", "Bayes", "is", "capable", "of", "classifying", "instances", "based", "on", "simple", "prior", "probabilistic", "knowledge", ".", "In", "this", "study", "SVM", "does", "not", "perform", "well", "compared", "to", "other", "methods", ",", "probably", "due", "to", "the", "fact", "that", "training", "data", "are", "not", "separable", "in", "the", "vector", "space", ".", "4.1", "Rules-of-thumb", "In", "this", "section", ",", "we", "address", "the", "following", "questions", "by", "providing", "some", "suggested", "issues", "-LRB-", "rules-of-thumb", "-RRB-", "to", "be", "considered", "when", "answering", "them", ".", "-LRB-", "i", "-RRB-", "How", "does", "one", "choose", "which", "algorithm", "is", "best", "suitable", "for", "their", "data", "set", "?", "Ratio", "of", "the", "training", "data", "From", "these", "experiments", ",", "we", "observed", "that", "the", "division", "of", "the", "training", "data", "plays", "a", "crucial", "role", "in", "determining", "the", "performance", "of", "the", "algorithms", ".", "If", "the", "training", "TPs", "and", "TNs", "are", "almost", "equal", "in", "size", ",", "the", "algorithms", "tend", "to", "construct", "much", "better", "classifiers", ".", "This", "observation", "suggested", "that", "the", "classifier", "induced", "from", "equal", "size", "of", "TP", "and", "TN", "tend", "to", "be", "more", "robust", "in", "classifying", "the", "instances", ".", "Furthermore", ",", "the", "classifiers", "generated", "consider", "all", "the", "discriminative", "attributes", "that", "distinguish", "between", "two", "different", "classes", ".", "If", "the", "size", "of", "the", "TP", "set", "is", "small", "compared", "to", "that", "of", "TN", ",", "most", "probably", "the", "classifier", "will", "overfit", "the", "positive", "examples", "and", "thus", "perform", "poorly", "in", "the", "cross", "validation", "stages", ".", "Attributes", "Another", "factor", "that", "must", "be", "taken", "into", "consideration", "when", "choosing", "a", "learning", "method", "is", "the", "nature", "of", "the", "attributes", ".", "Generally", ",", "statistical", "methods", "-LRB-", "e.g.", "SVM", ",", "neural", "networks", "-RRB-", "tend", "to", "perform", "much", "better", "over", "multi-dimensions", "and", "continuous", "attributes", ".", "This", "is", "because", "the", "learning", "strategy", "embedded", "in", "these", "algorithms", "enables", "the", "learners", "to", "find", "a", "maximal", "margin", "that", "can", "distinguish", "different", "classes", "in", "the", "vector", "space", ".", "By", "contrast", ",", "rule-based", "systems", "-LRB-", "e.g.", "Decision", "trees", ",", "PART", "-RRB-", "tend", "to", "perform", "better", "in", "discrete", "/", "categorical", "attributes", ".", "The", "algorithms", "of", "these", "methods", "operate", "in", "a", "top-down", "manner", "where", "the", "first", "step", "is", "to", "find", "the", "most", "discriminative", "attribute", "that", "classifies", "different", "classes", ".", "The", "process", "is", "iterated", "until", "most", "of", "the", "instances", "are", "classified", "into", "their", "class", ".", "Credibility", "vs.", "Comprehensibility", "When", "choosing", "a", "machine", "learning", "technique", ",", "users", "need", "to", "ask", "themselves", "what", "they", "really", "want", "to", "``", "discover", "''", "from", "the", "data", ".", "If", "they", "are", "interested", "in", "generating", "understandable", "hypotheses", ",", "then", "a", "rule-base", "learning", "algorithm", "should", "be", "used", "instead", "of", "statistical", "ones", ".", "Most", "machine", "learning", "algorithms", "follow", "Occam", "'s", "principle", "when", "constructing", "the", "final", "hypothesis", ".", "According", "to", "this", "principle", ",", "the", "algorithm", "tends", "to", "find", "the", "simplest", "hypotheses", "by", "avoiding", "overfitting", "the", "training", "data", ".", "But", "does", "this", "principle", "still", "hold", "in", "bioinformatics", "?", "In", "bioinformatics", "we", "often", "wish", "to", "explore", "data", "and", "explain", "results", ",", "and", "hence", "we", "are", "interested", "in", "applying", "intelligent", "systems", "to", "provide", "an", "insight", "to", "understand", "the", "relations", "between", "complex", "data", ".", "The", "question", "then", "arises", "as", "to", "whether", "we", "prefer", "a", "simple", "classifier", "or", "a", "highly", "comprehensible", "model", ".", "In", "general", ",", "there", "is", "a", "trade", "off", "between", "the", "credibility", "and", "comprehensibility", "of", "a", "model", ".", "Domingos", "-LRB-", "1999", "-RRB-", "suggested", "applying", "domain", "constraints", "as", "an", "alternative", "for", "avoiding", "overfitting", "the", "data", ".", "We", "agree", "with", "Muggleton", "et", "al.", "-LRB-", "1998", "-RRB-", "that", "when", "comparing", "the", "performance", "of", "learning", "systems", "in", "a", "bioinformatics", "context", ",", "the", "hypothesis", "with", "better", "explanatory", "power", "is", "preferable", "when", "there", "exist", "more", "than", "one", "hypotheses", "with", "statistical", "equivalent", "predictive", "accuracy", ".", "-LRB-", "ii", "-RRB-", "Are", "combined", "methods", "better", "than", "a", "single", "approach", "?", "From", "the", "experiments", "most", "of", "the", "combined", "methods", "perform", "better", "than", "the", "individual", "learner", ".", "This", "is", "because", "none", "of", "the", "individual", "methods", "can", "claim", "that", "they", "are", "superior", "to", "the", "others", "due", "to", "statistical", ",", "computational", "and", "representational", "reasons", "-LRB-", "Dietterich", ",", "2000", "-RRB-", ".", "Every", "learning", "algorithm", "uses", "a", "different", "search", "strategy", ".", "If", "the", "training", "data", "is", "too", "small", ",", "the", "individual", "learner", "can", "induce", "different", "hypotheses", "with", "similar", "performances", "from", "the", "search", "space", ".", "Thus", ",", "by", "averaging", "the", "different", "hypotheses", ",", "the", "combined", "classifier", "may", "produce", "a", "good", "approximation", "to", "the", "true", "hypotheses", ".", "The", "computational", "reason", "is", "to", "avoid", "local", "optima", "of", "individual", "search", "strategy", ".", "By", "performing", "different", "initial", "searches", "and", "combining", "the", "outputs", ",", "the", "final", "classifier", "may", "provide", "a", "better", "approximation", "to", "the", "true", "hypotheses", ".", "Lastly", ",", "due", "to", "the", "limited", "amount", "of", "training", "data", ",", "the", "individual", "classifier", "may", "not", "represent", "the", "true", "hypotheses", ".", "Thus", ",", "through", "considering", "different", "classifiers", ",", "it", "may", "be", "possible", "to", "expand", "the", "final", "classifier", "to", "an", "approximate", "representation", "of", "the", "true", "hypotheses", ".", "Ensemble", "learning", "has", "been", "an", "active", "research", "topic", "in", "machine", "learning", "but", "not", "in", "the", "bioinformatics", "community", ".", "Since", "most", "of", "the", "hypotheses", "induced", "are", "from", "incomplete", "biological", "data", ",", "it", "is", "essential", "to", "generate", "a", "good", "approximation", "by", "combining", "individual", "learners", ".", "-LRB-", "iii", "-RRB-", "How", "does", "one", "compare", "the", "effectiveness", "of", "a", "particular", "algorithm", "to", "the", "others", "?", "Predictive", "accuracy", "Most", "of", "the", "time", ",", "we", "can", "find", "in", "the", "literature", "reports", "that", "a", "learning", "scheme", "performs", "better", "than", "another", "in", "term", "of", "one", "model", "'s", "accuracy", "when", "applied", "to", "a", "particular", "data", "set", ".", "From", "this", "study", ",", "we", "found", "that", "accuracy", "is", "not", "the", "ultimate", "measurement", "when", "comparing", "the", "learner", "'s", "credibility", ".", "Accuracy", "is", "just", "the", "measurement", "of", "the", "total", "correctly", "classified", "instances", ".", "This", "measurement", "is", "the", "overall", "error", "rate", ",", "but", "there", "can", "be", "other", "measures", "of", "the", "accuracy", "of", "a", "classifier", "rule", ".", "If", "the", "training", "data", "set", "has", "95", "TNs", "and", "5", "TPs", ",", "by", "classifying", "all", "the", "instances", "into", "a", "negative", "class", ",", "the", "classifier", "still", "can", "achieve", "a", "95", "%", "accuracy", ".", "But", "the", "sensitivity", "and", "the", "positive", "predicted", "value", "is", "0", "%", "-LRB-", "both", "measurements", "evaluate", "the", "performance", "in", "classifying", "TPs", "-RRB-", ".", "This", "means", "that", "although", "the", "accuracy", "of", "the", "classifier", "is", "95", "%", "it", "still", "can", "not", "discriminate", "between", "the", "positive", "examples", "and", "the", "negatives", ".", "Thus", ",", "when", "comparing", "the", "performance", "of", "different", "classifiers", ",", "accuracy", "as", "a", "measure", "is", "not", "enough", ".", "Different", "measures", "should", "be", "evaluated", "depending", "on", "what", "type", "of", "question", "that", "the", "user", "seeks", "to", "answer", ".", "See", "Salzberg", "-LRB-", "Salzberg", ",", "1999", "-RRB-", "for", "a", "tutorial", "on", "comparing", "classifiers", ".", "Machine", "learning", "has", "increasingly", "gained", "attention", "in", "bioinformatics", "research", ".", "With", "the", "availability", "of", "different", "types", "of", "learning", "methods", ",", "it", "has", "become", "common", "for", "the", "researchers", "to", "apply", "the", "off-shelf", "systems", "to", "classify", "and", "mine", "their", "databases", ".", "In", "the", "research", "reported", "in", "this", "paper", ",", "we", "have", "performed", "a", "comparison", "of", "different", "supervised", "machine", "learning", "techniques", "in", "classifying", "biological", "data", ".", "We", "have", "shown", "that", "none", "of", "the", "single", "methods", "could", "consistently", "perform", "well", "over", "all", "the", "data", "sets", ".", "The", "performance", "of", "the", "learning", "techniques", "is", "highly", "dependant", "on", "the", "nature", "of", "the", "training", "data", ".", "This", "study", "also", "shows", "that", "combined", "methods", "perform", "better", "than", "the", "individual", "ones", "in", "terms", "of", "their", "specificity", ",", "sensitivity", ",", "positive", "predicted", "value", "and", "accuracy", ".", "We", "have", "suggested", "some", "rules-of-thumb", "for", "the", "reader", "on", "choosing", "the", "best", "suitable", "learning", "method", "for", "their", "dataset", ".", "We", "would", "like", "to", "thank", "colleagues", "in", "the", "Bioinformatics", "Research", "Centre", "for", "constructive", "discussions", ".", "We", "would", "also", "like", "to", "thank", "the", "anonymous", "reviewers", "for", "their", "useful", "comments", ".", "The", "University", "of", "Glasgow", "funded", "AC", "Tan", "'s", "studentship", ".", "BALDI", ",", "P.", "AND", "BRUNAK", ",", "S.", "-LRB-", "2001", "-RRB-", "Bioinformatics", ":", "The", "Machine", "Learning", "Approach", ",", "2", "nd", "Ed.", ",", "MIT", "Press", ".", "Blake", ",", "C.L.", "AND", "Merz", ",", "C.J.", "-LRB-", "1998", "-RRB-", "UCI", "Repository", "of", "machine", "learning", "databases", "-LSB-", "http://www.ics.uci.edu/~mlearn/MLRepository.html", "-RSB-", "CAI", ",", "Y.-D", ".", "AND", "CHOU", ",", "K.-C", ".", "-LRB-", "1998", "-RRB-", "Artificial", "neural", "network", "model", "for", "predicting", "HIV", "protease", "cleavage", "sites", "in", "protein", ".", "Advances", "in", "Engineering", "Software", ",", "29", ":", "119-128", ".", "DIETTERICH", ",", "T.G.", "-LRB-", "2000", "-RRB-", "Ensemble", "methods", "in", "machine", "learning", ".", "In", "Proceedings", "of", "the", "First", "International", "Workshop", "on", "MCS", ",", "LNCS", "1857", ":", "1-15", ".", "DOMINGOS", ",", "P.", "-LRB-", "1999", "-RRB-", "The", "role", "of", "Occam", "'s", "razor", "in", "knowledge", "discovery", ".", "Data", "Mining", "and", "Knowledge", "Discovery", ",", "3", ":", "409-425", ".", "HORTON", ",", "P.", "AND", "NAKAI", ",", "K.", "-LRB-", "1996", "-RRB-", "A", "probabilistic", "classification", "system", "for", "predicting", "the", "cellular", "localization", "sites", "of", "proteins", ".", "In", "Proceedings", "of", "Fourth", "International", "Conference", "on", "ISMB", ",", "p.109-115", ".", "AAAI", "/", "MIT", "Press", ".", "MITCHELL", ",", "T.", "-LRB-", "1997", "-RRB-", "Machine", "Learning", ".", "McGraw-Hill", ".", "MUGGLETON", ",", "S.", ",", "SRINIVASAN", ",", "A.", ",", "KING", ",", "R.D.", "AND", "STERNBERG", ",", "M.J.E.", "-LRB-", "1998", "-RRB-", "Biochemical", "knowledge", "discovery", "using", "inductive", "logic", "programming", ".", "In", "H.", "Motoda", "-LRB-", "Ed", ".", "-RRB-", "Proceedings", "of", "the", "First", "Conference", "on", "Discovery", "Science", ",", "Springer-Verlag", ".", "SALZBERG", ",", "S.", "-LRB-", "1999", "-RRB-", ".", "On", "comparing", "classifiers", ":", "a", "critique", "of", "current", "research", "and", "methods", ".", "Data", "mining", "and", "knowledge", "discovery", ",", "1", ":", "1-12", ".", "SHAVLIK", ",", "J.", ",", "HUNTER", ",", "L.", "&", "SEARLS", ",", "D.", "-LRB-", "1995", "-RRB-", ".", "Introduction", ".", "Machine", "Learning", ",", "21", ":", "5-10", ".", "TOWELL", ",", "G.G.", ",", "SHAVLIK", ",", "J.W.", "AND", "NOORDEWIER", ",", "M.O.", "-LRB-", "1990", "-RRB-", "Refinement", "of", "approximate", "domain", "theories", "by", "knowledge-based", "neural", "networks", ".", "In", "Proceedings", "of", "the", "Eighth", "National", "Conference", "on", "Artificial", "Intelligence", ",", "p.", "861-866", ".", "AAAI", "Press", ".", "WITTEN", ",", "I.H.", "AND", "FRANK", ",", "E.", "-LRB-", "2000", "-RRB-", "Data", "Mining", ":", "Practical", "machine", "learning", "tools", "and", "techniques", "with", "java", "implementations", ".", "Morgan", "Kaufmann", "."], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["performance evaluation", "classification", "biological data", "cross validation", "machine learning", "training data", "bioinformatics", "ensemble methods"], "abstractive_keyphrases": ["supervised machine learning"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "42", "document": ["Bayesian", "Online", "Classifiers", "for", "Text", "Classification", "and", "Filtering", "This", "paper", "explores", "the", "use", "of", "Bayesian", "online", "classifiers", "to", "classify", "text", "documents", ".", "Empirical", "results", "indicate", "that", "these", "classifiers", "are", "comparable", "with", "the", "best", "text", "classification", "systems", ".", "Furthermore", ",", "the", "online", "approach", "offers", "the", "advantage", "of", "continuous", "learning", "in", "the", "batch-adaptive", "text", "filtering", "task", ".", "H.", "3.3", "-LSB-", "Information", "Systems", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "--", "Information", "filtering", "Algorithms", ",", "Experimentation", "Faced", "with", "massive", "information", "everyday", ",", "we", "need", "automated", "means", "for", "classifying", "text", "documents", ".", "Since", "handcrafting", "text", "classifiers", "is", "a", "tedious", "process", ",", "machine", "learning", "methods", "can", "assist", "in", "solving", "this", "problem", "-LSB-", "15", ",", "7", ",", "27", "-RSB-", ".", "Yang", "&", "Liu", "-LSB-", "27", "-RSB-", "provides", "a", "comprehensive", "comparison", "of", "supervised", "machine", "learning", "methods", "for", "text", "classification", ".", "In", "this", "paper", "we", "will", "show", "that", "certain", "Bayesian", "classifiers", "are", "comparable", "with", "Support", "Vector", "Machines", "-LSB-", "23", "-RSB-", ",", "one", "of", "the", "best", "methods", "reported", "in", "-LSB-", "27", "-RSB-", ".", "In", "particular", ",", "we", "will", "evaluate", "the", "Bayesian", "online", "perceptron", "-LSB-", "17", ",", "20", "-RSB-", "and", "the", "Bayesian", "online", "Gaussian", "process", "-LSB-", "3", "-RSB-", ".", "For", "text", "classification", "and", "filtering", ",", "where", "the", "initial", "training", "set", "is", "large", ",", "online", "approaches", "are", "useful", "because", "they", "allow", "continuous", "learning", "without", "storing", "all", "the", "previously", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "02", ",", "August", "11-15", ",", "2002", ",", "Tampere", ",", "Finland", ".", "Copyright", "2002", "ACM", "1-58113-561-0", "/", "02/0008", "...", "$", "5.00", ".", "seen", "data", ".", "This", "continuous", "learning", "allows", "the", "utilization", "of", "information", "obtained", "from", "subsequent", "data", "after", "the", "initial", "training", ".", "Bayes", "'", "rule", "allows", "online", "learning", "to", "be", "performed", "in", "a", "principled", "way", "-LSB-", "16", ",", "20", ",", "17", "-RSB-", ".", "We", "will", "evaluate", "the", "Bayesian", "online", "perceptron", ",", "together", "with", "information", "gain", "considerations", ",", "on", "the", "batch-adaptive", "filtering", "task", "-LSB-", "18", "-RSB-", ".", "For", "the", "text", "classification", "taskdefined", "by", "Lewis", "-LSB-", "9", "-RSB-", ",", "we", "have", "a", "set", "of", "predefined", "categories", "and", "a", "set", "of", "documents", ".", "For", "each", "category", ",", "the", "document", "set", "is", "partitioned", "into", "two", "mutually", "exclusive", "sets", "of", "relevant", "and", "irrelevant", "documents", ".", "The", "goal", "of", "a", "text", "classification", "system", "is", "to", "determine", "whether", "a", "given", "document", "belongs", "to", "any", "of", "the", "predefined", "categories", ".", "Since", "the", "document", "can", "belong", "to", "zero", ",", "one", ",", "or", "more", "categories", ",", "the", "system", "can", "be", "a", "collection", "of", "binary", "classifiers", ",", "in", "which", "one", "classifier", "classifies", "for", "one", "category", ".", "In", "Text", "REtrieval", "Conference", "-LRB-", "TREC", "-RRB-", ",", "the", "above", "taskis", "known", "as", "batch", "filtering", ".", "We", "will", "consider", "a", "variant", "of", "batch", "filtering", "called", "the", "batch-adaptive", "filtering", "-LSB-", "18", "-RSB-", ".", "In", "this", "task", ",", "during", "testing", ",", "if", "a", "document", "is", "retrieved", "by", "the", "classifier", ",", "the", "relevance", "judgement", "is", "fed", "backto", "the", "classifier", ".", "This", "feedbackcan", "be", "used", "to", "improve", "the", "classifier", ".", "2.1", "Corpora", "and", "Data", "For", "text", "classification", ",", "we", "use", "the", "ModApte", "version", "of", "the", "Reuters-21578", "corpus", "1", ",", "where", "unlabelled", "documents", "are", "removed", ".", "This", "version", "has", "9,603", "training", "documents", "and", "3,299", "test", "documents", ".", "Following", "-LSB-", "7", ",", "27", "-RSB-", ",", "only", "categories", "that", "have", "at", "least", "one", "document", "in", "the", "training", "and", "test", "set", "are", "retained", ".", "This", "reduces", "the", "number", "of", "categories", "to", "90", ".", "For", "batch-adaptive", "filtering", ",", "we", "attempt", "the", "taskof", "TREC-9", "-LSB-", "18", "-RSB-", ",", "where", "the", "OHSUMED", "collection", "-LSB-", "6", "-RSB-", "is", "used", ".", "We", "will", "evaluate", "on", "the", "OHSU", "topic-set", ",", "which", "consists", "of", "63", "topics", ".", "The", "training", "and", "test", "material", "consist", "of", "54,710", "and", "293,856", "documents", "respectively", ".", "In", "addition", ",", "there", "is", "a", "topic", "statement", "for", "each", "topic", ".", "For", "our", "purpose", ",", "this", "is", "treated", "as", "an", "additional", "training", "document", "for", "that", "topic", ".", "We", "will", "only", "use", "the", "title", ",", "abstract", ",", "author", ",", "and", "source", "sections", "of", "the", "documents", "for", "training", "and", "testing", ".", "2.2", "Representation", "There", "are", "various", "ways", "to", "transform", "a", "document", "into", "a", "representation", "convenient", "for", "classification", ".", "We", "will", "use", "the", "1", "Available", "via", "http://www.daviddlewis.com/resources/", "testcollections/reuters21578", ".", "97", "bag-of-words", "approach", ",", "where", "we", "only", "retain", "frequencies", "of", "words", "after", "tokenisation", ",", "stemming", ",", "and", "stop-words", "removal", ".", "These", "frequencies", "can", "be", "normalized", "using", "various", "schemes", "-LSB-", "19", ",", "6", "-RSB-", ";", "we", "use", "the", "ltc", "normalization", ":", "l", "i", ",", "d", "=", "1", "+", "log", "2", "T", "F", "i", ",", "d", "t", "i", "=", "log", "2", "N", "n", "i", "ltc", "i", ",", "d", "=", "l", "i", ",", "d", "t", "i", "j", "-LCB-", "terms", "in", "d", "-RCB-", "-LRB-", "l", "j", ",", "d", "t", "j", "-RRB-", "2", ",", "where", "the", "subscripts", "i", "and", "d", "denote", "the", "ith", "term", "and", "the", "dth", "document", "respectively", ",", "T", "F", "i", ",", "d", "is", "the", "frequency", "of", "the", "ith", "term", "in", "the", "dth", "document", ",", "n", "i", "is", "the", "document-frequency", "of", "the", "ith", "term", ",", "and", "N", "is", "the", "total", "number", "of", "documents", ".", "2.3", "Feature", "Selection", "Metric", "Given", "a", "set", "of", "candidate", "terms", ",", "we", "select", "features", "from", "the", "set", "using", "the", "likelihood", "ratio", "for", "binomial", "distribution", "advocated", "by", "Dunning", "-LSB-", "5", "-RSB-", ":", "=", "R", "t", "+", "R", "t", "N", "R", "t", "+", "R", "t", "N", "t", "+", "N", "t", "N", "N", "t", "+", "N", "t", "R", "t", "R", "t", "+", "N", "t", "R", "t", "N", "t", "R", "t", "+", "N", "t", "N", "t", "R", "t", "R", "t", "+", "N", "t", "R", "t", "N", "t", "R", "t", "+", "N", "t", "N", "t", ",", "where", "R", "t", "-LRB-", "N", "t", "-RRB-", "is", "the", "number", "of", "relevant", "-LRB-", "non-relevant", "-RRB-", "training", "documents", "which", "contain", "the", "term", ",", "R", "t", "-LRB-", "N", "t", "-RRB-", "is", "the", "number", "of", "relevant", "-LRB-", "non-relevant", "-RRB-", "training", "documents", "which", "do", "not", ",", "and", "N", "is", "the", "total", "number", "of", "training", "documents", ".", "Asymptotically", ",", "-2", "ln", "is", "2", "distributed", "with", "1", "degree", "of", "freedom", ".", "We", "choose", "terms", "with", "-2", "ln", "more", "than", "12.13", ",", "i.e.", "at", "0.05", "%", "significance", "level", ".", "More", "details", "on", "the", "feature", "selection", "procedures", "will", "be", "given", "in", "section", "4", ".", "2.4", "Performance", "Measures", "To", "evaluate", "a", "text", "classification", "system", ",", "we", "use", "the", "F", "1", "measure", "introduced", "by", "van", "Rijsbergen", "-LSB-", "22", "-RSB-", ".", "This", "measure", "combines", "recall", "and", "precision", "in", "the", "following", "way", ":", "Recall", "=", "number", "of", "correct", "positive", "predictions", "number", "of", "positive", "examples", "Precision", "=", "number", "of", "correct", "positive", "predictions", "number", "of", "positive", "predictions", "F", "1", "=", "2", "Recall", "Precision", "Recall", "+", "Precision", ".", "For", "ease", "of", "comparison", ",", "we", "summarize", "the", "F", "1", "scores", "over", "the", "different", "categories", "using", "the", "micro", "-", "and", "macro-averages", "of", "F", "1", "scores", "-LSB-", "11", ",", "27", "-RSB-", ":", "Micro-avg", "F", "1", "=", "F", "1", "over", "categories", "and", "documents", "Macro-avg", "F", "1", "=", "average", "of", "within-category", "F", "1", "values", ".", "The", "micro", "-", "and", "macro-average", "F", "1", "emphasize", "the", "performance", "of", "the", "system", "on", "common", "and", "rare", "categories", "respectively", ".", "Using", "these", "averages", ",", "we", "can", "observe", "the", "effect", "of", "different", "kinds", "of", "data", "on", "a", "text", "classification", "system", ".", "In", "addition", ",", "for", "comparing", "two", "text", "classification", "systems", ",", "we", "use", "the", "micro", "sign-test", "-LRB-", "s-test", "-RRB-", "and", "the", "macro", "sign-test", "-LRB-", "S-test", "-RRB-", ",", "which", "are", "two", "significance", "tests", "first", "used", "for", "comparing", "text", "classification", "systems", "in", "-LSB-", "27", "-RSB-", ".", "The", "s-test", "compares", "all", "the", "binary", "decisions", "made", "by", "the", "systems", ",", "while", "the", "S-test", "compares", "the", "within-category", "F", "1", "values", ".", "Similar", "to", "the", "F", "1", "averages", ",", "the", "s-test", "and", "S-test", "compare", "the", "performance", "of", "two", "systems", "on", "common", "and", "rare", "categories", "respectively", ".", "To", "evaluate", "a", "batch-adaptive", "filtering", "system", ",", "we", "use", "the", "T9P", "measure", "of", "TREC-9", "-LSB-", "18", "-RSB-", ":", "T9P", "=", "number", "of", "correct", "positive", "predictions", "Max", "-LRB-", "50", ",", "number", "of", "positive", "predictions", "-RRB-", ",", "which", "is", "precision", ",", "with", "a", "penalty", "for", "not", "retrieving", "50", "documents", "Most", "of", "this", "section", "is", "based", "on", "workby", "Opper", "-LSB-", "17", "-RSB-", ",", "Solla", "&", "Winther", "-LSB-", "20", "-RSB-", ",", "and", "Csat", "o", "&", "Opper", "-LSB-", "3", "-RSB-", ".", "Suppose", "that", "each", "document", "is", "described", "by", "a", "vector", "x", ",", "and", "that", "the", "relevance", "indicator", "of", "x", "for", "a", "category", "is", "given", "by", "label", "y", "-LCB-", "-1", ",", "1", "-RCB-", ",", "where", "-1", "and", "1", "indicates", "irrelevant", "and", "relevant", "respectively", ".", "Given", "m", "instances", "of", "past", "data", "D", "m", "=", "-LCB-", "-LRB-", "y", "t", ",", "x", "t", "-RRB-", ",", "t", "=", "1", "...", "m", "-RCB-", ",", "the", "predictive", "probability", "of", "the", "relevance", "of", "a", "document", "described", "by", "x", "is", "p", "-LRB-", "y", "|", "x", ",", "D", "m", "-RRB-", "=", "da", "p", "-LRB-", "y", "|", "x", ",", "a", "-RRB-", "p", "-LRB-", "a", "|", "D", "m", "-RRB-", ",", "where", "we", "have", "introduced", "the", "classifier", "a", "to", "assist", "us", "in", "the", "prediction", ".", "In", "the", "Bayesian", "approach", ",", "a", "is", "a", "random", "variable", "with", "probability", "density", "p", "-LRB-", "a", "|", "D", "m", "-RRB-", ",", "and", "we", "integrate", "over", "all", "the", "possible", "values", "of", "a", "to", "obtain", "the", "prediction", ".", "Our", "aim", "is", "to", "obtain", "a", "reasonable", "description", "of", "a", ".", "In", "the", "Bayesian", "online", "learning", "framework", "-LSB-", "16", ",", "20", ",", "17", "-RSB-", ",", "we", "begin", "with", "a", "prior", "p", "-LRB-", "a", "|", "D", "0", "-RRB-", ",", "and", "perform", "incremental", "Bayes", "'", "updates", "to", "obtain", "the", "posterior", "as", "data", "arrives", ":", "p", "-LRB-", "a", "|", "D", "t", "+1", "-RRB-", "=", "p", "-LRB-", "y", "t", "+1", "|", "x", "t", "+1", ",", "a", "-RRB-", "p", "-LRB-", "a", "|", "D", "t", "-RRB-", "da", "p", "-LRB-", "y", "t", "+1", "|", "x", "t", "+1", ",", "a", "-RRB-", "p", "-LRB-", "a", "|", "D", "t", "-RRB-", ".", "To", "make", "the", "learning", "online", ",", "the", "explicit", "dependence", "of", "the", "posterior", "p", "-LRB-", "a", "|", "D", "t", "+1", "-RRB-", "on", "the", "past", "data", "is", "removed", "by", "approximating", "it", "with", "a", "distribution", "p", "-LRB-", "a", "|", "A", "t", "+1", "-RRB-", ",", "where", "A", "t", "+1", "characterizes", "the", "distribution", "of", "a", "at", "time", "t", "+", "1", ".", "For", "example", ",", "if", "p", "-LRB-", "a", "|", "A", "t", "+1", "-RRB-", "is", "a", "Gaussian", ",", "then", "A", "t", "+1", "refers", "to", "its", "mean", "and", "covariance", ".", "Hence", ",", "starting", "from", "the", "prior", "p", "0", "-LRB-", "a", "-RRB-", "=", "p", "-LRB-", "a", "|", "A", "0", "-RRB-", ",", "learning", "from", "a", "new", "example", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "-RRB-", "comprises", "two", "steps", ":", "Update", "the", "posterior", "using", "Bayes", "rule", "p", "-LRB-", "a", "|", "A", "t", ",", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "-RRB-", "-RRB-", "p", "-LRB-", "y", "t", "+1", "|", "x", "t", "+1", ",", "a", "-RRB-", "p", "-LRB-", "a", "|", "A", "t", "-RRB-", "Approximate", "the", "updated", "posterior", "by", "parameterisation", "p", "-LRB-", "a", "|", "A", "t", ",", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "-RRB-", "-RRB-", "p", "-LRB-", "a", "|", "A", "t", "+1", "-RRB-", ",", "where", "the", "approximation", "step", "is", "done", "by", "minimizing", "the", "Kullback-Leibler", "distance", "between", "the", "the", "approximating", "and", "approximated", "distributions", ".", "The", "amount", "of", "information", "gained", "about", "a", "after", "learning", "from", "a", "new", "example", "can", "be", "expressed", "as", "the", "Kullback-Leibler", "distance", "between", "the", "posterior", "and", "prior", "distributions", "-LSB-", "25", "-RSB-", ":", "IG", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "|", "D", "t", "-RRB-", "=", "da", "p", "-LRB-", "a", "|", "D", "t", "+1", "-RRB-", "log", "2", "p", "-LRB-", "a", "|", "D", "t", "+1", "-RRB-", "p", "-LRB-", "a", "|", "D", "t", "-RRB-", "da", "p", "-LRB-", "a", "|", "A", "t", "+1", "-RRB-", "log", "2", "p", "-LRB-", "a", "|", "A", "t", "+1", "-RRB-", "p", "-LRB-", "a", "|", "A", "t", "-RRB-", ",", "where", "instances", "of", "the", "data", "D", "are", "replaced", "by", "the", "summaries", "A", "in", "the", "approximation", ".", "98", "To", "simplify", "notation", "henceforth", ",", "we", "use", "p", "t", "-LRB-", "a", "-RRB-", "and", "...", "t", "to", "denote", "p", "-LRB-", "a", "|", "A", "t", "-RRB-", "and", "averages", "taken", "over", "p", "-LRB-", "a", "|", "A", "t", "-RRB-", "respectively", ".", "For", "example", ",", "the", "predictive", "probability", "can", "be", "rewritten", "as", "p", "-LRB-", "y", "|", "x", ",", "D", "t", "-RRB-", "p", "-LRB-", "y", "|", "x", ",", "A", "t", "-RRB-", "=", "da", "p", "-LRB-", "y", "|", "x", ",", "a", "-RRB-", "p", "t", "-LRB-", "a", "-RRB-", "=", "p", "-LRB-", "y", "|", "x", ",", "a", "-RRB-", "t", ".", "In", "the", "following", "sections", ",", "the", "scalar", "field", "h", "=", "a", "x", "will", "also", "be", "used", "to", "simplify", "notation", "and", "calculation", ".", "3.1", "Bayesian", "Online", "Perceptron", "Consider", "the", "case", "where", "a", "describes", "a", "perceptron", ".", "We", "then", "define", "the", "likelihood", "as", "a", "probit", "model", "p", "-LRB-", "y", "|", "x", ",", "a", "-RRB-", "=", "ya", "x", "0", ",", "where", "2", "0", "is", "a", "fixed", "noise", "variance", ",", "and", "is", "the", "cumulative", "Gaussian", "distribution", "-LRB-", "u", "-RRB-", "=", "1", "2", "u", "d", "e", "2", "/", "2", ".", "If", "p", "0", "-LRB-", "a", "-RRB-", "is", "the", "spherical", "unit", "Gaussian", ",", "and", "p", "t", "-LRB-", "a", "-RRB-", "is", "the", "Gaussian", "approximation", ",", "Opper", "-LSB-", "16", ",", "17", "-RSB-", "and", "Solla", "&", "Winther", "-LSB-", "20", "-RSB-", "obtain", "the", "following", "updates", "by", "equating", "the", "means", "and", "covariances", "of", "p", "-LRB-", "a", "|", "A", "t", "+1", "-RRB-", "and", "p", "-LRB-", "a", "|", "A", "t", ",", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "-RRB-", "-RRB-", ":", "a", "t", "+1", "=", "a", "t", "+", "s", "t", "+1", "h", "t", "ln", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "C", "t", "+1", "=", "C", "t", "+", "s", "t", "+1", "s", "T", "t", "+1", "2", "h", "2", "t", "ln", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", ",", "where", "s", "t", "+1", "=", "C", "t", "x", "t", "+1", ",", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "=", "y", "t", "+1", "h", "t", "t", "+1", ",", "2", "t", "+1", "=", "2", "0", "+", "x", "T", "t", "+1", "C", "t", "x", "t", "+1", "and", "h", "t", "=", "a", "T", "t", "x", "t", "+1", ".", "3.1.1", "Algorithm", "Training", "the", "Bayesian", "online", "perceptron", "on", "m", "data", "involves", "successive", "calculation", "of", "the", "means", "a", "t", "and", "covariances", "C", "t", "of", "the", "posteriors", ",", "for", "t", "-LCB-", "1", ",", "...", ",", "m", "-RCB-", ":", "1", ".", "Initialize", "a", "0", "to", "be", "0", "and", "C", "0", "to", "be", "1", "-LRB-", "identity", "matrix", "-RRB-", ",", "i.e.", "a", "spherical", "unit", "Gaussian", "centred", "at", "origin", ".", "2", ".", "For", "t", "=", "0", ",", "1", ",", "...", ",", "m", "-", "1", "3", ".", "y", "t", "+1", "is", "the", "relevance", "indicator", "for", "document", "x", "t", "+1", "4", ".", "Calculate", "s", "t", "+1", ",", "t", "+1", ",", "h", "t", "and", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "5", ".", "Calculate", "u", "=", "y", "t", "+1", "h", "t", "t", "+1", "and", "=", "1", "2", "exp", "-LRB-", "1", "2", "u", "2", "-RRB-", "6", ".", "Calculate", "h", "t", "ln", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "=", "y", "t", "+1", "t", "+1", "1", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "7", ".", "Calculate", "2", "h", "2", "t", "ln", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "=", "-", "1", "2", "t", "+1", "u", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "+", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "2", "8", ".", "Calculate", "a", "t", "+1", "and", "C", "t", "+1", "The", "prediction", "for", "datum", "-LRB-", "y", ",", "x", "-RRB-", "simply", "involves", "the", "calculation", "of", "p", "-LRB-", "y", "|", "x", ",", "a", "-RRB-", "m", "=", "p", "-LRB-", "y", "|", "h", "-RRB-", "m", ".", "3.2", "Bayesian", "Online", "Gaussian", "Process", "Gaussian", "process", "-LRB-", "GP", "-RRB-", "has", "been", "constrained", "to", "problems", "with", "small", "data", "sets", "until", "recently", "when", "Csat", "o", "&", "Opper", "-LSB-", "3", "-RSB-", "and", "Williams", "&", "Seeger", "-LSB-", "24", "-RSB-", "introduced", "efficient", "and", "effective", "approximations", "to", "the", "full", "GP", "formulation", ".", "This", "section", "will", "outline", "the", "approach", "in", "-LSB-", "3", "-RSB-", ".", "In", "the", "GP", "framework", ",", "a", "describes", "a", "function", "consisting", "of", "function", "values", "-LCB-", "a", "-LRB-", "x", "-RRB-", "-RCB-", ".", "Using", "the", "probit", "model", ",", "the", "likelihood", "can", "be", "expressed", "as", "p", "-LRB-", "y", "|", "x", ",", "a", "-RRB-", "=", "ya", "-LRB-", "x", "-RRB-", "0", ",", "where", "0", "and", "are", "described", "in", "section", "3.1", ".", "In", "addition", ",", "p", "0", "-LRB-", "a", "-RRB-", "is", "a", "GP", "prior", "which", "specifies", "a", "Gaussian", "distribution", "with", "zero", "mean", "function", "and", "covariance/kernel", "function", "K", "0", "-LRB-", "x", ",", "x", "-RRB-", "over", "a", "function", "space", ".", "If", "p", "t", "-LRB-", "a", "-RRB-", "is", "also", "a", "Gaussian", "process", ",", "then", "Csat", "o", "&", "Opper", "obtain", "the", "following", "updates", "by", "equating", "the", "means", "and", "covariances", "of", "p", "-LRB-", "a", "|", "A", "t", "+1", "-RRB-", "and", "p", "-LRB-", "a", "|", "A", "t", ",", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "-RRB-", "-RRB-", ":", "a", "t", "+1", "=", "a", "t", "+", "s", "t", "+1", "h", "t", "ln", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "C", "t", "+1", "=", "C", "t", "+", "s", "t", "+1", "s", "T", "t", "+1", "2", "h", "2", "t", "ln", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", ",", "where", "s", "t", "+1", "=", "C", "t", "k", "t", "+1", "+", "e", "t", "+1", ",", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "=", "y", "t", "+1", "h", "t", "t", "+1", ",", "2", "t", "+1", "=", "2", "0", "+", "k", "t", "+1", "+", "k", "T", "t", "+1", "C", "t", "k", "t", "+1", "and", "h", "t", "=", "a", "-LRB-", "x", "t", "+1", "-RRB-", "t", "=", "a", "T", "t", "k", "t", "+1", "Notice", "the", "similarities", "to", "the", "updates", "in", "section", "3.1", ".", "The", "main", "difference", "is", "the", "`", "kernel", "trick", "'", "introduced", "into", "the", "equations", "through", "k", "t", "+1", "=", "K", "0", "-LRB-", "x", "t", "+1", ",", "x", "t", "+1", "-RRB-", "and", "k", "t", "+1", "=", "-LRB-", "K", "0", "-LRB-", "x", "1", ",", "x", "t", "+1", "-RRB-", ",", "...", ",", "K", "0", "-LRB-", "x", "t", ",", "x", "t", "+1", "-RRB-", "-RRB-", "T", "New", "inputs", "x", "t", "+1", "are", "added", "sequentially", "to", "the", "system", "via", "the", "-LRB-", "t", "+", "1", "-RRB-", "th", "unit", "vector", "e", "t", "+1", ".", "This", "results", "in", "a", "quadratic", "increase", "in", "matrix", "size", ",", "and", "is", "a", "drawbackfor", "large", "data", "sets", ",", "such", "as", "those", "for", "text", "classification", ".", "Csat", "o", "&", "Opper", "overcome", "this", "by", "introducing", "sparseness", "into", "the", "GP", ".", "The", "idea", "is", "to", "replace", "e", "t", "+1", "by", "the", "projection", "^", "e", "t", "+1", "=", "K", "-1", "t", "k", "t", "+1", ",", "where", "K", "t", "=", "-LCB-", "K", "0", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", ",", "i", ",", "j", "=", "1", "...", "t", "-RCB-", ".", "This", "approximation", "introduces", "an", "error", "t", "+1", "=", "-LRB-", "k", "t", "+1", "-", "k", "T", "t", "+1", "K", "-1", "t", "k", "t", "+1", "-RRB-", "h", "t", "ln", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", ",", "which", "is", "used", "to", "decide", "when", "to", "employ", "the", "approximation", ".", "Hence", ",", "at", "any", "time", "the", "algorithm", "holds", "a", "set", "of", "basis", "vectors", ".", "It", "is", "usually", "desirable", "to", "limit", "the", "size", "of", "this", "set", ".", "To", "accommodate", "this", ",", "Csat", "o", "&", "Opper", "describe", "a", "procedure", "for", "removing", "a", "basis", "vector", "from", "the", "set", "by", "reversing", "the", "process", "of", "adding", "new", "inputs", ".", "For", "lackof", "space", ",", "the", "algorithm", "for", "the", "Bayesian", "Online", "Gaussian", "Process", "will", "not", "be", "given", "here", ".", "The", "reader", "is", "re-ferred", "to", "-LSB-", "3", "-RSB-", "for", "more", "information", ".", "99", "In", "this", "evaluation", ",", "we", "will", "compare", "Bayesian", "online", "perceptron", ",", "Bayesian", "online", "Gaussian", "process", ",", "and", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", "-LSB-", "23", "-RSB-", ".", "SVM", "is", "one", "of", "the", "best", "performing", "learning", "algorithms", "on", "the", "Reuters-21578", "corpus", "-LSB-", "7", ",", "27", "-RSB-", ".", "The", "Bayesian", "methods", "are", "as", "described", "in", "section", "3", ",", "while", "for", "SVM", "we", "will", "use", "the", "SV", "M", "light", "package", "by", "Joachims", "-LSB-", "8", "-RSB-", ".", "Since", "SVM", "is", "a", "batch", "method", ",", "to", "have", "a", "fair", "comparison", ",", "the", "online", "methods", "are", "iterated", "through", "the", "training", "data", "3", "times", "before", "testing", ".", "2", "4.1.1", "Feature", "Selection", "For", "the", "Reuters-21578", "corpus", ",", "we", "select", "as", "features", "for", "each", "category", "the", "set", "of", "all", "words", "for", "which", "-2", "ln", ">", "12.13", ".", "We", "further", "prune", "these", "by", "using", "only", "the", "top", "300", "features", ".", "This", "reduces", "the", "computation", "time", "required", "for", "the", "calculation", "of", "the", "covariances", "of", "the", "Bayesian", "classifiers", ".", "Since", "SVM", "is", "known", "to", "perform", "well", "for", "many", "features", ",", "for", "the", "SVM", "classifiers", "we", "also", "use", "the", "set", "of", "words", "which", "occur", "in", "at", "least", "3", "training", "documents", "-LSB-", "7", "-RSB-", ".", "This", "gives", "us", "8,362", "words", ".", "Note", "that", "these", "words", "are", "non-category", "specific", ".", "4.1.2", "Thresholding", "The", "probabilistic", "outputs", "from", "the", "Bayesian", "classifiers", "can", "be", "used", "in", "various", "ways", ".", "The", "most", "direct", "way", "is", "to", "use", "the", "Bayes", "decision", "rule", ",", "p", "-LRB-", "y", "=", "1", "|", "x", ",", "D", "m", "-RRB-", ">", "0.5", ",", "to", "determine", "the", "relevance", "of", "the", "document", "described", "by", "x.", "3", "However", ",", "as", "discussed", "in", "-LSB-", "10", ",", "26", "-RSB-", ",", "this", "is", "not", "optimal", "for", "the", "chosen", "evaluation", "measure", ".", "Therefore", ",", "in", "addition", "to", "0.5", "thresholding", ",", "we", "also", "empir-ically", "optimise", "the", "threshold", "for", "each", "category", "for", "the", "F", "1", "measure", "on", "the", "training", "documents", ".", "This", "scheme", ",", "which", "we", "shall", "call", "MaxF1", ",", "has", "also", "been", "employed", "in", "-LSB-", "27", "-RSB-", "for", "thresholding", "kNN", "and", "LLSF", "classifiers", ".", "The", "difference", "from", "our", "approach", "is", "that", "the", "threshold", "in", "-LSB-", "27", "-RSB-", "is", "calculated", "over", "a", "validation", "set", ".", "We", "do", "not", "use", "a", "validation", "set", "because", "we", "feel", "that", ",", "for", "very", "rare", "categories", ",", "it", "is", "hard", "to", "obtain", "a", "reasonable", "validation", "set", "from", "the", "training", "documents", ".", "For", "the", "Bayesian", "classifiers", ",", "we", "also", "perform", "an", "analyti-cal", "threshold", "optimisation", "suggested", "by", "Lewis", "-LSB-", "10", "-RSB-", ".", "In", "this", "scheme", ",", "which", "we", "shall", "call", "ExpectedF1", ",", "the", "threshold", "for", "each", "category", "is", "selected", "to", "optimise", "the", "expected", "F", "1", ":", "E", "-LSB-", "F", "1", "-RSB-", "i", "D", "-LRB-", "1", "-", "p", "i", "-RRB-", "if", "|", "D", "+", "|", "=", "0", "2", "iD", "+", "p", "i", "|", "D", "+", "|", "+", "iD", "p", "i", "otherwise", ",", "where", "is", "the", "threshold", ",", "p", "i", "is", "the", "probability", "assigned", "to", "document", "i", "by", "the", "classifier", ",", "D", "is", "the", "set", "of", "all", "test", "documents", ",", "and", "D", "+", "is", "the", "set", "of", "test", "documents", "with", "probabilities", "higher", "than", "the", "threshold", ".", "Note", "that", "ExpectedF1", "can", "only", "be", "applied", "after", "the", "probabilities", "for", "all", "the", "test", "documents", "are", "assigned", ".", "Hence", "the", "classification", "can", "only", "be", "done", "in", "batch", ".", "This", "is", "unlike", "the", "first", "two", "schemes", ",", "where", "classification", "can", "be", "done", "online", ".", "4.1.3", "Results", "and", "Discussion", "2", "See", "section", "A.", "2", "for", "discussion", "on", "the", "number", "of", "passes", ".", "3", "For", "SVM", ",", "to", "minimise", "structural", "risks", ",", "we", "would", "classify", "the", "document", "as", "relevant", "if", "w", "x", "+", "b", ">", "0", ",", "where", "w", "is", "the", "hyperplane", ",", "and", "b", "is", "the", "bias", ".", "4", "See", "section", "A.", "3", "for", "discussion", "on", "the", "jitter", "terms", "ij", ".", "Table", "1", ":", "Description", "of", "Methods", "Description", "4", "SVM-1", "K", "0", "=", "x", "i", "x", "j", "+", "1", "SVM-2", "K", "0", "=", "-LRB-", "x", "i", "x", "j", "+", "1", "-RRB-", "2", "SVM-R1", "K", "0", "=", "exp", "-LRB-", "1", "2", "|", "x", "i", "-", "x", "j", "|", "2", "-RRB-", "Perceptron", "0", "=", "0.5", ",", "one", "fixed", "feature", "-LRB-", "for", "bias", "-RRB-", "GP-1", "0", "=", "0.5", ",", "K", "0", "=", "x", "i", "x", "j", "+", "1", "+", "10", "-4", "ij", "GP-2", "0", "=", "0.5", ",", "K", "0", "=", "-LRB-", "x", "i", "x", "j", "+", "1", "-RRB-", "2", "+", "10", "-4", "ij", "GP-R1", "0", "=", "0.5", ",", "K", "0", "=", "exp", "-LRB-", "1", "2", "|", "x", "i", "-", "x", "j", "|", "2", "-RRB-", "+", "10", "-4", "ij", "Table", "2", ":", "Micro", "-", "/", "Macro-average", "F", "1", "0.5", "MaxF1", "ExpectedF1", "SVM", "a", "-1", "86.15", "/", "42.63", "86.35", "/", "56.92", "SVM", "a", "-2", "85.44", "/", "40.13", "86.19", "/", "56.42", "SVM", "a", "-", "R1", "84.99", "/", "37.61", "86.63", "/", "53.14", "SVM", "b", "-1", "85.60", "/", "52.03", "85.05", "/", "52.43", "SVM", "b", "-2", "85.60", "/", "50.53", "84.50", "/", "50.49", "SVM", "b", "-", "R1", "85.75", "/", "50.52", "84.65", "/", "51.27", "Perceptron", "85.12", "/", "45.23", "86.69", "/", "52.16", "86.44", "/", "53.08", "GP-1", "85.08", "/", "45.20", "86.73", "/", "52.12", "86.54", "/", "53.12", "GP-2", "85.58", "/", "47.90", "86.60", "/", "52.19", "86.77", "/", "55.04", "GP-R1", "85.18", "/", "44.88", "86.76", "/", "52.61", "86.93", "/", "53.35", "Table", "1", "lists", "the", "parameters", "for", "the", "algorithms", "used", "in", "our", "evaluation", ",", "while", "Table", "2", "and", "3", "tabulate", "the", "results", ".", "There", "are", "two", "sets", "of", "results", "for", "SVM", ",", "and", "they", "are", "labeled", "SVM", "a", "and", "SVM", "b", ".", "The", "latter", "uses", "the", "same", "set", "of", "features", "as", "the", "Bayesian", "classifiers", "-LRB-", "i.e.", "using", "the", "-2", "ln", "measure", "-RRB-", ",", "while", "the", "former", "uses", "the", "set", "of", "8,362", "words", "as", "features", ".", "Table", "2", "summarizes", "the", "results", "using", "F", "1", "averages", ".", "Table", "3", "compares", "the", "classifiers", "using", "s-test", "and", "S-test", ".", "Here", ",", "the", "MaxF1", "thresholds", "are", "used", "for", "the", "classification", "decisions", ".", "Each", "row", "in", "these", "tables", "compares", "the", "method", "listed", "in", "the", "first", "column", "with", "the", "other", "methods", ".", "The", "significance", "levels", "from", "-LSB-", "27", "-RSB-", "are", "used", ".", "Several", "observations", "can", "be", "made", ":", "Generally", ",", "MaxF1", "thresholding", "increases", "the", "performance", "of", "all", "the", "systems", ",", "especially", "for", "rare", "categories", ".", "For", "the", "Bayesian", "classifiers", ",", "ExpectedF1", "thresholding", "improves", "the", "performance", "of", "the", "systems", "on", "rare", "categories", ".", "Perceptron", "implicitly", "implements", "the", "kernel", "used", "by", "GP-1", ",", "hence", "their", "similar", "results", ".", "With", "MaxF1", "thresholding", ",", "feature", "selection", "impedes", "the", "performance", "of", "SVM", ".", "In", "Table", "2", ",", "SVM", "with", "8,362", "features", "have", "slightly", "lower", "micro-average", "F", "1", "to", "the", "Bayesian", "classifiers", ".", "However", ",", "the", "s-tests", "in", "Table", "3", "show", "that", "Bayesian", "classifiers", "outperform", "SVM", "for", "significantly", "many", "common", "categories", ".", "Hence", ",", "in", "addition", "to", "computing", "average", "F", "1", "measures", ",", "it", "is", "useful", "to", "perform", "sign", "tests", ".", "As", "shown", "in", "Table", "3", ",", "for", "limited", "features", ",", "Bayesian", "classifiers", "outperform", "SVM", "for", "both", "common", "and", "rare", "categories", ".", "Based", "on", "the", "sign", "tests", ",", "the", "Bayesian", "classifiers", "outperform", "SVM", "-LRB-", "using", "8,362", "words", "-RRB-", "for", "common", "categories", ",", "and", "vice", "versa", "for", "rare", "categories", ".", "100", "Table", "3", ":", "s-test/S-test", "using", "MaxF1", "thresholding", "SVM", "a", "-1", "SVM", "a", "-2", "SVM", "a", "-", "R1", "SVM", "b", "-1", "SVM", "b", "-2", "SVM", "b", "-", "R1", "Pptron", "GP-1", "GP-2", "GP-R1", "SVM", "a", "-1", "/", "<", "/", "/", "/", "/", "/", "/", "/", "/", "SVM", "a", "-2", "/", "/", ">", "/", "/", "/", "/", "/", "/", "/", ">", "SVM", "a", "-", "R1", ">", "/", "/", "/", "/", "/", "<", "/", ">", "<", "/", ">", "/", "<", "/", "SVM", "b", "-1", "/", "<", "/", "/", "/", ">", "/", ">", "/", "<", "/", "/", "<", "/", "<", "SVM", "b", "-2", "/", "/", "/", "/", "/", "/", "<", "/", "<", "/", "/", "SVM", "b", "-", "R1", "/", "/", "/", "<", "/", "<", "/", "/", "<", "/", "/", "/", "Perceptron", "/", "/", ">", "/", "<", "/", ">", "/", ">", "/", ">", "/", "/", "/", "GP-1", "/", "/", ">", "/", "<", "/", "/", ">", "/", "/", "/", "/", "GP-2", "/", "/", "/", "/", ">", "/", "/", "/", "/", "/", "GP-R1", "/", "/", "<", ">", "/", "/", ">", "/", "/", "/", "/", "/", "''", "''", "or", "''", "''", "means", "P-value", "0.01", ";", "''", ">", "''", "or", "''", "<", "''", "means", "0.01", "<", "P-value", "0.05", ";", "''", "''", "means", "P-value", ">", "0.05", ".", "The", "last", "observation", "suggests", "that", "one", "can", "use", "Bayesian", "classifiers", "for", "common", "categories", ",", "and", "SVM", "for", "rare", "ones", ".", "4.2", "Filtering", "on", "OHSUMED", "In", "this", "section", ",", "only", "the", "Bayesian", "online", "perceptron", "will", "be", "considered", ".", "In", "order", "to", "avoid", "numerical", "integration", "of", "the", "information", "gain", "measure", ",", "instead", "of", "the", "probit", "model", "of", "section", "3.1", ",", "here", "we", "use", "a", "simpler", "likelihood", "model", "in", "which", "the", "outputs", "are", "flipped", "with", "fixed", "probability", ":", "p", "-LRB-", "y", "|", "x", ",", "a", "-RRB-", "=", "+", "-LRB-", "1", "-", "2", "-RRB-", "-LRB-", "ya", "x", "-RRB-", ",", "where", "-LRB-", "x", "-RRB-", "=", "1", "x", ">", "0", "0", "otherwise", ".", "The", "update", "equations", "will", "also", "change", "accordingly", ",", "e.g.", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", "=", "+", "-LRB-", "1", "-", "2", "-RRB-", "y", "t", "+1", "h", "t", "t", "+1", ",", "2", "t", "+1", "=", "x", "T", "t", "+1", "C", "t", "x", "t", "+1", "and", "h", "t", "=", "a", "T", "t", "x", "t", "+1", ".", "Using", "this", "likelihood", "measure", ",", "we", "can", "express", "the", "information", "gained", "from", "datum", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "-RRB-", "as", "IG", "-LRB-", "y", "t", "+1", ",", "x", "t", "+1", "|", "D", "t", "-RRB-", "log", "2", "+", "y", "t", "+1", "h", "t", "+1", "t", "+1", "log", "2", "1", "-", "log", "2", "p", "-LRB-", "y", "t", "+1", "|", "h", "-RRB-", "t", ",", "where", "2", "t", "+1", "=", "x", "T", "t", "+1", "C", "t", "+1", "x", "t", "+1", "and", "h", "t", "+1", "=", "a", "T", "t", "+1", "x", "t", "+1", ".", "We", "use", "=", "0.1", "in", "this", "evaluation", ".", "The", "following", "sections", "will", "describe", "the", "algorithm", "in", "detail", ".", "To", "simplify", "presentation", ",", "we", "will", "divide", "the", "batch-adaptive", "filtering", "taskinto", "batch", "and", "adaptive", "phases", ".", "4.2.1", "Feature", "Selection", "and", "Adaptation", "During", "the", "batch", "phase", ",", "words", "for", "which", "-2", "ln", ">", "12.13", "are", "selected", "as", "features", ".", "During", "the", "adaptive", "phase", ",", "when", "we", "obtain", "a", "feedback", ",", "we", "update", "the", "features", "by", "adding", "any", "new", "words", "with", "-2", "ln", ">", "12.13", ".", "When", "a", "feature", "is", "added", ",", "the", "distribution", "of", "the", "perceptron", "a", "is", "extended", "by", "one", "dimension", ":", "a", "a", "0", "C", "C", "0", "0", "1", ".", "4.2.2", "Training", "the", "classifier", "During", "the", "batch", "phase", ",", "the", "classifier", "is", "iterated", "through", "the", "training", "documents", "3", "times", ".", "In", "addition", ",", "the", "relevant", "documents", "are", "collected", "for", "use", "during", "the", "adaptive", "phase", ".", "During", "the", "adaptive", "phase", ",", "retrieved", "relevant", "documents", "are", "added", "to", "this", "collection", ".", "When", "a", "document", "is", "retrieved", ",", "the", "classifier", "is", "trained", "on", "that", "document", "and", "its", "given", "relevance", "judgement", ".", "The", "classifier", "will", "be", "trained", "on", "irrelevant", "documents", "most", "of", "the", "time", ".", "To", "prevent", "it", "from", "``", "forgetting", "''", "relevant", "documents", "due", "to", "its", "limited", "capacity", ",", "whenever", "we", "train", "on", "an", "irrelevant", "document", ",", "we", "would", "also", "train", "on", "a", "past", "relevant", "document", ".", "This", "past", "relevant", "document", "is", "chosen", "succes-sively", "from", "the", "collection", "of", "relevant", "documents", ".", "This", "is", "needed", "also", "because", "new", "features", "might", "have", "been", "added", "since", "a", "relevant", "document", "was", "last", "trained", "on", ".", "Hence", "the", "classifier", "would", "be", "able", "to", "gather", "new", "information", "from", "the", "same", "document", "again", "due", "to", "the", "additional", "features", ".", "Note", "that", "the", "past", "relevant", "document", "does", "not", "need", "to", "be", "chosen", "in", "successive", "order", ".", "Instead", ",", "it", "can", "be", "chosen", "using", "a", "probability", "distribution", "over", "the", "collection", ".", "This", "will", "be", "desirable", "when", "handling", "topic-drifts", ".", "We", "will", "evaluate", "the", "effectiveness", "of", "this", "strategy", "of", "retraining", "on", "past", "retrieved", "relevant", "documents", ",", "and", "denote", "its", "use", "by", "+", "rel", ".", "Though", "its", "use", "means", "that", "the", "algorithm", "is", "no", "longer", "online", ",", "asymptotic", "efficiency", "is", "unaffected", ",", "since", "only", "one", "past", "document", "is", "used", "for", "training", "at", "any", "instance", ".", "4.2.3", "Information", "Gain", "During", "testing", ",", "there", "are", "two", "reasons", "why", "we", "retrieve", "a", "document", ".", "The", "first", "is", "that", "it", "is", "relevant", ",", "i.e.", "p", "-LRB-", "y", "=", "1", "|", "x", ",", "D", "t", "-RRB-", ">", "0.5", ",", "where", "x", "represents", "the", "document", ".", "The", "second", "is", "that", ",", "although", "the", "document", "is", "deemed", "irrelevant", "by", "the", "classifier", ",", "the", "classifier", "would", "gain", "useful", "information", "from", "the", "document", ".", "Using", "the", "measure", "IG", "-LRB-", "y", ",", "x", "|", "D", "t", "-RRB-", ",", "we", "calculate", "the", "expected", "information", "gain", "IG", "-LRB-", "x", "|", "D", "t", "-RRB-", "=", "-LCB-", "-1,1", "-RCB-", "p", "-LRB-", "y", "=", "|", "x", ",", "D", "t", "-RRB-", "IG", "-LRB-", "y", "=", ",", "x", "|", "D", "t", "-RRB-", ".", "101", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "0", "0.2", "0.4", "0.6", "0.8", "1", "N", "ret", "Target", "number", "of", "documents", "=", "50", "Figure", "1", ":", "versus", "N", "ret", "tuned", "for", "T9P", "A", "document", "is", "then", "deemed", "useful", "if", "its", "expected", "information", "gain", "is", "at", "least", ".", "Optimizing", "for", "the", "T9P", "measure", "-LRB-", "i.e.", "targeting", "50", "documents", "-RRB-", ",", "we", "choose", "to", "be", "=", "0.999", "1", "+", "exp", "-", "N", "ret", "-", "50.0", "10", "-1", "+", "0.001", ",", "where", "N", "ret", "is", "the", "total", "number", "of", "documents", "that", "the", "system", "has", "retrieved", ".", "Figure", "1", "plots", "against", "N", "ret", ".", "Note", "that", "this", "is", "a", "kind", "of", "active", "learning", ",", "where", "the", "willingness", "to", "tradeoff", "precision", "for", "learning", "decreases", "with", "N", "ret", ".", "The", "use", "of", "this", "information", "gain", "criteria", "will", "be", "denoted", "by", "+", "ig", ".", "We", "will", "test", "the", "effectiveness", "of", "the", "information", "gain", "strategy", ",", "against", "an", "alternative", "one", ".", "The", "alternative", ",", "denoted", "by", "+", "rnd", ",", "will", "randomly", "select", "documents", "to", "retrieve", "based", "on", "the", "probability", "U", "=", "0", "if", "N", "ret", ">", "=", "50", "50-N", "ret", "293856", "otherwise", ",", "where", "293,856", "is", "the", "number", "of", "test", "documents", ".", "4.2.4", "Results", "and", "Discussion", "Table", "4", "lists", "the", "results", "of", "seven", "systems", ".", "The", "first", "two", "are", "of", "Microsoft", "Research", "Cambridge", "and", "Fudan", "University", "respectively", ".", "These", "are", "the", "only", "runs", "in", "TREC-9", "for", "the", "task", ".", "The", "third", "is", "of", "the", "system", "as", "described", "in", "full", ",", "i.e.", "Bayesian", "online", "perceptron", ",", "with", "retraining", "on", "past", "retrieved", "relevant", "documents", ",", "and", "with", "the", "use", "of", "information", "gain", ".", "The", "rest", "are", "of", "the", "Bayesian", "online", "perceptron", "with", "different", "combinations", "of", "strategies", ".", "Besides", "the", "T9P", "measure", ",", "for", "the", "sake", "of", "completeness", ",", "Table", "4", "also", "lists", "the", "other", "measures", "used", "in", "TREC-9", ".", "Taken", "together", ",", "the", "measures", "show", "that", "Bayesian", "online", "perceptron", ",", "together", "with", "the", "consideration", "for", "information", "gain", ",", "is", "a", "very", "competitive", "method", ".", "For", "the", "systems", "with", "+", "rel", ",", "the", "collection", "of", "past", "known", "relevant", "documents", "is", "kept", ".", "Although", "Microsoft", "uses", "this", "same", "collection", "for", "its", "query", "reformulation", ",", "another", "collection", "of", "all", "previously", "seen", "documents", "is", "used", "for", "threshold", "adaptation", ".", "Fudan", "maintains", "a", "collection", "of", "past", "retrieved", "documents", "and", "uses", "this", "collection", "for", "query", "adaptation", ".", "5", "-LSB-", "18", "-RSB-", "reports", "results", "from", "run", "ok9bfr2po", ",", "while", "we", "report", "results", "from", "the", "slightly", "better", "run", "ok9bf2po", ".", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "40", "50", "60", "70", "80", "90", "100", "110", "120", "130", "Average", "number", "of", "relevant", "documents", "retrieved", "Average", "number", "of", "features", "Pptron", "+", "rel", "+", "ig", "Pptron", "+", "ig", "Pptron", "+", "rnd", "Pptron", "Figure", "2", ":", "Variation", "of", "the", "number", "of", "features", "as", "relevant", "documents", "are", "retrieved", ".", "The", "plots", "for", "Pptron", "+", "rel", "+", "ig", "and", "Pptron", "+", "ig", "are", "very", "close", ".", "So", "are", "the", "plots", "for", "Pptron", "+", "rnd", "and", "Pptron", ".", "In", "a", "typical", "operational", "system", ",", "retrieved", "relevant", "documents", "are", "usually", "retained", ",", "while", "irrelevant", "documents", "are", "usually", "discarded", ".", "Therefore", "+", "rel", "is", "a", "practical", "strategy", "to", "adopt", ".", "Figure", "2", "plots", "the", "average", "number", "of", "features", "during", "the", "adaptive", "phase", ".", "We", "can", "see", "that", "features", "are", "constantly", "added", "as", "relevant", "documents", "are", "seen", ".", "When", "the", "classifier", "is", "retrained", "on", "past", "documents", ",", "the", "new", "features", "enable", "the", "classifier", "to", "gain", "new", "information", "from", "these", "documents", ".", "If", "we", "compare", "the", "results", "for", "Pptron", "+", "rel", "and", "Pptron", "in", "Table", "4", ",", "we", "find", "that", "not", "training", "on", "past", "documents", "causes", "the", "number", "of", "relevant", "documents", "retrieved", "to", "drop", "by", "5", "%", ".", "Similarly", ",", "for", "Pptron", "+", "rel", "+", "ig", "and", "Pptron", "+", "ig", ",", "the", "drop", "is", "8", "%", ".", "Table", "5", "breaks", "down", "the", "retrieved", "documents", "into", "those", "that", "the", "classifier", "deems", "relevant", "and", "those", "that", "the", "classifier", "is", "actually", "querying", "for", "information", ",", "for", "Pptron", "+", "ig", "and", "Pptron", "+", "rnd", ".", "The", "table", "shows", "that", "none", "of", "the", "documents", "randomly", "queried", "are", "relevant", "documents", ".", "This", "is", "not", "surprising", ",", "since", "only", "an", "average", "of", "0.017", "%", "of", "the", "test", "documents", "are", "relevant", ".", "In", "contrast", ",", "the", "information", "gain", "strategy", "is", "able", "to", "retrieve", "313", "relevant", "documents", ",", "which", "is", "26.1", "%", "of", "the", "documents", "queried", ".", "This", "is", "a", "significant", "result", ".", "Consider", "Pptron", "+", "ig", ".", "Table", "4", "shows", "that", "for", "Pptron", ",", "when", "the", "information", "gain", "strategy", "is", "removed", ",", "only", "731", "relevant", "documents", "will", "be", "retrieved", ".", "Hence", ",", "although", "most", "of", "the", "documents", "queried", "are", "irrelevant", ",", "information", "gained", "from", "these", "queries", "helps", "recall", "by", "the", "classifier", "-LRB-", "i.e.", "815", "documents", "versus", "731", "documents", "-RRB-", ",", "which", "is", "important", "for", "reaching", "the", "target", "of", "50", "documents", ".", "MacKay", "-LSB-", "13", "-RSB-", "has", "noted", "the", "phenomenon", "of", "querying", "for", "irrelevant", "documents", "which", "are", "at", "the", "edges", "of", "the", "input", "space", ",", "and", "suggested", "maximizing", "information", "in", "a", "defined", "region", "of", "interest", "instead", ".", "Finding", "this", "region", "for", "batch-adaptive", "filtering", "remains", "a", "subject", "for", "further", "research", ".", "Comparing", "the", "four", "plots", "in", "Figure", "2", ",", "we", "find", "that", ",", "on", "average", ",", "the", "information", "gain", "strategy", "causes", "about", "3", "%", "more", "features", "to", "be", "discovered", "for", "the", "same", "number", "of", "relevant", "documents", "retrieved", ".", "A", "consequence", "of", "this", "is", "better", "recall", ".", "102", "Table", "4", ":", "Results", "for", "Batch-adaptive", "filtering", "optimized", "for", "T9P", "measure", ".", "Microsoft", "5", "Fudan", "Pptron", "+", "rel", "+", "ig", "Pptron", "+", "ig", "Pptron", "+", "rnd", "Pptron", "+", "rel", "Pptron", "Total", "retrieved", "3562", "3251", "2716", "2391", "2533", "1157", "1057", "Relevant", "retrieved", "1095", "1061", "1227", "1128", "732", "772", "731", "Macro-average", "recall", "39.5", "37.9", "36.2", "33.3", "20.0", "20.8", "20.0", "Macro-average", "precision", "30.5", "32.2", "35.8", "35.8", "21.6", "61.9", "62.3", "Mean", "T9P", "30.5", "31.7", "31.3", "29.8", "19.2", "21.5", "20.8", "Mean", "Utility", "-4.397", "-1.079", "15.318", "15.762", "-5.349", "18.397", "17.730", "Mean", "T9U", "-4.397", "-1.079", "15.318", "15.762", "-5.349", "18.397", "17.730", "Mean", "scaled", "utility", "-0.596", "-0.461", "-0.025", "0.016", "-0.397", "0.141", "0.138", "Zero", "returns", "0", "0", "0", "0", "0", "8", "0", "Table", "5", ":", "Breakdown", "of", "documents", "retrieved", "for", "Pptron", "+", "ig", "and", "Pptron", "+", "rnd", ".", "The", "numbers", "for", "the", "latter", "are", "in", "brackets", ".", "Relevant", "Not", "Relevant", "Total", "#", "docs", "retrieved", "by", "perceptron", "classifier", "proper", "815", "-LRB-", "732", "-RRB-", "378", "-LRB-", "345", "-RRB-", "1193", "-LRB-", "1077", "-RRB-", "#", "docs", "retrieved", "by", "information", "gain", "-LRB-", "or", "random", "strategy", "-RRB-", "313", "-LRB-", "0", "-RRB-", "885", "-LRB-", "1456", "-RRB-", "1198", "-LRB-", "1456", "-RRB-", "Total", "1128", "-LRB-", "732", "-RRB-", "1263", "-LRB-", "1801", "-RRB-", "2391", "-LRB-", "2533", "-RRB-", "We", "have", "implemented", "and", "tested", "Bayesian", "online", "perceptron", "and", "Gaussian", "processes", "on", "the", "text", "classification", "problem", ",", "and", "have", "shown", "that", "their", "performance", "is", "comparable", "to", "that", "of", "SVM", ",", "one", "of", "the", "best", "learning", "algorithms", "on", "text", "classification", "in", "the", "published", "literature", ".", "We", "have", "also", "demonstrated", "the", "effectiveness", "of", "online", "learning", "with", "information", "gain", "on", "the", "TREC-9", "batch-adaptive", "filtering", "task", ".", "Our", "results", "on", "text", "classification", "suggest", "that", "one", "can", "use", "Bayesian", "classifiers", "for", "common", "categories", ",", "and", "maximum", "margin", "classifiers", "for", "rare", "categories", ".", "The", "partitioning", "of", "the", "categories", "into", "common", "and", "rare", "ones", "in", "an", "optimal", "way", "is", "an", "interesting", "problem", ".", "SVM", "has", "been", "employed", "to", "use", "relevance", "feedbackby", "Drucker", "et", "al", "-LSB-", "4", "-RSB-", ",", "where", "the", "retrieval", "is", "in", "groups", "of", "10", "documents", ".", "In", "essence", ",", "this", "is", "a", "form", "of", "adaptive", "routing", ".", "It", "would", "be", "instructive", "to", "see", "how", "Bayesian", "classifiers", "perform", "here", ",", "without", "storing", "too", "many", "previously", "seen", "documents", ".", "It", "would", "also", "be", "interesting", "to", "compare", "the", "merits", "of", "incremental", "SVM", "-LSB-", "21", ",", "1", "-RSB-", "with", "the", "Bayesian", "online", "classifiers", ".", "We", "would", "like", "to", "thank", "Lehel", "Csat", "o", "for", "providing", "details", "on", "the", "implementation", "of", "the", "Gaussian", "process", ",", "Wee", "Meng", "Soon", "for", "assisting", "in", "the", "data", "preparation", ",", "Yiming", "Yang", "for", "clarifying", "the", "representation", "used", "in", "-LSB-", "27", "-RSB-", ",", "and", "Loo", "Nin", "Teow", "for", "proof-reading", "the", "manuscript", ".", "We", "would", "also", "like", "to", "thankthe", "reviewers", "for", "their", "many", "helpful", "comments", "in", "improving", "the", "paper", ".", "-LSB-", "1", "-RSB-", "G.", "Cauwenberghs", "and", "T.", "Poggio", ".", "Incremental", "and", "decremental", "support", "vector", "machine", "learning", ".", "In", "T.", "K.", "Leen", ",", "T.", "G.", "Dietterich", ",", "and", "V.", "Tresp", ",", "editors", ",", "NIPS", "2000", ",", "volume", "13", ".", "The", "MIT", "Press", ",", "2001", ".", "-LSB-", "2", "-RSB-", "D.", "Cox", "and", "E.", "Snell", ".", "Analysis", "of", "Binary", "Data", ".", "Chapman", "&", "Hall", ",", "London", ",", "2nd", "edition", ",", "1989", ".", "-LSB-", "3", "-RSB-", "L.", "Csat", "o", "and", "M.", "Opper", ".", "Sparse", "representation", "for", "Gaussian", "process", "models", ".", "In", "T.", "K.", "Leen", ",", "T.", "G.", "Dietterich", ",", "and", "V.", "Tresp", ",", "editors", ",", "NIPS", "2000", ",", "volume", "13", ".", "The", "MIT", "Press", ",", "2001", ".", "-LSB-", "4", "-RSB-", "H.", "Drucker", ",", "B.", "Shahrary", ",", "and", "D.", "C.", "Gibbon", ".", "Relevance", "feedbackusing", "support", "vector", "machines", ".", "In", "Proceedings", "of", "the", "2001", "International", "Conference", "on", "Machine", "Learning", ",", "2001", ".", "-LSB-", "5", "-RSB-", "T.", "E.", "Dunning", ".", "Accurate", "methods", "for", "the", "statistics", "of", "surprise", "and", "coincidence", ".", "Computational", "Linguistics", ",", "19", "-LRB-", "1", "-RRB-", ":", "61", "74", ",", "1993", ".", "-LSB-", "6", "-RSB-", "W.", "Hersh", ",", "C.", "Buckley", ",", "T.", "Leone", ",", "and", "D.", "Hickam", ".", "OHSUMED", ":", "An", "interactive", "retrieval", "evaluation", "and", "new", "large", "test", "collection", "for", "research", ".", "In", "Proceedings", "of", "the", "17th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "192", "201", ",", "1994", ".", "-LSB-", "7", "-RSB-", "T.", "Joachims", ".", "Text", "categorization", "with", "support", "vector", "machines", ":", "Learning", "with", "many", "relevant", "features", ".", "In", "Proceedings", "of", "the", "European", "Conference", "on", "Machine", "Learning", "-LRB-", "ECML", "-RRB-", ",", "pages", "137", "142", ",", "1998", ".", "-LSB-", "8", "-RSB-", "T.", "Joachims", ".", "Making", "large-scale", "SVM", "learning", "practical", ".", "In", "B.", "Sch", "olkopf", ",", "C.", "Burges", ",", "and", "A.", "Smola", ",", "editors", ",", "Advances", "in", "Kernel", "Methods", "--", "Support", "Vector", "Learning", ",", "chapter", "11", ".", "The", "MIT", "Press", ",", "1999", ".", "-LSB-", "9", "-RSB-", "D.", "D.", "Lewis", ".", "Representation", "and", "Learning", "in", "Information", "Retrieval", ".", "PhD", "thesis", ",", "Department", "of", "Computer", "and", "Information", "Science", ",", "University", "of", "Massachusetts", "at", "Amherst", ",", "1992", ".", "-LSB-", "10", "-RSB-", "D.", "D.", "Lewis", ".", "Evaluating", "and", "optimizing", "automomous", "text", "classification", "systems", ".", "In", "Proceedings", "of", "the", "18th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "246", "254", ",", "1995", ".", "-LSB-", "11", "-RSB-", "D.", "D.", "Lewis", ",", "R.", "E.", "Schapire", ",", "J.", "P.", "Callan", ",", "and", "R.", "Papka", ".", "Training", "algorithms", "for", "linear", "text", "classifiers", ".", "In", "Proceedings", "of", "the", "19th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "298", "306", ",", "1996", ".", "-LSB-", "12", "-RSB-", "D.", "J.", "Mackay", ".", "Bayesian", "interpolation", ".", "Neural", "Computation", ",", "4", "-LRB-", "3", "-RRB-", ":", "415", "447", ",", "1991", ".", "-LSB-", "13", "-RSB-", "D.", "J.", "Mackay", ".", "Information-based", "objective", "functions", "for", "active", "data", "selection", ".", "Neural", "Computation", ",", "4", "-LRB-", "4", "-RRB-", ":", "590", "604", ",", "1992", ".", "103", "-LSB-", "14", "-RSB-", "R.", "M.", "Neal", ".", "Monte", "Carlo", "implementation", "of", "Gaussian", "process", "models", "for", "Bayesian", "regression", "and", "classification", ".", "Technical", "Report", "CRG-TR-97-2", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Toronto", ",", "January", "1997", ".", "-LSB-", "15", "-RSB-", "H.", "T.", "Ng", ",", "W.", "B.", "Goh", ",", "and", "K.", "L.", "Low", ".", "Feature", "selection", ",", "perceptron", "learning", ",", "and", "a", "usability", "case", "study", "for", "text", "categorization", ".", "In", "Proceedings", "of", "the", "20th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "67", "73", ",", "1997", ".", "-LSB-", "16", "-RSB-", "M.", "Opper", ".", "Online", "versus", "offline", "learning", "from", "random", "examples", ":", "General", "results", ".", "Physical", "Review", "Letters", ",", "77:4671", "4674", ",", "1996", ".", "-LSB-", "17", "-RSB-", "M.", "Opper", ".", "A", "Bayesian", "approach", "to", "online", "learning", ".", "In", "D.", "Saad", ",", "editor", ",", "On-Line", "Learning", "in", "Neural", "Networks", ".", "Combridge", "University", "Press", ",", "1998", ".", "-LSB-", "18", "-RSB-", "S.", "Robertson", "and", "D.", "A.", "Hull", ".", "The", "TREC-9", "filtering", "trackfinal", "report", ".", "In", "Proceedings", "of", "the", "9th", "Text", "REtrieval", "Conference", "-LRB-", "TREC-9", "-RRB-", ",", "pages", "25", "40", ",", "2001", ".", "-LSB-", "19", "-RSB-", "G.", "Salton", "and", "C.", "Buckley", ".", "Term-weighting", "approaches", "in", "automatic", "text", "retrieval", ".", "Information", "Processing", "and", "Management", ",", "24", "-LRB-", "5", "-RRB-", ":", "513", "523", ",", "1988", ".", "-LSB-", "20", "-RSB-", "S.", "A.", "Solla", "and", "O.", "Winther", ".", "Optimal", "perceptron", "learning", ":", "an", "online", "Bayesian", "approach", ".", "In", "D.", "Saad", ",", "editor", ",", "On-Line", "Learning", "in", "Neural", "Networks", ".", "Combridge", "University", "Press", ",", "1998", ".", "-LSB-", "21", "-RSB-", "N.", "A.", "Syed", ",", "H.", "Liu", ",", "and", "K.", "K.", "Sung", ".", "Incremental", "learning", "with", "support", "vector", "machines", ".", "In", "Proceedings", "of", "the", "Workshop", "on", "Support", "Vector", "Machines", "at", "the", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI-99", "-RRB-", ",", "1999", ".", "-LSB-", "22", "-RSB-", "C.", "van", "Rijsbergen", ".", "Information", "Retrieval", ".", "Butterworths", ",", "London", ",", "1979", ".", "-LSB-", "23", "-RSB-", "V.", "N.", "Vapnik", ".", "The", "Nature", "of", "Statistical", "Learning", "Theory", ".", "Springer", ",", "New", "York", ",", "1995", ".", "-LSB-", "24", "-RSB-", "C.", "K.", "Williams", "and", "M.", "Seeger", ".", "Using", "the", "Nystr", "om", "method", "to", "speed", "up", "kernel", "machines", ".", "In", "T.", "K.", "Leen", ",", "T.", "G.", "Dietterich", ",", "and", "V.", "Tresp", ",", "editors", ",", "NIPS", "2000", ",", "volume", "13", ".", "The", "MIT", "Press", ",", "2001", ".", "-LSB-", "25", "-RSB-", "O.", "Winther", ".", "Bayesian", "Mean", "Field", "Algorithms", "for", "Neural", "Networks", "and", "Gaussian", "Processes", ".", "PhD", "thesis", ",", "University", "of", "Copenhagen", ",", "CONNECT", ",", "The", "Niels", "Bohr", "Institute", ",", "1998", ".", "-LSB-", "26", "-RSB-", "Y.", "Yang", ".", "A", "study", "on", "thresholding", "strategies", "for", "text", "categorization", ".", "In", "Proceedings", "of", "the", "24th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "137", "145", ",", "2001", ".", "-LSB-", "27", "-RSB-", "Y.", "Yang", "and", "X.", "Liu", ".", "A", "re-examination", "of", "text", "categorization", "methods", ".", "In", "Proceedings", "of", "the", "22nd", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "42", "49", ",", "1999", ".", "APPENDIX", "A.", "ON", "THE", "CHOICE", "OF", "PARAMETERS", "A.", "1", "Likelihood", "model", "MacKay", "-LSB-", "12", "-RSB-", "has", "suggested", "the", "evidence", "frameworkfor", "model", "selection", ".", "Here", ",", "we", "calculate", "the", "evidence", "on", "the", "training", "Table", "6", ":", "Micro", "-", "/", "Macro-avg", "F", "1", "-LRB-", "MaxF1", "thresholds", "-RRB-", "and", "Avg", "log-evidence", "on", "Reuters-21578", "for", "different", "likelihood", "models", ",", "using", "Bayesian", "online", "perceptron", ".", "Micro", "-", "/", "Macro-avg", "F", "1", "Avg", "log-evidence", "Logit", "86.48", "/", "52.75", "-45.02", "Probit", "86.69", "/", "52.16", "-34.32", "Flip", "85.94", "/", "53.00", "-368.8", "Table", "7", ":", "Micro", "-", "/", "Macro-avg", "F", "1", "-LRB-", "MaxF1", "thresholds", "-RRB-", "and", "Avg", "log-evidence", "on", "Reuters-21578", "for", "different", "passes", "over", "the", "training", "data", ",", "using", "Bayesian", "online", "perceptron", ".", "Passes", "Micro", "-", "/", "Macro-avg", "F", "1", "Avg", "log-evidence", "1", "87.08", "/", "52.87", "-35.56", "2", "86.92", "/", "52.63", "-34.36", "3", "86.69", "/", "52.16", "-34.32", "4", "86.62", "/", "52.75", "-34.54", "5", "85.22", "/", "46.93", "-34.69", "data", "using", "the", "final", "posterior", "for", "a", ":", "p", "-LRB-", "D", "m", "-RRB-", "=", "m", "t", "=", "1", "p", "-LRB-", "y", "t", "|", "x", "t", ",", "a", "-RRB-", "m", ".", "Table", "6", "illustrates", "this", "for", "selecting", "the", "likelihood", "measure", "for", "the", "text", "classification", "task", ",", "using", "the", "Bayesian", "online", "perceptron", ".", "In", "the", "table", ",", "the", "probit", "model", "follows", "the", "formulation", "in", "section", "3.1", "with", "0", "=", "0.5", ",", "logit", "model", "is", "esti-mated", "by", "the", "probit", "model", "with", "0", "=", "1.6474", "-LSB-", "2", "-RSB-", ",", "and", "the", "flip", "noise", "model", "is", "as", "described", "in", "section", "4.2", ".", "Although", "their", "F", "1", "averages", "are", "similar", ",", "the", "evidences", "show", "that", "the", "probit", "model", "with", "0", "=", "0.5", "is", "a", "more", "likely", "model", ".", "The", "small", "evidence", "for", "the", "flip", "noise", "model", "is", "because", "much", "information", "is", "lost", "through", "the", "threshold", "function", ".", "A.", "2", "Effects", "of", "multiple", "passes", "over", "data", "Using", "the", "evidence", "measure", "defined", "in", "section", "A.", "1", ",", "Table", "7", "illustrates", "the", "effects", "of", "different", "number", "of", "passes", "over", "training", "data", "for", "Bayesian", "online", "perceptron", ".", "Treating", "the", "number", "of", "passes", "as", "a", "parameter", "for", "the", "algorithm", ",", "we", "see", "that", "having", "3", "passes", "over", "the", "data", "gives", "the", "highest", "average", "evidence", ",", "although", "there", "is", "no", "significant", "difference", "between", "2", ",", "3", ",", "or", "4", "passes", ".", "Similar", "results", "hold", "for", "the", "Gaussian", "process", "for", "the", "3", "different", "kernels", ".", "Hence", ",", "in", "section", "4.1", ",", "we", "choose", "to", "use", "3", "passes", "for", "all", "the", "Bayesian", "algorithms", ".", "A.", "3", "Jitter", "term", "The", "addition", "of", "the", "jitter", "term", "10", "-4", "ij", "-LRB-", "where", "ij", "=", "1", "if", "i", "=", "j", ",", "and", "0", "otherwise", "-RRB-", "for", "Gaussian", "process", "for", "classification", "is", "recommended", "by", "Neal", "-LSB-", "14", "-RSB-", ".", "This", "term", "improves", "the", "conditioning", "of", "the", "matrix", "computations", "while", "having", "a", "small", "effect", "on", "the", "model", ".", "From", "our", "preliminary", "experiments", ",", "without", "the", "jitter", "term", ",", "the", "matrix", "operations", "in", "Bayesian", "online", "Gaussian", "process", "become", "ill-conditioned", ".", "A.", "4", "Sizes", "of", "the", "basis", "vectors", "sets", "The", "sizes", "of", "the", "sets", "of", "basis", "vectors", "for", "GP", "in", "section", "4.1", "are", "limited", "to", "less", "than", "or", "equal", "to", "the", "number", "of", "features", "selected", ".", "This", "is", "because", ",", "as", "noted", "by", "Csat", "o", "&", "Opper", "-LSB-", "3", "-RSB-", ",", "for", "a", "feature", "space", "of", "finite", "dimension", "M", ",", "no", "more", "than", "M", "basis", "vectors", "are", "needed", ",", "due", "to", "linear", "dependence", ".", "104"], "doc_bio_tags": ["B", "I", "I", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "B", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["filtering", "gaussian process", "perceptron", "bayesian online classifiers", "machine learning", "bayesian", "online", "text classification", "information gain"], "abstractive_keyphrases": ["continous learning", "text filtering"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "39", "document": ["Automated", "Rich", "Presentation", "of", "a", "Semantic", "Topic", "To", "have", "a", "rich", "presentation", "of", "a", "topic", ",", "it", "is", "not", "only", "expected", "that", "many", "relevant", "multimodal", "information", ",", "including", "images", ",", "text", ",", "audio", "and", "video", ",", "could", "be", "extracted", ";", "it", "is", "also", "important", "to", "organize", "and", "summarize", "the", "related", "information", ",", "and", "provide", "users", "a", "concise", "and", "informative", "storyboard", "about", "the", "target", "topic", ".", "It", "facilitates", "users", "to", "quickly", "grasp", "and", "better", "understand", "the", "content", "of", "a", "topic", ".", "In", "this", "paper", ",", "we", "present", "a", "novel", "approach", "to", "automatically", "generating", "a", "rich", "presentation", "of", "a", "given", "semantic", "topic", ".", "In", "our", "proposed", "approach", ",", "the", "related", "multimodal", "information", "of", "a", "given", "topic", "is", "first", "extracted", "from", "available", "multimedia", "databases", "or", "websites", ".", "Since", "each", "topic", "usually", "contains", "multiple", "events", ",", "a", "text-based", "event", "clustering", "algorithm", "is", "then", "performed", "with", "a", "generative", "model", ".", "Other", "media", "information", ",", "such", "as", "the", "representative", "images", ",", "possibly", "available", "video", "clips", "and", "flashes", "-LRB-", "interactive", "animates", "-RRB-", ",", "are", "associated", "with", "each", "related", "event", ".", "A", "storyboard", "of", "the", "target", "topic", "is", "thus", "generated", "by", "integrating", "each", "event", "and", "its", "corresponding", "multimodal", "information", ".", "Finally", ",", "to", "make", "the", "storyboard", "more", "expressive", "and", "attractive", ",", "an", "incidental", "music", "is", "chosen", "as", "background", "and", "is", "aligned", "with", "the", "storyboard", ".", "A", "user", "study", "indicates", "that", "the", "presented", "system", "works", "quite", "well", "on", "our", "testing", "examples", ".", "H.", "5.3", "-LSB-", "Information", "Interfaces", "and", "Presentation", "-RSB-", ":", "Group", "and", "Organization", "Interfaces", "-", "Organizational", "design", ";", "H.", "3.1", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", "-", "abstracting", "methods", ".", "Algorithms", ",", "Design", ",", "Management", ",", "Experimentation", ",", "Theory", "In", "the", "multimedia", "field", ",", "a", "major", "objective", "of", "content", "analysis", "is", "to", "discover", "the", "high-level", "semantics", "and", "structures", "from", "the", "low-level", "features", ",", "and", "thus", "to", "facilitate", "indexing", ",", "browsing", ",", "searching", ",", "and", "managing", "the", "multimedia", "database", ".", "In", "recent", "years", ",", "a", "lot", "of", "technologies", "have", "been", "developed", "for", "various", "media", "types", ",", "including", "images", ",", "video", ",", "audio", "and", "etc.", ".", "For", "example", ",", "various", "approaches", "and", "systems", "have", "been", "proposed", "in", "image", "content", "analysis", ",", "such", "as", "semantic", "classification", "-LSB-", "1", "-RSB-", ",", "content-based", "image", "retrieval", "-LSB-", "2", "-RSB-", "and", "photo", "album", "management", "-LSB-", "3", "-RSB-", ".", "There", "are", "also", "a", "lot", "of", "research", "focuses", "on", "video", "analysis", ",", "such", "as", "video", "segmentation", "-LSB-", "4", "-RSB-", ",", "highlight", "detection", "-LSB-", "5", "-RSB-", ",", "video", "summarization", "-LSB-", "6", "-RSB-", "-LSB-", "7", "-RSB-", ",", "and", "video", "structure", "analysis", "-LSB-", "8", "-RSB-", ",", "applied", "in", "various", "data", "including", "news", "video", ",", "movie", "and", "sports", "video", ".", "Since", "audio", "information", "is", "very", "helpful", "for", "video", "analysis", ",", "many", "research", "works", "on", "audio", "are", "also", "developed", "to", "enhance", "multimedia", "analysis", ",", "such", "as", "audio", "classification", "-LSB-", "9", "-RSB-", ",", "and", "audio", "effect", "detection", "in", "different", "audio", "streams", "-LSB-", "10", "-RSB-", ".", "Most", "recently", ",", "there", "are", "more", "and", "more", "approaches", "and", "systems", "integrating", "multimodal", "information", "in", "order", "to", "improve", "analysis", "performance", "-LSB-", "11", "-RSB-", "-LSB-", "12", "-RSB-", ".", "The", "main", "efforts", "of", "the", "above", "mentioned", "research", "have", "focused", "on", "understanding", "the", "semantics", "-LRB-", "including", "a", "topic", ",", "an", "event", "or", "the", "similarity", "-RRB-", "from", "the", "multimodal", "information", ".", "That", "is", ",", "after", "the", "multimedia", "data", "is", "given", ",", "we", "want", "to", "detect", "the", "semantics", "implied", "in", "these", "data", ".", "In", "this", "paper", ",", "we", "propose", "a", "new", "task", ",", "Rich", "Presentation", ",", "which", "is", "an", "inverse", "problem", "of", "the", "traditional", "multimedia", "content", "analysis", ".", "That", "is", ",", "if", "we", "have", "a", "semantic", "topic", ",", "how", "can", "we", "integrate", "its", "relevant", "multimodal", "information", ",", "including", "image", ",", "text", ",", "audio", "and", "video", ",", "to", "richly", "present", "the", "target", "topic", "and", "to", "provide", "users", "a", "concise", "and", "informative", "storyboard", "?", "In", "this", "paper", ",", "the", "so-called", "``", "semantic", "topic", "''", "is", "a", "generic", "concept", ".", "It", "could", "be", "any", "keyword", "representing", "an", "event", "or", "events", ",", "a", "person", "'s", "name", ",", "or", "anything", "else", ".", "For", "example", ",", "``", "World", "Cup", "2002", "''", "and", "``", "US", "election", "''", "could", "be", "topics", ",", "as", "well", "as", "``", "Halloween", "''", "and", "``", "Harry", "Potter", "''", ".", "In", "this", "paper", ",", "our", "task", "is", "to", "find", "sufficient", "information", "on", "these", "topics", ",", "extract", "the", "key", "points", ",", "fuse", "the", "information", "from", "different", "modalities", ",", "and", "then", "generate", "an", "expressive", "storyboard", ".", "Rich", "presentation", "can", "be", "very", "helpful", "to", "facilitate", "quickly", "grasping", "and", "better", "understanding", "the", "corresponding", "topic", ".", "People", "usually", "search", "information", "from", "-LRB-", "multimedia", "-RRB-", "database", "or", "the", "Internet", ".", "However", ",", "what", "they", "get", "is", "usually", "a", "bulk", "of", "unorganized", "information", ",", "with", "many", "duplicates", "and", "noise", ".", "It", "is", "tedious", "and", "costs", "a", "long", "time", "to", "get", "what", "they", "want", "by", "browsing", "the", "search", "results", ".", "If", "there", "is", "a", "tool", "to", "help", "summarize", "and", "integrate", "the", "multimodal", "information", ",", "and", "then", "produce", "a", "concise", "and", "informative", "storyboard", ",", "it", "will", "enable", "users", "to", "quickly", "figure", "out", "the", "overview", "contents", "of", "a", "topic", "that", "they", "want", "to", "understand", ".", "Rich", "presentation", "provides", "such", "a", "tool", ",", "and", "thus", "it", "could", "have", "many", "potential", "applications", ",", "such", "as", "education", "and", "learning", ",", "multimedia", "authoring", ",", "multimedia", "retrieval", ",", "documentary", "movie", "production", ",", "and", "information", "personalization", ".", "In", "this", "paper", ",", "we", "will", "present", "the", "approach", "to", "rich", "presentation", ".", "In", "order", "to", "produce", "a", "concise", "and", "informative", "storyboard", "to", "richly", "present", "a", "target", "topic", ",", "we", "need", "to", "answer", "the", "following", "questions", ".", "1", "-RRB-", "How", "to", "extract", "the", "relevant", "information", "regarding", "the", "target", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MM", "'", "05", ",", "November", "6", "11", ",", "2005", ",", "Singapore", ".", "Copyright", "2005", "ACM", "1-59593-044-2", "/", "05/0011", "...", "$", "5.00", ".", "745", "topic", "?", "2", "-RRB-", "How", "to", "extract", "the", "key", "points", "from", "the", "relevant", "information", "and", "build", "a", "concise", "and", "informative", "storyboard", "?", "3", "-RRB-", "How", "to", "fuse", "all", "the", "information", "from", "different", "modality", "?", "and", "4", "-RRB-", "how", "to", "design", "the", "corresponding", "rendering", "interface", "?", "Storyboard", "Relevant", "Media", "Music", "Multiple", "Events", "Clustering", "Event", "summary", "-LRB-", "4w", "+", "time", "-RRB-", "Geographic", "information", "Relevant", "multimodal", "information", "Retrieval", "Text", "A", "Target", "Topic", "Rhythm", "Analysis", "Onset/Beat", "Sequence", "Strength", "confidence", "Media", "Association", "Representative", "images", "Relevant", "video", "clips", "Storyboard", "Generation", "Event", "presentation", ",", "multimodal", "information", "fusion", ",", "layout", "design", "Music", "and", "storyboard", "synchronization", "Rich", "Presentation", "User", "Interaction", "Fig.", "1", "The", "system", "framework", "of", "rich", "presentation", "of", "a", "target", "semantic", "topic", ".", "It", "is", "mainly", "composed", "of", "three", "steps", ",", "relevant", "multimodal", "information", "extraction", ",", "media", "analysis", ",", "and", "rich", "presentation", "generation", ".", "In", "this", "paper", ",", "we", "propose", "a", "number", "of", "novel", "approaches", "to", "deal", "with", "the", "above", "issues", "and", "also", "present", "an", "example", "system", ".", "Fig.", "1", "illustrates", "the", "proposed", "system", "framework", "of", "rich", "presentation", ".", "It", "is", "mainly", "composed", "of", "three", "steps", ",", "relevant", "multimodal", "information", "extraction", ",", "media", "analysis", "including", "multiple", "events", "clustering", ",", "representative", "media", "detection", "and", "music", "rhythm", "analysis", ";", "and", "the", "final", "storyboard", "generation", "and", "music", "synchronization", ".", "In", "the", "proposed", "system", ",", "given", "the", "semantic", "topic", ",", "the", "relevant", "information", ",", "including", "text", ",", "image", ",", "video", "and", "music", ",", "is", "first", "extracted", "from", "the", "available", "multimedia", "database", "or", "the", "web", "database", ".", "User", "interaction", "is", "also", "allowed", "to", "provide", "extra", "relevant", "material", "or", "give", "relevant", "feedback", ".", "Then", ",", "the", "information", "is", "summarized", ",", "with", "an", "event", "clustering", "algorithm", ",", "to", "give", "a", "concise", "representation", "of", "the", "topic", "and", "figure", "out", "the", "overview", "of", "the", "contents", ".", "Other", "multimedia", "materials", ",", "such", "as", "representative", "images", "-LRB-", "or", "image", "sequences", "-RRB-", "and", "geographic", "information", ",", "are", "subsequently", "associated", "with", "each", "event", ".", "In", "the", "next", "step", ",", "all", "the", "above", "information", "is", "integrated", "to", "generate", "a", "storyboard", ",", "in", "which", "each", "event", "is", "presented", "as", "one", "or", "multiple", "slides", ".", "An", "incidental", "music", ",", "which", "is", "also", "possibly", "relevant", "to", "the", "topic", ",", "is", "finally", "synchronized", "with", "the", "storyboard", "to", "improve", "its", "expressiveness", "and", "attractiveness", ".", "Thus", ",", "with", "these", "steps", ",", "a", "concise", "and", "informative", "rich", "presentation", "regarding", "the", "target", "topic", "is", "generated", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "discusses", "the", "relevant", "information", "extraction", "corresponding", "to", "the", "target", "topic", ".", "Section", "3", "presents", "our", "approach", "to", "the", "topic", "representation", ",", "including", "multiple", "events", "clustering", ",", "event", "description", ",", "and", "representative", "media", "selection", ".", "Section", "4", "describes", "the", "approach", "to", "rich", "presentation", "generation", ",", "including", "storyboard", "generation", ",", "incidental", "music", "analysis", "and", "synchronization", ".", "Experiments", "and", "evaluations", "are", "presented", "in", "the", "Section", "5", ".", "Conclusions", "are", "given", "in", "the", "Section", "6", ".", "To", "obtain", "the", "multimodal", "information", "which", "is", "relevant", "to", "the", "input", "topic", "-LRB-", "keyword", "-RRB-", ",", "generally", ",", "we", "could", "search", "them", "from", "various", "databases", "which", "have", "been", "indexed", "with", "the", "``", "state-of-the-art", "''", "multimedia", "analysis", "techniques", ".", "However", ",", "in", "current", "stage", ",", "there", "is", "lack", "of", "such", "publicly", "available", "multimedia", "databases", ".", "The", "public", "search", "engine", "like", "MSN", "or", "Google", "indexes", "all", "the", "Internet", "web-pages", "and", "can", "return", "a", "lot", "of", "relevant", "information", ",", "but", "the", "search", "results", "usually", "contain", "much", "noise", ".", "We", "could", "also", "build", "a", "private", "database", "for", "this", "system", "to", "provide", "more", "relevant", "and", "clean", "results", ",", "but", "it", "will", "be", "too", "much", "expensive", "to", "collect", "and", "annotate", "sufficient", "multimedia", "data", "for", "various", "topics", ".", "In", "order", "to", "obtain", "relatively", "accurate", "and", "sufficient", "data", "for", "an", "arbitrary", "topic", ",", "in", "our", "system", ",", "we", "chose", "to", "collect", "the", "relevant", "multimodal", "information", "of", "the", "given", "topic", "from", "the", "news", "websites", "such", "as", "MSNBC", ",", "BBC", "and", "CNN", ",", "instead", "of", "building", "an", "available", "database", "from", "the", "scratch", ".", "These", "news", "websites", "are", "usually", "well", "organized", "and", "managed", ";", "and", "contain", "various", "kinds", "of", "high", "quality", "information", "including", "text", ",", "image", "and", "news", "video", "clips", ".", "Although", "the", "news", "websites", "are", "used", "as", "the", "information", "sources", "in", "our", "system", ",", "other", "various", "multimedia", "databases", "can", "be", "also", "easily", "incorporated", "into", "the", "system", "if", "they", "are", "available", ".", "Instead", "of", "directly", "submitting", "the", "topic", "as", "a", "query", "and", "getting", "the", "returned", "results", "by", "using", "the", "search", "function", "provided", "by", "the", "websites", ",", "in", "our", "system", ",", "we", "crawled", "the", "news", "documents", "from", "these", "websites", "in", "advance", "and", "then", "build", "a", "full-text", "index", ".", "It", "enables", "us", "to", "quickly", "obtain", "the", "relevant", "documents", ",", "and", "also", "enable", "us", "to", "use", "some", "traditional", "information", "retrieval", "technologies", ",", "such", "as", "query", "expansion", "-LSB-", "13", "-RSB-", ",", "to", "remove", "the", "query", "ambiguousness", "and", "get", "more", "relevant", "documents", ".", "In", "our", "approach", ",", "user", "interaction", "is", "also", "allowed", "to", "provide", "more", "materials", "relevant", "to", "the", "topic", ",", "or", "give", "relevant", "feedback", "on", "the", "returned", "results", ".", "For", "example", ",", "from", "the", "above", "websites", ",", "we", "can", "seldom", "find", "a", "music", "clip", "relevant", "to", "the", "target", "topic", ".", "In", "this", "case", ",", "users", "could", "provide", "the", "system", "a", "preferred", "music", ",", "which", "will", "be", "further", "used", "as", "incidental", "music", "to", "accompany", "with", "the", "storyboard", "presentation", ".", "Users", "could", "also", "give", "some", "feedbacks", "on", "the", "obtained", "documents", ".", "For", "example", ",", "if", "he", "gives", "a", "thumb-up", "to", "a", "document", ",", "the", "relevant", "information", "of", "the", "document", "needs", "to", "be", "presented", "in", "the", "final", "storyboard", ".", "On", "the", "other", "side", ",", "users", "could", "also", "thumb-down", "a", "document", "to", "remove", "the", "related", "information", ".", "A", "semantic", "topic", "is", "usually", "a", "quite", "broad", "concept", "and", "it", "usually", "contains", "multiple", "events", ".", "For", "example", ",", "in", "the", "topic", "``", "Harry", "Potter", "''", ",", "the", "publication", "of", "each", "book", "and", "the", "release", "of", "each", "movie", "could", "be", "considered", "as", "an", "event", ";", "while", "in", "the", "topic", "``", "World", "Cup", "2002", "''", ",", "each", "match", "could", "also", "be", "taken", "as", "an", "event", ".", "For", "each", "event", ",", "there", "are", "usually", "many", "documents", "reporting", "it", ".", "Therefore", ",", "in", "order", "to", "generate", "an", "informative", "and", "expressive", "storyboard", "to", "present", "the", "topic", ",", "it", "would", "be", "better", "to", "decompose", "the", "obtained", "information", "and", "cluster", "the", "documents", "into", "different", "events", ".", "However", ",", "event", "definition", "is", "usually", "subjective", ",", "different", "individuals", "may", "have", "different", "opinions", ".", "It", "is", "also", "confusing", "in", "which", "scale", "an", "event", "should", "be", "defined", ".", "Also", "take", "``", "World", "Cup", "''", "as", "an", "example", ",", "in", "a", "larger", "scale", ",", "``", "World", "Cup", "2002", "''", "and", "``", "World", "Cup", "2006", "''", "could", "also", "be", "considered", "as", "a", "big", "event", ".", "Therefore", ",", "due", "to", "the", "above", "vagueness", ",", "in", "this", "paper", ",", "we", "do", "not", "strictly", "define", "746", "each", "event", "of", "the", "target", "topic", ".", "Following", "our", "previous", "works", "on", "news", "event", "detection", "-LSB-", "14", "-RSB-", ",", "an", "event", "is", "assumed", "as", "some", "similar", "information", "describing", "similar", "persons", ",", "similar", "keywords", ",", "similar", "places", ",", "and", "similar", "time", "duration", ".", "Therefore", ",", "in", "our", "system", ",", "an", "event", "is", "represented", "by", "four", "primary", "elements", ":", "who", "-LRB-", "persons", "-RRB-", ",", "when", "-LRB-", "time", "-RRB-", ",", "where", "-LRB-", "locations", "-RRB-", "and", "what", "-LRB-", "keywords", "-RRB-", ";", "and", "event", "clustering", "is", "to", "group", "the", "documents", "reporting", "similar", "primary", "elements", ".", "As", "for", "the", "scale", "of", "event", ",", "in", "the", "paper", ",", "it", "could", "be", "adaptively", "determined", "by", "the", "time", "range", "of", "the", "obtained", "documents", "or", "the", "required", "event", "number", ".", "In", "this", "section", ",", "we", "present", "a", "novel", "clustering", "approach", "based", "on", "a", "generative", "model", "proposed", "in", "-LSB-", "14", "-RSB-", ",", "instead", "of", "using", "traditional", "clustering", "methods", "such", "as", "K-means", ".", "After", "event", "clusters", "are", "obtained", ",", "the", "corresponding", "event", "summary", "is", "then", "extracted", "and", "other", "representative", "media", "is", "associated", "with", "each", "event", ".", "3.1", "Multiple", "Event", "Clustering", "To", "group", "the", "documents", "into", "different", "events", ",", "essentially", ",", "we", "need", "to", "calculate", "p", "-LRB-", "e", "j", "|", "x", "i", "-RRB-", ",", "which", "represents", "the", "probability", "that", "a", "document", "x", "i", "belongs", "to", "an", "event", "e", "j", ".", "Here", ",", "as", "mentioned", "above", ",", "an", "event", "e", "j", "-LRB-", "and", "thus", "the", "document", "x", "i", "describing", "the", "event", "-RRB-", "is", "represented", "by", "four", "primary", "elements", ":", "who", "-LRB-", "persons", "-RRB-", ",", "when", "-LRB-", "time", "-RRB-", ",", "where", "-LRB-", "locations", "-RRB-", "and", "what", "-LRB-", "keywords", "-RRB-", ".", "That", "is", ",", "-RCB-", ",", ",", ",", "-LCB-", "/", "time", "keywords", "locations", "persons", "Docment", "Event", "=", "Assuming", "that", "a", "document", "is", "always", "caused", "by", "an", "event", "-LSB-", "14", "-RSB-", "and", "the", "four", "primary", "elements", "are", "independent", ",", "to", "calculate", "the", "probability", "p", "-LRB-", "e", "j", "|", "x", "i", "-RRB-", ",", "in", "our", "approach", ",", "we", "first", "determine", "the", "likelihood", "that", "the", "document", "x", "i", "is", "generated", "from", "event", "e", "j", ",", "p", "-LRB-", "x", "i", "|", "e", "j", "-RRB-", "which", "could", "be", "further", "represented", "by", "the", "following", "generative", "model", ",", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "j", "i", "j", "i", "j", "i", "j", "i", "j", "i", "e", "time", "p", "e", "key", "p", "e", "loc", "p", "e", "name", "p", "e", "x", "p", "=", "-LRB-", "1", "-RRB-", "where", "name", "i", ",", "loc", "i", ",", "key", "i", ",", "and", "time", "i", "are", "the", "feature", "vectors", "representing", "persons", ",", "locations", ",", "keywords", "and", "time", "in", "the", "document", "x", "i", ",", "respectively", ".", "In", "our", "approach", ",", "the", "above", "entities", "are", "extracted", "by", "the", "BBN", "NLP", "tools", "-LSB-", "15", "-RSB-", ".", "The", "tool", "can", "extract", "seven", "types", "of", "entities", ",", "including", "persons", ",", "organizations", ",", "locations", ",", "date", ",", "time", ",", "money", "and", "percent", ".", "In", "our", "approach", ",", "the", "obtained", "organization", "entity", "is", "also", "considered", "as", "a", "person", "entity", ";", "and", "all", "the", "words", "except", "of", "persons", ",", "locations", ",", "and", "other", "stop-words", "are", "taken", "as", "keywords", ".", "In", "more", "detail", ",", "name", "i", "-LRB-", "similarly", ",", "loc", "i", "and", "key", "i", "-RRB-", "is", "a", "vector", "<", "c", "i1", ",", "c", "i2", ",", "...", ",", "c", "iNp", ">", ",", "where", "c", "in", "is", "the", "occurrence", "frequency", "of", "the", "person", "n", "appears", "in", "the", "document", "x", "i", ",", "and", "person", "n", "is", "the", "nth", "person", "in", "the", "person", "vocabulary", ",", "which", "is", "composed", "of", "all", "the", "persons", "appeared", "in", "all", "the", "obtained", "documents", "-LRB-", "similarly", ",", "we", "can", "define", "keyword", "vocabulary", "and", "location", "vocabulary", "-RRB-", ".", "Assuming", "N", "p", "is", "the", "size", "of", "person", "vocabulary", ",", "p", "-LRB-", "name", "i", "|", "e", "j", "-RRB-", "could", "be", "further", "expressed", "by", "=", "=", "p", "in", "N", "n", "c", "j", "n", "j", "i", "e", "person", "p", "e", "name", "p", "1", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-LRB-", "2", "-RRB-", "Since", "the", "person", ",", "location", "and", "keyword", "are", "discrete", "variables", "represented", "by", "words", ",", "and", "the", "probability", "of", "the", "location", "and", "keyword", "can", "be", "also", "defined", "similarly", "as", "that", "of", "the", "person", "in", "-LRB-", "2", "-RRB-", ",", "in", "the", "flowing", "sections", ",", "we", "will", "not", "discriminate", "them", "and", "uniformly", "represent", "the", "probability", "p", "-LRB-", "person", "n", "|", "e", "j", "-RRB-", "-LRB-", "correspond-ingly", ",", "the", "p", "-LRB-", "location", "n", "|", "e", "j", "-RRB-", "and", "p", "-LRB-", "keyword", "n", "|", "e", "j", "-RRB-", "-RRB-", "as", "p", "-LRB-", "w", "n", "|", "e", "j", "-RRB-", ",", "which", "denotes", "the", "probability", "that", "the", "word", "w", "n", "appears", "in", "the", "event", "e", "j", "On", "the", "other", "hand", ",", "the", "time", "of", "an", "event", "usually", "lasts", "a", "continuous", "duration", ".", "It", "is", "also", "observed", ",", "especially", "in", "the", "news", "domain", ",", "that", "the", "documents", "about", "an", "event", "usually", "increases", "at", "the", "beginning", "stage", "of", "the", "event", "and", "then", "decreases", "at", "the", "end", ".", "Therefore", ",", "in", "our", "approach", ",", "a", "Gaussian", "model", "N", "-LRB-", "u", "j", ",", "j", "-RRB-", "is", "utilized", "to", "roughly", "represent", "the", "probability", "p", "-LRB-", "time", "i", "|", "e", "j", "-RRB-", ",", "where", "u", "j", "and", "j", "is", "the", "mean", "and", "standard", "deviation", ",", "respectively", ".", "To", "this", "end", ",", "in", "order", "to", "estimate", "the", "probability", "p", "-LRB-", "e", "j", "|", "x", "i", "-RRB-", ",", "we", "need", "to", "estimate", "the", "parameters", "=", "-LCB-", "p", "-LRB-", "w", "n", "|", "e", "j", "-RRB-", ",", "u", "j", ",", "j", ",", "1jK", "-RCB-", ",", "assuming", "K", "is", "the", "number", "of", "events", "-LRB-", "the", "selection", "of", "K", "is", "discussed", "in", "section", "3.2", "-RRB-", ".", "In", "our", "approach", ",", "the", "Maximum", "Likelihood", "is", "used", "to", "estimate", "the", "model", "parameters", ",", "as", ",", "=", "=", "=", "=", "=", "=", "M", "i", "K", "j", "j", "i", "j", "M", "i", "i", "e", "x", "p", "e", "p", "x", "p", "X", "p", "1", "1", "1", "*", "-RRB-", "-RRB-", ",", "|", "-LRB-", "-RRB-", "-LRB-", "log", "-LRB-", "max", "arg", "-RRB-", "-RRB-", "|", "-LRB-", "log", "-LRB-", "max", "arg", "-RRB-", "-RRB-", "|", "-LRB-", "log", "-LRB-", "max", "arg", "-LRB-", "3", "-RRB-", "where", "X", "represents", "the", "corpus", "of", "the", "obtained", "documents", ";", "M", "and", "K", "are", "number", "of", "documents", "and", "events", ",", "respectively", ".", "Since", "it", "is", "difficult", "to", "derive", "a", "close", "formula", "to", "estimate", "the", "parameters", ",", "in", "our", "approach", ",", "an", "Expectation", "Maximization", "-LRB-", "EM", "-RRB-", "algorithm", "is", "applied", "to", "maximize", "the", "likelihood", ",", "by", "running", "E-step", "and", "M-step", "iteratively", ".", "A", "brief", "summary", "of", "these", "two", "steps", "is", "listed", "as", "follows", ",", "and", "more", "details", "can", "be", "found", "in", "-LSB-", "14", "-RSB-", ".", "In", "E-step", ",", "the", "posterior", "probability", "p", "-LRB-", "e", "j", "|", "x", "i", "-RRB-", "is", "estimated", "as", ":", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "-LRB-", "i", "t", "j", "t", "j", "i", "t", "i", "j", "x", "p", "e", "p", "e", "x", "p", "x", "e", "p", "=", "+", "-LRB-", "4", "-RRB-", "where", "the", "upper", "script", "-LRB-", "t", "-RRB-", "indicate", "the", "tth", "iteration", ".", "In", "M-step", ",", "the", "model", "parameters", "are", "updated", ",", "as", ",", "+", "+", "=", "=", "=", "+", "=", "+", "+", "M", "i", "N", "s", "t", "i", "j", "M", "i", "t", "i", "j", "t", "j", "n", "s", "i", "tf", "x", "e", "p", "N", "n", "i", "tf", "x", "e", "p", "e", "w", "p", "1", "1", "-RRB-", "1", "-LRB-", "1", "-RRB-", "1", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", "-RRB-", ",", "-LRB-", "-RRB-", "|", "-LRB-", "-LRB-", "-RRB-", ",", "-LRB-", "-RRB-", "|", "-LRB-", "1", "-RRB-", "|", "-LRB-", "-LRB-", "5", "-RRB-", "=", "=", "+", "=", "+", "+", "M", "i", "t", "i", "j", "M", "i", "i", "t", "i", "j", "t", "j", "x", "e", "p", "time", "x", "e", "p", "u", "1", "-RRB-", "1", "-LRB-", "1", "-RRB-", "1", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-LRB-", "6", "-RRB-", "=", "=", "+", "=", "+", "+", "+", "M", "i", "t", "i", "j", "M", "i", "tj", "i", "t", "i", "j", "t", "j", "x", "e", "p", "u", "time", "x", "e", "p", "1", "-RRB-", "1", "-LRB-", "1", "2", "-RRB-", "1", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", "1", "-LRB-", "2", "-RRB-", "|", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "|", "-LRB-", "-LRB-", "7", "-RRB-", "where", "tf", "-LRB-", "i", ",", "n", "-RRB-", "is", "the", "term", "frequency", "of", "the", "word", "w", "n", "in", "the", "document", "x", "i", "and", "N", "is", "the", "corresponding", "vocabulary", "size", ".", "It", "is", "noted", "that", ",", "in", "-LRB-", "5", "-RRB-", ",", "the", "Laplace", "smoothing", "-LSB-", "16", "-RSB-", "is", "applied", "to", "prevent", "zero", "probability", "for", "the", "infrequently", "occurring", "word", ".", "At", "last", ",", "the", "prior", "of", "each", "event", "is", "updated", "as", ":", "M", "x", "e", "p", "e", "p", "M", "i", "t", "i", "j", "t", "j", "=", "=", "+", "+", "1", "-RRB-", "1", "-LRB-", "-RRB-", "1", "-LRB-", "-RRB-", "|", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "8", "-RRB-", "The", "algorithm", "can", "increase", "the", "log-likelihood", "consistently", "with", "the", "iterations", ";", "and", "then", "converge", "to", "a", "local", "maximum", ".", "Once", "the", "parameters", "are", "estimated", ",", "we", "can", "simply", "assign", "each", "document", "to", "an", "event", ",", "as", "following", "-RRB-", "-RRB-", "|", "-LRB-", "-LRB-", "max", "arg", "i", "j", "j", "i", "x", "e", "p", "y", "=", "-LRB-", "9", "-RRB-", "where", "y", "i", "is", "the", "event", "label", "of", "the", "document", "x", "i", ".", "747", "The", "advantage", "of", "this", "generative", "approach", "is", "that", "it", "not", "only", "considers", "the", "temporal", "continuity", "of", "an", "event", ",", "it", "also", "can", "deal", "with", "the", "issue", "that", "some", "events", "overlap", "in", "some", "time", "durations", ".", "In", "this", "case", ",", "the", "Gaussian", "model", "of", "the", "event", "time", "can", "also", "be", "overlapped", "through", "this", "data-driven", "parameter", "estimation", ".", "From", "this", "view", ",", "the", "event", "clustering", "is", "also", "like", "a", "Gaussian", "mixture", "model", "-LRB-", "GMM", "-RRB-", "estimation", "in", "the", "timeline", ".", "3.2", "Determining", "the", "Number", "of", "Events", "In", "the", "above", "approach", "to", "event", "clustering", ",", "the", "event", "number", "K", "is", "assumed", "known", "-LRB-", "as", "shown", "in", "-LRB-", "3", "-RRB-", "-", "-LRB-", "8", "-RRB-", "-RRB-", ".", "However", ",", "the", "event", "number", "is", "usually", "very", "difficult", "to", "be", "determined", "a", "priori", ".", "In", "our", "approach", ",", "an", "intuitive", "way", "is", "adopted", "to", "roughly", "estimate", "the", "event", "number", "based", "on", "the", "document", "distribution", "along", "with", "the", "timeline", ".", "As", "mentioned", "above", ",", "it", "is", "assumed", "that", "each", "document", "is", "caused", "by", "an", "event", ",", "and", "the", "document", "number", "of", "an", "event", "changes", "with", "the", "development", "of", "the", "event", ".", "According", "to", "this", "property", ",", "each", "peak", "-LRB-", "or", "the", "corresponding", "contour", "-RRB-", "of", "the", "document", "distribution", "curve", "might", "indicate", "one", "event", "-LSB-", "14", "-RSB-", ",", "as", "the", "Fig.", "2", "shows", ".", "Thus", ",", "we", "can", "roughly", "estimate", "the", "event", "number", "by", "simply", "counting", "the", "peak", "number", ".", "However", ",", "the", "curve", "is", "quite", "noisy", "and", "there", "inevitably", "exist", "some", "noisy", "peaks", "in", "the", "curve", ".", "In", "order", "to", "avoid", "the", "noisy", "peaks", ",", "in", "our", "approach", ",", "only", "the", "salient", "peaks", "are", "assumed", "to", "be", "relevant", "to", "the", "event", "number", ".", "To", "detect", "the", "salient", "peaks", ",", "we", "first", "smooth", "the", "document", "curve", "with", "a", "half-Hamming", "-LRB-", "raised-cosine", "-RRB-", "window", ",", "and", "then", "remove", "the", "very", "small", "peaks", "with", "a", "threshold", ".", "Fig.", "2", "illustrates", "a", "smoothed", "document", "distribution", "with", "the", "corresponding", "threshold", ",", "collected", "on", "the", "topic", "``", "US", "Election", "''", "in", "four", "months", ".", "In", "experiments", ",", "the", "threshold", "is", "adaptively", "set", "as", "d", "d", "/", "2", ",", "where", "d", "and", "d", "are", "the", "mean", "and", "standard", "deviation", "of", "the", "curve", ",", "respectively", ".", "After", "the", "smoothing", "and", "tiny", "peaks", "removal", ",", "we", "further", "detect", "the", "valleys", "between", "every", "two", "contingent", "peaks", ".", "Thus", ",", "the", "range", "of", "an", "event", "-LRB-", "which", "is", "correlated", "to", "the", "corresponding", "peak", "-RRB-", "can", "be", "considered", "as", "the", "envelope", "in", "the", "two", "valleys", ".", "As", "shown", "in", "Fig2", ",", "the", "duration", "denoted", "by", "L", "i", "+", "R", "i", "is", "a", "rough", "range", "of", "the", "event", "correlated", "to", "the", "peak", "P", "i", ".", "Assuming", "an", "important", "event", "usually", "has", "more", "documents", "and", "has", "effects", "in", "a", "longer", "duration", ",", "the", "saliency", "of", "each", "peak", "is", "defined", "as", ",", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "avr", "i", "i", "avr", "i", "i", "D", "R", "L", "P", "P", "S", "+", "=", "-LRB-", "10", "-RRB-", "where", "P", "i", "is", "the", "ith", "peak", ",", "L", "i", "and", "R", "i", "is", "the", "duration", "from", "the", "ith", "peak", "to", "the", "previous", "and", "next", "valley", ";", "P", "avr", "is", "the", "average", "peak", "value", "and", "D", "avr", "is", "average", "duration", "between", "two", "valleys", "in", "the", "curve", ".", "S", "i", "is", "the", "saliency", "value", "of", "the", "peak", "P", "i", ".", "It", "could", "also", "be", "considered", "as", "the", "normalized", "area", "under", "peak", "P", "i", ",", "and", "thus", ",", "it", "roughly", "represents", "the", "document", "number", "of", "the", "corresponding", "event", ".", "In", "our", "approach", ",", "the", "top", "K", "salient", "peaks", "are", "selected", "to", "determine", "the", "event", "number", ":", "-RCB-", "/", "-LCB-", "max", "arg", "'", "1", "1", "'", "=", "=", "=", "i", "N", "i", "k", "i", "i", "k", "S", "S", "K", "-LRB-", "11", "-RRB-", "where", "'", "i", "S", "is", "the", "sorted", "saliency", "value", "from", "large", "to", "small", ",", "N", "is", "total", "number", "of", "detected", "peaks", "and", "is", "a", "threshold", ".", "In", "our", "experiments", ",", "is", "set", "as", "0.9", ",", "which", "roughly", "means", "that", "at", "least", "90", "%", "documents", "will", "be", "kept", "in", "the", "further", "initialization", "of", "event", "clustering", ".", "This", "selection", "scheme", "is", "designed", "to", "guarantee", "there", "is", "no", "important", "information", "is", "missed", "in", "presentation", ".", "After", "the", "event", "number", "and", "initial", "clusters", "-LRB-", "the", "most", "salient", "peaks", "with", "their", "corresponding", "range", "-RRB-", "are", "selected", ",", "the", "event", "parameters", "could", "be", "initialized", "and", "then", "updated", "iteratively", ".", "0", "5", "10", "15", "20", "0", "20", "40", "60", "80", "100", "120", "#Doc", "Threshold", "P", "i", "P", "i", "+1", "P", "i-1", "L", "i", "R", "i", "Peaks", "relevant", "to", "event", "Fig.", "2", "Peak", "saliency", "definition", ".", "It", "also", "illustrates", "the", "smoothed", "document", "distribution", "-LRB-", "document", "number", "per", "day", "-RRB-", "with", "the", "corresponding", "threshold", "for", "tiny", "peak", "removal", ".", "Each", "peak", "P", "i", "is", "assumed", "to", "be", "correlated", "with", "each", "event", ".", "It", "is", "noted", "that", "some", "technology", "such", "as", "Bayesian", "Information", "Criteria", "-LRB-", "BIC", "-RRB-", "or", "minimum", "description", "length", "-LRB-", "MDL", "-RRB-", "-LSB-", "17", "-RSB-", "could", "be", "used", "to", "estimate", "the", "optimal", "event", "number", ",", "by", "searching", "through", "a", "reasonable", "range", "of", "the", "event", "number", "to", "find", "the", "one", "which", "maximizes", "the", "likelihood", "in", "-LRB-", "3", "-RRB-", ".", "However", ",", "these", "algorithms", "take", "long", "time", ",", "and", "it", "is", "usually", "not", "necessary", "to", "estimate", "the", "exact", "event", "number", "in", "our", "scenario", "of", "rich", "presentation", ".", "Actually", ",", "in", "our", "system", ",", "the", "most", "important", "point", "of", "event", "clustering", "is", "that", "the", "clustered", "documents", "`", "really", "'", "represent", "the", "same", "event", ",", "rather", "than", "the", "event", "number", ",", "as", "observed", "in", "the", "experiments", ".", "Moreover", ",", "in", "the", "step", "of", "synchronization", "between", "the", "music", "and", "storyboard", "-LRB-", "in", "the", "section", "4.2", "-RRB-", ",", "the", "number", "of", "presented", "events", "may", "be", "further", "refined", ",", "based", "on", "the", "user", "'s", "preference", ",", "in", "order", "to", "match", "the", "presentation", "duration", "with", "the", "music", "duration", ".", "3.3", "Event", "Description", "After", "obtaining", "the", "events", "and", "the", "corresponding", "documents", ",", "we", "not", "only", "need", "a", "concise", "event", "summary", ",", "but", "also", "need", "to", "extract", "some", "representative", "media", "to", "describe", "each", "event", ".", "3.3.1", "Event", "Summary", "A", "simple", "way", "to", "summarize", "an", "event", "is", "to", "choose", "some", "representative", "words", "on", "the", "persons", ",", "locations", "and", "keywords", "of", "the", "event", ".", "For", "example", ",", "for", "the", "event", "e", "j", ",", "the", "`", "leading", "actor", "'", "could", "be", "chosen", "as", "the", "person", "with", "the", "maximum", "p", "-LRB-", "person", "n", "|", "e", "j", "-RRB-", ",", "while", "the", "major", "location", "could", "be", "selected", "based", "on", "p", "-LRB-", "location", "n", "|", "e", "j", "-RRB-", ".", "However", ",", "such", "brief", "description", "might", "have", "a", "bad", "readability", ".", "Therefore", ",", "in", "order", "to", "increase", "the", "readability", "of", "the", "summary", ",", "in", "our", "system", ",", "we", "also", "provide", "an", "alterative", "way", ".", "That", "is", ",", "we", "choose", "a", "candidate", "document", "to", "represent", "an", "event", ".", "For", "example", ",", "the", "document", "with", "the", "highest", "p", "-LRB-", "x", "i", "|", "e", "j", "-RRB-", "is", "a", "good", "candidate", "representative", "of", "the", "event", "e", "j", ".", "However", ",", "a", "document", "might", "be", "too", "long", "to", "be", "shown", "on", "the", "storyboard", ".", "Therefore", ",", "in", "our", "system", ",", "only", "the", "``", "title-brow", "''", "-LRB-", "the", "text", "between", "the", "news", "title", "and", "news", "body", "-RRB-", "of", "the", "document", ",", "which", "usually", "exists", "and", "is", "usually", "a", "good", "overview", "-LRB-", "summary", "-RRB-", "of", "the", "document", "based", "on", "our", "observation", "-LRB-", "especially", "true", "in", "our", "case", "of", "news", "document", "-RRB-", ",", "is", "selected", "to", "describe", "the", "event", ".", "748", "I", "III", "II", "IV", "Fig.", "3", "The", "event", "template", "of", "the", "Storyboard", ",", "which", "illustrates", "-LRB-", "I", "-RRB-", "the", "representative", "media", ",", "-LRB-", "II", "-RRB-", "geographic", "information", ",", "-LRB-", "III", "-RRB-", "event", "summary", ",", "and", "-LRB-", "IV", "-RRB-", "a", "film", "strip", "giving", "an", "overview", "of", "the", "events", "in", "the", "temporal", "order", ".", "3.3.2", "Extracting", "Representative", "Media", "In", "the", "obtained", "documents", "describing", "an", "event", ",", "there", "are", "usually", "many", "illustrational", "images", ",", "with", "possible", "flashes", "and", "video", "clips", ".", "These", "media", "information", "is", "also", "a", "good", "representative", "of", "the", "corresponding", "event", ".", "However", ",", "since", "the", "obtained", "documents", "are", "directly", "crawled", "from", "the", "news", "websites", ",", "they", "usually", "contain", "many", "noisy", "multimedia", "resources", ",", "such", "as", "the", "advertisements", ".", "Moreover", ",", "there", "also", "possible", "exist", "some", "duplicate", "images", "in", "different", "documents", "describing", "the", "same", "event", ".", "Therefore", ",", "to", "extract", "the", "representative", "media", "from", "the", "documents", ",", "we", "need", "to", "remove", "noisy", "media", "and", "possible", "duplicate", "images", ".", "Before", "this", ",", "we", "also", "performed", "a", "pre-filtering", "to", "remove", "all", "the", "images", "smaller", "than", "50", "pixels", "in", "height", "or", "width", ".", "Noisy", "Media", "Detection", ".", "In", "our", "approach", ",", "a", "simple", "but", "efficient", "rule", "is", "used", "to", "remove", "the", "noisy", "media", "resources", ".", "We", "find", "almost", "all", "advertisements", "are", "provided", "by", "other", "agencies", "rather", "than", "these", "news", "websites", "themselves", ".", "That", "is", ",", "the", "hosts", "of", "advertisement", "resources", "are", "from", "different", "websites", ".", "Thus", ",", "in", "our", "approach", ",", "we", "extract", "the", "host", "names", "from", "the", "URLs", "of", "all", "multimedia", "resources", ",", "and", "remove", "those", "resources", "with", "different", "host", "name", ".", "Duplicate", "Detection", ".", "A", "number", "of", "image", "signature", "schemes", "can", "be", "adopted", "here", "to", "accomplish", "duplicate", "detection", ".", "In", "our", "implementation", ",", "each", "image", "is", "converted", "into", "grayscale", ",", "and", "down-sampled", "to", "8", "8", ".", "That", "is", ",", "a", "64-byte", "signature", "for", "each", "image", "is", "obtained", ".", "Then", "the", "Euclidean", "distance", "of", "the", "64-byte", "signature", "are", "taken", "as", "the", "dissimilarity", "measure", ".", "Images", "have", "sufficiently", "small", "distance", "are", "considered", "as", "duplicates", ".", "Once", "removing", "the", "noisy", "resources", "and", "duplicate", "images", ",", "we", "simply", "select", "the", "1-4", "large", "images", "from", "the", "top", "representative", "documents", "-LRB-", "with", "the", "top", "largest", "p", "-LRB-", "x", "i", "|", "e", "j", "-RRB-", "-RRB-", ",", "and", "take", "them", "as", "representative", "media", "of", "the", "corresponding", "event", ".", "The", "exact", "number", "of", "the", "selected", "images", "is", "dependent", "on", "the", "document", "number", "-LRB-", "i.e.", ",", "the", "importance", "-RRB-", "of", "the", "event", "and", "the", "total", "image", "number", "the", "event", "has", ".", "It", "is", "noted", "that", ",", "in", "our", "current", "system", ",", "we", "only", "associates", "images", "with", "each", "event", ".", "However", ",", "other", "media", "like", "video", "and", "flashes", "can", "be", "chosen", "in", "a", "similar", "way", ".", "In", "the", "proposed", "system", ",", "the", "above", "obtained", "information", ",", "including", "event", "summary", "and", "representative", "media", ",", "are", "fused", "to", "generate", "a", "concise", "and", "informative", "storyboard", ",", "in", "order", "to", "richly", "present", "the", "target", "topic", ".", "In", "this", "section", ",", "we", "will", "first", "describe", "the", "storyboard", "generation", "for", "the", "target", "topic", ",", "by", "presenting", "each", "event", "with", "the", "multimodal", "information", ".", "Then", ",", "we", "present", "the", "approach", "to", "synchronizing", "the", "storyboard", "with", "an", "incidental", "music", ".", "4.1", "Storyboard", "Generation", "In", "our", "approach", ",", "a", "storyboard", "of", "a", "target", "topic", "is", "generated", "by", "presenting", "each", "event", "of", "the", "topic", "slide", "by", "slide", ".", "To", "describe", "an", "event", ",", "we", "have", "obtained", "the", "corresponding", "information", "including", "the", "person", ",", "time", ",", "location", ",", "event", "summary", "and", "other", "relevant", "images", ".", "Therefore", ",", "to", "informatively", "present", "each", "event", ",", "we", "need", "first", "to", "design", "an", "event", "template", "-LRB-", "i.e.", ",", "an", "interface", "-RRB-", "to", "integrate", "all", "the", "information", ".", "Fig.", "3", "illustrates", "the", "event", "template", "used", "in", "our", "proposed", "system", ",", "with", "an", "example", "event", "in", "the", "topic", "`", "US", "Election", "''", ".", "First", ",", "the", "template", "presents", "the", "representative", "images", "in", "the", "largest", "area", "-LRB-", "part", "I", "-RRB-", ",", "since", "the", "pictures", "are", "more", "vivid", "than", "the", "words", ".", "As", "for", "each", "representative", "picture", ",", "the", "title", "and", "date", "of", "the", "document", "from", "which", "it", "is", "extracted", "is", "also", "illustrated", ".", "In", "the", "Fig.", "3", ",", "there", "are", "4", "pictures", "extracted", "from", "3", "documents", ".", "Then", ",", "the", "corresponding", "event", "summaries", "of", "these", "three", "documents", "are", "presented", "-LRB-", "part", "III", "-RRB-", ",", "where", "each", "paragraph", "refers", "to", "the", "summary", "of", "one", "document", ".", "If", "a", "user", "is", "interested", "in", "one", "document", ",", "he", "can", "click", "on", "the", "corresponding", "title", "to", "read", "more", "details", ".", "Moreover", ",", "the", "geographic", "information", "of", "the", "event", "is", "shown", "with", "a", "map", "in", "the", "top-left", "corner", "-LRB-", "part", "II", "-RRB-", ",", "to", "give", "users", "a", "view", "of", "the", "event", "location", ".", "The", "map", "is", "obtained", "from", "``", "MapPoint", "Location", "''", "service", "-LSB-", "18", "-RSB-", ",", "which", "can", "return", "a", "749", "corresponding", "map", "based", "on", "user", "'s", "location", "query", ".", "However", ",", "the", "mapping", "is", "usually", "difficult", ",", "especially", "when", "the", "event", "location", "is", "confusing", "so", "that", "the", "representative", "location", "is", "not", "accurately", "detected", ".", "For", "example", ",", "the", "event", "shown", "in", "the", "Fig", "1", "is", "mapped", "to", "Washington", "D.C.", "rather", "than", "New", "York", "where", "the", "republic", "convention", "is", "held", ",", "since", "Washington", "is", "the", "most", "frequently", "mentioned", "places", "in", "the", "documents", ".", "Finally", ",", "a", "film", "strip", "-LRB-", "part", "IV", "-RRB-", "is", "also", "presented", ",", "arranging", "each", "event", "in", "the", "temporal", "order", ",", "where", "each", "event", "is", "simply", "represented", "by", "a", "cluster", "of", "images", ",", "with", "the", "current", "event", "highlighted", ".", "It", "enables", "users", "to", "have", "a", "quick", "overview", "of", "the", "past", "and", "the", "future", "in", "the", "event", "sequence", ".", "By", "connecting", "various", "events", "slide", "by", "slide", ",", "we", "could", "get", "an", "informative", "storyboard", "regarding", "the", "target", "topic", ".", "In", "order", "to", "catch", "the", "development", "process", "of", "a", "topic", ",", "the", "events", "are", "ordered", "by", "their", "timestamps", "in", "the", "generated", "storyboard", ".", "4.2", "Synchronizing", "with", "Music", "To", "make", "the", "storyboard", "more", "expressive", "and", "attractive", ",", "and", "to", "provide", "a", "more", "relaxing", "way", "to", "read", "information", ",", "in", "the", "proposed", "system", ",", "we", "will", "accompany", "the", "storyboard", "with", "an", "incidental", "music", "and", "align", "the", "transitions", "between", "event", "slides", "with", "the", "music", "beats", ",", "following", "the", "idea", "in", "music", "video", "generation", "-LSB-", "19", "-RSB-", "-LSB-", "20", "-RSB-", ".", "Sometimes", ",", "music", "could", "also", "provide", "extra", "information", "about", "the", "target", "topic", ".", "For", "example", ",", "when", "the", "target", "topic", "is", "a", "movie", ",", "the", "corresponding", "theme", "song", "could", "be", "chosen", "for", "the", "rich", "presentation", ".", "In", "this", "sub-section", ",", "we", "will", "present", "our", "approach", "to", "music", "analysis", "and", "synchronization", "with", "the", "storyboard", ".", "4.2.1", "Music", "Rhythm", "Analysis", "In", "the", "proposed", "system", ",", "we", "detect", "the", "onset", "sequences", "instead", "of", "the", "exact", "beat", "series", "to", "represent", "music", "rhythm", ".", "This", "is", "because", "the", "beat", "information", "is", "sometimes", "not", "obvious", ",", "especially", "in", "light", "music", "which", "is", "usually", "selected", "as", "incidental", "music", ".", "The", "strongest", "onset", "in", "a", "time", "window", "could", "be", "assumed", "as", "a", "``", "beat", "''", ".", "This", "is", "reasonable", "since", "there", "are", "some", "beat", "positions", "in", "a", "time", "window", "-LRB-", "for", "example", ",", "5", "seconds", "-RRB-", ";", "thus", ",", "the", "most", "possible", "position", "of", "a", "beat", "is", "the", "position", "of", "the", "strongest", "onset", ".", "The", "process", "of", "onset", "estimation", "is", "illustrated", "in", "Fig.", "4", ".", "After", "FFT", "is", "performed", "on", "each", "frame", "of", "16ms-length", ",", "an", "octave-scale", "filter-bank", "is", "used", "to", "divide", "the", "frequency", "domain", "into", "six", "sub-bands", ",", "including", "-LSB-", "0", ",", "0", "/", "2", "6", "-RRB-", ",", "-LSB-", "0", "/", "2", "6", ",", "0", "/", "2", "5", "-RRB-", ",", "...", ",", "-LSB-", "0", "/", "2", "2", ",", "0", "/", "2", "-RSB-", ",", "where", "0", "refers", "to", "the", "sampling", "rate", ".", "Acoustic", "Music", "Data", "FFT", "Sub-Band", "1", "Envelope", "Extractor", "Difference", "curve", "Onset", "Curve", "Sub-Band", "N", "Envelope", "Extractor", "Difference", "curve", "...", "...", "...", ".", ".", ".", ".", ".", ".", "Fig.", "4", "The", "process", "of", "onset", "sequence", "estimation", "After", "the", "amplitude", "envelope", "of", "each", "sub-band", "is", "extracted", "by", "using", "a", "half-Hamming", "window", ",", "a", "Canny", "operator", "is", "used", "for", "onset", "sequence", "detection", "by", "estimating", "its", "difference", "function", ",", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "n", "C", "n", "A", "n", "D", "i", "i", "=", "-LRB-", "12", "-RRB-", "where", "D", "i", "-LRB-", "n", "-RRB-", "is", "the", "difference", "function", "in", "the", "ith", "sub-band", ",", "A", "i", "-LRB-", "n", "-RRB-", "is", "the", "amplitude", "envelope", "of", "the", "ith", "sub-band", ",", "and", "C", "-LRB-", "n", "-RRB-", "is", "the", "Canny", "operator", "with", "a", "Gaussian", "kernel", ",", "-RSB-", ",", "-LSB-", "-RRB-", "-LRB-", "2", "2", "/", "2", "2", "c", "c", "i", "L", "L", "n", "e", "i", "n", "C", "=", "-LRB-", "13", "-RRB-", "where", "L", "c", "is", "the", "length", "of", "the", "Canny", "operator", "and", "is", "used", "to", "control", "the", "operator", "'s", "shape", ",", "which", "are", "set", "as", "12", "and", "4", "in", "our", "implementation", ",", "respectively", ".", "Finally", ",", "the", "sum", "of", "the", "difference", "curves", "of", "these", "six", "sub-bands", "is", "used", "to", "extract", "onset", "sequence", ".", "Each", "peak", "is", "considered", "as", "an", "onset", ",", "and", "the", "peak", "value", "is", "considered", "as", "the", "onset", "strength", ".", "Based", "on", "the", "obtained", "onsets", ",", "an", "incidental", "music", "is", "further", "segmented", "into", "music", "sub-clips", ",", "where", "a", "strong", "onset", "is", "taken", "as", "the", "boundary", "of", "a", "music", "sub-clip", ".", "These", "music", "sub-clips", "are", "then", "used", "as", "the", "basic", "timeline", "for", "the", "synchronization", "in", "the", "next", "step", ".", "Thus", ",", "to", "satisfy", "the", "requirement", "that", "the", "event", "slide", "transitions", "of", "the", "storyboard", "should", "occur", "at", "the", "music", "beats", ",", "we", "just", "need", "to", "align", "the", "event", "slide", "boundaries", "and", "music", "sub-clip", "boundaries", ".", "To", "give", "a", "more", "pleasant", "perception", ",", "the", "music", "sub-clip", "should", "not", "be", "too", "short", "or", "too", "long", ",", "also", "it", "had", "better", "not", "always", "keep", "the", "same", "length", ".", "In", "our", "implementation", ",", "the", "length", "of", "music", "sub-clips", "is", "randomly", "selected", "in", "a", "range", "of", "-LSB-", "t", "min", ",", "t", "max", "-RSB-", "seconds", ".", "Thus", ",", "the", "music", "sub-clips", "can", "be", "extracted", "in", "the", "following", "way", ":", "given", "the", "previous", "boundary", ",", "the", "next", "boundary", "is", "selected", "as", "the", "strongest", "onset", "in", "the", "window", "which", "is", "-LSB-", "t", "min", ",", "t", "max", "-RSB-", "seconds", "away", "from", "the", "previous", "boundary", ".", "In", "the", "proposed", "system", ",", "users", "can", "manually", "specify", "the", "range", "of", "the", "length", "of", "the", "music", "sub-clip", ".", "The", "default", "range", "in", "the", "system", "is", "set", "as", "-LSB-", "12", ",", "18", "-RSB-", "seconds", ",", "in", "order", "to", "let", "users", "have", "enough", "time", "to", "read", "all", "the", "information", "on", "each", "event", "slide", ".", "4.2.2", "Alignment", "Scheme", "To", "synchronize", "the", "transitions", "between", "different", "event", "slides", "and", "the", "beats", "of", "the", "incidental", "music", ",", "as", "mentioned", "above", ",", "we", "actually", "need", "to", "align", "the", "slide", "boundaries", "and", "music", "sub-clip", "boundaries", ".", "To", "satisfy", "this", "requirement", ",", "a", "straightforward", "way", "is", "to", "set", "the", "length", "of", "each", "event", "slide", "be", "equal", "to", "the", "corresponding", "length", "of", "the", "sub-music", "clip", ".", "However", ",", "as", "Fig.", "5", "illustrates", ",", "the", "number", "of", "event", "slides", "is", "usually", "not", "equal", "to", "the", "number", "of", "music", "sub-clip", ".", "In", "this", "case", ",", "in", "our", "proposed", "system", ",", "we", "provide", "two", "schemes", "to", "solve", "this", "problem", ".", "1", "-RRB-", "Music", "Sub-clip", "Based", ".", "In", "this", "scheme", ",", "only", "the", "top", "N", "important", "events", "of", "the", "target", "topic", "are", "adaptively", "chosen", "and", "used", "in", "the", "rich", "presentation", ",", "where", "N", "is", "supposed", "as", "the", "number", "of", "music", "sub-clip", "in", "the", "corresponding", "incidental", "music", ",", "as", "the", "Fig.", "5", "shows", ".", "Although", "a", "formal", "definition", "of", "event", "importance", "is", "usually", "hard", "and", "subjective", ",", "in", "our", "approach", ",", "the", "importance", "score", "of", "an", "event", "is", "simply", "measured", "by", "the", "number", "of", "documents", "reporting", "it", ",", "assuming", "that", "the", "more", "important", "the", "event", ",", "the", "more", "the", "corresponding", "documents", ".", "The", "assumption", "is", "quite", "similar", "as", "that", "in", "the", "definition", "of", "-LRB-", "10", "-RRB-", ".", "750", "2", "-RRB-", "Specified", "Event", "Number", "Based", ".", "In", "this", "scheme", ",", "users", "can", "specify", "the", "number", "of", "the", "event", "he", "wants", "to", "learn", ".", "For", "example", ",", "a", "user", "could", "choose", "to", "show", "the", "top", "30", "important", "events", "or", "all", "the", "events", ".", "Thus", ",", "to", "accommodate", "all", "the", "events", "in", "the", "music", "duration", ",", "we", "will", "repeat", "the", "incidental", "music", "if", "it", "is", "needed", "and", "then", "fade", "out", "the", "music", "at", "the", "end", ".", "E1", "E2", "E3", "E4", "E5", "E6", "E8", "E7", "S2", "S1", "S3", "...", ".", "S4", "S5", "...", ".", "Event", "Slide", "List", "Music", "Sub-Clip", "Fig.", "5", "Music", "and", "storyboard", "synchronization", ":", "a", "music", "sub-slip", "based", "scheme", ",", "that", "is", ",", "only", "the", "top", "important", "events", "are", "presented", "to", "match", "the", "number", "of", "music", "sub-clips", ".", "4.2.3", "Rendering", "After", "the", "alignment", "between", "storyboard", "and", "incidental", "music", ",", "in", "our", "system", ",", "fifteen", "common", "transition", "effects", ",", "such", "as", "cross-fade", ",", "wipe", "and", "dissolve", ",", "are", "also", "randomly", "selected", "to", "connect", "the", "event", "slides", ",", "producing", "a", "better", "rich", "presentation", "in", "final", "rendering", ".", "In", "this", "section", ",", "we", "evaluate", "the", "performance", "of", "the", "proposed", "approach", "to", "rich", "presentation", "and", "its", "key", "component", ",", "event", "clustering", ".", "In", "the", "experiments", ",", "we", "randomly", "select", "8", "topics", "of", "different", "types", ",", "including", "Earthquake", ",", "Halloween", ",", "Air", "Disaster", ",", "US", "Election", ",", "Nobel", "Prize", ",", "Britney", "Spears", ",", "David", "Beckham", ",", "and", "Harry", "Potter", ",", "from", "some", "hot", "news", "topics", "in", "the", "end", "of", "2004", "and", "beginning", "of", "2005", ".", "Once", "the", "topic", "is", "selected", ",", "the", "topic", "name", "is", "used", "as", "a", "query", "and", "the", "relevant", "documents", "are", "collected", "from", "CNN", ",", "MSNBC", "and", "BBC", ".", "More", "details", "about", "the", "selected", "topics", "and", "the", "corresponding", "documents", "are", "shown", "in", "the", "Table", "1", ",", "which", "lists", "the", "topic", "name", ",", "the", "time", "range", "of", "the", "collected", "documents", ",", "and", "the", "number", "of", "documents", "and", "its", "corresponding", "events", ".", "Table", "1", ".", "A", "list", "of", "testing", "topics", "in", "the", "rich", "presentation", "evaluations", "No", ".", "Topic", "Time", "#doc", "#event", "1", "Earthquake", "1995-2004", "976", "17", "2", "Halloween", "1995-2004", "762", "9", "3", "Air", "Disaster", "1995-2004", "210", "13", "4", "US", "Election", "1995-2004", "2486", "-5", "Britney", "Spears", "2000-2004\u00a01311", "-6", "Nobel", "Prize", "1995-2004", "186", "-7", "David", "Beckham", "1995-2004\u00a0877", "-8", "Harry", "Potter", "2000-2004", "841", "-", "Total", "--", "7649", "It", "is", "noted", "that", ",", "in", "the", "table", ",", "only", "3", "topics", "have", "labeled", "events", ",", "while", "another", "5", "topics", "have", "not", ".", "This", "is", "because", "that", ",", "the", "labeling", "work", "of", "a", "topic", "is", "very", "subjective", "and", "usually", "hard", "for", "individuals", "to", "manually", "decide", "the", "event", "number", "of", "a", "given", "topic", ".", "Therefore", ",", "we", "only", "label", "the", "topics", "which", "are", "easily", "to", "be", "annotated", "based", "on", "the", "criterion", "in", "Topic", "Detection", "and", "Tracking", "-LRB-", "TDT", "-RRB-", "project", "-LSB-", "21", "-RSB-", ".", "For", "example", ",", "Halloween", "is", "a", "topic", "which", "is", "reported", "once", "a", "year", ",", "thus", ",", "each", "year", "'s", "documents", "can", "be", "regarded", "as", "an", "event", ";", "as", "for", "Earthquake", "and", "Air", "Disaster", ",", "their", "events", "lists", "could", "be", "found", "from", "corresponding", "official", "websites", ".", "In", "the", "annotation", ",", "we", "remove", "the", "events", "which", "do", "not", "have", "or", "have", "few", "-LRB-", "less", "than", "4", "-RRB-", "relevant", "documents", ",", "and", "also", "remove", "the", "documents", "not", "belonging", "to", "any", "events", ".", "After", "parsing", "the", "obtained", "documents", ",", "for", "each", "topic", ",", "we", "usually", "can", "obtain", "3.8", "images", "per", "document", "in", "average", ".", "With", "further", "duplicate", "detection", ",", "only", "1.6", "images", "per", "document", "are", "remained", ".", "Moreover", ",", "from", "each", "document", ",", "we", "could", "also", "obtain", "about", "3.0", "unique", "location", "entities", "and", "2.8", "unique", "name", "entities", ".", "Other", "words", "except", "of", "these", "entities", "are", "taken", "as", "keywords", ".", "Fig.", "6", "shows", "a", "real", "representation", "of", "an", "example", "document", "with", "extracted", "entities", "in", "the", "XML", "format", ",", "from", "which", "the", "event", "clustering", "is", "performed", ".", "Fig.", "6", ".", "XML", "representation", "of", "a", "document", "on", "``", "US", "Election", "''", "with", "extracted", "entities", "5.1", "Event", "Clustering", "As", "mentioned", "above", ",", "the", "evaluation", "of", "the", "approach", "to", "event", "clustering", "is", "evaluated", "on", "three", "topics", ",", "including", "Earthquake", ",", "Halloween", ",", "and", "Air", "Disaster", ",", "for", "which", "the", "corresponding", "event", "numbers", "are", "determined", "and", "the", "documents", "are", "labeled", "using", "a", "similar", "method", "in", "the", "TDT", "project", ".", "However", ",", "in", "the", "proposed", "appraoch", ",", "we", "actually", "do", "not", "estimate", "the", "optimal", "event", "number", ",", "but", "use", "a", "much", "larger", "one", ".", "Therefore", ",", "in", "order", "to", "better", "evaluate", "the", "performance", "of", "the", "event", "clustering", "algorithm", "and", "compare", "with", "its", "counterpart", ",", "we", "use", "the", "event", "number", "in", "the", "ground", "truth", "to", "initialize", "the", "cluster", "number", "in", "the", "proposed", "clustering", "algorithm", ".", "...", "<", "URL", ">", "http://news.bbc.co.uk/1/hi/world/americas/4071845.stm", "<", "/", "URL", ">", "<", "Abstract", ">", "The", "US", "battleground", "state", "of", "Ohio", "has", "certified", "the", "victory", "of", "President", "George", "W", "Bush", "'s", "in", "last", "month", "'s", "poll", ".", "<", "/", "Abstract", ">", "<", "Date", ">", "2004/12/6", "<", "/", "Date", ">", "<", "NLPRESULT", ">", "<", "LOCATION", ">", "<", "entity", ">", "Ohio", "<", "/", "entity", ">", "<", "freq", ">", "4", "<", "/", "freq", ">", "<", "entity", ">", "US", "<", "/", "entity", ">", "<", "freq", ">", "2", "<", "/", "freq", ">", "<", "/", "LOCATION", ">", "<", "PERSON", ">", "<", "entity", ">", "Bush", "<", "/", "entity", ">", "<", "freq", ">", "3", "<", "/", "freq", ">", "<", "entity", ">", "David", "Cobb", "<", "/", "entity", ">", "<", "freq", ">", "1", "<", "/", "freq", ">", "...", "<", "/", "PERSON", ">", "...", "<", "DATE", ">", "<", "entity", ">", "6", "December", ",", "200", "<", "/", "entity", ">", "<", "freq", ">", "1", "<", "/", "freq", ">", "<", "entity", ">", "Friday", "<", "/", "entity", ">", "<", "freq", ">", "2", "<", "/", "freq", ">", "...", "<", "/", "DATE", ">", "<", "KEYWORDS", ">", "...", "<", "entity", ">", "recount", "<", "/", "entity", ">", "<", "freq", ">", "7", "<", "/", "freq", ">", "<", "entity", ">", "elect", "<", "/", "entity", ">", "<", "freq", ">", "3", "<", "/", "freq", ">", "<", "entity", ">", "America", "<", "/", "entity", ">", "<", "freq", ">", "3", "<", "/", "freq", ">", "<", "entity", ">", "poll", "<", "/", "entity", ">", "<", "freq", ">", "3", "<", "/", "freq", ">", "...", "<", "/", "KEYWORDS", ">", "<", "/", "NLPRESULT", ">", "751", "In", "the", "experiments", ",", "K-means", ",", "which", "is", "another", "frequently", "used", "clustering", "algorithm", "-LRB-", "as", "well", "in", "TDT", "-LSB-", "22", "-RSB-", "-RRB-", ",", "is", "adopted", "to", "compare", "with", "the", "proposed", "approach", ".", "The", "comparison", "results", "of", "two", "clustering", "approaches", "are", "illustrated", "in", "Table", "2", ",", "with", "precision", "and", "recall", "for", "each", "topic", ".", "Table", "2", ".", "The", "performance", "comparison", "between", "our", "approach", "and", "K-means", "on", "the", "event", "clustering", "Precision", "Recall", "K-means", "Ours", "K-means", "Ours", "Earthquake", "0.74", "0.87", "0.63", "0.74", "Halloween", "0.88", "0.93", "0.72", "0.81", "Air", "Disaster", "0.57", "0.68", "0.55", "0.61", "Average", "0.73", "0.83", "0.63", "0.72", "From", "Table", "2", ",", "it", "can", "be", "seen", "that", "the", "results", "of", "our", "approach", "are", "significantly", "better", "than", "those", "of", "K-means", ",", "both", "on", "precision", "and", "recall", ".", "On", "the", "three", "testing", "topics", ",", "the", "average", "precision", "of", "our", "approach", "is", "up", "to", "0.83", "and", "the", "average", "recall", "achieves", "0.72", ",", "which", "is", "10", "%", "and", "9", "%", "higher", "than", "those", "of", "K-means", ",", "respectively", ".", "By", "tracing", "the", "process", "of", "K-means", ",", "we", "find", "that", "K-means", "usually", "assigns", "documents", "far", "away", "from", "each", "other", "on", "the", "timeline", "into", "the", "same", "cluster", ",", "since", "the", "time", "information", "affects", "little", "in", "K-means", ".", "It", "also", "indicates", "the", "advantages", "of", "our", "approach", "with", "time", "modeling", ".", "The", "algorithms", "also", "show", "different", "performance", "on", "different", "kind", "topics", ".", "As", "for", "the", "``", "Air", "disaster", "''", ",", "its", "performance", "is", "not", "as", "good", "as", "that", "of", "the", "other", "two", ",", "since", "the", "features", "-LRB-", "words", "and", "time", "-RRB-", "of", "its", "events", "are", "more", "complicated", "and", "intertwined", "in", "the", "feature", "space", ".", "As", "for", "the", "topics", "-LRB-", "4-8", "in", "Table", "I", "-RRB-", "which", "could", "not", "have", "an", "objective", "evaluation", ",", "the", "clustering", "performance", "on", "these", "topics", "could", "be", "indirectly", "reflected", "by", "the", "subjective", "evaluation", "of", "the", "rich", "presentation", "presented", "in", "section", "5.2", ".", "This", "is", "because", "users", "will", "be", "more", "satisfied", "when", "the", "grouped", "documents", "shown", "in", "each", "event", "slide", "really", "belong", "to", "the", "same", "event", ";", "while", "users", "are", "not", "satisfied", "if", "the", "documents", "from", "different", "events", "are", "mixed", "in", "one", "event", "slide", ".", "5.2", "Rich", "Presentation", "It", "is", "usually", "difficult", "to", "find", "a", "quantitative", "measure", "for", "rich", "presentation", ",", "since", "the", "assessment", "of", "the", "goodness", "of", "rich", "presentation", "is", "a", "strong", "subjective", "task", ".", "In", "this", "paper", ",", "we", "carry", "out", "a", "preliminary", "user", "study", "to", "evaluate", "the", "performance", "of", "the", "proposed", "rich", "presentation", "schemes", ".", "To", "indicate", "the", "performance", "of", "rich", "presentation", ",", "we", "design", "two", "measures", "in", "the", "experiments", ",", "including", "`", "informativeness", "'", "and", "`", "enjoyablity", "'", ",", "following", "the", "criteria", "used", "in", "the", "work", "-LSB-", "7", "-RSB-", ".", "Here", ",", "the", "informativeness", "measures", "whether", "the", "subjects", "satisfy", "with", "the", "information", "obtained", "from", "the", "rich", "presentation", ";", "while", "enjoyablity", "indicates", "if", "users", "feel", "comfortable", "and", "enjoyable", "when", "they", "are", "reading", "the", "rich", "presentation", ".", "In", "evaluating", "the", "informativeness", ",", "we", "also", "provide", "the", "documents", "from", "which", "the", "rich", "presentation", "is", "generated", ".", "They", "are", "used", "as", "baseline", ",", "based", "on", "which", "the", "subjects", "can", "more", "easily", "evaluate", "if", "the", "important", "overview", "information", "contained", "in", "the", "documents", "is", "conveyed", "by", "the", "rich", "presentation", ".", "Moreover", ",", "in", "order", "to", "reveal", "the", "subjects", "'", "opinion", "on", "the", "design", "of", "the", "storyboard", "template", ",", "like", "the", "one", "shown", "in", "Fig", "3", ",", "we", "also", "ask", "the", "subjects", "to", "evaluate", "the", "`", "interface", "design", "'", ".", "In", "the", "user", "study", ",", "10", "volunteered", "subjects", "including", "8", "males", "and", "2", "females", "are", "invited", ".", "The", "subjects", "are", "around", "20-35", "years", "old", ",", "have", "much", "experience", "on", "computer", "manipulation", ",", "and", "usually", "read", "news", "on", "web", "in", "their", "leisure", "time", ".", "We", "ask", "them", "to", "give", "a", "subjective", "score", "between", "1", "and", "5", "for", "each", "measure", "of", "the", "rich", "presentation", "of", "each", "testing", "topic", "-LRB-", "an", "exception", "is", "`", "interface", "design", "'", ",", "which", "is", "the", "same", "for", "each", "rich", "presentation", "-RRB-", ".", "Here", ",", "the", "score", "`", "1", "'", "to", "`", "5", "'", "stands", "for", "unsatisfied", "-LRB-", "1", "-RRB-", ",", "somewhat", "unsatisfied", "-LRB-", "2", "-RRB-", ",", "acceptable", "-LRB-", "3", "-RRB-", ",", "satisfied", "-LRB-", "4", "-RRB-", "and", "very", "satisfied", "-LRB-", "5", "-RRB-", ",", "respectively", ".", "In", "experiments", ",", "we", "first", "check", "with", "the", "`", "interface", "design", "'", "measure", ".", "We", "find", "7", "out", "of", "10", "subjects", "satisfy", "with", "the", "event", "template", "design", "and", "the", "left", "three", "also", "think", "it", "is", "acceptable", ".", "The", "average", "score", "is", "up", "to", "3.9", ".", "An", "interesting", "observation", "is", "that", ",", "some", "subjects", "like", "the", "template", "design", "very", "much", "at", "the", "first", "glance", ",", "but", "they", "feel", "a", "little", "boring", "after", "they", "finish", "all", "the", "user", "study", "since", "every", "slide", "in", "the", "rich", "presentation", "of", "each", "topic", "has", "the", "same", "appearance", ".", "It", "hints", "us", "that", "we", "had", "better", "design", "different", "templates", "for", "different", "topics", "to", "make", "the", "rich", "presentation", "more", "attractive", ".", "As", "for", "the", "other", "two", "measures", ",", "we", "average", "the", "score", "across", "all", "the", "subjects", "to", "represent", "the", "performance", "for", "each", "topic", ",", "and", "list", "the", "detailed", "results", "in", "Table", "3", ".", "It", "can", "be", "seen", "that", "the", "average", "score", "of", "both", "enjoyablity", "and", "informativeness", "achieves", "3.7", ",", "which", "indicates", "that", "most", "subjects", "satisfy", "the", "provided", "overview", "information", "of", "the", "target", "topic", ",", "and", "they", "enjoy", "themselves", "when", "reading", "these", "rich", "presentations", ".", "Table", "3", ".", "The", "evaluation", "results", "of", "rich", "presentation", "on", "each", "topic", "No", ".", "Topic", "Informative", "Enjoyable", "1", "Earthquake", "4.3", "3.2", "2", "Halloween", "3.6", "4.0", "3", "Air", "Disaster", "4.0", "3.4", "4", "US", "Election", "4.1", "4.0", "5", "Britney", "Spears", "3.6", "4.1", "6", "Nobel", "Prize", "3.3", "3.4", "7", "David", "Beckham", "3.4", "4.0", "8", "Harry", "Potter", "3.3", "3.4", "Average", "3.7", "3.7", "In", "the", "experiments", ",", "we", "find", "informativeness", "is", "highly", "depended", "on", "the", "correlation", "between", "the", "presented", "documents", "and", "the", "target", "topic", ".", "If", "the", "presented", "information", "is", "consistent", "with", "the", "topic", ",", "subjects", "usually", "give", "a", "high", "score", "for", "informativeness", ",", "such", "as", "those", "on", "Earthquake", "and", "US", "Election", ";", "otherwise", ",", "they", "will", "give", "a", "low", "score", ",", "like", "those", "on", "David", "Beckham", "and", "Nobel", "Prize", ".", "It", "indicates", "that", "it", "is", "quite", "important", "to", "provide", "users", "clean", "information", "of", "the", "target", "topic", "with", "less", "noise", ".", "However", ",", "in", "current", "system", ",", "the", "documents", "are", "crawled", "from", "web", "and", "inevitably", "contain", "many", "noises", ".", "It", "affects", "much", "on", "the", "performance", "of", "informativeness", "in", "the", "current", "system", ".", "We", "need", "to", "consider", "how", "to", "prone", "the", "information", "of", "the", "target", "topic", "in", "the", "future", "works", ".", "We", "also", "find", "that", "the", "enjoyablity", "score", "is", "usually", "related", "with", "informativeness", ".", "If", "the", "subjects", "do", "not", "get", "enough", "information", "from", "the", "rich", "presentation", ",", "they", "will", "be", "not", "enjoyable", "as", "well", ",", "such", "as", "the", "topics", "of", "Nobel", "Prize", "and", "Harry", "Potter", ".", "Enjoyablity", "is", "also", "topic-related", ",", "the", "subjects", "usually", "feel", "unconformable", "when", "they", "are", "facing", "with", "miserable", "topics", ",", "such", "as", "Earthquake", "and", "Air", "Disaster", ",", "although", "their", "informativeness", "is", "quite", "high", ".", "On", "the", "752", "contrary", ",", "users", "give", "a", "high", "score", "for", "enjoyablity", "on", "the", "interesting", "topics", ",", "such", "as", "Britney", "Spears", "and", "David", "Beckham", ",", "although", "their", "informative", "score", "is", "not", "high", ".", "This", "is", "because", "that", "there", "are", "usually", "many", "funny", "and", "interesting", "pictures", "in", "the", "presentation", "of", "these", "topics", ".", "Another", "finding", "is", "that", "users", "usually", "fell", "unenjoyable", "if", "the", "images", "and", "summaries", "in", "one", "event", "slide", "are", "not", "consistent", "with", "each", "other", ".", "From", "this", "view", ",", "the", "high", "enjoyablity", "score", "in", "our", "experiments", "also", "indicates", "that", "our", "event", "clustering", "algorithm", "works", "promisingly", "To", "facilitate", "users", "to", "quickly", "grasp", "and", "go", "through", "the", "content", "of", "a", "semantic", "topic", ",", "in", "this", "paper", ",", "we", "have", "proposed", "a", "novel", "approach", "to", "rich", "presentation", "to", "generate", "a", "concise", "and", "informative", "storyboard", "for", "the", "target", "topic", ",", "with", "many", "relevant", "multimodal", "information", "including", "image", ",", "text", ",", "audio", "and", "video", ".", "In", "this", "approach", ",", "the", "related", "multimodal", "information", "of", "a", "given", "topic", "is", "first", "extracted", "from", "news", "databases", ".", "Then", ",", "the", "events", "are", "clustered", ",", "and", "the", "corresponding", "information", ",", "such", "as", "representative", "images", ",", "geographic", "information", ",", "and", "event", "summary", ",", "is", "obtained", ".", "The", "information", "is", "composed", "into", "an", "attractive", "storyboard", "which", "is", "finally", "synchronized", "with", "incidental", "music", ".", "A", "user", "study", "indicates", "that", "the", "presented", "system", "works", "well", "on", "our", "testing", "examples", ".", "There", "is", "still", "some", "room", "for", "improving", "the", "proposed", "approach", ".", "First", ",", "the", "proposed", "approach", "could", "be", "extended", "to", "other", "multimedia", "databases", "or", "more", "general", "websites", ".", "For", "example", ",", "some", "standard", "multimedia", "database", "like", "NIST", "TRECVID", "could", "provide", "a", "nice", "platform", "for", "the", "implementation", "and", "evaluation", "of", "event", "detection", "and", "rich", "presentation", ".", "Second", ",", "to", "integrate", "more", "relevant", "multimedia", "information", "-LRB-", "such", "as", "video", "clips", "and", "flashes", "-RRB-", "and", "more", "accurate", "information", "regarding", "the", "target", "topic", "is", "highly", "expected", "by", "users", ".", "Thus", ",", "more", "advanced", "information", "retrieval", "/", "extraction", "techniques", "and", "other", "multimedia", "analysis", "techniques", "are", "needed", "to", "be", "exploited", "and", "integrated", ",", "such", "as", "relevance", "ranking", ",", "mapping", "schemes", ",", "important", "or", "representative", "video", "clips", "detection", "and", "video", "clip", "summarization", ".", "We", "also", "need", "to", "design", "a", "much", "natural", "way", "to", "incorporate", "video", "clips", "in", "the", "event", "template", ".", "Third", ",", "we", "also", "consider", "designing", "various", "storyboard", "templates", "for", "different", "kind", "of", "topics", ".", "For", "example", ",", "each", "topic", "may", "be", "belonging", "to", "different", "clusters", "such", "as", "politics", ",", "sports", "and", "entertainments", ",", "each", "of", "which", "can", "have", "a", "representative", "template", ".", "Forth", ",", "appropriate", "user", "interaction", "will", "be", "added", "to", "further", "make", "the", "storyboard", "more", "interactive", "and", "easy", "to", "control", ".", "Finally", ",", "a", "thorough", "evaluation", "will", "be", "implemented", "to", "evaluate", "the", "effect", "of", "each", "component", "in", "the", "framework", "and", "storyboard", "template", ".", "-LSB-", "1", "-RSB-", "A.", "Vailaya", ",", "M.A.T.", "Figueiredo", ",", "A.", "K.", "Jain", ",", "and", "H.-J", ".", "Zhang", ".", "``", "Image", "classification", "for", "content-based", "indexing", "''", ".", "IEEE", "Transactions", "on", "Image", "Processing", ",", "Vol", ".10", ",", "Iss", ".1", ",", "2001", "-LSB-", "2", "-RSB-", "F.", "J.", ",", "M.-J", ".", "Li", ",", "H.-J", ".", "Zhang", ",", "and", "B.", "Zhang", ".", "``", "An", "effective", "region-based", "image", "retrieval", "framework", "''", ".", "Proc", ".", "ACM", "Multimedia", "'", "02", ",", "pp.", "456-465", ",", "2002", "-LSB-", "3", "-RSB-", "J.", "Platt", "``", "AutoAlbum", ":", "Clustering", "Digital", "Photographs", "using", "Probabilistic", "Model", "Merging", "''", "Proc", ".", "IEEE", "Workshop", "on", "Content-Based", "Access", "of", "Image", "and", "Video", "Libraries", ",", "pp.", "96", "100", ",", "2000", ".", "-LSB-", "4", "-RSB-", "A.", "Hanjalic", ",", "R.", "L.", "Lagendijk", ",", "J.", "Biemond", ",", "``", "Automated", "high-level", "movie", "segmentation", "for", "advanced", "video-retrieval", "systems", "''", ",", "IEEE", "Trans", "on", "Circuits", "and", "Systems", "For", "Video", "Technology", ",", "Vol", ".", "9", ",", "No.", "4", ",", "pp.", "580-588", ",", "1999", ".", "-LSB-", "5", "-RSB-", "J.", "Assfalg", "and", "et", "al", ",", "``", "Semantic", "annotation", "of", "soccer", "videos", ":", "automatic", "highlights", "identification", ",", "''", "CVIU", "'", "03", ",", "vol", ".", "92", ",", "pp", ".", "285-305", ",", "2003", ".", "-LSB-", "6", "-RSB-", "A.", "Ekin", ",", "A.", "M.", "Tekalp", ",", "and", "R.", "Mehrotra", ",", "``", "Automatic", "soccer", "video", "analysis", "and", "summarization", ",", "''", "IEEE", "Trans", ".", "on", "Image", "Processing", ",", "12", "-LRB-", "7", "-RRB-", ",", "pp.", "796-807", ",", "2003", ".", "-LSB-", "7", "-RSB-", "Y.", "-", "F.", "Ma", ",", "L.", "Lu", ",", "H.", "-", "J.", "Zhang", ",", "and", "M.-J", "Li", ".", "``", "A", "User", "Attention", "Model", "for", "Video", "Summarization", "''", ".", "ACM", "Multimeida", "'", "02", ",", "pp.", "533-542", ",", "2002", ".", "-LSB-", "8", "-RSB-", "L.", "Xie", ",", "P.", "Xu", ",", "S.F.", "Chang", ",", "A.", "Divakaran", ",", "and", "H.", "Sun", ",", "``", "Structure", "analysis", "of", "soccer", "video", "with", "domain", "knowledge", "and", "hidden", "markov", "models", ",", "''", "Pattern", "Recognition", "Letters", ",", "vol", ".", "25", "-LRB-", "7", "-RRB-", ",", "pp.", "767-775", ",", "2004", ".", "-LSB-", "9", "-RSB-", "L.", "Lu", ",", "H.", "Jiang", ",", "H.", "J.", "Zhang", ",", "``", "A", "Robust", "Audio", "Classification", "and", "Segmentation", "Method", ",", "''", "Proc", ".", "ACM", "Multimedia", "'", "01", ",", "pp", ".", "203-211", ",", "2001", "-LSB-", "10", "-RSB-", "R.", "Cai", ",", "L.", "Lu", ",", "H.-J", ".", "Zhang", ",", "and", "L.-H", ".", "Cai", ",", "``", "Highlight", "Sound", "Effects", "Detection", "in", "Audio", "Stream", ",", "''", "Proc", ".", "ICME", "'03", "Vol", ".3", ",", "pp.37-40", ",", "2003", ".", "-LSB-", "11", "-RSB-", "Y.", "Rui", ",", "A.", "Gupta", ",", "and", "A.", "Acero", ",", "``", "Automatically", "Extracting", "Highlights", "for", "TV", "Baseball", "Programs", "''", ",", "Proc", ".", "ACM", "Multi-media", "'00", ",", "pp.105-115", ",", "2000", ".", "-LSB-", "12", "-RSB-", "C.", "Snoek", ",", "and", "M.", "Worring", ".", "``", "Multimodal", "Video", "Indexing", ":", "A", "Review", "of", "the", "State-of-the-art", "''", ".", "Multimedia", "Tools", "and", "Applications", ",", "Vol", ".", "25", ",", "No.", "1", "pp.", "5", "35", ",", "2005", "-LSB-", "13", "-RSB-", "E.M.", "Voorhees", ",", "``", "Query", "expansion", "using", "lexical-semantic", "relations", "''", "Proc", ".", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pp", "61", "-", "69", ",", "1994", "-LSB-", "14", "-RSB-", "Z.-W", ".", "Li", ",", "M.-J", ".", "Li", ",", "and", "W.-Y", ".", "Ma", ".", "``", "A", "Probabilistic", "Model", "for", "Retrospective", "News", "Event", "Detection", "''", ",", "Proc", ".", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "2005", "-LSB-", "15", "-RSB-", "D.", "M.", "Bikel", ",", "R.", "L.", "Schwartz", ",", "and", "R.", "M.", "Weischedel", ".", "``", "An", "Algorithm", "That", "Learns", "What", "'s", "in", "a", "Name", "''", ".", "Machine", "Learning", ",", "34", "-LRB-", "1-3", "-RRB-", ",", "1999", "-LSB-", "16", "-RSB-", "K.", "Nigam", ",", "A.", "McCallum", ",", "S.", "Thrun", ",", "and", "T.", "Mitchell", ".", "``", "Text", "Classification", "from", "Labeled", "and", "Unlabeled", "Documents", "using", "EM", "''", ".", "Machine", "Learning", ",", "39", "-LRB-", "2-3", "-RRB-", ",", "2000", "-LSB-", "17", "-RSB-", "T.", "Hastie", ",", "R.", "Tibshirani", ",", "and", "J.", "Friedman", ".", "``", "The", "Elements", "of", "Statistical", "Learning", ":", "Data", "Mining", ",", "Inference", "and", "Prediction", "''", ".", "Springer-Verlag", ",", "2001", "-LSB-", "18", "-RSB-", "MapPoint", "Web", "Service", "http://www.microsoft.com/mappoint/", "products", "/", "webservice/default", ".", "mspx", "-LSB-", "19", "-RSB-", "X.-S", ".", "Hua", ",", "L.", "Lu", ",", "H.-J", ".", "Zhang", ".", "``", "Automated", "Home", "Video", "Editing", "''", ",", "Proc", ".", "ACM", "Multimedia", "'", "03", ",", "pp.", "490-497", ",", "2003", "-LSB-", "20", "-RSB-", "J.", "Foote", ",", "M.", "Cooper", ",", "and", "A.", "Girgensohn", ".", "``", "Creating", "Music", "Videos", "Using", "Automatic", "Media", "Analysis", "''", ".", "ACM", "Multimedia", "'", "02", ",", "pp.553-560", ",", "2002", ".", "-LSB-", "21", "-RSB-", "Topic", "Detection", "and", "Tracking", "-LRB-", "TDT", "-RRB-", "Project", ":", "http://www", ".", "nist.gov", "/", "speech/tests/tdt", "/", "-LSB-", "22", "-RSB-", "J.", "Allan", ",", "R.", "Papka", ",", "and", "V.", "Lavrenko", ".", "``", "On-line", "New", "Event", "Detection", "and", "Tracking", "''", ".", "Proc", ".", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "98", ",", "pp.37-45", ",", "1998", "753"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["storyboard", "representative media", "multimedia authoring", "rich presentation", "event clustering", "events clustering"], "abstractive_keyphrases": ["documentary and movie", "subjective multiple events", "rich video clips and flashes", "multimodality", "multi-modal information", "high-level semantics", "generate storyboard", "multimedia fusion", "communication and multimedia", "images, videos and audio technologies"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "37", "document": ["Aspect", "Oriented", "Programming", "for", "a", "component-based", "real", "life", "application", ":", "A", "case", "study", "Aspect", "Oriented", "Programming", ",", "a", "relatively", "new", "programming", "paradigm", ",", "earned", "the", "scientific", "community", "'s", "attention", ".", "The", "paradigm", "is", "already", "evaluated", "for", "traditional", "OOP", "and", "component-based", "software", "development", "with", "remarkable", "results", ".", "However", ",", "most", "of", "the", "published", "work", ",", "while", "of", "excellent", "quality", ",", "is", "mostly", "theoretical", "or", "involves", "evaluation", "of", "AOP", "for", "research", "oriented", "and", "experimental", "software", ".", "Unlike", "the", "previous", "work", ",", "this", "study", "considers", "the", "AOP", "paradigm", "for", "solving", "real-life", "problems", ",", "which", "can", "be", "faced", "in", "any", "commercial", "software", ".", "We", "evaluate", "AOP", "in", "the", "development", "of", "a", "high-performance", "component-based", "web-crawling", "system", ",", "and", "compare", "the", "process", "with", "the", "development", "of", "the", "same", "system", "without", "AOP", ".", "The", "results", "of", "the", "case", "study", "mostly", "favor", "the", "aspect", "oriented", "paradigm", ".", "Aspect", "Oriented", "Programming", ",", "a", "relatively", "new", "programming", "paradigm", "introduced", "by", "Kiczales", "-LRB-", "-LSB-", "2", "-RSB-", "-RRB-", ",", "recently", "earned", "the", "scientific", "community", "'s", "attention", ".", "Having", "around", "six", "years", "of", "life", ",", "the", "paradigm", "was", "already", "presented", "in", "important", "conferences", ",", "and", "recently", "triggered", "the", "creation", "of", "several", "conferences", "and", "workshops", "to", "deal", "with", "it", ".", "The", "paradigm", "is", "already", "evaluated", "for", "traditional", "OOP", "and", "component-based", "software", "development", "and", "is", "found", "very", "promising", ".", "Several", "evaluations", "consider", "it", "to", "be", "the", "continuation", "of", "the", "OOP", "paradigm", ".", "However", ",", "most", "of", "the", "published", "work", "while", "of", "excellent", "quality", "is", "mostly", "theoretical", "or", "involves", "evaluation", "of", "AOP", "for", "research", "oriented", "and", "experimental", "software", ".", "Unlike", "previous", "works", ",", "this", "study", "considers", "the", "AOP", "paradigm", "for", "solving", "real-life", "problems", ",", "which", "need", "to", "be", "faced", "in", "any", "commercial", "software", ".", "We", "evaluated", "Aspect", "Oriented", "Programming", "in", "the", "development", "of", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SAC", "'04", "March", "14-17", ",", "2004", ",", "Nicosia", ",", "Cyprus", "Copyright", "2004", "ACM", "1-58113-812-1", "/", "03/04", "...", "$", "5.00", ".", "a", "high-performance", "component-based", "web-crawling", "system", ",", "and", "compared", "the", "process", "with", "the", "development", "of", "the", "same", "system", "without", "AOP", ".", "The", "results", "of", "the", "case", "study", ",", "mostly", "favoring", "the", "aspect", "oriented", "paradigm", ",", "are", "reported", "in", "this", "work", ".", "This", "introduction", "is", "followed", "by", "an", "introduction", "to", "the", "AOP", "approach", ".", "We", "then", "describe", "the", "application", "that", "was", "used", "for", "our", "evaluation", "and", "proceed", "with", "a", "description", "of", "our", "evaluation", "scenario", ".", "We", "then", "present", "and", "comment", "our", "evaluation", "results", ".", "We", "continue", "with", "references", "to", "similar", "evaluation", "attempts", ",", "and", ",", "finally", ",", "we", "summarize", "the", "conclusions", "from", "our", "evaluation", ",", "and", "report", "on", "future", "work", ".", "Aspect", "Oriented", "Programming", ",", "as", "proposed", "by", "Kiczales", "-LRB-", "-LSB-", "2", "-RSB-", "-RRB-", ",", "is", "based", "on", "the", "aspectual", "decomposition", ".", "Aspectual", "decomposition", "is", "somewhat", "complementary", "to", "functional", "decomposition", ",", "and", "tries", "to", "overcome", "the", "limitation", "of", "functional", "decomposition", "to", "capture", "and", "represent", "crosscutting", "functionality", ".", "After", "separating", "the", "system", "to", "functional", "constructs", ",", "aspectual", "decomposition", "is", "applied", "to", "the", "design", "in", "order", "to", "catch", "the", "crosscutting", "concerns", ".", "Crosscutting", "functionality", "usually", "includes", "extra-functional", "requirements", "-LRB-", "e.g.", "timing", "constraints", "or", "logging", "facility", "to", "all", "the", "system", "components", "-RRB-", ".", "This", "functionality", "is", "usually", "replicated", "a", "number", "of", "times", ",", "spread", "over", "the", "whole", "system", ".", "There", "is", "no", "single", "point", "of", "reference", "where", "the", "developer", "can", "say", "that", "the", "aspectual", "functionality", "belongs", "and", "should", "be", "implemented", ".", "The", "main", "purpose", "of", "AOP", "is", "to", "capture", "the", "crosscutting", "concerns", "throughout", "the", "system", ",", "and", "promote", "them", "as", "first-class", "citizens", ",", "in", "order", "to", "enable", "the", "modeling", "and", "reusing", "of", "them", ".", "The", "high", "level", "goals", "of", "such", "an", "approach", ",", "as", "reported", "in", "various", "publications", ",", "follow", ":", "1", ".", "AOP", "makes", "programming", "easier", "and", "faster", ",", "closer", "to", "the", "human", "perception", "-LRB-", "-LSB-", "2", ",", "3", ",", "7", "-RSB-", "-RRB-", ".", "Developers", "understand", "the", "concept", "of", "crosscutting", "concerns", "and", "crosscutting", "functionality", ",", "and", "they", "use", "it", "in", "understanding", "the", "whole", "system", ".", "However", ",", "apart", "from", "AOP", ",", "there", "is", "no", "easy", "way", "to", "implement", "such", "a", "crosscutting", "concern", ".", "With", "AOP", ",", "aspects", "are", "closer", "to", "the", "human", "perception", "for", "crosscutting", "concerns", "and", "simplify", "the", "design", "and", "implementation", "of", "systems", "with", "such", "requirements", ".", "Aspects", "can", "even", "allow", "code", "reuse", "for", "the", "extra-functional", "requirements", "they", "implement", ",", "which", "usually", "crosscut", "the", "whole", "system", ".", "Thus", ",", "they", "make", "system", "implementation", "easier", "and", "faster", ".", "1554", "2004", "ACM", "Symposium", "on", "Applied", "Computing", "2", ".", "AOP", "makes", "programming", "less", "error-prone", "and", "easier", "to", "debug", "and", "maintain", "-LRB-", "-LSB-", "2", ",", "3", ",", "7", ",", "6", "-RSB-", "-RRB-", ".", "Not", "only", "the", "code", "becomes", "more", "modular", ",", "thus", ",", "easier", "to", "maintain", "and", "enhance", ",", "but", "also", "the", "goal", "for", "debugging", "is", "more", "easily", "gained", "-LRB-", "offered", "from", "the", "AOP", "inherent", "ability", "of", "automatic", "aspect", "invocation", "-RRB-", ".", "Furthermore", ",", "AOP", "favors", "reusability", "and", "modular", "representation", "of", "crosscutting", "concerns", ",", "which", "make", "the", "code", "more", "readable", "and", "prevent", "tangling", "code", ".", "The", "AOP", "approach", "is", "already", "used", "in", "the", "implementation", "of", "several", "academic-oriented", "systems", "such", "as", "-LSB-", "4", "-RSB-", ",", "but", "there", "is", "not", "much", "work", "reported", "on", "AOP", "relating", "with", "commercial", "environment", ".", "However", ",", "we", "strongly", "believe", "that", "AOP", "can", "enter", "the", "industrial", "environment", ",", "and", "that", "it", "has", "much", "to", "offer", ".", "We", "expect", "to", "witness", "that", "in", "the", "near", "future", ".", "To", "evaluate", "the", "AOP", "paradigm", ",", "we", "chose", "a", "high", "performance", "component-based", "web", "crawler", ",", "which", "would", "serve", "the", "needs", "of", "our", "laboratory", ".", "However", ",", "it", "was", "important", "for", "us", "to", "make", "the", "crawler", "easily", "extensible", "and", "changeable", "in", "order", "to", "be", "able", "to", "reuse", "it", "in", "different", "projects", ".", "Furthermore", ",", "the", "crawler", "should", "not", "be", "characterized", "as", "experimental", "-LRB-", "e.g.", "unstable", "or", "with", "extremely", "complicated", "configuration", "-RRB-", "since", "it", "should", "be", "reusable", "in", "a", "number", "of", "different", "projects", ",", "and", "without", "needing", "to", "know", "the", "complete", "infrastructure", ".", "We", "also", "needed", "the", "crawler", "to", "be", "easily", "adjustable", "to", "different", "configurations", ",", "hardware", ",", "and", "network", "situations", ",", "because", "of", "the", "variety", "of", "our", "hardware", ",", "as", "this", "would", "be", "desired", "in", "a", "real-life", "application", ".", "This", "application", "was", "found", "suitable", "for", "our", "AOP", "evaluation", ",", "since", "it", "was", "of", "respectable", "size", ",", "which", "would", "give", "us", "the", "opportunity", "for", "better", "results", ".", "Furthermore", ",", "the", "non-experimental", "characterization", "of", "the", "current", "application", ",", "which", "is", "rarely", "the", "outcome", "in", "the", "academic", "environment", ",", "would", "ensure", "a", "more", "practical", "approach", "of", "our", "evaluation", ".", "For", "the", "same", "reason", ",", "the", "extra-functional", "requirements", "implemented", "for", "the", "evaluation", ",", "were", "carefully", "selected", ".", "It", "was", "important", "for", "us", "to", "keep", "the", "whole", "implementation", "and", ",", "consequently", ",", "the", "AOP", "evaluation", "not", "far", "from", "the", "commercial", "field", ",", "which", "we", "feel", "to", "be", "the", "important", "end-user", "of", "the", "programming", "paradigms", ".", "Having", "these", "points", "in", "mind", ",", "we", "decided", "to", "use", "the", "following", "design", ",", "comprising", "three", "basic", "multi-threaded", "components", ":", "-LRB-", "i", "-RRB-", "the", "database", "component", ",", "-LRB-", "ii", "-RRB-", "the", "crawling", "component", ",", "and", "-LRB-", "iii", "-RRB-", "the", "processing", "component", ".", "Figure", "1", ":", "The", "architecture", "of", "a", "high-performance", "component-based", "web-crawling", "system", ".", "The", "database", "component", "was", "responsible", "for", "two", "tasks", ":", "-LRB-", "a", "-RRB-", "updating", "the", "database", "with", "the", "processed", "information", ",", "received", "from", "the", "processing", "component", ",", "and", "-LRB-", "b", "-RRB-", "feeding", "the", "crawling", "component", "with", "the", "necessary", "URLs", "to", "be", "crawled", ".", "Furthermore", ",", "as", "in", "all", "the", "components", ",", "a", "number", "of", "threads", "were", "running", "in", "parallel", "in", "each", "component", ",", "so", "that", "the", "fast", "devices", "like", "CPU", "and", "memory", "-LRB-", "as", "opposed", "to", "the", "usually", "slow", "devices", "like", "I/O", "and", "network", "-RRB-", "would", "be", "more", "efficiently", "utilized", ".", "The", "number", "of", "threads", "running", "in", "parallel", "in", "each", "component", "could", "be", "selected", "from", "the", "user", ",", "and", "also", "adjusted", "dynamically", "from", "each", "component", "for", "optimal", "performance", ".", "Selecting", "a", "very", "small", "number", "of", "threads", ",", "the", "user", "would", "let", "fast", "resources", "like", "processor", "and", "the", "memory", "rather", "unutilized", ",", "while", "selecting", "an", "overly", "large", "number", "of", "threads", "would", "result", "to", "large", "context", "switching", "overhead", ".", "The", "crawling", "component", "'s", "responsibility", "was", "to", "download", "the", "URLs", "from", "the", "web", "and", "provide", "the", "processing", "component", "with", "the", "page", "information", "for", "further", "processing", ".", "Page", "information", "included", "the", "page", "'s", "URL", ",", "IP", "address", ",", "and", "page", "text", ".", "Again", ",", "the", "crawling", "component", "ran", "a", "number", "of", "threads", "to", "maximize", "resource", "utilization", ".", "Finally", ",", "the", "processing", "component", "was", "responsible", "for", "receiving", "the", "page", "information", "from", "the", "crawling", "component", "and", "processing", "it", ",", "and", "passing", "the", "results", "to", "the", "database", "component", "for", "permanent", "storage", ".", "As", "in", "the", "other", "components", ",", "this", "component", "was", "also", "multi-threaded", ",", "thus", "utilizing", "the", "resources", "better", ".", "To", "evaluate", "AOP", "in", "the", "crawling", "project", ",", "we", "ran", "the", "following", "scenario", ":", "First", ",", "we", "set", "our", "metrics", "for", "the", "evaluation", "of", "AOP", ",", "trying", "to", "keep", "them", "as", "objective", "as", "possible", ";", "then", ",", "we", "designed", "the", "component-based", "web", "crawler", "and", "located", "the", "different", "functionalities", "that", "could", "be", "modeled", "as", "aspects", ".", "Following", "that", ",", "we", "implemented", "and", "tested", "the", "three", "components", "independently", ".", "The", "implementation", "up", "to", "that", "point", "did", "not", "include", "any", "of", "the", "functionalities", "identified", "as", "aspects", "in", "the", "earlier", "step", ".", "Finally", ",", "we", "tried", "to", "integrate", "the", "three", "components", ",", "and", "also", "include", "the", "extra", "functionality", ",", "implemented", "with", "and", "without", "AOP", ".", "Our", "selection", "for", "the", "metrics", "was", "mostly", "to", "favor", "-LRB-", "as", "much", "as", "possible", "-RRB-", "objective", "results", ".", "Our", "goal", ",", "as", "Murphy", "in", "-LSB-", "5", "-RSB-", "suggests", ",", "was", "to", "answer", "two", "important", "questions", ":", "-LRB-", "a", "-RRB-", "if", "AOP", "makes", "it", "easier", "to", "develop", "and", "change", "a", "certain", "category", "of", "software", "-LRB-", "usefulness", "-RRB-", ",", "and", "-LRB-", "b", "-RRB-", "what", "is", "the", "effect", "of", "AOP", "in", "the", "software", "development", "-LRB-", "usability", "-RRB-", ".", "For", "these", "reasons", ",", "we", "selected", "the", "following", "metrics", ":", "1", ".", "We", "measure", "effectiveness", "of", "AOP", "for", "implementing", "the", "extra", "functionality", ",", "compared", "to", "traditional", "OOP", ".", "2", ".", "We", "measure", "the", "learning", "curve", "of", "AOP", "methodology", ".", "3", ".", "We", "measure", "time", "that", "took", "to", "complete", "the", "project", "with", "the", "two", "approaches", ",", "AOP", "and", "traditional", "OOP", ".", "4", ".", "We", "measure", "complete", "lines", "of", "code", "for", "the", "added", "functionality", "with", "AOP", "and", "with", "traditional", "OOP", ".", "5", ".", "We", "compare", "code", "tangling", "in", "the", "AOP", "and", "the", "traditional", "OOP", "model", ".", "6", ".", "We", "report", "on", "the", "stability", "of", "the", "AOP", "model", "for", "creating", "component-based", "software", ".", "The", "types", "of", "functionality", "that", "we", "identified", "as", "being", "best", "modeled", "as", "aspects", "were", "the", "following", "ones", ":", "1555", "Logging", ":", "This", "functionality", "requires", "saving", "extended", "program", "execution", "trace", "to", "a", "file", "or", "printing", "it", "to", "the", "screen", ".", "The", "trace", "should", "include", "entrance", "and", "exit", "messages", "from", "the", "methods", ",", "exceptions", "thrown", ",", "and", "time", "of", "each", "event", ".", "Overloading", "checks", ":", "Since", "the", "crawling", "function", "is", "expensive", "in", "resources", ",", "we", "must", "constantly", "check", "for", "overloading", "in", "any", "of", "the", "resources", ",", "in", "order", "to", "avoid", "driving", "the", "machines", "to", "collapse", ".", "The", "two", "resources", "we", "had", "to", "monitor", "were", "the", "DNS", "server", "that", "was", "serving", "our", "crawler", "and", "the", "machine", "that", "was", "hosting", "our", "crawling", "database", ".", "Database", "optimizer", ":", "Even", "with", "the", "combination", "of", "the", "expensive", "high", "performance", "hardware", "and", "software", "that", "was", "used", "for", "the", "database", "server", ",", "we", "still", "needed", "to", "follow", "some", "optimization", "techniques", "to", "minimize", "the", "need", "for", "database", "connectivity", ".", "This", "was", "due", "to", "the", "heavy", "load", "that", "our", "database", "server", "experienced", "from", "the", "crawling", "function", ".", "The", "Logging", "aspect", ",", "the", "most", "common", "aspect", "in", "AOP", ",", "was", "mostly", "to", "help", "debugging", "during", "the", "developing", "stage", "of", "the", "application", ",", "but", "it", "would", "also", "be", "used", "for", "identifying", "bottlenecks", "-LRB-", "profiling", "-RRB-", "and", "performing", "optimizations", "to", "the", "components", "in", "a", "later", "stage", ".", "When", "the", "logging", "aspect", "was", "enabled", ",", "entering", "or", "exiting", "a", "method", "would", "print", "-LRB-", "to", "stderr", "-RRB-", "the", "method", "'s", "name", ",", "the", "exact", "time", ",", "and", "some", "other", "useful", "information", ".", "Moreover", ",", "a", "method", "throwing", "an", "exception", "would", "result", "in", "invoking", "the", "logging", "aspect", "to", "print", "the", "exception", "with", "the", "method", "'s", "name", "in", "stderr", ".", "The", "overloading", "checks", "were", "broken", "in", "two", "aspects", ",", "the", "DNS", "monitoring", "aspect", "and", "the", "database", "monitoring", "aspect", ".", "The", "DNS", "monitoring", "aspect", "was", "trying", "to", "adjust", "the", "number", "of", "active", "downloading", "threads", "according", "to", "the", "DNS", "server", "status", ".", "More", "to", "the", "point", ",", "the", "problem", "we", "faced", "was", "that", "the", "DNS", "server", "that", "was", "serving", "our", "crawler", "was", "shared", "with", "other", "machines", ",", "some", "of", "them", "running", "experimental", "software", ",", "doing", "extensive", "use", "of", "the", "DNS", "server", "for", "DNS", "resolution", ".", "This", "practically", "meant", "that", "the", "efficiency", "of", "the", "DNS", "server", "was", "dependent", "of", "the", "number", "of", "software", "clients", "using", "it", "in", "parallel", ".", "Running", "more", "than", "the", "appropriate", "-LRB-", "for", "each", "moment", "-RRB-", "downloading", "threads", "in", "our", "crawler", "-LRB-", "that", "were", "doing", "the", "DNS", "resolution", "-RRB-", "resulted", "in", "more", "DNS", "resolution", "requests", "that", "our", "DNS", "server", "could", "handle", ",", "and", "eventually", ",", "collapsing", "of", "our", "DNS", "server", ".", "On", "the", "other", "hand", ",", "underestimating", "our", "DNS", "server", "'s", "abilities", "in", "low-usage", "hours", "would", "result", "in", "significantly", "lower", "crawling", "speed", ".", "For", "these", "reasons", "we", "constructed", "and", "used", "the", "DNS", "monitoring", "aspect", ",", "which", "would", "adjust", "the", "number", "of", "the", "downloading", "threads", "according", "to", "the", "running", "DNS", "load", ".", "Each", "DNS", "resolution", "was", "timed", ",", "and", "when", "discovering", "latency", "higher", "than", "expected", ",", "we", "were", "temporarily", "pausing", "some", "of", "the", "downloading", "threads", "-LRB-", "the", "pause", "time", "and", "the", "number", "of", "the", "threads", "that", "we", "were", "pausing", "were", "analogous", "to", "the", "latency", "-RRB-", ",", "thus", ",", "causing", "less", "DNS", "lookups", "in", "a", "specific", "time", ".", "The", "database", "monitoring", "aspect", "'s", "goal", "was", "to", "disable", "overloading", "in", "the", "database", "machine", ".", "A", "similar", "approach", "to", "the", "DNS", "monitoring", "aspect", "was", "used", ".", "We", "were", "monitoring", "the", "responses", "from", "our", "database", "server", "and", "when", "we", "were", "detecting", "overloading", "of", "the", "database", "we", "would", "pause", "some", "of", "the", "downloading", "threads", ".", "The", "reason", "that", "we", "could", "not", "predict", "the", "ideal", "number", "for", "the", "database", "component", "threads", "from", "the", "beginning", "was", "because", "of", "the", "variety", "of", "the", "web-pages", ".", "For", "example", ",", "a", "web-page", "with", "many", "new", "words", "-LRB-", "words", "that", "are", "for", "first", "time", "parsed", "from", "the", "crawler", "-RRB-", "would", "result", "in", "much", "database", "load", ",", "while", "words", "that", "are", "seen", "before", "from", "the", "crawler", "would", "result", "in", "much", "less", "-LRB-", "due", "to", "some", "optimizations", ",", "similar", "to", "those", "proposed", "in", "-LSB-", "1", "-RSB-", "-RRB-", ".", "For", "these", "reasons", ",", "we", "constructed", "the", "database", "monitoring", "aspect", "to", "monitor", "database", "queries", ".", "The", "aspect", "would", "time", "every", "interaction", "with", "the", "database", "server", "and", "try", "to", "detect", "overloading", ".", "When", "the", "time", "demanded", "for", "the", "query", "was", "bigger", "than", "a", "threshold", "-LRB-", "all", "the", "queries", "we", "were", "executing", "were", "having", "the", "same", "average", "time", "for", "execution", "in", "normal", "circumstances", "-RRB-", ",", "we", "would", "pause", "some", "of", "the", "downloading", "threads", "for", "some", "time", ",", "in", "order", "to", "allow", "the", "database", "server", "to", "complete", "its", "work", "without", "extra", "work", "added", "at", "the", "same", "time", ".", "Later", "on", ",", "the", "downloading", "threads", "would", "resume", "their", "work", ".", "These", "two", "last", "aspects", "would", "not", "contradict", "each", "other", ",", "since", "they", "were", "both", "doing", "the", "same", "action", ",", "pausing", "some", "of", "the", "downloading", "threads", ".", "However", ",", "the", "pause", "time", "and", "the", "number", "of", "the", "downloading", "threads", "to", "pause", "were", "not", "the", "same", "in", "the", "two", "cases", ".", "Each", "of", "the", "aspects", "was", "calculating", "the", "time", "and", "the", "number", "of", "threads", "to", "pause", "with", "a", "different", "algorithm", ".", "Finally", ",", "we", "also", "constructed", "the", "database", "optimizer", "aspect", "which", "acted", "as", "a", "database", "cache", "and", "released", "some", "of", "the", "database", "load", ".", "More", "specifically", ",", "for", "the", "parsing", "function", "we", "were", "making", "heavy", "usage", "of", "the", "crawling", "dictionary", "table", "from", "the", "database", ".", "That", "dictionary", "was", "matching", "every", "word", "we", "found", "up", "to", "the", "moment", "with", "its", "id", "number", ".", "The", "choice", "was", "to", "avoid", "needless", "and", "costly", "replication", "of", "data", "and", "enable", "saving", "the", "page", "text", "as", "numbers", "-LRB-", "smaller", "in", "storing", "size", "and", "faster", "in", "seeking", "-RRB-", ".", "By", "keeping", "a", "memory", "cache", "of", "that", "table", "as", "in", "Brin", "'s", "implementation", "-LRB-", "-LSB-", "1", "-RSB-", "-RRB-", ",", "we", "would", "manage", "to", "get", "important", "workload", "off", "the", "database", "server", "and", "speed", "things", "up", ".", "More", "to", "the", "point", ",", "prior", "addressing", "the", "database", "for", "a", "word", "'s", "serial", "number", ",", "we", "were", "querying", "an", "indexed", "structure", "in", "the", "local", "memory", ".", "If", "the", "query", "failed", ",", "we", "were", "then", "inserting", "the", "word", "in", "the", "database", "and", "in", "the", "RAM", "dictionary", "and", "continuing", "our", "work", ".", "This", "minimized", "the", "database", "interactions", "and", "boosted", "the", "complete", "process", ",", "since", "RAM", "access", "was", "enormously", "faster", "than", "access", "to", "the", "database", ".", "Processing", "English", "language", "pages", "with", "an", "average-size", "dictionary", "of", "1", "million", "words", "would", "result", "to", "around", "99,9", "%", "success", "from", "the", "RAM", "table", ",", "thus", ",", "it", "would", "prevent", "querying", "the", "database", "very", "efficiently", ".", "As", "already", "mentioned", ",", "these", "four", "aspects", "were", "implemented", "in", "two", "distinct", "ways", ":", "-LRB-", "a", "-RRB-", "injected", "in", "the", "program", "code", ",", "using", "standard", "OOP", "approach", ",", "and", "-LRB-", "b", "-RRB-", "modeled", "and", "implemented", "as", "aspects", ".", "The", "two", "versions", "were", "then", "compared", "and", "evaluated", "in", "the", "described", "metrics", ".", "The", "results", "from", "the", "evaluation", "were", "mostly", "in", "favor", "of", "the", "AOP", "methodology", ".", "While", "the", "developers", "were", "not", "long", "experienced", "in", "AOP", ",", "the", "new", "model", "boosted", "the", "implementation", "speed", "and", "helped", "in", "more", "modular", "software", ".", "Regarding", "effectiveness", "of", "the", "AOP", "approach", "compared", "to", "the", "traditional", "OOP", "approach", ",", "the", "two", "approaches", "were", "the", "same", ".", "We", "managed", "to", "add", "the", "extra", "functionality", "in", "both", "versions", "of", "the", "software", "-LRB-", "however", ",", "it", "was", "not", "always", "trivial", "to", "do", "so", "-RRB-", ".", "In", "short", ",", "for", "the", "presented", "aspects", "there", "was", "always", "an", "AOP-oriented", "and", "an", "OOP-oriented", "solution", "1556", "available", ",", "and", "there", "was", "not", "a", "noticeable", "performance", "difference", "between", "the", "two", ".", "Regarding", "the", "time", "demanded", "to", "learn", "the", "AOP", "methodology", ",", "this", "was", "not", "significant", ".", "Both", "the", "developers", "that", "were", "working", "on", "the", "project", "were", "very", "experienced", "with", "OOP", ",", "but", "did", "not", "have", "previous", "practical", "experience", "with", "AOP", ".", "Fortunately", "for", "the", "project", ",", "they", "were", "able", "to", "learn", "AOP", "sufficiently", "without", "tutoring", "using", "only", "publicly", "available", "online", "sources", "in", "a", "single", "week", ".", "There", "was", "also", "another", "short", "overhead", "of", "one", "day", "for", "installing", "and", "getting", "familiar", "to", "an", "AOP-aware", "IDE", "-LRB-", "we", "used", "Eclipse", "with", "the", "AOP", "modules", "-RRB-", ".", "The", "complete", "time", "that", "was", "required", "to", "finish", "the", "crawler", "was", "shorter", "in", "the", "AOP", "version", "-LRB-", "this", "time", "did", "not", "include", "the", "time", "spent", "for", "learning", "AOP", "however", "-RRB-", ".", "Both", "the", "versions", "used", "the", "same", "core", "already", "developed", "-LRB-", "the", "three", "components", "demonstrated", "earlier", "-RRB-", "but", "they", "were", "continued", "com-pletely", "independently", ",", "without", "reusing", "knowledge", "or", "code", "from", "one", "version", "to", "the", "other", "-LRB-", "the", "nature", "of", "the", "two", "versions", "prohibited", "reusing", "knowledge", "or", "code", "anyway", "-RRB-", ".", "The", "time", "demanded", "for", "completing", "the", "crawler", "with", "the", "aspects", "in", "the", "AOP", "version", "was", "7", "man-hours", ",", "while", "the", "OOP", "version", "demanded", "10", "man-hours", "in", "order", "to", "design", "and", "develop", "the", "code", ".", "Most", "of", "this", "time", ",", "in", "the", "case", "of", "the", "OOP", "version", ",", "was", "needed", "for", "locating", "the", "methods", "and", "putting", "the", "necessary", "code", "to", "them", ".", "For", "implementing", "the", "logging", "functionality", "for", "instance", ",", "in", "the", "OOP", "version", "there", "were", "73", "such", "methods", "counted", ",", "while", "AOP", "did", "not", "demand", "this", "task", "since", "the", "pointcuts", "were", "found", "automatically", "from", "the", "aspect", "definition", ".", "It", "was", "the", "developers", "'", "feeling", "that", "most", "of", "the", "man-hours", "spent", "in", "the", "OOP", "version", "of", "the", "crawler", "were", "wasted", ",", "because", "they", "were", "repeating", "trivial", "code", "in", "the", "application", ".", "Furthermore", ",", "as", "they", "said", ",", "the", "result", "in", "the", "OOP", "case", "was", "not", "satisfactory", "for", "them", "since", ",", "if", "they", "needed", "to", "change", "something", "in", "an", "aspect", ",", "they", "should", "relocate", "the", "aspect", "code", "from", "the", "beginning", "and", "this", "would", "be", "difficult", "to", "be", "done", ".", "We", "also", "measured", "the", "number", "of", "lines", "we", "needed", "to", "add", "in", "the", "two", "approaches", "to", "implement", "the", "extra", "functionality", ".", "For", "the", "logging", "aspect", "with", "the", "AOP", "approach", ",", "we", "needed", "less", "than", "20", "lines", "in", "one", "single", "file", ",", "while", "the", "same", "functionality", "for", "the", "traditional", "OOP", "version", "required", "126", "lines", "of", "code", "spread", "in", "eight", "different", "files", "-LRB-", "the", "number", "of", "lines", "for", "the", "AOP", "code", "also", "include", "the", "pointcuts", "definitions", "and", "the", "java", "include", "directives", "-RRB-", ".", "This", ",", "apart", "from", "a", "time-demanding", "approach", ",", "also", "reveals", "important", "code", "tangling", "since", "we", "had", "to", "modify", "eight", "classes", "for", "a", "simple", "logging", "requirement", ".", "The", "other", "two", "aspects", ",", "the", "DNS", "monitoring", "and", "the", "database", "monitoring", "aspect", ",", "needed", "roughly", "the", "same", "number", "of", "lines", "for", "the", "two", "versions", ".", "To", "implement", "both", "the", "DNS", "monitoring", "and", "the", "database", "monitoring", "functionality", ",", "we", "needed", "around", "30", "lines", "for", "the", "pure", "OOP", "solution", ":", "-LRB-", "a", "-RRB-", "four", "lines", "for", "timing", "the", "DNS", "or", "the", "database", "query", ",", "-LRB-", "b", "-RRB-", "ten", "lines", "for", "checking", "for", "overloading", ",", "and", "proceeding", "in", "alternate", "behavior", "if", "overloading", "occurs", ",", "and", "finally", "-LRB-", "c", "-RRB-", "one", "line", "for", "invoking", "the", "check", "wherever", "needed", ".", "In", "the", "AOP", "solution", ",", "we", "were", "able", "to", "join", "the", "two", "concerns", "in", "a", "single", "aspect", "-", "something", "that", "we", "were", "unable", "to", "do", "in", "the", "OOP", "version", "-", "and", "reuse", "some", "of", "the", "code", ".", "The", "AOP", "version", "of", "the", "solution", "demanded", "roughly", "the", "same", "number", "of", "lines", ",", "around", "forty", "for", "both", "the", "concerns", "-LRB-", "the", "additional", "code", "was", "because", "of", "aspect", "and", "advice", "headers", "and", "the", "pointcuts", "definition", "-RRB-", ".", "Finally", ",", "the", "database", "optimizer", "needed", "the", "same", "number", "of", "lines", "in", "the", "two", "versions", ",", "that", "is", "forty", "lines", ".", "These", "lines", "in", "the", "OOP", "version", "were", "split", "in", "three", "different", "places", "in", "the", "original", "database", "component", "file", ",", "while", "at", "the", "AOP", "approach", "the", "original", "file", "was", "kept", "intact", "and", "all", "the", "new", "code", "was", "in", "a", "single", "aspect-definition", "file", ".", "We", "also", "tried", "to", "capture", "the", "code", "tangling", "that", "occurs", "in", "the", "two", "versions", ",", "after", "the", "extra", "functionality", "is", "added", ".", "To", "do", "that", ",", "we", "found", "the", "distribution", "of", "the", "added", "code", "in", "the", "eight", "affected", "files", ".", "The", "OOP", "version", "of", "the", "logging", "aspect", ",", "as", "expected", ",", "was", "spread", "in", "all", "the", "eight", "files", "in", "seventy-three", "different", "places", ".", "The", "OOP", "version", "of", "the", "DNS", "monitoring", "aspect", "resulted", "in", "addition", "of", "code", "in", "one", "file", "only", ",", "the", "down-loader", "component", "file", ",", "in", "three", "different", "places", ".", "Similarly", ",", "the", "OOP", "version", "of", "the", "database", "monitoring", "aspect", "resulted", "in", "addition", "of", "code", "in", "the", "database", "component", "file", ",", "in", "three", "different", "places", ".", "Finally", ",", "the", "database", "optimizer", "aspect", "implementation", ",", "without", "AOP", ",", "also", "resulted", "in", "code", "addition", "in", "three", "different", "places", "-LRB-", "again", ",", "in", "the", "database", "component", "file", "-RRB-", ".", "On", "the", "other", "hand", ",", "implementation", "of", "the", "four", "aspects", "with", "the", "AOP", "approach", ",", "as", "expected", ",", "created", "no", "code", "tangling", ".", "The", "complete", "code", "for", "the", "extra", "functionalities", "was", "included", "in", "the", "three", "-LRB-", "instead", "of", "four", ",", "since", "the", "DNS", "and", "the", "database", "monitoring", "concerns", "were", "implemented", "as", "a", "single", "aspect", "-RRB-", "aspect", "files", ".", "For", "the", "case", "of", "the", "database", "optimizer", ",", "this", "offered", "us", "another", "important", "advantage", "since", "we", "often", "needed", "to", "disable", "the", "database", "optimizer", "due", "to", "hardware", "-LRB-", "memory", "-RRB-", "limitations", "in", "weaker", "machines", ".", "While", "we", "did", "not", "take", "any", "provision", "for", "that", ",", "the", "AOP", "version", ",", "unlike", "the", "OOP", "version", ",", "enabled", "removal", "of", "the", "optimizer", "without", "changing", "any", "code", ".", "In", "the", "OOP", "version", ",", "the", "developer", "had", "to", "remove", "or", "modify", "some", "of", "the", "original", "code", ".", "Table", "1", "summarizes", "the", "results", "for", "the", "code", "size", "and", "code", "tangling", "for", "the", "four", "aspects", ":", "Finally", ",", "the", "implementation", "of", "AOP", "we", "used", ",", "combined", "with", "the", "IDE", "tool", ",", "were", "stable", "and", "did", "not", "cause", "us", "any", "unexpected", "problems", "-LRB-", "such", "as", "bugs", "in", "the", "compiler", "-RRB-", ".", "While", "the", "crawling", "system", "was", "not", "extremely", "big", ",", "it", "did", "make", "extensive", "use", "of", "the", "machines", "'", "resources", ",", "and", "AspectJ", "compiled", "files", "did", "not", "face", "any", "trouble", "with", "that", ".", "AspectJ", "compiled", "files", "proved", "to", "work", "fine", "under", "pressure", "with", "the", "standard", "virtual", "machine", ",", "and", "aspects", "introduction", "was", "not", "causing", "a", "noticeable", "overhead", "to", "the", "machines", ".", "Several", "publications", "try", "to", "evaluate", "AOP", ".", "Almost", "all", "of", "them", "report", "results", "similar", "to", "ours", ".", "However", ",", "while", "of", "excellent", "quality", ",", "most", "of", "the", "previous", "work", "we", "are", "aware", "of", "follow", "a", "theoretical", "approach", "or", "limit", "their", "hands-on", "evaluation", "for", "academic", "or", "experimental", "software", ".", "We", "will", "now", "briefly", "comment", "on", "some", "of", "them", ".", "Walker", "in", "-LSB-", "8", "-RSB-", "constructs", "several", "experiments", "and", "a", "case-study", "to", "evaluate", "AOP", ".", "The", "outcome", "of", "the", "evaluation", "is", "that", "AOP", "can", "help", "faster", "software", "development", "-LRB-", "programming", ",", "debugging", ",", "etc.", "-RRB-", "under", "certain", "conditions", ",", "while", "other", "cases", "make", "development", "of", "AOP", "less", "attractive", ".", "While", "of", "superb", "quality", "and", "significant", "importance", ",", "this", "work", "is", "limited", "to", "the", "evaluation", "of", "AOP", "based", "on", "a", "preliminary", "version", "of", "AspectJ", ",", "version", "0.1", ".", "Since", "then", ",", "AOP", "and", "especially", "AspectJ", ",", "changed", "significantly", "confronting", "most", "of", "the", "limitations", "detected", "in", "the", "evaluation", ",", "and", "also", "powering", "the", "users", "with", "more", "functionalities", ".", "Furthermore", ",", "CASE", "tools", "and", "powerful", "IDE", "environments", "were", "developed", "to", "assist", "the", "1557", "Aspect", "#", "Lines", "of", "code", "#", "Places", "to", "add", "#", "Files", "to", "add", "OOP", "AOP", "OOP", "AOP", "OOP", "AOP", "Logging", "126", "19", "73", "1", "8", "1", "DNS", "Monitoring", "15", "40", "3", "1", "1", "1", "Database", "Monitoring", "15", "3", "1", "Database", "optimizer", "45", "45", "3", "1", "1", "1", "Table", "1", ":", "Size", "of", "added", "code", "and", "code", "tangling", "for", "implementation", "of", "the", "aspects", ".", "The", "two", "aspects", ",", "DNS", "and", "Database", "monitoring", "were", "easily", "joined", "to", "a", "single", "aspect", "in", "the", "AOP", "version", "developers", "in", "the", "process", ".", "Mendhekar", "in", "-LSB-", "4", "-RSB-", "also", "presents", "a", "case", "study", ",", "evaluating", "AOP", "in", "an", "image", "processing", "application", ".", "Although", "AOP", "was", "then", "still", "in", "infancy", ",", "this", "case", "study", "presents", "results", "very", "similar", "to", "ours", ".", "However", ",", "Mendhekar", ",", "being", "in", "Xerox", "labs", "where", "AOP", "was", "born", ",", "follows", "a", "more", "research-oriented", "approach", "during", "the", "evaluation", ".", "The", "evaluation", "uses", "an", "AOP", "implementation", "that", "can", "not", "easily", "be", "used", "from", "people", "outside", "the", "Xerox", "environment", ".", "Also", ",", "being", "interested", "in", "performance", ",", "this", "work", "does", "not", "elaborate", "on", "various", "other", "important", "measures", ",", "such", "as", "the", "learning", "curve", "and", "the", "time", "that", "took", "the", "developer", "to", "complete", ".", "Several", "other", "important", "publications", "-LRB-", "-LSB-", "2", ",", "3", ",", "7", ",", "6", "-RSB-", "-RRB-", "evaluate", "AOP", "from", "mostly", "a", "theoretical", "approach", ".", "Most", "of", "them", "also", "report", "results", "that", "favor", "AOP", "programming", ".", "Some", "of", "their", "results", "are", "reported", "in", "section", "3", "of", "this", "report", ".", "During", "the", "construction", "of", "the", "component-based", "high-performance", "web", "crawler", ",", "we", "had", "the", "opportunity", "to", "evaluate", "the", "relatively", "new", "aspect", "oriented", "paradigm", "for", "building", "component-based", "systems", ".", "Having", "defined", "our", "extra", "functionality", ",", "we", "implemented", "and", "compared", "the", "two", "versions", "of", "the", "web", "crawler", ",", "the", "AOP", "and", "the", "OOP", "one", ".", "For", "the", "required", "extra", "functionality", ",", "both", "the", "paradigms", "proved", "able", "to", "implement", "a", "correct", "solution", ".", "The", "quantity", "of", "code", "-LRB-", "number", "of", "lines", "-RRB-", "that", "the", "developer", "needed", "to", "implement", "in", "the", "two", "versions", "was", "not", "of", "much", "difference", ",", "with", "the", "only", "exception", "of", "the", "logging", "aspect", "where", "the", "OOP", "implementation", "was", "much", "larger", "than", "the", "AOP", "one", ".", "Furthermore", ",", "in", "both", "the", "versions", "of", "the", "application", "there", "was", "no", "apparent", "performance", "difference", ".", "Both", "the", "versions", "were", "stable", ",", "even", "when", "working", "under", "high", "load", "and", "in", "varying", "system", "environments", ".", "The", "significant", "difference", "however", "between", "the", "two", "implementations", "was", "in", "the", "time", "required", "to", "develop", "and", "debug", "each", "of", "them", ",", "and", "the", "quality", "of", "the", "produced", "code", ".", "The", "AOP", "approach", "not", "only", "completed", "the", "system", "faster", ",", "but", "it", "also", "produced", "modular", "high", "quality", "code", ",", "while", "the", "traditional", "approach", "was", "creating", "the", "well-known", "spaghetti", "code", ".", "More", "specifically", ",", "the", "AOP", "version", "was", "having", "all", "the", "extra", "functionality", "apart", "of", "the", "code", "implementing", "the", "standard", "functional", "requirements", ".", "This", "not", "only", "kept", "the", "original", "components", "reusable", "in", "different", "implementations", ",", "but", "also", "prevented", "tangling", "the", "code", ",", "thus", ",", "making", "future", "maintenance", "easier", ".", "Furthermore", ",", "this", "enabled", "us", "to", "easily", "enable", "and", "disable", "the", "extra", "functionality", ",", "depending", "on", "the", "hardware", "resources", "available", "and", "on", "our", "requirements", ".", "Concluding", ",", "we", "have", "to", "report", "that", "the", "AOP", "model", "in", "general", "appears", "to", "favor", "the", "development", "of", "quality", "component-based", "software", ".", "The", "AOP", "model", "itself", "is", "able", "to", "boost", "the", "implementation", "speed", "without", "negatively", "affecting", "quality", "of", "the", "software", ".", "Moreover", ",", "the", "learning", "time", "of", "the", "model", ",", "judging", "from", "our", "experience", ",", "is", "not", "long", ".", "While", "not", "having", "much", "experience", "of", "AOP", "implementation", "languages", ",", "we", "were", "able", "to", "produce", "AOP-based", "code", "in", "no", "time", ".", "Finally", ",", "while", "AOP", "can", "not", "offer", "any", "solution", "to", "problems", "unsolv-able", "from", "traditional", "approaches", ",", "and", "while", "AOP", "does", "not", "always", "target", "to", "less", "code", ",", "it", "can", "offer", "better", "and", "easier", "solutions", "to", "programs", "that", "are", "otherwise", "difficult", "to", "be", "implemented", ".", "Therefore", ",", "we", "can", "safely", "arrive", "to", "the", "conclusion", "that", "AOP", "has", "much", "to", "offer", "in", "component-based", "software", "development", ".", "We", "strongly", "believe", "that", "integration", "of", "AOP", "with", "component-based", "software", "is", "going", "to", "be", "the", "target", "of", "important", "research", "attempts", "in", "the", "near", "future", "and", "can", "produce", "some", "very", "interesting", "results", ",", "and", "we", "await", "for", "the", "introduction", "of", "AOP", "software", "in", "commercial", "component-based", "software", "products", ".", "-LSB-", "1", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "Web", "search", "engine", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "30", "-LRB-", "1", "7", "-RRB-", ":", "107", "117", ",", "1998", ".", "-LSB-", "2", "-RSB-", "G.", "Kiczales", ",", "J.", "Lamping", ",", "A.", "Menhdhekar", ",", "C.", "Maeda", ",", "C.", "Lopes", ",", "J.-M", ".", "Loingtier", ",", "and", "J.", "Irwin", ".", "Aspect-oriented", "programming", ".", "In", "Proceedings", "of", "the", "European", "Conference", "on", "Object-Oriented", "Programming", "-LRB-", "ECOOP", "-RRB-", ",", "LNCS", "1241", ",", "pages", "220", "242", ",", "Springer-Verlag", ",", "1997", ".", "-LSB-", "3", "-RSB-", "C.", "Lopes", ".", "D", ":", "A", "Language", "Framework", "for", "Distributed", "Programming", ".", "PhD", "thesis", ",", "College", "of", "Computer", "Science", ",", "Northeastern", "University", ",", "November", "1997", ".", "-LSB-", "4", "-RSB-", "A.", "Mendhekar", ",", "G.", "Kiczales", ",", "and", "J.", "Lamping", ".", "RG", ":", "A", "case-study", "for", "aspect-oriented", "programming", ".", "Technical", "Report", "SPL97-009", "P9710044", ",", "Xerox", "Palo", "Alto", "Research", "Center", ",", "Palo", "Alto", ",", "CA", ",", "USA", ",", "February", "1997", ".", "-LSB-", "5", "-RSB-", "G.", "C.", "Murphy", ",", "R.", "J.", "Walker", ",", "and", "E.", "L.", "Baniassad", ".", "Evaluating", "emerging", "software", "development", "technologies", ":", "Lessons", "learned", "from", "assessing", "aspect-oriented", "programming", ".", "Technical", "Report", "TR-98-10", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "British", "Columbia", ",", "1998", ".", "-LSB-", "6", "-RSB-", "A.", "Navasa", ",", "M.", "A.", "Perez", ",", "J.", "Murillo", ",", "and", "J.", "Hernandez", ".", "Aspect", "oriented", "software", "architecture", ":", "a", "structural", "perspective", ".", "In", "Proceedings", "of", "the", "Aspect-Oriented", "Software", "Development", ",", "2002", ",", "The", "Netherlands", ".", "-LSB-", "7", "-RSB-", "D.", "Shukla", ",", "S.", "Fell", ",", "and", "C.", "Sells", ".", "Aspect-oriented", "programming", "enables", "better", "code", "encapsulation", "and", "reuse", ".", "MSDN", "Magazine", ",", "http://msdn.microsoft.com/msdnmag/", ",", "March", "2002", ".", "-LSB-", "8", "-RSB-", "R.", "J.", "Walker", ",", "E.", "L.", "A.", "Baniassad", ",", "and", "G.", "C.", "Murphy", ".", "An", "initial", "assessment", "of", "aspect-oriented", "programming", ".", "Technical", "Report", "TR-98-12", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "British", "Columbia", ",", "Sept.", "1998", ".", "1558"], "doc_bio_tags": ["B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "B", "B", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["oop", "evaluation", "aop", "aspect oriented programming", "programming paradigms", "case study"], "abstractive_keyphrases": ["software development process experiment", "aspect oriented programming application", "web crawler implementation", "object oriented programming", "programming paradigm comparison", "development process experiment metrics", "component-based application"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "32", "document": ["An", "expressive", "aspect", "language", "for", "system", "applications", "with", "Arachne", "C", "applications", ",", "in", "particular", "those", "using", "operating", "system", "level", "services", ",", "frequently", "comprise", "multiple", "crosscutting", "concerns", ":", "network", "protocols", "and", "security", "are", "typical", "examples", "of", "such", "concerns", ".", "While", "these", "concerns", "can", "partially", "be", "addressed", "during", "design", "and", "implementation", "of", "an", "application", ",", "they", "frequently", "become", "an", "issue", "at", "runtime", ",", "e.g.", ",", "to", "avoid", "server", "downtime", ".", "A", "deployed", "network", "protocol", "might", "not", "be", "efficient", "enough", "and", "may", "thus", "need", "to", "be", "replaced", ".", "Buffer", "overflows", "might", "be", "discovered", "that", "imply", "critical", "breaches", "in", "the", "security", "model", "of", "an", "application", ".", "A", "prefetching", "strategy", "may", "be", "required", "to", "enhance", "performance", ".", "While", "aspect-oriented", "programming", "seems", "attractive", "in", "this", "context", ",", "none", "of", "the", "current", "aspect", "systems", "is", "expressive", "and", "efficient", "enough", "to", "address", "such", "concerns", ".", "This", "paper", "presents", "a", "new", "aspect", "system", "to", "provide", "a", "solution", "to", "this", "problem", ".", "While", "efficiency", "considerations", "have", "played", "an", "important", "part", "in", "the", "design", "of", "the", "aspect", "language", ",", "the", "language", "allows", "aspects", "to", "be", "expressed", "more", "concisely", "than", "previous", "approaches", ".", "In", "particular", ",", "it", "allows", "aspect", "programmers", "to", "quantify", "over", "sequences", "of", "execution", "points", "as", "well", "as", "over", "accesses", "through", "variable", "aliases", ".", "We", "show", "how", "the", "former", "can", "be", "used", "to", "modularize", "the", "replacement", "of", "network", "protocols", "and", "the", "latter", "to", "prevent", "buffer", "overflows", ".", "We", "also", "present", "an", "implementation", "of", "the", "language", "as", "an", "extension", "of", "Arachne", ",", "a", "dynamic", "weaver", "for", "C", "applications", ".", "Finally", ",", "we", "present", "performance", "evaluations", "supporting", "that", "Arachne", "is", "fast", "enough", "to", "extend", "high", "performance", "applications", ",", "such", "as", "the", "Squid", "web", "cache", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "AOSD", "05", "Chicago", "Illinois", "USA", "Copyright", "2005", "ACM", "1-59593-042-6", "/", "05/03", "...", "$", "5.00", ".", "Real-world", "applications", "typically", "comprise", "multiple", "crosscutting", "concerns", ".", "This", "applies", ",", "in", "particular", ",", "to", "C", "applications", "using", "operating", "system", "level", "services", ".", "We", "have", "exam-ined", "three", "concerns", "which", "are", "typical", "for", "this", "domain", "in", "the", "context", "of", "a", "large", "application", ",", "the", "open", "source", "web", "cache", "Squid", "-LSB-", "36", "-RSB-", ".", "More", "concretely", ",", "we", "have", "considered", "translation", "of", "network", "protocols", "-LRB-", "which", "may", "be", "necessary", "for", "efficiency", "reasons", "-RRB-", ",", "insertion", "of", "checks", "for", "buffer", "overflows", "-LRB-", "which", "are", "at", "the", "heart", "of", "many", "of", "today", "'s", "security", "issues", "-RRB-", ",", "and", "introduction", "of", "prefetching", "strategies", "within", "the", "cache", "-LRB-", "which", "can", "be", "used", "to", "enhance", "efficiency", "of", "the", "web", "cache", "-RRB-", ".", "We", "have", "found", "that", "all", "these", "concerns", "are", "scattered", "over", "large", "portions", "of", "the", "code", "of", "Squid", ".", "Hence", ",", "the", "three", "concerns", "are", "crosscutting", "in", "the", "sense", "of", "Aspect-Oriented", "Programming", "-LRB-", "AOP", "-RRB-", "-LSB-", "24", "-RSB-", "and", "aspects", "should", "therefore", "be", "a", "means", "of", "choice", "for", "their", "modularization", ".", "The", "concerns", "have", "three", "important", "characteristics", ".", "First", ",", "they", "must", "frequently", "be", "applied", "at", "runtime", ",", "e.g.", ",", "in", "order", "to", "rapidly", "fix", "a", "buffer", "overflow", "and", "thus", "prevent", "security", "breaches", "without", "incurring", "server", "downtime", ".", "A", "dynamic", "aspect", "weaver", "is", "therefore", "needed", ".", "Second", ",", "they", "expose", "intricate", "relationships", "between", "execution", "points", ",", "e.g.", ",", "network", "protocols", "are", "most", "concisely", "expressed", "in", "terms", "of", "sequences", "of", "execution", "points", ",", "not", "individual", "ones", ".", "The", "aspect", "system", "must", "therefore", "support", "expressive", "means", "for", "the", "definition", "of", "aspects", ",", "in", "particular", "pointcuts", ".", "Third", ",", "efficiency", "is", "crucial", "in", "the", "application", "domain", "we", "consider", ".", "To", "our", "knowledge", ",", "none", "of", "the", "current", "aspect", "systems", "for", "C", "meet", "these", "three", "requirements", "and", "is", "suitable", "for", "the", "modularization", "of", "such", "concerns", ".", "Moreover", ",", "requirements", "for", "dynamic", "weaving", "and", "efficiency", "often", "trade", "off", "with", "expressivity", ".", "Squid", "should", "be", "as", "efficient", "as", "possible", "and", "therefore", "exploit", "any", "suitable", "operating", "system", "and", "hardware", "particularity", ".", "Its", "code", "base", "is", "therefore", "difficult", "to", "understand", "and", "manipulate", ",", "thus", "hindering", "in", "particular", "modularization", "efforts", ".", "It", "is", "therefore", "highly", "questionable", "that", "the", "considered", "modularization", "problems", "can", "be", "solved", "without", "aspects", ".", "In", "this", "paper", "we", "propose", "a", "solution", "to", "the", "aspectization", "of", "such", "concerns", "of", "C", "applications", ".", "More", "concretely", ",", "we", "provide", "three", "main", "contributions", ".", "First", ",", "we", "provide", "a", "new", "expressive", "aspect", "language", "featuring", "a", "construct", "for", "quantification", "over", "sequences", "of", "execution", "points", "as", "well", "as", "over", "accesses", "to", "local", "aliases", "of", "global", "variables", ".", "We", "show", "how", "this", "aspect", "lan-27", "guage", "permits", "concise", "expression", "of", "the", "considered", "concerns", "as", "aspects", ".", "Second", ",", "we", "present", "how", "the", "aspect", "language", "can", "be", "implemented", "efficiently", "through", "runtime", "weaving", "into", "binary", "code", ".", "Concretely", ",", "this", "is", "done", "by", "integrating", "the", "aspect", "language", "into", "our", "tool", "Arachne", ",", "a", "dynamic", "weaver", "for", "C", "applications", ".", "Furthermore", ",", "we", "present", "how", "Arachne", "improves", "on", "our", "previous", "work", "Dyner", "-LSB-", "32", "-RSB-", ".", "Finally", ",", "we", "give", "evidence", "that", "our", "approach", "meets", "strong", "efficiency", "requirements", "by", "showing", "performance", "evaluations", "in", "the", "context", "of", "Squid", ".", "The", "paper", "is", "structured", "as", "follows", ".", "Section", "2", "presents", "the", "motivating", "concerns", "we", "identified", "within", "Squid", ".", "Section", "3", "shows", "how", "to", "modularize", "these", "concerns", "as", "aspects", "and", "defines", "our", "aspect", "language", ".", "Section", "4", "describes", "its", "implementation", "within", "Arachne", ".", "Section", "5", "assesses", "the", "performance", "of", "our", "implementation", ".", "Section", "6", "describes", "related", "work", ".", "Section", "7", "concludes", "and", "suggests", "futures", "work", ".", "Legacy", "C", "applications", "involve", "multiple", "crosscutting", "concerns", ".", "Many", "of", "them", "remain", "challenging", ",", "both", "in", "terms", "of", "expressiveness", "required", "to", "handle", "them", "properly", "in", "an", "aspect-oriented", "language", "and", "in", "terms", "of", "constraints", "posed", "on", "the", "weaver", ".", "This", "section", "describes", "three", "such", "concerns", "in", "C", "applications", ":", "switching", "the", "network", "protocol", ",", "buffer", "overflows", "and", "prefetching", ".", "The", "network", "protocol", "concern", "is", "typically", "scattered", "through", "the", "entire", "application", ".", "It", "is", "an", "issue", "when", "administrators", "discover", "at", "runtime", "that", "the", "retained", "protocol", "is", "not", "efficient", "enough", ".", "Likewise", "the", "security", "threats", "posed", "by", "buffer", "overflows", "is", "a", "real", "concrete", "problem", "for", "administrators", ".", "While", "guarding", "all", "buffers", "against", "overflows", "might", "decrease", "performance", "considerably", ",", "administrators", "are", "left", "with", "no", "other", "option", "than", "accepting", "the", "trade-off", "between", "security", "and", "performance", "chosen", "at", "application", "'s", "design", "time", ".", "Prefetching", "is", "another", "well-known", "crosscutting", "concern", "-LSB-", "12", "-RSB-", ".", "Since", "prefetching", "aims", "at", "increasing", "performance", ",", "prefetching", "aspects", "make", "only", "sense", "with", "an", "efficient", "weaver", ".", "Yet", ",", "it", "is", "still", "difficult", "to", "modularize", "these", "three", "concerns", "in", "today", "'s", "aspect-oriented", "language", ".", "In", "this", "section", ",", "we", "first", "describe", "the", "context", "in", "which", "the", "concerns", "arise", "before", "showing", "their", "crosscutting", "nature", "and", "finally", "explaining", "the", "lack", "in", "current", "aspect-oriented", "languages", "to", "handle", "them", "properly", ".", "2.1", "TCP", "to", "UDP", "protocol", "HTTP", "was", "essentially", "designed", "as", "a", "file", "transfer", "protocol", "running", "on", "top", "of", "TCP", ",", "a", "connection-oriented", "protocol", "ensuring", "communication", "reliability", ".", "While", "the", "average", "Web", "page", "size", "does", "not", "exceed", "8", "KB", "-LSB-", "4", "-RSB-", ",", "the", "cost", "of", "retrieving", "a", "Web", "page", "is", "often", "dominated", "by", "data", "exchanged", "for", "control", "purposes", "of", "TCP", "rather", "than", "by", "the", "page", "content", "itself", ".", "This", "is", "not", "a", "new", "problem", ",", "many", "researches", "have", "already", "pointed", "out", "that", "TCP", "is", "not", "suitable", "for", "short-lived", "connections", ".", "While", "HTTP", "1.1", "has", "introduced", "persistent", "connections", "allowing", "a", "client", "to", "retrieve", "multiple", "pages", "from", "the", "same", "server", "through", "the", "same", "TCP", "connection", ",", "the", "number", "of", "simultaneous", "TCP", "connections", "is", "limited", "by", "operating", "systems", ".", "Servers", "have", "a", "strong", "incentive", "to", "close", "HTTP", "connections", "as", "soon", "as", "possible", ".", "Hence", ",", "despite", "the", "persistent", "connection", "mechanism", ",", "many", "studies", "conclude", "that", "TCP", "should", "be", "replaced", "by", "UDP", "to", "retrieve", "short", "pages", "-LSB-", "10", ",", "29", ",", "7", "-RSB-", ".", "In", "spite", "of", "its", "performance", "improvements", ",", "the", "number", "of", "legacy", "Web", "applications", "has", "prevented", "a", "wide", "adoption", "of", "this", "solution", ".", "Typical", "legacy", "Web", "applications", "have", "to", "be", "listen", "accept", "read", "write", "close", "write", "read", "close", "connect", "socket", "Server", "Client", "TCP", "Protocol", "socket", "bind", "close", "close", "socket", "Server", "Client", "UDP", "Protocol", "recvfrom", "sendto", "recvfrom", "socket", "bind", "Network", "Network", "sendto", "Time", "Figure", "1", ":", "Typical", "usage", "of", "the", "TCP", "and", "UDP", "APIs", ".", "stopped", "to", "switch", "the", "protocol", ".", "The", "traditional", "approach", "to", "avoid", "depriving", "a", "subnetwork", "from", "Internet", "connectivity", "while", "stopping", "the", "cache", "is", "to", "swap", "the", "application", "between", "different", "machines", ".", "This", "approach", "is", "not", "only", "expensive", "in", "terms", "of", "hardware", ",", "it", "complicates", "the", "administrative", "task", "of", "the", "Web", "cache", "administrator", "and", "poses", "the", "problem", "of", "con-sistently", "transferring", "the", "runtime", "state", "of", "the", "application", "before", "restarting", "it", ".", "Stopping", "an", "e-commerce", "Web", "server", "means", "a", "loss", "of", "money", "and", "many", "small", "companies", "can", "not", "afford", "the", "cost", "of", "redundant", "servers", ".", "For", "a", "wide", "acceptance", ",", "a", "HTTP", "dialect", "using", "UDP", "as", "transport", "protocol", "should", "thus", "be", "deployable", "on", "demand", "at", "runtime", ".", "In", "addition", ",", "replacing", "TCP", "by", "UDP", "in", "an", "application", "is", "relatively", "difficult", ".", "The", "choice", "of", "a", "transport", "protocol", "is", "usually", "based", "on", "standards", "believed", "to", "be", "ever-lasting", "and", "made", "at", "an", "early", "design", "stage", ".", "Hence", "no", "particular", "effort", "is", "made", "to", "localize", "this", "design", "decision", "in", "a", "single", "piece", "of", "code", ".", "For", "example", ",", "despite", "a", "modularization", "effort", ",", "the", "TCP", "API", "provided", "by", "the", "operating", "system", "is", "used", "directly", "in", "7", "of", "the", "104", "''", ".", "c", "''", "source", "files", "of", "the", "Squid", "Web", "cache", ".", "As", "shown", "in", "Fig.", "1", ",", "the", "TCP", "API", "is", "built", "around", "a", "set", "of", "C", "functions", "to", "be", "invoked", "sequentially", "by", "the", "application", ".", "In", "a", "properly", "written", "program", ",", "TCP", "functions", "are", "first", "used", "to", "establish", "the", "connection", "-LRB-", "typically", "with", "socket", ",", "connect", ",", "bind", "and", "listen", "-RRB-", ",", "exchange", "data", "through", "the", "connection", "-LRB-", "typically", "with", "read", "and", "write", "-RRB-", "and", "then", "close", "it", "-LRB-", "typically", "close", "-RRB-", ".", "UDP", "uses", "similar", "but", "less", "functions", ".", "UDP", "applications", "first", "direct", "the", "operating", "system", "to", "dedicate", "the", "appropriate", "resources", "to", "exchange", "data", "-LRB-", "typically", "with", "socket", "and", "bind", "-RRB-", ",", "then", "exchange", "data", "through", "these", "resources", "-LRB-", "typically", "with", "sendto", "and", "recvfrom", "-RRB-", "before", "releasing", "them", "-LRB-", "typically", "with", "close", "-RRB-", ".", "Hence", ",", "the", "problem", "is", "not", "only", "difficult", "because", "TCP-related", "function", "invocations", "are", "scattered", "but", "because", "the", "relative", "order", "of", "each", "invocation", "is", "important", "in", "order", "to", "map", "it", "onto", "the", "appropriate", "UDP", "function", ".", "This", "example", "is", "typical", "of", "protocol", "based", "APIs", ".", "When", "such", "an", "API", "is", "used", "in", "an", "undisciplined", "way", ",", "it", "becomes", "quickly", "impossible", "to", "replace", "it", "by", "another", "one", ".", "Today", ",", "aspect-oriented", "systems", "lack", "an", "appropriate", "sequencing", "construct", "in", "their", "language", ".", "Moreover", ",", "many", "do", "not", "provide", "the", "ability", "to", "weave", "aspects", "dynamically", ".", "2.2", "Buffer", "overflows", "In", "C", ",", "the", "size", "of", "an", "array", "is", "fixed", "at", "allocation", "time", ".", "According", "to", "ISO", "and", "ANSI", "standards", "-LSB-", "2", "-RSB-", ",", "an", "invalid", "array", "access", "does", "not", "result", "in", "an", "immediate", "error", "but", "leads", "to", "an", "implementation-dependent", "behavior", ".", "Such", "behavior", "is", "increasingly", "exploited", "by", "hackers", "to", "circumvent", "security", "re-28", "strictions", "-LSB-", "37", "-RSB-", ".", "It", "is", "therefore", "crucial", "for", "C", "programmers", "to", "ensure", "every", "access", "to", "an", "array", "to", "be", "valid", ".", "On", "the", "other", "hand", ",", "bound", "checking", "code", "is", "error", "prone", ":", "it", "is", "easy", "to", "forget", "to", "check", "an", "access", "and", "even", "when", "the", "access", "is", "checked", ",", "it", "is", "easy", "to", "compare", "the", "index", "locating", "the", "access", "with", "an", "inappropriate", "bound", ".", "Therefore", ",", "researchers", "have", "proposed", "to", "make", "compilers", "responsible", "for", "enforcing", "proper", "array", "access", "-LSB-", "22", ",", "31", "-RSB-", ".", "The", "problem", "is", "that", "even", "the", "most", "efficient", "system", "-LRB-", "CRED", "-LSB-", "31", "-RSB-", "-RRB-", "slows", "down", "an", "application", "up", "to", "130", "%", ".", "Moreover", ",", "most", "frequently", "used", "compilers", "like", "gcc", "do", "not", "support", "bound", "checking", ".", "Today", ",", "administrators", "discovering", "a", "buffer", "overflow", "in", "production", "software", "are", "left", "with", "no", "other", "option", "than", "stopping", "the", "application", "and", "restarting", "a", "bug", "free", "version", ".", "This", "was", "the", "solution", "chosen", "when", "a", "buffer", "overflow", "was", "discovered", "in", "Squid", "in", "-LSB-", "6", "-RSB-", ".", "While", "widely", "used", ",", "this", "solution", "suffers", "from", "three", "major", "drawbacks", ".", "First", ",", "it", "does", "not", "enforce", "continuous", "servicing", "since", "the", "service", "delivered", "by", "the", "application", "is", "not", "available", "during", "the", "update", ".", "Second", ",", "this", "solution", "entails", "an", "important", "information", "loss", ":", "an", "administrator", "has", "no", "means", "to", "learn", "whether", "the", "buffer", "overflow", "has", "been", "exploited", "by", "a", "hacker", "or", "not", ".", "Third", ",", "it", "misunderstands", "the", "performance", "trade-off", ",", "i.e.", "it", "is", "not", "necessary", "to", "check", "every", "array", "access", ",", "it", "is", "only", "necessary", "to", "perform", "enough", "checking", "to", "discourage", "hackers", ".", "Therefore", ",", "bound", "checking", "code", "should", "only", "run", "when", "an", "environment", "becomes", "hostile", "-LSB-", "23", "-RSB-", ".", "Bound", "checking", "code", "tends", "to", "crosscut", "the", "entire", "application", ".", "For", "example", ",", "properly", "written", "C", "functions", "accepting", "an", "array", "argument", "commonly", "take", "a", "second", "argument", "holding", "the", "array", "size", ":", "the", "first", "one", "allows", "the", "function", "to", "access", "the", "array", "while", "the", "second", "is", "used", "to", "ensure", "correctness", "of", "accesses", ".", "In", "Squid", ",", "bound", "checking", "code", "can", "be", "found", "in", "any", "of", "the", "104", "''", ".", "c", "''", "files", "of", "its", "source", "code", ".", "On", "the", "57635", "lines", "composing", "these", "''", ".", "c", "''", "files", ",", "at", "least", "485", "check", "bounds", ".", "This", "problem", "fails", "to", "be", "handled", "properly", "in", "current", "aspect", "languages", "as", "they", "lack", "the", "ability", "to", "trigger", "advices", "upon", "access", "made", "through", "the", "alias", "of", "a", "variable", ".", "Again", ",", "many", "aspect-oriented", "systems", "offer", "only", "static", "weaving", "capabilities", "preventing", "the", "administrator", "to", "choose", "the", "trade-off", "security/performance", "suiting", "his", "needs", ".", "2.3", "From", "fetching", "to", "prefetching", "Operations", "like", "retrieving", "a", "file", "on", "a", "local", "disk", "or", "over", "the", "Web", "can", "be", "sped", "up", "if", "the", "underlying", "software", "anticipates", "user", "requests", "and", "start", "to", "fetch", "documents", "beforehand", ".", "Such", "prefetching", "schemes", "distinguish", "themselves", "from", "each", "other", "in", "the", "way", "they", "predict", "future", "user", "requests", ".", "These", "``", "ora-cles", "''", "actually", "prevent", "a", "clean", "encapsulation", "of", "prefetching", "in", "a", "single", "module", "communicating", "with", "the", "rest", "of", "the", "application", "through", "well-defined", "interfaces", "since", "predictions", "are", "based", "on", "information", "meant", "to", "be", "private", "to", "other", "modules", ".", "In", "addition", ",", "it", "is", "very", "likely", "that", "there", "is", "no", "universal", "perfect", "oracle", "-LSB-", "19", "-RSB-", ".", "A", "statically", "linked", "prefetching", "module", "is", "therefore", "inappropriate", ",", "but", "prefetching", "modules", "along", "with", "the", "necessary", "oracles", "should", "be", "loaded", "and", "unloaded", "on", "the", "fly", ".", "Due", "to", "their", "crosscutting", "nature", ",", "prefetching", "modules", "including", "such", "oracles", "are", "better", "written", "with", "aspects", "-LSB-", "32", "-RSB-", ".", "Coady", "et", "al.", "have", "already", "pointed", "out", "the", "crosscutting", "nature", "of", "prefetching", "in", "the", "FreeBSD", "OS", "-LSB-", "12", "-RSB-", ".", "In", "our", "previous", "work", "considering", "the", "Squid", "Web", "cache", ",", "we", "reached", "a", "similar", "conclusion", "-LSB-", "32", "-RSB-", ".", "We", "have", "previously", "shown", "that", "this", "concern", "can", "be", "addressed", "with", "cflow-like", "constructs", ".", "Despite", "potential", "performance", "improvements", ",", "prefetching", "also", "increases", "resource", "consumption", "-LRB-", "e.g.", "network", "prefetching", "consumes", "local", "storage", "and", "bandwidth", "-RRB-", ".", "When", "the", "pressure", "on", "resources", "is", "too", "high", ",", "prefetching", "computation", "competes", "for", "them", "against", "regular", "user", "requests", ",", "and", "slows", "down", "their", "treatment", "instead", "of", "speeding", "it", "up", ".", "In", "such", "cases", ",", "prefetching", "should", "therefore", "be", ",", "temporarily", ",", "disabled", ".", "Squid", "essentially", "manages", "file", "descriptors", ",", "a", "resource", "only", "available", "in", "a", "limited", "quantity", ".", "A", "file", "descriptor", "is", "used", "between", "the", "underlying", "operating", "system", "and", "applications", "to", "describe", "a", "network", "connection", "or", "a", "file", "on", "the", "disk", ".", "Squid", "'s", "file", "descriptor", "management", "is", "based", "on", "a", "global", "variable", "that", "tracks", "the", "number", "of", "file", "descriptors", "currently", "in", "use", ".", "By", "comparing", "its", "value", "with", "the", "maximum", "number", "of", "file", "descriptors", "allowed", "by", "the", "operating", "system", ",", "it", "is", "possible", "to", "estimate", "that", "prefetching", "should", "be", "disabled", "or", "resumed", ".", "For", "this", "problem", "of", "file", "descriptor", "consumption", ",", "the", "current", "practice", "of", "checking", "if", "prefetching", "should", "be", "disabled", "or", "not", "within", "the", "advice", ",", "is", "a", "bad", "practice", "that", "impedes", "both", "readability", "and", "maintainability", ".", "A", "mechanism", "is", "needed", "within", "the", "aspect", "language", "to", "restraint", "the", "advice", "execution", "at", "times", "where", "the", "pressure", "on", "resources", "is", "too", "high", ".", "This", "problem", "were", "not", "addressed", "in", "our", "previous", "work", ".", "While", "AOP", "seems", "to", "be", "the", "obvious", "choice", "to", "tackle", "the", "crosscutting", "concerns", "introduced", "above", ",", "none", "of", "the", "existing", "AO", "systems", "provides", "explicit", "support", "for", "some", "of", "their", "essential", "elements", ",", "in", "particular", ",", "join", "point", "sequences", "for", "protocols", ",", "and", "references", "to", "aliases", "which", "are", "local", "to", "a", "function", ".", "In", "this", "section", "we", "introduce", "a", "new", "aspect", "language", "for", "system", "programming", "in", "C", "that", "allows", "such", "crosscutting", "concerns", "to", "be", "expressed", "concisely", ".", "In", "order", "to", "make", "this", "point", ",", "we", "first", "revisit", "the", "examples", "by", "concisely", "aspectizing", "them", "using", "our", "language", ".", "-LRB-", "Note", "that", "our", "aspect", "language", "is", "expressive", "in", "the", "sense", "of", "enabling", "the", "concise", "definition", "of", "certain", "types", "of", "aspects", ",", "especially", "compared", "to", "other", "tools", "for", "system-level", "manipulations", ",", "but", "not", "necessarily", "more", "expressive", "than", "existing", "approaches", "in", "a", "language-theoretic", "sense", ".", "-RRB-", "We", "then", "define", "the", "join", "point", "model", "underlying", "our", "language", "precisely", ",", "followed", "by", "the", "definition", "of", "its", "syntax", "and", "informal", "semantics", ".", "Finally", ",", "we", "illustrate", "how", "its", "semantics", "can", "be", "formally", "defined", "in", "terms", "of", "a", "small-step", "operational", "semantics", "using", "the", "framework", "introduced", "in", "-LSB-", "14", "-RSB-", ".", "3.1", "Example", "crosscutting", "concerns", "revisited", "We", "now", "revisit", "the", "concerns", "discussed", "in", "section", "2", "in", "order", "to", "show", "our", "language", "in", "action", "and", "give", "evidence", "that", "it", "allows", "such", "concerns", "to", "be", "concisely", "modularized", ".", "The", "aspect", "shown", "in", "Fig.", "2", "translates", "transport", "protocols", "from", "TCP", "to", "UDP", ".", "A", "protocol", "defines", "a", "sequence", "of", "function", "calls", ",", "so", "the", "top-level", "operator", "of", "this", "aspect", "is", "seq.", ".", "The", "sequence", "aspect", "syntactically", "consists", "of", "a", "list", "of", "pairs", "of", "pointcut", "and", "advice", "-LRB-", "separated", "by", "then", "-RRB-", ".", "In", "the", "example", ",", "the", "TCP", "protocol", "starts", "with", "a", "call", "to", "socket", "-LRB-", "-RRB-", "with", "three", "constant", "arguments", ":", "AF", "INET", ",", "SOCK", "STREAM", "and", "0", ".", "When", "such", "a", "call", "is", "matched", ",", "the", "second", "parameter", "is", "replaced", "by", "SOCK", "DGRAM", "as", "required", "by", "the", "UDP", "protocol", ".", "The", "result", "of", "this", "transformed", "call", ",", "the", "file", "descriptor", ",", "is", "bound", "to", "fd", "by", "return", "-LRB-", "fd", "-RRB-", ".", "Then", "the", "next", "call", "to", "connect", "-LRB-", "-RRB-", "with", "the", "same", "file", "descriptor", "fd", "as", "its", "first", "parameter", "is", "matched", ".", "In", "this", "case", "the", "values", "of", "the", "other", "parameters", "29", "seq", "-LRB-", "call", "-LRB-", "int", "socket", "-LRB-", "int", ",", "int", ",", "int", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "AF", "INET", ",", "SOCK", "STREAM", ",", "0", "-RRB-", "&", "&", "return", "-LRB-", "fd", "-RRB-", "then", "socket", "-LRB-", "AF", "INET", ",", "SOCK", "DGRAM", ",", "0", "-RRB-", ";", "call", "-LRB-", "int", "connect", "-LRB-", "int", ",", "struct", "socketaddr", ",", "socklen", "t", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "fd", ",", "address", ",", "length", "-RRB-", "then", "returnZero", "-LRB-", "-RRB-", ";", "/", "/", "where", "int", "returnZero", "-LRB-", "-RRB-", "-LCB-", "return", "0", ";", "-RCB-", "-LRB-", "call", "-LRB-", "size", "t", "read", "-LRB-", "int", ",", "void", ",", "size", "t", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "fd", ",", "readBuffer", ",", "readLength", "-RRB-", "then", "recvfrom", "-LRB-", "fd", ",", "readBuffer", ",", "readLength", ",", "0", ",", "address", ",", "length", "-RRB-", ";", "|", "|", "call", "-LRB-", "size", "t", "write", "-LRB-", "int", ",", "void", ",", "size", "t", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "fd", ",", "writeBuffer", ",", "writeLength", "-RRB-", "then", "sendto", "-LRB-", "fd", ",", "writeBuffer", ",", "writeLength", ",", "0", ",", "address", ",", "length", "-RRB-", ";", "-RRB-", "call", "-LRB-", "int", "close", "-LRB-", "int", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "fd", "-RRB-", ";", "-RRB-", "Figure", "2", ":", "An", "Aspect", "for", "Switching", "Transport", "Protocols", ",", "from", "TCP", "to", "UDP", "seq", "-LRB-", "call", "-LRB-", "void", "malloc", "-LRB-", "size", "t", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "allocatedSize", "-RRB-", "&", "&", "return", "-LRB-", "buffer", "-RRB-", ";", "write", "-LRB-", "buf", "f", "er", "-RRB-", "&", "&", "size", "-LRB-", "writtenSize", "-RRB-", "&", "&", "if", "-LRB-", "writtenSize", ">", "allocatedSize", "-RRB-", "then", "reportOverflow", "-LRB-", "-RRB-", ";", "call", "-LRB-", "void", "free", "-LRB-", "void", "-RRB-", "-RRB-", "-RRB-", "Figure", "3", ":", "An", "Aspect", "for", "Detecting", "Buffer", "Overflow", "are", "bound", "to", "arguments", "address", "and", "length", ",", "and", "the", "original", "call", "is", "replaced", "by", "returnZero", "-LRB-", "-RRB-", ".", "Indeed", ",", "there", "is", "no", "connect", "step", "in", "the", "UDP", "protocol", ".", "After", "that", ",", "calls", "to", "read", "-LRB-", "-RRB-", "and", "write", "-LRB-", "-RRB-", "-LRB-", "using", "the", "`", "or", "'", "on", "aspects", ":", "|", "|", "-RRB-", "on", "the", "same", "file", "descriptor", "fd", "are", "translated", "to", "UDP", "recvfrom", "-LRB-", "-RRB-", "and", "sendto", "-LRB-", "-RRB-", ",", "respectively", ".", "Note", "that", "sequences", "of", "such", "access", "are", "potentially", "translated", "-LRB-", "due", "to", "use", "of", "the", "repetition", "operator", "-RRB-", ".", "Finally", ",", "a", "call", "to", "close", "-LRB-", "-RRB-", "on", "fd", "terminates", "the", "TCP", "protocol", "as", "well", "as", "the", "UDP", "protocol", "and", "thus", "is", "not", "modified", "-LRB-", "i.e.", ",", "there", "is", "no", "then", "clause", "-RRB-", ".", "This", "last", "step", "is", "required", "to", "free", "the", "variables", "used", "in", "the", "sequence", "-LRB-", "here", ",", "fd", ",", "address", "and", "length", "-RRB-", ".", "Indeed", ",", "this", "aspect", "can", "use", "numerous", "-LRB-", "instances", "of", "these", "-RRB-", "variables", "when", "it", "deals", "with", "interleaved", "sequences", ",", "as", "each", "call", "to", "socket", "-LRB-", "-RRB-", "creates", "a", "new", "instance", "of", "the", "sequence", ".", "The", "aspect", "shown", "in", "Fig.", "3", "detects", "buffer", "overflows", ".", "The", "corresponding", "sequence", "starts", "when", "the", "function", "malloc", "-LRB-", "-RRB-", "returns", "the", "buffer", "address", "which", "is", "then", "bound", "to", "buffer", ".", "Then", ",", "each", "time", "this", "address", "is", "accessed", "-LRB-", "through", "a", "global", "variable", "or", "a", "local", "alias", "-RRB-", "the", "size", "of", "the", "data", "to", "be", "written", "is", "compared", "with", "the", "size", "of", "the", "initially", "allocated", "memory", ".", "If", "the", "former", "exceeds", "the", "latter", ",", "an", "overflow", "is", "indicated", ".", "The", "sequence", "ends", "when", "the", "memory", "is", "deallocated", "using", "free", "-LRB-", "-RRB-", ".", "The", "aspect", "in", "Fig.", "4", "introduces", "prefetching", "in", "a", "web", "cache", ".", "The", "first", "controlflow", "phrase", "initializes", "prefetching", "when", "an", "HTTP", "response", "is", "built", "-LRB-", "clientBuildReply", "-LRB-", "-RRB-", "-RRB-", "within", "the", "control", "flow", "of", "a", "client", "request", "-LRB-", "clientSendMoreData", "-LRB-", "-RRB-", "-RRB-", ".", "The", "until", "clause", "stops", "prefetching", "when", "the", "number", "of", "connection", "becomes", "too", "large", ",", "a", "situation", "where", "prefetching", "would", "effectively", "degrade", "performance", ".", "The", "second", "controlflow", "phrase", "analyzes", "hyperlinks", "in", "a", "page", "being", "transmitted", "-LRB-", "i.e.", ",", "when", "comm", "write", "mbuf", "-LRB-", "-RRB-", "is", "called", "within", "the", "control", "flow", "of", "clientSendMoreData", "-LRB-", "-RRB-", "-RRB-", ".", "Finally", ",", "the", "last", "call", "phrase", "pre-fetches", "hyperlinks", "analyzed", "by", "the", "second", "aspect", ".", "It", "does", "so", "by", "replacing", "the", "method", "call", "to", "clientWriteComplete", "-LRB-", "-RRB-", "with", "retrieveHyperlinks", "-LRB-", "-RRB-", ".", "Finally", ",", "note", "that", "the", "two", "require", "clauses", "at", "the", "top", "of", "the", "aspect", "declare", "the", "types", "of", "the", "global", "variables", "of", "the", "base", "program", "used", "in", "the", "aspects", ".", "3.2", "Join", "points", "A", "join", "point", "model", "defines", "the", "points", "in", "the", "execution", "of", "the", "base", "program", "to", "which", "pointcuts", "may", "refer", ".", "In", "our", "JP", ":", ":", "=", "callJP", "-LRB-", "val", "funId", "-LRB-", "val", "-RRB-", "-RRB-", "|", "readGlobalJP", "-LRB-", "varId", ",", "val", "-RRB-", "|", "readJP", "-LRB-", "@", ",", "val", "-RRB-", "|", "writeGlobalJP", "-LRB-", "varId", ",", "val", ",", "size", "-RRB-", "|", "writeJP", "-LRB-", "@", ",", "val", ",", "size", "-RRB-", "|", "controlflowJP", "-LRB-", "--", "f", "unId", ",", "cfEnd", "-RRB-", "|", "controlflowstarJP", "-LRB-", "--", "f", "unId", ",", "cfEnd", "-RRB-", "cf", "End", ":", ":", "=", "callJP", "-LRB-", "val", "funId", "-LRB-", "val", "-RRB-", "-RRB-", "|", "readGlobalJP", "-LRB-", "varId", ",", "val", "-RRB-", "|", "writeGlobalJP", "-LRB-", "varId", ",", "val", ",", "size", "-RRB-", "val", ":", ":", "=", "0", "|", "1", "|", "2", "|", "...", "/", "/", "int", "|", "@", "0", "|", "@", "1", "|", "@", "2", "|", "...", "/", "/", "int", "*", "|", "...", "/", "/", "values", "of", "other", "C", "types", "Figure", "5", ":", "Join", "point", "model", "case", ",", "join", "points", "are", "defined", "by", "JP", "in", "the", "grammar", "shown", "in", "Fig.", "5", ".", "A", "join", "point", "is", "either", ":", "A", "call", "of", "a", "function", "callJP", "-LRB-", "v", "1", "funId", "-LRB-", "v", "2", "-RRB-", "-RRB-", "with", "function", "name", "funId", ",", "return", "value", "v", "1", "and", "a", "vector", "of", "arguments", "v", "2", ".", "A", "read", "access", "which", "comes", "in", "two", "variants", ":", "readGlobalJP", "-LRB-", "varId", ",", "v", "-RRB-", "denotes", "reading", "a", "global", "variable", "with", "name", "varId", "holding", "the", "value", "v", ";", "readJP", "-LRB-", "@", ",", "v", "-RRB-", "denotes", "reading", "a", "global", "variable", "or", "a", "local", "alias", "with", "address", "@", "holding", "the", "value", "v", ".", "Write", "access", "which", "also", "comes", "in", "two", "variants", ":", "writeGlobalJP", "-LRB-", "varId", ",", "v", ",", "size", "-RRB-", "denotes", "assignment", "to", "a", "global", "variable", "with", "name", "varId", "of", "the", "value", "v", "of", "size", "size", ".", "writeJP", "-LRB-", "@", ",", "v", ",", "size", "-RRB-", "denotes", "assignment", "to", "a", "global", "variable", "or", "a", "local", "alias", "with", "address", "@", "of", "the", "value", "v", "of", "size", "size", ".", "A", "cflow", "expression", "controlflowJP", "-LRB-", "--", "f", "unId", ",", "c", "-RRB-", ",", "where", "--", "f", "unId", "=", "-LSB-", "funId", "1", ",", ".", ".", ",", "funId", "n", "-RSB-", "is", "a", "stack", "of", "function", "names", ",", "and", "c", "-LRB-", "either", "a", "function", "call", "or", "an", "access", "to", "a", "global", "variable", "-RRB-", "occurs", "within", "the", "body", "of", "function", "f", "unId", "n", ".", "Such", "a", "join", "point", "requires", "a", "call", "to", "f", "unId", "i", "+1", "within", "the", "body", "of", "f", "unId", "i", ".", "A", "cflow", "expression", "controlflowstarJP", "-LRB-", "--", "f", "unId", ",", "c", "-RRB-", ",", "where", "--", "f", "unId", "=", "-LSB-", "funId", "1", ",", ".", ".", ",", "funId", "n", "-RSB-", "is", "a", "partial", "stack", "of", "function", "names", ",", "and", "c", "-LRB-", "either", "a", "function", "call", "or", "an", "access", "to", "a", "global", "variable", "-RRB-", "occurs", "within", "the", "control", "flow", "of", "function", "f", "unId", "n", ".", "Such", "a", "join", "point", "requires", "a", "call", "to", "f", "unId", "i", "+1", "within", "the", "control", "flow", "of", "-LRB-", "i.e.", ",", "not", "necessarily", "in", "the", "body", "of", "-RRB-", "f", "unId", "i", ".", "Two", "features", "of", "this", "join", "point", "model", "may", "be", "surprising", "at", "first", "sight", ":", "distinction", "of", "accesses", "to", "aliases", "from", "those", "to", "global", "variables", "and", "explicit", "representation", "of", "control", "flow", "30", "require", "N", "umber", "Of", "F", "d", "as", "int", ";", "require", "Squid", "M", "axF", "d", "as", "int", ";", "controlflow", "-LRB-", "call", "-LRB-", "void", "clientSendMoreData", "-LRB-", "void", ",", "char", ",", "size", "t", "-RRB-", "-RRB-", ",", "call", "-LRB-", "HttpReply", "clientBuildReply", "-LRB-", "clientHttpRequest", ",", "char", ",", "size", "t", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "request", ",", "buf", "f", "er", ",", "buf", "f", "erSize", "-RRB-", "-RRB-", "then", "startPrefetching", "-LRB-", "request", ",", "buffer", ",", "bufferSize", "-RRB-", ";", "&", "&", "until", "-LRB-", "writeGlobal", "-LRB-", "int", "N", "umber", "Of", "F", "d", "-RRB-", "&", "&", "if", "-LRB-", "-LRB-", "N", "umber", "Of", "F", "d", "-RRB-", "100", "/", "-LRB-", "Squid", "M", "axF", "d", "-RRB-", "75", "-RRB-", ";", "-RRB-", "controlflow", "-LRB-", "call", "-LRB-", "void", "clientSendMoreData", "-LRB-", "void", ",", "char", ",", "size", "t", "-RRB-", "-RRB-", ",", "call", "-LRB-", "void", "comm", "write", "mbuf", "-LRB-", "int", ",", "MemBuf", ",", "void", ",", "void", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "fd", ",", "mb", ",", "handler", ",", "handlerData", "-RRB-", "&", "&", "if", "-LRB-", "!", "isP", "ref", "etch", "-LRB-", "handler", "-RRB-", "-RRB-", "-RRB-", "then", "parseHyperlinks", "-LRB-", "fd", ",", "mb", ",", "handler", ",", "handlerData", "-RRB-", ";", "call", "-LRB-", "void", "clientWriteComplete", "-LRB-", "int", ",", "char", ",", "size", "t", ",", "int", ",", "void", "-RRB-", "-RRB-", "&", "&", "args", "-LRB-", "fd", ",", "buf", ",", "size", ",", "error", ",", "data", "-RRB-", "&", "&", "if", "-LRB-", "!", "isP", "ref", "etch", "-LRB-", "handler", "-RRB-", "-RRB-", "then", "retrieveHyperlinks", "-LRB-", "fd", ",", "buf", ",", "size", ",", "error", ",", "data", "-RRB-", ";", "Figure", "4", ":", "An", "Aspect", "for", "Prefetching", "expressions", ".", "Both", "are", "motivated", "by", "our", "quest", "for", "efficiency", "and", "are", "grounded", "in", "strong", "implementation", "constraints", "in", "the", "context", "of", "dynamic", "weaving", "of", "binary", "C", "code", ":", "an", "access", "to", "a", "local", "alias", "is", "several", "magnitudes", "slower", "than", "that", "to", "a", "global", "variable", "and", "matching", "of", "control", "flow", "join", "points", "can", "be", "done", "using", "an", "atomic", "test", "on", "the", "implementation", "level", ".", "3.3", "Pointcuts", "We", "now", "present", "a", "pointcut", "language", "-LRB-", "see", "Fig.", "6", "-RRB-", "that", "provides", "constructs", "to", "match", "individual", "join", "points", ".", "Primitive", "pointcuts", "are", "defined", "by", "PPrim", "and", "comprise", "three", "basic", "pointcuts", "matching", "calls", ",", "global", "variable", "accesses", ",", "and", "control", "flow", "join", "points", ".", "Primitive", "pointcuts", "can", "also", "be", "combined", "using", "a", "logical", "``", "or", "''", "noted", "|", "|", ".", "A", "call", "pointcut", "PCall", "selects", "all", "function", "call", "join", "points", "callJP", "-LRB-", "val", "funId", "-LRB-", "val", "-RRB-", "-RRB-", ",", "i.e.", ",", "all", "calls", "to", "a", "function", "matching", "the", "signature", "type", "funId", "-LRB-", "-", "type", "-RRB-", ",", "where", "the", "arguments", "of", "the", "function", "can", "be", "bound", "to", "pointcut", "variables", "using", "argument", "binder", "args", "-LRB-", "--", "pattern", "-RRB-", "and", "the", "return", "value", "can", "be", "bound", "to", "a", "pointcut", "variable", "using", "a", "return", "clause", "return", "-LRB-", "pattern", "-RRB-", ".", "The", "two", "constructs", "args", "-LRB-", "--", "pattern", "-RRB-", "and", "return", "-LRB-", "pattern", "-RRB-", "can", "also", "provide", "pattern", "matching", "by", "using", "values", "-LRB-", "or", "already", "bound", "pointcut", "variables", "-RRB-", "in", "pattern", ".", "Pointcuts", "can", "also", "depend", "on", "a", "boolean", "condition", "using", "the", "if-constructor", ".", "A", "global", "access", "pointcut", "PAccGlobal", "selects", "either", "all", "read", "join", "points", "readGlobalJP", "-LRB-", "varId", ",", "val", "-RRB-", "or", "all", "write", "join", "points", "writeGlobalJP", "-LRB-", "varId", ",", "val", ",", "size", "-RRB-", "on", "the", "global", "base", "program", "variable", "varId", ".", "In", "these", "cases", ",", "the", "read", "or", "written", "value", "can", "be", "bound", "to", "a", "variable", "using", "value", "-LRB-", "pattern", "-RRB-", ";", "in", "addition", ",", "the", "size", "of", "the", "written", "value", "can", "be", "bound", "with", "size", "-LRB-", "varName", "-RRB-", ".", "Pattern", "matching", "can", "also", "be", "used", "for", "variable", "access", ".", "A", "control", "flow", "pointcut", "PCf", "of", "the", "form", "controlflow", "-LRB-", "PCallSig", "1", ",", "...", ",", "PCallSig", "n", ",", "PCfEnd", "-RRB-", "matches", "all", "join", "points", "of", "the", "form", "controlflowJP", "-LRB-", "funId", "1", ",", "...", ",", "funId", "n", ",", "cfEnd", "-RRB-", ",", "where", "the", "function", "identifier", "in", "P", "CallSig", "i", "is", "f", "unId", "i", ".", "Similarly", ",", "a", "control", "flow", "pointcut", "may", "match", "a", "global", "variable", "access", "for", "a", "given", "stack", "configuration", ".", "The", "pointcuts", "of", "the", "form", "controlflowstar", "-LRB-", "...", "-RRB-", "select", "calls", "or", "global", "variable", "accesses", "in", "a", "stack", "context", "allowing", "for", "calls", "that", "are", "not", "directly", "nested", "within", "one", "another", ".", "Finally", ",", "P", "Acc", ",", "an", "access", "pointcut", "for", "a", "global", "variable", "or", "all", "of", "its", "local", "aliases", ",", "matches", "all", "join", "points", "of", "the", "form", "readJP", "or", "writeJP", ".", "Asp", ":", ":", "=", "AspP", "rim", "-LSB-", "&", "&", "until", "-LRB-", "AspP", "rim", "-RRB-", "-RSB-", "|", "AspSeq", "-LSB-", "&", "&", "until", "-LRB-", "AspP", "rim", "-RRB-", "-RSB-", "AspP", "rim", ":", ":", "=", "P", "P", "rim", "Advice", "AspSeq", ":", ":", "=", "seq", "-LRB-", "AspP", "rim", "AspSeqElts", "AspSeqElt", "-RRB-", "AspSeqElts", ":", ":", "=", "-LSB-", "AspSeqElts", "-RSB-", "AspSeqElt", "-LSB-", "-RSB-", "AspSeqElt", ":", ":", "=", "AspP", "rim", "|", "P", "Acc", "Advice", "|", "-LRB-", "AspSeqElt", "|", "|", "AspSeqElt", "-RRB-", "Advice", ":", ":", "=", "-LSB-", "then", "f", "unId", "-LRB-", "--", "pattern", "-RRB-", "-RSB-", ";", "Figure", "7", ":", "Aspect", "language", "3.4", "Aspect", "Language", "The", "aspect", "language", "we", "propose", "is", "defined", "in", "Fig.", "7", ".", "Aspects", "Asp", "are", "either", "primitive", "AspP", "rim", ",", "or", "sequences", "of", "primitive", "aspects", "AspSeq", ".", "A", "primitive", "aspect", "AspPrim", "combines", "a", "primitive", "pointcut", "with", "an", "advice", "that", "will", "be", "applied", "to", "all", "join", "points", "selected", "by", "the", "pointcut", ".", "If", "the", "primitive", "pointcut", "has", "the", "form", "p", "1", "|", "|", "p", "2", ",", "then", "all", "variables", "used", "in", "the", "advice", "have", "to", "be", "bound", "in", "both", ",", "p", "1", "and", "p", "2", ".", "An", "advice", "-LRB-", "Advice", "-RRB-", "is", "a", "C", "function", "call", "that", "replaces", "a", "join", "point", "in", "the", "base", "program", "execution", "-LRB-", "similarly", "to", "around", "in", "AspectJ", "-RRB-", ".", "It", "must", "have", "the", "same", "return", "type", "as", "the", "join", "point", "it", "replaces", ":", "the", "type", "of", "the", "global", "variable", "in", "case", "of", "a", "read", "access", ",", "void", "for", "a", "write", "access", "and", "the", "return", "type", "of", "the", "function", "for", "a", "call", ".", "When", "the", "advice", "is", "empty", "-LRB-", "no", "then", "clause", "-RRB-", ",", "the", "original", "join", "point", "is", "executed", ".", "The", "original", "join", "point", "can", "be", "skipped", "by", "calling", "an", "empty", "C", "function", ".", "A", "sequence", "aspect", "is", "composed", "of", "a", "sequence", "of", "primitive", "aspects", ".", "A", "sequence", "starts", "when", "the", "first", "primitive", "aspect", "matches", ".", "Then", "the", "second", "primitive", "aspect", "becomes", "active", "instead", "of", "the", "first", "one", ".", "When", "it", "matches", ",", "the", "third", "aspect", "becomes", "active", "instead", "of", "the", "second", "one", ".", "And", "so", "on", ",", "until", "the", "last", "primitive", "aspect", "in", "the", "sequence", ".", "All", "but", "the", "first", "and", "last", "primitive", "aspects", "can", "be", "repeated", "zero", "or", "multiple", "times", "by", "using", ":", "in", "this", "case", ",", "the", "primitive", "aspect", "is", "ac-31", "P", "P", "rim", ":", ":", "=", "P", "Call", "|", "P", "AccGlobal", "|", "P", "Cf", "|", "P", "P", "rim", "|", "|", "P", "P", "rim", "P", "Call", ":", ":", "=", "P", "CallSig", "-LSB-", "&", "&", "args", "-LRB-", "--", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "return", "-LRB-", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "P", "If", "-RSB-", "P", "CallSig", ":", ":", "=", "call", "-LRB-", "type", "f", "unId", "-LRB-", "-", "type", "-RRB-", "-RRB-", "P", "If", ":", ":", "=", "if", "-LRB-", "expr", "-RRB-", "-LSB-", "&", "&", "P", "If", "-RSB-", "P", "AccGlobal", ":", ":", "=", "readGlobal", "-LRB-", "type", "varId", "-RRB-", "-LSB-", "&", "&", "value", "-LRB-", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "P", "If", "-RSB-", "|", "writeGlobal", "-LRB-", "type", "varId", "-RRB-", "-LSB-", "&", "&", "value", "-LRB-", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "size", "-LRB-", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "P", "If", "-RSB-", "P", "Cf", ":", ":", "=", "controlflow", "-LRB-", "P", "CallSigList", ",", "P", "Cf", "End", "-RRB-", "|", "controlflowstar", "-LRB-", "P", "CallSigList", ",", "P", "Cf", "End", "-RRB-", "P", "CallSigList", ":", ":", "=", "P", "CallSig", "-LSB-", ",", "P", "CallSigList", "-RSB-", "P", "Cf", "End", ":", ":", "=", "P", "Call", "|", "P", "AccGlobal", "P", "Acc", ":", ":", "=", "read", "-LRB-", "var", "-RRB-", "-LSB-", "&", "&", "value", "-LRB-", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "P", "If", "-RSB-", "|", "write", "-LRB-", "var", "-RRB-", "-LSB-", "&", "&", "value", "-LRB-", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "size", "-LRB-", "pattern", "-RRB-", "-RSB-", "-LSB-", "&", "&", "P", "If", "-RSB-", "pattern", ":", ":", "=", "var", "|", "val", "Figure", "6", ":", "Pointcut", "language", "A", ":", ":", "=", "A", "|", "A", "|", "|", "A", ";", "parallelism", "A", ":", ":", "=", "a.A", ";", "recursive", "definition", "-LRB-", "a", "Rec", "-RRB-", "|", "C", "I", ";", "A", ";", "prefixing", "|", "C", "I", ";", "a", ";", "end", "of", "sequence", "-LRB-", "a", "Rec", "-RRB-", "|", "C", "I", ";", "STOP", ";", "halting", "aspect", "|", "A", "P", "A", ";", "choice", "Figure", "8", ":", "Tiny", "aspect", "language", "tive", "as", "long", "as", "the", "following", "one", "in", "the", "sequence", "does", "not", "match", ".", "Branching", ",", "i.e.", ",", "a", "logical", "`", "or", "'", "between", "two", "primitive", "aspects", ",", "can", "be", "introduced", "in", "a", "sequence", "by", "the", "operator", "|", "|", ".", "An", "element", "of", "the", "sequence", "can", "also", "match", "a", "global", "variable", "of", "the", "base", "program", "and", "accesses", "to", "its", "local", "aliases", ",", "as", "soon", "as", "its", "address", "is", "known", "-LRB-", "i.e.", ",", "a", "previous", "primitive", "pointcut", "has", "already", "bound", "its", "address", "to", "a", "pointcut", "variable", "-RRB-", ".", "Hence", ",", "an", "aspect", "matching", "accesses", "can", "not", "start", "a", "sequence", ".", "Every", "join", "point", "matching", "the", "first", "primitive", "pointcut", "of", "a", "sequence", "starts", "a", "new", "instance", "of", "the", "sequence", ".", "The", "different", "instances", "are", "matched", "in", "parallel", ".", "A", "primitive", "or", "a", "sequence", "aspect", "a", "can", "be", "used", "in", "combination", "with", "an", "expression", "until", "-LRB-", "a", "1", "-RRB-", ",", "to", "restrict", "its", "scope", ".", "In", "this", "case", ",", "once", "a", "join", "point", "has", "been", "matched", "by", "a", ",", "the", "execution", "of", "a", "proceeds", "as", "previously", "described", "until", "a", "1", "matches", ".", "To", "conclude", "the", "presentation", "of", "our", "language", ",", "note", "that", "it", "does", "not", "include", "some", "features", ",", "such", "as", "named", "pointcuts", "as", "arguments", "to", "controlflows", "and", "conjunctive", "terms", ",", "which", "are", "not", "necessary", "for", "the", "examples", "we", "considered", "but", "which", "could", "easily", "be", "added", ".", "-LRB-", "As", "an", "aside", ",", "note", "that", "such", "extensions", "of", "the", "pointcut", "language", "may", "affect", "the", "computability", "of", "advanced", "algorithmic", "problems", ",", "such", "as", "whether", "a", "pointcut", "matches", "some", "part", "of", "any", "base", "program", "-LSB-", "25", "-RSB-", ".", "-RRB-", "3.5", "Towards", "a", "formal", "semantics", "for", "expressive", "aspects", "In", "the", "previous", "sections", ",", "we", "have", "given", "an", "informal", "semantics", "of", "our", "aspect", "language", ".", "We", "now", "illustrate", "how", "the", "aspect", "language", "could", "be", "formally", "defined", "by", "translating", "one", "of", "the", "example", "aspects", "into", "formal", "aspect", "language", "by", "extension", "of", "that", "used", "in", "the", "formal", "framework", "of", "-LSB-", "14", "-RSB-", ".", "The", "original", "formal", "language", "must", "be", "extended", "in", "order", "to", "deal", "with", "halting", "aspects", ",", "an", "unbounded", "number", "of", "sequential", "aspects", "and", "arbitrary", "join", "point", "predicates", ".", "The", "grammar", "of", "the", "extension", ",", "our", "tiny", "aspect", "language", ",", "is", "defined", "in", "Figure", "8", ".", "In", "this", "language", ",", "aspect", "expressions", "A", "consists", "of", "parallel", "combinations", "of", "aspects", ",", "C", "is", "a", "join", "point", "predicate", "-LRB-", "similar", "to", "our", "pointcut", "language", "-RRB-", "expressed", "as", "a", "conjunction", "of", "a", "term", "pattern", "and", "possibly", "an", "expression", "from", "the", "constraint", "logic", "programming", "language", "CLP", "-LRB-", "R", "-RRB-", "-LSB-", "20", "-RSB-", ".", "An", "aspect", "A", "is", "either", ":", "A", "recursive", "definition", ".", "A", "sequence", "formed", "using", "the", "prefix", "operation", "C", "I", ";", "X", ",", "where", "X", "is", "an", "aspect", "or", "a", "recursion", "variable", "and", "I", "a", "piece", "of", "code", "-LRB-", "i.e.", ",", "an", "advice", "-RRB-", ".", "A", "choice", "construction", "A", "1", "P", "A", "2", "which", "chooses", "the", "first", "aspect", "that", "matches", "a", "join", "point", "-LRB-", "the", "other", "is", "thrown", "away", "-RRB-", ".", "If", "both", "match", "the", "same", "join", "point", ",", "A", "1", "is", "chosen", ".", "A", "parallel", "composition", "of", "two", "aspects", "A", "1", "|", "|", "A", "2", "that", "can", "not", "occur", "in", "choice", "construction", ".", "A", "halting", "aspect", "STOP", ".", "The", "semantics", "of", "the", "protocol", "translation", "aspect", "-LRB-", "from", "TCP", "to", "UDP", "-RRB-", "is", "given", "in", "Fig.", "9", ".", "A", "sequence", "can", "have", "several", "instances", ".", "This", "is", "translated", "into", "the", "language", "A", "by", "the", "expression", "a", "1", "|", "|", "...", "which", "starts", "a", "new", "sequence", "a", "1", "once", "the", "first", "join", "point", "has", "been", "matched", "and", "continue", "to", "match", "the", "rest", "of", "the", "sequence", "in", "progress", ".", "The", "repetition", "operator", "is", "translated", "into", "recursion", "on", "variable", "the", "a", "2", ".", "The", "branching", "operator", "|", "|", "is", "translated", "into", "the", "choice", "operator", "32", "a", "1", ".", "callJP", "-LRB-", "fd", "socket", "-LRB-", "AF", "INET", ",", "SOCK", "STREAM", ",", "0", "-RRB-", "-RRB-", "socket", "-LRB-", "AF", "INET", ",", "SOCK", "DGRAM", ",", "0", "-RRB-", ";", "a", "1", "|", "|", "-LRB-", "callJP", "-LRB-", "a", "connect", "-LRB-", "fd", ",", "address", ",", "length", "-RRB-", "-RRB-", "returnZero", "-LRB-", "-RRB-", ";", "a", "2", ".", "callJP", "-LRB-", "b", "close", "-LRB-", "fd", "-RRB-", "-RRB-", "skip", ";", "STOP", "P", "callJP", "-LRB-", "c", "read", "-LRB-", "fd", ",", "readBuffer", ",", "readLength", "-RRB-", "-RRB-", "recvfrom", "-LRB-", "fd", ",", "readBuffer", ",", "readLength", ",", "0", ",", "address", ",", "length", "-RRB-", ";", "a", "2", "P", "callJP", "-LRB-", "d", "write", "-LRB-", "fd", ",", "writeBuffer", ",", "writeLength", "-RRB-", "-RRB-", "recvfrom", "-LRB-", "fd", ",", "writeBuffer", ",", "writeLength", ",", "0", ",", "address", ",", "length", "-RRB-", ";", "a", "2", "Figure", "9", ":", "Definition", "of", "the", "protocol", "translation", "using", "the", "tiny", "aspect", "language", "P.", "Finally", ",", "the", "last", "primitive", "aspect", "of", "the", "sequence", "occurs", "as", "the", "first", "aspect", "of", "a", "choice", "to", "get", "priority", "over", "the", "join", "points", "read", "and", "write", "because", "of", "the", ".", "Note", "that", "we", "use", "pattern", "matching", "in", "A", "and", "that", "an", "overbar", "marks", "the", "first", "occurrence", "of", "a", "variable", "-LRB-", "i.e.", ",", "its", "definition", "not", "a", "use", "-RRB-", ".", "Note", "that", "formal", "definitions", "such", "as", "that", "of", "the", "protocol", "translation", "aspect", "precisely", "define", "several", "important", "issues", ",", "in", "particular", ",", "when", "new", "instances", "of", "the", "sequence", "aspect", "are", "created", ",", "and", "disambiguate", "of", "potentially", "non-deterministic", "situations", ",", "e.g.", ",", "when", "two", "pointcuts", "of", "consecutive", "primitive", "aspects", "in", "the", "sequence", "match", "at", "the", "same", "time", ".", "Arachne", "is", "built", "around", "two", "tools", ",", "an", "aspect", "compiler", "and", "a", "runtime", "weaver", ".", "The", "aspect", "compiler", "translates", "the", "aspect", "source", "code", "into", "a", "compiled", "library", "that", ",", "at", "weaving", "time", ",", "directs", "the", "weaver", "to", "place", "the", "hooks", "in", "the", "base", "program", ".", "The", "hooking", "mechanisms", "used", "in", "Arachne", "are", "based", "on", "improved", "techniques", "originally", "developed", "for", "Dyner", "-LSB-", "32", "-RSB-", ".", "These", "techniques", "allow", "to", "rewrite", "the", "binary", "code", "of", "executable", "files", "on", "the", "fly", "i.e.without", "pausing", "the", "base", "program", ",", "as", "long", "as", "these", "files", "conform", "to", "the", "mapping", "defined", "by", "the", "Unix", "standard", "-LSB-", "35", "-RSB-", "between", "the", "C", "language", "and", "x86", "assembly", "language", ".", "Arachne", "'s", "implementation", "is", "structured", "as", "an", "open", "framework", "that", "allows", "to", "experiment", "with", "new", "kinds", "of", "join", "points", "and", "pointcut", "constructs", ".", "Another", "important", "difference", "between", "Arachne", "and", "Dyner", "is", ",", "that", "Dyner", "requires", "a", "compile", "time", "preparation", "of", "the", "base", "program", ",", "whereas", "Arachne", "does", "not", ".", "Hence", "Arachne", "is", "totally", "transparent", "for", "the", "base", "program", "while", "Dyner", "is", "not", ".", "4.1", "The", "Arachne", "Open", "Architecture", "The", "Arachne", "open", "architecture", "is", "structured", "around", "three", "main", "entities", ":", "the", "aspect", "compiler", ",", "the", "instrumentation", "kernel", ",", "and", "the", "different", "rewriting", "strategies", ".", "The", "aspect", "compiler", "translates", "the", "aspect", "source", "code", "into", "C", "before", "compiling", "it", ".", "Weaving", "is", "accomplished", "through", "a", "command", "line", "tool", "weave", "that", "acts", "as", "a", "front", "end", "for", "the", "instrumentation", "kernel", ".", "weave", "relays", "weaving", "requests", "to", "the", "instrumentation", "kernel", "loaded", "in", "the", "address", "space", "of", "the", "program", "through", "Unix", "sockets", ".", "Upon", "reception", "of", "a", "weaving", "request", ",", "the", "instrumentation", "kernel", "selects", "the", "appropriate", "rewriting", "strategies", "referred", "by", "the", "aspects", "to", "be", "woven", "and", "instruments", "the", "base", "program", "accordingly", ".", "The", "rewriting", "strategy", "consults", "the", "pointcut", "analysis", "performed", "by", "the", "aspect", "compiler", "to", "locate", "the", "places", "where", "the", "binary", "code", "of", "the", "base", "program", "needs", "to", "be", "rewritten", ".", "It", "finally", "modifies", "the", "binary", "code", "to", "actually", "tie", "the", "aspects", "to", "the", "base", "program", ".", "With", "this", "approach", ",", "the", "Arachne", "core", "is", "independent", "of", "a", "particular", "aspect", ",", "of", "the", "aspect", "language", ",", "of", "the", "particular", "processor", "architecture", ",", "and", "of", "a", "particular", "base", "program", ".", "In", "fact", ",", "all", "dependencies", "to", "aspect", "language", "implementation", "are", "limited", "to", "the", "aspect", "compiler", ".", "All", "dependencies", "to", "the", "operating", "system", "are", "localized", "in", "the", "instrumentation", "kernel", "and", "finally", "all", "dependencies", "to", "the", "underlying", "hardware", "architecture", "are", "modularized", "in", "the", "rewriting", "strategies", ".", "4.1.1", "The", "Arachne", "aspect", "compilation", "process", "The", "aspect", "compilation", "scheme", "is", "relatively", "straightforward", ":", "it", "transforms", "advices", "into", "regular", "C", "functions", ".", "Pointcuts", "are", "rewritten", "as", "C", "code", "driving", "hook", "insertions", "into", "the", "base", "program", "at", "weaving", "time", ".", "There", "are", "however", "cases", "where", "the", "sole", "introduction", "of", "hooks", "is", "insufficient", "to", "determine", "whether", "an", "advice", "should", "be", "executed", ".", "In", "this", "case", ",", "the", "aspect", "compiler", "generates", "functions", "that", "complement", "the", "hooks", "with", "dynamic", "tests", "on", "the", "state", "of", "the", "base", "program", ".", "These", "dynamic", "tests", "are", "called", "residues", "in", "AspectJ", "and", "the", "rewritten", "instructions", "within", "the", "base", "program", "the", "shadow", "-LSB-", "16", "-RSB-", ".", "Once", "the", "aspects", "have", "been", "translated", "into", "C", ",", "the", "Arachne", "compiler", "uses", "a", "legacy", "C", "compiler", "to", "generate", "a", "dynamically", "linked", "library", "-LRB-", "DLL", "-RRB-", "for", "the", "compiled", "aspects", ".", "4.1.2", "The", "Arachne", "weaving", "process", "From", "a", "user", "viewpoint", ",", "the", "Arachne", "weave", "and", "deweave", "command", "line", "programs", "the", "same", "syntax", "than", "Dyner", "'s", "version", ".", "They", "both", "take", "two", "arguments", ".", "The", "first", "identifies", "the", "process", "to", "weave", "aspects", "in", "or", "deweave", "aspects", "from", ",", "and", "the", "second", "indicates", "the", "aspect", "DLL", ".", "However", ",", "Arachne", "can", "target", "potentially", "any", "C", "application", "running", "on", "the", "machine", "while", "Dyner", "was", "limited", "to", "applications", "compiled", "with", "it", "running", "on", "the", "machine", ".", "When", "Arachne", "'s", "weave", "receives", "a", "request", "to", "weave", "an", "aspect", "in", "a", "process", "that", "does", "not", "contain", "the", "Arachne", "instrumentation", "kernel", ",", "it", "loads", "the", "kernel", "in", "the", "process", "address", "space", "using", "standard", "techniques", "-LSB-", "11", "-RSB-", ".", "The", "instrumentation", "kernel", "is", "transparent", "for", "the", "base", "program", "as", "the", "latter", "can", "not", "access", "the", "resources", "-LRB-", "memory", "and", "sockets", "essentially", "-RRB-", "used", "by", "the", "former", ".", "Once", "injected", ",", "the", "kernel", "creates", "a", "thread", "with", "the", "Linux", "system", "call", ":", "clone", ".", "This", "thread", "handles", "the", "different", "weaving", "requests", ".", "Compared", "to", "the", "POSIX", "pthread", "create", "function", ",", "the", "usage", "of", "clone", "allows", "the", "instrumentation", "thread", "to", "prevent", "the", "base", "program", "to", "access", "its", "sockets", ".", "The", "instrumentation", "kernel", "allocates", "memory", "by", "using", "side", "effect", "free", "allocation", "routines", "-LRB-", "through", "the", "Linux", "mmap", "API", "-RRB-", ".", "Because", "the", "allocation", "routines", "are", "side", "effect", "free", ",", "Arachne", "'s", "memory", "is", "totally", "invisible", "to", "the", "base", "program", ".", "It", "is", "up", "to", "the", "aspect", "to", "use", "Arachne", "'s", "memory", "allocation", "routines", "or", "base", "program", "specific", "allocation", "functions", ".", "This", "transparency", "turns", "out", "to", "be", "crucial", "in", "our", "experiments", ".", "Legacy", "applications", "such", "as", "Squid", "use", "dedicated", "resource", "management", "routines", "and", "expect", "any", "piece", "of", "code", "they", "run", "to", "use", "these", "routines", ".", "Failures", "will", "result", "in", "an", "application", "crash", ".", "After", "loading", "an", "aspect", ",", "the", "instrumentation", "kernel", "rewrites", "the", "binary", "code", "of", "the", "base", "program", ".", "These", "rewriting", "strategies", "are", "not", "included", "in", "the", "kernel", "and", "must", "be", "fetched", "on", "demand", "by", "each", "loaded", "aspect", ".", "4.2", "Rewriting", "strategies", "Rewriting", "strategies", "are", "responsible", "for", "transforming", "the", "binary", "code", "of", "the", "base", "program", "to", "effectively", "tie", "aspects", "to", "33", "shadow", ":", "rewriting", "site", "replaced", "by", "a", "x86", "instruction", "x86", "instruction", "x86", "instruction", "x86", "instruction", "execution", "flow", "generated", "at", "aspect", "compile", "time", "Aspect", "DLL", "Hooks", "generated", "at", "weaving", "time", "jump", "Binary", "code", "of", "the", "compiled", "base", "program", "and/or", "advices", "Residue", "-LRB-", "dynamic", "tests", "-RRB-", "Entry", "hook", "save", "registers", "Return", "hook", "Restore", "registers", "instruction", "-LRB-", "s", "-RRB-", "Relocated", "tailored", "updating", "registers", "Legacy", "base", "program", "Figure", "10", ":", "Generic", "hook", "operations", ".", "the", "base", "program", "at", "weaving", "time", ".", "These", "strategies", "localize", "Arachne", "'s", "main", "dependencies", "to", "the", "underlying", "hardware", "architecture", ".", "In", "general", ",", "rewriting", "strategies", "need", "to", "collect", "information", "about", "the", "base", "program", ".", "These", "information", "typically", "consist", "of", "the", "addresses", "of", "the", "different", "shadows", ",", "their", "size", ",", "the", "symbol", "-LRB-", "i.e.function", "or", "global", "variable", "name", "-RRB-", "they", "manipulate", ",", "their", "length", "etc.", ".", "In", "order", "to", "keep", "compiled", "aspects", "independent", "from", "the", "base", "program", ",", "this", "information", "is", "gathered", "on", "demand", "at", "runtime", ".", "The", "mapping", "between", "a", "symbol", "name", "in", "the", "base", "program", "source", "code", "and", "its", "address", "in", "memory", "is", "inferred", "from", "linking", "information", "contained", "in", "the", "base", "program", "executable", ".", "However", "because", "these", "information", "can", "be", "costly", "to", "retrieve", ",", "Arachne", "collects", "and", "stores", "it", "into", "meta-information", "DLLs", ".", "these", "DLLs", "behave", "as", "a", "kind", "of", "cache", "and", "lessen", "the", "problem", "of", "collecting", "the", "information", "required", "to", "instrument", "the", "base", "program", ".", "To", "implement", "our", "aspect", "language", ",", "Arachne", "provides", "a", "set", "of", "eight", "rewriting", "strategies", "that", "might", "eventually", "use", "each", "other", ".", "4.2.1", "Strategies", "for", "call", ",", "readGlobal", "and", "writeGlobal", "In", "Arachne", ",", "call", ",", "readGlobal", "and", "writeGlobal", "allow", "an", "advice", "to", "be", "triggered", "upon", "a", "function", "call", ",", "a", "read", "on", "a", "global", "variable", "or", "a", "write", "respectively", ".", "While", "the", "implementation", "of", "readGlobal", "and", "writeGlobal", "in", "Arachne", "is", "close", "to", "the", "one", "in", "Dyner", ",", "Arachne", "implements", "the", "strategy", "for", "call", "by", "rewriting", "function", "invocations", "found", "in", "the", "base", "program", ".", "Dyner", "instead", "rewrites", "the", "function", "body", "of", "the", "callee", ".", "On", "the", "Intel", "architecture", ",", "function", "calls", "benefit", "from", "the", "direct", "mapping", "to", "the", "x86", "call", "assembly", "instruction", "that", "is", "used", "by", "almost", ",", "if", "not", "all", ",", "compilers", ".", "Write", "and", "read", "accesses", "to", "global", "variables", "are", "translated", "into", "instructions", "using", "immediate", ",", "hard", "coded", "addresses", "within", "the", "binary", "code", "of", "the", "base", "program", ".", "By", "comparing", "these", "addresses", "with", "linking", "information", "contained", "in", "the", "base", "program", "executable", ",", "Arachne", "can", "determine", "where", "the", "global", "variable", "is", "being", "accessed", ".", "Therefore", "those", "primitive", "pointcuts", "do", "not", "involve", "any", "dynamic", "tests", ".", "The", "sole", "rewriting", "of", "the", "binary", "base", "program", "code", "is", "enough", "to", "trigger", "advice", "and", "residue", "1", "executions", "at", "all", "appropriate", "points", ".", "The", "size", "of", "the", "x86", "call", "instruction", "and", "the", "size", "of", "an", "x86", "jump", "-LRB-", "jmp", "-RRB-", "instruction", "are", "the", "same", ".", "Since", "the", "instruction", "performing", "an", "access", "to", "a", "global", "variable", "involves", "a", "hard", "coded", "address", ",", "x86", "instructions", "that", "read", "or", "write", "a", "global", "1", "Residues", "-LRB-", "i.e.", "dynamic", "tests", "on", "the", "base", "program", "state", "-RRB-", "are", "required", "when", "these", "primitive", "pointcuts", "are", "combined", "with", "conditional", "pointcuts", "or", "when", "pattern", "matching", "is", "involved", ".", "variable", "have", "at", "least", "the", "size", "of", "a", "x86", "jmp", "instruction", ".", "Hence", "at", "weaving", "time", ",", "Arachne", "rewrites", "them", "as", "a", "jmp", "instruction", "to", "a", "hook", ".", "Hooks", "are", "generated", "on", "the", "fly", "on", "freshly", "allocated", "memory", ".", "As", "shown", "in", "figure", "10", ",", "hooks", "contain", "a", "few", "assembly", "instructions", "that", "save", "and", "restore", "the", "appropriate", "registers", "before", "and", "after", "an", "advice", "-LRB-", "or", "shadow", "-RRB-", "execution", ".", "A", "generic", "approach", "is", "to", "have", "hooks", "save", "the", "whole", "set", "of", "registers", ",", "then", "execute", "the", "appropriate", "residue", "and/or", "advice", "code", "before", "restoring", "the", "whole", "set", "of", "registers", ";", "finally", "the", "instructions", "found", "at", "the", "join", "point", "shadow", "are", "executed", "to", "perform", "the", "appropriate", "side", "effects", "on", "the", "processor", "registers", ".", "This", "is", "accomplished", "by", "relocating", "the", "instructions", "found", "at", "the", "join", "point", "shadow", ".", "Relocating", "the", "instructions", "makes", "the", "rewriting", "strategies", "handling", "read", "and", "write", "access", "to", "global", "variable", "independent", "from", "the", "instruction", "generated", "by", "the", "compiler", "to", "perform", "the", "access", "2", ".", "The", "limited", "number", "of", "x86", "instructions", "used", "to", "invoke", "a", "function", "allows", "Arachne", "'s", "rewriting", "strategy", "to", "exploit", "more", "efficient", ",", "relo-cation", "free", ",", "hooks", ".", "4.2.2", "Strategies", "for", "controlflow", "and", "controlflowstar", "Every", "time", "a", "C", "function", "is", "called", ",", "the", "Linux", "runtime", "creates", "an", "activation", "record", "on", "the", "call", "stack", "-LSB-", "35", "-RSB-", ".", "Like", "Dyner", ",", "Arachne", "'s", "implementation", "of", "the", "rewriting", "strategy", "for", "controlflow", "uses", "the", "most", "deeply", "nested", "function", "call", "-LRB-", "or", "global", "read", "or", "write", "access", "-RRB-", "in", "the", "control", "flow", "pointcut", "as", "shadow", ".", "This", "shadow", "triggers", "a", "residue", ".", "This", "residue", "uses", "the", "activation", "record", "'s", "chaining", "to", "check", "whether", "the", "remaining", "function", "calls", "of", "the", "control", "flow", ",", "are", "on", "the", "call", "stack", "maintained", "by", "the", "Linux", "runtime", ".", "An", "appropriate", "usage", "of", "hashtables", "that", "store", "the", "linking", "information", "contained", "in", "the", "base", "program", "executables", "can", "thereby", "decrease", "the", "cost", "of", "determining", "if", "a", "specific", "function", "is", "the", "caller", "of", "another", "to", "a", "pointer", "comparison", ".", "Therefore", ",", "the", "residue", "for", "a", "controlflow", "with", "n", "directly", "nested", "functions", "implies", "exactly", "n", "pointer", "comparisons", ".", "However", ",", "the", "residue", "worst", "case", "runtime", "for", "the", "indirect", "control", "flow", "operator", "controlflowstar", "that", "allows", "for", "not", "directly", "nested", "functions", ",", "is", "proportional", "to", "the", "base", "program", "stack", "depth", ".", "4.2.3", "Strategies", "for", "read", "and", "write", "read", "and", "write", "are", "new", "join", "points", "not", "included", "in", "Dyner", "that", "have", "been", "added", "to", "the", "latest", "version", "of", "Arachne", ".", "Their", "implementation", "relays", "on", "a", "page", "memory", "protection", "as", "allowed", "by", "the", "Linux", "operating", "system", "interface", "-LRB-", "i.e.", "mprotect", "-RRB-", "and", "the", "Intel", "processor", "specifications", "-LSB-", "18", "-RSB-", ".", "A", "read", "or", "write", "pointcut", "triggers", "a", "residue", "to", "relocate", "the", "bound", "variable", "into", "a", "memory", "page", "that", "the", "base", "program", "is", "not", "allowed", "to", "access", "and", "adds", "a", "dedicated", "signal", "handler", ".", "Any", "attempt", "made", "by", "the", "base", "program", "to", "access", "the", "bound", "variable", "identified", "will", "then", "trigger", "the", "execution", "of", "the", "previously", "added", "signal", "handler", ".", "This", "handler", "will", "then", "inspect", "the", "binary", "instruction", "trying", "to", "access", "the", "protected", "page", "to", "determine", "whether", "it", "was", "a", "read", "or", "a", "write", "access", "before", "eventually", "executing", "the", "appropriate", "advice", ".", "4.2.4", "Strategies", "for", "seq", "Like", "read", "and", "write", ",", "seq", "is", "a", "new", "language", "feature", "of", "Arachne", ".", "Dyner", "offers", "no", "equivalent", "construct", ".", "Arachne", "'s", "rewriting", "strategy", "of", "this", "operator", "associates", "a", "linked", "list", "to", "2", "About", "250", "x86", "instruction", "mnemonics", "can", "directly", "manipulate", "a", "global", "variable", ".", "This", "corresponds", "to", "more", "than", "one", "thousand", "opcodes", ".", "34", "every", "stage", "inside", "the", "sequence", "except", "the", "last", "one", ".", "Each", "stage", "in", "a", "sequence", "triggers", "a", "residue", "that", "updates", "these", "linked", "lists", "to", "reflect", "state", "transitions", "of", "currently", "matching", "execution", "flows", ".", "Upon", "matching", "of", "the", "first", "pointcut", "of", "the", "first", "primitive", "aspect", "in", "the", "seq", ",", "a", "node", "is", "allocated", "and", "added", "to", "the", "associated", "linked", "list", ".", "This", "node", "contains", "a", "structure", "holding", "variables", "shared", "among", "the", "different", "pointcuts", "within", "the", "sequence", ".", "Once", "a", "join", "point", "matches", "a", "pointcut", "of", "an", "primitive", "aspect", "denoting", "a", "stage", "in", "the", "sequence", ",", "Arachne", "consults", "every", "node", "in", "the", "linked", "list", "associated", "with", "the", "previous", "stage", "and", "executes", "the", "corresponding", "advice", "3", ".", "Arachne", "eventually", "updates", "the", "node", "and", "in", "the", "absence", "of", "a", "moves", "it", "to", "the", "list", "associated", "with", "the", "currently", "matched", "pointcut.If", "the", "matching", "pointcut", "corresponds", "to", "the", "end", "of", "the", "sequence", ",", "structures", "are", "not", "moved", "into", "another", "list", "but", "freed", ".", "Our", "aspect", "compiler", "includes", "an", "optimization", "where", "structures", "are", "allocated", "from", "a", "resizable", "pool", "and", "upon", "a", "sequence", "termination", ",", "structures", "are", "not", "freed", "but", "returned", "to", "the", "pool", ".", "4.3", "Arachne", "limitations", "Aggressive", "optimizations", "of", "the", "base", "program", "might", "prevent", "Arachne", "to", "seamlessly", "weave", "aspects", ".", "Two", "optimizations", "are", "not", "yet", "supported", "by", "Arachne", ".", "First", "if", "the", "compiler", "inlines", "a", "function", "in", "another", "one", "within", "the", "binary", "code", "of", "the", "base", "program", ",", "the", "Arachne", "weaver", "will", "fail", "to", "properly", "handle", "pointcuts", "referring", "to", "that", "function", ".", "Second", ",", "control", "flow", "pointcuts", "are", "based", "on", "the", "chaining", "of", "activation", "records", ".", "On", "the", "x86", "architecture", ",", "in", "leaf", "functions", ",", "optimizing", "compilers", "sometimes", "do", "not", "maintain", "this", "chaining", "to", "free", "one", "register", "for", "the", "rest", "of", "the", "computation", ".", "This", "however", "has", "not", "been", "a", "problem", "during", "our", "experiments", "as", "we", "used", "the", "open", "source", "C", "compiler", "gcc", ".", "Arachne", "supports", "two", "of", "the", "three", "optimization", "levels", "proposed", "by", "gcc", ".", "Stripping", "that", "removes", "linking", "information", "and", "aggressive", "optimizations", "that", "break", "the", "interoperability", "between", "compilers", "and/or", "debuggers", "are", "incompatible", "with", "Arachne", ".", "In", "practice", ",", "Arachne", "can", "be", "used", "on", "applications", "compiled", "like", "squid", "with", "two", "of", "the", "three", "gcc", "optimization", "level", ".", "Aspect-oriented", "solutions", "will", "be", "used", "if", "the", "aspect", "sys-tem", "'s", "language", "is", "expressive", "enough", "and", "if", "the", "aspect", "system", "overhead", "is", "low", "enough", ",", "for", "the", "task", "at", "hand", ".", "The", "purpose", "of", "this", "section", "is", "to", "study", "Arachne", "'s", "performance", ".", "We", "first", "present", "the", "speed", "of", "each", "Arachne", "language", "construct", "and", "compare", "it", "to", "similar", "C", "language", "constructs", ".", "We", "then", "study", "the", "overhead", "of", "extending", "Squid", "with", "a", "prefetching", "policy", ".", "This", "case", "study", "shows", "that", "even", "if", "the", "cost", "of", "some", "Arachne", "aspect", "language", "constructs", "might", "be", "high", "compared", "to", "C", "language", "constructs", ",", "this", "overhead", "is", "largely", "amortized", "in", "real", "applications", ".", "5.1", "Evaluation", "of", "the", "language", "constructs", "This", "performance", "evaluation", "focuses", "on", "studying", "the", "cost", "of", "each", "construct", "of", "our", "aspect", "language", ".", "To", "estimate", "the", "cost", "for", "each", "construct", "of", "our", "aspect", "language", ",", "we", "wrote", "an", "aspect", "using", "this", "construct", "that", "behaves", "as", "an", "interpreter", "of", "3", "In", "case", "the", "previous", "stage", "pointcut", "was", "used", "with", "a", "star", ",", "Arachne", "examines", "nodes", "from", "linked", "list", "associated", "with", "the", "last", "two", "previous", "stages", ",", "and", "so", "on", ",", "until", "a", "not", "starred", "primitive", "aspect", "in", "the", "sequence", "is", "reached", ".", "Execution", "times", "-LRB-", "cycles", "-RRB-", "Arachne", "Native", "Ratio", "call", "28", "2.3", "%", "21", "1.9", "%", "1.3", "seq", "201", "0.5", "%", "63", "1.7", "%", "3.2", "cflow", "228", "1.6", "%", "42", "1.8", "%", "5.4", "readGlobal", "2762", "4.3", "%", "1", "0.2", "%", "2762", "read", "9729", "4.9", "%", "1", "0.6", "%", "9729", "Table", "1", ":", "Speed", "of", "each", "language", "construct", "used", "to", "interpret", "the", "base", "program", "compared", "to", "a", "native", "execution", ".", "the", "base", "program", ".", "For", "example", ",", "to", "study", "the", "performance", "of", "readGlobal", ",", "we", "wrote", "an", "aspect", "whose", "action", "returns", "the", "value", "of", "the", "global", "variable", "referred", "in", "the", "pointcut", ",", "i.e.", ",", "we", "wrote", "aspects", "behaving", "like", "the", "base", "program", ".", "For", "each", "of", "these", "aspects", ",", "we", "compare", "the", "time", "required", "to", "perform", "the", "operation", "matching", "the", "pointcut", ",", "in", "case", "the", "operation", "is", "interpreted", "by", "the", "woven", "aspect", "with", "the", "time", "required", "to", "carry", "out", "the", "operation", "natively", "-LRB-", "without", "the", "woven", "aspect", "-RRB-", ".", "For", "example", ",", "to", "study", "the", "performance", "of", "readGlobal", ",", "we", "first", "evaluate", "the", "time", "needed", "to", "retrieve", "the", "global", "variable", "value", "through", "the", "code", "generated", "by", "the", "C", "compiler", "gcc", "without", "any", "aspect", "woven", "and", "compare", "this", "value", "to", "the", "time", "needed", "to", "retrieve", "the", "global", "variable", "value", "through", "the", "aspect", "once", "it", "has", "been", "woven", "in", "the", "base", "program", ".", "We", "express", "our", "measurements", "as", "a", "ratio", "between", "these", "two", "durations", "to", "abstract", "from", "the", "experimentation", "platform", ".", "This", "approach", "requires", "the", "ability", "to", "measure", "short", "periods", "of", "time", ".", "For", "instance", ",", "a", "global", "variable", "value", "is", "usually", "retrieved", "-LRB-", "readGlobal", "in", "our", "aspect", "language", "-RRB-", "in", "a", "single", "clock", "tick", ".", "Since", "standard", "time", "measurement", "APIs", "were", "not", "precise", "enough", ",", "our", "benchmarking", "infrastructure", "relies", "on", "the", "rdtsc", "assembly", "instruction", "-LSB-", "18", "-RSB-", ".", "This", "instruction", "returns", "the", "number", "of", "clock", "cycles", "elapsed", "since", "power", "up", ".", "The", "Pentium", "4", "processor", "has", "the", "ability", "to", "dynamically", "reorder", "the", "instructions", "it", "executes", ".", "To", "ensure", "the", "validity", "of", "our", "measurement", ",", "we", "thus", "insert", "mfence", "instructions", "in", "the", "generated", "code", "whose", "execution", "speed", "is", "being", "measured", ".", "An", "mfence", "forces", "the", "preceding", "instructions", "to", "be", "fully", "executed", "before", "going", "on", ".", "The", "pipeline", "mechanism", "in", "the", "Pentium", "4", "processor", "entails", "that", "the", "speed", "of", "a", "piece", "of", "assembly", "code", "depends", "from", "the", "preceding", "instructions", ".", "To", "avoid", "such", "hidden", "dependencies", ",", "we", "place", "the", "operation", "whose", "execution", "time", "is", "being", "measured", "in", "a", "loop", ".", "We", "use", "gcc", "to", "unroll", "the", "loop", "at", "compile", "time", "and", "we", "measure", "the", "time", "to", "execute", "the", "complete", "loop", ".", "This", "measure", "divided", "by", "the", "number", "of", "loop", "repetitions", "yields", "an", "estimation", "of", "the", "time", "required", "to", "execute", "the", "operation", ".", "The", "number", "of", "times", "the", "loop", "is", "executed", "is", "chosen", "after", "the", "relative", "variations", "of", "the", "measures", ",", "i.e.", ",", "we", "increased", "the", "number", "of", "repetitions", "until", "ten", "runs", "yields", "an", "average", "relative", "variation", "not", "exceeding", "5", "%", ".", "To", "check", "the", "correctness", "of", "our", "experimental", "protocol", ",", "we", "measured", "the", "time", "needed", "to", "execute", "a", "nop", "assembly", "instruction", ",", "that", "requires", "one", "processor", "cycle", "according", "to", "the", "Intel", "specification", ".", "The", "measures", "of", "nop", "presented", "a", "relative", "variation", "of", "1.6", "%", ".", "Table", "1", "summarizes", "our", "experimental", "results", ".", "Using", "the", "aspect", "language", "to", "replace", "a", "function", "that", "returns", "immediately", "is", "only", "1.3", "times", "slower", "than", "a", "direct", ",", "aspect-less", ",", "call", "to", "that", "empty", "function", ".", "Since", "the", "aspect", "compiler", "packages", "advices", "as", "regular", "C", "functions", ",", "and", "because", "a", "call", "pointcut", "involves", "no", "residue", ",", "this", "good", "result", "is", "not", "surprising", ".", "When", "35", "Controlflow", "28", "Cycles", "228", "Cycles", "327", "Cycles", "424", "Cycles", "522", "Cycles", "1", "2", "5", "3", "4", "10", "20", "30", "Ratio", "with", "a", "normal", "function", "call", "Number", "of", "imbricated", "calls", "1", "2", "5", "3", "4", "Ratio", "with", "3", "calls", "Number", "of", "matching", "instances", "5", "10", "200.6", "Cycles", "293.2", "Cycles", "380.8", "Cycles", "466.3", "Cycles", "Sequence", "Ratio", "1000", "2000", "3000", "577", "Cycles", "Figure", "11", ":", "controlflow", ",", "seq", ",", "and", "read", "performances", "an", "access", "to", "a", "global", "variable", "is", "replaced", "by", "an", "advice", "execution", ",", "the", "hooks", "generated", "by", "the", "rewriting", "strategy", "need", "to", "prepare", "the", "processor", "to", "call", "the", "advice", "function", ".", "This", "increases", "the", "time", "spent", "in", "the", "hooks", ".", "In", "addition", ",", "while", "an", "access", "to", "a", "global", "variable", "is", "often", "performed", "by", "a", "single", "x86", "instruction", ",", "an", "empty", "function", "is", "often", "composed", "of", "four", "instructions", ".", "Hence", "the", "relative", "cost", "of", "an", "aspect", "triggered", "upon", "a", "global", "variable", "access", "and", "a", "direct", ",", "aspect-less", ",", "access", "to", "a", "global", "variable", "is", "slightly", "higher", "than", "the", "corresponding", "ratio", "for", "functions", ".", "A", "seq", "of", "three", "invocations", "of", "empty", "functions", "is", "only", "3.2", "time", "slower", "than", "the", "direct", ",", "aspect-less", ",", "three", "successive", "functions", "calls", ".", "Compared", "to", "the", "pointcuts", "used", "to", "delimit", "the", "different", "stages", ",", "the", "seq", "overhead", "is", "limited", "to", "a", "few", "pointer", "exchanges", "between", "the", "linked", "lists", "holding", "the", "bound", "variable", ".", "On", "Intel", "x86", ",", "global", "variable", "accesses", "benefit", "from", "excellent", "hardware", "support", ".", "In", "the", "absence", "of", "aspects", ",", "a", "direct", "global", "variable", "read", "is", "usually", "carried", "out", "in", "a", "single", "unique", "cycle", ".", "To", "trigger", "the", "advice", "execution", ",", "the", "Arachne", "runtime", "has", "to", "save", "and", "restore", "the", "processor", "state", "to", "ensure", "the", "execution", "co-herency", ",", "as", "advices", "are", "packaged", "as", "regular", "C", "functions", "-LRB-", "see", "also", "4.2.1", "-RRB-", ".", "It", "is", "therefore", "not", "surprising", "that", "a", "global", "variable", "readGlobal", "appears", "as", "being", "2762", "times", "slower", "than", "a", "direct", ",", "aspect-less", "global", "variable", "read", ".", "read", "performance", "can", "be", "accounted", "in", "the", "same", "way", ":", "in", "the", "absence", "of", "aspect", ",", "local", "variables", "are", "accessed", "in", "a", "single", "unique", "cycle", ".", "The", "signal", "mechanism", "used", "in", "the", "read", "requires", "that", "the", "operating", "system", "detects", "the", "base", "program", "attempt", "to", "read", "into", "a", "protected", "memory", "page", "before", "locating", "and", "triggering", "the", "signal", "handler", "set", "up", "by", "Arachne", ",", "as", "shown", "in", "4.2.3", ".", "Such", "switches", "to", "and", "from", "kernel", "space", "remain", "slow", ".", "Using", "read", "to", "read", "a", "local", "variable", "is", "9729", "times", "slower", "than", "retrieving", "the", "local", "variable", "value", "directly", ",", "without", "aspects", ".", "seq", "and", "controlflow", "can", "refer", "to", "several", "points", "in", "the", "execution", "of", "the", "base", "program", "-LRB-", "i.e.", "different", "stages", "for", "seq", "and", "different", "function", "invocations", "for", "the", "controlflow", "-RRB-", ".", "The", "runtime", "of", "these", "pointcuts", "grows", "linearly", "with", "the", "number", "of", "execution", "points", "they", "refer", "to", "and", "with", "the", "number", "of", "matching", "instances", ".", "Figure", "11", "summarizes", "a", "few", "experimental", "results", "for", "controlflow", "and", "seq", "proving", "these", "points", ".", "5.2", "Case", "Study", "on", "a", "real", "application", "Since", ",", "depending", "on", "the", "aspect", "construct", "used", ",", "interpreting", "the", "base", "program", "with", "aspects", "can", "slow", "it", "down", "by", "a", "factor", "ranging", "between", "1.3", "and", "9729", ",", "we", "studied", "Arachne", "'s", "performance", "on", "a", "real", "world", "application", ",", "the", "Web", "cache", "Squid", ".", "Arachne", "Manual", "Top1", "Top1", "Diff", "Top2", "Top2", "-LRB-", "%", "-RRB-", "Throughput", "-LRB-", "request/s", "-RRB-", "5.59", "5.59", "5.58", "5.59", "Response", "Time", "-LRB-", "ms", "-RRB-", "1131.42", "1146.07", "1.2", "-1", "1085.31", "1074.55", "Miss", "response", "time", "-LRB-", "ms", "-RRB-", "2533.50", "2539.52", "0.2", "1.8", "2528.35", "2525.34", "Hit", "response", "time", "-LRB-", "ms", "-RRB-", "28.96", "28.76", "-0.6", "3.8", "30.62", "31.84", "Hit", "ratio", "59.76", "59.35", "-0.6", "0.7", "61.77", "62.22", "Errors", "0.51", "0.50", "-1.9", "0", "0.34", "0.34", "Table", "2", ":", "Performances", "comparison", "between", "manual", "modification", "and", "Arachne", ",", "for", "prefechting", "policy", "integration", "in", "Squid", "We", "extended", "Squid", "with", "a", "prefetching", "policy", "-LSB-", "9", "-RSB-", ".", "As", "described", "in", "section", "3.1", ",", "we", "implemented", "this", "policy", "as", "a", "set", "of", "aspects", "and", "made", "a", "second", "implementation", "of", "this", "policy", "by", "editing", "the", "Squid", "source", "code", "and", "recompiling", "it", ".", "This", "section", "compares", "the", "performance", "of", "these", "two", "implemen-tations", "using", "standard", "Web", "cache", "performance", "indicators", ":", "throughput", ",", "response", "time", "and", "hit", "ratio", ".", "Obtaining", "access", "traces", "adequate", "to", "study", "a", "Web", "cache", "performance", "is", "difficult", ".", "The", "trace", "must", "be", "long", "enough", "to", "fill", "the", "cache", ".", "Due", "to", "privacy", "issues", ",", "traces", "are", "usually", "not", "publicly", "available", ".", "Since", "traces", "do", "not", "include", "the", "content", "of", "the", "accessed", "pages", ",", "these", "pages", "must", "be", "downloaded", "again", ".", "In", "the", "meantime", "the", "page", "contents", "may", "have", "changed", "and", "even", "the", "URLs", "may", "have", "disappeared", ".", "Instead", "of", "traces", ",", "we", "based", "our", "evaluation", "on", "Web", "Polygraph", "-LSB-", "30", "-RSB-", ".", "Polygraph", "is", "a", "benchmarking", "tool", "developed", "by", "the", "Squid", "team", "and", "featuring", "a", "realistic", "HTTP", "and", "SSL", "traffic", "generator", "and", "a", "flexible", "content", "simulator", ".", "We", "filled", "up", "the", "cache", "and", "simulated", "a", "one", "day", "workload", "with", "its", "two", "request", "rate", "peaks", "observed", "in", "real", "life", "environments", "-LSB-", "30", "-RSB-", ".", "Table", "2", "shows", "results", "of", "our", "simulation", ".", "Measures", "have", "been", "made", "during", "the", "two", "request", "peaks", ".", "The", "hit", "time", "and", "the", "miss", "time", ",", "time", "needed", "to", "deliver", "a", "document", "present", ",", "respectively", "not", "present", ",", "in", "the", "cache", "are", "very", "similar", ".", "It", "shows", "that", "differences", "are", "imperceptible", "between", "the", "version", "of", "Squid", "extended", "by", "Arachne", "and", "the", "one", "extended", "manually", "-LRB-", "less", "than", "1", "%", "-RRB-", ".", "Hence", ",", "even", "if", "the", "cost", "of", "Arachne", "'s", "aspect", "language", "constructs", "might", "seem", "high", ",", "they", "are", "largely", "amortized", "in", "real", "applications", ".", "To", "give", "a", "typical", "example", "observed", "on", "our", "experimental", "platform", ":", "in", "case", "of", "a", "cache", "hit", ",", "a", "3.8", "MB", "page", "was", "retrieved", "in", "a", "single", "second", ",", "the", "time", "spent", "in", "prefetching", "advices", "amounted", "to", "1801", "sec", ",", "and", "the", "time", "spent", "within", "Arachne", "to", "execute", "the", "hooks", "and", "dynamic", "tests", "to", "0.45", "sec", ".", "In", "a", "miss", "case", ",", "on", "the", "average", ",", "a", "client", "retrieved", "the", "same", "page", "in", "1.3", "seconds", ",", "16679", "sec", "were", "spent", "in", "the", "advices", "and", "0.67", "sec", "within", "Arachne", "itself", ".", "Our", "work", "is", "directly", "related", "to", "other", "aspect", "weavers", "for", "C", ",", "approaches", "for", "expressive", "aspect", "languages", ",", "and", "dynamic", "weaving", ",", "in", "particular", "for", "C", ".", "In", "this", "section", ",", "we", "consider", "related", "work", "in", "each", "of", "these", "fields", "in", "turn", ".", "Apart", "from", "Dyner", "and", "Arachne", ",", "there", "are", "few", "aspect", "36", "weavers", "for", "C", "-LRB-", "or", "even", "C", "like", "languages", "-RRB-", ";", "some", "noteworthy", "exceptions", "are", "AspectC", "-LSB-", "12", "-RSB-", "-LRB-", "no", "available", "implementation", "-RRB-", ",", "AspectC", "+", "+", "and", "-LSB-", "33", "-RSB-", ".", "All", "of", "these", "rely", "on", "source-code", "transformation", "and", "thus", "can", "not", "apply", "aspects", "to", "running", "C", "applications", "as", "required", "by", "the", "applications", "we", "consider", ".", "Furthermore", ",", "none", "of", "these", "systems", "provides", "explicit", "support", "for", "aspects", "over", "join", "point", "sequences", ".", "There", "is", "quite", "a", "large", "body", "of", "work", "now", "on", "the", "notion", "of", "expressive", "aspect", "languages", "where", "``", "more", "expressive", "''", "typically", "compares", "to", "w.r.t.", "AspectJ", "'s", "pointcut", "and", "advice", "models", ".", "Our", "work", "has", "been", "inspired", "by", "Event-based", "AOP", "-LSB-", "15", "-RSB-", ",", "which", "aims", "at", "the", "definition", "of", "pointcuts", "in", "terms", "of", "arbitrary", "relations", "between", "events", ".", "Nevertheless", ",", "many", "other", "approaches", "to", "expressive", "aspect", "languages", "exist", ":", "e.g.", ",", "data-flow", "relations", "-LSB-", "26", "-RSB-", ",", "logic", "programming", "-LSB-", "13", "-RSB-", ",", "process", "algebras", "-LSB-", "3", "-RSB-", ",", "graphs", "-LSB-", "5", "-RSB-", ",", "and", "temporal", "logics", "-LSB-", "1", "-RSB-", ",", "have", "all", "been", "proposed", "as", "a", "basis", "for", "the", "definition", "of", "expressive", "aspect", "languages", ".", "However", ",", "few", "of", "these", "encompass", "dynamic", "weaving", "and", "only", "the", "latter", "has", "been", "applied", "to", "C", "code", "under", "efficiency", "considerations", "similar", "to", "our", "setting", ".", "Dynamic", "weaving", "is", "commonly", "realized", "in", "Java", "through", "preprocessing", "at", "load-time", "like", "-LSB-", "8", "-RSB-", "or", "through", "the", "JVM", "Debugging", "Interface", "-LSB-", "28", "-RSB-", ".", "These", "tools", "rely", "on", "bytecode", "rewriting", "techniques", ",", "have", "typically", "limited", "expressivity", "-LRB-", "some", "do", "not", "support", "field", "accesses", "-RRB-", "and", "incur", "a", "huge", "performance", "overhead", ".", "Dynamic", "weaving", "through", "modification", "at", "runtime", "is", "found", "infrequently", "for", "compiled", "languages", ".", "An", "exception", "for", "Java", "is", "JasCo", "-LSB-", "21", "-RSB-", "whose", "most", "recent", "version", "-LRB-", "0.7", "-RRB-", "supports", "dynamic", "weaving", "through", "the", "new", "instrumentation", "API", "of", "Java", "5", ".", "Many", "instrumentation", "techniques", "have", "been", "proposed", "to", "rewrite", "binary", "code", "on", "the", "fly", ".", "In", "these", "approaches", ",", "difficulty", "issues", "range", "from", "the", "complexity", "to", "rewrite", "binary", "code", "to", "the", "lack", "of", "a", "well-defined", "relationship", "between", "source", "code", "and", "the", "compiler", "generated", "binary", "code", ".", "Hence", "many", "approaches", "work", "on", "an", "intermediate", "representation", "of", "the", "binary", "code", "and", "source", "language", "-LSB-", "34", "-RSB-", ".", "Producing", "this", "representation", "first", "and", "then", "regenerating", "the", "appropriate", "binary", "executable", "code", "has", "proven", "to", "be", "costly", "both", "in", "terms", "of", "memory", "consumption", "and", "in", "CPU", "time", ".", "A", "few", "other", "approaches", "have", "considered", "a", "direct", "rewriting", "of", "the", "binary", "code", "at", "runtime", ".", "Dyninst", "-LSB-", "17", "-RSB-", "and", "dynamic", "probes", "-LSB-", "27", "-RSB-", "allow", "programmers", "to", "modify", "any", "binary", "instruction", "belonging", "to", "an", "executable", ".", "Dyninst", "however", "relies", "on", "the", "Unix", "debugging", "API", ":", "ptrace", ".", "ptrace", "allows", "a", "third", "party", "process", "to", "read", "and", "write", "the", "base", "program", "memory", ".", "It", "is", "however", "highly", "inefficient", ":", "before", "using", "ptrace", ",", "the", "third", "party", "process", "has", "to", "suspend", "the", "execution", "of", "the", "base", "program", "and", "resume", "its", "execution", "afterwards", ".", "In", "comparison", ",", "Arachne", "uses", "ptrace", "at", "most", "once", ",", "to", "inject", "its", "kernel", "DLL", "into", "the", "base", "program", "process", ".", "In", "addition", ",", "Dyninst", "does", "not", "free", "the", "programmer", "from", "dealing", "with", "low", "level", "details", ".", "For", "example", ",", "it", "seems", "difficult", "to", "trigger", "an", "advice", "execution", "upon", "a", "variable", "access", "with", "Dyninst", ":", "the", "translation", "from", "the", "variable", "identifier", "to", "an", "effective", "address", "is", "left", "to", "the", "user", ".", "Worse", ",", "Dyninst", "does", "not", "grant", "that", "the", "manipulation", "of", "the", "binary", "instructions", "it", "performs", "will", "succeed", ".", "Dyninst", "uses", "an", "instrumentation", "strategy", "where", "several", "adjacent", "instructions", "are", "relocated", ".", "This", "is", "unsafe", "as", "one", "of", "the", "relocated", "instructions", "can", "be", "the", "target", "of", "branching", "instructions", ".", "In", "comparison", ",", "Arachne", "join", "point", "model", "has", "been", "carefully", "chosen", "to", "avoid", "these", "kind", "of", "issues", ";", "if", "an", "aspect", "can", "be", "compiled", "with", "Arachne", ",", "it", "can", "always", "be", "woven", ".", "In", "this", "paper", "we", "have", "discussed", "three", "different", "crosscutting", "concerns", "which", "are", "typical", "for", "C", "applications", "using", "OS-level", "services", "and", "which", "frequently", "need", "to", "be", "applied", "at", "runtime", ".", "We", "have", "motivated", "that", "such", "concerns", "can", "be", "expressed", "as", "aspects", "and", "have", "defined", "a", "suitable", "aspect", "language", ".", "This", "language", "is", "more", "expressive", "than", "those", "used", "in", "other", "aspect", "weavers", "for", "C", "in", "that", "it", "provides", "support", "for", "aspects", "defined", "over", "sequences", "of", "execution", "points", "as", "well", "as", "for", "variable", "aliases", ".", "We", "have", "presented", "an", "integration", "of", "this", "language", "into", "Arachne", ",", "a", "weaver", "for", "runtime", "weaving", "of", "aspects", "in", "C", "applications", ".", "Finally", ",", "we", "have", "provided", "evidence", "that", "the", "integration", "is", "efficient", "enough", "to", "apply", "such", "aspects", "dynamically", "to", "high-performance", "applications", ",", "in", "particular", "the", "web", "cache", "``", "squid", ".", "''", "As", "future", "work", ",", "we", "intend", "to", "investigate", "the", "suitability", "of", "the", "proposed", "aspect", "language", "for", "other", "C-applications", ".", "We", "also", "intend", "to", "investigate", "Arachne", "extension", "to", "the", "C++", "language", ".", "Indeed", ",", "object-oriented", "programming", "heavily", "uses", "protocol-based", "interfaces", "collaboration", "-LRB-", "hence", "sequence", "aspects", "-RRB-", ".", "Along", "with", "its", "open", "architecture", ",", "extending", "Arachne", "to", "support", "C++", ",", "will", "pave", "the", "way", "to", "a", "relatively", "language", "independent", "aspect", "and", "weaving", "infrastructure", ".", "Finally", ",", "Arachne", "'s", "toolbox", "should", "be", "extended", "with", "support", "for", "aspect", "interactions", "-LRB-", "e.g.", ",", "analyses", "and", "composition", "operators", "-RRB-", ".", "-LSB-", "1", "-RSB-", "R.", "A.", "Aberg", ",", "J.", "L.", "Lawall", ",", "M.", "S", "udholt", ",", "G.", "Muller", ",", "and", "A.-F", ".", "L.", "Meur", ".", "On", "the", "automatic", "evolution", "of", "an", "os", "kernel", "using", "temporal", "logic", "and", "AOP", ".", "In", "Proceedings", "of", "Automated", "Software", "Engineering", "-LRB-", "ASE", "'", "03", "-RRB-", ",", "pages", "196", "204", ".", "IEEE", ",", "2003", ".", "-LSB-", "2", "-RSB-", "American", "National", "Standards", "Institute", ".", "ANSI/ISO/IEC", "9899-1999", ":", "Programming", "Languages", "--", "C.", "American", "National", "Standards", "Institute", ",", "1430", "Broadway", ",", "New", "York", ",", "NY", "10018", ",", "USA", ",", "1999", ".", "-LSB-", "3", "-RSB-", "J.", "H.", "Andrews", ".", "Process-algebraic", "foundations", "of", "aspect-oriented", "programming", ".", "In", "Proceedings", "of", "the", "3rd", "International", "Conference", "on", "Metalevel", "Architectures", "and", "Separation", "of", "Crosscutting", "Concerns", ",", "volume", "2192", "of", "LNCS", ".", "Springer", "Verlag", ",", "Sept.", "2001", ".", "-LSB-", "4", "-RSB-", "M.", "Arlitt", "and", "T.", "Jin", ".", "A", "workload", "characterization", "study", "of", "the", "1998", "world", "cup", "web", "site", ".", "IEEE", "Network", ",", "14", "-LRB-", "3", "-RRB-", ":", "30", "37", ",", "May", "2000", ".", "-LSB-", "5", "-RSB-", "U.", "A", "mann", "and", "A.", "Ludwig", ".", "Aspect", "weaving", "by", "graph", "rewriting", ".", "In", "U.", "W.", "Eisenecker", "and", "K.", "Czarnecki", ",", "editors", ",", "Generative", "Component-based", "Software", "Engineering", "-LRB-", "GCSE", "-RRB-", ",", "Erfurt", ",", "Oct.", "1999", ".", "-LSB-", "6", "-RSB-", "CERT", "-", "Carnegie", "Mellon", "University", ".", "Vulnerability", "note", "vu", "#", "613459", ",", "Feb.", "2002", ".", "published", "on", "line", ":", "http://www.kb.cert.org/vuls/id/613459", ".", "-LSB-", "7", "-RSB-", "H.", "Chen", "and", "P.", "Mohapatra", ".", "Catp", ":", "A", "context-aware", "transportation", "protocol", "for", "http", ".", "In", "International", "Workshop", "on", "New", "Advances", "in", "Web", "Servers", "and", "Proxy", "Technologies", "Held", "with", "ICDCS", ",", "2003", ".", "-LSB-", "8", "-RSB-", "S.", "Chiba", "and", "K.", "Nakagawa", ".", "Josh", ":", "An", "open", "AspectJ-like", "language", ".", "In", "Proceedings", "of", "the", "third", "37", "international", "conference", "on", "Aspect-oriented", "software", "development", ",", "pages", "102", "111", ".", "ACM", "Press", ",", "Mar.", "2004", ".", "-LSB-", "9", "-RSB-", "K.-I", ".", "Chinen", "and", "S.", "Yamaguchi", ".", "An", "interactive", "prefetching", "proxy", "server", "for", "improvement", "of", "WWW", "latency", ".", "In", "Seventh", "Annual", "Conference", "of", "the", "Internet", "Society", "-LRB-", "INET", "'", "97", "-RRB-", ",", "Kuala", "Lumpur", ",", "June", "1997", ".", "-LSB-", "10", "-RSB-", "I.", "Cidon", ",", "A.", "Gupta", ",", "R.", "Rom", ",", "and", "C.", "Schuba", ".", "Hybrid", "tcp-udp", "transport", "for", "web", "traffic", ".", "In", "Proceedings", "of", "the", "18th", "IEEE", "International", "Performance", ",", "Computing", ",", "and", "Communications", "Conference", "-LRB-", "IPCCC", "'", "99", "-RRB-", ",", "pages", "177", "184", ",", "Feb.", "1990", ".", "-LSB-", "11", "-RSB-", "S.", "Clowes", ".", "Injectso", ":", "Modifying", "and", "spying", "on", "running", "processes", "under", "linux", ".", "In", "Black", "hat", "briefings", ",", "2001", ".", "-LSB-", "12", "-RSB-", "Y.", "Coady", ",", "G.", "Kiczales", ",", "M.", "Feeley", ",", "and", "G.", "Smolyn", ".", "Using", "AspectC", "to", "improve", "the", "modularity", "of", "Path-Specific", "customization", "in", "operating", "system", "code", ".", "In", "V.", "Gruhn", ",", "editor", ",", "Proc", ".", "of", "the", "Joint", "8th", "European", "Software", "Engeneering", "Conference", "and", "9th", "ACM", "SIGSOFT", "Symposium", "on", "the", "Foundation", "of", "Software", "Engeneering", "-LRB-", "ESEC/FSE", "-01", "-RRB-", ",", "volume", "26", ",", "5", "of", "SOFTWARE", "ENGINEERING", "NOTES", ",", "pages", "88", "98", ",", "New", "York", ",", "Sept.", "10", "14", "2001", ".", "ACM", "Press", ".", "-LSB-", "13", "-RSB-", "K.", "de", "Volder", ".", "Aspect-oriented", "logic", "meta", "programming", ".", "In", "P.", "Cointe", ",", "editor", ",", "Meta-Level", "Architectures", "and", "Reflection", ",", "2nd", "International", "Conference", "on", "Reflection", ",", "volume", "1616", "of", "LNCS", ",", "pages", "250", "272", ".", "Springer", "Verlag", ",", "1999", ".", "-LSB-", "14", "-RSB-", "R.", "Douence", ",", "P.", "Fradet", ",", "and", "M.", "S", "udholt", ".", "A", "framework", "for", "the", "detection", "and", "resolution", "of", "aspect", "interactions", ".", "In", "Proceedings", "of", "the", "ACM", "SIGPLAN/SIGSOFT", "Conference", "on", "Generative", "Programming", "and", "Component", "Engineering", "-LRB-", "GPCE", "'", "02", "-RRB-", ",", "volume", "2487", "of", "LLNCS", ",", "pages", "173", "188", ".", "Springer-Verlag", ",", "Oct.", "2002", ".", "-LSB-", "15", "-RSB-", "R.", "Douence", ",", "O.", "Motelet", ",", "and", "M.", "S", "udholt", ".", "A", "formal", "definition", "of", "crosscuts", ".", "In", "Proceedings", "of", "the", "3rd", "International", "Conference", "on", "Metalevel", "Architectures", "and", "Separation", "of", "Crosscutting", "Concerns", ",", "volume", "2192", "of", "LNCS", ",", "pages", "170", "186", ".", "Springer", "Verlag", ",", "Sept.", "2001", ".", "-LSB-", "16", "-RSB-", "E.", "Hilsdale", "and", "J.", "Hugunin", ".", "Advice", "weaving", "in", "aspectj", ".", "In", "Proceedings", "of", "the", "3rd", "international", "conference", "on", "Aspect-oriented", "software", "development", ",", "pages", "26", "35", ".", "ACM", "Press", ",", "2004", ".", "-LSB-", "17", "-RSB-", "J.", "K.", "Hollingsworth", ",", "B.", "P.", "Miller", ",", "M.", "J.", "R.", "Goncalves", ",", "O.", "Naim", ",", "Z.", "Xu", ",", "and", "L.", "Zheng", ".", "MDL", ":", "A", "language", "and", "compiler", "for", "dynamic", "program", "instrumentation", ".", "In", "IEEE", "Conference", "on", "Parallel", "Architectures", "and", "Compilation", "Techniques", "-LRB-", "PACT", "-RRB-", ",", "pages", "201", "213", ",", "Nov.", "1997", ".", "-LSB-", "18", "-RSB-", "Intel", "Corportation", ".", "IA-32", "Intel", "Architecture", "Software", "Developer", "'s", "Manual", ".", "Intel", "Corportation", ",", "2001", ".", "-LSB-", "19", "-RSB-", "V.", "Issarny", ",", "M.", "Ban", "^", "atre", ",", "B.", "Charpiot", ",", "and", "J.-M", ".", "Menaud", ".", "Quality", "of", "service", "and", "electronic", "newspaper", ":", "The", "Etel", "solution", ".", "Lecture", "Notes", "in", "Computer", "Science", ",", "1752:472", "496", ",", "2000", ".", "-LSB-", "20", "-RSB-", "J.", "Jaffar", ",", "S.", "Michaylov", ",", "P.", "J.", "Stuckey", ",", "and", "R.", "H.", "C.", "Yap", ".", "The", "clp", "-LRB-", "r", "-RRB-", "language", "and", "system", ".", "ACM", "Trans", ".", "Program", ".", "Lang", ".", "Syst.", ",", "14", "-LRB-", "3", "-RRB-", ":", "339", "395", ",", "1992", ".", "-LSB-", "21", "-RSB-", "JasCo", "home", "page", ".", "http://ssel.vub.ac.be/jasco/", ".", "-LSB-", "22", "-RSB-", "R.", "Jones", "and", "P.", "Kelly", ".", "Backwards-compatible", "bounds", "checking", "for", "arrays", "and", "pointers", "in", "c", "programs", ".", "In", "M.", "Kamkar", ",", "editor", ",", "Proceedings", "of", "the", "Third", "International", "Workshop", "on", "Automatic", "Debugging", ",", "volume", "2", ",", "pages", "13", "26", ",", "May", "1997", ".", "-LSB-", "23", "-RSB-", "A.", "D.", "Keromytis", ".", "``", "Patch", "on", "Demand", "''", "Saves", "Even", "More", "Time", "?", "IEEE", "Computer", ",", "37", "-LRB-", "8", "-RRB-", ":", "94", "96", ",", "2004", ".", "-LSB-", "24", "-RSB-", "G.", "Kiczales", ",", "J.", "Lamping", ",", "A.", "Menhdhekar", ",", "C.", "Maeda", ",", "C.", "Lopes", ",", "J.-M", ".", "Loingtier", ",", "and", "J.", "Irwin", ".", "Aspect-oriented", "programming", ".", "In", "M.", "Ak", "sit", "and", "S.", "Matsuoka", ",", "editors", ",", "Proceedings", "European", "Conference", "on", "Object-Oriented", "Programming", ",", "volume", "1241", ",", "pages", "220", "242", ".", "Jyv", "askyl", "a", ",", "Finland", ",", "June", "1997", ".", "-LSB-", "25", "-RSB-", "K.", "J.", "Lieberherr", ",", "J.", "Palm", ",", "and", "R.", "Sundaram", ".", "Expressiveness", "and", "complexity", "of", "crosscut", "languages", ".", "Technical", "Report", "NU-CCIS-04-10", ",", "Northeastern", "University", ",", "Sept.", "2004", ".", "-LSB-", "26", "-RSB-", "H.", "Masuhara", "and", "K.", "Kawauchi", ".", "Dataflow", "pointcut", "in", "aspect-oriented", "programming", ".", "In", "First", "Asian", "Symposium", "on", "Programming", "Languages", "and", "Systems", "-LRB-", "APLAS", "'", "03", "-RRB-", ",", "2003", ".", "-LSB-", "27", "-RSB-", "R.", "J.", "Moore", ".", "Dynamic", "probes", "and", "generalised", "kernel", "hooks", "interface", "for", "Linux", ".", "In", "USENIX", ",", "editor", ",", "Proceedings", "of", "the", "4th", "Annual", "Linux", "Showcase", "and", "Conference", ",", "Atlanta", ",", "October", "10", "14", ",", "2000", ",", "Atlanta", ",", "Georgia", ",", "USA", ",", "Berkeley", ",", "CA", ",", "USA", ",", "2000", ".", "USENIX", ".", "-LSB-", "28", "-RSB-", "A.", "Popovici", ",", "G.", "Alonso", ",", "and", "T.", "Gross", ".", "Just-in-time", "aspects", ":", "efficient", "dynamic", "weaving", "for", "Java", ".", "In", "Proceedings", "of", "the", "2nd", "international", "conference", "on", "Aspect-oriented", "software", "development", ",", "pages", "100", "109", ",", "Boston", ",", "Massachusetts", ",", "Mar.", "2003", ".", "ACM", "Press", ".", "-LSB-", "29", "-RSB-", "M.", "Rabinovich", "and", "H.", "Wang", ".", "DHTTP", ":", "An", "efficient", "and", "cache-friendly", "transfer", "protocol", "for", "web", "traffic", ".", "In", "INFOCOM", ",", "pages", "1597", "1606", ",", "2001", ".", "-LSB-", "30", "-RSB-", "A.", "Rousskov", "and", "D.", "Wessels", ".", "High-performance", "benchmarking", "with", "Web", "Polygraph", ".", "Software", "Practice", "and", "Experience", ",", "34", "-LRB-", "2", "-RRB-", ":", "187", "211", ",", "Feb.", "2004", ".", "-LSB-", "31", "-RSB-", "O.", "Ruwase", "and", "M.", "S.", "Lam", ".", "A", "practical", "dynamic", "buffer", "overflow", "detector", ".", "In", "Proceedings", "of", "the", "11th", "Annual", "Network", "and", "Distributed", "System", "Security", "Symposium", ".", "Internet", "Society", ",", "Feb.", "2004", ".", "-LSB-", "32", "-RSB-", "M.", "S", "egura-Devillechaise", ",", "J.-M", ".", "Menaud", ",", "G.", "Muller", ",", "and", "J.", "Lawall", ".", "Web", "cache", "prefetching", "as", "an", "aspect", ":", "Towards", "a", "dynamic-weaving", "based", "solution", ".", "In", "Proceedings", "of", "the", "2nd", "international", "conference", "on", "Aspect-oriented", "software", "development", ",", "pages", "110", "119", ",", "Boston", ",", "MA", ",", "USA", ",", "Mar.", "2003", ".", "ACM", "Press", ".", "-LSB-", "33", "-RSB-", "O.", "Spinczyk", ",", "A.", "Gal", ",", "and", "W.", "Schroeder-Preikschat", ".", "AspectC", "+", "+", ":", "an", "aspect-oriented", "extension", "to", "the", "C++", "programming", "language", ".", "In", "Proceedings", "of", "the", "Fortieth", "International", "Conference", "on", "Tools", "Pacific", ",", "pages", "53", "60", ".", "Australian", "Computer", "Society", ",", "Inc.", ",", "2002", ".", "-LSB-", "34", "-RSB-", "A.", "Srivastava", "and", "A.", "Edwards", ".", "Vulcan", ":", "Binary", "transformation", "in", "a", "distributed", "environment", ".", "Microsoft", "Research", "Tech", ".", "Rpt", ".", "MSR-TR-2001-50", ",", "2001", ".", "-LSB-", "35", "-RSB-", "U.", "S.", "L.", "System", "Unix", ".", "System", "V", "Application", "Binary", "Interface", "Intel", "386", "Architecture", "Processor", "Supplement", ".", "Prentice", "Hall", "Trade", ",", "1994", ".", "-LSB-", "36", "-RSB-", "D.", "Wessels", ".", "Squid", ":", "The", "Definitive", "Guide", ".", "O'Reilly", "and", "Associates", ",", "Jan.", "2004", ".", "-LSB-", "37", "-RSB-", "J.", "Wilander", "and", "M.", "Kamkar", ".", "A", "comparison", "of", "publicly", "available", "tools", "for", "dynamic", "buffer", "overflow", "prevention", ".", "In", "Proceedings", "of", "the", "10th", "Network", "and", "Distributed", "System", "Security", "Symposium", ",", "pages", "149", "162", ",", "San", "Diego", ",", "California", ",", "February", "2003", ".", "38"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "I", "O", "B", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "B", "I", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["operating system", "buffer overflows", "network protocol", "arachne", "aspect language", "system applications", "dynamic weaving", "c applications", "prefetching", "binary code", "web cache"], "abstractive_keyphrases": ["sequence pointcut"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "36", "document": ["Analysis", "of", "Soft", "Handover", "Measurements", "in", "3G", "Network", "A", "neural", "network", "based", "clustering", "method", "for", "the", "analysis", "of", "soft", "handovers", "in", "3G", "network", "is", "introduced", ".", "The", "method", "is", "highly", "visual", "and", "it", "could", "be", "utilized", "in", "explorative", "analysis", "of", "mobile", "networks", ".", "In", "this", "paper", ",", "the", "method", "is", "used", "to", "find", "groups", "of", "similar", "mobile", "cell", "pairs", "in", "the", "sense", "of", "handover", "measurements", ".", "The", "groups", "or", "clusters", "found", "by", "the", "method", "are", "characterized", "by", "the", "rate", "of", "successful", "handovers", "as", "well", "as", "the", "causes", "of", "failing", "handover", "attempts", ".", "The", "most", "interesting", "clusters", "are", "those", "which", "represent", "certain", "type", "of", "problems", "in", "handover", "attempts", ".", "By", "comparing", "variable", "histograms", "of", "a", "selected", "cluster", "to", "histograms", "of", "the", "whole", "data", "set", "an", "application", "domain", "expert", "may", "find", "some", "explanations", "on", "problems", ".", "Two", "clusters", "are", "investigated", "further", "and", "causes", "of", "failing", "handover", "attempts", "are", "discussed", ".", "H.", "4.3", "-LSB-", "Information", "Systems", "Applications", "-RSB-", ":", "Communications", "Applications", "--", "Information", "browsers", ";", "I.", "5.3", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Clustering", "Algorithms", ",", "Management", ",", "Performance", "Mobility", "management", "is", "a", "great", "challenge", "in", "current", "and", "future", "radio", "access", "networks", ".", "In", "third", "generation", "-LRB-", "3G", "-RRB-", "networks", "user", "experienced", "quality", "of", "service", "-LRB-", "QoS", "-RRB-", "under", "a", "move", "of", "mobile", "station", "-LRB-", "MS", "-RRB-", "from", "one", "mobile", "cell", "to", "another", "cell", "has", "been", "improved", "by", "implementing", "soft", "handover", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MSWiM", "'", "06", ",", "October", "2", "6", ",", "2006", ",", "Torremolinos", ",", "Malaga", ",", "Spain", ".", "Copyright", "2006", "ACM", "1-59593-477-4", "/", "06/0010", "...", "$", "5.00", ".", "-LRB-", "SHO", "-RRB-", ".", "Soft", "handover", "makes", "it", "possible", "to", "have", "connections", "on", "several", "base", "stations", "-LRB-", "BS", "-RRB-", "simultaneously", ".", "In", "this", "paper", ",", "a", "set", "of", "measurements", "which", "can", "be", "used", "for", "soft", "handover", "decision", "making", "are", "analyzed", "and", "compared", "with", "other", "measurements", "in", "which", "statistics", "of", "successful-ness", "of", "handover", "attempts", "have", "been", "collected", ".", "We", "do", "not", "know", "exactly", "the", "parameters", "of", "used", "SHO", "algorithm", ".", "SHOs", "are", "investigated", "only", "on", "basis", "of", "data", "set", "and", "some", "general", "knowledge", "of", "3G", "systems", ".", "Mobile", "cell", "pairs", "with", "handovers", "-LRB-", "HO", "-RRB-", "are", "divided", "in", "groups", "using", "clustering", "algorithm", ".", "Cell", "pairs", "in", "which", "SHOs", "are", "similar", "with", "each", "other", "fall", "in", "same", "group", ".", "Different", "types", "of", "SHO", "failures", "are", "analyzed", "using", "clustering", "information", "and", "distributions", "of", "measurements", "in", "each", "cluster", ".", "In", "Section", "2", "the", "soft", "handover", "concept", ",", "the", "measurements", "and", "used", "neural", "network", "algorithm", "are", "shortly", "introduced", ".", "Analysis", "methods", "which", "have", "been", "used", "are", "described", "in", "Section", "3", ".", "Preliminary", "results", "are", "shown", "and", "discussed", "in", "Section", "4", ".", "Finally", ",", "some", "conclusions", "are", "drawn", "in", "the", "last", "section", ".", "In", "this", "section", ",", "the", "basics", "of", "soft", "handover", "in", "3G", "network", "is", "explained", "and", "the", "available", "data", "set", "is", "introduced", ".", "Neural", "network", "algorithm", "used", "in", "data", "clustering", "is", "also", "presented", ".", "2.1", "Soft", "handover", "Soft", "handover", "is", "a", "state", "of", "MS", "being", "connected", "to", "several", "BSs", "simultaneously", ".", "In", "GSM", "networks", ",", "a", "fixed", "threshold", "for", "handover", "from", "one", "cell", "to", "another", "is", "used", ".", "In", "3G", "networks", ",", "each", "MS", "is", "connected", "to", "a", "network", "via", "a", "set", "of", "BSs", "called", "active", "set", ".", "Members", "of", "active", "set", "are", "updated", "on", "basis", "of", "measurements", "made", "by", "MS.", "The", "advantage", "of", "having", "connections", "on", "several", "BS", "simultaneously", "is", "realized", "when", "MS", "is", "moving", "towards", "another", "BS", ",", "the", "MS", "should", "have", "a", "connection", "at", "least", "on", "one", "BS", "all", "the", "time", ".", "In", "GSM", "system", ",", "the", "older", "connection", "has", "to", "be", "terminated", "before", "the", "new", "one", "can", "be", "setup", ".", "The", "connection", "setup", "phases", "are", "the", "most", "vulnerable", "steps", "in", "a", "call", ".", "The", "connection", "between", "MS", "and", "BS", "is", "setup", "in", "a", "beginning", "of", "a", "call", "or", "later", "when", "handover", "occurs", ".", "If", "the", "setup", "is", "not", "successful", ",", "it", "is", "useful", "to", "have", "an", "existing", "connection", "to", "another", "BS", "or", "otherwise", "the", "call", "will", "be", "abnormally", "terminated", ".", "Handover", "can", "occur", "due", "to", "signal", "quality", "reasons", "or", "when", "the", "traffic", "capacity", "in", "a", "cell", "has", "reached", "its", "maximum", "or", "is", "approaching", "it", ".", "In", "the", "latter", "case", ",", "traffic", "load", "in", "the", "network", "can", "be", "distributed", "more", "uniformly", "by", "handing", "over", "some", "users", "from", "the", "most", "crowded", "cells", ".", "The", "above", "method", "is", "330", "called", "cell", "breathing", ".", "Use", "of", "cell", "breathing", "without", "giving", "the", "information", "to", "the", "analyzer", "increases", "the", "complexity", "of", "the", "analysis", "and", "can", "mix", "up", "a", "lot", "in", "the", "analysis", "process", ".", "For", "a", "user", "soft", "handover", "means", "power", "saving", "-LRB-", "in", "uplink", "-RRB-", "and", "less", "abnormally", "terminated", "calls", ".", "For", "an", "operator", "lower", "MS", "transmitting", "powers", "mean", "less", "interference", ".", "When", "MS", "is", "in", "SHO", ",", "several", "BSs", "listen", "the", "same", "uplink", "channel", ",", "but", "all", "BSs", "have", "their", "own", "downlink", "channel", ".", "The", "offered", "diversity", "is", "resource", "consuming", "in", "downlink", "direction", ".", "There", "is", "a", "tradeoff", "between", "better", "QoS", "in", "mobility", "management", "and", "consumption", "of", "resources", ".", "Decision", "of", "soft", "handover", "is", "made", "in", "mobile", "station", "by", "comparing", "the", "signal-to-noise", "ratios", "of", "active", "and", "candidate", "BSs", "Common", "Pilot", "Channel", "-LRB-", "CPICH", "-RRB-", "-LSB-", "2", "-RSB-", ".", "Members", "of", "active", "set", "are", "selected", "on", "basis", "of", "powers", "of", "this", "pilot", "signal", "-LSB-", "5", ",", "12", ",", "16", "-RSB-", ".", "BSs", "which", "are", "not", "in", "the", "active", "set", "but", "next", "from", "it", "in", "the", "sense", "of", "measured", "quantity", "are", "in", "candidate", "set", ".", "Candidate", "set", "BSs", "are", "constantly", "monitored", "whether", "their", "offer", "better", "connection", "than", "cells", "in", "active", "set", ".", "Cells", "not", "in", "active", "or", "candidate", "set", "are", "monitored", "less", "frequently", "whether", "their", "can", "enter", "the", "candidate", "set", ".", "Cell", "is", "either", "added", "to", "the", "active", "set", "if", "the", "maximum", "amount", "of", "cells", "in", "the", "active", "set", "is", "not", "reached", "or", "cell", "replaces", "the", "cell", "which", "offers", "the", "lowest", "quality", "connection", ".", "Cells", "which", "are", "no", "more", "able", "to", "offer", "a", "connection", "which", "is", "good", "enough", "are", "removed", "from", "the", "active", "set", ".", "Thresholds", "are", "used", "in", "adding", ",", "replacing", "and", "removing", "BSs", "from", "active", "set", "by", "BSs", "in", "candidate", "set", "to", "avoid", "ping", "pong", "effect", ".", "This", "means", "that", "a", "value", "of", "measured", "quantity", "should", "be", "with", "a", "certain", "threshold", "better", "than", "the", "old", "one", "for", "changing", "cells", "in", "active", "set", ".", "If", "measurement", "which", "is", "only", "slightly", "better", "-LRB-", "i.e.", "with", "zero", "threshold", "-RRB-", "is", "enough", "for", "changing", "cells", "in", "sets", ",", "it", "is", "quite", "possible", "that", "the", "same", "change", "is", "performed", "in", "opposite", "direction", "very", "soon", ".", "Thus", ",", "the", "original", "update", "of", "the", "set", "was", "useless", "and", "resource", "consuming", "in", "the", "sense", "of", "all", "required", "signaling", ".", "2.2", "Data", "Three", "data", "sets", "of", "Key", "Performance", "Indicator", "-LRB-", "KPI", "-RRB-", "level", "measurements", "related", "on", "handover", "events", "are", "saved", ".", "Each", "set", "consists", "of", "measurements", "collected", "during", "one", "hour", ".", "KPI", "is", "considered", "as", "an", "important", "measure", "to", "be", "followed", ".", "It", "can", "be", "a", "measurement", "by", "itself", "or", "it", "has", "been", "computed", "from", "a", "group", "of", "raw", "counters", "-LSB-", "10", "-RSB-", ".", "One", "data", "vector", "consists", "of", "probabilities", ",", "means", ",", "sums", "and", "counters", "computed", "over", "one", "hour", "of", "one", "source", "target", "cell", "pair", ".", "Here", ",", "source", "refers", "on", "cell", "in", "active", "set", "and", "target", "on", "another", "cell", "which", "is", "measured", "and", "possibly", "added", "in", "active", "or", "candidate", "set", ".", "Measurements", "of", "target", "cell", "are", "compared", "with", "those", "of", "source", "cell", ".", "Handover", "decisions", "are", "made", "in", "MS", "on", "basis", "of", "measured", "and", "computed", "base", "stations", "received", "signal", "signal-to-noise", "ratios", "-LRB-", "E", "c", "/", "N", "0", "-RRB-", ".", "For", "each", "source", "and", "target", "cell", "pair", "mean", "of", "signal-to-noise", "ratio", "differences", "is", "computed", "using", "EcnoDiffMean", "=", "mean", "n", "-LSB-", "E", "c", "/", "N", "0", "-RSB-", "target", "-", "-LSB-", "E", "c", "/", "N", "0", "-RSB-", "source", "o", ".", "Mean", "value", "and", "number", "of", "made", "comparisons", "-LRB-", "EcnoDiffNum", "-RRB-", "are", "saved", ".", "Four", "bin", "pdfs", "of", "these", "measurements", "are", "also", "stored", "with", "bin", "centers", "in", "-6", ",", "-3", ",", "0", "and", "3dB", ",", "correspond-ingly", ".", "In", "addition", "to", "E", "c", "/", "N", "0", "measurements", ",", "averages", "of", "received", "pilot", "signal", "power", "ratios", "between", "BS", "pairs", "-LRB-", "av", "rscp", "ratio", "-RRB-", "have", "been", "computed", "and", "stored", "in", "database", ".", "The", "time", "and", "probability", "of", "being", "in", "SHO", "with", "each", "other", "have", "also", "been", "measured", ".", "Time", "of", "target", "and", "source", "cell", "being", "in", "SHO", "with", "each", "other", "simultaneously", "is", "counted", "in", "variable", "t", "act", ".", "Then", ",", "at", "least", "one", "MS", "is", "in", "SHO", "having", "both", "source", "and", "target", "cell", "in", "its", "active", "set", ".", "The", "measurement", "is", "symmetric", "for", "a", "switch", "of", "source", "and", "target", "cells", ".", "Time", "of", "target", "cell", "being", "in", "SHO", "with", "source", "cell", "is", "stored", "in", "t", "act", "dir", ".", "Cell", "total", "time", "in", "SHO", "is", "saved", "in", "tot", "time", "sho", ".", "It", "has", "been", "counted", "over", "all", "the", "targets", "of", "fixed", "source", "cell", ".", "Probability", "of", "target", "and", "source", "being", "in", "same", "active", "set", "is", "stored", "in", "variable", "p", "act", ".", "Total", "number", "of", "SHO", "attempts", "to", "add", "target", "to", "active", "set", "is", "stored", "in", "SHO", "total", "att", ".", "Ratio", "of", "successful", "SHO", "attempts", "which", "lead", "to", "addition", "of", "target", "cell", "in", "active", "set", "is", "saved", "in", "add", "ratio", ".", "In", "addition", "to", "those", "above", ",", "the", "number", "of", "SHO", "failures", "is", "stored", "in", "pfail", "total", "and", "ratios", "of", "four", "different", "failure", "causes", "are", "saved", ".", "Failure", "occurs", "in", "setup", "or", "active", "time", "phase", "of", "SHO", "and", "it", "is", "either", "radio", "channel", "problem", "or", "not", ".", "Probability", "of", "cell", "being", "in", "monitored", "state", "is", "also", "measured", "-LRB-", "p4th", "5th", "-RRB-", ".", "All", "the", "measurements", "used", "in", "the", "analysis", "are", "shortly", "described", "in", "Table", "1", ".", "A", "lot", "of", "data", "has", "been", "saved", "in", "data", "sets", ",", "but", "also", "some", "very", "important", "information", "is", "missing", ".", "Due", "to", "missing", "information", "on", "cell", "capacities", ",", "their", "locations", "and", "performed", "manual", "and", "automatic", "tuning", "operations", "on", "network", "configuration", "between", "successive", "data", "set", "saves", ",", "only", "preliminary", "analysis", "can", "be", "performed", ".", "The", "rest", "of", "the", "analysis", "process", "is", "described", "on", "theoretical", "level", ".", "2.3", "Self-Organizing", "Map", "Self-Organizing", "Map", "-LRB-", "SOM", "-RRB-", "-LSB-", "8", "-RSB-", "is", "an", "unsupervised", "neural", "network", "algorithm", "which", "adapts", "the", "codebook", "vectors", "of", "neurons", "so", "that", "they", "approximate", "the", "input", "data", "distribution", ".", "When", "the", "training", "has", "converged", "topological", "areas", "or", "domains", "corresponding", "to", "certain", "types", "of", "inputs", "can", "be", "found", "from", "the", "map", ".", "The", "topology", "and", "the", "size", "of", "the", "network", "is", "fixed", "before", "adaptation", ".", "In", "the", "SOM", "algorithm", ",", "the", "codebook", "vectors", "w", "j", "of", "the", "SOM", "are", "at", "first", "initialized", ".", "Then", ",", "the", "following", "steps", "are", "repeated", "for", "each", "input", "vector", "x", ":", "Find", "the", "index", "of", "best-matching", "or", "nearest", "codebook", "vector", "using", "i", "-LRB-", "x", "-RRB-", "=", "argmin", "|", "|", "x", "-", "w", "j", "|", "|", ",", "in", "which", "j", "goes", "through", "all", "the", "neurons", "in", "the", "map", ".", "Next", ",", "the", "codebook", "vectors", "of", "winner", "neuron", "and", "its", "neighbors", "are", "updated", "using", "w", "j", "-LRB-", "t", "+", "1", "-RRB-", "=", "w", "j", "-LRB-", "t", "-RRB-", "+", "h", "ij", "-LRB-", "x", "-RRB-", "-LRB-", "x", "-LRB-", "t", "-RRB-", "-", "w", "j", "-LRB-", "t", "-RRB-", "-RRB-", ".", "Here", ",", "is", "the", "learning", "rate", "and", "h", "ij", "-LRB-", "x", "-RRB-", "is", "the", "neighborhood", "function", "centered", "around", "the", "winner", "neuron", ".", "Input", "sample", "x", "defines", "the", "winner", "neuron", "and", "the", "topological", "distance", "between", "indexes", "i", "and", "j", "defines", "how", "much", "the", "neuron", "is", "updated", ".", "Neighborhood", "function", "is", "typically", "Gaussian", "or", "bubble", "function", "i.e.", "function", "which", "decrease", "monotonically", "and", "even", "goes", "to", "zero", "when", "the", "distance", "increases", ".", "In", "this", "paper", ",", "a", "batch", "version", "of", "the", "SOM", "algorithm", "is", "used", ".", "In", "batch", "SOM", ",", "all", "codebook", "vectors", "of", "the", "SOM", "are", "computed", "after", "the", "best-matching", "units", "of", "all", "input", "data", "vectors", "have", "been", "found", ".", "The", "same", "data", "set", "is", "used", "several", "times", ".", "Handover", "related", "measurement", "from", "3G", "network", "can", "be", "analyzed", "using", "standard", "data", "mining", "methods", "-LSB-", "1", "-RSB-", ".", "In", "this", "331", "Table", "1", ":", "Measurements", "in", "the", "analysis", ".", "Data", "set", "has", "one", "sample", "vector", "for", "each", "source", "target", "cell", "pair", ".", "Variable", "Explanation", "Type", "EcnoDiffNum", "Computed", "E", "c", "/", "N", "0", "differences", "number", "EcnoDiffMean", "Computed", "E", "c", "/", "N", "0", "differences", "mean", "EcnoDiffPdf-6.0", "-6", "dB", "bin", "of", "E", "c", "/", "N", "0", "difference", "pdf", "ratio", "EcnoDiffPdf-3.0", "-3", "dB", "bin", "of", "E", "c", "/", "N", "0", "difference", "pdf", "ratio", "EcnoDiffPdf0", ".0", "0", "dB", "bin", "of", "E", "c", "/", "N", "0", "difference", "pdf", "ratio", "EcnoDiffPdf3", ".0", "3", "dB", "bin", "of", "E", "c", "/", "N", "0", "difference", "pdf", "ratio", "t", "act", "Target", "and", "source", "simultaneously", "in", "SHO", "mean", "t", "act", "dir", "Time", "of", "target", "being", "in", "SHO", "with", "source", "mean", "tot", "time", "sho", "Cell", "total", "time", "in", "SHO", "sum", "p", "act", "Target", "in", "active", "set", "of", "source", "ratio", "SHO", "total", "att", "SHO", "attempts", "to", "add", "Target", "to", "active", "set", "number", "add", "ratio", "Successful", "attempts", "leading", "to", "addition", "ratio", "pfail", "total", "Failures", "number", "pfail", "ini", "Setup", "phase", "failures", "due", "to", "non-radio", "ratio", "pfail", "ini", "radio", "Setup", "phase", "failures", "due", "to", "radio", "ratio", "pfail", "act", "Active", "time", "failures", "due", "to", "non-radio", "ratio", "pfail", "act", "radio", "Active", "time", "failures", "due", "to", "radio", "ratio", "p4th", "5th", "Cell", "is", "in", "monitored", "state", "-LRB-", "=", "4th", "or", "5th", "-RRB-", "ratio", "av", "rscp", "ratio", "Target", "/", "Source", "Received", "power", "ratio", "mean", "r", "fail", "Ratio", "pfail", "total", "/", "SHO", "total", "att", "ratio", "r", "EcnoDNum", "Ratio", "EcnoDiffNum", "/", "SHO", "total", "att", "ratio", "Variable", "defined", "in", "the", "analysis", ".", "study", ",", "methods", "presented", "in", "Figure", "1", "are", "used", ".", "At", "first", ",", "the", "miner", "have", "to", "decide", "what", "could", "be", "interesting", "in", "this", "data", ".", "The", "analysis", "task", "has", "to", "be", "defined", ".", "On", "basis", "of", "that", "the", "first", "choice", "of", "variables", "will", "be", "done", ".", "Next", ",", "the", "selected", "variables", "are", "preprocessed", ",", "in", "order", "to", "be", "able", "to", "use", "them", "in", "later", "analysis", ".", "In", "data", "mining", "tasks", ",", "variable", "selection", "and", "preprocessing", "are", "the", "most", "critical", "phases", ",", "because", "in", "this", "step", "the", "miner", "decides", "which", "variables", "are", "important", "and", "how", "should", "they", "be", "processed", ".", "The", "whole", "data", "mining", "process", "consists", "of", "several", "cycles", "performed", "repeatedly", ".", "The", "cycles", "include", "testing", "how", "different", "variable", "selections", "and", "preprocessing", "methods", "effect", "on", "final", "results", ".", "The", "process", "has", "inner", "loops", "in", "which", "some", "tasks", "or", "parameters", "are", "fixed", "on", "basis", "of", "selections", "made", "in", "outer", "loop", ".", "The", "inner", "loops", "are", "performed", "more", "frequently", ".", "Loops", "with", "more", "general", "task", "like", "the", "definition", "of", "mining", "task", "are", "repeated", "less", "frequently", ".", "When", "the", "mining", "task", "is", "defined", "the", "analyzer", "should", "be", "able", "to", "decide", "what", "is", "-LRB-", "s", "-RRB-", "he", "looking", "out", "for", ".", "Now", ",", "the", "analysis", "task", "is", "defined", "as", "finding", "groups", "of", "sim-ilarly", "behaving", "cell", "pairs", "in", "SHO", "situations", ".", "Importance", "of", "measurements", "can", "also", "be", "highlighted", "using", "proper", "weighting", "of", "variables", ".", "In", "addition", "to", "clustering", ",", "also", "other", "tasks", "for", "data", "analysis", "can", "be", "defined", ".", "One", "possibility", "is", "to", "try", "to", "find", "cells", "or", "cell", "pairs", "with", "anomalous", "behavior", ".", "Anomalies", "can", "also", "be", "found", "by", "clustering", ",", "but", "expert", "knowledge", "in", "variable", "selection", "and", "preprocessing", "steps", "are", "very", "important", ".", "Using", "different", "variables", ",", "preprocessing", "methods", "and", "weighting", "of", "variables", "different", "clustering", "results", "can", "be", "found", ".", "To", "find", "out", "which", "of", "them", "is", "useful", ",", "interpretation", "of", "clusters", "is", "needed", ".", "This", "can", "be", "done", "using", "histograms", "or", "rules", "defined", "by", "data", "samples", "falling", "in", "clusters", ".", "The", "results", "which", "have", "been", "found", "using", "clustering", "methods", "should", "be", "visualized", "together", "with", "spatial", "locations", "to", "be", "able", "to", "understand", "the", "usefulness", "of", "results", ".", "Methods", "should", "be", "performed", "repeatedly", "to", "analyze", "successive", "data", "sets", "under", "the", "knowledge", "of", "performed", "tuning", "operations", ".", "Thus", ",", "there", "is", "a", "possibility", "to", "find", "explanations", "to", "changing", "results", ".", "In", "this", "study", ",", "results", "of", "only", "one", "data", "set", "are", "shown", ",", "because", "more", "information", "on", "application", "domain", "is", "needed", "to", "be", "able", "to", "combine", "and", "compare", "successive", "clustering", "results", ".", "3.1", "Preprocessing", "Different", "preprocessing", "methods", "have", "been", "tested", ".", "The", "final", "method", "was", "selected", "on", "basis", "of", "histograms", "and", "the", "clusters", "which", "were", "found", "using", "the", "selected", "method", ".", "At", "the", "first", "step", ",", "the", "distributions", "are", "truncated", ".", "Outliers", "in", "the", "selected", "variables", "were", "replaced", "by", "their", "maximum", "permitted", "values", ".", "Two", "variables", ",", "pfail", "total", "and", "EcnoDiffNum", ",", "were", "scaled", "using", "the", "number", "of", "performed", "soft", "handover", "attempts", "-LRB-", "see", "Table", "1", "-RRB-", ".", "Logarithms", "of", "some", "of", "the", "variables", "were", "taken", ",", "but", "finally", "only", "scaled", "EcnoDiffNum", "was", "preprocessed", "with", "logarithmic", "function", ".", "Sample", "vectors", "with", "high", "amount", "of", "undefined", "measurements", "were", "canceled", ".", "Used", "clustering", "method", "-LRB-", "see", "section", "3.2", "-RRB-", "allows", "using", "sample", "vectors", "in", "which", "some", "variables", "are", "undefined", ".", "However", ",", "they", "are", "not", "so", "useful", "when", "the", "rate", "of", "undefined", "values", "increases", ".", "Here", ",", "sample", "vectors", "with", "15", "or", "more", "missing", "values", "in", "20", "variables", "are", "canceled", ".", "In", "Figure", "2", "the", "histograms", "of", "the", "most", "interesting", "variables", "preprocessed", "using", "selected", "methods", "are", "visualized", ".", "Some", "of", "the", "variables", "have", "quite", "high", "peaks", "in", "distributions", ",", "but", "due", "to", "the", "origin", "of", "variables", "no", "other", "preprocessing", "have", "been", "performed", ".", "For", "example", ",", "handover", "failure", "reasons", "pfail", "ini", ",", "pfail", "ini", "radio", ",", "pfail", "act", "radio", "and", "pfail", "act", "sum", "up", "to", "unity", ".", "However", ",", "pfail", "act", "is", "not", "analyzed", "because", "it", "is", "zero", "all", "the", "time", "in", "the", "first", "data", "set", ".", "332", "Interpretation", "of", "clusters", "Clustering", "Preprocessing", "Parameter", "tuning", "Task", "definition", "Visualization", "with", "locations", "Variable", "selection", "Figure", "1", ":", "Used", "data", "analysis", "method", ".", "Steps", "connected", "with", "solid", "arrows", "have", "been", "performed", ".", "3.2", "Clustering", "Cluster", "analysis", "is", "used", "to", "divide", "data", "vectors", "in", "groups", ".", "Data", "vectors", "falling", "in", "same", "cluster", "are", "similar", "with", "each", "other", ".", "Here", ",", "clustering", "is", "performed", "using", "a", "two-phase", "method", "-LSB-", "15", "-RSB-", ".", "In", "this", "method", ",", "data", "vectors", "are", "at", "first", "used", "to", "train", "a", "Self-Organizing", "Map", ".", "Neurons", "of", "the", "SOM", "adapt", "to", "incoming", "data", "so", "that", "the", "input", "data", "can", "in", "later", "analysis", "be", "represented", "by", "the", "codebook", "vectors", "of", "neurons", ".", "Number", "of", "these", "codebook", "vectors", "is", "much", "smaller", "than", "the", "number", "of", "original", "data", "vectors", ".", "Thus", ",", "computational", "complexity", "of", "the", "final", "crisp", "clustering", "algorithm", "is", "decreased", ".", "Another", "advantage", "of", "using", "a", "SOM", "based", "two-phase", "method", "instead", "of", "direct", "clustering", "of", "data", "vectors", "is", "the", "visualization", "capability", "of", "SOM", ".", "In", "addition", "to", "preprocessing", ",", "SOM", "algorithm", "provides", "another", "possibility", "to", "emphasize", "important", "properties", "of", "data", ".", "Larger", "weights", "in", "distance", "computation", "are", "given", "to", "the", "most", "important", "properties", "defined", "by", "the", "analyzer", ".", "Smaller", "or", "even", "zero", "weight", "can", "be", "given", "to", "those", "variables", "which", "are", "not", "used", "in", "organization", "of", "the", "SOM", "i.e.", "in", "building", "clusters", ".", "However", ",", "values", "of", "them", "can", "be", "compared", "to", "those", "with", "larger", "weights", "using", "various", "visualization", "methods", ".", "Weighting", "by", "variable", "importance", "can", "also", "be", "built", "into", "SOM", "training", "algorithm", "by", "utilizing", "learning", "distance", "metrics", "-LSB-", "7", "-RSB-", ".", "Figure", "2", ":", "Logarithmic", "histograms", "after", "distribution", "cuts", ",", "logarithmic", "preprocessing", "of", "r", "EcnoDNum", "and", "scaling", "of", "all", "variables", "between", "-LSB-", "0,1", "-RSB-", "The", "codebook", "vectors", "are", "further", "clustered", "using", "k-means", "or", "some", "hierarchical", "clustering", "method", ".", "In", "this", "paper", ",", "Ward", "agglomerative", "clustering", "method", "has", "been", "used", "-LSB-", "4", "-RSB-", ".", "In", "the", "beginning", "of", "hierarchical", "clustering", ",", "each", "codebook", "vector", "is", "a", "cluster", "of", "its", "own", ".", "In", "the", "next", "step", ",", "the", "most", "similar", "clusters", "are", "combined", "and", "this", "is", "continued", "until", "all", "vectors", "are", "in", "same", "cluster", ".", "The", "clustering", "results", "form", "a", "tree", "structure", "called", "dendrogram", ".", "In", "visualization", "of", "a", "dendrogram", ",", "the", "clusters", "combined", "in", "each", "step", "and", "the", "distance", "between", "them", "are", "shown", ".", "Final", "clustering", "is", "selected", "by", "cutting", "this", "tree", "at", "certain", "level", ".", "The", "number", "of", "clusters", "can", "be", "selected", "manually", "or", "some", "cluster", "validation", "index", "can", "be", "utilized", "to", "find", "the", "optimum", ".", "In", "this", "paper", ",", "Davies-Bouldin", "validation", "index", "has", "been", "used", "-LSB-", "3", "-RSB-", ".", "Similar", "clustering", "methods", "have", "earlier", "been", "used", "in", "the", "analysis", "of", "both", "GSM", "and", "3G", "network", "BTSs", "-LSB-", "9", ",", "11", ",", "13", "-RSB-", ".", "As", "a", "result", "of", "clustering", ",", "each", "data", "vector", "is", "represented", "by", "index", "of", "one", "neuron", "or", "by", "the", "codebook", "vector", "stored", "in", "that", "neuron", ".", "Furthermore", ",", "the", "neuron", "and", "the", "data", "vectors", "the", "neuron", "represents", "belong", "to", "same", "cluster", ".", "On", "basis", "of", "the", "clustering", "result", ",", "some", "clusters", "can", "be", "selected", "for", "more", "specific", "analysis", ".", "Cluster", "selection", "is", "usually", "done", "on", "basis", "of", "found", "higher", "values", "of", "some", "critical", "variables", ".", "It", "is", "possible", "to", "build", "a", "system", "in", "which", "rules", "are", "found", "for", "clusters", "-LSB-", "14", ",", "9", "-RSB-", "and", "these", "are", "used", "to", "select", "interesting", "clusters", "au-tomatically", ".", "Here", ",", "interesting", "clusters", "are", "selected", "manually", "on", "basis", "of", "clusterwise", "variable", "mean", "values", "and", "histograms", ".", "In", "this", "section", ",", "handover", "measurement", "data", "is", "used", "to", "train", "a", "Self-Organizing", "Map", "of", "size", "17", "12", ".", "Then", ",", "the", "codebook", "vectors", "of", "the", "SOM", "are", "clustered", "using", "hierarchical", "Ward", "method", ".", "Results", "of", "clustering", "are", "described", "and", "two", "clusters", "are", "then", "selected", "for", "more", "specific", "analysis", ".", "Characteristics", "of", "sample", "vectors", "falling", "in", "those", "clusters", "are", "studied", "using", "histograms", ".", "Only", "the", "most", "interesting", "variables", "are", "used", "to", "find", "the", "333", "nearest", "neuron", "of", "input", "data", "vector", ".", "These", "variables", "have", "nonzero", "mask", "which", "can", "also", "be", "considered", "as", "a", "weighting", "factor", "in", "a", "search", "for", "the", "best-matching", "neuron", ".", "Rest", "of", "the", "variables", "have", "zero", "mask", ",", "which", "means", "that", "they", "can", "be", "visualized", "and", "updated", "using", "SOM", "algorithm", ",", "but", "they", "do", "not", "have", "an", "effect", "on", "organization", "of", "the", "SOM", "and", "on", "selection", "of", "the", "cluster", "in", "which", "the", "sample", "belongs", "to", ".", "In", "Figure", "3", "all", "other", "component", "planes", "of", "SOM", "with", "positive", "mask", "are", "shown", ",", "except", "E", "c", "/", "N", "0", "difference", "distributions", "which", "are", "shown", "in", "Figure", "6", ".", "In", "component", "plane", "visualization", ",", "distributions", "of", "components", "-LRB-", "or", "variables", "-RRB-", "of", "SOM", "codebook", "vectors", "are", "shown", ".", "Component", "values", "of", "one", "codebook", "vector", "are", "visualized", "using", "grayscaling", "and", "their", "locate", "in", "the", "same", "position", "at", "each", "plane", ".", "For", "example", ",", "values", "of", "one", "codebook", "vector", "are", "shown", "at", "upper", "right", "corner", "in", "each", "plane", ".", "Figure", "3", ":", "Component", "planes", "of", "SOM", "with", "denor-malized", "scales", ".", "Shown", "variables", "have", "nonzero", "mask", "and", "they", "are", "not", "describing", "E", "c", "/", "N", "0", "difference", "distributions", ".", "Some", "component", "values", "which", "were", "not", "used", "in", "SOM", "training", "-LRB-", "i.e.", "they", "were", "masked", "out", "-RRB-", "are", "shown", "in", "Figure", "4", ".", "Although", ",", "they", "have", "no", "effect", "on", "SOM", "organization", ",", "they", "are", "adapted", "to", "be", "able", "to", "compare", "their", "distributions", "even", "with", "those", "used", "in", "organizing", "the", "SOM", ".", "By", "visual", "comparison", "of", "variables", "in", "Figures", "3", "and", "4", ",", "it", "can", "be", "seen", "that", "the", "total", "number", "of", "SHO", "attempts", "-LRB-", "SHO", "total", "att", "-RRB-", "and", "E", "c", "/", "N", "0", "difference", "measurements", "-LRB-", "EcnoDiffNum", "-RRB-", "is", "higher", "in", "upper", "part", "of", "the", "SOM", ".", "However", ",", "when", "the", "latter", "is", "scaled", "by", "total", "number", "of", "attempts", ",", "higher", "rate", "of", "measurements", "-LRB-", "r", "EcnoDNum", "-RRB-", "is", "in", "lower", "part", "of", "the", "map", ".", "Also", ",", "the", "total", "number", "of", "failuring", "SHO", "attempts", "-LRB-", "pfail", "total", "-RRB-", "is", "high", "in", "upper", "right", "corner", ",", "but", "scaling", "this", "by", "number", "of", "attempts", "tells", "us", "that", "the", "failure", "rate", "-LRB-", "r", "fail", "-RRB-", "in", "upper", "right", "corner", "is", "quite", "moderate", ".", "Instead", ",", "higher", "failure", "rates", "exists", "in", "both", "lower", "corners", "i.e.", "in", "clusters", "5", "and", "8", "-LRB-", "see", "Figure", "5", "-RRB-", ".", "Trained", "SOM", "codebook", "vectors", "are", "clustered", "using", "hierarchical", "Ward", "algorithm", ".", "The", "clustering", "result", "selected", "by", "Davies-Bouldin", "index", "is", "shown", "in", "Figure", "5", ".", "Four", "bin", "E", "c", "/", "N", "0", "difference", "histograms", "are", "visualized", "on", "top", "of", "clustered", "SOM", "Figure", "4", ":", "Denormalized", "component", "planes", "of", "variables", "which", "were", "not", "used", "in", "SOM", "training", ".", "in", "Figure", "6", ".", "When", "component", "values", "of", "SOM", "-LRB-", "see", "Figures", "3", ",", "4", "and", "6", "-RRB-", "are", "compared", "with", "clustering", "result", "-LRB-", "see", "Figure", "5", "-RRB-", "several", "types", "of", "source", "target", "pairs", "can", "be", "found", ".", "Most", "of", "them", "are", "behaving", "as", "expected", ",", "but", "some", "of", "them", "represent", "handover", "attempts", "with", "certain", "type", "of", "problems", ".", "Figure", "5", ":", "SOM", "which", "is", "clustered", "using", "hierarchical", "Ward", "method", "and", "Davies-Bouldin", "validation", "index", ".", "To", "find", "out", "the", "most", "interesting", "clusters", "of", "the", "SOM", "for", "further", "investigations", ",", "distribution", "of", "data", "samples", "on", "SOM", "is", "visualized", ".", "In", "Figure", "7a", "hits", "of", "all", "samples", "on", "SOM", "nodes", "are", "visualized", "and", "in", "Figure", "7b", "hits", "of", "samples", "with", "SHO", "failure", "rate", "-LRB-", "r", "fail", "-RRB-", "larger", "than", "22", "%", "are", "shown", ".", "Samples", "are", "distributed", "all", "over", "the", "map", ",", "only", "some", "edge", "nodes", "have", "slightly", "larger", "hit", "rate", ".", "Lower", "part", "of", "the", "map", "has", "more", "hits", "when", "samples", "with", "increased", "failure", "rate", "are", "considered", ".", "In", "Figure", "8", "hits", "of", "samples", "which", "represent", "two", "differ-334", "Figure", "6", ":", "EcnoDiff", "distributions", "on", "top", "of", "clustered", "SOM", ".", "In", "each", "SOM", "node", "a", "four", "bin", "E", "c", "/", "N", "0", "histogram", "is", "shown", ".", "ent", "types", "of", "SHO", "failures", "are", "shown", ".", "Samples", "are", "from", "cell", "pairs", "in", "which", "the", "rate", "of", "selected", "type", "of", "failures", "is", "larger", "than", "75", "%", ".", "However", ",", "handover", "initialization", "failures", "due", "to", "some", "other", "reason", "than", "radio", "channel", "resources", "-LRB-", "i.e.", "pfail", "ini", "type", "failures", "-RRB-", "are", "obviously", "more", "frequent", "than", "failures", "due", "to", "radio", "channel", "initialization", "problems", "-LRB-", "pfail", "ini", "radio", "type", "failures", "-RRB-", ".", "Cell", "pairs", "with", "SHO", "failures", "originating", "mainly", "from", "these", "two", "reasons", "are", "mapped", "on", "separate", "clusters", ".", "All", "SHO", "failures", "due", "to", "radio", "channel", "initialization", "are", "in", "cluster", "9", "-LRB-", "see", "Figures", "5", "and", "8b", "-RRB-", "and", "most", "of", "all", "other", "initialization", "failures", "are", "in", "cluster", "5", "-LRB-", "see", "Figures", "5", "and", "8a", "-RRB-", ".", "In", "the", "following", ",", "these", "two", "clusters", "are", "studied", "in", "more", "detail", ".", "In", "Figures", "9", "and", "10", "histograms", "of", "samples", "which", "belong", "to", "clusters", "5", "and", "9", "are", "shown", ".", "These", "histograms", "should", "be", "compared", "with", "histograms", "of", "whole", "data", "set", "which", "were", "shown", "in", "Figure", "2", ".", "In", "histograms", "of", "cluster", "5", "-LRB-", "see", "Figure", "9", "-RRB-", ",", "the", "average", "received", "signal", "power", "ratio", "-LRB-", "av", "rscp", "ratio", "-RRB-", "is", "slightly", "lower", "than", "in", "general", ".", "Distributions", "of", "three", "largest", "E", "c", "/", "N", "0", "difference", "measurement", "bins", "are", "completely", "different", "than", "corresponding", "distributions", "from", "the", "whole", "data", "set", ".", "In", "cluster", "5", "most", "of", "the", "samples", "have", "about", "3dB", "E", "c", "/", "N", "0", "difference", "-LRB-", "EcnodiffPdf3", ".0", "-RRB-", "which", "means", "that", "at", "least", "this", "measurement", "makes", "successful", "SHOs", "possible", "and", "SHO", "should", "be", "performed", ".", "Exceptional", "E", "c", "/", "N", "0", "difference", "measurements", "-LRB-", "a", "-RRB-", "All", "-LRB-", "b", "-RRB-", "SHO", "failure", "rate", ">", "22", "%", "Figure", "7", ":", "Sample", "vector", "hits", "on", "SOM", "nodes", ".", "Size", "of", "black", "hexagonal", "on", "SOM", "node", "denotes", "the", "number", "of", "hits", ".", "Maximum", "number", "of", "hits", "per", "node", "is", "shown", "above", "the", "plot", ".", "-LRB-", "a", "-RRB-", "pfail", "ini", "-LRB-", "b", "-RRB-", "pfail", "ini", "radio", "Figure", "8", ":", "Hits", "of", "samples", "of", "two", "failure", "types", ".", "Samples", "of", "which", "more", "than", "75", "%", "are", "failuring", "due", "to", "selected", "cause", "are", "counted", ".", "of", "this", "cluster", "can", "also", "be", "seen", "in", "Figure", "6", ".", "All", "the", "failing", "cell", "pairs", "fail", "in", "initialization", "due", "to", "other", "than", "radio", "channel", "reasons", "-LRB-", "pfail", "ini", "-RRB-", ".", "Total", "rate", "of", "failures", "is", "very", "high", "-LRB-", "r", "fail", "-RRB-", ".", "One", "reason", "for", "high", "rate", "of", "failures", "can", "be", "that", "all", "the", "capacity", "is", "in", "use", ".", "In", "histograms", "of", "cluster", "9", "-LRB-", "see", "Figure", "10", "-RRB-", ",", "the", "average", "received", "power", "ratios", "are", "a", "bit", "higher", "than", "usual", ",", "but", "there", "are", "no", "samples", "with", "high", "rate", "of", "3dB", "E", "c", "/", "N", "0", "differences", "-LRB-", "EcnoDiffPdf3", ".0", "-RRB-", ".", "However", ",", "in", "such", "a", "situation", "it", "should", "be", "possible", "to", "perform", "successful", "SHOs", ".", "The", "rate", "of", "initialization", "failures", "in", "radio", "channels", "-LRB-", "pfail", "ini", "radio", "-RRB-", "is", "higher", "than", "usually", ",", "but", "because", "only", "a", "small", "part", "of", "samples", "in", "this", "cluster", "have", "above", "mentioned", "problems", "the", "total", "SHO", "failure", "rate", "is", "not", "higher", "than", "usually", ".", "The", "total", "number", "of", "samples", "or", "cell", "pairs", "with", "high", "rate", "of", "initialization", "failures", "in", "SHO", "is", "so", "small", ",", "that", "it", "is", "impossible", "to", "make", "any", "further", "inferences", "from", "these", "clusters", ".", "It", "is", "possible", "to", "check", "histograms", "of", "only", "those", "samples", "which", "fulfill", "the", "failure", "rate", "criteria", ",", "but", "the", "number", "of", "samples", "is", "anyway", "quite", "low", ".", "335", "Figure", "9", ":", "Histograms", "of", "data", "vectors", "of", "cluster", "5", ".", "Cell", "pairs", "with", "high", "rate", "of", "radio", "channel", "initialization", "failures", "in", "SHO", "attempts", "vary", "from", "data", "set", "to", "another", ",", "but", "without", "any", "information", "on", "network", "topology", "and", "with", "uncomplete", "information", "on", "performed", "tuning", "operations", ",", "it", "is", "impossible", "to", "make", "any", "further", "inferences", ".", "Figure", "10", ":", "Histograms", "of", "data", "vectors", "of", "cluster", "9", ".", "In", "this", "paper", ",", "a", "data", "analysis", "method", "based", "on", "a", "neural", "network", "has", "been", "presented", ".", "The", "method", "is", "utilized", "in", "data", "visualization", "and", "clustering", ".", "The", "presented", "method", "is", "only", "one", "possibility", "for", "finding", "data", "clusters", ".", "However", ",", "the", "benefits", "of", "the", "proposed", "method", "are", "the", "decrease", "in", "computational", "complexity", "due", "to", "used", "two-phase", "clustering", "algorithm", "and", "the", "visualization", "capability", "of", "the", "method", ".", "Thus", ",", "it", "is", "well", "suitable", "for", "this", "kind", "of", "explorative", "data", "analysis", ".", "It", "is", "desirable", "to", "find", "clusters", "with", "characteristics", "which", "differ", "from", "one", "cluster", "to", "another", ".", "In", "the", "presented", "method", ",", "selection", "of", "variables", "and", "variable", "weighting", "factors", "have", "been", "used", "to", "find", "interesting", "clusters", ".", "In", "the", "preprocessing", "phase", ",", "also", "the", "number", "of", "permitted", "undefined", "measurement", "values", "in", "sample", "vector", "has", "an", "effect", "on", "found", "clusters", ".", "Sample", "vectors", "with", "high", "rate", "of", "missing", "values", "are", "not", "so", "usable", "and", "describable", "as", "samples", "without", "them", ".", "Vectors", "with", "missing", "values", "can", "be", "used", "in", "the", "SOM", "training", "but", "the", "benefit", "of", "using", "them", "decreases", "when", "the", "rate", "of", "undefined", "values", "increases", ".", "In", "this", "study", ",", "histograms", "are", "used", "both", "when", "preprocessing", "methods", "are", "decided", "and", "when", "an", "interpretation", "for", "the", "found", "clusters", "are", "looked", "for", ".", "However", ",", "clusters", "can", "also", "be", "compared", "using", "other", "visual", "methods", ",", "finding", "limiting", "rules", "for", "variable", "values", "in", "clusters", "or", "comparing", "distributions", "of", "variable", "values", "in", "clusters", "using", "more", "sophisticated", "distribution", "comparison", "measures", "like", "Kullback-Leibler", "divergences", "-LSB-", "6", "-RSB-", ".", "The", "results", "which", "have", "been", "obtained", "using", "all", "available", "data", "sets", "differ", "slightly", "from", "each", "other", ",", "but", "due", "to", "uncomplete", "information", "on", "network", "configuration", "and", "parameter", "tuning", ",", "further", "inferences", "can", "not", "be", "made", ".", "However", ",", "adding", "this", "information", "would", "offer", "interesting", "possibilities", "to", "continue", "this", "study", ".", "-LSB-", "1", "-RSB-", "P.", "Chapman", ",", "J.", "Clinton", ",", "T.", "Khabaza", ",", "T.", "Reinartz", ",", "and", "R.", "Wirth", ".", "CRISP-DM", "1.0", "step-by-step", "data", "mining", "guide", ".", "Technical", "report", ",", "CRISM-DM", "consortium", ",", "2000", ".", "http://www.crisp-dm.org", ".", "-LSB-", "2", "-RSB-", "Y.", "Chen", ".", "Soft", "Handover", "Issues", "in", "Radio", "Resource", "Management", "for", "3G", "WCDMA", "Networks", ".", "PhD", "thesis", ",", "Queen", "Mary", ",", "University", "of", "London", ",", "2003", ".", "-LSB-", "3", "-RSB-", "D.", "Davies", "and", "D.", "Bouldin", ".", "A", "cluster", "separation", "measure", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "1", "-LRB-", "2", "-RRB-", ":", "224", "227", ",", "April", "1979", ".", "-LSB-", "4", "-RSB-", "B.", "Everitt", ".", "Cluster", "Analysis", ".", "Arnold", ",", "1993", ".", "-LSB-", "5", "-RSB-", "V.", "K.", "Garg", ".", "Wireless", "Network", "Evolution", ":", "2G", "to", "3G", ".", "Prentice-Hall", ",", "Inc.", ",", "2002", ".", "-LSB-", "6", "-RSB-", "S.", "Haykin", ".", "Neural", "Networks", ",", "a", "Comprehensive", "Foundation", ".", "Macmillan", ",", "1999", ".", "-LSB-", "7", "-RSB-", "S.", "Kaski", "and", "J.", "Sinkkonen", ".", "Metrics", "that", "learn", "relevance", ".", "In", "Proceedings", "of", "the", "International", "Joint", "Conference", "on", "Neural", "Networks", ",", "volume", "5", ",", "pages", "547", "552", ",", "2000", ".", "-LSB-", "8", "-RSB-", "T.", "Kohonen", ".", "Self-Organizing", "Maps", ".", "Springer-Verlag", ",", "Berlin", ",", "1995", ".", "-LSB-", "9", "-RSB-", "J.", "Laiho", ",", "K.", "Raivio", ",", "P.", "Lehtim", "aki", ",", "K.", "H", "at", "onen", ",", "and", "O.", "Simula", ".", "Advanced", "analysis", "methods", "for", "3G", "cellular", "networks", ".", "IEEE", "Transactions", "on", "Wireless", "Communications", ",", "4", "-LRB-", "3", "-RRB-", ":", "930", "942", ",", "May", "2005", ".", "-LSB-", "10", "-RSB-", "J.", "Laiho", ",", "A.", "Wacker", ",", "and", "T.", "Novosad", ",", "editors", ".", "Radio", "Network", "Planning", "and", "Optimisation", "for", "UMTS", ".", "John", "Wiley", "&", "Sons", "Ltd.", ",", "2001", ".", "-LSB-", "11", "-RSB-", "P.", "Lehtim", "aki", "and", "K.", "Raivio", ".", "A", "SOM", "based", "approach", "for", "visualization", "of", "GSM", "network", "performance", "data", ".", "In", "IEA/AIE", ",", "pages", "588", "598", ",", "2005", ".", "-LSB-", "12", "-RSB-", "R.", "Prakash", "and", "V.", "Veeravalli", ".", "Locally", "optimal", "soft", "handoff", "algorithms", ".", "IEEE", "Transactions", "on", "Vehicular", "Technology", ",", "52", "-LRB-", "2", "-RRB-", ":", "347", "356", ",", "March", "2003", ".", "-LSB-", "13", "-RSB-", "K.", "Raivio", ",", "O.", "Simula", ",", "and", "J.", "Laiho", ".", "Neural", "analysis", "of", "mobile", "radio", "access", "network", ".", "In", "IEEE", "International", "336", "Conference", "on", "Data", "Mining", ",", "pages", "457", "464", ",", "San", "Jose", ",", "California", ",", "USA", ",", "November", "29", "-", "December", "2", "2001", ".", "-LSB-", "14", "-RSB-", "M.", "Siponen", ",", "J.", "Vesanto", ",", "O.", "Simula", ",", "and", "P.", "Vasara", ".", "An", "approach", "to", "automated", "interpretation", "of", "SOM", ".", "In", "N.", "Allinson", ",", "H.", "Yin", ",", "L.", "Allinson", ",", "and", "J.", "Slack", ",", "editors", ",", "Advances", "in", "Self-Organizing", "Maps", ",", "pages", "89", "94", ".", "Springer", ",", "2001", ".", "-LSB-", "15", "-RSB-", "J.", "Vesanto", "and", "E.", "Alhoniemi", ".", "Clustering", "of", "the", "self-organizing", "map", ".", "IEEE", "Transactions", "on", "Neural", "Networks", ",", "11", "-LRB-", "3", "-RRB-", ":", "586", "600", ",", "May", "2000", ".", "-LSB-", "16", "-RSB-", "J.", "Zander", ".", "Radio", "Resource", "Management", "for", "Wireless", "Networks", ".", "Artech", "House", ",", "Inc.", ",", "2001", ".", "337"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["hierarchical clustering", "mobility management", "neural networks", "data mining", "visualization capability", "soft handover", "decrease in computational complexity", "histograms", "3g network", "cluster analysis", "neural network algorithm"], "abstractive_keyphrases": ["key performance indicator of handover", "self-organizing map", "two-phase clustering algorithm"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "25", "document": ["Accelerated", "Focused", "Crawling", "through", "Online", "Relevance", "Feedback", "The", "organization", "of", "HTML", "into", "a", "tag", "tree", "structure", ",", "which", "is", "rendered", "by", "browsers", "as", "roughly", "rectangular", "regions", "with", "embedded", "text", "and", "HREF", "links", ",", "greatly", "helps", "surfers", "locate", "and", "click", "on", "links", "that", "best", "satisfy", "their", "information", "need", ".", "Can", "an", "automatic", "program", "emulate", "this", "human", "behavior", "and", "thereby", "learn", "to", "predict", "the", "relevance", "of", "an", "unseen", "HREF", "target", "page", "w.r.t.", "an", "information", "need", ",", "based", "on", "information", "limited", "to", "the", "HREF", "source", "page", "?", "Such", "a", "capability", "would", "be", "of", "great", "interest", "in", "focused", "crawling", "and", "resource", "discovery", ",", "because", "it", "can", "fine-tune", "the", "priority", "of", "unvisited", "URLs", "in", "the", "crawl", "frontier", ",", "and", "reduce", "the", "number", "of", "irrelevant", "pages", "which", "are", "fetched", "and", "discarded", ".", "We", "show", "that", "there", "is", "indeed", "a", "great", "deal", "of", "usable", "information", "on", "a", "HREF", "source", "page", "about", "the", "relevance", "of", "the", "target", "page", ".", "This", "information", ",", "encoded", "suitably", ",", "can", "be", "exploited", "by", "a", "supervised", "apprentice", "which", "takes", "online", "lessons", "from", "a", "traditional", "focused", "crawler", "by", "observing", "a", "carefully", "designed", "set", "of", "features", "and", "events", "associated", "with", "the", "crawler", ".", "Once", "the", "apprentice", "gets", "a", "sufficient", "number", "of", "examples", ",", "the", "crawler", "starts", "consulting", "it", "to", "better", "prioritize", "URLs", "in", "the", "crawl", "frontier", ".", "Experiments", "on", "a", "dozen", "topics", "using", "a", "482-topic", "taxonomy", "from", "the", "Open", "Directory", "-LRB-", "Dmoz", "-RRB-", "show", "that", "online", "relevance", "feedback", "can", "reduce", "false", "positives", "by", "30", "%", "to", "90", "%", ".", "Categories", "and", "subject", "descriptors", ":", "H.", "5.4", "-LSB-", "Information", "interfaces", "and", "presentation", "-RSB-", ":", "Hypertext/hypermedia", ";", "I.", "5.4", "-LSB-", "Pattern", "recognition", "-RSB-", ":", "Applications", ",", "Text", "processing", ";", "I.", "2.6", "-LSB-", "Artificial", "intelligence", "-RSB-", ":", "Learning", ";", "I.", "2.8", "-LSB-", "Artificial", "intelligence", "-RSB-", ":", "Problem", "Solving", ",", "Control", "Methods", ",", "and", "Search", ".", "General", "terms", ":", "Algorithms", ",", "performance", ",", "measurements", ",", "experimentation", ".", "Keyword", "search", "and", "clicking", "on", "links", "are", "the", "dominant", "modes", "of", "accessing", "hypertext", "on", "the", "Web", ".", "Support", "for", "keyword", "search", "through", "crawlers", "and", "search", "engines", "is", "very", "mature", ",", "but", "the", "surfing", "paradigm", "is", "not", "modeled", "or", "assisted", "-LRB-", "Note", ":", "The", "HTML", "version", "of", "this", "paper", "is", "best", "viewed", "using", "Microsoft", "Internet", "Explorer", ".", "To", "view", "the", "HTML", "version", "using", "Netscape", ",", "add", "the", "following", "line", "to", "your", "~", "/", ".", "Xdefaults", "or", "~", "/", ".", "Xresources", "file", ":", "Netscape", "*", "documentFonts.charset", "*", "adobe-fontspecific", ":", "iso-8859-1", "For", "printing", "use", "the", "PDF", "version", ",", "as", "browsers", "may", "not", "print", "the", "mathematics", "properly", ".", "-RRB-", "Contact", "author", ",", "email", "soumen@cse.iitb.ac.in", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "WWW2002", ",", "May", "7", "11", ",", "2002", ",", "Honolulu", ",", "Hawaii", ",", "USA", ".", "ACM", "1-58113-449-5", "/", "02/0005", "Baseline", "learner", "Dmoz", "topic", "taxonomy", "Class", "models", "consisting", "of", "term", "stats", "Frontier", "URLS", "priority", "queue", "Crawler", "Pick", "best", "Newly", "fetched", "page", "u", "Submit", "page", "for", "classification", "If", "Pr", "-LRB-", "c", "*", "|", "u", "-RRB-", "is", "large", "enough", "then", "enqueue", "all", "outlinks", "v", "of", "u", "with", "priority", "Pr", "-LRB-", "c", "*", "|", "u", "-RRB-", "Crawl", "database", "Seed", "URLs", "Figure", "1", ":", "A", "basic", "focused", "crawler", "controlled", "by", "one", "topic", "classifier/learner", ".", "as", "well", ".", "Support", "for", "surfing", "is", "limited", "to", "the", "basic", "interface", "provided", "by", "Web", "browsers", ",", "except", "for", "a", "few", "notable", "research", "prototypes", ".", "While", "surfing", ",", "the", "user", "typically", "has", "a", "topic-specific", "information", "need", ",", "and", "explores", "out", "from", "a", "few", "known", "relevant", "starting", "points", "in", "the", "Web", "graph", "-LRB-", "which", "may", "be", "query", "responses", "-RRB-", "to", "seek", "new", "pages", "relevant", "to", "the", "chosen", "topic/s", ".", "While", "deciding", "for", "or", "against", "clicking", "on", "a", "specific", "link", "-LRB-", "u", ",", "v", "-RRB-", ",", "humans", "use", "a", "variety", "of", "clues", "on", "the", "source", "page", "u", "to", "estimate", "the", "worth", "of", "the", "-LRB-", "unseen", "-RRB-", "target", "page", "v", ",", "including", "the", "tag", "tree", "structure", "of", "u", ",", "text", "embedded", "in", "various", "regions", "of", "that", "tag", "tree", ",", "and", "whether", "the", "link", "is", "relative", "or", "remote", ".", "``", "Every", "click", "on", "a", "link", "is", "a", "leap", "of", "faith", "''", "-LSB-", "19", "-RSB-", ",", "but", "humans", "are", "very", "good", "at", "discriminating", "between", "links", "based", "on", "these", "clues", ".", "Making", "an", "educated", "guess", "about", "the", "worth", "of", "clicking", "on", "a", "link", "-LRB-", "u", ",", "v", "-RRB-", "without", "knowledge", "of", "the", "target", "v", "is", "central", "to", "the", "surfing", "activity", ".", "Automatic", "programs", "which", "can", "learn", "this", "capability", "would", "be", "valuable", "for", "a", "number", "of", "applications", "which", "can", "be", "broadly", "characterized", "as", "personalized", ",", "topic-specific", "information", "foragers", ".", "Large-scale", ",", "topic-specific", "information", "gatherers", "are", "called", "focused", "crawlers", "-LSB-", "1", ",", "9", ",", "14", ",", "28", ",", "30", "-RSB-", ".", "In", "contrast", "to", "giant", ",", "all-purpose", "crawlers", "which", "must", "process", "large", "portions", "of", "the", "Web", "in", "a", "centralized", "manner", ",", "a", "distributed", "federation", "of", "focused", "crawlers", "can", "cover", "specialized", "topics", "in", "more", "depth", "and", "keep", "the", "crawl", "more", "fresh", ",", "because", "there", "is", "less", "to", "cover", "for", "each", "crawler", ".", "In", "its", "simplest", "form", ",", "a", "focused", "crawler", "consists", "of", "a", "supervised", "topic", "classifier", "-LRB-", "also", "called", "a", "`", "learner", "'", "-RRB-", "controlling", "the", "priority", "of", "the", "unvisited", "frontier", "of", "a", "crawler", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "The", "classifier", "is", "trained", "a", "priori", "on", "document", "samples", "embedded", "in", "a", "topic", "taxonomy", "such", "as", "Yahoo!", "or", "Dmoz", ".", "It", "thereby", "learns", "to", "label", "new", "documents", "as", "belonging", "to", "topics", "in", "the", "given", "taxonomy", "-LSB-", "2", ",", "5", ",", "21", "-RSB-", ".", "The", "goal", "of", "the", "focused", "crawler", "is", "to", "start", "from", "nodes", "relevant", "to", "a", "focus", "topic", "c", "in", "the", "Web", "graph", "and", "explore", "links", "to", "selectively", "collect", "pages", "about", "c", ",", "while", "avoiding", "fetching", "pages", "not", "about", "c", ".", "Suppose", "the", "crawler", "has", "collected", "a", "page", "u", "and", "148", "encountered", "in", "u", "an", "unvisited", "link", "to", "v", ".", "A", "simple", "crawler", "-LRB-", "which", "we", "call", "the", "baseline", "-RRB-", "will", "use", "the", "relevance", "of", "u", "to", "topic", "c", "-LRB-", "which", ",", "in", "a", "Bayesian", "setting", ",", "we", "can", "denote", "Pr", "-LRB-", "c", "|", "u", "-RRB-", "-RRB-", "as", "the", "estimated", "relevance", "of", "the", "unvisited", "page", "v", ".", "This", "reflects", "our", "belief", "that", "pages", "across", "a", "hyperlink", "are", "more", "similar", "than", "two", "randomly", "chosen", "pages", "on", "the", "Web", ",", "or", ",", "in", "other", "words", ",", "topics", "appear", "clustered", "in", "the", "Web", "graph", "-LSB-", "11", ",", "23", "-RSB-", ".", "Node", "v", "will", "be", "added", "to", "the", "crawler", "'s", "priority", "queue", "with", "priority", "Pr", "-LRB-", "c", "|", "u", "-RRB-", ".", "This", "is", "essentially", "a", "``", "best-first", "''", "crawling", "strategy", ".", "When", "v", "comes", "to", "the", "head", "of", "the", "queue", "and", "is", "actually", "fetched", ",", "we", "can", "verify", "if", "the", "gamble", "paid", "off", ",", "by", "evaluating", "Pr", "-LRB-", "c", "|", "v", "-RRB-", ".", "The", "fraction", "of", "relevant", "pages", "collected", "is", "called", "the", "harvest", "rate", ".", "If", "V", "is", "the", "set", "of", "nodes", "collected", ",", "the", "harvest", "rate", "is", "defined", "as", "-LRB-", "1", "/", "|", "V", "|", "-RRB-", "v", "V", "Pr", "-LRB-", "c", "|", "v", "-RRB-", ".", "Alternatively", ",", "we", "can", "measure", "the", "loss", "rate", ",", "which", "is", "one", "minus", "the", "harvest", "rate", ",", "i.e.", ",", "the", "-LRB-", "expected", "-RRB-", "fraction", "of", "fetched", "pages", "that", "must", "be", "thrown", "away", ".", "Since", "the", "effort", "on", "relevant", "pages", "is", "well-spent", ",", "reduction", "in", "loss", "rate", "is", "the", "primary", "goal", "and", "the", "most", "appropriate", "figure", "of", "merit", ".", "For", "focused", "crawling", "applications", "to", "succeed", ",", "the", "``", "leap", "of", "faith", "''", "from", "u", "to", "v", "must", "pay", "off", "frequently", ".", "In", "other", "words", ",", "if", "Pr", "-LRB-", "c", "|", "v", "-RRB-", "is", "often", "much", "less", "than", "the", "preliminary", "estimate", "Pr", "-LRB-", "c", "|", "u", "-RRB-", ",", "a", "great", "deal", "of", "network", "traffic", "and", "CPU", "cycles", "are", "being", "wasted", "eliminating", "bad", "pages", ".", "Experience", "with", "random", "walks", "on", "the", "Web", "show", "that", "as", "one", "walks", "away", "from", "a", "fixed", "page", "u", "0", "relevant", "to", "topic", "c", "0", ",", "the", "relevance", "of", "successive", "nodes", "u", "1", ",", "u", "2", ",", "...", "to", "c", "0", "drops", "dramatically", "within", "a", "few", "hops", "-LSB-", "9", ",", "23", "-RSB-", ".", "This", "means", "that", "only", "a", "fraction", "of", "outlinks", "from", "a", "page", "is", "typically", "worth", "following", ".", "The", "average", "out-degree", "of", "the", "Web", "graph", "is", "about", "7", "-LSB-", "29", "-RSB-", ".", "Therefore", ",", "a", "large", "number", "of", "page", "fetches", "may", "result", "in", "disappointment", ",", "especially", "if", "we", "wish", "to", "push", "the", "utility", "of", "focused", "crawling", "to", "topic", "communities", "which", "are", "not", "very", "densely", "linked", ".", "Even", "w.r.t.", "topics", "that", "are", "not", "very", "narrow", ",", "the", "number", "of", "distracting", "outlinks", "emerging", "from", "even", "fairly", "relevant", "pages", "has", "grown", "substantially", "since", "the", "early", "days", "of", "Web", "authoring", "-LSB-", "4", "-RSB-", ".", "Template-based", "authoring", ",", "dynamic", "page", "generation", "from", "semi-structured", "databases", ",", "ad", "links", ",", "navigation", "panels", ",", "and", "Web", "rings", "contribute", "many", "irrelevant", "links", "which", "reduce", "the", "harvest", "rate", "of", "focused", "crawlers", ".", "Topic-based", "link", "discrimination", "will", "also", "reduce", "these", "problems", ".", "1.1", "Our", "contribution", ":", "Leaping", "with", "more", "faith", "In", "this", "paper", "we", "address", "the", "following", "questions", ":", "How", "much", "information", "about", "the", "topic", "of", "the", "HREF", "target", "is", "available", "and/or", "latent", "in", "the", "HREF", "source", "page", ",", "its", "tag-tree", "structure", ",", "and", "its", "text", "?", "Can", "these", "sources", "be", "exploited", "for", "accelerating", "a", "focused", "crawler", "?", "Our", "basic", "idea", "is", "to", "use", "two", "classifiers", ".", "Earlier", ",", "the", "regular", "baseline", "classifier", "was", "used", "to", "assign", "priorities", "to", "unvisited", "frontier", "nodes", ".", "This", "no", "longer", "remains", "its", "function", ".", "The", "role", "of", "assigning", "priorities", "to", "unvisited", "URLs", "in", "the", "crawl", "frontier", "is", "now", "assigned", "to", "a", "new", "learner", "called", "the", "apprentice", ",", "and", "the", "priority", "of", "v", "is", "specific", "to", "the", "features", "associated", "with", "the", "-LRB-", "u", ",", "v", "-RRB-", "link", "which", "leads", "to", "it", "1", ".", "The", "features", "used", "by", "the", "apprentice", "are", "derived", "from", "the", "Document", "Object", "Model", "or", "1", "If", "many", "u", "'s", "link", "to", "a", "single", "v", ",", "it", "is", "easiest", "to", "freeze", "the", "priority", "of", "v", "when", "the", "first-visited", "u", "linking", "to", "v", "is", "assessed", ",", "but", "combinations", "of", "scores", "are", "also", "possible", ".", "Baseline", "learner", "-LRB-", "Critic", "-RRB-", "Dmoz", "topic", "taxonomy", "Class", "models", "consisting", "of", "term", "stats", "Frontier", "URLS", "priority", "queue", "Crawler", "Pick", "best", "Newly", "fetched", "page", "u", "Submit", "page", "for", "classification", "If", "Pr", "-LRB-", "c", "*", "|", "u", "-RRB-", "is", "large", "enough", "...", "An", "instance", "-LRB-", "u", ",", "v", "-RRB-", "for", "the", "apprentice", "u", "v", "Pr", "-LRB-", "c", "*", "|", "v", "-RRB-", "Pr", "-LRB-", "c", "|", "u", "-RRB-", "for", "all", "classes", "c", "Crawl", "database", "Apprentice", "learner", "Class", "models", "+", "Online", "training", "...", "submit", "-LRB-", "u", ",", "v", "-RRB-", "to", "the", "apprentice", "Apprentice", "assigns", "more", "accurate", "priority", "to", "node", "v", "Figure", "2", ":", "The", "apprentice", "is", "continually", "presented", "with", "training", "cases", "-LRB-", "u", ",", "v", "-RRB-", "with", "suitable", "features", ".", "The", "apprentice", "is", "interposed", "where", "new", "outlinks", "-LRB-", "u", ",", "v", "-RRB-", "are", "registered", "with", "the", "priority", "queue", ",", "and", "helps", "assign", "the", "unvisited", "node", "v", "a", "better", "estimate", "of", "its", "relevance", ".", "DOM", "-LRB-", "http://www.w3.org/DOM/", "-RRB-", "of", "u.", "Meanwhile", ",", "the", "role", "of", "the", "baseline", "classifier", "becomes", "one", "of", "generating", "training", "instances", "for", "the", "apprentice", ",", "as", "shown", "in", "Figure", "2", ".", "We", "may", "therefore", "regard", "the", "baseline", "learner", "as", "a", "critic", "or", "a", "trainer", ",", "which", "provides", "feedback", "to", "the", "apprentice", "so", "that", "it", "can", "improve", "``", "on", "the", "job", ".", "''", "The", "critic-apprentice", "paradigm", "is", "related", "to", "reinforcement", "learning", "and", "AI", "programs", "that", "learn", "to", "play", "games", "-LSB-", "26", ",", "1.2", "-RSB-", ".", "We", "argue", "that", "this", "division", "of", "labor", "is", "natural", "and", "effective", ".", "The", "baseline", "learner", "can", "be", "regarded", "as", "a", "user", "specification", "for", "what", "kind", "of", "content", "is", "desired", ".", "Although", "we", "limit", "ourselves", "to", "a", "generative", "statistical", "model", "for", "this", "specification", ",", "this", "can", "be", "an", "arbitrary", "black-box", "predicate", ".", "For", "rich", "and", "meaningful", "distinction", "between", "Web", "communities", "and", "topics", ",", "the", "baseline", "learner", "needs", "to", "be", "fairly", "sophisticated", ",", "perhaps", "leveraging", "off", "human", "annotations", "on", "the", "Web", "-LRB-", "such", "as", "topic", "directories", "-RRB-", ".", "In", "contrast", ",", "the", "apprentice", "specializes", "in", "how", "to", "locate", "pages", "to", "satisfy", "the", "baseline", "learner", ".", "Its", "feature", "space", "is", "more", "limited", ",", "so", "that", "it", "can", "train", "fast", "and", "adapt", "nimbly", "to", "changing", "fortunes", "at", "following", "links", "during", "a", "crawl", ".", "In", "Mitchell", "'s", "words", "-LSB-", "27", "-RSB-", ",", "the", "baseline", "learner", "recognizes", "``", "global", "regularity", "''", "while", "the", "apprentice", "helps", "the", "crawler", "adapt", "to", "``", "local", "regularity", ".", "''", "This", "marked", "asymmetry", "between", "the", "classifiers", "distinguishes", "our", "approach", "from", "Blum", "and", "Mitchell", "'s", "co-training", "technique", "-LSB-", "3", "-RSB-", ",", "in", "which", "two", "learners", "train", "each", "other", "by", "selecting", "unlabeled", "instances", ".", "Using", "a", "dozen", "topics", "from", "a", "topic", "taxonomy", "derived", "from", "the", "Open", "Directory", ",", "we", "compare", "our", "enhanced", "crawler", "with", "the", "baseline", "crawler", ".", "The", "number", "of", "pages", "that", "are", "thrown", "away", "-LRB-", "because", "they", "are", "irrelevant", "-RRB-", ",", "called", "the", "loss", "rate", ",", "is", "cut", "down", "by", "30", "90", "%", ".", "We", "also", "demonstrate", "that", "the", "fine-grained", "tag-tree", "model", ",", "together", "with", "our", "synthesis", "and", "encoding", "of", "features", "for", "the", "apprentice", ",", "are", "superior", "to", "simpler", "alternatives", ".", "1.2", "Related", "work", "Optimizing", "the", "priority", "of", "unvisited", "URLs", "on", "the", "crawl", "frontier", "for", "specific", "crawling", "goals", "is", "not", "new", ".", "FishSearch", "by", "De", "Bra", "et", "al.", ".", "-LSB-", "12", ",", "13", "-RSB-", "and", "SharkSearch", "by", "Hersovici", "et", "al.", ".", "-LSB-", "16", "-RSB-", "were", "some", "of", "the", "earliest", "systems", "for", "localized", "searches", "in", "the", "Web", "graph", "for", "pages", "with", "specified", "keywords", ".", "149", "In", "another", "early", "paper", ",", "Cho", "et", "al.", ".", "-LSB-", "10", "-RSB-", "experimented", "with", "a", "variety", "of", "strategies", "for", "prioritizing", "how", "to", "fetch", "unvisited", "URLs", ".", "They", "used", "the", "anchor", "text", "as", "a", "bag", "of", "words", "to", "guide", "link", "expansion", "to", "crawl", "for", "pages", "matching", "a", "specified", "keyword", "query", ",", "which", "led", "to", "some", "extent", "of", "differentiation", "among", "out-links", ",", "but", "no", "trainer-apprentice", "combination", "was", "involved", ".", "No", "notion", "of", "supervised", "topics", "had", "emerged", "at", "that", "point", ",", "and", "simple", "properties", "like", "the", "in-degree", "or", "the", "presence", "of", "specified", "keywords", "in", "pages", "were", "used", "to", "guide", "the", "crawler", ".", "Topical", "locality", "on", "the", "Web", "has", "been", "studied", "for", "a", "few", "years", ".", "Davison", "made", "early", "measurements", "on", "a", "100000-node", "Web", "subgraph", "-LSB-", "11", "-RSB-", "collected", "by", "the", "DiscoWeb", "system", ".", "Using", "the", "standard", "notion", "of", "vector", "space", "TFIDF", "similarity", "-LSB-", "31", "-RSB-", ",", "he", "found", "that", "the", "endpoints", "of", "a", "hyperlink", "are", "much", "more", "similar", "to", "each", "other", "than", "two", "random", "pages", ",", "and", "that", "HREFs", "close", "together", "on", "a", "page", "link", "to", "documents", "which", "are", "more", "similar", "than", "targets", "which", "are", "far", "apart", ".", "Menczer", "has", "made", "similar", "observations", "-LSB-", "23", "-RSB-", ".", "The", "HyperClass", "hypertext", "classifier", "also", "uses", "such", "locality", "patterns", "for", "better", "semi-supervised", "learning", "of", "topics", "-LSB-", "7", "-RSB-", ",", "as", "does", "IBM", "'s", "Automatic", "Resource", "Compilation", "-LRB-", "ARC", "-RRB-", "and", "Clever", "topic", "distillation", "systems", "-LSB-", "6", ",", "8", "-RSB-", ".", "Two", "important", "advances", "have", "been", "made", "beyond", "the", "baseline", "best-first", "focused", "crawler", ":", "the", "use", "of", "context", "graphs", "by", "Diligenti", "et", "al.", ".", "-LSB-", "14", "-RSB-", "and", "the", "use", "of", "reinforcement", "learning", "by", "Rennie", "and", "McCallum", "-LSB-", "30", "-RSB-", ".", "Both", "techniques", "trained", "a", "learner", "with", "features", "collected", "from", "paths", "leading", "up", "to", "relevant", "nodes", "rather", "than", "relevant", "nodes", "alone", ".", "Such", "paths", "may", "be", "collected", "by", "following", "backlinks", ".", "Diligenti", "et", "al.", "used", "a", "classifier", "-LRB-", "learner", "-RRB-", "that", "regressed", "from", "the", "text", "of", "u", "to", "the", "estimated", "link", "distance", "from", "u", "to", "some", "relevant", "page", "w", ",", "rather", "than", "the", "relevance", "of", "u", "or", "an", "outlink", "-LRB-", "u", ",", "v", "-RRB-", ",", "as", "was", "the", "case", "with", "the", "baseline", "crawler", ".", "This", "lets", "their", "system", "continue", "expanding", "u", "even", "if", "the", "reward", "for", "following", "a", "link", "is", "not", "immediate", ",", "but", "several", "links", "away", ".", "However", ",", "they", "do", "favor", "links", "whose", "payoffs", "are", "closest", ".", "Our", "work", "is", "specifically", "useful", "in", "conjunction", "with", "the", "use", "of", "context", "graphs", ":", "when", "the", "context", "graph", "learner", "predicts", "that", "a", "goal", "is", "several", "links", "away", ",", "it", "is", "crucial", "to", "offer", "additional", "guidance", "to", "the", "crawler", "based", "on", "local", "structure", "in", "pages", ",", "because", "the", "fan-out", "at", "that", "radius", "could", "be", "enormous", ".", "Rennie", "and", "McCallum", "-LSB-", "30", "-RSB-", "also", "collected", "paths", "leading", "to", "relevant", "nodes", ",", "but", "they", "trained", "a", "slightly", "different", "classifier", ",", "for", "which", ":", "An", "instance", "was", "a", "single", "HREF", "link", "like", "-LRB-", "u", ",", "v", "-RRB-", ".", "The", "features", "were", "terms", "from", "the", "title", "and", "headers", "-LRB-", "<", "h1", ">", "...", "<", "/", "h1", ">", "etc.", "-RRB-", "of", "u", ",", "together", "with", "the", "text", "in", "and", "`", "near", "'", "the", "anchor", "-LRB-", "u", ",", "v", "-RRB-", ".", "Directories", "and", "pathnames", "were", "also", "used", ".", "-LRB-", "We", "do", "not", "know", "the", "precise", "definition", "of", "`", "near", "'", ",", "or", "how", "these", "features", "were", "encoded", "and", "combined", ".", "-RRB-", "The", "prediction", "was", "a", "discretized", "estimate", "of", "the", "number", "of", "relevant", "nodes", "reachable", "by", "following", "-LRB-", "u", ",", "v", "-RRB-", ",", "where", "the", "reward", "from", "goals", "distant", "from", "v", "was", "geometrically", "discounted", "by", "some", "factor", "<", "1/2", "per", "hop", ".", "Rennie", "and", "McCallum", "obtained", "impressive", "harvests", "of", "research", "papers", "from", "four", "Computer", "Science", "department", "sites", ",", "and", "of", "pages", "about", "officers", "and", "directors", "from", "26", "company", "Websites", ".", "Lexical", "proximity", "and", "contextual", "features", "have", "been", "used", "extensively", "in", "natural", "language", "processing", "for", "disambiguating", "word", "sense", "-LSB-", "15", "-RSB-", ".", "Compared", "to", "plain", "text", ",", "DOM", "trees", "and", "hyperlinks", "give", "us", "a", "richer", "set", "of", "potential", "features", ".", "Aggarwal", "et", "al.", "have", "proposed", "an", "``", "intelligent", "crawling", "''", "framework", "-LSB-", "1", "-RSB-", "in", "which", "only", "one", "classifier", "is", "used", ",", "but", "similar", "to", "our", "system", ",", "that", "classifier", "trains", "as", "the", "crawl", "progresses", ".", "They", "do", "not", "use", "our", "apprentice-critic", "approach", ",", "and", "do", "not", "exploit", "features", "derived", "from", "tag-trees", "to", "guide", "the", "crawler", ".", "The", "``", "intelligent", "agents", "''", "literature", "has", "brought", "forth", "several", "systems", "for", "resource", "discovery", "and", "assistance", "to", "browsing", "-LSB-", "19", "-RSB-", ".", "They", "range", "between", "client", "-", "and", "site-level", "tools", ".", "Letizia", "-LSB-", "18", "-RSB-", ",", "Powerscout", ",", "and", "WebWatcher", "-LSB-", "17", "-RSB-", "are", "such", "systems", ".", "Menczer", "and", "Belew", "proposed", "InfoSpiders", "-LSB-", "24", "-RSB-", ",", "a", "collection", "of", "autonomous", "goal-driven", "crawlers", "without", "global", "control", "or", "state", ",", "in", "the", "style", "of", "genetic", "algorithms", ".", "A", "recent", "extensive", "study", "-LSB-", "25", "-RSB-", "comparing", "several", "topic-driven", "crawlers", "including", "the", "best-first", "crawler", "and", "InfoSpiders", "found", "the", "best-first", "approach", "to", "show", "the", "highest", "harvest", "rate", "-LRB-", "which", "our", "new", "system", "outperforms", "-RRB-", ".", "In", "all", "the", "systems", "mentioned", "above", ",", "improving", "the", "chances", "of", "a", "successful", "``", "leap", "of", "faith", "''", "will", "clearly", "reduce", "the", "overheads", "of", "fetching", ",", "filtering", ",", "and", "analyzing", "pages", ".", "Furthermore", ",", "whereas", "we", "use", "an", "automatic", "first-generation", "focused", "crawler", "to", "generate", "the", "input", "to", "train", "the", "apprentice", ",", "one", "can", "envisage", "specially", "instrumented", "browsers", "being", "used", "to", "monitor", "users", "as", "they", "seek", "out", "information", ".", "We", "distinguish", "our", "work", "from", "prior", "art", "in", "the", "following", "important", "ways", ":", "Two", "classifiers", ":", "We", "use", "two", "classifiers", ".", "The", "first", "one", "is", "used", "to", "obtain", "`", "enriched", "'", "training", "data", "for", "the", "second", "one", ".", "-LRB-", "A", "breadth-first", "or", "random", "crawl", "would", "have", "a", "negligible", "fraction", "of", "positive", "instances", ".", "-RRB-", "The", "apprentice", "is", "a", "simplified", "reinforcement", "learner", ".", "It", "improves", "the", "harvest", "rate", ",", "thereby", "`", "enriching", "'", "the", "data", "collected", "and", "labeled", "by", "the", "first", "learner", "in", "turn", ".", "No", "manual", "path", "collection", ":", "Our", "two-classifier", "framework", "essentially", "eliminates", "the", "manual", "effort", "needed", "to", "create", "reinforcement", "paths", "or", "context", "graphs", ".", "The", "input", "needed", "to", "start", "off", "a", "focused", "crawl", "is", "just", "a", "pre-trained", "topic", "taxonomy", "-LRB-", "easily", "available", "from", "the", "Web", "-RRB-", "and", "a", "few", "focus", "topics", ".", "Online", "training", ":", "Our", "apprentice", "trains", "continually", ",", "acquiring", "ever-larger", "vocabularies", "and", "improving", "its", "accuracy", "as", "the", "crawl", "progresses", ".", "This", "property", "holds", "also", "for", "the", "``", "intelligent", "crawler", "''", "proposed", "by", "Aggarwal", "et", "al.", ",", "but", "they", "have", "a", "single", "learner", ",", "whose", "drift", "is", "controlled", "by", "precise", "relevance", "predicates", "provided", "by", "the", "user", ".", "No", "manual", "feature", "tuning", ":", "Rather", "than", "tune", "ad-hoc", "notions", "of", "proximity", "between", "text", "and", "hyperlinks", ",", "we", "encode", "the", "features", "of", "link", "-LRB-", "u", ",", "v", "-RRB-", "using", "the", "DOM-tree", "of", "u", ",", "and", "automatically", "learn", "a", "robust", "definition", "of", "`", "nearness", "'", "of", "a", "textual", "feature", "to", "-LRB-", "u", ",", "v", "-RRB-", ".", "In", "contrast", ",", "Aggarwal", "et", "al", "use", "many", "tuned", "constants", "combining", "the", "strength", "of", "text-and", "link-based", "predictors", ",", "and", "Rennie", "et", "al.", "use", "domain", "knowledge", "to", "select", "the", "paths", "to", "goal", "nodes", "and", "the", "word", "bags", "that", "are", "submitted", "to", "their", "learner", ".", "150", "We", "first", "review", "the", "baseline", "focused", "crawler", "and", "then", "describe", "how", "the", "enhanced", "crawler", "is", "set", "up", "using", "the", "apprentice-critic", "mechanism", ".", "2.1", "The", "baseline", "focused", "crawler", "The", "baseline", "focused", "crawler", "has", "been", "described", "in", "detail", "elsewhere", "-LSB-", "9", ",", "14", "-RSB-", ",", "and", "has", "been", "sketched", "in", "Figure", "1", ".", "Here", "we", "review", "its", "design", "and", "operation", "briefly", ".", "There", "are", "two", "inputs", "to", "the", "baseline", "crawler", ".", "A", "topic", "taxonomy", "or", "hierarchy", "with", "example", "URLs", "for", "each", "topic", ".", "One", "or", "a", "few", "topics", "in", "the", "taxonomy", "marked", "as", "the", "topic", "-LRB-", "s", "-RRB-", "of", "focus", ".", "Although", "we", "will", "generally", "use", "the", "terms", "`", "taxonomy", "'", "and", "`", "hierarchy", "'", ",", "a", "topic", "tree", "is", "not", "essential", ";", "all", "we", "really", "need", "is", "a", "two-way", "classifier", "where", "the", "classes", "have", "the", "connotations", "of", "being", "`", "relevant", "'", "or", "`", "irrelevant", "'", "to", "the", "topic", "-LRB-", "s", "-RRB-", "of", "focus", ".", "A", "topic", "hierarchy", "is", "proposed", "purely", "to", "reduce", "the", "tedium", "of", "defining", "new", "focused", "crawls", ".", "With", "a", "two-class", "classifier", ",", "the", "crawl", "administrator", "has", "to", "seed", "positive", "and", "negative", "examples", "for", "each", "crawl", ".", "Using", "a", "taxonomy", ",", "she", "composes", "the", "`", "irrelevant", "'", "class", "as", "the", "union", "of", "all", "classes", "that", "are", "not", "relevant", ".", "Thanks", "to", "extensive", "hierarchies", "like", "Dmoz", "in", "the", "public", "domain", ",", "it", "should", "be", "quite", "easy", "to", "seed", "topic-based", "crawls", "in", "this", "way", ".", "The", "baseline", "crawler", "maintains", "a", "priority", "queue", "on", "the", "estimated", "relevance", "of", "nodes", "v", "which", "have", "not", "been", "visited", ",", "and", "keeps", "removing", "the", "highest", "priority", "node", "and", "visiting", "it", ",", "expanding", "its", "outlinks", "and", "checking", "them", "into", "the", "priority", "queue", "with", "the", "relevance", "score", "of", "v", "in", "turn", ".", "Despite", "its", "extreme", "simplicity", ",", "the", "best-first", "crawler", "has", "been", "found", "to", "have", "very", "high", "harvest", "rates", "in", "extensive", "evaluations", "-LSB-", "25", "-RSB-", ".", "Why", "do", "we", "need", "negative", "examples", "and", "negative", "classes", "at", "all", "?", "Instead", "of", "using", "class", "probabilities", ",", "we", "could", "maintain", "a", "priority", "queue", "on", ",", "say", ",", "the", "TFIDF", "cosine", "similarity", "between", "u", "and", "the", "centroid", "of", "the", "seed", "pages", "-LRB-", "acting", "as", "an", "estimate", "for", "the", "corresponding", "similarity", "between", "v", "and", "the", "centroid", ",", "until", "v", "has", "been", "fetched", "-RRB-", ".", "Experience", "has", "shown", "-LSB-", "32", "-RSB-", "that", "characterizing", "a", "negative", "class", "is", "quite", "important", "to", "prevent", "the", "centroid", "of", "the", "crawled", "documents", "from", "drifting", "away", "indefinitely", "from", "the", "desired", "topic", "profile", ".", "In", "this", "paper", ",", "the", "baseline", "crawler", "also", "has", "the", "implicit", "job", "of", "gathering", "instances", "of", "successful", "and", "unsuccessful", "``", "leaps", "of", "faith", "''", "to", "submit", "to", "the", "apprentice", ",", "discussed", "next", ".", "2.2", "The", "basic", "structure", "of", "the", "apprentice", "learner", "In", "estimating", "the", "worth", "of", "traversing", "the", "HREF", "-LRB-", "u", ",", "v", "-RRB-", ",", "we", "will", "limit", "our", "attention", "to", "u", "alone", ".", "The", "page", "u", "is", "modeled", "as", "a", "tag", "tree", "-LRB-", "also", "called", "the", "Document", "Object", "Model", "or", "DOM", "-RRB-", ".", "In", "principle", ",", "any", "feature", "from", "u", ",", "even", "font", "color", "and", "site", "membership", "may", "be", "perfect", "predictors", "of", "the", "relevance", "of", "v", ".", "The", "total", "number", "of", "potentially", "predictive", "features", "will", "be", "quite", "staggering", ",", "so", "we", "need", "to", "simplify", "the", "feature", "space", "and", "massage", "it", "into", "a", "form", "suited", "to", "conventional", "learning", "algorithms", ".", "Also", "note", "that", "we", "specifically", "study", "properties", "of", "u", "and", "not", "larger", "contexts", "such", "as", "paths", "leading", "to", "u", ",", "meaning", "that", "our", "method", "may", "become", "even", "more", "robust", "and", "useful", "in", "conjunction", "with", "context", "graphs", "or", "reinforcement", "along", "paths", ".", "Initially", ",", "the", "apprentice", "has", "no", "training", "data", ",", "and", "passes", "judgment", "on", "-LRB-", "u", ",", "v", "-RRB-", "links", "according", "to", "some", "fixed", "prior", "obtained", "from", "a", "baseline", "crawl", "run", "ahead", "of", "time", "-LRB-", "e.g.", ",", "see", "the", "statistics", "in", "3.3", "-RRB-", ".", "Ideally", ",", "we", "would", "like", "to", "train", "the", "apprentice", "continuously", ",", "but", "to", "reduce", "overheads", ",", "we", "declare", "a", "batch", "size", "between", "a", "few", "hundred", "and", "a", "few", "thousand", "pages", ".", "After", "every", "batch", "of", "pages", "is", "collected", ",", "we", "check", "if", "any", "page", "u", "fetched", "before", "the", "current", "batch", "links", "to", "some", "page", "v", "in", "the", "batch", ".", "If", "such", "a", "-LRB-", "u", ",", "v", "-RRB-", "is", "found", ",", "we", "extract", "suitable", "features", "for", "-LRB-", "u", ",", "v", "-RRB-", "as", "described", "later", "in", "this", "section", ",", "and", "add", "-LRB-", "u", ",", "v", "-RRB-", ",", "Pr", "-LRB-", "c", "|", "v", "-RRB-", "as", "another", "instance", "of", "the", "training", "data", "for", "the", "apprentice", ".", "Many", "apprentices", ",", "certainly", "the", "simple", "naive", "Bayes", "and", "linear", "perceptrons", "that", "we", "have", "studied", ",", "need", "not", "start", "learning", "from", "scratch", ";", "they", "can", "accept", "the", "additional", "training", "data", "with", "a", "small", "additional", "computational", "cost", ".", "2.2.1", "Preprocessing", "the", "DOM", "tree", "First", ",", "we", "parse", "u", "and", "form", "the", "DOM", "tree", "for", "u.", "Sadly", ",", "much", "of", "the", "HTML", "available", "on", "the", "Web", "violates", "any", "HTML", "standards", "that", "permit", "context-free", "parsing", ",", "but", "a", "variety", "of", "repair", "heuristics", "-LRB-", "see", ",", "e.g.", ",", "HTML", "Tidy", ",", "available", "at", "http://www.w3.org/People/Raggett/tidy/", "-RRB-", "let", "us", "generate", "reasonable", "DOM", "trees", "from", "bad", "HTML", ".", "a", "HREF", "TEXT", "font", "TEXT", "li", "li", "li", "ul", "li", "TEXT", "TEXT", "em", "TEXT", "tt", "TEXT", "TEXT", "@", "0", "@", "0", "@", "1", "@", "2", "@", "3", "@", "-1", "@", "-2", "Figure", "3", ":", "Numbering", "of", "DOM", "leaves", "used", "to", "derive", "offset", "attributes", "for", "textual", "tokens", ".", "`", "@", "'", "means", "``", "is", "at", "offset", "''", ".", "Second", ",", "we", "number", "all", "leaf", "nodes", "consecutively", "from", "left", "to", "right", ".", "For", "uniformity", ",", "we", "assign", "numbers", "even", "to", "those", "DOM", "leaves", "which", "have", "no", "text", "associated", "with", "them", ".", "The", "specific", "<", "a", "href", "...", ">", "which", "links", "to", "v", "is", "actually", "an", "internal", "node", "a", "v", ",", "which", "is", "the", "root", "of", "the", "subtree", "containing", "the", "anchor", "text", "of", "the", "link", "-LRB-", "u", ",", "v", "-RRB-", ".", "There", "may", "be", "other", "element", "tags", "such", "as", "<", "em", ">", "or", "<", "b", ">", "in", "the", "subtree", "rooted", "at", "a", "v", ".", "Let", "the", "leaf", "or", "leaves", "in", "this", "subtree", "be", "numbered", "-LRB-", "a", "v", "-RRB-", "through", "r", "-LRB-", "a", "v", "-RRB-", "-LRB-", "a", "v", "-RRB-", ".", "We", "regard", "the", "textual", "tokens", "available", "from", "any", "of", "these", "leaves", "as", "being", "at", "DOM", "offset", "zero", "w.r.t.", "the", "-LRB-", "u", ",", "v", "-RRB-", "link", ".", "Text", "tokens", "from", "a", "leaf", "numbered", ",", "to", "the", "left", "of", "-LRB-", "a", "v", "-RRB-", ",", "are", "at", "negative", "DOM", "offset", "-", "-LRB-", "a", "v", "-RRB-", ".", "Likewise", ",", "text", "from", "a", "leaf", "numbered", "to", "the", "right", "of", "r", "-LRB-", "a", "v", "-RRB-", "are", "at", "positive", "DOM", "offset", "-", "r", "-LRB-", "a", "v", "-RRB-", ".", "See", "Figure", "3", "for", "an", "example", ".", "2.2.2", "Features", "derived", "from", "the", "DOM", "and", "text", "tokens", "Many", "related", "projects", "mentioned", "in", "1.2", "use", "a", "linear", "notion", "of", "proximity", "between", "a", "HREF", "and", "textual", "tokens", ".", "In", "the", "ARC", "system", ",", "there", "is", "a", "crude", "cut-off", "distance", "measured", "151", "in", "bytes", "to", "the", "left", "and", "right", "of", "the", "anchor", ".", "In", "the", "Clever", "system", ",", "distance", "is", "measured", "in", "tokens", ",", "and", "the", "importance", "attached", "to", "a", "token", "decays", "with", "the", "distance", ".", "In", "reinforcement", "learning", "and", "intelligent", "predicate-based", "crawling", ",", "the", "exact", "specification", "of", "neighborhood", "text", "is", "not", "known", "to", "us", ".", "In", "all", "cases", ",", "some", "ad-hoc", "tuning", "appears", "to", "be", "involved", ".", "We", "claim", "-LRB-", "and", "show", "in", "3.4", "-RRB-", "that", "the", "relation", "between", "the", "relevance", "of", "the", "target", "v", "of", "a", "HREF", "-LRB-", "u", ",", "v", "-RRB-", "and", "the", "proximity", "of", "terms", "to", "-LRB-", "u", ",", "v", "-RRB-", "can", "be", "learnt", "automatically", ".", "The", "results", "are", "better", "than", "ad-hoc", "tuning", "of", "cut-off", "distances", ",", "provided", "the", "DOM", "offset", "information", "is", "encoded", "as", "features", "suitable", "for", "the", "apprentice", ".", "One", "obvious", "idea", "is", "to", "extend", "the", "Clever", "model", ":", "a", "page", "is", "a", "linear", "sequence", "of", "tokens", ".", "If", "a", "token", "t", "is", "distant", "x", "from", "the", "HREF", "-LRB-", "u", ",", "v", "-RRB-", "in", "question", ",", "we", "encode", "it", "as", "a", "feature", "t", ",", "x", ".", "Such", "features", "will", "not", "be", "useful", "because", "there", "are", "too", "many", "possible", "values", "of", "x", ",", "making", "the", "t", ",", "x", "space", "too", "sparse", "to", "learn", "well", ".", "-LRB-", "How", "many", "HREFS", "will", "be", "exactly", "five", "tokens", "from", "the", "term", "`", "basketball", "'", "?", "-RRB-", "Clearly", ",", "we", "need", "to", "bucket", "x", "into", "a", "small", "number", "of", "ranges", ".", "Rather", "than", "tune", "arbitrary", "bucket", "boundaries", "by", "hand", ",", "we", "argue", "that", "DOM", "offsets", "are", "a", "natural", "bucketing", "scheme", "provided", "by", "the", "page", "author", ".", "Using", "the", "node", "numbering", "scheme", "described", "above", ",", "each", "token", "t", "on", "page", "u", "can", "be", "annotated", "w.r.t.", "the", "link", "-LRB-", "u", ",", "v", "-RRB-", "-LRB-", "for", "simplicity", "assume", "there", "is", "only", "one", "such", "link", "-RRB-", "as", "t", ",", "d", ",", "where", "d", "is", "the", "DOM", "offset", "calculated", "above", ".", "This", "is", "the", "main", "set", "of", "features", "used", "by", "the", "apprentice", ".", "We", "shall", "see", "that", "the", "apprentice", "can", "learn", "to", "limit", "|", "d", "|", "to", "less", "than", "d", "max", "=", "5", "in", "most", "cases", ",", "which", "reduces", "its", "vocabulary", "and", "saves", "time", ".", "A", "variety", "of", "other", "feature", "encodings", "suggest", "themselves", ".", "We", "are", "experimenting", "with", "some", "in", "ongoing", "work", "-LRB-", "4", "-RRB-", ",", "but", "decided", "against", "some", "others", ".", "For", "example", ",", "we", "do", "not", "expect", "gains", "from", "encoding", "specific", "HTML", "tag", "names", "owing", "to", "the", "diversity", "of", "authoring", "styles", ".", "Authors", "use", "<", "div", ">", ",", "<", "span", ">", ",", "<", "layer", ">", "and", "nested", "tables", "for", "layout", "control", "in", "non-standard", "ways", ";", "these", "are", "best", "deflated", "to", "a", "nameless", "DOM", "node", "representation", ".", "Similar", "comments", "apply", "to", "HREF", "collections", "embedded", "in", "<", "ul", ">", ",", "<", "ol", ">", ",", "<", "td", ">", "and", "<", "dd", ">", ".", "Font", "and", "lower/upper", "case", "information", "is", "useful", "for", "search", "engines", ",", "but", "would", "make", "features", "even", "sparser", "for", "the", "apprentice", ".", "Our", "representation", "also", "flattens", "two-dimensional", "tables", "to", "their", "``", "row-major", "''", "representation", ".", "The", "features", "we", "ignore", "are", "definitely", "crucial", "for", "other", "applications", ",", "such", "as", "information", "extraction", ".", "We", "did", "not", "see", "any", "cases", "where", "this", "sloppiness", "led", "to", "a", "large", "loss", "rate", ".", "We", "would", "be", "surprised", "to", "see", "tables", "where", "relevant", "links", "occurred", "in", "the", "third", "column", "and", "irrelevant", "links", "in", "the", "fifth", ",", "or", "pages", "where", "they", "are", "rendered", "systematically", "in", "different", "fonts", "and", "colors", ",", "but", "are", "not", "otherwise", "demarcated", "by", "the", "DOM", "structure", ".", "2.2.3", "Non-textual", "features", "Limiting", "d", "may", "lead", "us", "to", "miss", "features", "of", "u", "that", "may", "be", "useful", "at", "the", "whole-page", "level", ".", "One", "approach", "would", "be", "to", "use", "``", "d", "=", "''", "for", "all", "d", "larger", "in", "magnitude", "than", "some", "threshold", ".", "But", "this", "would", "make", "our", "apprentice", "as", "bulky", "and", "slow", "to", "train", "as", "the", "baseline", "learner", ".", "Instead", ",", "we", "use", "the", "baseline", "learner", "to", "abstract", "u", "for", "the", "apprentice", ".", "Specifically", ",", "we", "use", "a", "naive", "Bayes", "baseline", "learner", "to", "classify", "u", ",", "and", "use", "the", "vector", "of", "class", "probabilities", "returned", "as", "features", "for", "the", "apprentice", ".", "These", "features", "can", "help", "the", "apprentice", "discover", "patterns", "such", "as", "``", "Pages", "about", "/", "Recreation/Boating/Sailing", "often", "link", "to", "pages", "about", "/", "Sports/Canoe", "_", "and_Kayaking", ".", "''", "This", "also", "covers", "for", "the", "baseline", "classifier", "confusing", "between", "classes", "with", "related", "vocabulary", ",", "achieving", "an", "effect", "similar", "to", "context", "graphs", ".", "Another", "kind", "of", "feature", "can", "be", "derived", "from", "co-citation", ".", "If", "v", "1", "has", "been", "fetched", "and", "found", "to", "be", "relevant", "and", "HREFS", "-LRB-", "u", ",", "v", "1", "-RRB-", "and", "-LRB-", "u", ",", "v", "2", "-RRB-", "are", "close", "to", "each", "other", ",", "v", "2", "is", "likely", "to", "be", "relevant", ".", "Just", "like", "textual", "tokens", "were", "encoded", "as", "t", ",", "d", "pairs", ",", "we", "can", "represent", "co-citation", "features", "as", ",", "d", ",", "where", "is", "a", "suitable", "representation", "of", "relevance", ".", "Many", "other", "features", "can", "be", "derived", "from", "the", "DOM", "tree", "and", "added", "to", "our", "feature", "pool", ".", "We", "discuss", "some", "options", "in", "4", ".", "In", "our", "experience", "so", "far", ",", "we", "have", "found", "the", "t", ",", "d", "features", "to", "be", "most", "useful", ".", "For", "simplicity", ",", "we", "will", "limit", "our", "subsequent", "discussion", "to", "t", ",", "d", "features", "only", ".", "2.3", "Choices", "of", "learning", "algorithms", "for", "the", "apprentice", "Our", "feature", "set", "is", "thus", "an", "interesting", "mix", "of", "categorical", ",", "ordered", "and", "continuous", "features", ":", "Term", "tokens", "t", ",", "d", "have", "a", "categorical", "component", "t", "and", "a", "discrete", "ordered", "component", "d", "-LRB-", "which", "we", "may", "like", "to", "smooth", "somewhat", "-RRB-", ".", "Term", "counts", "are", "discrete", "but", "can", "be", "normalized", "to", "constant", "document", "length", ",", "resulting", "in", "continuous", "attribute", "values", ".", "Class", "names", "are", "discrete", "and", "may", "be", "regarded", "as", "synthetic", "terms", ".", "The", "probabilities", "are", "continuous", ".", "The", "output", "we", "desire", "is", "an", "estimate", "of", "Pr", "-LRB-", "c", "|", "v", "-RRB-", ",", "given", "all", "the", "observations", "about", "u", "and", "the", "neighborhood", "of", "-LRB-", "u", ",", "v", "-RRB-", "that", "we", "have", "discussed", ".", "Neural", "networks", "are", "a", "natural", "choice", "to", "accommodate", "these", "requirements", ".", "We", "first", "experimented", "with", "a", "simple", "linear", "perceptron", ",", "training", "it", "with", "the", "delta", "rule", "-LRB-", "gradient", "descent", "-RRB-", "-LSB-", "26", "-RSB-", ".", "Even", "for", "a", "linear", "perceptron", ",", "convergence", "was", "surprisingly", "slow", ",", "and", "after", "convergence", ",", "the", "error", "rate", "was", "rather", "high", ".", "It", "is", "likely", "that", "local", "optima", "were", "responsible", ",", "because", "stability", "was", "generally", "poor", ",", "and", "got", "worse", "if", "we", "tried", "to", "add", "hidden", "layers", "or", "sigmoids", ".", "In", "any", "case", ",", "convergence", "was", "too", "slow", "for", "use", "as", "an", "online", "learner", ".", "All", "this", "was", "unfortunate", ",", "because", "the", "direct", "regression", "output", "from", "a", "neural", "network", "would", "be", "convenient", ",", "and", "we", "were", "hoping", "to", "implement", "a", "Kohonen", "layer", "for", "smoothing", "d", ".", "In", "contrast", ",", "a", "naive", "Bayes", "-LRB-", "NB", "-RRB-", "classifier", "worked", "very", "well", ".", "A", "NB", "learner", "is", "given", "a", "set", "of", "training", "documents", ",", "each", "labeled", "with", "one", "of", "a", "finite", "set", "of", "classes/topic", ".", "A", "document", "or", "Web", "page", "u", "is", "modeled", "as", "a", "multiset", "or", "bag", "of", "words", ",", "-LCB-", ",", "n", "-LRB-", "u", ",", "-RRB-", "-RCB-", "where", "is", "a", "feature", "which", "occurs", "n", "-LRB-", "u", ",", "-RRB-", "times", "in", "u", ".", "In", "ordinary", "text", "classification", "-LRB-", "such", "as", "our", "baseline", "learner", "-RRB-", "the", "features", "are", "usually", "single", "words", ".", "For", "our", "apprentice", "learner", ",", "a", "feature", "is", "a", "t", ",", "d", "pair", ".", "NB", "classifiers", "can", "predict", "from", "a", "discrete", "set", "of", "classes", ",", "but", "our", "prediction", "is", "a", "continuous", "-LRB-", "probability", "-RRB-", "score", ".", "To", "bridge", "this", "gap", ",", "We", "used", "a", "simple", "two-bucket", "-LRB-", "low/high", "relevance", "-RRB-", "special", "case", "of", "Torgo", "and", "Gama", "'s", "technique", "of", "using", "classifiers", "for", "discrete", "labels", "for", "continuous", "regression", "-LSB-", "33", "-RSB-", ",", "using", "``", "equally", "probable", "intervals", "''", "as", "far", "as", "possible", ".", "152", "Torgo", "and", "Gama", "recommend", "using", "a", "measure", "of", "centrality", ",", "such", "as", "the", "median", ",", "of", "each", "interval", "as", "the", "predicted", "value", "of", "that", "class", ".", "Rennie", "and", "McCallum", "-LSB-", "30", "-RSB-", "corroborate", "that", "2", "3", "bins", "are", "adequate", ".", "As", "will", "be", "clear", "from", "our", "experiments", ",", "the", "medians", "of", "our", "`", "low", "'", "and", "`", "high", "'", "classes", "are", "very", "close", "to", "zero", "and", "one", "respectively", "-LRB-", "see", "Figure", "5", "-RRB-", ".", "Therefore", ",", "we", "simply", "take", "the", "probability", "of", "the", "`", "high", "'", "class", "as", "the", "prediction", "from", "our", "naive", "Bayes", "apprentice", ".", "The", "prior", "probability", "of", "class", "c", ",", "denoted", "Pr", "-LRB-", "c", "-RRB-", "is", "the", "fraction", "of", "training", "documents", "labeled", "with", "class", "c", ".", "The", "NB", "model", "is", "parameterized", "by", "a", "set", "of", "numbers", "c", ",", "which", "is", "roughly", "the", "rate", "of", "occurrence", "of", "feature", "in", "class", "c", ",", "more", "exactly", ",", "c", ",", "=", "1", "+", "u", "V", "c", "n", "-LRB-", "u", ",", "-RRB-", "|", "T", "|", "+", "u", ",", "n", "-LRB-", "u", ",", "-RRB-", ",", "-LRB-", "1", "-RRB-", "where", "V", "c", "is", "the", "set", "of", "Web", "pages", "labeled", "with", "c", "and", "T", "is", "the", "entire", "vocabulary", ".", "The", "NB", "learner", "assumes", "independence", "between", "features", ",", "and", "estimates", "Pr", "-LRB-", "c", "|", "u", "-RRB-", "Pr", "-LRB-", "c", "-RRB-", "Pr", "-LRB-", "u", "|", "c", "-RRB-", "Pr", "-LRB-", "c", "-RRB-", "u", "n", "-LRB-", "u", ",", "-RRB-", "c", ",", ".", "-LRB-", "2", "-RRB-", "Nigam", "et", "al.", "provide", "further", "details", "-LSB-", "22", "-RSB-", ".", "Our", "experiments", "were", "guided", "by", "the", "following", "requirements", ".", "We", "wanted", "to", "cover", "a", "broad", "variety", "of", "topics", ",", "some", "`", "easy", "'", "and", "some", "`", "difficult", "'", ",", "in", "terms", "of", "the", "harvest", "rate", "of", "the", "baseline", "crawler", ".", "Here", "is", "a", "quick", "preview", "of", "our", "results", ".", "The", "apprentice", "classifier", "achieves", "high", "accuracy", "in", "predicting", "the", "relevance", "of", "unseen", "pages", "given", "t", ",", "d", "features", ".", "It", "can", "determine", "the", "best", "value", "of", "d", "max", "to", "use", ",", "typically", ",", "4", "6", ".", "Encoding", "DOM", "offsets", "in", "features", "improves", "the", "accuracy", "of", "the", "apprentice", "substantially", ",", "compared", "to", "a", "bag", "of", "ordinary", "words", "collected", "from", "within", "the", "same", "DOM", "offset", "window", ".", "Compared", "to", "a", "baseline", "crawler", ",", "a", "crawler", "that", "is", "guided", "by", "an", "apprentice", "-LRB-", "trained", "offline", "-RRB-", "has", "a", "30", "%", "to", "90", "%", "lower", "loss", "rate", ".", "It", "finds", "crawl", "paths", "never", "expanded", "by", "the", "baseline", "crawler", ".", "Even", "if", "the", "apprentice-guided", "crawler", "is", "forced", "to", "stay", "within", "the", "-LRB-", "inferior", "-RRB-", "Web", "graph", "collected", "by", "the", "baseline", "crawler", ",", "it", "collects", "the", "best", "pages", "early", "on", ".", "The", "apprentice", "is", "easy", "to", "train", "online", ".", "As", "soon", "as", "it", "starts", "guiding", "the", "crawl", ",", "loss", "rates", "fall", "dramatically", ".", "Compared", "to", "t", ",", "d", "features", ",", "topic", "-", "or", "cocitation-based", "features", "have", "negligible", "effect", "on", "the", "apprentice", ".", "To", "run", "so", "many", "experiments", ",", "we", "needed", "three", "highly", "optimized", "and", "robust", "modules", ":", "a", "crawler", ",", "a", "HTML-to-DOM", "converter", ",", "and", "a", "classifier", ".", "We", "started", "with", "the", "w3c-libwww", "crawling", "library", "from", "http://www.w3c.org/Library/", ",", "but", "replaced", "it", "with", "our", "own", "crawler", "because", "we", "could", "effectively", "overlap", "DNS", "lookup", ",", "HTTP", "access", ",", "and", "disk", "access", "using", "a", "select", "over", "all", "socket/file", "descriptors", ",", "and", "prevent", "memory", "leaks", "visible", "in", "w3c-libwww", ".", "With", "three", "caching", "DNS", "servers", ",", "we", "could", "achieve", "over", "90", "%", "utilization", "of", "a", "2", "Mbps", "dedicated", "ISP", "connection", ".", "We", "used", "the", "HTML", "parser", "libxml2", "library", "to", "extract", "the", "DOM", "from", "HTML", ",", "but", "this", "library", "has", "memory", "leaks", ",", "and", "does", "not", "always", "handle", "poorly", "written", "HTML", "well", ".", "We", "had", "some", "stability", "problems", "with", "HTML", "Tidy", "-LRB-", "http://www", ".", "w3.org/People/Raggett/tidy/", "-RRB-", ",", "the", "well-known", "HTML", "cleaner", "which", "is", "very", "robust", "to", "bad", "HTML", ".", "At", "present", "we", "are", "using", "libxml2", "and", "are", "rolling", "our", "own", "HTML", "parser", "and", "cleaner", "for", "future", "work", ".", "We", "intend", "to", "make", "our", "crawler", "and", "HTML", "parser", "code", "available", "in", "the", "public", "domain", "for", "research", "use", ".", "For", "both", "the", "baseline", "and", "apprentice", "classifier", "we", "used", "the", "public", "domain", "BOW", "toolkit", "and", "the", "Rainbow", "naive", "Bayes", "classifier", "created", "by", "McCallum", "and", "others", "-LSB-", "20", "-RSB-", ".", "Bow", "and", "Rainbow", "are", "very", "fast", "C", "implementations", "which", "let", "us", "classify", "pages", "in", "real", "time", "as", "they", "were", "being", "crawled", ".", "3.1", "Design", "of", "the", "topic", "taxonomy", "We", "downloaded", "from", "the", "Open", "Directory", "-LRB-", "http://dmoz", ".", "org", "/", "-RRB-", "an", "RDF", "file", "with", "over", "271954", "topics", "arranged", "in", "a", "tree", "hierarchy", "with", "depth", "at", "least", "6", ",", "containing", "a", "total", "of", "about", "1697266", "sample", "URLs", ".", "The", "distribution", "of", "samples", "over", "topics", "was", "quite", "non-uniform", ".", "Interpreting", "the", "tree", "as", "an", "is-a", "hierarchy", "meant", "that", "internal", "nodes", "inherited", "all", "examples", "from", "descendants", ",", "but", "they", "also", "had", "their", "own", "examples", ".", "Since", "the", "set", "of", "topics", "was", "very", "large", "and", "many", "topics", "had", "scarce", "training", "data", ",", "we", "pruned", "the", "Dmoz", "tree", "to", "a", "manageable", "frontier", "by", "following", "these", "steps", ":", "1", ".", "Initially", "we", "placed", "example", "URLs", "in", "both", "internal", "and", "leaf", "nodes", ",", "as", "given", "by", "Dmoz", ".", "2", ".", "We", "fixed", "a", "minimum", "per-class", "training", "set", "size", "of", "k", "=", "300", "documents", ".", "3", ".", "We", "iteratively", "performed", "the", "following", "step", "as", "long", "as", "possible", ":", "we", "found", "a", "leaf", "node", "with", "less", "than", "k", "example", "URLs", ",", "moved", "all", "its", "examples", "to", "its", "parent", ",", "and", "deleted", "the", "leaf", ".", "4", ".", "To", "each", "internal", "node", "c", ",", "we", "attached", "a", "leaf", "subdirectory", "called", "Other", ".", "Examples", "associated", "directly", "with", "c", "were", "moved", "to", "this", "Other", "subdirectory", ".", "5", ".", "Some", "topics", "were", "populated", "out", "of", "proportion", ",", "either", "at", "the", "beginning", "or", "through", "the", "above", "process", ".", "We", "made", "the", "class", "priors", "more", "balanced", "by", "sampling", "down", "the", "large", "classes", "so", "that", "each", "class", "had", "at", "most", "300", "examples", ".", "The", "resulting", "taxonomy", "had", "482", "leaf", "nodes", "and", "a", "total", "of", "144859", "sample", "URLs", ".", "Out", "of", "these", "we", "could", "successfully", "fetch", "about", "120000", "URLs", ".", "At", "this", "point", "we", "discarded", "the", "tree", "structure", "and", "considered", "only", "the", "leaf", "topics", ".", "Training", "time", "for", "the", "baseline", "classifier", "was", "about", "about", "two", "hours", "on", "a", "729", "MHz", "Pentium", "III", "with", "256kB", "cache", "and", "512", "MB", "RAM", ".", "This", "was", "very", "fast", ",", "given", "that", "1.4", "GB", "of", "HTML", "text", "had", "to", "be", "processed", "through", "Rainbow", ".", "The", "complete", "listing", "of", "topics", "can", "be", "obtained", "from", "the", "authors", ".", "3.2", "Choice", "of", "topics", "Depending", "on", "the", "focus", "topic", "and", "prioritization", "strategy", ",", "focused", "crawlers", "may", "achieve", "diverse", "harvest", "rates", ".", "Our", "153", "early", "prototype", "-LSB-", "9", "-RSB-", "yielded", "harvest", "rates", "typically", "between", "0.25", "and", "0.6", ".", "Rennie", "and", "McCallum", "-LSB-", "30", "-RSB-", "reported", "recall", "and", "not", "harvest", "rates", ".", "Diligenti", "et", "al.", ".", "-LSB-", "14", "-RSB-", "focused", "on", "very", "specific", "topics", "where", "the", "harvest", "rate", "was", "very", "low", ",", "4", "6", "%", ".", "Obviously", ",", "the", "maximum", "gains", "shown", "by", "a", "new", "idea", "in", "focused", "crawling", "can", "be", "sensitive", "to", "the", "baseline", "harvest", "rate", ".", "To", "avoid", "showing", "our", "new", "system", "in", "an", "unduly", "positive", "or", "negative", "light", ",", "we", "picked", "a", "set", "of", "topics", "which", "were", "fairly", "diverse", ",", "and", "appeared", "to", "be", "neither", "too", "broad", "to", "be", "useful", "-LRB-", "e.g.", ",", "/", "Arts", ",", "/", "Science", "-RRB-", "nor", "too", "narrow", "for", "the", "baseline", "crawler", "to", "be", "a", "reasonable", "adversary", ".", "We", "list", "our", "topics", "in", "Figure", "4", ".", "We", "chose", "the", "topics", "without", "prior", "estimates", "of", "how", "well", "our", "new", "system", "would", "work", ",", "and", "froze", "the", "list", "of", "topics", ".", "All", "topics", "that", "we", "experimented", "with", "showed", "visible", "improvements", ",", "and", "none", "of", "them", "showed", "deteriorated", "performance", ".", "3.3", "Baseline", "crawl", "results", "We", "will", "skip", "the", "results", "of", "breadth-first", "or", "random", "crawling", "in", "our", "commentary", ",", "because", "it", "is", "known", "from", "earlier", "work", "on", "focused", "crawling", "that", "our", "baseline", "crawls", "are", "already", "far", "better", "than", "breadth-first", "or", "random", "crawls", ".", "Figure", "5", "shows", ",", "for", "most", "of", "the", "topics", "listed", "above", ",", "the", "distribution", "of", "page", "relevance", "after", "running", "the", "baseline", "crawler", "to", "collect", "roughly", "15000", "to", "25000", "pages", "per", "topic", ".", "The", "baseline", "crawler", "used", "a", "standard", "naive", "Bayes", "classifier", "on", "the", "ordinary", "term", "space", "of", "whole", "pages", ".", "We", "see", "that", "the", "relevance", "distribution", "is", "bimodal", ",", "with", "most", "pages", "being", "very", "relevant", "or", "not", "at", "all", ".", "This", "is", "partly", ",", "but", "only", "partly", ",", "a", "result", "of", "using", "a", "multinomial", "naive", "Bayes", "model", ".", "The", "naive", "Bayes", "classifier", "assumes", "term", "independence", "and", "multiplies", "together", "many", "-LRB-", "small", "-RRB-", "term", "probabilities", ",", "with", "the", "result", "that", "the", "winning", "class", "usually", "beats", "all", "others", "by", "a", "large", "margin", "in", "probability", ".", "But", "it", "is", "also", "true", "that", "many", "outlinks", "lead", "to", "pages", "with", "completely", "irrelevant", "topics", ".", "Figure", "5", "gives", "a", "clear", "indication", "of", "how", "much", "improvement", "we", "can", "expect", "for", "each", "topic", "from", "our", "new", "algorithm", ".", "3.4", "DOM", "window", "size", "and", "feature", "selection", "A", "key", "concern", "for", "us", "was", "how", "to", "limit", "the", "maximum", "window", "width", "so", "that", "the", "total", "number", "of", "synthesized", "t", ",", "d", "features", "remains", "much", "smaller", "than", "the", "training", "data", "for", "the", "baseline", "classifier", ",", "enabling", "the", "apprentice", "to", "be", "trained", "or", "upgraded", "in", "a", "very", "short", "time", ".", "At", "the", "same", "time", ",", "we", "did", "not", "want", "to", "lose", "out", "on", "medium", "-", "to", "long-range", "dependencies", "between", "significant", "tokens", "on", "a", "page", "and", "the", "topic", "of", "HREF", "targets", "in", "the", "vicinity", ".", "We", "eventually", "settled", "for", "a", "maximum", "DOM", "window", "size", "of", "5", ".", "We", "made", "this", "choice", "through", "the", "following", "experiments", ".", "The", "easiest", "initial", "approach", "was", "an", "end-to-end", "cross-validation", "of", "the", "apprentice", "for", "various", "topics", "while", "increasing", "d", "max", ".", "We", "observed", "an", "initial", "increase", "in", "the", "validation", "accuracy", "when", "the", "DOM", "window", "size", "was", "increased", "beyond", "0", ".", "However", ",", "the", "early", "increase", "leveled", "off", "or", "even", "reversed", "after", "the", "DOM", "window", "size", "was", "increased", "beyond", "5", ".", "The", "graphs", "in", "Figure", "6", "display", "these", "results", ".", "We", "see", "that", "in", "the", "Chess", "category", ",", "though", "the", "validation", "accuracy", "increases", "monotonically", ",", "the", "gains", "are", "less", "pronounced", "after", "d", "max", "exceeds", "5", ".", "For", "the", "AI", "category", ",", "accuracy", "fell", "beyond", "d", "max", "=", "4", ".", "Topic", "#Good", "#Bad", "/", "Arts/Music/Styles", "/", "Classical/Composers", "24000", "13000", "/", "Arts/Performing", "_", "Arts/Dance/Folk", "_", "Dancing", "7410", "8300", "/", "Business/Industries", "...", "/", "Livestock/Horses", "...", "17000", "7600", "/", "Computers/Artificial", "_", "Intelligence", "7701", "14309", "/", "Computers/Software/Operating", "_", "Systems/Linux", "17500", "9300", "/", "Games/Board", "_", "Games/C/Chess", "17000", "4600", "/", "Health/Conditions", "_", "and_Diseases", "/", "Cancer", "14700", "5300", "/", "Home/Recipes/Soups", "_", "and_Stews", "20000", "3600", "/", "Recreation/Outdoors/Fishing", "/", "Fly_Fishing", "12000", "13300", "/", "Recreation/Outdoors/Speleology", "6717", "14890", "/", "Science/Astronomy", "14961", "5332", "/", "Science/Earth", "_", "Sciences/Meteorology", "19205", "8705", "/", "Sports/Basketball", "26700", "2588", "/", "Sports/Canoe", "_", "and_Kayaking", "12000", "12700", "/", "Sports/Hockey/Ice", "_", "Hockey", "17500", "17900", "Figure", "4", ":", "We", "chose", "a", "variety", "of", "topics", "which", "were", "neither", "too", "broad", "nor", "too", "narrow", ",", "so", "that", "the", "baseline", "crawler", "was", "a", "reasonable", "adversary", ".", "#Good", "-LRB-", "#Bad", "-RRB-", "show", "the", "approximate", "number", "of", "pages", "collected", "by", "the", "baseline", "crawler", "which", "have", "relevance", "above", "-LRB-", "below", "-RRB-", "0.5", ",", "which", "indicates", "the", "relative", "difficulty", "of", "the", "crawling", "task", ".", "0", "0", ".", "2", "0", ".", "4", "0", ".", "6", "0", ".", "8", "1", "AI", "Astronomy", "Basketball", "Cancer", "Chess", "Composers", "FlyFishing", "FolkDance", "Horses", "IceHockey", "Kayaking", "Linux", "Meteorology", "Soups", "Tobacco", "10", "100", "1000", "10000", "100000", "Expected", "#pages", "Relevance", "probability", "Figure", "5", ":", "All", "of", "the", "baseline", "classifiers", "have", "harvest", "rates", "between", "0.25", "and", "0.6", ",", "and", "all", "show", "strongly", "bimodal", "relevance", "score", "distribution", ":", "most", "of", "the", "pages", "fetched", "are", "very", "relevant", "or", "not", "at", "all", ".", "It", "is", "important", "to", "notice", "that", "the", "improvement", "in", "accuracy", "is", "almost", "entirely", "because", "with", "increasing", "number", "of", "available", "features", ",", "the", "apprentice", "can", "reject", "negative", "-LRB-", "low", "relevance", "-RRB-", "instances", "more", "accurately", ",", "although", "the", "accuracy", "for", "positive", "instances", "decreases", "slightly", ".", "Rejecting", "unpromising", "outlinks", "is", "critical", "to", "the", "success", "of", "the", "enhanced", "crawler", ".", "Therefore", "we", "would", "rather", "lose", "a", "little", "accuracy", "for", "positive", "instances", "rather", "than", "do", "poorly", "on", "the", "negative", "instances", ".", "We", "therefore", "chose", "d", "max", "to", "be", "either", "4", "or", "5", "for", "all", "the", "experiments", ".", "We", "verified", "that", "adding", "offset", "information", "to", "text", "tokens", "was", "better", "than", "simply", "using", "plain", "text", "near", "the", "link", "-LSB-", "8", "-RSB-", ".", "One", "sample", "result", "is", "shown", "in", "Figure", "7", ".", "The", "apprentice", "accuracy", "decreases", "with", "d", "max", "if", "only", "text", "is", "used", ",", "whereas", "it", "increases", "if", "offset", "information", "is", "provided", ".", "This", "highlights", "154", "Chess", "65", "70", "75", "80", "85", "90", "95", "100", "0", "2", "4", "6", "8", "d_max", "%", "A", "c", "c", "u", "r", "a", "c", "y", "Negative", "Positive", "Average", "AI", "65", "70", "75", "80", "85", "90", "0", "2", "4", "6", "8", "d_max", "%", "A", "c", "c", "u", "r", "a", "c", "y", "Negative", "Positive", "Average", "Figure", "6", ":", "There", "is", "visible", "improvement", "in", "the", "accuracy", "of", "the", "apprentice", "if", "d", "max", "is", "made", "larger", ",", "up", "to", "about", "5", "7", "depending", "on", "topic", ".", "The", "effect", "is", "more", "pronounced", "on", "the", "the", "ability", "to", "correctly", "reject", "negative", "-LRB-", "low", "relevance", "-RRB-", "outlink", "instances", ".", "`", "Average", "'", "is", "the", "microaverage", "over", "all", "test", "instances", "for", "the", "apprentice", ",", "not", "the", "arithmetic", "mean", "of", "`", "Positive", "'", "and", "`", "Negative", "'", ".", "AI", "76", "78", "80", "82", "84", "86", "0", "1", "2", "3", "4", "5", "6", "7", "8", "d_max", "%", "A", "c", "c", "u", "r", "a", "c", "y", "Text", "Offset", "Figure", "7", ":", "Encoding", "DOM", "offset", "information", "with", "textual", "features", "boosts", "the", "accuracy", "of", "the", "apprentice", "substantially", ".", "the", "importance", "of", "designing", "proper", "features", ".", "To", "corroborate", "the", "useful", "ranges", "of", "d", "max", "above", ",", "we", "compared", "the", "value", "of", "average", "mutual", "information", "gain", "for", "terms", "found", "at", "various", "distances", "from", "the", "target", "HREF", ".", "The", "experiments", "revealed", "that", "the", "information", "gain", "of", "terms", "found", "further", "away", "from", "the", "target", "HREF", "was", "generally", "lower", "than", "those", "that", "were", "found", "closer", ",", "but", "this", "reduction", "was", "not", "monotonic", ".", "For", "instance", ",", "the", "average", "information", "Chess", "0.00002", "0.00004", "0.00006", "0.00008", "0.0001", "0.00012", "0.00014", "0.00016", "0.00018", "0.0002", "-8", "-6", "-4", "-2", "0", "2", "4", "6", "8", "d", "I", "n", "f", "o", "g", "a", "i", "n", "d_max", "=", "8", "d_max", "=", "5", "d_max", "=", "4", "d_max", "=", "3", "AI", "4.00E-05", "5.00E-05", "6.00E-05", "7.00E-05", "8.00E-05", "9.00E-05", "1.00E-04", "-8", "-6", "-4", "-2", "0", "2", "4", "6", "8", "d", "I", "n", "f", "o", "G", "a", "i", "n", "d_max", "=", "8", "d_max", "=", "5", "d_max", "=", "4", "d_max", "=", "3", "Figure", "8", ":", "Information", "gain", "variation", "plotted", "against", "distance", "from", "the", "target", "HREF", "for", "various", "DOM", "window", "sizes", ".", "We", "observe", "that", "the", "information", "gain", "is", "insensitive", "to", "d", "max", ".", "gain", "at", "d", "=", "-2", "was", "higher", "than", "that", "at", "d", "=", "-1", ";", "see", "Figure", "8", ".", "For", "each", "DOM", "window", "size", ",", "we", "observe", "that", "the", "information", "gain", "varies", "in", "a", "sawtooth", "fashion", ";", "this", "intriguing", "observation", "is", "explained", "shortly", ".", "The", "average", "information", "gain", "settled", "to", "an", "almost", "constant", "value", "after", "distance", "of", "5", "from", "the", "target", "URL", ".", "We", "were", "initially", "concerned", "that", "to", "keep", "the", "computation", "cost", "manageable", ",", "we", "would", "need", "some", "cap", "on", "d", "max", "even", "while", "measuring", "information", "gain", ",", "but", "luckily", ",", "the", "variation", "of", "information", "gain", "is", "insensitive", "to", "d", "max", ",", "as", "Figure", "8", "shows", ".", "These", "observations", "made", "our", "final", "choice", "of", "d", "max", "easy", ".", "In", "a", "bid", "to", "explain", "the", "occurrence", "of", "the", "unexpected", "saw-tooth", "form", "in", "Figure", "8", "we", "measured", "the", "rate", "t", ",", "d", "at", "which", "term", "t", "occurred", "at", "offset", "d", ",", "relative", "to", "the", "total", "count", "of", "all", "terms", "occurring", "at", "offset", "d.", "-LRB-", "They", "are", "roughly", "the", "multinomial", "naive", "Bayes", "term", "probability", "parameters", ".", "-RRB-", "For", "fixed", "values", "of", "d", ",", "we", "calculated", "the", "sum", "of", "values", "of", "terms", "found", "at", "those", "offsets", "from", "the", "target", "HREF", ".", "Figure", "9", "-LRB-", "a", "-RRB-", "shows", "the", "plot", "of", "these", "sums", "to", "the", "distance", "-LRB-", "d", "-RRB-", "for", "various", "categories", ".", "The", "values", "showed", "a", "general", "decrease", "as", "the", "distances", "from", "the", "target", "HREF", "increased", ",", "but", "this", "decrease", ",", "like", "that", "of", "information", "gain", ",", "was", "not", "monotonic", ".", "The", "values", "of", "the", "terms", "at", "odd", "numbered", "distances", "from", "the", "target", "HREF", "were", "found", "to", "be", "lower", "than", "those", "of", "the", "terms", "present", "at", "the", "even", "positions", ".", "For", "instance", ",", "the", "sum", "of", "values", "of", "terms", "occurring", "at", "distance", "-2", "were", "higher", "than", "that", "of", "terms", "at", "position", "-1", ".", "This", "observation", "was", "explained", "by", "observing", "the", "HTML", "tags", "that", "are", "present", "at", "various", "distances", "from", "the", "target", "HREF", ".", "We", "observed", "that", "tags", "located", "at", "odd", "d", "are", "mostly", "non-text", "tags", ",", "thanks", "to", "authoring", "idioms", "such", "as", "<", "li", ">", "<", "a.", ".", ".", ">", "<", "li", ">", "<", "a.", ".", ".", ">", "and", "<", "a.", ".", ".", ">", "<", "br", ">", "<", "a.", ".", ".", ">", "<", "br", ">", "etc.", ".", "A", "plot", "of", "the", "frequency", "of", "HTML", "tags", "against", "the", "distance", "from", "the", "HREF", "at", "which", "155", "0.02", "0.04", "0.06", "0.08", "0.1", "0.12", "0.14", "0.16", "0.18", "0.2", "-5", "-4", "-3", "-2", "-1", "0", "1", "2", "3", "4", "5", "d", "T", "h", "e", "t", "a", "_", "-LCB-", "t", ",", "d", "-RCB-", "AI", "Chess", "Horses", "Cancer", "IceHockey", "Linux", "Bball", "+", "Bball-Tags", "at", "various", "DOM", "offsets", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "8000", "9000", "-5", "-4", "-3", "-2", "-1", "0", "1", "2", "3", "4", "5", "d", "N", "u", "m", "b", "e", "r", "o", "f", "o", "c", "c", "u", "r", "r", "e", "n", "c", "e", "s", "font", "td", "img", "b", "br", "p", "tr", "li", "comment", "div", "table", "center", "i", "span", "hr", "Figure", "9", ":", "Variation", "of", "-LRB-", "a", "-RRB-", "relative", "term", "frequencies", "and", "-LRB-", "b", "-RRB-", "frequencies", "of", "HTML", "tags", "plotted", "against", "d.", "they", "were", "found", "is", "shown", "in", "Figure", "9", "-LRB-", "b", "-RRB-", ".", "-LRB-", "The", "<", "a.", ".", ".", ">", "tag", "obviously", "has", "the", "highest", "frequency", "and", "has", "been", "removed", "for", "clarity", ".", "-RRB-", "These", "were", "important", "DOM", "idioms", ",", "spanning", "many", "diverse", "Web", "sites", "and", "authoring", "styles", ",", "that", "we", "did", "not", "anticipate", "ahead", "of", "time", ".", "Learning", "to", "recognize", "these", "idioms", "was", "valuable", "for", "boosting", "the", "harvest", "of", "the", "enhanced", "crawler", ".", "Yet", ",", "it", "would", "be", "unreasonable", "for", "the", "user-supplied", "baseline", "black-box", "predicate", "or", "learner", "to", "capture", "crawling", "strategies", "at", "such", "a", "low", "level", ".", "This", "is", "the", "ideal", "job", "of", "the", "apprentice", ".", "The", "apprentice", "took", "only", "3", "10", "minutes", "to", "train", "on", "its", "-LRB-", "u", ",", "v", "-RRB-", "instances", "from", "scratch", ",", "despite", "a", "simple", "implementation", "that", "wrote", "a", "small", "file", "to", "disk", "for", "each", "instance", "of", "the", "apprentice", ".", "Contrast", "this", "with", "several", "hours", "taken", "by", "the", "baseline", "learner", "to", "learn", "general", "term", "distribution", "for", "topics", ".", "3.5", "Crawling", "with", "the", "apprentice", "trained", "off-line", "In", "this", "section", "we", "subject", "the", "apprentice", "to", "a", "``", "field", "test", "''", "as", "part", "of", "the", "crawler", ",", "as", "shown", "in", "Figure", "2", ".", "To", "do", "this", "we", "follow", "these", "steps", ":", "1", ".", "Fix", "a", "topic", "and", "start", "the", "baseline", "crawler", "from", "all", "example", "URLs", "available", "from", "the", "given", "topic", ".", "2", ".", "Run", "the", "baseline", "crawler", "until", "roughly", "20000", "25000", "pages", "have", "been", "fetched", ".", "3", ".", "For", "all", "pages", "-LRB-", "u", ",", "v", "-RRB-", "such", "that", "both", "u", "and", "v", "have", "been", "fetched", "by", "the", "baseline", "crawler", ",", "prepare", "an", "instance", "from", "-LRB-", "u", ",", "v", "-RRB-", "and", "add", "to", "the", "training", "set", "of", "the", "apprentice", ".", "4", ".", "Train", "the", "apprentice", ".", "Set", "a", "suitable", "value", "for", "d", "max", ".", "0", "2000", "4000", "6000", "0", "2000", "4000", "6000", "8000", "10000", "Expected", "#pages", "lost", "#Pages", "fetched", "Folk", "Dancing", "Baseline", "Apprentice", "0", "4000", "8000", "0", "4000", "8000", "12000", "16000", "20000", "Expected", "#pages", "lost", "#Pages", "fetched", "Ice", "Hockey", "Baseline", "Apprentice", "Figure", "10", ":", "Guidance", "from", "the", "apprentice", "significantly", "reduces", "the", "loss", "rate", "of", "the", "focused", "crawler", ".", "5", ".", "Start", "the", "enhanced", "crawler", "from", "the", "same", "set", "of", "pages", "that", "the", "baseline", "crawler", "had", "started", "from", ".", "6", ".", "Run", "the", "enhanced", "crawler", "to", "fetch", "about", "the", "same", "number", "of", "pages", "as", "the", "baseline", "crawler", ".", "7", ".", "Compare", "the", "loss", "rates", "of", "the", "two", "crawlers", ".", "Unlike", "with", "the", "reinforcement", "learner", "studied", "by", "Rennie", "and", "McCallum", ",", "we", "have", "no", "predetermined", "universe", "of", "URLs", "which", "constitute", "the", "relevant", "set", ";", "our", "crawler", "must", "go", "forth", "into", "the", "open", "Web", "and", "collect", "relevant", "pages", "from", "an", "unspecified", "number", "of", "sites", ".", "Therefore", ",", "measuring", "recall", "w.r.t.", "the", "baseline", "is", "not", "very", "meaningful", "-LRB-", "although", "we", "do", "report", "such", "numbers", ",", "for", "completeness", ",", "in", "3.6", "-RRB-", ".", "Instead", ",", "we", "measure", "the", "loss", "-LRB-", "the", "number", "of", "pages", "fetched", "which", "had", "to", "be", "thrown", "away", "owing", "to", "poor", "relevance", "-RRB-", "at", "various", "epochs", "in", "the", "crawl", ",", "where", "time", "is", "measured", "as", "the", "number", "of", "pages", "fetched", "-LRB-", "to", "elide", "fluctuating", "network", "delay", "and", "bandwidth", "-RRB-", ".", "At", "epoch", "n", ",", "if", "the", "pages", "fetched", "are", "v", "1", ",", "...", ",", "v", "n", ",", "then", "the", "total", "expected", "loss", "is", "-LRB-", "1/n", "-RRB-", "i", "-LRB-", "1", "-", "Pr", "-LRB-", "c", "|", "v", "i", "-RRB-", "-RRB-", ".", "Figure", "10", "shows", "the", "loss", "plotted", "against", "the", "number", "of", "pages", "crawled", "for", "two", "topics", ":", "Folk", "dancing", "and", "Ice", "hockey", ".", "The", "behavior", "for", "Folk", "dancing", "is", "typical", ";", "Ice", "hockey", "is", "one", "of", "the", "best", "examples", ".", "In", "both", "cases", ",", "the", "loss", "goes", "up", "substantially", "faster", "with", "each", "crawled", "page", "for", "the", "baseline", "crawler", "than", "for", "the", "enhanced", "crawler", ".", "The", "reduction", "of", "loss", "for", "these", "topics", "are", "40", "%", "and", "90", "%", "respectively", ";", "typically", ",", "this", "number", "is", "between", "30", "%", "and", "60", "%", ".", "In", "other", "words", ",", "for", "most", "156", "topics", ",", "the", "apprentice", "reduces", "the", "number", "of", "useless", "pages", "fetched", "by", "one-third", "to", "two-thirds", ".", "In", "a", "sense", ",", "comparing", "loss", "rates", "is", "the", "most", "meaningful", "evaluation", "in", "our", "setting", ",", "because", "the", "network", "cost", "of", "fetching", "relevant", "pages", "has", "to", "be", "paid", "anyway", ",", "and", "can", "be", "regarded", "as", "a", "fixed", "cost", ".", "Diligenti", "et", "al.", "show", "significant", "improvements", "in", "harvest", "rate", ",", "but", "for", "their", "topics", ",", "the", "loss", "rate", "for", "both", "the", "baseline", "crawler", "as", "well", "as", "the", "context-focused", "crawler", "were", "much", "higher", "than", "ours", ".", "3.6", "URL", "overlap", "and", "recall", "The", "reader", "may", "feel", "that", "the", "apprentice", "crawler", "has", "an", "unfair", "advantage", "because", "it", "is", "first", "trained", "on", "DOM-derived", "features", "from", "the", "same", "set", "of", "pages", "that", "it", "has", "to", "crawl", "again", ".", "We", "claim", "that", "the", "set", "of", "pages", "visited", "by", "the", "baseline", "crawler", "and", "the", "-LRB-", "off-line", "trained", "-RRB-", "enhanced", "crawler", "have", "small", "overlap", ",", "and", "the", "superior", "results", "for", "the", "crawler", "guided", "by", "the", "apprentice", "are", "in", "large", "part", "because", "of", "generalizable", "learning", ".", "This", "can", "be", "seen", "from", "the", "examples", "in", "Figure", "11", ".", "Baseline", "Apprentice", "Intersect", "Basketball", "27220", "26280", "2431", "FolkDance", "14011", "8168", "2199", "IceHockey", "34121", "22496", "1657", "FlyFishing", "19252", "14319", "6834", "Basketball", "49", "%", "47", "%", "4", "%", "Baseline", "Apprentice", "Intersect", "FolkDance", "57", "%", "34", "%", "9", "%", "Baseline", "Apprentice", "Intersect", "IceHockey", "58", "%", "39", "%", "3", "%", "Baseline", "Apprentice", "Intersect", "FlyFishing", "48", "%", "35", "%", "17", "%", "Baseline", "Apprentice", "Intersect", "Figure", "11", ":", "The", "apprentice-guided", "crawler", "follows", "paths", "which", "are", "quite", "different", "from", "the", "baseline", "crawler", "because", "of", "its", "superior", "priority", "estimation", "technique", ".", "As", "a", "result", "there", "is", "little", "overlap", "between", "the", "URLs", "harvested", "by", "these", "two", "crawlers", ".", "Given", "that", "the", "overlap", "between", "the", "baseline", "and", "the", "enhanced", "crawlers", "is", "small", ",", "which", "is", "`", "better", "'", "?", "As", "per", "the", "verdict", "of", "the", "baseline", "classifier", ",", "clearly", "the", "enhanced", "crawler", "is", "better", ".", "Even", "so", ",", "we", "report", "the", "loss", "rate", "of", "a", "different", "version", "of", "the", "enhanced", "crawler", "which", "is", "restricted", "to", "visiting", "only", "those", "pages", "which", "were", "visited", "by", "the", "baseline", "learner", ".", "We", "call", "this", "crawler", "the", "recall", "crawler", ".", "This", "means", "that", "in", "the", "end", ",", "both", "crawlers", "have", "collected", "exactly", "the", "same", "set", "of", "pages", ",", "and", "therefore", "have", "the", "same", "total", "loss", ".", "The", "test", "then", "is", "how", "long", "can", "the", "enhanced", "learner", "prevent", "the", "loss", "from", "approaching", "the", "baseline", "loss", ".", "These", "experiments", "are", "a", "rough", "analog", "of", "the", "`", "recall", "'", "experiments", "done", "by", "Rennie", "and", "McCallum", ".", "We", "note", "that", "for", "these", "recall", "experiments", ",", "the", "apprentice", "does", "get", "the", "benefit", "of", "not", "having", "to", "generalize", ",", "so", "the", "gap", "between", "baseline", "loss", "and", "recall", "loss", "could", "be", "optimistic", ".", "Figure", "12", "compares", "the", "expected", "total", "loss", "of", "the", "baseline", "crawler", ",", "the", "recall", "crawler", ",", "and", "the", "apprentice-guided", "crawler", "-LRB-", "which", "is", "free", "to", "wander", "outside", "the", "baseline", "collection", "-RRB-", "plotted", "against", "the", "number", "of", "pages", "fetched", ",", "for", "a", "few", "topics", ".", "As", "expected", ",", "the", "recall", "crawler", "has", "loss", "generally", "0", "1000", "0", "1000", "2000", "3000", "4000", "5000", "6000", "Expected", "#pages", "lost", "#Pages", "fetched", "Ice", "Hockey", "Baseline", "Recall", "Apprentice", "0", "5000", "10000", "0", "5000", "10000", "15000", "20000", "Expected", "#pages", "lost", "#Pages", "fetched", "Kayaking", "Baseline", "Recall", "Apprentice", "Figure", "12", ":", "Recall", "for", "a", "crawler", "using", "the", "apprentice", "but", "limited", "to", "the", "set", "of", "pages", "crawled", "earlier", "by", "the", "baseline", "crawler", ".", "somewhere", "between", "the", "loss", "of", "the", "baseline", "and", "the", "enhanced", "crawler", ".", "3.7", "Effect", "of", "training", "the", "apprentice", "online", "Next", "we", "observe", "the", "effect", "of", "a", "mid-flight", "correction", "when", "the", "apprentice", "is", "trained", "some", "way", "into", "a", "baseline", "and", "switched", "into", "the", "circuit", ".", "The", "precise", "steps", "were", ":", "1", ".", "Run", "the", "baseline", "crawler", "for", "the", "first", "n", "page", "fetches", ",", "then", "stop", "it", ".", "2", ".", "Prepare", "instances", "and", "train", "the", "apprentice", ".", "3", ".", "Re-evaluate", "the", "priorities", "of", "all", "unvisited", "pages", "v", "in", "the", "frontier", "table", "using", "the", "apprentice", ".", "4", ".", "Switch", "in", "the", "apprentice", "and", "resume", "an", "enhanced", "crawl", ".", "We", "report", "our", "experience", "with", "``", "Folk", "Dancing", ".", "''", "The", "baseline", "crawl", "was", "stopped", "after", "5200", "pages", "were", "fetched", ".", "Re-evaluating", "the", "priority", "of", "frontier", "nodes", "led", "to", "radical", "changes", "in", "their", "individual", "ranks", "as", "well", "as", "the", "priority", "distributions", ".", "As", "shown", "in", "Figure", "13", "-LRB-", "a", "-RRB-", ",", "the", "baseline", "learner", "is", "overly", "optimistic", "about", "the", "yield", "it", "expects", "from", "the", "frontier", ",", "whereas", "the", "apprentice", "already", "abandons", "a", "large", "fraction", "of", "frontier", "outlinks", ",", "and", "is", "less", "optimistic", "about", "157", "-LRB-", "a", "-RRB-", "Folk", "Dancing", "0", "2000", "4000", "6000", "8000", "10000", "12000", "0", "0-.2", ".2-.4", ".4-.6", ".6-.8", ".8-1", "Estimated", "relevance", "of", "outlinks", "F", "r", "e", "q", "u", "e", "n", "c", "y", "Baseline", "Apprentice", "-LRB-", "b", "-RRB-", "Folk", "Dancing", "2100", "2200", "2300", "2400", "2500", "2600", "2700", "4500", "5500", "#Pages", "crawled", "E", "x", "p", "e", "c", "t", "e", "d", "l", "o", "s", "s", "-LRB-", "#", "p", "a", "g", "e", "s", "-RRB-", "Train", "apprentice", "Collect", "instances", "for", "apprentice", "Apprentice", "guides", "crawl", "Figure", "13", ":", "The", "effect", "of", "online", "training", "of", "the", "apprentice", ".", "-LRB-", "a", "-RRB-", "The", "apprentice", "makes", "sweeping", "changes", "in", "the", "estimated", "promise", "of", "unvisited", "nodes", "in", "the", "crawl", "frontier", ".", "-LRB-", "b", "-RRB-", "Resuming", "the", "crawl", "under", "the", "guidance", "of", "the", "apprentice", "immediately", "shows", "significant", "reduction", "in", "the", "loss", "accumulation", "rate", ".", "the", "others", ",", "which", "appears", "more", "accurate", "from", "the", "Bayesian", "perspective", ".", "Figure", "13", "-LRB-", "b", "-RRB-", "shows", "the", "effect", "of", "resuming", "an", "enhanced", "crawl", "guided", "by", "the", "trained", "apprentice", ".", "The", "new", "-LRB-", "u", ",", "v", "-RRB-", "instances", "are", "all", "guaranteed", "to", "be", "unknown", "to", "the", "apprentice", "now", ".", "It", "is", "clear", "that", "the", "apprentice", "'s", "prioritization", "immediately", "starts", "reducing", "the", "loss", "rate", ".", "Figure", "14", "shows", "an", "even", "more", "impressive", "example", ".", "There", "are", "additional", "mild", "gains", "from", "retraining", "the", "apprentice", "at", "later", "points", ".", "It", "may", "be", "possible", "to", "show", "a", "more", "gradual", "online", "learning", "effect", "by", "retraining", "the", "classifier", "at", "a", "finer", "interval", ",", "e.g.", ",", "every", "100", "page", "fetches", ",", "similar", "to", "Aggarwal", "et", "al.", ".", "In", "our", "context", ",", "however", ",", "losing", "a", "thousand", "pages", "at", "the", "outset", "because", "of", "the", "baseline", "crawler", "'s", "limitation", "is", "not", "a", "disaster", ",", "so", "we", "need", "not", "bother", ".", "3.8", "Effect", "of", "other", "features", "We", "experimented", "with", "two", "other", "kinds", "of", "feature", ",", "which", "we", "call", "topic", "and", "cocitation", "features", ".", "Our", "limiting", "d", "max", "to", "5", "may", "deprive", "the", "apprentice", "of", "important", "features", "in", "the", "source", "page", "u", "which", "are", "far", "from", "the", "link", "-LRB-", "u", ",", "v", "-RRB-", ".", "One", "indirect", "way", "to", "reveal", "such", "features", "to", "the", "apprentice", "is", "to", "classify", "u", ",", "and", "to", "add", "the", "names", "of", "some", "of", "the", "top-scoring", "classes", "for", "u", "to", "the", "instance", "-LRB-", "u", ",", "v", "-RRB-", ".", "2.2.3", "explains", "why", "this", "may", "help", ".", "This", "modification", "resulted", "in", "a", "1", "%", "increase", "in", "the", "accuracy", "of", "the", "apprentice", ".", "A", "further", "increase", "of", "1", "%", "was", "observed", "if", "we", "added", "all", "Classical", "Composers", "600", "800", "1000", "1200", "1400", "1600", "1800", "2000", "3000", "4000", "5000", "6000", "7000", "8000", "#Pages", "fetched", "C", "u", "m", "u", "l", "a", "t", "i", "v", "e", "e", "x", "p", "e", "c", "t", "e", "d", "l", "o", "s", "s", "-LRB-", "#", "p", "a", "g", "e", "s", "-RRB-", "Collect", "instances", "for", "apprentice", "Train", "apprentice", "Apprentice", "guides", "crawl", "Figure", "14", ":", "Another", "example", "of", "training", "the", "apprentice", "online", "followed", "by", "starting", "to", "use", "it", "for", "crawl", "guidance", ".", "Before", "guidance", ",", "loss", "accumulation", "rate", "is", "over", "30", "%", ",", "after", ",", "it", "drops", "to", "only", "6", "%", ".", "prefixes", "of", "the", "class", "name", ".", "For", "example", ",", "the", "full", "name", "for", "the", "Linux", "category", "is", "/", "Computers/Software/Operating", "_", "Systems/Linux", ".", "We", "added", "all", "of", "the", "following", "to", "the", "feature", "set", "of", "the", "source", "page", ":", "/", ",", "/", "Computers", ",", "/", "Computers", "/", "Software", ",", "/", "Computers/Software/Operating", "_", "Systems", "and", "/", "Computers/Software/Operating", "_", "Systems/Linux", ".", "We", "also", "noted", "that", "various", "class", "names", "and", "some", "of", "their", "prefixes", "appeared", "amongst", "the", "best", "discriminants", "of", "the", "positive", "and", "negative", "classes", ".", "Cocitation", "features", "for", "the", "link", "-LRB-", "u", ",", "v", "-RRB-", "are", "constructed", "by", "looking", "for", "other", "links", "-LRB-", "u", ",", "w", "-RRB-", "within", "a", "DOM", "distance", "of", "d", "max", "such", "that", "w", "has", "already", "been", "fetched", ",", "so", "that", "Pr", "-LRB-", "c", "|", "w", "-RRB-", "is", "known", ".", "We", "discretize", "Pr", "-LRB-", "c", "|", "w", "-RRB-", "to", "two", "values", "high", "and", "low", "as", "in", "2.3", ",", "and", "encode", "the", "feature", "as", "low", ",", "d", "or", "high", ",", "d", ".", "The", "use", "of", "cocitation", "features", "did", "not", "improve", "the", "accuracy", "of", "the", "apprentice", "to", "any", "appreciable", "extent", ".", "For", "both", "kinds", "of", "features", ",", "we", "estimated", "that", "random", "variations", "in", "crawling", "behavior", "-LRB-", "because", "of", "fluctuating", "network", "load", "and", "tie-breaking", "frontier", "scores", "-RRB-", "may", "prevent", "us", "from", "measuring", "an", "actual", "benefit", "to", "crawling", "under", "realistic", "operating", "conditions", ".", "We", "note", "that", "these", "ideas", "may", "be", "useful", "in", "other", "settings", ".", "We", "have", "presented", "a", "simple", "enhancement", "to", "a", "focused", "crawler", "that", "helps", "assign", "better", "priorities", "to", "the", "unvisited", "URLs", "in", "the", "crawl", "frontier", ".", "This", "leads", "to", "a", "higher", "rate", "of", "fetching", "pages", "relevant", "to", "the", "focus", "topic", "and", "fewer", "false", "positives", "which", "must", "be", "discarded", "after", "spending", "network", ",", "CPU", "and", "storage", "resources", "processing", "them", ".", "There", "is", "no", "need", "to", "manually", "train", "the", "system", "with", "paths", "leading", "to", "relevant", "pages", ".", "The", "key", "idea", "is", "an", "apprentice", "learner", "which", "can", "accurately", "predict", "the", "worth", "of", "fetching", "a", "page", "using", "DOM", "features", "on", "pages", "that", "link", "to", "it", ".", "We", "show", "that", "the", "DOM", "features", "we", "use", "are", "superior", "to", "simpler", "alternatives", ".", "Using", "topics", "from", "Dmoz", ",", "we", "show", "that", "our", "new", "system", "can", "cut", "down", "the", "fraction", "of", "false", "positives", "by", "30", "90", "%", ".", "We", "are", "exploring", "several", "directions", "in", "ongoing", "work", ".", "We", "wish", "to", "revisit", "continuous", "regression", "techniques", "for", "the", "apprentice", ",", "as", "well", "as", "more", "extensive", "features", "derived", "from", "the", "DOM", ".", "For", "example", ",", "we", "can", "associate", "with", "a", "token", "t", "the", "length", "of", "the", "DOM", "path", "from", "the", "text", "node", "containing", "t", "to", "158", "the", "HREF", "to", "v", ",", "or", "the", "depth", "of", "their", "least", "common", "ancestor", "in", "the", "DOM", "tree", ".", "We", "can", "not", "use", "these", "in", "lieu", "of", "DOM", "offset", ",", "because", "regions", "which", "are", "far", "apart", "lexically", "may", "be", "close", "to", "each", "other", "along", "a", "DOM", "path", ".", "t", ",", ",", "d", "features", "will", "be", "more", "numerous", "and", "sparser", "than", "t", ",", "d", "features", ",", "and", "could", "be", "harder", "to", "learn", ".", "The", "introduction", "of", "large", "numbers", "of", "strongly", "dependent", "features", "may", "even", "reduce", "the", "accuracy", "of", "the", "apprentice", ".", "Finally", ",", "we", "wish", "to", "implement", "some", "form", "of", "active", "learning", "where", "only", "those", "instances", "-LRB-", "u", ",", "v", "-RRB-", "with", "the", "largest", "|", "Pr", "-LRB-", "c", "|", "u", "-RRB-", "-", "Pr", "-LRB-", "c", "|", "v", "-RRB-", "|", "are", "chosen", "as", "training", "instances", "for", "the", "apprentice", ".", "Acknowledgments", ":", "Thanks", "to", "the", "referees", "for", "suggesting", "that", "we", "present", "Figure", "7", ".", "-LSB-", "1", "-RSB-", "C.", "C.", "Aggarwal", ",", "F.", "Al-Garawi", ",", "and", "P.", "S.", "Yu", ".", "Intelligent", "crawling", "on", "the", "World", "Wide", "Web", "with", "arbitrary", "predicates", ".", "In", "WWW2001", ",", "Hong", "Kong", ",", "May", "2001", ".", "ACM", ".", "Online", "at", "http", ":", "/", "/", "www10.org/cdrom/papers/110/", ".", "-LSB-", "2", "-RSB-", "C.", "Apte", ",", "F.", "Damerau", ",", "and", "S.", "M.", "Weiss", ".", "Automated", "learning", "of", "decision", "rules", "for", "text", "categorization", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "1994", ".", "IBM", "Research", "Report", "RC18879", ".", "-LSB-", "3", "-RSB-", "A.", "Blum", "and", "T.", "M.", "Mitchell", ".", "Combining", "labeled", "and", "unlabeled", "data", "with", "co-training", ".", "In", "Computational", "Learning", "Theory", ",", "pages", "92", "100", ",", "1998", ".", "-LSB-", "4", "-RSB-", "S.", "Chakrabarti", ".", "Integrating", "the", "document", "object", "model", "with", "hyperlinks", "for", "enhanced", "topic", "distillation", "and", "information", "extraction", ".", "In", "WWW", "10", ",", "Hong", "Kong", ",", "May", "2001", ".", "Online", "at", "http://www10.org/cdrom/papers/489", ".", "-LSB-", "5", "-RSB-", "S.", "Chakrabarti", ",", "B.", "Dom", ",", "R.", "Agrawal", ",", "and", "P.", "Raghavan", ".", "Scalable", "feature", "selection", ",", "classification", "and", "signature", "generation", "for", "organizing", "large", "text", "databases", "into", "hierarchical", "topic", "taxonomies", ".", "VLDB", "Journal", ",", "Aug.", "1998", ".", "Online", "at", "http", ":", "/", "/", "www.cs.berkeley.edu/~soumen/VLDB54_3.PDF", ".", "-LSB-", "6", "-RSB-", "S.", "Chakrabarti", ",", "B.", "Dom", ",", "D.", "Gibson", ",", "J.", "Kleinberg", ",", "P.", "Raghavan", ",", "and", "S.", "Rajagopalan", ".", "Automatic", "resource", "compilation", "by", "analyzing", "hyperlink", "structure", "and", "associated", "text", ".", "In", "7th", "Worldwide", "web", "conference", "-LRB-", "WWW7", "-RRB-", ",", "1998", ".", "Online", "at", "http://www7", ".", "scu.edu.au/programme/fullpapers/1898/com1898.html", ".", "-LSB-", "7", "-RSB-", "S.", "Chakrabarti", ",", "B.", "Dom", ",", "and", "P.", "Indyk", ".", "Enhanced", "hypertext", "categorization", "using", "hyperlinks", ".", "In", "SIGMOD", "Conference", ".", "ACM", ",", "1998", ".", "Online", "at", "http://www.cs.berkeley.edu/~soumen/sigmod98", ".", "ps", ".", "-LSB-", "8", "-RSB-", "S.", "Chakrabarti", ",", "B.", "E.", "Dom", ",", "D.", "A.", "Gibson", ",", "R.", "Kumar", ",", "P.", "Raghavan", ",", "S.", "Rajagopalan", ",", "and", "A.", "Tomkins", ".", "Topic", "distillation", "and", "spectral", "filtering", ".", "Artificial", "Intelligence", "Review", ",", "13", "-LRB-", "5", "6", "-RRB-", ":", "409", "435", ",", "1999", ".", "-LSB-", "9", "-RSB-", "S.", "Chakrabarti", ",", "M.", "van", "den", "Berg", ",", "and", "B.", "Dom", ".", "Focused", "crawling", ":", "a", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "Computer", "Networks", ",", "31:1623", "1640", ",", "1999", ".", "First", "appeared", "in", "the", "8th", "International", "World", "Wide", "Web", "Conference", ",", "Toronto", ",", "May", "1999", ".", "Available", "online", "at", "http://www8.org/", "w8-papers/5a-search-query/crawling/index.html", ".", "-LSB-", "10", "-RSB-", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "and", "L.", "Page", ".", "Efficient", "crawling", "through", "URL", "ordering", ".", "In", "7th", "World", "Wide", "Web", "Conference", ",", "Brisbane", ",", "Australia", ",", "Apr.", "1998", ".", "Online", "at", "http://www7.scu.edu", ".", "au/programme/fullpapers/1919/com1919.htm", ".", "-LSB-", "11", "-RSB-", "B.", "D.", "Davison", ".", "Topical", "locality", "in", "the", "Web", ".", "In", "Proceedings", "of", "the", "23rd", "Annual", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", "-LRB-", "SIGIR", "2000", "-RRB-", ",", "pages", "272", "279", ",", "Athens", ",", "Greece", ",", "July", "2000", ".", "ACM", ".", "Online", "at", "http", ":", "/", "/", "www.cs.rutgers.edu/~davison/pubs/2000/sigir/", ".", "-LSB-", "12", "-RSB-", "P.", "M.", "E.", "De", "Bra", "and", "R.", "D.", "J.", "Post", ".", "Information", "retrieval", "in", "the", "world-wide", "web", ":", "Making", "client-based", "searching", "feasible", ".", "In", "Proceedings", "of", "the", "First", "International", "World", "Wide", "Web", "Conference", ",", "Geneva", ",", "Switzerland", ",", "1994", ".", "Online", "at", "http://www1", ".", "cern.ch/PapersWWW94/reinpost.ps", ".", "-LSB-", "13", "-RSB-", "P.", "M.", "E.", "De", "Bra", "and", "R.", "D.", "J.", "Post", ".", "Searching", "for", "arbitrary", "information", "in", "the", "WWW", ":", "The", "fish", "search", "for", "Mosaic", ".", "In", "Second", "World", "Wide", "Web", "Conference", "'", "94", ":", "Mosaic", "and", "the", "Web", ",", "Chicago", ",", "Oct.", "1994", ".", "Online", "at", "http://archive.ncsa.uiuc.edu/", "SDG/IT94/Proceedings/Searching/debra/article.html", "and", "http", ":", "/", "/", "citeseer.nj.nec.com/172936.html", ".", "-LSB-", "14", "-RSB-", "M.", "Diligenti", ",", "F.", "Coetzee", ",", "S.", "Lawrence", ",", "C.", "L.", "Giles", ",", "and", "M.", "Gori", ".", "Focused", "crawling", "using", "context", "graphs", ".", "In", "A.", "E.", "Abbadi", ",", "M.", "L.", "Brodie", ",", "S.", "Chakravarthy", ",", "U.", "Dayal", ",", "N.", "Kamel", ",", "G.", "Schlageter", ",", "and", "K.-Y", ".", "Whang", ",", "editors", ",", "VLDB", "2000", ",", "Proceedings", "of", "26th", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "September", "10-14", ",", "2000", ",", "Cairo", ",", "Egypt", ",", "pages", "527", "534", ".", "Morgan", "Kaufmann", ",", "2000", ".", "Online", "at", "http://www.neci.nec.com/~lawrence/", "papers/focus-vldb00/focus-vldb00.pdf", ".", "-LSB-", "15", "-RSB-", "W.", "A.", "Gale", ",", "K.", "W.", "Church", ",", "and", "D.", "Yarowsky", ".", "A", "method", "for", "disambiguating", "word", "senses", "in", "a", "large", "corpus", ".", "Computer", "and", "the", "Humanities", ",", "26:415", "439", ",", "1993", ".", "-LSB-", "16", "-RSB-", "M.", "Hersovici", ",", "M.", "Jacovi", ",", "Y.", "S.", "Maarek", ",", "D.", "Pelleg", ",", "M.", "Shtalhaim", ",", "and", "S.", "Ur", ".", "The", "shark-search", "algorithm", "--", "an", "application", ":", "Tailored", "Web", "site", "mapping", ".", "In", "WWW7", ",", "1998", ".", "Online", "at", "http://www7.scu", ".", "edu.au/programme/fullpapers/1849/com1849.htm", ".", "-LSB-", "17", "-RSB-", "T.", "Joachims", ",", "D.", "Freitag", ",", "and", "T.", "Mitchell", ".", "WebWatcher", ":", "A", "tour", "guide", "for", "the", "web", ".", "In", "IJCAI", ",", "Aug.", "1997", ".", "Online", "at", "http://www", ".", "cs.cmu.edu/~webwatcher/ijcai97.ps", ".", "-LSB-", "18", "-RSB-", "H.", "Leiberman", ".", "Letizia", ":", "An", "agent", "that", "assists", "Web", "browsing", ".", "In", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI", "-RRB-", ",", "Montreal", ",", "Aug.", "1995", ".", "See", "Website", "at", "http://lieber.www", ".", "media.mit.edu/people/lieber/Lieberary/Letizia/Letizia.html", ".", "-LSB-", "19", "-RSB-", "H.", "Leiberman", ",", "C.", "Fry", ",", "and", "L.", "Weitzman", ".", "Exploring", "the", "Web", "with", "reconnaissance", "agents", ".", "CACM", ",", "44", "-LRB-", "8", "-RRB-", ":", "69", "75", ",", "Aug.", "2001", ".", "http://www.acm.org/cacm", ".", "-LSB-", "20", "-RSB-", "A.", "McCallum", ".", "Bow", ":", "A", "toolkit", "for", "statistical", "language", "modeling", ",", "text", "retrieval", ",", "classification", "and", "clustering", ".", "Software", "available", "from", "http://www.cs.cmu.edu/~mccallum/bow/", ",", "1998", ".", "-LSB-", "21", "-RSB-", "A.", "McCallum", "and", "K.", "Nigam", ".", "A", "comparison", "of", "event", "models", "for", "naive", "Bayes", "text", "classification", ".", "In", "AAAI/ICML", "-98", "Workshop", "on", "Learning", "for", "Text", "Categorization", ",", "pages", "41", "48", ".", "AAAI", "Press", ",", "1998", ".", "Online", "at", "http://www.cs.cmu.edu/~knigam/", ".", "-LSB-", "22", "-RSB-", "A.", "McCallum", "and", "K.", "Nigam", ".", "A", "comparison", "of", "event", "models", "for", "naive", "Bayes", "text", "classification", ".", "In", "AAAI/ICML", "-98", "Workshop", "on", "Learning", "for", "Text", "Categorization", ",", "pages", "41", "48", ".", "AAAI", "Press", ",", "1998", ".", "Also", "technical", "report", "WS-98-05", ",", "CMU", ";", "online", "at", "http", ":", "/", "/", "www.cs.cmu.edu/~knigam/papers/multinomial-aaaiws98.pdf", ".", "-LSB-", "23", "-RSB-", "F.", "Menczer", ".", "Links", "tell", "us", "about", "lexical", "and", "semantic", "Web", "content", ".", "Technical", "Report", "Computer", "Science", "Abstract", "CS.IR", "/", "0108004", ",", "arXiv.org", ",", "Aug.", "2001", ".", "Online", "at", "http://arxiv", ".", "org/abs/cs", ".", "IR/0108004", ".", "-LSB-", "24", "-RSB-", "F.", "Menczer", "and", "R.", "K.", "Belew", ".", "Adaptive", "retrieval", "agents", ":", "Internalizing", "local", "context", "and", "scaling", "up", "to", "the", "Web", ".", "Machine", "Learning", ",", "39", "-LRB-", "2/3", "-RRB-", ":", "203", "242", ",", "2000", ".", "Longer", "version", "available", "as", "Technical", "Report", "CS98-579", ",", "http://dollar.biz.uiowa.edu/~fil/", "Papers/MLJ.ps", ",", "University", "of", "California", ",", "San", "Diego", ".", "-LSB-", "25", "-RSB-", "F.", "Menczer", ",", "G.", "Pant", ",", "M.", "Ruiz", ",", "and", "P.", "Srinivasan", ".", "Evaluating", "topic-driven", "Web", "crawlers", ".", "In", "SIGIR", ",", "New", "Orleans", ",", "Sept.", "2001", ".", "ACM", ".", "Online", "at", "http://dollar.biz.uiowa.edu/~fil/Papers/", "sigir-01.pdf", ".", "-LSB-", "26", "-RSB-", "T.", "Mitchell", ".", "Machine", "Learning", ".", "McGraw", "Hill", ",", "1997", ".", "-LSB-", "27", "-RSB-", "T.", "Mitchell", ".", "Mining", "the", "Web", ".", "In", "SIGIR", "2001", ",", "Sept.", "2001", ".", "Invited", "talk", ".", "-LSB-", "28", "-RSB-", "S.", "Mukherjea", ".", "WTMS", ":", "a", "system", "for", "collecting", "and", "analyzing", "topic-specific", "Web", "information", ".", "WWW9/Computer", "Networks", ",", "33", "-LRB-", "1", "6", "-RRB-", ":", "457", "471", ",", "2000", ".", "Online", "at", "http://www9.org/w9cdrom/293/", "293.html", ".", "-LSB-", "29", "-RSB-", "S.", "RaviKumar", ",", "P.", "Raghavan", ",", "S.", "Rajagopalan", ",", "D.", "Sivakumar", ",", "A.", "Tomkins", ",", "and", "E.", "Upfal", ".", "Stochastic", "models", "for", "the", "Web", "graph", ".", "In", "FOCS", ",", "volume", "41", ",", "pages", "57", "65", ".", "IEEE", ",", "nov", "2000", ".", "Online", "at", "http://www.cs.brown.edu/people/eli/papers/focs00.ps", ".", "-LSB-", "30", "-RSB-", "J.", "Rennie", "and", "A.", "McCallum", ".", "Using", "reinforcement", "learning", "to", "spider", "the", "web", "efficiently", ".", "In", "ICML", ",", "1999", ".", "Online", "at", "http", ":", "/", "/", "www.cs.cmu.edu/~mccallum/papers/rlspider-icml99s.ps.gz", ".", "-LSB-", "31", "-RSB-", "G.", "Salton", "and", "M.", "J.", "McGill", ".", "Introduction", "to", "Modern", "Information", "Retrieval", ".", "McGraw-Hill", ",", "1983", ".", "-LSB-", "32", "-RSB-", "M.", "Subramanyam", ",", "G.", "V.", "R.", "Phanindra", ",", "M.", "Tiwari", ",", "and", "M.", "Jain", ".", "Focused", "crawling", "using", "TFIDF", "centroid", ".", "Hypertext", "Retrieval", "and", "Mining", "-LRB-", "CS610", "-RRB-", "class", "project", ",", "Apr.", "2001", ".", "Details", "available", "from", "manyam@cs.utexas.edu", ".", "-LSB-", "33", "-RSB-", "L.", "Torgo", "and", "J.", "Gama", ".", "Regression", "by", "classification", ".", "In", "D.", "Borges", "and", "C.", "Kaestner", ",", "editors", ",", "Brasilian", "AI", "Symposium", ",", "volume", "1159", "of", "Lecture", "Notes", "in", "Artificial", "Intelligence", ",", "Curitiba", ",", "Brazil", ",", "1996", ".", "Springer-Verlag", ".", "Online", "at", "http://www.ncc.up.pt/~ltorgo/", "Papers/list_pub.html", ".", "159"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["taxonomy", "document object model", "href link", "reinforcement learning", "dom", "focused crawlers", "focused crawling", "urls", "classifiers"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "4", "document": ["A", "Database", "Security", "Course", "on", "a", "Shoestring", "Database", "security", "has", "paramount", "importance", "in", "industrial", ",", "civilian", "and", "government", "domains", ".", "Despite", "its", "importance", ",", "our", "search", "reveals", "that", "only", "a", "small", "number", "of", "database", "security", "courses", "are", "being", "offered", ".", "In", "this", "paper", ",", "we", "share", "our", "experience", "in", "developing", "and", "offering", "an", "undergraduate", "elective", "course", "on", "database", "security", "with", "limited", "resources", ".", "We", "believe", "that", "database", "security", "should", "be", "considered", "in", "its", "entirety", "rather", "than", "being", "component", "specific", ".", "Therefore", ",", "we", "emphasize", "that", "students", "develop", "and", "implement", "a", "database", "security", "plan", "for", "a", "typical", "real", "world", "application", ".", "In", "addition", "to", "the", "key", "theoretical", "concepts", ",", "students", "obtain", "hands-on", "experience", "with", "two", "popular", "database", "systems", ".", "We", "encourage", "students", "to", "learn", "independently", "making", "use", "of", "the", "documentation", "and", "technical", "resources", "freely", "available", "on", "the", "Internet", ".", "This", "way", ",", "our", "hope", "is", "that", "they", "will", "be", "able", "to", "adapt", "to", "emerging", "systems", "and", "application", "scenarios", ".", "H.", "2.7", "-LSB-", "DATABASE", "MANAGEMENT", "-RSB-", ":", "Database", "Administration", "--", "security", ",", "integrity", ",", "and", "protection", ";", "K.", "3.2", "-LSB-", "COMPUTERS", "AND", "EDUCATION", "-RSB-", ":", "Computer", "and", "Information", "Science", "Education", "--", "curriculum", ".", "Security", ".", "Database", "systems", "are", "designed", "to", "provide", "efficient", "access", "to", "large", "volumes", "of", "data", ".", "However", ",", "many", "application", "domains", "require", "that", "the", "data", "access", "be", "restricted", "for", "security", "reasons", ".", "For", "example", ",", "an", "unauthorized", "access", "to", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGCSE", "'", "06", ",", "March", "1", "5", ",", "2006", ",", "Houston", ",", "Texas", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-259-3", "/", "06/0003", "...", "$", "5.00", ".", "a", "bank", "database", "can", "potentially", "cost", "millions", "of", "dollars", ".", "The", "federal", "Health", "Insurance", "Portability", "and", "Accountability", "Act", "-LRB-", "HIPAA", "-RRB-", "regulates", "the", "disclosure", "of", "information", "from", "a", "patient", "database", ",", "allowing", "access", "to", "health", "care", "providers", ",", "health", "plans", ",", "and", "health", "care", "clearinghouses", ",", "simultaneously", "protecting", "the", "privacy", "of", "patients", ".", "For", "obvious", "reasons", ",", "a", "Department", "of", "Defense", "-LRB-", "DoD", "-RRB-", "database", "needs", "to", "be", "protected", "from", "unauthorized", "access", ".", "Since", "many", "organizations", "increasingly", "entrust", "their", "information", "resources", "with", "database", "systems", ",", "in", "today", "'s", "highly", "networked", "environment", ",", "the", "sensitive", "information", "can", "be", "at", "high", "risk", "unless", "there", "are", "security", "mechanisms", "in", "place", "to", "protect", "the", "data", "at", "the", "source", "itself", ".", "However", ",", "a", "large", "number", "of", "databases", "are", "incorrectly", "installed", ",", "configured", ",", "and", "maintained", ".", "This", ",", "in", "part", ",", "may", "be", "attributed", "to", "the", "lack", "of", "database", "security", "education", "in", "our", "computer", "science", "programs", ".", "We", "feel", "that", "a", "new", "undergraduate", "course", "on", "database", "security", "will", "help", "our", "students", "face", "the", "ever", "increasing", "challenges", "in", "this", "field", ".", "Our", "search", "shows", "that", ",", "despite", "the", "importance", ",", "only", "a", "handful", "database", "security", "courses", "are", "being", "offered", ".", "Most", "of", "the", "courses", "we", "found", "are", "graduate", "courses", "and", "are", "highly", "theoretical", ".", "We", "also", "found", "a", "few", "extension", "program", "courses", ",", "which", "are", "product", "specific", ".", "Although", "a", "large", "number", "of", "database", "courses", "exist", "at", "both", "undergraduate", "and", "graduate", "levels", ",", "we", "feel", "that", ",", "one", "reason", "for", "not", "offering", "database", "security", "courses", "may", "be", "the", "scarcity", "of", "textbooks", ",", "reference", "materials", ",", "and", "other", "resources", ".", "Realizing", "the", "importance", "of", "database", "security", "in", "computer", "science", "curriculum", ",", "-LSB-", "8", "-RSB-", "proposes", "adding", "a", "new", "module", "to", "the", "basic", "database", "course", ".", "Since", "the", "basic", "database", "course", "has", "already", "many", "topics", "to", "cover", ",", "we", "feel", "that", "the", "addition", "of", "new", "material", "will", "not", "completely", "serve", "the", "purpose", ".", "Further", ",", "we", "find", "it", "difficult", "to", "incorporate", "hands-on", "component", "to", "such", "a", "course", ".", "Similarly", ",", "a", "computer", "security", "course", "is", "too", "broad", "in", "scope", ",", "and", "rarely", "includes", "database", "security", "topics", ".", "Therefore", ",", "we", "decided", "to", "develop", "a", "new", "undergraduate", "level", "elective", "on", "database", "security", ".", "This", "paper", "is", "based", "on", "our", "experience", "of", "offering", "a", "database", "security", "course", "in", "Spring", "2005", ".", "We", "have", "adjusted", "the", "contents", "and", "assignments", "in", "response", "to", "the", "feedback", "and", "course", "outcome", ".", "The", "modified", "version", "is", "presented", "here", ".", "Since", "many", "of", "our", "students", "seek", "industrial", "positions", "after", "graduation", ",", "we", "have", "designed", "our", "course", "to", "meet", "their", "needs", "with", "the", "right", "blend", "of", "theory", "and", "practice", ".", "The", "course", "objective", "is", "to", "develop", "an", "understanding", "of", "security", "aspects", "of", "databases", ",", "database", "administration", ",", "and", "database", "supported", "applications", ".", "We", "collected", "information", "from", "alumni", "as", "well", "as", "potential", "employers", "before", "finalizing", "the", "contents", ".", "7", "Although", "students", "were", "expected", "to", "gain", "hands-on", "experience", "with", "some", "popular", "databases", "in", "our", "course", ",", "we", "tried", "to", "focus", "on", "concepts", "rather", "than", "just", "syntax", "or", "product", "specific", "features", ".", "Often", ",", "students", "were", "asked", "to", "learn", "software", "packages", "on", "their", "own", "by", "reading", "the", "product", "documentation", ".", "We", "also", "offered", "an", "online", "feedback", "page", "for", "receiving", "anonymous", "student", "comments", ",", "which", "helped", "us", "know", "if", "students", "needed", "additional", "assistance", ".", "By", "encouraging", "students", "to", "learn", "and", "experiment", "on", "their", "own", ",", "we", "hope", "that", "they", "can", "easily", "apply", "the", "learned", "concepts", "to", "emerging", "application", "scenarios", ".", "This", "is", "particularly", "needed", "since", "today", "'s", "work", "environment", "expects", "agility", "from", "employees", "to", "quickly", "master", "and", "develop", "software", "systems", ".", "To", "facilitate", "participation", "further", ",", "we", "asked", "students", "to", "research", "and", "make", "presentations", "choosing", "from", "a", "set", "of", "specified", "topics", ".", "Most", "impor-tantly", ",", "since", "many", "of", "our", "educational", "institutions", "are", "cash", "strapped", ",", "we", "designed", "our", "course", "to", "execute", "with", "a", "small", "budget", ".", "In", "the", "next", "section", ",", "we", "detail", "topics", ",", "which", "may", "be", "included", "in", "a", "database", "security", "course", ",", "with", "references", "that", ",", "we", "hope", ",", "will", "be", "useful", "for", "other", "instructors", ".", "We", "also", "discuss", "labs", "and", "assignments", "in", "detail", ".", "Finally", ",", "we", "conclude", "the", "paper", "with", "an", "account", "of", "lessons", "learned", "and", "future", "possibilities", "Although", "a", "large", "number", "of", "topics", "can", "be", "included", ",", "we", "try", "to", "focus", "on", "a", "few", "important", "ones", "that", ",", "in", "our", "judgment", ",", "are", "likely", "to", "be", "immediately", "useful", "after", "graduation", ".", "We", "also", "include", "topics", "on", "securing", "the", "data", "within", "a", "database", ",", "as", "well", "as", "the", "security", "of", "database", "systems", "and", "operating", "systems", "as", "suggested", "in", "-LSB-", "8", "-RSB-", ".", "Our", "position", "is", "that", "database", "security", "should", "be", "considered", "in", "whole", "rather", "than", "adopting", "a", "piecemeal", "approach", ".", "However", ",", "we", "recognize", "that", ",", "in", "practice", ",", "it", "is", "often", "easy", "to", "overlook", "some", "aspects", "of", "database", "security", ".", "Therefore", ",", "we", "recommend", "that", "students", "develop", "a", "database", "security", "plan", ".", "We", "also", "include", "other", "relevant", "topics", "such", "as", "statistical", "database", "security", ",", "and", "security", "and", "privacy", "issues", "of", "data", "mining", ".", "Table", "1", "shows", "the", "schedule", "of", "topics", "for", "a", "typical", "sixteen", "week", "semester", "course", "on", "database", "security", ".", "Major", "labs", "and", "assignments", "are", "given", "in", "Table", "2", ".", "The", "course", "begins", "with", "an", "``", "Introduction", "to", "database", "se-curity", "''", ",", "where", "the", "objective", "is", "to", "highlight", "the", "importance", "of", "database", "security", "and", "to", "motivate", "students", "to", "learn", "the", "rest", "of", "the", "topics", ".", "2.1", "Introducing", "Database", "Security", "One", "way", "to", "emphasize", "the", "importance", "of", "database", "security", "would", "be", "to", "reflect", "on", "the", "impact", "of", "not", "having", "security", "at", "all", "in", "application", "domains", "such", "as", "military", ",", "medical", ",", "financial", ",", "credit", "card", ",", "credit", "file", ",", "driving", "records", ",", "and", "insurance", "databases", ".", "Students", "may", "survey", "the", "incidents", "of", "database", "security", "breaches", "and", "evaluate", "the", "efforts", "to", "ensure", "database", "security", "by", "industry", "and", "government", ".", "Since", "database", "security", "is", "a", "combination", "of", "database", "technology", "and", "computer", "security", ",", "basics", "of", "both", "will", "be", "helpful", ".", "A", "discussion", "on", "security", "properties", "such", "as", "confiden-tiality", ",", "integrity", ",", "availability", "and", "non-repudiation", "should", "be", "included", ".", "Although", "an", "in-depth", "study", "of", "cryptography", "is", "not", "within", "the", "scope", "of", "this", "course", ",", "basics", "of", "secret", "key", "cryptography", "and", "public", "key", "cryptography", "will", "benefit", "students", ".", "A", "good", "reference", "book", "we", "found", "is", "``", "Data", "Security", "and", "Cryptogra-Week", "Topic", "1", "Course", "Overview", "and", "Introduction", "to", "Database", "Security", ",", "Basics", "of", "Data", "Security", "and", "Cryptography", "2", "Overview", "of", "Security", "Models", "3", "Access", "Control", "Models", ",", "Covert", "Channels", "and", "Inference", "Channels", "4", "MySQL", "Security", "5", "Oracle", "Security", "6", "Oracle", "Label", "Security", "7", "Developing", "a", "Database", "Security", "Plan", "8", "Spring", "Break", "9", "SQL", "Server", "Security", "10", "Security", "of", "Statistical", "Databases", "11", "Security", "and", "privacy", "issues", "of", "Data", "Mining", "12", "Database", "Applications", "Security", ",", "SQL", "Injection", ",", "Defensive", "Programming", "13", "Database", "Intrusion", "Prevention", ",", "Audit", ",", "Fault", "Tolerance", "and", "Recovery", "14", "Hippocratic", "Databases", ",", "XML", "Security", "15", "Network", "Security", ",", "Biometrics", "16", "Final", "Examination", "Week", "Table", "1", ":", "Course", "Schedule", "phy", "''", "by", "Dorothy", "Denning", "-LSB-", "5", "-RSB-", ".", "Digital", "signatures", ",", "digital", "certificates", "and", "Public", "Key", "Infrastructure", "-LRB-", "PKI", "-RRB-", "-LSB-", "21", "-RSB-", "are", "other", "topics", "to", "consider", ".", "An", "overview", "of", "security", "and", "integrity", "models", "-LSB-", "4", "-RSB-", "will", "also", "be", "helpful", "at", "this", "point", ".", "This", "is", "the", "best", "time", "to", "introduce", "the", "computer", "security", "lingo", "such", "as", "subjects", "and", "objects", ".", "The", "difference", "between", "widely", "used", "access", "control", "techniques", "may", "also", "be", "highlighted", ".", "2.2", "Access", "Control", "Discretionary", "Access", "Control", "-LRB-", "DAC", "-RRB-", "mechanisms", "such", "as", "capabilities", ",", "profiles", ",", "access", "control", "lists", ",", "passwords", ",", "and", "permission", "bits", "may", "be", "discussed", ".", "Here", "we", "also", "introduce", "the", "operating", "system", "security", "aspects", "-LRB-", "using", "Windows", "R", "and", "Linux", "environments", "-RRB-", ",", "and", "how", "they", "impact", "database", "security", "in", "general", ".", "Although", "details", "are", "not", "required", "until", "we", "introduce", "Oracle", "security", ",", "overview", "of", "Role-Based", "Access", "Control", "-LRB-", "RBAC", "-RRB-", "-LSB-", "6", ",", "18", "-RSB-", "may", "be", "discussed", ".", "Unlike", "the", "above", "access", "control", "techniques", ",", "in", "Mandatory", "Access", "Control", "-LRB-", "MAC", "-RRB-", "the", "security", "is", "enforced", "by", "the", "system", "as", "dictated", "in", "the", "security", "policy", ",", "not", "by", "the", "owner", "of", "an", "object", ".", "Although", "there", "are", "many", "security", "models", "suggested", "for", "providing", "Mandatory", "security", ",", "Bell-LaPadula", "-LSB-", "2", "-RSB-", "model", "is", "probably", "the", "simplest", "to", "learn", ".", "Even", "when", "a", "system", "enforces", "Mandatory", "Access", "Control", ",", "information", "leakage", "through", "covert", "channels", "-LSB-", "11", "-RSB-", "and", "inference", "channels", "-LSB-", "13", "-RSB-", "may", "still", "be", "possible", ".", "A", "few", "examples", "will", "help", "students", "understand", "how", "the", "information", "leakage", "can", "take", "place", "through", "such", "means", ".", "Databases", "enforcing", "MAC", "often", "assign", "security", "classification", "levels", "for", "objects", "and", "security", "clearance", "levels", "for", "subjects", ".", "Access", "control", "is", "performed", "by", "the", "system", "based", "on", "these", "levels", ".", "A", "lab", "may", "be", "developed", ",", "where", "students", "8", "simulate", "a", "multilevel", "database", "on", "an", "ordinary", "database", "system", ".", "This", "means", "students", "will", "have", "to", "modify", "the", "schema", "to", "add", "additional", "fields", "for", "storing", "security", "classification", "levels", ".", "They", "also", "develop", "views", "for", "users", "having", "different", "clearance", "levels", ".", "Further", ",", "to", "support", "poly-instantiation", ",", "the", "primary", "key", "will", "have", "to", "be", "redefined", "to", "include", "security", "level", "to", "accommodate", "the", "possibility", "of", "the", "same", "key", "values", "existing", "at", "multiple", "security", "levels", ".", "Another", "topic", "of", "interest", "would", "be", "to", "explore", "how", "the", "Discretionary", "Access", "Control", "and", "the", "Mandatory", "Access", "Control", "can", "be", "combined", "and", "applied", "in", "some", "scenarios", ".", "2.3", "Securing", "Real", "Life", "Databases", "The", "candidate", "database", "systems", "we", "chose", "for", "hands-on", "experience", "were", "MySQL", "TM", ",", "Oracle", "R", ",", "and", "Microsoft", "R", "SQL", "Server", "TM", ".", "Because", "of", "time", "constraints", ",", "students", "were", "able", "to", "focus", "only", "on", "the", "first", "two", "databases", ",", "but", "an", "overview", "of", "SQL", "server", "security", "was", "also", "provided", ".", "2.3.1", "MySQL", "Security", "With", "more", "than", "six", "million", "installations", "worldwide", "-LSB-", "14", "-RSB-", ",", "the", "simplicity", "and", "open", "source", "architecture", "make", "MySQL", ",", "probably", ",", "the", "first", "database", "to", "study", ".", "The", "primary", "source", "of", "information", "would", "be", "the", "MySQL", "manual", "itself", "-LRB-", "available", "from", "MySQL", "site", "-LSB-", "14", "-RSB-", "-RRB-", ",", "particularly", "the", "section", "on", "``", "MySQL", "Access", "Privilege", "System", "''", ".", "Another", "source", ",", "MySQL", "Security", "Handbook", "-LSB-", "22", "-RSB-", ",", "explains", "MySQL", "security", "system", "and", "provides", "a", "few", "practical", "examples", ".", "Labs/Assignments", "1", "Multilevel", "Security", "Poly-instantiation", "2", "MySQL", "Grant", "Privilege", "System", "3", "SQL", "Injection", "4", "Oracle", "Security", "Basic", "Lab", "5", "Database", "Security", "Plan", "Development", "6", "Backend", "Development", "for", "B2C", "Application", "7", "Probability", "Distributions", ",", "Sampling", "8", "Statistical", "Databases", "-", "Breach", "of", "Security", "9", "Statistical", "Databases", "-", "Inference", "Protection", "Techniques", "10", "Data", "Mining", "Security", "-", "Reading", "and", "Presentation", "Table", "2", ":", "Major", "Labs/Assignments", "MySQL", "Access", "Privilege", "System", "authenticates", "a", "user", "based", "on", "user", "name", ",", "host", "name", ",", "and", "password", ".", "Further", ",", "it", "ensures", "that", "users", "perform", "only", "permitted", "operations", "based", "on", "the", "privileges", "specified", "in", "the", "grant", "tables", "-LRB-", "namely", ",", "user", ",", "db", ",", "and", "host", "-RRB-", ".", "The", "format", "and", "contents", "of", "these", "tables", ",", "therefore", ",", "are", "of", "particular", "importance", ".", "Since", "most", "of", "the", "critical", "information", "including", "the", "grant", "tables", "are", "stored", "on", "a", "default", "database", "named", "mysql", ",", "the", "security", "of", "mysql", "database", "is", "also", "crucial", ".", "Students", "should", "learn", "to", "apply", "the", "``", "principle", "of", "least", "privilege", "''", "when", "granting", "privileges", "in", "order", "to", "perform", "the", "task", "at", "hand", ".", "Each", "student", "was", "given", "a", "MySQL", "instance", "with", "root", "level", "access", ".", "Students", "were", "asked", "to", "create", "users", "and", "assign", "privileges", "while", "monitoring", "the", "privilege", "tables", "for", "changes", ".", "Students", "also", "experimented", "with", "the", "privilege", "system", "by", "man-ually", "modifying", "privilege", "tables", ".", "We", "created", "two", "person", "administrator-user", "teams", "for", "enabling", "the", "students", "to", "experience", "the", "system", "from", "both", "perspectives", ".", "Users", "were", "assigned", "certain", "tasks", "to", "perform", ".", "Some", "of", "the", "tasks", "given", "were", "specifically", "designed", "to", "understand", "the", "limitations", "of", "the", "MySQL", "privilege", "system", ".", "The", "role", "of", "the", "administrators", "was", "to", "grant", "privileges", "just", "sufficient", "for", "users", "to", "perform", "the", "task", ".", "Users", "could", "access", "the", "system", "in", "any", "manner", "they", "wish", "in", "fact", ",", "users", "will", "be", "encouraged", "to", "expose", "the", "weaknesses", "in", "the", "privilege", "assignments", ".", "The", "administrators", ",", "on", "the", "other", "hand", ",", "controlled", "access", "based", "on", "need-to-know", ",", "at", "the", "same", "time", "trying", "not", "to", "be", "too", "restrictive", "for", "users", "to", "perform", "the", "required", "tasks", ".", "We", "found", "the", "users", "very", "excited", "to", "expose", "security", "weaknesses", "in", "the", "privilege", "assignment", ".", "Although", "administrators", "were", "a", "little", "embarrassed", ",", "they", "too", "were", "motivated", "by", "the", "exercise", ".", "For", "the", "the", "next", "lab", "session", ",", "students", "switched", "roles", ",", "i.e.", ",", "those", "who", "were", "administrators", "became", "users", "and", "vice", "versa", ".", "MySQL", "supports", "data", "security", "by", "providing", "functions", "such", "as", "ENCRYPT", ",", "DES", "ENCRYPT", ",", "AES", "ENCRYPT", ",", "PASSWORD", ",", "OLD", "PASSWORD", "and", "ENCODE", ".", "Since", "these", "functions", "may", "not", "be", "safe", "under", "all", "circumstances", ",", "it", "would", "be", "useful", "to", "highlight", "the", "unsafe", "scenarios", ".", "Students", "may", "also", "learn", "how", "to", "use", "SSL", "for", "security", ",", "and", "simultaneously", "make", "sure", "that", "the", "system", "performance", "is", "not", "significantly", "impacted", ".", "Also", "useful", "would", "be", "to", "study", "how", "the", "authentication", "requirements", "may", "vary", "when", "using", "options", "such", "as", "REQUIRE", "SSL", ",", "REQUIRE", "ISSUER", "and", "REQUIRE", "X509", ".", "Even", "when", "using", "SSL", ",", "the", "data", "security", "can", "depend", "on", "the", "type", "of", "cipher", "and", "the", "key", "lengths", "used", ".", "Therefore", ",", "students", "may", "learn", "how", "to", "specify", "these", "parameters", "using", "the", "REQUIRE", "CIPHER", "option", ".", "Some", "privileges", "in", "MySQL", ",", "if", "not", "carefully", "used", ",", "can", "expose", "the", "system", "to", "high", "security", "risk", ".", "For", "example", ",", "FILE", "privilege", "may", "be", "misused", "to", "gain", "access", "to", "the", "system", ".", "Hence", ",", "a", "comprehensive", "study", "of", "unsafe", "privileges", "will", "be", "extremely", "useful", ".", "Even", "when", "the", "privilege", "system", "is", "correctly", "set", "up", "and", "maintained", "the", "entire", "privilege", "system", "can", "be", "circumvented", "using", "a", "MySQL", "startup", "option", "like", "--", "skip-grant-tables", ".", "On", "the", "other", "hand", ",", "some", "startup", "options", "make", "the", "server", "safer", ".", "Therefore", ",", "MySQL", "startup", "options", "and", "their", "security", "consequences", "must", "be", "discussed", ".", "Many", "web", "applications", "have", "MySQL", "database", "server", "deployed", "as", "the", "backend", ",", "and", "HTML", "based", "form", "acting", "as", "the", "front", "end", ".", "Since", "user", "input", "is", "used", "to", "generate", "SQL", "queries", "to", "interact", "with", "the", "database", ",", "if", "unchecked", ",", "malicious", "users", "or", "programs", "can", "inject", "unsafe", "SQL", "queries", ".", "Basic", "concepts", "of", "preventing", "SQL", "injection", "may", "also", "be", "discussed", ".", "Students", "may", "be", "asked", "to", "analyze", "a", "number", "of", "SQL", "queries", "for", "potential", "vulnerability", ".", "Other", "topics", ",", "which", "can", "be", "included", "are", ":", "using", "MySQL", "network", "scanner", "to", "detect", "MySQL", "servers", "on", "the", "network", "with", "default", "passwords", ",", "MySQL", "resource", "control", ",", "data", "backup", "and", "recovery", ",", "auditing", ",", "and", "firewalls", ".", "2.3.2", "Planning", "Database", "Security", "Since", "enforcing", "database", "security", "is", "extremely", "complex", "task", "with", "a", "large", "number", "of", "factors", "affecting", "the", "security", "of", "a", "database", ",", "the", "best", "way", "to", "approach", "the", "problem", "would", "be", "to", "systematically", "develop", "and", "implement", "a", "comprehensive", "database", "security", "plan", ".", "Therefore", ",", "in", "our", "course", ",", "we", "required", "that", "students", "develop", "a", "database", "security", "plan", "for", "a", "small", "Business-to-Consumer", "-LRB-", "B2C", "-RRB-", "E-Commerce", "application", ".", "See", "-LSB-", "19", "-RSB-", "Ch7", "-LRB-", "available", "online", "-RRB-", "for", "detailed", "exposition", "on", "database", "security", "planning", ".", "Although", "the", "text", "is", "on", "Oracle", "security", ",", "the", "concepts", "can", "be", "applied", "to", "any", "database", ".", "9", "2.3.3", "Oracle", "Security", "For", "security", "reasons", ",", "the", "computer", "science", "department", "was", "reluctant", "to", "grant", "administrative", "privileges", "to", "students", "on", "our", "Oracle", "server", ".", "Therefore", ",", "we", "ended", "up", "creating", "a", "separate", "Oracle", "instance", "for", "the", "course", ".", "For", "each", "student", ",", "we", "created", "one", "administrative", "account", "with", "DBA", "privileges", ",", "and", "then", "the", "students", "were", "allowed", "to", "create", "user", "accounts", "as", "needed", ",", "provided", "they", "follow", "a", "naming", "convention", "to", "avoid", "conflicting", "names", ".", "In", "addition", "to", "Oracle", "Security", "Handbook", "-LSB-", "12", "-RSB-", ",", "we", "found", "the", "Oracle", "Database", "Administrators", "Guide", "-LSB-", "15", "-RSB-", "also", "useful", ".", "The", "guide", "is", "available", "online", "from", "the", "Oracle", "Database", "Documentation", "Library", ".", "First", ",", "we", "had", "an", "Oracle", "Security", "Basics", "Lab", ".", "Students", "were", "introduced", "to", "the", "Oracle", "security", "system", "through", "a", "series", "of", "tasks", ".", "The", "next", "lab", "was", "more", "advanced", ",", "and", "built", "up", "on", "the", "database", "security", "plan", "developed", "in", "a", "previous", "assignment", ".", "The", "task", "was", "to", "develop", "the", "backend", "for", "a", "small", "B2C", "E-Commerce", "application", ".", "Students", "were", "asked", "to", "create", "user", "accounts", ",", "roles", ",", "tables", ",", "views", "and", "triggers", "as", "required", ".", "The", "privileges", "were", "to", "be", "assigned", "by", "observing", "the", "``", "principle", "of", "least", "privilege", "''", ",", "as", "per", "the", "security", "plan", ".", "Further", ",", "students", "may", "also", "be", "trained", "to", "perform", "some", "standard", "checks", "for", "security", "such", "as", "checking", "for", "default", "user", "accounts", ",", "default", "passwords", ",", "users", "having", "excessive", "privileges", "-LRB-", "e.g.", ",", "DBA", ",", "ALTER", "SYSTEM", ",", "CREATE", "LIBRARY", ",", "CREATE", "ANY", "TRIGGER", "-RRB-", ",", "security", "impact", "of", "WITH", "AD-MIN", "and", "WITH", "GRANT", "options", "on", "privileges", ",", "EXTER-NALLY", "authenticated", "users", ",", "and", "the", "existence", "of", "database", "links", ".", "Students", "may", "also", "learn", "how", "to", "display", "information", "on", "items", "such", "as", "triggers", ",", "views", "and", "externally", "authenticated", "users", ".", "A", "section", "on", "security", "issues", "of", "using", "default", "Oracle", "supplied", "roles", "will", "be", "useful", ".", "Other", "topics", "to", "include", "are", ":", "Transparent", "Network", "Substrate", "-LRB-", "TNS", "-RRB-", "security", "and", "listener", "management", "from", "remote", "machines", "and", "setting", "up", "listener", "passwords", ",", "buffer", "overflow", "attacks", "and", "prevention", ",", "auditing", ",", "and", "undocumented", "Oracle", "features", ".", "Students", "may", "also", "be", "introduced", "to", "reading", "security", "advisories", "and", "obtaining", "Oracle", "Critical", "Patch", "Updates", "-LRB-", "CPU", "-RRB-", ".", "Recently", ",", "a", "large", "number", "of", "security", "breaches", "have", "been", "reported", ".", "Interestingly", ",", "however", ",", "many", "of", "these", "breaches", "were", "incidents", "of", "missing", "or", "stolen", "backup", "storage", "devices", ".", "Therefore", ",", "we", "feel", "appropriate", "to", "include", "a", "session", "on", "security", "and", "protection", "needs", "of", "exports", ",", "cold", "backups", ",", "hot", "backups", ",", "and", "disaster", "recovery", "sites", ".", "2.3.4", "Oracle", "Label", "Security", "Oracle", "Label", "Security", "provides", "built-in", "row", "level", "access", "control", "for", "high", "security", "applications", ".", "Essentially", ",", "Oracle", "adds", "a", "new", "field", "to", "each", "row", "for", "storing", "the", "row", "'s", "sensitivity", "labels", ".", "Row", "access", "is", "granted", "or", "denied", "by", "comparing", "the", "user", "'s", "identity", "and", "security", "clearance", "label", "with", "the", "row", "'s", "sensitivity", "labels", ".", "Earlier", ",", "in", "Assignment", "1", ",", "students", "have", "simulated", "a", "multilevel", "database", ".", "Therefore", ",", "the", "above", "concepts", "should", "be", "easy", "to", "learn", "at", "this", "point", ".", "As", "a", "source", "of", "information", "on", "Oracle", "Label", "Security", "Architecture", ",", "we", "used", "Oracle", "Label", "Security", "Administrator", "'s", "Guide", "-LSB-", "16", "-RSB-", ".", "We", "covered", "levels", ",", "compartments", ",", "groups", ",", "session", "and", "row", "labels", ",", "label", "security", "algorithm", ",", "and", "management", "of", "label", "security", "using", "Oracle", "Internet", "Dictionary", ".", "2.3.5", "Microsoft", "SQL", "Server", "Security", "As", "we", "mentioned", "earlier", "at", "the", "beginning", "of", "this", "section", ",", "due", "to", "time", "constraints", ",", "we", "could", "not", "provide", "an", "extensive", "coverage", "of", "Microsoft", "SQL", "Server", ".", "We", "briefly", "discussed", "SQL", "Server", "security", "model", ",", "authentication", "mechanisms", ",", "authentication", "modes", ",", "and", "good", "security", "practices", "for", "SQL", "servers", ".", "Students", "presented", "information", "they", "gathered", "on", "SQL", "server", "vulnerabilities", ",", "security", "breaches", ",", "and", "prevention", "techniques", ".", "We", "found", "a", "few", "excellent", "articles", "on", "SQLServer-Central", ".", "com", ",", "an", "online", "community", "of", "DBAs", ",", "developers", ",", "and", "SQL", "server", "users", ".", "We", "also", "found", "SQL", "Server", "Developer", "Center", "-LRB-", "http://msdn.microsoft.com/sql", "-RRB-", "useful", "in", "providing", "a", "large", "number", "of", "resources", "in", "this", "area", ".", "2.4", "Statistical", "Security", "As", "for", "the", "rest", "of", "the", "course", ",", "this", "section", "is", "application", "oriented", ",", "giving", "the", "students", "the", "gist", "of", "the", "concepts", "they", "need", "to", "know", "and", "then", "putting", "them", "to", "work", "in", "the", "context", "of", "a", "real", "database", ".", "Thus", ",", "the", "first", "lab", "is", "a", "simulation", "based", "assignment", "designed", "as", "an", "introduction", "to", "probability", "distributions", ",", "expectation", ",", "spread", ",", "sampling", "methods", ",", "and", "sampling", "distributions", "of", "relevant", "statistics", ".", "We", "find", "that", ",", "even", "for", "students", "with", "prior", "coursework", "in", "probability", "and", "statistics", ",", "an", "assignment", "of", "this", "type", "is", "very", "beneficial", ".", "The", "second", "lab", "presents", "the", "task", "of", "setting", "up", "a", "sequence", "of", "queries", ",", "so", "that", "students", "can", "extract", "from", "a", "database", "what", "should", "have", "been", "secure", "information", ".", "At", "this", "point", "we", "introduce", "the", "main", "conceptual", "techniques", "for", "inference", "protection", "such", "as", "the", "lattice", "model", "and", "partitioning", "the", "database", "entities", "into", "populations", ".", "See", "-LSB-", "4", "-RSB-", ",", "Ch", "5", "for", "details", ".", "The", "third", "major", "assignment", "aims", "at", "teaching", "inference", "protection", "techniques", ".", "Given", "a", "database", ",", "the", "students", "are", "asked", "to", "answer", "queries", "without", "disclosing", "sensitive", "information", "by", "applying", "restriction", ",", "perturbation", ",", "and", "combined", "techniques", ".", "2.5", "Security", "Issues", "of", "Data", "Mining", "Data", "mining", "may", "be", "misused", "to", "obtain", "confidential", "information", "from", "a", "database", ".", "So", "we", "believe", ",", "a", "course", "on", "database", "security", "should", "include", "an", "overview", "of", "security", "and", "privacy", "concerns", "of", "data", "mining", ".", "Organizations", "would", "like", "to", "share", "the", "data", "for", "operational", "convenience", ",", "at", "the", "same", "time", "prevent", "the", "mining", "of", "data", "for", "information", "they", "do", "not", "want", "to", "disclose", ".", "Likewise", ",", "private", "individuals", "would", "like", "to", "submit", "their", "personal", "information", "for", "data", "mining", "without", "compromising", "their", "privacy", "while", "keeping", "the", "key", "association", "rules", "intact", ".", "Secure", "data", "mining", "techniques", "appear", "similar", "to", "statistical", "security", "methods", ",", "however", ",", "their", "computational", "efficiency", "is", "a", "major", "concern", ".", "We", "found", "a", "number", "of", "interesting", "papers", "-LSB-", "3", ",", "17", ",", "20", "-RSB-", "that", "can", "be", "used", "for", "reading", "assignments", "and", "group", "discussions", ".", "2.6", "Other", "Topics", "Malicious", "users", "may", "bypass", "security", "mechanisms", "provided", "by", "an", "application", "by", "directly", "connecting", "to", "the", "database", ".", "Therefore", ",", "whenever", "possible", "stored", "procedures", ",", "and", "views", "must", "be", "used", "for", "providing", "data", "access", ".", "Database", "application", "security", "and", "defensive", "programming", "was", "briefly", "covered", ".", "Semi-structured", "nature", "of", "Extensible", "Markup", "Language", "-LRB-", "XML", "-RRB-", "documents", "make", "them", "ideal", "candidates", "for", "use", "in", "many", "applications", "including", "E-Business", ".", "Therefore", ",", "XML", "-LSB-", "7", "-RSB-", "security", "was", "also", "discussed", ".", "10", "Other", "topics", "of", "interest", "are", ":", "database", "intrusion", "detection", "and", "prevention", "-LSB-", "17", "-RSB-", ",", "database", "fault", "tolerance", "and", "recovery", ",", "Hippocratic", "databases", "-LSB-", "1", "-RSB-", ",", "network", "security", "-LSB-", "10", "-RSB-", ",", "and", "biometrics", "-LSB-", "9", "-RSB-", ".", "Department", "of", "Computer", "Science", "at", "University", "of", "Alberta", "has", "offered", "an", "independent", "study", "on", "database", "security", "with", "topics", "such", "as", "security", "models", ",", "security", "mechanisms", ",", "intrusion", "detection", "systems", ",", "and", "statistical", "database", "protection", ".", "University", "of", "Maryland", "University", "College", "has", "a", "graduate", "level", "course", "on", "database", "security", "with", "theory", "and", "applications", ",", "including", "frameworks", "for", "discretionary", "and", "mandatory", "access", "control", ",", "data", "integrity", ",", "availability", "and", "performance", ",", "secure", "database", "design", ",", "data", "aggregation", ",", "data", "inference", ",", "secure", "concurrency", "control", ",", "and", "secure", "transaction", "processing", ".", "University", "of", "South", "Carolina", "and", "George", "Mason", "University", "offer", "graduate", "level", "elective", "courses", "on", "Database", "Security", ".", "Similar", "courses", "are", "offered", "at", "a", "few", "other", "institutions", ",", "but", "we", "do", "not", "discuss", "them", "here", "due", "to", "space", "constraints", ".", "Among", "the", "undergraduate", "courses", "we", "found", ",", "the", "closest", "one", "to", "what", "we", "offered", "is", "taught", "at", "University", "of", "Arkansas", "Little", "Rock", ".", "It", "provides", "database", "security", "theory", "and", "background", "on", "Oracle", "security", "environment", ".", "Our", "new", "undergraduate", "elective", "course", "on", "database", "security", "covers", "basic", "concepts", "and", "provides", "practical", "experience", "on", "two", "popular", "databases", ".", "We", "emphasized", "that", "students", "develop", "a", "database", "security", "plan", "that", ",", "we", "hope", ",", "will", "encourage", "them", "to", "view", "the", "problem", "of", "ensuring", "database", "security", "as", "a", "task", "that", "needs", "to", "be", "carefully", "planned", "in", "whole", "rather", "than", "something", "that", "can", "be", "addressed", "in", "parts", ".", "The", "initial", "offering", "of", "the", "course", "had", "``", "Data", "Structures", "''", "as", "the", "only", "pre-requisite", ",", "because", "we", "wanted", "to", "keep", "the", "course", "open", "to", "a", "larger", "audience", ".", "Students", ",", "in", "general", ",", "were", "found", "be", "more", "motivated", "to", "follow", "through", "on", "course", "work", "than", "other", "courses", "we", "have", "taught", ".", "We", "received", "excellent", "numerical", "score", "as", "well", "as", "comments", "from", "students", "in", "the", "departmental", "student", "evaluations", ".", "We", "had", "a", "good", "mixture", "of", "students", ".", "All", "were", "computer", "science", "majors", ",", "and", "forty", "seven", "percent", "were", "honors", "students", ".", "Sixty", "seven", "percent", "of", "the", "class", "completed", "the", "course", "with", "an", "overall", "score", "of", "80", "%", "or", "higher", "with", "all", "honors", "students", "falling", "into", "this", "category", ".", "However", ",", "it", "was", "felt", "that", "a", "few", "students", "lacked", "basics", "to", "fully", "grasp", "the", "material", ".", "Therefore", ",", "having", "a", "basic", "database", "technology", "course", "as", "the", "pre-requisite", "will", "help", "cover", "more", "of", "the", "suggested", "topics", "in", "depth", ".", "In", "closing", ",", "we", "hope", "that", "our", "experience", "shared", "herein", "will", "help", "other", "instructors", "develop", "and", "offer", "a", "similar", "course", "on", "database", "security", "with", "limited", "resources", ".", "-LSB-", "1", "-RSB-", "R.", "Agrawal", ",", "J.", "Kiernan", ",", "R.", "Srikant", ",", "and", "Y.", "Xu", ".", "Hippocratic", "Databases", ".", "In", "Proc", ".", "of", "the", "Very", "Large", "Data", "Bases", "-LRB-", "VLDB", "-RRB-", "Conference", ",", "Hong", "Kong", ",", "China", ",", "August", "2002", ".", "-LSB-", "2", "-RSB-", "D.", "Bell", "and", "L.", "LaPadula", ".", "Secure", "Computer", "Systems", ":", "Mathematical", "Foundations", ".", "Technical", "Report", "ESD-TR-73-278", ",", "MITRE", "Corporation", ",", "1973", ".", "-LSB-", "3", "-RSB-", "C.", "Clifton", "and", "D.", "Marks", ".", "Security", "and", "Privacy", "Implications", "of", "Data", "Mining", ".", "In", "Workshop", "on", "Data", "Mining", "and", "Knowledge", "Discovery", ",", "Montreal", ",", "Canada", ",", "February", "1996", ".", "-LSB-", "4", "-RSB-", "S.", "Castano", ",", "M.", "G.", "Fugini", ",", "G.", "Martella", ",", "and", "P.", "Samarati", ".", "Database", "Security", ".", "Addison-Wesley", "&", "ACM", "Press", ",", "1995", ".", "-LSB-", "5", "-RSB-", "D.", "E.", "Denning", ".", "Cryptography", "and", "Data", "Security", ".", "Addison-Wesley", ",", "1982", ".", "-LSB-", "6", "-RSB-", "D.", "Ferraiolo", "and", "R.", "Kuhn", ".", "Role-Based", "Access", "Controls", ".", "In", "Proc", ".", "15th", "NIST-NCSC", "National", "Computer", "Security", "Conference", ",", "Baltimore", ",", "MD", ",", "October", "1992", ".", "-LSB-", "7", "-RSB-", "B.", "Dournaee", ".", "XML", "Security", ".", "RSA", "Press", ",", "Berkeley", ",", "CA", ",", "USA", ",", "2002", ".", "-LSB-", "8", "-RSB-", "M.", "Guimaraes", ",", "H.", "Mattord", ",", "and", "R.", "Austin", ".", "Incorporating", "Security", "Components", "into", "Database", "Courses", ".", "In", "Proc", ".", "of", "the", "InfoSecCD", "Conference", "'", "04", ",", "Kennesaw", ",", "GA", ",", "September", "2004", ".", "-LSB-", "9", "-RSB-", "A.", "Jain", ",", "L.", "Hong", ",", "and", "S.", "Pankanti", ".", "Biometric", "Identification", ".", "Commun", ".", "ACM", ",", "43", "-LRB-", "2", "-RRB-", ",", "2000", ".", "-LSB-", "10", "-RSB-", "C.", "Kaufman", ",", "R.", "Perlman", ",", "and", "M.", "Speciner", ".", "Network", "Security", ":", "Private", "Communication", "in", "a", "Public", "World", ",", "Second", "Edition", ".", "Prentice-Hall", ",", "2002", ".", "-LSB-", "11", "-RSB-", "B.", "W.", "Lampson", ".", "A", "Note", "on", "the", "Confinement", "Problem", ".", "Commun", ".", "ACM", ",", "16", "-LRB-", "10", "-RRB-", ",", "October", "1973", ".", "-LSB-", "12", "-RSB-", "M.", "Theriault", "and", "A.", "Newman", ".", "Oracle", "Security", "Handbook", ":", "Implement", "a", "Sound", "Security", "Plan", "in", "Your", "Oracle", "Environment", ".", "Osborne", "McGraw-Hill", ",", "2001", ".", "-LSB-", "13", "-RSB-", "M.", "Morgenstern", ".", "Security", "and", "Inference", "in", "Multi-Level", "Database", "and", "Knowledge-Base", "Systems", ".", "In", "ACM", "SIGMOD", "Conf", ".", "on", "the", "Management", "of", "Data", ",", "San", "Francisco", ",", "CA", ",", "May", "1987", ".", "-LSB-", "14", "-RSB-", "http://www.mysql.com", ".", "-LSB-", "15", "-RSB-", "Oracle", "Database", "Administrator", "'s", "Guide", ".", "Oracle", "Corporation", ",", "2001", ".", "-LSB-", "16", "-RSB-", "Oracle", "Label", "Security", "Administrator", "'s", "Guide", ".", "Oracle", "Corporation", ",", "2003", ".", "-LSB-", "17", "-RSB-", "R.", "Agrawal", "and", "R.", "Srikant", ".", "Privacy-preserving", "Data", "Mining", ".", "In", "Proc", ".", "of", "the", "ACM", "SIGMOD", "Conference", "on", "Management", "of", "Data", ",", "Dallas", ",", "TX", ",", "May", "2000", ".", "-LSB-", "18", "-RSB-", "R.", "Sandhu", "and", "Q.", "Munawer", ".", "How", "to", "do", "Discretionary", "Access", "Control", "Using", "Roles", ".", "In", "RBAC", "'", "98", ":", "Proceedings", "of", "the", "third", "ACM", "workshop", "on", "Role-based", "access", "control", ",", "Fairfax", ",", "VA", ",", "1998", ".", "-LSB-", "19", "-RSB-", "M.", "Theriault", "and", "W.", "Heney", ".", "Oracle", "Security", ".", "O'Reilly", "&", "Associates", ",", "Inc.", ",", "1998", ".", "-LSB-", "20", "-RSB-", "V.", "Verykios", ",", "E.", "Bertino", ",", "I.", "Fovino", ",", "L.", "Provenza", ",", "Y.", "Saygin", "and", "Y.", "Theodoridis", ".", "State-of-the-art", "in", "Privacy", "Preserving", "Data", "Mining", ".", "SIGMOD", "Record", ",", "33", "-LRB-", "1", "-RRB-", ",", "2004", ".", "-LSB-", "21", "-RSB-", "W.", "Ford", "and", "M.", "S.", "Baum", ".", "Secure", "Electronic", "Commerce", ":", "Building", "the", "Infrastructure", "for", "Digital", "Signatures", "and", "Encryption", ".", "Prentice", "Hall", ",", "2000", ".", "-LSB-", "22", "-RSB-", "Wrox", "Author", "Team", ".", "MySQL", "Security", "Handbook", ".", "Wrox", "Press", ",", "2003", ".", "11"], "doc_bio_tags": ["O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["access privilege system", "xml security", "right blend of theory and practice", "labs", "importance of database security", "database security course", "topics", "assignments", "mysql security", "secure information", "statistical database security", "statistical security", "database security education", "oracle security", "database security plan", "cryptography", "undergraduate course", "privacy issues", "administrators", "security plan", "data access", "database system", "database security", "security breaches"], "abstractive_keyphrases": ["hands-on experience", "high risk of sensitive information", "few database security courses", "undergraduate students", "undergraduate database security course", "real life database security", "hands-on", "real life databases hands-on", "laboratory/active learning", "database privacy"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "30", "document": ["An", "Architectural", "Style", "for", "High-Performance", "Asymmetrical", "Parallel", "Computations", "Researchers", "with", "deep", "knowledge", "of", "scientific", "domains", "are", "now", "developing", "highly-adaptive", "and", "irregular", "-LRB-", "asymmetrical", "-RRB-", "parallel", "computations", ",", "leading", "to", "challenges", "in", "both", "delivery", "of", "data", "for", "computation", "and", "mapping", "of", "processes", "to", "physical", "resources", ".", "Using", "software", "engineering", "principles", ",", "we", "have", "developed", "a", "new", "communications", "protocol", "and", "architectural", "style", "for", "asymmetrical", "parallel", "computations", "called", "ADaPT", ".", "Utilizing", "the", "support", "of", "architecturally-aware", "middleware", ",", "we", "show", "that", "ADaPT", "provides", "a", "more", "efficient", "solution", "in", "terms", "of", "message", "passing", "and", "load", "balancing", "than", "asymmetrical", "parallel", "computations", "using", "collective", "calls", "in", "the", "Message-Passing", "Interface", "-LRB-", "MPI", "-RRB-", "or", "more", "advanced", "frameworks", "implementing", "explicit", "load-balancing", "policies", ".", "Additionally", ",", "developers", "using", "ADaPT", "gain", "significant", "windfall", "from", "good", "practices", "in", "software", "engineering", ",", "including", "implementation-level", "support", "of", "architectural", "artifacts", "and", "separation", "of", "computational", "loci", "from", "communication", "protocols", "D.", "2.11", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Software", "Architectures", "Design", ",", "Performance", "In", "recent", "years", ",", "as", "the", "cost-to-performance", "ratio", "of", "consumer", "hardware", "has", "continued", "to", "decrease", ",", "computational", "clusters", "consisting", "of", "fast", "networks", "and", "commodity", "hardware", "have", "become", "a", "common", "sight", "in", "research", "laboratories", ".", "A", "Copyright", "is", "held", "by", "the", "author/owner", ".", "ICSE", "'", "06", ",", "May", "20", "28", ",", "2006", ",", "Shanghai", ",", "China", ".", "ACM", "1-59593-085-X", "/", "06/0005", ".", "growing", "number", "of", "physicists", ",", "biologists", ",", "chemists", ",", "and", "computer", "scientists", "have", "developed", "highly-adaptive", "and", "irregular", "parallel", "applications", "that", "are", "characterized", "by", "computational", "intensity", ",", "loosely-synchronous", "parallelism", "and", "dynamic", "computation", ".", "Because", "the", "computation", "time", "of", "each", "parallel", "process", "varies", "significantly", "for", "this", "class", "of", "computation", ",", "we", "shall", "refer", "to", "them", "as", "asymmetrical", "parallel", "computations", ".", "Adaptive", "mesh", "refinements", "for", "the", "simulation", "of", "crack", "growth", ",", "combinatorial", "search", "applications", "used", "in", "artificial", "intelligence", ",", "and", "partial", "differential", "equation", "field", "solvers", "-LSB-", "2", "-RSB-", "are", "examples", "of", "asymmetrical", "computations", ".", "While", "supercomputing", "platforms", "available", "to", "us", "continue", "to", "increase", "performance", ",", "our", "ability", "to", "build", "software", "capable", "of", "matching", "theoretical", "limits", "is", "lacking", "-LSB-", "8", "-RSB-", ".", "At", "the", "same", "time", ",", "researchers", "with", "significant", "depth", "of", "knowledge", "in", "a", "scientific", "domain", "but", "with", "limited", "software", "experience", "are", "confounded", "by", "the", "interface", "bloat", "of", "libraries", "such", "the", "Message-Passing", "Interface", "-LRB-", "MPI", "-RRB-", ",", "which", "has", "12", "different", "routines", "for", "point-to-point", "communications", "alone", "-LSB-", "5", "-RSB-", ".", "Would-be", "practitioners", "of", "high-performance", "computing", "are", "introduced", "early", "to", "the", "mantra", "of", "optimization", ".", "The", "myth", "that", "high-level", "concepts", "inherent", "to", "software", "engineering", "principles", ",", "such", "as", "``", "separation", "of", "concerns", ",", "''", "result", "in", "inefficiencies", "at", "the", "performance", "level", "has", "caused", "these", "researchers", "to", "eschew", "best", "practices", "of", "traditional", "software", "development", "in", "favor", "of", "highly-optimized", "library", "routines", ".", "We", "contend", "that", "a", "sound", "software", "engineering", "solution", "to", "asymmetrical", "parallel", "computations", "provides", "decoupling", "of", "connectors", "from", "computational", "loci", "and", "reduces", "the", "complexity", "of", "development", "for", "the", "programmer", "while", "still", "providing", "an", "efficient", "solution", "both", "in", "terms", "of", "load-balancing", "and", "message-delivery", ".", "In", "this", "paper", ",", "we", "present", "such", "a", "solution", ".", "In", "the", "next", "section", ",", "we", "will", "discuss", "our", "motivations", "for", "creating", "the", "ADaPT", "protocol", "and", "architecture", ",", "including", "the", "load-balancing", "inefficiencies", "of", "``", "optimized", "''", "communications", "libraries", "when", "computing", "asymmetrical", "parallel", "computations", ".", "We", "will", "then", "present", "ADaPT", ",", "a", "communications", "protocol", "and", "associated", "software", "architecture", "for", "asymmetrical", "computations", ".", "Additionally", ",", "we", "will", "present", "analysis", "which", "shows", "ADaPT", "'s", "ability", "to", "outperform", "both", "MPI", "and", "other", "load-balancing", "frameworks", "using", "traditional", "work-sharing", "strategies", ".", "We", "conclude", "with", "an", "overview", "of", "future", "research", "opportunities", "afforded", "by", "ADaPT", ".", "This", "work", "has", "been", "motivated", "by", "our", "experience", "with", "two", "key", "classes", "of", "existing", "approaches", ":", "use", "of", "optimized", "857", "communications", "libraries", "such", "as", "MPI", "-LSB-", "4", "-RSB-", ",", "and", "message-passing", "frameworks", "which", "implement", "load-balancing", "strategies", "based", "on", "work", "sharing", ".", "2.1", "Message-Passing", "Interface", "High-performance", "communications", "libraries", "such", "as", "MPI", "are", "optimized", "to", "reduce", "the", "bandwidth", "needed", "to", "communicate", "a", "large", "amount", "of", "data", "to", "subprocesses", ".", "In", "order", "to", "accomplish", "this", "reduction", ",", "collective", "calls", "in", "MPI", "are", "synchronous", ",", "causing", "barriers", "at", "data-distribution", "points", "in", "the", "software", ".", "When", "used", "to", "compute", "uniform", "parallel", "computations", "barriers", "are", "unobtrusive", ".", "In", "asymmetrical", "computations", ",", "however", ",", "an", "effective", "mapping", "of", "processes", "to", "physical", "resources", "contributes", "more", "significantly", "to", "wall-clock", "time", "to", "completion", "than", "efficient", "communications", ".", "For", "these", "computations", ",", "asynchronous", "communications", "are", "needed", ",", "despite", "increased", "bandwidth", ".", "To", "illustrate", "this", "phenomena", ",", "let", "us", "consider", "a", "mapping", "of", "a", "large", "normalized", "population", "of", "computation", "times", "with", "a", "high", "level", "of", "variance", "onto", "a", "significantly", "smaller", "number", "of", "physical", "nodes", "-LRB-", "a", "strategy", "known", "as", "overaggregation", "-RRB-", ".", "The", "MPI", "library", "offers", "developers", "efficient", "use", "of", "bandwidth", "via", "collective", "scatter", "and", "gather", "commands", ".", "While", "bandwidth", "is", "conserved", "using", "these", "collective", "calls", ",", "analyses", "made", "by", "Gropp", ",", "et", ".", "al.", "and", "Skjellum", "-LSB-", "10", ",", "4", "-RSB-", "suggest", "that", "most", "implementations", "of", "MPI", "'s", "scatter", "are", "built", "on", "top", "of", "MPI", "'s", "rendezvous", "protocol", "and", "result", "in", "a", "synchronous", "barrier", "at", "each", "subsequent", "distribution", "of", "data", ".", "Since", "each", "process", "has", "variable", "computation", "time", ",", "a", "number", "of", "subprocesses", "will", "remain", "idle", "until", "the", "longest", "process", "completes", "during", "each", "of", "the", "scatters", ".", "In", "-LSB-", "1", "-RSB-", "we", "have", "shown", "that", "the", "smallest", "contribution", "to", "overall", "wall-clock", "time", "to", "completion", "made", "by", "this", "idle", "time", "is", "given", "as", "n", ",", "where", "n", "is", "the", "number", "of", "subprocesses", "and", "is", "the", "mean", "of", "the", "computation", "times", ".", "In", "comparison", ",", "the", "wall-clock", "time", "saved", "using", "the", "collective", "calls", "to", "reduce", "bandwidth", "is", "negligible", ".", "While", "these", "collective", "calls", "only", "consider", "bandwidth", "optimizations", ",", "it", "is", "clear", "that", "in", "asymmetrical", "parallel", "computations", ",", "process", "load-balancing", "across", "subprocesses", "is", "a", "more", "important", "optimization", "to", "pursue", ".", "2.2", "Load-Balancing", "Frameworks", "Attempts", "to", "develop", "message-passing", "frameworks", "that", "can", "assist", "computational", "scientists", "in", "the", "development", "of", "asymmetrical", "parallel", "computations", "can", "be", "divided", "into", "two", "groups", ":", "static", "load-balancing", "frameworks", "and", "dynamic", "load-balancing", "frameworks", ".", "Because", "a", "priori", "knowledge", "of", "the", "computation", "involved", "in", "asymmetrical", "parallel", "computations", "is", "required", "of", "static", "load", "balancers", ",", "such", "frameworks", "are", "inapplicable", "to", "this", "class", "of", "problems", ".", "Unlike", "static", "load", "balancers", ",", "dynamic", "load-balancing", "frameworks", "do", "not", "require", "information", "a", "priori", "and", "are", "able", "to", "redeploy", "balanced", "distributions", "of", "data", "during", "program", "execution", ".", "Notable", "examples", "of", "parallel", "development", "frameworks", "which", "provide", "dynamic", "load-balancing", "are", "PREMA", "-LSB-", "2", "-RSB-", "and", "Charm", "+", "+", "-LSB-", "6", "-RSB-", ".", "Unfortunately", ",", "these", "frameworks", "often", "incur", "significant", "performance", "losses", "due", "to", "the", "introduction", "of", "barriers", "for", "load-balancing", ".", "Additionally", ",", "these", "frameworks", "do", "not", "provide", "explicit", "support", "for", "consistency", "of", "structure", "and", "development", ".", "A", "software", "architectural", "solution", "can", "provide", "a", "number", "of", "benefits", "in", "addition", "to", "load", "balancing", ".", "Employing", "a", "sound", "software", "engineering", "principle", ",", "the", "separation", "of", "communication", "from", "computational", "elements", "shields", "the", "developer", "from", "the", "need", "to", "optimize", "communications", "and", "provides", "enforcement", "of", "architectural", "constraints", ".", "An", "added", "benefit", "is", "that", "architectural", "components", "reified", "as", "explicit", "implementation-level", "artifacts", "allow", "for", "easy", "reconfiguration", "of", "software", "in", "principle", ".", "We", "will", "revisit", "this", "point", "below", ".", "Two", "overlooked", "aspects", "of", "performance", "optimizations", "that", "must", "be", "addressed", "in", "order", "to", "provide", "a", "truly", "efficient", "solution", "are", "asynchronous", "load-balancing", "and", "event", "pattern", "optimization", ".", "In", "addition", "to", "simply", "providing", "a", "load-balanced", "distribution", ",", "asynchronous", "load-balancing", "provides", "a", "best", "effort", "redistribution", "of", "processes", "without", "introducing", "a", "barrier", "to", "computation", ".", "Event", "pattern", "optimization", "suggests", "that", "a", "protocol", "is", "capable", "of", "utilizing", "the", "predictability", "of", "future", "messages", "given", "analysis", "of", "past", "messages", ".", "During", "overaggregated", "parallel", "computations", ",", "a", "number", "of", "computations", "need", "to", "be", "distributed", "to", "each", "of", "the", "subprocesses", "over", "the", "course", "of", "the", "parallel", "computation", ",", "causing", "a", "pattern", "to", "emerge", ".", "In", "order", "to", "incorporate", "each", "of", "these", "optimizations", "into", "a", "high-performance", "communications", "protocol", ",", "we", "have", "developed", "ADaPT", ",", "an", "Adaptive", "Data-parallel", "Publication", "/", "Subscription", "Transport", "protocol", "and", "software", "architecture", ".", "The", "thesis", "of", "ADaPT", "is", "that", "it", "is", "possible", "to", "exploit", "the", "sequence", "that", "emerges", "from", "sending", "multiple", "messages", "to", "each", "parallel", "process", "in", "order", "to", "reduce", "the", "overall", "wall", "clock", "time", "to", "completion", "of", "the", "computation", "while", "still", "making", "a", "best-effort", "to", "avoid", "sending", "messages", "to", "each", "subprocess", "to", "quickly", "for", "the", "process", "to", "buffer", ".", "3.1", "ADaPT", "Defined", "We", "feel", "that", "for", "the", "purposes", "of", "this", "paper", "it", "is", "most", "helpful", "to", "define", "ADaPT", "'s", "protocol", ",", "architectural", "elements", ",", "and", "implementation", ".", "3.1.1", "Protocol", "ADaPT", "views", "each", "parallel", "process", "as", "an", "independent", "software", "component", "-LRB-", "Worker", "-RRB-", "residing", "on", "a", "physical", "node", "capable", "of", "performing", "computations", "on", "data", ".", "Each", "Worker", "initiates", "computation", "by", "subscribing", "to", "a", "coordination", "component", "-LRB-", "Master", "-RRB-", ".", "An", "important", "distinction", "between", "ADaPT", "and", "traditional", "publication/subscription", "systems", "is", "that", "unlike", "traditional", "pub/sub", "systems", ",", "ADaPT", "does", "not", "duplicate", "messages", "to", "service", "multiple", "downstream", "requests", ".", "Rather", ",", "it", "distributes", "messages", "uniquely", "from", "a", "queue", "in", "a", "round-robin", "fashion", ".", "Upon", "receipt", "of", "a", "subscription", ",", "the", "Master", "publishes", "a", "message", "to", "the", "Worker", ".", "There", "is", "another", "divergence", "from", "traditional", "pub/sub", "systems", "at", "this", "point", ".", "The", "Master", "waits", "for", "another", "request", "from", "the", "subscribed", "Worker", "before", "publishing", "another", "message", "to", "that", "Worker", ".", "Using", "data", "from", "each", "subscribed", "Worker", "on", "its", "computation", "time", ",", "or", ",", "the", "Master", "tracks", "an", "average", "processing", "time", ",", "or", ".", "Because", "the", "protocol", "is", "adaptive", ",", "when", "a", "predetermined", "number", "of", "messages", "have", "been", "sent", "to", "the", "Workers", "and", "a", "has", "been", "calculated", ",", "the", "Master", "switches", "from", "this", "conservative", "phase", "to", "an", "aggressive", "phase", "during", "which", "it", "sends", "messages", "of", "the", "requested", "type", "to", "the", "process", "at", "the", "regular", "interval", "dictated", "by", ".", "The", "protocol", "exploits", "the", "emerging", "event", "pattern", "to", "reduce", "the", "overall", "processing", "time", "at", "each", "physical", "node", ".", "858", "0", "5", "0", "100\u00a0150\u00a0200", "0", "5", "10", "15", "20", "Number", "of", "Workers", "%", "Overhead", "Computation", "Time", "Variance", "=", "10", "LBF", "MP", "I", "ADaPT", "0", "50", "100", "150", "200", "0", "5", "10", "15", "20", "Number", "of", "Workers", "%", "Overhead", "Computation", "Time", "Variance", "=", "50", "LBF", "MPI", "ADaPT", "0", "50", "100", "150", "200", "0", "5", "10", "15", "20", "Number", "of", "Workers", "%", "Overhead", "Computation", "Time", "Variance", "=", "100", "LBF", "MPI", "ADaPT", "0", "50", "100", "150", "200", "0", "5", "10", "15", "20", "Number", "of", "Workers", "%", "Overhead", "Computation", "Time", "Variance", "=", "200", "LBF", "MPI", "ADaPT", "Figure", "1", ":", "Monte", "Carlo", "simulations", "of", "overhead", "for", "asymmetrical", "computations", "exhibiting", "multiple", "variances", ".", "Similar", "to", "MPI", "'s", "eager", "protocol", ",", "this", "phase", "of", "ADaPT", "can", "be", "too", "aggressive", ",", "flooding", "the", "process", "'s", "buffer", "-LRB-", "datasets", "in", "high-performance", "computing", "tend", "to", "be", "very", "large", "causing", "memory", "limitations", "to", "surface", "frequently", "-RRB-", ".", "If", "the", "number", "of", "messages", "in", "the", "Worker", "'s", "buffer", "reaches", "a", "maximum", ",", "the", "Worker", "unsubscribes", "from", "the", "Master", ".", "After", "the", "Worker", "has", "computed", "each", "of", "the", "messages", "in", "its", "buffer", ",", "it", "re-subscribes", "to", "the", "Master", ",", "starting", "once", "again", "with", "the", "conservative", "phase", "of", "delivery", "as", "described", "above", ".", "3.1.2", "Architectural", "Model", "and", "Implementation", "We", "have", "further", "codified", "ADaPT", "in", "a", "software", "architectural", "style", "-LSB-", "9", "-RSB-", ".", "In", "addition", "to", "Master", "and", "Worker", "components", ",", "the", "ADaPT", "connector", "utilizes", "an", "adaptive", "dispatcher", "to", "deliver", "messages", "to", "each", "subscribed", "Worker", "using", "the", "ADaPT", "protocol", ".", "The", "dispatcher", "uses", "a", "priority-based", "round-robin", "algorithm", "which", "utilizes", "the", "calculated", "and", "attempts", "to", "saturate", "each", "Worker", "'s", "computation", "load", "without", "flooding", "the", "Worker", "'s", "buffer", ".", "This", "handler", "auto-matically", "switches", "between", "the", "conservative", "and", "aggressive", "phases", ".", "The", "key", "contribution", "of", "this", "connector", "is", "the", "encap-sulation", "of", "underlying", "protocols", ",", "allowing", "the", "developer", "to", "focus", "instead", "on", "the", "computations", "to", "be", "performed", ".", "Similar", "to", "the", "C2", "software", "architecture", "-LSB-", "3", "-RSB-", ",", "messages", "triggering", "computation", "travel", "downstream", "from", "one", "or", "more", "Masters", "to", "the", "ADaPT", "connector", ".", "Messages", "typed", "as", "results", "originating", "at", "Workers", "travel", "upstream", "through", "the", "ADaPT", "connector", "back", "to", "the", "Masters", ".", "We", "have", "implemented", "these", "architectural", "rules", "through", "extensions", "to", "the", "Prism", "framework", "-LSB-", "7", "-RSB-", ".", "Prism-MW", ",", "a", "middleware", "designed", "to", "enforce", "architectural", "rules", "at", "the", "level", "of", "software", "artifacts", ",", "is", "a", "light-weight", "event-based", "framework", "consisting", "of", "a", "core", "set", "of", "functionality", "with", "handles", "to", "extensible", "components", ",", "connectors", ",", "and", "event", "handlers", ".", "Topological", "rules", "for", "each", "architectural", "style", "are", "also", "en-forced", "through", "overloaded", "methods", "for", "connecting", "artifacts", ".", "3.2", "Performance", "Analysis", "In", "analyzing", "ADaPT", "'s", "performance", "in", "comparison", "to", "load-balancing", "frameworks", "as", "well", "as", "synchronous", "scatters", "and", "gathers", "using", "MPI", ",", "it", "is", "first", "important", "to", "define", "a", "base", "metric", "with", "which", "to", "compare", "protocols", ".", "This", "metric", ",", "the", "``", "natural", "rate", "''", "of", "parallel", "computation", ",", "is", "the", "sum", "of", "all", "individual", "computations", "to", "be", "completed", "divided", "by", "the", "number", "of", "nodes", "in", "the", "parallel", "computation", ".", "In", "this", "section", "we", "will", "present", "comparisons", "of", "protocols", "as", "measured", "by", "percentage", "overhead", "-LRB-", "calculated", "as", "the", "wall-clock", "time", "for", "the", "parallel", "process", "to", "complete", "minus", "the", "natural", "rate", ",", "divided", "by", "the", "natural", "rate", "-RRB-", ".", "In", "order", "to", "properly", "compare", "ADaPT", "'s", "ability", "to", "reduce", "message", "traffic", "as", "well", "as", "to", "efficiently", "map", "asymmetrical", "computations", "to", "physical", "resources", ",", "we", "developed", "a", "Monte", "Carlo", "simulation", "in", "which", "a", "normalized", "population", "of", "computations", "was", "delivered", "to", "virtual", "processors", "via", "three", "different", "communications", "policies/architectures", "and", "the", "percentage", "overhead", "was", "calculated", "for", "each", ".", "All", "massage-passing", "costs", "were", "uniform", "across", "the", "network", "for", "each", "policy", "implemented", ".", "MPI", "-LRB-", "collective", "calls", "-RRB-", "-", "Costs", "of", "synchronous", "scatters", "and", "gathers", "using", "MPI", "were", "modeled", "using", "equations", "from", "-LSB-", "10", ",", "4", "-RSB-", ".", "In", "this", "policy", "each", "worker", "receives", "a", "computation", "via", "a", "scatter", "and", "returns", "via", "a", "gather", "before", "scattering", "the", "next", "subset", "until", "all", "computations", "are", "completed", ".", "This", "process", "is", "known", "as", "a", "multi-part", "scatter", "-LSB-", "1", "-RSB-", ".", "Load-balancing", "framework", "-", "The", "Monte", "Carlo", "simulation", "of", "the", "load-balancing", "framework", "uses", "work-sharing", "methods", ".", "All", "events", "are", "delivered", "to", "workers", "before", "they", "begin", "processing", "and", "a", "barrier", "is", "periodically", "introduced", ".", "At", "859", "this", "barrier", ",", "the", "workload", "is", "redistributed", "evenly", "between", "all", "processors", ".", "In", "order", "to", "idealize", "load", "balancing", ",", "the", "cost", "of", "this", "calculation", "was", "treated", "as", "negligible", ".", "ADaPT", "implementation", "-", "Using", "the", "routing", "policies", "of", "ADaPT", ",", "this", "implementation", "assumes", "that", "workers", "are", "capable", "of", "buffering", "only", "two", "events", "and", "each", "worker", "is", "homogeneous", ".", "We", "made", "each", "of", "these", "assumptions", "in", "order", "to", "conservatively", "profile", "ADaPT", "'s", "performance", ".", "In", "each", "of", "four", "simulations", ",", "a", "normalized", "population", "of", "1000", "computations", "was", "generated", "with", "a", "mean", "computation", "time", "of", "100", "milliseconds", "and", "a", "variance", "of", "10", "milliseconds", "2", ",", "50", "milliseconds", "2", ",", "100", "milliseconds", "2", ",", "and", "200", "milliseconds", "2", ",", "respectively", ".", "For", "each", "simulation", ",", "the", "aggregation", "of", "the", "parallel", "computation", "-LRB-", "i.e", ",", "the", "ratio", "of", "workers", "to", "computations", "-RRB-", "was", "varied", "from", "1:500", "to", "1:5", ".", "Results", "of", "this", "comparison", "are", "shown", "in", "Figure", "1", ".", "It", "can", "be", "seen", "in", "these", "plots", "that", "while", "ADaPT", "performs", "uniformly", "at", "all", "aggregations", "smaller", "than", "1:100", "-LRB-", "i.e.", ",", ">", "=", "10", "workers", "-RRB-", ",", "MPI", "collective", "commands", "and", "load-balancing", "frameworks", "decrease", "performance", "as", "the", "aggregation", "is", "reduced", ".", "For", "load-balancing", "frameworks", ",", "this", "is", "due", "to", "the", "increased", "volume", "of", "messaging", "required", "in", "order", "to", "re-balance", "the", "load", "across", "all", "processors", "at", "each", "barrier", ".", "In", "the", "presence", "of", "load-balancing", ",", "the", "idle", "time", "is", "significantly", "reduced", ",", "but", "the", "cost", "of", "rerouting", "messages", "to", "new", "processors", "makes", "ADaPT", "the", "better", "performer", "especially", "in", "high", "variance", "computations", ".", "From", "these", "initial", "results", ",", "we", "feel", "that", "our", "implementation", "of", "ADaPT", "outperforms", "collective", "calls", "via", "MPI", "as", "well", "as", "load-balancing", "frameworks", "employing", "a", "full", "worksharing", "scheme", "for", "significantly", "varied", "aggregations", "and", "computation", "time", "variances", ".", "In", "Monte", "Carlo", "simulations", ",", "ADaPT", "produced", "a", "better", "mapping", "of", "computations", "to", "resources", ",", "reducing", "computational", "overhead", "to", "under", "1", "%", "for", "aggregations", "less", "than", "1:100", ".", "In", "the", "simulations", "of", "aggregations", "greater", "than", "1:100", ",", "ADaPT", "does", "not", "perform", "as", "well", "as", "MPI", "or", "other", "load-balancing", "frameworks", "due", "to", "the", "increased", "percentage", "of", "time", "each", "worker", "'s", "buffer", "remains", "empty", "before", "another", "event", "is", "pushed", "to", "the", "Worker", "at", "the", "calculated", "rate", "of", "computation", ".", "This", "situation", "seems", "of", "little", "consequence", ",", "however", ",", "in", "that", "data", "sets", "are", "seldom", "overagreggated", "to", "this", "extreme", ".", "ADaPT", "offers", "a", "significant", "decrease", "in", "overhead", "for", "event", "delivery", "in", "parallel", "computations", "and", "also", "outperforms", "established", "load-balancing", "techniques", "for", "use", "with", "asymmetrical", "parallel", "computations", ".", "Additionally", ",", "ADaPT", ",", "through", "its", "implementation", "in", "Prism", ",", "offers", "developers", "architectural", "artifacts", "at", "the", "level", "of", "implementation", ",", "clear", "division", "between", "the", "computation", "loci", "-LRB-", "in", "the", "form", "of", "extensible", "Workers", "-RRB-", "and", "communications", "algorithms", ",", "and", "reduction", "of", "communications", "knowledge", "needed", "by", "the", "developer", "in", "order", "to", "implement", "asymmetrical", "parallel", "computations", ".", "4.2", "Future", "Work", "While", "ADaPT", "is", "clearly", "an", "applicable", "architectural", "style", "to", "high-performance", "computing", ",", "we", "make", "no", "claim", "as", "to", "its", "monopoly", "of", "the", "field", ".", "In", "future", "work", ",", "we", "hope", "to", "build", "a", "more", "substantial", "architectural", "framework", "for", "high-performance", "computing", "which", "provides", "more", "underlying", "protocol", "choices", "and", "further", "assists", "developers", "in", "code", "migration", "to", "new", "platforms", "including", "SMP", "and", "other", "shared-memory", "machines", ".", "We", "hope", "to", "demonstrate", "the", "ease", "of", "system", "design", "and", "implementation", "via", "architectures", "to", "the", "high-performance", "community", "without", "serious", "performance", "degradation", ",", "as", "is", "cur-rently", "the", "prevalent", "though", ".", "Further", "enhancements", "to", "the", "ADaPT", "protocol", "and", "architecture", "will", "include", "refinement", "of", "its", "topological", "constraints", "to", "encapsulate", "both", "data-parallel", "stages", "of", "computation", "and", "higher-level", "workflow", "stages", "using", "multiple", "layers", "of", "masters", "and", "workers", "connected", "between", "more", "advanced", "ADaPT", "connectors", "-LRB-", "themselves", "perhaps", "distributed", "across", "multiple", "physical", "nodes", "-RRB-", ".", "Also", ",", "we", "hope", "to", "further", "investigate", "the", "tradeoffs", "associated", "with", "alternate", "unsubscription", "policies", "and", "the", "effects", "of", "``", "pumping", "''", "the", "parallel", "computation", "by", "modifying", "delivery", "rates", "to", "be", "faster", "than", "average", "computation", "rates", ".", "This", "work", "was", "supported", "by", "the", "NSF", "0312780", "grant", ".", "Any", "opinions", ",", "findings", "and", "conclusions", "or", "recommendations", "expressed", "in", "this", "material", "are", "those", "of", "the", "authors", "and", "do", "not", "necessarily", "reflect", "those", "of", "the", "National", "Science", "Foundation", ".", "The", "authors", "also", "wish", "to", "thank", "the", "anonymous", "reviewers", "for", "their", "helpful", "comments", ".", "-LSB-", "1", "-RSB-", "D.", "Woollard", "et", ".", "al.", ".", "Adapt", ":", "Event-passing", "protocol", "for", "reducing", "delivery", "costs", "in", "scatter-gather", "parallel", "processes", ".", "In", "Proceeding", "of", "the", "Workshop", "on", "Patterns", "in", "High", "Performance", "Computing", ",", "Urbana", ",", "Illinois", ",", "May", "2005", ".", "-LSB-", "2", "-RSB-", "K.", "Barker", "et", ".", "al.", ".", "A", "load", "balancing", "framework", "for", "adaptive", "and", "asynchronous", "applications", ".", "Parallel", "and", "Distributed", "Systems", ",", "IEEE", "Transactions", "on", ",", "15:183", "192", ",", "2004", ".", "-LSB-", "3", "-RSB-", "R.", "Taylor", "et", ".", "al.", ".", "A", "component", "-", "and", "message-based", "architectural", "style", "for", "gui", "software", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "June", ",", "1996", ".", "-LSB-", "4", "-RSB-", "W.", "Gropp", ",", "E.", "Lusk", ",", "and", "A.", "Skjellum", ".", "Using", "MPI", ":", "Portable", "Programming", "with", "the", "Message", "Passing", "Interface", ".", "MIT", "Press", ",", "1999", ".", "-LSB-", "5", "-RSB-", "S.", "Guyer", "and", "C.", "Lin", ".", "Broadway", ":", "A", "software", "architecture", "for", "scientific", "computing", ".", "In", "Proceedings", "of", "the", "IFIP", "TC2/WG2", ".5", "Working", "Conference", "on", "the", "Architecture", "of", "Scientific", "Software", ",", "pages", "175", "192", ",", "Deventer", ",", "The", "Netherlands", ",", "The", "Netherlands", ",", "2001", ".", "Kluwer", ",", "B.V.", "-LSB-", "6", "-RSB-", "L.", "Kale", "and", "S.", "Krishnan", ".", "CHARM", "+", "+", ":", "A", "Portable", "Concurrent", "Object", "Oriented", "System", "Based", "on", "C++", ".", "In", "A.", "Paepcke", ",", "editor", ",", "Proceedings", "of", "OOPSLA", "'", "93", ",", "pages", "91", "108", ".", "ACM", "Press", ",", "September", "1993", ".", "-LSB-", "7", "-RSB-", "S.", "Malek", ",", "M.", "Mikic-Rakic", ",", "and", "N.", "Medvidovic", ".", "A", "style-aware", "architectural", "middleware", "for", "resource-constrained", ",", "distributed", "systems", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "March", ",", "2005", ".", "-LSB-", "8", "-RSB-", "D.", "Post", "and", "L.", "Votta", ".", "Computational", "science", "demands", "a", "new", "paradigm", ".", "Physics", "Today", ",", "58", "-LRB-", "1", "-RRB-", ":", "35", "41", ",", "2005", ".", "-LSB-", "9", "-RSB-", "M.", "Shaw", "and", "D.", "Garlan", ".", "Software", "Architecture", ":", "Perspectives", "on", "an", "Emerging", "Discipline", ".", "Prentice-Hall", ",", "1996", ".", "-LSB-", "10", "-RSB-", "A.", "Skjellum", ".", "High", "performance", "mpi", ":", "Extending", "the", "message", "passing", "interface", "for", "higher", "performance", "and", "higher", "predictability", ",", "1998", ".", "860"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["load balancing", "adapt", "software engineering", "mpi", "asymmetrical parallel computations", "collective calls", "communication protocols"], "abstractive_keyphrases": ["high-performance computing", "asymamtrical parallel computations"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "94", "document": ["Focused", "Named", "Entity", "Recognition", "Using", "Machine", "Learning", "In", "this", "paper", "we", "study", "the", "problem", "of", "finding", "most", "topical", "named", "entities", "among", "all", "entities", "in", "a", "document", ",", "which", "we", "refer", "to", "as", "focused", "named", "entity", "recognition", ".", "We", "show", "that", "these", "focused", "named", "entities", "are", "useful", "for", "many", "natural", "language", "processing", "applications", ",", "such", "as", "document", "summarization", ",", "search", "result", "ranking", ",", "and", "entity", "detection", "and", "tracking", ".", "We", "propose", "a", "statistical", "model", "for", "focused", "named", "entity", "recognition", "by", "converting", "it", "into", "a", "classification", "problem", ".", "We", "then", "study", "the", "impact", "of", "various", "linguistic", "features", "and", "compare", "a", "number", "of", "classification", "algorithms", ".", "From", "experiments", "on", "an", "annotated", "Chinese", "news", "corpus", ",", "we", "demonstrate", "that", "the", "proposed", "method", "can", "achieve", "near", "human-level", "accuracy", ".", "I.", "2.7", "-LSB-", "Artificial", "Intelligence", "-RSB-", ":", "Natural", "language", "Processing", "--", "Text", "Analysis", ";", "H.", "3.1", "-LSB-", "Information", "Storage", "And", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", "--", "Linguistic", "processing", "Algorithms", ",", "Experimentation", "With", "the", "rapid", "growth", "of", "online", "electronic", "documents", ",", "many", "technologies", "have", "been", "developed", "to", "deal", "with", "the", "enormous", "amount", "of", "information", ",", "such", "as", "automatic", "summarization", ",", "topic", "detection", "and", "tracking", ",", "and", "information", "retrieval", ".", "Among", "these", "technologies", ",", "a", "key", "component", "is", "to", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "04", ",", "July", "25", "29", ",", "2004", ",", "Sheffield", ",", "South", "Yorkshire", ",", "UK", ".", "Copyright", "2004", "ACM", "1-58113-881-4", "/", "04/0007", "...", "$", "5.00", ".", "identify", "the", "main", "topics", "of", "a", "document", ",", "where", "topics", "can", "be", "represented", "by", "words", ",", "sentences", ",", "concepts", ",", "and", "named", "entities", ".", "A", "number", "of", "techniques", "for", "this", "purpose", "have", "been", "proposed", "in", "the", "literature", ",", "including", "methods", "based", "on", "position", "-LSB-", "3", "-RSB-", ",", "cue", "phrases", "-LSB-", "3", "-RSB-", ",", "word", "frequency", ",", "lexical", "chains", "-LSB-", "1", "-RSB-", "and", "discourse", "segmentation", "-LSB-", "13", "-RSB-", ".", "Although", "word", "frequency", "is", "the", "easiest", "way", "to", "representing", "the", "topics", "of", "a", "document", ",", "it", "was", "reported", "in", "-LSB-", "12", "-RSB-", "that", "position", "methods", "produce", "better", "results", "than", "word", "counting", "based", "methods", ".", "Important", "sentence", "extraction", "is", "the", "most", "popular", "method", "studied", "in", "the", "literature", ".", "A", "recent", "trend", "in", "topic", "sentence", "extraction", "is", "to", "employ", "machine", "learning", "methods", ".", "For", "example", ",", "trainable", "classifiers", "have", "been", "used", "in", "-LSB-", "8", ",", "21", ",", "5", ",", "11", "-RSB-", "to", "select", "sentences", "based", "on", "features", "such", "as", "cue", "phrase", ",", "location", ",", "sentence", "length", ",", "word", "frequency", "and", "title", ",", "etc.", ".", "All", "of", "the", "above", "methods", "share", "the", "same", "goal", "of", "extracting", "important", "sentences", "from", "documents", ".", "However", ",", "for", "topic", "representation", ",", "sentence-level", "document", "summaries", "may", "still", "contain", "redundant", "information", ".", "For", "this", "reason", ",", "other", "representations", "have", "also", "been", "suggested", ".", "For", "example", ",", "in", "-LSB-", "17", "-RSB-", ",", "the", "authors", "used", "structural", "features", "of", "technical", "papers", "to", "identify", "important", "concepts", "rather", "than", "sentences", ".", "The", "authors", "of", "-LSB-", "9", "-RSB-", "presented", "an", "efficient", "algorithm", "to", "choose", "topic", "terms", "for", "hierarchical", "summarization", "according", "to", "a", "proba-bilistic", "language", "model", ".", "Another", "hybrid", "system", ",", "presented", "in", "-LSB-", "7", "-RSB-", ",", "generated", "summarizations", "with", "the", "help", "of", "named", "entity", "foci", "of", "an", "article", ".", "These", "named", "entities", "include", "people", ",", "organizations", ",", "and", "places", ",", "and", "untyped", "names", ".", "In", "this", "paper", ",", "we", "study", "the", "problem", "of", "finding", "important", "named", "entities", "from", "news", "articles", ",", "which", "we", "call", "focused", "named", "entity", "recognition", ".", "A", "news", "article", "often", "reports", "an", "event", "that", "can", "be", "effectively", "summarized", "by", "the", "five", "W", "-LRB-", "who", ",", "what", ",", "when", ",", "where", ",", "and", "why", "-RRB-", "approach", ".", "Many", "of", "the", "five", "W", "'s", "can", "be", "associated", "with", "appropriate", "named", "entities", "in", "the", "article", ".", "Our", "definition", "of", "focused", "named", "entities", "is", "mainly", "concerned", "with", "Who", "and", "What", ".", "Therefore", "it", "is", "almost", "self-evident", "that", "the", "concept", "of", "focused", "named", "entity", "is", "important", "for", "document", "understanding", "and", "automatic", "information", "extraction", ".", "In", "fact", ",", "a", "number", "of", "recent", "studies", "have", "already", "suggested", "that", "named", "entities", "are", "useful", "for", "text", "summarization", "-LSB-", "15", ",", "4", ",", "7", ",", "16", "-RSB-", ".", "Moreover", ",", "we", "shall", "illustrate", "that", "focused", "named", "entities", "can", "be", "used", "in", "other", "text", "processing", "tasks", "as", "well", ".", "For", "example", ",", "we", "can", "rank", "search", "results", "by", "giving", "more", "weights", "to", "focused", "named", "entities", ".", "We", "define", "focused", "named", "entities", "as", "named", "entities", "that", "are", "most", "relevant", "to", "the", "main", "topic", "of", "a", "news", "article", ".", "Our", "281", "task", "is", "to", "automatically", "select", "these", "focused", "named", "entities", "from", "the", "set", "of", "all", "entities", "in", "a", "document", ".", "Since", "focused", "named", "entity", "recognition", "is", "a", "newly", "proposed", "machine", "learning", "task", ",", "we", "need", "to", "determine", "whether", "it", "is", "well-posed", ".", "That", "is", ",", "whether", "there", "exists", "a", "sufficient", "level", "of", "agreement", "on", "focused", "named", "entities", "among", "human", "reviewers", ".", "A", "detailed", "study", "on", "this", "matter", "will", "be", "reported", "in", "the", "section", "5.2", ".", "The", "conclusion", "of", "our", "study", "is", "that", "there", "is", "indeed", "a", "sufficient", "level", "of", "agreement", ".", "Encouraged", "by", "this", "study", ",", "we", "further", "investigated", "the", "machine", "learning", "approach", "to", "this", "problem", ",", "which", "is", "the", "focus", "of", "the", "paper", ".", "We", "discuss", "various", "issues", "encountered", "in", "the", "process", "of", "building", "a", "machine", "learning", "based", "system", ",", "and", "show", "that", "our", "method", "can", "achieve", "near", "human", "performance", ".", "The", "remainder", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", "we", "introduce", "the", "problem", "of", "focused", "named", "entity", "recognition", "and", "illustrate", "its", "applications", ".", "Section", "3", "describes", "a", "general", "machine", "learning", "approach", "to", "this", "problem", ".", "In", "Section", "4", ",", "we", "present", "features", "used", "in", "our", "system", ".", "Section", "5", "presents", "a", "study", "of", "human-level", "agreement", "on", "focused", "named", "entities", ",", "and", "various", "experiments", "which", "illustrate", "the", "importance", "of", "different", "features", ".", "Some", "final", "conclusions", "will", "be", "given", "in", "section", "6", ".", "Figure", "1", "is", "an", "example", "document", ".", "1", "This", "article", "reports", "that", "Boeing", "Company", "would", "work", "with", "its", "new", "Research", "and", "Technology", "Center", "to", "develop", "a", "new", "style", "of", "electric", "airplane", ".", "On", "the", "upper", "half", "of", "the", "page", ",", "we", "list", "all", "named", "entities", "appearing", "in", "the", "article", "and", "mark", "the", "focused", "entities", ".", "Among", "the", "twelve", "named", "entities", ",", "``", "Boeing", "Company", "''", "and", "its", "``", "Research", "and", "Technology", "Center", "''", "are", "most", "relevant", "to", "the", "main", "topic", ".", "Here", "we", "call", "``", "Boeing", "Company", "''", "and", "``", "Research", "and", "Technology", "Center", "''", "the", "focuses", ".", "Clearly", ",", "focused", "named", "entities", "are", "important", "for", "representing", "the", "main", "topic", "of", "the", "content", ".", "In", "the", "following", ",", "we", "show", "that", "the", "concept", "of", "focused", "named", "entity", "is", "useful", "for", "many", "natural", "language", "processing", "applications", ",", "such", "as", "summarization", ",", "search", "ranking", "and", "topic", "detection", "and", "tracking", ".", "2.1", "Using", "Focused", "Named", "Entity", "for", "Summarization", "We", "consider", "the", "task", "of", "automatic", "summarization", "of", "the", "sample", "document", "in", "Figure", "1", ".", "A", "traditional", "method", "is", "to", "select", "sentences", "with", "highest", "weights", ",", "where", "sentence", "weights", "are", "calculated", "by", "averaging", "term", "frequencies", "of", "words", "it", "contains", ".", "The", "resulting", "summarization", "is", "given", "in", "Figure", "2", ".", "Using", "focused", "named", "entities", ",", "we", "consider", "two", "methods", "to", "refine", "the", "above", "summarization", ".", "The", "first", "method", "is", "to", "increase", "the", "weight", "of", "the", "focused", "named", "entity", "``", "Boeing", "''", "in", "the", "sentences", ",", "leading", "to", "the", "summary", "in", "Figure", "3", ".", "The", "other", "method", "simply", "picks", "sentences", "containing", "the", "focused", "named", "entity", "``", "Boeing", "''", "as", "in", "Figure", "4", ".", "From", "this", "example", ",", "we", "can", "see", "that", "summarization", "using", "focused", "named", "entities", "gives", "more", "indicative", "description", "of", "an", "article", ".", "2.2", "Using", "Focused", "Named", "Entity", "for", "Ranking", "Search", "Results", "Suppose", "we", "want", "to", "find", "news", "about", "World", "Cup", "football", "match", "from", "a", "collection", "of", "news", "articles", ".", "First", "we", "search", "1", "The", "original", "article", "can", "be", "accessed", "at", "http://www.boeing.com/news/releases/2001/q4/nr", "011127a.html", ".", "Figure", "1", ":", "Sample", "document", "with", "focused", "named", "entities", "marked", "Boeing", "To", "Explore", "Electric", "Airplane", "Fuel", "cells", "and", "electric", "motors", "will", "not", "replace", "jet", "engines", "on", "commercial", "transports", ",", "but", "they", "could", "one", "day", "replace", "gas", "turbine", "auxiliary", "power", "units", ".", "Unlike", "a", "battery", ",", "which", "needs", "to", "be", "recharged", ",", "fuel", "cells", "keep", "working", "as", "long", "as", "the", "fuel", "lasts", ".", "``", "Fuel", "cells", "show", "the", "promise", "of", "one", "day", "providing", "efficient", ",", "essentially", "pollution-free", "electrical", "power", "for", "commercial", "airplane", "primary", "electrical", "power", "needs", ",", "''", "Daggett", "said", ".", "Figure", "2", ":", "Summary", "using", "term", "frequency", "weighting", "Boeing", "To", "Explore", "Electric", "Airplane", "Boeing", "Commercial", "Airplanes", "will", "develop", "and", "test", "an", "electrically", "powered", "demonstrator", "airplane", "as", "part", "of", "a", "study", "to", "evaluate", "environmentally", "friendly", "fuel", "cell", "technology", "for", "future", "Boeing", "products", ".", "Fuel", "cells", "and", "electric", "motors", "will", "not", "replace", "jet", "engines", "on", "commercial", "transports", ",", "but", "they", "could", "one", "day", "replace", "gas", "turbine", "auxiliary", "power", "units", ".", "``", "By", "adapting", "this", "technology", "for", "aviation", ",", "Boeing", "intends", "to", "demonstrate", "its", "leadership", "in", "the", "pursuit", "of", "delivering", "environmentally", "preferred", "products", ".", "''", "Figure", "3", ":", "Summary", "weighted", "by", "focused", "named", "entities", "282", "Boeing", "To", "Explore", "Electric", "Airplane", "Boeing", "Commercial", "Airplanes", "will", "develop", "and", "test", "an", "electrically", "powered", "demonstrator", "airplane", "as", "part", "of", "a", "study", "to", "evaluate", "environmentally", "friendly", "fuel", "cell", "technology", "for", "future", "Boeing", "products", ".", "The", "airplane", "manufacturer", "is", "working", "with", "Boe-ing", "'s", "new", "Research", "and", "Technology", "Center", "in", "Madrid", ",", "Spain", ",", "to", "modify", "a", "small", ",", "single-engine", "airplane", "by", "replacing", "its", "engine", "with", "fuel", "cells", "and", "an", "electric", "motor", "that", "will", "turn", "a", "conventional", "propeller", ".", "Boeing", "Madrid", "will", "design", "and", "integrate", "the", "experimental", "airplane", "'s", "control", "system", ".", "``", "By", "adapting", "this", "technology", "for", "aviation", ",", "Boeing", "intends", "to", "demonstrate", "its", "leadership", "in", "the", "pursuit", "of", "delivering", "environmentally", "preferred", "products", ".", "''", "Figure", "4", ":", "Summary", "using", "sentences", "containing", "focused", "named", "entities", "for", "documents", "containing", "the", "key", "phrase", "``", "World", "Cup", "''", ".", "The", "ranking", "function", ",", "which", "determines", "which", "document", "is", "more", "relevant", "to", "the", "query", ",", "is", "very", "important", "to", "the", "search", "quality", ".", "Since", "our", "query", "is", "a", "single", "phrase", ",", "the", "ranked", "search", "results", ",", "displayed", "in", "Table", "1", ",", "are", "based", "on", "the", "term", "frequency", "of", "the", "phrase", "``", "World", "Cup", "''", ".", "It", "is", "clear", "that", "without", "deeper", "text", "understanding", ",", "term", "frequency", "is", "a", "quite", "reasonable", "measure", "of", "relevancy", ".", "However", ",", "although", "some", "articles", "may", "contain", "more", "``", "World", "Cup", "''", "than", "others", ",", "they", "may", "actually", "focus", "less", "on", "the", "World", "Cup", "event", "which", "we", "are", "interested", ".", "Therefore", "a", "better", "indication", "of", "document", "relevancy", "is", "whether", "a", "document", "focuses", "on", "the", "entity", "we", "are", "interested", "in", ".", "A", "simple", "method", "is", "to", "re-order", "the", "search", "results", "first", "by", "whether", "the", "query", "entity", "is", "focused", "or", "not", ",", "and", "then", "by", "its", "term-frequency", ".", "It", "is", "quite", "clear", "that", "this", "method", "gives", "higher", "quality", "ranking", ".", "In", "this", "example", ",", "we", "use", "Chinese", "corpus", "for", "demonstration", ",", "so", "the", "original", "searching", "results", "are", "in", "Chinese", ",", "which", "we", "have", "translated", "into", "English", "for", "reading", "convenience", ".", "2.3", "Other", "Uses", "of", "Focused", "Named", "Entity", "We", "believe", "that", "focused", "named", "entities", "are", "also", "helpful", "in", "text", "clustering", "and", "categorization", "tasks", "such", "as", "topic", "detection", "and", "tracking", ".", "This", "is", "because", "if", "focused", "named", "entities", "are", "automatically", "recognized", ",", "then", "the", "event", "for", "each", "document", "can", "be", "described", "more", "precisely", ".", "Since", "focused", "named", "entities", "characterize", "what", "an", "article", "talks", "about", ",", "it", "is", "natural", "to", "organize", "articles", "based", "on", "them", ".", "Therefore", "by", "giving", "more", "weights", "to", "focused", "named", "entities", ",", "we", "believe", "that", "we", "can", "potentially", "obtain", "better", "quality", "clustering", "and", "more", "accurate", "topic", "detection", "and", "tracking", ".", "Our", "study", "of", "the", "focused", "named", "entity", "recognition", "problem", "is", "motivated", "by", "its", "potential", "applications", "as", "illustrated", "above", ".", "Experiments", "in", "section", "5.2", "indicate", "that", "there", "is", "a", "sufficient", "agreement", "on", "focused", "named", "entities", "among", "human", "reviewers", ".", "Therefore", "our", "goal", "is", "to", "build", "a", "system", "that", "can", "automatically", "detect", "focused", "named", "entities", "among", "all", "named", "entities", "in", "a", "document", ".", "We", "shall", "mention", "that", "although", "this", "paper", "only", "studies", "named", "entities", ",", "the", "basic", "idea", "can", "be", "extended", "to", "tasks", "such", "as", "finding", "important", "words", ",", "noun-phrases", "in", "a", "document", ".", "Focused", "named", "entity", "recognition", "can", "be", "regarded", "as", "a", "binary", "classification", "problem", ".", "Consider", "the", "set", "of", "all", "named", "entities", "in", "a", "document", "extracted", "by", "a", "named", "entity", "recognition", "system", ".", "Each", "entity", "in", "this", "set", "can", "be", "labeled", "yes", "if", "it", "is", "a", "focused", "entity", ",", "or", "no", "if", "it", "is", "not", ".", "We", "formally", "define", "a", "two-class", "categorization", "problem", "as", "one", "to", "determine", "a", "label", "y", "-LCB-", "-1", ",", "1", "-RCB-", "associated", "with", "a", "vector", "x", "of", "input", "variables", ".", "However", ",", "in", "order", "to", "build", "a", "successful", "focused", "named", "entity", "extractor", ",", "a", "number", "of", "issues", "have", "to", "be", "studied", ".", "First", ",", "named", "entities", "that", "refer", "to", "the", "same", "person", "or", "organization", "need", "to", "be", "grouped", "together", ";", "secondly", "what", "features", "are", "useful", ";", "and", "thirdly", ",", "how", "well", "different", "learning", "algorithms", "perform", "on", "this", "task", ".", "These", "issues", "will", "be", "carefully", "studied", ".", "3.1", "Coreference", "Resolution", "Coreference", "is", "a", "common", "phenomenon", "in", "natural", "language", ".", "It", "means", "that", "an", "entity", "can", "be", "referred", "to", "in", "different", "ways", "and", "in", "different", "locations", "of", "the", "text", ".", "Therefore", "for", "focused", "named", "entity", "recognition", ",", "it", "is", "useful", "to", "apply", "a", "coreference", "resolution", "algorithm", "to", "merge", "entities", "with", "the", "same", "referents", "in", "a", "given", "document", ".", "There", "are", "different", "kinds", "of", "coreference", "according", "to", "the", "basic", "coreference", "types", ",", "such", "as", "pronominal", "coreference", ",", "proper", "name", "coreference", ",", "apposition", ",", "predicate", "nominal", ",", "etc.", ".", "Here", "in", "our", "system", ",", "we", "only", "consider", "proper", "name", "coreference", ",", "which", "is", "to", "identify", "all", "variations", "of", "a", "named", "entity", "in", "the", "text", ".", "Although", "it", "is", "possible", "to", "use", "machine", "learning", "methods", "for", "coreference", "resolution", "-LRB-", "see", "-LSB-", "20", "-RSB-", "as", "an", "example", "-RRB-", ",", "we", "shall", "use", "a", "simpler", "scheme", ",", "which", "works", "reasonably", "well", ".", "Our", "coreference", "resolution", "method", "can", "be", "described", "as", "follows", ".", "1", ".", "Partitioning", ":", "The", "set", "of", "named", "entities", "is", "divided", "into", "sub-sets", "according", "to", "named", "entity", "types", ",", "because", "coreference", "only", "occurs", "among", "entities", "with", "the", "same", "types", ".", "2", ".", "Pair-wise", "comparison", ":", "Within", "each", "sub-set", ",", "pair-wise", "comparison", "is", "performed", "to", "detect", "whether", "each", "entity-pair", "is", "an", "instance", "of", "coreference", ".", "In", "this", "study", ",", "we", "use", "a", "simple", "algorithm", "which", "is", "based", "on", "string-matching", "only", ".", "Since", "we", "work", "with", "Chinese", "data", ",", "we", "split", "each", "entity", "into", "single", "Chinese", "characters", ".", "We", "study", "two", "different", "schemes", "here", ":", "using", "either", "exact", "string", "matching", "or", "partial", "string", "matching", "to", "decide", "coreference", ".", "In", "the", "case", "of", "exact", "string", "matching", ",", "two", "entities", "are", "considered", "to", "be", "a", "coreference", "pair", "only", "when", "they", "are", "identical", ".", "In", "the", "case", "of", "partial", "string", "matching", ",", "if", "characters", "in", "the", "shorter", "entity", "form", "a", "-LRB-", "non-consecutive", "-RRB-", "sub-string", "of", "the", "longer", "entity", ",", "then", "the", "two", "entities", "are", "considered", "to", "be", "a", "coreference", "pair", ".", "3", ".", "Clustering", ":", "Merge", "all", "coreference", "pairs", "created", "in", "the", "second", "step", "into", "the", "same", "coreference", "chains", ".", "This", "step", "can", "also", "be", "done", "differently", ".", "For", "example", ",", "by", "using", "a", "sequential", "clustering", "method", ".", "Although", "the", "coreference", "resolution", "algorithm", "described", "above", "is", "not", "perfect", ",", "it", "is", "not", "crucial", "since", "the", "results", "will", "283", "Table", "1", ":", "Search", "result", "of", "``", "World", "Cup", "''", "focus/not", "tf", "title", "focus", "20", "Uncover", "the", "Mystery", "of", "World", "Cup", "Draws", "focus", "11", "Brazil", "and", "Germany", "Qualified", ",", "Iran", "Kicked", "out", "focus", "9", "Preparing", "for", "World", "Cup", ",", "China", "Football", "Federation", "and", "Milutinovic", "Snatch", "the", "Time", "focus", "6", "Sun", "Wen", "Understands", "the", "Pressure", "Milutinovic", "and", "China", "Team", "Faced", "focus", "5", "Korea", "Leaves", "More", "Tickets", "to", "China", "Fans", "focus", "4", "Paraguay", "Qualified", ",", "but", "Head", "Coach", "Dismissed", "no", "4", "LiXiang", ":", "Special", "Relationships", "between", "Milutinovic", "and", "I", "no", "3", "Three", "Stars", "on", "Golden", "Eagle", "Festival", "focus", "3", "Adidas", "Fevernova", ",", "the", "Official", "2002", "FIFA", "World", "Cup", "Ball", ",", "Appears", "Before", "the", "Public", "in", "Beijing", "no", "2", "China", "'s", "World", "Top", "10", "Start", "to", "Vote", "focus", "2", "Qualified", "vs.", "Kicked", "out", ":", "McCarthy", "Stays", "on", ",", "Blazevic", "Demits", "focus", "2", "China", "Attends", "Group", "Match", "in", "Korea", ",", "But", "not", "in", "the", "Same", "Group", "With", "Korea", "no", "2", "Do", "n't", "Scare", "Peoples", "with", "Entering", "WTO", "no", "1", "Kelon", "Tops", "China", "'s", "Home", "Appliance", "Industry", "in", "CCTV", "Ads", "Bidding", "no", "1", "Lou", "Lan", ":", "Great", "Secrets", "Behind", "focus", "1", "Australia", "Beats", "Uruguay", "by", "One", "Goal", "no", "1", "Chang", "Hong", "'s", "``", "King", "of", "Precision", "Display", "''", ":", "Good", "Friends", "of", "Football", "Fans", "be", "passed", "to", "a", "machine", "learning", "algorithm", "in", "a", "later", "stage", ",", "which", "can", "offset", "the", "mistakes", "made", "in", "the", "coreference", "stage", ".", "Our", "experiment", "shows", "that", "by", "using", "coreference", "resolution", ",", "the", "overall", "system", "performance", "can", "be", "improved", "appreciably", ".", "3.2", "Classification", "Methods", "In", "this", "paper", ",", "we", "compare", "three", "methods", ":", "a", "decision", "tree", "based", "rule", "induction", "system", ",", "a", "naive", "Bayes", "classifier", ",", "and", "a", "regularized", "linear", "classification", "method", "based", "on", "robust", "risk", "minimization", ".", "3.2.1", "Decision", "Tree", "In", "text-mining", "application", ",", "model", "interpretability", "is", "an", "important", "characteristic", "to", "be", "considered", "in", "addition", "to", "the", "accuracy", "achieved", "and", "the", "computational", "cost", ".", "The", "requirement", "of", "interpretability", "can", "be", "satisfied", "by", "using", "a", "rule-based", "system", ",", "such", "as", "rules", "obtained", "from", "a", "decision", "tree", ".", "Rule-based", "systems", "are", "particularly", "appealing", "since", "a", "person", "can", "examine", "the", "rules", "and", "modify", "them", ".", "It", "is", "also", "much", "easier", "to", "understand", "what", "a", "system", "does", "by", "examining", "its", "rules", ".", "We", "shall", "thus", "include", "a", "decision", "tree", "based", "classifier", "in", "this", "study", ".", "In", "a", "typical", "decision", "tree", "training", "algorithm", ",", "there", "are", "usually", "two", "stages", ".", "The", "first", "stage", "is", "tree", "growing", "where", "a", "tree", "is", "built", "by", "greedily", "splitting", "each", "tree", "node", "based", "on", "a", "certain", "figure", "of", "merit", ".", "However", "after", "the", "first", "stage", ",", "the", "tree", "can", "overfit", "the", "training", "data", ",", "therefore", "a", "second", "stage", "involving", "tree", "pruning", "is", "invoked", ".", "In", "this", "stage", ",", "one", "removes", "overfitted", "branches", "of", "the", "tree", "so", "that", "the", "remaining", "portion", "has", "better", "predictive", "power", ".", "In", "our", "decision", "tree", "package", ",", "the", "splitting", "criteria", "during", "tree", "growth", "is", "similar", "to", "that", "of", "the", "standard", "C4", ".5", "program", "-LSB-", "18", "-RSB-", ",", "and", "the", "tree", "pruning", "is", "done", "using", "a", "Bayesian", "model", "combination", "approach", ".", "See", "-LSB-", "6", "-RSB-", "for", "detailed", "description", ".", "3.2.2", "Naive", "Bayes", "Another", "very", "popular", "binary", "classification", "method", "is", "naive", "Bayes", ".", "In", "spite", "of", "its", "simplicity", ",", "it", "often", "achieves", "reasonable", "performance", "in", "practical", "applications", ".", "It", "can", "be", "regarded", "as", "a", "linear", "classification", "method", ",", "where", "we", "seek", "a", "weight", "vector", "w", "and", "a", "threshold", "such", "that", "w", "T", "x", "<", "if", "its", "label", "y", "=", "-1", "and", "w", "T", "x", "if", "its", "label", "y", "=", "1", ".", "A", "score", "of", "value", "w", "T", "x", "can", "be", "assigned", "to", "each", "data", "point", "as", "a", "surrogate", "for", "the", "likelihood", "of", "x", "to", "be", "in", "class", ".", "In", "this", "work", ",", "we", "adopt", "the", "multinomial", "model", "described", "in", "-LSB-", "14", "-RSB-", ".", "Let", "-LCB-", "-LRB-", "x", "1", ",", "y", "1", "-RRB-", ",", "...", ",", "-LRB-", "x", "n", ",", "y", "n", "-RRB-", "-RCB-", "be", "the", "set", "of", "training", "data", ".", "The", "linear", "weight", "w", "is", "given", "by", "w", "=", "w", "1", "-", "w", "-1", ",", "and", "=", "1", "-1", ".", "Denote", "by", "x", "i", ",", "j", "the", "j-th", "component", "of", "the", "data", "vector", "x", "i", ",", "then", "the", "j-th", "component", "w", "c", "j", "of", "w", "c", "-LRB-", "c", "=", "1", "-RRB-", "is", "given", "by", "w", "c", "j", "=", "log", "+", "i", ":", "y", "i", "=", "c", "x", "i", ",", "j", "d", "+", "d", "j", "=", "1", "i", ":", "y", "i", "=", "c", "x", "i", ",", "j", ",", "and", "c", "-LRB-", "c", "=", "1", "-RRB-", "is", "given", "by", "c", "=", "-", "log", "|", "-LCB-", "i", ":", "y", "i", "=", "c", "-RCB-", "|", "n", ".", "The", "parameter", ">", "0", "in", "the", "above", "formulation", "is", "a", "smoothing", "-LRB-", "regularization", "-RRB-", "parameter", ".", "-LSB-", "14", "-RSB-", "fixed", "to", "be", "1", ",", "which", "corresponds", "to", "the", "Laplacian", "smoothing", ".", "3.2.3", "Robust", "Risk", "Minimization", "Method", "Similar", "to", "naive", "Bayes", ",", "this", "method", "is", "also", "a", "linear", "prediction", "method", ".", "Given", "a", "linear", "model", "p", "-LRB-", "x", "-RRB-", "=", "w", "T", "x", "+", "b", ",", "we", "consider", "the", "following", "prediction", "rule", ":", "predict", "y", "=", "1", "if", "p", "-LRB-", "x", "-RRB-", "0", ",", "and", "predict", "y", "=", "-1", "otherwise", ".", "The", "classification", "error", "-LRB-", "we", "shall", "ignore", "the", "point", "p", "-LRB-", "x", "-RRB-", "=", "0", ",", "which", "is", "assumed", "to", "occur", "rarely", "-RRB-", "is", "I", "-LRB-", "p", "-LRB-", "x", "-RRB-", ",", "y", "-RRB-", "=", "1", "if", "p", "-LRB-", "x", "-RRB-", "y", "0", ",", "0", "if", "p", "-LRB-", "x", "-RRB-", "y", ">", "0", ".", "A", "very", "natural", "way", "to", "compute", "a", "linear", "classifier", "is", "by", "finding", "a", "weight", "-LRB-", "^", "w", ",", "^", "b", "-RRB-", "that", "minimizes", "the", "average", "classification", "error", "in", "the", "training", "set", ":", "-LRB-", "^", "w", ",", "^", "b", "-RRB-", "=", "arg", "min", "w", ",", "b", "1", "n", "n", "i", "=", "1", "I", "-LRB-", "w", "T", "x", "i", "+", "b", ",", "y", "i", "-RRB-", ".", "Unfortunately", "this", "problem", "is", "typically", "NP-hard", "computa-tionally", ".", "It", "is", "thus", "desirable", "to", "replace", "the", "classification", "error", "loss", "I", "-LRB-", "p", ",", "y", "-RRB-", "with", "another", "formulation", "that", "is", "computation-ally", "more", "desirable", ".", "Large", "margin", "methods", "such", "as", "SVM", "employ", "modified", "loss", "functions", "that", "are", "convex", ".", "Many", "loss", "functions", "work", "well", "for", "related", "classification", "problems", "such", "as", "text-categorization", "-LSB-", "24", ",", "10", "-RSB-", ".", "The", "specific", "loss", "function", "284", "consider", "here", "is", "h", "-LRB-", "p", ",", "y", "-RRB-", "=", "-2", "py", "py", "<", "-1", "1", "2", "-LRB-", "py", "-", "1", "-RRB-", "2", "py", "-LSB-", "-1", ",", "1", "-RSB-", "0", "py", ">", "1", ".", "That", "is", ",", "our", "linear", "weights", "are", "computed", "by", "minimizing", "the", "following", "average", "loss", "on", "the", "training", "data", ":", "-LRB-", "^", "w", ",", "^", "b", "-RRB-", "=", "arg", "min", "w", "1", "n", "n", "i", "=", "1", "h", "-LRB-", "w", "T", "x", "i", "+", "b", ",", "y", "i", "-RRB-", ".", "This", "method", ",", "which", "we", "refer", "to", "as", "RRM", "-LRB-", "robust", "risk", "minimization", "-RRB-", ",", "has", "been", "applied", "to", "linguistic", "processing", "-LSB-", "23", "-RSB-", "and", "text", "categorization", "-LSB-", "2", "-RSB-", "with", "good", "results", ".", "Detailed", "algorithm", "was", "introduced", "in", "-LSB-", "22", "-RSB-", ".", "We", "assume", "that", "named", "entities", "are", "extracted", "by", "a", "named", "entity", "recognition", "system", ".", "Many", "named", "entity", "recognition", "techniques", "have", "been", "reported", "in", "the", "literal", ",", "most", "of", "them", "use", "machine", "learning", "approach", ".", "An", "overview", "of", "these", "methods", "can", "be", "found", "in", "-LSB-", "19", "-RSB-", ".", "In", "our", "system", ",", "for", "the", "purpose", "of", "simplicity", ",", "we", "use", "human", "annotated", "named", "entities", "in", "the", "experiments", ".", "In", "the", "learning", "phase", ",", "each", "named", "entity", "is", "considered", "as", "an", "independent", "learning", "instance", ".", "Features", "must", "reflect", "properties", "of", "an", "individual", "named", "entity", ",", "such", "as", "its", "type", "and", "frequency", ",", "and", "various", "global", "statistical", "measures", "either", "at", "the", "document", "scale", "or", "at", "the", "corpus", "scale", ".", "This", "section", "describes", "features", "we", "have", "considered", "in", "our", "system", ",", "our", "motivations", ",", "and", "how", "their", "values", "are", "encoded", ".", "4.1", "Entity", "Type", "Four", "entity", "types", "are", "defined", ":", "person", ",", "organization", ",", "place", ",", "and", "proper", "nouns", ".", "The", "type", "of", "a", "named", "entity", "is", "a", "very", "useful", "feature", ".", "For", "example", ",", "person", "and", "organization", "are", "more", "likely", "to", "be", "the", "focus", "than", "a", "place", ".", "Each", "entity", "type", "corresponds", "to", "a", "binary", "feature-component", "in", "the", "feature", "vector", ",", "taking", "a", "value", "of", "either", "one", "or", "zero", ".", "For", "example", ",", "a", "person", "type", "is", "encoded", "as", "-LSB-", "1", "0", "0", "0", "-RSB-", ",", "and", "an", "organization", "type", "is", "encoded", "as", "-LSB-", "0", "1", "0", "0", "-RSB-", ".", "4.2", "In", "Title", "or", "Not", "Whether", "a", "named", "entity", "appears", "in", "the", "title", "or", "not", "is", "an", "important", "indicator", "of", "whether", "it", "is", "a", "focused", "entity", ".", "This", "is", "because", "title", "is", "a", "concise", "summary", "of", "what", "an", "article", "is", "about", ".", "The", "value", "of", "this", "feature", "is", "binary", "-LRB-", "0", "or", "1", "-RRB-", ".", "4.3", "Entity", "Frequency", "This", "feature", "is", "the", "number", "of", "times", "that", "the", "named", "entity", "occurs", "in", "the", "document", ".", "Generally", "speaking", ",", "the", "more", "frequent", "it", "occurs", ",", "the", "more", "important", "it", "is", ".", "The", "value", "of", "this", "feature", "is", "just", "the", "frequency", "of", "the", "named", "entity", ".", "4.4", "Entity", "Distribution", "This", "feature", "is", "somewhat", "complicated", ".", "The", "motivation", "is", "that", "if", "a", "named", "entity", "occurs", "in", "many", "different", "parts", "of", "a", "document", ",", "then", "it", "is", "more", "likely", "to", "be", "an", "important", "entity", ".", "Therefore", "we", "use", "the", "entropy", "of", "the", "probability", "distribution", "that", "measures", "how", "evenly", "an", "entity", "is", "distributed", "in", "a", "document", ".", "Consider", "a", "document", "which", "is", "divided", "into", "m", "sections", ".", "Suppose", "that", "each", "named", "entity", "'s", "probability", "distribution", "is", "given", "by", "-LCB-", "p", "1", ",", "...", ",", "p", "i", ",", "...", ",", "p", "m", "-RCB-", ",", "where", "p", "i", "=", "occurrence", "in", "ith", "section", "total", "occurrence", "in", "the", "doc", ".", "The", "entropy", "of", "the", "named", "entity", "distribution", "is", "computed", "by", "entropy", "=", "m", "i", "=", "1", "p", "i", "log", "p", "i", ".", "In", "our", "experiments", ",", "we", "select", "m", "=", "10", ".", "This", "feature", "contributes", "a", "real", "valued", "feature-component", "to", "the", "feature", "vector", ".", "4.5", "Entity", "Neighbor", "The", "context", "in", "which", "a", "certain", "named", "entity", "appears", "is", "quite", "useful", ".", "In", "this", "study", ",", "we", "only", "consider", "a", "simple", "feature", "which", "counts", "its", "left", "and", "right", "neighboring", "entity", "types", ".", "If", "several", "named", "entities", "of", "the", "same", "type", "are", "listed", "side", "by", "side", ",", "then", "it", "is", "likely", "that", "the", "purpose", "is", "for", "enumeration", ",", "and", "the", "listed", "named", "entities", "are", "not", "important", ".", "Each", "neighboring", "side", "has", "five", "possible", "types", "--", "four", "named", "entity", "types", "plus", "a", "normal-word", "-LRB-", "not", "a", "named", "entity", "-RRB-", "type", ".", "For", "example", ",", "consider", "a", "person", "mentioned", "three", "times", "in", "the", "document", ".", "Among", "the", "three", "mentions", ",", "the", "left", "neighbors", "are", "two", "person", "names", "and", "one", "common", "word", ",", "and", "the", "right", "neighbors", "are", "one", "place", "name", "and", "two", "common", "words", ".", "Then", "the", "entity", "neighbor", "feature", "components", "are", "-LSB-", "2", "0", "0", "0", "1", "0", "0", "1", "0", "2", "-RSB-", ".", "4.6", "First", "Sentence", "Occurrence", "This", "feature", "is", "inspired", "by", "the", "position", "method", "-LSB-", "3", ",", "12", "-RSB-", "in", "sentence", "extraction", ".", "Its", "value", "is", "the", "occurrences", "of", "the", "entity", "appearing", "in", "the", "beginning", "sentence", "of", "a", "paragraph", ".", "4.7", "Document", "Has", "Entity", "in", "Title", "or", "Not", "This", "feature", "indicates", "whether", "any", "entity", "exists", "in", "the", "title", "of", "the", "document", ",", "and", "thus", "takes", "binary", "value", "of", "0", "or", "1", ".", "4.8", "Total", "Entity", "Count", "This", "feature", "is", "the", "total", "number", "of", "entities", "in", "the", "document", ",", "which", "takes", "integer", "value", ".", "The", "feature", "reflects", "the", "relative", "importance", "of", "an", "entity", "in", "the", "entity", "set", ".", "4.9", "Document", "Frequency", "in", "the", "Corpus", "This", "is", "a", "corpus", "level", "feature", ".", "If", "a", "named", "entity", "has", "a", "low", "frequency", "in", "the", "document", "collection", ",", "but", "relatively", "high", "frequency", "in", "the", "current", "document", ",", "then", "it", "is", "likely", "to", "be", "a", "focused", "entity", ".", "When", "this", "feature", "is", "used", ",", "the", "term", "frequency", "feature", "in", "section", "4.3", "will", "be", "computed", "using", "-LRB-", "tf", "/", "docsize", "-RRB-", "log", "-LRB-", "N/df", "-RRB-", ",", "where", "df", "is", "the", "number", "of", "documents", "that", "a", "named", "entity", "occurs", "in", ".", "In", "this", "section", ",", "we", "study", "the", "following", "issues", ":", "corpus", "annotation", ",", "human-level", "agreement", "on", "focused", "named", "entities", ",", "performance", "of", "machine", "learning", "methods", "compared", "with", "a", "baseline", ",", "influence", "of", "different", "features", ",", "and", "the", "impact", "of", "coreference", "module", "to", "the", "overall", "performance", ".", "5.1", "Corpus", "Annotation", "We", "select", "fifteen", "days", "of", "Beijing", "Youth", "Daily", "news", "in", "November", "2001", "as", "our", "testing", "corpus", ",", "which", "contains", "1,325", "articles", ".", "The", "text", ",", "downloaded", "from", "http://bjyouth.ynet.com", ",", "is", "in", "Chinese", ".", "The", "articles", "belong", "to", "a", "variety", "of", "categories", ",", "including", "politics", ",", "economy", ",", "laws", ",", "education", ",", "science", ",", "entertainments", ",", "and", "sports", ".", "Since", "different", "people", "may", "have", "different", "opinions", "on", "the", "focused", "named", "entities", ",", "a", "common", "set", "of", "rules", "should", "be", "agreed", "upon", "before", "the", "whole", "corpus", "is", "to", "be", "annotated", ".", "We", "use", "the", "following", "method", "to", "come", "up", "with", "a", "general", "guideline", "for", "annotating", "focused", "named", "entities", ".", "285", "First", ",", "the", "named", "entities", "in", "each", "document", "were", "annotated", "by", "human", ".", "Then", ",", "we", "selected", "twenty", "documents", "from", "the", "corpus", "and", "invited", "twelve", "people", "to", "mark", "focused", "named", "entities", ".", "Nine", "of", "the", "twelve", "people", "are", "experts", "in", "natural", "language", "processing", ",", "so", "their", "opinions", "are", "very", "valuable", "to", "define", "focused", "named", "entities", ".", "Based", "on", "the", "survey", "result", ",", "entities", "marked", "by", "more", "than", "half", "of", "the", "survey", "participants", "were", "defined", "as", "focused", "named", "entities", ".", "We", "obtained", "fifty", "focused", "named", "entities", "for", "the", "twenty", "articles", ".", "By", "studying", "the", "focused", "named", "entities", "in", "those", "articles", ",", "we", "were", "able", "to", "design", "specifications", "for", "focused", "named", "entity", "annotation", ".", "The", "whole", "corpus", "was", "then", "marked", "according", "to", "the", "specifications", ".", "5.2", "Human", "Agreement", "Statistics", "In", "our", "survey", ",", "fifty", "entities", "were", "identified", "as", "focused", "entities", "from", "the", "total", "number", "of", "341", "entities", "in", "the", "20", "documents", ".", "Table", "2", "shows", ",", "among", "the", "50", "focused", "entities", ",", "5", "entities", "are", "agreed", "as", "focus", "by", "all", "12", "persons", ",", "and", "7", "entities", "are", "agreed", "by", "11", "persons", ",", "etc.", ".", "Table", "2", ":", "Human", "agreement", "statistics", "num", "of", "focused", "named", "entities", "5", "7", "5", "8", "7", "10", "8", "num", "of", "person", "agreeing", "12", "11", "10", "9", "8", "7", "6", "Let", "N", "k", "denotes", "the", "number", "of", "person", "with", "agreement", "on", "focused", "named", "entity", "k", ",", "then", "the", "human", "agreement", "level", "Agree", "k", "on", "the", "k-th", "focused", "named", "entity", "is", "Agree", "k", "=", "N", "k", "12", ".", "The", "average", "agreement", "on", "the", "50", "focused", "named", "entities", "is", "Average", "Agree", "=", "50", "k", "=", "1", "Agree", "k", "50", "=", "72.17", "%", ",", "with", "variance", "2.65", "%", ".", "We", "also", "computed", "the", "precision", "and", "the", "recall", "for", "the", "survey", "participants", "with", "respect", "to", "the", "fifty", "focused", "named", "entities", ".", "Table", "3", "shows", "that", "the", "best", "human", "annotator", "achieves", "an", "F", "1", "measure", "of", "81.32", "%", ".", "Some", "of", "the", "participants", "marked", "either", "too", "many", "or", "too", "few", "named", "entities", ",", "and", "thus", "had", "much", "lower", "performance", "numbers", ".", "This", "problem", "was", "fixed", "when", "the", "whole", "corpus", "was", "annotated", "using", "specifications", "induced", "from", "this", "small-scale", "experiment", ".", "Table", "3", ":", "Human", "annotation", "performance", "user", "id", "precision", "recall", "F", "1", "1", "90.24", "74.00", "81.32", "2", "86.05", "74.00", "79.57", "3", "83.33", "70.00", "76.09", "4", "84.21", "64.00", "72.73", "5", "96.55", "56.00", "70.89", "6", "90.63", "58.00", "70.73", "7", "71.74", "66.00", "68.75", "8", "73.81", "62.00", "67.39", "9", "57.14", "80.00", "66.67", "10", "48.19", "80.00", "60.15", "11", "38.60", "88.00", "53.66", "12", "33.33", "94.00", "49.21", "5.3", "Corpus", "Named", "Entity", "Statistics", "We", "consider", "two", "data", "sets", "in", "our", "experiments", ":", "one", "is", "the", "whole", "corpus", "of", "1,325", "articles", ",", "and", "the", "other", "is", "a", "subset", "of", "726", "articles", "with", "named", "entities", "in", "their", "titles", ".", "Table", "4", "shows", "there", "are", "totally", "3,001", "focused", "entities", "among", "18,371", "entities", "in", "the", "whole", "corpus", ",", "which", "means", "that", "16.34", "percent", "of", "the", "entities", "are", "marked", "as", "focused", ".", "On", "average", ",", "there", "are", "2.26", "focused", "named", "entities", "for", "each", "article", ",", "which", "is", "consistent", "with", "the", "small-scale", "survey", "result", ".", "Table", "4", ":", "Corpus", "statistics", "on", "named", "entities", "set", "docnum", "entities", "focuses", "focus", "percent", "focus/doc", "1", "1,325", "18,371", "3,001", "16.34", "%", "2.26", "2", "726", "10,697", "1,669", "15.60", "%", "2.30", "5.4", "Baseline", "Results", "Since", "named", "entities", "in", "title", "or", "with", "high", "frequency", "are", "more", "likely", "to", "be", "the", "focal", "entities", ",", "we", "consider", "three", "baseline", "methods", ".", "The", "first", "method", "marks", "entities", "in", "titles", "to", "be", "the", "foci", ";", "the", "second", "method", "marks", "most", "frequent", "entities", "in", "each", "article", "to", "be", "the", "focal", "entities", ";", "the", "third", "method", "is", "a", "combination", "of", "the", "above", "two", ",", "which", "selects", "those", "entities", "either", "in", "title", "or", "occurring", "most", "frequently", ".", "We", "use", "partial", "string", "matching", "for", "coreference", "resolution", "in", "the", "three", "baseline", "experiments", ".", "Named", "entities", "occurring", "in", "the", "title", "are", "more", "likely", "to", "be", "the", "focus", "of", "the", "document", ",", "but", "they", "only", "represent", "a", "small", "portion", "of", "all", "focal", "entities", ".", "Baseline", "experiment", "1", "shows", "the", "precision", "of", "this", "method", "is", "quite", "high", "but", "the", "recall", "is", "very", "low", ".", "Baseline", "experiment", "2", "implies", "that", "most", "of", "the", "top", "1", "named", "entities", "are", "focused", "entities", ",", "but", "again", "the", "recall", "is", "very", "low", ".", "However", ",", "if", "more", "named", "entities", "are", "selected", ",", "the", "precision", "is", "decreased", "significantly", ",", "so", "that", "the", "F", "1", "measure", "does", "not", "improve", ".", "The", "top-3", "performance", "is", "the", "worst", ",", "with", "an", "F", "1", "measure", "of", "only", "50.47", "%", ".", "Note", "that", "several", "named", "entities", "may", "have", "the", "same", "occurrence", "frequency", "in", "one", "document", ",", "which", "introduces", "uncertainty", "into", "the", "method", ".", "By", "combining", "named", "entities", "from", "the", "title", "and", "with", "high", "frequency", ",", "we", "obtain", "better", "results", "than", "either", "of", "the", "two", "basic", "baseline", "methods", ".", "The", "best", "performance", "is", "achieved", "by", "combining", "the", "in-title", "and", "top", "1", "named", "entities", ",", "which", "achieves", "F", "1", "measures", "of", "66.68", "%", "for", "data", "set", "1", ",", "and", "70.51", "%", "for", "data", "set", "2", ".", "5.5", "Machine", "Learning", "Results", "Since", "in", "our", "implementation", ",", "decision", "tree", "and", "naive", "Bayes", "methods", "only", "take", "integer", "features", ",", "we", "encode", "the", "floating", "features", "to", "integer", "values", "using", "a", "simple", "equal", "interval", "binning", "method", ".", "If", "a", "feature", "x", "is", "observed", "to", "have", "values", "bounded", "by", "x", "min", "and", "x", "max", ",", "then", "the", "bin", "width", "is", "computed", "by", "=", "x", "max", "-", "x", "min", "k", "and", "the", "bin", "boundaries", "are", "at", "x", "min", "+", "i", "where", "i", "=", "1", ",", "...", ",", "k", "-", "1", ".", "The", "method", "is", "applied", "to", "each", "continuous", "feature", "independently", "and", "k", "is", "set", "to", "10", ".", "Although", "more", "sophisticated", "discretization", "methods", "exist", ",", "the", "equal", "interval", "binning", "method", "performs", "quite", "well", "in", "practice", ".", "Machine", "learning", "results", "are", "obtained", "from", "five-fold", "cross-validation", ".", "Coreference", "resolution", "is", "done", "with", "partial", "string-matching", ".", "The", "test", "results", "are", "reported", "in", "Table", "6", ".", "This", "experiment", "shows", "that", "good", "performance", "can", "be", "achieved", "by", "using", "machine", "learning", "techniques", ".", "The", "RRM", "performance", "on", "both", "data", "sets", "are", "significantly", "better", "than", "the", "base", "line", "results", ",", "and", "comparable", "to", "that", "of", "the", "best", "human", "annotator", "we", "observed", "from", "our", "small-scale", "experiment", "in", "Section", "5.2", ".", "286", "Table", "5", ":", "Baseline", "results", "Corpus", "Method", "Focuses", "focus/doc", "Precision", "Recall", "F", "1", "726docs", "title", "992", "1.36", "83.47", "49.61", "62.23", "1,325", "docs", "top1", "1,580", "1.19", "88.54", "46.62", "61.08", "top2", "4,194", "3.17", "54.48", "76.14", "63.52", "top3", "7,658", "5.78", "35.13", "89.64", "50.47", "726docs", "title", "+", "top1", "1,247", "1.72", "82.44", "61.59", "70.51", "title", "+", "top2", "2,338", "3.22", "56.93", "79.75", "66.43", "title", "+", "top3", "4,165", "5.74", "36.06", "89.99", "51.49", "1,325", "docs", "title", "+", "top1", "2,011", "1.52", "83.09", "55.68", "66.68", "title", "+", "top2", "4,388", "3.31", "53.78", "78.64", "63.88", "title", "+", "top3", "7,738", "5.84", "34.94", "90.10", "50.36", "Table", "6", ":", "Machine", "learning", "results", "Dataset", "RRM", "Decision", "Tree", "Naive", "Bayes", "P", "R", "F", "1", "P", "R", "F", "1", "P", "R", "F", "1", "726", "docs", "88.51", "80.54", "84.27", "87.29", "78.02", "82.37", "69.32", "90.28", "78.37", "1,325", "docs", "84.70", "78.23", "81.32", "83.83", "74.61", "78.89", "69.14", "89.08", "77.82", "5.6", "Influence", "of", "Features", "The", "goal", "of", "this", "section", "is", "to", "study", "the", "impact", "of", "different", "features", "with", "different", "algorithms", ".", "Results", "are", "reported", "in", "Table", "7", ".", "Feature", "id", "corresponds", "to", "the", "feature", "subsection", "number", "in", "section", "4", ".", "Experiment", "A", "uses", "frequency-based", "features", "only", ".", "It", "is", "quite", "similar", "to", "the", "bag-of-word", "document", "model", "for", "text", "categorization", ",", "with", "the", "entity-frequency", "and", "in-title", "information", ".", "By", "adding", "more", "sophisticated", "document-level", "features", ",", "the", "performance", "can", "be", "significantly", "improved", ".", "For", "the", "RRM", "method", ",", "F", "1", "finally", "reaches", "81.32", "%", ".", "It", "is", "interesting", "to", "observe", "that", "the", "corpus-level", "feature", "-LRB-", "experiment", "F", "versus", "G", "-RRB-", "has", "different", "impacts", "on", "the", "three", "algorithms", ".", "It", "is", "a", "good", "feature", "for", "naive", "Bayes", ",", "but", "not", "for", "the", "RRM", "and", "decision", "tree", ".", "Whether", "corpus-level", "features", "can", "appreciably", "enhance", "the", "classification", "performance", "requires", "more", "careful", "investigation", ".", "The", "experiments", "also", "indicate", "that", "the", "three", "learning", "algorithms", "do", "not", "perform", "equally", "well", ".", "RRM", "appears", "to", "have", "the", "best", "overall", "performance", ".", "The", "naive", "Bayes", "method", "requires", "all", "features", "to", "be", "independent", ",", "which", "is", "a", "quite", "unreal-istic", "assumption", "in", "practice", ".", "The", "main", "problem", "for", "decision", "tree", "is", "that", "it", "easily", "fragments", "the", "data", ",", "so", "that", "the", "probability", "estimate", "at", "the", "leaf-nodes", "become", "unreliable", ".", "This", "is", "also", "the", "reason", "why", "voted", "decision", "trees", "-LRB-", "using", "procedures", "like", "boosting", "or", "bagging", "-RRB-", "perform", "better", ".", "The", "decision", "tree", "can", "find", "rules", "readable", "by", "a", "human", ".", "For", "example", ",", "one", "such", "rule", "reads", "as", ":", "if", "a", "named", "entities", "appears", "at", "least", "twice", ",", "its", "left", "and", "right", "neighbors", "are", "normal", "words", ",", "its", "discrete", "distribution", "entropy", "is", "greater", "than", "2", ",", "and", "the", "entity", "appears", "in", "the", "title", ",", "then", "the", "probability", "of", "it", "being", "a", "focused", "entity", "is", "0.87", ".", "5.7", "Coreference", "Resolution", "In", "order", "to", "understand", "the", "impact", "of", "coreference", "resolution", "on", "the", "performance", "of", "focused", "named", "entity", "recognition", ",", "we", "did", "the", "same", "set", "of", "experiments", "as", "in", "section", "5.5", ",", "but", "with", "exact", "string", "matching", "only", "for", "coreference", "resolution", "in", "the", "feature", "extraction", "process", ".", "Table", "8", "reports", "the", "five-fold", "cross", "validation", "results", ".", "On", "average", "the", "performance", "is", "decreased", "by", "about", "3", "to", "5", "percent", ".", "This", "means", "coreference", "resolution", "plays", "an", "important", "role", "in", "the", "task", ".", "The", "reason", "is", "that", "it", "maps", "variations", "of", "a", "named", "entity", "into", "a", "single", "group", ",", "so", "that", "features", "such", "as", "occurrence", "frequency", "and", "entity", "distribution", "can", "be", "estimated", "more", "reliably", ".", "We", "believe", "that", "with", "more", "sophisticated", "analysis", "such", "as", "pronominal", "coreference", "resolution", ",", "the", "classification", "performance", "can", "be", "further", "improved", "In", "this", "paper", ",", "we", "studied", "the", "problem", "of", "focused", "named", "entity", "recognition", ".", "We", "gave", "examples", "to", "illustrate", "that", "focused", "named", "entities", "are", "useful", "for", "many", "natural", "language", "processing", "applications", ".", "The", "task", "can", "be", "converted", "into", "a", "binary", "classification", "problem", ".", "We", "focused", "on", "designing", "linguistic", "features", ",", "and", "compared", "the", "performance", "of", "three", "machine", "learning", "algorithms", ".", "Our", "results", "show", "that", "the", "machine", "learning", "approach", "can", "achieve", "near", "human-level", "accuracy", ".", "Because", "our", "system", "is", "trainable", "and", "features", "we", "use", "are", "language", "independent", ",", "it", "is", "easy", "for", "us", "to", "build", "a", "similar", "classification", "model", "for", "other", "languages", ".", "Our", "method", "can", "also", "be", "generalized", "to", "related", "tasks", "such", "as", "finding", "important", "words", "and", "noun-phrases", "in", "a", "document", ".", "In", "the", "future", ",", "we", "will", "integrate", "focused", "named", "entity", "recognition", "into", "real", "applications", ",", "such", "as", "information", "retrieval", ",", "automatic", "summarization", ",", "and", "topic", "detection", "and", "tracking", ",", "so", "that", "we", "can", "further", "study", "and", "evaluate", "its", "influences", "to", "these", "systems", ".", "We", "thank", "Honglei", "Guo", "for", "providing", "the", "original", "corpus", "with", "named", "entity", "annotation", ".", "Jianmin", "Jiang", "helped", "us", "to", "set", "up", "named", "entity", "annotation", "server", ",", "which", "made", "it", "much", "easier", "to", "view", "and", "annotate", "the", "corpus", ".", "We", "thank", "Zhaoming", "Qiu", ",", "Shixia", "Liu", ",", "Zhili", "Guo", "for", "their", "valuable", "comments", "on", "the", "experiments", ".", "We", "are", "also", "grateful", "to", "our", "colleagues", "who", "spent", "their", "time", "to", "participate", "in", "the", "focused", "named", "entity", "survey", ".", "-LSB-", "1", "-RSB-", "R.", "Barzilay", "and", "M.", "Elhadad", ".", "Using", "lexical", "chains", "for", "text", "summarization", ".", "In", "Proceedings", "of", "the", "ACL", "287", "Table", "7", ":", "Performance", "of", "different", "features", "with", "different", "algorithms", "ID", "Features", "RRM", "Decision", "Tree", "Naive", "Bayes", "P", "R", "F", "1", "P", "R", "F", "1", "P", "R", "F", "1", "A", "2", "+3", "+7", "79.11", "20.86", "32.96", "77.48", "61.81", "68.70", "96.39", "33.47", "49.67", "B", "1", "+2", "+3", "71.95", "82.08", "76.60", "71.06", "72.31", "71.23", "93.29", "42.91", "58.76", "C", "1", "+2", "+3", "+7", "73.32", "0.8143", "76.87", "70.90", "78.63", "74.54", "92.58", "48.65", "63.74", "D", "1", "+2", "+3", "+7", "+5", "70.60", "84.99", "76.98", "74.42", "75.85", "75.09", "85.44", "61.96", "71.71", "E", "1", "+2", "+3", "+7", "+5", "+8", "86.15", "75.89", "80.68", "74.42", "75.85", "75.09", "66.56", "86.14", "75.07", "F", "1", "+2", "+", "+7", "+8", "85.98", "77.37", "81.44", "79.62", "78.30", "78.92", "66.40", "89.44", "76.19", "G", "1", "+2", "+", "+8", "+9", "84.70", "78.23", "81.32", "83.83", "74.61", "78.89", "69.14", "89.08", "77.82", "Table", "8", ":", "Machine", "learning", "test", "result", "with", "exact", "string-matching", "for", "coreference", "resolution", "data", "set", "RRM", "Decision", "Tree", "Naive", "Bayes", "P", "R", "F", "1", "P", "R", "F", "1", "P", "R", "F", "1", "726", "docs", "84.43", "75.21", "79.49", "83.13", "73.68", "78.10", "67.85", "85.64", "75.64", "1,325", "docs", "81.67", "72.60", "76.74", "79.60", "70.45", "74.69", "66.77", "83.56", "74.20", "Intelligent", "Scalable", "Text", "Summarization", "Workshop", "-LRB-", "ISTS", "'", "97", "-RRB-", ",", "pages", "10", "17", ",", "1997", ".", "-LSB-", "2", "-RSB-", "F.", "J.", "Damerau", ",", "T.", "Zhang", ",", "S.", "M.", "Weiss", ",", "and", "N.", "Indurkhya", ".", "Text", "categorization", "for", "a", "comprehensive", "time-dependent", "benchmark", ".", "Information", "Processing", "&", "Management", ",", "40", "-LRB-", "2", "-RRB-", ":", "209", "221", ",", "2004", ".", "-LSB-", "3", "-RSB-", "H.", "P.", "Edmundson", ".", "New", "methods", "in", "automatic", "abstracting", ".", "Journal", "of", "The", "Association", "for", "Computing", "Machinery", ",", "16", "-LRB-", "2", "-RRB-", ":", "264", "285", ",", "1969", ".", "-LSB-", "4", "-RSB-", "J.", "Y.", "Ge", ",", "X.", "J.", "Huang", ",", "and", "L.", "Wu", ".", "Approaches", "to", "event-focused", "summarization", "based", "on", "named", "entities", "and", "query", "words", ".", "In", "DUC", "2003", "Workshop", "on", "Text", "Summarization", ",", "2003", ".", "-LSB-", "5", "-RSB-", "E.", "Hovy", "and", "C.-Y", ".", "Lin", ".", "Automated", "text", "summarization", "in", "summarist", ".", "In", "I.", "Mani", "and", "M.", "Maybury", ",", "editors", ",", "Advances", "in", "Automated", "Text", "Summarization", ",", "pages", "81", "94", ".", "MIT", "Press", ",", "1999", ".", "-LSB-", "6", "-RSB-", "D.", "E.", "Johnson", ",", "F.", "J.", "Oles", ",", "T.", "Zhang", ",", "and", "T.", "Goetz", ".", "A", "decision-tree-based", "symbolic", "rule", "induction", "system", "for", "text", "categorization", ".", "IBM", "Systems", "Journal", ",", "41:428", "437", ",", "2002", ".", "-LSB-", "7", "-RSB-", "M.-Y", ".", "Kan", "and", "K.", "R.", "McKeown", ".", "Information", "extraction", "and", "summarization", ":", "domain", "independence", "through", "focus", "types", ".", "Columbia", "University", "Computer", "Science", "Technical", "Report", "CUCS-030-99", ".", "-LSB-", "8", "-RSB-", "J.", "M.", "Kupiec", ",", "J.", "Pedersen", ",", "and", "F.", "Chen", ".", "A", "trainable", "document", "summarizer", ".", "In", "SIGIR", "'", "95", ",", "pages", "68", "73", ",", "1995", ".", "-LSB-", "9", "-RSB-", "D.", "Lawrie", ",", "W.", "B.", "Croft", ",", "and", "A.", "Rosenberg", ".", "Finding", "topic", "words", "for", "hierarchical", "summarization", ".", "In", "SIGIR", "'", "01", ",", "pages", "349", "357", ",", "2001", ".", "-LSB-", "10", "-RSB-", "F.", "Li", "and", "Y.", "Yang", ".", "A", "loss", "function", "analysis", "for", "classification", "methods", "in", "text", "categorization", ".", "In", "ICML", "03", ",", "pages", "472", "479", ",", "2003", ".", "-LSB-", "11", "-RSB-", "C.-Y", ".", "Lin", ".", "Training", "a", "selection", "function", "for", "extraction", ".", "In", "CIKM", "'", "99", ",", "pages", "1", "8", ",", "1999", ".", "-LSB-", "12", "-RSB-", "C.-Y", ".", "Lin", "and", "E.", "Hovy", ".", "Identifying", "topics", "by", "position", ".", "In", "Proceedings", "of", "the", "Applied", "Natural", "Language", "Processing", "Conference", "-LRB-", "ANLP-97", "-RRB-", ",", "pages", "283", "290", ",", "1997", ".", "-LSB-", "13", "-RSB-", "D.", "Marcu", ".", "From", "discourse", "structures", "to", "text", "summaries", ".", "In", "Proceedings", "of", "the", "ACL", "'", "97/EACL", "'97", "Workshop", "on", "Intelligent", "Scalable", "Text", "Summarization", ",", "pages", "82", "88", ".", "ACL", ",", "1997", ".", "-LSB-", "14", "-RSB-", "A.", "McCallum", "and", "K.", "Nigam", ".", "A", "comparison", "of", "event", "models", "for", "naive", "bayes", "text", "classification", ".", "In", "AAAI/ICML", "-98", "Workshop", "on", "Learning", "for", "Text", "Categorization", ",", "pages", "41", "48", ",", "1998", ".", "-LSB-", "15", "-RSB-", "J.", "L.", "Neto", ",", "A.", "Santos", ",", "C.", "Kaestner", ",", "A.", "Freitas", ",", "and", "J.", "Nievola", ".", "A", "trainable", "algorithm", "for", "summarizing", "news", "stories", ".", "In", "Proceedings", "of", "PKDD", "'", "2000", "Workshop", "on", "Machine", "Learning", "and", "Textual", "Information", "Access", ",", "September", "2000", ".", "-LSB-", "16", "-RSB-", "C.", "Nobata", ",", "S.", "Sekine", ",", "H.", "Isahara", ",", "and", "R.", "Grishman", ".", "Summarization", "system", "integrated", "with", "named", "entity", "tagging", "and", "ie", "pattern", "discovery", ".", "In", "Proceedings", "of", "Third", "International", "Conference", "on", "Language", "Resources", "and", "Evaluation", "-LRB-", "LREC", "2002", "-RRB-", ",", "2002", ".", "-LSB-", "17", "-RSB-", "C.", "D.", "Paice", "and", "P.", "A.", "Jones", ".", "The", "identification", "of", "important", "concepts", "in", "highly", "structured", "technical", "papers", ".", "In", "SIGIR", "'", "93", ",", "pages", "69", "78", ".", "ACM", ",", "1993", ".", "-LSB-", "18", "-RSB-", "J.", "R.", "Quinlan", ".", "C4", ".5", ":", "Programs", "for", "Machine", "Learning", ".", "Morgan", "Kaufmann", ",", "1993", ".", "-LSB-", "19", "-RSB-", "E.", "F.", "T.", "K.", "Sang", "and", "F.", "D.", "Meulder", ".", "Introduction", "to", "the", "conll-2003", "shared", "task", ":", "Language-independent", "named", "entity", "recognition", ".", "In", "Proceedings", "of", "CoNLL-2003", ",", "pages", "142", "147", ",", "2003", ".", "-LSB-", "20", "-RSB-", "W.-M", ".", "Soon", ",", "H.-T", ".", "Ng", ",", "and", "C.-Y", ".", "Lim", ".", "A", "machine", "learning", "approach", "to", "coreference", "resolution", "of", "noun", "phrases", ".", "Computational", "Linguistics", ",", "27", "-LRB-", "4", "-RRB-", ":", "521", "544", ",", "2001", ".", "-LSB-", "21", "-RSB-", "S.", "Teufel", "and", "M.", "Moens", ".", "Sentence", "extraction", "as", "a", "classification", "task", ".", "In", "ACL/EACL", "-97", "Workshop", "on", "Intelligent", "and", "Scalable", "Text", "Summarization", ",", "1997", ".", "-LSB-", "22", "-RSB-", "T.", "Zhang", ".", "On", "the", "dual", "formulation", "of", "regularized", "linear", "systems", ".", "Machine", "Learning", ",", "46:91", "129", ",", "2002", ".", "-LSB-", "23", "-RSB-", "T.", "Zhang", ",", "F.", "Damerau", ",", "and", "D.", "E.", "Johnson", ".", "Text", "chunking", "based", "on", "a", "generalization", "of", "Winnow", ".", "Journal", "of", "Machine", "Learning", "Research", ",", "2:615", "637", ",", "2002", ".", "-LSB-", "24", "-RSB-", "T.", "Zhang", "and", "F.", "J.", "Oles", ".", "Text", "categorization", "based", "on", "regularized", "linear", "classification", "methods", ".", "Information", "Retrieval", ",", "4:5", "31", ",", "2001", ".", "288"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["electronic documents", "naive bayes", "statistical model", "entity recognition", "natural language processing", "classification methods", "features", "text summarization", "machine learning approach", "machine learning", "decision tree", "summarization", "information retrieval", "sentence extraction", "robust risk minimization", "named entities", "ranking", "classification model", "main topics"], "abstractive_keyphrases": ["topic identification", "linguistic features", "natural language processing applications", "automatic summarization", "focused named entity recognition"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "79", "document": ["Efficient", "retrieval", "of", "similar", "shapes", "We", "propose", "an", "indexing", "technique", "for", "the", "fast", "retrieval", "of", "objects", "in", "2D", "images", "basedon", "similarity", "between", "their", "boundary", "shapes", ".", "Our", "technique", "is", "robust", "in", "the", "presence", "of", "noise", "andsupports", "several", "important", "notions", "of", "similarity", "including", "optimal", "matches", "irrespective", "of", "variations", "in", "orientation", "and/or", "position", ".", "Our", "method", "can", "also", "handle", "size-invariant", "matches", "using", "a", "normalization", "technique", ",", "although", "optimality", "is", "not", "guaranteedhere", ".", "We", "implementedour", "method", "and", "performed", "experiments", "on", "real", "-LRB-", "hand-written", "digits", "-RRB-", "data", ".", "Our", "experimental", "results", "showedthe", "superiority", "of", "our", "method", "comparedto", "search", "basedon", "sequential", "scanning", ",", "which", "is", "the", "only", "obvious", "competitor", ".", "The", "performance", "gain", "of", "our", "method", "increases", "with", "any", "increase", "in", "the", "number", "or", "the", "size", "of", "shapes", ".", "There", "is", "an", "increasing", "interest", "in", "storing", "andretrieving", "non-textual", "objects", "in", "databases", ".", "For", "example", ",", "this", "kind", "of", "data", "can", "be", "storedin", "the", "form", "of", "extenders", "in", "DB2", ",", "DataBlades", "in", "In-formix", ",", "and", "cartridges", "in", "Oracle", ".", "Non-textual", "objects", "are", "frequently", "in", "the", "form", "of", "images", "or", "shapes", ".", "In", "cases", "where", "the", "key", "information", "for", "description", "or", "classification", "of", "an", "object", "can", "be", "found", "in", "its", "boundary", ",", "it", "is", "natural", "to", "store", "only", "the", "boundary", "anddo", "retrieval", "basedon", "that", ".", "Among", "the", "areas", "of", "applications", "for", "boundary", "shape", "matching", "are", "industrial", "inspection", ",", "object", "recognition", "in", "satellite", "images", ",", "character", "recognition", ",", "classification", "of", "chromosomes", ",", "andtarget", "recognition", ".", "For", "example", ",", "consider", "the", "following", "query", ":", "Query", "1", "Findall", "shapes", "similar", "to", "a", "given", "shape", ".", "A", "basic", "question", "here", "is", "how", "we", "judge", "whether", "two", "shapes", "-LRB-", "for", "example", "the", "two", "shown", "in", "Fig.", "1", "-RRB-", "are", "similar", ".", "There", "is", "a", "large", "body", "of", "work", "in", "the", "area", "of", "pattern", "recognition", "and", "computer", "vision", "on", "extracting", "boundary", "features", "of", "a", "shape", "and", "doing", "shape", "matching", "based", "on", "those", "features", ".", "The", "boundary", "of", "an", "object", "can", "be", "described", "in", "terms", "of", "simple", "descriptors", "such", "as", "length", ",", "diameter", ",", "and", "curvature", "-LRB-", "-LSB-", "MM86", "-RSB-", "-RRB-", ",", "chain", "Fig.", "1", ".", "Two", "shape", "boundaries", "both", "representing", "character", "`", "9", "'", "codes", "-LRB-", "-LSB-", "BG80", ",", "Bri81", "-RSB-", "-RRB-", ",", "Fourier", "descriptors", "-LRB-", "-LSB-", "PF77", ",", "ZR72", "-RSB-", "-RRB-", "or", "moments", "-LRB-", "-LSB-", "BSA91", "-RSB-", "-RRB-", ".", "Among", "these", "features", ",", "we", "use", "Fourier", "descriptors", "as", "our", "shape", "features", ".", "Theoretical", "andexperimen-tal", "evidence", "in", "favor", "of", "Fourier", "descriptors", "can", "be", "found", "in", "the", "literature", "-LSB-", "PF77", ",", "KSP95", "-RSB-", ".", "Similar", "shapes", "often", "have", "differences", "in", "size", "and", "orientation", ".", "For", "example", ",", "consider", "the", "two", "shapes", "shown", "in", "Fig.", "1", ".", "The", "Euclidean", "distance", "between", "their", "Fourier", "descriptors", "is", "22.88", ".", "If", "we", "rotate", "the", "shape", "on", "the", "right", "by", "30", "in", "the", "clockwise", "-LRB-", "cw", "-RRB-", "direction", ",", "the", "Euclidean", "distance", "between", "their", "Fourier", "descriptors", "drops", "to", "zero", ".", "A", "simple", "approach", "to", "remove", "differences", "due", "to", "shifting", ",", "scaling", ",", "and", "rotation", "is", "to", "normalize", "Fourier", "descriptors", "before", "storing", "them", "in", "a", "database", ".", "However", ",", "there", "are", "still", "two", "problems", "with", "normalization", ".", "First", ",", "normalization", "is", "not", "guaranteedto", "minimize", "the", "distance", "between", "two", "arbitrary", "shapes", ".", "Second", ",", "normalization", "is", "not", "always", "desirable", ";", "for", "example", ",", "the", "shapes", "`", "9", "'", "and", "`", "6", "'", "shouldnot", "be", "treatedas", "similar", "if", "we", "are", "doing", "character", "recognition", ".", "A", "solution", "is", "to", "rewrite", "the", "query", "as", "follows", ":", "Query", "2", "Findall", "shapes", "that", "become", "similar", "to", "a", "given", "shape", "after", "being", "rotatedby", "-LSB-", "-30", ",", "30", "-RSB-", ".", "If", "our", "shape", "collection", "includes", ",", "for", "example", ",", "shapes", "of", "airplanes", ",", "we", "may", "write", "our", "query", "insteadas", "follows", ":", "Query", "3", "Findall", "shapes", "similar", "to", "a", "given", "shape", "irrespective", "of", "rotation", ".", "In", "this", "paper", ",", "we", "study", "the", "issue", "of", "efficiently", "processing", "these", "queries", ".", "We", "show", "how", "to", "organize", "Fourier", "descriptors", "in", "a", "multidimensional", "index", ",", "and", "how", "to", "efficiently", "use", "the", "index", "18", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "in", "processing", "a", "broadrange", "of", "similarity", "queries", ".", "Our", "goal", "is", "to", "develop", "an", "access", "method", "that", "can", "handle", "shapes", "of", "various", "sizes", "andorientations", ",", "is", "much", "faster", "than", "sequential", "scanning", ",", "and", "does", "not", "miss", "any", "qualifying", "data", "objects", "in", "the", "answers", "-LRB-", "false", "positives", "are", "acceptable", "if", "they", "can", "be", "eliminatedin", "a", "post-processing", "step", "without", "much", "performance", "degradation", "-RRB-", ".", "The", "organization", "of", "the", "rest", "of", "the", "paper", "is", "as", "follows", ".", "Section", "2", "provides", "some", "backgroundmaterial", "on", "relatedwork", ",", "shape", "representation", "using", "Fourier", "descriptors", "and", "shape", "matching", ".", "In", "Sect.", "3", ",", "we", "propose", "our", "technique", "for", "indexing", "shapes", "andprocessing", "similarity", "queries", ".", "Section", "4", "presents", "experimental", "results", ".", "We", "conclude", "in", "Sect.", "5", ".", "2.1", "Related", "work", "The", "following", "relevant", "methods", "for", "multidimensional", "indexing", "andsearch", "have", "been", "proposed", ":", "Jagadish", "-LSB-", "Jag91", "-RSB-", "proposes", "a", "technique", "for", "storing", "and", "retrieving", "shape", "descriptions", "in", "a", "multidimensional", "index", ".", "He", "maps", "shapes", "into", "their", "constituent", "rectangles", ",", "keeps", "a", "few", "larger", "rectangles", "in", "a", "multidimensional", "index", ",", "and", "uses", "the", "area", "difference", "between", "the", "constituent", "rectangles", "of", "shapes", "as", "a", "measure", "of", "similarity", ".", "Due", "to", "a", "normalization", "process", ",", "the", "shape", "description", "is", "invariant", "under", "translation", "and", "scaling", ".", "A", "problem", "with", "this", "approach", "is", "that", "a", "shape", "can", "be", "normally", "coveredby", "multiple", "sets", "of", "rectangles", ".", "This", "can", "leadto", "ambiguity", "or", "storing", "multiple", "representations", "of", "the", "same", "shape", ".", "Furthermore", ",", "it", "is", "not", "possible", "to", "do", "matching", "in", "the", "presence", "of", "rotation", ";", "for", "example", ",", "two", "identical", "shapes", "may", "not", "match", "if", "one", "is", "rotatedby", "45", ".", "Mehrotra", "andGary", "-LSB-", "MG93", "-RSB-", "decompose", "a", "shape", "into", "several", "components", "anduse", "fixed-sizedsegments", "of", "each", "component", "as", "the", "shape", "features", ".", "Basedon", "a", "normalization", "process", ",", "the", "shape", "description", "is", "made", "invariant", "under", "translation", ",", "scaling", ",", "androtation", ".", "A", "problem", "with", "this", "approach", "is", "that", "since", "a", "shape", "is", "broken", "down", "into", "pieces", ",", "the", "overall", "shape", "of", "the", "boundary", "is", "lost", ".", "In", "addition", ",", "each", "shape", "is", "described", "in", "terms", "of", "multiple", "feature", "vectors", ",", "andthis", "introduces", "extra", "overhead", "during", "insertions", "and", "retrievals", ".", "Berchtoldet", "al.", "-LSB-", "BKK97", "-RSB-", "study", "the", "issue", "of", "storing", "polygons", "so", "that", "they", "can", "be", "retrievedbasedon", "partial", "similarity", "matches", ".", "They", "extract", "almost", "all", "possible", "boundary", "segments", "of", "polygons", ",", "transform", "each", "segment", "into", "a", "sequence", "of", "slope", "changes", ",", "andmap", "the", "resulting", "sequences", "into", "their", "first", "few", "Fourier", "coefficients", ".", "Thus", ",", "each", "polygon", "is", "representedusing", "a", "set", "of", "feature", "points", ",", "andthe", "minimum", "bounding", "rectangle", "of", "these", "points", "for", "each", "polygon", "is", "storedin", "a", "multidimensional", "index", ".", "Due", "to", "a", "normalization", ",", "the", "shape", "representation", "is", "invariant", "to", "translation", ",", "scaling", ",", "androtation", ",", "but", "it", "is", "not", "invariant", "to", "the", "starting", "point", ".", "This", "problem", "is", "handled", "by", "storing", "multiple", "descriptions", "of", "a", "polygon", ",", "each", "associated", "to", "a", "starting", "point", ".", "Again", ",", "representing", "a", "polygon", "in", "terms", "of", "multiple", "points", "introduces", "extra", "overhead", "during", "insertions", "and", "retrievals", ".", "The", "QBIC", "-LRB-", "Query", "By", "Image", "Content", "-RRB-", "system", "-LSB-", "FBF", "+", "94", "-RSB-", "contains", "a", "component", "for", "approximate", "shape", "matching", ".", "The", "system", "keeps", "a", "20-D", "feature", "vector", "to", "describe", "the", "shape", "of", "x", "x", "y", ",", "y", "1", "1", "y", "imaginary", "axis", "x", "real", "axis", "0", "0", "Fig.", "2", ".", "A", "boundary", "and", "its", "representation", "as", "a", "complex", "sequence", "every", "object", "identified", "in", "an", "image", ".", "Features", ",", "for", "example", ",", "include", "the", "area", "and", "the", "circularity", ",", "i.e.", ",", "whether", "the", "object", "is", "circular", "or", "not", ".", "To", "allow", "fast", "retrieval", ",", "it", "is", "suggestedto", "transform", "feature", "vectors", "using", "the", "Karhunen", "Loeve", "-LRB-", "KL", "-RRB-", "transform", "and", "keep", "a", "few", "important", "features", "-LRB-", "those", "associatedwith", "the", "few", "largest", "eigenvalues", "-RRB-", "in", "a", "multidimensional", "index", ".", "However", ",", "the", "choice", "of", "proper", "features", "andtheir", "weighting", "for", "each", "application", "is", "not", "an", "easy", "task", ".", "Some", "features", "are", "abstract", "quantities", "which", "may", "not", "easily", "fit", "in", "a", "distance", "function", "computation", ".", "In", "addition", ",", "the", "use", "of", "the", "KL", "transform", "makes", "the", "multidimensional", "index", "rather", "static", ".", "The", "aforementionedmethods", "are", "less", "general", "than", "ours", "because", "the", "notion", "of", "similarity", "is", "fixedbefore", "query", "evaluation", ";", "this", "notion", "can", "not", "be", "changedunless", "a", "new", "index", "structure", "is", "created", ".", "Our", "method", ",", "instead", ",", "provides", "a", "set", "of", "transformations", "to", "express", "the", "notion", "of", "similarity", "in", "a", "query", ";", "yet", ",", "the", "resulting", "queries", "are", "evaluatedusing", "the", "same", "index", ",", "without", "prior", "knowledge", "of", "the", "specific", "transformations", "used", ".", "Therefore", "we", "have", "not", "comparedthe", "performance", "of", "our", "method", "with", "theirs", ",", "but", "with", "sequential", "scanning", "instead", ".", "Related", "work", "on", "time", "series", "data", "includes", "the", "work", "of", "Agrawal", "et", "al.", "-LSB-", "AFS93", "-RSB-", "on", "using", "the", "discrete", "Fourier", "transform", "for", "retrieving", "similar", "time", "series", "andextensions", "andimprove-ments", "over", "this", "approach", "-LSB-", "GK95", ",", "RM97", ",", "RM00", "-RSB-", ".", "Similar", "to", "our", "framework", ",", "Goldin", "and", "Kanellakis", "-LSB-", "GK95", "-RSB-", "show", "that", "the", "similarity", "retrieval", "will", "be", "roughly", "invariant", "to", "simple", "translations", "andscales", "if", "sequences", "are", "normalizedbefore", "being", "stored", "in", "the", "index", ".", "The", "authors", "store", "in", "the", "index", "both", "the", "translation", "and", "the", "scale", "factors", ",", "in", "addition", "to", "normalized", "sequences", ",", "andalso", "allow", "those", "factors", "to", "be", "queriedusing", "range", "predicates", "-LRB-", "see", "Goldin", "'s", "Ph.D.", "thesis", "-LSB-", "Gol97", "-RSB-", "for", "implementation", "details", "-RRB-", ".", "A", "general", "framework", "for", "composing", "similarity", "queries", "is", "proposed", "by", "Jagadish", ",", "Mendelzon", ",", "and", "Milo", "-LSB-", "JMM95", "-RSB-", ".", "Our", "work", "here", "can", "be", "seen", "as", "a", "special", "case", "of", "this", "framework", "over", "shapes", ".", "Our", "shape", "matching", "can", "also", "be", "incorporatedwithin", "a", "multimedia", "query", "language", "such", "as", "MOQL", "-LSB-", "L", "OSO97", "-RSB-", "where", "multiple", "features", "of", "images", "are", "simultaneously", "queried", ".", "2.2", "Shape", "representation", "using", "Fourier", "descriptors", "Given", "the", "figure", "of", "an", "object", "in", "the", "complex", "plane", ",", "its", "boundary", "can", "be", "tracedproducing", "a", "1-D", "complex", "function", "b", "t", "of", "time", ".", "For", "example", ",", "a", "point", "moving", "along", "the", "boundary", "shown", "in", "Fig.", "2", "generates", "the", "complex", "function", "b", "t", "=", "x", "t", "+", "jy", "t", "for", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "19", "t", "=", "0", ",", "...", ",", "N", "-", "1", "which", "is", "periodic", "with", "period", "N", ".", "That", "is", ",", "the", "x-axis", "of", "the", "figure", "is", "treatedas", "the", "real", "axis", "andthe", "y-axis", "as", "the", "imaginary", "axis", "of", "a", "sequence", "of", "complex", "numbers", ".", "Further", "information", "on", "tracing", "the", "boundary", "of", "a", "shape", "and", "possible", "alternatives", "in", "representing", "it", "can", "be", "foundin", "any", "image", "processing", "textbook", "such", "as", "Gonzalez", "andWoods", "-LSB-", "GW92", "-RSB-", ".", "It", "shouldbe", "notedthat", "the", "description", "is", "solely", "basedon", "the", "shape", "of", "the", "boundary", ";", "objects", "can", "still", "have", "holes", "in", "them", ",", "but", "this", "is", "not", "reflected", "in", "the", "description", ".", "Given", "a", "boundary", "function", "b", "t", ",", "its", "Fourier", "transform", "can", "be", "written", "as", "B", "f", "=", "1", "N", "N-1", "t", "=", "0", "b", "t", "e", "-", "j2tf", "N", "-LRB-", "1", "-RRB-", "where", "f", "-LCB-", "-LRB-", "N", "-", "1", "-RRB-", "/", "2", ",", "...", ",", "0", ",", "...", ",", "-LRB-", "N", "-", "1", "-RRB-", "/", "2", "-RCB-", "and", "j", "=", "-1", "is", "the", "imaginary", "unit", ".", "The", "coefficients", "B", "0", ",", "B", "1", ",", "...", ",", "called", "Fourier", "descriptors", ",", "describe", "the", "shape", "of", "the", "object", "in", "the", "frequency", "domain", ".", "The", "transformation", "is", "loss-less", "since", "the", "energy", "in", "the", "frequency", "domain", "is", "the", "same", "as", "the", "energy", "in", "the", "spatial", "domain", "-LRB-", "due", "to", "Parseval", "'s", "theorem", "-RRB-", "and", "also", "the", "inverse", "Fourier", "transform", "gives", "the", "original", "boundary", "function", ".", "2.3", "Shape", "matching", "using", "Fourier", "descriptors", "Consider", "two", "boundary", "functions", "b", "t", "=", "x", "t", "+", "jy", "t", "and", "b", "t", "=", "x", "t", "+", "jy", "t", "-LRB-", "for", "t", "=", "0", ",", "...", ",", "N", "-1", "-RRB-", ".", "A", "typical", "measure", "of", "similarity", "between", "the", "two", "boundaries", "is", "the", "Euclidean", "distance", ",", "which", "corresponds", "to", "mean-square", "error", "and", "which", "is", "also", "directly", "relatedto", "the", "cross-correlation", "-LSB-", "Raf98", "-RSB-", ".", "D", "2", "-LRB-", "b", ",", "b", "-RRB-", "=", "N-1", "t", "=", "0", "|", "b", "t", "-", "b", "t", "|", "2", "-LRB-", "2", "-RRB-", "However", ",", "the", "distance", "computation", "becomes", "ambiguous", "if", "the", "two", "boundaries", "have", "different", "numbers", "of", "samples", ".", "A", "solution", "to", "avoidthis", "problem", "is", "to", "findthe", "Fourier", "descriptors", "B", "and", "B", ",", "respectively", ",", "for", "b", "and", "b", "anduse", "a", "fixednumber", "of", "lower", "frequency", "descriptors", "-LRB-", "say", ",", "2M", "+1", "-RRB-", "to", "compute", "the", "Euclidean", "distance", ",", "i.e.", ",", "D", "2", "-LRB-", "B", ",", "B", "-RRB-", "=", "M", "f", "=", "-", "M", "|", "B", "f", "-", "B", "f", "|", "2", ".", "-LRB-", "3", "-RRB-", "The", "general", "overview", "of", "the", "proposedmethodis", "as", "follows", ":", "1", ".", "Obtain", "the", "Fourier", "descriptors", "of", "every", "shape", "boundary", "in", "the", "database", ".", "2", ".", "Compute", "a", "fingerprint", "for", "every", "shape", ",", "as", "discussed", "in", "Sect.", "3.1", ",", "andbuilda", "multidimensional", "index", "using", "the", "fingerprints", ".", "Each", "fingerprint", "is", "storedas", "a", "point", "in", "the", "multidimensional", "index", ".", "3", ".", "For", "basic", "similarity", "queries", "-LRB-", "proximity", ",", "nearest", "neighbours", "and", "all-pairs", "-RRB-", ",", "use", "the", "index", "to", "retrieve", "candidate", "shapes", ".", "The", "qualifying", "shapes", "are", "identified", "after", "retrieving", "their", "full", "database", "records", "and", "examining", "them", ".", "4", ".", "For", "queries", "that", "use", "transformations", "in", "their", "expressions", "of", "similarities", ",", "if", "necessary", ",", "apply", "the", "transformations", "to", "the", "index", ",", "as", "discussed", "in", "Sect.", "3.4", ",", "and", "retrieve", "candidate", "shapes", ".", "The", "full", "database", "record", "of", "every", "candidate", "shape", "is", "examinedto", "findout", "if", "it", "qualifies", ".", "We", "use", "Fourier", "descriptors", "as", "our", "shape", "features", ".", "Given", "a", "set", "of", "shape", "boundaries", ",", "for", "each", "boundary", "b", "we", "findits", "Fourier", "transform", "andretain", "only", "a", "fixednumber", "of", "lower", "frequency", "descriptors", ".", "This", "number", ",", "which", "we", "denote", "by", "2M", "+", "1", ",", "can", "be", "chosen", ",", "for", "example", "to", "be", "the", "average", "length", "of", "a", "boundary", "in", "the", "spatial", "domain", ".", "If", "the", "number", "of", "Fourier", "descriptors", "happens", "to", "be", "less", "than", "2M", "+", "1", ",", "we", "store", "zero", "for", "higher", "frequency", "descriptors", ".", "3.1", "Computing", "a", "fingerprint", "To", "aidin", "the", "retrievals", "that", "we", "intendto", "perform", ",", "we", "apply", "a", "few", "transformations", "to", "the", "descriptors", ",", "rather", "than", "storing", "them", "directly", ".", "First", ",", "we", "set", "B", "0", "to", "0", ".", "B", "0", "is", "the", "only", "descriptor", "that", "carries", "information", "about", "the", "shape", "location", ".", "This", "setting", "minimizes", "the", "distance", "function", "-LRB-", "Eq", ".", "3", "-RRB-", "with", "respect", "to", "translation", ".", "Next", ",", "the", "scale", "normalization", "is", "achieved", "by", "dividing", "every", "coefficient", "B", "f", "by", "the", "amplitude", "of", "B", "1", ",", "often", "calledthe", "fundamental", "frequency", ".", "|", "B", "1", "|", "turns", "out", "to", "be", "the", "largest", "amplitude", "when", "the", "boundary", "is", "traced", "in", "the", "counter-clockwise", "-LRB-", "ccw", "-RRB-", "direction", "and", "the", "boundary", "does", "not", "cross", "itself", "-LSB-", "WW80", "-RSB-", ".", "After", "the", "normalization", ",", "B", "0", "is", "0", ",", "so", "we", "do", "not", "need", "to", "store", "it", ".", "Instead", ",", "we", "store", "the", "original", "value", "of", "B", "0", "before", "the", "normalization", ".", "It", "shouldbe", "notedthat", "the", "real", "andthe", "imaginary", "parts", "of", "the", "initial", "value", "of", "B", "0", "represent", "the", "shift", "factors", ",", "respectively", ",", "along", "the", "X", "and", "the", "Y", "coordinates", ";", "the", "amplitude", "of", "the", "initial", "value", "of", "B", "1", "represents", "the", "scale", "factor", ".", "To", "totally", "get", "ridof", "B", "1", ",", "which", "already", "has", "an", "amplitude", "of", "1", "for", "all", "shapes", ",", "we", "do", "an", "additional", "normalization", ".", "We", "shift", "the", "starting", "point", "such", "that", "the", "phase", "of", "B", "1", "becomes", "zero", ".", "Definition", "3.1", ".", "Given", "the", "Fourier", "descriptors", "B", "-", "M", ",", "...", ",", "B", "M", "of", "a", "shape", ",", "denote", "the", "real", "part", "of", "B", "0", "by", "sh", "x", ",", "the", "imaginary", "part", "of", "B", "0", "by", "sh", "y", ",", "the", "amplitude", "of", "B", "1", "by", "sc", ",", "and", "the", "phase", "of", "B", "1", "by", "p", ".", "The", "shape", "description", "is", "defined", "as", "the", "sequence", "-LRB-", "sh", "x", ",", "sh", "y", ",", "sc", ",", "S", "-1", ",", "S", "2", ",", "S", "-2", ",", "S", "3", ",", "S", "-3", ",", "...", ",", "S", "M", ",", "S", "-", "M", "-RRB-", ".", "-LRB-", "4", "-RRB-", "where", "S", "i", "=", "-LRB-", "-LRB-", "B", "i", "-", "-LRB-", "sh", "x", "+", "sh", "y", "j", "-RRB-", "-RRB-", "/", "sc", "-RRB-", "e", "-", "ipj", "-LRB-", "a", "complex", "number", "-RRB-", "for", "i", "=", "-1", ",", "2", ",", "3", ",", "...", ".", "The", "Euclidean", "distance", "between", "two", "shape", "descriptions", ",", "irrespective", "of", "variations", "in", "location", "andsize", ",", "can", "be", "computedas", "follows", ":", "D", "2", "-LRB-", "S", ",", "S", "-RRB-", "=", "M", "f", "=", "-", "M", ",", "f", "=", "0,1", "|", "S", "f", "-", "S", "f", "|", "2", ".", "-LRB-", "5", "-RRB-", "Such", "a", "description", "is", "still", "sensitive", "to", "changes", "in", "orientation", "andstarting", "point", "of", "the", "tracing", ".", "We", "can", "assume", "that", "every", "data", "or", "query", "shape", "has", "a", "fixed", "starting", "point", ",", "if", "we", "encode", "its", "boundary", "using", "the", "same", "tracing", "algorithm", "and", "perform", "the", "same", "normalization", ".", "For", "example", ",", "a", "tracing", "algorithm", "may", "always", "start", "from", "the", "top", "right", "corner", "of", "a", "shape", "andtrace", "it", "in", "the", "ccw", "direction", ".", "In", "this", "way", ",", "the", "starting", "point", "for", "two", "identical", "shapes", "will", "always", "be", "the", "same", ".", "Two", "similar", "shapes", "20", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "may", "still", "have", "small", "variations", "in", "their", "starting", "points", ",", "but", "those", "variations", "can", "be", "easily", "resolvedby", "allowing", "some", "variations", "in", "starting", "points", ".", "This", "is", "discussed", "in", "Sect.", "3.4.3", ".", "There", "are", "sophisticatedtechniques", "to", "do", "phase", "normalization", "-LSB-", "PF77", ",", "WW80", "-RSB-", ".", "For", "example", ",", "Wallace", "et", "al.", "-LSB-", "WW80", "-RSB-", "suggest", "making", "the", "phases", "of", "the", "two", "coefficients", "of", "largest", "amplitude", "equal", "to", "zero", ".", "This", "is", "believed", "to", "shift", "the", "starting", "point", "over", "the", "axis", "of", "symmetry", "andalso", "rotate", "the", "axis", "of", "symmetry", "such", "that", "it", "coincides", "with", "the", "real", "axis", ".", "However", ",", "it", "shouldbe", "notedthat", "none", "of", "these", "techniques", "are", "perfect", "in", "the", "sense", "that", "a", "shape", "can", "have", "two", "or", "more", "different", "phase", "normalizations", ",", "each", "as", "goodas", "the", "others", ";", "or", "equivalently", ",", "two", "fairly", "similar", "shapes", "may", "have", "descriptors", "which", "are", "far", "from", "each", "other", ".", "For", "the", "purpose", "of", "indexing", ",", "important", "features", "of", "the", "description", "needto", "be", "identifiedandplacedin", "the", "fingerprint", ".", "First", ",", "changing", "the", "orientation", "or", "the", "starting", "point", "of", "a", "boundary", "only", "affects", "the", "phases", "of", "descriptors", ".", "To", "insulate", "the", "index", "from", "such", "changes", ",", "the", "information", "about", "the", "phases", "of", "descriptors", "is", "not", "stored", "in", "a", "fingerprint", ".", "Second", ",", "as", "is", "shown", "in", "Fig.", "3", ",", "the", "lower", "frequency", "descriptors", "contain", "information", "about", "the", "general", "shape", ",", "andthe", "higher", "frequency", "descriptors", "contain", "information", "about", "smaller", "details", ".", "There", "are", "strong", "reasons", "to", "believe", "that", "for", "a", "large", "class", "of", "boundary", "functions", ",", "the", "lower", "frequency", "descriptors", "contain", "most", "of", "the", "energy", ".", "For", "example", ",", "for", "continuous", "piece-wise", "smooth", "functions", ",", "the", "amplitude", "spectrum", "|", "S", "f", "|", "decreases", "at", "a", "rate", "proportional", "to", "f", "-2", "-LSB-", "RH74", ",", "Page", "373", "-RSB-", ".", "Thus", ",", "we", "can", "define", "a", "fingerprint", "of", "a", "shape", "as", "follows", ":", "Definition", "3.2", ".", "Given", "a", "shape", "description", "-LRB-", "sh", "x", ",", "sh", "y", ",", "sc", ",", "S", "-1", ",", "S", "2", ",", "S", "-2", ",", "...", ",", "S", "M", ",", "S", "-", "M", "-RRB-", ",", "the", "fingerprint", "of", "the", "shape", "is", "defined", "as", "-LRB-", "sh", "x", ",", "sh", "y", ",", "sc", ",", "|", "S", "-1", "|", ",", "|", "S", "2", "|", ",", "|", "S", "-2", "|", ",", "...", ",", "|", "S", "k", "|", ",", "|", "S", "-", "k", "|", "-RRB-", "where", "k", "-LRB-", "M", "-RRB-", "is", "the", "cut-off", "frequency", ".", "Next", "we", "show", "the", "completeness", "of", "the", "feature", "extraction", ".", "3.2", "Using", "fingerprints", "for", "indexing", "The", "completeness", "of", "the", "indexing", "methodis", "basedon", "the", "following", "lemma", ":", "Lemma", "3.3", ".", "The", "use", "of", "a", "fingerprint", ",", "in", "place", "of", "a", "full", "shape", "description", "for", "shape", "matching", "always", "returns", "a", "superset", "of", "the", "answer", "set", ".", "Proof", ":", "For", "every", "pair", "of", "boundaries", "S", "and", "S", "of", "length", "2M", "+", "1", "andfor", "every", "k", "M", ",", "we", "have", "M", "f", "=", "-", "M", ",", "f", "=", "0,1", "|", "S", "f", "-", "S", "f", "|", "2", "k", "f", "=", "-", "k", ",", "f", "=", "0,1", "|", "|", "S", "f", "|", "-", "|", "S", "f", "|", "|", "2", "-LRB-", "6", "-RRB-", "This", "is", "due", "to", "the", "fact", "that", "for", "every", "term", "|", "|", "S", "f", "|", "-", "|", "S", "f", "|", "|", "in", "the", "right", "side", "of", "the", "inequality", ",", "there", "is", "a", "term", "|", "S", "f", "-", "S", "f", "|", "in", "the", "left", "side", "and", "|", "S", "f", "-", "S", "f", "|", "|", "|", "S", "f", "|", "-", "|", "S", "f", "|", "|", ".", "Thus", ",", "storing", "the", "fingerprints", "of", "shapes", "in", "the", "index", "does", "not", "affect", "the", "correctness", "since", "the", "index", "returns", "a", "superset", "of", "the", "answer", "set", ".", "Furthermore", ",", "the", "distance", "function", "on", "the", "right", "side", "of", "Eq", ".", "6", "is", "invariant", "to", "changes", "in", "the", "starting", "point", "of", "the", "boundary", "and", "rotation", ".", "However", ",", "the", "index", "will", "not", "be", "effective", "if", "the", "choice", "of", "k", "results", "in", "a", "large", "number", "of", "false", "hits", "or", "high", "index", "dimensionality", "-LRB-", "the", "curse", "of", "dimensionality", "-RRB-", ".", "Our", "experiments", "in", "Sect.", "4.2", "show", "that", "the", "value", "of", "k", "can", "be", "chosen", "as", "low", "as", "2", "which", "results", "in", "storing", "5", "Fourier", "amplitudes", "in", "the", "index", ".", "There", "are", "a", "large", "number", "of", "multidimensional", "data", "structures", "which", "can", "be", "used", "for", "indexing", "-LRB-", "see", "the", "survey", "by", "Gaede", "andG", "unther", "-LSB-", "GG98", "-RSB-", "for", "details", "-RRB-", ".", "We", "use", "the", "R", "*", "-", "tree", "as", "it", "is", "expectedto", "work", "well", "for", "up", "to", "20", "dimensions", "andthe", "length", "of", "a", "fingerprint", "is", "expectedto", "be", "less", "than", "20", ".", "3.3", "Basic", "similarity", "queries", "Within", "this", "section", ",", "we", "assume", "that", "the", "shapes", "being", "com-paredhave", "the", "correct", "sizes", ",", "positions", ",", "andorientations", ".", "Such", "a", "match", "can", "also", "be", "useful", ",", "for", "example", "before", "insertions", ",", "to", "prevent", "storing", "two", "replicas", "of", "the", "same", "image", ".", "We", "consider", "the", "three", "basic", "similarity", "queries", "over", "a", "shape", "database", ":", "-LRB-", "a", "-RRB-", "proximity", "query", "1", ";", "-LRB-", "b", "-RRB-", "all-pairs", "query", ";", "and", "-LRB-", "c", "-RRB-", "nearest-neighbours", "query", ".", "In", "a", "proximity", "query", ",", "we", "are", "given", "a", "query", "shape", "anda", "threshold", ",", "andwe", "wouldlike", "to", "findall", "database", "shapes", "that", "are", "within", "distance", "of", "the", "query", "shape", ".", "To", "perform", "a", "proximity", "query", ",", "both", "the", "shape", "description", "and", "its", "fingerprint", "are", "computedas", "describedin", "Sect.", "3.1", ",", "in", "the", "same", "way", "as", "each", "data", "shape", "has", "been", ".", "The", "fingerprint", "is", "then", "used", "as", "a", "search", "key", "into", "the", "shape", "index", ",", "to", "retrieve", "all", "data", "shapes", "that", "are", "locatedin", "its", "proximity", ".", "Note", "that", "the", "index", "retrieves", "a", "superset", "of", "the", "answer", "set", "since", "it", "only", "keeps", "the", "fingerprints", "of", "shape", "descriptions", ".", "The", "actual", "result", "is", "obtained", "in", "an", "additional", "step", "where", "the", "Euclidean", "distance", "between", "the", "full", "database", "record", "of", "every", "matching", "shape", "andthe", "query", "shape", "is", "computed", ".", "In", "an", "all-pairs", "query", ",", "we", "are", "given", "two", "data", "sets", "and", "a", "threshold", ",", "andwe", "want", "to", "findall", "pairs", "of", "shapes", "such", "that", "one", "shape", "is", "within", "distance", "of", "the", "other", ".", "To", "perform", "an", "all-pairs", "query", ",", "we", "do", "a", "spatial", "join", "between", "the", "corresponding", "indices", "of", "the", "two", "data", "sets", ".", "This", "is", "followed", "by", "an", "additional", "step", "where", "the", "Euclidean", "distance", "between", "the", "full", "database", "records", "of", "matching", "shapes", "are", "computed", ".", "In", "a", "nearest-neighbours", "query", ",", "we", "are", "given", "a", "query", "shape", ",", "andwe", "wish", "to", "finddata", "shapes", "which", "are", "the", "closest", "to", "the", "query", "shape", "in", "distance", ".", "To", "perform", "a", "nearest-neighbours", "query", ",", "both", "the", "shape", "description", "and", "its", "fingerprint", "are", "computed", "-LRB-", "as", "discussedin", "Sect.", "3.1", "-RRB-", ",", "andthe", "fingerprint", "is", "usedas", "a", "search", "key", "over", "the", "index", ".", "Since", "the", "index", "employs", "the", "distance", "between", "fingerprints", "for", "its", "pruning", "andthis", "distance", "is", "an", "underestimate", "of", "the", "real", "distance", "between", "descriptions", ",", "a", "nearest", "neighbour", "identified", "through", "searching", "the", "index", "may", "not", "be", "the", "real", "nearest", "neighbour", ".", "For", "example", ",", "of", "the", "two", "shapes", "a", "and", "b", ",", "a", "couldbe", "the", "closest", "to", "the", "query", "shape", "based", "on", "the", "distance", "between", "full", "descriptions", ",", "but", "the", "index", "will", "return", "b", "if", "b", "is", "the", "closest", "basedon", "the", "distance", "between", "fingerprints", ".", "To", "fix", "the", "problem", ",", "we", "pick", "the", "nearest", "neighbour", "-LRB-", "s", "-RRB-", "iden-tifiedthrough", "the", "index", "andcompute", "the", "distances", "between", "full", "descriptions", "of", "the", "retrievedshapes", "andthe", "query", "shape", ".", "If", "we", "denote", "the", "minimum", "distance", "over", "all", "retrieved", "shapes", "with", ",", "the", "distance", "from", "the", "real", "nearest", "neighbours", "can", "not", "1", "This", "is", "often", "referredto", "as", "a", "range", "query", "as", "well", "-LSB-", "AFS93", ",", "LJF94", "-RSB-", ".", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "21", "orginal", ",", "N", "=", "34", "4", "descriptors", "are", "used", "6", "descriptors", "are", "used", "8", "descriptors", "are", "used", "10", "descriptors", "are", "used", "12", "descriptors", "are", "used", "Fig.", "3", ".", "Example", "of", "reconstructions", "from", "Fourier", "descriptors", "be", "greater", "than", ";", "otherwise", "the", "shapes", "identified", "through", "the", "index", "are", "the", "nearest", "neighbours", ".", "The", "full", "algorithm", "is", "as", "follows", ":", "Algorithm", "1", ":", "1", ".", "Using", "a", "nearest-neighbours", "search", "algorithm", "-LRB-", "such", "as", "-LSB-", "RKV95", "-RSB-", "-RRB-", ",", "retrieve", "the", "nearest", "neighbour", "-LRB-", "s", "-RRB-", "from", "the", "index", ".", "2", ".", "For", "every", "candidate", "returned", "in", "step", "1", ",", "retrieve", "its", "full", "database", "recordandcompute", "its", "real", "distance", "from", "the", "query", "shape", ".", "Let", "NN", "be", "the", "set", "of", "all", "data", "shapes", "at", "the", "minimum", "real", "distances", "from", "the", "query", "shape", ";", "let", "be", "this", "minimum", "distance", ".", "3", ".", "Using", "as", "an", "initial", "threshold", ",", "pose", "an", "incremental", "proximity", "query", "to", "the", "index", "-LRB-", "results", "are", "returned", "one", "at", "a", "time", "andthe", "threshold", "can", "be", "tightenedduring", "the", "process", "-RRB-", ".", "4", ".", "Get", "the", "next", "data", "shape", "within", "distance", "of", "the", "query", "shape", ".", "If", "the", "distance", "between", "the", "data", "shape", "and", "the", "query", "shape", "is", "less", "than", ",", "then", "set", "NN", "to", "be", "the", "new", "data", "shape", "and", "to", "be", "the", "new", "distance", ";", "if", "the", "distance", "between", "the", "new", "data", "shape", "and", "the", "query", "shape", "is", ",", "then", "add", "the", "new", "data", "shape", "to", "NN", ".", "Repeat", "this", "step", "until", "there", "are", "no", "more", "qualifying", "data", "shapes", ".", "Algorithm", "1", "is", "a", "refinement", "of", "the", "nearest-neighbours", "algorithm", "given", "by", "Korn", "et", "al.", "-LSB-", "KSF", "+", "96", "-RSB-", ".", "The", "refinement", "is", "in", "the", "form", "of", "tightening", "the", "proximity", "query", "thresholdin", "Step", "4", "as", "more", "data", "shapes", "are", "retrieved", ".", "There", "is", "another", "incremental", "refinement", "of", "the", "same", "algorithm", ",", "proposedby", "Seidl", "and", "Kriegel", "-LSB-", "SK98", "-RSB-", ",", "which", "can", "also", "be", "used", ".", "3.4", "Queries", "with", "transformations", "A", "natural", "way", "of", "doing", "shape", "matching", "is", "to", "remove", "certain", "differences", "before", "running", "a", "comparison", ".", "We", "can", "think", "of", "this", "process", "as", "applying", "certain", "transformations", "to", "images", "before", "doing", "a", "matching", ".", "We", "consider", "the", "following", "four", "kinds", "of", "transformations", ":", "1", ".", "Shifting", "andscaling", ".", "2", ".", "Rotation", ".", "3", ".", "Change", "of", "starting", "point", ".", "4", ".", "Smoothing", ".", "In", "this", "section", ",", "we", "center", "our", "discussion", "on", "proximity", "queries", ",", "but", "the", "same", "techniques", "are", "applicable", "to", "nearest-neighbours", "andall-pairs", "queries", ".", "Transformations", "1", "to", "3", "can", "be", "supportedin", "a", "multidimensional", "index", "by", "providing", "a", "function", "that", "computes", "the", "distance", "between", "a", "data", "shape", "and", "a", "query", "shape", ";", "transformations", "can", "be", "applied", "to", "shape", "descriptions", "inside", "the", "function", ".", "Transformation", "4", "can", "be", "supported", "by", "registering", "an", "additional", "function", "that", "checks", "if", "an", "index", "entry", "overlaps", "with", "a", "query", "entry", ".", "The", "transformation", "can", "then", "be", "appliedto", "either", "the", "index", "entry", "or", "the", "query", "entry", "-LRB-", "or", "both", "-RRB-", "before", "checking", "for", "an", "overlap", ".", "Most", "multidimensional", "index", "structures", "allow", "users", "to", "define", "such", "a", "function", ".", "The", "next", "four", "subsections", "respectively", "discuss", "the", "eval-uations", "of", "queries", "that", "use", "individual", "transformations", "1", "to", "4", "in", "their", "expressions", "of", "similarities", ".", "More", "details", "on", "evaluating", "queries", "that", "use", "a", "combination", "of", "transformations", "in", "their", "expressions", "of", "similarities", "can", "be", "foundelsewhere", "-LSB-", "RM00", "-RSB-", ".", "3.4.1", "Match", "with", "shifting", "or", "scaling", "In", "many", "cases", "we", "do", "not", "care", "about", "the", "position", "of", "a", "shape", "within", "a", "coordinate", "system", "or", "about", "its", "size", "for", "matching", "purposes", ".", "To", "match", "with", "shifting", "or", "scaling", ",", "a", "fingerprint", "is", "com-putedfor", "the", "query", "shape", ",", "as", "describedin", "Sect.", "3.1", ",", "andthis", "fingerprint", "is", "usedas", "a", "search", "key", "for", "the", "index", ".", "If", "we", "are", "interested", "in", "a", "match", "invariant", "under", "shifting", ",", "we", "simply", "discard", "the", "shift", "factor", "of", "the", "query", "point", "andpermit", "any", "value", "for", "the", "shift", "factor", ".", "Similarly", ",", "for", "scaling-invariant", "matching", ",", "we", "dis-cardthe", "scale", "factor", "of", "the", "query", "point", "andpermit", "any", "value", "for", "the", "scale", "factor", ".", "22", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "3.4.2", "Match", "with", "rotation", "We", "often", "wish", "to", "match", "shapes", "irrespective", "of", "small", "variations", "in", "orientation", ".", "For", "example", ",", "the", "two", "shapes", "shown", "in", "Fig.", "1", "make", "a", "perfect", "match", ",", "if", "one", "shape", "is", "rotatedby", "30", ".", "To", "achieve", "this", ",", "we", "state", "in", "our", "query", "the", "range", "of", "the", "rotation", "we", "wish", "to", "perform", "before", "doing", "a", "shape", "matching", ".", "Query", "2", ",", "for", "instance", ",", "retrieves", "all", "database", "shapes", "that", "match", "a", "given", "query", "shape", "after", "one", "shape", "is", "being", "rotatedby", "-LSB-", "-30", ",", "30", "-RSB-", ".", "Sometimes", ",", "we", "wouldlike", "to", "do", "matching", "totally", "invariant", "to", "rotation", ".", "For", "example", ",", "we", "may", "not", "care", "about", "the", "orientation", "at", "all", "if", "we", "are", "doing", "airplane", "recognition", ".", "This", "can", "be", "accom-plishedby", "simply", "allowing", "a", "rotation", "of", "-LSB-", "-180", ",", "180", "-RSB-", "before", "matching", ".", "To", "perform", "a", "match", "with", "rotation", ",", "a", "fingerprint", "is", "computed", "for", "the", "query", "shape", "andis", "usedas", "a", "search", "key", "to", "the", "index", ".", "The", "search", "key", "is", "used", "to", "retrieve", "all", "candidates", "from", "the", "index", ".", "These", "candidates", "include", "all", "data", "points", "that", "match", "the", "query", "point", "irrespective", "of", "rotation", "factor", ".", "They", "also", "include", "false", "positives", ",", "i.e.", ",", "data", "points", "that", "are", "not", "in", "the", "proximity", "of", "the", "query", "point", "for", "any", "rotation", "factor", ".", "To", "discard", "false", "positives", ",", "we", "need", "to", "retrieve", "the", "full", "database", "record", "of", "every", "candidate", "andcheck", "whether", "it", "actually", "falls", "in", "the", "proximity", "-LRB-", "say", "within", "distance", "-RRB-", "of", "the", "query", "shape", "after", "being", "rotatedby", "some", "-LSB-", "1", ",", "2", "-RSB-", ".", "On", "the", "other", "hand", ",", "rotating", "a", "shape", "boundary", "by", "is", "equivalent", "to", "multiplying", "every", "descriptor", "S", "f", "by", "e", "j", ".", "We", "can", "thus", "rewrite", "Eq", ".", "5", "to", "make", "it", "reflect", "the", "rotation", ".", "D", "2", "-LRB-", "S", ",", "S", "-RRB-", "=", "M", "f", "=", "-", "M", ",", "f", "=", "0,1", "|", "S", "f", "-", "e", "j", ".", "S", "f", "|", "2", "-LRB-", "7", "-RRB-", "Lemma", "3.4", ".", "The", "minimum", "and", "the", "maximum", "of", "Eq", ".", "7", "take", "place", "at", "=", "arctan", "-LRB-", "-", "X/Y", "-RRB-", "+", "c.", "where", "c", "is", "an", "integer", ",", "X", "=", "f", "sin", "f", ",", "Y", "=", "f", "cos", "f", "and", "S", "f", ".", "S", "f", "=", "f", "e", "j", "f", "-LRB-", "denotes", "the", "complex", "conjugation", "2", "-RRB-", ".", "Since", "we", "are", "interestedin", "the", "minimum", "of", "Eq", ".", "7", "when", "-LSB-", "1", ",", "2", "-RSB-", "and", "1", ",", "2", ",", "the", "minimum", "must", "take", "place", "either", "at", "an", "endpoint", "-LRB-", "i.e.", ",", "1", "or", "2", "-RRB-", "or", "any", "point", "-LCB-", "arctan", "-LRB-", "-", "A/B", "-RRB-", "-", ",", "arctan", "-LRB-", "-", "A/B", "-RRB-", "+", ",", "arctan", "-LRB-", "-", "A/B", "-RRB-", "-RCB-", "which", "is", "inside", "the", "region", ".", "It", "is", "straightforward", "to", "compute", "the", "distance", "function", "for", "these", "values", "andfindout", "the", "optimal", "rotation", "factor", "that", "results", "in", "the", "minimum", "distance", ".", "3.4.3", "Match", "with", "changing", "starting", "point", "When", "we", "compare", "two", "boundaries", ",", "we", "do", "not", "care", "about", "their", "starting", "points", ".", "If", "we", "use", "the", "same", "tracing", "algorithm", "for", "every", "boundary", ",", "there", "can", "not", "be", "large", "variations", "in", "the", "starting", "point", "-LRB-", "though", "small", "variations", "are", "still", "possible", "-RRB-", ".", "However", ",", "we", "may", "not", "have", "much", "control", "over", "the", "tracing", "algorithm", ",", "andas", "a", "result", "two", "similar", "shapes", "may", "have", "different", "starting", "points", ";", "or", "even", "if", "we", "use", "the", "same", "tracing", "algorithm", "for", "all", "boundaries", ",", "we", "may", "want", "to", "remove", "small", "variations", "-LRB-", "if", "any", "-RRB-", "before", "doing", "a", "comparison", ".", "Shifting", "the", "starting", "point", "of", "a", "boundary", "by", "3", "is", "equivalent", "to", "multiplying", "every", "descriptor", "S", "f", "by", "e", "jf", ".", "This", "operation", ",", "similar", "to", "rotation", ",", "only", "affects", "the", "phases", "of", "Fourier", "2", "The", "complex", "conjugate", "of", "z", "=", "x", "+", "yj", "is", "defined", "as", "z", "=", "x-yj", ".", "3", "For", "example", ",", "=", "2s", "0", "/", "N", "for", "a", "boundary", "of", "length", "N", "means", "shifting", "its", "starting", "point", "by", "s", "0", "points", "in", "ccw", "direction", ".", "descriptors", ".", "Thus", ",", "we", "can", "still", "use", "the", "index", "to", "retrieve", "all", "candidates", ".", "To", "discard", "false", "positives", ",", "we", "need", "to", "retrieve", "the", "full", "database", "record", "of", "every", "candidate", "and", "check", "whether", "it", "still", "qualifies", "after", "the", "starting", "point", "is", "being", "shiftedby", "some", "-LSB-", "1", ",", "2", "-RSB-", ".", "We", "can", "again", "rewrite", "Eq", ".", "5", "to", "make", "it", "reflect", "the", "shift", "in", "starting", "point", ".", "D", "2", "-LRB-", "S", ",", "S", "-RRB-", "=", "M", "f", "=", "-", "M", ",", "f", "=", "0,1", "|", "S", "f", "-", "e", "jf", ".", "S", "f", "|", "2", "-LRB-", "8", "-RRB-", "The", "optimal", "value", "for", "can", "be", "obtainedby", "equating", "the", "derivative", "of", "the", "above", "equation", "to", "zero", "andfinding", "the", "roots", ".", "This", "can", "be", "done", "using", "numerical", "techniques", "up", "to", "the", "machine", "precision", "-LSB-", "PTVF92", "-RSB-", ".", "3.4.4", "Match", "with", "smoothing", "Occasionally", ",", "we", "wish", "to", "do", "matching", "based", "on", "overall", "shape", ",", "irrespective", "of", "small", "variations", "in", "details", "and", "noise", ".", "In", "such", "cases", ",", "we", "wouldlike", "to", "smooth", "out", "sharp", "edges", "andsmall", "variations", "before", "doing", "the", "comparison", ".", "To", "achieve", "this", ",", "we", "can", "apply", "a", "moving", "average", "transformation", "to", "shape", "boundaries", ".", "When", "an", "l-point", "moving", "average", "is", "appliedto", "a", "boundary", ",", "every", "point", "is", "replacedwith", "the", "average", "of", "its", "l", "surrounding", "points", ".", "On", "the", "other", "hand", ",", "applying", "a", "moving", "average", "to", "a", "boundary", "in", "the", "spatial", "domain", "corresponds", "to", "a", "vector", "multiplication", "in", "the", "frequency", "domain", ".", "For", "example", ",", "to", "apply", "a", "2-point", "moving", "average", "to", "a", "boundary", "with", "10", "points", ",", "we", "can", "equivalently", "multiply", "its", "Fourier", "descriptors", "by", "the", "Fourier", "transform", "of", "vector", "m", "2", "=", "-LRB-", "1", "2", ",", "1", "2", ",", "0", ",", "0", ",", "0", ",", "0", ",", "0", ",", "0", ",", "0", ",", "0", "-RRB-", ".", "This", "gives", "us", "the", "Fourier", "descriptors", "of", "the", "smoothed", "boundary", ".", "A", "distinguishing", "feature", "of", "smoothing", ",", "compared", "to", "other", "transformations", "discussed", "in", "this", "paper", ",", "is", "that", "its", "effect", "on", "a", "shape", "depends", "on", "the", "characteristics", "of", "the", "shape", ".", "This", "is", "unlike", "rotation", ",", "for", "instance", ",", "where", "the", "effect", "of", "rotating", "a", "data", "shape", "by", "before", "a", "comparison", "is", "the", "same", "as", "that", "of", "rotating", "the", "query", "shape", "by", "-", ".", "Given", "a", "query", "shape", "anda", "desiredmoving", "average", "for", "smoothing", ",", "the", "matching", "can", "be", "performedas", "follows", ":", "1", ".", "Findthe", "Fourier", "transform", "of", "the", "desiredmoving", "average", "-LRB-", "as", "demonstrated", "for", "2-point", "moving", "average", "-RRB-", ";", "let", "us", "denote", "this", "by", "M.", "2", ".", "Transforming", "the", "query", "shape", ":", "Apply", "the", "transformation", "to", "the", "query", "shape", "description", "-LRB-", "sh", "x", ",", "sh", "y", ",", "sc", ",", "Q", "-RRB-", "by", "replacing", "Q", "with", "Q", "where", "Q", "i", "=", "Q", "i", "M", "i", "for", "i", "=", "-1", ",", "-2", ",", "2", ",", "...", ",", "-", "k", ",", "k.", "3", ".", "Construct", "a", "search", "key", "by", "computing", "the", "fingerprint", "of", "the", "new", "shape", "description", ".", "4", ".", "Transforming", "the", "index", ":", "Apply", "M", "to", "data", "entries", "stored", "in", "the", "index", "before", "checking", "for", "an", "overlap", "between", "a", "data", "entry", "and", "the", "search", "key", ";", "this", "is", "done", "inside", "the", "function", "that", "checks", "if", "a", "data", "entry", "from", "the", "index", "overlaps", "the", "search", "key", ".", "5", ".", "For", "every", "candidate", ",", "retrieve", "its", "full", "database", "record", ",", "apply", "M", "to", "it", "andcheck", "if", "the", "resulting", "shape", "falls", "in", "the", "proximity", "of", "Q", ".", "The", "transformation", "can", "be", "appliedto", "the", "index", "on", "the", "fly", "as", "the", "index", "is", "being", "traversed", ".", "The", "issue", "of", "on-the-fly", "applying", "single", "or", "multiple", "transformations", "to", "an", "index", "is", "studied", "in", "the", "domain", "of", "time", "series", "data", "-LSB-", "RM97", ",", "RM00", "-RSB-", ".", "The", "same", "techniques", "can", "be", "appliedto", "the", "domain", "of", "shapes", ".", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "23", "a", "D", "=", "0", "b", "D", "=", "0.05", "c", "D", "=", "0.10", "d", "D", "=", "0.15", "e", "D", "=", "0.20", "f", "D", "=", "0.25", "g", "D", "=", "0.30", "i", "D", "=", "0.10", "h", "D", "=", "0.40", "j", "D", "=", "0.20", "Fig.", "4", ".", "Query", "shapes", ",", "shown", "in", "the", "top", "two", "rows", ",", "andtheir", "nearest", "neighbours", ",", "shown", "in", "the", "bottom", "two", "rows", "To", "determine", "the", "effectiveness", "of", "our", "proposed", "technique", ",", "we", "implementedour", "methodandran", "experiments", "on", "a", "dataset", "of", "11,000", "real", "hand-written", "digits", ".", "The", "data", "was", "obtained", "from", "the", "CEDAR", "CDROM", "dataset", ",", "which", "was", "gathered", "from", "scannedZIP", "codes", "at", "the", "Buffalo", "Post", "Office", "-LSB-", "Hul94", "-RSB-", ".", "For", "every", "digit", ",", "the", "dataset", "held", "1,100", "images", ".", "Each", "image", "was", "originally", "in", "the", "form", "of", "a", "16", "16", "gray-scale", "image", "which", "was", "convertedinto", "a", "binary", "image", "-LRB-", "by", "thresholding", "-RRB-", "andwas", "traced", "to", "identify", "a", "shape", "boundary", ".", "Then", ",", "the", "boundary", "was", "encoded", "using", "30", "lower", "Fourier", "descriptors", ".", "For", "boundaries", "with", "length", "less", "than", "30", ",", "zero", "was", "padded", "at", "the", "end", ".", "For", "each", "shape", ",", "both", "its", "description", "and", "its", "fingerprint", "are", "computed", ",", "as", "outlinedin", "Sect.", "3.1", ",", "andusedfor", "the", "purpose", "of", "indexing", ".", "As", "our", "index", ",", "we", "used", "Norbert", "Beckmann", "'s", "implementation", "of", "the", "R", "*", "-", "tree", "-LSB-", "BKSS90", "-RSB-", ".", "For", "the", "nearest-neighbours", "search", ",", "we", "implementedthe", "algorithm", "developedby", "Roussopoulos", "et", "al.", "-LSB-", "RKV95", "-RSB-", "as", "part", "of", "Algorithm", "1", "over", "R", "*", "-", "tree", ".", "We", "stored", "10,000", "shapes", "-LRB-", "1,000", "samples", "of", "each", "digit", "-RRB-", "in", "the", "index", "and", "usedthe", "1,000", "remaining", "samples", "as", "queries", ".", "We", "ran", "each", "query", "10", "times", "andaveragedthe", "execution", "times", "from", "these", "runs", ".", "All", "our", "experiments", "were", "conducted", "on", "a", "168", "MHz", "Ul-trasparc", "station", ".", "We", "investigatedthe", "following", "questions", ":", "How", "effective", "andpractical", "is", "our", "technique", "in", "classifying", "shapes", "in", "a", "real", "data", "domain", "?", "How", "many", "Fourier", "coefficients", "shouldwe", "store", "in", "the", "index", "?", "Storing", "larger", "number", "of", "coefficients", "reduces", "the", "number", "of", "false", "positives", "but", "increases", "the", "index", "dimensionality", ",", "andas", "a", "result", "the", "search", "time", ".", "How", "does", "our", "technique", "compare", "to", "sequential", "scanning", "?", "4.1", "Shape", "classification", "To", "verify", "the", "effectiveness", "of", "our", "proposedtechnique", "in", "classifying", "shapes", ",", "we", "triedto", "classify", "all", "1,000", "query", "shapes", "by", "assigning", "every", "query", "shape", "to", "the", "class", "of", "its", "nearest", "neighbours", ".", "When", "there", "was", "more", "than", "one", "nearest", "neighbours", "for", "a", "shape", ",", "we", "pickedone", "randomly", ".", "The", "result", "was", "interesting", ":", "96.4", "%", "of", "shapes", "were", "classifiedcorrectly", ".", "Some", "of", "those", "query", "shapes", "are", "shown", ",", "in", "their", "gray", "scale", "andbinary", "representation", ",", "in", "the", "two", "top", "rows", "of", "Fig.", "4", "along", "with", "their", "nearest", "neighbours", "shown", "in", "the", "two", "bottom", "rows", "of", "the", "same", "figure", ".", "Table", "1", ".", "Various", "ranges", "of", "rotations", "andtheir", "effects", "in", "correctly", "classifying", "the", "shapes", "of", "hand-written", "digits", "Rotation", "factor", "Fraction", "of", "query", "shapes", "classifiedcorrectly", "-LRB-", "%", "-RRB-", "-LSB-", "0", ",", "0", "-RSB-", "96.4", "%", "-LSB-", "-10", ",", "10", "-RSB-", "96.5", "%", "-LSB-", "-20", ",", "20", "-RSB-", "96.4", "%", "-LSB-", "-30", ",", "30", "-RSB-", "96.4", "%", "-LSB-", "-40", ",", "40", "-RSB-", "96.3", "%", "-LSB-", "-50", ",", "50", "-RSB-", "96.3", "%", "As", "is", "shown", ",", "query", "shapes", "shown", "in", "Figs.", "4a", "to", "4h", "are", "classified", "correctly", "with", "their", "Euclidean", "distances", "from", "their", "nearest", "neighbours", "varying", "from", "0", "to", "0.40", ".", "The", "query", "shape", "shown", "in", "Fig.", "4i", "is", "not", "classifiedcorrectly", ",", "but", "its", "binary", "representation", "looks", "quite", "similar", "to", "that", "of", "its", "nearest", "neighbour", ".", "The", "query", "shape", "shown", "in", "Fig.", "4j", "looks", "different", "from", "its", "nearest", "neighbour", ",", "though", "their", "boundaries", "still", "look", "similar", ".", "In", "another", "experiment", ",", "we", "usedQuery", "2", "andtriedto", "identify", "for", "each", "query", "shape", "its", "nearest", "neighbour", "irrespective", "of", "a", "rotation", "factor", "-LSB-", "-30", ",", "30", "-RSB-", ".", "This", "did", "not", "change", "the", "overall", "classification", "rate", ",", "i.e.", ",", "only", "96.4", "%", "of", "shapes", "were", "classifiedcorrectly", ".", "However", ",", "allowing", "a", "rotation", "factor", "in", "general", "did", "retrieve", "better", "matches", ".", "Figure", "5", "shows", "six", "query", "shapes", "-LRB-", "in", "the", "top", "two", "rows", "-RRB-", ",", "their", "original", "nearest", "neighbours", "-LRB-", "in", "the", "middle", "two", "rows", "-RRB-", "and", "their", "optimal", "nearest", "neighbours", "-LRB-", "in", "the", "bottom", "two", "rows", "-RRB-", "when", "the", "rotation", "factor", "variedfrom", "-30", "to", "30", ".", "As", "is", "shown", ",", "for", "example", "rotating", "the", "data", "shape", "shown", "at", "the", "bottom", "of", "Fig.", "5a", "by", "11", "in", "the", "ccw", "direction", "reduces", "its", "Euclidean", "distance", "from", "the", "query", "shape", "to", "0.30", ";", "this", "is", "less", "than", "the", "Euclidean", "distance", "between", "the", "same", "query", "shape", "andits", "original", "nearest", "neighbour", ".", "Table", "1", "summarizes", "the", "effect", "of", "various", "rotations", "in", "correctly", "classifying", "shapes", ".", "As", "is", "shown", ",", "applying", "a", "small", "rotation", "-LRB-", "-LSB-", "-10", ",", "10", "-RSB-", "-RRB-", "to", "d", "ata", "shapes", "before", "matches", "slightly", "improves", "the", "classification", "rate", "of", "hand-written", "digits", ";", "larger", "rotations", ",", "on", "the", "other", "hand", ",", "either", "have", "no", "effect", "or", "deteriorate", "the", "rate", "of", "correct", "classifications", ".", "This", "is", "because", "the", "digit", "data", "is", "generally", "sensitive", "to", "orientations", "andallowing", "larger", "rotations", "can", "potentially", "retrieve", "more", "non-identical", "digits", ".", "We", "later", "picked1", ",000", "shapes", "among", "those", "storedin", "the", "database", ",", "applied", "to", "each", "shape", "a", "random", "rotation", "in", "the", "range", "-LSB-", "-", ",", "-RSB-", "andusedit", "as", "a", "query", "shape", ".", "We", "only", "specifiedthe", "24", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "a", "D", "=", "0.34", "R", "=", "11", ",", "D", "=", "0.30", "b", "D", "=", "0.25", "R", "=", "-11", ",", "D", "=", "0.22", "c", "D", "=", "0.36", "R", "=", "9", ",", "D", "=", "0.35", "d", "D", "=", "0.60", "R", "=", "15", ",", "D", "=", "0.57", "e", "D", "=", "0.45", "R", "=", "27", ",", "D", "=", "0.35", "f", "D", "=", "0.48", "R", "=", "-12", ",", "D", "=", "0.41", "Fig.", "5", ".", "Query", "shapes", "-LRB-", "the", "top", "two", "rows", "-RRB-", ",", "their", "original", "nearest", "neighbours", "-LRB-", "the", "middle", "two", "rows", "-RRB-", "and", "their", "optimal", "nearest", "neighbours", "-LRB-", "the", "bottom", "two", "rows", "-RRB-", "varying", "the", "rotation", "factor", "in", "-LSB-", "-30", ",", "30", "-RSB-", "2", "4", "6", "8", "10", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "Number", "of", "Fourier", "amplitudes", "Fraction", "of", "shapes", "classified", "correctly", "Fig.", "6", ".", "The", "fraction", "of", "query", "shapes", "classifiedcorrectly", ",", "varying", "the", "number", "of", "Fourier", "amplitudes", "used", "for", "classification", "rotation", "interval", "in", "our", "query", ".", "As", "expected", ",", "for", "each", "query", "shape", ",", "only", "the", "shape", "itself", "was", "retrievedfrom", "the", "database", ".", "4.2", "Varying", "the", "cut-off", "frequency", "The", "effectiveness", "of", "the", "index", "mainly", "depends", "on", "the", "concentration", "of", "the", "key", "shape", "information", "within", "a", "few", "descriptors", "of", "fingerprints", ".", "To", "measure", "this", "effectiveness", ",", "we", "ran", "some", "experiments", "varying", "the", "number", "of", "Fourier", "descriptors", "stored", "in", "a", "fingerprint", ".", "Figure", "6", "shows", "the", "ratio", "of", "query", "shapes", "that", "are", "classifiedcorrectly", "-LRB-", "according", "to", "the", "criteria", "outlinedin", "Sect.", "4.1", "-RRB-", "to", "all", "query", "shapes", "varying", "the", "number", "of", "Fourier", "amplitudes", "used", "for", "classification", ".", "As", "the", "number", "of", "amplitudes", "increases", "up", "to", "6", ",", "the", "ratio", "of", "shapes", "that", "are", "classified", "correctly", "increases", "accordingly", "up", "to", "0.778", ".", "This", "ratio", "remains", "the", "same", "despite", "increasing", "the", "number", "of", "Fourier", "amplitudes", "from", "6", "to", "10", ".", "Comparedto", "a", "full", "shape", "description", "which", "consists", "of", "both", "the", "amplitudes", "and", "the", "phases", "of", "30", "lower", "Fourier", "coefficients", ",", "classifying", "96.4", "%", "of", "the", "shapes", "correctly", ",", "a", "fingerprint", "does", "a", "pretty", "good", "job", "using", "only", "6", "amplitudes", "which", "make", "up", "only", "10", "%", "of", "a", "full", "shape", "description", "and", "still", "classifying", "0.778", "%", "of", "the", "shapes", "correctly", ".", "Figure", "7a", "shows", "the", "average", "execution", "time", "of", "Algorithm", "1", "for", "1,000", "nearest-neighbours", "queries", ",", "broken", "into", ":", "-LRB-", "1", "-RRB-", "search", "time", "in", "Step", "1", "to", "identify", "the", "initial", "approximate", "nearest", "neighbours", ";", "and", "-LRB-", "2", "-RRB-", "search", "time", "in", "Step", "3", "to", "findthe", "real", "nearest", "neighbours", ".", "Figure", "7b", "shows", "the", "fraction", "of", "index", "nodes", "accessed", ",", "averaged", "over", "1,000", "nearest-neighbours", "queries", ",", "again", "broken", "into", "the", "fractions", "accessedin", "Step", "1", "andStep", "3", ".", "As", "the", "number", "of", "Fourier", "amplitudes", "increases", ",", "the", "index", "selectivity", "improves", ",", "i.e.", ",", "the", "index", "gives", "fewer", "false", "hits", ".", "The", "number", "of", "false", "hits", ",", "as", "is", "depicted", "in", "Fig.", "8", "for", "a", "proximity", "query", ",", "mainly", "depends", "on", "the", "number", "of", "Fourier", "amplitudes", "usedin", "fingerprints", "andthe", "output", "size", "of", "the", "query", ".", "Due", "to", "the", "high", "similarity", "between", "different", "shapes", "of", "the", "same", "digit", ",", "a", "large", "fraction", "of", "our", "false", "hits", "-LRB-", "for", "example", ",", "62", "%", "when", "the", "output", "size", "was", "11", "andthe", "number", "of", "Fourier", "amplitudes", "was", "6", "-RRB-", "were", "other", "shapes", "of", "the", "same", "digit", "depicted", "by", "the", "query", "shape", "which", "were", "not", "within", "the", "specifieddistance", "of", "the", "query", "shape", ".", "The", "reduction", "in", "false", "hits", "reduces", "the", "search", "time", "since", "less", "time", "is", "needed", "to", "remove", "those", "false", "hits", ".", "However", ",", "increasing", "the", "number", "of", "Fourier", "amplitudes", "after", "some", "point", ",", "often", "calledthe", "cut-off", "frequency", ",", "either", "does", "not", "reduce", "the", "number", "of", "false", "hits", "or", "reduces", "it", "only", "slightly", ".", "This", "is", "because", "higher", "frequency", "amplitudes", "carry", "less", "of", "the", "energy", "than", "lower", "frequency", "ones", ".", "On", "the", "other", "hand", ",", "the", "search", "time", "increases", "with", "the", "index", "dimensionality", ",", "because", "the", "tree", "becomes", "deeper", ".", "Furthermore", ",", "the", "pruning", "becomes", "harder", ",", "as", "is", "shown", "in", "Fig.", "7", "with", "the", "ratio", "of", "index", "nodes", "that", "are", "accessed", ",", "because", "the", "probability", "of", "an", "arbitrary", "data", "bounding", "rectangle", "being", "close", "to", "the", "query", "point", "increases", "with", "the", "dimensionality", ".", "Given", "the", "trade-off", "between", "the", "tree", "search", "time", "and", "the", "time", "spent", "for", "removing", "false", "hits", ",", "it", "is", "natural", "to", "expect", "that", "there", "is", "an", "optimal", "cut-off", "frequency", ".", "Basedon", "our", "experiments", ",", "as", "illustratedin", "Figs.", "6", "and7", ",", "the", "optimal", "cut-off", "frequency", "occurs", "for", "as", "few", "as", "6", "Fourier", "amplitudes", ".", "4.3", "Comparison", "to", "sequential", "scanning", "Figure", "9", "shows", "the", "average", "execution", "time", "of", "our", "proposed", "methodcomparedto", "sequential", "scanning", "for", "1,000", "nearest-neighbours", "queries", ".", "To", "get", "its", "best", "performance", ",", "we", "used", "bufferedinput", "for", "sequential", "scanning", ",", "in", "a", "system", "with", "buffer", "size", "of", "8,192", "bytes", ".", "For", "the", "experiment", "shown", "in", "Fig.", "9a", ",", "the", "border", "length", "was", "fixed", "to", "30", "while", "the", "database", "size", "variedfrom", "10,000", "to", "30,000", "shapes", ".", "Since", "the", "size", "of", "dataset", "was", "limited", ",", "we", "doubled", "or", "tripled", "the", "size", "by", "adding", "one", "or", "two", "randomly", "rotated", "copies", "of", "each", "shape", "to", "the", "database", ".", "This", "doubling", "did", "not", "affect", "the", "performance", "of", "sequential", "scanning", ",", "which", "was", "linear", "in", "the", "input", "size", ",", "but", "we", "expected", "the", "doubling", "to", "deteriorate", "the", "performance", "of", "our", "method", "since", "high", "similarity", "among", "database", "shapes", "would", "increase", "the", "number", "of", "false", "hits", ".", "For", "the", "experiment", "shown", "in", "Fig.", "9b", ",", "the", "number", "of", "shapes", "was", "fixedat", "10,000", "while", "the", "number", "of", "Fourier", "descriptors", "used", "to", "represent", "a", "boundary", "varied", "from", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "25", "2", "4", "6", "8", "10", "0", "200", "400", "600", "800", "1000", "1200", "Number", "of", "Fourier", "amplitudes", "Execution", "time", "-LRB-", "msec", "-RRB-", ":", "initial", "NN", "query", ":", "proximity", "query", ":", "Total", "a", "2", "4", "6", "8", "10", "0", "0.2", "0.4", "0.6", "0.8", "Number", "of", "Fourier", "amplitudes", "Fraction", "of", "index", "nodes", "accessed", "b", ":", "initial", "NN", "query", ":", "proximity", "query", ":", "Total", "Fig.", "7", ".", "Break", "up", "of", "a", "the", "execution", "time", "and", "b", "the", "fraction", "of", "index", "nodes", "accessed", ",", "for", "nearest-neighbours", "queries", ",", "varying", "the", "number", "of", "Fourier", "amplitudes", "2", "3", "4", "5", "6", "10", "20", "30", "40", "50", "60", "70", "Number", "of", "Fourier", "amplitudes", "#", "of", "false", "hits", "per", "every", "qualifying", "shape", "a", "0", "200", "400", "600", "800", "1000", "6", "8", "10", "12", "14", "16", "18", "20", "Output", "size", "#", "of", "false", "hits", "per", "every", "qualifying", "shape", "b", "Fig.", "8", ".", "The", "average", "number", "of", "false", "positives", "for", "every", "qualifying", "shape", "a", "varying", "the", "number", "of", "Fourier", "amplitudes", "and", "fixing", "the", "average", "output", "size", "of", "the", "query", "to", "11", ",", "and", "b", "varying", "the", "average", "output", "size", "andfixing", "the", "number", "of", "Fourier", "amplitudes", "to", "6", "1", "1.5", "2", "2.5", "3", "x", "10", "4", "0", "1000", "2000", "3000", "4000", "5000", "6000", "Number", "of", "shapes", "Execution", "time", "-LRB-", "msec", "-RRB-", ":", "Seq", ":", "Index", "a", "20", "30", "40", "50", "0", "500", "1000", "1500", "2000", "2500", "3000", "Border", "Length", "Execution", "time", "-LRB-", "msec", "-RRB-", ":", "Seq", ":", "Index", "b", "Fig.", "9", ".", "a", "Time", "per", "query", "varying", "the", "number", "of", "shapes", ",", "for", "nearest-neighbours", "queries", ".", "b", "Time", "per", "query", "varying", "the", "border", "length", ",", "for", "nearest-neighbours", "queries", "26", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "20", "to", "50", ".", "As", "shown", "in", "the", "figure", ",", "increasing", "either", "the", "number", "of", "shapes", "or", "the", "border", "length", "increases", "the", "relative", "advantage", "of", "our", "method", ",", "making", "it", "more", "attractive", "for", "large", "databases", ".", "We", "have", "proposedan", "indexing", "technique", "that", "can", "efficiently", "retrieve", "images", "of", "objects", "basedon", "similarity", "between", "their", "boundary", "shapes", ".", "We", "have", "used", "Fourier", "descriptors", "as", "our", "shape", "features", "andhave", "developedan", "index", "organization", "such", "that", "similar", "shapes", "can", "be", "easily", "retrievedirrespective", "of", "their", "differences", "in", "size", ",", "position", "and", "orientation", ".", "The", "highlight", "of", "our", "contribution", "is", "an", "index", "structure", "that", "helps", "find", "optimal", "matches", "between", "shapes", "irrespective", "of", "various", "differences", "between", "them", ".", "Our", "technique", "has", "the", "following", "desirable", "properties", ":", "It", "uses", "a", "shape", "matching", "mechanism", "which", "is", "well-studied", "in", "the", "area", "of", "pattern", "recognition", ".", "It", "exploits", "the", "fact", "that", "important", "features", "of", "a", "large", "class", "of", "shapes", "are", "concentratedwithin", "only", "a", "few", "Fourier", "descriptors", ".", "It", "can", "handle", "shapes", "of", "various", "sizes", ".", "It", "guarantees", "efficient", "retrieval", "of", "all", "qualifying", "shapes", ".", "Furthermore", ",", "we", "have", "presenteda", "refinement", "of", "an", "earlier", "nearest-neighbours", "search", "algorithm", "for", "feature", "vectors", "that", "are", "truncated", ",", "due", "to", "the", "significance", "of", "some", "features", "over", "others", ",", "before", "being", "storedin", "a", "R-tree", "index", ".", "Acknowledgement", ".", "We", "thank", "the", "Natural", "Sciences", "andEngineering", "Research", "Council", "of", "Canada", "andthe", "Institute", "for", "Robotics", "andIntel-ligent", "Systems", "for", "their", "support", "of", "this", "work", ".", "-LSB-", "AFS93", "-RSB-", "Agrawal", "R", ",", "Faloutsos", "C", ",", "Swami", "A", "-LRB-", "1993", "-RRB-", "Efficient", "similarity", "search", "in", "sequence", "databases", ".", "In", ":", "Proc", ".", "4th", "International", "Conference", "on", "Foundations", "of", "Data", "Organizations", "andAlgorithms", "-LRB-", "FODO", "'", "93", "-RRB-", ",", "pp", "69", "84", ",", "Chicago", "-LSB-", "BG80", "-RSB-", "Bribiesca", "E", ",", "Guzman", "A", "-LRB-", "1980", "-RRB-", "How", "to", "describe", "pure", "form", "andhow", "to", "measure", "differences", "in", "shape", "using", "shape", "numbers", ".", "Pattern", "Recognition", "12", "-LRB-", "2", "-RRB-", ":", "101", "112", "-LSB-", "BKK97", "-RSB-", "BerchtoldS", ",", "Keim", "DA", ",", "Kriegel", "HP", "-LRB-", "1997", "-RRB-", "Using", "extended", "feature", "objects", "for", "partial", "similarity", "retrieval", ".", "VLDB", "J", "6", "-LRB-", "4", "-RRB-", ":", "333", "348", "-LSB-", "BKSS90", "-RSB-", "Beckmann", "N", ",", "Kriegel", "HP", ",", "Schneider", "R", ",", "Seeger", "B", "-LRB-", "1990", "-RRB-", "The", "R", "*", "tree", ":", "an", "efficient", "androbust", "index", "methodfor", "points", "andrectangles", ".", "In", ":", "Proc", ".", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pp", "322", "331", ",", "Atlantic", "City", "-LSB-", "Bri81", "-RSB-", "Bribiesca", "E", "-LRB-", "1981", "-RRB-", "Arithmetic", "operations", "among", "shapes", "using", "shape", "numbers", ".", "Pattern", "Recognition", "13", "-LRB-", "2", "-RRB-", ":", "123", "138", "-LSB-", "BSA91", "-RSB-", "Belkasim", "SO", ",", "Shridhar", "M", ",", "Ahmadi", "M", "-LRB-", "1991", "-RRB-", "Pattern", "recognition", "with", "invariants", ":", "a", "comprehensive", "study", "and", "new", "results", ".", "Pattern", "Recognition", "24:1117", "1138", "-LSB-", "FBF", "+", "94", "-RSB-", "Faloutsos", "C", ",", "Barber", "R", ",", "Flickner", "M", ",", "Niblack", "W", ",", "Petkovic", "D", ",", "Equitz", "W", "-LRB-", "1994", "-RRB-", "Efficient", "andeffective", "querying", "by", "image", "content", ".", "J", "Intell", "Inf", "Syst", "3", "-LRB-", "3/4", "-RRB-", ":", "231", "262", "-LSB-", "GG98", "-RSB-", "Gaede", "V", ",", "G", "unther", "O", "-LRB-", "1998", "-RRB-", "Multidimensional", "access", "methods", ".", "ACM", "Comput", "Surv", "30", "-LRB-", "2", "-RRB-", ":", "170", "231", "-LSB-", "GK95", "-RSB-", "Goldin", "DQ", ",", "Kanellakis", "PC", "-LRB-", "1995", "-RRB-", "On", "similarity", "queries", "for", "time-series", "data", ":", "constraint", "specification", "and", "implementation", ".", "In", ":", "1st", "Int", ".", "Conference", "on", "the", "Principles", "and", "Practice", "of", "Constraint", "Programming", ",", "Lecture", "Notes", "in", "Computer", "Science", ",", "vol", ".", "976", ".", "Springer", ",", "Berlin", "Heidelberg", "New", "York", ",", "pp.", "137", "153", "-LSB-", "Gol97", "-RSB-", "Goldin", "DQ", "-LRB-", "1997", "-RRB-", "Constraint", "query", "algebras", ".", "PhD", "thesis", ",", "Brown", "University", ",", "www.cs.brown.edu/people/dgk/Papers/thesis.ps", "-LSB-", "GW92", "-RSB-", "Gonzalez", "RC", ",", "Woods", "RE", "-LRB-", "1992", "-RRB-", "Digital", "image", "processing", ".", "Addison-Wesley", ",", "Reading", ",", "Mass.", ",", "USA", "-LSB-", "Hul94", "-RSB-", "Hull", "JJ", "-LRB-", "1994", "-RRB-", "A", "database", "for", "handwritten", "text", "recognition", "research", ".", "IEEE", "Trans", "Pattern", "Anal", "Mache", "Intell", "16", "-LRB-", "5", "-RRB-", ":", "550", "554", "-LSB-", "Jag91", "-RSB-", "Jagadish", "HV", "-LRB-", "1991", "-RRB-", "A", "retrieval", "technique", "for", "similar", "shapes", ".", "In", ":", "Proc", ".", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pp", "208", "217", ",", "Denver", ",", "Colo.", ",", "USA", "-LSB-", "JMM95", "-RSB-", "Jagadish", "HV", ",", "Mendelzon", "AO", ",", "Milo", "T", "-LRB-", "1995", "-RRB-", "Similarity-basedqueries", ".", "In", ":", "Proc", ".", "14th", "ACM", "SIGACT-SIGMOD-SIGART", "Symposium", "on", "Principles", "of", "Database", "Systems", ",", "pp", "36", "45", ",", "San", "Jose", ",", "Calif.", ",", "USA", "-LSB-", "KSF", "+", "96", "-RSB-", "Korn", "F", ",", "Sidiropoulos", "N", ",", "Faloutsos", "C", ",", "Siegel", "E", ",", "Protopa-pas", "Z", "-LRB-", "1996", "-RRB-", "Fast", "nearest", "neighbor", "search", "in", "medical", "image", "databases", ".", "In", ":", "Proc", ".", "22nd", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "pp", "215", "226", ",", "Mumbai", ",", "India", "-LSB-", "KSP95", "-RSB-", "Kauppinen", "H", ",", "Seppanen", "T", ",", "Pietikainen", "M", "-LRB-", "1995", "-RRB-", "An", "experimental", "comparison", "of", "autoregressive", "andFourier-baseddescriptors", "in", "2D", "shape", "classification", ".", "IEEE", "Trans", "Pattern", "Anal", "Mach", "Intell", "17", "-LRB-", "2", "-RRB-", ":", "201", "207", "-LSB-", "LJF94", "-RSB-", "Lin", "KI", ",", "Jagadish", "HV", ",", "Faloutsos", "C", "-LRB-", "1994", "-RRB-", "The", "TV-tree", "-", "an", "index", "structure", "for", "high-dimensional", "data", ".", "VLDB", "J", "3", "-LRB-", "4", "-RRB-", ":", "517", "542", "-LSB-", "L", "OSO97", "-RSB-", "Li", "JZ", ",", "Ozsu", "MT", ",", "Szafron", "D", ",", "Oria", "V", "-LRB-", "1997", "-RRB-", "MOQL", ":", "a", "multimedia", "object", "query", "language", ".", "In", ":", "Proc", ".", "3rd", "International", "Workshop", "on", "Multimedia", "Information", "Systems", ",", "pp", "19", "28", "-LSB-", "MG93", "-RSB-", "Mehrotra", "R", ",", "Gary", "JE", "-LRB-", "1993", "-RRB-", "Feature-basedretrieval", "of", "similar", "shapes", ".", "In", ":", "Proc", ".", "9th", "International", "Conference", "on", "Data", "Engineering", ",", "pp", "108", "115", ",", "Vienna", ",", "Austria", "-LSB-", "MM86", "-RSB-", "Mokhtarian", "F", ",", "MackworthA", "-LRB-", "1986", "-RRB-", "A", "scale-baseddescrip-tion", "andrecognition", "of", "planar", "curves", "andtwo", "dimensional", "shapes", ".", "IEEE", "Trans", "Pattern", "Anal", "Mach", "Intell", "8", "-LRB-", "1", "-RRB-", ":", "34", "43", "-LSB-", "PF77", "-RSB-", "Persoon", "E", ",", "Fu", "KS", "-LRB-", "1977", "-RRB-", "Shape", "discrimination", "using", "Fourier", "descriptors", ".", "IEEE", "Trans", "Syst", "Man", "Cybern", "7", "-LRB-", "2", "-RRB-", ":", "170", "179", "-LSB-", "PTVF92", "-RSB-", "Press", "WH", ",", "Teukolsky", "SA", ",", "Vetterling", "WT", ",", "Flannery", "BP", "-LRB-", "1992", "-RRB-", "Numerical", "recipes", "in", "C.", "Cambridge", "University", ",", "Cambridge", ",", "UK", "-LSB-", "Raf98", "-RSB-", "Rafiei", "D", "-LRB-", "1998", "-RRB-", "Fourier-transform", "basedtechniques", "in", "efficient", "retrieval", "of", "similar", "time", "sequences", ".", "PhD", "thesis", ",", "University", "of", "Toronto", "-LSB-", "RH74", "-RSB-", "RichardCW", ",", "Hemami", "H", "-LRB-", "1974", "-RRB-", "Identification", "of", "three-dimensional", "objects", "using", "Fourier", "descriptors", "of", "the", "boundary", "curve", ".", "IEEE", "Trans", "Syst", "Man", "Cybern", "4:371", "378", "-LSB-", "RKV95", "-RSB-", "Roussopoulos", "N", ",", "Kelley", "S", ",", "Vincent", "F", "-LRB-", "1995", "-RRB-", "Nearest", "neighbor", "queries", ".", "In", ":", "Proc", ".", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pp", "71", "79", ",", "San", "Jose", ",", "Calif.", ",", "USA", "-LSB-", "RM97", "-RSB-", "Rafiei", "D", ",", "Mendelzon", "AO", "-LRB-", "1997", "-RRB-", "Similarity-based", "queries", "for", "time", "series", "data", ".", "In", ":", "Proc", ".", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pp", "13", "24", ",", "Tucson", ",", "Ariz.", ",", "USA", "D.", "Rafiei", ",", "A.O.", "Mendelzon", ":", "Efficient", "retrieval", "of", "similar", "shapes", "27", "-LSB-", "RM00", "-RSB-", "Rafiei", "D", ",", "Mendelzon", "AO", "-LRB-", "2000", "-RRB-", "Querying", "time", "series", "data", "based", "on", "similarity", ".", "IEEE", "Trans", "Knowl", "Data", "Eng", "12", "-LRB-", "5", "-RRB-", ":", "675", "693", "-LSB-", "SK98", "-RSB-", "Seidl", "T", ",", "Kriegel", "HP", "-LRB-", "1998", "-RRB-", "Optimal", "multi-step", "nearest", "neighbour", "search", ".", "In", ":", "Proc", ".", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pp", "154", "165", ",", "Seattle", ",", "Wash.", ",", "USA", "-LSB-", "WW80", "-RSB-", "Wallace", "TP", ",", "Wintz", "PA", "-LRB-", "1980", "-RRB-", "An", "efficient", "three-dimensional", "aircraft", "recognition", "algorithm", "using", "normal-izedfourier", "descriptors", ".", "Comput", "Graph", "Image", "Process", "13:99", "126", "-LSB-", "ZR72", "-RSB-", "Zahn", "CT", ",", "Roskies", "RZ", "-LRB-", "1972", "-RRB-", "Fourier", "descriptors", "for", "plane", "closedcurves", ".", "IEEE", "Trans", "Comput", "21", "-LRB-", "3", "-RRB-", ":", "269", "281"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["search", "similarity queries", "database", "image databases", "shape classification", "fourier descriptors", "similarity retrieval", "fingerprint", "queries"], "abstractive_keyphrases": ["shape retrieval", "efficiency", "non textual objects", "handwriting recognition", "indexing techniques"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "84", "document": ["Entropy-based", "Sensor", "Selection", "Heuristic", "for", "Target", "Localization", "We", "propose", "an", "entropy-based", "sensor", "selection", "heuristic", "for", "localization", ".", "Given", "1", "-RRB-", "a", "prior", "probability", "distribution", "of", "the", "target", "location", ",", "and", "2", "-RRB-", "the", "locations", "and", "the", "sensing", "models", "of", "a", "set", "of", "candidate", "sensors", "for", "selection", ",", "the", "heuristic", "selects", "an", "informative", "sensor", "such", "that", "the", "fusion", "of", "the", "selected", "sensor", "observation", "with", "the", "prior", "target", "location", "distribution", "would", "yield", "on", "average", "the", "greatest", "or", "nearly", "the", "greatest", "reduction", "in", "the", "entropy", "of", "the", "target", "location", "distribution", ".", "The", "heuristic", "greedily", "selects", "one", "sensor", "in", "each", "step", "without", "retrieving", "any", "actual", "sensor", "observations", ".", "The", "heuristic", "is", "also", "computationally", "much", "simpler", "than", "the", "mutual-information-based", "approaches", ".", "The", "effectiveness", "of", "the", "heuristic", "is", "evaluated", "using", "localization", "simulations", "in", "which", "Gaussian", "sensing", "models", "are", "assumed", "for", "simplicity", ".", "The", "heuristic", "is", "more", "effective", "when", "the", "optimal", "candidate", "sensor", "is", "more", "informative", ".", "H.", "1.1", "-LSB-", "MODELS", "AND", "PRINCIPLES", "-RSB-", ":", "Systems", "and", "Information", "Theory", "--", "Information", "theory", ";", "C.", "2.4", "-LSB-", "COMPUTER-COMMUNICATION", "NETWORKS", "-RSB-", ":", "Distributed", "Systems", "--", "Distributed", "applications", "Algorithms", ",", "Management", ",", "Theory", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "IPSN", "'", "04", ",", "April", "26", "27", ",", "2004", ",", "Berkeley", ",", "California", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-846-6", "/", "04/0004", "...", "$", "5.00", ".", "The", "recent", "convergence", "of", "micro-electro-mechanical", "systems", "-LRB-", "MEMS", "-RRB-", "technology", ",", "wireless", "communication", "and", "networking", "technology", ",", "and", "low-cost", "low-power", "miniature", "digital", "hardware", "design", "technology", "has", "made", "the", "concept", "of", "wireless", "sensor", "networks", "viable", "and", "a", "new", "frontier", "of", "research", "-LSB-", "2", ",", "1", "-RSB-", ".", "The", "limited", "on-board", "energy", "storage", "and", "the", "limited", "wireless", "channel", "capacity", "are", "the", "major", "constraints", "of", "wireless", "sensor", "networks", ".", "In", "order", "to", "save", "precious", "resources", ",", "a", "sensing", "task", "should", "not", "involve", "more", "sensors", "than", "necessary", ".", "From", "the", "information-theoretic", "point", "of", "view", ",", "sensors", "are", "tasked", "to", "observe", "the", "target", "in", "order", "to", "increase", "the", "information", "-LRB-", "or", "to", "reduce", "the", "uncertainty", "-RRB-", "about", "the", "target", "state", ".", "The", "information", "gain", "attributable", "to", "one", "sensor", "may", "be", "very", "different", "from", "that", "attributable", "to", "another", "when", "sensors", "have", "different", "observation", "perspectives", "and", "sensing", "uncertainties", ".", "Selective", "use", "of", "informative", "sensors", "reduces", "the", "number", "of", "sensors", "needed", "to", "obtain", "information", "about", "the", "target", "state", "and", "therefore", "prolongs", "the", "system", "lifetime", ".", "In", "the", "scenario", "of", "localization", "or", "tracking", "using", "wireless", "sensor", "networks", ",", "the", "belief", "state", "of", "the", "target", "location", "can", "be", "gradually", "improved", "by", "repeatedly", "selecting", "the", "most", "informative", "unused", "sensor", "until", "the", "required", "accuracy", "-LRB-", "or", "uncertainty", "-RRB-", "level", "of", "the", "target", "state", "is", "achieved", ".", "There", "have", "been", "several", "investigations", "into", "information-theoretic", "approaches", "to", "sensor", "fusion", "and", "management", ".", "The", "idea", "of", "using", "information", "theory", "in", "sensor", "management", "was", "first", "proposed", "in", "-LSB-", "8", "-RSB-", ".", "Sensor", "selection", "based", "on", "expected", "information", "gain", "was", "introduced", "for", "decentralized", "sensing", "systems", "in", "-LSB-", "12", "-RSB-", ".", "The", "mutual", "information", "between", "the", "predicted", "sensor", "observation", "and", "the", "current", "target", "location", "distribution", "was", "proposed", "to", "evaluate", "the", "expected", "information", "gain", "about", "the", "target", "location", "attributable", "to", "a", "sensor", "in", "-LSB-", "11", ",", "6", "-RSB-", ".", "On", "the", "other", "hand", ",", "without", "using", "information", "theory", ",", "Yao", "et", ".", "al.", "-LSB-", "16", "-RSB-", "found", "that", "the", "overall", "localization", "accuracy", "depends", "on", "not", "only", "the", "accuracy", "of", "individual", "sensors", "but", "also", "the", "sensor", "locations", "relative", "to", "the", "target", "location", "during", "the", "development", "of", "localization", "algorithms", ".", "We", "propose", "a", "novel", "entropy-based", "heuristic", "for", "sensor", "selection", "based", "on", "our", "experiences", "with", "target", "localization", ".", "It", "is", "computationally", "more", "efficient", "than", "mutual-information-based", "methods", "proposed", "in", "-LSB-", "11", ",", "6", "-RSB-", ".", "36", "We", "use", "the", "following", "notations", "throughout", "this", "paper", ":", "1", ".", "S", "is", "the", "set", "of", "candidate", "sensors", "for", "selection", ",", "i", "S", "is", "the", "sensor", "index", ";", "2", ".", "x", "is", "the", "realization", "of", "the", "random", "vector", "that", "denotes", "the", "target", "location", ";", "3", ".", "x", "t", "is", "the", "actual", "target", "location", ";", "4", ".", "^", "x", "is", "the", "maximum", "likelihood", "estimate", "of", "the", "target", "location", ";", "5", ".", "x", "i", "is", "the", "deterministic", "location", "of", "sensor", "i", ";", "6", ".", "z", "i", "is", "the", "realization", "of", "the", "random", "variable", "that", "denotes", "the", "observation", "of", "sensor", "i", "about", "the", "target", "location", ";", "7", ".", "z", "ti", "is", "the", "actual", "observation", "of", "sensor", "i", "about", "the", "target", "location", ";", "8", ".", "z", "v", "i", "is", "the", "realization", "of", "the", "random", "variable", "that", "denotes", "the", "view", "of", "sensor", "i", "about", "the", "target", "location", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "describes", "the", "heuristic", "in", "detail", ".", "Section", "3", "evaluates", "the", "heuristic", "using", "simulations", ".", "Section", "4", "discusses", "the", "discrepancy", "between", "the", "heuristic", "and", "the", "mutual", "information", "based", "approaches", ".", "Section", "5", "outlines", "future", "work", ".", "Section", "6", "concludes", "the", "paper", ".", "Section", "7", "acknowledges", "the", "sponsors", ".", "This", "Sect", ".", "formulates", "the", "sensor", "selection", "problem", "in", "localization", ",", "presents", "the", "details", "of", "the", "entropy-based", "sensor", "selection", "heuristic", ",", "and", "discusses", "the", "relation", "between", "the", "entropy", "difference", "proposed", "in", "this", "paper", "and", "mutual", "information", "used", "in", "previous", "work", "about", "sensor", "selection", ".", "2.1", "Sensor", "Selection", "Problem", "in", "Localization", "There", "are", "several", "information", "measures", ".", "In", "this", "paper", ",", "we", "use", "Shannon", "entropy", "-LSB-", "14", "-RSB-", "to", "quantify", "the", "information", "gain", "-LRB-", "or", "uncertainty", "reduction", "-RRB-", "about", "the", "target", "location", "due", "to", "sensor", "observation", ".", "We", "adopt", "the", "greedy", "sensor", "selection", "strategy", "used", "in", "mutual-information-based", "approaches", "-LSB-", "11", ",", "6", "-RSB-", ".", "The", "greedy", "strategy", "gradually", "reduces", "the", "uncertainty", "of", "the", "target", "location", "distribution", "by", "repeatedly", "selecting", "the", "currently", "unused", "sensor", "with", "maximal", "expected", "information", "gain", ".", "The", "observation", "of", "the", "selected", "sensor", "is", "incorporated", "into", "the", "target", "location", "distribution", "using", "sequential", "Bayesian", "filtering", "-LSB-", "3", ",", "7", "-RSB-", ".", "The", "greedy", "sensor", "selection", "and", "the", "sequential", "information", "fusion", "continue", "until", "the", "uncertainty", "of", "the", "target", "location", "distribution", "is", "less", "than", "or", "equal", "to", "the", "required", "level", ".", "The", "core", "problem", "of", "the", "greedy", "sensor", "selection", "approach", "is", "how", "to", "efficiently", "evaluate", "the", "expected", "information", "gain", "attributable", "to", "each", "candidate", "sensor", "without", "actually", "retrieving", "sensor", "data", ".", "The", "sensor", "selection", "problem", "is", "formulated", "as", "follows", ".", "Given", "1", ".", "the", "prior", "target", "location", "distribution", ":", "p", "-LRB-", "x", "-RRB-", ",", "2", ".", "the", "locations", "of", "candidate", "sensors", "for", "selection", ":", "x", "i", ",", "i", "S", ",", "3", ".", "the", "sensing", "models", "of", "candidate", "sensors", "for", "selection", ":", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", ",", "i", "S", ",", "the", "objective", "is", "to", "find", "the", "sensor", "^", "i", "whose", "observation", "z", "^", "i", "minimizes", "the", "expected", "conditional", "entropy", "of", "the", "posterior", "target", "location", "distribution", ",", "^", "i", "=", "arg", "min", "iS", "H", "-LRB-", "x", "|", "z", "i", "-RRB-", ".", "-LRB-", "1", "-RRB-", "Equivalently", ",", "the", "observation", "of", "sensor", "^", "i", "maximizes", "the", "expected", "target", "location", "entropy", "reduction", ",", "^", "i", "=", "arg", "max", "iS", "-LRB-", "H", "-LRB-", "x", "-RRB-", "-", "H", "-LRB-", "x", "|", "z", "i", "-RRB-", "-RRB-", ".", "-LRB-", "2", "-RRB-", "H", "-LRB-", "x", "-RRB-", "-", "H", "-LRB-", "x", "|", "z", "i", "-RRB-", "is", "one", "expression", "of", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ",", "the", "mutual", "information", "between", "the", "target", "location", "x", "and", "the", "predicted", "sensor", "observation", "z", "i", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "=", "p", "-LRB-", "x", ",", "z", "i", "-RRB-", "log", "p", "-LRB-", "x", ",", "z", "i", "-RRB-", "p", "-LRB-", "x", "-RRB-", "p", "-LRB-", "z", "i", "-RRB-", "dxdz", "i", ",", "-LRB-", "3", "-RRB-", "where", "p", "-LRB-", "x", ",", "z", "i", "-RRB-", "=", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "p", "-LRB-", "x", "-RRB-", "and", "p", "-LRB-", "z", "i", "-RRB-", "=", "p", "-LRB-", "x", ",", "z", "i", "-RRB-", "dx", ".", "Thus", ",", "the", "observation", "of", "sensor", "^", "i", "maximizes", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ",", "^", "i", "=", "arg", "max", "iS", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "-LRB-", "4", "-RRB-", "Sensor", "selection", "based", "on", "-LRB-", "4", "-RRB-", "is", "the", "maximal", "mutual", "information", "criterion", "proposed", "in", "-LSB-", "11", ",", "6", "-RSB-", ".", "The", "target", "location", "x", "could", "be", "of", "up", "to", "three", "dimensions", ".", "The", "sensor", "observation", "z", "i", "-LRB-", "e.g.", "the", "direction", "to", "a", "target", "in", "a", "three-dimensional", "space", "-RRB-", "could", "be", "of", "up", "to", "two", "dimensions", ".", "Therefore", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "is", "a", "complex", "integral", "in", "the", "joint", "state", "space", "-LRB-", "x", ",", "z", "i", "-RRB-", "of", "up", "to", "five", "dimensions", ".", "The", "complexity", "of", "computing", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "could", "be", "more", "than", "that", "low-end", "sensor", "nodes", "are", "capable", "of", ".", "If", "the", "observation", "z", "i", "is", "related", "to", "the", "target", "location", "x", "only", "through", "the", "sufficient", "statistics", "z", "-LRB-", "x", "-RRB-", ",", "then", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "=", "I", "-LRB-", "z", "-LRB-", "x", "-RRB-", ";", "z", "i", "-RRB-", ".", "-LRB-", "5", "-RRB-", "If", "z", "-LRB-", "x", "-RRB-", "has", "fewer", "dimensions", "than", "x", ",", "then", "I", "-LRB-", "z", "-LRB-", "x", "-RRB-", ";", "z", "i", "-RRB-", "is", "less", "complex", "to", "compute", "than", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "In", "the", "above", "special", "scenario", ",", "I", "-LRB-", "z", "-LRB-", "x", "-RRB-", ";", "z", "i", "-RRB-", "has", "been", "proposed", "to", "replace", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "to", "reduce", "the", "complexity", "of", "computing", "mutual", "information", "in", "-LSB-", "11", "-RSB-", ".", "In", "this", "paper", ",", "we", "propose", "an", "alternative", "entropy-based", "sensor", "selection", "heuristic", ".", "In", "general", ",", "the", "entropy-based", "sensor", "selection", "heuristic", "is", "computationally", "much", "simpler", "than", "the", "mutual", "information", "based", "approaches", ".", "However", ",", "the", "observation", "of", "the", "sensor", "selected", "by", "the", "heuristic", "would", "still", "yield", "on", "average", "the", "greatest", "or", "nearly", "the", "greatest", "entropy", "reduction", "of", "the", "target", "location", "distribution", ".", "2.2", "Entropy-based", "Sensor", "Selection", "Heuristic", "During", "the", "development", "of", "wireless", "sensor", "networks", "for", "localization", ",", "we", "have", "observed", "that", "the", "localization", "uncertainty", "reduction", "attributable", "to", "a", "sensor", "is", "greatly", "effected", "by", "the", "difference", "of", "two", "quantities", ",", "namely", ",", "the", "entropy", "of", "the", "distribution", "of", "that", "sensor", "'s", "view", "about", "the", "target", "location", ",", "and", "the", "entropy", "of", "that", "sensor", "'s", "sensing", "model", "for", "the", "actual", "target", "location", ".", "A", "sensor", "'s", "view", "about", "the", "target", "location", "is", "the", "geometric", "projection", "of", "the", "target", "location", "onto", "that", "sensor", "'s", "observation", "perspective", ".", "For", "example", ",", "a", "direction-of-arrival", "-LRB-", "DOA", "-RRB-", "sensor", "'s", "view", "of", "the", "target", "location", "is", "the", "direction", "from", "the", "sensor", "to", "the", "target", ".", "The", "view", "of", "sensor", "i", "about", "the", "target", "location", "is", "denoted", "as", "z", "v", "i", ",", "which", "is", "a", "function", "of", "the", "target", "location", "x", "and", "the", "sensor", "location", "x", "i", ",", "z", "v", "i", "=", "f", "-LRB-", "x", ",", "x", "i", "-RRB-", ".", "-LRB-", "6", "-RRB-", "z", "v", "i", "usually", "has", "less", "dimensions", "than", "x", ".", "The", "probability", "distribution", "of", "the", "view", "of", "sensor", "i", "about", "the", "target", "location", ",", "p", "-LRB-", "z", "v", "i", "-RRB-", ",", "is", "the", "projection", "of", "the", "target", "location", "distribution", "p", "-LRB-", "x", "-RRB-", "onto", "the", "observation", "perspective", "of", "sensor", "i", ",", "p", "-LRB-", "z", "v", "i", "-RRB-", "dz", "v", "i", "=", "z", "v", "i", "f", "-LRB-", "x", ",", "x", "i", "-RRB-", "z", "v", "i", "+", "dz", "v", "i", "p", "-LRB-", "x", "-RRB-", "dx", ".", "-LRB-", "7", "-RRB-", "Alternatively", ",", "p", "-LRB-", "z", "v", "i", "-RRB-", "can", "be", "regarded", "as", "the", "`", "noise", "free", "'", "prediction", "of", "the", "sensor", "observation", "distribution", "p", "-LRB-", "z", "i", "-RRB-", "based", "on", "the", "target", "location", "distribution", "p", "-LRB-", "x", "-RRB-", ".", "37", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "x", "10", "-4", "East", "North", "38", "o", "36", "o", "0", "o", "100", "200", "300", "400", "50", "100", "150", "200", "250", "300", "350", "400", "Figure", "1", ":", "A", "DOA", "sensor", "'s", "view", "about", "the", "target", "location", ".", "Thestatespaceof", "thetarge", "t", "location", "is", "gridded", "in", "1", "1", "cells", ".", "Theimagedepicts", "theprobability", "distribution", "of", "thetarget", "location", ".", "Theactual", "target", "location", "is", "-LRB-", "200", ",", "200", "-RRB-", ",", "denoted", "by", "marker", "+", ".", "From", "the", "perspective", "of", "the", "DOA", "sensor", "denoted", "by", "the", "square", ",", "only", "the", "direction", "to", "the", "target", "is", "observable", ".", "The", "view", "of", "the", "DOA", "sensor", "about", "the", "target", "is", "in", "the", "interval", "-LSB-", "36", "o", ",", "38", "o", "-RSB-", "if", "and", "only", "if", "the", "target", "is", "inside", "the", "sector", "delimited", "by", "36", "o", "lineand", "38", "o", "line", ".", "In", "practice", ",", "the", "state", "space", "of", "the", "target", "location", "and", "the", "sensor", "view", "can", "be", "discretized", "by", "griding", "for", "numerical", "analysis", ".", "The", "discrete", "representation", "of", "p", "-LRB-", "z", "v", "i", "-RRB-", "can", "be", "computed", "as", "follows", ".", "1", ".", "Let", "X", "be", "the", "grid", "set", "of", "the", "target", "location", "x", ";", "2", ".", "Let", "Z", "be", "the", "grid", "set", "of", "the", "sensor", "view", "z", "v", "i", ";", "3", ".", "For", "each", "grid", "point", "z", "v", "i", "Z", ",", "initialize", "p", "-LRB-", "z", "v", "i", "-RRB-", "to", "zero", ";", "4", ".", "For", "each", "grid", "point", "x", "X", ",", "determine", "the", "corresponding", "grid", "point", "z", "v", "i", "Z", "using", "equation", "-LRB-", "6", "-RRB-", ",", "and", "update", "its", "probability", "as", "p", "-LRB-", "z", "v", "i", "-RRB-", "=", "p", "-LRB-", "z", "v", "i", "-RRB-", "+", "p", "-LRB-", "x", "-RRB-", ";", "5", ".", "Normalize", "p", "-LRB-", "z", "v", "i", "-RRB-", "to", "make", "the", "total", "probability", "of", "the", "sensor", "view", "be", "1", ".", "The", "numerical", "computation", "of", "p", "-LRB-", "z", "v", "i", "-RRB-", "for", "a", "DOA", "sensor", "is", "illustrated", "in", "Fig.", "1", "and", "Fig.", "2", ".", "The", "entropy", "of", "the", "probability", "distribution", "of", "the", "view", "of", "sensor", "i", ",", "H", "v", "i", ",", "is", "H", "v", "i", "=", "p", "-LRB-", "z", "v", "i", "-RRB-", "log", "p", "-LRB-", "z", "v", "i", "-RRB-", "dz", "v", "i", ".", "-LRB-", "8", "-RRB-", "Given", "the", "discrete", "representation", "of", "p", "-LRB-", "z", "v", "i", "-RRB-", "with", "a", "grid", "size", "of", "z", "v", "i", ",", "H", "v", "i", "can", "be", "numerically", "computed", "as", "H", "v", "i", "=", "p", "-LRB-", "z", "v", "i", "-RRB-", "log", "p", "-LRB-", "z", "v", "i", "-RRB-", "z", "v", "i", ".", "-LRB-", "9", "-RRB-", "The", "sensing", "model", "of", "sensor", "i", "for", "the", "actual", "target", "location", "x", "t", "is", "p", "-LRB-", "z", "i", "|", "x", "t", "-RRB-", ",", "which", "describes", "the", "probability", "distribution", "of", "the", "observation", "of", "sensor", "i", "given", "that", "the", "target", "is", "at", "x", "t", ".", "The", "sensing", "model", "incorporates", "observation", "uncertainty", "from", "all", "sources", ",", "including", "the", "noise", "corruption", "to", "the", "signal", ",", "the", "signal", "modeling", "error", "of", "the", "sensor", "estimation", "algorithm", ",", "and", "the", "inaccuracy", "of", "the", "sensor", "hardware", ".", "For", "a", "single-modal", "target", "location", "distribution", "p", "-LRB-", "x", "-RRB-", ",", "we", "can", "use", "the", "maximum", "10", "20", "30", "40", "50", "60", "70", "80", "0", "0.02", "0.04", "0.06", "0.08", "0.1", "0.12", "DOA", "-LRB-", "degree", "-RRB-", "Probability", "Figure2", ":", "Thediscreteprobability", "distribution", "of", "a", "DOA", "se", "nsor", "'s", "vie", "w.", "Thestatespaceof", "theDOA", "sensor", "view", "is", "gridded", "in", "2", "o", "intervals", ".", "The", "target", "location", "distribution", "and", "theDOA", "sensor", "location", "are", "illustrated", "in", "Fig.", "1", ".", "Marker", "X", "denotes", "the", "probability", "of", "the", "DOA", "view", "interval", "-LSB-", "36", "o", ",", "38", "o", "-RSB-", ",", "which", "is", "the", "summation", "of", "theprobability", "of", "all", "target", "locations", "inside", "the", "sector", "delimited", "by", "36", "o", "lineand", "38", "o", "line", "in", "Fig.", "1", ".", "Please", "note", "that", "the", "sensor", "view", "distribution", "does", "not", "depends", "on", "the", "sensing", "uncertainty", "characteristics", "at", "all", ".", "likelihood", "estimate", "^", "x", "of", "the", "target", "location", "to", "approximate", "the", "actual", "target", "location", "x", "t", ".", "Thus", "the", "entropy", "of", "the", "sensing", "model", "of", "sensor", "i", "for", "the", "actual", "target", "location", "x", "t", "is", "approximated", "as", "H", "si", "=", "p", "-LRB-", "z", "i", "|", "^", "x", "-RRB-", "log", "p", "-LRB-", "z", "i", "|", "^", "x", "-RRB-", "dz", "i", ".", "-LRB-", "10", "-RRB-", "For", "a", "multi-modal", "target", "location", "distribution", "p", "-LRB-", "x", "-RRB-", "with", "M", "peaks", "^", "x", "-LRB-", "m", "-RRB-", ",", "where", "m", "=", "1", ",", "...", ",", "M", ",", "the", "entropy", "of", "the", "sensing", "model", "of", "sensor", "i", "for", "the", "actual", "target", "location", "x", "t", "can", "be", "approximated", "as", "a", "weighted", "average", "of", "the", "entropy", "of", "the", "sensing", "model", "for", "all", "modes", ",", "H", "si", "=", "M", "m", "=", "1", "p", "-LRB-", "^", "x", "-LRB-", "m", "-RRB-", "-RRB-", "p", "-LRB-", "z", "i", "|", "^", "x", "-LRB-", "m", "-RRB-", "-RRB-", "log", "p", "-LRB-", "z", "i", "|", "^", "x", "-LRB-", "m", "-RRB-", "-RRB-", "dz", "i", ".", "-LRB-", "11", "-RRB-", "Given", "a", "target", "location", "distribution", "p", "-LRB-", "x", "-RRB-", ",", "the", "target", "location", "with", "maximum", "likelihood", "or", "local", "maximum", "likelihood", "can", "be", "found", "using", "standard", "search", "algorithms", ".", "We", "have", "repeatedly", "observed", "that", "the", "incorporation", "of", "the", "observation", "of", "sensor", "i", "with", "larger", "entropy", "difference", "H", "v", "i", "-", "H", "si", "yields", "on", "average", "larger", "reduction", "in", "the", "uncertainty", "of", "the", "posterior", "target", "location", "distribution", "p", "-LRB-", "x", "|", "z", "i", "-RRB-", ".", "Therefore", ",", "given", "a", "prior", "target", "location", "distribution", "and", "the", "location", "and", "the", "sensing", "uncertainty", "model", "of", "a", "set", "of", "candidate", "sensors", "for", "selection", ",", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "can", "sort", "candidate", "sensors", "into", "nearly", "the", "same", "order", "as", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "does", ".", "Specifically", ",", "the", "sensor", "with", "the", "maximal", "entropy", "difference", "H", "v", "i", "-", "H", "si", "also", "has", "the", "maximum", "or", "nearly", "the", "maximal", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "Hence", "we", "propose", "to", "use", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "as", "an", "alternative", "to", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "for", "selecting", "38", "the", "most", "informative", "sensor", ".", "The", "entropy-based", "heuristic", "is", "to", "compute", "H", "v", "i", "-", "H", "si", "for", "every", "candidate", "sensor", "i", "S", "and", "then", "to", "select", "sensor", "^", "i", "such", "that", "^", "i", "=", "arg", "max", "iS", "-LRB-", "H", "v", "i", "-", "H", "si", "-RRB-", ".", "-LRB-", "12", "-RRB-", "In", "Sect.", "3", ",", "the", "validity", "of", "the", "heuristic", "is", "evaluated", "using", "simulations", "and", "the", "complexity", "of", "the", "heuristic", "is", "analyzed", "for", "two-dimensional", "localization", ".", "The", "entropy-based", "sensor", "selection", "heuristic", "works", "nearly", "as", "well", "as", "the", "mutual-information", "-", "based", "approaches", ".", "In", "addition", ",", "the", "heuristic", "is", "computationally", "much", "simpler", "than", "mutual", "information", ".", "2.3", "Relation", "of", "Entropy", "Difference", "and", "Mutual", "Information", "A", "brief", "analysis", "of", "the", "relation", "between", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "helps", "to", "reveal", "fundamental", "properties", "of", "our", "sensor", "selection", "heuristic", ".", "Mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "has", "another", "expression", ",", "namely", ",", "H", "-LRB-", "z", "i", "-RRB-", "-", "H", "-LRB-", "z", "i", "|", "x", "-RRB-", ".", "The", "entropy", "difference", "H", "v", "i", "-", "H", "si", "is", "closely", "related", "to", "H", "-LRB-", "z", "i", "-RRB-", "-", "H", "-LRB-", "z", "i", "|", "x", "-RRB-", ".", "H", "-LRB-", "z", "i", "-RRB-", "is", "the", "entropy", "of", "the", "predicted", "sensor", "observation", "distribution", "p", "-LRB-", "z", "i", "-RRB-", ",", "H", "-LRB-", "z", "i", "-RRB-", "=", "p", "-LRB-", "z", "i", "-RRB-", "log", "p", "-LRB-", "z", "i", "-RRB-", "dz", "i", ".", "-LRB-", "13", "-RRB-", "The", "predicted", "sensor", "observation", "distribution", "p", "-LRB-", "z", "i", "-RRB-", "becomes", "the", "sensor", "'s", "view", "distribution", "p", "-LRB-", "z", "v", "i", "-RRB-", "when", "the", "sensing", "model", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "is", "deterministic", "without", "uncertainty", ".", "The", "uncertainty", "in", "the", "sensing", "model", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "makes", "H", "-LRB-", "z", "i", "-RRB-", "larger", "than", "the", "sensor", "'s", "view", "entropy", "H", "v", "i", "defined", "in", "-LRB-", "8", "-RRB-", ".", "H", "v", "i", "closely", "approximates", "H", "-LRB-", "z", "i", "-RRB-", "when", "the", "entropy", "of", "the", "sensing", "model", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "is", "small", "relative", "to", "H", "v", "i", ".", "H", "-LRB-", "z", "i", "|", "x", "-RRB-", "is", "actually", "the", "expected", "entropy", "of", "the", "sensing", "model", "p", "-LRB-", "x", "-RRB-", "averaged", "for", "all", "possible", "target", "locations", ",", "H", "-LRB-", "z", "i", "|", "x", "-RRB-", "=", "p", "-LRB-", "x", ",", "z", "i", "-RRB-", "log", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "dxdz", "i", "=", "p", "-LRB-", "x", "-RRB-", "-LCB-", "-", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "log", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "dz", "i", "-RCB-", "dx", ".", "-LRB-", "14", "-RRB-", "When", "p", "-LRB-", "x", "-RRB-", "is", "a", "single-modal", "distribution", ",", "H", "si", "is", "defined", "in", "-LRB-", "10", "-RRB-", ",", "which", "is", "the", "entropy", "of", "the", "sensing", "model", "for", "the", "most", "likely", "target", "location", "estimate", "^", "x", ".", "When", "p", "-LRB-", "x", "-RRB-", "is", "a", "multi-modal", "distribution", ",", "H", "si", "is", "defined", "in", "-LRB-", "11", "-RRB-", ",", "which", "is", "the", "average", "entropy", "of", "the", "sensing", "model", "for", "all", "target", "locations", "with", "local", "maximal", "likelihood", ".", "When", "the", "entropy", "of", "the", "sensing", "model", ",", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "log", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "dz", "i", ",", "changes", "gradually", "with", "x", ",", "H", "si", "can", "reasonably", "approximate", "H", "-LRB-", "z", "i", "|", "x", "-RRB-", ".", "The", "entropy", "difference", "H", "v", "i", "-", "H", "si", "reasonably", "approximates", "the", "mutual", "information", "H", "-LRB-", "z", "i", "-RRB-", "-", "H", "-LRB-", "z", "i", "|", "x", "-RRB-", "when", "H", "si", "is", "small", "relative", "to", "H", "v", "i", "and", "the", "entropy", "of", "the", "sensing", "model", "changes", "gradually", "with", "x.", "However", ",", "selection", "of", "the", "most", "informative", "sensor", "does", "not", "require", "an", "exact", "evaluation", "of", "sensor", "information", "utility", ".", "Instead", ",", "an", "order", "of", "sensors", "in", "terms", "of", "information", "utility", "is", "needed", ".", "H", "v", "i", "-", "H", "si", "could", "sort", "sensors", "into", "approximately", "the", "same", "order", "as", "mutual", "information", "does", ".", "Therefore", ",", "a", "sensor", "with", "the", "maximal", "entropy", "difference", "H", "v", "i", "-", "H", "si", "also", "has", "the", "maximal", "or", "nearly", "the", "maximal", "mutual", "information", ".", "The", "correlation", "between", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "is", "analyzed", "using", "simulations", "in", "Sect.", "3", ".", "Section", "4", "discusses", "the", "discrepancy", "between", "the", "heuristic", "and", "the", "mutual", "information", "based", "approaches", ".", "This", "Sect", ".", "presents", "the", "evaluation", "of", "the", "entropy-based", "sensor", "selection", "heuristic", "using", "simulations", ".", "The", "computational", "complexity", "of", "the", "heuristic", "is", "also", "analyzed", ".", "The", "Gaussian", "noise", "model", "has", "been", "widely", "assumed", "for", "sensor", "observations", "in", "many", "localization", "and", "tracking", "algorithms", ",", "e.g.", "the", "Kalman", "filter", "-LSB-", "9", "-RSB-", ".", "Successes", "of", "these", "algorithms", "indicate", "that", "the", "Gaussian", "sensing", "model", "is", "a", "reasonable", "first-order-approximation", "of", "the", "reality", ".", "As", "a", "starting", "point", ",", "we", "assume", "Gaussian", "sensing", "models", "in", "the", "evaluative", "simulations", "for", "simplicity", ".", "The", "simple", "Gaussian", "sensing", "models", "assumed", "here", "are", "not", "accurate", "especially", "when", "sensors", "are", "very", "close", "to", "the", "target", ".", "To", "avoid", "the", "problem", "of", "over-simplified", "sensing", "models", "in", "the", "simulations", ",", "we", "only", "analyze", "sensors", "with", "some", "middle", "distance", "range", "to", "the", "target", ".", "The", "heuristic", "will", "be", "evaluated", "further", "under", "more", "realistic", "sensing", "models", "in", "the", "future", ".", "Four", "scenarios", "of", "sensor", "selection", "for", "localization", "have", "been", "studied", ".", "Three", "of", "them", "involve", "DOA", "sensors", ",", "range", "sensors", ",", "or", "time-difference-of-arrival", "-LRB-", "TDOA", "-RRB-", "sensors", "respectively", ".", "One", "of", "them", "involves", "all", "of", "the", "above", "sensors", "mixed", "together", ".", "In", "every", "sensor", "selection", "scenario", ",", "both", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "are", "evaluated", "and", "compared", "for", "all", "candidate", "sensors", ".", "In", "all", "sensor", "selection", "scenarios", ",", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "can", "sort", "all", "candidate", "sensors", "into", "nearly", "the", "same", "order", "as", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "does", ".", "Therefore", ",", "the", "sensor", "with", "the", "maximal", "entropy", "difference", "H", "v", "i", "-", "H", "si", "selected", "by", "the", "heuristic", "always", "has", "the", "maximum", "or", "nearly", "the", "maximal", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "The", "larger", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "are", ",", "the", "more", "consistent", "their", "sensor", "selection", "decisions", "are", ".", "3.1", "Selection", "of", "DOA", "Sensors", "Consider", "now", "entropy-based", "sensor", "selection", "when", "all", "candidate", "sensors", "are", "DOA", "sensors", ",", "as", "depicted", "in", "Fig.", "3", ".", "The", "prior", "probability", "distribution", "p", "-LRB-", "x", "-RRB-", "of", "the", "target", "location", "x", "is", "non-zero", "in", "a", "limited", "area", ".", "We", "assume", "the", "unbiased", "Gaussian", "sensing", "models", "for", "DOA", "sensors", "in", "some", "middle", "distance", "range", "to", "the", "target", ".", "Specifically", ",", "given", "a", "target", "location", "such", "that", "10", "x", "-", "x", "i", "600", ",", "the", "probability", "distribution", "of", "DOA", "observation", "z", "i", "is", "assumed", "to", "be", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "=", "1", "2", "e", "-", "-LRB-", "z", "i", "-", "z", "v", "i", "-RRB-", "2", "/", "-LRB-", "2", "2", "-RRB-", ",", "-LRB-", "15", "-RRB-", "where", "z", "v", "i", "=", "f", "-LRB-", "x", ",", "x", "i", "-RRB-", "is", "the", "direction", "from", "sensor", "i", "to", "the", "target", "location", "x.", "For", "many", "DOA", "estimation", "algorithms", "like", "the", "approximate", "maximum", "likelihood", "-LRB-", "AML", "-RRB-", "algorithm", "-LSB-", "4", "-RSB-", ",", "DOA", "estimation", "usually", "becomes", "much", "more", "uncertain", "when", "the", "candidate", "sensor", "is", "either", "very", "near", "or", "very", "far", "from", "the", "target", ".", "In", "this", "scenario", ",", "we", "exclude", "sensors", "that", "are", "either", "outside", "the", "study", "area", "or", "within", "a", "distance", "of", "10", "to", "the", "area", "of", "non-zero", "p", "-LRB-", "x", "-RRB-", ".", "The", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "of", "DOA", "sensors", "are", "evaluated", "and", "compared", "in", "five", "cases", ".", "In", "each", "case", ",", "Gaussian", "sensing", "models", "of", "the", "same", "standard", "deviation", "are", "assumed", "for", "all", "100", "candidate", "sensors", ".", "However", ",", "the", "standard", "deviation", "varies", "with", "the", "case", ".", "As", "shown", "in", "fig.", "4", ",", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "vs", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "is", "plotted", "for", "all", "candidate", "sensors", "in", "all", "cases", ".", "Mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "increases", "nearly", "monotonically", "with", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", ".", "The", "larger", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "are", ",", "the", "more", "correlated", "they", "are", ".", "Therefore", ",", "39", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "x", "10", "-4", "100", "200", "300", "400", "50", "100", "150", "200", "250", "300", "350", "400", "Figure", "3", ":", "Scenario", "of", "sensor", "selection", "for", "localization", "using", "DOA", "sensors", "exclusively", ".", "The", "image", "depicts", "theprior", "probability", "distribution", "p", "-LRB-", "x", "-RRB-", "of", "thetarget", "location", "x.", "p", "-LRB-", "x", "-RRB-", "is", "zero", "outside", "the", "solid", "rectangle", ".", "The", "actual", "target", "location", "is", "-LRB-", "200", ",", "200", "-RRB-", ",", "denoted", "by", "marker", "+", ".", "The", "squares", "denote", "candidate", "DOA", "sensors", "for", "selection", ".", "100", "DOA", "sensors", "are", "uniformly", "randomly", "placed", "outside", "the", "dotted", "rectangle", ".", "The", "gap", "between", "the", "solid", "rectangle", "and", "the", "dotted", "rect-angleis", "10", ".", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "sorts", "DOA", "sensors", "in", "nearly", "the", "same", "order", "as", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "does", ",", "especially", "when", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "is", "large", ".", "The", "candidate", "DOA", "sensor", "selected", "by", "the", "proposed", "heuristic", "has", "the", "maximal", "entropy", "difference", "H", "v", "i", "-", "H", "si", ",", "and", "also", "has", "the", "maximal", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "3.2", "Selection", "of", "Range", "Sensors", "and", "TDOA", "Sensors", "This", "Subsect", ".", "evaluates", "the", "entropy-based", "sensor", "selection", "heuristic", "for", "range", "sensors", "and", "TDOA", "sensors", "respectively", ".", "Fig.", "5", "shows", "the", "sensor", "selection", "scenario", "in", "which", "all", "candidate", "sensors", "can", "only", "measure", "the", "range", "to", "the", "target", ".", "The", "prior", "probability", "distribution", "p", "-LRB-", "x", "-RRB-", "of", "the", "target", "location", "x", "is", "non-zero", "in", "a", "limited", "area", ".", "We", "assume", "the", "unbiased", "Gaussian", "sensing", "models", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "for", "range", "sensors", "used", "in", "-LSB-", "13", "-RSB-", ".", "When", "the", "actual", "range", "is", "small", "relative", "to", "the", "standard", "deviation", "of", "the", "Gaussian", "sensing", "model", ",", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "is", "significantly", "greater", "than", "zero", "even", "for", "negative", "values", "of", "range", "observation", "z", "i", ".", "Because", "a", "range", "of", "negative", "value", "has", "no", "physical", "meaning", ",", "the", "above", "Gaussian", "sensing", "model", "is", "not", "valid", "for", "short", "ranges", ".", "To", "avoid", "the", "above", "difficulty", "of", "the", "Gaussian", "sensing", "model", ",", "we", "only", "consider", "candidate", "sensors", "in", "some", "middle", "distance", "range", "to", "the", "target", ".", "Specifically", ",", "in", "this", "range", "sensor", "selection", "scenario", ",", "we", "exclude", "sensors", "that", "are", "either", "outside", "the", "study", "area", "or", "within", "a", "distance", "of", "32", "to", "the", "area", "of", "non-zero", "p", "-LRB-", "x", "-RRB-", ".", "Fig.", "6", "shows", "the", "sensor", "selection", "scenario", "in", "which", "only", "TDOA", "sensors", "are", "used", ".", "The", "prior", "probability", "distribution", "p", "-LRB-", "x", "-RRB-", "of", "the", "target", "location", "x", "is", "non-zero", "in", "a", "limited", "area", ".", "As", "in", "-LSB-", "15", "-RSB-", ",", "the", "signal", "arrival", "time", "difference", "observed", "by", "every", "TDOA", "sensor", "is", "relative", "to", "a", "common", "reference", "sensor", ".", "We", "-2", "-1", "0", "1", "2", "3", "4", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "4", "Entropy", "difference", "-LRB-", "bit", "-RRB-", "Mutual", "information", "-LRB-", "bit", "-RRB-", "=", "32", "=", "16", "=", "8", "=", "4", "=", "2", "Figure4", ":", "Mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "vs", "entropy", "difference", "H", "v", "i", "-", "H", "si", "of", "DOA", "sensors", ".", "Each", "symbol", "denotes", "-LRB-", "H", "v", "i", "-", "H", "si", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "-RRB-", "pair", "evaluated", "for", "one", "candidatese", "nsor", ".", "Theprior", "targe", "t", "location", "distribution", "and", "the", "candidate", "sensor", "placements", "are", "shown", "in", "Fig.", "3", ".", "Five", "cases", "with", "different", "standard", "deviation", "of", "Gaussian", "sensing", "models", "are", "studied", ".", "In", "each", "case", ",", "all", "candidate", "sensors", "are", "assumed", "to", "have", "the", "same", "value", ".", "also", "assume", "the", "unbiased", "Gaussian", "sensing", "models", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "for", "TDOA", "sensors", ".", "In", "order", "to", "be", "comparable", "with", "scenarios", "of", "DOA", "sensors", "and", "range", "sensors", ",", "we", "only", "consider", "TDOA", "sensors", "in", "middle", "range", "distance", "to", "the", "target", ".", "Specifically", ",", "we", "exclude", "TDOA", "sensors", "that", "are", "either", "outside", "the", "study", "area", "or", "within", "a", "distance", "of", "10", "to", "the", "area", "of", "non-zero", "p", "-LRB-", "x", "-RRB-", ".", "Following", "the", "same", "approach", "to", "the", "heuristic", "evaluation", "for", "DOA", "sensors", ",", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "of", "every", "candidate", "sensor", "are", "evaluated", "and", "compared", "for", "range", "sensor", "selection", "scenario", "in", "Fig.", "5", "and", "for", "TDOA", "sensor", "selection", "scenario", "in", "Fig.", "6", "respectively", ".", "Mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "vs", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "is", "plotted", "in", "Fig.", "7", "for", "all", "range", "sensors", "and", "in", "Fig.", "8", "for", "all", "TDOA", "sensors", ".", "In", "both", "scenarios", ",", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "increases", "nearly", "monotonically", "with", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", ".", "The", "larger", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "are", ",", "the", "more", "correlated", "they", "are", ".", "Using", "the", "proposed", "heuristic", ",", "both", "the", "selected", "range", "sensor", "and", "the", "selected", "TDOA", "sensor", "have", "the", "maximal", "entropy", "difference", "H", "v", "i", "-", "H", "si", ",", "and", "also", "have", "nearly", "the", "maximal", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "3.3", "Selection", "of", "Mixed", "Sensors", "In", "order", "to", "evaluate", "the", "entropy-based", "sensor", "selection", "heuristic", "across", "different", "sensing", "modalities", ",", "this", "Subsect", ".", "is", "devoted", "to", "the", "sensor", "selection", "scenario", "in", "which", "candidate", "sensors", "are", "a", "mixture", "of", "DOA", "sensors", ",", "range", "sensors", "and", "TDOA", "sensors", ".", "Fig.", "9", "shows", "the", "sensor", "selection", "scenario", "for", "mixed", "candidate", "sensors", ".", "Each", "candidate", "sensor", "is", "randomly", "assigned", "one", "of", "three", "sensing", "modalities", ",", "namely", ",", "DOA", ",", "range", ",", "and", "TDOA", ".", "Gaussian", "sensing", "models", "are", "assumed", "for", "all", "candidate", "sensors", "with", "middle", "range", "distance", "to", "the", "target", ".", "Each", "40", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "x", "10", "-4", "100", "200", "300", "400", "50", "100", "150", "200", "250", "300", "350", "400", "Figure", "5", ":", "Scenario", "of", "sensor", "selection", "for", "localization", "using", "rangese", "nsors", ".", "Theimagede", "picts", "theprior", "probability", "distribution", "p", "-LRB-", "x", "-RRB-", "of", "thetarget", "location", "x.", "p", "-LRB-", "x", "-RRB-", "is", "zero", "outside", "the", "solid", "rectangle", ".", "The", "actual", "target", "location", "is", "-LRB-", "200", ",", "200", "-RRB-", ",", "denoted", "by", "marker", "+", ".", "The", "circles", "denote", "candidate", "range", "sensors", "for", "selection", ".", "100", "range", "sensors", "are", "uniformly", "randomly", "placed", "outside", "the", "dotted", "rectangle", ".", "The", "gap", "between", "the", "solid", "rectangle", "and", "the", "dotted", "rectangle", "is", "32", ".", "candidate", "sensor", "is", "also", "randomly", "assigned", "one", "of", "five", "values", "of", "the", "standard", "deviation", "of", "the", "sensing", "model", ",", "namely", ",", "2", ",", "4", ",", "8", ",", "16", ",", "and", "32", ".", "100", "candidate", "sensors", "are", "uniformly", "randomly", "placed", "in", "the", "vicinity", "of", "the", "prior", "target", "location", "estimation", ".", "In", "order", "to", "avoid", "the", "difficulties", "of", "Gaussian", "sensing", "models", "for", "DOA", "sensors", "and", "range", "sensors", "close", "to", "the", "target", ",", "we", "exclude", "sensors", "either", "outside", "the", "study", "area", "or", "within", "a", "distance", "of", "32", "to", "the", "non-zero", "area", "of", "the", "prior", "target", "location", "distribution", "p", "-LRB-", "x", "-RRB-", ".", "The", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "of", "every", "candidate", "sensor", "are", "evaluated", "and", "plotted", "in", "Fig.", "10", ".", "The", "correlation", "between", "H", "v", "i", "-", "H", "si", "and", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "of", "mixed", "sensors", "is", "very", "similar", "to", "the", "correlation", "between", "H", "v", "i", "-", "H", "si", "and", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "of", "sensors", "with", "single", "modality", ".", "Across", "various", "sensing", "modalities", ",", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "increases", "nearly", "monotonically", "with", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", ".", "Therefore", ",", "across", "various", "sensing", "modalities", ",", "the", "candidate", "sensor", "with", "the", "maximal", "entropy", "difference", "H", "v", "i", "-", "H", "si", ",", "selected", "by", "the", "proposed", "heuristic", ",", "has", "the", "maximal", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "3.4", "Computational", "Complexity", "Computational", "complexity", "analysis", "is", "an", "important", "part", "of", "the", "evaluation", "of", "the", "heuristic", ".", "We", "will", "analyze", "the", "complexity", "of", "the", "heuristic", "and", "compare", "it", "to", "the", "complexity", "of", "the", "mutual-information-based", "approaches", ".", "For", "two-dimensional", "localization", ",", "the", "target", "location", "x", "is", "two-dimensional", ".", "The", "sensor", "'s", "view", "z", "v", "i", "of", "the", "target", "location", "x", "is", "one-dimensional", ".", "The", "sensor", "observation", "z", "i", "is", "one-dimensional", ".", "We", "assume", "that", "all", "random", "variables", "are", "gridded", "for", "numerical", "computation", ".", "Specifically", ",", "the", "area", "with", "non-trivial", "p", "-LRB-", "x", "-RRB-", "is", "gridded", "into", "n", "n", ".", "The", "interval", "with", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "x", "10", "-4", "100", "200", "300", "400", "50", "100", "150", "200", "250", "300", "350", "400", "Figure", "6", ":", "Scenario", "of", "sensor", "selection", "for", "localization", "using", "TDOA", "sensors", ".", "The", "image", "depicts", "the", "prior", "probability", "distribution", "p", "-LRB-", "x", "-RRB-", "of", "thetarget", "location", "x.", "p", "-LRB-", "x", "-RRB-", "is", "zero", "outside", "the", "solid", "rectangle", ".", "The", "actual", "target", "location", "is", "-LRB-", "200", ",", "200", "-RRB-", ",", "denoted", "by", "marker", "+", ".", "The", "triangles", "denote", "candidate", "TDOA", "sensors", "for", "selection", ".", "Every", "TDOA", "observation", "is", "relative", "to", "a", "common", "reference", "sensor", "denoted", "by", "marker", ".", "100", "TDOA", "sensors", "are", "uniformly", "randomly", "placed", "outside", "the", "dotted", "rectangle", ".", "The", "gap", "between", "the", "solid", "rectangle", "and", "the", "dotted", "rectangle", "is", "10", ".", "non-trivial", "p", "-LRB-", "z", "i", "-RRB-", "or", "p", "-LRB-", "z", "v", "i", "-RRB-", "is", "also", "gridded", "into", "n", ".", "We", "assume", "there", "are", "K", "candidate", "sensors", "for", "selection", ".", "K", "is", "usually", "a", "small", "number", ".", "The", "proposed", "heuristic", "evaluates", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "of", "all", "sensors", "and", "then", "selects", "the", "one", "with", "the", "maximal", "H", "v", "i", "-", "H", "si", ".", "As", "shown", "in", "-LRB-", "7", "-RRB-", ",", "p", "-LRB-", "z", "v", "i", "-RRB-", "can", "be", "computed", "from", "p", "-LRB-", "x", "-RRB-", "with", "cost", "O", "-LRB-", "n", "2", "-RRB-", ".", "As", "shown", "in", "-LRB-", "8", "-RRB-", ",", "H", "v", "i", "can", "be", "computed", "from", "p", "-LRB-", "z", "v", "i", "-RRB-", "with", "cost", "O", "-LRB-", "n", "-RRB-", ".", "As", "shown", "in", "-LRB-", "10", "-RRB-", "and", "-LRB-", "11", "-RRB-", ",", "H", "si", "can", "be", "computed", "from", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "with", "cost", "O", "-LRB-", "n", "-RRB-", ".", "The", "cost", "to", "compute", "H", "v", "i", "-", "H", "si", "for", "one", "candidate", "sensor", "is", "O", "-LRB-", "n", "2", "-RRB-", ".", "Therefore", ",", "the", "total", "cost", "for", "the", "heuristic", "to", "select", "one", "out", "of", "K", "candidate", "sensors", "is", "O", "-LRB-", "n", "2", "-RRB-", ".", "The", "mutual-information-based", "approaches", "evaluate", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "of", "all", "sensors", "and", "then", "select", "the", "one", "with", "the", "maximal", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "As", "shown", "in", "-LRB-", "3", "-RRB-", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "can", "be", "directly", "computed", "from", "p", "-LRB-", "x", "-RRB-", "and", "p", "-LRB-", "z", "i", "|", "x", "-RRB-", "with", "cost", "of", "O", "-LRB-", "n", "3", "-RRB-", ".", "Therefore", ",", "the", "total", "cost", "to", "select", "one", "out", "of", "K", "candidate", "sensors", "is", "O", "-LRB-", "n", "3", "-RRB-", ".", "As", "we", "mentioned", "early", "in", "Subsect", ".", "2.1", ",", "the", "computational", "cost", "of", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "could", "be", "reduced", "in", "some", "special", "scenarios", ".", "In", "general", ",", "however", ",", "the", "heuristic", "is", "computationally", "much", "simpler", "than", "the", "mutual-information-based", "approaches", ".", "As", "shown", "in", "Sect.", "3", ",", "when", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "is", "close", "to", "0", "bit", ",", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "might", "not", "sort", "candidate", "sensors", "into", "exactly", "the", "same", "order", "as", "the", "mutual", "information", "does", ".", "Such", "discrepancy", "is", "caused", "by", "the", "dispersion", "of", "the", "correlation", "between", "the", "entropy", "difference", "41", "-2", "-1", "0", "1", "2", "3", "4", "5", "0", "1", "2", "3", "4", "5", "Entropy", "difference", "-LRB-", "bit", "-RRB-", "Mutual", "information", "-LRB-", "bit", "-RRB-", "=", "32", "=", "16", "=", "8", "=", "4", "=", "2", "Figure7", ":", "Mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "vs", "entropy", "difference", "H", "v", "i", "-", "H", "si", "of", "range", "senors", ".", "Each", "symbol", "denotes", "-LRB-", "H", "v", "i", "-", "H", "si", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "-RRB-", "pair", "evaluated", "for", "one", "candidate", "sensor", ".", "The", "prior", "target", "location", "distribution", "and", "the", "candidate", "sensor", "placements", "are", "shown", "in", "Fig.", "5", ".", "Five", "cases", "with", "different", "standard", "deviation", "of", "Gaussian", "sensing", "models", "are", "studied", ".", "In", "each", "case", ",", "all", "candidate", "sensors", "are", "assumed", "to", "have", "the", "same", "value", ".", "H", "v", "i", "-", "H", "si", "and", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "when", "the", "mutual", "information", "is", "small", ".", "In", "this", "Sect.", ",", "we", "examine", "such", "correlation", "dispersion", "and", "evaluate", "its", "impact", "on", "the", "discrepancy", "of", "sensor", "selection", "decisions", "of", "the", "entropy-based", "heuristic", "and", "the", "mutual", "information", "based", "approaches", ".", "4.1", "Dispersion", "In", "this", "Subsect.", ",", "we", "describe", "the", "dispersion", "of", "the", "correlation", "between", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "when", "the", "mutual", "information", "is", "small", ".", "We", "also", "examine", "possible", "sources", "for", "such", "correlation", "dispersion", ".", "Close", "examination", "on", "the", "convex", "part", "of", "the", "mutual", "information", "vs.", "entropy", "difference", "curve", "in", "Fig.", "7", "and", "Fig.", "8", "reveals", "that", "the", "correlation", "between", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "and", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "is", "not", "strictly", "monotonic", ".", "Instead", ",", "there", "is", "obvious", "dispersion", "of", "the", "correlation", ".", "The", "convex", "part", "corresponds", "to", "the", "situation", "in", "which", "candidate", "sensors", "are", "not", "very", "informative", "because", "the", "mutual", "information", "between", "the", "target", "location", "distribution", "and", "the", "sensor", "observation", "is", "close", "to", "0", "bit", ".", "In", "another", "words", ",", "when", "candidate", "sensors", "are", "not", "very", "informative", ",", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "might", "not", "sort", "candidate", "sensors", "into", "the", "same", "order", "as", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "does", ".", "Given", "a", "set", "of", "candidate", "sensors", "whose", "observation", "could", "only", "reduce", "a", "little", "amount", "of", "uncertainty", "of", "the", "target", "location", "distribution", ",", "the", "sensor", "selected", "on", "the", "basis", "of", "the", "maximum", "entropy", "difference", "H", "v", "i", "-", "H", "si", "might", "not", "have", "the", "maximum", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "Thus", ",", "there", "might", "be", "discrepancy", "between", "the", "sensor", "selection", "decision", "of", "the", "entropy-based", "heuristic", "and", "that", "of", "the", "mutual", "information", "based", "approaches", "if", "no", "candidate", "sensor", "is", "very", "informative", ".", "-4", "-2", "0", "2", "4", "6", "0", "1", "2", "3", "4", "5", "6", "Entropy", "difference", "-LRB-", "bit", "-RRB-", "Mutual", "information", "-LRB-", "bit", "-RRB-", "=", "32", "=", "16", "=", "8", "=", "4", "=", "2", "Figure8", ":", "Mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "vs", "entropy", "difference", "H", "v", "i", "-", "H", "si", "of", "TDOA", "senors", ".", "Each", "symbol", "denotes", "-LRB-", "H", "v", "i", "-", "H", "si", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "-RRB-", "pair", "evaluated", "for", "one", "candidatese", "nsor", ".", "Theprior", "targe", "t", "location", "distribution", "and", "the", "candidate", "sensor", "placements", "are", "shown", "in", "Fig.", "6", ".", "Five", "cases", "with", "different", "standard", "deviation", "of", "Gaussian", "sensing", "models", "are", "studied", ".", "In", "each", "case", ",", "all", "candidate", "sensors", "are", "assumed", "to", "have", "the", "same", "value", ".", "There", "might", "be", "multiple", "causes", "of", "such", "correlation", "dispersion", "between", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "As", "pointed", "out", "in", "Subsect", ".", "2.3", ",", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "can", "be", "viewed", "as", "an", "approximation", "of", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "Thus", ",", "the", "order", "of", "sensors", "sorted", "by", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "is", "intrinsically", "an", "approximation", "of", "that", "by", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "In", "practice", ",", "the", "discretization", "of", "the", "state", "space", "of", "the", "target", "location", "random", "variable", "and", "the", "sensor", "view", "random", "variable", "might", "also", "introduce", "inaccuracy", "into", "the", "evaluation", "of", "H", "v", "i", ".", "Besides", ",", "as", "shown", "in", "-LRB-", "10", "-RRB-", "and", "-LRB-", "11", "-RRB-", ",", "the", "maximum", "likelihood", "estimate", "of", "the", "target", "location", "is", "used", "to", "approximate", "the", "actual", "target", "location", "when", "evaluating", "the", "entropy", "of", "the", "sensing", "model", "for", "the", "actual", "target", "location", ".", "4.2", "Impact", "In", "this", "Subsect.", ",", "we", "examine", "the", "impact", "of", "the", "dispersion", "of", "the", "correlation", "between", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "when", "the", "mutual", "information", "is", "small", ".", "The", "analysis", "shows", "that", "such", "correlation", "dispersion", "causes", "very", "little", "degradation", "to", "the", "quality", "of", "sensor", "selection", "decision", "of", "the", "entropy-based", "heuristic", ".", "As", "shown", "by", "the", "convex", "part", "of", "the", "mutual", "information", "vs.", "entropy", "difference", "curve", "in", "Fig.", "7", "and", "Fig.", "8", ",", "there", "is", "dispersion", "of", "the", "correlation", "between", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "when", "candidate", "sensors", "are", "not", "very", "informative", ".", "We", "model", "such", "dispersion", "using", "a", "uniform", "distribution", "bounded", "by", "a", "parallelogram", "illustrated", "in", "Fig.", "11", ".", "A", "candidate", "sensor", "could", "assume", "any", "position", "-LRB-", "H", "v", "i", "-", "H", "si", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "-RRB-", "within", "the", "parallelogram", "with", "uniform", "probability", ".", "As", "shown", "in", "Fig.", "11", ",", "the", "geometry", "of", "the", "parallelogram", "is", "defined", "by", "parameters", "a", ",", "b", "and", "c.", "a", "42", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "x", "10", "-4", "100", "200", "300", "400", "50", "100", "150", "200", "250", "300", "350", "400", "Figure", "9", ":", "Scenario", "of", "sensor", "selection", "for", "localization", "using", "sensors", "with", "various", "modalities", ".", "The", "imagedepicts", "theprior", "probability", "distribution", "p", "-LRB-", "x", "-RRB-", "of", "thetarge", "t", "location", "x.", "p", "-LRB-", "x", "-RRB-", "is", "zero", "outside", "the", "solid", "rectangle", ".", "The", "actual", "target", "location", "is", "-LRB-", "200", ",", "200", "-RRB-", ",", "denoted", "by", "marker", "+", ".", "The", "squares", ",", "the", "circles", ",", "and", "the", "triangles", "denote", "DOA", "sensors", ",", "range", "sensors", "and", "TDOA", "sensors", "respectively", ".", "Every", "TDOA", "observation", "is", "relative", "to", "a", "common", "reference", "sensor", "denoted", "by", "marker", ".", "Each", "sensor", "is", "randomly", "chosen", "to", "bea", "DOA", "se", "nsor", ",", "a", "rangese", "nsor", ",", "or", "a", "TDOA", "sensor", ".", "Each", "sensor", "is", "also", "randomly", "assigned", "one", "of", "five", "values", "of", "the", "standard", "deviation", "of", "Gaussian", "sensing", "models", ",", "namely", ",", "2", ",", "4", ",", "8", ",", "16", ",", "and", "32", ".", "The", "sizeof", "a", "symbol", "indicates", "themagnitudeof", ".", "100", "sensors", "of", "various", "sensing", "modalities", "and", "values", "areuniformly", "randomly", "place", "d", "outsidethedotte", "d", "rectangle", ".", "The", "gap", "between", "the", "solid", "rectangle", "and", "the", "dotted", "rectangle", "is", "32", ".", "is", "the", "variation", "scope", "of", "entropy", "difference", "H", "v", "i", "-", "H", "si", "among", "the", "set", "of", "candidate", "sensors", ".", "c", "indicates", "the", "variation", "scope", "of", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "among", "the", "set", "of", "candidate", "sensors", ".", "b", "describes", "the", "magnitude", "of", "dispersion", "of", "the", "correlation", "between", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "Although", "the", "bounded", "uniform", "distribution", "is", "not", "accurate", ",", "it", "captures", "the", "major", "features", "of", "the", "correlation", "dispersion", "revealed", "by", "simulations", "in", "Sect.", "3", ".", "We", "choose", "this", "dispersion", "model", "for", "simplicity", ".", "As", "the", "first", "order", "approximation", ",", "the", "simple", "dispersion", "model", "does", "help", "to", "reveal", "some", "major", "characteristics", "of", "the", "impact", "of", "the", "correlation", "dispersion", "on", "the", "heuristics-based", "sensor", "selection", ".", "A", "typical", "dispersion", "scenario", "is", "illustrated", "in", "Fig.", "11", ".", "The", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "of", "candidate", "sensors", "varies", "from", "0", "bit", "to", "1", "bit", ".", "Correspondingly", ",", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "of", "candidate", "sensors", "changes", "from", "-2", "bit", "to", "0", "bit", ".", "For", "any", "value", "of", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", ",", "the", "disperse", "of", "the", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "is", "0.1", "bit", ".", "Given", "the", "above", "scenario", ",", "we", "run", "10", ",", "000", "simulations", ".", "In", "each", "simulation", ",", "8", "candidate", "sensors", "randomly", "assume", "their", "-LRB-", "H", "v", "i", "-", "H", "si", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "-RRB-", "pairs", "within", "the", "specified", "dispersion", "range", ".", "In", "each", "simulation", ",", "we", "identify", "both", "the", "sensor", "with", "the", "maximum", "entropy", "-2", "0", "2", "4", "6", "0", "1", "2", "3", "4", "5", "6", "Entropy", "difference", "-LRB-", "bit", "-RRB-", "Mutual", "information", "-LRB-", "bit", "-RRB-", "TDOA", "sensor", "DOA", "sensor", "range", "sensor", "Figure10", ":", "Mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "vs", "entropy", "difference", "H", "v", "i", "-", "H", "si", "of", "mixed", "senors", ".", "Each", "symbol", "denotes", "-LRB-", "H", "v", "i", "-", "H", "si", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "-RRB-", "pair", "evaluated", "for", "one", "candidate", "sensor", ".", "The", "prior", "target", "location", "distribution", "and", "the", "candidate", "sensor", "placements", "are", "shown", "in", "Fig.", "9", ".", "difference", "H", "v", "i", "-", "H", "si", "and", "the", "sensor", "with", "the", "maximum", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", ".", "With", "87.8", "%", "chance", ",", "the", "sensor", "selected", "by", "the", "entropy-based", "heuristic", "also", "has", "the", "maximum", "mutual", "information", ".", "Even", "when", "the", "heuristic", "fails", "to", "select", "the", "sensor", "of", "the", "maximum", "mutual", "information", ",", "the", "mutual", "information", "of", "the", "selected", "sensor", "is", "on", "average", "only", "about", "0.026", "bit", "less", "than", "the", "maximum", "mutual", "information", ".", "Overall", ",", "the", "mutual", "information", "of", "the", "sensor", "selected", "by", "the", "entropy-based", "heuristic", "is", "about", "0.026", "-LRB-", "1-87.8", "%", "-RRB-", "=", "0.0032", "bit", "less", "than", "the", "maximum", "mutual", "information", ".", "Therefore", ",", "most", "of", "the", "time", ",", "the", "correlation", "dispersion", "does", "not", "cause", "discrepancy", "of", "the", "sensor", "selection", "decisions", "between", "the", "entropy-based", "heuristic", "and", "the", "mutual", "information", "based", "approaches", ".", "Over", "all", ",", "the", "entropy-based", "heuristic", "introduces", "very", "little", "degradation", "to", "the", "quality", "of", "the", "sensor", "select", "decision", "even", "when", "candidate", "sensors", "are", "not", "very", "informative", ".", "We", "have", "analyzed", "the", "impact", "of", "the", "correlation", "dispersion", "for", "different", "configurations", "of", "a", ",", "b", ",", "c", ",", "and", "the", "number", "of", "candidate", "sensors", ".", "In", "table", "1", ",", "a", "=", "2", "bit", ",", "b", "=", "0.1", "bit", "and", "c", "=", "1", "bit", "are", "fixed", ".", "We", "only", "change", "the", "number", "of", "candidate", "sensors", ".", "The", "chance", "for", "the", "heuristic", "to", "successfully", "select", "the", "sensor", "with", "the", "maximum", "mutual", "information", "decreases", "as", "the", "number", "of", "candidate", "sensors", "increases", ".", "When", "the", "heuristic", "fails", "to", "select", "the", "sensor", "with", "the", "maximum", "mutual", "information", ",", "the", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "the", "mutual", "information", "does", "not", "change", "with", "the", "number", "of", "candidate", "sensors", ".", "Thus", ",", "the", "overall", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "mutual", "information", "also", "increases", "as", "the", "number", "of", "candidate", "sensors", "increases", ".", "In", "table", "2", ",", "a", "=", "2", "bit", "and", "c", "=", "1", "bit", "are", "fixed", "and", "the", "number", "of", "candidate", "sensors", "are", "fixed", "to", "be", "8", ".", "We", "only", "change", "the", "dispersion", "width", "b", ".", "The", "chance", "for", "the", "heuristic", "to", "successfully", "select", "the", "sensor", "with", "the", "maximum", "mutual", "43", "-2", "-1.5", "-1", "-0.5", "0", "0", "0.5", "1", "1.5", "2", "Entropy", "difference", "-LRB-", "bit", "-RRB-", "Mutual", "information", "-LRB-", "bit", "-RRB-", "b", "a", "c", "Figure", "11", ":", "Discrepancy", "between", "the", "entropy-based", "sensor", "selection", "heuristic", "and", "the", "mutual", "information", "based", "approaches", "when", "candidate", "sensors", "are", "not", "very", "informative", ".", "The", "dispersion", "of", "the", "correlation", "between", "the", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "themutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "is", "modeled", "by", "a", "uniform", "distribution", "bounded", "by", "a", "parallelogram", ".", "The", "geometry", "of", "the", "parallelogram", "is", "defined", "by", "parameters", "a", ",", "b", "and", "c.", "Candidate", "sensors", "are", "denoted", "by", "marker", "whosecoordinates", "are", "-LRB-", "H", "v", "i", "-", "H", "si", ",", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "-RRB-", ".", "The", "entropy-based", "heuristic", "selects", "the", "rightmost", "sensor", ",", "which", "has", "the", "maximum", "entropy", "difference", "H", "v", "i", "-", "H", "si", "and", "is", "enclosed", "by", "a", "square", "marker", ".", "The", "mutual", "information", "based", "approaches", "selects", "the", "top", "sensor", ",", "which", "has", "the", "maximum", "mutual", "information", "I", "-LRB-", "x", ";", "z", "i", "-RRB-", "and", "is", "enclosed", "by", "a", "diamond-shaped", "marker", ".", "The", "above", "two", "selected", "sensors", "might", "not", "be", "the", "same", ".", "In", "the", "scenario", "of", "this", "figure", ",", "a", "=", "2", "bits", ",", "b", "=", "0.1", "bit", ",", "c", "=", "1", "bit", ",", "and", "8", "candidatesensors", "areavailable", "for", "selection", ".", "information", "decreases", "as", "the", "dispersion", "width", "b", "increases", ".", "When", "the", "heuristic", "fails", "to", "select", "the", "sensor", "with", "the", "maximum", "mutual", "information", ",", "the", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "the", "mutual", "information", "increases", "as", "the", "dispersion", "width", "b", "increases", ".", "Thus", ",", "the", "overall", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "mutual", "information", "also", "increases", "as", "the", "dispersion", "width", "b", "increases", ".", "In", "table", "3", ",", "a", "=", "2", "bit", "and", "b", "=", "0.1", "bit", "are", "fixed", "and", "the", "number", "of", "candidate", "sensors", "are", "fixed", "to", "be", "8", ".", "We", "only", "change", "the", "mutual", "information", "variation", "scope", "c", ".", "The", "chance", "for", "the", "heuristic", "to", "successfully", "select", "the", "sensor", "with", "the", "maximum", "mutual", "information", "increases", "as", "the", "mutual", "information", "variation", "scope", "c", "increases", ".", "When", "the", "heuristic", "Table", "1", ":", "Impact", "Change", "with", "Number", "of", "Sensors", "Number", "of", "Candidate", "Sensors", "4", "8", "16", "Chance", "of", "Success", "-LRB-", "%", "-RRB-", "93.6", "87.8", "78.2", "Degradation", "per", "Failure", "-LRB-", "bit", "-RRB-", "0.026", "0.026", "0.026", "Overall", "Degradation", "-LRB-", "bit", "-RRB-", "0.0016", "0.0032", "0.0058", "Table2", ":", "Impact", "Changewith", "Dispersion", "Width", "Dispersion", "Width", "b", "-LRB-", "bit", "-RRB-", "0.05", "0.1", "0.2", "Chance", "of", "Success", "-LRB-", "%", "-RRB-", "93.6", "87.8", "78.1", "Degradation", "per", "Failure", "-LRB-", "bit", "-RRB-", "0.013", "0.026", "0.054", "Overall", "Degradation", "-LRB-", "bit", "-RRB-", "0.0008", "0.0032", "0.012", "Table3", ":", "Impact", "Changewith", "Mutual", "Info", ".", "Scope", "Mutual", "Info", ".", "Scope", "c", "-LRB-", "bit", "-RRB-", "0.5", "1", "2", "Chance", "of", "Success", "-LRB-", "%", "-RRB-", "78.2", "87.8", "93.6", "Degradation", "per", "Failure", "-LRB-", "bit", "-RRB-", "0.027", "0.026", "0.025", "Overall", "Degradation", "-LRB-", "bit", "-RRB-", "0.0058", "0.0032", "0.0016", "fails", "to", "select", "the", "sensor", "with", "the", "maximum", "mutual", "information", ",", "the", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "the", "mutual", "information", "does", "not", "change", "much", "with", "the", "mutual", "information", "variation", "scope", "c.", "Thus", ",", "the", "overall", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "mutual", "information", "decreases", "as", "the", "mutual", "information", "variation", "scope", "c", "increases", ".", "In", "table", "4", ",", "b", "=", "0.1", "bit", "is", "fixed", "and", "the", "number", "of", "candidate", "sensors", "are", "fixed", "to", "be", "8", ".", "We", "proportionally", "change", "the", "entropy", "difference", "variation", "scope", "a", "and", "the", "mutual", "information", "variation", "scope", "c", "so", "that", "c/a", "=", "1/2", "is", "fixed", ".", "The", "chance", "for", "the", "heuristic", "to", "successfully", "select", "the", "sensor", "with", "the", "maximum", "mutual", "information", "increases", "as", "the", "entropy", "difference", "variation", "scope", "a", "and", "the", "mutual", "information", "variation", "scope", "c", "proportionally", "increase", ".", "When", "the", "heuristic", "fails", "to", "select", "the", "sensor", "with", "the", "maximum", "mutual", "information", ",", "the", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "the", "mutual", "information", "does", "not", "change", ".", "Thus", ",", "the", "overall", "degradation", "of", "sensor", "selection", "decision", "based", "on", "the", "heuristic", "compared", "to", "that", "based", "on", "mutual", "information", "decreases", "as", "the", "entropy", "difference", "variation", "scope", "a", "and", "the", "mutual", "information", "variation", "scope", "c", "proportionally", "increase", ".", "When", "the", "sensors", "is", "selected", "for", "tracking", "a", "temporally", "continuous", "source", ",", "the", "prior", "target", "location", "distribution", "at", "time", "t", "+", "1", "can", "be", "obtained", "from", "the", "posterior", "target", "location", "distribution", "at", "time", "t", "by", "using", "the", "target", "dynamic", "model", "as", "described", "in", "-LSB-", "11", "-RSB-", ".", "However", ",", "when", "the", "sensor", "selection", "heuristic", "is", "applied", "to", "locate", "a", "temporally", "discontinuous", "source", "such", "as", "a", "bird", "call", ",", "it", "is", "not", "straightforward", "to", "obtain", "the", "prior", "target", "location", "distribution", "used", "in", "the", "sequential", "Bayesian", "fusion", ".", "One", "possible", "solution", "to", "the", "above", "problem", "could", "be", "as", "follows", ".", "First", ",", "all", "sensors", "buffer", "the", "signal", "once", "an", "event", "Table4", ":", "Impact", "Changewith", "Entropy", "Diff", ".", "Scopec", "and", "Mutual", "Info", ".", "Scope", "a", "in", "Proportion", "Entropy", "Diff", ".", "Scope", "a", "-LRB-", "bit", "-RRB-", "1", "2", "4", "Mutual", "Info", ".", "Scope", "c", "-LRB-", "bit", "-RRB-", "0.5", "1", "2", "Chance", "of", "Success", "-LRB-", "%", "-RRB-", "78.2", "87.8", "93.6", "Degradation", "per", "Failure", "-LRB-", "bit", "-RRB-", "0.026", "0.026", "0.026", "Overall", "Degradation", "-LRB-", "bit", "-RRB-", "0.0058", "0.0032", "0.0016", "44", "such", "as", "a", "bird", "call", "is", "detected", ".", "Then", ",", "all", "triggered", "sensors", "elect", "a", "leader", "that", "received", "the", "strongest", "signal", "intensity", "using", "a", "protocol", "similar", "to", "that", "described", "in", "-LSB-", "10", "-RSB-", ".", "Finally", ",", "the", "leader", "can", "pick", "a", "few", "sensors", "to", "generate", "an", "initial", "prior", "target", "location", "distribution", "assuming", "a", "certain", "sensing", "model", ".", "With", "the", "initial", "prior", "target", "location", "distribution", ",", "we", "can", "apply", "the", "sensor", "selection", "heuristic", "to", "incrementally", "reduce", "the", "uncertainty", "of", "the", "target", "location", "distribution", ".", "We", "plan", "to", "implement", "and", "test", "the", "above", "mechanism", "in", "the", "future", ".", "5.2", "Discretization", "of", "State", "Space", "There", "is", "a", "trade", "offof", "computational", "efficiency", "and", "numerical", "accuracy", "in", "the", "discretization", "of", "the", "state", "space", "of", "random", "variables", "such", "as", "the", "target", "location", "and", "the", "sensor", "view", ".", "The", "bigger", "the", "grid", "size", "is", ",", "the", "fewer", "grids", "are", "involved", "in", "the", "computation", ".", "However", ",", "a", "bigger", "grid", "size", "also", "introduces", "more", "inaccuracy", "into", "the", "evaluation", "of", "the", "entropy", "difference", "heuristic", ".", "In", "the", "future", ",", "we", "must", "study", "more", "details", "about", "the", "trade", "offin", "order", "to", "choose", "a", "proper", "grid", "size", ".", "5.3", "Sensing", "Uncertainty", "Model", "We", "have", "assumed", "Gaussian", "sensing", "models", "in", "the", "simulations", "as", "the", "first", "step", "to", "evaluate", "the", "heuristic", ".", "Inaccuracy", "of", "sensing", "models", "diminishes", "the", "effectiveness", "of", "any", "sensor", "selection", "criterion", ".", "We", "plan", "to", "construct", "a", "more", "realistic", "sensing", "model", "for", "the", "AML-based", "DOA", "estimation", ".", "We", "have", "implemented", "AML", "algorithm", "for", "real-time", "DOA", "estimation", "on", "a", "wireless", "sensor", "network", "testbed", "-LSB-", "5", "-RSB-", ".", "We", "will", "first", "analyze", "the", "sensing", "uncertainty", "characteristic", "of", "the", "AML", "algorithm", ",", "and", "then", "experimentally", "validate", "and", "refine", "it", "using", "the", "testbed", ".", "We", "will", "also", "evaluate", "the", "effectiveness", "of", "the", "entropy-based", "sensor", "selection", "heuristic", "using", "realistic", "sensing", "models", "and", "implement", "the", "heuristic", "on", "the", "real-time", "wireless", "sensor", "network", "testbed", "for", "localization", ".", "We", "have", "proposed", "an", "entropy-based", "sensor", "selection", "heuristic", "for", "localization", ".", "The", "effectiveness", "of", "the", "heuristic", "has", "been", "evaluated", "using", "simulations", "in", "which", "Gaussian", "sensing", "models", "are", "assumed", "for", "simplicity", ".", "Simulations", "have", "shown", "that", "the", "heuristic", "selects", "the", "sensor", "with", "nearly", "the", "maximal", "mutual", "information", "between", "the", "target", "location", "and", "the", "sensor", "observation", ".", "Given", "the", "prior", "target", "location", "distribution", ",", "the", "sensor", "locations", ",", "and", "the", "sensing", "models", ",", "on", "average", ",", "the", "sensor", "selected", "by", "the", "heuristic", "would", "yield", "nearly", "the", "greatest", "reduction", "in", "the", "entropy", "of", "the", "posterior", "target", "location", "distribution", ".", "The", "heuristic", "is", "more", "effective", "when", "the", "optimal", "candidate", "sensor", "is", "more", "informative", ".", "As", "mutual-information", "-", "based", "sensor", "selection", "approaches", "-LSB-", "11", ",", "6", "-RSB-", "do", ",", "the", "heuristic", "greedily", "selects", "one", "sensor", "in", "each", "step", "without", "retrieving", "any", "actual", "sensor", "observations", ".", "In", "addition", ",", "in", "general", ",", "our", "heuristic", "is", "computationally", "much", "simpler", "than", "the", "mutual-information-based", "approaches", ".", "This", "material", "is", "based", "upon", "work", "partially", "supported", "by", "the", "National", "Science", "Foundation", "-LRB-", "NSF", "-RRB-", "under", "Cooperative", "Agreement", "#CCR", "-0121778", ",", "and", "DARPA", "SensIT", "program", "under", "contract", "AFRL/IFG", "315\u00a0330-1865", "and", "AROD-MURI", "PSU", "50126", ".", "-LSB-", "1", "-RSB-", "I.", "F.", "Akyildiz", ",", "W.", "Su", ",", "Y.", "Sankarasubramaniam", ",", "and", "E.", "Cayirci", ".", "Wireless", "sensor", "networks", ":", "a", "survey", ".", "Computer", "Networks", ",", "38", "-LRB-", "4", "-RRB-", ":", "393", "442", ",", "March", "2002", ".", "-LSB-", "2", "-RSB-", "G.", "Asada", ",", "M.", "Dong", ",", "T.", "Lin", ",", "F.", "Newberg", ",", "G.", "Pottie", ",", "W.", "Kaiser", ",", "and", "H.", "Marcy", ".", "Wireless", "integrated", "network", "sensors", ":", "low", "power", "systems", "on", "a", "chip", ".", "In", "Proc", ".", "the", "European", "Solid", "State", "Circuits", "Conference", ",", "The", "Hague", ",", "Netherlands", ",", "1998", ".", "-LSB-", "3", "-RSB-", "J.", "M.", "Bernardo", "and", "A.", "F.", "M.", "Smith", ".", "Bayesian", "theory", ".", "Wiley", ",", "New", "York", ",", "1996", ".", "-LSB-", "4", "-RSB-", "J.", "Chen", ",", "R.", "Hudson", ",", "and", "K.", "Yao", ".", "Maximum-likelihood", "source", "localization", "and", "unknown", "sensor", "location", "estimation", "for", "wideband", "signals", "in", "the", "near-field", ".", "IEEE", "T.", "Signal", "Proces.", ",", "50", "-LRB-", "8", "-RRB-", ":", "1843", "1854", ",", "August", "2002", ".", "-LSB-", "5", "-RSB-", "J.", "Chen", ",", "L.", "Yip", ",", "J.", "Elson", ",", "H.", "Wang", ",", "D.", "Maniezzo", ",", "R.", "Hudson", ",", "K.", "Yao", ",", "and", "D.", "Estrin", ".", "Coherent", "acoustic", "array", "processing", "and", "localization", "on", "wireless", "sensor", "networks", ".", "Proc", ".", "the", "IEEE", ",", "91", "-LRB-", "8", "-RRB-", ":", "1154", "1162", ",", "August", "2003", ".", "-LSB-", "6", "-RSB-", "E.", "Ertin", ",", "J.", "Fisher", ",", "and", "L.", "Potter", ".", "Maximum", "mutual", "information", "principle", "for", "dynamic", "sensor", "query", "problems", ".", "In", "Proc", ".", "IPSN", "'", "03", ",", "Palo", "Alto", ",", "CA", ",", "April", "2003", ".", "-LSB-", "7", "-RSB-", "S.", "Haykin", ".", "Adpative", "filter", "theory", ".", "Prentice", "Hall", ",", "New", "Jersey", ",", "USA", ",", "1996", ".", "-LSB-", "8", "-RSB-", "K.", "Hintz", "and", "E.", "McVey", ".", "A", "measure", "of", "the", "information", "gain", "attributable", "to", "cueing", ".", "IEEE", "T.", "Syst", ".", "Man", "Cyb.", ",", "21", "-LRB-", "2", "-RRB-", ":", "434", "442", ",", "1991", ".", "-LSB-", "9", "-RSB-", "R.", "E.", "Kalman", ".", "A", "new", "approach", "to", "linear", "filtering", "and", "prediction", "problems", ".", "Trans", ".", "of", "the", "ASME", "Journal", "of", "Basic", "Engineering", ",", "82", "-LRB-", "Series", "D", "-RRB-", ":", "35", "45", ",", "1960", ".", "-LSB-", "10", "-RSB-", "J.", "Liu", ",", "J.", "Liu", ",", "J.", "Reich", ",", "P.", "Cheung", ",", "and", "F.", "Zhao", ".", "Distributed", "group", "management", "for", "track", "initiation", "and", "maintenance", "in", "target", "localization", "applications", ".", "In", "Proc", ".", "International", "Workshop", "on", "Informaiton", "Processing", "in", "Sensor", "Networks", "-LRB-", "IPSN", "-RRB-", ",", "Palo", "Alto", ",", "CA", ",", "April", "2003", ".", "-LSB-", "11", "-RSB-", "J.", "Liu", ",", "J.", "Reich", ",", "and", "F.", "Zhao", ".", "Collaborative", "in-network", "processing", "for", "target", "tracking", ".", "EURASIP", "JASP", ":", "Special", "Issues", "on", "Sensor", "Networks", ",", "2003", "-LRB-", "4", "-RRB-", ":", "378", "391", ",", "March", "2003", ".", "-LSB-", "12", "-RSB-", "J.", "Manyika", "and", "H.", "Durrant-Whyte", ".", "Data", "fusion", "and", "sensor", "management", ":", "a", "decentralized", "information-theoretic", "approach", ".", "Ellis", "Horwood", ",", "New", "York", ",", "1994", ".", "-LSB-", "13", "-RSB-", "A.", "Savvides", ",", "W.", "Garber", ",", "S.", "Adlakha", ",", "R.", "Moses", ",", "and", "M.", "B.", "Srivastava", ".", "On", "the", "error", "characteristics", "of", "multihop", "node", "localization", "in", "ad-hoc", "sensor", "networks", ".", "In", "Proc", ".", "IPSN", "'", "03", ",", "Palo", "Alto", ",", "CA", ",", "USA", ",", "April", "2003", ".", "-LSB-", "14", "-RSB-", "C.", "E.", "Shannon", ".", "A", "mathematical", "theory", "of", "communication", ".", "Bell", "Systems", "Technical", "Journal", ",", "27", "-LRB-", "6", "-RRB-", ":", "379", "423", "and", "623", "656", ",", "1948", ".", "-LSB-", "15", "-RSB-", "T.", "Tung", ",", "K.", "Yao", ",", "C.", "Reed", ",", "R.", "Hudson", ",", "D.", "Chen", ",", "and", "J.", "Chen", ".", "Source", "localization", "and", "time", "delay", "estimation", "using", "constrained", "least", "squares", "and", "best", "path", "smoothing", ".", "In", "Proc", ".", "SPIE", "'", "99", ",", "volume", "3807", ",", "pages", "220", "223", ",", "July", "1999", ".", "-LSB-", "16", "-RSB-", "K.", "Yao", ",", "R.", "Hudson", ",", "C.", "Reed", ",", "D.", "Chen", ",", "and", "F.", "Lorenzelli", ".", "Blind", "beamforming", "source", "localization", "on", "a", "sensor", "array", "system", ".", "In", "AWAIRS", "project", "presentation", "at", "UCLA", ",", "USA", ",", "December", "1997", ".", "45"], "doc_bio_tags": ["O", "B", "I", "B", "O", "O", "B", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["target tracking", "information fusion", "localization", "heuristic", "entropy", "wireless sensor networks", "sensor selection", "mutual information"], "abstractive_keyphrases": ["target localization", "information-directed resource management", "shannon entropy"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "53", "document": ["Compression", "of", "Inverted", "Indexes", "For", "Fast", "Query", "Evaluation", "Compression", "reduces", "both", "the", "size", "of", "indexes", "and", "the", "time", "needed", "to", "evaluate", "queries", ".", "In", "this", "paper", ",", "we", "revisit", "the", "compression", "of", "inverted", "lists", "of", "document", "postings", "that", "store", "the", "position", "and", "frequency", "of", "indexed", "terms", ",", "considering", "two", "approaches", "to", "improving", "retrieval", "efficiency", ":", "better", "implementation", "and", "better", "choice", "of", "integer", "compression", "schemes", ".", "First", ",", "we", "propose", "several", "simple", "optimisations", "to", "well-known", "integer", "compression", "schemes", ",", "and", "show", "experimentally", "that", "these", "lead", "to", "significant", "reductions", "in", "time", ".", "Second", ",", "we", "explore", "the", "impact", "of", "choice", "of", "compression", "scheme", "on", "retrieval", "efficiency", ".", "In", "experiments", "on", "large", "collections", "of", "data", ",", "we", "show", "two", "surprising", "results", ":", "use", "of", "simple", "byte-aligned", "codes", "halves", "the", "query", "evaluation", "time", "compared", "to", "the", "most", "compact", "Golomb-Rice", "bitwise", "compression", "schemes", ";", "and", ",", "even", "when", "an", "index", "fits", "entirely", "in", "memory", ",", "byte-aligned", "codes", "result", "in", "faster", "query", "evaluation", "than", "does", "an", "uncompressed", "index", ",", "emphasising", "that", "the", "cost", "of", "transferring", "data", "from", "memory", "to", "the", "CPU", "cache", "is", "less", "for", "an", "appropriately", "compressed", "index", "than", "for", "an", "uncompressed", "index", ".", "Moreover", ",", "byte-aligned", "schemes", "have", "only", "a", "modest", "space", "overhead", ":", "the", "most", "compact", "schemes", "result", "in", "indexes", "that", "are", "around", "10", "%", "of", "the", "size", "of", "the", "collection", ",", "while", "a", "byte-aligned", "scheme", "is", "around", "13", "%", ".", "We", "conclude", "that", "fast", "byte-aligned", "codes", "should", "be", "used", "to", "store", "integers", "in", "inverted", "lists", ".", "H.", "3.4", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Systems", "and", "Software", "Performance", "evaluation", "-LRB-", "efficiency", "and", "effectiveness", "-RRB-", ";", "E.", "4", "-LSB-", "Data", "-RSB-", ":", "Coding", "and", "Information", "Theory", "Data", "compaction", "and", "compression", "Performance", ",", "Algorithms", ",", "Design", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "02", ",", "August", "11-15", ",", "2002", ",", "Tampere", ",", "Finland", ".", "Copyright", "2002", "ACM", "1-58113-561-0", "/", "02/0008", "...", "$", "5.00", ".", "Search", "engines", "have", "demanding", "performance", "requirements", ".", "Users", "expect", "fast", "answers", "to", "queries", ",", "many", "queries", "must", "be", "processed", "per", "second", ",", "and", "the", "quantity", "of", "data", "that", "must", "be", "searched", "in", "response", "to", "each", "query", "is", "staggering", ".", "The", "demands", "continue", "to", "grow", ":", "the", "Google", "search", "engine", ",", "for", "example", ",", "indexed", "around", "one", "billion", "documents", "a", "year", "ago", "and", "now", "manages", "more", "than", "double", "that", "figure", "1", ".", "Moreover", ",", "the", "increasing", "availability", "and", "affordability", "of", "large", "storage", "devices", "suggests", "that", "the", "amount", "of", "data", "stored", "online", "will", "continue", "to", "grow", ".", "Inverted", "indexes", "are", "used", "to", "evaluate", "queries", "in", "all", "practical", "search", "engines", "-LSB-", "14", "-RSB-", ".", "Compression", "of", "these", "indexes", "has", "three", "major", "benefits", "for", "performance", ".", "First", ",", "a", "compressed", "index", "requires", "less", "storage", "space", ".", "Second", ",", "compressed", "data", "makes", "better", "use", "of", "the", "available", "communication", "bandwidth", ";", "more", "information", "can", "be", "transfered", "per", "second", "than", "when", "the", "data", "is", "uncompressed", ".", "For", "fast", "decompression", "schemes", ",", "the", "total", "time", "cost", "of", "transfering", "compressed", "data", "and", "sub-sequently", "decompressing", "is", "potentially", "much", "less", "than", "the", "cost", "of", "transferring", "uncompressed", "data", ".", "Third", ",", "compression", "increases", "the", "likelihood", "that", "the", "part", "of", "the", "index", "required", "to", "evaluate", "a", "query", "is", "already", "cached", "in", "memory", ",", "thus", "entirely", "avoiding", "a", "disk", "access", ".", "Thus", "index", "compression", "can", "reduce", "costs", "in", "retrieval", "systems", ".", "We", "have", "found", "that", "an", "uncompressed", "inverted", "index", "that", "stores", "the", "location", "of", "the", "indexed", "words", "in", "web", "documents", "typically", "consumes", "more", "than", "30", "%", "of", "the", "space", "required", "to", "store", "the", "uncompressed", "collection", "of", "documents", ".", "-LRB-", "Web", "documents", "often", "include", "a", "great", "deal", "of", "information", "that", "is", "not", "indexed", ",", "such", "as", "HTML", "tags", ";", "in", "the", "TREC", "web", "data", ",", "which", "we", "use", "in", "our", "experiments", ",", "on", "average", "around", "half", "of", "each", "document", "is", "indexable", "text", ".", "-RRB-", "When", "the", "index", "is", "compressed", ",", "the", "index", "size", "is", "reduced", "to", "between", "10", "%", "15", "%", "of", "that", "required", "to", "store", "the", "uncompressed", "collection", ";", "this", "size", "includes", "document", "numbers", ",", "in-document", "frequencies", ",", "and", "word", "positions", "within", "documents", ".", "If", "the", "index", "is", "too", "large", "to", "fit", "entirely", "within", "main", "memory", ",", "then", "querying", "the", "uncompressed", "index", "is", "slower", ":", "as", "we", "show", "later", ",", "it", "is", "up", "to", "twice", "as", "slow", "as", "the", "fastest", "compressed", "scheme", ".", "In", "this", "paper", ",", "we", "revisit", "compression", "schemes", "for", "the", "in-1", "See", "http://www.google.com/", "222", "verted", "list", "component", "of", "inverted", "indexes", ".", "We", "also", "propose", "a", "new", "method", "for", "decoding", "lists", ".", "There", "have", "been", "a", "great", "many", "reports", "of", "experiments", "on", "compression", "of", "indexes", "with", "bitwise", "compression", "schemes", "-LSB-", "6", ",", "8", ",", "12", ",", "14", ",", "15", "-RSB-", ",", "which", "use", "an", "integral", "number", "of", "bits", "to", "represent", "each", "integer", ",", "usually", "with", "no", "restriction", "on", "the", "alignment", "of", "the", "integers", "to", "byte", "or", "machine-word", "boundaries", ".", "We", "consider", "several", "aspects", "of", "these", "schemes", ":", "how", "to", "decode", "bitwise", "representations", "of", "integers", "efficiently", ";", "how", "to", "minimise", "the", "operations", "required", "for", "the", "most", "compact", "scheme", ",", "Golomb", "coding", ";", "and", "the", "relative", "performance", "of", "Elias", "gamma", "coding", ",", "Elias", "delta", "coding", ",", "Golomb", "coding", ",", "and", "Rice", "coding", "for", "storing", "indexes", ".", "We", "question", "whether", "bitwise", "compression", "schemes", "are", "the", "best", "choice", "for", "storing", "lists", "of", "integers", ".", "As", "an", "alternative", ",", "we", "consider", "bytewise", "integer", "compression", "schemes", ",", "which", "require", "that", "each", "integer", "is", "stored", "in", "an", "integral", "number", "of", "blocks", ",", "where", "each", "block", "is", "eight", "bits", ".", "The", "length", "of", "each", "stored", "integer", "can", "therefore", "be", "measured", "in", "an", "exact", "number", "of", "bytes", ".", "An", "additional", "restriction", "is", "to", "require", "that", "these", "eight-bit", "blocks", "must", "align", "to", "machine-word", "or", "byte", "boundaries", ".", "We", "propose", "and", "experimentally", "investigate", "several", "variations", "of", "bytewise", "schemes", ".", "We", "investigate", "the", "performance", "of", "different", "index", "compression", "schemes", "through", "experiments", "on", "large", "query", "sets", "and", "collections", "of", "Web", "documents", ".", "We", "report", "two", "surprising", "results", ".", "For", "a", "20", "gigabyte", "collection", ",", "where", "the", "index", "is", "several", "times", "larger", "than", "main", "memory", ",", "optimised", "bytewise", "schemes", "more", "than", "halve", "the", "average", "decoding", "time", "compared", "to", "the", "fastest", "bitwise", "approach", ".", "For", "a", "much", "smaller", "collection", ",", "where", "the", "index", "fits", "in", "main", "memory", ",", "a", "bytewise", "compressed", "index", "can", "still", "be", "processed", "faster", "than", "an", "uncompressed", "index", ".", "These", "results", "show", "that", "effective", "use", "of", "communication", "bandwidths", "is", "important", "for", "not", "only", "disk-to-memory", "transfers", "but", "also", "memory-to-cache", "transfers", ".", "The", "only", "disadvantage", "of", "bytewise", "compressed", "indexes", "is", "that", "they", "are", "up", "to", "30", "%", "larger", "than", "bitwise", "compressed", "indexes", ";", "the", "smallest", "bitwise", "index", "is", "around", "10", "%", "of", "the", "uncompressed", "collection", "size", ",", "while", "the", "bytewise", "index", "is", "around", "13", "%", ".", "An", "inverted", "index", "consists", "of", "two", "major", "components", ":", "the", "vocabulary", "of", "terms", "--", "for", "example", "the", "words", "--", "from", "the", "collection", ",", "and", "inverted", "lists", ",", "which", "are", "vectors", "that", "contain", "information", "about", "the", "occurrence", "of", "the", "terms", "-LSB-", "14", "-RSB-", ".", "In", "a", "basic", "implementation", ",", "for", "each", "term", "t", "there", "is", "an", "inverted", "list", "that", "contains", "postings", "<", "f", "d", ",", "t", ",", "d", ">", "where", "f", "d", ",", "t", "is", "the", "frequency", "f", "of", "term", "t", "in", "the", "ordinal", "document", "d", ".", "One", "posting", "is", "stored", "in", "the", "list", "for", "each", "document", "that", "contains", "the", "term", "t.", "Inverted", "lists", "of", "this", "form", "--", "along", "with", "additional", "statistics", "such", "as", "the", "document", "length", "l", "d", ",", "and", "f", "t", ",", "the", "number", "of", "documents", "that", "contain", "the", "term", "t", "--", "are", "sufficient", "to", "support", "ranked", "and", "Boolean", "query", "modes", ".", "To", "support", "phrase", "querying", "or", "proximity", "querying", ",", "additional", "information", "must", "be", "kept", "in", "the", "inverted", "lists", ".", "Thus", "inverted", "list", "postings", "should", "be", "of", "the", "form", "<", "f", "d", ",", "t", ",", "d", ",", "-LSB-", "o", "0", ",", "d", ",", "t", "...", "o", "f", "d", ",", "t", ",", "d", ",", "t", "-RSB-", ">", "The", "additional", "information", "is", "the", "list", "of", "offsets", "o", ";", "one", "offset", "is", "stored", "for", "each", "of", "the", "f", "d", ",", "t", "occurrences", "of", "term", "t", "in", "document", "d.", "Postings", "in", "inverted", "lists", "are", "usually", "ordered", "by", "increasing", "d", ",", "and", "the", "offsets", "likewise", "ordered", "within", "the", "postings", "by", "increasing", "o", ".", "This", "has", "the", "benefit", "that", "differences", "between", "values", "--", "rather", "than", "the", "raw", "values", "--", "can", "be", "stored", ",", "improving", "the", "compressibility", "of", "the", "lists", ".", "Other", "arrangements", "of", "the", "postings", "in", "lists", "are", "useful", "when", "lists", "are", "not", "necessarily", "completely", "processed", "in", "response", "to", "a", "query", ".", "For", "example", ",", "in", "frequency-sorted", "indexes", "-LSB-", "9", ",", "10", "-RSB-", "postings", "are", "ordered", "by", "f", "d", ",", "t", ",", "and", "in", "impact-ordered", "indexes", "the", "postings", "are", "ordered", "by", "quantised", "weights", "-LSB-", "1", "-RSB-", ".", "These", "approaches", "also", "rely", "on", "compression", "to", "help", "achieve", "efficiency", "gains", ",", "and", "the", "improvements", "to", "compression", "performance", "we", "describe", "in", "this", "paper", "are", "as", "applicable", "to", "these", "methods", "as", "they", "are", "to", "the", "simple", "index", "representations", "we", "use", "as", "a", "testbed", "for", "our", "compression", "methods", ".", "Consider", "an", "example", "inverted", "list", "with", "offsets", "for", "the", "term", "``", "Matthew", "''", ":", "<", "3", ",", "7", ",", "-LSB-", "6", ",", "51", ",", "117", "-RSB-", ">", "<", "1", ",", "44", ",", "-LSB-", "12", "-RSB-", ">", "<", "2", ",", "117", ",", "-LSB-", "14", ",", "1077", "-RSB-", ">", "In", "this", "index", ",", "the", "terms", "are", "words", ",", "the", "offsets", "are", "word", "positions", "within", "the", "documents", ",", "and", "the", "lists", "are", "ordered", "by", "d", ".", "This", "inverted", "list", "states", "that", "the", "term", "``", "Matthew", "''", "occurs", "3", "times", "in", "document", "7", ",", "at", "offsets", "6", ",", "51", ",", "and", "117", ".", "It", "also", "occurs", "once", "in", "document", "44", "at", "offset", "12", ",", "and", "twice", "in", "document", "117", ",", "at", "offsets", "14", "and", "1077", ".", "Ranked", "queries", "can", "be", "answered", "using", "the", "inverted", "index", "as", "follows", ".", "First", ",", "the", "terms", "in", "the", "user", "'s", "query", "are", "located", "in", "the", "inverted", "index", "vocabulary", ".", "Second", ",", "the", "corresponding", "inverted", "lists", "for", "each", "term", "are", "retrieved", "from", "disk", ",", "and", "then", "processed", "by", "decreasing", "f", "t", ".", "Third", ",", "for", "each", "posting", "in", "each", "inverted", "list", ",", "an", "accumulator", "weight", "A", "d", "is", "increased", ";", "the", "magnitude", "of", "the", "increase", "is", "dependent", "on", "the", "similarity", "measure", "used", ",", "and", "can", "consider", "the", "weight", "w", "q", ",", "t", "of", "term", "t", "in", "the", "query", "q", ",", "the", "weight", "w", "d", ",", "t", "of", "the", "term", "t", "in", "the", "document", "d", ",", "and", "other", "factors", ".", "Fourth", ",", "after", "processing", "part", "-LSB-", "1", ",", "6", "-RSB-", "or", "all", "of", "the", "lists", ",", "the", "accumulator", "scores", "are", "partially", "sorted", "to", "identify", "the", "most", "similar", "documents", ".", "Last", ",", "for", "a", "typical", "search", "engine", ",", "document", "summaries", "of", "the", "top", "ten", "documents", "are", "generated", "or", "retrieved", "and", "shown", "to", "the", "user", ".", "The", "offsets", "stored", "in", "each", "inverted", "list", "posting", "are", "not", "used", "in", "ranked", "query", "processing", ".", "Phrase", "queries", "require", "offsets", "and", "that", "a", "given", "sequence", "of", "words", "be", "contiguous", "in", "a", "matching", "document", ".", "For", "example", ",", "consider", "a", "combined", "ranked", "and", "phrase", "query", ":", "``", "Matthew", "Richardson", "''", "Richmond", "To", "evaluate", "such", "a", "query", ",", "the", "same", "first", "two", "steps", "as", "for", "ranked", "querying", "are", "applied", ".", "Then", ",", "instead", "of", "accumulating", "weights", ",", "it", "is", "necessary", "to", "construct", "a", "temporary", "inverted", "list", "for", "the", "phrase", ",", "by", "fetching", "the", "inverted", "list", "of", "each", "of", "the", "individual", "terms", "and", "combining", "them", ".", "If", "the", "inverted", "list", "for", "``", "Matthew", "''", "is", "as", "above", "and", "the", "inverted", "list", "for", "``", "Richardson", "''", "is", "<", "1", ",", "7", ",", "-LSB-", "52", "-RSB-", ">", "<", "2", ",", "12", ",", "-LSB-", "1", ",", "4", "-RSB-", ">", "<", "1", ",", "44", ",", "-LSB-", "83", "-RSB-", ">", "then", "both", "words", "occur", "in", "document", "7", "and", "as", "an", "ordered", "pair", ".", "Only", "the", "word", "``", "Richardson", "''", "is", "in", "document", "12", ",", "both", "words", "occur", "in", "document", "44", "but", "not", "as", "a", "pair", ",", "and", "only", "``", "Matthew", "''", "occurs", "in", "document", "117", ".", "The", "list", "for", "``", "Matthew", "Richardson", "''", "is", "therefore", "<", "1", ",", "7", ",", "-LSB-", "51", "-RSB-", ">", "223", "After", "this", ",", "the", "ranking", "process", "is", "continued", "from", "the", "third", "step", ",", "where", "the", "list", "for", "the", "term", "``", "Richmond", "''", "and", "the", "newly", "created", "list", "are", "used", "to", "adjust", "accumulator", "weights", ".", "Phrase", "queries", "can", "involve", "more", "than", "two", "words", ".", "Special-purpose", "integer", "compression", "schemes", "offer", "both", "fast", "decoding", "and", "compact", "storage", "of", "inverted", "lists", "-LSB-", "13", ",", "14", "-RSB-", ".", "In", "this", "section", ",", "we", "consider", "how", "inverted", "lists", "are", "compressed", "and", "stored", "on", "disk", ".", "We", "limit", "our", "discussions", "here", "to", "the", "special-purpose", "integer", "compression", "techniques", "that", "have", "previously", "been", "shown", "to", "be", "suitable", "for", "index", "compression", ",", "and", "focus", "on", "their", "use", "in", "increasing", "the", "speed", "of", "retrieval", "systems", ".", "Without", "compression", ",", "the", "time", "cost", "of", "retrieving", "inverted", "lists", "is", "the", "sum", "of", "the", "time", "taken", "to", "seek", "for", "and", "then", "retrieve", "the", "inverted", "lists", "from", "disk", "into", "memory", ",", "and", "the", "time", "taken", "to", "transfer", "the", "lists", "from", "memory", "into", "the", "CPU", "cache", "before", "they", "are", "processed", ".", "The", "speed", "of", "access", "to", "compressed", "inverted", "lists", "is", "determined", "by", "two", "factors", ":", "first", ",", "the", "com-putational", "requirements", "for", "decoding", "the", "compressed", "data", "and", ",", "second", ",", "the", "time", "required", "to", "seek", "for", "and", "retrieve", "the", "compressed", "data", "from", "disk", "and", "to", "transfer", "it", "to", "the", "CPU", "cache", "before", "it", "is", "decoded", ".", "For", "a", "compression", "scheme", "to", "allow", "faster", "access", "to", "inverted", "lists", ",", "the", "total", "retrieval", "time", "and", "CPU", "processing", "costs", "should", "be", "less", "than", "the", "retrieval", "time", "of", "the", "uncompressed", "representation", ".", "However", ",", "a", "third", "factor", "makes", "compression", "attractive", "even", "if", "CPU", "processing", "costs", "exceed", "the", "saving", "in", "disk", "transfer", "time", ":", "compressing", "inverted", "lists", "increases", "the", "number", "of", "lists", "that", "can", "be", "cached", "in", "memory", "between", "queries", ",", "so", "that", "in", "the", "context", "of", "a", "stream", "of", "queries", "use", "of", "compression", "reduces", "the", "number", "of", "disk", "accesses", ".", "It", "is", "therefore", "important", "that", "a", "compression", "scheme", "be", "efficient", "in", "both", "decompression", "CPU", "costs", "and", "space", "requirements", ".", "There", "are", "two", "general", "classes", "of", "compression", "scheme", "that", "are", "appropriate", "for", "storing", "inverted", "lists", ".", "Variable-bit", "or", "bitwise", "schemes", "store", "integers", "in", "an", "integral", "number", "of", "bits", ".", "Well-known", "bitwise", "schemes", "include", "Elias", "gamma", "and", "delta", "coding", "-LSB-", "3", "-RSB-", "and", "Golomb-Rice", "coding", "-LSB-", "4", "-RSB-", ".", "Bytewise", "schemes", "store", "an", "integer", "in", "an", "integral", "number", "of", "blocks", ",", "where", "a", "block", "is", "eight", "bits", "in", "size", ";", "we", "distinguish", "between", "blocks", "and", "bytes", "here", ",", "since", "there", "is", "no", "implied", "restriction", "that", "a", "block", "must", "align", "to", "a", "physical", "byte-boundary", ".", "A", "simple", "bytewise", "scheme", "is", "variable-byte", "coding", "-LSB-", "2", ",", "13", "-RSB-", ";", "uncompressed", "integers", "are", "also", "stored", "in", "an", "integral", "number", "of", "blocks", ",", "but", "we", "do", "not", "define", "them", "as", "bytewise", "schemes", "since", ",", "on", "most", "architectures", ",", "an", "integer", "has", "a", "fixed-size", "representation", "of", "four", "bytes", ".", "In", "detail", ",", "these", "schemes", "are", "as", "follows", ".", "Elias", "coding", "-LSB-", "3", "-RSB-", "is", "a", "non-parameterised", "bitwise", "method", "of", "coding", "integers", ".", "-LRB-", "Non-parameterised", "methods", "use", "static", "or", "fixed", "codes", "to", "store", "integers", ".", "-RRB-", "The", "Elias", "gamma", "code", "represents", "a", "positive", "integer", "k", "by", "1", "+", "log", "2", "k", "stored", "as", "a", "unary", "code", ",", "followed", "by", "the", "binary", "representation", "of", "k", "without", "its", "most", "significant", "bit", ".", "Using", "Elias", "gamma", "coding", ",", "small", "integers", "are", "compactly", "represented", ";", "in", "particular", ",", "the", "integer", "1", "is", "represented", "as", "a", "single", "1-bit", ".", "Gamma", "coding", "is", "relatively", "inefficient", "for", "storing", "integers", "larger", "than", "15", "-LSB-", "13", "-RSB-", ".", "Elias", "delta", "codes", "are", "suited", "to", "coding", "larger", "integers", ",", "but", "are", "inefficient", "for", "small", "values", ".", "For", "an", "integer", "k", ",", "a", "delta", "code", "stores", "the", "gamma", "code", "representation", "of", "1", "+", "log", "2", "k", ",", "and", "then", "the", "binary", "representation", "of", "k", "without", "its", "most", "significant", "bit", ".", "Golomb-Rice", "bitwise", "coding", "-LSB-", "4", "-RSB-", "has", "been", "shown", "to", "offer", "more", "compact", "storage", "of", "integers", "and", "faster", "retrieval", "than", "the", "Elias", "codes", "-LSB-", "13", "-RSB-", ";", "indeed", ",", "it", "is", "bitwise", "optimal", "under", "the", "assumption", "that", "the", "set", "of", "documents", "with", "a", "given", "term", "is", "random", ".", "The", "codes", "are", "adapted", "to", "per-term", "likelihoods", "via", "a", "parameter", "that", "is", "used", "to", "determine", "the", "code", "emitted", "for", "an", "integer", ".", "In", "many", "cases", ",", "this", "parameter", "must", "be", "stored", "separately", "using", ",", "for", "example", ",", "an", "Elias", "code", ".", "For", "coding", "of", "inverted", "lists", ",", "a", "single", "parameter", "is", "used", "for", "all", "document", "numbers", "in", "a", "postings", "list", ",", "but", "each", "posting", "requires", "a", "parameter", "for", "its", "offsets", ".", "The", "parameters", "can", "be", "calculated", "as", "the", "lists", "are", "decoded", "using", "statistics", "stored", "in", "memory", "and", "in", "the", "lists", ",", "as", "we", "discuss", "later", ".", "Coding", "of", "an", "integer", "k", "using", "Golomb", "codes", "with", "respect", "to", "a", "parameter", "b", "is", "as", "follows", ".", "The", "code", "that", "is", "emitted", "is", "in", "two", "parts", ":", "first", ",", "the", "unary", "code", "of", "a", "quotient", "q", "is", "emitted", ",", "where", "q", "=", "-LRB-", "k", "-", "1", "-RRB-", "/", "b", "+", "1", ";", "second", ",", "a", "binary", "code", "is", "emitted", "for", "the", "remainder", "r", ",", "where", "r", "=", "k", "-", "q", "b", "-", "1", ".", "The", "number", "of", "bits", "required", "to", "store", "the", "remainder", "r", "is", "either", "log", "2", "b", "or", "log", "2", "b", ".", "To", "retrieve", "the", "remainder", ",", "the", "value", "of", "the", "``", "toggle", "point", "''", "t", "=", "1", "-LRB-", "-LRB-", "log", "2", "k", "-RRB-", "+1", "-RRB-", "-RRB-", "-", "b", "is", "required", ",", "where", "indicates", "a", "left-shift", "operation", ".", "After", "retrieving", "log", "2", "b", "bits", "of", "the", "remainder", "r", ",", "the", "remainder", "is", "compared", "to", "t", ".", "If", "r", ">", "t", ",", "then", "one", "additional", "bit", "of", "the", "remainder", "must", "be", "retrieved", ".", "It", "is", "generally", "thought", "that", "caching", "calculated", "values", "of", "log", "2", "b", "is", "necessary", "for", "fast", "decoding", ",", "with", "a", "main-memory", "penalty", "of", "having", "to", "store", "the", "values", ".", "However", ",", "as", "we", "show", "later", ",", "when", "the", "standard", "log", "library", "function", "is", "replaced", "with", "a", "fast", "bit-shifting", "version", ",", "caching", "is", "unnecessary", ".", "Rice", "coding", "is", "a", "variant", "of", "Golomb", "coding", "where", "the", "value", "of", "b", "is", "restricted", "to", "be", "a", "power", "of", "2", ".", "The", "advantage", "of", "this", "restriction", "is", "that", "there", "is", "no", "``", "toggle", "point", "''", "calculation", "required", ",", "that", "is", ",", "the", "remainder", "is", "always", "stored", "in", "exactly", "log", "2", "b", "bits", ".", "The", "disadvantage", "of", "this", "scheme", "is", "that", "the", "choice", "of", "value", "for", "b", "is", "restricted", "and", ",", "therefore", ",", "the", "compression", "is", "slightly", "less", "effective", "than", "that", "of", "Golomb", "coding", ".", "For", "compression", "of", "inverted", "lists", ",", "a", "value", "of", "b", "is", "required", ".", "Witten", "et", "al.", "-LSB-", "14", "-RSB-", "report", "that", "for", "cases", "where", "the", "probability", "of", "any", "particular", "integer", "value", "occurring", "is", "small", "--", "which", "is", "the", "usual", "case", "for", "document", "numbers", "d", "and", "offsets", "o", "--", "then", "b", "can", "be", "calculated", "as", ":", "b", "=", "0.69", "mean", "-LRB-", "k", "-RRB-", "For", "each", "inverted", "list", ",", "the", "mean", "value", "of", "document", "numbers", "d", "can", "be", "approximated", "as", "k", "=", "N/f", "t", "where", "N", "is", "the", "number", "of", "documents", "in", "the", "collection", "and", "f", "t", "is", "the", "number", "of", "postings", "in", "the", "inverted", "list", "for", "term", "t", "-LSB-", "14", "-RSB-", ".", "This", "approach", "can", "also", "be", "extended", "to", "offsets", ":", "the", "mean", "value", "of", "offsets", "o", "for", "an", "inverted", "list", "posting", "can", "be", "approximated", "as", "k", "=", "l", "d", "/", "f", "d", ",", "t", "where", "l", "d", "is", "the", "length", "of", "document", "d", "and", "f", "d", ",", "t", "is", "the", "number", "of", "offsets", "of", "term", "t", "within", "that", "document", ".", "As", "the", "statistics", "N", ",", "f", "t", ",", "and", "l", "are", "often", "available", "in", "memory", ",", "or", "in", "a", "simple", "auxiliary", "structure", "on", "disk", ",", "storage", "of", "b", "values", "is", "not", "required", "for", "decoding", ";", "approximate", "values", "of", "l", "can", "be", "stored", "in", "memory", "for", "compactness", "-LSB-", "7", "-RSB-", ",", "but", "use", "of", "approximate", "values", "has", "little", "effect", "on", "compression", "effectiveness", "as", "it", "leads", "to", "only", "small", "relative", "errors", "in", "computation", "of", "b", ".", "In", "bytewise", "coding", "an", "integer", "is", "stored", "in", "an", "integral", "number", "of", "eight-bit", "blocks", ".", "For", "variable-byte", "codes", ",", "seven", "bits", "in", "each", "block", "are", "used", "to", "store", "a", "binary", "representation", "of", "the", "integer", "k", ".", "The", "remaining", "bit", "is", "used", "to", "indicate", "whether", "the", "current", "block", "is", "the", "final", "block", "for", "k", ",", "or", "whether", "an", "additional", "block", "follows", ".", "Consider", "an", "example", "of", "an", "integer", "k", "224", "in", "the", "range", "of", "2", "7", "=", "128", "to", "2", "14", "=", "16", ",", "384", ".", "Two", "blocks", "are", "required", "to", "represent", "this", "integer", ":", "the", "first", "block", "contains", "the", "seven", "least-significant", "bits", "of", "the", "integer", "and", "the", "eighth", "bit", "is", "used", "to", "flag", "that", "another", "block", "follows", ";", "the", "second", "block", "contains", "the", "remaining", "most-significant", "bits", "and", "the", "eighth", "bit", "flags", "that", "no", "further", "blocks", "follow", ".", "We", "use", "the", "convention", "that", "the", "flag", "bit", "is", "set", "to", "1", "in", "the", "final", "block", "and", "0", "otherwise", ".", "Compressing", "an", "inverted", "index", ",", "then", ",", "involves", "choosing", "compression", "schemes", "for", "the", "three", "kinds", "of", "data", "that", "are", "stored", "in", "a", "posting", ":", "a", "document", "number", "d", ",", "an", "in-document", "frequency", "f", "d", ",", "t", ",", "and", "a", "sequence", "of", "offsets", "o", ".", "A", "standard", "choice", "is", "to", "use", "Golomb", "codes", "for", "document", "numbers", ",", "gamma", "codes", "for", "frequencies", ",", "and", "delta", "codes", "for", "offsets", "-LSB-", "14", "-RSB-", ".", "-LRB-", "We", "explore", "the", "properties", "of", "this", "choice", "later", ".", "-RRB-", "In", "this", "paper", ",", "we", "describe", "such", "a", "choice", "as", "a", "GolD-GamF-DelO", "index", ".", "3.1", "Fast", "Decoding", "We", "experiment", "with", "compression", "of", "inverted", "lists", "of", "postings", "that", "contain", "frequencies", "f", "d", ",", "t", ",", "documents", "numbers", "d", ",", "and", "offsets", "o.", "For", "fast", "decompression", "of", "these", "postings", ",", "there", "are", "two", "important", "considerations", ":", "first", ",", "the", "choice", "of", "compression", "scheme", "for", "each", "component", "of", "the", "posting", ";", "and", ",", "second", ",", "modifications", "to", "each", "compression", "scheme", "so", "that", "it", "is", "both", "fast", "and", "compatible", "with", "the", "schemes", "used", "for", "the", "other", "components", ".", "In", "this", "section", ",", "we", "outline", "the", "optimisations", "we", "use", "for", "fast", "decompression", ".", "Our", "code", "is", "publically", "available", "and", "distributed", "under", "the", "GNU", "public", "licence", ".", "2", "Bitwise", "Compression", "We", "have", "experimented", "with", "a", "range", "of", "variations", "of", "bitwise", "decompression", "schemes", ".", "Williams", "and", "Zobel", "-LSB-", "13", "-RSB-", "reported", "results", "for", "several", "efficient", "schemes", ",", "where", "vectors", "that", "contain", "compressed", "integers", "are", "retrieved", "from", "disk", "and", "subse-quently", "decoded", ".", "3", "In", "their", "approach", ",", "vector", "decoding", "uses", "bitwise", "shift", "operations", ",", "bit", "masks", ",", "multiplication", ",", "subtraction", ",", "and", "function", "calls", "to", "retrieve", "sequences", "of", "bits", "that", "span", "byte", "boundaries", ".", "In", "our", "experiments", "on", "Intel", "Pentium-based", "servers", "running", "the", "Linux", "operating", "system", ",", "we", "have", "found", "that", "bitwise", "shift", "operations", "are", "usually", "faster", "than", "bit", "masks", ",", "and", "that", "the", "function", "calls", "are", "slow", ".", "By", "opti-mising", "our", "code", "to", "use", "bitwise", "shifts", "and", "to", "remove", "nested", "function", "calls", ",", "we", "have", "found", "that", "the", "overall", "time", "to", "decode", "vectors", "--", "regardless", "of", "the", "compression", "scheme", "used", "--", "is", "on", "average", "around", "60", "%", "of", "that", "using", "the", "code", "of", "Williams", "and", "Zobel", ".", "Other", "optimisations", "that", "are", "specific", "to", "Golomb-Rice", "coding", "are", "also", "of", "value", ".", "Golomb-Rice", "decoding", "requires", "that", "log", "2", "b", "is", "calculated", "to", "determine", "the", "number", "of", "remainder", "bits", "to", "be", "retrieved", ".", "It", "is", "practicable", "to", "explicitly", "cache", "values", "of", "log", "2", "b", "in", "a", "hash", "table", "as", "they", "are", "calculated", ",", "or", "to", "pre-calculate", "all", "likely-to-be-used", "values", "as", "the", "retrieval", "query", "engine", "is", "initialised", ".", "This", "saves", "recalculation", "of", "logarithms", "when", "a", "value", "of", "b", "is", "reused", "in", "later", "processing", ",", "with", "the", "penalty", "of", "additional", "memory", "requirements", "for", "storing", "the", "lookup", "table", ".", "We", "measured", "the", "performance", "of", "Golomb", "coding", "with", "and", "2", "The", "search", "engine", "used", "in", "these", "experiments", "and", "our", "integer", "compression", "code", "is", "available", "from", "http://www.seg.rmit.edu.au/", "3", "The", "code", "used", "by", "Williams", "and", "Zobel", "in", "their", "experiments", "is", "available", "from", "http://www.cs.rmit.edu.au/", "~", "hugh/software", "/", "without", "caching", ".", "Timings", "are", "average", "elapsed", "query", "evaluation", "cost", "to", "process", "index", "information", "for", "25,000", "queries", "on", "a", "9.75", "gigabyte", "-LRB-", "Gb", "-RRB-", "collection", "of", "Web", "data", "-LSB-", "5", "-RSB-", "using", "our", "prototype", "retrieval", "engine", "on", "a", "GolD-GamF-GolO", "index", "-LRB-", "that", "is", ",", "Golomb", "document", "numbers", ",", "gamma", "frequencies", ",", "Golomb", "offsets", "-RRB-", ";", "we", "discuss", "collection", "statistics", "and", "experimental", "design", "further", "in", "Section", "4", ".", "The", "cache", "lookup", "table", "size", "is", "unrestricted", ".", "We", "found", "that", ",", "without", "caching", "of", "log", "2", "b", "values", ",", "the", "average", "query", "evaluation", "time", "is", "0.961", "seconds", ".", "Caching", "of", "log", "2", "b", "values", "as", "they", "are", "calculated", "during", "query", "processing", "roughly", "halves", "the", "average", "query", "evaluation", "time", ",", "to", "0.494", "seconds", ".", "Pre-calculating", "and", "storing", "the", "values", "offers", "almost", "no", "benefit", "over", "caching", "during", "query", "processing", ",", "reducing", "the", "time", "to", "0.491", "seconds", ";", "this", "reflects", "that", "only", "limited", "b", "values", "are", "required", "during", "query", "evaluation", ".", "Caching", "of", "toggle", "points", "yields", "0.492", "seconds", ".", "As", "toggle", "points", "are", "calculated", "using", "bitwise", "shifts", ",", "addition", ",", "and", "subtraction", ",", "this", "is", "further", "evidence", "that", "bitwise", "shifts", "are", "inexpensive", "on", "our", "hardware", ".", "An", "alternative", "approach", "to", "managing", "log", "computations", "is", "to", "replace", "the", "standard", "library", "log", "function", "with", "a", "loop", "that", "determines", "log", "2", "b", "using", "bitwise", "shifts", "and", "equality", "tests", ";", "the", "logarithm", "value", "can", "be", "determined", "by", "locating", "the", "position", "of", "the", "most-significant", "1-bit", "in", "b", ".", "We", "found", "that", "this", "led", "to", "slight", "additional", "improvements", "in", "the", "speed", "of", "decoding", "Golomb", "codes", ",", "outperforming", "explicit", "caching", ".", "All", "Golomb-Rice", "coding", "results", "reported", "in", "this", "paper", "are", "computed", "in", "this", "way", ".", "Bytewise", "Compression", "We", "have", "experimented", "with", "improvements", "to", "variable-byte", "coding", ".", "Unlike", "in", "bitwise", "coding", ",", "we", "have", "found", "that", "masking", "and", "shifting", "are", "equally", "as", "fast", "because", "of", "the", "large", "number", "of", "shifts", "required", ".", "We", "use", "shifts", "in", "our", "experiments", ".", "Perhaps", "the", "most", "obvious", "way", "to", "increase", "the", "speed", "of", "variable-byte", "decoding", "is", "to", "align", "the", "eight-bit", "blocks", "to", "byte", "boundaries", ".", "Alignment", "with", "byte", "boundaries", "limits", "the", "decoding", "to", "only", "one", "option", ":", "the", "flag", "bit", "indicating", "if", "this", "is", "the", "last", "byte", "in", "the", "integer", "is", "always", "the", "most", "significant", "bit", ",", "and", "the", "remaining", "seven", "bits", "contain", "the", "value", ".", "Without", "byte", "alignment", ",", "additional", "conditional", "tests", "and", "operations", "are", "required", "to", "extract", "the", "flag", "bit", ",", "and", "the", "seven-bit", "value", "can", "span", "byte", "boundaries", ".", "We", "would", "expect", "that", "byte", "alignment", "would", "improve", "the", "speed", "of", "decoding", "variable-byte", "integers", ".", "Figure", "1", "shows", "the", "effect", "of", "byte", "alignment", "of", "variable-byte", "integers", ".", "In", "this", "experiment", ",", "variable-byte", "coding", "is", "used", "to", "store", "the", "offsets", "o", "in", "each", "inverted", "list", "posting", ".", "The", "optimised", "Golomb", "coding", "scheme", "described", "in", "the", "previous", "section", "is", "used", "to", "code", "document", "numbers", "d", "and", "Elias", "gamma", "coding", "is", "used", "to", "store", "the", "frequencies", "f", "d", ",", "t", ".", "We", "refer", "to", "this", "as", "a", "GolD-GamF-VbyO", "index", ".", "The", "graph", "at", "the", "left", "of", "Figure", "1", "shows", "total", "index", "size", "as", "a", "percentage", "of", "the", "uncompressed", "collection", "being", "indexed", ".", "The", "first", "bar", "shows", "that", ",", "without", "byte", "alignment", ",", "the", "GolD-GamF-VbyO", "index", "requires", "almost", "13", "%", "of", "the", "space", "required", "by", "the", "collection", ".", "The", "second", "bar", "shows", "that", "padding", "to", "byte", "alignment", "after", "storing", "the", "Gamma-coded", "f", "d", ",", "t", "values", "increases", "the", "space", "requirement", "to", "just", "over", "13.5", "%", "of", "the", "collection", "size", ".", "We", "discuss", "the", "other", "schemes", "in", "this", "figure", "later", "in", "this", "section", ".", "The", "graph", "at", "the", "right", "of", "Figure", "1", "shows", "elapsed", "query", "evaluation", "times", "using", "different", "index", "designs", ".", "Timings", "are", "225", "Original", "Original", "with", "byte", "boundary", "Signature", "block", "Signature", "block", "with", "byte", "boundary", "0", "5", "10", "15", "20", "Size", "-LRB-", "%", "of", "Collection", "-RRB-", "Original", "Original", "with", "byte", "boundary", "Signature", "block", "Signature", "block", "with", "byte", "boundary", "Scanning", "Scanning", "with", "byte", "boundary", "Scanning", "with", "signature", "block", "Scanning", "with", "signature", "block", "and", "byte", "boundary", "0.0", "0.2", "0.4", "0.6", "0.8", "1.0", "Average", "Query", "Time", "-LRB-", "Seconds", "-RRB-", "Figure", "1", ":", "Variable-byte", "schemes", "for", "compressing", "offsets", "in", "inverted", "lists", "in", "a", "GolD-GamF-VbyOindex", ".", "Four", "different", "compression", "schemes", "are", "shown", "and", ",", "for", "each", ",", "both", "original", "and", "scanning", "decoding", "are", "shown", ".", "Scanning", "decoding", "can", "be", "used", "when", "offsets", "are", "not", "needed", "for", "query", "resolution", ".", "the", "average", "elapsed", "query", "evaluation", "cost", "to", "process", "the", "inverted", "lists", "for", "25,000", "queries", "on", "a", "20", "Gb", "collection", "of", "Web", "-LSB-", "5", "-RSB-", "data", "using", "our", "prototype", "retrieval", "engine", ".", "Queries", "are", "processed", "as", "conjunctive", "Boolean", "queries", ".", "The", "first", "bar", "shows", "that", "the", "average", "time", "is", "around", "0.7", "seconds", "for", "the", "GolD-GamF-VbyO", "index", "without", "byte", "alignment", ".", "The", "second", "bar", "shows", "that", "the", "effect", "of", "byte", "alignment", "is", "a", "25", "%", "reduction", "in", "average", "query", "time", ".", "Therefore", ",", "despite", "the", "small", "additional", "space", "requirement", ",", "byte-alignment", "is", "beneficial", "when", "storing", "variable-byte", "integers", ".", "A", "second", "optimisation", "to", "variable-byte", "coding", "is", "to", "consider", "the", "query", "mode", "when", "processing", "the", "index", ".", "For", "querying", "that", "does", "not", "use", "offsets", "--", "such", "as", "ranked", "and", "Boolean", "querying", "--", "decoding", "of", "the", "offsets", "in", "each", "posting", "is", "unnecessary", ".", "Rather", ",", "all", "that", "is", "required", "are", "the", "document", "numbers", "d", "and", "document", "frequencies", "f", "d", ",", "t", ".", "An", "optimisation", "is", "therefore", "to", "only", "examine", "the", "flag", "bit", "of", "each", "block", "and", "to", "ignore", "the", "remaining", "seven", "bits", "that", "contain", "the", "value", ".", "The", "value", "of", "f", "d", ",", "t", "indicates", "the", "number", "of", "offsets", "o", "stored", "in", "the", "posting", ".", "By", "examining", "flag", "bits", "until", "f", "d", ",", "t", "1-bits", "are", "processed", ",", "it", "is", "possible", "to", "bypass", "the", "offsets", "with", "minimal", "processing", ".", "We", "call", "this", "approach", "scanning", ".", "Scanning", "can", "also", "be", "used", "in", "query", "modes", "that", "do", "require", "offset", "decoding", ".", "As", "we", "discussed", "earlier", ",", "phrase", "querying", "requires", "that", "all", "terms", "are", "present", "in", "a", "matching", "document", ".", "After", "processing", "the", "inverted", "list", "for", "the", "first", "term", "that", "is", "evaluated", "in", "a", "phrase", "query", ",", "a", "temporary", "inverted", "list", "of", "postings", "is", "created", ".", "This", "temporary", "list", "has", "a", "set", "D", "of", "documents", "that", "contain", "the", "first", "term", ".", "When", "processing", "the", "second", "term", "in", "the", "query", ",", "a", "second", "set", "of", "document", "numbers", "D", "are", "processed", ".", "Offsets", "for", "the", "posting", "associated", "with", "document", "d", "D", "can", "be", "scanned", ",", "that", "is", ",", "passed", "over", "without", "decoding", ",", "if", "d", "is", "not", "a", "member", "of", "D.", "-LRB-", "At", "the", "same", "time", ",", "document", "numbers", "in", "D", "that", "are", "not", "in", "D", "are", "discarded", ".", "-RRB-", "We", "show", "the", "performance", "of", "scanning", "in", "Figure", "1", ".", "The", "fifth", "and", "sixth", "bars", "show", "how", "scanning", "affects", "query", "evaluation", "time", "for", "variable-bytes", "that", "are", "either", "unaligned", "and", "aligned", "to", "byte", "boundaries", "in", "the", "GolD-GamF-VbyO", "index", ".", "Scanning", "removes", "the", "processing", "of", "seven-bit", "values", ".", "This", "reduces", "the", "cost", "of", "retrieving", "unaligned", "variable-bytes", "to", "less", "than", "that", "of", "the", "aligned", "variable-byte", "schemes", ";", "the", "small", "speed", "advantage", "is", "due", "to", "the", "retrieval", "of", "smaller", "lists", "in", "the", "unaligned", "version", ".", "Scanning", "has", "little", "effect", "on", "byte-aligned", "variable", "bytes", ",", "reflecting", "that", "the", "processing", "of", "seven-bit", "values", "using", "shift", "operations", "has", "a", "low", "cost", ".", "Overall", ",", "however", ",", "byte-alignment", "is", "preferred", "since", "the", "decoding", "cost", "of", "offsets", "is", "expensive", "in", "an", "unaligned", "scheme", ".", "A", "third", "optimisation", "is", "an", "approach", "we", "call", "signature", "blocks", ",", "which", "are", "a", "variant", "of", "skipping", ".", "Skipping", "is", "the", "approach", "of", "storing", "additional", "integers", "in", "inverted", "lists", "that", "indicate", "how", "much", "data", "can", "be", "skipped", "without", "any", "processing", "-LSB-", "14", "-RSB-", ".", "Skipping", "has", "the", "disadvantage", "of", "an", "additional", "storage", "space", "requirement", ",", "but", "has", "been", "shown", "to", "offer", "substantial", "speed", "improvements", "-LSB-", "14", "-RSB-", ".", "A", "signature", "block", "is", "an", "eight-bit", "block", "that", "stores", "the", "flag", "bits", "of", "up", "to", "eight", "blocks", "that", "follow", ".", "For", "example", ",", "a", "signature", "block", "with", "the", "bit-string", "11100101", "represents", "that", "five", "integers", "are", "stored", "in", "the", "eight", "following", "eight-bit", "blocks", ":", "the", "string", "111", "represents", "that", "the", "first", "three", "blocks", "store", "one", "integer", "each", ";", "the", "string", "001", "represents", "that", "the", "fourth", "integer", "is", "stored", "over", "three", "blocks", ";", "and", ",", "the", "string", "01", "represents", "that", "the", "final", "integer", "is", "stored", "over", "two", "blocks", ".", "As", "all", "flag", "bits", "are", "stored", "in", "the", "signature", "block", ",", "the", "following", "blocks", "use", "all", "eight", "bits", "to", "store", "values", ",", "rather", "the", "seven-bit", "scheme", "in", "the", "standard", "variable-byte", "integer", "representation", ".", "The", "primary", "use", "of", "signature", "blocks", "is", "skipping", ".", "To", "skip", "offsets", ",", "f", "d", ",", "t", "offset", "values", "must", "be", "retrieved", "but", "not", "processed", ".", "By", "counting", "the", "number", "of", "1-bits", "in", "a", "signature", "block", ",", "the", "number", "of", "integers", "stored", "in", "the", "next", "eight", "blocks", "can", "be", "determined", ".", "If", "the", "value", "of", "f", "d", ",", "t", "exceeds", "this", ",", "then", "a", "second", "or", "subsequent", "signature", "block", "is", "processed", "until", "f", "d", ",", "t", "offsets", "have", "been", "skipped", ".", "The", "last", "signature", "block", "is", ",", "on", "average", ",", "half", "full", ".", "We", "have", "found", "that", "bitwise", "shifts", "are", "faster", "than", "a", "lookup", "table", "for", "processing", "of", "signature", "blocks", ".", "The", "speed", "and", "space", "requirements", "are", "also", "shown", "in", "Figure", "1", ".", "Not", "surprisingly", ",", "the", "signature", "block", "scheme", "requires", "more", "space", "than", "the", "previous", "variable-byte", "schemes", ".", "This", "space", "requirement", "is", "further", "increased", "if", "byte", "alignment", "of", "blocks", "is", "enforced", ".", "In", "terms", "of", "speed", ",", "the", "third", "and", "fourth", "bars", "in", "the", "right-hand", "histogram", "show", "that", "signature", "blocks", "are", "slower", "than", "the", "original", "variable-byte", "schemes", "when", "offsets", "are", "processed", "in", "the", "GolD-GamF-VbyO", "index", ".", "These", "results", "are", "not", "surprising", ":", "signature", "blocks", "are", "slow", "to", "process", "when", "they", "are", "unaligned", ",", "and", "the", "byte-aligned", "version", "is", "slow", "because", "processing", "costs", "are", "no", "less", "than", "the", "original", "variable-byte", "schemes", "and", "longer", "disk", "reads", "are", "required", ".", "As", "shown", "by", "the", "seventh", "bar", ",", "when", "offsets", "are", "skipped", "the", "unaligned", "signature", "block", "scheme", "is", "slower", "than", "the", "original", "226", "variable-byte", "scheme", ".", "The", "savings", "of", "skipping", "with", "signature", "blocks", "are", "negated", "by", "more", "complex", "processing", "when", "blocks", "are", "not", "byte-aligned", ".", "In", "contrast", ",", "the", "right-most", "bar", "shows", "that", "the", "byte-aligned", "signature", "block", "scheme", "with", "skipping", "is", "slightly", "faster", "on", "average", "than", "all", "other", "schemes", ".", "However", ",", "we", "conclude", "--", "given", "the", "compactness", "of", "the", "index", "and", "good", "overall", "performance", "--", "that", "the", "best", "all-round", "scheme", "is", "the", "original", "variable-byte", "scheme", "with", "byte", "alignment", ".", "Therefore", ",", "all", "variable-byte", "results", "reported", "in", "the", "Section", "4", "use", "the", "original", "byte-aligned", "variable-byte", "scheme", "with", "scanning", ".", "Customised", "Compression", "Combinations", "of", "bitwise", "and", "bytewise", "compression", "schemes", "are", "also", "possible", ".", "The", "aim", "of", "such", "approaches", "is", "to", "combine", "the", "fast", "decoding", "of", "bytewise", "schemes", "with", "the", "compact", "storage", "of", "bitwise", "schemes", ".", "For", "example", ",", "a", "simple", "and", "efficient", "custom", "scheme", "is", "to", "store", "a", "single", "bit", "that", "indicates", "which", "of", "two", "compression", "schemes", "is", "used", ",", "and", "then", "to", "store", "the", "integer", "using", "the", "designated", "compression", "scheme", ".", "We", "have", "experimented", "with", "several", "approaches", "for", "storing", "offsets", ".", "The", "simplest", "and", "most", "efficient", "approach", "we", "tested", "is", "as", "follows", ":", "when", "f", "d", ",", "t", "=", "1", ",", "we", "store", "a", "single", "bit", "indicating", "whether", "the", "following", "offset", "is", "stored", "as", "a", "bitwise", "Elias", "delta", "code", "or", "as", "a", "bytewise", "eight-bit", "binary", "representation", ".", "When", "storing", "values", ",", "we", "use", "Elias", "delta", "coding", "if", "the", "value", "is", "greater", "than", "256", "and", "the", "binary", "scheme", "otherwise", ".", "This", "scheme", "has", "the", "potential", "to", "reduce", "space", "because", "in", "the", "median", "posting", "f", "d", ",", "t", "is", "1", "and", "the", "average", "offset", "is", "around", "200", ".", "Selective", "use", "of", "a", "fixed-width", "representation", "can", "save", "storage", "of", "the", "6-bit", "prefix", "used", "to", "indicate", "magnitude", "in", "the", "corresponding", "delta", "code", ".", "We", "report", "the", "results", "with", "this", "scheme", ",", "which", "we", "call", "custom", ",", "in", "the", "next", "section", ".", "This", "was", "the", "fastest", "custom", "scheme", "we", "tested", ".", "Other", "approaches", "we", "tried", "included", "switching", "between", "variable-byte", "and", "bitwise", "schemes", ",", "using", "the", "custom", "scheme", "when", "f", "d", ",", "t", "is", "either", "1", "or", "2", ",", "and", "other", "simple", "variations", ".", "We", "omit", "results", "for", "these", "less", "successful", "approaches", ".", "All", "experiments", "described", "in", "this", "paper", "are", "carried", "out", "on", "an", "Intel", "Pentium", "III", "based", "machine", "with", "512", "Mb", "of", "main-memory", "running", "the", "Linux", "operating", "system", ".", "Other", "processes", "and", "disk", "activity", "was", "minimised", "during", "timing", "experiments", ",", "that", "is", ",", "the", "machine", "was", "under", "light-load", ".", "A", "theme", "throughout", "these", "experiments", "and", "greatly", "impacting", "on", "the", "results", "is", "the", "importance", "of", "caching", ".", "On", "a", "modern", "machine", ",", "caching", "takes", "place", "at", "two", "levels", ".", "One", "level", "is", "the", "caching", "of", "recently-accessed", "disk", "blocks", "in", "memory", ",", "a", "process", "that", "is", "managed", "by", "the", "operating", "system", ".", "When", "the", "size", "of", "the", "index", "significantly", "exceeds", "memory", "capacity", ",", "to", "make", "space", "to", "fetch", "a", "new", "inverted", "list", ",", "the", "blocks", "containing", "material", "that", "has", "not", "been", "accessed", "for", "a", "while", "must", "be", "discarded", ".", "One", "of", "the", "main", "benefits", "of", "compression", "is", "that", "a", "much", "greater", "volume", "of", "index", "information", "can", "be", "cached", "in", "memory", ".", "For", "this", "reason", ",", "we", "test", "our", "compression", "schemes", "with", "streams", "of", "10,000", "or", "25,000", "queries", "extracted", "from", "a", "query", "log", "-LSB-", "11", "-RSB-", ",", "where", "the", "frequency", "distribution", "of", "query", "terms", "leads", "to", "beneficial", "use", "of", "caching", ".", "Again", ",", "queries", "are", "processed", "as", "conjunctive", "Boolean", "queries", ".", "The", "other", "level", "at", "which", "caching", "takes", "place", "is", "the", "retention", "in", "the", "CPU", "cache", "of", "small", "blocks", "of", "data", ",", "typically", "of", "128", "bytes", ",", "recently", "accessed", "from", "memory", ".", "CPU", "caching", "DelD-GamF-GolO", "GolD-GamF-GamO", "GolD-GamF-DelO", "GolD-GamF-GolO", "GolD-GamF-RicO", "GolD-GamF-VbyO", "GolD-VbyF-VbyO", "RicD-GamF-RicO", "RicD-VbyF-VbyO", "VbyD-VbyF-VbyO", "Custom", "No", "compression", "0", "10", "20", "30", "40", "Index", "Size", "-LRB-", "%", "of", "Collection", "-RRB-", "DelD-GamF-GolO", "GolD-GamF-GamO", "GolD-GamF-DelO", "GolD-GamF-GolO", "GolD-GamF-RicO", "GolD-GamF-VbyO", "GolD-VbyF-VbyO", "RicD-GamF-RicO", "RicD-VbyF-VbyO", "VbyD-VbyF-VbyO", "Custom", "No", "compression", "0", "1", "2", "3", "4", "Average", "Query", "Time", "-LRB-", "Seconds", "x", "10", "^", "-2", "-RRB-", "Figure", "2", ":", "Performance", "of", "integer", "compression", "schemes", "for", "offsets", "in", "inverted", "lists", ",", "in", "an", "index", "with", "Golomb", "document", "numbers", "and", "gamma", "frequencies", ".", "In", "this", "experiment", ",", "the", "index", "fits", "in", "main", "memory", ".", "A", "500", "Mb", "collection", "is", "used", ",", "and", "results", "are", "averaged", "over", "10,000", "queries", ".", "is", "managed", "in", "hardware", ".", "In", "current", "desktop", "computers", ",", "as", "many", "as", "150", "instruction", "cycles", "are", "required", "to", "fetch", "a", "single", "machine-word", "into", "the", "CPU", ".", "At", "a", "coarser", "level", ",", "compression", "of", "postings", "lists", "means", "that", "the", "number", "of", "fetches", "from", "memory", "to", "cache", "during", "decompression", "is", "halved", ".", "Small", "collection", "Figure", "2", "shows", "the", "relative", "performance", "of", "the", "integer", "compression", "schemes", "we", "have", "described", "for", "storing", "offsets", ",", "on", "a", "500", "Mb", "collection", "of", "94,802", "Web", "documents", "drawn", "from", "the", "TREC", "Web", "track", "data", "-LSB-", "5", "-RSB-", ";", "timing", "results", "are", "averaged", "over", "10,000", "queries", "drawn", "from", "an", "Excite", "search", "engine", "query", "log", "-LSB-", "11", "-RSB-", ".", "The", "index", "contains", "703", ",", "518", "terms", ".", "These", "results", "show", "the", "effect", "of", "varying", "the", "coding", "scheme", "used", "for", "document", "numbers", "d", ",", "frequencies", "f", "d", ",", "t", ",", "and", "offsets", "o", ".", "In", "all", "cases", "where", "both", "bitwise", "and", "variable-byte", "codes", "are", "used", ",", "the", "bitwise", "codes", "are", "padded", "to", "a", "byte", "boundary", "before", "a", "variable-byte", "code", "is", "emitted", ";", "thus", ",", "for", "example", ",", "in", "a", "GolD-GamF", "-", "VbyO", "index", ",", "there", "is", "padding", "between", "the", "gamma", "227", "frequency", "and", "the", "sequence", "of", "variable-byte", "offsets", ".", "Not", "all", "code", "combinations", "are", "shown", ";", "for", "example", ",", "given", "that", "the", "speed", "advantage", "of", "using", "variable-byte", "document", "numbers", "is", "small", ",", "we", "have", "not", "reported", "results", "for", "index", "types", "such", "as", "VbyD-GamF-RicD", ",", "and", "due", "to", "the", "use", "of", "padding", "a", "choice", "such", "as", "VbyD-GamF-VbyD", ".", "Given", "the", "highly", "skew", "distribution", "of", "f", "d", ",", "t", "values", ",", "Golomb", "or", "Rice", "are", "not", "suitable", "coding", "methods", ",", "so", "these", "have", "not", "been", "tried", ".", "In", "the", "``", "no", "compression", "''", "case", ",", "fixed-width", "fields", "are", "used", "to", "store", "postings", ".", "Document", "numbers", "are", "stored", "in", "32", "bits", ",", "frequencies", "in", "16", "bits", ",", "and", "offsets", "in", "24", "bits", ";", "these", "were", "the", "smallest", "multiples", "of", "bytes", "that", "would", "not", "overflow", "for", "reasonable", "assumptions", "about", "data", "properties", ".", "The", "relative", "performance", "of", "Elias", "delta", "and", "gamma", ",", "Rice", ",", "and", "Golomb", "coding", "is", "as", "expected", ".", "The", "non-parameterised", "Elias", "coding", "schemes", "result", "in", "larger", "indexes", "than", "the", "param-terised", "Golomb-Rice", "schemes", "that", ",", "in", "turn", ",", "result", "in", "slower", "query", "evaluation", ".", "The", "average", "difference", "between", "offsets", "is", "greater", "than", "15", ",", "making", "Elias", "delta", "coding", "more", "appropriate", "overall", "than", "gamma", "coding", ";", "the", "latter", "is", "both", "slower", "and", "less", "space-efficient", ".", "On", "the", "lower", "graph", "in", "Figure", "2", ",", "comparing", "the", "fourth", "and", "fifth", "columns", "and", "comparing", "the", "fifth", "and", "eighth", "columns", ",", "it", "can", "be", "seen", "that", "choice", "of", "Golomb", "or", "Rice", "codes", "for", "either", "offsets", "or", "document", "numbers", "has", "virtually", "no", "impact", "on", "index", "size", ".", "Comparing", "the", "fifth", "and", "eighth", "columns", "on", "the", "upper", "graph", ",", "the", "schemes", "yield", "similar", "decoding", "times", "for", "document", "numbers", ".", "However", ",", "Rice", "codes", "are", "markedly", "faster", "for", "decoding", "offsets", ",", "because", "no", "toggle", "point", "calculation", "is", "required", ".", "Among", "the", "bitwise", "schemes", ",", "we", "conclude", "that", "Rice", "coding", "should", "be", "used", "in", "preference", "to", "other", "schemes", "for", "coding", "document", "numbers", "and", "offsets", ".", "The", "most", "surprising", "result", "is", "the", "effect", "of", "using", "the", "optimised", "byte-boundary", "variable-byte", "scheme", "for", "coding", "offsets", ".", "Despite", "the", "variable-byte", "index", "being", "26", "%", "larger", "than", "the", "corresponding", "Rice-coded", "index", ",", "the", "overall", "query", "evaluation", "time", "is", "62", "%", "less", ".", "Further", "speed", "gains", "are", "given", "by", "coding", "all", "values", "in", "variable-byte", "codes", ".", "Indeed", ",", "variable-byte", "decoding", "is", "faster", "even", "than", "processing", "uncompressed", "lists", ".", "This", "result", "is", "remarkable", ":", "the", "cost", "of", "transfering", "variable-byte", "coded", "lists", "from", "memory", "to", "the", "CPU", "cache", "and", "then", "decoding", "the", "lists", "is", "less", "than", "the", "cost", "of", "transferring", "uncompressed", "lists", ".", "To", "our", "knowledge", ",", "this", "is", "the", "first", "practical", "illustration", "that", "compression", "improves", "the", "efficiency", "of", "an", "in-memory", "retrieval", "system", ".", "We", "conclude", "from", "this", "that", "variable-byte", "coding", "should", "be", "used", "to", "store", "offsets", "to", "reduce", "both", "disk", "retrieval", "and", "memory", "retrieval", "costs", ".", "In", "experiments", "with", "integers", ",", "Williams", "and", "Zobel", "found", "that", "variable-byte", "coding", "is", "faster", "than", "the", "bitwise", "schemes", "for", "storing", "large", "integers", "of", "the", "magnitude", "stored", "in", "inverted", "lists", "-LSB-", "13", "-RSB-", ".", "Our", "result", "confirms", "this", "observation", "for", "retrieval", "systems", ",", "while", "also", "showing", "that", "the", "effect", "extends", "to", "fast", "retrieval", "from", "memory", "and", "that", "improvements", "to", "variable-byte", "coding", "can", "considerably", "increase", "decoding", "speed", ".", "The", "custom", "scheme", "uses", "both", "Elias", "delta", "and", "a", "binary", "bytewise", "scheme", ",", "reducing", "query", "evaluation", "to", "around", "58", "%", "of", "the", "time", "for", "the", "Elias", "delta", "scheme", ".", "However", ",", "the", "custom", "scheme", "is", "almost", "twice", "as", "slow", "as", "the", "variable-byte", "scheme", "and", ",", "therefore", ",", "has", "little", "benefit", "in", "practice", ".", "Large", "collection", "Figure", "3", "shows", "the", "results", "of", "a", "larger", "experiment", "with", "an", "index", "that", "does", "not", "fit", "within", "the", "main-memory", "of", "our", "ma-DelD", "-", "GamF-GolO", "GolD-GamF-GamO", "GolD-GamF-DelO", "GolD-GamF-GolO", "GolD-GamF-VbyO", "RicD-GamF-RicO", "RicD-VbyF-VbyO", "VbyD-VbyF-VbyO", "No", "compression", "0", "10", "20", "30", "40", "Index", "Size", "-LRB-", "%", "of", "Collection", "-RRB-", "DelD-GamF-GolO", "GolD-GamF-GamO", "GolD-GamF-DelO", "GolD-GamF-GolO", "GolD-GamF-VbyO", "RicD-GamF-RicO", "RicD-VbyF-VbyO", "VbyD-VbyF-VbyO", "No", "compression", "0.0", "0.5", "1.0", "1.5", "2.0", "Average", "Query", "Time", "-LRB-", "Seconds", "-RRB-", "Figure", "3", ":", "The", "performance", "of", "integer", "compression", "schemes", "for", "compressing", "offsets", "in", "inverted", "lists", ",", "with", "Golomb-coded", "document", "numbers", "and", "gamma-coded", "offsets", ".", "In", "this", "experiment", ",", "the", "index", "is", "several", "times", "larger", "than", "main", "memory", ".", "A", "20", "Gb", "collection", "is", "used", ",", "and", "results", "are", "averaged", "over", "25,000", "queries", ".", "chine", ".", "Exactly", "the", "same", "index", "types", "are", "tried", "as", "for", "the", "experiment", "above", ".", "A", "20", "Gb", "collection", "of", "4,014,894", "Web", "documents", "drawn", "from", "the", "TREC", "Web", "track", "data", "-LSB-", "5", "-RSB-", "is", "used", "and", "timing", "results", "are", "averaged", "over", "25,000", "Boolean", "queries", "drawn", "from", "an", "Excite", "search", "engine", "query", "log", "-LSB-", "11", "-RSB-", ".", "The", "index", "contains", "9,574,703", "terms", ".", "We", "include", "only", "selected", "schemes", "in", "our", "results", ".", "We", "again", "note", "that", "we", "have", "not", "used", "heuristics", "to", "reduce", "query", "evaluation", "costs", "such", "as", "frequency-ordering", "or", "early", "termination", ".", "Indeed", ",", "we", "have", "not", "even", "used", "stopping", ";", "with", "stopwords", "removed", ",", "query", "times", "are", "greatly", "impoved", ".", "Our", "aim", "in", "this", "research", "is", "to", "measure", "the", "impact", "on", "index", "decoding", "time", "of", "different", "choices", "of", "compression", "method", ",", "not", "to", "establish", "new", "benchmarks", "for", "query", "evaluation", "time", ".", "Our", "improvements", "to", "compression", "techniques", "could", ",", "however", ",", "be", "used", "in", "conjunction", "with", "the", "other", "heuristics", ",", "in", "all", "likelihood", "further", "reducing", "query", "evaluation", "time", "compared", "to", "the", "best", "times", "reported", "previously", ".", "228", "The", "relative", "speeds", "of", "the", "bitwise", "Golomb", ",", "Elias", "delta", ",", "and", "variable-byte", "coded", "offset", "schemes", "are", "similar", "to", "that", "of", "our", "experiments", "with", "the", "500", "Mb", "collection", ".", "Again", ",", "variable-byte", "coding", "results", "in", "the", "fastest", "query", "evaluation", ".", "Perhaps", "unsurprisingly", "given", "the", "results", "described", "above", ",", "an", "uncompressed", "index", "that", "does", "not", "fit", "in", "main-memory", "is", "relatively", "much", "slower", "than", "the", "variable-byte", "scheme", ";", "the", "disk", "transfer", "costs", "are", "a", "larger", "fraction", "of", "the", "overall", "query", "cost", "when", "the", "index", "does", "not", "fit", "in", "memory", ",", "and", "less", "use", "can", "be", "made", "of", "the", "memory", "cache", ".", "Indexes", "with", "variable-byte", "offsets", "are", "twice", "as", "fast", "as", "indexes", "with", "Golomb", ",", "delta", ",", "or", "gamma", "offsets", ",", "and", "one-and-a-half", "times", "as", "fast", "as", "indexes", "with", "Rice", "offsets", ".", "VbyD-VbyF-VbyO", "indexes", "are", "twice", "as", "fast", "as", "any", "index", "type", "with", "non-variable-byte", "offsets", ".", "In", "separate", "experiments", "we", "have", "observed", "that", "the", "gains", "demonstrated", "by", "compression", "continue", "to", "increase", "with", "collection", "size", ",", "as", "the", "proportion", "of", "the", "index", "that", "can", "be", "held", "in", "memory", "declines", ".", "Despite", "the", "loss", "in", "compression", "with", "variable-byte", "coding", ",", "indexes", "are", "still", "less", "than", "one-seventh", "of", "the", "size", "of", "the", "indexed", "data", ",", "and", "the", "efficiency", "gains", "are", "huge", ".", "Compression", "of", "inverted", "lists", "can", "significantly", "improve", "the", "performance", "of", "retrieval", "systems", ".", "We", "have", "shown", "that", "an", "efficiently", "implemented", "variable-byte", "bytewise", "scheme", "results", "in", "query", "evaluation", "that", "is", "twice", "as", "fast", "as", "more", "compact", "bitwise", "schemes", ".", "Moreover", ",", "we", "have", "demonstrated", "that", "the", "cost", "of", "transferring", "data", "from", "memory", "to", "the", "CPU", "cache", "can", "also", "be", "reduced", "by", "compression", ":", "when", "an", "index", "fits", "in", "main", "memory", ",", "the", "transfer", "of", "compressed", "data", "from", "memory", "to", "the", "cache", "and", "subsequent", "decoding", "is", "less", "than", "that", "of", "transferring", "uncompressed", "data", ".", "Using", "byte-aligned", "coding", ",", "we", "have", "shown", "that", "queries", "can", "be", "run", "more", "than", "twice", "as", "fast", "as", "with", "bitwise", "codes", ",", "at", "a", "small", "loss", "of", "compression", "efficiency", ".", "These", "are", "dramatic", "gains", ".", "Modern", "computer", "architectures", "create", "opportunities", "for", "compression", "to", "yield", "performance", "advantages", ".", "Once", ",", "the", "main", "benefits", "of", "compression", "were", "to", "save", "scarce", "disk", "space", "and", "computer-to-computer", "transmission", "costs", ".", "An", "equally", "important", "benefit", "now", "is", "to", "make", "use", "of", "the", "fact", "that", "the", "CPU", "is", "largely", "idle", ".", "Fetching", "a", "single", "byte", "from", "memory", "involves", "a", "delay", "of", "12", "to", "150", "CPU", "cycles", ";", "a", "fetch", "from", "disk", "involves", "a", "delay", "of", "10,000,000", "cycles", ".", "Compression", "can", "greatly", "reduce", "the", "number", "of", "such", "accesses", ",", "while", "CPU", "time", "that", "would", "otherwise", "be", "unused", "can", "be", "spent", "on", "decoding", ".", "With", "fast", "decoding", ",", "overall", "costs", "are", "much", "reduced", ",", "greatly", "increasing", "query", "evaluation", "speed", ".", "In", "current", "computers", "such", "architecture", "considerations", "are", "increasingly", "important", "to", "development", "of", "new", "algorithms", "for", "query", "processing", ".", "Poor", "caching", "has", "been", "a", "crucial", "shortcoming", "of", "existing", "algorithms", "investigated", "in", "this", "research", ".", "There", "are", "several", "possible", "extensions", "to", "this", "work", ".", "We", "plan", "to", "investigate", "nibble-coding", ",", "a", "variant", "of", "variable-byte", "coding", "where", "two", "flag", "bits", "are", "used", "in", "each", "variable-byte", "block", ".", "It", "is", "likely", "that", "this", "approach", "may", "improve", "the", "performance", "of", "signature", "blocks", ".", "We", "will", "also", "experiment", "with", "phrase", "querying", "in", "practice", "and", "to", "explore", "the", "average", "query", "evaluation", "speed", "when", "partial", "scanning", "is", "possible", ".", "-LSB-", "1", "-RSB-", "V.", "Anh", ",", "O.", "de", "Kretser", ",", "and", "A.", "Moffat", ".", "Vector-Space", "ranking", "with", "effective", "early", "termination", ".", "In", "W.", "Croft", ",", "D.", "Harper", ",", "D.", "Kraft", ",", "and", "J.", "Zobel", ",", "editors", ",", "Proc", ".", "ACM-SIGIR", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "35", "42", ",", "New", "York", ",", "Sept.", "2001", ".", "-LSB-", "2", "-RSB-", "E.", "de", "Moura", ",", "G.", "Navarro", ",", "N.", "Ziviani", ",", "and", "R.", "Baeza-Yates", ".", "Fast", "and", "flexible", "word", "searching", "on", "compressed", "text", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "18", "-LRB-", "2", "-RRB-", ":", "113", "139", ",", "2000", ".", "-LSB-", "3", "-RSB-", "P.", "Elias", ".", "Universal", "codeword", "sets", "and", "representations", "of", "the", "integers", ".", "IEEE", "Transactions", "on", "Information", "Theory", ",", "IT-21", "-LRB-", "2", "-RRB-", ":", "194", "203", ",", "Mar.", "1975", ".", "-LSB-", "4", "-RSB-", "S.", "Golomb", ".", "Run-length", "encodings", ".", "IEEE", "Transactions", "on", "Information", "Theory", ",", "IT", "12", "-LRB-", "3", "-RRB-", ":", "399", "401", ",", "July", "1966", ".", "-LSB-", "5", "-RSB-", "D.", "Hawking", ",", "N.", "Creswell", ",", "and", "P.", "Thistlewaite", ".", "Overview", "of", "TREC-7", "very", "large", "collection", "track", ".", "In", "E.", "Voorhees", "and", "D.", "Harman", ",", "editors", ",", "Proc", ".", "Text", "Retrieval", "Conference", "-LRB-", "TREC", "-RRB-", ",", "pages", "91", "104", ",", "Washington", ",", "1999", ".", "National", "Institute", "of", "Standards", "and", "Technology", "Special", "Publication", "500-242", ".", "-LSB-", "6", "-RSB-", "A.", "Moffat", "and", "J.", "Zobel", ".", "Self-indexing", "inverted", "files", "for", "fast", "text", "retrieval", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "14", "-LRB-", "4", "-RRB-", ":", "349", "379", ",", "Oct.", "1996", ".", "-LSB-", "7", "-RSB-", "A.", "Moffat", ",", "J.", "Zobel", ",", "and", "R.", "Sacks-Davis", ".", "Memory-efficient", "ranking", ".", "Information", "Processing", "&", "Management", ",", "30", "-LRB-", "6", "-RRB-", ":", "733", "744", ",", "1994", ".", "-LSB-", "8", "-RSB-", "G.", "Navarro", ",", "E.", "de", "Moura", ",", "M.", "Neubert", ",", "N.", "Ziviani", ",", "and", "R.", "Baeza-Yates", ".", "Adding", "compression", "to", "block", "addressing", "inverted", "indexes", ".", "Information", "Retrieval", ",", "3", "-LRB-", "1", "-RRB-", ":", "49", "77", ",", "2000", ".", "-LSB-", "9", "-RSB-", "M.", "Persin", ".", "Document", "filtering", "for", "fast", "ranking", ".", "In", "W.", "Croft", "and", "C.", "van", "Rijsbergen", ",", "editors", ",", "Proc", ".", "ACM-SIGIR", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "339", "348", ",", "Dublin", ",", "Ireland", ",", "1994", ".", "-LSB-", "10", "-RSB-", "M.", "Persin", ",", "J.", "Zobel", ",", "and", "R.", "Sacks-Davis", ".", "Filtered", "document", "retrieval", "with", "frequency-sorted", "indexes", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "47", "-LRB-", "10", "-RRB-", ":", "749", "764", ",", "1996", ".", "-LSB-", "11", "-RSB-", "A.", "Spink", ",", "D.", "Wolfram", ",", "B.", "J.", "Jansen", ",", "and", "T.", "Saracevic", ".", "Searching", "the", "web", ":", "The", "public", "and", "their", "queries", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "52", "-LRB-", "3", "-RRB-", ":", "226", "234", ",", "2001", ".", "-LSB-", "12", "-RSB-", "A.", "Vo", "and", "A.", "Moffat", ".", "Compressed", "inverted", "files", "with", "reduced", "decoding", "overheads", ".", "In", "R.", "Wilkinson", ",", "B.", "Croft", ",", "K.", "van", "Rijsbergen", ",", "A.", "Moffat", ",", "and", "J.", "Zobel", ",", "editors", ",", "Proc", ".", "ACM-SIGIR", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "290", "297", ",", "Melbourne", ",", "Australia", ",", "July", "1998", ".", "-LSB-", "13", "-RSB-", "H.", "Williams", "and", "J.", "Zobel", ".", "Compressing", "integers", "for", "fast", "file", "access", ".", "Computer", "Journal", ",", "42", "-LRB-", "3", "-RRB-", ":", "193", "201", ",", "1999", ".", "-LSB-", "14", "-RSB-", "I.", "Witten", ",", "A.", "Moffat", ",", "and", "T.", "Bell", ".", "Managing", "Gigabytes", ":", "Compressing", "and", "Indexing", "Documents", "and", "Images", ".", "Morgan", "Kaufmann", "Publishers", ",", "Los", "Altos", ",", "CA", "94022", ",", "USA", ",", "second", "edition", ",", "1999", ".", "-LSB-", "15", "-RSB-", "N.", "Ziviani", ",", "E.", "de", "Moura", ",", "G.", "Navarro", ",", "and", "R.", "Baeza-Yates", ".", "Compression", ":", "A", "key", "for", "next-generation", "text", "retrieval", "systems", ".", "IEEE", "Computer", ",", "33", "-LRB-", "11", "-RRB-", ":", "37", "44", ",", "Nov.", "2000", ".", "229"], "doc_bio_tags": ["B", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["bytewise compression", "search engine", "inverted index", "efficiency", "integer compression", "index compression", "inverted indexes", "decoding", "optimisation", "document retrieval", "compression"], "abstractive_keyphrases": ["variable byte", "retrieval efficiency", "integer coding"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "72", "document": ["Distance", "Measures", "for", "MPEG-7-based", "Retrieval", "In", "visual", "information", "retrieval", "the", "careful", "choice", "of", "suitable", "proximity", "measures", "is", "a", "crucial", "success", "factor", ".", "The", "evaluation", "presented", "in", "this", "paper", "aims", "at", "showing", "that", "the", "distance", "measures", "suggested", "by", "the", "MPEG-7", "group", "for", "the", "visual", "descriptors", "can", "be", "beaten", "by", "general-purpose", "measures", ".", "Eight", "visual", "MPEG-7", "descriptors", "were", "selected", "and", "38", "distance", "measures", "implemented", ".", "Three", "media", "collections", "were", "created", "and", "assessed", ",", "performance", "indicators", "developed", "and", "more", "than", "22500", "tests", "performed", ".", "Additionally", ",", "a", "quantisation", "model", "was", "developed", "to", "be", "able", "to", "use", "predicate-based", "distance", "measures", "on", "continuous", "data", "as", "well", ".", "The", "evaluation", "shows", "that", "the", "distance", "measures", "recommended", "in", "the", "MPEG-7-standard", "are", "among", "the", "best", "but", "that", "other", "measures", "perform", "even", "better", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "Information", "filtering", ",", "Query", "formulation", ",", "Retrieval", "models", ".", "Algorithms", ",", "Measurement", ",", "Experimentation", ",", "Performance", ",", "Theory", ".", "The", "MPEG-7", "standard", "defines", "among", "others", "a", "set", "of", "descriptors", "for", "visual", "media", ".", "Each", "descriptor", "consists", "of", "a", "feature", "extraction", "mechanism", ",", "a", "description", "-LRB-", "in", "binary", "and", "XML", "format", "-RRB-", "and", "guidelines", "that", "define", "how", "to", "apply", "the", "descriptor", "on", "different", "kinds", "of", "media", "-LRB-", "e.g.", "on", "temporal", "media", "-RRB-", ".", "The", "MPEG-7", "descriptors", "have", "been", "carefully", "designed", "to", "meet", "partially", "complementary", "requirements", "of", "different", "application", "domains", ":", "archival", ",", "browsing", ",", "retrieval", ",", "etc.", "-LSB-", "9", "-RSB-", ".", "In", "the", "following", ",", "we", "will", "exclusively", "deal", "with", "the", "visual", "MPEG-7", "descriptors", "in", "the", "context", "of", "media", "retrieval", ".", "The", "visual", "MPEG-7", "descriptors", "fall", "in", "five", "groups", ":", "colour", ",", "texture", ",", "shape", ",", "motion", "and", "others", "-LRB-", "e.g.", "face", "description", "-RRB-", "and", "sum", "up", "to", "16", "basic", "descriptors", ".", "For", "retrieval", "applications", ",", "a", "rule", "for", "each", "descriptor", "is", "mandatory", "that", "defines", "how", "to", "measure", "the", "similarity", "of", "two", "descriptions", ".", "Common", "rules", "are", "distance", "functions", ",", "like", "the", "Euclidean", "distance", "and", "the", "Mahalanobis", "distance", ".", "Unfortunately", ",", "the", "MPEG-7", "standard", "does", "not", "include", "distance", "measures", "in", "the", "normative", "part", ",", "because", "it", "was", "not", "designed", "to", "be", "-LRB-", "and", "should", "not", "exclusively", "understood", "to", "be", "-RRB-", "retrieval-specific", ".", "However", ",", "the", "MPEG-7", "authors", "give", "recommendations", ",", "which", "distance", "measure", "to", "use", "on", "a", "particular", "descriptor", ".", "These", "recommendations", "are", "based", "on", "accurate", "knowledge", "of", "the", "descriptors", "'", "behaviour", "and", "the", "description", "structures", ".", "In", "the", "present", "study", "a", "large", "number", "of", "successful", "distance", "measures", "from", "different", "areas", "-LRB-", "statistics", ",", "psychology", ",", "medicine", ",", "social", "and", "economic", "sciences", ",", "etc.", "-RRB-", "were", "implemented", "and", "applied", "on", "MPEG-7", "data", "vectors", "to", "verify", "whether", "or", "not", "the", "recommended", "MPEG-7", "distance", "measures", "are", "really", "the", "best", "for", "any", "reasonable", "class", "of", "media", "objects", ".", "From", "the", "MPEG-7", "tests", "and", "the", "recommendations", "it", "does", "not", "become", "clear", ",", "how", "many", "and", "which", "distance", "measures", "have", "been", "tested", "on", "the", "visual", "descriptors", "and", "the", "MPEG-7", "test", "datasets", ".", "The", "hypothesis", "is", "that", "analytically", "derived", "distance", "measures", "may", "be", "good", "in", "general", "but", "only", "a", "quantitative", "analysis", "is", "capable", "to", "identify", "the", "best", "distance", "measure", "for", "a", "specific", "feature", "extraction", "method", ".", "The", "paper", "is", "organised", "as", "follows", ".", "Section", "2", "gives", "a", "minimum", "of", "background", "information", "on", "the", "MPEG-7", "descriptors", "and", "distance", "measurement", "in", "visual", "information", "retrieval", "-LRB-", "VIR", ",", "see", "-LSB-", "3", "-RSB-", ",", "-LSB-", "16", "-RSB-", "-RRB-", ".", "Section", "3", "gives", "an", "overview", "over", "the", "implemented", "distance", "measures", ".", "Section", "4", "describes", "the", "test", "setup", ",", "including", "the", "test", "data", "and", "the", "implemented", "evaluation", "methods", ".", "Finally", ",", "Section", "5", "presents", "the", "results", "per", "descriptor", "and", "over", "all", "descriptors", ".", "The", "visual", "part", "of", "the", "MPEG-7", "standard", "defines", "several", "descriptors", ".", "Not", "all", "of", "them", "are", "really", "descriptors", "in", "the", "sense", "that", "they", "extract", "properties", "from", "visual", "media", ".", "Some", "of", "them", "are", "just", "structures", "for", "descriptor", "aggregation", "or", "localisation", ".", "The", "basic", "descriptors", "are", "Color", "Layout", ",", "Color", "Structure", ",", "Dominant", "Color", ",", "Scalable", "Color", ",", "Edge", "Histogram", ",", "Homogeneous", "Texture", ",", "Texture", "Browsing", ",", "Region-based", "Shape", ",", "Contour-based", "Shape", ",", "Camera", "Motion", ",", "Parametric", "Motion", "and", "Motion", "Activity", ".", "Other", "descriptors", "are", "based", "on", "low-level", "descriptors", "or", "semantic", "information", ":", "Group-of-Frames/Group-of-Pictures", "Color", "-LRB-", "based", "on", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MIR", "'", "03", ",", "November", "7", ",", "2003", ",", "Berkeley", ",", "California", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-778-8", "/", "03/00011", "...", "$", "5.00", ".", "130", "Scalable", "Color", "-RRB-", ",", "Shape", "3D", "-LRB-", "based", "on", "3D", "mesh", "information", "-RRB-", ",", "Motion", "Trajectory", "-LRB-", "based", "on", "object", "segmentation", "-RRB-", "and", "Face", "Recognition", "-LRB-", "based", "on", "face", "extraction", "-RRB-", ".", "Descriptors", "for", "spatiotemporal", "aggregation", "and", "localisation", "are", ":", "Spatial", "2D", "Coordinates", ",", "Grid", "Layout", ",", "Region", "Locator", "-LRB-", "spatial", "-RRB-", ",", "Time", "Series", ",", "Temporal", "Interpolation", "-LRB-", "temporal", "-RRB-", "and", "SpatioTemporal", "Locator", "-LRB-", "combined", "-RRB-", ".", "Finally", ",", "other", "structures", "exist", "for", "colour", "spaces", ",", "colour", "quantisation", "and", "multiple", "2D", "views", "of", "3D", "objects", ".", "These", "additional", "structures", "allow", "combining", "the", "basic", "descriptors", "in", "multiple", "ways", "and", "on", "different", "levels", ".", "But", "they", "do", "not", "change", "the", "characteristics", "of", "the", "extracted", "information", ".", "Consequently", ",", "structures", "for", "aggregation", "and", "localisation", "were", "not", "considered", "in", "the", "work", "described", "in", "this", "paper", ".", "2.2", "Similarity", "measurement", "on", "visual", "data", "Generally", ",", "similarity", "measurement", "on", "visual", "information", "aims", "at", "imitating", "human", "visual", "similarity", "perception", ".", "Unfortunately", ",", "human", "perception", "is", "much", "more", "complex", "than", "any", "of", "the", "existing", "similarity", "models", "-LRB-", "it", "includes", "perception", ",", "recognition", "and", "subjectivity", "-RRB-", ".", "The", "common", "approach", "in", "visual", "information", "retrieval", "is", "measuring", "dis-similarity", "as", "distance", ".", "Both", ",", "query", "object", "and", "candidate", "object", "are", "represented", "by", "their", "corresponding", "feature", "vectors", ".", "The", "distance", "between", "these", "objects", "is", "measured", "by", "computing", "the", "distance", "between", "the", "two", "vectors", ".", "Consequently", ",", "the", "process", "is", "independent", "of", "the", "employed", "querying", "paradigm", "-LRB-", "e.g.", "query", "by", "example", "-RRB-", ".", "The", "query", "object", "may", "be", "natural", "-LRB-", "e.g.", "a", "real", "object", "-RRB-", "or", "artificial", "-LRB-", "e.g.", "properties", "of", "a", "group", "of", "objects", "-RRB-", ".", "Goal", "of", "the", "measurement", "process", "is", "to", "express", "a", "relationship", "between", "the", "two", "objects", "by", "their", "distance", ".", "Iteration", "for", "multiple", "candidates", "allows", "then", "to", "define", "a", "partial", "order", "over", "the", "candidates", "and", "to", "address", "those", "in", "a", "-LRB-", "to", "be", "defined", "-RRB-", "neighbourhood", "being", "similar", "to", "the", "query", "object", ".", "At", "this", "point", ",", "it", "has", "to", "be", "mentioned", "that", "in", "a", "multi-descriptor", "environment", "especially", "in", "MPEG-7", "we", "are", "only", "half", "way", "towards", "a", "statement", "on", "similarity", ".", "If", "multiple", "descriptors", "are", "used", "-LRB-", "e.g.", "a", "descriptor", "scheme", "-RRB-", ",", "a", "rule", "has", "to", "be", "defined", "how", "to", "combine", "all", "distances", "to", "a", "global", "value", "for", "each", "object", ".", "Still", ",", "distance", "measurement", "is", "the", "most", "important", "first", "step", "in", "similarity", "measurement", ".", "Obviously", ",", "the", "main", "task", "of", "good", "distance", "measures", "is", "to", "reorganise", "descriptor", "space", "in", "a", "way", "that", "media", "objects", "with", "the", "highest", "similarity", "are", "nearest", "to", "the", "query", "object", ".", "If", "distance", "is", "defined", "minimal", ",", "the", "query", "object", "is", "always", "in", "the", "origin", "of", "distance", "space", "and", "similar", "candidates", "should", "form", "clusters", "around", "the", "origin", "that", "are", "as", "large", "as", "possible", ".", "Consequently", ",", "many", "well", "known", "distance", "measures", "are", "based", "on", "geometric", "assumptions", "of", "descriptor", "space", "-LRB-", "e.g.", "Euclidean", "distance", "is", "based", "on", "the", "metric", "axioms", "-RRB-", ".", "Unfortunately", ",", "these", "measures", "do", "not", "fit", "ideally", "with", "human", "similarity", "perception", "-LRB-", "e.g.", "due", "to", "human", "subjectivity", "-RRB-", ".", "To", "overcome", "this", "shortage", ",", "researchers", "from", "different", "areas", "have", "developed", "alternative", "models", "that", "are", "mostly", "predicate-based", "-LRB-", "descriptors", "are", "assumed", "to", "contain", "just", "binary", "elements", ",", "e.g.", "Tversky", "'s", "Feature", "Contrast", "Model", "-LSB-", "17", "-RSB-", "-RRB-", "and", "fit", "better", "with", "human", "perception", ".", "In", "the", "following", "distance", "measures", "of", "both", "groups", "of", "approaches", "will", "be", "considered", ".", "The", "distance", "measures", "used", "in", "this", "work", "have", "been", "collected", "from", "various", "areas", "-LRB-", "Subsection", "3.1", "-RRB-", ".", "Because", "they", "work", "on", "differently", "quantised", "data", ",", "Subsection", "3.2", "sketches", "a", "model", "for", "unification", "on", "the", "basis", "of", "quantitative", "descriptions", ".", "Finally", ",", "Subsection", "3.3", "introduces", "the", "distance", "measures", "as", "well", "as", "their", "origin", "and", "the", "idea", "they", "implement", ".", "3.1", "Sources", "Distance", "measurement", "is", "used", "in", "many", "research", "areas", "such", "as", "psychology", ",", "sociology", "-LRB-", "e.g.", "comparing", "test", "results", "-RRB-", ",", "medicine", "-LRB-", "e.g.", "comparing", "parameters", "of", "test", "persons", "-RRB-", ",", "economics", "-LRB-", "e.g.", "comparing", "balance", "sheet", "ratios", "-RRB-", ",", "etc.", ".", "Naturally", ",", "the", "character", "of", "data", "available", "in", "these", "areas", "differs", "significantly", ".", "Essentially", ",", "there", "are", "two", "extreme", "cases", "of", "data", "vectors", "-LRB-", "and", "distance", "measures", "-RRB-", ":", "predicate-based", "-LRB-", "all", "vector", "elements", "are", "binary", ",", "e.g.", "-LCB-", "0", ",", "1", "-RCB-", "-RRB-", "and", "quantitative", "-LRB-", "all", "vector", "elements", "are", "continuous", ",", "e.g.", "-LSB-", "0", ",", "1", "-RSB-", "-RRB-", ".", "Predicates", "express", "the", "existence", "of", "properties", "and", "represent", "high-level", "information", "while", "quantitative", "values", "can", "be", "used", "to", "measure", "and", "mostly", "represent", "low-level", "information", ".", "Predicates", "are", "often", "employed", "in", "psychology", ",", "sociology", "and", "other", "human-related", "sciences", "and", "most", "predicate-based", "distance", "measures", "were", "therefore", "developed", "in", "these", "areas", ".", "Descriptions", "in", "visual", "information", "retrieval", "are", "nearly", "ever", "-LRB-", "if", "they", "do", "not", "integrate", "semantic", "information", "-RRB-", "quantitative", ".", "Consequently", ",", "mostly", "quantitative", "distance", "measures", "are", "used", "in", "visual", "information", "retrieval", ".", "The", "goal", "of", "this", "work", "is", "to", "compare", "the", "MPEG-7", "distance", "measures", "with", "the", "most", "powerful", "distance", "measures", "developed", "in", "other", "areas", ".", "Since", "MPEG-7", "descriptions", "are", "purely", "quantitative", "but", "some", "of", "the", "most", "sophisticated", "distance", "measures", "are", "defined", "exclusively", "on", "predicates", ",", "a", "model", "is", "mandatory", "that", "allows", "the", "application", "of", "predicate-based", "distance", "measures", "on", "quantitative", "data", ".", "The", "model", "developed", "for", "this", "purpose", "is", "presented", "in", "the", "next", "section", ".", "3.2", "Quantisation", "model", "The", "goal", "of", "the", "quantisation", "model", "is", "to", "redefine", "the", "set", "operators", "that", "are", "usually", "used", "in", "predicate-based", "distance", "measures", "on", "continuous", "data", ".", "The", "first", "in", "visual", "information", "retrieval", "to", "follow", "this", "approach", "were", "Santini", "and", "Jain", ",", "who", "tried", "to", "apply", "Tversky", "'s", "Feature", "Contrast", "Model", "-LSB-", "17", "-RSB-", "to", "content-based", "image", "retrieval", "-LSB-", "12", "-RSB-", ",", "-LSB-", "13", "-RSB-", ".", "They", "interpreted", "continuous", "data", "as", "fuzzy", "predicates", "and", "used", "fuzzy", "set", "operators", ".", "Unfortunately", ",", "their", "model", "suffered", "from", "several", "shortcomings", "they", "described", "in", "-LSB-", "12", "-RSB-", ",", "-LSB-", "13", "-RSB-", "-LRB-", "for", "example", ",", "the", "quantitative", "model", "worked", "only", "for", "one", "specific", "version", "of", "the", "original", "predicate-based", "measure", "-RRB-", ".", "The", "main", "idea", "of", "the", "presented", "quantisation", "model", "is", "that", "set", "operators", "are", "replaced", "by", "statistical", "functions", ".", "In", "-LSB-", "5", "-RSB-", "the", "authors", "could", "show", "that", "this", "interpretation", "of", "set", "operators", "is", "reasonable", ".", "The", "model", "offers", "a", "solution", "for", "the", "descriptors", "considered", "in", "the", "evaluation", ".", "It", "is", "not", "specific", "to", "one", "distance", "measure", ",", "but", "can", "be", "applied", "to", "any", "predicate-based", "measure", ".", "Below", ",", "it", "will", "be", "shown", "that", "the", "model", "does", "not", "only", "work", "for", "predicate", "data", "but", "for", "quantitative", "data", "as", "well", ".", "Each", "measure", "implementing", "the", "model", "can", "be", "used", "as", "a", "substitute", "for", "the", "original", "predicate-based", "measure", ".", "Generally", ",", "binary", "properties", "of", "two", "objects", "-LRB-", "e.g.", "media", "objects", "-RRB-", "can", "exist", "in", "both", "objects", "-LRB-", "denoted", "as", "a", "-RRB-", ",", "in", "just", "one", "-LRB-", "b", ",", "c", "-RRB-", "or", "in", "none", "of", "them", "-LRB-", "d", "-RRB-", ".", "The", "operator", "needed", "for", "these", "relationships", "are", "UNION", ",", "MINUS", "and", "NOT", ".", "In", "the", "quantisation", "model", "they", "are", "replaced", "as", "follows", "-LRB-", "see", "-LSB-", "5", "-RSB-", "for", "further", "details", "-RRB-", ".", "131", "+", "+", "=", "=", "=", "k", "jk", "ik", "jk", "ik", "k", "k", "j", "i", "else", "x", "x", "M", "if", "x", "x", "s", "s", "X", "X", "a", "0", "2", "2", ",", "1", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "+", "+", "=", "=", "=", "=", "=", "=", "=", "=", "=", "k", "jk", "ik", "jk", "ik", "k", "k", "j", "i", "k", "ik", "jk", "ik", "jk", "k", "k", "i", "j", "k", "jk", "ik", "jk", "ik", "k", "k", "j", "i", "else", "x", "x", "if", "x", "x", "M", "s", "s", "X", "X", "d", "else", "x", "x", "M", "if", "x", "x", "s", "s", "X", "X", "c", "else", "x", "x", "M", "if", "x", "x", "s", "s", "X", "X", "b", "0", "2", "2", ",", "0", ",", "0", ",", "1", "2", "2", "with", ":", "-LRB-", "-RRB-", "-LSB-", "-RSB-", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "0", "\\", ".", "0", "1", ".", "0", "1", ",", "2", "2", "1", "min", "max", "max", "min", "+", "=", "=", "=", "=", "=", "=", "R", "p", "k", "i", "x", "where", "else", "p", "if", "p", "M", "k", "i", "x", "where", "else", "p", "if", "p", "M", "x", "x", "M", "x", "x", "x", "with", "x", "X", "i", "k", "ik", "i", "k", "ik", "ik", "ik", "i", "a", "selects", "properties", "that", "are", "present", "in", "both", "data", "vectors", "-LRB-", "X", "i", ",", "X", "j", "representing", "media", "objects", "-RRB-", ",", "b", "and", "c", "select", "properties", "that", "are", "present", "in", "just", "one", "of", "them", "and", "d", "selects", "properties", "that", "are", "present", "in", "neither", "of", "the", "two", "data", "vectors", ".", "Every", "property", "is", "selected", "by", "the", "extent", "to", "which", "it", "is", "present", "-LRB-", "a", "and", "d", ":", "mean", ",", "b", "and", "c", ":", "difference", "-RRB-", "and", "only", "if", "the", "amount", "to", "which", "it", "is", "present", "exceeds", "a", "certain", "threshold", "-LRB-", "depending", "on", "the", "mean", "and", "standard", "deviation", "over", "all", "elements", "of", "descriptor", "space", "-RRB-", ".", "The", "implementation", "of", "these", "operators", "is", "based", "on", "one", "assumption", ".", "It", "is", "assumed", "that", "vector", "elements", "measure", "on", "interval", "scale", ".", "That", "means", ",", "each", "element", "expresses", "that", "the", "measured", "property", "is", "``", "more", "or", "less", "''", "present", "-LRB-", "``", "0", "''", ":", "not", "at", "all", ",", "``", "M", "''", ":", "fully", "present", "-RRB-", ".", "This", "is", "true", "for", "most", "visual", "descriptors", "and", "all", "MPEG-7", "descriptors", ".", "A", "natural", "origin", "as", "it", "is", "assumed", "here", "-LRB-", "``", "0", "''", "-RRB-", "is", "not", "needed", ".", "Introducing", "p", "-LRB-", "called", "discriminance-defining", "parameter", "-RRB-", "for", "the", "thresholds", "2", "1", ",", "has", "the", "positive", "consequence", "that", "a", ",", "b", ",", "c", ",", "d", "can", "then", "be", "controlled", "through", "a", "single", "parameter", ".", "p", "is", "an", "additional", "criterion", "for", "the", "behaviour", "of", "a", "distance", "measure", "and", "determines", "the", "thresholds", "used", "in", "the", "operators", ".", "It", "expresses", "how", "accurate", "data", "items", "are", "present", "-LRB-", "quantisation", "-RRB-", "and", "consequently", ",", "how", "accurate", "they", "should", "be", "investigated", ".", "p", "can", "be", "set", "by", "the", "user", "or", "automatically", ".", "Interesting", "are", "the", "limits", ":", "1", ".", "M", "p", "2", "1", ",", "In", "this", "case", ",", "all", "elements", "-LRB-", "=", "properties", "-RRB-", "are", "assumed", "to", "be", "continuous", "-LRB-", "high", "quantisation", "-RRB-", ".", "In", "consequence", ",", "all", "properties", "of", "a", "descriptor", "are", "used", "by", "the", "operators", ".", "Then", ",", "the", "distance", "measure", "is", "not", "discriminant", "for", "properties", ".", "2", ".", "0", ",", "0", "2", "1", "p", "In", "this", "case", ",", "all", "properties", "are", "assumed", "to", "be", "predicates", ".", "In", "consequence", ",", "only", "binary", "elements", "-LRB-", "=", "predicates", "-RRB-", "are", "used", "by", "the", "operators", "-LRB-", "1-bit", "quantisation", "-RRB-", ".", "The", "distance", "measure", "is", "then", "highly", "discriminant", "for", "properties", ".", "Between", "these", "limits", ",", "a", "distance", "measure", "that", "uses", "the", "quantisation", "model", "is", "depending", "on", "p", "more", "or", "less", "discriminant", "for", "properties", ".", "This", "means", ",", "it", "selects", "a", "subset", "of", "all", "available", "description", "vector", "elements", "for", "distance", "measurement", ".", "For", "both", "predicate", "data", "and", "quantitative", "data", "it", "can", "be", "shown", "that", "the", "quantisation", "model", "is", "reasonable", ".", "If", "description", "vectors", "consist", "of", "binary", "elements", "only", ",", "p", "should", "be", "used", "as", "follows", "-LRB-", "for", "example", ",", "p", "can", "easily", "be", "set", "automatically", "-RRB-", ":", "-LRB-", "-RRB-", ",", "min", ".", ".", ",", "0", ",", "0", "2", "1", "=", "=", "p", "g", "e", "p", "In", "this", "case", ",", "a", ",", "b", ",", "c", ",", "d", "measure", "like", "the", "set", "operators", "they", "replace", ".", "For", "example", ",", "Table", "1", "shows", "their", "behaviour", "for", "two", "one-dimensional", "feature", "vectors", "X", "i", "and", "X", "j", ".", "As", "can", "be", "seen", ",", "the", "statistical", "measures", "work", "like", "set", "operators", ".", "Actually", ",", "the", "quantisation", "model", "works", "accurate", "on", "predicate", "data", "for", "any", "p.", "To", "show", "that", "the", "model", "is", "reasonable", "for", "quantitative", "data", "the", "following", "fact", "is", "used", ".", "It", "is", "easy", "to", "show", "that", "for", "predicate", "data", "some", "quantitative", "distance", "measures", "degenerate", "to", "predicate-based", "measures", ".", "For", "example", ",", "the", "L", "1", "metric", "-LRB-", "Manhattan", "metric", "-RRB-", "degenerates", "to", "the", "Hamming", "distance", "-LRB-", "from", "-LSB-", "9", "-RSB-", ",", "without", "weights", "-RRB-", ":", "distance", "Hamming", "c", "b", "x", "x", "L", "k", "jk", "ik", "=", "+", "=", "1", "If", "it", "can", "be", "shown", "that", "the", "quantisation", "model", "is", "able", "to", "reconstruct", "the", "quantitative", "measure", "from", "the", "degenerated", "predicate-based", "measure", ",", "the", "model", "is", "obviously", "able", "to", "extend", "predicate-based", "measures", "to", "the", "quantitative", "domain", ".", "This", "is", "easy", "to", "illustrate", ".", "For", "purely", "quantitative", "feature", "vectors", ",", "p", "should", "be", "used", "as", "follows", "-LRB-", "again", ",", "p", "can", "easily", "be", "set", "automatically", "-RRB-", ":", "1", ",", "2", "1", "=", "p", "Then", ",", "a", "and", "d", "become", "continuous", "functions", ":", "+", "=", "=", "+", "+", "=", "=", "+", "k", "jk", "ik", "k", "k", "jk", "ik", "k", "jk", "ik", "k", "k", "jk", "ik", "x", "x", "M", "s", "where", "s", "d", "true", "M", "x", "x", "x", "x", "s", "where", "s", "a", "true", "M", "x", "x", "M", "2", "2", "2", "2", "b", "and", "c", "can", "be", "made", "continuous", "for", "the", "following", "expressions", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "=", "=", "+", "=", "=", "=", "=", "k", "jk", "ik", "k", "k", "k", "ik", "jk", "ik", "jk", "k", "k", "ik", "jk", "ik", "jk", "k", "jk", "ik", "jk", "ik", "k", "k", "jk", "ik", "jk", "ik", "x", "x", "s", "where", "s", "c", "b", "else", "x", "x", "if", "x", "x", "s", "where", "s", "c", "x", "x", "M", "x", "x", "M", "else", "x", "x", "if", "x", "x", "s", "where", "s", "b", "x", "x", "M", "x", "x", "M", "0", "0", "0", "0", "0", "0", "Table", "1", ".", "Quantisation", "model", "on", "predicate", "vectors", ".", "X", "i", "X", "j", "a", "b", "c", "d", "-LRB-", "1", "-RRB-", "-LRB-", "1", "-RRB-", "1", "0", "0", "0", "-LRB-", "1", "-RRB-", "-LRB-", "0", "-RRB-", "0", "1", "0", "0", "-LRB-", "0", "-RRB-", "-LRB-", "1", "-RRB-", "0", "0", "1", "0", "-LRB-", "0", "-RRB-", "-LRB-", "0", "-RRB-", "0", "0", "0", "1", "132", "=", "=", "=", "=", "k", "ik", "jk", "k", "k", "k", "jk", "ik", "k", "k", "x", "x", "s", "where", "s", "b", "c", "x", "x", "s", "where", "s", "c", "b", "This", "means", ",", "for", "sufficiently", "high", "p", "every", "predicate-based", "distance", "measure", "that", "is", "either", "not", "using", "b", "and", "c", "or", "just", "as", "b", "+", "c", ",", "b-c", "or", "c-b", ",", "can", "be", "transformed", "into", "a", "continuous", "quantitative", "distance", "measure", ".", "For", "example", ",", "the", "Hamming", "distance", "-LRB-", "again", ",", "without", "weights", "-RRB-", ":", "1", "L", "x", "x", "x", "x", "s", "where", "s", "c", "b", "k", "jk", "ik", "k", "jk", "ik", "k", "k", "=", "=", "=", "=", "+", "The", "quantisation", "model", "successfully", "reconstructs", "the", "L", "1", "metric", "and", "no", "distance", "measure-specific", "modification", "has", "to", "be", "made", "to", "the", "model", ".", "This", "demonstrates", "that", "the", "model", "is", "reasonable", ".", "In", "the", "following", "it", "will", "be", "used", "to", "extend", "successful", "predicate-based", "distance", "measures", "on", "the", "quantitative", "domain", ".", "The", "major", "advantages", "of", "the", "quantisation", "model", "are", ":", "-LRB-", "1", "-RRB-", "it", "is", "application", "domain", "independent", ",", "-LRB-", "2", "-RRB-", "the", "implementation", "is", "straightforward", ",", "-LRB-", "3", "-RRB-", "the", "model", "is", "easy", "to", "use", "and", "finally", ",", "-LRB-", "4", "-RRB-", "the", "new", "parameter", "p", "allows", "to", "control", "the", "similarity", "measurement", "process", "in", "a", "new", "way", "-LRB-", "discriminance", "on", "property", "level", "-RRB-", ".", "3.3", "Implemented", "measures", "For", "the", "evaluation", "described", "in", "this", "work", "next", "to", "predicate-based", "-LRB-", "based", "on", "the", "quantisation", "model", "-RRB-", "and", "quantitative", "measures", ",", "the", "distance", "measures", "recommended", "in", "the", "MPEG-7", "standard", "were", "implemented", "-LRB-", "all", "together", "38", "different", "distance", "measures", "-RRB-", ".", "Table", "2", "summarises", "those", "predicate-based", "measures", "that", "performed", "best", "in", "the", "evaluation", "-LRB-", "in", "sum", "20", "predicate-based", "measures", "were", "investigated", "-RRB-", ".", "For", "these", "measures", ",", "K", "is", "the", "number", "of", "predicates", "in", "the", "data", "vectors", "X", "i", "and", "X", "j", ".", "In", "P1", ",", "the", "sum", "is", "used", "for", "Tversky", "'s", "f", "-LRB-", "-RRB-", "-LRB-", "as", "Tversky", "himself", "does", "in", "-LSB-", "17", "-RSB-", "-RRB-", "and", ",", "are", "weights", "for", "element", "b", "and", "c", ".", "In", "-LSB-", "5", "-RSB-", "the", "author", "'s", "investigated", "Tversky", "'s", "Feature", "Contrast", "Model", "and", "found", "=", "1", ",", "=", "0", "to", "be", "the", "optimum", "parameters", ".", "Some", "of", "the", "predicate-based", "measures", "are", "very", "simple", "-LRB-", "e.g.", "P2", ",", "P4", "-RRB-", "but", "have", "been", "heavily", "exploited", "in", "psychological", "research", ".", "Pattern", "difference", "-LRB-", "P6", "-RRB-", "a", "very", "powerful", "measure", "is", "used", "in", "the", "statistics", "package", "SPSS", "for", "cluster", "analysis", ".", "P7", "is", "a", "correlation", "coefficient", "for", "predicates", "developed", "by", "Pearson", ".", "Table", "3", "shows", "the", "best", "quantitative", "distance", "measures", "that", "were", "used", ".", "Q1", "and", "Q2", "are", "metric-based", "and", "were", "implemented", "as", "representatives", "for", "the", "entire", "group", "of", "Minkowski", "distances", ".", "The", "w", "i", "are", "weights", ".", "In", "Q5", ",", "i", "i", ",", "are", "mean", "and", "standard", "deviation", "for", "the", "elements", "of", "descriptor", "X", "i", ".", "In", "Q6", ",", "m", "is", "2M", "-LRB-", "=", "0.5", "-RRB-", ".", "Q3", ",", "the", "Canberra", "metric", ",", "is", "a", "normalised", "form", "of", "Q1", ".", "Similarly", ",", "Q4", ",", "Clark", "'s", "divergence", "coefficient", "is", "a", "normalised", "version", "of", "Q2", ".", "Q6", "is", "a", "further-developed", "correlation", "coefficient", "that", "is", "invariant", "against", "sign", "changes", ".", "This", "measure", "is", "used", "even", "though", "its", "particular", "properties", "are", "of", "minor", "importance", "for", "this", "application", "domain", ".", "Finally", ",", "Q8", "is", "a", "measure", "that", "takes", "the", "differences", "between", "adjacent", "vector", "elements", "into", "account", ".", "This", "makes", "it", "structurally", "different", "from", "all", "other", "measures", ".", "Obviously", ",", "one", "important", "distance", "measure", "is", "missing", ".", "The", "Mahalanobis", "distance", "was", "not", "considered", ",", "because", "different", "descriptors", "would", "require", "different", "covariance", "matrices", "and", "for", "some", "descriptors", "it", "is", "simply", "impossible", "to", "define", "a", "covariance", "matrix", ".", "If", "the", "identity", "matrix", "was", "used", "in", "this", "case", ",", "the", "Mahalanobis", "distance", "would", "degenerate", "to", "a", "Minkowski", "distance", ".", "Additionally", ",", "the", "recommended", "MPEG-7", "distances", "were", "implemented", "with", "the", "following", "parameters", ":", "In", "the", "distance", "measure", "of", "the", "Color", "Layout", "descriptor", "all", "weights", "were", "set", "to", "``", "1", "''", "-LRB-", "as", "in", "all", "other", "implemented", "measures", "-RRB-", ".", "In", "the", "distance", "measure", "of", "the", "Dominant", "Color", "descriptor", "the", "following", "parameters", "were", "used", ":", "20", ",", "1", ",", "3", ".", "0", ",", "7", ".", "0", "2", "1", "=", "=", "=", "=", "d", "T", "w", "w", "-LRB-", "as", "recommended", "-RRB-", ".", "In", "the", "Homogeneous", "Texture", "descriptor", "'s", "distance", "all", "-LRB-", "-RRB-", "k", "were", "set", "to", "``", "1", "''", "and", "matching", "was", "done", "rotation", "-", "and", "scale-invariant", ".", "Important", "!", "Some", "of", "the", "measures", "presented", "in", "this", "section", "are", "distance", "measures", "while", "others", "are", "similarity", "measures", ".", "For", "the", "tests", ",", "it", "is", "important", "to", "notice", ",", "that", "all", "similarity", "measures", "were", "inverted", "to", "distance", "measures", ".", "Subsection", "4.1", "describes", "the", "descriptors", "-LRB-", "including", "parameters", "-RRB-", "and", "the", "collections", "-LRB-", "including", "ground", "truth", "information", "-RRB-", "that", "were", "used", "in", "the", "evaluation", ".", "Subsection", "4.2", "discusses", "the", "evaluation", "method", "that", "was", "implemented", "and", "Subsection", "4.3", "sketches", "the", "test", "environment", "used", "for", "the", "evaluation", "process", ".", "4.1", "Test", "data", "For", "the", "evaluation", "eight", "MPEG-7", "descriptors", "were", "used", ".", "All", "colour", "descriptors", ":", "Color", "Layout", ",", "Color", "Structure", ",", "Dominant", "Color", ",", "Scalable", "Color", ",", "all", "texture", "descriptors", ":", "Edge", "Histogram", ",", "Homogeneous", "Texture", ",", "Texture", "Browsing", "and", "one", "shape", "descriptor", ":", "Region-based", "Shape", ".", "Texture", "Browsing", "was", "used", "even", "though", "the", "MPEG-7", "standard", "suggests", "that", "it", "is", "not", "suitable", "for", "retrieval", ".", "The", "other", "basic", "shape", "descriptor", ",", "Contour-based", "Shape", ",", "was", "not", "used", ",", "because", "it", "produces", "structurally", "different", "descriptions", "that", "can", "not", "be", "transformed", "to", "data", "vectors", "with", "elements", "measuring", "on", "interval-scales", ".", "The", "motion", "descriptors", "were", "not", "used", ",", "because", "they", "integrate", "the", "temporal", "dimension", "of", "visual", "media", "and", "would", "only", "be", "comparable", ",", "if", "the", "basic", "colour", ",", "texture", "and", "shape", "descriptors", "would", "be", "aggregated", "over", "time", ".", "This", "was", "not", "done", ".", "Finally", ",", "no", "high-level", "descriptors", "were", "used", "-LRB-", "Localisation", ",", "Face", "Recognition", ",", "etc.", ",", "see", "Subsection", "2.1", "-RRB-", ",", "because", "to", "the", "author", "'s", "opinion", "the", "behaviour", "of", "the", "basic", "descriptors", "on", "elementary", "media", "objects", "should", "be", "evaluated", "before", "conclusions", "on", "aggregated", "structures", "can", "be", "drawn", ".", "Table", "2", ".", "Predicate-based", "distance", "measures", ".", "No", ".", "Measure", "Comment", "P1", "c", "b", "a", ".", ".", "Feature", "Contrast", "Model", ",", "Tversky", "1977", "-LSB-", "17", "-RSB-", "P2", "a", "No", ".", "of", "co-occurrences", "P3", "c", "b", "+", "Hamming", "distance", "P4", "K", "a", "Russel", "1940", "-LSB-", "14", "-RSB-", "P5", "c", "b", "a", "+", "Kulczvnski", "1927", "-LSB-", "14", "-RSB-", "P6", "2", "K", "bc", "Pattern", "difference", "-LSB-", "14", "-RSB-", "P7", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "d", "c", "d", "b", "c", "a", "b", "a", "bc", "ad", "+", "+", "+", "+", "Pearson", "1926", "-LSB-", "11", "-RSB-", "133", "The", "Texture", "Browsing", "descriptions", "had", "to", "be", "transformed", "from", "five", "bins", "to", "an", "eight", "bin", "representation", "in", "order", "that", "all", "elements", "of", "the", "descriptor", "measure", "on", "an", "interval", "scale", ".", "A", "Manhattan", "metric", "was", "used", "to", "measure", "proximity", "-LRB-", "see", "-LSB-", "6", "-RSB-", "for", "details", "-RRB-", ".", "Descriptor", "extraction", "was", "performed", "using", "the", "MPEG-7", "reference", "implementation", ".", "In", "the", "extraction", "process", "each", "descriptor", "was", "applied", "on", "the", "entire", "content", "of", "each", "media", "object", "and", "the", "following", "extraction", "parameters", "were", "used", ".", "Colour", "in", "Color", "Structure", "was", "quantised", "to", "32", "bins", ".", "For", "Dominant", "Color", "colour", "space", "was", "set", "to", "YCrCb", ",", "5-bit", "default", "quantisation", "was", "used", "and", "the", "default", "value", "for", "spatial", "coherency", "was", "used", ".", "Homogeneous", "Texture", "was", "quantised", "to", "32", "components", ".", "Scalable", "Color", "values", "were", "quantised", "to", "sizeof", "-LRB-", "int", "-RRB-", "-3", "bits", "and", "64", "bins", "were", "used", ".", "Finally", ",", "Texture", "Browsing", "was", "used", "with", "five", "components", ".", "These", "descriptors", "were", "applied", "on", "three", "media", "collections", "with", "image", "content", ":", "the", "Brodatz", "dataset", "-LRB-", "112", "images", ",", "512x512", "pixel", "-RRB-", ",", "a", "subset", "of", "the", "Corel", "dataset", "-LRB-", "260", "images", ",", "460x300", "pixel", ",", "portrait", "and", "landscape", "-RRB-", "and", "a", "dataset", "with", "coats-of-arms", "images", "-LRB-", "426", "images", ",", "200x200", "pixel", "-RRB-", ".", "Figure", "1", "shows", "examples", "from", "the", "three", "collections", ".", "Designing", "appropriate", "test", "sets", "for", "a", "visual", "evaluation", "is", "a", "highly", "difficult", "task", "-LRB-", "for", "example", ",", "see", "the", "TREC", "video", "2002", "report", "-LSB-", "15", "-RSB-", "-RRB-", ".", "Of", "course", ",", "for", "identifying", "the", "best", "distance", "measure", "for", "a", "descriptor", ",", "it", "should", "be", "tested", "on", "an", "infinite", "number", "of", "media", "objects", ".", "But", "this", "is", "not", "the", "aim", "of", "this", "study", ".", "It", "is", "just", "evaluated", "if", "for", "likely", "image", "collections", "better", "proximity", "measures", "than", "those", "suggested", "by", "the", "MPEG-7", "group", "can", "be", "found", ".", "Collections", "of", "this", "relatively", "small", "size", "were", "used", "in", "the", "evaluation", ",", "because", "the", "applied", "evaluation", "methods", "are", "above", "a", "certain", "minimum", "size", "invariant", "against", "collection", "size", "and", "for", "smaller", "collections", "it", "is", "easier", "to", "define", "a", "high-quality", "ground", "truth", ".", "Still", ",", "the", "average", "ratio", "of", "ground", "truth", "size", "to", "collection", "size", "is", "at", "least", "1:7", ".", "Especially", ",", "no", "collection", "from", "the", "MPEG-7", "dataset", "was", "used", "in", "the", "evaluation", "because", "the", "evaluations", "should", "show", ",", "how", "well", "the", "descriptors", "and", "the", "recommended", "distance", "measures", "perform", "on", "``", "unknown", "''", "material", ".", "When", "the", "descriptor", "extraction", "was", "finished", ",", "the", "resulting", "XML", "descriptions", "were", "transformed", "into", "a", "data", "matrix", "with", "798", "lines", "-LRB-", "media", "objects", "-RRB-", "and", "314", "columns", "-LRB-", "descriptor", "elements", "-RRB-", ".", "To", "be", "usable", "with", "distance", "measures", "that", "do", "not", "integrate", "domain", "knowledge", ",", "the", "elements", "of", "this", "data", "matrix", "were", "normalised", "to", "-LSB-", "0", ",", "1", "-RSB-", ".", "For", "the", "distance", "evaluation", "next", "to", "the", "normalised", "data", "matrix", "human", "similarity", "judgement", "is", "needed", ".", "In", "this", "work", ",", "the", "ground", "truth", "is", "built", "of", "twelve", "groups", "of", "similar", "images", "-LRB-", "four", "for", "each", "dataset", "-RRB-", ".", "Group", "membership", "was", "rated", "by", "humans", "based", "on", "semantic", "criterions", ".", "Table", "4", "summarises", "the", "twelve", "groups", "and", "the", "underlying", "descriptions", ".", "It", "has", "to", "be", "noticed", ",", "that", "some", "of", "these", "groups", "-LRB-", "especially", "5", ",", "7", "and", "10", "-RRB-", "are", "much", "harder", "to", "find", "with", "low-level", "descriptors", "than", "others", ".", "4.2", "Evaluation", "method", "Usually", ",", "retrieval", "evaluation", "is", "performed", "based", "on", "a", "ground", "truth", "with", "recall", "and", "precision", "-LRB-", "see", ",", "for", "example", ",", "-LSB-", "3", "-RSB-", ",", "-LSB-", "16", "-RSB-", "-RRB-", ".", "In", "multi-descriptor", "environments", "this", "leads", "to", "a", "problem", ",", "because", "the", "resulting", "recall", "and", "precision", "values", "are", "strongly", "influenced", "by", "the", "method", "used", "to", "merge", "the", "distance", "values", "for", "one", "media", "object", ".", "Even", "though", "it", "is", "nearly", "impossible", "to", "say", ",", "how", "big", "the", "influence", "of", "a", "single", "distance", "measure", "was", "on", "the", "resulting", "recall", "and", "precision", "values", ",", "this", "problem", "has", "been", "almost", "ignored", "so", "far", ".", "In", "Subsection", "2.2", "it", "was", "stated", "that", "the", "major", "task", "of", "a", "distance", "measure", "is", "to", "bring", "the", "relevant", "media", "objects", "as", "close", "to", "the", "origin", "-LRB-", "where", "the", "query", "object", "lies", "-RRB-", "as", "possible", ".", "Even", "in", "a", "multi-descriptor", "environment", "it", "is", "then", "simple", "to", "identify", "the", "similar", "objects", "in", "a", "large", "distance", "space", ".", "Consequently", ",", "it", "was", "decided", "to", "Table", "3", ".", "Quantitative", "distance", "measures", ".", "No", ".", "Measure", "Comment", "No", ".", "Measure", "Comment", "Q1", "k", "jk", "ik", "i", "x", "x", "w", "City", "block", "distance", "-LRB-", "L", "1", "-RRB-", "Q2", "-LRB-", "-RRB-", "k", "jk", "ik", "i", "x", "x", "w", "2", "Euclidean", "distance", "-LRB-", "L", "2", "-RRB-", "Q3", "+", "k", "jk", "ik", "jk", "ik", "x", "x", "x", "x", "Canberra", "metric", ",", "Lance", ",", "Williams", "1967", "-LSB-", "8", "-RSB-", "Q4", "-LRB-", "-RRB-", "+", "k", "jk", "ik", "jk", "ik", "x", "x", "x", "x", "K", "2", "1", "Divergence", "coefficient", ",", "Clark", "1952", "-LSB-", "1", "-RSB-", "Q5", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "k", "k", "j", "jk", "i", "ik", "k", "j", "jk", "i", "ik", "x", "x", "x", "x", "2", "2", "Correlation", "coefficient", "Q6", "+", "+", "k", "ik", "k", "jk", "ik", "k", "ik", "k", "k", "jk", "k", "ik", "jk", "ik", "x", "m", "Km", "x", "x", "m", "Km", "x", "x", "x", "m", "Km", "x", "x", "2", ".", ".", "2", "2", "2", "2", "2", "Cohen", "1969", "-LSB-", "2", "-RSB-", "Q7", "k", "k", "jk", "ik", "k", "jk", "ik", "x", "x", "x", "x", "2", "2", "Angular", "distance", ",", "Gower", "1967", "-LSB-", "7", "-RSB-", "Q8", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "+", "+", "1", "2", "1", "1", "K", "k", "jk", "jk", "ik", "ik", "x", "x", "x", "x", "Meehl", "Index", "-LSB-", "10", "-RSB-", "Table", "4", ".", "Ground", "truth", "information", ".", "Coll", ".", "No", "Images", "Description", "1", "19", "Regular", ",", "chequered", "patterns", "2", "38", "Dark", "white", "noise", "3", "33", "Moon-like", "surfaces", "Brodatz", "4", "35", "Water-like", "surfaces", "5", "73", "Humans", "in", "nature", "-LRB-", "difficult", "-RRB-", "6", "17", "Images", "with", "snow", "-LRB-", "mountains", ",", "skiing", "-RRB-", "7", "76", "Animals", "in", "nature", "-LRB-", "difficult", "-RRB-", "Corel", "8", "27", "Large", "coloured", "flowers", "9", "12", "Bavarian", "communal", "arms", "10", "10", "All", "Bavarian", "arms", "-LRB-", "difficult", "-RRB-", "11", "18", "Dark", "objects", "/", "light", "unsegmented", "shield", "Arms", "12", "14", "Major", "charges", "on", "blue", "or", "red", "shield", "134", "use", "indicators", "measuring", "the", "distribution", "in", "distance", "space", "of", "candidates", "similar", "to", "the", "query", "object", "for", "this", "evaluation", "instead", "of", "recall", "and", "precision", ".", "Identifying", "clusters", "of", "similar", "objects", "-LRB-", "based", "on", "the", "given", "ground", "truth", "-RRB-", "is", "relatively", "easy", ",", "because", "the", "resulting", "distance", "space", "for", "one", "descriptor", "and", "any", "distance", "measure", "is", "always", "one-dimensional", ".", "Clusters", "are", "found", "by", "searching", "from", "the", "origin", "of", "distance", "space", "to", "the", "first", "similar", "object", ",", "grouping", "all", "following", "similar", "objects", "in", "the", "cluster", ",", "breaking", "off", "the", "cluster", "with", "the", "first", "un-similar", "object", "and", "so", "forth", ".", "For", "the", "evaluation", "two", "indicators", "were", "defined", ".", "The", "first", "measures", "the", "average", "distance", "of", "all", "cluster", "means", "to", "the", "origin", ":", "distance", "avg", "clusters", "no", "size", "cluster", "distance", "clusters", "no", "i", "i", "size", "cluster", "j", "ij", "d", "i", "_", ".", "_", "_", "_", "_", "=", "where", "distance", "ij", "is", "the", "distance", "value", "of", "the", "j-th", "element", "in", "the", "i-th", "cluster", ",", "=", "CLUSTERS", "i", "i", "CLUSTERS", "i", "size", "cluster", "j", "ij", "size", "cluster", "distance", "distance", "avg", "i", "_", "_", "_", ",", "no_clusters", "is", "the", "number", "of", "found", "clusters", "and", "cluster_size", "i", "is", "the", "size", "of", "the", "i-th", "cluster", ".", "The", "resulting", "indicator", "is", "normalised", "by", "the", "distribution", "characteristics", "of", "the", "distance", "measure", "-LRB-", "avg_distance", "-RRB-", ".", "Additionally", ",", "the", "standard", "deviation", "is", "used", ".", "In", "the", "evaluation", "process", "this", "measure", "turned", "out", "to", "produce", "valuable", "results", "and", "to", "be", "relatively", "robust", "against", "parameter", "p", "of", "the", "quantisation", "model", ".", "In", "Subsection", "3.2", "we", "noted", "that", "p", "affects", "the", "discriminance", "of", "a", "predicate-based", "distance", "measure", ":", "The", "smaller", "p", "is", "set", "the", "larger", "are", "the", "resulting", "clusters", "because", "the", "quantisation", "model", "is", "then", "more", "discriminant", "against", "properties", "and", "less", "elements", "of", "the", "data", "matrix", "are", "used", ".", "This", "causes", "a", "side-effect", "that", "is", "measured", "by", "the", "second", "indicator", ":", "more", "and", "more", "un-similar", "objects", "come", "out", "with", "exactly", "the", "same", "distance", "value", "as", "similar", "objects", "-LRB-", "a", "problem", "that", "does", "not", "exist", "for", "large", "p", "'s", "-RRB-", "and", "become", "indiscernible", "from", "similar", "objects", ".", "Consequently", ",", "they", "are", "-LRB-", "false", "-RRB-", "cluster", "members", ".", "This", "phenomenon", "-LRB-", "conceptually", "similar", "to", "the", "``", "false", "negatives", "''", "indicator", "-RRB-", "was", "named", "``", "cluster", "pollution", "''", "and", "the", "indicator", "measures", "the", "average", "cluster", "pollution", "over", "all", "clusters", ":", "clusters", "no", "doubles", "no", "cp", "clusters", "no", "i", "size", "cluster", "j", "ij", "i", "_", "_", "_", "_", "=", "where", "no_doubles", "ij", "is", "the", "number", "of", "indiscernible", "un-similar", "objects", "associated", "with", "the", "j-th", "element", "of", "cluster", "i.", "Remark", ":", "Even", "though", "there", "is", "a", "certain", "influence", ",", "it", "could", "be", "proven", "in", "-LSB-", "5", "-RSB-", "that", "no", "significant", "correlation", "exists", "between", "parameter", "p", "of", "the", "quantisation", "model", "and", "cluster", "pollution", ".", "4.3", "Test", "environment", "As", "pointed", "out", "above", ",", "to", "generate", "the", "descriptors", ",", "the", "MPEG-7", "reference", "implementation", "in", "version", "5.6", "was", "used", "-LRB-", "provided", "by", "TU", "Munich", "-RRB-", ".", "Image", "processing", "was", "done", "with", "Adobe", "Photoshop", "and", "normalisation", "and", "all", "evaluations", "were", "done", "with", "Perl", ".", "The", "querying", "process", "was", "performed", "in", "the", "following", "steps", ":", "-LRB-", "1", "-RRB-", "random", "selection", "of", "a", "ground", "truth", "group", ",", "-LRB-", "2", "-RRB-", "random", "selection", "of", "a", "query", "object", "from", "this", "group", ",", "-LRB-", "3", "-RRB-", "distance", "comparison", "for", "all", "other", "objects", "in", "the", "dataset", ",", "-LRB-", "4", "-RRB-", "clustering", "of", "the", "resulting", "distance", "space", "based", "on", "the", "ground", "truth", "and", "finally", ",", "-LRB-", "5", "-RRB-", "evaluation", ".", "For", "each", "combination", "of", "dataset", "and", "distance", "measure", "250", "queries", "were", "issued", "and", "evaluations", "were", "aggregated", "over", "all", "datasets", "and", "descriptors", ".", "The", "next", "section", "shows", "the", "partially", "surprising", "results", ".", "In", "the", "results", "presented", "below", "the", "first", "indicator", "from", "Subsection", "4.2", "was", "used", "to", "evaluate", "distance", "measures", ".", "In", "a", "first", "step", "parameter", "p", "had", "to", "be", "set", "in", "a", "way", "that", "all", "measures", "are", "equally", "discriminant", ".", "Distance", "measurement", "is", "fair", "if", "the", "following", "condition", "holds", "true", "for", "any", "predicate-based", "measure", "d", "P", "and", "any", "continuous", "measure", "d", "C", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "C", "P", "d", "cp", "p", "d", "cp", ",", "Then", ",", "it", "is", "guaranteed", "that", "predicate-based", "measures", "do", "not", "create", "larger", "clusters", "-LRB-", "with", "a", "higher", "number", "of", "similar", "objects", "-RRB-", "for", "the", "price", "of", "higher", "cluster", "pollution", ".", "In", "more", "than", "1000", "test", "queries", "the", "optimum", "value", "was", "found", "to", "be", "p", "=", "1", ".", "Results", "are", "organised", "as", "follows", ":", "Subsection", "5.1", "summarises", "the", "Figure", "1", ".", "Test", "datasets", ".", "Left", ":", "Brodatz", "dataset", ",", "middle", ":", "Corel", "dataset", ",", "right", ":", "coats-of-arms", "dataset", ".", "135", "best", "distance", "measures", "per", "descriptor", ",", "Section", "5.2", "shows", "the", "best", "overall", "distance", "measures", "and", "Section", "5.3", "points", "out", "other", "interesting", "results", "-LRB-", "for", "example", ",", "distance", "measures", "that", "work", "particularly", "good", "on", "specific", "ground", "truth", "groups", "-RRB-", ".", "5.1", "Best", "measure", "per", "descriptor", "Figure", "2", "shows", "the", "evaluation", "results", "for", "the", "first", "indicator", ".", "For", "each", "descriptor", "the", "best", "measure", "and", "the", "performance", "of", "the", "MPEG-7", "recommendation", "are", "shown", ".", "The", "results", "are", "aggregated", "over", "the", "tested", "datasets", ".", "On", "first", "sight", ",", "it", "becomes", "clear", "that", "the", "MPEG-7", "recommendations", "are", "mostly", "relatively", "good", "but", "never", "the", "best", ".", "For", "Color", "Layout", "the", "difference", "between", "MP7", "and", "the", "best", "measure", ",", "the", "Meehl", "index", "-LRB-", "Q8", "-RRB-", ",", "is", "just", "4", "%", "and", "the", "MPEG-7", "measure", "has", "a", "smaller", "standard", "deviation", ".", "The", "reason", "why", "the", "Meehl", "index", "is", "better", "may", "be", "that", "this", "descriptors", "generates", "descriptions", "with", "elements", "that", "have", "very", "similar", "variance", ".", "Statistical", "analysis", "confirmed", "that", "-LRB-", "see", "-LSB-", "6", "-RSB-", "-RRB-", ".", "For", "Color", "Structure", ",", "Edge", "Histogram", ",", "Homogeneous", "Texture", ",", "Region-based", "Shape", "and", "Scalable", "Color", "by", "far", "the", "best", "measure", "is", "pattern", "difference", "-LRB-", "P6", "-RRB-", ".", "Psychological", "research", "on", "human", "visual", "perception", "has", "revealed", "that", "in", "many", "situation", "differences", "between", "the", "query", "object", "and", "a", "candidate", "weigh", "much", "stronger", "than", "common", "properties", ".", "The", "pattern", "difference", "measure", "implements", "this", "insight", "in", "the", "most", "consequent", "way", ".", "In", "the", "author", "'s", "opinion", ",", "the", "reason", "why", "pattern", "difference", "performs", "so", "extremely", "well", "on", "many", "descriptors", "is", "due", "to", "this", "fact", ".", "Additional", "advantages", "of", "pattern", "difference", "are", "that", "it", "usually", "has", "a", "very", "low", "variance", "and", "because", "it", "is", "a", "predicate-based", "measure", "its", "discriminance", "-LRB-", "and", "cluster", "structure", "-RRB-", "can", "be", "tuned", "with", "parameter", "p", ".", "The", "best", "measure", "for", "Dominant", "Color", "turned", "out", "to", "be", "Clark", "'s", "Divergence", "coefficient", "-LRB-", "Q4", "-RRB-", ".", "This", "is", "a", "similar", "measure", "to", "pattern", "difference", "on", "the", "continuous", "domain", ".", "The", "Texture", "Browsing", "descriptor", "is", "a", "special", "problem", ".", "In", "the", "MPEG-7", "standard", "it", "is", "recommended", "to", "use", "it", "exclusively", "for", "browsing", ".", "After", "testing", "it", "for", "retrieval", "on", "various", "distance", "measures", "the", "author", "supports", "this", "opinion", ".", "It", "is", "very", "difficult", "to", "find", "a", "good", "distance", "measure", "for", "Texture", "Browsing", ".", "The", "proposed", "Manhattan", "metric", ",", "for", "example", ",", "performs", "very", "bad", ".", "The", "best", "measure", "is", "predicate-based", "-LRB-", "P7", "-RRB-", ".", "It", "works", "on", "common", "properties", "-LRB-", "a", ",", "d", "-RRB-", "but", "produces", "clusters", "with", "very", "high", "cluster", "pollution", ".", "For", "this", "descriptor", "the", "second", "indicator", "is", "up", "to", "eight", "times", "higher", "than", "for", "predicate-based", "measures", "on", "other", "descriptors", ".", "5.2", "Best", "overall", "measures", "Figure", "3", "summarises", "the", "results", "over", "all", "descriptors", "and", "media", "collections", ".", "The", "diagram", "should", "give", "an", "indication", "on", "the", "general", "potential", "of", "the", "investigated", "distance", "measures", "for", "visual", "information", "retrieval", ".", "It", "can", "be", "seen", "that", "the", "best", "overall", "measure", "is", "a", "predicate-based", "one", ".", "The", "top", "performance", "of", "pattern", "difference", "-LRB-", "P6", "-RRB-", "proves", "that", "the", "quantisation", "model", "is", "a", "reasonable", "method", "to", "extend", "predicate-based", "distance", "measures", "on", "the", "continuous", "domain", ".", "The", "second", "best", "group", "of", "measures", "are", "the", "MPEG-7", "recommendations", ",", "which", "have", "a", "slightly", "higher", "mean", "but", "a", "lower", "standard", "deviation", "than", "pattern", "difference", ".", "The", "third", "best", "measure", "is", "the", "Meehl", "index", "-LRB-", "Q8", "-RRB-", ",", "a", "measure", "developed", "for", "psychological", "applications", "but", "because", "of", "its", "characteristic", "properties", "tailor-made", "for", "certain", "-LRB-", "homogeneous", "-RRB-", "descriptors", ".", "Minkowski", "metrics", "are", "also", "among", "the", "best", "measures", ":", "the", "average", "mean", "and", "variance", "of", "the", "Manhattan", "metric", "-LRB-", "Q1", "-RRB-", "and", "the", "Euclidean", "metric", "-LRB-", "Q2", "-RRB-", "are", "in", "the", "range", "of", "Q8", ".", "Of", "course", ",", "these", "measures", "do", "not", "perform", "particularly", "well", "for", "any", "of", "the", "descriptors", ".", "Remarkably", "for", "a", "predicate-based", "measure", ",", "Tversky", "'s", "Feature", "Contrast", "Model", "-LRB-", "P1", "-RRB-", "is", "also", "in", "the", "group", "of", "very", "good", "measures", "-LRB-", "even", "though", "it", "is", "not", "among", "the", "best", "-RRB-", "that", "ends", "with", "Q5", ",", "the", "correlation", "coefficient", ".", "The", "other", "measures", "either", "have", "a", "significantly", "higher", "mean", "or", "a", "very", "large", "standard", "deviation", ".", "5.3", "Other", "interesting", "results", "Distance", "measures", "that", "perform", "in", "average", "worse", "than", "others", "may", "in", "certain", "situations", "-LRB-", "e.g.", "on", "specific", "content", "-RRB-", "still", "perform", "better", ".", "For", "Color", "Layout", ",", "for", "example", ",", "Q7", "is", "a", "very", "good", "measure", "on", "colour", "photos", ".", "It", "performs", "as", "good", "as", "Q8", "and", "has", "a", "lower", "standard", "deviation", ".", "For", "artificial", "images", "the", "pattern", "difference", "and", "the", "Hamming", "distance", "produce", "comparable", "results", "as", "well", ".", "If", "colour", "information", "is", "available", "in", "media", "objects", ",", "pattern", "difference", "performs", "well", "on", "Dominant", "Color", "-LRB-", "just", "20", "%", "worse", "Q4", "-RRB-", "and", "in", "case", "of", "difficult", "ground", "truth", "-LRB-", "group", "5", ",", "7", ",", "10", "-RRB-", "the", "Meehl", "index", "is", "as", "strong", "as", "P6", ".", "0,000", "0,001", "0,002", "0,003", "0,004", "0,005", "0,006", "0,007", "0,008", "Q8", "MP", "7", "P6", "MP", "7", "Q4", "MP", "7", "P6", "MP", "7", "P6", "MP", "7", "P6", "MP", "7", "P6", "MP", "7", "P7", "Q2", "Color", "Layout", "Color", "Structure", "Dominant", "Color", "Edge", "Histogram", "Homog", ".", "Texture", "Region", "Shape", "Scalable", "Color", "Texture", "Browsing", "Figure", "2", ".", "Results", "per", "measure", "and", "descriptor", ".", "The", "horizontal", "axis", "shows", "the", "best", "measure", "and", "the", "performance", "of", "the", "MPEG-7", "recommendation", "for", "each", "descriptor", ".", "The", "vertical", "axis", "shows", "the", "values", "for", "the", "first", "indicator", "-LRB-", "smaller", "value", "=", "better", "cluster", "structure", "-RRB-", ".", "Shades", "have", "the", "following", "meaning", ":", "black", "=", "-", "-LRB-", "good", "cases", "-RRB-", ",", "black", "+", "dark", "grey", "=", "-LRB-", "average", "-RRB-", "and", "black", "+", "dark", "grey", "+", "light", "grey", "=", "+", "-LRB-", "bad", "-RRB-", ".", "136", "The", "evaluation", "presented", "in", "this", "paper", "aims", "at", "testing", "the", "recommended", "distance", "measures", "and", "finding", "better", "ones", "for", "the", "basic", "visual", "MPEG-7", "descriptors", ".", "Eight", "descriptors", "were", "selected", ",", "38", "distance", "measures", "were", "implemented", ",", "media", "collections", "were", "created", "and", "assessed", ",", "performance", "indicators", "were", "defined", "and", "more", "than", "22500", "tests", "were", "performed", ".", "To", "be", "able", "to", "use", "predicate-based", "distance", "measures", "next", "to", "quantitative", "measures", "a", "quantisation", "model", "was", "defined", "that", "allows", "the", "application", "of", "predicate-based", "measures", "on", "continuous", "data", ".", "In", "the", "evaluation", "the", "best", "overall", "distance", "measures", "for", "visual", "content", "as", "extracted", "by", "the", "visual", "MPEG-7", "descriptors", "turned", "out", "to", "be", "the", "pattern", "difference", "measure", "and", "the", "Meehl", "index", "-LRB-", "for", "homogeneous", "descriptions", "-RRB-", ".", "Since", "these", "two", "measures", "perform", "significantly", "better", "than", "the", "MPEG-7", "recommendations", "they", "should", "be", "further", "tested", "on", "large", "collections", "of", "image", "and", "video", "content", "-LRB-", "e.g.", "from", "-LSB-", "15", "-RSB-", "-RRB-", ".", "The", "choice", "of", "the", "right", "distance", "function", "for", "similarity", "measurement", "depends", "on", "the", "descriptor", ",", "the", "queried", "media", "collection", "and", "the", "semantic", "level", "of", "the", "user", "'s", "idea", "of", "similarity", ".", "This", "work", "offers", "suitable", "distance", "measures", "for", "various", "situations", ".", "In", "consequence", ",", "the", "distance", "measures", "identified", "as", "the", "best", "will", "be", "implemented", "in", "the", "open", "MPEG-7", "based", "visual", "information", "retrieval", "framework", "VizIR", "-LSB-", "4", "-RSB-", ".", "The", "author", "would", "like", "to", "thank", "Christian", "Breiteneder", "for", "his", "valuable", "comments", "and", "suggestions", "for", "improvement", ".", "The", "work", "presented", "in", "this", "paper", "is", "part", "of", "the", "VizIR", "project", "funded", "by", "the", "Austrian", "Scientific", "Research", "Fund", "FWF", "under", "grant", "no", ".", "P16111", ".", "-LSB-", "1", "-RSB-", "Clark", ",", "P.S.", ".", "An", "extension", "of", "the", "coefficient", "of", "divergence", "for", "use", "with", "multiple", "characters", ".", "Copeia", ",", "2", "-LRB-", "1952", "-RRB-", ",", "61-64", ".", "-LSB-", "2", "-RSB-", "Cohen", ",", "J", ".", "A", "profile", "similarity", "coefficient", "invariant", "over", "variable", "reflection", ".", "Psychological", "Bulletin", ",", "71", "-LRB-", "1969", "-RRB-", ",", "281-284", ".", "-LSB-", "3", "-RSB-", "Del", "Bimbo", ",", "A.", "Visual", "information", "retrieval", ".", "Morgan", "Kaufmann", "Publishers", ",", "San", "Francisco", "CA", ",", "1999", ".", "-LSB-", "4", "-RSB-", "Eidenberger", ",", "H.", ",", "and", "Breiteneder", ",", "C", ".", "A", "framework", "for", "visual", "information", "retrieval", ".", "In", "Proceedings", "Visual", "Information", "Systems", "Conference", "-LRB-", "HSinChu", "Taiwan", ",", "March", "2002", "-RRB-", ",", "LNCS", "2314", ",", "Springer", "Verlag", ",", "105-116", ".", "-LSB-", "5", "-RSB-", "Eidenberger", ",", "H.", ",", "and", "Breiteneder", ",", "C.", "Visual", "similarity", "measurement", "with", "the", "Feature", "Contrast", "Model", ".", "In", "Proceedings", "SPIE", "Storage", "and", "Retrieval", "for", "Media", "Databases", "Conference", "-LRB-", "Santa", "Clara", "CA", ",", "January", "2003", "-RRB-", ",", "SPIE", "Vol", ".", "5021", ",", "64-76", ".", "-LSB-", "6", "-RSB-", "Eidenberger", ",", "H.", ",", "How", "good", "are", "the", "visual", "MPEG-7", "features", "?", "In", "Proceedings", "SPIE", "Visual", "Communications", "and", "Image", "Processing", "Conference", "-LRB-", "Lugano", "Switzerland", ",", "July", "2003", "-RRB-", ",", "SPIE", "Vol", ".", "5150", ",", "476-488", ".", "-LSB-", "7", "-RSB-", "Gower", ",", "J.G.", "Multivariate", "analysis", "and", "multidimensional", "geometry", ".", "The", "Statistician", ",", "17", "-LRB-", "1967", "-RRB-", ",13-25", ".", "-LSB-", "8", "-RSB-", "Lance", ",", "G.N.", ",", "and", "Williams", ",", "W.T.", "Mixed", "data", "classificatory", "programs", ".", "Agglomerative", "Systems", "Australian", "Comp", ".", "Journal", ",", "9", "-LRB-", "1967", "-RRB-", ",", "373-380", ".", "-LSB-", "9", "-RSB-", "Manjunath", ",", "B.S.", ",", "Ohm", ",", "J.R.", ",", "Vasudevan", ",", "V.V.", ",", "and", "Yamada", ",", "A.", "Color", "and", "texture", "descriptors", ".", "In", "Special", "Issue", "on", "MPEG-7", ".", "IEEE", "Transactions", "on", "Circuits", "and", "Systems", "for", "Video", "Technology", ",", "11/6", "-LRB-", "June", "2001", "-RRB-", ",", "703-715", ".", "-LSB-", "10", "-RSB-", "Meehl", ",", "P.", "E", ".", "The", "problem", "is", "epistemology", ",", "not", "statistics", ":", "Replace", "significance", "tests", "by", "confidence", "intervals", "and", "quantify", "accuracy", "of", "risky", "numerical", "predictions", ".", "In", "Harlow", ",", "L.L.", ",", "Mulaik", ",", "S.A.", ",", "and", "Steiger", ",", "J.H.", "-LRB-", "Eds", ".", "-RRB-", ".", "What", "if", "there", "were", "no", "significance", "tests", "?", "Erlbaum", ",", "Mahwah", "NJ", ",", "393-425", ".", "-LSB-", "11", "-RSB-", "Pearson", ",", "K.", "On", "the", "coefficients", "of", "racial", "likeness", ".", "Biometrica", ",", "18", "-LRB-", "1926", "-RRB-", ",", "105-117", ".", "-LSB-", "12", "-RSB-", "Santini", ",", "S.", ",", "and", "Jain", ",", "R.", "Similarity", "is", "a", "geometer", ".", "Multimedia", "Tools", "and", "Application", ",", "5/3", "-LRB-", "1997", "-RRB-", ",", "277-306", ".", "-LSB-", "13", "-RSB-", "Santini", ",", "S.", ",", "and", "Jain", ",", "R.", "Similarity", "measures", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "21/9", "-LRB-", "September", "1999", "-RRB-", ",", "871-883", ".", "-LSB-", "14", "-RSB-", "Sint", ",", "P.P.", "Similarity", "structures", "and", "similarity", "measures", ".", "Austrian", "Academy", "of", "Sciences", "Press", ",", "Vienna", "Austria", ",", "1975", "-LRB-", "in", "German", "-RRB-", ".", "-LSB-", "15", "-RSB-", "Smeaton", ",", "A.F.", ",", "and", "Over", ",", "P", ".", "The", "TREC-2002", "video", "track", "report", ".", "NIST", "Special", "Publication", "SP", "500-251", "-LRB-", "March", "2003", "-RRB-", ",", "available", "from", ":", "http://trec.nist.gov/pubs/trec11/papers/", "VIDEO.OVER.pdf", "-LRB-", "last", "visited", ":", "2003-07-29", "-RRB-", "-LSB-", "16", "-RSB-", "Smeulders", ",", "A.W.M.", ",", "Worring", ",", "M.", ",", "Santini", ",", "S.", ",", "Gupta", ",", "A.", ",", "and", "Jain", ",", "R.", "Content-based", "image", "retrieval", "at", "the", "end", "of", "the", "early", "years", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "22/12", "-LRB-", "December", "2000", "-RRB-", ",", "1349-1380", ".", "-LSB-", "17", "-RSB-", "Tversky", ",", "A.", "Features", "of", "similarity", ".", "Psychological", "Review", ",", "84/4", "-LRB-", "July", "1977", "-RRB-", ",", "327-351", ".", "0,000", "0,002", "0,004", "0,006", "0,008", "0,010", "0,012", "0,014", "0,016", "0,018", "0,020", "P6", "MP", "7", "Q8", "Q1", "Q4", "Q2", "P2", "P4", "Q6", "Q3", "Q7", "P1", "Q5", "P3", "P5", "P7", "Figure", "3", ".", "Overall", "results", "-LRB-", "ordered", "by", "the", "first", "indicator", "-RRB-", ".", "The", "vertical", "axis", "shows", "the", "values", "for", "the", "first", "indicator", "-LRB-", "smaller", "value", "=", "better", "cluster", "structure", "-RRB-", ".", "Shades", "have", "the", "following", "meaning", ":", "black", "=", "-", ",", "black", "+", "dark", "grey", "=", "and", "black", "+", "dark", "grey", "+", "light", "grey", "=", "+", ".", "137"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["similarity measurement", "distance measurement", "quantisation", "distance measure", "visual information retrieval", "similarity perception"], "abstractive_keyphrases": ["content-based image retrieval", "content-based video retrieval", "mpeg-7 descriptors", "human similarity perception", "mpeg-7"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "66", "document": ["Development", "of", "E-commerce", "Statistics", "and", "the", "Implications", "This", "text", "has", "analyzed", "the", "development", "of", "E-commerce", "in", "some", "developed", "countries", "such", "as", "Canada", ",", "U.S.A.", ",", "Japan", ",", "etc", "and", "put", "forward", "several", "suggestions", "on", "how", "to", "set", "up", "the", "system", "of", "E-commerce", "in", "our", "country", "taking", "the", "national", "conditions", "of", "our", "country", "into", "account", ".", "Since", "the", "1990s", ",", "the", "rapid", "development", "of", "e-commerce", "has", "brought", "extensive", ",", "enormous", "and", "far-reaching", "influence", "on", "the", "economy", "of", "the", "countries", "all", "over", "the", "world", ".", "E-commerce", "has", "already", "become", "the", "contemporary", "chief", "trend", "of", "economic", "and", "social", "development", ".", "As", "representatives", "of", "advanced", "productivity", "of", "new", "economic", "period", ",", "the", "level", "of", "its", "development", "has", "already", "become", "important", "signs", "of", "measuring", "the", "modernization", "level", "and", "comprehensive", "strength", "of", "countries", "and", "cities", ";", "it", "has", "become", "important", "means", "to", "make", "changeover", "in", "the", "economic", "system", "and", "reform", "the", "style", "of", "economic", ",", "promote", "the", "upgrading", "of", "the", "industrial", "structure", ",", "promote", "the", "modernized", "level", "of", "the", "city", "and", "strengthen", "international", "competitiveness", ".", "So", ",", "the", "governments", "all", "over", "the", "world", "have", "paid", "close", "attention", "to", "the", "development", "of", "E-commerce", "Statistics", ".", "Though", "the", "development", "of", "informationization", "in", "our", "country", "is", "very", "quick", ",", "it", "still", "has", "great", "disparity", "with", "the", "developed", "countries", "for", "relatively", "late", "start", ".", "Our", "country", "is", "still", "in", "the", "interim", "facing", "the", "double", "task", "of", "informationization", "and", "industrialization", "at", "present", ".", "So", ",", "in", "order", "to", "carry", "on", "an", "instant", ",", "accurate", "Statistics", "to", "the", "development", "level", "of", "E-commerce", "and", "set", "up", "perfect", "E-commerce", "Statistics", "system", ",", "we", "must", "understand", ",", "absorb", "and", "bring", "in", "the", "theories", "and", "methods", "of", "E-commerce", "Statistics", "from", "the", "main", "foreign", "countries", "to", "make", "E-commerce", "Statistics", "become", "effective", "guarantee", "in", "leading", "and", "promoting", "e-commerce", "in", "a", "healthy", "way", ",", "combining", "social", "source", "and", "promoting", "national", "power", ".", "We", "have", "chosen", "some", "representative", "countries", "in", "the", "world", "and", "analyzed", "the", "development", "of", "E-commerce", "Statistics", "in", "these", "countries", ".", "2.1", "Definitions", "of", "e-commerce", "in", "main", "Developed", "countries", ".", "The", "definition", "of", "e-commerce", "is", "the", "standard", "of", "carrying", "on", "E-commerce", "Statistics", ",", "but", "there", "are", "various", "kinds", "of", "definition", "of", "E-commerce", "in", "the", "world", "because", "of", "visual", "angles", "are", "different", ".", "So", ",", "it", "is", "necessary", "for", "each", "country", "to", "make", "a", "distinct", ",", "standard", ",", "practical", ",", "wide", "meaningful", "and", "measurable", "definition", "which", "should", "be", "suitable", "for", "each", "field", "and", "can", "be", "amenable", "to", "time", ".", "2.1.1", "Definition", "of", "e-commerce", "in", "OECD", "-LRB-", "Organization", "for", "Economic", "Cooperation", "and", "Development", "-RRB-", "There", "are", "broadly-defined", "e-commerce", "and", "the", "narrowly-defined", "e-commerce", ".", "The", "broadly-defined", "e-commerce", "means", "the", "activity", "of", "electronic", "transaction", "on", "item", "and", "service", ",", "no", "matter", "the", "transaction", "occurred", "between", "enterprise", ",", "family", ",", "government", "and", "other", "public", "or", "individual", "organizations", ".", "It", "uses", "network", "as", "a", "intermediary", ".", "Goods", "and", "service", "should", "be", "ordered", "on", "the", "network", "but", "the", "payment", "and", "goods", "service", "do", "n't", "need", "to", "carry", "on", "the", "net", ";", "the", "narrowly-defined", "e-commerce", "is", "only", "referred", "to", "trade", "activity", "carrying", "on", "through", "Internet", ".", "It", "is", "worth", "pointing", "out", "that", "the", "source", "of", "OECD", "definition", "of", "e-commerce", "is", "the", "Canada", "official", "Statistical", "department", ".", "2.1.2", "Definition", "of", "e-commerce", "in", "Canada", "The", "e-commerce", "definition", "of", "Canada", "official", "Statistical", "department", "is", ":", "E-commerce", "is", "the", "transaction", "which", "based", "on", "the", "computer", "network", ",", "including", "the", "transformation", "of", "ownership", ",", "transformation", "of", "tangible", "and", "intangible", "assets", "right", "to", "use", ".", "It", "consists", "of", "B2B", "-LRB-", "business", "to", "business", "-RRB-", ",", "B2C", "-LRB-", "business", "to", "consumer", "-RRB-", ",", "B2G", "-LRB-", "business", "to", "government", "-RRB-", "and", "G2C", "-LRB-", "government", "to", "consumer", "-RRB-", ".", "But", "the", "transaction", "taking", "place", "inside", "enterprises", "will", "not", "be", "included", "in", "the", "e-commerce", "Statistics", ".", "2.1.3", "Definition", "of", "e-commerce", "in", "the", "U.S.A.", "Definition", "of", "e-commerce", "in", "the", "U.S.A.", "is", "defined", "by", "the", "U.S.A.", "general", "survey", "bureau", "who", "divides", "e-commerce", "into", "three", "parts", "from", "angle", "of", "the", "overall", "situation", ":", "e-commerce", "infrastructure", ";", "electronic", "affairs", ";", "e-commerce", ".", "E-commerce", "infrastructure", "is", "the", "economic", "facility", "or", "equipment", "which", "is", "used", "for", "supporting", "electronic", "affairs", "or", "electronic", "transaction", "activities", ".", "Electronic", "affairs", "include", "the", "affairs", "managed", "by", "computer", "network", "in", "company", ",", "government", "and", "other", "non", "-", "profit", "organization", ".", "E-commerce", "refers", "to", "goods", "or", "service", "transaction", "activity", "completed", "on", "computer", "network", ".", "70", "2.2", "Overview", "and", "Characteristic", "of", "Main", "Country", "'s", "e-commerce", "Statistics", "2.2.1", "Overviews", "of", "e-commerce", "Statistical", "Surveys", "2.2.1.1", "Overviews", "of", "Canadian", "e-commerce", "Statistical", "Survey", "The", "e-commerce", "Statistics", "in", "Canada", "is", "an", "official", "activity", "that", "was", "presiding", "over", "by", "government", "and", "implemented", "concretely", "by", "State", "Statistics", "Bureau", "of", "Canada", ".", "Up", "till", "now", ",", "Canada", "has", "implemented", "four", "pieces", "of", "different", "e-commerce", "Statistics", ".", "a", "-RRB-", "``", "Net-banking", "operation", "and", "bank", "service", "Statistics", "survey", "on", "internet", "and", "e-commerce", "application", "in", "financial", "department", "''", ",", "this", "investigation", "is", "an", "irregular", "survey", ";", "its", "respondents", "are", "enterprises", "of", "the", "financial", "field", "and", "its", "nature", "is", "a", "separate", "investigation", ";", "b", "-RRB-", "``", "Annually", "Statistical", "survey", "on", "internet", "application", "in", "family", "''", ",", "is", "a", "fixed", "annual", "Statistical", "survey", ".", "It", "is", "a", "supplemented", "investigation", "and", "its", "respondents", "are", "families", ".", "c", "-RRB-", "``", "The", "Statistics", "survey", "on", "communication", "technology", "and", "e", "-", "commerce", "''", ",", "is", "an", "irregular", "Statistical", "survey", ";", "it", "is", "a", "supplement", "investigation", "and", "the", "respondents", "are", "enterprises", "in", "``", "the", "standard", "industry", "of", "North", "America", "classifies", "''", "d", "-RRB-", "``", "Annually", "Statistical", "survey", "on", "e-commerce", "and", "relevant", "technology", "''", ",", "is", "a", "fixed", "annual", "Statistical", "survey", ";", "it", "is", "a", "supplemental", "investigation", "and", "the", "respondents", "are", "enterprises", "in", "``", "the", "standard", "industry", "of", "North", "America", "classifies", "''", "2.2.1.2", "Overviews", "of", "e-commerce", "Statistical", "survey", "in", "U.S.A.", "U.S.A.", "is", "one", "of", "the", "countries", "that", "e-commerce", "and", "e-commerce", "Statistical", "survey", "launched", "earliest", "in", "the", "world", ".", "The", "U.S.A.", "general", "survey", "bureau", "is", "the", "principal", "organ", "responsible", "for", "e-commerce", "Statistical", "survey", ".", "The", "annually", "Statistical", "survey", "adopted", "by", "U.S.A.", "general", "survey", "bureau", "is", "consisted", "of", "annual", "sample", "investigation", "of", "commerce", ",", "annual", "sample", "investigation", "of", "manufacturing", "industry", ",", "annual", "sample", "investigation", "of", "retailing", "business", "and", "annual", "sample", "investigation", "of", "service", "trade", ".", "The", "method", "taken", "in", "these", "investigations", "is", "dividing", "layer", "and", "sampling", ".", "The", "concrete", "method", "in", "e-commerce", "Statistical", "survey", "is", "joining", "the", "questions", "of", "e-commerce", "into", "the", "existing", "questionnaire", "except", "the", "annually", "sample", "investigation", "of", "manufacturing", "industry", "which", "is", "joining", "the", "supplementary", "questionnaire", ".", "These", "respondents", "investigating", "are", "enterprises", "and", "the", "enterprise", "e-commerce", "activity", ",", "business", "procedure", "and", "sales", "amount", "are", "investigated", "on", "the", "foundation", "of", "existing", "investigation", ".", "2.2.1.3", "Overview", "of", "e-commerce", "Statistical", "survey", "in", "other", "countries", "2.2.1.3.1", "Overview", "of", "e-commerce", "Statistical", "survey", "in", "Japan", "In", "Japan", ",", "the", "departments", "in", "chare", "of", "e-commerce", "Statistical", "survey", "is", "Statistics", "Bureau", ",", "Ministry", "of", "Internal", "Affairs", "and", "Communication", ",", "Japan", ",", "but", "other", "departments", "participate", "in", "the", "e-commerce", "Statistical", "survey", "such", "as", "Statistics", "Bureau", "of", "Cabinet", ",", "Statistics", "Bureau", "of", "Ministry", "of", "Economics", "and", "Industry", ",", "etc.", ".", "So", ",", "there", "are", "more", "than", "forty", "kinds", "of", "official", "investigation", "on", "e-commerce", "which", "involve", "every", "aspect", "of", "e-commerce", "but", "have", "great", "differences", "in", "purpose", ",", "frequency", "and", "content", ".", "These", "investigations", "launch", "around", "three", "departments", "including", "enterprises", ",", "governments", "and", "families", ".", "2.2.1.3.2", "Overview", "of", "e-commerce", "Statistical", "Survey", "in", "S.Korean", "Statistics", "bureau", "of", "the", "S.Korean", "began", "the", "official", "e-commerce", "Statistical", "survey", "since", "April", "of", "2000", ".", "The", "investigation", "mainly", "concentrates", "on", "B2C", "-LRB-", "business", "to", "consumers", "-RRB-", "and", "B2B", "-LRB-", "business", "to", "business", "-RRB-", ".", "The", "investigation", "on", "B2G", "-LRB-", "business", "to", "government", "-RRB-", "lags", "behind", "slightly", ",", "which", "began", "since", "the", "first", "quarter", "of", "2001", ".", "2.2.2", "Characteristics", "of", "the", "e-commerce", "Statistical", "Survey", "in", "each", "country", ".", "a", "-RRB-", "The", "organizers", "carrying", "on", "e-commerce", "Statistical", "survey", "in", "the", "above-mentioned", "countries", "are", "all", "official", "departments", ",", "or", "implemented", "by", "cooperating", "with", "other", "relevant", "government", "departments", "-LRB-", "as", "Japan", "-RRB-", ".", "The", "Statistical", "survey", "presided", "over", "by", "the", "government", "can", "not", "only", "strengthen", "its", "Fairness", "and", "dependability", ",", "but", "also", "give", "the", "survey", "authoritativeness", ".", "b", "-RRB-", "The", "investigations", "almost", "are", "not", "specially", "but", "supplementary", ".", "The", "main", "reasons", "are", "high", "cost", "of", "special", "investigations", "and", "not", "perfect", "e-commerce", "Statistical", "systems", "of", "each", "country", "which", "have", "not", "reach", "the", "level", "of", "special", "investigation", ".", "c", "-RRB-", "The", "above-mentioned", "countries", "confirm", "the", "content", "of", "investigation", "not", "only", "consulting", "the", "content", "that", "OECD", "recommends", ",", "but", "also", "considering", "the", "development", "level", "and", "characteristics", "of", "the", "national", "e-commerce", ".", "It", "is", "worth", "pointing", "out", "those", "indexes", "of", "Statistical", "survey", "in", "Singapore", ",", "Canada", "and", "U.S.A.", "are", "comprehensive", "and", "have", "involved", "the", "preferential", "investigation", "content", "that", "OECD", "recommends", ".", "d", "-RRB-", "Most", "investigations", "take", "the", "annually", "survey", "as", "the", "core", ",", "but", "there", "also", "are", "monthly", ",", "quarter", ",", "general", "survey", "and", "irregular", "surveys", ".", "The", "industries", "included", "in", "monthly", "and", "quarterly", "investigation", "are", "not", "more", "than", "on", "generally", ",", "such", "as", "``", "monthly", "trade", "sample", "investigation", "of", "retail", "business", "''", "in", "U.S.A.", "and", "``", "the", "investigation", "on", "family", "consumption", "trend", "''", ",", "etc.", "e", "-RRB-", "Most", "countries", "adopt", "the", "sample", "investigations", ",", "but", "other", "method", "as", "census", "and", "census", "combine", "with", "sample", "investigation", "are", "also", "adopted", ".", "The", "method", "of", "sampling", "is", "mainly", "used", "and", "the", "following", "two", "kinds", "are", "used", "less", ".", "The", "e-commerce", "in", "our", "country", "is", "still", "in", "the", "elementary", "stage", "and", "the", "e-commerce", "Statistical", "survey", "is", "just", "start", "too", ".", "There", "are", "just", "some", "semi-official", "or", "unofficial", "departments", "and", "organization", "trying", "to", "carry", "on", "e-commerce", "Statistical", "survey", "but", "not", "a", "formal", ",", "overall", ",", "official", "survey", "on", "e-commerce", "in", "our", "country", ".", "For", "instance", ":", "``", "Statistical", "Reports", "on", "the", "Internet", "Development", "in", "China", "''", ",", "``", "CII", "research", "and", "calculating", "on", "e-commerce", "total", "index", "system", "in", "China", "''", ",", "``", "Statistical", "survey", "on", "intranet", "and", "e-commerce", "development", "level", "''", ",", "``", "investigation", "on", "e-commerce", "developing", "in", "enterprises", "''", ",", "etc.", ".", "Most", "of", "above", "mentioned", "investigations", "are", "irregular", ",", "even", "once", "only", ",", "lack", "unified", "consideration", "and", "ca", "n't", "form", "a", "system", "except", "``", "Statistical", "Reports", "on", "the", "Internet", "Development", "in", "China", "''", "which", "hold", "regularly", "and", "establishes", "its", "own", "system", "to", "a", "certain", "71", "extent", ".", "Meanwhile", ",", "the", "unofficial", "survey", "is", "very", "apt", "to", "the", "systemic", "deviation", "and", "utility", "nature", "for", "it", "is", "not", "mandatory", ";", "even", "affect", "the", "fairness", ",", "accuracy", "and", "representativeness", "of", "the", "investigation", "result", ".", "3.2", "Implications", "of", "e-commerce", "Statistical", "survey", "in", "China", "According", "to", "the", "experience", "of", "some", "foreign", "countries", "that", "carrying", "on", "e-commerce", "Statistical", "and", "the", "development", "of", "e-commerce", "Statistical", "in", "our", "country", ",", "we", "consider", "that", "if", "we", "want", "to", "set", "up", "a", "comparatively", "perfect", "e-commerce", "Statistical", "survey", "system", ",", "we", "should", "accomplish", "the", "following", "several", "points", "at", "least", ":", "3.2.1", "Attach", "importance", "to", "the", "definition", "of", "e-commerce", "The", "kind", ",", "range", "and", "respondents", "are", "all", "fixed", "according", "to", "the", "definition", "of", "e-commerce", "which", "is", "prerequisite", "of", "e-commerce", "Statistical", "survey", ".", "There", "is", "not", "an", "authoritative", "definition", "of", "e-commerce", "in", "our", "country", "so", "that", "the", "key", "problem", "we", "met", "is", "how", "to", "define", "e-commerce", "when", "we", "carrying", "on", "the", "e-commerce", "Statistical", "survey", ".", "We", "consider", "that", "open", "principle", "should", "be", "followed", "when", "defining", "e-commerce", "according", "to", "its", "characteristic", "of", "appearing", "late", "and", "excessive", "growth", ",", "in", "order", "to", "perfect", "it", "constantly", "with", "the", "development", "of", "e-commerce", ".", "3.2.2", "The", "government", "should", "take", "charge", "of", "e-commerce", "Statistical", "survey", "We", "could", "understand", "the", "development", "of", "e-commerce", "prompt", "and", "accurate", ",", "find", "the", "questions", "existing", "in", "e-commerce", "and", "predict", "the", "development", "trend", "according", "to", "the", "e-commerce", "Statistical", ".", "It", "is", "obvious", "that", "e-commerce", "Statistical", "is", "important", "to", "the", "sound", "development", "of", "e-commerce", ".", "E-commerce", "could", "be", "promoted", "by", "just", "and", "accurate", "Statistical", "survey", "but", "the", "unilateral", "and", "utilitarian", "Statistical", "survey", "will", "mislead", "even", "hamper", "it", ".", "However", ",", "the", "e-commerce", "Statistical", "survey", "of", "our", "country", "lacks", "the", "authoritativeness", "and", "mandatory", "at", "present", "even", "affected", "the", "fairness", "and", "accuracy", "of", "Statistical", "survey", ".", "So", ",", "the", "Statistical", "survey", "of", "e-commerce", "in", "our", "country", "should", "be", "included", "in", "the", "official", "Statistical", "development", "plan", "as", "early", "as", "possible", "and", "we", "should", "set", "up", "the", "official", "survey", "system", "of", "e-commerce", "in", "order", "to", "make", "the", "e-commerce", "Statistical", "survey", "authoritative", "and", "promote", "the", "development", "of", "it", ".", "3.2.3", "Accelerate", "the", "research", "of", "the", "e-commerce", "Statistical", "theory", "The", "problem", "which", "should", "be", "considered", "first", "in", "research", "on", "Statistical", "theory", "of", "e-commerce", "is", "to", "keep", "the", "continuity", "with", "traditional", "Statistical", ".", "The", "e-commerce", "Statistical", "is", "not", "produced", "without", "foundation", "after", "all", "but", "is", "the", "extension", "on", "the", "network", "of", "traditional", "Statistical", "so", "that", "the", "basic", "theories", "of", "traditional", "Statistical", "are", "still", "suitable", "for", "the", "e-commerce", "Statistical", "survey", ".", "Secondly", ",", "we", "should", "make", "further", "research", "on", "Statistical", "method", ",", "Statistical", "caliber", "and", "Statistical", "range", "of", "e-commerce", ",", "and", "then", "set", "up", "the", "index", "system", "of", "e-commerce", "Statistical", "as", "soon", "as", "possible", ".", "Moreover", ",", "e-commerce", "has", "the", "characteristics", "of", "crossing", "over", "the", "limit", "of", "region", ".", "We", "should", "try", "our", "best", "to", "keep", "the", "harmony", "with", "the", "world", "on", "research", "in", "e-commerce", "Statistical", "theories", "for", "the", "overall", "and", "perfect", "system", "of", "e-commerce", "Statistical", "need", "the", "joint", "efforts", "of", "countries", "all", "over", "the", "world", ".", "3.2.4", "The", "service", "of", "e-commerce", "Statistical", "survey", "should", "be", "comprehensively", "and", "pointed", ".", "The", "e-commerce", "Statistical", "survey", "should", "serve", "not", "only", "for", "the", "macroscopically", "strategic", "policies", "of", "countries", "but", "also", "for", "the", "micro", "operation", "of", "enterprises", ".", "Meanwhile", ",", "there", "should", "be", "different", "surveys", "to", "conform", "to", "the", "different", "respondents", "in", "order", "to", "offer", "the", "personalized", "service", "of", "the", "Statistical", "survey", ".", "Only", "in", "that", "way", "can", "we", "offer", "the", "good", "development", "environment", "for", "e-commerce", "and", "reflect", "the", "value", "of", "e-commerce", "Statistical", "survey", ".", "-LSB-", "1", "-RSB-", ".", "Seminar", "of", "``", "research", "on", "e-commerce", "Statistical", "survey", "and", "application", "''", ".", "``", "Statistical", "Surveys", "and", "Application", "of", "E-Commerce", "in", "Canada", "''", "-LSB-", "J", "-RSB-", ".", "China", "Statistics", ",", "2003", ",", "3", "2003", ",", "4", "-LSB-", "2", "-RSB-", ".", "Seminar", "of", "``", "research", "on", "e-commerce", "Statistical", "survey", "and", "application", "''", ".", "``", "Survey", "of", "e-commerce", "development", "in", "S.Korean", "''", ".", "-LSB-", "J", "-RSB-", ".", "China", "Statistics", ",", "2003", ",", "5", "-LSB-", "3", "-RSB-", ".", "Seminar", "of", "``", "research", "on", "e-commerce", "Statistical", "survey", "and", "application", "''", ".", "``", "Statistical", "Surveys", "and", "Application", "of", "E-Commerce", "in", "Japan", "''", "-LSB-", "J", "-RSB-", ".", "China", "Statistics", ",", "2003", ",", "6", "-LSB-", "4", "-RSB-", ".", "Seminar", "of", "``", "research", "on", "e-commerce", "Statistical", "survey", "and", "application", "''", ".", "``", "Statistical", "Surveys", "and", "Application", "of", "E-Commerce", "in", "the", "U.S.A.", "''", "-LSB-", "J", "-RSB-", ".", "China", "Statistics", ",", "2003", ",", "7", "-LSB-", "5", "-RSB-", ".", "``", "Research", "paper", "of", "e-commerce", "development", "all", "over", "the", "world", "''", ",", "translated", "by", "Juanying", "Zhu", ",", "Bingzhi", "Yang", "United", "Nations", "Trade", "and", "Development", "Board", "-LSB-", "M", "-RSB-", ".2003", ".", "-LSB-", "6", "-RSB-", ".", "``", "The", "application", "of", "IT", "in", "Statisticals", "''", "Feng", "Cui", ",", "-LSB-", "M", "-RSB-", "Lixin", "Accounting", "Publishing", "House", ",2003", "72"], "doc_bio_tags": ["O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["survey", "china", "statistics", "implications"], "abstractive_keyphrases": ["e-commerce statistics", "statistical methods", "statistical survey", "development stage", "authority", "measurement", "definition of e-commerce", "e-commerce"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "69", "document": ["Digital", "Asset", "Management", "Using", "A", "Native", "XML", "Database", "Implementation", "Digital", "Asset", "Management", "-LRB-", "DAM", "-RRB-", ",", "the", "management", "of", "digital", "content", "so", "that", "it", "can", "be", "cataloged", ",", "searched", "and", "re-purposed", ",", "is", "extremely", "challenging", "for", "organizations", "that", "rely", "on", "image", "handling", "and", "expect", "to", "gain", "business", "value", "from", "these", "assets", ".", "Metadata", "plays", "a", "crucial", "role", "in", "their", "management", ",", "and", "XML", ",", "with", "its", "inherent", "support", "for", "structural", "representation", ",", "is", "an", "ideal", "technology", "for", "this", ".", "This", "paper", "analyzes", "the", "capabilities", "of", "a", "native", "XML", "database", "solution", "via", "the", "development", "of", "a", "``", "proof", "of", "concept", "''", "and", "describes", "implementation", "requirements", ",", "strategy", ",", "and", "advantages", "and", "disadvantages", "of", "this", "solution", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications", "image", "databases", ";", "and", "D.", "3.2", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Language", "Classifications", "extensible", "languages", ",", "XML", ".", "Languages", ",", "Performance", "Digital", "asset", "creation", "and", "management", "evolved", "in", "the", "late", "1990s", ".", "Companies", "have", "created", "massive", "digital", "assets", "in", "the", "form", "of", "images", ",", "video", "and", "audio", "files", ",", "streaming", "media", ",", "Power", "Point", "templates", ",", "web", "pages", ",", "and", "PDF", "files", "containing", "engineering", "specs", ",", "legal", "documents", ",", "internal", "memos", "and", "more", ".", "The", "World", "Wide", "Web", "has", "drastically", "increased", "the", "need", "for", "digital", "information", "and", "its", "exchange", ".", "Ille", "-LSB-", "8", "-RSB-", "identifies", "a", "digital", "asset", "as", "a", "strategic", "asset", "like", "any", "other", "form", "of", "working", "capital", ",", "and", "states", "that", "its", "efficient", "management", "is", "being", "increasingly", "recognized", "as", "a", "competitive", "lever", "for", "companies", "all", "over", "the", "world", ".", "Development", "of", "the", "model", "for", "storing", "any", "form", "of", "digital", "object", "into", "a", "structured", "format", "requires", "a", "deft", "combination", "of", "asset", "analysis", ",", "strategic", "thinking", ",", "business", "planning", "and", "appropriate", "technology", ".", "Companies", "can", "achieve", "early", "strategic", "advantage", "by", "implementing", "management", "systems", "for", "digital", "assets", "that", "can", "be", "repurposed", "or", "customized", ",", "providing", "process", "efficiencies", "in", "collaborative", "work", ".", "Digital", "Asset", "Management", "-LRB-", "DAM", "-RRB-", "can", "deliver", "competitive", "advantage", "for", "advertising", "agencies", ",", "technical", "or", "engineering", "documentation", "departments", ",", "designers", ",", "producers", "and", "others", "by", "reducing", "time", "spent", "locating", "creative", "assets", ".", "Enterprises", "often", "require", "reusing", "or", "sharing", "their", "digital", "assets", ".", "It", "is", "indispensable", "to", "store", "content", "in", "an", "organized", "way", "to", "reuse", "or", "process", "it", "for", "future", "needs", ".", "Global", "enterprises", "are", "facing", "the", "daunting", "challenge", "of", "figuring", "out", "how", "best", "to", "address", "the", "growing", "complexity", "of", "creating", "digital", "assets", "and", "managing", "the", "flow", "of", "assets", "through", "a", "single", "infrastructure", "-LSB-", "11", "-RSB-", ".", "Exacerbating", "the", "challenge", "is", "the", "fact", "that", "companies", "are", "creating", "a", "massive", "volume", "of", "digital", "assets", "but", "are", "rarely", "examining", "their", "organized", "storage", "and", "retrieval", "methods", ".", "DAM", "systems", "are", "still", "relatively", "new", ",", "but", "organizations", "have", "started", "realizing", "the", "importance", "and", "need", "for", "digital", "asset", "management", ".", "The", "Gartner", "Group", "affirms", "that", "only", "a", "limited", "number", "of", "technically", "advanced", "commercial", "content", "providers", "use", "DAM", "systems", "today", "to", "digitally", "construct", ",", "store", "and", "distribute", "rich", "media", "content", "in", "single", "medium", "forms", "-LSB-", "7", "-RSB-", ".", "The", "systems", "also", "have", "limited", "corporate", "use", "in", "advertising", "firms", "and", "marketing", "departments", ".", "Gartner", "predicts", "that", "by", "2005", "more", "than", "25", "%", "of", "all", "the", "enterprises", "with", "commercial", "internet", "operations", "will", "use", "DAM", "systems", ".", "By", "2010", ",", "more", "than", "45", "%", "of", "all", "the", "enterprises", "with", "commercial", "internet", "operations", "will", "use", "DAM", "systems", ".", "Recently", "reported", "cases", "provide", "evidence", "that", "companies", "have", "started", "investing", "in", "technology", "for", "DAM", ".", "For", "example", ",", "the", "Coca", "Cola", "company", "has", "bought", "technology", "from", "IBM", "for", "its", "digital", "advertisement", "archives", ",", "which", "contain", "9,000", "graphical", "images", ",", "7,000", "scanned", "documents", "and", "more", "than", "25,000", "corporate", "videos", "and", "television", "advertisements", "-LSB-", "13", "-RSB-", ".", "The", "technology", "includes", "search", "tools", "for", "retrieving", ",", "updating", ",", "managing", "and", "disseminating", "historical", "records", "online", ",", "including", "the", "company", "'s", "famous", "marketing", "and", "advertising", "icons", ".", "Another", "case", "is", "that", "of", "the", "Shoah", "Foundation", ".", "Steven", "Spielberg", "established", "the", "Shoah", "Foundation", "with", "the", "mission", "to", "videotape", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CITC4", "'", "03", ",", "October", "16", "18", ",", "2003", ",", "Lafayette", ",", "Indiana", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-770-2", "/", "03/0010", "...", "$", "5.00", ".", "237", "and", "preserve", "the", "testimonies", "of", "the", "Holocaust", "survivors", "and", "witnesses", ".", "The", "foundation", "has", "collected", "more", "than", "50,000", "eyewitness", "testimonies", "in", "57", "countries", "and", "32", "languages", "-LSB-", "12", "-RSB-", ".", "The", "challenge", "now", "is", "to", "manage", ",", "catalog", "and", "disseminate", "the", "video", "and", "digital", "collection", "of", "testimonies", "of", "those", "survivors", ".", "These", "digital", "assets", "of", "the", "Shoah", "Foundation", "are", "cataloged", "with", "lists", "of", "keywords", ",", "text", "summaries", "describing", "the", "survivors", ",", "related", "documentaries", "focusing", "on", "topics", "such", "as", "the", "ghettos", "or", "labor", "camps", "they", "lived", "in", ",", "and", "past", "and", "present", "photos", "of", "them", "and", "their", "families", ".", "The", "following", "summarizes", "the", "major", "challenges", "that", "are", "faced", "during", "any", "wide", "adoption", "of", "DAM", ".", "Storage", ":", "One", "of", "the", "fundamental", "problems", "is", "physical", "deterioration", "of", "storage", "devices", "that", "store", "digital", "information", ".", "Magnetic", "media", "are", "particularly", "subject", "to", "data", "loss", "and", "errors", ".", "There", "is", "also", "the", "important", "question", "of", "hardware", "and", "software", "obsolescence", "and", "the", "future", "availability", "of", "today", "'s", "technologies", ".", "Procedural", "Issues", ":", "Technical", "problems", "are", "further", "complicated", "when", "resources", "to", "be", "preserved", "need", "to", "be", "transformed", "into", "digital", "form", ".", "Digitization", "of", "paper", "analogs", "for", "access", "and", "preservation", "is", "a", "time", "consuming", "and", "labor", "intensive", "task", ".", "Beyond", "this", "technical", "problem", ",", "there", "is", "a", "host", "of", "financial", ",", "legal", ",", "and", "policy", "problems", ".", "Security", ":", "Securing", "digital", "assets", "against", "misuse", ",", "theft", ",", "or", "damage", "is", "an", "ongoing", "concern", "of", "organizations", ".", "Copyright", ":", "One", "of", "the", "major", "legal", "issues", "associated", "with", "electronic", "assets", "is", "the", "actual", "scanning", "or", "digitizing", "of", "materials", ".", "Copyright", "holders", "have", "the", "exclusive", "right", "to", "reproduce", ",", "distribute", ",", "and", "display", "their", "work", ".", "Ferullo", "-LSB-", "3", "-RSB-", "points", "out", "that", "digitizing", "and", "posting", "infringes", "on", "these", "exclusive", "rights", ".", "Distribution", ":", "Digital", "assets", "will", "be", "utilized", "to", "the", "fullest", "only", "when", "they", "can", "be", "distributed", "via", "proper", "communication", "channels", "to", "the", "intended", "users", ".", "Infrastructure", ":", "DAM", "requires", "a", "robust", "IT", "infrastructure", "to", "support", "creation", "and", "distribution", ".", "Human", "Factors", ":", "While", "the", "purpose", "of", "DAM", "is", "to", "provide", "greater", "efficiency", ",", "getting", "users", "to", "adapt", "to", "the", "new", "environment", "can", "be", "a", "challenge", ".", "This", "is", "an", "important", "issue", "because", "many", "DAM", "solutions", "require", "a", "change", "in", "work", "processes", "before", "the", "users", "see", "any", "benefits", "-LSB-", "6", "-RSB-", ".", "The", "requirement", "to", "manage", "and", "deliver", "digital", "assets", "is", "becoming", "critical", "to", "almost", "all", "content-related", "applications", ",", "due", "to", "the", "evolution", "of", "the", "Internet", "and", "growth", "of", "digital", "assets", ".", "Enterprises", "need", "plans", "to", "benefit", "from", "the", "new", "world", "of", "rich", ",", "valuable", "digital", "assets", "that", "will", "affect", "everything", "from", "their", "internal", "processes", "and", "customer", "relations", "to", "their", "web", "site", "and", "telecommunications", "infrastructures", ".", "Widespread", "use", "of", "rich", "media", "has", "spurred", "the", "growth", "of", "the", "DAM", "market", ".", "Frost", "and", "Sullivan", ",", "a", "market", "analysis", "firm", ",", "claims", "the", "average", "user", "in", "a", "media", "enterprise", "looks", "for", "a", "media", "file", "83", "times", "a", "week", "and", "fails", "to", "find", "it", "35", "%", "of", "the", "time", "-LSB-", "5", "-RSB-", ".", "Canto", "Software", "research", "predicts", "that", "DAM", "solutions", "will", "drop", "that", "figure", "to", "5", "%", "-LSB-", "9", "-RSB-", ".", "With", "the", "growth", "of", "internet", "publication", ",", "document", "metadata", "is", "increasingly", "important", "because", "it", "provides", "contextual", "information", "about", "digital", "assets", "necessary", "for", "customization", "of", "the", "content", ".", "In", "response", ",", "Adobe", "Systems", "plans", "to", "unveil", "new", "metadata", "technology", "designed", "to", "ease", "the", "process", "of", "applying", "content", "to", "multiple", "types", "of", "media", ".", "The", "XMP", "-LRB-", "Extensible", "Metadata", "Platform", "-RRB-", "provides", "a", "framework", "for", "standardizing", "the", "creation", "and", "processing", "of", "document", "metadata", "across", "publishing", "workflows", ",", "according", "to", "Adobe", "officials", "-LSB-", "10", "-RSB-", ".", "A", "review", "by", "Doering", "-LSB-", "2", "-RSB-", "provides", "the", "insight", "into", "methods", "for", "digital", "asset", "management", ".", "According", "to", "Doering", ",", "a", "DAM", "solution", "must", "include", "the", "following", "critical", "features", ":", "Indexing", ":", "As", "content", "is", "generated", "and", "stored", ",", "it", "is", "indexed", "according", "to", "various", "possible", "criteria", ".", "Metadata", "does", "not", "merely", "describe", "by", "whom", ",", "when", ",", "and", "how", "a", "piece", "of", "content", "was", "created", ";", "it", "can", "also", "be", "used", "to", "interpret", "and", "catalog", "the", "content", "itself", ".", "Rights", "Management", ":", "Includes", "handling", "rights", "to", "the", "content", "or", "restricting", "the", "use", "of", "the", "content", "by", "the", "purchaser/end-user", ".", "This", "might", "occur", ",", "for", "example", ",", "with", "corporate", "information", "or", "licensed", "images", "from", "a", "third", "party", "incorporated", "into", "the", "content", ".", "Reuse", ":", "With", "a", "viable", "DAM", "system", "in", "place", ",", "the", "internal", "content", "developer", "can", "research", "and", "select", "appropriate", "content", "for", "reuse", "in", "new", "content", ".", "This", "represents", "a", "significant", "savings", "potential", "for", "the", "companies", ".", "Review", ":", "A", "final", "benefit", "of", "an", "online", "catalog", "with", "a", "DAM", "system", "is", "the", "ability", "to", "review", "older", "content", "more", "easily", ".", "3.2", "The", "XML/Metadata", "Approach", "By", "incorporating", "a", "DAM", "system", ",", "a", "company", "gains", "both", "the", "savings", "from", "reusing", "content", "as", "well", "as", "revenue", "from", "continued", "sales", "of", "the", "same", "elements", ".", "According", "to", "Fontana", "-LSB-", "4", "-RSB-", ",", "XML", "databases", "serve", "in", "a", "complementary", "role", "to", "traditional", "databases", "especially", "as", "XML", "becomes", "prevalent", ".", "Nearly", "85", "%", "of", "large", "corporations", "are", "expected", "to", "move", "all", "their", "web-based", "content", "to", "XML", "over", "the", "next", "three", "years", ".", "Fundamentally", ",", "two", "high-level", "approaches", "may", "be", "adopted", "for", "implementing", "XML", "databases", ".", "1", "-RRB-", "XML-enabled", "database", ":", "In", "an", "XML-enabled", "database", ",", "the", "documents", "are", "stored", "in", "constituent", "fragments", ".", "Here", "the", "XML", "data", "is", "stored", "in", "object", "relational", "form", "and", "one", "can", "use", "an", "XML", "SQL", "Utility", "-LRB-", "XSU", "-RRB-", "or", "SQL", "functions", "and", "packages", "to", "generate", "the", "whole", "document", "from", "its", "object", "relational", "instances", ".", "2", "-RRB-", "Native", "XML", "database", ":", "In", "a", "native", "XML", "database", "approach", ",", "XML", "is", "not", "fragmented", "but", "rather", "is", "stored", "as", "a", "whole", "in", "the", "native", "XML", "database", ".", "This", "means", "that", "documents", "are", "stored", ",", "indexed", ",", "and", "retrieved", "in", "their", "original", "format", ",", "with", "all", "their", "content", ",", "tags", ",", "attributes", ",", "entity", "references", ",", "and", "ordering", "preserved", ".", "In", "this", "technique", ",", "the", "XML", "Database", "is", "designed", "to", "handle", "XML", "in", "its", "native", "format", ",", "thereby", "speeding", "access", "to", "data", "by", "eliminating", "the", "need", "to", "transform", "it", "into", "the", "rows", "and", "columns", "of", "a", "standard", "relational", "database", ".", "238", "Biggs", "-LSB-", "1", "-RSB-", "suggests", "there", "are", "three", "principal", "reasons", "to", "implement", "a", "native", "XML", "database", ":", "1", "-RRB-", "enterprises", "today", "use", "a", "mix", "of", "data", ",", "such", "as", "the", "data", "housed", "in", "object-oriented", "databases", "and", "unstructured", "data", "that", "needs", "to", "be", "exchanged", "with", "partners", "-LRB-", "native", "XML", "databases", "can", "leverage", "all", "of", "these", "disparate", "sources", "-RRB-", ";", "2", "-RRB-", "XML", "databases", "can", "boost", "processing", "performance", "due", "to", "XML-based", "transactions", ";", "and", "3", "-RRB-", "digital", "assets", "described", "in", "the", "XML", "format", "can", "be", "used", "by", "other", "applications", ".", "3.3", "A", "Technique", "Using", "Native", "XML", "When", "developing", "a", "native", "XML", "solution", ",", "certain", "steps", "should", "be", "followed", ":", "1", "-RRB-", "Identify", "the", "need", "for", "DAM", "2", "-RRB-", "Know", "your", "assets", ":", "Identify", "various", "assets", ",", "define", "and", "understand", "their", "use", "in", "the", "organization", "3", "-RRB-", "Define", "search", "needs", "and", "key", "attributes", "of", "your", "assets", "4", "-RRB-", "Capture", "the", "objects", "-LRB-", "digitized", "-RRB-", "and", "data", "about", "the", "objects", "-LRB-", "metadata", "-RRB-", "5", "-RRB-", "Process", ":", "Generate", "and", "store", "XML", "files", "associated", "with", "each", "object", "The", "basis", "of", "this", "technique", "lies", "in", "creation", "and", "usage", "of", "semi-structured", "metadata", "stored", "in", "an", "XML", "format", "to", "manage", "digital", "assets", "efficiently", ".", "When", "the", "structure", "of", "the", "data", "is", "irregular", "and", "implicitly", "given", "by", "the", "document", "itself", ",", "not", "by", "a", "global", "scheme", ",", "they", "are", "often", "referred", "to", "as", "semi-structured", "data", ".", "The", "ability", "of", "an", "XML", "to", "handle", "dynamic", "data", "provides", "leeway", "for", "the", "applications", "to", "use", "semi-structured", "data", "to", "describe", "their", "digital", "assets", ".", "XML", "is", "becoming", "the", "de", "facto", "data", "exchange", "format", "for", "the", "Web", ".", "The", "XML", "enclosing", "metadata", "can", "be", "either", "stored", "in", "the", "database", "for", "future", "retrieval", "or", "be", "easily", "transferred", "over", "the", "Internet", "to", "any", "other", "systems", ".", "The", "Oracle", "9i", "DBMS", "-LRB-", "used", "for", "the", "Proof", "of", "Concept", "-RRB-", "provides", "an", "``", "XMLType", "''", "data", "type", "that", "can", "be", "used", "to", "store", "and", "query", "XML", "data", "in", "the", "database", ".", "The", "XMLType", "has", "member", "functions", "one", "can", "use", "to", "access", ",", "extract", ",", "and", "query", "the", "XML", "data", "using", "XPath", "expressions", ",", "a", "standard", "developed", "by", "the", "World", "Wide", "Web", "Consortium", "to", "traverse", "XML", "documents", ".", "3.4", "Proof", "of", "Concept", "This", "study", "analyzed", "existing", "approaches", "for", "non-text", "based", "digital", "asset", "management", "and", "implemented", "a", "DAM", "solution", "by", "applying", "a", "native", "XML", "Database", "technique", ".", "Meta-data", "of", "digital", "assets", "is", "often", "semi-structured", "and", "the", "digital", "files", "are", "of", "varied", "types", ".", "XML", "databases", "are", "most", "appropriate", "for", "managing", "diverse", "types", "of", "semi-structured", "digital", "assets", ".", "For", "this", "project", ",", "the", "Proof", "of", "Concept", "-LRB-", "POC", "-RRB-", "was", "developed", "using", "facilities", "and", "resources", "of", "the", "University", "'s", "Digital", "Enterprise", "Center", "-LRB-", "DEC", "-RRB-", "at", "the", "School", "of", "Technology", ".", "The", "Product", "Lifecycle", "Management", "-LRB-", "PLM", "-RRB-", "lab", "at", "DEC", "creates", ",", "simulates", "and", "shares", "digital", "information", "related", "to", "a", "company", "'s", "products", ",", "processes", "and", "resources", ".", "These", "digital", "assets", "encompass", "graphical", "images", ",", "presentations", ",", "and", "video/audio", "clips", "of", "manufacturing", "processes", "representing", "manufacturing", "models", ".", "A", "digital", "asset", "produced", "in", "the", "PLM", "lab", "is", "the", "intellectual", "property", "of", "the", "DEC", "and", "needs", "to", "be", "managed", "for", "future", "use", "or", "research", ".", "Though", "the", "demonstration", "focused", "on", "the", "manufacturing", "process", "models", "in", "the", "PLM", "lab", ",", "the", "XML", "Database", "technique", "can", "be", "applied", "to", "any", "form", "of", "digital", "asset", ".", "Since", "the", "potential", "file", "population", "is", "very", "vast", "and", "is", "of", "varied", "types", ",", "the", "POC", "restricted", "the", "sampling", "to", "the", "following", "categories", "of", "digital", "assets", ":", "Audio", "files", ",", "Video", "files", ",", "Images", ",", "and", "Text", "based", "files", "-LRB-", "presentation", "slides", ",", "Word", "documents", ",", "Acrobat", "files", "-RRB-", ".", "The", "POC", "confined", "the", "sample", "to", "a", "limited", "number", "of", "files", "describing", "assembly", "line", "parts", "available", "from", "the", "PLM", "lab", ".", "Metadata", "was", "stored", "for", "each", "of", "the", "digital", "objects", "of", "the", "assembly", "line", ".", "The", "global", "parameters", "and", "sub-parameters", "used", "to", "describe", "the", "digital", "files", "included", "the", "following", ":", "File", "Name", ",", "Type", "-LRB-", "Image", ",", "Audio", ",", "Video", ",", "Word", "etc", "-RRB-", ",", "Author", ",", "Creation", "Date", ",", "General", "Description", ",", "Keywords", ",", "and", "a", "Comment", ".", "A", "keyword", "search", "capability", "was", "added", "for", "searching", "within", "these", "and", "other", "parameters", ".", "The", "Proof", "of", "Concept", "application", "was", "developed", "to", "provide", "a", "storage", ",", "search", "and", "retrieval", "facility", "to", "manage", "the", "digital", "assets", "of", "the", "PLM", "lab", "using", "the", "School", "of", "Technology", "'s", "software", "and", "hardware", "resources", ".", "The", "application", "provides", "a", "web-based", "interface", "for", "convenient", "management", "of", "the", "digital", "models", "and", "has", "an", "``", "n-tiered", "''", "architecture", ".", "The", "backend", "database", "is", "Oracle", "9i", "with", "native", "XML", "support", ".", "The", "web", "interface", "was", "developed", "using", "JSP", "and", "the", "middle", "tier", "was", "incorporated", "using", "Java", "Servlets", ".", "Analysis", "was", "conducted", "with", "the", "following", "steps", ":", "Various", "types", "of", "data", "-LRB-", "heterogeneous", "data", "-RRB-", "were", "collected", "for", "demonstration", "purposes", ".", "The", "validity", "of", "metadata", "was", "checked", "before", "entering", "it", "into", "the", "system", ".", "Upon", "validation", ",", "data", "was", "entered", "in", "the", "system", "-LRB-", "Oracle", "9i", "database", "-RRB-", "through", "the", "web-interface", ".", "With", "the", "appropriate", "search", "parameters", ",", "the", "data", "entered", "could", "be", "searched", "for", "and", "retrieved", ".", "Depending", "on", "the", "requirement", ",", "this", "retrieved", "data", "could", "be", "viewed", ",", "reused", "or", "repurposed", ".", "Providing", "different", "search", "criteria", "tested", "consistency", "and", "reliability", "in", "the", "retrieval", "of", "the", "asset", ".", "The", "following", "technologies", "were", "used", "to", "develop", "the", "POC", ":", "Apache", "Webserver", "1.3", ";", "Apache", "JServ", "1.1", ";", "JDK", "1.1", ";", "Oracle", "9i", "-LRB-", "9.0.0.2", "-RRB-", ";", "XML", ";", "Java", ",", "JSP", ",", "Servlets", ".", "Tools", "used", "for", "development", "purposes", "included", ":", "ERwin", "database", "design", "software", ";", "Borland", "Jbuilder", ";", "Microsoft", "Front", "Page", ";", "and", "Oracle", "Enterprise", "Manager", ".", "The", "POC", "was", "developed", "with", "a", "three-tier", "architecture", "as", "shown", "in", "Figure", "1", ".", "The", "first", "tier", "of", "the", "architecture", "presents", "an", "interface", "to", "the", "user", "to", "facilitate", "access", "to", "digital", "files", ".", "The", "interface", "is", "web-enabled", "and", "was", "developed", "using", "Java", "Server", "Pages", ".", "This", "tier", "provides", "a", "user-friendly", "navigation", "through", "the", "site", "for", "managing", "digital", "files", ",", "including", "screens", "for", "inserting", ",", "deleting", "and", "searching", "on", "file", "data", ".", "239", "XML", "Generation", "Database", "XML", "Files", "-LRB-", "Metadata", "for", "Digital", "Assets", "-RRB-", "XML", "Files", "-LRB-", "Metadata", "for", "Digital", "Assets", "-RRB-", "User", "Interface", "Web", "&", "Application", "Server", "Digital", "Asset", "Storage", "XML", "Validation", "Metadata", "for", "Digital", "Assets", "Metadata", "for", "Digital", "Assets", "Digital", "Asset", "Digital", "Asset", "Tier", "3", "Tier", "2", "Tier", "1", "The", "POC", "Architecture", "Figure", "1", ":", "3-Tier", "Architecture", "for", "POC", "The", "middle", "tier", "of", "the", "architecture", "consists", "of", "Servlets", "and", "Java", "helper", "classes", ".", "Servlets", "direct", "the", "flow", "of", "the", "control", "and", "provide", "database", "connectivity", "for", "the", "application", ".", "In", "addition", ",", "the", "business", "logic", "is", "implemented", "in", "Servlets", ".", "Helper", "classes", "are", "used", "by", "Servlets", "to", "create", "and", "manage", "user-defined", "Java", "objects", ".", "Servlets", "and", "JSPs", "are", "deployed", "on", "an", "Apache", "Web", "server", "and", "Apache", "Jserv", ".", "The", "third", "tier", "of", "the", "architecture", "is", "the", "database", "layer", "itself", ".", "As", "noted", "previously", ",", "the", "POC", "uses", "the", "XML", "capabilities", "of", "the", "Oracle", "9i", "database", "management", "system", ".", "The", "XML", "database", "technique", "stores", "attributes", "of", "digital", "assets", "in", "the", "database", "in", "the", "form", "of", "an", "XML", "file", ".", "While", "the", "XML", "resides", "in", "the", "database", "system", ",", "digital", "assets", "might", "be", "files", "in", "a", "file", "system", "or", "a", "BLOB", "in", "a", "relational", "database", ".", "This", "demonstration", "of", "the", "technique", "stores", "digital", "assets", "in", "a", "file", "system", ".", "XML", "databases", "provide", "some", "features", "that", "are", "analogous", "to", "conventional", "text", "databases", ".", "Common", "to", "all", "native", "XML", "databases", "are", "indexes", ",", "which", "allow", "the", "query", "engine", "to", "jump", "to", "a", "particular", "point", "in", "an", "XML", "document", ".", "This", "gives", "such", "databases", "a", "tremendous", "speed", "advantage", "when", "retrieving", "entire", "documents", "or", "document", "fragments", ".", "This", "is", "because", "the", "database", "can", "perform", "a", "single", "index", "lookup", "and", "retrieve", "the", "entire", "document", "or", "fragment", "in", "a", "single", "read", ".", "Normalizing", "data", "for", "an", "XML", "database", "is", "largely", "the", "same", "as", "normalizing", "it", "for", "a", "relational", "database", ".", "The", "programmer", "needs", "to", "design", "the", "documents", "so", "that", "no", "data", "is", "repeated", ".", "One", "difference", "between", "native", "XML", "databases", "and", "relational", "databases", "is", "that", "XML", "supports", "multi-valued", "properties", "while", "-LRB-", "most", "-RRB-", "relational", "databases", "do", "not", ".", "This", "makes", "it", "possible", "to", "``", "normalize", "''", "data", "in", "a", "native", "XML", "database", "in", "a", "way", "that", "is", "not", "possible", "in", "a", "relational", "database", ".", "4.2", "Native", "XML", "vs.", "XML-Enabled", "A", "native", "XML", "database", "defines", "a", "-LRB-", "logical", "-RRB-", "model", "for", "an", "XML", "document", "--", "as", "opposed", "to", "the", "data", "in", "that", "document", "--", "and", "stores", "and", "retrieves", "documents", "according", "to", "that", "model", ".", "A", "native", "XML", "database", "has", "an", "XML", "document", "as", "its", "fundamental", "unit", "of", "-LRB-", "logical", "-RRB-", "storage", ",", "just", "as", "a", "relational", "database", "has", "a", "row", "in", "a", "table", "as", "its", "fundamental", "unit", "of", "-LRB-", "logical", "-RRB-", "storage", ".", "It", "is", "not", "required", "to", "have", "any", "particular", "underlying", "physical", "storage", "model", ".", "For", "example", ",", "it", "can", "be", "built", "on", "a", "relational", ",", "hierarchical", ",", "or", "object-oriented", "database", ",", "or", "use", "a", "proprietary", "storage", "format", "such", "as", "indexed", ",", "compressed", "files", ".", "An", "XML-enabled", "database", "has", "an", "added", "XML", "mapping", "layer", "provided", "either", "by", "the", "database", "vendor", "or", "a", "third", "party", ".", "This", "mapping", "layer", "manages", "the", "storage", "and", "retrieval", "of", "XML", "data", ".", "Data", "that", "is", "mapped", "into", "the", "database", "is", "mapped", "into", "application", "specific", "formats", "and", "the", "original", "XML", "meta-data", "and", "structure", "may", "be", "lost", ".", "Data", "retrieved", "as", "XML", "is", "NOT", "guaranteed", "to", "have", "originated", "in", "XML", "form", ".", "Data", "manipulation", "may", "occur", "via", "either", "XML", "specific", "technologies", "-LRB-", "e.g.", "XPath", "-RRB-", "or", "other", "database", "technologies", "-LRB-", "e.g.", "SQL", "-RRB-", ".", "The", "fundamental", "unit", "of", "storage", "in", "an", "XML-enabled", "database", "is", "implementation", "dependent", ".", "The", "XML", "solutions", "from", "Oracle", "and", "Microsoft", ",", "as", "well", "as", "many", "third", "party", "tools", ",", "fall", "into", "this", "category", ".", "4.2.1", "Advantages", "of", "Native", "XML", "Native", "XML", "databases", "have", "several", "advantages", "over", "relational", "databases", ".", "Since", "native", "XML", "databases", "do", "not", "have", "database", "schemas", ",", "one", "can", "store", "similar", "documents", "with", "more", "than", "one", "schema", "in", "the", "database", "at", "the", "same", "time", ".", "While", "one", "may", "still", "need", "to", "redesign", "queries", "and", "convert", "the", "existing", "documents", "--", "a", "non-trivial", "process", "--", "this", "may", "ease", "the", "transition", "process", ".", "XML", "databases", "make", "search", "within", "the", "XML", "documents", "very", "efficient", ".", "If", "the", "data", "is", "parsed", "into", "Document", "Object", "Model", "-LRB-", "DOM", "-RRB-", "format", ",", "XPATH", "can", "be", "used", ".", "XML", "database", "solutions", "usually", "add", "a", "text", "indexing", "system", "so", "that", "query", "performance", "is", "improved", ".", "4.2.2", "Disadvantages", "of", "Native", "XML", "Currently", ",", "only", "a", "few", "native", "XML", "databases", "enforce", "referential", "integrity", ".", "The", "reason", "for", "this", "is", "that", "most", "native", "XML", "databases", "do", "not", "currently", "support", "linking", "mechanisms", ",", "so", "there", "are", "no", "references", "for", "integrity", "checking", ".", "Therefore", ",", "applications", "that", "rely", "on", "referential", "integrity", "mechanisms", "of", "databases", "must", "enforce", "these", "constraints", "themselves", "for", "XML", "databases", ".", "In", "the", "future", ",", "many", "native", "XML", "databases", "will", "probably", "support", "linking", "mechanisms", "and", "referential", "integrity", ".", "Another", "disadvantage", "of", "XML", "databases", "is", "that", "while", "query", "performance", "is", "better", ",", "update", "performance", "suffers", ".", "The", "reason", "is", "that", "the", "index", "entries", "for", "a", "document", "must", "be", "deleted", "and", "new", "entries", "created", "whenever", "a", "document", "is", "inserted", "or", "updated", ".", "In", "general", ",", "an", "XML", "Database", "approach", "is", "better", "because", "it", "supports", "the", "full", "power", "of", "XML", ".", "However", ",", "a", "major", "drawback", "is", "performance", "degradation", ",", "as", "data", "must", "be", "constantly", "reparsed", "into", "a", "DOM", "tree", ",", "wasting", "cycles", "and", "memory", ".", "Additionally", ",", "update", "capabilities", "are", "weak", ",", "and", "finally", ",", "automated", "enforcement", "of", "240", "integrity", "constraints", "needlessly", "places", "unreasonable", "burden", "upon", "application", "programmers", ",", "increasing", "risks", "and", "costs", ".", "Digital", "Asset", "Management", "-LRB-", "DAM", "-RRB-", "is", "an", "evolving", "field", "with", "a", "great", "potential", ".", "With", "the", "evolution", "of", "computers", "and", "the", "Internet", ",", "companies", "have", "been", "creating", "an", "enormous", "volume", "of", "digital", "content", "in", "various", "formats", ".", "Managing", "this", "content", ",", "so", "that", "it", "can", "be", "cataloged", ",", "searched", "and", "re-purposed", ",", "is", "extremely", "challenging", "for", "organizations", ".", "XML", "is", "a", "commonly", "used", "standard", "in", "internet", "applications", ".", "Hence", ",", "representing", "the", "metadata", "of", "a", "digital", "content", "in", "an", "XML", "format", "is", ",", "on", "the", "surface", ",", "a", "good", "design", "decision", ".", "XML", ",", "by", "its", "very", "nature", ",", "provides", "for", "a", "complex", ",", "well-defined", "and", "yet", "extensible", "structural", "representation", "of", "the", "metadata", "and", "interoperability", "between", "various", "applications", "dealing", "with", "digital", "assets", ".", "A", "major", "advantage", "of", "having", "XML", "natively", "in", "the", "database", "is", "that", "one", "can", "perform", "the", "relational", "manipulation", "operations", "such", "as", "insert", ",", "update", ",", "and", "delete", "on", "the", "whole", "or", "partial", "XML", "and", "can", "also", "perform", "XML", "specific", "operations", "like", "XPATH", "search", "and", "node", "modification", "using", "the", "power", "of", "SQL", ".", "This", ",", "and", "other", "advantages", "give", "native", "XML", "databases", "an", "edge", "over", "systems", "that", "do", "n't", "use", "XML", "or", "that", "manage", "XML", "externally", ".", "-LSB-", "1", "-RSB-", "Biggs", ",", "M.", "-LRB-", "2001", ",", "December", "3", "-RRB-", ".", "Two", "ways", "to", "bring", "XML", "to", "your", "databases", ".", "InfoWorld", ",", "Framingham", ",", "23", "-LRB-", "49", "-RRB-", ",", "20", ".", "-LSB-", "2", "-RSB-", "Doering", ",", "D.", "-LRB-", "2001", ",", "August", "-RRB-", ".", "Defining", "the", "DAM", "thing", ":", "how", "digital", "asset", "management", "works", ".", "Emedia", "Magazine", ",", "Wilton", ",", "14", "-LRB-", "8", "-RRB-", ",", "28-32", ".", "Retrieved", "February", "27", ",", "2002", ",", "from", "http://proquest.umi.com/pqdweb?Did=000000077222944&F", "mt", "=", "4", "&", "Deli", "=", "1", "&", "Mtd", "=", "1", "&", "Idx", "=", "5", "&", "Sid", "=", "12", "&", "RQT", "=", "309", "-LSB-", "3", "-RSB-", "Ferullo", ",", "D.", "L.", "-LRB-", "2002", "-RRB-", ".", "The", "challenge", "of", "e-reserves", ".", "Net", "Connect", ",", "48", "-LRB-", "8", "-RRB-", ",", "33-35", ".", "-LSB-", "4", "-RSB-", "Fontana", ",", "J.", "-LRB-", "2001", ",", "November", "5", "-RRB-", ".", "Upgraded", "database", "makes", "the", "most", "of", "XML", ".", "Network", "World", ",", "Framingham", ",", "18", "-LRB-", "45", "-RRB-", ",", "29", ".", "Retrieved", "February", "27", ",", "2002", ",", "from", "http://proquest.umi.com/pqdweb?Did=000000088274369&F", "mt", "=", "4", "&", "Deli", "=", "1", "&", "Mtd", "=", "1", "&", "Idx", "=", "7", "&", "Sid", "=", "3", "&", "RQT", "=", "309", "-LSB-", "5", "-RSB-", "Frost", "&", "Sullivan.s", "-LRB-", "n.d.", "-RRB-", ".", "U.S.", "Digital", "Asset", "Management", "Markets", ".", "Retrieved", "March", "23", ",", "2002", ",", "from", "http://www.frost.com/prod/servlet/fcom?ActionName=Displa", "yReport", "&", "id", "=", "A192-01-00-00-00", "&", "ed", "=", "1", "&", "fcmseq", "=", "1043213084248", "-LSB-", "6", "-RSB-", "Garcia", ",", "K.", "-LRB-", "2001", ",", "November", "-RRB-", ".", "Broadcasters", "starting", "to", "ease", "into", "digital", "workflow", ".", "TVB", "Europe", ",", "10", "-LRB-", "11", "-RRB-", ",", "22-24", ".", "-LSB-", "7", "-RSB-", "Gilbert", ",", "M.", ",", "Landers", ",", "G.", ",", "Latham", ",", "L.", "&", "Lundy", ",", "J.", "-LRB-", "2001", ",", "November", "26", "-RRB-", ".", "What", "'s", "cool", ",", "what", "'s", "hot", ":", "content", "technology", "hype", "cycle", ".", "Gartner", "Advisory", ".", "Retrieved", "February", "9", ",", "2002", ",", "from", "http://gartner.adpc.purdue.edu/rasdquest/RESEARCH/RAS/", "102700/102760/102760.html", "-LSB-", "8", "-RSB-", "Ille", ",", "C.", "-LRB-", "2001", ",", "February", "26", "-RRB-", ".", "Market", "definitions", ":", "digital", "document", "imaging", ".", "Gartner", "Group", ".", "Retrieved", "February", "27", ",", "2002", ",", "from", "http://proquest.umi.com/pqdweb?Did=000000093522513&F", "mt", "=", "3", "&", "Deli", "=", "1", "&", "Mtd", "=", "1", "&", "Idx", "=", "4", "&", "Sid", "=", "3", "&", "RQT", "=", "309", "-LSB-", "9", "-RSB-", "Martin", ",", "N.", "-LRB-", "2001", ",", "September", "-RRB-", ".", "DAM", "right", "!", "Artesia", "technologies", "focuses", "on", "digital", "asset", "management", ".", "EContent", ",", "Wilton", ",", "24", "-LRB-", "7", "-RRB-", ",", "60-62", ".", "-LSB-", "10", "-RSB-", "Moore", ",", "C.", "-LRB-", "2001", ",", "September", "24", "-RRB-", ".", "Adobe", "touts", "images", ".", "InfoWorld", ",", "Framingham", ",", "23", "-LRB-", "39", "-RRB-", ",", "36", ".", "Retrieved", "February", "27", ",", "2002", ",", "from", "http://proquest.umi.com/pqdweb?Did=000000081956628&F", "mt", "=", "3", "&", "Deli", "=", "1", "&", "Mtd", "=", "1", "&", "Idx", "=", "2", "&", "Sid", "=", "12", "&", "RQT", "=", "309", "-LSB-", "11", "-RSB-", "Moore", ",", "C.", "-LRB-", "2001", ",", "September", "24", "-RRB-", ".", "Content", "management", "plays", "role", "in", "cross-media", "publishing", ".", "Computer", "World", ".", "Retrieved", "February", "9", ",", "2002", ",", "from", "http://www.computerworld.com/storyba/0,4125,NAV47_ST", "O64339", ",00", ".", "html", "-LSB-", "12", "-RSB-", "Solomon", ",", "M.", "-LRB-", "2002", ",", "January", "14", "-RRB-", ".", "Managing", "the", "memories", ".", "Computer", "World", ".", "Retrieved", "April", "16", ",", "2002", ",", "from", "http://www.computerworld.com/storyba/0,4125,NAV47_ST", "O67304", ",00", ".", "html", "-LSB-", "13", "-RSB-", "Weiss", ",", "T.", "-LRB-", "2001", ",", "December", "10", "-RRB-", ".", "Coca-Cola", "ad", "legacy", "gets", "help", "from", "IBM", ".", "Computer", "World", ".", "Retrieved", "February", "9", ",", "2002", ",", "from", "http://www.computerworld.com/storyba/0,4125,NAV47_ST", "O66495", ",00", ".", "html", "241"], "doc_bio_tags": ["B", "I", "I", "O", "O", "B", "I", "B", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dam", "native xml", "database", "metadata", "proof of concept", "digital asset management", "storage and retrieval", "keyword search"], "abstractive_keyphrases": ["xml database", "heterogenous data", "multimedia", "digital images", "semi structured data"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "67", "document": ["Development", "through", "communicative", "action", "and", "information", "system", "design", ":", "a", "case", "study", "from", "South", "Africa", "Many", "authors", "have", "recognised", "the", "importance", "of", "structure", "in", "shaping", "information", "system", "-LRB-", "IS", "-RRB-", "design", "and", "use", ".", "Structuration", "theory", "has", "been", "used", "in", "IS", "research", "and", "design", "to", "assist", "with", "the", "identification", "and", "understanding", "of", "the", "structures", "in", "which", "the", "IS", "is", "situated", ".", "From", "a", "critical", "theoretical", "perspective", ",", "focusing", "on", "the", "Habermas", "'", "theory", "of", "communicative", "action", ",", "a", "community", "based", "child", "health", "information", "system", "was", "designed", "and", "implemented", "in", "a", "municipality", "in", "rural", "South", "Africa", ".", "The", "structures", "which", "shaped", "and", "influenced", "the", "design", "of", "this", "IS", "-LRB-", "the", "restructured", "health", "services", "and", "social", "tradition", "-RRB-", "are", "explored", "and", "discussed", ".", "From", "this", "case", "study", "the", "implications", "of", "using", "IS", "design", "as", "a", "developmental", "tool", "are", "raised", ":", "namely", "the", "development", "of", "a", "shared", "understanding", ",", "the", "participation", "of", "key", "players", "and", "the", "agreement", "on", "joint", "action", ".", "Categories", "and", "Subject", "Descriptors", ":", "H.", "4.0", "-LSB-", "Information", "Systems", "Application", "-RSB-", ":", "General", ";", "H.", "1.1", "-LSB-", "Information", "Systems", "Applications", "-RSB-", ":", "Systems", "and", "Information", "Theory", "--", "Information", "theory", "General", "Terms", ":", "Design", ",", "Theory", "Additional", "Key", "Words", "and", "Phrases", ":", "information", "system", "design", ",", "community", "information", "systems", ",", "structuration", "theory", ",", "critical", "social", "theory", "Many", "authors", "-LSB-", "Walsham", "and", "Sahay", "1996", ";", "Walsham", "and", "Han", "1991", ";", "Jones", "1997", ";", "Rose", "1999", ";", "Orlikowski", "1992", ";", "Orlikowski", "and", "Baroudi", "1991", ";", "Orlikowski", "and", "Robey", "1991", "-RSB-", "have", "recognised", "the", "importance", "of", "structure", "in", "shaping", "information", "system", "-LRB-", "IS", "-RRB-", "design", "and", "use", ".", "Structuration", "theory", "has", "been", "used", "in", "IS", "research", "and", "design", "to", "assist", "with", "the", "identification", "of", "the", "structures", "in", "which", "they", "are", "situated", ".", "Using", "this", "meta-analysis", "tool", ",", "information", "systems", "have", "been", "used", "to", "redefine", "and/or", "reinforce", "some", "of", "these", "structures", ".", "The", "IS", "design", "process", "is", "particularly", "important", ",", "not", "just", "in", "shaping", "the", "structures", ",", "but", "also", "in", "terms", "of", "understanding", "what", "structures", "exist", "and", "how", "they", "were", "formed", ".", "Critical", "approaches", "to", "IS", "examine", "those", "structures", "with", "the", "perspective", "of", "questioning", "and", "changing", "some", "of", "them", ".", "Critical", "social", "researchers", "seek", "to", "emancipate", "people", "by", "finding", "alternatives", "to", "existing", "social", "conditions", "as", "well", "as", "challenging", "taken-for-granted", "conditions", ".", "In", "particular", ",", "Habermas", "-LSB-", "1987", "-RSB-", "examines", "communication", "and", "how", "through", "striving", "for", "an", "ideal", "speech", "situation", "these", "structures", "can", "be", "challenged", ".", "In", "the", "process", "of", "IS", "design", "communication", "is", "especially", "important", ",", "as", "is", "who", "participates", ",", "and", "how", ".", "In", "this", "paper", "the", "author", "explores", "the", "existing", "structures", "which", "have", "contributed", "to", "the", "accessibility", ",", "or", "as", "the", "case", "may", "be", "inaccessibility", ",", "of", "the", "health", "services", "in", "the", "Okhahlamba", "municipality", ",", "KwaZulu-Natal", ",", "South", "Africa", ".", "Through", "the", "design", "of", "the", "community-based", "child", "health", "information", "system", "these", "structures", "were", "explored", "and", "addressed", "throughout", "the", "design", "process", ".", "Communication", "and", "participation", "were", "integral", "to", "the", "process", ",", "as", "well", "as", "the", "recognition", "of", "the", "importance", "of", "the", "context", "in", "which", "the", "system", "is", "designed", ".", "The", "rest", "of", "this", "paper", "is", "structured", "in", "the", "following", "manner", ".", "The", "following", "section", "looks", "at", "what", "is", "meant", "by", "structure", ",", "the", "process", "of", "structuration", "and", "its", "application", "to", "IS", "design", ".", "The", "third", "section", "looks", "at", "critical", "social", "theory", "in", "IS", "design", ",", "in", "particular", "Habermas", "'", "notion", "of", "communicative", "action", ".", "The", "fourth", "section", "outlines", "the", "existing", "structures", "in", "a", "community", "in", "KwaZulu-Natal", "that", "were", "important", "in", "shaping", "the", "IS", "design", "process", ".", "The", "fifth", "section", "explores", "how", "the", "process", "of", "IS", "design", "acknowledged", "and", "challenged", "these", "structures", "and", "the", "last", "section", "discusses", "the", "implications", "for", "IS", "design", "as", "a", "developmental", "tool", ".", "Author", "Addresses", ":", "Elaine", "Byrne", ",", "School", "of", "Public", "Health", ",", "University", "of", "the", "Western", "Cape", ",", "PBag", "X17", ",", "Bellville", ",", "7535", ",", "South", "Africa", ",", "elainebyrne@telkomsa.net", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "the", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", ",", "that", "the", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "Copyrights", "for", "components", "of", "this", "work", "owned", "by", "others", "than", "SAICSIT", "or", "the", "ACM", "must", "be", "honoured", ".", "Abstracting", "with", "credit", "is", "permitted", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", ",", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "c", "2003", "SAICSIT", "Proceedings", "of", "SAICSIT", "2003", ",", "Pages", "83", "92", "84", "Elaine", "Byrne", "Figure", "1", ".", "Dimensions", "of", "duality", "of", "structure", ".", "In", "this", "paper", "structure", "is", "regarded", "as", "`", "Rules", "and", "resources", ",", "recursively", "implicated", "in", "the", "reproduction", "of", "social", "systems", ".", "Structure", "exists", "only", "as", "memory", "traces", ",", "the", "organic", "basis", "of", "human", "knowledgeability", ",", "and", "as", "instantiated", "in", "action", "'", "-LSB-", "Giddens", "1993", "-RSB-", "p377", ".", "That", "is", ",", "through", "action", ",", "based", "on", "rules", "and", "resources", "in", "peoples", "'", "minds", ",", "structures", "in", "society", "are", "produced", "and", "reproduced", ".", "The", "rules", "and", "resources", "drawn", "upon", "in", "the", "production", "and", "reproduction", "of", "action", "are", "simultaneously", "the", "means", "of", "system", "reproduction", "-LRB-", "this", "is", "what", "Giddens", "refers", "to", "as", "the", "`", "duality", "of", "structure", "'", "-RRB-", ".", "The", "rules", "can", "be", "viewed", "as", "generalised", "procedures", "of", "action", "and", "human", "agents", "are", "aware", "and", "knowledgeable", "of", "these", "rules", ",", "but", "may", "not", "know", "what", "the", "outcome", "of", "that", "action", "will", "be", "because", "action", "can", "have", "both", "intended", "and", "unintended", "consequences", ".", "The", "resources", "are", "both", "authoritative", "-LRB-", "coordination", "of", "the", "activity", "of", "human", "agents", "-RRB-", "and", "allocative", "-LRB-", "control", "of", "material", "aspects", "of", "the", "natural", "world", "-RRB-", ",", "so", "both", "human", "and", "material", "resources", "are", "included", ".", "The", "process", "of", "structuration", "involves", "knowledgeable", "actions", "of", "human", "agents", "discursively", "and", "recursively", "forming", "the", "sets", "of", "rules", ",", "practices", "and", "routines", "which", ",", "over", "time", "and", "space", "constitute", "structure", ".", "Thus", "agents", "and", "structures", "are", "not", "seen", "as", "independent", ",", "but", "as", "a", "duality", "whereby", "structure", "is", "relied", "upon", "in", "human", "actions", ",", "and", "in", "so", "doing", "structures", "are", "produced", "or", "reproduced", ".", "Over", "time", "these", "social", "practices", "becomes", "reasonably", "stable", "and", "routines", "develop", ".", "Giddens", "-LSB-", "1993", "-RSB-", "p29", "breaks", "down", "social", "structure", "and", "human", "interaction", "into", "three", "dimensions", "which", "are", "interlinked", "by", "three", "modalities", "as", "illustrated", "in", "Figure", "1", ".", "When", "human", "actors", "communicate", ",", "they", "draw", "on", "interpretative", "schemes", "to", "help", "make", "sense", "of", "interactions", ".", "At", "the", "same", "time", "those", "interactions", "reproduce", "and", "modify", "those", "interpretative", "schemes", "which", "are", "embedded", "in", "social", "structure", "as", "meaning", "or", "signification", ".", "Similarly", "the", "human", "actors", "allocate", "resources", "through", "use", "of", "power", ",", "and", "produce", "and", "reproduce", "social", "structures", "of", "domination", ".", "Moral", "codes", "or", "norms", "help", "determine", "what", "human", "agents", "can", "sanction", "and", "thus", "produce", "and", "reproduce", "social", "structures", "of", "legitimation", ".", "It", "is", "useful", "to", "separate", "structure", "and", "interaction", "into", "these", "three", "dimensions", "for", "analysis", "of", "structure", ",", "but", "the", "dimensions", "are", "interlinked", ".", "-LSB-", "Rose", "1999", "-RSB-", "The", "design", "and", "use", "of", "information", "systems", "are", "shaped", "by", "the", "very", "structures", "within", "which", "they", "are", "situated", ",", "but", "IS", "can", "also", "be", "used", "to", "help", "define", "and", "redefine", "these", "structures", ".", "By", "exploring", "each", "of", "the", "above", "dimensions", "in", "the", "process", "of", "IS", "design", ",", "IS", "design", "can", "be", "used", "as", "a", "tool", "for", "development", "by", "refining", "the", "structures", "to", "include", "the", "views", "and", "values", "of", "those", "currently", "disadvantaged", "by", "the", "existing", "structures", ".", "Through", "a", "participative", "and", "reflective", "process", "in", "IS", "design", ",", "cultural", "and", "traditional", "norms", "which", "influences", "human", "action", "can", "be", "explained", ",", "understood", "and", "addressed", ".", "The", "design", "process", ",", "and", "the", "IS", "itself", ",", "can", "improve", "communication", "and", "encourage", "reflection", "and", "change", "interpretative", "schemes", ".", "Through", "the", "process", "of", "IS", "design", "and", "reflecting", "on", "the", "situation", "the", "excluded", "can", "be", "empowered", ",", "which", "redefines", "the", "power", "and", "resource", "structures", ".", "In", "summary", "IS", "design", "can", "define", "and", "refine", "structures", "by", "understanding", "and", "incorporating", "all", "the", "dimensions", "of", "the", "duality", "of", "structure", "in", "the", "design", "process", ".", "Structuration", "theory", "has", "been", "used", "quite", "widely", "in", "IS", ".", "Rose", "-LSB-", "1998", "-RSB-", "conceptualises", "the", "use", "of", "the", "theory", "in", "IS", "for", "three", "different", "purposes", ":", "analyse", ";", "theorise", "and", "operationalise", ".", "Walsham", "and", "Han", "-LSB-", "1991", "-RSB-", "analyse", "literature", "under", "topics", "of", "operational", "studies", ",", "meta-theory", "and", "specific", "concepts", "used", ",", "as", "well", "as", "outlining", "structuration", "Proceedings", "of", "SAICSIT", "2003", "Development", "through", "communicative", "action", "and", "information", "system", "design", "85", "theory", ".", "Jones", "-LSB-", "1997", "-RSB-", "analyses", "the", "use", "of", "structuration", "theory", "in", "an", "attempt", "to", "reconstruct", "theory", "to", "accommodate", "technology", ".", "He", "further", "explores", "the", "application", "of", "the", "theory", "as", "an", "analytical", "tool", ",", "the", "use", "of", "theory", "as", "a", "meta-theory", ",", "and", "use", "of", "concepts", "from", "the", "theory", ".", "In", "an", "attempt", "to", "theorise", "aspects", "of", "the", "IS", "field", "using", "structuration", "theory", "Orlikowski", "and", "Robey", "-LSB-", "1991", "-RSB-", ",", "apply", "the", "fundamentals", "of", "structuration", "theory", "to", "help", "understand", "the", "relationship", "between", "information", "technology", "and", "organisations", ".", "In", "a", "later", "article", "Orlikowski", "-LSB-", "1992", "-RSB-", "developed", "her", "structurational", "model", "of", "technology", "to", "understand", "the", "relationship", "between", "information", "technology", "and", "institutions", ".", "She", "recognises", "that", "technology", "can", "not", "determine", "social", "practices", ",", "but", "can", "condition", "them", "and", "that", "technology", "in", "conditioning", "social", "practices", "is", "both", "facilitating", "and", "constraining", ".", "In", "terms", "of", "empirical", "studies", "Walsham", "-LSB-", "1993", "-RSB-", "provides", "a", "number", "of", "case", "study", "analysis", "which", "cover", "issues", "of", "IS", "strategy", ",", "development", ",", "implementation", "and", "evaluation", "in", "three", "different", "organisations", ".", "Walsham", "and", "Sahay", "-LSB-", "1996", "-RSB-", "use", "structuration", "theory", ",", "with", "actor-network", "theory", ",", "to", "investigate", "problems", "in", "developing", "Geographical", "Information", "Systems", "in", "an", "Indian", "government", "department", ".", "In", "a", "similar", "manner", "this", "paper", ",", "from", "a", "critical", "social", "perspective", ",", "uses", "structuration", "theory", "to", "highlight", "two", "key", "aspects", "of", "existing", "structure", "which", "were", "addressed", "in", "and", "affected", "the", "process", "of", "designing", "the", "IS", ".", "The", "meaning", "of", "a", "critical", "social", "perspective", "is", "provided", "in", "the", "next", "section", "before", "section", "4", "decribes", "the", "key", "structural", "aspects", "of", "the", "case", "study", ".", "Critical", "social", "researchers", "by", "their", "very", "presence", "influence", "and", "are", "influenced", "by", "the", "social", "and", "technological", "systems", "they", "are", "studying", ".", "`", "For", "critical", "social", "theorists", ",", "the", "responsibility", "of", "a", "researcher", "in", "a", "social", "situation", "does", "not", "end", "with", "the", "development", "of", "sound", "explanations", "and", "understandings", "of", "it", ",", "but", "must", "extend", "to", "a", "critique", "of", "unjust", "and", "inequitable", "conditions", "of", "the", "situation", "from", "which", "people", "require", "emancipation", "'", "-LSB-", "Ngwenyama", "and", "Lee", "1997", "-RSB-", "p151", ".", "Critical", "social", "theorists", "seek", "to", "emancipate", "people", ";", "they", "are", "concerned", "with", "finding", "alternatives", "to", "existing", "social", "conditions", "as", "well", "as", "challenging", "taken-for-granted", "conditions", ".", "Critical", "social", "theorists", "view", "people", ",", "not", "as", "passive", "receptacles", "of", "whatever", "data", "or", "information", "that", "is", "transported", "to", "them", ",", "but", "as", "intelligent", "actors", "who", "assess", "the", "truthfulness", ",", "completeness", ",", "sincerity", ",", "and", "contextuality", "of", "the", "messages", "they", "receive", ".", "Adopting", "a", "critical", "social", "theoretical", "perspective", "to", "IS", "design", "is", "not", "new", ".", "In", "relation", "to", "IS", "research", "Ngwenyama", "-LSB-", "1991", "-RSB-", "gives", "an", "in-depth", "treatment", "of", "critical", "social", "theory", ".", "Ngwenyama", "and", "Lee", "-LSB-", "1997", "-RSB-", "approach", "research", "on", "communication", "richness", "in", "computer", "mediated", "communication", "from", "a", "critical", "social", "theoretical", "perspective", ".", "Hirschheim", "and", "Klein", "-LSB-", "1994", "-RSB-", "deal", "with", "a", "critical", "approach", "to", "qualitative", "research", ".", "Habermas", "-LSB-", "1987", "-RSB-", "suggests", "that", "critical", "social", "theorists", "should", "initiate", "a", "process", "of", "self-reflection", "among", "human", "actors", ",", "but", "it", "is", "only", "participants", "in", "the", "community", "that", "can", "select", "the", "appropriate", "political", "action", ".", "His", "theory", "of", "communicative", "action", "notes", "that", "all", "social", "action", "assumes", "a", "basic", "set", "of", "norms", ".", "These", "norms", "allow", "all", "actors", "to", "express", "themselves", "fully", "and", "openly", ".", "They", "also", "imply", "that", "all", "actors", "accept", "the", "outcome", "of", "open", "rational", "argument", ".", "According", "to", "the", "theory", "of", "communicative", "action", ",", "breakdowns", "in", "communication", "occurs", "when", "actors", "fail", "to", "adhere", "to", "these", "norms", ".", "There", "have", "been", "numerous", "studies", "which", "refer", "in", "particular", "to", "the", "theory", "of", "Habermas", ".", "Lyytinen", "-LSB-", "1992", "-RSB-", "has", "explored", "the", "theory", "of", "Habermas", "to", "analyse", "systems", "development", ".", "Hirschheim", "et", "al.", "-LSB-", "1996", "-RSB-", "using", "Habermas", "'", "theory", "of", "communicative", "action", "propose", "a", "framework", "for", "the", "intellectual", "trends", "in", "IS", "development", "research", ".", "In", "this", "study", "Habermas", "'", "theory", "of", "communicative", "action", "and", "the", "notion", "of", "`", "the", "ideal", "speech", "situation", "'", "is", "used", "to", "explore", "how", "effective", "striving", "for", "its", "attainment", "is", "as", "a", "transformation", "strategy", ".", "My", "study", "uses", "aspects", "of", "critical", "social", "theory", "to", "examine", "how", "community", "action", "can", "be", "strengthened", "or", "changed", "by", "exploring", "the", "structures", "which", "enable", "or", "constrain", "that", "action", ".", "Communication", ",", "power", "and", "norms", "are", "key", "in", "trying", "to", "grasp", "an", "understanding", "of", "that", "action", ".", "Fundamental", "to", "this", "exploration", "is", "the", "belief", "that", "as", "intelligent", "and", "knowledgeable", "agents", ",", "human", "actors", "can", ",", "within", "limits", ",", "choose", "to", "act", "in", "accordance", "with", "or", "against", "societal", "norms", ".", "The", "existing", "district", "health", "information", "system", "in", "South", "Africa", "excludes", "children", "and", "adults", "that", "can", "not", ",", "and/or", "do", "not", ",", "access", "the", "services", "at", "the", "health", "facilities", "-LRB-", "clinics", ",", "community", "centres", ",", "mobiles", "and", "hospitals", "-RRB-", ".", "Those", "who", "are", "most", "vulnerable", "and", "socially", "excluded", ",", "and", "need", "the", "health", "support", "systems", "the", "greatest", ",", "are", "the", "very", "ones", "not", "accessing", "the", "health", "services", ".", "Policies", "are", "formed", "and", "resources", "allocated", "to", "the", "community", "based", "on", "the", "information", "they", "recieve", ".", "Since", "the", "vulnerable", "are", "excluded", "from", "the", "formal", "IS", "they", "are", "further", "and", "systematically", "excluded", "from", "these", "policy", "and", "resource", "decisions", ".", "With", "the", "impact", "of", "HIV/AIDS", "children", "have", "increasingly", "become", "an", "excluded", "and", "more", "vulnerable", "group", ".", "This", "exclusion", "and", "vulnerability", "of", "children", "can", "be", "tackled", "on", "two", "interconnected", "levels", ".", "The", "first", "is", "through", "the", "creation", "of", "awareness", "of", "the", "situation", "of", "children", "and", "the", "second", "through", "the", "commitment", "and", "action", "of", "government", "and", "society", "to", "address", "this", "situation", ".", "The", "first", "can", "be", "supported", "by", "designing", "an", "information", "system", "Proceedings", "of", "SAICSIT", "2003", "86", "Elaine", "Byrne", "for", "action", "-", "an", "information", "system", "that", "can", "be", "used", "for", "advocating", "and", "influencing", "decisions", "and", "policies", "for", "the", "rights", "of", "these", "children", ".", "So", "IS", "design", "can", "be", "used", "as", "a", "developmental", "tool", ".", "Since", "protecting", "and", "improving", "the", "health", "of", "the", "children", "of", "the", "entire", "district", "is", "the", "aim", "of", "the", "district", "health", "system", ",", "research", "was", "conducted", "on", "how", "to", "develop", "a", "community-based", "health", "information", "system", "that", "could", "support", "a", "comprehensive", "district", "health", "information", "system", ".", "The", "research", "was", "conducted", "in", "Okhahlamba", "as", "a", "component", "of", "the", "child", "health", "programme", "of", "the", "uThukela", "district", "child", "survival", "project", "and", "the", "department", "of", "health", ".", "Okhahlamba", "is", "a", "municipality", "of", "the", "uThukela", "district", "lying", "in", "KwaZulu", "Natal", "on", "the", "eastern", "coast", "of", "South", "Africa", ".", "The", "primary", "objective", "of", "developing", "a", "community-based", "information", "system", "is", "to", "assist", "community", "members", "in", "their", "decision-making", "regarding", "the", "health", "of", "their", "children", ".", "On", "a", "secondary", "level", "it", "aims", "to", "establish", "interfaces", "with", "the", "formal", "health", "facility", "information", "system", "to", "enable", "district", "managers", "to", "use", "information", "from", "the", "whole", "district", "to", "make", "informed", "decisions", "and", "policy", "changes", ".", "After", "a", "review", "of", "the", "district", "'s", "health", "information", "system", "and", "a", "community", "meeting", "on", "monitoring", "and", "evaluation", "community", "members", ",", "as", "well", "as", "district", "government", "staff", ",", "recognised", "their", "need", "for", "a", "community-based", "child", "health", "information", "system", ".", "To", "understand", "what", "the", "information", "needs", "were", ",", "who", "should", "be", "involved", "in", "the", "information", "system", "and", "the", "format", "the", "information", "should", "be", "communicated", "in", "a", "total", "of", "10", "interviews", ",", "16", "focus", "group", "discussions", "and", "1", "meeting", "took", "place", "between", "July", "and", "September", "2002", ".", "From", "the", "field", "work", "there", "was", "a", "greater", "understanding", "around", "the", "meaning", "of", "`", "well-being", "'", "and", "`", "at-risk", "'", "for", "a", "child", ",", "what", "factors/practices", "contribute", "to", "these", "situations", ",", "how", "the", "situations", "can", "be", "measured", "and", ",", "based", "on", "what", "action", "can", "be", "taken", ",", "who", "the", "information", "should", "go", "to", ".", "Consequently", "a", "community-based", "child", "health", "information", "system", "has", "been", "integrated", "into", "the", "district", "health", "information", "system", ".", "In", "this", "section", "two", "key", "aspects", "of", "structures", "which", "address", ",", "or", "have", "contributed", "to", ",", "the", "exclusion", "of", "children", "are", "outlined", ",", "namely", "restructuring", "of", "health", "services", "and", "status", "of", "child", "health", ",", "and", "social", "traditions", ".", "The", "first", "aspect", "provided", "an", "opportunity", "for", "change", "and", "reflection", "on", "the", "current", "role", "and", "function", "of", "the", "IS", "whilst", "also", "providing", "an", "understanding", "of", "the", "exclusion", "of", "segments", "of", "the", "population", ".", "The", "second", "aspect", "again", "provides", "an", "understanding", "of", "the", "position", "of", "women", "and", "children", "in", "society", "which", "impacts", "on", "IS", "design", "as", "well", "as", "presents", "some", "challenges", "in", "the", "design", "process", ".", "-LSB-", "For", "more", "details", "of", "the", "child", "health", "programme", "and", "the", "research", "see", "-LSB-", "uThukela", "District", "Child", "Survival", "Project", "2002", ";", "2000a", ";", "2000b", ";", "1999a", "-RSB-", "-RSB-", "4.1", "Restructuring", "of", "health", "services", "and", "status", "of", "child", "health", "After", "1994", "the", "national", "Health", "Plan", "for", "South", "Africa", "and", "the", "Reconstruction", "and", "Development", "Programme", "outlined", "that", "a", "Primary", "Health", "Care", "-LRB-", "PHC", "-RRB-", "approach", "is", "the", "underlying", "philosophy", "for", "the", "restructuring", "of", "the", "health", "system", ".", "Crucial", "to", "this", "is", "the", "role", "of", "the", "community", "in", "the", "development", "of", "a", "district", "health", "system", "emphasising", "the", "movement", "from", "a", "traditionally", "vertical", "curative", "based", "health", "system", "to", "a", "newer", "client", "centred", "and", "preventive", "based", "health", "system", ".", "In", "addition", ",", "more", "recently", ",", "there", "has", "been", "the", "move", "towards", "the", "decentralisation", "of", "health", "service", "delivery", "-LRB-", "along", "with", "other", "basic", "social", "services", "-RRB-", "to", "local", "authorities", "from", "the", "department", "of", "health", ".", "The", "newly", "established", "structures", ",", "such", "as", "the", "community", "health", "committees", "and", "community", "health", "forums", ",", "have", "meant", "a", "renegotiation", "of", "roles", "and", "responsibilities", "at", "the", "district", "level", ".", "This", "requires", "active", "communication", "between", "the", "parties", "involved", "to", "ensure", "consent", "on", "the", "new", "roles", "and", "responsibilities", "of", "all", "local", "government", "staff", "-LSB-", "uThukela", "District", "Child", "Survival", "Project", "2000b", ";", "2000a", "-RSB-", ".", "Since", "1994", "children", "have", "benefited", "from", "the", "move", "to", "PHC", ".", "However", "the", "free", "health", "care", "policy", "is", "not", "without", "its", "fair", "share", "of", "problems", ".", "Due", "to", "the", "emphasis", "on", "PHC", ",", "there", "has", "been", "a", "30", "%", "increase", "in", "clinic", "attendance", "and", "a", "2", "%", "increase", "in", "hospital", "attendance", "in", "the", "province", "of", "KwaZulu-Natal", ".", "The", "additional", "drugs", "and", "personnel", "needed", "for", "the", "increased", "attendance", "at", "the", "clinics", "was", "not", "budgeted", "correctly", ".", "As", "a", "result", "the", "quality", "of", "services", "in", "terms", "of", "shortages", "of", "personnel", "and", "drugs", "has", "been", "compromised", "as", "well", "as", "putting", "severe", "strain", "on", "the", "budget", ".", "Clinics", "in", "particular", "have", "struggled", "to", "accommodate", "the", "increased", "number", "of", "clients", ".", "Clients", "also", "complain", "that", "hospital-based", "health", "workers", "are", "often", "unsympathetic", "to", "their", "needs", ".", "-LSB-", "uThukela", "District", "Child", "Survival", "Project", "1999b", "-RSB-", "Poorer", "children", "living", "in", "rural", "areas", "have", "poorer", "access", "to", "PHC", "facilities", "than", "children", "living", "in", "the", "wealthier", "more", "urbanised", "areas", ".", "They", "have", "greater", "distances", "to", "walk", "and", "fewer", "health", "personnel", "to", "cater", "for", "them", ".", "KwaZulu-Natal", "is", "one", "of", "two", "provinces", "with", "especially", "poor", "client-to-clinic", "ratios", "-LRB-", "23,000", "clients", "per", "clinic", "-RRB-", "and", "in", "1995", "only", "54.3", "%", "of", "households", "in", "KwaZulu-Natal", "were", "within", "5", "kms", "of", "medical", "care", ",", "the", "second", "lowest", "in", "the", "country", ".", "-LSB-", "Crisp", "and", "Ntuli", "1999", "-RSB-", "Child", "health", "indicators", "point", "to", "the", "lingering", "effects", "of", "apartheid", "'s", "racial", ",", "geographic", "and", "socio-economic", "policies", ".", "Just", "over", "half", "of", "all", "children", "aged", "12-23", "months", "in", "KwaZulu-Natal", "are", "not", "immunised", ",", "though", "62.2", "%", "have", "their", "road", "to", "health", "cards", ".", "This", "indicates", "at", "least", "one", "contact", "with", "the", "health", "services", ",", "but", "this", "contact", "was", "not", "sustained", "as", "the", "immunisation", "schedule", "has", "not", "been", "completed", ".", "The", "infant", "mortality", "rate", "for", "KwaZulu-Natal", "has", "been", "estimated", "at", "52.1", "/", "1000", "and", "the", "under-five", "mortality", "rate", "at", "74.5", "/", "1000", ".", "-LSB-", "Crisp", "and", "Ntuli", "1999", "-RSB-", "Proceedings", "of", "SAICSIT", "2003", "Development", "through", "communicative", "action", "and", "information", "system", "design", "87", "This", "situation", "is", "exacerbated", "by", "disparities", "in", "access", "to", "basic", "infrastructure", ".", "Access", "to", "potable", "-LRB-", "drinkable", "-RRB-", "water", "and", "sanitation", "are", "often", "critical", "to", "improving", "child", "health", "outcomes", ".", "The", "government", "has", "however", "committed", "itself", "to", "increasing", "access", "to", "water", "and", "sanitation", ".", "In", "spite", "of", "two", "major", "dams", "and", "several", "springs", "in", "the", "area", ",", "a", "serious", "shortage", "of", "water", "for", "agriculture", "and", "clean", "drinking", "water", "has", "impacted", "nearly", "every", "household", ",", "and", "influenced", "the", "health", "status", "of", "the", "area", ".", "The", "cholera", "epidemic", "in", "2001", "is", "evident", "of", "this", "poor", "access", ".", "A", "situational", "analysis", "for", "the", "Okhahlamba", "municipality", "completed", "in", "July", "1998", "estimates", "that", "only", "25", "%", "of", "the", "population", "live", "within", "15", "minutes", "walking", "distance", "of", "safe", "water", ",", "and", "only", "25", "%", "have", "adequate", "sanitary", "facilities", ".", "Transport", "remains", "poor", ",", "particularly", "during", "rains", "when", "rivers", "become", "impassable", ".", "-LSB-", "uThukela", "District", "Child", "Survival", "Project", "1999b", "-RSB-", "4.2", "Social", "traditions", "Strong", "Zulu", "cultural", "and", "traditional", "values", "exist", "in", "the", "Okhahlamba", "municipality", ".", "Traditional", "leaders", "are", "highly", "respected", ",", "though", "there", "is", "some", "controversy", "over", "the", "roles", "and", "powers", "being", "eroded", "with", "the", "formation", "of", "the", "new", "local", "government", "structures", ".", "Grandmothers", "and", "traditional", "healers", "are", "often", "the", "first", "persons", "to", "be", "consulted", "in", "times", "of", "illness", "and", "many", "locally", "available", "remedies", "and", "treatments", "are", "used", "and", "practiced", ".", "Grandmothers", "can", "have", "quite", "a", "powerful", "decision-making", "influence", "at", "household", "level", ".", "However", ",", "women", "in", "general", "tend", "to", "be", "dependent", "on", "males", "for", "income", "and", "have", "very", "little", "access", "to", "independent", "means", "of", "livelihood", ".", "Household", "responsibilities", "also", "make", "women", "subject", "to", "`", "time", "poverty", "'", "that", "is", ",", "it", "is", "not", "uncommon", "for", "most", "women", "in", "this", "rural", "area", "to", "work", "ten", "hours", "a", "day", ",", "making", "it", "a", "hardship", "to", "travel", "to", "seek", "health", "care", "for", "themselves", "or", "their", "children", ".", "Much", "of", "each", "day", "involves", "several", "hours", "of", "strenuous", "manual", "labour", ",", "hauling", "water", "and", "firewood", ",", "and", "performing", "agricultural", "work", ".", "Women", ",", "including", "mothers", ",", "grandmothers", "and", "older", "`", "girl", "children", "'", ",", "are", "predominantly", "responsible", "for", "childcare", "-LSB-", "uThukela", "District", "Child", "Survival", "Project", "1999b", "-RSB-", ".", "However", "if", "the", "health-seeking", "or", "care", "decision", "involves", "any", "financial", "decisions", "the", "head", "of", "the", "household", ",", "which", "is", "usually", "a", "man", ",", "will", "need", "to", "be", "consulted", "in", "order", "to", "make", "the", "final", "decision", ".", "This", "process", "often", "causes", "a", "delay", "in", "a", "child", "attending", "a", "clinic", "as", "money", "for", "transport", "and", "alternative", "child", "care", "for", "the", "siblings", "would", "need", "to", "be", "sourced", ".", "Through", "the", "existing", "patriarchal", "social", "system", "women", "are", "particularly", "at", "risk", "from", "HIV/AIDS", ".", "These", "factors", "include", ":", "sexual", "subservience", "to", "men", ",", "higher", "risk", "of", "transmission", "with", "the", "migrant", "labour", "of", "partners", "to", "cities", ";", "differential", "access", "to", "information", "and", "resources", "for", "prevention", ",", "and", ";", "women", "often", "remain", "with", "spouses", "who", "are", "HIV", "positive", "rather", "than", "vice-versa", ".", "Women", "in", "their", "twenties", "have", "the", "highest", "rate", "of", "HIV", "infection", "nationally", ",", "but", "between", "1997", "and", "1998", "the", "HIV", "prevalence", "among", "teens", "attending", "antenatal", "clinics", "jumped", "over", "65", "%", ",", "from", "12.7", "%", "to", "21", "%", ".", "With", "high", "teenage", "fertility", "rates", "this", "picture", "is", "unlikely", "to", "change", "in", "the", "near", "future", ".", "In", "1998", ",", "the", "provincial", "fertility", "rate", "was", "3.3", "%", ",", "and", "the", "provincial", "teenage", "pregnancy", "rate", "was", "13.8", "%", ".", "In", "Okhahlamba", "/", "Mtshezi", "municipalities", "the", "average", "teenage", "pregnancy", "rate", "for", "young", "women", "delivering", "in", "facilities", "in", "1999", "was", "22.9", "%", ",", "significantly", "higher", "than", "the", "provincial", "rate", "-LSB-", "uThukela", "District", "Child", "Survival", "Project", "1999b", "-RSB-", ".", "Children", "are", "particularly", "susceptible", "to", "the", "ravages", "of", "the", "HIV/AIDS", "epidemic", "through", "high", "rates", "of", "mother", "to", "child", "transmission", "and", "an", "increasing", "number", "of", "AIDS", "orphans", "and", "consequent", "child", "headed", "households", ".", "One", "of", "the", "fundamental", "steps", "that", "needed", "to", "be", "addressed", "before", "addressing", "the", "situation", "of", "children", ",", "and", "how", "this", "was", "reflected", "in", "information", "systems", ",", "was", "a", "paradigm", "shift", ".", "It", "required", "a", "shift", "from", "the", "older", "focus", "on", "curative", "centre", "based", "service", "delivery", "to", "the", "newer", "health", "services", "approach", "which", "focuses", "on", "prevention", ",", "clients", "and", "quality", ".", "To", "support", "this", "paradigm", "shift", "the", "project", "adapted", "a", "new", "approach", "of", "transformational", "thinking", ",", "or", "future", "focussed", "approach", ",", "developed", "in", "the", "business", "sector", ",", "but", "which", "is", "also", "being", "integrated", "in", "health", "systems", ".", "The", "approach", "focuses", "on", "working", "towards", "holistic", "well-being", "for", "all", ",", "rather", "than", "just", "solving", "health", "associated", "problems", ".", "Through", "community", "meetings", "and", "discussions", "the", "community", "determined", "a", "vision", "for", "their", "children", ":", "`", "To", "achieve", "optimal", "health", ",", "growth", ",", "development", "and", "well-being", "of", "children", "within", "the", "family", "and", "community", "in", "the", "uThukela", "Health", "district", "'", ".", "The", "implications", "of", "the", "paradigm", "shift", "for", "IS", "was", "that", "though", "it", "was", "important", "to", "measure", "children", "'s", "physical", "condition", ",", "it", "was", "also", "important", "to", "measure", "how", "far", "towards", "our", "vision", "we", "are", ".", "So", "instead", "of", "saying", "80", "%", "of", "our", "children", "are", "immunised", ",", "we", "would", "say", "that", "we", "still", "need", "to", "immunise", "20", "%", "of", "our", "children", ".", "This", "approach", "reflects", "what", "we", "still", "need", "to", "do", "to", "attain", "our", "vision", "and", "thus", ",", "hopefully", ",", "stimulate", "action", ".", "Adopting", "a", "forward", "looking", "perspective", "also", "stresses", "the", "importance", "of", "the", "context", "we", "are", "presently", "in", "and", "the", "importance", "of", "measuring", "changes", "in", "that", "context", ".", "Monitoring", "the", "context", "and", "acting", "based", "on", "that", "information", ",", "should", "lead", "to", "a", "situation", "where", "most", "children", "in", "the", "future", "would", "find", "themselves", "in", "a", "state", "of", "`", "well-being", "'", ".", "Proceedings", "of", "SAICSIT", "2003", "88", "Elaine", "Byrne", "5.2", "Sharing", "of", "information", "with", "key", "actors", "If", "people", "are", "to", "act", "or", "reflect", "on", "information", "received", "that", "information", "needs", "to", "be", "relevant", "and", "communicated", "in", "a", "culturally", "sensitive", "and", "appropriate", "manner", ".", "In", "terms", "of", "a", "community-based", "information", "system", "for", "children", "an", "important", "step", "in", "the", "process", "of", "the", "IS", "design", "was", "who", "should", "participate", "in", "the", "process", ".", "The", "main", "role", "players", "and", "duty", "bearers", "1", "need", "to", "be", "included", "as", "it", "is", "them", "who", "are", "in", "the", "best", "position", "to", "change", "or", "influence", "the", "context", "in", "which", "the", "child", "is", "placed", ".", "In", "the", "case", "study", "these", "key", "people", "were", ":", "the", "community", "health", "workers", ",", "parents", ",", "family", "members", ",", "early", "childhood", "and", "creche", "teachers", ",", "home", "based", "carers", ",", "caretakers", ",", "social", "workers", ",", "health", "facility", "staff", ",", "clinic", "health", "committees", ",", "councillors", ",", "government", "officials", "and", "staff", "from", "external", "organisations", ".", "This", "indicates", "that", "a", "multi-leveled", "and", "multi-sectoral", "group", "affects", "the", "situation", "of", "children", "at", "community", "level", ".", "What", "was", "also", "important", "was", "a", "common", "understanding", "by", "all", "parties", "on", "what", "was", "meant", "by", "`", "well-being", "'", "and", "`", "at-risk", "'", "as", "the", "monitoring", "of", "these", "situations", "and", "conditions", "would", "be", "important", "if", "we", "were", "to", "measure", "whether", "we", "were", "on", "the", "right", "track", "to", "attaining", "our", "vision", ".", "Meanings", "of", "`", "well-being", "'", "and", "`", "at-risk", "'", "were", "gathered", "through", "focus-group", "discussions", ",", "interviews", "and", "meetings", "with", "all", "the", "role", "players", "and", "duty", "bearers", ".", "This", "common", "understanding", "was", "translated", "into", "common", "data", "definitions", "in", "the", "community-based", ",", "as", "well", "as", "in", "the", "health", "facility", ",", "information", "system", ".", "A", "review", "of", "the", "existing", "data", "sources", "and", "flows", "was", "conducted", "based", "on", "the", "assumption", "that", "information", "flows", "are", "a", "key", "element", "of", "dialogue", "between", "providers", "and", "consumers", "of", "health", "services", ".", "One", "important", "conclusion", "from", "this", "review", "was", "that", "some", "of", "the", "data", "collected", "through", "the", "current", "district", "health", "information", "system", "is", "valid", "and", "useful", ",", "but", "is", "not", "getting", "to", "the", "people", "who", "can", "act", "upon", "or", "use", "it", ".", "As", "one", "project", "leader", "mentioned", "we", "need", "to", "look", "at", "how", "data", "is", "flowing", "and", "the", "possibility", "of", "establishing", "`", "feedback", "pathways", "'", "for", "this", "data", ".", "There", "are", "many", "of", "these", "pathways", "at", "different", "levels", ",", "but", "the", "one", "between", "community", "based", "workers", "and", "community", "forums", "is", "core", "for", "a", "community-based", "health", "information", "system", ".", "This", "level", "of", "feedback", "was", "entirely", "absent", "from", "the", "district", "health", "information", "system", "in", "Okhahlamba", ".", "It", "is", "also", "interesting", "to", "note", "what", "was", "absent", "from", "existing", "data", "sets", ",", "yet", "what", "key", "role", "players", "and", "duty", "bearers", "felt", "were", "important", "in", "monitoring", "the", "situation", "of", "their", "children", ".", "Data", "items", "relating", "to", "the", "context", "in", "which", "a", "child", "is", "being", "reared", "are", "mostly", "excluded", ".", "Many", "of", "the", "current", "indicators", "focus", "on", "the", "condition", "the", "child", "is", "currently", "in", ",", "such", "as", "having", "immunisation", "or", "not", ",", "and", "not", "the", "context", "that", "caused", "the", "child", "to", "be", "in", "that", "situation", ",", "such", "as", "no", "caregiver", "to", "take", "the", "child", "to", "the", "clinic", ".", "But", "exclusion", "is", "a", "process", "and", "to", "prevent", "the", "child", "becoming", "excluded", "requires", "analysing", "the", "situation", "of", "the", "child", "throughout", "that", "process", ".", "Measures", "for", "context", ",", "such", "as", "happiness", ",", "playfulness", "and", "communication", "are", "more", "intangible", "and", "therefore", "difficult", "to", "develop", "as", "data", "items", ".", "However", "through", "the", "new", "observation", "tools", "developed", "by", "and", "for", "the", "community", "health", "worker", "these", "measures", "are", "now", "included", ".", "So", "data", "items", "on", "the", "presence", "of", "a", "caregiver", ",", "drug", "and", "alcohol", "abuse", ",", "cleanliness", "of", "the", "household", "for", "example", ",", "are", "now", "included", "as", "indicators", "of", "`", "at-risk", "'", ".", "This", "observation", "tool", "is", "used", "as", "part", "of", "the", "dialogue", "between", "the", "health", "worker", ",", "who", "is", "a", "trusted", "and", "respected", "family", "advisor", ",", "and", "the", "household", ".", "The", "results", "from", "the", "aggregated", "monthly", "data", "is", "shared", "through", "role", "play", ",", "song", ",", "dance", ",", "drawings", "and", "histograms", "in", "the", "community", "quarterly", "meetings", ".", "The", "act", "of", "sharing", "information", "establishes", "networks", "of", "people", "at", "community", "level", "who", "are", "responsible", "for", "the", "care", "of", "the", "children", ".", "These", "networks", "form", "the", "basis", "for", "communication", ".", "5.3", "The", "communication", "loop", "In", "terms", "of", "capacity", "to", "act", ",", "or", "to", "make", "decisions", ",", "most", "respondents", ",", "in", "the", "research", "undertaken", ",", "felt", "that", "they", "could", "act", "if", "given", "appropriate", "information", "and", "if", "key", "role", "players", "were", "included", "in", "the", "communication", "loop", "with", "one", "another", ".", "The", "visioning", "exercise", "started", "a", "communication", "process", ",", "but", "this", "needed", "to", "be", "developed", "into", "more", "formal", "communication", "structures", ".", "Communication", "was", "needed", "with", "other", "levels", "of", "government", ".", "Building", "on", "the", "recent", "development", "of", "clinic", "health", "committees", "and", "the", "governments", "'", "appointment", "of", "the", "community", "health", "workers", "in", "the", "KwaZulu-Natal", "province", ",", "communication", "loops", "were", "developed", ".", "These", "loops", "are", "described", "below", "at", "three", "levels", ":", "household", ",", "community", ",", "and", "district", ".", "--", "Household", "level", ":", "Following", "on", "from", "a", "discussion", "on", "how", "to", "measure", "the", "more", "intangible", "measures", "a", "standardised", "observation", "checklist", "was", "developed", ".", "The", "checklist", "is", "used", "as", "a", "communication", "tool", "with", "household", "members", ".", "Based", "on", "the", "community", "health", "worker", "'s", "assessment", "a", "number", "of", "choices", "or", "options", "to", "solve", "any", "of", "the", "problems", "identified", "is", "given", "to", "the", "household", ".", "The", "community", "health", "worker", "could", "facilitate", "the", "choices", ",", "such", "as", "contact", "with", "certain", "services", ",", "if", "requested", "to", "do", "so", ",", "but", "the", "final", "decision", "lies", "with", "the", "household", ".", "The", "assessment", "is", "used", "as", "an", "empowering", "tool", ",", "rather", "than", "as", "a", "means", "of", "inspection", ".", "These", "visits", "assist", "the", "child", "caregivers", "in", "1", "Role", "players", "have", "a", "role", "to", "play", "in", "children", "'s", "lifes", ",", "but", "duty", "bearers", "are", "those", "people", "who", "are", "responsible", "and", "obligated", "to", "fulfill", "childrens", "'", "rights", "Proceedings", "of", "SAICSIT", "2003", "Development", "through", "communicative", "action", "and", "information", "system", "design", "89", "terms", "of", "their", "knowledge", "of", "child", "care", "and", "health", "seeking", "behaviour", "within", "their", "household", ".", "The", "visits", "also", "provide", "the", "mother", "or", "caregiver", "with", "a", "mediator", "between", "them", "and", "health", "facilities", "as", "well", "as", "a", "mediator", "between", "them", "and", "their", "family", ".", "Therefore", "issues", "of", "access", "to", "basic", "social", "services", "could", "be", "addressed", ".", "--", "Community", "level", ":", "The", "community", "health", "workers", ",", "with", "the", "assistance", "of", "their", "supervisors", "-LRB-", "community", "health", "facilitators", "-RRB-", ",", "conduct", "village", "health", "days", "for", "discussion", "of", "broader", "issues", "affecting", "the", "community", "served", "by", "the", "clinic", ".", "Bar", "graphs", ",", "role-plays", ",", "song", ",", "poetry", "and", "dance", "are", "used", "as", "these", "methods", "seem", "to", "work", "very", "well", ".", "These", "meetings", "form", "the", "quarterly", "community", "health", "meetings", ",", "that", "were", "suggested", "in", "the", "course", "of", "the", "field", "work", ".", "Members", "of", "the", "community", "and", "the", "clinic", "health", "committee", ",", "health", "facility", "staff", ",", "community", "health", "worker", ",", "school", "children", "and", "other", "key", "people", "attend", "the", "meetings", ".", "More", "people", "have", "now", "access", "to", "the", "information", "they", "requested", "and", "in", "a", "format", "that", "is", "easy", "to", "understand", ".", "The", "village", "health", "days", "also", "provide", "a", "forum", "for", "reflection", "and", "discussion", ".", "--", "District", "level", ":", "Communication", "and", "information", "flows", "between", "community", "and", "district", "involves", "combining", "data", "from", "various", "sources", "to", "provide", "a", "comprehensive", "database", "for", "the", "district", ".", "Important", "for", "the", "collation", "of", "this", "data", "is", "the", "use", "of", "the", "same", "data", "definitions", "in", "the", "different", "data", "sources", ".", "This", "collation", "is", "done", "through", "the", "district", "information", "officer", "as", "her", "office", "already", "receives", "this", "data", "from", "the", "different", "sectors", ".", "A", "summary", "of", "the", "district", "data", "is", "distributed", "every", "quarter", ".", "The", "content", "of", "the", "summary", "sheet", "is", "regularly", "determined", "in", "consultation", "with", "the", "clinic", "health", "committees", "and", "through", "feedback", "on", "the", "village", "health", "days", ".", "Existing", "local", "government", "structures", ",", "community", "and", "clinic", "committees", ",", "have", "already", "established", "clear", "communication", "channels", "with", "higher", "levels", "of", "local", "government", ".", "The", "feedback", "from", "these", "meetings", "would", "be", "sent", "through", "these", "structures", "when", "needed", ".", "Thus", "a", "comprehensive", "picture", "of", "child", "health", "in", "the", "district", "is", "achieved", ".", "In", "summary", ",", "with", "the", "restructuring", "of", "the", "health", "services", "there", "was", "the", "need", "for", "a", "paradigm", "shift", ",", "before", "addressing", "the", "review", "and", "design", "of", "a", "community-based", "child", "health", "information", "system", ".", "This", "shift", "was", "from", "the", "older", "more", "curative", "health", "service", "approach", "to", "the", "newer", "client", "and", "service", "focused", "approach", "of", "primary", "health", "care", ".", "With", "the", "newly", "established", "local", "clinic", "and", "community", "health", "committees", "this", "offered", "an", "opportunity", "of", "new", "people", "coming", "into", "the", "health", "services", "with", "a", "new", "vision", "and", "who", "were", "also", "willing", "to", "be", "involved", "in", "the", "IS", "design", "process", ".", "Furthermore", "the", "newly", "formed", "local", "government", "structures", "have", "established", "clear", "communication", "channels", "with", "higher", "levels", "of", "local", "government", ".", "The", "feedback", "from", "quarterly", "community", "health", "meetings", "could", "be", "sent", "through", "these", "channels", "and", "forms", "part", "of", "the", "health", "information", "flow", "and", "communication", "loop", ".", "Challenges", "around", "the", "position", "of", "women", "in", "society", "impacted", "on", "decisions", "regarding", "participation", ".", "However", "as", "women", "are", "the", "main", "carers", "of", "children", "they", "were", "involved", "in", "the", "process", "without", "any", "question", ".", "Furthermore", "as", "some", "of", "the", "key", "positions", "in", "the", "community", "are", "occupied", "by", "men", "it", "was", "also", "felt", "that", "they", "needed", "to", "participate", "in", "the", "design", "process", "as", "their", "positions", "were", "influential", "in", "terms", "of", "the", "situation", "of", "children", "in", "the", "community", ".", "The", "dialogue", "initiated", "in", "the", "design", "process", "continues", "through", "the", "community", "health", "quarterly", "meetings", "which", "provide", "an", "opportunity", "for", "dialogue", "to", "take", "place", "at", "community", "level", ".", "At", "the", "household", "level", "the", "community", "health", "workers", "role", "is", "to", "empower", "the", "household", "in", "its", "health", "seeking", "and", "caring", "practices", ".", "This", "is", "done", "through", "household", "visits", "and", "providing", "the", "appropriate", "education", "at", "the", "appropriate", "time", ",", "for", "example", "if", "a", "child", "has", "diarrhoea", "the", "conversation", "would", "be", "around", "what", "to", "do", "for", "the", "child", "with", "diarhoea", ".", "The", "community", "health", "worker", "also", "plays", "the", "role", "of", "mediator", "-", "mediator", "between", "households", "and", "the", "community", "forum", "and", "also", "between", "the", "caregiver", "and", "the", "rest", "of", "the", "family", ".", "Through", "the", "supportive", "role", "of", "the", "community", "health", "worker", "the", "position", "of", "women", "and", "children", "will", "not", "change", "in", "society", ",", "but", "their", "views", "on", "health", "and", "the", "care", "of", "children", "will", "be", "supported", "and", "heard", ".", "The", "process", "of", "IS", "design", "in", "the", "case", "study", "supported", "and", "questioned", "two", "key", "aspects", "of", "structure", ",", "namely", "the", "restructuring", "of", "health", "services", "and", "the", "status", "of", "child", "health", "and", "social", "traditions", "and", "their", "implications", "on", "the", "process", "of", "the", "design", ".", "The", "next", "section", "explores", "what", "implications", "the", "use", "of", "such", "an", "approach", "has", "for", "IS", "design", ".", "The", "implications", "for", "IS", "design", "have", "been", "categorised", "into", "three", "main", "areas", ":", "the", "need", "for", "a", "shared", "understanding", ",", "the", "need", "for", "participation", "of", "key", "people", "and", "the", "need", "for", "agreement", "on", "joint", "action", ".", "6.1", "Shared", "understanding", "If", "health", "IS", "design", "is", "to", "be", "used", "in", "a", "developmental", "context", "their", "needs", "to", "be", "agreement", "reached", "between", "health", "care", "deliverers", "and", "those", "who", "receive", "the", "services", "on", "the", "design", "and", "the", "purpose", "of", "the", "health", "service", ".", "From", "our", "case", "study", "the", "importance", "of", "having", "a", "common", "vision", "for", "the", "health", "services", "was", "seen", "as", "an", "important", "first", "step", "in", "this", "direction", ",", "especially", "given", "the", "restructuring", "of", "the", "health", "services", "and", "the", "adoption", "of", "a", "PHC", "approach", ".", "Creation", "of", "this", "vision", "and", "shared", "understanding", "necessitates", "communication", "between", "the", "designers", "of", "the", "system", ",", "the", "users", "of", "the", "IS", "as", "well", "as", "the", "users", "of", "the", "health", "system", ".", "The", "process", "of", "IS", "design", "is", "important", "for", "Proceedings", "of", "SAICSIT", "2003", "90", "Elaine", "Byrne", "establishing", "the", "relationship", "between", "the", "users", "and", "providers", "of", "health", "care", ",", "as", "reaching", "agreement", "on", "subsequent", "action", "that", "needs", "to", "take", "place", "involves", "both", "parties", "working", "together", ".", "The", "objective", "of", "communicative", "action", "is", "to", "achieve", "mutual", "understanding", ".", "In", "this", "case", "study", "mutual", "understanding", "on", "a", "vision", "for", "the", "children", ",", "how", "to", "measure", "our", "progress", "to", "this", "vision", "and", "who", "needs", "to", "be", "involved", "in", "that", "process", "was", "made", ".", "IS", "design", "should", "be", "'", "...", "concerned", "with", "achieving", "and", "maintaining", "mutual", "understanding", "...", "among", "all", "those", "who", "are", "involved", "in", "a", "coordinated", "organizational", "situation", "...", "Organizational", "actors", "involved", "in", "communicative", "action", "depend", "on", "a", "common", "language", "and", "a", "shared", "understanding", "of", "the", "organizational", "context", "in", "order", "to", "enact", "meaning", "from", "each", "other", "'s", "communicative", "actions", ".", "'", "-LSB-", "Ngwenyama", "and", "Lee", "1997", "-RSB-", "p158/9", "IS", "use", "in", "developmental", "contexts", "can", "go", "beyond", "communicative", "action", "and", "be", "an", "enabler", "of", "discursive", "action", ".", "Discursive", "action", "is", "intended", "to", "achieve", "or", "restore", "agreement", "for", "collective", "action", ".", "It", "is", "'", "oriented", "toward", "achieving", "or", "restoring", "agreement", "and", "redeeming", "validity", "claims", ".", "Discursive", "action", "is", "initiated", "when", "organizational", "actors", "need", "to", "achieve", "agreement", "for", "joint", "action", ".", "In", "such", "a", "situation", ",", "the", "individuals", "would", "generally", "engage", "each", "other", "in", "a", "debate", "of", "the", "issues", "until", "they", "agree", "on", "a", "course", "of", "action", "'", "-LSB-", "Ngwenyama", "and", "Lee", "1997", "-RSB-", "p155", ".", "However", "there", "needs", "to", "be", "a", "common", "medium", "of", "communication", ",", "agreement", "on", "roles", "and", "responsibilities", "and", "terms", "and", "conditions", "set", "for", "means", "of", "discourse", ".", "A", "common", "understanding", "was", "needed", "in", "this", "case", "on", "what", "was", "meant", "by", "`", "at-risk", "'", "and", "`", "well-being", "'", "children", "and", "how", "to", "measure", "the", "situation", "of", "the", "child", ".", "The", "process", "of", "IS", "design", "can", "create", "an", "environment", "where", "people", "can", "express", "themselves", ",", "where", "understanding", "on", "various", "roles", "can", "be", "agreed", "to", ",", "where", "responsibility", "can", "be", "taken", "and", "where", "action", "using", "available", "information", "occurs", ".", "However", "unless", "we", "explore", "and", "change", "the", "structures", "in", "which", "a", "person", "operates", ",", "e.g.", "the", "position", "of", "children", "and", "women", "in", "society", "it", "is", "difficult", "for", "an", "actor", "to", "be", "able", "to", "engage", "either", "in", "reflection", "or", "in", "discursive", "action", ".", "6.2", "Participation", "of", "key", "players", "Reaching", "a", "common", "understanding", "between", "the", "users", "and", "providers", "of", "the", "health", "services", "is", "impossible", "without", "their", "joint", "participation", ".", "Participation", "of", "the", "excluded", "increases", "transparency", "and", "opens", "officials", "and", "other", "responsible", "parties", "to", "dialogue", "and", "wider", "scrutiny", "by", "the", "citizens", "they", "serve", ".", "Underlying", "power", "differences", "between", "different", "actors", "influences", "the", "interaction", "and", "negotiation", "between", "them", "-LRB-", "both", "within", "the", "community", "and", "between", "the", "community", "and", "outside", "groups", "-RRB-", "and", "this", "can", "influence", "whose", "`", "interests", "'", "are", "explored", "and", "served", "in", "information", "systems", ".", "The", "social", "dynamics", "and", "power", "relationships", "that", "underlie", "and", "constitute", "the", "actual", "practice", "of", "the", "information", "system", "needs", "to", "be", "explicit", ".", "In", "this", "research", "the", "unequal", "nature", "of", "social", "relationships", "and", "positions", "between", "different", "actors", "and", "also", "institutions", "was", "recognised", "from", "the", "outset", ".", "Forums", "were", "established", "that", "suited", "the", "needs", "of", "the", "various", "groups", ".", "Discussions", "were", "also", "facilitated", "from", "people", "who", "were", "familiar", "with", "the", "area", "and", "who", "also", "had", "an", "understanding", "of", "the", "norms", "and", "values", "of", "that", "society", ".", "In", "the", "initial", "stages", "because", "of", "these", "differentials", "in", "status", "and", "roles", "within", "the", "community", ",", "groups", "comprising", ",", "for", "example", ",", "mothers", ",", "councillors", ",", "facility", "staff", ",", "met", "separately", "to", "discuss", "what", "they", "wanted", "for", "their", "children", ".", "These", "meetings", "were", "held", "in", "the", "local", "language", "and", "near", "the", "homes", "of", "the", "individuals", ".", "The", "community", "health", "worker", "formed", "the", "essential", "mediation", "role", "between", "the", "service", "providers", "and", "the", "clients", ".", "At", "a", "later", "stage", "representatives", "from", "the", "various", "groups", "met", "jointly", "to", "share", "the", "findings", "from", "the", "research", "and", "to", "discuss", "the", "way", "forward", ".", "Even", "with", "community", "participation", "communication", "does", "not", "always", "work", "smoothly", ",", "or", "in", "favour", "of", "children", ".", "Communication", "provides", "the", "means", "for", "exploring", ",", "affirming", "or", "denying", "norms", ",", "debating", "policies", "and", "practices", ",", "and", "discussing", "old", "experiences", "and", "new", "ideas", ".", "The", "situation", "of", "children", "will", "change", "only", "when", "action", "to", "improve", "that", "situation", "is", "taken", ".", "So", "the", "next", "step", "was", "to", "explore", "what", "will", "happen", "once", "the", "information", "has", "been", "shared", ".", "6.3", "Agreement", "on", "joint", "action", ":", "a", "multi-leveled", "and", "multi-sectoral", "approach", "Once", "the", "vision", "is", "formulated", "then", "the", "necessary", "action", "to", "attain", "that", "vision", "needs", "to", "be", "agreed", "to", ".", "Often", "this", "involves", "a", "multi-leveled", "and", "multi-sectoral", "approach", ".", "It", "also", "needs", "all", "key", "role", "players", "to", "be", "in", "communication", "with", "one", "another", ".", "It", "is", "not", "easy", "to", "challenge", "or", "change", "the", "institutions", "and", "systems", "established", "that", "support", "the", "status", "quo", ".", "In", "Okhahlamba", "the", "key", "role", "players", "that", "could", "act", "to", "change", "the", "situation", "of", "children", "were", "all", "identified", ".", "The", "most", "difficult", "task", "was", "achieving", "agreement", "by", "these", "role", "players", "on", "their", "action", ".", "Most", "of", "the", "confusion", "was", "over", "formal", "roles", "and", "responsibilities", "which", "had", "changed", "with", "the", "recent", "moves", "to", "decentralization", "of", "basic", "social", "services", "to", "local", "authorities", ",", "rather", "than", "an", "unwillingness", "to", "support", "one", "another", ".", "With", "this", "move", "the", "community", "health", "workers", "had", "also", "recently", "moved", "from", "a", "local", "non-governmental", "organization", "to", "the", "Department", "of", "Health", "and", "were", "confused", "over", "their", "reporting", "structures", ".", "The", "district", "department", "of", "health", "needs", "to", "hand", "over", "delivery", "of", "health", "services", "to", "local", "authorities", ",", "but", "the", "local", "authority", "does", "not", "have", "the", "human", "nor", "financial", "capacity", "to", "carry", "out", "this", "function", ".", "The", "volunteer", "clinic", "health", "committees", "are", "enthusiastic", "to", "support", "initiatives", "that", "Proceedings", "of", "SAICSIT", "2003", "Development", "through", "communicative", "action", "and", "information", "system", "design", "91", "will", "improve", "the", "situation", "of", "their", "children", ",", "but", "have", "only", "been", "formed", "recently", ".", "It", "was", "only", "after", "groups", "met", "one", "another", "and", "agreement", "was", "reached", "on", "their", "roles", "and", "responsibilities", "that", "agreement", "on", "the", "action", ",", "and", "who", "was", "responsible", "for", "that", "action", ",", "took", "place", ".", "The", "recent", "changes", "have", "provided", "an", "opportunity", "for", "inclusion", "of", "children", "on", "the", "agenda", "as", "many", "of", "the", "structures", "and", "systems", "are", "not", ",", "or", "have", "only", "recently", ",", "been", "formed", ".", "What", "was", "encouraging", "from", "the", "field", "work", "was", "that", "most", "people", "felt", "that", "they", "had", "the", "capability", "to", "act", "if", "they", "received", "the", "information", ".", "It", "is", "increasingly", "recognised", "that", "globalisation", "also", "produces", "marginalisation", ".", "Castells", "-LSB-", "2000b", ";", "2000a", "-RSB-", "argues", "that", "processes", "of", "globalisation", "are", "extremely", "selective", ",", "and", "various", "parts", "of", "the", "globe", "in", "both", "the", "developing", "and", "developed", "world", "run", "the", "potential", "of", "being", "excluded", "from", "this", "process", ".", "He", "uses", "the", "term", "`", "fourth", "world", "'", "to", "describe", "this", "segment", "of", "society", ".", "Conditions", "of", "history", "and", "geography", "shape", "the", "access", "that", "groups", "and", "societies", "have", "to", "new", "information", "and", "communication", "technologies", ".", "Lack", "of", "such", "access", "can", "be", "exclusionary", ".", "Castells", "describes", "these", "processes", "to", "be", "systematic", "and", "can", "lead", "to", "further", "marginalisation", "and", "exclusion", "of", "societies", ".", "In", "information", "systems", ",", "and", "not", "just", "health", "information", "systems", ",", "the", "voices", "of", "communities", "-", "in", "particular", "women", ",", "children", "and", "youth", "-", "are", "not", "often", "heard", ",", "both", "within", "communities", ",", "between", "communities", "and", "between", "the", "other", "levels", "of", "society", ".", "When", ",", "where", "and", "how", "do", "they", "get", "the", "opportunity", "to", "express", "their", "needs", "and", "aspirations", "?", "How", "do", "they", "have", "the", "chance", "to", "identify", "and", "develop", "the", "skills", "and", "resources", "they", "need", "to", "address", "their", "problems", "?", "Where", "do", "they", "get", "the", "opportunity", "to", "express", "themselves", "or", "to", "exchange", "ideas", "and", "experience", "?", "In", "a", "sub-district", "in", "KwaZulu-Natal", "these", "questions", "have", "been", "addressed", "through", "a", "holistic", "approach", "to", "health", "information", "systems", "development", ".", "Some", "of", "the", "challenges", "for", "IS", "design", "is", "the", "need", "to", "focus", "both", "on", "the", "output", ",", "as", "well", "as", "the", "process", ".", "Attaining", "a", "common", "vision", "is", "fundamental", "if", "the", "system", "is", "to", "be", "used", ",", "but", "this", "involves", "the", "participation", "of", "different", "sectors", "and", "different", "levels", "of", "actors", "from", "the", "outset", ".", "It", "also", "offers", "some", "opportunities", ".", "Clarification", "over", "roles", "and", "responsibilities", "allows", "recognition", "and", "acceptance", "by", "duty", "bearers", "of", "the", "tasks", "they", "need", "to", "perform", ".", "This", "is", "a", "first", "step", "towards", "action", ".", "There", "was", "great", "enthusiasm", "by", "these", "key", "role", "players", "in", "the", "design", "process", "and", "a", "desire", "to", "work", "together", ".", "The", "community", "monitoring", "system", "in", "Okhahlamba", "was", "based", "on", "an", "understanding", "that", "people", "are", "intelligent", "and", "know", "what", "affects", "their", "children", "'s", "and", "their", "own", "development", ".", "There", "is", "the", "need", "to", "co-design", "systems", ",", "processes", "and", "tools", "in", "IS", "design", "and", "obtain", "clarity", "on", "what", "we", "need", "to", "measure", ".", "IS", "design", "should", "be", "about", "facilitating", "a", "journey", "of", "development", ",", "rather", "than", "measuring", "the", "destination", ".", "Communication", "and", "participation", ",", "as", "well", "as", "the", "capacity", "to", "do", "so", ",", "are", "needed", "to", "strive", "towards", "Habermas", "'", "ideal", "speech", "situation", ".", "This", "is", "no", "easy", "task", ",", "as", "exclusion", "is", "built", "upon", "a", "system", "of", "norms", ",", "interpretative", "schema", "and", "facilities", "that", "systematically", "excludes", "segments", "of", "the", "population", "and", "country", "from", "the", "network", "society", ".", "Communication", "will", "not", "simply", "be", "improved", "by", "introducing", "a", "new", "or", "improved", "health", "information", "system", ".", "Even", "so", ",", "a", "process", "from", "visioning", ",", "developing", "skills", "and", "capacity", "and", "constructing", "a", "conducive", "environment", "can", "mean", "that", "IS", "design", "can", "be", "viewed", "as", "a", "development", "tool", ",", "as", "striving", "towards", "this", "`", "ideal", "speech", "situation", "'", ",", "even", "if", "this", "situation", "is", "not", "attained", ".", "I", "wish", "to", "thank", "all", "the", "people", "from", "uThukela", "district", "who", "assisted", "with", "the", "research", ".", "In", "particular", "thanks", "must", "go", "to", "the", "staff", "from", "the", "uThukela", "District", "Child", "Survival", "Project", "and", "the", "Department", "of", "Health", ",", "who", "assisted", "with", "the", "carrying", "out", "of", "the", "field", "research", ",", "the", "data", "analysis", "and", "the", "implementation", "of", "the", "information", "system", ".", "For", "support", "on", "the", "formatting", "and", "editing", "of", "this", "paper", "I", "am", "grateful", "for", "the", "assistance", "of", "Bob", "Jolliffe", ".", "I", "have", "also", "benefitted", "from", "the", "insightful", "comments", "from", "Sundeep", "Sahay", "on", "the", "various", "drafts", "of", "this", "paper", ".", "Financial", "support", "for", "the", "research", "was", "provided", "by", "a", "World", "Vision/USAID", "grant", "to", "uThukela", "District", "Child", "Survival", "Project", ".", "Castells", ",", "M.", "2000a", ".", "The", "Information", "Age", ":", "Economy", ",", "Society", "and", "Culture", ":", "The", "End", "of", "the", "Millenium", ",", "2", "ed", ".", "Vol", ".", "2", ".", "Blackwell", "Publishers", ".", "Castells", ",", "M.", "2000b", ".", "The", "Information", "Age", ":", "Economy", ",", "Society", "and", "Culture", ":", "The", "Network", "Society", ",", "2", "ed", ".", "Vol", ".", "1", ".", "Blackwell", "Publishers", ".", "Crisp", ",", "N.", "and", "Ntuli", ",", "A.", ",", "Eds", ".", "1999", ".", "South", "African", "Health", "Review", ".", "Health", "Systems", "Trust", ",", "South", "Africa", ".", "Giddens", ",", "A.", "1993", ".", "The", "constitution", "of", "society", ".", "Outline", "of", "the", "theory", "of", "structuration", ".", "Polity", "Press", ",", "Oxford", ".", "Habermas", ",", "J.", "1987", ".", "The", "Theory", "of", "Communicative", "Action", ".", "MIT", "Press", ".", "Hirschheim", ",", "R.", "and", "Klein", ",", "H.", "1994", ".", "Realizing", "emancipatory", "principles", "in", "information", "systems", "development", ":", "The", "case", "for", "ethics", ".", "MIS", "Quarterly", "18", ",", "1", ",", "83", "109", ".", "Proceedings", "of", "SAICSIT", "2003", "92", "Elaine", "Byrne", "Hirschheim", ",", "R.", ",", "Klein", ",", "H.", "K.", ",", "and", "Lyytinen", ",", "K.", "1996", ".", "Exploring", "the", "intellectual", "structures", "of", "information", "systems", "development", ":", "A", "social", "action", "theoretical", "analysis", ".", "Accounting", ",", "Management", "and", "Information", "Technology", "6", ",", "1/2", ".", "Jones", ",", "M.", "1997", ".", "Re-Thinking", "Management", "Information", "Systems", ".", "Oxford", "University", "Press", ",", "Chapter", "structuration", "and", "IS", ".", "Lyytinen", ",", "K.", "1992", ".", "Critical", "Management", "Studies", ".", "Sage", "Publications", ",", "London", ",", "Chapter", "Information", "systems", "and", "critical", "theory", ",", "159", "180", ".", "Ngwenyama", ",", "O.", "1991", ".", "Information", "Systems", "Research", ":", "Contemporary", "Approaches", "and", "Emergent", "Traditions", ".", "North", "Holland", ",", "Amsterdam", ",", "Chapter", "The", "Critical", "Social", "Theory", "Approach", "to", "Information", "Systems", ":", "Problems", "and", "Challenges", ".", "Ngwenyama", ",", "O.", "K.", "and", "Lee", ",", "A.", "S.", "1997", ".", "Communciation", "richness", "in", "electronic", "mail", ":", "Critical", "social", "theory", "and", "the", "contextuality", "of", "meaning", ".", "MIS", "Quarterly", "21", ",", "2", "-LRB-", "June", "-RRB-", ",", "145", "167", ".", "Orlikowski", ",", "W.", "1992", ".", "The", "duality", "of", "technology", ":", "rethinking", "the", "concept", "of", "technology", "in", "organisations", ".", "Organisation", "Science", "3", ",", "3", "-LRB-", "August", "-RRB-", ".", "Orlikowski", ",", "W.", "and", "Baroudi", ",", "J.", "J.", "1991", ".", "Studying", "information", "technology", "in", "organisations", ":", "Research", "approaches", "and", "assumptions", ".", "Information", "Systems", "Research", "2", ",", "1", "28", ".", "Orlikowski", ",", "W.", "and", "Robey", ",", "D.", "1991", ".", "It", "and", "the", "structuring", "of", "organisations", ".", "Information", "Systems", "Research", "2", ",", "2", ",", "143", "169", ".", "Rose", ",", "J.", "1998", ".", "Evaluating", "the", "contribution", "of", "structuration", "theory", "to", "the", "is", "discipline", ".", "In", "Proceedings", "of", "the", "European", "Conference", "on", "Information", "Systems", ".", "Rose", ",", "J.", "1999", ".", "Towards", "a", "structurational", "theory", "of", "is", "-", "theory", "development", "and", "case", "study", "illustrations", ".", "In", "Proceedings", "of", "the", "7th", "European", "Conference", "on", "Information", "Systems", ".", "Copenhagen", ".", "uThukela", "District", "Child", "Survival", "Project", ".", "1999a", ".", "Final", "evaluation", "report", ".", "uThukela", "District", ",", "KwaZulu-Natal", ",", "South", "Africa", ",", "unpublished", ".", "uThukela", "District", "Child", "Survival", "Project", ".", "1999b", ".", "Knowledge", ",", "practice", "and", "coverage", "survey", ".", "UThukela", "District", "Child", "Survival", "Project", ",", "KwaZulu-Natal", ",", "South", "Africa", ".", "uThukela", "District", "Child", "Survival", "Project", ".", "2000a", ".", "Cs", "xv", "detailed", "implementation", "plan", ".", "uThukela", "District", ",", "KwaZulu-Natal", ",", "South", "Africa", ",", "unpublished", ".", "uThukela", "District", "Child", "Survival", "Project", ".", "2000b", ".", "Integrated", "managment", "of", "childhood", "illness", "situational", "analysis", ".", "uThukela", "District", ",", "KwaZulu-Natal", ",", "South", "Africa", ",", "unpublished", ".", "uThukela", "District", "Child", "Survival", "Project", ".", "2002", ".", "Mid", "term", "evaluation", "report", ".", "uThukela", "District", ",", "KwaZulu-Natal", ",", "South", "Africa", ",", "unpublished", ".", "Walsham", ",", "G.", "1993", ".", "Interpreting", "Information", "Systems", "in", "Organisations", ".", "Chichester", ",", "John", "Wiley", ".", "Walsham", ",", "G.", "and", "Han", ",", "C.", "K.", "1991", ".", "Structuration", "theory", "and", "information", "systems", "research", ".", "Journal", "of", "Applied", "Systems", "Analysis", "17", ",", "77", "85", ".", "Walsham", ",", "G.", "and", "Sahay", ",", "S.", "1996", ".", "Gis", "for", "district-level", "administration", "in", "india", ":", "Problems", "and", "opportunities", ".", "International", "Journal", "of", "Geographical", "Informaiton", "Systems", "10", ",", "385", "404", ".", "Proceedings", "of", "SAICSIT", "2003"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["duality of structure", "conducive environment", "community monitoring system", "interpretative schemes", "health information systems", "marginalisation", "structuration theory", "critical social theory in is design", "communicative action", "moral codes or norms", "the ideal speech situation"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "51", "document": ["Can", "Machine", "Learning", "Be", "Secure", "?", "Machine", "learning", "systems", "offer", "unparalled", "flexibility", "in", "dealing", "with", "evolving", "input", "in", "a", "variety", "of", "applications", ",", "such", "as", "intrusion", "detection", "systems", "and", "spam", "e-mail", "filtering", ".", "However", ",", "machine", "learning", "algorithms", "themselves", "can", "be", "a", "target", "of", "attack", "by", "a", "malicious", "adversary", ".", "This", "paper", "provides", "a", "framework", "for", "answering", "the", "question", ",", "``", "Can", "machine", "learning", "be", "secure", "?", "''", "Novel", "contributions", "of", "this", "paper", "include", "a", "taxonomy", "of", "different", "types", "of", "attacks", "on", "machine", "learning", "techniques", "and", "systems", ",", "a", "variety", "of", "defenses", "against", "those", "attacks", ",", "a", "discussion", "of", "ideas", "that", "are", "important", "to", "security", "for", "machine", "learning", ",", "an", "analytical", "model", "giving", "a", "lower", "bound", "on", "attacker", "'s", "work", "function", ",", "and", "a", "list", "of", "open", "problems", ".", "D.", "4.6", "-LSB-", "Security", "and", "Protection", "-RSB-", ":", "Invasive", "software", "-LRB-", "e.g.", ",", "viruses", ",", "worms", ",", "Trojan", "horses", "-RRB-", ";", "I.", "5.1", "-LSB-", "Models", "-RSB-", ":", "Statistical", ";", "I.", "5.2", "-LSB-", "Design", "Methodology", "-RSB-", "Security", "Machine", "learning", "techniques", "are", "being", "applied", "to", "a", "growing", "number", "of", "systems", "and", "networking", "problems", ",", "particularly", "those", "problems", "where", "the", "intention", "is", "to", "detect", "anomalous", "system", "behavior", ".", "For", "instance", ",", "network", "Intrusion", "Detection", "Systems", "-LRB-", "IDS", "-RRB-", "monitor", "network", "traffic", "to", "detect", "abnormal", "activities", ",", "such", "as", "attacks", "against", "hosts", "or", "servers", ".", "Machine", "learning", "techniques", "offer", "the", "benefit", "that", "they", "can", "detect", "novel", "differences", "in", "traffic", "-LRB-", "which", "presumably", "represent", "attack", "traffic", "-RRB-", "by", "being", "trained", "on", "normal", "-LRB-", "known", "good", "-RRB-", "and", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ASIACCS", "'", "06", ",", "March", "21", "24", ",", "2006", ",", "Taipei", ",", "Taiwan", "Copyright", "2006", "ACM", "1-59593-272-0", "/", "06/0003", "...", "$", "5.00", "attack", "-LRB-", "known", "bad", "-RRB-", "traffic", ".", "The", "traditional", "approach", "to", "designing", "an", "IDS", "relied", "on", "an", "expert", "codifying", "rules", "defining", "normal", "behavior", "and", "intrusions", "-LSB-", "26", "-RSB-", ".", "Because", "this", "approach", "often", "fails", "to", "detect", "novel", "intrusions", ",", "a", "variety", "of", "researchers", "have", "proposed", "incorporating", "machine", "learning", "techniques", "into", "intrusion", "detection", "systems", "-LSB-", "1", ",", "16", ",", "18", ",", "24", ",", "38", ",", "41", "-RSB-", ".", "On", "the", "other", "hand", ",", "use", "of", "machine", "learning", "opens", "the", "possibility", "of", "an", "adversary", "who", "maliciously", "``", "mis-trains", "''", "a", "learning", "system", "in", "an", "IDS", ".", "A", "natural", "question", "arises", ":", "what", "techniques", "-LRB-", "in", "their", "attacks", "-RRB-", "can", "an", "adversary", "use", "to", "confuse", "a", "learning", "system", "?", "This", "paper", "explores", "the", "larger", "question", ",", "as", "posed", "in", "the", "title", "of", "this", "paper", ",", "can", "machine", "learning", "be", "secure", "?", "Specific", "questions", "that", "we", "examine", "include", ":", "Can", "the", "adversary", "manipulate", "a", "learning", "system", "to", "permit", "a", "specific", "attack", "?", "For", "example", ",", "can", "an", "attacker", "leverage", "knowledge", "about", "the", "machine", "learning", "system", "used", "by", "a", "spam", "e-mail", "filtering", "system", "to", "bypass", "the", "filtering", "?", "Can", "an", "adversary", "degrade", "the", "performance", "of", "a", "learning", "system", "to", "the", "extent", "that", "system", "administrators", "are", "forced", "to", "disable", "the", "IDS", "?", "For", "example", ",", "could", "the", "attacker", "confuse", "the", "system", "and", "cause", "valid", "e-mail", "to", "be", "rejected", "?", "What", "defenses", "exist", "against", "adversaries", "manipulating", "-LRB-", "attacking", "-RRB-", "learning", "systems", "?", "More", "generally", ",", "what", "is", "the", "potential", "impact", "from", "a", "security", "standpoint", "of", "using", "machine", "learning", "on", "a", "system", "?", "Can", "an", "attacker", "exploit", "properties", "of", "the", "machine", "learning", "technique", "to", "disrupt", "the", "system", "?", "The", "issue", "of", "machine", "learning", "security", "goes", "beyond", "intrusion", "detection", "systems", "and", "spam", "e-mail", "filters", ".", "Machine", "learning", "is", "a", "powerful", "technique", "and", "has", "been", "used", "in", "a", "variety", "of", "applications", ",", "including", "web", "services", ",", "online", "agent", "systems", ",", "virus", "detection", ",", "cluster", "monitoring", ",", "and", "a", "variety", "of", "applications", "that", "must", "deal", "with", "dynamically", "changing", "data", "patterns", ".", "Novel", "contributions", "of", "this", "paper", "include", "a", "taxonomy", "of", "different", "types", "of", "attacks", "on", "machine", "learning", "techniques", "and", "systems", ",", "a", "variety", "of", "defenses", "against", "those", "attacks", ",", "a", "discussion", "of", "ideas", "that", "are", "important", "to", "security", "for", "machine", "Invited", "Talk", "learning", ",", "an", "analytical", "model", "giving", "a", "lower", "bound", "on", "attacker", "'s", "work", "function", ",", "and", "a", "list", "of", "open", "problems", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "discusses", "machine", "learning", "and", "how", "it", "is", "typically", "used", "in", "a", "system", ",", "Section", "3", "develops", "a", "taxonomy", "of", "attacks", ",", "Section", "4", "introduces", "potential", "defenses", "against", "attacks", "and", "explores", "their", "potential", "costs", ",", "Section", "5", "identifies", "several", "of", "the", "ideas", "that", "are", "important", "to", "security", "for", "machine", "learning", ",", "Section", "6", "presents", "an", "analytical", "model", "that", "examines", "an", "attack", "to", "manipulate", "a", "naive", "learning", "algorithm", ",", "Section", "7", "discusses", "related", "work", ",", "potential", "research", "directions", ",", "and", "our", "conclusions", "A", "machine", "learning", "system", "attempts", "to", "find", "a", "hypothesis", "function", "f", "that", "maps", "events", "-LRB-", "which", "we", "call", "points", "below", "-RRB-", "into", "different", "classes", ".", "For", "example", ",", "an", "intrusion", "detection", "system", "would", "find", "a", "hypothesis", "function", "f", "that", "maps", "an", "event", "point", "-LRB-", "an", "instance", "of", "network", "behavior", "-RRB-", "into", "one", "of", "two", "results", ":", "normal", "or", "intrusion", ".", "One", "kind", "of", "learning", "system", "called", "supervised", "learning", "works", "by", "taking", "a", "training", "data", "set", "together", "with", "labels", "identifying", "the", "class", "for", "every", "point", "in", "the", "training", "data", "set", ".", "For", "example", ",", "a", "supervised", "learning", "algorithm", "for", "an", "IDS", "would", "have", "a", "training", "set", "consisting", "of", "points", "corresponding", "to", "normal", "behavior", "and", "points", "corresponding", "to", "intrusion", "behavior", ".", "The", "learning", "algorithm", "selects", "the", "hypothesis", "function", "f", "that", "best", "predicts", "the", "classification", "of", "a", "point", ".", "More", "complicated", "learning", "algorithms", "can", "deal", "with", "event", "points", "that", "are", "both", "labeled", "and", "unlabeled", "and", "furthermore", "can", "deal", "with", "continuous", "streams", "of", "unlabeled", "points", "so", "that", "training", "is", "an", "ongoing", "process", ".", "In", "this", "paper", ",", "we", "call", "these", "algorithms", "online", "learning", "systems", ".", "This", "remainder", "of", "this", "subsection", "presents", "a", "concise", "overview", "of", "concepts", "in", "statistical", "learning", "theory", ".", "The", "presentation", "below", "is", "formal", "and", "can", "be", "skipped", "on", "a", "first", "reading", ".", "For", "a", "fuller", "discussion", "with", "motivation", ",", "refer", "to", "-LSB-", "11", ",", "31", "-RSB-", ".", "A", "predictive", "learning", "problem", "is", "defined", "over", "an", "input", "space", "X", ",", "an", "output", "space", "Y", ",", "and", "a", "loss", "function", ":", "Y", "Y", "R", ".", "The", "input", "to", "the", "problem", "is", "a", "training", "set", "S", ",", "specified", "as", "-LCB-", "-LRB-", "x", "i", ",", "y", "i", "-RRB-", "X", "Y", "-RCB-", ",", "and", "the", "output", "is", "a", "hypothesis", "function", "f", ":", "X", "Y", ".", "We", "choose", "f", "from", "a", "hypothesis", "space", "-LRB-", "or", "function", "class", "-RRB-", "F", "to", "minimize", "the", "prediction", "error", "given", "by", "the", "loss", "function", ".", "In", "many", "cases", ",", "researchers", "assume", "stationarity", ",", "that", "the", "distribution", "of", "data", "points", "encountered", "in", "the", "future", "will", "be", "the", "same", "as", "the", "distribution", "of", "the", "training", "set", ".", "Stationarity", "allows", "us", "to", "reduce", "the", "predictive", "learning", "problem", "to", "a", "minimization", "of", "the", "sum", "of", "the", "loss", "over", "the", "training", "set", ":", "f", "=", "argmin", "f", "F", "X", "-LRB-", "x", "i", ",", "y", "i", "-RRB-", "S", "-LRB-", "f", "-LRB-", "x", "i", "-RRB-", ",", "y", "i", "-RRB-", "-LRB-", "1", "-RRB-", "Loss", "functions", "are", "typically", "defined", "to", "be", "non-negative", "over", "all", "inputs", "and", "zero", "when", "f", "-LRB-", "x", "i", "-RRB-", "=", "y", "i", ".", "A", "commonly", "used", "loss", "function", "is", "the", "squared-error", "loss", "sq", "-LRB-", "f", "-LRB-", "x", "i", "-RRB-", ",", "y", "-RRB-", "=", "-LRB-", "f", "-LRB-", "x", "i", "-RRB-", "-", "y", "-RRB-", "2", ".", "The", "hypothesis", "space", "-LRB-", "or", "function", "class", "-RRB-", "F", "can", "be", "any", "representation", "of", "functions", "from", "X", "to", "Y", ",", "such", "as", "linear", "functions", ",", "polynomials", ",", "boolean", "functions", ",", "or", "neural", "networks", ".", "The", "choice", "of", "F", "involves", "a", "tradeoff", "between", "expressiveness", "and", "ability", "to", "generalize", ".", "If", "F", "is", "too", "expressive", ",", "it", "can", "overfit", "the", "training", "data", ".", "The", "extreme", "case", "is", "a", "lookup", "table", "that", "maps", "x", "i", "to", "y", "i", "for", "each", "instance", "of", "the", "training", "set", "but", "will", "not", "generalize", "to", "new", "data", ".", "A", "linear", "function", ",", "on", "the", "other", "hand", ",", "will", "generalize", "what", "it", "learns", "on", "the", "training", "set", "to", "new", "points", ",", "though", "it", "may", "not", "be", "sufficiently", "expressive", "to", "describe", "intricate", "data", "sets", ".", "We", "typically", "use", "simple", "function", "classes", ",", "such", "as", "linear", "functions", ",", "to", "avoid", "overfitting", ".", "We", "can", "describe", "a", "more", "general", "learning", "problem", "by", "dropping", "the", "requirement", "that", "the", "training", "examples", "include", "all", "the", "labels", "y", "i", ".", "The", "case", "where", "all", "labels", "are", "present", "is", "referred", "to", "as", "supervised", "learning", ",", "when", "no", "labels", "are", "present", "the", "problem", "is", "unsupervised", ",", "and", "when", "some", "labels", "are", "present", "the", "problem", "is", "semi-supervised", ".", "In", "all", "these", "cases", "we", "can", "pose", "the", "learning", "problem", "as", "the", "minimization", "of", "some", "measure", "over", "the", "training", "set", ":", "f", "=", "argmin", "f", "F", "X", "-LRB-", "x", "i", "-RRB-", "S", "L", "-LRB-", "x", "i", ",", "f", "-RRB-", "-LRB-", "2", "-RRB-", "2.2", "Terminology", "and", "Running", "Example", "To", "illustrate", "some", "of", "our", "contributions", ",", "we", "use", "a", "running", "example", "throughout", "this", "paper", ":", "a", "network", "Intrusion", "Detection", "System", "-LRB-", "IDS", "-RRB-", ".", "This", "IDS", "receives", "network", "events", "x", "X", "and", "classifies", "each", "event", "x", "as", "either", "f", "-LRB-", "x", "-RRB-", "=", "normal", "or", "f", "-LRB-", "x", "-RRB-", "=", "intrusion", ".", "The", "literature", "describes", "a", "number", "of", "algorithms", "for", "learning", "f", "over", "time", ",", "but", "we", "wish", "to", "consider", "the", "impact", "of", "malicious", "input", "on", "the", "learning", "algorithm", ".", "This", "paper", "poses", "the", "question", ":", "can", "a", "malicious", "party", "send", "events", "to", "the", "IDS", "that", "will", "cause", "it", "to", "malfunction", "?", "Possible", "types", "of", "attacks", "on", "the", "IDS", "include", "attacks", "on", "the", "learning", "algorithm", ",", "causing", "the", "IDS", "to", "create", "an", "f", "that", "misclassifies", "events", ".", "As", "we", "discuss", "in", "the", "next", "section", ",", "this", "is", "only", "one", "of", "a", "number", "of", "types", "of", "attacks", "that", "an", "adversary", "can", "make", "on", "an", "IDS", ".", "It", "is", "important", "to", "be", "careful", "about", "notation", "here", ".", "When", "we", "speak", "of", "attacks", ",", "we", "mean", "an", "attack", "on", "the", "learning", "system", "-LRB-", "e.g.", ",", "the", "learner", "in", "an", "IDS", "-RRB-", ".", "Attacks", "may", "try", "to", "make", "the", "learner", "mis-learn", ",", "fail", "because", "of", "denial", "of", "service", ",", "report", "information", "about", "its", "internal", "state", ",", "etc.", "``", "Attack", "''", "should", "be", "distinguished", "from", "``", "intrusion", ".", "''", "An", "attack", "targets", "a", "learning", "system", ";", "an", "intrusion", "targets", "a", "computer", "system", "-LRB-", "such", "as", "a", "system", "protected", "by", "an", "IDS", "-RRB-", ".", "While", "many", "researchers", "use", "the", "word", "``", "attack", "''", "to", "include", "intrusions", ",", "in", "this", "paper", "we", "are", "careful", "to", "use", "the", "word", "``", "attack", "''", "only", "to", "mean", "an", "attack", "on", "a", "learner", ".", "We", "do", "not", "want", "to", "restrict", "ourselves", "to", "particular", "learning", "algorithms", "used", "by", "intrusion", "detection", "systems", "to", "choose", "hypotheses", ".", "However", ",", "we", "allow", "adversaries", "that", "have", "deep", "understanding", "of", "the", "learning", "algorithms", ".", "Similarly", ",", "we", "do", "not", "discuss", "mechanisms", "for", "translating", "network", "level", "events", "into", "a", "form", "relevant", "to", "the", "learner", ".", "We", "call", "each", "unit", "of", "data", "seen", "by", "the", "learner", "a", "data", "point", ",", "or", "simply", "a", "point", ".", "In", "the", "context", "of", "the", "IDS", ",", "our", "discussion", "encompasses", "continuous", ",", "discrete", ",", "or", "mixed", "data", ".", "We", "assume", "that", "X", "is", "a", "metric", "space", ",", "allowing", "us", "to", "freely", "discuss", "distances", "Integrity", "Availability", "Causative", ":", "Targeted", "Permit", "a", "specific", "intrusion", "Create", "sufficient", "errors", "to", "make", "system", "unusable", "for", "one", "person", "or", "service", "Indiscriminate", "Permit", "at", "least", "one", "intrusion", "Create", "sufficient", "errors", "to", "make", "learner", "unusable", "Exploratory", ":", "Targeted", "Find", "a", "permitted", "intrusion", "from", "a", "small", "set", "of", "possibilities", "Find", "a", "set", "of", "points", "misclassified", "by", "the", "learner", "Indiscriminate", "Find", "a", "permitted", "intrusion", "Table", "1", ":", "The", "attack", "model", ".", "between", "points", ".", "Furthermore", ",", "we", "assume", "the", "set", "of", "points", "classified", "as", "normal", "by", "the", "IDS", "forms", "multiple", "contiguous", "subsets", "in", "X", ".", "The", "border", "of", "this", "set", "is", "called", "the", "decision", "boundary", ".", "Below", ",", "we", "consider", "a", "variety", "of", "scenarios", "and", "assumptions", ".", "We", "give", "relevant", "properties", "for", "analyzing", "attacks", "on", "machine", "learning", "systems", ".", "Influence", "Causative", "-", "Causative", "attacks", "alter", "the", "training", "process", "through", "influence", "over", "the", "training", "data", ".", "Exploratory", "-", "Exploratory", "attacks", "do", "not", "alter", "the", "training", "process", "but", "use", "other", "techniques", ",", "such", "as", "probing", "the", "learner", "or", "offline", "analysis", ",", "to", "discover", "information", ".", "Specificity", "Targeted", "-", "The", "specificity", "of", "an", "attack", "is", "a", "continuous", "spectrum", ".", "At", "the", "targeted", "end", ",", "the", "focus", "of", "the", "attack", "is", "on", "a", "particular", "point", "or", "a", "small", "set", "of", "points", ".", "Indiscriminate", "-", "At", "the", "indiscriminate", "end", ",", "the", "adversary", "has", "a", "more", "flexible", "goal", "that", "involves", "a", "very", "general", "class", "of", "points", ",", "such", "as", "``", "any", "false", "negative", ".", "''", "Security", "violation", "Integrity", "-", "An", "integrity", "attack", "results", "in", "intrusion", "points", "being", "classified", "as", "normal", "-LRB-", "false", "negatives", "-RRB-", ".", "Availability", "-", "An", "availability", "attack", "is", "a", "broader", "class", "of", "attack", "than", "an", "integrity", "attack", ".", "An", "availability", "attack", "results", "in", "so", "many", "classification", "errors", ",", "both", "false", "negatives", "and", "false", "positives", ",", "that", "the", "system", "becomes", "effectively", "unusable", ".", "These", "three", "axes", "define", "a", "space", "of", "attacks", ";", "Table", "1", "provides", "a", "concise", "summary", ".", "In", "causative", "attacks", ",", "the", "adversary", "has", "some", "measure", "of", "control", "over", "the", "training", "of", "the", "learner", ".", "An", "attack", "that", "causes", "the", "learner", "to", "misclassify", "intrusion", "points", ",", "for", "example", "an", "attack", "that", "fools", "an", "IDS", "into", "not", "flagging", "a", "known", "exploit", "as", "an", "intrusion", ",", "is", "a", "causative", "integrity", "attack", ".", "The", "distinction", "between", "targeted", "and", "indiscriminate", "causative", "integrity", "attacks", "is", "the", "difference", "between", "choosing", "one", "particular", "exploit", "or", "just", "finding", "any", "exploit", ".", "A", "causative", "availability", "attack", "causes", "the", "learner", "'s", "performance", "to", "degrade", ".", "For", "example", ",", "an", "adversary", "might", "cause", "an", "IDS", "to", "reject", "many", "legitimate", "HTTP", "connections", ".", "A", "causative", "availability", "attack", "may", "be", "used", "to", "force", "the", "system", "administrator", "to", "disable", "the", "IDS", ".", "A", "targeted", "attack", "focuses", "on", "a", "particular", "service", ",", "while", "an", "indiscriminate", "attack", "has", "a", "wider", "scope", ".", "Exploratory", "attacks", "do", "not", "attempt", "to", "influence", "learning", ";", "they", "instead", "attempt", "to", "discover", "information", "about", "the", "state", "of", "the", "learner", ".", "Exploratory", "integrity", "attacks", "seek", "to", "find", "intrusions", "that", "are", "not", "recognized", "by", "the", "learner", ".", "3.2", "Online", "Learning", "A", "learner", "can", "have", "an", "explicit", "training", "phase", "or", "can", "be", "continuously", "trained", "-LRB-", "online", "learner", "-RRB-", ".", "Online", "learning", "allows", "the", "learner", "to", "adapt", "to", "changing", "conditions", ";", "the", "assumption", "of", "stationarity", "is", "weakened", "to", "accommodate", "long-term", "changes", "in", "the", "distribution", "of", "data", "seen", "by", "the", "learner", ".", "Online", "learning", "is", "more", "flexible", ",", "but", "potentially", "simplifies", "causative", "attacks", ".", "By", "definition", ",", "an", "online", "learner", "changes", "its", "prediction", "function", "over", "time", ",", "so", "an", "adversary", "has", "the", "opportunity", "to", "shape", "this", "change", ".", "Gradual", "causative", "attacks", "may", "be", "difficult", "to", "detect", ".", "In", "this", "section", "we", "discuss", "potential", "defenses", "against", "attacks", ".", "This", "section", "describes", "speculative", "work", ",", "and", "the", "efficacy", "of", "these", "techniques", "in", "practice", "is", "a", "topic", "for", "future", "research", ".", "4.1", "Robustness", "To", "increase", "robustness", "against", "causative", "attacks", "we", "constrain", "the", "class", "of", "functions", "-LRB-", "hypotheses", "-RRB-", "that", "the", "learner", "considers", ".", "The", "constraint", "we", "consider", "is", "the", "statistical", "technique", "of", "regularization", ".", "Regularization", "extends", "the", "basic", "learning", "optimization", "in", "Equation", "-LRB-", "1", "-RRB-", "by", "adding", "a", "term", "J", "-LRB-", "f", "-RRB-", "that", "penalizes", "complex", "hypotheses", ":", "f", "=", "argmin", "f", "F", "8", "<", ":", "X", "-LRB-", "x", "i", ",", "y", "i", "-RRB-", "S", "-LRB-", "f", "-LRB-", "x", "i", "-RRB-", ",", "y", "i", "-RRB-", "+", "J", "-LRB-", "f", "-RRB-", "9", "=", ";", "-LRB-", "3", "-RRB-", "Here", "adjusts", "the", "trade-off", ".", "The", "penalty", "term", "J", "-LRB-", "f", "-RRB-", "can", "be", "as", "simple", "as", "the", "sum", "of", "squares", "of", "the", "parameters", "of", "f", ".", "Regularization", "is", "used", "in", "statistics", "to", "restrict", "or", "bias", "the", "choice", "of", "hypothesis", "when", "the", "problem", "suffers", "from", "lack", "of", "Integrity", "Availability", "Causative", ":", "Targeted", "Regularization", "Randomization", "Regularization", "Randomization", "Indiscriminate", "Regularization", "Regularization", "Exploratory", ":", "Targeted", "Information", "hiding", "Randomization", "Information", "hiding", "Indiscriminate", "Information", "hiding", "Table", "2", ":", "Defenses", "against", "the", "attacks", "in", "Table", "1", ".", "data", "or", "noisy", "data", ".", "It", "can", "also", "be", "interpreted", "as", "encoding", "a", "prior", "distribution", "on", "the", "parameters", ",", "penalizing", "parameter", "choices", "that", "are", "less", "likely", "a", "priori", ".", "Regularization", "and", "prior", "distributions", "can", "both", "be", "viewed", "as", "penalty", "functions", "in", "Equation", "-LRB-", "3", "-RRB-", "-LSB-", "42", "-RSB-", ".", "The", "constraint", "added", "to", "the", "learning", "problem", "by", "the", "penalty", "term", "may", "help", "our", "defenses", "in", "two", "ways", ".", "First", ",", "it", "has", "the", "effect", "of", "smoothing", "the", "solution", ",", "removing", "complexity", "that", "an", "adversary", "might", "exploit", "in", "attacks", ".", "Second", ",", "prior", "distributions", "can", "be", "a", "useful", "way", "to", "encode", "expert", "knowledge", "about", "a", "domain", "or", "use", "domain", "structure", "learned", "from", "a", "preprocess-ing", "step", ".", "In", "the", "simplest", "case", ",", "we", "might", "have", "a", "reasonable", "guess", "for", "the", "parameters", "-LRB-", "such", "as", "the", "mean", "-RRB-", "that", "we", "wish", "to", "refine", ";", "in", "a", "more", "complex", "situation", ",", "we", "could", "perform", "an", "analysis", "of", "a", "related", "dataset", "giving", "correlation", "information", "which", "informs", "a", "multivariate", "Gaussian", "prior", "on", "the", "parameters", "-LSB-", "28", "-RSB-", ".", "When", "the", "learner", "has", "more", "prior", "information", "-LRB-", "or", "constraints", "-RRB-", "on", "which", "to", "base", "the", "learning", ",", "there", "is", "less", "dependence", "on", "exact", "data", "fitting", ",", "so", "there", "is", "less", "opportunity", "for", "the", "adversary", "to", "exert", "influence", "over", "the", "learning", "process", ".", "4.2", "Detecting", "Attacks", "The", "learner", "can", "benefit", "from", "the", "ability", "to", "detect", "attacks", "even", "if", "they", "are", "not", "prevented", ".", "Detecting", "attacks", "can", "be", "difficult", "even", "when", "the", "adversary", "is", "not", "attempting", "to", "conceal", "them", ".", "However", ",", "we", "may", "be", "able", "to", "detect", "causative", "attacks", "by", "using", "a", "special", "test", "set", ".", "This", "test", "set", "could", "include", "several", "known", "intrusions", "and", "intrusion", "variants", ",", "as", "well", "as", "some", "random", "points", "that", "are", "similar", "to", "the", "intrusions", ".", "After", "the", "learner", "has", "been", "trained", ",", "misclassifying", "a", "disproportionately", "high", "number", "of", "intrusions", "could", "indicate", "compromises", ".", "To", "detect", "naive", "exploratory", "attacks", ",", "a", "separate", "clustering", "algorithm", "could", "be", "run", "against", "data", "classified", "by", "the", "learner", ".", "The", "sudden", "appearance", "of", "a", "large", "cluster", "near", "the", "decision", "boundary", "could", "indicate", "systematic", "probing", ".", "This", "type", "of", "defense", "is", "akin", "to", "port", "scan", "detection", ",", "which", "has", "become", "an", "arms", "race", "between", "port", "scanners", "and", "IDS", "-LSB-", "26", "-RSB-", ".", "Detecting", "an", "attack", "gives", "the", "learner", "information", "about", "the", "adversary", "'s", "capabilities", ".", "This", "information", "may", "be", "used", "to", "reformulate", "defense", "strategies", ".", "As", "the", "adversary", "'s", "control", "over", "the", "data", "increases", ",", "the", "best", "strategy", "for", "the", "learner", "is", "to", "ignore", "potentially", "tainted", "data", ".", "Otherwise", ",", "the", "adversary", "can", "exploit", "misplaced", "trust", ".", "These", "ideas", "have", "been", "formalized", "within", "the", "context", "of", "deception", "games", "-LSB-", "14", ",", "32", "-RSB-", ",", "which", "typically", "assume", "all", "players", "know", "the", "extent", "to", "which", "other", "players", "may", "manipulate", "data", ".", "However", ",", "if", "the", "parties", "estimate", "each", "other", "'s", "abilities", ",", "more", "sophisticated", "strategies", "emerge", ".", "4.3", "Disinformation", "In", "some", "circumstances", ",", "the", "learner", "may", "be", "able", "to", "alter", "the", "data", "seen", "by", "the", "adversary", ".", "This", "strategy", "of", "disinformation", "has", "the", "goal", "of", "confusing", "the", "adversary", "'s", "estimate", "of", "the", "learner", "'s", "state", ".", "In", "the", "simplest", "case", ",", "the", "adversary", "would", "then", "be", "faced", "with", "a", "situation", "not", "unlike", "a", "learner", "under", "an", "indiscriminate", "causative", "availability", "attack", ".", "The", "goal", "of", "the", "learner", "is", "to", "prevent", "the", "adversary", "from", "learning", "the", "decision", "boundary", ".", "Please", "note", "how", "the", "roles", "of", "adversary", "and", "learner", "have", "been", "reversed", ".", "A", "more", "sophisticated", "learner", "could", "trick", "the", "adversary", "into", "believing", "that", "a", "particular", "intrusion", "was", "not", "included", "in", "the", "training", "set", ".", "This", "apparently", "permitted", "``", "intrusion", "''", "would", "act", "as", "a", "honeypot", "-LSB-", "27", "-RSB-", ",", "causing", "the", "adversary", "to", "reveal", "itself", ".", "An", "increase", "in", "the", "incidence", "of", "that", "particular", "attack", "would", "be", "detected", ",", "revealing", "the", "existence", "of", "an", "adversary", ".", "In", "this", "case", "again", ",", "roles", "would", "reverse", ",", "and", "the", "adversary", "would", "face", "a", "situation", "analogous", "to", "a", "learner", "subjected", "to", "a", "targeted", "causative", "integrity", "attack", ".", "4.4", "Randomization", "for", "Targeted", "Attacks", "Targeted", "attacks", "hinge", "on", "the", "classification", "of", "one", "point", "or", "a", "small", "set", "of", "points", ".", "They", "are", "more", "sensitive", "to", "variations", "in", "the", "decision", "boundary", "than", "indiscriminate", "attacks", "because", "boundary", "movement", "is", "more", "likely", "to", "change", "the", "classification", "of", "the", "relevant", "points", ".", "This", "suggests", "randomization", "as", "a", "potential", "tool", "against", "targeted", "causative", "attacks", ".", "In", "such", "an", "attack", ",", "the", "adversary", "has", "to", "do", "a", "particular", "amount", "of", "work", "to", "move", "the", "decision", "boundary", "past", "the", "targeted", "point", ".", "If", "there", "is", "some", "randomization", "in", "the", "placement", "of", "the", "boundary", "and", "the", "adversary", "has", "imperfect", "feedback", "from", "the", "learner", ",", "more", "work", "is", "required", ".", "0", "4.5", "Cost", "of", "Countermeasures", "The", "more", "we", "know", "about", "the", "distribution", "of", "training", "data", ",", "the", "less", "room", "there", "is", "for", "an", "adversary", "to", "manipulate", "the", "learner", ".", "The", "disadvantage", ",", "however", ",", "is", "that", "the", "legitimate", "data", "has", "less", "influence", "in", "the", "learning", "process", ".", "A", "tension", "exists", "between", "expressivity", "and", "constraint", ":", "as", "the", "learner", "includes", "more", "prior", "information", ",", "it", "loses", "flexibility", "to", "adapt", "to", "the", "data", ",", "but", "as", "it", "incorporates", "more", "information", "from", "the", "data", ",", "it", "becomes", "more", "vulnerable", "to", "attack", ".", "Equation", "-LRB-", "3", "-RRB-", "makes", "this", "tradeoff", "explicit", "with", ".", "In", "the", "adversarial", "scenario", ",", "this", "tradeoff", "becomes", "more", "relevant", "because", "the", "adversary", "may", "have", "influence", "over", "the", "data", ".", "Randomization", "increases", "the", "adversary", "'s", "work", ",", "but", "it", "also", "will", "increase", "the", "learner", "'s", "base", "error", "rate", ".", "Determining", "the", "right", "amount", "of", "randomization", "is", "an", "open", "problem", ".", "4.6", "Summary", "of", "Defenses", "Table", "2", "shows", "how", "our", "defenses", "discussed", "here", "relate", "to", "attack", "classes", "presented", "in", "Table", "1", ".", "-LRB-", "Information", "hiding", "is", "an", "additional", "technique", "discussed", "in", "Section", "5", "below", ".", "-RRB-", "A", "number", "of", "defenses", "and", "attacks", "upon", "machine", "learning", "algorithms", "hinge", "upon", "the", "types", "of", "information", "available", "to", "the", "adversary", ".", "Some", "of", "these", "involve", "information", "about", "the", "decision", "boundary", ".", "Below", "we", "consider", "factors", "that", "influence", "the", "security", "and", "secrecy", "of", "the", "decision", "boundary", ".", "5.2", "Scale", "of", "Training", "Some", "machine", "learning", "systems", "are", "trained", "by", "the", "end", "user", ",", "while", "others", "are", "trained", "using", "data", "from", "many", "users", "or", "organizations", ".", "The", "choice", "between", "these", "two", "models", "is", "sometimes", "cast", "as", "a", "tradeoff", "between", "the", "amount", "of", "training", "data", "and", "the", "secrecy", "of", "the", "resulting", "classifier", "-LSB-", "3", "-RSB-", ".", "This", "issue", "also", "applies", "to", "an", "IDS", ";", "if", "an", "IDS", "is", "trained", "each", "time", "it", "is", "deployed", "then", "it", "will", "have", "comparatively", "little", "data", "regarding", "normal", "network", "traffic", ".", "It", "will", "also", "have", "no", "chance", "to", "learn", "about", "novel", "intrusions", "before", "seeing", "them", "in", "the", "wild", ".", "Conversely", ",", "an", "IDS", "that", "uses", "a", "global", "set", "of", "rules", "would", "be", "able", "to", "adapt", "to", "novel", "intrusion", "attempts", "more", "quickly", ".", "Unfortunately", ",", "any", "adversary", "with", "access", "to", "a", "public", "IDS", "classification", "function", "can", "test", "to", "ensure", "that", "its", "intrusion", "points", "will", "be", "accepted", "by", "deployments", "of", "the", "same", "classification", "function", ".", "These", "issues", "are", "instances", "of", "a", "more", "general", "problem", ".", "In", "some", "cases", ",", "it", "seems", "reasonable", "to", "assume", "the", "adversary", "has", "little", "access", "to", "information", "available", "to", "the", "learner", ".", "However", ",", "unless", "the", "adversary", "has", "no", "prior", "knowledge", "about", "the", "learning", "problem", "at", "hand", ",", "we", "can", "not", "assume", "all", "of", "the", "information", "provided", "in", "the", "training", "set", "is", "secret", ".", "Therefore", ",", "it", "is", "unclear", "how", "much", "is", "gained", "by", "attempting", "to", "keep", "the", "training", "set", ",", "and", "therefore", "the", "state", "of", "the", "classifier", ",", "secret", ".", "Many", "systems", "already", "attempt", "to", "achieve", "a", "balance", "between", "global", "and", "local", "retraining", "-LSB-", "3", "-RSB-", ".", "Systems", "that", "take", "this", "approach", "have", "the", "potential", "to", "outperform", "systems", "that", "perform", "training", "at", "a", "single", "level", ".", "However", ",", "the", "relationships", "between", "multilevel", "training", ",", "the", "adversary", "'s", "domain", "knowledge", ",", "and", "secrecy", "are", "not", "yet", "well", "understood", ".", "5.2.1", "Adversary", "Observations", "Even", "without", "prior", "knowledge", "regarding", "a", "particular", "system", ",", "an", "adversary", "still", "may", "deduce", "the", "state", "of", "the", "learning", "algorithm", ".", "For", "example", ",", "if", "the", "learning", "system", "provides", "feedback", "to", "the", "adversary", "-LRB-", "e.g.", ",", "``", "Request", "denied", "''", "-RRB-", ",", "then", "a", "probing", "attack", "could", "be", "used", "to", "map", "the", "space", "of", "acceptable", "inputs", ".", "If", "the", "adversary", "has", "no", "information", "regarding", "the", "type", "of", "decision", "boundary", "used", "by", "the", "learner", ",", "this", "process", "could", "require", "a", "number", "of", "probes", "proportional", "to", "the", "size", "of", "the", "space", ".", "On", "the", "other", "hand", ",", "if", "the", "adversary", "knows", "which", "learning", "algorithm", "is", "being", "used", ",", "a", "few", "well-chosen", "probes", "could", "give", "the", "adversary", "sufficient", "knowledge", "of", "the", "learner", "'s", "state", ".", "As", "a", "standard", "security", "practice", ",", "we", "assume", "the", "learning", "algorithm", "itself", "to", "be", "common", "knowledge", ".", "Instead", "of", "expecting", "the", "learning", "algorithm", "to", "be", "a", "secret", ",", "some", "systems", "attempt", "to", "prevent", "the", "adversary", "from", "discovering", "the", "set", "of", "features", "the", "learning", "algorithm", "uses", ".", "This", "may", "be", "realistic", "in", "systems", "with", "a", "small", "number", "of", "deployments", ".", "Ideally", ",", "we", "could", "produce", "an", "information", "theoretic", "bound", "on", "the", "amount", "of", "information", "an", "adversary", "could", "gain", "by", "observing", "the", "behavior", "of", "a", "particular", "algorithm", "on", "a", "particular", "point", ".", "Using", "these", "bounds", ",", "we", "could", "reason", "about", "the", "algorithm", "'s", "robustness", "against", "probing", "attacks", ".", "In", "this", "setting", ",", "it", "may", "also", "be", "interesting", "to", "distinguish", "between", "information", "gained", "from", "normal", "points", "drawn", "from", "the", "data", "'s", "underlying", "distribution", ",", "intrusion", "points", "from", "a", "third", "party", ",", "and", "-LRB-", "normal", "or", "intrusion", "-RRB-", "attack", "points", "of", "the", "adversary", "'s", "choosing", ".", "An", "adversary", "with", "sufficient", "information", "regarding", "training", "data", ",", "classifications", "of", "data", "points", ",", "or", "the", "internal", "state", "of", "a", "learner", "would", "be", "able", "to", "deduce", "the", "learner", "'s", "decision", "boundary", ".", "This", "knowledge", "could", "simplify", "other", "types", "of", "attacks", ".", "For", "instance", ",", "the", "adversary", "could", "avoid", "detection", "by", "choosing", "intrusion", "points", "that", "will", "be", "misclassified", "by", "the", "learner", ",", "or", "launch", "an", "availability", "attack", "by", "manipulating", "normal", "points", "in", "a", "way", "that", "leads", "to", "misclassification", ".", "In", "either", "case", ",", "by", "increasing", "the", "number", "of", "points", "that", "are", "in", "the", "region", "that", "the", "defender", "incorrectly", "classifies", ",", "the", "adversary", "could", "increase", "the", "error", "rate", ".", "Some", "algorithms", "classify", "points", "by", "translating", "them", "into", "an", "abstract", "space", "and", "performing", "the", "actual", "classification", "in", "that", "space", ".", "The", "mapping", "between", "raw", "data", "and", "the", "abstract", "space", "is", "often", "difficult", "to", "reason", "about", ".", "Therefore", ",", "it", "may", "be", "computationally", "difficult", "for", "an", "adversary", "to", "use", "knowledge", "of", "a", "classifier", "'s", "decision", "boundary", "to", "generate", "``", "interesting", "''", "attack", "points", "that", "will", "be", "misclassified", ".", "One", "can", "imagine", "classes", "of", "decision", "boundaries", "that", "are", "meaningful", ",", "yet", "provably", "provide", "an", "adversary", "with", "no", "information", "regarding", "unclassified", "points", ".", "Even", "with", "complete", "knowledge", "of", "the", "state", "of", "a", "learner", "that", "uses", "such", "a", "decision", "boundary", ",", "it", "would", "be", "computationally", "intractable", "to", "find", "0", "one", "of", "a", "few", "``", "interesting", "''", "points", "in", "a", "sufficiently", "large", "search", "space", ".", "In", "some", "cases", ",", "the", "decision", "boundary", "itself", "may", "contain", "sensitive", "information", ".", "For", "example", ",", "knowledge", "of", "the", "boundary", "may", "allow", "an", "adversary", "to", "infer", "confidential", "information", "about", "the", "training", "set", ".", "Alternatively", ",", "the", "way", "the", "decision", "boundary", "was", "constructed", "might", "be", "a", "secret", ".", "5.2.2", "Security", "Properties", "The", "performance", "of", "different", "algorithms", "will", "likely", "degrade", "differently", "as", "the", "adversary", "controls", "larger", "fractions", "of", "the", "training", "set", ".", "A", "measurement", "of", "an", "algorithm", "'s", "ability", "to", "deal", "with", "malicious", "training", "errors", "could", "help", "system", "designers", "reason", "about", "and", "decide", "between", "different", "learners", ".", "A", "simple", "approach", "would", "be", "to", "characterize", "an", "algorithm", "'s", "performance", "when", "subjected", "to", "a", "particular", "type", "of", "attack", ",", "but", "this", "would", "lead", "to", "an", "arms", "race", "as", "adversaries", "devise", "classes", "of", "attacks", "not", "well", "represented", "during", "the", "evaluation", "of", "the", "algorithm", ".", "Depending", "on", "the", "exact", "nature", "of", "the", "classification", "problem", ",", "it", "may", "be", "possible", "to", "make", "statements", "regarding", "the", "strength", "of", "predictions", ".", "For", "example", ",", "after", "making", "a", "classification", "a", "learning", "algorithm", "could", "examine", "the", "training", "set", "for", "that", "classification", ".", "It", "could", "measure", "the", "effect", "of", "small", "changes", "to", "that", "training", "set", ";", "if", "small", "changes", "generate", "large", "effects", ",", "the", "training", "set", "is", "more", "vulnerable", "to", "manipulation", ".", "In", "this", "section", "we", "present", "an", "analytic", "model", "that", "examines", "a", "causative", "attack", "to", "manipulate", "a", "naive", "learning", "algorithm", ".", "The", "model", "'s", "simplicity", "yields", "an", "optimal", "policy", "for", "the", "adversary", "and", "a", "bound", "on", "the", "effort", "required", "to", "achieve", "the", "adversary", "'s", "objective", ".", "We", "interpret", "the", "resulting", "bound", "and", "discuss", "possible", "extensions", "to", "this", "model", "to", "capture", "more", "realistic", "settings", ".", "We", "discuss", "an", "outlier", "detection", "technique", ".", "Outlier", "detection", "is", "the", "task", "of", "identifying", "anomalous", "data", "and", "is", "a", "widely", "used", "paradigm", "in", "fault", "detection", "-LSB-", "40", "-RSB-", ",", "intrusion", "detection", "-LSB-", "23", "-RSB-", ",", "and", "virus", "detection", "-LSB-", "33", ",", "34", "-RSB-", ".", "We", "find", "the", "smallest", "region", "that", "contains", "some", "fixed", "percentage", "of", "the", "observed", "data", ",", "which", "is", "called", "the", "support", "of", "the", "data", "'s", "distribution", ".", "The", "outlier", "detector", "classifies", "points", "inside", "the", "support", "as", "normal", "and", "those", "outside", "as", "anomalous", ".", "Outlier", "detection", "is", "often", "used", "in", "scenarios", "where", "anomalous", "data", "is", "scarce", "or", "novel", "anomalies", "could", "arise", ".", "6.1", "A", "Simple", "Model", "One", "simple", "approach", "to", "outlier", "detection", "is", "to", "estimate", "the", "support", "of", "the", "normal", "data", "by", "a", "multi-dimensional", "hypersphere", ".", "As", "depicted", "in", "Figure", "1", "-LRB-", "a", "-RRB-", "every", "point", "in", "the", "hypersphere", "is", "classified", "as", "normal", "and", "those", "outside", "the", "hypersphere", "are", "classified", "as", "outliers", ".", "The", "training", "algorithm", "fixes", "the", "radius", "of", "the", "hypersphere", "and", "centers", "it", "at", "the", "mean", "of", "the", "training", "data", ".", "The", "hypersphere", "can", "be", "fit", "into", "the", "learning", "framework", "presented", "above", "by", "a", "squared", "loss", "function", ",", "sphere", "-LRB-", "X", ",", "x", "i", "-RRB-", "=", "`", "x", "i", "-", "X", "2", ",", "where", "X", "is", "the", "centroid", "of", "the", "data", "-LCB-", "x", "i", "-RCB-", ".", "It", "is", "easy", "to", "show", "that", "the", "parameter", "that", "minimizes", "Equation", "-LRB-", "1", "-RRB-", "is", "the", "mean", "of", "the", "training", "data", ".", "To", "make", "the", "hypersphere", "adaptive", ",", "the", "hypersphere", "is", "retrained", "on", "new", "data", "allowing", "for", "a", "repeated", "attack", ".", "To", "prevent", "arbitrary", "data", "from", "being", "introduced", ",", "we", "employ", "a", "conservative", "retraining", "strategy", "that", "only", "admits", "new", "points", "to", "the", "training", "set", "if", "they", "are", "classified", "as", "normal", ";", "we", "say", "the", "classifier", "bootstraps", "itself", ".", "This", "learning", "framework", "is", "not", "meant", "to", "represent", "the", "state", "of", "the", "art", "in", "learning", "techniques", ";", "instead", ",", "it", "is", "a", "illustrative", "technique", "that", "allows", "for", "an", "exact", "analysis", ".", "6.2", "Attack", "Strategy", "The", "attack", "we", "analyze", "involves", "an", "adversary", "determined", "to", "alter", "our", "detector", "to", "include", "a", "specific", "point", "G", "by", "constructing", "data", "to", "shift", "the", "hypersphere", "toward", "the", "target", "as", "the", "hypersphere", "is", "retrained", ".", "We", "assume", "the", "goal", "G", "is", "initially", "correctly", "classified", "as", "an", "anomaly", "by", "our", "algorithm", ".", "For", "instance", ",", "in", "the", "IDS", "domain", ",", "the", "adversary", "has", "an", "intrusion", "packet", "that", "our", "detector", "currently", "classifies", "as", "anomalous", ".", "The", "adversary", "wants", "to", "change", "the", "state", "of", "our", "detector", "to", "misclassify", "the", "packet", "as", "normal", ".", "This", "scenario", "is", "a", "causative", "targeted", "integrity", "attack", ".", "Before", "the", "attack", ",", "the", "hypersphere", "is", "centered", "at", "X", "0", "and", "it", "has", "a", "fixed", "radius", "R", ".", "The", "attack", "is", "iterated", "over", "the", "course", "of", "T", ">", "1", "training", "iterations", ".", "At", "the", "i-th", "iteration", "the", "mean", "of", "the", "hypersphere", "is", "denoted", "by", "X", "i", ".", "We", "give", "the", "adversary", "complete", "control", ":", "the", "adversary", "knows", "the", "algorithm", ",", "its", "feature", "set", ",", "and", "its", "current", "state", ",", "and", "all", "points", "are", "attack", "points", ".", "At", "each", "iteration", ",", "the", "bootstrapping", "policy", "retrains", "on", "all", "points", "that", "were", "classified", "as", "normal", "in", "a", "previous", "iteration", ".", "Under", "this", "policy", ",", "the", "adversary", "'s", "optimal", "strategy", "is", "straightforward", "--", "as", "depicted", "in", "Figure", "1", "-LRB-", "b", "-RRB-", "the", "adversary", "places", "points", "at", "the", "location", "where", "the", "line", "between", "the", "mean", "and", "G", "intersects", "with", "the", "boundary", ".", "This", "reduces", "the", "attack", "to", "a", "single", "dimension", "along", "this", "line", ".", "Suppose", "that", "in", "the", "i-th", "iteration", ",", "the", "adversary", "strategically", "places", "i", "points", "at", "the", "i-th", "optimal", "location", "achieving", "optimal", "displacement", "of", "the", "mean", "toward", "the", "adversary", "'s", "goal", ",", "G", ".", "The", "effort", "of", "the", "adversary", "is", "measured", "by", "M", "defined", "as", "P", "T", "i", "=", "1", "i", ".", "Placing", "all", "attack", "points", "in", "the", "first", "iteration", "is", "not", "optimal", ".", "It", "achieves", "a", "finite", "shift", "while", "optimal", "strategies", "achieve", "unbounded", "gains", ".", "As", "we", "discuss", "below", ",", "the", "attack", "strategy", "must", "be", "balanced", ".", "The", "more", "points", "placed", "during", "an", "iteration", ",", "the", "further", "the", "hypersphere", "is", "displaced", "on", "that", "iteration", ".", "However", ",", "the", "points", "placed", "early", "in", "the", "attack", "effectively", "weigh", "down", "the", "hypersphere", "making", "it", "more", "difficult", "to", "move", ".", "The", "adversary", "must", "balance", "current", "gain", "against", "future", "gain", ".", "Another", "tradeoff", "is", "the", "number", "of", "rounds", "of", "iteration", "versus", "the", "total", "effort", ".", "6.3", "Optimal", "Attack", "Displacement", "We", "calculate", "the", "displacement", "caused", "by", "a", "sequence", "-LCB-", "i", "-RCB-", "of", "attack", "points", ".", "For", "T", "iterations", "and", "M", "total", "attack", "points", ",", "the", "function", "D", "R", ",", "T", "-LRB-", "-LCB-", "i", "-RCB-", "-RRB-", "denotes", "the", "relative", "displacement", "caused", "by", "the", "attack", "sequence", ".", "The", "relative", "displacement", "is", "the", "total", "displacement", "over", "the", "radius", "of", "the", "hypersphere", ",", "X", "T", "-", "X", "0", "R", ".", "Let", "M", "i", "be", "defined", "as", "P", "i", "j", "=", "1", "j", ",", "the", "cumulative", "mass", ".", "Using", "these", "terms", ",", "the", "relative", "distance", "is", "D", "R", ",", "T", "-LRB-", "-LCB-", "M", "i", "-RCB-", "-RRB-", "=", "T", "T", "X", "i", "=", "2", "M", "i", "-1", "M", "i", "-LRB-", "4", "-RRB-", "-LRB-", "a", "-RRB-", "Hypersphere", "Outlier", "Detection", "-LRB-", "b", "-RRB-", "Attack", "on", "a", "Hypersphere", "Outlier", "Detector", "Figure", "1", ":", "Depictions", "of", "the", "concept", "of", "hypersphere", "outlier", "detection", "and", "the", "vulnerability", "of", "naive", "approaches", ".", "In", "Figure", "1", "-LRB-", "a", "-RRB-", "a", "bounding", "hypersphere", "centered", "at", "X", "of", "fixed", "radius", "R", "is", "used", "to", "estimate", "the", "empirical", "support", "of", "a", "distribution", "excluding", "outliers", ".", "Samples", "from", "the", "``", "normal", "''", "distribution", "being", "modeled", "are", "indicated", "by", "with", "three", "outliers", "indicated", "by", ".", "Meanwhile", ",", "Figure", "1", "-LRB-", "b", "-RRB-", "depicts", "how", "an", "adversary", "with", "knowledge", "of", "the", "state", "of", "the", "outlier", "detector", "could", "shift", "the", "outlier", "detector", "toward", "a", "first", "goal", "G", ".", "It", "could", "take", "several", "iterations", "of", "attacks", "to", "shift", "the", "hypersphere", "further", "to", "include", "the", "second", "goal", "G", ".", "where", "we", "constrain", "M", "1", "=", "1", "and", "M", "T", "=", "M", "-LSB-", "25", "-RSB-", ".", "By", "finding", "an", "upper", "bound", "to", "Equation", "-LRB-", "4", "-RRB-", ",", "we", "can", "bound", "the", "minimal", "effort", "M", "of", "the", "adversary", ".", "For", "a", "particular", "M", ",", "we", "desire", "an", "optimal", "sequence", "-LCB-", "M", "i", "-RCB-", "that", "achieves", "the", "maximum", "relative", "displacement", ",", "D", "R", ",", "T", "-LRB-", "M", "-RRB-", ".", "If", "the", "adversary", "has", "no", "time", "constraint", ",", "the", "solution", "is", "M", "i", "=", "i", ",", "which", "corresponds", "to", "placing", "a", "single", "point", "at", "each", "iteration", ".", "However", ",", "if", "the", "adversary", "expedites", "the", "attack", "to", "T", "<", "M", "iterations", ",", "the", "optimal", "strategy", "is", "given", "by", "M", "i", "=", "M", "i", "-1", "T", "-1", ".", "This", "value", "is", "not", "always", "an", "integer", ",", "so", "we", "have", ":", "D", "R", ",", "T", "-LRB-", "M", "-RRB-", "T", "-", "-LRB-", "T", "-", "1", "-RRB-", "M", "-1", "T", "-1", "T", "-LRB-", "5", "-RRB-", "6.4", "Bounding", "the", "Adversary", "'s", "Effort", "From", "these", "results", "we", "find", "a", "bound", "on", "the", "adversary", "'s", "effort", "M", ".", "Since", "M", "1", "and", "T", ">", "1", ",", "Equation", "-LRB-", "5", "-RRB-", "is", "monotonically", "increasing", "in", "M", ".", "If", "the", "desired", "relative", "displacement", "to", "the", "goal", "is", "D", "R", ",", "the", "bound", "in", "Equation", "-LRB-", "5", "-RRB-", "can", "be", "inverted", "to", "bound", "the", "minimal", "effort", "M", "required", "to", "achieve", "the", "goal", ".", "Since", "D", "R", "<", "T", ",", "this", "bound", "is", "given", "by", ":", "M", ",", ",", "T-1", "T", "-", "D", "R", "T", "-1", "-LRB-", "6", "-RRB-", "The", "bound", "in", "Equation", "-LRB-", "6", "-RRB-", "gives", "us", "a", "worst-case", "bound", "on", "the", "adversary", "'s", "capability", "when", "the", "adversary", "has", "complete", "control", "of", "the", "learner", "'s", "training", ".", "For", "large", "relative", "displacements", "D", "R", ">", "1", ",", "the", "bound", "decreases", "exponentially", "as", "the", "number", "of", "iterations", "is", "increased", ".", "The", "bound", "has", "a", "limiting", "value", "of", "M", "e", "D", "R", "-1", ".", "The", "adversary", "must", "tradeoff", "between", "using", "a", "large", "number", "of", "attack", "points", "or", "extending", "the", "attack", "over", "many", "iterations", ".", "A", "tightly-fit", "hypersphere", "with", "small", "radius", "will", "be", "more", "robust", "since", "our", "displacement", "is", "relative", "to", "its", "radius", ".", "An", "apparent", "deficiency", "of", "this", "analysis", "is", "the", "weak", "bound", "of", "M", "where", "0", "<", "1", "that", "occurs", "when", "D", "R", "1", ".", "This", "an", "important", "range", "since", "the", "adversary", "'s", "goal", "may", "be", "near", "the", "boundary", ".", "The", "deficiency", "comes", "directly", "from", "our", "assumption", "of", "complete", "adversarial", "control", ".", "The", "lack", "of", "initial", "non-adversarial", "data", "allows", "our", "adversary", "to", "ensure", "a", "first", "step", "of", "one", "radius", "regardless", "of", "M", ".", "Therefore", ",", "the", "adversary", "can", "reach", "the", "objective", "of", "D", "R", "1", "with", "any", "M", "1", "in", "a", "single", "iteration", ".", "A", "more", "complex", "model", "could", "allow", "for", "initial", "data", ".", "By", "considering", "an", "initial", "N", "training", "points", "that", "support", "the", "hypersphere", "before", "the", "attack", ",", "we", "can", "obtain", "a", "stronger", "bound", ":", "M", "N", "he", "D", "R", "-", "1", "i", "-LRB-", "7", "-RRB-", "This", "stronger", "bound", "ensures", "that", "even", "for", "small", "D", "R", ",", "the", "adversary", "'s", "effort", "is", "a", "multiple", "of", "N", "that", "increases", "exponentially", "in", "the", "desired", "displacement", "-LSB-", "25", "-RSB-", ".", "We", "could", "extend", "the", "model", "by", "adding", "non-adversarial", "data", "at", "every", "training", "iteration", ",", "for", "this", "corresponds", "to", "scenarios", "where", "the", "adversary", "only", "controls", "part", "of", "the", "data", ".", "The", "earliest", "theoretical", "work", "we", "know", "of", "that", "approaches", "learning", "in", "the", "presence", "of", "an", "adversary", "was", "done", "by", "Kearns", "and", "Li", "-LSB-", "15", "-RSB-", ".", "They", "worked", "in", "the", "context", "of", "Valiant", "'s", "Probably", "Approximately", "Correct", "-LRB-", "PAC", "-RRB-", "learning", "framework", "-LSB-", "35", ",", "36", "-RSB-", ",", "extending", "it", "to", "prove", "bounds", "for", "maliciously", "chosen", "errors", "in", "the", "training", "data", ".", "Specifically", ",", "they", "proved", "that", "if", "the", "learner", "is", "to", "perform", "correctly", ",", "in", "general", "the", "fraction", "of", "training", "points", "controlled", "by", "the", "adversary", "must", "be", "less", "than", "/", "-LRB-", "1", "+", "-RRB-", ",", "where", "is", "the", "desired", "bound", "on", "classification", "errors", "by", "the", "learner", "-LSB-", "4", ",", "6", ",", "30", "-RSB-", ".", "Results", "from", "game", "theory", "may", "be", "relevant", "to", "adversarial", "learning", "systems", ".", "In", "particular", ",", "deception", "games", "involve", "players", "that", "have", "partial", "information", "and", "influence", "the", "information", "seen", "by", "other", "players", ".", "Some", "of", "these", "games", "involve", "continuous", "variables", "generated", "by", "various", "probability", "distributions", "-LSB-", "5", ",", "9", ",", "17", ",", "29", ",", "32", "-RSB-", ",", "while", "others", "apply", "to", "scenarios", "with", "discrete", "states", "-LSB-", "14", "-RSB-", ".", "This", "work", "and", "adversarial", "learning", "both", "ask", "many", "of", "the", "same", "questions", ",", "and", "they", "both", "address", "the", "same", "underlying", "issues", ".", "Integration", "of", "game", "theoretic", "concepts", "is", "a", "promising", "direction", "for", "work", "in", "this", "area", ".", "Dalvi", "et", "al.", "examine", "the", "learn-adapt-relearn", "cycle", "from", "a", "game-theoretic", "point", "of", "view", "-LSB-", "8", "-RSB-", ".", "In", "their", "model", ",", "the", "learner", "has", "a", "cost", "for", "measuring", "each", "feature", "of", "the", "data", "and", "the", "adversary", "has", "a", "cost", "for", "changing", "each", "feature", "in", "attack", "points", ".", "If", "the", "adversary", "and", "learner", "have", "complete", "information", "about", "each", "other", "and", "we", "accept", "some", "other", "assumptions", ",", "they", "find", "an", "optimal", "strategy", "for", "the", "learner", "to", "defend", "against", "the", "adversary", "'s", "adaptations", ".", "Research", "has", "also", "begun", "to", "examine", "the", "vulnerability", "of", "learners", "to", "reverse", "engineering", ".", "Lowd", "and", "Meek", "introduce", "a", "novel", "learning", "problem", "for", "adversarial", "classifier", "reverse", "engineering", "in", "which", "an", "adversary", "conducts", "an", "attack", "that", "minimizes", "a", "cost", "function", "-LSB-", "21", "-RSB-", ".", "Under", "their", "framework", ",", "Lowd", "and", "Meek", "construct", "algorithms", "for", "reverse", "engineering", "linear", "classifiers", ".", "Moreover", ",", "they", "build", "an", "attack", "to", "reverse", "engineer", "spam", "filters", "-LSB-", "22", "-RSB-", ".", "Although", "they", "are", "not", "machine", "learning", "systems", ",", "publicly", "verifiable", "digital", "watermarks", "also", "must", "deal", "with", "sensitivity", "-LRB-", "probing", "-RRB-", "attacks", ".", "An", "information", "theoretic", "analysis", "of", "the", "sensitivity", "attack", "quantifies", "the", "amount", "of", "information", "revealed", "per", "probe", ".", "Randomization", "of", "thresholds", "within", "the", "watermark", "verification", "algorithm", "increase", "the", "number", "of", "probes", "necessary", "to", "remove", "a", "digital", "watermark", "-LSB-", "19", "-RSB-", ".", "An", "interesting", "junction", "of", "learning", "and", "game", "theory", "has", "dealt", "with", "combining", "advice", "from", "a", "set", "of", "experts", "to", "predict", "a", "sequence", "with", "the", "goal", "of", "doing", "at", "least", "as", "well", "as", "the", "best", "expert", "in", "all", "possible", "sequences", "-LSB-", "7", ",", "13", ",", "37", "-RSB-", ".", "In", "this", "domain", ",", "adaptive", "weighting", "schemes", "are", "used", "to", "combine", "the", "experts", ",", "each", "accessed", "by", "how", "well", "it", "performs", "compared", "to", "the", "best", "expert", "for", "an", "adversarially", "chosen", "sequence", ".", "Amongst", "these", "schemes", "are", "the", "Aggregating", "Algorithm", "-LSB-", "37", "-RSB-", "and", "the", "Weighted", "Majority", "Algorithm", "-LSB-", "20", "-RSB-", ".", "There", "has", "also", "been", "work", "on", "attacking", "statistical", "spam", "filters", ".", "Wittel", "and", "Wu", "-LSB-", "39", "-RSB-", "discuss", "the", "possibility", "of", "crafting", "attacks", "designed", "to", "take", "advantage", "of", "the", "statistical", "nature", "of", "such", "spam", "filters", ",", "and", "they", "implement", "a", "simple", "attack", ".", "John", "Graham-Cumming", "describes", "implementing", "an", "attack", "he", "calls", "``", "Bayes", "vs.", "Bayes", ",", "''", "in", "which", "the", "adversary", "trains", "a", "second", "statistical", "spam", "filter", "based", "on", "feedback", "from", "the", "filter", "under", "attack", "and", "then", "uses", "the", "second", "filter", "to", "find", "words", "that", "make", "spam", "messages", "undetectable", "by", "the", "original", "filter", "-LSB-", "10", "-RSB-", ".", "Methods", "exist", "to", "perform", "exact", "learning", "of", "a", "concept", "using", "answers", "to", "a", "series", "of", "queries", ".", "These", "queries", "return", "a", "coun-terexample", "when", "a", "``", "no", "''", "response", "is", "generated", ".", "In", "many", "scenarios", ",", "it", "has", "been", "shown", "that", "learning", "is", "possible", "even", "in", "the", "worst", "case", "-LSB-", "2", "-RSB-", ".", "Control", "theory", "has", "been", "proposed", "as", "an", "alternative", "to", "game", "theory", "and", "search", "oriented", "expert-systems", "for", "military", "command", "and", "control", "systems", "-LSB-", "12", "-RSB-", ".", "The", "motivation", "behind", "this", "proposal", "is", "the", "difficulty", "associated", "with", "modeling", "-LRB-", "or", "even", "predicting", "-RRB-", "the", "goals", "of", "a", "military", "adversary", ".", "7.2", "Research", "Directions", "Can", "machine", "learning", "be", "secure", "?", "Does", "adding", "machine", "learning", "to", "a", "system", "introduce", "vulnerability", "?", "This", "paper", "proposes", "a", "framework", "for", "understanding", "these", "questions", ".", "We", "present", "a", "model", "for", "describing", "attacks", "against", "learning", "algorithms", ",", "and", "we", "analyze", "a", "simple", "attack", "in", "detail", ".", "We", "discuss", "potential", "defenses", "against", "attacks", "and", "speculate", "about", "their", "effectiveness", ".", "Here", "we", "lay", "out", "the", "directions", "for", "research", "that", "we", "see", "as", "most", "promising", ".", "To", "evaluate", "and", "ensure", "the", "security", "of", "machine", "learning", ",", "these", "are", "among", "the", "most", "important", "areas", "that", "must", "be", "addressed", ":", "Information", "How", "crucial", "is", "it", "to", "keep", "information", "secret", "from", "an", "adversary", "?", "If", "an", "adversary", "has", "full", "knowledge", "of", "the", "system", ",", "are", "all", "the", "exploratory", "attacks", "trivial", "?", "If", "the", "adversary", "has", "no", "knowledge", "about", "the", "system", ",", "which", "attacks", "are", "still", "possible", "?", "Arms", "race", "Can", "we", "avoid", "arms", "races", "in", "online", "learning", "systems", "?", "Arms", "races", "have", "occurred", "in", "spam", "filters", ".", "Can", "game", "theory", "suggest", "a", "strategy", "for", "secure", "re-training", "?", "Quantitative", "measurement", "Can", "we", "measure", "the", "effects", "of", "attacks", "?", "Such", "information", "would", "allow", "comparison", "of", "the", "security", "performance", "of", "learning", "algorithms", ".", "We", "could", "calculate", "risk", "based", "on", "probability", "and", "damage", "assessments", "of", "attacks", ".", "Security", "proofs", "Can", "we", "bound", "the", "amount", "of", "information", "leaked", "by", "the", "learner", "?", "If", "so", ",", "we", "can", "bound", "the", "accuracy", "of", "the", "adversary", "'s", "approximation", "of", "the", "learner", "'s", "current", "state", ".", "Detecting", "adversaries", "Attacks", "introduce", "potentially", "detectable", "side", "effects", "such", "as", "drift", ",", "unusual", "patterns", "in", "the", "data", "observed", "by", "the", "learner", ",", "etc.", ".", "These", "attacks", "are", "more", "pronounced", "in", "online", "learning", ".", "When", "do", "these", "side", "effects", "reveal", "the", "adversary", "'s", "attack", "?", "Thanks", "to", "Michael", "I.", "Jordan", ",", "Peter", "Bartlett", "and", "David", "Mol-nar", "for", "their", "insightful", "discussions", "and", "comments", "regarding", "this", "work", ".", "We", "gratefully", "acknowledge", "support", "from", "the", "National", "Science", "Foundation", "and", "the", "Homeland", "Security", "Advanced", "Research", "Projects", "Agency", ".", "The", "views", "expressed", "here", "are", "solely", "those", "of", "the", "authors", "and", "do", "not", "necessarily", "reflect", "the", "views", "of", "the", "funding", "agencies", "or", "any", "agency", "of", "the", "U.S.", "government", ".", "-LSB-", "1", "-RSB-", "I.", "Androutsopoulos", ",", "J.", "Koutsias", ",", "K.", "V.", "Chandrinos", ",", "G.", "Paliouras", ",", "and", "C.", "D.", "Spyropolous", ".", "An", "evaluation", "of", "naive", "Bayesian", "anti-spam", "filtering", ".", "Proceedings", "of", "the", "Workshop", "on", "Machine", "Learning", "in", "the", "New", "Information", "Age", ",", "pages", "9", "17", ",", "2000", ".", "-LSB-", "2", "-RSB-", "D.", "Angluin", ".", "Queries", "and", "concept", "learning", ".", "Machine", "Learning", ",", "2", "-LRB-", "4", "-RRB-", ":", "319", "342", ",", "Apr.", "1988", ".", "-LSB-", "3", "-RSB-", "Apache", ",", "http://spamassassin.apache.org/", ".", "SpamAssassin", ".", "-LSB-", "4", "-RSB-", "P.", "Auer", ".", "Learning", "nested", "differences", "in", "the", "presence", "of", "malicious", "noise", ".", "Theoretical", "Computer", "Science", ",", "185", "-LRB-", "1", "-RRB-", ":", "159", "175", ",", "1997", ".", "-LSB-", "5", "-RSB-", "V.", "J.", "Baston", "and", "F.", "Bostock", ".", "Deception", "games", ".", "International", "Journal", "of", "Game", "Theory", ",", "17", "-LRB-", "2", "-RRB-", ":", "129", "134", ",", "1988", ".", "-LSB-", "6", "-RSB-", "N.", "H.", "Bshouty", ",", "N.", "Eiron", ",", "and", "E.", "Kushilevitz", ".", "PAC", "learning", "with", "nasty", "noise", ".", "Theoretical", "Computer", "Science", ",", "288", "-LRB-", "2", "-RRB-", ":", "255", "275", ",", "2002", ".", "-LSB-", "7", "-RSB-", "N.", "Cesa-Bianchi", ",", "Y.", "Freund", ",", "D.", "P.", "Helmbold", ",", "D.", "Haussler", ",", "R.", "E.", "Schapire", ",", "and", "M.", "K.", "Warmuth", ".", "How", "to", "use", "expert", "advice", ".", "Journal", "of", "the", "ACM", ",", "44", "-LRB-", "3", "-RRB-", ":", "427", "485", ",", "May", "1997", ".", "-LSB-", "8", "-RSB-", "N.", "Dalvi", ",", "P.", "Domingos", ",", "Mausam", ",", "S.", "Sanghai", ",", "and", "D.", "Verma", ".", "Adversarial", "classification", ".", "In", "Proceedings", "of", "the", "Tenth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "99", "108", ",", "Seattle", ",", "WA", ",", "2004", ".", "ACM", "Press", ".", "-LSB-", "9", "-RSB-", "B.", "Fristedt", ".", "The", "deceptive", "number", "changing", "game", "in", "the", "absence", "of", "symmetry", ".", "International", "Journal", "of", "Game", "Theory", ",", "26:183", "191", ",", "1997", ".", "-LSB-", "10", "-RSB-", "J.", "Graham-Cumming", ".", "How", "to", "beat", "an", "adaptive", "spam", "filter", ".", "Presentation", "at", "the", "MIT", "Spam", "Conference", ",", "Jan.", "2004", ".", "-LSB-", "11", "-RSB-", "T.", "Hastie", ",", "R.", "Tibshirani", ",", "and", "J.", "Friedman", ".", "The", "Elements", "of", "Statistical", "Learning", ":", "Data", "Mining", ",", "Inference", "and", "Prediction", ".", "Springer", ",", "2003", ".", "-LSB-", "12", "-RSB-", "S.", "A.", "Heise", "and", "H.", "S.", "Morse", ".", "The", "DARPA", "JFACC", "program", ":", "Modeling", "and", "control", "of", "military", "operations", ".", "In", "Proceedings", "of", "the", "39th", "IEEE", "Conference", "on", "Decision", "and", "Control", ",", "pages", "2551", "2555", ".", "IEEE", ",", "2000", ".", "-LSB-", "13", "-RSB-", "M.", "Herbster", "and", "M.", "K.", "Warmuth", ".", "Tracking", "the", "best", "expert", ".", "Machine", "Learning", ",", "32", "-LRB-", "2", "-RRB-", ":", "151", "178", ",", "Aug.", "1998", ".", "-LSB-", "14", "-RSB-", "J.", "P.", "Hespanha", ",", "Y.", "S.", "Ate", "skan", ",", "and", "H.", "H.", "Kizilocak", ".", "Deception", "in", "non-cooperative", "games", "with", "partial", "information", ".", "In", "Proceedings", "of", "the", "2nd", "DARPA-JFACC", "Symposium", "on", "Advances", "in", "Enterprise", "Control", ",", "2000", ".", "-LSB-", "15", "-RSB-", "M.", "Kearns", "and", "M.", "Li", ".", "Learning", "in", "the", "presence", "of", "malicious", "errors", ".", "SIAM", "Journal", "on", "Computing", ",", "22:807", "837", ",", "1993", ".", "-LSB-", "16", "-RSB-", "A.", "Lazarevic", ",", "L.", "Ert", "oz", ",", "V.", "Kumar", ",", "A.", "Ozgur", ",", "and", "J.", "Srivastava", ".", "A", "comparative", "study", "of", "anomaly", "detection", "schemes", "in", "network", "intrusion", "detection", ".", "In", "D.", "Barbar", "a", "and", "C.", "Kamath", ",", "editors", ",", "Proceedings", "of", "the", "Third", "SIAM", "International", "Conference", "on", "Data", "Mining", ",", "May", "2003", ".", "-LSB-", "17", "-RSB-", "K.-T", ".", "Lee", ".", "On", "a", "deception", "game", "with", "three", "boxes", ".", "International", "Journal", "of", "Game", "Theory", ",", "22:89", "95", ",", "1993", ".", "-LSB-", "18", "-RSB-", "Y.", "Liao", "and", "V.", "R.", "Vemuri", ".", "Using", "text", "categorization", "techniques", "for", "intrusion", "detection", ".", "In", "Proceedings", "of", "the", "11th", "USENIX", "Security", "Symposium", ",", "pages", "51", "59", ",", "Aug.", "2002", ".", "-LSB-", "19", "-RSB-", "J.-P", ".", "M.", "Linnartz", "and", "M.", "van", "Dijk", ".", "Analysis", "of", "the", "sensitivity", "attack", "against", "electronic", "watermarks", "in", "images", ".", "In", "D.", "Aucsmith", ",", "editor", ",", "Information", "Hiding", "'", "98", ",", "pages", "258", "272", ".", "Springer-Verlag", ",", "1998", ".", "-LSB-", "20", "-RSB-", "N.", "Littlestone", "and", "M.", "K.", "Warmuth", ".", "The", "weighted", "majority", "algorithm", ".", "Information", "and", "Computation", ",", "108", "-LRB-", "2", "-RRB-", ":", "212", "261", ",", "1994", ".", "-LSB-", "21", "-RSB-", "D.", "Lowd", "and", "C.", "Meek", ".", "Adversarial", "learning", ".", "In", "Proceedings", "of", "the", "Eleventh", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "641", "647", ",", "2005", ".", "-LSB-", "22", "-RSB-", "D.", "Lowd", "and", "C.", "Meek", ".", "Good", "word", "attacks", "on", "statistical", "spam", "filters", ".", "In", "Proceedings", "of", "the", "Second", "Conference", "on", "Email", "and", "Anti-Spam", "-LRB-", "CEAS", "-RRB-", ",", "2005", ".", "-LSB-", "23", "-RSB-", "M.", "V.", "Mahoney", "and", "P.", "K.", "Chan", ".", "Learning", "nonstationary", "models", "of", "normal", "network", "traffic", "for", "detecting", "novel", "attacks", ".", "In", "Proceedings", "of", "the", "Eighth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "376", "385", ",", "2002", ".", "-LSB-", "24", "-RSB-", "S.", "Mukkamala", ",", "G.", "Janoski", ",", "and", "A.", "Sung", ".", "Intrusion", "detection", "using", "neural", "networks", "and", "support", "vector", "machines", ".", "In", "Proceedings", "of", "the", "International", "Joint", "Conference", "on", "Neural", "Networks", "-LRB-", "IJCNN", "'", "02", "-RRB-", ",", "pages", "1702", "1707", ",", "2002", ".", "-LSB-", "25", "-RSB-", "B.", "Nelson", ".", "Designing", ",", "Implementing", ",", "and", "Analyzing", "a", "System", "for", "Virus", "Detection", ".", "Master", "'s", "thesis", ",", "University", "of", "California", "at", "Berkeley", ",", "Dec.", "2005", ".", "-LSB-", "26", "-RSB-", "V.", "Paxson", ".", "Bro", ":", "A", "system", "for", "detecting", "network", "intruders", "in", "real-time", ".", "Computer", "Networks", ",", "31", "-LRB-", "23", "-RRB-", ":", "2435", "2463", ",", "Dec.", "1999", ".", "-LSB-", "27", "-RSB-", "N.", "Provos", ".", "A", "virtual", "honeypot", "framework", ".", "In", "Proceedings", "of", "the", "13th", "USENIX", "Security", "Symposium", ",", "2004", ".", "-LSB-", "28", "-RSB-", "R.", "Raina", ",", "A.", "Y.", "Ng", ",", "and", "D.", "Koller", ".", "Transfer", "learning", "by", "constructing", "informative", "priors", ".", "In", "Neural", "Information", "Processing", "Systems", "Workshop", "on", "Inductive", "Transfer", ":", "10", "Years", "Later", ",", "2005", ".", "-LSB-", "29", "-RSB-", "M.", "Sakaguchi", ".", "Effect", "of", "correlation", "in", "a", "simple", "deception", "game", ".", "Mathematica", "Japonica", ",", "35", "-LRB-", "3", "-RRB-", ":", "527", "536", ",", "1990", ".", "-LSB-", "30", "-RSB-", "R.", "A.", "Servedio", ".", "Smooth", "boosting", "and", "learning", "with", "malicious", "noise", ".", "Journal", "of", "Machine", "Learning", "Research", "-LRB-", "JMLR", "-RRB-", ",", "4:633", "648", ",", "Sept.", "2003", ".", "-LSB-", "31", "-RSB-", "J.", "Shawe-Taylor", "and", "N.", "Cristianini", ".", "Kernel", "Methods", "for", "Pattern", "Analysis", ".", "Cambridge", "University", "Press", ",", "2004", ".", "-LSB-", "32", "-RSB-", "J.", "Spencer", ".", "A", "deception", "game", ".", "American", "Math", "Monthly", ",", "80:416", "417", ",", "1973", ".", "-LSB-", "33", "-RSB-", "S.", "J.", "Stolfo", ",", "S.", "Hershkop", ",", "K.", "Wang", ",", "O.", "Nimeskern", ",", "and", "C.", "W.", "Hu", ".", "A", "behavior-based", "approach", "to", "secure", "email", "systems", ".", "In", "Mathematical", "Methods", ",", "Models", "and", "Architectures", "for", "Computer", "Networks", "Security", ",", "2003", ".", "-LSB-", "34", "-RSB-", "S.", "J.", "Stolfo", ",", "W.", "J.", "Li", ",", "S.", "Hershkop", ",", "K.", "Wang", ",", "C.", "W.", "Hu", ",", "and", "O.", "Nimeskern", ".", "Detecting", "viral", "propagations", "using", "email", "behavior", "profiles", ".", "In", "ACM", "Transactions", "on", "Internet", "Technology", ",", "2004", ".", "-LSB-", "35", "-RSB-", "L.", "G.", "Valiant", ".", "A", "theory", "of", "the", "learnable", ".", "Communications", "of", "the", "ACM", ",", "27", "-LRB-", "11", "-RRB-", ":", "1134", "1142", ",", "Nov.", "1984", ".", "-LSB-", "36", "-RSB-", "L.", "G.", "Valiant", ".", "Learning", "disjunctions", "of", "conjunctions", ".", "In", "Proceedings", "of", "the", "9th", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", ",", "pages", "560", "566", ",", "1985", ".", "-LSB-", "37", "-RSB-", "V.", "Vovk", ".", "Aggregating", "strategies", ".", "In", "M.", "Fulk", "and", "J.", "Case", ",", "editors", ",", "Proceedings", "of", "the", "7th", "Annual", "Workshop", "on", "Computational", "Learning", "Theory", ",", "pages", "371", "383", ",", "San", "Mateo", ",", "CA", ",", "1990", ".", "Morgan-Kaufmann", ".", "-LSB-", "38", "-RSB-", "L.", "Wehenkel", ".", "Machine", "learning", "approaches", "to", "power", "system", "security", "assessment", ".", "IEEE", "Intelligent", "Systems", "and", "Their", "Applications", ",", "12", "-LRB-", "5", "-RRB-", ":", "60", "72", ",", "Sept.", "Oct.", "1997", ".", "-LSB-", "39", "-RSB-", "G.", "L.", "Wittel", "and", "S.", "F.", "Wu", ".", "On", "attacking", "statistical", "spam", "filters", ".", "In", "Proceedings", "of", "the", "First", "Conference", "on", "Email", "and", "Anti-Spam", "-LRB-", "CEAS", "-RRB-", ",", "2004", ".", "-LSB-", "40", "-RSB-", "W.", "Xu", ",", "P.", "Bodik", ",", "and", "D.", "Patterson", ".", "A", "flexible", "architecture", "for", "statistical", "learning", "and", "data", "mining", "from", "system", "log", "streams", ".", "In", "Temporal", "Data", "Mining", ":", "Algorithms", ",", "Theory", "and", "Applications", ",", "Brighton", ",", "UK", ",", "Nov.", "2004", ".", "The", "Fourth", "IEEE", "International", "Conference", "on", "Data", "Mining", ".", "-LSB-", "41", "-RSB-", "D.-Y", ".", "Yeung", "and", "C.", "Chow", ".", "Parzen-window", "network", "intrusion", "detectors", ".", "In", "Proceedings", "of", "the", "Sixteenth", "International", "Conference", "on", "Pattern", "Recognition", ",", "pages", "385", "388", ",", "Aug.", "2002", ".", "-LSB-", "42", "-RSB-", "K.", "Yu", "and", "V.", "Tresp", ".", "Learning", "to", "learn", "and", "collaborative", "filtering", ".", "In", "Neural", "Information", "Processing", "Systems", "Workshop", "on", "Inductive", "Transfer", ":", "10", "Years", "Later", ",", "2005", "."], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["intrusion detection", "targeted attack", "integrity", "learning algorithms", "spam filters", "adversarial learning", "computer networks", "security", "machine learning", "statistical learning", "causative attack", "game theory", "availability", "indiscriminate attack"], "abstractive_keyphrases": ["intrusion detection system", "computer security", "exploratory attack", "security metrics"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "73", "document": ["Dogs", "or", "Robots", ":", "Why", "do", "Children", "see", "them", "as", "Robotic", "Pets", "rather", "than", "Canine", "Machines", "?", "In", "the", "not", "too", "distant", "future", "Intelligent", "Creatures", "-LRB-", "robots", ",", "smart", "devices", ",", "smart", "vehicles", ",", "smart", "buildings", ",", "etc", "-RRB-", "will", "share", "the", "everyday", "living", "environment", "of", "human", "beings", ".", "It", "is", "important", "then", "to", "analyze", "the", "attitudes", "humans", "are", "to", "adopt", "for", "interaction", "with", "morphologically", "different", "devices", ",", "based", "on", "their", "appearance", "and", "behavior", ".", "In", "particular", ",", "these", "devices", "will", "become", "multi-modal", "interfaces", ",", "with", "computers", "or", "networks", "of", "computers", ",", "for", "a", "large", "and", "complex", "universe", "of", "applications", ".", "Our", "results", "show", "that", "children", "are", "quickly", "attached", "to", "the", "word", "`", "dog", "'", "reflecting", "a", "conceptualization", "that", "robots", "that", "look", "like", "dogs", "-LRB-", "in", "particular", "SONY", "Aibo", "-RRB-", "are", "closer", "to", "living", "dogs", "than", "they", "are", "to", "other", "devices", ".", "By", "contrast", ",", "adults", "perceive", "Aibo", "as", "having", "stronger", "similarities", "to", "machines", "than", "to", "dogs", "-LRB-", "reflected", "by", "definitions", "of", "robot", "-RRB-", ".", "Illustration", "of", "the", "characteristics", "structured", "in", "the", "definition", "of", "robot", "are", "insufficient", "to", "convince", "children", "Aibo", "is", "closer", "to", "a", "machine", "than", "to", "a", "dog", ".", "The", "play", "R.", "U.", "R.", "-LRB-", "Rossum", "'s", "Universal", "Robots", "-RRB-", ",", "written", "by", "the", "Czech", "author", "Karel", "Capek", ",", "was", "produced", "in", "London", "in", "1923", ".", "The", "term", "robot", "entered", "the", "English", "language", "-LRB-", "in", "Czech", "the", "word", "`", "robota", "'", "means", "`", "heavy", "labor", "'", "-RRB-", ".", "The", "robot", "concept", "remained", "science", "fiction", "until", "1961", "when", "Unimation", "Inc.", "installed", "the", "world", "'s", "first", "industrial", "robot", "in", "the", "US", ".", "Unimation", "Inc.", "made", "Australia", "'s", "first", "robot", ",", "installed", "in", "1974", ".", "The", "emergence", "of", "legged", "autonomous", "robots", "and", "their", "commercial", "release", "-LRB-", "as", "in", "Honda", "'s", "Asimo", "and", "Sony", "'s", "Aibo", "-RRB-", "contribute", "to", "support", "the", "hypothesis", "that", "mobile", "robots", "will", "soon", "become", "common", "in", "our", "everyday", "environments", ".", "The", "commercial", "release", "of", "the", "Personal", "Computer", "-LRB-", "PC", "-RRB-", "occurred", "just", "a", "generation", "ago", ",", "yet", "now", "it", "is", "a", "common", "household", "item", ".", "This", "forecast", "has", "prompted", "some", "studies", "into", "the", "acceptabil-Copyright", "c", "2004", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "5th", "Australasian", "User", "Interface", "Conference", "-LRB-", "AUIC2004", "-RRB-", ",", "Dunedin", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "28", ".", "A.", "Cockburn", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "This", "work", "was", "supported", "by", "a", "Griffith", "University", "Research", "Grant", "as", "part", "of", "the", "project", "``", "Robots", "to", "guide", "the", "blind", "the", "application", "of", "physical", "collaborative", "autonomous", "intelligent", "agents", "''", ".", "ity", "and", "attitudes", "these", "artifacts", "generate", "among", "human", "beings", "-LRB-", "Fong", ",", "Nourbakhsh", "&", "Dautenhahn", "2003", "-RRB-", ".", "For", "example", ",", "Kahn", "et", "al", "have", "recently", "embarked", "on", "a", "series", "of", "studies", "with", "children", "-LRB-", "Kahn", "Jr.", ",", "Friedman", ",", "Freier", "&", "Severson", "2003", "-RRB-", "and", "adults", "-LRB-", "Kahn", "Jr.", ",", "Friedman", "&", "Hagman", "2002", "-RRB-", "investigating", "matters", "such", "as", "humans", "attributing", "social", "and", "ethical", "stance", "to", "robots", "like", "Sony", "'s", "Aibo", ".", "Earlier", "Bumby", "and", "Dautenhahn", "-LRB-", "Bumby", "&", "Dautenhahn", "1999", "-RRB-", "explored", "reactions", "of", "children", "as", "they", "interacted", "with", "a", "robot", ".", "Reports", "have", "recently", "appeared", "in", "the", "media", "of", "cases", "where", "humans", "also", "build", "emotional", "attachments", "to", "robots", "that", "do", "not", "look", "like", "animals", ",", "similar", "to", "those", "they", "have", "for", "home", "pets", ".", "An", "example", "is", "the", "robotic", "vacuum", "cleaners", "in", "-LRB-", "Kahney", "2003", "-RRB-", ".", "While", "some", "experts", "in", "childhood", "development", "argue", "that", "the", "use", "of", "robot-dolls", "-LRB-", "machines", "with", "realism", "-RRB-", "in", "children", "'s", "environments", "`", "cuts", "off", "open-ended", "imaginative", "play", "'", "there", "are", "some", "studies", "showing", "that", "intelligent", "children", "will", "still", "explore", "beyond", "the", "limitations", "of", "the", "machine", ".", "Similar", "concerns", "about", "other", "technologies", "have", "been", "also", "subject", "of", "debate", ".", "For", "example", ",", "the", "concerns", "about", "children", "reducing", "their", "play", "with", "other", "children", ",", "or", "increasingly", "aggressive", "behavior", "because", "of", "computer", "games", ",", "can", "be", "attributed", "more", "to", "exposure", "to", "the", "type", "of", "game", "than", "to", "the", "technology", "of", "computer", "games", "themselves", "-LRB-", "Lawry", ",", "Upitis", ",", "Klawe", ",", "Anderson", ",", "Inkpen", ",", "Ndunda", ",", "Hsu", ",", "Leroux", "&", "Sedighian", "1995", "-RRB-", ".", "Researchers", "have", "found", "that", "children", "-LRB-", "in", "particular", "boys", "-RRB-", "will", "entertain", "and", "seek", "more", "challenging", "and", "interesting", "computer", "games", "-LRB-", "not", "necessarily", "violent", "games", "-RRB-", "and", "that", "there", "is", "no", "observable", "increase", "in", "violent", "behavior", "or", "deterioration", "in", "social", "behavior", "-LRB-", "Lawry", "et", "al.", "1995", "-RRB-", ".", "Recent", "studies", "have", "focused", "on", "the", "attitudes", "gen-erated", "by", "Sony", "'s", "Aibo", "on", "humans", ",", "we", "propose", "here", "to", "explore", "the", "differences", "between", "Dog", "-LRB-", "as", "in", "living", "animal", "-RRB-", "and", "Robot", "-LRB-", "as", "in", "lifeless", "machine", "assembled", "from", "parts", "-RRB-", "in", "the", "concepts", "and", "language", "formations", "in", "children", ".", "Naturally", ",", "the", "smaller", "the", "difference", ",", "the", "more", "it", "is", "likely", "that", "humans", "will", "attribute", "animal", "characteristics", "-LRB-", "as", "high", "up", "as", "rights", "-RRB-", "to", "a", "robot", ".", "The", "question", "is", ",", "`", "what", "makes", "a", "small", "or", "a", "large", "difference", "?", "'", "If", "the", "difference", "is", "very", "small", ",", "perhaps", "humans", "will", "interact", "with", "autonomous", "robots", "as", "they", "do", "with", "animals", ".", "We", "suggest", "that", "in", "today", "'s", "children", "'s", "world", ",", "the", "issue", "is", "not", "confusion", "between", "reality", "and", "fantasy", "-LRB-", "Aylett", "2002", "-RRB-", ".", "To", "a", "child", ",", "Sony", "'s", "Aibo", "is", "not", "a", "fantasy", "but", "reality", ".", "Identification", "of", "what", "makes", "children", "perceive", "a", "robot", "as", "a", "dog", "-LRB-", "an", "animal", "-RRB-", "or", "as", "a", "robot", "is", "important", ",", "especially", "if", "one", "wants", "to", "design", "robots", "stressing", "the", "difference", "or", "diluting", "it", ".", "Our", "research", "reveals", "that", "the", "look", "and", "feel", "of", "Sony", "'s", "Aibo", "and", "its", "body", "shape", "go", "a", "long", "way", "into", "its", "acceptability", "as", "a", "dog", ".", "Its", "play-7", "ful", "behavior", ",", "tail", "wagging", ",", "legged", "walk", ",", "recovery", "from", "falls", ",", "sitting", "and", "hand", "shaking", "are", "absorbed", "into", "the", "child", "'s", "mind", ".", "Later", ",", "illustration", "of", "its", "robotic", "features", "are", "repeatedly", "insufficient", "to", "fully", "convince", "the", "children", "that", "this", "is", "an", "artifact", "-LRB-", "and", "not", "a", "being", "with", "feelings", "-RRB-", ".", "Unless", "Aibo", "does", "something", "unacceptable", "for", "a", "dog", "-LRB-", "like", "speak", "with", "a", "human", "voice", "-RRB-", ",", "it", "remains", "essentially", "a", "dog", ".", "Our", "findings", "that", "human", "speech", "in", "Aibo", "reduces", "its", "dog-ness", "and", "increases", "its", "robot-ness", "may", "be", "attributed", "to", "the", "`", "uncanny", "valley", "'", "-LRB-", "Scheeff", ",", "Pinto", ",", "Rahardja", ",", "Snibbe", "&", "Tow", "2000", "-RRB-", ".", "Although", "we", "are", "not", "measuring", "emotional", "response", ",", "we", "have", "observed", "dissatisfaction", "with", "Aibo", "as", "a", "dog", ",", "since", "clearly", "it", "is", "only", "humans", "that", "talk", "-LRB-", "although", "children", "accept", "talking", "toys", "and", "talking", "animals", "in", "fantasy", "or", "animated", "movies", "-RRB-", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "will", "describe", "our", "research", "methods", ".", "Section", "3", "will", "elaborate", "on", "the", "findings", ".", "Section", "4", "will", "present", "conclusions", "and", "final", "remarks", ".", "Our", "aim", "is", "to", "explore", "and", "contrast", "the", "properties", "currently", "accepted", "in", "the", "definition", "of", "`", "mobile", "autonomous", "robot", "'", ".", "The", "International", "Federation", "of", "Robotics", "-LRB-", "IFR", "-RRB-", "and", "the", "Australian", "Robot", "Association", "follow", "the", "ISO", "standard", "vocabulary", "-LRB-", "ISO", "8373", "-RRB-", "to", "describe", "`", "manipulating", "industrial", "robots", "operated", "in", "a", "manufacturing", "environ-ment", "'", ".", "A", "robot", "has", "three", "essential", "characteristics", ":", "1", ".", "It", "possesses", "some", "form", "of", "mobility", "-LRB-", "formally", ",", "a", "robot", "must", "possess", "at", "least", "three", "programmable", "axes", "of", "motion", "-RRB-", ".", "2", ".", "It", "can", "be", "programmed", "to", "accomplish", "a", "large", "variety", "of", "tasks", ".", "3", ".", "After", "being", "programmed", ",", "it", "operates", "automati-cally", ".", "Mobile", "robots", "can", "move", "away", "from", "a", "fixed", "location", "and", "come", "in", "two", "varieties", ":", "tethered", "and", "autonomous", ";", "a", "tethered", "robot", "may", "have", "its", "power", "supply", "or", "its", "control", "unit", "overboard", ",", "possibly", "relying", "on", "a", "desktop", "computer", "and", "a", "wall", "outlet", "and", "a", "long", "cord", ".", "Autonomous", "mobile", "robots", "bring", "everything", "along", "-LRB-", "control", "unit", ",", "body", ",", "actuators", ",", "sensors", "and", "power", "supply", "-RRB-", ".", "The", "control", "unit", "is", "typically", "a", "computer", "and", "software", ".", "Our", "research", "attempts", "to", "find", "out", "if", "children", "do", "indeed", "notice", "these", "properties", "or", "fixate", "more", "on", "the", "form", "and", "behavior", "of", "the", "artifact", ".", "This", "research", "was", "performed", "by", "a", "series", "of", "demonstrations", "of", "Aibo", "and", "other", "robots", ",", "toys", "and", "models", ".", "in", "particular", "using", "Lego", "Mindstorms", "1", "constructions", "-LRB-", "Knudsen", "1999", "-RRB-", ",", "remote", "control", "toy", "cars", "and", "autonomous", "battery", "toys", ".", "The", "demonstrations", "were", "conducted", "with", "preschool", "children", "as", "well", "as", "those", "from", "the", "first", "4", "years", "of", "primary", "school", "across", "3", "schools", ",", "two", "childcare", "centers", ",", "and", "a", "museum", "in", "the", "urban", "area", "of", "Brisbane", ",", "Australia", ".", "Table", "1", "summarizes", "the", "presentations", "and", "the", "age", "groups", "of", "children", ".", "Whenever", "consent", "was", "given", ",", "a", "video/or", "audio", "of", "the", "session", "was", "recorded", ".", "Alternatively", ",", "a", "secretary", "took", "notes", "of", "the", "statement", "made", "by", "children", ".", "Sessions", "lasted", "between", "30", "minutes", "and", "approximately", "one", "hour", ".", "The", "sessions", "consisted", "of", "five", "stages", ".", "1", ".", "Establishing", "the", "language", ".", "In", "the", "first", "minutes", "of", "the", "session", ",", "children", "are", "asked", "to", "describe", "what", "they", "see", ".", "The", "goal", "of", "this", "stage", "is", "to", "obtain", "a", "vocabulary", "from", "the", "children", "to", "discuss", "the", "artifacts", "that", "will", "be", "presented", "later", ".", "1", "A", "trademark", "of", "the", "LEGO", "group", ".", "2", ".", "Demonstration", "of", "Aibo", ".", "In", "the", "next", "5", "to", "7", "minutes", ",", "a", "demonstration", "of", "Aibo", "is", "performed", "with", "one", "black", "model", "without", "a", "memory", "stick", ",", "so", "the", "default", "simple", "`", "dog-like", "'", "behaviors", "are", "in", "place", ".", "3", ".", "Demonstration", "of", "the", "concept", "of", "robot", ".", "This", "stage", "illustrates", "the", "main", "features", "that", "are", "common", "in", "accepted", "definitions", "of", "a", "robot", ".", "It", "also", "ensures", "that", "the", "children", "observe", "that", "Sony", "'s", "Aibo", "shares", "these", "properties", "with", "robots", ".", "4", ".", "Investigate", "animal", "attributes", "on", "Aibo", ".", "This", "stage", "questions", "the", "children", "for", "the", "existence", "of", "animal", "properties", "on", "Sony", "'s", "Aibo", "and", "the", "justification", "for", "their", "belief", ".", "5", ".", "Challenge", "Aibo", "'s", "animal", "attributes", "with", "the", "other", "artifacts", "used", "in", "the", "session", ".", "Children", "are", "asked", "to", "confirm", "or", "justify", "that", "Aibo", "is", "a", "robot", ".", "Attempts", "are", "made", "to", "convince", "them", "of", "the", "artificial", "nature", "of", "Aibo", "by", "showing", "the", "same", "property", "in", "an", "artifact", "accepted", "as", "lifeless", "and", "to", "compel", "them", "to", "decide", "on", "one", "side", "of", "the", "Dog", "vs", "Robot", "debate", "-LRB-", "or", "generate", "a", "new", "term", "to", "describe", "it", "-RRB-", ".", "The", "initial", "phase", "starts", "with", "the", "projection", "of", "a", "video", "from", "RoboCup-2002", "legged", "league", "-LRB-", "Veloso", ",", "Uther", ",", "Fujita", ",", "Asada", "&", "Kitano", "1998", "-RRB-", "-LRB-", "the", "video", "is", "the", "match", "between", "the", "University", "of", "Newcastle", "and", "Team", "Sweden", "-RRB-", ".", "Presentations", "at", "the", "Powerhouse", "Museum", "in", "Brisbane", "consisted", "of", "a", "live", "match", "with", "8", "dogs", "programmed", "as", "the", "Mi-PAL", "Team", "Griffith", "participation", "in", "RoboCup-2003", ".", "After", "two", "minutes", "the", "children", "are", "asked", "to", "describe", "what", "they", "see", "in", "the", "video", ".", "In", "the", "video", ",", "human", "manipulators", "are", "visible", ",", "which", "contributes", "to", "the", "realization", "that", "these", "are", "real", "things", "and", "not", "an", "animation", "film", ".", "Children", "are", "requested", "to", "indicate", "what", "the", "`", "dogs", "'", "are", "doing", "-LRB-", "if", "they", "suggested", "this", "word", ",", "but", "if", "they", "suggest", "`", "puppies", "'", "then", "`", "puppies", "'", "is", "used", "-RRB-", ".", "That", "is", ",", "we", "use", "the", "same", "words", "the", "children", "themselves", "have", "introduced", "to", "describe", "what", "they", "see", ".", "Children", "are", "then", "asked", "to", "justify", "why", "it", "is", "a", "game", "of", "`", "soccer/rugby", "'", "-LRB-", "or", "whatever", "word", "was", "the", "most", "common", "or", "immediate", "reply", "-RRB-", ".", "The", "phase", "finishes", "by", "bringing", "an", "Aibo", "that", "is", "switched", "off", ",", "placing", "it", "on", "the", "ground", ",", "turning", "it", "on", ",", "and", "waiting", ".", "Since", "Aibo", "requires", "some", "seconds", "to", "`", "boot", "'", "we", "observe", "children", "'s", "reactions", "and", "comments", ".", "This", "phase", "is", "obviously", "different", "for", "blind", "children", ".", "It", "is", "replaced", "by", "allowing", "children", "to", "explore", "the", "robot", "with", "their", "hands", ".", "Blind", "children", "still", "find", "and", "recognize", "legs", ",", "paws", ",", "ears", ",", "head", "and", "tail", "because", "of", "shape", ",", "texture", ",", "malleability", "and", "movement", ".", "We", "then", "proceed", "to", "phase", "two", "where", "we", "illustrate", "the", "default", "behavior", "of", "the", "Aibo", ",", "which", "includes", "the", "following", "interactions", ".", "A", "couple", "of", "fast", "strokes", "on", "its", "back", "starts", "it", "on", "a", "walk", "while", "it", "makes", "the", "sounds", "of", "a", "marching", "tune", ".", "Hard", "strokes", "on", "its", "head", "produce", "sounds", "and", "a", "red", "light", "on", "its", "head", "LEDs", ".", "Soft", "strokes", "on", "its", "head", "produce", "sounds", "and", "a", "green", "light", "on", "its", "LEDs", ".", "Scratching", "under", "its", "chin", "produces", "another", "set", "of", "sounds", "and", "lights", ".", "Placing", "it", "on", "the", "floor", "on", "its", "side", "produces", "some", "sounds", ",", "and", "then", "Aibo", "performs", "a", "routine", "to", "stand", "back", "on", "its", "four", "legs", ".", "After", "getting", "up", ",", "Aibo", "shakes", ",", "wagging", "his", "tail", "and", "making", "other", "sounds", ".", "Presenting", "a", "pink", "ball", "produces", "sounds", "and", "the", "LED", "on", "its", "tail", "to", "go", "pink", ".", "8", "School", "Level", "Children", "'s", "age", "Group", "size", "Boronia", "Childcare", "Center", "pre-school", "4-5", "10", "Carole", "Park", "State", "School", "pre-school", "4-5", "17", "Holland", "Park", "State", "School", "3rd", "year", "primary", "7-8", "25", "Holland", "Park", "State", "School", "1st", "year", "primary", "5-6", "24", "Camp", "Hill", "State", "School", "1st", "year", "primary", "5-6", "10", "Camp", "Hill", "State", "School", "1st", "year", "primary", "5-6", "12", "Camp", "Hill", "State", "School", "1st", "year", "primary", "5-6", "11", "Carole", "Park", "State", "School", "1st", "year", "primary", "5-6", "22", "Carole", "Park", "State", "School", "2nd", "year", "primary", "6-7", "24", "Carole", "Park", "State", "School", "2nd", "year", "primary", "6-7", "28", "Carole", "Park", "State", "School", "3rd", "year", "primary", "7-8", "26", "Carole", "Park", "State", "School", "4th", "year", "primary", "8-9", "20", "Powerhouse", "Museum", "pre-school", "4-5", "10", "Narbethong", "State", "Special", "School", "pre-school", "-LRB-", "blind", "-RRB-", "4-5", "3", "Table", "1", ":", "Presentations", "conducted", "and", "age", "groups", ".", "Figure", "1", ":", "A", "4-legged", "walking", "toy", "with", "visible", "battery", ",", "motor", "and", "gears", ".", "A", "flexible", "tail", "resembles", "a", "dog", "tail", ".", "Other", "behaviors", "that", "Aibo", "produces", "are", "not", "directly", "triggered", "by", "the", "manipulator", ".", "These", "include", "Aibo", "sitting", "down", ",", "Aibo", "lying", "on", "his", "stomach", "and", "waving", "all", "fours", "as", "a", "synchronized", "dance", ",", "Aibo", "waiving", "one", "leg", ",", "Aibo", "moving", "his", "head", "from", "side", "to", "side", "and", "flapping", "his", "ears", ".", "Children", "are", "then", "invited", "to", "interact", "with", "Aibo", "directly", ".", "In", "particular", ",", "to", "show", "the", "pink", "ball", ",", "to", "produce", "the", "green", "lights", "or", "invite", "him", "to", "walk", ".", "They", "are", "also", "invited", "to", "explain", "what", "Aibo", "is", "doing", "in", "their", "own", "words", ".", "There", "are", "a", "series", "of", "questions", "that", "the", "presenter", "goes", "through", "as", "the", "illustration", "of", "behaviors", "is", "performed", ".", "These", "questions", "are", "as", "follows", ":", "What", "is", "Aibo", "doing", "now", "?", "Is", "he", "happy", "or", "is", "he", "sad", "?", "Does", "he", "like", "to", "be", "touched", "like", "this", "?", "Do", "you", "think", "he", "can", "get", "up", "by", "himself", "?", "At", "the", "completion", "of", "this", "phase", ",", "Aibo", "is", "turned", "off", "and", "focus", "is", "transferred", "to", "other", "examples", "of", "robotics", ".", "Because", "the", "commonly", "accepted", "definitions", "of", "mobile", "robots", "includes", "that", "they", "have", "their", "own", "control", "unit", ",", "phase", "three", "consists", "of", "the", "following", ":", "A", "presentation", "of", "a", "4-legged", "toy", "with", "a", "tail", "-LRB-", "made", "of", "a", "spring", "-RRB-", "that", "has", "a", "visible", "battery", ",", "motor", "and", "gears", "-LRB-", "Figure", "1", "-RRB-", ".", "It", "is", "illustrated", "that", "this", "toy", "needs", "a", "battery", "to", "operate", "it", "and", "that", "it", "has", "an", "on-off-reverse", "button", ".", "Children", "are", "asked", "to", "carry", "out", "the", "task", "of", "setting", "it", "off", "or", "stopping", "it", "by", "taking", "the", "battery", "out", ".", "This", "illustrates", "that", "mobile", "autonomous", "robots", "require", "power", "and", "carry", "their", "source", "of", "power", ".", "Figure", "2", ":", "A", "model", "of", "a", "humanoid", "robot", ".", "Figure", "3", ":", "Remote", "control", "car", "to", "contrast", "with", "the", "notion", "of", "autonomous", "control", ".", "A", "presentation", "of", "a", "model", "of", "a", "humanoid", "robot", "-LRB-", "Figure", "2", "-RRB-", ".", "Although", "it", "looks", "like", "a", "robot", ",", "it", "can", "be", "seen", "that", "it", "has", "no", "motors", ",", "no", "batteries", "and", "essentially", "does", "nothing", ".", "A", "presentation", "of", "a", "remote", "control", "car", "-LRB-", "radio", "con-trolled", "-RRB-", "-LRB-", "Figure", "3", "-RRB-", ".", "This", "car", "is", "also", "shown", "to", "have", "batteries", "on", "board", "but", "all", "behavior", "is", "de-rived", "from", "the", "actions", "on", "the", "two-lever", "remote", "control", ".", "The", "first", "lever", "produces", "forward", "or", "reverse", "motion", "on", "the", "back", "wheels", "and", "the", "second", "lever", "produces", "left/right", "turns", "on", "the", "front", "wheels", ".", "This", "illustrates", "the", "notion", "of", "control", "-LRB-", "remote", "and", "human", "-RRB-", ".", "A", "Lego", "Mindstorm", "construction", "extremely", "similar", "to", "`", "Hank", "the", "Bumper", "Tank", "'", "-LRB-", "Knudsen", "1999", "-RRB-", "-LRB-", "Figure", "4", "-RRB-", ".", "This", "robot", "is", "shown", "to", "have", "a", "behavior", "that", "allows", "it", "to", "move", "around", "and", "steer", "away", "from", "obstacles", "it", "bumps", "into", "-LRB-", "the", "program", "is", "very", "similar", "to", "the", "one", "suggested", "in", "-LRB-", "Knudsen", "1999", ",", "Chapter", "2", "-RRB-", "-RRB-", ".", "As", "part", "of", "the", "interactive", "nature", "of", "the", "presentation", ",", "the", "children", "are", "asked", "to", "act", "9", "Figure", "4", ":", "A", "Mindstorm", "construction", "with", "touch", "and", "light", "sensor", ".", "Figure", "5", ":", "A", "Mindstorm", "construction", "with", "touch", "and", "light", "sensor", ",", "that", "acts", "on", "its", "environment", "with", "a", "mechanical", "arm", ",", "and", "plays", "sounds", ".", "as", "obstacles", "for", "`", "adapted", "'", "Hank", ".", "The", "presenter", "points", "out", "the", "sensors", "behind", "the", "robots", "bumper", ",", "and", "illustrates", "that", "disconnecting", "these", "sensors", "makes", "it", "`", "unaware", "'", "of", "obstacles", ".", "We", "also", "added", "to", "Hank", "a", "program", "that", "used", "a", "light", "sensor", "to", "monitor", "the", "color", "of", "the", "ground", "beneath", "it", ".", "This", "program", "was", "similar", "to", "the", "obstacle", "avoidance", "previously", "mentioned", ",", "but", "rather", "than", "avoid", "objects", "it", "would", "move", "away", "from", "dark", "areas", ".", "We", "presented", "this", "behavior", "as", "`", "being", "afraid", "of", "the", "dark", "'", ".", "By", "switching", "between", "these", "modes", ",", "we", "illustrate", "that", "the", "behavior", "of", "the", "robot", "changes", "with", "the", "chosen", "program", ".", "Using", "Lego", "'s", "ROBO-Lab", "-LRB-", "a", "graphical", "programming", "application", "-RRB-", "to", "build", "a", "very", "simple", "program", "that", "makes", "Hank", "spin", "in", "a", "circle", "for", "four", "seconds", ",", "we", "show", "the", "children", "its", "programmable", "nature", ".", "The", "children", "are", "taken", "through", "the", "process", "of", "building", "the", "program", ",", "transferring", "it", "onto", "Hank", "via", "an", "infrared", "interface", "and", "finally", "running", "it", ".", "When", "the", "program", "is", "running", ",", "the", "children", "are", "encouraged", "to", "count", "along", ",", "thus", "verifying", "that", "the", "program", "is", "indeed", "the", "one", "just", "built", ".", "This", "is", "repeated", "for", "at", "least", "two", "other", "timings", "-LRB-", "around", "10", "to", "20", "seconds", "-RRB-", ".", "A", "Lego", "construction", "extremely", "similar", "to", "Minerva", "-LRB-", "Knudsen", "1999", ",", "Chapter", "6", "-RRB-", "was", "presented", "next", "-LRB-", "Figure", "5", "-RRB-", ".", "The", "components", "were", "shown", "to", "be", "the", "same", "as", "Hank", "'s", "and", "the", "Lego", "RCX", "is", "labeled", "as", "the", "`", "computer", "control", "'", ".", "A", "program", "similar", "to", "the", "one", "suggested", "-LRB-", "Knudsen", "1999", "-RRB-", "produces", "the", "behavior", "illustrated", "to", "the", "children", ".", "Minerva", "moves", "around", "a", "white", "floor", "until", "it", "finds", "a", "black", "object", ",", "uses", "a", "robotic", "arm", "to", "pick", "it", "up", ",", "then", "turns", "around", "and", "brings", "it", "to", "another", "position", "close", "to", "where", "it", "started", ".", "It", "then", "releases", "the", "object", "and", "plays", "a", "tune", ".", "The", "presenter", "en-sured", "that", "the", "children", "observed", "that", "Minerva", "perceives", "its", "environment", "and", "can", "act", "to", "change", "it", "-LRB-", "thus", "the", "notion", "of", "actuator", "is", "illustrated", "-RRB-", ".", "A", "series", "of", "pictures", "-LRB-", "or", "videos", "-RRB-", "of", "autonomous", "robots", "were", "shown", "to", "the", "children", ".", "These", "images", "demonstrate", "that", "robots", "come", "in", "all", "sorts", "of", "shapes", "and", "sizes", ".", "Among", "these", "are", "pictures", "of", "more", "Aibos", ",", "Honda", "ASIMO", ",", "the", "Sony", "humanoid", "SDX", ",", "MINERVA", "-LRB-", "Thrun", ",", "Bennewitz", ",", "Burgard", ",", "Cremers", ",", "Dellaert", ",", "Fox", ",", "Hahnel", ",", "Rosenberg", ",", "Roy", ",", "Schulte", "&", "Schulz", "1999", "-RRB-", "and", "Kismet", "-LRB-", "Brooks", "2002", "-RRB-", ".", "It", "was", "pointed", "out", "that", "robots", "can", "produce", "smiles", ",", "walk", ",", "and", "be", "as", "small", "as", "a", "cockroach", ".", "Pictures", "of", "experimental", "robots", "were", "shown", "to", "display", "the", "wires", ",", "gears", "and", "components", "inside", "their", "packaging", ".", "Aibo", "was", "then", "brought", "back", "as", "the", "presenter", "repeated", "the", "main", "concepts", ",", "namely", ":", "Aibo", "requires", "power", "and", "carries", "a", "battery", ".", "Aibo", "is", "turned", "on", "and", "off", ".", "Also", ",", "it", "is", "shown", "that", "Aibo", "'s", "behaviors", "are", "interrupted", "and", "stopped", "if", "the", "battery", "is", "removed", ".", "Aibo", "has", "motors", ".", "The", "gears", "on", "Aibo", "'s", "joints", ",", "and", "wires", "near", "its", "neck", "are", "pointed", "out", "to", "the", "children", ".", "Aibo", "has", "sensors", ".", "The", "strokes", "on", "head", "and", "sensitivity", "to", "the", "pink", "ball", "are", "illustrated", "once", "more", ".", "Using", "another", "pink", "object", "-LRB-", "perhaps", "a", "piece", "of", "clothing", ",", "or", "the", "memory", "stick", "of", "Aibo", "-RRB-", ",", "we", "show", "that", "the", "behavior", "is", "triggered", "by", "the", "color", "being", "noticed", "by", "a", "sensor", "and", "not", "Aibo", "understanding", "the", "concept", "of", "a", "ball", ".", "Aibo", "has", "actuators", "and", "a", "control", "program", ".", "We", "install", "a", "memory", "stick", "and", "re-start", "Aibo", ".", "With", "the", "new", "program", "it", "kicks", "a", "ball", "as", "in", "the", "RoboCup", "video", ".", "We", "illustrate", "Aibo", "'s", "behavior", "changes", "with", "different", "memory", "sticks", ".", "Once", "this", "is", "completed", "the", "next", "phase", "commences", "by", "the", "presenter", "asking", "one", "of", "the", "following", "questions", ".", "1", ".", "Does", "Aibo", "have", "feelings", "?", "2", ".", "Where", "does", "Aibo", "get", "energy", "from", "?", "3", ".", "Will", "Aibo", "have", "babies", "?", "Responses", "of", "several", "children", "were", "collected", ".", "We", "expected", "that", "this", "question", "would", "have", "distinct", "answers", "depending", "on", "whether", "we", "were", "referring", "to", "a", "robot", "or", "a", "`", "living", "'", "dog", ".", "We", "then", "passed", "to", "the", "final", "stage", ".", "Each", "time", "a", "child", "made", "a", "response", "that", "seemed", "to", "indicate", "animal", "essence", "or", "animal", "agency", "in", "the", "Aibo", ",", "we", "chal-lenged", "the", "response", ".", "For", "example", ",", "if", "a", "child", "indicated", "that", "Aibo", "had", "feelings", ",", "we", "next", "asked", "what", "the", "child", "thinks", "happens", "to", "the", "feelings", "when", "Aibo", "is", "turned", "off", ".", "We", "found", "children", "would", "continue", "to", "support", "their", "point", "of", "view", ".", "Following", "the", "previous", "example", ",", "many", "children", "followed", "the", "path", "that", "Aibo", "was", "just", "asleep", "when", "turned", "off", ".", "The", "challenge", "continued", "as", "the", "presenter", "requested", "children", "to", "explain", "what", "sort", "of", "feelings", "Aibo", "has", "or", "if", "the", "feelings", "fade", "when", "the", "battery", "runs", "out", ".", "Also", ",", "the", "presenter", "checked", "if", "the", "other", "artifacts", ",", "shown", "before", ",", "have", "feelings", "and", "asked", "the", "children", "to", "explain", "why", "the", "others", "do", "or", "do", "not", "have", "those", "or", "other", "feelings", ".", "The", "sequence", "of", "challenges", "for", "the", "3", "questions", "above", "were", "as", "follows", ".", "1", ".", "Does", "Aibo", "have", "feelings", "?", "What", "happens", "to", "Aibo", "'s", "feelings", "when", "he", "is", "turned", "off", "?", "10", "Figure", "6", ":", "The", "demonstrator", "with", "a", "class", "of", "grade", "2", "children", "and", "3", "of", "the", "objects", ":", "Aibo", ",", "Hank", "and", "the", "4-legged", "walking", "toy", ".", "What", "happens", "to", "his", "feelings", "when", "the", "battery", "runs", "out", "?", "What", "happens", "to", "his", "feelings", "if", "we", "re-move/change/replace", "the", "memory", "stick", "and", "Aibo", "`", "s", "personality", "changes", "?", "What", "happens", "to", "his", "feelings", "if", "Aibo", "is", "broken", "?", "Will", "the", "feelings", "come", "back", "if", "we", "glue", "him", "?", "What", "feelings", "do", "you", "know", "Aibo", "has", "?", "How", "do", "you", "know", "he", "is", "happy/sad", "?", "Is", "it", "possible", "to", "pretend", "to", "be", "happy", "but", "not", "be", "happy", "?", "Do", "you", "think", "Aibo", "is", "happy", "or", "just", "pretending", "?", "2", ".", "Where", "does", "Aibo", "get", "his", "energy", "from", "?", "Where", "do", "you", "get", "your", "energy", "from", "?", "Where", "do", "the", "other", "artifacts", "get", "their", "energy", "from", "?", "Does", "Aibo", "work", "without", "a", "battery", "?", "Do", "the", "others", "work", "without", "a", "battery", "?", "What", "do", "you", "think", "Aibo", "eats/drinks", "?", "Do", "you", "think", "he", "needs", "to", "visit", "the", "toilet", "?", "3", ".", "Will", "Aibo", "have", "babies", "?", "Is", "Aibo", "a", "baby", "dog", "?", "How", "do", "you", "know", "?", "How", "will", "Aibo", "look", "after", "-LRB-", "care", "for", "-RRB-", "the", "babies", "?", "Does", "Aibo", "need", "to", "charge/replace", "the", "battery", "of", "the", "babies", "?", "These", "paths", "of", "questioning", "were", "not", "all", "developed", "ahead", "of", "the", "first", "presentation", ".", "They", "evolved", "from", "one", "presentation", "to", "the", "next", ".", "Their", "length", "reflects", "the", "resistance", "of", "the", "children", "to", "change", "their", "opinion", ",", "even", "if", "all", "other", "artifacts", "have", "opposite", "responses", "to", "these", "questions", ".", "That", "is", ",", "for", "each", "question", ",", "before", "we", "progressed", "to", "the", "next", ",", "we", "confirmed", "that", "the", "children", "sustained", "the", "notion", "that", "a", "difference", "remains", "between", "Aibo", "and", "the", "other", "artifacts", ".", "For", "example", ",", "in", "the", "last", "question", "sequence", ",", "children", "would", "start", "by", "confirming", "that", "none", "of", "the", "other", "artifacts", "can", "have", "babies", "while", "Aibo", "can", ".", "When", "progressing", "to", "`", "Is", "Aibo", "a", "baby", "?", "'", "and", "contrasting", "this", "with", "`", "Is", "Hank", "a", "baby", "?", "'", ",", "most", "children", "realized", "that", "Aibo", "is", "really", "like", "Hank", "and", "can", "not", "have", "babies", ".", "After", "an", "analysis", "of", "the", "transcript", "of", "our", "videos", "and", "notes", "we", "summarize", "the", "following", "findings", ".", "It", "is", "remarkable", "that", "when", "we", "queried", "the", "children", "for", "their", "first", "impressions", "of", "the", "video", "we", "obtained", "the", "following", "results", ".", "To", "the", "question", "`", "What", "do", "you", "see", "?", "'", "all", "sessions", "had", "children", "responding", "that", "they", "saw", "`", "dogs", "'", ".", "This", "is", "surprising", "for", "two", "main", "reasons", ":", "firstly", "the", "video", "shows", "the", "robots", "playing", "soccer", ",", "a", "behavior", "not", "commonly", "attributed", "to", "dogs", ".", "And", "secondly", ",", "the", "children", "would", "have", "anticipated", "seeing", "robots", "through", "prior", "conversations", "with", "parents", "and", "teachers", ".", "This", "may", "explain", "why", "a", "few", "children", "claimed", "that", "the", "adults", "in", "the", "video", "where", "robots", ".", "As", "the", "age", "of", "the", "pupils", "involved", "in", "the", "study", "in-creased", ",", "we", "noticed", "that", "the", "tendency", "to", "regard", "the", "robots", "as", "`", "dogs", "'", "decreased", ".", "The", "more", "mature", "respondents", "were", "more", "likely", "to", "label", "the", "robots", "as", "`", "robots", "'", "or", "`", "robotic", "dogs", "'", ".", "One", "pupil", "also", "gave", "the", "more", "generic", "answer", "of", "`", "animals", "'", ",", "and", "another", "thought", "that", "they", "were", "`", "cats", "'", ".", "Interestingly", ",", "on", "a", "few", "occasions", "children", "referred", "to", "the", "humans", "in", "the", "video", "as", "the", "robots", ".", "We", "believe", "this", "is", "due", "to", "their", "anticipation", "to", "see", "robots", "and", "perhaps", "the", "media", "culture", "of", "humanoid", "robots", ".", "To", "the", "question", ",", "`", "What", "are", "they", "doing", "?", "'", "most", "children", "identified", "the", "activity", "as", "a", "game", "of", "`", "soccer", "'", ".", "This", "is", "surprising", ",", "since", "the", "RoboCup", "has", "barriers", "around", "the", "pitch", "that", "make", "the", "game", "more", "similar", "to", "ice-hockey", ",", "and", "although", "the", "robots", "are", "legged", ",", "they", "do", "not", "kick", "the", "ball", "with", "one", "leg", ".", "All", "robots", "in", "this", "video", "kick", "the", "ball", "with", "two", "legs", "simultaneously", "or", "head-butt", "the", "ball", ".", "The", "ball", "is", "also", "bright", "orange", ",", "clearly", "not", "a", "soccer", "ball", ".", "Another", "point", "is", "that", "although", "played", "in", "Australia", ",", "it", "is", "not", "the", "most", "commonly", "played", "sport", ".", "Other", "suggestions", "included", ",", "`", "they", "'re", "fighting", "'", ",", "`", "playing", "hockey", "'", ",", "and", "one", "child", "thought", "he", "was", "watching", "a", "game", "of", "tennis", ".", "Justifications", "for", "`", "why", "is", "it", "a", "game", "of", "soc-cer/football", "?", "'", "included", "a", "rounded", "ball", "on", "the", "ground", ",", "goals", ",", "two", "teams", ",", "referees", "and", "goalies", ".", "When", "initially", "presenting", "the", "Aibo", "to", "the", "children", ",", "rather", "than", "give", "it", "the", "label", "`", "it", "'", ",", "we", "found", "that", "they", "would", "usually", "use", "`", "him", "'", "or", "`", "her", "'", ".", "Once", "again", "this", "was", "more", "pronounced", "with", "younger", "subjects", ".", "As", "the", "presenter", "went", "on", "to", "explain", "the", "attributes", "of", "the", "Aibo", "and", "show", "its", "operation", ",", "the", "children", "while", "probing", "with", "questions", "would", "begin", "to", "lose", "the", "gender", "label", ".", "The", "children", "generally", "were", "of", "the", "opinion", "that", "the", "Aibo", "did", "have", "emotions", ",", "with", "a", "couple", "of", "them", "claiming", "that", "this", "was", "so", "because", "it", "had", "a", "`", "mind", "'", ".", "This", "opinion", "was", "seemingly", "an", "accepted", "one", "with", "many", "children", "declaring", "at", "certain", "stages", "of", "the", "proceedings", "that", "it", "was", "either", "happy", "or", "sad", ".", "Upon", "the", "exhibition", "of", "other", "robots", "and", "robot-like", "artifacts", ",", "the", "general", "consensus", "was", "that", "the", "Aibo", "did", "in", "fact", "meet", "the", "criteria", "for", "being", "a", "robot", ".", "However", ",", "the", "most", "common", "term", "used", "to", "describe", "it", "was", "that", "of", "`", "robotic", "dog", "'", ",", "where", "dog", "is", "the", "noun", ".", "This", "emphasis", "on", "the", "dog", "nature", "of", "the", "robot", "suggests", "that", "the", "subjects", "were", "still", "willing", "to", "consider", "it", "animal-like", ".", "The", "youngest", "group", ",", "however", ",", "needed", "the", "most", "convincing", ".", "They", "insisted", "that", "the", "Aibo", "was", "a", "dog", ",", "even", "after", "repeated", "demonstrations", "of", "its", "robotic", "nature", ",", "with", "the", "presenter", "even", "stating", "in", "no", "uncertain", "terms", "that", "it", "was", "a", "robot", ".", "They", "did", "come", "around", "eventually", ",", "with", "one", "child", "using", "the", "`", "robotic", "dog", "'", "description", ",", "and", "his", "peers", "following", "suit", ".", "We", "briefly", "describe", "some", "reaction", "to", "the", "other", "objects", ".", "Although", "initially", "enthusiastic", ",", "children", "were", "quickly", "disappointed", "by", "the", "model", "of", "the", "humanoid", ";", "mainly", "its", "inaction", "made", "it", "uninteresting", ".", "One", "child", "said", ",", "``", "it", "'s", "just", "a", "toy", ",", "not", "a", "robot", "''", ".", "The", "4-legged", "walking", "toy", "caused", "some", "laughs", "because", "it", "bumps", "into", "things", ",", "but", "children", "realized", "rapidly", "that", "it", "did", "not", "offer", "any", "`", "interesting", "'", "interaction", "beside", "turning", "it", "on", "and", "off", "-LRB-", "potentially", "reversing", "the", "direction", "-RRB-", ".", "The", "remote", "control", "car", "was", "appealing", "and", "children", "wanted", "to", "play", "with", "it", "even", "after", "the", "presentation", ".", "It", "was", "clear", "to", "them", "they", "were", "controlling", "it", ".", "Hank", "did", "11", "cause", "surprise", "and", "children", "wanted", "to", "continue", "playing", "with", "it", ",", "or", "asked", "about", "how", "to", "program", "it", ".", "Children", "wanted", "to", "interact", "with", "it", "and", "explored", "different", "obstacles", "for", "its", "obstacle-backing", "behavior", ".", "On", "two", "occasions", "we", "witnessed", "children", "convinced", "that", "Hank", "also", "had", "feelings", "because", "it", "was", "``", "afraid", "of", "the", "dark", "''", ".", "The", "mechanical-arm", "robot", "caused", "amazement", ".", "We", "believe", "this", "greater", "surprise", "was", "because", "children", "familiar", "with", "Lego", "do", "not", "expect", "the", "action", "of", "a", "mechanical", "arm", "lifting", "an", "object", ".", "We", "also", "performed", "a", "variation", "in", "our", "initial", "approach", "to", "confirm", "some", "of", "these", "findings", ".", "We", "approached", "a", "different", "grade", "6", "class", "-LRB-", "12", "year-olds", "-RRB-", "that", "had", "been", "already", "working", "with", "Mindstorm", "robots", "and", "had", "done", "some", "research", "assignments", "on", "the", "Internet", "and", "in", "the", "library", "on", "topics", "such", "as", "`", "What", "is", "a", "robot", "?", "'", ".", "We", "did", "a", "presentation", "in", "which", "the", "objects", "were", "not", "necessarily", "the", "focus", ",", "but", "the", "properties", "of", "a", "robot", "were", "the", "focus", ".", "We", "also", "demonstrated", "different", "applications", "of", "robotics", ",", "like", "using", "Miranda", "to", "assist", "a", "blind", "person", "to", "read", "a", "WEB", "page", ".", "The", "method", "for", "collecting", "the", "children", "'s", "attitudes", "was", "a", "questionnaire", "of", "25", "questions", "asking", "children", "to", "choose", "between", "two", "positions", "and", "to", "give", "their", "reasons", "for", "such", "decisions", ".", "We", "invited", "them", "to", "reflect", "on", "their", "responses", ",", "so", "they", "were", "asked", "to", "answer", "the", "questions", "over", "a", "day", "at", "school", "and", "at", "home", ".", "The", "results", "of", "23", "answered", "questionnaires", "confirmed", "that", "a", "dog-looking", "robot", "rapidly", "acquires", "animalistic", "properties", "and", "values", "in", "the", "minds", "of", "children", ".", "In", "particular", ",", "75", "%", "of", "the", "children", "confirmed", "that", "Miranda", "should", "be", "called", "a", "`", "robotic", "dog", "'", "rather", "than", "a", "`", "dog-looking", "robot", "'", ".", "Note", "that", "the", "preferred", "noun", "is", "dog", "over", "robot", ".", "The", "reasons", "provided", "in", "the", "questionnaire", "are", "illustrative", "of", "their", "thinking", ":", "``", "It", "has", "more", "dog", "features", "than", "robot", "features", "''", ",", "``", "Miranda", "has", "characteristics", "a", "dog", "has", "''", ",", "``", "Kinda", "looks", "like", "a", "real", "dog", "''", "``", "It", "is", "an", "automatic", "dog", "''", "and", "``", "Just", "does", "n't", "look", "like", "a", "dog", ",", "she", "has", "a", "dog", "personality", "''", ".", "And", "on", "the", "question", "``", "Does", "Miranda", "have", "feelings", "?", "''", "again", "75", "%", "responded", "positively", ".", "Some", "of", "the", "reasons", "were", "``", "She", "just", "is", "n't", "a", "robot", ".", "She", "'s", "almost", "a", "real", "dog", "''", ",", "``", "She", "can", "be", "happy", ",", "unhappy", "''", ",", "If", "you", "hit", "her", "hard", ",", "she", "would", "make", "a", "noise", ",", "but", "she", "felt", "it", "''", ".", "Note", "that", "in", "this", "presentation", "we", "actually", "changed", "programs", "several", "times", ",", "radically", "changing", "the", "behaviors", "and", "personality", "of", "Miranda", ".", "Also", ",", "real", "dogs", "do", "not", "talk", ",", "but", "our", "programs", "had", "a", "female", "voice", "for", "instructions", "to", "kick", "a", "ball", "and", "a", "male", "voice", "reading", "Web", "pages", ".", "Only", "one", "child", "classified", "Miranda", "as", "a", "robot", "because", "dogs", "do", "not", "sing", ".", "The", "blurring", "of", "the", "concept", "of", "robotic", "pet", "or", "canine", "machine", "is", "of", "interest", "to", "us", "because", "of", "the", "direct", "applications", "of", "autonomous", "mobile", "robots", "in", "helping", "people", ".", "In", "particular", ",", "we", "foresee", "that", "people", "with", "disabilities", ",", "the", "elderly", "and", "other", "groups", "in", "need", "of", "assistance", ",", "are", "the", "first", "humans", "that", "will", "benefit", "from", "autonomous", "mobile", "robots", ".", "Naturally", ",", "the", "attitudes", ",", "acceptability", "and", "adequate", "expectations", "are", "to", "match", "an", "effective", "human-computer", "interaction", ".", "If", "the", "person", "expects", "smarter", "behavior", "of", "the", "robot", "-LRB-", "things", "like", "gesture/voice", "recognition", "-RRB-", "and", "the", "technology", "does", "not", "deliver", ",", "then", "rather", "than", "assisting", ",", "we", "will", "frustrate", "the", "person", ".", "It", "is", "also", "important", "that", "anyone", "who", "encounters", "a", "person", "assisted", "by", "a", "robot", "approaches", "with", "attitudes", "and", "gestures", "that", "allow", "the", "robotic", "assistant", "to", "facilitate", "the", "approach", ".", "The", "main", "motivation", "behind", "this", "research", "is", "a", "related", "project", "on", "using", "Aibo", "to", "assist", "blind", "people", ".", "While", "it", "may", "seem", "straightforward", "that", "a", "robotic", "assistant", "for", "the", "vision", "impaired", "person", "should", "be", "shaped", "as", "a", "dog", ",", "this", "is", "not", "so", ".", "Even", "with", "guide", "dogs", ",", "other", "humans", "find", "it", "difficult", "to", "approach", "and", "assist", "a", "blind", "person", ".", "Humans", "expect", "a", "strong", "bond", "and", "loyalty", "of", "the", "animal", "to", "its", "owner", ",", "fearing", "that", "dogs", "may", "misinterpret", "help", "as", "interfering", "with", "the", "bond", ",", "causing", "then", "to", "react", "violently", ".", "Our", "findings", "agree", "with", "those", "of", "others", "-LRB-", "Kahn", "Jr.", "et", "al.", "2002", "-RRB-", "in", "that", "there", "is", "a", "progression", "of", "attributes", "that", "humans", "ascribe", "to", "robots", "like", "Aibo", ".", "This", "progression", "starts", "from", "Essence", ",", "and", "advances", "to", "Agency", ",", "Social", "Standing", "and", "Moral", "Standing", ".", "Our", "findings", "are", "that", "Aibo", "fulfills", "biological", "animistic", "underpinnings", "-LRB-", "children", "refer", "to", "its", "tail", ",", "legs", ",", "ears", "and", "behaviors", "in", "the", "same", "way", "as", "for", "living", "dogs", "-RRB-", ".", "It", "also", "fulfills", "Agency", "properties", "-LRB-", "children", "attribute", "intentions", ",", "feelings", ",", "emotional", "states", ",", "wishes", ",", "desires", ",", "goals", "-RRB-", ".", "We", "left", "aside", "social", "standing", "in", "our", "methodology", ",", "but", "strongly", "suspect", "that", "children", "attribute", "an", "emotional", "connection", "and", "companionship", "to", "Aibo", ".", "We", "observed", "a", "clear", "preference", "among", "children", "for", "`", "Do", "you", "want", "to", "pat", "the", "dog/puppy", "?", "'", "over", "`", "Do", "you", "want", "to", "touch", "the", "robot", "?", "'", ".", "Many", "children", "made", "unsolicited", "comments", "about", "how", "similar", "it", "was", "playing", "with", "Aibo", "to", "playing", "with", "their", "dog", "at", "home", ".", "Similarly", ",", "we", "refrained", "from", "exploring", "children", "'s", "attribution", "of", "moral", "standing", "to", "Aibo", "-LRB-", "for", "example", ",", "should", "Aibo", "be", "punished", "for", "doing", "something", "wrong", "-RRB-", ".", "Nevertheless", ",", "we", "received", "unsolicited", "suggestions", "that", "`", "leaving", "Aibo", "alone", "or", "not", "playing", "with", "him", "would", "make", "him", "sad", "'", "and", "that", "`", "batteries", "should", "always", "be", "charged", ",", "which", "may", "mean", "more", "responsibility", "than", "for", "a", "living", "dog", "'", ".", "These", "types", "of", "comments", "do", "attribute", "some", "rights", "to", "Aibo", "and", "a", "sense", "that", "it", "also", "deserves", "some", "respect", ".", "Our", "observations", "indicate", "that", "Essence", "and", "Agency", "are", "maintained", "in", "the", "child", "'s", "beliefs", "even", "in", "the", "presence", "and", "practical", "illustration", "of", "other", "machines", "for", "which", "they", "will", "not", "typically", "attach", "such", "biological", "or", "animistic", "properties", ",", "nor", "psychological", "characteristics", "-LRB-", "although", "Bob", "the", "Builder", "'s", "cars", "and", "machines", "talk", "-RRB-", ".", "In", "fact", ",", "we", "witnessed", "arguments", "and", "debates", "among", "the", "children", "which", "turned", "the", "balance", "the", "other", "way", "around", ",", "some", "managing", "to", "convince", "others", "that", "Hank", "had", "feelings", "like", "`", "being", "afraid", "of", "the", "dark", ",", "because", "afraid", "is", "a", "feeling", "'", ".", "Also", ",", "we", "found", "observations", "that", "concur", "with", "the", "writing", "of", "anthropologist", "S.", "Turkle", "-LRB-", "Turkle", "1999", "-RRB-", ".", "In", "particular", ",", "although", "we", "did", "not", "intend", "to", "observe", "adults", ",", "we", "witnessed", "parents", "and", "teachers", "attempting", "to", "convince", "the", "children", "that", "Aibo", "was", "a", "machine", "and", "not", "a", "dog", ".", "Some", "child-carers", "seem", "to", "interpret", "our", "experiment", "as", "a", "lecture", "on", "the", "living", "versus", "the", "non-living", ".", "We", "believe", "this", "reflected", "some", "of", "Turkle", "'s", "conclusions", "about", "the", "`", "thinking", "about", "alive-ness", "'", "with", "older", "people", "interpreting", "machines", "and", "computers", "through", "mechanistic/physical", "interpretations", "while", "the", "newer", "generation", "interprets", "beings", "in", "computer", "games", "and", "robots", "as", "`", "sort", "of", "alive", "'", ".", "Our", "best", "example", "of", "this", "was", "witnessing", "a", "parent", "selecting", "a", "particular", "physical", "argument", "to", "convince", "her", "5-year", "old", "of", "`", "the", "clear", "difference", "'", "why", "Aibo", "is", "not", "a", "dog", ".", "This", "also", "pointed", "out", "a", "difference", "between", "Aibo", "and", "dogs", "that", "we", "had", "not", "observed", "but", "that", "the", "adult", "believed", "made", "``", "the", "difference", "''", ".", "We", "attempt", "to", "illustrate", "it", "with", "Figure", "7", ".", "Aibo", "has", "one", "less", "joint", "in", "the", "back", "leg", "than", "a", "dog", "-LRB-", "the", "dog", ",", "as", "shown", "in", "Figure", "7", "-LRB-", "a", "-RRB-", ",", "has", "hip", "-LRB-", "1", "-RRB-", ",", "knee", "-LRB-", "2", "-RRB-", ",", "ankle", "-LRB-", "3", "-RRB-", "and", "toes", "-LRB-", "4", "-RRB-", "-RRB-", ".", "This", "is", "one", "degree", "of", "freedom", "less", "and", "also", "the", "toes", "bend", "back", "in", "the", "dog", ",", "while", "they", "do", "not", "on", "Aibo", ".", "Note", "that", "if", "we", "were", "to", "choose", "a", "physical", "argument", "it", "is", "perhaps", "more", "obvious", "that", "Aibo", "does", "not", "have", "two", "eyes", "or", "does", "not", "have", "a", "wet", "nose", ".", "The", "point", "is", "that", "a", "basic", "minimum", "of", "physical", "structure", "is", "enough", "to", "engage", "children", "in", "a", "psychological/conceptual", "interpretation", "that", "then", "is", "hard", "to", "remove", "on", "the", "basis", "of", "physical", "evidence", ".", "We", "believe", "our", "results", "indicate", "that", "children", "are", "12", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "7", ":", "A", "dog", "-LRB-", "a", "-RRB-", "has", "one", "more", "degree", "of", "freedom", "per", "leg", "than", "Aibo", "-LRB-", "b", "-RRB-", "and", "has", "more", "movement", "in", "the", "toes", "than", "Aibo", ".", "quickly", "attached", "to", "the", "notion", "that", "`", "robotic", "dogs", "'", "are", "closer", "to", "living", "dogs", ".", "Although", "we", "would", "not", "go", "as", "far", "as", "S.", "Turkle", "to", "suggest", "that", "`", "living", "'", "has", "a", "new", "meaning", "for", "this", "generation", "of", "children", ",", "we", "suggest", "that", "they", "will", "see", "them", "as", "robotic", "pets", "more", "than", "canine", "machines", ".", "We", "expect", ",", "therefore", ",", "that", "in", "the", "future", ",", "humans", "will", "adopt", "more", "of", "them", "as", "an", "interface", "for", "human-computer", "interaction", ".", "Prof.", "B.", "Shneiderman", "is", "probably", "the", "world", "'s", "leading", "authority", "in", "Human-Computer", "Interaction", ".", "He", "has", "repeatedly", "been", "outspoken", "about", "reducing", "`", "ma-chine", "intelligence", "'", "and", "`", "software", "agents", "'", "for", "building", "computers", "that", "are", "more", "effective", "tools", "-LRB-", "Beardsley", "1999", "-RRB-", ".", "At", "first", ",", "our", "research", "seems", "to", "contradict", "some", "of", "his", "ideas", ";", "but", ",", "interaction", "with", "a", "robot", "is", "interaction", "with", "a", "computer", "and", "we", "agree", "that", "it", "allows", "for", "direct", "manipulation", ",", "even", "more", "realistic", "and", "perhaps", "more", "meaningful", "than", "on", "the", "computer", "screen", ".", "Also", ",", "it", "is", "now", "clear", "that", "domestic", "robots", "will", "soon", "be", "around", "us", "and", "computers", "will", "not", "be", "restricted", "to", "output", "devices", "like", "monitors", ",", "nor", "will", "computers", "be", "confined", "to", "fixed", "locations", ".", "Third", ",", "we", "argue", "that", "studies", "such", "as", "ours", "advance", "the", "possibilities", "of", "having", "a", "`", "controllable", ",", "consistent", "and", "predictable", "interaction", "'", "with", "a", "robot", ".", "Thus", ",", "we", "share", "the", "vision", "of", "interaction", "facilitated", "by", "proper", "design", ".", "Finally", ",", "our", "aim", "is", "interaction", "with", "people", "who", "are", "blind", ".", "In", "such", "case", ",", "visualization", "-LRB-", "the", "coloring", "of", "pixels", "in", "a", "monitor", "-RRB-", "for", "`", "insight", "'", "can", "not", "be", "used", ".", "Shneiderman", "also", "agrees", "on", "this", "point", ".", "We", "argue", "that", "properly", "designed", "robots", "will", "offer", "a", "multi-modal", "interface", "where", "insight", "is", "com-municated", "by", "embodiment", "and", "movement", "as", "well", "as", "sound", ".", "Other", "papers", "in", "the", "literature", "confirm", "that", "people", "may", "develop", "strong", "attachments", ",", "and", "even", "affectionate", "relationships", "with", "artificial", "information", "systems", ".", "Those", "studies", "involve", "human", "adults", "on", "one", "side", "and", "rather", "simple", "emulations", "of", "human", "intelligence", "in", "the", "other", ".", "In", "such", "cases", ",", "the", "interface", "has", "been", "rather", "simple", "-LRB-", "or", "at", "least", "not", "multi-modal", "-RRB-", ",", "like", "through", "a", "phone", "conversation", ".", "It", "is", "interesting", "that", "this", "may", "have", "both", "positive", "and", "negative", "outcomes", ".", "For", "example", ",", "as", "reported", "in", "the", "case", "of", "a", "`", "Health", "Behavior", "Ad-visor", "System", "'", "-LRB-", "Kaplan", ",", "Farzanfar", "&", "Friedman", "1999", "-RRB-", ",", "some", "patients", "felt", "motivated", "to", "follow", "a", "healthier", "life", "style", ",", "while", "others", "found", "it", "inflicted", "a", "sense", "of", "guilt", "that", "did", "not", "motivate", "healthier", "habits", ".", "We", "believe", "that", "understanding", "people", "'s", "expectations", "for", "robots", "is", "important", "since", "these", "expectations", "will", "define", "the", "context", "for", "the", "interactions", "that", "may", "result", "in", "effective", "use", "of", "robotic", "technology", ".", "An", "example", "is", "the", "potential", "attribution", "of", "moral", "standing", "to", "robots", ".", "This", "could", "eventually", "regard", "the", "robot", "-LRB-", "and", "not", "its", "manufacturer", "-RRB-", "as", "responsible", "for", "its", "actions", ".", "Certainly", ",", "this", "would", "have", "many", "implications", "for", "our", "society", ".", "The", "authors", "wish", "to", "thank", "the", "anonymous", "referees", "for", "the", "constructive", "feedback", "provided", "in", "their", "reviews", ".", "This", "work", "was", "supported", "by", "a", "Griffith", "University", "Research", "Grant", "as", "part", "of", "the", "project", "``", "Robots", "to", "guide", "the", "blind", "-", "the", "application", "of", "physical", "collaborative", "autonomous", "intelligent", "agents", "''", ".", "Aylett", ",", "B.", "-LRB-", "2002", "-RRB-", ",", "ROBOTS", "--", "Bringing", "intelligent", "machines", "to", "life", "?", ",", "ABC", "Books", ",", "Sydney", "NSW", ",", "Australia", ".", "Beardsley", ",", "T.", "-LRB-", "1999", "-RRB-", ",", "`", "Humans", "unite", "!", "'", ",", "Scientific", "American", "March", ",", "35", "36", ".", "Profile", "Column", ".", "Brooks", ",", "R.", "-LRB-", "2002", "-RRB-", ",", "`", "Humanoid", "robots", "'", ",", "Communications", "of", "the", "ACM", "45", "-LRB-", "3", "-RRB-", ",", "33", "38", ".", "Bumby", ",", "K.", "&", "Dautenhahn", ",", "K.", "-LRB-", "1999", "-RRB-", ",", "Investigating", "children", "'s", "attitudes", "towards", "robots", ":", "A", "case", "study", ",", "in", "`", "Proceedings", "of", "the", "Third", "Cognitive", "Technology", "Conference", ",", "CT", "'", "99", "'", ",", "M.I.N.D.", "Lab", ",", "Michigan", "State", "University", ",", "East", "Lansing", ",", "MI.", ",", "pp.", "391", "410", ".", "Fong", ",", "T.", ",", "Nourbakhsh", ",", "I.", "&", "Dautenhahn", ",", "K.", "-LRB-", "2003", "-RRB-", ",", "`", "A", "survey", "of", "socially", "interactive", "robots", "'", ",", "Robotics", "and", "Autonomous", "Systems", "42", ",", "235", "243", ".", "Kahn", "Jr.", ",", "P.", ",", "Friedman", ",", "B.", "&", "Hagman", ",", "J.", "-LRB-", "2002", "-RRB-", ",", "I", "care", "about", "him", "as", "a", "pal", ":", "Conceptions", "of", "robotic", "pets", "in", "online", "Aibo", "discussion", "forum", ",", "in", "`", "Proceedings", "of", "CHI", ",", "Interactive", "Poster", ":", "Fun", "changing", "the", "world", ",", "changing", "ourselves", "'", ",", "pp.", "632", "633", ".", "Kahn", "Jr.", ",", "P.", "J.", ",", "Friedman", ",", "B.", ",", "Freier", ",", "N.", "&", "Severson", ",", "R.", "-LRB-", "2003", "-RRB-", ",", "Coding", "manual", "for", "children", "'s", "interactions", "with", "Aibo", ",", "the", "robotic", "dog", "--", "the", "preschool", "study", ",", "Technical", "Report", "UW", "CSE", "03-04-03", ",", "Department", "of", "Computer", "Science", "and", "Engineering", ",", "University", "of", "Washington", ",", "Seattle", ",", "US", ".", "Kahney", ",", "L.", "-LRB-", "2003", "-RRB-", ",", "`", "The", "new", "pet", "craze", ":", "Robovacs", "'", ",", "Wired", "Magazine", ".", "June", ",", "16th", ";", "visited", "Septenber", "10th", ",", "2003", ",", "www.wired.com/news/technology/0,1282,59249,00.html", ".", "Kaplan", ",", "B.", ",", "Farzanfar", ",", "R.", "&", "Friedman", ",", "R.", "-LRB-", "1999", "-RRB-", ",", "Ethnographic", "interviews", "to", "elicit", "patients", ",", "reactions", "to", "an", "intelligent", "interactive", "telephone", "health", "behavior", "advisor", "system", ",", "in", "M.", "N.M.", "Lorenzi", ",", "Bethesda", ",", "ed.", ",", "`", "Proceedings", ":", "AMIA", "Symposiu", "'", ",", "American", "Medical", "Informatics", "Association", ",", "www.amia.org/pubs/symposia/D005604.PDF", ".", "Knudsen", ",", "J.", "-LRB-", "1999", "-RRB-", ",", "The", "Unofficial", "Guide", "to", "LEGO", "MINDSTORM", "Robots", ",", "O'Reilly", ",", "Sebastopol", ",", "CA.", "13", "Lawry", ",", "J.", ",", "Upitis", ",", "R.", ",", "Klawe", ",", "M.", ",", "Anderson", ",", "A.", ",", "Inkpen", ",", "K.", ",", "Ndunda", ",", "M.", ",", "Hsu", ",", "D.", ",", "Leroux", ",", "S.", "&", "Sedighian", ",", "K.", "-LRB-", "1995", "-RRB-", ",", "`", "Exploring", "common", "conceptions", "about", "boys", "and", "electronic", "games", "'", ",", "Journal", "of", "Computer", "in", "Math", "and", "Science", "Teaching", "14", "-LRB-", "4", "-RRB-", ",", "439", "459", ".", "Scheeff", ",", "M.", ",", "Pinto", ",", "J.", ",", "Rahardja", ",", "K.", ",", "Snibbe", ",", "S.", "&", "Tow", ",", "R.", "-LRB-", "2000", "-RRB-", ",", "Experiences", "with", "Sparky", ":", "A", "social", "robot", ",", "in", "`", "Proceedings", "of", "the", "Workshop", "on", "Interactive", "Robot", "Entertainment", "'", ".", "Thrun", ",", "S.", ",", "Bennewitz", ",", "M.", ",", "Burgard", ",", "W.", ",", "Cremers", ",", "A.", ",", "Dellaert", ",", "F.", ",", "Fox", ",", "D.", ",", "Hahnel", ",", "D.", ",", "Rosenberg", ",", "C.", ",", "Roy", ",", "N.", ",", "Schulte", ",", "J.", "&", "Schulz", ",", "D.", "-LRB-", "1999", "-RRB-", ",", "MINERVA", ":", "A", "tour-guide", "robot", "that", "learns", ",", "in", "`", "KI", "Kunstliche", "Intelligenz", "'", ",", "pp.", "14", "26", ".", "Turkle", ",", "S.", "-LRB-", "1999", "-RRB-", ",", "What", "are", "we", "thinking", "about", "when", "we", "are", "thinking", "about", "computers", "?", ",", "in", "M.", "Biagi-oli", ",", "ed.", ",", "`", "The", "Science", "Studies", "Reader", "'", ",", "Routledge", ",", "New", "York", ".", "Veloso", ",", "M.", ",", "Uther", ",", "W.", ",", "Fujita", ",", "M.", ",", "Asada", ",", "M.", "&", "Kitano", ",", "H.", "-LRB-", "1998", "-RRB-", ",", "Playing", "soccer", "with", "legged", "robots", ",", "in", "`", "In", "Proceedings", "of", "IROS-98", ",", "Intelligent", "Robots", "and", "Systems", "Conference", "'", ",", "Victoria", ",", "Canada", ".", "14"], "doc_bio_tags": ["O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["interaction", "feelings", "essence", "intelligent creatures", "agency", "robots", "language"], "abstractive_keyphrases": ["behavioral science", "hci", "zoo-morphological autonomous mobile robots", "human attitudes", "perceived attitude", "multi-modal interfaces", "robot attributes"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "88", "document": ["Event", "Threading", "within", "News", "Topics", "With", "the", "overwhelming", "volume", "of", "online", "news", "available", "today", ",", "there", "is", "an", "increasing", "need", "for", "automatic", "techniques", "to", "analyze", "and", "present", "news", "to", "the", "user", "in", "a", "meaningful", "and", "efficient", "manner", ".", "Previous", "research", "focused", "only", "on", "organizing", "news", "stories", "by", "their", "topics", "into", "a", "flat", "hierarchy", ".", "We", "believe", "viewing", "a", "news", "topic", "as", "a", "flat", "collection", "of", "stories", "is", "too", "restrictive", "and", "inefficient", "for", "a", "user", "to", "understand", "the", "topic", "quickly", ".", "In", "this", "work", ",", "we", "attempt", "to", "capture", "the", "rich", "structure", "of", "events", "and", "their", "dependencies", "in", "a", "news", "topic", "through", "our", "event", "models", ".", "We", "call", "the", "process", "of", "recognizing", "events", "and", "their", "dependencies", "event", "threading", ".", "We", "believe", "our", "perspective", "of", "modeling", "the", "structure", "of", "a", "topic", "is", "more", "effective", "in", "capturing", "its", "semantics", "than", "a", "flat", "list", "of", "on-topic", "stories", ".", "We", "formally", "define", "the", "novel", "problem", ",", "suggest", "evaluation", "metrics", "and", "present", "a", "few", "techniques", "for", "solving", "the", "problem", ".", "Besides", "the", "standard", "word", "based", "features", ",", "our", "approaches", "take", "into", "account", "novel", "features", "such", "as", "temporal", "locality", "of", "stories", "for", "event", "recognition", "and", "time-ordering", "for", "capturing", "dependencies", ".", "Our", "experiments", "on", "a", "manually", "labeled", "data", "sets", "show", "that", "our", "models", "effec-tively", "identify", "the", "events", "and", "capture", "dependencies", "among", "them", ".", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "Clustering", "Algorithms", ",", "Experimentation", ",", "Measurement", "News", "forms", "a", "major", "portion", "of", "information", "disseminated", "in", "the", "world", "everyday", ".", "Common", "people", "and", "news", "analysts", "alike", "are", "very", "interested", "in", "keeping", "abreast", "of", "new", "things", "that", "happen", "in", "the", "news", ",", "but", "it", "is", "becoming", "very", "difficult", "to", "cope", "with", "the", "huge", "volumes", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "04", ",", "November", "8", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-874-1", "/", "04/0011", "...", "$", "5.00", ".", "of", "information", "that", "arrives", "each", "day", ".", "Hence", "there", "is", "an", "increasing", "need", "for", "automatic", "techniques", "to", "organize", "news", "stories", "in", "a", "way", "that", "helps", "users", "interpret", "and", "analyze", "them", "quickly", ".", "This", "problem", "is", "addressed", "by", "a", "research", "program", "called", "Topic", "Detection", "and", "Tracking", "-LRB-", "TDT", "-RRB-", "-LSB-", "3", "-RSB-", "that", "runs", "an", "open", "annual", "competition", "on", "standardized", "tasks", "of", "news", "organization", ".", "One", "of", "the", "shortcomings", "of", "current", "TDT", "evaluation", "is", "its", "view", "of", "news", "topics", "as", "flat", "collection", "of", "stories", ".", "For", "example", ",", "the", "detection", "task", "of", "TDT", "is", "to", "arrange", "a", "collection", "of", "news", "stories", "into", "clusters", "of", "topics", ".", "However", ",", "a", "topic", "in", "news", "is", "more", "than", "a", "mere", "collection", "of", "stories", ":", "it", "is", "characterized", "by", "a", "definite", "structure", "of", "inter-related", "events", ".", "This", "is", "indeed", "recognized", "by", "TDT", "which", "defines", "a", "topic", "as", "`", "a", "set", "of", "news", "stories", "that", "are", "strongly", "related", "by", "some", "seminal", "real-world", "event", "'", "where", "an", "event", "is", "defined", "as", "`", "something", "that", "happens", "at", "a", "specific", "time", "and", "location", "'", "-LSB-", "3", "-RSB-", ".", "For", "example", ",", "when", "a", "bomb", "explodes", "in", "a", "building", ",", "that", "is", "the", "seminal", "event", "that", "triggers", "the", "topic", ".", "Other", "events", "in", "the", "topic", "may", "include", "the", "rescue", "attempts", ",", "the", "search", "for", "perpetrators", ",", "arrests", "and", "trials", "and", "so", "on", ".", "We", "see", "that", "there", "is", "a", "pattern", "of", "dependencies", "between", "pairs", "of", "events", "in", "the", "topic", ".", "In", "the", "above", "example", ",", "the", "event", "of", "rescue", "attempts", "is", "`", "influenced", "'", "by", "the", "event", "of", "bombing", "and", "so", "is", "the", "event", "of", "search", "for", "perpetrators", ".", "In", "this", "work", "we", "investigate", "methods", "for", "modeling", "the", "structure", "of", "a", "topic", "in", "terms", "of", "its", "events", ".", "By", "structure", ",", "we", "mean", "not", "only", "identifying", "the", "events", "that", "make", "up", "a", "topic", ",", "but", "also", "establishing", "dependencies", "--", "generally", "causal", "--", "among", "them", ".", "We", "call", "the", "process", "of", "recognizing", "events", "and", "identifying", "dependencies", "among", "them", "event", "threading", ",", "an", "analogy", "to", "email", "threading", "that", "shows", "connections", "between", "related", "email", "messages", ".", "We", "refer", "to", "the", "resulting", "interconnected", "structure", "of", "events", "as", "the", "event", "model", "of", "the", "topic", ".", "Although", "this", "paper", "focuses", "on", "threading", "events", "within", "an", "existing", "news", "topic", ",", "we", "expect", "that", "such", "event", "based", "dependency", "structure", "more", "accurately", "reflects", "the", "structure", "of", "news", "than", "strictly", "bounded", "topics", "do", ".", "From", "a", "user", "'s", "perspective", ",", "we", "believe", "that", "our", "view", "of", "a", "news", "topic", "as", "a", "set", "of", "interconnected", "events", "helps", "him/her", "get", "a", "quick", "overview", "of", "the", "topic", "and", "also", "allows", "him/her", "navigate", "through", "the", "topic", "faster", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", ",", "we", "discuss", "related", "work", ".", "In", "section", "3", ",", "we", "define", "the", "problem", "and", "use", "an", "example", "to", "illustrate", "threading", "of", "events", "within", "a", "news", "topic", ".", "In", "section", "4", ",", "we", "describe", "how", "we", "built", "the", "corpus", "for", "our", "problem", ".", "Section", "5", "presents", "our", "evaluation", "techniques", "while", "section", "6", "describes", "the", "techniques", "we", "use", "for", "modeling", "event", "structure", ".", "In", "section", "7", "we", "present", "our", "experiments", "and", "results", ".", "Section", "8", "concludes", "the", "paper", "with", "a", "few", "observations", "on", "our", "results", "and", "comments", "on", "future", "work", ".", "446", "The", "process", "of", "threading", "events", "together", "is", "related", "to", "threading", "of", "electronic", "mail", "only", "by", "name", "for", "the", "most", "part", ".", "Email", "usually", "incorporates", "a", "strong", "structure", "of", "referenced", "messages", "and", "consistently", "formatted", "subject", "headings", "--", "though", "information", "retrieval", "techniques", "are", "useful", "when", "the", "structure", "breaks", "down", "-LSB-", "7", "-RSB-", ".", "Email", "threading", "captures", "reference", "dependencies", "between", "messages", "and", "does", "not", "attempt", "to", "reflect", "any", "underlying", "real-world", "structure", "of", "the", "matter", "under", "discussion", ".", "Another", "area", "of", "research", "that", "looks", "at", "the", "structure", "within", "a", "topic", "is", "hierarchical", "text", "classification", "of", "topics", "-LSB-", "9", ",", "6", "-RSB-", ".", "The", "hierarchy", "within", "a", "topic", "does", "impose", "a", "structure", "on", "the", "topic", ",", "but", "we", "do", "not", "know", "of", "an", "effort", "to", "explore", "the", "extent", "to", "which", "that", "structure", "reflects", "the", "underlying", "event", "relationships", ".", "Barzilay", "and", "Lee", "-LSB-", "5", "-RSB-", "proposed", "a", "content", "structure", "modeling", "technique", "where", "topics", "within", "text", "are", "learnt", "using", "unsupervised", "methods", ",", "and", "a", "linear", "order", "of", "these", "topics", "is", "modeled", "using", "hidden", "Markov", "models", ".", "Our", "work", "differs", "from", "theirs", "in", "that", "we", "do", "not", "constrain", "the", "dependency", "to", "be", "linear", ".", "Also", "their", "algorithms", "are", "tuned", "to", "work", "on", "specific", "genres", "of", "topics", "such", "as", "earthquakes", ",", "accidents", ",", "etc.", ",", "while", "we", "expect", "our", "algorithms", "to", "generalize", "over", "any", "topic", ".", "In", "TDT", ",", "researchers", "have", "traditionally", "considered", "topics", "as", "flat-clusters", "-LSB-", "1", "-RSB-", ".", "However", ",", "in", "TDT-2003", ",", "a", "hierarchical", "structure", "of", "topic", "detection", "has", "been", "proposed", "and", "-LSB-", "2", "-RSB-", "made", "useful", "attempts", "to", "adopt", "the", "new", "structure", ".", "However", "this", "structure", "still", "did", "not", "ex-plicitly", "model", "any", "dependencies", "between", "events", ".", "In", "a", "work", "closest", "to", "ours", ",", "Makkonen", "-LSB-", "8", "-RSB-", "suggested", "modeling", "news", "topics", "in", "terms", "of", "its", "evolving", "events", ".", "However", ",", "the", "paper", "stopped", "short", "of", "proposing", "any", "models", "to", "the", "problem", ".", "Other", "related", "work", "that", "dealt", "with", "analysis", "within", "a", "news", "topic", "includes", "temporal", "summarization", "of", "news", "topics", "-LSB-", "4", "-RSB-", ".", "In", "this", "work", ",", "we", "have", "adhered", "to", "the", "definition", "of", "event", "and", "topic", "as", "defined", "in", "TDT", ".", "We", "present", "some", "definitions", "-LRB-", "in", "italics", "-RRB-", "and", "our", "interpretations", "-LRB-", "regular-faced", "-RRB-", "below", "for", "clarity", ".", "1", ".", "Story", ":", "A", "story", "is", "a", "news", "article", "delivering", "some", "information", "to", "users", ".", "In", "TDT", ",", "a", "story", "is", "assumed", "to", "refer", "to", "only", "a", "single", "topic", ".", "In", "this", "work", ",", "we", "also", "assume", "that", "each", "story", "discusses", "a", "single", "event", ".", "In", "other", "words", ",", "a", "story", "is", "the", "smallest", "atomic", "unit", "in", "the", "hierarchy", "-LRB-", "topic", "event", "story", "-RRB-", ".", "Clearly", ",", "both", "the", "assumptions", "are", "not", "necessarily", "true", "in", "reality", ",", "but", "we", "accept", "them", "for", "simplicity", "in", "modeling", ".", "2", ".", "Event", ":", "An", "event", "is", "something", "that", "happens", "at", "some", "specific", "time", "and", "place", "-LSB-", "10", "-RSB-", ".", "In", "our", "work", ",", "we", "represent", "an", "event", "by", "a", "set", "of", "stories", "that", "discuss", "it", ".", "Following", "the", "assumption", "of", "atomicity", "of", "a", "story", ",", "this", "means", "that", "any", "set", "of", "distinct", "events", "can", "be", "represented", "by", "a", "set", "of", "non-overlapping", "clusters", "of", "news", "stories", ".", "3", ".", "Topic", ":", "A", "set", "of", "news", "stories", "strongly", "connected", "by", "a", "seminal", "event", ".", "We", "expand", "on", "this", "definition", "and", "interpret", "a", "topic", "as", "a", "series", "of", "related", "events", ".", "Thus", "a", "topic", "can", "be", "represented", "by", "clusters", "of", "stories", "each", "representing", "an", "event", "and", "a", "set", "of", "-LRB-", "directed", "or", "undirected", "-RRB-", "edges", "between", "pairs", "of", "these", "clusters", "representing", "the", "dependencies", "between", "these", "events", ".", "We", "will", "describe", "this", "representation", "of", "a", "topic", "in", "more", "detail", "in", "the", "next", "section", ".", "4", ".", "Topic", "detection", "and", "tracking", "-LRB-", "TDT", "-RRB-", ":", "Topic", "detection", "detects", "clusters", "of", "stories", "that", "discuss", "the", "same", "topic", ";", "Topic", "tracking", "detects", "stories", "that", "discuss", "a", "previously", "known", "topic", "-LSB-", "3", "-RSB-", ".", "Thus", "TDT", "concerns", "itself", "mainly", "with", "clustering", "stories", "into", "topics", "that", "discuss", "them", ".", "5", ".", "Event", "threading", ":", "Event", "threading", "detects", "events", "within", "in", "a", "topic", ",", "and", "also", "captures", "the", "dependencies", "among", "the", "events", ".", "Thus", "the", "main", "difference", "between", "event", "threading", "and", "TDT", "is", "that", "we", "focus", "our", "modeling", "effort", "on", "microscopic", "events", "rather", "than", "larger", "topics", ".", "Additionally", "event", "threading", "models", "the", "relatedness", "or", "dependencies", "between", "pairs", "of", "events", "in", "a", "topic", "while", "TDT", "models", "topics", "as", "unrelated", "clusters", "of", "stories", ".", "We", "first", "define", "our", "problem", "and", "representation", "of", "our", "model", "formally", "and", "then", "illustrate", "with", "the", "help", "of", "an", "example", ".", "We", "are", "given", "a", "set", "of", "news", "stories", "on", "a", "given", "topic", "and", "their", "time", "of", "publication", ".", "We", "define", "a", "set", "of", "events", "with", "the", "following", "constraints", ":", "-LRB-", "1", "-RRB-", "-LRB-", "2", "-RRB-", "-LRB-", "3", "-RRB-", "While", "the", "first", "constraint", "says", "that", "each", "event", "is", "an", "element", "in", "the", "power", "set", "of", "S", ",", "the", "second", "constraint", "ensures", "that", "each", "story", "can", "belong", "to", "at", "most", "one", "event", ".", "The", "last", "constraint", "tells", "us", "that", "every", "story", "belongs", "to", "one", "of", "the", "events", "in", ".", "In", "fact", "this", "allows", "us", "to", "define", "a", "mapping", "function", "from", "stories", "to", "events", "as", "follows", ":", "iff", "-LRB-", "4", "-RRB-", "Further", ",", "we", "also", "define", "a", "set", "of", "directed", "edges", "which", "denote", "dependencies", "between", "events", ".", "It", "is", "important", "to", "explain", "what", "we", "mean", "by", "this", "directional", "dependency", ":", "While", "the", "existence", "of", "an", "edge", "itself", "represents", "relatedness", "of", "two", "events", ",", "the", "direction", "could", "imply", "causality", "or", "temporal-ordering", ".", "By", "causal", "dependency", "we", "mean", "that", "the", "occurrence", "of", "event", "B", "is", "related", "to", "and", "is", "a", "consequence", "of", "the", "occurrence", "of", "event", "A.", "By", "temporal", "ordering", ",", "we", "mean", "that", "event", "B", "happened", "after", "event", "A", "and", "is", "related", "to", "A", "but", "is", "not", "necessarily", "a", "consequence", "of", "A.", "For", "example", ",", "consider", "the", "following", "two", "events", ":", "`", "plane", "crash", "'", "-LRB-", "event", "A", "-RRB-", "and", "`", "subse-quent", "investigations", "'", "-LRB-", "event", "B", "-RRB-", "in", "a", "topic", "on", "a", "plane", "crash", "incident", ".", "Clearly", ",", "the", "investigations", "are", "a", "result", "of", "the", "crash", ".", "Hence", "an", "arrow", "from", "A", "to", "B", "falls", "under", "the", "category", "of", "causal", "dependency", ".", "Now", "consider", "the", "pair", "of", "events", "`", "Pope", "arrives", "in", "Cuba", "'", "-LRB-", "event", "A", "-RRB-", "and", "`", "Pope", "meets", "Castro", "'", "-LRB-", "event", "B", "-RRB-", "in", "a", "topic", "that", "discusses", "Pope", "'s", "visit", "to", "Cuba", ".", "Now", "events", "A", "and", "B", "are", "closely", "related", "through", "their", "association", "with", "the", "Pope", "and", "Cuba", "but", "event", "B", "is", "not", "necessarily", "a", "consequence", "of", "the", "occurrence", "of", "event", "A", ".", "An", "arrow", "in", "such", "scenario", "captures", "what", "we", "call", "time", "ordering", ".", "In", "this", "work", ",", "we", "do", "not", "make", "an", "attempt", "to", "distinguish", "between", "these", "two", "kinds", "of", "dependencies", "and", "our", "models", "treats", "them", "as", "identical", ".", "A", "simpler", "-LRB-", "and", "hence", "less", "controversial", "-RRB-", "choice", "would", "be", "to", "ignore", "direction", "in", "the", "dependencies", "altogether", "and", "consider", "only", "undirected", "edges", ".", "This", "choice", "definitely", "makes", "sense", "as", "a", "first", "step", "but", "we", "chose", "the", "former", "since", "we", "believe", "directional", "edges", "make", "more", "sense", "to", "the", "user", "as", "they", "provide", "a", "more", "illustrative", "flow-chart", "perspective", "to", "the", "topic", ".", "To", "make", "the", "idea", "of", "event", "threading", "more", "concrete", ",", "consider", "the", "example", "of", "TDT3", "topic", "30005", ",", "titled", "`", "Osama", "bin", "Laden", "'s", "Indict-ment", "'", "-LRB-", "in", "the", "1998", "news", "-RRB-", ".", "This", "topic", "has", "23", "stories", "which", "form", "5", "events", ".", "An", "event", "model", "of", "this", "topic", "can", "be", "represented", "as", "in", "figure", "1", ".", "Each", "box", "in", "the", "figure", "indicates", "an", "event", "in", "the", "topic", "of", "Osama", "'s", "indictment", ".", "The", "occurrence", "of", "event", "2", ",", "namely", "`", "Trial", "and", "Indictment", "of", "Osama", "'", "is", "dependent", "on", "the", "event", "of", "`", "evidence", "gathered", "by", "CIA", "'", ",", "i.e.", ",", "event", "1", ".", "Similarly", ",", "event", "2", "influences", "the", "occurrences", "of", "events", "3", ",", "4", "and", "5", ",", "namely", "`", "Threats", "from", "Militants", "'", ",", "`", "Reactions", "447", "from", "Muslim", "World", "'", "and", "`", "announcement", "of", "reward", "'", ".", "Thus", "all", "the", "dependencies", "in", "the", "example", "are", "causal", ".", "Extending", "our", "notation", "further", ",", "we", "call", "an", "event", "A", "a", "parent", "of", "B", "and", "B", "the", "child", "of", "A", ",", "if", ".", "We", "define", "an", "event", "model", "to", "be", "a", "tuple", "of", "the", "set", "of", "events", "and", "set", "of", "dependencies", ".", "Trial", "and", "-LRB-", "5", "-RRB-", "-LRB-", "3", "-RRB-", "-LRB-", "4", "-RRB-", "CIA", "announces", "reward", "Muslim", "world", "Reactions", "from", "Islamic", "militants", "Threats", "from", "-LRB-", "2", "-RRB-", "-LRB-", "1", "-RRB-", "Osama", "Indictment", "of", "CIA", "gathered", "by", "Evidence", "Figure", "1", ":", "An", "event", "model", "of", "TDT", "topic", "`", "Osama", "bin", "Laden", "'s", "indictment", "'", ".", "Event", "threading", "is", "strongly", "related", "to", "topic", "detection", "and", "tracking", ",", "but", "also", "different", "from", "it", "significantly", ".", "It", "goes", "beyond", "topics", ",", "and", "models", "the", "relationships", "between", "events", ".", "Thus", ",", "event", "threading", "can", "be", "considered", "as", "a", "further", "extension", "of", "topic", "detection", "and", "tracking", "and", "is", "more", "challenging", "due", "to", "at", "least", "the", "following", "difficulties", ".", "1", ".", "The", "number", "of", "events", "is", "unknown", ".", "2", ".", "The", "granularity", "of", "events", "is", "hard", "to", "define", ".", "3", ".", "The", "dependencies", "among", "events", "are", "hard", "to", "model", ".", "4", ".", "Since", "it", "is", "a", "brand", "new", "research", "area", ",", "no", "standard", "evaluation", "metrics", "and", "benchmark", "data", "is", "available", ".", "In", "the", "next", "few", "sections", ",", "we", "will", "describe", "our", "attempts", "to", "tackle", "these", "problems", ".", "We", "picked", "28", "topics", "from", "the", "TDT2", "corpus", "and", "25", "topics", "from", "the", "TDT3", "corpus", ".", "The", "criterion", "we", "used", "for", "selecting", "a", "topic", "is", "that", "it", "should", "contain", "at", "least", "15", "on-topic", "stories", "from", "CNN", "headline", "news", ".", "If", "the", "topic", "contained", "more", "than", "30", "CNN", "stories", ",", "we", "picked", "only", "the", "first", "30", "stories", "to", "keep", "the", "topic", "short", "enough", "for", "annota-tors", ".", "The", "reason", "for", "choosing", "only", "CNN", "as", "the", "source", "is", "that", "the", "stories", "from", "this", "source", "tend", "to", "be", "short", "and", "precise", "and", "do", "not", "tend", "to", "digress", "or", "drift", "too", "far", "away", "from", "the", "central", "theme", ".", "We", "believe", "modeling", "such", "stories", "would", "be", "a", "useful", "first", "step", "before", "dealing", "with", "more", "complex", "data", "sets", ".", "We", "hired", "an", "annotator", "to", "create", "truth", "data", ".", "Annotation", "includes", "defining", "the", "event", "membership", "for", "each", "story", "and", "also", "the", "dependencies", ".", "We", "supervised", "the", "annotator", "on", "a", "set", "of", "three", "topics", "that", "we", "did", "our", "own", "annotations", "on", "and", "then", "asked", "her", "to", "annotate", "the", "28", "topics", "from", "TDT2", "and", "25", "topics", "from", "TDT3", ".", "In", "identifying", "events", "in", "a", "topic", ",", "the", "annotator", "was", "asked", "to", "broadly", "follow", "the", "TDT", "definition", "of", "an", "event", ",", "i.e.", ",", "`", "something", "that", "happens", "at", "a", "specific", "time", "and", "location", "'", ".", "The", "annotator", "was", "encouraged", "to", "merge", "two", "events", "A", "and", "B", "into", "a", "single", "event", "C", "if", "any", "of", "the", "stories", "discusses", "both", "A", "and", "B", ".", "This", "is", "to", "satisfy", "our", "assumption", "that", "each", "story", "corresponds", "to", "a", "unique", "event", ".", "The", "annotator", "was", "also", "encouraged", "to", "avoid", "singleton", "events", ",", "events", "that", "contain", "a", "single", "news", "story", ",", "if", "possible", ".", "We", "realized", "from", "our", "own", "experience", "that", "people", "differ", "in", "their", "perception", "of", "an", "event", "especially", "when", "the", "number", "of", "stories", "in", "that", "event", "is", "small", ".", "As", "part", "of", "the", "guidelines", ",", "we", "instructed", "the", "annotator", "to", "assign", "titles", "to", "all", "the", "events", "in", "each", "topic", ".", "We", "believe", "that", "this", "would", "help", "make", "her", "understanding", "of", "the", "events", "more", "concrete", ".", "We", "however", ",", "do", "not", "use", "or", "model", "these", "titles", "in", "our", "algorithms", ".", "In", "defining", "dependencies", "between", "events", ",", "we", "imposed", "no", "restrictions", "on", "the", "graph", "structure", ".", "Each", "event", "could", "have", "single", ",", "multiple", "or", "no", "parents", ".", "Further", ",", "the", "graph", "could", "have", "cycles", "or", "orphan-nodes", ".", "The", "annotator", "was", "however", "instructed", "to", "assign", "a", "dependency", "from", "event", "A", "to", "event", "B", "if", "and", "only", "if", "the", "occurrence", "of", "B", "is", "`", "either", "causally", "influenced", "by", "A", "or", "is", "closely", "related", "to", "A", "and", "follows", "A", "in", "time", "'", ".", "From", "the", "annotated", "topics", ",", "we", "created", "a", "training", "set", "of", "26", "topics", "and", "a", "test", "set", "of", "27", "topics", "by", "merging", "the", "28", "topics", "from", "TDT2", "and", "25", "from", "TDT3", "and", "splitting", "them", "randomly", ".", "Table", "1", "shows", "that", "the", "training", "and", "test", "sets", "have", "fairly", "similar", "statistics", ".", "Feature", "Training", "set", "Test", "set", "Num", ".", "topics", "26", "27", "Avg", ".", "Num", ".", "Stories/Topic", "28.69", "26.74", "Avg", ".", "Doc", ".", "Len", ".", "64.60", "64.04", "Avg", ".", "Num", ".", "Stories/Event", "5.65", "6.22", "Avg", ".", "Num", ".", "Events/Topic", "5.07", "4.29", "Avg", ".", "Num", ".", "Dependencies/Topic", "3.07", "2.92", "Avg", ".", "Num", ".", "Dependencies/Event", "0.61", "0.68", "Avg", ".", "Num", ".", "Days/Topic", "30.65", "34.48", "Table", "1", ":", "Statistics", "of", "annotated", "data", "A", "system", "can", "generate", "some", "event", "model", "using", "certain", "algorithms", ",", "which", "is", "usually", "different", "from", "the", "truth", "model", "-LRB-", "we", "assume", "the", "annotator", "did", "not", "make", "any", "mistake", "-RRB-", ".", "Comparing", "a", "system", "event", "model", "with", "the", "true", "model", "requires", "comparing", "the", "entire", "event", "models", "including", "their", "dependency", "structure", ".", "And", "different", "event", "granularities", "may", "bring", "huge", "discrepancy", "between", "and", ".", "This", "is", "certainly", "non-trivial", "as", "even", "testing", "whether", "two", "graphs", "are", "isomorphic", "has", "no", "known", "polynomial", "time", "solution", ".", "Hence", "instead", "of", "comparing", "the", "actual", "structure", "we", "examine", "a", "pair", "of", "stories", "at", "a", "time", "and", "verify", "if", "the", "system", "and", "true", "labels", "agree", "on", "their", "event-memberships", "and", "dependencies", ".", "Specifically", ",", "we", "compare", "two", "kinds", "of", "story", "pairs", ":", "Cluster", "pairs", "-LRB-", "-RRB-", ":", "These", "are", "the", "complete", "set", "of", "un-ordered", "pairs", "of", "stories", "and", "that", "fall", "within", "the", "same", "event", "given", "a", "model", ".", "Formally", ",", "-LRB-", "5", "-RRB-", "where", "is", "the", "function", "in", "that", "maps", "stories", "to", "events", "as", "defined", "in", "equation", "4", ".", "Dependency", "pairs", "-LRB-", "-RRB-", ":", "These", "are", "the", "set", "of", "all", "ordered", "pairs", "of", "stories", "such", "that", "there", "is", "a", "dependency", "from", "the", "event", "of", "to", "the", "event", "of", "in", "the", "model", ".", "-LRB-", "6", "-RRB-", "Note", "the", "story", "pair", "is", "ordered", "here", ",", "so", "is", "not", "equivalent", "to", ".", "In", "our", "evaluation", ",", "a", "correct", "pair", "with", "wrong", "448", "-LRB-", "B", "-", ">", "D", "-RRB-", "Cluster", "pairs", "-LRB-", "A", ",", "C", "-RRB-", "Dependency", "pairs", "-LRB-", "A", "-", ">", "B", "-RRB-", "-LRB-", "C", "-", ">", "B", "-RRB-", "-LRB-", "B", "-", ">", "D", "-RRB-", "D", ",", "E", "D", ",", "E", "-LRB-", "D", ",", "E", "-RRB-", "-LRB-", "D", ",", "E", "-RRB-", "-LRB-", "A", "-", ">", "C", "-RRB-", "-LRB-", "A", "-", ">", "E", "-RRB-", "-LRB-", "B", "-", ">", "C", "-RRB-", "-LRB-", "B", "-", ">", "E", "-RRB-", "-LRB-", "B", "-", ">", "E", "-RRB-", "Cluster", "precision", ":", "1/2", "Cluster", "Recall", ":", "1/2", "Dependency", "Recall", ":", "2/6", "Dependency", "Precision", ":", "2/4", "-LRB-", "A", "-", ">", "D", "-RRB-", "True", "event", "model", "System", "event", "model", "A", ",", "B", "C", "A", ",", "C", "B", "Cluster", "pairs", "-LRB-", "A", ",", "B", "-RRB-", "Dependency", "pairs", "Figure", "2", ":", "Evaluation", "measures", "direction", "will", "be", "considered", "a", "mistake", ".", "As", "we", "mentioned", "earlier", "in", "section", "3", ",", "ignoring", "the", "direction", "may", "make", "the", "problem", "simpler", ",", "but", "we", "will", "lose", "the", "expressiveness", "of", "our", "representation", ".", "Given", "these", "two", "sets", "of", "story", "pairs", "corresponding", "to", "the", "true", "event", "model", "and", "the", "system", "event", "model", ",", "we", "define", "recall", "and", "precision", "for", "each", "category", "as", "follows", ".", "Cluster", "Precision", "-LRB-", "CP", "-RRB-", ":", "It", "is", "the", "probability", "that", "two", "randomly", "selected", "stories", "and", "are", "in", "the", "same", "true-event", "given", "that", "they", "are", "in", "the", "same", "system", "event", ".", "-LRB-", "7", "-RRB-", "where", "is", "the", "story-event", "mapping", "function", "corresponding", "to", "the", "model", ".", "Cluster", "Recall", "-LRB-", "CR", "-RRB-", ":", "It", "is", "the", "probability", "that", "two", "randomly", "selected", "stories", "and", "are", "in", "the", "same", "system-event", "given", "that", "they", "are", "in", "the", "same", "true", "event", ".", "-LRB-", "8", "-RRB-", "Dependency", "Precision", "-LRB-", "DP", "-RRB-", ":", "It", "is", "the", "probability", "that", "there", "is", "a", "dependency", "between", "the", "events", "of", "two", "randomly", "selected", "stories", "and", "in", "the", "true", "model", "given", "that", "they", "have", "a", "dependency", "in", "the", "system", "model", ".", "Note", "that", "the", "direction", "of", "dependency", "is", "important", "in", "comparison", ".", "-LRB-", "9", "-RRB-", "Dependency", "Recall", "-LRB-", "DR", "-RRB-", ":", "It", "is", "the", "probability", "that", "there", "is", "a", "dependency", "between", "the", "events", "of", "two", "randomly", "selected", "stories", "and", "in", "the", "system", "model", "given", "that", "they", "have", "a", "dependency", "in", "the", "true", "model", ".", "Again", ",", "the", "direction", "of", "dependency", "is", "taken", "into", "consideration", ".", "-LRB-", "10", "-RRB-", "The", "measures", "are", "illustrated", "by", "an", "example", "in", "figure", "2", ".", "We", "also", "combine", "these", "measures", "using", "the", "well", "known", "F1-measure", "commonly", "used", "in", "text", "classification", "and", "other", "research", "areas", "as", "shown", "below", ".", "-LRB-", "11", "-RRB-", "where", "and", "are", "the", "cluster", "and", "dependency", "F1-measures", "respectively", "and", "is", "the", "Joint", "F1-measure", "-LRB-", "-RRB-", "that", "we", "use", "to", "measure", "the", "overall", "performance", ".", "The", "task", "of", "event", "modeling", "can", "be", "split", "into", "two", "parts", ":", "clustering", "the", "stories", "into", "unique", "events", "in", "the", "topic", "and", "constructing", "dependencies", "among", "them", ".", "In", "the", "following", "subsections", ",", "we", "describe", "techniques", "we", "developed", "for", "each", "of", "these", "sub-tasks", ".", "6.1", "Clustering", "Each", "topic", "is", "composed", "of", "multiple", "events", ",", "so", "stories", "must", "be", "clustered", "into", "events", "before", "we", "can", "model", "the", "dependencies", "among", "them", ".", "For", "simplicity", ",", "all", "stories", "in", "the", "same", "topic", "are", "assumed", "to", "be", "available", "at", "one", "time", ",", "rather", "than", "coming", "in", "a", "text", "stream", ".", "This", "task", "is", "similar", "to", "traditional", "clustering", "but", "features", "other", "than", "word", "distributions", "may", "also", "be", "critical", "in", "our", "application", ".", "In", "many", "text", "clustering", "systems", ",", "the", "similarity", "between", "two", "stories", "is", "the", "inner", "product", "of", "their", "tf-idf", "vectors", ",", "hence", "we", "use", "it", "as", "one", "of", "our", "features", ".", "Stories", "in", "the", "same", "event", "tend", "to", "follow", "temporal", "locality", ",", "so", "the", "time", "stamp", "of", "each", "story", "can", "be", "a", "useful", "feature", ".", "Additionally", ",", "named-entities", "such", "as", "person", "and", "location", "names", "are", "another", "obvious", "feature", "when", "forming", "events", ".", "Stories", "in", "the", "same", "event", "tend", "to", "be", "related", "to", "the", "same", "person", "-LRB-", "s", "-RRB-", "and", "locations", "-LRB-", "s", "-RRB-", ".", "In", "this", "subsection", ",", "we", "present", "an", "agglomerative", "clustering", "algorithm", "that", "combines", "all", "these", "features", ".", "In", "our", "experiments", ",", "however", ",", "we", "study", "the", "effect", "of", "each", "feature", "on", "the", "performance", "sepa-rately", "using", "modified", "versions", "of", "this", "algorithm", ".", "6.1.1", "Agglomerative", "clustering", "with", "time", "decay", "-LRB-", "ACDT", "-RRB-", "We", "initialize", "our", "events", "to", "singleton", "events", "-LRB-", "clusters", "-RRB-", ",", "i.e.", ",", "each", "cluster", "contains", "exactly", "one", "story", ".", "So", "the", "similarity", "between", "two", "events", ",", "to", "start", "with", ",", "is", "exactly", "the", "similarity", "between", "the", "corresponding", "stories", ".", "The", "similarity", "\u0474", "between", "two", "stories", "and", "is", "given", "by", "the", "following", "formula", ":", "\u0474", "\u05f4", "-LRB-", "12", "-RRB-", "Here", ",", ",", "are", "the", "weights", "on", "different", "features", ".", "In", "this", "work", ",", "we", "determined", "them", "empirically", ",", "but", "in", "the", "future", ",", "one", "can", "consider", "more", "sophisticated", "learning", "techniques", "to", "determine", "them", ".", "\u05f4", "is", "the", "cosine", "similarity", "of", "the", "term", "vectors", ".", "is", "1", "if", "there", "is", "some", "location", "that", "appears", "in", "both", "stories", ",", "otherwise", "it", "is", "0", ".", "is", "similarly", "defined", "for", "person", "name", ".", "We", "use", "time", "decay", "when", "calculating", "similarity", "of", "story", "pairs", ",", "i.e.", ",", "the", "larger", "time", "difference", "between", "two", "stories", ",", "the", "smaller", "their", "similarities", ".", "The", "time", "period", "of", "each", "topic", "differs", "a", "lot", ",", "from", "a", "few", "days", "to", "a", "few", "months", ".", "So", "we", "normalize", "the", "time", "difference", "using", "the", "whole", "duration", "of", "that", "topic", ".", "The", "time", "decay", "adjusted", "similarity", "449", "\u0474", "is", "given", "by", "\u0474", "\u0474", "-LRB-", "13", "-RRB-", "where", "and", "are", "the", "time", "stamps", "for", "story", "1", "and", "2", "respectively", ".", "T", "is", "the", "time", "difference", "between", "the", "earliest", "and", "the", "latest", "story", "in", "the", "given", "topic", ".", "is", "the", "time", "decay", "factor", ".", "In", "each", "iteration", ",", "we", "find", "the", "most", "similar", "event", "pair", "and", "merge", "them", ".", "We", "have", "three", "different", "ways", "to", "compute", "the", "similarity", "between", "two", "events", "and", ":", "Average", "link", ":", "In", "this", "case", "the", "similarity", "is", "the", "average", "of", "the", "similarities", "of", "all", "pairs", "of", "stories", "between", "and", "as", "shown", "below", ":", "\u0474", "\u0474", "-LRB-", "14", "-RRB-", "Complete", "link", ":", "The", "similarity", "between", "two", "events", "is", "given", "by", "the", "smallest", "of", "the", "pair-wise", "similarities", ".", "\u0474", "\u0474", "-LRB-", "15", "-RRB-", "Single", "link", ":", "Here", "the", "similarity", "is", "given", "by", "the", "best", "similarity", "between", "all", "pairs", "of", "stories", ".", "\u0474", "\u0474", "-LRB-", "16", "-RRB-", "This", "process", "continues", "until", "the", "maximum", "similarity", "falls", "below", "the", "threshold", "or", "the", "number", "of", "clusters", "is", "smaller", "than", "a", "given", "number", ".", "6.2", "Dependency", "modeling", "Capturing", "dependencies", "is", "an", "extremely", "hard", "problem", "because", "it", "may", "require", "a", "`", "deeper", "understanding", "'", "of", "the", "events", "in", "question", ".", "A", "human", "annotator", "decides", "on", "dependencies", "not", "just", "based", "on", "the", "information", "in", "the", "events", "but", "also", "based", "on", "his/her", "vast", "repertoire", "of", "domain-knowledge", "and", "general", "understanding", "of", "how", "things", "operate", "in", "the", "world", ".", "For", "example", ",", "in", "Figure", "1", "a", "human", "knows", "`", "Trial", "and", "indictment", "of", "Osama", "'", "is", "influenced", "by", "`", "Evidence", "gathered", "by", "CIA", "'", "because", "he/she", "understands", "the", "process", "of", "law", "in", "general", ".", "We", "believe", "a", "robust", "model", "should", "incorporate", "such", "domain", "knowledge", "in", "capturing", "dependencies", ",", "but", "in", "this", "work", ",", "as", "a", "first", "step", ",", "we", "will", "rely", "on", "surface-features", "such", "as", "time-ordering", "of", "news", "stories", "and", "word", "distributions", "to", "model", "them", ".", "Our", "experiments", "in", "later", "sections", "demonstrate", "that", "such", "features", "are", "indeed", "useful", "in", "capturing", "dependencies", "to", "a", "large", "extent", ".", "In", "this", "subsection", ",", "we", "describe", "the", "models", "we", "considered", "for", "capturing", "dependencies", ".", "In", "the", "rest", "of", "the", "discussion", "in", "this", "subsection", ",", "we", "assume", "that", "we", "are", "already", "given", "the", "mapping", "and", "we", "focus", "only", "on", "modeling", "the", "edges", ".", "First", "we", "define", "a", "couple", "of", "features", "that", "the", "following", "models", "will", "employ", ".", "First", "we", "define", "a", "1-1", "time-ordering", "function", "that", "sorts", "stories", "in", "ascending", "order", "by", "their", "time", "of", "publication", ".", "Now", ",", "the", "event-time-ordering", "function", "is", "defined", "as", "follows", ".", "\u0634", "\u0634", "-LRB-", "17", "-RRB-", "In", "other", "words", ",", "time-orders", "events", "based", "on", "the", "time-ordering", "of", "their", "respective", "first", "stories", ".", "We", "will", "also", "use", "average", "cosine", "similarity", "between", "two", "events", "as", "a", "feature", "and", "it", "is", "defined", "as", "follows", ".", "\u0474", "\u05f4", "-LRB-", "18", "-RRB-", "6.2.1", "Complete-Link", "model", "In", "this", "model", ",", "we", "assume", "that", "there", "are", "dependencies", "between", "all", "pairs", "of", "events", ".", "The", "direction", "of", "dependency", "is", "determined", "by", "the", "time-ordering", "of", "the", "first", "stories", "in", "the", "respective", "events", ".", "Formally", ",", "the", "system", "edges", "are", "defined", "as", "follows", ".", "-LRB-", "19", "-RRB-", "where", "is", "the", "event-time-ordering", "function", ".", "In", "other", "words", ",", "the", "dependency", "edge", "is", "directed", "from", "event", "to", "event", ",", "if", "the", "first", "story", "in", "event", "is", "earlier", "than", "the", "first", "story", "in", "event", ".", "We", "point", "out", "that", "this", "is", "not", "to", "be", "confused", "with", "the", "complete-link", "algorithm", "in", "clustering", ".", "Although", "we", "use", "the", "same", "names", ",", "it", "will", "be", "clear", "from", "the", "context", "which", "one", "we", "refer", "to", ".", "6.2.2", "Simple", "Thresholding", "This", "model", "is", "an", "extension", "of", "the", "complete", "link", "model", "with", "an", "additional", "constraint", "that", "there", "is", "a", "dependency", "between", "any", "two", "events", "and", "only", "if", "the", "average", "cosine", "similarity", "between", "event", "and", "event", "is", "greater", "than", "a", "threshold", ".", "Formally", ",", "\u0474", "-LRB-", "20", "-RRB-", "6.2.3", "Nearest", "Parent", "Model", "In", "this", "model", ",", "we", "assume", "that", "each", "event", "can", "have", "at", "most", "one", "parent", ".", "We", "define", "the", "set", "of", "dependencies", "as", "follows", ".", "\u0474", "-LRB-", "21", "-RRB-", "Thus", ",", "for", "each", "event", ",", "the", "nearest", "parent", "model", "considers", "only", "the", "event", "preceding", "it", "as", "defined", "by", "as", "a", "potential", "candidate", ".", "The", "candidate", "is", "assigned", "as", "the", "parent", "only", "if", "the", "average", "similarity", "exceeds", "a", "pre-defined", "threshold", ".", "6.2.4", "Best", "Similarity", "Model", "This", "model", "also", "assumes", "that", "each", "event", "can", "have", "at", "most", "one", "parent", ".", "An", "event", "is", "assigned", "a", "parent", "if", "and", "only", "if", "is", "the", "most", "similar", "earlier", "event", "to", "and", "the", "similarity", "exceeds", "a", "threshold", ".", "Mathematically", ",", "this", "can", "be", "expressed", "as", ":", "\u0474", "\u0474", "-LRB-", "22", "-RRB-", "6.2.5", "Maximum", "Spanning", "Tree", "model", "In", "this", "model", ",", "we", "first", "build", "a", "maximum", "spanning", "tree", "-LRB-", "MST", "-RRB-", "using", "a", "greedy", "algorithm", "on", "the", "following", "fully", "connected", "weighted", ",", "undirected", "graph", "whose", "vertices", "are", "the", "events", "and", "whose", "edges", "are", "defined", "as", "follows", ":", "\u0474", "-LRB-", "23", "-RRB-", "Let", "be", "the", "set", "of", "edges", "in", "the", "maximum", "spanning", "tree", "of", ".", "Now", "our", "directed", "dependency", "edges", "are", "defined", "as", "follows", ".", "\u0474", "-LRB-", "24", "-RRB-", "450", "Thus", "in", "this", "model", ",", "we", "assign", "dependencies", "between", "the", "most", "similar", "events", "in", "the", "topic", ".", "Our", "experiments", "consists", "of", "three", "parts", ".", "First", "we", "modeled", "only", "the", "event", "clustering", "part", "-LRB-", "defining", "the", "mapping", "function", "-RRB-", "using", "clustering", "algorithms", "described", "in", "section", "6.1", ".", "Then", "we", "modeled", "only", "the", "dependencies", "by", "providing", "to", "the", "system", "the", "true", "clusters", "and", "running", "only", "the", "dependency", "algorithms", "of", "section", "6.2", ".", "Finally", ",", "we", "experimented", "with", "combinations", "of", "clustering", "and", "dependency", "algorithms", "to", "produce", "the", "complete", "event", "model", ".", "This", "way", "of", "experimentation", "allows", "us", "to", "compare", "the", "performance", "of", "our", "algorithms", "in", "isolation", "and", "in", "association", "with", "other", "components", ".", "The", "following", "subsections", "present", "the", "three", "parts", "of", "our", "experimentation", ".", "7.1", "Clustering", "We", "have", "tried", "several", "variations", "of", "the", "algorithm", "to", "study", "the", "effects", "of", "various", "features", "on", "the", "clustering", "performance", ".", "All", "the", "parameters", "are", "learned", "by", "tuning", "on", "the", "training", "set", ".", "We", "also", "tested", "the", "algorithms", "on", "the", "test", "set", "with", "parameters", "fixed", "at", "their", "optimal", "values", "learned", "from", "training", ".", "We", "used", "agglomerative", "clus-Model", "best", "T", "CP", "CR", "CF", "P-value", "cos", "+1-lnk", "0.15", "0.41", "0.56", "0.43", "cos", "+", "all", "-", "lnk", "0.00", "0.40", "0.62", "0.45", "cos", "+", "Loc", "+", "avg", "-", "lnk", "0.07", "0.37", "0.74", "0.45", "cos", "+", "Per", "+", "avg", "-", "lnk", "0.07", "0.39", "0.70", "0.46", "cos", "+", "TD", "+", "avg", "-", "lnk", "0.04", "0.45", "0.70", "0.53", "2.9e-4", "*", "cos", "+", "N", "-LRB-", "T", "-RRB-", "+", "avg-lnk", "0", ".41", "0.62", "0.48", "7.5e-2", "cos", "+", "N", "-LRB-", "T", "-RRB-", "+", "T", "+", "avg-lnk", "0.03", "0.42", "0.62", "0.49", "2.4e-2", "*", "cos", "+", "TD+N", "-LRB-", "T", "-RRB-", "+", "avg-lnk", "0", ".44", "0.66", "0.52", "7.0e-3", "*", "cos", "+", "TD+N", "-LRB-", "T", "-RRB-", "+", "T", "+", "avg-lnk", "0.03", "0.47", "0.64", "0.53", "1.1e-3", "*", "Baseline", "-LRB-", "cos", "+", "avg-lnk", "-RRB-", "0.05", "0.39", "0.67", "0.46", "Table", "2", ":", "Comparison", "of", "agglomerative", "clustering", "algorithms", "-LRB-", "training", "set", "-RRB-", "tering", "based", "on", "only", "cosine", "similarity", "as", "our", "clustering", "baseline", ".", "The", "results", "on", "the", "training", "and", "test", "sets", "are", "in", "Table", "2", "and", "3", "respectively", ".", "We", "use", "the", "Cluster", "F1-measure", "-LRB-", "CF", "-RRB-", "averaged", "over", "all", "topics", "as", "our", "evaluation", "criterion", ".", "Model", "CP", "CR", "CF", "P-value", "cos", "+1-lnk", "0.43", "0.49", "0.39", "cos", "+", "all", "-", "lnk", "0.43", "0.62", "0.47", "cos", "+", "Loc", "+", "avg", "-", "lnk", "0.37", "0.73", "0.45", "cos", "+", "Per", "+", "avg", "-", "lnk", "0.44", "0.62", "0.45", "cos", "+", "TD", "+", "avg", "-", "lnk", "0.48", "0.70", "0.54", "0.014", "*", "cos", "+", "N", "-LRB-", "T", "-RRB-", "+", "avg-lnk", "0.41", "0.71", "0.51", "0.31", "cos", "+", "N", "-LRB-", "T", "-RRB-", "+", "T", "+", "avg-lnk", "0.43", "0.69", "*", "0.52", "0.14", "cos", "+", "TD+N", "-LRB-", "T", "-RRB-", "+", "avg-lnk", "0.43", "0.76", "0.54", "0.025", "*", "cos", "+", "TD+N", "-LRB-", "T", "-RRB-", "+", "T", "+", "avg-lnk", "0.47", "0.69", "0.54", "0.0095", "*", "Baseline", "-LRB-", "cos", "+", "avg-lnk", "-RRB-", "0.44", "0.67", "0.50", "Table", "3", ":", "Comparison", "of", "agglomerative", "clustering", "algorithms", "-LRB-", "test", "set", "-RRB-", "P-value", "marked", "with", "a", "means", "that", "it", "is", "a", "statistically", "significant", "improvement", "over", "the", "baseline", "-LRB-", "95", "%", "confidence", "level", ",", "one", "tailed", "T-test", "-RRB-", ".", "The", "methods", "shown", "in", "table", "2", "and", "3", "are", ":", "Baseline", ":", "tf-idf", "vector", "weight", ",", "cosine", "similarity", ",", "average", "link", "in", "clustering", ".", "In", "equation", "12", ",", ",", ".", "And", "in", "equation", "13", ".", "This", "F-value", "is", "the", "maximum", "obtained", "by", "tuning", "the", "threshold", ".", "cos", "+1-lnk", ":", "Single", "link", "comparison", "-LRB-", "see", "equation", "16", "-RRB-", "is", "used", "where", "similarity", "of", "two", "clusters", "is", "the", "maximum", "of", "all", "story", "pairs", ",", "other", "configurations", "are", "the", "same", "as", "the", "baseline", "run", ".", "cos", "+", "all-lnk", ":", "Complete", "link", "algorithm", "of", "equation", "15", "is", "used", ".", "Similar", "to", "single", "link", "but", "it", "takes", "the", "minimum", "similarity", "of", "all", "story", "pairs", ".", "cos", "+", "Loc", "+", "avg-lnk", ":", "Location", "names", "are", "used", "when", "calculating", "similarity", ".", "in", "equation", "12", ".", "All", "algorithms", "starting", "from", "this", "one", "use", "average", "link", "-LRB-", "equation", "14", "-RRB-", ",", "since", "single", "link", "and", "complete", "link", "do", "not", "show", "any", "improvement", "of", "performance", ".", "cos", "+", "Per", "+", "avg-lnk", ":", "in", "equation", "12", ",", "i.e.", ",", "we", "put", "some", "weight", "on", "person", "names", "in", "the", "similarity", ".", "cos", "+", "TD", "+", "avg-lnk", ":", "Time", "Decay", "coefficient", "in", "equation", "13", ",", "which", "means", "the", "similarity", "between", "two", "stories", "will", "be", "decayed", "to", "if", "they", "are", "at", "different", "ends", "of", "the", "topic", ".", "cos", "+", "N", "-LRB-", "T", "-RRB-", "+", "avg-lnk", ":", "Use", "the", "number", "of", "true", "events", "to", "control", "the", "agglomerative", "clustering", "algorithm", ".", "When", "the", "number", "of", "clusters", "is", "fewer", "than", "that", "of", "truth", "events", ",", "stop", "merging", "clusters", ".", "cos", "+", "N", "-LRB-", "T", "-RRB-", "+", "T", "+", "avg-lnk", ":", "similar", "to", "N", "-LRB-", "T", "-RRB-", "but", "also", "stop", "agglomeration", "if", "the", "maximal", "similarity", "is", "below", "the", "threshold", ".", "cos", "+", "TD", ":", "+", "N", "-LRB-", "T", "-RRB-", "+", "avg-lnk", ":", "similar", "to", "N", "-LRB-", "T", "-RRB-", "but", "the", "similarities", "are", "decayed", ",", "in", "equation", "13", ".", "cos", "+", "TD+N", "-LRB-", "T", "-RRB-", "+", "T", "+", "avg-lnk", ":", "similar", "to", "TD+N", "-LRB-", "Truth", "-RRB-", "but", "calculation", "halts", "when", "the", "maximal", "similarity", "is", "smaller", "than", "the", "threshold", ".", "Our", "experiments", "demonstrate", "that", "single", "link", "and", "complete", "link", "similarities", "perform", "worse", "than", "average", "link", ",", "which", "is", "reasonable", "since", "average", "link", "is", "less", "sensitive", "to", "one", "or", "two", "story", "pairs", ".", "We", "had", "expected", "locations", "and", "person", "names", "to", "improve", "the", "result", ",", "but", "it", "is", "not", "the", "case", ".", "Analysis", "of", "topics", "shows", "that", "many", "on-topic", "stories", "share", "the", "same", "locations", "or", "persons", "irrespective", "of", "the", "event", "they", "belong", "to", ",", "so", "these", "features", "may", "be", "more", "useful", "in", "identifying", "topics", "rather", "than", "events", ".", "Time", "decay", "is", "successful", "because", "events", "are", "temporally", "localized", ",", "i.e.", ",", "stories", "discussing", "the", "same", "event", "tend", "to", "be", "adjacent", "to", "each", "other", "in", "terms", "of", "time", ".", "Also", "we", "noticed", "that", "providing", "the", "number", "of", "true", "events", "improves", "the", "performance", "since", "it", "guides", "the", "clustering", "algorithm", "to", "get", "correct", "granularity", ".", "However", ",", "for", "most", "applications", ",", "it", "is", "not", "available", ".", "We", "used", "it", "only", "as", "a", "``", "cheat", "''", "experiment", "for", "comparison", "with", "other", "algorithms", ".", "On", "the", "whole", ",", "time", "decay", "proved", "to", "the", "most", "powerful", "feature", "besides", "cosine", "similarity", "on", "both", "training", "and", "test", "sets", ".", "7.2", "Dependencies", "In", "this", "subsection", ",", "our", "goal", "is", "to", "model", "only", "dependencies", ".", "We", "use", "the", "true", "mapping", "function", "and", "by", "implication", "the", "true", "events", ".", "We", "build", "our", "dependency", "structure", "using", "all", "the", "five", "models", "described", "in", "section", "6.2", ".", "We", "first", "train", "our", "models", "on", "the", "26", "training", "topics", ".", "Training", "involves", "learning", "the", "best", "threshold", "for", "each", "of", "the", "models", ".", "We", "then", "test", "the", "performances", "of", "all", "the", "trained", "models", "on", "the", "27", "test", "topics", ".", "We", "evaluate", "our", "performance", "451", "using", "the", "average", "values", "of", "Dependency", "Precision", "-LRB-", "DP", "-RRB-", ",", "Dependency", "Recall", "-LRB-", "DR", "-RRB-", "and", "Dependency", "F-measure", "-LRB-", "DF", "-RRB-", ".", "We", "consider", "the", "complete-link", "model", "to", "be", "our", "baseline", "since", "for", "each", "event", ",", "it", "trivially", "considers", "all", "earlier", "events", "to", "be", "parents", ".", "Table", "4", "lists", "the", "results", "on", "the", "training", "set", ".", "We", "see", "that", "while", "all", "the", "algorithms", "except", "MST", "outperform", "the", "baseline", "complete-link", "algorithm", ",", "the", "nearest", "Parent", "algorithm", "is", "statistically", "significant", "from", "the", "baseline", "in", "terms", "of", "its", "DF-value", "using", "a", "one-tailed", "paired", "T-test", "at", "95", "%", "confidence", "level", ".", "Model", "best", "DP", "DR", "DF", "P-value", "Nearest", "Parent", "0.025", "0.55", "0.62", "0.56", "0.04", "*", "Best", "Similarity", "0.02", "0.51", "0.62", "0.53", "0.24", "MST", "0.0", "0.46", "0.58", "0.48", "Simple", "Thresh", ".", "0.045", "0.45", "0.76", "0.52", "0.14", "Complete-link", "0", ".36", "0.93", "0.48", "Table", "4", ":", "Results", "on", "the", "training", "set", ":", "Best", "is", "the", "optimal", "value", "of", "the", "threshold", ".", "*", "indicates", "the", "corresponding", "model", "is", "statistically", "significant", "compared", "to", "the", "baseline", "using", "a", "one-tailed", ",", "paired", "T-test", "at", "95", "%", "confidence", "level", ".", "In", "table", "5", "we", "present", "the", "comparison", "of", "the", "models", "on", "the", "test", "set", ".", "Here", ",", "we", "do", "not", "use", "any", "tuning", "but", "set", "the", "threshold", "to", "the", "corresponding", "optimal", "values", "learned", "from", "the", "training", "set", ".", "The", "results", "throw", "some", "surprises", ":", "The", "nearest", "parent", "model", ",", "which", "was", "significantly", "better", "than", "the", "baseline", "on", "training", "set", ",", "turns", "out", "to", "be", "worse", "than", "the", "baseline", "on", "the", "test", "set", ".", "However", "all", "the", "other", "models", "are", "better", "than", "the", "baseline", "including", "the", "best", "similarity", "which", "is", "statistically", "significant", ".", "Notice", "that", "all", "the", "models", "that", "perform", "better", "than", "the", "baseline", "in", "terms", "of", "DF", ",", "actually", "sacrifice", "their", "recall", "performance", "compared", "to", "the", "baseline", ",", "but", "improve", "on", "their", "precision", "substantially", "thereby", "improving", "their", "performance", "on", "the", "DF-measure", ".", "We", "notice", "that", "both", "simple-thresholding", "and", "best", "similarity", "are", "better", "than", "the", "baseline", "on", "both", "training", "and", "test", "sets", "although", "the", "improvement", "is", "not", "significant", ".", "On", "the", "whole", ",", "we", "observe", "that", "the", "surface-level", "features", "we", "used", "capture", "the", "dependencies", "to", "a", "reasonable", "level", "achieving", "a", "best", "value", "of", "0.72", "DF", "on", "the", "test", "set", ".", "Although", "there", "is", "a", "lot", "of", "room", "for", "improvement", ",", "we", "believe", "this", "is", "a", "good", "first", "step", ".", "Model", "DP", "DR", "DF", "P-value", "Nearest", "Parent", "0.61", "0.60", "0.60", "Best", "Similarity", "0.71", "0.74", "0.72", "0.04", "*", "MST", "0.70", "0.68", "0.69", "0.22", "Simple", "Thresh", ".", "0.57", "0.75", "0.64", "0.24", "Baseline", "-LRB-", "Complete-link", "-RRB-", "0.50", "0.94", "0.63", "Table", "5", ":", "Results", "on", "the", "test", "set", "7.3", "Combining", "Clustering", "and", "Dependencies", "Now", "that", "we", "have", "studied", "the", "clustering", "and", "dependency", "algorithms", "in", "isolation", ",", "we", "combine", "the", "best", "performing", "algorithms", "and", "build", "the", "entire", "event", "model", ".", "Since", "none", "of", "the", "dependency", "algorithms", "has", "been", "shown", "to", "be", "consistently", "and", "significantly", "better", "than", "the", "others", ",", "we", "use", "all", "of", "them", "in", "our", "experimentation", ".", "From", "the", "clustering", "techniques", ",", "we", "choose", "the", "best", "performing", "Cos", "+", "TD", ".", "As", "a", "baseline", ",", "we", "use", "a", "combination", "of", "the", "baselines", "in", "each", "components", ",", "i.e.", ",", "cos", "for", "clustering", "and", "complete-link", "for", "dependencies", ".", "Note", "that", "we", "need", "to", "retrain", "all", "the", "algorithms", "on", "the", "training", "set", "because", "our", "objective", "function", "to", "optimize", "is", "now", "JF", ",", "the", "joint", "F-measure", ".", "For", "each", "algorithm", ",", "we", "need", "to", "optimize", "both", "the", "clustering", "threshold", "and", "the", "dependency", "threshold", ".", "We", "did", "this", "empirically", "on", "the", "training", "set", "and", "the", "optimal", "values", "are", "listed", "in", "table", "6", ".", "The", "results", "on", "the", "training", "set", ",", "also", "presented", "in", "table", "6", ",", "indicate", "that", "cos", "+", "TD+S", "imple-Thresholding", "is", "significantly", "better", "than", "the", "baseline", "in", "terms", "of", "the", "joint", "F-value", "JF", ",", "using", "a", "one-tailed", "paired", "T-test", "at", "95", "%", "confidence", "level", ".", "On", "the", "whole", ",", "we", "notice", "that", "while", "the", "clustering", "performance", "is", "comparable", "to", "the", "experiments", "in", "section", "7.1", ",", "the", "overall", "performance", "is", "undermined", "by", "the", "low", "dependency", "performance", ".", "Unlike", "our", "experiments", "in", "section", "7.2", "where", "we", "had", "provided", "the", "true", "clusters", "to", "the", "system", ",", "in", "this", "case", ",", "the", "system", "has", "to", "deal", "with", "deterioration", "in", "the", "cluster", "quality", ".", "Hence", "the", "performance", "of", "the", "dependency", "algorithms", "has", "suffered", "substantially", "thereby", "lowering", "the", "overall", "performance", ".", "The", "results", "on", "the", "test", "set", "present", "a", "very", "similar", "story", "as", "shown", "in", "table", "7", ".", "We", "also", "notice", "a", "fair", "amount", "of", "consistency", "in", "the", "performance", "of", "the", "combination", "algorithms", ".", "cos", "+", "TD+S", "imple-Thresholding", "outperforms", "the", "baseline", "significantly", ".", "The", "test", "set", "results", "also", "point", "to", "the", "fact", "that", "the", "clustering", "component", "remains", "a", "bottleneck", "in", "achieving", "an", "overall", "good", "performance", ".", "In", "this", "paper", ",", "we", "have", "presented", "a", "new", "perspective", "of", "modeling", "news", "topics", ".", "Contrary", "to", "the", "TDT", "view", "of", "topics", "as", "flat", "collection", "of", "news", "stories", ",", "we", "view", "a", "news", "topic", "as", "a", "relational", "structure", "of", "events", "interconnected", "by", "dependencies", ".", "In", "this", "paper", ",", "we", "also", "proposed", "a", "few", "approaches", "for", "both", "clustering", "stories", "into", "events", "and", "constructing", "dependencies", "among", "them", ".", "We", "developed", "a", "time-decay", "based", "clustering", "approach", "that", "takes", "advantage", "of", "temporal-localization", "of", "news", "stories", "on", "the", "same", "event", "and", "showed", "that", "it", "performs", "significantly", "better", "than", "the", "baseline", "approach", "based", "on", "cosine", "similarity", ".", "Our", "experiments", "also", "show", "that", "we", "can", "do", "fairly", "well", "on", "dependencies", "using", "only", "surface-features", "such", "as", "cosine-similarity", "and", "time-stamps", "of", "news", "stories", "as", "long", "as", "true", "events", "are", "provided", "to", "the", "system", ".", "However", ",", "the", "performance", "deteriorates", "rapidly", "if", "the", "system", "has", "to", "discover", "the", "events", "by", "itself", ".", "Despite", "that", "discouraging", "result", ",", "we", "have", "shown", "that", "our", "combined", "algorithms", "perform", "significantly", "better", "than", "the", "baselines", ".", "Our", "results", "indicate", "modeling", "dependencies", "can", "be", "a", "very", "hard", "problem", "especially", "when", "the", "clustering", "performance", "is", "below", "ideal", "level", ".", "Errors", "in", "clustering", "have", "a", "magnifying", "effect", "on", "errors", "in", "dependencies", "as", "we", "have", "seen", "in", "our", "experiments", ".", "Hence", ",", "we", "should", "focus", "not", "only", "on", "improving", "dependencies", "but", "also", "on", "clustering", "at", "the", "same", "time", ".", "As", "part", "of", "our", "future", "work", ",", "we", "plan", "to", "investigate", "further", "into", "the", "data", "and", "discover", "new", "features", "that", "influence", "clustering", "as", "well", "as", "dependencies", ".", "And", "for", "modeling", "dependencies", ",", "a", "probabilistic", "framework", "should", "be", "a", "better", "choice", "since", "there", "is", "no", "definite", "answer", "of", "yes/no", "for", "the", "causal", "relations", "among", "some", "events", ".", "We", "also", "hope", "to", "devise", "an", "iterative", "algorithm", "which", "can", "improve", "clustering", "and", "dependency", "performance", "alternately", "as", "suggested", "by", "one", "of", "the", "reviewers", ".", "We", "also", "hope", "to", "expand", "our", "labeled", "corpus", "further", "to", "include", "more", "diverse", "news", "sources", "and", "larger", "and", "more", "complex", "event", "structures", ".", "We", "would", "like", "to", "thank", "the", "three", "anonymous", "reviewers", "for", "their", "valuable", "comments", ".", "This", "work", "was", "supported", "in", "part", "by", "the", "Center", "452", "Model", "Cluster", "T", "Dep", ".", "T", "CP", "CR", "CF", "DP", "DR", "DF", "JF", "P-value", "cos", "+", "TD+N", "earest-Parent", "0.055", "0.02", "0.51", "0.53", "0.49", "0.21", "0.19", "0.19", "0.27", "cos", "+", "TD+B", "est", "-", "Similarity", "0.04", "0.02", "0.45", "0.70", "0.53", "0.21", "0.33", "0.23", "0.32", "cos", "+", "TD+MST", "0.04", "0.00", "0.45", "0.70", "0.53", "0.22", "0.35", "0.25", "0.33", "cos", "+", "TD+S", "imple", "-", "Thresholding", "0.065", "0.02", "0.56", "0.47", "0.48", "0.23", "0.61", "0.32", "0.38", "0.0004", "*", "Baseline", "-LRB-", "cos", "+", "Complete-link", "-RRB-", "0.10", "0", ".58", "0.31", "0.38", "0.20", "0.67", "0.30", "0.33", "Table", "6", ":", "Combined", "results", "on", "the", "training", "set", "Model", "CP", "CR", "CF", "DP", "DR", "DF", "JF", "P-value", "cos", "+", "TD+N", "earest", "Parent", "0.57", "0.50", "0.50", "0.27", "0.19", "0.21", "0.30", "cos", "+", "TD+B", "est", "Similarity", "0.48", "0.70", "0.54", "0.31", "0.27", "0.26", "0.35", "cos", "+", "TD+MST", "0.48", "0.70", "0.54", "0.31", "0.30", "0.28", "0.37", "cos", "+", "TD+S", "imple", "Thresholding", "0.60", "0.39", "0.44", "0.32", "0.66", "0.42", "0.43", "0.0081", "*", "Baseline", "-LRB-", "cos", "+", "Complete-link", "-RRB-", "0.66", "0.27", "0.36", "0.30", "0.72", "0.43", "0.39", "Table", "7", ":", "Combined", "results", "on", "the", "test", "set", "for", "Intelligent", "Information", "Retrieval", "and", "in", "part", "by", "SPAWARSYSCEN-SD", "grant", "number", "N66001-02-1-8903", ".", "Any", "opinions", ",", "findings", "and", "conclusions", "or", "recommendations", "expressed", "in", "this", "material", "are", "the", "authors", "'", "and", "do", "not", "necessarily", "reflect", "those", "of", "the", "sponsor", ".", "-LSB-", "1", "-RSB-", "J.", "Allan", ",", "J.", "Carbonell", ",", "G.", "Doddington", ",", "J.", "Yamron", ",", "and", "Y.", "Yang", ".", "Topic", "detection", "and", "tracking", "pilot", "study", ":", "Final", "report", ".", "In", "Proceedings", "of", "the", "DARPA", "Broadcast", "News", "Transcription", "and", "Understanding", "Workshop", ",", "pages", "194", "218", ",", "1998", ".", "-LSB-", "2", "-RSB-", "J.", "Allan", ",", "A.", "Feng", ",", "and", "A.", "Bolivar", ".", "Flexible", "intrinsic", "evaluation", "of", "hierarchical", "clustering", "for", "tdt", ".", "volume", "In", "the", "Proc", ".", "of", "the", "ACM", "Twelfth", "International", "Conference", "on", "Information", "and", "Knowledge", "Management", ",", "pages", "263", "270", ",", "Nov", "2003", ".", "-LSB-", "3", "-RSB-", "James", "Allan", ",", "editor", ".", "Topic", "Detection", "and", "Tracking", ":", "Event", "based", "Information", "Organization", ".", "Kluwer", "Academic", "Publishers", ",", "2000", ".", "-LSB-", "4", "-RSB-", "James", "Allan", ",", "Rahul", "Gupta", ",", "and", "Vikas", "Khandelwal", ".", "Temporal", "summaries", "of", "new", "topics", ".", "In", "Proceedings", "of", "the", "24th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "10", "18", ".", "ACM", "Press", ",", "2001", ".", "-LSB-", "5", "-RSB-", "Regina", "Barzilay", "and", "Lillian", "Lee", ".", "Catching", "the", "drift", ":", "Probabilistic", "content", "models", ",", "with", "applications", "to", "generation", "and", "summarization", ".", "In", "Proceedings", "of", "Human", "Language", "Technology", "Conference", "and", "North", "American", "Chapter", "of", "the", "Association", "for", "Computational", "Linguistics", "-LRB-", "HLT-NAACL", "-RRB-", ",", "pages", "113", "120", ",", "2004", ".", "-LSB-", "6", "-RSB-", "D.", "Lawrie", "and", "W.", "B.", "Croft", ".", "Discovering", "and", "comparing", "topic", "hierarchies", ".", "In", "Proceedings", "of", "RIAO", "2000", "Conference", ",", "pages", "314", "330", ",", "1999", ".", "-LSB-", "7", "-RSB-", "David", "D.", "Lewis", "and", "Kimberly", "A.", "Knowles", ".", "Threading", "electronic", "mail", ":", "a", "preliminary", "study", ".", "Inf", ".", "Process", ".", "Manage.", ",", "33", "-LRB-", "2", "-RRB-", ":", "209", "217", ",", "1997", ".", "-LSB-", "8", "-RSB-", "Juha", "Makkonen", ".", "Investigations", "on", "event", "evolution", "in", "tdt", ".", "In", "Proceedings", "of", "HLT-NAACL", "2003", "Student", "Workshop", ",", "pages", "43", "48", ",", "2004", ".", "-LSB-", "9", "-RSB-", "Aixin", "Sun", "and", "Ee-Peng", "Lim", ".", "Hierarchical", "text", "classification", "and", "evaluation", ".", "In", "Proceedings", "of", "the", "2001", "IEEE", "International", "Conference", "on", "Data", "Mining", ",", "pages", "521", "528", ".", "IEEE", "Computer", "Society", ",", "2001", ".", "-LSB-", "10", "-RSB-", "Yiming", "Yang", ",", "Jaime", "Carbonell", ",", "Ralf", "Brown", ",", "Thomas", "Pierce", ",", "Brian", "T.", "Archibald", ",", "and", "Xin", "Liu", ".", "Learning", "approaches", "for", "detecting", "and", "tracking", "news", "events", ".", "In", "IEEE", "Intelligent", "Systems", "Special", "Issue", "on", "Applications", "of", "Intelligent", "Information", "Retrieval", ",", "volume", "14", "-LRB-", "4", "-RRB-", ",", "pages", "32", "43", ",", "1999", ".", "453"], "doc_bio_tags": ["B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["clustering", "topic detection and tracking", "dependency", "threading", "event", "nearest parent model", "intelligent information retrieval"], "abstractive_keyphrases": ["information searching", "information browsing and organization", "agglomerative clustering with time decay", "news topic modeling", "temporal localization of news stories", "complete-link model", "meaningful and efficient analysis and presentation of news", "event threading", "dependency modeling"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "9", "document": ["A", "Flexible", "and", "Extensible", "Object", "Middleware", ":", "CORBA", "and", "Beyond", "This", "paper", "presents", "a", "CORBA-compliant", "middleware", "architecture", "that", "is", "more", "flexible", "and", "extensible", "compared", "to", "standard", "CORBA", ".", "The", "portable", "design", "of", "this", "architecture", "is", "easily", "integrated", "in", "any", "standard", "CORBA", "middleware", ";", "for", "this", "purpose", ",", "mainly", "the", "handling", "of", "object", "references", "-LRB-", "IORs", "-RRB-", "has", "to", "be", "changed", ".", "To", "encapsulate", "those", "changes", ",", "we", "introduce", "the", "concept", "of", "a", "generic", "reference", "manager", "with", "portable", "profile", "managers", ".", "Profile", "managers", "are", "pluggable", "and", "in", "extreme", "can", "be", "downloaded", "on", "demand", ".", "To", "illustrate", "the", "use", "of", "this", "approach", ",", "we", "present", "a", "profile", "manager", "implementation", "for", "fragmented", "objects", "and", "another", "one", "for", "bridging", "CORBA", "to", "the", "Jini", "world", ".", "The", "first", "profile", "manager", "supports", "truly", "distributed", "objects", ",", "which", "allow", "seamless", "integration", "of", "partitioning", ",", "scalability", ",", "fault", "tolerance", ",", "end-to-end", "quality", "of", "service", ",", "and", "many", "more", "implementation", "aspects", "into", "a", "distributed", "object", "without", "losing", "distribution", "and", "location", "transparency", ".", "The", "second", "profile", "manager", "illustrates", "how", "our", "architecture", "enables", "fully", "transparent", "access", "from", "CORBA", "applications", "to", "services", "on", "non-CORBA", "platforms", "D.", "1.5", "-LSB-", "Programming", "Techniques", "-RSB-", ":", "Object-oriented", "Programming", ";", "D.", "2.7", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Distribution", ",", "Maintenance", ",", "and", "Enhancement", "-", "extensibility", ",", "portability", ";", "D.", "2.12", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Interoperability", "-", "distributed", "objects", ";", "Design", ",", "Management", ",", "Standardization", "Middleware", "systems", "are", "heavily", "used", "for", "the", "implementation", "of", "complex", "distributed", "applications", ".", "Current", "developments", "like", "mobile", "environments", "and", "ubiquitous", "computing", "lead", "to", "new", "requirements", "that", "future", "middleware", "systems", "will", "have", "to", "meet", ".", "Examples", "for", "such", "requirements", "are", "the", "support", "for", "self-adaptation", "and", "self-optimisation", "as", "well", "as", "scalability", ",", "fault-tolerance", ",", "and", "end-to-end", "quality", "of", "service", "in", "the", "context", "of", "high", "dynamics", ".", "Heterogeneity", "in", "terms", "of", "various", "established", "middleware", "platforms", "calls", "for", "cross-platform", "interoperability", ".", "In", "addition", ",", "not", "all", "future", "requirements", "can", "be", "predicted", "today", ".", "A", "proper", "middleware", "design", "should", "be", "well-prepared", "for", "such", "future", "extensions", ".", "CORBA", "is", "a", "well-known", "standard", "providing", "an", "architecture", "for", "object", "-", "based", "middleware", "systems", "-LSB-", "5", "-RSB-", ".", "CORBA-based", "applications", "are", "built", "from", "distributed", "objects", "that", "can", "transparently", "interact", "with", "each", "other", ",", "even", "if", "they", "reside", "on", "different", "nodes", "in", "a", "distributed", "environment", ".", "CORBA", "objects", "can", "be", "implemented", "in", "different", "programming", "languages", ".", "Their", "interface", "has", "to", "be", "defined", "in", "a", "single", ",", "language-independent", "interface", "description", "language", "-LRB-", "IDL", "-RRB-", ".", "Problem", "-", "specific", "extensions", "allow", "to", "add", "additional", "features", "to", "the", "underlying", "base", "architecture", ".", "This", "paper", "discusses", "existing", "approaches", "towards", "a", "more", "flexible", "middleware", "infrastructure", "and", "proposes", "a", "novel", "modularisation", "pattern", "that", "leads", "to", "a", "flexible", "and", "extensible", "object", "middleware", ".", "Our", "design", "separates", "the", "handling", "of", "remote", "references", "from", "the", "object", "request", "broker", "-LRB-", "ORB", "-RRB-", "core", "and", "introduces", "the", "concept", "of", "ORB-independent", "portable", "profile", "managers", ",", "which", "are", "managed", "by", "a", "generic", "reference", "manager", ".", "The", "profile", "managers", "encapsulate", "all", "tasks", "related", "to", "reference", "handling", ",", "i.e.", ",", "reference", "creation", ",", "reference", "marshalling", "and", "unmarshalling", ",", "external", "representation", "of", "references", "as", "strings", ",", "and", "type", "casting", "of", "representatives", "of", "remote", "objects", ".", "The", "profile", "managers", "are", "independent", "from", "a", "specific", "ORB", ",", "and", "may", "even", "be", "loaded", "dynamically", "into", "the", "ORB", ".", "Only", "small", "modifications", "to", "existing", "CORBA", "implementations", "are", "necessary", "to", "support", "such", "a", "design", ".", "Our", "architecture", "enables", "the", "integration", "of", "a", "fragmented", "object", "model", "into", "CORBA", "middleware", "platforms", ",", "which", "allows", "transparent", "support", "of", "many", "implementation", "aspects", "of", "complex", "distributed", "systems", ",", "like", "partitioning", ",", "scalability", ",", "fault-tolerance", ",", "and", "end-to-end", "quality-of-service", "guarantees", ".", "It", "also", "provides", "a", "simple", "mechanism", "for", "the", "integration", "of", "cross-platform", "interoperability", ",", "e.g.", ",", "the", "integration", "with", "services", "running", "on", "non-CORBA", "middleware", "platforms", ",", "like", "Jini", "or", ".", "NET", "remoting", ".", "Our", "design", "was", "named", "AspectIX", "and", "implemented", "as", "an", "extension", "to", "the", "open-source", "CORBA", "implementation", "JacORB", ",", "but", "is", "easily", "ported", "to", "other", "systems", ".", "This", "paper", "is", "organised", "as", "follows", ":", "The", "following", "section", "discusses", "the", "monolithic", "design", "of", "most", "current", "middleware", "systems", "in", "more", "detail", ".", "It", "addresses", "the", "extension", "features", "of", "CORBA", "and", "discusses", "Permission", "to", "make", "digial", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistributed", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SEM", "2005", ",", "September", "2005", ",", "Lisbon", ",", "Portugal", "Copyright", "2005", "ACM", ",", "1-59593-204-4", "/", "05/09", "...", "$", "5.00", ".", "69", "2", "their", "lack", "of", "flexibility", ".", "Section", "3", "explains", "our", "novel", "approach", "to", "middleware", "extensibility", "based", "on", "a", "generic", "reference", "manager", "with", "pluggable", "profile", "managers", ".", "In", "Section", "4", ",", "two", "CORBA", "extensions", "and", "the", "corresponding", "profile", "managers", "are", "presented", ":", "One", "for", "integrating", "the", "powerful", "fragmented-object", "model", "into", "the", "system", ",", "and", "one", "for", "transparently", "accessing", "Jini", "services", "from", "CORBA", "applications", ".", "Section", "5", "evaluates", "the", "implementation", "effort", "and", "run-time", "overhead", "of", "our", "approach", ",", "and", "Section", "6", "presents", "some", "concluding", "remarks", ".", "CORBA", "uses", "a", "monolithic", "object", "model", ":", "CORBA", "objects", "have", "to", "reside", "on", "a", "specific", "node", "and", "are", "transparently", "accessed", "by", "client-side", "proxies", "called", "stubs", ".", "The", "stubs", "use", "an", "RPC-based", "communication", "protocol", "to", "contact", "the", "actual", "object", ",", "to", "pass", "parameters", ",", "and", "to", "receive", "results", "from", "object", "invocations", ".", "A", "CORBA-based", "middleware", "implementation", "is", "free", "to", "choose", "the", "actual", "protocol", ",", "but", "has", "to", "support", "the", "Internet", "Inter-ORB", "Protocol", "-LRB-", "IIOP", "-RRB-", "for", "interoperability", ".", "CORBA", "uses", "interoperable", "object", "references", "-LRB-", "IORs", "-RRB-", "to", "address", "remote", "objects", ".", "The", "IOR", "is", "a", "data", "structure", "composed", "of", "a", "set", "of", "profiles", ".", "According", "to", "the", "standard", ",", "each", "profile", "may", "specify", "contact", "information", "of", "the", "remote", "object", "for", "one", "specific", "interaction", "protocol", ";", "for", "interoperability", "between", "ORBs", "of", "different", "vendors", ",", "an", "IIOP", "profile", "needs", "to", "be", "present", ".", "In", "addition", "to", "protocol", "profiles", ",", "the", "IOR", "may", "contain", "a", "set", "of", "tagged", "components", ".", "Each", "tagged", "component", "is", "a", "name-value", "pair", "with", "a", "unique", "tag", "registered", "with", "the", "OMG", "and", "arbitrary", "associated", "data", ";", "these", "components", "define", "protocol-independent", "information", ",", "like", "a", "unique", "object", "ID", ".", "In", "standard", "CORBA", ",", "IORs", "are", "created", "internally", "at", "the", "server", "ORB", ".", "A", "server", "application", "creates", "a", "servant", "instance", "and", "registers", "the", "servant", "with", "the", "ORB", "-LRB-", "or", ",", "to", "be", "more", "specific", ",", "with", "an", "object", "adapter", "of", "the", "ORB", "-RRB-", ".", "Usually", "this", "IOR", "contains", "an", "automatically", "created", "IIOP", "profile", "that", "contains", "hostname", ",", "port", ",", "object", "adapter", "name", ",", "and", "object", "ID", "for", "accessing", "the", "object", "via", "IIOP", ".", "Additionally", ",", "it", "may", "contain", "other", "profiles", "representing", "alternative", "ways", "to", "access", "the", "object", ".", "An", "IOR", "can", "be", "passed", "to", "remote", "clients", ",", "either", "implicitly", "or", "explicitly", ".", "If", "a", "reference", "to", "a", "remote", "object", "is", "passed", "as", "a", "parameter", "or", "return", "value", ",", "the", "IOR", "data", "structure", "will", "be", "implicitly", "serialised", "and", "transferred", ".", "Upon", "deserialisation", ",", "the", "receiving", "client", "ORB", "automatically", "instantiates", "a", "local", "stub", "for", "accessing", "the", "remote", "object", ",", "initialised", "with", "the", "information", "available", "in", "the", "IOR", ".", "If", "multiple", "profiles", "exist", "in", "the", "IOR", ",", "the", "ORB", "may", "use", "a", "vendor-specific", "strategy", "to", "select", "a", "single", "profile", "that", "is", "understood", "by", "the", "ORB", ".", "The", "IIOP", "profile", "should", "be", "understood", "by", "all", "ORBs", ".", "Beside", "implicit", "transfer", ",", "an", "explicit", "transfer", "is", "possible", ".", "The", "server", "application", "may", "call", "a", "object_to_string", "method", "at", "the", "ORB", ",", "which", "serial-ises", "the", "IOR", "and", "transforms", "it", "to", "a", "string", ",", "an", "IOR-URL", ".", "This", "string", "can", "be", "transferred", "to", "a", "client", ";", "the", "client", "application", "may", "call", "the", "local", "ORB", "method", "string_to_object", "to", "create", "the", "stub", "for", "the", "remote", "object", "referenced", "by", "the", "IOR", ".", "2.2", "Status", "Quo", "of", "Extensible", "Middleware", "Many", "practical", "tasks", "--", "e.g.", ",", "authorisation", ",", "security", ",", "load", "balancing", ",", "fault", "tolerance", ",", "or", "special", "communication", "protocols", "--", "require", "extensions", "to", "the", "basic", "CORBA", "model", ".", "For", "example", ",", "fault-tolerant", "replication", "requires", "that", "multiple", "communication", "addresses", "-LRB-", "i.e.", ",", "of", "all", "replicas", "-RRB-", "are", "known", "to", "a", "client", ".", "Typically", "this", "means", "that", "these", "addresses", "have", "to", "be", "encoded", "into", "the", "remote", "reference", ";", "binding", "to", "and", "invoking", "methods", "at", "such", "a", "remote", "object", "require", "a", "more", "complex", "handling", "at", "the", "client", "side", "compared", "to", "the", "simple", "stub-service", "design", ".", "As", "a", "second", "example", ",", "a", "peer-to-peer-like", "interaction", "between", "users", "of", "a", "service", "might", "sometimes", "be", "desired", ".", "In", "this", "case", ",", "the", "client-server", "structure", "needs", "to", "be", "completely", "abandoned", ".", "A", "good", "example", "for", "the", "lack", "of", "extensibility", "of", "standard", "CORBA", "is", "the", "fault-tolerant", "CORBA", "standard", "-LRB-", "FT-CORBA", "-RRB-", "-LSB-", "5", ",", "Chapter", "23", "-RSB-", ".", "It", "was", "not", "possible", "to", "define", "this", "standard", "in", "a", "way", "that", "all", "platform", "implementations", "are", "portable", "across", "different", "ORBs", ".", "Instead", ",", "each", "FT-CORBA-compliant", "middleware", "has", "its", "vendor-specific", "implementation", "inside", "of", "a", "single", "ORB", ".", "A", "system", "design", "such", "as", "we", "envision", "allows", "to", "implement", "a", "generic", "``", "FT-CORBA", "plugin", "''", "that", "makes", "any", "ORB", ",", "independent", "of", "its", "vendor", ",", "aware", "of", "fault-tolerance", "mechanisms", ".", "Existing", "concepts", "for", "interception", ",", "custom", "object", "adapters", ",", "and", "smart", "proxies", "provide", "some", "mechanisms", "for", "such", "extensions", ".", "In", "part", ",", "they", "are", "included", "in", "the", "CORBA", "standard", ";", "in", "part", ",", "they", "are", "only", "available", "in", "non-standardised", "middleware", "implementations", ".", "The", "portable", "interceptor", "specification", "supports", "interception", "within", "the", "official", "CORBA", "standard", ".", "The", "specification", "defines", "request", "interceptors", "and", "IOR", "interceptors", "as", "standardised", "way", "to", "extend", "the", "middleware", "functionality", ".", "Using", "request", "interceptors", ",", "several", "hooks", "may", "be", "inserted", "both", "at", "client", "and", "at", "server", "side", "to", "intercept", "remote", "method", "calls", ".", "These", "hooks", "allow", "to", "redirect", "the", "call", "-LRB-", "e.g.", ",", "for", "load", "balancing", "-RRB-", ",", "abort", "it", "with", "an", "exception", "-LRB-", "e.g.", ",", "for", "access", "restriction", "-RRB-", ",", "extract", "and", "modify", "context", "information", "embedded", "in", "the", "request", ",", "and", "perform", "monitoring", "tasks", ".", "A", "direct", "manipulation", "of", "the", "request", "is", "not", "permitted", "by", "the", "specification", ".", "Multiple", "request", "interceptors", "may", "be", "used", "simultaneously", ".", "Interceptors", "add", "additional", "overhead", "on", "each", "remote", "method", "invocation", ";", "furthermore", ",", "they", "do", "not", "allow", "to", "modify", "the", "remote", "invocations", "completely", ".", "IOR", "interceptors", ",", "on", "the", "other", "hand", ",", "are", "called", "when", "a", "POA", "needs", "to", "create", "an", "IOR", "for", "a", "service", ".", "This", "allows", "to", "insert", "additional", "data", "into", "the", "IOR", "-LRB-", "e.g.", ",", "a", "tagged", "component", "for", "context", "information", "that", "is", "later", "used", "in", "a", "request", "interceptor", "-RRB-", ".", "CORBA", "allows", "to", "define", "custom", "POA", "implementations", ".", "The", "POA", "is", "responsible", "for", "forwarding", "incoming", "invocation", "requests", "to", "a", "servant", "implementation", ".", "This", "extension", "point", "allows", "to", "integrate", "server-side", "mechanisms", "like", "access", "control", ",", "persistence", ",", "and", "life-cycle", "management", ".", "It", "has", ",", "however", ",", "no", "influence", "on", "the", "interaction", "of", "clients", "with", "a", "remote", "service", ".", "Beside", "the", "standardised", "IIOP", "protocol", ",", "any", "CORBA", "implementation", "may", "support", "custom", "invocation", "protocols", ".", "Additional", "IOR", "profiles", "may", "be", "used", "for", "this", "purpose", ".", "However", ",", "establishing", "such", "extensions", "is", "not", "standardised", "and", "every", "vendor", "may", "include", "his", "own", "proprietary", "variant", ",", "which", "limits", "the", "interoperability", "of", "this", "approach", ".", "Smart", "proxies", "are", "a", "concepts", "for", "extending", "ORB", "flexibility", ",", "which", "is", "not", "yet", "standardised", "by", "the", "OMG", ",", "but", "which", "is", "implemented", "by", "some", "ORB", "vendors", ",", "e.g.", ",", "in", "the", "ACE", "ORB/Tao", "-LSB-", "11", "-RSB-", ".", "They", "allow", "to", "replace", "the", "default", "CORBA", "stub", "by", "a", "custom", "proxy", "that", "may", "implement", "some", "extended", "functionality", ".", "As", "such", ",", "they", "allow", "to", "implement", "parts", "of", "the", "object", "'s", "functionality", "at", "the", "client", "side", ".", "Closely", "related", "to", "our", "research", "is", "the", "work", "on", "OpenORB", "at", "Lancaster", "University", "-LSB-", "1", "-RSB-", ".", "This", "middleware", "project", "uses", "reflection", "to", "define", "dynamic", "-LRB-", "re", "-RRB-", "configuration", "of", "componentised", "middleware", "services", ".", "The", "main", "difference", "to", "our", "design", "is", "that", "it", "completely", "restructures", "the", "middleware", "architecture", ",", "whereas", "our", "concept", "with", "a", "reference", "manager", "and", "pluggable", "profile", "managers", "is", "integrated", "in", "any", "existing", "CORBA", "implementation", "with", "only", "minimal", "modifications", ".", "It", "nevertheless", "provides", "equal", "flexibility", "forreconfigurations", ".", "Component", "technology", "could", "be", "used", "in", "the", "internal", "design", "of", "complex", "profile", "managers", ".", "70", "3", "PolyORB", "-LSB-", "10", "-RSB-", "is", "a", "generic", "middleware", "system", "that", "aims", "at", "providing", "a", "uniform", "solution", "to", "build", "distributed", "applications", ".", "It", "supports", "several", "personalities", "both", "at", "the", "application-programming", "interface", "-LRB-", "API", "-RRB-", "level", "and", "the", "network-protocol", "level", ".", "The", "personalities", "are", "compliant", "to", "several", "existing", "standards", ".", "This", "way", ",", "it", "provides", "middleware", "-", "to-middleware", "interoperability", ".", "Implementations", "of", "personalities", "are", "specific", "to", "PolyORB", ",", "unlike", "our", "profile", "managers", ",", "which", "are", "intended", "to", "be", "portable", "between", "different", "ORB", "implementations", ".", "We", "do", "not", "address", "the", "issue", "of", "genericity", "at", "the", "API", "level", "The", "fundamental", "extension", "point", "of", "an", "object", "middleware", "is", "the", "central", "handling", "of", "remote", "references", ".", "It", "is", "the", "task", "of", "any", "object", "middleware", "to", "provide", "mechanisms", "to", "create", "remote", "references", ",", "to", "pass", "them", "across", "host", "boundaries", ",", "and", "to", "use", "them", "for", "remote", "invocations", ".", "As", "explained", "above", ",", "merely", "providing", "extension", "points", "at", "the", "invocation", "level", "is", "insufficient", "for", "several", "complex", "tasks", ".", "The", "essential", "point", "of", "our", "work", "is", "to", "provide", "a", "very", "early", "extension", "point", "by", "completely", "separating", "the", "reference", "handling", "from", "the", "middleware", "core", ".", "The", "impact", "of", "such", "a", "design", "is", "not", "only", "that", "a", "single", "middleware", "implementation", "gets", "more", "flexible", ".", "It", "is", "also", "highly", "desirable", "to", "provide", "this", "extensibility", "in", "an", "vendor-independent", "way", ".", "That", "is", ",", "an", "extension", "module", "should", "be", "portable", "across", "different", "middleware", "implementations", ".", "Furthermore", ",", "these", "extensions", "should", "be", "dynamically", "pluggable", "and", ",", "in", "the", "extreme", ",", "be", "loaded", "on", "demand", "by", "the", "middleware", "ORB", ".", "Our", "design", "provides", "such", "a", "middleware", "architecture", ".", "It", "is", "currently", "designed", "as", "an", "extension", "to", "standard", "CORBA", ",", "and", "maintains", "interoperability", "with", "any", "legacy", "CORBA", "system", ".", "Our", "design", "represents", ",", "however", ",", "a", "generic", "design", "pattern", "that", "easily", "applies", "to", "any", "other", "object", "middleware", ".", "The", "only", "prerequisite", "made", "is", "that", "remote", "references", "are", "represented", "by", "a", "sufficiently", "extensible", "data", "structure", ".", "In", "CORBA", ",", "the", "Inter-operable", "Object", "Reference", "-LRB-", "IOR", "-RRB-", "provides", "such", "a", "data", "structure", ".", "Each", "profile", "of", "the", "IOR", "represents", "an", "alternative", "way", "to", "contact", "the", "object", ".", "Each", "profile", "type", "has", "its", "own", "data-type", "definition", ",", "described", "in", "CORBA", "IDL", ".", "Hence", ",", "at", "the", "IOR", "level", ",", "CORBA", "is", "open", "to", "arbitrary", "extensions", ".", "The", "IOR", "handling", ",", "however", ",", "is", "typically", "encapsulated", "in", "the", "internals", "of", "a", "CORBA-compliant", "ORB", "implementation", ".", "Currently", ",", "if", "a", "vendor", "uses", "the", "power", "of", "IORs", "for", "custom", "extensions", ",", "these", "will", "only", "be", "implemented", "internally", "in", "the", "respective", "ORB", ".", "The", "extension", "will", "not", "be", "portable", ".", "3.1", "Overview", "of", "our", "Design", "Our", "approach", "introduces", "a", "generic", "interface", "for", "plugging", "in", "portable", "extension", "modules", "for", "all", "tasks", "related", "to", "IOR", "profile", "handling", ".", "This", "makes", "it", "easy", "to", "support", "extended", "features", "like", "fault-tolerant", "replication", ",", "a", "fragmented", "object", "model", ",", "or", "transparent", "interaction", "with", "other", "middleware", "systems", ".", "This", "improves", "the", "flexibility", "of", "a", "CORBA", "middleware", ".", "We", "factored", "out", "the", "IOR", "handling", "of", "the", "ORB", "and", "put", "it", "into", "pluggable", "modules", ".", "This", "way", ",", "custom", "handlers", "for", "IOR", "profiles", "may", "be", "added", "to", "the", "ORB", "without", "modifying", "the", "ORB", "itself", ".", "Dynamically", "downloading", "and", "installing", "such", "handlers", "at", "run-time", "further", "contributes", "to", "the", "richness", "of", "this", "approach", ".", "Factoring", "out", "the", "basic", "remote-reference", "handling", "of", "the", "ORB", "core", "into", "a", "pluggable", "module", "affects", "five", "core", "functions", "of", "the", "middleware", ":", "first", ",", "the", "creation", "of", "new", "object", "references", ";", "second", ",", "the", "marshalling", "process", ",", "which", "converts", "object", "references", "into", "an", "external-ly", "meaningful", "representation", "-LRB-", "i.e.", ",", "a", "serialised", "IOR", "-RRB-", ";", "third", ",", "the", "unmarshalling", "process", ",", "which", "has", "to", "convert", "such", "representation", "into", "a", "local", "representation", "-LRB-", "e.g.", ",", "a", "stub", ",", "a", "smart", "proxy", ",", "or", "a", "fragment", "-RRB-", ";", "and", "fourth", ",", "the", "explicit", "binding", "operation", ",", "which", "turns", "some", "symbolic", "reference", "-LRB-", "e.g.", ",", "a", "stringified", "IOR", "-RRB-", "into", "a", "local", "representation", "and", "vice", "versa", ".", "A", "fifth", "function", "is", "not", "as", "obvious", "as", "the", "others", ":", "The", "type", "of", "a", "remote", "object", "reference", "can", "be", "changed", "as", "long", "as", "the", "remote", "object", "supports", "the", "new", "type", ".", "In", "CORBA", "this", "is", "realised", "by", "a", "special", "narrow", "operation", ".", "As", "in", "some", "cases", "the", "narrow", "operation", "needs", "to", "create", "a", "new", "local", "representation", "for", "a", "remote", "object", ",", "this", "operation", "has", "to", "be", "considered", "too", ".", "An", "extension", "to", "CORBA", "will", "have", "to", "change", "all", "five", "functions", "for", "its", "specific", "needs", ".", "Thus", ",", "we", "collect", "those", "function", "in", "a", "module", "that", "we", "call", "a", "profile", "manager", ".", "A", "profile", "manager", "is", "usually", "responsible", "for", "a", "single", "type", "of", "IOR", "profile", ",", "but", "there", "may", "be", "reasons", "to", "allow", "profile", "managers", "to", "manage", "multiple", "profile", "types", ".", "Profile", "managers", "are", "pluggable", "modules", ".", "A", "part", "of", "the", "ORB", "called", "reference", "manager", "manages", "all", "available", "profile", "managers", "and", "allows", "for", "registration", "of", "new", "profile-manager", "modules", ".", "The", "basic", "design", "can", "be", "found", "as", "a", "UML", "class", "diagram", "in", "Fig", ".", "Figure", ".", "Sometimes", "an", "application", "needs", "to", "access", "the", "reference", "manager", "directly", ".", "By", "calling", "resolve_initial_references", "-LRB-", "-RRB-", ",", "a", "generic", "operation", "for", "resolving", "references", "to", "system-dependent", "objects", ",", "it", "can", "retrieve", "a", "reference", "to", "the", "reference", "manager", "pseudo", "object", "from", "the", "ORB", ".", "At", "the", "reference", "manager", ",", "profile", "managers", "can", "be", "registered", ".", "As", "profile", "managers", "are", "responsible", "for", "a", "single", "or", "for", "multiple", "IOR", "profile", "types", ",", "the", "registration", "requires", "a", "parameter", "identifying", "those", "profile", "types", ".", "For", "identification", "a", "unique", "profile", "tag", "is", "used", ".", "Those", "tags", "are", "registered", "with", "the", "OMG", "to", "ensure", "their", "uniqueness", ".", "With", "the", "registration", "at", "the", "reference", "manager", ",", "it", "is", "exactly", "known", "which", "profile", "managers", "can", "handle", "what", "profile", "types", ".", "Several", "tasks", "of", "reference", "handling", "are", "invoked", "at", "the", "reference", "manager", "and", "forwarded", "to", "the", "appropriate", "profile", "manager", ".", "The", "architecture", "resembles", "the", "chain-of-responsibility", "pattern", "introduced", "by", "Gamma", "et", "al.", "-LSB-", "2", "-RSB-", ".", "3.2", "Refactoring", "the", "Handling", "of", "References", "In", "the", "following", ",", "we", "describe", "the", "handling", "of", "the", "five", "core", "functions", "of", "reference", "handling", "in", "our", "architecture", ":", "Creating", "object", "references", ".", "In", "traditional", "CORBA", ",", "new", "object", "references", "are", "created", "by", "registering", "a", "servant", "at", "a", "POA", "of", "the", "server", ".", "The", "POA", "usually", "maintains", "a", "socket", "for", "accepting", "incoming", "invocation", "requests", ",", "e.g.", ",", "in", "form", "of", "IIOP", "messages", ".", "The", "POA", "encodes", "the", "contact", "address", "of", "the", "socket", "into", "an", "IIOP", "profile", "and", "creates", "an", "appropriate", "IOR", ".", "The", "details", "of", "the", "POA", "implementation", "ProfileManager", "+", "insertProfile", ":", "void", "+", "profileToObject", ":", "CORBA", ":", ":", "Object", "+", "objectToIor", ":", "IOR", "+", "iriToIor", ":", "IOR", "+", "iorToIri", ":", "string", "+", "narrow", ":", "CORBA", ":", ":", "Object", "ReferenceManager", "+", "setObjID", ":", "void", "+", "getObjID", ":", "string", "+", "createNewIor", ":", "IOR", "+", "registerProfileManager", ":", "void", "+", "getProfileManager", ":", "ProfileManager", "+", "getProfileManagers", ":", "ProfileManager", "-LSB-", "-RSB-", "+", "iorToObject", ":", "CORBA", ":", ":", "Object", "+", "objectToIor", ":", "IOR", "+", "objectToIri", ":", "string", "+", "iorToString", ":", "string", "+", "stringToIor", ":", "IOR", "+", "narrow", ":", "CORBA", ":", ":", "Object", "ORB", "1", "n", "Figure", "1", ":", "UML", "class", "diagram", "of", "the", "CORBA", "extension", "71", "4", "varies", "from", "ORB", "to", "ORB", ".", "In", "general", ",", "the", "registration", "at", "the", "POA", "creates", "an", "IOR", "and", "an", "internal", "data", "structure", "containing", "all", "necessary", "information", "for", "invocation", "handling", ".", "To", "be", "as", "flexible", "as", "possible", "our", "extension", "completely", "separates", "the", "creation", "of", "the", "IOR", "from", "the", "handling", "in", "a", "POA", ".", "The", "creation", "of", "an", "IOR", "requires", "the", "invocation", "of", "createNewIor", "-LRB-", "-RRB-", "at", "the", "reference", "manager", ".", "As", "standard", "CORBA", "is", "not", "able", "to", "clearly", "identify", "object", "references", "referring", "to", "the", "same", "object", ",", "we", "added", "some", "operations", "to", "the", "reference", "manager", "that", "allow", "for", "integrating", "a", "universally", "unique", "identifier", "-LRB-", "UUID", "-RRB-", "into", "the", "IOR", ".", "The", "UUID", "is", "stored", "as", "a", "tagged", "component", "and", "in", "principle", "can", "be", "used", "by", "any", "profile", "manager", ".", "For", "filling", "the", "IOR", "with", "profiles", ",", "an", "appropriate", "profile", "manager", "must", "be", "identified", ".", "Operations", "at", "the", "reference", "manager", "allow", "the", "retrieval", "of", "profile", "managers", "being", "able", "to", "handle", "a", "specific", "profile", "type", ".", "A", "profile", "manager", "has", "to", "provide", "an", "operation", "insertProfile", "-LRB-", "-RRB-", "that", "adds", "a", "profile", "of", "a", "specific", "type", "into", "a", "given", "IOR", ".", "This", "operation", "has", "manager-dependent", "parameters", "so", "that", "each", "manager", "is", "able", "to", "create", "its", "specific", "profile", ".", "Instead", "of", "creating", "the", "IOR", "itself", ",", "the", "POA", "of", "our", "extended", "ORB", "has", "to", "create", "the", "IOR", "by", "asking", "the", "IIOP", "profile", "manger", "for", "adding", "the", "appropriate", "information", "-LRB-", "host", ",", "port", ",", "POA", "name", "and", "object", "ID", "-RRB-", "to", "a", "newly", "created", "IOR", ".", "As", "an", "object", "may", "be", "accessible", "by", "multiple", "profiles", ",", "an", "object", "adapter", "can", "ask", "multiple", "profile", "managers", "for", "inserting", "profiles", "into", "an", "IOR", ".", "Marshalling", "of", "object", "references", ".", "A", "CORBA", "object", "passed", "as", "a", "method", "parameter", "in", "a", "remote", "invocation", "needs", "to", "be", "serialised", "as", "an", "IOR", ".", "In", "classic", "CORBA", ",", "this", "is", "done", ",", ",", "magically", "''", "by", "the", "ORB", "by", "accessing", "internal", "data", "structures", ".", "In", "the", "Java", "language", "mapping", ",", "for", "example", ",", "a", "CORBA", "object", "reference", "is", "represented", "as", "a", "stub", "that", "delegates", "to", "a", "sub-type", "of", "org.omg.CORBA.Delegate", ".", "Instances", "of", "this", "type", "store", "the", "IOR", ".", "In", "our", "architecture", ",", "we", "can", "not", "assume", "any", "specific", "implementation", "of", "an", "object", "reference", "as", "each", "profile", "manager", "may", "need", "a", "different", "one", ".", "Thus", ",", "there", "is", "no", "generic", "way", "to", "retrieve", "the", "IOR", "to", "be", "serialised", ".", "Instead", ",", "the", "reference", "manager", "is", "asked", "to", "convert", "the", "object", "reference", "into", "an", "IOR", "that", "in", "the", "end", "can", "be", "serialised", ".", "Therefore", ",", "the", "reference", "manager", "provides", "an", "operation", "called", "objectToIor", "-LRB-", "-RRB-", ".", "The", "reference", "manager", ",", "in", "turn", ",", "will", "ask", "all", "known", "profile", "managers", "to", "do", "the", "job", ".", "Profile", "managers", "will", "usually", "check", "whether", "the", "object", "reference", "is", "an", "implementation", "of", "their", "middleware", "extension", ".", "If", "so", ",", "the", "manager", "will", "know", "how", "to", "retrieve", "the", "IOR", ".", "If", "not", ",", "the", "profile", "manager", "will", "return", "a", "null", "reference", ",", "and", "the", "reference", "manager", "will", "turn", "to", "the", "next", "profile", "manager", ".", "Unmarshalling", "of", "object", "references", ".", "If", "a", "standard", "ORB", "receives", "a", "serialised", "IOR", "as", "a", "method", "parameter", "or", "return", "result", ",", "it", "implicitly", "converts", "it", "into", "a", "local", "representation", "and", "passes", "this", "representation", "-LRB-", "typically", "a", "stub", "-RRB-", "to", "the", "application", ".", "This", "creation", "of", "the", "stub", "needs", "to", "be", "factored", "out", "of", "the", "marshalling", "system", "of", "the", "ORB", "to", "handle", "arbitrary", "reference", "types", ".", "Our", "design", "delegates", "the", "object", "creation", "within", "unmarshalling", "to", "the", "reference", "manager", "by", "calling", "iorToObject", "-LRB-", "-RRB-", ".", "The", "reference", "manager", "maintains", "an", "ordered", "list", "of", "profile", "types", "and", "corresponding", "profile", "managers", ".", "According", "to", "this", "list", ",", "each", "profile", "manager", "is", "asked", "to", "convert", "the", "IOR", "in", "a", "local", "representation", "by", "calling", "profileToObject", "-LRB-", "-RRB-", ".", "This", "way", "the", "reference", "manager", "already", "analyses", "the", "contents", "of", "the", "IOR", "and", "only", "asks", "those", "managers", "that", "are", "likely", "to", "be", "able", "to", "convert", "the", "IOR", "into", "an", "object", "reference", ".", "A", "profile", "manager", "checks", "the", "profile", "and", "the", "tagged", "components", ",", "and", "tries", "to", "create", "a", "local", "representation", "of", "the", "object", "reference", ".", "For", "example", ",", "an", "IIOP", "profile", "manager", "will", "analyse", "the", "IIOP", "profile", ".", "A", "CORBA-compliant", "stub", "is", "created", "and", "initialised", "with", "the", "IOR", ".", "The", "stub", "is", "returned", "to", "the", "reference", "manager", ",", "which", "returns", "it", "to", "the", "application", ".", "If", "a", "profile", "manager", "is", "not", "able", "to", "convert", "the", "profile", "or", "not", "able", "to", "contact", "the", "object", "for", "arbitrary", "reasons", ",", "it", "will", "throw", "an", "exception", ".", "In", "this", "case", "the", "reference", "manager", "will", "follow", "its", "list", "and", "ask", "the", "next", "profile", "manager", ".", "If", "none", "of", "the", "managers", "can", "deal", "with", "the", "IOR", ",", "an", "exception", "is", "thrown", "to", "the", "caller", ".", "This", "is", "compatible", "with", "standard", "CORBA", "for", "the", "case", "that", "no", "profile", "is", "understood", "by", "the", "ORB", ".", "The", "order", "of", "profile", "types", "and", "managers", "defines", "the", "ORB-dependent", "strategy", "of", "referencing", "objects", ".", "As", "the", "first", "matching", "profile", "type", "and", "manager", "wins", ",", "generic", "managers", "-LRB-", "e.g.", ",", "for", "IIOP", "-RRB-", "should", "be", "at", "the", "end", "of", "the", "list", "whereas", "more", "specific", "managers", "should", "be", "at", "the", "beginning", ".", "Explicit", "binding", "to", "remote", "references", ".", "A", "user", "application", "may", "explicitly", "call", "the", "ORB", "method", "string_to_object", ",", "passing", "some", "kind", "of", "stringified", "representation", "of", "the", "references", ".", "Usually", ",", "this", "may", "either", "be", "a", "string", "representation", "of", "the", "marshalled", "IOR", ",", "or", "a", "corbaloc", "or", "corbaname", "URI", ".", "This", "ORB", "operation", "can", "be", "split", "into", "two", "steps", ":", "First", ",", "the", "string", "is", "parsed", "and", "converted", "into", "an", "IOR", "object", ".", "As", "the", "stringified", "IOR", "can", "have", "an", "extension-specific", "IRI", "format", "--", "an", "IRI", "is", "the", "international-ised", "version", "of", "an", "URI", "--", "each", "profile", "manager", "is", "asked", "for", "conver-Figure", "2", ":", "Sequence", "chart", "for", "ORB", ":", ":", "object_to_string", "objectToIor", "objectToIor", "objectToIor", "object_to_string", ":", "ProfileManager2", ":", "ProfileManager1", ":", "ORB", ":", "ReferenceManager", "return", "IOR", "string", "return", "IOR", "string", "return", "IOR", "return", "null", "72", "5", "sion", "by", "using", "iriToIor", "-LRB-", "-RRB-", ".", "The", "generic", "IOR", "format", "will", "be", "handled", "by", "the", "reference", "manager", "itself", ".", "Second", ",", "this", "IOR", "object", "is", "converted", "into", "a", "local", "representation", "using", "the", "same", "process", "as", "used", "with", "unmarshalling", ".", "Calling", "object_to_string", "-LRB-", "-RRB-", "is", "handled", "in", "a", "similar", "way", ".", "First", ",", "the", "reference", "passed", "as", "parameter", "is", "converted", "into", "an", "IOR", "object", "in", "the", "same", "way", "as", "for", "marshalling", ".", "Second", ",", "the", "IOR", "object", "is", "converted", "into", "a", "string", ".", "The", "IOR", "is", "encoded", "as", "a", "hex", "string", "representing", "an", "URI", "in", "the", "IOR", "schema", ".", "The", "complete", "interaction", "is", "shown", "as", "sequence", "chart", "in", "Fig.", "2", ".", "As", "sometimes", "an", "application", "may", "want", "to", "convert", "an", "object", "reference", "into", "a", "more-readable", "IRI", ",", "our", "extension", "also", "provides", "an", "operation", "called", "objectToIri", "-LRB-", "-RRB-", ".", "In", "a", "first", "step", ",", "the", "object", "reference", "is", "once", "again", "converted", "into", "an", "IOR", ".", "The", "second", "step", ",", "the", "conversion", "into", "an", "IRI", ",", "is", "done", "with", "the", "help", "of", "the", "profile", "managers", "by", "invoking", "iorToIri", "-LRB-", "-RRB-", ".", "Those", "may", "provide", "profile-specific", "URL", "schemes", "that", "may", "not", "be", "compatible", "to", "standard", "CORBA", ".", "As", "the", "conversion", "of", "an", "IRI", "into", "an", "object", "reference", "can", "be", "handled", "in", "the", "profile", "manager", "this", "is", "not", "a", "problem", ".", "Narrow", "operation", ".", "The", "narrow", "operation", "is", "difficult", "to", "implement", ".", "In", "the", "Java", "language", "mapping", "the", "operation", "is", "located", "in", "a", "helper", "class", "of", "the", "appropriate", "type", ",", "expecting", "an", "object", "reference", "of", "arbitrary", "other", "type", ".", "The", "implementation", "in", "a", "standard", "ORB", "assumes", "an", "instance", "compatible", "to", "the", "basic", "stub", "class", ",", "which", "knows", "a", "delegate", "to", "handle", "the", "actual", "invocations", ".", "After", "successfully", "checking", "the", "type", "conformance", ",", "the", "helper", "class", "will", "create", "a", "new", "stub", "instance", "of", "the", "appropriate", "type", "and", "connect", "it", "to", "the", "same", "delegate", ".", "With", "any", "CORBA", "extension", "it", "can", "not", "be", "assumed", "that", "object", "references", "conform", "to", "the", "basic", "stub", "class", ".", "In", "our", "extension", "the", "helper", "class", "invokes", "the", "operation", "narrow", "-LRB-", "-RRB-", "at", "the", "reference", "manager", ".", "Beside", "the", "existing", "object", "reference", "a", "qualified", "type", "name", "of", "the", "new", "type", "is", "passed", "to", "the", "operation", "as", "a", "string", ".", "The", "reference", "manager", "once", "again", "will", "call", "every", "profile", "manager", "for", "the", "narrow", "operation", ".", "A", "profile", "manager", "can", "check", "whether", "the", "object", "reference", "belongs", "to", "its", "CORBA", "extension", ".", "If", "yes", ",", "the", "manager", "will", "take", "care", "of", "the", "narrow", "operation", ".", "If", "not", ",", "a", "null", "result", "is", "returned", "and", "the", "reference", "manager", "will", "turn", "to", "the", "next", "profile", "manager", ".", "As", "a", "profile", "manager", "has", "to", "create", "a", "type-specific", "instance", ",", "it", "can", "use", "the", "passed", "type", "name", "to", "create", "that", "instance", ".", "In", "languages", "that", "provide", "a", "reflection", "API", "-LRB-", "e.g.", ",", "Java", "-RRB-", "this", "is", "not", "difficult", "to", "realise", ".", "In", "other", "languages", "a", "generic", "implementation", "in", "a", "profile", "manager", "may", "be", "impossible", ".", "Another", "drawback", "is", "that", "reflection", "is", "not", "very", "efficient", ".", "An", "alternative", "implementation", "is", "the", "placement", "of", "profile-specific", "code", "into", "the", "helper", "class", "-LRB-", "or", "in", "other", "classes", "and", "functions", "of", "other", "language", "mappings", "-RRB-", ".", "Our", "own", "IDL", "compiler", "called", "IDLflex", "-LSB-", "8", "-RSB-", "can", "easily", "be", "adapted", "to", "generate", "slightly", "different", "helper", "classes", ".", "As", "a", "compromise", "helper", "classes", "may", "have", "profile-specific", "code", "for", "the", "most", "likely", "profiles", ",", "but", "if", "other", "profiles", "are", "used", ",", "the", "above", "mentioned", "control", "flow", "through", "reference", "and", "profile", "managers", "is", "used", ".", "Thus", ",", "most", "object", "references", "can", "be", "narrowed", "very", "fast", "and", "the", "ORB", "is", "still", "open", "to", "object-reference", "implementations", "of", "profile", "managers", "that", "may", "have", "even", "be", "downloaded", "on", "demand", ".", "This", "section", "illustrates", "two", "applications", "of", "our", "design", ".", "The", "first", "example", "presents", "the", "AspectIX", "profile", "manager", ",", "which", "integrates", "fragmented", "object", "into", "a", "CORBA", "middleware", ".", "The", "second", "examples", "provides", "a", "transparent", "gateway", "from", "CORBA", "to", "Jini", ".", "4.1", "AspectIX", "Profile", "Manager", "The", "AspectIX", "middleware", "supports", "a", "fragmented", "object", "model", "-LSB-", "4,7", "-RSB-", ".", "Unlike", "the", "traditional", "RPC-based", "client-server", "model", ",", "the", "fragmented", "object", "model", "does", "no", "longer", "distinguish", "between", "client", "stubs", "and", "the", "server", "object", ".", "From", "an", "abstract", "point", "of", "view", ",", "a", "fragmented", "object", "is", "an", "entity", "with", "unique", "identity", ",", "interface", ",", "behaviour", ",", "and", "state", ",", "as", "in", "classic", "object-oriented", "design", ".", "The", "implementation", ",", "however", ",", "is", "not", "bound", "to", "a", "certain", "location", ",", "but", "may", "be", "distributed", "arbitrarily", "over", "various", "fragments", ".", "Any", "client", "that", "wants", "to", "access", "the", "fragmented", "object", "needs", "a", "local", "fragment", ",", "which", "provides", "an", "interface", "identical", "to", "that", "of", "a", "traditional", "stub", ".", "This", "local", "fragment", "may", "be", "specific", "for", "this", "object", "and", "this", "client", ".", "Two", "objects", "with", "the", "same", "interface", "may", "lead", "to", "completely", "different", "local", "fragments", ".", "This", "internal", "structure", "gives", "a", "high", "degree", "of", "freedom", "on", "where", "state", "and", "functionality", "of", "the", "object", "is", "located", "and", "how", "the", "interaction", "between", "fragments", "is", "done", ".", "The", "internal", "distribution", "and", "interaction", "is", "not", "only", "transparent", "on", "the", "external", "interface", ",", "but", "may", "even", "change", "dynamically", "at", "run-time", ".", "Fragmented", "objects", "can", "easily", "simulate", "the", "traditional", "client-server", "structure", "by", "using", "the", "same", "fragment", "type", "at", "all", "client", "locations", "that", "works", "as", "a", "simple", "stub", ".", "Similarly", ",", "the", "fragmented", "object", "model", "allows", "a", "simple", "implementation", "of", "smart", "proxies", "by", "using", "the", "smart", "proxy", "as", "fragment", "type", "for", "all", "clients", ".", "Moreover", ",", "this", "object", "model", "allows", "arbitrary", "internal", "configurations", "that", "partition", "the", "object", ",", "migrate", "it", "dynamically", ",", "or", "replicate", "it", "for", "fault-tolerance", "reasons", ".", "Finally", ",", "the", "communication", "between", "fragments", "may", "be", "arbitrarily", "adjusted", ",", "e.g.", ",", "to", "ensure", "quality", "-", "of-service", "properties", "or", "use", "available", "special-purpose", "communication", "mechanisms", ".", "All", "of", "these", "mechanisms", "are", "fully", "encapsulated", "in", "the", "fragmented", "objects", "and", "are", "not", "directly", "visible", "on", "the", "outer", "interface", "that", "all", "client", "application", "use", ".", "Supporting", "a", "fragmented", "object", "model", "is", "clearly", "an", "extension", "to", "the", "CORBA", "object", "model", ".", "With", "our", "architecture", "it", "is", "very", "easy", "to", "integrate", "the", "new", "model", ".", "Just", "a", "new", "profile", "manager", "has", "to", "be", "developed", "and", "plugged", "into", "our", "ORB", ".", "When", "a", "client", "binds", "to", "a", "fragmented", "object", ",", "a", "more", "complex", "task", "than", "simply", "loading", "a", "local", "stub", "is", "needed", ".", "In", "our", "system", ",", "the", "local", "fragment", "is", "internally", "composed", "of", "three", "components", ",", "as", "shown", "in", "Fig.", "3", ":", "the", "View", ",", "the", "Fragment", "Interface", "-LRB-", "FIfc", "-RRB-", ",", "and", "the", "Fragment", "Implementation", "-LRB-", "FImpl", "-RRB-", ".", "The", "fragment", "implementation", "is", "the", "actual", "code", "that", "provides", "the", "fragment", "behaviour", ".", "The", "fragment", "interface", "is", "the", "interface", "that", "the", "client", "uses", ".", "Due", "to", "type", "casts", ",", "a", "client", "may", "have", "more", "than", "one", "interface", "instance", "for", "the", "same", "fragmented", "object", ".", "Interfaces", "are", "instantiated", "in", "CORBA", "narrow", "operations", ";", "all", "existing", "interfaces", "delegate", "invocations", "to", "the", "same", "implementation", ".", "The", "View", "is", "responsible", "for", "all", "management", "tasks", ";", "it", "stores", "the", "object", "ID", "and", "IOR", ",", "keeps", "track", "of", "all", "existing", "interfaces", ",", "and", "manages", "dynamical", "reconfigurations", "that", "exchange", "the", "local", "FImpl", ".", "The", "management", "needs", "to", "update", "all", "Fragment", "Client", "Fragment", "Interface", "View", "Fragment", "Implementation", "Figure", "3", ":", "Internal", "structure", "of", "a", "fragment", "73", "6", "references", "from", "FIfcs", "to", "the", "FImpl", "and", "has", "to", "coordinate", "method", "invocations", "at", "the", "object", "that", "run", "concurrently", "to", "reconfigurations", ".", "To", "integrate", "such", "a", "model", "into", "a", "profile-manager-aware", "CORBA", "system", ",", "it", "is", "necessary", "to", "create", "IORs", "with", "a", "special", "profile", "for", "fragmented", "objects", "-LRB-", "APX", "profile", "-RRB-", ",", "and", "to", "instantiate", "the", "local", "fragment", "-LRB-", "View-FImpl-FIfc", "-RRB-", "when", "a", "client", "implicitly", "or", "explicitly", "binds", "to", "such", "an", "IOR", ".", "The", "IOR", "creation", "is", "highly", "application", "specific", ",", "thus", "it", "is", "not", "fully", "automatic", "as", "in", "traditional", "CORBA", ".", "Instead", ",", "the", "developer", "of", "the", "fragmented", "object", "may", "explicitly", "define", ",", "which", "information", "needs", "to", "be", "present", "in", "the", "object", ".", "The", "reference", "manager", "creates", "an", "empty", "IOR", "for", "a", "specified", "IDL", "type", ",", "and", "subsequently", "the", "APX", "profile", "manager", "can", "be", "used", "to", "add", "a", "APX", "profile", "to", "this", "IOR", ".", "This", "profile", "usually", "consists", "of", "information", "about", "the", "initial", "FImpl", "type", "that", "a", "client", "needs", "to", "load", "and", "contact", "information", "on", "how", "to", "communicate", "with", "other", "fragments", "of", "the", "fragmented", "object", ".", "The", "initial", "FImpl", "type", "may", "be", "specified", "as", "a", "simple", "Java", "class", "name", "in", "a", "Java-only", "environment", ",", "or", "as", "a", "DLS", "name", "-LRB-", "dynamic", "loading", "service", ",", "-LSB-", "3", "-RSB-", "-RRB-", "in", "a", "heterogeneous", "environment", ",", "to", "dynamically", "load", "the", "object-specific", "local", "fragment", "implementation", ".", "The", "contact", "information", "may", ",", "e.g.", ",", "indicate", "a", "unique", "ID", ",", "which", "is", "used", "to", "retrieve", "contact", "addresses", "from", "a", "location", "service", "-RRB-", "or", "a", "multicast", "address", "for", "a", "fragmented", "object", "that", "uses", "network", "multicast", "for", "internal", "communication", ".", "When", "an", "ORB", "binds", "to", "an", "IOR", "with", "an", "APX", "profile", ",", "the", "corresponding", "profile", "manager", "first", "checks", ",", "if", "a", "fragment", "of", "the", "specific", "object", "already", "exists", ";", "if", "so", ",", "a", "reference", "to", "the", "existing", "local", "fragment", "is", "returned", ".", "Otherwise", ",", "a", "new", "default", "view", "is", "created", "and", "connected", "to", "a", "newly", "instantiated", "FImpl", ".", "Profile", "information", "specifies", "how", "this", "FImpl", "is", "loaded", "-LRB-", "direct", "Java", "class", "name", "for", "Java-only", "environments", ",", "a", "code", "factory", "reference", ",", "or", "a", "unique", "ID", "for", "lookup", "to", "the", "global", "dynamic", "loading", "service", "-LRB-", "DLS", "-RRB-", "-RRB-", ".", "Finally", ",", "a", "default", "interface", "is", "built", "and", "returned", "to", "the", "client", "application", ".", "4.2", "Jini", "Profile", "Manager", "Jini", "is", "a", "Java-based", "open", "software", "architecture", "for", "network-centric", "solutions", "that", "are", "highly", "adaptive", "to", "change", "-LSB-", "9", "-RSB-", ".", "It", "extends", "the", "Java", "programming", "model", "with", "support", "for", "code", "mobility", "in", "the", "networks", ";", "leasing", "techniques", "enables", "self-healing", "and", "self-configuration", "of", "the", "network", ".", "The", "Jini", "architecture", "defines", "a", "way", "for", "clients", "and", "servers", "to", "find", "each", "other", "on", "the", "network", ".", "Service", "providers", "supply", "clients", "with", "portable", "Java", "objects", "that", "implement", "the", "remote", "access", "to", "the", "service", ".", "This", "interaction", "can", "use", "any", "kind", "of", "technology", "such", "as", "Java", "RMI", ",", "SOAP", ",", "or", "CORBA", ".", "The", "goal", "of", "this", "CORBA", "extension", "is", "to", "seamlessly", "integrate", "Jini", "services", "into", "CORBA", ".", "Jini", "services", "should", "be", "accessible", "to", "CORBA", "clients", "like", "any", "other", "CORBA", "object", ".", "Jini", "services", "offer", "a", "Java", "interface", ".", "This", "interface", "can", "be", "converted", "into", "an", "IDL", "interface", "using", "the", "Java-to-IDL", "mapping", "from", "the", "OMG", "-LSB-", "6", "-RSB-", ".", "Our", "CORBA", "extension", "provides", "CORBA-compatible", "representatives", ",", "special", "proxy", "objects", "that", "appear", "as", "CORBA", "object", "references", ",", "but", "forward", "invocations", "to", "a", "Jini", "service", ".", "Such", "references", "to", "Jini", "services", "can", "be", "registered", "in", "a", "CORBA", "naming", "service", "and", "can", "be", "passed", "as", "parameters", "to", "any", "other", "CORBA", "object", ".", "CORBA", "clients", "do", "not", "have", "to", "know", "that", "those", "references", "refer", "to", "Jini", "services", ".", "The", "reference", "to", "a", "Jini", "service", "is", "represented", "as", "a", "CORBA", "IOR", ".", "The", "Jini", "profile", "manager", "offers", "operations", "to", "create", "a", "special", "Jini", "profile", "that", "refers", "to", "a", "Jini", "service", ".", "It", "provides", "operations", "to", "marshal", "references", "to", "such", "services", "by", "retrieving", "the", "original", "IOR", "from", "the", "spe-cialised", "proxy", ",", "to", "unmarshal", "IORs", "to", "a", "newly", "created", "proxy", ",", "and", "to", "type", "cast", "a", "proxy", "to", "another", "IDL", "type", ".", "The", "Jini", "profile", "stores", "a", "Jini", "service", "ID", ",", "and", "optionally", "a", "group", "name", "and", "the", "network", "address", "of", "a", "Jini", "lookup", "service", ".", "The", "profile", "manager", "uses", "automatic", "multicast-based", "discovery", "to", "find", "a", "set", "of", "lookup", "services", "where", "Jini", "services", "usually", "have", "to", "register", "their", "proxy", "objects", ".", "Those", "lookup", "services", "are", "asked", "for", "the", "proxy", "of", "the", "service", "identified", "by", "the", "unique", "service", "ID", ".", "If", "an", "address", "of", "a", "lookup", "service", "is", "given", "in", "the", "profile", ",", "the", "profile", "manager", "will", "only", "ask", "this", "service", "for", "a", "proxy", ".", "The", "retrieved", "proxy", "is", "encapsulated", "in", "a", "wrapper", "object", "that", "on", "the", "outside", "looks", "like", "a", "CORBA", "object", "reference", ".", "Inside", ",", "it", "maps", "parameters", "from", "their", "IDL", "types", "to", "the", "corresponding", "Java", "types", "and", "forwards", "the", "invocation", "to", "the", "original", "Jini", "proxy", ".", "Jini", "services", "may", "provide", "a", "lease", "for", "service", "usage", ".", "In", "the", "IOR", ",", "a", "method", "can", "be", "named", "that", "is", "supposed", "to", "retrieve", "a", "lease", "for", "the", "service", ".", "This", "lease", "will", "be", "locally", "managed", "by", "the", "profile", "manager", "and", "automatically", "extended", "if", "it", "is", "due", "to", "expire", ".", "This", "extension", "shows", "that", "it", "is", "possible", "to", "encapsulate", "access", "to", "other", "middleware", "platforms", "inside", "of", "profile", "managers", ".", "In", "case", "of", "the", "Jini", "profile", "manager", "our", "implementation", "is", "rather", "simple", ".", "So", ",", "return", "parameters", "referring", "to", "other", "Jini", "services", "are", "not", "-LRB-", "yet", "-RRB-", "converted", "to", "CORBA", "object", "references", ".", "We", "also", "did", "not", "yet", "implement", "Jini", "IOR", "profiles", "that", "encapsulate", "abstract", "queries", ":", "In", "this", "case", "not", "a", "specific", "service", "ID", "is", "stored", "in", "the", "profile", ",", "but", "query", "parameters", "for", "the", "lookup", "at", "the", "lookup", "services", ".", "This", "way", ",", "it", "will", "be", "possible", "to", "create", "IORs", "with", "abstract", "meaning", ",", "e.g.", ",", "encapsulating", "a", "reference", "to", "the", "nearest", "colour", "printer", "service", "-LRB-", "assumed", "that", "such", "services", "are", "registered", "as", "Jini", "services", "at", "a", "lookup", "service", "-RRB-", ".", "Two", "aspects", "need", "to", "be", "discussed", "to", "evaluate", "our", "design", ":", "First", ",", "the", "effort", "that", "is", "needed", "to", "integrate", "our", "concept", "into", "an", "existing", "ORB", ";", "second", ",", "the", "run-time", "overhead", "that", "this", "approach", "introduces", ".", "As", "we", "used", "JacORB", "as", "basis", "for", "our", "implementation", ",", "we", "compare", "our", "implementation", "with", "the", "standard", "JacORB", "middleware", ".", "5.1", "Implementation", "Cost", "The", "integration", "of", "a", "generic", "reference", "manager", "into", "JacORB", "version", "2.2", "affected", "two", "classes", ":", "org.jacorb.orb.ORB", "and", "org.jacorb.orb.CDROutputStream", ".", "In", "ORB", ",", "the", "methods", "object_to_string", ",", "string_to_object", ",", "and", "_", "getObject", "-LRB-", "which", "is", "used", "for", "demarshalling", "-RRB-", "need", "to", "be", "replaced", ".", "In", "addition", ",", "the", "reference", "manager", "is", "automatically", "loaded", "at", "ORB", "initialisation", "and", "made", "available", "as", "initial", "reference", ".", "In", "CDROutputStream", ",", "the", "method", "write_Object", "needs", "to", "be", "re-implemented", "to", "access", "the", "reference", "manager", ".", "These", "changes", "amount", "to", "less", "than", "100", "lines", "of", "code", "-LRB-", "LOC", "-RRB-", ".", "The", "generic", "reference", "manager", "consists", "of", "about", "500", "LOC", ";", "the", "IIOP", "profile", "manager", "contains", "150", "LOC", "in", "addition", "to", "the", "IIOP", "implementation", "reused", "from", "JacORB", ".", "These", "figures", "show", "that", "our", "design", "easily", "integrates", "into", "an", "existing", "CORBA", "ORB", ".", "Moreover", ",", "the", "generic", "reference", "manager", "and", "profile", "managers", "may", "be", "implemented", "fully", "independent", "of", "ORB", "internals", ",", "making", "them", "portable", "across", "ORBs", "of", "different", "vendors-with", "the", "obvious", "restrictions", "to", "the", "same", "implementation", "programming", "language", ".", "5.2", "Run-time", "Measurements", "of", "our", "Implementation", "We", "performed", "two", "experiments", "to", "evaluate", "the", "run-time", "cost", "of", "our", "approach", ";", "all", "tests", "were", "done", "on", "Intel", "PC", "2.66", "GHz", "with", "Linux", "2.4.27", "operating", "system", "and", "Java", "1.5.0", ",", "connected", "with", "a", "100", "MBit", "/", "s", "LAN", ".", "In", "all", "cases", ",", "the", "generic", "reference", "manager", "in", "our", "ORB", "was", "connected", "with", "three", "profile", "managers", "-LRB-", "IIOP", ",", "APX", ",", "Jini", "-RRB-", "The", "first", "experiment", "examines", "the", "binding", "cost", ".", "For", "this", "purpose", ",", "a", "stringified", "IOR", "of", "a", "simple", "CORBA", "servant", "with", "one", "IIOP", "profile", "is", "generated", ".", "Then", ",", "this", "reference", "is", "repeatedly", "passed", "to", "the", "ORB", "74", "7", "method", "string_to_object", ",", "which", "parses", "the", "IOR", "and", "loads", "a", "local", "client", "stub", ".", "Table", "1", "shows", "the", "average", "time", "per", "invocation", "of", "100,000", "iterations", ".", "The", "second", "test", "analyses", "the", "marshalling", "cost", "of", "remote", "references", ".", "An", "empty", "remote", "method", "with", "one", "reference", "parameter", "is", "invoked", "100,000", "times", ".", "These", "operation", "involve", "first", "a", "serialisation", "of", "the", "reference", "at", "client-side", "and", "afterwards", "a", "deserialisation", "and", "binding", "at", "the", "servant", "side", ";", "all", "operations", "are", "delegated", "to", "the", "reference", "manager", "in", "our", "ORB", ".", "Table", "2", "shows", "the", "results", "of", "this", "test", ".", "Both", "experiments", "show", ",", "that", "the", "increase", "in", "flexibility", "and", "extensibility", "is", "paid", "for", "with", "a", "slight", "decrease", "in", "performance", ".", "It", "is", "to", "be", "noted", "that", "our", "reference", "implementation", "has", "not", "yet", "been", "optimised", "for", "performance", ",", "so", "further", "improvement", "might", "be", "possible", ".", "We", "have", "presented", "a", "novel", ",", "CORBA-compliant", "middleware", "architecture", "that", "is", "more", "flexible", "and", "extensible", "than", "standard", "CORBA", ".", "It", "defines", "a", "portable", "reference", "manager", "that", "uses", "dynamically", "load-able", "profile", "managers", "for", "different", "protocol", "profiles", ".", "The", "concept", "is", "more", "flexible", "than", "traditional", "approaches", ".", "Unlike", "smart", "proxies", ",", "it", "does", "not", "only", "modify", "the", "client-side", "behaviour", ",", "but", "allows", "to", "modify", "the", "complete", "system", "structure", ".", "In", "contrast", "to", "vendor", "-", "specific", "transport", "protocols", ",", "it", "provides", "a", "general", "extension", "to", "CORBA", "that", "allows", "to", "implement", "portable", "profile", "managers", ",", "which", "in", "the", "extreme", "may", "even", "be", "dynamically", "loaded", "as", "plug-in", "at", "run-time", ".", "Different", "from", "CORBA", "portable", "interceptors", ",", "it", "gives", "the", "service", "developer", "full", "control", "over", "the", "IOR", "creation", "process", ",", "has", "less", "overhead", "than", "interceptors", ",", "and", "allows", "arbitrary", "modification", "of", "client", "requests", ".", "The", "concept", "itself", "is", "not", "limit", "to", "CORBA", ".", "In", "fact", ",", "it", "defines", "a", "generic", "design", "pattern", "for", "any", "existing", "and", "future", "middleware", "platforms", ".", "Extracting", "all", "tasks", "related", "to", "the", "handling", "of", "remote", "references", "into", "an", "extensible", "module", "allows", "to", "create", "middleware", "platforms", "that", "are", "easily", "extended", "to", "meet", "even", "unanticipated", "future", "requirements", ".", "Modern", "developments", "like", "ubiquitous", "computing", ",", "increased", "scalability", "and", "reliability", "demands", "and", "so", "on", "make", "it", "likely", "that", "such", "extensions", "will", "be", "demanded", ".", "Our", "design", "principle", "allows", "to", "implement", "future", "systems", "with", "best", "efficiency", "and", "least", "implementation", "effort", ".", "We", "have", "presented", "in", "some", "detail", "two", "applications", "of", "our", "architecture", ".", "Besides", "traditional", "IIOP", "for", "compliance", "with", "CORBA", ",", "we", "have", "implemented", "a", "profile", "manager", "for", "fragmented", "objects", "and", "one", "for", "accessing", "Jini", "services", "transparently", "as", "CORBA", "objects", ".", "Currently", ",", "we", "are", "working", "on", "profile", "managers", "to", "handle", "fault-tolerant", "CORBA", "and", "a", "bridge", "to", "Java", "RMI", ".", "-LSB-", "1", "-RSB-", "G.", "Coulson", ",", "G.", "Blar", ",", "M.", "Clarke", ",", "N.", "Parlavantzas", ":", "The", "design", "of", "a", "configurable", "and", "reconfigurable", "middleware", "platform", ".", "Distributed", "Computing", "15", "-LRB-", "2", "-RRB-", ":", "2002", ",", "pp", "109-126", "-LSB-", "2", "-RSB-", "E.", "Gamma", ",", "R.", "Helm", ",", "R.", "Johnson", ",", "J.", "Vlissides", ":", "Design", "patterns", ".", "Elements", "of", "reusable", "object-oriented", "software", ".", "Addison-Wesley", ",", "1995", ".", "-LSB-", "3", "-RSB-", "R.", "Kapitza", ",", "F.", "Hauck", ":", "DLS", ":", "a", "CORBA", "service", "for", "dynamic", "loading", "of", "code", ".", "Proc", ".", "of", "the", "OTM", "'03", "Conferences", ";", "Springer", ",", "LNCS", "2888", ",", "2003", "-LSB-", "4", "-RSB-", "M.", "Makpangou", ",", "Y.", "Gourhand", ",", "K.-P", ".", "Le", "Narzul", ",", "M.", "Shapiro", ":", "Fragmented", "objects", "for", "distributed", "abstractions", ".", "Readings", "in", "Distr", ".", "Computing", "Systems", ",", "IEEE", "Comp", ".", "Society", "Press", ",", "1994", ",", "pp.", "170-186", "-LSB-", "5", "-RSB-", "Object", "Management", "Group", ":", "Common", "object", "request", "broker", "architecture", ":", "core", "specification", ",", "version", "3.0.3", ";", "OMG", "specification", "formal/04", "-03-12", ",", "2004", "-LSB-", "6", "-RSB-", "Object", "Management", "Group", ":", "Java", "language", "mapping", "to", "OMG", "IDL", ",", "version", "1.3", ";", "OMG", "specification", "formal/2003", "-09-04", ",", "2003", "-LSB-", "7", "-RSB-", "H.", "Reiser", ",", "F.", "Hauck", ",", "R.", "Kapitza", ",", "A.", "Schmied", ":", "Integrating", "fragmented", "objects", "into", "a", "CORBA", "environment", ".", "Proc", ".", "of", "the", "Net.ObjectDays", ",", "2003", "-LSB-", "8", "-RSB-", "H.", "Reiser", ",", "M.", "Steckermeier", ",", "F.", "Hauck", ":", "IDLflex", ":", "A", "flexible", "and", "generic", "compiler", "for", "CORBA", "IDL", ".", "Proc", ".", "of", "the", "Net.Object", "Days", ",", "Erfurt", ",", "2001", ",", "pp", "151-160", "-LSB-", "9", "-RSB-", "Sun", "microsystems", ":", "Jini", "technology", "architectural", "overview", ".", "White", "paper", ",", "Jan", "1999", "-LSB-", "10", "-RSB-", "T.", "Vergnaud", ",", "J.", "Hugues", ",", "L.", "Pautet", ",", "F.", "Kordon", ":", "PolyORB", ":", "a", "schizophrenic", "middleware", "to", "build", "versatile", "reliable", "distributed", "applications", ".", "Proc", ".", "of", "the", "9th", "Int", ".", "Conf", ".", "on", "Reliable", "Software", "Technologies", "Ada-Europe", "2004", "-LRB-", "RST", "'", "04", "-RRB-", ",", ";", "Springer", ",", "LNCS", "3063", ",", "2004", ",", "pp", "106-119", "-LSB-", "11", "-RSB-", "N.", "Wang", ",", "K.", "Parameswaran", ",", "D.", "Schmidt", ":", "The", "design", "and", "performance", "of", "meta-programming", "mechanisms", "for", "object", "request", "broker", "middleware", ".", "Proc", ".", "of", "the", "6th", "USENIX", "Conference", "on", "Object-Oriented", "Techology", "and", "Systems", "-LRB-", "COOTS", "'", "01", "-RRB-", ",", "2001", "Table", "1", ":", "Execution", "time", "of", "ORB", ":", ":", "string_to_object", "invocations", "Standard", "JacORB", "2.2.1", "0.22", "ms", "AspectIX", "ORB", "with", "reference", "manager", "0.28", "ms", "Overhead", "0.06", "ms", "-LRB-", "27", "%", "-RRB-", "Table", "2", ":", "Complete", "remote", "invocation", "time", "with", "one", "reference", "parameter", "Standard", "JacORB", "2.2.1", "0.64", "ms", "AspectIX", "ORB", "with", "reference", "manager", "0.72", "ms", "Overhead", "0.08", "ms", "-LRB-", "12.5", "%", "-RRB-", "75"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["flexibility", "remote object", "profile manager", "middleware", "corba", "distributed objects", "implementation", "object references", "ior", "ubiquitous computing", "interoperability", "reference manager", "extensions", "iiop", "extensibility", "integration"], "abstractive_keyphrases": ["software architecture for middleware", "object oriented", "middleware architecture", "distiributed applications", "middleware interoperability", "extensible and reconfigurable middleware", "flexible and extensible object middleware", "fault tolerant corba", "encapsulation", "middleware systems", "middleware platform"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "82", "document": ["Enforcing", "Security", "and", "Safety", "Models", "with", "an", "Information", "Flow", "Analysis", "Tool", "Existing", "security", "models", "require", "that", "information", "of", "a", "given", "security", "level", "be", "prevented", "from", "``", "leaking", "''", "into", "lower-security", "information", ".", "High-security", "applications", "must", "be", "demonstrably", "free", "of", "such", "leaks", ",", "but", "such", "demonstration", "may", "require", "substantial", "manual", "analysis", ".", "Other", "authors", "have", "argued", "that", "the", "natural", "way", "to", "enforce", "these", "models", "automatically", "is", "with", "information-flow", "analysis", ",", "but", "have", "not", "shown", "this", "to", "be", "practicable", "for", "general", "purpose", "programming", "languages", "in", "current", "use", ".", "Modern", "safety-critical", "systems", "can", "contain", "software", "components", "with", "differing", "safety", "integrity", "levels", ",", "potentially", "operating", "in", "the", "same", "address", "space", ".", "This", "case", "poses", "problems", "similar", "to", "systems", "with", "differing", "security", "levels", ";", "failure", "to", "show", "separation", "of", "data", "may", "require", "the", "entire", "system", "to", "be", "validated", "at", "the", "higher", "integrity", "level", ".", "In", "this", "paper", "we", "show", "how", "the", "information", "flow", "model", "enforced", "by", "the", "SPARK", "Examiner", "provides", "support", "for", "enforcing", "these", "security", "and", "safety", "models", ".", "We", "describe", "an", "extension", "to", "the", "SPARK", "variable", "annotations", "which", "allows", "the", "specification", "of", "a", "security", "or", "safety", "level", "for", "each", "state", "variable", ",", "and", "an", "extension", "to", "the", "SPARK", "analysis", "which", "automatically", "enforces", "a", "given", "information", "flow", "policy", "on", "a", "SPARK", "program", ".", "D2", ".4", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Software/Program", "verification", ";", "F3", ".1", "-LSB-", "Logics", "and", "Meanings", "of", "Programs", "-RSB-", ":", "Specifying", "and", "verifying", "and", "reasoning", "about", "programs", "Design", ",", "Measurement", ",", "Security", ",", "Verification", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGAda", "'", "04", ",", "November", "14", "18", ",", "2004", ",", "Atlanta", ",", "Georgia", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-906-3", "/", "04/0011", "...", "$", "5.00", ".", "Software", "is", "often", "used", "to", "develop", "security-critical", "applications", ".", "Some", "of", "these", "applications", "are", "required", "to", "manage", "information", "of", "different", "classification", "levels", ",", "ensuring", "that", "each", "user", "may", "only", "access", "the", "data", "for", "which", "he", "or", "she", "has", "adequate", "authorisation", ".", "This", "requirement", "has", "two", "components", ";", "the", "developer", "must", "produce", "a", "design", "and", "implementation", "which", "supports", "this", "model", "and", "its", "constraints", ",", "and", "the", "implementation", "must", "support", "verification", "that", "the", "constraints", "are", "never", "violated", ".", "It", "is", "not", "enough", "for", "the", "implementation", "to", "be", "correct", ";", "for", "it", "to", "be", "secure", ",", "it", "must", "be", "seen", "to", "be", "correct", ".", "In", "this", "paper", "we", "examine", "the", "problem", "of", "developing", "and", "verifying", "a", "security-critical", "application", "containing", "this", "security", "structure", "-LRB-", "often", "termed", "multi-level", "security", "-RRB-", ".", "We", "will", "analyse", "recent", "work", "on", "information", "flow", "and", "security", "and", "show", "how", "the", "information", "flow", "analysis", "of", "the", "SPARK", "Examiner", "tool", "is", "appropriate", "for", "solving", "this", "problem", ".", "We", "will", "show", "how", "it", "is", "also", "important", "for", "the", "efficient", "analysis", "of", "safety-critical", "systems", ".", "We", "will", "then", "describe", "modifications", "to", "the", "current", "definition", "of", "the", "SPARK", "Ada", "language", "-LSB-", "2", "-RSB-", "and", "the", "Examiner", "which", "permit", "complete", "validation", "of", "Ada", "programs", "against", "defined", "security", "models", "such", "as", "the", "Bell-LaPadula", "model", "-LSB-", "3", "-RSB-", ".", "We", "intend", "that", "the", "additional", "flow", "analysis", "features", "described", "here", "will", "appear", "in", "a", "future", "commercial", "Examiner", "release", ".", "Although", "we", "anticipate", "possible", "minor", "changes", "to", "the", "syntax", "and", "analysis", "performed", ",", "we", "expect", "the", "released", "version", "to", "implement", "the", "analysis", "described", "here", "in", "all", "substantial", "aspects", ".", "In", "this", "section", "we", "identify", "typical", "standards", "which", "will", "inform", "the", "development", "and", "verification", "of", "a", "security-critical", "or", "safety-critical", "application", ".", "We", "then", "analyse", "a", "survey", "paper", "on", "information", "flow", "and", "security", ",", "and", "compare", "its", "conclusions", "against", "the", "information", "flow", "model", "of", "the", "SPARK", "annotated", "subset", "of", "Ada95", ".", "2.1", "Standards", "The", "Common", "Criteria", "for", "IT", "Security", "-LSB-", "5", "-RSB-", "specify", "the", "development", "and", "verification", "activities", "that", "are", "suitable", "for", "applications", "at", "differing", "levels", "of", "security", ".", "These", "Evaluation", "Assurance", "Levels", "-LRB-", "EALs", "-RRB-", "range", "from", "EAL-1", "-LRB-", "lowest", "-RRB-", "to", "EAL-7", "-LRB-", "highest", "-RRB-", ".", "As", "the", "EAL", "number", "rises", ",", "the", "required", "activities", "become", "more", "rigorous", ";", "at", "the", "higher", "levels", ",", "formal", "specification", "and", "analysis", "of", "the", "software", "becomes", "required", ".", "39", "For", "safety-related", "applications", "there", "are", "similar", "concepts", "for", "the", "safety", "criticality", "of", "software", ";", "RTCA", "DO-178B", "-LSB-", "10", "-RSB-", "for", "civil", "avionics", "software", "defines", "criticality", "levels", "E", "-LRB-", "lowest", "-RRB-", "through", "to", "A", "-LRB-", "most", "critical", "-RRB-", ".", "As", "one", "would", "expect", ",", "the", "required", "development", "and", "verification", "activities", "become", "increasingly", "more", "onerous", "-LRB-", "and", "expensive", "-RRB-", "with", "increasing", "criticality", "level", ".", "As", "a", "result", ",", "if", "an", "avionics", "system", "were", "to", "contain", "a", "``", "core", "''", "of", "critical", "functionality", "at", "Level", "A", "and", "a", "larger", "body", "of", "utility", "code", "at", "Level", "D", "then", "either", "the", "entire", "system", "would", "have", "to", "be", "developed", "and", "verified", "at", "Level", "A", "or", "a", "rigorous", "argument", "would", "have", "to", "be", "applied", "that", "the", "Level", "D", "code", "could", "not", "in", "any", "way", "affect", "the", "integrity", "of", "the", "Level", "A", "code", ".", "Another", "notation", "for", "safety", "criticality", "is", "the", "Safety", "Integrity", "Level", "-LRB-", "SIL", "-RRB-", ",", "described", "in", "IEC", "61508", "-LSB-", "8", "-RSB-", ".", "SIL-1", "is", "the", "lowest", "level", "of", "safety", "integrity", ",", "and", "SIL-4", "the", "highest", ";", "DO-178B", "level", "A", "approximates", "to", "SIL-3", "/", "SIL-4", "when", "comparing", "the", "development", "and", "verification", "activities", "required", ".", "In", "this", "paper", "we", "assume", "that", "we", "are", "attempting", "to", "validate", "systems", "at", "EAL-5", "or", "greater", "-LRB-", "for", "security", "-RRB-", "and", "RTCA", "Level", "B", "or", "greater", "-LRB-", "for", "safety", "-RRB-", ".", "We", "are", "therefore", "required", "to", "provide", "a", "rigorous", "and", "comprehensive", "justification", "for", "any", "statements", "which", "we", "make", "about", "the", "separation", "of", "data", ".", "Therefore", "we", "now", "look", "at", "how", "such", "statements", "may", "be", "expressed", ".", "2.2", "Information", "Flow", "``", "Information", "flow", "''", "as", "it", "applies", "to", "conventional", "imperative", "computer", "programs", "has", "a", "range", "of", "definitions", ",", "and", "is", "often", "confused", "with", "``", "data", "flow", "''", ";", "we", "shall", "take", "the", "definition", "as", "expressed", "in", "Barnes", "-LSB-", "2", "-RSB-", "p.", "13", ":", "data", "flow", "analysis", "is", "concerned", "with", "the", "direction", "of", "data", "flow", ";", "whereas", "information", "flow", "analysis", "also", "considers", "the", "coupling", "between", "variables", ".", "An", "example", "of", "the", "difference", "between", "data", "flow", "and", "information", "flow", "comes", "from", "the", "following", "-LRB-", "Ada", "-RRB-", "code", ":", "while", "-LRB-", "X", "<", "4", "-RRB-", "loop", "A", ":", "=", "A", "+", "2", "*", "B", ";", "X", ":", "=", "X", "*", "2", ";", "end", "loop", ";", "Here", ",", "data", "flow", "analysis", "would", "state", "that", "data", "flows", "from", "X", "to", "X", "and", "from", "A", "and", "B", "to", "A.", "Information", "flow", "analysis", "would", "note", "additionally", "that", "the", "final", "value", "of", "A", "is", "affected", "by", "the", "initial", "value", "of", "X", ",", "and", "hence", "that", "there", "is", "information", "flow", "from", "X", "to", "A.", "Sabelfeld", "and", "Myers", "-LSB-", "11", "-RSB-", "recently", "surveyed", "the", "use", "of", "information", "flow", "analysis", "in", "software", ".", "They", "viewed", "the", "fundamental", "problem", "of", "maintaining", "security", "as", "one", "of", "tracking", "the", "flow", "of", "information", "in", "computing", "systems", ".", "They", "examined", "the", "various", "ways", "that", "secure", "information", "could", "leak", "into", "less", "secure", "information", ",", "overtly", "and", "covertly", ".", "They", "identify", "in", "particular", "the", "concept", "of", "implicit", "information", "flows", ",", "an", "example", "of", "which", "is", "given", "in", "the", "while-loop", "example", "above", ".", "Their", "survey", "characterised", "language-based", "information", "flow", "as", "requiring", ":", "1", ".", "semantics-based", "security", ",", "so", "that", "rigorous", "argument", "could", "be", "made", "about", "a", "variation", "of", "a", "high-security", "value", "not", "affecting", "a", "low-security", "value", ";", "and", "2", ".", "a", "security", "type", "system", ",", "so", "that", "a", "program", "or", "expression", "can", "be", "assigned", "security", "values", "-LRB-", "types", "-RRB-", "and", "the", "type", "changes", "of", "the", "program", "or", "expression", "can", "be", "characterised", ".", "They", "concluded", "that", "``", "standard", "''", "security", "practices", "do", "not", "and", "can", "not", "enforce", "the", "end-to-end", "confidentiality", "required", "by", "common", "security", "models", ".", "They", "characterised", "the", "existing", "work", "in", "security", "and", "information", "flow", "analysis", ",", "but", "notably", "did", "not", "address", "the", "work", "of", "Bergeretti", "and", "Carr", "e", "-LSB-", "4", "-RSB-", ".", "2.3", "Security", "models", "The", "Bell-LaPadula", "-LRB-", "BLP", "-RRB-", "model", "of", "computer", "security", "-LSB-", "3", "-RSB-", "enforces", "two", "properties", ":", "1", ".", "no", "process", "may", "read", "data", "from", "a", "higher", "security", "level", ";", "and", "2", ".", "no", "process", "may", "write", "data", "to", "a", "lower", "security", "level", ".", "Such", "multi-level", "security", "has", "a", "number", "of", "problems", ";", "Anderson", "-LSB-", "1", "-RSB-", "provides", "a", "list", "of", "them", "including", ":", "``", "blind", "write-up", "''", ":", "the", "inability", "to", "inform", "low-security", "data", "whether", "a", "write", "to", "high-security", "data", "has", "happened", "correctly", ";", "``", "downgrading", "''", ":", "moving", "information", "from", "a", "high", "security", "level", "to", "a", "lower", "level", "is", "sometimes", "desirable", ";", "and", "``", "TCB", "bloat", "''", ":", "a", "large", "subset", "of", "the", "operating", "system", "may", "end", "up", "in", "the", "Trusted", "Computing", "Base", "-LRB-", "TCB", "-RRB-", ".", "The", "Dolev-Yao", "security", "model", "-LSB-", "6", "-RSB-", "makes", "secret", "information", "indivisible", ";", "it", "can", "not", "be", "leaked", "in", "part", "but", "only", "in", "total", ".", "2.4", "Information", "Flow", "in", "Ada", "Bergeretti", "and", "Carr", "e", "wrote", "a", "seminal", "paper", "-LSB-", "4", "-RSB-", "describing", "a", "practical", "implementation", "of", "information", "flow", "analysis", "in", "the", "SPADE", "Pascal", "language", "-LRB-", "although", "the", "principles", "were", "applicable", "to", "most", "conventional", "imperative", "programming", "languages", "-RRB-", ".", "This", "was", "managed", "by", "the", "composition", "of", "matrices", "representing", "information", "flow", "dependencies", "between", "variable", "imports", "and", "exports", ".", "Notably", ",", "conditional", "and", "infinite", "loops", "were", "permissible", "and", "analysable", "within", "the", "framework", "of", "such", "a", "language", ";", "these", "were", "managed", "by", "computing", "the", "transitive", "closure", "of", "the", "information", "flow", "matrix", "corresponding", "to", "one", "execution", "of", "the", "loop", ".", "This", "information", "flow", "model", "was", "implemented", "in", "the", "SPARK", "annotated", "Ada", "subset", "-LSB-", "2", "-RSB-", ".", "The", "subset", "requires", "each", "subprogram", "to", "be", "annotated", "with", "the", "required", "information", "flow", "-LRB-", "``", "derives", "''", "annotations", "-RRB-", "if", "information", "flow", "analysis", "is", "required", ".", "The", "SPARK", "subset", "is", "enforced", "by", "the", "SPARK", "Examiner", "tool", "which", "checks", "the", "required", "information", "flow", "of", "each", "subprogram", "against", "the", "actual", "information", "flow", ".", "The", "annotations", "-LRB-", "and", "other", "SPARK", "rules", "such", "as", "the", "ban", "on", "circular", "dependency", "-RRB-", "are", "necessary", "to", "make", "this", "information", "flow", "analysis", "tractable", ".", "The", "result", "of", "this", "is", "that", "it", "is", "possible", ",", "in", "a", "fully-analysed", "SPARK", "program", ",", "to", "be", "certain", "that", "a", "given", "exported", "variable", "is", "independent", "of", "a", "given", "imported", "variable", ".", "This", "is", "a", "key", "step", "towards", "supporting", "multi-level", "security", "in", "SPARK", "Ada", ",", "and", "makes", "it", "easier", "to", "write", "demonstrably", "secure", "and", "correct", "code", ",", "but", "is", "not", "a", "complete", "solution", ".", "In", "Section", "3", "we", "will", "describe", "how", "SPARK", "Examiner", "analysis", "may", "be", "extended", "better", "to", "implement", "these", "checks", ".", "We", "now", "examine", "case", "studies", "of", "the", "use", "of", "SPARK", ",", "and", "the", "utility", "of", "information", "flow", "in", "real", "applications", ".", "40", "2.5", "Security", "and", "Safety", "Applications", "An", "example", "of", "a", "high-security", "application", "which", "was", "partly", "developed", "in", "SPARK", "is", "the", "MULTOS", "CA", "-LSB-", "7", "-RSB-", ".", "This", "was", "developed", "and", "verified", "at", "a", "high", "level", "of", "integrity", ",", "approximating", "to", "the", "Common", "Criteria", "EAL-5", ".", "The", "delivered", "system", "had", "a", "defect", "rate", "of", "0.04", "errors", "per", "thousand", "lines", "of", "code", "-LRB-", "KLOC", "-RRB-", ".", "This", "showed", "that", "SPARK", "was", "a", "practical", "language", "for", "implementing", "high-security", "applications", ".", "Part", "of", "the", "analysis", "required", "during", "development", "and", "verification", "of", "the", "CA", "was", "to", "show", "that", "secret", "data", "could", "not", "leak", "out", "directly", "or", "indirectly", "in", "unclassified", "outputs", ".", "An", "example", "of", "a", "safety-critical", "application", "with", "mixed", "integrity", "levels", "where", "information", "flow", "analysis", "was", "helpful", "was", "the", "SHOLIS", "information", "system", "described", "by", "King", "et", "al.", "-LSB-", "9", "-RSB-", ".", "This", "application", "mixed", "SIL-4", "and", "non-critical", "code", ",", "and", "was", "written", "in", "the", "SPARK", "subset", "of", "Ada83", ".", "Static", "verification", "was", "used", ",", "including", "information", "flow", "analysis", "and", "partial", "program", "proof", ",", "to", "verify", "significant", "properties", "of", "SHOLIS", ".", "There", "was", "a", "successful", "argument", "based", "partly", "on", "information", "flow", "analysis", "that", "the", "high-SIL", "code", "was", "not", "compromised", "by", "the", "low-SIL", "code", ";", "however", ",", "this", "argument", "had", "to", "be", "made", "manually", ",", "based", "on", "the", "validated", "information", "flow", "of", "each", "subprogram", ",", "as", "the", "Examiner", "did", "not", "provide", "such", "tracing", "facilities", "at", "the", "program", "level", ".", "The", "outstanding", "need", "in", "SPARK", "is", "to", "be", "able", "to", "mark", "state", "variables", "in", "packages", "with", "a", "-LRB-", "numerical", "-RRB-", "level", "of", "security", "and", "/", "or", "safety", ".", "This", "has", "been", "implemented", "by", "allowing", "an", "optional", "aggregate", "after", "a", "package", "-LRB-", "``", "own", "''", "-RRB-", "variable", "declaration", ".", "3.1", "Marking", "security", "levels", "Suppose", "that", "a", "package", "Classify", "was", "defined", "as", "follows", "to", "create", "various", "secrecy", "levels", ":", "package", "Classify", "is", "--", "Security", "levels", "UNCLASSIFIED", ":", "constant", ":", "=", "0", ";", "RESTRICTED", ":", "constant", ":", "=", "1", ";", "CONFIDENTIAL", ":", "constant", ":", "=", "2", ";", "SECRET", ":", "constant", ":", "=", "3", ";", "TOPSECRET", ":", "constant", ":", "=", "4", ";", "end", "Classify", ";", "Then", "we", "define", "a", "package", "KeyStore", "to", "store", "and", "manage", "a", "symmetric", "encryption", "key", "SymmetricKey", ",", "designed", "to", "mutate", "after", "each", "encryption", "according", "to", "a", "rotation", "parameter", "RotorValue", ".", "The", "key", "is", "clearly", "a", "high-security", "data", "item", ",", "with", "the", "rotor", "value", "requiring", "less", "security", ".", "KeyStore", "marks", "its", "state", "variables", "with", "the", "field", "Integrity", "1", "thus", ":", "--", "#", "inherit", "Classify", ";", "package", "KeyStore", "--", "#", "own", "SymmetricKey", "-LRB-", "Integrity", "=", ">", "Classify.SECRET", "-RRB-", ";", "--", "#", "RotorValue", "-LRB-", "Integrity", "=", ">", "Classify.RESTRICTED", "-RRB-", ";", "is", "procedure", "Rotate", ";", "--", "#", "global", "in", "RotorValue", ";", "--", "#", "in", "out", "SymmetricKey", ";", "1", "Integrity", "was", "chosen", "to", "make", "sense", "for", "both", "security", "and", "safety", "applications", "--", "#", "derives", "SymmetricKey", "from", "--", "#", "SymmetricKey", ",", "RotorValue", ";", "procedure", "Encrypt", "-LRB-", "C", ":", "in", "MessageBlock", ";", "E", ":", "out", "MessageBlock", "-RRB-", ";", "--", "#", "global", "in", "SymmetricKey", ";", "--", "#", "derives", "E", "from", "C", ",", "SymmetricKey", ";", "...", "end", "KeyStore", ";", "Any", "security", "analysis", "must", "show", ",", "in", "the", "case", "of", "this", "code", ",", "that", "SymmetricKey", "data", "can", "not", "leak", "into", "RotorValue", "or", "data", ";", "i.e.", "there", "must", "be", "no", "subprogram", "-LRB-", "or", "main", "program", "-RRB-", "whose", "information", "annotation", "shows", "SymmetricKey", "as", "an", "import", "to", "RotorValue", ".", "Note", "that", "in", "this", "case", "package", "Classify", "will", "need", "to", "be", "inherited", "by", "all", "relevant", "package", ",", "but", "will", "never", "be", "withed", "and", "so", "never", "compiled", ".", "3.2", "Implementation", "We", "now", "define", "how", "the", "integrity", "levels", "are", "marked", "in", "the", "SPARK", "language", ",", "and", "how", "they", "are", "enforced", "by", "the", "SPARK", "Examiner", ".", "The", "extra", "information", "flow", "checking", "is", "invoked", "using", "the", "/", "policy", "=", "X", "command", "line", "switch", "to", "the", "Examiner", ".", "Current", "valid", "policy", "values", "are", "security", "and", "safety", ".", "3.2.1", "Variable", "declaration", "The", "above", "Integrity", "property", "on", "package", "own", "variables", "is", "a", "static", "property", ";", "at", "any", "point", "in", "static", "analysis", "of", "the", "code", ",", "the", "actual", "and", "required", "integrity", "level", "of", "an", "own", "variable", "is", "known", ".", "Own", "variables", "without", "Integrity", "levels", "are", "taken", "to", "have", "a", "default", "integrity", "level", "of", "Natural", "`", "Last", "-LRB-", "i.e.", "very", "highly", "classified", "-RRB-", "if", "imported", "under", "a", "security", "policy", ",", "and", "Natural", "`", "First", "-LRB-", "i.e.", "unclassified", "-RRB-", "if", "exported", "under", "a", "security", "policy", ".", "This", "gives", "the", "most", "paranoid", "checking", "so", "that", "data", "may", "not", "leak", "from", "an", "input", "to", "an", "output", "through", "an", "intermediate", "variable", "with", "unspecified", "integrity", ".", "If", "the", "analysis", "policy", "is", "safety", "then", "the", "default", "integrity", "values", "for", "unspecified", "own", "variables", "are", "reversed", ".", "3.2.2", "Integrity", "checks", "Information", "flow", "is", "declared", "explicitly", "in", "derives", "annotations", "for", "subprograms", ";", "an", "example", "from", "our", "cryptographic", "KeyStore", "is", "the", "Rotate", "subprogram", "which", "changes", "the", "key", "based", "on", "the", "value", "of", "RotorValue", ":", "procedure", "Rotate", ";", "--", "#", "global", "in", "RotorValue", ";", "--", "#", "in", "out", "SymmetricKey", ";", "--", "#", "derives", "SymmetricKey", "from", "--", "#", "SymmetricKey", ",", "RotorValue", ";", "Using", "policy", "security", "the", "Examiner", "will", "then", "check", "that", "the", "integrity", "level", "of", "the", "export", "SymmetricKey", "-LRB-", "SECRET", "-RRB-", "is", "no", "less", "than", "the", "integrity", "levels", "of", "any", "import", "-LRB-", "SECRET", "and", "RESTRICTED", "-RRB-", ".", "With", "policy", "safety", "the", "checks", "would", "be", "that", "the", "integrity", "of", "the", "export", "is", "no", "more", "than", "the", "integrity", "levels", "of", "any", "import", ",", "i.e.", "that", "high-safety", "data", "exports", "can", "not", "be", "contaminated", "by", "low-safety", "data", "imports", ".", "Information", "flow", "is", "also", "checked", "at", "each", "procedure", "call", "by", "substituting", "in", "actual", "parameters", "-LRB-", "which", "may", "be", "own", "variables", "-RRB-", "for", "formal", "parameters", "and", "rechecking", "the", "procedure", "'s", "known", "information", "flow", "for", "integrity", "flows", ".", "As", "examples", "we", "41", "give", "the", "procedures", "which", "get", "and", "set", "the", "rotor", "and", "key", "values", ":", "procedure", "GetKey", "-LRB-", "This_Key", ":", "out", "Key", "-RRB-", ";", "--", "#", "global", "in", "SymmetricKey", ";", "--", "#", "derives", "This_Key", "from", "SymmetricKey", ";", "procedure", "GetRotor", "-LRB-", "This_Rotor", ":", "out", "Rotor", "-RRB-", ";", "--", "#", "global", "in", "RotorValue", ";", "--", "#", "derives", "This_Rotor", "from", "RotorValue", ";", "procedure", "SetKey", "-LRB-", "New_Key", ":", "in", "Key", "-RRB-", ";", "--", "#", "global", "out", "SymmetricKey", ";", "--", "#", "derives", "SymmetricKey", "from", "New_Key", ";", "procedure", "SetRotor", "-LRB-", "New_Rotor", ":", "in", "Rotor", "-RRB-", ";", "--", "#", "global", "out", "RotorValue", ";", "--", "#", "derives", "RotorValue", "from", "New_Rotor", ";", "Because", "RotorValue", "is", "RESTRICTED", "and", "SymmetricKey", "is", "SECRET", ",", "the", "analysis", "requires", "a", "check", "at", "each", "invocation", "of", "these", "subprograms", "that", "the", "actual", "parameters", "mapped", "to", "formal", "parameters", "do", "not", "violate", "integrity", "flow", "checks", ".", "3.2.3", "Analysis", "techniques", "not", "adopted", "One", "analysis", "technique", "which", "we", "considered", "-LRB-", "but", "rejected", "-RRB-", "was", "to", "track", "the", "integrity", "flows", "within", "each", "subprogram", "body", "and", "raise", "warnings", "at", "each", "individual", "statement", "where", "a", "violation", "occurs", ".", "We", "now", "explain", "how", "this", "would", "have", "worked", "and", "why", "we", "rejected", "it", ".", "In", "the", "following", "code", ",", "the", "programmer", "generates", "a", "key", "and", "rotor", ",", "encrypts", "a", "message", "with", "it", ",", "then", "tries", "to", "create", "a", "new", "rotor", "based", "on", "the", "old", "key", ".", "--", "Key", "and", "rotor", "generation", "R1", ":", "=", "KeyStore.MakeRotor", "-LRB-", "34,56,22,55", "-RRB-", ";", "KeyStore.SetRotor", "-LRB-", "R1", "-RRB-", ";", "K1", ":", "=", "KeyStore.MakeKey", "-LRB-", "66,11,2,4", "-RRB-", ";", "KeyStore.SetKey", "-LRB-", "K1", "-RRB-", ";", "--", "Encrypt", "a", "message", "KeyStore.Encrypt", "-LRB-", "C", "=", ">", "Clear", ",", "E", "=", ">", "Encrypted", "-RRB-", ";", "--", "Get", "a", "copy", "of", "the", "-LRB-", "changed", "-RRB-", "key", "and", "break", "-", "it", "down", "into", "data", "KeyStore.GetKey", "-LRB-", "K1", "-RRB-", ";", "KeyStore.DecomposeKey", "-LRB-", "K1", ",", "I1", ",", "I2", ",", "I3", ",", "I4", "-RRB-", ";", "--", "Build", "a", "new", "rotor", "R1", ":", "=", "KeyStore.MakeRotor", "-LRB-", "I1", ",", "I2", ",", "I3", ",", "I4", "-RRB-", ";", "KeyStore.SetRotor", "-LRB-", "R1", "-RRB-", ";", "The", "statement-by-statement", "information", "flow", "would", "proceed", "as", "shown", "in", "Table", "1", ",", "where", "C", "denotes", "Clear", ",", "RV", "denotes", "RotorValue", ",", "SK", "denotes", "SymmetricKey", ",", "and", "E", "denotes", "Encrypted", ".", "The", "final", "step", "causes", "RotorValue", "to", "exceed", "its", "assigned", "integrity", "level", ",", "and", "would", "generate", "a", "static", "integrity", "flow", "error", ".", "The", "problem", "with", "this", "technique", "arises", "from", "the", "need", "to", "track", "the", "integrity", "levels", "of", "local", "variables", ".", "It", "quickly", "becomes", "clear", "that", "for", "practical", "analysis", "reasons", "each", "local", "variable", "involved", "needs", "to", "be", "assigned", "an", "integrity", "level", ".", "This", "is", "possible", ",", "and", "is", "done", "by", "declaring", "them", "as", "own", "variables", "with", "integrity", "levels", "in", "a", "package", "embedded", "in", "the", "subprogram", "in", "question", ",", "but", "is", "cumbersome", ".", "It", "also", "requires", "substantial", "rework", "of", "any", "existing", "code", "which", "we", "may", "want", "to", "retro-analyse", ".", "R1", "K1", "SK", "RV", "I1", "C", "E", "Instruction", "0", "0", "1", "0", "0", "1", "R1", ":", "=", "0", "0", "1", "1", "SetRotor", "0", "0", "1", "1", "K1", ":", "=", "0", "0", "3", "1", "1", "SetKey", "0", "0", "3", "1", "1", "3", "Encrypt", "0", "3", "3", "1", "1", "3", "GetKey", "0", "3", "3", "1", "3", "1", "3", "Decompose", "3", "3", "3", "1", "3", "1", "3", "R1", ":", "=", "3", "3", "3", "3", "3", "1", "3", "SetRotor", "Table", "1", ":", "Information", "flow", "for", "example", "3.2.4", "Example", "of", "checking", "We", "placed", "the", "code", "described", "above", "into", "procedure", "Operate", "in", "a", "package", "Crypto", "and", "annotated", "the", "declaration", "with", "the", "correct", "derives", "annotation", "thus", ":", "--", "#", "inherit", "KeyStore", ",", "Classify", ",", "BitString", ";", "package", "Crypto", "--", "#", "own", "Clear", ",", "--", "#", "Encrypted", "-LRB-", "Integrity", "=", ">", "Classify.SECRET", "-RRB-", ";", "is", "procedure", "Operate", ";", "--", "#", "global", "out", "KeyStore.RotorValue", ",", "Encrypted", ";", "--", "#", "in", "out", "KeyStore.SymmetricKey", ";", "--", "#", "in", "Clear", ";", "--", "#", "derives", "--", "#", "KeyStore.SymmetricKey", ",", "--", "#", "KeyStore.RotorValue", "--", "#", "from", "--", "#", "KeyStore.SymmetricKey", "--", "#", "&", "--", "#", "Encrypted", "--", "#", "from", "--", "#", "Clear", ",", "--", "#", "KeyStore.SymmetricKey", "--", "#", ";", "end", "Crypto", ";", "Analysis", "using", "/", "policy", "=", "security", "gives", "the", "following", "static", "semantic", "error", ":", "Unit", "name", ":", "Crypto", "Unit", "type", ":", "package", "specification", "Unit", "has", "been", "analysed", ",", "any", "errors", "are", "listed", "below", "1", "error", "-LRB-", "s", "-RRB-", "or", "warning", "-LRB-", "s", "-RRB-", "Line", "30", "--", "#", "KeyStore.SymmetricKey", "^", "1", "***", "-LRB-", "1", "-RRB-", "Semantic", "Error", ":", "175", ":", "Information", "flow", "from", "KeyStore.SymmetricKey", "to", "KeyStore.RotorValue", "violates", "the", "selected", "information", "flow", "policy", ".", ".", "which", "correctly", "identifies", "the", "potential", "leak", ".", "3.3", "Case", "study", "SHOLIS", "is", "the", "Royal", "Navy", "'s", "Ship", "Helicopter", "Operating", "Limits", "Information", "System", "-LSB-", "9", "-RSB-", "designed", "to", "assist", "landing", "of", "42", "helicopters", "on", "Royal", "Navy", "Type", "23", "frigates", ".", "Failure", "of", "this", "system", "could", "result", "in", "the", "death", "of", "helicopter", "pilots", "and", "passengers", ",", "loss", "of", "a", "helicopter", "and", "damage", "to", "the", "ship", ".", "This", "is", "intolerable", "for", "normal", "operation", ",", "hence", "SIL-4", "reliability", "is", "required", "to", "give", "sufficient", "confidence", "that", "such", "an", "accident", "will", "not", "happen", "during", "the", "in-service", "lifetime", "of", "the", "system", ".", "SHOLIS", "is", "an", "on-demand", "system", "rather", "than", "a", "continuously", "operating", "system", ",", "and", "so", "has", "a", "required", "probability", "of", "failure", "to", "function", "on", "demand", "of", "approximately", "10", "-4", ";", "a", "more", "precise", "probability", "would", "be", "specified", "in", "the", "system", "safety", "case", ".", "However", ",", "the", "bulk", "of", "the", "SHOLIS", "code", "does", "not", "relate", "to", "critical", "system", "functionality", ".", "The", "code", "specific", "to", "SIL-4", "must", "be", "analysed", "at", "a", "deep", "level", ";", "the", "rest", "of", "the", "code", "can", "be", "analysed", "less", "deeply", "as", "long", "as", "it", "can", "be", "shown", "not", "to", "affect", "the", "SIL-4", "data", "adversely", ".", "3.3.1", "Original", "analysis", "The", "original", "SHOLIS", "code", "is", "Ada", "83", "and", "consists", "of", "75", "source", "files", "and", "shadow", "files", "amenable", "to", "SPARK", "analysis", ";", "26.5", "KLoC", "of", "non-blank", "non-comment", "non-annotation", "code", ".", "It", "is", "a", "substantial", "program", "and", "therefore", "a", "suitable", "test", "to", "see", "if", "integrity", "level", "checking", "scales", ".", "Without", "any", "own", "variables", "annotated", ",", "a", "full", "SPARK", "analysis", "by", "an", "Examiner", "with", "policy", "=", "safety", "generated", "no", "integrity", "errors", ",", "as", "we", "would", "expect", ".", "3.3.2", "Identifying", "critical", "outputs", "To", "enable", "easy", "marking", "of", "variable", "safety", "criticality", "we", "added", "a", "single", "package", "Safety", ":", "package", "Safety", "is", "NSC", ":", "constant", ":", "=", "0", ";", "SC", ":", "constant", ":", "=", "1", ";", "end", "Safety", ";", "We", "took", "as", "an", "example", "the", "safety-critical", "output", "Alarm2Z", "in", "a", "package", "RMR", "which", "represents", "an", "alarm", "signal", "on", "the", "front", "panel", ".", "This", "was", "annotated", ":", "--", "#", "own", "Alarm2Z", ":", "BasicTypes.OkFailT", "--", "#", "-LRB-", "Integrity", "=", ">", "Safety.SC", "-RRB-", ";", "A", "re-analysis", "of", "package", "RMR", "raised", "no", "integrity", "errors", ".", "The", "other", "package", "that", "used", "Alarm2Z", "was", "EVENT", "which", "was", "the", "main", "event", "handler", ".", "A", "SPARK", "of", "this", "package", "raised", "integrity", "flow", "errors", "in", "subprogram", "Sync", ",", "where", "Alarm2Z", "depended", "on", "a", "large", "range", "of", "other", "inputs", ",", "which", "had", "not", "yet", "been", "marked", "as", "safety-critical", ".", "This", "was", "what", "we", "would", "expect", "so", "far", "and", "confirmed", "that", "basic", "safety", "integrity", "analysis", "was", "working", ".", "3.3.3", "Extending", "analysis", "The", "next", "phase", "of", "work", "started", "in", "the", "SENSOR", "package", "which", "was", "near", "the", "middle", "of", "the", "package", "hierarchy", ".", "We", "set", "the", "package", "variables", "representing", "current", "speed", ",", "heading", ",", "roll", ",", "pitch", "and", "wind", "velocity", "state", "to", "be", "safety-critical", "and", "then", "ran", "a", "trial", "SPARK", "analysis", ".", "This", "indicated", "many", "own", "variables", "in", "this", "and", "other", "packages", "which", "caused", "integrity", "flow", "errors", "since", "they", "had", "no", "explicit", "integrity", "level", ".", "For", "each", "of", "these", "packages", "in", "turn", ",", "we", ":", "1", ".", "marked", "all", "of", "the", "package", "own", "variables", "as", "non-critical", "-LRB-", "Safety.NSC", "-RRB-", ";", "2", ".", "re-analysed", "the", "package", "specification", ";", "3", ".", "analysed", "the", "package", "body", "to", "ensure", "that", "there", "were", "no", "integrity", "flow", "errors", "at", "subprogram", "call", "points", ";", "and", "4", ".", "if", "necessary", ",", "transformed", "NSC", "variables", "to", "SC", "status", "and", "re-ran", ".", "Eventually", "we", "converged", "on", "a", "stable", "SC/NSC", "partition", "of", "the", "variables", ".", "3.3.4", "Declassification", "The", "DisplayBuffers", "state", "variable", "in", "I/O", "package", "sio5", "was", "a", "point", "where", "safety-critical", "and", "non-safety", "critical", "data", "merged", ".", "It", "was", "necessary", "during", "the", "actual", "project", "to", "produce", "a", "manual", "justification", "that", "the", "buffer", "would", "never", "be", "filled", "with", "non-safety", "critical", "data", "when", "there", "was", "safety-critical", "data", "to", "be", "added", "and", "displayed", "to", "a", "user", ".", "We", "therefore", "set", "its", "integrity", "to", "NSC", "and", "ignored", "all", "integrity", "errors", "relating", "to", "flows", "from", "SIO5.DisplayBuffers", ".", "3.3.5", "Results", "There", "were", "1282", "integrity", "flow", "errors", ",", "but", "every", "single", "one", "of", "these", "referred", "to", "a", "flow", "from", "SIO5.DisplayBuffers", "to", "Fault.Faults", ",", "as", "expected", ".", "Therefore", "only", "one", "manual", "argument", "is", "needed", "to", "validate", "the", "separation", "of", "SC", "and", "NSC", "data", "at", "this", "level", ".", "Of", "the", "233", "package", "specification", "variables", "which", "were", "given", "integrity", "levels", ",", "110", "were", "NSC", "and", "123", "were", "SC", ".", "3.3.6", "Lessons", "learned", "SHOLIS", "was", "developed", "using", "a", "now", "out-of-date", "version", "of", "the", "SPARK", "Examiner", "which", "did", "not", "support", "proof", "work", "involving", "abstract", "state", ";", "as", "a", "consequence", "there", "were", "many", "more", "public", "own", "variables", "than", "you", "would", "expect", "in", "a", "well-designed", "modern", "SPARK", "program", ".", "This", "made", "the", "conversion", "work", "slower", ";", "at", "the", "top", "level", ",", "as", "noted", "above", ",", "it", "in-creased", "the", "time", "required", "beyond", "what", "was", "available", "for", "the", "study", ".", "The", "``", "TCB", "bloat", "''", "problem", "noted", "in", "Section", "2.3", "did", "not", "seem", "to", "be", "a", "problem", ".", "While", "working", "up", "the", "calling", "hierarchy", "there", "was", "a", "small", "amount", "of", "returning", "to", "lower", "levels", "to", "make", "NSC", "variables", "into", "SC", ",", "but", "this", "did", "not", "spread", "out", "of", "control", ".", "There", "is", "a", "clear", "need", "for", "a", "declassification", "mechanism", ",", "as", "discussed", "in", "more", "detail", "in", "Section", "4.3", ".", "Being", "able", "to", "suppress", "the", "integrity", "flow", "errors", "from", "DisplayBuffers", "would", "have", "made", "the", "transformation", "process", "easier", ".", "3.4", "Possible", "tactical", "extensions", "Given", "the", "preceding", "work", ",", "it", "is", "relatively", "simple", "to", "extend", "the", "own", "variable", "annotation", "to", "allow", "other", "fields", "in", "the", "aggregate", ".", "Within", "the", "security", "domain", ",", "there", "are", "considerations", "which", "mean", "that", "security", "can", "not", "be", "considered", "on", "a", "linear", "scale", ".", "An", "example", "is", "a", "set", "of", "documents", "on", "an", "international", "military", "aviation", "development", "where", "markings", "might", "include", "NATO", "RESTRICTED", ",", "UK", "RESTRICTED", "and", "ICELAND", "RESTRICTED", ".", "They", "are", "all", "at", "the", "same", "level", "of", "security", ",", "but", "apply", "to", "different", "nationalities", "in", "different", "ways", ".", "A", "UK", "citizen", "could", "receive", "the", "first", "two", ",", "a", "German", "could", "receive", "the", "first", "one", "only", ",", "and", "a", "Russian", "could", "not", "receive", "any", ".", "The", "nationality", "information", "could", "be", "represented", "by", "an", "additional", "field", ",", "which", "might", "be", "an", "array", "of", "booleans", "mapping", "each", "country", "code", "to", "an", "Allowed/Forbidden", "code", ".", "43", "3.5", "Security", "policies", "So", "far", "we", "have", "considered", "enforcing", "the", "Bell-LaPadula", "security", "policy", ".", "However", ",", "there", "are", "other", "policies", "which", "may", "be", "desirable", "for", "enforcement", ".", "One", "example", "is", "a", "policy", "where", "information", "at", "security", "level", "N", "may", "only", "flow", "into", "other", "information", "at", "security", "level", "N", ";", "there", "is", "no", "concept", "of", "ordering", "on", "these", "security", "levels", ",", "they", "may", "simply", "not", "be", "mixed", ".", "There", "is", "further", "work", "to", "be", "done", "on", "investigating", "whether", "other", "information", "flow", "policies", "are", "desirable", "and", "useful", "for", "security-critical", "or", "safety-critical", "code", ".", "In", "principle", "they", "should", "not", "be", "complicated", "to", "enforce", ".", "The", "/", "policy", "=", "X", "command", "line", "switch", "provides", "a", "hook", "to", "specify", "different", "policies", "in", "future", ".", "In", "this", "section", "we", "discuss", "the", "limitations", "of", "the", "existing", "work", "and", "examine", "how", "the", "analysis", "techniques", "may", "be", "extended", "in", "the", "future", ".", "4.1", "Difficulties", "with", "analysis", "The", "concept", "of", "``", "label", "creep", "''", "as", "identified", "by", "Sabelfeld", "and", "Myers", "refers", "to", "the", "tendency", "of", "data", "to", "increase", "in", "security", "level", "as", "program", "execution", "progresses", ";", "assigning", "a", "SECRET", "value", "to", "one", "field", "of", "a", "large", "CONFIDENTIAL", "record", "will", "make", "the", "entire", "record", "SECRET", ".", "It", "remains", "to", "be", "seen", "how", "SPARK", "security", "programs", "should", "be", "designed", "in", "order", "to", "minimise", "label", "creep", ".", "Concurrency", "is", "more", "complex", "because", "there", "is", "the", "possibility", "that", "security", "information", "may", "leak", "from", "the", "observable", "scheduling", "order", "of", "the", "processes", ".", "This", "is", "addressed", "to", "some", "extent", "because", "SPARK", "analysis", "of", "Ravenscar", "programs", "does", "information", "flow", "across", "tasks", ".", "4.2", "Wider", "analysis", "One", "extension", "suggestion", "that", "has", "come", "from", "a", "software", "development", "project", "within", "the", "company", "is", "the", "idea", "of", "subprogram", "integrity", "level", ".", "The", "motivation", "is", "similar", "to", "that", "for", "the", "SHOLIS", "analysis", ";", "that", "only", "part", "of", "a", "given", "program", "is", "safety-critical", ",", "and", "that", "verification", "activities", "-LRB-", "proof", ",", "unit", "testing", "levels", ",", "coverage", "analysis", "etc.", "-RRB-", "may", "be", "better", "focused", "on", "the", "safety-critical", "parts", ".", "Subprograms", "are", "a", "more", "useful", "unit", "of", "division", "for", "these", "activities", "than", "package", "state", ".", "The", "algorithm", "for", "identifying", "a", "subprogram", "'s", "actual", "integrity", "level", "is", "to", "examine", "its", "exports", ".", "If", "it", "only", "exports", "own", "variables", "then", "the", "subprogram", "integrity", "level", "is", "the", "maximum", "of", "all", "exported", "own", "variable", "integrity", "levels", ".", "If", "some", "exported", "variables", "are", "formal", "parameters", "then", "each", "invocation", "of", "the", "subprogram", "must", "be", "examined", "for", "own", "variables", "that", "may", "be", "actual", "parameters", ",", "and", "the", "maximum", "integrity", "level", "taken", "over", "all", "possible", "exported", "own", "variables", ".", "Functions", "are", "taken", "to", "be", "equivalent", "to", "a", "procedure", "with", "a", "single", "exported", "parameter", ".", "There", "are", "two", "clear", "choices", "for", "implementing", "this", "strategy", ":", "1", ".", "whole-program", "analysis", ",", "determining", "subprogram", "integrity", "level", "once", "all", "invocations", "are", "known", ";", "or", "2", ".", "partial-program", "analysis", ",", "annotating", "each", "critical", "subprogram", "declaration", "with", "its", "integrity", "level", "and", "checking", "at", "declaration", "and", "each", "invocation", "that", "the", "maximum", "integrity", "level", "is", "not", "violated", ".", "The", "first", "choice", "is", "minimal-impact", ",", "but", "does", "not", "admit", "analysis", "until", "the", "whole", "program", "is", "written", "which", "is", "likely", "to", "prove", "troublesome", ";", "the", "integrity", "level", "of", "many", "subprograms", "will", "not", "be", "known", "until", "very", "late", "in", "the", "development", "process", ",", "by", "which", "time", "testing", "should", "already", "be", "ramped", "up", ".", "The", "second", "choice", "is", "higher", "impact", ";", "it", "requires", "an", "extra", "annotation", "to", "be", "added", "to", "the", "SPARK", "language", "and", "checked", "by", "the", "Examiner", ",", "and", "requires", "developers", "to", "add", "the", "annotation", "to", "each", "potentially", "critical", "subprogram", "as", "it", "is", "specified", ".", "However", ",", "the", "benefits", "of", "the", "partial", "program", "analysis", "are", "likely", "to", "outweigh", "these", "drawbacks", ".", "4.3", "Subverting", "the", "analysis", "Declassification", "is", "occasionally", "necessary", "in", "security", "programs", ";", "this", "is", "when", "the", "assigned", "security", "level", "of", "information", "is", "deliberately", "reduced", ".", "An", "example", "would", "be", "a", "security", "filter", "which", "took", "SECRET", "information", ",", "stripped", "out", "sensitive", "fields", "and", "output", "information", "which", "was", "no", "more", "than", "CONFIDENTIAL", "level", ".", "This", "can", "be", "done", "in", "SPARK", "by", "hiding", "the", "body", "of", "a", "declassifying", "subprogram", "from", "the", "Examiner", ",", "but", "this", "is", "clearly", "not", "an", "optimal", "solution", ".", "A", "better", "solution", "should", "be", "found", ".", "4.4", "Considerations", "for", "certification", "In", "very", "high", "security", "applications", "it", "may", "be", "necessary", "to", "certify", "the", "object", "code", "as", "well", "as", "the", "source", "code", ".", "It", "remains", "to", "be", "seen", "whether", "and", "how", "the", "information", "known", "from", "the", "SPARK", "source", "code", "analysis", "can", "be", "carried", "over", "to", "inform", "an", "object", "code", "analysis", ".", "There", "are", "other", "ways", "by", "which", "secure", "information", "can", "be", "observed", ",", "such", "as", "covert", "or", "timing", "channels", ".", "A", "full", "implementation", "of", "multi-level", "security", "information", "analysis", "should", "be", "followed", "by", "an", "analysis", "of", "how", "much", "information", "could", "be", "leaked", "this", "way", ".", "In", "this", "paper", "we", "have", "described", "recent", "work", "on", "applying", "information", "flow", "analysis", "techniques", "to", "enforcing", "multi-level", "security", "in", "a", "single", "software", "application", ".", "We", "have", "shown", "how", "the", "requirements", "listed", "by", "Sabelfeld", "and", "Myers", "-LSB-", "11", "-RSB-", "are", "partially", "satisfied", "by", "the", "information", "flow", "analysis", "possible", "with", "SPARK", "Ada", "and", "the", "SPARK", "Examiner", ".", "We", "have", "further", "shown", "that", "the", "existing", "SPARK", "language", "and", "analysis", "may", "be", "extended", "to", "enforce", "the", "Bell-LaPadula", "security", "model", "with", "relatively", "little", "change", ".", "SPARK", "Ada", "has", "already", "proven", "itself", "in", "high-security", "and", "safety-critical", "application", "development", ".", "It", "now", "appears", "to", "be", "an", "effective", "choice", "of", "language", "to", "partition", "data", "of", "differing", "criticality", ",", "and", "provide", "a", "low-cost", "but", "robust", "argument", "of", "safety", "or", "security", "for", "an", "application", ".", "SPARK", "already", "provides", "the", "semantics-based", "security", "required", "by", "Sabelfeld", "and", "Myers", ";", "the", "extensions", "to", "own", "variable", "annotations", "now", "provide", "the", "complementary", "security", "type", "system", ".", "For", "end-to-end", "confidentiality", "in", "a", "secure", "system", ",", "we", "believe", "that", "SPARK", "Ada", "'s", "extended", "information", "flow", "analysis", "provides", "a", "hard-to-refute", "justification", "of", "data", "security", ".", "5.1", "Acknowledgements", "The", "authors", "are", "grateful", "to", "Peter", "Amey", ",", "Neil", "White", "and", "Will", "Ward", "from", "Praxis", "Critical", "Systems", "for", "their", "feedback", "on", "this", "paper", "and", "the", "prototype", "integrity", "checking", "facilities", "of", "the", "Examiner", ".", "44", "-LSB-", "1", "-RSB-", "R.", "J.", "Anderson", ".", "Security", "engineering", ":", "a", "guide", "to", "building", "dependable", "distributed", "systems", ".", "Wiley", "Computer", "Publishing", ",", "2001", ".", "ISBN", "0-471-38922-6", ".", "-LSB-", "2", "-RSB-", "J.", "Barnes", ".", "High", "Integrity", "Software", ":", "The", "SPARK", "Approach", "to", "Safety", "And", "Security", ".", "Addison", "Wesley", ",", "April", "2003", ".", "-LSB-", "3", "-RSB-", "D.", "E.", "Bell", "and", "L.", "LaPadula", ".", "Secure", "computer", "systems", ".", "Technical", "Report", "ESR-TR-73-278", ",", "Mitre", "Corporation", ",", "November", "1973", ".", "v.", "I", "and", "II", ".", "-LSB-", "4", "-RSB-", "J.-F", ".", "Bergeretti", "and", "B.", "A.", "Carr", "e.", "Information-flow", "and", "data-flow", "analysis", "of", "while-programs", ".", "ACM", "Transactions", "on", "Programming", "Languages", "and", "Systems", ",", "7", "-LRB-", "1", "-RRB-", ":", "37", "61", ",", "January", "1985", ".", "-LSB-", "5", "-RSB-", "Common", "Criteria", ".", "Common", "Criteria", "for", "Information", "Technology", "Security", "Evaluation", ",", "August", "1999", ".", "-LSB-", "6", "-RSB-", "D.", "Dolev", "and", "A.", "Yao", ".", "On", "the", "security", "of", "public-key", "protocols", ".", "IEEE", "Transactions", "on", "Information", "Theory", ",", "2", "-LRB-", "29", "-RRB-", ":", "198", "208", ",", "August", "1983", ".", "-LSB-", "7", "-RSB-", "A.", "Hall", "and", "R.", "Chapman", ".", "Correctness", "by", "construction", ":", "Developing", "a", "commercial", "secure", "system", ".", "IEEE", "Software", ",", "pages", "18", "25", ",", "Jan/Feb", "2002", ".", "-LSB-", "8", "-RSB-", "International", "Electrotechnical", "Commission", ".", "IEC", "Standard", "61508", ",", "Functional", "Safety", "of", "Electrical", "/", "Electronic", "/", "Programmable", "Electronic", "Safety-Related", "Systems", ",", "March", "2000", ".", "-LSB-", "9", "-RSB-", "S.", "King", ",", "J.", "Hammond", ",", "R.", "Chapman", ",", "and", "A.", "Pryor", ".", "Is", "proof", "more", "cost", "effective", "than", "testing", "?", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "26", "-LRB-", "8", "-RRB-", ":", "675", "686", ",", "August", "2000", ".", "-LSB-", "10", "-RSB-", "RTCA", "/", "EUROCAE", ".", "RTCA", "DO-178B", "/", "EUROCAE", "ED-12", ":", "Software", "Considerations", "in", "Airborne", "Systems", "and", "Equipment", "Certification", ",", "December", "1992", ".", "-LSB-", "11", "-RSB-", "A.", "Sabelfeld", "and", "A.", "C.", "Myers", ".", "Language-based", "information-flow", "security", ".", "IEEE", "Journal", "on", "Selected", "Areas", "in", "Communications", ",", "21", "-LRB-", "1", "-RRB-", ",", "January", "2003", ".", "45"], "doc_bio_tags": ["O", "B", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information flow", "integrity", "subprogram", "safety", "security", "spark ada", "spark"], "abstractive_keyphrases": ["bell-lapadula", "dolev-yao", "security level"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "78", "document": ["Efficient", "Phrase", "Querying", "with", "an", "Auxiliary", "Index", "Search", "engines", "need", "to", "evaluate", "queries", "extremely", "fast", ",", "a", "challenging", "task", "given", "the", "vast", "quantities", "of", "data", "being", "indexed", ".", "A", "significant", "proportion", "of", "the", "queries", "posed", "to", "search", "engines", "involve", "phrases", ".", "In", "this", "paper", "we", "consider", "how", "phrase", "queries", "can", "be", "efficiently", "supported", "with", "low", "disk", "overheads", ".", "Previous", "research", "has", "shown", "that", "phrase", "queries", "can", "be", "rapidly", "evaluated", "using", "nextword", "indexes", ",", "but", "these", "indexes", "are", "twice", "as", "large", "as", "conventional", "inverted", "files", ".", "We", "propose", "a", "combination", "of", "nextword", "indexes", "with", "inverted", "files", "as", "a", "solution", "to", "this", "problem", ".", "Our", "experiments", "show", "that", "combined", "use", "of", "an", "auxiliary", "nextword", "index", "and", "a", "conventional", "inverted", "file", "allow", "evaluation", "of", "phrase", "queries", "in", "half", "the", "time", "required", "to", "evaluate", "such", "queries", "with", "an", "inverted", "file", "alone", ",", "and", "the", "space", "overhead", "is", "only", "10", "%", "of", "the", "size", "of", "the", "inverted", "file", ".", "Further", "time", "savings", "are", "available", "with", "only", "slight", "increases", "in", "disk", "requirements", ".", "H.", "3.4", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Systems", "and", "Software", "evaluation", "--", "-LRB-", "efficiency", "-RRB-", ";", "E.", "2", "-LSB-", "Data", "-RSB-", ":", "Storage", "Representations", "Algorithms", ",", "performance", "Search", "engines", "are", "used", "to", "find", "data", "in", "response", "to", "ad", "hoc", "queries", ".", "On", "the", "Web", ",", "most", "queries", "consist", "of", "simple", "lists", "of", "words", ".", "However", ",", "a", "significant", "fraction", "of", "the", "queries", "include", "phrases", ",", "where", "the", "user", "has", "indicated", "that", "some", "of", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "02", ",", "August", "11-15", ",", "2002", ",", "Tampere", ",", "Finland", ".", "Copyright", "2002", "ACM", "1-58113-561-0", "/", "02/0008", "...", "$", "5.00", ".", "query", "terms", "must", "be", "adjacent", ",", "typically", "by", "enclosing", "them", "in", "quotation", "marks", ".", "Phrases", "have", "the", "advantage", "of", "being", "unambiguous", "concept", "markers", "and", "are", "therefore", "viewed", "as", "a", "valuable", "retrieval", "technique", "-LSB-", "5", ",", "6", ",", "7", ",", "10", "-RSB-", "In", "this", "paper", ",", "we", "explore", "new", "techniques", "for", "efficient", "evaluation", "of", "phrase", "queries", ".", "A", "standard", "way", "to", "evaluate", "phrase", "queries", "is", "to", "use", "an", "inverted", "index", ",", "in", "which", "for", "each", "index", "term", "there", "is", "a", "list", "of", "postings", ",", "and", "each", "posting", "includes", "a", "document", "identifier", ",", "an", "in-document", "frequency", ",", "and", "a", "list", "of", "offsets", ".", "These", "offsets", "are", "the", "ordinal", "word", "positions", "at", "which", "the", "term", "occurs", "in", "the", "document", ".", "Given", "such", "a", "word-level", "inverted", "index", "and", "a", "phrase", "query", ",", "it", "is", "straightforward", "to", "combine", "the", "postings", "lists", "for", "the", "query", "terms", "to", "identify", "matching", "documents", ".", "This", "does", "not", "mean", ",", "however", ",", "that", "the", "process", "is", "fast", ".", "Even", "with", "an", "efficient", "representation", "of", "postings", "-LSB-", "16", "-RSB-", ",", "the", "list", "for", "a", "common", "term", "can", "require", "several", "megabytes", "for", "each", "gigabyte", "of", "indexed", "text", ".", "Worse", ",", "heuristics", "such", "as", "frequency-ordering", "-LSB-", "13", "-RSB-", "or", "impact-ordering", "-LSB-", "1", "-RSB-", "are", "not", "of", "value", ",", "as", "the", "frequency", "of", "a", "word", "in", "a", "document", "does", "not", "determine", "its", "frequency", "of", "participation", "in", "a", "particular", "phrase", ".", "A", "crude", "solution", "is", "to", "use", "stopping", ",", "as", "is", "done", "by", "some", "widely-used", "web", "search", "engines", "-LRB-", "the", "Google", "search", "engine", ",", "for", "example", ",", "neglects", "common", "words", "in", "queries", "-RRB-", ",", "but", "this", "approach", "means", "that", "a", "small", "number", "of", "queries", "can", "not", "be", "evaluated", ",", "while", "many", "more", "evaluate", "incorrectly", "-LSB-", "12", "-RSB-", ".", "Another", "solution", "is", "to", "index", "phrases", "directly", ",", "but", "the", "set", "of", "word", "pairs", "in", "a", "text", "collection", "is", "large", "and", "an", "index", "on", "such", "phrases", "difficult", "to", "manage", ".", "In", "recent", "work", ",", "we", "proposed", "nextword", "indexes", "as", "a", "way", "of", "supporting", "phrase", "queries", "and", "phrase", "browsing", "-LSB-", "2", ",", "3", ",", "15", "-RSB-", ".", "In", "a", "nextword", "index", ",", "for", "each", "index", "term", "or", "firstword", "there", "is", "a", "list", "of", "the", "words", "or", "nextwords", "that", "follow", "that", "term", ",", "together", "with", "the", "documents", "and", "word", "positions", "at", "which", "the", "firstword", "and", "nextword", "occur", "as", "a", "pair", ".", "The", "disadvantage", "of", "a", "nextword", "index", "is", "its", "size", ",", "typically", "around", "half", "that", "of", "the", "indexed", "collection", ".", "Also", ",", "as", "described", "originally", ",", "nextword", "index", "processing", "is", "not", "particularly", "efficient", ",", "as", "the", "nextwords", "must", "be", "processed", "linearly", "and", "-LRB-", "compared", "to", "an", "standard", "inverted", "index", "-RRB-", "for", "rare", "firstwords", "the", "overhead", "of", "the", "additional", "layer", "of", "structure", "may", "outweigh", "the", "benefits", ".", "In", "this", "paper", "we", "propose", "that", "phrase", "queries", "be", "evaluated", "through", "a", "combination", "of", "an", "inverted", "index", "on", "rare", "words", "and", "a", "form", "of", "nextword", "index", "on", "common", "words", ".", "We", "explore", "the", "properties", "of", "phrase", "queries", "and", "show", "experimentally", "that", "query", "evaluation", "time", "can", "be", "halved", "if", "just", "the", "three", "most", "common", "firstwords", "are", "supported", "through", "a", "nextword", "index", ".", "While", "phrase", "browsing", "is", "not", "possible", "215", "with", "such", "an", "arrangement", ",", "the", "disk", "overheads", "of", "the", "partial", "nextword", "index", "are", "small", "and", "the", "benefits", "are", "substantial", ".", "We", "have", "observed", "that", "many", "ordinary", "queries", "--", "those", "without", "quotation", "marks", "--", "nonetheless", "resolve", "successfully", "if", "processed", "as", "a", "phrase", "query", ",", "a", "phenomenon", "that", "search", "engine", "users", "are", "familiar", "with", ",", "as", "the", "most", "popular", "engines", "highly", "rank", "matches", "in", "which", "the", "query", "terms", "are", "adjacent", ".", "This", "suggests", "that", "phrase", "querying", "is", "a", "potential", "method", "for", "a", "fast", "``", "first", "cut", "''", "evaluation", "method", ",", "as", "it", "allows", "more", "rapid", "identification", "of", "documents", "in", "which", "the", "terms", "occur", "as", "a", "phrase", ".", "With", "large", "web", "search", "engines", "being", "used", "daily", "by", "millions", "of", "users", ",", "it", "has", "become", "straightforward", "to", "gather", "large", "numbers", "of", "queries", "and", "see", "how", "users", "are", "choosing", "to", "express", "their", "information", "needs", ".", "Some", "search", "engine", "companies", "have", "made", "extracts", "of", "their", "query", "logs", "freely", "available", ".", "In", "our", "research", ",", "we", "have", "made", "extensive", "use", "of", "query", "logs", "provided", "by", "Excite", "dating", "to", "1997", "and", "1999", ",", "as", "well", "as", "more", "recent", "logs", "from", "other", "sources", ".", "These", "logs", "have", "similar", "properties", "-LRB-", "with", "regard", "to", "our", "purposes", "-RRB-", ",", "and", "we", "report", "primarily", "on", "the", "Excite", "logs", "in", "this", "work", ".", "In", "the", "Excite", "log", ",", "after", "sanitizing", "to", "remove", "obscenity", "there", "are", "1,583,922", "queries", "-LRB-", "including", "duplicates", "-RRB-", ".", "Of", "these", ",", "132,276", "or", "8.3", "%", "are", "explicit", "phrase", "queries", ",", "that", "is", ",", "they", "include", "a", "sequence", "of", "two", "or", "more", "words", "enclosed", "in", "quotes", ".", "Amongst", "the", "rest", "of", "the", "queries", "--", "those", "without", "a", "phrase", "--", "about", "5", "%", "contain", "a", "word", "that", "does", "not", "occur", "at", "all", "in", "the", "21.9", "gigabytes", "-LRB-", "Gb", "-RRB-", "of", "data", "we", "use", ".", "However", ",", "almost", "exactly", "41", "%", "of", "the", "remaining", "non-phrase", "queries", "actually", "match", "a", "phrase", "in", "the", "21.9", "Gb", "dataset", "we", "use", "in", "our", "experiments", ".", "A", "surprising", "proportion", "of", "the", "phrases", "include", "a", "common", "term", ".", "Amongst", "the", "explicit", "phrase", "queries", ",", "11,103", "or", "8.4", "%", "include", "one", "of", "the", "three", "words", "that", "are", "commonest", "in", "our", "dataset", ",", "``", "the", "''", ",", "``", "to", "''", ",", "and", "``", "of", "''", ".", "14.4", "%", "of", "the", "phrase", "queries", "include", "one", "of", "the", "20", "commonest", "terms", ".", "In", "some", "of", "these", "queries", "the", "common", "word", "has", "a", "structural", "function", "only", ",", "as", "in", "tower", "of", "london", ",", "and", "can", "arguably", "be", "safely", "neglected", "during", "query", "evaluation", ".", "In", "other", "queries", ",", "however", ",", "common", "words", "play", "an", "important", "role", ",", "as", "in", "the", "movie", "title", "end", "of", "days", "or", "the", "band", "name", "the", "who", ",", "and", "evaluation", "of", "these", "queries", "is", "difficult", "with", "the", "common", "words", "removed", ",", "especially", "when", "both", "``", "the", "''", "and", "``", "who", "''", "happen", "to", "be", "common", "terms", "-LSB-", "12", "-RSB-", ".", "Taken", "together", ",", "these", "observations", "suggest", "that", "stopping", "of", "common", "words", "will", "have", "an", "unpredictable", "effect", ".", "Stopping", "may", "yield", "efficiency", "gains", ",", "but", "means", "that", "a", "significant", "number", "of", "queries", "can", "not", "be", "correctly", "evaluated", ".", "We", "experimented", "with", "a", "set", "of", "122,438", "phrase", "queries", "that", "between", "them", "match", "309", "10", "6", "documents", ".", "Stopping", "of", "common", "words", "means", "that", "a", "query", "such", "as", "tower", "of", "london", "must", "be", "evaluated", "as", "tower", "--", "london", ":", "the", "query", "evaluation", "engine", "knows", "that", "the", "two", "remaining", "query", "terms", "must", "appear", "with", "a", "single", "term", "between", "them", ".", "If", "the", "commonest", "three", "words", "are", "stopped", ",", "there", "are", "390", "10", "6", "total", "matches", "for", "all", "queries", "extracted", "from", "the", "log", ".", "However", ",", "these", "are", "distributed", "extremely", "unevenly", "amongst", "the", "queries", ":", "for", "some", "queries", "the", "great", "majority", "of", "matches", "are", "incorrect", ".", "The", "figure", "rises", "to", "490", "10", "6", "for", "the", "commonest", "20", "words", ",", "and", "1693", "10", "6", "for", "the", "commonest", "254", "words", ",", "while", "a", "significant", "number", "of", "queries", ",", "containing", "only", "stopped", "words", ",", "can", "not", "be", "evaluated", "at", "all", ".", "It", "can", "be", "argued", "that", "stopwords", "are", "often", "insignificant", ",", "and", "that", "even", "a", "document", "that", "is", "technically", "a", "mismatch-due", "to", "the", "wrong", "stopword", "being", "present", "--", "may", "be", "just", "as", "likely", "to", "be", "relevant", "as", "a", "document", "where", "the", "match", "is", "correct", ".", "However", ",", "it", "is", "worth", "emphasising", "that", "there", "are", "many", "queries", "in", "which", "stopwords", "do", "play", "an", "important", "role", ".", "The", "words", "``", "to", "''", "and", "``", "from", "''", "are", "often", "stopped", ",", "for", "example", ",", "but", "mismatches", "to", "the", "query", "flights", "to", "london", "are", "likely", "to", "be", "incorrect", ".", "Another", "instance", "is", "that", "the", "word", "``", "the", "''", "often", "forms", "part", "of", "a", "description", ",", "thus", "the", "moon", "should", "not", "match", "websites", "about", "a", "moon", "of", "Jupiter", ",", "Keith", "Moon", ",", "or", "a", "book", "publisher", ".", "Amongst", "the", "phrase", "queries", ",", "the", "median", "number", "of", "words", "in", "a", "phrase", "is", "2", ",", "and", "the", "average", "is", "almost", "2.5", ".", "About", "34", "%", "of", "the", "queries", "have", "three", "words", "or", "more", ",", "and", "1.3", "%", "have", "six", "words", "or", "more", ".", "A", "few", "queries", "are", "much", "longer", ",", "such", "as", "titles", ":", "the", "architect", "of", "desire", "beauty", "and", "danger", "in", "the", "stanford", "white", "family", "by", "suzannah", "lessard", ".", "Another", "point", "of", "interest", "is", "where", "in", "a", "phrase", "the", "common", "words", "occur", ".", "In", "English", ",", "the", "common", "words", "rarely", "terminate", "a", "phrase", "query", ".", "Only", "0.4", "%", "of", "phrase", "queries", "with", "``", "the", "''", ",", "``", "to", "''", ",", "or", "``", "of", "''", "have", "these", "words", "at", "the", "end", ".", "Almost", "all", "of", "these", "queries", "are", "short", ":", "virtually", "no", "queries", "of", "four", "words", "or", "more", "terminate", "with", "one", "of", "the", "commonest", "terms", ".", "In", "the", "short", "queries", "ending", "in", "a", "common", "term", ",", "the", "other", "query", "terms", "are", "themselves", "usually", "common", ".", "We", "take", "advantage", "of", "these", "trends", "in", "the", "methods", "for", "phrase", "query", "evaluation", "proposed", "in", "this", "paper", ".", "Inverted", "indexes", "are", "the", "standard", "method", "for", "supporting", "queries", "on", "large", "text", "databases", ";", "there", "are", "no", "practical", "alternatives", "to", "inverted", "indexes", "that", "provide", "sufficiently", "fast", "ranked", "query", "evaluation", ".", "An", "inverted", "index", "is", "a", "two-level", "structure", ".", "The", "upper", "level", "is", "all", "the", "index", "terms", "for", "the", "collection", ".", "For", "text", "databases", ",", "the", "index", "terms", "are", "usually", "the", "words", "occurring", "in", "the", "text", ",", "and", "all", "words", "are", "included", ".", "The", "lower", "level", "is", "a", "set", "of", "postings", "lists", ",", "one", "per", "index", "term", ".", "Following", "the", "notation", "of", "Zobel", "and", "Moffat", "-LSB-", "17", "-RSB-", ",", "each", "posting", "is", "a", "triple", "of", "the", "form", ":", "d", ",", "f", "d", ",", "t", ",", "-LSB-", "o", "1", ",", "...", ",", "o", "f", "d", ",", "t", "-RSB-", "where", "d", "is", "the", "identifier", "of", "a", "document", "containing", "term", "t", ",", "the", "frequency", "of", "t", "in", "d", "is", "f", "d", ",", "t", ",", "and", "the", "o", "values", "are", "the", "positions", "in", "d", "at", "which", "t", "is", "observed", ".", "An", "example", "inverted", "file", "is", "shown", "in", "Figure", "1", ".", "In", "this", "example", ",", "there", "is", "a", "vocabulary", "of", "five", "words", ",", "each", "of", "which", "has", "a", "postings", "list", ".", "It", "is", "straightforward", "to", "use", "an", "inverted", "index", "to", "evaluate", "a", "phrase", "query", ".", "Consider", "the", "query", "magdalene", "sue", "prentiss", ".", "Of", "these", "terms", ",", "``", "magdalene", "''", "is", "the", "rarest", ",", "and", "its", "inverted", "list", "is", "fetched", "first", ".", "The", "postings", "are", "decoded", "and", "a", "temporary", "structure", "is", "created", ",", "recording", "which", "documents", "contain", "this", "word", "and", "the", "ordinal", "word", "positions", "in", "each", "document", "at", "which", "it", "occurs", ".", "The", "term", "``", "prentiss", "''", "is", "the", "next", "rarest", ",", "and", "is", "processed", "next", ".", "For", "each", "document", "identifier", "and", "word", "offset", "in", "the", "temporary", "structure", "created", "earlier", ",", "a", "posting", "is", "sought", "to", "see", "whether", "``", "prentiss", "''", "is", "in", "the", "document", "two", "words", "later", ".", "If", "the", "search", "fails", ",", "that", "word", "position", "is", "discarded", "from", "the", "temporary", "structure", ",", "as", "is", "the", "document", "identifier", "if", "no", "word", "positions", "for", "that", "document", "remain", ".", "As", "both", "the", "structure", "and", "the", "postings", "are", "sorted", ",", "this", "process", "is", "a", "linear", "merge", ".", "Then", "the", "postings", "list", "216", "On", "Disk", "Vectors", "1", ",", "-LRB-", "<", "9,2", ",", "-LSB-", "4,1001", "-RSB-", ">", "-RRB-", "53", ",", "-LRB-", "<", "9,3", ",", "-LSB-", "3,8,90", "-RSB-", "...", "-RRB-", "23", ",", "-LRB-", "<", "4,2", ",", "-LSB-", "5,34", "-RSB-", ">", ",", "...", "-RRB-", "243", ",", "-LRB-", "<", "5,1", ",", "-LSB-", "45", "-RSB-", ">", ",", "<", "9,1", ",", "-LSB-", "7", "-RSB-", ">", "...", "-RRB-", "In", "Memory", "Vocabulary", "new", "in", "historic", "hampshire", "railroads", "15", ",", "-LRB-", "<", "1,1", ",", "-LSB-", "100", "-RSB-", ">", ",", "<", "9,1", ",", "-LSB-", "6", "-RSB-", ">", "...", "-RRB-", "Figure", "1", ":", "An", "inverted", "file", "for", "a", "collection", "with", "a", "vocabulary", "of", "five", "words", ".", "for", "``", "sue", "''", "is", "fetched", "and", "decoded", ",", "and", "used", "to", "further", "delete", "entries", "from", "the", "temporary", "structure", ".", "The", "remaining", "entries", "are", "documents", "and", "word", "positions", "at", "which", "the", "phrase", "occurs", ".", "Summarizing", ",", "phrase", "queries", "are", "evaluated", "as", "follows", ".", "1", ".", "Sort", "the", "query", "terms", "from", "rarest", "to", "commonest", ",", "keeping", "note", "of", "their", "original", "position", "in", "the", "phrase", ".", "2", ".", "Fetch", "the", "postings", "list", "for", "the", "first", "-LRB-", "rarest", "-RRB-", "query", "term", ".", "Decode", "this", "list", "into", "a", "temporary", "structure", "of", "document", "identifiers", "and", "word", "offset", "positions", ".", "3", ".", "For", "each", "remaining", "query", "term", ",", "decode", "its", "postings", "list", ",", "merging", "it", "with", "the", "temporary", "data", ";", "this", "merge", "process", "discards", "from", "the", "temporary", "structure", "all", "document", "identifiers", "and", "word", "offsets", "that", "do", "not", "match", "any", "entry", "in", "the", "postings", "list", ".", "In", "this", "query", "evaluation", "model", ",", "processing", "of", "the", "first", "query", "term", "establishes", "a", "superset", "of", "the", "possible", "locations", "of", "the", "complete", "phrase", ",", "which", "are", "maintained", "in", "a", "temporary", "structure", ";", "as", "the", "subsequent", "query", "terms", "are", "evaluated", ",", "this", "structure", "is", "pruned", ",", "never", "added", "to", ".", "It", "is", "thus", "essential", "to", "begin", "processing", "with", "the", "rarest", "query", "term", ",", "to", "avoid", "creation", "of", "an", "excessively", "large", "temporary", "structure", "-LRB-", "or", "of", "having", "to", "process", "the", "inverted", "lists", "in", "stages", "to", "stay", "within", "a", "memory", "limit", "-RRB-", ".", "A", "simple", "heuristic", "to", "address", "this", "problem", "is", "to", "directly", "merge", "the", "inverted", "lists", "rather", "than", "decode", "them", "in", "turn", ".", "On", "the", "one", "hand", ",", "merging", "has", "the", "disadvantage", "that", "techniques", "such", "as", "skipping", "-LSB-", "11", "-RSB-", "can", "not", "be", "as", "easily", "used", "to", "reduce", "processing", "costs", "-LRB-", "although", "as", "we", "discuss", "later", "skipping", "does", "not", "necessarily", "yield", "significant", "benefits", "-RRB-", ".", "On", "the", "other", "hand", ",", "merging", "of", "at", "least", "some", "of", "the", "inverted", "lists", "is", "probably", "the", "only", "viable", "option", "when", "all", "the", "query", "terms", "are", "moderately", "common", ".", "Whether", "the", "lists", "are", "merged", "or", "processed", "in", "turn", ",", "the", "whole", "of", "each", "list", "needs", "to", "be", "fetched", "-LRB-", "unless", "query", "processing", "terminates", "early", "due", "to", "lack", "of", "matches", "-RRB-", ".", "For", "ranked", "query", "processing", "it", "is", "possible", "to", "predict", "which", "postings", "in", "each", "inverted", "list", "are", "most", "likely", "to", "be", "of", "value", ",", "and", "move", "these", "to", "the", "front", "of", "the", "inverted", "list", ";", "techniques", "for", "such", "list", "modification", "include", "frequency-ordering", "-LSB-", "13", "-RSB-", "and", "impact-ordering", "-LSB-", "1", "-RSB-", ".", "With", "these", "techniques", ",", "only", "the", "first", "of", "the", "inverted", "lists", "need", "be", "fetched", "during", "evaluation", "of", "most", "queries", ",", "greatly", "reducing", "costs", ".", "In", "contrast", ",", "for", "phrase", "querying", "it", "is", "not", "simple", "to", "predict", "which", "occurrences", "of", "the", "term", "will", "be", "in", "a", "query", "phrase", ",", "and", "thus", "such", "reordering", "is", "unlikely", "to", "be", "effective", ".", "Offsets", "only", "Table", "1", ":", "Size", "of", "inverted", "index", "-LRB-", "Mb", "-RRB-", "after", "stopping", "of", "common", "words", ".", "Number", "of", "Index", "size", "words", "stopped", "-LRB-", "Mb", "-RRB-", "0", "2350", "3", "2259", "6", "2195", "10", "2135", "20", "2089", "254", "1708", "have", "to", "be", "decoded", "when", "there", "is", "a", "document", "match", ",", "but", "they", "still", "have", "to", "be", "retrieved", ".", "Other", "techniques", "do", "have", "the", "potential", "to", "reduce", "query", "evaluation", "time", ",", "in", "particular", "skipping", "-LSB-", "11", "-RSB-", ",", "in", "which", "additional", "information", "is", "placed", "in", "inverted", "lists", "to", "reduce", "the", "decoding", "required", "in", "regions", "in", "the", "list", "that", "can", "not", "contain", "postings", "that", "will", "match", "documents", "that", "have", "been", "identified", "as", "potential", "matches", ".", "On", "older", "machines", ",", "on", "which", "CPU", "cycles", "were", "relatively", "scarce", ",", "skipping", "could", "yield", "substantial", "gains", ".", "On", "current", "machines", ",", "however", ",", "disk", "access", "costs", "are", "the", "more", "important", "factor", ",", "and", "in", "other", "experiments", "we", "have", "observed", "that", "the", "increase", "in", "length", "of", "lists", "required", "by", "skipping", "outweighs", "the", "reduction", "in", "decoding", "time", ".", "We", "therefore", "do", "not", "use", "skipping", "in", "our", "experiments", ".", "We", "have", "implemented", "a", "phrase", "query", "evaluator", "based", "on", "inverted", "lists", ",", "using", "compression", "techniques", "similar", "to", "those", "employed", "in", "MG", "-LSB-", "16", "-RSB-", "to", "reduce", "costs", ",", "and", "have", "used", "it", "to", "test", "the", "efficiency", "of", "phrase", "query", "evaluation", ".", "Our", "test", "data", "is", "21.9", "Gb", "of", "HTML", "containing", "about", "8.3", "Gb", "of", "text", "-LRB-", "drawn", "from", "the", "TREC", "large", "web", "track", "-LSB-", "9", "-RSB-", "-RRB-", ".", "Table", "1", "shows", "the", "size", "of", "the", "index", "with", "a", "range", "of", "levels", "of", "stopping", ".", "As", "can", "be", "seen", ",", "the", "three", "commonest", "words", "account", "for", "around", "4", "%", "of", "the", "index", "size", ",", "and", "only", "small", "space", "savings", "are", "yielded", "by", "stopping", ".", "However", ",", "as", "Table", "2", "shows", ",", "the", "impact", "of", "stopping", "on", "query", "evaluation", "time", "is", "dramatic", ".", "Just", "removing", "the", "three", "commonest", "words", "reduces", "average", "time", "by", "about", "60", "%", ",", "and", "by", "a", "factor", "of", "3", "for", "longer", "queries", ".", "For", "these", "longer", "queries", ",", "the", "savings", "continue", "to", "increase", "as", "more", "common", "words", "are", "stopped", ".", "It", "is", "the", "scale", "of", "these", "savings", "that", "make", "stopping", "attractive", ",", "despite", "the", "fact", "that", "they", "are", "at", "the", "cost", "of", "inaccurate", "query", "results", ".", "217", "Table", "2", ":", "Times", "for", "phrase", "query", "evaluation", "-LRB-", "seconds", "-RRB-", "on", "an", "inverted", "index", "after", "stopping", "of", "common", "words", ".", "Results", "are", "shown", "for", "all", "queries", ";", "2-word", "queries", "only", ";", "and", "5-word", "queries", "only", ".", "Number", "of", "Overall", "2-word", "5-word", "words", "stopped", "time", "-LRB-", "sec", "-RRB-", "queries", "queries", "0", "1.56", "0.49", "6.41", "3", "0.66", "0.30", "1.94", "6", "0.45", "0.29", "1.07", "10", "0.40", "0.28", "0.81", "20", "0.37", "0.28", "0.70", "254", "0.18", "0.16", "0.26", "Inverted", "indexes", "allow", "evaluation", "of", "phrase", "queries", ",", "but", "faster", "evaluation", "is", "possible", "with", "phrase-oriented", "indexes", ".", "One", "possibility", "is", "to", "use", "a", "conventional", "inverted", "index", "in", "which", "the", "terms", "are", "word", "pairs", ".", "Another", "way", "to", "support", "phrase", "based", "query", "modes", "is", "to", "index", "and", "store", "phrases", "directly", "-LSB-", "8", "-RSB-", "or", "simply", "by", "using", "an", "inverted", "index", "and", "approximating", "phrases", "through", "a", "ranked", "query", "technique", "-LSB-", "5", ",", "10", "-RSB-", ".", "Greater", "efficiency", ",", "with", "no", "additional", "in-memory", "space", "overheads", ",", "is", "possible", "with", "a", "special-purpose", "structure", ",", "the", "nextword", "index", "-LSB-", "15", "-RSB-", ",", "where", "search", "structures", "are", "used", "to", "accelerate", "processing", "of", "word", "pairs", ".", "The", "nextword", "index", "takes", "the", "middle", "ground", "by", "indexing", "pairs", "of", "words", "and", ",", "therefore", ",", "is", "particularly", "good", "at", "resolving", "phrase", "queries", "containing", "two", "or", "more", "words", ".", "As", "noted", "above", "and", "observed", "elsewhere", ",", "the", "commonest", "number", "of", "words", "in", "a", "phrase", "is", "two", "-LSB-", "14", "-RSB-", ".", "A", "nextword", "index", "is", "a", "three-level", "structure", ".", "The", "highest", "level", "is", "of", "the", "distinct", "index", "terms", "in", "the", "collection", ",", "which", "we", "call", "firstwords", ".", "At", "the", "middle", "level", ",", "for", "each", "firstword", "there", "is", "a", "data", "structure", "-LRB-", "such", "as", "a", "front-coded", "list", ",", "or", "for", "fast", "access", "a", "structure", "such", "as", "a", "tree", "-RRB-", "of", "nextwords", ",", "which", "are", "the", "words", "observed", "to", "follow", "that", "firstword", "in", "the", "indexed", "text", ".", "For", "example", ",", "for", "the", "firstword", "``", "artificial", "''", ",", "nextwords", "include", "``", "intelligence", "''", ",", "``", "insemination", "''", ",", "and", "``", "hip", "''", ".", "At", "the", "lowest", "level", ",", "for", "each", "nextword", "there", "is", "a", "postings", "list", "of", "the", "positions", "at", "which", "that", "firstword-nextword", "pair", "occur", ".", "An", "example", "nextword", "index", "is", "shown", "in", "Figure", "2", ".", "In", "this", "example", ",", "there", "are", "two", "firstwords", ",", "``", "in", "''", "and", "``", "new", "''", ".", "Some", "of", "the", "nextwords", "for", "``", "in", "''", "are", "``", "all", "''", ",", "``", "new", "''", ",", "and", "``", "the", "''", ".", "For", "each", "firstword-nextword", "pair", ",", "there", "is", "a", "postings", "list", ".", "-LRB-", "A", "nextword", "index", "is", "of", "course", "a", "form", "of", "inverted", "index", ",", "but", "for", "consistency", "with", "other", "work", "we", "use", "``", "inverted", "index", "''", "solely", "to", "refer", "to", "a", "standard", "word-level", "inverted", "file", ".", "-RRB-", "In", "nextword", "indexes", ",", "the", "postings", "lists", "are", "typically", "short", ",", "because", "most", "pairs", "only", "occur", "infrequently", ".", "For", "example", ",", "the", "postings", "list", "for", "the", "firstword-nextword", "pair", "``", "the", "''", "``", "who", "''", "is", "orders", "of", "magnitude", "smaller", "than", "the", "postings", "lists", "for", "these", "words", "in", "an", "inverted", "file", ".", "It", "follows", "that", "phrase", "query", "evaluation", "can", "be", "extremely", "fast", ".", "Nextword", "indexes", "also", "have", "the", "benefit", "of", "allowing", "phrase", "browsing", "or", "phrase", "querying", "-LSB-", "4", ",", "15", "-RSB-", ";", "given", "a", "sequence", "of", "words", ",", "the", "index", "can", "be", "used", "to", "identify", "which", "words", "follow", "the", "sequence", ",", "thus", "providing", "an", "alternative", "mechanism", "for", "searching", "text", "collections", ".", "However", ",", "we", "do", "not", "consider", "phrase", "browsing", "further", "in", "this", "paper", ".", "For", "phrase", "queries", "of", "more", "than", "two", "words", ",", "multiple", "postings", "lists", "must", "be", "fetched", "from", "the", "nextword", "index", "to", "resolve", "the", "query", ".", "Selection", "of", "which", "listings", "to", "fetch", "requires", "a", "little", "care", ".", "For", "example", ",", "with", "the", "query", "boulder", "municipal", "employees", "credit", "union", "the", "query", "can", "be", "resolved", "by", "fetching", "the", "postings", "lists", "for", "the", "firstword-nextword", "pairs", "``", "boulder", "''", "``", "municipal", "''", ",", "``", "employees", "''", "``", "credit", "''", ",", "and", "``", "credit", "''", "``", "union", "''", ".", "Alternatively", ",", "it", "would", "be", "possible", "to", "get", "the", "lists", "for", "``", "boulder", "''", "``", "municipal", "''", ",", "``", "municipal", "''", "``", "employees", "''", ",", "and", "``", "credit", "''", "``", "union", "''", ".", "Which", "is", "most", "efficient", "depends", "on", "which", "is", "shorter", ":", "the", "list", "for", "``", "employees", "''", "``", "credit", "''", "or", "the", "list", "for", "for", "``", "municipal", "''", "``", "employees", "''", ".", "Unfortunately", ",", "establishing", "which", "is", "shorter", "requires", "two", "disk", "accesses", ",", "to", "retrieve", "the", "nextwords", "for", "``", "employees", "''", "and", "``", "municipal", "''", ".", "However", ",", "we", "have", "observed", "that", "the", "frequency", "of", "a", "firstword", "closely", "correlates", "to", "the", "lengths", "of", "its", "nextword", "lists", ".", "Thus", "in", "the", "query", "historic", "railroads", "in", "new", "hampshire", "we", "can", "with", "confidence", "choose", "``", "railroads", "''", "``", "in", "''", "in", "preference", "to", "``", "in", "''", "``", "new", "''", ",", "because", "``", "railroads", "''", "is", "much", "less", "common", "than", "``", "in", "''", ".", "We", "have", "considered", "algorithms", "for", "choosing", "order", "of", "evaluation", "elsewhere", "-LSB-", "3", "-RSB-", ".", "An", "efficient", "algorithm", "for", "evaluating", "phrase", "queries", "with", "a", "nextword", "index", "is", "as", "follows", ".", "1", ".", "If", "the", "number", "of", "query", "terms", "n", "is", "even", ",", "the", "query", "can", "consist", "of", "n/2", "disjoint", "firstword-nextword", "pairs", ".", "If", "the", "number", "of", "query", "terms", "n", "is", "odd", ",", "n/2", "firstword-nextword", "pairs", "must", "be", "chosen", ".", "However", ",", "in", "both", "cases", "it", "is", "more", "efficient", "to", "choose", "more", "than", "the", "minimum", "number", "of", "pairs", ",", "if", "doing", "so", "avoids", "choice", "of", "a", "common", "word", "as", "a", "firstword", ".", "2", ".", "The", "method", "we", "use", "is", "to", "choose", "all", "n", "-", "1", "firstword-nextword", "pairs", ";", "then", "sort", "them", "by", "increasing", "firstword", "frequency", ";", "then", "discard", "from", "the", "list", "the", "pairs", "that", "are", "completely", "covered", "by", "preceding", "selections", ".", "This", "approach", "can", "lead", "to", "processing", "of", "more", "than", "n/2", "pairs", ",", "but", "experimentally", "was", "shown", "to", "reduces", "costs", "overall", ".", "3", ".", "The", "selected", "word", "pairs", "are", "sorted", "by", "increasing", "frequency", "of", "the", "firstwords", ",", "then", "their", "postings", "lists", "are", "processed", "as", "for", "inverted", "file", "phrase", "query", "processing", ".", "The", "nextword", "index", "for", "our", "Web", "collection", "is", "4487", "Mb", "in", "size", ",", "almost", "exactly", "twice", "that", "of", "an", "inverted", "file", ".", "For", "phrase", "queries", ",", "the", "savings", "in", "query", "evaluation", "time", "are", "dramatic", ".", "Average", "query", "evaluation", "time", "is", "reduced", "to", "0.06", "seconds", ",", "faster", "than", "inverted", "files", "by", "a", "factor", "of", "25", ".", "For", "two-word", "queries", ",", "the", "time", "falls", "to", "0.01", "seconds", ",", "which", "is", "faster", "by", "a", "factor", "of", "50", ".", "The", "time", "for", "5-word", "queries", "is", "0.32", ".", "An", "interesting", "possibility", "suggested", "by", "these", "results", "is", "that", "--", "given", "space", "for", "a", "nextword", "index", "--", "all", "queries", "be", "evaluated", "as", "if", "they", "were", "phrases", ".", "We", "observed", "above", "that", "a", "significant", "fraction", "of", "all", "queries", "successfully", "evaluate", ",", "and", "indeed", "on", "browsing", "the", "query", "logs", "it", "is", "obvious", "that", "many", "of", "the", "queries", "without", "quotation", "marks", "are", "nonetheless", "intended", "to", "be", "phrases", ".", "Spink", "et", "al.", "-LSB-", "14", "-RSB-", "suggest", "that", "most", "two-word", "queries", "should", "be", "treated", "as", "a", "phrase", "query", "even", "if", "they", "were", "entered", "as", "a", "ranked", "query", ".", "Given", "that", "search", "engines", "return", "as", "highest", "matches", "the", "pages", "in", "which", "the", "218", "In", "Memory", "Vocabulary", "On", "Disk", "Nextword", "Lists", "in", "new", "...", "age", "hampshire", "house", "...", "the", "all", "new", "On", "Disk", "Inverted", "Vectors", "15", ",", "-LRB-", "<", "1,15", ",", "-LSB-", "100", "-RSB-", ">", ",", "<", "65,1", ",", "-LSB-", "1", "-RSB-", ">", ",", "<", "74,7", ",", "-LSB-", "23,43,54,62,68,114,181,203", "-RSB-", ">", ",", "...", "-RRB-", "1", ",", "-LRB-", "<", "9,1", ",", "-LSB-", "6", "-RSB-", ">", "-RRB-", "3", ",", "-LRB-", "<", "1,1", ",", "-LSB-", "12", "-RSB-", ">", ",", "<", "34,3", ",", "-LSB-", "23,34,111", "-RSB-", ">", ",", "<", "77,1", ",", "-LSB-", "29", "-RSB-", ">", "-RRB-", "305", ",", "-LRB-", "<", "9,2", ",", "-LSB-", "7,199", "-RSB-", ">", ",", "<", "532,1", ",", "-LSB-", "256", "-RSB-", ">", ",", "...", "-RRB-", "2", ",", "-LRB-", "<", "9,1", ",", "-LSB-", "423", "-RSB-", ">", ",", "<", "19,1", ",", "-LSB-", "4", "-RSB-", ">", "-RRB-", "2", ",", "-LRB-", "<", "31,3", ",", "-LSB-", "21,41,91", "-RSB-", ">", ",", "<", "44,1", ",", "-LSB-", "34", "-RRB-", "-RSB-", ">", "-RRB-", "Figure", "2", ":", "A", "nextword", "index", "with", "two", "firstwords", ".", "query", "words", "appear", "in", "sequence", ",", "use", "of", "a", "nextword", "index", "provides", "a", "rapid", "mechanism", "for", "finding", "these", "pages", ".", "Much", "of", "the", "speed", "improvement", "for", "phrase", "queries", "yielded", "by", "nextword", "indexes", "is", "for", "queries", "involving", "a", "non-rare", "word", ".", "Indeed", ",", "for", "queries", "of", "rare", "words", "there", "may", "be", "little", "gain", ",", "as", "query", "processing", "with", "nextword", "indexes", "involves", "more", "complex", "structures", "than", "does", "processing", "with", "inverted", "indexes", ".", "As", "the", "two", "approaches", "to", "phrase", "query", "processing", "appear", ",", "then", ",", "to", "have", "complementary", "advantages", ",", "it", "is", "attractive", "to", "try", "to", "combine", "their", "strengths", ".", "We", "have", "observed", "above", "that", "inverted", "indexes", "are", "the", "least", "efficient", "for", "phrases", "involving", "common", "words", ",", "the", "case", "where", "nextword", "indexes", "yield", "the", "greatest", "speed", "advantage", ".", "We", "therefore", "propose", "that", "common", "words", "only", "be", "used", "as", "firstwords", "in", "a", "stripped-down", "nextword", "index", ",", "and", "that", "this", "new", "index", "be", "used", "where", "possible", "in", "evaluation", "of", "phrase", "queries", ".", "We", "call", "this", "a", "top", "frequency", "based", "scheme", ",", "since", "only", "the", "most", "frequent", "words", "are", "indexed", "in", "the", "nextword", "index", ".", "We", "have", "explored", "other", "schemes", "based", "on", "the", "frequency", "of", "words", "in", "the", "indexed", "collection", ",", "or", "based", "on", "the", "frequency", "of", "words", "in", "the", "query", "log", ".", "None", "of", "the", "investi-gated", "schemes", "offered", "a", "better", "space", "and", "time", "trade-off", ",", "so", "we", "report", "only", "results", "from", "the", "top", "frequency", "scheme", ".", "An", "example", "of", "a", "top", "frequency", "combined", "index", "is", "shown", "in", "Figure", "3", ".", "At", "the", "left", "there", "is", "a", "vocabulary", "of", "five", "words", ".", "Each", "word", "has", "an", "inverted", "list", ",", "together", "constituting", "a", "complete", "inverted", "file", "for", "these", "words", ".", "In", "addition", ",", "the", "common", "words", "``", "in", "''", "and", "``", "new", "''", "have", "a", "nextword", "index", ".", "With", "a", "combined", "index", ",", "processing", "involves", "postings", "lists", "from", "both", "the", "inverted", "index", "and", "the", "nextword", "index", ".", "Consider", "again", "the", "query", ":", "historic", "railroads", "in", "new", "hampshire", "Neither", "``", "historic", "''", "nor", "``", "railroads", "''", "is", "a", "common", "word", ",", "so", "establishing", "that", "these", "terms", "occur", "in", "the", "phrase", "involves", "fetching", "their", "postings", "lists", "from", "the", "inverted", "index", "and", "processing", "in", "the", "usual", "way", ".", "However", ",", "``", "in", "''", "and", "``", "new", "''", "are", "both", "common", ".", "The", "posting", "list", "for", "the", "firstword-nextword", "pair", "``", "in", "''", "``", "new", "''", "from", "the", "nextword", "index", "must", "be", "fetched", "and", "processed", ".", "Then", "there", "is", "a", "choice", ".", "On", "the", "one", "hand", ",", "the", "nextword", "index", "postings", "list", "for", "``", "new", "''", "``", "hampshire", "''", "can", "not", "be", "longer", "than", "the", "inverted", "index", "postings", "list", "for", "``", "hampshire", "''", "and", "in", "all", "likelihood", "is", "a", "great", "deal", "shorter", ".", "On", "the", "other", "hand", ",", "compared", "to", "the", "inverted", "index", ",", "an", "extra", "disk", "access", "is", "required", "to", "fetch", "a", "postings", "list", "from", "the", "nextword", "index", ".", "In", "our", "implementation", ",", "we", "process", "using", "the", "nextword", "index", "if", "possible", ",", "and", "resort", "to", "the", "inverted", "index", "only", "for", "terms", "that", "are", "not", "in", "an", "indexed", "firstword-nextword", "pair", ".", "In", "summary", ",", "we", "use", "the", "following", "process", ":", "1", ".", "Identify", "all", "pairs", "in", "the", "list", "in", "which", "the", "first", "term", "is", "an", "indexed", "firstword", ".", "Sort", "these", "terms", ",", "and", "prune", "the", "list", "as", "for", "standard", "evaluation", "of", "phrase", "queries", "via", "a", "nextword", "index", ".", "2", ".", "For", "all", "terms", "not", "in", "a", "firstword-nextword", "pair", ",", "sort", ".", "3", ".", "Process", "the", "postings", "lists", "in", "increasing", "order", "of", "firstword", "frequency", ",", "so", "that", "processing", "of", "nextword", "index", "lists", "and", "of", "inverted", "file", "lists", "is", "interleaved", ".", "In", "this", "model", ",", "a", "common", "word", "need", "only", "be", "evaluated", "via", "its", "postings", "list", "in", "the", "inverted", "file", "if", "it", "occurs", "as", "the", "last", "word", "in", "a", "query", ",", "which", "in", "the", "Excite", "query", "log", "is", "a", "rare", "event", ".", "We", "have", "tested", "other", "query", "resolution", "methods", "that", "involved", "term", "sorting", "based", "on", "nextword", "frequency", "-LRB-", "or", "NWF", ",", "the", "number", "of", "nextwords", "for", "a", "firstword", "-RRB-", ",", "inverted", "document", "frequency", "-LRB-", "or", "IDF", ",", "the", "number", "of", "documents", "in", "which", "a", "word", "occurs", "-RRB-", ",", "or", "both", ".", "We", "also", "experimented", "with", "resolving", "nextword", "entries", "of", "a", "given", "query", "always", "first", ",", "or", "always", "last", ".", "We", "found", "overall", "that", "these", "different", "resolution", "methods", "did", "not", "significantly", "vary", "in", "query", "speed", "and", "behaved", "almost", "identically", "to", "sorting", "by", "IDF", "only", ".", "We", "therefore", "sort", "inverted", "index", "terms", "and", "nextword", "terms", "based", "on", "IDF", "since", "we", "do", "not", "need", "to", "keepanother", "statistical", "value", "per", "index", "term", "and", "sorting", "is", "straightforward", ".", "All", "experiments", "were", "run", "on", "an", "Intel", "700", "MHz", "Pentium", "III-based", "server", "with", "2", "Gb", "of", "memory", ",", "running", "the", "Linux", "operating", "system", "under", "light", "load", ".", "In", "Table", "3", "we", "show", "sizes", "of", "nextword", "indexes", "in", "which", "only", "the", "commonest", "terms", "are", "allowed", "as", "firstwords", ".", "The", "table", "shows", "that", "a", "nextword", "index", "that", "contains", "only", "the", "three", "commonest", "terms", "consumes", "254", "Mb", ",", "that", "is", ",", "just", "over", "10", "%", "of", "the", "space", "of", "the", "inverted", "index", "or", "around", "1", "%", "of", "the", "size", "of", "the", "original", "HTML", "collection", ".", "Query", "evaluation", "time", "with", "a", "combined", "index", "is", "shown", "in", "Table", "4", ".", "-LRB-", "The", "``", "0", "''", "line", "is", "repeated", "from", "Table", "2", ".", "-RRB-", "As", "can", "be", "seen", ",", "use", "of", "a", "nextword", "index", "allows", "evaluation", "of", "all", "phrase", "queries", ",", "and", "much", "more", "rapidly", "than", "was", "previously", "possible", ".", "Use", "of", "a", "partial", "nextword", "index", "of", "1", "%", "of", "the", "HTML", "collection", "halves", "query", "evaluation", "time", ";", "a", "partial", "nextword", "219", "in", "hampshire", "historic", "new", "railroads", "In", "Memory", "Vocabulary", "On", "Disk", "Nextword", "Lists", "...", "the", "all", "new", "15", ",", "-LRB-", "<", "15,1", ",", "-LSB-", "100", "-RSB-", ">", ",", "<", "65,1", ",", "-LSB-", "1", "-RSB-", ">", ",", "<", "74,7", ",", "-LSB-", "23,43,54,62,68,114,181", "-RSB-", ">", "...", "-RRB-", "251", ",", "-LRB-", "<", "5,1", ",", "-LSB-", "45", "-RSB-", ">", ",", "<", "9,1", ",", "-LSB-", "6", "-RSB-", ">", "...", "-RRB-", "1", ",", "-LRB-", "<", "9,1", ",", "-LSB-", "7", "-RSB-", ">", "-RRB-", "23", ",", "-LRB-", "<", "9,3", ",", "-LSB-", "4,8,245", "-RSB-", ">", "...", "-RRB-", "2", ",", "-LRB-", "<", "1,1", ",", "-LSB-", "53", "-RSB-", ">", ",", "<", "9,2", ",", "-LSB-", "4,1001", ">", "-RSB-", "-RRB-", "23", ",", "-LRB-", "<", "1,2", ",", "-LSB-", "65,98", "-RSB-", ">", ",", "<", "9,4", ",", "-LSB-", "7,54,64,69", "-RSB-", ">", "...", "-RRB-", "age", "hampshire", "house", "...", "15", ",", "-LRB-", "<", "2,1", ",", "-LSB-", "100", "-RSB-", ">", ",", "<", "6,1", ",", "-LSB-", "1", "-RSB-", ">", ",", "<", "9,8", ",", "-LSB-", "1,5,54,62,68,114,181,203", "-RSB-", ">", "...", "-RRB-", "On", "Disk", "Inverted", "Vectors", "3", ",", "-LRB-", "<", "1,1", ",", "-LSB-", "12", "-RSB-", ">", ",", "<", "34,3", ",", "-LSB-", "23,34,111", "-RSB-", ">", ",", "<", "77,1", ",", "-LSB-", "29", "-RSB-", ">", "-RRB-", "2", ",", "-LRB-", "<", "31,3", ",", "-LSB-", "21,41,91", "-RSB-", ">", ",", "<", "44,1", ",", "-LSB-", "34", "-RSB-", ">", "-RRB-", "305", ",", "-LRB-", "<", "9,2", ",", "-LSB-", "7,54", "-RSB-", ">", ",", "<", "532,1", ",", "-LSB-", "256", "-RSB-", ">", "...", "-RRB-", "2", ",", "-LRB-", "<", "9,1", ",", "-LSB-", "423", "-RSB-", ">", ",", "<", "19,1", ",", "-LSB-", "4", "-RSB-", ">", "-RRB-", "Figure", "3", ":", "A", "combined", "inverted", "file", "and", "nextword", "index", ".", "Table", "3", ":", "Size", "of", "nextword", "index", "-LRB-", "Mb", "-RRB-", "containing", "only", "common", "firstwords", ".", "Number", "of", "Index", "size", "common", "words", "-LRB-", "Mb", "-RRB-", "3", "254", "6", "427", "10", "520", "20", "657", "254", "1366", "index", "of", "less", "than", "3", "%", "of", "the", "size", "of", "the", "collection", "cuts", "time", "to", "a", "third", ".", "These", "are", "substantial", "savings", "at", "low", "cost", ".", "Phrase", "query", "processing", "time", "with", "a", "nextword", "index", "is", "only", "slightly", "greater", "than", "with", "a", "stopped", "inverted", "file", ",", "and", "no", "answers", "are", "lost", ".", "Such", "combined", "processing", "can", "be", "integrated", "with", "other", "heuristics", "for", "phrase", "query", "evaluation", ".", "For", "example", ",", "a", "strategy", "that", "is", "likely", "to", "be", "successful", "in", "the", "context", "of", "a", "web", "search", "engine", "is", "to", "maintain", "indexes", "-LRB-", "perhaps", "for", "a", "limited", "time", "only", "-RRB-", "on", "phrases", ",", "or", "word", "pairs", "from", "phrases", ",", "that", "are", "commonly", "posed", "as", "queries", ".", "Amongst", "our", "132,276", "queries", ",", "72,184", "are", "distinct", ".", "The", "commonest", "phrase", "query", "-LRB-", "thumbnail", "post", "-RRB-", "occurs", "205", "times", "and", "involves", "no", "common", "words", ".", "The", "queries", "themselves", "contain", "92,846", "distinct", "word", "pairs", ";", "the", "commonest", "pair", "occurs", "683", "times", ".", "Indexing", "of", "common", "query", "pairs", "has", "the", "potential", "to", "yield", "significant", "further", "savings", ".", "We", "have", "proposed", "that", "phrase", "queries", "on", "large", "text", "collections", "be", "supported", "by", "use", "of", "a", "small", "auxiliary", "index", ".", "In", "this", "approach", ",", "all", "words", "in", "the", "text", "are", "indexed", "via", "an", "inverted", "file", ";", "in", "addition", ",", "the", "commonest", "words", "are", "indexed", "via", "an", "auxiliary", "nextword", "index", ",", "which", "stores", "postings", "lists", "for", "firstword-nextword", "pairs", ".", "We", "have", "shown", "that", "the", "cost", "of", "evaluating", "phrase", "indexes", "can", "be", "cut", "by", "a", "factor", "of", "three", ",", "with", "an", "auxiliary", "index", "that", "is", "only", "3", "%", "of", "the", "size", "of", "the", "Table", "4", ":", "Times", "for", "phrase", "query", "evaluation", "-LRB-", "seconds", "-RRB-", "on", "a", "combined", "index", ",", "with", "different", "numbers", "of", "common", "words", "used", "in", "the", "nextword", "index", ".", "Results", "are", "shown", "for", "all", "queries", ";", "2-word", "queries", "only", ";", "and", "5-word", "queries", "only", ".", "Number", "of", "Overall", "2-word", "5-word", "common", "words", "time", "-LRB-", "sec", "-RRB-", "queries", "queries", "0", "1.56", "0.49", "6.41", "3", "0.76", "0.31", "2.99", "6", "0.57", "0.31", "2.28", "10", "0.53", "0.30", "2.10", "20", "0.50", "0.30", "1.98", "254", "0.46", "0.27", "1.83", "indexed", "data", ".", "These", "results", "show", "that", "there", "is", "no", "need", "to", "use", "stopping", "in", "phrases", ".", "Indeed", ",", "the", "statistics", "on", "the", "number", "of", "matches", "indicate", "that", "such", "stopping", "leads", "to", "significant", "error", "rates", ".", "While", "it", "can", "be", "argued", "that", "mistakes", "in", "matching", "due", "to", "stopping", "of", "common", "words", "are", "in", "many", "cases", "unimportant", ",", "there", "are", "numerous", "queries", "where", "the", "stopwords", "are", "significant", ";", "moreover", ",", "we", "have", "demonstrated", "that", "there", "is", "no", "reason", "to", "make", "such", "mistakes", "at", "all", ".", "Our", "schemes", "have", "scope", "for", "improvement", ".", "In", "particular", ",", "choosing", "of", "pairs", "during", "query", "evaluation", "requires", "further", "exploration", ",", "and", "we", "are", "further", "investigating", "structures", "for", "representing", "nextword", "lists", ".", "However", ",", "our", "results", "show", "that", "evaluation", "of", "phrase", "queries", "can", "be", "dramatically", "accelerated", "with", "only", "a", "small", "additional", "index", ",", "and", "that", "stopping", "of", "phrases", "leads", "to", "errors", "and", "is", "not", "necessary", "for", "efficiency", ".", "220", "This", "research", "was", "supported", "by", "the", "Australian", "Research", "Council", ".", "We", "thank", "Amanda", "Spink", ",", "Doug", "Cutting", ",", "Jack", "Xu", ",", "and", "Excite", "Inc.", "for", "providing", "the", "query", "log", ".", "-LSB-", "1", "-RSB-", "V.", "N.", "Anh", ",", "O.", "Kretser", ",", "and", "A.", "Moffat", ".", "Vector-Space", "ranking", "with", "effective", "early", "termination", ".", "In", "W.", "B.", "Croft", ",", "D.", "J.", "Harp", "er", ",", "D.", "H.", "Kraft", ",", "and", "J.", "Zobel", ",", "editors", ",", "Proc", ".", "ACM-SIGIRInternational", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "35", "42", ",", "New", "York", ",", "Sept.", "2001", ".", "-LSB-", "2", "-RSB-", "D.", "Bahle", ",", "H.E.", "Williams", ",", "and", "J.", "Zobel", ".", "Compaction", "techniques", "for", "nextword", "indexes", ".", "In", "Proc", ".", "8th", "International", "Symposium", "on", "String", "Processing", "and", "Information", "Retrieval", "-LRB-", "SPIRE2001", "-RRB-", ",", "pages", "33", "45", ",", "San", "Rafael", ",", "Chile", ",", "2001", ".", "-LSB-", "3", "-RSB-", "D.", "Bahle", ",", "H.", "E.", "Williams", ",", "and", "J.", "Zobel", ".", "Optimised", "phrase", "querying", "and", "browsing", "in", "text", "databases", ".", "In", "M.", "Oudshoorn", ",", "editor", ",", "Proc", ".", "Australasian", "Computer", "Science", "Conference", ",", "pages", "11", "19", ",", "Gold", "Coast", ",", "Australia", ",", "Jan.", "2001", ".", "-LSB-", "4", "-RSB-", "P.", "Bruza", ",", "R.", "McArthur", ",", "and", "S.", "Dennis", ".", "Interactive", "internet", "search", ":", "keyword", ",", "directory", "and", "query", "reformulation", "mechanisms", "compared", ".", "In", "N.", "J.", "Belkin", ",", "P.", "Ingwersen", ",", "and", "M.-K", ".", "Leong", ",", "editors", ",", "Proc", ".", "ACM-SIGIRInternational", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "280", "287", ",", "Athens", ",", "2000", ".", "-LSB-", "5", "-RSB-", "C.", "L.", "Clarke", ",", "G.", "V.", "Cormack", ",", "and", "E.", "A.", "Tudhope", ".", "Relevance", "ranking", "for", "one", "-", "to", "three-term", "queries", ".", "In", "Proc", ".", "of", "RIAO-97", ",", "5th", "International", "Conference", "``", "Recherche", "d'Information", "Assistee", "par", "Ordinateur", "''", ",", "pages", "388", "400", ",", "Montreal", ",", "CA", ",", "1997", ".", "-LSB-", "6", "-RSB-", "W.", "B.", "Croft", ",", "H.", "R.", "Turtle", ",", "and", "D.", "D.", "Lewis", ".", "The", "use", "of", "phrases", "and", "structured", "queries", "in", "information", "retrieval", ".", "In", "A.", "Bookstein", ",", "Y.", "Chiaramella", ",", "G.", "Salton", ",", "and", "V.", "V.", "Raghavan", ",", "editors", ",", "Proc", ".", "ACM-SIGIR", "International", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "32", "45", ",", "Chicago", ",", "1991", ".", "-LSB-", "7", "-RSB-", "E.", "F.", "de", "Lima", "and", "J.", "O.", "Pedersen", ".", "Phrase", "recognition", "and", "expansion", "for", "short", ",", "precision-biased", "queries", "based", "on", "a", "query", "log", ".", "In", "Proc", ".", "ACM-SIGIRInternational", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "145", "152", ",", "Berkeley", ",", "1999", ".", "-LSB-", "8", "-RSB-", "C.", "Gutwin", ",", "G.", "Paynter", ",", "I.", "Witten", ",", "C.", "NevillManning", ",", "and", "E.", "Frank", ".", "Improving", "browsing", "in", "digital", "libraries", "with", "keyphrase", "indexes", ".", "Decision", "Support", "Systems", ",", "27", "-LRB-", "1/2", "-RRB-", ":", "81", "104", ",", "1998", ".", "-LSB-", "9", "-RSB-", "D.", "Hawking", ",", "N.", "Craswell", ",", "P.", "Thistlewaite", ",", "and", "D.", "Harman", ".", "Results", "and", "challenges", "in", "web", "search", "evaluation", ".", "In", "Proc", ".", "of", "the", "Eighth", "International", "World-Wide", "Web", "Conference", ",", "volume", "31", ",", "pages", "1321", "1330", ",", "May", "1999", ".", "-LSB-", "10", "-RSB-", "D.", "D.", "Lewis", "and", "W.", "B.", "Croft", ".", "Term", "clustering", "of", "syntactic", "phrases", ".", "In", "J.-L", ".", "Vidick", ",", "editor", ",", "Proc", ".", "ACM-SIGIRInternational", "Conference", "on", "Research", "and", "Development", "in", "Information", "Retrieval", ",", "pages", "385", "404", ",", "1990", ".", "-LSB-", "11", "-RSB-", "A.", "Moffat", "and", "J.", "Zobel", ".", "Self-indexing", "inverted", "files", "for", "fast", "text", "retrieval", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "14", "-LRB-", "4", "-RRB-", ":", "349", "379", ",", "1996", ".", "-LSB-", "12", "-RSB-", "G.", "W.", "Paynter", ",", "I.", "H.", "Witten", ",", "S.", "J.", "Cunningham", ",", "and", "G.", "Buchanan", ".", "Scalable", "browsing", "for", "large", "collections", ":", "A", "case", "study", ".", "In", "Proc", ".", "of", "the", "5th", "ACM", "International", "Conference", "on", "Digital", "Libraries", ",", "pages", "215", "223", ",", "San", "Antonio", ",", "2000", ".", "-LSB-", "13", "-RSB-", "M.", "Persin", ",", "J.", "Zobel", ",", "and", "R.", "Sacks-Davis", ".", "Filtered", "document", "retrieval", "with", "frequency-sorted", "indexes", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "47", "-LRB-", "10", "-RRB-", ":", "749", "764", ",", "1996", ".", "-LSB-", "14", "-RSB-", "A.", "Spink", ",", "D.", "Wolfram", ",", "B.", "J.", "Jansen", ",", "and", "T.", "Saracevic", ".", "Searching", "the", "web", ":", "The", "public", "and", "their", "queries", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "52", "-LRB-", "3", "-RRB-", ":", "226", "234", ",", "2001", ".", "-LSB-", "15", "-RSB-", "H.", "Williams", ",", "J.", "Zobel", ",", "and", "P.", "Anderson", ".", "What", "'s", "next", "?", "index", "structures", "for", "efficient", "phrase", "querying", ".", "In", "M.", "Orlowska", ",", "editor", ",", "Proc", ".", "Australasian", "Database", "Conference", ",", "pages", "141", "152", ",", "Auckland", ",", "New", "Zealand", ",", "1999", ".", "-LSB-", "16", "-RSB-", "I.", "H.", "Witten", ",", "A.", "Moffat", ",", "and", "T.", "C.", "Bell", ".", "Managing", "Gigabytes", ":", "Compressing", "and", "Indexing", "Documents", "and", "Images", ".", "Morgan", "Kaufmann", ",", "San", "Francisco", ",", "California", ",", "second", "edition", ",", "1999", ".", "-LSB-", "17", "-RSB-", "J.", "Zobel", "and", "A.", "Moffat", ".", "Exploring", "the", "similarity", "space", ".", "SIGIRForum", ",", "32", "-LRB-", "1", "-RRB-", ":", "18", "34", ",", "1998", ".", "221"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["query evaluation", "inverted index", "nextword index", "stopping", "common words", "phrase query", "indexing"], "abstractive_keyphrases": ["phrase query evaluation", "index representation", "evaluation efficiency"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "5", "document": ["A", "Dependability", "Perspective", "on", "Emerging", "Technologies", "Emerging", "technologies", "are", "set", "to", "provide", "further", "provisions", "for", "computing", "in", "times", "when", "the", "limits", "of", "current", "technology", "of", "microelectronics", "become", "an", "ever", "closer", "presence", ".", "A", "technology", "roadmap", "document", "lists", "biologically-inspired", "computing", "and", "quantum", "computing", "as", "two", "emerging", "technology", "vectors", "for", "novel", "computing", "architectures", "-LSB-", "43", "-RSB-", ".", "But", "the", "potential", "benefits", "that", "will", "come", "from", "entering", "the", "nanoelectronics", "era", "and", "from", "exploring", "novel", "nanotechnologies", "are", "foreseen", "to", "come", "at", "the", "cost", "of", "increased", "sensitivity", "to", "influences", "from", "the", "surrounding", "environment", ".", "This", "paper", "elaborates", "on", "a", "dependability", "perspective", "over", "these", "two", "emerging", "technology", "vectors", "from", "a", "designer", "'s", "standpoint", ".", "Maintaining", "or", "increasing", "the", "dependability", "of", "unconventional", "computational", "processes", "is", "discussed", "in", "two", "different", "contexts", ":", "one", "of", "a", "bio-inspired", "computing", "architecture", "-LRB-", "the", "Embryonics", "project", "-RRB-", "and", "another", "of", "a", "quantum", "computational", "architecture", "-LRB-", "the", "QUERIST", "project", "-RRB-", ".", "B.", "8.1", "-LSB-", "Performance", "and", "Reliability", "-RSB-", ":", "Reliability", ",", "Testing", ",", "and", "Fault-Tolerance", ".", "C.", "4", "-LSB-", "Performance", "of", "Systems", "-RSB-", ":", "Fault-Tolerance", ",", "Reliability", ",", "Availability", ",", "and", "Serviceability", ".", "Design", ",", "Reliability", ",", "Theory", ".", "High-end", "computing", "has", "reached", "nearly", "every", "corner", "of", "our", "present", "day", "life", ",", "in", "a", "variety", "of", "forms", "taylored", "to", "accommodate", "either", "general", "purpose", "or", "specialized", "applications", ".", "Computers", "may", "be", "considerred", "as", "fine", "exponents", "of", "the", "present", "days", "'", "technological", "wave", "if", "not", "their", "finest", ",", "they", "certainly", "do", "count", "as", "solid", ",", "indispensable", "support", "for", "the", "finest", ".", "From", "the", "very", "beginning", "of", "the", "computing", "advent", ",", "the", "main", "target", "was", "squeezing", "out", "any", "additional", "performance", ".", "The", "inception", "period", "was", "not", "always", "trouble-free", ",", "accurate", "computation", "results", "being", "required", "at", "an", "ever", "faster", "pace", "on", "a", "road", "that", "has", "become", "manifold", ":", "some", "applications", "do", "require", "computational", "speed", "as", "a", "top", "priority", ";", "others", "are", "set", "for", "the", "highest", "possible", "dependability", ",", "while", "still", "delivering", "sufficient", "performance", "levels", ".", "Several", "definitions", "for", "dependability", "have", "been", "proposed", ":", "``", "the", "ability", "of", "a", "system", "to", "avoid", "service", "failures", "that", "are", "more", "frequent", "or", "more", "severe", "than", "is", "acceptable", "''", "-LSB-", "2", "-RSB-", ",", "or", "``", "the", "property", "of", "a", "computer", "system", "such", "that", "reliance", "can", "justifiably", "be", "placed", "on", "the", "service", "it", "delivers", "''", "-LSB-", "9", "-RSB-", "-LSB-", "45", "-RSB-", ".", "Dependability", "is", "therefore", "a", "synthetic", "term", "specifying", "a", "qualitative", "system", "descriptor", "that", "can", "generally", "be", "quantified", "through", "a", "list", "of", "attributes", "including", "reliability", ",", "fault", "tolerance", ",", "availability", ",", "and", "others", ".", "In", "real", "world", ",", "a", "dependable", "system", "would", "have", "to", "operate", "normally", "over", "extended", "periods", "of", "time", "before", "experiencing", "any", "fail", "-LRB-", "reliability", ",", "availability", "-RRB-", "and", "to", "recover", "quickly", "from", "errors", "-LRB-", "fault", "tolerance", ",", "self-test", "and", "self-repair", "-RRB-", ".", "The", "term", "``", "acceptable", "''", "has", "an", "essential", "meaning", "within", "the", "dependability", "'s", "definition", ",", "setting", "the", "upper", "limits", "of", "the", "damages", "that", "can", "be", "supported", "by", "the", "system", "while", "still", "remaining", "functional", "or", "computationally", "accurate", ".", "A", "dependability", "analysis", "should", "take", "into", "consideration", "if", "not", "quantitative", "figures", "for", "the", "acceptable", "damage", "limit", ",", "at", "least", "a", "qualitative", "parameter", "representation", "for", "its", "attributes", ".", "Dependable", "systems", "are", "therefore", "crucial", "for", "applications", "that", "prohibit", "or", "limit", "human", "interventions", ",", "such", "as", "long-term", "exposure", "to", "aggressive", "-LRB-", "or", "even", "hostile", "-RRB-", "environments", ".", "The", "best", "examples", "are", "long", "term", "operating", "machines", "as", "required", "by", "managing", "deep-underwater/nuclear", "activities", "and", "outer", "space", "exploration", ".", "There", "are", "three", "main", "concerns", "that", "should", "be", "posed", "through", "a", "system", "'s", "design", "in", "order", "to", "achieve", "high", "dependability", "-LSB-", "42", "-RSB-", ":", "1", ".", "Specifying", "the", "dependability", "requirements", ":", "selecting", "the", "dependability", "requirements", "that", "have", "to", "be", "pursued", "in", "building", "the", "computing", "system", ",", "based", "on", "known", "or", "assumed", "goals", "for", "the", "part", "of", "the", "world", "that", "is", "directly", "affected", "by", "the", "computing", "system", ";", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "2", ".", "Designing", "and", "implementing", "the", "computing", "system", "so", "as", "to", "achieve", "the", "dependability", "required", ".", "However", ",", "this", "step", "is", "hard", "to", "implement", "since", "the", "system", "reliability", "can", "not", "be", "satisfied", "CF", "'", "06", ",", "May", "3", "5", ",", "2006", ",", "Ischia", ",", "Italy", ".", "Copyright", "2006", "ACM", "1-59593-302-6", "/", "06/0005", "...", "$", "5.00", ".", "187", "simply", "from", "careful", "design", ".", "Some", "techniques", "can", "be", "used", "to", "help", "to", "achieve", "this", "goal", ",", "such", "as", "using", "fault", "injection", "to", "evaluate", "the", "design", "process", ".", "3", ".", "Validating", "a", "system", ":", "gaining", "confidence", "that", "a", "certain", "dependability", "requirement/goal", "has", "been", "attained", ".", "This", "paper", "will", "address", "these", "main", "concerns", "through", "an", "attempt", "to", "provide", "an", "in-depth", "view", "over", "modern", "computing", "directions", "and", "paradigms", ",", "which", "we", "consider", "to", "be", "representative", "for", "the", "efforts", "involved", "in", "improving", "overall", "dependability", ".", "1.1", "Motivations", "We", "have", "listed", "some", "of", "the", "applications", "of", "dependable", "computing", "systems", "as", "linked", "to", "activities", "that", "take", "place", "in", "special", "environments", ",", "such", "as", "deep", "underwater", "or", "outer", "space", ".", "At", "a", "very", "first", "sight", ",", "these", "applications", "would", "appear", "specific", "enough", "to", "not", "encourage", "a", "specific", "design", "for", "dependability", "approach", "in", "computing", ".", "However", ",", "evidence", "suggest", "this", "is", "hardly", "the", "case", ";", "on", "the", "contrary", ",", "it", "is", "difficult", "to", "imagine", "a", "domain", "left", "unconquered", "by", "computer", "systems", "during", "times", "when", "industrial", ",", "transport", ",", "financial", "services", "and", "others", "do", "rely", "heavily", "on", "accurate", "computer", "operation", "at", "any", "given", "moment", ".", "If", "computer", "innacuracies", "could", "be", "more", "easily", "overlooked", "at", "home", ",", "professional", "environments", "can", "not", "accept", "such", "missbehaviors", ".", "Yet", "the", "recent", "history", "of", "computing", "provides", "evidence", "that", "dependability", "is", "not", "a", "sine", "qua", "non", "feature", ".", "During", "their", "life", "cycle", ",", "electronic", "devices", "constantly", "suffer", "a", "number", "of", "influences", "that", "manifest", "predominantly", "over", "transient", "regimes", ",", "which", "in", "turn", "introduce", "a", "variety", "of", "errors", "unified", "in", "the", "literature", "under", "the", "name", "of", "transient", "faults", ",", "soft", "errors", "or", "single", "event", "upsets", "-LRB-", "SEUs", "-RRB-", ".", "The", "rate", "electronic", "devices", "are", "affected", "with", "is", "known", "under", "the", "term", "of", "soft", "error", "rate", "or", "simply", "SER", "and", "is", "measured", "in", "fails", "per", "unit", "time", ".", "Because", "it", "relies", "on", "transient", "phenomena", "due", "to", "changing", "states", "and", "logical", "values", ",", "digital", "electronics", "makes", "up", "for", "a", "special", "category", "that", "is", "also", "affected", "by", "soft", "errors", ".", "No", "matter", "the", "name", "they", "are", "referred", "under", ",", "these", "errors", "affect", "the", "computing", "processes", "and", "are", "due", "to", "electromagnetic", "noise", "and/or", "external", "radiations", "rather", "than", "design", "or", "manufacturing", "flaws", "-LSB-", "28", "-RSB-", ".", "One", "cause", "at", "the", "origin", "of", "soft", "fails", "affecting", "digital", "devices", "is", "known", "to", "be", "due", "to", "radioactive", "decay", "processes", ".", "Radioactive", "isotopes", ",", "widely", "used", "for", "a", "range", "of", "purposes", ",", "might", "contaminate", "semiconductor", "materials", "leading", "to", "soft", "errors", ";", "evidence", "is", "available", "throughout", "the", "literature", ",", "both", "by", "empirical", "observations", "and", "experimental", "results", "-LSB-", "20", "-RSB-", ".", "Consequently", ",", "cosmic", "rays", ",", "containing", "a", "broad", "range", "of", "energized", "atomic/subatomic", "particles", "may", "lead", "to", "the", "appearance", "of", "soft", "fails", ".", "Computers", "therefore", "are", "susceptive", "to", "soft", "errors", ",", "an", "issue", "that", "will", "potentially", "become", "essential", "with", "the", "advent", "of", "emerging", "technologies", ".", "As", "acknowledged", "by", "the", "International", "Technology", "Roadmap", "for", "Semiconductors", "-LRB-", "ITRS", "-RRB-", ",", "issued", "at", "the", "end", "of", "2004", "-LSB-", "43", "-RSB-", ",", "the", "microelectronics", "industry", "faces", "a", "challenging", "task", "in", "going", "to", "and", "beyond", "45nm", "scale", "in", "order", "to", "address", "``", "beyond", "CMOS", "''", "applications", ".", "Scaling", "down", "the", "technology", "will", "enable", "an", "extremely", "large", "number", "of", "devices", "to", "be", "integrated", "onto", "the", "same", "chip", ".", "However", ",", "the", "great", "challenge", "will", "be", "to", "ensure", "the", "new", "devices", "will", "be", "operational", "at", "this", "scale", "-LSB-", "6", "-RSB-", ",", "since", "they", "will", "exhibit", "a", "sensitive", "behavior", "to", "soft", "fails", ".", "In", "order", "to", "address", "the", "negative", "effects", "brought", "by", "technology", "scaling", ",", "it", "is", "to", "be", "expected", "that", "significant", "control", "resources", "will", "need", "to", "be", "implem", "ented", "-LSB-", "3", "-RSB-", ".", "Another", "challenging", "aspect", "concerning", "emerging", "technologies", "is", "to", "match", "the", "newly", "developed", "device", "technologies", "with", "new", "system", "architectures", ",", "a", "synergistic/collaborative", "development", "of", "the", "two", "being", "seen", "as", "likely", "to", "be", "very", "rewarding", ".", "The", "potential", "of", "biologically-inspired", "and", "quantum", "computing", "architectures", "is", "acknowledged", "by", "the", "ITRS", "report", "on", "emerging", "technologies", "-LSB-", "43", "-RSB-", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "This", "paper", "will", "investigate", "the", "relevance", "of", "soft", "fails", "and", "attempt", "to", "provide", "means", "of", "harnessing", "their", "negative", "effects", "on", "modern", "computing", "in", "the", "context", "of", "biologically-inspired", "and", "quantum", "computing", "architectures", ".", "Figure", "1", ":", "Bio-inspired", "and", "quantum", "computing", "are", "acknowledged", "as", "architectural", "technology", "vectors", "in", "emerging", "technologies", "-LSB-", "43", "-RSB-", "1.2", "Paper", "Outline", "This", "paper", "is", "structured", "as", "follows", ".", "Section", "2", "will", "address", "the", "first", "main", "concern", ",", "that", "is", ",", "specifying", "and", "selecting", "dependability", "requirements", "that", "will", "have", "to", "be", "pursued", "when", "building", "a", "computational", "platform", ".", "Parameters", "that", "describe", "and", "quantify", "dependability", "attributes", ",", "such", "as", "reliability", ",", "will", "be", "introduced", ",", "with", "a", "highlight", "on", "their", "accepted", "models", "and", "their", "issues", ".", "A", "particular", "consideration", "will", "be", "given", "to", "the", "failure", "rate", "parameter", ",", "which", "is", "the", "basis", "of", "all", "reliability", "analyses", ".", "Section", "3", "will", "approach", "some", "of", "the", "means", "for", "design", "for", "dependability", ";", "it", "will", "therefore", "elaborate", "upon", "two", "emerging", "technology", "vectors", ",", "as", "seen", "by", "the", "ITRS", "report", "-LSB-", "43", "-RSB-", ",", "which", "define", "two", "novel", "architectures", ",", "namely", "biologically-inspired", "-LRB-", "or", "bio-inspired", "-RRB-", "and", "quantum", "computing", ".", "We", "will", "introduce", "two", "projects", "and", "their", "corresponding", "architectures", ",", "called", "Embryonics", "-LRB-", "as", "a", "biologically-inspired", "computing", "platform", "-RRB-", "and", "QUERIST", "-LRB-", "as", "a", "quantum", "computing", "platform", "designed", "to", "allow", "and", "study", "error", "injection", "-RRB-", ".", "These", "two", "architectures", "are", "representative", "for", "the", "coming", "age", "of", "nano-computing", ",", "where", "computational", "processes", "take", "place", "as", "encoded", "at", "the", "very", "inner", "core", "level", "of", "matter", ",", "be", "it", "semiconductor", "material", "-LRB-", "for", "nanoelectronics", ",", "targetted", "here", "by", "the", "Embryonics", "project", "-RRB-", "or", "atomic", "scale", "dynamics", "-LRB-", "for", "quantum", "computing", ",", "targetted", "here", "by", "the", "QUERIST", "project", "-RRB-", ".", "This", "section", "will", "then", "introduce", "dependability", "aspects", "within", "bio-inspired", "computing", "-LRB-", "the", "Embryonics", "project", "being", "investigated", "in", "SubSection", "3.1", "-RRB-", "and", "within", "quantum", "computing", "-LRB-", "the", "QUERIST", "project", "being", "investigated", "in", "SubSection", "3.2", "-RRB-", ".", "Finally", ",", "Section", "4", "will", "present", "the", "conclusions", "and", "prospects", "for", "designing", "emerging", "technology", "dependable", "computing", "systems", ",", "as", "we", "see", "them", ".", "188", "An", "important", "dependability", "attribute", "for", "any", "given", "system", "lies", "in", "its", "capacity", "to", "operate", "reliably", "for", "a", "given", "time", "interval", ",", "knowing", "that", "normal", "operation", "was", "delivered", "at", "initial", "time", "-LSB-", "8", "-RSB-", ".", "Reliability", "functions", "are", "modelled", "as", "exponential", "functions", "of", "parameter", ",", "which", "is", "the", "failure", "rate", ".", "The", "reliability", "of", "a", "system", "is", "the", "consequence", "of", "the", "reliability", "of", "all", "of", "its", "subsystems", ".", "The", "heterogeneity", "of", "the", "system", "leads", "to", "a", "difficult", "quantitative", "assessment", "of", "its", "overall", "reliability", ";", "moreover", ",", "estimating", "the", "reliability", "functions", "is", "further", "made", "difficult", "because", "formal", "rigour", "is", "not", "commercially", "available", ",", "this", "being", "kept", "under", "military", "mandate", "-LSB-", "44", "-RSB-", ".", "The", "failure", "rate", "for", "a", "given", "system", "can", "be", "modelled", "as", "a", "function", "of", "the", "failure", "rates", "of", "its", "individual", "subsystems", ",", "suggestions", "being", "present", "in", "the", "MIL-HDBC-217", "document", ",", "which", "is", "publicly", "available", "-LSB-", "44", "-RSB-", ".", "However", ",", "this", "document", "has", "been", "strongly", "criticized", "for", "its", "failure", "rate", "estimations", "based", "on", "the", "Arrhenius", "model", ",", "which", "relates", "the", "failure", "rate", "to", "the", "operating", "temperature", ":", "B", "E", "K", "T", "Ke", "=", "-LRB-", "1", "-RRB-", "where", "K", "is", "a", "constant", ",", "K", "B", "is", "Boltzmann", "'s", "constant", ",", "T", "is", "the", "absolute", "temperature", "and", "E", "is", "the", "``", "activation", "energy", "''", "for", "the", "process", ".", "Quantitative", "values", "for", "failure", "rates", "show", "significant", "differences", "between", "those", "predicted", "using", "MIL-HDBC-217", "and", "those", "from", "testing", "real", "devices", "-LRB-", "see", "-RRB-", ".", "There", "are", "two", "conclusions", "that", "can", "be", "drawn", "from", "this", ":", "B", "-LSB-", "18", "-RSB-", "Figure", "2", "1", ".", "quantitative", "estimations", "for", "failure", "rate", "values", "are", "strongly", "dependant", "on", "the", "quality", "of", "information", "used", ";", "unfortunately", ",", "current", "reliable", "information", "about", "electronic", "devices", "is", "known", "to", "be", "lacking", "-LSB-", "44", "-RSB-", ";", "2", ".", "despite", "differences", "between", "predicted", "and", "real", "values", ",", "the", "MIL-HDBC-217", "methodology", "can", "be", "useful", "for", "qualitative", "analyses", "in", "order", "to", "take", "decisions", "regarding", "sub-system", "parts", "that", "should", "benefit", "from", "improved", "designs", ".", "Figure", "2", ".", "Predicted", "vs", "real", "failure", "rates", "plotted", "against", "temperature", "-LSB-", "18", "-RSB-", "So", "far", "the", "failure", "rate", "of", "digital", "devices", "has", "been", "considerred", "as", "due", "to", "internal", "causes", ".", "However", ",", "this", "is", "not", "always", "the", "case", ",", "soft", "fails", "being", "equally", "present", "due", "to", "the", "aggressive", "influences", "of", "the", "external", "environment", ",", "which", "also", "have", "to", "be", "modelled", "-LSB-", "22", "-RSB-", ".", "The", "external", "envirnment", "features", "highly", "dynamic", "changes", "in", "its", "parameters", ",", "which", "will", "eventually", "affect", "the", "normal", "operation", "of", "digital", "devices", "that", "lack", "sufficient", "protection", "or", "ability", "to", "adapt", ".", "Ideally", ",", "computing", "devices", "would", "behave", "in", "a", "consistent", "and", "accurate", "manner", "regardless", "of", "fluctuations", "in", "environmental", "parameters", ".", "This", "is", "either", "a", "consequence", "of", "soft", "error", "mitigation", "techniques", "or", "due", "to", "flexible", "hardware/software", "functionality", "that", "allow", "the", "system", "as", "a", "whole", "to", "adapt", "to", "environamental", "changes", "and", "tolerate", "induced", "faults", ".", "While", "certain", "soft", "error", "mitigation", "techniques", "are", "available", ",", "the", "technology", "scaling", "towards", "nanoelectronics", "affects", "their", "efficiency", "by", "integrating", "a", "larger", "number", "of", "devices", "per", "chip", "-LRB-", "which", "requires", "a", "larger", "amount", "of", "redundant/control", "logic", "or", "other", "measures", "-RRB-", ",", "which", "feature", ",", "at", "the", "same", "time", ",", "smaller", "dimensions", "-LRB-", "which", "renders", "an", "electronic", "device", "much", "more", "senzitive", "to", "the", "influence", "of", "stray", "energetic", "particles", "that", "reach", "it", "as", "part", "of", "cosmic", "rays", "-RRB-", ".", "Both", "aspects", "are", "involved", "in", "the", "development", "of", "the", "two", "emerging", "technology", "vectors", "mentioned", "in", "SubSection", "1.1", ",", "although", "having", "slightly", "different", "motivations", ":", "while", "the", "nature", "of", "the", "quantum", "environment", "prohibits", "precise", "computation", "in", "the", "absence", "of", "fault", "tolerance", "techniques", ",", "such", "techniques", "are", "targetted", "by", "bio-inspired", "computing", "as", "means", "of", "improving", "the", "dependability", "of", "a", "computing", "platform", ".", "2.1", "Bio-Inspired", "Computing", "If", "living", "beings", "may", "be", "considered", "to", "fulfill", "computational", "tasks", ",", "then", "Nature", "is", "the", "ultimate", "engineer", ":", "each", "of", "the", "living", "beings", "exhibit", "solutions", "that", "were", "successfully", "tested", "and", "refined", "in", "such", "ways", "human", "engineers", "will", "never", "afford", ".", "One", "reason", "is", "time", ":", "the", "testing", "period", "coinciding", "with", "the", "very", "existence", "of", "life", "itself", ".", "Another", "reason", "is", "variety", "and", "complexity", ":", "Nature", "has", "found", "and", "adapted", "a", "variety", "of", "solutions", "to", "address", "complex", "survivability", "issues", "in", "a", "dynamically", "changing", "environment", ".", "No", "matter", "how", "Nature", "approached", "the", "process", "of", "evolution", ",", "engineering", "could", "perhaps", "benefit", "most", "from", "drawing", "inspiration", "from", "its", "mechanisms", "rather", "from", "trying", "to", "develop", "particular", "techniques", ".", "Bio-inspired", "computing", "is", "not", "a", "new", "idea", ".", "John", "von", "Neumann", "was", "preoccupied", "to", "design", "a", "machine", "that", "could", "replicate", "itself", "and", "was", "quite", "interested", "in", "the", "study", "of", "how", "the", "behavior", "of", "the", "human", "brain", "could", "be", "implemented", "by", "a", "computer", "-LSB-", "13", "-RSB-", "-LSB-", "14", "-RSB-", ".", "He", "also", "pioneered", "the", "field", "of", "dependable", "computing", "by", "studying", "the", "possibility", "of", "building", "reliable", "machines", "out", "of", "unreliable", "components", "-LSB-", "15", "-RSB-", ".", "Unfortunately", ",", "the", "dream", "of", "implementing", "his", "self-reproducing", "automata", "could", "not", "become", "true", "until", "the", "1990s", ",", "when", "massively", "programmable", "logic", "opened", "the", "new", "era", "of", "reconfigurable", "computing", ".", "But", "when", "trying", "to", "adapt", "nature", "'s", "mechanisms", "in", "digital", "devices", ",", "it", "becomes", "most", "evident", "that", "biological", "organisms", "are", "rightfully", "the", "most", "intricate", "structures", "known", "to", "man", ".", "They", "continuously", "demonstrate", "a", "highly", "complex", "behavior", "due", "to", "massive", ",", "parallel", "cooperation", "between", "huge", "numbers", "of", "relatively", "simple", "elements", ",", "the", "cells", ".", "And", "considering", "uncountable", "variety", "of", "living", "beings", ",", "with", "a", "life", "span", "up", "to", "several", "hundreds", "-LRB-", "for", "the", "animal", "regnum", "-RRB-", "or", "even", "thousands", "-LRB-", "for", "the", "vegetal", "regnum", "-RRB-", "of", "years", ",", "it", "seems", "nature", "is", "the", "closest", "spring", "of", "inspiration", "for", "designing", "dependable", ",", "fault", "tolerant", "systems", ".", "Investigating", "the", "particularities", "of", "natural", "systems", ",", "a", "taxonomy", "of", "three", "categories", "of", "processes", "can", "be", "identified", "-LSB-", "32", "-RSB-", ":", "1", ".", "Phylogenetic", "processes", "constitute", "the", "first", "level", "of", "organization", "of", "the", "living", "matter", ".", "They", "are", "concerned", "with", "the", "temporal", "evolution", "of", "the", "genetic", "heritage", "of", "all", "individuals", ",", "189", "therefore", "mastering", "the", "evolution", "of", "all", "species", ".", "The", "phylogenetic", "processes", "rely", "on", "mechanisms", "such", "as", "recombination", "and", "mutation", ",", "which", "are", "essentially", "nondeterministic", ";", "the", "error", "rate", "ensures", "here", "nature", "'s", "diversity", ".", "2", ".", "Ontogenetic", "processes", "represent", "the", "second", "level", "of", "organization", "of", "the", "living", "matter", ".", "They", "are", "also", "concerned", "with", "the", "temporal", "evolution", "of", "the", "genetic", "heritage", "of", ",", "in", "this", "case", ",", "a", "single", ",", "multicellular", "individual", ",", "therefore", "mastering", "an", "individual", "'s", "development", "from", "the", "stage", "of", "a", "single", "cell", ",", "the", "zygote", ",", "through", "succesive", "cellular", "division", "and", "specialization", ",", "to", "the", "adult", "stage", ".", "These", "processes", "rely", "on", "deterministic", "mechanisms", ";", "any", "error", "at", "this", "level", "results", "in", "malformations", ".", "3", ".", "Epigenetic", "processes", "represent", "the", "third", "level", "of", "organization", "of", "the", "living", "matter", ".", "They", "are", "concerned", "with", "the", "integration", "of", "interactions", "with", "the", "surrounding", "environment", "therefore", "resulting", "in", "what", "we", "call", "learning", "systems", ".", "This", "taxonomy", "is", "important", "in", "that", "it", "provides", "a", "model", "called", "POE", "-LRB-", "from", "Phylogeny", ",", "Ontogeny", "and", "Epigenesis", "-RRB-", "that", "inspires", "the", "combination", "of", "processes", "in", "order", "to", "create", "novel", "bio-inspired", "hardware", "-LRB-", "see", "Figure", "3", "-RRB-", ".", "We", "believe", "this", "is", "also", "important", "from", "a", "dependability", "engineering", "perspective", ",", "for", "the", "following", "reasons", ":", "1", ".", "Phylogenetic", "processes", "were", "assimilated", "by", "modern", "computing", "as", "evolutionary", "computation", ",", "including", "genetic", "algorithms", "and", "genetic", "programming", ".", "The", "essence", "of", "any", "genetic", "algorithm", "is", "the", "derivation", "of", "a", "solution", "space", "based", "on", "recombination", ",", "crossover", "and", "mutation", "processes", "that", "spawn", "a", "population", "of", "individuals", ",", "each", "encoding", "a", "possible", "solution", ".", "One", "may", "consider", "that", "each", "such", "step", ",", "with", "the", "exception", "of", "discovering", "the", "solution", ",", "is", "equivalent", "to", "a", "process", "of", "error", "injection", ",", "which", "in", "turn", "leads", "to", "wandering", "from", "the", "optimal", "solution", "-LRB-", "or", "class", "of", "solutions", "-RRB-", ".", "However", ",", "genetic", "algorithms", "prove", "to", "be", "successful", "despite", "this", "error", "injection", ",", "the", "fitness", "function", "being", "responsible", "for", "the", "successful", "quantification", "of", "the", "significance", "of", "the", "``", "error", "''", ".", "Therefore", "genetic", "computation", "is", "intrinsicaly", "resilient", "to", "faults", "and", "errors", ",", "largely", "due", "to", "the", "fact", "that", "they", "are", "part", "of", "the", "very", "process", "that", "generates", "the", "solutions", ".", "2", ".", "Ontogenetic", "processes", "have", "been", "implemented", "in", "digital", "hardware", "with", "modular", "and", "uniform", "architectures", ".", "Such", "an", "architecture", "enables", "the", "implementation", "of", "mechanisms", "similar", "to", "the", "cellular", "division", "and", "cellular", "differentiation", "that", "take", "place", "in", "living", "beings", "-LSB-", "31", "-RSB-", ".", "These", "mechanisms", "bring", "the", "advantage", "of", "distributed", "and", "hierarchical", "fault", "tolerance", "strategies", ":", "the", "uniformity", "of", "the", "architecture", "also", "makes", "any", "module", "to", "be", "universal", ",", "that", "is", ",", "to", "be", "able", "to", "take", "over", "the", "role", "of", "any", "other", "damaged", "module", ".", "3", ".", "Epigenetic", "processes", "were", "assimilated", "by", "modern", "computing", "mainly", "as", "artificial", "neural", "networks", "-LRB-", "or", "ANNs", "-RRB-", "as", "inspired", "by", "the", "nervous", "system", ",", "and", "much", "less", "as", "inspired", "by", "the", "immune", "or", "endocrine", "systems", "from", "superior", "multicellular", "living", "beings", ".", "ANNs", "are", "known", "to", "have", "a", "generalization", "capacity", ",", "that", "is", ",", "to", "respond", "well", "even", "if", "the", "input", "patterns", "are", "not", "part", "of", "the", "patterns", "used", "during", "the", "learning", "phase", ".", "This", "means", "that", "ANNs", "possess", "a", "certain", "ability", "to", "tolerante", "faults", ",", "whether", "they", "manifest", "at", "the", "inputs", "or", "inside", "their", "intenal", "architecture", ".", "With", "the", "advent", "of", "field", "programmable", "logic", "-LRB-", "of", "which", "the", "most", "salient", "representative", "are", "the", "FPGAs", "-RRB-", "it", "is", "now", "possible", "to", "change", "hardware", "functionality", "through", "software", ",", "thus", "allowing", "information", "to", "govern", "matter", "in", "digital", "electronics", ".", "This", "is", "not", "dissimilar", "to", "what", "happens", "in", "nature", ":", "information", "coded", "in", "DNA", "affects", "the", "development", "of", "an", "organism", ".", "A", "special", "kind", "of", "such", "digital", "devices", "that", "change", "dynamically", "their", "behavior", "are", "known", "as", "evolvable", "or", "adaptive", "hardware", ";", "they", "are", "bio-inspired", "computing", "systems", "whose", "behaviors", "may", "change", "according", "to", "computational", "targets", ",", "or", ",", "if", "harsh", "or", "unknown", "environments", "are", "to", "be", "explored", ",", "for", "the", "purpose", "of", "maximizing", "dependability", ".", "Figure", "3", ".", "The", "POE", "model", "of", "bio-inspired", "systems", "-LSB-", "32", "-RSB-", "2.2", "Quantum", "Computing", "Error", "detection", "and", "correction", "techniques", "are", "vital", "in", "quantum", "computing", "due", "to", "the", "destructive", "effect", "of", "the", "environment", ",", "which", "therefore", "acts", "as", "an", "omnipresent", "error", "generator", ".", "Error", "detection", "and", "correction", "must", "provide", "a", "safe", "recovery", "process", "within", "quantum", "computing", "processes", "through", "keeping", "error", "propagation", "under", "control", ".", "Without", "such", "dependability", "techniques", "there", "could", "be", "no", "realistic", "prospect", "of", "an", "operational", "quantum", "computational", "device", "-LSB-", "19", "-RSB-", ".", "There", "are", "two", "main", "sources", "of", "errors", ":", "the", "first", "is", "due", "to", "the", "erroneous", "behavior", "of", "the", "quantum", "gate", ",", "producing", "the", "so-called", "processing", "errors", ";", "the", "second", "is", "due", "to", "the", "macroscopic", "environment", "that", "interacts", "with", "the", "quantum", "state", ",", "producing", "the", "storing", "and", "transmitting", "errors", ".", "The", "consistency", "of", "any", "quantum", "computation", "process", "can", "be", "destroyed", "by", "innacuracies", "and", "errors", "if", "the", "error", "probability", "in", "the", "basic", "components", "-LRB-", "qubits", ",", "quantum", "gates", "-RRB-", "excedes", "an", "accuracy", "threshold", ".", "This", "is", "a", "critical", "aspect", "since", "the", "microscopic", "quantum", "states", "are", "prone", "to", "frequent", "errors", ".", "The", "main", "error", "source", "is", "the", "decoherence", "effect", "-LSB-", "16", "-RSB-", ".", "The", "environment", "is", "constantly", "attempting", "to", "measure", "the", "sensitive", "quantum", "superposition", "state", ",", "a", "phenomenon", "that", "can", "not", "be", "avoided", "technologically", "since", "it", "is", "not", "-LRB-", "yet", "-RRB-", "possible", "to", "isolate", "them", "perfectly", ".", "The", "superposition", "state", "will", "decay", "through", "measuring", "and", "will", "therefore", "become", "a", "projection", "of", "the", "state", "vector", "onto", "a", "basis", "vector", "-LRB-", "or", "eigenstate", "-RRB-", ".", "The", "most", "insidious", "error", ",", "however", ",", "appears", "when", "decoherence", "affects", "the", "quantum", "amplitudes", "without", "destroying", "them", ";", "this", "is", "similar", "to", "small", "analog", "errors", ".", "Issues", "stated", "above", "are", "solved", ",", "on", "one", "hand", ",", "through", "intrinsic", "fault", "tolerance", "by", "technological", "implementation", "-LRB-", "topological", "interactions", "-LSB-", "1", "-RSB-", "-RRB-", "and", ",", "on", "the", "other", "hand", ",", "by", "error", "correcting", "techniques", "at", "the", "unitary", "-LRB-", "gate", "network", "-RRB-", "level", ".", "We", "will", "focus", "on", "the", "error", "detecting", "and", "correcting", "techniques", ",", "which", "are", "difficult", "to", "approach", "due", "to", "quantum", "constraints", ":", "the", "useful", "state", "190", "can", "neither", "be", "observed", "-LRB-", "otherwise", "it", "will", "decohere", "-RRB-", ",", "nor", "can", "it", "be", "cloned", ".", "2.2.1", "Background", "As", "expressed", "in", "bra-ket", "notation", "-LSB-", "16", "-RSB-", ",", "the", "qubit", "is", "a", "normalized", "vector", "in", "some", "Hilbert", "space", ",", "2", "H", "-LCB-", "-RCB-", "0", ",", "1", "being", "the", "orthonormal", "basis", ":", "0", "1", "0", "1", "a", "a", "=", "+", "-LRB-", "are", "the", "so-called", "quantum", "amplitudes", ",", "representing", "the", "square", "root", "of", "the", "associated", "measurement", "probabilities", "for", "the", "eigenstates", "0", "1", ",", "a", "a", "C", "0", "and", "1", "respectively", ",", "with", "0", "1", "2", "2", "1", "a", "a", "+", "=", "-RRB-", ".", "Therefore", ",", "the", "qubit", "can", "be", "affected", "by", "3", "types", "of", "errors", ":", "Bit", "flip", "errors", "are", "somewhat", "similar", "to", "classical", "bit", "flip", "errors", ".", "For", "a", "single", "qubit", "things", "are", "exactly", "the", "same", "as", "in", "classical", "computation", ":", "0", "1", ",", "1", "0", ".", "For", "2", "or", "more", "qubits", ",", "flip", "errors", "affecting", "the", "state", "may", "modify", "it", "or", "leave", "it", "unchanged", ".", "For", "instance", ",", "if", "we", "consider", "the", "so-called", "cat", "state", "-LRB-", "1", "00", "11", "2", "Cat", "=", "+", "-RRB-", "-LSB-", "19", "-RSB-", ",", "and", "the", "first", "qubit", "is", "affected", "by", "a", "bit", "flip", "error", ",", "the", "resulting", "state", "will", "be", "-LRB-", "-RRB-", "1", "10", "01", "2", "Cat", "+", ".", "But", ",", "if", "both", "qubits", "are", "affected", "by", "bit", "flips", ",", "there", "will", "be", "no", "change", "in", "the", "state", ":", "-LRB-", "-RRB-", "1", "11", "00", "2", "Cat", "Cat", "+", "=", ".", "Phase", "errors", "affect", "the", "phase", "of", "one", "of", "the", "qubit", "'s", "amplitudes", "and", "is", "expressed", "as", "0", "0", ",", "1", "-", "1", ".", "This", "type", "of", "error", "is", "very", "dangerous", ",", "due", "to", "its", "propagation", "behavior", "but", "it", "only", "makes", "sense", "when", "dealing", "with", "superposition", "states", ".", "If", "we", "consider", "an", "equally", "weighted", "qubit", "superposition", "state", "and", "inject", "a", "phase", "error", ",", "this", "results", "in", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "1", "0", "1", "0", "1", "2", "2", "+", ".", "There", "is", "a", "strict", "correspondence", "between", "bit", "flip", "and", "phase", "error", "types", "due", "to", "the", "way", "they", "map", "onto", "Hilbert", "spaces", "with", "the", "same", "dimension", "but", "different", "basis", ".", "The", "bit", "flip", "is", "an", "error", "from", "the", "space", "with", "basis", "2", "H", "-LCB-", "-RCB-", "0", ",", "1", ",", "whereas", "the", "phase", "error", "appears", "in", "the", "same", "space", "with", "basis", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "1", "0", "1", ",", "0", "1", "2", "2", "+", "or", "-LCB-", "-RCB-", ",", "+", "1", "a", ".", "The", "space", "basis", "conversion", ",", "in", "this", "case", ",", "is", "made", "by", "applying", "the", "Hadamard", "transform", ";", "Figure", "4", "shows", "an", "example", "of", "transforming", "a", "bit", "flip", "error", "into", "a", "phase", "error", "-LRB-", "A", ",", "and", "vice", "versa", "-LRB-", "B.", "Small", "amplitude", "errors", ":", "amplitudes", "of", "the", "quantum", "bit", "can", "be", "affected", "by", "small", "errors", ",", "similar", "to", "analog", "errors", ".", "Even", "if", "such", "an", "error", "does", "not", "destroy", "the", "superposition", "and", "conserves", "the", "value", "of", "the", "superposed", "states", ",", "small", "amplitude", "errors", "could", "accumulate", "over", "time", ",", "eventually", "ruining", "the", "computation", ".", "In", "order", "to", "avoid", "this", "situation", ",", "specific", "methodologies", "for", "digitizing", "small", "errors", "are", "used", "to", "reduce", "them", "to", "a", "non-fault", "or", "a", "bit-flip", "0", "and", "a", "-LSB-", "19", "-RSB-", ".", "Due", "to", "the", "quantum", "physics", "laws", ",", "fault", "tolerance", "techniques", "have", "to", "comply", "with", "the", "following", "computational", "constraints", ":", "The", "observation", "destroys", "the", "state", ".", "Since", "observation", "is", "equivalent", "to", "measurement", ",", "this", "leads", "to", "destroying", "the", "useful", "state", "superposition", ".", "Information", "copying", "is", "impossible", ".", "Quantum", "physics", "renders", "the", "cloning", "of", "a", "quantum", "state", "impossible", ",", "meaning", "that", "a", "quantum", "state", "can", "not", "be", "copied", "correctly", ".", "Therefore", "quantum", "error", "correction", "must", "address", "the", "following", "problems", ":", "Non-destructive", "measurement", ".", "Despite", "the", "first", "constraint", "it", "is", "necessary", "to", "find", "a", "way", "to", "measure", "the", "encoded", "information", "without", "destroying", "it", ".", "Because", "the", "encoded", "state", "can", "not", "be", "measured", "directly", ",", "one", "needs", "to", "properly", "prepare", "some", "scratch", "-LRB-", "ancilla", "-RRB-", "qubits", ",", "which", "can", "then", "be", "measured", ".", "Fault-tolerant", "recovery", ".", "Due", "to", "the", "high", "error", "rate", "in", "quantum", "computational", "devices", ",", "it", "is", "likely", "that", "the", "error", "recovery", "itself", "will", "be", "affected", "by", "errors", ".", "If", "the", "recovery", "process", "is", "not", "fault-tolerant", ",", "then", "any", "error", "coding", "becomes", "useless", ".", "Phase", "error", "backward", "propagation", ".", "If", "we", "consider", "the", "XOR", "gate", "from", "Figure", "5", "-LRB-", "A", ",", "a", "flip", "error", "affecting", "the", "target", "qubit", "-LRB-", "b", "-RRB-", "will", "propagate", "backwards", "and", "also", "affect", "the", "source", "qubit", ".", "This", "is", "due", "to", "the", "gate", "network", "equivalence", "from", "Figure", "5", "-LRB-", "B", "and", "the", "basis", "transformation", "described", "by", "Figure", "4", ".", "Figure", "4", ".", "Correspondence", "between", "bit", "flip", "and", "phase", "errors", "Figure", "5", ".", "-LRB-", "A", "The", "backward", "propagation", "of", "a", "phase", "error", "for", "the", "XOR", "gate", ";", "-LRB-", "B", "Gate", "network", "equivalence", "In", "order", "to", "deal", "with", "the", "problems", "described", "the", "next", "strategies", "have", "to", "be", "followed", ":", "Digitizing", "small", "errors", ".", "The", "presence", "of", "small", "errors", "is", "not", "a", "major", "concern", ",", "as", "they", "can", "be", "digitized", "using", "a", "special", "technique", "based", "on", "measuring", "auxiliary", "-LRB-", "ancilla", "-RRB-", "qubits", "-LSB-", "19", "-RSB-", ".", "Ancilla", "usage", ".", "Since", "qubit", "cloning", "is", "impossible", ",", "a", "majority", "voting", "strategy", "is", "difficult", "to", "implement", ".", "However", ",", "by", "using", "ancilla", "qubits", ",", "the", "eigenstate", "information", "can", "be", "duplicated", "inside", "the", "existing", "superposition", ",", "resulting", "in", "the", "entanglement", "of", "the", "ancilla", "with", "the", "useful", "data", ".", "Because", "any", "measurement", "performed", "on", "the", "ancilla", "could", "have", "repercussions", "on", "the", "useful", "qubits", ",", "the", "appropriate", "strategy", "will", "employ", "special", "coding", "for", "both", "data", "qubits", "and", "ancilla", "-LRB-", "data", "errors", "only", "will", "be", "copied", "onto", "the", "ancilla", "-RRB-", ",", "followed", "by", "the", "computation", "of", "an", "error", "syndrome", ",", "which", "has", "to", "be", "obtained", "through", "measuring", "the", "ancilla", "-LRB-", "see", "Figure", "6", "-RRB-", ".", "Avoiding", "massive", "spreading", "of", "phase", "errors", ".", "As", "shown", "previously", ",", "a", "phase", "error", "on", "the", "target", "qubit", "will", "propagate", "on", "all", "source", "qubits", ".", "The", "solution", "is", "to", "use", "more", "ancilla", "qubits", "as", "targets", ",", "so", "that", "no", "ancilla", "qubit", "is", "used", "more", "than", "once", ".", "191", "Figure", "6", ".", "Fault-tolerant", "procedure", "with", "ancilla", "qubits", "Ancilla", "and", "syndrome", "accuracy", ".", "Setting", "the", "ancilla", "code", "to", "some", "known", "quantum", "state", "could", "be", "an", "erroneous", "process", ".", "Computing", "the", "syndrome", "is", "also", "prone", "to", "errors", ".", "Hence", ",", "on", "one", "hand", ",", "one", "has", "to", "make", "sure", "that", "the", "ancilla", "qubits", "are", "in", "the", "right", "state", "by", "verifying", "and", "recovering", "them", "if", "needed", ";", "on", "the", "other", "hand", ",", "in", "order", "to", "have", "a", "reliable", "syndrome", ",", "it", "must", "be", "computed", "repeatedly", ".", "Error", "recovery", ".", "As", "the", "small", "errors", "can", "be", "digitized", "-LRB-", "therefore", ",", "they", "are", "either", "corrected", "or", "transformed", "into", "bit", "flip", "errors", "-RRB-", ",", "the", "recovery", "must", "deal", "only", "with", "bit", "flip", "and", "phase", "errors", ".", "A", "state", "that", "needs", "to", "be", "recovered", "is", "described", "by", ":", "0", "1", "1", "0", "0", "1", "0", "1", "1", "0", "0", "1", "if", "no", "error", "occurs", "0", "1", "for", "a", "flip", "error", "0", "1", "0", "1", "for", "a", "phase", "error", "0", "1", "for", "both", "flip", "and", "phase", "errors", "error", "a", "a", "a", "a", "a", "a", "a", "a", "a", "a", "+", "+", "+", ".", "Correcting", "a", "bit", "flip", "error", "means", "applying", "the", "negation", "unitary", "transformation", "to", "the", "affected", "qubit", ".", "To", "correct", "phase", "and", "combined", "errors", ",", "the", "following", "unitary", "operators", "will", "have", "to", "be", "applied", "respectively", ":", ".", "0", "1", "1", "0", "N", "x", "U", "=", "=", "1", "0", "0", ",", "0", "1", "0", "Z", "Y", "N", "Z", "i", "U", "U", "U", "U", "i", "=", "=", "=", "2.2.2", "Quantum", "Error", "Correcting", "Codes", "Quantum", "error", "coding", "and", "correcting", "-LRB-", "QECC", "-RRB-", "is", "performed", "with", "special", "coding", "techniques", "inspired", "from", "the", "classic", "Hamming", "codes", ".", "The", "classical", "error", "coding", "is", "adapted", "so", "that", "it", "becomes", "suitable", "for", "the", "quantum", "strategy", ",", "allowing", "only", "the", "ancilla", "qubits", "to", "be", "measured", ".", "The", "state-of-the-art", "in", "QECC", "is", "represented", "by", "the", "stabilizer", "encoding", ",", "a", "particular", "case", "being", "the", "Steane", "codes", "-LRB-", "the", "Shor", "codes", "may", "also", "be", "used", "-LSB-", "29", "-RSB-", "-RRB-", ".", "Steane", "'s", "7-qubit", "code", "is", "a", "single", "error", "correcting", "code", "inspired", "from", "classical", "Hamming", "coding", "and", "can", "be", "adapted", "for", "ancilla", "coding", "as", "well", ".", "Therefore", "it", "can", "not", "recover", "from", "two", "identical", "qubit", "faults", ",", "but", "it", "can", "recover", "from", "a", "bit", "flip", "a", "phase", "flip", ".", "The", "Steane", "7-qubit", "coding", "of", "0", "and", "1", "consists", "of", "an", "equally", "weighted", "superposition", "of", "all", "the", "valid", "Hamming", "7-bit", "words", "with", "an", "even", "and", "odd", "number", "of", "1s", ",", "respectively", ":", "-LRB-", "-RRB-", ",", "0", "1", "2", "3", "0", "1", "2", "0", "1", "2", "3", "0", "1", "2", "32", "32", "1", "0", "2", "1", "0000000", "0010111", "0101110", "0111001", "2", "1001011", "1011100", "1100101", "1110010", "u", "u", "u", "u", "c", "c", "c", "S", "even", "u", "u", "u", "u", "c", "c", "c", "=", "=", "+", "+", "+", "+", "+", "+", "+", "-LRB-", "-RRB-", ",", "0", "1", "2", "3", "0", "1", "2", "0", "1", "2", "3", "0", "1", "2", "32", "32", "1", "1", "2", "1", "1111111", "1101000", "1010001", "1000110", "2", "0110100", "0100011", "0011010", "0001101", "u", "u", "u", "u", "c", "c", "c", "S", "odd", "u", "u", "u", "u", "c", "c", "c", "=", "=", "+", "+", "+", "+", "+", "+", "+", "+", "-LRB-", "3", "-RRB-", "Applying", "the", "Steane", "coding", "on", "an", "arbitrary", "given", "quantum", "state", "0", "1", "0", "a", "a", "=", "+", "1", "transforms", "it", "into", "0", "1", "0", "1", "S", "S", "a", "a", "=", "+", "S", ".", "This", "code", "was", "designed", "to", "correct", "bit-flip", "errors", ",", "but", "by", "changing", "the", "basis", "-LRB-", "through", "a", "Hadamard", "transform", "-RRB-", "the", "phase", "error", "transforms", "into", "a", "bit", "flip", "error", ",", "which", "can", "then", "be", "corrected", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "0", "0", "0", "1", "2", "1", "1", "1", "0", "1", "2", "S", "S", "S", "S", "S", "S", "S", "H", "H", "=", "=", "+", "=", "=", "S", "-LRB-", "4", "-RRB-", "2.2.3", "Fault", "Tolerance", "Methodologies", "Quantum", "error-correcting", "codes", "exist", "for", "r", "errors", ",", ",", "1", "r", "r", "N", ".", "Therefore", "a", "non-correctable", "error", "occurs", "if", "a", "number", "of", "1", "r", "+", "errors", "occur", "simultaneously", "before", "the", "recovery", "process", ".", "If", "the", "probability", "of", "a", "quantum", "gate", "error", "or", "storage", "error", "in", "the", "time", "unit", "is", "of", "order", ",", "then", "the", "probability", "of", "an", "error", "affecting", "the", "processed", "data", "block", "becomes", "of", "order", "1", "r", "+", ",", "which", "is", "negligible", "if", "r", "is", "sufficiently", "large", ".", "However", ",", "by", "increasing", "r", "the", "safe", "recovery", "also", "becomes", "more", "complex", "and", "hence", "prone", "to", "errors", ":", "it", "is", "possible", "that", "1", "r", "+", "errors", "accumulate", "in", "the", "block", "before", "the", "recovery", "is", "performed", ".", "Considering", "the", "relationship", "between", "r", "and", "the", "number", "of", "computational", "steps", "required", "for", "computing", "the", "syndrome", "is", "polynomial", "of", "the", "order", "p", "r", ".", "It", "was", "proven", "that", "in", "order", "to", "reduce", "as", "much", "as", "possible", "the", "error", "probability", "r", "must", "be", "chosen", "so", "that", "1", "1", "~", "p", "r", "e", "<", "A", "href", "=", "``", "5", ".", "html", "#", "11", "''", ">", "-LSB-", "7", "-RSB-", "-LSB-", "19", "-RSB-", ".", "By", "consequence", ",", "if", "attempting", "to", "execute", "N", "cycles", "of", "error", "correction", "without", "any", "r", "+1", "errors", "accumulating", "before", "the", "recovery", "ends", ",", "then", "1", "~", "exp", "p", "N", ".", "Therefore", "the", "accuracy", "degree", "will", "be", "of", "the", "form", "-LRB-", "-RRB-", "~", "log", "p", "N", ",", "which", "is", "better", "than", "the", "accuracy", "degree", "corresponding", "to", "the", "no-coding", "case", ",", "1", "~", "N", ".", "However", ",", "there", "exists", "a", "so", "that", "if", "then", "non-correctable", "error", "becomes", "likely", ",", "which", "limits", "the", "length", "of", "the", "recovery", "process", ".", "Given", "the", "extremely", "large", "number", "of", "gates", "employed", "by", "a", "quantum", "algorithm", "implementation", ",", "also", "has", "to", "be", "very", "large", ";", "for", "Shor", "'s", "algorithm", "must", "be", "higher", "than", "max", "N", "max", "N", "N", ">", "max", "N", "max", "N", "9", "3", "10", "-LSB-", "30", "-RSB-", ".", "As", "shown", "in", "Figure", "7", ",", "the", "required", "accuracy", "degree", "approaches", "today", "'s", "technological", "limits", "-LRB-", "tipically", "10", "-3", "for", "p", "=", "4", "-RRB-", "after", "N", "=", "10", "5", ".", "For", "a", "fault", "tolerant", "encoding", "solution", "for", "Shor", "algorithm", "implementation", "this", "should", "have", "happened", "after", "N", "=", "10", "9", "-LSB-", "19", "-RSB-", "-LSB-", "34", "-RSB-", ".", "+", "-LRB-", "2", "-RRB-", "Additional", "fault", "tolerance", "must", "be", "employed", "in", "order", "to", "preserve", "reliable", "quantum", "computation", "over", "an", "arbitrary", "number", "of", "computational", "steps", ".", "Concatenated", "coding", "represents", "one", "such", "technique", ",", "which", "improves", "the", "reliability", "by", "shaping", "the", "size", "of", "192", "the", "code", "blocks", "and", "the", "number", "of", "code", "levels", ".", "It", "is", "also", "resource", "demanding", "and", "vulnerable", "to", "correlated", "errors", "-LSB-", "19", "-RSB-", "-LSB-", "37", "-RSB-", ".", "Another", "approach", ",", "replacing", "the", "concatenated", "codes", ",", "is", "based", "on", "Reconfigurable", "Quantum", "Gate", "Arrays", "-LRB-", "RQGAs", "-RRB-", "-LSB-", "34", "-RSB-", "-LSB-", "37", "-RSB-", ",", "which", "are", "used", "for", "configuring", "ECC", "circuits", "based", "on", "stabilizer", "codes", "-LSB-", "7", "-RSB-", "-LSB-", "33", "-RSB-", ".", "By", "using", "a", "quantum", "configuration", "register", "for", "the", "RQGA", "-LRB-", "i.e.", "a", "superposition", "of", "classical", "configurations", "-RRB-", ",", "the", "reconfigurable", "circuit", "is", "brought", "to", "a", "state", "where", "it", "represents", "a", "simultaneous", "superposition", "of", "distinct", "ECC", "circuits", ".", "After", "measuring", "the", "configuration", "register", ",", "only", "one", "ECC", "circuit", "is", "selected", "and", "used", ";", "if", "k", "distinct", "ECC", "circuits", "were", "superposed", "and", "the", "gate", "error", "rate", "is", ",", "then", "the", "overall", "gate", "error", "probability", "becomes", "k", "-LRB-", "s", "ee", "Figure", "8", "-RRB-", ".", "As", "a", "result", ",", "the", "accuracy", "threshold", "value", "for", "the", "RQGA", "solution", "clearly", "dominates", "the", "technological", "accuracy", "limit", ",", "as", "s", "hown", "in", "Figure", "9", "-LSB-", "37", "-RSB-", ".", "Figure", "7", ".", "Accuracy", "plots", ":", "p", "=", "3", "for", "xi", "1", ",", "p", "=", "4", "for", "xi", "2", ",", "p", "=", "5", "for", "xi", "3", ";", "xi", "4", "for", "no-coding", ",", "ref", "is", "the", "reference", "accuracy", "-LRB-", "i.e.", "the", "accuracy", "allowed", "by", "today", "'s", "state", "of", "the", "art", "technology", "-RRB-", "Figure", "8", ".", "A", "quantum", "configuration", "register", "acts", "as", "a", "superposition", "of", "k", "distinct", "circuits", "sharing", "the", "same", "input", "state", "and", "the", "same", "output", "qubits", "In", "order", "to", "model", "the", "erroneous", "behavior", "of", "a", "device", "of", "system", "it", "is", "necessary", "to", "understand", "the", "causality", "of", "phenomena", "concerned", ".", "A", "defect", "affecting", "a", "device", "from", "a", "physical", "point", "of", "view", "is", "called", "a", "fault", ",", "or", "a", "fail", ".", "Faults", "may", "be", "put", "in", "evidence", "through", "logical", "misbehavior", ",", "in", "which", "case", "they", "transform", "into", "errors", ".", "Finally", ",", "errors", "accumulating", "can", "lead", "to", "system", "failure", "-LSB-", "8", "-RSB-", ".", "The", "fault-error", "-", "failure", "causal", "chain", "is", "essential", "to", "developping", "techniques", "that", "reduce", "the", "risk", "of", "error", "occurrence", ",", "even", "in", "the", "presence", "of", "faults", ",", "in", "order", "to", "minimize", "the", "probability", "of", "a", "system", "failure", ",", "and", "can", "be", "architecture", "specific", ".", "We", "will", "elaborate", "next", "on", "techniques", "used", "by", "a", "bio-inspired", "and", "by", "a", "quantum", "computing", "platform", ".", "Figure", "9", ".", "Evolution", "of", "accuracy", "threshold", "value", "for", "RQHW", "stabilizer", "codes", "-LRB-", "xir", "-RRB-", ";", "the", "technological", "accuracy", "limit", "-LRB-", "lim", "-RRB-", "is", "also", "provided", "for", "a", "relevant", "comparison", "3.1", "The", "Embryonics", "Approach", "Several", "years", "before", "his", "untimely", "death", "John", "von", "Neumann", "began", "developping", "a", "theory", "of", "automata", ",", "which", "was", "to", "contain", "a", "systematic", "theory", "of", "mixed", "mathematical", "and", "logical", "forms", ",", "aimed", "to", "a", "better", "understanding", "of", "both", "natural", "systems", "and", "computers", "-LSB-", "14", "-RSB-", ".", "The", "essence", "of", "von", "Neumann", "'s", "message", "appears", "to", "entail", "the", "formula", "``", "genotype", "+", "ribotype", "=", "phenotype", "''", ".", "He", "provided", "the", "foundations", "of", "a", "self-replicating", "machine", "-LRB-", "the", "phenotype", "-RRB-", ",", "consisting", "of", "its", "complete", "description", "-LRB-", "the", "genotype", "-RRB-", ",", "which", "is", "interpreted", "by", "a", "ribosome", "-LRB-", "the", "ribotype", "-RRB-", ".", "Embryonics", "-LRB-", "a", "contraction", "for", "embryonic", "electronics", "-RRB-", "is", "a", "long", "term", "research", "project", "launched", "by", "the", "Logic", "Systems", "Laboratory", "at", "the", "Swiss", "Federal", "Institute", "of", "Technology", ",", "Lausanne", ",", "Switzerland", ".", "Its", "aim", "is", "to", "explore", "the", "potential", "of", "biologically-inspired", "mechanisms", "by", "borrowing", "and", "adapting", "them", "from", "nature", "into", "digital", "devices", "for", "the", "purpose", "of", "endowing", "them", "with", "the", "remarkable", "robustness", "present", "in", "biological", "entities", "-LSB-", "39", "-RSB-", ".", "Though", "perhaps", "fuzzy", "at", "a", "first", "glance", ",", "analogies", "between", "biology", "and", "electronics", "are", "pres", "ented", "in", "Table", "1", "-LSB-", "12", "-RSB-", "-LSB-", "31", "-RSB-", ".", "But", "if", "we", "consider", "that", "the", "function", "of", "a", "living", "cell", "is", "determined", "by", "the", "genome", ",", "and", "that", "a", "computer", "'s", "functionality", "is", "determined", "by", "the", "operating", "program", ",", "then", "the", "two", "worlds", "may", "be", "regarded", "as", "sharing", "a", "certain", "degree", "of", "similarity", ".", "Three", "fundamental", "features", "shared", "by", "living", "entities", "are", "required", "to", "be", "targetted", "by", "Embryonics", "in", "order", "to", "embody", "the", "formula", "``", "genotype", "+", "ribotype", "=", "phenotype", "''", "into", "digital", "hardware", ":", "multicellular", "organisms", "are", "made", "of", "a", "finite", "number", "of", "cells", ",", "which", "in", "turn", "are", "made", "of", "a", "finite", "number", "of", "chemically", "bonded", "molecules", ";", "each", "cell", "-LRB-", "beginning", "with", "the", "original", "cell", ",", "the", "zygote", "-RRB-", "may", "generate", "one", "or", "several", "daughter", "cell", "-LRB-", "s", "-RRB-", "through", "a", "process", "called", "cellular", "division", ";", "both", "the", "parent", "and", "the", "daughter", "cell", "-LRB-", "s", "-RRB-", "share", "the", "same", "genetic", "information", ",", "called", "the", "genome", ";", "different", "types", "of", "cells", "may", "exist", "due", "to", "cellular", "differentiation", ",", "a", "process", "through", "which", "only", "a", "part", "of", "the", "genome", "is", "executed", ".", "These", "fundamental", "features", "led", "the", "Embryonics", "project", "to", "settle", "for", "an", "architectural", "hierarchy", "of", "four", "levels", "-LRB-", "see", "Figure", "10", "-RRB-", ".", "We", "will", "not", "delve", "very", "deep", "inside", "the", "Embryonics", "`", "phylosophy", ",", "as", "such", "details", "were", "broadly", "covered", "by", "literature", "-LSB-", "12", "-RSB-", "-LSB-", "20", "-RSB-", "-LSB-", "23", "-RSB-", "-LSB-", "24", "-RSB-", "-LSB-", "25", "-RSB-", "-LSB-", "40", "-RSB-", ";", "we", "will", ",", "however", ",", "introduce", "each", "of", "the", "four", "levels", "in", "193", "order", "to", "be", "able", "to", "see", "how", "this", "bio-inspired", "platform", "fits", "modern", "design", "for", "dependability", "efforts", ".", "Table", "1", ".", "Analogies", "present", "in", "Embryonics", "-LSB-", "12", "-RSB-", "Biology", "Electronics", "Multicellular", "organism", "Parallel", "computer", "systems", "Cell", "Processor", "Molecule", "FPGA", "Element", "Figure", "10", ".", "Structural", "hierarchy", "in", "Embryonics", "-LSB-", "12", "-RSB-", "The", "upmost", "level", "in", "Embryonics", ",", "bearing", "a", "certain", "similarity", "to", "what", "is", "found", "in", "nature", ",", "is", "the", "population", "level", ",", "composed", "of", "a", "number", "of", "organisms", ".", "One", "level", "down", "the", "hierarchy", "constitutes", "the", "organismic", "level", ",", "and", "corresponds", "to", "individual", "entities", "in", "a", "variety", "of", "functionalities", "and", "sizes", ".", "Each", "of", "the", "organisms", "may", "be", "further", "decomposed", "into", "smaller", ",", "simpler", "parts", ",", "called", "cells", ",", "which", "in", "turn", "may", "be", "decomposed", "in", "molecules", ".", "According", "to", "Embryonics", ",", "a", "biological", "organism", "corresponds", "in", "the", "world", "of", "digital", "systems", "to", "a", "complete", "computer", ",", "a", "biological", "cell", "is", "equivalent", "to", "a", "processor", ",", "and", "the", "smallest", "part", "in", "biology", ",", "the", "molecule", ",", "may", "be", "seen", "as", "the", "smallest", ",", "programmable", "element", "in", "digital", "electronics", "-LRB-", "s", "ee", "Table", "1", "-RRB-", ".", "An", "extremely", "valuable", "consequence", "of", "the", "Embryonics", "architecture", "is", "that", "each", "cell", "is", "``", "universal", "''", ",", "containing", "a", "copy", "of", "the", "whole", "of", "the", "organism", "'s", "genetic", "material", ",", "the", "genome", ".", "This", "enables", "very", "flexible", "redundancy", "strategies", ",", "the", "living", "organisms", "being", "capable", "of", "self-repair", "-LRB-", "healing", "-RRB-", "or", "self-replication", "-LRB-", "cloning", "-RRB-", "-LSB-", "12", "-RSB-", ".", "Self-replication", "may", "be", "of", "great", "interest", "in", "the", "nanoelectronics", "era", ",", "where", "extremely", "large", "areas", "of", "programmable", "logic", "will", "probably", "render", "any", "centralized", "control", "very", "inefficient", ".", "Instead", ",", "the", "self-replication", "mechanism", "implemented", "in", "Embryonics", "will", "allow", "the", "initial", "colonization", "of", "the", "entire", "programmable", "array", "in", "a", "decentralized", "and", "distributed", "manner", ".", "Figure", "11", "presents", "an", "example", "of", "such", "colonization", ".", "At", "initial", "time", "the", "configuration", "bitstream", "-LRB-", "containing", "the", "genome", "-RRB-", "enters", "the", "bottom", "left", "corner", "of", "a", "programmable", "array", "and", ",", "at", "each", "clock", "cycle", ",", "the", "genome", "is", "pushed", "through", "and", "partitions", "the", "programmable", "space", "accordingly", ".", "From", "a", "dependability", "standpoint", ",", "the", "Embryonics", "hierarchical", "architecture", "offers", "incentives", "for", "an", "also", "hierarchical", "self-repair", "strategy", ".", "Because", "the", "target", "applications", "are", "those", "in", "which", "the", "failure", "frequency", "must", "be", "very", "low", "to", "be", "``", "acceptable", "''", ",", "two", "levels", "of", "self-repair", "are", "offered", ":", "at", "the", "molecular", "level", "-LRB-", "programmable", "logic", "is", "susceptible", "to", "soft", "fail", "occurrences", "-RRB-", "and", "at", "the", "cellular", "level", "-LRB-", "soft", "fails", "manifest", "at", "this", "level", "as", "soft", "errors", "-RRB-", ".", "Let", "us", "consider", "an", "example", "of", "a", "simple", "cell", "made", "of", "3", "lines", "and", "3", "columns", "of", "molecules", ",", "of", "which", "one", "column", "contains", "spare", "molecules", ".", "If", "a", "fault", "occurs", "inside", "an", "active", "cell", ",", "it", "can", "be", "repaired", "through", "transferring", "its", "functionality", "toward", "the", "appropriate", "spare", "molecule", ",", "which", "will", "become", "active", "-LRB-", "see", "Figure", "12", "-RRB-", ".", "Figure", "11", ".", "Space", "colonization", "in", "Embryonics", "-LSB-", "11", "-RSB-", "Figure", "12", ".", "Self-repair", "at", "the", "molecular", "level", ":", "faulty", "molecule", "E", "is", "replaced", "by", "spare", "molecule", "H", ",", "which", "becomes", "active", "-LSB-", "39", "-RSB-", "The", "self-repair", "process", "at", "molecular", "level", "ensures", "the", "fault", "recovery", "as", "long", "as", "there", "are", "spare", "molecules", "left", "for", "repair", ".", "However", ",", "it", "is", "possible", "for", "a", "cell", "to", "experience", "a", "multiple", "error", ",", "in", "which", "case", "the", "self-repair", "mechanism", "at", "the", "molecular", "level", "can", "no", "longer", "reconfigure", "the", "inside", "of", "the", "cell", "successfully", ".", "If", "such", "a", "situation", "arises", ",", "then", "a", "second", "self-repair", "strategy", "is", "trigerred", "at", "a", "higher", "level", ".", "The", "cell", "will", "``", "die", "''", ",", "therefore", "trigerring", "the", "self-repair", "at", "the", "cellular", "level", ",", "the", "entire", "column", "containing", "the", "faulty", "cell", "-LRB-", "cell", "C", "in", "this", "example", "-RRB-", "being", "deactivated", ",", "its", "role", "being", "taken", "by", "the", "nearest", "spare", "column", "to", "the", "right", "-LRB-", "see", "Figure", "13", "-RRB-", ".", "A", "critique", "that", "could", "be", "addressed", "to", "the", "current", "Embryonics", "design", "would", "be", "its", "strategy", "of", "self-repair", "at", "the", "higher", ",", "cellular", "level", ":", "in", "case", "of", "a", "faulty", "cell", ",", "an", "entire", "column", "containing", "that", "cell", "will", "be", "deactivated", ",", "its", "role", "being", "transferred", "to", "the", "first", "available", "column", "of", "spares", "to", "the", "right", "-LRB-", "s", "ee", "Figure", "13", "-RRB-", ".", "There", "are", "two", "points", "in", "which", "this", "strategy", "could", "benefit", ":", "194", "1", ".", "Instead", "of", "deactivating", "a", "whole", "column", "of", "cells", ",", "it", "would", "be", "more", "efficient", "to", "only", "deactivate", "the", "faulty", "cell", "only", "-LRB-", "see", "Figure", "14", "-RRB-", ".", "The", "resources", "affected", "by", "the", "role", "transfer", "would", "be", "greatly", "reduced", "-LRB-", "one", "cell", "versus", "an", "entire", "column", "-RRB-", ",", "coupled", "with", "the", "fact", "that", "particle", "flux", "generating", "soft", "fails", "is", "unlikely", "to", "be", "homogeneous", "and", "isotrope", ".", "This", "means", "regions", "assimilable", "more", "likely", "to", "cells", "rather", "than", "entire", "column", "of", "cells", "would", "be", "more", "affected", "by", "soft", "fails", ",", "not", "to", "mention", "that", "during", "genetic", "data", "transfer", "-LRB-", "required", "by", "taking", "over", "the", "role", "of", "the", "faulty", "cell", "-RRB-", "there", "is", "a", "greater", "risk", "of", "enduring", "a", "new", "soft", "fail", "-LRB-", "moving", "data", "is", "much", "more", "sensitive", "to", "soft", "fails", "than", "static", "data", "-RRB-", "-LSB-", "5", "-RSB-", "-LSB-", "10", "-RSB-", ".", "2", ".", "Such", "a", "strategy", "would", "be", "consistent", "with", "that", "used", "for", "the", "self-repair", "at", "the", "molecular", "level", ",", "which", "would", "simplify", "a", "thorough", "reliability", "analysis", ".", "Concatenated", "coding", "would", "also", "seem", "easier", "to", "be", "implemented", "and", "the", "strategy", "consistency", "would", "mean", "that", "concatenated", "coding", "would", "not", "be", "limited", "to", "a", "two-level", "hierarchy", "-LSB-", "20", "-RSB-", "-LSB-", "21", "-RSB-", ".", "Figure", "13", ".", "Molecular", "self-repair", "failure", ":", "the", "cell", "``", "dies", "''", "-LRB-", "bottom", "-RRB-", ",", "triggering", "the", "cellular", "self-repair", "-LRB-", "top", "-RRB-", "-LSB-", "39", "-RSB-", "We", "consider", "a", "cell", "of", "M", "lines", "and", "N", "columns", ",", "being", "composed", "of", "modules", "of", "M", "lines", "and", "n", "+", "s", "columns", "-LRB-", "for", "instance", ",", "the", "cell", "presented", "in", "Figure", "12", "consists", "of", "a", "single", "such", "module", "of", "two", "active", "columns", "and", "one", "spare", "column", "-RRB-", ",", "of", "which", "s", "are", "spares", ".", "In", "order", "to", "meet", "certain", "reliability", "criteria", ",", "it", "is", "necessary", "to", "know", "what", "is", "the", "number", "s", "of", "spare", "columns", "of", "molecules", "that", "correspond", "to", "n", "columns", "of", "active", "molecules", ",", "that", "is", ",", "the", "horizontal", "dimensions", "for", "such", "a", "module", ".", "We", "will", "not", "provide", "a", "thorough", "reliability", "analysis", ",", "as", "this", "has", "been", "done", "previously", "-LSB-", "4", "-RSB-", "-LSB-", "17", "-RSB-", "-LSB-", "20", "-RSB-", "-LSB-", "21", "-RSB-", ";", "instead", ",", "we", "will", "analyze", "the", "influences", "of", "the", "proposed", "consistent", "self-repair", "strategy", "at", "both", "molecular", "and", "cellular", "levels", "through", "the", "use", "of", "logic", "molecules", ".", "Therefore", "Equation", "-LRB-", "5", "-RRB-", "holds", ":", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "k", "ModRow", "i", "R", "t", "=", "Prob", "no", "fails", "t", "Prob", "i", "fails", "t", "N", "k", "n", "s", "=", "+", "=", "+", "-LRB-", "5", "-RRB-", "where", "-LRB-", "-RRB-", "ModRow", "R", "t", "represents", "the", "reliability", "function", "for", "a", "row", "within", "a", "module", ".", "Then", ",", "considering", "the", "failure", "rate", "for", "one", "molecule", ",", "the", "probability", "of", "all", "molecules", "-LRB-", "both", "active", "and", "spare", "-RRB-", "to", "operate", "normally", "in", "a", "module", "'s", "row", "becomes", ":", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "n", "s", "t", "Prob", "no", "fails", "t", "e", "+", "=", "-LRB-", "6", "-RRB-", "The", "probability", "of", "a", "row", "enduring", "i", "fails", "in", "the", "active", "molecules", "part", "is", "the", "conditional", "probability", "of", "having", "n-i", "active", "molecules", "operating", "normally", ",", "while", "a", "number", "of", "s-i", "spare", "molecules", "are", "ready", "to", "activate", "-LRB-", "that", "is", ",", "they", "are", "not", "affected", "by", "errors", "themselves", "-RRB-", ":", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "Prob", "i", "fails", "t", "Prob", "i", "fails", "active", "t", "Prob", "i", "spares", "ok", "t", "-RRB-", "=", "-LRB-", "7", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "n", "i", "t", "n", "i", "t", "n", "Prob", "i", "fails", "active", "t", "e", "e", "i", "=", "-LRB-", "8", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "it", "k", "i", "t", "k", "Prob", "i", "spares", "ok", "t", "e", "e", "i", "=", "-LRB-", "9", "-RRB-", "Then", "the", "reliability", "function", "for", "an", "entire", "cell", "is", "the", "cummulated", "reliability", "functions", "for", "the", "total", "number", "of", "modules", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "MN", "n", "s", "Cell", "ModRow", "R", "t", "R", "t", "+", "=", "-LRB-", "10", "-RRB-", "Figure", "14", ".", "Proposed", "reconfiguration", "strategy", "at", "the", "cellular", "level", "A", "self-repair", "strategy", "that", "conserves", "the", "consistency", "between", "the", "molecular", "and", "the", "cellular", "level", "would", "allow", "for", "a", "more", "straightforward", "reliability", "analysis", ".", "Basically", ",", "it", "would", "be", "sufficient", "to", "substitute", "dimension", "parameters", "in", "Equations", "-LRB-", "5", "-RRB-", "-LRB-", "10", "-RRB-", "with", "those", "approapriate", "to", "the", "analysis", "of", "an", "organism", "instead", "of", "a", "cell", ".", "To", "illustrate", "this", ",", "we", "will", "consider", "an", "organism", "of", "M", "*", "lines", "and", "N", "*", "columns", ",", "being", "composed", "of", "modules", "of", "M", "*", "lines", "and", "n", "*", "+", "s", "*", "columns", ",", "of", "which", "s", "*", "are", "spares", ";", "we", "will", "also", "use", "the", "organism", "partitioning", "into", "modules", ",", "similar", "to", "the", "partitioning", "of", "cells", "used", "before", ".", "Therefore", "Equation", "-LRB-", "5", "-RRB-", "transforms", "into", "Equation", "-LRB-", "11", "-RRB-", ":", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "1", "*", "*", "*", "*", "k", "*", "*", "CellMR", "i", "R", "t", "=", "Prob", "no", "fails", "t", "Prob", "i", "fails", "t", "N", "k", "n", "s", "=", "+", "=", "+", "-LRB-", "11", "-RRB-", "where", "-LRB-", "-RRB-", "CellMR", "R", "t", "represents", "the", "reliability", "function", "for", "a", "row", "of", "cells", "within", "an", "organism", "module", ".", "In", "this", "case", ",", "the", "significance", "of", "the", "terms", "will", "be", "as", "follows", ":", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "*", "*", "n", "s", "*", "Cell", "Prob", "no", "fails", "t", "R", "t", "+", "=", "-LRB-", "12", "-RRB-", "195", "While", "Equation", "-LRB-", "7", "-RRB-", "continues", "to", "hold", "under", "the", "form", "of", "Equation", "-LRB-", "13", "-RRB-", ",", "the", "significance", "of", "its", "terms", "will", "change", "according", "to", "the", "dimensions", "at", "the", "cellular", "level", ":", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "*", "*", "*", "Prob", "i", "fails", "t", "Prob", "i", "fails", "active", "t", "Prob", "i", "spares", "ok", "t", "=", "-RRB-", "i", "k", "i", "-LRB-", "13", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "*", "*", "1", "*", "n", "i", "Cell", "Cell", "n", "Prob", "i", "fails", "active", "t", "R", "t", "R", "t", "i", "=", "-LRB-", "14", "-RRB-", "-LCB-", "-RCB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "*", "*", "1", "*", "i", "Cell", "Cell", "k", "Prob", "i", "spares", "ok", "t", "R", "t", "R", "t", "i", "=", "-LRB-", "15", "-RRB-", "Finally", ",", "similar", "to", "Equation", "-LRB-", "10", "-RRB-", ",", "the", "reliability", "function", "for", "an", "entire", "organism", "is", "the", "cummulated", "reliability", "functions", "for", "the", "total", "number", "of", "its", "modules", ":", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "*", "*", "*", "*", "M", "N", "n", "s", "Org", "CellMR", "R", "t", "R", "t", "+", "=", "-LRB-", "16", "-RRB-", "Equations", "-LRB-", "5", "-RRB-", "to", "-LRB-", "16", "-RRB-", "provide", "the", "basics", "for", "a", "thorough", "reliability", "analysis", "for", "the", "proposed", ",", "uniform", "strategy", "of", "hierarchical", "reconfiguration", ",", "as", "opposed", "to", "the", "analysis", "provided", "by", "-LSB-", "21", "-RSB-", ",", "which", "specifically", "targetted", "the", "current", "Embryonics", "architecture", ".", "Despite", "having", "settled", "the", "reliability", "model", ",", "both", "analyses", "are", "incomplete", ",", "in", "that", "the", "failure", "rate", "parameter", "is", "missing", ",", "which", "makes", "a", "precise", ",", "quantitative", "dependability", "target", "difficult", "to", "meet", ".", "However", ",", "a", "reliability", "analysis", "is", "still", "valuable", "from", "a", "qualitative", "point", "of", "view", ",", "allowing", "a", "direct", "comparison", "of", "different", "systems", ".", "3.2", "The", "QUERIST", "Approach", "In", "order", "to", "deal", "with", "errors", "induced", "by", "the", "constant", "influence", "of", "the", "external", "environment", "upon", "computational", "processes", ",", "the", "following", "assumptions", "were", "made", ":", "errors", "appear", "randomly", ",", "are", "uncorrelated", "-LRB-", "neither", "in", "space", ",", "nor", "in", "time", "-RRB-", ",", "there", "are", "no", "storage", "errors", ",", "and", "there", "are", "no", "leakage", "phenomena", "involved", "-LSB-", "19", "-RSB-", ".", "Classical", "HDL-based", "fault", "injection", "methodologies", "can", "be", "mapped", "to", "simulating", "quantum", "circuits", "without", "intervention", "provided", "that", "the", "new", "error", "and", "fault", "models", "are", "taken", "into", "account", "-LSB-", "35", "-RSB-", ".", "Of", "course", ",", "efficiency", "criteria", "require", "that", "they", "be", "adapted", "to", "one", "of", "the", "available", "efficient", "simulation", "frameworks", "-LSB-", "36", "-RSB-", "-LSB-", "38", "-RSB-", "-LSB-", "41", "-RSB-", ".", "QUERIST", "-LRB-", "from", "QUantum", "ERror", "Injection", "Simulation", "Tool", "-RRB-", "is", "the", "name", "of", "such", "a", "project", ",", "fostering", "simulated", "fault", "injection", "techniques", "in", "quantum", "circuits", "-LSB-", "34", "-RSB-", ".", "Similar", "to", "classical", "computation", ",", "simulated", "fault", "injection", "is", "used", "in", "order", "to", "evaluate", "the", "employed", "FTAMS", "-LRB-", "Fault", "Tolerance", "Algorithms", "and", "Methodologies", "-RRB-", "-LSB-", "26", "-RSB-", "-LSB-", "27", "-RSB-", ".", "An", "overview", "of", "the", "QUERIST", "project", "is", "presented", "in", "Figure", "15", ".", "The", "three", "cycles", "of", "initialization", ",", "simulation", ",", "and", "data", "computation", "are", "common", "to", "both", "classical", "and", "quantum", "approaches", ".", "The", "first", "cycle", "takes", "the", "quantum", "circuit", "HDL", "description", "as", "an", "input", ".", "Two", "abstract", "inputs", "are", "considered", ",", "the", "HDL", "model", "and", "the", "assumed", "error", "model", ";", "the", "first", "influences", "how", "the", "HDL", "description", "is", "presented", ",", "while", "the", "second", "one", "dictates", "the", "test", "scenario", "by", "defining", "the", "start/stop", "simulation", "states", "-LRB-", "since", "qubits", "are", "equally", "prone", "to", "error", ",", "all", "the", "signals", "must", "be", "observed", "-RRB-", ".", "HDL", "modeling", "of", "quantum", "circuits", "in", "order", "to", "attain", "efficient", "simulation", "is", "discussed", "in", "-LSB-", "34", "-RSB-", "-LSB-", "35", "-RSB-", "-LSB-", "36", "-RSB-", "-LSB-", "38", "-RSB-", ".", "The", "outputs", "of", "the", "first", "cycle", ",", "which", "are", "also", "inputs", "for", "the", "simulation", "cycle", ",", "consist", "of", "a", "test", "scenario", "and", "an", "executable", "HDL", "model", "with", "the", "corresponding", "entanglement", "analysis", ",", "dictated", "by", "the", "bubble-bit", "encoded", "quantum", "states", "-LSB-", "36", "-RSB-", "-LSB-", "38", "-RSB-", ".", "The", "output", "of", "the", "second", "cycle", "consists", "of", "time", "diagrams", "for", "all", "qubits", ",", "from", "the", "start", "to", "the", "stop", "states", ".", "Useful", "information", ",", "extracted", "from", "the", "raw", ",", "bubble-bit-represented", ",", "qubit", "traces", "are", "compared", "to", "correct", "qubit", "values", ",", "the", "result", "being", "the", "probabilistic", "accuracy", "threshold", "value", ",", "in", "the", "third", "cycle", ".", "The", "initialization", "and", "simulation", "cycles", "depend", "on", "specific", "aspects", "of", "quantum", "circuit", "simulation", "-LSB-", "35", "-RSB-", ".", "The", "data", "processing", "cycle", "is", "independent", "from", "the", "specific", "simulation", "framework", "and", "is", "aimed", "at", "determining", "the", "accuracy", "threshold", "as", "the", "main", "reliability", "measure", "that", "also", "defines", "the", "feasibility", "of", "the", "quantum", "circuit", "implementations", ".", "Suppose", "that", ",", "at", "simulation", "time", "t", "we", "observe", "signals", "-LCB-", "-RCB-", "0", "1", ",", ",", "...", ",", "n", "s", "s", "s", ".", "In", "our", "analysis", ",", "s", "i", "is", "the", "state", "observed", "during", "non-faulty", "simulation", ",", "so", "for", "the", "same", "state", "in", "a", "faulty", "environment", "we", "will", "have", "the", "state", "*", "i", "s", ".", "For", "validation", "of", "the", "quantum", "FTAMs", ",", "we", "need", "to", "compare", "i", "s", "with", "*", "i", "s", ".", "This", "can", "be", "done", "by", "using", "operator", "-LRB-", "-RRB-", "*", ",", "i", "i", "dif", "s", "s", ".", "This", "means", "that", "the", "total", "number", "of", "overall", "state", "errors", "at", "simulation", "time", "t", "is", ".", "The", "error", "rate", "on", "the", "overall", "observed", "states", "at", "moments", "-LRB-", "1", "*", "0", ",", "t", "n", "i", "i", "i", "e", "dif", "s", "s", "=", "=", "-RRB-", "0", "1", "1", ",", ",", "...", ",", "m", "t", "t", "t", "will", "be", "given", "by", "1", "0", "1", "m", "sim", "j", "j", "t", "e", "m", "=", "=", ".", "The", "used", "FTAMs", "are", "only", "valid", "if", "the", "relationship", "between", "the", "experimental", "sim", "and", "the", "assumed", "singular", "error", "rate", "is", "of", "the", "order", "2", "~", "sim", "-LSB-", "19", "-RSB-", ".", "This", "paper", "presented", "arguments", "in", "favor", "of", "two", "novel", "computing", "architectures", "for", "the", "purpose", "of", "addressing", "the", "challenges", "raised", "by", "the", "forthcoming", "nanoelectronics", "era", ".", "Distributed", "self-testing", "and", "self-repairing", "will", "probably", "become", "a", "must", "in", "the", "next", "years", "as", "centralized", "control", "logic", "is", "expected", "to", "become", "unable", "to", "harness", "the", "extremely", "large", "number", "of", "devices", ",", "all", "equally", "prone", "to", "errors", ",", "that", "will", "be", "integrated", "onto", "the", "same", "chip", ".", "Bio-inspired", "computing", "brings", "valuable", "techniques", "that", "explore", "the", "potential", "of", "massively", "parallel", ",", "distributed", "computation", "and", "fault-tolerance", "that", "will", "likely", "provide", "an", "essential", "help", "to", "jumpstart", "new", "nanoelectronic", "architectures", ".", "As", "one", "of", "the", "representatives", "of", "bio-inspired", "computing", ",", "the", "Embryonics", "project", "presents", "a", "hierarchical", "architecture", "that", "achieves", "fault", "tolerance", "through", "implementing", "an", "also", "hierarchical", "reconfiguration", ".", "A", "similar", "approach", "for", "maximizing", "fault", "tolerance", "is", "present", "in", "quantum", "computing", ",", "the", "QUERIST", "project", ";", "even", "if", "bio-inspired", "and", "quantum", "computing", "may", "seem", "dissimilar", "at", "a", "first", "glance", ",", "they", "both", "achieve", "fault", "tolerance", "by", "adapting", "the", "same", "techniques", "from", "classical", "computing", "and", "using", "essentially", "the", "same", "error", "model", ".", "Nanoelectronics", "will", "potentially", "change", "the", "way", "computing", "systems", "are", "designed", ",", "not", "only", "because", "of", "the", "sheer", "number", "of", "devices", "that", "will", "coexist", "onto", "the", "same", "chip", ",", "but", "also", "because", "of", "the", "sensitivity", "of", "these", "devices", ".", "196", "Figure", "15", ".", "An", "overview", "of", "the", "QUERIST", "project", "Therefore", ",", "if", "nanoelectronics", "is", "to", "be", "employed", "to", "build", "dependable", "computing", "machines", "-LRB-", "a", "certain", "contradiction", "notwithstanding", "-RRB-", ",", "valuable", "expertise", "in", "design", "can", "be", "drawn", "from", "natural", "sciences", ".", "While", "biology", "provides", "countless", "examples", "of", "successfully", "implemented", "fault", "tolerance", "strategies", ",", "physics", "offers", "theoretical", "foundations", ",", "both", "of", "which", "were", "found", "to", "share", "common", "ground", ".", "It", "is", "perhaps", "a", "coincidence", "worth", "exploring", "in", "digital", "computing", ".", "-LSB-", "1", "-RSB-", "Aharonov", ",", "D.", ",", "Ben-Or", ",", "M.", "Fault", "Tolerant", "Quantum", "Computation", "with", "Constant", "Error", ".", "Proc", ".", "ACM", "29th", "Ann", ".", "Symposium", "on", "Theory", "of", "Computing", ",", "El", "Paso", ",", "Texas", ",", "May", "1997", ",", "pp.", "176-188", ".", "-LSB-", "2", "-RSB-", "Avizienis", ",", "A.", ",", "Laprie", ",", "J.C.", ",", "Randell", ",", "B.", ",", "Landwehr", ",", "C.", "Basic", "Concepts", "and", "Taxonomy", "of", "Dependable", "and", "Secure", "Computing", ".", "IEEE", "Transactions", "on", "Dependable", "and", "Secure", "Computing", ",", "1", ",", "1", "-LRB-", "Jan-Mar", "2004", "-RRB-", ",", "11-33", ".", "-LSB-", "3", "-RSB-", "Butts", ",", "M.", ",", "DeHon", ",", "A.", ",", "Golstein", ",", "S.C.", "Molecular", "Electronics", ":", "Devices", ",", "Systems", "and", "Tools", "for", "Gigagate", ",", "Gigabit", "Chips", ".", "Proc", ".", "Intl.", ".", "Conference", "on", "CAD", "-LRB-", "ICCAD", "'", "02", "-RRB-", ",", "2002", ",", "pp.", "433-440", ".", "-LSB-", "4", "-RSB-", "Canham", ",", "R.", ",", "Tyrrell", ",", "A", ".", "An", "Embryonic", "Array", "with", "Improved", "Efficiency", "and", "Fault", "Tolerance", ".", "Proc", ".", "IEEE", "NASA/DoD", "Conference", "on", "Evolvable", "Hardware", ",", "Chicago", "Il", ",", "2003", ",", "275-282", ".", "-LSB-", "5", "-RSB-", "Gaisler", ",", "J.", "Evaluation", "of", "a", "32-Bit", "Microprocessor", "with", "Built-In", "Concurrent", "Error", "Detection", ".", "Proc", ".", "27th", "Annual", "Intl.", ".", "Symposium", "on", "Fault-Tolerant", "Computing", "-LRB-", "FTCS-27", "-RRB-", ",", "1997", ",", "pp.", "42-46", ".", "-LSB-", "6", "-RSB-", "Goldstein", ",", "S.C.", ".", "The", "Challenges", "and", "Opportunities", "of", "Nanoelectronics", ".", "Proc", ".", "Government", "Microcircuit", "Applications", "and", "Critical", "Technology", "Conference", "-LRB-", "GOMAC", "Tech", "04", "-RRB-", ",", "Monterey", ",", "CA", ",", "March", "2004", ".", "-LSB-", "7", "-RSB-", "Gottesman", ",", "D.", "Class", "of", "quantum", "error-correcting", "codes", "saturating", "the", "quantum", "Hamming", "bound", ".", "Phys", ".", "Rev.", "A", "54", ",", "1996", ",", "pp.", "1862-1868", ".", "-LSB-", "8", "-RSB-", "Johnson", ",", "B.W.", "Design", "and", "Analysis", "of", "Fault-Tolerant", "Digital", "Systems", ".", "Addison-Wesley", ",", "1989", ".", "-LSB-", "9", "-RSB-", "Laprie", ",", "J.-C", ".", "-LRB-", "Ed", ".", "-RRB-", ".", "Dependability", ":", "Basic", "Concepts", "and", "Terminology", ".", "Dependable", "Computing", "and", "Fault-Tolerant", "Systems", "Series", ",", "Vol", ".", "5", ",", "Springer-Verlag", ",", "Vienna", ",", "1992", ".", "-LSB-", "10", "-RSB-", "Liden", ",", "P.", ",", "Dahlgren", ",", "P.", ",", "Johansson", ",", "R.", ",", "Karlsson", ",", "J.", "On", "Latching", "Probability", "of", "Particle", "Induced", "Transients", "in", "Combinational", "Networks", ".", "Proc", ".", "Intl.", ".", "Symposium", "on", "Fault-Tolerant", "Computing", "-LRB-", "FTCS-24", "-RRB-", ",", "1994", ",", "pp.340-349", ".", "-LSB-", "11", "-RSB-", "Mange", ",", "D.", ",", "Sipper", ",", "M.", ",", "Stauffer", ",", "A.", ",", "Tempesti", ",", "G.", "Toward", "Robust", "Integrated", "Circuits", ":", "The", "Embryonics", "Approach", ".", "Proc", ".", "of", "the", "IEEE", ",", "vol", ".", "88", ",", "No.", "4", ",", "April", "2000", ",", "pp.", "516-541", ".", "-LSB-", "12", "-RSB-", "Mange", ",", "D.", "and", "Tomassini", ",", "M.", "eds", ".", "Bio-Inspired", "Computing", "Machines", ":", "Towards", "Novel", "Computational", "Architectures", ".", "Presses", "Polytechniques", "et", "Universitaires", "Romandes", ",", "Lausanne", ",", "Switzerland", ",", "1998", ".", "-LSB-", "13", "-RSB-", "Von", "Neumann", ",", "J", ".", "The", "Computer", "and", "the", "Brain", "-LRB-", "2", "nd", "edition", "-RRB-", ".", "Physical", "Science", ",", "2000", ".", "-LSB-", "14", "-RSB-", "Von", "Neumann", ",", "J", ".", "The", "Theory", "of", "Self-Reproducing", "Automata", ".", "A.", "W.", "Burks", ",", "ed", ".", "University", "of", "Illinois", "Press", ",", "Urbana", ",", "IL", ",", "1966", ".", "-LSB-", "15", "-RSB-", "Von", "Neumann", ",", "J.", "Probabilistic", "Logic", "and", "the", "Synthesis", "of", "Reliable", "Organisms", "from", "Unreliable", "Components", ".", "In", "C.E.", "Shannon", ",", "J.", "McCarthy", "-LRB-", "eds", ".", "-RRB-", "Automata", "Studies", ",", "Annals", "of", "Mathematical", "Studies", "34", ",", "Princeton", "University", "Press", ",", "1956", ",", "43-98", ".", "-LSB-", "16", "-RSB-", "Nielsen", ",", "M.A.", ",", "Chuang", ",", "I.L.", "Quantum", "Computation", "and", "Quantum", "Information", ".", "Cambridge", "University", "Press", ",", "2000", ".", "-LSB-", "17", "-RSB-", "Ortega", ",", "C.", ",", "Tyrrell", ",", "A.", "Reliability", "Analysis", "in", "Self-Repairing", "Embryonic", "Systems", ".", "Proc", ".", "1st", "NASA/DoD", "Workshop", "on", "Evolvable", "Hardware", ",", "Pasadena", "CA", ",", "1999", ",", "120-128", ".", "-LSB-", "18", "-RSB-", "O'Connor", ",", "P.D.T.", "Practical", "Reliability", "Engineering", ".", "John", "Wiley", "&", "Sons", ",", "4", "th", "edition", ",", "2002", ".", "-LSB-", "19", "-RSB-", "Preskill", ",", "J.", "Fault", "Tolerant", "Quantum", "Computation", ".", "In", "H.K.", "Lo", ",", "S.", "Popescu", "and", "T.P.", "Spiller", ",", "eds", ".", "Introduction", "to", "Quantum", "Computation", ",", "World", "Scientific", "Publishing", "Co.", ",", "1998", ".", "197", "-LSB-", "20", "-RSB-", "Prodan", ",", "L.", "Self-Repairing", "Memory", "Arrays", "Inspired", "by", "Biological", "Processes", ".", "Ph.D.", ".", "Thesis", ",", "``", "Politehnica", "''", "University", "of", "Timisoara", ",", "Romania", ",", "October", "14", ",", "2005", ".", "-LSB-", "21", "-RSB-", "Prodan", ",", "L.", ",", "Udrescu", ",", "M.", ",", "Vladutiu", ",", "M.", "Survivability", "Analysis", "in", "Embryonics", ":", "A", "New", "Perspective", ".", "Proc", ".", "IEEE", "NASA/DoD", "Conference", "on", "Evolvable", "Hardware", ",", "Washington", "DC", ",", "2005", ",", "280-289", ".", "-LSB-", "22", "-RSB-", "Prodan", ",", "L.", ",", "Udrescu", ",", "M.", ",", "Vladutiu", ",", "M.", "Self-Repairing", "Embryonic", "Memory", "Arrays", ".", "Proc", ".", "IEEE", "NASA/DoD", "Conference", "on", "Evolvable", "Hardware", ",", "Seattle", "WA", ",", "2004", ",", "130-137", ".", "-LSB-", "23", "-RSB-", "Prodan", ",", "L.", ",", "Tempesti", ",", "G.", ",", "Mange", ",", "D.", ",", "and", "Stauffer", ",", "A.", "Embryonics", ":", "Electronic", "Stem", "Cells", ".", "Proc", ".", "Artificial", "Life", "VIII", ",", "The", "MIT", "Press", ",", "Cambridge", "MA", ",", "2003", ",", "101-105", ".", "-LSB-", "24", "-RSB-", "Prodan", ",", "L.", ",", "Tempesti", ",", "G.", ",", "Mange", ",", "D.", ",", "and", "Stauffer", ",", "A.", "Embryonics", ":", "Artificial", "Cells", "Driven", "by", "Artificial", "DNA", ".", "Proc", ".", "4th", "International", "Conference", "on", "Evolvable", "Systems", "-LRB-", "ICES2001", "-RRB-", ",", "Tokyo", ",", "Japan", ",", "LNCS", "vol", ".", "2210", ",", "Springer", ",", "Berlin", ",", "2001", ",", "100-111", ".", "-LSB-", "25", "-RSB-", "Prodan", ",", "L.", ",", "Tempesti", ",", "G.", ",", "Mange", ",", "D.", ",", "and", "Stauffer", ",", "A.", "Biology", "Meets", "Electronics", ":", "The", "Path", "to", "a", "Bio-Inspired", "FPGA", ".", "In", "Proc", ".", "3rd", "International", "Conference", "on", "Evolvable", "Systems", "-LRB-", "ICES2000", "-RRB-", ",", "Edinburgh", ",", "Scotland", ",", "LNCS", "1801", ",", "Springer", ",", "Berlin", ",", "2000", ",", "187-196", ".", "-LSB-", "26", "-RSB-", "Rimen", ",", "M.", ",", "Ohlsson", ",", "J.", ",", "Karlsson", ",", "J.", ",", "Jenn", ",", "E.", ",", "Arlat", ",", "J.", "Validation", "of", "fault", "tolerance", "by", "fault", "injection", "in", "VHDL", "simulation", "models", ".", "Rapport", "LAAS", "No.", "92469", ",", "December", "1992", ".", "-LSB-", "27", "-RSB-", "Rimen", ",", "M.", ",", "Ohlsson", ",", "J.", ",", "Karlsson", ",", "J.", ",", "Jenn", ",", "E.", ",", "Arlat", ",", "J.", "Design", "guidelines", "of", "a", "VHDL-based", "simulation", "tool", "for", "the", "validation", "of", "fault", "tolerance", ".", "Rapport", "LAAS", "No93170", ",", "Esprit", "Basic", "Research", "Action", "No.", "6362", ",", "May", "1993", ".", "-LSB-", "28", "-RSB-", "Shivakumar", ",", "P.", ",", "Kistler", ",", "M.", ",", "Keckler", ",", "S.W.", ",", "Burger", ",", "D.", ",", "Alvisi", ",", "L.", "Modelling", "the", "Effect", "of", "Technology", "Trends", "on", "the", "Soft", "Error", "Rate", "of", "Combinational", "Logic", ".", "Proc", ".", "Intl.", ".", "Conference", "on", "Dependable", "Systems", "and", "Networks", "-LRB-", "DSN", "-RRB-", ",", "June", "2002", ",", "pp.", "389-398", ".", "-LSB-", "29", "-RSB-", "Shor", ",", "P.", "Fault-tolerant", "quantum", "computation", ".", "arXiv.org", ":", "quant-ph/9605011", ",", "1996", ".", "-LSB-", "30", "-RSB-", "Shor", ",", "P.", "Algorithms", "for", "Quantum", "Computation", ":", "Discrete", "Logarithms", "and", "Factoring", ".", "Proc", ".", "35th", "Symp", ".", "on", "Foundations", "of", "Computer", "Science", ",", "1994", ",", "pp.124-134", ".", "-LSB-", "31", "-RSB-", "Sipper", ",", "M.", ",", "Mange", ",", "D.", ",", "Stauffer", ",", "A.", "Ontogenetic", "Hardware", ".", "BioSystems", ",", "44", ",", "3", ",", "1997", ",", "193-207", ".", "-LSB-", "32", "-RSB-", "Sipper", ",", "M.", ",", "Sanchez", ",", "E.", ",", "Mange", ",", "D.", ",", "Tomassini", ",", "M.", ",", "Perez-Uribe", ",", "A.", ",", "Stauffer", ",", "A", ".", "A", "Phylogenetic", ",", "Ontogenetic", "and", "Epigenetic", "View", "of", "Bio-Inspired", "Hardware", "Systems", ".", "IEEE", "Transactions", "on", "Evolutionary", "Computation", ",", "1", ",", "1", ",", "April", "1997", ",", "83-97", ".", "-LSB-", "33", "-RSB-", "Steane", ",", "A.", "Multiple", "Particle", "Interference", "and", "Quantum", "Error", "Correction", ".", "Proc", ".", "Roy", ".", "Soc", ".", "Lond", ".", "A", "452", ",", "1996", ",", "pp.", "2551", ".", "-LSB-", "34", "-RSB-", "Udrescu", ",", "M.", "Quantum", "Circuits", "Engineering", ":", "Efficient", "Simulation", "and", "Reconfigurable", "Quantum", "Hardware", ".", "Ph.D.", ".", "Thesis", ",", "``", "Politehnica", "''", "University", "of", "Timisoara", ",", "Romania", ",", "November", "25", ",", "2005", ".", "-LSB-", "35", "-RSB-", "Udrescu", ",", "M.", ",", "Prodan", ",", "L.", ",", "Vladutiu", ",", "M.", "Simulated", "Fault", "Injection", "in", "Quantum", "Circuits", "with", "the", "Bubble", "Bit", "Technique", ".", "Proc", ".", "International", "Conference", "``", "Adaptive", "and", "Natural", "Computing", "Algorithms", "''", ",", "pp.", "276-279", ".", "-LSB-", "36", "-RSB-", "Udrescu", ",", "M.", ",", "Prodan", ",", "L.", ",", "Vladutiu", ",", "M", ".", "The", "Bubble", "Bit", "Technique", "as", "Improvement", "of", "HDL-Based", "Quantum", "Circuits", "Simulation", ".", "IEEE", "38th", "Annual", "Simulation", "Symposium", ",", "San", "Diego", "CA", ",", "USA", ",", "2005", ",", "pp.", "217-224", ".", "-LSB-", "37", "-RSB-", "Udrescu", ",", "M.", ",", "Prodan", ",", "L.", ",", "Vladutiu", ",", "M.", "Improving", "Quantum", "Circuit", "Dependability", "with", "Reconfigurable", "Quantum", "Gate", "Arrays", ".", "2nd", "ACM", "International", "Conference", "on", "Computing", "Frontiers", ",", "Ischia", ",", "Italy", ",", "2005", ",", "pp.", "133-144", ".", "-LSB-", "38", "-RSB-", "Udrescu", ",", "M.", ",", "Prodan", ",", "L.", ",", "Vladutiu", ",", "M.", "Using", "HDLs", "for", "describing", "quantum", "circuits", ":", "a", "framework", "for", "efficient", "quantum", "algorithm", "simulation", ".", "Proc", ".", "1st", "ACM", "Conference", "on", "Computing", "Frontiers", ",", "Ischia", ",", "Italy", ",", "2004", ",", "96-110", ".", "-LSB-", "39", "-RSB-", "Tempesti", ",", "G", ".", "A", "Self-Repairing", "Multiplexer-Based", "FPGA", "Inspired", "by", "Biological", "Processes", ".", "Ph.D.", ".", "Thesis", "No.", "1827", ",", "Logic", "Systems", "Laboratory", ",", "The", "Swiss", "Federal", "Institute", "of", "Technology", ",", "Lausanne", ",", "1998", ".", "-LSB-", "40", "-RSB-", "Tempesti", ",", "G.", ",", "Mange", ",", "D.", ",", "Petraglio", ",", "E.", ",", "Stauffer", ",", "A.", ",", "Thoma", "Y.", "Developmental", "Processes", "in", "Silicon", ":", "An", "Engineering", "Perspective", ".", "Proc", ".", "IEEE", "NASA/DoD", "Conference", "on", "Evolvable", "Hardware", ",", "Chicago", "Il", ",", "2003", ",", "265-274", ".", "-LSB-", "41", "-RSB-", "Viamontes", ",", "G.", ",", "Markov", ",", "I.", ",", "Hayes", ",", "J.P.", "High-performance", "QuIDD-based", "Simulation", "of", "Quantum", "Circuits", ".", "Proc", ".", "Design", "Autom", ".", "and", "Test", "in", "Europe", "-LRB-", "DATE", "-RRB-", ",", "Paris", ",", "France", ",", "2004", ",", "pp", ".", "1354-1359", ".", "-LSB-", "42", "-RSB-", "Yu", ",", "Y.", ",", "Johnson", ",", "B.W.", ".", "A", "Perspective", "on", "the", "State", "of", "Research", "on", "Fault", "Injection", "Techniques", ".", "Technical", "Report", "UVA-CSCS-FIT-001", ",", "University", "of", "Virginia", ",", "May", "20", ",", "2002", ".", "-LSB-", "43", "-RSB-", "***", ".", "ITRS", "International", "Technology", "Roadmap", "for", "Semiconductors", ",", "Emerging", "Research", "Devices", ",", "2004", ",", "http://www", ".", "itrs.net/Common/2004Update/2004_05_ERD.pdf", "-LSB-", "44", "-RSB-", "***", ".", "Society", "of", "Reliability", "Engineers", ",", "http://www.sre.org/", "pubs", "/", "-LSB-", "45", "-RSB-", "***", ".", "http://www.dependability.org/wg10.4/", "198"], "doc_bio_tags": ["O", "B", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["error detection", "fault tolerance", "evolvable hardware", "computer system", "reliability", "querist", "dependable system", "dependability", "digital devices", "failure rate", "computing architecture", "soft errors", "nanoelectronics", "embryonics", "correction techniques", "quantum computing", "environment", "emerging technologies", "computing system"], "abstractive_keyphrases": ["computing technology", "self repair", "system design", "bio-inspired computing", "self replication", "nano computing", "bio-inspired digital design", "bio-computing", "fault-tolerance assessment"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "45", "document": ["Bluetooth", "Dynamic", "Scheduling", "and", "Interference", "Mitigation", "Bluetooth", "is", "a", "cable", "replacement", "technology", "for", "Wireless", "Personal", "Area", "Networks", ".", "It", "is", "designed", "to", "support", "a", "wide", "variety", "of", "applications", "such", "as", "voice", ",", "streamed", "audio", "and", "video", ",", "web", "browsing", ",", "printing", ",", "and", "file", "sharing", ",", "each", "imposing", "a", "number", "of", "quality", "of", "service", "constraints", "including", "packet", "loss", ",", "latency", ",", "delay", "variation", ",", "and", "throughput", ".", "In", "addition", "to", "QOS", "support", ",", "another", "challenge", "for", "Bluetooth", "stems", "from", "having", "to", "share", "the", "2.4", "GHz", "ISM", "band", "with", "other", "wireless", "devices", "such", "as", "IEEE", "802.11", ".", "The", "main", "goal", "of", "this", "paper", "is", "to", "investigate", "the", "use", "of", "a", "dynamic", "scheduling", "algorithm", "that", "guarantees", "QoS", "while", "reducing", "the", "impact", "of", "interference", ".", "We", "propose", "a", "mapping", "between", "some", "common", "QoS", "parameters", "such", "as", "latency", "and", "bit", "rate", "and", "the", "parameters", "used", "in", "the", "algorithm", ".", "We", "study", "the", "algorithm", "'s", "performance", "and", "obtain", "simulation", "results", "for", "selected", "scenarios", "and", "configurations", "of", "interest", ".", "Today", "most", "radio", "technologies", "considered", "by", "Wireless", "Personal", "Area", "Network", "-LRB-", "WPAN", "-RRB-", "industry", "consortia", "and", "standard", "groups", "including", "the", "Bluetooth", "Special", "Interest", "Group", "-LSB-", "1", "-RSB-", ",", "HomeRF", ",", "and", "the", "IEEE", "802.15", ",", "employ", "the", "2.4", "GHz", "ISM", "frequency", "band", ".", "This", "same", "frequency", "band", "is", "already", "in", "use", "by", "microwave", "ovens", "and", "the", "popular", "Wireless", "Local", "Area", "Network", "-LRB-", "WLAN", "-RRB-", "devices", "implementing", "the", "IEEE", "802.11", "standard", "specifications", "-LSB-", "8", "-RSB-", ".", "However", ",", "instead", "of", "competing", "with", "WLANs", "for", "spectrum", "and", "applications", ",", "WPANs", "are", "intented", "to", "augment", "many", "of", "the", "usage", "scenarios", "and", "operate", "in", "conjunction", "with", "WLANs", ",", "i.e.", ",", "come", "together", "in", "the", "same", "laptop", ",", "or", "operate", "in", "proximity", "in", "an", "office", "or", "conference", "room", "environment", ".", "For", "example", ",", "Bluetooth", "can", "be", "used", "to", "connect", "a", "headset", ",", "or", "PDA", "to", "a", "desk-top", "computer", ",", "that", ",", "in", "turn", ",", "may", "be", "using", "WLAN", "to", "connect", "to", "an", "Access", "Point", "placed", "several", "meters", "away", ".", "Thus", ",", "an", "issue", "of", "growing", "concern", "is", "the", "coexistence", "of", "WLAN", "and", "WPAN", "in", "the", "same", "environment", ".", "Several", "techniques", "and", "algorithms", "aimed", "at", "reducing", "the", "impact", "of", "interference", "have", "been", "considered", ".", "These", "techniques", "range", "from", "collaborative", "schemes", "intended", "for", "Bluetooth", "and", "IEEE", "802.11", "protocols", "to", "be", "implemented", "in", "the", "same", "device", "to", "fully", "independent", "solutions", "that", "rely", "on", "interference", "detection", "and", "estimation", ".", "In", "particular", ":", "Collaborative", "mechanisms", ".", "Mechanisms", "for", "collaborative", "schemes", "have", "been", "proposed", "to", "the", "IEEE", "802.15", "Coexistence", "Task", "Group", "and", "are", "based", "on", "a", "Time", "Division", "Multiple", "Access", "-LRB-", "TDMA", "-RRB-", "solution", "that", "alternates", "the", "transmission", "of", "Bluetooth", "and", "WLAN", "packets", "-LRB-", "assuming", "both", "protocols", "are", "implemented", "in", "the", "same", "device", "and", "use", "a", "common", "transmitter", "-RRB-", "-LSB-", "9", "-RSB-", ".", "A", "priority", "of", "access", "is", "given", "to", "Bluetooth", "for", "transmitting", "voice", "packets", ",", "while", "WLAN", "is", "given", "priority", "for", "transmitting", "data", ".", "Non-collaborative", "mechanisms", ".", "The", "non-collaborative", "mechanisms", "range", "from", "adaptive", "frequency", "hopping", "-LSB-", "11", "-RSB-", "to", "packet", "scheduling", "and", "traffic", "control", "-LSB-", "4", "-RSB-", ".", "They", "all", "use", "similar", "techniques", "for", "detecting", "the", "presence", "of", "other", "devices", "in", "the", "band", "such", "as", "measuring", "the", "bit", "or", "frame", "error", "rate", ",", "the", "signal", "strength", "or", "the", "signal", "to", "interference", "ratio", "-LRB-", "often", "implemented", "as", "the", "Received", "Signal", "Indicator", "Strength", "-LRB-", "RSSI", "-RRB-", "-RRB-", ".", "Frequency", "hopping", "devices", "may", "be", "able", "to", "detect", "that", "some", "frequencies", "are", "used", "by", "other", "devices", "and", "thus", "modify", "their", "frequency", "hopping", "pattern", ".", "They", "can", "also", "choose", "not", "to", "transmit", "on", "``", "bad", "''", "frequencies", ".", "The", "first", "technique", "is", "known", "as", "adaptive", "frequency", "hopping", ",", "while", "the", "second", "technique", "is", "known", "as", "MAC", "scheduling", ".", "The", "main", "advantage", "of", "scheduling", "is", "that", "it", "does", "not", "require", "changes", "to", "the", "Bluetooth", "specifications", ".", "In", "this", "paper", "we", "present", "a", "Bluetooth", "Interference", "Aware", "Scheduling", "-LRB-", "BIAS", "-RRB-", "algorithm", "to", "deal", "with", "coexistence", ".", "This", "algorithm", "takes", "advantage", "of", "the", "fact", "that", "devices", "in", "the", "same", "piconet", "will", "not", "be", "subject", "to", "the", "same", "levels", "of", "interference", "on", "all", "channels", "of", "the", "band", ".", "The", "basic", "idea", "is", "to", "utilize", "the", "Bluetooth", "frequency", "hopping", "pattern", "and", "distribute", "channels", "to", "devices", "such", "that", "to", "maximize", "their", "throughput", "while", "ensuring", "fairness", "of", "access", "among", "users", ".", "In", "this", "paper", ",", "we", "propose", "several", "extensions", "to", "a", "preliminary", "discussion", "of", "the", "algorithm", "-LSB-", "4", "-RSB-", "in", "order", "to", "address", "-LRB-", "1", "-RRB-", "priority", "scheduling", ",", "-LRB-", "2", "-RRB-", "dynamic", "changes", "in", "the", "environment", ",", "and", "-LRB-", "3", "-RRB-", "asymmetric", "scenarios", "where", "packet", "lengths", "and", "data", "rates", "are", "chosen", "differently", "in", "the", "upstream", "-LRB-", "slave", "to", "master", "transmission", "-RRB-", "and", "downstream", "-LRB-", "master", "to", "slave", "transmission", "-RRB-", "directions", ".", "In", "addition", ",", "we", "describe", "how", "to", "map", "commonly", "used", "QOS", "parameters", ",", "namely", "bit", "rate", ",", "and", "jitter", "and", "the", "parameters", "used", "in", "BIAS", ".", "Simulation", "results", "for", "scenarios", "and", "configurations", "of", "interest", "are", "presented", "and", "performance", "is", "measured", "in", "terms", "of", "packet", "loss", "and", "mean", "access", "delay", ".", "The", "remainder", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "section", "2", ",", "we", "give", "some", "general", "insights", "on", "the", "Bluetooth", "interference", "environment", ".", "In", "section", "3", ",", "we", "describe", "BIAS", "and", "discuss", "the", "mapping", "of", "QOS", "parameters", ".", "In", "section", "4", ",", "22", "N.", "GOLMIE", "we", "present", "simulation", "results", "and", "offer", "concluding", "remarks", "in", "section", "5", ".", "Since", "Bluetooth", "operates", "in", "the", "2.4", "GHz", "band", "along", "with", "other", "wireless", "technologies", "such", "as", "802.11", ",", "high", "and", "low", "rate", "WPAN", "-LRB-", "802.15.3", "and", "4", "-RRB-", ",", "the", "resulting", "mutual", "interference", "leads", "to", "significant", "performance", "degradation", ".", "In", "this", "paper", ",", "we", "assume", "that", "interference", "is", "caused", "by", "an", "802.11", "spread", "spectrum", "network", "operating", "in", "proximity", "of", "the", "Bluetooth", "piconet", ".", "This", "represents", "the", "worst", "case", "interference", "for", "Bluetooth", ".", "Golmie", "et", "al.", "-LSB-", "6", "-RSB-", "use", "a", "detailed", "MAC", "and", "PHY", "simulation", "framework", "to", "evaluate", "the", "impact", "of", "interference", "for", "a", "pair", "of", "WLAN", "devices", "and", "a", "pair", "of", "Bluetooth", "devices", ".", "The", "results", "indicate", "that", "Bluetooth", "performance", "may", "be", "severely", "impacted", "by", "interference", "with", "packet", "loss", "of", "8", "%", "and", "18", "%", "for", "voice", "and", "data", "traffic", ",", "respectively", ".", "In", "-LSB-", "6", "-RSB-", ",", "the", "authors", "investigate", "the", "effect", "of", "several", "factors", ",", "such", "as", "transmitted", "power", ",", "offered", "load", ",", "packet", "size", ",", "hop", "rate", ",", "and", "error", "correction", "on", "performance", ".", "First", ",", "they", "note", "that", "power", "control", "may", "have", "limited", "benefits", "in", "an", "interference", "environment", ".", "Increasing", "the", "Bluetooth", "transmission", "power", "even", "ten", "times", "is", "not", "sufficient", "to", "reduce", "the", "Bluetooth", "packet", "loss", ".", "Second", ",", "using", "a", "shorter", "packet", "size", "leads", "to", "less", "packet", "loss", "for", "Bluetooth", "at", "the", "cost", "of", "causing", "more", "interference", "on", "WLAN", ".", "Overall", ",", "the", "results", "exhibit", "a", "strong", "dependence", "on", "the", "type", "and", "characteristics", "of", "the", "traffic", "distribution", "used", ".", "Additional", "analytical", "-LSB-", "5,10", "-RSB-", "and", "experimentation", "-LSB-", "3,7", "-RSB-", "results", "confirm", "these", "findings", ".", "In", "this", "section", ",", "we", "present", "a", "Bluetooth", "Interference", "Aware", "Scheduling", "-LRB-", "BIAS", "-RRB-", "algorithm", "that", "consists", "of", "several", "components", ",", "namely", ",", "-LRB-", "i", "-RRB-", "dynamic", "channel", "estimation", ",", "-LRB-", "ii", "-RRB-", "credit", "computation", ",", "and", "-LRB-", "iii", "-RRB-", "access", "priority", ".", "A", "preliminary", "discussion", "of", "BIAS", "appeared", "in", "-LSB-", "4", "-RSB-", ".", "In", "this", "sequel", ",", "we", "assume", "that", "traffic", "from", "slave", "S", "i", "to", "the", "master", "-LRB-", "upstream", "-RRB-", "is", "characterized", "by", "a", "data", "rate", ",", "i", "up", ",", "equal", "to", "-LRB-", "N", "i", "peak", "l", "iup", "-RRB-", "/", "p", "i", "where", "N", "i", "peak", "is", "the", "number", "of", "packets", "sent", "back-to-back", "within", "a", "poll", "interval", ",", "p", "i", ",", "and", "l", "iup", "is", "the", "packet", "length", "-LRB-", "1", ",", "3", ",", "or", "5", "slots", "depending", "on", "the", "packet", "type", "-RRB-", ".", "Similarly", ",", "the", "data", "rate", "in", "the", "downstream", "-LRB-", "from", "the", "master", "to", "slave", "S", "i", "-RRB-", "is", "characterized", "by", "i", "dn", "equal", "to", "-LRB-", "N", "i", "peak", "l", "i", "dn", "-RRB-", "/", "p", "i", ".", "Note", "that", "N", "i", "peak", "and", "p", "i", "are", "the", "same", "in", "the", "upstream", "and", "downstream", ",", "since", "every", "packet", "in", "the", "upstream", "corresponds", "to", "one", "in", "the", "downstream", ".", "In", "addition", ",", "we", "assume", "the", "following", "transmission", "rules", "for", "the", "master", "and", "slave", ".", "Master", "The", "master", "polls", "S", "i", "every", "p", "i", "slots", "in", "order", "to", "guarantee", "i", "up", "in", "the", "upstream", "direction", ".", "A", "poll", "message", "can", "be", "either", "a", "data", "or", "POLL", "packet", ".", "A", "data", "packet", "is", "sent", "if", "there", "is", "a", "packet", "in", "the", "queue", "destined", "for", "S", "i", ".", "This", "packet", "contains", "the", "ACK", "of", "the", "previous", "packet", "received", "from", "S", "i", ".", "In", "case", "there", "is", "no", "data", "to", "transmit", "and", "the", "master", "needs", "to", "ACK", "a", "previous", "slave", "transmission", ",", "it", "sends", "a", "NULL", "packet", ".", "Slave", "S", "i", "Upon", "receipt", "of", "a", "packet", "from", "the", "master", ",", "the", "slave", "can", "transmit", "a", "data", "packet", ".", "This", "data", "packet", "contains", "the", "ACK", "information", "of", "the", "master", "to", "slave", "packet", "transmission", ".", "In", "case", "the", "slave", "does", "not", "have", "any", "data", "to", "send", ",", "it", "sends", "a", "NULL", "packet", "in", "order", "to", "ACK", "the", "previous", "packet", "reception", "from", "the", "master", ".", "No", "ACK", "is", "required", "for", "a", "NULL", "message", "from", "the", "master", ".", "In", "a", "nutshell", ",", "we", "propose", "a", "method", "that", "allows", "the", "master", "device", ",", "which", "controls", "all", "data", "transmissions", "in", "the", "piconet", ",", "to", "avoid", "data", "transmission", "to", "a", "slave", "experiencing", "a", "``", "bad", "''", "frequency", ".", "Furthermore", ",", "since", "a", "slave", "transmission", "always", "follows", "a", "master", "transmission", ",", "using", "the", "same", "principle", ",", "the", "master", "avoids", "receiving", "data", "on", "a", "``", "bad", "''", "frequency", ",", "by", "avoiding", "a", "transmission", "on", "a", "frequency", "preceding", "a", "``", "bad", "''", "one", "in", "the", "hopping", "pattern", ".", "This", "simple", "scheduling", "scheme", "illustrated", "in", "figure", "1", "needs", "only", "be", "implemented", "in", "the", "master", "device", "and", "translates", "into", "the", "following", "transmission", "rule", ".", "The", "master", "transmits", "in", "a", "slot", "after", "it", "verifies", "that", "both", "the", "slave", "'s", "receiving", "frequency", ",", "f", "s", ",", "Figure", "1", ".", "Interference", "Aware", "Scheduling", ".", "BLUETOOTH", "DYNAMIC", "SCHEDULING", "AND", "INTERFERENCE", "MITIGATION", "23", "Figure", "2", ".", "Master", "packet", "transmission", "flow", "diagram", ".", "and", "its", "own", "receiving", "frequency", ",", "f", "m", ",", "are", "``", "good", "''", ".", "Otherwise", ",", "the", "master", "skips", "the", "current", "transmission", "slot", "and", "repeats", "the", "procedure", "over", "again", "in", "the", "next", "transmission", "opportunity", ".", "Figure", "2", "describes", "the", "master", "'s", "transmission", "flow", "diagram", ".", "In", "addition", ",", "to", "checking", "the", "slave", "'s", "and", "the", "master", "'s", "receiving", "frequencies", "pair", ",", "-LRB-", "f", "s", ",", "f", "m", "-RRB-", ",", "the", "algorithm", "incorporates", "bandwidth", "requirements", ",", "and", "quality", "of", "service", "guarantees", "for", "each", "master/slave", "connection", "in", "the", "piconet", ".", "This", "bandwidth", "allocation", "is", "combined", "with", "the", "channel", "state", "information", "and", "mapped", "into", "transmission", "priorities", "given", "to", "each", "direction", "in", "the", "master/slave", "communication", ".", "It", "is", "shown", "in", "the", "``", "choose", "slave", "''", "routine", "in", "the", "flow", "diagram", ".", "Note", "that", "the", "master", "invokes", "the", "``", "choose", "''", "routine", "after", "serving", "the", "retransmission", "ACK", "queue", "for", "packets", "sent", "by", "the", "master", "requiring", "retransmission", ".", "In", "the", "remainder", "of", "this", "section", ",", "we", "discuss", "-LRB-", "a", "-RRB-", "a", "dynamic", "channel", "estimation", "procedure", ",", "-LRB-", "b", "-RRB-", "a", "credit", "allocation", "function", ",", "and", "-LRB-", "c", "-RRB-", "a", "service", "priority", "routine", "that", "schedules", "packet", "transmissions", "to", "devices", "according", "to", "their", "service", "requirements", "and", "the", "state", "of", "the", "channel", ".", "3.1", ".", "Dynamic", "channel", "estimation", "Estimation", "is", "mainly", "based", "on", "measurements", "conducted", "on", "each", "frequency", "or", "channel", "in", "order", "to", "determine", "the", "presence", "of", "interference", ".", "Several", "methods", "are", "available", "ranging", "from", "BER", ",", "RSSI", ",", "packet", "loss", "rate", ",", "and", "negative", "ACKs", ".", "In", "this", "discussion", ",", "the", "estimation", "is", "based", "on", "negative", "ACKs", ",", "which", "belongs", "to", "the", "class", "of", "implicit", "methods", "that", "do", "not", "require", "messages", "to", "be", "exchanged", "between", "the", "master", "and", "the", "slave", "devices", ".", "First", ",", "we", "define", "two", "phases", "in", "the", "channel", "estimate", "procedure", "as", "illustrated", "in", "figure", "3", ".", "During", "the", "Estimation", "Window", ",", "EW", ",", "packets", "are", "sent", "on", "all", "frequencies", "regardless", "of", "their", "classification", ".", "Note", "that", "in", "case", "no", "data", "traffic", "is", "available", "for", "transmission", ",", "POLL/NULL", "packets", "could", "be", "exchanged", "between", "the", "master", "and", "the", "slave", "in", "order", "to", "probe", "the", "channel", "and", "collect", "measurements", ".", "This", "POLL/NULL", "exchanged", "is", "designed", "in", "most", "implementations", "to", "keep", "the", "connection", "alive", "and", "check", "the", "status", "of", "the", "slave", ".", "It", "comes", "at", "the", "expense", "of", "causing", "more", "interference", "on", "other", "systems", ".", "EW", "takes", "place", "at", "the", "Figure", "3", ".", "Implicit", "estimation", ".", "beginning", "of", "every", "Estimation", "Interval", ",", "EI", ",", "and", "is", "followed", "by", "an", "Online", "phase", "where", "the", "master", "uses", "only", "``", "good", "''", "frequencies", "to", "selectively", "send", "data", "and", "POLL", "packets", "to", "slaves", "in", "the", "piconet", ".", "Next", ",", "we", "give", "a", "lower", "bound", "on", "the", "EW", "and", "describe", "how", "to", "adjust", "EI", "based", "on", "the", "environment", "'s", "dynamics", ".", "Estimation", "Window", ".", "The", "time", "to", "perform", "the", "channel", "estimation", "depends", "on", "the", "frequency", "hopping", "rate", "since", "the", "methods", "used", "to", "perform", "the", "classification", "depend", "on", "packet", "loss", "measurements", "per", "frequency", "visited", ".", "A", "lower", "bound", "calculation", "is", "as", "follows", ".", "First", ",", "we", "assume", "a", "hop", "rate", "of", "1600", "hops/s", "given", "single", "slot", "packets", ".", "For", "each", "receiver", "the", "hopping", "rate", "is", "1600/2", "hops/s", ",", "or", "800", "hops/s", "since", "nodes", "receive", "on", "every", "other", "``", "frequency", "''", "or", "``", "hop", "''", "in", "the", "sequence", ".", "Next", ",", "we", "consider", "the", "Bluetooth", "frequency", "hopping", "algorithm", ".", "In", "a", "window", "of", "32", "frequencies", ",", "every", "frequency", "is", "selected", "once", ",", "then", "the", "window", "is", "advanced", "by", "16", "frequencies", ",", "and", "the", "process", "is", "repeated", ".", "Therefore", ",", "it", "takes", "5", "windows", "of", "32", "frequencies", "in", "order", "to", "visit", "each", "of", "the", "79", "frequencies", "twice", ".", "In", "other", "words", ",", "160", "hops", "visit", "each", "frequency", "twice", ".", "The", "time", "to", "visit", "each", "frequency", "four", "times", "per", "receiver", "is", "160/800", "2", "=", "0.4", "seconds", "or", "400", "ms.", "In", "fact", ",", "400", "ms", "constitutes", "a", "lower", "bound", "assuming", "full", "load", "and", "single-slot", "packets", ".", "In", "order", "to", "avoid", "having", "to", "fix", "the", "EW", ",", "or", "compute", "it", "manu-ally", ",", "we", "propose", "a", "simple", "technique", "to", "dynamically", "adjusts", "the", "window", "based", "on", "the", "number", "of", "times", ",", "N", "f", ",", "each", "frequency", "in", "the", "band", "should", "be", "visited", ".", "For", "example", ",", "if", "N", "f", "is", "equal", "to", "2", ",", "then", "each", "receiving", "frequency", "in", "the", "band", "is", "visited", "at", "least", "twice", ",", "i.e.", ",", "the", "estimation", "phase", "ends", "only", "when", "the", "last", "frequency", "in", "the", "band", "has", "been", "used", "twice", "for", "each", "device", "in", "the", "piconet", ".", "Note", "that", ",", "avoiding", "``", "bad", "''", "frequencies", "can", "start", "before", "EW", "ends", ",", "or", "as", "soon", "as", "frequency", "status", "information", "becomes", "available", ".", "Estimation", "Interval", ".", "How", "often", "to", "update", "the", "channel", "estimation", "depends", "on", "the", "application", "and", "the", "dynamics", "of", "the", "scenario", "used", ".", "We", "propose", "an", "adaptive", "procedure", "to", "adjust", "EI", ",", "which", "is", "the", "interval", "between", "two", "consecutive", "estimation", "windows", ".", "First", ",", "we", "let", ",", "be", "the", "percentage", "of", "frequencies", "that", "change", "classification", "status", "-LRB-", "from", "``", "good", "''", "to", "``", "bad", "''", "or", "vice", "versa", "-RRB-", "during", "the", "previous", "estimation", "phase", ".", "More", "formally", ",", "let", "S", "-LRB-", "f", ",", "t", "-RRB-", "be", "the", "status", "of", "frequency", "f", "at", "time", "t.", "S", "-LRB-", "f", ",", "t", "-RRB-", "=", "1", "if", "f", "is", "``", "good", "''", ",", "0", "otherwise", ".", "-LRB-", "1", "-RRB-", "Using", "the", "exclusive", "bit", "``", "OR", "''", "operation", "between", "S", "-LRB-", "f", ",", "t", "-RRB-", "and", "S", "-LRB-", "f", ",", "t", "+1", "-RRB-", "represents", "the", "change", "of", "status", "of", "frequency", "f", "from", "24", "N.", "GOLMIE", "time", "t", "to", "t", "+", "1", ".", "A", "change", "of", "status", "leads", "to", "a", "logic", "``", "1", "''", "while", "a", "no", "change", "yields", "a", "logic", "``", "0", "''", ".", "Summing", "over", "all", "frequencies", "and", "dividing", "by", "the", "number", "of", "frequencies", "available", ",", "which", "is", "79", "in", "this", "case", ",", "is", "then", "equal", "to", ".", "t", "+1", "=", "1", "79", "79", "f", "S", "-LRB-", "f", ",", "t", "-RRB-", "S", "-LRB-", "f", ",", "t", "+", "1", "-RRB-", ".", "-LRB-", "2", "-RRB-", "Initially", ",", "EI", "is", "set", "to", "EI", "min", ".", "Then", ",", "EI", "is", "updated", "every", "interval", ",", "t", ",", "according", "to", "the", "rationale", "that", "if", "a", "change", "were", "to", "happen", "it", "is", "likely", "to", "happen", "again", "in", "the", "near", "future", "and", "therefore", "EI", "is", "set", "to", "EI", "min", ".", "Otherwise", ",", "the", "window", "is", "doubled", ".", "EI", "t", "+1", "=", "max", "-LRB-", "2", "EI", "t", ",", "EI", "max", "-RRB-", "if", "t", "+1", "0.1", ",", "EI", "min", "otherwise", ".", "-LRB-", "3", "-RRB-", "3.2", ".", "Credit", "allocation", "The", "credit", "system", "controls", "the", "bandwidth", "allocated", "to", "each", "device", "in", "order", "to", "ensure", "that", "no", "device", "gets", "more", "than", "its", "fair", "share", "of", "the", "available", "bandwidth", ".", "Thus", ",", "devices", "with", "a", "positive", "credit", "counter", ",", "c", "i", ",", "are", "allowed", "to", "send", "data", ".", "Since", "the", "rate", "in", "the", "upstream", "can", "be", "different", "from", "the", "rate", "in", "the", "downstream", ",", "we", "define", "c", "i", "up", "and", "c", "i", "dn", "for", "both", "the", "upstream", "and", "downstream", "credits", ".", "Credits", "can", "be", "computed", "according", "to", "the", "upstream", "and", "downstream", "rates", "negotiated", "as", "follows", ":", "c", "i", "up", "=", "i", "up", "N", ",", "c", "i", "dn", "=", "i", "dn", "N", ",", "-LRB-", "4", "-RRB-", "where", "N", "is", "the", "number", "of", "slots", "considered", "in", "the", "allocation", "and", "i", "up/down", "=", "l", "i", "up/down", "N", "i", "peak", "/", "p", "i", ".", "Credits", "are", "decremented", "by", "the", "number", "of", "slots", "used", "in", "each", "data", "packet", "transmission", ".", "The", "transmission", "of", "POLL", "and", "NULL", "packets", "does", "not", "affect", "the", "credit", "count", "based", "on", "the", "rationale", "that", "credits", "are", "not", "required", "for", "the", "transmission", "of", "POLL", "and", "NULL", "messages", ".", "An", "interesting", "question", "is", "how", "to", "compute", "or", "derive", "it", "from", "application", "QOS", "parameters", "such", "as", "delay", ",", "peak", "bandwidth", ",", "and", "jitter", ".", "Let", "d", "-LRB-", "seconds", "-RRB-", ",", "r", "-LRB-", "bits/s", "-RRB-", ",", "-LRB-", "seconds", "-RRB-", "represent", "delay", ",", "peak", "bandwidth", ",", "and", "jitter", ",", "respectively", ".", "r", "is", "part", "of", "the", "L2CAP", "QOS", "parameters", "and", "for", "some", "applications", "is", "negotiated", "between", "the", "master", "and", "the", "slave", "at", "connection", "setup", ".", "r", "is", "equal", "to", "-LRB-", "N", "peak", "E", "l", "8", "-RRB-", "/", "-LRB-", "p", "625", "10", "-6", "-RRB-", "and", "=", "-LRB-", "r", "l", "625", "10", "-6", "-RRB-", "/", "-LRB-", "E", "l", "8", "-RRB-", ".", "Note", "that", "E", "l", "is", "the", "number", "of", "information", "bytes", "contained", "in", "a", "packet", "of", "length", "l.", "Table", "1", "gives", "E", "l", "corresponding", "to", "the", "various", "DH", "formats", ".", "The", "choice", "of", "l", "depends", "on", "the", "L2CAP", "packet", "size", ",", "k", ".", "When", "k", "E", "5", ",", "N", "peak", "=", "1", "and", "l", "is", "such", "that", ":", "l", "=", "1", "if", "0", "<", "k", "27", ",", "3", "if", "27", "<", "k", "183", ",", "5", "if", "183", "<", "k", "339", ".", "-LRB-", "5", "-RRB-", "Table", "1", "Packet", "encapsulation", "rate", "for", "DH", "packets", ".", "Packet", "type", "l", "E", "l", "-LRB-", "bytes", "-RRB-", "DH1", "1", "27", "DH3", "3", "183", "DH5", "5", "339", "However", ",", "when", "k", ">", "E", "5", ",", "higher", "layer", "packets", "-LRB-", "L2CAP", "-RRB-", "are", "segmented", "into", "N", "peak", "packets", ".", "The", "aim", "is", "to", "find", "N", "peak", "equal", "to", "N", "peak", "=", "k", "E", "l", "-LRB-", "6", "-RRB-", "such", "as", "to", "minimize", "N", "peak", "l", ",", "or", "the", "total", "number", "of", "slots", "needed", ".", "Furthermore", ",", "since", "master", "and", "slave", "transmission", "alternate", ",", "the", "end-to-end", "delay", "of", "a", "packet", "accounts", "for", "the", "segmentation", "and", "the", "transmission", "of", "packets", "in", "both", "directions", ".", "Therefore", ",", "the", "choice", "of", "l", "up", "and", "l", "dn", "are", "loosely", "constrained", "by", "the", "delay", "requirements", "as", "follows", ":", "N", "peak", "-LRB-", "l", "up", "+", "l", "dn", "-RRB-", "d", "625", "10", "-6", ",", "-LRB-", "7", "-RRB-", "where", "625", "10", "-6", "is", "the", "length", "of", "a", "slot", "in", "seconds", ".", "Finally", ",", "the", "choice", "of", "p", "is", "determined", "by", "as", "follows", ":", "2", "p", "625", "10", "-6", ",", "-LRB-", "8", "-RRB-", "where", "2", "is", "the", "minimum", "value", "for", "the", "poll", "interval", "since", "every", "other", "slot", "is", "dedicated", "to", "a", "master", "-LRB-", "or", "slave", "-RRB-", "transmission", ".", "In", "case", "r", ",", "d", ",", "and", "can", "not", "be", "determined", "from", "the", "application", "QOS", ",", "can", "be", "set", "to", "1", "i", ",", "the", "leftover", "bandwidth", "after", "having", "calculated", "for", "all", "other", "applications", "with", "known", "service", "rates", "-LRB-", "-RRB-", ".", "3.3", ".", "Service", "priority", "The", "third", "component", "of", "the", "algorithm", "is", "to", "give", "an", "access", "priority", "to", "devices", "based", "on", "their", "channel", "conditions", "and", "their", "allocated", "credits", ".", "We", "let", "u", "i", "be", "the", "probability", "that", "a", "pair", "of", "master/slave", "transmission", "slots", "are", "``", "good", "''", ".", "Thus", ",", "u", "i", "represents", "the", "available", "spectrum", "to", "slave", "S", "i", ",", "and", "we", "write", ":", "u", "i", "=", "min", "1", "-", "1", "79", ",", "P", "-LRB-", "slave", "i", "has", "a", "good", "receiving", "frequency", "-RRB-", "P", "-LRB-", "master", "has", "a", "good", "receiving", "frequency", "-RRB-", ",", "-LRB-", "9", "-RRB-", "where", "P", "-LRB-", "device", "i", "has", "a", "good", "receiving", "frequency", "-RRB-", "=", "Number", "of", "good", "channels", "i", "Total", "number", "of", "channels", ".", "-LRB-", "10", "-RRB-", "We", "use", "a", "two-tier", "system", "with", "high", "and", "low", "priorities", ",", "denoted", "by", "A", ",", "and", "B", ",", "respectively", ".", "Priority", "A", "is", "used", "to", "support", "delay", "constrained", "applications", "such", "as", "voice", ",", "MP3", ",", "and", "video", ".", "On", "the", "other", "hand", ",", "priority", "B", ",", "is", "used", "to", "support", "best", "effort", "connections", "such", "as", "ftp", ",", "http", ",", "print", ",", "email", ".", "The", "scheduling", "routine", "services", "priority", "A", "devices", "first", ",", "and", "priority", "B", "devices", "second", ".", "Also", ",", "among", "same", "tier", "connections", ",", "we", "choose", "to", "give", "devices", "with", "fewer", "number", "of", "good", "channels", "the", "right", "of", "way", "over", "other", "devices", "that", "have", "more", "channels", "available", ".", "The", "priority", "access", "is", "determined", "according", "to", "a", "weight", "factor", ",", "w", ",", "that", "is", "the", "product", "of", "the", "credits", "and", "the", "probability", "of", "BLUETOOTH", "DYNAMIC", "SCHEDULING", "AND", "INTERFERENCE", "MITIGATION", "25", "Table", "2", "Definition", "of", "parameters", "used", "in", "the", "scheduling", "algorithm", ".", "Parameters", "Definition", "i", "up", ",", "dn", "Rate", "allocated", "for", "device", "i", "in", "the", "upstream", "anddownstream", "w", "i", "up", ",", "dn", "Weight", "for", "device", "i", "c", "i", "up", ",", "dn", "Credit", "for", "device", "i", "N", "Number", "of", "slots", "considered", "in", "the", "allocation", "u", "i", "Available", "frequency", "usage", "for", "device", "i", "experiencing", "a", "bad", "frequency", ".", "w", "i", "up", "and", "w", "i", "dn", "are", "computed", "as", "follows", ":", "w", "i", "up", "=", "c", "i", "up", "-LRB-", "1", "-", "u", "i", "-RRB-", ",", "w", "i", "dn", "=", "c", "i", "dn", "-LRB-", "1", "-", "u", "i", "-RRB-", ".", "-LRB-", "11", "-RRB-", "The", "master", "schedules", "a", "data", "transmission", "for", "slave", "i", "such", "as", "to", "maximize", "the", "product", "of", "the", "weights", "in", "the", "up", "and", "downstreams", ":", "i", "=", "max", "f", "S", "w", "i", "up", "w", "i", "dn", ".", "-LRB-", "12", "-RRB-", "To", "transmit", "a", "POLL", "packet", ",", "the", "master", "looks", "only", "at", "the", "weight", "function", "in", "the", "upstream", ":", "i", "=", "max", "f", "S", "w", "i", "up", ".", "-LRB-", "13", "-RRB-", "The", "selection", "of", "a", "slave", "is", "restricted", "over", "the", "set", "of", "slaves", "S", "that", "can", "receive", "on", "the", "master", "'s", "current", "transmission", "frequency", ",", "f", ".", "Thus", ",", "any", "slave", "that", "experiences", "a", "``", "bad", "''", "channel", "on", "the", "current", "transmission", "frequency", "is", "not", "considered", ".", "Four", "sets", "of", "slaves", "are", "formed", ",", "A", "f", "data", ",", "A", "f", "poll", ",", "B", "f", "data", ",", "and", "B", "f", "poll", ".", "A", "data", "and", "A", "poll", "represent", "the", "set", "of", "high", "priority", "connections", "requiring", "data", "and", "POLL", "packet", "transmissions", ",", "respectively", ".", "Similarly", ",", "B", "data", "and", "B", "poll", "represent", "low", "priority", "connections", ".", "First", ",", "the", "algorithm", "tries", "to", "schedule", "a", "packet", "to", "high", "priority", "slaves", "in", "group", "A", ",", "then", "a", "POLL", "packet", ",", "before", "it", "moves", "to", "group", "B", ".", "The", "credit", "counters", "and", "weights", "are", "updated", "accordingly", "after", "every", "master", "'s", "transmission", ".", "Table", "2", "summarizes", "the", "parameters", "used", "in", "the", "algorithm", "and", "their", "definition", ".", "The", "algorithm", "'s", "pseudocode", "is", "given", "in", "table", "11", ".", "In", "this", "section", ",", "we", "present", "simulation", "results", "to", "evaluate", "the", "performance", "of", "BIAS", ".", "The", "experiments", "illustrate", "the", "algorithm", "'s", "responsiveness", "to", "changes", "in", "the", "environment", "and", "the", "support", "of", "QOS", ".", "The", "results", "obtained", "are", "compared", "with", "Round", "Robin", "-LRB-", "RR", "-RRB-", "scheduling", ".", "Our", "simulation", "environment", "is", "based", "on", "a", "detailed", "MAC", ",", "PHY", "and", "channel", "models", "for", "Bluetooth", "and", "IEEE", "802.11", "-LRB-", "WLAN", "-RRB-", "as", "described", "in", "-LSB-", "6", "-RSB-", ".", "The", "parameters", "used", "in", "the", "setup", "vary", "according", "to", "the", "experiment", ".", "The", "common", "simulation", "parameters", "are", "summarized", "in", "table", "3", ".", "The", "simulations", "are", "run", "for", "900", "seconds", "of", "simulated", "time", "unless", "specified", "otherwise", ".", "We", "run", "10", "trials", "using", "a", "different", "random", "seed", "for", "each", "trial", ".", "In", "addition", ",", "to", "plotting", "the", "mean", "value", ",", "we", "verify", "that", "that", "the", "statistical", "variation", "around", "the", "mean", "values", "are", "very", "small", "-LRB-", "less", "than", "1", "%", "-RRB-", ".", "The", "performance", "metrics", "include", "the", "packet", "loss", ",", "the", "mean", "access", "delay", ",", "and", "the", "channel", "estimation", "transient", "time", ".", "The", "Table", "3", "Common", "simulation", "parameters", ".", "Bluetooth", "parameters", "Values", "ACL", "baseband", "packet", "encapsulation", "DH5", "Transmitted", "power", "1", "mW", "WLAN", "parameters", "Values", "Packet", "interarrival", "time", "2.172", "ms", "Offered", "load", "60", "%", "of", "channel", "capacity", "Transmitted", "power", "25", "mW", "Data", "rate", "11", "Mbit/s", "PLCP", "header", "192", "bits", "Packet", "header", "224", "bits", "Payload", "size", "12000", "bits", "packet", "loss", "is", "the", "percentage", "of", "packets", "dropped", "due", "to", "interference", "over", "the", "total", "number", "of", "packets", "received", ".", "The", "access", "delay", "measures", "the", "time", "it", "takes", "to", "transmit", "a", "packet", "from", "the", "time", "it", "is", "passed", "to", "the", "MAC", "layer", "until", "it", "is", "suc-cessfully", "received", "at", "the", "destination", ".", "The", "delay", "is", "measured", "at", "the", "L2CAP", "layer", ".", "The", "estimation", "transient", "time", "measures", "the", "time", "it", "takes", "a", "Bluetooth", "device", "to", "detect", "the", "presence", "of", "a", "``", "bad", "''", "frequency", ",", "i.e.", ",", "from", "the", "time", "a", "packet", "loss", "occurs", "until", "the", "frequency", "is", "classified", "``", "bad", "''", ".", "This", "average", "is", "provided", "on", "a", "per", "frequency", "basis", ".", "4.1", ".", "Experiment", "1", ":", "base", "case", "This", "experiment", "includes", "Bluetooth", "performance", "results", "for", "the", "reference", "scenario", "when", "no", "interference", "is", "present", ".", "It", "represents", "a", "base", "case", "since", "the", "effects", "of", "BIAS", "are", "quantified", "and", "compared", "against", "the", "reference", "scenario", ".", "It", "also", "covers", "different", "levels", "of", "interference", "caused", "by", "WLAN", "systems", "operating", "in", "close", "proximity", ".", "Thus", ",", "we", "examine", "Bluetooth", "'s", "performance", "when", "1", ",", "2", ",", "and", "3", "WLAN", "interfering", "systems", "are", "operational", "and", "compare", "that", "to", "the", "ideal", "performance", "when", "no", "interference", "is", "present", ".", "Note", "that", ",", "the", "maximum", "number", "of", "non-overlapping", "channels", "for", "WLAN", "systems", "is", "3", ",", "i.e.", ",", "there", "could", "be", "up", "to", "3", "WLAN", "networks", "operating", "simultaneously", "using", "different", "non-overlapping", "channels", ".", "In", "each", "case", ",", "results", "are", "obtained", "with", "BIAS", "and", "RR", "scheduling", ".", "The", "benefits", "of", "using", "BIAS", "are", "discussed", "in", "terms", "of", "packet", "loss", "and", "access", "delay", ".", "Topology", ".", "We", "use", "the", "topology", "illustrated", "in", "figure", "4", "that", "consists", "of", "3", "WLAN", "systems", "-LRB-", "source", "sink", "pairs", "-RRB-", ",", "and", "one", "Bluetooth", "piconet", "with", "one", "master", "and", "one", "slave", "device", ".", "In", "a", "first", "step", ",", "we", "record", "the", "results", "of", "Bluetooth", "when", "no", "WLAN", "system", "is", "present", ".", "Then", ",", "we", "add", "one", "WLAN", "system", "at", "a", "time", "starting", "with", "WLAN", "-LRB-", "Source/Sink", "-RRB-", "1", ",", "followed", "by", "WLAN", "-LRB-", "Source/Sink", "-RRB-", "2", ",", "and", "3", ".", "Traffic", ".", "For", "Bluetooth", ",", "a", "generic", "source", "that", "generates", "DH5", "packets", "is", "considered", ".", "The", "packet", "interarrival", "mean", "time", "in", "seconds", ",", "t", "B", ",", "is", "exponentially", "distributed", "and", "is", "computed", "according", "to", "t", "B", "=", "2", "l", "0.000625", "1", "-", "1", ",", "-LRB-", "14", "-RRB-", "26", "N.", "GOLMIE", "where", "l", "is", "the", "packet", "length", "in", "slots", "and", "is", "the", "offered", "load", ".", "We", "assume", "that", "WLAN", "is", "operating", "in", "the", "Direct", "Sequence", "Spread", "Spectrum", "-LRB-", "DSSS", "-RRB-", "mode", ".", "The", "WLAN", "source", "is", "transmitting", "data", "packets", "to", "the", "sink", "which", "is", "responding", "with", "ACKs", ".", "The", "WLAN", "packet", "payload", "is", "set", "to", "12000", "bits", "transmitted", "at", "11", "Mbit/s", ",", "while", "the", "PLCP", "header", "of", "192", "bits", "is", "transmitted", "at", "1", "Mbit/s", ".", "The", "packet", "interarrival", "time", "in", "seconds", ",", "t", "W", ",", "is", "exponentially", "distributed", "and", "its", "mean", "is", "computed", "according", "to", "t", "W", "=", "192", "1000000", "+", "12224", "11000000", "1", ".", "-LRB-", "15", "-RRB-", "Results", ".", "Figure", "5", "gives", "the", "packet", "loss", "-LRB-", "a", "-RRB-", "and", "the", "mean", "access", "delay", "-LRB-", "b", "-RRB-", "measured", "at", "the", "slave", "for", "a", "variable", "Bluetooth", "offered", "load", "-LRB-", "5", "80", "%", "-RRB-", ".", "Observe", "that", "when", "no", "WLAN", "system", "is", "present", ",", "the", "packet", "loss", "is", "zero", "and", "the", "access", "delay", "remains", "flat", "at", "around", "4", "ms.", "This", "represents", "a", "reference", "measure", "for", "the", "Bluetooth", "performance", "when", "there", "is", "no", "interference", ".", "Each", "WLAN", "system", "addition", "an", "increase", "of", "15", "%", "in", "packet", "loss", "as", "shown", "in", "figure", "5", "-LRB-", "a", "-RRB-", ".", "The", "packet", "loss", "is", "around", "15", "%", ",", "30", "%", "and", "45", "%", "when", "one", ",", "two", ",", "and", "three", "WLAN", "systems", "are", "present", ",", "respectively", ".", "Repeating", "the", "same", "experiments", "using", "BIAS", ",", "brings", "the", "packet", "loss", "down", "to", "zero", "for", "any", "number", "of", "WLAN", "systems", ".", "The", "delay", "trends", "captured", "in", "figure", "5", "-LRB-", "b", "-RRB-", "Figure", "4", ".", "Topology", "for", "experiments", "1", "and", "2", ".", "are", "consistent", "with", "the", "packet", "loss", "results", ".", "Using", "BIAS", "yields", "lower", "delays", "than", "when", "RR", "is", "used", ".", "When", "one", "WLAN", "system", "is", "present", ",", "the", "delay", "curve", "with", "BIAS", "is", "flat", "at", "5", "ms", "-LRB-", "a", "1", "ms", "increase", "compared", "to", "the", "reference", "case", "when", "no", "interference", "is", "present", "-RRB-", ".", "When", "2", "WLAN", "systems", "are", "present", ",", "the", "delay", "curve", "takes", "off", "at", "35", "%", "with", "RR", ",", "while", "the", "curve", "remains", "flat", "until", "60", "%", "with", "BIAS", ".", "When", "3", "WLAN", "systems", "are", "present", ",", "the", "delay", "curve", "takes", "off", "sharply", "at", "15", "%", "with", "RR", ",", "while", "the", "knee", "of", "the", "curve", "remains", "lower", "with", "BIAS", "-LRB-", "shifted", "to", "the", "right", "-RRB-", ".", "4.2", ".", "Experiment", "2", ":", "dynamic", "behavior", "In", "this", "experiment", ",", "we", "focus", "on", "BIAS", "'s", "responsiveness", "to", "transient", "effects", "and", "sudden", "changes", "in", "the", "environment", ".", "We", "measure", "the", "channel", "estimation", "transient", "time", "per", "frequency", "and", "over", "the", "entire", "spectrum", ".", "We", "design", "an", "experiment", "where", "the", "WLAN", "traffic", "is", "turned", "on", "and", "off", "several", "times", "during", "each", "simulation", "run", "-LRB-", "about", "30", "times", "-RRB-", ".", "Topology", ".", "We", "use", "the", "topology", "of", "figure", "4", "with", "one", "WLAN", "system", "-LRB-", "Source/Sink", "1", "-RRB-", "and", "the", "Bluetooth", "master/slave", "pair", ".", "Traffic", ".", "The", "traffic", "is", "based", "on", "bulk", "data", ".", "The", "offered", "load", "for", "Bluetooth", "is", "varied", "between", "10", "and", "100", "%", ",", "while", "for", "WLAN", "the", "offered", "load", "is", "set", "to", "60", "%", ".", "For", "Bluetooth", ",", "both", "DH1", "-LRB-", "1", "slot", "-RRB-", "and", "DH5", "-LRB-", "5", "slots", "-RRB-", "packets", "are", "used", "in", "order", "to", "compare", "the", "difference", "in", "transient", "times", ".", "The", "time", "the", "WLAN", "connection", "is", "ON", ",", "T", "ON", ",", "is", "exponentially", "distributed", "with", "a", "mean", "equal", "to", "10", "seconds", ",", "while", "the", "time", "the", "WLAN", "connection", "is", "OFF", ",", "T", "OFF", ",", "is", "also", "exponentially", "distributed", "with", "mean", "equal", "to", "20", "seconds", ".", "Each", "simulation", "is", "run", "for", "900", "seconds", ".", "Unless", "specified", "otherwise", ",", "we", "set", "EI", "min", "=", "2", "seconds", ",", "EI", "max", "=", "100", "seconds", ",", "N", "f", "=", "1", ".", "Results", ".", "Figures", "6", "-LRB-", "a", "-RRB-", "and", "6", "-LRB-", "b", "-RRB-", "give", "the", "packet", "loss", "and", "access", "delay", ",", "respectively", ",", "measured", "at", "the", "Bluetooth", "slave", "de", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "5", ".", "Experiment", "1", ".", "Variable", "number", "of", "WLAN", "interfering", "systems", ".", "-LRB-", "a", "-RRB-", "Probability", "of", "packet", "loss", ".", "-LRB-", "b", "-RRB-", "Mean", "access", "delay", ".", "BLUETOOTH", "DYNAMIC", "SCHEDULING", "AND", "INTERFERENCE", "MITIGATION", "27", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "6", ".", "Experiment", "2", ".", "Variable", "Bluetooth", "offered", "load", ".", "-LRB-", "a", "-RRB-", "Probability", "of", "packet", "loss", ".", "-LRB-", "b", "-RRB-", "Mean", "access", "delay", ".", "vice", ".", "The", "packet", "loss", "obtained", "with", "BIAS", "is", "negligible", "-LRB-", "less", "than", "2", "%", "-RRB-", "for", "both", "DH1", "and", "DH5", "packets", ".", "On", "the", "other", "hand", "the", "packet", "loss", "with", "Round", "Robin", "-LRB-", "RR", "-RRB-", "is", "close", "to", "10", "%", ".", "The", "access", "delay", "obtained", "with", "BIAS", "for", "DH1", "packets", "is", "lower", "than", "the", "delay", "for", "DH5", "packets", "for", "offered", "loads", "under", "70", "%", "-LRB-", "it", "is", "around", "1.5", "ms", "for", "DH1", "packets", ",", "and", "4", "ms", "for", "DH5", "packets", "-RRB-", ".", "The", "knee", "of", "the", "curve", "for", "DH5", "packets", "is", "located", "around", "80", "%", "of", "the", "offered", "load", "while", "it", "is", "at", "60", "%", "for", "DH1", "packets", ".", "Observe", "that", "BIAS", "gives", "lower", "access", "delays", "than", "RR", "for", "DH5", "packets", "-LRB-", "between", "40", "%", "and", "80", "%", "offered", "load", "-RRB-", ".", "However", ",", "the", "same", "does", "not", "apply", "to", "DH1", "packets", ",", "in", "which", "we", "observe", "a", "slight", "increase", "in", "access", "delay", "-LRB-", "0.5", "ms", "-RRB-", "with", "BIAS", "compared", "to", "RR", ".", "For", "short", "packets", "-LRB-", "DH1", "-RRB-", "retransmissions", "due", "to", "packet", "loss", "-LRB-", "RR", "-RRB-", ",", "and", "delay", "in", "transmission", "due", "to", "``", "bad", "''", "frequency", "avoidance", "-LRB-", "BIAS", "-RRB-", ",", "yields", "comparable", "delays", ".", "Furthermore", ",", "given", "that", "the", "probability", "of", "packet", "loss", "-LRB-", "and", "retransmission", "-RRB-", "is", "small", "for", "short", "packets", ",", "RR", "gives", "lower", "access", "delays", "on", "average", ".", "Figure", "7", "gives", "the", "time", "it", "takes", "to", "estimate", "a", "``", "bad", "''", "frequency", "using", "DH1", "and", "DH5", "packets", ".", "The", "use", "of", "DH5", "packets", "leads", "to", "a", "higher", "round", "trip", "transmission", "time", ",", "and", "therefore", "increases", "the", "transient", "time", ",", "up", "to", "1.5", "ms", "while", "it", "is", "around", "0", "s", "for", "DH1", "packets", ".", "4.3", ".", "Experiment", "3", ":", "QOS", "support", "This", "experiment", "highlights", "the", "support", "of", "QOS", "in", "an", "environment", "where", "devices", "experience", "different", "levels", "of", "interference", "and", "connections", "have", "a", "range", "of", "service", "requirements", ".", "Topology", ".", "We", "use", "the", "topology", "illustrated", "in", "figure", "8", ".", "Slaves", "1", "and", "2", "experience", "the", "same", "level", "of", "interference", ",", "while", "slave", "3", "does", "not", "experience", "any", "interference", ".", "The", "y-coordinate", "of", "the", "WLAN", "FTP", "server", "is", "varied", "along", "the", "y-axis", "in", "order", "to", "vary", "the", "level", "of", "interference", "on", "the", "Bluetooth", "piconet", ".", "Figure", "7", ".", "Experiment", "2", ".", "Variable", "Bluetooth", "offered", "load", ".", "Time", "to", "estimate", "a", "``", "bad", "''", "channel", ".", "Figure", "8", ".", "Topology", "for", "experiment", "3", ".", "28", "N.", "GOLMIE", "Traffic", ".", "For", "Bluetooth", ",", "we", "consider", "three", "application", "profiles", ",", "namely", ",", "Print", ",", "Video", ",", "and", "Email", ".", "We", "use", "print", ",", "video", ",", "and", "email", "traffic", "between", "slaves", "1", ",", "2", ",", "3", "and", "the", "master", ",", "respectively", ".", "Note", "that", "the", "master", "is", "the", "client", "process", "in", "all", "three", "connections", ".", "The", "profile", "parameters", "are", "given", "in", "table", "4", ".", "The", "WLAN", "uses", "the", "FTP", "profile", "described", "in", "table", "5", ".", "Since", "the", "video", "application", "generates", "roughly", "around", "93", "and", "58", "packets", "in", "the", "upstream", "and", "downstream", "directions", ",", "respectively", ",", "and", "since", "it", "is", "often", "difficult", "to", "predict", "the", "exact", "traffic", "distributions", ",", "the", "rate", "is", "divided", "evenly", "between", "both", "directions", ".", "Thus", ",", "we", "set", "2", "up", "2", "dn", "=", "0.25", ".", "The", "two", "other", "appli-Table", "4", "Bluetooth", "application", "profile", "parameters", ".", "Parameters", "Distribution", "Value", "Email", "Send", "interarrival", "time", "-LRB-", "sec", "-RRB-", "Exponential", "120", "Send", "group", "Constant", "3", "Receive", "interarrival", "time", "-LRB-", "sec", "-RRB-", "Exponential", "60", "Receive", "group", "Constant", "3", "Email", "size", "-LRB-", "bytes", "-RRB-", "Exponential", "1024", "Print", "Print", "requests", "interarrival", "time", "-LRB-", "sec", "-RRB-", "Exponential", "30", "File", "size", "Normal", "-LRB-", "30", "K", ",", "9", "M", "-RRB-", "Video", "Frame", "rate", "Constant", "1", "frame/s", "Frame", "size", "-LRB-", "bytes", "-RRB-", "Constant", "17280", "-LRB-", "128", "120", "pixels", "-RRB-", "Table", "5", "WLAN", "application", "profile", "parameters", ".", "Parameters", "Distribution", "Value", "FTP", "File", "interarrival", "time", "-LRB-", "sec", "-RRB-", "Exponential", "5", "File", "size", "-LRB-", "bytes", "-RRB-", "Exponential", "5", "M", "Percentage", "of", "get", "100", "%", "cations", ",", "share", "the", "leftover", "bandwidth", "-LRB-", "1,3", "up", ",", "dn", "=", "-LRB-", "1", "-", "0.5", "-RRB-", "/", "4", "=", "0.125", "-RRB-", ".", "Results", ".", "Figure", "9", "depicts", "the", "results", "when", "the", "WLAN", "y-coordinate", "is", "varied", "between", "0", "and", "10", "meters", ".", "In", "figure", "9", "-LRB-", "a", "-RRB-", ",", "the", "packet", "loss", "with", "BIAS", "is", "below", "0.1", "%", "for", "all", "three", "slaves", "and", "the", "master", ".", "With", "RR", ",", "slave", "1", "-LRB-", "Print", "-RRB-", "and", "slave", "2", "-LRB-", "Video", "-RRB-", "vary", "between", "15", "%", "and", "3", "%", "of", "packet", "loss", "between", "0", "and", "10", "meters", ",", "respectively", ".", "While", "the", "packet", "loss", "for", "the", "master", "is", "above", "20", "%", ".", "Slave", "3", "-LRB-", "Email", "-RRB-", "has", "a", "low", "packet", "loss", "with", "both", "BIAS", "and", "RR", "since", "it", "is", "far", "from", "the", "WLAN", "server", ".", "The", "access", "delay", "for", "slave", "2", "-LRB-", "Video", "-RRB-", "in", "figure", "9", "-LRB-", "b", "-RRB-", "is", "0.3", "seconds", "with", "BIAS", ",", "while", "it", "is", "almost", "double", "with", "RR", "-LRB-", "0.6", "seconds", "-RRB-", ".", "For", "Print", ",", "delays", "with", "BIAS", "are", "half", "the", "delays", "with", "RR", "-LRB-", "0.01", "seconds", "as", "opposed", "to", "0.02", "seconds", "-RRB-", ".", "The", "delays", "for", "Email", "are", "also", "reduced", "by", "half", "with", "BIAS", ".", "4.4", ".", "Experiment", "4", ":", "WLAN", "and", "multi-Bluetooth", "piconets", "interference", "When", "two", "or", "more", "Bluetooth", "piconets", "are", "proximally", "located", ",", "one", "expects", "few", "collisions", "when", "the", "packets", "happen", "to", "be", "transmitted", "on", "the", "same", "frequency", ".", "However", ",", "the", "probability", "of", "such", "collisions", "is", "low", "as", "discussed", "in", "-LSB-", "2", "-RSB-", "since", "each", "piconet", "has", "a", "unique", "frequency", "sequence", ".", "Given", "that", "these", "packet", "collisions", "are", "random", "in", "nature", "and", "are", "already", "miti-gated", "by", "frequency", "hopping", ",", "we", "do", "not", "expect", "significant", "performance", "improvements", "when", "BIAS", "is", "used", "since", "the", "packet", "loss", "is", "already", "very", "low", ".", "Furthermore", ",", "the", "fact", "that", "frequencies", "are", "eliminated", "due", "to", "other", "Bluetooth", "piconet", "interference", "may", "even", "cause", "delay", "increases", ".", "We", "illustrate", "this", "particular", "issue", "using", "the", "following", "scenario", ".", "Topology", ".", "We", "use", "the", "topology", "illustrated", "in", "figure", "10", "representing", "a", "conference", "hall", "environment", ".", "It", "consists", "of", "one", "WLAN", "AP", "located", "at", "-LRB-", "0", ",", "15", "-RRB-", "meters", ",", "and", "one", "WLAN", "mobile", "at", "-LRB-", "0", ",", "0", "-RRB-", "meters", ".", "The", "WLAN", "mobile", "is", "the", "server", "device", ",", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "9", ".", "Experiment", "3", ".", "Variable", "distance", ".", "-LRB-", "a", "-RRB-", "Probability", "of", "packet", "loss", ".", "-LRB-", "b", "-RRB-", "Access", "delay", ".", "BLUETOOTH", "DYNAMIC", "SCHEDULING", "AND", "INTERFERENCE", "MITIGATION", "29", "Figure", "10", ".", "Topology", "for", "experiment", "4", ".", "Table", "6", "Profile", "parameters", ".", "Parameters", "Distribution", "Value", "Bluetooth", "FTP", "Percentage", "of", "put/get", "100", "%", "Inter-request", "time", "-LRB-", "sec", "-RRB-", "Exponential", "5", "File", "size", "-LRB-", "bytes", "-RRB-", "Exponential", "250", "K", "HTTP", "Page", "interarrival", "time", "-LRB-", "sec", "-RRB-", "Exponential", "30", "Number", "of", "objects", "per", "page", "Constant", "2", "Object", "1", "size", "-LRB-", "bytes", "-RRB-", "Constant", "1", "K", "Object", "2", "size", "-LRB-", "bytes", "-RRB-", "Uniform", "-LRB-", "2", "K", ",", "100", "K", "-RRB-", "while", "the", "AP", "is", "the", "client", ".", "The", "distance", "between", "the", "WLAN", "AP", "and", "mobile", "is", "d", "W", "=", "15", "meters", ".", "There", "are", "ten", "Bluetooth", "piconets", "randomly", "placed", ",", "covering", "a", "disk", ".", "The", "center", "of", "the", "disk", "is", "located", "at", "-LRB-", "0", ",", "0", "-RRB-", "and", "its", "radius", "is", "r", "=", "10", "meters", ".", "We", "define", "d", "B", "as", "the", "distance", "between", "a", "Bluetooth", "master", "and", "slave", "pair", ".", "d", "B", "=", "1", "meter", "for", "half", "of", "the", "master", "and", "slave", "pairs", ",", "while", "d", "B", "=", "2", "meters", "for", "the", "other", "half", "of", "the", "master", "and", "slave", "pairs", ".", "Traffic", ".", "We", "run", "four", "experiments", "with", "different", "combinations", "of", "WLAN", "and", "Bluetooth", "applications", ",", "namely", ",", "HTTP", "and", "FTP", ".", "We", "use", "the", "application", "profiles", "available", "in", "the", "OP-NET", "library", "and", "configure", "the", "parameters", "according", "to", "table", "6", ".", "The", "WLAN", "FTP", "profile", "parameters", "are", "given", "in", "table", "5", ".", "Results", ".", "The", "results", "for", "the", "Bluetooth", "packet", "loss", "and", "access", "delay", "are", "given", "in", "tables", "7", "and", "8", ",", "respectively", ".", "The", "results", "are", "grouped", "by", "application", "category", "-LRB-", "FTP", ",", "HTTP", "-RRB-", ",", "and", "d", "B", ",", "for", "each", "of", "the", "WLAN", "profiles", ".", "Overall", ",", "the", "packet", "loss", "results", "with", "BIAS", "are", "comparable", "to", "the", "packet", "loss", "obtained", "with", "RR", ".", "In", "some", "instances", ",", "the", "packet", "loss", "with", "BIAS", "is", "slightly", "lower", "than", "with", "RR", ",", "however", "the", "difference", "remains", "less", "than", "2", "%", ".", "The", "access", "delays", "for", "Bluetooth", "is", "given", "in", "table", "8", ".", "The", "results", "with", "BIAS", "and", "RR", "are", "comparable", ".", "However", ",", "there", "are", "no", "significant", "advantages", "in", "using", "BIAS", ".", "Tables", "9", "and", "10", "give", "the", "packet", "loss", "and", "the", "access", "delay", "respectively", "for", "the", "WLAN", "FTP", "and", "HTTP", "profiles", ".", "Ob-Table", "7", "Bluetooth", "packet", "loss", "probability", "for", "experiment", "4", ".", "BT", "traffic", "WLAN", "traffic", "FTP", "HTTP", "BIAS", "RR", "BIAS", "RR", "FTP", "d", "B", "=", "1", "m", "0.0103", "0.0158", "0.0064", "0.0356", "d", "B", "=", "2", "m", "0.1079", "0.1210", "0.0379", "0.0393", "HTTP", "d", "B", "=", "1", "m", "0.0012", "0.0034", "0.0003", "0.0002", "d", "B", "=", "2", "m", "0.0425", "0.0614", "0.0265", "0.0071", "Table", "8", "Bluetooth", "MAC", "delay", "-LRB-", "sec", "-RRB-", "for", "experiment", "4", ".", "BT", "traffic", "WLAN", "traffic", "FTP", "HTTP", "BIAS", "RR", "BIAS", "RR", "FTP", "d", "B", "=", "1", "m", "0.1805", "0.1749", "0.1912", "0.1739", "d", "B", "=", "2", "m", "0.3753", "0.4574", "0.2444", "0.2378", "HTTP", "d", "B", "=", "1", "m", "0.0840", "0.0861", "0.0836", "0.0835", "d", "B", "=", "2", "m", "0.0945", "0.1121", "0.0963", "0.0952", "Table", "9", "WLAN", "probability", "of", "packet", "loss", "for", "experiment", "4", ".", "BT", "traffic", "WLAN", "traffic", "FTP", "HTTP", "BIAS", "RR", "BIAS", "RR", "FTP", "0.1534", "0.303", "0.2510", "0.3481", "HTTP", "0.0192", "0.0961", "0.0721", "0.1534", "Table", "10", "WLAN", "MAC", "delay", "-LRB-", "sec", "-RRB-", "for", "experiment", "4", ".", "BT", "traffic", "WLAN", "traffic", "FTP", "HTTP", "BIAS", "RR", "BIAS", "RR", "FTP", "0.0017", "0.0022", "0.0010", "0.0011", "HTTP", "0.0011", "0.0018", "0.0009", "0.0012", "serve", "a", "significant", "reduction", "in", "packet", "loss", "with", "BIAS", "for", "both", "WLAN", "applications", ",", "in", "which", "the", "packet", "loss", "drops", "from", "30", "%", "and", "34", "%", "to", "15", "%", "and", "25", "%", "for", "the", "FTP", "and", "HTTP", "application", ",", "respectively", ".", "The", "access", "delay", "shown", "in", "table", "10", "is", "consistent", "with", "the", "packet", "loss", "results", "and", "shows", "slight", "improvements", "with", "BIAS", ".", "In", "summary", ",", "the", "use", "of", "BIAS", "in", "a", "multi-Bluetooth", "and", "WLAN", "environment", "leads", "to", "performance", "improvements", "for", "WLAN", ",", "while", "it", "has", "little", "benefits", "on", "the", "Bluetooth", "performance", "In", "this", "paper", "we", "propose", "a", "scheduling", "technique", ",", "BIAS", ",", "aimed", "at", "eliminating", "interference", "on", "WLAN", "and", "alleviating", "the", "impact", "of", "interference", "on", "the", "Bluetooth", "performance", ".", "This", "work", "addresses", "the", "need", "to", "adjust", "to", "changes", "in", "the", "environment", ",", "support", "asymmetric", "traffic", "in", "the", "upstream", "and", "downstream", ",", "in", "addition", "to", "the", "use", "of", "different", "scheduling", "priorities", ".", "30", "N.", "GOLMIE", "Table", "11", "BIAS", "pseudocode", ".", "1", ":", "Every", "N", "slots", "2", ":", "estimate_channel", "-LRB-", "-RRB-", ";", "3", ":", "compute_credits", "-LRB-", "-RRB-", ";", "4", ":", "Every", "even", "TS", "f", "/", "/", "Master", "transmission", "slot", "5", ":", "if", "TS", "f", "+", "l", "dn", "is", "clear", "/", "/", "Master", "can", "receive", "in", "next", "slot", "6", ":", "-LCB-", "7", ":", "A", "f", "data", "=", "-LCB-", "set", "of", "high", "priority", "slaves", "s.t.", "-LRB-", "-LRB-", "f", "``", "good", "''", "-RRB-", "and", "-LRB-", "qsize", ">", "0", "-RRB-", "and", "-LRB-", "c", "dn", ">", "0", "-RRB-", "-RCB-", "8", ":", "A", "f", "poll", "=", "-LCB-", "set", "of", "high", "priority", "slaves", "s.t.", "-LRB-", "-LRB-", "f", "``", "good", "''", "-RRB-", "and", "-LRB-", "c", "up", ">", "0", "-RRB-", "-RRB-", "-RCB-", "9", ":", "B", "f", "data", "=", "-LCB-", "set", "of", "low", "priority", "slaves", "s.t.", "-LRB-", "-LRB-", "f", "``", "good", "''", "-RRB-", "and", "-LRB-", "qsize", ">", "0", "-RRB-", "-RRB-", "-RCB-", "10", ":", "B", "f", "poll", "=", "-LCB-", "set", "of", "low", "priority", "slaves", "s.t.", "-LRB-", "-LRB-", "f", "``", "good", "''", "-RRB-", "and", "-LRB-", "c", "up", "c", "dn", ">", "0", "-RRB-", "-RRB-", "-RCB-", "11", ":", "/", "/", "Service", "high", "priority", "slaves", "first", "12", ":", "if", "-LRB-", "A", "f", "data", "=", "-RRB-", "/", "/", "transmit", "data", "packets", "13", ":", "-LCB-", "14", ":", "i", "=", "max", "A", "f", "data", "-LRB-", "w", "i", "up", "w", "i", "dn", "-RRB-", "/", "/", "select", "device", "i", "with", "the", "largest", "weight", "15", ":", "transmit", "data", "packet", "of", "size", "l", "dn", "to", "slave", "i", "16", ":", "c", "i", "dn", ",", "up", "=", "c", "i", "dn", ",", "up", "-", "l", "idn", ",", "up", ";", "/", "/", "decrement", "credit", "counter", "17", ":", "w", "i", "dn", ",", "up", "=", "-LRB-", "1", "-", "u", "i", "-RRB-", "c", "i", "dn", ",", "up", ";", "/", "/", "update", "weights", "18", ":", "-RCB-", "19", ":", "else", "if", "-LRB-", "A", "f", "poll", "=", "-RRB-", "/", "/", "transmit", "polls", "20", ":", "-LCB-", "21", ":", "i", "=", "max", "A", "f", "poll", "-LRB-", "w", "i", "up", "-RRB-", "/", "/", "select", "device", "i", "with", "the", "largest", "weight", "22", ":", "transmit", "poll", "to", "slave", "i", "23", ":", "c", "i", "up", "=", "c", "i", "up", "-", "l", "iup", ";", "/", "/", "decrement", "credit", "counter", "24", ":", "w", "i", "up", "=", "-LRB-", "1", "-", "u", "i", "-RRB-", "c", "i", "up", ";", "/", "/", "update", "weights", "25", ":", "-RCB-", "26", ":", "/", "/", "Then", "service", "low", "priority", "slaves", "27", ":", "else", "if", "-LRB-", "B", "f", "data", "=", "-RRB-", "28", ":", "-LCB-", "29", ":", "i", "=", "max", "B", "f", "data", "-LRB-", "w", "i", "up", "w", "i", "dn", "-RRB-", "/", "/", "select", "device", "i", "with", "the", "largest", "weight", "30", ":", "transmit", "data", "packet", "of", "size", "l", "dn", "to", "slave", "i", "31", ":", "if", "-LRB-", "c", "i", "dn", ">", "0", "-RRB-", "c", "i", "dn", "=", "c", "i", "dn", "-", "l", "i", "dn", ";", "/", "/", "decrement", "credit", "counter", "32", ":", "else", "c", "i", "up", "=", "c", "i", "up", "-", "l", "i", "dn", ";", "/", "/", "decrement", "credit", "counter", "33", ":", "w", "i", "dn", ",", "up", "=", "-LRB-", "1", "-", "u", "i", "-RRB-", "c", "i", "dn", ",", "up", ";", "/", "/", "update", "weights", "34", ":", "-RCB-", "35", ":", "else", "if", "-LRB-", "B", "f", "poll", "=", "-RRB-", "/", "/", "transmit", "polls", "36", ":", "-LCB-", "37", ":", "i", "=", "max", "B", "f", "poll", "-LRB-", "w", "i", "up", "-RRB-", "/", "/", "select", "device", "i", "with", "the", "largest", "weight", "38", ":", "transmit", "poll", "to", "slave", "i", "39", ":", "if", "-LRB-", "c", "up", ">", "0", "-RRB-", "c", "i", "up", "=", "c", "i", "up", "-", "l", "iup", ";", "/", "/", "decrement", "credit", "counter", "40", ":", "else", "c", "i", "dn", "=", "c", "i", "dn", "-", "l", "iup", ";", "/", "/", "decrement", "credit", "counter", "41", ":", "w", "i", "dn", ",", "up", "=", "-LRB-", "1", "-", "u", "i", "-RRB-", "c", "i", "dn", ",", "up", ";", "/", "/", "update", "weights", "42", ":", "-RCB-", "43", ":", "-RCB-", "The", "performance", "results", "obtained", "are", "summarized", "as", "follows", ".", "First", ",", "BIAS", "eliminates", "packet", "loss", "even", "in", "the", "worst", "interference", "case", "when", "more", "than", "3/4", "of", "the", "spectrum", "are", "occupied", "by", "other", "devices", ".", "Delay", "is", "slightly", "increased", "over", "the", "reference", "scenario", "-LRB-", "when", "no", "interference", "is", "present", "-RRB-", ".", "This", "increase", "varies", "between", "1", "to", "5", "ms", "on", "average", ".", "Furthermore", ",", "BIAS", "is", "able", "to", "rapidly", "adjusts", "to", "changes", "in", "the", "channel", ".", "The", "channel", "estimation", "transient", "time", "can", "be", "as", "low", "as", "1.5", "ms", "and", "250", "s", "for", "DH5", "and", "DH1", "packets", ",", "respectively", ".", "In", "addition", ",", "BIAS", "supports", "QOS", "and", "maintains", "a", "low", "access", "delay", "for", "delay-sensitive", "traffic", "such", "as", "video", "applications", ".", "Finally", ",", "we", "observe", "that", "the", "use", "of", "BIAS", "is", "not", "as", "effective", "to", "mitigate", "interference", "caused", "by", "other", "Bluetooth", "piconets", ".", "In", "this", "case", ",", "we", "note", "no", "improvements", "in", "access", "delay", "and", "packet", "loss", "results", ",", "which", "are", "comparable", "to", "results", "obtained", "with", "Round", "Robin", "-LRB-", "RR", "-RRB-", ".", "An", "immediate", "next", "step", "for", "our", "work", "consists", "of", "developing", "a", "channel", "estimation", "procedure", "that", "is", "able", "to", "differentiate", "between", "different", "types", "of", "interference", ",", "namely", ",", "WLAN", "and", "Bluetooth", "interference", ".", "Our", "preliminary", "results", "indicate", "that", "this", "may", "be", "helpful", "in", "a", "multi-Bluetooth", "and", "WLAN", "environment", ".", "BLUETOOTH", "DYNAMIC", "SCHEDULING", "AND", "INTERFERENCE", "MITIGATION", "31", "The", "author", "would", "like", "to", "thank", "O.", "Rebala", "and", "A.", "Tonnerre", "for", "their", "help", "in", "developing", "the", "simulation", "models", "and", "compiling", "the", "results", ".", "-LSB-", "1", "-RSB-", "Bluetooth", "Special", "Interest", "Group", ",", "Specifications", "of", "the", "Bluetooth", "System", ",", "Vol", ".", "1", ",", "v.", "1.0", "B", "``", "Core", "''", "and", "Vol", ".", "2", ",", "v.", "1.0", "B", "``", "Profiles", "''", "-LRB-", "December", "1999", "-RRB-", ".", "-LSB-", "2", "-RSB-", "A.", "El-Hoiydi", ",", "Interference", "between", "Bluetooth", "networks", "upper", "bound", "on", "the", "packet", "error", "rate", ",", "IEEE", "Communications", "Letters", "5", "-LRB-", "June", "2001", "-RRB-", "245", "247", ".", "-LSB-", "3", "-RSB-", "D.", "Fumolari", ",", "Link", "performance", "of", "an", "embedded", "Bluetooth", "personal", "area", "network", ",", "in", ":", "Proceedings", "of", "IEEE", "ICC", "'", "01", ",", "Vol", ".", "8", ",", "Helsinki", ",", "Finland", "-LRB-", "June", "2001", "-RRB-", "pp.", "2573", "2577", ".", "-LSB-", "4", "-RSB-", "N.", "Golmie", ",", "N.", "Chevrollier", "and", "I.", "Elbakkouri", ",", "Interference", "aware", "Bluetooth", "packet", "scheduling", ",", "in", ":", "Proceedings", "of", "GLOBECOM", "'", "01", ",", "Vol", ".", "5", ",", "San", "Antonio", ",", "TX", "-LRB-", "November", "2001", "-RRB-", "pp.", "2857", "2863", ".", "-LSB-", "5", "-RSB-", "N.", "Golmie", "and", "F.", "Mouveaux", ",", "Interference", "in", "the", "2.4", "GHz", "ISM", "band", ":", "Impact", "on", "the", "Bluetooth", "access", "control", "performance", ",", "in", ":", "Proceedings", "of", "IEEE", "ICC", "'", "01", ",", "Vol", ".", "8", ",", "Helsinki", ",", "Finland", "-LRB-", "June", "2001", "-RRB-", "pp.", "2540", "2545", ".", "-LSB-", "6", "-RSB-", "N.", "Golmie", ",", "R.E.", "Van", "Dyck", "and", "A.", "Soltanian", ",", "Interference", "of", "Bluetooth", "and", "IEEE", "802.11", ":", "Simulation", "modeling", "and", "performance", "evaluation", ",", "in", ":", "Proceedings", "of", "the", "Fourth", "ACM", "International", "Workshop", "on", "Modeling", ",", "Analysis", ",", "and", "Simulation", "of", "Wireless", "and", "Mobile", "Systems", ",", "MSWIM", "'", "01", ",", "Rome", ",", "Italy", "-LRB-", "July", "2001", "-RRB-", "pp.", "11", "18", ".", "Extended", "version", "appeared", "in", "ACM", "Wireless", "Networks", "9", "-LRB-", "3", "-RRB-", "-LRB-", "2003", "-RRB-", "201", "211", ".", "-LSB-", "7", "-RSB-", "I.", "Howitt", ",", "V.", "Mitter", "and", "J.", "Gutierrez", ",", "Empirical", "study", "for", "IEEE", "802.11", "and", "Bluetooth", "interoperability", ",", "in", ":", "Proceedings", "of", "IEEE", "Vehicular", "Technology", "Conference", "-LRB-", "VTC", "-RRB-", ",", "Vol", ".", "2", "-LRB-", "Spring", "2001", "-RRB-", "pp.", "1103", "1113", ".", "-LSB-", "8", "-RSB-", "IEEE", "Std", ".", "802-11", ",", "IEEE", "Standard", "for", "Wireless", "LAN", "Medium", "Access", "Control", "-LRB-", "MAC", "-RRB-", "and", "Physical", "Layer", "-LRB-", "PHY", "-RRB-", "Specification", "-LRB-", "June", "1997", "-RRB-", ".", "-LSB-", "9", "-RSB-", "J.", "Lansford", ",", "R.", "Nevo", "and", "E.", "Zehavi", ",", "MEHTA", ":", "A", "method", "for", "coexistence", "between", "co-located", "802.11", "b", "and", "Bluetooth", "systems", ",", "IEEE", "P802", ".11", "Working", "Group", "Contribution", ",", "IEEE", "P802.15-00", "/", "360r0", "-LRB-", "November", "2000", "-RRB-", ".", "-LSB-", "10", "-RSB-", "S.", "Shellhammer", ",", "Packet", "error", "rate", "of", "an", "IEEE", "802.11", "WLAN", "in", "the", "presence", "of", "Bluetooth", ",", "IEEE", "P802", ".15", "Working", "Group", "Contribution", ",", "IEEE", "P802.15-00", "/", "133r0", ",", "Seattle", ",", "WA", "-LRB-", "May", "2000", "-RRB-", ".", "-LSB-", "11", "-RSB-", "B.", "Treister", ",", "A.", "Batra", ",", "K.C.", "Chen", "and", "O.", "Eliezer", ",", "Adapative", "frequency", "hopping", ":", "A", "non-collaborative", "coexistence", "mechanism", ",", "IEEE", "P802", ".11", "Working", "Group", "Contribution", ",", "IEEE", "P802.15-01", "/", "252r0", ",", "Orlando", ",", "FL", "-LRB-", "May", "2001", "-RRB-", ".", "Nada", "Golmie", "received", "the", "M.S.E.", "degree", "in", "computer", "engineering", "from", "Syracuse", "University", ",", "Syracuse", ",", "NY", ",", "and", "the", "Ph.D.", "degree", "in", "computer", "science", "from", "the", "University", "of", "Maryland", ",", "College", "Park", ",", "MD.", ".", "Since", "1993", ",", "she", "has", "been", "a", "member", "of", "the", "Advanced", "Network", "Technologies", "Division", "of", "the", "National", "Institute", "of", "Standards", "and", "Technology", "-LRB-", "NIST", "-RRB-", ".", "Her", "research", "in", "traffic", "management", "and", "flow", "control", "led", "to", "several", "papers", "presented", "at", "professional", "conferences", ",", "journals", "and", "numerous", "contributions", "to", "international", "standard", "organizations", "and", "industry", "led", "consortia", ".", "Her", "current", "work", "is", "focused", "on", "the", "performance", "evaluation", "of", "protocols", "for", "Wireless", "Personal", "Area", "Networks", ".", "Her", "research", "interests", "include", "modeling", "and", "performance", "analysis", "of", "network", "protocols", ",", "media", "access", "control", ",", "and", "quality", "of", "service", "for", "IP", "and", "wireless", "network", "technologies", ".", "She", "is", "the", "vice-chair", "of", "the", "IEEE", "802.15", "Coexistence", "Task", "Group", ".", "E-mail", ":", "nada.golmie@nist.gov"], "doc_bio_tags": ["B", "B", "I", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["interference", "mac scheduling", "wlan", "bluetooth", "coexistence", "wpans", "dynamic scheduling", "scheduling priorities", "bias", "wpan", "qos"], "abstractive_keyphrases": ["inteference"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "49", "document": ["Building", "a", "Sense", "of", "History", ":", "Narratives", "and", "Pathways", "of", "Women", "Computing", "Educators", "This", "working", "group", "laid", "the", "groundwork", "for", "the", "collection", "and", "analysis", "of", "oral", "histories", "of", "women", "computing", "educators", ".", "This", "endeavor", "will", "eventually", "create", "a", "body", "of", "narratives", "to", "serve", "as", "role", "models", "to", "attract", "students", ",", "in", "particular", "women", ",", "to", "computing", ";", "it", "will", "also", "serve", "to", "preserve", "the", "history", "of", "the", "female", "pioneers", "in", "computing", "education", ".", "Pre-conference", "work", "included", "administration", "of", "a", "survey", "to", "assess", "topical", "interest", ".", "The", "working", "group", "produced", "aids", "for", "conducting", "interviews", ",", "including", "an", "opening", "script", ",", "an", "outline", "of", "topics", "to", "be", "covered", ",", "guidelines", "for", "conducting", "interviews", ",", "and", "a", "set", "of", "probing", "questions", "to", "ensure", "consistency", "in", "the", "interviews", ".", "The", "group", "explored", "issues", "such", "as", "copyright", "and", "archival", "that", "confront", "the", "large-scale", "implementation", "of", "the", "project", "and", "suggested", "extensions", "to", "this", "research", ".", "This", "report", "includes", "an", "annotated", "bibliography", "of", "resources", ".", "The", "next", "steps", "will", "include", "training", "colleagues", "in", "how", "to", "conduct", "interviews", "and", "establishing", "guidelines", "for", "archival", "and", "use", "of", "the", "interviews", ".", "K.", "2", "-LSB-", "Computing", "and", "History", "-RSB-", ";", "K.", "3", "-LSB-", "Computing", "and", "Education", "-RSB-", ";", "K.", "7", "-LSB-", "The", "Computing", "Profession", "-RSB-", "Human", "Factors", "During", "the", "SIGCSE", "Technical", "Symposium", "held", "in", "Reno", ",", "NV", "in", "February", "2003", ",", "a", "significant", "number", "of", "events", "focused", "on", "under-representation", "of", "women", "in", "the", "computing", "curriculum", "and", "as", "computing", "educators", ".", "Eric", "Roberts", "'", "keynote", "talk", ",", "``", "Expanding", "the", "Audience", "for", "Computer", "Science", "''", "-LSB-", "21", "-RSB-", ",", "was", "a", "moving", "discussion", "of", "inclusiveness", "and", "a", "lament", "about", "the", "consequences", "of", "non-inclusion", ".", "At", "the", "Friday", "luncheon", ",", "Jane", "Margolis", "and", "Allan", "Fisher", "discussed", "results", "from", "their", "groundbreaking", "work", ",", "Unlocking", "the", "Clubhouse", "-LSB-", "15", "-RSB-", ".", "Several", "private", "discussions", "begun", "at", "the", "conference", "and", "continuing", "for", "some", "time", "afterward", "led", "to", "a", "November", "2004", ",", "proposal", "for", "this", "Working", "Group", ".", "In", "this", "report", ",", "we", "document", "the", "results", "from", "a", "Working", "Group", "of", "computer", "science", "educators", "at", "the", "2005", "ITiCSE", "conference", "held", "in", "Lisbon", ",", "Portugal", ".", "We", "were", "drawn", "together", "by", "our", "shared", "concern", "about", "women", "'s", "under-representation", "among", "computing", "educators", ".", "We", "wished", "to", "honor", "women", "who", "had", "persevered", "in", "the", "early", "days", "of", "this", "field", "and", "to", "make", "their", "stories", "available", "as", "a", "resource", "for", "those", "following", "after", ".", "ITiCSE", "working", "groups", "are", "convened", "for", "the", "purpose", "of", "intensive", "collaborative", "work", "on", "a", "topic", "of", "common", "interest", "among", "the", "participants", ",", "prior", "to", "and", "during", "the", "conference", ",", "generally", "174", "completing", "the", "Working", "Group", "'s", "task", "by", "conference", "end", ".", "In", "contrast", ",", "this", "group", "was", "convened", "to", "lay", "the", "groundwork", "for", "a", "project", "that", "we", "hope", "will", "continue", "for", "some", "time", "to", "come", ".", "The", "Working", "Group", "leaders", "spent", "the", "preceding", "18", "months", "formulating", "the", "charter", "for", "the", "Working", "Group", ":", "to", "collect", "oral", "histories", "from", "pioneering", "women", "in", "computing", "education", ".", "The", "goal", "of", "the", "Working", "Group", "meetings", "at", "ITiCSE", "in", "Lisbon", "was", "to", "formulate", "a", "plan", "that", "could", "bring", "the", "charter", "to", "fruition", ".", "We", "envision", "that", "the", "result", "of", "this", "project", "will", "be", "a", "large", "oral", "history", "collection", "of", "broad", "scope", "with", "potential", "value", "to", "researchers", "and", "others", "engaged", "in", "a", "variety", "of", "different", "projects", ".", "Because", "this", "project", "could", "result", "in", "a", "large", "quantity", "of", "data", ",", "it", "can", "not", "be", "stored", "by", "one", "person", "in", "her", "private", "file", "space", ".", "The", "data", "must", "be", "maintained", "and", "administered", "by", "an", "agency", "or", "institution", "prepared", "for", "such", "a", "task", ".", "We", "write", "this", "report", "for", "multiple", "audiences", ":", "1", ".", "Those", "who", "want", "a", "concise", "account", "of", "what", "the", "group", "accomplished", "in", "Lisbon", ".", "2", ".", "Those", "whose", "work", "will", "proceed", "from", "and", "build", "on", "that", "done", "in", "Lisbon", "for", "the", "oral", "history", "project", ".", "3", ".", "Those", "who", "want", "insights", "into", "the", "evolution", "and", "dynamic", "of", "a", "working", "group", ".", "4", ".", "Those", "seeking", "historical", "information", "about", "the", "beginnings", "of", "the", "oral", "history", "project", ".", "This", "section", "outlines", "key", "steps", "and", "insights", "developed", "prior", "to", "the", "ITiCSE", "conference", ".", "2.1", "Building", "a", "Background", "The", "initial", "vision", "of", "this", "project", "was", "to", "collect", "stories", ",", "or", "narratives", ",", "from", "successful", "computing", "educators", ",", "in", "particular", "from", "women", ".", "We", "were", "particularly", "interested", "in", "the", "various", "paths", "these", "individuals", "had", "followed", "through", "their", "careers", ".", "We", "considered", "resources", "related", "to", "women", "and", "computing", "education", ",", "in", "particular", "factors", "that", "seemed", "to", "lead", "to", "success", "in", "the", "field", ".", "We", "found", "that", "the", "area", "of", "inquiry", "known", "as", "oral", "history", "includes", "techniques", "conducive", "to", "the", "type", "of", "data-gathering", "we", "visualized", ".", "Key", "resources", "for", "our", "project", "include", "a", "set", "of", "oral", "history", "evaluation", "guidelines", "-LSB-", "20", "-RSB-", ",", "an", "Oral", "History", "Association", "-LSB-", "17", "-RSB-", ",", "and", "a", "tutorial", "for", "conducting", "oral", "history", "from", "the", "Oral", "History", "Institute", "at", "Baylor", "University", "-LSB-", "2", "-RSB-", ".", "We", "discuss", "these", "resources", "further", "in", "Section", "4", "and", "in", "the", "annotated", "bibliography", ".", "2.2", "Project", "Vision", "While", "it", "was", "clear", "from", "its", "inception", "that", "the", "primary", "focus", "for", "this", "Working", "Group", "would", "be", "women", "computing", "educators", ",", "we", "recognized", "that", "this", "is", "potentially", "the", "first", "phase", "of", "a", "longer-term", "project", ".", "The", "techniques", "developed", "in", "this", "first", "phase", "could", "be", "used", "in", "later", "phases", ",", "eventually", "developing", "into", "a", "broader", "project", "covering", "the", "history", "of", "computing", "education", "as", "a", "profession", ".", "This", "longer-term", "project", "should", "lead", "to", "a", "collection", "of", "oral", "histories", "from", "both", "men", "and", "women", "in", "the", "field", "as", "well", "as", "other", "artifacts", ".", "While", "we", "expect", "that", "future", "investigators", "will", "analyze", "the", "materials", "collected", "during", "each", "phase", "of", "the", "project", ",", "analysis", "of", "the", "materials", "is", "not", "the", "driving", "factor", "at", "this", "time", ".", "We", "feel", "it", "is", "vital", "to", "create", "an", "accessible", "repository", "of", "the", "data", "to", "support", "future", "investigations", ".", "2.3", "Survey", "to", "Gather", "Ideas", "In", "order", "to", "gather", "ideas", "about", "the", "project", "from", "a", "broad", "community", "of", "individuals", ",", "we", "designed", "a", "survey", "to", "request", "ideas", "from", "colleagues", ".", "In", "recognition", "of", "the", "longer-range", "potential", "of", "this", "work", ",", "the", "survey", "solicited", "information", "for", "the", "full", "field", "of", "computing", "education", ",", "rather", "than", "restricting", "responses", "to", "the", "narrower", "focus", "of", "women", "computing", "educators", ".", "The", "full", "survey", "can", "be", "found", "in", "Appendix", "D", ".", "We", "targeted", "two", "on-line", "communities", "with", "vested", "interest", "in", "the", "topic", "of", "this", "Working", "Group", ":", "Systers", "-LSB-", "23", "-RSB-", "and", "SIGCSE.members", "-LSB-", "22", "-RSB-", ".", "By", "the", "end", "of", "the", "conference", ",", "the", "survey", "had", "resulted", "in", "responses", "from", "24", "different", "individuals", ".", "Respondents", "offered", "ideas", "for", "questions", ",", "thoughts", "about", "how", "to", "recruit", "additional", "subjects", "for", "the", "interviews", ",", "and", "advice", "for", "how", "to", "proceed", ".", "The", "respondents", "suggested", "60", "educators", "as", "potential", "interviewees", ",", "of", "whom", "34", "are", "women", ".", "Several", "respondents", "also", "indicated", "interest", "in", "becoming", "involved", "with", "the", "project", "as", "planners", ",", "interviewers", ",", "or", "subjects", ".", "At", "the", "heart", "of", "this", "project", "is", "the", "recognition", "that", "women", "are", "under-represented", "in", "the", "computing", "field", "-LSB-", "12", "-RSB-", ".", "In", "particular", ",", "Working", "Group", "members", "had", "a", "variety", "of", "ideas", "for", "how", "to", "address", "the", "lack", "of", "women", "in", "computing", "education", ".", "Among", "the", "ideas", ":", "providing", "role", "models", "capturing", "stories", "of", "women", "of", "different", "ages", "to", "provide", "a", "history", "of", "women", "in", "computing", "education", "exploring", "the", "history", "of", "early", "women", "computing", "educators", "to", "learn", "about", "and", "honor", "the", "stories", "of", "these", "women", ",", "who", "often", "faced", "difficult", "circumstances", "recording", "difficulties", "that", "women", "educators", "encountered", "during", "their", "careers", ",", "and", "in", "some", "cases", "overcame", ",", "as", "a", "source", "of", "inspiration", "and", "support", "Considering", "the", "challenges", "faced", "by", "women", "in", "early", "computing", "education", "also", "brought", "up", "questions", "about", "how", "they", "managed", "those", "challenges", ":", "What", "internal", "reserves", "and", "external", "resources", "did", "they", "draw", "on", "?", "How", "did", "they", "sustain", "their", "confidence", "in", "their", "own", "capabilities", ",", "often", "as", "the", "only", "woman", "in", "what", "was", "at", "times", "a", "hostile", "environment", "?", "This", "led", "the", "group", "to", "consider", "self-efficacy", "beliefs", ",", "which", "Bandura", "-LRB-", "-LSB-", "2", "-RSB-", ",", "p.", "391", "-RRB-", "defines", "as", "``", "people", "'s", "judgments", "of", "their", "capabilities", "to", "organize", "and", "execute", "courses", "of", "action", "required", "to", "attain", "designated", "types", "of", "performances", "''", ".", "A", "person", "'s", "self-efficacy", "beliefs", "can", "play", "a", "significant", "role", "in", "her", "capacity", "to", "manage", "difficulties", ":", "if", "she", "believes", "she", "can", "actualize", "her", "intentions", ",", "obstacles", "presented", "by", "the", "environment", "impose", "less", "drag", ".", "3.2", "Focus", "for", "the", "Short", "Term", "This", "section", "addresses", "a", "number", "of", "key", "points", "that", "the", "group", "must", "consider", "for", "the", "near", "term", "in", "order", "to", "coordinate", "work", "by", "a", "distributed", "set", "of", "volunteers", ".", "3.2.1", "Protocol", "for", "Collecting", "Stories", "A", "key", "task", "of", "the", "Working", "Group", "was", "to", "establish", "a", "protocol", "to", "be", "followed", "by", "all", "volunteers", "on", "this", "project", ".", "The", "resources", "related", "to", "175", "collecting", "oral", "histories", "provided", "a", "rich", "source", "of", "information", "for", "defining", "the", "protocol", "to", "be", "used", "over", "the", "life", "of", "the", "project", ".", "A", "clear", "protocol", "will", "ensure", "consistency", "in", "the", "quality", "and", "general", "content", "of", "the", "interviews", ",", "especially", "for", "interviewers", "with", "little", "experience", "in", "collecting", "oral", "histories", ".", "We", "discuss", "the", "protocol", "further", "in", "Section", "5", ".", "3.2.2", "Identifying", "Potential", "Subjects", "The", "primary", "focus", "for", "this", "phase", "of", "the", "project", "is", "women", "computing", "educators", "who", "are", "late", "in", "their", "careers", ".", "The", "project", "will", "seek", "an", "international", "sample", "in", "order", "to", "ensure", "a", "more", "complete", "picture", ";", "during", "the", "conference", "in", "Lisbon", ",", "many", "non-U.S.", "educators", "showed", "interest", "in", "the", "project", ".", "It", "is", "urgent", "to", "capture", "narratives", "from", "older", "and", "more", "senior", "educators", "while", "these", "pioneers", "are", "still", "able", "to", "participate", "in", "the", "interview", "process", ".", "The", "Working", "Group", "has", "created", "a", "list", "of", "potential", "subjects", ",", "including", "ideas", "drawn", "from", "the", "results", "of", "the", "survey", "described", "in", "Section", "2.3", ".", "3.2.3", "Legal", "Issues", ":", "Consent", ",", "Access", ",", "Ownership", "A", "paramount", "concern", "for", "the", "project", "is", "the", "set", "of", "legal", "issues", "associated", "with", "this", "form", "of", "academic", "inquiry", ".", "Pressing", "concerns", "that", "must", "be", "resolved", "include", "the", "following", ":", "obtaining", "permissions", "to", "ensure", "that", "the", "materials", "are", "openly", "accessible", "for", "use", "in", "future", "studies", "and", "analyses", ";", "determining", "who", "will", "have", "access", "to", "the", "materials", "collected", "in", "this", "project", ";", "determining", "ownership", "of", "the", "materials", ";", "and", "designing", "appropriate", "copyright", "and", "permission", "forms", ".", "3.2.4", "Storage", "and", "Transcription", "of", "the", "Interviews", "When", "an", "interview", "is", "complete", ",", "the", "recording", "-LRB-", "s", "-RRB-", ",", "notes", ",", "and", "any", "supplemental", "materials", "must", "be", "prepared", "for", "later", "use", "and", "analysis", ".", "As", "a", "temporary", "measure", ",", "a", "copy", "on", "CD", "will", "provide", "secure", "storage", "of", "the", "materials", "until", "incorporated", "into", "a", "formal", "repository", ".", "To", "make", "the", "interviews", "more", "accessible", "to", "future", "users", "such", "as", "researchers", "and", "historians", ",", "common", "practice", "is", "to", "develop", "a", "transcript", ".", "Besides", "being", "easier", "to", "scan", "quickly", ",", "a", "good", "quality", "transcript", "makes", "it", "easier", "to", "create", "notes", "and", "cross-reference", "parts", "of", "the", "interview", ".", "There", "are", "two", "main", "approaches", "to", "creating", "transcripts", "for", "an", "interview", ":", "listening", "to", "the", "taped", "interview", "and", "capturing", "the", "dialog", "manually", ",", "a", "tedious", "and", "exacting", "process", ",", "or", "using", "voice", "recognition", "software", "to", "automatically", "create", "a", "transcript", "in", "a", "computer", "file", ",", "a", "process", "that", "tends", "to", "be", "very", "error-prone", ".", "Once", "the", "transcription", "is", "complete", ",", "careful", "editing", "can", "make", "the", "work", "clearer", "and", "more", "accessible", ".", "However", ",", "editing", "requires", "a", "deft", "touch", ",", "using", "pre-determined", "guidelines", "specific", "to", "the", "project", ".", "The", "editing", "process", "may", "consider", "issues", "such", "as", "how", "and", "whether", "to", "correct", "errors", "-LRB-", "for", "example", ",", "should", "transcriber", "errors", "be", "fixed", "during", "editing", "?", "Should", "errors", "of", "fact", "acknowledged", "by", "the", "interview", "subject", "be", "set", "right", "?", "-RRB-", "and", "whether", "to", "clear", "out", "irrelevant", "information", "-LRB-", "for", "example", ",", "deleting", "-LSB-", "presumably", "meaningless", "-RSB-", "false", "starts", "to", "make", "the", "transcript", "'s", "meaning", "clearer", "-RRB-", ".", "Editing", "may", "also", "introduce", "paragraphs", "and", "subheadings", "to", "help", "highlight", "topics", "and", "make", "it", "easier", "for", "a", "future", "reader", "to", "traverse", "the", "transcribed", "interview", ".", "3.3", "Archival", "of", "the", "Project", "Materials", "For", "security", "and", "availability", "of", "the", "collected", "materials", ",", "it", "will", "be", "vital", "to", "identify", "a", "means", "for", "the", "long-term", "storage", "of", "the", "interviews", "and", "other", "artifacts", ".", "In", "addition", ",", "the", "repository", "can", "be", "used", "to", "maintain", "a", "bibliography", "of", "results", "related", "to", "the", "overall", "project", ".", "While", "it", "is", "premature", "to", "determine", "where", "this", "work", "might", "eventually", "reside", ",", "an", "excellent", "example", "of", "the", "appropriate", "style", "of", "storage", "and", "availability", "is", "the", "repository", "related", "to", "the", "history", "of", "computing", "maintained", "by", "the", "Charles", "Babbage", "Institute", "-LSB-", "4", "-RSB-", ".", "To", "set", "the", "context", "for", "the", "Working", "Group", "'s", "project", ",", "this", "section", "considers", "four", "background", "areas", ":", "the", "area", "of", "inquiry", "known", "as", "oral", "history", ",", "resources", "related", "to", "the", "history", "of", "computing", ",", "resources", "on", "the", "history", "of", "women", "in", "computing", ",", "and", "work", "related", "to", "the", "history", "of", "computing", "education", ".", "4.1", "What", "is", "Oral", "History", "?", "Oral", "history", "is", "a", "method", "of", "inquiry", "with", "a", "rich", "tradition", "and", "specific", "guidelines", ".", "While", "folklore", "and", "storytelling", "are", "examples", "of", "oral", "history", "through", "the", "ages", ",", "modern", "techniques", "have", "improved", "the", "reliability", "of", "the", "data", "one", "can", "gather", "in", "an", "oral", "history", "project", ".", "The", "Wikipedia", "article", "on", "oral", "history", "-LSB-", "25", "-RSB-", "explains", ":", "``", "Oral", "history", "is", "an", "account", "of", "something", "passed", "down", "by", "word", "of", "mouth", "from", "one", "generation", "to", "another", ".", "Oral", "history", "is", "considered", "by", "some", "historians", "to", "be", "an", "unreliable", "source", "for", "the", "study", "of", "history", ".", "However", ",", "oral", "history", "is", "a", "valid", "means", "for", "preserving", "and", "transmitting", "history", ".", "''", "The", "Oral", "History", "Association", "-LSB-", "17", "-RSB-", "has", "published", "guidelines", "that", "address", "several", "aspects", "of", "conducting", "oral", "history", ",", "including", "responsibility", "to", "subjects", ",", "the", "public", ",", "and", "the", "profession", ";", "interview", "content", "and", "conduct", ";", "storage", "and", "preservation", "of", "media", "and", "interviews", ";", "and", "an", "excellent", "bibliography", ".", "The", "Oral", "History", "Primer", "from", "the", "Department", "of", "History", "at", "California", "State", "University", ",", "Long", "Beach", "-LSB-", "6", "-RSB-", "offers", "an", "overview", "of", "many", "of", "the", "aspects", "of", "conducting", "an", "oral", "history", "project", ",", "such", "as", "how", "to", "design", "the", "study", ",", "how", "to", "conduct", "and", "process", "the", "interview", ",", "and", "how", "to", "use", "the", "completed", "interview", ".", "This", "resource", "offers", "a", "sample", "outline", ",", "a", "sample", "transcript", ",", "and", "a", "sample", "agreement", "form", ".", "As", "the", "Working", "Group", "prepared", "for", "the", "meetings", "in", "Lisbon", ",", "a", "number", "of", "oral", "history", "projects", "helped", "us", "formulate", "ideas", "about", "how", "the", "materials", "from", "such", "a", "project", "can", "be", "planned", "for", "and", "archived", ".", "For", "example", ",", "the", "London", "Voices", "project", "-LSB-", "14", "-RSB-", "gathered", "oral", "histories", "from", "a", "variety", "of", "individuals", "and", "has", "made", "these", "stories", "available", "via", "a", "Museum", "of", "London", "website", ".", "The", "Oral", "History", "Directory", "from", "Alexander", "Street", "Press", "-LSB-", "18", "-RSB-", "is", "an", "ambitious", "effort", "to", "index", "the", "major", "oral", "history", "collections", "in", "English", "throughout", "the", "world", ".", "During", "our", "working", "group", "presentation", "at", "the", "ITiCSE", "conference", ",", "we", "learned", "of", "another", "project", "in", "Brazil", ",", "O", "Museu", "da", "Pessoa", "-LRB-", "Museum", "of", "the", "Person", "-RRB-", "-LSB-", "16", "-RSB-", ",", "which", "can", "provide", "additional", "ideas", ".", "The", "annotated", "bibliography", "in", "Appendix", "E", "lists", "relevant", "projects", "we", "have", "discovered", "thus", "far", ".", "176", "One", "of", "the", "Working", "Group", "members", "in", "Lisbon", ",", "William", "Aspray", ",", "is", "a", "historian", "of", "computing", "who", "has", "conducted", "over", "200", "interviews", "eliciting", "oral", "histories", ".", "The", "materials", "related", "to", "these", "interviews", "are", "in", "the", "repositories", "of", "the", "Charles", "Babbage", "Institute", "for", "History", "of", "Computing", "-LSB-", "4", "-RSB-", ",", "which", "we", "discuss", "further", "in", "the", "next", "section", ".", "Aspray", "'s", "participation", "in", "the", "Working", "Group", "provided", "key", "inputs", "and", "examples", "as", "the", "group", "developed", "the", "guidelines", "and", "planning", "reflected", "in", "this", "report", ".", "4.2", "History", "of", "Computing", "Resources", "Interest", "in", "the", "history", "of", "computing", "is", "broad-based", ".", "A", "variety", "of", "historical", "projects", "focus", "on", "areas", "as", "diverse", "as", "artifacts", "-LRB-", "e.g.", ",", "punched", "cards", ",", "old", "computers", "-RRB-", ",", "the", "timeline", "of", "events", "and", "developments", "in", "computing", ",", "and", "the", "people", "involved", "in", "driving", "the", "field", "forward", ".", "This", "section", "highlights", "a", "few", "computing", "history", "projects", "that", "seem", "particularly", "relevant", "in", "the", "context", "of", "this", "Working", "Group", "'s", "project", ".", "The", "Charles", "Babbage", "Institute", "-LRB-", "CBI", "-RRB-", "-LSB-", "4", "-RSB-", "was", "started", "in", "1978", "and", "by", "1989", "became", "an", "historical", "archives", "and", "research", "center", "of", "the", "University", "of", "Minnesota", ".", "CBI", "preserves", "relevant", "historical", "documentation", "in", "a", "variety", "of", "media", ",", "conducts", "and", "fosters", "research", "in", "history", "and", "archival", "methods", ",", "and", "sponsors", "scholarly", "meetings", "and", "publications", "related", "to", "the", "history", "of", "computing", ".", "The", "resources", "on", "this", "site", "include", "a", "set", "of", "more", "than", "300", "oral", "histories", ",", "of", "which", "no", "more", "than", "5", "%", "appear", "to", "be", "from", "women", ".", "The", "IEEE", "Annals", "of", "the", "History", "of", "Computing", "-LSB-", "8", "-RSB-", ",", "a", "quarterly", "publication", "started", "in", "1979", ",", "features", "scholarly", "articles", "by", "leading", "computer", "scientists", "and", "historians", ",", "as", "well", "as", "firsthand", "accounts", "by", "computer", "pioneers", ".", "The", "Annals", "is", "intended", "to", "serve", "as", "a", "focal", "point", "for", "collecting", "and", "disseminating", "information", "on", "historical", "projects", "and", "organizations", ",", "oral", "history", "activities", ",", "and", "international", "conferences", ".", "The", "IFIP", "Working", "Group", "9.7", "on", "the", "History", "of", "Computing", "-LSB-", "9", "-RSB-", ",", "established", "in", "1992", ",", "focuses", "on", "the", "history", "of", "computing", "and", "informatics", "with", "a", "view", "to", "providing", "the", "impetus", "to", "preserve", "the", "records", "and", "artifacts", "of", "information", "processing", "inventions", ",", "practices", ",", "and", "activities", "throughout", "the", "world", "under", "the", "auspices", "of", "IFIP", "and", "its", "constituent", "organizations", ".", "Among", "the", "goals", "of", "this", "group", "are", "to", "encourage", "the", "development", "of", "national", "archives", ",", "to", "identify", "pioneers", "worthy", "of", "appreciation", "and", "distinction", ",", "to", "develop", "publication", "plans", "for", "histories", "of", "Information", "Processing", ",", "and", "to", "promote", "the", "inclusion", "of", "historical", "modules", "in", "appropriate", "curricula", ".", "The", "Virtual", "Museum", "of", "Computing", "-LRB-", "VMoC", "-RRB-", "-LSB-", "24", "-RSB-", ",", "maintained", "by", "Jonathan", "Bowen", "of", "London", "South", "Bank", "University", ",", "is", "a", "collecting", "point", "that", "leads", "to", "many", "different", "sites", "across", "the", "web", ".", "Sections", "currently", "featured", "on", "the", "VMoC", "site", "include", "corporate", "history", "and", "overviews", ",", "history", "of", "computing", "organizations", ",", "and", "general", "historical", "information", ".", "The", "History", "of", "Computing", "project", "-LSB-", "7", "-RSB-", ",", "started", "by", "Cornelis", "Robat", "in", "the", "late", "1980s", ",", "is", "now", "supported", "by", "a", "non-profit", "foundation", "founded", "in", "April", ",", "2000", ".", "This", "project", "is", "based", "in", "the", "Netherlands", "and", "has", "partners", "from", "throughout", "the", "world", ",", "including", "the", "Ukraine", ",", "Poland", ",", "and", "Mexico", ".", "The", "project", "seems", "focused", "on", "gathering", "artifacts", "into", "an", "enormous", "database", "to", "ensure", "that", "important", "historical", "information", "remains", "available", ".", "4.3", "Resources", "on", "the", "History", "of", "Women", "in", "Computing", "Especially", "relevant", "to", "this", "Working", "Group", "'s", "efforts", "are", "projects", "to", "collect", "oral", "histories", "of", "women", "in", "computing", ".", "Janet", "Abbate", "-LSB-", "1", "-RSB-", "is", "conducting", "a", "research", "project", "to", "develop", "a", "history", "of", "women", "in", "computing", "in", "the", "United", "States", "and", "Britain", "since", "World", "War", "II", ".", "Her", "project", "draws", "on", "oral", "history", "interviews", "with", "more", "than", "fifty", "women", "who", "were", "active", "in", "computer", "science", "departments", "and", "the", "software", "industry", ".", "A", "project", "that", "apparently", "never", "came", "to", "fruition", "is", "mentioned", "on", "a", "history", "of", "computing", "site", "created", "by", "J.A.N.", "Lee", "-LSB-", "13", "-RSB-", ".", "This", "project", "was", "called", "``", "Women", "in", "-LRB-", "the", "-RRB-", "Computing", "History", "''", "-LRB-", "with", "the", "acronym", "``", "witch", "''", "-RRB-", ".", "The", "description", "of", "this", "project", "states", ":", "``", "In", "keeping", "with", "the", "tradition", "of", "documenting", "women", "'s", "history", "through", "oral", "histories", ",", "the", "Women", "in", "-LRB-", "the", "-RRB-", "Computing", "History", "mailing", "list", "hopes", "to", "augment", "traditional", "resources", "of", "women", "'s", "and", "histories", "of", "computing", "by", "being", "a", "repository", "for", "women", "'s", "own", "stories", "throughout", "the", "history", "of", "computing", ".", "All", "in", "computing", ",", "too", ",", "not", "just", "those", "of", "us", "formally", "schooled", "in", "the", "computing", "sciences", ".", "''", "Unfortunately", ",", "it", "appears", "that", "this", "project", "has", "disappeared", "from", "view", ",", "as", "we", "have", "thus", "far", "been", "unable", "to", "establish", "contact", "with", "anyone", "associated", "with", "the", "project", ".", "The", "IFIP", "Working", "Group", "9.8", "on", "Women", "and", "Information", "Technology", "-LSB-", "10", "-RSB-", "was", "established", "in", "2001", ".", "Aspects", "of", "this", "group", "'s", "charge", "include", "the", "exchange", "of", "women", "'s", "experiences", "as", "scholars", "and", "professionals", "in", "information", "technology", ",", "integration", "of", "feminist", "perspectives", "into", "computer", "science", ",", "and", "developing", "an", "understanding", "of", "the", "gendered", "aspects", "in", "design", ",", "realization", ",", "and", "implementation", "of", "information", "systems", ".", "The", "aims", "that", "seem", "especially", "relevant", "for", "this", "project", "are", "analyzing", "the", "role", "of", "gender", "in", "computing", "education", "and", "educational", "strategies", "to", "support", "and", "retain", "girls", "and", "women", ".", "4.4", "History", "of", "Computing", "Education", "Resources", "Considered", "separately", "from", "resources", "related", "to", "the", "History", "of", "Computing", ",", "few", "resources", "address", "the", "history", "of", "computing", "education", ".", "In", "1982", ",", "the", "Mathematical", "Association", "of", "America", "published", "a", "perspective", "on", "the", "field", "of", "Computer", "Science", ".", "The", "first", "chapter", "is", "an", "in-depth", "exploration", "of", "the", "development", "of", "Computer", "Science", ",", "with", "emphasis", "on", "the", "educational", "underpinnings", "of", "this", "field", "-LSB-", "19", "-RSB-", ".", "In", "August", ",", "2004", ",", "when", "the", "IFIP", "18th", "World", "Computer", "Congress", "was", "held", "in", "Toulouse", ",", "France", ",", "one", "component", "of", "the", "Congress", "was", "a", "History", "of", "Computing", "in", "Education", "conference", ".", "A", "book", "published", "in", "2004", "derives", "from", "contributions", "made", "at", "this", "conference", ".", "This", "book", "-LSB-", "11", "-RSB-", "considers", "two", "aspects", ":", "the", "impact", "of", "computing", "on", "education", "over", "the", "past", "forty", "years", "and", "as", "a", "pedagogical", "tool", "in", "computing", "education", ".", "Various", "articles", "consider", "how", "organizations", "have", "used", "computers", "to", "enhance", "teaching", "and", "learning", ",", "spanning", "experiences", "in", "elementary", "education", "through", "university", "studies", "in", "several", "countries", ".", "177", "Once", "the", "Working", "Group", "convened", "in", "Lisbon", ",", "the", "face-to-face", "meeting", "time", "was", "spent", "primarily", "on", "four", "activities", ":", "refining", "the", "purpose", "of", "the", "project", ",", "discussing", "and", "demonstrating", "the", "relevant", "techniques", ",", "developing", "a", "protocol", "to", "guide", "the", "process", "of", "planning", "and", "conducting", "interviews", ",", "and", "training", "members", "in", "how", "to", "use", "the", "interviewing", "techniques", "and", "materials", ".", "Each", "of", "these", "aspects", "are", "covered", "below", ".", "5.1", "Refining", "Purpose", "During", "the", "Working", "Group", "meetings", ",", "we", "refined", "the", "purpose", "and", "methods", "of", "the", "project", ".", "We", "realized", "the", "need", "to", "differentiate", "between", "the", "purpose", "of", "the", "interviews", "-LRB-", "how", "they", "are", "structured", "and", "the", "kind", "of", "information", "they", "elicit", "-RRB-", "and", "the", "purpose", "of", "the", "project", "as", "a", "whole", "-LRB-", "how", "the", "interviews", "will", "be", "used", "-RRB-", ".", "We", "also", "came", "to", "realize", "that", "our", "original", "notion", "of", "interviewing", "``", "successful", "''", "women", "computing", "educators", "constrained", "the", "project", "in", "two", "ways", ":", "1", "-RRB-", "defining", "what", "we", "meant", "by", "``", "success", "''", "and", "2", "-RRB-", "losing", "the", "stories", "and", "lessons", "of", "those", "who", "did", "not", "continue", "in", "computing", "education", ".", "5.2", "Demonstration", "During", "the", "two", "days", "of", "meetings", "before", "the", "ITiCSE", "conference", "began", ",", "a", "key", "aspect", "of", "the", "Working", "Group", "'s", "efforts", "was", "to", "explore", "the", "theory", "and", "techniques", "guiding", "this", "project", ".", "To", "this", "end", ",", "the", "group", "discussed", "general", "techniques", "for", "how", "to", "use", "oral", "histories", ".", "Two", "of", "the", "group", "members", ",", "Aspray", "and", "Barker", ",", "have", "social", "science", "backgrounds", ":", "Aspray", "is", "a", "historian", "of", "computing", ",", "while", "Barker", "is", "a", "social", "scientist", "whose", "work", "focuses", "on", "women", "in", "computing", ".", "Because", "most", "group", "members", "had", "little", "experience", "with", "conducting", "this", "type", "of", "inquiry", ",", "Aspray", "overviewed", "the", "purposes", "of", "oral", "history", "and", "methods", "for", "conducting", "interviews", ".", "To", "make", "the", "techniques", "tangible", ",", "Aspray", "conducted", "a", "demonstration", "interview", "with", "Working", "Group", "leader", "Barbara", "Owens", "as", "the", "subject", ".", "In", "preparation", "for", "the", "interview", ",", "Aspray", "and", "the", "remaining", "Working", "Group", "members", "formulated", "a", "set", "of", "topics", "and", "prompts", "to", "include", "in", "the", "interview", ".", "The", "demonstration", "interview", "was", "recorded", "on", "several", "digital", "devices", ",", "both", "to", "test", "the", "devices", "and", "to", "avoid", "the", "possible", "loss", "of", "information", "due", "to", "technical", "difficulties", ".", "After", "the", "demonstration", "interview", "was", "completed", ",", "Aspray", "and", "Barker", "led", "the", "group", "in", "deconstructing", "1", "the", "interview", ".", "During", "this", "session", ",", "the", "group", "reflected", "on", "what", "went", "well", ",", "what", "could", "be", "improved", ",", "and", "what", "to", "change", "in", "the", "future", ".", "5.3", "The", "Protocol", "A", "major", "product", "of", "our", "Working", "Group", "was", "a", "protocol", "for", "this", "project", ".", "After", "much", "discussion", ",", "we", "concluded", "that", "having", "a", "common", "set", "of", "materials", "would", "be", "vital", "for", "achieving", "consistent", "results", "in", "interview", "sessions", "conducted", "by", "a", "wide", "variety", "of", "volunteers", ".", "The", "protocol", "materials", "that", "will", "be", "used", "to", "support", "the", "interview", "process", "include", "an", "opening", "script", ",", "an", "outline", "of", "topics", ",", "a", "set", "of", "sample", "probing", "questions", "or", "prompts", ",", "and", "guidelines", "for", "conducting", "interviews", ".", "We", "discuss", "each", "of", "these", "items", "in", "the", "remainder", "of", "this", "section", ".", "1", "Deconstructing", "an", "interview", "is", "different", "than", "analyzing", "the", "results", ";", "the", "former", "focuses", "on", "process", ",", "while", "the", "latter", "considers", "content", ".", "5.3.1", "The", "Opening", "Script", "The", "opening", "script", "is", "used", "by", "the", "interviewer", "to", "set", "the", "scene", "before", "beginning", "the", "session", ".", "For", "example", ",", "the", "interviewer", "should", "caution", "the", "subject", "that", "it", "is", "common", "for", "sensitive", "topics", "to", "come", "up", "during", "the", "course", "of", "a", "session", "and", "that", "the", "subject", "should", "feel", "free", "to", "ask", "that", "the", "recording", "be", "turned", "off", ".", "As", "the", "session", "gets", "underway", "and", "the", "interviewer", "starts", "the", "recording", "device", "-LRB-", "s", "-RRB-", ",", "specific", "opening", "information", "should", "be", "read", "onto", "the", "recording", "in", "order", "to", "provide", "a", "full", "context", "for", "this", "session", ".", "The", "interviewer", "could", "state", ",", "for", "example", ":", "``", "This", "is", "an", "interview", "with", "-LRB-", "interview", "subject", "'s", "name", "-RRB-", "from", "-LRB-", "name", "of", "institution", "-RRB-", ",", "conducted", "by", "-LRB-", "interviewer", "'s", "name", "-RRB-", ".", "This", "interview", "is", "being", "recorded", "on", "-LRB-", "date", "-RRB-", "at", "-LRB-", "city", ",", "country", "-RRB-", ".", "It", "is", "part", "of", "the", "-LRB-", "computing", "education", "oral", "history", "series", "/", "formalized", "name", "yet", "to", "be", "determined", "-RRB-", ".", "``", "Did", "we", "give", "and", "pronounce", "your", "name", "correctly", "?", "''", "2", "After", "this", ",", "the", "interviewer", "can", "begin", "giving", "prompts", ",", "such", "as", "``", "Tell", "us", "about", "your", "parents", ",", "for", "example", "what", "they", "did", "for", "a", "living", ".", "''", "In", "this", "example", "statement", ",", "using", "the", "pronoun", "``", "us", "''", ",", "rather", "than", "``", "me", "''", ",", "can", "help", "the", "subject", "remember", "that", "her", "story", "is", "being", "told", "for", "a", "wider", "audience", "than", "just", "the", "interviewer", "at", "hand", ".", "5.3.2", "Outline", "of", "Topics", "The", "Working", "Group", "developed", "an", "outline", "of", "relevant", "topics", "to", "be", "used", "in", "guiding", "the", "interviews", ".", "The", "outline", "can", "also", "assist", "the", "interviewer", "in", "preparing", "for", "the", "interview", ",", "with", "the", "goal", "of", "making", "the", "face-to-face", "time", "with", "the", "subject", "as", "effective", "as", "possible", ".", "The", "Outline", "of", "Topics", "that", "the", "Working", "Group", "developed", "appears", "in", "Appendix", "A.", "5.3.3", "Sample", "Probing", "Questions", "Prompts", "are", "follow-up", "questions", "designed", "to", "elicit", "more", "detailed", "answers", "or", "follow", "up", "a", "thread", "introduced", "in", "an", "earlier", "answer", ".", "Because", "an", "interviewer", "must", "feel", "free", "to", "pursue", "topics", "that", "emerge", "as", "the", "session", "progresses", ",", "the", "prompts", "set", "provides", "examples", "for", "how", "the", "interview", "can", "proceed", ",", "rather", "than", "a", "strict", "step-by-step", "recipe", ".", "The", "Working", "Group", "developed", "a", "list", "of", "example", "prompts", ",", "which", "appears", "in", "Appendix", "B.", "5.3.4", "Guidelines", "for", "Conducting", "Interviews", "This", "oral", "history", "project", "will", "require", "many", "interviewers", "in", "order", "to", "increase", "the", "number", "of", "stories", "that", "can", "be", "collected", "within", "a", "limited", "timeframe", "and", "across", "a", "wide", "geographical", "area", ".", "Guidelines", "will", "help", "coordinate", "the", "efforts", "across", "volunteers", "in", "order", "to", "achieve", "a", "level", "of", "consistency", "across", "the", "results", ".", "Guidelines", "will", "also", "help", "the", "volunteers", "prepare", "for", "and", "conduct", "sessions", ".", "The", "guidelines", "can", "assist", "an", "interviewer", "in", "establishing", "the", "proper", "setting", ",", "maintaining", "an", "appropriate", "flow", ",", "and", "helping", "the", "subject", "focus", "on", "the", "issues", "at", "hand", ".", "To", "prepare", "for", "the", "session", ",", "the", "interviewer", "should", "study", "relevant", "background", "materials", "such", "as", "the", "subject", "'s", "resume", "or", "vita", ",", "their", "professional", "publications", ",", "and", "anything", "written", "about", "the", "subject", "2", "This", "final", "sentence", "is", "relevant", "primarily", "for", "names", "that", "are", "unusual", "or", "difficult", "to", "pronounce", ".", "178", "in", "secondary", "literature", ".", "This", "information", "can", "help", "the", "interviewer", "plan", "and", "prioritize", "the", "specific", "prompts", ",", "as", "well", "as", "the", "order", "of", "prompts", ",", "to", "be", "used", "during", "the", "interview", "session", ".", "At", "the", "same", "time", ",", "the", "interviewer", "should", "not", "use", "the", "outline", "of", "topics", "as", "``", "tick", "off", "''", "items", ".", "An", "effective", "interview", "will", "be", "interactive", "in", "nature", ",", "with", "the", "specific", "choice", "and", "ordering", "of", "prompts", "based", "on", "previous", "answers", ".", "Because", "the", "duration", "of", "a", "session", "must", "be", "limited", "to", "no", "more", "than", "an", "hour", "or", "two", ",", "the", "time", "must", "be", "used", "effectively", ".", "This", "makes", "it", "essential", "for", "the", "interviewer", "to", "come", "to", "the", "session", "as", "well", "prepared", "as", "possible", ".", "The", "face-to-face", "time", "during", "the", "session", "should", "be", "used", "to", "explore", "tacit", "knowledge", "and", "the", "reasons", "for", "certain", "behaviors", "and", "outcomes", ",", "providing", "insights", "into", "the", "motivations", "behind", "events", "in", "the", "subject", "'s", "life", ".", "To", "use", "the", "time", "well", ",", "the", "interviewer", "must", "avoid", "spending", "precious", "time", "during", "the", "session", "pursuing", "information", "that", "can", "be", "gleaned", "from", "the", "subject", "'s", "vita", "or", "other", "readily", "available", "materials", ".", "The", "Working", "Group", "'s", "guidelines", "for", "conducting", "interviews", "appear", "in", "Appendix", "C.", "5.4", "Training", "On", "the", "second", "day", "of", "the", "ITiCSE", "Working", "Group", "meetings", ",", "the", "group", "divided", "into", "two", "sub-groups", ",", "each", "of", "which", "included", "three", "computing", "educators", "and", "a", "``", "consultant", "''", "-LRB-", "either", "Aspray", "or", "Barker", "-RRB-", ".", "In", "these", "sub-groups", ",", "the", "computing", "educators", "tested", "the", "tentative", "protocol", "to", "conduct", "practice", "interviews", "with", "one", "another", ".", "Each", "interview", "session", "lasted", "about", "15", "minutes", ",", "with", "one", "computing", "educator", "interviewing", "a", "second", "using", "the", "list", "of", "topic", "areas", ",", "while", "the", "third", "member", "watched", "and", "listened", "from", "the", "side", ".", "During", "the", "practice", "interviews", ",", "both", "sub-groups", "explored", "technologies", "that", "can", "be", "used", "to", "record", "the", "interviews", "and", "transcribe", "the", "audio", "recordings", ",", "testing", "multiple", "devices", "and", "in", "one", "group", "using", "a", "headset", "to", "capture", "the", "answers", "for", "automatic", "transcription", ".", "The", "``", "consultants", "''", "observed", "during", "the", "interviews", ",", "then", "helped", "the", "group", "deconstruct", "the", "interviews", "and", "critique", "the", "methods", ".", "Working", "Group", "members", "have", "offered", "the", "following", "as", "the", "most", "positive", "outcomes", "of", "the", "time", "in", "Lisbon", "-LRB-", "given", "in", "no", "particular", "order", "-RRB-", ":", "1", ".", "Learning", "techniques", "of", "oral", "history", "and", "observing", "an", "experienced", "interviewer", "using", "the", "techniques", "during", "a", "demonstration", ".", "2", ".", "Hearing", "diverse", "ideas", "about", "project", "goals", "and", "reaching", "consensus", ".", "3", ".", "Fleshing", "out", "the", "protocol", "for", "conducting", "interviews", ",", "thus", "making", "clear", "what", "should", "be", "asked", "during", "a", "session", ".", "The", "protocol", "includes", "a", "detailed", "set", "of", "guidelines", "for", "conducting", "an", "oral", "history", "interview", "-LRB-", "Appendix", "C", "-RRB-", ",", "an", "opening", "script", "-LRB-", "Section", "5.3.1", "-RRB-", ",", "a", "topic", "outline", "-LRB-", "Appendix", "A", "-RRB-", ",", "and", "sample", "prompts", "-LRB-", "Appendix", "B", "-RRB-", ".", "4", ".", "Being", "trained", "in", "interview", "techniques", ",", "which", "allowed", "the", "group", "to", "experiment", "with", "the", "equipment", "and", "pilot", "the", "process", "of", "gathering", "histories", ".", "Several", "members", "expressed", "the", "desire", "for", "additional", "training", "and", "for", "the", "opportunity", "to", "review", "recorded", "interviews", "conducted", "by", "more", "experienced", "individuals", ".", "5", ".", "Understanding", "that", "the", "operative", "dynamic", "in", "an", "interview/oral", "history", "differs", "from", "that", "in", "conversation", ",", "although", "the", "similarities", "make", "it", "tricky", "to", "balance", "the", "exchange", ".", "Members", "felt", "very", "positive", "about", "the", "experience", "of", "the", "practice", "interviews", ".", "One", "member", "reported", "that", "she", "often", "found", "herself", "caught", "up", "in", "the", "stories", "the", "subjects", "were", "telling", ",", "leading", "her", "to", "realize", "that", "it", "takes", "effort", "to", "learn", "to", "stick", "to", "the", "list", "of", "topics", "that", "the", "interviewer", "wants", "to", "cover", ".", "6", ".", "Seeing", "the", "importance", "of", "privacy", "considerations", ",", "as", "well", "as", "the", "need", "to", "obtain", "permission", "and", "plan", "for", "storage", "and", "access", ".", "7", ".", "Getting", "to", "know", "the", "other", "group", "members", "and", "hearing", "significant", "parts", "some", "of", "their", "stories", ".", "Even", "this", "small", "sample", "gave", "group", "members", "a", "feeling", "for", "the", "wide", "variety", "of", "paths", "taken", "and", "challenges", "overcome", ".", "8", ".", "Discovering", "that", "the", "individual", "paths", "were", "an", "interplay", "between", "a", "recitation", "of", "facts", "-LRB-", "dates", "and", "places", "-RRB-", "and", "the", "deeply", "felt", "emotional", "life", "that", "often", "motivated", "a", "person", "'s", "actions", ".", "This", "underscored", "the", "need", "for", "a", "respectful", "and", "reasonably", "well-trained", "approach", "by", "each", "interviewer", ".", "The", "group", "encountered", "a", "number", "of", "difficulties", "with", "the", "software", "and", "equipment", ".", "It", "became", "clear", "that", "the", "equipment", "is", "the", "weakest", "link", "in", "performing", "an", "interview", ".", "The", "interviewer", "can", "not", "be", "certain", "that", "the", "equipment", "is", "functioning", "as", "expected", "until", "he", "or", "she", "takes", "a", "break", "to", "review", "the", "recording", ".", "Based", "on", "experimentation", "during", "the", "Working", "Group", "meetings", ",", "the", "Working", "group", "can", "make", "the", "following", "observations", ":", "The", "group", "used", "several", "different", "models", "of", "the", "Olympus", "DVR", "-LRB-", "Digital", "Voice", "Recorder", "-RRB-", "and", "was", "able", "to", "get", "each", "model", "to", "work", "properly", ".", "Direct", "recording", "to", "the", "computer", "worked", "well", "through", "the", "Olympus", "VN-240PC", "digital", "recorder", ".", "Transferring", "the", "recordings", "to", "CD", "was", "simple", "and", "seemed", "like", "an", "excellent", "way", "to", "create", "a", "temporary", "archive", ".", "While", "the", "Dragon", "Naturally", "Speaking", "Preferred", "speech", "recognition", "software", "-LSB-", "5", "-RSB-", "may", "be", "helpful", ",", "it", "will", "require", "further", "experimentation", "to", "use", "it", "effectively", ".", "While", "the", "group", "'s", "experiences", "with", "the", "i-River", "recording", "devices", "were", "not", "successful", ",", "one", "member", "has", "been", "pleased", "with", "the", "performance", "of", "this", "device", "in", "the", "past", ".", "In", "general", "the", "digital", "recorders", "worked", "well", ".", "However", ",", "in", "every", "session", "at", "least", "one", "of", "the", "recorders", "failed", ",", "generally", "due", "to", "inexperience", ",", "human", "error", ",", "or", "time", "limitations", ".", "A", "key", "conclusion", "is", "that", "equipment", "redundancy", "is", "imperative", ".", "We", "decided", "it", "is", "safest", "to", "use", "at", "least", "three", "recording", "devices", "during", "each", "interview", "in", "order", "to", "ensure", "the", "best", "possible", "quality", "of", "recording", ".", "Group", "members", "were", "surprised", "at", "the", "difficulty", "of", "transcribing", "recorded", "interviews", ".", "Some", "members", "had", "hoped", "there", "would", "be", "useful", "tricks", "or", "slight-of-hand", "for", "doing", "transcription", ".", "Unfortunately", ",", "creating", "a", "good", "quality", "transcription", "is", "simply", "a", "lengthy", "and", "intense", "process", ".", "A", "group", "member", "who", "transcribed", "her", "own", "interview", "found", "that", "it", "took", "nearly", "five", "times", "as", "long", "as", "the", "interview", "duration", "to", "complete", "the", "transcription", "of", "the", "session", "!", "During", "early", "planning", "for", "the", "Working", "Group", ",", "the", "co-leaders", "had", "hoped", "to", "''", "...", "conduct", "initial", "analysis", "of", "pilot", "interview", "data", ",", "and", "identify", "emergent", "themes", "''", ".", "In", "the", "end", ",", "the", "group", "spent", "no", "time", "179", "with", "formal", "analysis", "of", "the", "practice", "interviews", ".", "Instead", ",", "the", "group", "used", "the", "time", "to", "hone", "interview", "techniques", "and", "understand", "how", "to", "move", "the", "project", "forward", ".", "During", "the", "first", "day", "of", "the", "ITiCSE", "conference", "-LRB-", "after", "the", "Working", "Groups", "had", "each", "met", "for", "two", "full", "days", "-RRB-", ",", "each", "Working", "Group", "presented", "their", "group", "'s", "mission", "and", "progress", "for", "conference", "attendees", ".", "The", "main", "impressions", "that", "Working", "Group", "members", "brought", "away", "from", "this", "presentation", "were", "very", "positive", ",", "with", "many", "attendees", "showing", "strong", "interest", "in", "the", "project", "and", "offering", "encouragement", "as", "well", "as", "suggestions", "for", "potential", "subjects", ".", "While", "the", "experience", "during", "the", "ITiCSE", "conference", "was", "valuable", ",", "the", "time", "in", "Lisbon", "was", "too", "short", "and", "the", "expectations", "too", "high", "for", "the", "group", "to", "be", "able", "to", "complete", "everything", "it", "had", "hoped", "to", "accomplish", ".", "By", "the", "end", "of", "the", "conference", "and", "the", "completion", "of", "this", "report", ",", "the", "Working", "Group", "had", "prepared", "an", "annotated", "bibliography", ",", "learned", "about", "oral", "histories", ",", "piloted", "hardware", "and", "software", "for", "recording", ",", "and", "set", "the", "stage", "for", "ongoing", "collection", "of", "histories", ",", "including", "a", "protocol", "to", "follow", "in", "planning", "for", "and", "conducting", "interviews", ".", "While", "the", "Working", "Group", "did", "consider", "legal", "and", "ethical", "issues", "during", "their", "discussions", ",", "a", "great", "deal", "must", "be", "resolved", "before", "the", "process", "of", "active", "interviewing", "can", "begin", ".", "In", "particular", ",", "access", "and", "ownership", "issues", "must", "be", "resolved", "before", "we", "can", "begin", "collecting", "interviews", ".", "The", "Working", "Group", "has", "an", "excellent", "start", "in", "recruiting", "volunteers", "to", "help", "in", "carrying", "out", "all", "aspects", "of", "the", "project", ".", "However", ",", "the", "work", "of", "the", "volunteers", "must", "be", "coordinated", "in", "order", "to", "produce", "coherent", "results", ".", "In", "addition", ",", "volunteers", "who", "conduct", "interviews", "must", "be", "trained", "in", "the", "techniques", ".", "Various", "Working", "Group", "members", "have", "agreed", "to", "propose", "workshops", "and", "other", "training", "opportunities", "at", "a", "variety", "of", "venues", "and", "events", ".", "A", "challenge", "will", "be", "to", "select", "the", "set", "of", "subjects", "from", "the", "many", "suggestions", "we", "have", "received", ".", "For", "the", "current", "stage", "of", "work", ",", "we", "will", "include", "only", "women", "computing", "educators", "who", "are", "retired", "or", "in", "the", "latter", "stages", "of", "their", "careers", ".", "The", "entire", "project", "has", "an", "underlying", "sense", "of", "urgency", "because", "many", "of", "the", "pioneers", "are", "in", "poor", "health", "or", "have", "already", "passed", "away", ".", "We", "have", "seen", "clear", "interest", "in", "eventually", "expanding", "the", "project", "to", "include", "the", "stories", "of", "women", "in", "earlier", "parts", "of", "their", "careers", "and", "men", "at", "any", "stage", "of", "their", "careers", ".", "Obtaining", "one", "or", "more", "sources", "of", "funding", "will", "be", "essential", "to", "achieving", "the", "full", "vision", "of", "the", "project", ".", "Funding", "can", "support", "aspects", "such", "as", "transcription", "and", "review", ",", "travel", "to", "conduct", "training", "or", "to", "meet", "with", "subjects", ",", "and", "setting", "up", "permanent", "archival", "facilities", ".", "While", "finding", "a", "permanent", "home", "for", "the", "oral", "histories", "is", "not", "essential", "during", "the", "early", "phases", "of", "the", "project", ",", "it", "is", "important", "if", "the", "collected", "stories", "are", "to", "be", "useful", "and", "usable", ".", "In", "addition", "to", "providing", "for", "archival", "of", "the", "recordings", "and", "transcriptions", ",", "the", "eventual", "home", "should", "allow", "for", "including", "contextual", "materials", ",", "such", "as", "course", "and", "curriculum", "artifacts", ".", "The", "archival", "capability", "must", "include", "sophisticated", "support", "for", "indexing", "and", "searching", "in", "order", "to", "support", "future", "visitors", "in", "browsing", "the", "collection", "and", "analyzing", "the", "interview", "transcriptions", "and", "other", "artifacts", ".", "Ultimately", ",", "whether", "this", "project", "will", "succeed", "or", "fail", "depends", "on", "the", "level", "of", "engagement", "we", "can", "generate", "for", "all", "phases", "of", "the", "project", ".", "To", "start", ",", "we", "must", "involve", "the", "computing", "education", "community", "in", "collecting", "stories", "from", "women", "computing", "educators", "who", "have", "retired", "or", "are", "about", "to", "retire", ".", "At", "the", "same", "time", ",", "we", "must", "create", "and", "maintain", "a", "sense", "of", "excitement", "about", "the", "potential", "of", "the", "project", ".", "If", "there", "are", "sufficiently", "many", "interested", "volunteers", ",", "the", "full-blown", "project", "to", "collect", "stories", "from", "men", "and", "from", "women", "earlier", "in", "their", "careers", "could", "certainly", "get", "underway", "in", "parallel", "with", "the", "current", "efforts", ".", "The", "individuals", "who", "met", "in", "Lisbon", "enjoyed", "the", "unique", "opportunity", "to", "learn", "these", "techniques", "and", "plan", "for", "what", "we", "hope", "will", "be", "a", "productive", "long-term", "project", ".", "The", "group", "was", "fortunate", "to", "have", "additional", "individuals", "involved", "in", "the", "pre-conference", "discussions", ",", "several", "of", "whom", "made", "key", "contributions", "to", "the", "preparations", ".", "In", "particular", ",", "the", "Working", "Group", "is", "grateful", "to", "Bettina", "Bair", "for", "her", "enthusiastic", "support", ".", "Bettina", "set", "up", "the", "group", "wiki", "and", "provided", "feedback", "as", "well", "as", "many", "ideas", "for", "resources", ".", "We", "are", "also", "grateful", "to", "the", "others", "who", "participated", "in", "the", "pre-conference", "discussions", ",", "including", "Anne", "Applin", "and", "Amardeep", "Kahlon", ".", "We", "thank", "the", "individuals", "who", "responded", "to", "our", "survey", "and", "offered", "suggestions", "of", "future", "subjects", "and", "possible", "questions", ".", "Comments", "from", "the", "anonymous", "reviewers", "allowed", "us", "to", "refine", "the", "purpose", "of", "the", "report", "and", "improve", "the", "presentation", ".", "Late", "discussions", "with", "Susan", "Gerhart", "provided", "additional", "ideas", "and", "inspiration", "for", "future", "work", ".", "The", "references", "given", "here", "are", "used", "directly", "in", "the", "text", ".", "In", "Appendix", "E", "we", "provide", "an", "annotated", "reference", "list", ",", "which", "repeats", "several", "of", "these", "references", "supplemented", "with", "our", "annotations", ".", "-LSB-", "17", "-RSB-", "Abbate", ",", "J.", ",", "Finding", "our", "Place", "in", "History", ":", "Six", "Decades", "of", "Women", "in", "Computing", ",", "Grace", "Hopper", "Celebration", "of", "Women", "in", "Computing", ".", "October", "6-9", ",", "2004", ".", "Chicago", ",", "IL", ".", "online", ":", "gracehopper.org/Proceedings/PDF/wpp_Abbate.pdf", ";", "last", "modified", "10", "January", "2005", ",", "accessed", "17", "June", "2005", ".", "-LSB-", "18", "-RSB-", "Baylor", "University", "Institute", "for", "Oral", "History", ",", "Oral", "History", "Workshop", "on", "the", "Web", ",", "online", ":", "www.baylor.edu/Oral_History/", ",", "last", "modified", "25", "April", "2005", ",", "accessed", "17", "June", "2005", ".", "-LSB-", "19", "-RSB-", "Bandura", ",", "A.", "Social", "foundations", "of", "thought", "and", "action", ":", "A", "social", "cognitive", "theory", ".", "Englewood", "Cliffs", ",", "NJ", ":", "Prentice", "Hall", ",", "1986", ".", "-LSB-", "20", "-RSB-", "Charles", "Babbage", "Institute", ",", "Center", "for", "the", "History", "of", "Information", "Technology", ",", "University", "of", "Minnesota", ".", "online", ":", "www.cbi.umn.edu/index.html", ",", "accessed", "17", "June", "2005", ".", "-LSB-", "21", "-RSB-", "Dragon", "Naturally", "Speaking", "Preferred", "speech", "recognition", "software", ",", "1st-Dragon", "information", "page", ":", "www.1st-dragon", ".", "com/dragnatspeak1.html", ",", "accessed", "17", "July", "2005", ".", "-LSB-", "22", "-RSB-", "Gluck", ",", "S.", "B", ".", "An", "Oral", "History", "Primer", ",", "Department", "of", "History", ",", "California", "State", "University", ",", "Long", "Beach", ",", "online", ":", "www.csulb.edu/depts/history/relprm/oralprimer/", "OHprimer.html", ".", "last", "updated", "6", "March", "2001", ",", "accessed", "28", "July", "2005", ".", "-LSB-", "23", "-RSB-", "The", "History", "of", "Computing", "project", ".", "online", ":", "www.thocp.net", "/", ".", "accessed", "20", "July", "2005", ".", "-LSB-", "24", "-RSB-", "IEEE", "Annals", "of", "Computing", ".", "online", ":", "www.computer.org/annals/", ".", "accessed", "28", "July", "2005", ".", "180", "-LSB-", "25", "-RSB-", "IFIP", "Working", "Group", "9.7", "on", "the", "History", "of", "Computing", ".", "online", ":", "http://www.comphist.org/", ".", "last", "modified", "12", "July", "2005", ";", "accessed", "20", "July", "2005", ".", "-LSB-", "26", "-RSB-", "IFIP", "Working", "Group", "9.8", "on", "Women", "and", "Information", "Technology", ".", "online", ":", "www.informatik.uni-bremen", ".", "de", "/", "~", "oechteri/IFIP", "/", ".", "last", "modified", "24", "February", "2004", ";", "accessed", "20", "July", "2005", ".", "-LSB-", "27", "-RSB-", "Implagliazzo", ",", "J.", ",", "&", "J.", "A.", "N.", "Lee", ",", "History", "of", "computing", "in", "education", ",", "Boston", ":", "Kluwer", ",", "2004", ".", "-LSB-", "28", "-RSB-", "Lazowska", ",", "E.", "Pale", "and", "male", ":", "19th", "century", "design", "in", "a", "21st", "century", "world", ".", "Women", "in", "computing", "history", ",", "SIGCSE", "Bulletin", "inroads", ".", "34", "-LRB-", "2", "-RRB-", "-LRB-", "June", "2002", "-RRB-", ".", "pp.", "11-12", ".", "-LSB-", "29", "-RSB-", "Lee", ",", "J.A.N.", "History", "of", "Computing", ".", "online", ":", "ei.cs.vt.edu/~history/", ".", "last", "updated", "6", "December", "2002", ".", "accessed", "20", "July", "2005", ".", "-LSB-", "30", "-RSB-", "London", "Voices", ",", "Museum", "of", "London", ",", "online", ":", "www.museumoflondon.org.uk/MOLsite/londonsvoice", "s", "/", ",", "last", "modified", "8", "July", "2004", ",", "accessed", "17", "June", "2005", ".", "-LSB-", "31", "-RSB-", "Margolis", ",", "J.", "&", "Fisher", ",", "A.", "Unlocking", "the", "Clubhouse", ":", "The", "Carnegie", "Mellon", "Experience", ",", "SIGCSE", "Bulletin", "inroads", ",", "34", "-LRB-", "2", "-RRB-", ",", "June", "2002", ".", "pp.", "79-83", ".", "-LSB-", "32", "-RSB-", "Museu", "da", "Pessoa", "-LSB-", "translation", ":", "Museum", "of", "the", "Person", "-RSB-", ".", "online", ":", "www.museudapessoa.net", "/", ".", "accessed", "20", "July", "2005", ".", "-LSB-", "33", "-RSB-", "Oral", "History", "Association", ".", "online", ":", "omega.dickinson.edu/organizations/oha/", ".", "accessed", "20", "July", "2005", ".", "-LSB-", "34", "-RSB-", "Oral", "History", "Directory", ",", "Alexander", "Street", "Press", ",", "online", ":", "www.alexanderstreet2.com/oralhist/", ",", "last", "modified", "18", "March", "2005", ",", "accessed", "19", "June", "2005", ".", "-LSB-", "35", "-RSB-", "Pollack", ",", "S.", "V", ".", "The", "Development", "of", "Computer", "Science", ".", "In", "S.", "V.", "Pollack", "-LRB-", "Ed", ".", "-RRB-", "Studies", "in", "Computer", "Science", ".", "MAA", "Studies", "in", "Mathematics", ",", "Volume", "22", ".", "The", "Mathematical", "Association", "of", "America", ",", "1982", ".", "-LSB-", "36", "-RSB-", "Ritchie", ",", "D.", "A.", "Oral", "History", "Evaluation", "Guidelines", ".", "Pamphlet", "Number", "3", ".", "Oral", "History", "Association", ".", "Oral", "History", "Association", ".", "online", ":", "www.dickinson.edu/oha/pub_eg.html", ",", "last", "modified", "4", "May", "2004", ",", "accessed", "17", "June", "2005", ".", "-LSB-", "37", "-RSB-", "Roberts", ",", "E.", "Expanding", "the", "audience", "for", "computer", "science", ".", "PowerPoint", "version", "of", "keynote", "talk", "presented", "at", "2003", "SIGCSE", "Technical", "Symposium", ",", "Reno", ",", "Nevada", ".", "-LSB-", "38", "-RSB-", "SIGCSE.members", ",", "the", "members-only", "mailing", "list", "of", "the", "ACM", "Special", "Interest", "Group", "for", "Computer", "Science", "Education", ".", "Subscription", "information", "online", "at", "www.sigcse.org", "/", ".", "-LSB-", "39", "-RSB-", "Systers", ",", "an", "online", "community", "for", "technical", "women", "in", "computing", ".", "Subscription", "information", "online", "at", "www.mecca.org", "/", ".", "-LSB-", "40", "-RSB-", "Virtual", "Museum", "of", "Computing", "-LRB-", "VMoC", "-RRB-", ",", "online", ":", "http://vmoc.museophile.org/", ";", "last", "modified", "4", "January", "2005", ",", "accessed", "20", "July", "2005", ".", "-LSB-", "41", "-RSB-", "Wikipedia", ",", "Oral", "History", ".", "online", ":", "en.wikipedia.org/wiki/Oral_history/", ".", "last", "modified", "17", "June", "2005", ",", "accessed", "20", "July", "2005", "."], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["oral history"], "abstractive_keyphrases": ["computing education history"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "44", "document": ["Black-Box", "Constructions", "for", "Secure", "Computation", "It", "is", "well", "known", "that", "the", "secure", "computation", "of", "non-trivial", "functionalities", "in", "the", "setting", "of", "no", "honest", "majority", "requires", "computational", "assumptions", ".", "We", "study", "the", "way", "such", "computational", "assumptions", "are", "used", ".", "Specifically", ",", "we", "ask", "whether", "the", "secure", "protocol", "can", "use", "the", "underlying", "primitive", "-LRB-", "e.g.", ",", "one-way", "trapdoor", "permutation", "-RRB-", "in", "a", "black-box", "way", ",", "or", "must", "it", "be", "nonblack-box", "-LRB-", "by", "referring", "to", "the", "code", "that", "computes", "this", "primitive", "-RRB-", "?", "Despite", "the", "fact", "that", "many", "general", "constructions", "of", "cryptographic", "schemes", "-LRB-", "e.g.", ",", "CPA-secure", "encryption", "-RRB-", "refer", "to", "the", "underlying", "primitive", "in", "a", "black-box", "way", "only", ",", "there", "are", "some", "constructions", "that", "are", "inherently", "nonblack-box", ".", "Indeed", ",", "all", "known", "constructions", "of", "protocols", "for", "general", "secure", "computation", "that", "are", "secure", "in", "the", "presence", "of", "a", "malicious", "adversary", "and", "without", "an", "honest", "majority", "use", "the", "underlying", "primitive", "in", "a", "nonblack-box", "way", "-LRB-", "requiring", "to", "prove", "in", "zero-knowledge", "statements", "that", "relate", "to", "the", "primitive", "-RRB-", ".", "In", "this", "paper", ",", "we", "study", "whether", "such", "nonblack-box", "use", "is", "essential", ".", "We", "present", "protocols", "that", "use", "only", "black-box", "access", "to", "a", "family", "of", "-LRB-", "enhanced", "-RRB-", "trapdoor", "permutations", "or", "to", "a", "homomorphic", "public-key", "encryption", "scheme", ".", "The", "result", "is", "a", "protocol", "whose", "communication", "complexity", "is", "independent", "of", "the", "computational", "complexity", "of", "the", "underlying", "primitive", "-LRB-", "e.g.", ",", "a", "trapdoor", "permutation", "-RRB-", "and", "whose", "computational", "complexity", "grows", "only", "linearly", "with", "that", "of", "the", "underlying", "primitive", ".", "This", "is", "the", "first", "protocol", "to", "exhibit", "these", "properties", ".", "F.", "1.2", "-LSB-", "Theory", "of", "Computation", "-RSB-", ":", "Interactive", "and", "reactive", "computation", "Research", "supported", "by", "grant", "36/03", "from", "the", "Israel", "Science", "Foundation", ".", "Department", "of", "Computer", "Science", ",", "Technion", ",", "Israel", ".", "email", ":", "-LCB-", "yuvali", ",", "eyalk", ",", "erez", "-RCB-", "@cs", ".", "technion.ac.il", "Department", "of", "Computer", "Science", ",", "Bar-Ilan", "University", ",", "Israel", ".", "email", ":", "lindell@cs.biu.ac.il", ".", "Much", "of", "this", "work", "was", "carried", "out", "while", "the", "author", "was", "visiting", "the", "Technion", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "STOC", "'", "06", ",", "May", "21", "23", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-134-1", "/", "06/0005", "...", "$", "5.00", ".", "Algorithms", ",", "Theory", "It", "is", "a", "known", "fact", "that", "most", "cryptographic", "tasks", "require", "the", "use", "of", "computational", "hardness", "assumptions", ".", "These", "assumptions", "typically", "come", "in", "two", "types", ":", "specific", "assumptions", "like", "the", "hardness", "of", "factoring", ",", "RSA", ",", "discrete", "log", "and", "others", ",", "and", "general", "assumptions", "like", "the", "existence", "of", "one-way", "functions", ",", "trapdoor", "permutations", "and", "others", ".", "In", "this", "paper", ",", "we", "refer", "to", "general", "assumptions", "and", "how", "they", "are", "used", ".", "Specifically", ",", "we", "consider", "an", "intriguing", "question", "regarding", "how", "secure", "protocols", "utilize", "a", "primitive", "that", "is", "assumed", "to", "carry", "some", "hardness", "property", ".", "Here", "again", ",", "there", "is", "a", "clear", "distinction", "between", "two", "types", "of", "uses", ":", "1", ".", "Black-box", "usage", ":", "a", "protocol", "-LRB-", "or", "construction", "-RRB-", "uses", "a", "primitive", "in", "a", "black-box", "way", "if", "it", "refers", "only", "to", "the", "input/output", "behavior", "of", "the", "primitive", ".", "1", "For", "example", ",", "if", "the", "primitive", "is", "a", "trapdoor", "permutation", ",", "then", "the", "protocol", "may", "sample", "a", "permutation", "and", "its", "domain", ",", "and", "may", "compute", "the", "permutation", "and", "its", "inverse", "-LRB-", "if", "the", "trapdoor", "is", "given", "-RRB-", ".", "Beyond", "this", ",", "no", "reference", "is", "made", "to", "the", "primitive", ".", "In", "particular", ",", "the", "code", "used", "to", "compute", "the", "permutation", "-LRB-", "or", "carry", "out", "any", "other", "task", "-RRB-", "is", "not", "referred", "to", "by", "the", "protocol", ".", "The", "vast", "majority", "of", "constructions", "in", "cryptography", "are", "black-box", ".", "2", ".", "Nonblack-box", "usage", ":", "a", "protocol", "-LRB-", "or", "construction", "-RRB-", "uses", "a", "primitive", "in", "a", "nonblack-box", "way", "if", "it", "refers", "to", "the", "code", "for", "computing", "its", "functionality", ".", "A", "typical", "example", "of", "a", "nonblack-box", "construction", "is", "where", "a", "Karp", "reduction", "is", "applied", "to", "the", "circuit", "computing", "the", "function", ",", "say", ",", "in", "order", "to", "prove", "an", "N", "P", "zero-knowledge", "proof", ",", "as", "in", "-LSB-", "14", "-RSB-", ".", "A", "rich", "and", "fruitful", "body", "of", "work", ",", "initiated", "by", "-LSB-", "16", "-RSB-", ",", "attempts", "to", "draw", "the", "borders", "between", "possibility", "and", "impossibility", "for", "black-box", "constructions", "in", "cryptography", ".", "While", "many", "of", "the", "relations", "between", "primitives", "are", "well", "understood", ",", "there", "are", "still", "some", "important", "tasks", "for", "which", "the", "only", "constructions", "that", "we", "have", "rely", "on", "nonblack-box", "access", "to", "the", "assumed", "primitive", ",", "yet", "the", "existence", "of", "a", "black-box", "construction", "is", "1", "It", "is", "typically", "also", "required", "that", "the", "security", "proof", "of", "the", "construction", "is", "black-box", "in", "the", "sense", "that", "an", "adversary", "breaking", "the", "protocol", "can", "be", "used", "as", "an", "oracle", "in", "order", "to", "break", "the", "underlying", "primitive", ".", "See", ",", "e.g.", ",", "-LSB-", "11", ",", "12", ",", "29", "-RSB-", "for", "a", "comprehensive", "treatment", "of", "black-box", "reductions", "in", "cryptography", ".", "99", "not", "ruled", "out", ".", "In", "particular", ",", "all", "known", "general", "constructions", "of", "multiparty", "protocols", "that", "are", "secure", "in", "the", "presence", "of", "malicious", "adversaries", "and", "without", "an", "honest", "majority", ",", "originating", "from", "-LSB-", "15", "-RSB-", ",", "use", "nonblack-box", "access", "to", "the", "assumed", "primitive", ".", "2", "-LRB-", "We", "note", "that", "by", "``", "general", "construc-tions", "''", ",", "we", "mean", "constructions", "that", "can", "be", "used", "to", "securely", "compute", "any", "functionality", ".", "-RRB-", "Another", "notable", "example", "of", "this", "phenomenon", "is", "the", "case", "of", "public-key", "encryption", "that", "is", "secure", "against", "chosen-ciphertext", "attacks", "-LSB-", "7", ",", "30", ",", "23", "-RSB-", ";", "here", "too", ",", "all", "known", "constructions", "are", "nonblack-box", ".", "The", "above", "phenomenon", "begs", "the", "following", "question", ":", "Is", "it", "possible", "to", "construct", "general", "protocols", "for", "secure", "computation", "without", "an", "honest", "majority", "and", "with", "malicious", "adversaries", ",", "given", "only", "black-box", "access", "to", "a", "``", "low-level", "''", "primitive", "?", "Answering", "the", "above", "question", "is", "of", "interest", "for", "the", "following", "reasons", ".", "First", ",", "it", "is", "of", "theoretical", "interest", "to", "understand", "whether", "or", "not", "nonblack-box", "access", "to", "a", "primitive", "is", "necessary", "for", "these", "tasks", ".", "An", "answer", "to", "this", "question", "would", "enhance", "our", "understanding", "of", "how", "hardness", "assumptions", "can", "-LRB-", "or", "must", "-RRB-", "be", "used", ".", "Second", ",", "as", "we", "have", "mentioned", ",", "the", "nonblack-box", "use", "of", "the", "underlying", "primitive", "is", "typically", "utilized", "in", "order", "to", "apply", "a", "Karp", "reduction", "for", "the", "purpose", "of", "using", "a", "-LRB-", "general", "-RRB-", "zero-knowledge", "proof", ".", "Such", "reductions", "are", "highly", "inefficient", "and", "are", "unlikely", "to", "be", "very", "useful", "in", "practice", ".", "Furthermore", ",", "in", "these", "protocols", "the", "communication", "complexity", "depends", "on", "the", "complexity", "of", "computing", "the", "primitive", "and", "the", "computational", "complexity", "grows", "more", "than", "linearly", "with", "that", "of", "the", "primitive", ".", "-LRB-", "An", "exception", "to", "this", "rule", "is", "the", "communication-efficient", "compiler", "presented", "in", "-LSB-", "26", "-RSB-", ",", "which", "relies", "on", "the", "communication-efficient", "arguments", "of", "-LSB-", "20", ",", "25", "-RSB-", ".", "However", ",", "the", "computational", "complexity", "of", "the", "protocol", "of", "-LSB-", "26", "-RSB-", "is", "even", "worse", "than", "the", "GMW", "protocol", "-LSB-", "15", "-RSB-", ".", "-RRB-", "To", "illustrate", "the", "type", "of", "inefficiency", "resulting", "from", "current", "nonblack-box", "constructions", ",", "consider", "the", "following", "hypothetical", "scenario", ".", "Suppose", "that", ",", "due", "to", "major", "advances", "in", "cryptanalytic", "techniques", ",", "the", "security", "parameter", "must", "be", "large", "enough", "so", "that", "all", "basic", "cryptographic", "primitives", "require", "a", "full", "second", "of", "computation", "on", "a", "fast", "CPU", ".", "In", "such", "a", "case", ",", "would", "it", "still", "be", "possible", "to", "carry", "out", "a", "distributed", "task", "like", "oblivious", "transfer", "?", "Current", "nonblack-box", "techniques", "-LRB-", "e.g.", ",", "the", "GMW", "protocol", "-LSB-", "15", "-RSB-", "-RRB-", "require", "parties", "to", "prove", "in", "zero-knowledge", "statements", "that", "involve", "the", "computation", "of", "the", "underlying", "primitive", ",", "say", "a", "trapdoor", "permutation", ".", "These", "zero-knowledge", "protocols", ",", "in", "turn", ",", "invoke", "cryptographic", "primitives", "for", "any", "gate", "of", "a", "circuit", "computing", "a", "trapdoor", "permutation", ".", "Since", "-LRB-", "by", "our", "assumption", "-RRB-", "a", "trapdoor", "permutation", "takes", "one", "second", "to", "compute", ",", "its", "circuit", "implementation", "contains", "trillions", "of", "gates", ",", "thereby", "requiring", "the", "protocol", "trillions", "of", "second", "to", "run", ".", "In", "contrast", ",", "a", "black-box", "construction", "of", "oblivious", "transfer", "from", "the", "trapdoor", "permutation", "primitive", "would", "make", "the", "number", "of", "invocations", "of", "the", "primitive", "independent", "of", "the", "complexity", "of", "2", "We", "stress", "that", "the", "above", "discussion", "is", "only", "true", "when", "considering", "general", "assumptions", ".", "Furthermore", ",", "it", "is", "only", "true", "when", "considering", "``", "low-level", "primitives", "''", "like", "trapdoor", "permutations", ".", "Specifically", ",", "there", "do", "exist", "constructions", "of", "secure", "multiparty", "protocols", "that", "use", "only", "black-box", "access", "to", "an", "oblivious", "transfer", "primitive", "-LSB-", "18", "-RSB-", ".", "However", ",", "since", "it", "is", "not", "known", "how", "to", "construct", "oblivious", "transfer", "using", "only", "black-box", "access", "to", ",", "say", "trapdoor", "permutations", ",", "the", "overall", "construction", "obtained", "does", "not", "use", "its", "``", "low-level", "''", "primitive", "in", "a", "black-box", "way", ".", "implementing", "the", "primitive", ",", "thus", "making", "oblivious", "transfer", "feasible", "even", "in", "the", "hypothetical", "scenario", "described", "above", ".", "We", "conclude", "that", "the", "current", "nonblack-box", "use", "of", "the", "underlying", "primitives", "constitutes", "an", "obstacle", "to", "efficiency", ".", "It", "is", "therefore", "of", "great", "interest", "to", "know", "whether", "or", "not", "it", "is", "possible", "to", "obtain", "solutions", "to", "these", "tasks", "that", "do", "not", "suffer", "from", "this", "obstacle", ".", "-LRB-", "We", "note", "that", "the", "inefficiency", "of", "nonblack-box", "constructions", "here", "is", "quite", "ironic", "because", "in", "many", "areas", "of", "cryptography", ",", "black-box", "constructions", "have", "been", "shown", "to", "have", "inherent", "computational", "limitations", "-LSB-", "21", ",", "10", "-RSB-", ".", "-RRB-", "Despite", "the", "above", ",", "we", "stress", "that", "the", "focus", "of", "this", "paper", "is", "not", "on", "efficiency", ",", "but", "rather", "on", "the", "theoretical", "question", "of", "whether", "or", "not", "it", "is", "possible", "to", "obtain", "the", "aforementioned", "black-box", "constructions", ".", "We", "believe", "this", "question", "to", "be", "interesting", "in", "its", "own", "right", ".", "Our", "results", ".", "We", "show", "how", "to", "construct", "general", "secure", "multiparty", "computation", "-LRB-", "for", "the", "case", "of", "no", "honest", "majority", "and", "malicious", "adversaries", "-RRB-", ",", "given", "black-box", "access", "to", "either", "homomorphic", "encryption", "schemes", "or", "enhanced", "trapdoor", "permutations", "-LRB-", "see", "-LSB-", "13", ",", "Appendix", "C.", "1", "-RSB-", "for", "the", "definition", "of", "enhanced", "trapdoor", "permutations", "-RRB-", ".", "We", "note", "that", "all", "known", "general", "constructions", "for", "this", "task", "from", "``", "low-level", "''", "primitives", "rely", "on", "either", "enhanced", "trapdoor", "permutations", "or", "homomorphic", "encryption", "schemes", ".", "However", ",", "they", "all", "use", "them", "in", "an", "inherently", "nonblack-box", "way", ".", "This", "is", "the", "case", "even", "for", "protocols", "that", "implement", "very", "simple", "functionalities", ",", "such", "as", "oblivious", "transfer", ".", "We", "prove", "the", "following", ":", "Theorem", "1.1", ".", "There", "exist", "protocols", "for", "securely", "computing", "any", "multiparty", "functionality", "without", "an", "honest", "majority", "and", "in", "the", "presence", "of", "static", "malicious", "adversaries", ",", "that", "rely", "only", "on", "black-box", "access", "to", "a", "family", "of", "enhanced", "trapdoor", "permutations", "or", "to", "a", "homomorphic", "encryption", "scheme", ".", "We", "remark", "that", "nonblack-box", "access", "is", "not", "typically", "used", "when", "considering", "semi-honest", "adversaries", "-LSB-", "32", ",", "15", "-RSB-", ".", "Rather", ",", "the", "nonblack-box", "access", "is", "utilized", "in", "known", "protocols", "in", "order", "to", "have", "the", "parties", "prove", "-LRB-", "in", "zero-knowledge", "-RRB-", "that", "they", "are", "correctly", "following", "the", "protocol", "specification", ".", "This", "is", "necessary", "for", "preventing", "a", "malicious", "adversary", "from", "effec-tively", "deviating", "from", "the", "protocol", "instructions", ".", "We", "note", "also", "that", "in", "the", "case", "of", "an", "honest", "majority", ",", "it", "is", "possible", "to", "securely", "compute", "any", "functionality", "information-theoretically", ",", "and", "without", "any", "hardness", "assumption", "-LSB-", "2", ",", "5", "-RSB-", ".", "Thus", ",", "no", "primitive", "at", "all", "is", "needed", ".", "For", "this", "reason", ",", "we", "focus", "on", "the", "case", "of", "no", "honest", "majority", "-LRB-", "including", "the", "important", "two-party", "case", "-RRB-", "and", "malicious", "adversaries", ".", "Techniques", ".", "In", "order", "to", "prove", "Theorem", "1.1", ",", "we", "begin", "by", "constructing", "oblivious", "transfer", "protocols", "that", "use", "only", "black-box", "access", "to", "enhanced", "trapdoor", "permutations", "or", "homomorphic", "encryption", "schemes", ",", "but", "provide", "rather", "weak", "security", "guarantees", ".", "We", "then", "``", "boost", "''", "the", "security", "of", "these", "protocols", "in", "order", "to", "obtain", "protocols", "that", "are", "secure", "in", "the", "presence", "of", "malicious", "adversaries", ".", "Constructions", "until", "today", "that", "have", "followed", "this", "paradigm", "work", "by", "first", "obtaining", "protocols", "that", "are", "secure", "in", "the", "presence", "of", "semi-honest", "adversaries", ",", "and", "then", "boosting", "them", "so", "that", "they", "are", "secure", "in", "the", "presence", "of", "malicious", "adversaries", ".", "However", ",", "it", "is", "not", "known", "how", "to", "carry", "out", "this", "``", "boosting", "''", "in", "a", "black-box", "way", "-LRB-", "and", ",", "indeed", ",", "it", "has", "been", "conjectured", "that", "malicious", "oblivious", "transfer", "can", "not", "be", "constructed", "from", "semi-honest", "oblivious", "transfer", "in", "a", "black-box", "way", "-LSB-", "24", "-RSB-", "-RRB-", ".", "Since", "we", "wish", "to", "make", "our", "construction", "black-box", ",", "we", "take", "a", "different", "route", ".", "100", "Protocol", "number", "Security", "for", "corrupted", "sender", "Security", "for", "corrupted", "receiver", "3.1", ",", "3.3", "Private", "for", "defensible", "sender", "Private", "for", "defensible", "receiver", "4.1", "Private", "for", "defensible", "sender", "Secure", "for", "malicious", "receiver", "5.1", "Secure", "for", "malicious", "sender", "Private", "for", "defensible", "receiver", "In", "Theorem", "6.1", "Secure", "for", "malicious", "sender", "Secure", "for", "malicious", "receiver", "Table", "1", ":", "The", "progression", "of", "our", "constructions", ":", "each", "protocol", "uses", "the", "previous", "one", "as", "a", "subprotocol", ".", "Specifically", ",", "we", "begin", "by", "introducing", "the", "notion", "of", "a", "defensible", "adversary", ".", "In", "order", "to", "describe", "this", "notion", ",", "we", "describe", "what", "a", "defense", "is", ":", "a", "defense", "is", "an", "input", "and", "random-tape", "that", "is", "provided", "by", "the", "adversary", "after", "the", "protocol", "execution", "concludes", ".", "A", "defense", "is", "good", "if", "the", "honest", "party", "upon", "that", "input", "and", "random-tape", "would", "have", "sent", "the", "same", "messages", "as", "the", "adversary", "sent", ".", "Such", "a", "defense", "is", "a", "supposed", "``", "proof", "''", "of", "honest", "behavior", ".", "However", ",", "the", "adversary", "need", "not", "actually", "behave", "honestly", "and", "can", "construct", "its", "defense", "retroactively", "-LRB-", "after", "the", "execution", "concludes", "-RRB-", ".", "A", "protocol", "is", "said", "to", "be", "private", "in", "the", "presence", "of", "defensible", "adversaries", "if", "privacy", "is", "preserved", "in", "the", "event", "that", "an", "adversary", "provides", "a", "good", "defense", ".", "However", ",", "in", "the", "case", "that", "the", "adversary", "does", "n't", "provide", "a", "good", "defense", ",", "nothing", "is", "guaranteed", ",", "and", "the", "entire", "honest", "party", "'s", "input", "may", "be", "learned", ".", "This", "notion", "is", "therefore", "rather", "weak", ".", "We", "note", "that", "the", "oblivious", "transfer", "protocol", "of", "-LSB-", "8", "-RSB-", "is", "not", "secure", "under", "this", "notion", ".", "However", ",", "it", "can", "be", "efficiently", "modified", "into", "one", "that", "is", "secure", "under", "this", "notion", ".", "It", "is", "also", "possible", "to", "efficiently", "construct", "such", "an", "oblivious", "transfer", "protocol", "from", "homomorphic", "encryption", ".", "Importantly", ",", "we", "show", "that", "it", "is", "possible", "to", "construct", "oblivious", "transfer", "that", "is", "secure", "in", "the", "presence", "of", "malicious", "adversaries", "from", "oblivious", "transfer", "that", "is", "private", "in", "the", "presence", "of", "defensible", "adversaries", ".", "Furthermore", ",", "this", "construction", "is", "black-box", ".", "As", "we", "have", "mentioned", ",", "we", "start", "by", "constructing", "oblivious", "transfer", "protocols", "that", "are", "private", "in", "the", "presence", "of", "defensible", "adversaries", ".", "We", "present", "two", "such", "protocols", ":", "one", "that", "uses", "black-box", "access", "to", "a", "family", "of", "enhanced", "trapdoor", "permutations", ",", "and", "one", "that", "uses", "black-box", "access", "to", "a", "homomorphic", "public-key", "encryption", "scheme", ".", "Next", ",", "we", "construct", "from", "the", "above", "oblivious", "transfer", "protocol", "a", "new", "oblivious", "transfer", "protocol", "that", "is", "still", "private", "in", "the", "presence", "of", "defensible", "senders", ",", "but", "is", "secure", "in", "the", "presence", "of", "malicious", "receivers", "-LRB-", "where", "security", "is", "``", "full", "security", "''", "according", "to", "the", "ideal/real", "simulation", "paradigm", "-RRB-", ".", "This", "is", "achieved", "using", "the", "so-called", "cut-and-choose", "technique", ".", "That", "is", ",", "many", "oblivious", "transfer", "executions", "-LRB-", "using", "random", "inputs", "-RRB-", "are", "run", ",", "and", "the", "receiver", "is", "asked", "to", "present", "a", "defense", "for", "its", "behavior", "in", "half", "of", "them", ".", "If", "it", "indeed", "presents", "a", "good", "defense", ",", "then", "we", "are", "guaranteed", "that", "it", "behaved", "somewhat", "honestly", "in", "most", "of", "the", "executions", ".", "We", "stress", "that", "this", "step", "is", "novel", ",", "because", "the", "requirements", "on", "a", "protocol", "that", "is", "secure", "according", "to", "the", "ideal/real", "simulation", "paradigm", "are", "much", "stricter", "than", "when", "only", "privacy", "is", "guaranteed", ".", "Indeed", ",", "some", "efficient", "protocols", "for", "oblivious", "transfer", "from", "the", "literature", "-LSB-", "27", ",", "1", ",", "17", "-RSB-", "are", "private", "for", "both", "-LRB-", "malicious", "-RRB-", "parties", ",", "but", "are", "not", "fully", "secure", "for", "either", "party", ".", "Nevertheless", ",", "we", "are", "able", "to", "boost", "both", "the", "resilience", "of", "the", "protocol", "-LRB-", "from", "a", "defensible", "to", "a", "malicious", "adversary", "-RRB-", "and", "its", "security", "guarantee", "-LRB-", "from", "privacy", "to", "full", "simulation-based", "security", "-RRB-", ".", "Next", ",", "we", "``", "reverse", "''", "the", "oblivious", "transfer", "protocol", "-LRB-", "i.e.", ",", "by", "switching", "the", "sender", "and", "receiver", "roles", "-RRB-", "in", "order", "to", "obtain", "a", "protocol", "with", "reversed", "security", "properties", ".", "Specifically", ",", "this", "next", "protocol", "is", "secure", "in", "the", "presence", "of", "malicious", "senders", "and", "private", "in", "the", "presence", "of", "defensible", "receivers", ".", "At", "this", "point", ",", "we", "reapply", "our", "security", "boosting", "technique", "in", "order", "to", "obtain", "a", "protocol", "that", "is", "``", "fully", "secure", "''", ";", "that", "is", ",", "a", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "malicious", "senders", "and", "receivers", ".", "See", "Table", "1", "for", "the", "series", "of", "oblivious", "transfer", "protocols", "that", "we", "construct", ".", "Needless", "to", "say", ",", "each", "protocol", "uses", "its", "subprotocol", "in", "a", "black-box", "way", ".", "Finally", ",", "having", "constructed", "secure", "oblivious", "transfer", "protocols", "using", "only", "black-box", "access", "to", "primitives", ",", "it", "suffices", "to", "apply", "the", "well-known", "result", "of", "Kilian", "-LSB-", "18", ",", "19", "-RSB-", "that", "shows", "that", "any", "functionality", "can", "be", "securely", "computed", "using", "black-box", "access", "to", "a", "secure", "oblivious", "transfer", "protocol", ".", "This", "therefore", "yields", "Theorem", "1.1", ",", "as", "desired", ".", "Related", "work", ".", "Recently", ",", "in", "-LSB-", "6", "-RSB-", ",", "it", "was", "shown", "that", "it", "is", "possible", "to", "construct", "constant-round", "protocols", "for", "the", "setting", "of", "an", "honest", "majority", ",", "that", "use", "only", "black-box", "access", "to", "the", "assumed", "primitive", ".", "As", "we", "have", "mentioned", ",", "in", "the", "setting", "of", "an", "honest", "majority", ",", "it", "is", "possible", "to", "construct", "information-theoretically", "secure", "protocols", "-LRB-", "which", "are", ",", "by", "triviality", ",", "black-box", "-RRB-", ".", "Nevertheless", ",", "there", "are", "no", "known", "-LRB-", "general", "-RRB-", "constant-round", "protocols", "for", "the", "information-theoretic", "setting", ",", "and", "so", "-LSB-", "6", "-RSB-", "relates", "to", "this", "issue", ".", "We", "remark", "that", "the", "techniques", "used", "in", "-LSB-", "6", "-RSB-", "and", "here", "are", "vastly", "different", ",", "due", "to", "the", "inherent", "differences", "between", "the", "setting", "of", "an", "honest", "majority", "and", "that", "of", "no", "honest", "majority", ".", "Organization", ".", "Due", "to", "lack", "of", "space", "in", "this", "abstract", ",", "we", "present", "only", "brief", "sketches", "of", "the", "definitions", "and", "proofs", ".", "Complete", "details", "appear", "in", "the", "full", "version", "of", "the", "paper", ".", "We", "often", "write", "OT", "as", "shorthand", "for", "oblivious", "transfer", ".", "We", "denote", "by", "P", "1", "-LRB-", "1", "n", ",", "x", "1", ",", "1", "-RRB-", ",", "P", "2", "-LRB-", "1", "n", ",", "x", "2", ",", "2", "-RRB-", "the", "transcript", "of", "an", "execution", "between", "parties", "P", "1", "and", "P", "2", "with", "a", "security", "parameter", "n", ",", "where", "P", "i", "has", "input", "x", "i", "and", "random-tape", "i", ".", "For", "brevity", ",", "we", "will", "sometimes", "omit", "the", "security", "parameter", "1", "n", ".", "The", "message", "sent", "by", "party", "P", "i", "-LRB-", "on", "the", "above", "inputs", "-RRB-", "after", "having", "received", "the", "series", "of", "incoming", "messages", "is", "denoted", "by", "P", "i", "-LRB-", "x", "i", ",", "i", ";", "-RRB-", ".", "Stated", "otherwise", ",", "P", "i", "-LRB-", "x", "i", ",", "i", ";", "-RRB-", "denotes", "the", "next", "message", "function", "of", "P", "i", ".", "Let", "t", "=", "P", "1", "-LRB-", "x", "1", ",", "1", "-RRB-", ",", "P", "2", "-LRB-", "x", "2", ",", "2", "-RRB-", ".", "Then", ",", "denote", "the", "th", "message", "sent", "by", "P", "i", "in", "t", "by", "sent", "P", "i", "-LRB-", "t", "-RRB-", "and", "the", "first", "messages", "received", "by", "P", "i", "in", "t", "by", "received", "P", "i", "1", ",", "...", ",", "-LRB-", "t", "-RRB-", ".", "We", "also", "denote", "the", "output", "of", "P", "i", "in", "an", "execution", "by", "output", "P", "i", "P", "1", "-LRB-", "x", "1", ",", "1", "-RRB-", ",", "P", "2", "-LRB-", "x", "2", ",", "2", "-RRB-", ".", "In", "our", "presentation", ",", "we", "assume", "familiarity", "with", "the", "standard", "definitions", "of", "secure", "computation", ";", "see", "-LSB-", "13", ",", "Chapter", "7", "-RSB-", "for", "a", "full", "treatment", ".", "In", "this", "work", ",", "we", "consider", "malicious", "adversaries", "-LRB-", "i.e.", ",", "adversaries", "that", "may", "arbitrarily", "deviate", "from", "the", "protocol", "specification", "-RRB-", ",", "and", "static", "corruptions", "-LRB-", "meaning", "that", "the", "set", "of", "corrupted", "parties", "is", "fixed", "before", "the", "protocol", "execution", "begins", "-RRB-", ".", "We", "use", "a", "non-uniform", "formulation", "of", "adversaries", "here", "and", "therefore", ",", "without", "loss", "of", "generality", ",", "assume", "that", "they", "are", "101", "deterministic", ".", "However", ",", "this", "is", "not", "essential", "and", "all", "of", "our", "proofs", "hold", "for", "the", "uniform", "model", "of", "computation", ".", "Black-box", "access", "to", "primitives", ".", "In", "this", "paper", ",", "we", "consider", "constructions", "of", "protocols", "that", "use", "only", "black-box", "access", "to", "an", "underlying", "primitive", ".", "This", "can", "be", "easily", "formalized", "by", "defining", "oracles", "that", "provide", "the", "functionality", "of", "the", "primitive", ".", "For", "example", ",", "a", "trapdoor", "permutation", "can", "be", "defined", "by", "an", "oracle", "that", "samples", "a", "function", "description", "along", "with", "a", "trapdoor", ",", "an", "oracle", "that", "is", "given", "the", "function", "description", "and", "samples", "a", "random", "value", "from", "the", "domain", ",", "an", "oracle", "that", "is", "given", "the", "function", "description", "and", "a", "point", "in", "the", "domain", "and", "computes", "the", "permutation", ",", "and", "an", "oracle", "that", "is", "given", "the", "trapdoor", "and", "a", "point", "in", "the", "domain", "and", "computes", "the", "permutation", "inverse", ".", "It", "is", "easy", "to", "see", "that", "our", "protocols", "rely", "on", "the", "underlying", "primitive", "in", "a", "black-box", "way", ".", "We", "will", "therefore", "not", "burden", "the", "presentation", "by", "formally", "defining", "these", "oracles", ".", "We", "remark", "that", "we", "also", "construct", "protocols", "that", "use", "subprotocols", "in", "a", "black-box", "way", ".", "This", "can", "be", "formalized", "by", "just", "looking", "at", "the", "input/output", "behavior", "of", "the", "protocol", ".", "We", "will", "not", "formalize", "this", ".", "It", "suffices", "for", "our", "result", "to", "note", "that", "if", "the", "subprotocol", "uses", "the", "underlying", "primitive", "in", "a", "black-box", "way", ",", "then", "the", "protocol", "-LRB-", "that", "uses", "the", "subprotocol", "-RRB-", "also", "uses", "the", "underlying", "primitive", "in", "a", "black-box", "way", ".", "Again", ",", "this", "is", "easy", "to", "verify", "for", "all", "of", "our", "protocols", ".", "In", "addition", "to", "using", "the", "underlying", "primitive", "in", "a", "black-box", "way", ",", "our", "proofs", "of", "security", "are", "also", "black-box", ".", "Therefore", ",", "our", "reductions", "are", "what", "are", "typically", "called", "``", "fully", "black-box", "''", "-LSB-", "29", "-RSB-", ".", "2.2", "Defensible", "Adversarial", "Behavior", "We", "introduce", "the", "notion", "of", "defensible", "adversarial", "behavior", ".", "Loosely", "speaking", ",", "an", "adversary", "that", "exhibits", "defensible", "behavior", "may", "arbitrarily", "deviate", "from", "the", "protocol", "specification", ".", "However", ",", "at", "the", "conclusion", "of", "the", "protocol", "execution", ",", "the", "adversary", "must", "be", "able", "to", "justify", "or", "defend", "its", "behavior", "by", "presenting", "an", "input", "and", "a", "random-tape", "such", "that", "the", "honest", "party", "-LRB-", "with", "this", "input", "and", "random-tape", "-RRB-", "would", "behave", "in", "the", "same", "way", "as", "the", "adversary", "did", ".", "A", "protocol", "is", "``", "private", "''", "under", "defensible", "adversarial", "behavior", "if", "it", "is", "``", "private", "''", "in", "the", "presence", "of", "such", "adversaries", ".", "We", "stress", "that", "if", "an", "adversary", "behaves", "maliciously", "and", "can", "not", "provide", "a", "good", "defense", ",", "then", "no", "security", "guarantees", "are", "given", ".", "We", "now", "define", "the", "notion", "of", "a", "good", "defense", ".", "Intuitively", ",", "a", "defense", "is", "an", "``", "explanation", "''", "of", "an", "adversary", "'s", "behavior", "during", "the", "protocol", "execution", ".", "Such", "an", "explanation", "consists", "of", "an", "input", "and", "random-tape", ",", "and", "the", "defense", "is", "``", "good", "''", "if", "an", "honest", "party", ",", "given", "that", "input", "and", "random-tape", ",", "would", "have", "sent", "the", "same", "messages", "as", "the", "adversary", "did", "during", "the", "protocol", "execution", ".", "The", "formal", "definition", "follows", ".", "Definition", "2.1", ".", "-LRB-", "good", "defense", "for", "t", "-RRB-", ":", "Let", "t", "be", "the", "transcript", "of", "an", "execution", "of", "a", "protocol", "=", "-LRB-", "P", "1", ",", "P", "2", "-RRB-", "between", "an", "adversary", "A", "-LRB-", "say", ",", "controlling", "P", "1", "-RRB-", "and", "the", "honest", "party", "-LRB-", "say", "P", "2", "-RRB-", ".", "Then", ",", "we", "say", "that", "the", "pair", "-LRB-", "x", "1", ",", "1", "-RRB-", "constitutes", "a", "good", "defense", "by", "A", "for", "t", "in", ",", "denoted", "-LRB-", "x", "1", ",", "1", "-RRB-", "=", "defense", "A", "-LRB-", "t", "-RRB-", ",", "if", "for", "every", "it", "holds", "that", "sent", "A", "-LRB-", "t", "-RRB-", "=", "P", "1", "-LRB-", "x", "1", ",", "1", ";", "received", "A", "1", ",", "...", ",", "-1", "-LRB-", "t", "-RRB-", "-RRB-", ".", "In", "other", "words", ",", "every", "message", "sent", "by", "A", "in", "the", "execution", "is", "such", "that", "the", "honest", "party", "P", "1", "with", "input", "-LRB-", "x", "1", ",", "1", "-RRB-", "would", "have", "sent", "the", "same", "message", ".", "2.3", "Security", "of", "OT", "Protocols", "The", "starting", "point", "of", "our", "constructions", "is", "an", "oblivious", "transfer", "protocol", "-LSB-", "28", ",", "8", "-RSB-", "that", "is", "private", "in", "the", "presence", "of", "a", "defensible", "receiver", "or", "sender", ".", "Recall", "that", "an", "oblivious", "transfer", "protocol", "involves", "a", "sender", "S", "with", "two", "input", "strings", "s", "0", "and", "s", "1", ",", "and", "a", "receiver", "R", "with", "an", "input", "bit", "r", "-LCB-", "0", ",", "1", "-RCB-", ".", "Very", "informally", ",", "an", "oblivious", "transfer", "protocol", "has", "the", "property", "that", "the", "sender", "learns", "nothing", "about", "the", "receiver", "'s", "bit", "r", "and", "the", "receiver", "obtains", "s", "r", ",", "but", "learns", "nothing", "about", "s", "1-r", ".", "-LRB-", "The", "variant", "of", "oblivious-transfer", "that", "we", "use", "here", "is", "usually", "referred", "to", "as", "``", "1-out-of-2", "OT", "''", ".", "-RRB-", "We", "begin", "by", "presenting", "the", "formal", "definition", "of", "oblivious", "transfer", "that", "is", "private", "in", "the", "presence", "of", "a", "defensible", "receiver", "and", "then", "proceed", "to", "define", "privacy", "in", "the", "presence", "of", "a", "defensible", "sender", ".", "Non-trivial", "protocols", ".", "One", "technicality", "that", "must", "be", "dealt", "with", "is", "that", "a", "protocol", "that", "does", "nothing", "is", "trivially", "``", "private", "''", "in", "that", "it", "does", "not", "reveal", "anything", "about", "the", "par-ties", "'", "inputs", ".", "Of", "course", ",", "such", "a", "protocol", "is", "also", "useless", ".", "In", "order", "to", "make", "sure", "that", "the", "oblivious", "transfer", "protocols", "that", "we", "construct", "are", "``", "useful", "''", ",", "we", "define", "the", "notion", "of", "a", "non-trivial", "oblivious", "transfer", "protocol", ".", "Such", "a", "protocol", "has", "the", "property", "that", "if", "both", "the", "sender", "and", "receiver", "are", "honest", ",", "then", "the", "receiver", "will", "receive", "its", "output", "as", "designated", "by", "the", "oblivious", "transfer", "functionality", "f", "-LRB-", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", ",", "r", "-RRB-", "=", "-LRB-", ",", "s", "r", "-RRB-", "-LRB-", "where", "denotes", "the", "empty", "output", "-RRB-", ".", "Privacy", "for", "random", "inputs", "in", "the", "presence", "of", "a", "defensible", "receiver", ".", "We", "now", "define", "privacy", "for", "defensible", "receivers", ".", "Recall", "that", "the", "receiver", "in", "an", "oblivious", "transfer", "protocol", "is", "supposed", "to", "obtain", "one", "of", "the", "pair", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", "in", "the", "execution", ".", "However", ",", "the", "other", "value", "must", "remain", "secret", ".", "When", "considering", "defensible", "adversaries", ",", "the", "requirement", "is", "that", ",", "as", "long", "as", "the", "adversary", "can", "provide", "a", "good", "defense", ",", "it", "can", "only", "learn", "one", "of", "the", "values", ".", "Recall", "that", ",", "by", "Definition", "2.1", ",", "a", "party", "'s", "defense", "includes", "its", "input", "-LRB-", "in", "this", "case", ",", "the", "bit", "r", "of", "the", "receiver", ",", "meaning", "that", "it", "wishes", "to", "obtain", "the", "value", "s", "r", "-RRB-", ".", "We", "therefore", "require", "that", "a", "defensible", "receiver", "can", "learn", "nothing", "about", "s", "1-r", "when", "its", "defense", "contains", "the", "input", "value", "r.", "Due", "to", "technical", "reasons", "in", "our", "proofs", "later", "on", ",", "we", "define", "privacy", "only", "for", "the", "case", "that", "the", "sender", "'s", "inputs", "are", "uniformly", "distributed", "bits", ".", "Fortunately", ",", "this", "will", "suffice", "for", "our", "constructions", ".", "We", "define", "an", "experiment", "for", "a", "protocol", "and", "an", "adversary", "A", "modelled", "by", "a", "polynomial-size", "family", "of", "circuits", "-LCB-", "A", "n", "-RCB-", "nN", ".", "Informally", ",", "the", "experiment", "begins", "by", "choosing", "a", "random", "pair", "of", "bits", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", "to", "be", "used", "for", "the", "sender", "'s", "input", ".", "The", "adversary", "'s", "aim", "is", "to", "guess", "the", "value", "of", "the", "input", "that", "it", "does", "n't", "receive", "as", "output", ".", "Experiment", "Expt", "rec", "-LRB-", "A", "n", "-RRB-", ":", "1", ".", "Choose", "s", "0", ",", "s", "1", "R", "-LCB-", "0", ",", "1", "-RCB-", "uniformly", "at", "random", ".", "2", ".", "Let", "S", "be", "a", "uniformly", "distributed", "random", "tape", "for", "S", "and", "let", "t", "=", "S", "-LRB-", "1", "n", ",", "s", "0", ",", "s", "1", ",", "S", "-RRB-", ",", "A", "n", ".", "3", ".", "Let", "-LRB-", "-LRB-", "r", ",", "r", "-RRB-", ",", "-LRB-", "-RRB-", "-RRB-", "be", "the", "output", "of", "A", "n", "-LRB-", "t", "-RRB-", ".", "-LRB-", "The", "pair", "-LRB-", "r", ",", "r", "-RRB-", "constitute", "A", "n", "'s", "defense", "and", "is", "its", "guess", "for", "s", "1-r", ".", "-RRB-", "4", ".", "Output", "1", "if", "and", "only", "if", "-LRB-", "r", ",", "r", "-RRB-", "is", "a", "good", "defense", "by", "A", "n", "for", "t", "in", ",", "and", "=", "s", "1-r", ".", "Notice", "that", "by", "A", "'s", "defense", ",", "it", "should", "have", "received", "s", "r", ".", "The", "challenge", "of", "the", "adversary", "is", "therefore", "to", "guess", "the", "value", "of", "s", "1-r", ";", "if", "it", "can", "not", "do", "this", ",", "then", "the", "sender", "'s", "privacy", "is", "preserved", ".", "102", "Definition", "2.2", ".", "-LRB-", "privacy", "for", "random", "inputs", "in", "the", "presence", "of", "a", "defensible", "receiver", "-RRB-", ":", "Let", "=", "-LRB-", "S", ",", "R", "-RRB-", "be", "a", "non-trivial", "oblivious", "transfer", "protocol", ".", "We", "say", "that", "is", "private", "for", "random", "inputs", "in", "the", "presence", "of", "a", "defensible", "receiver", "if", "for", "every", "polynomial-size", "family", "of", "circuits", "A", "=", "-LCB-", "A", "n", "-RCB-", "nN", "controlling", "R", ",", "for", "every", "polynomial", "p", "-LRB-", "-RRB-", "and", "for", "all", "sufficiently", "large", "n", "'s", "Pr", "-LSB-", "Expt", "rec", "-LRB-", "A", "n", "-RRB-", "=", "1", "-RSB-", "<", "12", "+", "1", "p", "-LRB-", "n", "-RRB-", ".", "Remark", ".", "The", "definition", "of", "Expt", "rec", "only", "considers", "the", "case", "that", "the", "inputs", "of", "the", "sender", "are", "uniformly", "distributed", ".", "We", "stress", "that", "this", "is", "a", "very", "weak", "definition", ".", "However", ",", "the", "reasons", "that", "we", "make", "this", "restriction", "are", "because", "-LRB-", "a", "-RRB-", "it", "suffices", "for", "our", "construction", "of", "``", "fully", "secure", "''", "oblivious", "transfer", "-LRB-", "see", "Protocol", "4", ".1", "-RRB-", ",", "and", "more", "importantly", ",", "-LRB-", "b", "-RRB-", "without", "this", "restriction", "we", "were", "unable", "to", "prove", "the", "privacy", "of", "Protocol", "3", ".3", "for", "defensible", "receivers", "-LRB-", "see", "Section", "3.2", "-RRB-", ".", "We", "stress", "that", "this", "restriction", "is", "not", "made", "when", "considering", "security", "in", "the", "presence", "of", "malicious", "parties", ".", "Privacy", "in", "the", "presence", "of", "a", "defensible", "sender", ".", "In", "an", "oblivious", "transfer", "protocol", ",", "the", "sender", "is", "not", "supposed", "to", "learn", "anything", "about", "the", "receiver", "'s", "input", ".", "When", "considering", "a", "defensible", "sender", ",", "this", "means", "that", "the", "sender", "should", "not", "be", "able", "to", "simultaneously", "present", "a", "good", "defense", "of", "its", "behavior", "and", "make", "a", "correct", "guess", "as", "to", "the", "value", "of", "the", "receiver", "'s", "input", ".", "We", "stress", "that", "this", "privacy", "requirement", "only", "needs", "to", "hold", "when", "the", "sender", "outputs", "a", "good", "defense", ";", "in", "all", "other", "cases", ",", "there", "may", "be", "no", "privacy", "whatsoever", ".", "The", "exact", "definition", "is", "formulated", "in", "a", "similar", "way", "as", "above", ".", "Security", ".", "The", "definitions", "above", "refer", "only", "to", "``", "privacy", "''", ",", "meaning", "that", "the", "adversary", "can", "learn", "nothing", "more", "about", "the", "honest", "party", "'s", "input", "than", "what", "is", "revealed", "by", "the", "output", ".", "However", ",", "these", "definitions", "say", "nothing", "about", "the", "simulata-bility", "of", "the", "protocols", "in", "question", ".", "In", "particular", ",", "a", "protocol", "that", "is", "private", "by", "one", "of", "the", "above", "definitions", "may", "not", "be", "secure", "according", "to", "the", "real/ideal", "simulation", "paradigm", "-LRB-", "see", "-LSB-", "13", ",", "Chapter", "7", "-RSB-", "for", "these", "definitions", "-RRB-", ".", "When", "we", "mention", "security", "in", "this", "paper", ",", "we", "refer", "to", "security", "according", "to", "the", "ideal/real", "model", "paradigm", ".", "In", "this", "section", "we", "show", "how", "to", "construct", "oblivious", "transfer", "protocols", "that", "are", "private", "for", "defensible", "senders", "and", "receivers", ".", "We", "present", "two", "protocols", ":", "one", "based", "on", "homomorphic", "encryption", "and", "one", "based", "on", "enhanced", "trapdoor", "permutations", ".", "Importantly", ",", "both", "protocols", "access", "the", "underlying", "primitive", "in", "a", "black-box", "way", "only", ".", "3.1", "Bit", "OT", "from", "Homomorphic", "Encryption", "We", "assume", "the", "existence", "of", "a", "public-key", "encryption", "scheme", "-LRB-", "G", ",", "E", ",", "D", "-RRB-", "that", "is", "indistinguishable", "under", "chosen-plaintext", "attacks", "and", "has", "the", "following", "homomorphic", "property", ":", "1", ".", "The", "plaintext", "is", "taken", "from", "a", "finite", "Abelian", "group", "determined", "by", "the", "public", "key", ".", "For", "notational", "convenience", ",", "we", "assume", "here", "that", "the", "group", "is", "an", "``", "additive", "''", "group", "Z", "q", ";", "however", ",", "the", "same", "construction", "works", "for", "``", "multiplicative", "''", "groups", "as", "well", ".", "2", ".", "Given", "any", "public-key", "pk", "generated", "by", "the", "key", "generation", "algorithm", "G", "and", "any", "two", "ciphertexts", "c", "1", "=", "E", "pk", "-LRB-", "m", "1", "-RRB-", "and", "c", "2", "=", "E", "pk", "-LRB-", "m", "2", "-RRB-", ",", "it", "is", "possible", "to", "efficiently", "compute", "a", "random", "encryption", "of", "the", "sum", "E", "pk", "-LRB-", "m", "1", "+", "m", "2", "-RRB-", ".", "Consequently", ",", "it", "is", "also", "possible", "to", "efficiently", "compute", "E", "pk", "-LRB-", "m", "1", "-RRB-", "for", "any", "known", "integer", ".", "We", "also", "assume", "that", "-LRB-", "G", ",", "E", ",", "D", "-RRB-", "has", "no", "decryption", "errors", ".", "Such", "encryption", "schemes", "can", "be", "constructed", "under", "the", "quadratic", "-", "residuosity", ",", "decisional", "Diffie-Hellman", "and", "other", "assumptions", ";", "see", "-LSB-", "1", ",", "17", "-RSB-", "for", "some", "references", ".", "The", "following", "protocol", "is", "implicit", "in", "-LSB-", "22", "-RSB-", ".", "Protocol", "3.1", ".", "Inputs", ":", "The", "sender", "S", "has", "a", "pair", "of", "bits", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", ";", "the", "receiver", "R", "has", "a", "bit", "r.", "The", "protocol", ":", "1", ".", "The", "receiver", "R", "chooses", "a", "pair", "of", "keys", "-LRB-", "pk", ",", "sk", "-RRB-", "G", "-LRB-", "1", "n", "-RRB-", ",", "computes", "c", "=", "E", "pk", "-LRB-", "r", "-RRB-", "and", "sends", "c", "and", "p", "k", "to", "S.", "2", ".", "The", "sender", "S", "uses", "the", "homomorphic", "property", "and", "its", "knowledge", "of", "s", "0", "and", "s", "1", "to", "compute", "a", "random", "encryption", "c", "=", "E", "pk", "-LRB-", "-LRB-", "1", "-", "r", "-RRB-", "s", "0", "+", "rs", "1", "-RRB-", ".", "3", ".", "R", "computes", "and", "outputs", "s", "r", "=", "D", "sk", "-LRB-", "c", "-RRB-", ".", "Before", "proving", "security", ",", "note", "that", "if", "S", "and", "R", "are", "both", "honest", ",", "then", "R", "receives", "the", "correct", "output", ".", "For", "example", ",", "if", "r", "=", "0", ",", "then", "c", "=", "E", "pk", "-LRB-", "1", "s", "0", "+", "0", "s", "1", "-RRB-", "=", "E", "pk", "-LRB-", "s", "0", "-RRB-", "and", "so", "R", "receives", "the", "correct", "value", "after", "decryption", ".", "Claim", "3.2", ".", "Assume", "that", "the", "encryption", "scheme", "-LRB-", "G", ",", "E", ",", "D", "-RRB-", "is", "indistinguishable", "under", "chosen-plaintext", "attacks", "and", "has", "no", "decryption", "errors", ".", "Then", ",", "Protocol", "3", ".1", "is", "a", "non-trivial", "oblivious", "transfer", "protocol", "that", "is", "private", "in", "the", "presence", "of", "defensible", "senders", "and", "private", "for", "random", "inputs", "in", "the", "presence", "of", "defensible", "receivers", ".", "Privacy", "in", "the", "presence", "of", "a", "defensible", "-LRB-", "or", "even", "malicious", "-RRB-", "sender", "follows", "from", "the", "fact", "that", "the", "sender", "'s", "view", "consists", "only", "of", "a", "single", "encryption", "under", "E", ",", "and", "this", "encryption", "is", "secure", ".", "Privacy", "with", "respect", "to", "a", "defensible", "receiver", "follows", "since", "the", "existence", "of", "a", "proper", "defense", "implies", "that", "c", "is", "indeed", "an", "encryption", "of", "0", "or", "1", ".", "This", ",", "in", "turn", ",", "guarantees", "that", "c", "is", "a", "random", "encryption", "of", "s", "r", ".", "Hence", ",", "again", ",", "privacy", "follows", "from", "the", "security", "of", "E.", "3.2", "Bit", "OT", "from", "Enhanced", "Trapdoor", "Permutations", "The", "following", "protocol", "is", "a", "modified", "version", "of", "-LSB-", "8", "-RSB-", "that", "is", "private", "in", "the", "presence", "of", "defensible", "adversaries", ".", "We", "stress", "that", "the", "original", "protocol", "of", "-LSB-", "8", "-RSB-", "is", "completely", "insecure", "in", "the", "presence", "of", "defensible", "adversaries", ".", "The", "construction", "uses", "any", "family", "of", "enhanced", "trapdoor", "permutations", ".", "Informally", "speaking", ",", "a", "family", "of", "trapdoor", "permutations", "is", "comprised", "of", "a", "function-sampling", "algorithm", "I", ",", "a", "domain-sampling", "algorithm", "D", "f", ",", "an", "algorithm", "F", "for", "computing", "the", "permutation", "and", "an", "algorithm", "F", "-1", "for", "inverting", "the", "permutation", "-LRB-", "given", "the", "trapdoor", "-RRB-", ".", "Such", "a", "family", "is", "called", "enhanced", "if", "it", "is", "hard", "to", "invert", "a", "random", "value", "y", "even", "when", "given", "the", "coins", "used", "by", "the", "domain-sampling", "algorithm", "to", "sample", "y.", "See", "-LSB-", "13", ",", "Appendix", "C.", "1", "and", "Section", "7.3", "-RSB-", "for", "a", "full", "definition", ".", "In", "the", "sequel", ",", "we", "will", "abuse", "notation", "and", "refer", "to", "the", "random", "coins", "used", "by", "D", "f", "as", "its", "input", ".", "We", "note", "that", "the", "enhanced", "property", "103", "is", "used", "in", "all", "constructions", "of", "oblivious", "transfer", "from", "trapdoor", "permutations", ".", "Indeed", "it", "has", "been", "shown", "that", "black-box", "constructions", "of", "oblivious", "transfer", "from", "plain", "trapdoor", "permutations", "is", "impossible", "-LSB-", "9", "-RSB-", ".", "We", "will", "require", "that", "I", "is", "errorless", ",", "meaning", "that", "for", "every", "series", "of", "random", "coins", "provided", "to", "I", ",", "the", "description", "of", "the", "function", "output", "is", "indeed", "a", "permutation", ".", "We", "call", "this", "errorless", "function", "sampling", ",", "or", "just", "errorless", "sampling", ".", "The", "protocol", "uses", "a", "perfectly", "binding", "commitment", "scheme", "C", ".", "We", "denote", "a", "commitment", "to", "a", "using", "randomness", "by", "C", "-LRB-", "a", ";", "-RRB-", ".", "For", "simplicity", ",", "we", "assume", "that", "in", "order", "to", "commit", "to", "a", "string", "a", "of", "length", "n", ",", "it", "suffices", "to", "use", "a", "random", "string", "that", "is", "also", "of", "length", "n", ".", "Such", "a", "commitment", "scheme", "can", "be", "obtained", "using", "black-box", "access", "to", "any", "trapdoor", "permutation", "or", "homomorphic", "encryption", "scheme", ".", "Protocol", "3.3", ".", "Inputs", ":", "The", "sender", "S", "has", "a", "pair", "of", "random", "bits", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", ";", "the", "receiver", "R", "has", "a", "bit", "r.", "Auxiliary", "information", ":", "The", "description", "of", "a", "family", "of", "-LRB-", "enhanced", "-RRB-", "trapdoor", "permutations", "-LRB-", "I", ",", "D", "f", ",", "F", ",", "F", "-1", "-RRB-", "and", "a", "hard-core", "bit", "B", "for", "the", "family", ".", "The", "protocol", ":", "1", ".", "The", "receiver", "R", "chooses", "1", ",", "R", "-LCB-", "0", ",", "1", "-RCB-", "n", "and", "sends", "c", "=", "C", "-LRB-", "1", ";", "-RRB-", "to", "the", "sender", "S.", "2", ".", "S", "chooses", "a", "trapdoor", "permutation", "pair", "-LRB-", "i", ",", "t", "-RRB-", "I", "-LRB-", "1", "n", "-RRB-", "and", "a", "random", "2", "R", "-LCB-", "0", ",", "1", "-RCB-", "n", ",", "and", "sends", "i", "and", "2", "to", "R.", "3", ".", "R", "computes", "y", "1-r", "=", "D", "f", "-LRB-", "1", "2", "-RRB-", ";", "i.e.", ",", "y", "1-r", "is", "obtained", "by", "running", "the", "domain", "sampling", "algorithm", "with", "coins", "1", "2", ".", "In", "addition", ",", "R", "chooses", "R", "-LCB-", "0", ",", "1", "-RCB-", "n", ",", "obtains", "x", "r", "=", "D", "f", "-LRB-", "-RRB-", "and", "computes", "y", "r", "=", "f", "i", "-LRB-", "x", "r", "-RRB-", ".", "Finally", ",", "R", "sends", "-LRB-", "y", "0", ",", "y", "1", "-RRB-", "to", "S.", "4", ".", "S", "uses", "t", "to", "compute", "0", "=", "B", "-LRB-", "f", "-1", "i", "-LRB-", "y", "0", "-RRB-", "-RRB-", "s", "0", "and", "1", "=", "B", "-LRB-", "f", "-1", "i", "-LRB-", "y", "1", "-RRB-", "-RRB-", "s", "1", ".", "S", "sends", "-LRB-", "0", ",", "1", "-RRB-", "to", "R.", "5", ".", "R", "computes", "and", "outputs", "s", "r", "=", "B", "-LRB-", "x", "r", "-RRB-", "r", ".", "Note", "that", "the", "only", "difference", "between", "Protocol", "3.3", "and", "the", "protocol", "of", "-LSB-", "8", "-RSB-", "is", "that", "in", "-LSB-", "8", "-RSB-", ",", "the", "value", "y", "1-r", "is", "chosen", "singlehandedly", "by", "the", "receiver", ",", "whereas", "here", "the", "value", "is", "chosen", "mutually", "using", "a", "-LRB-", "weak", "non-simulatable", "-RRB-", "coin-tossing", "protocol", ".", "-LRB-", "Indeed", ",", "in", "the", "protocol", "of", "-LSB-", "8", "-RSB-", "a", "cheating", "receiver", "can", "just", "choose", "a", "value", "y", "1-r", "for", "which", "it", "knows", "the", "preimage", ".", "The", "receiver", "will", "then", "learn", "both", "s", "0", "and", "s", "1", ".", "Note", "also", "that", "a", "defensible", "receiver", "can", "also", "easily", "cheat", "in", "the", "protocol", "of", "-LSB-", "8", "-RSB-", "because", "it", "can", "send", "any", "value", "y", "1-r", "and", "not", "the", "value", "that", "equals", "D", "f", "-LRB-", "1", "2", "-RRB-", ".", "In", "particular", ",", "it", "can", "send", "a", "value", "y", "1-r", "for", "which", "it", "knows", "its", "preimage", "x", "1-r", "under", "f", "i", ",", "and", "can", "still", "claim", "in", "its", "defense", "that", "its", "coins", "are", "such", "that", "y", "1-r", "was", "sampled", "directly", ".", "-RRB-", "Claim", "3.4", ".", "Assume", "that", "-LRB-", "I", ",", "D", "f", ",", "F", ",", "F", "-1", "-RRB-", "is", "a", "family", "of", "enhanced", "one-way", "trapdoor", "permutations", "and", "that", "the", "scheme", "C", "is", "perfectly", "binding", "and", "computationally", "hiding", ".", "Then", ",", "Protocol", "3", ".3", "is", "a", "non-trivial", "oblivious", "transfer", "protocol", "that", "is", "private", "in", "the", "presence", "of", "defensible", "receivers", "and", "private", "for", "random", "inputs", "in", "the", "presence", "of", "defensible", "senders", ".", "Intuitively", ",", "a", "corrupted", "sender", "can", "not", "guess", "the", "value", "of", "r", "from", "-LRB-", "y", "0", ",", "y", "1", "-RRB-", "because", "these", "values", "are", "identically", "distributed", ".", "This", "actually", "only", "holds", "as", "long", "as", "the", "function", "f", "i", "chosen", "by", "the", "sender", "is", "really", "a", "permutation", "from", "the", "family", ".", "-LRB-", "Otherwise", ",", "it", "may", "be", "possible", "to", "distinguish", "y", "r", "which", "is", "generated", "by", "computing", "f", "i", "-LRB-", "x", "r", "-RRB-", "from", "y", "1-r", "which", "is", "randomly", "chosen", "from", "the", "domain", ".", "-RRB-", "The", "fact", "that", "the", "function", "is", "really", "a", "permutation", "is", "``", "proven", "''", "in", "the", "defense", ",", "and", "so", "if", "a", "good", "defense", "is", "provided", ",", "y", "r", "and", "y", "1-r", "are", "identically", "distributed", ".", "We", "therefore", "have", "that", "the", "only", "way", "a", "defensible", "sender", "can", "learn", "the", "value", "of", "r", "is", "from", "the", "commitments", ".", "However", ",", "this", "involves", "distinguishing", "between", "c", "=", "C", "-LRB-", "D", "-1", "f", "-LRB-", "y", "0", "-RRB-", "2", "-RRB-", "and", "c", "=", "C", "-LRB-", "D", "-1", "f", "-LRB-", "y", "1", "-RRB-", "2", "-RRB-", "which", "is", "hard", "due", "to", "the", "hiding", "property", "of", "commitments", ".", "-LRB-", "Notice", "that", "y", "1-r", "=", "D", "f", "-LRB-", "1", "2", "-RRB-", "and", "so", "c", "=", "C", "-LRB-", "1", "-RRB-", "=", "C", "-LRB-", "D", "-1", "f", "-LRB-", "y", "1-r", "-RRB-", "2", "-RRB-", ".", "Therefore", ",", "the", "problem", "of", "guessing", "r", "reduces", "to", "the", "problem", "of", "distinguishing", "such", "commitments", ".", "-RRB-", "As", "for", "privacy", "in", "the", "presence", "of", "a", "defensible", "receiver", "R", ":", "intuitively", ",", "if", "R", "behaves", "so", "that", "it", "can", "present", "a", "good", "defense", ",", "then", "it", "is", "unable", "to", "compute", "B", "-LRB-", "f", "-1", "-LRB-", "y", "1-r", "-RRB-", "-RRB-", "because", "it", "has", "no", "freedom", "in", "choosing", "y", "1-r", ".", "That", "is", ",", "R", "must", "choose", "y", "1-r", "=", "1", "2", "and", "so", "it", "can", "not", "know", "the", "preimage", "f", "-1", "-LRB-", "y", "1-r", "-RRB-", ".", "This", "implies", "that", "it", "can", "only", "learn", "the", "sender", "'s", "bit", "s", "r", ".", "In", "this", "section", "we", "construct", "a", "bit", "oblivious", "transfer", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "a", "malicious", "receiver", "and", "private", "in", "the", "presence", "of", "a", "defensible", "sender", ".", "We", "stress", "that", "the", "security", "achieved", "for", "malicious", "receivers", "is", "according", "to", "the", "ideal/real", "model", "definition", "of", "security", "for", "secure", "computation", ".", "Our", "construction", "uses", "black-box", "access", "to", "an", "oblivious", "transfer", "protocol", "that", "is", "private", "for", "defensible", "receivers", "and", "senders", "-LRB-", "like", "those", "constructed", "in", "the", "previous", "section", "-RRB-", ".", "Thus", ",", "in", "this", "section", "we", "show", "how", "to", "boost", "the", "security", "guarantee", "from", "privacy", "in", "the", "presence", "of", "a", "defensible", "receiver", "to", "security", "in", "the", "presence", "of", "a", "malicious", "receiver", ".", "The", "guarantee", "regarding", "a", "corrupted", "sender", "remains", "unchanged", ".", "Protocol", "4.1", ".", "Inputs", ":", "The", "sender", "S", "has", "a", "pair", "of", "bits", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", ";", "the", "receiver", "R", "has", "a", "bit", "r.", "The", "protocol", ":", "1", ".", "The", "receiver", "R", "chooses", "2n", "uniformly", "distributed", "bits", "r", "1", ",", "...", ",", "r", "2n", "R", "-LCB-", "0", ",", "1", "-RCB-", ".", "2", ".", "The", "sender", "S", "chooses", "2n", "pairs", "of", "random", "bits", "s", "0", "i", ",", "s", "1", "i", "R", "-LCB-", "0", ",", "1", "-RCB-", "for", "i", "=", "1", ",", "...", ",", "2n", ".", "3", ".", "S", "and", "R", "run", "2n", "parallel", "executions", "of", "a", "bit", "oblivious", "transfer", "protocol", "that", "is", "private", "in", "the", "presence", "of", "defensible", "receivers", "and", "defensible", "senders", ".", "In", "the", "i", "th", "execution", ",", "S", "inputs", "-LRB-", "s", "0", "i", ",", "s", "1", "i", "-RRB-", "and", "R", "inputs", "r", "i", ".", "Let", "t", "1", ",", "...", ",", "t", "2n", "be", "the", "transcripts", "that", "result", "from", "these", "executions", ".", "4", ".", "S", "and", "R", "run", "a", "secure", "two-party", "coin-tossing", "protocol", "-LRB-", "that", "accesses", "a", "one-way", "function", "in", "a", "black-box", "way", "-RRB-", "for", "generating", "a", "random", "string", "of", "length", "n", ":", "q", "=", "q", "1", ",", "...", ",", "q", "n", ".", "3", "The", "string", "q", "is", "used", "to", "define", "a", "set", "of", "indices", "Q", "-LCB-", "1", ",", "...", ",", "2n", "-RCB-", "of", "size", "n", "in", "the", "following", "way", ":", "Q", "=", "-LCB-", "2i", "-", "q", "i", "-RCB-", "n", "i", "=", "1", ".", "-LRB-", "Thus", ",", "for", "n", "=", "3", "and", "q", "=", "010", "we", "have", "that", "Q", "=", "-LCB-", "2", ",", "3", ",", "6", "-RCB-", ".", "-RRB-", "3", "Sequential", "executions", "of", "the", "coin-tossing", "protocol", "of", "-LSB-", "3", "-RSB-", "can", "be", "used", ".", "The", "security", "of", "this", "has", "been", "proven", "formally", "in", "-LSB-", "13", "-RSB-", ".", "104", "5", ".", "For", "every", "i", "Q", ",", "the", "receiver", "R", "provides", "a", "defense", "-LRB-", "r", "i", ",", "i", "r", "-RRB-", ".", "6", ".", "S", "checks", "that", "for", "every", "i", "Q", ",", "the", "pair", "-LRB-", "r", "i", ",", "i", "r", "-RRB-", "constitutes", "a", "good", "defense", "by", "R", "for", "t", "i", ".", "If", "not", ",", "then", "S", "aborts", "and", "halts", ".", "Otherwise", ",", "it", "continues", "to", "the", "next", "step", ".", "7", ".", "For", "every", "j", "/", "Q", ",", "the", "receiver", "R", "computes", "j", "=", "r", "r", "j", "-LRB-", "where", "r", "is", "R", "'s", "initial", "input", "-RRB-", "and", "sends", "-LCB-", "j", "-RCB-", "j", "/", "Q", "to", "S.", "8", ".", "S", "computes", "0", "=", "s", "0", "j", "/", "Q", "s", "j", "j", "and", "1", "=", "s", "1", "j", "/", "Q", "s", "1-j", "j", ",", "and", "sends", "-LRB-", "0", ",", "1", "-RRB-", "to", "R.", "9", ".", "R", "computes", "and", "outputs", "s", "r", "=", "r", "j", "/", "Q", "s", "r", "j", "j", ".", "We", "note", "that", "the", "sender", "'s", "inputs", "to", "the", "executions", "of", "the", "oblivious", "transfer", "subprotocol", "in", "Protocol", "4.1", "are", "uniformly", "distributed", ".", "Therefore", ",", "it", "suffices", "to", "use", "Protocol", "3.3", ",", "even", "though", "it", "has", "only", "been", "proven", "``", "private", "''", "for", "the", "case", "of", "uniformly", "distributed", "sender", "inputs", ".", "We", "stress", "that", "our", "proof", "below", "of", "Protocol", "4.1", "relies", "on", "the", "fact", "that", "the", "sender", "'s", "inputs", "are", "single", "bits", ".", "4", "Claim", "4.2", ".", "Assume", "that", "is", "a", "non-trivial", "oblivious", "transfer", "protocol", "that", "is", "private", "for", "random", "inputs", "in", "the", "presence", "of", "defensible", "senders", "and", "receivers", ".", "Then", ",", "Protocol", "4", ".1", "is", "a", "non-trivial", "oblivious", "transfer", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "malicious", "receivers", "and", "private", "in", "the", "presence", "of", "defensible", "senders", ".", "Proof", "Sketch", ":", "We", "first", "demonstrate", "the", "non-triviality", "property", ";", "that", "is", ",", "we", "show", "that", "if", "S", "and", "R", "are", "honest", ",", "then", "R", "receives", "s", "r", ",", "as", "required", ".", "To", "see", "this", ",", "first", "note", "that", "by", "the", "non-triviality", "of", ",", "the", "receiver", "R", "obtains", "all", "of", "the", "bits", "s", "r", "j", "j", ",", "and", "in", "particular", "all", "s", "r", "j", "j", "for", "j", "/", "Q.", "Now", ",", "if", "r", "=", "0", ",", "then", "R", "sets", "j", "=", "r", "j", "for", "every", "j", "/", "Q.", "Therefore", ",", "R", "will", "compute", "s", "0", "=", "0", "j", "/", "Q", "s", "r", "j", "j", "=", "0", "j", "/", "Q", "s", "j", "j", ".", "This", "computation", "is", "correct", "because", "S", "computed", "0", "=", "s", "0", "j", "/", "Q", "s", "j", "j", ".", "In", "contrast", ",", "if", "r", "=", "1", ",", "then", "j", "=", "1", "r", "j", "for", "every", "j", ",", "which", "is", "equivalent", "to", "r", "j", "=", "1", "j", ".", "Thus", ",", "once", "again", ",", "R", "'s", "computation", "of", "j", "/", "Q", "s", "r", "j", "j", "when", "computing", "s", "1", "equals", "S", "'s", "computation", "of", "j", "/", "Q", "s", "1-j", "j", "when", "computing", "1", ",", "and", "R", "will", "obtain", "1", ".", "Privacy", "in", "the", "presence", "of", "defensible", "senders", ".", "We", "present", "only", "the", "idea", "behind", "the", "proof", "that", "Protocol", "4.1", "is", "private", "in", "the", "presence", "of", "a", "defensible", "sender", "A.", "Intuitively", ",", "if", "protocol", "is", "private", "in", "the", "presence", "of", "a", "defensible", "sender", ",", "then", "a", "defensible", "adversary", "here", "can", "not", "learn", "any", "of", "the", "r", "i", "values", "in", "the", "execution", "-LRB-", "apart", "from", "those", "explicitly", "revealed", "by", "R", "when", "it", "provides", "its", "defenses", "-RRB-", ".", "Therefore", ",", "the", "j", "=", "r", "j", "r", "values", "that", "it", "receives", "reveal", "nothing", "of", "the", "receiver", "'s", "input", "r", ",", "because", "for", "all", "j", "/", "Q", ",", "the", "value", "r", "j", "is", "not", "learned", ".", "Security", "in", "the", "presence", "of", "malicious", "receivers", ".", "We", "present", "an", "almost", "full", "proof", "that", "Protocol", "4.1", "is", "secure", "in", "the", "presence", "of", "malicious", "receivers", ".", "The", "intuition", "behind", "4", "This", "is", "due", "to", "our", "definition", "of", "``", "oblivious", "transfer", "that", "is", "private", "for", "defensible", "adversaries", "''", ".", "It", "is", "possible", "to", "define", "a", "stronger", "notion", "of", "defensible", "adversaries", "that", "is", "sufficient", "for", "proving", "that", "Protocol", "4.1", "is", "secure", "even", "when", "the", "sender", "'s", "inputs", "are", "strings", "of", "an", "arbitrary", "length", ".", "However", ",", "we", "were", "not", "able", "to", "prove", "that", "Protocol", "3.3", "is", "private", "for", "defensible", "adversaries", "under", "this", "stronger", "notion", "-LRB-", "in", "contrast", "to", "Protocol", "3.1", "that", "can", "be", "proven", "secure", "under", "the", "stronger", "notion", "-RRB-", ".", "this", "proof", "is", "that", "the", "cut-and-choose", "technique", "forces", "an", "adversarial", "receiver", "A", "to", "be", "able", "to", "provide", "a", "good", "defense", "for", "most", "of", "the", "oblivious", "transfer", "executions", "-LRB-", "or", "be", "caught", "with", "high", "probability", "-RRB-", ".", "In", "particular", ",", "there", "must", "be", "at", "least", "one", "j", "/", "Q", "for", "which", "A", "could", "have", "provided", "a", "good", "defense", ".", "This", "implies", "that", "there", "exists", "some", "j", "for", "which", "A", "can", "not", "predict", "the", "value", "of", "s", "1-r", "j", "j", "with", "any", "non-negligible", "advantage", ".", "Since", "s", "1-r", "is", "masked", "by", "s", "1-r", "j", "j", ",", "it", "follows", "that", "A", "also", "learns", "nothing", "about", "s", "1-r", ".", "We", "stress", "that", "the", "above", "intuition", "shows", "that", "a", "malicious", "A", "can", "not", "learn", "anything", "about", "s", "1-r", ".", "However", ",", "we", "actually", "need", "to", "prove", "a", "much", "stronger", "claim", "in", "that", "the", "protocol", "is", "secure", "for", "a", "malicious", "R", ",", "as", "defined", "via", "the", "ideal/real", "model", "simulation", "paradigm", ".", "We", "present", "our", "analysis", "in", "the", "so-called", "``", "hybrid", "model", "''", ",", "where", "the", "honest", "parties", "use", "a", "trusted", "party", "to", "compute", "the", "coin-tossing", "functionality", "for", "them", ".", "We", "now", "describe", "the", "simulator", "Sim", "for", "A", "=", "-LCB-", "A", "n", "-RCB-", ":", "1", ".", "For", "each", "i", "=", "1", ",", "...", ",", "2n", ",", "simulator", "Sim", "chooses", "random", "pairs", "s", "0", "i", ",", "s", "1", "i", "R", "-LCB-", "0", ",", "1", "-RCB-", "and", "plays", "the", "honest", "sender", "in", "with", "these", "inputs", ",", "where", "A", "n", "plays", "the", "receiver", ".", "2", ".", "Sim", "chooses", "a", "random", "string", "q", "R", "-LCB-", "0", ",", "1", "-RCB-", "n", "and", "hands", "it", "to", "A", "n", "as", "if", "it", "is", "the", "output", "of", "the", "coin-tossing", "functionality", ",", "as", "sent", "by", "the", "trusted", "party", ".", "Let", "Q", "be", "the", "index", "set", "derived", "from", "q.", "Upon", "receiving", "back", "pairs", "-LRB-", "r", "i", ",", "i", "r", "-RRB-", "for", "i", "Q", ",", "simulator", "Sim", "checks", "that", "they", "all", "constitute", "good", "defenses", ",", "respectively", ".", "If", "not", ",", "then", "it", "aborts", "-LRB-", "just", "like", "the", "honest", "sender", "-RRB-", ".", "3", ".", "Sim", "rewinds", "A", "n", "to", "the", "beginning", "of", "the", "previous", "step", "and", "chooses", "a", "new", "random", "string", "q", "with", "associated", "index", "set", "Q", ".", "-LRB-", "We", "stress", "that", "q", "is", "independent", "of", "q.", "-RRB-", "Sim", "hands", "q", "to", "A", "n", "and", "sees", "if", "it", "replies", "with", "pairs", "-LRB-", "r", "i", ",", "i", "r", "-RRB-", "that", "are", "good", "defenses", ",", "for", "all", "i", "Q", ".", "Sim", "repeats", "this", "process", "with", "a", "new", "q", "until", "A", "n", "indeed", "replies", "with", "pairs", "-LRB-", "r", "i", ",", "i", "r", "-RRB-", "that", "are", "good", "defenses", ",", "for", "all", "i", "Q", ".", "If", "Q", "=", "Q", ",", "then", "Sim", "outputs", "fail", ".", "Otherwise", "it", "proceeds", "to", "the", "next", "step", ".", "4", ".", "Given", "that", "Q", "=", "Q", "-LRB-", "and", "|", "Q", "|", "=", "|", "Q", "|", "-RRB-", ",", "there", "exists", "at", "least", "one", "index", "j", "such", "that", "j", "/", "Q", "but", "j", "Q.", "For", "such", "a", "j", ",", "Sim", "computes", "r", "=", "r", "j", "j", "and", "sends", "r", "to", "the", "trusted", "party", ".", "-LRB-", "Note", "that", "r", "j", "is", "obtained", "from", "the", "defense", "-LRB-", "r", "j", ",", "j", "r", "-RRB-", "that", "was", "received", "from", "A", "n", "after", "it", "was", "sent", "the", "query", "set", "Q", ".", "In", "contrast", ",", "j", "is", "the", "value", "received", "from", "A", "n", "after", "rewinding", ";", "i.e.", ",", "when", "the", "query", "set", "was", "Q", ".", "-RRB-", "5", ".", "Upon", "receiving", "back", "a", "bit", "s", "r", "from", "the", "trusted", "party", ",", "Sim", "computes", "0", "and", "1", "as", "follows", ":", "-LRB-", "a", "-RRB-", "If", "r", "=", "0", ",", "then", "0", "=", "s", "0", "j", "/", "Q", "s", "j", "j", "and", "1", "R", "-LCB-", "0", ",", "1", "-RCB-", ".", "-LRB-", "b", "-RRB-", "If", "r", "=", "1", ",", "then", "0", "R", "-LCB-", "0", ",", "1", "-RCB-", "and", "1", "=", "s", "1", "j", "/", "Q", "s", "1-j", "j", ".", "Sim", "sends", "-LRB-", "0", ",", "1", "-RRB-", "to", "A", "n", "and", "output", "whatever", "A", "n", "does", ".", "We", "proceed", "to", "prove", "that", "the", "joint", "output", "of", "Sim", "and", "the", "honest", "sender", "S", "in", "the", "ideal", "model", "is", "computationally", "indistinguishable", "from", "the", "joint", "output", "of", "A", "n", "and", "S", "in", "the", "real", "model", ".", "Actually", ",", "since", "the", "honest", "S", "has", "no", "output", "from", "the", "protocol", ",", "it", "suffices", "here", "to", "show", "that", "the", "output", "of", "Sim", "in", "the", "ideal", "model", "is", "computationally", "indistinguishable", "from", "the", "output", "of", "A", "n", "in", "the", "real", "model", ".", "We", "first", "claim", "that", "apart", "from", "the", "pair", "-LRB-", "0", ",", "1", "-RRB-", ",", "the", "view", "of", "A", "n", "in", "the", "simulation", "with", "105", "Sim", "is", "statistically", "close", "to", "its", "view", "in", "a", "real", "execution", "with", "S", ";", "the", "only", "difference", "being", "in", "the", "case", "that", "Sim", "outputs", "fail", ".", "This", "can", "be", "seen", "as", "follows", ":", "if", "A", "n", "does", "not", "send", "good", "defenses", "after", "receiving", "q", ",", "then", "Sim", "aborts", ",", "just", "as", "the", "honest", "S", "would", "-LRB-", "and", "in", "this", "case", "the", "simulation", "is", "perfect", "-RRB-", ".", "If", "A", "n", "does", "send", "good", "defenses", ",", "then", "Sim", "continues", "until", "it", "finds", "another", "-LRB-", "independent", "-RRB-", "q", "for", "which", "A", "n", "also", "replies", "with", "good", "defenses", ".", "It", "is", "not", "hard", "to", "see", "that", "this", "yields", "a", "distribution", "that", "is", "the", "same", "as", "in", "a", "real", "execution", ",", "except", "when", "q", "=", "q", ",", "in", "which", "case", "Sim", "outputs", "fail", ".", "However", ",", "this", "event", "-LRB-", "that", "it", "provides", "good", "defenses", "on", "q", "and", "then", "the", "next", "time", "that", "it", "provides", "good", "defenses", "is", "again", "on", "q", "-RRB-", "can", "happen", "with", "probability", "only", "2", "-", "n", ".", "We", "therefore", "have", "that", "in", "the", "simulation", "by", "Sim", ",", "the", "adversary", "A", "n", "'s", "partial", "view", "up", "until", "the", "point", "that", "it", "receives", "-LRB-", "0", ",", "1", "-RRB-", "is", "statistically", "close", "to", "its", "view", "in", "a", "real", "execution", "with", "S", ".", "We", "now", "show", "that", "A", "n", "'s", "full", "view", "is", "computationally", "indistinguishable", ".", "To", "do", "this", ",", "we", "consider", "a", "modified", "ideal-model", "simulator", "Sim", "who", "receives", "the", "sender", "S", "'s", "input", "pair", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", ".", "Simulator", "Sim", "works", "in", "exactly", "the", "same", "way", "as", "Sim", ",", "except", "that", "it", "computes", "1-r", "as", "an", "honest", "sender", "would", "instead", "of", "choosing", "it", "uniformly", ".", "By", "the", "above", "argument", ",", "it", "follows", "that", "the", "distribution", "generated", "by", "Sim", "in", "the", "ideal", "model", "is", "statistically", "close", "to", "the", "distribution", "generated", "by", "a", "real", "execution", "between", "S", "and", "A", "n", ".", "-LRB-", "Recall", "that", "Sim", "already", "generates", "r", "in", "the", "same", "way", "as", "an", "honest", "S", ",", "and", "therefore", "so", "does", "Sim", ".", "-RRB-", "It", "remains", "to", "show", "that", "the", "distribution", "generated", "by", "Sim", "is", "computationally", "indistinguishable", "to", "that", "generated", "by", "Sim", ".", "The", "only", "difference", "between", "Sim", "and", "Sim", "is", "in", "the", "generation", "of", "1-r", ":", "simulator", "Sim", "generates", "it", "``", "honestly", "''", ",", "whereas", "Sim", "chooses", "it", "uniformly", ".", "As", "mentioned", "above", ",", "intuitively", ",", "indistinguishability", "follows", "from", "the", "fact", "that", "at", "least", "one", "s", "1-r", "j", "j", "masks", "the", "value", "of", "s", "1-r", ".", "Formally", ",", "we", "show", "that", "if", "this", "``", "fake", "''", "1-r", "can", "be", "distinguished", "from", "a", "real", "one", ",", "then", "we", "can", "construct", "a", "defensible", "receiver", "~", "A", "n", "that", "can", "break", "the", "oblivious", "transfer", "protocol", ".", "That", "is", ",", "we", "show", "that", "if", "the", "output", "generated", "by", "Sim", "and", "Sim", "can", "be", "distinguished", "with", "non-negligible", "probability", ",", "then", "it", "is", "possible", "for", "a", "defensible", "adversary", "~", "A", "n", "to", "succeed", "in", "the", "experiment", "of", "Definition", "2.2", "with", "non-negligible", "advantage", ",", "with", "respect", "to", "the", "subprotocol", ".", "Assume", "by", "contradiction", "that", "there", "exists", "a", "distinguisher", "D", ",", "a", "polynomial", "p", "-LRB-", "-RRB-", "and", "infinitely", "many", "n", "'s", "such", "that", "|", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "-", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "|", "1", "p", "-LRB-", "n", "-RRB-", ".", "Without", "loss", "of", "generality", ",", "assume", "that", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "-", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "1", "p", "-LRB-", "n", "-RRB-", ".", "-LRB-", "1", "-RRB-", "We", "now", "use", "the", "above", "to", "construct", "a", "defensible", "adversary", "~", "A", "=", "-LCB-", "~", "A", "n", "-RCB-", ".", "Adversary", "~", "A", "n", "begins", "its", "attack", "by", "starting", "the", "simulation", "of", "Protocol", "4.1", ",", "according", "to", "Sim", "'s", "strategy", ".", "Specifically", ",", "~", "A", "n", "chooses", "s", "0", ",", "s", "1", "R", "-LCB-", "0", ",", "1", "-RCB-", "and", "runs", "the", "simulation", "strategy", "of", "Sim", "with", "A", "n", "up", "until", "the", "point", "where", "0", "and", "1", "are", "sent", ".", "The", "simulation", "is", "the", "same", "as", "Sim", ",", "except", "for", "the", "following", "difference", ":", "~", "A", "n", "begins", "by", "choosing", "j", "R", "-LCB-", "1", ",", "...", ",", "2n", "-RCB-", "and", "internally", "invokes", "A", "n", ",", "simulating", "an", "execution", "of", "Protocol", "4.1", ".", "Then", ",", "all", "of", "the", "oblivious", "transfers", "subexecutions", "of", ",", "except", "for", "the", "j", "th", "one", ",", "are", "run", "internally", "with", "~", "A", "n", "playing", "the", "honest", "sender", "-LRB-", "~", "A", "n", "also", "chooses", "the", "s", "0", "i", "and", "s", "1", "i", "values", "as", "S", "would", "-RRB-", ";", "in", "contrast", ",", "the", "messages", "of", "the", "j", "th", "execution", "of", "the", "oblivious", "transfer", "protocol", "are", "forwarded", "between", "~", "A", "n", "'s", "external", "sender", "and", "the", "internal", "A", "n", "playing", "the", "receiver", ".", "Following", "the", "oblivious", "transfer", "executions", ",", "~", "A", "n", "runs", "the", "honest", "sender", "in", "the", "coin-tossing", "protocol", "to", "generate", "q", "and", "thus", "Q", "as", "required", ".", "If", "j", "/", "Q", ",", "then", "~", "A", "n", "outputs", "fail", "and", "halts", ".", "Otherwise", ",", "~", "A", "n", "receives", "back", "the", "defenses", ";", "since", "j", "Q", ",", "the", "j", "th", "defense", "is", "included", ".", "If", "-LRB-", "r", "j", ",", "j", "r", "-RRB-", "is", "not", "a", "good", "defense", ",", "then", "~", "A", "n", "outputs", "fail", "and", "halts", ".", "Otherwise", ",", "it", "stores", "-LRB-", "r", "j", ",", "j", "r", "-RRB-", "and", "continues", "like", "Sim", "by", "rewinding", "A", "n", "and", "generating", "a", "new", "q", "and", "Q", ".", "If", "j", "Q", ",", "then", "once", "again", "~", "A", "n", "outputs", "fail", "and", "halts", ".", "Otherwise", ",", "it", "continues", "like", "Sim", "-LRB-", "using", "the", "j", "chosen", "above", "for", "which", "it", "is", "given", "that", "j", "Q", "and", "j", "/", "Q", "-RRB-", ".", "~", "A", "n", "continues", "in", "the", "same", "way", "that", "Sim", "does", "up", "until", "-LRB-", "but", "not", "including", "-RRB-", "the", "point", "at", "which", "-LRB-", "0", ",", "1", "-RRB-", "must", "be", "sent", ".", "Now", ",", "~", "A", "n", "computes", "-LRB-", "0", ",", "1", "-RRB-", "as", "follows", ".", "First", ",", "note", "that", "~", "A", "n", "knows", "the", "values", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", "and", "s", "0", "i", ",", "s", "1", "i", "for", "all", "i", "=", "j", "-LRB-", "because", "it", "chose", "them", "-RRB-", ".", "However", ",", "the", "values", "s", "0", "j", "and", "s", "1", "j", "are", "not", "known", "to", "~", "A", "n", "because", "these", "are", "the", "values", "used", "by", "the", "external", "sender", "with", "whom", "it", "interacts", ".", "Nevertheless", ",", "the", "-LRB-", "good", "-RRB-", "defense", "provided", "by", "A", "n", "is", "enough", "to", "obtain", "the", "value", "s", "r", "j", "j", ".", "This", "holds", "because", "given", "the", "transcript", "of", "the", "j", "th", "oblivious", "transfer", "execution", "and", "the", "input", "and", "random-tape", "of", "the", "receiver", ",", "it", "is", "possible", "to", "derive", "s", "r", "j", "j", ".", "The", "only", "value", "unknown", "to", "~", "A", "n", "is", "therefore", "s", "1-r", "j", "j", ".", "Therefore", ",", "~", "A", "n", "is", "able", "to", "compute", "r", "like", "the", "honest", "sender", ".", "In", "contrast", ",", "it", "can", "not", "honestly", "compute", "1-r", ".", "Rather", ",", "~", "A", "n", "guesses", "the", "value", "of", "s", "1-r", "j", "j", "R", "-LCB-", "0", ",", "1", "-RCB-", "randomly", ",", "and", "then", "computes", "1-r", "using", "s", "1-r", ",", "all", "of", "the", "s", "i", "values", "that", "it", "knows", "-LRB-", "i.e.", ",", "all", "apart", "from", "s", "1-r", "j", "j", "-RRB-", ",", "and", "the", "uniformly", "chosen", "s", "1-r", "j", "j", ".", "In", "order", "to", "determine", "its", "output", ",", "~", "A", "n", "obtains", "the", "output", "of", "A", "n", "and", "runs", "the", "distinguisher", "D", "-LRB-", "from", "Eq", ".", "-LRB-", "1", "-RRB-", "-RRB-", "on", "this", "output", ";", "let", "b", "be", "the", "bit", "output", "by", "D.", "Then", ",", "~", "A", "n", "sets", "=", "s", "1-r", "j", "j", "b.", "-LRB-", "Recall", "that", "is", "~", "A", "n", "'s", "guess", "for", "the", "``", "not-received", "''", "bit", "used", "by", "the", "honest", "sender", ".", "The", "motivation", "for", "this", "guess", "is", "that", "by", "Eq", ".", "-LRB-", "1", "-RRB-", ",", "D", "outputs", "1", "with", "higher", "probability", "on", "Sim", "-LRB-", "when", "the", "bit", "is", "random", "-RRB-", "than", "on", "Sim", "-LRB-", "when", "the", "bit", "is", "correct", "-RRB-", ".", "Thus", ",", "when", "D", "outputs", "1", ",", "we", "flip", "~", "A", "n", "'s", "guess", "for", "s", "1-r", "j", "j", ".", "-RRB-", "Finally", ",", "~", "A", "n", "outputs", "the", "defense", "-LRB-", "r", "j", ",", "j", "r", "-RRB-", "from", "above", "and", "the", "bit", ".", "We", "proceed", "to", "analyze", "the", "probability", "that", "~", "A", "n", "succeeds", "in", "Expt", "rec", ".", "First", ",", "note", "that", "unless", "~", "A", "n", "outputs", "fail", ",", "the", "view", "of", "A", "n", "when", "interacting", "with", "~", "A", "n", "above", "is", "identical", "to", "its", "view", "in", "the", "simulation", "by", "Sim", ".", "This", "is", "due", "to", "the", "fact", "that", "~", "A", "n", "follows", "Sim", "'s", "strategy", ",", "except", "for", "two", "differences", ".", "The", "first", "difference", "is", "that", "in", "the", "j", "th", "execution", "of", "the", "oblivious", "transfer", "protocol", "is", "run", "externally", ".", "However", ",", "since", "Sim", "plays", "the", "role", "of", "an", "honest", "receiver", "in", "all", "of", "the", "executions", ",", "this", "makes", "no", "difference", "to", "A", "n", "'s", "view", ".", "The", "second", "difference", "is", "in", "how", "1-r", "is", "computed", ":", "Sim", "chooses", "it", "uniformly", ",", "whereas", "~", "A", "n", "computes", "it", "as", "described", "above", ".", "Clearly", ",", "the", "distribution", "generated", "is", "the", "same", "because", "~", "A", "n", "uses", "a", "uniformly", "distributed", "s", "1-r", "j", "j", ",", "and", "thus", "1-r", "is", "also", "uniformly", "distributed", ".", "Now", ",", "denote", "the", "inputs", "of", "the", "honest", "sender", "that", "~", "A", "n", "interacts", "with", "by", "-LRB-", "~", "s", "0", ",", "~", "s", "1", "-RRB-", ".", "Using", "the", "facts", "that", "-LRB-", "a", "-RRB-", "~", "A", "n", "generates", "the", "exact", "same", "distribution", "as", "Sim", ",", "-LRB-", "b", "-RRB-", "~", "A", "n", "sets", "=", "s", "1-r", "j", "j", "b", "-LRB-", "where", "b", "is", "D", "'s", "output", "bit", "-RRB-", ",", "and", "-LRB-", "c", "-RRB-", "~", "A", "n", "presents", "a", "good", "defense", "every", "time", "that", "it", "does", "not", "output", "fail", ",", "we", "have", "that", "Pr", "Expt", "rec", "-LRB-", "~", "A", "n", "-RRB-", "=", "1", "|", "output", "~", "A", "n", "=", "fail", "-LRB-", "2", "-RRB-", "=", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", ".", "106", "-LRB-", "Recall", "that", "Expt", "rec", "-LRB-", "~", "A", "n", "-RRB-", "=", "1", "if", "~", "A", "n", "presents", "a", "good", "defense", "and", "=", "~", "s", "1-r", "j", ".", "-RRB-", "In", "contrast", "to", "the", "above", ",", "conditioned", "on", "the", "event", "that", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "-LRB-", "i.e.", ",", "the", "event", "that", "~", "A", "n", "guessed", "correctly", "-RRB-", ",", "the", "result", "is", "an", "execution", "that", "is", "distributed", "exactly", "according", "to", "Sim", ".", "-LRB-", "Recall", "that", "the", "only", "difference", "between", "Sim", "and", "Sim", "is", "with", "respect", "to", "the", "computation", "of", "1-r", ".", "-RRB-", "That", "is", ",", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "=", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "=", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "0", "-RSB-", "where", "the", "last", "equality", "is", "just", "due", "to", "the", "fact", "that", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", ".", "Now", ",", "recalling", "that", "s", "1-r", "j", "j", "is", "chosen", "uniformly", "by", "~", "A", "n", "-LRB-", "and", "so", "equals", "~", "s", "1-r", "j", "with", "probability", "exactly", "1", "/", "2", "-RRB-", ",", "we", "have", ":", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "=", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "+", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "=", "1", "2", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "0", "-RSB-", "+", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "=", "1", "2", "-LRB-", "1", "-", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "-RRB-", "+", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "=", "1", "2", "+", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "-", "12", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", ".", "Recalling", "again", "that", "when", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "the", "output", "of", "Sim", "is", "the", "same", "as", "Sim", ",", "we", "have", "that", "1", "2", "+", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "-", "12", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "=", "1", "2", "+", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "+", "1", "2", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "|", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "-", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "=", "1", "2", "+", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", "-", "Pr", "-LSB-", "D", "-LRB-", "output", "Sim", "-RRB-", "=", "1", "-RSB-", ".", "Combining", "the", "above", "with", "Equations", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", ",", "we", "have", "that", "for", "infinitely", "many", "n", "'s", "Pr", "Expt", "rec", "-LRB-", "~", "A", "n", "-RRB-", "=", "1", "|", "output", "~", "A", "n", "=", "fail", "=", "Pr", "D", "-LRB-", "output", "Sim", "-RRB-", "s", "1-r", "j", "j", "=", "~", "s", "1-r", "j", "12", "+", "1", "p", "-LRB-", "n", "-RRB-", ".", "Recall", "now", "that", "~", "A", "n", "outputs", "fail", "if", "A", "n", "does", "not", "output", "a", "good", "defense", ",", "if", "j", "/", "Q", ",", "or", "if", "j", "Q", ".", "We", "first", "claim", "that", "A", "n", "must", "output", "a", "good", "defense", "with", "non-negligible", "probability", ".", "This", "follows", "simply", "from", "the", "fact", "that", "when", "A", "n", "does", "not", "output", "a", "good", "defense", ",", "the", "execution", "is", "truncated", "and", "the", "distributions", "generated", "by", "Sim", "and", "Sim", "are", "identical", ".", "Therefore", ",", "Eq", ".", "-LRB-", "1", "-RRB-", "implies", "that", "for", "infinitely", "many", "n", "'s", ",", "A", "n", "outputs", "a", "good", "defense", "with", "probability", "at", "least", "1", "/", "p", "-LRB-", "n", "-RRB-", ".", "Next", ",", "recall", "that", "~", "A", "n", "chooses", "the", "sets", "Q", "and", "Q", "randomly", "-LRB-", "under", "the", "constraints", "prescribed", "in", "the", "protocol", "-RRB-", ".", "Thus", ",", "with", "probability", "exactly", "1", "/", "4", ",", "j", "Q", "and", "j", "/", "Q", "-LRB-", "because", "the", "probability", "that", "a", "given", "j", "is", "in", "a", "specified", "set", "is", "exactly", "1/2", "-RRB-", ".", "We", "conclude", "that", "with", "non-negligible", "probability", ",", "~", "A", "n", "does", "not", "output", "fail", ",", "and", "thus", "Pr", "-LSB-", "Expt", "rec", "-LRB-", "~", "A", "n", "-RRB-", "=", "1", "-RSB-", "is", "non-negligible", ".", "It", "remains", "to", "show", "that", "Sim", "runs", "in", "expected", "polynomial-time", ".", "Aside", "from", "the", "rewinding", "stage", ",", "all", "work", "takes", "a", "fixed", "polynomial", "amount", "of", "time", ".", "Regarding", "the", "rewinding", "stage", ",", "we", "have", "the", "following", ".", "Let", "p", "denote", "the", "probability", "that", "A", "n", "replies", "correctly", "upon", "a", "random", "set", "of", "indices", "Q", "of", "size", "n", ",", "as", "specified", "in", "the", "protocol", ".", "Then", ",", "given", "that", "A", "n", "replied", "correctly", "to", "the", "initial", "query", "set", "Q", ",", "the", "expected", "number", "of", "rewinding", "attempts", "with", "independent", "Q", "made", "by", "Sim", "equals", "1", "/", "p", ".", "Since", "these", "rewinding", "attempts", "are", "only", "made", "if", "A", "n", "replied", "correctly", "to", "the", "initial", "query", "set", "Q", ",", "we", "have", "that", "the", "expected", "number", "of", "attempts", "overall", "equals", "p", "1/p", "=", "1", ".", "This", "completes", "the", "proof", ".", "In", "this", "section", ",", "we", "reverse", "the", "oblivious", "transfer", "protocol", "of", "Protocol", "4.1", "to", "obtain", "a", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "a", "malicious", "sender", "and", "private", "for", "random", "inputs", "in", "the", "presence", "of", "a", "defensible", "receiver", ".", "We", "use", "the", "construction", "of", "-LSB-", "31", "-RSB-", "for", "reversing", "Protocol", "4.1", ".", "The", "protocol", "is", "as", "follows", ":", "Protocol", "5.1", ".", "-LRB-", "reversing", "oblivious", "transfer", "-RRB-", ":", "Inputs", ":", "The", "sender", "S", "has", "a", "pair", "of", "bits", "-LRB-", "s", "0", ",", "s", "1", "-RRB-", "for", "input", "and", "the", "receiver", "R", "has", "a", "bit", "r.", "The", "protocol", ":", "1", ".", "The", "sender", "and", "receiver", "run", "an", "oblivious", "transfer", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "a", "malicious", "receiver", "and", "private", "in", "the", "presence", "of", "a", "defensible", "sender", ":", "-LRB-", "a", "-RRB-", "The", "sender", "S", ",", "playing", "the", "receiver", "in", ",", "inputs", "~", "r", "=", "s", "0", "s", "1", "-LRB-", "b", "-RRB-", "The", "receiver", "R", ",", "playing", "the", "sender", "in", ",", "chooses", "a", "random", "bit", "R", "-LCB-", "0", ",", "1", "-RCB-", "and", "inputs", "~", "s", "0", "=", "and", "~", "s", "1", "=", "r.", "Denote", "S", "'s", "output", "from", "by", "a.", "2", ".", "S", "sends", "R", "the", "bit", "=", "s", "0", "a.", "3", ".", "R", "outputs", "s", "r", "=", ".", "The", "security", "of", "Protocol", "5.1", "can", "be", "easily", "proven", "as", "an", "information-theoretic", "reduction", ",", "or", "when", "the", "original", "oblivious", "transfer", "protocol", "is", "fully", "secure", ".", "In", "contrast", ",", "it", "is", "far", "more", "subtle", "in", "the", "setting", "where", "only", "privacy", "in", "the", "presence", "of", "a", "defensible", "sender", "is", "assumed", ".", "Nevertheless", ",", "we", "do", "obtain", "the", "following", "claim", ":", "Claim", "5.2", ".", "If", "is", "a", "non-trivial", "oblivious", "transfer", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "a", "malicious", "receiver", "and", "private", "in", "the", "presence", "of", "a", "defensible", "sender", ",", "then", "Protocol", "5.1", "is", "a", "non-trivial", "oblivious", "transfer", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "a", "malicious", "sender", "and", "private", "for", "random", "inputs", "in", "the", "presence", "of", "a", "defensible", "receiver", ".", "107", "In", "this", "section", ",", "we", "use", "the", "construction", "of", "Protocol", "4.1", "again", "in", "order", "to", "boost", "the", "security", "of", "Protocol", "5.1", "so", "that", "it", "is", "secure", "in", "the", "presence", "of", "both", "a", "malicious", "sender", "and", "a", "malicious", "receiver", ";", "we", "call", "such", "a", "protocol", "fully", "secure", "to", "stress", "that", "it", "is", "secure", "in", "the", "face", "of", "any", "corruption", ".", "By", "Claim", "4.2", ",", "we", "have", "that", "Protocol", "4.1", "boosts", "the", "security", "of", "any", "oblivious", "transfer", "protocol", "that", "is", "private", "for", "defensible", "receivers", "into", "one", "that", "is", "secure", "in", "the", "presence", "of", "malicious", "receivers", ".", "We", "can", "therefore", "use", "Protocol", "4.1", "to", "boost", "the", "security", "of", "Protocol", "5.1", "so", "that", "the", "result", "is", "a", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "malicious", "receivers", ".", "This", "does", "not", "suffice", ",", "however", ",", "because", "we", "must", "show", "that", "if", "the", "subprotocol", "used", "in", "Protocol", "4.1", "is", "secure", "in", "the", "presence", "of", "malicious", "senders", ",", "then", "the", "result", "is", "still", "secure", "in", "the", "presence", "of", "malicious", "senders", ".", "-LRB-", "Claim", "4.1", "considers", "only", "privacy", "for", "defensible", "senders", ".", "-RRB-", "This", "is", "actually", "easy", "to", "show", ",", "and", "is", "omitted", "here", "due", "to", "lack", "of", "space", ".", "Theorem", "6.1", ".", "Assume", "that", "there", "exists", "a", "non-trivial", "bit", "oblivious", "transfer", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "malicious", "senders", "and", "private", "for", "random", "inputs", "in", "the", "presence", "of", "defensible", "receivers", ".", "Then", ",", "Protocol", "4.1", "that", "is", "in-stantiated", "using", "this", ",", "is", "a", "non-trivial", "bit", "oblivious", "transfer", "protocol", "that", "is", "secure", "in", "the", "presence", "of", "malicious", "receivers", "and", "senders", ".", "Black-box", "construction", "of", "oblivious", "transfer", ".", "Noting", "that", "perfectly-binding", "commitment", "schemes", "-LRB-", "as", "used", "in", "Protocol", "3.3", "-RRB-", "can", "be", "constructed", "using", "black-box", "access", "to", "homomorphic", "encryption", "or", "enhanced", "trapdoor", "permutations", ",", "and", "combining", "Protocols", "3.1", "and", "3.3", "with", "Protocol", "4.1", ",", "followed", "by", "Protocol", "5.1", "and", "the", "construction", "in", "Theorem", "6.1", ",", "we", "obtain", "secure", "bit", "oblivious", "transfer", "with", "black-box", "access", "to", "a", "homomorphic", "encryption", "scheme", "or", "a", "family", "of", "enhanced", "trapdoor", "permutations", ".", "Kilian", "-LSB-", "18", "-RSB-", "showed", "that", "any", "function", "can", "be", "securely", "computed", "given", "black-box", "access", "to", "a", "bit", "oblivious", "transfer", "functionality", ".", "We", "therefore", "have", "the", "following", "theorem", ",", "that", "constitutes", "our", "main", "result", ":", "Theorem", "7.1", ".", "Assume", "that", "there", "exist", "homomorphic", "encryption", "schemes", "with", "errorless", "decryption", "or", "families", "of", "enhanced", "trapdoor", "permutations", ".", "Then", ",", "for", "any", "probabilis-tic", "polynomial-time", "functionality", "f", "there", "exists", "a", "protocol", "that", "uses", "only", "black-box", "access", "to", "a", "homomorphic", "encryption", "scheme", "or", "to", "a", "family", "of", "enhanced", "trapdoor", "permutations", ",", "and", "securely", "computes", "f", "with", "any", "number", "of", "corrupted", "parties", "and", "in", "the", "presence", "of", "a", "static", "malicious", "adversary", ".", "We", "remark", "that", "as", "is", "standard", "for", "the", "setting", "of", "no", "honest", "majority", ",", "the", "security", "guarantee", "achieved", "here", "is", "that", "of", "``", "se-curity", "with", "abort", "''", ";", "see", "-LSB-", "13", ",", "Chapter", "7", "-RSB-", "for", "formal", "definitions", ".", "-LSB-", "1", "-RSB-", "W.", "Aiello", ",", "Y.", "Ishai", "and", "O.", "Reingold", ".", "Priced", "Oblivious", "Transfer", ":", "How", "to", "Sell", "Digital", "Goods", ".", "In", "EUROCRYPT", "2001", ",", "Springer-Verlag", "-LRB-", "LNCS", "2045", "-RRB-", ",", "pages", "119", "135", ",", "2001", ".", "-LSB-", "2", "-RSB-", "M.", "Ben-Or", ",", "S.", "Goldwasser", "and", "A.", "Wigderson", ".", "Completeness", "Theorems", "for", "Non-Cryptographic", "Fault-Tolerant", "Distributed", "Computation", ".", "In", "20th", "STOC", ",", "pages", "1", "10", ",", "1988", ".", "-LSB-", "3", "-RSB-", "M.", "Blum", ".", "Coin", "Flipping", "by", "Phone", ".", "In", "IEEE", "Spring", "COMPCOM", ",", "pages", "133", "137", ",", "1982", ".", "-LSB-", "4", "-RSB-", "R.", "Canetti", ".", "Security", "and", "Composition", "of", "Multiparty", "Cryptographic", "Protocols", ".", "Journal", "of", "Cryptology", ",", "13", "-LRB-", "1", "-RRB-", ":", "143", "202", ",", "2000", ".", "-LSB-", "5", "-RSB-", "D.", "Chaum", ",", "C.", "Cr", "epeau", "and", "I.", "Damg", "ard", ".", "Multi-party", "Uncond-itionally", "Secure", "Protocols", ".", "In", "20th", "STOC", ",", "pages", "11", "19", ",", "1988", ".", "-LSB-", "6", "-RSB-", "I.", "Damg", "ard", "and", "Y.", "Ishai", ".", "Constant-Round", "Multiparty", "Computation", "Using", "a", "Black-Box", "Pseudorandom", "Generator", ".", "In", "CRYPTO", "2005", ",", "Springer-Verlag", "-LRB-", "LNCS", "3621", "-RRB-", ",", "pages", "378", "394", ",", "2005", ".", "-LSB-", "7", "-RSB-", "D.", "Dolev", ",", "C.", "Dwork", "and", "M.", "Naor", ".", "Non-Malleable", "Cryptography", ".", "SIAM", "Journal", "on", "Computing", ",", "30", "-LRB-", "2", "-RRB-", ":", "391", "437", ",", "2000", ".", "-LSB-", "8", "-RSB-", "S.", "Even", ",", "O.", "Goldreich", "and", "A.", "Lempel", ".", "A", "Randomized", "Protocol", "for", "Signing", "Contracts", ".", "In", "Communications", "of", "the", "ACM", ",", "28", "-LRB-", "6", "-RRB-", ":", "637", "647", ",", "1985", ".", "-LSB-", "9", "-RSB-", "R.", "Gennaro", ",", "Y.", "Lindell", "and", "T.", "Malkin", ".", "Enhanced", "versus", "Plain", "Trapdoor", "Permutations", "for", "Non-Interactive", "Zero-Knowledge", "and", "Oblivious", "Transfer", ".", "Manuscript", "in", "preparation", ",", "2006", ".", "-LSB-", "10", "-RSB-", "R.", "Gennaro", "and", "L.", "Trevisan", ".", "Lower", "Bounds", "on", "the", "Efficiency", "of", "Generic", "Cryptographic", "Constructions", ".", "In", "41st", "FOCS", ",", "pages", "305", "314", ",", "2000", ".", "-LSB-", "11", "-RSB-", "Y.", "Gertner", ",", "S.", "Kannan", ",", "T.", "Malkin", ",", "O.", "Reingold", "and", "M.", "Viswanathan", ".", "The", "Relationship", "between", "Public", "Key", "Encryption", "and", "Oblivious", "Transfer", ".", "In", "41st", "FOCS", ",", "pages", "325", "334", ",", "2000", ".", "-LSB-", "12", "-RSB-", "Y.", "Gertner", ",", "T.", "Malkin", "and", "O.", "Reingold", ".", "On", "the", "Impossibility", "of", "Basing", "Trapdoor", "Functions", "on", "Trapdoor", "Predicates", ".", "In", "42nd", "FOCS", ",", "pages", "126", "135", ",", "2001", ".", "-LSB-", "13", "-RSB-", "O.", "Goldreich", ".", "Foundations", "of", "Cryptography", ":", "Volume", "2", "Basic", "Applications", ".", "Cambridge", "University", "Press", ",", "2004", ".", "-LSB-", "14", "-RSB-", "O.", "Goldreich", ",", "S.", "Micali", "and", "A.", "Wigderson", ".", "Proofs", "that", "Yield", "Nothing", "but", "their", "Validity", "or", "All", "Languages", "in", "NP", "Have", "Zero-Knowledge", "Proof", "Systems", ".", "Journal", "of", "the", "ACM", ",", "38", "-LRB-", "1", "-RRB-", ":", "691", "729", ",", "1991", ".", "-LSB-", "15", "-RSB-", "O.", "Goldreich", ",", "S.", "Micali", "and", "A.", "Wigderson", ".", "How", "to", "Play", "any", "Mental", "Game", "A", "Completeness", "Theorem", "for", "Protocols", "with", "Honest", "Majority", ".", "In", "19th", "STOC", ",", "pages", "218", "229", ",", "1987", ".", "-LSB-", "16", "-RSB-", "R.", "Impagliazzo", "and", "S.", "Rudich", ".", "Limits", "on", "the", "Provable", "Consequences", "of", "One-way", "Permutations", ".", "In", "CRYPTO", "'", "88", ",", "Springer-Verlag", "-LRB-", "LNCS", "403", "-RRB-", ",", "pages", "8", "26", ",", "1988", ".", "-LSB-", "17", "-RSB-", "Y.T.", "Kalai", ".", "Smooth", "Projective", "Hashing", "and", "Two-Message", "Oblivious", "Transfer", ".", "In", "EUROCRYPT", "2005", ",", "Springer-Verlag", "-LRB-", "LNCS", "3494", "-RRB-", "pages", "78", "95", ",", "2005", ".", "-LSB-", "18", "-RSB-", "J.", "Kilian", ".", "Founding", "Cryptograph", "on", "Oblivious", "Transfer", ".", "In", "20th", "STOC", ",", "pages", "20", "31", ",", "1988", ".", "-LSB-", "19", "-RSB-", "J.", "Kilian", ".", "Uses", "of", "Randomness", "In", "Algorithms", "and", "Protocols", ".", "MIT", "Press", ",", "1990", ".", "-LSB-", "20", "-RSB-", "J.", "Kilian", ".", "Improved", "Efficient", "Arguments", ".", "In", "CRYPTO", "'", "95", ",", "Springer-Verlag", "-LRB-", "LNCS", "963", "-RRB-", ",", "pages", "311", "324", ",", "1995", ".", "-LSB-", "21", "-RSB-", "J.H.", "Kim", ",", "D.R.", "Simon", "and", "P.", "Tetali", ".", "Limits", "on", "the", "Efficiency", "of", "One-Way", "Permutation-Based", "Hash", "Functions", ".", "In", "40th", "FOCS", ",", "pages", "535", "542", ",", "1999", ".", "-LSB-", "22", "-RSB-", "E.", "Kushilevitz", "and", "R.", "Ostrovsky", ".", "Replication", "Is", "Not", "Needed", ":", "Single", "Database", ",", "Computationally-Private", "Information", "Retrieval", ".", "In", "38th", "FOCS", ",", "pages", "364", "373", ",", "1997", ".", "-LSB-", "23", "-RSB-", "Y.", "Lindell", ".", "A", "Simpler", "Construction", "of", "CCA2-Secure", "Public-Key", "Encryption", "Under", "General", "Assumptions", ".", "In", "EUROCRYPT", "2003", ",", "Springer-Verlag", "-LRB-", "LNCS", "2656", "-RRB-", ",", "pages", "241", "254", ",", "2003", ".", "-LSB-", "24", "-RSB-", "T.", "Malkin", "and", "O.", "Reingold", ".", "Personal", "communication", ",", "2006", ".", "-LSB-", "25", "-RSB-", "S.", "Micali", ".", "Computationally", "Sound", "Proofs", ".", "SIAM", "Journal", "on", "Computing", ",", "30", "-LRB-", "4", "-RRB-", ":", "1253", "1298", ",", "2000", ".", "-LSB-", "26", "-RSB-", "M.", "Naor", "and", "K.", "Nissim", ".", "Communication", "Preserving", "Protocols", "for", "Secure", "Function", "Evaluation", ".", "In", "33rd", "STOC", ",", "pages", "590", "599", ",", "2001", ".", "-LSB-", "27", "-RSB-", "M.", "Naor", "and", "B.", "Pinkas", ".", "Efficient", "Oblivious", "Transfer", "Protocols", ".", "In", "12th", "SODA", ",", "pages", "458", "457", ",", "2001", ".", "-LSB-", "28", "-RSB-", "M.", "Rabin", ".", "How", "to", "Exchange", "Secrets", "by", "Oblivious", "Transfer", ".", "Tech", ".", "Memo", "TR-81", ",", "Harvard", "University", ",", "1981", ".", "-LSB-", "29", "-RSB-", "O.", "Reingold", ",", "L.", "Trevisan", ",", "and", "S.", "Vadhan", ".", "Notions", "of", "Reducibility", "between", "Cryptographic", "Primitives", ".", "In", "1st", "TCC", ",", "pages", "1", "20", ",", "2004", ".", "-LSB-", "30", "-RSB-", "A.", "Sahai", ".", "Non-Malleable", "Non-Interactive", "Zero-Knowledge", "and", "Adaptive", "Chosen-Ciphertext", "Security", ".", "In", "40th", "FOCS", ",", "pages", "543", "553", ",", "1999", ".", "-LSB-", "31", "-RSB-", "S.", "Wolf", "and", "J.", "Wullschleger", ".", "Oblivious", "Transfer", "Is", "Symmetric", ".", "To", "appear", "in", "EUROCRYPT", "2006", ".", "Appears", "at", "Cryptology", "ePrint", "Archive", ",", "Report", "2004/336", ",", "2004", ".", "-LSB-", "32", "-RSB-", "A.", "Yao", ".", "How", "to", "Generate", "and", "Exchange", "Secrets", ".", "In", "27th", "FOCS", ",", "pages", "162", "167", ",", "1986", ".", "108"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["oblivious transfer protocol", "oblivious transfer", "cryptographic", "secure computation", "encryption scheme", "trapdoor permutation", "malicious adversary"], "abstractive_keyphrases": ["black-box", "nonblack-box", "theory of cryptography", "black-box reductions"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "68", "document": ["Diagnosis", "of", "TCP", "Overlay", "Connection", "Failures", "using", "Bayesian", "Networks", "When", "failures", "occur", "in", "Internet", "overlay", "connections", "today", ",", "it", "is", "difficult", "for", "users", "to", "determine", "the", "root", "cause", "of", "failure", ".", "An", "overlay", "connection", "may", "require", "TCP", "connections", "between", "a", "series", "of", "overlay", "nodes", "to", "succeed", ",", "but", "accurately", "determining", "which", "of", "these", "connections", "has", "failed", "is", "difficult", "for", "users", "without", "access", "to", "the", "internal", "workings", "of", "the", "overlay", ".", "Diagnosis", "using", "active", "probing", "is", "costly", "and", "may", "be", "inaccurate", "if", "probe", "packets", "are", "filtered", "or", "blocked", ".", "To", "address", "this", "problem", ",", "we", "develop", "a", "passive", "diagnosis", "approach", "that", "infers", "the", "most", "likely", "cause", "of", "failure", "using", "a", "Bayesian", "network", "modeling", "the", "conditional", "probability", "of", "TCP", "failures", "given", "the", "IP", "addresses", "of", "the", "hosts", "along", "the", "overlay", "path", ".", "We", "collect", "TCP", "failure", "data", "for", "28.3", "million", "TCP", "connections", "using", "data", "from", "the", "new", "Planetseer", "overlay", "monitoring", "system", "and", "train", "a", "Bayesian", "network", "for", "the", "diagnosis", "of", "overlay", "connection", "failures", ".", "We", "evaluate", "the", "accuracy", "of", "diagnosis", "using", "this", "Bayesian", "network", "on", "a", "set", "of", "overlay", "connections", "generated", "from", "observations", "of", "CoDeeN", "traffic", "patterns", "and", "find", "that", "our", "approach", "can", "accurately", "diagnose", "failures", ".", "When", "failures", "occur", "in", "Internet", "overlay", "connections", "today", ",", "it", "is", "difficult", "for", "users", "to", "determine", "the", "root", "cause", "of", "failure", ".", "The", "proliferation", "of", "TCP", "overlays", "such", "as", "content", "distribution", "networks", "and", "HTTP", "proxies", "means", "that", "frequently", "network", "communication", "requires", "a", "series", "of", "TCP", "connections", "between", "overlay", "nodes", "to", "succeed", ".", "For", "example", ",", "an", "HTTP", "request", "using", "the", "CoDeeN", "-LSB-", "9", "-RSB-", "content", "distribution", "network", "first", "requires", "a", "TCP", "connection", "to", "a", "CoDeeN", "node", "and", "then", "a", "connection", "from", "a", "CoDeeN", "node", "to", "a", "server", "or", "another", "CoDeeN", "node", ".", "A", "failure", "in", "any", "one", "of", "the", "TCP", "connections", "along", "the", "overlay", "path", "causes", "the", "user", "'s", "HTTP", "request", "to", "fail", ".", "If", "the", "user", "knows", "which", "TCP", "connection", "failed", ",", "then", "they", "can", "take", "appropriate", "action", "to", "repair", "or", "circumvent", "the", "failure", ".", "For", "instance", ",", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGCOMM", "'06", "Workshops", "September", "11-15", ",", "2006", ",", "Pisa", ",", "Italy", ".", "Copyright", "2006", "ACM", "1-59593-417-0", "/", "06/0009", "...", "$", "5.00", ".", "if", "they", "know", "that", "the", "connection", "from", "the", "proxy", "to", "the", "server", "failed", ",", "then", "they", "complain", "to", "the", "web", "server", "administrator", ".", "On", "the", "other", "hand", ",", "if", "the", "user/proxy", "connection", "fails", ",", "perhaps", "they", "can", "try", "connecting", "to", "the", "proxy", "using", "a", "different", "ISP", ".", "If", "multiple", "overlay", "paths", "exist", "between", "the", "source", "and", "destination", ",", "nodes", "and", "applications", "may", "also", "use", "this", "type", "of", "diagnostic", "information", "to", "automatically", "recover", "or", "route", "around", "failures", "-LSB-", "1", "-RSB-", ".", "Unfortunately", ",", "accurately", "determining", "which", "TCP", "connection", "in", "an", "overlay", "connection", "has", "failed", "is", "difficult", "for", "end", "users", ",", "who", "typically", "do", "not", "have", "access", "to", "the", "internal", "workings", "of", "the", "overlay", ".", "Commercial", "overlay", "networks", "such", "as", "Akamai", "typically", "do", "not", "reveal", "details", "of", "connection", "failures", "to", "users", ",", "and", "the", "diagnostic", "tools", "available", "to", "users", "today", "are", "frequently", "inadequate", ".", "Active", "probing", "techniques", "such", "as", "tulip", "-LSB-", "7", "-RSB-", "and", "Planetseer", "-LSB-", "11", "-RSB-", "frequently", "can", "not", "provide", "accurate", "information", "due", "to", "firewalls", "and", "packet", "filtering", ".", "Furthermore", ",", "active", "probing", "can", "be", "costly", "both", "in", "terms", "of", "network", "resources", "and", "time", ",", "and", "can", "not", "diagnose", "the", "many", "transient", "TCP", "failures", "that", "begin", "and", "end", "before", "one", "can", "complete", "a", "probe", "-LSB-", "11", "-RSB-", ".", "Additionally", ",", "one", "must", "take", "care", "when", "using", "active", "probing", "for", "diagnosis", "because", "they", "may", "concentrate", "network", "traffic", "at", "points", "of", "failure", "and", "trigger", "intrusion", "detection", "systems", ".", "Instead", ",", "in", "our", "research", "we", "consider", "a", "passive", "approach", "to", "diagnosis", "in", "which", "intelligent", "diagnostic", "agents", "use", "probabilistic", "inference", "to", "determine", "the", "root", "cause", "of", "failure", ".", "The", "reliability", "of", "IP", "links", "in", "the", "Internet", "varies", "widely", "and", "hence", "we", "expect", "the", "probability", "of", "TCP", "failure", "to", "differ", "between", "different", "sets", "of", "hosts", ".", "Diagnostic", "agents", "in", "the", "Internet", "learn", "the", "probability", "of", "such", "failures", "for", "different", "regions", "in", "the", "Internet", "based", "on", "observations", "of", "TCP", "traffic", ".", "When", "users", "or", "network", "administrators", "detect", "network", "failures", ",", "they", "request", "diagnosis", "from", "such", "diagnostic", "agents", ".", "Agents", "then", "use", "information", "about", "the", "relative", "probability", "of", "failure", "of", "the", "TCP", "connections", "that", "make", "up", "an", "overlay", "connection", "to", "identify", "the", "most", "likely", "cause", "of", "failure", "when", "an", "overlay", "connection", "occurs", "without", "conducting", "any", "additional", "probes", ".", "In", "addition", ",", "diagnostic", "agents", "can", "also", "use", "this", "Bayesian", "network", "to", "predict", "the", "probability", "of", "overlay", "and", "TCP", "connection", "failure", "given", "information", "about", "the", "path", "of", "an", "overlay", "connection", ".", "We", "collect", "data", "on", "TCP", "failure", "probabilities", "in", "order", "to", "determine", "whether", "this", "data", "enables", "diagnostic", "agents", "data", "to", "accurately", "diagnose", "overlay", "failures", "in", "the", "Internet", ".", "To", "learn", "the", "probability", "of", "failure", "for", "TCP", "connections", "between", "different", "points", "in", "the", "network", ",", "we", "observe", "TCP", "traffic", "on", "the", "content", "distribution", "network", "CoDeeN", "using", "an", "updated", "version", "of", "Planetseer", "-LSB-", "11", "-RSB-", ".", "Next", "we", "construct", "a", "Bayesian", "network", "for", "diagnosis", "using", "these", "probabilities", ".", "We", "then", "use", "Bayesian", "inference", "to", "infer", "the", "most", "probable", "cause", "of", "failure", "for", "TCP-based", "applications", ".", "To", "evaluate", "the", "effectiveness", "of", "this", "approach", ",", "we", "test", "this", "Bayesian", "network", "on", "an", "artificial", "set", "of", "overlay", "connections", "based", "on", "the", "305", "traffic", "observed", "on", "CoDeeN", ".", "We", "find", "that", "when", "a", "failure", "occurs", ",", "knowing", "only", "the", "AS", "numbers", "of", "the", "source", ",", "proxy", ",", "and", "destination", ",", "we", "can", "determine", "which", "TCP", "connection", "has", "failed", "with", "over", "80", "%", "probability", ".", "In", "addition", ",", "the", "probability", "of", "failure", "between", "ASes", "stays", "relatively", "constant", "over", "time", ",", "and", "data", "learned", "can", "be", "accurately", "used", "for", "diagnosis", "for", "many", "hours", "into", "the", "future", ".", "This", "suggests", "that", "the", "TCP", "failure", "probabilities", "we", "learn", "may", "be", "useful", "in", "the", "diagnosis", "of", "future", "failures", "as", "well", ".", "The", "contribution", "of", "this", "research", "is", "to", "show", "how", "inter-AS", "TCP", "failure", "probabilities", "can", "be", "used", "for", "probabilistic", "diagnosis", "of", "failures", "in", "overlay", "networks", "such", "as", "CoDeeN", "using", "Bayesian", "inference", ".", "We", "also", "demonstrate", "a", "variety", "of", "clustering", "methods", "to", "address", "the", "problem", "of", "dataset", "sparsity", "for", "learning", "TCP", "failure", "probabilities", ".", "In", "this", "paper", "we", "evaluate", "our", "system", "on", "CoDeeN", "overlay", "connections", ",", "but", "our", "Bayesian", "model", "generalizes", "to", "the", "diagnosis", "of", "other", "TCP-based", "applications", "as", "well", ".", "There", "has", "been", "previous", "work", "in", "passive", "diagnosis", "of", "failures", "in", "the", "Internet", ".", "Padmanabhan", ",", "Ramabhadran", ",", "and", "Padhye", "developed", "Netprofiler", ",", "which", "collects", "network", "measurements", "from", "a", "set", "of", "end", "hosts", "and", "attempts", "to", "identify", "cause", "of", "failure", "by", "examining", "the", "shared", "dependencies", "among", "hosts", "that", "experience", "failures", "-LSB-", "8", "-RSB-", ".", "They", "show", "that", "this", "approach", "can", "provide", "information", "useful", "for", "diagnosis", ",", "but", "their", "paper", "only", "provides", "some", "preliminary", "results", "and", "do", "not", "provide", "details", "of", "how", "their", "system", "might", "diagnose", "real-world", "failures", "in", "practice", ".", "Shrink", "probabilistically", "diagnoses", "IP", "link", "failures", "based", "on", "the", "observed", "status", "of", "IP", "links", "that", "share", "resources", "-LSB-", "4", "-RSB-", ".", "Similarly", "in", "our", "work", "we", "diagnose", "failures", "in", "overlay", "connections", "where", "an", "overlay", "depends", "on", "several", "underlying", "TCP", "connections", "which", "may", "share", "IP", "hops", ".", "Shrink", "assumes", "that", "one", "can", "accurately", "determine", "the", "status", "of", "all", "IP", "links", "at", "any", "point", "in", "time", ".", "This", "allows", "one", "to", "identify", "the", "shared", "cause", "of", "failure", "of", "the", "failed", "IP", "links", ".", "Theoretically", ",", "we", "can", "also", "use", "this", "approach", "to", "diagnose", "overlay", "failures", ".", "That", "is", ",", "we", "can", "identify", "the", "TCP", "connections", "that", "share", "common", "IP", "hops", "and", "observe", "which", "overlay", "connections", "have", "failed", "at", "any", "point", "in", "time", "to", "identify", "the", "failed", "TCP", "connections", ".", "Unfortunately", ",", "in", "real-world", "diagnosis", "of", "TCP", "connections", "many", "of", "the", "assumptions", "made", "by", "systems", "such", "as", "Shrink", "do", "not", "hold", "for", "the", "following", "reasons", ".", "1", ".", "The", "status", "of", "overlay", "connections", "may", "change", "rapidly", ",", "making", "it", "difficult", "to", "correlate", "failures", "in", "different", "overlay", "connections", "over", "time", ".", "2", ".", "In", "order", "to", "construct", "a", "Bayesian", "network", "that", "accurately", "models", "the", "IP", "hops", "shared", "among", "different", "TCP", "connections", "we", "need", "an", "accurate", "IP", "level", "map", "of", "the", "Internet", ".", "As", "the", "Skitter", "1", "project", "demonstrates", ",", "accurately", "constructing", "such", "a", "map", "is", "difficult", "because", "routes", "may", "change", "and", "frequently", "tools", "such", "as", "traceroute", "do", "not", "provide", "accurate", "information", ".", "3", ".", "Determining", "the", "status", "of", "an", "inactive", "overlay", "connection", "or", "a", "TCP", "connection", "is", "costly", "and", "takes", "time", "because", "it", "requires", "an", "active", "probe", "such", "as", "a", "ping", ",", "traceroute", ",", "or", "HTTP", "connection", ".", "Furthermore", "such", "probes", "are", "frequently", "inaccurate", "because", "of", "the", "prevalence", "of", "packet", "filtering", ",", "network", "address", "translation", "-LRB-", "NAT", "-RRB-", ",", "and", "firewalls", "in", "the", "Internet", "-LSB-", "3", "-RSB-", ".", "4", ".", "TCP", "and", "IP", "failures", "are", "frequently", "so", "transient", "that", "by", "the", "time", "one", "can", "test", "the", "status", "of", "a", "link", ",", "the", "failure", "no", "longer", "exists", "-LSB-", "11", "-RSB-", ".", "1", "http://www.caida.org/tools/measurement/skitter/", "Therefore", "in", "this", "paper", "we", "present", "an", "alternative", "passive", "diagnosis", "approach", "that", "does", "not", "require", "simultaneously", "knowing", "the", "status", "of", "all", "overlay", "connections", ".", "Instead", ",", "we", "cluster", "TCP", "failures", "based", "on", "the", "Internet", "autonomous", "systems", "-LRB-", "ASes", "-RRB-", "of", "their", "endpoints", "and", "use", "information", "about", "the", "distribution", "of", "TCP", "failures", "to", "infer", "the", "cause", "of", "failure", ".", "An", "agent", "first", "learns", "a", "probabilistic", "model", "of", "failures", "based", "on", "a", "training", "set", "of", "observed", "TCP", "connections", ",", "and", "then", "it", "uses", "this", "model", "to", "diagnose", "future", "failures", "when", "it", "does", "not", "know", "the", "connection", "status", ".", "Other", "researchers", "have", "developed", "methods", "for", "diagnosing", "specific", "TCP-based", "applications", ".", "Ward", ",", "et", "al.", "infer", "the", "presence", "of", "TCP", "performance", "failures", "based", "on", "the", "rate", "of", "requests", "processed", "at", "an", "HTTP", "proxy", "server", "and", "TCP", "connection", "state", "-LSB-", "10", "-RSB-", ".", "Unlike", "such", "specialized", "diagnostic", "systems", ",", "our", "Bayesian", "approach", "to", "diagnosis", "can", "generalize", "to", "other", "applications", "that", "rely", "on", "TCP", "connections", ".", "Most", "previous", "research", "in", "probabilistic", "diagnosis", "of", "Internet", "failures", "evaluate", "their", "work", "on", "simulated", "failures", ".", "Steinder", "and", "Sethi", "model", "network", "faults", "using", "a", "bipartite", "causality", "graph", "in", "which", "the", "failure", "of", "individual", "links", "cause", "the", "failure", "of", "end-to-end", "connec-tivity", ",", "and", "then", "perform", "fault", "localization", "using", "a", "belief", "network", "-LSB-", "6", "-RSB-", ".", "In", "contrast", ",", "in", "our", "research", "we", "evaluate", "our", "approach", "on", "real-world", "TCP", "failures", "using", "actual", "data", "collected", "on", "the", "Internet", ".", "In", "this", "paper", "we", "consider", "the", "diagnosis", "of", "overlay", "networks", "in", "which", "an", "overlay", "network", "connection", "requires", "a", "series", "of", "TCP", "connections", "between", "overlay", "nodes", "between", "the", "source", "and", "destination", "hosts", ".", "For", "example", ",", "Akamai", "is", "a", "content", "distribution", "network", "in", "which", "retrieving", "a", "resource", "from", "a", "web", "server", "may", "requ", "ire", "communication", "among", "multiple", "Akamai", "nodes", "along", "multiple", "TCP", "connections", ".", "Another", "example", "is", "the", "content", "distribution", "network", "CoDeeN", "on", "Planetlab", ",", "in", "which", "overlay", "nodes", "act", "as", "HTTP", "proxies", ".", "An", "request", "on", "CoDeeN", "-LSB-", "9", "-RSB-", "first", "requires", "a", "TCP", "connection", "to", "a", "CoDeeN", "node", "and", "then", "a", "connection", "from", "a", "CoDeeN", "node", "to", "server", "or", "another", "CoDeeN", "node", ".", "A", "failure", "in", "any", "one", "of", "these", "TCP", "connections", "causes", "the", "user", "'s", "HTTP", "connection", "to", "fail", ".", "The", "challenge", "is", "to", "determine", "which", "of", "these", "TCP", "connections", "has", "failed", ".", "Sometimes", "users", "can", "determine", "whether", "a", "failure", "has", "occurred", "along", "the", "first", "TCP", "connection", "along", "the", "overlay", "path", "using", "information", "provided", "by", "their", "local", "TCP", "stack", ",", "but", "if", "a", "failure", "occurs", "beyond", "the", "first", "connection", "users", "can", "not", "tell", "where", "a", "failure", "occurs", "without", "cooperation", "from", "the", "overlay", ".", "Depending", "on", "the", "type", "of", "overlay", ",", "users", "may", "have", "different", "amounts", "of", "information", "about", "the", "overlay", "path", ".", "For", "example", ",", "in", "an", "HTTP", "proxy", "connection", ",", "users", "know", "that", "the", "proxy", "is", "the", "first", "hop", "along", "the", "path", "and", "that", "if", "the", "connection", "is", "not", "cached", ",", "the", "web", "server", "is", "the", "last", "hop", "along", "the", "path", ".", "As", "a", "first", "step", ",", "in", "our", "research", "we", "examine", "a", "special", "case", "of", "diagnosis", "in", "order", "to", "gain", "insight", "into", "how", "well", "our", "approach", "might", "generalize", "to", "other", "types", "of", "diagnosis", ".", "The", "question", "we", "wish", "to", "answer", "is", ",", "if", "a", "two", "hop", "overlay", "connection", "fails", "due", "to", "a", "TCP", "failure", ",", "which", "TCP", "connection", "failed", "?", "In", "this", "paper", "we", "define", "a", "TCP", "failure", "as", "three", "consecutive", "TCP", "retransmits", "without", "a", "response", ".", "We", "assume", "that", "the", "diagnostic", "agent", "only", "knows", "that", "the", "overlay", "connection", "has", "failed", "and", "does", "not", "know", "which", "of", "the", "TCP", "connections", "has", "failed", ".", "We", "want", "to", "answer", "this", "question", "knowing", "only", "the", "IP", "addresses", "of", "the", "source", ",", "IP", "address", "of", "the", "first", "hop", "overlay", "node", ",", "and", "the", "IP", "address", "of", "the", "ultimate", "overlay", "destination", "host", ".", "Our", "model", "for", "probabilistic", "diagnosis", "generalizes", "to", "overlay", "connections", "with", "any", "number", "of", "hops", ",", "but", "as", "a", "starting", "point", "in", "this", "paper", "we", "only", "consider", "overlay", "connections", "with", "two", "hops", ".", "306", "TCP", "Conn.", ".", "B", "C", "Hour", "Dst", "AS", "Src", "AS", "Overlay", "Conn.", ".", "A", "C", "TCP", "Conn.", ".", "A", "B", "Hour", "Dst", "AS", "Src", "AS", "0", "Failed", "OK", "1", "OK", "OK", "0", "OK", "Failed", "Failed", "B", "C", "0", "Failed", "P", "-LRB-", "Status", "=", "OK", "-RRB-", "A", "B", "...", "1", "1", "Hour", "...", "...", "...", "0.87", "2", "1", "1", "Dst", "AS", "0.99", "1", "P", "-LRB-", "Status", "=", "OK", "-RRB-", "Src", "AS", "Figure", "1", ":", "A", "Bayesian", "network", "for", "TCP", "overlay", "path", "diagnosis", "3.1", "Probabilistic", "Diagnosis", "The", "reliability", "of", "IP", "links", "in", "the", "Internet", "varies", "widely", "and", "hence", "we", "expect", "the", "probability", "of", "TCP", "failure", "to", "differ", "between", "different", "sets", "of", "hosts", ".", "Thus", "if", "we", "have", "knowledge", "of", "the", "relative", "probability", "of", "failure", "of", "the", "TCP", "connections", "that", "make", "up", "an", "overlay", "connection", ",", "we", "can", "then", "infer", "the", "most", "likely", "cause", "of", "failure", "when", "an", "overlay", "connection", "occurs", "without", "conducting", "any", "additional", "probes", ".", "In", "this", "paper", "we", "show", "we", "can", "use", "Bayesian", "networks", "both", "to", "learn", "a", "model", "of", "TCP", "failures", "and", "to", "perform", "diagnosis", ".", "Bayesian", "networks", "compactly", "represent", "the", "conditional", "probability", "of", "related", "events", "and", "enable", "efficient", "inference", "based", "on", "available", "evidence", "-LSB-", "5", "-RSB-", ".", "A", "Bayesian", "network", "is", "a", "directed", "acyclic", "graph", "in", "which", "nodes", "represent", "variables", ",", "and", "edges", "from", "parent", "nodes", "to", "children", "nodes", "represent", "dependence", "relations", ".", "Each", "node", "X", "has", "a", "conditional", "probability", "table", "-LRB-", "CPT", "-RRB-", "P", "-LRB-", "X", "|", "parents", "-LRB-", "X", "-RRB-", "-RRB-", "that", "encodes", "the", "conditional", "probability", "of", "X", "given", "evidence", "about", "its", "parents", ".", "Bayesian", "networks", "have", "several", "important", "features", "that", "make", "them", "especially", "suitable", "for", "reasoning", "about", "failures", "in", "the", "Internet", ".", "Firstly", ",", "Bayesian", "networks", "can", "model", "both", "deterministic", "and", "probabilistic", "dependencies", "among", "many", "types", "of", "Internet", "components", "and", "diagnostic", "tests", ".", "For", "example", ",", "an", "HTTP", "proxy", "connection", "functions", "if", "and", "only", "if", "the", "user/proxy", "TCP", "connection", "functions", "and", "the", "proxy/provider", "TCP", "connection", "functions", ".", "The", "probability", "that", "a", "TCP", "connection", "functions", "depends", "on", "the", "source", "and", "destination", "IP", "addresses", "and", "the", "time", "of", "the", "connection", ".", "To", "improve", "accuracy", ",", "we", "cluster", "IP", "addresses", "by", "AS", "and", "connection", "time", "by", "hour", "-LRB-", "see", "section", "3.2", "-RRB-", ".", "Figure", "1", "illustrates", "a", "Bayesian", "network", "that", "encodes", "the", "conditional", "probabilities", "for", "diagnosing", "an", "overlay", "connection", "from", "A", "to", "B", "to", "C.", "To", "diagnose", "an", "overlay", "connection", "failure", "from", "A", "to", "C", ",", "one", "can", "use", "this", "Bayesian", "network", "to", "infer", "the", "most", "probable", "status", "of", "the", "underlying", "TCP", "connections", "from", "A", "to", "B", "and", "B", "to", "C", "given", "information", "about", "the", "AS", "numbers", "and", "hour", "the", "connections", "were", "made", ".", "The", "variables", "in", "the", "Bayesian", "network", "represent", "the", "functional", "status", "of", "TCP", "connections", "and", "overlay", "connections", ".", "A", "node", "in", "this", "Bayesian", "network", "represents", "the", "functional", "status", "of", "a", "connection", ":", "OK", "if", "functioning", ",", "Failed", "if", "malfunctioning", ".", "Malfunctioning", "means", "that", "a", "connection", "failure", "occurs", "along", "the", "path", ",", "functioning", "means", "that", "no", "connection", "failure", "occurs", ".", "Edges", "in", "the", "Bayesian", "network", "represent", "dependencies", "among", "connections", ".", "The", "CPT", "for", "an", "overlay", "connection", "node", "represents", "the", "probability", "that", "it", "is", "functioning", "given", "the", "status", "of", "its", "underlying", "TCP", "paths", ".", "The", "CPT", "for", "a", "TCP", "path", "represents", "the", "probability", "that", "the", "TCP", "path", "functions", "given", "information", "about", "the", "path", ".", "In", "our", "Bayesian", "network", "we", "assume", "that", "the", "conditional", "probability", "of", "a", "TCP", "connection", "failure", "depends", "only", "on", "the", "source", "and", "destination", "IP", "addresses", "and", "the", "time", "of", "failure", "for", "each", "hop", "of", "the", "overlay", ",", "and", "not", "on", "which", "hop", "of", "the", "overlay", "connection", "it", "is", "-LRB-", "user/proxy", "or", "proxy/server", "-RRB-", ".", "We", "represent", "this", "by", "using", "parameter", "tying", "in", "this", "Bayesian", "network", "so", "that", "both", "TCP", "paths", "share", "the", "same", "CPT", ".", "We", "also", "assume", "that", "a", "diagnostic", "agent", "can", "identify", "the", "intermediate", "hops", "in", "the", "overlay", "connection", ",", "either", "through", "active", "probing", "or", "because", "it", "has", "knowledge", "of", "the", "overlay", "topology", ".", "An", "advantage", "of", "modeling", "network", "components", "in", "terms", "of", "Bayesian", "networks", "is", "that", "a", "Bayesian", "network", "provides", "an", "abstract", "high-level", "representation", "for", "diagnostic", "data", "suitable", "for", "reasoning", ".", "Representing", "diagnostic", "data", "in", "terms", "of", "variables", ",", "evidence", ",", "and", "dependencies", "rather", "than", "passing", "around", "low-level", "measurements", "such", "as", "packet", "traces", "allows", "an", "agent", "to", "reason", "about", "the", "causes", "and", "consequences", "of", "failures", "without", "any", "deep", "knowledge", "of", "the", "behavior", "and", "characteristics", "of", "components", "and", "diagnostic", "tests", ".", "In", "addition", ",", "the", "conditional", "independence", "assumptions", "of", "Bayesian", "inference", "reduce", "the", "amount", "of", "data", "a", "diagnostic", "agent", "needs", "to", "consider", "for", "diagnosis", ".", "3.2", "Clustering", "To", "perform", "diagnosis", "using", "this", "Bayesian", "network", ",", "we", "need", "to", "learn", "the", "conditional", "probability", "of", "failure", "of", "a", "TCP", "connection", "given", "the", "properties", "of", "a", "connection", ".", "Learning", "the", "conditional", "probability", "of", "failure", "for", "each", "pair", "of", "IP", "addresses", "is", "impractical", "because", "it", "is", "infeasible", "to", "store", "the", "probability", "of", "failure", "for", "the", "2", "64", "combinations", "of", "source", "and", "destination", "IP", "addresses", ".", "More", "importantly", ",", "for", "each", "pair", "of", "IP", "addresses", "we", "only", "have", "a", "limited", "amount", "of", "data", "with", "which", "to", "train", "the", "Bayesian", "network", ".", "For", "more", "effective", "diagnosis", ",", "diagnostic", "agents", "need", "a", "way", "to", "diagnose", "failures", "involving", "IP", "addresses", "it", "has", "not", "previously", "observed", ".", "Therefore", "to", "reduce", "the", "size", "of", "the", "conditional", "probability", "tables", "and", "to", "improve", "the", "accuracy", "of", "the", "learned", "probabilities", ",", "we", "cluster", "together", "IP", "addresses", "in", "a", "way", "that", "facilitates", "learning", "and", "diagnosis", ".", "Our", "hypothesis", "is", "that", "TCP", "connections", "that", "share", "many", "IP", "links", "with", "one", "another", "will", "have", "similar", "probabilities", "of", "failure", ".", "Thus", "two", "TCP", "connections", "with", "topologically", "nearby", "sources", "and", "nearby", "destinations", "will", "likely", "have", "similar", "failure", "probabilities", ".", "Therefore", "we", "clustered", "source", "and", "destination", "IP", "addresses", "in", "three", "ways", ":", "by", "the", "first", "eight", "bits", "of", "the", "IP", "address", ",", "the", "AS", "number", ",", "and", "by", "country", ".", "We", "also", "cluster", "TCP", "connections", "based", "on", "time", ".", "We", "hypothesize", "that", "the", "probability", "of", "failure", "changes", "over", "multiple", "time", "scales", ".", "For", "instance", ",", "if", "an", "IP", "routing", "change", "occurs", ",", "the", "probability", "of", "failure", "for", "affected", "TCP", "connections", "may", "change", "from", "low", "to", "high", "and", "back", "to", "low", "within", "a", "few", "minutes", ".", "On", "the", "other", "hand", ",", "the", "average", "rate", "of", "routing", "failure", "over", "several", "days", "may", "remain", "relatively", "constant", ".", "We", "show", "how", "different", "methods", "for", "clustering", "affect", "the", "accuracy", "of", "diagnosis", "in", "section", "5", ".", "It", "is", "difficult", "to", "obtain", "accurate", "information", "about", "the", "distribution", "of", "TCP", "failures", "in", "the", "Internet", "because", "failed", "connections", "make", "up", "only", "a", "small", "percentage", "of", "overall", "TCP", "traffic", "and", "the", "number", "307", "of", "possible", "source", "and", "destination", "IP", "addresses", "is", "enormous", ".", "To", "collect", "accurate", "failure", "probabilities", ",", "we", "need", "a", "way", "to", "observe", "the", "status", "of", "large", "quantities", "of", "TCP", "connections", "from", "many", "different", "source", "and", "destination", "hosts", ".", "In", "order", "to", "obtain", "such", "data", ",", "we", "used", "an", "updated", "version", "of", "Planetseer", "to", "collect", "data", "on", "TCP", "connection", "failures", ".", "The", "new", "Planetseer", "monitors", "TCP", "connections", "in", "the", "CoDeeN", "content", "distribution", "network", "and", "provides", "notifications", "when", "TCP", "sessions", "begin", ",", "end", ",", "and", "when", "TCP", "failures", "occur", ".", "Planetseer", "runs", "on", "over", "320", "Planetlab", "-LSB-", "2", "-RSB-", "nodes", "distributed", "around", "the", "world", ".", "We", "used", "Planetseer", "to", "monitor", "all", "the", "TCP", "connections", "made", "by", "196", "CoDeeN", "nodes", ".", "We", "observed", "28.3", "million", "TCP", "connections", "and", "249,000", "TCP", "failures", "over", "a", "ten", "hour", "period", ".", "We", "observed", "TCP", "connections", "to", "approximately", "17,000", "distinct", "IP", "addresses", "per", "hour", "on", "average", ".", "In", "our", "dataset", ",", "we", "observed", "TCP", "connections", "to", "hosts", "in", "2116", "unique", "Internet", "autonomous", "systems", ".", "CoDeeN", "overlay", "nodes", "act", "as", "HTTP", "proxies", "and", "establish", "TCP", "connections", "with", "web", "clients", ",", "web", "servers", ",", "and", "other", "CoDeeN", "nodes", ".", "In", "a", "typical", "CoDeeN", "session", ",", "a", "user", "initiates", "a", "TCP", "connection", "with", "the", "CoDeeN", "proxy", ",", "the", "proxy", "connects", "to", "a", "web", "server", "and", "retrieves", "the", "requested", "resource", ",", "and", "finally", "the", "proxy", "sends", "the", "requested", "data", "back", "to", "the", "user", ".", "Note", "that", "many", "requests", "are", "cached", ",", "and", "so", "the", "destination", "of", "the", "second", "hop", "in", "the", "overlay", "is", "a", "CoDeeN", "node", "and", "not", "the", "web", "server", "specified", "in", "the", "HTTP", "request", ".", "We", "found", "that", "0.28", "%", "of", "user/proxy", "connections", "and", "0.65", "%", "of", "proxy/server", "connections", "experienced", "TCP", "failures", ".", "Since", "Planetseer", "monitors", "TCP", "connections", "from", "the", "vantage", "point", "of", "the", "proxy", ",", "we", "can", "not", "detect", "those", "TCP", "failures", "in", "which", "a", "user", "is", "unable", "to", "establish", "a", "TCP", "connection", "to", "the", "proxy", ".", "Therefore", "the", "lower", "percentage", "of", "user/proxy", "failures", "may", "be", "partly", "explained", "by", "the", "fact", "that", "all", "failures", "between", "the", "proxy", "and", "user", "occur", "after", "the", "user", "successfully", "establishes", "a", "TCP", "connection", "to", "the", "proxy", ".", "We", "believe", "that", "the", "failure", "probabilities", "learned", "through", "Planetseer", "are", "representative", "of", "typical", "TCP", "connections", "in", "the", "Internet", ".", "CoDeeN", "nodes", "operate", "as", "HTTP", "proxies", ",", "so", "the", "pattern", "of", "TCP", "connections", "resembles", "typical", "web", "traffic", ".", "Though", "caching", "at", "CoDeeN", "nodes", "reduces", "the", "number", "of", "connections", "to", "web", "servers", "we", "observe", ",", "we", "believe", "that", "the", "average", "failure", "probability", "to", "web", "servers", "we", "observe", "using", "Planetseer", "reflects", "typical", "failure", "rates", "for", "HTTP", "related", "TCP", "connections", ".", "We", "are", "currently", "examining", "other", "types", "of", "overlay", "connections", "to", "determine", "how", "well", "this", "TCP", "data", "generalizes", "for", "the", "diagnosis", "of", "other", "overlays", ".", "We", "learn", "the", "conditional", "probability", "table", "for", "TCP", "connection", "failure", "using", "the", "data", "collected", "from", "Planetseer", ".", "We", "cluster", "source", "and", "destination", "IP", "addresses", "by", "AS", "using", "the", "Oregon", "Route", "Views", "BGP", "tables", "2", ".", "Our", "hypothesis", "is", "that", "Bayesian", "inference", "using", "the", "conditional", "probability", "of", "failure", "for", "TCP", "connections", "given", "the", "AS", "numbers", "of", "the", "source", "and", "destination", "can", "accurately", "diagnose", "failures", "in", "overlay", "connections", ".", "In", "order", "to", "test", "this", "hypothesis", ",", "we", "constructed", "a", "Bayesian", "network", "using", "the", "probabilities", "learned", "from", "Planetseer", "and", "used", "it", "to", "diagnose", "failures", "in", "CoDeeN", "connections", ".", "We", "wanted", "to", "answer", "the", "following", "questions", "in", "our", "experiments", ":", "1", ".", "Which", "clustering", "method", "produces", "the", "most", "accurate", "diagnosis", ":", "AS", ",", "IP/8", "prefix", ",", "or", "country", "?", "We", "expect", "that", "clustering", "based", "on", "AS", "will", "produce", "the", "most", "accurate", "results", "since", "it", "is", "most", "closely", "correlated", "with", "the", "Internet", "routing", "topology", ".", "2", "http://www.routeviews.org/", "2", ".", "How", "does", "diagnostic", "accuracy", "change", "as", "we", "increase", "the", "time", "interval", "over", "which", "we", "cluster", "TCP", "connections", "?", "We", "expect", "that", "as", "the", "clustering", "interval", "increases", ",", "accuracy", "will", "increase", "at", "first", ",", "but", "then", "decrease", "as", "the", "learned", "probabilities", "less", "accurately", "reflect", "the", "probabilities", "of", "new", "failures", ".", "3", ".", "How", "does", "the", "age", "of", "the", "training", "set", "affect", "diagnostic", "accuracy", "?", "We", "expect", "that", "as", "the", "distribution", "of", "TCP", "failures", "in", "the", "Internet", "changes", "over", "time", ",", "diagnostic", "accuracy", "will", "also", "decrease", ".", "5.1", "Experimental", "Setup", "We", "train", "a", "Bayesian", "network", "using", "the", "Bayes", "Net", "Toolbox", "-LRB-", "BNT", "-RRB-", "for", "Matlab", "3", ".", "In", "order", "to", "diagnose", "TCP", "connections", "between", "regions", "we", "did", "not", "observe", "in", "the", "training", "set", ",", "we", "initialize", "the", "prior", "probabilities", "of", "failure", "according", "to", "a", "uniform", "Dirichlet", "distribution", ",", "which", "is", "equivalent", "to", "adding", "an", "additional", "element", "to", "the", "training", "set", "for", "each", "combination", "of", "source", "cluster", ",", "destination", "cluster", ",", "and", "connection", "status", ".", "We", "test", "this", "Bayesian", "network", "on", "an", "artificial", "dataset", "generated", "based", "on", "the", "distribution", "of", "TCP", "connections", "observed", "on", "Planetseer", ".", "Since", "Planetseer", "does", "not", "provide", "information", "about", "which", "TCP", "connections", "are", "associated", "with", "each", "CoDeeN", "request", ",", "we", "construct", "a", "dataset", "based", "on", "the", "TCP", "connections", "we", "observed", ".", "First", "we", "identify", "user/proxy", ",", "proxy/proxy", ",", "and", "proxy/server", "connections", "based", "on", "IP", "address", "and", "port", "number", ".", "Then", "for", "each", "proxy", ",", "we", "count", "the", "number", "of", "TCP", "connections", "to", "each", "server", "and", "to", "each", "proxy", ".", "We", "assume", "that", "the", "number", "of", "cached", "requests", "equals", "the", "number", "of", "user/proxy", "connections", "minus", "the", "number", "of", "proxy/server", "and", "proxy/proxy", "connections", ".", "We", "assign", "each", "user/proxy", "TCP", "connection", "a", "corresponding", "proxy/provider", "connection", ",", "where", "the", "provider", "may", "either", "be", "a", "web", "server", "-LRB-", "if", "the", "resource", "is", "not", "cached", "-RRB-", ",", "another", "proxy", "-LRB-", "if", "the", "resource", "is", "cached", "at", "another", "proxy", "-RRB-", ",", "or", "the", "same", "proxy", "-LRB-", "if", "the", "resource", "is", "cached", "locally", "-RRB-", ".", "We", "make", "these", "provider", "assignments", "according", "to", "the", "observed", "distribution", "of", "proxy/server", "and", "proxy/proxy", "connections", ".", "Of", "the", "19,700", "failures", "in", "this", "dataset", ",", "approximately", "82", "%", "of", "requests", "are", "cached", "locally", ",", "7.9", "%", "are", "cached", "at", "other", "CoDeeN", "nodes", ",", "and", "10.6", "%", "are", "uncached", ".", "For", "each", "CoDeeN", "request", "failure", "our", "Bayesian", "network", "makes", "two", "diagnoses", ":", "one", "for", "the", "status", "of", "the", "user/proxy", "connection", ",", "and", "one", "for", "the", "status", "of", "the", "proxy/provider", "connection", ".", "We", "measure", "accuracy", "in", "terms", "of", "the", "fraction", "of", "correct", "diagnoses", ".", "To", "evaluate", "the", "accuracy", "of", "diagnosis", ",", "we", "compute", "the", "most", "probable", "explanation", "for", "a", "TCP", "failure", "given", "evidence", "that", "the", "overlay", "connection", "has", "failed", "and", "the", "AS", "numbers", "of", "the", "source", ",", "proxy", ",", "and", "destination", ",", "and", "then", "compare", "this", "diagnosis", "with", "the", "actual", "status", "of", "the", "source/proxy", "and", "proxy/provider", "connections", ".", "In", "our", "experiments", "we", "perform", "diagnosis", "without", "evidence", "about", "whether", "a", "resource", "is", "cached", "at", "a", "proxy", ".", "Of", "the", "CoDeeN", "requests", "that", "failed", "in", "the", "first", "hour", "of", "our", "dataset", ",", "we", "found", "that", "62", "%", "failed", "at", "the", "user/proxy", "connection", ",", "31", "%", "failed", "at", "the", "proxy/server", "connection", ",", "and", "7", "%", "failed", "at", "a", "the", "proxy/proxy", "connection", ".", "Therefore", "knowing", "only", "the", "overall", "distribution", "of", "TCP", "failures", "between", "users", "and", "servers", ",", "without", "using", "information", "about", "the", "IP", "addresses", "of", "the", "user", ",", "proxy", ",", "and", "server", ",", "one", "could", "diagnose", "failures", "with", "62", "%", "accuracy", "by", "diagnosing", "every", "failure", "as", "a", "user/proxy", "failure", ".", "In", "our", "experiments", "we", "wish", "to", "determine", "if", "our", "Bayesian", "approach", "to", "diagnosis", "can", "achieve", "significantly", "better", "accuracy", ".", "In", "order", "to", "properly", "compute", "the", "accuracy", "of", "diagnosis", ",", "we", "sepa-rated", "the", "set", "of", "TCP", "connections", "with", "which", "we", "trained", "the", "Bayesian", "network", "from", "the", "set", "of", "TCP", "connections", "associated", "with", "the", "failed", "3", "http://www.cs.ubc.ca/", "murphyk/Software/BNT", "308", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "80", "%", "90", "%", "100", "%", "AS", "Country", "IP", "Baseline", "Accuracy", "Figure", "2", ":", "Clustering", "Method", "Comparison", "75", "%", "76", "%", "77", "%", "78", "%", "79", "%", "80", "%", "81", "%", "82", "%", "83", "%", "1", "2", "3", "4", "5", "6", "7", "8", "9", "Training", "Interval", "Length", "-LRB-", "hours", "-RRB-", "Accuracy", "Figure", "3", ":", "Accuracy", "vs.", "Training", "Interval", "Length", "overlay", "connections", "under", "diagnosis", ".", "We", "collected", "ten", "hours", "of", "TCP", "connection", "data", "from", "Planetseer", ".", "In", "our", "initial", "experiments", "we", "choose", "to", "learn", "the", "average", "probability", "of", "failure", "over", "one", "hour", "because", "we", "find", "that", "clustering", "over", "shorter", "time", "scales", "does", "not", "provide", "enough", "data", "for", "accurate", "diagnosis", ".", "5.2", "Experimental", "Results", "First", "we", "compare", "the", "accuracy", "of", "three", "IP", "clustering", "methods", ":", "by", "Internet", "autonomous", "system", "number", "-LRB-", "AS", "-RRB-", ",", "by", "the", "first", "eight", "bits", "of", "the", "IP", "address", "-LRB-", "IP", "-RRB-", ",", "and", "by", "the", "country", "in", "which", "a", "host", "resides", "-LRB-", "Country", "-RRB-", ".", "We", "determine", "the", "country", "of", "a", "host", "using", "the", "hostip.info", "database", "4", ",", "which", "maps", "the", "first", "24", "bits", "of", "an", "IP", "address", "to", "a", "country", "using", "location", "information", "contributed", "by", "Internet", "users", ".", "We", "train", "three", "Bayesian", "networks", "corresponding", "to", "the", "three", "clustering", "methods", "using", "data", "from", "hour", "1", ".", "Then", "we", "test", "these", "Bayesian", "networks", "on", "the", "proxy", "connection", "failures", "constructed", "using", "data", "from", "hours", "2", "10", "and", "averaged", "the", "results", ".", "We", "use", "a", "junction", "tree", "inference", "engine", "to", "compute", "the", "most", "likely", "status", "for", "each", "TCP", "connection", "and", "compare", "the", "inferred", "status", "with", "the", "actual", "status", "from", "the", "data", ".", "Since", "the", "Bayesian", "network", "we", "use", "for", "inference", "has", "no", "cycles", ",", "we", "can", "perform", "Bayesian", "learning", "and", "junction", "tree", "inference", "rapidly", ";", "in", "our", "experiments", ",", "inference", "for", "a", "single", "connection", "requires", "approximately", "5", "ms.", "4", "http://www.hostip.info/", "0", "%", "10", "%", "20", "%", "30", "%", "40", "%", "50", "%", "60", "%", "70", "%", "80", "%", "90", "%", "100", "%", "1", "2", "3", "4", "5", "6", "7", "8", "9", "Training", "Set", "Age", "-LRB-", "hours", "-RRB-", "Accuracy", "Figure", "4", ":", "Accuracy", "vs.", "Training", "Set", "Age", "Figure", "2", "compares", "the", "diagnostic", "accuracy", "of", "these", "three", "clustering", "approaches", ".", "We", "define", "accuracy", "as", "the", "fraction", "of", "correct", "status", "inferences", ".", "As", "a", "baseline", ",", "we", "also", "plot", "the", "accuracy", "of", "simply", "guessing", "that", "every", "failure", "is", "due", "to", "a", "user/proxy", "connection", "failure", ".", "Figure", "2", "shows", "that", "all", "three", "clustering", "methods", "provide", "similar", "degrees", "of", "accuracy", ".", "Our", "hypothesis", "was", "that", "clustering", "based", "on", "AS", "would", "produce", "the", "most", "accurate", "results", ",", "but", "our", "experiments", "show", "that", "clustering", "based", "on", "the", "first", "8", "bits", "of", "the", "IP", "address", "yields", "higher", "accuracy", "for", "short", "time", "intervals", ".", "This", "may", "be", "because", "one", "hour", "is", "not", "enough", "time", "to", "accurately", "learn", "inter-AS", "TCP", "failure", "probabilities", ",", "or", "due", "to", "inaccuracies", "in", "the", "Route", "Views", "BGP", "table", ".", "Next", "we", "computed", "the", "accuracy", "of", "diagnosis", "as", "we", "increase", "the", "time", "interval", "over", "which", "we", "cluster", "TCP", "connections", ".", "If", "the", "interval", "over", "which", "we", "train", "is", "too", "short", ",", "then", "we", "will", "not", "have", "enough", "data", "to", "accurately", "learn", "failure", "probabilities", ".", "If", "the", "interval", "is", "too", "long", ",", "then", "it", "may", "not", "accurately", "reflect", "changing", "network", "conditions", ".", "We", "train", "a", "Bayesian", "network", "using", "AS", "clustering", "on", "x", "hours", "before", "hour", "10", "for", "values", "of", "x", "from", "1", "to", "9", ".", "We", "then", "test", "each", "Bayesian", "network", "on", "the", "data", "from", "hour", "10", ".", "Figure", "3", "shows", "how", "accuracy", "changes", "as", "the", "training", "time", "interval", "changes", ".", "This", "plot", "shows", "that", "accuracy", "increases", "as", "the", "clustering", "time", "interval", "increases", ",", "suggesting", "that", "the", "training", "value", "of", "incorporating", "additional", "data", "outweighs", "the", "inaccuracy", "introduced", "by", "using", "older", "data", ".", "Finally", ",", "we", "compute", "the", "accuracy", "of", "diagnosis", "as", "we", "increase", "the", "age", "of", "the", "data", "on", "which", "we", "trained", "the", "Bayesian", "network", ".", "We", "train", "a", "Bayesian", "network", "using", "AS", "clustering", "on", "data", "from", "hour", "1", "and", "test", "it", "on", "overlay", "failures", "observed", "during", "each", "of", "the", "hours", "from", "2", "to", "10", ".", "Figure", "4", "plots", "the", "accuracy", "of", "diagnosis", "over", "time", ".", "Average", "accuracy", "changes", "over", "time", "because", "the", "distribution", "of", "failures", "we", "observe", "using", "Planetseer", "varies", "from", "hour", "to", "hour", ",", "but", "overall", "diagnostic", "accuracy", "diminishes", "only", "slightly", "after", "nine", "hours", ",", "suggesting", "that", "the", "distribution", "of", "TCP", "failure", "probabilities", "remains", "relatively", "stationary", "over", "time", ".", "We", "also", "compare", "the", "false", "positive", "and", "false", "negative", "rates", "for", "each", "clustering", "method", ".", "The", "false", "positive", "rate", "is", "the", "fraction", "of", "functioning", "connections", "that", "are", "incorrectly", "diagnosed", "as", "having", "failed", ",", "while", "the", "false", "negative", "rate", "is", "the", "fraction", "of", "failed", "connections", "that", "are", "incorrectly", "diagnosed", "as", "functioning", ".", "Table", "1", "lists", "the", "false", "positive", "and", "false", "negative", "rates", "for", "each", "clustering", "method", ".", "5.3", "Analysis", "These", "experiments", "show", "that", "we", "can", "diagnose", "overlay", "connection", "failures", "knowing", "only", "the", "AS", "numbers", "of", "its", "TCP", "endpoints", ".", "309", "AS", "Country", "IP", "Baseline", "user/proxy", "false", "pos", ".", "0.174", "0.358", "0.426", "1.000", "user/proxy", "false", "neg", ".", "0.219", "0.050", "0.060", "0.000", "proxy/server", "false", "pos", ".", "0.219", "0.101", "0.265", "0.000", "proxy/server", "false", "neg", ".", "0.171", "0.128", "0.100", "1.000", "Table", "1", ":", "Diagnosis", "error", "rates", "by", "type", "One", "reason", "our", "approach", "to", "diagnosis", "works", "is", "due", "to", "the", "heavy-tailed", "distribution", "of", "TCP", "connection", "failure", "probability", ".", "The", "majority", "of", "TCP", "failures", "occur", "among", "a", "small", "number", "of", "AS", "pairs", ".", "Therefore", "most", "CoDeeN", "connection", "failures", "involve", "one", "TCP", "connection", "with", "low", "failure", "probability", "and", "another", "TCP", "connection", "with", "high", "failure", "probability", ",", "so", "probabilistic", "inference", "produces", "the", "correct", "diagnosis", ".", "For", "example", ",", "we", "find", "that", "TCP", "connections", "from", "hosts", "in", "China", "to", "hosts", "in", "the", "USA", "tend", "to", "have", "a", "much", "higher", "probability", "of", "failure", "than", "connections", "within", "the", "USA", ".", "If", "an", "CoDeeN", "user", "in", "China", "accesses", "a", "proxy", "in", "the", "USA", "to", "retrieve", "content", "from", "a", "web", "server", "in", "the", "USA", "and", "experiences", "a", "failure", ",", "then", "it", "is", "very", "likely", "that", "the", "failure", "occurred", "on", "the", "connection", "between", "the", "user", "and", "the", "CoDeeN", "node", ".", "If", "the", "probability", "of", "failure", "for", "every", "pair", "of", "ASes", "were", "equal", ",", "then", "our", "probabilistic", "approach", "to", "diagnosis", "would", "not", "work", "as", "well", ".", "Another", "interesting", "result", "is", "that", "the", "accuracy", "of", "diagnosis", "diminishes", "relatively", "slowly", "over", "time", ",", "implying", "that", "the", "distribution", "of", "TCP", "failures", "in", "the", "Internet", "stays", "relatively", "stationary", "over", "time", ".", "This", "suggests", "that", "diagnostic", "agents", "can", "perform", "accurate", "diagnosis", "using", "inter-AS", "TCP", "failure", "probabilities", "without", "having", "to", "con-stantly", "collect", "the", "latest", "TCP", "failure", "data", ".", "Our", "initial", "experimental", "results", "indicate", "that", "our", "passive", "probabilistic", "approach", "to", "diagnosing", "TCP", "overlay", "connection", "failures", "can", "provide", "useful", "diagnostic", "information", ".", "In", "this", "paper", "we", "show", "that", "Bayesian", "inference", "provides", "a", "useful", "framework", "for", "diagnosing", "two", "hop", "overlay", "connection", "failures", "on", "CoDeeN", ",", "but", "our", "approach", "can", "generalize", "to", "the", "diagnosis", "of", "other", "overlay", "connection", "failures", "as", "well", ".", "We", "view", "our", "approach", "to", "diagnosing", "TCP", "overlay", "connection", "failures", "as", "just", "one", "example", "of", "a", "more", "general", "probabilistic", "approach", "for", "Internet", "fault", "diagnosis", ".", "In", "this", "paper", "we", "show", "how", "to", "use", "inter-AS", "TCP", "failure", "probabilities", "to", "diagnose", "failures", "in", "overlay", "networks", ",", "but", "the", "technique", "we", "used", "to", "diagnose", "failures", "in", "CoDeeN", "can", "be", "extended", "to", "the", "diagnosis", "of", "other", "overlays", "as", "well", ".", "We", "can", "apply", "the", "knowledge", "we", "learned", "from", "Planetseer", "to", "diagnose", "other", "classes", "of", "network", "components", "and", "applications", "by", "adding", "new", "nodes", "and", "edges", "to", "the", "Bayesian", "network", "we", "use", "for", "diagnosis", ".", "In", "this", "paper", "we", "only", "considered", "diagnosis", "without", "using", "any", "additional", "evidence", "about", "a", "failure", ".", "Typically", ",", "however", ",", "when", "failures", "occur", "users", "may", "already", "know", "the", "status", "of", "certain", "network", "components", "and", "can", "perform", "diagnostic", "probes", "to", "collect", "additional", "evidence", "for", "diagnosing", "failures", ".", "We", "can", "improve", "the", "accuracy", "of", "our", "approach", "by", "adding", "variables", "and", "edges", "to", "the", "Bayesian", "network", "to", "take", "into", "account", "this", "information", ".", "For", "instance", ",", "if", "we", "know", "the", "IP", "paths", "that", "TCP", "connections", "traverse", ",", "we", "can", "incorporate", "evidence", "of", "IP", "link", "failures", "into", "the", "Bayesian", "network", ".", "We", "intend", "to", "explore", "how", "agents", "can", "incorporate", "such", "additional", "evidence", "into", "a", "Bayesian", "network", "to", "improve", "diagnostic", "accuracy", ".", "In", "future", "work", "we", "will", "also", "examine", "more", "accurate", "models", "for", "Internet", "fault", "diagnosis", "that", "take", "into", "account", "failures", "at", "both", "short", "and", "long", "time", "scales", ".", "In", "this", "paper", "we", "only", "evaluated", "our", "algorithm", "on", "ten", "hours", "of", "data", "from", "Planetseer", ";", "we", "would", "like", "to", "conduct", "additional", "experiments", "to", "more", "accurately", "determine", "the", "effectiveness", "of", "diagnosis", "using", "data", "from", "other", "time", "periods", "as", "well", ".", "In", "addition", "we", "would", "like", "to", "explore", "other", "clustering", "methods", ",", "including", "dy-namically", "choosing", "the", "prefix", "length", "on", "which", "to", "cluster", "based", "on", "how", "much", "data", "an", "agent", "has", "about", "TCP", "connections", "to", "a", "particular", "IP", "range", ".", "Finally", ",", "though", "our", "paper", "describes", "a", "centralized", "diagnosis", "approach", ",", "this", "approach", "can", "easily", "be", "adapted", "for", "distributed", "diagnosis", ".", "Knowledge", "of", "the", "overlay", "topology", "and", "the", "conditional", "probabilities", "in", "the", "CPTs", "can", "be", "distributed", "among", "multiple", "agents", "in", "the", "Internet", ",", "allowing", "different", "agents", "to", "collect", "failure", "data", "from", "different", "points", "in", "the", "network", ".", "We", "are", "currently", "developing", "such", "a", "distributed", "system", "for", "the", "diagnosis", "of", "TCP", "application", "failures", "in", "the", "Internet", ".", "-LSB-", "1", "-RSB-", "D.", "G.", "Andersen", ",", "H.", "Balakrishnan", ",", "M.", "F.", "Kaashoek", ",", "and", "R.", "Morris", ".", "Resilient", "overlay", "networks", ".", "In", "Proceedings", "of", "the", "18th", "ACM", "Symposium", "on", "Operating", "System", "Principles", "-LRB-", "SOSP", "-RRB-", ",", "2001", ".", "-LSB-", "2", "-RSB-", "B.", "Chun", ",", "D.", "Culler", ",", "T.", "Roscoe", ",", "A.", "Bavier", ",", "L.", "Peterson", ",", "M.", "Wawrzoniak", ",", "and", "M.", "Bowman", ".", "Planetlab", ":", "an", "overlay", "testbed", "for", "broad-coverage", "services", ".", "SIGCOMM", "Comput", ".", "Commun", ".", "Rev.", ",", "33", "-LRB-", "3", "-RRB-", ":", "3", "12", ",", "2003", ".", "-LSB-", "3", "-RSB-", "S.", "Guha", "and", "P.", "Francis", ".", "Characterization", "and", "measurement", "of", "tcp", "traversal", "through", "nats", "and", "firewalls", ".", "In", "Internet", "Measurement", "Conference", "2005", "-LRB-", "IMC", "'", "05", "-RRB-", ",", "2005", ".", "-LSB-", "4", "-RSB-", "S.", "Kandula", ",", "D.", "Katabi", ",", "and", "J.-P", ".", "Vasseur", ".", "Shrink", ":", "A", "Tool", "for", "Failure", "Diagnosis", "in", "IP", "Networks", ".", "In", "ACM", "SIGCOMM", "Workshop", "on", "mining", "network", "data", "-LRB-", "MineNet-05", "-RRB-", ",", "Philadelphia", ",", "PA", ",", "August", "2005", ".", "-LSB-", "5", "-RSB-", "U.", "Lerner", ",", "R.", "Parr", ",", "D.", "Koller", ",", "and", "G.", "Biswas", ".", "Bayesian", "fault", "detection", "and", "diagnosis", "in", "dynamic", "systems", ".", "In", "Proceedings", "of", "the", "Seventeenth", "National", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "AAAI-00", "-RRB-", ",", "pages", "531", "537", ",", "Austin", ",", "Texas", ",", "August", "2000", ".", "-LSB-", "6", "-RSB-", "A.", "S.", "M", "Steinder", ".", "Increasing", "robustness", "of", "fault", "localization", "through", "analysis", "of", "lost", ",", "spurious", ",", "and", "positive", "symptoms", ".", "In", "Proceedings", "of", "INFOCOM", ",", "2002", ".", "-LSB-", "7", "-RSB-", "R.", "Mahajan", ",", "N.", "Spring", ",", "D.", "Wetherall", ",", "and", "T.", "Anderson", ".", "User-level", "internet", "path", "diagnosis", ".", "In", "Proceedings", "of", "ACM", "SOSP", ",", "2003", ".", "-LSB-", "8", "-RSB-", "V.", "N.", "Padmanabhan", ",", "S.", "Ramabhadran", ",", "and", "J.", "Padhye", ".", "Netprofiler", ":", "Profiling", "wide-area", "networks", "using", "peer", "cooperation", ".", "In", "Proceedings", "of", "the", "Fourth", "International", "Workshop", "on", "Peer-to-Peer", "Systems", "-LRB-", "IPTPS", "-RRB-", ",", "February", "2005", ".", "-LSB-", "9", "-RSB-", "L.", "Wang", ",", "K.", "Park", ",", "R.", "Pang", ",", "V.", "Pai", ",", "and", "L.", "Peterson", ".", "Reliability", "and", "security", "in", "the", "codeen", "content", "distribution", "network", ".", "In", "Proceedings", "of", "the", "USENIX", "2004", "Annual", "Technical", "Conference", ",", "2004", ".", "-LSB-", "10", "-RSB-", "A.", "Ward", ",", "P.", "Glynn", ",", "and", "K.", "Richardson", ".", "Internet", "service", "performance", "failure", "detection", ".", "SIGMETRICS", "Perform", ".", "Eval", ".", "Rev.", ",", "26", "-LRB-", "3", "-RRB-", ":", "38", "43", ",", "1998", ".", "-LSB-", "11", "-RSB-", "M.", "Zhang", ",", "C.", "Zhang", ",", "V.", "Pai", ",", "L.", "Peterson", ",", "and", "R.", "Wang", ".", "Planetseer", ":", "Internet", "path", "failure", "monitoring", "and", "characterization", "in", "wide-area", "services", ".", "In", "Proceedings", "of", "Sixth", "Symposium", "on", "Operating", "Systems", "Design", "and", "Implementation", "-LRB-", "OSDI", "'", "04", "-RRB-", ",", "2004", ".", "310"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["clustering", "planetseer", "bayesian networks", "tcp overlay path diagnosis", "active probing for diagnosis", "nat", "network address translation", "fault diagnosis", "codeen traffic patterns", "passive diagnosis"], "abstractive_keyphrases": ["tcp overlay connections", "inter-as tcp failure probabilities", "planetseer overlay monitoring system", "bayesian networks modelling"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "80", "document": ["-", "Queries", ":", "Enabling", "Querying", "for", "Semantic", "Associations", "on", "the", "Semantic", "Web", "This", "paper", "presents", "the", "notion", "of", "Semantic", "Associations", "as", "complex", "relationships", "between", "resource", "entities", ".", "These", "relationships", "capture", "both", "a", "connectivity", "of", "entities", "as", "well", "as", "similarity", "of", "entities", "based", "on", "a", "specific", "notion", "of", "similarity", "called", "-", "isomorphism", ".", "It", "formalizes", "these", "notions", "for", "the", "RDF", "data", "model", ",", "by", "introducing", "a", "notion", "of", "a", "Property", "Sequence", "as", "a", "type", ".", "In", "the", "context", "of", "a", "graph", "model", "such", "as", "that", "for", "RDF", ",", "Semantic", "Associations", "amount", "to", "specific", "certain", "graph", "signatures", ".", "Specifically", ",", "they", "refer", "to", "sequences", "-LRB-", "i.e.", "directed", "paths", "-RRB-", "here", "called", "Property", "Sequences", ",", "between", "entities", ",", "networks", "of", "Property", "Sequences", "-LRB-", "i.e.", "undirected", "paths", "-RRB-", ",", "or", "subgraphs", "of", "-", "isomorphic", "Property", "Sequences", ".", "The", "ability", "to", "query", "about", "the", "existence", "of", "such", "relationships", "is", "fundamental", "to", "tasks", "in", "analytical", "domains", "such", "as", "national", "security", "and", "business", "intelligence", ",", "where", "tasks", "often", "focus", "on", "finding", "complex", "yet", "meaningful", "and", "obscured", "relationships", "between", "entities", ".", "However", ",", "support", "for", "such", "queries", "is", "lacking", "in", "contemporary", "query", "systems", ",", "including", "those", "for", "RDF", ".", "This", "paper", "discusses", "how", "querying", "for", "Semantic", "Associations", "might", "be", "enabled", "on", "the", "Semantic", "Web", ",", "through", "the", "use", "of", "an", "operator", ".", "It", "also", "discusses", "two", "approaches", "for", "processing", "queries", "on", "available", "persistent", "RDF", "stores", "and", "memory", "resident", "RDF", "data", "graphs", ",", "thereby", "building", "on", "current", "RDF", "query", "languages", ".", "H.", "2.3", "-LSB-", "Information", "Systems", "-RSB-", ":", "Database", "Management", "Query", "Languages", "Languages", ",", "Theory", ",", "Management", "The", "Semantic", "Web", "-LSB-", "13", "-RSB-", "proposes", "to", "explicate", "the", "meaning", "of", "Web", "resources", "by", "annotating", "them", "with", "metadata", "that", "have", "been", "described", "in", "an", "ontology", ".", "This", "will", "enable", "machines", "to", "``", "understand", "''", "the", "meaning", "of", "resources", "on", "the", "Web", ",", "thereby", "unleashing", "the", "potential", "for", "software", "agents", "to", "perform", "tasks", "on", "behalf", "of", "humans", ".", "Consequently", ",", "significant", "effort", "in", "the", "Semantic", "Web", "research", "community", "is", "devoted", "to", "the", "development", "of", "machine", "processible", "ontology", "representation", "formalisms", ".", "Some", "success", "has", "been", "realized", "in", "this", "area", "in", "the", "form", "of", "W3C", "standards", "such", "as", "the", "eXtensible", "Markup", "Language", "-LRB-", "XML", "-RRB-", "-LSB-", "16", "-RSB-", "which", "is", "a", "standard", "for", "data", "representation", "and", "exchange", "on", "the", "Web", ",", "and", "the", "Resource", "Description", "Framework", "-LRB-", "RDF", "-RRB-", "-LSB-", "42", "-RSB-", ",", "along", "with", "its", "companion", "specification", ",", "RDF", "Schema", "-LRB-", "RDFS", "-RRB-", "-LSB-", "17", "-RSB-", ",", "which", "together", "provide", "a", "uniform", "format", "for", "the", "description", "and", "exchange", "of", "the", "semantics", "of", "web", "content", ".", "Other", "noteworthy", "efforts", "include", "OWL", "-LSB-", "25", "-RSB-", ",", "Topic", "Maps", "-LSB-", "53", "-RSB-", ",", "DAML+OIL", "-LSB-", "31", "-RSB-", ".", "There", "are", "also", "related", "efforts", "in", "both", "the", "academic", "and", "commercial", "communities", ",", "which", "are", "making", "available", "tools", "for", "semi-automatic", "-LSB-", "30", "-RSB-", "and", "automatic", "-LSB-", "49", "-RSB-", "-LSB-", "29", "-RSB-", "semantic", "-LRB-", "ontology-driven", "and/or", "domain-specific", "-RRB-", "metadata", "extraction", "and", "annotation", ".", "With", "the", "progress", "towards", "realizing", "the", "Semantic", "Web", ",", "the", "development", "of", "semantic", "query", "capabilities", "has", "become", "a", "pertinent", "research", "problem", ".", "Semantic", "querying", "techniques", "will", "exploit", "the", "semantics", "of", "web", "content", "to", "provide", "superior", "results", "than", "present-day", "techniques", "which", "rely", "mostly", "on", "lexical", "-LRB-", "e.g.", "search", "engines", "-RRB-", "and", "structural", "properties", "-LRB-", "e.g.", "XQuery", "-LSB-", "24", "-RSB-", "-RRB-", "of", "a", "document", ".", "There", "are", "now", "a", "number", "of", "proposals", "for", "querying", "RDF", "data", "including", "RQL", "-LSB-", "40", "-RSB-", ",", "SquishQL", "-LSB-", "45", "-RSB-", ",", "TRIPLE", "-LSB-", "49", "-RSB-", ",", "RDQL", "-LSB-", "48", "-RSB-", ".", "These", "languages", "offer", "most", "of", "the", "essential", "features", "for", "semantic", "querying", "such", "as", "the", "ability", "to", "query", "using", "ontological", "concepts", ",", "inferencing", "as", "part", "of", "query", "answering", ",", "and", "some", "allow", "the", "ability", "to", "specify", "incomplete", "queries", "through", "the", "use", "of", "path", "expressions", ".", "One", "key", "advantage", "of", "this", "last", "feature", "is", "that", "users", "do", "not", "need", "to", "have", "in-depth", "knowledge", "of", "schema", "and", "are", "not", "required", "to", "specify", "the", "exact", "paths", "that", "qualify", "the", "desired", "resource", "entities", ".", "However", ",", "even", "with", "such", "expressive", "capabilities", ",", "many", "of", "these", "languages", "do", "not", "adequately", "support", "a", "query", "paradigm", "that", "enables", "the", "discovery", "of", "complex", "relationships", "between", "resources", ".", "The", "pervasive", "querying", "paradigm", "offered", "by", "these", "languages", "is", "one", "in", "which", "queries", "are", "of", "the", "form", ":", "``", "Get", "all", "entities", "that", "are", "related", "to", "resource", "A", "via", "a", "relationship", "R", "''", "where", "R", "is", "typically", "specified", "as", "possibly", "a", "join", "condition", "or", "path", "expression", ",", "etc.", ".", "In", "this", "approach", ",", "a", "query", "is", "a", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "WWW2003", ",", "May", "20-24", ",", "2003", ",", "Budapest", ",", "Hungary", ".", "ACM", "1-58113-680-3", "/", "03/0005", ".", "690", "specification", "of", "which", "entities", "-LRB-", "i.e.", "resources", "-RRB-", "should", "be", "returned", "in", "the", "result", ".", "Sometimes", "the", "specification", "describes", "a", "relationship", "that", "the", "qualifying", "entities", "should", "have", "with", "other", "entities", ",", "e.g.", "a", "join", "expression", "or", "a", "path", "expression", "indicating", "a", "structural", "relationship", ".", "However", ",", "the", "requirement", "that", "such", "a", "relationship", "be", "specified", "as", "part", "of", "the", "query", "is", "prohibitive", "in", "domains", "with", "analytical", "or", "investigative", "tasks", "such", "as", "national/homeland", "security", "-LSB-", "11", "-RSB-", "and", "business", "intelligence", ",", "where", "the", "focus", "is", "on", "trying", "to", "uncover", "obscured", "relationships", "or", "associations", "between", "entities", "and", "very", "limited", "information", "about", "the", "existence", "and", "nature", "of", "any", "such", "relationship", "is", "known", "to", "the", "user", ".", "In", "fact", ",", "in", "this", "scenario", "the", "relationship", "between", "entities", "is", "the", "subject", "of", "the", "user", "'s", "query", "and", "should", "being", "returned", "as", "the", "result", "of", "the", "query", "as", "opposed", "to", "be", "specified", "as", "part", "of", "the", "query", ".", "That", "is", ",", "queries", "would", "be", "of", "the", "form", "``", "How", "is", "Resource", "A", "related", "to", "Resource", "B", "?", "''", ".", "For", "example", ",", "a", "security", "agent", "may", "want", "to", "find", "any", "relationship", "between", "a", "terrorist", "act", "and", "a", "terrorist", "organization", "or", "a", "country", "known", "to", "support", "such", "activities", ".", "One", "major", "challenge", "in", "dealing", "with", "queries", "of", "this", "nature", "is", "that", "it", "is", "often", "not", "clear", "exactly", "what", "notion", "of", "a", "relationship", "is", "required", "in", "the", "query", ".", "For", "example", ",", "in", "the", "context", "of", "assessing", "flight", "security", ",", "the", "fact", "that", "two", "passengers", "on", "the", "same", "flight", "are", "nationals", "of", "a", "country", "with", "known", "terrorist", "groups", "and", "that", "they", "have", "both", "recently", "acquired", "some", "flight", "training", ",", "may", "indicate", "an", "association", "due", "to", "a", "similarity", ".", "On", "the", "other", "hand", ",", "the", "fact", "that", "a", "passenger", "placed", "a", "phone", "call", "to", "someone", "in", "another", "country", "that", "is", "known", "to", "have", "links", "to", "terrorist", "organizations", "and", "activities", "may", "indicate", "another", "type", "of", "association", "characterized", "by", "connectivity", ".", "Therefore", ",", "various", "notions", "of", "``", "relatedness", "''", "should", "be", "supported", ".", "This", "paper", "intends", "to", "make", "two", "main", "contributions", ".", "First", ",", "we", "formalize", "a", "set", "of", "complex", "relationships", "for", "the", "RDF", "data", "model", ",", "which", "we", "call", "Semantic", "Associations", ".", "Second", ",", "we", "outline", "two", "possible", "approaches", "for", "processing", "queries", "about", "Semantic", "Associations", "through", "the", "use", "of", "an", "operator", "-LRB-", "-", "Queries", "-RRB-", ".", "One", "of", "the", "two", "approaches", "is", "based", "on", "processing", "-", "queries", "on", "persistent", "RDF", "data", "systems", "such", "as", "RDFSuite", "-LSB-", "8", "-RSB-", ",", "while", "the", "other", "is", "based", "on", "processing", "these", "queries", "on", "a", "main", "memory", "based", "representation", "of", "an", "RDF", "model", "such", "as", "JENA", "-LSB-", "56", "-RSB-", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "discusses", "some", "background", "and", "motivates", "our", "work", "with", "the", "help", "of", "an", "example", ".", "Section", "3", "presents", "the", "formal", "framework", "for", "Semantic", "Associations", ";", "section", "4", "discusses", "implementation", "strategies", "for", "the", "operator", ",", "section", "5", "reviews", "some", "related", "work", ",", "and", "section", "6", "concludes", "the", "paper", ".", "Although", "there", "are", "various", "knowledge", "modeling", "languages", "that", "may", "be", "used", "on", "the", "Semantic", "Web", "such", "as", "Topic", "Maps", "-LSB-", "55", "-RSB-", ",", "UML", "-LSB-", "47", "-RSB-", ",", "DAML+OIL", "-LSB-", "31", "-RSB-", ",", "OWL", "-LSB-", "25", "-RSB-", ",", "etc.", ",", "in", "this", "paper", "we", "have", "chosen", "to", "formalize", "Semantic", "Associations", "for", "the", "RDF", "data", "model", ".", "It", "should", "be", "clear", "that", "we", "are", "not", "suggesting", "that", "the", "notion", "of", "Semantic", "Associations", "only", "applies", "to", "RDF", ".", "On", "the", "contrary", ",", "the", "notion", "is", "very", "general", "and", "is", "applicable", "to", "any", "data", "model", "that", "can", "be", "represented", "as", "a", "graph", ".", "The", "choice", "of", "RDF", "for", "formalization", "does", "not", "confer", "serious", "problems", "however", ".", "In", "the", "first", "place", ",", "some", "of", "these", "other", "models", "e.g.", "DAML+OIL", "build", "upon", "RDF", ".", "Secondly", ",", "there", "is", "work", "on", "mappings", "from", "other", "formalisms", "to", "RDF", "-LSB-", "20", "-RSB-", "-LSB-", "41", "-RSB-", ".", "Next", ",", "we", "will", "briefly", "summarize", "the", "RDF", "data", "model", "and", "then", "motivate", "our", "work", "with", "an", "example", ".", "2.1", "RDF", "RDF", "-LSB-", "42", "-RSB-", "is", "a", "standard", "for", "describing", "and", "exchanging", "semantics", "of", "web", "resources", ".", "It", "provides", "a", "simple", "data", "model", "for", "describing", "relationships", "between", "resources", "in", "terms", "of", "named", "properties", "and", "their", "values", ".", "The", "rationale", "for", "the", "model", "is", "that", "by", "describing", "what", "relationships", "an", "entity", "has", "with", "other", "entities", ",", "we", "somehow", "capture", "the", "meaning", "of", "the", "entity", ".", "Relationships", "in", "RDF", ",", "or", "Properties", "as", "they", "are", "called", ",", "are", "binary", "relationships", "between", "two", "resources", ",", "or", "between", "a", "resource", "and", "a", "literal", "value", ".", "An", "RDF", "Statement", ",", "which", "is", "a", "triple", "of", "the", "form", "-LRB-", "Subject", ",", "Property", ",", "Object", "-RRB-", ",", "asserts", "that", "a", "resource", ",", "the", "Subject", ",", "has", "a", "Property", "whose", "value", "is", "the", "Object", "-LRB-", "which", "can", "be", "either", "another", "resource", "or", "a", "literal", "-RRB-", ".", "This", "model", "can", "be", "represented", "as", "a", "labeled", "directed", "graph", ",", "where", "nodes", "represent", "the", "resources", "-LRB-", "ovals", "-RRB-", "or", "literals", "-LRB-", "rectangles", "-RRB-", "and", "arcs", "representing", "properties", "whose", "source", "is", "the", "subject", "and", "target", "is", "the", "object", ",", "and", "are", "labeled", "with", "the", "name", "of", "the", "property", ".", "For", "example", ",", "in", "the", "bottom", "part", "of", "Figure", "1", ",", "we", "can", "see", "a", "node", "&", "r1", "connected", "by", "a", "paints", "arc", "to", "the", "node", "&", "r2", ",", "which", "reflects", "the", "fact", "that", "&", "r1", "-LRB-", "a", "painter", "with", "first", "name", "Pablo", ",", "and", "last", "name", "Picasso", "-RRB-", "painted", "another", "resource", "&", "r2", "-LRB-", "a", "painting", "-RRB-", ".", "The", "meaning", "of", "the", "nodes", "and", "arcs", "is", "derived", "from", "the", "connection", "of", "these", "nodes", "and", "arcs", "to", "a", "vocabulary", "-LRB-", "the", "top", "part", "of", "the", "figure", "-RRB-", ".", "The", "vocabulary", "contains", "describes", "types", "of", "entities", "i.e.", "classes", "-LRB-", "e.g.", "Museum", "-RRB-", "and", "types", "of", "properties", "-LRB-", "e.g.", "creates", "-RRB-", "for", "the", "domain", ".", "The", "vocabulary", "description", "and", "is", "done", "using", "the", "companion", "specification", "to", "RDF", "called", "the", "RDF", "Schema", "specification", "-LSB-", "17", "-RSB-", ".", "For", "example", "in", "Figure", "1", ",", "classes", "like", "Painter", ",", "Museum", "and", "properties", "such", "as", "Paints", ",", "are", "defined", ".", "Resources", "are", "connected", "to", "classes", "using", "an", "rdf", ":", "typeof", "property", "indicating", "an", "instantiation", "relationship", ".", "2.2", "MOTIVATING", "EXAMPLE", "Although", "the", "focus", "of", "our", "current", "evaluations", "involves", "scenarios", "in", "the", "National", "Security", "domain", ",", "for", "brevity", "and", "pedagogical", "reasons", ",", "for", "this", "paper", "we", "have", "chosen", "to", "use", "a", "modified", "version", "of", "the", "example", "from", "-LSB-", "40", "-RSB-", ".", "We", "will", "now", "illustrate", "Semantic", "Associations", "by", "way", "of", "a", "simple", "example", "shown", "in", "Figure", "1", ".", "The", "figure", "shows", "an", "RDF", "model", "base", "containing", "information", "to", "be", "used", "in", "the", "development", "of", "a", "cultural", "portal", ",", "given", "from", "two", "perspectives", ",", "reflected", "in", "two", "different", "schemas", "-LRB-", "the", "top", "part", "of", "the", "figure", "-RRB-", ".", "The", "top", "left", "section", "of", "the", "picture", "is", "a", "schema", "that", "reflects", "a", "museum", "specialist", "'s", "perspective", "of", "the", "domains", "using", "concepts", "like", "Museum", ",", "Artist", ",", "Artifact", ",", "etc.", ".", "The", "top", "right", "section", "is", "a", "schema", "that", "reflects", "a", "Portal", "administrator", "'s", "perspective", "of", "the", "domains", "using", "administrative", "metadata", "concepts", "like", "file-size", ",", "mime-type", ",", "etc.", "to", "describe", "resources", ".", "The", "lower", "part", "of", "the", "figure", "is", "the", "model", "base", "-LRB-", "or", "description", "base", "in", "the", "linguo", "of", "-LSB-", "40", "-RSB-", "-RRB-", ",", "that", "has", "descriptions", "about", "some", "Web", "resources", ",", "e.g.", ",", "museum", "websites", "-LRB-", "&", "r3", ",", "&", "r8", "-RRB-", ",", "images", "of", "artifacts", "-LRB-", "&", "r2", ",", "&", "r5", ",", "&", "r7", "-RRB-", "and", "for", "resources", "that", "are", "not", "directly", "present", "on", "the", "Web", ",", "e.g.", ",", "people", ",", "nodes", "representing", "electronic", "surrogates", "are", "created", "-LRB-", "&", "r1", ",", "&", "r4", ",", "&", "r6", "for", "the", "artists", "Pablo", "Picasso", ",", "Rembrandt", ",", "and", "Rodin", "August", "respectively", "-RRB-", ".", "691", "&", "r3", "&", "r5", "``", "Reina", "Sofia", "Museun", "''", "&", "r7", "``", "oil", "on", "canvas", "''", "&", "r2", "2000-02-01", "``", "oil", "on", "canvas", "''", "&", "r8", "``", "Rodin", "Museum", "''", "``", "image/jpeg", "''", "2000-6-09", "Ext.", ".", "Resource", "String", "Date", "Integer", "String", "title", "file_siz", "e", "last_modified", "m", "i", "m", "e", "t", "y", "p", "e", "Artist", "Sculptor", "Artifact", "Sculpture", "Museum", "String", "String", "String", "fname", "lname", "creates", "exhibited", "sculpts", "String", "Painting", "Painter", "paints", "technique", "material", "typeOf", "-LRB-", "instance", "-RRB-", "subClassOf", "-LRB-", "isA", "-RRB-", "subPropertyOf", "mime-type", "exhibited", "technique", "exhibited", "title", "last_modified", "last_modified", "title", "technique", "exhibited", "``", "Rodin", "''", "``", "August", "''", "&", "r6", "&", "r1", "fname", "lname", "fname", "lname", "paints", "paints", "creates", "&", "r4", "``", "Rembrandt", "''", "``", "Pablo", "''", "``", "Picasso", "''", "fname", "Figure", "1", ":", "Cultural", "Portal", "Information", "in", "RDF", "Typically", ",", "a", "query", "language", "allows", "you", "to", "find", "all", "entities", "that", "are", "related", "by", "a", "specific", "relationship", ".", "For", "example", ",", "we", "may", "ask", "a", "query", "to", "retrieve", "all", "resources", "related", "to", "resource", "&", "r1", "via", "a", "paints", "relationship", ",", "or", "via", "a", "paints.exhibited", "relationship", ",", "and", "get", "&", "r2", "as", "a", "result", "for", "the", "first", "query", "and", "&", "r3", "as", "the", "answer", "for", "the", "second", "query", ".", "However", ",", "we", "are", "unable", "to", "ask", "queries", "such", "as", "``", "How", "are", "resources", "&", "r1", "and", "&", "r3", "related", "?", "Such", "a", "query", "should", "return", "for", "example", "that", "''", "&", "r1", "paints", "&", "r2", "which", "is", "exhibited", "in", "&", "r3", "''", ",", "indicating", "a", "path", "connecting", "the", "two", "entities", ".", "With", "a", "query", "such", "as", "this", "one", ",", "the", "user", "is", "trying", "to", "determine", "if", "there", "is", "a", "relationship", "between", "entities", ",", "and", "what", "the", "nature", "of", "the", "relationship", "-LRB-", "s", "-RRB-", "is", "-LRB-", "are", "-RRB-", ".", "It", "should", "be", "possible", "to", "ask", "such", "a", "query", "without", "any", "type", "of", "specification", "as", "to", "the", "nature", "of", "the", "relationship", ",", "such", "as", "using", "a", "path", "expression", "to", "give", "information", "about", "the", "structure", "of", "the", "relationship", ".", "For", "example", ",", "the", "following", "example", "RQL", "query", "select", "*", "from", "-LCB-", ";", "Artist", "-RCB-", "@P", "-LCB-", "X", "-RCB-", ".", "-LCB-", ";", "Sculpture", "-RCB-", "@Q", "-LCB-", "Y", "-RCB-", ".", "@R", "-LCB-", "Z", "-RCB-", "finds", "all", "data", "paths", "that", "traverse", "the", "class", "hierarchies", "Artist", "and", "Sculpture", ",", "containing", "three", "schema", "properties", ",", "one", "for", "each", "property", "variable", "-LRB-", "@variable", "-RRB-", ".", "However", ",", "we", "notice", "that", "the", "query", "requires", "that", "a", "property", "variable", "be", "added", "for", "every", "edge", "in", "the", "required", "path", ".", "That", "is", ",", "the", "user", "is", "required", "to", "have", "some", "idea", "of", "at", "least", "the", "structure", "e.g.", "length", ",", "of", "the", "relationship", ".", "One", "approach", "that", "some", "of", "these", "systems", "offer", "to", "alleviate", "this", "problem", "is", "that", "they", "provide", "mechanisms", "for", "browsing", "or", "querying", "schemas", "to", "allow", "users", "to", "get", "the", "information", "they", "need", ".", "While", "this", "may", "be", "a", "reasonable", "requirement", "when", "querying", "specific", "domains", "with", "a", "few", "schemas", "involved", ",", "on", "the", "Semantic", "Web", ",", "many", "schemas", "may", "be", "involved", "in", "a", "query", ",", "and", "requiring", "a", "user", "to", "browse", "them", "all", "would", "be", "a", "daunting", "task", "for", "the", "user", ".", "In", "fact", ",", "in", "some", "cases", ",", "such", "information", "may", "not", "be", "available", "to", "all", "users", "-LRB-", "e.g.", ",", "classified", "information", "-RRB-", "even", "though", "the", "data", "may", "be", "used", "indirectly", "to", "answer", "queries", ".", "Furthermore", ",", "browsing", "schemas", "do", "not", "always", "give", "the", "complete", "picture", ",", "especially", "in", "the", "case", "of", "RDFS", "schemas", ",", "because", ",", "entities", "may", "belong", "to", "different", "schemas", ",", "creating", "links", "between", "entities", "that", "are", "not", "obvious", "from", "just", "looking", "at", "the", "schemas", ".", "For", "example", "in", "Figure", "1", ",", "the", "relationship", "paints.exhibited.title", "connecting", "&", "r1", "to", "``", "Reina", "Soifa", "Museum", "''", ",", "is", "not", "apparent", "by", "just", "looking", "at", "either", "schema", ".", "So", "far", ",", "we", "have", "talked", "about", "relationships", "in", "terms", "of", "a", "directed", "path", "connecting", "two", "entities", ".", "However", ",", "there", "are", "some", "other", "interesting", "types", "of", "relationships", ".", "Let", "us", "take", "for", "example", ",", "resources", "&", "r4", "and", "&", "r6", ".", "Both", "resources", "could", "be", "said", "to", "be", "related", "because", "they", "have", "both", "created", "artifacts", "-LRB-", "&", "r5", ",", "and", "&", "r7", "-RRB-", "that", "are", "exhibited", "at", "the", "same", "museum", "-LRB-", "&", "r8", "-RRB-", ".", "In", "this", "case", ",", "having", "some", "relationship", "to", "the", "same", "museum", "associates", "both", "resources", ".", "This", "kind", "of", "connectivity", "is", "an", "undirected", "path", "between", "the", "entities", ".", "Another", "closely", "related", "kind", "of", "association", "is", "class", "membership", ".", "For", "example", ",", "&", "r1", "and", "&", "r6", "are", "both", "Artists", ",", "even", "though", "of", "a", "different", "kind", ",", "and", "therefore", "are", "somewhat", "associated", ".", "Also", ",", "&", "r1", "and", "&", "r6", "could", "be", "said", "to", "be", "associated", "because", "they", "both", "have", "creations", "-LRB-", "&", "r2", ",", "and", "&", "r7", "-RRB-", "that", "are", "exhibited", "by", "a", "Museum", "-LRB-", "&", "r3", "and", "&", "r8", "respectively", "-RRB-", ".", "In", "this", "case", ",", "the", "association", "is", "that", "of", "a", "similarity", ".", "So", ",", "in", "the", "first", "three", "associations", "the", "relationships", "capture", "some", "kind", "of", "connectivity", "between", "entities", ",", "while", "the", "last", "association", "captures", "a", "similarity", "between", "entities", ".", "Note", "that", "the", "notion", "of", "similarity", "used", "here", "is", "not", "just", "a", "structural", "similarity", ",", "but", "a", "semantic", "similarity", "of", "paths", "-LRB-", "nodes", "and", "edges", "-RRB-", "that", "the", "entities", "are", "involved", "in", ".", "Nodes", "are", "considered", "similar", ",", "if", "they", "have", "a", "common", "ancestor", "class", ".", "For", "example", "in", "the", "relationship", "involving", "&", "r1", "and", "&", "r6", ",", "although", "one", "case", "involves", "a", "painting", "and", "the", "other", "a", "sculpture", ",", "we", "consider", "them", "similar", "because", "sculptures", "and", "paintings", "are", "kinds", "of", "Artifacts", "and", "sculpting", "and", "painting", "are", "both", "kinds", "of", "creative", "activities", "-LRB-", "the", "notion", "of", "similarity", "is", "extended", "to", "properties", "as", "well", "-RRB-", ".", "The", "Semantic", "Associations", "shown", "in", "this", "example", "are", "fairly", "simple", "involving", "only", "short", "paths", "and", "are", "useful", "only", "for", "the", "purpose", "of", "illustration", ".", "However", ",", "in", "environments", "that", "support", "information", "analytics", "and", "knowledge", "discovery", "involve", "longer", "paths", ",", "especially", "undirected", "paths", ",", "which", "are", "not", "easily", "detectable", "by", "users", "in", "fast-paced", "environments", ".", "For", "example", "at", "airport", "security", "portals", ",", "agents", "may", "want", "to", "quickly", "determine", "if", "a", "passenger", "has", "any", "kind", "of", "link", "to", "terrorist", "organizations", "or", "activities", ".", "The", "framework", "described", "in", "this", "section", "provides", "a", "formal", "basis", "for", "Semantic", "Associations", ".", "It", "builds", "on", "the", "formalization", "for", "the", "RDF", "data", "model", "given", "in", "-LSB-", "40", "-RSB-", ",", "by", "including", "a", "notion", "of", "a", "Property", "Sequence", ".", "A", "Property", "Sequence", "allows", "us", "to", "capture", "paths", "in", "the", "RDF", "model", "and", "forms", "the", "basis", "for", "formalizing", "Semantic", "Associations", "as", "binary", "relations", "on", "Property", "Sequences", ".", "Secondly", ",", "we", "some", "complex", "queries", "called", "-", "queries", "for", "querying", "about", "Semantic", "Associations", ".", "3.1", "Formal", "Data", "Model", "In", "section", "2.1", ",", "we", "describe", "the", "RDF", "data", "model", "informally", "as", "a", "labeled", "directed", "graph", ".", "To", "recap", ",", "the", "RDF", "Schema", "specification", "-LSB-", "17", "-RSB-", "provides", "a", "special", "vocabulary", "for", "describing", "classes", "and", "properties", "in", "a", "domain", ".", "A", "Property", "is", "defined", "by", "specifying", "its", "domain", "-LRB-", "the", "set", "of", "classes", "that", "it", "applies", "to", "-RRB-", ",", "and", "its", "range", "-LRB-", "either", "a", "Literal", "type", "e.g.", "String", ",", "Integer", ",", "etc", ",", "or", "the", "classes", "whose", "entities", "it", "may", "take", "as", "values", "-RRB-", ".", "Classes", "are", "defined", "in", "terms", "of", "their", "relationship", "to", "other", "classes", "using", "the", "rdfs", ":", "sublassOf", "property", "to", "place", "them", "at", "the", "appropriate", "location", "in", "a", "class", "hierarchy", ",", "as", "well", "as", "other", "user", "specified", "properties", "that", "may", "include", "them", "in", "their", "range", "or", "domain", "thereby", "linking", "them", "to", "other", "classes", ".", "Properties", "may", "also", "be", "organized", "in", "a", "hierarchy", "using", "the", "rdfs", ":", "subPropertyOf", "property", ".", "692", "The", "formalization", "in", "-LSB-", "40", "-RSB-", "defines", "a", "graph", "data", "model", "along", "with", "a", "type", "system", "that", "connects", "the", "RDF", "Model", "&", "Syntax", "specification", "with", "the", "RDFS", "schema", "specification", "using", "an", "interpretation", "mechanism", ".", "It", "forms", "the", "basis", "for", "a", "typed", "RDF", "query", "language", "called", "RQL", "-LSB-", "40", "-RSB-", ".", "RQL", "is", "fairly", "expressive", "and", "supports", "a", "broad", "range", "of", "queries", ".", "Its", "type", "system", "T", "is", "the", "set", "of", "all", "possible", "types", "that", "can", "be", "constructed", "from", "the", "following", "types", ":", "=", "C", "|", "P", "|", "M", "|", "U", "|", "L", "|", "-LCB-", "-RCB-", "|", "-LSB-", "1", ":", "1", ",", "2", ":", "2", ",", "...", ",", "n", ":", "n", "-RSB-", "|", "-LRB-", "1", ":", "1", "+", "2", ":", "2", "+", "...", "+", "n", ":", "n", "-RRB-", "where", "C", "indicates", "a", "class", "type", ",", "P", "a", "property", "type", ",", "M", "a", "metaclass", "type", ",", "L", "a", "literal", "type", "in", "the", "set", "L", "of", "literal", "type", "names", "-LRB-", "string", ",", "integer", ",", "etc.", "-RRB-", ",", "and", "U", "is", "the", "type", "for", "resource", "URIs", ".", "For", "the", "RDF", "multi-valued", "types", "we", "have", "-LCB-", ".", "-RCB-", "as", "the", "Bag", "type", ",", "-LSB-", ".", "-RSB-", "is", "the", "Sequence", "type", ",", "and", "-LRB-", ".", "-RRB-", "is", "the", "Alternative", "type", ".", "The", "set", "of", "values", "that", "can", "be", "constructed", "using", "the", "resource", "URIs", ",", "literals", "and", "class", "property", "names", "is", "called", "V.", "Then", ",", "the", "interpretation", "of", "types", "in", "T", "is", "given", "naturally", "by", "the", "interpretation", "function", "-LSB-", "-LSB-", "-RSB-", "-RSB-", ",", "which", "is", "a", "mapping", "from", "to", "the", "set", "of", "values", "in", "V.", "For", "example", ",", "a", "class", "C", "is", "interpreted", "as", "unary", "relation", "of", "type", "-LCB-", "U", "-RCB-", ",", "which", "is", "the", "set", "of", "resources", "-LRB-", "i.e.", "of", "type", "U", "-RRB-", "that", "have", "an", "rdf", ":", "typeOf", "property", "with", "range", "C", ",", "and", "includes", "the", "interpretations", "of", "the", "subclasses", "of", "C.", "For", "a", "property", "p", ",", "-LSB-", "-LSB-", "p", "-RSB-", "-RSB-", "is", "given", "by", "-LCB-", "-LSB-", "v", "1", ",", "v", "2", "-RSB-", "|", "v", "1", "-LSB-", "-LSB-", "p.domain", "-RSB-", "-RSB-", ",", "v", "2", "-LSB-", "-LSB-", "p.range", "-RSB-", "-RSB-", "-RCB-", "-LCB-", "-LSB-", "-LSB-", "p", "'", "-RSB-", "-RSB-", "|", "p", "'", "is", "a", "subPropertyOf", "p", "-RCB-", "It", "defines", "an", "RDF", "schema", "as", "a", "5-tuple", "RS", "=", "-LRB-", "V", "S", ",", "E", "S", ",", ",", ",", "H", "-RRB-", "where", ":", "V", "S", "is", "the", "set", "of", "nodes", "and", "E", "S", "is", "the", "set", "of", "edges", ".", "is", "an", "incidence", "function", ":", "E", "S", "V", "S", "V", "S", ",", "and", "is", "a", "labeling", "function", "that", "maps", "class", "and", "property", "names", "to", "one", "of", "the", "types", "in", "T", ",", "i.e.", ":", "V", "S", "E", "S", "T.", "H", "=", "-LRB-", "N", ",", "<", "-RRB-", ",", "where", "N", "=", "C", "P", ",", "C", "and", "P", "are", "the", "set", "of", "class", "and", "property", "names", "in", "RS", ",", "respectively", ".", "H", "is", "a", "well-formed", "hierarchy", ",", "i.e.", ",", "<", "is", "a", "smallest", "partial", "ordering", "such", "that", ":", "if", "p", "1", ",", "p", "2", "P", "and", "p", "1", "<", "p", "2", ",", "then", "p", "1", ".", "domain", "p", "2", ".", "domain", "and", "p", "1", ".", "range", "p", "2", ".", "range", ".", "It", "also", "formalizes", "an", "instance", "of", "an", "RDFS", "schema", "called", "a", "description", "base", "which", "contains", "all", "the", "asserted", "instances", "of", "classes", "and", "properties", "of", "an", "RDF", "schema", ".", "We", "generalize", "these", "definitions", "to", "sets", "of", "RDF", "schemas", "and", "description", "bases", "as", "basic", "notion", "of", "context", "for", "a", "-", "query", ".", "3.1.1", "Definition", "1", "The", "RDFS", "schema", "set", "of", "RDFS", "Schemas", "RSS", "=", "-LCB-", "RS", "i", ":", "1", "i", "n", "-RCB-", ".", "Let", "C", "=", "C", "S1", "C", "S2", "...", "C", "S2", "where", "C", "Si", "is", "the", "set", "of", "class", "names", "in", "schema", "RS", "i", "and", "P", "=", "P", "S1", "P", "S2", "...", "P", "Sn", ",", "where", "P", "Si", "is", "the", "set", "of", "property", "names", "in", "RS", "i", "then", "N", "=", "C", "P", ".", "-LSB-", "40", "-RSB-", "defines", "a", "description", "base", "RD", "which", "is", "an", "instance", "of", "an", "RDFS", "schema", "RS", "containing", "all", "the", "asserted", "instances", "of", "the", "classes", "and", "properties", "in", "RS", ".", "We", "generalize", "that", "definition", "here", "to", "the", "union", "of", "instances", "of", "the", "set", "of", "schemas", "in", "an", "RDFS", "schema", "set", ".", "3.1.2", "Definition", "2", "An", "instance", "of", "an", "RDF", "schema", "set", "RSS", "=", "-LCB-", "RS", "1", ",", "RS", "2", ",", ".", ".", "RS", "n", "-RCB-", ",", "is", "a", "description", "base", "RDS", "defined", "as", "a", "5-tuple", "=", "-LRB-", "V", "DS", ",", "E", "DS", ",", ",", ",", "-RRB-", ",", "where", "V", "DS", "=", "V", "D1", "V", "D2", "...", "V", "Dn", "and", "V", "Di", "is", "the", "set", "of", "nodes", "in", "the", "description", "base", "of", "the", "schema", "RS", "i", ",", "and", "E", "DS", "is", "defined", "similarly", ".", "is", "the", "incidence", "function", ":", "E", "DS", "V", "DS", "V", "DS", ",", "is", "a", "value", "function", "that", "maps", "the", "nodes", "to", "the", "values", "in", "V", "i.e.", ":", "V", "DS", "V", ",", "is", "a", "labeling", "function", "that", "maps", "each", "node", "either", "to", "one", "of", "the", "container", "type", "names", "-LRB-", "Seq", ",", "Bag", ",", "Alt", "-RRB-", "or", "to", "a", "set", "of", "class", "names", "from", "the", "schema", "set", "RSS", "whose", "interpretations", "contain", "the", "value", "of", "the", "node", ",", "and", "each", "edge", "e", "=", "-LSB-", "v", "1", ",", "v", "2", "-RSB-", "to", "a", "property", "name", "p", "in", "RSS", ",", "where", "the", "interpretation", "of", "p", "contains", "the", "pair", "-LSB-", "-LRB-", "v", "1", "-RRB-", ",", "-LRB-", "v", "2", "-RRB-", "-RSB-", ",", "i.e.", ",", "the", "values", "of", "v", "1", "and", "v", "2", ".", "Formally", ",", ":", "V", "D", "E", "D", "2", "N", "-LCB-", "Bag", ",", "Seq", ",", "Alt", "-RCB-", "in", "the", "following", "manner", ":", "i.", "For", "a", "node", "n", "in", "RDS", ",", "-LRB-", "n", "-RRB-", "=", "-LCB-", "c", "|", "c", "C", "and", "-LRB-", "n", "-RRB-", "-LSB-", "-LSB-", "c", "-RSB-", "-RSB-", "-RCB-", "ii", ".", "For", "an", "edge", "e", "from", "node", "n", "1", "to", "n", "2", ",", "-LRB-", "e", "-RRB-", "=", "p", "P", "and", "the", "values", "of", "n", "1", "to", "n", "2", "belong", "in", "the", "interpretation", "of", "p", ":", "-LSB-", "-LRB-", "n", "1", "-RRB-", ",", "-LRB-", "n", "2", "-RRB-", "-RSB-", "-LSB-", "-LSB-", "p", "-RSB-", "-RSB-", ".", "In", "order", "capture", "paths", "in", "the", "RDF", "graph", "model", ",", "we", "define", "a", "notion", "of", "a", "Property", "Sequence", ",", "represented", "in", "the", "graph", "as", "a", "sequence", "of", "edges", "-LRB-", "i.e.", "properties", "-RRB-", ".", "There", "is", "a", "choice", "to", "be", "made", "in", "the", "method", "for", "realizing", "such", "a", "notion", "in", "a", "query", "language", "such", "as", "RQL", ".", "One", "option", "is", "to", "add", "paths", "or", "property", "sequences", "as", "types", "in", "a", "query", "language", "making", "them", "first", "class", "citizens", ".", "The", "second", "option", "is", "to", "realize", "them", "as", "complex", "operations", "such", "as", "Cartesian", "product", ",", "on", "property", "types", ".", "We", "choose", "the", "later", "approach", "because", "attempting", "to", "make", "paths", "as", "first", "class", "citizens", "brings", "up", "additional", "issues", "such", "as", "defining", "path", "subsumption", "and", "so", "on", ".", "We", "will", "now", "define", "the", "notion", "of", "a", "Property", "Sequence", ".", "3.1.3", "Definition", "3", "-LRB-", "Property", "Sequence", "-RRB-", "A", "Property", "Sequence", "PS", "is", "a", "finite", "sequence", "of", "properties", "-LSB-", "P", "1", ",", "P", "2", ",", "P", "3", ",", "...", "P", "n", "-RSB-", "where", "P", "i", "is", "a", "property", "defined", "in", "an", "RDF", "Schema", "RS", "j", "of", "a", "schema", "set", "RSS", ".", "The", "interpretation", "of", "PS", "is", "given", "by", ":", "-LSB-", "-LSB-", "PS", "-RSB-", "-RSB-", "i", "=", "1", "n", "-LSB-", "-LSB-", "P", "i", "-RSB-", "-RSB-", "where", "for", "ps", "-LSB-", "-LSB-", "PS", "-RSB-", "-RSB-", ",", "called", "an", "instance", "of", "PS", ",", "ps", "-LSB-", "i", "-RSB-", "-LSB-", "-LSB-", "P", "i", "-RSB-", "-RSB-", "for", "1", "i", "n", "and", "ps", "-LSB-", "i", "-RSB-", "-LSB-", "1", "-RSB-", "=", "ps", "-LSB-", "i", "+1", "-RSB-", "-LSB-", "0", "-RSB-", "-RRB-", ".", "ps", "-LSB-", "i", "-RSB-", "-LSB-", "1", "-RSB-", "refers", "to", "the", "second", "element", "of", "the", "i", "th", "ordered", "pair", "and", "ps", "-LSB-", "i", "+1", "-RSB-", "-LSB-", "0", "-RSB-", "refers", "to", "the", "first", "element", "of", "the", "i", "+1", "th", "ordered", "pair", ".", "We", "define", "a", "function", "NodesOfPS", "-LRB-", "-RRB-", "which", "returns", "the", "set", "of", "nodes", "of", "a", "Property", "Sequence", "PS", ",", "i.e.", "PS.NodesOfPS", "-LRB-", "-RRB-", "=", "-LCB-", "C", "1", ",", "C", "2", ",", "C", "3", ",", "...", "C", "k", "-RCB-", "where", "C", "i", "is", "a", "class", "in", "either", "the", "domain", "or", "range", "of", "some", "Property", "P", "j", "in", "PS", ",", "1", "j", "n.", "For", "example", "in", "Figure", "1", ",", "for", "PS", "=", "c", "reates.exhibited.title", ",", "PS", ".", "NodesOfPS", "-LRB-", "-RRB-", "=", "-LCB-", "Artist", ",", "Artifact", ",", "Museum", ",", "Ext.", ".", "Resource", ",", "String", "-RCB-", ".", "Let", "PS", "=", "-LSB-", "P", "1", ",", "P", "2", ",", "P", "3", ",", "...", "P", "n", "-RSB-", ",", "a", "description", "base", "RDS", "is", "said", "to", "satisfy", "or", "be", "a", "model", "of", "PS", "-LRB-", "RDS", "|", "=", "PS", "-RRB-", "if", "there", "exists", "a", "sequence", "of", "edges", "e", "1", ",", "e", "2", ",", "e", "3", ",", "...", "e", "n", "in", "the", "description", "base", "RDS", "such", "that", "for", "all", "i", ",", "-LRB-", "e", "i", "-RRB-", "=", "P", "i", ",", "-LRB-", "e", "i", "-RRB-", "=", "-LRB-", "v", "i", ",", "v", "i", "+1", "-RRB-", "and", "i", "=", "1", "n", "-LRB-", "v", "i", ",", "v", "i", "+1", "-RRB-", "=", "ps", "for", "some", "ps", "-LSB-", "-LSB-", "PS", "-RSB-", "-RSB-", ".", "We", "define", "a", "function", "PSNodesSequence", "-LRB-", "-RRB-", "on", "Property", "Sequence", "instances", "that", "returns", "its", "sequence", "of", "nodes", ",", "i.e.", "ps.PSNodesSequence", "-LRB-", "-RRB-", "=", "-LSB-", "v", "1", ",", "v", "2", ",", "v", "3", ",", "...", "v", "n", "+1", "-RSB-", ".", "The", "node", "v", "1", "is", "called", "the", "origin", "of", "the", "sequence", "and", "v", "n", "+1", "is", "called", "the", "terminus", ".", "Next", ",", "we", "define", "a", "set", "of", "binary", "relations", "on", "Property", "Sequences", ".", "693", "3.1.4", "Definition", "4", "-LRB-", "Joined", "Property", "Sequences", "-RRB-", "PS", "1", "PS", "2", "is", "true", "if", ":", "NodesOfPS", "-LRB-", "PS", "1", "-RRB-", "NodesOfPS", "-LRB-", "PS", "2", "-RRB-", "0", ".", "The", "Property", "Sequences", "PS", "1", "and", "PS", "2", "are", "called", "joined", ",", "and", "for", "C", "-LRB-", "NodesOfPS", "-LRB-", "PS", "1", "-RRB-", "NodesOfPS", "-LRB-", "PS", "2", "-RRB-", "-RRB-", ",", "C", "is", "called", "a", "join", "node", ".", "For", "example", ",", "in", "Figure", "2", ",", "the", "sequences", "creates.exhibited", ".", "and", "paints.exhibited", "are", "joined", "because", "they", "have", "a", "join", "node", "Museum", ".", "&", "r3", "&", "r5", "&", "r7", "``", "oil", "on", "canvas", "''", "&", "r2", "``", "oil", "on", "canvas", "''", "&", "r8", "Artist", "Sculptor", "Artifact", "Sculpture", "Museum", "String", "String", "fname", "lname", "creates", "exhibited", "sculpts", "String", "String", "Painting", "Painter", "paints", "technique", "material", "typeOf", "-LRB-", "instance", "-RRB-", "subClassOf", "-LRB-", "isA", "-RRB-", "subPropertyOf", "exhibited", "technique", "exhibited", "technique", "exhibited", "``", "Rodin", "''", "``", "August", "''", "&", "r6", "&", "r1", "fname", "lname", "fname", "lname", "paints", "paints", "creates", "&", "r4", "``", "Rembrandt", "''", "``", "Pablo", "''", "``", "Picasso", "''", "fname", "Figure", "2", ":", "Isomorphic", "Property", "Sequences", "3.1.5", "Definition", "5", "-LRB-", "-", "Isomorphic", "Property", "Sequences", "-RRB-", "Two", "property", "sequences", "PS", "1", "=", "P", "1", ",", "P", "2", ",", "P", "3", ",", "...", "P", "m", ",", "and", "PS", "2", "=", "Q", "1", ",", "Q", "2", ",", "Q", "3", ",", "...", "Q", "m", ",", "are", "called", "-", "isomorphic", "-LRB-", "PS", "1", "PS", "2", "-RRB-", ",", "if", "for", "all", "i", ",", "1", "i", "m", ":", "P", "i", "=", "Q", "i", "or", "P", "i", "Q", "i", "or", "Q", "i", "P", "i", "-LRB-", "means", "subPropertyOf", "-RRB-", "For", "example", "in", "Figure", "2", ",", "the", "sequences", "paints.exhibited", "and", "creates.exhibited", "are", "isomorphic", "because", "paints", "is", "considered", "to", "be", "similar", "to", "creates", ",", "since", "paints", "is", "a", "subproperty", "of", "creates", ".", "Note", "that", "the", "example", "that", "we", "use", "here", "is", "somewhat", "misleading", "because", "the", "example", "shown", "for", "Joined", "Property", "Sequences", "also", "happens", "to", "be", "-", "Isomorphic", ".", "However", ",", "the", "two", "notions", "are", "quite", "different", "because", "Joined", "Property", "Sequences", "are", "not", "required", "to", "be", "similar", ".", "3.1.6", "Definition", "6", "-LRB-", "Length", "-RRB-", "The", "length", "of", "a", "Property", "Sequence", "is", "equal", "to", "the", "number", "of", "properties", "in", "the", "Property", "Sequence", ".", "In", "the", "case", "of", "a", "Joined", "Property", "Sequence", "its", "length", "is", "the", "sum", "of", "all", "the", "properties", "in", "its", "constituent", "Property", "Sequences", ",", "i.e.", "the", "length", "of", "the", "undirected", "path", "from", "origin", "of", "one", "Property", "Sequence", "to", "the", "origin", "of", "the", "other", "Property", "Sequence", ".", "For", "example", ",", "in", "Figure", "2", ",", "the", "Joined", "Property", "Sequences", "-LSB-", "creates.exhibited", ",", "paints.exhibited", "-RSB-", "has", "a", "length", "of", "4", ".", "3.2", "Semantic", "Associations", "We", "can", "now", "define", "some", "binary", "relations", "on", "the", "domain", "of", "entities", "i.e.", "resources", ",", "based", "on", "the", "different", "types", "of", "Property", "Sequences", ".", "3.2.1", "Definition", "7", "-LRB-", "-", "pathAssociated", "-RRB-", "-", "pathAssociated", "-LRB-", "x", ",", "y", "-RRB-", "is", "true", "if", "there", "exists", "a", "Property", "Sequence", "with", "ps", "-LSB-", "-LSB-", "PS", "-RSB-", "-RSB-", "and", ",", "either", "x", "and", "y", "are", "the", "origin", "and", "terminus", "of", "ps", "respectively", ",", "or", "vice", "versa", ",", "i.e.", "y", "is", "origin", "and", "x", "is", "terminus", ".", "Then", "ps", "is", "said", "to", "satisfy", "-", "pathAssociated", "-LRB-", "x", ",", "y", "-RRB-", "written", "as", "ps", "|", "=", "-", "pathAssociated", "-LRB-", "x", ",", "y", "-RRB-", ".", "3.2.2", "Definition", "8", "-LRB-", "-", "joinAssociated", "-RRB-", "Let", "PS", "1", "and", "PS", "2", "be", "two", "Property", "Sequences", "such", "that", "PS", "1", "PS", "2", "with", "a", "join", "node", "C", ",", "and", "there", "exists", "ps", "1", "and", "ps", "2", "such", "that", "ps", "1", "-LSB-", "-LSB-", "PS", "1", "-RSB-", "-RSB-", "and", "ps", "2", "-LSB-", "-LSB-", "PS", "2", "-RSB-", "-RSB-", "and", ",", "n", "ps1.PSNodesSequence", "-LRB-", "-RRB-", "ps2.PSNodesSequence", "-LRB-", "-RRB-", ",", "then", "-", "joinAssociated", "-LRB-", "x", ",", "y", "-RRB-", "is", "true", "if", "either", "of", "the", "conditions", "are", "satisfied", ".", "1", "-RRB-", "x", "is", "the", "origin", "of", "ps", "1", "and", "y", "is", "the", "origin", "of", "ps", "2", "or", "2", "-RRB-", "x", "is", "the", "terminus", "of", "ps", "1", "and", "y", "is", "the", "terminus", "of", "ps", "2", ".", "This", "means", "that", "either", "ps", "1", ".", "PSNodesSequence", "=", "-LSB-", "x", ",", "b", ",", "c", "...", "n", ",", ".", ",", ".", ",", "r", "-RSB-", "and", "ps", "2", ".", "PSNodesSequence", "=", "-LSB-", "y", ",", ",", ",", ".", ".", "n", ",", ",", "-RSB-", ",", "or", "ps", "1", ".", "PSNodesSequence", "=", "-LSB-", "a", ",", "b", ",", "c", "...", "n", ",", ".", ",", ".", ",", "r", ",", "x", "-RSB-", "-RSB-", "and", "ps", "2", ".", "PSNodesSequence", "=", "-LSB-", ",", ",", ",", ".", ".", "n", ",", ",", "y", "-RSB-", "and", "n", "-LSB-", "-LSB-", "C", "-RSB-", "-RSB-", ".", "We", "say", "that", "-LRB-", "ps", "1", ",", "ps", "2", "-RRB-", "|", "=", "-", "joinAssociated", "-LRB-", "x", ",", "y", "-RRB-", ".", "3.2.3", "Definition", "9", "-LRB-", "-", "cpAssociated", "-RRB-", "This", "is", "a", "special", "case", "of", "Definition", "5", "that", "captures", "an", "inclusion", "or", "sibling", "relationship", "-LRB-", "i.e.", "common", "parent", "-RRB-", "between", "resources", ".", "-", "cpAssociated", "-LRB-", "x", ",", "y", "-RRB-", "is", "true", "if", "there", "exists", "two", "Property", "Sequences", "PS", "1", "and", "PS", "2", "such", "that", "PS", "1", "PS", "2", "which", "satisfy", "joinAssociated", "-LRB-", "x", ",", "y", "-RRB-", "and", ",", "both", "PS", "1", "and", "PS", "2", "are", "of", "the", "form", ":", "rdf.typeOf", ".", "-LRB-", "rdfs", ":", "subClassOf", "-RRB-", "*", ".", "This", "relation", "is", "used", "to", "capture", "the", "notion", "that", "entities", "are", "related", "if", "they", "either", "belong", "to", "the", "same", "class", "or", "to", "sibling", "classes", ".", "For", "example", ",", "&", "r1", "and", "&", "r6", "are", "related", "because", "they", "are", "both", "Artists", ".", "We", "say", "that", "-LRB-", "ps", "1", ",", "ps", "2", "-RRB-", "|", "=", "-", "cpAssociated", "-LRB-", "x", ",", "y", "-RRB-", ".", "However", ",", "in", "order", "to", "reduce", "the", "possibility", "of", "meaningless", "associations", "e.g.", "both", "x", "and", "y", "belong", "to", "rdfs", ":", "Resource", ",", "we", "make", "further", "restrictions", ".", "We", "say", "that", "-", "cpAssociated", "-LRB-", "x", ",", "y", "-RRB-", "is", "strong", "if", "1", "-RRB-", "For", "the", "join", "node", "j", "of", "the", "Joined", "Property", "Sequence", "-LRB-", "inducing", "the", "association", "-LRB-", "i.e.", "the", "common", "parent", "of", "x", "and", "y", "-RRB-", ",", "j", ",", "where", "called", "the", "ceiling", ",", "refers", "to", "the", "most", "general", "class", "in", "the", "hierarchy", "that", "is", "to", "be", "considered", ",", "which", "is", "usually", "user-specified", ".", "2", "-RRB-", "the", "length", "of", "the", "Joined", "Property", "Sequence", "inducing", "the", "association", "is", "minimal", ".", "By", "minimal", "we", "mean", "that", "it", "is", "less", "than", "a", "specific", "value", "indicated", "by", "context", "or", "specified", "by", "user", ".", "The", "first", "restriction", "ensures", "that", "we", "do", "go", "to", "far", "up", "the", "hierarchy", "looking", "for", "a", "common", "parent", ",", "while", "the", "second", "ensures", "that", "the", "relationship", "is", "not", "too", "distant", "to", "be", "meaningful", "in", "the", "user", "'s", "context", ".", "3.2.4", "Definition", "10", "-LRB-", "-", "IsoAssociated", "-RRB-", "-", "IsoAssociated", "-LRB-", "x", ",", "y", "-RRB-", "is", "true", "if", "there", "exists", "two", "property", "sequences", "PS", "1", "and", "PS", "2", "such", "that", "PS", "1", "PS", "2", ",", "and", "there", "exists", "ps", "1", "and", "ps", "2", "such", "that", "ps", "1", "-LSB-", "-LSB-", "PS", "1", "-RSB-", "-RSB-", "and", "ps", "2", "-LSB-", "-LSB-", "PS", "2", "-RSB-", "-RSB-", "such", "that", ",", "x", "is", "the", "origin", "of", "ps", "1", "and", "y", "is", "the", "origin", "of", "ps", "2", ".", "We", "say", "that", "-LRB-", "ps", "1", ",", "ps", "2", "-RRB-", "|", "=", "-", "IsoAssociated", "-LRB-", "x", ",", "y", "-RRB-", ".", "694", "We", "say", "that", "x", "and", "y", "are", "semantically", "associated", "if", "either", "pathAssociated", "-LRB-", "x", ",", "y", "-RRB-", ",", "-", "cpAssociated", "-LRB-", "x", ",", "y", "-RRB-", ",", "-", "IsoAssociated", "-LRB-", "x", ",", "y", "-RRB-", ",", "or", "-", "joinAssociated", "-LRB-", "x", ",", "y", "-RRB-", ".", "3.3", "-", "Queries", "A", "-", "Query", "Q", "is", "defined", "as", "a", "set", "of", "operations", "that", "map", "from", "a", "pair", "of", "keys", "-LRB-", "e.g.", "resource", "URIs", "-RRB-", "to", "the", "set", "of", "Property", "Sequences", "PS", "in", "the", "following", "manner", ":", "1", ".", ":", "U", "-LRB-", "2", "-RRB-", "2", "PS", "2", ".", ":", "U", "-LRB-", "2", "-RRB-", "2", "PS", "-LRB-", "2", "-RRB-", "3", ".", ":", "U", "-LRB-", "2", "-RRB-", "2", "PS", "-LRB-", "2", "-RRB-", "U", "-LRB-", "2", "-RRB-", "=", "-LCB-", "-LCB-", "x", ",", "y", "-RCB-", ":", "x", ",", "y", "U", "and", "x", "y", "-RCB-", ".", "Similarly", ",", "PS", "-LRB-", "2", "-RRB-", "is", "the", "set", "of", "pairs", "of", "Property", "Sequences", ".", "In", "1", ".", ",", "we", "map", "from", "a", "pair", "of", "keys", "x", "and", "y", "to", "a", "set", "of", "Property", "Sequences", "that", "induces", "a", "pathAssociation", "of", "x", "and", "y", ".", "In", "2", ".", ",", "we", "map", "from", "-LRB-", "x", ",", "y", "-RRB-", "to", "a", "set", "of", "binary", "tuples", "of", "Property", "Sequences", "that", "induces", "either", "a", "joinAssociation", "or", "a", "strong", "-", "cpAssociation", "of", "x", "and", "y", "and", "in", "3", ".", ",", "we", "map", "from", "-LRB-", "x", ",", "y", "-RRB-", "to", "a", "set", "of", "binary", "tuples", "of", "Property", "Sequences", "that", "induces", "a", "-", "isoAssociation", ".", "Our", "strategy", "for", "implementation", "involves", "investigating", "alternative", "approaches", "to", "implementing", "the", "-", "operator", ",", "and", "evaluate", "their", "merits", "and", "demerits", ".", "We", "consider", "two", "major", "categories", ".", "The", "first", "category", ",", "which", "we", "have", "developed", "a", "partial", "implementation", "for", ",", "involves", "leveraging", "existing", "RDF", "persistent", "data", "storage", "technologies", ".", "Here", ",", "a", "-", "query", "processing", "layer", "is", "developed", "above", "the", "RDF", "data", "storage", "layer", ",", "which", "performs", "some", "of", "the", "computation", "and", ",", "relegates", "a", "specific", "portion", "of", "the", "computation", "to", "the", "data", "store", "layer", ".", "In", "the", "second", "approach", ",", "the", "implementation", "involves", "the", "use", "of", "a", "memory", "resident", "graph", "representation", "of", "the", "RDF", "model", ",", "along", "with", "the", "use", "of", "efficient", "graph", "traversal", "algorithms", ".", "We", "will", "outline", "how", "query", "processing", "is", "done", "using", "both", "approaches", ".", "4.1", "Exploiting", "RDF", "Data", "Management", "Systems", "In", "this", "approach", ",", "we", "leverage", "existing", "RDF", "data", "storage", "technologies", "such", "as", "RDFSuite", "-LSB-", "8", "-RSB-", "and", "SESAME", "-LSB-", "18", "-RSB-", "and", "develop", "a", "-", "query", "processing", "layer", "which", "performs", "some", "of", "the", "computation", "and", ",", "relegates", "a", "specific", "portion", "of", "the", "computation", "to", "the", "data", "store", "layer", ".", "Figure", "3", "gives", "an", "illustration", "of", "this", "approach", "-LRB-", "although", ",", "this", "is", "somewhat", "of", "an", "oversimplification", ",", "it", "adequate", "for", "the", "purposes", "of", "this", "discussion", "-RRB-", ".", "Here", "the", "processing", "of", "a", "-", "query", "is", "broken", "down", "to", "4", "phases", ".", "Phases", "2", "and", "4", "occur", "at", "the", "data", "store", "layer", "and", "phases", "1", "and", "3", "occur", "at", "the", "-", "query", "processing", "layer", ".", "Phase", "1", "captures", "the", "query", ",", "i.e.", "the", "resources", "and", "context", "-LRB-", "i.e.", "schema", "set", "-RRB-", ".", "In", "the", "second", "stage", ",", "the", "resources", "are", "classified", "i.e.", ",", "the", "classes", "that", "entities", "belong", "to", ",", "within", "the", "given", "context", ",", "are", "identified", ".", "This", "involves", "a", "query", "to", "the", "data", "store", "layer", ",", "which", "exploits", "the", "rdf", ":", "typeOf", "statements", "to", "answer", "the", "query", ".", "Much", "of", "the", "processing", "is", "done", "in", "the", "third", "phase", "where", "potential", "paths", "involving", "the", "entities", "in", "the", "query", "are", "discussed", "by", "querying", "a", "PathGuide", "-LRB-", "a", "combination", "of", "index", "structures", "that", "stores", "information", "about", "paths", "that", "exist", "between", "resources", "classes", "-RRB-", ".", "There", "are", "two", "kinds", "of", "paths", "that", "are", "kept", "in", "the", "PathGuide", ".", "The", "first", "kind", "of", "path", "is", "that", "which", "is", "obvious", "from", "the", "schema", ".", "The", "second", "kind", "is", "those", "paths", "that", "exist", "at", "the", "data", "level", "but", "are", "not", "evident", "at", "the", "schema", "level", ".", "This", "is", "because", "of", "the", "fact", "that", "the", "RDF", "data", "model", "allows", "multiple", "classifications", "of", "entities", ".", "Consequently", ",", "every", "instance", "of", "a", "multiple", "classification", "induces", "a", "connection", "between", "two", "classes", "that", "does", "not", "exist", "at", "the", "schema", "level", ",", "and", "thus", "is", "not", "general", "to", "all", "entities", "of", "those", "classes", ".", "Therefore", ",", "a", "query", "to", "the", "PathGuide", "yields", "potential", "property", "sequences", "paths", "between", "entities", ",", "since", "some", "of", "the", "paths", "are", "not", "general", "to", "entire", "classes", "but", "specific", "to", "the", "entities", "that", "are", "multiply", "classified", ".", "For", "example", "in", "Figure", "1", ",", "the", "paints.exhibited.title", "sequence", "is", "not", "a", "sequence", "in", "either", "the", "left", "or", "right", "schema", ",", "but", "is", "present", "in", "the", "description", "base", "-LRB-", "i.e.", "between", "&", "r1", "and", "the", "literal", "node", "``", "Reina", "Sofia", "Museum", "''", "-RRB-", ".", "The", "reason", "for", "this", "is", "&", "r3", "`", "s", "membership", "in", "both", "the", "Museum", "and", "the", "Ext.Resource", "classes", ",", "this", "can", "be", "seen", "as", "having", "created", "an", "intermediate", "class", "node", "that", "collapses", "Museum", "and", "the", "Ext.Resource", "classes", ",", "and", "consequently", "links", "the", "paints.exhibited", "sequence", "to", "the", "title", "property", ".", "The", "fourth", "stage", "of", "query", "processing", "involves", "the", "validation", "of", "the", "paths", "found", "in", "the", "PathGuide", "for", "the", "specific", "entities", "in", "the", "query", ",", "by", "executing", "queries", "on", "the", "underlying", "data", "store", ".", "The", "output", "of", "this", "stage", "selects", "only", "those", "paths", "whose", "queries", "do", "not", "return", "an", "empty", "result", ".", "r1", "r1", "=", "http://www.xxx.com/yyy", "r2", "r2", "=", "http://www.zzz.net/", "A", "B", "E", "C", "D", "r1", "r1", "=", "http://www.xxx.com/yyy", "r2", "r2", "=", "http://www.zzz.net/", "A", "B", "E", "C", "D", "r1", "r1", "=", "http://www.xxx.com/yyy", "r2", "r2", "=", "http://www.zzz.net/", "A", "B", "E", "C", "D", "r1", "r1", "=", "http://www.xxx.com/yyy", "r2", "r2", "=", "http://www.zzz.net/", "1", ".", "Query", "Entities", "2", ".", "Classification", "of", "Entities", "3", ".", "Identification", "of", "Candidate", "Paths", "4", ".", "Pruning", "of", "Invalid", "Paths", "Figure", "3", ":", "Illustration", "of", "-", "Query", "Processing", "4.1.1", "Issues", "Two", "challenges", "arise", "from", "storing", "all", "potential", "paths", "between", "classes", "in", "the", "PathGuide", "indexes", ".", "The", "first", "is", "that", "it", "causes", "the", "size", "of", "indexes", "to", "be", "quite", "large", ".", "Second", ",", "the", "potential", "paths", "found", "in", "the", "PathGuide", "in", "response", "to", "a", "query", ",", "could", "generate", "a", "large", "number", "of", "RQL", "queries", "that", "need", "to", "be", "validated", "at", "the", "data", "store", "layer", ",", "which", "slows", "down", "processing", "time", "significantly", ".", "However", ",", "heuristics", "could", "be", "employed", "to", "minimize", "these", "problems", ".", "For", "example", ",", "to", "reduce", "the", "size", "of", "the", "indices", ",", "we", "could", "choose", "to", "avoid", "adding", "every", "single", "potential", "path", "between", "classes", "in", "the", "index", ",", "but", "include", "only", "those", "whose", "support", "value", "is", "at", "least", "as", "large", "as", "a", "user", "supplied", "threshold", "value", ",", "where", "the", "support", "value", "represents", "the", "percentage", "of", "resources", "that", "are", "involved", "in", "695", "multiple", "classification", "for", "any", "given", "pair", "of", "classes", ".", "This", "means", "that", "if", "very", "few", "resources", "induce", "a", "connection", "between", "two", "otherwise", "unconnected", "schema", "classes", "because", "of", "a", "multiple", "classification", ",", "then", "we", "do", "not", "include", "in", "the", "indexes", ",", "those", "additional", "paths", "created", "due", "to", "the", "multiple", "classification", ",", "thereby", "reducing", "the", "size", "of", "the", "indices", ".", "The", "rationale", "for", "this", "is", "that", "the", "probability", "of", "those", "paths", "being", "involved", "in", "the", "result", "of", "a", "query", "is", "low", ",", "therefore", "the", "additional", "cost", "of", "storing", "the", "paths", "in", "the", "indices", "may", "not", "be", "worth", "it", ".", "A", "second", "heuristic", "is", "to", "try", "to", "prune", "the", "number", "of", "paths", "that", "need", "to", "be", "validated", "at", "the", "data", "storage", "layer", ".", "This", "could", "be", "done", "by", "assigning", "weights", "to", "Semantic", "Associations", "based", "on", "the", "contextual", "relevance", "and", "then", "validating", "only", "those", "associations", "with", "a", "high", "relevance", "weight", ".", "Our", "work", "in", "this", "area", "is", "still", "in", "progress", ".", "An", "additional", "problem", "with", "processing", "-", "queries", "on", "existing", "RDF", "storage", "systems", "is", "that", "some", "of", "these", "systems", "represent", "each", "property", "as", "a", "separate", "relation", "in", "a", "relational", "database", "model", ".", "Therefore", ",", "the", "computation", "of", "a", "Property", "Sequence", "results", "in", "a", "large", "number", "of", "joins", "which", "has", "a", "negative", "impact", "of", "the", "speed", "of", "query", "processing", ".", "Currently", ",", "we", "do", "not", "see", "any", "easy", "solution", "to", "this", "problem", ".", "4.2", "Using", "Graph", "Algorithms", "This", "approach", "involves", "the", "computation", "of", "Semantic", "Associations", "on", "a", "memory-resident", "graph", "representation", "of", "the", "RDF", "model", "such", "as", "that", "provided", "by", "JENA", "-LSB-", "56", "-RSB-", ",", "or", "the", "memory", "representation", "of", "the", "schema", "set", "as", "in", "SESAME", "-LSB-", "18", "-RSB-", ",", "to", "which", "graph", "traversals", "algorithms", "can", "be", "applied", ".", "In", "the", "case", "of", "pathAssociation", "we", "can", "search", "for", "paths", "between", "entities", ",", "and", "in", "the", "case", "of", "a", "-", "joinAssociation", "we", "check", "if", "the", "two", "entities", "belong", "in", "the", "same", "connected", "component", ".", "One", "issue", "with", "this", "approach", "is", "that", "that", "trying", "to", "find", "all", "paths", "between", "entities", "could", "easily", "lead", "to", "an", "exponential", "time", "algorithm", ".", "However", ",", "-LSB-", "52", "-RSB-", "provides", "promising", "fast", "algorithms", "for", "solving", "path", "problems", "which", "may", "be", "employed", "for", "such", "computations", ".", "In", "particular", ",", "it", "offers", "near-linear", "time", "algorithms", "for", "computing", "a", "path", "expression", "representing", "the", "set", "of", "all", "paths", "between", "nodes", "in", "a", "graph", ".", "Such", "a", "representation", "may", "then", "be", "processed", "using", "contextual", "information", "to", "prune", "paths", "that", "are", "not", "very", "relevant", "in", "the", "given", "context", ".", "In", "addition", ",", "other", "heuristics", "may", "be", "added", ".", "For", "example", ",", "a", "user", "may", "be", "asked", "to", "characterize", "the", "desired", "result", "set", ",", "e.g.", "shortest", "paths", "or", "longest", "paths", ",", "which", "will", "also", "help", "to", "reduce", "the", "result", "set", ".", "Similar", "heuristics", "to", "those", "discussed", "in", "the", "first", "approach", "that", "use", "context", "to", "prune", "paths", "based", "on", "degree", "of", "relevance", "can", "also", "be", "used", "here", ".", "In", "that", "case", ",", "the", "complexity", "of", "the", "problem", "can", "be", "analyzed", "along", "the", "number", "of", "semantic", "paths", "retrieved", "Complexity", "=", "-LRB-", "n-1", "-RRB-", "-LRB-", "l", "=", "1", "-RRB-", "-LRB-", "#", "paths", "of", "length", "l", "-RRB-", "-LRB-", "probability", "of", "keeping", "path", "of", "length", "l", "-RRB-", ".", "Another", "issue", "is", "the", "complexity", "of", "graph", "isomorphism", "problem", "which", "is", "known", "to", "be", "NP-complete", ".", "However", ",", "certain", "classes", "of", "graphs", "have", "properties", "making", "them", "amenable", "to", "efficient", "manipulation", ".", "For", "example", ",", "-LSB-", "12", "-RSB-", "describes", "a", "polynomial", "time", "algorithm", "for", "detecting", "isomorphism", "in", "rooted", "directed", "path", "graphs", ",", "which", "includes", "the", "exact", "class", "of", "graphs", "that", "are", "required", "for", "checking", "-", "isomorphism", ".", "We", "are", "currently", "working", "on", "a", "prototype", "implementation", "of", "this", "approach", ".", "There", "is", "some", "relationship", "between", "our", "work", "and", "that", "on", "querying", "object-oriented", "and", "semi-structured", "data", "using", "path", "expressions", "-LSB-", "2", "-RSB-", "-LSB-", "3", "-RSB-", "-LSB-", "19", "-RSB-", "-LSB-", "22", "-RSB-", "-LSB-", "23", "-RSB-", "-LSB-", "24", "-RSB-", "-LSB-", "34", "-RSB-", ".", "Although", ",", "these", "systems", "provide", "powerful", "and", "expressive", "capability", ",", "allowing", "users", "to", "query", "for", "data", "without", "having", "in-depth", "schema", "knowledge", ",", "most", "of", "them", "work", "on", "the", "premise", "that", "the", "goal", "of", "a", "query", "is", "to", "find", "data", "entities", "but", "not", "complex", "relationships", "such", "as", "Semantic", "Associations", ".", "Some", "of", "these", "systems", "-LSB-", "19", "-RSB-", "-LSB-", "22", "-RSB-", "support", "paths", "as", "first", "class", "entities", "and", "allow", "for", "path", "variables", "to", "be", "used", "outside", "of", "the", "FROM", "clause", ",", "i.e.", "to", "be", "returned", "as", "a", "result", "of", "a", "query", "which", "suggests", "that", "queries", "for", "-", "pathAssociations", "could", "be", "supported", ".", "However", ",", "they", "typically", "assume", "a", "simpler", "data", "model", "which", "is", "a", "rooted", "directed", "graph", "without", "the", "nuances", "of", "RDF", "such", "as", "multiple", "classification", "and", "property", "hierarchies", ".", "Furthermore", ",", "the", "more", "complex", "Semantic", "Associations", "such", "as", "the", "-", "joinAssociation", "and", "-", "Isomorphism", "are", "not", "supported", ",", "even", "in", "systems", "like", "-LSB-", "22", "-RSB-", "which", "provide", "some", "functions", "that", "range", "over", "path", "variables", ",", "e.g.", ",", "the", "difference", "function", "which", "returns", "the", "difference", "in", "the", "set", "of", "paths", "that", "originate", "from", "two", "nodes", ".", "With", "respect", "to", "RDF", ",", "the", "current", "generation", "of", "RDF", "query", "languages", "RQL", "-LSB-", "40", "-RSB-", ",", "SquishQL", "-LSB-", "45", "-RSB-", ",", "RDQL", "-LSB-", "48", "-RSB-", ",", "do", "not", "support", "path", "variables", "as", "first", "class", "entities", "and", "so", "can", "not", "even", "be", "used", "for", "querying", "for", "path", "relationships", ".", "In", "the", "case", "of", "the", "logic-based", "RDF", "query", "languages", "such", "as", "TRIPLE", "-LSB-", "51", "-RSB-", ",", "the", "inference", "rules", "required", "to", "reason", "about", "the", "full", "range", "of", "the", "Semantic", "Associations", "discussed", "here", ",", "would", "require", "functionality", "beyond", "FOL", ".", "The", "DISCOVER", "system", "-LSB-", "38", "-RSB-", "provides", "a", "keyword", "proximity", "search", "capability", "over", "relational", "databases", ",", "which", "return", "associations", "called", "Joining", "Sequences", ".", "Joining", "Sequences", "represent", "the", "paths", "connecting", "keywords", "in", "the", "query", ",", "obtained", "by", "traversing", "foreign", "key", "links", ".", "However", ",", "the", "semantics", "associated", "with", "these", "associations", "is", "not", "explicit", ",", "but", "is", "implicit", "in", "the", "database", "schema", ".", "Thus", ",", "the", "interpretation", "of", "the", "meaning", "and", "usefulness", "of", "the", "associations", "must", "be", "done", "by", "users", ".", "Furthermore", ",", "other", "more", "complex", "Semantic", "Associations", "such", "as", "the", "-", "Isomorphism", "are", "not", "captured", ".", "There", "is", "a", "common", "intuition", "underlying", "our", "work", "and", "some", "of", "the", "tasks", "related", "to", "data", "mining", ",", "in", "that", "they", "both", "involve", "discovering", "relationships", ".", "However", ",", "there", "are", "significant", "differences", "in", "the", "goals", ",", "methods", "and", "results", "produced", "by", "the", "both", "kinds", "of", "systems", ".", "The", "first", "difference", "is", "articulated", "in", "a", "statement", "made", "in", "-LSB-", "32", "-RSB-", ",", "where", "data", "mining", "is", "said", "to", "be", "opportunistic", "while", "information", "access", "techniques", "-LRB-", "such", "as", "ours", "-RRB-", "are", "goal-driven", ".", "Traditional", "data", "mining", "-LSB-", "21", "-RSB-", "-LSB-", "26", "-RSB-", "focuses", "on", "discovering", "patterns", "and", "relationships", "in", "data", "that", "can", "be", "used", "to", "develop", "models", "of", "the", "data", ".", "In", "association", "analysis", "-LSB-", "7", "-RSB-", ",", "rules", "that", "associate", "attribute-value", "pairs", "are", "learned", "from", "patterns", "of", "co-occurrences", "of", "attribute", "values", "in", "data", ",", "which", "capture", "co-occurrence", "relationships", "between", "attributes", ".", "On", "the", "contrary", ",", "we", "do", "not", "try", "to", "learn", "patterns", "from", "data", "rather", ",", "we", "provide", "specific", "rules", "for", "inferring", "relationships", "between", "entities", "by", "looking", "at", "property", "value", "dependencies", ",", "and", "focus", "on", "providing", "methods", "for", "verifying", "whether", "these", "kinds", "of", "associations", "exist", "between", "entities", ".", "That", "is", ",", "we", "identify", "meaningful", "sequences", "of", "binary", "predicates", "while", "data", "mining", "association", "rules", "involve", "sets", "of", "attribute", "value", "pairs", ".", "Therefore", ",", "we", "view", "data", "mining", "as", "a", "complimentary", "technology", ".", "For", "example", ",", "the", "association", "rules", "learnt", "from", "patterns", "in", "data", "can", "696", "provide", "knowledge", "that", "can", "be", "used", "to", "guide", "the", "search", "for", "Semantic", "Associations", "or", "to", "rank", "resulting", "Semantic", "Associations", "based", "on", "how", "close", "the", "follow", "the", "patterns", ".", "An", "initial", "discussion", "on", "Semantic", "Associations", "is", "made", "in", "-LSB-", "10", "-RSB-", ".", "Most", "RDF", "query", "systems", "do", "not", "provide", "adequate", "querying", "paradigms", "to", "support", "querying", "for", "complex", "relationships", "such", "as", "Semantic", "Associations", ".", "Support", "for", "such", "querying", "capabilities", "is", "highly", "desirable", "in", "many", "domains", ".", "We", "have", "presented", "a", "formal", "framework", "for", "these", "Semantic", "Associations", "for", "the", "RDF", "data", "model", ",", "and", "reviewed", "some", "implementation", "strategies", "for", "computing", "them", ".", "There", "are", "many", "open", "research", "issues", "that", "we", "plan", "to", "focus", "on", "in", "the", "near", "future", ".", "First", ",", "it", "may", "be", "necessary", "to", "develop", "data", "organization", "techniques", "for", "data", "that", "will", "adequately", "support", "the", "kinds", "of", "queries", "discussed", "here", ".", "Such", "techniques", "should", "eliminate", "the", "need", "for", "an", "excessive", "number", "of", "expensive", "computations", "such", "as", "joins", "during", "query", "processing", ".", "Secondly", ",", "we", "plan", "to", "develop", "techniques", "for", "dealing", "with", "the", "space", "complexity", "problem", "of", "the", "indices", "used", "in", "the", "PathGuide", ".", "For", "example", "we", "may", "use", "encoding", "schemes", "that", "compress", "path", "information", ",", "or", "heuristics", "for", "managing", "the", "size", "of", "the", "indices", ".", "Another", "top", "priority", "is", "the", "development", "of", "context-sensitive", "ranking", "algorithms", "that", "assign", "higher", "weights", "to", "results", "that", "are", "most", "relevant", "in", "the", "query", "context", ".", "Finally", ",", "we", "will", "perform", "a", "comparative", "study", "of", "the", "two", "implementation", "strategies", "discussed", "in", "section", "4", "over", "a", "testbed", "consisting", "of", "large", "amount", "of", "automatically", "extracted", "metadata", "generated", "using", "the", "SCORE", "system", "-LSB-", "41", "-RSB-", ".", "Our", "thanks", "to", "Drs.", "Bob", "Robinson", ",", "John", "Miller", ",", "Krys", "Kochut", ",", "and", "Budak", "Arpinar", "for", "the", "illuminating", "discussions", "and", "insightful", "contributions", ",", "and", "to", "Boanerges", "Aleman-Meza", "on", "his", "revision", "comments", ".", "We", "are", "also", "indebted", "to", "Dr.", "Vassilis", "Christophides", "whose", "comments", "and", "suggestions", "were", "invaluable", "in", "preparing", "the", "final", "version", "of", "the", "paper", ".", "This", "work", "is", "funded", "by", "NSF-ITR-IDM", "Award", "#", "0219649", "titled", "''", "Semantic", "Association", "Identification", "and", "Knowledge", "Discovery", "for", "National", "Security", "Applications", ".", "''", "-LSB-", "1", "-RSB-", "S.", "Abiteboul", ",", "P.", "Buneman", ",", "and", "D.", "Suciu", ".", "Data", "on", "the", "Web", ":", "From", "Relations", "to", "Semistructured", "Data", "and", "XML", ".", "Morgan", "Kaufmann", ",", "1999", ".", "-LSB-", "2", "-RSB-", "S.", "Abiteboul", ".", "Querying", "Semi-Structured", "data", ".", "In", "Proc", ".", "of", "ICDT", ",", "Jan", "1997", ".", "http://citeseer.nj.nec.com/abiteboul97querying.html", "-LSB-", "3", "-RSB-", "S.", "Abiteboul", ",", "D.", "Quass", ",", "J.", "McHugh", ",", "J.", "Widom", ",", "and", "J.", "Wiener", ".", "The", "Lorel", "Query", "Language", "for", "Semistructured", "Data", ".", "International", "Journal", "on", "Digital", "Libraries", ",", "1", "-LRB-", "1", "-RRB-", ":", "68", "--", "88", ",", "April", "1997", ".", "-LSB-", "4", "-RSB-", "S.", "Abiteboul", ",", "R.", "Hull", ",", "and", "V.", "Vianu", ".", "Foundations", "of", "Databases", ".", "Addison-Wesley", ",", "1995", ".", "-LSB-", "5", "-RSB-", "R.", "Agrawal", ".", "Alpha", ":", "An", "Extension", "of", "Relational", "Algebra", "to", "Express", "a", "Class", "of", "Recursive", "Queries", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ".", "14", "-LRB-", "7", "-RRB-", ":", "879", "--", "885", ",", "July", "1988", ".", "-LSB-", "6", "-RSB-", "R.", "Agrawal", ",", "A.", "Borgida", ",", "and", "H.V.", "Jagadish", ".", "Efficient", "Management", "of", "Transitive", "Relationships", "in", "Large", "Data", "Bases", ".", "In", "SIGMOD", "'", "89", ",", "pages", "253", "--", "262", ",", "Portland", ",", "Oregon", ",", "USA", ",", "1989", ".", "-LSB-", "7", "-RSB-", "R.", "Agrawal", ",", "T.", "Imielienski", "and", "A.", "Swami", ".", "Mining", "Assocation", "Rules", "between", "Sets", "of", "Items", "in", "Large", "Databases", ".", "Proc", ".", "Conf", ".", "On", "Management", "of", "Data", ".", "Washington", ",", "DC", ",", "USA", ",", "207", "--", "216", ".", "ACM", "Press", ",", "New", "York", ",", "NY", "USA", "1993", ".", "-LSB-", "8", "-RSB-", "S.", "Alexaki", ",", "G.", "Karvounarakis", ",", "V.", "Christophides", ",", "D.", "Plexousakis", ",", "and", "K.", "Tolle", ".", "The", "ICS-FORTH", "RDFSuite", ":", "Managing", "Voluminous", "RDF", "Description", "Bases", ".", "In", "2nd", "International", "Workshop", "on", "the", "Semantic", "Web", ",", "pages", "1", "--", "13", ",", "Hong", "Kong", ",", "2001", ".", "-LSB-", "9", "-RSB-", "S.", "Alexaki", ",", "G.", "Karvounarakis", ",", "V.", "Christophides", ",", "D.", "Plexousakis", ",", "and", "K.", "Tolle", ".", "On", "Storing", "Voluminous", "RDF", "descriptions", ":", "The", "case", "of", "Web", "Portal", "Catalogs", ".", "In", "4th", "International", "Workshop", "on", "the", "Web", "and", "Databases", "-LRB-", "WebDB", "-RRB-", ",", "Santa", "Barbara", ",", "CA", ",", "2001", ".", "Available", "at", "http://139.91.183.30:9090/RDF/publications/webdb2001.pdf", "-LSB-", "10", "-RSB-", "K.", "Anyanwu", ",", "A.", "Sheth", ",", "The", "Operator", ":", "Discovering", "and", "Ranking", "Associations", "on", "the", "Semantic", "Web", ".", "SIGMOD", "Record", "-LRB-", "Special", "issue", "on", "Amicalola", "Workshop", "-RRB-", ",", "December", "2002", ".", "-LSB-", "11", "-RSB-", "D.", "Avant", ",", "M.", "Baum", ",", "C.", "Bertram", ",", "M.", "Fisher", ",", "A.", "Sheth", ",", "Y.", "Warke", ",", "``", "Semantic", "Technology", "Applications", "for", "Homeland", "Security", ",", "''", "Proc", ".", "of", "the", "11", "th", "Intl", "Conf", ".", "on", "Information", "and", "Knowledge", "Management", "-LRB-", "CIKM", "2002", "-RRB-", ",", "McLean", ",", "VA", ",", "November", "4-9", ",", "2002", ",", "pp.", "611", "--", "613", ".", "-LSB-", "12", "-RSB-", "L.", "Babel", ",", "I.", "Ponomarenko", ",", "G.", "Tinhofer", ".", "The", "Isomorphism", "Problem", "for", "Directed", "Paths", "and", "For", "Rooted", "Directed", "Path", "Graphs", ".", "Journal", "of", "Algorithms", ",", "21:542", "--", "564", ",", "1996", ".", "-LSB-", "13", "-RSB-", "T.", "Berners-Lee", ",", "J.", "Hendler", ",", "and", "O.", "Lassila", ".", "The", "Semantic", "Web", ".", "Scientific", "American", ",", "May", "2001", ".", "-LSB-", "14", "-RSB-", "B.", "Berendt", ",", "A.", "Hotho", ",", "G.", "Stumme", ".", "Towards", "Semantic", "Web", "Mining", ".", "In", "Proceedings", "of", "the", "International", "Semantic", "Web", "Conference", ",", "pp.", "264", "--", "278", ",", "Sardinia", ",", "Italy", ".", "June", "2002", ".", "-LSB-", "15", "-RSB-", "A.", "Branstadt", ",", "V.", "B.", "Le", ",", "J.", "P.", "Spinrad", ".", "Graph", "Classes", ":", "A", "Survey", ".", "SIAM", "1999", ".", "-LSB-", "16", "-RSB-", "T.", "Bray", ",", "J.", "Paoli", ",", "and", "C.M.", "Sperberg-McQueen", ".", "Extensible", "Markup", "Language", "-LRB-", "XML", "-RRB-", "1.0", ".", "W3C", "Recommendation", ",", "February", "1998", ".", "-LSB-", "17", "-RSB-", "D.", "Brickley", "and", "R.V.", "Guha", ".", "Resource", "Description", "Framework", "-LRB-", "RDF", "-RRB-", "Schema", "Specification", "1.0", ",", "W3C", "Candidate", "Recommendation", ".", "2000", ".", "-LSB-", "18", "-RSB-", "J.", "Broekstra", ",", "A.", "Kampman", ",", "and", "F.", "van", "Harmelen", ".", "SESAME", ":", "An", "Architecture", "for", "Storing", "and", "Querying", "RDF", "Data", "and", "Schema", "Information", ".", "In", "D.", "Fensel", ",", "J.", "Hendler", ",", "H.", "Lieberman", ",", "and", "W.", "Wahlster", ",", "editors", ",", "Semantics", "for", "the", "WWW", ".", "MIT", "Press", ",", "2001", ".", "697", "-LSB-", "19", "-RSB-", "P.", "Buneman", ",", "M.", "Fernandez", ",", "D.", "Suciu", ".", "UnQL", ":", "A", "Query", "Language", "and", "Algebra", "for", "Semistructured", "Data", "Based", "on", "Structural", "Recursion", ".", "VLDB", "Journal", ",", "9", "-LRB-", "1", "-RRB-", ":", "76", "--", "110", ",", "2000", ".", "-LSB-", "20", "-RSB-", "W.", "W.", "Chang", ",", "A", "Discussion", "of", "the", "Relationship", "Between", "RDF-Schema", "and", "UML", ".", "A", "W3C", "Note", ",", "NOTE-rdf-uml-19980804", ".", "-LSB-", "21", "-RSB-", "M.", "Chen", ",", "J.", "Han", "and", "P.", "Yu", ".", "Data", "Mining", ":", "An", "Overview", "from", "the", "Database", "Perspective", ".", "IEEE", "Trans", ".", "On", "Knowledge", "and", "Data", "Engineering", ".", "Vol", ".", "8", ".", "No.", "6", ".", "December", "1996", ".", "-LSB-", "22", "-RSB-", "V.", "Christophides", ",", "S.", "Abiteboul", ",", "S.", "Cluet", ",", "and", "M.", "Scholl", ".", "From", "Structured", "Documents", "to", "Novel", "Query", "Facilities", ".", "In", "Proc", ".", "of", "ACM", "SIGMOD", "Conf", ".", "on", "Management", "of", "Data", ",", "pp", ".", "313", "--", "324", ",", "Minneapolis", ",", "Minnesota", ",", "May", "1994", ".", "-LSB-", "23", "-RSB-", "V.", "Christophides", ",", "S.", "Cluet", ",", "and", "G.", "Moerkotte", ".", "Evaluating", "Queries", "with", "Generalized", "Path", "Expressions", ".", "In", "Proc", ".", "of", "ACM", "SIGMOD", ",", "pp.", "413", "--", "422", ",", "1996", ".", "-LSB-", "24", "-RSB-", "D.", "Chamberlin", ",", "D.", "Florescu", ",", "J.", "Robie", ",", "J.", "Simeon", ",", "and", "M.", "Stefanescu", ".", "XQuery", ":", "A", "Query", "Language", "for", "XML", ".", "Working", "draft", ",", "World", "Wide", "Web", "Consortium", ",", "June", "2001", ".", "http://www.w3.org/TR/xquery/", "-LSB-", "25", "-RSB-", "M.", "Dean", ",", "D.", "Connolly", ",", "F.", "Harmelen", ",", "J.", "Hendler", ",", "I.", "Horrocks", ",", "D.", "McGuinness", ",", "P.", "F.", "Patel-Schneider", ",", "and", "L.", "Stein", ".", "OWL", "Web", "Ontology", "Language", "1.0", "Reference", ",", "W3C", "Working", "Draft", "29", "July", "2002", ".", "http://www.w3.org/TR/owl-ref/", ".", "-LSB-", "26", "-RSB-", "U.", "M.", "Fayyad", ",", "G.", "Piatetsky-Shapiro", ",", "P.", "Smyth", "and", "R.", "Uthurusany", ".", "Advances", "in", "Knowledge", "Discovery", "and", "Data", "Mining", ".", ".", "AAAI/MIT", "Press", "1996", ".", "-LSB-", "27", "-RSB-", "R.", "Fikes", ".", "DAML+OIL", "query", "language", "proposal", ",", "August", "2001", ".", "http://www.daml.org/listarchive/joint-committee/0572", ".", "html", ".", "-LSB-", "28", "-RSB-", "R.", "H.", "Guting", ".", "GraphDB", ":", "Modeling", "and", "querying", "graphs", "in", "databases", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "pp.", "297", "--", "308", ",", "1994", ".", "-LSB-", "29", "-RSB-", "B.", "Hammond", ",", "A.", "Sheth", ",", "and", "K.", "Kochut", ",", "Semantic", "Enhancement", "Engine", ":", "A", "Modular", "Document", "Enhancement", "Platform", "for", "Semantic", "Applications", "over", "Heterogeneous", "Content", ",", "in", "Real", "World", "Semantic", "Web", "Applications", ",", "V.", "Kashyap", "and", "L.", "Shklar", ",", "Eds.", ",", "IOS", "Press", ",", "December", "2002", ",", "pp", ".", "29", "--", "49", ".", "-LSB-", "30", "-RSB-", "S.", "Handschuh", "and", "S.", "Staab", ".", "Authoring", "and", "annotation", "of", "web", "pages", "in", "CREAM", ".", "In", "The", "Eleventh", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW2002", "-RRB-", ",", "Honolulu", ",", "Hawaii", ",", "USA", ",", "7-11", ",", "May", ",", "2002", "-LSB-", "31", "-RSB-", "F.", "Harmelen", ",", "P.", "F.", "Patel-Schneider", ",", "I.", "Horrocks", ",", "eds", ".", "Reference", "Description", "of", "the", "DAML+OIL", "-LRB-", "March", "2001", "-RRB-", "ontology", "markup", "language", ".", "-LSB-", "32", "-RSB-", "M.", "Hearst", ".", "Distinguishing", "between", "Web", "Data", "Mining", "and", "Information", "Access", ".", "Position", "statement", "for", "Web", "Data", "Mining", "KDD", "97", ".", "-LSB-", "33", "-RSB-", "Y.", "E.", "Ioannidis", ",", "R.", "Ramakrishnan", ",", "L.", "Winger", ":", "Transitive", "Closure", "Algorithms", "Based", "on", "Graph", "Traversal", ".", "TODS", "18", "-LRB-", "3", "-RRB-", ":", "512", "--", "576", "-LRB-", "1993", "-RRB-", ".", "-LSB-", "34", "-RSB-", "Y.", "E.", "Ioannidis", ",", "Y.", "Lashkari", ".", "Incomplete", "Path", "Expressions", "and", "their", "Disambiguation", ",", "In", "Proc", ".", "of", "the", "1994", "ACM", "SIGMOD", ",", "International", "Conference", "on", "Management", "of", "Data", ".", "p.138-149", ",", "May", "24-27", ",", "1994", ",", "Minneapolis", ",", "Minnesota", ",", "United", "States", ".", "-LSB-", "35", "-RSB-", "P.", "Hayes", ".", "RDF", "Model", "Theory", ".", "W3C", "Working", "Draft", ",", "September", "2001", ".", "-LSB-", "36", "-RSB-", "I.", "Horrocks", ",", "S.", "Tessaris", ".", "The", "Semantics", "of", "DQL", ".", "http://www.cs.man.ac.uk/~horrocks/Private/DAML/DQL-semantics", ".", "pdf", "-LSB-", "37", "-RSB-", "I.", "Horrocks", "and", "S.", "Tessaris", ".", "A", "Conjunctive", "Query", "Language", "for", "Description", "Logic", "Aboxes", ".", "In", "Proc", ".", "of", "AAAI-00", ",", "2000", ".", "-LSB-", "38", "-RSB-", "V.", "Hristidis", "and", "Y.", "Papakonstanti-nou", ".", "DISCOVER", ":", "Keyword", "search", "in", "relational", "databases", ".", "In", "Procs", ".", "VLDB", ",", "Aug.", "2002", ".", "-LSB-", "39", "-RSB-", "ICS-FORTH", ".", "The", "ICS-FORTH", "RDFSuite", "web", "site", ".", "Available", "at", "http://139.91.183.30:9090/RDF", ",", "March", "2002", ".", "-LSB-", "40", "-RSB-", "G.", "Karvounarakis", ",", "S.", "Alexaki", ",", "V.", "Christophides", ",", "D.", "Plexousakis", ",", "M.", "Scholl", ",", "RQL", ":", "A", "Declarative", "Query", "Language", "for", "RDF", ",", "WWW2002", ",", "May", "7-11", ",", "2002", ",", "Honolulu", ",", "Hawaii", ",", "USA", ".", "-LSB-", "41", "-RSB-", "M.", "S.", "Lacher", "and", "S.", "Decker", ".", "On", "the", "Integration", "of", "Topic", "Maps", "and", "RDF", "Data", ".", "In", "Proc", ".", "of", "Semantic", "Web", "Working", "Symposium", ".", "Palo", "Alto", ".", "California", ".", "August", "2001", ".", "-LSB-", "42", "-RSB-", "O.", "Lassila", "and", "R.", "Swick", ".", "Resource", "Description", "Framework", "-LRB-", "RDF", "-RRB-", "Model", "and", "Syntax", "Specification", ",", "W3C", "Recommendation", ".", "1999", ".", "-LSB-", "43", "-RSB-", "M.", "Mannino", ",", "L.", "Shapiro", ",", "L.", "Extensions", "to", "Query", "Languages", "for", "Graph", "Traversal", "Problems", ".", "TKDE", "2", "-LRB-", "3", "-RRB-", ":", "353", "--", "363,1990", ".", "-LSB-", "44", "-RSB-", "A.", "O.", "Mendelzon", "and", "P.", "T.", "Wood", ".", "Finding", "Regular", "Simple", "Paths", "in", "Graph", "Databases", ".", "SIAM", "J.", "Comput.", ",", "24", "-LRB-", "6", "-RRB-", ":", "1235-1258", ",", "1995", ".", "-LSB-", "45", "-RSB-", "L.", "Miller", ",", "A.", "Seaborne", ",", "A.", "Reggiori", ".", "Three", "Implementations", "of", "SquishQL", ",", "a", "Simple", "RDF", "Query", "Language", ".", "In", "Proc", ".", "of", "1", "st", "International", "Semantic", "Web", "Conference", ".", "ISWC2002", ".", "June", "9-12", ",", "2002", ",", "Sardinia", ",", "Italy", ".", "-LSB-", "46", "-RSB-", "A.", "Nanopoulos", ".", "Y.", "Manolopoulos", ".", "``", "Mining", "Patterns", "from", "Graph", "Traversals", "''", ",", "Data", "and", "Knowledge", "Engineering", ",", "Vol", ".37", ",", "No.", "3", ",", "pp.243-266", ",", "2001", ".", "-LSB-", "47", "-RSB-", "J.", "Rumbaugh", ",", "I.", "Jacobson", ",", "and", "G.", "Booch", ".", "The", "Unified", "Modeling", "Language", "Reference", "Manual", ".", "Addison-Wesley", ",", "1999", ".", "-LSB-", "48", "-RSB-", "A.", "Seaborne", ".", "RDQL", ":", "A", "Data", "Oriented", "Query", "Language", "for", "RDF", "Models", ".", "2001", ".", "http://www.hpl.hp.com/semweb/rdql-grammar", ".", "html", "-LSB-", "49", "-RSB-", "A.", "Sheth", ",", "C.", "Bertram", ",", "D.", "Avant", ",", "B.", "Hammond", ",", "K.", "Kochut", ",", "Y.", "Warke", ".", "Semantic", "Content", "Management", "for", "Enterprises", "and", "the", "Web", ",", "IEEE", "Internet", "Computing", ",", "July/August", "2002", ",", "pp.", "80", "--", "87", ".", "-LSB-", "50", "-RSB-", "A.", "Sheth", ",", "S.", "Thacker", "and", "S.", "Patel", ".", "Complex", "Relationship", "and", "Knowledge", "Discovery", "Support", "in", "the", "InfoQuilt", "System", ".", "VLDB", "Journal", ".", "September", "25", ",", "2002", ".", "-LSB-", "51", "-RSB-", "M.", "Sintek", "and", "S.", "Decker", ".", "TRIPLE", "--", "A", "Query", ",", "Inference", ",", "and", "Transformation", "Language", "for", "the", "Semantic", "Web", ".", "698", "International", "Semantic", "Web", "Conference", "-LRB-", "ISWC", "-RRB-", ",", "Sardinia", ",", "June", "2002", ".", "http://www.dfki.uni-kl.de/frodo/triple/", "-LSB-", "52", "-RSB-", "Tarjan", ",", "R.", "Fast", "Algorithms", "for", "Solving", "Path", "Problems", ".", "J.", "ACM", "Vol", ".", "28", ",", "No.", "3", ",", "July", "1891", ",", "pp.", "594", "--", "614", ".", "-LSB-", "53", "-RSB-", "DQL", ":", "DAML", "Query", "Language", ".", "http://www.daml.org/2002/08/dql/", "-LSB-", "54", "-RSB-", "Inkling", ":", "RDF", "query", "using", "SquishQL", ",", "2001", ".", "http://swordfish.rdfweb.org/rdfquery/", ".", "-LSB-", "55", "-RSB-", "ISO/IEC", "13250", ":", "2000", "Topic", "Maps", ",", "Jan", ",", "2000", ".", "http://www.topicmaps.org/", "-LSB-", "56", "-RSB-", "JENA", "A", "Java", "API", "for", "RDF", ".", "-LSB-", "57", "-RSB-", "Whitepaper", "on", "National", "Security", "and", "Intelligence", ",", "Semagix", "Inc.", "2002", ".", "http://www.semagix.com/pdf/national_security.pdf", "699"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["semantic association", "isomorphism", "semantic web", "property sequence", "analysis", "rdf", "graph traversals", "rooted directed path", "semantic associations", "relationship", "query processing"], "abstractive_keyphrases": ["automation", "complex data relationships", "ai", "semantic web querying"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "90", "document": ["Fan-out", ":", "Measuring", "Human", "Control", "of", "Multiple", "Robots", "A", "goal", "of", "human-robot", "interaction", "is", "to", "allow", "one", "user", "to", "operate", "multiple", "robots", "simultaneously", ".", "In", "such", "a", "scenario", "the", "robots", "provide", "leverage", "to", "the", "user", "'s", "attention", ".", "The", "number", "of", "such", "robots", "that", "can", "be", "operated", "is", "called", "the", "fan-out", "of", "a", "human-robot", "team", ".", "Robots", "that", "have", "high", "neglect", "tolerance", "and", "lower", "interaction", "time", "will", "achieve", "higher", "fan-out", ".", "We", "define", "an", "equation", "that", "relates", "fan-out", "to", "a", "robot", "'s", "activity", "time", "and", "its", "interaction", "time", ".", "We", "describe", "how", "to", "measure", "activity", "time", "and", "fan-out", ".", "We", "then", "use", "the", "fan-out", "equation", "to", "compute", "interaction", "effort", ".", "We", "can", "use", "this", "interaction", "effort", "as", "a", "measure", "of", "the", "effectiveness", "of", "a", "human-robot", "interaction", "design", ".", "We", "describe", "experiments", "that", "validate", "the", "fan-out", "equation", "and", "its", "use", "as", "a", "metric", "for", "improving", "human-robot", "interaction", ".", "H5", ".2", "User", "Interfaces", ",", "I2", ".9", "-", "Robotics", "As", "computing", "becomes", "smaller", ",", "faster", "and", "cheaper", "the", "opportunity", "arises", "to", "embed", "computing", "in", "robots", "that", "perform", "a", "variety", "of", "``", "dull", ",", "dirty", "and", "dangerous", "''", "tasks", "that", "humans", "would", "rather", "not", "perform", "themselves", ".", "For", "the", "foreseeable", "future", "robots", "will", "not", "be", "fully", "autonomous", ",", "but", "will", "be", "directed", "by", "humans", ".", "This", "gives", "rise", "to", "the", "field", "of", "human-robot", "interaction", "-LRB-", "HRI", "-RRB-", ".", "Human-robot", "interaction", "differs", "from", "traditional", "desktop", "GUI-based", "direct", "manipulation", "interfaces", "in", "two", "key", "ways", ".", "First", ",", "robots", "must", "operate", "in", "a", "physical", "world", "that", "is", "not", "completely", "under", "software", "control", ".", "The", "physical", "world", "imposes", "its", "own", "forces", ",", "timing", "and", "unexpected", "events", "that", "must", "be", "handled", "by", "HRI", ".", "Secondly", ",", "robots", "are", "expected", "to", "operate", "independently", "for", "extended", "periods", "of", "time", ".", "The", "ability", "for", "humans", "to", "provide", "commands", "that", "extend", "over", "time", "and", "can", "accommodate", "unexpected", "circumstances", "complicates", "the", "HRI", "significantly", ".", "This", "problem", "of", "developing", "interfaces", "that", "control", "autonomous", "behavior", "while", "adapting", "to", "the", "unexpected", "is", "an", "interesting", "new", "area", "of", "research", ".", "We", "are", "very", "interested", "in", "developing", "and", "validating", "metrics", "that", "guide", "our", "understanding", "of", "how", "humans", "interact", "with", "semiautonomous", "robots", ".", "We", "believe", "that", "such", "laws", "and", "metrics", "can", "focus", "future", "HRI", "development", ".", "What", "we", "are", "focused", "on", "are", "not", "detailed", "cognitive", "or", "ergonomic", "models", "but", "rather", "measures", "for", "comparing", "competing", "human-robot", "interfaces", "that", "have", "some", "validity", ".", "In", "this", "paper", "we", "look", "at", "a", "particular", "aspect", "of", "HRI", ",", "which", "is", "the", "ability", "for", "an", "individual", "to", "control", "multiple", "robots", "simultaneously", ".", "We", "refer", "to", "this", "as", "the", "fan-out", "of", "a", "human-robot", "team", ".", "We", "hypothesize", "that", "the", "following", "fan-out", "equation", "holds", ",", "IT", "AT", "FO", "=", "where", "FO", "=", "fan-out", "or", "the", "number", "of", "robots", "a", "human", "can", "control", "simultaneously", ",", "AT", "=", "activity", "time", "or", "the", "time", "that", "a", "robot", "is", "actively", "effective", "after", "receiving", "commands", "from", "a", "user", ",", "IT", "=", "interaction", "time", "or", "the", "time", "that", "it", "takes", "for", "a", "human", "to", "interact", "with", "a", "given", "robot", ".", "In", "this", "paper", "we", "develop", "the", "rationale", "for", "the", "fan-out", "equation", "and", "report", "several", "experiments", "validating", "this", "equation", ".", "We", "show", "that", "the", "equation", "does", "describe", "many", "phenomena", "surrounding", "HRI", "but", "that", "the", "relationships", "are", "more", "complex", "than", "this", "simple", "statement", "of", "fan-out", "implies", ".", "We", "also", "describe", "the", "experimental", "methodologies", "developed", "in", "trying", "to", "understand", "fan-out", ".", "We", "present", "them", "as", "tools", "for", "evaluating", "and", "measuring", "design", "progress", "in", "HRI", "systems", ".", "The", "robotic", "task", "domain", "that", "we", "have", "focused", "on", "is", "search", "and", "rescue", "where", "robots", "must", "cover", "an", "indoor", ",", "urban", "or", "terrain", "environment", "in", "search", "of", "victims", ",", "threats", ",", "problems", ",", "or", "targets", ".", "Although", "we", "have", "restricted", "our", "work", "to", "this", "domain", ",", "we", "are", "hopeful", "that", "our", "methods", "and", "metrics", "will", "extend", "to", "other", "HRI", "domains", ".", "Others", "have", "done", "work", "on", "human-robot", "interaction", ".", "Sheridan", "has", "outlined", "5", "levels", "of", "robot", "control", "by", "users", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CHI", "2004", ",", "April", "24", "29", ",", "2004", ",", "Vienna", ",", "Austria", ".", "Copyright", "2004", "ACM", "1-58113-702-8", "/", "04/0004", "...", "$", "5.00", ".", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "231", "-LSB-", "14", "-RSB-", ".", "The", "levels", "range", "from", "teleoperation", ",", "where", "the", "user", "is", "directly", "engaged", "with", "the", "actuators", "of", "robot", ",", "through", "various", "levels", "of", "computer", "intervention", "between", "the", "user", ",", "the", "sensors", "and", "the", "actuators", ",", "to", "full", "autonomy", "with", "users", "merely", "setting", "very", "high-level", "goals", ".", "Fong", "and", "Thorpe", "-LSB-", "8", ",", "9", "-RSB-", "demonstrated", "collaborative", "control", "where", "the", "human", "and", "the", "robot", "share", "the", "initiative", ",", "with", "the", "robot", "seeking", "guidance", "when", "needed", ".", "These", "with", "a", "variety", "of", "other", "approaches", "are", "characterized", "by", "their", "system", "architecture", ".", "Although", "human-robot", "interfaces", "are", "provided", ",", "there", "is", "little", "study", "of", "the", "nature", "of", "that", "interface", "nor", "on", "how", "to", "evaluate", "the", "quality", "of", "the", "interface", ".", "There", "have", "been", "a", "number", "of", "proposals", "for", "new", "modalities", "for", "controlling", "robots", "including", "haptics", ",", "gestures", ",", "PDAS", "-LSB-", "7", "-RSB-", ".", "Others", "have", "looked", "at", "the", "visualization", "and", "context", "memory", "problems", "that", "arise", "when", "driving", "robots", ".", "The", "Egosphere", "is", "one", "such", "solution", "-LSB-", "6", "-RSB-", ".", "There", "is", "also", "a", "great", "deal", "of", "work", "on", "using", "multiple", "robots", "on", "a", "task", ".", "There", "are", "fully", "autonomous", "swarming", "approaches", "such", "as", "Bruemmer", ",", "et", "al", "-LSB-", "3", "-RSB-", ".", "These", "have", "very", "little", "human", "intervention", "because", "the", "desired", "task", "is", "preprogrammed", ".", "Other", "autonomous", "robot", "teams", "have", "done", "janitorial", "tasks", ",", "box", "pushing", "and", "earth", "moving", "-LSB-", "12", ",", "13", "-RSB-", ".", "All", "of", "these", "teams", "have", "used", "very", "little", "human", "intervention", ".", "Other", "multi-robot", "systems", "have", "robots", "operating", "in", "formations", "-LSB-", "2", ",", "4", ",", "16", "-RSB-", "or", "according", "to", "predefined", "deployment", "behaviors", "-LSB-", "15", "-RSB-", "These", "approaches", "allow", "users", "to", "direct", "the", "work", "of", "a", "number", "of", "robots", "simultaneously", ".", "Fong", "et", ".", "al.", "-LSB-", "10", "-RSB-", "point", "out", "the", "problems", "with", "dividing", "human", "attention", "among", "multiple", "robots", "and", "propose", "a", "collaborative", "control", "model", "for", "driving", ".", "In", "essence", "their", "proposals", "increase", "the", "neglect", "and", "activity", "time", "of", "the", "robots", "to", "achieve", "higher", "fan-out", ".", "Others", "have", "used", "a", "``", "select", "and", "command", "''", "model", "for", "controlling", "multiple", "robots", "-LSB-", "11", "-RSB-", ".", "However", ",", "none", "of", "these", "have", "been", "carefully", "evaluated", "as", "to", "the", "advantages", "or", "decrease", "in", "effort", "afforded", "by", "the", "various", "user", "interface", "designs", ".", "In", "most", "cases", "the", "control", "architecture", "is", "intertwined", "with", "the", "human-robot", "interface", "making", "it", "hard", "to", "distinguish", "which", "part", "of", "the", "solution", "is", "contributing", "to", "progress", ".", "In", "this", "paper", "we", "describe", "a", "model", "for", "isolating", "and", "measuring", "the", "human-robot", "interface", "for", "teams", "of", "robots", ".", "To", "explain", "our", "fan-out", "ideas", ",", "we", "pose", "the", "example", "robot", "world", "shown", "in", "figure", "1", ".", "In", "this", "world", "there", "are", "robots", ",", "targets", "and", "obstacles", "-LRB-", "trees", "&", "rocks", "-RRB-", ".", "The", "task", "is", "for", "all", "targets", "to", "be", "touched", "by", "robots", "as", "soon", "as", "possible", ".", "This", "is", "an", "abstraction", "of", "a", "search", "task", ".", "We", "can", "assume", "a", "simple-minded", "robot", "that", "accepts", "a", "direction", "and", "a", "distance", "from", "its", "user", "and", "will", "move", "in", "that", "direction", "until", "it", "either", "travels", "the", "indicated", "distance", "or", "encounters", "an", "obstacle", ",", "in", "which", "case", "it", "stops", ".", "In", "figure", "1", "the", "robot", "has", "three", "legs", "to", "its", "journey", "each", "characterized", "by", "a", "different", "user", "command", ".", "However", ",", "the", "robot", "'s", "guidance", "may", "not", "be", "perfect", ".", "It", "may", "drift", "to", "the", "left", "on", "the", "first", "leg", ",", "run", "into", "the", "trees", "and", "stop", "early", ".", "Its", "odometry", "may", "be", "faulty", "and", "it", "may", "overrun", "the", "end", "of", "leg", "one", "necessitating", "additional", "commands", "from", "the", "user", "to", "extricate", "it", "from", "the", "dead-end", "of", "rocks", "and", "trees", ".", "T", "1", "2", "3", "Figure", "1", "Simple", "Robot", "World", "This", "example", "illustrates", "two", "measures", "that", "are", "important", "to", "our", "model", "of", "fan-out", ".", "The", "first", "is", "neglect-time", ".", "That", "is", "the", "time", "the", "robot", "can", "run", "while", "being", "ignored", "by", "its", "user", ".", "Neglect", "time", "is", "a", "measure", "of", "a", "robot", "'s", "autonomy", ".", "This", "is", "very", "similar", "to", "Crandall", "'s", "neglect", "tolerance", "-LSB-", "5", "-RSB-", ".", "Unlike", "Crandall", "'s", "work", ",", "we", "are", "interested", "in", "multiple", "robots", "rather", "than", "efficient", "interfaces", "to", "a", "single", "robot", ".", "The", "second", "measure", "is", "activity-time", ",", "which", "is", "the", "time", "the", "robot", "will", "make", "effective", "progress", "before", "it", "either", "gets", "a", "new", "command", "from", "the", "user", ",", "it", "stops", "making", "effective", "progress", "or", "it", "completes", "the", "command", "the", "operator", "gave", "it", ".", "Neglect", "time", "and", "activity", "time", "are", "not", "the", "same", ".", "For", "example", ",", "if", "the", "user", "does", "not", "trust", "the", "odometry", ",", "he", "may", "watch", "the", "robot", "to", "make", "certain", "it", "does", "not", "overshoot", "the", "end", "of", "leg", "1", ".", "The", "robot", "is", "independently", "active", ",", "but", "is", "not", "being", "neglected", ".", "This", "difference", "has", "an", "important", "impact", "on", "multiplexing", "human", "attention", "among", "multiple", "robots", ".", "The", "relationship", "between", "activity", "time", "-LRB-", "AT", "-RRB-", "and", "neglect", "time", "-LRB-", "NT", "-RRB-", "is", "determined", "by", "the", "amount", "of", "overlap", "-LRB-", "O", "-RRB-", "between", "robot", "activity", "and", "interaction", "time", "-LRB-", "IT", "-RRB-", ".", "Overlap", "is", "the", "percentage", "of", "the", "interaction", "time", "where", "the", "robot", "is", "also", "active", ".", "NT", "IT", "O", "AT", "+", "=", "*", "This", "relationship", "is", "illustrated", "by", "driving", "a", "car", ".", "The", "interaction", "time", "and", "the", "activity", "time", "of", "a", "car", "are", "almost", "completely", "overlapped", "-LRB-", "O", "=", "1.0", "-RRB-", ".", "A", "car", "is", "almost", "always", "moving", "when", "the", "driver", "is", "steering", "it", ".", "In", "addition", ",", "the", "neglect", "time", "for", "a", "car", "is", "very", "small", ",", "therefore", "AT", "is", "not", "much", "larger", "than", "IT", ".", "Plugging", "this", "into", "the", "fan-out", "equation", "we", "see", "that", "a", "person", "can", "not", "drive", "more", "than", "one", "car", "at", "once", ".", "In", "the", "case", "of", "a", "manufacturing", "robot", ",", "the", "robot", "is", "not", "at", "all", "active", "during", "setup", "-LRB-", "O", "=", "0.0", "-RRB-", "but", "the", "robot", "will", "run", "for", "days", "or", "months", "after", "a", "day", "of", "setup", ".", "Thus", "AT", "is", "many", "times", "larger", "than", "IT", "and", "the", "fan-out", "is", "quite", "high", ".", "The", "experimental", "models", "that", "we", "finally", "used", "are", "based", "on", "AT", "and", "IT", ".", "The", "relationship", "between", "O", ",", "NT", "and", "AT", "does", "not", "impact", "our", "comparisons", "of", "various", "human-robot", "interfaces", ".", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "232", "In", "our", "simple", "robot", "world", "we", "can", "give", "the", "robot", "more", "intelligence", ".", "If", "it", "encounters", "an", "obstacle", "it", "can", "bounce", "off", "and", "continue", "trying", "to", "make", "progress", "towards", "its", "next", "check", "point", ".", "Thus", "the", "robot", "will", "operate", "longer", "without", "intervention", "-LRB-", "increased", "AT", "-RRB-", "and", "the", "user", "can", "trust", "it", "more", "-LRB-", "increased", "NT", "-RRB-", ".", "Adding", "some", "local", "vision", "and", "planning", ",", "the", "robot", "might", "also", "detect", "the", "cul-de-sac", "of", "trees", "and", "rocks", "and", "not", "enter", "there", "without", "more", "explicit", "instructions", ".", "Again", "the", "robot", "can", "be", "trusted", "more", "and", "NT", "can", "increase", ".", "Increasing", "a", "robot", "'s", "trusted", "intelligence", "can", "increase", "its", "neglect", "time", "and", "thus", "increase", "fan-out", ".", "The", "primary", "reason", "for", "our", "interest", "in", "fan-out", "is", "that", "it", "is", "a", "measure", "of", "how", "much", "leverage", "of", "human", "attention", "is", "being", "provided", "by", "a", "robot", "'s", "automated", "capabilities", ".", "Autonomy", "is", "not", "an", "end", "unto", "itself", ".", "We", "may", "study", "it", "in", "that", "way", ",", "but", "in", "reality", "we", "want", "automation", "because", "it", "expands", "human", "capacity", ".", "Fan-out", "is", "a", "measure", "of", "the", "leverage", "of", "human", "attention", ".", "The", "ability", "for", "a", "human", "to", "control", "multiple", "robots", "depends", "upon", "how", "long", "that", "robot", "can", "be", "neglected", ".", "If", "a", "robot", "makes", "no", "progress", "while", "being", "neglected", ",", "the", "human", "will", "have", "no", "attention", "to", "devote", "to", "other", "robots", ".", "However", ",", "as", "will", "be", "shown", ",", "it", "is", "difficult", "to", "measure", "neglect", "time", ".", "Instead", "we", "measure", "activity", "time", ",", "which", "is", "an", "average", "amount", "of", "time", "that", "a", "robot", "functions", "between", "instructions", "from", "the", "user", ".", "If", "we", "divide", "the", "average", "activity", "time", "by", "the", "amount", "of", "time", "a", "user", "must", "interact", "with", "each", "robot", ",", "then", "we", "get", "the", "fan-out", "equation", ".", "IT", "AT", "FO", "=", "However", ",", "the", "relationships", "are", "not", "a", "simple", "as", "this", "analysis", "might", "indicate", ".", "We", "will", "discuss", "these", "interrelationships", "along", "with", "the", "experimental", "data", ".", "The", "key", "point", ",", "we", "believe", ",", "in", "understanding", "these", "complexities", "is", "that", "IT", "is", "not", "monolithic", ".", "Our", "current", "hypothesis", "is", "that", "there", "are", "at", "least", "4", "components", "to", "interaction", "time", ".", "They", "are", ":", "1", ".", "Robot", "Monitoring", "and", "Selection", "reviewing", "the", "state", "of", "all", "robots", "and", "deciding", "which", "robot", "needs", "the", "user", "'s", "attention", "next", ".", "2", ".", "Context", "Switching", "when", "switching", "attention", "between", "robots", "the", "user", "must", "spend", "time", "reaquiring", "the", "goals", "and", "problems", "of", "the", "new", "robot", ".", "3", ".", "Problem", "Solving", "having", "reaquired", "the", "situation", "the", "user", "must", "analyze", "the", "problem", "and", "plan", "a", "course", "of", "action", "for", "the", "robot", ".", "4", ".", "Command", "Expression", "the", "user", "must", "manipulate", "input", "devices", "tell", "the", "robot", "what", "to", "do", ".", "Traditional", "direct-manipulation/desktop", "interfaces", "generally", "exhibit", "only", "components", "3", "and", "4", ".", "The", "experiments", "that", "we", "have", "performed", "show", "the", "effects", "of", "some", "of", "these", "components", "in", "the", "ways", "that", "the", "data", "deviates", "from", "the", "predictions", "of", "the", "fan-out", "equation", ".", "Having", "broken", "down", "IT", ",", "it", "seems", "that", "IT", "should", "increase", "with", "FO", ".", "This", "is", "because", "the", "more", "robots", "there", "are", "to", "control", ",", "the", "greater", "the", "monitoring", "and", "robot", "selection", "time", ".", "Also", "the", "more", "diverse", "situations", "the", "robots", "find", "themselves", "in", "the", "greater", "the", "context-switching", "time", ".", "As", "we", "will", "see", "in", "the", "data", "smarter", "robots", "can", "offload", "some", "of", "the", "problem", "solving", "time", "from", "the", "user", "and", "thus", "reduce", "IT", ".", "Our", "hypothesis", "is", "that", "the", "fan-out", "equation", "provides", "a", "model", "for", "how", "humans", "interact", "with", "multiple", "robots", ".", "The", "challenge", "in", "validating", "the", "fan-out", "equation", "is", "that", "interaction", "time", "-LRB-", "consisting", "of", "planning", ",", "monitoring", "and", "solving", "-RRB-", "occurs", "mostly", "in", "the", "user", "'s", "mind", "and", "is", "therefore", "difficult", "to", "measure", "directly", ".", "Measuring", "Neglect", "Time", "-LRB-", "NT", "-RRB-", "and", "Activity", "Time", "-LRB-", "AT", "-RRB-", "The", "properties", "of", "NT", "and", "AT", "are", "characteristics", "of", "a", "robot", "'s", "ability", "to", "function", "in", "a", "world", "of", "given", "complexity", ".", "These", "times", "are", "functions", "of", "robot", "ability", ",", "task", "complexity", "and", "the", "user", "'s", "understanding", "of", "the", "robot", "'s", "ability", ".", "In", "measuring", "either", "NT", "or", "AT", "we", "must", "control", "for", "the", "complexity", "of", "the", "task", "being", "posed", ".", "If", "the", "task", "posed", "in", "figure", "1", "had", "half", "as", "many", "trees", ",", "or", "no", "rocks", ",", "the", "task", "itself", "would", "be", "simpler", "and", "the", "robot", "could", "be", "safely", "neglected", "for", "a", "longer", "time", ".", "In", "essence", ",", "the", "more", "challenges", "a", "robot", "must", "face", ",", "for", "which", "it", "does", "not", "have", "sufficient", "autonomy", ",", "the", "lower", "NT", "and", "AT", "will", "be", ".", "The", "nature", "of", "the", "challenges", "will", "also", "have", "an", "impact", ".", "Therefore", "any", "measurements", "of", "NT", "or", "AT", "must", "control", "for", "the", "nature", "of", "the", "tasks", "being", "posed", ".", "We", "term", "this", "task", "complexity", ".", "Our", "first", "approach", "to", "measuring", "NT", "ignored", "the", "role", "of", "the", "user", "in", "determining", "the", "robot", "'s", "activity", ".", "We", "assumed", "that", "there", "was", "some", "measurement", "of", "NT", "in", "the", "context", "of", "a", "given", "task", "complexity", ".", "To", "measure", "NT", "we", "would", "randomly", "place", "a", "robot", "at", "some", "location", "in", "the", "world", ",", "give", "it", "a", "random", "goal", "and", "then", "measure", "the", "average", "time", "that", "the", "robot", "would", "operate", "before", "reaching", "the", "goal", "or", "failing", "to", "make", "progress", ".", "However", ",", "this", "approach", "failed", "to", "produce", "data", "that", "was", "consistent", "with", "the", "fan-out", "equation", ".", "After", "reviewing", "the", "videotapes", "of", "actual", "usage", "we", "found", "that", "this", "a", "priori", "measurement", "consistently", "overestimated", "NT", ".", "We", "identified", "three", "problems", "with", "this", "approach", ".", "The", "first", "is", "demonstrated", "on", "leg", "1", "of", "the", "robot", "route", "in", "figure", "1", ".", "The", "robot", "could", "feasibly", "be", "neglected", "until", "it", "ran", "into", "the", "cul-de-sac", "of", "trees", "and", "rocks", ".", "However", ",", "users", "regularly", "saw", "such", "situations", "and", "redirected", "the", "robot", "early", "to", "avoid", "them", ".", "The", "second", "reason", "was", "that", "users", "frequently", "did", "not", "trust", "the", "robot", "to", "work", "out", "low-level", "problems", ".", "Users", "would", "regularly", "give", "the", "robots", "shorter-term", "goals", "that", "the", "user", "believed", "were", "possible", ".", "Thirdly", ",", "we", "did", "not", "have", "a", "good", "measure", "for", "how", "much", "a", "robot", "'s", "activity", "overlapped", "the", "user", "'s", "attention", "to", "the", "robot", ".", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "233", "All", "of", "these", "failing", "led", "to", "NT", "predictions", "that", "were", "much", "larger", "than", "actual", "usage", ".", "A", "simpler", "and", "more", "accurate", "measure", "we", "found", "was", "activity", "time", "-LRB-", "AT", "-RRB-", ".", "We", "measure", "the", "time", "from", "a", "user", "'s", "command", "of", "a", "robot", "until", "that", "robot", "either", "stops", "making", "progress", "or", "another", "use", "command", "is", "issued", "to", "it", ".", "We", "average", "these", "times", "across", "all", "robots", "in", "an", "experiment", ".", "This", "measure", "of", "activity", "time", "fit", "better", "with", "the", "fan-out", "equation", "and", "was", "much", "easier", "to", "measure", ".", "This", "activity", "time", "measure", "is", "dependent", "on", "determining", "when", "a", "robot", "is", "making", "effective", "progress", "and", "when", "it", "is", "not", ".", "In", "our", "simple", "robot", "world", ",", "robots", "stop", "when", "they", "reach", "an", "obstacle", ".", "Thus", "a", "robot", "is", "active", "when", "it", "is", "moving", ".", "Because", "of", "the", "nature", "of", "our", "test", "user", "interface", "robots", "are", "always", "getting", "closer", "to", "the", "goal", "if", "they", "are", "moving", ".", "Therefore", "our", "simplistic", "measure", "of", "effective", "progress", "works", "in", "this", "case", ".", "For", "more", "intelligent", "robots", "this", "is", "more", "complicated", ".", "An", "intelligent", "robot", "must", "balance", "goal", "progress", "with", "obstacle", "or", "threat", "avoidance", ".", "This", "can", "lead", "to", "interesting", "feedback", "and", "deadlock", "problems", ",", "which", "can", "not", "always", "be", "detected", ".", "These", "issues", "form", "the", "basis", "for", "many", "of", "the", "conundrums", "of", "Isasc", "Asimov", "'s", "robopsychology", "-LSB-", "1", "-RSB-", ".", "In", "many", "situations", ",", "however", ",", "we", "can", "detect", "lack", "of", "progress", "and", "thus", "the", "end", "of", "an", "activity", ".", "Measuring", "FO", "Our", "next", "challenge", "is", "to", "measure", "fan-out", "-LRB-", "FO", "-RRB-", ".", "This", ",", "of", "course", ",", "is", "the", "measure", "that", "we", "want", "to", "maximize", "because", "it", "is", "an", "estimate", "of", "the", "leverage", "provided", "by", "our", "human-robot", "teams", ".", "Our", "first", "approach", "to", "fan-out", "measurement", "was", "the", "fan-out", "plateau", ".", "For", "a", "given", "task", ",", "we", "must", "have", "a", "measure", "of", "task", "effectiveness", ".", "In", "our", "simple", "robot", "world", ",", "this", "might", "be", "the", "total", "time", "required", "to", "locate", "all", "N", "targets", ".", "In", "other", "scenarios", "it", "might", "be", "the", "total", "amount", "of", "terrain", "surveyed", "or", "the", "total", "number", "of", "purple", "hummingbirds", "sighted", ".", "Parker", "has", "identified", "a", "variety", "of", "task", "effectiveness", "metrics", "for", "use", "with", "robot", "teams", "-LSB-", "13", "-RSB-", ".", "The", "fan-out", "plateau", "is", "shown", "in", "figure", "2", ".", "As", "we", "give", "a", "user", "more", "robots", "to", "work", "with", ",", "the", "task", "effectiveness", "should", "rise", "until", "it", "reaches", "a", "point", "where", "the", "user", "'s", "attention", "is", "completely", "saturated", ".", "At", "this", "point", "adding", "more", "robots", "will", "not", "increase", "task", "effectiveness", "and", "may", "in", "some", "situations", "cause", "a", "decrease", "if", "superfluous", "robots", "still", "demand", "user", "attention", ".", "The", "attractiveness", "of", "the", "fan-out", "plateau", "measure", "is", "that", "it", "directly", "measures", "the", "benefits", "of", "more", "robots", "on", "actual", "task", "accomplishment", ".", "The", "disadvantage", "is", "that", "it", "is", "very", "expensive", "to", "measure", ".", "We", "might", "hypothesize", "that", "for", "a", "given", "HRI", "team", ",", "the", "fan-out", "plateau", "would", "be", "between", "4", "and", "12", "robots", ".", "We", "then", "must", "take", "8", "experimental", "runs", "to", "find", "the", "plateau", "-LRB-", "if", "our", "hypothesis", "was", "correct", "-RRB-", ".", "Individual", "differences", "in", "both", "users", "and", "tasks", "require", "that", "we", "must", "take", "many", "runs", "at", "each", "of", "the", "8", "possibilities", "in", "order", "to", "develop", "a", "statistically", "significant", "estimate", "of", "the", "fan-out", "plateau", ".", "Since", "realistic", "tasks", "take", "20", "minutes", "to", "several", "hours", "to", "accomplish", ",", "this", "measurement", "approach", "rapidly", "consumes", "an", "unrealistic", "amount", "of", "time", ".", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "Number", "of", "Robots", "Total", "Task", "E", "ffecti", "veness", "Fan-out", "Plateau", "Figure", "2", "Fan-out", "Plateau", "An", "alternative", "measure", "of", "FO", "comes", "from", "out", "ability", "to", "determine", "which", "robots", "are", "active", "and", "which", "are", "not", ".", "If", "we", "have", "knowledge", "of", "activity", "as", "needed", "by", "our", "AT", "measurement", ",", "then", "we", "can", "sample", "all", "of", "the", "robots", "at", "regular", "time", "intervals", "and", "compute", "the", "average", "number", "of", "active", "robots", ".", "What", "we", "do", "to", "measure", "FO", "is", "to", "give", "the", "user", "many", "more", "robots", "than", "we", "think", "is", "reasonable", "and", "then", "measure", "the", "average", "number", "of", "active", "robots", "across", "the", "task", ".", "This", "gives", "us", "a", "strong", "estimate", "of", "actual", "fan-out", "that", "is", "relatively", "easy", "to", "measure", ".", "Note", "that", "this", "is", "only", "an", "estimate", "of", "fan-out", "because", "the", "large", "number", "of", "robots", "introduces", "its", "own", "cognitive", "load", ".", "We", "believe", ",", "however", ",", "that", "ignoring", "unneeded", "robots", "will", "not", "impact", "the", "value", "of", "the", "metrics", "for", "comparisons", "among", "competing", "HRI", "solutions", ".", "Task", "saturation", "A", "key", "problem", "that", "we", "have", "discovered", "in", "measuring", "fan-out", "is", "the", "concept", "of", "task", "saturation", ".", "This", "is", "where", "the", "task", "does", "not", "warrant", "as", "many", "robots", "as", "the", "user", "could", "effectively", "control", ".", "A", "simple", "example", "is", "in", "figure", "1", ".", "If", "we", "add", "another", "robot", "to", "the", "task", ",", "the", "effectiveness", "will", "not", "go", "up", "because", "one", "robot", "can", "reach", "the", "target", "just", "as", "fast", "as", "two", "or", "three", ".", "The", "problem", "is", "that", "the", "task", "does", "not", "justify", "more", "workers", ".", "We", "will", "see", "this", "effect", "in", "the", "experiments", ".", "Measuring", "IT", "To", "improve", "human-robot", "interaction", "-LRB-", "HRI", "-RRB-", "what", "we", "really", "want", "is", "a", "measure", "of", "the", "interaction", "time", "-LRB-", "IT", "-RRB-", ".", "IT", "is", "the", "measure", "that", "will", "tell", "us", "if", "the", "user", "interface", "is", "getting", "better", "or", "just", "the", "robotic", "automation", ".", "Our", "problem", ",", "however", ",", "is", "that", "we", "do", "not", "have", "a", "way", "to", "directly", "measure", "IT", ".", "There", "are", "so", "many", "things", "that", "can", "happen", "in", "a", "user", "'s", "mind", "that", "we", "can", "not", "tap", "into", ".", "To", "measure", "the", "Fitt", "'s", "law", "effects", "or", "keystroke", "effects", "will", "only", "measure", "the", "command", "expression", "component", "of", "the", "interface", ".", "Our", "experience", "is", "that", "in", "a", "multi-robot", "scenario", ",", "command", "expression", "is", "a", "minor", "part", "of", "the", "interaction", "time", ".", "Solving", "the", "fan-out", "equation", "for", "IT", "can", "give", "us", "a", "method", "for", "its", "measurement", ".", "FO", "AT", "IT", "=", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "234", "However", ",", "this", "measure", "of", "IT", "is", "only", "valid", "if", "the", "fan-out", "equation", "is", "valid", "and", "the", "FO", "and", "AT", "measures", "are", "true", "measures", ".", "As", "has", "been", "shown", "in", "the", "preceding", "discussion", "we", "have", "good", "estimates", "for", "both", "AT", "and", "FO", "but", "it", "would", "be", "too", "strong", "of", "a", "claim", "to", "say", "that", "we", "had", "accurately", "measured", "either", "value", ".", "Our", "approach", "then", "is", "to", "replace", "IT", "with", "what", "we", "call", "interaction", "effort", "-LRB-", "IE", "-RRB-", ".", "Interaction", "effort", "is", "a", "unitless", "value", "that", "is", "defined", "as", ":", "FO", "AT", "IE", "=", "This", "is", "obviously", "derived", "from", "the", "fan-out", "equation", "but", "it", "makes", "no", "claims", "of", "being", "an", "exact", "time", ".", "It", "is", "a", "measure", "of", "how", "much", "effort", "is", "required", "to", "interact", "as", "part", "of", "a", "human-robot", "team", ".", "Unlike", "interaction", "time", ",", "interaction", "effort", "does", "not", "give", "us", "an", "absolute", "scale", "for", "measuring", "interaction-time", ".", "The", "interaction", "effort", "measure", "does", "give", "us", "a", "way", "to", "compare", "the", "interactive", "efficiency", "of", "two", "HRI", "designs", ".", "A", "comparison", "tool", "is", "sufficient", "as", "a", "measure", "of", "progress", "in", "HRI", "design", ".", "Validating", "the", "fan-out", "equation", "Our", "model", "of", "IE", "depends", "upon", "the", "validity", "of", "the", "fan-out", "equation", ",", "which", "is", "difficult", "to", "prove", "without", "measuring", "IT", "or", "IE", "directly", ".", "Our", "approach", "to", "validating", "the", "fan-out", "equation", "is", "as", "follows", ".", "If", "we", "have", "1", "-RRB-", "a", "set", "of", "robots", "that", "have", "varying", "abilities", "and", "thus", "varying", "neglect", "times", ",", "2", "-RRB-", "all", "robots", "have", "identical", "user", "interfaces", "and", "3", "-RRB-", "we", "use", "the", "various", "types", "of", "robots", "on", "similar", "tasks", "of", "the", "same", "task", "complexity", ",", "then", "if", "the", "fan-out", "equation", "is", "valid", ",", "the", "measure", "of", "IE", "should", "be", "constant", "across", "all", "such", "trials", ".", "This", "should", "be", "true", "because", "the", "user", "interface", "is", "constant", "and", "IE", "should", "be", "determined", "by", "the", "user", "interface", ".", "The", "experiments", "described", "in", "the", "remainder", "of", "this", "paper", "will", "show", "where", "this", "does", "and", "does", "not", "hold", ".", "As", "a", "means", "of", "validating", "the", "fan-out", "equations", "we", "chose", "robot", "simulations", "rather", "than", "actual", "robots", ".", "We", "did", "this", "for", "several", "reasons", ".", "The", "first", "is", "that", "it", "is", "much", "easier", "to", "control", "the", "task", "conditions", ".", "When", "trying", "to", "validate", "the", "fan-out", "equation", "we", "need", "careful", "controls", ".", "These", "are", "hard", "to", "achieve", "with", "real", "robots", "in", "real", "situations", ".", "Secondly", "we", "are", "trying", "to", "discover", "laws", "that", "model", "how", "humans", "interact", "with", "multiple", "independent", "robot", "agents", ".", "The", "physical", "characteristics", "of", "those", "agents", "should", "not", "change", "the", "laws", ".", "Third", "we", "want", "to", "test", "robots", "with", "a", "variety", "of", "levels", "of", "intelligence", ".", "Changing", "a", "simulated", "robot", "'s", "sensory", "and", "reasoning", "capacity", "is", "much", "simpler", "than", "building", "the", "corresponding", "robots", ".", "To", "perform", "the", "experiments", "that", "we", "did", ",", "we", "would", "have", "needed", "a", "fleet", "of", "15", "robots", "-LRB-", "5", "each", "of", "3", "types", "-RRB-", ",", "with", "identical", "interfaces", ".", "There", "is", "one", "way", "in", "which", "the", "real", "world", "differs", "sharply", "from", "our", "simulated", "world", ".", "In", "the", "real", "word", ",", "robots", "crash", "into", "obstacles", ",", "fall", "into", "holes", ",", "and", "run", "into", "each", "other", ".", "Safety", "is", "a", "real", "issue", "and", "lack", "of", "safety", "reduces", "the", "user", "'s", "trust", ".", "As", "discussed", "earlier", "reduced", "trust", "leads", "to", "reduced", "activity", "times", ".", "In", "our", "simulations", ",", "robots", "never", "crash", "or", "fail", "therefore", "trust", "is", "higher", "than", "reality", ".", "However", ",", "we", "believe", "that", "this", "will", "be", "reflected", "in", "different", "activity", "times", "and", "should", "not", "affect", "the", "validity", "of", "the", "fan-out", "equation", ".", "The", "task", "For", "our", "fan-out", "experiments", "we", "chose", "a", "maze-searching", "task", ".", "We", "built", "a", "random", "maze", "generator", "that", "can", "automatically", "generate", "tasks", "of", "a", "given", "complexity", ".", "We", "defined", "task", "complexity", "as", "the", "dimensions", "of", "the", "maze", ",", "density", "of", "obstacles", "and", "number", "of", "targets", ".", "Using", "our", "random", "maze", "generator", "we", "were", "able", "to", "create", "a", "variety", "of", "tasks", "of", "a", "given", "complexity", ".", "After", "random", "placement", "of", "obstacles", "and", "targets", "the", "maze", "was", "automatically", "checked", "to", "make", "certain", "that", "all", "targets", "were", "reachable", ".", "Our", "measure", "of", "task", "effectiveness", "was", "the", "time", "required", "for", "all", "targets", "to", "be", "touched", "by", "a", "robot", ".", "All", "robots", "had", "the", "same", "user", "interface", "as", "shown", "in", "figure", "3", ".", "The", "user", "controls", "are", "quite", "simple", "and", "the", "same", "for", "all", "experiments", ".", "Each", "robot", "has", "a", "goal", "represented", "by", "a", "small", "square", "that", "the", "user", "can", "drag", "around", ".", "The", "robot", "will", "attempt", "to", "reach", "the", "goal", ".", "The", "variation", "in", "robots", "is", "in", "how", "they", "deal", "with", "obstacles", ".", "For", "less", "intelligent", "robots", "the", "user", "can", "set", "a", "series", "of", "very", "short-term", "goals", "with", "no", "obstacles", ".", "For", "more", "intelligent", "robots", "more", "distant", "goals", "can", "be", "used", "with", "the", "robot", "working", "out", "the", "intervening", "obstacles", ".", "Figure", "3", "Dragging", "Robots", "A", "major", "variation", "of", "this", "user", "interface", ",", "that", "we", "used", "in", "most", "of", "our", "tests", ",", "obscures", "all", "regions", "of", "the", "maze", "that", "have", "not", "been", "visited", "by", "robots", ",", "as", "in", "figure", "4", ".", "The", "idea", "is", "that", "until", "a", "robot", "reaches", "an", "area", "and", "broadcasts", "what", "it", "finds", ",", "the", "terrain", "is", "unknown", ".", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "235", "Figure", "4", "Obscured", "World", "Three", "types", "of", "robots", "To", "test", "our", "fan-out", "theory", "of", "constant", "IE", "for", "a", "given", "user-interface", "we", "developed", "three", "types", "of", "simulated", "robots", ".", "The", "first", "type", "-LRB-", "simple", "-RRB-", "heads", "directly", "towards", "its", "current", "goal", "until", "it", "reaches", "the", "goal", "or", "runs", "into", "an", "obstacle", ".", "This", "is", "a", "relatively", "simple", "robot", "with", "little", "intelligence", ".", "The", "second", "type", "-LRB-", "bounce", "-RRB-", "bounces", "off", "obstacles", "and", "attempts", "to", "get", "closer", "to", "the", "goal", "even", "if", "there", "is", "no", "direct", "path", ".", "It", "never", "backs", "up", "and", "thus", "gets", "trapped", "in", "cul-de-sacs", ".", "The", "bouncing", "technique", "solves", "many", "simple", "obstacle", "avoidance", "problems", "but", "none", "that", "require", "any", "global", "knowledge", ".", "This", "robot", "stops", "whenever", "it", "can", "not", "find", "a", "local", "movement", "that", "would", "get", "it", "closer", "to", "the", "goal", "than", "its", "current", "position", ".", "The", "third", "type", "of", "robot", "-LRB-", "plan", "-RRB-", "has", "a", "``", "sensor", "radius", "''", ".", "It", "assumes", "that", "the", "robot", "can", "``", "see", "''", "all", "obstacles", "within", "the", "sensor", "radius", ".", "It", "then", "uses", "a", "shortest", "path", "algorithm", "to", "plan", "a", "way", "to", "reach", "the", "point", "on", "its", "sensor", "perimeter", "that", "was", "closest", "to", "the", "goal", ".", "This", "planning", "is", "performed", "after", "every", "movement", ".", "This", "robot", "stops", "whenever", "its", "current", "position", "was", "closer", "to", "the", "goal", "than", "any", "reachable", "point", "in", "its", "sensor", "perimeter", ".", "This", "robot", "can", "avoid", "local", "dead-ends", ",", "but", "not", "larger", "structures", "where", "the", "problems", "are", "larger", "than", "its", "sensor", "radius", ".", "We", "measured", "average", "neglect", "time", "for", "each", "of", "the", "types", "of", "robots", "using", "the", "random", "placement/task", "method", ".", "As", "robot", "intelligence", "increased", ",", "neglect", "time", "increased", "also", ".", "This", "gave", "us", "three", "types", "of", "simulated", "robots", "with", "identical", "tasks", "and", "user", "interfaces", ".", "To", "validate", "the", "fan-out", "equation", "we", "performed", "a", "number", "of", "experiments", "using", "our", "simulated", "robot", "world", ".", "Our", "experimental", "runs", "were", "of", "two", "types", ".", "In", "our", "initial", "runs", "individual", "university", "students", "were", "solicited", "and", "compensated", "to", "serve", "as", "test", "drivers", ".", "They", "were", "each", "given", "about", "30", "minutes", "of", "training", "and", "practice", "time", "with", "each", "type", "of", "robot", "and", "then", "given", "a", "series", "of", "mazes", "to", "solve", "using", "various", "types", "of", "robots", ".", "Task", "Saturation", "Task", "saturation", "showed", "up", "in", "the", "early", "tests", ".", "In", "our", "first", "tests", "we", "started", "all", "robots", "in", "the", "upper", "left", "hand", "corner", "of", "the", "world", ".", "Since", "this", "is", "a", "search", "task", "there", "is", "an", "expanding", "``", "frontier", "''", "of", "unsearched", "territory", ".", "This", "frontier", "limits", "the", "number", "of", "robots", "that", "can", "effectively", "work", "in", "an", "area", ".", "Fan-out", "was", "low", "because", "the", "problem", "space", "was", "too", "crowded", "to", "get", "many", "robots", "started", "and", "once", "lead", "robots", "were", "out", "of", "the", "way", "users", "tended", "to", "focus", "on", "the", "lead", "robots", "rather", "than", "bring", "in", "others", "from", "behind", "as", "the", "frontier", "expanded", ".", "Because", "none", "of", "our", "users", "worked", "for", "more", "than", "2", "hours", "on", "the", "robots", ",", "there", "was", "no", "time", "to", "teach", "or", "develop", "higher-level", "strategies", "such", "as", "how", "to", "marshal", "additional", "workers", ".", "We", "resolved", "the", "frontier", "problem", "by", "evenly", "distributing", "robots", "around", "the", "periphery", "of", "the", "world", ".", "This", "is", "less", "realistic", "for", "a", "search", "scenario", ",", "but", "eliminated", "the", "frontier", "problem", ".", "We", "originally", "posited", "two", "interface", "styles", ",", "one", "with", "the", "world", "entirely", "visible", "-LRB-", "light", "worlds", "-RRB-", "and", "the", "other", "with", "areas", "obscured", "when", "not", "yet", "visited", "by", "a", "robot", "-LRB-", "dark", "worlds", "-RRB-", ".", "We", "thought", "of", "this", "as", "two", "UI", "variants", ".", "Instead", "it", "was", "two", "task", "variants", ".", "In", "the", "dark", "worlds", "the", "task", "is", "really", "to", "survey", "the", "world", ".", "Once", "surveyed", ",", "touching", "the", "targets", "is", "trivial", ".", "In", "the", "light", "worlds", "the", "problem", "was", "path", "planning", "to", "the", "targets", ".", "Since", "reaching", "known", "targets", "is", "a", "smaller", "problem", "than", "searching", "a", "world", ",", "task", "saturation", "occurred", "much", "earlier", ".", "Because", "of", "this", "all", "of", "our", "races", "were", "run", "with", "dark", "worlds", "-LRB-", "Figure", "4", "-RRB-", ".", "Figure", "5", "shows", "the", "relationship", "between", "fan-out", "and", "remaining", "targets", ".", "The", "dark", "thin", "line", "is", "the", "number", "of", "remaining", "targets", "not", "yet", "touched", "and", "the", "lighter", "jagged", "line", "is", "the", "average", "number", "of", "active", "robots", ".", "This", "graph", "is", "the", "average", "of", "18", "runs", "from", "8", "subjects", "using", "planning", "type", "robots", ".", "Other", "experiments", "showed", "similar", "graphs", ".", "In", "the", "very", "early", "part", "of", "the", "run", "it", "takes", "time", "to", "get", "many", "robots", "moving", ".", "Then", "as", "targets", "are", "located", ",", "the", "problem", "becomes", "smaller", "and", "the", "fan-out", "reduces", "along", "with", "it", ".", "The", "crossover", "occurs", "because", "in", "a", "dark", "world", "the", "fact", "that", "one", "or", "two", "targets", "remain", "is", "not", "helpful", "because", "any", "of", "the", "unsearched", "areas", "could", "contain", "those", "targets", ".", "Type", "3", "Robot", "-2.00", "0.00", "2.00", "4.00", "6.00", "8.00", "10.00", "12.00", "0", "100", "200", "300", "400", "500", "600", "700", "Tim", "e", "Avg", ".", "Targets", "Avg", ".", "Robots", "Figure", "5", "Task", "Saturation", "Test", "Data", "These", "individual", "tests", "gave", "us", "good", "feedback", "and", "helped", "us", "refine", "our", "ideas", "about", "fan-out", "and", "interaction", "time", ".", "However", ",", "unmotivated", "subjects", "distorted", "the", "results", ".", "We", "had", "a", "number", "of", "subjects", "who", "just", "spent", "the", "time", "and", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "236", "collected", "their", "money", "without", "seriously", "trying", "to", "perform", "the", "tasks", "quickly", ".", "It", "was", "clear", "that", "attempting", "to", "supervise", "multiple", "robots", "is", "more", "mentally", "demanding", "than", "only", "one", ".", "In", "many", "cases", "fan-out", "was", "not", "high", "even", "though", "from", "viewing", "the", "videotapes", ",", "the", "subjects", "were", "easily", "capable", "of", "doing", "better", ".", "To", "resolve", "this", "issue", "we", "held", "a", "series", "of", "``", "robo-races", "''", ".", "Groups", "of", "8", "people", "were", "assembled", "in", "a", "room", "each", "with", "identical", "workstations", "and", "problem", "sets", ".", "Each", "trial", "was", "conducted", "as", "a", "race", "with", "monetary", "prizes", "to", "first", ",", "second", "and", "third", "place", "in", "each", "trial", ".", "The", "motivation", "of", "subjects", "was", "better", "and", "the", "fan-out", "results", "were", "much", "higher", "and", "more", "uniform", ".", "In", "our", "first", "race", "there", "were", "8", "participants", "all", "running", "8", "races", "using", "the", "dark", "worlds", ".", "The", "density", "of", "obstacles", "was", "35", "%", "with", "18", "robots", "available", "and", "10", "targets", "to", "find", ".", "We", "ran", "2", "races", "with", "simple", "robots", "and", "3", "races", "each", "for", "the", "bounce", "and", "plan", "robots", "for", "a", "total", "of", "64", "trial", "runs", ".", "The", "measured", "fan-out", "and", "activity", "time", "along", "with", "the", "computed", "interaction", "time", "is", "shown", "in", "figure", "6", ".", "Analysis", "of", "variance", "shows", "that", "there", "is", "no", "statistical", "difference", "in", "the", "interaction", "times", "across", "the", "three", "robot", "types", ".", "This", "supports", "our", "fan-out", "equation", "hypothesis", ".", "Robot", "Type", "Mean", "Fan-out", "Mean", "Activity", "Time", "Computed", "Interaction", "Effort", "Simple", "1.46", "4.36", "3.06", "Bounce", "2.94", "7.82", "2.77", "Plan", "5.11", "14.42", "2.88", "Figure", "6", "Test", "1", "-", "18", "robots", ",", "10", "targets", ",", "35", "%", "obstacles", "To", "evaluate", "our", "hypothesis", "that", "activity", "time", "and", "thus", "fan-out", "is", "determined", "by", "task", "complexity", "we", "ran", "a", "second", "identical", "competition", "except", "that", "the", "obstacle", "density", "was", "22", "%", ".", "The", "data", "is", "shown", "in", "figure", "7", ".", "Activity", "time", "clearly", "increases", "with", "a", "reduction", "in", "task", "complexity", "along", "with", "fan-out", ",", "as", "we", "predicted", ".", "The", "interaction", "time", "computations", "are", "not", "statistically", "different", "as", "we", "hypothesized", ".", "Robot", "Type", "Mean", "Fan-out", "Mean", "Activity", "Time", "Computed", "Interaction", "Effort", "Simple", "1.84", "4.99", "2.88", "Bounce", "3.36", "11.36", "3.38", "Plan", "9.09", "24.18", "2.69", "Figure", "7", "Test", "2", "-", "18", "robots", ",", "10", "targets", ",", "22", "%", "obstacles", "One", "of", "our", "goals", "in", "this", "work", "was", "to", "develop", "a", "measure", "of", "interaction", "effort", "that", "could", "serve", "as", "a", "measure", "of", "the", "effectiveness", "of", "a", "human-robot", "interface", ".", "To", "test", "this", "we", "ran", "a", "third", "competition", "of", "8", "subjects", "in", "8", "races", ".", "Test", "3", "was", "the", "same", "as", "test", "1", "except", "that", "we", "reduced", "the", "resolution", "of", "the", "display", "from", "1600x1200", "to", "800x600", ".", "This", "meant", "that", "the", "mazes", "would", "not", "fit", "on", "the", "screen", "and", "more", "scrolling", "would", "be", "required", ".", "This", "is", "obviously", "an", "inferior", "interface", "to", "the", "one", "used", "in", "test", "1", ".", "Figure", "8", "compares", "the", "fan-out", "and", "the", "interaction", "effort", "of", "tests", "1", "and", "3", ".", "Mean", "Interaction", "Effort", "Robot", "Type", "no", "scroll", "scrolled", "diff", "Simple", "3.06", "4.48", "46", "%", "Bounce", "2.77", "3.47", "25", "%", "Plan", "2.88", "3.63", "26", "%", "Figure", "8", "Compare", "scrolled", "and", "unscrolled", "interfaces", "Test", "3", "shows", "that", "inferior", "interfaces", "produce", "higher", "interaction", "effort", ",", "which", "is", "consistent", "with", "our", "desire", "to", "use", "interaction", "effort", "as", "a", "measure", "of", "the", "quality", "of", "a", "human-robot", "interface", ".", "However", ",", "figure", "8", "also", "shows", "a", "non-uniform", "interaction", "effort", "across", "robot", "types", "for", "the", "scrolling", "condition", ".", "This", "is", "not", "consistent", "with", "our", "fan-out", "equation", "hypothesis", ".", "Since", "all", "three", "robots", "had", "the", "same", "user", "interface", "they", "should", "exhibit", "similar", "interaction", "effort", "measures", ".", "Analysis", "of", "variance", "shows", "that", "the", "bounce", "and", "plan", "robots", "have", "identical", "interaction", "effort", "but", "that", "the", "simple", "robot", "is", "different", "from", "both", "of", "them", ".", "We", "explain", "the", "anomaly", "in", "the", "simple", "robots", "by", "the", "fact", "that", "interaction", "effort", "masks", "many", "different", "components", "as", "described", "earlier", "and", "fan-out", "partially", "determins", "those", "components", ".", "Figure", "9", "shows", "the", "fan-out", "measures", "for", "test", "3", ".", "The", "fan-out", "for", "the", "simple", "robots", "is", "barely", "above", "1", "indicating", "that", "the", "user", "is", "heavily", "engaged", "with", "a", "single", "robot", ".", "We", "watched", "the", "user", "behavior", "and", "noticed", "that", "the", "interaction", "is", "dominated", "by", "expressing", "commands", "to", "the", "robot", "with", "very", "little", "planning", ".", "With", "the", "bounce", "and", "plan", "robots", "the", "fan-out", "is", "much", "higher", "and", "users", "spend", "more", "time", "planning", "for", "the", "robot", "and", "less", "time", "trying", "to", "input", "commands", "to", "them", ".", "Robot", "Type", "Mean", "Fan-out", "Simple", "1.12", "Bounce", "2.47", "Plan", "3.97", "Figure", "9", "Fan-out", "for", "Test", "3", "-LRB-", "scrolled", "world", "-RRB-", "It", "appears", "that", "when", "fan-out", "drops", "very", "low", "the", "nature", "of", "the", "human-robot", "interaction", "changes", "and", "the", "interaction", "effort", "changes", "also", ".", "To", "understand", "this", "effect", "better", "we", "ran", "a", "fourth", "competition", "where", "we", "varied", "the", "speed", "of", "the", "robots", ".", "Varying", "the", "speed", "of", "the", "robot", "will", "change", "its", "neglect", "time", "without", "changing", "either", "the", "robot", "'s", "intelligence", "or", "the", "user", "interface", ".", "A", "slower", "robot", "will", "take", "longer", "to", "run", "into", "an", "obstacle", "and", "therefore", "can", "be", "neglected", "longer", ".", "We", "used", "the", "same", "worlds", "and", "interface", "as", "in", "test", "1", ",", "but", "we", "varied", "speeds", "across", "each", "run", "with", "only", "two", "robot", "types", ".", "The", "results", "are", "shown", "in", "figure", "10", ".", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "237", "Robot", "Type", "Robot", "Speed", "Mean", "Fan-out", "Mean", "Activity", "Time", "Computed", "Interaction", "Effort", "Simple", "3", "2.54", "7.21", "3.05", "Simple", "6", "1.21", "3.51", "3.09", "Simple", "9", "0.89", "3.26", "3.67", "Bounce", "3", "4.44", "13.54", "3.51", "Bounce", "6", "3.11", "9.60", "3.10", "Bounce", "9", "1.97", "5.76", "2.94", "Bounce", "12", "1.82", "4.42", "2.51", "Bounce", "15", "1.62", "4.04", "2.53", "Figure", "10", "Test", "4", "-", "Varying", "Robot", "Speed", "For", "each", "class", "of", "robot", ",", "increasing", "the", "robot", "'s", "speed", "decreases", "activity", "time", "and", "correspondingly", "reduces", "fan-out", ".", "Again", "with", "the", "fastest", "simple", "robots", ",", "the", "fan-out", "drops", "very", "low", "-LRB-", "the", "user", "can", "not", "even", "keep", "one", "robot", "going", "all", "the", "time", "-RRB-", "and", "the", "interaction", "effort", "is", "quite", "different", "from", "the", "slower", "robots", ".", "This", "confirms", "the", "change", "in", "interaction", "when", "fan-out", "drops", ".", "This", "indicates", "that", "the", "fan-out", "equation", "does", "not", "completely", "capture", "all", "of", "the", "relationships", "between", "fan-out", "and", "interaction", ".", "This", "is", "also", "confirmed", "when", "we", "look", "at", "the", "interaction", "effort", "for", "the", "bounce", "robots", ".", "As", "speed", "increases", ",", "fan-out", "drops", ",", "as", "we", "would", "expect", ".", "However", ",", "interaction", "effort", "also", "drops", "steadily", "by", "a", "small", "amount", ".", "This", "would", "confirm", "the", "robot", "monitoring", "and", "context", "switching", "effort", "that", "we", "hypothesized", ".", "As", "fan-out", "is", "reduced", ",", "these", "two", "components", "of", "interaction", "effort", "should", "correspondingly", "reduce", "while", "other", "interactive", "costs", "remain", "constant", ".", "This", "would", "explain", "the", "trend", "in", "the", "data", "from", "test", "4", ".", "It", "is", "clear", "from", "the", "test", "that", "the", "fan-out", "equation", "does", "model", "many", "of", "the", "effects", "of", "human", "interaction", "with", "multiple", "robots", ".", "The", "experiments", "also", "indicate", "that", "interaction", "effort", ",", "as", "computed", "from", "activity", "time", "and", "fan-out", "can", "be", "used", "to", "compare", "the", "quality", "of", "different", "HRI", "designs", ".", "This", "gives", "us", "a", "mechanism", "for", "evaluating", "the", "user", "interface", "part", "of", "human-robot", "interaction", ".", "However", ",", "it", "is", "also", "clear", "that", "fan-out", "has", "more", "underlying", "complexity", "that", "the", "equation", "would", "indicate", ".", "This", "is", "particularly", "true", "with", "very", "low", "fan-out", "1", ".", "Asimov", ",", "I", ",", "I", ",", "Robot", ",", "Gnome", "Press", ",", "1950", ".", "2", ".", "Balch", ",", "T.", "and", "Arkin", ",", "R.C.", ".", "``", "Behavior-based", "Formation", "Controlfor", "Multi-robot", "Teams", ".", "''", "IEEE", "Transactions", "on", "Robotics", "and", "Automation", ",", "14", "-LRB-", "6", "-RRB-", ",", "1998", ".", "3", ".", "Bruemmer", ",", "D.", "J.", ",", "Dudenhoeffer", ",", "D.", "D.", ",", "and", "McKay", ",", "M.", "D.", "``", "A", "Robotic", "Swarm", "for", "Spill", "Finding", "and", "Perimeter", "Formation", ",", "''", "Spectrum", ":", "International", "Conference", "on", "Nuclear", "and", "Hazardous", "Waste", "Management", ",", "2002", ".", "4", ".", "Chen", ",", "Q.", "and", "Luh", ",", "J.Y.S.", ".", "``", "Coordination", "and", "Control", "of", "a", "Group", "of", "Small", "Mobile", "Robots", ".", "''", "In", "Proceedings", "of", "the", "IEEE", "International", "Conference", "on", "Robotics", "and", "Automation", ",", "pp.", "2315-2320", ",", "San", "Diego", "CA", ",", "1994", ".", "5", ".", "Crandall", ",", "J.W.", "and", "Goodrich", ",", "M.", "A.", ",", "``", "Characterizing", "Efficiency", "of", "Human-Robot", "Interaction", ":", "A", "Case", "Study", "of", "Shared-Control", "Teleoperation", ".", "''", "Proceedings", "of", "the", "2002", "IEEE/RSJ", "International", "Conference", "Intelligent", "Robotics", "and", "Systems", ",", "2002", ".", "6", ".", "Kawamura", ",", "K.", ",", "Peters", ",", "R.", "A.", ",", "Johnson", ",", "C.", ",", "Nilas", ",", "P.", ",", "and", "Thongchai", ",", "S.", "``", "Supervisory", "Control", "of", "Mobile", "Robots", "using", "Sensory", "Egosphere", "''", "IEEE", "International", "Symposium", "on", "Computational", "Intelligence", "in", "Robotics", "and", "Automation", ",", "2001", ".", "7", ".", "Fong", ",", "T", ",", "Conti", ",", "F.", ",", "Grange", ",", "S.", ",", "and", "Baur", ",", "C.", "``", "Novel", "Interfaces", "for", "Remote", "Driving", ":", "Gesture", ",", "Haptic", "and", "PDA", ",", "''", "SPIE", "Telemanipulator", "and", "Telepresence", "Technolgies", "VII", ",", "2000", ".", "8", ".", "Fong", ",", "T.", ",", "Thorpe", ",", "C.", ",", "and", "Baur", ",", "C.", ",", "``", "Collaboration", "Dialogue", ",", "and", "Human-Robot", "Interaction", ",", "''", "Proceedings", "of", "the", "10th", "International", "Symposium", "of", "Robotics", "Research", ",", "2001", ".", "9", ".", "Fong", ",", "T.", ",", "and", "Thorpe", ",", "C.", "``", "Robot", "as", "Partner", ":", "Vehicle", "Teleoperation", "with", "Collaborative", "Control", ",", "''", "Workshop", "on", "Multi-Robot", "Systems", ",", "Naval", "Research", "Laboratory", ",", "Washington", ",", "D.C", ",", "2002", ".", "10", ".", "Fong", ",", "T.", ",", "Grange", ",", "S.", ",", "Thorp", ",", "C.", ",", "and", "Baur", ",", "C.", ",", "``", "Multi-Robot", "Remote", "Driving", "with", "Collaborative", "Control", "''", "IEEE", "International", "Workshop", "on", "Robot-Human", "Interactive", "Communication", ",", "2001", ".", "11", ".", "Jones", ",", "C.", ",", "and", "Mataric", ",", "M.J.", ",", "``", "Sequential", "Task", "Execution", "in", "a", "Minimalist", "Distributed", "Robotic", "System", "''", "Proceedings", "of", "the", "Simulation", "of", "Adaptive", "Behavior", ",", "2002", ".", "12", ".", "Parker", ",", "C.", "and", "Zhang", ",", "H.", ",", "``", "Robot", "Collective", "Construction", "by", "Blind", "Bulldozing", ",", "''", "IEEE", "Conference", "on", "Systems", ",", "Cybernetics", "and", "Man", ",", "2002", ".", "13", ".", "Parker", ",", "L.", "E.", ",", "``", "Evaluating", "Success", "in", "Autonomous", "Multi-Robot", "Teams", ":", "Experiences", "from", "ALLIANCE", "Architecture", ",", "''", "Implementations", "Journal", "of", "Theoretical", "and", "Experimental", "Artificial", "Intelligence", ",", "2001", ".", "14", ".", "Sheridan", ",", "T.B.", ",", "Telerobotics", ",", "Automation", "and", "Human", "Supervisory", "Control", "MIT", "Press", ",", "1992", "15", ".", "Simmons", ",", "R.", ",", "Apefelbaum", ",", "D.", ",", "Fox", ",", "D.", ",", "Goldman", ",", "R.", "P.", ",", "Haigh", ",", "K.", "Z.", ",", "Musliner", ",", "D.", "J.", ",", "Pelican", ",", "M.", ",", "and", "Thrun", ",", "S.", ",", "``", "Coordinated", "Deployment", "of", "Multiple", ",", "Heterogeneous", "Robots", ",", "''", "Proceedings", "of", "the", "Conference", "on", "Intelligent", "Robots", "and", "Systems", ",", "2000", ".", "16", ".", "Wang", ",", "P.K.C.", ",", "``", "Navigation", "Strategies", "for", "Multiple", "Autonomous", "Robots", "Moving", "in", "Formation", ".", "''", "Journal", "of", "Robotic", "Systems", ",", "8", "-LRB-", "2", "-RRB-", ",", "pp.", "177-195", ",", "1991", ".", "CHI", "2004", "Paper", "24-29", "April", "Vienna", ",", "Austria", "Volume", "6", ",", "Number", "1", "238"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["interaction time", "user interface", "neglect time", "interaction effort", "activity time", "multiple robots"], "abstractive_keyphrases": ["fan-out equation", "human-robot interaction", "fan-out"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "58", "document": ["COOLCAT", ":", "An", "entropy-based", "algorithm", "for", "categorical", "clustering", "In", "this", "paper", "we", "explore", "the", "connection", "between", "clustering", "categorical", "data", "and", "entropy", ":", "clusters", "of", "similar", "poi", "lower", "entropy", "than", "those", "of", "dissimilar", "ones", ".", "We", "use", "this", "connection", "to", "design", "an", "incremental", "heuristic", "algorithm", ",", "COOLCAT", ",", "which", "is", "capable", "of", "efficiently", "clustering", "large", "data", "sets", "of", "records", "with", "categorical", "attributes", ",", "and", "data", "streams", ".", "In", "contrast", "with", "other", "categorical", "clustering", "algorithms", "published", "in", "the", "past", ",", "COOLCAT", "'s", "clustering", "results", "are", "very", "stable", "for", "different", "sample", "sizes", "and", "parameter", "settings", ".", "Also", ",", "the", "criteria", "for", "clustering", "is", "a", "very", "intuitive", "one", ",", "since", "it", "is", "deeply", "rooted", "on", "the", "well-known", "notion", "of", "entropy", ".", "Most", "importantly", ",", "COOLCAT", "is", "well", "equipped", "to", "deal", "with", "clustering", "of", "data", "streams", "-LRB-", "continuously", "arriving", "streams", "of", "data", "point", "-RRB-", "since", "it", "is", "an", "incremental", "algorithm", "capable", "of", "clustering", "new", "points", "without", "having", "to", "look", "at", "every", "point", "that", "has", "been", "clustered", "so", "far", ".", "We", "demonstrate", "the", "efficiency", "and", "scalability", "of", "COOLCAT", "by", "a", "series", "of", "experiments", "on", "real", "and", "synthetic", "data", "sets", ".", "I.", "5.3", "-LSB-", "Computing", "Methodologies", "-RSB-", ":", "Pattern", "Recognition-Clustering", "Entropy", "Clustering", "is", "a", "widely", "used", "technique", "in", "which", "data", "points", "are", "partitioned", "into", "groups", ",", "in", "such", "a", "way", "that", "points", "in", "the", "This", "work", "has", "been", "supported", "by", "NSF", "grant", "IIS-0208519", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "02", ",", "November", "4-9", ",", "2002", ",", "McLean", ",", "VA", ",", "USA", ".", "Copyright", "2002", "ACM", "1-58113-492-4", "/", "02/0011", "...", "$", "5.00", ".", "same", "group", ",", "or", "cluster", ",", "are", "more", "similar", "among", "themselves", "than", "to", "those", "in", "other", "clusters", ".", "Clustering", "of", "categorical", "attributes", "-LRB-", "i.e.", ",", "attributes", "whose", "domain", "is", "not", "numeric", "-RRB-", "is", "a", "difficult", ",", "yet", "important", "task", ":", "many", "fields", ",", "from", "statistics", "to", "psychology", "deal", "with", "categorical", "data", ".", "In", "spite", "of", "its", "importance", ",", "the", "task", "of", "categorical", "clustering", "has", "received", "scant", "attention", "in", "the", "KDD", "community", "as", "of", "late", ",", "with", "only", "a", "handful", "of", "publications", "addressing", "the", "problem", "-LRB-", "-LSB-", "18", ",", "14", ",", "12", "-RSB-", "-RRB-", ".", "Much", "of", "the", "published", "algorithms", "to", "cluster", "categorical", "data", "rely", "on", "the", "usage", "of", "a", "distance", "metric", "that", "captures", "the", "separation", "between", "two", "vectors", "of", "categorical", "attributes", ",", "such", "as", "the", "Jaccard", "coefficient", ".", "In", "this", "paper", ",", "we", "present", "COOLCAT", "-LRB-", "the", "name", "comes", "from", "the", "fact", "that", "we", "reduce", "the", "entropy", "of", "the", "clusters", ",", "thereby", "``", "cooling", "''", "them", "-RRB-", ",", "a", "novel", "method", "which", "uses", "the", "notion", "of", "entropy", "to", "group", "records", ".", "We", "argue", "that", "a", "classical", "notion", "such", "as", "entropy", "is", "a", "more", "natural", "and", "intuitive", "way", "of", "relating", "records", ",", "and", "more", "importantly", "does", "not", "rely", "in", "arbitrary", "distance", "metrics", ".", "COOLCAT", "is", "an", "incremental", "algorithm", "that", "aims", "to", "minimize", "the", "expected", "entropy", "of", "the", "clusters", ".", "Given", "a", "set", "of", "clusters", ",", "COOLCAT", "will", "place", "the", "next", "point", "in", "the", "cluster", "where", "it", "minimizes", "the", "overall", "expected", "entropy", ".", "COOLCAT", "acts", "incrementally", ",", "and", "it", "is", "capable", "to", "cluster", "every", "new", "point", "without", "having", "to", "re-process", "the", "entire", "set", ".", "Therefore", ",", "COOLCAT", "is", "suited", "to", "cluster", "data", "streams", "-LRB-", "contin-uosly", "incoming", "data", "points", "-RRB-", "-LSB-", "2", "-RSB-", ".", "This", "makes", "COOLCAT", "applicable", "in", "a", "large", "variety", "of", "emerging", "applications", "such", "as", "intrusion", "detection", ",", "and", "e-commerce", "data", ".", "This", "paper", "is", "set", "up", "as", "follows", ".", "Section", "2", "offers", "the", "background", "and", "relationship", "between", "entropy", "and", "clustering", ",", "and", "formulates", "the", "problem", ".", "Section", "3", "reviews", "the", "related", "work", ".", "Section", "4", "describes", "COOLCAT", ",", "our", "algorithm", ".", "Section", "5", "presents", "the", "experimental", "evidence", "that", "demonstrates", "the", "advantages", "of", "COOLCAT", ".", "Finally", ",", "Section", "6", "presents", "conclusions", "and", "future", "work", ".", "In", "this", "section", ",", "we", "present", "the", "background", "of", "entropy", "and", "clustering", "and", "formulate", "the", "problem", ".", "2.1", "Entropy", "and", "Clustering", "Entropy", "is", "the", "measure", "of", "information", "and", "uncertainty", "of", "a", "random", "variable", "-LSB-", "28", "-RSB-", ".", "Formally", ",", "if", "X", "is", "a", "random", "variable", ",", "S", "-LRB-", "X", "-RRB-", "the", "set", "of", "values", "that", "X", "can", "take", ",", "and", "p", "-LRB-", "x", "-RRB-", "the", "prob-582", "ability", "function", "of", "X", ",", "the", "entropy", "E", "-LRB-", "X", "-RRB-", "is", "defined", "as", "shown", "in", "Equation", "1", ".", "E", "-LRB-", "X", "-RRB-", "=", "x", "S", "-LRB-", "X", "-RRB-", "p", "-LRB-", "x", "-RRB-", "log", "-LRB-", "p", "-LRB-", "x", "-RRB-", "-RRB-", "-LRB-", "1", "-RRB-", "The", "entropy", "of", "a", "multivariate", "vector", "^", "x", "=", "-LCB-", "X", "1", ",", ",", "X", "n", "-RCB-", "can", "be", "computed", "as", "shown", "in", "Equation", "2", ",", "where", "p", "-LRB-", "^", "x", "-RRB-", "=", "p", "-LRB-", "x", "1", ",", ",", "x", "n", "-RRB-", "is", "the", "multivariate", "probability", "distribution", ".", "E", "-LRB-", "^", "x", "-RRB-", "x", "1", "S", "-LRB-", "X", "1", "-RRB-", "...", "x", "n", "S", "-LRB-", "X", "n", "-RRB-", "p", "-LRB-", "^", "x", "-RRB-", "logp", "-LRB-", "^", "x", "-RRB-", "-LRB-", "2", "-RRB-", "Entropy", "is", "sometimes", "referred", "to", "as", "a", "measure", "of", "the", "amount", "of", "``", "disorder", "''", "in", "a", "system", ".", "A", "room", "with", "socks", "strewn", "all", "over", "the", "floor", "has", "more", "entropy", "than", "a", "room", "in", "which", "socks", "are", "paired", "up", ",", "neatly", "folded", ",", "and", "placed", "in", "one", "side", "of", "your", "sock", "and", "underwear", "drawer", ".", "2.2", "Problem", "formulation", "The", "problem", "we", "are", "trying", "to", "solve", "can", "be", "formulated", "as", "follows", ".", "Given", "a", "data", "set", "D", "of", "N", "points", "^", "p", "1", ",", ",", "^", "p", "N", ",", "where", "each", "point", "is", "a", "multidimensional", "vector", "of", "d", "categorical", "attributes", ",", "i.e.", ",", "^", "p", "j", "=", "-LRB-", "p", "1", "j", ",", ",", "p", "d", "j", "-RRB-", ",", "and", "given", "an", "integer", "k", ",", "we", "would", "like", "to", "separate", "the", "points", "into", "k", "groups", "C", "1", ",", ",", "C", "k", ",", "or", "clusters", ",", "in", "such", "a", "way", "that", "we", "minimize", "the", "entropy", "of", "the", "whole", "arrangement", ".", "Unfortunately", ",", "this", "problem", "is", "NP-Complete", ",", "and", "moreover", ",", "difficult", "to", "approximate", "-LSB-", "13", "-RSB-", ".", "In", "fact", ",", "the", "problem", "is", "NP-Complete", "for", "any", "distance", "function", "d", "-LRB-", "x", ",", "y", "-RRB-", ",", "defined", "over", "pairs", "of", "points", "x", ",", "y", ",", "such", "that", "the", "function", "maps", "pairs", "of", "points", "to", "real", "numbers", "-LRB-", "and", "hence", ",", "our", "entropy", "function", "qualifies", "-RRB-", ",", "therefore", "we", "need", "to", "resort", "to", "heuristics", "to", "solve", "it", ".", "We", "first", "have", "to", "resolve", "the", "issue", "of", "what", "we", "mean", "by", "the", "``", "whole", "entropy", "of", "the", "system", ".", "''", "In", "other", "words", ",", "we", "have", "to", "make", "our", "objective", "function", "clear", ".", "We", "aim", "to", "minimize", "the", "expected", "entropy", ",", "whose", "expression", "is", "shown", "in", "Equation", "3", ",", "where", "E", "-LRB-", "C", "1", "-RRB-", ",", ",", "E", "-LRB-", "C", "k", "-RRB-", ",", "represent", "the", "entropies", "of", "each", "cluster", ",", "C", "i", "denotes", "the", "points", "assigned", "to", "cluster", "i", ",", "C", "i", "D", ",", "with", "the", "property", "that", "C", "i", "C", "j", "=", ",", "for", "all", "i", ",", "j", "=", "1", ",", ".", ".", ",", "k", "i", "=", "j", ".", "The", "symbol", "C", "=", "-LCB-", "C", "1", ",", ",", "C", "k", "-RCB-", "represents", "the", "clustering", ".", "E", "-LRB-", "C", "-RRB-", "=", "k", "-LRB-", "|", "C", "k", "|", "|", "D", "|", "-LRB-", "E", "-LRB-", "C", "k", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "3", "-RRB-", "This", "function", ",", "as", "we", "will", "see", "later", ",", "allows", "us", "to", "implement", "an", "incremental", "algorithm", "that", "can", "effectively", "deal", "with", "large", "datasets", ",", "since", "we", "do", "not", "need", "to", "look", "at", "the", "entire", "set", "of", "points", "to", "decide", "about", "the", "entropy", "of", "an", "arrangement", ".", "Rather", ",", "we", "will", "be", "able", "to", "decide", "for", "each", "point", ",", "how", "it", "would", "affect", "the", "entropy", "of", "each", "of", "the", "existing", "clusters", "if", "placed", "in", "each", "one", "of", "them", ".", "The", "solution", "we", "propose", "in", "this", "paper", "-LRB-", "and", "present", "in", "Section", "4", "-RRB-", "is", "a", "heuristic", "based", "in", "finding", "a", "set", "of", "initial", "clusters", "-LRB-", "using", "the", "entropic", "criteria", "-RRB-", ",", "and", "then", "incrementally", "-LRB-", "greed-ily", "-RRB-", "add", "points", "to", "the", "clusters", "according", "to", "a", "criteria", "that", "minimizes", "Equation", "3", ".", "Furthermore", ",", "we", "make", "a", "simplification", "in", "the", "computation", "of", "entropy", "of", "a", "set", "of", "records", ".", "We", "assume", "independence", "of", "the", "attributes", "of", "the", "record", ",", "transforming", "Equation", "2", "into", "Equation", "5", ".", "In", "other", "words", ",", "the", "joint", "probability", "of", "the", "combined", "attribute", "values", "becomes", "the", "product", "of", "the", "prob-members", "E", "Exp", ".", "Entropy", "Cluster0", "-LCB-", "``", "red", "''", ",", "``", "heavy", "''", "-RCB-", "1.0", "0.66", "-LCB-", "``", "red", "''", ",", "``", "medium", "''", "-RCB-", "Cluster1", "-LCB-", "``", "blue", "''", ",", "``", "light", "''", "-RCB-", "0", "Cluster0", "-LCB-", "``", "red", "''", ",", "``", "heavy", "''", "-RCB-", "2.0", "1.33", "-LCB-", "``", "blue", "''", ",", "``", "light", "''", "-RCB-", "Cluster1", "-LCB-", "``", "red", "''", ",", "``", "medium", "''", "-RCB-", "0", "Cluster0", "-LCB-", "``", "red", "''", ",", "heavy", "''", "-RCB-", "0", "1.33", "Cluster1", "-LCB-", "``", "red", "''", ",", "``", "medium", "''", "-RCB-", "2.0", "-LCB-", "``", "blue", "''", ",", "``", "light", "''", "-RCB-", "Figure", "1", ":", "Three", "different", "clusterings", "for", "the", "set", "v", "1", ",", "v", "2", ",", "v", "3", ".", "Clustering", "1", "minimizes", "the", "expected", "entropy", "of", "the", "two", "clusters", ".", "abilities", "of", "each", "attribute", ",", "and", "hence", "the", "entropy", "can", "be", "calculated", "as", "the", "sum", "of", "entropies", "of", "the", "attributes", ".", "E", "-LRB-", "^", "x", "-RRB-", "=", "x", "1", "S", "-LRB-", "X", "1", "-RRB-", "x", "n", "S", "-LRB-", "X", "n", "-RRB-", "-LRB-", "4", "-RRB-", "i", "-LRB-", "p", "-LRB-", "x", "i", "-RRB-", "-RRB-", "log", "-LRB-", "i", "p", "-LRB-", "x", "i", "-RRB-", "-RRB-", "=", "E", "-LRB-", "X", "1", "-RRB-", "+", "E", "-LRB-", "X", "2", "-RRB-", "+", "+", "E", "-LRB-", "X", "n", "-RRB-", "-LRB-", "5", "-RRB-", "Assume", "that", "we", "have", "a", "set", "of", "three", "records", ",", "v", "1", "=", "-LCB-", "``", "red", "''", ",", "``", "heavy", "''", "-RCB-", ",", "v", "2", "=", "-LCB-", "``", "blue", "''", ",", "``", "light", "''", "-RCB-", ",", "and", "v", "3", "=", "-LCB-", "``", "red", "''", ",", "``", "medium", "''", "-RCB-", ",", "and", "we", "want", "to", "form", "two", "clusters", "with", "them", ".", "Figure", "1", "shows", "all", "the", "possible", "arrangements", ",", "with", "the", "entropy", "of", "each", "cluster", ",", "and", "the", "expected", "entropy", "in", "each", "arrangement", ".", "As", "we", "can", "see", ",", "the", "minimum", "expected", "entropy", "is", "that", "of", "arrangement", "1", ",", "which", "obviously", "is", "the", "correct", "way", "of", "clustering", "the", "records", "-LRB-", "using", "two", "clusters", "-RRB-", ".", "Even", "though", "the", "assumption", "of", "attribute", "independence", "is", "not", "true", "in", "every", "data", "set", ",", "it", "proves", "to", "work", "very", "well", "in", "practice", "-LRB-", "as", "shall", "be", "shown", "in", "the", "experimental", "section", "of", "this", "paper", "-RRB-", ".", "Moreover", ",", "in", "the", "cases", "we", "can", "demonstrate", "that", "there", "is", "a", "correlation", "between", "two", "or", "more", "attributes", "of", "the", "data", "set", ",", "we", "can", "always", "change", "the", "data", "points", "by", "creating", "attributes", "that", "reflect", "these", "correlations", "and", "then", "apply", "Equation", "5", "to", "compute", "the", "join", "entropy", ".", "For", "instance", ",", "if", "the", "data", "set", "is", "composed", "of", "records", "of", "attributes", "A", ",", "B", ",", "C", ",", "D", ",", "E", ",", "F", "and", "we", "know", "that", "-LRB-", "A", ",", "B", "-RRB-", ",", "-LRB-", "A", ",", "C", "-RRB-", "and", "-LRB-", "E", ",", "F", "-RRB-", "are", "correlated", ".", "we", "can", "convert", "the", "data", "set", "into", "one", "having", "records", "with", "attributes", "AB", ",", "AC", ",", "D", ",", "EF", "and", "compute", "the", "entropy", "assuming", "that", "these", "new", "attributes", "are", "independent", ".", "Notice", "that", "for", "the", "grouped", "attributes", ",", "we", "are", "in", "effect", "computing", "their", "joint", "probabilities", ".", "The", "correlations", "between", "attributes", "can", "be", "easily", "found", "by", "techniques", "such", "as", "the", "Chi-Square", "and", "likelihood", "ratio", "tests", ".", "In", "our", "experimental", "experience", ",", "the", "gains", "obtained", "by", "doing", "this", "are", "small", "enough", "to", "justify", "the", "usage", "of", "the", "independence", "assumption", ".", "2.3", "Expected", "entropy", "and", "the", "Minimum", "Description", "Length", "principle", "The", "Minimum", "Description", "Length", "principle", "-LRB-", "MDL", "-RRB-", "-LSB-", "26", ",", "27", "-RSB-", "recommends", "choosing", "the", "model", "that", "minimizes", "the", "sum", "of", "the", "model", "'s", "algorithmic", "complexity", "and", "the", "description", "of", "the", "data", "with", "respect", "to", "that", "model", ".", "This", "principle", "is", "widely", "583", "used", "to", "compare", "classifiers", "-LRB-", "see", "-LSB-", "23", "-RSB-", "-RRB-", "but", "it", "has", "not", "been", "used", "much", "to", "deal", "with", "clustering", ".", "Formally", ",", "the", "complexity", "of", "the", "model", "can", "be", "stated", "as", "shown", "in", "Equation", "6", ",", "where", "K", "-LRB-", "-RRB-", "indicates", "the", "complexity", ",", "h", "is", "the", "model", ",", "and", "D", "denotes", "the", "data", "set", ".", "The", "term", "K", "-LRB-", "h", "-RRB-", "denotes", "the", "complexity", "of", "the", "model", ",", "or", "model", "encoding", ",", "while", "K", "-LRB-", "D", "using", "h", "-RRB-", "is", "the", "complexity", "of", "the", "data", "encoding", "with", "respect", "to", "the", "chosen", "model", ".", "K", "-LRB-", "h", ",", "D", "-RRB-", "=", "K", "-LRB-", "h", "-RRB-", "+", "K", "-LRB-", "D", "using", "h", "-RRB-", "-LRB-", "6", "-RRB-", "Consider", "first", "the", "term", "K", "-LRB-", "h", "-RRB-", ".", "To", "encode", "the", "model", ",", "we", "need", "to", "encode", "for", "each", "cluster", "the", "probability", "distribution", "for", "the", "attribute", "values", ".", "This", "can", "be", "done", "by", "encoding", "the", "number", "of", "times", "each", "attribute", "value", "appears", "in", "the", "cluster", ",", "and", "the", "number", "of", "points", "in", "each", "cluster", ".", "Assuming", "that", "there", "are", "d", "attributes", "in", "the", "data", ",", "and", "that", "attribute", "A", "j", "can", "assume", "v", "j", "different", "values", ".", "As", "usual", ",", "k", "represents", "the", "number", "of", "clusters", "in", "the", "model", ".", "K", "-LRB-", "h", "-RRB-", "can", "be", "written", "as", "shown", "in", "Equation", "7", ".", "In", "each", "cluster", "i", ",", "we", "need", "to", "encode", "c", "i", "=", "d-1", "j", "=", "0", "v", "j", "values", ".", "So", ",", "the", "total", "number", "of", "values", "we", "need", "to", "encode", "is", "k-1", "i", "=", "0", "c", "i", "=", "k", ",", "where", "is", "a", "constant", ".", "We", "also", "need", "to", "encode", "the", "number", "of", "points", "in", "each", "cluster", ",", "or", "k", "values", ".", "The", "number", "of", "bits", "needed", "to", "encode", "the", "number", "of", "times", "each", "attribute", "value", "occurs", "in", "the", "cluster", ",", "or", "the", "number", "of", "points", "in", "a", "cluster", "is", "equal", "to", "log", "-LRB-", "|", "D", "|", "-RRB-", ",", "since", "the", "maximum", "number", "for", "these", "values", "is", "the", "size", "of", "the", "entire", "data", "set", ".", "Therefore", "K", "-LRB-", "h", "-RRB-", "is", "a", "linear", "function", "of", "k", ",", "with", "a", "constant", "that", "represents", "all", "the", "contributions", "described", "above", ".", "K", "-LRB-", "h", "-RRB-", "=", "klog", "-LRB-", "|", "D", "|", "-RRB-", "-LRB-", "7", "-RRB-", "On", "the", "other", "hand", ",", "the", "encoding", "of", "the", "data", "given", "the", "model", "can", "be", "stated", "as", "shown", "in", "Equation", "8", ".", "Once", "the", "probabilities", "of", "occurrence", "of", "each", "attribute", "value", "in", "each", "cluster", "are", "known", ",", "an", "optimal", "code", "-LRB-", "Huffman", "-RRB-", "can", "be", "chosen", "to", "represent", "each", "attribute", "value", "in", "the", "cluster", ".", "Each", "point", "is", "simply", "represented", "by", "the", "encoding", "of", "its", "attributes", "'", "values", ".", "The", "optimal", "code", "is", "achieved", "by", "giving", "to", "each", "value", "a", "number", "of", "bits", "proportional", "to", "log", "-LRB-", "Pijl", "-RRB-", ",", "where", "P", "-LRB-", "ijl", "-RRB-", "is", "the", "probability", "that", "the", "l", "value", "of", "attribute", "j", "occurs", "in", "cluster", "i", ".", "The", "second", "term", "in", "the", "equation", "simply", "indicates", "the", "membership", "of", "all", "the", "points", ",", "needing", "log", "-LRB-", "k", "-RRB-", "for", "the", "encoding", "of", "the", "individual", "memberships", ".", "K", "-LRB-", "D", "using", "h", "-RRB-", "=", "k-1", "i", "=", "0", "|", "C", "i", "|", "|", "D", "|", "d-1", "j", "=", "0", "v-1", "l", "=", "0", "Pijllog", "-LRB-", "Pijl", "-RRB-", "+", "Dlog", "-LRB-", "k", "-RRB-", "-LRB-", "8", "-RRB-", "Noticing", "that", "the", "first", "term", "of", "Equation", "8", "is", "simply", "the", "expected", "entropy", "of", "the", "clustering", ",", "we", "can", "write", "K", "-LRB-", "h", ",", "D", "-RRB-", "as", "shown", "in", "Equation", "9", ".", "Notice", "that", "for", "a", "fixed", "k", ",", "the", "MDL", "principle", "indicates", "that", "the", "best", "model", "can", "be", "found", "by", "minimizing", "the", "expected", "entropy", "of", "the", "clustering", ",", "which", "is", "pre-cisely", "our", "goal", ".", "K", "-LRB-", "h", ",", "D", "-RRB-", "=", "log", "-LRB-", "|", "D", "|", "-RRB-", "+", "Dlog", "-LRB-", "k", "-RRB-", "+", "E", "-LRB-", "C", "-RRB-", "-LRB-", "9", "-RRB-", "2.4", "Evaluating", "clustering", "results", "A", "frequent", "problem", "one", "encounters", "when", "applying", "clustering", "algorithms", "in", "practice", "is", "the", "difficulty", "in", "evaluating", "the", "solutions", ".", "Different", "clustering", "algorithms", "-LRB-", "and", "sometimes", "multiple", "applications", "of", "the", "same", "algorithm", "using", "slight", "variations", "of", "initial", "conditions", "or", "parameters", "-RRB-", "result", "in", "very", "different", "solutions", ",", "all", "of", "them", "looking", "plausible", ".", "This", "stems", "from", "the", "fact", "that", "there", "is", "no", "unifying", "criteria", "to", "define", "clusters", ",", "and", "more", "often", "than", "not", ",", "the", "final", "clusters", "found", "by", "the", "algorithm", "are", "in", "fact", "the", "ones", "that", "correspond", "to", "the", "criteria", "used", "to", "drive", "the", "algorithm", ".", "Methods", "to", "evaluate", "whether", "or", "not", "the", "structure", "found", "is", "a", "property", "of", "the", "data", "set", "and", "not", "one", "imposed", "by", "the", "algorithm", "are", "needed", ".", "Authors", "have", "pondered", "about", "good", "ways", "to", "validate", "clusters", "found", "by", "algorithms", "-LRB-", "e.g.", ",", "see", "-LSB-", "21", ",", "1", "-RSB-", "-RRB-", ".", "Two", "widely", "used", "methods", "are", "the", "following", ":", "Significance", "Test", "on", "External", "Variables", "This", "technique", "calls", "for", "the", "usage", "of", "significance", "tests", "that", "compare", "the", "clusters", "on", "variables", "not", "used", "to", "generate", "them", ".", "One", "way", "of", "doing", "this", "is", "to", "compute", "the", "entropy", "of", "the", "solution", "using", "a", "variable", "that", "did", "not", "participate", "in", "the", "clustering", ".", "-LRB-", "A", "class", "attribute", ".", "-RRB-", "The", "entropy", "of", "an", "attribute", "C", "in", "a", "cluster", "C", "k", "is", "computed", "as", "shown", "in", "Equation", "10", ",", "where", "V", "j", "denotes", "one", "of", "the", "possible", "values", "that", "C", "can", "take", ".", "The", "evaluation", "is", "performed", "by", "computing", "the", "expected", "entropy", "-LRB-", "taken", "into", "consideration", "the", "cluster", "sizes", "-RRB-", ".", "The", "smaller", "the", "value", "of", "E", "-LRB-", "C", "k", "-RRB-", ",", "the", "better", "the", "clustering", "fares", ".", "E", "-LRB-", "C", "k", "-RRB-", "=", "j", "P", "-LRB-", "C", "=", "V", "j", "-RRB-", "logP", "-LRB-", "C", "=", "V", "j", "-RRB-", "-LRB-", "10", "-RRB-", "The", "category", "utility", "function", "The", "category", "utility", "-LRB-", "CU", "-RRB-", "function", "-LSB-", "15", "-RSB-", "attempts", "to", "maximize", "both", "the", "probability", "that", "two", "objects", "in", "the", "same", "cluster", "have", "attribute", "values", "in", "common", "and", "the", "probability", "that", "objects", "from", "different", "clusters", "have", "different", "attributes", ".", "The", "expression", "to", "calculate", "the", "expected", "value", "of", "the", "CU", "function", "is", "shown", "in", "Equation", "11", ",", "where", "P", "-LRB-", "A", "i", "=", "V", "ij", "|", "C", "k", "-RRB-", "is", "the", "conditional", "probability", "that", "the", "attribute", "i", "has", "the", "value", "V", "ij", "given", "the", "cluster", "C", "k", ",", "and", "P", "-LRB-", "A", "i", "=", "V", "ij", "-RRB-", "is", "the", "overall", "probability", "of", "the", "attribute", "i", "having", "the", "value", "V", "ij", "-LRB-", "in", "the", "entire", "set", "-RRB-", ".", "The", "function", "aims", "to", "measure", "if", "the", "clustering", "improves", "the", "likelihood", "of", "similar", "values", "falling", "in", "the", "same", "cluster", ".", "Obviously", ",", "the", "higher", "the", "value", "of", "CU", ",", "the", "better", "the", "clustering", "fares", ".", "CU", "=", "k", "C", "k", "|", "D", "|", "i", "j", "-LSB-", "P", "-LRB-", "A", "i", "=", "V", "ij", "|", "C", "k", "-RRB-", "2", "-", "P", "-LRB-", "A", "i", "=", "V", "ij", "-RRB-", "2", "-RSB-", "-LRB-", "11", "-RRB-", "We", "have", "used", "both", "techniques", "in", "validating", "our", "results", ",", "as", "shall", "be", "seen", "in", "the", "experimental", "section", ".", "2.5", "Number", "of", "clusters", "The", "issue", "of", "choosing", "the", "number", "of", "clusters", "is", "one", "common", "to", "all", "clustering", "methods", ",", "and", "our", "technique", "is", "no", "exception", ".", "Many", "methods", "have", "been", "proposed", "for", "determining", "the", "right", "number", "of", "clusters", "-LRB-", "e.g.", ",", "-LSB-", "4", ",", "9", "-RSB-", "-RRB-", ".", "Unfortunately", "many", "of", "these", "methods", "-LRB-", "e.g.", ",", "-LSB-", "4", "-RSB-", "-RRB-", "assume", "that", "it", "is", "possible", "to", "compute", "a", "centroid", "for", "each", "cluster", ",", "which", "in", "categorical", "data", "is", "not", "easy", ".", "We", "consider", "this", "issue", "out", "of", "the", "scope", "of", "584", "this", "paper", "since", "we", "plan", "to", "examine", "good", "ways", "of", "selecting", "the", "optimal", "number", "of", "clusters", "in", "the", "context", "of", "our", "metric", ".", "Clustering", "is", "an", "extensively", "researched", "area", "not", "only", "by", "data", "mining", "and", "database", "researchers", "-LSB-", "31", ",", "11", ",", "17", ",", "18", ",", "3", "-RSB-", ",", "but", "also", "by", "people", "in", "other", "disciplines", "-LSB-", "10", "-RSB-", ".", "Among", "the", "numerical", "clustering", "algorithms", ",", "ENCLUS", "-LSB-", "6", "-RSB-", "uses", "entropy", "as", "a", "criteria", "to", "drive", "the", "algorithm", ".", "However", ",", "ENCLUS", "follows", "a", "completely", "different", "algorithm", "to", "our", "approach", ",", "dividing", "the", "hyperspace", "recursively", ".", "For", "each", "subspace", ",", "ENCLUS", "estimates", "its", "density", "and", "entropy", "and", "determines", "if", "it", "satisfies", "the", "goodness", "criteria", ":", "its", "entropy", "has", "to", "be", "lower", "than", "a", "threshold", ".", "However", ",", "it", "is", "not", "possible", "to", "translate", "either", "the", "algorithm", "or", "the", "relationships", "to", "the", "area", "of", "categorical", "clustering", ",", "since", "the", "notion", "of", "density", "has", "no", "intuitive", "meaning", "when", "the", "attributes", "are", "categorical", ".", "In", "a", "recent", "paper", "-LSB-", "16", "-RSB-", ",", "the", "authors", "use", "Renyi", "'s", "definition", "of", "entropy", "-LSB-", "25", "-RSB-", "to", "define", "a", "clustering", "evaluation", "function", "that", "measures", "the", "distance", "between", "clusters", "as", "the", "information", "potential", "-LSB-", "24", "-RSB-", "between", "them", ".", "Using", "this", "function", ",", "they", "describe", "an", "algorithm", "that", ",", "starting", "with", "a", "random", "placing", "of", "points", "in", "clusters", ",", "perturbs", "the", "placement", "until", "the", "improvement", "on", "the", "information", "potential", "is", "not", "appreciable", ".", "This", "algorithm", ",", "however", ",", "can", "not", "scale", "to", "large", "data", "sets", "since", "it", "requires", "all", "points", "to", "perform", "the", "calculation", "of", "the", "distance", ".", "In", "the", "area", "of", "clustering", "categorical", "records", ",", "a", "few", "recent", "publications", "are", "worth", "mentioning", ".", "In", "-LSB-", "19", "-RSB-", ",", "the", "authors", "address", "the", "problem", "of", "clustering", "transactions", "in", "a", "market", "basket", "database", "by", "representing", "frequent", "item", "sets", "as", "hyper-edges", "in", "a", "weighted", "hypergraph", ".", "The", "weight", "of", "the", "graph", "is", "computed", "as", "the", "average", "of", "the", "confidences", "for", "all", "possible", "association", "rules", "that", "can", "be", "generated", "from", "the", "item", "set", ".", "Then", ",", "a", "hypergraph", "partitioning", "algorithm", "is", "employed", "to", "partition", "the", "items", ",", "minimizing", "the", "weight", "of", "the", "cut", "hyper-edges", ".", "The", "algorithm", "does", "not", "produce", "a", "clustering", "of", "the", "transactions", "and", "it", "is", "not", "obvious", "how", "to", "obtain", "one", "from", "the", "item", "clusters", ".", "A", "related", "paper", "by", "Gibson", "et", "al", "-LSB-", "14", "-RSB-", "also", "treats", "categorical", "clustering", "as", "hypergraph", "partitioning", ",", "but", "uses", "a", "less", "combinatorial", "approach", "to", "solving", "it", ",", "based", "on", "non-linear", "dynamical", "systems", ".", "CACTUS", "-LSB-", "12", "-RSB-", ",", "is", "an", "agglomerative", "algorithm", "that", "uses", "the", "author", "'s", "definitions", "of", "support", ",", "strong", "connection", "and", "similarity", "to", "cluster", "categorical", "data", ".", "Support", "for", "an", "attribute", "value", "pair", "-LRB-", "a", "i", ",", "a", "j", "-RRB-", ",", "where", "a", "i", "is", "in", "the", "domain", "of", "attribute", "A", "i", "and", "a", "j", "in", "the", "domain", "of", "attribute", "A", "j", "is", "defined", "as", "the", "number", "of", "tuples", "that", "have", "these", "two", "values", ".", "The", "two", "attributes", "a", "i", ",", "a", "j", "are", "strongly", "connected", "if", "their", "support", "exceeds", "the", "value", "expected", "under", "the", "attribute-independence", ".", "This", "concept", "is", "then", "extended", "to", "sets", "of", "attributes", ".", "A", "cluster", "is", "defined", "as", "a", "region", "of", "attributes", "that", "are", "pairwise", "strongly", "connected", ",", "no", "sub-region", "has", "the", "property", ",", "and", "its", "support", "exceeds", "the", "expected", "support", "under", "the", "attribute-independence", "assumption", ".", "ROCK", "-LSB-", "18", "-RSB-", "computes", "distances", "between", "records", "using", "the", "Jaccard", "coefficient", ".", "Using", "a", "threshold", ",", "it", "determines", ",", "for", "each", "record", ",", "who", "are", "its", "neighbors", ".", "For", "a", "given", "point", "p", ",", "a", "point", "q", "is", "a", "neighbor", "of", "p", "if", "the", "Jaccard", "coefficient", "J", "-LRB-", "p", ",", "q", "-RRB-", "exceeds", "the", "threshold", ".", "Then", ",", "it", "computes", "the", "values", "of", "a", "matrix", "LIN", "K", ",", "in", "which", "the", "entries", "link", "-LRB-", "p", ",", "q", "-RRB-", "are", "the", "number", "of", "common", "neighbors", "between", "p", "and", "q", ".", "The", "algorithm", "then", "proceeds", "to", "cluster", "the", "records", "in", "an", "agglomerative", "way", ",", "trying", "to", "maximize", "for", "the", "k", "clusters", "-LRB-", "k", "is", "a", "predefined", "integer", "-RRB-", "the", "function", "k", "i", "=", "1", "n", "i", "p", ",", "qC", "i", "link", "-LRB-", "p", ",", "q", "-RRB-", "n", "1", "+", "2f", "-LRB-", "-RRB-", "i", ",", "where", "is", "the", "threshold", ",", "and", "f", "-LRB-", "-RRB-", "is", "a", "function", "selected", "by", "the", "user", ".", "The", "choice", "of", "f", "-LRB-", "-RRB-", "is", "critical", "in", "defining", "the", "fitness", "of", "the", "clusters", "formed", "the", "the", "ROCK", "algorithm", ",", "and", ",", "as", "the", "authors", "point", "out", ",", "the", "function", "is", "dependent", "on", "the", "data", "set", "as", "well", "as", "on", "the", "kind", "of", "cluster", "the", "user", "is", "interested", "in", ".", "We", "feel", "that", "choosing", "the", "function", "is", "a", "delicate", "and", "difficult", "task", "for", "users", "that", "may", "be", "a", "roadblock", "to", "using", "ROCK", "efficiently", ".", "Snob", "-LSB-", "29", ",", "30", "-RSB-", "is", "an", "unsupervised", "learning", "algorithm", "based", "on", "the", "notion", "of", "Minimum", "Message", "Length", "-LRB-", "MML", "-RRB-", ".", "MML", "is", "an", "information", "theoretic", "criterion", "for", "parameter", "estimation", "and", "model", "selection", ".", "Although", "MML", "is", "similar", "to", "the", "MDL", "criterion", "of", "Rissanen", ",", "MML", "is", "a", "Bayesian", "criterion", "and", "therefore", "uses", "an", "a-priori", "distribution", "of", "parameter", "values", ".", "Snob", "is", "in", "the", "category", "of", "mixture", "model", "algorithms", "-LSB-", "22", "-RSB-", ".", "Snob", "is", "iterative", "in", "nature", "and", "therefore", "does", "not", "scale", "with", "large", "data", "sets", ".", "Moreover", ",", "contrary", "to", "COOLCAT", ",", "it", "is", "difficult", "to", "envision", "how", "Snob", "can", "be", "used", "to", "cluster", "data", "streams", ".", "AUTOCLASS", "-LSB-", "5", "-RSB-", "also", "uses", "mixture", "models", "and", "Bayesian", "criteria", "to", "cluster", "data", "sets", ".", "Again", ",", "AUTOCLASS", "does", "not", "scale", "well", "with", "large", "data", "sets", ".", "Our", "entropy-based", "algorithm", ",", "COOLCAT", ",", "consists", "of", "two", "steps", ":", "initialization", "and", "incremental", "step", ".", "4.1", "Initialization", "The", "initialization", "step", "``", "bootstraps", "''", "the", "algorithm", ",", "finding", "a", "suitable", "set", "of", "clusters", "out", "of", "a", "sample", "S", ",", "taken", "from", "the", "data", "set", "-LRB-", "|", "S", "|", "<", "<", "N", "-RRB-", ",", "where", "N", "is", "the", "size", "of", "the", "entire", "data", "set", ".", "We", "first", "find", "the", "k", "most", "``", "dissimilar", "''", "records", "from", "the", "sample", "set", "by", "maximizing", "the", "minimum", "pairwise", "entropy", "of", "the", "chosen", "points", ".", "We", "start", "by", "finding", "the", "two", "points", "ps", "1", ",", "ps", "2", "that", "maximize", "E", "-LRB-", "ps", "1", ",", "ps", "2", "-RRB-", "and", "placing", "them", "in", "two", "separate", "clusters", "-LRB-", "C", "1", ",", "C", "2", "-RRB-", ",", "marking", "the", "records", "-LRB-", "this", "takes", "O", "-LRB-", "|", "S", "|", "2", "-RRB-", "-RRB-", ".", "From", "there", ",", "we", "proceed", "incrementally", ",", "i.e.", ",", "to", "find", "the", "record", "we", "will", "put", "in", "the", "j-th", "cluster", ",", "we", "choose", "an", "unmarked", "point", "ps", "j", "that", "maximizes", "min", "i", "=", "1,..,j-1", "-LRB-", "E", "-LRB-", "ps", "i", ",", "ps", "j", "-RRB-", "-RRB-", ".", "The", "rest", "of", "the", "sample", "unmarked", "points", "-LRB-", "|", "S", "|", "-", "k", "-RRB-", ",", "as", "well", "as", "the", "remaining", "points", "-LRB-", "outside", "the", "sample", "-RRB-", ",", "are", "placed", "in", "the", "clusters", "using", "the", "incremental", "step", ".", "We", "are", "interested", "in", "determining", "the", "size", "of", "the", "sample", "that", "guarantees", "with", "high", "probability", "the", "existence", "in", "the", "sample", "of", "at", "least", "one", "member", "of", "each", "cluster", ",", "given", "the", "number", "of", "clusters", ".", "In", "-LSB-", "17", "-RSB-", ",", "the", "authors", "address", "the", "same", "problem", "and", "use", "Chernoff", "bounds", "-LSB-", "7", "-RSB-", "to", "bound", "the", "size", "of", "the", "sample", "given", "an", "estimate", "of", "the", "size", "of", "the", "smallest", "cluster", "with", "respect", "to", "the", "average", "size", "-LRB-", "|", "D", "|", "k", "-RRB-", ",", "and", "the", "confidence", "level", "for", "the", "probability", "of", "finding", "at", "least", "a", "member", "of", "each", "cluster", ".", "The", "estimate", "of", "the", "size", "of", "the", "smallest", "cluster", "with", "respect", "to", "the", "average", "size", "is", "given", "in", "the", "form", "of", "a", "parameter", "=", "|", "D", "|", "k", "m", ",", "where", "m", "is", "the", "size", "of", "the", "smallest", "cluster", ".", "The", "parameter", "is", "then", "a", "number", "greater", "than", "1", ".", "The", "bound", "on", "the", "size", "of", "the", "sample", "is", "then", "given", "by", "Equation", "12", ".", "s", "=", "k", "+", "klog", "-LRB-", "1", "-RRB-", "+", "k", "-LRB-", "log", "-LRB-", "1", "-RRB-", "-RRB-", "2", "+", "2log", "-LRB-", "1", "-RRB-", "-LRB-", "12", "-RRB-", "It", "is", "important", "to", "remark", "that", "Equation", "12", "does", "not", "depend", "on", "the", "size", "of", "the", "data", "set", ",", "which", "makes", "the", "bound", "585", "1", ".", "Given", "an", "initial", "set", "of", "clusters", "C", "=", "C", "1", ",", ",", "C", "k", "2", ".", "Bring", "points", "to", "memory", "from", "disk", "and", "for", "each", "point", "p", "do", "3", ".", "For", "i", "=", "1", ",", ".", ".", ",", "k", "4", ".", "Tentatively", "place", "p", "in", "C", "i", "and", "compute", "E", "-LRB-", "C", "i", "-RRB-", "where", "C", "i", "denotes", "the", "clustering", "obtained", "by", "placing", "p", "in", "cluster", "C", "i", "5", ".", "Let", "j", "=", "argmin", "i", "-LRB-", "E", "-LRB-", "C", "i", "-RRB-", "-RRB-", "6", ".", "Place", "p", "in", "C", "j", "7", ".", "Until", "all", "points", "have", "been", "placed", "in", "some", "cluster", "Figure", "2", ":", "Incremental", "step", ".", "very", "favorable", "for", "larger", "sets", "-LRB-", "and", "unfavorable", "for", "small", "ones", ",", "but", "this", "is", "not", "a", "problem", "since", "for", "small", "sets", "we", "can", "simply", "use", "the", "entire", "set", "as", "a", "sample", "-RRB-", ".", "4.2", "Incremental", "Step", "After", "the", "initialization", ",", "we", "process", "the", "remaining", "records", "of", "the", "data", "set", "-LRB-", "the", "rest", "of", "the", "sample", "and", "points", "outside", "the", "sample", "-RRB-", "incrementally", ",", "finding", "a", "suitable", "cluster", "for", "each", "record", ".", "This", "is", "done", "by", "computing", "the", "expected", "entropy", "that", "results", "of", "placing", "the", "point", "in", "each", "of", "the", "clusters", "and", "selecting", "the", "cluster", "for", "which", "that", "expected", "entropy", "is", "the", "minimum", ".", "We", "proceed", "in", "the", "incremental", "step", "by", "bringing", "a", "buffer", "of", "points", "to", "main", "memory", "and", "clustering", "them", "one", "by", "one", ".", "The", "order", "of", "processing", "points", "has", "a", "definite", "impact", "on", "the", "quality", "of", "the", "clusters", "obtained", ".", "It", "is", "possible", "that", "a", "point", "that", "seems", "a", "good", "fit", "for", "a", "cluster", "at", "a", "given", "point", "in", "time", ",", "becomes", "a", "poor", "fit", "as", "more", "points", "are", "clustered", ".", "In", "order", "to", "reduce", "this", "effect", ",", "we", "enhanced", "the", "heuristic", "by", "re-processing", "a", "fraction", "of", "the", "points", "in", "the", "batch", ".", "After", "a", "batch", "of", "points", "is", "clustered", ",", "we", "select", "a", "fraction", "m", "of", "points", "in", "the", "batch", "that", "can", "be", "considered", "the", "worst", "fit", "for", "the", "clusters", "they", "were", "put", "in", ".", "We", "proceed", "to", "remove", "these", "points", "from", "their", "clusters", "and", "re-cluster", "them", ".", "The", "way", "we", "figure", "out", "how", "good", "a", "fit", "a", "point", "is", "for", "the", "cluster", "where", "it", "landed", "originally", ",", "is", "by", "keeping", "track", "of", "the", "number", "of", "occurrences", "of", "each", "of", "its", "attributes", "'", "values", "in", "that", "cluster", ".", "That", "is", ",", "at", "the", "end", "of", "the", "batch", ",", "we", "know", "the", "values", "of", "q", "ij", ",", "for", "each", "record", "i", "in", "the", "batch", "and", "each", "attribute", "j", ",", "where", "q", "ij", "represent", "the", "number", "of", "times", "that", "the", "value", "V", "ij", "appears", "in", "the", "cluster", "where", "i", "was", "placed", ".", "We", "convert", "these", "numbers", "into", "probabilities", "by", "dividing", "q", "ij", "by", "the", "cluster", "size", "-LRB-", "i.e.", ",", "C", "l", ",", "where", "C", "l", "is", "the", "cluster", "where", "i", "was", "placed", "-RRB-", ".", "Let", "us", "call", "these", "numbers", "p", "ij", ".", "For", "each", "record", ",", "we", "can", "compute", "a", "fitting", "probability", "p", "i", "=", "j", "-LRB-", "p", "ij", "-RRB-", ".", "Notice", "that", "the", "lower", "the", "p", "i", "is", ",", "the", "worst", "fit", "the", "record", "is", "in", "that", "cluster", "-LRB-", "we", "can", "say", "that", "the", "global", "combination", "of", "attributes", "is", "not", "very", "common", "in", "the", "cluster", "-RRB-", ".", "We", "then", "sort", "records", "according", "to", "p", "i", "and", "select", "the", "m", "records", "in", "the", "batch", "with", "lowest", "p", "i", "as", "the", "records", "to", "be", "reprocessed", ".", "Each", "re-processed", "record", "is", "placed", "in", "the", "cluster", "that", "minimizes", "the", "expected", "entropy", "-LRB-", "as", "done", "originally", "in", "the", "incremental", "step", "-RRB-", ".", "Our", "experiments", "were", "run", "in", "a", "DELL", "server", "equipped", "with", "a", "Pentium", "III", "running", "at", "800", "MHz", ",", "and", "1", "Gigabyte", "of", "main", "memory", ",", "running", "Red", "Hat", "Linux", "2.2.14", ".", "We", "used", "two", "kinds", "of", "data", "sets", ":", "real", "data", "sets", "-LRB-", "for", "evaluating", "the", "quality", "of", "our", "algorithm", "-RRB-", "and", "synthetic", "data", "sets", "-LRB-", "for", "the", "evaluation", "of", "scalability", "-RRB-", ".", "The", "experiments", "were", "conducted", "using", "the", "following", "datasets", "-LRB-", "plus", "a", "synthetically", "generated", "data", "set", "to", "test", "the", "scalability", "of", "the", "algorithm", "-RRB-", ".", "Archaeological", "data", "set", "Our", "first", "data", "set", "is", "a", "hypothetical", "collection", "of", "human", "tombs", "and", "artifacts", "from", "an", "archaeological", "site", ".", "Although", "the", "data", "set", "is", "not", "``", "real", ",", "''", "it", "is", "realistic", "enough", "and", "so", "we", "include", "it", "in", "this", "section", ".", "It", "has", "also", "the", "property", "of", "being", "small", ",", "so", "brute", "force", "can", "be", "used", "to", "find", "the", "optimal", "clustering", ".", "The", "data", "set", "is", "taken", "from", "-LSB-", "1", "-RSB-", "The", "first", "attribute", "-LRB-", "not", "used", "for", "clustering", "but", "for", "verification", "-RRB-", "indicates", "the", "sex", "-LRB-", "M", "for", "male", ",", "F", "for", "female", "-RRB-", "of", "the", "individuals", "buried", ".", "The", "other", "eight", "attributes", "are", "binary", "-LRB-", "1", "present", ",", "0", "non-present", "-RRB-", ",", "and", "represent", "artifacts", "types", "-LRB-", "e.g.", ",", "ceramics", ",", "bracelets", ",", "arrow", "points", "-RRB-", "that", "were", "found", "-LRB-", "or", "not", "found", "-RRB-", "in", "the", "tomb", ".", "Congressional", "votes", "This", "data", "set", "was", "obtained", "from", "the", "UCI", "KDD", "Archive", "-LRB-", "-LSB-", "20", "-RSB-", "-RRB-", "and", "contains", "the", "United", "States", "Congressional", "Voting", "Records", "for", "the", "year", "1984", ".", "Each", "record", "contains", "a", "Congressman", "'s", "votes", "on", "16", "issues", ".", "All", "the", "attributes", "are", "boolean", "-LRB-", "``", "yes", "''", "or", "``", "no", "''", "-RRB-", ",", "with", "a", "few", "of", "the", "votes", "containing", "missing", "values", ".", "We", "decided", "to", "treat", "missing", "values", "as", "another", "domain", "value", "for", "the", "attribute", ".", "A", "classification", "field", "with", "the", "labels", "``", "Democrat", ",", "''", "or", "``", "Republican", "''", "is", "provided", "for", "each", "record", ",", "which", "are", "not", "used", "for", "clustering", ",", "but", "can", "be", "loosely", "used", "for", "quality", "measuring", ".", "-LRB-", "Some", "congress-men", "``", "crossed", "''", "parties", "to", "vote", ".", "-RRB-", "There", "are", "435", "records", "in", "the", "set", "-LRB-", "267", "Democrats", "and", "168", "Republicans", "-RRB-", ".", "KDD", "Cup", "1999", "data", "This", "data", "set", "can", "be", "obtained", "from", "the", "UCI", "Archive", "-LSB-", "20", "-RSB-", ",", "and", "was", "used", "for", "the", "the", "Third", "International", "Knowledge", "Discovery", "and", "Data", "Mining", "Tools", "Competition", ".", "This", "database", "contains", "a", "standard", "set", "of", "network", "audit", "data", ",", "which", "includes", "a", "wide", "variety", "of", "simulated", "intrusions", ".", "Each", "record", ",", "corresponding", "to", "a", "connection", ",", "contains", "42", "features", ",", "some", "of", "them", "categorical", ",", "and", "the", "rest", "continuous", "variables", ".", "We", "transformed", "the", "continuous", "variables", "in", "categorical", "by", "a", "simple", "process", "of", "discretization", ":", "we", "computed", "the", "median", "of", "each", "attribute", ",", "and", "assigned", "any", "value", "below", "and", "including", "the", "median", "a", "label", "``", "0", ",", "''", "while", "the", "rest", "of", "the", "values", "were", "assigned", "a", "label", "``", "1", ".", "''", "There", "are", "many", "intrusion", "data", "sets", "in", "the", "repository", ",", "some", "of", "them", "to", "be", "used", "as", "training", "sets", "and", "some", "as", "test", "sets", ".", "We", "utilized", "the", "set", "that", "corresponds", "to", "10", "%", "of", "the", "training", "data", ".", "In", "this", "set", ",", "records", "have", "an", "extra", "attribute", "-LRB-", "class", "-RRB-", ",", "labeled", "with", "a", "``", "1", "''", "if", "the", "connection", "is", "part", "of", "an", "attack", ",", "or", "a", "``", "0", "''", "if", "it", "is", "not", ".", "We", "use", "this", "attribute", "for", "the", "evaluation", "of", "external", "entropy", "-LRB-", "not", "in", "the", "clustering", "process", "-RRB-", ".", "5.1", "Archaeological", "Data", "Figure", "3", "show", "the", "results", "of", "using", "COOLCAT", "in", "the", "archaeological", "data", "set", ".", "We", "performed", "experiments", "with", "2", "clusters", ",", "since", "the", "attribute", "with", "which", "we", "evaluate", "the", "external", "entropy", "-LRB-", "not", "used", "in", "the", "clustering", "-RRB-", "is", "Sex", "-LRB-", "and", "the", "586", "Alg", ".", "m", "CU", "Ext", "E.", "Expected", "-LRB-", "sex", "-RRB-", "entropy", "COOLCAT", "0", "%", "0.7626", "0", "4.8599", "10", "%", "0.7626", "0", "4.8599", "20", "%", "0.7626", "0", "4.8599", "Brute", "Force", "0", ".7626", "0", "4.8599", "ROCK", "0", ".3312", "0.9622", "n/a", "Figure", "3", ":", "Results", "for", "COOLCAT", ",", "ROCK", "and", "brute", "force", "in", "the", "Archaeological", "data", "set", ".", "data", "set", "is", "small", ",", "so", "we", "believed", "that", "the", "clustering", "could", "effectively", "separate", "the", "two", "sexes", "-RRB-", ".", "We", "conducted", "experiments", "with", "the", "original", "data", "set", "-LRB-", "which", "we", "label", "``", "independent", "''", "-RRB-", ",", "and", "a", "modified", "data", "set", "in", "which", "we", "grouped", "attributes", "in", "the", "following", "way", ":", "-LRB-", "1", "-RRB-", ",", "-LRB-", "24", "-RRB-", ",", "-LRB-", "26", "-RRB-", ",", "-LRB-", "34", "-RRB-", ",", "-LRB-", "35", "-RRB-", ",", "-LRB-", "46", "-RRB-", ",", "-LRB-", "78", "-RRB-", ",", "to", "reflect", "the", "correlations", "found", "among", "the", "attributes", "of", "the", "set", "-LRB-", "found", "by", "using", "a", "Likelihood", "ratio", "test", "-RRB-", ".", "However", ",", "we", "only", "report", "the", "results", "for", "independent", "data", ",", "since", "the", "correlated", "set", "results", "are", "essentially", "the", "same", ".", "-LRB-", "The", "same", "phenomena", "was", "observed", "in", "the", "other", "experiments", ".", "-RRB-", "We", "also", "conducted", "``", "brute", "force", "''", "experiments", ",", "in", "which", "we", "found", "the", "optimum", "clustering", ",", "i.e.", ",", "that", "for", "which", "the", "expected", "entropy", "was", "the", "minimum", ".", "We", "did", "this", "to", "compare", "how", "well", "our", "heuristic", "-LRB-", "COOLCAT", "-RRB-", "performed", ".", "We", "also", "report", "in", "the", "table", "the", "best", "results", "found", "by", "ROCK", "-LRB-", "which", "have", "to", "be", "found", "by", "varying", "the", "parameter", "over", "a", "range", "of", "values", "-RRB-", ".", "The", "results", "shown", "in", "Figure", "3", "show", "that", "the", "expected", "entropy", "function", "does", "an", "excellent", "job", "in", "clustering", "this", "data", ".", "The", "results", "obtained", "by", "COOLCAT", "-LRB-", "in", "terms", "of", "CU", ",", "and", "external", "entropy", "with", "respect", "to", "the", "variable", "sex", ",", "which", "is", "not", "used", "in", "the", "clustering", "-RRB-", ",", "and", "expected", "entropy", "are", "the", "same", "obtained", "by", "the", "brute", "force", "-LRB-", "optimal", "-RRB-", "approach", ".", "In", "all", "cases", ",", "both", "the", "CU", "function", "and", "the", "external", "entropy", "of", "the", "COOLCAT", "solutions", "are", "better", "than", "those", "found", "for", "the", "best", "ROCK", "solution", ".", "Particularly", "encouraging", "is", "the", "fact", "that", "the", "external", "entropy", "for", "the", "variable", "SEX", "-LRB-", "which", "the", "authors", "of", "the", "data", "set", "indicated", "as", "the", "one", "being", "more", "correlated", "with", "the", "clusters", "-RRB-", ",", "is", "0", "in", "all", "the", "COOLCAT", "solutions", ",", "so", "a", "perfect", "separation", "is", "achieved", ".", "-LRB-", "ROCK", "'s", "solution", "does", "not", "achieve", "this", ",", "resulting", "in", "a", "high", "external", "entropy", ".", "-RRB-", "In", "this", "data", "set", ",", "the", "re-processing", "step", "does", "not", "have", "any", "effect", ",", "as", "seen", "by", "the", "fact", "that", "the", "results", "are", "the", "same", "for", "all", "the", "values", "of", "m", ".", "This", "is", "attributed", "to", "the", "size", "of", "the", "data", "set", "-LRB-", "only", "20", "records", "-RRB-", ".", "Both", "COOLCAT", "and", "ROCK", "took", "0.01", "seconds", "to", "find", "a", "solution", "for", "this", "data", "set", ".", "5.2", "Congressional", "Voting", "results", "Figure", "4", "summarizes", "the", "results", "obtained", "by", "COOLCAT", "in", "the", "Congressional", "Voting", "records", "-LRB-", "no", "grouping", "of", "attributes", "was", "performed", "-RRB-", ",", "for", "three", "values", "of", "m", ".", "The", "results", "obtained", "for", "various", "sample", "sizes", "are", "extremely", "stable", ".", "The", "CU", "values", "for", "the", "clusterings", "obtained", "with", "COOLCAT", "are", ",", "in", "all", "the", "cases", "superior", "to", "the", "one", "obtained", "by", "ROCK", ".", "The", "values", "show", "no", "fluctuations", "on", "our", "results", "as", "m", "changes", ",", "while", "the", "value", "for", "CU", "is", "11", "%", "better", "than", "ROCK", "'s", "value", ".", "The", "external", "entropy", "for", "the", "COOLCAT", "solutions", "is", "slightly", "better", "than", "the", "value", "in", "ROCK", "'s", "solution", ".", "The", "buffer", "size", "-LRB-", "batch", "-RRB-", "in", "this", "experiment", "was", "100", "records", ",", "making", "the", "num-Alg", ".", "m", "CU", "Ext.Ent", ".", "Expected", "Running", "-LRB-", "pol", ".", "affl", ".", "-RRB-", "entropy", "time", "-LRB-", "sec", ".", "-RRB-", "COOL", "0", "%", "2.9350", "0.4975", "13.8222", "0.16", "CAT", "10", "%", "2.9350", "0.4975", "13.8222", "0.26", "20", "%", "2.9350", "0.4975", "13.8222", "0.28", "ROCK", "2", ".6282", "0.4993", "N/A", "0.51", "Figure", "4", ":", "Results", "for", "COOLCAT", "and", "ROCK", "in", "the", "Congressional", "Voting", "data", "set", "ber", "of", "re-processed", "points", "0,10", ",", "and", "20", "-LRB-", "m", "=", "0", "%", ",", "10", "%", ",", "20", "%", "-RRB-", ".", "-LRB-", "Again", ",", "these", "numbers", "correspond", "to", "the", "means", "of", "500", "runs", ".", "-RRB-", "The", "running", "time", "of", "COOLCAT", "is", "significantly", "better", "than", "the", "one", "for", "ROCK", "-LRB-", "a", "decrease", "of", "45", "%", "in", "the", "slowest", "case", ",", "m", "=", "20", "%", ",", "of", "COOLCAT", "-RRB-", ".", "5.3", "KDD", "Cup", "1999", "data", "set", "Since", "we", "did", "not", "have", "explicit", "knowledge", "of", "how", "many", "clusters", "we", "could", "find", "in", "this", "data", "set", ",", "we", "decided", "to", "find", "clusterings", "for", "many", "k", "values", ",", "and", "report", ",", "in", "each", "case", ",", "the", "expected", "entropy", ",", "external", "entropy", "-LRB-", "with", "respect", "to", "the", "attribute", "that", "denotes", "whether", "the", "record", "is", "an", "attack", "or", "not", "-RRB-", ",", "and", "CU", ".", "The", "results", "are", "shown", "in", "the", "form", "of", "a", "graph", "in", "Figure", "5", ".", "In", "the", "figure", ",", "the", "left", "hand", "side", "scale", "is", "used", "for", "expected", "entropy", "and", "CU", ",", "while", "the", "right", "hand", "side", "is", "used", "for", "external", "entropy", "-LRB-", "the", "values", "of", "external", "entropy", "are", "between", "0", "and", "1", ",", "while", "the", "other", "parameters", "have", "larger", "ranges", "-RRB-", ".", "The", "figure", "shows", "that", "all", "the", "parameters", "tend", "to", "an", "asymptotic", "limit", "as", "k", "grows", ".", "The", "saturation", "starts", "to", "occur", "in", "the", "value", "k", "=", "10", ",", "which", "exhibits", "an", "external", "entropy", "of", "0.09", ",", "which", "indicates", "that", "most", "of", "the", "clusters", "are", "``", "inhabited", "''", "by", "either", "attack", "records", "or", "attack-free", "records", ".", "In", "other", "words", ",", "the", "clustering", "achieves", "a", "good", "separation", "of", "the", "points", ".", "The", "experiments", "were", "conducted", "using", "a", "sample", "size", "of", "1,000", "points", ",", "which", "guarantees", "a", "level", "of", "confidence", "of", "95", "%", "-LRB-", "for", "=", "10", "-RRB-", ".", "5.4", "Synthetic", "data", "set", "We", "used", "a", "synthetic", "data", "generator", "-LRB-", "-LSB-", "8", "-RSB-", "-RRB-", "to", "generate", "data", "sets", "with", "different", "number", "of", "records", "and", "attributes", ".", "We", "used", "these", "data", "sets", "to", "test", "the", "scalability", "of", "COOLCAT", ".", "The", "results", "are", "shown", "in", "the", "graph", "of", "Figure", "7", ",", "where", "the", "y-axis", "shows", "the", "execution", "time", "of", "COOLCAT", "in", "seconds", ",", "and", "the", "x-axis", "the", "number", "of", "records", "-LRB-", "in", "multiples", "of", "10", "3", "-RRB-", ",", "for", "four", "different", "number", "of", "attributes", "-LRB-", "A", "=", "5", ",", "10", ",", "20", ",", "40", "-RRB-", ".", "In", "all", "the", "cases", ",", "COOLCAT", "behaves", "linearly", "with", "respect", "to", "the", "number", "of", "records", ",", "due", "to", "the", "incremental", "nature", "of", "the", "algorithm", "-LRB-", "it", "processes", "each", "record", "in", "the", "data", "set", "at", "most", "twice", ":", "those", "that", "are", "selected", "for", "re-processing", "are", "clustered", "twice", ",", "the", "rest", "only", "once", ";", "moreover", ",", "points", "are", "brought", "from", "disk", "to", "memory", "only", "once", "-RRB-", ".", "We", "used", "for", "these", "experiments", "an", "m", "equal", "to", "20", "%", ",", "and", "a", "buffer", "size", "of", "300", "records", ".", "Notice", "that", "in", "this", "experiment", ",", "we", "do", "not", "report", "running", "times", "for", "ROCK", ".", "The", "reason", "for", "this", "is", "that", "ROCK", "is", "designed", "to", "be", "a", "main", "memory", "algorithm", ".", "In", "-LSB-", "18", "-RSB-", ",", "the", "authors", "make", "it", "explicit", "that", "ROCK", "deals", "with", "large", "data", "sets", "by", "using", "random", "sampling", "-LRB-", "not", "by", "looking", "at", "the", "entire", "set", "-RRB-", ".", "Therefore", ",", "it", "would", "have", "been", "unfair", "to", "compare", "COOLCAT", "'s", "running", "times", "with", "those", "of", "ROCK", "-LRB-", "over", "samples", "of", "the", "sets", "-RRB-", ".", "We", "performed", "another", "experiment", "with", "synthetic", "data", "587", "Figure", "5", ":", "Expected", "entropy", ",", "external", "entropy", "and", "CU", "vs.", "Number", "of", "Clusters", "-LRB-", "k", "-RRB-", "in", "the", "KDD", "Cup", "1999", "data", "set", ".", "The", "left", "scale", "-LRB-", "y-axis", "-RRB-", "is", "used", "for", "xpected", "entropy", "and", "CU", ",", "while", "the", "right", "one", "is", "used", "for", "external", "entropy", ".", "sets", "generated", "by", "-LSB-", "8", "-RSB-", ".", "In", "this", "experiment", ",", "each", "synthetic", "set", "contained", "8,124", "records", "of", "23", "attributes", "each", ".", "Twenty", "two", "of", "the", "attributes", "are", "used", "for", "clustering", "and", "one", "-LRB-", "Indx", "-RRB-", "for", "the", "evaluation", "of", "external", "entropy", ".", "Each", "data", "set", "was", "generated", "using", "21", "different", "types", "of", "rules", ".", "A", "rule", "involves", "12", "attributes", ".", "An", "example", "of", "the", "rules", "used", "is", ":", "A", "=", "c", "&", "C", "=", "a", "&", "D", "=", "b", "&", "K", "=", "c", "&", "N", "=", "a", "&", "O", "=", "c", "&", "Q", "=", "b", "&", "R", "=", "c", "&", "S", "=", "c", "&", "T", "=", "b", "&", "U", "=", "b", "Indx", "=", "r", "1", ".", "This", "rule", "says", "that", "when", "the", "11", "attributes", "on", "the", "left", "hand", "side", "take", "the", "values", "shown", ",", "the", "attribute", "Indx", "takes", "the", "value", "r", "1", ".", "Every", "record", "obeys", "one", "of", "the", "rules", ".", "Two", "sets", "were", "generated", ",", "using", "different", "probability", "distributions", "for", "the", "rules", ".", "In", "the", "first", "one", "-LRB-", "uniform", "-RRB-", ",", "every", "rule", "is", "used", "in", "the", "same", "number", "of", "records", "in", "the", "data", "set", ".", "-LRB-", "In", "other", "words", "the", "number", "of", "records", "that", "obey", "a", "particular", "rule", "is", "equal", "to", "the", "size", "of", "the", "data", "set", "divided", "by", "21", ".", "-RRB-", "In", "the", "normal", "distribution", ",", "the", "populations", "are", "distributed", "following", "a", "Gaussian", "distribution", "-LRB-", "some", "rules", "receive", "more", "records", "than", "others", "-RRB-", ".", "The", "23rd", "attribute", "takes", "the", "value", "of", "the", "rule", "number", "-LRB-", "rule", "index", "-RRB-", ".", "The", "external", "entropy", "is", "calculated", "using", "this", "attribute", "-LRB-", "which", "does", "not", "participate", "in", "the", "clustering", "-RRB-", ".", "Figure", "6", "shows", "the", "evaluation", "of", "clusters", "obtained", "by", "COOLCAT", "over", "different", "synthetic", "data", "sets", ".", "The", "table", "shows", "also", "the", "results", "obtained", "by", "using", "ROCK", ".", "As", "we", "can", "see", ",", "COOLCAT", "results", "are", "significantly", "better", "than", "those", "obtained", "by", "ROCK", "for", "both", "data", "sets", ".", "Particularly", "significant", "is", "the", "fact", "that", "the", "external", "entropy", "for", "the", "COOLCAT", "solutions", "in", "the", "Uniform", "case", "with", "m", "=", "10", "%", ",", "20", "%", "are", "0", ",", "indicating", "a", "perfect", "separation", "of", "rules", ".", "The", "values", "for", "other", "cases", "are", "extremely", "close", "to", "0", "as", "well", ".", "As", "expected", ",", "re-processing", "-LRB-", "increasing", "m", "-RRB-", "helps", "in", "finding", "a", "better", "clustering", ".", "However", ",", "the", "impact", "is", "more", "marked", "when", "going", "from", "no", "re-processing", "-LRB-", "m", "=", "0", "-RRB-", "to", "re-processing", "10", "%", "of", "the", "points", ",", "leveling", "out", "from", "then", "on", ".", "The", "running", "times", "of", "COOLCAT", "are", "more", "than", "one", "order", "of", "magnitude", "smaller", "than", "those", "of", "ROCK", ".", "In", "this", "paper", "we", "have", "introduced", "a", "new", "categorical", "clustering", "algorithm", ",", "COOLCAT", ",", "based", "in", "the", "notion", "of", "entropy", ".", "The", "algorithm", "groups", "points", "in", "the", "data", "set", "trying", "to", "minimize", "the", "expected", "entropy", "of", "the", "clusters", ".", "The", "ex-Dist", ".", "m", "CU", "Ext.Ent", ".", "Expected", "Running", "-LRB-", "rule", "index", "-RRB-", "entropy", "time", "-LRB-", "sec", ".", "-RRB-", "COOLCAT", "Uniform", "0", "%", "6.9187", "0.00816", "17.4302", "6.73", "10", "%", "6.9268", "0.00000", "17.2958", "11.85", "20", "%", "6.9268", "0.00000", "17.3958", "12.95", "Normal", "0", "%", "6.8893", "0.02933", "17.4969", "6.88", "10", "%", "6.8996", "0.00813", "17.4458", "11.99", "20", "%", "6.9008", "0.00742", "17.4328", "13.07", "ROCK", "Uniform", "6", ".6899", "0.09861", "n/a", "207.37", "Normal", "6", ".2749", "0.34871", "n/a", "223.49", "Figure", "6", ":", "Results", "for", "COOLCAT", "and", "ROCK", "in", "the", "synthetic", "data", "sets", "0", "2000", "4000", "6000", "8000", "10000", "12000", "14000", "16000", "18000", "20000", "22000", "0", "1000", "2000", "3000", "4000", "5000", "6000", "7000", "8000", "9000", "10000", "execution", "time", "Number", "of", "records", "x", "1000", "A", "=", "5", "A", "=", "10", "A", "=", "20", "A", "=", "40", "Figure", "7", ":", "COOLCAT", "'s", "performance", "for", "the", "synthetic", "data", "sets", ":", "response", "time", "-LRB-", "in", "seconds", "-RRB-", "vs.", "the", "number", "of", "records", "in", "the", "data", "set", "-LRB-", "in", "multiples", "of", "10", "3", "-RRB-", ",", "for", "different", "number", "of", "attributes", "-LRB-", "A", "=", "5", ",", "10", ",", "20", ",", "40", "-RRB-", ".", "perimental", "evaluation", "supports", "our", "claim", "that", "COOLCAT", "is", "an", "efficient", "algorithm", ",", "whose", "solutions", "are", "stable", "for", "different", "samples", "-LRB-", "and", "sample", "sizes", "-RRB-", "and", "it", "is", "scalable", "for", "large", "data", "sets", "-LRB-", "since", "it", "incrementally", "adds", "points", "to", "the", "initial", "clusters", "-RRB-", ".", "We", "have", "evaluated", "our", "results", "using", "category", "utility", "function", ",", "and", "the", "external", "entropy", "which", "determines", "if", "the", "clusters", "have", "significance", "with", "respect", "to", "external", "variables", "-LRB-", "i.e.", ",", "variables", "not", "used", "in", "the", "clustering", "process", "-RRB-", ".", "In", "our", "comparisons", "with", "ROCK", ",", "COOLCAT", "always", "shows", "a", "small", "advantage", "in", "terms", "of", "the", "quality", "measures", "-LRB-", "CU", "and", "external", "entropy", "-RRB-", ".", "However", ",", "the", "real", "advantage", "of", "COOLCAT", "resides", "in", "the", "fact", "that", "ROCK", "is", "extremely", "difficult", "to", "tune", "-LRB-", "finding", "the", "right", "-RRB-", ",", "while", "COOLCAT", "'s", "behavior", "to", "its", "only", "parameter", "-LRB-", "m", "-RRB-", "is", "extremely", "stable", ":", "small", "values", "of", "m", "are", "sufficient", "to", "obtain", "a", "good", "result", ".", "In", "the", "largest", "data", "set", "for", "which", "we", "compared", "both", "techniques", "-LRB-", "Mushrooms", "-RRB-", ",", "COOLCAT", "had", "a", "significantly", "better", "running", "time", ".", "The", "incremental", "nature", "of", "COOLCAT", "makes", "it", "possible", "to", "apply", "the", "algorithm", "to", "data", "streams", ",", "and", "as", "the", "results", "in", "scalability", "show", ",", "the", "algorithm", "can", "cope", "with", "large", "volumes", "of", "data", ".", "We", "are", "currently", "doing", "research", "in", "tracking", "evolving", "clusters", "using", "COOLCAT", ".", "588", "We", "like", "to", "thank", "Vipin", "Kumar", "and", "Eui-Hong", "-LRB-", "Sam", "-RRB-", "Han", "for", "lending", "us", "their", "implementation", "of", "ROCK", ".", "-LSB-", "1", "-RSB-", "M.S.", "Aldenderfer", "and", "R.K.", "Blashfield", ".", "Cluster", "Analysis", ".", "Sage", "Publications", ",", "-LRB-", "Sage", "University", "Paper", "series", "on", "Quantitative", "Applications", "in", "the", "Social", "Sciences", ",", "No.", "44", "-RRB-", ",", "1984", ".", "-LSB-", "2", "-RSB-", "D.", "Barbar", "a.", "Requirements", "for", "clustering", "data", "streams", ".", "SIGKDD", "Explorations", "-LRB-", "Special", "Issue", "on", "Online", ",", "Interactive", ",", "and", "Anytime", "Data", "Mining", "-RRB-", ",", "3", "-LRB-", "2", "-RRB-", ",", "2002", ".", "-LSB-", "3", "-RSB-", "D.", "Barbar", "a", "and", "P.", "Chen", ".", "Using", "the", "fractal", "dimension", "to", "cluster", "datasets", ".", "In", "Proceedings", "of", "the", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "Boston", ",", "MA", ",", "August", "2000", ".", "-LSB-", "4", "-RSB-", "R.B.", "Calinski", "and", "J.", "Harabasz", ".", "A", "dendrite", "method", "for", "cluster", "analysis", ".", "Communications", "in", "Statistics", ",", "pages", "1", "27", ",", "1974", ".", "-LSB-", "5", "-RSB-", "P.", "Cheeseman", "and", "J.", "Stutz", ".", "Bayesian", "classification", "-LRB-", "AUTOCLASS", "-RRB-", ":", "Theory", "and", "Results", ".", "In", "U.M.", "Fayyad", ",", "G.", "Piatetsky-Shapiro", ",", "P.", "Smyth", ",", "and", "R.", "Uthurusamy", ",", "editors", ",", "Advances", "in", "Knowledge", "Discovery", "and", "Data", "Mining", ".", "AAAI", "Press", ",", "Menlo", "Park", ",", "1995", ".", "-LSB-", "6", "-RSB-", "C.", "CHen", ",", "A.W.", "Fu", ",", "and", "Y.", "Zhang", ".", "Entropy-based", "Subspace", "Clustering", "for", "Mining", "Numerical", "Data", ".", "In", "Proceedings", "of", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "San", "Diego", ",", "CA", ",", "August", "1999", ".", "-LSB-", "7", "-RSB-", "H.", "Chernoff", ".", "A", "Measure", "of", "Asymptotic", "Efficiency", "for", "Tests", "of", "a", "Hypothesis", "Based", "on", "the", "Sum", "of", "Observations", ".", "Annals", "of", "Mathematical", "Statistics", ",", "pages", "493", "509", ",", "1952", ".", "-LSB-", "8", "-RSB-", "DataGen", ".", "Data", "Generator", ":", "Perfect", "data", "for", "an", "imperfect", "world", ".", "http://www.datasetgenerator.com/", ".", "-LSB-", "9", "-RSB-", "R.C.", "Dubes", "and", "A.K.", "Jain", ".", "Validity", "studies", "in", "clustering", "methodologies", ".", "Pattern", "Recognition", ",", "pages", "235", "254", ",", "1979", ".", "-LSB-", "10", "-RSB-", "R.O.", "Duda", "and", "P.E.", "Hart", ".", "Pattern", "Classification", "and", "Scene", "Analysis", ".", "Wiley-Interscience", ",", "New", "York", ",", "1973", ".", "-LSB-", "11", "-RSB-", "M.", "Ester", ",", "H.P.", "Kriegel", ",", "and", "X.", "Wu", ".", "A", "density-based", "algorithm", "for", "discovering", "clusters", "in", "large", "spatial", "database", "with", "noise", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "Portland", ",", "Oregon", ",", "August", "1996", ".", "-LSB-", "12", "-RSB-", "V.", "Ganti", ",", "J.", "Gehrke", ",", "and", "R.", "Ramakrishnan", ".", "CACTUS-Clustering", "Categorical", "Data", "Using", "Summaries", ".", "In", "Proceedings", "of", "the", "ACM-SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "San", "Diego", ",", "CA", ",", "1999", ".", "-LSB-", "13", "-RSB-", "M.", "Garey", "and", "D.", "Johnson", ".", "Computers", "and", "Intractability", ":", "A", "Guide", "to", "the", "Theory", "of", "NP-Completeness", ".", "W.H.", "Freeman", ",", "1979", ".", "-LSB-", "14", "-RSB-", "D.", "Gibson", ",", "J.", "Kleinberg", ",", "and", "P.", "Raghavan", ".", "Clustering", "Categorical", "Data", ":", "An", "Approach", "Based", "on", "Dynamical", "Systems", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Very", "Large", "Databases", "-LRB-", "VLDB", "-RRB-", ",", "New", "York", ",", "NY", ",", "September", "1998", ".", "-LSB-", "15", "-RSB-", "A.", "Gluck", "and", "J.", "Corter", ".", "Information", ",", "uncertainty", ",", "and", "the", "utility", "of", "categories", ".", "In", "Proceedings", "of", "the", "Seventh", "Annual", "Conference", "of", "the", "Cognitive", "Science", "Society", ",", "1985", ".", "-LSB-", "16", "-RSB-", "E.", "Gokcay", "and", "J.C.", "Principe", ".", "Information", "Theoretic", "Clustering", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "24", "-LRB-", "2", "-RRB-", ",", "February", "2002", ".", "-LSB-", "17", "-RSB-", "S.", "Guha", ",", "R.", "Rastogi", ",", "and", "K.", "Shim", ".", "CURE", ":", "A", "clustering", "algorithm", "for", "large", "databases", ".", "In", "Proceedings", "of", "the", "ACM", "SIGMOD", "Conference", "on", "Management", "of", "Data", ",", "Seattle", ",", "WA", ",", "May", "1998", ".", "-LSB-", "18", "-RSB-", "S.", "Guha", ",", "R.", "Rastogi", ",", "and", "K.", "Shim", ".", "ROCK", ":", "A", "Robust", "Clustering", "Algorithm", "for", "Categorical", "Attributes", ".", "In", "Proceedings", "of", "the", "15th", "International", "Conference", "on", "Data", "Engineering", ",", "Sydney", ",", "Australia", ",", "April", "1999", ".", "-LSB-", "19", "-RSB-", "E.H.", "Han", ",", "G.", "Karypis", ",", "V.", "Kumar", ",", "and", "B.", "Mobasher", ".", "Clustering", "based", "on", "association", "rule", "hypergraphs", ".", "In", "Proceedings", "of", "the", "SIGMOD", "Workshop", "on", "Research", "Issues", "on", "Data", "Mining", "and", "Knowledge", "Discovery", ",", "June", "1997", ".", "-LSB-", "20", "-RSB-", "S.", "Hettich", "-LRB-", "librarian", "-RRB-", ".", "UCI", "KDD", "Archive", ".", "http://kdd.ics.uci.edu/", ".", "-LSB-", "21", "-RSB-", "A.K.", "Jain", "and", "R.C.", "Dubes", ".", "Algorithms", "for", "clustering", "data", ".", "Prentice", "Hall", ",", "1988", ".", "-LSB-", "22", "-RSB-", "G.J", "McLachlan", "and", "K.E.", "Basford", ".", "Mixture", "Models", ".", "Marcel", "Dekker", ",", "New", "York", ",", "1988", ".", "-LSB-", "23", "-RSB-", "T.M.", "Mitchell", ".", "Machine", "Learning", ".", "McGraw-Hill", ",", "1997", ".", "-LSB-", "24", "-RSB-", "J.C.", "Pincipe", ",", "D.", "Xu", ",", "and", "J.", "Fisher", ".", "Information", "theoretic", "learning", ".", "In", "S.", "Haykin", ",", "editor", ",", "Unsupervised", "Adaptive", "Filtering", ".", "John", "Wiley", "&", "Sons", ",", "2000", ".", "-LSB-", "25", "-RSB-", "A.", "Renyi", ".", "On", "Measures", "of", "Entropy", "and", "Information", ".", "In", "Proc", ".", "of", "the", "Fourth", "Berkeley", "Symp", ".", "Math.", ",", "Statistics", ",", "and", "Probability", ",", "1960", ".", "-LSB-", "26", "-RSB-", "J.", "Rissanen", ".", "A", "universal", "prior", "for", "integers", "and", "estimation", "by", "minimum", "description", "length", ".", "The", "Annals", "of", "Statistics", ",", "1983", ".", "-LSB-", "27", "-RSB-", "J.", "Rissanen", ".", "Stochastic", "complexity", "in", "statistical", "inquiry", ".", "World", "Scientific", "Pub.", ",", "1989", ".", "-LSB-", "28", "-RSB-", "C.E.", "Shannon", ".", "A", "mathematical", "theory", "of", "communication", ".", "Bell", "System", "Techical", "Journal", ",", "pages", "379", "423", ",", "1948", ".", "-LSB-", "29", "-RSB-", "C.S.", "Wallace", "and", "D.M.", "Boulton", ".", "An", "information", "measure", "for", "classification", ".", "The", "Computer", "Journal", ",", "11", "-LRB-", "2", "-RRB-", ",", "1968", ".", "-LSB-", "30", "-RSB-", "C.S.", "Wallace", "and", "D.L.", "Dowe", ".", "Intrinsic", "classification", "by", "MML", ",", "the", "Snob", "program", ".", "In", "Proceedings", "of", "the", "7th", "Australian", "Joint", "Conference", "on", "Artificial", "Intelligence", ",", "1994", ".", "-LSB-", "31", "-RSB-", "R.", "Zhang", ",", "R.", "Ramakrishnan", ",", "and", "M.Livny", ".", "Birch", ":", "An", "efficient", "data", "clustering", "method", "for", "very", "large", "databases", ".", "In", "Proceedings", "of", "the", "ACM", "SIGMOD", "Conference", "on", "Data", "Management", ",", "Montreal", ",", "Canada", ",", "June", "1996", ".", "589"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["clustering", "coolcat", "incremental algorithm", "entropy", "data streams"], "abstractive_keyphrases": ["data stream", "categorical clustering"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "87", "document": ["Evaluation", "and", "Evolution", "of", "a", "Browse", "and", "Search", "Interface", ":", "Relation", "Browser", "+", "+", "We", "present", "in", "this", "paper", "the", "design", "and", "an", "evaluation", "of", "a", "novel", "interface", "called", "the", "Relation", "Browser", "+", "+", "-LRB-", "RB", "+", "+", "-RRB-", "for", "searching", "and", "browsing", "large", "information", "collections", ".", "RB", "+", "+", "provides", "visualized", "category", "overviews", "of", "an", "information", "space", "and", "allows", "dynamic", "filtering", "and", "exploration", "of", "the", "result", "set", "by", "tightly", "coupling", "the", "browsing", "and", "searching", "functions", ".", "A", "user", "study", "was", "conducted", "to", "compare", "the", "effectiveness", ",", "efficiency", "and", "user", "satisfaction", "of", "completing", "various", "types", "of", "searching", "and", "browsing", "using", "the", "RB", "+", "+", "interface", "and", "a", "traditional", "form-fillin", "interface", "for", "a", "video", "library", ".", "An", "exploration", "set", "of", "tasks", "was", "also", "included", "to", "examine", "the", "effectiveness", "of", "and", "user", "satisfaction", "with", "the", "RB", "+", "+", "when", "applied", "to", "a", "large", "federal", "statistics", "website", ".", "The", "comparison", "study", "strongly", "supported", "that", "RB", "+", "+", "was", "more", "effective", ",", "efficient", ",", "and", "satisfying", "for", "completing", "data", "exploration", "tasks", ".", "Based", "on", "the", "results", ",", "efforts", "to", "automatically", "populate", "the", "underlying", "database", "using", "machine", "learning", "techniques", "are", "underway", ".", "Preliminary", "implementations", "for", "two", "large-scale", "federal", "statistical", "websites", "have", "been", "installed", "on", "government", "servers", "for", "internal", "evaluation", ".", ":", "H.", "5.2", "-LSB-", "Information", "Interfaces", "and", "presentation", "-LRB-", "e.g.", "HCI", "-RRB-", "-RSB-", ":", "User", "Interface", "-", "interaction", "style", ",", "graphical", "user", "interfaces", "-LRB-", "GUI", "-RRB-", ";", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", "-", "query", "formulation", ",", "search", "process", ",", "selection", "process", ";", "H.", "3.7", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Digital", "Libraries", "User", "issues", ",", "Systems", "issues", "General", "Terms", ":", "Design", ",", "Human", "Factors", ",", "Experimentation", ",", "Performance", "The", "size", "and", "breadth", "of", "large", "government", "websites", "and", "digital", "libraries", "makes", "it", "difficult", "for", "people", "to", "quickly", "grasp", "what", "content", "is", "and", "is", "not", "available", ".", "Dynamic", "overviews", "and", "previews", "of", "collections", "can", "help", "people", "decide", "if", "it", "is", "worthwhile", "to", "look", "further", "-LSB-", "8", "-RSB-", ".", "As", "they", "do", "look", "further", ",", "it", "is", "helpful", "for", "their", "searching", "and", "browsing", "to", "quickly", "see", "partitions", "of", "the", "collection", "and", "how", "many", "items", "are", "available", "in", "different", "partitions", ".", "We", "believe", "that", "government", "website", "users", "will", "be", "well-served", "by", "highly", "interactive", "user", "interfaces", "that", "support", "alternative", "views", "of", "the", "collections", ",", "partitions", ",", "and", "results", "sets", ".", "This", "paper", "describes", "a", "user", "interface", "that", "aims", "to", "provide", "agile", "control", "for", "browse", "and", "search", ",", "reports", "results", "from", "a", "user", "study", "comparing", "this", "interface", "to", "a", "typical", "WWW", "search", "interface", ",", "and", "describes", "the", "ongoing", "evolution", "of", "the", "interface", ",", "including", "efforts", "to", "automate", "discovery", "of", "topical", "categories", "and", "assignment", "of", "webpages", "to", "those", "categories", ".", "Faceted", "category", "structure", "is", "one", "way", "to", "help", "people", "understand", "the", "composition", "of", "an", "information", "collection", ".", "A", "faceted", "approach", "provides", "different", "ways", "to", "slice", "and", "dice", "the", "information", "space", ",", "which", "allows", "people", "to", "look", "at", "the", "information", "space", "from", "different", "perspectives", ".", "Allowing", "people", "to", "explore", "the", "relationships", "among", "different", "facets", "may", "further", "deepen", "their", "understanding", "and", "support", "new", "insights", ".", "The", "relation", "browser", "-LRB-", "RB", "-RRB-", "is", "an", "interface", "which", "provides", "an", "overview", "of", "the", "collection", "by", "displaying", "different", "categories", "and", "enables", "people", "to", "explore", "the", "relationships", "among", "these", "categories", "-LSB-", "13", "-RSB-", ".", "The", "different", "facet", "values", "also", "serve", "as", "selectable", "objects", "that", "may", "be", "employed", "as", "query", "widgets", "for", "a", "search", "so", "that", "the", "entire", "space", "can", "quickly", "be", "partitioned", "with", "simple", "mouse", "moves", "and", "with", "consequent", "immediate", "display", "of", "the", "resulting", "partition", "in", "the", "results", "panel", ".", "Figure", "1", "shows", "the", "mock-up", "interface", "of", "an", "early", "version", "of", "the", "relation", "browser", "in", "the", "domain", "of", "U.S.", "federal", "statistics", "websites", ".", "The", "web", "pages", "in", "the", "site", "were", "sliced", "into", "four", "different", "facets", ":", "by", "topic", ",", "data", "type", ",", "region", ",", "and", "date", ".", "The", "numbers", "beside", "the", "bars", "indicate", "the", "number", "of", "websites", "associated", "with", "the", "attributes", ".", "By", "mousing", "over", "any", "of", "the", "topics", ",", "the", "distribution", "of", "the", "specific", "topics", "in", "other", "facets", "are", "visualized", "as", "graphic", "bars", ".", "The", "underlying", "data", "for", "this", "instance", "of", "the", "interface", "was", "manually", "extracted", "from", "a", "small", "set", "of", "200", "webpages", "contained", "in", "more", "than", "70", "federal", "statistical", "agency", "websites", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Conference", "'", "04", ",", "Month", "1", "2", ",", "2004", ",", "City", ",", "State", ",", "Country", ".", "Copyright", "2004", "ACM", "1-58113-000-0", "/", "00/0004", "...", "$", "5.00", ".", "Copyright", "held", "by", "the", "author", "179", "Figure", "1", ".", "Relation", "Browser", "-LRB-", "RB", "-RRB-", "This", "early", "version", "of", "the", "RB", "has", "been", "redesigned", "based", "on", "user", "studies", "and", "experience", "applying", "the", "interface", "to", "more", "than", "a", "dozen", "different", "database", "instances", "-LSB-", "13", "-RSB-", ".", "The", "new", "version", "is", "called", "RB", "+", "+", ",", "which", "improves", "the", "RB", "significantly", "in", "several", "ways", "-LRB-", "see", "Figure", "2", "-RRB-", "-LSB-", "23,24", "-RSB-", ".", "First", ",", "RB", "+", "+", "displays", "multiple", "facets", "-LRB-", "categories", "-RRB-", "visually", "and", "on", "the", "same", "screen", "rather", "than", "only", "two", "facets", "with", "tab", "options", "to", "others", ".", "The", "multiple", "facets", "provide", "an", "overview", "of", "the", "information", "space", ".", "The", "facet", "values", "are", "visually", "represented", "by", "graphic", "bars", "with", "different", "lengths", ",", "which", "indicate", "the", "number", "of", "items", "associated", "with", "them", ".", "Second", ",", "RB", "+", "+", "allows", "more", "flexibility", "to", "explore", "relationships", ".", "One", "of", "the", "features", "of", "RB", "+", "+", "is", "that", "you", "can", "restrict", "the", "information", "items", "-LRB-", "partition", "the", "information", "space", "-RRB-", "by", "mousing", "over", "any", "bars", "and", "other", "bars", "are", "proportionally", "highlighted", "to", "show", "the", "conditional", "distribution", "across", "all", "the", "facets", ".", "Note", "that", "the", "previous", "RB", "was", "limited", "to", "visualizing", "pairwise", "relationships", "with", "one", "main", "facet", ".", "Third", ",", "the", "RB", "+", "+", "added", "a", "dynamic", "filtering", "function", "for", "the", "result", "set", "-LRB-", "see", "Figure", "3", "-RRB-", ".", "Once", "the", "search", "results", "are", "displayed", "in", "the", "table", ",", "further", "filtering", "can", "be", "done", "by", "typing", "in", "keywords", "-LRB-", "string", "patterns", "-RRB-", "in", "the", "boxes", "located", "immediately", "above", "the", "result", "fields", ".", "The", "filtering", "is", "dynamic", ",", "which", "means", "that", "with", "each", "character", "typed", "in", "or", "removed", "from", "the", "boxes", ",", "RB", "+", "+", "matches", "the", "string", "patterns", "in", "the", "boxes", "with", "the", "corresponding", "field", "of", "the", "results", ".", "Only", "the", "matched", "results", "are", "then", "displayed", "immediately", "in", "the", "results", "panel", "and", "the", "matched", "string", "in", "the", "results", "is", "highlighted", ".", "This", "dynamic", "feature", "gives", "users", "instant", "and", "constant", "feedback", "about", "the", "filtered", "results", "and", "how", "many", "items", "they", "will", "get", "with", "different", "keywords", ",", "which", "allows", "users", "to", "try", "out", "different", "filtering", "keywords", "very", "easily", "and", "efficiently", ".", "Fourth", ",", "the", "RB", "+", "+", "provides", "an", "overview", "of", "the", "results", "set", "and", "tightly", "couples", "the", "overview", "and", "results", "set", "panels", ".", "The", "overview", "panel", "is", "dynamically", "updated", "to", "give", "users", "a", "contextualized", "overview", "of", "the", "updated", "result", "set", ".", "These", "new", "features", "give", "users", "more", "power", "to", "understand", "and", "explore", "the", "information", "collection", "and", "give", "them", "a", "flexible", "and", "rapid", "way", "to", "find", "the", "information", "they", "want", ".", "A", "linguistic", "model", "of", "BNF", "grammar", "to", "model", "the", "user", "interaction", "with", "the", "interface", "is", "provided", "in", "section", "2.3", "to", "help", "reveal", "the", "dynamic", "nature", "of", "the", "RB", "+", "+", ".", "In", "the", "paper", ",", "we", "argue", "that", "the", "RB", "+", "+", "interface", "will", "bring", "users", "added", "values", "beyond", "simple", "searching", "and", "browsing", "by", "in", "fact", "combining", "these", "search", "strategies", "seamlessly", ".", "In", "the", "next", "section", ",", "the", "methodology", "of", "a", "user", "study", "is", "described", ".", "The", "results", "of", "the", "user", "study", "are", "then", "presented", "and", "discussed", ".", "Limitations", "of", "the", "interface", "and", "current", "efforts", "to", "deal", "with", "data", "classification", "are", "then", "described", ".", "Figure", "2", ".", "Initial", "display", "of", "RB", "+", "+", "with", "visualized", "category", "overview", "on", "the", "top", "Figure", "3", ".", "RB", "+", "+", "with", "dynamic", "filtering", "of", "the", "results", "-LRB-", "note", "the", "changes", "in", "the", "overview", "and", "updated", "results", "-RRB-", "The", "purpose", "of", "the", "user", "study", "was", "two-fold", ":", "first", ",", "we", "wanted", "to", "compare", "the", "effectiveness", ",", "efficiency", "and", "user", "satisfaction", "associated", "with", "completing", "certain", "tasks", "using", "RB", "+", "+", "against", "that", "obtained", "by", "the", "traditional", "form-fillin", "search", "interface", "-LRB-", "baseline", "interface", "-RRB-", ".", "Second", ",", "we", "wanted", "to", "explore", "if", "the", "RB", "+", "+", "interface", "would", "lead", "to", "new", "interaction", "patterns", "with", "the", "interface", "and", "if", "so", ",", "to", "determine", "what", "these", "new", "interaction", "patterns", "might", "be", ".", "180", "Seventeen", "undergraduate", "and", "graduate", "students", "were", "recruited", "from", "the", "UNC-Chapel", "Hill", "campus", "for", "this", "study", ".", "They", "came", "from", "various", "schools", "and", "departments", ".", "There", "were", "10", "females", "and", "7", "males", "with", "an", "age", "range", "from", "19", "to", "44", ",", "-LRB-", "15", "were", "in", "their", "20s", ",", "and", "all", "were", "familiar", "with", "www", "browsers", ".", "The", "participants", "were", "given", "$", "15", "for", "their", "participation", ".", "The", "data", "from", "the", "first", "two", "participants", "was", "used", "as", "a", "pilot", "test", ";", "based", "on", "which", "the", "experimental", "protocol", "and", "instruments", "were", "revised", ".", "The", "data", "from", "the", "other", "15", "participants", "was", "used", "for", "the", "data", "analysis", ".", "The", "study", "proceeded", "in", "two", "phases", ",", "a", "within", "subjects", "comparison", "across", "two", "different", "interfaces", "for", "the", "same", "database", ",", "and", "an", "exploratory", "investigation", "with", "a", "single", "government", "statistical", "website", "instance", "of", "RB", "+", "+", ".", "2.1", "Phase", "One", ":", "RB", "+", "+", "to", "Baseline", "Comparison", "for", "a", "Film", "Database", "The", "first", "phase", "was", "a", "comparison", "study", "in", "which", "participants", "used", "both", "the", "RB", "+", "+", "interface", "and", "the", "baseline", "interface", ".", "The", "order", "of", "using", "these", "interfaces", "was", "counter", "balanced", ".", "The", "domain", "of", "the", "information", "items", "in", "both", "interfaces", "was", "the", "video", "collection", "in", "the", "UNC-CH", "library", "-LRB-", "http://www.lib.unc.edu/house/mrc/index.html?page=filmograph", "y", "-RRB-", "that", "contains", "about", "10000", "films", ".", "The", "library", "online", "video", "search", "interface", "-LRB-", "Filmfinder", "-RRB-", "was", "used", "as", "our", "baseline", "interface", ".", "FilmFinder", "is", "a", "fairly", "typical", "www", "form-fillin", "search", "interface", "-LRB-", "see", "Figure", "4", "and", "Figure", "5", "-RRB-", ",", "where", "users", "can", "specify", "queries", "within", "fields", "such", "as", "title", ",", "release", "year", ",", "director", ",", "description", ",", "genre", ",", "origin", ",", "and", "format", ".", "Figure", "4", ".", "Filmfinder", "with", "Form-fillin", "Interface", "Figure", "5", ".", "Results", "Page", "of", "Filmfinder", "All", "participants", "were", "run", "individually", "in", "sessions", "ranging", "from", "60-90", "minutes", "and", "all", "sessions", "were", "video", "taped", ".", "The", "protocol", "for", "the", "first", "phase", "was", "as", "follows", ":", "First", ",", "a", "demographic", "pre-test", "questionnaire", "was", "completed", ".", "Second", ",", "the", "participant", "was", "trained", "for", "the", "first", "interface", "assigned", "in", "their", "condition", ".", "The", "training", "consisted", "of", ":", "an", "introduction", "to", "the", "features", "of", "the", "interface", ",", "a", "demo", "of", "each", "type", "of", "task", "with", "the", "interface", ",", "and", "participant", "practice", "using", "the", "interface", "until", "s/he", "was", "comfortable", "with", "it", ".", "Third", ",", "the", "participant", "used", "the", "interface", "to", "complete", "10", "search", "tasks", ".", "Tasks", "were", "assigned", "to", "participants", "one", "by", "one", "by", "handing", "them", "pieces", "of", "paper", "for", "each", "task", ".", "A", "timer", "was", "used", "to", "count", "time", "used", "to", "complete", "each", "task", "except", "for", "task", "10", "-LRB-", "see", "description", "of", "task", "10", "below", "-RRB-", ".", "After", "each", "task", ",", "a", "short", "satisfaction", "questionnaire", "was", "completed", "by", "the", "participant", ".", "Fourth", ",", "a", "usability", "questionnaire", "was", "filled", "out", "after", "the", "participant", "finished", "using", "the", "first", "interface", ".", "Next", ",", "the", "participant", "was", "trained", "for", "the", "second", "interface", "and", "the", "same", "procedures", "were", "used", "to", "complete", "10", "more", "search", "tasks", ".", "Finally", ",", "an", "open-ended", "questionnaire", "about", "perceived", "differences", "and", "preferences", "for", "the", "two", "interfaces", "was", "completed", ".", "The", "tasks", "were", "classified", "into", "three", "different", "types", ":", "1", ".", "Simple", "look", "up", "task", ".", "Tasks", "1", "to", "3", "in", "each", "task", "set", "were", "of", "this", "type", ".", "For", "example", ",", "``", "Check", "if", "the", "movie", "titled", "``", "The", "Matrix", "''", "is", "in", "the", "library", "movie", "collection", ".", "''", "2", ".", "Data", "exploration", "and", "analysis", "tasks", ".", "Tasks", "4", "to", "9", "in", "each", "task", "set", "were", "of", "this", "type", ".", "This", "kind", "of", "task", "requires", "users", "to", "understand", "and", "make", "sense", "of", "the", "information", "collection", ",", "which", "could", "be", "a", "starting", "point", "for", "them", "to", "further", "their", "searching", "or", "browsing", ".", "Two", "examples", "of", "this", "type", "are", ":", "``", "In", "which", "decade", "did", "``", "Steven", "Spielberg", "''", "direct", "the", "most", "movies", "?", "''", ";", "and", "``", "How", "many", "movie", "titles", "does", "the", "library", "hold", "that", "were", "released", "in", "the", "year", "2000", "?", "''", "3", ".", "Task", "10", "was", "a", "free", "exploration", "task", ",", "which", "asked", "participants", "to", "find", "five", "favorite", "videos", "without", "any", "time", "constraints", ".", "The", "tasks", "assigned", "for", "the", "two", "interfaces", "were", "different", "but", "comparable", ".", "For", "example", ",", "the", "comparable", "tasks", "for", "two", "interfaces", "simply", "substituted", "different", "video", "titles", "or", "directors", ".", "2.2", "Phase", "Two", ":", "Explore", "RB", "+", "+", "for", "EIA", "Website", "The", "second", "phase", "was", "an", "exploratory", "study", "of", "the", "RB", "+", "+", "applied", "to", "roughly", "10,000", "pages", "in", "the", "Energy", "Information", "Administration", "-LRB-", "EIA", "-RRB-", "website", ".", "Based", "on", "intensive", "manual", "181", "inspection", "of", "the", "EIA", "website", ",", "four", "facets", "were", "identified", "with", "associated", "facet", "values", ":", "fuel", "type", "-LRB-", "with", "the", "facet", "values", ":", "alternatives", ",", "coal", ",", "electricity", ",", "natural", "gas", ",", "nuclear", ",", "petroleum", ",", "and", "renewable", "-RRB-", ";", "geography", "-LRB-", "state", "level", ",", "regional", "level", ",", "national", "level", ",", "and", "international", "level", "-RRB-", ";", "sector", "-LRB-", "commercial", ",", "electric", "utility", ",", "industrial", ",", "and", "residential", "-RRB-", ";", "and", "process", "-LRB-", "delivery", ",", "import/export", ",", "price/cost", ",", "production", ",", "resources/reserves", ",", "and", "usage", "-RRB-", ".", "All", "the", "facets", "were", "displayed", "on", "the", "overview", "panel", "-LRB-", "see", "Figure", "6", "-RRB-", ".", "The", "results", "panel", "displayed", "the", "title", ",", "page", "size", ",", "and", "description", "of", "the", "web", "pages", ".", "Figure", "6", ".", "RB", "+", "+", "interface", "applied", "to", "EIA", "website", "The", "protocol", "of", "the", "second", "phase", "was", "as", "follows", ":", "First", ",", "the", "RB", "+", "+", "EIA", "application", "was", "introduced", "to", "the", "participant", ".", "Second", ",", "the", "participant", "practiced", "using", "the", "interface", "until", "s/he", "was", "comfortable", "with", "it", ".", "Third", ",", "the", "participant", "used", "the", "interface", "to", "complete", "four", "tasks", "1", ".", "The", "process", "was", "recorded", "and", "a", "short", "satisfaction", "questionnaire", "was", "filled", "out", "after", "finishing", "each", "task", ".", "Fourth", ",", "an", "open-ended", "questionnaire", "was", "completed", "after", "finishing", "all", "the", "tasks", ".", "Lastly", ",", "the", "participant", "was", "briefly", "interviewed", ".", "Data", "collected", "included", "both", "quantitative", "and", "qualitative", "data", "from", "the", "two", "phases", "of", "the", "study", ".", "Data", "collected", "for", "the", "first", "phase", "included", "performance", "data", "-LRB-", "time", "spent", "finishing", "tasks", "-RRB-", ",", "error", "rates", "of", "tasks", ",", "ratings", "on", "the", "satisfaction", "questionnaire", "after", "finishing", "each", "task", ",", "ratings", "on", "the", "usability", "questionnaire", "after", "finishing", "each", "interface", ",", "and", "comments", "on", "the", "open", "questionnaire", "about", "perceived", "differences", "and", "preferences", "for", "the", "two", "interfaces", ".", "Data", "collected", "for", "the", "second", "phase", "included", "ratings", "on", "the", "satisfaction", "questionnaire", "after", "finishing", "each", "task", ",", "comments", "on", "the", "post-session", "questionnaire", "and", "the", "verbal", "comments", "made", "in", "the", "interview", ".", "1", "Tasks", "for", "the", "second", "phase", "study", ":", "1", ".", "I", "want", "to", "learn", "the", "current", "status", "of", "Chinese", "nuclear", "energy", ".", "2", ".", "Find", "the", "most", "recent", "weekly", "data", "on", "petroleum", "prices", "in", "the", "USA", ".", "3", ".", "Find", "the", "statistical", "data", "on", "coal", "production", "across", "different", "states", "in", "the", "year", "2001", ".", "4", ".", "What", "kinds", "of", "information", "can", "I", "and", "can", "I", "not", "find", "from", "the", "website", "?", "2.3", "Modeling", "User", "Interaction", "To", "help", "us", "form", "hypotheses", "and", "analyze", "and", "make", "sense", "of", "the", "experimental", "data", ",", "we", "employed", "a", "linguistic", "model", ",", "called", "BNF", "grammar", ",", "to", "model", "the", "user", "'s", "interaction", "with", "the", "interface", ".", "BNF", "grammar", "was", "originally", "used", "by", "Reisner", "to", "describe", "the", "dialog", "grammar", "of", "an", "interactive", "graphics", "system", "-LSB-", "15", "-RSB-", ",", "where", "the", "user", "'s", "interaction", "with", "a", "system", "was", "seen", "as", "an", "action", "language", "and", "BNF", "grammar", "was", "used", "to", "formally", "describe", "the", "language", ".", "The", "BNF", "grammar", "consists", "of", "a", "set", "of", "rules", "which", "define", "higher", "level", "user", "behaviors", "in", "terms", "of", "lower", "level", "ones", ".", "Each", "rule", "can", "be", "composed", "of", "terminals", ",", "non-terminals", ",", "and", "a", "set", "of", "symbols", ".", "Terminals", "usually", "represent", "the", "lowest", "level", "of", "user", "behavior", ",", "such", "as", "pressing", "a", "key", "or", "clicking", "a", "mouse", "button", "and", "can", "not", "be", "further", "defined", ".", "Non-terminals", "represent", "a", "high", "level", "abstraction", "and", "can", "be", "defined", "in", "terms", "of", "other", "non-terminals", "and", "terminals", ".", "Terminals", "are", "written", "with", "upper", "case", "letters", "and", "non-terminals", "are", "written", "with", "lower", "case", "letters", ".", "The", "''", ":", ":", "=", "''", "symbol", "is", "read", "as", "''", "is", "defined", "as", "''", ".", "The", "''", "+", "''", ",", "''", "|", "''", "and", "''", "-", "''", "symbols", "are", "used", "at", "the", "right", "hand", "side", "of", "rules", "to", "connect", ",", "respectively", ",", "sequence", "of", "user", "behavior", ",", "set", "of", "options", ",", "and", "concurrent", "user", "behaviors", ".", "With", "the", "BNF", "grammar", ",", "we", "can", "describe", "the", "user", "'s", "interaction", "with", "the", "RB", "+", "+", "as", "follows", ":", "A1", "information", "seeking", ":", ":", "=", "explore", "collection", "-LRB-", "A3", "-RRB-", "|", "-LRB-", "formulate", "query", "-LRB-", "A2", "-RRB-", "+", "CLICK", "SEARCH", "BUTTON", "+", "navigate", "results", "-LRB-", "A5", "-RRB-", "-RRB-", "A2", "formulate", "query", ":", ":", "=", "-LRB-", "explore", "collection", "-LRB-", "A3", "-RRB-", "+", "form", "query", "-LRB-", "A4", "-RRB-", "-RRB-", "|", "form", "query", "-LRB-", "A4", "-RRB-", "A3", "explore", "collection", ":", ":", "=", "-LRB-", "CLICK", "VISUAL", "BAR-OBSERVE", "VISUAL", "BAR", "+", "explore", "collection", "-LRB-", "A3", "-RRB-", "-RRB-", "|", "-LRB-", "MOUSE", "OVER", "VISUAL", "BAR-OBSERVE", "VISUAL", "BAR", "+", "explore", "collection", "-LRB-", "A3", "-RRB-", "-RRB-", "A4", "form", "query", ":", ":", "=", "-LRB-", "CLICK", "VISUAL", "BAR", "+", "form", "query", "-LRB-", "A4", "-RRB-", "-RRB-", "|", "-LRB-", "TYPE", "IN", "KEYWORD", "+", "form", "query", "-LRB-", "A4", "-RRB-", "-RRB-", "A5", "navigate", "results", ":", ":", "=", "-LRB-", "browse", "results", "-LRB-", "A6", "-RRB-", "+", "navigate", "results", "-LRB-", "A5", "-RRB-", "-RRB-", "|", "-LRB-", "CLICK", "RESTART", "BUTTON", "+", "information", "seeking", "-LRB-", "A1", "-RRB-", "-RRB-", "A6", "browse", "results", ":", ":", "=", "-LRB-", "show", "results", "-LRB-", "A7", "-RRB-", "-", "OBSERVE", "RESULTS", "+", "browse", "results", "-LRB-", "A6", "-RRB-", "-RRB-", "|", "-LRB-", "CLICK", "RESULT", "ITEM", "+", "browse", "results", "-LRB-", "A6", "-RRB-", "-RRB-", "|", "-LRB-", "CLICK", "SORTING", "BUTTON", "+", "browse", "results", "-LRB-", "A6", "-RRB-", "-RRB-", "|", "-LRB-", "explore", "results", "-LRB-", "A8", "-RRB-", "+", "browse", "results", "-LRB-", "A6", "-RRB-", "-RRB-", "A7", "show", "results", ":", ":", "=", "CLICK", "SIDEBAR", "A8", "explore", "results", ":", ":", "=", "-LRB-", "observe", "system", "state", "-LRB-", "A9", "-RRB-", "+", "explore", "results", "-LRB-", "A8", "-RRB-", "-RRB-", "|", "-LRB-", "filter", "results", "-LRB-", "A10", "-RRB-", "+", "explore", "results", "-LRB-", "A8", "-RRB-", "-RRB-", "A9", "observe", "system", "state", ":", ":", "=", "-LRB-", "OBSERVE", "VISUAL", "BAR", "+", "observe", "system", "state", "-LRB-", "A9", "-RRB-", "-RRB-", "|", "-LRB-", "OBSERVE", "NUMBER", "+", "observe", "system", "state", "-LRB-", "A9", "-RRB-", "-RRB-", "A10", "filter", "results", ":", ":", "=", "CLICK", "VISUAL", "BAR", "|", "MOUSE", "OVER", "VISUAL", "BAR", "|", "TYPE", "IN", "KEYWORD", "The", "interaction", "with", "baseline", "interface", "can", "be", "described", "as", ":", "B1", "information", "seeking", ":", ":", "=", "formulate", "query", "-LRB-", "B2", "-RRB-", "+", "CLICK", "SEARCH", "BUTTON", "+", "navigate", "results", "-LRB-", "B4", "-RRB-", "B2", "formulate", "query", ":", ":", "=", "-LRB-", "TYPE", "IN", "KEYWORD", "+", "formulate", "query", "-LRB-", "B2", "-RRB-", "-RRB-", "|", "-LRB-", "select", "item", "-LRB-", "B3", "-RRB-", "+", "formulate", "query", "-LRB-", "B2", "-RRB-", "-RRB-", "182", "B3", "select", "item", ":", ":", "=", "CLICK", "PULL", "DOWN", "MENU", "+", "CLICK", "ITEM", "B4", "navigate", "results", ":", ":", "=", "-LRB-", "browse", "results", "-LRB-", "B5", "-RRB-", "+", "navigate", "results", "-LRB-", "B4", "-RRB-", "-RRB-", "|", "-LRB-", "CLICK", "NEW", "SEARCH", "LINK", "+", "information", "seeking", "-LRB-", "B1", "-RRB-", "-RRB-", "B5", "browse", "results", ":", ":", "=", "-LRB-", "show", "results", "-LRB-", "B6", "-RRB-", "-", "OBSERVE", "RESULTS", "+", "browse", "results", "-LRB-", "B5", "-RRB-", "-RRB-", "|", "-LRB-", "show", "results", "-LRB-", "B6", "-RRB-", "-", "COUNT", "RESULTS", "+", "browse", "results", "-LRB-", "B5", "-RRB-", "-RRB-", "|", "-LRB-", "CLICK", "ITEM", "+", "browse", "results", "-LRB-", "B5", "-RRB-", "-RRB-", "|", "-LRB-", "CLICK", "SORTING", "LINK", "+", "browse", "results", "-LRB-", "B5", "-RRB-", "-RRB-", "B6", "show", "results", ":", ":", "=", "CLICK", "SIDEBAR", "|", "-LRB-", "CLICK", "SIDEBAR", "+", "CLICK", "NEXT", "PAGE", "LINK", "-RRB-", "The", "number", "of", "rules", "and", "options", "within", "rules", "reflects", "the", "interactive", "nature", "and", "number", "of", "alternative", "choices", "provided", "by", "these", "two", "interfaces", ".", "Note", "that", "we", "used", "the", "terminals", "such", "as", "CLICK", "SEARCH", "BUTTON", "and", "CLICK", "VISUAL", "BAR", "which", "strictly", "speaking", "are", "not", "the", "lowest", "level", "of", "user", "behaviors", ",", "however", ",", "using", "higher", "level", "abstraction", "as", "terminals", "is", "suitable", "for", "interactive", "display-based", "systems", "-LSB-", "4", "-RSB-", "and", "ensures", "later", "data", "analysis", ".", "Many", "rules", "are", "defined", "recursively", "and", "consist", "of", "several", "options", ",", "which", "essentially", "reflect", "the", "interactivity", "of", "the", "graphical", "user", "interface", "-LRB-", "GUI", "-RRB-", ".", "For", "example", ",", "a", "fairly", "interactive", "user", "behavior", "in", "RB", "+", "+", ",", "``", "browse", "results", "-LRB-", "A6", "-RRB-", "''", ",", "consists", "of", "either", "`", "OBSERVE", "RESULTS", "'", ",", "`", "CLICK", "RESULT", "ITEM", "'", ",", "`", "CLICK", "SORTING", "BUTTON", "'", ",", "explore", "results", ",", "or", "any", "combination", "of", "the", "above", ".", "From", "the", "BNF", "definition", ",", "we", "can", "see", "that", "RB", "+", "+", "is", "a", "more", "interactive", "interface", "than", "the", "baseline", "because", "it", "involves", "more", "rules", "and", "recursive", "definitions", ".", "However", ",", "it", "is", "not", "necessarily", "a", "complicated", "interface", ",", "since", "the", "rules", "for", "the", "RB", "+", "+", "interface", "are", "largely", "composed", "of", "a", "set", "of", "options", "instead", "of", "a", "sequence", "of", "user", "behaviors", ",", "which", "means", "that", "many", "rules", "are", "not", "executed", "for", "some", "types", "of", "tasks", ".", "Based", "on", "the", "BNF", "grammars", ",", "we", "hypothesize", "that", "for", "the", "simple", "search", "tasks", ",", "the", "RB", "+", "+", "interface", "will", "not", "necessarily", "be", "significantly", "different", "from", "the", "baseline", "interface", ",", "but", "for", "complicated", "searching", "and", "browsing", "tasks", ",", "that", "require", "more", "interaction", "or", "collection", "exploration", ",", "the", "RB", "+", "+", "will", "be", "significantly", "more", "effective", ",", "efficient", ",", "and", "satisfying", "than", "the", "baseline", ".", "For", "simple", "look", "up", "type", "tasks", ",", "both", "interfaces", "involve", "the", "sequence", "of", "user", "actions", ":", "formulate", "query", ",", "CLICK", "SEARCH", "BUTTON", ",", "and", "navigate", "results", "-LRB-", "see", "rule", "A1", "and", "B1", "-RRB-", ".", "Navigation", "of", "results", "is", "simple", "for", "this", "type", "of", "task", "in", "that", "it", "only", "involves", "the", "judgment", "of", "zero", "or", "non-zero", "results", ",", "which", "is", "trivial", "in", "both", "interfaces", ".", "Formulation", "of", "the", "query", "in", "this", "case", "involves", "typing", "in", "keywords", "and/or", "selecting", "the", "items", "from", "the", "interfaces", "-LRB-", "see", "rule", "A2", ",", "A4", "and", "B2", ",", "B3", "-RRB-", ".", "Even", "though", "item", "selection", "in", "the", "baseline", "interface", "involves", "two", "clicks", "-LRB-", "see", "rule", "B3", "-RRB-", "which", "means", "a", "slightly", "longer", "time", "to", "execute", "than", "in", "RB", "+", "+", ",", "which", "only", "needs", "one", "click", "on", "the", "visual", "bar", "for", "item", "selection", "-LRB-", "see", "rule", "A4", "-RRB-", ",", "we", "expected", "no", "significant", "difference", ".", "For", "type", "2", "tasks", "that", "involve", "data", "exploration", "and", "analysis", ",", "interaction", "with", "the", "visual", "bars", "of", "the", "RB", "+", "+", "interface", "provides", "an", "effective", "and", "efficient", "interaction", "style", ".", "Two", "typical", "sequences", "of", "user", "behaviors", "to", "complete", "type", "2", "tasks", "are", ":", "explore", "the", "collection", "by", "clicking", "-LRB-", "or", "mousing", "over", "-RRB-", "and", "observing", "the", "visual", "bars", "-LRB-", "see", "rule", "A1", "and", "A3", "-RRB-", ",", "or", "formulate", "a", "query", "and", "then", "explore", "the", "results", "by", "observing", "the", "visual", "bars", "-LRB-", "see", "rule", "A1", ",", "A5", ",", "A6", ",", "A8", "and", "A9", "-RRB-", ".", "With", "the", "traditional", "interface", "to", "finish", "type", "2", "tasks", ",", "users", "have", "to", "formulate", "a", "query", "and", "then", "literally", "scan", "and", "count", "all", "the", "results", "-LRB-", "see", "rule", "B1", ",", "B4", ",", "B5", ",", "and", "B6", "-RRB-", ",", "which", "is", "time", "consuming", ".", "We", "also", "hypothesized", "that", "users", "would", "exhibit", "rich", "interaction", "during", "their", "navigation", "of", "the", "results", "with", "RB", "+", "+", "-LRB-", "see", "rule", "A5", "to", "A10", "-RRB-", ".", "Actions", "of", "typing", "in", "keywords", "and", "clicking", "visual", "bars", "to", "filter", "results", "-LRB-", "rule", "A10", "-RRB-", "would", "be", "used", "frequently", "and", "interchangeably", "by", "the", "users", "to", "finish", "complex", "search", "tasks", ",", "especially", "when", "large", "numbers", "of", "results", "are", "returned", ".", "Table", "1", "lists", "the", "average", "time", "-LRB-", "in", "seconds", "-RRB-", "across", "all", "the", "participants", "to", "finish", "tasks", "1", "to", "9", "using", "the", "two", "different", "interfaces", ".", "Notice", "that", "we", "allowed", "the", "participants", "to", "stop", "the", "task", "if", "they", "felt", "that", "the", "task", "was", "too", "hard", "or", "too", "time-consuming", "to", "finish", ".", "It", "turned", "out", "that", "there", "were", "five", "participants", "who", "stopped", "task", "5", "and", "eight", "participants", "stopped", "task", "6", "before", "completion", "when", "they", "used", "the", "FilmFinder", ".", "Performance", "data", "of", "these", "participants", "were", "discarded", "for", "the", "unfinished", "tasks", ".", "Table", "1", ".", "Performance", "data", "-LRB-", "in", "seconds", "-RRB-", "Task", "1", "-LRB-", ".879", "-RRB-", "2", "-LRB-", ".522", "-RRB-", "3", "-LRB-", ".026", "-RRB-", "4", "-LRB-", ".000", "-RRB-", "5", "-LRB-", ".000", "-RRB-", "RB", "+", "+", "14.4", "16.1", "17.0", "18.9", "15.7", "FilmFinder", "14.7", "14.4", "29.7", "40.7", "204.0", "Task", "6", "-LRB-", ".000", "-RRB-", "7", "-LRB-", ".000", "-RRB-", "8", "-LRB-", ".000", "-RRB-", "9", "-LRB-", ".000", "-RRB-", "10", "RB", "+", "+", "12.7", "13.5", "27.1", "20.6", "N/A", "FilmFinder", "328.0", "87.2", "101.3", "112.8", "N/A", "Paired", "sample", "t", "tests", "on", "the", "performance", "data", "were", "computed", "and", "the", "p", "values", "are", "shown", "in", "the", "parenthesis", "for", "each", "task", ".", "We", "can", "see", "that", "except", "for", "the", "first", "two", "tasks", "-LRB-", "which", "were", "type", "1", "tasks", "-RRB-", ",", "the", "performance", "differences", "between", "the", "two", "interfaces", "were", "all", "statistically", "significant", "at", "the", ".05", "level", ".", "Clearly", ",", "RB", "+", "+", "supported", "superior", "performance", "for", "type", "2", "tasks", ".", "We", "also", "counted", "error", "rates", "for", "tasks", "1", "to", "9", ",", "which", "are", "listed", "in", "Table", "2", ".", "The", "error", "rate", "was", "calculated", "as", "the", "number", "of", "participants", "who", "gave", "the", "wrong", "answer", "to", "the", "task", "divided", "by", "the", "total", "number", "of", "participants", ".", "We", "can", "see", "that", "except", "for", "the", "8th", "task", ",", "no", "participants", "got", "wrong", "answers", "for", "any", "of", "the", "tasks", "using", "the", "RB", "+", "+", "interface", ".", "The", "error", "rates", "of", "the", "baseline", "interface", "were", "much", "higher", "than", "that", "of", "the", "RB", "+", "+", "interface", ",", "especially", "for", "tasks", "5", ",", "6", ",", "and", "7", ".", "Notice", "that", "we", "did", "not", "consider", "those", "participants", "who", "gave", "up", "the", "task", "5", "or", "6", "using", "the", "Filmfinder", ",", "so", "the", "actual", "denominators", "used", "for", "calculating", "the", "error", "rates", "for", "these", "tasks", "were", "smaller", "than", "the", "total", "number", "of", "participants", ".", "Table", "2", ".", "Error", "rates", "Task", "1", "2", "3", "4", "5", "RB", "+", "+", "0/15", "0/15", "0/15", "0/15", "0/15", "FilmFinder", "0/15", "0/15", "0/15", "2/15", "5/10", "Task", "6", "7", "8", "9", "10", "183", "RB", "+", "+", "0/15", "0/15", "1/15", "0/15", "N/A", "FilmFinder", "4/7", "13/15", "2/15", "5/15", "N/A", "We", "also", "did", "paired", "sample", "t", "tests", "on", "the", "three", "satisfaction", "questions", "2", "which", "were", "completed", "after", "each", "task", ".", "Each", "response", "was", "given", "on", "a", "5", "point", "scale", "from", "strongly", "agree", "-LRB-", "5", "-RRB-", "to", "strongly", "disagree", "-LRB-", "1", "-RRB-", ".", "For", "the", "first", "three", "tasks", "-LRB-", "simple", "lookups", "-RRB-", ",", "there", "were", "no", "statistically", "significant", "differences", "between", "the", "two", "interfaces", "on", "any", "of", "the", "3", "questions", ".", "On", "the", "exploratory", "tasks", "-LRB-", "4-9", "-RRB-", ",", "statistically", "significant", "differences", "favoring", "the", "RB", "+", "+", "were", "found", "on", "all", "three", "of", "the", "satisfaction", "questions", ".", "We", "also", "compared", "the", "results", "for", "the", "seven", "overall", "usability", "questions", "on", "each", "interface", "asked", "after", "participants", "had", "done", "the", "tasks", "with", "each", "interface", ".", "Their", "responses", "were", "also", "given", "on", "a", "five", "point", "scale", "from", "strongly", "agree", "to", "strongly", "disagree", ".", "In", "each", "of", "the", "seven", "ratings", ",", "statistically", "significant", "differences", "were", "found", "favoring", "the", "RB", "+", "interface", ".", "Clearly", ",", "satisfaction", "with", "the", "RB", "+", "+", "was", "greater", "than", "that", "with", "the", "Filmfinder", ".", "There", "were", "also", "open-ended", "questions", "that", "the", "participants", "answered", "after", "finishing", "both", "interfaces", ".", "All", "of", "the", "participants", "considered", "the", "RB", "+", "+", "interface", "to", "be", "easier", "to", "use", ",", "especially", "for", "the", "complex", "searches", ".", "They", "commented", "on", "the", "easy", "use", "of", "the", "visual", "display", "with", "the", "multiple", "categories", ",", "which", "made", "it", "easy", "to", "combine", "the", "search", "criteria", "and", "narrow", "down", "the", "data", ",", "and", "they", "also", "thought", "it", "was", "good", "to", "be", "able", "to", "manipulate", "the", "search", "results", "in", "multiple", "ways", ".", "Thirteen", "out", "of", "15", "participants", "indicated", "that", "the", "RB", "+", "+", "interface", "gave", "them", "more", "confidence", "to", "complete", "the", "tasks", ".", "It", "was", "easy", "to", "go", "back", "and", "forth", "and", "to", "verify", "the", "results", "and", "the", "informative", "overview", "panel", "gave", "the", "participants", "more", "confidence", "to", "finish", "tasks", ".", "There", "was", "one", "participant", "who", "thought", "that", "both", "interfaces", "gave", "equal", "confidence", "and", "there", "was", "one", "participant", "who", "thought", "that", "the", "Filmfinder", "interface", "gave", "more", "confidence", "since", "he", "was", "more", "familiar", "with", "the", "Filmfinder", "and", "he", "felt", "somewhat", "confused", "by", "the", "dynamic", "feature", "of", "the", "RB", "+", "+", ",", "but", "he", "acknowledged", "the", "usefulness", "of", "the", "dynamic", "feature", "in", "narrowing", "the", "results", "in", "the", "results", "panel", ".", "When", "asked", "which", "interface", "better", "helped", "them", "gain", "an", "understanding", "of", "the", "library", "movie", "collection", ",", "the", "RB", "+", "+", "interface", "was", "chosen", "by", "all", "the", "participants", ".", "Again", "the", "visual", "display", "of", "the", "multiple", "categories", "and", "the", "cross", "reference", "of", "these", "categories", "was", "considered", "to", "be", "useful", "features", "for", "them", "to", "understand", "the", "whole", "collection", ".", "In", "addition", ",", "10", "out", "of", "the", "15", "participants", "indicated", "that", "they", "were", "more", "likely", "to", "use", "the", "RB", "+", "+", "interface", "if", "both", "were", "available", ".", "Three", "participants", "chose", "both", "interfaces", ",", "depending", "on", "the", "type", "of", "tasks", ",", "and", "two", "participants", "chose", "the", "FilmFinder", "because", "of", "its", "familiarity", "and", "aesthetic", "appeal", ".", "For", "the", "question", "on", "the", "best", "thing", "about", "the", "RB", "+", "+", ",", "participants", "pointed", "out", "the", "visual", "display", "of", "the", "multiple", "categories", ",", "its", "cross", "reference", "ability", ",", "the", "dynamic", "matching", "ability", "of", "the", "searching", "boxes", "and", "the", "one", "screen", "display", "of", "the", "results", "as", "opposed", "to", "the", "multiple", "page", "display", "of", "results", "in", "Filmfinder", ".", "As", "the", "worst", "thing", "about", "the", "RB", "+", "+", ",", "participants", "indicated", "that", "it", "was", "not", "as", "2", "It", "is", "easy", "to", "use", "the", "interface", "I", "feel", "satisfied", "with", "the", "results", "I", "got", "I", "feel", "confident", "with", "the", "results", "I", "got", "aesthetically", "appealing", "as", "the", "Filmfinder", "and", "not", "quite", "as", "intuitive", "to", "use", "as", "the", "Filmfinder", ".", "Two", "participants", "specifically", "mentioned", "that", "the", "constant", "changing", "and", "updating", "of", "the", "interface", "made", "it", "a", "bit", "confusing", ".", "3.2", "Phase", "Two", "Results", "During", "the", "second", "phase", "we", "also", "asked", "participants", "to", "fill", "out", "the", "satisfaction", "questionnaires", "after", "finishing", "each", "task", "and", "these", "ratings", "were", "predictably", "high", "-LRB-", "all", "means", "above", "3.5", "-RRB-", "More", "importantly", ",", "participants", "were", "also", "required", "to", "answer", "a", "set", "of", "open-ended", "questions", "after", "finishing", "the", "second", "phase", ".", "For", "the", "first", "question", ":", "``", "What", "is", "your", "overall", "impression", "of", "this", "interface", "for", "finding", "the", "statistical", "data", "?", "''", "the", "overall", "impression", "was", "positive", ".", "Participants", "used", "phrases", "such", "as", "``", "fairly", "easy", "to", "use", "''", ",", "``", "very", "helpful", "in", "finding", "the", "information", "''", ",", "``", "good", "for", "quick", "searching", "''", ".", "There", "were", "also", "a", "couple", "of", "negative", "comments", "such", "as", ":", "``", "interface", "still", "came", "up", "with", "many", "results", "after", "filtering", "''", ",", "``", "title", "of", "the", "results", "are", "not", "descriptive", "enough", "''", ".", "Only", "one", "participant", "said", "that", "he", "did", "not", "like", "the", "interface", ",", "because", "of", "the", "poor", "categorization", "of", "information", "items", "under", "some", "categories", "which", "made", "him", "frustrated", ".", "When", "answering", "the", "second", "question", ":", "``", "Was", "it", "helpful", "to", "understanding", "what", "is", "available", "at", "EIA", "?", "''", "all", "the", "participants", "thought", "the", "interface", "was", "helpful", "in", "that", "regard", ",", "which", "was", "largely", "attributed", "to", "the", "visual", "display", "of", "the", "categories", ",", "which", "gave", "them", "a", "sense", "of", "what", "the", "website", "covered", ".", "One", "participant", "wished", "that", "there", "were", "more", "categories", "displayed", ".", "The", "questionnaire", "also", "asked", "if", "the", "search", "boxes", "were", "helpful", "in", "completing", "the", "tasks", ".", "Participants", "gave", "high", "praise", "to", "this", "feature", "with", "comments", "such", "as", "``", "it", "'s", "great", "to", "be", "taken", "directly", "to", "the", "page", "but", "not", "to", "have", "your", "results", "lost", "''", ",", "``", "I", "like", "the", "way", "it", "narrows", "the", "focus", "and", "sort", "of", "guides", "a", "person", "to", "the", "info", "sought", "''", ",", "``", "I", "did", "n't", "have", "to", "be", "concerned", "with", "performing", "a", "complex", "search", "that", "may", "return", "a", "null", "set-the", "results", "reflected", "my", "search", "string", "instantly", "''", ".", "Two", "participants", "also", "commented", "that", "the", "feature", "was", "somewhat", "limited", "in", "use", "since", "relevant", "information", "may", "not", "appear", "in", "the", "title", ",", "or", "description", ".", "The", "results", "strongly", "support", "that", "the", "RB", "+", "+", "interface", "was", "more", "effective", "and", "efficient", "in", "completing", "type", "2", "tasks", "than", "the", "baseline", "interface", "and", "that", "users", "felt", "more", "confident", "and", "satisfied", "with", "the", "RB", "+", "+", "in", "completing", "type", "2", "tasks", ".", "The", "higher", "effectiveness", ",", "efficiency", "and", "satisfaction", "gained", "in", "the", "RB", "+", "+", "resulted", "mainly", "from", "two", "aspects", ":", "the", "visual", "display", "of", "the", "statistical", "summary", "of", "the", "information", "items", "and", "the", "dynamic", "keyword", "searching", "capability", "in", "the", "results", "panel", ".", "The", "visualization", "bars", "helped", "the", "users", "understand", "relative", "proportions", "of", "items", "at", "a", "glance", "and", "use", "the", "posting", "numbers", "directly", ",", "which", "is", "much", "faster", "than", "literally", "counting", ".", "If", "we", "look", "at", "the", "BNF", "grammar", ",", "completion", "of", "type", "2", "tasks", "in", "RB", "+", "+", "only", "required", "participants", "to", "explore", "the", "collection", "-LRB-", "see", "first", "option", "of", "rule", "A1", "-RRB-", "without", "submitting", "queries", "to", "the", "database", "and", "then", "observing", "and", "counting", "returned", "results", ",", "which", "are", "necessary", "steps", "for", "the", "baseline", "interface", "to", "complete", "the", "same", "tasks", "-LRB-", "see", "rule", "B1", "-RRB-", ".", "The", "dynamic", "search", "boxes", "allow", "users", "do", "further", "filtering", "based", "on", "certain", "criteria", "and", "give", "users", "feedback", "on", "the", "filtered", "results", "instantly", "and", "continuously", ",", "which", "not", "only", "encourages", "the", "users", "to", "use", "this", "function", ",", "but", "also", "improves", "their", "efficiency", ".", "Another", "184", "interface", "feature", ":", "displaying", "all", "the", "results", "on", "one", "screen", "might", "also", "help", "improve", "the", "efficiency", "and", "satisfaction", ",", "as", "several", "users", "mentioned", ".", "Several", "components", "were", "tightly", "coupled", "in", "the", "interface", "with", "displayed", "search", "results", ".", "The", "search", "boxes", "are", "tightly", "coupled", "with", "the", "results", ",", "which", "means", "that", "any", "input", "in", "the", "search", "boxes", "will", "invoke", "instant", "filtering", "on", "the", "results", ".", "The", "visual", "bars", "are", "tightly", "coupled", "with", "the", "results", "and", "as", "such", "they", "support", "two", "functions", ".", "One", "is", "that", "any", "operations", "on", "the", "visual", "bars", "such", "as", "mouse", "over", "and", "selection", ",", "invoke", "the", "instant", "filtering", "of", "the", "results", ".", "The", "other", "is", "that", "any", "update", "of", "the", "results", "also", "updates", "the", "summary", "statistics", "in", "the", "visualization", "on", "the", "bars", ".", "Coupling", "provides", "users", "more", "ways", "to", "interact", "with", "the", "system", "and", "make", "the", "interaction", "more", "natural", "and", "smooth", "-LRB-", "see", "rule", "A8", ",", "A9", ",", "A10", "-RRB-", ",", "which", "suggests", "a", "different", "interaction", "style", "for", "finding", "information", "than", "traditional", "search", "interfaces", "which", "tend", "to", "require", "discrete", ",", "well-defined", "turn-taking", "between", "the", "user", "and", "system", ".", "Traditionally", ",", "when", "users", "get", "to", "the", "results", "page", ",", "all", "they", "can", "do", "is", "browse", "the", "results", ".", "If", "they", "want", "to", "refine", "the", "results", ",", "they", "have", "to", "go", "back", "to", "the", "search", "interface", ",", "type", "in", "the", "refined", "keywords", ",", "click", "the", "search", ",", "and", "browse", "the", "new", "results", ",", "which", "not", "only", "interrupts", "the", "normal", "results", "browsing", "interaction", ",", "but", "also", "loses", "the", "current", "result", "set", ".", "RB", "+", "+", "encourages", "users", "to", "get", "an", "initial", "manageable", "result", "set", "and", "then", "refine", "it", "using", "one", "interface", "window", "without", "the", "need", "to", "go", "back", "and", "forth", ".", "Instead", "of", "displaying", "a", "set", "of", "static", "results", ",", "RB", "+", "+", "offers", "an", "effective", "and", "efficient", "means", "for", "users", "to", "understand", "the", "results", "by", "displaying", "summary", "statistics", "bars", "which", "give", "both", "visual", "and", "numeric", "data", "-LRB-", "see", "rule", "A9", "-RRB-", ",", "and", "to", "explore", "results", "by", "providing", "ways", "to", "dynamically", "and", "continuously", "filter", "-LRB-", "see", "rule", "A10", "-RRB-", ".", "The", "result", "set", "can", "be", "as", "large", "as", "displaying", "the", "whole", "collection", ",", "or", "as", "small", "as", "only", "one", "item", ",", "which", "depends", "on", "the", "initial", "query", "on", "the", "collection", ".", "In", "the", "second", "phase", "study", ",", "most", "of", "the", "participants", "completed", "their", "search", "tasks", "without", "doing", "a", "second", "query", "on", "the", "initial", "interface", ".", "The", "study", "showed", "that", "participants", "could", "utilize", "the", "initial", "interface", "to", "get", "an", "initial", "result", "set", "by", "selecting", "relevant", "categories", "and", "then", "narrow", "down", "results", "and", "find", "relevant", "web", "pages", "by", "exploring", "the", "results", "set", ".", "Typing", "in", "keywords", "-LRB-", "or", "string", "patterns", "-RRB-", "in", "search", "boxes", "was", "found", "to", "be", "the", "most", "frequently", "used", "means", "to", "explore", "and", "filter", "result", "set", ".", "These", "features", "were", "highly", "appreciated", "by", "the", "participants", "as", "seen", "from", "their", "comments", ".", "Many", "information", "access", "interfaces", "try", "to", "provide", "a", "starting", "point", "for", "users", "by", "presenting", "overviews", "of", "the", "collection", "-LSB-", "9", "-RSB-", ".", "Overviews", "can", "help", "users", "understand", "the", "whole", "collection", "and", "select", "or", "eliminate", "sources", "from", "consideration", ".", "Overviews", "can", "direct", "users", "to", "subcollections", "quickly", ",", "where", "they", "can", "explore", "the", "details", ".", "Usually", "two", "types", "of", "overviews", "are", "employed", ":", "category", "overview", "and", "graphic", "overview", ".", "The", "category", "approach", "of", "Yahoo", "is", "a", "good", "example", "for", "the", "category", "overview", ".", "The", "HiBrowse", "interface", "for", "viewing", "category", "labels", "hierarchically", "based", "on", "the", "facets", "is", "another", "example", "-LSB-", "14", "-RSB-", ".", "A", "more", "recent", "information", "access", "interface", "using", "the", "category", "overview", "by", "presenting", "faceted", "metadata", "is", "the", "Flamenco", "interface", "-LSB-", "21", "-RSB-", ".", "The", "last", "two", "interfaces", "not", "only", "present", "the", "category", "labels", "to", "the", "users", "but", "also", "inform", "the", "users", "of", "the", "number", "of", "documents", "under", "each", "category", ".", "However", ",", "these", "interfaces", "do", "not", "allow", "users", "to", "employ", "simple", "mouse", "moves", "to", "quickly", "explore", "the", "relationship", "between", "different", "categories", "-LRB-", "or", "facets", "-RRB-", ".", "The", "Flamenco", "interface", "could", "do", "this", "as", "part", "of", "its", "browsing", "and", "searching", "efforts", ",", "but", "it", "requires", "many", "commitments", "from", "users", "such", "as", "clicking", "the", "category", "and", "waiting", ".", "The", "previous", "version", "of", "the", "relation", "browser", "-LSB-", "13", "-RSB-", "presented", "various", "categories", "and", "allowed", "users", "to", "explore", "the", "relations", "by", "mouse", "over", "operation", ",", "but", "the", "interface", "only", "allowed", "the", "users", "to", "mouse", "over", "the", "main", "category", ".", "The", "graphic", "overview", "is", "another", "type", "of", "overview", ",", "which", "usually", "employs", "various", "information", "visualization", "techniques", ".", "Lin", "-LSB-", "12", "-RSB-", "used", "the", "Kohenen", "map", "to", "visually", "present", "a", "topical", "overview", "of", "the", "collection", ".", "Each", "block", "on", "the", "map", "represents", "a", "subcollection", "with", "similar", "topics", "which", "are", "labeled", "by", "one", "or", "two", "salient", "words", "extracted", "from", "the", "subcollection", ".", "The", "adjacency", "of", "blocks", "indicates", "the", "topic", "similarity", "between", "subcollections", ".", "Wise", ",", "et", "al.", "-LSB-", "19", "-RSB-", "developed", "a", "three", "dimensional", "interface", "to", "visually", "present", "various", "topics", ".", "Zhang", ",", "et", "al.", "-LSB-", "25", "-RSB-", "exacted", "the", "key", "concepts", "from", "a", "collection", "and", "visually", "presented", "the", "concepts", "in", "a", "spring-embedded", "graph", ".", "Similar", "concepts", "were", "clustered", "together", "and", "usually", "represented", "as", "subtopics", ".", "The", "graphical", "overview", "is", "visually", "appealing", ",", "but", "the", "usability", "of", "this", "kind", "of", "interface", "has", "yet", "to", "be", "explored", ".", "3-D", "interfaces", "are", "more", "problematic", "than", "2-D", "interface", "in", "terms", "of", "ease", "of", "use", "and", "learnability", ".", "It", "seems", "that", "textual", "labels", "of", "category", "structure", "are", "more", "understandable", "than", "graphical", "representation", ".", "Some", "research", "has", "been", "conducted", "on", "how", "to", "present", "the", "retrieved", "results", "in", "context", ".", "Hearst", "-LSB-", "10", "-RSB-", "used", "clustering", "techniques", "to", "cluster", "retrieval", "results", "on", "the", "fly", "and", "presented", "different", "clusters", "with", "labeled", "words", "to", "the", "users", "to", "help", "them", "understand", "of", "the", "results", ".", "Chen", ",", "and", "Dumais", "-LSB-", "3", "-RSB-", "employed", "classification", "techniques", "to", "categorize", "retrieved", "results", "based", "on", "the", "existing", "category", "structure", "and", "displayed", "them", "in", "hierarchical", "categories", ".", "Zamir", "and", "Etzioni", "-LSB-", "22", "-RSB-", "developed", "an", "interface", "that", "used", "on-the-fly", "clustering", "of", "metasearch", "results", ".", "These", "interfaces", "cluster", "or", "categorize", "the", "retrieval", "results", "on", "the", "fly", ",", "so", "scaling", "is", "problematic", ".", "The", "RB", "+", "+", "categorizes", "the", "collection", "offline", "and", "uses", "a", "uniform", "category", "structure", "to", "present", "overviews", "of", "the", "collection", "and", "the", "retrieval", "results", ".", "Consequently", ",", "RB", "+", "+", "can", "be", "scaled", "up", "easily", ".", "However", ",", "because", "RB", "+", "+", "depends", "on", "the", "metadata", "to", "reside", "on", "the", "client", "side", "to", "achieve", "its", "dynamics", ",", "it", "also", "suffers", "a", "different", "kind", "of", "scalability", "limitation", ".", "To", "date", ",", "we", "have", "had", "good", "success", "and", "response", "with", "data", "sets", "with", "tens", "of", "thousands", "of", "records", "and", "a", "dozen", "or", "so", "facets", ",", "however", "data", "sets", "with", "millions", "of", "records", "and", "scores", "of", "facets", "are", "problematic", ".", "3", ".", "There", "also", "has", "been", "some", "work", "on", "fast", "location", "of", "specific", "information", "items", ".", "Sorting", "is", "a", "prevalent", "means", "to", "help", "users", "locate", "a", "specific", "item", ".", "However", ",", "users", "still", "need", "to", "visually", "go", "through", "a", "list", "of", "items", ".", "The", "Alphaslider", "-LSB-", "1", "-RSB-", "is", "a", "visual", "component", "to", "help", "users", "quickly", "locate", "a", "known", "string", "of", "items", ",", "but", "it", "'s", "not", "very", "easy", "to", "use", ",", "especially", "for", "novice", "users", ".", "Besides", ",", "The", "Alphaslider", "can", "only", "locate", "the", "information", "items", "based", "on", "the", "first", "letter", "alphabetically", ".", "RB", "+", "+", "provides", "an", "easy", "and", "flexible", "way", "to", "locate", "the", "information", "items", "by", "typing", "in", "string", "patterns", "and", "the", "patterns", "can", "be", "matched", "anywhere", "in", "the", "information", "items", ".", "A", "similar", "technique", "is", "actually", "used", "in", "some", "applications", "such", "as", "the", "address", "box", "of", "Internet", "Explorer", "3", "Various", "RB", "+", "+", "examples", "are", "available", "at", "http://idl.ils.unc.edu/rave/examples.html", "185", "browser", ",", "but", "the", "patterns", "are", "limited", "to", "matching", "from", "the", "beginning", "of", "the", "query", "string", ".", "Dynamic", "query", "was", "a", "new", "type", "of", "interface", "-LSB-", "16", "-RSB-", "that", "inspired", "the", "original", "relation", "browser", "work", ".", "The", "interface", "visually", "displays", "the", "information", "items", "and", "provides", "the", "visual", "controlling", "components", "to", "explore", "the", "information", "items", "by", "tightly", "coupling", "search", "and", "visual", "display", "of", "results", ".", "RB", "+", "+", "uses", "this", "design", "concept", ",", "but", "instead", "of", "providing", "a", "visual", "interface", ",", "RB", "+", "+", "employs", "a", "more", "understandable", "-LRB-", "especially", "for", "topical", "overview", "-RRB-", "category", "structure", "for", "the", "information", "items", ".", "Moreover", ",", "the", "search", "box", "is", "a", "very", "effective", "and", "efficient", "component", "for", "the", "non", "categorized", "attributes", "of", "the", "items", ",", "while", "the", "visual", "controlling", "components", "such", "as", "sliders", "or", "check", "boxes", "can", "only", "be", "used", "for", "controlling", "categorical", "attributes", "of", "the", "items", ".", "Query", "preview", "-LSB-", "18", "-RSB-", ",", "attribute", "explorer", "-LSB-", "17", "-RSB-", "and", "other", "interfaces", "-LSB-", "11", "-RSB-", ",", "and", "-LSB-", "20", "-RSB-", "provide", "similar", "ways", "to", "explore", "the", "relationships", "between", "different", "facets", "of", "the", "classification", ".", "These", "interfaces", "worked", "for", "structured", "information", "such", "as", "that", "found", "in", "databases", ".", "Of", "course", ",", "all", "these", "types", "of", "interfaces", "depend", "on", "good", "underlying", "categorization", "of", "data", ".", "Our", "long-term", "goal", "is", "to", "make", "the", "interface", "work", "for", "unstructured", "textual", "information", ".", "The", "search", "boxes", "provided", "are", "a", "first", "step", "in", "this", "direction", ",", "although", "they", "are", "currently", "limited", "to", "search", "within", "the", "fields", "specified", "in", "the", "results", "display", ".", "One", "constraint", "in", "RB", "+", "+", "is", "the", "limited", "number", "of", "categories", "that", "can", "be", "displayed", ",", "which", "is", "affected", "by", "two", "factors", ".", "One", "factor", "is", "screen", "real", "estate", ".", "We", "can", "partially", "alleviate", "the", "issue", "of", "screen", "real", "estate", "by", "utilizing", "a", "Zoomable", "User", "Interface", "-LRB-", "ZUI", "-RRB-", "to", "display", "the", "categories", ".", "We", "have", "experimented", "with", "integrating", "the", "Jazz", "toolkit", "-LSB-", "2", "-RSB-", "into", "the", "interface", "and", "this", "provides", "aproximately", "a", "ten-fold", "increase", "in", "the", "number", "of", "facet", "values", "that", "can", "be", "supported", "within", "each", "facet", ",", "although", "at", "the", "expense", "of", "some", "of", "the", "mouseover", "dynamics", "since", "the", "mouse", "must", "now", "be", "used", "for", "zooming", "as", "well", "as", "normal", "hovering", ".", "Another", "factor", "is", "size", "of", "the", "memory", "to", "hold", "the", "client-side", "distribution", "counts", "data", ",", "the", "number", "of", "which", "increases", "exponentially", "with", "increased", "number", "of", "displayed", "categories", ".", "One", "way", "to", "solve", "the", "issue", "is", "to", "only", "calculate", "part", "of", "the", "distribution", "counts", "data", ",", "which", "hopefully", "are", "most", "frequently", "used", "during", "the", "user", "'s", "interaction", "with", "the", "interface", ".", "Other", "approaches", ",", "such", "as", "employing", "novel", "data", "structures", "were", "also", "suggested", "by", "Doan", ",", "et", "al.", "-LSB-", "5", "-RSB-", ".", "However", ",", "all", "these", "solutions", "have", "to", "sacrifice", "the", "interactivity", "of", "the", "interface", "that", "depends", "on", "client-side", "metadata", "to", "support", "rapid", "mouse", "activities", ".", "For", "example", ",", "preloading", "partial", "distribution", "counts", "data", "for", "large", "numbers", "of", "categories", "make", "some", "distributional", "data", "and", "visualization", "unavailable", "when", "users", "try", "to", "re-partition", "the", "information", "space", "by", "mouse", "moves", ".", "At", "present", ",", "the", "best", "development", "path", "seems", "to", "be", "hierarchical", "partitioning", "of", "very", "large", "information", "spaces", "with", "multiple", "RB", "+", "+", "instances", "that", "require", "a", "new", "download", "for", "each", "of", "the", "cascading", "subsets", ".", "Another", "constraint", "of", "RB", "+", "+", "is", "the", "limited", "matching", "function", "of", "the", "search", "boxes", ".", "The", "interface", "currently", "matches", "input", "string", "patterns", "to", "the", "corresponding", "result", "fields", "on", "the", "lexical", "level", ".", "Matching", "in", "this", "level", "is", "sufficient", "in", "many", "cases", "such", "as", "matching", "with", "fields", "with", "numbers", "or", "short", "textual", "strings", "such", "as", "titles", ",", "but", "for", "the", "fields", "with", "more", "semantic", "bearing", "strings", "such", "as", "descriptions", "of", "web", "pages", ",", "a", "more", "sophisticated", "match", "function", "based", "on", "semantics", "might", "be", "needed", "--", "perhaps", "a", "kind", "of", "full-text", "engine", "in", "each", "text", "field", ",", "although", "the", "close", "coupling", "with", "the", "facet", "panel", "will", "then", "be", "in", "doubt", ".", "Currently", ",", "the", "interface", "provides", "a", "uniform", "category", "structure", "for", "both", "the", "entire", "collection", "and", "the", "retrieved", "results", "set", ".", "This", "is", "good", "for", "its", "consistency", ".", "However", ",", "for", "the", "retrieved", "result", "set", ",", "a", "more", "fine-grained", "category", "structure", "might", "be", "better", "for", "users", "to", "understand", "it", "and", "conduct", "string", "searches", ".", "Overall", ",", "the", "RB", "+", "+", "represents", "an", "example", "of", "a", "highly", "interactive", "user", "interface", "that", "offers", "improved", "performance", "and", "satisfaction", "for", "users", "of", "large", "websites", "and", "digital", "libraries", ".", "It", "can", "find", "application", "as", "the", "entry", "point", "for", "a", "large", "website", "or", "as", "a", "way", "to", "work", "with", "large", "results", "sets", "returned", "from", "search", "engines", "as", "long", "as", "the", "data", "is", "structured", "in", "advance", ".", "Over", "the", "past", "few", "years", "we", "have", "created", "more", "than", "two", "dozen", "instances", "of", "data", "sets", "using", "RB", "and", "RB", "+", "+", ",", "demonstrating", "its", "applicability", "as", "an", "interface", "to", "many", "different", "types", "of", "data", ".", "If", "the", "data", "resides", "in", "a", "database", ",", "it", "is", "possible", "to", "map", "the", "scheme", "to", "the", "underlying", "RB", "+", "+", "scheme", "-LRB-", "see", "-LSB-", "24", "-RSB-", "for", "details", "on", "the", "system", "architecture", "-RRB-", "and", "simply", "import", "the", "data", "automatically", ".", "For", "many", "WWW", "applications", ",", "this", "is", "not", "possible", "so", "we", "have", "been", "developing", "ways", "to", "automate", "facet", "discovery", "and", "webpage", "assignment", "to", "those", "facets", ".", "The", "basic", "approach", "is", "to", "crawl", "the", "website", "-LRB-", "s", "-RRB-", ",", "create", "term-document", "representations", "and", "then", "use", "machine", "learning", "techniques", "to", "cluster", "the", "webpages", "and", "extract", "candidate", "labels", ",", "use", "human", "judgment", "to", "select", "the", "best", "labels", ",", "and", "then", "classify", "the", "webpages", "into", "those", "categories", "using", "the", "statistical", "model", "produced", "in", "the", "process", ".", "See", "Efron", "et", "al", "-LSB-", "6,7", "-RSB-", "for", "details", "of", "the", "techniques", "we", "have", "applied", "to", "date", ".", "To", "illustrate", "the", "current", "state", "of", "development", ",", "consider", "the", "EIA", "example", "used", "in", "the", "study", "reported", "here", ".", "The", "categories", "displayed", "on", "the", "EIA", "RB", "+", "+", "instance", "were", "originally", "created", "manually", ",", "which", "certainly", "did", "not", "scale", "well", "to", "many", "other", "large", "information", "collections", "such", "as", "various", "other", "government", "statistical", "web", "sites", ".", "Figure", "7", "is", "a", "screen", "shot", "of", "the", "RB", "+", "+", "instance", "for", "the", "Bureau", "of", "Labor", "Statistics", "web", "site", "that", "uses", "topic", "facets", "and", "webpage", "assignment", "that", "were", "automatically", "determined", ".", "About", "13,000", "HTML", "web", "pages", "were", "crawled", "from", "web", "site", "and", "a", "soft", "clustering", "method", "was", "then", "applied", "to", "those", "pages", ".", "For", "each", "webpage", ",", "the", "statistical", "model", "yielded", "a", "probability", "of", "belonging", "to", "every", "cluster", ".", "Thus", ",", "every", "page", "`", "belongs", "'", "to", "every", "cluster", "at", "some", "level", "of", "probability", ".", "The", "first", "topic", "column", "contains", "all", "the", "pages", "with", "highest", "probability", "of", "belonging", "to", "those", "facet", "values", ".", "The", "second", "column", "contains", "all", "the", "pages", "with", "the", "second", "highest", "probability", "values", "for", "those", "facet", "values", ".", "The", "third", "and", "fourth", "columns", "are", "the", "months", "and", "years", "of", "page", "update", "extracted", "from", "web", "pages", "themselves-facets", "that", "are", "know", "to", "be", "problematic", "but", "used", "for", "illustration", "since", "our", "primary", "emphasis", "was", "on", "topic", "discovery", ".", "The", "display", "of", "two", "topical", "columns", "reflects", "the", "underlying", "characteristic", "of", "soft", "clustering", "where", "items", "can", "appear", "in", "multiple", "clusters", ".", "However", ",", "our", "discussions", "with", "BLS", "staff", "and", "demonstrations", "to", "other", "potential", "users", "show", "that", "this", "two-column", "display", "is", "confusing", ".", "Therefore", ",", "only", "the", "first", "topical", "column", "was", "kept", "in", "a", "later", "version", "of", "the", "RB", "+", "+", "BLS", "instance", "-LRB-", "see", "figure", "8", "-RRB-", ".", "An", "186", "additional", "facet", ":", "geographical", "coverage", ",", "which", "is", "an", "important", "facet", "of", "government", "statistical", "web", "sites", ",", "was", "added", "in", "this", "version", ".", "The", "assignments", "were", "made", "using", "a", "rule", "based", "classification", "method", "to", "classify", "the", "web", "pages", "into", "categories", "of", "various", "geographical", "coverages", ".", "Figure", "7", ".", "First", "version", "of", "RB", "instance", "for", "BLS", "web", "site", "Figure", "8", ".", "Latest", "version", "of", "RB", "instance", "for", "BLS", "web", "site", ".", "In", "addition", "to", "the", "BLS", "instance", ",", "we", "have", "used", "these", "techniques", "to", "create", "RB", "+", "+", "instances", "for", "the", "FedStats", "website", "and", "are", "working", "to", "create", "instances", "for", "other", "federal", "statistical", "agencies", ".", "At", "present", ",", "the", "FedStats", "and", "BLS", "instances", "are", "installed", "on", "FedStats", "servers", "and", "are", "being", "tested", "by", "federal", "statistical", "agency", "personnel", ".", "We", "also", "hope", "to", "address", "the", "important", "facet", "of", "time", "coverage", "of", "data", "itself", "in", "future", "work", ".", "Overall", ",", "the", "RB", "+", "+", "user", "interface", "has", "evolved", "to", "a", "state", "where", "it", "can", "be", "easily", "applied", "to", "many", "kinds", "of", "well-structured", "data", ".", "The", "user", "testing", "reported", "here", "demonstrates", "the", "efficacy", "of", "the", "interface", "for", "search", "and", "browse", "tasks", "that", "would", "be", "very", "difficult", "to", "execute", "with", "SQL", "syntax", "or", "form", "fillin", "interfaces", ".", "Our", "current", "efforts", "are", "to", "develop", "techniques", "for", "automatically", "populating", "the", "RB", "+", "+", "database", "with", "unstructured", "data", "from", "the", "WWW", ".", "To", "date", ",", "these", "efforts", "have", "led", "to", "promising", "prototypes", "for", "several", "federal", "statistical", "websites", ".", "This", "work", "was", "supported", "by", "NSF", "Grant", "EIA", "0131824", ".", "The", "authors", "wish", "to", "thank", "Paul", "Solomon", "and", "other", "anonymous", "reviewers", "for", "their", "valuable", "comments", "on", "the", "paper", "and", "Tim", "Shearer", "for", "designing", "the", "underlying", "database", "structure", "of", "the", "interface", ".", "We", "also", "thank", "Jonathan", "Elsas", "and", "Miles", "Efron", "for", "developing", "the", "clustering", "software", "and", "techniques", ".", "-LSB-", "1", "-RSB-", "Ahlberg", ",", "C.", ",", "and", "Shneiderman", ",", "B", ".", "The", "alphaslider", ":", "a", "compact", "and", "rapid", "selector", ".", "In", "Proceedings", "of", "the", "SIGCHI", "conference", "on", "human", "factors", "in", "computing", "systems", ".", "Boston", ",", "Massachusetts", ".", "1994", ".", "-LSB-", "2", "-RSB-", "Bederson", ",", "B.", ",", "Meyer", ",", "J.", ",", "and", "Good", ",", "L.", "Jazz", ":", "An", "Extensible", "zoomable", "user", "interface", "graphics", "toolkit", "in", "java", ".", "In", "ACM", "UIST2000", ",", "171-180", ".", "-LSB-", "3", "-RSB-", "Chen", ",", "H", ",", "and", "Dumais", ",", "S.", "Bringing", "order", "to", "the", "web", ":", "Automatically", "categorizing", "searching", "results", ".", "In", "Proceedings", "of", "the", "SIGCHI", "conference", "on", "human", "factors", "in", "computing", "systems", ".", "The", "Hague", ",", "Amsterdam", ".", "2000", "-LSB-", "4", "-RSB-", "Dix", ",", "A.", ",", "Finlay", ",", "J.", "Abowd", ",", "G.", "Beale", ",", "R", ",", "and", "Finley", ",", "J.", "Human-Computer", "Interaction", "-LRB-", "2", "nd", "Ed", ".", "-RRB-", ".", "Prentice", "Hall", ",", "Hillsdale", ",", "NJ", ",", "1998", "-LSB-", "5", "-RSB-", "Doan", ",", "K.", ",", "Plaisant", ",", "C.", ",", "Shneiderman", ",", "B.", ",", "and", "Bruns", ",", "T.", "Interface", "and", "Data", "Architecture", "for", "Query", "Preview", "in", "Networked", "Information", "Systems", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "July", "1999", ",", "Vol", ".", "17", ",", "No.", "3", ",", "320-341", ".", "-LSB-", "6", "-RSB-", "Efron", ",", "M.", ",", "Marchionini", ",", "G.", "and", "Zhang", ",", "J.", "Implications", "of", "the", "recursive", "representation", "problem", "for", "automatic", "concept", "identification", "in", "on-line", "governmental", "information", ".", "ASIST", "SIG-CR", "Workshop", ",", "Long", "Beach", ",", "CA", ",", "2003", ".", "-LSB-", "7", "-RSB-", "Efron", ",", "M.", ",", "Elsas", ",", "J.", ",", "Marchionini", ",", "G.", ",", "and", "Zhang", "J.", ".", "Machine", "learning", "for", "information", "architecture", "in", "a", "large", "governmental", "website", ".", "Joint", "Conference", "on", "Digital", "Libraries", "2004", "-LRB-", "Tuscon", ",", "AZ", ",", "June", "7-11", ",", "2004", "-RRB-", "-LSB-", "8", "-RSB-", "Greene", ",", "S.", ",", "Marchionini", ",", "G.", ",", "Plaisant", ",", "C.", ",", "&", "Shneiderman", ",", "B.", "-LRB-", "2000", "-RRB-", ".", "Previews", "and", "overviews", "in", "digital", "libraries", ":", "Designing", "surrogates", "to", "support", "visual", "information", "seeking", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "51", "-LRB-", "4", "-RRB-", ",", "380-393", ".", "-LSB-", "9", "-RSB-", "Hearst", ",", "M.", "User", "interfaces", "and", "visualization", ".", "In", "Modern", "information", "retrieval", ".", "Ed", ".", "by", "Baeza-Yates", ",", "R.", ",", "and", "Ribeiro-Neto", ",", "B.", "Chapter", "10", ",", "ACM", "Press", ",", "New", "York", ",", "NY", ",", "1999\u00a0257-324", ".", "-LSB-", "10", "-RSB-", "Hearst", ",", "M.", "and", "Pedersen", ",", "P.", "Reexamining", "the", "cluster", "hypothesis", ":", "Scatter/Gather", "on", "retrieval", "results", ",", "Proceedings", "of", "19th", "Annual", "International", "ACM/SIGIR", "Conference", ",", "Zurich", ",", "1996", "-LSB-", "11", "-RSB-", "Lanning", ",", "T.", ",", "Wittenburg", ",", "K.", ",", "Heinrichs", ",", "M.", ",", "Fyock", ",", "C.", ",", "and", "Li", ",", "G.", "Multidimensional", "information", "visualization", "through", "sliding", "rods", ".", "AVI", "'02", "Palermo", ",", "Italy", ".", "-LSB-", "12", "-RSB-", "Lin", ",", "X.", "Map", "displays", "for", "information", "retrieval", ".", "Journal", "of", "the", "American", "society", "for", "information", "science", ".", "1997", "48", "-LRB-", "1", "-RRB-", ",", "40-54", ".", "187", "-LSB-", "13", "-RSB-", "Marchionini", ",", "G.", ",", "and", "Brunk", ",", "B.", "Toward", "a", "general", "relation", "browser", ":", "A", "GUI", "for", "information", "architects", ".", "Journal", "of", "Digital", "Information", ".", "Article", "No.", "179", ",", "2003-04-09", "2003", "4", "-LRB-", "1", "-RRB-", ".", "http://jodi.ecs.soton.ac.uk/Articles/v04/i01/Marchionini/", "-LSB-", "14", "-RSB-", "Pollitt", "A.", "S.", ",", "Ellis", "G.", "P.", ",", "and", "Smith", "M.", "P.", "HIBROWSE", "for", "Bibliographic", "Databases", "Journal", "of", "Information", "Science", ",", "1994", "20", "-LRB-", "6", "-RRB-", ",", "413-426", ".", "-LSB-", "15", "-RSB-", "Reisner", ",", "P.", ",", "Formal", "Grammar", "and", "human", "factor", "design", "of", "an", "interactive", "graphics", "system", ".", "IEEE", "Trans", ".", "on", "Software", "Engineering", ",", "7", "-LRB-", "2", "-RRB-", ",", "229-240", ",", "1981", "-LSB-", "16", "-RSB-", "Shneiderman", ",", "B.", ",", "Dynamic", "queries", "for", "visual", "information", "seeking", ",", "IEEE", "Software", "11", ",", "6", "-LRB-", "1994", "-RRB-", ",", "70-77", ".", "-LSB-", "17", "-RSB-", "Spence", ",", "R", ",", "and", "Tweedie", ",", "L", ".", "The", "attribute", "explore", ":", "information", "synthesis", "via", "exploration", ".", "Interacting", "with", "Computers", ".", "1998", "11", ",", "137-146", ".", "-LSB-", "18", "-RSB-", "Tanin", ",", "E.", ",", "Lotem", ",", "A.", ",", "Haddadin", ",", "I.", ",", "Shneiderman", ",", "B.", ",", "Plaisant", ",", "C.", ",", "and", "Slaughter", ",", "L.", "Facilitating", "data", "exploration", "with", "query", "previews", ":", "a", "study", "of", "user", "performance", "and", "preference", ".", "Behaviour", "&", "information", "technology", ".", "2000", "19", "-LRB-", "6", "-RRB-", ".", "393-403", ".", "-LSB-", "19", "-RSB-", "Wise", ",", "J.", ",", "Thomas", ",", "J.", ",", "Pennock", ",", "K.", ",", "Lantrip", ",", "D.", ",", "Pottier", ",", "M.", "and", "Schur", ",", "A.", "Visualizing", "the", "non-visual", ":", "spatial", "analysis", "and", "interaction", "with", "information", "from", "text", "documents", ".", "In", "Proc", ".", "of", "the", "Information", "visualization", "Symposium", "95", ",", "pages", "51-58", ".", "IEEE", "Computer", "Society", "Press", ",", "1995"], "doc_bio_tags": ["O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["facets", "visual display", "faceted category structure", "user study", "searching", "user satisfaction", "visualization", "user interface", "human factor", "browsing", "browse", "search", "category overview", "dynamic query", "efficiency", "satisfaction", "modeling user interaction", "information storage and retrieval", "effectiveness"], "abstractive_keyphrases": ["interface design", "interactive system", "interaction patterns with interface", "rb++", "information browsing", "browse and search interface", "relation browser++", "information search"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "52", "document": ["Catenaccio", ":", "Interactive", "Information", "Retrieval", "System", "through", "Drawing", "The", "Catenaccio", "system", "integrates", "information", "retrieval", "with", "sketch", "manipulations", ".", "The", "system", "is", "designed", "especially", "for", "pen-based", "computing", "and", "allows", "users", "to", "retrieve", "information", "by", "simple", "pen", "manipulations", "such", "as", "drawing", "a", "picture", ".", "When", "a", "user", "draws", "a", "circle", "and", "writes", "a", "keyword", ",", "information", "nodes", "related", "to", "the", "keyword", "are", "collected", "automatically", "inside", "the", "circle", ".", "In", "addition", ",", "the", "user", "can", "create", "a", "Venn", "diagram", "by", "repeatedly", "drawing", "circles", "and", "keywords", "to", "form", "more", "complex", "queries", ".", "Thus", ",", "the", "user", "can", "retrieve", "information", "both", "interactively", "and", "visually", "without", "complex", "manipulations", ".", "Moreover", ",", "the", "sketch", "interaction", "is", "so", "simple", "that", "it", "is", "possible", "to", "combine", "it", "with", "other", "types", "of", "data", "such", "as", "images", "and", "real-world", "information", "for", "information", "retrieval", ".", "In", "this", "paper", ",", "we", "describe", "our", "Catenaccio", "system", "and", "how", "it", "can", "be", "effectively", "applied", ".", "CR", "Categories", ":", "I.", "3.6", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Methodology", "and", "Techniques", "Interaction", "Techniques", ";", "I.", "3.4", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Graphics", "Utilities", "Software", "support", "Pen-based", "computers", ",", "such", "as", "personal", "digital", "assistants", "-LRB-", "PDA", "-RRB-", "and", "tablet", "PCs", ",", "have", "been", "developed", ".", "These", "computers", "are", "characterized", "by", "simple", "sketch", "interfaces", "similar", "to", "drawing", "a", "picture", "on", "paper", "in", "the", "real", "world", ".", "This", "drawing", "manipulation", "is", "not", "especially", "useful", "for", "communicating", "details", ",", "but", "is", "effective", "for", "general", "use", ".", "It", "is", "especially", "useful", "for", "creative", "activities", ",", "so", "there", "have", "been", "a", "number", "of", "research", "reports", "on", "improving", "sketch", "manipulation", "-LSB-", "1", ",", "2", ",", "3", "-RSB-", ".", "In", "addition", ",", "some", "game", "devices", "-LRB-", "e.g.", ",", "Nintendo", "DS", "-LSB-", "4", "-RSB-", "-RRB-", "support", "such", "kinds", "of", "interactions", "and", "provide", "many", "types", "of", "game", "content", ".", "In", "these", "systems", ",", "a", "user", "can", "use", "the", "entire", "system", "window", "as", "a", "workspace", "and", "create", "3D", "CG", "from", "2D", "drawings", ".", "However", ",", "as", "the", "original", "applications", "may", "not", "support", "information", "retrieval", ",", "the", "user", "has", "to", "use", "conventional", "retrieval", "applications", "along", "with", "pen-based", "input", "styles", ".", "Considerable", "research", "has", "been", "done", "to", "support", "the", "use", "of", "information", "visualization", "for", "retrieving", "information", "-LSB-", "5", "-RSB-", ".", "Technical", "visualization", "methods", "such", "as", "zooming", "and", "scaling", "can", "be", "used", "to", "effectively", "display", "huge", "amounts", "of", "data", "-LSB-", "6", ",", "7", ",", "8", "-RSB-", ".", "However", ",", "existing", "visualization", "systems", "focus", "on", "mouse", "manipulation", "-LRB-", "e.g.", ",", "click", "and", "drag", "-RRB-", ",", "so", "they", "are", "not", "effectively", "designed", "for", "pen-based", "interactions", "such", "as", "a", "drawing", ".", "The", "most", "popular", "method", "of", "retrieving", "information", "is", "no", "doubt", "keyword", "searching", ".", "Search", "engines", "via", "the", "Web", "-LRB-", "e.g.", ",", "Google", "and", "Yahoo", "-RRB-", "have", "been", "generally", "used", "for", "keyword", "searching", "-LSB-", "12", ",", "13", "-RSB-", ",", "and", "people", "feel", "that", "they", "can", "not", "live", "without", "such", "search", "engines", ".", "Generally", ",", "keyword", "searching", "requires", "users", "to", "input", "one", "or", "more", "keywords", ".", "In", "these", "systems", ",", "users", "can", "retrieve", "information", "related", "to", "the", "keywords", "with", "Boolean", "operations", "-LRB-", "e.g.", ",", "AND", ",", "OR", "and", "NOT", "-RRB-", ".", "However", ",", "the", "systems", "are", "based", "on", "conventional", "input", "methods", ".", "Users", "of", "pen-based", "computers", "have", "to", "write", "a", "query", "into", "a", "fixed", "dialog", "box", "with", "a", "stylus", "or", "pen", ".", "Therefore", ",", "we", "have", "been", "developing", "an", "information", "retrieval", "system", "based", "on", "simple", "sketch", "manipulations", ".", "Our", "goal", "is", "to", "devise", "an", "effective", "and", "simple", "information", "retrieval", "system", "that", "works", "on", "pen-based", "computers", ",", "so", "we", "integrated", "a", "keyword", "searching", "that", "is", "one", "of", "the", "most", "usual", "methods", "with", "sketch", "manipulation", "that", "is", "one", "of", "the", "simple", "interactions", ".", "In", "our", "system", ",", "users", "retrieve", "information", "by", "drawing", "a", "Venn", "diagram", "instead", "of", "inputting", "keywords", "to", "a", "dialog", "box", ".", "Because", "the", "Venn", "diagram", "can", "be", "used", "to", "display", "Boolean", "operations", "-LRB-", "e.g.", ",", "AND", ",", "OR", ",", "and", "NOT", "-RRB-", "visually", "and", "create", "some", "relationships", "at", "the", "same", "time", ",", "users", "can", "recognize", "the", "relationships", "at", "a", "glance", ".", "Moreover", ",", "the", "system", "allows", "users", "to", "use", "other", "types", "of", "data", "as", "elements", "in", "a", "Venn", "diagram", "-LRB-", "Fig.", "1", "-RRB-", ".", "In", "this", "paper", ",", "we", "describe", "our", "Catenaccio", "system", "that", "integrates", "information", "retrieval", "with", "sketch", "manipulations", ",", "and", "explain", "how", "it", "can", "be", "effectively", "applied", "for", "information", "retrieval", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "AVI", "'", "06", ",", "May", "23", "26", ",", "2006", ",", "Venezia", ",", "Italy", ".", "Copyright", "2006", "ACM", "1-59593-353-0", "/", "06/0005", "...", "$", "5.00", ".", "79", "Figure", "1", ":", "Venn", "diagram", ":", "Venn", "diagram", "can", "be", "used", "to", "display", "Boolean", "operations", "and", "some", "relationships", "at", "the", "same", "time", "-LRB-", "top", "-RRB-", ".", "The", "user", "can", "create", "an", "original", "Venn", "diagram", "-LRB-", "bottom", "-RRB-", ".", "Figure", "2", ".", "Basic", "manipulation", ":", "A", "user", "of", "the", "Catenaccio", "system", "draws", "a", "circle", "and", "writes", "a", "keyword", "inside", "that", "circle", ".", "Information", "nodes", "related", "to", "the", "keyword", "are", "then", "collected", "within", "the", "circled", "area", ".", "A", "wide", "variety", "of", "information", "visualization", "systems", "are", "used", "for", "information", "retrieval", "-LSB-", "5", "-RSB-", ".", "Treating", "information", "as", "visualized", "nodes", "-LRB-", "e.g.", ",", "images", "and", "simple", "shapes", "-RRB-", "allows", "users", "to", "interact", "with", "the", "information", "space", "visually", ".", "Moreover", ",", "several", "techniques", "-LRB-", "e.g.", ",", "scaling", ",", "zooming", ",", "focus", "and", "context", "-RRB-", "are", "used", "to", "display", "a", "huge", "amount", "of", "information", "more", "effectively", "-LSB-", "6", ",", "7", ",", "8", ",", "19", "-RSB-", ".", "Especially", ",", "spring", "model", "-LSB-", "11", "-RSB-", "provides", "useful", "ways", "to", "recognize", "the", "relationships", "between", "nodes", ".", "In", "these", "systems", ",", "related", "nodes", "move", "when", "the", "user", "clicks", "and", "drags", "a", "node", ".", "That", "is", ",", "node", "positions", "are", "dynamically", "changed", "through", "the", "user", "manipulations", ",", "so", "users", "retrieve", "information", "interactively", ".", "InfoCrystal", "-LSB-", "9", "-RSB-", "is", "also", "a", "visual", "tool", "focused", "on", "information", "retrieval", ".", "The", "system", "uses", "Venn", "diagrams", "to", "treat", "huge", "amounts", "of", "information", "effectively", ".", "However", ",", "conventional", "systems", "are", "designed", "for", "mouse", "interactions", "-LRB-", "e.g.", ",", "click", "and", "drag", "-RRB-", "and", "their", "layouts", "are", "predefined", ",", "so", "they", "are", "not", "suitable", "for", "Pen-based", "computing", ",", "especially", "drawing", "or", "writing", "by", "hand", ".", "There", "are", "also", "several", "sketch", "interfaces", "focusing", "on", "pen-based", "computing", "-LSB-", "1", ",", "2", ",", "3", "-RSB-", ".", "Most", "of", "them", "enhance", "drawing", "manipulations", "and", "focus", "on", "3D", "creations", "performed", "with", "2D", "manipulation", ".", "Characteristically", ",", "the", "manipulations", "required", "for", "these", "systems", "are", "simple", "and", "are", "similar", "to", "drawing", "a", "stroke", "on", "a", "piece", "of", "paper", "with", "a", "pen", ".", "Sketch", "-LSB-", "1", "-RSB-", "users", "can", "draw", "3D", "curves", "by", "performing", "2D", "manipulations", ".", "This", "system", "calculates", "a", "3D", "curve", "by", "combining", "a", "2D", "stroke", "and", "a", "shadow", "stroke", ".", "Users", "of", "Harold", "-LSB-", "2", "-RSB-", "and", "Tolba", "-LSB-", "3", "-RSB-", "can", "create", "flat", "models", "in", "a", "3D", "space", "by", "using", "sketch-based", "manipulation", ",", "effectively", "creating", "a", "2.5", "D", "scene", "in", "a", "3D", "space", ".", "Figure", "3", ".", "Drawing", "a", "Venn", "diagram", ":", "By", "repeatedly", "drawing", "circles", "and", "keywords", ",", "users", "create", "Venn", "diagrams", ",", "and", "can", "then", "retrieve", "information", "by", "forming", "complex", "queries", ".", "Information", "nodes", "related", "with", "both", "``", "CG", "''", "and", "``", "3D", "''", "are", "collected", ".", "The", "Catenaccio", "system", "is", "focused", "on", "pen-based", "computing", "and", "provides", "an", "interactive", "and", "visual", "information", "retrieval", "environment", "of", "using", "drawing", "manipulations", ".", "3.1", "Drawing", "Circles", "and", "Writing", "Keywords", "A", "user", "of", "the", "Catenaccio", "system", "draws", "a", "circle", "and", "writes", "a", "keyword", "inside", "that", "circle", ".", "The", "system", "automatically", "recognizes", "both", "the", "circle", "area", "and", "the", "keyword", ".", "Information", "nodes", "related", "to", "the", "keyword", "are", "then", "collected", "within", "the", "circled", "area", ".", "By", "making", "a", "continuous", "series", "of", "simple", "drawings", ",", "the", "user", "can", "create", "a", "Venn", "diagram", "to", "form", "a", "more", "complex", "query", ".", "Since", "the", "entire", "window", "is", "both", "a", "search", "area", "and", "a", "drawing", "canvas", ",", "the", "user", "can", "use", "the", "workspace", "freely", ".", "Since", "all", "the", "manipulations", "required", "for", "information", "retrieval", "are", "based", "on", "sketch", "manipulations", ",", "users", "can", "design", "an", "original", "Venn", "diagram", "related", "their", "interests", ".", "Thus", ",", "users", "can", "freely", "exploit", "the", "whole", "application", "window", "as", "both", "an", "input", "and", "a", "search", "area", "and", "retrieve", "information", "without", "complex", "GUIs", ".", "The", "circle", "provides", "an", "area", "where", "information", "nodes", "related", "to", "the", "keyword", "will", "be", "collected", ",", "and", "the", "keyword", "provides", "a", "query", "to", "search", "for", "related", "information", "nodes", "from", "a", "database", ".", "By", "continuing", "to", "use", "simple", "drawings", ",", "users", "can", "form", "more", "complex", "queries", ".", "The", "related", "information", "nodes", "are", "moved", "with", "a", "force", "that", "depends", "on", "the", "distance", "between", "the", "node", "position", "and", "the", "center", "of", "the", "circle", "-LRB-", "Fig.", "2", "-RRB-", ".", "Figure", "3", "shows", "an", "example", "of", "creating", "a", "Venn", "diagram", "by", "continuing", "to", "draw", "circles", "and", "keywords", ".", "In", "the", "example", ",", "when", "a", "user", "retrieves", "information", "that", "has", "two", "keywords", "``", "CG", "''", "and", "``", "3D", "''", ",", "the", "user", "first", "draws", "a", "circle", "and", "writes", "``", "CG", "''", "-LRB-", "Fig.", "3", "-LRB-", "1", "-RRB-", "-RRB-", ",", "and", "then", "draws", "another", "circle", "and", "writes", "``", "3D", "''", "-LRB-", "Fig.", "3", "-LRB-", "2", "-RRB-", "-RRB-", ".", "Information", "nodes", "related", "to", "both", "keywords", "appear", "in", "the", "shared", "area", "of", "the", "Venn", "diagram", "-LRB-", "Fig.", "3", "-LRB-", "3", "and", "4", "-RRB-", "-RRB-", ".", "Moreover", ",", "in", "the", "Venn", "diagram", ",", "the", "user", "can", "view", "four", "areas", "at", "a", "glance", "-LRB-", "Fig.", "3", "-LRB-", "3", "-RRB-", "-RRB-", ".", "80", "Figure", "4", ":", "Venn", "diagram", "of", "a", "drawing", "and", "an", "image", ",", "and", "Venn", "diagram", "of", "a", "drawing", "and", "an", "image", "that", "contains", "character", "information", ".", "Figure", "5", ":", "Combination", "with", "real-world", "information", ":", "Capturing", "real-world", "information", "as", "a", "picture", "-LRB-", "1", ",", "2", "-RRB-", "and", "drawing", "a", "circle", "around", "the", "keyword", "brings", "up", "related", "information", "nodes", "-LRB-", "3", ",", "4", "-RRB-", ".", "3.2", "Combination", "with", "Other", "Types", "of", "Data", "Users", "can", "now", "easily", "take", "pictures", "using", "digital", "cameras", "and", "cell", "phones", "that", "contain", "CCD", "cameras", ".", "As", "a", "result", ",", "they", "may", "have", "a", "huge", "amount", "of", "original", "image", "data", "in", "their", "computers", ".", "These", "data", "include", "some", "information", "such", "as", "name", ",", "time", ",", "or", "place", ",", "so", "we", "considered", "using", "them", "for", "information", "retrieval", ".", "We", "have", "developed", "prototype", "applications", "to", "explore", "the", "potential", "of", "Catenaccio", ".", "A", "Venn", "diagram", "is", "basically", "constructed", "by", "combining", "keywords", "and", "areas", ",", "so", "it", "is", "possible", "to", "combine", "that", "diagram", "with", "other", "types", "of", "data", "such", "as", "images", "and", "real-world", "information", ".", "Images", "contain", "name", ",", "time", ",", "or", "place", "information", ",", "and", "that", "information", "becomes", "a", "good", "trigger", "for", "retrieving", "other", "information", "and", "it", "can", "be", "used", "for", "queries", ".", "In", "addition", ",", "the", "image", "data", "has", "a", "rectangular", "shape", "that", "is", "useful", "for", "setting", "an", "area", "by", "controlling", "its", "position", "and", "size", ".", "The", "example", "in", "Figure", "4", "shows", "how", "users", "can", "use", "images", "to", "create", "Venn", "diagrams", "by", "combining", "drawings", "with", "image", "data", ".", "In", "the", "example", ",", "a", "file", "named", "``", "Mr.", "Tobita", "''", "becomes", "a", "query", "for", "the", "Venn", "diagram", ",", "so", "information", "related", "to", "``", "VR", "''", "AND", "``", "Mr.", "Tobita", "''", "is", "collected", ".", "In", "this", "case", ",", "even", "if", "users", "have", "forgotten", "someone", "'s", "name", ",", "they", "can", "still", "retrieve", "related", "information", "through", "image", "contents", ".", "Figure", "5", "shows", "an", "example", "a", "Venn", "diagram", "with", "real-world", "information", ".", "Generally", ",", "using", "captured", "data", "for", "an", "interaction", "trigger", "is", "a", "common", "technique", "in", "AR", "systems", "-LSB-", "20", "-RSB-", ".", "We", "also", "use", "it", "for", "elements", "of", "Venn", "diagrams", ".", "Users", "first", "capture", "real-world", "information", "through", "digital", "cameras", "attached", "to", "their", "computers", "-LRB-", "Fig.", "5", "-LRB-", "1", ",", "2", "-RRB-", "-RRB-", ",", "and", "then", "draw", "circles", "around", "keywords", "on", "the", "captured", "data", "and", "another", "circle", "to", "collect", "information", "nodes", "-LRB-", "Fig", ".", "5", "-LRB-", "3", "-RRB-", "-RRB-", ".", "As", "the", "system", "recognizes", "the", "keyword", "inside", "the", "first", "circle", ",", "related", "information", "nodes", "appear", "inside", "the", "second", "curve", "-LRB-", "Fig.", "5", "-LRB-", "4", "-RRB-", "-RRB-", ".", "Figure", "6", ":", "Recognition", "of", "user", "drawings", ":", "The", "system", "labels", "the", "user", "drawing", "area", "-LRB-", "1", ",", "2", "-RRB-", ".", "The", "system", "recognizes", "written", "keywords", "by", "using", "an", "OCR", "library", "-LRB-", "3", "-RRB-", "Previously", ",", "we", "have", "proposed", "a", "similar", "information", "retrieval", "system", "-LSB-", "10", "-RSB-", ".", "That", "system", "provides", "natural", "interactions", ",", "however", ",", "it", "completely", "depends", "on", "real-world", "objects", ".", "However", ",", "Catenaccio", "provides", "not", "only", "real-world", "information", ",", "but", "also", "drawing", "manipulations", ".", "Thus", ",", "the", "user", "can", "retrieve", "information", "even", "if", "there", "are", "not", "enough", "real-world", "objects", ".", "The", "entire", "workspace", "is", "bitmapped", "as", "in", "conventional", "2D", "paint", "systems", ",", "and", "user", "drawing", "manipulations", "are", "reflected", "in", "the", "bitmap", ".", "The", "system", "supports", "two", "types", "of", "drawing", ",", "writing", "keywords", "and", "area", "drawings", ".", "The", "keyword", "writing", "is", "displayed", "as", "green", ",", "and", "the", "area", "drawing", "is", "displayed", "as", "blue", ".", "To", "set", "an", "area", ",", "the", "system", "labels", "the", "inside", "of", "a", "green", "area", "and", "knows", "the", "size", "and", "position", "of", "the", "area", "-LRB-", "Fig.", "6", "-LRB-", "1", "-RRB-", "-RRB-", ".", "Then", ",", "the", "system", "divides", "the", "area", "into", "four", "layers", "for", "node", "animations", "-LRB-", "Fig.", "6", "-LRB-", "2", "-RRB-", "-RRB-", ".", "For", "keyword", "writing", ",", "the", "system", "sends", "the", "result", "to", "an", "OCR", "library", "to", "search", "for", "its", "meaning", "-LRB-", "Fig.", "6", "-LRB-", "3", "-RRB-", "-RRB-", ".", "Catenaccio", "is", "a", "prototype", "system", "now", ",", "and", "the", "relationship", "between", "keywords", "and", "information", "nodes", "are", "predefined", "in", "a", "temporary", "database", ".", "The", "database", "contains", "three", "types", "of", "data", ":", "node", "names", ",", "keywords", ",", "and", "relationship", "levels", ".", "After", "the", "image", "recognition", "processes", ",", "nodes", "related", "to", "the", "keyword", "are", "selected", "and", "start", "moving", "until", "they", "are", "in", "the", "area", "appropriate", "to", "their", "relationship", ".", "The", "force", "is", "calculated", "by", "spring", "model", "-LSB-", "11", "-RSB-", ".", "For", "example", ",", "the", "node", "with", "the", "strongest", "relationship", "with", "the", "keyword", "receives", "a", "force", "that", "takes", "it", "to", "the", "deepest", "area", ".", "We", "have", "had", "some", "opportunities", "to", "demonstrate", "our", "system", ".", "Here", ",", "we", "discuss", "user", "interactions", "with", "Catenaccio", "based", "on", "comments", "made", "by", "visitors", "to", "our", "demonstrations", ".", "Also", "we", "consider", "the", "limitations", "of", "the", "system", "and", "our", "plans", "for", "future", "work", ".", "From", "our", "demonstrations", ",", "the", "visitors", "quickly", "understood", "the", "concepts", "of", "our", "system", "that", "integrates", "information", "retrieval", "with", "81", "drawing", "manipulations", ".", "Using", "Venn", "diagrams", "makes", "recognizing", "the", "relationships", "between", "information", "nodes", "and", "keywords", "easy", ".", "Most", "visitors", "could", "create", "simple", "Venn", "diagrams", "and", "set", "related", "nodes", "into", "the", "diagrams", "after", "watching", "a", "simple", "demonstration", ".", "We", "observed", "that", "some", "users", "drew", "interesting", "Venn", "diagrams", "that", "resembled", "pictures", ".", "The", "system", "facilitates", "creative", "activities", ",", "so", "we", "expect", "users", "will", "be", "able", "to", "create", "more", "original", ",", "and", "increasingly", "effective", "drawings", "for", "information", "retrieval", ".", "Especially", ",", "we", "received", "good", "reactions", "from", "users", "regarding", "the", "combination", "of", "drawing", "and", "an", "image", "to", "create", "a", "Venn", "diagram", ".", "By", "exploiting", "such", "combinations", ",", "the", "system", "augments", "keyword", "searching", ",", "and", "it", "is", "different", "from", "conventional", "search", "engines", "-LSB-", "12", ",", "13", "-RSB-", ".", "Moreover", ",", "combining", "keywords", "and", "user-drawn", "pictures", "to", "create", "Venn", "diagrams", "is", "possible", ".", "Our", "system", "focuses", "on", "information", "retrieval", "for", "pen-based", "input", ".", "However", ",", "information", "retrieval", "using", "Venn", "diagrams", "is", "quite", "rough", ".", "We", "plan", "to", "combine", "our", "system", "with", "other", "types", "of", "sketch-based", "systems", "such", "as", "VelvetPath", "-LSB-", "16", "-RSB-", "to", "support", "more", "detailed", "interaction", ".", "With", "such", "a", "combination", ",", "users", "can", "use", "Catenaccio", "for", "general", "retrieval", "of", "information", "and", "then", "use", "VelvetPath", "to", "examine", "the", "information", "in", "more", "detail", ".", "In", "this", "case", ",", "all", "the", "manipulations", "would", "still", "be", "based", "on", "drawing", "or", "handwriting", ",", "so", "a", "user", "can", "handle", "a", "large", "amount", "of", "data", "in", "a", "natural", "way", ".", "Drawing", "manipulation", "is", "also", "useful", "for", "finger", "gestures", ".", "Many", "AR", "systems", "support", "the", "use", "of", "finger", "gestures", "as", "an", "input", "method", "-LSB-", "17", ",", "18", "-RSB-", ".", "As", "the", "system", "recognizes", "user", "finger", "gestures", ",", "users", "can", "create", "Venn", "diagrams", "by", "manipulating", "real-world", "objects", ",", "drawing", "circles", ",", "and", "writing", "keywords", ".", "We", "described", "the", "Catenaccio", "system", "that", "is", "focused", "on", "Pen-based", "computing", "and", "allows", "users", "to", "retrieve", "information", "by", "drawing", "Venn", "diagrams", ".", "The", "system", "recognizes", "user", "writing", "and", "drawings", "-LRB-", "keywords", "and", "circles", "-RRB-", "and", "places", "information", "related", "to", "the", "keywords", "inside", "the", "circles", ".", "Using", "this", "input", ",", "the", "system", "provides", "an", "interactive", "and", "visual", "information", "retrieval", "method", ".", "We", "described", "some", "examples", "of", "retrieving", "information", "through", "simple", "drawings", ".", "We", "also", "provided", "several", "examples", "of", "unique", "Venn", "diagrams", "created", "by", "combining", "drawings", "with", "images", "and", "real-world", "information", ".", "We", "thank", "Tetsuji", "Takada", "and", "Sinji", "Daigo", "for", "the", "visible", "and", "useful", "suggestions", "on", "this", "work", ".", "-LSB-", "1", "-RSB-", "R.", "C.", "Zeleznik", ",", "K.", "P.", "Herndon", ",", "and", "J.", "F.", "Hughes", ".", "An", "Interface", "for", "Sketching", "3D", "Curves", ".", "In", "Proceedings", "of", "ACM", "SIGGRAPH", "'", "96", ",", "pp.", "163-170", ",", "1996", ".", "-LSB-", "2", "-RSB-", "J.", "M.", "Cohen", ",", "J.", "F.", "Hughes", ",", "and", "R.", "C.", "Zeleznik", ".", "Harold", ":", "A", "World", "Made", "of", "Drawings", ".", "In", "Proceedings", "of", "NPAR2000", "-LRB-", "Symposium", "on", "Non-Photorealistic", "Animation", "and", "Rendering", "-RRB-", ",", "pp.", "83-90", ",", "2000", ".", "-LSB-", "3", "-RSB-", "O.", "Tolba", ",", "J.", "Doresey", ",", "and", "L.", "McMillan", ".", "Sketching", "with", "Projective", "2D", "Strokes", ".", "In", "Proceedings", "of", "ACM", "UIST", "'", "99", ",", "pp.", "149-157", ",", "1999", ".", "-LSB-", "4", "-RSB-", "Nintendo", "DS", ":", "http://www.nintendo.co.jp/ds/", "-LSB-", "5", "-RSB-", "S.", "K.", "Card", ",", "J.", "D.", "MacKinlay", ",", "and", "B.", "Shneiderman", ".", "Readings", "in", "Information", "Visualization", ":", "Using", "Vision", "to", "Think", ".", "Morgan", "Kaufmann", ",", "1999", ".", "-LSB-", "6", "-RSB-", "H.", "Koike", ".", "Fractal", "views", ":", "a", "fractal-based", "method", "for", "controlling", "information", "display", ".", "In", "Proceedings", "of", "ACM", "Transactions", "on", "Information", "Systems", ",", "Vol", ".", "13", ",", "No.", "3", ",", "pp.", "305-323", ",", "July", "1995", ".", "-LSB-", "7", "-RSB-", "G.", "W.", "Furnas", ".", "Generalized", "fisheye", "views", ".", "In", "Proceedings", "of", "the", "ACM", "Transactions", "on", "Computer-Human", "Interaction", ",", "Vol", ".", "1", ",", "No.", "2", ",", "pp.", "126-160", ",", "1994", ".", "-LSB-", "8", "-RSB-", "B.", "B.", "Bederson", ",", "J.", "D.", "Hollan", ",", "K.", "Perlin", ",", "J.", "Meyer", ",", "D.", "Bacon", ",", "and", "G.", "Furnas", ".", "Pad", "+", "+", ":", "A", "Zoomable", "Graphical", "Sketchpad", "for", "Exploring", "Alternate", "Interface", "Physics", ".", "Journal", "of", "Visual", "Languages", "and", "Computing", ",", "Vol", ".", "7", ",", "No.", "1", ",", "pp.", "3-31", ",", "1996", ".", "-LSB-", "9", "-RSB-", "A.", "Spoerri", ".", "Visual", "tools", "for", "information", "retrieval", ".", "In", "Proceedings", "of", "VL", "'", "93", ",", "pp.", "160-168", ",", "1993", ".", "-LSB-", "10", "-RSB-", "H.", "Koike", ",", "Y.", "Sato", ",", "Y.", "Kobayashi", ",", "H.", "Tobita", "and", "M.", "Kobayashi", ".", "Interactive", "Textbook", "and", "Interactive", "Venn", "Diagram", ".", "In", "Proceedings", "of", "ACM", "CHI2000", ",", "pp.", "121-128", ",", "2000", ".", "-LSB-", "11", "-RSB-", "R.", "Davidson", "and", "D.", "Harel", ".", "Drawing", "Graphics", "Nicely", "Using", "Simulated", "Annealing", ".", "In", "Proceedings", "of", "ACM", "Transactions", "on", "Graphics", ",", "Vol", ".", "15", ",", "No.", "4", ",", "pp.", "301-331", ",", "1996", ".", "-LSB-", "12", "-RSB-", "Google", ":", "http://www.google.com", "-LSB-", "13", "-RSB-", "Yahoo", ":", "http://www.yahoo.com", "-LSB-", "14", "-RSB-", "T.", "Calishain", "and", "R.", "Dornfest", ".", "GoogleHack", ":", "100", "Industrial-Strength", "Tips", "&", "Tricks", ".", "O'RELLY", ",", "2003", ".", "-LSB-", "15", "-RSB-", "P.", "Bausch", ".", "AmazonHack", ":", "100", "Industrial-Strength", "Tips", "&", "Tools", ".", "O'RELLY", ",", "2003", ".", "-LSB-", "16", "-RSB-", "H.", "Tobita", ".", "VelvetPath", ":", "Layout", "Design", "System", "with", "Sketch", "and", "Paint", "Manipulations", ",", "In", "Proceedings", "of", "EUROGRAPHICS2003", "Short", "Presentations", ",", "pp.", "137-144", ",", "2003", ".", "-LSB-", "17", "-RSB-", "J.", "Rekimoto", ".", "SmartSkin", ":", "An", "Infrastructure", "for", "Freehand", "Manipulation", "on", "Interactive", "Surfaces", ",", "In", "Proceedings", "of", "ACM", "CHI2002", ",", "113-120", ",", "2002", ".", "-LSB-", "18", "-RSB-", "X.", "Chen", ",", "H.", "Koike", ",", "Y.", "Nakanishi", ",", "K.", "Oka", ",", "and", "Y.", "Sato", ".", "Two-handed", "drawing", "on", "augmented", "desk", "system", ",", "In", "Proceedings", "of", "AVI", "2002", ",", "2002", ".", "-LSB-", "19", "-RSB-", "E.", "Orimo", "and", "H.", "Koike", ".", "ZASH", ":", "A", "browsing", "system", "for", "multi-dimensional", "data", ".", "In", "Proceedings", "of", "IEEE", "VL", "'", "99", ",", "pp", ".", "266-286", ",", "1999", ".", "-LSB-", "20", "-RSB-", "J.", "Rekimoto", "and", "K.", "Nagao", ".", "The", "world", "through", "the", "computer", ":", "Computer", "augmented", "interaction", "with", "real", "world", "environments", ".", "In", "Proceedings", "of", "ACM", "UIST", "'", "95", ",", "pp.", "29-36", ",", "1995", ".", "82"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["information retrieval", "venn diagram", "image data", "sketch manipulations", "sketch manipulation", "keyword searching"], "abstractive_keyphrases": ["interactive information retrieval system", "catnaccio system", "information node", "pen-based computing", "visual information retrieval", "2d system", "interactive system"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "77", "document": ["Efficient", "Multi-way", "Text", "Categorization", "via", "Generalized", "Discriminant", "Analysis", "Text", "categorization", "is", "an", "important", "research", "area", "and", "has", "been", "receiving", "much", "attention", "due", "to", "the", "growth", "of", "the", "on-line", "information", "and", "of", "Internet", ".", "Automated", "text", "categorization", "is", "generally", "cast", "as", "a", "multi-class", "classification", "problem", ".", "Much", "of", "previous", "work", "focused", "on", "binary", "document", "classification", "problems", ".", "Support", "vector", "machines", "-LRB-", "SVMs", "-RRB-", "excel", "in", "binary", "classification", ",", "but", "the", "elegant", "theory", "behind", "large-margin", "hyperplane", "can", "not", "be", "easily", "extended", "to", "multi-class", "text", "classification", ".", "In", "addition", ",", "the", "training", "time", "and", "scaling", "are", "also", "important", "concerns", ".", "On", "the", "other", "hand", ",", "other", "techniques", "naturally", "extensible", "to", "handle", "multi-class", "classification", "are", "generally", "not", "as", "accurate", "as", "SVM", ".", "This", "paper", "presents", "a", "simple", "and", "efficient", "solution", "to", "multi-class", "text", "categorization", ".", "Classification", "problems", "are", "first", "formulated", "as", "optimization", "via", "discriminant", "analysis", ".", "Text", "categorization", "is", "then", "cast", "as", "the", "problem", "of", "finding", "coordinate", "transformations", "that", "reflects", "the", "inherent", "similarity", "from", "the", "data", ".", "While", "most", "of", "the", "previous", "approaches", "decompose", "a", "multiclass", "classification", "problem", "into", "multiple", "independent", "binary", "classification", "tasks", ",", "the", "proposed", "approach", "enables", "direct", "multi-class", "classification", ".", "By", "using", "Generalized", "Singular", "Value", "Decomposition", "-LRB-", "GSVD", "-RRB-", ",", "a", "coordinate", "transformation", "that", "reflects", "the", "inherent", "class", "structure", "indicated", "by", "the", "generalized", "singular", "values", "is", "identified", ".", "Extensive", "experiments", "demonstrate", "the", "efficiency", "and", "effectiveness", "of", "the", "proposed", "approach", ".", "H.", "3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", ";", "I.", "2", "-LSB-", "Artificial", "Intelligence", "-RSB-", ":", "Learning", ";", "I.", "5", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Applications", "Algorithms", ",", "Measurement", ",", "Performance", ",", "Experimentation", ",", "Verifi-cation", "The", "current", "affiliation", ":", "Amazon.com", ",", "Inc.", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "03", ",", "November", "3", "8", ",", "2003", ",", "New", "Orleans", ",", "Louisiana", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-723-0", "/", "03/0011", "...", "$", "5.00", ".", "With", "the", "ever-increasing", "growth", "of", "the", "on-line", "information", "and", "the", "permeation", "of", "Internet", "into", "daily", "life", ",", "methods", "that", "assist", "users", "in", "organizing", "large", "volumes", "of", "documents", "are", "in", "huge", "demand", ".", "In", "particular", ",", "automatic", "text", "categorization", "has", "been", "extensively", "studied", "recently", ".", "This", "categorization", "problem", "is", "usually", "viewed", "as", "supervised", "learning", ",", "where", "the", "gaol", "is", "to", "assign", "predefined", "category", "labels", "to", "unlabeled", "documents", "based", "on", "the", "likelihood", "in-ferred", "from", "the", "training", "set", "of", "labeled", "documents", ".", "Numerous", "approaches", "have", "been", "applied", ",", "including", "Bayesian", "probabilistic", "approaches", "-LSB-", "20", ",", "31", "-RSB-", ",", "nearest", "neighbor", "-LSB-", "22", ",", "19", "-RSB-", ",", "neural", "networks", "-LSB-", "33", "-RSB-", ",", "decision", "trees", "-LSB-", "2", "-RSB-", ",", "inductive", "rule", "learning", "-LSB-", "4", ",", "9", "-RSB-", ",", "support", "vector", "machines", "-LSB-", "18", ",", "14", "-RSB-", ",", "Maximum", "Entropy", "-LSB-", "26", "-RSB-", ",", "boosting", "-LSB-", "28", "-RSB-", ",", "and", "linear", "discriminate", "projection", "-LSB-", "3", "-RSB-", "-LRB-", "see", "-LSB-", "34", "-RSB-", "for", "comparative", "studies", "of", "text", "categorization", "methods", "-RRB-", ".", "Although", "document", "collections", "are", "likely", "to", "contain", "many", "different", "categories", ",", "most", "of", "the", "previous", "work", "was", "focused", "on", "binary", "document", "classification", ".", "One", "of", "the", "most", "effective", "binary", "classification", "techniques", "is", "the", "support", "vector", "machines", "-LRB-", "SVMs", "-RRB-", "-LSB-", "32", "-RSB-", ".", "It", "has", "been", "demonstrated", "that", "the", "method", "performs", "superbly", "in", "binary", "discriminative", "text", "classification", "-LSB-", "18", ",", "34", "-RSB-", ".", "SVMs", "are", "accurate", "and", "robust", ",", "and", "can", "quickly", "adapt", "to", "test", "instances", ".", "However", ",", "the", "elegant", "theory", "behind", "the", "use", "of", "large-margin", "hyperplanes", "can", "not", "be", "easily", "extended", "to", "multi-class", "text", "categorization", "problems", ".", "A", "number", "of", "techniques", "for", "reducing", "multi-class", "problems", "to", "binary", "problems", "have", "been", "proposed", ",", "including", "one-versus-the-rest", "method", ",", "pairwise", "comparison", "-LSB-", "16", "-RSB-", "and", "error-correcting", "output", "coding", "-LSB-", "8", ",", "1", "-RSB-", ".", "In", "these", "approaches", ",", "the", "original", "problems", "are", "decomposed", "into", "a", "collection", "of", "binary", "problems", ",", "where", "the", "assertions", "of", "the", "binary", "classifiers", "are", "integrated", "to", "produce", "the", "final", "output", ".", "In", "practice", ",", "which", "reduction", "method", "is", "best", "suited", "is", "problem-dependent", ",", "so", "it", "is", "a", "non-trivial", "task", "to", "select", "the", "decomposition", "method", ".", "Indeed", ",", "each", "reduction", "method", "has", "its", "own", "merits", "and", "limitations", "-LSB-", "1", "-RSB-", ".", "In", "addition", ",", "regardless", "of", "specific", "details", ",", "these", "reduction", "techniques", "do", "not", "appear", "to", "be", "well", "suited", "for", "text", "categorization", "tasks", "with", "a", "large", "number", "of", "categories", ",", "because", "training", "of", "a", "single", ",", "binary", "SVM", "requires", "O", "n", "time", "for", "1", "7", "2", "1", "where", "n", "is", "the", "number", "of", "training", "data", "-LSB-", "17", "-RSB-", ".", "Thus", ",", "having", "to", "train", "many", "classifiers", "has", "a", "significant", "impact", "on", "the", "overall", "training", "time", ".", "Also", ",", "the", "use", "of", "multiple", "classifiers", "slows", "down", "prediction", ".", "Thus", ",", "despite", "its", "elegance", "and", "superiority", ",", "the", "use", "of", "SVM", "may", "not", "be", "best", "suited", "for", "multi-class", "document", "classification", ".", "However", ",", "there", "do", "not", "appear", "to", "exist", "many", "alternatives", ",", "since", "many", "other", "techniques", "that", "can", "be", "naturally", "extended", "to", "handle", "multi-class", "classification", "problems", ",", "317", "such", "as", "neural", "networks", "and", "decision", "trees", ",", "are", "not", "so", "accurate", "as", "SVMs", "-LSB-", "34", ",", "35", "-RSB-", ".", "In", "statistics", "pattern", "recognition", "literature", ",", "discriminant", "analysis", "approaches", "are", "well", "known", "to", "be", "able", "to", "learn", "discriminative", "feature", "transformations", "-LRB-", "see", ",", "e.g.", ",", "-LSB-", "12", "-RSB-", "-RRB-", ".", "For", "example", ",", "Fisher", "discriminant", "analysis", "-LSB-", "10", "-RSB-", "finds", "a", "discriminative", "feature", "transformation", "as", "eigenvectors", "associated", "with", "the", "largest", "eigenvalues", "of", "matrix", "T", "^", "1", "w", "^", "b", ",", "where", "^", "w", "is", "the", "intra-class", "covariance", "matrix", "and", "^", "b", "is", "the", "inter-class", "covariance", "matrix", "1", ".", "Intuitively", ",", "T", "captures", "not", "only", "compactness", "of", "individual", "classes", "but", "separations", "among", "them", ".", "Thus", ",", "eigenvectors", "corresponding", "to", "the", "largest", "eigenvalues", "of", "T", "are", "likely", "to", "constitute", "a", "discriminative", "feature", "transform", ".", "However", ",", "for", "text", "categorization", ",", "^", "w", "is", "usually", "singular", "owing", "to", "the", "large", "number", "of", "terms", ".", "Simply", "removing", "the", "null", "space", "of", "^", "w", "would", "eliminate", "important", "discriminant", "information", "when", "the", "projections", "of", "^", "b", "along", "those", "directions", "are", "not", "zeros", "-LSB-", "12", "-RSB-", ".", "This", "issue", "has", "stymied", "attempts", "to", "use", "traditional", "discriminant", "approaches", "in", "document", "analysis", ".", "In", "this", "paper", "we", "resolve", "this", "problem", ".", "We", "extend", "discriminant", "analysis", "and", "present", "a", "simple", ",", "efficient", ",", "but", "effective", "solution", "to", "text", "categorization", ".", "We", "propose", "a", "new", "optimization", "criterion", "for", "classification", "and", "cast", "text", "categorization", "as", "the", "problem", "of", "finding", "transformations", "to", "reflect", "the", "inherent", "similarity", "from", "the", "data", ".", "In", "this", "framework", ",", "given", "a", "document", "of", "unknown", "class", "membership", ",", "we", "compare", "the", "distance", "of", "the", "new", "document", "to", "the", "centroid", "of", "each", "category", "in", "the", "transformed", "space", "and", "assign", "it", "to", "the", "class", "having", "the", "smallest", "distance", "to", "it", ".", "We", "call", "this", "method", "Generalized", "Discriminant", "Analysis", "-LRB-", "GDA", "-RRB-", ",", "since", "it", "uses", "generalized", "singular", "value", "decomposition", "to", "optimize", "transformation", ".", "We", "show", "that", "the", "transformation", "derived", "using", "GDA", "is", "equivalent", "to", "optimization", "via", "the", "trace", "or", "determinant", "ratios", ".", "GDA", "has", "several", "favorable", "properties", ":", "First", ",", "it", "is", "simple", "and", "can", "be", "programed", "in", "a", "few", "lines", "in", "MATLAB", ".", "Second", ",", "it", "is", "efficient", ".", "-LRB-", "Most", "of", "our", "experiments", "only", "took", "several", "seconds", ".", "-RRB-", "Third", ",", "the", "algorithm", "does", "not", "involve", "parameter", "tuning", ".", "Finally", ",", "and", "probably", "the", "most", "importantly", ",", "it", "is", "very", "accurate", ".", "We", "have", "conducted", "extensive", "experiments", "on", "various", "datasets", "to", "evaluate", "its", "performance", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "reviews", "the", "related", "work", "on", "text", "categorization", ".", "Section", "3", "introduces", "our", "new", "criterion", "for", "discriminant", "analysis", ".", "Section", "4", "introduces", "the", "basics", "of", "generalized", "singular", "value", "decomposition", "and", "gives", "the", "solution", "of", "the", "optimization", "problem", ".", "Section", "5", "shows", "that", "the", "transformation", "derived", "using", "GDA", "can", "also", "be", "obtained", "by", "optimizing", "the", "trace", "or", "determinant", "ratios", ".", "Section", "6", "presents", "some", "illustrating", "examples", ".", "Section", "7", "shows", "experimental", "results", ".", "Finally", ",", "Section", "8", "provides", "conclusions", "and", "discussions", ".", "Text", "categorization", "algorithms", "can", "be", "roughly", "classified", "into", "two", "types", ":", "those", "algorithms", "that", "can", "be", "naturally", "extended", "to", "handle", "multi-class", "cases", "and", "those", "require", "decomposition", "into", "binary", "classification", "problems", ".", "The", "first", "consists", "of", "such", "algorithms", "as", "Naive", "Bayes", "-LSB-", "22", ",", "19", "-RSB-", ",", "neural", "networks", "-LSB-", "25", ",", "33", "-RSB-", ",", "K-Nearest", "Neighbors", "-LSB-", "22", ",", "19", "-RSB-", ",", "Maximum", "Entropy", "-LSB-", "26", "-RSB-", "and", "decision", "trees", ".", "Naive", "Bayes", "uses", "the", "joint", "distributions", "of", "words", "and", "categorizes", "to", "estimate", "the", "probabilities", "that", "an", "input", "document", "belongs", "to", "each", "document", "class", "and", "1", "This", "is", "equivalent", "to", "using", "eigenvectors", "associated", "with", "the", "smallest", "eigenvalues", "of", "matrix", "T", "^", "1", "b", "^", "w", ".", "It", "indicates", "that", "traditional", "discriminant", "analysis", "requires", "the", "non-singularity", "of", "at", "least", "one", "covariance", "matrix", ".", "Since", "the", "rank", "of", "^", "w", "is", "usually", "greater", "than", "that", "of", "^", "b", ",", "we", "will", "base", "our", "discussion", "on", "the", "eigenvalue-decomposition", "of", "T", "^", "1", "w", "^", "b", ".", "then", "selects", "the", "most", "probable", "class", ".", "K-Nearest", "Neighbor", "finds", "the", "k", "nearest", "neighbors", "among", "training", "documents", "and", "uses", "the", "categories", "of", "the", "k", "neighbors", "to", "determine", "the", "category", "of", "the", "test", "document", ".", "The", "underlying", "principle", "of", "maximum", "entropy", "is", "that", "without", "external", "knowledge", ",", "uniform", "distribution", "should", "be", "preferred", ".", "Based", "on", "this", "principle", ",", "it", "estimate", "the", "conditional", "distribution", "of", "the", "class", "label", "given", "a", "document", ".", "The", "reduction", "techniques", "that", "are", "used", "by", "the", "second", "group", "include", "one-versus-the-rest", "method", "-LSB-", "29", "-RSB-", ",", "error-correcting", "output", "coding", "-LSB-", "8", "-RSB-", ",", "pairwise", "comparison", "-LSB-", "16", "-RSB-", ",", "and", "multi-class", "objective", "functions", ",", "where", "the", "first", "two", "have", "been", "applied", "to", "text", "categorization", "-LSB-", "34", ",", "13", "-RSB-", ".", "In", "the", "one-versus-the-rest", "method", "a", "classifier", "separating", "between", "from", "a", "class", "and", "the", "rest", "is", "trained", "for", "each", "class", ".", "Multi-class", "classification", "is", "carried", "out", "by", "integrating", "prediction", "of", "these", "individual", "classifiers", "with", "a", "strategy", "for", "resolving", "conflicts", ".", "The", "method", "is", "sometimes", "criticizes", "for", "solving", "asymmetric", "problems", "in", "a", "symmetrical", "manner", "and", "for", "not", "considering", "correlations", "between", "classes", ".", "Error-correcting", "output", "coding", "-LRB-", "ECOC", "-RRB-", "-LSB-", "8", "-RSB-", "partitions", "the", "original", "set", "of", "classes", "into", "two", "sets", "in", "many", "different", "ways", ".", "A", "binary", "classifier", "is", "trained", "for", "each", "partition", ".", "The", "partitions", "are", "carefully", "chosen", "so", "that", "the", "outputs", "of", "these", "classifiers", "assign", "a", "unique", "binary", "codeword", "for", "each", "class", "-LRB-", "with", "a", "large", "Hamming", "distance", "between", "any", "pair", "of", "them", "-RRB-", ".", "The", "class", "of", "an", "input", "with", "unknown", "class", "membership", "is", "chosen", "by", "computing", "the", "outputs", "of", "the", "classifiers", "on", "that", "input", "and", "then", "finding", "the", "class", "with", "the", "codeword", "closest", "to", "the", "output", "codeword", ".", "Although", "SVMs", "are", "considered", "to", "be", "very", "effective", "in", "binary", "classification", ",", "its", "large", "training", "costs", "may", "make", "it", "unsuitable", "for", "multi-class", "classification", "with", "a", "large", "number", "of", "classes", "if", "the", "above", "decomposition", "techniques", "are", "applied", ".", "Also", ",", "the", "lack", "of", "a", "clear", "winner", "among", "the", "above", "techniques", "makes", "the", "reduction", "task", "complicated", ".", "Our", "GDA", "directly", "deals", "with", "multi-class", "classification", "and", "does", "not", "require", "reduction", "to", "binary", "classification", "problems", ".", "Other", "techniques", "for", "text", "categorization", "exist", ".", "Godbole", "et", "al.", "-LSB-", "14", "-RSB-", "propose", "a", "new", "multi-class", "classification", "technique", "that", "exploits", "the", "accuracy", "of", "SVMs", "and", "the", "speed", "of", "Naive", "Bayes", ".", "It", "uses", "a", "Naive", "Bayes", "classifier", "to", "compute", "a", "confusion", "matrix", "quickly", ".", "Then", "it", "uses", "this", "matrix", "to", "reduce", "both", "the", "number", "and", "the", "complexity", "of", "binary", "SVMs", "to", "be", "built", ".", "Chakrabarti", "et", "al.", "-LSB-", "3", "-RSB-", "propose", "a", "fast", "text", "classification", "technique", "that", "uses", "multiple", "linear", "projections", ".", "It", "first", "projects", "training", "instances", "to", "low-dimensional", "space", "and", "then", "builds", "decision", "tree", "classifiers", "on", "the", "projected", "spaces", ".", "Fragoudis", "et", "al.", "-LSB-", "11", "-RSB-", "propose", "a", "new", "algorithm", "that", "targets", "both", "feature", "and", "instance", "selection", "for", "text", "categorization", ".", "In", "summary", ",", "as", "pointed", "out", "in", "-LSB-", "34", ",", "26", "-RSB-", ",", "there", "is", "no", "obvious", "winner", "in", "multi-class", "classification", "techniques", ".", "For", "practical", "problems", ",", "the", "choice", "of", "approach", "will", "have", "to", "be", "made", "depending", "on", "the", "constraints", ",", "e.g.", ",", "the", "desired", "accuracy", "level", ",", "the", "time", "available", ",", "and", "the", "nature", "of", "the", "problem", ".", "Suppose", "the", "dataset", "D", "has", "m", "instances", ",", "d", "1", "d", "m", ",", "having", "p", "features", "each", ".", "Then", "D", "can", "be", "viewed", "as", "a", "subset", "of", "R", "p", "as", "well", "as", "a", "member", "of", "R", "m", "p", ".", "Suppose", "D", "has", "L", "classes", ",", "D", "1", "D", "L", "having", "m", "1", "m", "L", "instances", ",", "respectively", ",", "where", "m", "L", "i", "1", "m", "i", ".", "For", "each", "i", ",", "1", "i", "L", ",", "let", "J", "i", "be", "the", "set", "of", "all", "j", ",", "1", "j", "m", ",", "such", "that", "the", "j-th", "instance", "belongs", "to", "the", "i-th", "class", ",", "and", "let", "c", "i", "be", "the", "centroid", "of", "the", "i-th", "class", ",", "i.e.", ",", "the", "component-wise", "average", "of", "the", "m", "i", "vectors", "in", "the", "318", "class", ".", "Let", "c", "be", "the", "centroid", "of", "the", "entire", "dataset", ".", "The", "intra-class", "scatter", "matrix", "of", "D", ",", "^", "w", ",", "is", "defined", "by", "^", "w", "L", "i", "1", "j", "J", "i", "d", "j", "c", "i", "T", "d", "j", "c", "i", "and", "its", "inter-class", "scatter", "matrix", ",", "^", "b", ",", "is", "defined", "by", "^", "b", "L", "i", "1", "j", "J", "i", "d", "j", "c", "T", "d", "j", "c", "Let", "A", "w", "be", "the", "m", "p", "matrix", "constructed", "by", "stacking", "D", "1", "e", "1", "T", "c", "1", ",", ",", "D", "L", "e", "L", "T", "c", "L", "and", "let", "A", "b", "be", "the", "p", "m", "matrix", "whose", "columns", "are", ",", "from", "left", "to", "right", ",", "m", "1", "c", "1", "c", "T", "m", "L", "c", "L", "c", "T", ".", "Then", "^", "w", "A", "w", "A", "T", "w", "and", "^", "b", "A", "b", "A", "T", "b", "Although", "there", "are", "ways", "-LRB-", "such", "as", "Kernel", "tricks", "-LSB-", "24", "-RSB-", "-RRB-", "for", "utilizing", "non-linear", "transformation", ",", "we", "will", "focus", "on", "linear", "transformation", ".", "Given", "a", "linear", "transformation", ",", "the", "covariance", "matrices", "in", "the", "transformed", "space", "are", "A", "b", "T", "A", "b", "T", "A", "T", "b", "A", "b", "T", "^", "b", "and", "A", "w", "T", "A", "w", "T", "A", "T", "w", "A", "w", "T", "^", "w", "Fisher", "'s", "linear", "discriminant", "analysis", "discriminates", "inter-class", "distance", "and", "intra-class", "distance", "by", "using", "their", "corresponding", "covariance", "matrices", ".", "The", "optimal", "projection", "can", "be", "obtained", "by", "solving", "the", "generalized", "eigenvalue", "problem", ":", "^", "b", "^", "w", "-LRB-", "1", "-RRB-", "If", "^", "w", "is", "nonsingular", ",", "is", "given", "by", "the", "eigenvectors", "of", "matrix", "^", "1", "w", "^", "b", ".", "As", "we", "already", "pointed", "out", ",", "the", "approach", "fails", "if", "^", "w", "is", "singular", "which", "is", "often", "the", "case", "in", "document", "classification", "2", ".", "Usually", ",", "this", "problem", "is", "overcome", "by", "using", "a", "nonsingular", "intermediate", "space", "of", "^", "w", "obtained", "by", "removing", "the", "null", "space", "of", "^", "w", "and", "then", "computing", "eigenvectors", ".", "However", ",", "the", "removal", "of", "the", "null", "space", "of", "^", "w", "possibly", "eliminates", "some", "useful", "information", "because", "some", "of", "the", "most", "discriminant", "dimensions", "may", "be", "lost", "by", "the", "removal", ".", "In", "fact", ",", "the", "null", "space", "of", "^", "w", "is", "guaranteed", "to", "contain", "useful", "discriminant", "information", "when", "the", "projections", "of", "^", "b", "are", "not", "zeros", "along", "those", "directions", ".", "Thus", ",", "simple", "removal", "of", "the", "null", "space", "of", "^", "w", "is", "not", "an", "effective", "resolution", "-LSB-", "12", "-RSB-", ".", "Once", "the", "transformation", "has", "been", "determined", ",", "classification", "is", "performed", "in", "the", "transformed", "space", "based", "on", "a", "distance", "metrics", ",", "such", "as", "Euclidean", "distance", "d", "x", "y", "i", "x", "i", "y", "i", "2", "and", "cosine", "measure", "d", "x", "y", "1", "i", "x", "i", "y", "i", "i", "x", "2", "i", "i", "y", "2", "i", "A", "new", "instance", ",", "z", ",", "it", "is", "classified", "to", "argmin", "k", "d", "z", "x", "k", "-LRB-", "2", "-RRB-", "where", "x", "k", "is", "the", "centroid", "of", "k-th", "class", ".", "2", "In", "fact", ",", "^", "w", "is", "nonsingular", "only", "if", "there", "are", "p", "L", "samples", ".", "This", "is", "usually", "impractical", ".", "3.2", "The", "New", "Criterion", "We", "propose", "the", "use", "of", "the", "following", "criterion", "for", "discriminating", "inter-class", "and", "intra-class", "distances", "by", "inter-class", "and", "intra-class", "covariance", "matrices", ":", "min", "A", "b", "I", "n", "2", "F", "A", "w", "2", "F", "-LRB-", "3", "-RRB-", "where", "X", "F", "is", "the", "Frobenius", "norm", "of", "the", "matrix", "X", ",", "i.e.", ",", "i", "j", "x", "2", "i", "j", ".", "The", "criterion", "does", "not", "involve", "the", "inverse", "of", "the", "intra-class", "matrix", "and", "is", "similar", "to", "Tikhonov", "regularization", "of", "least", "squares", "problems", ".", "Intuitively", ",", "the", "first", "term", "of", "-LRB-", "3", "-RRB-", "is", "used", "to", "minimize", "the", "difference", "between", "the", "projection", "of", "x", "i", "x", "in", "a", "new", "space", "and", "the", "i-th", "unit", "vector", "of", "the", "new", "space", ".", "The", "second", "term", "is", "used", "to", "minimize", "the", "intra-class", "covariance", ".", "The", "equation", "-LRB-", "3", "-RRB-", "can", "be", "rewritten", "as", "min", "A", "w", "A", "b", "0", "I", "n", "2", "F", "-LRB-", "4", "-RRB-", "and", "this", "is", "a", "least", "squares", "problem", "with", "the", "solution", "A", "T", "w", "A", "w", "A", "T", "b", "A", "b", "A", "T", "b", "-LRB-", "5", "-RRB-", "Here", "we", "will", "show", "how", "to", "use", "GSVD", "to", "compute", "efficiently", "the", "solution", "to", "the", "optimization", "problem", "formulated", "in", "Section", "3", "and", "show", "that", "the", "solution", "thus", "obtained", "is", "stable", ".", "4.1", "The", "Basics", "of", "GSVD", "Singular", "value", "decomposition", "-LRB-", "SVD", "-RRB-", "is", "a", "process", "of", "decomposing", "a", "rectangular", "matrix", "into", "three", "other", "matrices", "of", "a", "very", "special", "form", ".", "It", "can", "be", "viewed", "as", "a", "technique", "for", "deriving", "a", "set", "of", "uncor-related", "indexing", "variables", "or", "factors", "-LSB-", "6", "-RSB-", ".", "A", "Generalized", "Singular", "Value", "Decomposition", "-LRB-", "GSVD", "-RRB-", "is", "an", "SVD", "of", "a", "sequence", "of", "matrices", ".", "GSVD", "has", "played", "a", "significant", "role", "in", "signal", "processing", "and", "in", "signal", "identification", "and", "has", "been", "widely", "used", "in", "such", "problems", "as", "source", "separation", ",", "stochastic", "realization", "and", "generalized", "Gauss-Markov", "estimation", ".", "The", "diagonal", "form", "of", "GSVD", ",", "shown", "below", ",", "was", "first", "introduced", "in", "-LSB-", "21", "-RSB-", ".", "T", "HEOREM", "1", ".", "-LRB-", "GSVD", "Diagonal", "Form", "-LSB-", "21", "-RSB-", "-RRB-", "If", "A", "R", "m", "p", ",", "B", "R", "n", "p", ",", "and", "rank", "A", "T", "B", "T", "k", ",", "then", "there", "exist", "two", "orthogonal", "matrices", ",", "U", "R", "m", "m", "and", "V", "R", "n", "n", ",", "and", "a", "non-singular", "matrix", ",", "R", "p", "p", ",", "such", "that", "U", "T", "0", "0", "V", "T", "A", "B", "X", "C", "S", "I", "k", "0", "-LRB-", "6", "-RRB-", "where", "C", "and", "S", "are", "nonnegative", "diagonal", "and", "of", "dimension", "m", "k", "and", "n", "k", ",", "respectively", ",", "1", "S", "11", "S", "min", "n", "k", "min", "n", "k", "0", ",", "and", "C", "T", "C", "S", "T", "S", "I", "k", ".", "The", "generalized", "singular", "values", "are", "defined", "to", "be", "the", "component-wise", "ratios", "of", "the", "diagonal", "entries", "of", "the", "two", "diagonal", "matrices", ".", "In", "signal", "processing", ",", "A", "is", "often", "the", "signal", "matrix", "and", "B", "is", "the", "noise", "matrix", ",", "in", "which", "case", "the", "generalized", "singular", "values", "are", "referred", "to", "as", "signal-noise", "ratios", ".", "4.2", "Stable", "Solution", "By", "plugging", "the", "GSVD", "matrices", "of", "A", "w", "and", "A", "b", "in", "-LRB-", "5", "-RRB-", ",", "we", "have", "X", "I", "k", "0", "S", "T", "V", "T", ".", "Since", "V", "is", "orthogonal", ",", "we", "can", "drop", "it", "without", "319", "changing", "the", "squared", "distance", ".", "So", ",", "we", "have", "X", "I", "k", "0", "S", "T", "-LRB-", "7", "-RRB-", "This", "derivation", "of", "holds", "even", "if", "^", "w", "is", "singular", ".", "Thus", ",", "by", "using", "GSVD", "to", "solve", "the", "new", "criterion", ",", "we", "can", "avoid", "removing", "null", "space", ",", "thereby", "keeping", "all", "the", "useful", "information", ".", "The", "degree", "of", "linear", "independence", "of", "the", "original", "data", ",", "rank", "A", "T", "w", "A", "T", "b", ",", "is", "equal", "to", "k", ",", "Since", "R", "p", "k", ",", "rank", "A", "w", "T", "A", "b", "T", ",", "the", "degree", "of", "linear", "independence", "in", "the", "transformed", "space", ",", "is", "at", "most", "k", ".", "We", "now", "state", "a", "theorem", "that", "shows", "that", "the", "solution", "is", "stable", ".", "T", "HEOREM", "2", ".", "-LRB-", "GSVD", "relative", "perturbation", "bound", "-LSB-", "7", "-RSB-", "-RRB-", "Suppose", "A", "and", "B", "be", "matrices", "with", "the", "same", "number", "of", "columns", "and", "B", "is", "of", "full", "column", "rank", ".", "Let", "A", "A", "1", "D", "1", "and", "B", "B", "1", "D", "2", "such", "that", "D", "1", "and", "D", "2", "have", "full", "rank", ".", "Let", "E", "E", "1", "D", "1", "and", "F", "F", "1", "D", "2", "be", "perturbations", "of", "A", "and", "B", ",", "respectively", ",", "such", "that", "for", "all", "x", "there", "exist", "some", "1", "2", "1", "for", "which", "it", "holds", "that", "E", "1", "x", "2", "1", "A", "1", "x", "2", "F", "1", "x", "2", "2", "B", "1", "x", "2", "Let", "i", "and", "~", "i", "be", "the", "i-th", "generalized", "singular", "value", "of", "A", "B", "and", "that", "of", "A", "E", "B", "F", ",", "respectively", ".", "Then", "either", "i", "~", "i", "0", "or", "i", "~", "i", "i", "1", "2", "1", "2", "The", "above", "theorem", "gives", "a", "bound", "on", "the", "relative", "error", "of", "the", "generalized", "eigenvalues", "-LRB-", "C", "ii", "and", "S", "ii", "-RRB-", "if", "the", "difference", "between", "the", "estimated", "covariance", "matrices", "and", "the", "genuine", "covariance", "matrices", "is", "small", ".", "This", "guarantees", "that", "the", "relative", "error", "of", "is", "bounded", "by", "the", "relative", "error", "of", "estimated", "intra", "-", "and", "inter-class", "covariance", "matrices", ".", "GSVD", "also", "brings", "some", "favorable", "features", ",", "which", "might", "improve", "accuracy", ".", "In", "particular", ",", "computation", "of", "the", "cross", "products", "A", "T", "b", "A", "b", "and", "A", "T", "w", "A", "w", ",", "which", "causes", "roundoff", "errors", ",", "is", "not", "required", ".", "4.3", "The", "GDA", "Algorithm", "The", "pseudo", "codes", "of", "the", "training", "and", "prediction", "procedures", "are", "described", "as", "follows", ":", "Algorithm", "1", "Training", "procedure", "=", "Train", "-LRB-", "x", "'s", "-RRB-", "Input", ":", "the", "training", "data", "x", "i", "'s", "Output", ":", "the", "transformation", ";", "begin", "1", ".", "Construct", "the", "matrices", "A", "w", "and", "A", "b", ";", "2", ".", "Perform", "GSVD", "on", "the", "matrix", "pair", ";", "3", ".", "Obtain", "as", "described", "in", "equation", "7", ".", "4", ".", "Return", ";", "end", "Algorithm", "2", "Prediction", "Procedure", "T", "=", "Predict", "-LRB-", ",", "x", "-RRB-", "Input", ":", "the", "transformation", "generated", "by", "the", "training", "procedure", ";", "and", "a", "new", "instance", "x", ";", "Output", ":", "the", "label", "T", "of", "the", "new", "instance", ";", "begin", "1", ".", "Perform", "Prediction", "as", "in", "equation", "2", ";", "2", ".", "Return", "T", ";", "end", "Here", "we", "show", "that", "the", "above", "transformation", "derived", "using", "our", "new", "criterion", "can", "also", "be", "obtained", "by", "optimizing", "the", "trace", "or", "determinant", "ratios", ".", "5.1", "Optimizing", "the", "determinant", "ratio", "Fisher", "'s", "criterion", "is", "to", "maximize", "the", "ratio", "of", "the", "determinant", "of", "the", "inter-class", "scatter", "matrix", "of", "the", "projected", "samples", "to", "the", "determinant", "of", "the", "intra-class", "scatter", "matrix", "of", "the", "projected", "samples", ":", "J", "T", "^", "b", "T", "^", "w", "-LRB-", "8", "-RRB-", "One", "way", "to", "overcome", "the", "requirements", "of", "non-singularity", "of", "Fisher", "'s", "criterion", "is", "looking", "for", "solutions", "that", "simultaneously", "maximize", "T", "^", "b", "minimize", "T", "^", "w", ".", "Using", "GSVD", ",", "A", "b", "and", "A", "w", "are", "decomposed", "as", "A", "w", "UC", "I", "k", "0", "X", "1", "and", "A", "b", "V", "S", "I", "k", "0", "X", "1", ".", "To", "maximize", "J", ",", "T", "^", "b", "should", "be", "increased", "while", "decreasing", "T", "^", "w", ".", "Let", "C", "C", "I", "k", "0", "and", "S", "S", "I", "k", "0", ".", "Then", "we", "have", "^", "b", "A", "T", "b", "A", "b", "X", "S", "2", "X", "1", "and", "^", "w", "A", "T", "w", "A", "w", "XC", "2", "X", "1", ".", "This", "implies", "T", "^", "b", "T", "X", "S", "2", "X", "1", "S", "X", "1", "2", "and", "T", "^", "w", "T", "XC", "2", "X", "1", "C", "X", "1", "2", "Thus", ",", "the", "matrix", "satisfying", "X", "1", "I", "k", "0", "would", "simultaneously", "maximize", "T", "^", "b", "and", "minimize", "T", "^", "w", "-LRB-", "since", "the", "diagonal", "of", "S", "is", "decreasing", "-RRB-", ".", "So", ",", "we", "have", "X", "I", "k", "0", ".", "In", "the", "case", "where", "we", "must", "weight", "the", "transformation", "with", "the", "generalized", "singular", ",", "X", "I", "k", "0", "S", "T", "is", "the", "transformation", "we", "want", ".", "5.2", "Optimizing", "the", "trace", "ratio", "The", "same", "transformation", "can", "also", "be", "obtained", "by", "optimizing", "the", "trace", "ratio", ".", "Using", "GSVD", ",", "we", "have", "trace", "T", "^", "b", "trace", "S", "S", "T", "X", "1", "T", "X", "T", "trace", "S", "S", "T", "GG", "T", "k", "i", "1", "S", "2", "ii", "g", "ii", "and", "trace", "T", "^", "w", "trace", "C", "C", "T", "X", "1", "T", "X", "T", "trace", "C", "C", "T", "GG", "T", "k", "i", "1", "C", "2", "ii", "g", "ii", "where", "G", "X", "1", "and", "g", "ii", "is", "the", "ii-th", "term", "of", "G", ".", "Since", "C", "T", "C", "S", "T", "S", "I", "k", ",", "we", "have", "trace", "T", "^", "b", "trace", "T", "^", "w", "k", "i", "1", "S", "2", "ii", "g", "ii", "k", "i", "1", "C", "2", "ii", "g", "ii", "k", "i", "1", "g", "ii", "If", "we", "force", "that", "trace", "T", "^", "b", "1", ",", "the", "optimization", "is", "formulated", "as", "minimization", "of", "trace", "T", "^", "w", "k", "i", "1", "g", "ii", "1", ".", "Here", "g", "ii", "'s", "are", "diagonal", "elements", "of", "a", "positive", "semi-definite", "matrix", ",", "so", "they", "are", "nonnegative", ".", "Also", ",", "for", "all", "i", ",", "g", "ii", "0", "implies", "that", "for", "all", "j", "320", "g", "i", "j", "g", "ji", "0", ".", "Note", "that", "GG", "T", "is", "a", "p", "p", "matrix", ".", "Since", "only", "the", "first", "k", "diagonal", "entries", ",", "g", "ii", "ki", "1", ",", "appear", "in", "the", "formula", "for", "trace", "T", "^", "w", "k", "i", "1", "g", "ii", "1", ",", "the", "quantities", "of", "other", "m", "k", "diagonal", "entries", "do", "not", "affect", "the", "optimization", ".", "Thus", ",", "we", "may", "set", "all", "of", "these", "to", "0", ",", "thereby", "obtaining", "X", "I", "k", "0", ".", "In", "the", "case", "when", "we", "want", "to", "weight", "the", "transformation", "with", "the", "generalized", "singular", "values", ",", "we", "obtain", "X", "I", "k", "0", "S", "T", ".", "A", "well-known", "transformation", "method", "in", "information", "retrieval", "is", "Latent", "Semantic", "Indexing", "-LRB-", "LSI", "-RRB-", "-LSB-", "6", "-RSB-", ",", "which", "applies", "Singular", "Value", "Decomposition", "-LRB-", "SVD", "-RRB-", "to", "the", "document-term", "matrix", "and", "computes", "eigenvectors", "having", "largest", "eigenvalues", "as", "the", "directions", "related", "to", "the", "dominant", "combinations", "of", "the", "terms", "occurring", "in", "the", "dataset", "-LRB-", "latent", "semantics", "-RRB-", ".", "A", "transformation", "matrix", "constructed", "from", "these", "eigenvectors", "projects", "a", "document", "onto", "the", "latent", "semantic", "space", ".", "Although", "LSI", "has", "been", "proven", "extremely", "useful", "in", "information", "retrieval", ",", "it", "is", "not", "optimal", "for", "text", "categorization", "because", "LSI", "is", "com-pletely", "unsupervised", ".", "In", "other", "words", ",", "LSI", "deals", "with", "the", "data", "without", "paying", "any", "particular", "attention", "to", "the", "underlying", "class", "structure", ".", "It", "only", "aims", "at", "optimally", "transforming", "the", "original", "data", "into", "a", "lower", "dimensional", "space", "with", "respect", "to", "the", "mean", "squared", "error", ",", "which", "has", "nothing", "to", "do", "with", "the", "discrimination", "of", "the", "different", "classes", ".", "Our", "GDA", "approach", "possesses", "advantages", "of", "both", "discriminant", "analysis", "and", "of", "latent", "semantic", "analysis", ".", "By", "explic-itly", "taking", "the", "intra-class", "and", "inter-class", "covariance", "matrices", "into", "the", "optimization", "criterion", ",", "GDA", "deals", "directly", "with", "discrimination", "between", "classes", ".", "Furthermore", ",", "by", "employing", "GSVD", "to", "solve", "the", "optimization", "problem", ",", "GDA", "tries", "to", "identify", "the", "latent", "concepts", "indicated", "by", "the", "generalized", "singular", "values", ".", "To", "illustrate", "how", "well", "GDA", "can", "perform", ",", "we", "present", "here", "two", "examples", ".", "In", "the", "first", "example", ",", "we", "compare", "GDA", "against", "LDA", "and", "LSI", ".", "Figure", "1", "shows", "a", "small", "dataset", "consisting", "of", "nine", "phrases", "in", "three", "topics", ":", "user", "interaction", ",", "graph", "theory", ",", "and", "distributed", "systems", ".", "No", ".", "Class", "Phrase", "1", "1", "Human", "interface", "for", "user", "response", "2", "1", "A", "survey", "of", "user", "opinion", "of", "computer", "system", "response", "time", "3", "1", "Relation", "of", "user-perceived", "response", "time", "to", "error", "measurement", "4", "2", "The", "generation", "of", "random", ",", "binary", ",", "unordered", "trees", "5", "2", "The", "intersection", "graph", "of", "paths", "in", "trees", "6", "2", "Graph", "Minors", "IV", ":", "Widths", "of", "trees", "and", "well-quasi-ordering", "7", "3", "A", "survey", "of", "distributed", "shared", "memory", "system", "8", "3", "RADAR", ":", "A", "multi-user", "distributed", "system", "9", "3", "Management", "interface", "tools", "for", "distributed", "computer", "system", "Figure", "1", ":", "Nine", "example", "sentences", "After", "removing", "words", "-LRB-", "terms", "-RRB-", "that", "occurs", "only", "once", ",", "we", "have", "the", "document-term", "matrix", "as", "shown", "in", "Figure", "2", ".", "The", "first", "and", "second", "samples", "in", "each", "class", "are", "used", "for", "training", ".", "GDA", ",", "LDA", ",", "and", "LSI", "are", "run", "on", "the", "training", "data", "to", "obtain", "transformation", "matrices", ".", "Figure", "3", "shows", "the", "plot", "of", "the", "word", "\\", "No.", "1", "2", "3", "4", "5", "6", "7", "8", "9", "a", "1", "1", "1", "computer", "1", "1", "distributed", "1", "1", "1", "for", "1", "1", "graph", "1", "1", "interface", "1", "1", "of", "2", "1", "1", "1", "1", "1", "response", "1", "1", "1", "survey", "1", "1", "system", "1", "1", "1", "1", "the", "1", "1", "time", "1", "1", "trees", "1", "1", "1", "user", "1", "1", "1", "1", "Figure", "2", ":", "Document-term", "Matrix", "distances/similarities", "between", "document", "pairs", "in", "the", "transformed", "space", "using", "each", "of", "the", "three", "methods", ".", "-LRB-", "a", "-RRB-", "GDA", "-LRB-", "b", "-RRB-", "LDA", "-LRB-", "c", "-RRB-", "LSI", "Figure", "3", ":", "Pairwise", "document", "similarity", "via", "GDA", ",", "LDA", ",", "and", "LSI", ".", "The", "darker", "the", "close", "is", "the", "more", "similar", "the", "documents", "are", ".", "GDA", "is", "a", "clear", "winner", ".", "The", "second", "example", "illustrates", "differences", "between", "GDA", "and", "LSI", ".", "Distinction", "among", "three", "newsgroups", "in", "20NG", "are", "attempted", "by", "selecting", "from", "each", "newsgroup", "twenty", "training", "and", "twenty", "for", "testing", ".", "Figure", "4", "shows", "plots", "of", "the", "the", "sixty", "testing", "articles", "using", "the", "two", "dominant", "directions", "as", "the", "axes", ".", "GDA", "has", "clear", "separation", "while", "the", "LSI", "plot", "shows", "an", "L-shaped", "concentration", "of", "the", "data", "points", ".", "The", "confusion", "matrices", "of", "these", "methods", "are", "shown", "in", "Table", "1", ".", "GDA", "clearly", "performed", "better", "than", "LSI", ".", "prediction", "prediction", "actual", "1", "2", "3", "actual", "1", "2", "3", "1", "20", "0", "0", "1", "20", "0", "0", "2", "0", "19", "1", "2", "0", "3", "17", "3", "0", "0", "0", "3", "7", "5", "8", "Table", "1", ":", "The", "confusion", "matrices", ".", "Left", ":", "GDA", ".", "Right", ":", "LSI", ".", "For", "our", "experiments", "we", "used", "a", "variety", "of", "datasets", ",", "most", "of", "which", "are", "frequently", "used", "in", "the", "information", "retrieval", "research", ".", "The", "range", "of", "the", "number", "of", "classes", "is", "from", "four", "to", "105", "and", "the", "range", "of", "the", "number", "of", "documents", "is", "from", "476", "to", "20,000", ",", "which", "seem", "varied", "321", "-1.5", "-1", "-0.5", "0", "0.5", "1", "-1", "-0.8", "-0.6", "-0.4", "-0.2", "0", "0.2", "0.4", "0.6", "0.8", "1", "Group", "1", "Group", "2", "Group", "3", "-LRB-", "a", "-RRB-", "GDA", "-0.07", "-0.06", "-0.05", "-0.04", "-0.03", "-0.02", "-0.01", "0", "0.01", "0.02", "0.03", "-0.05", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "Group", "1", "Group", "2", "Group", "3", "-LRB-", "b", "-RRB-", "LSI", "Figure", "4", ":", "Document", "plots", ".", "The", "three", "groups", "are", "separated", "sig-nificantly", "better", "with", "GDA", "than", "with", "LSI", ".", "enough", "to", "obtain", "good", "insights", "as", "to", "how", "GDA", "performs", ".", "Table", "2", "summarizes", "the", "characteristics", "of", "the", "datasets", ".", "20Newsgroups", "The", "20Newsgroups", "-LRB-", "20NG", "-RRB-", "dataset", "contains", "approximately", "20,000", "articles", "evenly", "divided", "among", "20", "Usenet", "newsgroups", ".", "The", "raw", "text", "size", "is", "26", "MB", ".", "All", "words", "were", "stemmed", "using", "a", "porter", "stemming", "program", ",", "all", "HTML", "tags", "were", "skipped", ",", "and", "all", "header", "fields", "except", "subject", "and", "organization", "of", "the", "posted", "article", "were", "ignored", ".", "WebKB", "The", "WebKB", "dataset", "3", "contains", "Web", "pages", "collected", "from", "university", "computer", "science", "departments", ".", "There", "are", "approximately", "8,300", "documents", "in", "the", "set", "and", "they", "are", "divided", "into", "seven", "categories", ":", "student", ",", "faculty", ",", "staff", ",", "course", ",", "project", ",", "department", ",", "and", "other", ".", "The", "raw", "text", "size", "of", "the", "dataset", "is", "27", "MB", ".", "Among", "the", "seven", "categories", ",", "student", ",", "faculty", ",", "course", ",", "and", "project", "are", "the", "four", "most", "populous", ".", "The", "subset", "consisting", "only", "of", "these", "categories", "is", "also", "used", "here", ",", "which", "is", "called", "WebKB4", ".", "In", "neither", "of", "the", "datasets", ",", "we", "used", "stemming", "or", "stop", "lists", ".", "Industry", "Sector", "The", "Industry", "Section", "dataset", "4", "is", "based", "on", "the", "data", "made", "available", "by", "Market", "Guide", ",", "Inc.", "-LRB-", "www.marketguide.com", "-RRB-", ".", "The", "set", "consists", "of", "company", "homepages", "that", "are", "categorized", "in", "a", "hierarchy", "of", "industry", "sectors", ",", "but", "we", "disregarded", "the", "hierarchy", ".", "There", "were", "9,637", "documents", "in", "the", "dataset", ",", "which", "were", "divided", "into", "105", "classes", ".", "We", "tokened", "the", "documents", "by", "skipping", "all", "MIME", "and", "HTML", "headers", "and", "using", "a", "standard", "stop", "list", ".", "We", "did", "not", "perform", "stemming", ".", "Reuters", "The", "Reuters-21578", "Text", "Categorization", "Test", "Collection", "contains", "documents", "collected", "from", "the", "Reuters", "newswire", "in", "1987", ".", "It", "is", "a", "standard", "text", "categorization", "benchmark", "and", "contains", "135", "categories", ".", "We", "used", "its", "subsets", ":", "one", "consisting", "of", "the", "ten", "most", "frequent", "categories", ",", "which", "we", "call", "Reuters-Top10", ",", "and", "the", "other", "consisting", "of", "documents", "associated", "with", "a", "single", "topic", ",", "which", "we", "call", "Reuters-2", ".", "Reuters-2", "had", "approximately", "9,000", "documents", "and", "50", "categories", ".", "TDT2", "TDT2", "is", "the", "NIST", "Topic", "Detection", "and", "Tracking", "text", "corpus", "version", "3.2", "released", "in", "December", "6", ",", "1999", "-LSB-", "30", "-RSB-", ".", "This", "corpus", "contains", "news", "data", "collected", "daily", "from", "nine", "news", "sources", "in", "two", "languages", "-LRB-", "American", "English", "and", "Mandarin", "Chinese", "-RRB-", ",", "over", "a", "period", "of", "six", "months", "-LRB-", "January", "June", "in", "1998", "-RRB-", ".", "We", "used", "only", "the", "English", "news", "texts", ",", "which", "were", "collected", "from", "New", "York", "Times", "Newswire", "Service", ",", "Associated", "Press", "Worldstream", "Service", ",", "Cable", "News", "Network", ",", "Voice", "of", "America", ",", "American", "Broadcasting", "Company", ",", "and", "Public", "Radio", "International", ".", "The", "documents", "were", "manu-ally", "annotated", "using", "96", "target", "topics", ".", "We", "selected", "the", "documents", "having", "annotated", "topics", "and", "removed", "the", "brief", "texts", ".", "The", "resulting", "3", "Both", "20NG", "and", "WebKB", "are", "available", "at", "http://www-2", ".", "cs.cmu.edu/afs/cs/project/theo-11/www/wwkb", ".", "4", "Available", "at", "http://www.cs.cmu.edu/", "TextLearning/datasets.html", "dataset", "contained", "7,980", "documents", ".", "K-dataset", "This", "dataset", "was", "obtained", "from", "the", "WebACE", "project", "-LSB-", "15", "-RSB-", ".", "It", "contained", "2,340", "documents", "consisting", "of", "news", "articles", "from", "Reuters", "News", "Service", "made", "available", "on", "the", "Web", "in", "October", "1997", ".", "These", "documents", "were", "divided", "into", "20", "classes", ".", "They", "were", "processed", "by", "eliminating", "stop", "words", "and", "HTML", "tags", ",", "stemming", "the", "remaining", "words", "using", "Porter", "'s", "suffix-stripping", "algorithm", ".", "CSTR", "This", "is", "the", "dataset", "of", "the", "abstracts", "of", "technical", "reports", "published", "in", "the", "Department", "of", "Computer", "Science", "at", "the", "University", "of", "Rochester", "between", "1991", "and", "2002", "5", ".", "The", "dataset", "contained", "476", "abstracts", ",", "which", "were", "divided", "into", "four", "research", "areas", ":", "Symbolic-AI", ",", "Spatial-AI", ",", "Systems", ",", "and", "Theory", ".", "We", "processed", "the", "abstracts", "by", "removing", "stop", "words", "and", "applying", "stemming", "operations", "on", "the", "remaining", "words", ".", "Datasets", "#", "documents", "#", "class", "20NG", "20,000", "20", "WebKB4", "4,199", "4", "WebKB", "8,280", "7", "Industry", "Sector", "9,637", "105", "Reuters-Top10", "2,900", "10", "Reuters-2", "9,000", "50", "CSTR", "476", "4", "K-dataset", "2,340", "20", "TDT2", "7,980", "96", "Table", "2", ":", "Data", "Sets", "Descriptions", "7.2", "Data", "Preprocessing", "In", "all", "experiments", ",", "we", "randomly", "chose", "70", "%", "of", "the", "documents", "for", "training", "and", "assigned", "the", "rest", "for", "testing", ".", "It", "is", "suggested", "in", "-LSB-", "35", "-RSB-", "that", "information", "gain", "is", "effective", "for", "term", "removal", "and", "it", "can", "remove", "up", "to", "90", "%", "or", "more", "of", "the", "unique", "terms", "without", "performance", "degrade", ".", "So", ",", "we", "first", "selected", "the", "top", "1,000", "words", "by", "information", "gain", "with", "class", "labels", ".", "The", "feature", "selection", "is", "done", "with", "the", "Rainbow", "package", "-LSB-", "23", "-RSB-", ".", "Here", "we", "use", "classification", "accuracy", "for", "evaluation", ".", "Different", "measures", ",", "such", "as", "precision-recall", "graphs", "and", "F", "1", "measure", "-LSB-", "34", "-RSB-", ",", "have", "been", "used", "in", "the", "literature", ".", "However", ",", "since", "the", "datasets", "used", "in", "our", "experiments", "are", "relatively", "balanced", "and", "single-labeled", ",", "and", "our", "goal", "in", "text", "categorization", "is", "to", "achieve", "low", "misclassification", "rates", "and", "high", "separation", "between", "different", "classes", "on", "a", "test", "set", ",", "we", "thought", "that", "accuracy", "is", "the", "best", "measure", "of", "performance", ".", "All", "of", "our", "experiments", "were", "carried", "out", "on", "a", "P4", "2", "GHz", "machine", "with", "512M", "memory", "running", "Linux", "2.4.9-31", ".", "7.3", "Experimental", "Results", "Now", "we", "present", "and", "discuss", "the", "experimental", "results", ".", "Here", "we", "compare", "GDA", "against", "Naive", "Bayes", "-LRB-", "NB", "for", "short", "-RRB-", ",", "K-Nearest", "Neighbor", "-LRB-", "KNN", "for", "short", "-RRB-", ",", "Maximum", "Entropy", "-LRB-", "ME", "for", "short", "-RRB-", ",", "LDA", ",", "and", "SVM", "on", "the", "same", "datasets", "with", "the", "same", "training", "and", "testing", "data", ".", "Recall", "that", "the", "first", "three", "of", "the", "methods", "we", "compare", "against", "are", "commonly-used", "direct", "methods", "for", "multi-class", "classification", "-LRB-", "in", "the", "sense", "that", "they", "do", "not", "require", "reduction", "to", "binary", "classification", "problems", "-RRB-", ".", "For", "experiments", "involving", "SVM", "we", "used", "SVMTorch", "-LSB-", "5", "-RSB-", "6", ",", "which", "uses", "the", "one-versus-the-rest", "decomposition", ".", "Table", "3", "and", "Figure", "5", "show", "performance", "comparisons", ".", "GDA", "outperformed", "all", "the", "other", "five", "methods", "on", "20NG", ",", "WebKB4", ",", "WebKB", "and", "Industry", "Sector", ".", "SVM", "performed", "the", "best", "on", "Reuters-2", ",", "5", "The", "TRs", "are", "available", "at", "http://www.cs.rochester.edu/trs", ".", "6", "Download-able", "at", "http://old-www.idiap.ch/learning/SVMTorch.html", ".", "322", "K-dataset", ",", "and", "TDT2", ".", "GDA", "outperformed", "LDA", "on", "all", "the", "experiments", ",", "and", "the", "improvement", "was", "significant", "-LRB-", "more", "than", "10", "%", "-RRB-", "when", "the", "sample", "size", "was", "relatively", "small", "-LRB-", "in", "the", "case", "of", "CSTR", ",", "Reuters-Top10", ",", "and", "K-dataset", "-RRB-", ".", "On", "20NG", ",", "the", "performance", "of", "GDA", "s", "95", "03", "%", ",", "which", "is", "approximately", "10", "%", "higher", "than", "that", "of", "NB", ",", "6", "%", "higher", "than", "that", "of", "ME", ",", "and", "4", "%", "higher", "than", "that", "of", "SVM", ".", "On", "the", "WebKB4", "dataset", ",", "GDA", "beats", "NB", "by", "approximately", "5", "%", ",", "and", "both", "ME", "and", "SVM", "by", "approximately", "2", "%", ".", "On", "the", "WebKB", "dataset", ",", "GDA", "beats", "NB", "by", "approximately", "16", "%", "and", "ME", "by", "6", "%", ".", "The", "performance", "of", "GDA", "is", "about", "8", "%", "higher", "than", "that", "of", "NB", "and", "by", "6", "%", "than", "that", "of", "ME", "on", "the", "Industry", "Sector", ".", "The", "results", "with", "GDA", "and", "with", "SVM", "are", "almost", "the", "same", "on", "WebKB", ",", "Industry", "Sector", ",", "Reuters-Top10", ",", "and", "CSTR", ".", "On", "Reuters-2", ",", "K-dataset", ",", "and", "TDT2", ",", "SVM", "performs", "slightly", "better", "than", "GDA", "by", "3", "%", ".", "ME", "achieves", "the", "best", "results", "on", "the", "CSTR", "dataset", "while", "NB", "is", "the", "winner", "on", "Reuters-top10", "in", "terms", "of", "performance", "On", "CSTR", ",", "the", "performance", "of", "GDA", "is", "2", "%", "lower", "than", "that", "of", "NB", "and", "4", "%", "lower", "than", "that", "of", "ME", ".", "On", "Reuters-Top10", ",", "GDA", "is", "beaten", "by", "NB", "by", "approximately", "1", "%", ".", "In", "total", ",", "the", "performance", "of", "GDA", "is", "always", "either", "the", "winner", "or", "very", "close", "to", "the", "winner", ":", "it", "is", "ranked", "the", "first", "four", "times", ",", "ranked", "the", "second", "three", "times", ",", "and", "ranked", "the", "third", "in", "the", "remaining", "two", ".", "Although", "there", "is", "no", "single", "winner", "over", "all", "datasets", ",", "GDA", "seems", "to", "outperform", "the", "rest", "on", "most", "counts", ".", "We", "can", "say", "that", "GDA", "is", "a", "viable", ",", "competitive", "algorithm", "in", "text", "categorization", ".", "Datasets", "GDA", "NB", "KNN", "ME", "LDA", "SVM", "20NG", "95.03", "85.60", "50.70", "89.06", "93.90", "91.07", "WebKB4", "94.01", "85.13", "37.29", "91.93", "90.72", "92.04", "WebKB", "79.02", "61.01", "44.81", "71.30", "77.35", "78.89", "Industry", "Sector", "66.57", "56.32", "39.48", "58.84", "66.49", "65.96", "Reuters-Top10", "81.98", "83.33", "74.07", "81.65", "71.46", "81.13", "Reuters-2", "89.82", "87.88", "73.22", "88.56", "88.65", "92.43", "CSTR", "88.50", "90.85", "82.53", "92.39", "68.29", "88.71", "K-dataset", "88.44", "86.14", "58.26", "86.19", "77.69", "91.90", "TDT2", "90.54", "91.59", "86.63", "89.18", "88.41", "93.85", "Table", "3", ":", "Performance", "comparisons", ".", "For", "KNN", "we", "set", "k", "to", "30", ".", "0", "10", "20", "30", "40", "50", "60", "70", "80", "90", "100", "20N", "ewsg", "roup", "s", "Web", "KB", "4", "Web", "KB", "Ind", "ustr", "y", "S", "ecto", "r", "Reu", "ters", "-", "top", "10", "Reu", "ters", "-2", "URCS", "K-d", "atas", "et", "TDT", "2", "GDA", "NB", "KNN", "ME", "LDA", "SVM", "Figure", "5", ":", "Performance", "Comparison", "GDA", "is", "also", "very", "efficient", "and", "most", "experiments", "are", "done", "in", "several", "seconds", ".", "Table", "4", "summarizes", "the", "running", "time", "for", "all", "the", "experiments", "of", "GDA", "and", "SVM", ".", "Figure", "6", "and", "Figure", "7", "present", "the", "comparisons", "of", "training", "and", "prediction", "time", "respectively", ".", "The", "time", "saving", "of", "GDA", "is", "very", "obvious", ".", "In", "summary", ",", "these", "experiments", "have", "shown", "that", "GDA", "provides", "an", "alternate", "choice", "for", "fast", "and", "efficient", "text", "categorization", ".", "GDA", "GDA", "SVM", "SVM", "Datasets", "Training", "Prediction", "Training", "Prediction", "20NG", "171.80", "6.86", "270.20", "64.28", "WebKB4", "63.4", "0.20", "114.67", "54.72", "WebKB", "94.64", "0.43", "1108.17", "103.03", "Industry", "Sector", "88.23", "6.45", "423.54", "79.82", "Reuters-Top10", "61.23", "0.15", "94.28", "18.65", "Reuters-2", "96.19", "1.13", "566.53", "85.10", "CSTR", "3.65", "0.02", "7.50", "2.77", "K-dataset", "62.88", "0.18", "84.56", "47.70", "TDT2", "21.69", "5.14", "89.91", "26.76", "Table", "4", ":", "Time", "Table", "in", "seconds", ".", "0", "200", "400", "600", "800", "1000", "1200", "20N", "ewsg", "rou", "ps", "We", "bKB", "4", "We", "bKB", "Ind", "ustry", "Sect", "or", "Reu", "ters", "-", "top", "10", "Reu", "ters", "-2", "CST", "R", "K-d", "ata", "set", "TDT", "2", "Training", "Time", "GDA", "SVM", "Figure", "6", ":", "Training", "Time", "Comparisons", "0", "20", "40", "60", "80", "100", "120", "20N", "ewsg", "rou", "ps", "We", "bKB", "4", "We", "bKB", "Ind", "ustry", "Sect", "or", "Reu", "ters", "-", "top", "10", "Reu", "ters", "-2", "CST", "R", "K-d", "ata", "set", "TDT", "2", "Prediction", "Time", "GDA", "SVM", "Figure", "7", ":", "Prediction", "Time", "Comparisons", "In", "this", "paper", ",", "we", "presented", "GDA", ",", "a", "simple", ",", "efficient", ",", "and", "yet", "accurate", ",", "direct", "approach", "to", "multi-class", "text", "categorization", ".", "GDA", "utilizes", "GSVD", "to", "transform", "the", "original", "data", "into", "a", "new", "space", ",", "which", "could", "reflect", "the", "inherent", "similarities", "between", "classes", "based", "on", "a", "new", "optimization", "criterion", ".", "Extensive", "experiments", "clearly", "demonstrate", "its", "efficiency", "and", "effectiveness", ".", "Interestingly", "enough", ",", "although", "traditional", "discriminant", "approaches", "have", "been", "successfully", "applied", "in", "pattern", "recognition", ",", "little", "work", "has", "been", "reported", "on", "document", "analysis", ".", "As", "we", "mentioned", "earlier", ",", "this", "is", "partly", "because", "the", "intra-class", "covariance", "matrix", "is", "usually", "singular", "for", "document-term", "data", "and", "hence", "restrict", "the", "usage", "of", "discriminant", ".", "Our", "new", "criterion", "avoids", "the", "problem", "while", "still", "preserving", "the", "discriminative", "power", "of", "the", "covariance", "matrix", ".", "323", "Another", "big", "barrier", "to", "application", "of", "discriminant", "analysis", "in", "document", "classification", "is", "its", "large", "computation", "cost", ".", "As", "we", "know", ",", "traditional", "discriminant", "analysis", "requires", "a", "large", "amount", "of", "computation", "on", "matrix", "inversion", ",", "SVD", ",", "and", "eigenvalue-analysis", ".", "The", "costs", "of", "these", "operations", "are", "extremely", "large", "in", "document", "analysis", "because", "the", "matrices", "have", "thousands", "of", "dimension", ".", "Our", "approach", "makes", "use", "of", "effective", "feature", "selection", "via", "information", "gain", ",", "with", "which", "we", "can", "remove", "up", "to", "90", "%", "or", "more", "of", "the", "unique", "terms", "without", "significant", "performance", "degrade", "-LSB-", "35", "-RSB-", ".", "One", "of", "our", "future", "plans", "is", "to", "explore", "how", "the", "performance", "correlates", "with", "different", "feature", "selection", "methods", "and", "the", "number", "of", "words", "selected", ".", "There", "are", "also", "other", "possible", "extensions", "such", "as", "using", "random", "projection", "to", "reduce", "the", "dimensionality", "before", "applying", "discriminant", "analysis", "-LSB-", "27", "-RSB-", ".", "This", "work", "is", "supported", "in", "part", "by", "NSF", "grants", "EIA-0080124", ",", "DUE-9980943", ",", "and", "EIA-0205061", ",", "and", "NIH", "grant", "P30-AG18254", ".", "-LSB-", "1", "-RSB-", "Allwein", ",", "E.", "L.", ",", "Schapire", ",", "R.", "E.", ",", "&", "Singer", ",", "Y.", "-LRB-", "2000", "-RRB-", ".", "Reducing", "multiclass", "to", "binary", ":", "A", "unifying", "approach", "for", "margin", "classifiers", ".", "ICML-00", "-LRB-", "pp.", "9", "16", "-RRB-", ".", "-LSB-", "2", "-RSB-", "Apte", ",", "C.", ",", "Damerau", ",", "F.", ",", "&", "Weiss", ",", "S.", "-LRB-", "1998", "-RRB-", ".", "Text", "mining", "with", "decision", "rules", "and", "decision", "trees", ".", "Proceedings", "of", "the", "Workshop", "with", "Conference", "on", "Automated", "Learning", "and", "Discovery", ":", "Learning", "from", "text", "and", "the", "Web", ".", "-LSB-", "3", "-RSB-", "Chakrabarti", ",", "S.", ",", "Roy", ",", "S.", ",", "&", "Soundalgekar", ",", "M.", "V.", "-LRB-", "2002", "-RRB-", ".", "Fast", "and", "accurate", "text", "classification", "via", "multiple", "linear", "discriminant", "projections", ".", "Proceedings", "of", "the", "28th", "International", "Conference", "on", "Very", "Large", "Databases", "-LRB-", "pp.", "658", "669", "-RRB-", ".", "-LSB-", "4", "-RSB-", "Cohen", ",", "W.", "W.", ",", "&", "Singer", ",", "Y.", "-LRB-", "1996", "-RRB-", ".", "Context-sensitive", "learning", "methods", "for", "text", "categorization", ".", "Proceedings", "of", "the", "19th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "-LRB-", "pp.", "307", "315", "-RRB-", ".", "-LSB-", "5", "-RSB-", "Collobert", ",", "R.", ",", "&", "Bengio", ",", "S.", "-LRB-", "2001", "-RRB-", ".", "SVMTorch", ":", "Support", "vector", "machines", "for", "large-scale", "regression", "problems", ".", "Journal", "of", "Machine", "Learning", "Research", ",", "1", ",", "143", "160", ".", "-LSB-", "6", "-RSB-", "Deerwester", ",", "S.", "C.", ",", "Dumais", ",", "S.", "T.", ",", "Landauer", ",", "T.", "K.", ",", "Furnas", ",", "G.", "W.", ",", "&", "Harshman", ",", "R.", "A.", "-LRB-", "1990", "-RRB-", ".", "Indexing", "by", "latent", "semantic", "analysis", ".", "Journal", "of", "the", "American", "Society", "of", "Information", "Science", ",", "41", ",", "391", "407", ".", "-LSB-", "7", "-RSB-", "Demmel", ",", "J.", ",", "&", "Veseli", "c", ",", "K.", "-LRB-", "1992", "-RRB-", ".", "Jacobi", "'s", "method", "is", "more", "accurate", "than", "QP", ".", "SIAM", "Journal", "on", "Matrix", "Analysis", "and", "Applications", ",", "13", ",", "10", "19", ".", "-LSB-", "8", "-RSB-", "Dietterich", ",", "T.", "G.", ",", "&", "Bakiri", ",", "G.", "-LRB-", "1995", "-RRB-", ".", "Solving", "multiclass", "learning", "problems", "via", "error-correcting", "output", "codes", ".", "Journal", "of", "Artificial", "Intelligence", "Research", ",", "2", ",", "263", "286", ".", "-LSB-", "9", "-RSB-", "Dumais", ",", "S.", ",", "Platt", ",", "J.", ",", "Heckerman", ",", "D.", ",", "&", "Sahami", ",", "M.", "-LRB-", "1998", "-RRB-", ".", "Inductive", "learning", "algorithms", "and", "representations", "for", "text", "categorization", ".", "CIKM-98", "-LRB-", "pp.", "148", "155", "-RRB-", ".", "-LSB-", "10", "-RSB-", "Fisher", ",", "R.", "-LRB-", "1936", "-RRB-", ".", "The", "use", "of", "multiple", "measurements", "in", "taxonomic", "problems", ".", "Annals", "of", "Eugenics", ",", "7", ",", "179", "188", ".", "-LSB-", "11", "-RSB-", "Fragoudis", ",", "D.", ",", "Meretakis", ",", "D.", ",", "&", "Likothanassis", ",", "S.", "-LRB-", "2002", "-RRB-", ".", "Integrating", "feature", "and", "instance", "selection", "for", "text", "classification", ".", "SIGKDD-02", "-LRB-", "pp.", "501", "506", "-RRB-", ".", "-LSB-", "12", "-RSB-", "Fukunaga", ",", "K.", "-LRB-", "1990", "-RRB-", ".", "Introduction", "to", "statistical", "pattern", "recognition", ".", "Academic", "Press", ".", "-LSB-", "13", "-RSB-", "Ghani", ",", "R.", "-LRB-", "2000", "-RRB-", ".", "Using", "error-correcting", "codes", "for", "text", "classification", ".", "ICML-00", "-LRB-", "pp.", "303", "310", "-RRB-", ".", "-LSB-", "14", "-RSB-", "Godbole", ",", "S.", ",", "Sarawagi", ",", "S.", ",", "&", "Chakrabarti", ",", "S.", "-LRB-", "2002", "-RRB-", ".", "Scaling", "multi-class", "support", "vector", "machine", "using", "inter-class", "confusion", ".", "SIGKDD-02", "-LRB-", "pp.", "513", "518", "-RRB-", ".", "-LSB-", "15", "-RSB-", "Han", ",", "E.-H.", ",", "Boley", ",", "D.", ",", "Gini", ",", "M.", ",", "Gross", ",", "R.", ",", "Hastings", ",", "K.", ",", "Karypis", ",", "G.", ",", "Kumar", ",", "V.", ",", "Mobasher", ",", "B.", ",", "&", "Moore", ",", "J.", "-LRB-", "1998", "-RRB-", ".", "WebACE", ":", "A", "web", "agent", "for", "document", "categorization", "and", "exploration", ".", "Agents-98", "-LRB-", "pp.", "408", "415", "-RRB-", ".", "-LSB-", "16", "-RSB-", "Hastie", ",", "T.", ",", "&", "Tibshirani", ",", "R.", "-LRB-", "1998", "-RRB-", ".", "Classification", "by", "pairwise", "coupling", ".", "Advances", "in", "Neural", "Information", "Processing", "Systems", ".", "The", "MIT", "Press", ".", "-LSB-", "17", "-RSB-", "Joachims", ",", "T.", "-LRB-", "1998", "-RRB-", ".", "Making", "large-scale", "support", "vector", "machine", "learning", "practical", ".", "In", "Advances", "in", "kernel", "methods", ":", "Support", "vector", "machines", ".", "-LSB-", "18", "-RSB-", "Joachims", ",", "T.", "-LRB-", "2001", "-RRB-", ".", "A", "statistical", "learning", "model", "of", "text", "classification", "with", "support", "vector", "machines", ".", "SIGIR-01", "-LRB-", "pp.", "128", "136", "-RRB-", ".", "-LSB-", "19", "-RSB-", "Lam", ",", "W.", ",", "&", "Ho.", ",", "C.", "-LRB-", "1998", "-RRB-", ".", "Using", "a", "generalized", "instance", "set", "for", "automatic", "text", "categorization", ".", "SIGIR-98", "-LRB-", "pp.", "81", "89", "-RRB-", ".", "-LSB-", "20", "-RSB-", "Lewis", ",", "D.", "D.", "-LRB-", "1998", "-RRB-", ".", "Naive", "-LRB-", "Bayes", "-RRB-", "at", "forty", ":", "The", "independence", "assumption", "in", "information", "retrieval", ".", "ECML-98", ".", "-LSB-", "21", "-RSB-", "Loan", ",", "C.", "V.", "-LRB-", "1976", "-RRB-", ".", "Generalizing", "the", "singular", "value", "decomposition", ".", "SIAM", "J.", "Num", ".", "Anal.", ",", "13", ",", "76", "83", ".", "-LSB-", "22", "-RSB-", "Masand", ",", "B.", ",", "Linoff", ",", "G.", ",", "&", "Waltz.", ",", "D.", "-LRB-", "1992", "-RRB-", ".", "Classifying", "news", "stories", "using", "memory", "based", "reasoning", ".", "SIGIR-92", "-LRB-", "pp.", "59", "64", "-RRB-", ".", "-LSB-", "23", "-RSB-", "McCallum", ",", "A.", "K.", "-LRB-", "1996", "-RRB-", ".", "Bow", ":", "A", "toolkit", "for", "statistical", "language", "modeling", ",", "text", "retrieval", ",", "classification", "and", "clustering", ".", "http://www.cs.cmu.edu/", "mccallum/bow", ".", "-LSB-", "24", "-RSB-", "Mika", ",", "S.", ",", "R", "atsch", ",", "G.", ",", "Weston", ",", "J.", ",", "Sch", "olkopf", ",", "B.", ",", "&", "M", "uller", ",", "K.-R", ".", "-LRB-", "1999", "-RRB-", ".", "Fisher", "discriminant", "analysis", "with", "kernels", ".", "Neural", "Networks", "for", "Signal", "Processing", "IX", "-LRB-", "pp.", "41", "48", "-RRB-", ".", "IEEE", ".", "-LSB-", "25", "-RSB-", "Ng", ",", "H.", "T.", ",", "Goh", ",", "W.", "B.", ",", "&", "Low", ",", "K.", "L.", "-LRB-", "1997", "-RRB-", ".", "Feature", "selection", ",", "perceptron", "learning", ",", "and", "a", "usability", "case", "study", "for", "text", "categorization", ".", "Proceedings", "of", "the", "20th", "Annual", "International", "ACM", "SIGIR", "Conference", "on", "Research", "and", "Development", "in", "Information", "-LRB-", "pp.", "67", "73", "-RRB-", ".", "-LSB-", "26", "-RSB-", "Nigam", ",", "K.", ",", "Lafferty", ",", "J.", ",", "&", "McCallum", ",", "A.", "-LRB-", "1999", "-RRB-", ".", "Using", "maximum", "entropy", "for", "text", "classification", ".", "In", "IJCAI-99", "Workshop", "on", "Machine", "Learning", "for", "Information", "Filtering", "-LRB-", "pp.", "61", "67", "-RRB-", ".", "-LSB-", "27", "-RSB-", "Papadimitriou", ",", "C.", "H.", ",", "Tamaki", ",", "H.", ",", "Raghavan", ",", "P.", ",", "&", "Vempala", ",", "S.", "-LRB-", "1998", "-RRB-", ".", "Latent", "semantic", "indexing", ":", "A", "probabilistic", "analysis", ".", "Proceedings", "of", "the", "Symposium", "on", "Principles", "of", "Database", "Systems", "-LRB-", "pp.", "159", "168", "-RRB-", ".", "-LSB-", "28", "-RSB-", "Schapire", ",", "R.", "E.", ",", "&", "Singer", ",", "Y.", "-LRB-", "2000", "-RRB-", ".", "Boostexter", ":", "A", "boosting-based", "system", "for", "text", "categorization", ".", "Machine", "Learning", ",", "39", ",", "135", "168", ".", "-LSB-", "29", "-RSB-", "Scholkopf", ",", "B.", ",", "&", "J.Smola", ",", "A.", "-LRB-", "2002", "-RRB-", ".", "Learning", "with", "kernels", ".", "MIT", "Press", ".", "-LSB-", "30", "-RSB-", "TDT2", "-LRB-", "1998", "-RRB-", ".", "Nist", "topic", "detection", "and", "tracking", "corpus", ".", "http://www.nist.gove/speech/tests/tdt/tdt98/index.htm", ".", "-LSB-", "31", "-RSB-", "Tzeras", ",", "K.", ",", "&", "Hartmann", ",", "S.", "-LRB-", "1993", "-RRB-", ".", "Automatic", "indexing", "based", "on", "Bayesian", "inference", "networks", ".", "SIGIR-93", "-LRB-", "pp.", "22", "34", "-RRB-", ".", "-LSB-", "32", "-RSB-", "Vapnik", ",", "V.", "N.", "-LRB-", "1998", "-RRB-", ".", "Statistical", "learning", "theory", ".", "Wiley", ",", "New", "York", ".", "-LSB-", "33", "-RSB-", "Wiener", ",", "E.", "D.", ",", "Pedersen", ",", "J.", "O.", ",", "&", "Weigend", ",", "A.", "S.", "-LRB-", "1995", "-RRB-", ".", "A", "neural", "network", "approach", "to", "topic", "spotting", ".", "4th", "Annual", "Symposium", "on", "Document", "Analysis", "and", "Information", "Retrieval", "-LRB-", "pp.", "317", "332", "-RRB-", ".", "-LSB-", "34", "-RSB-", "Yang", ",", "Y.", ",", "&", "Liu", ",", "X.", "-LRB-", "1999", "-RRB-", ".", "A", "re-examination", "of", "text", "categorization", "methods", ".", "SIGIR-99", "-LRB-", "pp.", "42", "49", "-RRB-", ".", "-LSB-", "35", "-RSB-", "Yang", ",", "Y.", ",", "&", "Pederson", ",", "J.", "O.", "-LRB-", "1997", "-RRB-", ".", "A", "comparative", "study", "on", "feature", "selection", "in", "text", "categorization", ".", "ICML-97", "-LRB-", "pp.", "412", "420", "-RRB-", ".", "324"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["text categorization", "gsvd", "gda", "discriminant analysis", "svms"], "abstractive_keyphrases": ["multi-class classification", "multi-class text categorization"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "81", "document": ["Energy", "Management", "Schemes", "for", "Memory-Resident", "Database", "Systems", "With", "the", "tremendous", "growth", "of", "system", "memories", ",", "memory-resident", "databases", "are", "increasingly", "becoming", "important", "in", "various", "domains", ".", "Newer", "memories", "provide", "a", "structured", "way", "of", "storing", "data", "in", "multiple", "chips", ",", "with", "each", "chip", "having", "a", "bank", "of", "memory", "modules", ".", "Current", "memory-resident", "databases", "are", "yet", "to", "take", "full", "advantage", "of", "the", "banked", "storage", "system", ",", "which", "offers", "a", "lot", "of", "room", "for", "performance", "and", "energy", "optimizations", ".", "In", "this", "paper", ",", "we", "identify", "the", "implications", "of", "a", "banked", "memory", "environment", "in", "supporting", "memory-resident", "databases", ",", "and", "propose", "hardware", "-LRB-", "memory-directed", "-RRB-", "and", "software", "-LRB-", "query-directed", "-RRB-", "schemes", "to", "reduce", "the", "energy", "consumption", "of", "queries", "executed", "on", "these", "databases", ".", "Our", "results", "show", "that", "high-level", "query-directed", "schemes", "-LRB-", "hosted", "in", "the", "query", "optimizer", "-RRB-", "better", "utilize", "the", "low-power", "modes", "in", "reducing", "the", "energy", "consumption", "than", "the", "respective", "hardware", "schemes", "-LRB-", "hosted", "in", "the", "memory", "controller", "-RRB-", ",", "due", "to", "their", "complete", "knowledge", "of", "query", "access", "patterns", ".", "We", "extend", "this", "further", "and", "propose", "a", "query", "restructuring", "scheme", "and", "a", "multi-query", "optimization", ".", "Queries", "are", "restructured", "and", "regrouped", "based", "on", "their", "table", "access", "patterns", "to", "maximize", "the", "likelihood", "that", "data", "accesses", "are", "clustered", ".", "This", "helps", "increase", "the", "inter-access", "idle", "times", "of", "memory", "modules", ",", "which", "in", "turn", "enables", "a", "more", "effective", "control", "of", "their", "energy", "behavior", ".", "This", "heuristic", "is", "eventually", "integrated", "with", "our", "hardware", "optimizations", "to", "achieve", "maximum", "savings", ".", "Our", "experimental", "results", "show", "that", "the", "memory", "energy", "reduces", "by", "90", "%", "if", "query", "restructuring", "method", "is", "applied", "along", "with", "basic", "energy", "optimizations", "over", "the", "unoptimized", "version", ".", "The", "system-wide", "performance", "impact", "of", "each", "scheme", "is", "also", "studied", "simultaneously", ".", "H.", "2.2", "-LSB-", "Database", "Management", "-RSB-", ":", "Physical", "Design", "Access", "Methods", "H.", "3.2", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Storage", "B.", "3.1", "-LSB-", "Memory", "Structures", "-RSB-", ":", "Semiconductor", "Memories", "DRAM", "General", "Terms", ":", "Design", ",", "Performance", "Memory-resident", "databases", "-LRB-", "also", "called", "in-memory", "databases", "-LSB-", "6", "-RSB-", "-RRB-", "are", "emerging", "to", "be", "more", "significant", "due", "to", "the", "current", "era", "of", "memory-intensive", "computing", ".", "These", "databases", "are", "used", "in", "a", "wide", "range", "of", "systems", "ranging", "from", "real-time", "trading", "applications", "to", "IP", "routing", ".", "With", "the", "growing", "complexities", "of", "embedded", "systems", "-LRB-", "like", "real-time", "constraints", "-RRB-", ",", "use", "of", "a", "commercially", "developed", "structured", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "04", ",", "November", "8", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-874-1", "/", "04/0011", "...", "$", "5.00", ".", "memory", "database", "is", "becoming", "very", "critical", "-LSB-", "5", "-RSB-", ".", "Consequently", ",", "device", "developers", "are", "turning", "to", "commercial", "databases", ",", "but", "existing", "embedded", "DBMS", "software", "has", "not", "provided", "the", "ideal", "fit", ".", "Embedded", "databases", "emerged", "well", "over", "a", "decade", "ago", "to", "support", "business", "systems", ",", "with", "features", "including", "complex", "caching", "logic", "and", "abnormal", "termination", "recovery", ".", "But", "on", "a", "device", ",", "within", "a", "set-top", "box", "or", "next-generation", "fax", "machine", ",", "for", "example", ",", "these", "abilities", "are", "often", "unnecessary", "and", "cause", "the", "application", "to", "exceed", "available", "memory", "and", "CPU", "resources", ".", "In", "addition", ",", "current", "in-memory", "database", "support", "does", "not", "consider", "embedded", "system", "specific", "issues", "such", "as", "energy", "consumption", ".", "Memory", "technology", "has", "grown", "tremendously", "over", "the", "years", ",", "providing", "larger", "data", "storage", "space", "at", "a", "cheaper", "cost", ".", "Recent", "memory", "designs", "have", "more", "structured", "and", "partitioned", "layouts", "in", "the", "form", "of", "multiple", "chips", ",", "each", "having", "memory", "banks", "-LSB-", "30", "-RSB-", ".", "Banked", "memories", "are", "energy", "efficient", "by", "design", ",", "as", "per-access", "energy", "consumption", "decreases", "with", "decreasing", "memory", "size", "-LRB-", "and", "a", "memory", "bank", "is", "typically", "much", "smaller", "compared", "to", "a", "large", "monolithic", "memory", "-RRB-", ".", "In", "addition", ",", "these", "memory", "systems", "provide", "low-power", "operating", "modes", ",", "which", "can", "be", "used", "for", "reducing", "the", "energy", "consumption", "of", "a", "bank", "when", "it", "is", "not", "being", "used", ".", "An", "important", "question", "regarding", "the", "use", "of", "these", "low-power", "modes", "is", "when", "to", "transition", "to", "one", "once", "an", "idleness", "is", "detected", ".", "Another", "important", "question", "is", "whether", "the", "application", "can", "be", "modified", "to", "take", "better", "advantage", "of", "these", "low-power", "modes", ".", "While", "these", "questions", "are", "slowly", "being", "addressed", "in", "architecture", ",", "compiler", ",", "and", "OS", "communities", ",", "to", "our", "knowledge", ",", "there", "has", "been", "no", "prior", "work", "that", "examines", "the", "energy", "and", "performance", "behavior", "of", "databases", "under", "a", "banked", "memory", "architecture", ".", "Considering", "increasingly", "widespread", "use", "of", "banked", "memories", ",", "such", "a", "study", "can", "provide", "us", "with", "valuable", "information", "regarding", "the", "behavior", "of", "databases", "under", "these", "memories", "and", "potential", "modifications", "to", "DBMSs", "for", "energy", "efficiency", ".", "Since", "such", "banked", "systems", "are", "also", "being", "employed", "in", "high-end", "server", "systems", ",", "banked", "memory", "friendly", "database", "strategies", "can", "also", "be", "useful", "in", "high-end", "environments", "to", "help", "reduce", "energy", "consumption", ".", "Our", "detailed", "energy", "characterization", "of", "a", "banked", "memory", "architecture", "that", "runs", "a", "memory-resident", "DBMS", "showed", "that", "nearly", "59", "%", "of", "overall", "energy", "-LRB-", "excluding", "input/output", "devices", "-RRB-", "in", "a", "typical", "query", "execution", "is", "spent", "in", "the", "memory", ",", "making", "this", "component", "an", "important", "target", "for", "optimization", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "Moreover", ",", "for", "any", "system", ",", "memory", "power", "and", "energy", "consumption", "have", "become", "critical", "design", "parameters", "besides", "cost", "and", "performance", ".", "Based", "on", "these", "observations", ",", "this", "paper", "evaluates", "the", "potential", "energy", "benefits", "that", "memory-resident", "database", "queries", "can", "achieve", "by", "making", "use", "of", "banked", "memory", "architectures", "supported", "with", "low-power", "operating", "modes", ".", "Since", "each", "memory", "bank", "is", "capable", "of", "operating", "independently", ",", "this", "opens", "up", "abundant", "avenues", "for", "energy", "and", "performance", "optimizations", ".", "In", "this", "paper", ",", "we", "focus", "on", "a", "banked", "memory", "architecture", "and", "study", "potential", "energy", "benefits", "when", "database", "queries", "are", "executed", ".", "Specifically", ",", "we", "focus", "on", "two", "important", "aspects", "of", "the", "problem", ":", "Characterizing", "energy", "benefits", "of", "banked", "memories", "using", "hardware", "and", "software", "techniques", ":", "To", "see", "whether", "query", "execution", "can", "make", "use", "of", "available", "low-power", "modes", ",", "we", "study", "both", "hardware", "and", "software", "techniques", ".", "The", "hardware", "techniques", "detect", "the", "idleness", "of", "memory", "banks", "and", "switch", "the", "inactive", "-LRB-", "idle", "-RRB-", "banks", "-LRB-", "during", "218", "Memory", "59", "%", "Cache", "16", "%", "ALU", "14", "%", "Bus", "1", "%", "Others", "10", "%", "Figure", "1", ":", "Breakup", "of", "the", "energy", "consumption", "for", "various", "system", "components", ".", "The", "results", "are", "based", "on", "the", "average", "energy", "consumption", "of", "TPC-H", "benchmarks", "-LSB-", "35", "-RSB-", "executed", "on", "a", "memory-resident", "DBMS", ".", "query", "execution", "-RRB-", "to", "low-power", "operating", "modes", ".", "We", "also", "present", "a", "query-based", "memory", "energy", "optimization", "strategy", ",", "wherein", "the", "query", "plan", "is", "augmented", "by", "explicit", "bank", "turn-off/on", "instructions", "that", "transition", "memory", "banks", "into", "appropriate", "operating", "modes", "during", "the", "course", "of", "execution", "based", "on", "the", "query", "access", "pattern", ".", "We", "experimentally", "evaluate", "all", "the", "proposed", "schemes", "and", "obtain", "energy", "consumptions", "using", "an", "energy", "simulator", ".", "Our", "experiments", "using", "TPC-H", "queries", "-LSB-", "35", "-RSB-", "and", "a", "set", "of", "queries", "suitable", "for", "handheld", "devices", "clearly", "indicate", "that", "both", "hardware-based", "and", "query-directed", "strategies", "save", "significant", "memory", "energy", ".", "Query", "restructuring", "for", "memory", "energy", "savings", ":", "We", "propose", "a", "query", "restructuring", "scheme", "and", "a", "multi-query", "optimization", "strategy", "to", "further", "increase", "energy", "benefits", "coming", "from", "using", "low-power", "operating", "modes", ".", "The", "idea", "behind", "these", "schemes", "is", "to", "increase", "bank", "inter-access", "times", "so", "that", "more", "aggressive", "low-power", "modes", "can", "be", "employed", "and", "a", "memory", "bank", "can", "stay", "in", "a", "low-power", "mode", "longer", "once", "it", "is", "transitioned", ".", "Our", "experimental", "evaluation", "indicates", "that", "this", "query", "restructuring", "strategy", "does", "not", "only", "reduce", "energy", "consumption", ",", "but", "also", "helps", "improve", "overall", "performance", "-LRB-", "execution", "cycles", "-RRB-", ".", "Apart", "from", "providing", "useful", "input", "for", "database", "designers", ",", "our", "results", "can", "also", "be", "used", "by", "hardware", "designers", "to", "tune", "the", "behavior", "of", "low-power", "modes", "so", "that", "they", "handle", "query", "access", "patterns", "better", ".", "Similar", "to", "the", "observation", "that", "creating", "a", "lightweight", "version", "of", "a", "disk-based", "database", "will", "not", "serve", "as", "a", "suitable", "in-memory", "database", ",", "our", "belief", "is", "that", "taking", "an", "in-memory", "database", "system", "and", "using", "it", "on", "a", "banked", "architecture", "without", "any", "modification", "may", "not", "generate", "the", "desired", "results", ".", "Therefore", ",", "the", "results", "presented", "in", "this", "work", "also", "shed", "light", "on", "how", "database", "design", "and", "memory", "architecture", "design", "interact", "with", "each", "other", ".", "The", "remainder", "of", "this", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "presents", "related", "work", ".", "Section", "3", "elaborates", "on", "the", "memory", "database", "that", "we", "built", "and", "also", "on", "the", "memory", "banking", "scheme", "that", "we", "employ", "for", "our", "experiments", ".", "Section", "4", "presents", "in", "detail", "the", "proposed", "hardware", "and", "query-directed", "energy", "optimization", "techniques", ".", "The", "results", "of", "our", "energy", "evaluation", "of", "these", "schemes", "are", "discussed", "in", "Section", "5", ".", "Our", "experiments", "also", "account", "for", "the", "performance", "overhead", "incurred", "in", "supporting", "our", "schemes", ".", "Section", "6", "presents", "our", "query", "restructuring", "and", "regrouping", "scheme", ",", "and", "Section", "7", "discusses", "its", "energy/performance", "benefits", "within", "the", "context", "of", "our", "banked", "memory", "architecture", ".", "Finally", ",", "Section", "8", "summarizes", "the", "results", ".", "In", "the", "past", ",", "memory", "has", "been", "redesigned", ",", "tuned", "or", "optimized", "to", "suit", "emerging", "fields", ".", "Need", "for", "customized", "memory", "structures", "and", "allocation", "strategies", "form", "the", "foundation", "for", "such", "studies", ".", "Copeland", "et", "al", "proposed", "SafeRAM", "-LSB-", "11", "-RSB-", ",", "a", "modified", "DRAM", "model", "for", "safely", "supporting", "memory-resident", "databases", "alike", "disk-based", "systems", ",", "and", "for", "achieving", "good", "performance", ".", "In", "PicoDBMS", "-LSB-", "27", "-RSB-", ",", "Pucheral", "et", "al", "present", "techniques", "for", "scaling", "down", "a", "database", "to", "a", "smart", "card", ".", "This", "work", "also", "investigates", "some", "of", "the", "constraints", "involved", "in", "mapping", "a", "database", "to", "an", "embedded", "system", ",", "especially", "memory", "constraints", "and", "the", "need", "for", "a", "structured", "data", "layout", ".", "Anciaux", "et", "al", "-LSB-", "3", "-RSB-", "explicitly", "model", "the", "lower", "bound", "of", "the", "memory", "space", "that", "is", "needed", "for", "query", "execution", ".", "Their", "work", "focuses", "on", "light", "weight", "devices", "like", "personal", "organizers", ",", "sensor", "networks", ",", "and", "mobile", "computers", ".", "Boncz", "et", "al", "show", "how", "memory", "accesses", "form", "a", "major", "bottleneck", "during", "database", "accesses", "-LSB-", "7", "-RSB-", ".", "In", "their", "work", ",", "they", "also", "suggest", "a", "few", "remedies", "to", "alleviate", "the", "memory", "bottleneck", ".", "An", "et", "al", "analyze", "the", "energy", "behavior", "of", "mobile", "devices", "when", "spatial", "access", "methods", "are", "used", "for", "retrieving", "memory-resident", "data", "-LSB-", "2", "-RSB-", ".", "They", "use", "a", "cycle", "accurate", "simulator", "to", "identify", "the", "pros", "and", "text", "Query", "Optimizer", "Query", "Execution", "Engine", "Memory", "Database", "Queries", "Data", "Results", "Energy", "&", "Performance", "Optimizations", "-LRB-", "Using", "Cost", "Plan", "-RRB-", "Hardware", "Optimizations", "Targeting", "DBMS", "Rewrite", "System", "Parser", "System", "Catalog", "Figure", "2", ":", "DBMS", "architecture", ".", "cons", "of", "various", "indexing", "schemes", ".", "In", "-LSB-", "1", "-RSB-", ",", "Alonso", "et", "al", "investigate", "the", "possibility", "of", "increasing", "the", "effective", "battery", "life", "of", "mobile", "computers", "by", "selecting", "energy", "efficient", "query", "plans", "through", "the", "optimizer", ".", "Although", "the", "ultimate", "goal", "seems", "the", "same", ",", "their", "cost", "plan", "and", "the", "optimization", "criterion", "are", "entirely", "different", "from", "our", "scheme", ".", "Specifically", ",", "their", "emphasis", "is", "on", "a", "client-server", "model", "optimizing", "the", "network", "throughput", "and", "overall", "energy", "consumption", ".", "Gruenwald", "et", "al", "propose", "an", "energy-efficient", "transaction", "management", "system", "for", "real-time", "mobile", "databases", "in", "ad-hoc", "networks", "-LSB-", "16", "-RSB-", ".", "They", "consider", "an", "environment", "of", "mobile", "hosts", ".", "In", "-LSB-", "22", "-RSB-", ",", "Madden", "et", "al", "propose", "TinyDB", ",", "an", "acquisitional", "query", "processor", "for", "sensor", "networks", ".", "They", "provide", "SQL-like", "extensions", "to", "sensor", "networks", ",", "and", "also", "propose", "acquisitional", "techniques", "that", "reduce", "the", "power", "consumption", "of", "these", "networks", ".", "It", "should", "be", "noted", "that", "the", "queries", "in", "such", "a", "mobile", "ad-hoc", "network", "or", "a", "sensor", "environment", "is", "different", "from", "those", "in", "a", "typical", "DBMS", ".", "This", "has", "been", "shown", "by", "Imielinksi", "et", "al", "in", "-LSB-", "19", "-RSB-", ".", "In", "our", "model", ",", "we", "base", "our", "techniques", "on", "a", "generic", "banked", "memory", "environment", "and", "support", "complex", ",", "memory-intensive", "typical", "database", "operations", ".", "There", "are", "more", "opportunities", "for", "energy", "optimizations", "in", "generic", "memory", "databases", ",", "which", "have", "not", "yet", "been", "studied", "completely", ".", "The", "approach", "proposed", "in", "this", "paper", "is", "different", "from", "prior", "energy-aware", "database", "related", "studies", ",", "as", "we", "focus", "on", "a", "banked", "memory", "architecture", ",", "and", "use", "low-power", "operating", "modes", "to", "save", "energy", ".", "Gassner", "et", "al", "review", "some", "of", "the", "key", "query", "optimization", "techniques", "required", "by", "industrial-strength", "commercial", "query", "optimizers", ",", "using", "the", "DB2", "family", "of", "relational", "database", "products", "as", "examples", "-LSB-", "15", "-RSB-", ".", "This", "paper", "provides", "insight", "into", "design", "of", "query", "cost", "plans", "and", "optimization", "using", "various", "approaches", ".", "In", "-LSB-", "23", "-RSB-", ",", "Manegold", "studies", "the", "performance", "bottlenecks", "at", "the", "memory", "hierarchy", "level", "and", "proposes", "a", "detailed", "cost", "plan", "for", "memory-resident", "databases", ".", "Our", "cost", "plan", "and", "optimizer", "mimics", "the", "PostgreSQL", "model", "-LSB-", "12", ",", "14", "-RSB-", ".", "We", "chose", "it", "due", "to", "its", "simple", "cost", "models", "and", "open", "source", "availability", ".", "A", "query", "restructuring", "algorithm", "is", "proposed", "by", "Hellerstein", "in", "-LSB-", "18", "-RSB-", ".", "This", "algorithm", "uses", "predicate", "migration", "to", "optimize", "expensive", "data", "retrievals", ".", "In", "-LSB-", "10", "-RSB-", ",", "Chaudhuri", "et", "al", "extend", "this", "approach", "to", "study", "user-defined", "predicates", "and", "also", "guarantee", "an", "optimal", "solution", "for", "the", "migration", "process", ".", "Sarawagi", "et", "al", "present", "a", "query", "restructuring", "algorithm", "that", "reduces", "the", "access", "times", "of", "data", "retrieval", "from", "tertiary", "databases", "-LSB-", "32", "-RSB-", ".", "Monma", "et", "al", "develop", "the", "series-parallel", "algorithm", "for", "reordering", "primitive", "database", "operations", "-LSB-", "24", "-RSB-", ".", "This", "algorithm", "optimizes", "an", "arbitrarily", "constrained", "stream", "of", "primitive", "operations", "by", "isolating", "independent", "modules", ".", "This", "work", "forms", "the", "basic", "motivation", "for", "our", "query", "restructuring", "algorithm", ".", "However", ",", "our", "paper", "is", "different", "from", "all", "of", "the", "above", "work", "in", "the", "sense", "that", "we", "reorder", "queries", "for", "reducing", "energy", "consumption", ".", "Moreover", ",", "our", "database", "is", "memory-resident", ",", "with", "the", "presence", "of", "banked", "memory", "that", "gives", "more", "freedom", "for", "optimizations", ".", "For", "our", "work", ",", "we", "modified", "the", "PostgreSQL", "DMBS", "to", "work", "with", "memory-resident", "data", "sets", "as", "its", "workload", ".", "The", "block", "diagram", "for", "our", "setup", "is", "shown", "in", "Figure", "2", ".", "The", "core", "components", "are", "derived", "from", "PostgreSQL", ".", "The", "flow", "of", "our", "model", "is", "similar", "to", "PostgreSQL", "except", "that", "the", "database", "is", "memory", "resident", ".", "A", "query", "is", "parsed", "for", "syntax", "and", "then", "sent", "to", "the", "rewrite", "system", ".", "The", "rewrite", "system", "uses", "the", "system", "catalog", "to", "generate", "the", "query", "tree", ",", "which", "is", "then", "sent", "to", "the", "optimizer", ".", "The", "query", "optimizer", "derives", "the", "cost", "of", "the", "query", "in", "219", "Configuration", "Registers", "Self-Monitoring", "/", "Prediction", "Hardware", "Memory", "Controller", "Bank", "To/From", "CPU", "Module", "Memory", "Bus", "Figure", "3", ":", "Banked", "memory", "architecture", ".", "multiple", "ways", "using", "the", "query", "tree", "and", "issues", "the", "best", "suited", "plan", "to", "the", "query", "execution", "engine", ".", "We", "incorporate", "our", "software-based", "techniques", "at", "the", "optimizer", "stage", "of", "the", "DBMS", ".", "These", "optimizations", "are", "based", "on", "the", "cost", "that", "is", "derived", "for", "each", "of", "the", "query", "plans", "-LRB-", "the", "discussion", "pertaining", "to", "the", "modified", "cost", "model", "is", "deferred", "till", "Section", "4", "-RRB-", ".", "Based", "on", "the", "final", "query", "execution", "plan", ",", "the", "execution", "engine", "executes", "the", "query", "by", "using", "the", "database", ".", "The", "database", "is", "entirely", "memory", "resident", "and", "the", "memory", "is", "organized", "in", "a", "banked", "format", "-LRB-", "elaborated", "in", "the", "following", "section", "-RRB-", ".", "The", "executor", "recur-sively", "iterates", "the", "query", "plan", "and", "uses", "a", "per-tuple", "based", "strategy", "-LRB-", "pipelined", "execution", ",", "and", "not", "bulk", "processing", "-RRB-", "to", "project", "the", "output", "results", ".", "The", "proposed", "hardware", "optimizations", "are", "at", "the", "computer", "architecture", "level", "of", "the", "system", ".", "Since", "the", "base", "DBMS", "model", "is", "similar", "to", "PostgreSQL", ",", "we", "do", "not", "elaborate", "each", "component", "in", "detail", "-LRB-", "-LSB-", "26", "-RSB-", "provides", "an", "elaborate", "discussion", "-RRB-", ".", "Instead", ",", "we", "highlight", "our", "contributions", ",", "and", "modifications", "to", "DBMS", "-LRB-", "shown", "in", "blue", "in", "Figure", "2", "-RRB-", "in", "the", "following", "sections", ".", "Overall", ",", "our", "strategies", "require", "modification", "to", "the", "query", "optimizer", ",", "memory", "hardware", ",", "and", "system", "software", "components", ".", "3.2", "Memory", "Model", "We", "use", "a", "memory", "system", "that", "contains", "a", "memory", "array", "organized", "as", "banks", "-LRB-", "rows", "-RRB-", "and", "modules", "-LRB-", "columns", "-RRB-", ",", "as", "is", "shown", "picto-rially", "in", "Figure", "3", "for", "a", "4", "4", "memory", "module", "array", ".", "Such", "banked", "systems", "are", "already", "being", "used", "in", "high-end", "server", "systems", "-LSB-", "30", "-RSB-", "as", "well", "as", "low-end", "embedded", "systems", "-LSB-", "31", "-RSB-", ".", "The", "proposed", "optimizations", "will", ",", "however", ",", "apply", "to", "most", "bank-organized", "memory", "systems", ".", "Accessing", "a", "word", "of", "data", "would", "require", "activating", "the", "corresponding", "modules", "of", "the", "shown", "architecture", ".", "Such", "an", "organization", "allows", "one", "to", "put", "the", "unused", "banks", "into", "a", "low-power", "operating", "mode", ".", "To", "keep", "the", "issue", "tractable", ",", "this", "paper", "bases", "the", "experimental", "results", "on", "a", "sequential", "database", "environment", "and", "does", "not", "consider", "a", "multiprocessing", "environment", "-LRB-", "like", "transaction", "processing", "which", "requires", "highly", "complex", "properties", "to", "be", "satisfied", "-RRB-", ".", "We", "assume", "in", "our", "experiments", "that", "there", "is", "just", "one", "module", "in", "a", "bank", ";", "hence", ",", "in", "the", "rest", "of", "our", "discussion", ",", "we", "use", "the", "terms", "``", "bank", "''", "and", "``", "module", "''", "interchangeably", ".", "3.3", "Operating", "Modes", "We", "assume", "the", "existence", "of", "five", "operating", "modes", "for", "a", "memory", "module", ":", "active", ",", "standby", ",", "nap", ",", "power-down", ",", "and", "disabled", "1", ".", "Each", "mode", "is", "characterized", "by", "its", "energy", "consumption", "and", "the", "time", "that", "it", "takes", "to", "transition", "back", "to", "the", "active", "mode", "-LRB-", "termed", "resynchronization", "time", "or", "resynchronization", "cost", "-RRB-", ".", "Typically", ",", "the", "lower", "the", "energy", "consumption", ",", "the", "higher", "the", "resynchronization", "time", "-LSB-", "30", "-RSB-", ".", "Figure", "4", "shows", "possible", "transitions", "between", "the", "various", "low-power", "modes", "-LRB-", "the", "dynamic", "energy", "2", "consumed", "in", "a", "cycle", "is", "given", "for", "each", "node", "-RRB-", "in", "our", "model", ".", "The", "resynchronization", "times", "in", "cycles", "-LRB-", "based", "on", "a", "cycle", "time", "of", "3.3", "ns", "-RRB-", "are", "shown", "along", "the", "arrows", "-LRB-", "we", "assume", "a", "negligible", "cost", "for", "transitioning", "to", "a", "lower", "power", "mode", "-RRB-", ".", "The", "energy", "and", "resynchronization", "values", "shown", "in", "this", "figure", "have", "been", "obtained", "from", "the", "RDRAM", "memory", "data", "sheet", "-LRB-", "512", "MB", ",", "2.5", "V", ",", "3.3", "ns", "cycle", "time", ",", "8", "MB", "modules", "-RRB-", "-LSB-", "30", "-RSB-", ".", "When", "a", "module", "in", "standby", ",", "nap", ",", "or", "power-down", "mode", "is", "requested", "to", "perform", "a", "memory", "transaction", ",", "it", "first", "goes", "to", "the", "active", "mode", ",", "and", "1", "Current", "DRAMs", "-LSB-", "30", "-RSB-", "support", "up", "to", "six", "energy", "modes", "of", "operation", "with", "a", "few", "of", "them", "supporting", "only", "two", "modes", ".", "One", "may", "choose", "to", "vary", "the", "number", "of", "modes", "based", "on", "the", "target", "memory", ".", "2", "We", "exclusively", "concentrate", "on", "dynamic", "power", "consumption", "that", "arises", "due", "to", "bit", "switching", ",", "and", "do", "not", "consider", "the", "static", "-LRB-", "leakage", "-RRB-", "power", "consumption", "-LSB-", "28", "-RSB-", "in", "this", "paper", ".", "Full", "Power", "-LRB-", "2.063", "nJ", "-RRB-", "Standby", "-LRB-", "0.743", "nJ", "-RRB-", "Nap", "-LRB-", "0.035", "nJ", "-RRB-", "Power", "Down", "-LRB-", "0.025", "nJ", "-RRB-", "Disabled", "-LRB-", "0", "nJ", "-RRB-", "1", "16", "9000", "Figure", "4", ":", "Available", "operating", "modes", "and", "their", "resynchronization", "costs", ".", "then", "performs", "the", "requested", "transaction", ".", "While", "one", "could", "employ", "all", "possible", "transitions", "given", "in", "Figure", "4", "-LRB-", "and", "maybe", "more", "-RRB-", ",", "our", "query-directed", "approach", "only", "utilizes", "the", "transitions", "shown", "by", "solid", "arrows", ".", "The", "runtime", "-LRB-", "hardware-based", "-RRB-", "approaches", ",", "on", "the", "other", "hand", ",", "can", "exploit", "two", "additional", "transitions", ":", "from", "standby", "to", "nap", ",", "and", "from", "nap", "to", "power-down", ".", "3.4", "System", "Support", "for", "Power", "Mode", "Setting", "Typically", ",", "several", "of", "the", "memory", "modules", "-LRB-", "that", "are", "shown", "in", "Figure", "3", "-RRB-", "are", "controlled", "by", "a", "memory", "controller", "which", "interfaces", "with", "the", "memory", "bus", ".", "For", "example", ",", "the", "operating", "mode", "setting", "could", "be", "done", "by", "programming", "a", "specific", "control", "register", "in", "each", "memory", "module", "-LRB-", "as", "in", "RDRAM", "-LSB-", "30", "-RSB-", "-RRB-", ".", "Next", "is", "the", "issue", "of", "how", "the", "memory", "controller", "can", "be", "told", "to", "transition", "the", "operating", "modes", "of", "the", "individual", "modules", ".", "This", "is", "explored", "in", "two", "ways", "in", "this", "paper", ":", "hardware-directed", "approach", "and", "software-directed", "-LRB-", "query-directed", "-RRB-", "approach", ".", "In", "the", "hardware-directed", "approach", ",", "there", "is", "a", "Self-Monitoring", "and", "Prediction", "Hardware", "block", "-LRB-", "as", "shown", "in", "Figure", "3", "-RRB-", ",", "which", "monitors", "all", "ongoing", "memory", "transactions", ".", "It", "contains", "some", "prediction", "hardware", "-LRB-", "based", "on", "the", "hardware", "scheme", "-RRB-", "to", "estimate", "the", "time", "until", "the", "next", "access", "to", "a", "memory", "bank", "and", "circuitry", "to", "ask", "the", "memory", "controller", "to", "initiate", "mode", "transitions", "-LRB-", "limited", "amount", "of", "such", "self-monitored", "power", "down", "is", "already", "present", "in", "current", "memory", "controllers", ",", "for", "example", ":", "Intel", "82443BX", "and", "Intel", "820", "Chip", "Sets", "-RRB-", ".", "In", "the", "query-directed", "approach", ",", "the", "DBMS", "explicitly", "requests", "the", "memory", "controller", "to", "issue", "the", "control", "signals", "for", "a", "specific", "module", "'s", "mode", "transitions", ".", "We", "assume", "the", "availability", "of", "a", "set", "of", "configuration", "registers", "in", "the", "memory", "controller", "-LRB-", "see", "Figure", "3", "-RRB-", "that", "are", "mapped", "into", "the", "address", "space", "of", "the", "CPU", "-LRB-", "similar", "to", "the", "registers", "in", "the", "memory", "controller", "in", "-LSB-", "20", "-RSB-", "-RRB-", ".", "These", "registers", "are", "then", "made", "available", "to", "the", "user", "space", "-LRB-", "so", "that", "the", "DBMS", "application", "can", "have", "a", "control", "-RRB-", "through", "operating", "system", "calls", ".", "Regardless", "of", "which", "strategy", "is", "used", ",", "the", "main", "objective", "of", "employing", "such", "strategies", "is", "to", "reduce", "the", "energy", "consumption", "of", "a", "query", "when", "some", "memory", "banks", "are", "idle", "during", "the", "query", "'s", "execution", ".", "That", "is", ",", "a", "typical", "query", "only", "accesses", "a", "small", "set", "of", "tables", ",", "which", "corresponds", "to", "a", "small", "number", "of", "banks", ".", "The", "remaining", "memory", "banks", "can", "be", "placed", "into", "a", "low-power", "operating", "mode", "to", "save", "memory", "energy", ".", "However", ",", "it", "is", "also", "important", "to", "select", "the", "low-power", "mode", "to", "use", "carefully", "-LRB-", "when", "a", "bank", "idleness", "is", "detected", "-RRB-", ",", "as", "switching", "to", "a", "wrong", "mode", "either", "incurs", "significant", "performance", "penalties", "-LRB-", "due", "to", "large", "resynchronization", "costs", "-RRB-", "or", "prevents", "us", "from", "obtaining", "maximum", "potential", "energy", "benefits", ".", "Note", "that", "energy", "optimization", "is", "our", "context", "can", "be", "performed", "from", "two", "angles", ".", "First", ",", "suitable", "use", "of", "low-power", "operating", "modes", "can", "reduce", "energy", "consumption", "of", "a", "given", "query", "execution", ".", "Second", ",", "the", "query", "plan", "can", "be", "changed", "-LRB-", "if", "it", "is", "possible", "to", "do", "so", "-RRB-", "to", "further", "increase", "energy", "benefits", ".", "In", "this", "work", ",", "we", "explore", "both", "these", "angles", ".", "In", "a", "banked", "architecture", ",", "the", "memory", "can", "be", "managed", "through", "either", "of", "the", "following", "two", "approaches", ":", "-LRB-", "1", "-RRB-", "a", "runtime", "approach", "wherein", "the", "hardware", "is", "in", "full", "control", "of", "operating", "mode", "transitions", ";", "and", "-LRB-", "2", "-RRB-", "a", "query-directed", "scheme", "wherein", "explicit", "bank", "turn-on/off", "instructions", "are", "inserted", "in", "the", "query", "execution", "plan", "to", "invoke", "mode", "transitions", ".", "One", "also", "has", "the", "option", "of", "using", "both", "the", "approaches", "simultaneously", "-LRB-", "which", "we", "illustrate", "in", "later", "sections", "-RRB-", ".", "220", "Full", "Power", "Standby", "Nap", "Power", "Down", "idle", "stanby", "idle", "nap", "idle", "down", "resynch", "stanby", "resynch", "nap", "resynch", "down", "Figure", "5", ":", "Dynamic", "threshold", "scheme", ".", "4.1", "Hardware-Directed", "Schemes", "We", "explore", "two", "hardware-directed", "approaches", "that", "allow", "the", "memory", "system", "to", "automatically", "transition", "the", "idle", "banks", "to", "an", "energy", "conserving", "state", ".", "The", "problem", "then", "is", "to", "detect/predict", "bank", "idleness", "and", "transition", "idle", "banks", "into", "appropriate", "low-power", "modes", ".", "4.1.1", "Static", "Standby", "Scheme", "The", "first", "approach", "is", "a", "per-access", "optimization", ".", "Most", "of", "the", "recent", "DRAMs", "allow", "the", "chips", "to", "be", "put", "to", "standby", "mode", "immediately", "after", "each", "reference", "-LSB-", "30", "-RSB-", ".", "After", "a", "read/write", "access", ",", "the", "memory", "module", "that", "gets", "accessed", "can", "be", "placed", "into", "the", "standby", "mode", "in", "the", "following", "cycle", ".", "We", "refer", "to", "this", "scheme", "as", "the", "static", "standby", "mode", "in", "the", "rest", "of", "our", "discussion", ".", "Note", "that", ",", "while", "this", "scheme", "is", "not", "very", "difficult", "to", "implement", ",", "it", "may", "lead", "to", "frequent", "resynchro-nizations", ",", "which", "can", "be", "very", "harmful", "as", "far", "as", "execution", "cycles", "are", "concerned", ".", "4.1.2", "Dynamic", "Threshold", "Scheme", "Our", "second", "hardware-guided", "approach", "is", "based", "on", "runtime", "dynamics", "of", "the", "memory", "subsystem", ".", "The", "rationale", "behind", "this", "approach", "is", "that", "if", "a", "memory", "module", "has", "not", "been", "accessed", "in", "a", "while", ",", "then", "it", "is", "not", "likely", "to", "be", "needed", "in", "the", "near", "future", "-LRB-", "that", "is", ",", "inter-access", "times", "are", "predicted", "to", "be", "long", "-RRB-", ".", "A", "threshold", "is", "used", "to", "determine", "the", "idleness", "of", "a", "module", "after", "which", "it", "is", "transitioned", "to", "a", "low-power", "mode", ".", "More", "specifically", ",", "we", "propose", "a", "scheme", "where", "each", "memory", "module", "is", "put", "into", "a", "low-power", "state", "with", "its", "idle", "cycles", "as", "the", "threshold", "for", "transition", ".", "The", "schematic", "of", "our", "dynamic", "threshold", "scheme", "is", "depicted", "in", "Figure", "5", ".", "After", "idle", "stndby", "cycles", "of", "idleness", ",", "the", "corresponding", "module", "is", "put", "in", "the", "standby", "mode", ".", "Subsequently", ",", "if", "the", "module", "is", "not", "referenced", "for", "another", "idle", "nap", "cycles", ",", "it", "is", "transitioned", "to", "the", "nap", "mode", ".", "Finally", ",", "if", "the", "module", "is", "not", "referenced", "for", "a", "further", "idle", "down", "cycles", ",", "it", "is", "placed", "into", "the", "power-down", "mode", ".", "Whenever", "the", "module", "is", "referenced", ",", "it", "is", "brought", "back", "into", "the", "active", "mode", "incurring", "the", "corresponding", "resynchronization", "costs", "-LRB-", "based", "on", "what", "low-power", "mode", "it", "was", "in", "-RRB-", ".", "It", "should", "be", "noted", "that", "even", "if", "a", "single", "bank", "experiences", "a", "resynchronization", "cost", ",", "the", "other", "banks", "will", "also", "incur", "the", "corresponding", "delay", "-LRB-", "to", "ensure", "correct", "execution", "-RRB-", ".", "Implementing", "the", "dynamic", "mechanism", "requires", "a", "set", "of", "counters", "-LRB-", "one", "for", "each", "bank", "-RRB-", "that", "are", "decremented", "at", "each", "cycle", ",", "and", "set", "to", "a", "threshold", "value", "whenever", "they", "expire", "or", "the", "module", "is", "accessed", ".", "A", "zero", "detector", "for", "a", "counter", "initiates", "the", "memory", "controller", "to", "transmit", "the", "instructions", "for", "mode", "transition", "to", "the", "memory", "modules", ".", "4.2", "Software-Directed", "Scheme", "It", "is", "to", "be", "noted", "that", "a", "hardware-directed", "scheme", "works", "well", "independent", "of", "the", "DBMS", "and", "the", "query", "optimizer", "used", ".", "This", "is", "because", "the", "idleness", "predictors", "are", "attached", "to", "the", "memory", "banks", "and", "monitor", "idleness", "from", "the", "perspective", "of", "banks", ".", "In", "contrast", ",", "a", "query-directed", "scheme", "gives", "the", "task", "of", "enforcing", "mode", "transitions", "to", "the", "query", ".", "This", "is", "possible", "because", "the", "query", "optimizer", ",", "once", "it", "generates", "the", "execution", "plan", ",", "has", "a", "complete", "information", "about", "the", "query", "access", "patterns", "-LRB-", "i.e.", ",", "which", "tables", "will", "be", "accessed", "and", "in", "what", "order", ",", "etc", "-RRB-", ".", "Consequently", ",", "if", "the", "optimizer", "also", "knows", "the", "table-to-bank", "mappings", ",", "it", "can", "have", "a", "very", "good", "idea", "about", "the", "bank", "access", "patterns", ".", "Then", ",", "using", "this", "information", ",", "it", "can", "proac-tively", "transition", "memory", "banks", "to", "different", "modes", ".", "In", "this", "section", ",", "we", "elaborate", "on", "each", "step", "in", "the", "particular", "query-directed", "approach", "that", "we", "implemented", ",", "which", "includes", "customized", "bank", "allocation", ",", "query", "analysis", ",", "and", "insertion", "of", "bank", "turn-on/off", "-LRB-", "for", "explicit", "power", "mode", "control", "-RRB-", "instructions", ".", "4.2.1", "Bank", "Allocation", "In", "the", "case", "of", "software-directed", "scheme", ",", "the", "table", "allocation", "is", "handled", "by", "the", "DBMS", ".", "Specifically", ",", "the", "DBMS", "allocates", "the", "newly-created", "tables", "to", "the", "banks", ",", "and", "keeps", "track", "of", "the", "table-to-bank", "mappings", ".", "When", "a", "``", "create", "table", "''", "operation", "is", "issued", ",", "the", "DBMS", "first", "checks", "for", "free", "space", ".", "If", "there", "is", "sufficient", "free", "space", "available", "in", "a", "single", "bank", ",", "the", "table", "is", "allocated", "from", "that", "bank", ".", "If", "a", "bank", "is", "not", "able", "to", "accommodate", "the", "entire", "table", ",", "the", "table", "is", "split", "across", "multiple", "banks", ".", "Also", ",", "while", "creating", "a", "new", "table", ",", "the", "DBMS", "tries", "to", "reuse", "the", "already", "occupied", "banks", "to", "the", "highest", "extent", "possible", ";", "that", "is", ",", "it", "does", "not", "activate", "a", "new", "bank", "unless", "it", "is", "necessary", ".", "Note", "that", "the", "unactivated", "-LRB-", "unused", "-RRB-", "banks", "i.e.", ",", "the", "banks", "that", "do", "not", "hold", "any", "data", "can", "remain", "in", "the", "disabled", "mode", "throughout", "the", "execution", ".", "However", ",", "it", "also", "tries", "not", "to", "split", "tables", "excessively", ".", "In", "more", "detail", ",", "when", "it", "considers", "an", "already", "occupied", "bank", "for", "a", "new", "table", "allocation", ",", "the", "table", "boundaries", "are", "checked", "first", "using", "the", "available", "space", "in", "that", "bank", ".", "If", "a", "bank", "is", "more", "than", "two-thirds", "full", "with", "the", "table", "data", ",", "the", "rest", "of", "the", "bank", "is", "padded", "with", "empty", "bits", "and", "the", "new", "table", "is", "created", "using", "pages", "from", "a", "new", "bank", ".", "Otherwise", ",", "the", "table", "is", "created", "beginning", "in", "the", "same", "bank", ".", "Irrespective", "of", "whether", "the", "table", "is", "created", "on", "a", "new", "bank", "or", "not", ",", "the", "DBMS", "creates", "a", "new", "table-to-bank", "mapping", "entry", "after", "each", "table", "creation", ".", "In", "hardware-directed", "schemes", ",", "we", "avoid", "these", "complexities", "involved", "in", "bank", "allocation", "as", "we", "assume", "that", "there", "is", "absolutely", "no", "software", "control", ".", "Consequently", ",", "in", "the", "hardware-directed", "schemes", ",", "we", "use", "the", "sequential", "first", "touch", "placement", "policy", ".", "This", "policy", "allocates", "new", "pages", "sequentially", "in", "a", "single", "bank", "until", "it", "gets", "completely", "filled", ",", "before", "moving", "on", "to", "the", "next", "bank", ".", "Also", ",", "the", "table-to", "-", "bank", "mapping", "is", "not", "stored", "within", "the", "DBMS", "since", "the", "mode", "control", "mechanism", "is", "handled", "by", "the", "hardware", ".", "4.2.2", "Estimating", "Idleness", "and", "Selecting", "the", "Appropriate", "Low-Power", "Mode", "It", "should", "be", "emphasized", "that", "the", "main", "objective", "of", "our", "query-directed", "scheme", "is", "to", "identify", "bank", "idleness", ".", "As", "explained", "above", ",", "in", "order", "to", "achieve", "this", ",", "it", "needs", "table-to-bank", "mapping", ".", "However", ",", "this", "is", "not", "sufficient", "as", "it", "also", "needs", "to", "know", "when", "each", "table", "will", "be", "accessed", "and", "how", "long", "an", "access", "will", "take", "-LRB-", "i.e.", ",", "the", "query", "access", "pattern", "-RRB-", ".", "To", "estimate", "this", ",", "we", "need", "to", "estimate", "the", "duration", "of", "accesses", "to", "each", "table", ",", "which", "means", "estimating", "the", "time", "taken", "by", "the", "database", "operations", ".", "Fortunately", ",", "the", "current", "DBMSs", "already", "maintain", "such", "estimates", "for", "query", "optimization", "purposes", "-LSB-", "12", ",", "15", ",", "29", ",", "33", ",", "34", "-RSB-", ".", "More", "specifically", ",", "given", "a", "query", ",", "the", "optimizer", "looks", "at", "the", "query", "access", "pattern", "using", "the", "generated", "query", "plan", ".", "The", "inter-access", "times", "are", "calculated", "using", "the", "query", "plan", ".", "A", "query", "plan", "elucidates", "the", "operations", "within", "a", "query", "and", "also", "the", "order", "in", "which", "these", "operations", "access", "the", "various", "tables", "in", "the", "database", ".", "Even", "in", "current", "databases", ",", "the", "query", "plan", "generator", "estimates", "access", "costs", "using", "query", "plans", "-LSB-", "12", "-RSB-", ".", "We", "use", "the", "same", "access", "cost", "estimation", "methodology", ".", "These", "access", "costs", "are", "measured", "in", "terms", "of", "page", "-LRB-", "block", "-RRB-", "fetches", ".", "In", "our", "memory-resident", "database", "case", ",", "a", "page", "is", "basically", "the", "block", "that", "is", "brought", "from", "memory", "to", "the", "cache", ".", "For", "instance", ",", "the", "cost", "of", "sequential", "scan", "is", "defined", "as", "follows", "-LRB-", "taken", "from", "-LSB-", "12", "-RSB-", "-RRB-", ":", "Cost", "seq", "scan", "=", "N", "blocks", "+", "CPU", "N", "tuples", "Here", ",", "N", "blocks", "is", "the", "number", "of", "data", "blocks", "retrieved", ",", "N", "tuples", "is", "the", "number", "of", "output", "tuples", ",", "and", "CPU", "is", "the", "fudge", "factor", "that", "adjusts", "the", "system", "tuple-read", "speed", "with", "the", "actual", "memory", "hierarchy", "data-retrieval", "speed", ".", "Usually", ",", "optimizers", "use", "the", "above", "cost", "metric", "to", "choose", "between", "multiple", "query", "plan", "options", "before", "issuing", "a", "query", ".", "We", "attach", "a", "cost", "to", "each", "page", "-LRB-", "block", "-RRB-", "read/write", "operation", "to", "obtain", "an", "estimate", "of", "the", "access", "cost", "-LRB-", "time", "-RRB-", "in", "terms", "of", "execution", "cycles", ".", "For", "instance", ",", "the", "above", "scan", "operation", "is", "modified", "as", "follows", ":", "Cost", "block", "f", "etch", "=", "T", "cycles", "Cost", "seq", "scan", "=", "N", "blocks", "T", "+", "CPU", "N", "tuples", "block", "tuples", "T", "In", "these", "expressions", ",", "T", "is", "the", "delay", "in", "cycles", "to", "fetch", "a", "block", "from", "the", "memory", ".", "Thus", ",", "our", "cost", "plan", "is", "projected", "in", "terms", "of", "access", "cycles", ".", "We", "extend", "this", "to", "other", "database", "operations", "like", "JOIN", "and", "AGGREGATE", "based", "on", "the", "cost", "models", "defined", "in", "-LSB-", "14", ",", "12", "-RSB-", ".", "Given", "a", "query", ",", "we", "break", "down", "each", "operation", "within", "the", "plan", "-LRB-", "including", "sub-plans", "-RRB-", "and", "estimate", "the", "access", "cost", "-LRB-", "in", "cycles", "-RRB-", "for", "each", "221", "-", ">", "scan", "A", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "aggregate", "-LRB-", "20", "cycles", "-RRB-", "-", ">", "scan", "B", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "scan", "A", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "scan", "A", "-", ">", "Put", "A", "=", "ON", "-", ">", "aggregate", "-", ">", "Put", "B", "=", "OFF", "-", ">", "scan", "B", "-", ">", "Put", "B", "=", "ON", "-", ">", "Put", "A", "=", "OFF", "-", ">", "scan", "A", "-", ">", "Put", "A", "=", "ON", "-LRB-", "B", "is", "already", "OFF", "-RRB-", "P2", "P1", "-LRB-", "i", "-RRB-", "-LRB-", "ii", "-RRB-", "Figure", "6", ":", "Example", "application", "of", "the", "query-directed", "scheme", ".", "-LRB-", "i", "-RRB-", "The", "original", "execution", "plan", ".", "-LRB-", "b", "-RRB-", "The", "augmented", "execution", "plan", ".", "primitive", "operation", ".", "Our", "objective", "in", "estimating", "the", "per-operation", "time", "in", "cycles", "is", "to", "eventually", "identify", "the", "inter-access", "times", "of", "operations", "in", "the", "query", "-LRB-", "and", "hence", ",", "to", "put", "the", "banks", "that", "hold", "unused", "tables", "to", "low-power", "modes", "-RRB-", ".", "There", "are", "table", "accesses", "associated", "with", "each", "operation", ",", "and", "bank", "inter-access", "times", "depend", "on", "the", "table", "inter-access", "times", ".", "A", "query", "has", "information", "of", "the", "tables", "that", "it", "accesses", ".", "Thus", ",", "knowing", "the", "inter-access", "time", "for", "each", "operation", "leads", "to", "the", "inter-access", "times", "for", "each", "table", "as", "well", ".", "A", "table", "is", "mapped", "to", "certain", "banks", ",", "and", "the", "table-to-bank", "mapping", "is", "available", "in", "the", "query", "optimizer", ".", "Consequently", ",", "if", "the", "table", "inter-access", "time", "is", "T", ",", "and", "the", "resynchronization", "time", "is", "T", "p", "-LRB-", "assuming", "less", "than", "T", "-RRB-", ",", "then", "the", "optimizer", "can", "transition", "the", "associated", "modules", "into", "a", "low-power", "mode", "-LRB-", "with", "a", "unit", "time", "energy", "of", "E", "p", "-RRB-", "for", "the", "initial", "T", "-", "T", "p", "period", "-LRB-", "which", "would", "consume", "a", "total", "-LSB-", "T", "-", "T", "p", "-RSB-", "E", "p", "energy", "-RRB-", ",", "activate", "the", "module", "to", "bring", "it", "back", "to", "the", "active", "mode", "at", "the", "end", "of", "this", "period", "following", "which", "the", "module", "will", "resynchronize", "before", "it", "is", "accessed", "again", "-LRB-", "consuming", "T", "p", "E", "a", "energy", "during", "the", "transition", "assuming", "that", "E", "a", "is", "the", "unit", "time", "energy", "for", "active", "mode", "as", "well", "as", "during", "the", "transition", "period", "-RRB-", ".", "As", "a", "result", ",", "the", "total", "energy", "consumption", "with", "this", "transitioning", "is", "-LSB-", "T", "-", "T", "p", "-RSB-", "E", "p", "+", "T", "p", "E", "a", "without", "any", "resynchronization", "overheads", ",", "while", "the", "consumption", "would", "have", "been", "T", "E", "a", "if", "there", "had", "been", "no", "transitioning", "-LRB-", "note", "that", "this", "calculation", "considers", "only", "the", "idle", "period", "-RRB-", ".", "The", "DBMS", "optimizer", "evaluates", "all", "possible", "choices", "-LRB-", "low-power", "modes", "-RRB-", "based", "on", "corresponding", "per", "cycle", "energy", "costs", "and", "resynchronization", "times", ",", "and", "table", "inter-access", "time", "to", "pick", "up", "the", "best", "choice", ".", "Note", "that", "the", "DBMS", "can", "select", "different", "low", "power", "modes", "for", "different", "idle", "periods", "of", "the", "same", "module", "depending", "on", "the", "duration", "of", "each", "idle", "period", ".", "Specifically", ",", "we", "use", "the", "most", "energy", "saving", "low-power", "mode", "without", "increasing", "the", "original", "query", "execution", "time", "-LRB-", "i.e.", ",", "when", "the", "original", "idleness", "is", "over", ",", "the", "module", "should", "be", "up", "in", "the", "active", "mode", "ready", "for", "the", "operation", "-RRB-", ".", "4.2.3", "Inserting", "Bank-On/Off", "Instructions", "The", "last", "part", "of", "the", "software-directed", "scheme", "is", "to", "insert", "explicit", "-LRB-", "operating", "-RRB-", "mode", "transitioning", "instructions", "in", "the", "final", "query", "execution", "plan", ".", "For", "this", ",", "we", "introduce", "place-markers", "-LRB-", "mapped", "to", "system", "calls", "-RRB-", "which", "are", "interpreted", "at", "the", "low-level", "-LRB-", "interpreted", "later", "by", "our", "memory", "controller", ",", "which", "actually", "sets", "the", "corresponding", "low-power", "modes", "-RRB-", ".", "This", "is", "done", "so", "that", "the", "query", "execution", "engine", "can", "issue", "the", "query", "without", "much", "performance", "overhead", ",", "and", "with", "the", "same", "transparency", ".", "As", "an", "example", ",", "consider", "the", "following", ".", "Let", "tables", "A", "and", "B", "each", "have", "1000", "records", ",", "each", "record", "being", "64", "bytes", ".", "Consider", "the", "query", "plan", "depicted", "in", "Figure", "6", "-LRB-", "i", "-RRB-", ",", "taken", "from", "PostgreSQL", ".", "The", "query", "plan", "reads", "from", "bottom", "to", "top", "-LRB-", "P2", "follows", "P1", "-RRB-", ".", "A", "scan", "of", "table", "A", "is", "done", "first", ",", "followed", "by", "a", "scan", "of", "table", "B", ".", "The", "result", "of", "these", "operations", "are", "then", "used", "by", "an", "aggregate", "operation", ".", "Another", "-LRB-", "independent", "-RRB-", "scan", "operation", "on", "table", "A", "follows", "the", "aggregate", "operation", ".", "The", "per", "step", "access", "costs", "are", "also", "shown", ".", "From", "the", "generated", "query", "plan", ",", "it", "is", "evident", "that", "table", "A", "is", "not", "accessed", "between", "point", "P1", "and", "point", "P2", ".", "Once", "the", "results", "are", "extracted", "after", "the", "scan", "at", "point", "P1", ",", "the", "banks", "that", "hold", "table", "A", "can", "be", "put", "to", "a", "low-power", "mode", ",", "and", "the", "banks", "that", "hold", "table", "B", "can", "be", "activated", "for", "data", "extraction", ".", "This", "is", "illustrated", "in", "Figure", "6", "-LRB-", "ii", "-RRB-", "using", "place-markers", "for", "tables", "A", "and", "B.", "Banks", "holding", "Table", "A", "are", "reactivated", "at", "point", "P2", "-LRB-", "banks", "of", "Table", "B", "remain", "off", "-RRB-", ".", "In", "this", "section", ",", "we", "study", "the", "potential", "energy", "benefits", "of", "our", "hardware", "and", "software-directed", "schemes", ".", "We", "first", "explain", "the", "experimental", "setup", "that", "we", "used", "in", "our", "simulations", ".", "Then", ",", "the", "set", "of", "queries", "that", "we", "used", "to", "study", "our", "schemes", "is", "introduced", ".", "After", "that", ",", "we", "present", "energy", "consumption", "results", ".", "While", "we", "discuss", "the", "energy", "benefits", "of", "using", "our", "schemes", ",", "we", "also", "elaborate", "the", "overheads", "associated", "with", "supporting", "each", "of", "our", "schemes", ".", "5.1", "Setup", "5.1.1", "Simulation", "Environment", "As", "mentioned", "before", ",", "the", "query-directed", "schemes", "are", "implemented", "in", "the", "query", "optimizer", "of", "the", "memory", "database", "model", "elaborated", "in", "Section", "3.1", ".", "We", "interface", "this", "DBMS", "to", "an", "enhanced", "version", "of", "the", "SimpleScalar/Arm", "simulator", "-LSB-", "4", "-RSB-", "to", "form", "a", "complete", "database", "system", ".", "The", "intermediate", "interface", "-LRB-", "invoked", "by", "DBMS", "-RRB-", "provides", "a", "set", "of", "operating", "system", "calls", "-LRB-", "on", "Linux", "kernel", "2.4.25", "-RRB-", ",", "which", "in", "turn", "invokes", "the", "SimpleScalar", "simulator", ".", "The", "SimpleScalar", "simulator", "models", "a", "modern", "microprocessor", "with", "a", "five-stage", "pipeline", ":", "fetch", ",", "decode", ",", "issue", ",", "write-back", ",", "and", "commit", ".", "We", "implemented", "our", "hardware", "techniques", "within", "the", "framework", "of", "the", "sim-outorder", "tool", "from", "the", "SimpleScalar", "suite", ",", "extended", "with", "the", "ARM-ISA", "support", "-LSB-", "4", "-RSB-", ".", "Specifically", ",", "we", "modeled", "a", "processor", "architecture", "similar", "to", "that", "of", "Intel", "StrongARM", "SA-1100", ".", "The", "modeled", "architecture", "has", "a", "16KB", "direct-mapped", "instruction", "cache", "and", "a", "8KB", "direct-mapped", "data", "cache", "-LRB-", "each", "of", "32", "byte-length", "-RRB-", ".", "We", "also", "model", "a", "32-entry", "full", "associative", "TLB", "with", "a", "30-cycle", "miss", "latency", ".", "The", "off-chip", "bus", "is", "32", "bit-wide", ".", "For", "estimating", "the", "power", "consumption", "-LRB-", "and", "hence", ",", "the", "energy", "consumption", "-RRB-", ",", "we", "use", "the", "Wattch", "simulator", "from", "Princeton", "University", "-LSB-", "8", "-RSB-", ".", "Our", "banked", "memory", "model", "is", "based", "on", "-LSB-", "13,21", "-RSB-", ",", "as", "shown", "in", "Figure", "4", ".", "We", "use", "values", "from", "Figure", "4", "for", "modeling", "the", "delay", "-LRB-", "transition", "cycles", "-RRB-", "in", "activation", "and", "resynchronization", "of", "various", "power-states", ".", "Our", "simulations", "account", "for", "all", "performance", "and", "energy", "overheads", "incurred", "by", "our", "schemes", ".", "In", "particular", ",", "the", "energy", "numbers", "we", "present", "include", "the", "energy", "spent", "in", "maintaining", "the", "idleness", "predictors", "-LRB-", "in", "the", "hardware-directed", "scheme", "-RRB-", "and", "the", "energy", "spent", "in", "maintaining", "the", "table-to-bank", "mappings", "-LRB-", "in", "the", "query-directed", "scheme", "-RRB-", ",", "and", "in", "fetching", "and", "executing", "the", "bank", "turn-on/off", "instructions", "-LRB-", "in", "the", "query-directed", "scheme", "-RRB-", ".", "The", "predictors", "were", "implemented", "using", "decrementing", "counters", "-LRB-", "equal", "to", "the", "number", "of", "banks", "-RRB-", "and", "zero", "detector", "based", "on", "the", "discussion", "in", "Section", "4.1", ".", "The", "predictors", "are", "synchronized", "with", "the", "system", "cycles", "to", "maintain", "consistency", "of", "operation", ",", "and", "to", "minimize", "the", "overheads", ".", "The", "query", "optimizer", "maintains", "the", "table-bank", "mappings", ",", "which", "is", "modeled", "as", "an", "array", "list", "for", "instant", "access", ".", "The", "bank", "turn-on/off", "instructions", "are", "executed", "by", "setting", "hardware", "registers", ",", "and", "hence", ",", "these", "instructions", "are", "modeled", "as", "register", "operations", "using", "the", "existing", "instruction", "set", "architecture", ".", "We", "present", "two", "important", "statistics", "in", "our", "experimental", "results", ".", "Energy", "consumption", "corresponds", "to", "the", "energy", "consumed", "in", "the", "memory", "system", "-LRB-", "including", "the", "above", "mentioned", "overheads", "-RRB-", ".", "We", "also", "present", "statistics", "about", "the", "performance", "overhead", "-LRB-", "i.e.", ",", "increase", "in", "execution", "cycles", "-RRB-", "for", "each", "of", "our", "schemes", ".", "This", "overhead", "includes", "the", "cycles", "spent", "in", "resynchronization", "-LRB-", "penalty", "cycles", "are", "modeled", "based", "on", "values", "in", "Figure", "4", "-RRB-", "as", "well", "as", "the", "cycles", "spent", "-LRB-", "in", "the", "CPU", "datapath", "-RRB-", "in", "fetching", "and", "executing", "the", "turn-on/off", "instructions", "-LRB-", "in", "the", "query-directed", "scheme", "-RRB-", ".", "5.1.2", "Queries", "To", "evaluate", "our", "scheme", "for", "memory-resident", "databases", ",", "we", "considered", "two", "classes", "of", "queries", ".", "The", "first", "class", "is", "a", "subset", "of", "queries", "from", "the", "Transaction", "Processing", "Council", "-LRB-", "TPC-H", "-RRB-", "benchmark", "-LSB-", "35", "-RSB-", ".", "TPC-H", "involves", "complex", "queries", "with", "a", "large", "amount", "of", "data", "accesses", ".", "Operations", "in", "decision", "support", "benchmarks", "-LRB-", "TPC-D", "evolved", "to", "TPC-H", "-RRB-", "have", "good", "spatial", "locality", "with", "abundant", "data", "intensive", "operations", "-LSB-", "9", "-RSB-", ".", "This", "assists", "us", "to", "perform", "a", "rigorous", "test", "of", "our", "schemes", ".", "The", "top", "part", "of", "Table", "1", "gives", "details", "of", "the", "TPC-H", "queries", "we", "used", "and", "the", "corresponding", "database", "parameters", ".", "The", "selected", "operations", "represent", "a", "good", "mix", "and", "could", "be", "used", "to", "build", "a", "variety", "of", "complicated", "queries", ".", "222", "Table", "1", ":", "The", "two", "classes", "of", "queries", "considered", "for", "our", "experiments", ".", "Source", "Query", "Description", "Tables", "TPC-H", "Q6", "Simple", "query", "PART", ",", "CUSTOMER", ",", "ORDERS", ",", "and", "LINEITEM", "tables", "generated", "using", "DBGEN", "with", "scale", "1.0", "Q3", "Complex", "query", "involving", "JOIN", "Q4", "Complex", "query", "involving", "NEST", "Q17", "Complex", "query", "involving", "JOIN", "and", "NEST", "Queries", "targeting", "a", "simple", "organizer", "P1", "Simple", "name", "and", "address", "lookup", "ADDRESSBOOK", "populated", "with", "1.3", "million", "entries", ",", "50", "%", "subset", "of", "FRIENDS", "and", "25", "%", "subset", "of", "COLLEAGUES", "P2", "Lookup", "in", "directory", "of", "friends", "P3", "Lookup", "in", "directory", "of", "colleagues", "and", "friends", "Memory-resident", "databases", "run", "queries", "that", "are", "different", "from", "the", "typical", "database", "queries", "as", "seen", "in", "TPC-H", ".", "The", "second", "set", "of", "queries", "that", "we", "consider", "are", "representative", "of", "applications", "that", "execute", "on", "handheld", "devices", ".", "The", "typical", "operations", "that", "are", "performed", "on", "an", "organizer", "were", "imitated", "on", "our", "setup", "-LRB-", "we", "name", "the", "queries", "P1", ",", "P2", ",", "P3", "-RRB-", ".", "The", "first", "query", "involves", "a", "simple", "address", "lookup", "using", "a", "`", "NAME", "'", "as", "input", ".", "The", "SQL", "for", "query", "P1", "is", "shown", "on", "the", "left", "section", "of", "Table", "2", ".", "Recent", "organizers", "-LSB-", "17", ",", "25", "-RSB-", "provide", "an", "ordered", "view", "of", "the", "underlying", "addressbook", "database", ".", "For", "instance", ",", "organizers", "provide", "the", "creation", "of", "folders", ".", "A", "``", "friends", "''", "folder", "can", "be", "a", "collection", "of", "personnel", "with", "a", "tag", "set", "as", "``", "friend", "''", "in", "the", "addressbook", ".", "We", "defined", "folder", "as", "a", "restrained/customized", "view", "of", "the", "same", "database", "-LRB-", "address", "book", "-RRB-", ".", "Intuitively", ",", "query", "P2", "strives", "to", "do", "a", "lookup", "of", "friends", "living", "in", "a", "particular", "city", ".", "The", "``", "friends", "''", "view", "and", "hence", "the", "query", "P2", "is", "defined", "on", "the", "right", "section", "of", "Table", "2", ".", "Query", "P3", "combines", "views", "-LRB-", "folders", "-RRB-", ".", "For", "this", "we", "defined", "a", "new", "folder", "called", "``", "colleagues", "''", ".", "P3", "aims", "to", "find", "friends", "and/or", "colleagues", "whose", "names", "start", "with", "an", "`", "a", "'", ",", "living", "in", "a", "particular", "`", "CITY", "'", ".", "Since", "P3", "is", "very", "similar", "to", "P2", "with", "some", "extra", "fields", ",", "we", "do", "not", "present", "the", "SQL", "for", "P3", ".", "The", "intermediate", "tables", "and", "results", "during", "query", "execution", "are", "also", "stored", "in", "the", "memory", ".", "5.1.3", "Default", "Parameters", "For", "our", "experiments", ",", "we", "populate", "our", "database", "using", "the", "DBGEN", "software", "from", "TPC-H", "benchmark", "suite", "with", "a", "scale", "factor", "of", "1.0", ".", "Our", "organizer", "database", "is", "populated", "with", "1.3", "million", "records", ".", "For", "dynamic", "threshold", "scheme", ",", "we", "use", "10", ",", "100", "and", "10,000", "cycles", "as", "idle", "stndby", ",", "idle", "nap", ",", "and", "idle", "down", ",", "respectively", ".", "For", "all", "schemes", ",", "the", "banks", "are", "in", "power-down", "mode", "before", "their", "first", "access", ".", "On/Off", "instructions", "are", "inserted", "based", "on", "the", "inter-access", "times", "of", "table", ".", "We", "use", "the", "same", "cycles", "as", "in", "idle", "stndby", ",", "idle", "nap", ",", "and", "idle", "down", "for", "inserting", "instructions", ".", "As", "an", "example", ",", "consider", "the", "inter-access", "-LRB-", "T", "-RRB-", "of", "a", "table", "as", "25", "cycles", ",", "which", "lies", "between", "10", "-LRB-", "idle", "stndby", "-RRB-", "and", "100", "-LRB-", "idle", "nap", "-RRB-", "cycles", ".", "We", "insert", "an", "On/Off", "instruction", "at", "the", "beginning", "of", "T", "to", "put", "a", "table", "to", "standby", "mode", "for", "24", "cycles", ",", "taking", "into", "consideration", "the", "resynchronization", "period", "of", "1", "cycle", "as", "well", ".", "Similar", "technique", "is", "applied", "for", "inter-access", "times", "that", "fall", "in", "between", "other", "power", "modes", ".", "A", "single", "page", "transfer", "time", "is", "needed", "for", "access", "cost", "calculation", "in", "software-directed", "scheme", ".", "We", "derive", "this", "by", "executing", "the", "TPC-H", "queries", "on", "the", "SimpleScalar", "simulator", "-LRB-", "with", "the", "SA-1100", "model", "-RRB-", "and", "by", "studying", "the", "cycle", "times", "for", "transferring", "a", "data", "block", "from", "memory", "to", "the", "cache", ".", "For", "all", "experiments", ",", "the", "default", "configuration", "is", "the", "512", "MB", "RDRAM", "memory", "with", "8", "MB", "banks", ".", "In", "the", "following", "section", ",", "we", "study", "the", "energy", "implications", "of", "our", "hardware", "and", "software", "schemes", "using", "this", "setup", ".", "We", "then", "present", "the", "performance", "overheads", ".", "5.2", "Query", "Energy", "Evaluation", "Figure", "7", "shows", "the", "normalized", "memory", "energy", "consumption", "for", "our", "hardware-directed", "schemes", ".", "While", "presenting", "our", "results", ",", "we", "normalize", "all", "values", "with", "respect", "to", "the", "base", "case", ",", "which", "is", "the", "version", "with", "no", "query", "optimizations", ".", "``", "Static", "Standby", "''", "in", "Figure", "7", "indicates", "the", "static", "standby", "scheme", ".", "We", "see", "that", ",", "by", "simply", "putting", "the", "modules", "to", "standby", "mode", "after", "each", "access", ",", "this", "scheme", "is", "able", "to", "achieve", "an", "average", "55", "%", "reduction", "in", "memory", "energy", "consumption", "of", "TPC-H", "queries", "when", "compared", "to", "the", "unoptimized", "case", ".", "The", "energy", "improvements", "are", "less", "pronounced", "in", "the", "case", "of", "handheld", "Table", "2", ":", "SQL", "for", "organizer", "queries", "Query", "P1", "Query", "P2", "SELECT", "CREATE", "VIEW", "a", "name", ",", "friends", "AS", "P2", ":", "a", "address", ",", "SELECT", "SELECT", "a", "city", ",", "a", "name", ",", "a", "address", ",", "a", "office", "phone", ",", "a", "address", ",", "a", "home", "phone", ",", "a", "home", "phone", ",", "a", "city", ",", "a", "mobile", "phone", "a", "mobile", "phone", ",", "a", "home", "phone", ",", "FROM", "a", "email", ",", "a", "mobile", "phone", "friends", "a", "web", ",", "FROM", "WHERE", "a", "specialnotes", "addressbook", "a", "city", "=", "`", "-LSB-", "CITY", "-RSB-", "'", "FROM", "WHERE", "GROUP", "BY", "addressbook", "a", "tag", "=", "`", "-LSB-", "FRIEND", "-RSB-", "'", "a", "name", ";", "WHERE", "GROUP", "BY", "a", "name", "=", "'", "-LSB-", "NAME", "-RSB-", "'", ";", "a", "name", ";", "queries", "-LRB-", "37", "%", "reduction", "on", "the", "average", "-RRB-", ".", "This", "is", "mainly", "because", "of", "the", "different", "number", "of", "tables", "manipulated", "by", "these", "two", "types", "of", "queries", ".", "In", "the", "TPC-H", "case", ",", "multiple", "tables", "are", "scattered", "across", "various", "banks", "and", "hence", ",", "there", "is", "a", "potential", "of", "placing", "more", "memory", "banks", "into", "low-power", "modes", ".", "In", "the", "case", "of", "handheld", "queries", ",", "there", "is", "just", "one", "table", "scattered", "across", "multiple", "banks", ",", "which", "makes", "putting", "modules", "to", "a", "low-power", "mode", "more", "difficult", "as", "modules", "are", "tightly", "connected", ",", "as", "far", "as", "query", "access", "patterns", "are", "concerned", ".", "We", "also", "observe", "from", "Figure", "7", "that", "the", "dynamic", "threshold", "scheme", "further", "extends", "these", "improvements", "through", "its", "ability", "to", "put", "a", "bank", "into", "any", "of", "the", "possible", "low-power", "modes", ".", "On", "an", "average", ",", "there", "is", "a", "60", "%", "-LRB-", "43", "%", "-RRB-", "energy", "improvement", "in", "TPC-H", "-LRB-", "handheld", "-RRB-", "queries", ".", "Figure", "7", "also", "shows", "the", "normalized", "energy", "behavior", "of", "our", "query-directed", "scheme", "-LRB-", "denoted", "On/Off", "Instr", "-RRB-", ".", "It", "is", "evident", "that", "this", "scheme", "outperforms", "the", "best", "hardware-directed", "scheme", "-LRB-", "by", "an", "average", "of", "10", "%", "-RRB-", "in", "saving", "the", "memory", "energy", "consumption", ".", "This", "is", "because", "of", "two", "main", "reasons", ".", "First", ",", "when", "a", "bank", "idleness", "is", "estimated", ",", "the", "query-directed", "scheme", "has", "a", "very", "good", "idea", "about", "its", "length", "-LRB-", "duration", "-RRB-", ".", "Therefore", ",", "it", "has", "a", "potential", "of", "choosing", "the", "most", "appropriate", "low-power", "mode", "for", "a", "given", "idleness", ".", "Second", ",", "based", "on", "its", "idleness", "estimate", ",", "it", "can", "also", "preactivate", "the", "bank", ".", "This", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "Q6", "Q3", "Q4", "Q17", "P1", "P2", "P3", "No", "r", "m", "aliz", "ed", "E", "n", "er", "g", "y", "Static", "Standby", "Dynamic", "Threshold", "On/Of", "f", "Instr", "Figure", "7", ":", "Energy", "consumption", "of", "hardware", "and", "software-directed", "modes", ".", "The", "values", "shown", "are", "normalized", "to", "the", "version", "with", "no", "energy", "optimizations", ".", "223", "eliminates", "the", "time", "and", "energy", "that", "would", "otherwise", "have", "spent", "in", "resynchronization", ".", "Consequently", ",", "the", "average", "memory", "energy", "consumption", "of", "the", "query-directed", "scheme", "is", "just", "32", "%", "of", "the", "unoptimized", "version", "for", "TPC-H", "queries", ",", "and", "44", "%", "in", "case", "of", "organizer", "-LRB-", "handheld", "-RRB-", "queries", "-LSB-", "i.e.", ",", "an", "additional", "8", "%", "-LRB-", "13", "%", "-RRB-", "improvement", "over", "the", "hardware", "schemes", "for", "TPC-H", "-LRB-", "handheld", "-RRB-", "queries", "-RSB-", ".", "5.3", "Performance", "Overhead", "Analysis", "Our", "techniques", "are", "very", "effective", "in", "reducing", "the", "memory", "energy", "consumption", ".", "As", "mentioned", "earlier", ",", "transitions", "from", "the", "low-power", "modes", "to", "the", "active", "mode", "come", "with", "an", "overhead", "of", "resynchronization", "-LRB-", "in", "terms", "of", "both", "performance", "and", "energy", "-RRB-", ".", "The", "energy", "values", "reported", "in", "previous", "section", "take", "into", "consideration", "the", "extra", "energy", "needed", "to", "activate", "the", "modules", "as", "well", ".", "In", "this", "part", ",", "we", "quantify", "the", "basic", "performance", "overheads", "that", "are", "faced", "in", "supporting", "our", "schemes", ".", "Figure", "8", "shows", "the", "performance", "overheads", "for", "both", "the", "hardware", "and", "software-directed", "schemes", ".", "The", "static", "standby", "scheme", "has", "the", "maximum", "overhead", ",", "which", "is", "expected", ".", "This", "is", "especially", "the", "case", "when", "queries", "generate", "frequent", "memory", "accesses", ".", "The", "memory", "is", "brought", "down", "to", "the", "standby", "mode", "after", "each", "access", ",", "and", "is", "resyn-chronized", "in", "another", "access", "that", "follows", "immediately", ".", "As", "a", "result", ",", "the", "performance", "worsens", "as", "bad", "as", "28", "%", "for", "the", "static", "standby", "case", ".", "On", "the", "other", "hand", ",", "for", "the", "dynamic", "threshold", "scheme", ",", "the", "performance", "overhead", "is", "slightly", "better", "since", "the", "banks", "are", "not", "blindly", "put", "to", "a", "low-power", "mode", "after", "each", "access", ".", "This", "verifies", "our", "prediction", "that", "when", "a", "module", "goes", "to", "low-power", "mode", ",", "it", "would", "either", "remain", "for", "a", "while", "in", "that", "mode", "or", "may", "even", "be", "transitioned", "into", "a", "lower", "power", "mode", ".", "The", "query-directed", "scheme", "has", "the", "least", "overhead", "-LRB-", "<", "2", "%", "-RRB-", ".", "The", "main", "reason", "for", "this", "is", "the", "ability", "of", "pre-activating", "a", "bank", "before", "it", "is", "actually", "accessed", ".", "Therefore", ",", "considering", "both", "performance", "and", "energy", "results", ",", "one", "may", "conclude", "that", "the", "query-directed", "scheme", "is", "better", "than", "the", "hardware-directed", "schemes", ".", "However", ",", "it", "is", "also", "to", "be", "noted", "that", "the", "query-directed", "scheme", "requires", "access", "to", "the", "query", "optimizer", ".", "In", "comparison", ",", "the", "hardware-based", "schemes", "can", "work", "with", "any", "query", "optimizer", ".", "Therefore", ",", "they", "might", "be", "better", "candidates", "when", "it", "is", "not", "possi-ble/profitable", "to", "modify", "the", "query", "plan", ".", "The", "approaches", "presented", "above", "mainly", "try", "to", "optimize", "energy", "consumption", "without", "modifying", "the", "queries", "themselves", "-LRB-", "except", "maybe", "for", "the", "query-directed", "scheme", "where", "we", "insert", "turn", "on/off", "instructions", "in", "the", "query", "plan", "-RRB-", ".", "In", "this", "section", ",", "we", "go", "one", "step", "further", ",", "and", "demonstrate", "that", "even", "larger", "energy", "savings", "are", "possible", "if", "one", "has", "the", "flexibility", "of", "reorganizing", "query", "operations", ".", "We", "show", "how", "this", "can", "be", "achieved", "in", "the", "context", "of", "both", "individual", "queries", "and", "multiple", "queries", "-LRB-", "optimized", "simultaneously", "-RRB-", ".", "Our", "main", "objective", "in", "restructuring", "queries", "is", "to", "increase", "memory", "bank", "inter-access", "times", ".", "Note", "that", "when", "bank", "inter-access", "time", "is", "increased", ",", "we", "can", "either", "remain", "in", "a", "given", "low-power", "operating", "mode", "longer", ",", "thereby", "feeling", "the", "potential", "impact", "of", "resynchronization", "less", "-LRB-", "i.e.", ",", "amortizing", "the", "cost", "of", "resynchronization", "-RRB-", ";", "or", "we", "can", "switch", "to", "a", "more", "energy", "saving", "mode", "-LRB-", "as", "we", "now", "have", "a", "longer", "idleness", "-RRB-", ",", "which", "means", "more", "energy", "savings", ".", "We", "present", "different", "query", "restructuring", "strategies", "for", "achieving", "this", ".", "When", "considering", "a", "single", "query", ",", "the", "bank", "inter-access", "times", "can", "be", "increased", "by", "re-ordering", "query", "operations", ".", "On", "the", "other", "hand", ",", "the", "primary", "goal", "of", "the", "heuristic", "that", "targets", "at", "multiple-queries", "is", "to", "cluster", "the", "usage", "of", "tables", "from", "multiple", "queries", "together", ",", "so", "that", "the", "overall", "table", "accesses", "are", "localized", ".", "That", "is", ",", "assuming", "that", "we", "have", "multiple", "queries", "to", "optimize", ",", "our", "objective", "is", "to", "interleave", "these", "query", "executions", "in", "such", "a", "way", "that", "the", "reuse", "of", "individual", "tables", "-LRB-", "or", "of", "table", "portions", "-RRB-", "is", "maximized", ".", "In", "other", "words", ",", "when", "a", "table", "is", "accessed", ",", "we", "want", "to", "execute", "all", "other", "query", "operations", "-LRB-", "potentially", "coming", "from", "different", "queries", "-RRB-", "to", "that", "table", "-LRB-", "one", "after", "another", "-RRB-", ",", "before", "we", "move", "to", "the", "next", "table", ".", "This", "also", "tends", "to", "cluster", "accesses", "to", "the", "same", "bank", ",", "and", "tends", "to", "increase", "the", "bank", "inter-access", "times", "-LRB-", "which", "is", "very", "important", "from", "an", "energy", "perspective", "as", "explained", "above", "-RRB-", ".", "In", "the", "following", ",", "we", "first", "study", "intra-query", "restructuring", "and", "then", "inter-query", "restructuring", ".", "After", "these", "two", "steps", ",", "bank", "turn-on/off", "instructions", "are", "inserted", "at", "the", "relevant", "points", ",", "depending", "on", "the", "bank", "access", "patterns", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "Q6", "Q3", "Q4", "Q17", "P1", "P2", "P3", "Norm", "a", "l", "i", "z", "ed", "P", "e", "r", "f", "orm", "a", "n", "c", "e", "Static", "Standby", "Dynamic", "Threshold", "On/Off", "Instr", "Figure", "8", ":", "The", "performance", "overhead", "involved", "in", "supporting", "our", "schemes", ".", "There", "is", "an", "average", "overhead", "of", "15", "%", ",", "8", "%", ",", "and", "2", "%", "for", "standby", ",", "dynamic", "and", "on/off", "schemes", ",", "respectively", ",", "over", "the", "unoptimized", "version", ".", "Step", "1", "-LRB-", "intra-query", "optimization", "-RRB-", ":", "A", "query", "is", "first", "examined", "to", "see", "if", "there", "are", "any", "potential", "reuse", "regions", ".", "If", "there", "are", "any", "reusable", "regions", ",", "their", "accesses", "are", "grouped", "together", ".", "We", "achieve", "this", "by", "examining", "the", "query", "execution", "plan", ".", "The", "query", "plan", "is", "studied", "to", "see", "if", "there", "are", "any", "advantages", "in", "rearranging", "the", "operations", "-LRB-", "primitives", "-RRB-", "in", "a", "query", "based", "on", "its", "table", "usage", ".", "Operations", "that", "require", "the", "same", "-LRB-", "set", "of", "-RRB-", "table", "-LRB-", "s", "-RRB-", "are", "then", "grouped", "together", "-LRB-", "i.e.", ",", "they", "are", "scheduled", "to", "be", "executed", "one", "after", "another", "-RRB-", ".", "The", "detailed", "procedure", "is", "shown", "in", "Figure", "9", ".", "Each", "operation", "in", "the", "query", "plan", "is", "first", "scanned", "and", "placed", "into", "a", "table", "group", "based", "on", "the", "table", "-LRB-", "s", "-RRB-", "that", "it", "accesses", ".", "Then", ",", "the", "operations", "are", "rearranged", "in", "the", "query", "plan", "-LRB-", "taking", "into", "account", "the", "dependencies", "between", "them", "-RRB-", "based", "on", "their", "corresponding", "table", "groups", ".", "For", "this", ",", "we", "look", "at", "the", "query", "plan", "tree", ".", "The", "path", "from", "each", "leaf", "node", "to", "the", "root", ",", "called", "stream", ",", "is", "investigated", ".", "The", "ultimate", "goal", "is", "to", "schedule", "operations", "-LRB-", "nodes", "in", "the", "plan", "tree", "-RRB-", "based", "on", "their", "table", "groups", ".", "We", "try", "to", "schedule", "operations", "within", "one", "table", "group", "-LRB-", "which", "is", "currently", "active", "-RRB-", "before", "scheduling", "the", "operations", "from", "another", "table", "group", "-LRB-", "which", "is", "not", "active", "-RRB-", "in", "an", "attempt", "to", "increase", "the", "bank", "inter-access", "times", ".", "That", "is", ",", "a", "stream", "is", "traversed", "from", "bottom", "to", "top", ",", "and", "each", "node", "within", "the", "stream", "is", "put", "to", "the", "schedule", "queue", "-LRB-", "as", "they", "are", "encountered", "-RRB-", "based", "on", "its", "table", "group", ".", "It", "should", "be", "emphasized", "that", "we", "preserve", "the", "original", "semantics", "of", "the", "operations", "-LRB-", "constraints", "-RRB-", "in", "the", "algorithm", ".", "This", "procedure", "is", "repeated", "for", "each", "stream", "in", "the", "tree", ",", "and", "until", "all", "streams", "have", "the", "most", "energy-efficient", "schedule", "based", "on", "their", "table", "accesses", ".", "At", "the", "end", "of", "this", "step", ",", "an", "energy-aware", "schedule", "queue", "gets", "generated", "for", "the", "considered", "query", "-LRB-", "saved", "in", "schedule", "list", "-RRB-", ".", "Step", "2", "-LRB-", "inter-query", "optimization", "-RRB-", ":", "Tables", "are", "examined", "to", "optimize", "multiple", "queries", "simultaneously", ".", "For", "each", "table", "that", "is", "accessed", ",", "all", "accesses", "arising", "from", "multiple", "queries", "to", "the", "particular", "table", "are", "grouped", "together", ".", "In", "this", "step", ",", "the", "schedule", "list", "from", "multiple", "queries", "are", "grouped", "together", ".", "Each", "list", "is", "scanned", "to", "identify", "nodes", "that", "access", "a", "given", "table", ".", "The", "nodes", "that", "access", "the", "same", "table", "are", "then", "scheduled", "to", "execute", "together", "-LRB-", "without", "disturbing", "the", "dependency", "constraints", "-RRB-", ".", "In", "fact", ",", "the", "nodes", "from", "multiple", "queries", "are", "just", "grouped", "-LRB-", "combined", "-RRB-", "not", "reordered", ".", "Thus", ",", "in", "this", "step", ",", "the", "constraint", "flow", "for", "each", "schedule", "list", "-LRB-", "taken", "care", "of", "in", "Step", "1", "-RRB-", "is", "automatically", "maintained", ".", "Additional", "conditional", "flow", "checks", "could", "be", "reinforced", "at", "this", "stage", "if", "desired", ".", "Figure", "10", "shows", "the", "regrouping", "procedure", ".", "f", "inal", "schedule", "list", "stores", "the", "final", "consolidated", "schedule", "of", "operations", "from", "all", "the", "queries", ".", "Step", "3", "-LRB-", "energy", "optimizations", "-RRB-", ":", "Include", "energy", "optimizations", "by", "inserting", "On/Off", "instructions", "into", "the", "final", "schedule", "list", ".", "In", "this", "step", ",", "the", "access", "costs", "are", "calculated", "for", "each", "operation", "in", "the", "f", "inal", "schedule", "list", "as", "shown", "in", "Section", "4.2.2", ".", "Each", "operation", "is", "attached", "with", "an", "access", "cost", ",", "and", "the", "turn-on/off", "instructions", "are", "inserted", "based", "on", "the", "table", "inter-access", "times", ".", "The", "methodology", "used", "for", "adding", "these", "instructions", "to", "the", "f", "inal", "schedule", "list", "is", "the", "same", "as", "in", "Section", "4.2.2", ",", "and", "the", "on/off", "markers", "are", "placed", "as", "elaborated", "in", "Section", "4.2.3", ".", "As", "an", "example", ",", "consider", "two", "queries", "Q1", "and", "Q2", ".", "Their", "original", "224", "table_group", "is", "a", "table-to-operations", "mapping", "list", ".", "schedule_list", "stores", "the", "final", "schedule", "of", "operations", ".", "/", "*", "identify", "the", "group", "to", "which", "an", "*", "operation", "belongs", "*", "/", "operation_rearragement", "-LRB-", "-RRB-", "-LCB-", "for", "-LRB-", "each", "operation", "in", "query", "i", "-RRB-", "-LCB-", "identify", "the", "table", "-LRB-", "s", "-RRB-", "in", "i", ";", "for", "-LRB-", "each", "table", "j", "in", "i", "-RRB-", "-LCB-", "add", "operation", "to", "table_group", "-LSB-", "j", "-RSB-", ";", "-RCB-", "-RCB-", "schedule_operations", "-LRB-", "-RRB-", ";", "-RCB-", "/", "*", "schedule", "operations", "*", "/", "schedule_operations", "-LRB-", "-RRB-", "-LCB-", "schedule_list", "=", "empty", ";", "do", "-LCB-", "for", "-LRB-", "each", "stream", "in", "query", "plan", "tree", "-RRB-", "-LCB-", "start", "from", "leaf", "node", ";", "for", "-LRB-", "each", "node", "in", "stream", "-RRB-", "-LCB-", "identify", "its", "constraint", "nodes", "that", "follow", ";", "/", "*", "the", "rest", "are", "independent", "nodes", "*", "/", "group", "-LRB-", "constraint", "nodes", "-RRB-", ";", "group", "-LRB-", "independent", "nodes", "-RRB-", ";", "check", "for", "new", "violations", ";", "add", "new", "constraints", "if", "necessary", ";", "save", "the", "schedule_list", ";", "move", "up", "a", "node", "in", "the", "stream", ";", "-RCB-", "move", "to", "the", "next", "stream", ";", "-RCB-", "-RCB-", "until", "no", "more", "changes", "-RCB-", "/", "*", "group", "nodes", "*", "/", "group", "-LRB-", "node_list", "-RRB-", "-LCB-", "if", "-LRB-", "node_list", "is", "constraint", "node", "list", "-RRB-", "-LCB-", "for", "-LRB-", "each", "node", "in", "node_list", "-RRB-", "-LCB-", "lookup", "table_group", "of", "node", ";", "add", "node", "to", "schedule_list", "based", "on", "table_group", ";", "/", "*", "preserve", "the", "dependency", "order", "*", "/", "preserve", "flow", "of", "node_list", "in", "schedule_list", ";", "-RCB-", "-RCB-", "else", "-LCB-", "/", "*", "set", "of", "independent", "nodes", "*", "/", "add", "node", "to", "schedule_list", "based", "on", "table_group", ";", "/", "*", "no", "need", "to", "preserve", "constraint", "flow", "*", "/", "regroup", "to", "put", "all", "table_group", "nodes", "together", ";", "-RCB-", "Figure", "9", ":", "Reorganizing", "operations", "within", "a", "query", "to", "optimize", "for", "energy", "-LRB-", "Step", "1", "-RRB-", ".", "The", "query", "tree", "is", "investigated", "from", "the", "bottom", "to", "top", "for", "grouping", "operations", "based", "on", "their", "table", "accesses", ".", "group_multiple_queries", "-LCB-", "for", "-LRB-", "each", "schedule_list", "-RRB-", "-LCB-", "do", "-LCB-", "pick", "an", "unscheduled", "node", "i", "in", "schedule_list", ";", "/", "*", "i.e.", "pick", "a", "node", "without", "a", "``", "complete", "''", "tag", "*", "/", "for", "-LRB-", "other", "schedule_lists", "-RRB-", "-LCB-", "if", "-LRB-", "node", "j", "has", "same", "table_group", "as", "node", "i", "-RRB-", "-LCB-", "schedule", "node", "j", "after", "node", "i", ";", "mark", "node", "j", "as", "``", "complete", "''", ";", "/", "*", "with", "respect", "to", "multi-query", "schedule", "*", "/", "-RCB-", "-RCB-", "-RCB-", "until", "all", "node", "in", "schedule_list", "is", "``", "complete", "''", "-RCB-", "-RCB-", "Towards", "the", "end", "of", "the", "procedure", ",", "final_schedule_list", "stores", "the", "entire", "list", "of", "``", "complete", "''", "schedule", ".", "Figure", "10", ":", "Grouping", "schedule", "list", "from", "multiple", "queries", "-LRB-", "Step", "2", "-RRB-", ".", "Operations", "from", "multiple", "queries", "are", "grouped", "based", "on", "their", "table", "accesses", "using", "their", "corresponding", "schedule", "lists", ".", "query", "plan", "is", "shown", "in", "Figure", "11", "-LRB-", "i", "-RRB-", ".", "Q1", "is", "revised", "as", "the", "table", "accesses", "are", "optimizable", ".", "Figure", "11", "-LRB-", "ii", "-RRB-", "shows", "the", "result", "after", "applying", "Step", "1", ".", "Step", "2", "results", "in", "the", "output", "depicted", "in", "Figure", "11", "-LRB-", "iii", "-RRB-", ".", "Finally", ",", "in", "Step", "3", ",", "we", "insert", "on/off", "instructions", "in", "appropriate", "places", "-LRB-", "see", "Figure", "11", "-LRB-", "iv", "-RRB-", "-RRB-", ".", "In", "this", "section", ",", "we", "evaluate", "our", "query", "restructuring", "approach", "by", "extending", "our", "database", "and", "queries", "discussed", "in", "Section", "5.1.2", ".", "As", "before", ",", "our", "focus", "is", "on", "memory", "energy", "consumption", ".", "We", "also", "study", "the", "impact", "of", "the", "technique", "on", "the", "overall", "performance", ".", "Towards", "the", "end", ",", "other", "alternative", "options", "are", "also", "elaborated", ".", "7.1", "Multi-Query", "Setup", "Since", "simultaneous", "processing", "of", "multiple", "queries", "is", "needed", "to", "validate", "our", "approach", ",", "we", "considered", "a", "combination", "of", "queries", ",", "which", "we", "term", "as", "scenarios", "in", "the", "rest", "of", "this", "paper", ".", "Among", "the", "queries", "considered", "in", "Section", "5.1.2", ",", "there", "can", "be", "multiple", "combinations", "of", "queries", "that", "arrive", "sequentially", ",", "and", "that", "-LRB-", "which", "-RRB-", "are", "optimizable", "using", "our", "technique", ".", "The", "various", "combination", "-LRB-", "scenarios", "-RRB-", "of", "organizer", "queries", "and", "their", "naming", "schemes", "are", "shown", "in", "Table", "3", ".", "For", "instance", ",", "P12", "indicates", "that", "P1", "is", "sequentially", "processed", "along", "with", "P2", ".", "The", "combination", "scenarios", "for", "TPC-H", "queries", "are", "shown", "in", "Table", "4", ".", "The", "combinations", "shown", "in", "these", "tables", "are", "the", "prominent", "ones", "and", "the", "behavior", "of", "other", "combinations", "are", "very", "similar", "to", "these", ",", "hence", ",", "they", "are", "not", "included", "in", "this", "paper", ".", "Table", "3", ":", "Scenarios", "for", "organizer", "queries", ".", "Type", "Legend", "Combination", "Two", "query", "combinations", "P11", "P1", "+", "P1", "P12", "P1", "+", "P2", "P23", "P2", "+", "P3", "Three", "query", "combination", "P123", "P1", "+", "P2", "+", "P3", "Table", "4", ":", "Scenarios", "for", "TPC-H", "queries", ".", "Type", "Legend", "Combination", "Two", "query", "combinations", "S11", "Q6", "+", "Q6", "S12", "Q6", "+", "Q3", "S13", "Q6", "+", "Q4", "S14", "Q6", "+", "Q17", "S23", "Q3", "+", "Q4", "S24", "Q3", "+", "Q17", "S34", "Q4", "+", "Q17", "Three", "query", "combinations", "S222", "Q3", "+", "Q3", "+", "Q3", "S123", "Q6", "+", "Q3", "+", "Q4", "Four", "query", "combinations", "S1111", "Q6", "+", "Q6", "+", "Q6", "+", "Q6", "S1234", "Q6", "+", "Q3", "+", "Q4", "+", "Q17", "7.2", "Query", "Energy", "Evaluation", "In", "this", "section", ",", "we", "evaluate", "the", "query", "energy", "of", "the", "various", "scenarios", "we", "presented", "in", "the", "previous", "section", ".", "We", "first", "study", "the", "improvements", "obtained", "from", "our", "query", "restructuring", "heuristic", ",", "and", "further", "extend", "our", "study", "to", "combine", "query", "restructuring", "with", "various", "hardware", "and", "software-directed", "schemes", "-LRB-", "of", "Section", "4", "-RRB-", "meant", "to", "improve", "the", "energy", "consumption", ".", "Figure", "12", "shows", "the", "sole", "contribution", "of", "query", "restructuring", "scheme", "in", "improving", "the", "energy", "consumption", ".", "The", "energy", "reduces", "by", "an", "average", "55", "%", "from", "the", "unoptimized", "version", "when", "our", "query", "restructuring", "scheme", "is", "used", ".", "By", "just", "grouping", "similar", "accesses", "-LRB-", "to", "ensure", "data", "reuse", "-RRB-", ",", "query", "restructuring", "can", "achieve", "significant", "reduction", "in", "the", "energy", "consumption", "of", "multiple", "queries", ".", "In", "order", "to", "identify", "the", "benefits", "coming", "solely", "from", "Step", "1", "-LRB-", "intra-query", "optimization", "-RRB-", "in", "our", "query", "restructuring", "scheme", ",", "we", "also", "combined", "Step", "1", "and", "Step", "3", ",", "and", "compared", "it", "with", "our", "query-directed", "scheme", "-LRB-", "studied", "in", "Section", "4.2", "--", "which", "is", "simply", "Step", "3", "of", "our", "query", "restructuring", "-RRB-", ".", "Figure", "13", "shows", "the", "results", ".", "There", "is", "up", "to", "19", "%", "improvement", "in", "energy", "when", "operations", "are", "shuffled", "with", "a", "query", "based", "on", "their", "table", "usage", ".", "When", "the", "query", "restructuring", "scheme", "is", "combined", "with", "hardware-directed", "schemes", ",", "there", "is", "further", "improvement", "in", "energy", "savings", "-LRB-", "Figure", "14", "-RRB-", ".", "The", "static", "standby", "scheme", "works", "only", "for", "small", "queries", "that", "have", "a", "uniform", "access", "pattern", ",", "but", "when", "complex", "queries", "are", "encountered", ",", "the", "dynamic", "runtime", "scheme", "outperforms", "the", "static", "standby", "scheme", "due", "to", "its", "good", "prediction", "of", "225", "-", ">", "function", "-LRB-", "A", "-RRB-", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "hash", "join", "-", ">", "scan", "B", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "scan", "A", "-LRB-", "9000", "cycles", "-RRB-", "Q1", "-", ">", "aggregate", "-LRB-", "20", "cycles", "-RRB-", "-", ">", "scan", "B", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "scan", "A", "-LRB-", "9000", "cycles", "-RRB-", "Q2", "-", ">", "hash", "join", "-", ">", "scan", "B", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "function", "-LRB-", "A", "-RRB-", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "scan", "A", "-LRB-", "9000", "cycles", "-RRB-", "Q1", "-", ">", "aggregate", "-LRB-", "20", "cycles", "-RRB-", "-", ">", "scan", "B", "-LRB-", "9000", "cycles", "-RRB-", "-", ">", "scan", "A", "-LRB-", "9000", "cycles", "-RRB-", "Q2", "-LRB-", "i", "-RRB-", "Original", "Queries", "-LRB-", "ii", "-RRB-", "After", "applying", "Step", "1", "-", ">", "aggregate", "-LRB-", "from", "Q2", "-RRB-", "-", ">", "hash", "join", "-LRB-", "from", "Q1", "-RRB-", "-", ">", "scan", "B", "-LRB-", "from", "Q2", "-RRB-", "-", ">", "scan", "B", "-LRB-", "from", "Q1", "-RRB-", "-", ">", "function", "-LRB-", "A", "-RRB-", "-LRB-", "from", "Q1", "-RRB-", "-", ">", "scan", "A", "-LRB-", "from", "Q2", "-RRB-", "-", ">", "scan", "A", "-LRB-", "from", "Q1", "-RRB-", "Q1", "+", "Q2", "-LRB-", "iii", "-RRB-", "After", "applying", "Step", "2", "-", ">", "aggregate", "-LRB-", "from", "Q2", "-RRB-", "-", ">", "Put", "B", "=", "OFF", "-LRB-", "A", "is", "already", "OFF", "-RRB-", "-", ">", "hash", "join", "-LRB-", "from", "Q1", "-RRB-", "-", ">", "scan", "B", "-LRB-", "from", "Q2", "-RRB-", "-", ">", "scan", "B", "-LRB-", "from", "Q1", "-RRB-", "-", ">", "Put", "B", "=", "ON", "-", ">", "Put", "A", "=", "OFF", "-", ">", "function", "-LRB-", "A", "-RRB-", "-LRB-", "from", "Q1", "-RRB-", "-", ">", "scan", "A", "-LRB-", "from", "Q2", "-RRB-", "-", ">", "scan", "A", "-LRB-", "from", "Q1", "-RRB-", "-", ">", "Put", "A", "=", "ON", "-LRB-", "B", "is", "already", "OFF", "-RRB-", "-LRB-", "iv", "-RRB-", "After", "applying", "Step", "3", "Q1", "+", "Q2", "Figure", "11", ":", "Example", "of", "query", "restructuring", "and", "regrouping", "based", "on", "energy", "behavior", ".", "the", "application", "behavior", ".", "This", "can", "be", "seen", "in", "Figure", "14", ",", "where", "the", "dynamic", "threshold", "scheme", "performs", "better", "in", "the", "TPC-H", "scenarios", "than", "for", "the", "handheld", "query", "scenarios", ".", "The", "savings", "obtained", "by", "putting", "a", "module", "into", "multiple", "low-power", "modes", "for", "longer", "periods", "are", "more", "than", "the", "savings", "obtained", "by", "periodically", "putting", "a", "module", "to", "just", "standby", "mode", ".", "The", "software-directed", "schemes", "perform", "similar", "to", "dynamic", "the", "runtime", "threshold", "strategy", "when", "combined", "with", "the", "query", "restructuring", "algorithm", ".", "In", "Figure", "14", ",", "the", "insertion", "of", "explicit", "turn-on/off", "instructions", "improves", "the", "energy", "by", "an", "average", "78", "%", ",", "when", "compared", "to", "the", "unoptimized", "version", ".", "This", "result", "is", "comparable", "to", "the", "improvements", "obtained", "using", "the", "dynamic", "threshold", "scheme", ".", "In", "fact", ",", "the", "dynamic", "threshold", "scheme", "performs", "slightly", "better", "for", "some", "TPC-H", "queries", "-LRB-", "e.g.", ",", "S12", ",", "S13", ",", "and", "S14", "-RRB-", ".", "This", "situation", "occurs", "due", "to", "the", "following", "factor", ".", "When", "multiple", "queries", "are", "combined", "using", "query", "restructuring", ",", "it", "becomes", "difficult", "to", "predict", "the", "inter-access", "times", "since", "each", "query", "has", "a", "varying", "access", "pattern", ",", "and", "combining", "random", "access", "patterns", "complicates", "the", "job", "of", "the", "predictor", "-LRB-", "and", "requires", "a", "more", "sophisticated", "predictor", "-RRB-", ".", "The", "runtime", "schemes", "work", "at", "the", "hardware", "instruction", "level", "without", "any", "knowledge", "of", "the", "DBMS", "application", ".", "But", ",", "this", "illustrates", "how", "a", "simple", "software", "technique", "implemented", "at", "the", "query", "optimizer", "-LRB-", "by", "just", "analyzing", "the", "high-level", "query", "structure", "-RRB-", "is", "able", "to", "achieve", "improvements", "as", "good", "as", "an", "equivalent", "but", "expensive", "hardware", "technique", ".", "As", "mentioned", "earlier", "in", "the", "paper", ",", "when", "queries", "are", "restructured", "and", "grouped", ",", "the", "memory", "access", "pattern", "changes", ".", "The", "bank", "turn-on/off", "instructions", "can", "be", "inserted", "only", "in", "prominent", "``", "hot", "''", "and", "``", "cold", "''", "access", "regions", ",", "respectively", ".", "There", "are", "a", "few", "modules", ",", "which", "is", "beyond", "the", "control", "of", "software", ".", "For", "instance", ",", "we", "insert", "turn-on/off", "instructions", "based", "on", "tables", ".", "A", "given", "table", "could", "be", "scattered", "across", "many", "modules", ".", "Our", "predictor", "estimates", "the", "inter-access", "time", "for", "which", "the", "entire", "table", "needs", "to", "be", "put", "to", "low-power", "mode", ".", "However", ",", "even", "during", "a", "table", "access", ",", "there", "are", "regions", "-LRB-", "modules", "-RRB-", "that", "are", "hardly", "used", ".", "Dynamic", "runtime", "scheme", "is", "extremely", "good", "in", "handling", "this", "situation", "by", "its", "ability", "to", "put", "individual", "modules", "to", "a", "low-power", "state", "based", "on", "just", "that", "module", "'s", "access", ".", "This", "implies", "that", "the", "combination", "of", "hardware", "and", "software", "schemes", "form", "the", "best", "strategy", "when", "query", "restructuring", "is", "deployed", ".", "Figure", "14", "also", "shows", "the", "case", "when", "both", "dynamic", "runtime", "scheme", "and", "the", "turn-on/off", "instructions", "are", "used", "in", "tandem", "after", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "P11", "P12", "P23", "P123", "S11", "S12", "S13", "S14", "S23", "S24", "S34", "S222", "S123", "S1111", "S1234", "N", "o", "r", "m", "al", "i", "z", "ed", "E", "ner", "gy", "Figure", "12", ":", "Contribution", "of", "query", "restructuring", "towards", "energy", "improvements", ".", "The", "energy", "values", "shown", "are", "normalized", "to", "the", "version", "with", "no", "optimizations", ".", "query", "restructuring", ".", "The", "benefits", "obtained", "from", "such", "a", "hardware-software", "interaction", "is", "prominent", ".", "There", "is", "an", "average", "90", "%", "reduction", "in", "the", "memory", "energy", "consumption", "across", "the", "applications", ".", "In", "some", "cases", ",", "there", "is", "up", "to", "95", "%", "improvement", "in", "the", "energy", "consumption", ".", "These", "results", "clearly", "show", "that", "query", "restructuring", "combined", "with", "the", "use", "of", "low-power", "operating", "modes", "can", "lead", "to", "significant", "energy", "savings", ".", "7.3", "Performance", "Overhead", "Analysis", "Query", "restructuring", "combined", "with", "the", "use", "of", "low-power", "modes", "has", "an", "impact", "on", "the", "performance", ".", "In", "Figure", "15", ",", "we", "present", "the", "normalized", "system-wide", "performance", "of", "our", "query", "restructuring", "scheme", ".", "It", "is", "evident", "that", "the", "performance", "improves", "by", "an", "average", "of", "48", "%", "when", "multiple", "queries", "are", "restructured", "and", "grouped", ".", "The", "improvement", "in", "performance", "is", "mainly", "due", "to", "the", "improved", "locality", "utilization", "in", "the", "memory", "hierarchy", ".", "That", "is", ",", "the", "data", "brought", "to", "the", "cache", "by", "one", "query", "is", "reused", "by", "other", "queries", "-LRB-", "as", "a", "result", "of", "restructuring", "-RRB-", ".", "We", "do", "not", "present", "here", "detailed", "cache", "behavior", "statistics", "due", "to", "lack", "of", "space", ".", "Figure", "16", "shows", "the", "normalized", "performance", "for", "the", "combination", "schemes", "as", "well", ".", "When", "static", "standby", "scheme", "is", "used", "with", "query", "restructuring", ",", "the", "performance", "improvements", "obtained", "from", "query", "restructuring", "gets", "negated", "by", "the", "resynchronization", "overhead", "from", "the", "standby", "mode", "for", "each", "access", ".", "Thus", ",", "the", "performance", "0", "%", "2", "%", "4", "%", "6", "%", "8", "%", "10", "%", "12", "%", "14", "%", "16", "%", "18", "%", "20", "%", "Q6", "Q3", "Q4", "Q17", "P1", "P2", "P3", "E", "n", "erg", "y", "I", "m", "prov", "e", "m", "e", "n", "t", "s", "Figure", "13", ":", "Benefits", "obtained", "by", "restructuring", "operations", "within", "a", "query", "-LRB-", "contribution", "of", "Step", "1", "-RRB-", ".", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "P11", "P12", "P23", "P123", "S11", "S12", "S13", "S14", "S23", "S24", "S34", "S222", "S123", "S1111", "S1234", "Norm", "a", "l", "i", "z", "ed", "E", "n", "erg", "y", "Restructuring", "+", "Static", "Standby", "Restructuring", "+", "Dynamic", "Threshold", "Restructuring", "+", "On/Off", "Instr", "Restructuring", "+", "On/Off", "Instr", "+", "Dynamic", "Threshold", "Figure", "14", ":", "Energy", "consumption", "reduces", "significantly", "when", "low-power", "modes", "are", "utilized", "along", "with", "query", "restructuring", "scheme", ".", "Values", "shown", "are", "normalized", "to", "the", "unoptimized", "version", ".", "Best", "energy", "savings", "comes", "from", "a", "hybrid", "hardware-software", "scheme", ".", "226", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "P11", "P12", "P23", "P123", "S12", "S13", "S14", "S23", "S24", "S34", "S222", "S123", "S1111", "S1234", "Norm", "a", "l", "i", "z", "ed", "P", "e", "r", "f", "orm", "a", "nc", "e", "Figure", "15", ":", "Performance", "improvement", "obtained", "from", "basic", "query", "restructuring", "over", "the", "unoptimized", "version", ".", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "1.6", "1.8", "P11", "P12", "P23", "P123", "S12", "S13", "S14", "S23", "S24", "S34", "S222", "S123", "S1111", "S1234", "N", "o", "r", "m", "al", "i", "z", "e", "d", "P", "e", "r", "f", "o", "r", "m", "anc", "e", "Restructuring", "+", "Static", "Standby", "Restructuring", "+", "Dynamic", "Threshold", "Restructuring", "+", "On/Off", "Instr", "Restructuring", "+", "On/Off", "Instr", "+", "Dynamic", "Threshold", "Figure", "16", ":", "Overall", "performance", "after", "applying", "energy", "optimizations", "along", "with", "query", "restructuring", ".", "Values", "shown", "are", "normalized", "to", "the", "unoptimized", "version", ".", "worsens", "in", "some", "cases", "by", "even", "65", "%", "for", "complicated", "queries", ".", "However", ",", "overall", ",", "there", "is", "still", "a", "10", "%", "performance", "improvement", "for", "all", "applications", "on", "the", "average", ".", "The", "turn-on/off", "instructions", "have", "the", "least", "performance", "overhead", ",", "and", "hence", ",", "preserve", "the", "performance", "improvements", "obtained", "from", "query", "restructuring", ".", "From", "Figure", "16", ",", "this", "combination", "shows", "a", "47", "%", "improvement", "in", "performance", "-LRB-", "negating", "the", "improvements", "obtained", "from", "basic", "query", "restructuring", "by", "a", "mere", "1", "%", "-RRB-", ".", "Dynamic", "runtime", "threshold", "on", "the", "other", "hand", "negates", "the", "performance", "improvements", "from", "query", "restructuring", "by", "average", "6", "%", ".", "Combining", "turn-on/off", "instructions", "with", "dynamic", "runtime", "threshold", "shows", "an", "average", "performance", "improvement", "of", "45", "%", "for", "applications", ",", "which", "implies", "a", "3", "%", "overhead", "addition", "from", "the", "low-power", "schemes", "towards", "query", "restructuring", ".", "Thus", ",", "it", "is", "clear", "that", "query", "restructuring", "with", "both", "turn-on/off", "instructions", "and", "runtime", "threshold", "forms", "the", "best", "alternative", "from", "both", "energy", "consumption", "and", "performance", "perspectives", ".", "This", "paper", "is", "an", "attempt", "to", "study", "the", "potential", "of", "employing", "low-power", "operating", "modes", "to", "save", "memory", "energy", "during", "query", "execution", ".", "We", "propose", "hardware-directed", "and", "software-directed", "-LRB-", "query-directed", "-RRB-", "schemes", "that", "periodically", "transition", "the", "memory", "to", "low-power", "modes", "in", "order", "to", "reduce", "the", "energy", "consumption", "of", "memory-resident", "databases", ".", "Our", "experimental", "evaluations", "using", "two", "sets", "of", "queries", "clearly", "demonstrate", "that", "query-directed", "schemes", "perform", "better", "than", "hardware-directed", "schemes", "since", "the", "query", "optimizer", "knows", "the", "query", "access", "pattern", "prior", "to", "query", "execution", ",", "and", "can", "make", "use", "of", "this", "information", "in", "selecting", "the", "most", "suitable", "mode", "to", "use", "when", "idleness", "is", "detected", ".", "This", "scheme", "brings", "about", "68", "%", "reduction", "in", "energy", "consumption", ".", "In", "addition", ",", "the", "query-directed", "scheme", "can", "also", "preactivate", "memory", "banks", "before", "they", "are", "actually", "needed", "to", "reduce", "potential", "performance", "penalty", ".", "Our", "query", "restructuring", "scheme", "based", "on", "memory", "bank", "accesses", "provides", "another", "scope", "for", "optimization", ".", "One", "can", "re-order", "operations", "within", "a", "query", "to", "increase", "bank", "inter-access", "times", ".", "It", "is", "also", "possible", "to", "go", "beyond", "this", ",", "and", "consider", "the", "access", "patterns", "of", "multiple", "queries", "at", "the", "same", "time", ".", "Multiple", "queries", "are", "optimized", "based", "on", "their", "table", "accesses", ",", "i.e.", ",", "all", "accesses", "to", "a", "table", "are", "clustered", "as", "much", "as", "possible", ".", "This", "scheme", "is", "able", "to", "put", "memory", "banks", "to", "low-power", "operating", "modes", "for", "longer", "periods", "of", "time", "due", "to", "fewer", "table", "activations", ".", "There", "is", "up", "to", "90", "%", "improvement", "in", "energy", "and", "45", "%", "improvement", "in", "performance", "when", "queries", "are", "restructured", "and", "regrouped", "based", "on", "their", "table", "accesses", ".", "Overall", ",", "we", "can", "conclude", "that", "a", "suitable", "combination", "of", "query", "restructuring", "and", "low-power", "mode", "management", "can", "bring", "large", "energy", "benefits", "without", "hurting", "performance", ".", "-LSB-", "1", "-RSB-", "R.", "Alonso", "and", "S.", "Ganguly", ".", "Query", "optimization", "for", "energy", "efficiency", "in", "mobile", "environments", ".", "In", "Proc", ".", "of", "the", "Fifth", "Workshop", "on", "Foundations", "of", "Models", "and", "Languages", "for", "Data", "and", "Objects", ",", "1993", ".", "-LSB-", "2", "-RSB-", "N.", "An", ",", "S.", "Gurumurthi", ",", "A.", "Sivasubramaniam", ",", "N.", "Vijaykrishnan", ",", "M.", "Kandemir", ",", "and", "M.J.", "Irwin", ".", "Energy-performance", "trade-offs", "for", "spatial", "access", "methods", "on", "memory-resident", "data", ".", "The", "VLDB", "Journal", ",", "11", "-LRB-", "3", "-RRB-", ":", "179", "197", ",", "2002", ".", "-LSB-", "3", "-RSB-", "N.", "Anciaux", ",", "L.", "Bouganim", ",", "and", "P.", "Pucheral", ".", "On", "finding", "a", "memory", "lower", "bound", "for", "query", "evaluation", "in", "lightweight", "devices", ".", "Technical", "report", ",", "PRiSM", "Laboratoire", "de", "recherche", "en", "informatique", ",", "2003", ".", "-LSB-", "4", "-RSB-", "T.", "M.", "Austin", ".", "The", "simplescalar/arm", "toolset", ".", "SimpleScalar", "LLC", ".", "http://www.simplescalar.com/", ".", "-LSB-", "5", "-RSB-", "Birdstep", "Technology", ".", "Database", "Management", "In", "Real-time", "and", "Embedded", "Systems", "-", "Technical", "White", "Paper", ",", "2003", ".", "http://www.birdstep.com/collaterals/", ".", "-LSB-", "6", "-RSB-", "Bloor", "Research", "Ltd.", ".", "Main", "Memory", "Databases", ",", "November", "1999", ".", "-LSB-", "7", "-RSB-", "P.A.", "Boncz", ",", "S.", "Manegold", ",", "and", "M.L.", "Kersten", ".", "Database", "architecture", "optimized", "for", "the", "new", "bottleneck", ":", "Memory", "access", ".", "In", "The", "VLDB", "Journal", ",", "pages", "54", "65", ",", "1999", ".", "-LSB-", "8", "-RSB-", "D.", "Brooks", ",", "V.", "Tiwari", ",", "and", "M.", "Martonosi", ".", "Wattch", ":", "a", "framework", "for", "architectural-level", "power", "analysis", "and", "optimizations", ".", "In", "Proc", ".", "International", "Symposium", "on", "Computer", "Architecture", ",", "2000", ".", "-LSB-", "9", "-RSB-", "Q.", "Cao", ",", "P.", "Trancoso", ",", "J.-L", "Larriba-Pey", ",", "J.", "Torrellas", ",", "R.", "Knighten", ",", "and", "Y.", "Won", ".", "Detailed", "characterization", "of", "a", "quad", "pentium", "pro", "server", "running", "tpc-d", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Computer", "Design", ",", "1999", ".", "-LSB-", "10", "-RSB-", "S.", "Chaudhuri", "and", "K.", "Shim", ".", "Optimization", "of", "queries", "with", "user-defined", "predicates", ".", "ACM", "Transactions", "on", "Database", "Systems", ",", "24", "-LRB-", "2", "-RRB-", ":", "177", "228", ",", "1999", ".", "-LSB-", "11", "-RSB-", "G.P.", "Copeland", ",", "T.", "Keller", ",", "R.", "Krishnamurthy", ",", "and", "M.", "Smith", ".", "The", "case", "for", "safe", "ram", ".", "In", "Proc", ".", "of", "the", "Fifteenth", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "pages", "327", "335", ",", "1989", ".", "-LSB-", "12", "-RSB-", "Database", "Management", "System", ",", "The", "PostgreSQL", "Global", "Development", "Group", ".", "PostgreSQL", "7.2", ",", "2001", ".", "http://www.postgresql.org/", ".", "-LSB-", "13", "-RSB-", "V.", "Delaluz", ",", "M.", "Kandemir", ",", "N.", "Vijaykrishnan", ",", "A.", "Sivasubramaniam", ",", "and", "M.J.", "Irwin", ".", "Dram", "energy", "management", "using", "software", "and", "hardware", "directed", "power", "mode", "control", ".", "In", "Proc", ".", "of", "the", "International", "Symposium", "on", "High-Performance", "Computer", "Architecture", ",", "2001", ".", "-LSB-", "14", "-RSB-", "Z.", "Fong", ".", "The", "design", "and", "implementation", "of", "the", "postgres", "query", "optimizer", ".", "Technical", "report", ",", "University", "of", "California", ",", "Berkeley", ".", "http://s2k-ftp.cs.berkeley.edu:8000/postgres/papers/", ".", "-LSB-", "15", "-RSB-", "P.", "Gassner", ",", "G.M.", "Lohman", ",", "K.B.", "Schiefer", ",", "and", "Y.", "Wang", ".", "Query", "optimization", "in", "the", "ibm", "db2", "family", ".", "Data", "Engineering", "Bulletin", ",", "16", "-LRB-", "4", "-RRB-", ":", "4", "18", ",", "1993", ".", "-LSB-", "16", "-RSB-", "Le", "Gruenwald", "and", "S.M.", "Banik", ".", "Energy-efficient", "transaction", "management", "for", "real-time", "mobile", "databases", "in", "ad-hoc", "network", "environments", ".", "In", "Proc", ".", "of", "the", "Second", "International", "Conference", "on", "Mobile", "Data", "Management", ",", "2001", ".", "-LSB-", "17", "-RSB-", "Handspring", ".", "Handspring", "Organizers", ",", "2004", ".", "http://www.handspring.com/products/", ".", "-LSB-", "18", "-RSB-", "J.M.", "Hellerstein", ".", "Optimization", "techniques", "for", "queries", "with", "expensive", "methods", ".", "ACM", "Transactions", "on", "Database", "Systems", ",", "23", "-LRB-", "2", "-RRB-", ":", "113", "157", ",", "1998", ".", "-LSB-", "19", "-RSB-", "T.", "Imielinski", ",", "S.", "Viswanathan", ",", "and", "B.R.", "Badrinath", ".", "Energy", "efficient", "indexing", "on", "air", ".", "In", "Proc", ".", "of", "ACM", "SIGMOD", "Conference", ",", "1994", ".", "-LSB-", "20", "-RSB-", "Intel", "Corporation", ".", "Intel", "440BX", "AGPset", ":", "82443BX", "Host", "Bridge/Controller", "Data", "Sheet", ",", "April", "1998", ".", "-LSB-", "21", "-RSB-", "A.R.", "Lebeck", ",", "X.", "Fan", ",", "H.", "Zeng", ",", "and", "C.S.", "Ellis", ".", "Power", "aware", "page", "allocation", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Architectural", "Support", "for", "Programming", "Languages", "and", "Operating", "Systems", ",", "2000", ".", "-LSB-", "22", "-RSB-", "S.", "Madden", ",", "M.J.", "Franklin", ",", "J.M.", "Hellerstein", ",", "and", "W.", "Hong", ".", "The", "design", "of", "an", "acquisitional", "query", "processor", "for", "sensor", "networks", ".", "In", "Proc", ".", "of", "the", "ACM", "SIGMOD", "International", "Conference", "on", "Management", "of", "Data", ",", "pages", "491", "502", ".", "ACM", "Press", ",", "2003", ".", "-LSB-", "23", "-RSB-", "S.", "Manegold", ".", "Understanding", ",", "Modeling", ",", "and", "Improving", "Main-Memory", "Database", "Performance", ".", "Ph.d.", "thesis", ",", "Universiteit", "van", "Amsterdam", ",", "Amsterdam", ",", "The", "Netherlands", ",", "December", "2002", ".", "-LSB-", "24", "-RSB-", "C.L.", "Monma", "and", "J.B.", "Sidney", ".", "Sequencing", "with", "series-parallel", "precedence", "constraints", ".", "Mathematics", "of", "Operations", "Research", ",", "4:215", "224", ",", "1979", ".", "-LSB-", "25", "-RSB-", "Palm", "Inc.", ".", "Palm", "Handhelds", ",", "2004", ".", "http://www.palm.com/products/", ".", "-LSB-", "26", "-RSB-", "The", "PostgreSQL", "Global", "Development", "Group", ".", "PostgreSQL", "7.2", "Developers", "Guide", ",", "2002", ".", "http://www.postgresql.org/docs/", ".", "-LSB-", "27", "-RSB-", "P.", "Pucheral", ",", "L.", "Bouganim", ",", "P.", "Valduriez", ",", "and", "C.", "Bobineau", ".", "Picodbms", ":", "Scaling", "down", "database", "techniques", "for", "the", "smartcard", ".", "The", "VLDB", "Journal", ",", "12", "-LRB-", "1", "-RRB-", ":", "120", "132", ",", "2001", ".", "-LSB-", "28", "-RSB-", "J.M.", "Rabaey", ",", "A.", "Chandrakasan", ",", "and", "B.", "Nikolic", ".", "Digital", "Integrated", "Circuits", ".", "Prentice", "Hall", ",", "second", "edition", ",", "2002", ".", "-LSB-", "29", "-RSB-", "R.", "Ramakrishnan", "and", "J.", "Gehrke", ".", "Database", "Management", "Systems", ".", "McGraw-Hill", "publishers", ",", "third", "edition", ",", "2002", ".", "-LSB-", "30", "-RSB-", "Rambus", "Inc.", ".", "Rambus", "RDRAM", "512", "MB", "Datasheet", ",", "2003", ".", "-LSB-", "31", "-RSB-", "Samsung", "Microelectronics", ".", "Mobile", "512", "MB", "DRAM", "Chip", "Series", ".", "http://www.samsung.com/Products/Semiconductor/", ".", "-LSB-", "32", "-RSB-", "S.", "Sarawagi", "and", "M.", "Stonebraker", ".", "Reordering", "query", "execution", "in", "tertiary", "memory", "databases", ".", "In", "The", "VLDB", "Journal", ",", "pages", "156", "167", ",", "1996", ".", "-LSB-", "33", "-RSB-", "A.", "Silberschatz", ",", "H.F.", "Korth", ",", "and", "S.", "Sudarshan", ".", "Database", "System", "Concepts", ".", "McGraw-Hill", ",", "fourth", "edition", ",", "2001", ".", "-LSB-", "34", "-RSB-", "Sleepycat", "Software", ".", "Berkeley", "DB", "V4", ".2", ",", "2004", ".", "http://www.sleepycat.com/docs/index.html", ".", "-LSB-", "35", "-RSB-", "Transaction", "Processing", "Performance", "Council", ".", "TPC-H", "Benchmark", "Revision", "2.0.0", ",", "2003", ".", "227"], "doc_bio_tags": ["B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["energy optimization", "database", "dram", "power consumption", "energy", "banked memory", "query restructuring"], "abstractive_keyphrases": ["low-power modes", "memory-resident databases", "query-directed scheme", "hardware energy scheme", "query-directed energy management", "multi-query optimization"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "60", "document": ["Coupling", "Feature", "Selection", "and", "Machine", "Learning", "Methods", "for", "Navigational", "Query", "Identification", "It", "is", "important", "yet", "hard", "to", "identify", "navigational", "queries", "in", "Web", "search", "due", "to", "a", "lack", "of", "sufficient", "information", "in", "Web", "queries", ",", "which", "are", "typically", "very", "short", ".", "In", "this", "paper", "we", "study", "several", "machine", "learning", "methods", ",", "including", "naive", "Bayes", "model", ",", "maximum", "entropy", "model", ",", "support", "vector", "machine", "-LRB-", "SVM", "-RRB-", ",", "and", "stochastic", "gradient", "boosting", "tree", "-LRB-", "SGBT", "-RRB-", ",", "for", "navigational", "query", "identification", "in", "Web", "search", ".", "To", "boost", "the", "performance", "of", "these", "machine", "techniques", ",", "we", "exploit", "several", "feature", "selection", "methods", "and", "propose", "coupling", "feature", "selection", "with", "classification", "approaches", "to", "achieve", "the", "best", "performance", ".", "Different", "from", "most", "prior", "work", "that", "uses", "a", "small", "number", "of", "features", ",", "in", "this", "paper", ",", "we", "study", "the", "problem", "of", "identifying", "navigational", "queries", "with", "thousands", "of", "available", "features", ",", "extracted", "from", "major", "commercial", "search", "engine", "results", ",", "Web", "search", "user", "click", "data", ",", "query", "log", ",", "and", "the", "whole", "Web", "'s", "relational", "content", ".", "A", "multi-level", "feature", "extraction", "system", "is", "constructed", ".", "Our", "results", "on", "real", "search", "data", "show", "that", "1", "-RRB-", "Among", "all", "the", "features", "we", "tested", ",", "user", "click", "distribution", "features", "are", "the", "most", "important", "set", "of", "features", "for", "identifying", "navigational", "queries", ".", "2", "-RRB-", "In", "order", "to", "achieve", "good", "performance", ",", "machine", "learning", "approaches", "have", "to", "be", "coupled", "with", "good", "feature", "selection", "methods", ".", "We", "find", "that", "gradient", "boosting", "tree", ",", "coupled", "with", "linear", "SVM", "feature", "selection", "is", "most", "effective", ".", "3", "-RRB-", "With", "carefully", "coupled", "feature", "selection", "and", "classification", "approaches", ",", "navigational", "queries", "can", "be", "accurately", "identified", "with", "88.1", "%", "F1", "score", ",", "which", "is", "33", "%", "error", "rate", "reduction", "compared", "to", "the", "best", "uncoupled", "system", ",", "and", "40", "%", "error", "rate", "reduction", "compared", "to", "a", "well", "tuned", "system", "without", "feature", "selection", ".", "H.", "4", "-LSB-", "Information", "Systems", "Applications", "-RSB-", ":", "Miscellaneous", "Dr.", "Peng", "contributes", "to", "this", "paper", "equally", "as", "Dr.", "Lu", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "06", ",", "November", "5", "11", ",", "2006", ",", "Arlington", ",", "Virginia", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-433-2", "/", "06/0011", "...", "$", "5.00", ".", "Experimentation", "Nowadays", ",", "Web", "search", "has", "become", "the", "main", "method", "for", "information", "seeking", ".", "Users", "may", "have", "a", "variety", "of", "intents", "while", "performing", "a", "search", ".", "For", "example", ",", "some", "users", "may", "already", "have", "in", "mind", "the", "site", "they", "want", "to", "visit", "when", "they", "type", "a", "query", ";", "they", "may", "not", "know", "the", "URL", "of", "the", "site", "or", "may", "not", "want", "to", "type", "in", "the", "full", "URL", "and", "may", "rely", "on", "the", "search", "engine", "to", "bring", "up", "the", "right", "site", ".", "Yet", "others", "may", "have", "no", "idea", "of", "what", "sites", "to", "visit", "before", "seeing", "the", "results", ".", "The", "information", "they", "are", "seeking", "normally", "exists", "on", "more", "than", "one", "page", ".", "Knowing", "the", "different", "intents", "associated", "with", "a", "query", "may", "dramatically", "improve", "search", "quality", ".", "For", "example", ",", "if", "a", "query", "is", "known", "to", "be", "navigational", ",", "we", "can", "improve", "search", "results", "by", "developing", "a", "special", "ranking", "function", "for", "navigational", "queries", ".", "The", "presentation", "of", "the", "search", "results", "or", "the", "user-perceived", "relevance", "can", "also", "be", "improved", "by", "only", "showing", "the", "top", "results", "and", "reserving", "the", "rest", "of", "space", "for", "other", "purposes", "since", "users", "only", "care", "about", "the", "top", "result", "of", "a", "navigational", "query", ".", "According", "to", "our", "statistics", ",", "about", "18", "%", "of", "queries", "in", "Web", "search", "are", "navigational", "-LRB-", "see", "Section", "6", "-RRB-", ".", "Thus", ",", "correctly", "identifying", "navigational", "queries", "has", "a", "great", "potential", "to", "improve", "search", "performance", ".", "Navigational", "query", "identification", "is", "not", "trivial", "due", "to", "a", "lack", "of", "sufficient", "information", "in", "Web", "queries", ",", "which", "are", "normally", "short", ".", "Recently", ",", "navigational", "query", "identification", ",", "or", "more", "broadly", "query", "classification", ",", "is", "drawing", "significant", "attention", ".", "Many", "machine", "learning", "approaches", "that", "have", "been", "used", "in", "general", "classification", "framework", ",", "including", "naive", "Bayes", "classifier", ",", "maximum", "entropy", "models", ",", "support", "vector", "machines", ",", "and", "gradient", "boosting", "tree", ",", "can", "be", "directly", "applied", "here", ".", "However", ",", "each", "of", "these", "approaches", "has", "its", "own", "advantages", "that", "suit", "certain", "problems", ".", "Due", "to", "the", "characteristics", "of", "navigational", "query", "identification", "-LRB-", "more", "to", "be", "addressed", "in", "Section", "2", "-RRB-", ",", "it", "is", "not", "clear", "which", "one", "is", "the", "best", "for", "the", "task", "of", "navigational", "query", "identification", ".", "Our", "first", "contribution", "in", "this", "paper", "is", "to", "evaluate", "the", "effectiveness", "of", "these", "machine", "learning", "approaches", "in", "the", "context", "of", "navigational", "query", "identification", ".", "To", "our", "knowledge", ",", "this", "paper", "is", "the", "very", "first", "attempt", "in", "this", "regard", ".", "682", "Machine", "learning", "models", "often", "suffer", "from", "the", "curse", "of", "feature", "dimensionality", ".", "Feature", "selection", "plays", "a", "key", "role", "in", "many", "tasks", ",", "such", "as", "text", "categorization", "-LSB-", "18", "-RSB-", ".", "In", "this", "paper", ",", "our", "second", "contribution", "is", "to", "evaluate", "several", "feature", "selection", "methods", "and", "propose", "coupling", "feature", "selection", "with", "classification", "approaches", "to", "achieve", "the", "best", "performance", ":", "ranking", "features", "by", "using", "one", "algorithm", "before", "another", "method", "is", "used", "to", "train", "the", "classifier", ".", "This", "approach", "is", "especially", "useful", "when", "redundant", "low", "quality", "heterogeneous", "features", "are", "encountered", ".", "Most", "previous", "studies", "in", "query", "identification", "are", "based", "on", "a", "small", "number", "of", "features", "that", "are", "obtained", "from", "limited", "resources", "-LSB-", "12", "-RSB-", ".", "In", "this", "paper", ",", "our", "third", "contribution", "is", "to", "explore", "thousands", "of", "available", "features", ",", "extracted", "from", "major", "commercial", "search", "engine", "results", ",", "user", "Web", "search", "click", "data", ",", "query", "log", ",", "and", "the", "whole", "Web", "'s", "relational", "content", ".", "To", "obtain", "most", "useful", "features", ",", "we", "present", "a", "three", "level", "system", "that", "integrates", "feature", "generation", ",", "feature", "integration", ",", "and", "feature", "selection", "in", "a", "pipe", "line", ".", "The", "system", ",", "after", "coupling", "features", "selected", "by", "SVM", "with", "a", "linear", "kernel", "and", "stochastic", "gradient", "boosting", "tree", "as", "classification", "training", "method", ",", "is", "able", "to", "achieve", "an", "average", "performance", "of", "88.1", "%", "F1", "score", "in", "a", "five", "fold", "cross-validation", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "the", "next", "section", ",", "we", "will", "define", "the", "problem", "in", "more", "detail", "and", "describe", "the", "architecture", "of", "our", "system", ".", "We", "then", "present", "a", "multi-level", "feature", "extraction", "system", "in", "Section", "3", ".", "We", "describe", "four", "classification", "approaches", "in", "Section", "4", "and", "three", "feature", "selection", "methods", "in", "Section", "5", ".", "We", "then", "conduct", "extensive", "experiments", "on", "real", "search", "data", "in", "Section", "6", ".", "We", "present", "detailed", "discussions", "in", "Section", "7", ".", "We", "discuss", "some", "related", "work", "in", "Section", "8", ".", "Finally", ",", "we", "conclude", "the", "paper", "in", "Section", "9", ".", "We", "divide", "queries", "into", "two", "categories", ":", "navigational", "and", "informational", ".", "According", "to", "the", "canonical", "definition", "-LSB-", "3", ",", "14", "-RSB-", ",", "a", "query", "is", "navigational", "if", "a", "user", "already", "has", "a", "Web-site", "in", "mind", "and", "the", "goal", "is", "simply", "to", "reach", "that", "particular", "site", ".", "For", "example", ",", "if", "a", "user", "issues", "query", "``", "amazon", "''", ",", "he/she", "mainly", "wants", "to", "visit", "\"amazon.com", "''", ".", "This", "definition", ",", "however", ",", "is", "rather", "subjective", "and", "not", "easy", "to", "formalize", ".", "In", "this", "paper", ",", "we", "extend", "the", "definition", "of", "navigational", "query", "to", "a", "more", "general", "case", ":", "a", "query", "is", "navigational", "if", "it", "has", "one", "and", "only", "one", "perfect", "site", "in", "the", "result", "set", "corresponding", "to", "this", "query", ".", "A", "site", "is", "considered", "as", "perfect", "if", "it", "contains", "complete", "information", "about", "the", "query", "and", "lacks", "nothing", "essential", ".", "In", "our", "definition", ",", "navigational", "query", "must", "have", "a", "corresponding", "result", "page", "that", "conveys", "perfectness", ",", "uniqueness", ",", "and", "authority", ".", "Unlike", "Broder", "'s", "definition", ",", "our", "definition", "does", "not", "require", "the", "user", "to", "have", "a", "site", "in", "mind", ".", "This", "makes", "data", "labeling", "more", "objective", "and", "practical", ".", "For", "example", ",", "when", "a", "user", "issues", "a", "query", "``", "Fulton", ",", "NY", "''", ",", "it", "is", "not", "clear", "if", "the", "user", "knows", "the", "Web-site", "\"www.fultoncountyny.org", "''", ".", "However", ",", "this", "Web-site", "has", "an", "unique", "authority", "and", "perfect", "content", "for", "this", "query", "and", "therefore", "the", "query", "``", "Fulton", ",", "NY", "''", "is", "labeled", "as", "a", "navigational", "query", ".", "All", "non-navigational", "queries", "are", "considered", "informational", ".", "For", "an", "informational", "query", ",", "typically", "there", "exist", "multiple", "excellent", "Web-sites", "corresponding", "to", "the", "query", "that", "users", "are", "willing", "to", "explore", ".", "To", "give", "another", "example", ",", "in", "our", "dataset", ",", "query", "``", "national", "earth", "science", "teachers", "association", "''", "has", "only", "one", "perfect", "corresponding", "URL", "``", "http://www.nestanet.org/\"", "and", "therefore", "is", "labeled", "as", "navigational", "query", ".", "Query", "``", "Canadian", "gold", "maple", "leaf", "''", "has", "several", "excellent", "corresponding", "URL", "'s", ",", "including", "``", "http://www", ".", "goldfingercoin.com", "/", "catalog", "gold", "/", "canadian", "maple", "leaf.htm", "''", ",", "``", "http://coins.about.com/", "library/weekly", "/", "aa091802a.htm", "''", "and", "``", "http://www.onlygold.com/Coins/", "Cana-dianMapleLeafsFullScreen", ".", "asp", "''", ".", "Therefore", ",", "query", "``", "Canadian", "gold", "maple", "leaf", "''", "is", "labeled", "as", "non-navigational", "query", ".", "Figure", "1", "illustrates", "the", "architecture", "of", "our", "navigational", "query", "identification", "system", ".", "A", "search", "engine", "takes", "in", "a", "query", "and", "returns", "a", "set", "of", "URLs", ".", "The", "query", "and", "returned", "URLs", "are", "sent", "into", "a", "multi-level", "feature", "extraction", "system", "that", "generates", "and", "selects", "useful", "features", ";", "details", "are", "presented", "in", "the", "next", "section", ".", "Selected", "features", "are", "then", "input", "into", "a", "machine", "learning", "tool", "to", "learn", "a", "classification", "model", ".", "The", "multiple", "level", "feature", "system", "is", "one", "of", "the", "unique", "features", "of", "our", "system", ".", "Unlike", "prior", "work", "with", "a", "limited", "number", "of", "features", "or", "in", "a", "simulated", "environment", "-LSB-", "11", ",", "12", "-RSB-", ",", "our", "work", "is", "based", "on", "real", "search", "data", ",", "a", "major", "search", "en-gine", "'s", "user", "click", "information", "and", "a", "query", "log", ".", "In", "order", "to", "handle", "large", "amount", "of", "heteorgeneous", "features", "in", "an", "efficient", "way", ",", "we", "propose", "a", "multi-level", "feature", "system", ".", "The", "first", "level", "is", "the", "feature", "generation", "level", "that", "calculates", "statistics", "and", "induces", "features", "from", "three", "resources", ":", "a", "click", "engine", ",", "a", "Web-map", "and", "a", "query", "log", ".", "The", "second", "level", "is", "responsible", "for", "integrating", "query-URL", "pair-wise", "features", "into", "query", "features", "by", "applying", "various", "functions", ".", "The", "third", "level", "is", "a", "feature", "selection", "module", ",", "which", "ranks", "features", "by", "using", "different", "methods", ".", "Below", "we", "present", "the", "details", "of", "the", "first", "two", "levels", ".", "The", "third", "level", "will", "be", "presented", "separately", "in", "Section", "5", "since", "those", "feature", "selection", "methods", "are", "standard", ".", "3.1", "Feature", "Generation", "Queries", "are", "usually", "too", "short", "and", "lack", "sufficient", "context", "to", "be", "classified", ".", "Therefore", ",", "we", "have", "to", "generate", "more", "features", "from", "other", "resources", ".", "We", "use", "three", "resources", "to", "generate", "features", ":", "a", "click", "engine", ",", "a", "Web-map", ",", "and", "query", "logs", ".", "The", "click", "engine", "is", "a", "device", "to", "record", "and", "analyze", "user", "click", "behavior", ".", "It", "is", "able", "to", "generate", "hundreds", "of", "features", "automatically", "based", "on", "user", "click", "through", "distributions", "-LSB-", "16", "-RSB-", ".", "A", "Web-map", "can", "be", "considered", "as", "a", "relational", "database", "that", "stores", "hundreds", "of", "induced", "features", "on", "page", "content", ",", "anchor", "text", ",", "hyperlink", "structure", "of", "webpages", ",", "including", "the", "inbound", ",", "outbound", "URLs", ",", "and", "etc.", ".", "Query", "logs", "are", "able", "to", "provide", "bag-of-words", "features", "and", "various", "language", "model", "based", "features", "based", "on", "all", "the", "queries", "issued", "by", "users", "over", "a", "period", "of", "time", ".", "Input", "to", "feature", "generation", "module", "is", "a", "query-URL", "pair", ".", "For", "each", "query", ",", "the", "top", "100", "ULRs", "are", "recorded", "and", "100", "query-URLs", "are", "generated", ".", "Thus", "for", "each", "query-URL", "pair", ",", "we", "record", "a", "total", "of", "197", "features", "generated", "from", "the", "following", "four", "categories", ":", "Click", "features", ":", "Click", "features", "record", "the", "click", "information", "about", "a", "URL", ".", "We", "generate", "a", "total", "number", "of", "29", "click", "features", "for", "each", "query-URL", "pair", ".", "An", "example", "of", "a", "click", "feature", "is", "the", "click", "ratio", "-LRB-", "CR", "-RRB-", ".", "Let", "n", "i", "k", "denote", "the", "number", "of", "clicks", "on", "URL", "k", "for", "query", "i", "and", "total", "number", "of", "clicks", "n", "i", "=", "X", "k", "n", "i", "k", ".", "683", "Webmap", "Click", "engine", "Query", "log", "Entropy", "Max", "Min", "...", "SGBT", "Naive", "Bayes", "MaxEnt", "SVM", "Search", "engine", "query", "Classifier", "Classification", "module", "Feature", "generation", "Feature", "selection", "module", "Feature", "integration", "Information", "gain", "SVM", "feature", "ranking", "Boosting", "feature", "selection", "Integrated", "feature", "query-url", "feature", "Selected", "feature", "query-URL", "Figure", "1", ":", "Diagram", "of", "Result", "Set", "Based", "Navigational", "Query", "Identification", "System", "The", "click", "ratio", "is", "the", "ratio", "of", "number", "of", "clicks", "on", "a", "particular", "URL", "K", "for", "query", "i", "to", "the", "total", "number", "of", "clicks", "for", "this", "query", ",", "which", "has", "the", "form", "CR", "-LRB-", "i", ",", "K", "-RRB-", "=", "n", "i", "K", "n", "i", ".", "URL", "features", ":", "URL", "features", "measure", "the", "characteristics", "of", "the", "URL", "itself", ".", "There", "are", "24", "URL", "based", "features", "in", "total", ".", "One", "such", "feature", "is", "a", "URL", "match", "feature", ",", "named", "urlmr", ",", "which", "is", "defined", "as", "urlmr", "=", "l", "-LRB-", "p", "-RRB-", "l", "-LRB-", "u", "-RRB-", "where", "l", "-LRB-", "p", "-RRB-", "is", "the", "length", "of", "the", "longest", "substring", "p", "of", "the", "query", "that", "presents", "in", "the", "URL", "and", "l", "-LRB-", "u", "-RRB-", "is", "the", "length", "of", "the", "URL", "u", ".", "This", "feature", "is", "based", "on", "the", "observation", "that", "Web-sites", "tend", "to", "use", "their", "names", "in", "the", "URL", "'s", ".", "The", "distributions", "confers", "uniqueness", "and", "authority", ".", "Anchor", "text", "features", ":", "Anchor", "text", "is", "the", "visible", "text", "in", "a", "hyperlink", ",", "which", "also", "provides", "useful", "information", "for", "navigational", "query", "identification", ".", "For", "example", ",", "one", "anchor", "text", "feature", "is", "the", "entropy", "of", "anchor", "link", "distribution", "-LSB-", "12", "-RSB-", ".", "This", "distribution", "is", "basically", "the", "histogram", "of", "inbound", "anchor", "text", "of", "the", "destination", "URL", ".", "If", "an", "URL", "is", "pointed", "to", "by", "the", "same", "anchor", "texts", ",", "the", "URL", "is", "likely", "to", "contain", "perfect", "content", ".", "There", "are", "many", "other", "anchor", "text", "features", "that", "are", "calculated", "by", "considering", "many", "factors", ",", "such", "as", "edit", "distance", "between", "query", "and", "anchor", "texts", ",", "diversity", "of", "the", "hosts", ",", "etc.", ".", "In", "total", ",", "there", "are", "63", "features", "derived", "from", "anchor", "text", ".", "Since", "we", "record", "the", "top", "100", "results", "for", "each", "query", "and", "each", "query", "URL", "pair", "has", "197", "features", ",", "in", "total", "there", "are", "19,700", "features", "available", "for", "each", "query", ".", "Feature", "reduction", "becomes", "necessary", "due", "to", "curse", "of", "dimensionality", "-LSB-", "5", "-RSB-", ".", "Before", "applying", "feature", "selection", ",", "we", "conduct", "a", "feature", "integration", "procedure", "that", "merges", "redundant", "features", ".", "3.2", "Feature", "Integration", "We", "design", "a", "feature", "integration", "operator", ",", "named", "normalized", "ratio", "r", "k", "of", "rank", "k", ",", "as", "follows", ":", "r", "k", "-LRB-", "f", "j", "-RRB-", "=", "max", "-LRB-", "f", "j", "-RRB-", "-", "f", "jk", "max", "-LRB-", "f", "j", "-RRB-", "-", "min", "-LRB-", "f", "j", "-RRB-", ",", "k", "=", "2", ",", "5", ",", "10", ",", "20", ".", "-LRB-", "1", "-RRB-", "The", "design", "of", "this", "operator", "is", "motivated", "by", "the", "observation", "that", "the", "values", "of", "query-URL", "features", "for", "navigational", "query", "and", "informational", "query", "decrease", "at", "different", "rates", ".", "Taking", "the", "urlmr", "feature", "for", "example", "and", "considering", "a", "navigational", "query", "``", "Walmart", "''", "and", "an", "informational", "query", "``", "Canadian", "gold", "maple", "leaf", "''", ",", "we", "plot", "the", "feature", "values", "of", "top", "100", "URLs", "for", "both", "queries", ",", "as", "shown", "in", "Figure", "2", ".", "As", "we", "can", "see", ",", "the", "feature", "value", "for", "the", "navigational", "query", "drops", "quickly", "to", "a", "stable", "point", ",", "while", "an", "information", "query", "is", "not", "stable", ".", "As", "we", "will", "see", "in", "the", "experiment", "section", ",", "this", "operator", "is", "most", "effective", "in", "feature", "reduction", ".", "Besides", "this", "operator", ",", "we", "use", "other", "statistics", "for", "feature", "integration", ",", "including", "mean", ",", "median", ",", "maximum", ",", "minimum", ",", "entropy", ",", "standard", "deviation", "and", "value", "in", "top", "five", "positions", "of", "the", "result", "set", "query-URL", "pair", "features", ".", "In", "total", ",", "we", "now", "have", "15", "measurements", "instead", "of", "100", "for", "the", "top", "100", "URLs", "for", "each", "query", ".", "Therefore", ",", "for", "each", "query", ",", "the", "dimension", "of", "a", "feature", "vector", "is", "m", "=", "15", "197", "=", "2955", ",", "which", "is", "much", "smaller", "than", "197", ",", "000", ".", "We", "apply", "the", "most", "popular", "generative", "-LRB-", "such", "as", "naive", "Bayes", "method", "-RRB-", ",", "descriptive", "-LRB-", "such", "as", "Maximum", "Entropy", "method", "-RRB-", ",", "and", "discriminative", "-LRB-", "such", "as", "support", "vector", "machine", "and", "stochastic", "gradient", "boosting", "tree", "-RRB-", "learning", "methods", "-LSB-", "19", "-RSB-", "to", "attack", "the", "problem", ".", "4.1", "Naive", "Bayes", "Classifier", "A", "simple", "yet", "effective", "learning", "algorithm", "for", "classification", "684", "0", "20", "40", "60", "80", "100", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "Rank", "Result", "Set", "Feature", ":", "URLmr", "Query", ":", "``", "Walmart", "''", "0", "20", "40", "60", "80", "100", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "Rank", "Result", "Set", "Feature", ":", "URLmr", "Query", ":", "``", "Canadian", "gold", "maple", "leaf", "''", "Figure", "2", ":", "urlmr", "query-URL", "feature", "for", "navigational", "query", "-LRB-", "upper", "-RRB-", "and", "a", "informational", "query", "-LRB-", "lower", "-RRB-", "is", "based", "on", "a", "simple", "application", "of", "Bayes", "'", "rule", "P", "-LRB-", "y", "|", "q", "-RRB-", "=", "P", "-LRB-", "y", "-RRB-", "P", "-LRB-", "q", "|", "y", "-RRB-", "P", "-LRB-", "q", "-RRB-", "-LRB-", "2", "-RRB-", "In", "query", "classification", ",", "a", "query", "q", "is", "represented", "by", "a", "vector", "of", "K", "attributes", "q", "=", "-LRB-", "v", "1", ",", "v", "2", ",", "...", "v", "K", "-RRB-", ".", "Computing", "p", "-LRB-", "q", "|", "y", "-RRB-", "in", "this", "case", "is", "not", "trivial", ",", "since", "the", "space", "of", "possible", "documents", "q", "=", "-LRB-", "v", "1", ",", "v", "2", ",", "...", "v", "K", "-RRB-", "is", "vast", ".", "To", "simplify", "this", "computation", ",", "the", "naive", "Bayes", "model", "introduces", "an", "additional", "assumption", "that", "all", "of", "the", "attribute", "values", ",", "v", "j", ",", "are", "independent", "given", "the", "category", "label", ",", "c", ".", "That", "is", ",", "for", "i", "=", "j", ",", "v", "i", "and", "v", "j", "are", "conditionally", "independent", "given", "q", ".", "This", "assumption", "greatly", "simplifies", "the", "computation", "by", "reducing", "Eq", ".", "-LRB-", "2", "-RRB-", "to", "P", "-LRB-", "y", "|", "q", "-RRB-", "=", "P", "-LRB-", "y", "-RRB-", "Q", "K", "j", "=", "1", "P", "-LRB-", "v", "j", "|", "y", "-RRB-", "P", "-LRB-", "q", "-RRB-", "-LRB-", "3", "-RRB-", "Based", "on", "Eq", ".", "-LRB-", "3", "-RRB-", ",", "a", "maximum", "a", "posteriori", "-LRB-", "MAP", "-RRB-", "classifier", "can", "be", "constructed", "by", "seeking", "the", "optimal", "category", "which", "maximizes", "the", "posterior", "P", "-LRB-", "c", "|", "d", "-RRB-", ":", "y", "=", "arg", "max", "yY", "-LRB-", "P", "-LRB-", "y", "-RRB-", "K", "Y", "j", "=", "1", "P", "-LRB-", "v", "j", "|", "y", "-RRB-", "-RRB-", "-LRB-", "4", "-RRB-", "=", "arg", "max", "yY", "-LRB-", "K", "Y", "j", "=", "1", "P", "-LRB-", "v", "j", "|", "y", "-RRB-", "-RRB-", "-LRB-", "5", "-RRB-", "Eq", ".", "-LRB-", "5", "-RRB-", "is", "called", "the", "maximum", "likelihood", "naive", "Bayes", "classifier", ",", "obtained", "by", "assuming", "a", "uniform", "prior", "over", "categories", ".", "To", "cope", "with", "features", "that", "remain", "unobserved", "during", "training", ",", "the", "estimate", "of", "P", "-LRB-", "v", "j", "|", "y", "-RRB-", "is", "usually", "adjusted", "by", "Laplace", "smoothing", "P", "-LRB-", "v", "j", "|", "y", "-RRB-", "=", "N", "y", "j", "+", "a", "j", "N", "y", "+", "a", "-LRB-", "6", "-RRB-", "where", "N", "y", "j", "is", "the", "frequency", "of", "attribute", "j", "in", "D", "y", ",", "N", "y", "=", "P", "j", "N", "y", "j", ",", "and", "a", "=", "P", "j", "a", "j", ".", "A", "special", "case", "of", "Laplace", "smoothing", "is", "add", "one", "smoothing", ",", "obtained", "by", "setting", "a", "j", "=", "1", ".", "We", "use", "add", "one", "smoothing", "in", "our", "experiments", "below", ".", "4.2", "Maximum", "Entropy", "Classifier", "Maximum", "entropy", "is", "a", "general", "technique", "for", "estimating", "probability", "distributions", "from", "data", "and", "has", "been", "successfully", "applied", "in", "many", "natural", "language", "processing", "tasks", ".", "The", "over-riding", "principle", "in", "maximum", "entropy", "is", "that", "when", "nothing", "is", "known", ",", "the", "distribution", "should", "be", "as", "uniform", "as", "possible", ",", "that", "is", ",", "have", "maximal", "entropy", "-LSB-", "9", "-RSB-", ".", "Labeled", "training", "data", "are", "used", "to", "derive", "a", "set", "of", "constraints", "for", "the", "model", "that", "characterize", "the", "class-specific", "expectations", "for", "the", "distribution", ".", "Constraints", "are", "represented", "as", "expected", "values", "of", "features", ".", "The", "improved", "iterative", "scaling", "algorithm", "finds", "the", "maximum", "entropy", "distribution", "that", "is", "consistent", "with", "the", "given", "constraints", ".", "In", "query", "classification", "scenario", ",", "maximum", "entropy", "estimates", "the", "conditional", "distribution", "of", "the", "class", "label", "given", "a", "query", ".", "A", "query", "is", "represented", "by", "a", "set", "of", "features", ".", "The", "labeled", "training", "data", "are", "used", "to", "estimate", "the", "expected", "value", "of", "these", "features", "on", "a", "class-by-class", "basis", ".", "Improved", "iterative", "scaling", "finds", "a", "classifier", "of", "an", "exponential", "form", "that", "is", "consistent", "with", "the", "constraints", "from", "the", "labeled", "data", ".", "It", "can", "be", "shown", "that", "the", "maximum", "entropy", "distribution", "is", "always", "of", "the", "exponential", "form", "-LSB-", "4", "-RSB-", ":", "P", "-LRB-", "y", "|", "q", "-RRB-", "=", "1", "Z", "-LRB-", "q", "-RRB-", "exp", "-LRB-", "X", "i", "i", "f", "i", "-LRB-", "q", ";", "y", "-RRB-", "-RRB-", "where", "each", "f", "i", "-LRB-", "q", ";", "y", "-RRB-", "is", "a", "feature", ",", "i", "is", "a", "parameter", "to", "be", "estimated", "and", "Z", "-LRB-", "q", "-RRB-", "is", "simply", "the", "normalizing", "factor", "to", "ensure", "a", "proper", "probability", ":", "Z", "-LRB-", "q", "-RRB-", "=", "P", "y", "exp", "-LRB-", "P", "i", "i", "f", "i", "-LRB-", "q", ";", "y", "-RRB-", "-RRB-", ".", "Learning", "of", "the", "parameters", "can", "be", "done", "using", "generalized", "iterative", "scaling", "-LRB-", "GIS", "-RRB-", ",", "improved", "iterative", "scaling", "-LRB-", "IIS", "-RRB-", ",", "or", "quasi-Newton", "gradient-climber", "-LSB-", "13", "-RSB-", ".", "4.3", "Support", "Vector", "Machine", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", "is", "one", "of", "the", "most", "successful", "discriminative", "learning", "methods", ".", "It", "seeks", "a", "hyperplane", "to", "separate", "a", "set", "of", "positively", "and", "negatively", "labeled", "training", "data", ".", "The", "hyperplane", "is", "defined", "by", "w", "T", "x", "+", "b", "=", "0", ",", "where", "the", "parameter", "w", "R", "m", "is", "a", "vector", "orthogonal", "to", "the", "hyperplane", "and", "b", "R", "is", "the", "bias", ".", "The", "decision", "function", "is", "the", "hyperplane", "classifier", "H", "-LRB-", "x", "-RRB-", "=", "sign", "-LRB-", "w", "T", "x", "+", "b", "-RRB-", ".", "The", "hyperplane", "is", "designed", "such", "that", "y", "i", "-LRB-", "w", "T", "x", "i", "+", "b", "-RRB-", "1", "i", ",", "i", "=", "1", ",", "...", ",", "N", ",", "where", "x", "i", "R", "m", "is", "a", "training", "data", "point", "and", "y", "i", "-LCB-", "+1", ",", "-1", "-RCB-", "denotes", "the", "class", "of", "the", "vector", "x", "i", ".", "The", "margin", "is", "defined", "by", "the", "distance", "between", "the", "two", "parallel", "hyperplanes", "w", "T", "x", "+", "b", "=", "1", "and", "w", "T", "x", "+", "b", "=", "-1", ",", "i.e.", "2", "/", "|", "|", "w", "|", "|", "2", ".", "The", "margin", "is", "related", "to", "the", "generalization", "of", "the", "classifier", "-LSB-", "17", "-RSB-", ".", "The", "SVM", "training", "problem", "is", "defined", "as", "follows", ":", "minimize", "-LRB-", "1/2", "-RRB-", "w", "T", "w", "+", "1", "T", "subject", "to", "y", "i", "-LRB-", "w", "T", "x", "i", "+", "b", "-RRB-", "1", "i", ",", "i", "=", "1", ",", "...", ",", "N", "0", "-LRB-", "7", "-RRB-", "685", "where", "the", "scalar", "is", "called", "the", "regularization", "parameter", ",", "and", "is", "usually", "empirically", "selected", "to", "reduce", "the", "testing", "error", "rate", ".", "The", "basic", "SVM", "formulation", "can", "be", "extended", "to", "the", "nonlinear", "case", "by", "using", "nonlinear", "kernels", ".", "Interestingly", ",", "the", "complexity", "of", "an", "SVM", "classifier", "representation", "does", "not", "depend", "on", "the", "number", "of", "features", ",", "but", "rather", "on", "the", "number", "of", "support", "vectors", "-LRB-", "the", "training", "examples", "closest", "to", "the", "hyperplane", "-RRB-", ".", "This", "property", "makes", "SVMs", "suitable", "for", "high", "dimensional", "classification", "problems", "-LSB-", "10", "-RSB-", ".", "In", "our", "experimentation", ",", "we", "use", "a", "linear", "SVM", "and", "a", "SVM", "with", "radial", "basis", "kernel", ".", "4.4", "Gradient", "Boosting", "Tree", "Like", "SVM", ",", "gradient", "boosting", "tree", "model", "also", "seeks", "a", "pa-rameterized", "classifier", ".", "It", "iteratively", "fits", "an", "additive", "model", "-LSB-", "8", "-RSB-", "f", "t", "-LRB-", "x", "-RRB-", "=", "T", "t", "-LRB-", "x", ";", "0", "-RRB-", "+", "T", "X", "t", "=", "1", "t", "T", "t", "-LRB-", "x", ";", "t", "-RRB-", ",", "such", "that", "certain", "loss", "function", "L", "-LRB-", "y", "i", ",", "f", "T", "-LRB-", "x", "+", "i", "-RRB-", "is", "minimized", ",", "where", "T", "t", "-LRB-", "x", ";", "t", "-RRB-", "is", "a", "tree", "at", "iteration", "t", ",", "weighted", "by", "parameter", "t", ",", "with", "a", "finite", "number", "of", "parameters", ",", "t", "and", "is", "the", "learning", "rate", ".", "At", "iteration", "t", ",", "tree", "T", "t", "-LRB-", "x", ";", "-RRB-", "is", "induced", "to", "fit", "the", "negative", "gradient", "by", "least", "squares", ".", "That", "is", "^", ":", "=", "arg", "min", "N", "X", "i", "-LRB-", "-", "G", "it", "t", "T", "t", "-LRB-", "x", "i", "-RRB-", ";", "-RRB-", "2", ",", "where", "G", "it", "is", "the", "gradient", "over", "current", "prediction", "function", "G", "it", "=", "L", "-LRB-", "y", "i", ",", "f", "-LRB-", "x", "i", "-RRB-", "f", "-LRB-", "x", "i", "-RRB-", "f", "=", "f", "t-1", ".", "The", "optimal", "weights", "of", "trees", "t", "are", "determined", "t", "=", "arg", "min", "N", "X", "i", "L", "-LRB-", "y", "i", ",", "f", "t-1", "-LRB-", "x", "i", "-RRB-", "+", "T", "-LRB-", "x", "i", ",", "-RRB-", "-RRB-", ".", "If", "the", "L-2", "loss", "function", "-LSB-", "y", "i", "-", "f", "-LRB-", "x", "i", "-RRB-", "-RSB-", "2", "/", "2", "is", "used", ",", "we", "have", "the", "gradient", "G", "-LRB-", "x", "i", "-RRB-", "=", "-", "y", "i", "+", "f", "-LRB-", "x", "i", "-RRB-", ".", "In", "this", "paper", ",", "the", "Bernoulli", "loss", "function", "-2", "X", "i", "-LRB-", "y", "i", "f", "-LRB-", "x", "i", "-RRB-", "-", "log", "-LRB-", "1", "+", "exp", "-LRB-", "f", "-LRB-", "x", "i", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "is", "used", "and", "the", "gradient", "has", "the", "form", "G", "-LRB-", "x", "i", "-RRB-", "=", "y", "i", "1", "1", "+", "exp", "-LRB-", "-", "f", "-LRB-", "x", "i", "-RRB-", "-RRB-", ".", "During", "each", "iteration", "of", "gradient", "boosting", ",", "the", "feature", "space", "is", "further", "partitioned", ".", "This", "kind", "of", "rectangular", "partition", "does", "not", "require", "any", "data", "preprocessing", "and", "the", "resulting", "classifier", "can", "be", "very", "robust", ".", "However", ",", "it", "may", "suffer", "from", "the", "dead", "zoom", "phenomenon", ",", "where", "prediction", "is", "not", "able", "to", "change", "with", "features", ",", "due", "to", "its", "discrete", "feature", "space", "partition", ".", "Friedman", "-LRB-", "2002", "-RRB-", "found", "that", "it", "helps", "performance", "by", "sampling", "uniformly", "without", "replacement", "from", "the", "dataset", "before", "estimating", "the", "next", "gradient", "step", "-LSB-", "6", "-RSB-", ".", "This", "method", "was", "called", "stochastic", "gradient", "boosting", ".", "Many", "methods", "have", "been", "used", "in", "feature", "selection", "for", "text", "classification", ",", "including", "information", "gain", ",", "mutual", "information", ",", "document", "frequency", "thresholding", ",", "and", "Chi-square", "statistics", ".", "Yang", "and", "Pedersen", "-LSB-", "18", "-RSB-", "gives", "a", "good", "comparison", "of", "these", "methods", ".", "Information", "gain", "is", "one", "of", "the", "most", "effective", "methods", "in", "the", "context", "of", "text", "categorization", ".", "In", "addition", "to", "information", "gain", ",", "we", "also", "use", "feature", "selection", "methods", "based", "on", "SVM", "'s", "feature", "coefficients", "and", "stochastic", "gradient", "boosting", "tree", "'s", "variable", "importance", ".", "5.1", "Information", "Gain", "Information", "gain", "is", "frequently", "used", "as", "a", "measure", "of", "feature", "goodness", "in", "text", "classification", "-LSB-", "18", "-RSB-", ".", "It", "measures", "the", "number", "of", "bits", "of", "information", "obtained", "for", "category", "prediction", "by", "knowing", "the", "presence", "or", "absence", "of", "a", "feature", ".", "Let", "y", "i", ":", "i", "=", "1", ".", ".", "m", "be", "the", "set", "of", "categories", ",", "information", "gain", "of", "a", "feature", "f", "is", "defined", "as", "IG", "-LRB-", "f", "-RRB-", "=", "m", "X", "i", "=", "1", "P", "-LRB-", "y", "i", "-RRB-", "logP", "-LRB-", "y", "i", "-RRB-", "+", "P", "-LRB-", "f", "-RRB-", "m", "X", "i", "=", "1", "P", "-LRB-", "y", "i", "|", "f", "-RRB-", "logP", "-LRB-", "y", "i", "|", "f", "-RRB-", "+", "P", "-LRB-", "f", "-RRB-", "m", "X", "i", "=", "1", "P", "-LRB-", "y", "i", "|", "f", "-RRB-", "logP", "-LRB-", "y", "i", "|", "f", "-RRB-", "where", "f", "indicates", "f", "is", "not", "present", ".", "We", "compute", "the", "information", "gain", "for", "each", "unique", "feature", "and", "select", "top", "ranked", "features", ".", "5.2", "Linear", "SVM", "Feature", "Ranking", "Linear", "SVM", "-LRB-", "7", "-RRB-", "produces", "a", "hyperplane", "as", "well", "as", "a", "normal", "vector", "w", ".", "The", "normal", "vector", "w", "serves", "as", "the", "slope", "of", "the", "hyperplane", "classifier", "and", "measures", "the", "relative", "importance", "that", "each", "feature", "contribute", "to", "the", "classifier", ".", "An", "extreme", "case", "is", "that", "when", "there", "is", "only", "one", "feature", "correlated", "to", "sample", "labels", ",", "the", "optimal", "classifier", "hyperplane", "must", "be", "perpendicular", "to", "this", "feature", "axle", ".", "The", "L-2", "norm", "of", "w", ",", "in", "the", "objective", ",", "denotes", "the", "inverse", "margin", ".", "Also", ",", "it", "can", "be", "viewed", "as", "a", "Gaussian", "prior", "of", "random", "variable", "w.", "Sparse", "results", "may", "be", "achieved", "by", "assuming", "a", "laplace", "prior", "and", "using", "the", "L-1", "norm", "-LSB-", "2", "-RSB-", ".", "Unlike", "the", "previous", "information", "gain", "method", ",", "the", "linear", "SVM", "normal", "vector", "w", "is", "not", "determined", "by", "the", "whole", "body", "of", "training", "samples", ".", "Instead", ",", "it", "is", "determined", "by", "an", "optimally", "determined", "subset", ",", "support", "vectors", ",", "that", "are", "critical", "to", "be", "classified", ".", "Another", "difference", "is", "obvious", ":", "normal", "vector", "w", "is", "solved", "jointly", "by", "all", "features", "instead", "of", "one", "by", "one", "independently", ".", "Our", "results", "show", "that", "linear", "SVM", "is", "able", "to", "provide", "rea-sonably", "good", "results", "in", "feature", "ranking", "for", "our", "navigational", "query", "identification", "problem", "even", "when", "the", "corresponding", "classifier", "is", "weak", ".", "5.3", "Stochastic", "Gradient", "Boosting", "Tree", "Boosting", "methods", "construct", "weak", "classifiers", "using", "subsets", "of", "features", "and", "combines", "them", "by", "considering", "their", "predica-tion", "errors", ".", "It", "is", "a", "natural", "feature", "ranking", "procedure", ":", "each", "feature", "is", "ranked", "by", "its", "related", "classification", "errors", ".", "Tree", "based", "boosting", "methods", "approximate", "relative", "influence", "of", "a", "feature", "x", "j", "as", "J", "2", "j", "=", "X", "splits", "on", "x", "j", "I", "2", "k", "686", "where", "I", "2", "k", "is", "the", "empirical", "improvement", "by", "k-th", "splitting", "on", "x", "j", "at", "that", "point", ".", "Unlike", "the", "information", "gain", "model", "that", "considers", "one", "feature", "at", "a", "time", "or", "the", "SVM", "method", "that", "considers", "all", "the", "feature", "at", "one", "time", ",", "the", "boosting", "tree", "model", "considers", "a", "set", "of", "features", "at", "a", "time", "and", "combines", "them", "according", "to", "their", "empirical", "errors", ".", "Let", "R", "-LRB-", "X", "-RRB-", "be", "a", "feature", "ranking", "function", "based", "on", "data", "set", "X", ".", "Information", "gain", "feature", "ranking", "depends", "on", "the", "whole", "training", "set", "RInfo", "-LRB-", "X", "-RRB-", "=", "RInfo", "-LRB-", "Xtr", "-RRB-", ".", "Linear", "SVM", "ranks", "features", "is", "based", "on", "a", "set", "of", "optimally", "determined", "dataset", ".", "That", "is", ",", "RSVM", "-LRB-", "X", "-RRB-", "=", "RSVM", "-LRB-", "XSV", "-RRB-", ",", "where", "XSV", "is", "the", "set", "of", "support", "vectors", ".", "The", "stochastic", "gradient", "boosting", "tree", "-LRB-", "GSBT", "-RRB-", "uses", "multiple", "randomly", "sampled", "data", "to", "induce", "trees", "and", "ranks", "feature", "by", "their", "linear", "combination", ".", "Its", "ranking", "function", "can", "be", "written", "as", "RSGBT", "-LRB-", "X", "-RRB-", "=", "P", "T", "t", "=", "1", "t", "R", "t", "SGBT", "-LRB-", "X", "t", "-RRB-", ",", "where", "X", "t", "is", "the", "training", "set", "randomly", "sampled", "at", "iteration", "t", ".", "A", "total", "number", "of", "2102", "queries", "were", "uniformly", "sampled", "from", "a", "query", "log", "over", "a", "four", "month", "period", ".", "The", "queries", "were", "sent", "to", "four", "major", "search", "engines", ",", "including", "Yahoo", ",", "Google", ",", "MSN", ",", "and", "Ask", ".", "The", "top", "5", "URL", "'s", "returned", "by", "each", "search", "engine", "were", "recorded", "and", "sent", "to", "trained", "editors", "for", "labeling", "-LRB-", "the", "number", "5", "is", "just", "an", "arbitrary", "number", "we", "found", "good", "enough", "to", "measure", "the", "quality", "of", "retrieval", "-RRB-", ".", "If", "there", "exists", "one", "and", "only", "one", "perfect", "URL", "among", "all", "returned", "URLs", "for", "a", "query", ",", "this", "query", "is", "labeled", "as", "navigational", "query", ".", "Otherwise", ",", "it", "is", "labeled", "as", "non-navigational", "query", ".", "Out", "of", "2102", "queries", ",", "384", "queries", "are", "labeled", "as", "navigational", ".", "Since", "they", "are", "uniformly", "sampled", "from", "a", "query", "log", ",", "we", "estimate", "there", "are", "about", "18", "%", "queries", "are", "navigational", ".", "The", "data", "set", "were", "divided", "into", "five", "folders", "for", "the", "purpose", "of", "cross-validation", ".", "All", "results", "presented", "in", "this", "section", "are", "average", "testing", "results", "in", "five", "fold", "cross", "validations", ".", "6.2", "Evaluation", "Classification", "performance", "is", "evaluated", "using", "three", "metrics", ":", "precision", ",", "recall", "and", "F1", "score", ".", "In", "each", "test", ",", "Let", "n", "+", "+", "denotes", "the", "number", "of", "positive", "samples", "that", "correctly", "classified", "-LRB-", "true", "positive", "-RRB-", ";", "n", "-", "+", "denotes", "the", "number", "of", "negative", "samples", "that", "are", "classified", "as", "positive", "-LRB-", "false", "positive", "-RRB-", ";", "n", "+", "-", "denotes", "the", "number", "of", "false", "positive", "samples", "that", "are", "classified", "as", "negative", "-LRB-", "false", "negative", "-RRB-", ";", "and", "n", "-", "denotes", "the", "number", "of", "negative", "samples", "that", "are", "correctly", "classified", "-LRB-", "true", "negative", "-RRB-", ".", "Recall", "is", "the", "ratio", "of", "the", "number", "of", "true", "positives", "to", "the", "total", "number", "of", "positives", "samples", "in", "the", "testing", "set", ",", "namely", "recall", "=", "n", "+", "+", "n", "+", "+", "+", "n", "+", ".", "Precision", "is", "the", "ratio", "of", "the", "number", "of", "true", "positive", "samples", "to", "the", "number", "samples", "that", "are", "classified", "as", "positive", ",", "namely", "precision", "=", "n", "+", "+", "n", "+", "+", "+", "n", "-", "+", ".", "F1", "is", "a", "single", "score", "that", "combines", "precision", "and", "recall", ",", "defined", "as", "follows", ":", "F", "1", "=", "2", "precsion", "recall", "precsion", "+", "recall", ".", "6.3", "Results", "6.3.1", "Feature", "Selection", "Results", "Table", "1", "shows", "the", "distributions", "of", "the", "top", "50", "features", "selected", "by", "different", "methods", ".", "All", "methods", "agree", "that", "click", "features", "are", "the", "most", "important", ".", "In", "particular", ",", "linear", "SVM", "and", "boosting", "tree", "select", "more", "click", "features", "than", "information", "gain", ".", "On", "the", "other", "hand", ",", "information", "gain", "select", "many", "features", "from", "anchor", "text", "and", "other", "metrics", "such", "as", "spam", "scores", ".", "Table", "1", ":", "Distributions", "of", "the", "Selected", "Top", "50", "Features", "According", "to", "Feature", "Categories", "Feature", "Set", "Info", ".", "Gain", "Linear", "SVM", "Boosting", "Click", "52", "%", "84", "%", "74", "%", "URL", "4", "%", "2", "%", "6", "%", "Anchor", "Text", "18", "%", "2", "%", "12", "%", "Other", "metrics", "26", "%", "12", "%", "8", "%", "Table", "2", "shows", "the", "distribution", "of", "the", "selected", "features", "according", "to", "feature", "integration", "operators", ".", "It", "shows", "which", "operators", "applied", "to", "result", "set", "query-URL", "pair", "wise", "features", "are", "most", "useful", ".", "We", "group", "the", "15", "operators", "into", "5", "types", ":", "vector", ",", "normalized", "ratios", "-LRB-", "r", "k", ",", "k", "=", "2", ",", "5", ",", "10", ",", "20", "-RRB-", ",", "min/max", ",", "en-tropy/stand", "deviation", ",", "and", "median/mean", ".", "Vector", "group", "includes", "all", "query-URL", "pair", "features", "in", "top", "5", "positions", ";", "normalized", "ratios", "are", "defined", "in", "-LRB-", "1", "-RRB-", ".", "As", "we", "can", "see", "from", "the", "table", ",", "all", "feature", "integration", "operators", "are", "useful", ".", "Table", "2", ":", "Distributions", "of", "the", "Selected", "Top", "50", "Features", "According", "to", "Integration", "Operators", "Operators", "Info", ".", "Gain", "Linear", "SVM", "Boosting", "vector", "40", "%", "22", "%", "28", "%", "normalized", "ratios", "8", "%", "38", "%", "22", "%", "min/max", "6", "%", "20", "%", "16", "%", "entropy/std", "20", "%", "16", "%", "18", "%", "mean/median", "26", "%", "4", "%", "16", "%", "The", "number", "of", "selected", "features", "directly", "influence", "the", "classification", "performance", ".", "Figure", "3", "shows", "relationship", "between", "the", "boosting", "tree", "classification", "performance", "and", "the", "number", "of", "selected", "features", ".", "As", "we", "can", "see", ",", "performance", "increases", "with", "cleaner", "selected", "features", ".", "However", ",", "if", "the", "number", "of", "selected", "feature", "is", "too", "small", ",", "performance", "will", "decrease", ".", "A", "number", "of", "50", "works", "the", "best", "in", "our", "work", ".", "6.3.2", "Classification", "Results", "We", "first", "apply", "four", "different", "classification", "methods", ":", "naive", "Bayes", ",", "maximum", "entropy", "methods", ",", "support", "vector", "machine", "and", "stochastic", "gradient", "boosting", "tree", "model", "over", "all", "available", "features", ".", "The", "results", "are", "reported", "in", "Table", "3", ".", "As", "we", "can", "see", ",", "stochastic", "gradient", "boosting", "tree", "has", "the", "best", "performance", "with", "an", "F1", "score", "of", "0.78", ".", "We", "then", "apply", "those", "methods", "to", "machine", "selected", "features", ".", "We", "test", "4", "different", "feature", "sets", "with", "50", "number", "of", "features", ",", "selected", "by", "information", "gain", ",", "linear", "SVM", "and", "boosting", "tree", ".", "The", "combined", "set", "consists", "of", "30", "top", "features", "selected", "by", "linear", "SVM", "and", "29", "top", "features", "selected", "by", "boosting", "tree", ".", "Please", "note", "that", "the", "total", "number", "of", "features", "are", "still", "50", "since", "linear", "SVM", "and", "boosting", "tree", "selected", "9", "same", "features", "in", "their", "top", "30", "feature", "set", ".", "687", "0", "500", "1000", "1500", "2000", "2500", "3000", "0.78", "0.79", "0.8", "0.81", "0.82", "0.83", "0.84", "0.85", "0.86", "Number", "of", "Features", "Selected", "By", "Boosting", "Tree", "F1", "Score", "of", "Boosting", "Tree", "Classifier", "Classification", "Performance", "VS", "Number", "of", "Features", "Figure", "3", ":", "Classification", "performance", "F1", "against", "number", "of", "features", ":", "25", ",", "50", ",", "100", ",", "200", ",", "400", ",", "800", ",", "and", "2955", "-LRB-", "all", "features", "-RRB-", "Table", "3", ":", "Results", "of", "Various", "Classification", "Methods", "over", "All", "Features", "Recall", "Precision", "F1", "Naive", "Bayes", "0.242", "0.706", "0.360", "SVM", "-LRB-", "Linear", "Kernel", "-RRB-", "0.189", "1.000", "0.318", "Maximum", "Entropy", "0.743", "0.682", "0.711", "SVM", "-LRB-", "RBF", "Kernel", "-RRB-", "0.589", "0.485", "0.528", "Boosting", "Trees", "0.724", "0.845", "0.780", "Table", "4", "presents", "the", "results", "of", "the", "coupled", "feature", "selection", "and", "classification", "methods", ".", "It", "is", "obvious", "that", "the", "performance", "of", "each", "method", "is", "improved", "by", "applying", "them", "to", "machine", "selected", "clean", "features", ",", "except", "naive", "Bayes", "classifier", ".", "Surprisingly", ",", "the", "features", "selected", "by", "linear", "SVM", "are", "the", "best", "set", "of", "features", ".", "The", "results", "show", "that", "even", "if", "the", "underlying", "problem", "is", "not", "linear", "separable", ",", "the", "linear", "coefficients", "of", "the", "large", "margin", "linear", "classifier", "still", "convey", "important", "feature", "information", ".", "When", "the", "stochastic", "gradient", "boosting", "tree", "is", "applied", "over", "this", "set", "of", "features", ",", "we", "get", "the", "best", "performance", "with", "0.881", "F1", "score", "among", "all", "cross-methods", "evaluations", ".", "Without", "feature", "ablation", ",", "SGBT", "is", "only", "able", "to", "achieve", "0.738", "F1", "score", ".", "That", "is", ",", "feature", "selection", "has", "an", "effect", "of", "error", "reduction", "rate", "40", "%", ".", "Without", "introducing", "linear", "SVM", "in", "feature", "ablation", ",", "if", "SGBT", "works", "on", "the", "feature", "set", "selected", "by", "its", "own", "variable", "importance", "ranking", ",", "it", "achieves", "0.848", "F1", "score", ".", "That", "is", "to", "say", ",", "a", "cross", "methods", "coupling", "of", "feature", "selection", "and", "classification", "causes", "a", "33", "%", "error", "reduction", ".", "An", "interesting", "result", "from", "Table", "1", "is", "the", "features", "selected", "for", "navigational", "query", "identification", ".", "Those", "features", "are", "mostly", "induced", "from", "user", "click", "information", ".", "This", "is", "intu-itively", "understandable", "because", "if", "a", "query", "is", "navigational", ",", "the", "navigational", "URL", "is", "the", "most", "clicked", "one", ".", "On", "the", "other", "hand", ",", "it", "might", "be", "risky", "to", "completely", "rely", "on", "click", "information", ".", "The", "reasons", "might", "be", "1", "-RRB-", "user", "click", "features", "may", "be", "easier", "to", "be", "spammed", ",", "and", "2", "-RRB-", "clicks", "are", "often", "biased", "by", "various", "presentation", "situation", "such", "as", "quality", "of", "auto", "abstraction", ",", "etc.", ".", "From", "Table", "4", ",", "we", "observe", "that", "linear", "SVM", "and", "boosting", "tree", "have", "better", "feature", "selection", "power", "than", "information", "gain", ".", "The", "reason", "that", "information", "gain", "performs", "inferior", "to", "linear", "SVM", "and", "boosting", "tree", "is", "probably", "due", "to", "the", "fact", "that", "information", "gain", "considers", "each", "feature", "independently", "while", "linear", "SVM", "considers", "all", "features", "jointly", "and", "boosting", "tree", "composites", "feature", "rank", "by", "sum", "over", "all", "used", "features", ".", "The", "results", "show", "that", "URL", ",", "anchor", "text", "and", "other", "metrics", "are", "helpful", "only", "when", "they", "are", "considered", "jointly", "with", "click", "features", ".", "The", "most", "important", "result", "is", "that", "the", "stochastic", "gradient", "boosting", "tree", "coupled", "with", "linear", "SVM", "feature", "selection", "method", "achieves", "much", "better", "results", "than", "any", "other", "combination", ".", "In", "this", "application", ",", "the", "data", "has", "very", "high", "dimension", "considering", "the", "small", "sample", "size", ".", "The", "boosting", "tree", "method", "needs", "to", "partition", "an", "ultra-high", "dimensional", "feature", "space", "for", "feature", "selection", ".", "However", ",", "the", "stochastic", "step", "does", "not", "have", "enough", "data", "to", "sample", "from", "-LSB-", "6", "-RSB-", ".", "Therefore", ",", "the", "boosted", "result", "might", "be", "biased", "by", "earlier", "sampling", "and", "trapped", "in", "a", "local", "optimum", ".", "Support", "vector", "machine", ",", "however", ",", "is", "able", "to", "find", "an", "optimally", "determined", "subset", "of", "training", "samples", ",", "namely", "support", "vectors", ",", "and", "ranks", "features", "based", "on", "those", "vectors", ".", "Therefore", ",", "the", "SVM", "feature", "selection", "step", "makes", "up", "the", "disadvantage", "of", "the", "stochastic", "boosting", "tree", "in", "its", "initial", "sampling", "and", "learning", "stages", "that", "may", "lead", "to", "a", "local", "optimum", ".", "As", "expected", ",", "naive", "Bayes", "classifier", "hardly", "works", "for", "the", "navigational", "query", "identification", "problem", ".", "It", "is", "also", "the", "only", "classifier", "that", "performs", "worse", "with", "feature", "selection", ".", "Naive", "Bayes", "classifiers", "work", "well", "when", "the", "selected", "features", "are", "mostly", "orthogonal", ".", "However", ",", "in", "this", "problem", ",", "all", "features", "are", "highly", "correlated", ".", "On", "the", "other", "hand", ",", "classification", "methods", "such", "as", "boosting", "tree", ",", "maximum", "entropy", "model", "and", "SVM", "do", "not", "require", "orthogonal", "features", ".", "Our", "work", "is", "closely", "related", "to", "query", "classification", ",", "a", "task", "of", "assigning", "a", "query", "to", "one", "or", "more", "categories", ".", "However", ",", "general", "query", "classification", "and", "navigational", "query", "identification", "are", "different", "in", "the", "problems", "themselves", ".", "Query", "classification", "focuses", "on", "content", "classification", ",", "thus", "the", "classes", "are", "mainly", "topic", "based", ",", "such", "as", "shopping", "and", "products", ".", "While", "in", "navigational", "query", "identification", ",", "the", "two", "classes", "are", "intent", "based", ".", "In", "the", "classification", "approaches", "regard", ",", "our", "work", "is", "related", "to", "Gravano", ",", "et", "al.", "-LSB-", "7", "-RSB-", "where", "authors", "applied", "various", "classification", "methods", ",", "including", "linear", "and", "nonlinear", "SVM", ",", "decision", "tree", "and", "log-linear", "regression", "to", "classify", "query", "locality", "based", "on", "result", "set", "features", "in", "2003", ".", "Their", "work", ",", "however", ",", "lacked", "carefully", "designed", "feature", "engineering", "and", "therefore", "only", "achieved", "a", "F1", "score", "of", "0.52", "with", "a", "linear", "SVM", ".", "Beitzel", ",", "et", "al.", "-LSB-", "1", "-RSB-", "realized", "the", "limitation", "of", "a", "single", "classification", "method", "in", "their", "query", "classification", "problem", "and", "pro-posed", "a", "semi-supervised", "learning", "method", ".", "Their", "idea", "is", "to", "compose", "the", "final", "classifier", "by", "combining", "classification", "results", "of", "multiple", "classification", "methods", ".", "Shen", ",", "et", "al.", "-LSB-", "15", "-RSB-", "also", "trained", "a", "linear", "combination", "of", "two", "classifiers", ".", "Differ-ently", ",", "instead", "of", "combining", "two", "classifiers", "for", "prediction", ",", "we", "couple", "feature", "selection", "and", "classification", ".", "In", "the", "feature", "extraction", "aspect", ",", "our", "work", "is", "related", "to", "Kang", "and", "Kim", "2003", "-LSB-", "11", "-RSB-", "where", "authors", "extracted", "heterogenous", "features", "to", "classify", "user", "queries", "into", "three", "categories", ":", "topic", "relevance", "task", ",", "the", "homepage", "finding", "task", "and", "service", "finding", "task", ".", "They", "combined", "those", "features", ",", "for", "example", "URL", "feature", "and", "content", "feature", ",", "by", "several", "linear", "empiri-688", "Table", "4", ":", "F1", "Scores", "of", "Systems", "with", "Coupled", "Feature", "Selection", "and", "Classification", "Methods", "Methods", "Info", ".", "Gain", "Linear", "SVM", "Boosting", "Combined", "Set", "SVM", "-LRB-", "Linear", "Kernel", "-RRB-", "0.124", "0.733", "0.712", "0.738", "Naive", "Bayes", "0.226", "0.182", "0.088", "0.154", "Maximum", "Entropy", "0.427", "0.777", "0.828", "0.784", "SVM", "-LRB-", "RBF", "Kernel", "-RRB-", "0.467", "0.753", "0.728", "0.736", "Boosting", "Tree", "0.627", "0.881", "0.848", "0.834", "cal", "linear", "functions", ".", "Each", "function", "was", "applied", "to", "a", "different", "binary", "classification", "problem", ".", "Their", "idea", "was", "to", "emphasize", "features", "for", "different", "classification", "purposes", ".", "However", ",", "the", "important", "features", "were", "not", "selected", "automatically", "and", "therefore", "their", "work", "is", "not", "applicable", "in", "applications", "with", "thousands", "of", "features", ".", "We", "have", "made", "three", "contributions", "in", "the", "paper", ".", "First", ",", "we", "evaluate", "the", "effectiveness", "of", "four", "machine", "learning", "approaches", "in", "the", "context", "of", "navigational", "query", "identification", ".", "We", "find", "that", "boosting", "trees", "are", "the", "most", "effective", "one", ".", "Second", ",", "we", "evaluate", "three", "feature", "selection", "methods", "and", "propose", "coupling", "feature", "selection", "with", "classification", "approaches", ".", "Third", ",", "we", "propose", "a", "multi-level", "feature", "extraction", "system", "to", "exploit", "more", "information", "for", "navigational", "query", "identification", ".", "The", "underlying", "classification", "problem", "has", "been", "satisfacto-rily", "solved", "with", "88.1", "%", "F1", "score", ".", "In", "addition", "to", "the", "successful", "classification", ",", "we", "successfully", "identified", "key", "features", "for", "recognizing", "navigational", "queries", ":", "the", "user", "click", "features", ".", "Other", "features", ",", "such", "as", "URL", ",", "anchor", "text", ",", "etc.", "are", "also", "important", "if", "coupled", "with", "user", "click", "features", ".", "In", "future", "research", ",", "it", "is", "of", "interest", "to", "conduct", "cross", "methods", "co-training", "for", "the", "query", "classification", "problem", "to", "utilize", "unlabeled", "data", ",", "as", "there", "is", "enough", "evidence", "that", "different", "training", "methods", "may", "benefit", "each", "other", ".", "-LSB-", "1", "-RSB-", "S.", "Beitzel", ",", "E.", "Jensen", ",", "D.", "Lewis", ",", "A.", "Chowdhury", ",", "A.", "Kolcz", ",", "and", "O.", "Frieder", ".", "Improving", "Automatic", "Query", "Classification", "via", "Semi-supervised", "Learning", ".", "In", "The", "Fifth", "IEEE", "International", "Conference", "on", "Data", "Mining", ",", "pages", "27", "30", ",", "New", "Orleans", ",", "Louisiana", ",", "November", "2005", ".", "-LSB-", "2", "-RSB-", "C.", "Bhattacharyya", ",", "L.", "R.", "Grate", ",", "M.", "I.", "Jordan", ",", "L.", "El", "Ghaoui", ",", "and", "I.", "S.", "Mian", ".", "Robust", "Sparse", "Hyperplane", "Classifiers", ":", "Application", "to", "Uncertain", "Molecular", "Profiling", "Data", ".", "Journal", "of", "Computational", "Biology", ",", "11", "-LRB-", "6", "-RRB-", ":", "1073", "1089", ",", "2004", ".", "-LSB-", "3", "-RSB-", "A.", "Broder", ".", "A", "Taxonomy", "of", "Web", "Search", ".", "In", "ACM", "SIGIR", "Forum", ",", "pages", "3", "10", ",", "2002", ".", "-LSB-", "4", "-RSB-", "S.", "della", "Pietra", ",", "V.", "della", "Pietra", ",", "and", "J.", "Lafferty", ".", "Inducing", "Features", "of", "Random", "Fields", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "19", "-LRB-", "4", "-RRB-", ",", "1995", ".", "-LSB-", "5", "-RSB-", "R.", "O.", "Duda", ",", "P.", "E.", "Hart", ",", "and", "D.", "G.", "Stork", ".", "Pattern", "Classification", ".", "John", "Wiley", ",", "New", "York", ",", "NY", ",", "2nd", "edition", ",", "2000", ".", "-LSB-", "6", "-RSB-", "J.", "H.", "Friedman", ".", "Stochastic", "Gradient", "Boosting", ".", "Computational", "Statistics", "and", "Data", "Analysis", ",", "38", "-LRB-", "4", "-RRB-", ":", "367", "378", ",", "2002", ".", "-LSB-", "7", "-RSB-", "L.", "Gravano", ",", "V.", "Hatzivassiloglou", ",", "and", "R.", "Lichtenstein", ".", "Categorizing", "Web", "Queries", "According", "to", "Geographical", "Locality", ".", "In", "ACM", "12th", "Conference", "on", "Information", "and", "Knowledge", "Management", "-LRB-", "CIKM", "-RRB-", ",", "pages", "27", "30", ",", "New", "Orleans", ",", "Louisiana", ",", "November", "2003", ".", "-LSB-", "8", "-RSB-", "T.", "Hastie", ",", "R.", "Tibshirani", ",", "and", "J.", "Friedman", ".", "The", "Elements", "of", "Statistical", "Learning", ":", "Data", "Mining", ",", "Inference", ",", "and", "Predication", ".", "Springer", "Verlag", ",", "New", "York", ",", "2001", ".", "-LSB-", "9", "-RSB-", "E.", "T.", "Jaynes", ".", "Papers", "on", "Probability", ",", "Statistics", ",", "and", "Statistical", "Physics", ".", "D.", "Reidel", ",", "Dordrecht", ",", "Holland", "and", "Boston", "and", "Hingham", ",", "MA", ",", "1983", ".", "-LSB-", "10", "-RSB-", "T.", "Joachims", ".", "Text", "Categorization", "with", "Support", "Vector", "Machines", ":", "Learning", "with", "Many", "Relevant", "Features", ".", "In", "Proceedings", "of", "the", "10th", "European", "Conference", "on", "Machine", "Learning", "-LRB-", "ECML", "-RRB-", ",", "pages", "137", "142", ",", "Chemnitz", ",", "Germany", ",", "1998", ".", "-LSB-", "11", "-RSB-", "I.-H", ".", "Kang", "and", "G.", "Kim", ".", "Query", "Type", "Classification", "for", "Web", "Document", "Retrieval", ".", "In", "Proceedings", "of", "the", "26th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "informaion", "retrieval", ",", "pages", "64", "71", ",", "Toronto", "Canada", ",", "July", "2003", ".", "-LSB-", "12", "-RSB-", "U.", "Lee", ",", "Z.", "Liu", ",", "and", "J.", "Cho", ".", "Automatic", "Identification", "of", "User", "Goals", "in", "Web", "Search", ".", "In", "Proceedings", "of", "the", "14th", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "-RRB-", ",", "Chiba", ",", "Japan", ",", "2005", ".", "-LSB-", "13", "-RSB-", "R.", "Malouf", ".", "A", "Comparison", "of", "Algorithms", "for", "Maximum", "Entropy", "Parameter", "Estimation", ".", "In", "Proceedings", "of", "the", "Sixth", "Conference", "on", "Natural", "Language", "Learning", "-LRB-", "CoNLL", "-RRB-", ",", "Taipei", ",", "China", ",", "2002", ".", "-LSB-", "14", "-RSB-", "D.", "E.", "Rose", "and", "D.", "Levinson", ".", "Understanding", "User", "Goals", "in", "Web", "Search", ".", "In", "Proceedings", "of", "The", "13th", "International", "World", "Wide", "Web", "Conference", "-LRB-", "WWW", "-RRB-", ",", "2004", ".", "-LSB-", "15", "-RSB-", "D.", "Shen", ",", "R.", "Pan", ",", "J.-T", ".", "Sun", ",", "J.", "J.", "Pan", ",", "K.", "Wu", ",", "J.", "Yin", ",", "and", "Q.", "Yang", ".", "Q2C", "at", "UST", ":", "Our", "Winning", "Solution", "to", "Query", "Classification", "in", "KDDCUP", "2005", ".", "SIGKDD", "Explorations", ",", "7", "-LRB-", "2", "-RRB-", ":", "100", "110", ",", "2005", ".", "-LSB-", "16", "-RSB-", "L.", "Sherman", "and", "J.", "Deighton", ".", "Banner", "advertising", ":", "Measuring", "effectiveness", "and", "optimizing", "placement", ".", "Journal", "of", "Interactive", "Marketing", ",", "15", "-LRB-", "2", "-RRB-", ":", "60", "64", ",", "2001", ".", "-LSB-", "17", "-RSB-", "V.", "Vapnik", ".", "The", "Nature", "of", "Statistical", "Learning", "Theory", ".", "Springer", "Verlag", ",", "New", "York", ",", "1995", ".", "-LSB-", "18", "-RSB-", "Y.", "Yang", "and", "J.", "Pedersen", ".", "An", "Comparison", "Study", "on", "Feature", "Selection", "in", "Text", "Categorization", ".", "In", "Proceedings", "of", "the", "20th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "informaion", "retrieval", ",", "Philadelphia", ",", "PA", ",", "USA", ",", "1997", ".", "-LSB-", "19", "-RSB-", "S.C.", "Zhu", ".", "Statistical", "modeling", "and", "conceptualization", "of", "visual", "patterns", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "25", "-LRB-", "6", "-RRB-", ":", "619", "712", ",", "2003", ".", "689"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["stochastic gradient boosting tree", "support vector machine", "gradient boosting tree", "multiple level feature system", "naive bayes classifier", "linear svm feature ranking", "machine learning", "information gain", "maximum entropy classifier"], "abstractive_keyphrases": ["navigational and informational query", "navigational query classification", "experiments results"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "61", "document": ["Coverage", "Directed", "Test", "Generation", "for", "Functional", "Verification", "using", "Bayesian", "Networks", "Functional", "verification", "is", "widely", "acknowledged", "as", "the", "bottleneck", "in", "the", "hardware", "design", "cycle", ".", "This", "paper", "addresses", "one", "of", "the", "main", "challenges", "of", "simulation", "based", "verification", "-LRB-", "or", "dynamic", "verification", "-RRB-", ",", "by", "providing", "a", "new", "approach", "for", "Coverage", "Directed", "Test", "Generation", "-LRB-", "CDG", "-RRB-", ".", "This", "approach", "is", "based", "on", "Bayesian", "networks", "and", "computer", "learning", "techniques", ".", "It", "provides", "an", "efficient", "way", "for", "closing", "a", "feedback", "loop", "from", "the", "coverage", "domain", "back", "to", "a", "generator", "that", "produces", "new", "stimuli", "to", "the", "tested", "design", ".", "In", "this", "paper", ",", "we", "show", "how", "to", "apply", "Bayesian", "networks", "to", "the", "CDG", "problem", ".", "Applying", "Bayesian", "networks", "to", "the", "CDG", "framework", "has", "been", "tested", "in", "several", "experiments", ",", "exhibiting", "encouraging", "results", "and", "indicating", "that", "the", "suggested", "approach", "can", "be", "used", "to", "achieve", "CDG", "goals", ".", "B.", "6.3", "-LSB-", "Logic", "Design", "-RSB-", ":", "Design", "Aids", "--", "Verification", "Verification", ",", "Measurement", ",", "Algorithms", ",", "Experimentation", "Functional", "verification", "is", "widely", "acknowledged", "as", "the", "bottleneck", "in", "the", "hardware", "design", "cycle", "-LSB-", "1", "-RSB-", ".", "To", "date", ",", "up", "to", "70", "%", "of", "the", "design", "development", "time", "and", "resources", "are", "spent", "on", "functional", "verification", ".", "The", "increasing", "complexity", "of", "hardware", "designs", "raises", "the", "need", "for", "the", "development", "of", "new", "techniques", "and", "methodologies", "that", "can", "provide", "the", "verification", "team", "with", "the", "means", "to", "achieve", "its", "goals", "quickly", "and", "with", "limited", "resources", ".", "The", "current", "practice", "for", "functional", "verification", "of", "complex", "designs", "starts", "with", "a", "definition", "of", "a", "test", "plan", ",", "comprised", "of", "a", "large", "set", "of", "events", "that", "the", "verification", "team", "would", "like", "to", "observe", "during", "the", "verification", "process", ".", "The", "test", "plan", "is", "usually", "implemented", "using", "random", "test", "generators", "that", "produce", "a", "large", "number", "of", "test-cases", ",", "and", "coverage", "tools", "that", "detect", "the", "occurrence", "of", "events", "in", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "DAC", "2003", ",", "June", "2", "6", ",", "2003", ",", "Anaheim", ",", "California", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-688-9", "/", "03/0006", "...", "$", "5.00", ".", "the", "test", "plan", ",", "and", "provide", "information", "related", "to", "the", "progress", "of", "the", "test", "plan", ".", "Analysis", "of", "the", "coverage", "reports", "allows", "the", "verification", "team", "to", "modify", "the", "directives", "for", "the", "test", "generators", "and", "to", "better", "hit", "areas", "or", "specific", "tasks", "in", "the", "design", "that", "are", "not", "covered", "well", "-LSB-", "5", "-RSB-", ".", "The", "analysis", "of", "coverage", "reports", ",", "and", "their", "translation", "to", "a", "set", "of", "test", "generator", "directives", "to", "guide", "and", "enhance", "the", "implementation", "of", "the", "test", "plan", ",", "result", "in", "major", "manual", "bottlenecks", "in", "the", "otherwise", "highly", "automated", "verification", "process", ".", "Considerable", "effort", "is", "invested", "in", "finding", "ways", "to", "close", "the", "loop", "of", "coverage", "analysis", "and", "test", "generation", ".", "Coverage", "directed", "test", "generation", "-LRB-", "CDG", "-RRB-", "is", "a", "technique", "to", "automate", "the", "feedback", "from", "coverage", "analysis", "to", "test", "generation", ".", "The", "main", "goals", "of", "CDG", "are", "to", "improve", "the", "coverage", "progress", "rate", ",", "to", "help", "reaching", "uncovered", "tasks", ",", "and", "to", "provide", "many", "different", "ways", "to", "reach", "a", "given", "coverage", "task", ".", "Achieving", "these", "goals", "should", "increase", "the", "efficiency", "and", "quality", "of", "the", "verification", "process", "and", "reduce", "the", "time", "and", "effort", "needed", "to", "implement", "a", "test", "plan", ".", "In", "this", "paper", ",", "we", "propose", "a", "new", "approach", "for", "coverage", "directed", "test", "generation", ".", "Our", "approach", "is", "to", "cast", "CDG", "in", "a", "statistical", "inference", "framework", ",", "and", "apply", "computer", "learning", "techniques", "to", "achieve", "the", "CDG", "goals", ".", "Specifically", ",", "our", "approach", "is", "based", "on", "modeling", "the", "relationship", "between", "the", "coverage", "information", "and", "the", "directives", "to", "the", "test", "generator", "using", "Bayesian", "networks", "-LSB-", "9", "-RSB-", ".", "A", "Bayesian", "network", "is", "a", "directed", "graph", "whose", "nodes", "are", "random", "variables", "and", "whose", "edges", "represent", "direct", "dependency", "between", "their", "sink", "and", "source", "nodes", ".", "Each", "node", "in", "the", "Bayesian", "network", "is", "associated", "with", "a", "set", "of", "parameters", "specifying", "its", "conditional", "probability", "given", "the", "state", "of", "its", "parents", ".", "Simply", "stated", ",", "the", "CDG", "process", "is", "performed", "in", "two", "main", "steps", ".", "In", "the", "first", "step", ",", "a", "training", "set", "is", "used", "to", "learn", "the", "parameters", "of", "a", "Bayesian", "network", "that", "models", "the", "relationship", "between", "the", "coverage", "information", "and", "the", "test", "directives", ".", "In", "the", "second", "step", ",", "the", "Bayesian", "network", "is", "used", "to", "provide", "the", "most", "probable", "directives", "that", "would", "lead", "to", "a", "given", "coverage", "task", "-LRB-", "or", "set", "of", "tasks", "-RRB-", ".", "Bayesian", "networks", "are", "well", "suited", "to", "the", "kind", "of", "modeling", "required", "for", "CDG", ",", "because", "they", "offer", "a", "natural", "and", "compact", "representation", "of", "the", "rather", "complex", "relationship", "between", "the", "CDG", "ingredients", ",", "together", "with", "the", "ability", "to", "encode", "essential", "domain", "knowledge", ".", "Moreover", ",", "adaptive", "tuning", "of", "the", "Bayesian", "network", "parameters", "provides", "a", "mean", "to", "focus", "on", "the", "rare", "coverage", "cases", ".", "We", "describe", "two", "experiments", "in", "which", "we", "tested", "the", "the", "ability", "of", "Bayesian", "networks", "to", "handle", "aspects", "of", "the", "CDG", "problem", "in", "various", "settings", ".", "The", "goals", "of", "the", "experiments", "were", "to", "increase", "the", "hitting", "rates", "in", "hard-to-reach", "coverage", "cases", ";", "design", "directives", "aimed", "at", "reaching", "uncovered", "tasks", ";", "and", "provide", "many", "different", "directives", "for", "a", "given", "coverage", "task", ".", "We", "used", "two", "settings", "for", "our", "experiments", ".", "In", "the", "first", "setting", ",", "we", "used", "a", "Bayesian", "network", "to", "generate", "instruction", "streams", "to", "an", "abstract", "model", "of", "the", "pipeline", "of", "286", "18.2", "Random", "Test", "Generator", "Test", "Plan", "Fail", "Pass", "Information", "Directives", "Test", "Coverage", "Coverage", "Analysis", "Tool", "Reports", "Coverage", "Simulator", "DUT", "Figure", "1", ":", "Verification", "process", "with", "automatic", "test", "generation", "an", "advanced", "super-scalar", "PowerPC", "processor", ".", "In", "the", "second", "setting", ",", "we", "used", "a", "Bayesian", "network", "to", "generate", "directives", "to", "an", "existing", "test", "generator", "of", "a", "storage", "control", "unit", "of", "a", "mainframe", "with", "a", "goal", "to", "cover", "all", "possible", "transactions", "from", "the", "CPUs", "connected", "to", "this", "unit", ".", "In", "both", "experiments", "we", "reached", "our", "goals", ".", "The", "encouraging", "results", "suggests", "that", "Bayesian", "networks", "may", "well", "be", "used", "to", "achieve", "the", "primary", "goals", "of", "CDG", ".", "The", "remainder", "of", "this", "paper", "is", "as", "follows", ".", "In", "Section", "2", ",", "we", "briefly", "present", "the", "CDG", "framework", "and", "review", "related", "work", ".", "In", "Section", "3", ",", "we", "describe", "Bayesian", "networks", "and", "their", "application", "to", "CDG", ".", "Sections", "4", "and", "5", "provide", "detailed", "descriptions", "of", "the", "experiments", ".", "We", "conclude", "with", "a", "few", "remarks", "and", "suggestions", "for", "future", "study", ".", "In", "current", "industry", "practice", ",", "verification", "by", "simulation", ",", "or", "dynamic", "verification", ",", "is", "the", "leading", "technique", "for", "functional", "verification", ".", "Coverage", "is", "used", "to", "ensure", "that", "the", "verification", "of", "the", "design", "is", "thorough", ",", "and", "the", "definition", "of", "coverage", "events", "or", "testing", "requirements", "is", "a", "major", "part", "in", "the", "definition", "of", "the", "verification", "plan", "of", "the", "design", ".", "Often", ",", "a", "family", "of", "coverage", "events", "that", "share", "common", "properties", "are", "grouped", "together", "to", "form", "a", "coverage", "model", "-LSB-", "7", "-RSB-", ".", "Members", "of", "the", "coverage", "model", "are", "called", "coverage", "tasks", "and", "are", "considered", "part", "of", "the", "test", "plan", ".", "Cross-product", "coverage", "models", "-LSB-", "7", "-RSB-", "are", "of", "special", "interest", ".", "These", "models", "are", "defined", "by", "a", "basic", "event", "and", "a", "set", "of", "parameters", "or", "attributes", ",", "where", "the", "list", "of", "coverage", "tasks", "comprises", "all", "possible", "combinations", "of", "values", "for", "the", "attributes", ".", "Figure", "1", "illustrates", "the", "verification", "process", "with", "an", "automatic", "random", "test", "generation", ".", "A", "test", "plan", "is", "translated", "by", "the", "verification", "team", "to", "a", "set", "of", "directives", "for", "the", "random", "test", "generator", ".", "Based", "on", "these", "directives", "and", "embedded", "domain", "knowledge", ",", "the", "test", "generator", "produces", "many", "test-cases", ".", "The", "design", "under", "test", "-LRB-", "DUT", "-RRB-", "is", "then", "simulated", "using", "the", "generated", "test-cases", ",", "and", "its", "behavior", "is", "monitored", "to", "make", "sure", "that", "it", "meets", "its", "specification", ".", "In", "addition", ",", "coverage", "tools", "are", "used", "to", "detect", "the", "occurrence", "of", "coverage", "tasks", "during", "simulation", ".", "Analysis", "of", "the", "reports", "provided", "by", "the", "coverage", "tools", "allows", "the", "verification", "team", "to", "modify", "the", "directives", "to", "the", "test", "generator", "to", "overcome", "weaknesses", "in", "the", "implementation", "of", "the", "test", "plan", ".", "This", "process", "is", "repeated", "until", "the", "exit", "criteria", "in", "the", "test", "plan", "are", "met", ".", "The", "use", "of", "automatic", "test", "generators", "can", "dramatically", "reduce", "the", "amount", "of", "manual", "labor", "required", "to", "implement", "the", "test", "plan", ".", "Even", "so", ",", "the", "manual", "work", "needed", "for", "analyzing", "the", "coverage", "reports", "and", "translating", "them", "to", "directives", "for", "the", "test", "generator", ",", "can", "constitute", "a", "bottleneck", "in", "the", "verification", "process", ".", "Therefore", ",", "considerable", "effort", "is", "spent", "on", "finding", "ways", "to", "automate", "this", "procedure", ",", "and", "close", "the", "loop", "of", "coverage", "analysis", "and", "test", "generation", ".", "This", "automated", "feedback", "from", "coverage", "analysis", "to", "test", "generation", ",", "known", "as", "Coverage", "Directed", "test", "Generation", "-LRB-", "CDG", "-RRB-", ",", "can", "reduce", "the", "manual", "work", "in", "the", "verification", "process", "and", "increase", "its", "efficiency", ".", "In", "general", ",", "the", "goal", "of", "CDG", "is", "to", "automatically", "provide", "directives", "that", "are", "based", "on", "coverage", "analysis", "to", "the", "test", "generator", ".", "This", "can", "be", "further", "divided", "into", "two", "sub-goals", ":", "First", ",", "to", "provide", "directives", "to", "the", "test", "generator", "that", "help", "in", "reaching", "hard", "cases", ",", "namely", "uncovered", "or", "rarely", "covered", "tasks", ".", "Achieving", "this", "sub-goal", "can", "shorten", "the", "time", "needed", "to", "fulfill", "the", "test", "plan", "and", "reduce", "the", "number", "of", "manually", "written", "directives", ".", "Second", ",", "to", "provide", "directives", "that", "allow", "easier", "reach", "for", "any", "coverage", "task", ",", "using", "a", "different", "set", "of", "directives", "when", "possible", ".", "Achieving", "this", "sub-goal", "makes", "the", "verification", "process", "more", "robust", ",", "because", "it", "increases", "the", "number", "of", "times", "a", "task", "has", "been", "covered", "during", "verification", ".", "Moreover", ",", "if", "a", "coverage", "task", "is", "reached", "via", "different", "directions", ",", "the", "chances", "to", "discover", "hidden", "bugs", "related", "to", "this", "task", "are", "increased", "-LSB-", "8", "-RSB-", ".", "In", "the", "past", ",", "two", "general", "approaches", "for", "CDG", "have", "been", "pro-posed", ":", "feedback-based", "CDG", "and", "CDG", "by", "construction", ".", "Feedback-based", "CDG", "relies", "on", "feedback", "from", "the", "coverage", "analysis", "to", "automatically", "modify", "the", "directives", "to", "the", "test", "generator", ".", "For", "example", ",", "in", "-LSB-", "2", "-RSB-", ",", "a", "genetic", "algorithm", "is", "used", "to", "select", "and", "modify", "test-cases", "to", "increase", "coverage", ".", "In", "-LSB-", "13", "-RSB-", ",", "coverage", "analysis", "data", "is", "used", "to", "modify", "the", "parameters", "of", "a", "Markov", "Chain", "that", "represents", "the", "DUT", ".", "The", "Markov", "Chain", "is", "then", "used", "to", "generate", "test-cases", "for", "the", "design", ".", "In", "-LSB-", "11", "-RSB-", ",", "the", "coverage", "analysis", "results", "trigger", "a", "set", "of", "generation", "rules", "that", "modify", "the", "testing", "directives", ".", "In", "contrast", ",", "in", "CDG", "by", "construction", ",", "an", "external", "model", "of", "the", "DUT", "is", "used", "to", "generate", "test", "directives", "designed", "to", "accurately", "hit", "the", "coverage", "tasks", ".", "For", "example", ",", "in", "-LSB-", "14", "-RSB-", "an", "FSM", "model", "of", "pipelines", "is", "used", "to", "generate", "tests", "that", "cover", "instruction", "interdependencies", "in", "the", "pipes", ".", "The", "random", "nature", "of", "automatic", "test-case", "generators", "imposes", "a", "considerable", "amount", "of", "uncertainty", "in", "the", "relationship", "between", "test", "directives", "and", "coverage", "tasks", ",", "e.g.", ",", "the", "same", "set", "of", "directives", "can", "be", "used", "to", "generate", "many", "different", "test-cases", ",", "each", "leading", "to", "different", "coverage", "tasks", ".", "This", "inherent", "uncertainty", "suggests", "to", "cast", "the", "CDG", "setup", "in", "a", "statistical", "inference", "framework", ".", "To", "this", "end", ",", "Bayesian", "networks", "offer", "an", "efficient", "modeling", "scheme", "by", "providing", "a", "compact", "representation", "of", "the", "complex", "-LRB-", "possibly", "stochastic", "-RRB-", "relationships", "among", "the", "CDG", "ingredients", ",", "together", "with", "the", "possibility", "to", "encode", "essential", "domain", "knowledge", ".", "It", "should", "be", "noted", "that", "we", "do", "not", "suggest", "modeling", "the", "behavior", "of", "the", "design", ",", "typi-cally", "a", "large", "and", "complicated", "-LRB-", "deterministic", "-RRB-", "finite", "state", "machine", ".", "Rather", ",", "we", "model", "the", "CDG", "process", "itself", ",", "namely", "the", "trial-and-error", "procedure", "governed", "by", "the", "verification", "team", ",", "which", "controls", "the", "test", "generation", "at", "one", "end", "and", "traces", "the", "progress", "of", "covering", "the", "test", "plan", "at", "the", "other", ".", "3.1", "A", "Brief", "Introduction", "to", "Bayesian", "Networks", "A", "Bayesian", "network", "is", "a", "graphical", "representation", "of", "the", "joint", "probability", "distribution", "for", "a", "set", "of", "variables", ".", "This", "representation", "was", "originally", "designed", "to", "encode", "the", "uncertain", "knowledge", "of", "an", "expert", "and", "can", "be", "dated", "back", "to", "the", "geneticist", "Sewall", "Wright", "-LSB-", "15", "-RSB-", ".", "Their", "initial", "development", "in", "the", "late", "1970s", "was", "motivated", "by", "the", "need", "to", "model", "the", "top-down", "-LRB-", "semantic", "-RRB-", "and", "bottom-up", "-LRB-", "perceptual", "-RRB-", "combinations", "of", "evidence", "-LRB-", "observations/findings", "-RRB-", ".", "Their", "capability", "for", "bidirectional", "inferences", ",", "combined", "with", "a", "rigorous", "probabilistic", "foundation", ",", "led", "to", "the", "rapid", "emergence", "of", "Bayesian", "networks", "as", "the", "method", "of", "choice", "for", "uncertain", "reasoning", "in", "AI", "and", "expert", "systems", ",", "replacing", "ad", "hoc", "rule-based", "schemes", ".", "Bayesian", "networks", "also", "play", "a", "crucial", "role", "in", "diagnosis", "and", "decision", "support", "systems", "-LSB-", "10", "-RSB-", ".", "Obviously", ",", "there", "'s", "a", "computational", "problem", "in", "dealing", "with", "many", "sources", "of", "uncertainty", ",", "i.e.", "the", "ability", "to", "perform", "probabilistic", "ma-nipulations", "in", "high", "dimensions", "-LRB-", "the", "``", "curse", "of", "dimensionality", "''", "-RRB-", ".", "The", "main", "breakthrough", "emerged", "in", "the", "late", "1980s", "and", "can", "be", "attributed", "to", "Judea", "Pearl", "-LSB-", "12", "-RSB-", ",", "who", "introduced", "`", "modularity", "'", ",", "thus", "enabling", "287", "large", "and", "complex", "models", "and", "theirs", "associated", "calculations", ",", "to", "be", "split", "up", "into", "small", "manageable", "pieces", ".", "The", "best", "way", "to", "do", "this", "is", "via", "the", "imposition", "of", "meaningfully", "simplified", "conditional", "independence", "assumptions", ".", "These", ",", "in", "turn", ",", "can", "be", "expressed", "by", "means", "of", "a", "powerful", "and", "appealing", "graphical", "representation", ".", "A", "Bayesian", "network", "consists", "of", "two", "components", ".", "The", "first", "is", "a", "directed", "acyclic", "graph", "in", "which", "each", "vertex", "corresponds", "to", "a", "random", "variable", ".", "This", "graph", "represents", "a", "set", "of", "conditional", "independence", "properties", "of", "the", "represented", "distribution", ":", "each", "variable", "is", "probabilistically", "independent", "of", "its", "non-descendants", "in", "the", "graph", "given", "the", "state", "of", "its", "parents", ".", "The", "graph", "captures", "the", "qualitative", "structure", "of", "the", "probability", "distribution", ",", "and", "is", "exploited", "for", "efficient", "inference", "and", "decision", "making", ".", "The", "second", "component", "is", "a", "collection", "of", "local", "interaction", "models", "that", "describe", "the", "conditional", "probability", "p", "-LRB-", "X", "i", "|", "Pa", "i", "-RRB-", "of", "each", "variable", "X", "i", "given", "its", "parents", "Pa", "i", ".", "Together", ",", "these", "two", "components", "represent", "a", "unique", "joint", "probability", "distribution", "over", "the", "complete", "set", "of", "variables", "X", "-LSB-", "12", "-RSB-", ".", "The", "joint", "probability", "distribution", "is", "given", "by", "the", "following", "equation", ":", "p", "-LRB-", "X", "-RRB-", "=", "n", "i", "=", "1", "p", "-LRB-", "X", "i", "|", "Pa", "i", "-RRB-", "-LRB-", "1", "-RRB-", "It", "can", "be", "shown", "that", "this", "equation", "actually", "implies", "the", "conditional", "independence", "semantics", "of", "the", "graphical", "structure", "given", "earlier", ".", "Eq", ".", "1", "shows", "that", "the", "joint", "distribution", "specified", "by", "a", "Bayesian", "network", "has", "a", "factored", "representation", "as", "the", "product", "of", "individual", "local", "interaction", "models", ".", "Thus", ",", "while", "Bayesian", "networks", "can", "represent", "arbitrary", "probability", "distributions", ",", "they", "provide", "a", "computational", "advantage", "for", "those", "distributions", "that", "can", "be", "represented", "with", "a", "simple", "structure", ".", "The", "characterization", "given", "by", "Eq", ".", "1", "is", "a", "purely", "formal", "characterization", "in", "terms", "of", "probabilities", "and", "conditional", "independence", ".", "An", "informal", "connection", "can", "be", "made", "between", "this", "characterization", "and", "the", "intuitive", "notion", "of", "direct", "causal", "influence", ".", "It", "has", "been", "noted", "that", "if", "the", "edges", "in", "the", "network", "structure", "correspond", "to", "causal", "relationships", ",", "where", "a", "variable", "'s", "parents", "represent", "the", "direct", "causal", "influences", "on", "that", "variable", ",", "then", "resulting", "networks", "are", "often", "very", "concise", "and", "accurate", "descriptions", "of", "the", "domain", ".", "Thus", "it", "appears", "that", "in", "many", "practical", "situations", ",", "a", "Bayesian", "network", "provides", "a", "natural", "way", "to", "encode", "causal", "information", ".", "Nonetheless", ",", "it", "is", "often", "difficult", "and", "time", "consuming", "to", "construct", "Bayesian", "networks", "from", "expert", "knowledge", "alone", ",", "particularly", "because", "of", "the", "need", "to", "provide", "numerical", "parameters", ".", "This", "observation", ",", "together", "with", "the", "fact", "that", "data", "is", "becoming", "increasingly", "available", "and", "cheaper", "to", "acquire", ",", "has", "led", "to", "a", "growing", "interest", "in", "using", "data", "to", "learn", "both", "the", "structure", "and", "probabilities", "of", "a", "Bayesian", "network", "-LRB-", "cf.", "-LSB-", "3", ",", "9", ",", "12", "-RSB-", "-RRB-", ".", "Typical", "types", "of", "queries", "that", "can", "be", "efficiently", "answered", "by", "the", "Bayesian", "network", "model", "are", "derived", "from", "applying", "the", "Bayes", "rule", "to", "yield", "posterior", "probabilities", "for", "the", "values", "of", "a", "node", "-LRB-", "or", "set", "of", "nodes", "-RRB-", ",", "X", ",", "given", "some", "evidence", ",", "E", ",", "i.e.", "assignment", "of", "specific", "values", "to", "other", "nodes", ":", "p", "-LRB-", "X", "|", "E", "-RRB-", "=", "p", "-LRB-", "E", "|", "X", "-RRB-", "p", "-LRB-", "X", "-RRB-", "p", "-LRB-", "E", "-RRB-", "Thus", ",", "a", "statistical", "inference", "can", "be", "made", "in", "the", "form", "of", "either", "selecting", "the", "Maximal", "A", "Posteriori", "-LRB-", "MAP", "-RRB-", "probability", ",", "max", "p", "-LRB-", "X", "|", "E", "-RRB-", ",", "or", "obtaining", "the", "Most", "Probable", "Explanation", "-LRB-", "MPE", "-RRB-", ",", "arg", "max", "p", "-LRB-", "X", "|", "E", "-RRB-", ".", "The", "sophisticated", "yet", "efficient", "methods", "that", "have", "been", "developed", "for", "using", "Bayesian", "networks", "provide", "the", "means", "for", "predictive", "and", "diagnostic", "inference", "1", ".", "A", "diagnostic", "query", "is", "such", "that", "the", "evidence", "1", "This", "is", "in", "contrast", "to", "standard", "regression", "and", "classification", "methods", "-LRB-", "e.g.", ",", "feed", "forward", "neural", "networks", "and", "decision", "trees", "-RRB-", "that", "encode", "only", "the", "probability", "distribution", "of", "a", "target", "variable", "given", "several", "input", "variables", ".", "State", "Int", "Covearge", "Variables", "Directives", "Test", "Generator", "Core", "Enbable", "Cmd", "Type", "cp_cmd_type", "=", "-LCB-", "/", "/", "val", "weight", "-LCB-", "read", ",", "20", "-RCB-", ",", "-LCB-", "write", ",", "20", "-RCB-", ",", "-LCB-", "RMW", ",", "5", "-RCB-", ",", "...", "-RCB-", ";", "cp_core_enable", "=", "-LCB-", "/", "/", "val", "weight", "-LCB-", "Core", "1", ",", "10", "-RCB-", ",", "-RCB-", ";", "Op", "Mode", "Core", "Cmd", "Resp", "-LCB-", "Core", "0", ",", "10", "-RCB-", ",", "-LCB-", "Both", ",", "100", "-RCB-", "Figure", "2", ":", "Bayesian", "Network", "of", "CDG", "nodes", "E", "represent", "a", "cause", ",", "while", "the", "queried", "nodes", ",", "X", ",", "represent", "an", "effect", ".", "The", "reversed", "direction", ",", "i.e.", "evidence", "on", "the", "effect", "nodes", "which", "serves", "to", "determine", "the", "possible", "cause", ",", "is", "called", "abductive", ".", "These", "methods", "also", "allow", "Bayesian", "networks", "to", "reason", "efficiently", "with", "missing", "values", ",", "by", "computing", "the", "marginal", "probability", "of", "the", "query", "given", "the", "observed", "values", ".", "There", "are", "two", "important", "extensions", "of", "Bayesian", "networks", ":", "Dynamic", "Bayesian", "networks", "and", "influence", "diagrams", ".", "The", "first", "extension", "-LRB-", "see", "-LSB-", "6", "-RSB-", "-RRB-", "enables", "the", "incorporation", "of", "time", ",", "thus", "modeling", "temporal", "dependencies", "in", "a", "stochastic", "process", ".", "The", "second", "extension", "-LRB-", "see", "-LSB-", "3", "-RSB-", "-RRB-", "enriches", "the", "Bayesian", "network", "paradigm", "with", "decision", "making", "and", "utility", "considerations", "which", "create", "a", "powerful", "mechanism", "for", "dealing", "with", "decisions", "under", "uncertainty", "constraints", ".", "3.2", "A", "Bayesian", "Network", "for", "CDG", "The", "CDG", "process", "begins", "with", "the", "construction", "of", "a", "Bayesian", "network", "model", "that", "describes", "the", "relations", "between", "the", "test", "directives", "and", "the", "coverage", "space", ".", "Figure", "2", "illustrates", "a", "simple", ",", "yet", "typical", ",", "Bayesian", "network", ",", "which", "models", "a", "small", "excerpt", "of", "the", "CDG", "setup", ".", "The", "network", "describes", "the", "relationship", "between", "the", "directives", "that", "influence", "the", "type", "of", "command", "that", "is", "generated", "-LRB-", "cp", "cmd", "type", "-RRB-", "and", "the", "active", "cores", "inside", "a", "CPU", "-LRB-", "cp", "core", "enable", "-RRB-", ",", "and", "the", "coverage", "attributes", "of", "a", "generated", "command", "-LRB-", "cmd", "-RRB-", ",", "its", "response", "-LRB-", "resp", "-RRB-", ",", "and", "the", "core", "that", "generated", "it", "-LRB-", "core", "-RRB-", ".", "The", "network", "is", "comprised", "of", "input", "nodes", "-LRB-", "the", "white", "circles", "on", "the", "left", "-RRB-", "that", "relate", "to", "test", "directives", "that", "appear", "to", "their", "left", "and", "coverage", "nodes", "-LRB-", "the", "white", "squares", "on", "the", "right", "-RRB-", "that", "define", "the", "coverage", "space", ".", "In", "addition", "to", "these", "nodes", ",", "for", "which", "we", "have", "physical", "observations", ",", "the", "network", "may", "also", "contain", "hidden", "nodes", ",", "namely", "variables", "for", "which", "we", "do", "n't", "have", "any", "physical", "evidence", "-LRB-", "observations", "-RRB-", "for", "their", "interactions", ".", "These", "variables", "are", "represented", "as", "shaded", "ovals", "in", "the", "figure", ".", "Hidden", "nodes", "are", "added", "to", "the", "Bayesian", "network", "structure", "primarily", "to", "reflect", "expert", "domain", "knowledge", "regarding", "hidden", "causes", "and", "functionalities", "which", "impose", "some", "structure", "on", "the", "interaction", "between", "the", "interface", "-LRB-", "observed", "-RRB-", "nodes", "2", ".", "The", "Bayesian", "network", "at", "Fig.", "2", "describes", "the", "causal", "relationships", "from", "the", "test", "generation", "directives", "-LRB-", "causes", "-RRB-", "to", "the", "coverage", "model", "space", "-LRB-", "effects", "-RRB-", ".", "For", "example", ",", "it", "encodes", "the", "expert", "knowledge", "that", "indicates", "that", "there", "is", "an", "internal", "mode", "of", "operation", "for", "which", "we", "do", "not", "have", "any", "direct", "physical", "observation", ",", "yet", "it", "is", "determined", "by", "the", "combined", "values", "of", "the", "test", "generation", "attributes", ".", "On", "the", "other", "hand", ",", "the", "-LRB-", "hidden", "-RRB-", "mode", "of", "operation", "directly", "influences", "the", "choice", "of", "the", "resulting", "command", "and", "core", ",", "which", "are", "attributes", "of", "2", "Introducing", "hidden", "nodes", "to", "the", "network", "structure", "has", "the", "secondary", "impact", "of", "reducing", "the", "computational", "complexity", "by", "dimensionality", "reduction", ",", "and", "as", "a", "means", "for", "capturing", "non-trivial", "-LRB-", "higher", "order", "-RRB-", "correlations", "between", "observed", "events", ".", "288", "the", "coverage", "model", ".", "Note", "the", "absence", "of", "a", "direct", "link", "between", "the", "requested", "core", "-LRB-", "via", "the", "directive", "cp", "core", "enable", "-RRB-", "and", "the", "observed", "one", "-LRB-", "at", "Core", "-RRB-", ",", "which", "captures", "our", "understanding", "that", "there", "is", "no", "direct", "influence", "between", "the", "directives", "and", "the", "coverage", "attribute", ".", "Another", "assumption", "encoded", "in", "the", "CDG", "Bayesian", "network", "structure", "at", "Fig.", "2", ",", "is", "that", "the", "only", "information", "that", "governs", "the", "response", "for", "the", "command", "is", "the", "generated", "command", "itself", ",", "and", "this", "is", "encoded", "via", "the", "direct", "link", "from", "Cmd", "to", "Resp", ".", "In", "a", "nutshell", ",", "the", "design", "of", "the", "Bayesian", "network", "starts", "with", "identifying", "the", "ingredients", "-LRB-", "attributes", "-RRB-", "that", "will", "constitute", "the", "directives", "to", "the", "test", "generator", "on", "one", "hand", ",", "and", "to", "the", "coverage", "model", "on", "the", "other", ".", "These", "attributes", "are", "dictated", "by", "the", "interface", "to", "the", "simulation", "environment", ",", "to", "the", "coverage", "analysis", "tool", ",", "and", "by", "the", "specification", "of", "the", "coverage", "model", "in", "the", "test", "plan", ".", "These", "ingredients", "are", "used", "as", "the", "first", "guess", "about", "the", "nodes", "in", "the", "graph", "structure", ".", "Connecting", "these", "nodes", "with", "edges", "is", "our", "technique", "for", "expert", "knowledge", "encoding", ",", "as", "demonstrated", "in", "Fig.", "2", ".", "Obviously", ",", "using", "a", "fully", "connected", "graph", ",", "i.e.", "with", "an", "edge", "between", "every", "pair", "of", "nodes", ",", "represents", "absolutely", "no", "knowledge", "about", "the", "possible", "dependencies", "and", "functionalities", "within", "the", "model", ".", "Hence", ",", "as", "the", "graph", "structure", "becomes", "sparser", ",", "it", "represents", "deeper", "domain", "knowledge", ".", "We", "discovered", "that", "a", "good", "practice", "in", "specifying", "a", "dependency", "graph", "is", "to", "remove", "edges", "for", "which", "we", "have", "strong", "belief", "that", "the", "detached", "nodes", "are", "not", "directly", "influencing", "one", "another", ".", "At", "this", "point", ",", "hidden", "nodes", "can", "be", "added", "to", "the", "structure", ",", "either", "to", "represent", "hidden", "causes", ",", "which", "contribute", "to", "a", "better", "description", "of", "the", "functionalities", "of", "the", "model", ",", "or", "to", "take", "on", "a", "role", "from", "the", "complexity", "stand", "point", ",", "by", "breaking", "the", "barges", "cliques", "in", "the", "graph", "-LRB-", "see", "-LSB-", "4", "-RSB-", "-RRB-", ".", "After", "the", "Bayesian", "network", "structure", "is", "specified", ",", "it", "is", "trained", "using", "a", "sample", "of", "directives", "and", "the", "respective", "coverage", "tasks", ".", "To", "this", "end", ",", "we", "activate", "the", "simulation", "environment", "and", "construct", "a", "training", "set", "out", "of", "the", "directives", "used", "and", "the", "resulting", "coverage", "tasks", ".", "We", "then", "use", "one", "of", "the", "many", "known", "learning", "algorithms", "-LRB-", "cf.", "-LSB-", "3", "-RSB-", "-RRB-", "to", "estimate", "the", "Bayesian", "network", "'s", "parameters", "-LRB-", "i.e.", "the", "set", "of", "conditional", "probability", "distributions", "-RRB-", ".", "This", "completes", "the", "design", "and", "training", "of", "the", "Bayesian", "network", "model", ".", "In", "the", "evaluation", "phase", ",", "the", "trained", "Bayesian", "network", "can", "be", "used", "to", "determine", "directives", "for", "a", "desired", "coverage", "task", ",", "via", "posterior", "probabilities", ",", "MAP", "and", "MPE", "queries", ",", "which", "use", "the", "coverage", "task", "attributes", "as", "evidence", ".", "For", "example", ",", "in", "a", "model", "for", "which", "the", "directives", "are", "weights", "of", "possible", "outcomes", "for", "internal", "draws", "in", "the", "test", "generator", "-LRB-", "e.g.", "the", "directive", "cp", "cmd", "type", "in", "Fig.", "2", "specifies", "a", "preference", "to", "read", "commands", ",", "write", "commands", ",", "etc.", "-RRB-", ",", "we", "can", "specify", "a", "desired", "coverage", "task", "assignment", "-LRB-", "evidence", "-RRB-", "for", "the", "coverage", "nodes", "-LRB-", "e.g.", "Resp", "=", "ACK", "-RRB-", "and", "calculate", "the", "posterior", "probability", "distribution", "for", "directive", "nodes", "-LRB-", "e.g.", "p", "-LRB-", "Cmd", "Type", "|", "Resp", "=", "ACK", "-RRB-", "-RRB-", ",", "which", "directly", "translates", "to", "the", "set", "of", "weights", "to", "be", "written", "in", "the", "test", "generator", "'s", "parameter", "file", ".", "Note", ",", "as", "the", "example", "demonstrates", ",", "we", "can", "specify", "partial", "evidence", "and/or", "determine", "a", "partial", "set", "of", "directives", ".", "To", "evaluate", "the", "feasibility", "of", "the", "suggested", "modeling", "approach", "to", "the", "CDG", "problem", ",", "we", "designed", "a", "controlled", "study", "that", "acts", "in", "a", "simple", "domain", "-LRB-", "small", "state", "space", "-RRB-", ",", "where", "we", "have", "a", "deep", "understanding", "of", "the", "DUT", "'s", "logic", ",", "direct", "control", "on", "the", "input", ",", "and", "a", "`", "ground", "truth", "'", "reference", "to", "evaluate", "performance", ".", "We", "conducted", "the", "experiment", "on", "a", "model", "of", "the", "pipeline", "of", "NorthStar", ",", "an", "advanced", "PowerPC", "processor", ".", "The", "pipeline", "of", "NorthStar", "contains", "four", "execution", "units", "and", "a", "dispatch", "unit", "that", "dispatches", "instructions", "to", "the", "execution", "units", ".", "Figure", "3", "illustrates", "the", "general", "Dispatch", "0000", "0000", "0000", "0000", "0000", "0000", "1111", "1111", "1111", "1111", "1111", "1111", "Branch", "Pipe", "-LRB-", "B", "-RRB-", "Write", "Back", "Execute", "Data", "Fetch", "S3", "S2", "S1", "Simple", "Arith", "Pipe", "-LRB-", "S", "-RRB-", "C2", "C1", "C3", "Complex", "Arith", "Pipe", "-LRB-", "C", "-RRB-", "0000", "0000", "0000", "0000", "0000", "0000", "1111", "1111", "1111", "1111", "1111", "1111", "Load/Store", "Pipe", "-LRB-", "L", "-RRB-", "Figure", "3", ":", "The", "structure", "of", "the", "NorthStar", "pipeline", "structure", "of", "the", "NorthStar", "pipeline", ".", "For", "reasons", "of", "simplicity", ",", "our", "model", "contains", "only", "the", "simple", "arithmetic", "unit", "that", "executes", "simple", "arithmetic", "instructions", "such", "as", "add", ",", "and", "the", "complex", "arithmetic", "unit", "that", "can", "execute", "both", "simple", "and", "complex", "arithmetic", "instructions", ".", "Each", "execution", "unit", "consists", "of", "three", "pipeline", "stages", ":", "-LRB-", "1", "-RRB-", "Data", "fetch", "stage", ",", "in", "which", "the", "data", "of", "the", "instruction", "is", "fetched", ";", "-LRB-", "2", "-RRB-", "Execute", "stage", ",", "in", "which", "the", "instruction", "is", "executed", ";", "-LRB-", "3", "-RRB-", "Write", "back", "stage", ",", "where", "the", "result", "is", "written", "back", "to", "the", "target", "register", ".", "The", "flow", "of", "instructions", "in", "the", "pipeline", "is", "governed", "by", "a", "simple", "set", "of", "rules", ".", "For", "example", ",", "in-order", "dispatching", "of", "instructions", "to", "the", "execution", "units", ",", "and", "rules", "for", "stalling", "because", "of", "data", "dependency", ".", "Note", ",", "the", "complete", "set", "of", "rules", "is", "omitted", "to", "simplify", "the", "description", ".", "We", "developed", "a", "simple", "abstract", "model", "of", "the", "dispatch", "unit", "and", "two", "pipelines", "and", "used", "it", "to", "simulate", "the", "behavior", "of", "the", "pipeline", ".", "The", "input", "to", "our", "NorthStar", "model", "is", "a", "simplified", "subset", "of", "the", "PowerPC", "instruction", "set", ".", "Each", "instruction", "is", "modeled", "by", "four", "input", "variables", ".", "The", "first", "variable", "indicates", "the", "type", "of", "the", "instruction", ".", "There", "are", "five", "possible", "types", ":", "S", "-", "simple", "arithmetic", ";", "C1", ",", "C2", ",", "C3", "-", "complex", "arithmetic", ";", "and", "NOP", "-", "instructions", "that", "are", "executed", "in", "other", "execution", "units", ".", "The", "second", "and", "third", "input", "variables", "constitute", "the", "source", "and", "target", "register", "of", "the", "instructions", ".", "For", "simplicity", "and", "in", "order", "to", "increase", "the", "possibility", "of", "register", "interdependency", ",", "we", "used", "only", "eight", "registers", "instead", "of", "the", "32", "registers", "available", "in", "PowerPC", ".", "The", "last", "input", "variable", "indicates", "whether", "the", "instruction", "uses", "the", "condition", "register", ".", "Due", "to", "restrictions", "on", "the", "legal", "combinations", "of", "the", "input", "variables", "-LRB-", "e.g.", ",", "NOP", "instruction", "is", "not", "using", "registers", "-RRB-", ",", "there", "are", "449", "possible", "instructions", ".", "We", "used", "a", "coverage", "model", "that", "examines", "the", "state", "of", "the", "two", "pipelines", ",", "and", "properties", "of", "the", "instructions", "in", "them", ".", "The", "coverage", "model", "consists", "of", "five", "attributes", ",", "the", "type", "of", "instruction", "at", "stage", "1", "of", "the", "simple", "and", "complex", "arithmetic", "pipelines", "-LRB-", "S1Type", "and", "C1Type", ",", "resp", ".", "-RRB-", ",", "flags", "indicating", "whether", "stage", "2", "of", "the", "pipelines", "are", "occupied", "-LRB-", "S2Valid", "and", "C2Valid", ",", "resp", ".", "-RRB-", ",", "and", "a", "flag", "indicating", "whether", "the", "instruction", "at", "stage", "2", "of", "the", "simple", "arithmetic", "pipeline", "uses", "the", "condition", "register", "-LRB-", "S2CR", "-RRB-", ".", "The", "total", "number", "of", "legal", "coverage", "tasks", "in", "the", "model", "is", "54", "-LRB-", "out", "of", "80", "possible", "cases", "-RRB-", ".", "The", "goal", "of", "the", "experiment", "was", "to", "generate", "instruction", "streams", "that", "cover", "the", "coverage", "model", "described", "above", ".", "Specifically", ",", "we", "concentrated", "on", "the", "ability", "to", "reach", "the", "desired", "coverage", "cases", "with", "many", ",", "yet", "relatively", "short", ",", "instruction", "sequences", ".", "We", "modeled", "the", "temporal", "dependencies", "between", "the", "instructions", "and", "coverage", "tasks", "and", "among", "the", "instructions", "using", "a", "two-slice", "Dynamic", "Bayesian", "Network", "-LRB-", "DBN", "-RRB-", "-LSB-", "6", "-RSB-", ".", "Rather", "than", "an", "accurate", "mapping", "of", "the", "specific", "state", "machine", "structure", ",", "the", "DBN", "encoded", "the", "general", "knowledge", "of", "an", "expert", "on", "the", "modus", "operandi", "of", "this", "type", "of", "DUT", ".", "Using", "an", "expert", "'s", "domain", "knowledge", "proved", "to", "be", "vital", "in", "this", "setup", "because", "it", "provided", "essential", "information", "needed", "for", "the", "generation", "of", "instruction", "streams", ".", "Moreover", ",", "it", "enabled", "the", "use", "of", "hidden", "nodes", ",", "which", "effectively", "reduced", "the", "complexity", "through", "dimensionality", "reduction", ".", "The", "resulting", "DBN", "has", "19", "289", "Time", "slice", "-LRB-", "cycle", "-RRB-", "t", "Time", "slice", "-LRB-", "cycle", "-RRB-", "t", "+1", "Input", "Node", "Coverage", "Node", "Hidden", "Node", "type1", "sr1", "tg1", "cr1", "type2", "sr2", "tg2", "cr2", "type1", "sr1", "tg1", "cr1", "type2", "sr2", "tg2", "cr2", "im0", "ir0", "mv1", "rv1", "rcr1", "im0", "ir0", "mv1", "rv1", "rcr1", "Figure", "4", ":", "two-slice", "DBN", "for", "the", "NorthStar", "experiment", "Rare", "Uncovered", "Instructions", "Cycles", "Instructions", "Cycles", "Training", "Set", "6", "7", "DBN", "4", "5", "4", "5", "Text", "Book", "3", "4", "3", "4", "Table", "1", ":", "NorthStar", "experiment", "results", "nodes", "per", "slice", ",", "13", "of", "which", "are", "observed", ",", "15", "intra", "-LRB-", "within", "a", "slice", "-RRB-", "edges", ",", "and", "37", "inter", "-LRB-", "between", "slices", "-RRB-", "edges", "-LRB-", "see", "Fig", "4", "-RRB-", ".", "The", "training", "set", "is", "composed", "of", "1000", "sequences", "of", "random", "instructions", ".", "The", "length", "of", "each", "sequence", "is", "10", "cycles", ".", "Note", ",", "the", "model", "the", "we", "used", "for", "the", "Bayesian", "network", "made", "it", "easier", "to", "measure", "length", "in", "terms", "of", "cycles", "instead", "of", "instructions", ".", "The", "training", "set", "contained", "385", "different", "instructions", ".", "During", "its", "simulation", ",", "49", "-LRB-", "out", "of", "54", "-RRB-", "coverage", "cases", "were", "observed", ".", "The", "average", "number", "of", "instructions", "per", "sequence", "in", "the", "training", "set", "was", "9.7", "out", "of", "the", "20", "possible", "dispatches", "in", "10", "cycles", "-LRB-", "i.e.", ",", "more", "than", "half", "of", "the", "dispatch", "slots", "in", "the", "sequence", "are", "empty", "-RRB-", ".", "After", "training", "the", "Bayesian", "network", ",", "we", "tried", "to", "generate", "instruction", "sequences", "for", "all", "54", "coverage", "tasks", "in", "the", "coverage", "model", ".", "Each", "sequence", "was", "generated", "using", "the", "DBN", ",", "by", "solving", "the", "Most", "Probable", "Explanation", "-LRB-", "MPE", "-RRB-", "problem", "for", "the", "requested", "coverage", "task", ".", "All", "49", "coverage", "cases", "of", "the", "training", "set", "plus", "three", "additional", "uncovered", "cases", "were", "reached", "using", "instruction", "sequences", "designed", "by", "the", "DBN", ".", "In", "addition", ",", "we", "generated", "many", "different", "instruction", "sequences", "for", "each", "coverage", "task", "that", "was", "covered", "by", "the", "Bayesian", "network", ".", "The", "average", "number", "of", "cycles", "in", "a", "generated", "sequence", "dropped", "to", "2.9", ",", "while", "the", "average", "number", "of", "instructions", "in", "a", "sequence", "reduced", "to", "3.7", ".", "This", "reflects", "the", "fact", "that", "the", "generated", "instruction", "sequences", "cause", "less", "stall", "states", "en-route", "to", "reaching", "the", "desired", "coverage", "cases", ".", "Table", "1", "illustrates", "the", "details", "of", "reaching", "two", "difficult", "coverage", "cases", "--", "the", "rarest", "coverage", "task", ",", "which", "was", "seen", "only", "once", "in", "the", "training", "set", ",", "and", "an", "uncovered", "task", ".", "The", "table", "shows", "the", "number", "of", "cycles", "and", "instructions", "required", "to", "reach", "these", "tasks", "in", "the", "training", "set", ",", "the", "instruction", "sequences", "generated", "by", "the", "trained", "DBN", ",", "and", "the", "`", "text", "book", "'", "solution", "--", "the", "best", "possible", "sequence", ".", "The", "table", "indicates", "that", "the", "instruction", "sequences", "generated", "by", "the", "DBN", "are", "shorter", ",", "both", "in", "instructions", "and", "cycles", ",", "than", "the", "sequences", "in", "the", "training", "set", ".", "Overall", ",", "the", "results", "indicate", "that", "the", "trained", "DBN", "is", "able", "to", "generate", "many", "compact", "instruction", "sequences", "that", "are", "not", "far", "from", "the", "best", "possible", "solution", ".", "Resp", "Cmd", "Resp", "Cmd", "Resp", "Cmd", "Pipe", "0", "Pipe", "1", "Core", "0", "Core", "1", "Core", "0", "Core", "1", "Core", "0", "Core", "1", "Storage", "Control", "Element", "-LRB-", "SCE", "-RRB-", "Memory", "Subsystem", "CP0", "CP1", "CP7", "Figure", "5", ":", "The", "structure", "of", "SCE", "simulation", "environment", "The", "second", "experiment", "was", "conducted", "in", "a", "real-life", "setting", ".", "The", "design", "under", "test", "in", "the", "experiment", "is", "the", "Storage", "Control", "Element", "-LRB-", "SCE", "-RRB-", "of", "an", "IBM", "z-series", "system", ".", "Figure", "5", "shows", "the", "structure", "of", "the", "SCE", "and", "its", "simulation", "environment", ".", "The", "SCE", "handles", "commands", "from", "eight", "CPUs", "-LRB-", "CP0", "CP7", "-RRB-", ".", "Each", "CPU", "consists", "of", "two", "cores", "that", "generate", "commands", "to", "the", "SCE", "independently", ".", "The", "SCE", "handles", "incoming", "commands", "using", "two", "internal", "pipelines", ".", "When", "the", "SCE", "finishes", "handling", "a", "command", ",", "it", "sends", "a", "response", "to", "the", "commanding", "CPU", ".", "The", "simulation", "environment", "for", "the", "SCE", "contains", ",", "in", "addition", "to", "the", "SCE", "itself", ",", "behavioral", "models", "for", "the", "eight", "CPUs", "that", "it", "services", ",", "and", "a", "behavioral", "model", "for", "the", "memory", "subsystem", ".", "The", "behavioral", "models", "of", "the", "CPUs", "generate", "commands", "to", "the", "SCE", "based", "on", "their", "internal", "state", "and", "a", "directive", "file", "provided", "by", "the", "user", ".", "The", "directive", "file", "contains", "a", "set", "of", "parameters", "that", "affect", "the", "behavior", "of", "the", "system", ".", "Some", "of", "these", "parameters", "control", "the", "entire", "system", "while", "others", "are", "specific", "to", "certain", "components", "of", "the", "system", ",", "such", "as", "a", "specific", "CPU", ".", "Figure", "2", "shows", "an", "example", "of", "some", "parameters", "that", "are", "used", "in", "the", "simulation", "environment", "of", "the", "SCE", ".", "Each", "parameter", "contains", "a", "set", "of", "possible", "values", "that", "the", "parameter", "can", "receive", ".", "Each", "value", "has", "a", "weight", "associated", "with", "it", ".", "When", "the", "value", "of", "a", "parameter", "is", "needed", ",", "it", "is", "randomly", "chosen", "from", "the", "set", "of", "possible", "values", "according", "the", "weights", "of", "these", "values", ".", "For", "example", ",", "when", "a", "CPU", "generates", "a", "new", "command", ",", "it", "first", "uses", "the", "cp", "cmd", "type", "parameter", "to", "determine", "the", "type", "of", "command", "to", "generate", ",", "and", "then", "a", "specific", "parameter", "for", "that", "command", "type", "to", "determine", "the", "exact", "command", "to", "be", "used", ".", "In", "the", "experiment", ",", "we", "tried", "to", "cover", "all", "the", "possible", "transactions", "between", "the", "CPUs", "and", "the", "SCE", ".", "The", "coverage", "model", "contained", "five", "attributes", ":", "The", "CPU", "-LRB-", "8", "possible", "values", "-RRB-", "and", "the", "core", "-LRB-", "2", "values", "-RRB-", "in", "it", "that", "initiated", "the", "command", ",", "the", "command", "itself", "-LRB-", "31", "values", "-RRB-", ",", "its", "response", "-LRB-", "14", "values", "-RRB-", ",", "and", "the", "pipeline", "in", "the", "SCE", "that", "handled", "it", "-LRB-", "2", "values", "-RRB-", ".", "Overall", ",", "the", "cross", "product", "contains", "13,888", "cases", "and", "the", "coverage", "model", "contains", "1968", "legal", "coverage", "tasks", ".", "This", "experiment", "added", "many", "new", "challenges", "over", "the", "controlled", "experiment", "described", "in", "the", "previous", "section", ".", "First", ",", "our", "knowledge", "about", "the", "DUT", "in", "this", "experiment", "was", "very", "limited", "compared", "to", "the", "full", "understanding", "of", "the", "design", "in", "the", "first", "experiment", ".", "In", "addition", ",", "we", "were", "less", "able", "to", "observe", "and", "control", "the", "input", "and", "output", "nodes", "of", "the", "Bayesian", "network", ".", "For", "the", "test", "parameters", ",", "we", "could", "only", "specify", "the", "distribution", "of", "each", "parameter", "and", "we", "could", "not", "observe", "the", "values", "that", "were", "actually", "used", ",", "only", "their", "distribution", ".", "Moreover", ",", "in", "some", "cases", "the", "behavioral", "models", "ignored", "the", "parameters", "and", "generated", "commands", "based", "on", "their", "internal", "state", ".", "Thus", ",", "the", "actual", "distribution", "used", "was", "not", "exactly", "the", "provided", "distribu-290", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "0", "50", "100", "150", "200", "250", "Test-cases", "C", "overe", "d", "T", "as", "k", "s", "CDG", "Baseline", "223", "Figure", "6", ":", "Coverage", "progress", "of", "the", "CDG", "process", "tion", "of", "the", "parameters", ".", "This", "type", "of", "observation", "-LRB-", "distribution", "instead", "of", "specific", "value", "-RRB-", "is", "known", "as", "a", "soft", "evidence", ".", "The", "coverage", "data", "that", "we", "got", "out", "of", "the", "simulation", "environment", "was", "a", "summary", "of", "all", "the", "coverage", "tasks", "that", "occurred", "during", "the", "simulation", "of", "a", "test-case", ".", "Therefore", ",", "it", "was", "hard", "to", "correlate", "between", "the", "observed", "coverage", "tasks", "and", "the", "parameters", "'", "values", "that", "caused", "them", "and", "between", "the", "different", "observed", "coverage", "tasks", ".", "Because", "we", "had", "limited", "knowledge", "about", "the", "DUT", "and", "the", "correlation", "between", "the", "parameters", "in", "the", "test", "directives", "and", "the", "coverage", "tasks", ",", "the", "first", "Bayesian", "network", "we", "constructed", "contained", "arcs", "between", "each", "of", "the", "coverage", "variables", "and", "each", "of", "the", "test", "parameters", ".", "We", "trained", "this", "network", "with", "160", "test-cases", "-LRB-", "each", "taking", "more", "than", "30", "minutes", "to", "execute", "-RRB-", ".", "After", "the", "initial", "training", ",", "we", "analyzed", "the", "Bayesian", "network", "and", "found", "out", "that", "most", "of", "the", "test", "parameters", "were", "strongly", "correlated", "either", "to", "the", "command", "and", "response", "coverage", "variables", "or", "the", "pipe", "and", "core", "variables", ",", "but", "only", "a", "single", "variable", "was", "strongly", "correlated", "to", "all", "coverage", "variables", ".", "Therefore", ",", "we", "partitioned", "the", "Bayesian", "network", "into", "two", "networks", ",", "one", "for", "command", "and", "response", "and", "the", "other", "for", "core", "and", "pipe", ".", "The", "result", "of", "the", "inference", "on", "the", "common", "parameter", "from", "the", "first", "network", "was", "used", "as", "input", "for", "the", "second", "one", ".", "We", "trained", "the", "second", "network", "with", "the", "same", "training", "set", "of", "160", "test-cases", ".", "During", "the", "training", ",", "1745", "out", "of", "the", "1968", "tasks", "in", "the", "model", "were", "covered", ",", "while", "223", "remained", "uncovered", ".", "We", "checked", "the", "performance", "of", "the", "trained", "network", "and", "its", "ability", "to", "increase", "the", "coverage", "rate", "for", "the", "uncovered", "tasks", "in", "the", "training", "set", ".", "The", "baseline", "for", "comparison", "was", "the", "progress", "achieved", "by", "the", "best", "test", "directive", "file", "created", "by", "an", "expert", "user", ".", "We", "tried", "to", "maximize", "the", "coverage", "progress", "rate", "using", "a", "large", "number", "of", "test", "directive", "files", "aimed", "at", "specific", "sets", "of", "uncovered", "tasks", ".", "This", "approach", "is", "not", "realistic", "for", "a", "human", "user", "due", "the", "effort", "needed", "to", "create", "each", "set", "of", "directives", ".", "However", ",", "it", "is", "useful", "for", "the", "automatic", "creation", "of", "directives", ",", "because", "the", "inference", "time", "from", "the", "trained", "network", "is", "negligible", ".", "Our", "method", "to", "maximize", "the", "coverage", "progress", "rate", "was", "to", "randomly", "partition", "the", "uncovered", "tasks", ",", "use", "the", "trained", "network", "to", "create", "a", "test", "directive", "file", "for", "each", "partition", ",", "and", "simulate", "a", "single", "test-case", "for", "each", "directive", "file", ".", "This", "process", "was", "repeated", "until", "all", "the", "tasks", "were", "covered", ".", "The", "CDG", "process", "was", "able", "to", "cover", "all", "uncovered", "tasks", "after", "250", "test-cases", ",", "while", "the", "baseline", "case", "of", "the", "user", "defined", "test", "directives", "file", "covered", "only", "two", "thirds", "of", "them", "after", "over", "400", "test-cases", "-LRB-", "see", "Figure", "6", "-RRB-", ".", "In", "this", "paper", "we", "demonstrated", "how", "Bayesian", "networks", "can", "be", "used", "to", "close", "the", "loop", "between", "coverage", "data", "and", "directives", "to", "test", "generators", ".", "The", "experiments", "described", "in", "the", "paper", "show", "that", "this", "modeling", "technique", "can", "be", "efficiently", "used", "to", "achieve", "the", "CDG", "goals", "of", "easier", "reach", "for", "hard", "coverage", "cases", ",", "diverse", "reach", "for", "average", "cases", ",", "and", "improved", "coverage", "progress", "rate", ".", "It", "should", "be", "noted", "that", "the", "suggested", "CDG", "method", "is", "not", "limited", "to", "the", "types", "of", "simulation", "environments", "handled", "in", "this", "paper", "-LRB-", "i.e.", ",", "parameters-based", "test", "generation", "and", "direct", "stimuli", "generation", "-RRB-", ".", "It", "can", "be", "used", "in", "other", "types", "of", "environments", ",", "such", "as", "test", "generators", "in", "which", "the", "control", "on", "the", "stimuli", "is", "embedded", "in", "the", "generator", "itself", ".", "Our", "future", "work", "has", "two", "distinct", "aspects", ":", "enhancing", "the", "learning", "capabilities", "and", "effectively", "applying", "the", "suggested", "framework", "to", "the", "verification", "process", ".", "From", "the", "learning", "perspective", ",", "we", "plan", "to", "explore", "other", "techniques", "that", "may", "increase", "our", "capabilities", ".", "For", "example", ",", "incremental", "structure", "learning", "as", "a", "means", "for", "encoding", "richer", "domain", "knowledge", ",", "and", "the", "efficient", "construction", "of", "good", "queries", "to", "boost", "targeting", "rare", "cases", "using", "selective", "sampling", ".", "To", "effectively", "deploy", "the", "CDG", "framework", ",", "we", "need", "to", "gain", "a", "better", "understanding", "of", "the", "type", "of", "knowledge", "that", "should", "be", "encoded", "in", "the", "model", ",", "and", "to", "identify", "in", "which", "areas", "the", "suggested", "approach", "may", "prove", "most", "beneficial", "to", "the", "verification", "process", ".", "-LSB-", "1", "-RSB-", "J.", "Bergeron", ".", "Writing", "Testbenches", ":", "Functional", "Verification", "of", "HDL", "Models", ".", "Kluwer", "Academic", "Publishers", ",", "January", "2000", ".", "-LSB-", "2", "-RSB-", "M.", "Bose", ",", "J.", "Shin", ",", "E.", "M.", "Rudnick", ",", "T.", "Dukes", ",", "and", "M.", "Abadir", ".", "A", "genetic", "approach", "to", "automatic", "bias", "generation", "for", "biased", "random", "instruction", "generation", ".", "In", "Proceedings", "of", "the", "2001", "Congress", "on", "Evolutionary", "Computation", "CEC2001", ",", "pages", "442", "448", ",", "May", "2001", ".", "-LSB-", "3", "-RSB-", "R.", "G.", "Cowell", ",", "A.", "P.", "Dawid", ",", "S.", "L.", "Lauritzen", ",", "and", "D.", "J.", "Spiegelhalter", ".", "Probabilistic", "Networks", "and", "Expert", "Systems", ".", "Springer-Verlag", ",", "1999", ".", "-LSB-", "4", "-RSB-", "G.", "Elidan", ",", "N.", "Lotner", ",", "N.", "Friedman", ",", "and", "D.", "Koller", ".", "Discovering", "hidden", "variables", ":", "A", "structure-based", "approach", ".", "In", "Proceedings", "of", "the", "13th", "Annual", "Conference", "on", "Neural", "Information", "Processing", "Systems", ",", "pages", "479", "485", ",", "2000", ".", "-LSB-", "5", "-RSB-", "L.", "Fournier", ",", "Y.", "Arbetman", ",", "and", "M.", "Levinger", ".", "Functional", "verification", "methodology", "for", "microprocessors", "using", "the", "Genesys", "test-program", "generator", ".", "In", "Proceedings", "of", "the", "1999", "Design", ",", "Automation", "and", "Test", "in", "Europe", "Conference", "-LRB-", "DATE", "-RRB-", ",", "pages", "434", "441", ",", "March", "1999", ".", "-LSB-", "6", "-RSB-", "Z.", "Ghahramani", ".", "Learning", "dynamic", "Bayesian", "networks", ".", "In", "Adaptive", "Processing", "of", "Sequences", "and", "Data", "Structures", ",", "Lecture", "Notes", "in", "Artificial", "Intelligence", ",", "pages", "168", "197", ".", "Springer-Verlag", ",", "1998", ".", "-LSB-", "7", "-RSB-", "R.", "Grinwald", ",", "E.", "Harel", ",", "M.", "Orgad", ",", "S.", "Ur", ",", "and", "A.", "Ziv", ".", "User", "defined", "coverage", "-", "a", "tool", "supported", "methodology", "for", "design", "verification", ".", "In", "Proceedings", "of", "the", "35th", "Design", "Automation", "Conference", ",", "pages", "158", "165", ",", "June", "1998", ".", "-LSB-", "8", "-RSB-", "A.", "Hartman", ",", "S.", "Ur", ",", "and", "A.", "Ziv", ".", "Short", "vs", "long", "size", "does", "make", "a", "difference", ".", "In", "Proceedings", "of", "the", "High-Level", "Design", "Validation", "and", "Test", "Workshop", ",", "pages", "23", "28", ",", "November", "1999", ".", "-LSB-", "9", "-RSB-", "D.", "Heckerman", ".", "A", "tutorial", "on", "learning", "with", "Bayesian", "networks", ".", "Technical", "report", ",", "Microsoft", "Research", ",", "1996", ".", "-LSB-", "10", "-RSB-", "D.", "Heckerman", ",", "A.", "Mamdani", ",", "and", "M.", "Wellman", ".", "Real-world", "applications", "of", "Bayesian", "networks", ".", "Communications", "of", "the", "ACM", ",", "38", "-LRB-", "3", "-RRB-", ":", "24", "30", ",", "1995", ".", "-LSB-", "11", "-RSB-", "G.", "Nativ", ",", "S.", "Mittermaier", ",", "S.", "Ur", ",", "and", "A.", "Ziv", ".", "Cost", "evaluation", "of", "coverage", "directed", "test", "generation", "for", "the", "IBM", "mainframe", ".", "In", "Proceedings", "of", "the", "2001", "International", "Test", "Conference", ",", "pages", "793", "802", ",", "October", "2001", ".", "-LSB-", "12", "-RSB-", "J.", "Pearl", ".", "Probabilistic", "Reasoning", "in", "Intelligent", "Systems", ":", "Network", "of", "Plausible", "Inference", ".", "Morgan", "Kaufmann", ",", "1988", ".", "-LSB-", "13", "-RSB-", "S.", "Tasiran", ",", "F.", "Fallah", ",", "D.", "G.", "Chinnery", ",", "S.", "J.", "Weber", ",", "and", "K.", "Keutzer", ".", "A", "functional", "validation", "technique", ":", "biased-random", "simulation", "guided", "by", "observability-based", "coverage", ".", "In", "Proceedings", "of", "the", "International", "Conference", "on", "Computer", "Design", ",", "pages", "82", "88", ",", "September", "2001", ".", "-LSB-", "14", "-RSB-", "S.", "Ur", "and", "Y.", "Yadin", ".", "Micro-architecture", "coverage", "directed", "generation", "of", "test", "programs", ".", "In", "Proceedings", "of", "the", "36th", "Design", "Automation", "Conference", ",", "pages", "175", "180", ",", "June", "1999", ".", "-LSB-", "15", "-RSB-", "S.", "Wright", ".", "Correlation", "and", "causation", ".", "Journal", "of", "Agricultural", "Research", ",", "1921", ".", "291"], "doc_bio_tags": ["B", "I", "I", "I", "O", "B", "I", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["dynamic bayesian network", "bayesian networks", "bidirectional inferences", "coverage model", "design under test", "markov chain", "most probable explanation", "conditional probability", "functional verification", "coverage directed test generation", "coverage analysis", "maximal a posteriori"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "85", "document": ["Estimating", "The", "Global", "Pagerank", "Of", "Web", "Communities", "Localized", "search", "engines", "are", "small-scale", "systems", "that", "index", "a", "particular", "community", "on", "the", "web", ".", "They", "offer", "several", "benefits", "over", "their", "large-scale", "counterparts", "in", "that", "they", "are", "relatively", "inexpensive", "to", "build", ",", "and", "can", "provide", "more", "precise", "and", "complete", "search", "capability", "over", "their", "relevant", "domains", ".", "One", "disadvantage", "such", "systems", "have", "over", "large-scale", "search", "engines", "is", "the", "lack", "of", "global", "PageRank", "values", ".", "Such", "information", "is", "needed", "to", "assess", "the", "value", "of", "pages", "in", "the", "localized", "search", "domain", "within", "the", "context", "of", "the", "web", "as", "a", "whole", ".", "In", "this", "paper", ",", "we", "present", "well-motivated", "algorithms", "to", "estimate", "the", "global", "PageRank", "values", "of", "a", "local", "domain", ".", "The", "algorithms", "are", "all", "highly", "scalable", "in", "that", ",", "given", "a", "local", "domain", "of", "size", "n", ",", "they", "use", "O", "-LRB-", "n", "-RRB-", "resources", "that", "include", "computation", "time", ",", "bandwidth", ",", "and", "storage", ".", "We", "test", "our", "methods", "across", "a", "variety", "of", "localized", "domains", ",", "including", "site-specific", "domains", "and", "topic-specific", "domains", ".", "We", "demonstrate", "that", "by", "crawling", "as", "few", "as", "n", "or", "2n", "additional", "pages", ",", "our", "methods", "can", "give", "excellent", "global", "PageRank", "estimates", ".", "H.", "3.3", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Information", "Search", "and", "Retrieval", ";", "G.", "1.3", "-LSB-", "Numerical", "Analysis", "-RSB-", ":", "Numerical", "Linear", "Algebra", ";", "G.", "3", "-LSB-", "Probability", "and", "Statistics", "-RSB-", ":", "Markov", "Processes", "PageRank", ",", "Markov", "Chain", ",", "Stochastic", "Complementation", "Localized", "search", "engines", "are", "small-scale", "search", "engines", "that", "index", "only", "a", "single", "community", "of", "the", "web", ".", "Such", "communities", "can", "be", "site-specific", "domains", ",", "such", "as", "pages", "within", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "pro", "t", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "rst", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "speci", "c", "permission", "and/or", "a", "fee", ".", "KDD", "'", "06", ",", "August", "20", "23", ",", "2006", ",", "Philadelphia", ",", "Pennsylvania", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-339-5", "/", "06/0008", "...", "$", "5.00", ".", "the", "cs.utexas.edu", "domain", ",", "or", "topic-related", "communities-for", "example", ",", "political", "websites", ".", "Compared", "to", "the", "web", "graph", "crawled", "and", "indexed", "by", "large-scale", "search", "engines", ",", "the", "size", "of", "such", "local", "communities", "is", "typically", "orders", "of", "magnitude", "smaller", ".", "Consequently", ",", "the", "computational", "resources", "needed", "to", "build", "such", "a", "search", "engine", "are", "also", "similarly", "lighter", ".", "By", "restricting", "themselves", "to", "smaller", ",", "more", "manageable", "sections", "of", "the", "web", ",", "localized", "search", "engines", "can", "also", "provide", "more", "precise", "and", "complete", "search", "capabilities", "over", "their", "respective", "domains", ".", "One", "drawback", "of", "localized", "indexes", "is", "the", "lack", "of", "global", "information", "needed", "to", "compute", "link-based", "rankings", ".", "The", "PageRank", "algorithm", "-LSB-", "3", "-RSB-", ",", "has", "proven", "to", "be", "an", "effective", "such", "measure", ".", "In", "general", ",", "the", "PageRank", "of", "a", "given", "page", "is", "dependent", "on", "pages", "throughout", "the", "entire", "web", "graph", ".", "In", "the", "context", "of", "a", "localized", "search", "engine", ",", "if", "the", "PageRanks", "are", "computed", "using", "only", "the", "local", "subgraph", ",", "then", "we", "would", "expect", "the", "resulting", "PageRanks", "to", "reflect", "the", "perceived", "popularity", "within", "the", "local", "community", "and", "not", "of", "the", "web", "as", "a", "whole", ".", "For", "example", ",", "consider", "a", "localized", "search", "engine", "that", "indexes", "political", "pages", "with", "conservative", "views", ".", "A", "person", "wishing", "to", "research", "the", "opinions", "on", "global", "warming", "within", "the", "conservative", "political", "community", "may", "encounter", "numerous", "such", "opinions", "across", "various", "websites", ".", "If", "only", "local", "PageRank", "values", "are", "available", ",", "then", "the", "search", "results", "will", "reflect", "only", "strongly", "held", "beliefs", "within", "the", "community", ".", "However", ",", "if", "global", "PageRanks", "are", "also", "available", ",", "then", "the", "results", "can", "ad-ditionally", "reflect", "outsiders", "'", "views", "of", "the", "conservative", "community", "-LRB-", "those", "documents", "that", "liberals", "most", "often", "access", "within", "the", "conservative", "community", "-RRB-", ".", "Thus", ",", "for", "many", "localized", "search", "engines", ",", "incorporating", "global", "PageRanks", "can", "improve", "the", "quality", "of", "search", "results", ".", "However", ",", "the", "number", "of", "pages", "a", "local", "search", "engine", "indexes", "is", "typically", "orders", "of", "magnitude", "smaller", "than", "the", "number", "of", "pages", "indexed", "by", "their", "large-scale", "counterparts", ".", "Localized", "search", "engines", "do", "not", "have", "the", "bandwidth", ",", "storage", "capacity", ",", "or", "computational", "power", "to", "crawl", ",", "download", ",", "and", "compute", "the", "global", "PageRanks", "of", "the", "entire", "web", ".", "In", "this", "work", ",", "we", "present", "a", "method", "of", "approximating", "the", "global", "PageRanks", "of", "a", "local", "domain", "while", "only", "using", "resources", "of", "the", "same", "order", "as", "those", "needed", "to", "compute", "the", "PageRanks", "of", "the", "local", "subgraph", ".", "Our", "proposed", "method", "looks", "for", "a", "supergraph", "of", "our", "local", "subgraph", "such", "that", "the", "local", "PageRanks", "within", "this", "supergraph", "are", "close", "to", "the", "true", "global", "PageRanks", ".", "We", "construct", "this", "supergraph", "by", "iteratively", "crawling", "global", "pages", "on", "the", "current", "web", "frontier", "--", "i.e.", ",", "global", "pages", "with", "inlinks", "from", "pages", "that", "have", "already", "been", "crawled", ".", "In", "order", "to", "provide", "116", "Research", "Track", "Paper", "a", "good", "approximation", "to", "the", "global", "PageRanks", ",", "care", "must", "be", "taken", "when", "choosing", "which", "pages", "to", "crawl", "next", ";", "in", "this", "paper", ",", "we", "present", "a", "well-motivated", "page", "selection", "algorithm", "that", "also", "performs", "well", "empirically", ".", "This", "algorithm", "is", "derived", "from", "a", "well-defined", "problem", "objective", "and", "has", "a", "running", "time", "linear", "in", "the", "number", "of", "local", "nodes", ".", "We", "experiment", "across", "several", "types", "of", "local", "subgraphs", ",", "including", "four", "topic", "related", "communities", "and", "several", "site-specific", "domains", ".", "To", "evaluate", "performance", ",", "we", "measure", "the", "difference", "between", "the", "current", "global", "PageRank", "estimate", "and", "the", "global", "PageRank", ",", "as", "a", "function", "of", "the", "number", "of", "pages", "crawled", ".", "We", "compare", "our", "algorithm", "against", "several", "heuristics", "and", "also", "against", "a", "baseline", "algorithm", "that", "chooses", "pages", "at", "random", ",", "and", "we", "show", "that", "our", "method", "outperforms", "these", "other", "methods", ".", "Finally", ",", "we", "empirically", "demonstrate", "that", ",", "given", "a", "local", "domain", "of", "size", "n", ",", "we", "can", "provide", "good", "approximations", "to", "the", "global", "PageRank", "values", "by", "crawling", "at", "most", "n", "or", "2n", "additional", "pages", ".", "The", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "gives", "an", "overview", "of", "localized", "search", "engines", "and", "outlines", "their", "advantages", "over", "global", "search", ".", "Section", "3", "provides", "background", "on", "the", "PageRank", "algorithm", ".", "Section", "4", "formally", "defines", "our", "problem", ",", "and", "section", "5", "presents", "our", "page", "selection", "criteria", "and", "derives", "our", "algorithms", ".", "Section", "6", "provides", "experimental", "results", ",", "section", "7", "gives", "an", "overview", "of", "related", "work", ",", "and", ",", "finally", ",", "conclusions", "are", "given", "in", "section", "8", ".", "Localized", "search", "engines", "index", "a", "single", "community", "of", "the", "web", ",", "typically", "either", "a", "site-specific", "community", ",", "or", "a", "topic-specific", "community", ".", "Localized", "search", "engines", "enjoy", "three", "major", "advantages", "over", "their", "large-scale", "counterparts", ":", "they", "are", "relatively", "inexpensive", "to", "build", ",", "they", "can", "offer", "more", "precise", "search", "capability", "over", "their", "local", "domain", ",", "and", "they", "can", "provide", "a", "more", "complete", "index", ".", "The", "resources", "needed", "to", "build", "a", "global", "search", "engine", "are", "enormous", ".", "A", "2003", "study", "by", "Lyman", "et", "al.", "-LSB-", "13", "-RSB-", "found", "that", "the", "`", "surface", "web", "'", "-LRB-", "publicly", "available", "static", "sites", "-RRB-", "consists", "of", "8.9", "billion", "pages", ",", "and", "that", "the", "average", "size", "of", "these", "pages", "is", "approximately", "18.7", "kilobytes", ".", "To", "download", "a", "crawl", "of", "this", "size", ",", "approximately", "167", "terabytes", "of", "space", "is", "needed", ".", "For", "a", "researcher", "who", "wishes", "to", "build", "a", "search", "engine", "with", "access", "to", "a", "couple", "of", "workstations", "or", "a", "small", "server", ",", "storage", "of", "this", "magnitude", "is", "simply", "not", "available", ".", "However", ",", "building", "a", "localized", "search", "engine", "over", "a", "web", "community", "of", "a", "hundred", "thousand", "pages", "would", "only", "require", "a", "few", "gigabytes", "of", "storage", ".", "The", "computational", "burden", "required", "to", "support", "search", "queries", "over", "a", "database", "this", "size", "is", "more", "manageable", "as", "well", ".", "We", "note", "that", ",", "for", "topic-specific", "search", "engines", ",", "the", "relevant", "community", "can", "be", "efficiently", "identified", "and", "downloaded", "by", "using", "a", "focused", "crawler", "-LSB-", "21", ",", "4", "-RSB-", ".", "For", "site-specific", "domains", ",", "the", "local", "domain", "is", "readily", "available", "on", "their", "own", "web", "server", ".", "This", "obviates", "the", "need", "for", "crawling", "or", "spidering", ",", "and", "a", "complete", "and", "up-to-date", "index", "of", "the", "domain", "can", "thus", "be", "guaranteed", ".", "This", "is", "in", "contrast", "to", "their", "large-scale", "counterparts", ",", "which", "suffer", "from", "several", "shortcomings", ".", "First", ",", "crawling", "dynamically", "generated", "pages", "--", "pages", "in", "the", "`", "hidden", "web", "'", "--", "has", "been", "the", "subject", "of", "research", "-LSB-", "20", "-RSB-", "and", "is", "a", "non-trivial", "task", "for", "an", "external", "crawler", ".", "Second", ",", "site-specific", "domains", "can", "enable", "the", "robots", "exclusion", "policy", ".", "This", "prohibits", "external", "search", "engines", "'", "crawlers", "from", "downloading", "content", "from", "the", "domain", ",", "and", "an", "external", "search", "engine", "must", "instead", "rely", "on", "outside", "links", "and", "anchor", "text", "to", "index", "these", "restricted", "pages", ".", "By", "restricting", "itself", "to", "only", "a", "specific", "domain", "of", "the", "internet", ",", "a", "localized", "search", "engine", "can", "provide", "more", "precise", "search", "results", ".", "Consider", "the", "canonical", "ambiguous", "search", "query", ",", "`", "jaguar", "'", ",", "which", "can", "refer", "to", "either", "the", "car", "manufacturer", "or", "the", "animal", ".", "A", "scientist", "trying", "to", "research", "the", "habitat", "and", "evolutionary", "history", "of", "a", "jaguar", "may", "have", "better", "success", "using", "a", "finely", "tuned", "zoology-specific", "search", "engine", "than", "querying", "Google", "with", "multiple", "keyword", "searches", "and", "wading", "through", "irrelevant", "results", ".", "A", "method", "to", "learn", "better", "ranking", "functions", "for", "retrieval", "was", "recently", "proposed", "by", "Radlinski", "and", "Joachims", "-LSB-", "19", "-RSB-", "and", "has", "been", "applied", "to", "various", "local", "domains", ",", "including", "Cornell", "University", "'s", "website", "-LSB-", "8", "-RSB-", ".", "The", "PageRank", "algorithm", "defines", "the", "importance", "of", "web", "pages", "by", "analyzing", "the", "underlying", "hyperlink", "structure", "of", "a", "web", "graph", ".", "The", "algorithm", "works", "by", "building", "a", "Markov", "chain", "from", "the", "link", "structure", "of", "the", "web", "graph", "and", "computing", "its", "stationary", "distribution", ".", "One", "way", "to", "compute", "the", "stationary", "distribution", "of", "a", "Markov", "chain", "is", "to", "find", "the", "limiting", "distribution", "of", "a", "random", "walk", "over", "the", "chain", ".", "Thus", ",", "the", "PageRank", "algorithm", "uses", "what", "is", "sometimes", "referred", "to", "as", "the", "`", "random", "surfer", "'", "model", ".", "In", "each", "step", "of", "the", "random", "walk", ",", "the", "`", "surfer", "'", "either", "follows", "an", "outlink", "from", "the", "current", "page", "-LRB-", "i.e.", "the", "current", "node", "in", "the", "chain", "-RRB-", ",", "or", "jumps", "to", "a", "random", "page", "on", "the", "web", ".", "We", "now", "precisely", "define", "the", "PageRank", "problem", ".", "Let", "U", "be", "an", "m", "m", "adjacency", "matrix", "for", "a", "given", "web", "graph", "such", "that", "U", "ji", "=", "1", "if", "page", "i", "links", "to", "page", "j", "and", "U", "ji", "=", "0", "otherwise", ".", "We", "define", "the", "PageRank", "matrix", "P", "U", "to", "be", ":", "P", "U", "=", "U", "D", "-1", "U", "+", "-LRB-", "1", "-", "-RRB-", "ve", "T", ",", "-LRB-", "1", "-RRB-", "where", "D", "U", "is", "the", "-LRB-", "unique", "-RRB-", "diagonal", "matrix", "such", "that", "U", "D", "-1", "U", "is", "column", "stochastic", ",", "is", "a", "given", "scalar", "such", "that", "0", "1", ",", "e", "is", "the", "vector", "of", "all", "ones", ",", "and", "v", "is", "a", "non-negative", ",", "L", "1", "normalized", "vector", ",", "sometimes", "called", "the", "`", "random", "surfer", "'", "vector", ".", "Note", "that", "the", "matrix", "D", "-1", "U", "is", "well-defined", "only", "if", "each", "column", "of", "U", "has", "at", "least", "one", "non-zero", "entry", "--", "i.e.", ",", "each", "page", "in", "the", "webgraph", "has", "at", "least", "one", "outlink", ".", "In", "the", "presence", "of", "such", "`", "dangling", "nodes", "'", "that", "have", "no", "outlinks", ",", "one", "commonly", "used", "solution", ",", "proposed", "by", "Brin", "et", "al.", "-LSB-", "3", "-RSB-", ",", "is", "to", "replace", "each", "zero", "column", "of", "U", "by", "a", "non-negative", ",", "L", "1", "-", "normalized", "vector", ".", "The", "PageRank", "vector", "r", "is", "the", "dominant", "eigenvector", "of", "the", "PageRank", "matrix", ",", "r", "=", "P", "U", "r", ".", "We", "will", "assume", ",", "without", "loss", "of", "generality", ",", "that", "r", "has", "an", "L", "1", "-", "norm", "of", "one", ".", "Computationally", ",", "r", "can", "be", "computed", "using", "the", "power", "method", ".", "This", "method", "first", "chooses", "a", "random", "starting", "vector", "r", "-LRB-", "0", "-RRB-", ",", "and", "iteratively", "multiplies", "the", "current", "vector", "by", "the", "PageRank", "matrix", "P", "U", ";", "see", "Algorithm", "1", ".", "In", "general", ",", "each", "iteration", "of", "the", "power", "method", "can", "take", "O", "-LRB-", "m", "2", "-RRB-", "operations", "when", "P", "U", "is", "a", "dense", "matrix", ".", "However", ",", "in", "practice", ",", "the", "number", "of", "links", "in", "a", "web", "graph", "will", "be", "of", "the", "order", "of", "the", "number", "of", "pages", ".", "By", "exploiting", "the", "sparsity", "of", "the", "PageRank", "matrix", ",", "the", "work", "per", "iteration", "can", "be", "reduced", "to", "O", "-LRB-", "km", "-RRB-", ",", "where", "k", "is", "the", "average", "number", "of", "links", "per", "web", "page", ".", "It", "has", "also", "been", "shown", "that", "the", "total", "number", "of", "iterations", "needed", "for", "convergence", "is", "proportional", "to", "and", "does", "not", "depend", "on", "the", "size", "of", "the", "web", "graph", "-LSB-", "11", ",", "7", "-RSB-", ".", "Finally", ",", "the", "total", "space", "needed", "is", "also", "O", "-LRB-", "km", "-RRB-", ",", "mainly", "to", "store", "the", "matrix", "U", ".", "117", "Research", "Track", "Paper", "Algorithm", "1", ":", "A", "linear", "time", "-LRB-", "per", "iteration", "-RRB-", "algorithm", "for", "computing", "PageRank", ".", "ComputePR", "-LRB-", "U", "-RRB-", "Input", ":", "U", ":", "Adjacency", "matrix", ".", "Output", ":", "r", ":", "PageRank", "vector", ".", "Choose", "-LRB-", "randomly", "-RRB-", "an", "initial", "non-negative", "vector", "r", "-LRB-", "0", "-RRB-", "such", "that", "r", "-LRB-", "0", "-RRB-", "1", "=", "1", ".", "i", "0", "repeat", "i", "i", "+", "1", "U", "D", "-1", "U", "r", "-LRB-", "i-1", "-RRB-", "-LCB-", "is", "the", "random", "surfing", "probability", "-RCB-", "r", "-LRB-", "i", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "v", "-LCB-", "v", "is", "the", "random", "surfer", "vector", ".", "-RCB-", "until", "r", "-LRB-", "i", "-RRB-", "-", "r", "-LRB-", "i-1", "-RRB-", "<", "-LCB-", "is", "the", "convergence", "threshold", ".", "-RCB-", "r", "r", "-LRB-", "i", "-RRB-", "Given", "a", "local", "domain", "L", ",", "let", "G", "be", "an", "N", "N", "adjacency", "matrix", "for", "the", "entire", "connected", "component", "of", "the", "web", "that", "contains", "L", ",", "such", "that", "G", "ji", "=", "1", "if", "page", "i", "links", "to", "page", "j", "and", "G", "ji", "=", "0", "otherwise", ".", "Without", "loss", "of", "generality", ",", "we", "will", "partition", "G", "as", ":", "G", "=", "L", "G", "out", "L", "out", "G", "within", ",", "-LRB-", "2", "-RRB-", "where", "L", "is", "the", "n", "n", "local", "subgraph", "corresponding", "to", "links", "inside", "the", "local", "domain", ",", "L", "out", "is", "the", "subgraph", "that", "corresponds", "to", "links", "from", "the", "local", "domain", "pointing", "out", "to", "the", "global", "domain", ",", "G", "out", "is", "the", "subgraph", "containing", "links", "from", "the", "global", "domain", "into", "the", "local", "domain", ",", "and", "G", "within", "contains", "links", "within", "the", "global", "domain", ".", "We", "assume", "that", "when", "building", "a", "localized", "search", "engine", ",", "only", "pages", "inside", "the", "local", "domain", "are", "crawled", ",", "and", "the", "links", "between", "these", "pages", "are", "represented", "by", "the", "subgraph", "L", ".", "The", "links", "in", "L", "out", "are", "also", "known", ",", "as", "these", "point", "from", "crawled", "pages", "in", "the", "local", "domain", "to", "uncrawled", "pages", "in", "the", "global", "domain", ".", "As", "defined", "in", "equation", "-LRB-", "1", "-RRB-", ",", "P", "G", "is", "the", "PageRank", "matrix", "formed", "from", "the", "global", "graph", "G", ",", "and", "we", "define", "the", "global", "PageRank", "vector", "of", "this", "graph", "to", "be", "g.", "Let", "the", "n-length", "vector", "p", "be", "the", "L", "1", "-", "normalized", "vector", "corresponding", "to", "the", "global", "PageRank", "of", "the", "pages", "in", "the", "local", "domain", "L", ":", "p", "=", "E", "L", "g", "E", "L", "g", "1", ",", "where", "E", "L", "=", "-LSB-", "I", "|", "0", "-RSB-", "is", "the", "restriction", "matrix", "that", "selects", "the", "components", "from", "g", "corresponding", "to", "nodes", "in", "L.", "Let", "p", "denote", "the", "PageRank", "vector", "constructed", "from", "the", "local", "domain", "subgraph", "L", ".", "In", "practice", ",", "the", "observed", "local", "PageRank", "p", "and", "the", "global", "PageRank", "p", "will", "be", "quite", "different", ".", "One", "would", "expect", "that", "as", "the", "size", "of", "local", "matrix", "L", "approaches", "the", "size", "of", "global", "matrix", "G", ",", "the", "global", "PageRank", "and", "the", "observed", "local", "PageRank", "will", "become", "more", "similar", ".", "Thus", ",", "one", "approach", "to", "estimating", "the", "global", "PageRank", "is", "to", "crawl", "the", "entire", "global", "domain", ",", "compute", "its", "PageRank", ",", "and", "extract", "the", "PageRanks", "of", "the", "local", "domain", ".", "Typically", ",", "however", ",", "n", "N", ",", "i.e.", ",", "the", "number", "of", "global", "pages", "is", "much", "larger", "than", "the", "number", "of", "local", "pages", ".", "Therefore", ",", "crawling", "all", "global", "pages", "will", "quickly", "exhaust", "all", "local", "resources", "-LRB-", "computational", ",", "storage", ",", "and", "bandwidth", "-RRB-", "available", "to", "create", "the", "local", "search", "engine", ".", "We", "instead", "seek", "a", "supergraph", "^", "F", "of", "our", "local", "subgraph", "L", "with", "size", "O", "-LRB-", "n", "-RRB-", ".", "Our", "goal", "Algorithm", "2", ":", "The", "FindGlobalPR", "algorithm", ".", "FindGlobalPR", "-LRB-", "L", ",", "L", "out", ",", "T", ",", "k", "-RRB-", "Input", ":", "L", ":", "zero-one", "adjacency", "matrix", "for", "the", "local", "domain", ",", "L", "out", ":", "zero-one", "outlink", "matrix", "from", "L", "to", "global", "subgraph", "as", "in", "-LRB-", "2", "-RRB-", ",", "T", ":", "number", "of", "iterations", ",", "k", ":", "number", "of", "pages", "to", "crawl", "per", "iteration", ".", "Output", ":", "^", "p", ":", "an", "improved", "estimate", "of", "the", "global", "PageRank", "of", "L.", "F", "L", "F", "out", "L", "out", "f", "ComputePR", "-LRB-", "F", "-RRB-", "for", "-LRB-", "i", "=", "1", "to", "T", "-RRB-", "-LCB-", "Determine", "which", "pages", "to", "crawl", "next", "-RCB-", "pages", "SelectNodes", "-LRB-", "F", ",", "F", "out", ",", "f", ",", "k", "-RRB-", "Crawl", "pages", ",", "augment", "F", "and", "modify", "F", "out", "-LCB-", "Update", "PageRanks", "for", "new", "local", "domain", "-RCB-", "f", "ComputePR", "-LRB-", "F", "-RRB-", "end", "-LCB-", "Extract", "PageRanks", "of", "original", "local", "domain", "&", "normalize", "-RCB-", "^", "p", "E", "L", "f", "E", "L", "f", "1", "is", "to", "find", "such", "a", "supergraph", "^", "F", "with", "PageRank", "^", "f", ",", "so", "that", "^", "f", "when", "restricted", "to", "L", "is", "close", "to", "p", ".", "Formally", ",", "we", "seek", "to", "minimize", "GlobalDif", "f", "-LRB-", "^", "f", "-RRB-", "=", "E", "L", "^", "f", "E", "L", "^", "f", "1", "-", "p", "1", ".", "-LRB-", "3", "-RRB-", "We", "choose", "the", "L", "1", "norm", "for", "measuring", "the", "error", "as", "it", "does", "not", "place", "excessive", "weight", "on", "outliers", "-LRB-", "as", "the", "L", "2", "norm", "does", ",", "for", "example", "-RRB-", ",", "and", "also", "because", "it", "is", "the", "most", "commonly", "used", "distance", "measure", "in", "the", "literature", "for", "comparing", "PageRank", "vectors", ",", "as", "well", "as", "for", "detecting", "convergence", "of", "the", "algorithm", "-LSB-", "3", "-RSB-", ".", "We", "propose", "a", "greedy", "framework", ",", "given", "in", "Algorithm", "2", ",", "for", "constructing", "^", "F", ".", "Initially", ",", "F", "is", "set", "to", "the", "local", "subgraph", "L", ",", "and", "the", "PageRank", "f", "of", "this", "graph", "is", "computed", ".", "The", "algorithm", "then", "proceeds", "as", "follows", ".", "First", ",", "the", "SelectNodes", "algorithm", "-LRB-", "which", "we", "discuss", "in", "the", "next", "section", "-RRB-", "is", "called", "and", "it", "returns", "a", "set", "of", "k", "nodes", "to", "crawl", "next", "from", "the", "set", "of", "nodes", "in", "the", "current", "crawl", "frontier", ",", "F", "out", ".", "These", "selected", "nodes", "are", "then", "crawled", "to", "expand", "the", "local", "subgraph", ",", "F", ",", "and", "the", "PageRanks", "of", "this", "expanded", "graph", "are", "then", "recomputed", ".", "These", "steps", "are", "repeated", "for", "each", "of", "T", "iterations", ".", "Finally", ",", "the", "PageRank", "vector", "^", "p", ",", "which", "is", "restricted", "to", "pages", "within", "the", "original", "local", "domain", ",", "is", "returned", ".", "Given", "our", "computation", ",", "bandwidth", ",", "and", "memory", "restrictions", ",", "we", "will", "assume", "that", "the", "algorithm", "will", "crawl", "at", "most", "O", "-LRB-", "n", "-RRB-", "pages", ".", "Since", "the", "PageRanks", "are", "computed", "in", "each", "iteration", "of", "the", "algorithm", ",", "which", "is", "an", "O", "-LRB-", "n", "-RRB-", "operation", ",", "we", "will", "also", "assume", "that", "the", "number", "of", "iterations", "T", "is", "a", "constant", ".", "Of", "course", ",", "the", "main", "challenge", "here", "is", "in", "selecting", "which", "set", "of", "k", "nodes", "to", "crawl", "next", ".", "In", "the", "next", "section", ",", "we", "formally", "define", "the", "problem", "and", "give", "efficient", "algorithms", ".", "In", "this", "section", ",", "we", "present", "node", "selection", "algorithms", "that", "operate", "within", "the", "greedy", "framework", "presented", "in", "the", "previous", "section", ".", "We", "first", "give", "a", "well-defined", "criteria", "for", "the", "page", "selection", "problem", "and", "provide", "experimental", "evidence", "that", "this", "criteria", "can", "effectively", "identify", "pages", "that", "optimize", "our", "problem", "objective", "-LRB-", "3", "-RRB-", ".", "We", "then", "present", "our", "main", "al-118", "Research", "Track", "Paper", "gorithmic", "contribution", "of", "the", "paper", ",", "a", "method", "with", "linear", "running", "time", "that", "is", "derived", "from", "this", "page", "selection", "criteria", ".", "Finally", ",", "we", "give", "an", "intuitive", "analysis", "of", "our", "algorithm", "in", "terms", "of", "`", "leaks", "'", "and", "`", "flows", "'", ".", "We", "show", "that", "if", "only", "the", "`", "flow", "'", "is", "considered", ",", "then", "the", "resulting", "method", "is", "very", "similar", "to", "a", "widely", "used", "page", "selection", "heuristic", "-LSB-", "6", "-RSB-", ".", "5.1", "Formulation", "For", "a", "given", "page", "j", "in", "the", "global", "domain", ",", "we", "define", "the", "expanded", "local", "graph", "F", "j", ":", "F", "j", "=", "F", "s", "u", "T", "j", "0", ",", "-LRB-", "4", "-RRB-", "where", "u", "j", "is", "the", "zero-one", "vector", "containing", "the", "outlinks", "from", "F", "into", "page", "j", ",", "and", "s", "contains", "the", "inlinks", "from", "page", "j", "into", "the", "local", "domain", ".", "Note", "that", "we", "do", "not", "allow", "self-links", "in", "this", "framework", ".", "In", "practice", ",", "self-links", "are", "often", "removed", ",", "as", "they", "only", "serve", "to", "inflate", "a", "given", "page", "'s", "PageRank", ".", "Observe", "that", "the", "inlinks", "into", "F", "from", "node", "j", "are", "not", "known", "until", "after", "node", "j", "is", "crawled", ".", "Therefore", ",", "we", "estimate", "this", "inlink", "vector", "as", "the", "expectation", "over", "inlink", "counts", "among", "the", "set", "of", "already", "crawled", "pages", ",", "s", "=", "F", "T", "e", "F", "T", "e", "1", ".", "-LRB-", "5", "-RRB-", "In", "practice", ",", "for", "any", "given", "page", ",", "this", "estimate", "may", "not", "reflect", "the", "true", "inlinks", "from", "that", "page", ".", "Furthermore", ",", "this", "expectation", "is", "sampled", "from", "the", "set", "of", "links", "within", "the", "crawled", "domain", ",", "whereas", "a", "better", "estimate", "would", "also", "use", "links", "from", "the", "global", "domain", ".", "However", ",", "the", "latter", "distribution", "is", "not", "known", "to", "a", "localized", "search", "engine", ",", "and", "we", "contend", "that", "the", "above", "estimate", "will", ",", "on", "average", ",", "be", "a", "better", "estimate", "than", "the", "uniform", "distribution", ",", "for", "example", ".", "Let", "the", "PageRank", "of", "F", "be", "f", ".", "We", "express", "the", "PageRank", "f", "+", "j", "of", "the", "expanded", "local", "graph", "F", "j", "as", "f", "+", "j", "=", "-LRB-", "1", "-", "x", "j", "-RRB-", "f", "j", "x", "j", ",", "-LRB-", "6", "-RRB-", "where", "x", "j", "is", "the", "PageRank", "of", "the", "candidate", "global", "node", "j", ",", "and", "f", "j", "is", "the", "L", "1", "-", "normalized", "PageRank", "vector", "restricted", "to", "the", "pages", "in", "F", ".", "Since", "directly", "optimizing", "our", "problem", "goal", "requires", "knowing", "the", "global", "PageRank", "p", ",", "we", "instead", "propose", "to", "crawl", "those", "nodes", "that", "will", "have", "the", "greatest", "influence", "on", "the", "PageRanks", "of", "pages", "in", "the", "original", "local", "domain", "L", ":", "influence", "-LRB-", "j", "-RRB-", "=", "kL", "|", "f", "j", "-LSB-", "k", "-RSB-", "-", "f", "-LSB-", "k", "-RSB-", "|", "-LRB-", "7", "-RRB-", "=", "E", "L", "-LRB-", "f", "j", "-", "f", "-RRB-", "1", ".", "Experimentally", ",", "the", "influence", "score", "is", "a", "very", "good", "predictor", "of", "our", "problem", "objective", "-LRB-", "3", "-RRB-", ".", "For", "each", "candidate", "global", "node", "j", ",", "figure", "1", "-LRB-", "a", "-RRB-", "shows", "the", "objective", "function", "value", "Global", "Diff", "-LRB-", "f", "j", "-RRB-", "as", "a", "function", "of", "the", "influence", "of", "page", "j", ".", "The", "local", "domain", "used", "here", "is", "a", "crawl", "of", "conservative", "political", "pages", "-LRB-", "we", "will", "provide", "more", "details", "about", "this", "dataset", "in", "section", "6", "-RRB-", ";", "we", "observed", "similar", "results", "in", "other", "domains", ".", "The", "correlation", "is", "quite", "strong", ",", "implying", "that", "the", "influence", "criteria", "can", "effectively", "identify", "pages", "that", "improve", "the", "global", "PageRank", "estimate", ".", "As", "a", "baseline", ",", "figure", "1", "-LRB-", "b", "-RRB-", "compares", "our", "objective", "with", "an", "alternative", "criteria", ",", "outlink", "count", ".", "The", "outlink", "count", "is", "defined", "as", "the", "number", "of", "outlinks", "from", "the", "local", "domain", "to", "page", "j", ".", "The", "correlation", "here", "is", "much", "weaker", ".", ".00001", ".0001", ".001", ".01", "0.26", "0.262", "0.264", "0.266", "Influence", "Objective", "1", "10", "100", "1000", "0.266", "0.264", "0.262", "0.26", "Outlink", "Count", "Objective", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "Figure", "1", ":", "-LRB-", "a", "-RRB-", "The", "correlation", "between", "our", "influence", "page", "selection", "criteria", "-LRB-", "7", "-RRB-", "and", "the", "actual", "objective", "function", "-LRB-", "3", "-RRB-", "value", "is", "quite", "strong", ".", "-LRB-", "b", "-RRB-", "This", "is", "in", "contrast", "to", "other", "criteria", ",", "such", "as", "outlink", "count", ",", "which", "exhibit", "a", "much", "weaker", "correlation", ".", "5.2", "Computation", "As", "described", ",", "for", "each", "candidate", "global", "page", "j", ",", "the", "influence", "score", "-LRB-", "7", "-RRB-", "must", "be", "computed", ".", "If", "f", "j", "is", "computed", "exactly", "for", "each", "global", "page", "j", ",", "then", "the", "PageRank", "algorithm", "would", "need", "to", "be", "run", "for", "each", "of", "the", "O", "-LRB-", "n", "-RRB-", "such", "global", "pages", "j", "we", "consider", ",", "resulting", "in", "an", "O", "-LRB-", "n", "2", "-RRB-", "computational", "cost", "for", "the", "node", "selection", "method", ".", "Thus", ",", "computing", "the", "exact", "value", "of", "f", "j", "will", "lead", "to", "a", "quadratic", "algorithm", ",", "and", "we", "must", "instead", "turn", "to", "methods", "of", "approximating", "this", "vector", ".", "The", "algorithm", "we", "present", "works", "by", "performing", "one", "power", "method", "iteration", "used", "by", "the", "PageRank", "algorithm", "-LRB-", "Algorithm", "1", "-RRB-", ".", "The", "convergence", "rate", "for", "the", "PageRank", "algorithm", "has", "been", "shown", "to", "equal", "the", "random", "surfer", "probability", "-LSB-", "7", ",", "11", "-RSB-", ".", "Given", "a", "starting", "vector", "x", "-LRB-", "0", "-RRB-", ",", "if", "k", "PageRank", "iterations", "are", "performed", ",", "the", "current", "PageRank", "solution", "x", "-LRB-", "k", "-RRB-", "satisfies", ":", "x", "-LRB-", "k", "-RRB-", "-", "x", "1", "=", "O", "-LRB-", "k", "x", "-LRB-", "0", "-RRB-", "-", "x", "1", "-RRB-", ",", "-LRB-", "8", "-RRB-", "where", "x", "is", "the", "desired", "PageRank", "vector", ".", "Therefore", ",", "if", "only", "one", "iteration", "is", "performed", ",", "choosing", "a", "good", "starting", "vector", "is", "necessary", "to", "achieve", "an", "accurate", "approximation", ".", "We", "partition", "the", "PageRank", "matrix", "P", "F", "j", ",", "corresponding", "to", "the", "subgraph", "F", "j", "as", ":", "P", "F", "j", "=", "~", "F", "~", "s", "~", "u", "T", "j", "w", ",", "-LRB-", "9", "-RRB-", "where", "~", "F", "=", "F", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "+", "-LRB-", "1", "-", "-RRB-", "e", "+", "1", "e", "T", ",", "~", "s", "=", "s", "+", "-LRB-", "1", "-", "-RRB-", "e", "+", "1", ",", "~", "u", "j", "=", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "u", "j", "+", "-LRB-", "1", "-", "-RRB-", "e", "+", "1", ",", "w", "=", "1", "-", "+", "1", ",", "and", "diag", "-LRB-", "u", "j", "-RRB-", "is", "the", "diagonal", "matrix", "with", "the", "-LRB-", "i", ",", "i", "-RRB-", "th", "entry", "equal", "to", "one", "if", "the", "i", "th", "element", "of", "u", "j", "equals", "one", ",", "and", "is", "zero", "otherwise", ".", "We", "have", "assumed", "here", "that", "the", "random", "surfer", "vector", "is", "the", "uniform", "vector", ",", "and", "that", "L", "has", "no", "`", "dangling", "links", "'", ".", "These", "assumptions", "are", "not", "necessary", "and", "serve", "only", "to", "simplify", "discussion", "and", "analysis", ".", "A", "simple", "approach", "for", "estimating", "f", "j", "is", "the", "following", ".", "First", ",", "estimate", "the", "PageRank", "f", "+", "j", "of", "F", "j", "by", "computing", "one", "PageRank", "iteration", "over", "the", "matrix", "P", "F", "j", ",", "using", "the", "starting", "vector", "=", "f", "0", ".", "Then", ",", "estimate", "f", "j", "by", "removing", "the", "last", "119", "Research", "Track", "Paper", "component", "from", "our", "estimate", "of", "f", "+", "j", "-LRB-", "i.e.", ",", "the", "component", "corresponding", "to", "the", "added", "node", "j", "-RRB-", ",", "and", "renormalizing", ".", "The", "problem", "with", "this", "approach", "is", "in", "the", "starting", "vector", ".", "Recall", "from", "-LRB-", "6", "-RRB-", "that", "x", "j", "is", "the", "PageRank", "of", "the", "added", "node", "j", ".", "The", "difference", "between", "the", "actual", "PageRank", "f", "+", "j", "of", "P", "F", "j", "and", "the", "starting", "vector", "is", "-", "f", "+", "j", "1", "=", "x", "j", "+", "f", "-", "-LRB-", "1", "-", "x", "j", "-RRB-", "f", "j", "1", "x", "j", "+", "|", "f", "1", "-", "-LRB-", "1", "-", "x", "j", "-RRB-", "f", "j", "1", "|", "=", "x", "j", "+", "|", "x", "j", "|", "=", "2x", "j", ".", "Thus", ",", "by", "-LRB-", "8", "-RRB-", ",", "after", "one", "PageRank", "iteration", ",", "we", "expect", "our", "estimate", "of", "f", "+", "j", "to", "still", "have", "an", "error", "of", "about", "2x", "j", ".", "In", "particular", ",", "for", "candidate", "nodes", "j", "with", "relatively", "high", "PageRank", "x", "j", ",", "this", "method", "will", "yield", "more", "inaccurate", "results", ".", "We", "will", "next", "present", "a", "method", "that", "eliminates", "this", "bias", "and", "runs", "in", "O", "-LRB-", "n", "-RRB-", "time", ".", "5.2.1", "Stochastic", "Complementation", "Since", "f", "+", "j", ",", "as", "given", "in", "-LRB-", "6", "-RRB-", "is", "the", "PageRank", "of", "the", "matrix", "P", "F", "j", ",", "we", "have", ":", "f", "j", "-LRB-", "1", "-", "x", "j", "-RRB-", "x", "j", "=", "~", "F", "~", "s", "~", "u", "T", "j", "w", "f", "j", "-LRB-", "1", "-", "x", "j", "-RRB-", "x", "j", "=", "~", "F", "f", "j", "-LRB-", "1", "-", "x", "j", "-RRB-", "+", "~", "sx", "j", "~", "u", "T", "j", "f", "j", "-LRB-", "1", "-", "x", "j", "-RRB-", "+", "wx", "j", ".", "Solving", "the", "above", "system", "for", "f", "j", "can", "be", "shown", "to", "yield", "f", "j", "=", "-LRB-", "~", "F", "+", "-LRB-", "1", "-", "w", "-RRB-", "-1", "~", "s", "~", "u", "T", "j", "-RRB-", "f", "j", ".", "-LRB-", "10", "-RRB-", "The", "matrix", "S", "=", "~", "F", "+", "-LRB-", "1-w", "-RRB-", "-1", "~", "s", "~", "u", "T", "j", "is", "known", "as", "the", "stochastic", "complement", "of", "the", "column", "stochastic", "matrix", "P", "F", "j", "with", "respect", "to", "the", "sub", "matrix", "~", "F", ".", "The", "theory", "of", "stochastic", "complementation", "is", "well", "studied", ",", "and", "it", "can", "be", "shown", "the", "stochastic", "complement", "of", "an", "irreducible", "matrix", "-LRB-", "such", "as", "the", "PageRank", "matrix", "-RRB-", "is", "unique", ".", "Furthermore", ",", "the", "stochastic", "complement", "is", "also", "irreducible", "and", "therefore", "has", "a", "unique", "stationary", "distribution", "as", "well", ".", "For", "an", "extensive", "study", ",", "see", "-LSB-", "15", "-RSB-", ".", "It", "can", "be", "easily", "shown", "that", "the", "sub-dominant", "eigenvalue", "of", "S", "is", "at", "most", "+1", ",", "where", "is", "the", "size", "of", "F", ".", "For", "sufficiently", "large", ",", "this", "value", "will", "be", "very", "close", "to", ".", "This", "is", "important", ",", "as", "other", "properties", "of", "the", "PageRank", "algorithm", ",", "notably", "the", "algorithm", "'s", "sensitivity", ",", "are", "dependent", "on", "this", "value", "-LSB-", "11", "-RSB-", ".", "In", "this", "method", ",", "we", "estimate", "the", "length", "vector", "f", "j", "by", "computing", "one", "PageRank", "iteration", "over", "the", "stochastic", "complement", "S", ",", "starting", "at", "the", "vector", "f", ":", "f", "j", "Sf", ".", "-LRB-", "11", "-RRB-", "This", "is", "in", "contrast", "to", "the", "simple", "method", "outlined", "in", "the", "previous", "section", ",", "which", "first", "iterates", "over", "the", "-LRB-", "+", "1", "-RRB-", "-LRB-", "+", "1", "-RRB-", "matrix", "P", "F", "j", "to", "estimate", "f", "+", "j", ",", "and", "then", "removes", "the", "last", "component", "from", "the", "estimate", "and", "renormalizes", "to", "approximate", "f", "j", ".", "The", "problem", "with", "the", "latter", "method", "is", "in", "the", "choice", "of", "the", "-LRB-", "+", "1", "-RRB-", "length", "starting", "vector", ",", ".", "Consequently", ",", "the", "PageRank", "estimate", "given", "by", "the", "simple", "method", "differs", "from", "the", "true", "PageRank", "by", "at", "least", "2x", "j", ",", "where", "x", "j", "is", "the", "PageRank", "of", "page", "j.", "By", "using", "the", "stochastic", "complement", ",", "we", "can", "establish", "a", "tight", "lower", "bound", "of", "zero", "for", "this", "difference", ".", "To", "see", "this", ",", "consider", "the", "case", "in", "which", "a", "node", "k", "is", "added", "to", "F", "to", "form", "the", "augmented", "local", "subgraph", "F", "k", ",", "and", "that", "the", "PageRank", "of", "this", "new", "graph", "is", "-LRB-", "1", "-", "x", "k", "-RRB-", "f", "x", "k", ".", "Specifi-cally", ",", "the", "addition", "of", "page", "k", "does", "not", "change", "the", "PageRanks", "of", "the", "pages", "in", "F", ",", "and", "thus", "f", "k", "=", "f", ".", "By", "construction", "of", "the", "stochastic", "complement", ",", "f", "k", "=", "Sf", "k", ",", "so", "the", "approximation", "given", "in", "equation", "-LRB-", "11", "-RRB-", "will", "yield", "the", "exact", "solution", ".", "Next", ",", "we", "present", "the", "computational", "details", "needed", "to", "efficiently", "compute", "the", "quantity", "f", "j", "-", "f", "1", "over", "all", "known", "global", "pages", "j", ".", "We", "begin", "by", "expanding", "the", "difference", "f", "j", "-", "f", ",", "where", "the", "vector", "f", "j", "is", "estimated", "as", "in", "-LRB-", "11", "-RRB-", ",", "f", "j", "-", "f", "Sf", "-", "f", "=", "F", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "f", "+", "-LRB-", "1", "-", "-RRB-", "e", "+", "1", "e", "T", "f", "+", "-LRB-", "1", "-", "w", "-RRB-", "-1", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "~", "s", "-", "f.", "-LRB-", "12", "-RRB-", "Note", "that", "the", "matrix", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "is", "diagonal", ".", "Letting", "o", "-LSB-", "k", "-RSB-", "be", "the", "outlink", "count", "for", "page", "k", "in", "F", ",", "we", "can", "express", "the", "k", "th", "diagonal", "element", "as", ":", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "-LSB-", "k", ",", "k", "-RSB-", "=", "1", "o", "-LSB-", "k", "-RSB-", "+1", "if", "u", "j", "-LSB-", "k", "-RSB-", "=", "1", "1", "o", "-LSB-", "k", "-RSB-", "if", "u", "j", "-LSB-", "k", "-RSB-", "=", "0", "Noting", "that", "-LRB-", "o", "-LSB-", "k", "-RSB-", "+", "1", "-RRB-", "-1", "=", "o", "-LSB-", "k", "-RSB-", "-1", "-", "-LRB-", "o", "-LSB-", "k", "-RSB-", "-LRB-", "o", "-LSB-", "k", "-RSB-", "+", "1", "-RRB-", "-RRB-", "-1", "and", "rewriting", "this", "in", "matrix", "form", "yields", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "=", "D", "-1", "F", "-", "D", "-1", "F", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "diag", "-LRB-", "u", "j", "-RRB-", ".", "-LRB-", "13", "-RRB-", "We", "use", "the", "same", "identity", "to", "express", "e", "+", "1", "=", "e", "-", "e", "-LRB-", "+", "1", "-RRB-", ".", "-LRB-", "14", "-RRB-", "Recall", "that", ",", "by", "definition", ",", "we", "have", "P", "F", "=", "F", "D", "-1", "F", "+", "-LRB-", "1", "-", "-RRB-", "e", ".", "Substituting", "-LRB-", "13", "-RRB-", "and", "-LRB-", "14", "-RRB-", "in", "-LRB-", "12", "-RRB-", "yields", "f", "j", "-", "f", "-LRB-", "P", "F", "f", "-", "f", "-RRB-", "-", "F", "D", "-1", "F", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "diag", "-LRB-", "u", "j", "-RRB-", "f", "-", "-LRB-", "1", "-", "-RRB-", "e", "-LRB-", "+", "1", "-RRB-", "+", "-LRB-", "1", "-", "w", "-RRB-", "-1", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "~", "s", "=", "x", "+", "y", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", ",", "-LRB-", "15", "-RRB-", "noting", "that", "by", "definition", ",", "f", "=", "P", "F", "f", ",", "and", "defining", "the", "vectors", "x", ",", "y", ",", "and", "z", "to", "be", "x", "=", "-", "F", "D", "-1", "F", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "diag", "-LRB-", "u", "j", "-RRB-", "f", "-LRB-", "16", "-RRB-", "y", "=", "-", "-LRB-", "1", "-", "-RRB-", "e", "-LRB-", "+", "1", "-RRB-", "-LRB-", "17", "-RRB-", "z", "=", "-LRB-", "1", "-", "w", "-RRB-", "-1", "~", "s.", "-LRB-", "18", "-RRB-", "The", "first", "term", "x", "is", "a", "sparse", "vector", ",", "and", "takes", "non-zero", "values", "only", "for", "local", "pages", "k", "that", "are", "siblings", "of", "the", "global", "page", "j", ".", "We", "define", "-LRB-", "i", ",", "j", "-RRB-", "F", "if", "and", "only", "if", "F", "-LSB-", "j", ",", "i", "-RSB-", "=", "1", "-LRB-", "equiva-lently", ",", "page", "i", "links", "to", "page", "j", "-RRB-", "and", "express", "the", "value", "of", "the", "component", "x", "-LSB-", "k", "-RSB-", "as", ":", "x", "-LSB-", "k", "-RSB-", "=", "k", ":", "-LRB-", "k", ",", "k", "-RRB-", "F", ",", "u", "j", "-LSB-", "k", "-RSB-", "=", "1", "f", "-LSB-", "k", "-RSB-", "o", "-LSB-", "k", "-RSB-", "-LRB-", "o", "-LSB-", "k", "-RSB-", "+", "1", "-RRB-", ",", "-LRB-", "19", "-RRB-", "where", "o", "-LSB-", "k", "-RSB-", ",", "as", "before", ",", "is", "the", "number", "of", "outlinks", "from", "page", "k", "in", "the", "local", "domain", ".", "Note", "that", "the", "last", "two", "terms", ",", "y", "and", "z", "are", "not", "dependent", "on", "the", "current", "global", "node", "j.", "Given", "the", "function", "h", "j", "-LRB-", "f", "-RRB-", "=", "y", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "1", ",", "the", "quantity", "f", "j", "-", "f", "1", "120", "Research", "Track", "Paper", "can", "be", "expressed", "as", "f", "j", "-", "f", "1", "=", "k", "x", "-LSB-", "k", "-RSB-", "+", "y", "-LSB-", "k", "-RSB-", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "-LSB-", "k", "-RSB-", "=", "k", ":", "x", "-LSB-", "k", "-RSB-", "=", "0", "y", "-LSB-", "k", "-RSB-", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "-LSB-", "k", "-RSB-", "+", "k", ":", "x", "-LSB-", "k", "-RSB-", "=", "0", "x", "-LSB-", "k", "-RSB-", "+", "y", "-LSB-", "k", "-RSB-", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "-LSB-", "k", "-RSB-", "=", "h", "j", "-LRB-", "f", "-RRB-", "k", ":", "x", "-LSB-", "k", "-RSB-", "=", "0", "y", "-LSB-", "k", "-RSB-", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "-LSB-", "k", "-RSB-", "+", "k", ":", "x", "-LSB-", "k", "-RSB-", "=", "0", "x", "-LSB-", "k", "-RSB-", "+", "y", "-LSB-", "k", "-RSB-", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "-LSB-", "k", "-RSB-", ".", "-LRB-", "20", "-RRB-", "If", "we", "can", "compute", "the", "function", "h", "j", "in", "linear", "time", ",", "then", "we", "can", "compute", "each", "value", "of", "f", "j", "-", "f", "1", "using", "an", "additional", "amount", "of", "time", "that", "is", "proportional", "to", "the", "number", "of", "non-zero", "components", "in", "x", ".", "These", "optimizations", "are", "carried", "out", "in", "Algorithm", "3", ".", "Note", "that", "-LRB-", "20", "-RRB-", "computes", "the", "difference", "between", "all", "components", "of", "f", "and", "f", "j", ",", "whereas", "our", "node", "selection", "criteria", ",", "given", "in", "-LRB-", "7", "-RRB-", ",", "is", "restricted", "to", "the", "components", "corresponding", "to", "nodes", "in", "the", "original", "local", "domain", "L.", "Let", "us", "examine", "Algorithm", "3", "in", "more", "detail", ".", "First", ",", "the", "algorithm", "computes", "the", "outlink", "counts", "for", "each", "page", "in", "the", "local", "domain", ".", "The", "algorithm", "then", "computes", "the", "quantity", "~", "u", "T", "j", "f", "for", "each", "known", "global", "page", "j", ".", "This", "inner", "product", "can", "be", "written", "as", "-LRB-", "1", "-", "-RRB-", "1", "+", "1", "+", "k", ":", "-LRB-", "k", ",", "j", "-RRB-", "F", "out", "f", "-LSB-", "k", "-RSB-", "o", "-LSB-", "k", "-RSB-", "+", "1", ",", "where", "the", "second", "term", "sums", "over", "the", "set", "of", "local", "pages", "that", "link", "to", "page", "j", ".", "Since", "the", "total", "number", "of", "edges", "in", "F", "out", "was", "assumed", "to", "have", "size", "O", "-LRB-", "-RRB-", "-LRB-", "recall", "that", "is", "the", "number", "of", "pages", "in", "F", "-RRB-", ",", "the", "running", "time", "of", "this", "step", "is", "also", "O", "-LRB-", "-RRB-", ".", "The", "algorithm", "then", "computes", "the", "vectors", "y", "and", "z", ",", "as", "given", "in", "-LRB-", "17", "-RRB-", "and", "-LRB-", "18", "-RRB-", ",", "respectively", ".", "The", "L", "1", "NormDiff", "method", "is", "called", "on", "the", "components", "of", "these", "vectors", "which", "correspond", "to", "the", "pages", "in", "L", ",", "and", "it", "estimates", "the", "value", "of", "E", "L", "-LRB-", "y", "+", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "-RRB-", "1", "for", "each", "page", "j", ".", "The", "estimation", "works", "as", "follows", ".", "First", ",", "the", "values", "of", "~", "u", "T", "j", "f", "are", "discretized", "uniformly", "into", "c", "values", "-LCB-", "a", "1", ",", "...", ",", "a", "c", "-RCB-", ".", "The", "quantity", "E", "L", "-LRB-", "y", "+", "a", "i", "z", "-RRB-", "1", "is", "then", "computed", "for", "each", "discretized", "value", "of", "a", "i", "and", "stored", "in", "a", "table", ".", "To", "evaluate", "E", "L", "-LRB-", "y", "+", "az", "-RRB-", "1", "for", "some", "a", "-LSB-", "a", "1", ",", "a", "c", "-RSB-", ",", "the", "closest", "discretized", "value", "a", "i", "is", "determined", ",", "and", "the", "corresponding", "entry", "in", "the", "table", "is", "used", ".", "The", "total", "running", "time", "for", "this", "method", "is", "linear", "in", "and", "the", "discretization", "parameter", "c", "-LRB-", "which", "we", "take", "to", "be", "a", "constant", "-RRB-", ".", "We", "note", "that", "if", "exact", "values", "are", "desired", ",", "we", "have", "also", "developed", "an", "algorithm", "that", "runs", "in", "O", "-LRB-", "log", "-RRB-", "time", "that", "is", "not", "described", "here", ".", "In", "the", "main", "loop", ",", "we", "compute", "the", "vector", "x", ",", "as", "defined", "in", "equation", "-LRB-", "16", "-RRB-", ".", "The", "nested", "loops", "iterate", "over", "the", "set", "of", "pages", "in", "F", "that", "are", "siblings", "of", "page", "j.", "Typically", ",", "the", "size", "of", "this", "set", "is", "bounded", "by", "a", "constant", ".", "Finally", ",", "for", "each", "page", "j", ",", "the", "scores", "vector", "is", "updated", "over", "the", "set", "of", "non-zero", "components", "k", "of", "the", "vector", "x", "with", "k", "L", ".", "This", "set", "has", "size", "equal", "to", "the", "number", "of", "local", "siblings", "of", "page", "j", ",", "and", "is", "a", "subset", "of", "the", "total", "number", "of", "siblings", "of", "page", "j.", "Thus", ",", "each", "iteration", "of", "the", "main", "loop", "takes", "constant", "time", ",", "and", "the", "total", "running", "time", "of", "the", "main", "loop", "is", "O", "-LRB-", "-RRB-", ".", "Since", "we", "have", "assumed", "that", "the", "size", "of", "F", "will", "not", "grow", "larger", "than", "O", "-LRB-", "n", "-RRB-", ",", "the", "total", "running", "time", "for", "the", "algorithm", "is", "O", "-LRB-", "n", "-RRB-", ".", "Algorithm", "3", ":", "Node", "Selection", "via", "Stochastic", "Complementation", ".", "SC-Select", "-LRB-", "F", ",", "F", "out", ",", "f", ",", "k", "-RRB-", "Input", ":", "F", ":", "zero-one", "adjacency", "matrix", "of", "size", "corresponding", "to", "the", "current", "local", "subgraph", ",", "F", "out", ":", "zero-one", "outlink", "matrix", "from", "F", "to", "global", "subgraph", ",", "f", ":", "PageRank", "of", "F", ",", "k", ":", "number", "of", "pages", "to", "return", "Output", ":", "pages", ":", "set", "of", "k", "pages", "to", "crawl", "next", "-LCB-", "Compute", "outlink", "sums", "for", "local", "subgraph", "-RCB-", "foreach", "-LRB-", "page", "j", "F", "-RRB-", "o", "-LSB-", "j", "-RSB-", "k", ":", "-LRB-", "j", ",", "k", "-RRB-", "F", "F", "-LSB-", "j", ",", "k", "-RSB-", "end", "-LCB-", "Compute", "scalar", "~", "u", "T", "j", "f", "for", "each", "global", "node", "j", "-RCB-", "foreach", "-LRB-", "page", "j", "F", "out", "-RRB-", "g", "-LSB-", "j", "-RSB-", "-LRB-", "1", "-", "-RRB-", "1", "+1", "foreach", "-LRB-", "page", "k", ":", "-LRB-", "k", ",", "j", "-RRB-", "F", "out", "-RRB-", "g", "-LSB-", "j", "-RSB-", "g", "-LSB-", "j", "-RSB-", "+", "f", "-LSB-", "k", "-RSB-", "o", "-LSB-", "k", "-RSB-", "+1", "end", "end", "-LCB-", "Compute", "vectors", "y", "and", "z", "as", "in", "-LRB-", "17", "-RRB-", "and", "-LRB-", "18", "-RRB-", "-RCB-", "y", "-", "-LRB-", "1", "-", "-RRB-", "e", "-LRB-", "+1", "-RRB-", "z", "-LRB-", "1", "-", "w", "-RRB-", "-1", "~", "s", "-LCB-", "Approximate", "y", "+", "g", "-LSB-", "j", "-RSB-", "z", "1", "for", "all", "values", "g", "-LSB-", "j", "-RSB-", "-RCB-", "norm", "diffs", "L", "1", "NormDiffs", "-LRB-", "g", ",", "E", "L", "y", ",", "E", "L", "z", "-RRB-", "foreach", "-LRB-", "page", "j", "F", "out", "-RRB-", "-LCB-", "Compute", "sparse", "vector", "x", "as", "in", "-LRB-", "19", "-RRB-", "-RCB-", "x", "0", "foreach", "-LRB-", "page", "k", ":", "-LRB-", "k", ",", "j", "-RRB-", "F", "out", "-RRB-", "foreach", "-LRB-", "page", "k", ":", "-LRB-", "k", ",", "k", "-RRB-", "F", "-RRB-", "-RRB-", "x", "-LSB-", "k", "-RSB-", "x", "-LSB-", "k", "-RSB-", "f", "-LSB-", "k", "-RSB-", "o", "-LSB-", "k", "-RSB-", "-LRB-", "o", "-LSB-", "k", "-RSB-", "+1", "-RRB-", "end", "end", "x", "x", "scores", "-LSB-", "j", "-RSB-", "norm", "diffs", "-LSB-", "j", "-RSB-", "foreach", "-LRB-", "k", ":", "x", "-LSB-", "k", "-RSB-", ">", "0", "and", "page", "k", "L", "-RRB-", "scores", "-LSB-", "j", "-RSB-", "scores", "-LSB-", "j", "-RSB-", "-", "|", "y", "-LSB-", "k", "-RSB-", "+", "g", "-LSB-", "j", "-RSB-", "z", "-LSB-", "k", "-RSB-", "|", "+", "|", "x", "-LSB-", "k", "-RSB-", "+", "y", "-LSB-", "k", "-RSB-", "+", "g", "-LSB-", "j", "-RSB-", "z", "-LSB-", "k", "-RSB-", "-RRB-", "|", "end", "end", "Return", "k", "pages", "with", "highest", "scores", "5.2.2", "PageRank", "Flows", "We", "now", "present", "an", "intuitive", "analysis", "of", "the", "stochastic", "complementation", "method", "by", "decomposing", "the", "change", "in", "PageRank", "in", "terms", "of", "`", "leaks", "'", "and", "`", "flows", "'", ".", "This", "analysis", "is", "motivated", "by", "the", "decomposition", "given", "in", "-LRB-", "15", "-RRB-", ".", "PageRank", "`", "flow", "'", "is", "the", "increase", "in", "the", "local", "PageRanks", "originating", "from", "global", "page", "j", ".", "The", "flows", "are", "represented", "by", "the", "non-negative", "vector", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", "-LRB-", "equations", "-LRB-", "15", "-RRB-", "and", "-LRB-", "18", "-RRB-", "-RRB-", ".", "The", "scalar", "~", "u", "T", "j", "f", "can", "be", "thought", "of", "as", "the", "total", "amount", "of", "PageRank", "flow", "that", "page", "j", "has", "available", "to", "distribute", ".", "The", "vector", "z", "dictates", "how", "the", "flow", "is", "allocated", "to", "the", "local", "domain", ";", "the", "flow", "that", "local", "page", "k", "receives", "is", "proportional", "to", "-LRB-", "within", "a", "constant", "factor", "due", "to", "the", "random", "surfer", "vector", "-RRB-", "the", "expected", "number", "of", "its", "inlinks", ".", "The", "PageRank", "`", "leaks", "'", "represent", "the", "decrease", "in", "PageRank", "resulting", "from", "the", "addition", "of", "page", "j", ".", "The", "leakage", "can", "be", "quantified", "in", "terms", "of", "the", "non-positive", "vectors", "x", "and", "y", "-LRB-", "equations", "-LRB-", "16", "-RRB-", "and", "-LRB-", "17", "-RRB-", "-RRB-", ".", "For", "vector", "x", ",", "we", "can", "see", "from", "equation", "-LRB-", "19", "-RRB-", "that", "the", "amount", "of", "PageRank", "leaked", "by", "a", "local", "page", "is", "proportional", "to", "the", "weighted", "sum", "of", "the", "Page-121", "Research", "Track", "Paper", "Ranks", "of", "its", "siblings", ".", "Thus", ",", "pages", "that", "have", "siblings", "with", "higher", "PageRanks", "-LRB-", "and", "low", "outlink", "counts", "-RRB-", "will", "experience", "more", "leakage", ".", "The", "leakage", "caused", "by", "y", "is", "an", "artifact", "of", "the", "random", "surfer", "vector", ".", "We", "will", "next", "show", "that", "if", "only", "the", "`", "flow", "'", "term", ",", "-LRB-", "~", "u", "T", "j", "f", "-RRB-", "z", ",", "is", "considered", ",", "then", "the", "resulting", "method", "is", "very", "similar", "to", "a", "heuristic", "proposed", "by", "Cho", "et", "al.", "-LSB-", "6", "-RSB-", "that", "has", "been", "widely", "used", "for", "the", "``", "Crawling", "Through", "URL", "Ordering", "''", "problem", ".", "This", "heuristic", "is", "computationally", "cheaper", ",", "but", "as", "we", "will", "see", "later", ",", "not", "as", "effective", "as", "the", "Stochastic", "Complementation", "method", ".", "Our", "node", "selection", "strategy", "chooses", "global", "nodes", "that", "have", "the", "largest", "influence", "-LRB-", "equation", "-LRB-", "7", "-RRB-", "-RRB-", ".", "If", "this", "influence", "is", "approximated", "using", "only", "`", "flows", "'", ",", "the", "optimal", "node", "j", "is", ":", "j", "=", "argmax", "j", "E", "L", "~", "u", "T", "j", "f", "z", "1", "=", "argmax", "j", "~", "u", "T", "j", "f", "E", "L", "z", "1", "=", "argmax", "j", "~", "u", "T", "j", "f", "=", "argmax", "j", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "u", "j", "+", "-LRB-", "1", "-", "-RRB-", "e", "+", "1", ",", "f", "=", "argmax", "j", "f", "T", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "u", "j", ".", "The", "resulting", "page", "selection", "score", "can", "be", "expressed", "as", "a", "sum", "of", "the", "PageRanks", "of", "each", "local", "page", "k", "that", "links", "to", "j", ",", "where", "each", "PageRank", "value", "is", "normalized", "by", "o", "-LSB-", "k", "-RSB-", "+1", ".", "Interestingly", ",", "the", "normalization", "that", "arises", "in", "our", "method", "differs", "from", "the", "heuristic", "given", "in", "-LSB-", "6", "-RSB-", ",", "which", "normalizes", "by", "o", "-LSB-", "k", "-RSB-", ".", "The", "algorithm", "PF-Select", ",", "which", "is", "omitted", "due", "to", "lack", "of", "space", ",", "first", "computes", "the", "quantity", "f", "T", "-LRB-", "D", "F", "+", "diag", "-LRB-", "u", "j", "-RRB-", "-RRB-", "-1", "u", "j", "for", "each", "global", "page", "j", ",", "and", "then", "returns", "the", "pages", "with", "the", "k", "largest", "scores", ".", "To", "see", "that", "the", "running", "time", "for", "this", "algorithm", "is", "O", "-LRB-", "n", "-RRB-", ",", "note", "that", "the", "computation", "involved", "in", "this", "method", "is", "a", "subset", "of", "that", "needed", "for", "the", "SC-Select", "method", "-LRB-", "Algorithm", "3", "-RRB-", ",", "which", "was", "shown", "to", "have", "a", "running", "time", "of", "O", "-LRB-", "n", "-RRB-", ".", "In", "this", "section", ",", "we", "provide", "experimental", "evidence", "to", "verify", "the", "effectiveness", "of", "our", "algorithms", ".", "We", "first", "outline", "our", "experimental", "methodology", "and", "then", "provide", "results", "across", "a", "variety", "of", "local", "domains", ".", "6.1", "Methodology", "Given", "the", "limited", "resources", "available", "at", "an", "academic", "institution", ",", "crawling", "a", "section", "of", "the", "web", "that", "is", "of", "the", "same", "magnitude", "as", "that", "indexed", "by", "Google", "or", "Yahoo!", "is", "clearly", "infeasible", ".", "Thus", ",", "for", "a", "given", "local", "domain", ",", "we", "approximate", "the", "global", "graph", "by", "crawling", "a", "local", "neighborhood", "around", "the", "domain", "that", "is", "several", "orders", "of", "magnitude", "larger", "than", "the", "local", "subgraph", ".", "Even", "though", "such", "a", "graph", "is", "still", "orders", "of", "magnitude", "smaller", "than", "the", "`", "true", "'", "global", "graph", ",", "we", "contend", "that", ",", "even", "if", "there", "exist", "some", "highly", "influential", "pages", "that", "are", "very", "far", "away", "from", "our", "local", "domain", ",", "it", "is", "unrealis-tic", "for", "any", "local", "node", "selection", "algorithm", "to", "find", "them", ".", "Such", "pages", "also", "tend", "to", "be", "highly", "unrelated", "to", "pages", "within", "the", "local", "domain", ".", "When", "explaining", "our", "node", "selection", "strategies", "in", "section", "5", ",", "we", "made", "the", "simplifying", "assumption", "that", "our", "local", "graph", "contained", "no", "dangling", "nodes", ".", "This", "assumption", "was", "only", "made", "to", "ease", "our", "analysis", ".", "Our", "implementation", "efficiently", "handles", "dangling", "links", "by", "replacing", "each", "zero", "column", "of", "our", "adjacency", "matrix", "with", "the", "uniform", "vector", ".", "We", "evaluate", "the", "algorithm", "using", "the", "two", "node", "selection", "strategies", "given", "in", "Section", "5.2", ",", "and", "also", "against", "the", "following", "baseline", "methods", ":", "Random", ":", "Nodes", "are", "chosen", "uniformly", "at", "random", "among", "the", "known", "global", "nodes", ".", "OutlinkCount", ":", "Global", "nodes", "with", "the", "highest", "number", "of", "outlinks", "from", "the", "local", "domain", "are", "chosen", ".", "At", "each", "iteration", "of", "the", "FindGlobalPR", "algorithm", ",", "we", "evaluate", "performance", "by", "computing", "the", "difference", "between", "the", "current", "PageRank", "estimate", "of", "the", "local", "domain", ",", "E", "L", "f", "E", "L", "f", "1", ",", "and", "the", "global", "PageRank", "of", "the", "local", "domain", "E", "L", "g", "E", "L", "g", "1", ".", "All", "PageRank", "calculations", "were", "performed", "using", "the", "uniform", "random", "surfer", "vector", ".", "Across", "all", "experiments", ",", "we", "set", "the", "random", "surfer", "parameter", ",", "to", "be", ".85", ",", "and", "used", "a", "convergence", "threshold", "of", "10", "-6", ".", "We", "evaluate", "the", "difference", "between", "the", "local", "and", "global", "PageRank", "vectors", "using", "three", "different", "metrics", ":", "the", "L", "1", "and", "L", "norms", ",", "and", "Kendall", "'s", "tau", ".", "The", "L", "1", "norm", "measures", "the", "sum", "of", "the", "absolute", "value", "of", "the", "differences", "between", "the", "two", "vectors", ",", "and", "the", "L", "norm", "measures", "the", "absolute", "value", "of", "the", "largest", "difference", ".", "Kendall", "'s", "tau", "metric", "is", "a", "popular", "rank", "correlation", "measure", "used", "to", "compare", "PageRanks", "-LSB-", "2", ",", "11", "-RSB-", ".", "This", "metric", "can", "be", "computed", "by", "counting", "the", "number", "of", "pairs", "of", "pairs", "that", "agree", "in", "ranking", ",", "and", "subtracting", "from", "that", "the", "number", "of", "pairs", "of", "pairs", "that", "disagree", "in", "ranking", ".", "The", "final", "value", "is", "then", "normalized", "by", "the", "total", "number", "of", "n", "2", "such", "pairs", ",", "resulting", "in", "a", "-LSB-", "-1", ",", "1", "-RSB-", "range", ",", "where", "a", "negative", "score", "signifies", "anti-correlation", "among", "rankings", ",", "and", "values", "near", "one", "correspond", "to", "strong", "rank", "correlation", ".", "6.2", "Results", "Our", "experiments", "are", "based", "on", "two", "large", "web", "crawls", "and", "were", "downloaded", "using", "the", "web", "crawler", "that", "is", "part", "of", "the", "Nutch", "open", "source", "search", "engine", "project", "-LSB-", "18", "-RSB-", ".", "All", "crawls", "were", "restricted", "to", "only", "`", "http", "'", "pages", ",", "and", "to", "limit", "the", "number", "of", "dynamically", "generated", "pages", "that", "we", "crawl", ",", "we", "ig-nored", "all", "pages", "with", "urls", "containing", "any", "of", "the", "characters", "`", "?", "'", ",", "`", "*", "'", ",", "`", "@", "'", ",", "or", "`", "=", "'", ".", "The", "first", "crawl", ",", "which", "we", "will", "refer", "to", "as", "the", "`", "edu", "'", "dataset", ",", "was", "seeded", "by", "homepages", "of", "the", "top", "100", "graduate", "computer", "science", "departments", "in", "the", "USA", ",", "as", "rated", "by", "the", "US", "News", "and", "World", "Report", "-LSB-", "16", "-RSB-", ",", "and", "also", "by", "the", "home", "pages", "of", "their", "respective", "institutions", ".", "A", "crawl", "of", "depth", "5", "was", "performed", ",", "restricted", "to", "pages", "within", "the", "`", ".", "edu", "'", "domain", ",", "resulting", "in", "a", "graph", "with", "approximately", "4.7", "million", "pages", "and", "22.9", "million", "links", ".", "The", "second", "crawl", "was", "seeded", "by", "the", "set", "of", "pages", "under", "the", "`", "politics", "'", "hierarchy", "in", "the", "dmoz", "open", "directory", "project", "-LSB-", "17", "-RSB-", ".", "We", "crawled", "all", "pages", "up", "to", "four", "links", "away", ",", "which", "yielded", "a", "graph", "with", "4.4", "million", "pages", "and", "17.3", "million", "links", ".", "Within", "the", "`", "edu", "'", "crawl", ",", "we", "identified", "the", "five", "site-specific", "domains", "corresponding", "to", "the", "websites", "of", "the", "top", "five", "graduate", "computer", "science", "departments", ",", "as", "ranked", "by", "the", "US", "News", "and", "World", "Report", ".", "This", "yielded", "local", "domains", "of", "various", "sizes", ",", "from", "10,626", "-LRB-", "UIUC", "-RRB-", "to", "59,895", "-LRB-", "Berkeley", "-RRB-", ".", "For", "each", "of", "these", "site-specific", "domains", "with", "size", "n", ",", "we", "performed", "50", "iterations", "of", "the", "FindGlobalPR", "algorithm", "to", "crawl", "a", "total", "of", "2n", "additional", "nodes", ".", "Figure", "2", "-LRB-", "a", "-RRB-", "gives", "the", "-LRB-", "L", "1", "-RRB-", "difference", "from", "the", "PageRank", "estimate", "at", "each", "iteration", "to", "the", "global", "PageRank", ",", "for", "the", "Berkeley", "local", "domain", ".", "The", "performance", "of", "this", "dataset", "was", "representative", "of", "the", "typical", "performance", "across", "the", "five", "computer", "science", "site-specific", "local", "domains", ".", "Initially", ",", "the", "L", "1", "difference", "between", "the", "global", "and", "local", "PageRanks", "ranged", "from", ".0469", "-LRB-", "Stanford", "-RRB-", "to", ".149", "-LRB-", "MIT", "-RRB-", ".", "For", "the", "first", "several", "iterations", ",", "the", "122", "Research", "Track", "Paper", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "0.015", "0.02", "0.025", "0.03", "0.035", "0.04", "0.045", "0.05", "0.055", "Number", "of", "Iterations", "Global", "and", "Local", "PageRank", "Difference", "-LRB-", "L1", "-RRB-", "Stochastic", "Complement", "PageRank", "Flow", "Outlink", "Count", "Random", "0", "10", "20", "30", "40", "50", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "Number", "of", "Iterations", "Global", "and", "Local", "PageRank", "Difference", "-LRB-", "L1", "-RRB-", "Stochastic", "Complement", "PageRank", "Flow", "Outlink", "Count", "Random", "0", "5", "10", "15", "20", "25", "0.16", "0.18", "0.2", "0.22", "0.24", "0.26", "0.28", "0.3", "0.32", "0.34", "Number", "of", "Iterations", "Global", "and", "Local", "PageRank", "Difference", "-LRB-", "L1", "-RRB-", "Stochastic", "Complement", "PageRank", "Flow", "Outlink", "Count", "Random", "-LRB-", "a", "-RRB-", "www.cs.berkeley.edu", "-LRB-", "b", "-RRB-", "www.enterstageright.com", "-LRB-", "c", "-RRB-", "Politics", "Figure", "2", ":", "L", "1", "difference", "between", "the", "estimated", "and", "true", "global", "PageRanks", "for", "-LRB-", "a", "-RRB-", "Berkeley", "'s", "computer", "science", "website", ",", "-LRB-", "b", "-RRB-", "the", "site-specific", "domain", ",", "www.enterstageright.com", ",", "and", "-LRB-", "c", "-RRB-", "the", "`", "politics", "'", "topic-specific", "domain", ".", "The", "stochastic", "complement", "method", "outperforms", "all", "other", "methods", "across", "various", "domains", ".", "three", "link-based", "methods", "all", "outperform", "the", "random", "selection", "heuristic", ".", "After", "these", "initial", "iterations", ",", "the", "random", "heuristic", "tended", "to", "be", "more", "competitive", "with", "-LRB-", "or", "even", "outperform", ",", "as", "in", "the", "Berkeley", "local", "domain", "-RRB-", "the", "outlink", "count", "and", "PageRank", "flow", "heuristics", ".", "In", "all", "tests", ",", "the", "stochastic", "complementation", "method", "either", "outperformed", ",", "or", "was", "competitive", "with", ",", "the", "other", "methods", ".", "Table", "1", "gives", "the", "average", "difference", "between", "the", "final", "estimated", "global", "PageRanks", "and", "the", "true", "global", "PageRanks", "for", "various", "distance", "measures", ".", "Algorithm", "L", "1", "L", "Kendall", "Stoch", ".", "Comp", ".", ".0384", ".00154", ".9257", "PR", "Flow", ".0470", ".00272", ".8946", "Outlink", ".0419", ".00196", ".9053", "Random", ".0407", ".00204", ".9086", "Table", "1", ":", "Average", "final", "performance", "of", "various", "node", "selection", "strategies", "for", "the", "five", "site-specific", "computer", "science", "local", "domains", ".", "Note", "that", "Kendall", "'s", "Tau", "measures", "similarity", ",", "while", "the", "other", "metrics", "are", "dissimilarity", "measures", ".", "Stochastic", "Complementation", "clearly", "outperforms", "the", "other", "methods", "in", "all", "metrics", ".", "Within", "the", "`", "politics", "'", "dataset", ",", "we", "also", "performed", "two", "site-specific", "tests", "for", "the", "largest", "websites", "in", "the", "crawl", ":", "www.adam-smith", ".", "org", ",", "the", "website", "for", "the", "London", "based", "Adam", "Smith", "Institute", ",", "and", "www.enterstageright.com", ",", "an", "online", "conservative", "journal", ".", "As", "with", "the", "`", "edu", "'", "local", "domains", ",", "we", "ran", "our", "algorithm", "for", "50", "iterations", ",", "crawling", "a", "total", "of", "2n", "nodes", ".", "Figure", "2", "-LRB-", "b", "-RRB-", "plots", "the", "results", "for", "the", "www.enterstageright.com", "domain", ".", "In", "contrast", "to", "the", "`", "edu", "'", "local", "domains", ",", "the", "Random", "and", "OutlinkCount", "methods", "were", "not", "competitive", "with", "either", "the", "SC-Select", "or", "the", "PF-Select", "methods", ".", "Among", "all", "datasets", "and", "all", "node", "selection", "methods", ",", "the", "stochastic", "complementation", "method", "was", "most", "impressive", "in", "this", "dataset", ",", "realizing", "a", "final", "estimate", "that", "differed", "only", ".0279", "from", "the", "global", "PageRank", ",", "a", "ten-fold", "improvement", "over", "the", "initial", "local", "PageRank", "difference", "of", ".299", ".", "For", "the", "Adam", "Smith", "local", "domain", ",", "the", "initial", "difference", "between", "the", "local", "and", "global", "PageRanks", "was", ".148", ",", "and", "the", "final", "estimates", "given", "by", "the", "SC-Select", ",", "PF-Select", ",", "OutlinkCount", ",", "and", "Random", "methods", "were", ".0208", ",", ".0193", ",", ".0222", ",", "and", ".0356", ",", "respectively", ".", "Within", "the", "`", "politics", "'", "dataset", ",", "we", "constructed", "four", "topic-specific", "local", "domains", ".", "The", "first", "domain", "consisted", "of", "all", "pages", "in", "the", "dmoz", "politics", "category", ",", "and", "also", "all", "pages", "within", "each", "of", "these", "sites", "up", "to", "two", "links", "away", ".", "This", "yielded", "a", "local", "domain", "of", "90,811", "pages", ",", "and", "the", "results", "are", "given", "in", "figure", "2", "-LRB-", "c", "-RRB-", ".", "Because", "of", "the", "larger", "size", "of", "the", "topic-specific", "domains", ",", "we", "ran", "our", "algorithm", "for", "only", "25", "iterations", "to", "crawl", "a", "total", "of", "n", "nodes", ".", "We", "also", "created", "topic-specific", "domains", "from", "three", "political", "sub-topics", ":", "liberalism", ",", "conservatism", ",", "and", "socialism", ".", "The", "pages", "in", "these", "domains", "were", "identified", "by", "their", "corresponding", "dmoz", "categories", ".", "For", "each", "sub-topic", ",", "we", "set", "the", "local", "domain", "to", "be", "all", "pages", "within", "three", "links", "from", "the", "corresponding", "dmoz", "category", "pages", ".", "Table", "2", "summarizes", "the", "performance", "of", "these", "three", "topic-specific", "domains", ",", "and", "also", "the", "larger", "political", "domain", ".", "To", "quantify", "a", "global", "page", "j", "'s", "effect", "on", "the", "global", "PageRank", "values", "of", "pages", "in", "the", "local", "domain", ",", "we", "define", "page", "j", "'s", "impact", "to", "be", "its", "PageRank", "value", ",", "g", "-LSB-", "j", "-RSB-", ",", "normalized", "by", "the", "fraction", "of", "its", "outlinks", "pointing", "to", "the", "local", "domain", ":", "impact", "-LRB-", "j", "-RRB-", "=", "o", "L", "-LSB-", "j", "-RSB-", "o", "-LSB-", "j", "-RSB-", "g", "-LSB-", "j", "-RSB-", ",", "where", ",", "o", "L", "-LSB-", "j", "-RSB-", "is", "the", "number", "of", "outlinks", "from", "page", "j", "to", "pages", "in", "the", "local", "domain", "L", ",", "and", "o", "-LSB-", "j", "-RSB-", "is", "the", "total", "number", "of", "j", "'s", "outlinks", ".", "In", "terms", "of", "the", "random", "surfer", "model", ",", "the", "impact", "of", "page", "j", "is", "the", "probability", "that", "the", "random", "surfer", "-LRB-", "1", "-RRB-", "is", "currently", "at", "global", "page", "j", "in", "her", "random", "walk", "and", "-LRB-", "2", "-RRB-", "takes", "an", "outlink", "to", "a", "local", "page", ",", "given", "that", "she", "has", "already", "decided", "not", "to", "jump", "to", "a", "random", "page", ".", "For", "the", "politics", "local", "domain", ",", "we", "found", "that", "many", "of", "the", "pages", "with", "high", "impact", "were", "in", "fact", "political", "pages", "that", "should", "have", "been", "included", "in", "the", "dmoz", "politics", "topic", ",", "but", "were", "not", ".", "For", "example", ",", "the", "two", "most", "influential", "global", "pages", "were", "the", "political", "search", "engine", "www.askhenry.com", ",", "and", "the", "home", "page", "of", "the", "online", "political", "magazine", ",", "www.policy-review", ".", "com", ".", "Among", "non-political", "pages", ",", "the", "home", "page", "of", "the", "journal", "``", "Education", "Next", "''", "was", "most", "influential", ".", "The", "journal", "is", "freely", "available", "online", "and", "contains", "articles", "regarding", "various", "aspect", "of", "K-12", "education", "in", "America", ".", "To", "provide", "some", "anecdotal", "evidence", "for", "the", "effectiveness", "of", "our", "page", "selection", "methods", ",", "we", "note", "that", "the", "SC-Select", "method", "chose", "11", "pages", "within", "the", "www.educationnext.org", "domain", ",", "the", "PF-Select", "method", "discovered", "7", "such", "pages", ",", "while", "the", "OutlinkCount", "and", "Random", "methods", "found", "only", "6", "pages", "each", ".", "For", "the", "conservative", "political", "local", "domain", ",", "the", "socialist", "website", "www.ornery.org", "had", "a", "very", "high", "impact", "score", ".", "This", "123", "Research", "Track", "Paper", "All", "Politics", ":", "Algorithm", "L", "1", "L", "2", "Kendall", "Stoch", ".", "Comp", ".", ".1253", ".000700", ".8671", "PR", "Flow", ".1446", ".000710", ".8518", "Outlink", ".1470", ".00225", ".8642", "Random", ".2055", ".00203", ".8271", "Conservativism", ":", "Algorithm", "L", "1", "L", "2", "Kendall", "Stoch", ".", "Comp", ".", ".0496", ".000990", ".9158", "PR", "Flow", ".0554", ".000939", ".9028", "Outlink", ".0602", ".00527", ".9144", "Random", ".1197", ".00102", ".8843", "Liberalism", ":", "Algorithm", "L", "1", "L", "2", "Kendall", "Stoch", ".", "Comp", ".", ".0622", ".001360", ".8848", "PR", "Flow", ".0799", ".001378", ".8669", "Outlink", ".0763", ".001379", ".8844", "Random", ".1127", ".001899", ".8372", "Socialism", ":", "Algorithm", "L", "1", "L", "Kendall", "Stoch", ".", "Comp", ".", ".04318", ".00439", ".9604", "PR", "Flow", ".0450", ".004251", ".9559", "Outlink", ".04282", ".00344", ".9591", "Random", ".0631", ".005123", ".9350", "Table", "2", ":", "Final", "performance", "among", "node", "selection", "strategies", "for", "the", "four", "political", "topic-specific", "crawls", ".", "Note", "that", "Kendall", "'s", "Tau", "measures", "similarity", ",", "while", "the", "other", "metrics", "are", "dissimilarity", "measures", ".", "was", "largely", "due", "to", "a", "link", "from", "the", "front", "page", "of", "this", "site", "to", "an", "article", "regarding", "global", "warming", "published", "by", "the", "National", "Center", "for", "Public", "Policy", "Research", ",", "a", "conservative", "research", "group", "in", "Washington", ",", "DC", ".", "Not", "surprisingly", ",", "the", "global", "PageRank", "of", "this", "article", "-LRB-", "which", "happens", "to", "be", "on", "the", "home", "page", "of", "the", "NCCPR", ",", "www.nationalresearch.com", "-RRB-", ",", "was", "approximately", ".002", ",", "whereas", "the", "local", "PageRank", "of", "this", "page", "was", "only", ".00158", ".", "The", "SC-Select", "method", "yielded", "a", "global", "PageRank", "estimate", "of", "approximately", ".00182", ",", "the", "PF-Select", "method", "estimated", "a", "value", "of", ".00167", ",", "and", "the", "Random", "and", "OutlinkCount", "methods", "yielded", "values", "of", ".01522", "and", ".00171", ",", "respectively", ".", "The", "node", "selection", "framework", "we", "have", "proposed", "is", "similar", "to", "the", "url", "ordering", "for", "crawling", "problem", "proposed", "by", "Cho", "et", "al.", "in", "-LSB-", "6", "-RSB-", ".", "Whereas", "our", "framework", "seeks", "to", "minimize", "the", "difference", "between", "the", "global", "and", "local", "PageRank", ",", "the", "objective", "used", "in", "-LSB-", "6", "-RSB-", "is", "to", "crawl", "the", "most", "highly", "-LRB-", "globally", "-RRB-", "ranked", "pages", "first", ".", "They", "propose", "several", "node", "selection", "algorithms", ",", "including", "the", "outlink", "count", "heuristic", ",", "as", "well", "as", "a", "variant", "of", "our", "PF-Select", "algorithm", "which", "they", "refer", "to", "as", "the", "`", "Page-Rank", "ordering", "metric", "'", ".", "They", "found", "this", "method", "to", "be", "most", "effective", "in", "optimizing", "their", "objective", ",", "as", "did", "a", "recent", "survey", "of", "these", "methods", "by", "Baeza-Yates", "et", "al.", "-LSB-", "1", "-RSB-", ".", "Boldi", "et", "al.", "also", "experiment", "within", "a", "similar", "crawling", "framework", "in", "-LSB-", "2", "-RSB-", ",", "but", "quantify", "their", "results", "by", "comparing", "Kendall", "'s", "rank", "correlation", "between", "the", "PageRanks", "of", "the", "current", "set", "of", "crawled", "pages", "and", "those", "of", "the", "entire", "global", "graph", ".", "They", "found", "that", "node", "selection", "strategies", "that", "crawled", "pages", "with", "the", "highest", "global", "PageRank", "first", "actually", "performed", "worse", "-LRB-", "with", "respect", "to", "Kendall", "'s", "Tau", "correlation", "between", "the", "local", "and", "global", "PageRanks", "-RRB-", "than", "basic", "depth", "first", "or", "breadth", "first", "strategies", ".", "However", ",", "their", "experiments", "differ", "from", "our", "work", "in", "that", "our", "node", "selection", "algorithms", "do", "not", "use", "-LRB-", "or", "have", "access", "to", "-RRB-", "global", "PageRank", "values", ".", "Many", "algorithmic", "improvements", "for", "computing", "exact", "PageRank", "values", "have", "been", "proposed", "-LSB-", "9", ",", "10", ",", "14", "-RSB-", ".", "If", "such", "algorithms", "are", "used", "to", "compute", "the", "global", "PageRanks", "of", "our", "local", "domain", ",", "they", "would", "all", "require", "O", "-LRB-", "N", "-RRB-", "computation", ",", "storage", ",", "and", "bandwidth", ",", "where", "N", "is", "the", "size", "of", "the", "global", "domain", ".", "This", "is", "in", "contrast", "to", "our", "method", ",", "which", "approximates", "the", "global", "PageRank", "and", "scales", "linearly", "with", "the", "size", "of", "the", "local", "domain", ".", "Wang", "and", "Dewitt", "-LSB-", "22", "-RSB-", "propose", "a", "system", "where", "the", "set", "of", "web", "servers", "that", "comprise", "the", "global", "domain", "communicate", "with", "each", "other", "to", "compute", "their", "respective", "global", "PageRanks", ".", "For", "a", "given", "web", "server", "hosting", "n", "pages", ",", "the", "computational", ",", "bandwidth", ",", "and", "storage", "requirements", "are", "also", "linear", "in", "n", ".", "One", "drawback", "of", "this", "system", "is", "that", "the", "number", "of", "distinct", "web", "servers", "that", "comprise", "the", "global", "domain", "can", "be", "very", "large", ".", "For", "example", ",", "our", "`", "edu", "'", "dataset", "contains", "websites", "from", "over", "3,200", "different", "universities", ";", "coordinating", "such", "a", "system", "among", "a", "large", "number", "of", "sites", "can", "be", "very", "difficult", ".", "Gan", ",", "Chen", ",", "and", "Suel", "propose", "a", "method", "for", "estimating", "the", "PageRank", "of", "a", "single", "page", "-LSB-", "5", "-RSB-", "which", "uses", "only", "constant", "bandwidth", ",", "computation", ",", "and", "space", ".", "Their", "approach", "relies", "on", "the", "availability", "of", "a", "remote", "connectivity", "server", "that", "can", "supply", "the", "set", "of", "inlinks", "to", "a", "given", "page", ",", "an", "assumption", "not", "used", "in", "our", "framework", ".", "They", "experimentally", "show", "that", "a", "reasonable", "estimate", "of", "the", "node", "'s", "PageRank", "can", "be", "obtained", "by", "visiting", "at", "most", "a", "few", "hundred", "nodes", ".", "Using", "their", "algorithm", "for", "our", "problem", "would", "require", "that", "either", "the", "entire", "global", "domain", "first", "be", "downloaded", "or", "a", "connectivity", "server", "be", "used", ",", "both", "of", "which", "would", "lead", "to", "very", "large", "web", "graphs", ".", "The", "internet", "is", "growing", "exponentially", ",", "and", "in", "order", "to", "navigate", "such", "a", "large", "repository", "as", "the", "web", ",", "global", "search", "engines", "have", "established", "themselves", "as", "a", "necessity", ".", "Along", "with", "the", "ubiquity", "of", "these", "large-scale", "search", "engines", "comes", "an", "increase", "in", "search", "users", "'", "expectations", ".", "By", "providing", "complete", "and", "isolated", "coverage", "of", "a", "particular", "web", "domain", ",", "localized", "search", "engines", "are", "an", "effective", "outlet", "to", "quickly", "locate", "content", "that", "could", "otherwise", "be", "difficult", "to", "find", ".", "In", "this", "work", ",", "we", "contend", "that", "the", "use", "of", "global", "PageRank", "in", "a", "localized", "search", "engine", "can", "improve", "performance", ".", "To", "estimate", "the", "global", "PageRank", ",", "we", "have", "proposed", "an", "iterative", "node", "selection", "framework", "where", "we", "select", "which", "pages", "from", "the", "global", "frontier", "to", "crawl", "next", ".", "Our", "primary", "contribution", "is", "our", "stochastic", "complementation", "page", "selection", "algorithm", ".", "This", "method", "crawls", "nodes", "that", "will", "most", "significantly", "impact", "the", "local", "domain", "and", "has", "running", "time", "linear", "in", "the", "number", "of", "nodes", "in", "the", "local", "domain", ".", "Experimentally", ",", "we", "validate", "these", "methods", "across", "a", "diverse", "set", "of", "local", "domains", ",", "including", "seven", "site-specific", "domains", "and", "four", "topic-specific", "domains", ".", "We", "conclude", "that", "by", "crawling", "an", "additional", "n", "or", "2n", "pages", ",", "our", "methods", "find", "an", "estimate", "of", "the", "global", "PageRanks", "that", "is", "up", "to", "ten", "times", "better", "than", "just", "using", "the", "local", "PageRanks", ".", "Furthermore", ",", "we", "demonstrate", "that", "our", "algorithm", "consistently", "outperforms", "other", "existing", "heuristics", ".", "124", "Research", "Track", "Paper", "Often", "times", ",", "topic-specific", "domains", "are", "discovered", "using", "a", "focused", "web", "crawler", "which", "considers", "a", "page", "'s", "content", "in", "conjunction", "with", "link", "anchor", "text", "to", "decide", "which", "pages", "to", "crawl", "next", "-LSB-", "4", "-RSB-", ".", "Although", "such", "crawlers", "have", "proven", "to", "be", "quite", "effective", "in", "discovering", "topic-related", "content", ",", "many", "irrelevant", "pages", "are", "also", "crawled", "in", "the", "process", ".", "Typically", ",", "these", "pages", "are", "deleted", "and", "not", "indexed", "by", "the", "localized", "search", "engine", ".", "These", "pages", "can", "of", "course", "provide", "valuable", "information", "regarding", "the", "global", "PageRank", "of", "the", "local", "domain", ".", "One", "way", "to", "integrate", "these", "pages", "into", "our", "framework", "is", "to", "start", "the", "FindGlobalPR", "algorithm", "with", "the", "current", "subgraph", "F", "equal", "to", "the", "set", "of", "pages", "that", "were", "crawled", "by", "the", "focused", "crawler", ".", "The", "global", "PageRank", "estimation", "framework", ",", "along", "with", "the", "node", "selection", "algorithms", "presented", ",", "all", "require", "O", "-LRB-", "n", "-RRB-", "computation", "per", "iteration", "and", "bandwidth", "proportional", "to", "the", "number", "of", "pages", "crawled", ",", "T", "k", ".", "If", "the", "number", "of", "iterations", "T", "is", "relatively", "small", "compared", "to", "the", "number", "of", "pages", "crawled", "per", "iteration", ",", "k", ",", "then", "the", "bottleneck", "of", "the", "algorithm", "will", "be", "the", "crawling", "phase", ".", "However", ",", "as", "the", "number", "of", "iterations", "increases", "-LRB-", "relative", "to", "k", "-RRB-", ",", "the", "bottleneck", "will", "reside", "in", "the", "node", "selection", "computation", ".", "In", "this", "case", ",", "our", "algorithms", "would", "benefit", "from", "constant", "factor", "optimizations", ".", "Recall", "that", "the", "FindGlobalPR", "algorithm", "-LRB-", "Algorithm", "2", "-RRB-", "requires", "that", "the", "PageRanks", "of", "the", "current", "expanded", "local", "domain", "be", "recomputed", "in", "each", "iteration", ".", "Recent", "work", "by", "Langville", "and", "Meyer", "-LSB-", "12", "-RSB-", "gives", "an", "algorithm", "to", "quickly", "recompute", "PageRanks", "of", "a", "given", "webgraph", "if", "a", "small", "number", "of", "nodes", "are", "added", ".", "This", "algorithm", "was", "shown", "to", "give", "speedup", "of", "five", "to", "ten", "times", "on", "some", "datasets", ".", "We", "plan", "to", "investigate", "this", "and", "other", "such", "optimizations", "as", "future", "work", ".", "In", "this", "paper", ",", "we", "have", "objectively", "evaluated", "our", "methods", "by", "measuring", "how", "close", "our", "global", "PageRank", "estimates", "are", "to", "the", "actual", "global", "PageRanks", ".", "To", "determine", "the", "benefit", "of", "using", "global", "PageRanks", "in", "a", "localized", "search", "engine", ",", "we", "suggest", "a", "user", "study", "in", "which", "users", "are", "asked", "to", "rate", "the", "quality", "of", "search", "results", "for", "various", "search", "queries", ".", "For", "some", "queries", ",", "only", "the", "local", "PageRanks", "are", "used", "in", "ranking", ",", "and", "for", "the", "remaining", "queries", ",", "local", "PageRanks", "and", "the", "approximate", "global", "PageRanks", ",", "as", "computed", "by", "our", "algorithms", ",", "are", "used", ".", "The", "results", "of", "such", "a", "study", "can", "then", "be", "analyzed", "to", "determine", "the", "added", "benefit", "of", "using", "the", "global", "PageRanks", "computed", "by", "our", "methods", ",", "over", "just", "using", "the", "local", "PageRanks", ".", "Acknowledgements", ".", "This", "research", "was", "supported", "by", "NSF", "grant", "CCF-0431257", ",", "NSF", "Career", "Award", "ACI-0093404", ",", "and", "a", "grant", "from", "Sabre", ",", "Inc.", ".", "-LSB-", "1", "-RSB-", "R.", "Baeza-Yates", ",", "M.", "Marin", ",", "C.", "Castillo", ",", "and", "A.", "Rodriguez", ".", "Crawling", "a", "country", ":", "better", "strategies", "than", "breadth-first", "for", "web", "page", "ordering", ".", "World-Wide", "Web", "Conference", ",", "2005", ".", "-LSB-", "2", "-RSB-", "P.", "Boldi", ",", "M.", "Santini", ",", "and", "S.", "Vigna", ".", "Do", "your", "worst", "to", "make", "the", "best", ":", "paradoxical", "effects", "in", "pagerank", "incremental", "computations", ".", "Workshop", "on", "Web", "Graphs", ",", "3243:168", "180", ",", "2004", ".", "-LSB-", "3", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "33", "-LRB-", "1", "7", "-RRB-", ":", "107", "117", ",", "1998", ".", "-LSB-", "4", "-RSB-", "S.", "Chakrabarti", ",", "M.", "van", "den", "Berg", ",", "and", "B.", "Dom", ".", "Focused", "crawling", ":", "a", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "World-Wide", "Web", "Conference", ",", "1999", ".", "-LSB-", "5", "-RSB-", "Y.", "Chen", ",", "Q.", "Gan", ",", "and", "T.", "Suel", ".", "Local", "methods", "for", "estimating", "pagerank", "values", ".", "Conference", "on", "Information", "and", "Knowledge", "Management", ",", "2004", ".", "-LSB-", "6", "-RSB-", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "and", "L.", "Page", ".", "Efficient", "crawling", "through", "url", "ordering", ".", "World-Wide", "Web", "Conference", ",", "1998", ".", "-LSB-", "7", "-RSB-", "T.", "H.", "Haveliwala", "and", "S.", "D.", "Kamvar", ".", "The", "second", "eigenvalue", "of", "the", "Google", "matrix", ".", "Technical", "report", ",", "Stanford", "University", ",", "2003", ".", "-LSB-", "8", "-RSB-", "T.", "Joachims", ",", "F.", "Radlinski", ",", "L.", "Granka", ",", "A.", "Cheng", ",", "C.", "Tillekeratne", ",", "and", "A.", "Patel", ".", "Learning", "retrieval", "functions", "from", "implicit", "feedback", ".", "http://www.cs.cornell.edu/People/tj/career", ".", "-LSB-", "9", "-RSB-", "S.", "D.", "Kamvar", ",", "T.", "H.", "Haveliwala", ",", "C.", "D.", "Manning", ",", "and", "G.", "H.", "Golub", ".", "Exploiting", "the", "block", "structure", "of", "the", "web", "for", "computing", "pagerank", ".", "World-Wide", "Web", "Conference", ",", "2003", ".", "-LSB-", "10", "-RSB-", "S.", "D.", "Kamvar", ",", "T.", "H.", "Haveliwala", ",", "C.", "D.", "Manning", ",", "and", "G.", "H.", "Golub", ".", "Extrapolation", "methods", "for", "accelerating", "pagerank", "computation", ".", "World-Wide", "Web", "Conference", ",", "2003", ".", "-LSB-", "11", "-RSB-", "A.", "N.", "Langville", "and", "C.", "D.", "Meyer", ".", "Deeper", "inside", "pagerank", ".", "Internet", "Mathematics", ",", "2004", ".", "-LSB-", "12", "-RSB-", "A.", "N.", "Langville", "and", "C.", "D.", "Meyer", ".", "Updating", "the", "stationary", "vector", "of", "an", "irreducible", "markov", "chain", "with", "an", "eye", "on", "Google", "'s", "pagerank", ".", "SIAM", "Journal", "on", "Matrix", "Analysis", ",", "2005", ".", "-LSB-", "13", "-RSB-", "P.", "Lyman", ",", "H.", "R.", "Varian", ",", "K.", "Swearingen", ",", "P.", "Charles", ",", "N.", "Good", ",", "L.", "L.", "Jordan", ",", "and", "J.", "Pal", ".", "How", "much", "information", "2003", "?", "School", "of", "Information", "Management", "and", "System", ",", "University", "of", "California", "at", "Berkely", ",", "2003", ".", "-LSB-", "14", "-RSB-", "F.", "McSherry", ".", "A", "uniform", "approach", "to", "accelerated", "pagerank", "computation", ".", "World-Wide", "Web", "Conference", ",", "2005", ".", "-LSB-", "15", "-RSB-", "C.", "D.", "Meyer", ".", "Stochastic", "complementation", ",", "uncoupling", "markov", "chains", ",", "and", "the", "theory", "of", "nearly", "reducible", "systems", ".", "SIAM", "Review", ",", "31:240", "272", ",", "1989", ".", "-LSB-", "16", "-RSB-", "US", "News", "and", "World", "Report", ".", "http://www.usnews.com", ".", "-LSB-", "17", "-RSB-", "Dmoz", "open", "directory", "project", ".", "http://www.dmoz.org", ".", "-LSB-", "18", "-RSB-", "Nutch", "open", "source", "search", "engine", ".", "http://www.nutch.org", ".", "-LSB-", "19", "-RSB-", "F.", "Radlinski", "and", "T.", "Joachims", ".", "Query", "chains", ":", "learning", "to", "rank", "from", "implicit", "feedback", ".", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "2005", ".", "-LSB-", "20", "-RSB-", "S.", "Raghavan", "and", "H.", "Garcia-Molina", ".", "Crawling", "the", "hidden", "web", ".", "In", "Proceedings", "of", "the", "Twenty-seventh", "International", "Conference", "on", "Very", "Large", "Databases", ",", "2001", ".", "-LSB-", "21", "-RSB-", "T.", "Tin", "Tang", ",", "D.", "Hawking", ",", "N.", "Craswell", ",", "and", "K.", "Griffiths", ".", "Focused", "crawling", "for", "both", "topical", "relevance", "and", "quality", "of", "medical", "information", ".", "Conference", "on", "Information", "and", "Knowledge", "Management", ",", "2005", ".", "-LSB-", "22", "-RSB-", "Y.", "Wang", "and", "D.", "J.", "DeWitt", ".", "Computing", "pagerank", "in", "a", "distributed", "internet", "search", "system", ".", "Proceedings", "of", "the", "30th", "VLDB", "Conference", ",", "2004", ".", "125", "Research", "Track", "Paper"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["global pagerank", "crawling", "algorithms", "localized search engines", "node selection"], "abstractive_keyphrases": ["site specific domain", "experimentation"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "64", "document": ["Database", "Security", "Curriculum", "In", "Infosec", "Program", "Database", "Security", "course", "is", "an", "important", "part", "of", "the", "InfoSec", "curriculum", ".", "In", "many", "institutions", "this", "is", "not", "taught", "as", "an", "independent", "course", ".", "Parts", "of", "the", "contents", "presented", "in", "this", "paper", "are", "usually", "incorporated", "in", "other", "courses", "such", "as", "Network", "Security", ".", "The", "importance", "of", "database", "security", "concepts", "stems", "from", "the", "fact", "that", "a", "compromise", "of", "data", "at", "rest", "could", "expose", "an", "organization", "to", "a", "greater", "security", "threat", "than", "otherwise", ".", "Database", "vulnerabilities", "exposed", "recently", "in", "several", "high", "profile", "incidents", "would", "be", "a", "good", "reason", "to", "dedicate", "a", "full", "course", "to", "this", "important", "topic", ".", "In", "this", "paper", "we", "present", "key", "topics", "such", "as", "technologies", "for", "database", "protection", ",", "access", "control", ",", "multilevel", "security", ",", "database", "vulnerabilities", "and", "defenses", ",", "privacy", "and", "legal", "issues", ",", "impact", "of", "policies", "and", "some", "well", "known", "secure", "database", "models", ".", "H.", "2.0", "-LSB-", "General", "-RSB-", "Security", ",", "Integrity", "and", "protection", "D.", "4.6", "-LSB-", "Security", "and", "Protection", "-RSB-", "Access", "controls", ",", "Authentication", "K.", "6.5", "-LSB-", "Security", "and", "Protection", "-RSB-", "Physical", "security", "Information", "Security", "curriculum", "is", "receiving", "greater", "attention", "from", "many", "institutions", ",", "thanks", "to", "the", "standardization", "efforts", "by", "the", "Committee", "on", "National", "Security", "Systems", "-LRB-", "CNSS", "-RRB-", ".", "The", "CNSS", "members", "come", "from", "the", "National", "Security", "Agency", ",", "Department", "of", "Defense", ",", "and", "the", "Department", "of", "Homeland", "Security", ",", "among", "others", ".", "The", "CNSS", "standardization", "efforts", "are", "based", "on", "the", "Presidential", "Decision", "Directive", "-LSB-", "24", "-RSB-", "issued", "in", "1998", "for", "training", "professionals", "to", "protect", "the", "nation", "'s", "critical", "infrastructure", ".", "To", "achieve", "this", "goal", ",", "CNSS", "has", "developed", "five", "major", "standards", "known", "as", "the", "National", "Security", "Telecommunications", "Information", "Systems", "Security", "Instruction", "-LRB-", "NSTISSI", "-RRB-", ".", "The", "NSTISSI", "standards", "are", "numbered", "4011", ",", "4012", ",", "4013", ",", "4014", "and", "4015", "-LSB-", "8", "-RSB-", ".", "Additional", "standards", "under", "this", "sequence", "are", "in", "the", "offing", "as", "well", ".", "The", "relevance", "of", "these", "standards", "is", "that", "they", "include", "a", "vast", "number", "of", "topics", "that", "cover", "the", "entire", "gamut", "of", "information", "assurance", "and", "database", "security", "topics", "are", "included", "in", "many", "of", "these", "standards", ".", "First", ",", "we", "will", "briefly", "outline", "the", "main", "content", "of", "each", "of", "these", "standards", "and", "then", "move", "onto", "the", "main", "content", "of", "this", "paper", ".", "The", "4011", "standard", "covers", "the", "information", "security", "foundation", "topics", "such", "as", "wired", "and", "wireless", "communications", "basics", ",", "operations", "security", ",", "transmission", "security", ",", "information", "security", "from", "a", "policy", "perspective", ",", "cryptography", ",", "key", "management", ",", "legal", "aspects", "of", "security", ",", "contingency", "planning", "and", "disaster", "recovery", ",", "risk", "management", ",", "trust", ",", "auditing", ",", "and", "monitoring", ".", "At", "present", ",", "coverage", "of", "topics", "mentioned", "in", "this", "standard", "is", "considered", "essential", "by", "CNSS", "in", "every", "InfoSec", "curriculum", ".", "The", "4012", "standard", "is", "primarily", "aimed", "at", "training", "Designated", "Approving", "Authority", "personnel", ".", "A", "quick", "look", "at", "the", "following", "topics", "would", "show", "the", "relationship", "of", "these", "standards", "vis", "-", "-", "vis", "database", "security", ".", "The", "primary", "topics", "of", "this", "standard", "include", ":", "liabilities", ",", "legal", "issues", ",", "security", "policy", ",", "sensitive", "data", "access", "policy", ",", "threats", ",", "vulnerabilities", ",", "incident", "response", ",", "life", "cycle", "management", ",", "configuration", "management", ",", "and", "contingency", "management", ".", "The", "purpose", "of", "4013", "standard", "is", "to", "provide", "a", "minimum", "set", "of", "topics", "necessary", "for", "certifying", "Systems", "Administrators", "in", "Information", "Systems", "Security", ".", "Some", "of", "the", "topics", "in", "this", "category", "include", ":", "development", "and", "maintenance", "of", "security", "policies", "and", "procedures", ",", "education", ",", "training", "and", "awareness", "of", "such", "policies", ",", "development", "of", "countermeasures", "for", "known", "attacks", "as", "well", "as", "development", "of", "safeguards", ".", "Also", ",", "configuration", "management", "is", "an", "important", "part", "of", "4013", "standard", ".", "The", "standard", "for", "training", "Information", "Systems", "Security", "Officers", "is", "4014", ".", "This", "standard", "covers", "topics", "such", "as", "facilities", "planning", ",", "business", "continuity", ",", "and", "password", "management", ",", "access", "control", "policies", ",", "laws", "and", "regulations", "related", "to", "information", "security", ",", "privacy", ",", "encryption", "standards", ",", "intrusion", "detection", ",", "audit", "tools", ",", "and", "security", "reviews", ".", "The", "last", "standard", "currently", "in", "place", "in", "this", "series", "is", "numbered", "4015", ".", "This", "standard", "is", "for", "training", "System", "Certifiers", ".", "Among", "the", "main", "topics", "here", "are", ":", "defining", "roles", "and", "responsibilities", "for", "personnel", ",", "certification", "of", "systems", ",", "identifying", "process", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Information", "Security", "Curriculum", "Development", "-LRB-", "InfoSecCD", "-RRB-", "Conference", "'", "05", ",", "September", "23-24", ",", "2005", ",", "Kennesaw", ",", "GA", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-261-5", "...", "$", "5.00", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Information", "Security", "Curriculum", "Development", "-LRB-", "InfoSecCD", "-RRB-", "Conference", "'", "05", ",", "September", "23-24", ",", "2005", ",", "Kennesaw", ",", "GA", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-261-5", "/", "05/0009", "...", "$", "5.00", ".", "79", "boundaries", ",", "integration", ",", "security", "engineering", ",", "and", "applications", "security", ".", "These", "five", "standards", "have", "been", "in", "place", "since", "1994", "and", "are", "constantly", "getting", "updated", "by", "CNSS", ".", "Traditionally", ",", "the", "following", "courses", "are", "considered", "as", "a", "set", "of", "foundation", "courses", ":", "Network", "Security", ",", "Information", "Security", ",", "and", "Cryptography", ".", "Usually", "these", "courses", "are", "augmented", "by", "additional", "courses", "such", "as", "Operating", "System", "Security", ",", "Database", "Security", ",", "Secure", "E-commerce", ",", "and", "Security", "Management", ".", "In", "our", "curriculum", "at", "the", "University", "of", "Louisville", "we", "are", "offering", "the", "three", "foundation", "courses", "listed", "above", "and", "the", "Database", "Security", "course", ".", "The", "main", "purpose", "of", "this", "paper", "is", "to", "identify", "several", "topics", "that", "could", "be", "included", "in", "a", "Database", "Security", "course", ".", "In", "the", "last", "quarter", "of", "2004", "and", "the", "first", "quarter", "of", "2005", ",", "several", "incidents", "of", "theft", "or", "loss", "of", "data", "from", "databases", "of", "large", "organizations", "have", "brought", "to", "light", "the", "vulnerabilities", "in", "managing", "database", "systems", ".", "Every", "organization", "depends", "heavily", "on", "databases", ",", "both", "large", "and", "small", ",", "in", "order", "to", "manage", "inventory", ",", "human", "resources", ",", "and", "business", "functions", "on", "a", "day", "to", "day", "basis", ".", "Therefore", ",", "in", "order", "to", "mitigate", "risk", ",", "every", "organization", "must", "take", "adequate", "steps", "to", "protect", "the", "data", "that", "they", "hold", ".", "Issues", "related", "to", "technology", "as", "well", "as", "policies", "are", "important", "for", "the", "protection", "of", "data", ".", "Such", "topics", "form", "the", "core", "of", "this", "Database", "Security", "course", ",", "which", "we", "will", "discuss", "in", "greater", "detail", "in", "the", "remaining", "sections", ".", "At", "the", "University", "of", "Louisville", "-LRB-", "U", "of", "L", "-RRB-", ",", "InfoSec", "courses", "are", "offered", "in", "two", "departments", ".", "The", "Computer", "Information", "Systems", "-LRB-", "CIS", "-RRB-", "department", "in", "the", "College", "of", "Business", "offers", "an", "undergraduate", "concentration", "in", "InfoSec", "-LSB-", "36", "-RSB-", ".", "The", "Computer", "Science", "department", "in", "the", "college", "of", "Engineering", "offers", "graduate", "courses", "in", "InfoSec", "at", "the", "masters", "and", "doctoral", "levels", ".", "Database", "security", "course", "is", "offered", "as", "the", "second", "course", "in", "database", ",", "the", "first", "course", "being", "the", "standard", "database", "design", "and", "management", "course", ".", "Students", "taking", "the", "database", "security", "course", "are", "either", "juniors", "or", "seniors", "and", "are", "expected", "to", "have", "experience", "with", "one", "of", "the", "mainframe", "commercial", "databases", "such", "as", "Oracle", "or", "SQL", "Server", "2000", ".", "The", "major", "course", "objectives", "were", "for", "students", "to", ":", "Learn", "the", "fundamental", "concepts", "in", "database", "security", "Understand", "how", "access", "controls", "work", "in", "a", "database", "Learn", "to", "develop", "and", "manage", "secure", "database", "architectures", "Be", "familiar", "with", "the", "laws", "governing", "computer", "privacy", "Understand", "the", "alternatives", "to", "encrypting", "data", "at", "rest", "Understand", "the", "security", "implementations", "and", "vulnerabilities", "in", "commercial", "database", "systems", "such", "as", "Oracle", "and", "SQL", "Server", "2000", "Learn", "security", "audit", "methods", "Learn", "about", "multi-level", "database", "security", "The", "course", "content", "was", "covered", "using", "material", "from", "many", "sources", ",", "primarily", "research", "papers", ".", "The", "Database", "Security", "book", "by", "Castano", ",", "et", "al", "is", "an", "out", "of", "print", "book", "as", "it", "was", "originally", "developed", "in", "1994", ".", "The", "Database", "Security", "and", "Auditing", "book", "by", "Afyouni", "was", "printed", "in", "April", "2005", "and", "so", "was", "not", "available", "when", "the", "semester", "started", ".", "In", "the", "course", "we", "used", "two", "SQL", "Server", "Security", "books", "which", "were", "available", "in", "print", "and", "one", "Oracle", "Security", "book", "that", "was", "available", "in", "electronic", "form", "through", "Safari", "books", ".", "These", "books", "contributed", "to", "reinforcing", "concepts", "discussed", "by", "testing", "several", "attack", "methods", ".", "Another", "special", "feature", "of", "teaching", "the", "Database", "Security", "course", "was", "the", "availability", "of", "a", "dedicated", "InfoSec", "Lab", ".", "We", "will", "discuss", "the", "contribution", "of", "the", "InfoSec", "Lab", "later", "in", "this", "paper", ".", "The", "initial", "emphasis", "in", "the", "course", "was", "on", "incorporating", "database", "security", "concepts", "during", "the", "design", "phase", ".", "The", "primary", "reason", "for", "this", "emphasis", "was", "on", "the", "need", "for", "integration", "of", "various", "components", "of", "an", "information", "system", ".", "Since", "database", "security", "is", "heavily", "dependent", "on", "network", "security", ",", "operating", "system", "security", ",", "physical", "security", "and", "other", "applications", "security", "such", "an", "integrated", "approach", "is", "essential", "for", "an", "appreciation", "of", "design", "decisions", ".", "The", "course", "content", "was", "arranged", "in", "such", "a", "way", "that", "both", "technology", "and", "policy", "aspects", "were", "equally", "emphasized", ".", "This", "emphasis", "was", "motivated", "by", "the", "fact", "that", "there", "are", "several", "legal", "requirements", "to", "be", "met", "and", "people", "'s", "privacy", "must", "be", "protected", ".", "A", "compromised", "database", "endangers", "the", "privacy", "of", "individuals", "by", "the", "release", "of", "personal", "information", "such", "as", "social", "security", "number", ",", "date", "of", "birth", ",", "credit", "card", "numbers", ",", "and", "health", "history", ".", "An", "important", "part", "of", "database", "security", "is", "access", "control", ".", "There", "are", "several", "types", "of", "access", "controls", "that", "are", "available", "for", "the", "database", "administrator", "to", "work", "with", ".", "More", "importantly", ",", "choosing", "the", "proper", "type", "of", "access", "control", "enables", "the", "allocation", "and", "revocation", "of", "privileges", "to", "individuals", "for", "various", "components", "of", "the", "database", ".", "The", "three", "types", "of", "access", "controls", "discussed", "related", "to", "Mandatory", "Access", "Control", "-LRB-", "MAC", "-RRB-", ",", "Discretionary", "Access", "Control", "-LRB-", "DAC", "-RRB-", "and", "Role-based", "Access", "Control", "-LRB-", "RAC", "-RRB-", ".", "A", "simple", "example", "of", "MAC", "would", "be", "that", "of", "using", "a", "suitable", "password", "for", "database", "access", ".", "However", ",", "practical", "uses", "of", "databases", "always", "require", "overriding", "a", "default", "access", "privilege", "for", "a", "specific", "event", ".", "In", "such", "instances", "one", "uses", "Discretionary", "Access", "Control", ".", "Since", "database", "privileges", "sometimes", "have", "the", "inheritance", "property", "it", "becomes", "essential", "to", "understand", "how", "the", "particular", "commercial", "system", "would", "handle", "DAC", ".", "The", "most", "important", "of", "access", "controls", "is", "Role-based", "Access", "Control", ".", "Discussion", "of", "this", "topic", "showed", "the", "various", "nuances", "involved", "in", "assigning", "access", "privileges", "in", "a", "timely", "manner", "without", "hindering", "productivity", "and", "at", "the", "same", "time", "providing", "security", ".", "All", "necessary", "database", "accesses", "could", "be", "associated", "with", "a", "specific", "role", "that", "an", "individual", "performs", "in", "an", "organization", ".", "Since", "roles", "change", "often", "and", "consequently", "access", "needs", "change", "as", "well", ",", "it", "is", "much", "easier", "to", "manage", "access", "control", "by", "associating", "privileges", "with", "roles", ".", "It", "is", "worth", "noting", "that", "these", "three", "types", "of", "access", "controls", "are", "not", "mutually", "exclusive", "but", "work", "in", "combinations", "that", "suit", "the", "organizational", "needs", ".", "Another", "important", "aspect", "of", "database", "security", "is", "authentication", ".", "Since", "databases", "provide", "many", "views", "of", "the", "data", ",", "suitable", "privileges", "for", "the", "ability", "to", "drill", "down", "data", "requires", "appropriate", "authentication", ".", "The", "authentication", "aspect", "of", "database", "access", "supports", "the", "confidentiality", "in", "the", "CIA", "-LRB-", "Confidentiality-Integrity", "-", "Availability", "-RRB-", "triangle", "that", "is", "basic", "to", "information", "security", ".", "Authentication", "models", "discussed", "include", "single-factor", ",", "two-factor", ",", "and", "three-factor", "authentication", "and", "the", "attendant", "performance", "issues", ".", "Among", "the", "many", "topics", "covered", "in", "this", "course", ",", "one", "of", "the", "important", "ones", "relates", "to", "Multi-Level", "Secure", "-LRB-", "MLS", "-RRB-", "databases", "-LSB-", "12", ",", "14", "-RSB-", ".", "Commercial", "databases", "such", "as", "Oracle", "or", "SQL", "Server", "do", "not", "handle", "the", "MLS", "aspects", "in", "their", "software", ".", "However", ",", "it", "is", "an", "important", "aspect", "to", "be", "aware", "of", ".", "For", "example", ",", "in", "an", "80", "organization", "not", "every", "one", "has", "the", "access", "rights", "to", "view", "confidential", "information", ".", "Database", "queries", "are", "designed", "to", "pull", "all", "data", "that", "satisfy", "the", "query", "condition", ".", "In", "the", "MLS", "environment", ",", "the", "query", "condition", "would", "not", "necessarily", "reflect", "the", "security", "level", "of", "the", "person", "making", "the", "query", ".", "Since", "the", "security", "level", "authorization", "of", "the", "individual", "running", "the", "query", "is", "known", "from", "the", "login", "time", ",", "the", "MLS", "database", "is", "supposed", "to", "show", "all", "data", "that", "is", "cleared", "for", "that", "level", "of", "user", ".", "Usually", "the", "security", "levels", "could", "be", "unclassified", ",", "confidential", ",", "secret", ",", "or", "top", "secret", ".", "Not", "all", "fields", "of", "data", "in", "a", "record", "would", "need", "to", "be", "carrying", "a", "classification", ".", "Those", "sensitive", "data", "that", "have", "an", "associated", "security", "classification", "should", "be", "able", "to", "serve", "the", "needs", "of", "users", "with", "the", "appropriate", "security", "clearance", "and", "hide", "the", "data", "from", "others", ".", "A", "major", "problem", "to", "overcome", "in", "this", "context", "is", "known", "as", "polyinstantiation", "-LSB-", "13", "-RSB-", ".", "This", "concept", "refers", "to", "the", "fact", "that", "if", "persons", "with", "a", "lower", "clearance", "level", "have", "reason", "to", "suspect", "the", "existence", "of", "a", "record", "with", "hidden", "values", ",", "then", "they", "would", "be", "able", "to", "infer", ".", "Polyinstantiation", "could", "be", "addressed", "to", "a", "large", "extent", "by", "allowing", "certain", "redundancies", "in", "a", "database", ".", "Another", "common", "problem", "with", "MLS", "databases", "is", "the", "presence", "of", "inference", "channel", ".", "Inference", "channel", "leaks", "information", "about", "data", "classified", "at", "a", "higher", "level", "to", "users", "with", "lower", "level", "clearances", "-LSB-", "19", "-RSB-", ".", "Security", "policies", "also", "play", "an", "important", "role", "in", "protecting", "against", "inference", "channel", "leaks", ".", "A", "related", "approach", "to", "this", "problem", "is", "to", "develop", "classification", "constraints", "on", "data", ".", "These", "data", "classifications", "are", "then", "used", "at", "query", "time", "and", "then", "the", "appropriate", "level", "of", "the", "constraint", "is", "applied", "to", "the", "resulting", "data", "before", "it", "is", "presented", "to", "the", "user", ".", "In", "this", "context", "we", "discussed", "the", "security", "architecture", "for", "databases", ".", "This", "was", "broadly", "classified", "as", "those", "systems", "that", "use", "a", "Trusted", "Computing", "Base", "-LRB-", "TCB", "-RRB-", "that", "is", "external", "to", "the", "DBMS", "and", "those", "systems", "that", "manage", "access", "to", "data", "through", "the", "DBMS", "-LSB-", "22", "-RSB-", ".", "In", "the", "TCB", "architecture", ",", "the", "access", "controls", "were", "usually", "handled", "by", "the", "operating", "system", "or", "the", "network", ".", "In", "the", "DBMS", "control", "architecture", ",", "security", "design", "involved", "multi-factor", "authentication", "as", "well", "as", "security", "clearance", "and", "role-based", "access", ".", "As", "part", "of", "the", "secure", "architecture", "topic", ",", "we", "studied", "the", "Bell-LaPadula", "Model", "and", "the", "Biba", "Model", "-LSB-", "5", "-RSB-", ".", "Then", "we", "took", "a", "detailed", "look", "at", "the", "Seaview", "Model", "-LSB-", "17", "-RSB-", ".", "This", "is", "the", "first", "paper", "that", "studied", "in", "detail", "the", "security", "needs", "for", "database", "systems", "that", "contained", "data", "with", "various", "levels", "of", "security", "clearances", ".", "The", "major", "contribution", "of", "this", "paper", "was", "the", "application-independent", "nature", "of", "data", "integrity", "with", "particular", "reference", "to", "entity", "integrity", ",", "referential", "integrity", "and", "polyinstantiation", "integrity", ".", "We", "studied", "additional", "secure", "architecture", "topics", "with", "particular", "reference", "to", "commercial", "database", "systems", ".", "These", "topics", "include", "input", "validation", ",", "credential", "handling", "and", "encryption", ".", "Encryption", "is", "a", "major", "topic", "in", "itself", "in", "the", "security", "context", ".", "Usually", "encryption", "is", "an", "important", "tool", "for", "data", "in", "transit", ".", "However", ",", "the", "recent", "spate", "of", "incidents", "involving", "lost", "or", "stolen", "data", "-LSB-", "37", "-RSB-", "shows", "the", "need", "for", "protecting", "data", "at", "rest", "from", "falling", "into", "the", "wrong", "hands", ".", "One", "useful", "tool", "in", "this", "regard", "is", "encryption", ".", "We", "studied", "the", "impact", "of", "encrypted", "data", "with", "respect", "to", "performance", ".", "Usually", ",", "encryption", "of", "sensitive", "data", "at", "rest", "is", "a", "desirable", "feature", "provided", "the", "access", "to", "such", "data", "is", "not", "frequent", ".", "On", "the", "other", "hand", ",", "for", "data", "that", "is", "frequently", "used", "the", "better", "alternative", "to", "encryption", "would", "be", "to", "partially", "secure", "storage", "-LSB-", "31", ",", "33", "-RSB-", "whereby", "the", "data", "management", "is", "handled", "by", "an", "independent", "system", "that", "works", "outside", "the", "operating", "system", "control", ".", "This", "technique", "protects", "the", "data", "from", "hackers", "as", "the", "access", "control", "is", "under", "an", "independent", "system", "that", "is", "not", "manipulated", "by", "the", "operating", "system", ",", "where", "most", "of", "the", "vulnerabilities", "are", "exploited", ".", "In", "this", "context", "we", "studied", "the", "FARSITE", "model", "that", "discusses", "the", "reliable", "storage", "aspects", "in", "an", "incompletely", "trusted", "environment", "such", "as", "the", "Internet", "-LSB-", "2", "-RSB-", ".", "This", "research", ",", "performed", "at", "Microsoft", ",", "shows", "how", "``", "to", "harness", "the", "collective", "resources", "of", "loosely", "coupled", ",", "insecure", ",", "and", "unreliable", "machines", "to", "provide", "logically", "centralized", ",", "secure", ",", "and", "reliable", "file-storage", "service", ".", "''", "The", "next", "major", "topic", "covered", "was", "security", "audit", "for", "a", "database", ".", "The", "sources", "used", "for", "this", "topic", "were", "Jajodia", "-LSB-", "15", "-RSB-", ",", "Andrews", "-LSB-", "4", "-RSB-", ",", "and", "material", "from", "the", "Congressional", "Hearing", "reference", "provided", "in", "the", "References", "section", ".", "Audit", "involves", "different", "components", "such", "as", "login", ",", "access", "and", "storage", ".", "Commercial", "database", "systems", "such", "as", "Oracle", "and", "SQL", "Server", "facilitate", "login", "auditing", "in", "a", "simple", "way", ".", "For", "example", ",", "in", "SQL", "Server", "the", "user", "could", "set", "the", "login", "audit", "level", "to", "any", "one", "of", "four", "levels", ".", "Level", "0", "does", "not", "log", "any", "information", "about", "the", "logins", ",", "level", "1", "logs", "information", "about", "successful", "logins", "only", ",", "level", "2", "logs", "information", "about", "unsuccessful", "logins", "only", "and", "level", "3", "logs", "information", "about", "all", "attempted", "logins", ".", "This", "aspect", "of", "setting", "the", "appropriate", "level", "is", "related", "to", "the", "security", "policy", "of", "the", "organization", ".", "An", "organization", "might", "feel", "that", "they", "need", "to", "know", "only", "those", "people", "who", "attempted", "a", "login", "and", "failed", "as", "the", "ones", "who", "successfully", "logged", "in", "are", "considered", "authorized", "users", ".", "This", "is", "not", "a", "good", "assumption", "when", "it", "comes", "to", "computer", "forensics", "where", "one", "is", "trying", "to", "reconstruct", "an", "event", "that", "happened", "in", "the", "past", ".", "Consequently", ",", "organizations", "must", "consider", "the", "impact", "of", "their", "policies", "when", "it", "comes", "to", "information", "security", ".", "Auditing", "is", "also", "mandated", "by", "certain", "accreditation", "bodies", ".", "In", "order", "to", "satisfy", "certain", "data", "security", "requirements", ",", "some", "organizations", "might", "have", "to", "secure", "C2", "level", "security", "rating", "from", "the", "National", "Computer", "Security", "Center", "-LRB-", "NCSC", "-RRB-", ".", "The", "NCSC", "certification", "is", "measured", "according", "to", "the", "Department", "of", "Defense", "Trusted", "Computer", "System", "Evaluation", "Criteria", "-LSB-", "4", "-RSB-", ".", "We", "concluded", "the", "course", "with", "an", "analysis", "of", "database", "protection", ",", "copyright", "and", "privacy", "aspects", "both", "from", "a", "policy", "and", "legal", "perspective", ".", "First", ",", "we", "discussed", "the", "Congressional", "hearing", "on", "``", "Database", "and", "Collections", "of", "Information", "Misappropriation", "Act", "of", "2003", ".", "''", "This", "hearing", "showed", "the", "limitations", "of", "Copyright", "laws", "and", "how", "U.S.", "courts", "have", "interpreted", "the", "laws", "that", "protect", "privacy", ".", "We", "then", "studied", "the", "future", "of", "the", "database", "protection", "in", "U.S.", "and", "the", "laws", "to", "help", "in", "this", "regard", ".", "U.S.", "court", "rulings", ",", "including", "that", "of", "the", "Supreme", "Court", ",", "have", "shown", "that", "``", "sweat", "of", "the", "brow", "''", "argument", "does", "not", "offer", "protection", "for", "databases", ",", "rather", "the", "demonstration", "of", "some", "form", "of", "``", "originality", "''", "in", "data", "collection", "and", "dissemination", "is", "essential", "for", "database", "ownership", ".", "A", "court", "ruling", "in", "2001", "in", "United", "Kingdom", "in", "the", "case", "of", "the", "British", "Horseracing", "Board", "-LRB-", "BHB", "-RRB-", "has", "once", "again", "brought", "into", "focus", "the", "sweat", "of", "the", "brow", "argument", ".", "The", "U.K.", "court", "upheld", "the", "BHB", "'s", "claim", "of", "ownership", "of", "data", "pertaining", "to", "horses", "and", "jockeys", "-LSB-", "10", "-RSB-", ".", "It", "remains", "to", "be", "seen", "how", "the", "U.S.", "courts", "would", "consider", "challenges", "to", "the", "sweat", "of", "the", "brow", "argument", "when", "it", "comes", "to", "protecting", "large", "databases", "from", "competitors", ".", "In", "this", "course", "we", "used", "several", "different", "types", "of", "evaluation", "tools", ".", "Students", "were", "required", "to", "write", "three", "individual", "research", "reports", "on", "topics", "provided", "in", "class", ".", "The", "topics", "were", ":", "81", "1", ".", "Buffer", "overflows", "2", ".", "Security", "audit", "3", ".", "Sarbanes", "Oxley", "Act", "and", "its", "impact", "on", "Database", "Security", "On", "the", "testing", "side", ",", "we", "used", "a", "closed", "book", ",", "closed", "notes", ",", "midterm", "and", "final", "examinations", ".", "All", "questions", "were", "essay", "type", ".", "The", "students", "had", "access", "to", "a", "dedicated", "InfoSec", "lab", "where", "they", "could", "perform", "several", "different", "types", "of", "hands-on", "testing", "for", "vulnerabilities", "-LSB-", "32", "-RSB-", ".", "The", "InfoSec", "Lab", "has", "16", "workstations", "on", "a", "LAN", "connected", "to", "a", "Windows", "2000", "server", ".", "First", "the", "SQL", "Server", "2000", "was", "installed", "on", "the", "server", ".", "Two", "stand-alone", "computers", "that", "were", "not", "connected", "to", "the", "network", "were", "also", "provided", "to", "the", "students", "for", "testing", ".", "The", "first", "assignment", "provided", "a", "chance", "for", "the", "students", "to", "install", "SQL", "Server", "2000", "and", "choose", "appropriate", "security", "settings", "for", "various", "components", "of", "the", "database", ".", "The", "students", "then", "created", "new", "SQL", "Server", "accounts", "on", "the", "stand-alone", "computers", "and", "granted", "suitable", "privileges", "first", "and", "then", "tested", "the", "DENY", "and", "REVOKE", "features", "as", "well", ".", "The", "students", "had", "to", "install", "the", "latest", "SQL", "Server", "patches", "on", "the", "stand-alone", "computers", "and", "test", "for", "vulnerabilities", ".", "The", "dedicated", "lab", "environment", "provided", "an", "excellent", "facility", "for", "us", "to", "allow", "students", "to", "understand", "how", "a", "hacker", "would", "gain", "routine", "information", "about", "the", "database", "system", ".", "First", "the", "SQL", "Server", "2000", "was", "left", "unpatched", "and", "the", "students", "used", "the", "SQL", "Ping2", "utility", "to", "gather", "information", "about", "the", "database", "system", ".", "This", "showed", "the", "port", "1433", "in", "use", ".", "Then", "the", "SQL", "Server", "2000", "was", "patched", "with", "version", "3a", "and", "the", "students", "tried", "the", "same", "SQL", "Ping2", "utility", ",", "this", "time", "finding", "a", "different", "type", "of", "information", "about", "the", "SQL", "Server", ".", "Next", ",", "the", "SQL", "Server", "was", "put", "in", "hide", "mode", "and", "the", "students", "found", "out", "this", "piece", "of", "information", "by", "noticing", "that", "the", "listening", "port", "had", "changed", "to", "2433", ".", "We", "were", "able", "to", "accomplish", "this", "testing", "by", "making", "changes", "to", "the", "SQL", "Server", "every", "two", "days", "giving", "a", "short", "time", "between", "changes", "for", "testing", ".", "This", "was", "done", "as", "assignment", "2", ".", "The", "third", "assignment", "involved", "testing", "Bulk", "Copy", "/", "Bulk", "Insert", "features", "of", "SQL", "Server", ".", "The", "fourth", "assignment", "involved", "a", "buffer", "overflow", "attack", ".", "A", "sample", "code", "was", "given", "to", "the", "students", "to", "try", "the", "buffer", "overflow", "attack", "on", "the", "patched", "server", ".", "The", "patched", "server", "foiled", "the", "attack", ".", "The", "students", "were", "then", "asked", "to", "test", "the", "same", "buffer", "overflow", "attack", "on", "the", "stand-alone", "computers", "where", "patches", "were", "not", "applied", ".", "The", "last", "assignment", "involved", "SQL", "Injection", "attack", ".", "The", "students", "were", "given", "a", "series", "of", "codes", "for", "the", "SQL", "Injection", "attack", "testing", ".", "The", "first", "part", "involved", "logging", "into", "a", "SQL", "Server", "database", "system", "knowing", "the", "userid", "of", "the", "user", "but", "not", "the", "password", ".", "The", "second", "part", "involved", "not", "knowing", "the", "userid", "or", "the", "password", ".", "The", "third", "part", "involved", "creating", "a", "new", "user", "and", "then", "exploiting", "the", "system", ".", "The", "fourth", "part", "involved", "finding", "the", "password", "of", "the", "sa", "account", ".", "The", "fifth", "part", "involved", "dropping", "the", "SQL", "Server", "from", "the", "server", "and", "shutting", "down", "the", "SQL", "Server", "via", "SQL", "Injection", "attack", ".", "The", "students", "were", "given", "the", "challenge", "in", "the", "fourth", "part", "of", "the", "SQL", "Injection", "attack", "testing", "to", "find", "out", "the", "strong", "password", "used", "on", "the", "server", ",", "which", "had", "all", "the", "latest", "patches", "both", "for", "the", "SQL", "Server", "part", "and", "the", "operating", "system", "part", ".", "This", "required", "more", "work", "beyond", "the", "SQL", "knowledge", ".", "One", "of", "the", "students", "succeeded", "in", "finding", "out", "the", "server", "password", ",", "not", "just", "the", "sa", "password", ",", "which", "was", "much", "easier", "to", "get", "using", "SQL", "Injection", ".", "Overall", ",", "the", "students", "enjoyed", "the", "content", "of", "the", "course", "that", "involved", "learning", "many", "database", "security", "concepts", "and", "the", "ability", "to", "test", "many", "aspects", "of", "SQL", "Server", "installation", ",", "suitable", "settings", ",", "detect", "vulnerabilities", ",", "develop", "simple", "countermeasures", "and", "have", "the", "ability", "to", "use", "the", "logs", "to", "detect", "intrusion", ".", "This", "research", "was", "supported", "in", "part", "by", "the", "NSF", "grant", "DUE-0416900", "and", "the", "Kentucky", "Council", "on", "Postsecondary", "Education", "grant", "GB040955", ".", "-LSB-", "1", "-RSB-", "Abrams", ",", "M.", "D.", ",", "Jajodia", ",", "S.", ",", "Podell", ",", "H.", "J.", "1995", ".", "Information", "Security", ":", "An", "integrated", "collection", "of", "essays", ",", "IEEE", "Computer", "Society", "Press", ",", "CA", ".", "-LSB-", "2", "-RSB-", "Adya", ",", "A.", ",", "Bolosky", ",", "W.J.", ",", "Castro", ",", "M.", ",", "Cermak", ",", "G.", ",", "Chaiken", ",", "R.", ",", "Douceur", ",", "J.", ",", "Howell", ",", "J.", ",", "Lorch", ",", "J.R.", ",", "Theimer", ",", "M.", "and", "Wattenhofer", ",", "R.P.", ",", "2002", ".", "``", "FARSITE", ":", "Federated", ",", "Available", ",", "and", "Reliable", "Storage", "for", "an", "Incompletely", "Trusted", "Environment", ",", "''", "Proceedings", "of", "the", "5", "th", "Symposium", "on", "Operating", "Systems", "Design", "and", "Implementation", ",", "Boston", ",", "MA", ",", "December", ",", "1", "14", ".", "-LSB-", "3", "-RSB-", "Afyouni", ",", "H.", "A.", "2006", ".", "Database", "Security", "and", "Auditing", ",", "Course", "Technology", ",", "MA", ".", "-LSB-", "4", "-RSB-", "Andrews", ",", "C.", ",", "Litchfield", ",", "D.", ",", "Grindlay", ",", "B.", "2003", ".", "SQL", "Server", "Security", "Fundamentals", ",", "McGraw-Hill/Osborne", ",", "NY", ".", "-LSB-", "5", "-RSB-", "Castano", ",", "S.", ",", "Fugini", ",", "M.", ",", "Martella", ",", "G.", ",", "Samarati", ",", "P.", "1994", ".", "Database", "Security", ",", "ACM", "Press", "Books", "-LRB-", "Diane", "Publishing", "Co.", "-RRB-", ",", "NY", ".", "-LSB-", "6", "-RSB-", "Cerrudo", ",", "C.", "``", "Manipulating", "Microsoft", "SQL", "Server", "Using", "SQL", "Injection", "''", "http://database.ittoolbox.com/browse.asp?c=DBPeerPubl", "ishing", "&", "r", "=", "%", "2Fpub", "%", "2FSG090202", "%", "2Epdf", ",", "Accessed", "on", "07/25/2005", "-LSB-", "7", "-RSB-", "CERT", "http://www.cert.org", ",", "Accessed", "on", "05/20/2005", "-LSB-", "8", "-RSB-", "CNSS", "Stds", ".", "``", "National", "IA", "Education", "Standards", ",", "''", "http://www.nsa.gov/ia/academia/cnsstesstandards.cfm", "-LSB-", "9", "-RSB-", "Congressional", "Hearing", ",", "2003", ".", "``", "Database", "and", "Collections", "of", "Information", "Misappropriation", "Act", "of", "2003", ",", "''", "September", ".", "http://www.copyright.gov/docs/regstat092303.html", ",", "Accessed", "on", "04/10/2005", "-LSB-", "10", "-RSB-", "Duke", "University", ",", "2001", ".", "``", "The", "Future", "of", "Database", "Protection", "in", "U.S.", "Copyright", "Law", "''", "http://www.law.duke.edu/journals/dltr/articles/2001dltr0", "017.html", ",", "Accessed", "on", "04/15/2005", "-LSB-", "11", "-RSB-", "Hinke", ",", "T.", ",", "1995", ".", "``", "Multilevel", "Secure", "Database", "Management", "Prototypes", ",", "''", "in", "Information", "Security", ":", "An", "Integrated", "Collection", "of", "Essays", ",", "1", "edition", "st", ",", "Edited", "by", "Abrams", ",", "M.D.", ",", "Jajodia", ",", "S.G.", ",", "Podell", ",", "H.J.", ",", "Essay", "23", ",", "IEEE", "Computer", "Society", "Press", ",", "CA", ",", "542-569", ".", "82", "-LSB-", "12", "-RSB-", "Jajodia", ",", "S.", "and", "Sandhu", ",", "R.", ",", "1995", ".", "``", "Toward", "a", "Multilevel", "Secure", "Relational", "Model", ",", "''", "in", "Information", "Security", ":", "An", "Integrated", "Collection", "of", "Essays", ",", "1", "edition", "st", ",", "Edited", "by", "Abrams", ",", "M.D.", ",", "Jajodia", ",", "S.G.", ",", "Podell", ",", "H.J.", ",", "Essay", "20", ".", "IEEE", "Computer", "Society", "Press", ",", "CA", ",", "460-492", ".", "-LSB-", "13", "-RSB-", "Jajodia", ",", "S.", ",", "Sandhu", ",", "R.", "and", "Blaustein", ",", "B.T.", ",", "1995", ".", "``", "Solutions", "to", "the", "Polyinstantiation", "Problem", "''", "in", "Information", "Security", ":", "An", "Integrated", "Collection", "of", "Essays", ",", "1", "edition", "st", ",", "Edited", "by", "Abrams", ",", "M.D.", ",", "Jajodia", ",", "S.G.", ",", "Podell", ",", "H.J.", ",", "Essay", "21", ".", "IEEE", "Computer", "Society", "Press", ",", "CA", ",", "493-529", ".", "-LSB-", "14", "-RSB-", "Jajodia", ",", "S.", "and", "Meadows", ",", "C.", "1995", ".", "``", "Inference", "problems", "in", "multilevel", "secure", "database", "management", "systems", ",", "''", "in", "Information", "Security", ":", "An", "Integrated", "Collection", "of", "Essays", ",", "1", "edition", "st", ",", "Edited", "by", "Abrams", ",", "M.D.", ",", "Jajodia", ",", "S.G.", ",", "Podell", ",", "H.J.", ",", "Essay", "24", ".", "IEEE", "Computer", "Society", "Press", ",", "CA", ",", "570-584", ".", "-LSB-", "15", "-RSB-", "Jajodia", ",", "S.", ",", "Gadia", ",", "S.K.", ",", "and", "Bhargava", ",", "G.", ",", "1995", ".", "``", "Logical", "Design", "of", "Audit", "Information", "in", "Relational", "Databases", "''", "in", "Information", "Security", ":", "An", "Integrated", "Collection", "of", "Essays", ",", "1", "edition", "st", ",", "Edited", "by", "Abrams", ",", "M.D.", ",", "Jajodia", ",", "S.G.", ",", "Podell", ",", "H.J.", ",", "Essay", "25", ".", "IEEE", "Computer", "Society", "Press", ",", "CA", ",", "585-595", ".", "-LSB-", "16", "-RSB-", "Lewis", ",", "M.", "2004", ".", "``", "SQL", "Server", "Security", "Distilled", ",", "''", "2", "nd", "edition", ",", "Apress", ",", "CA", ".", "-LSB-", "17", "-RSB-", "Lunt", ",", "T.", ",", "Denning", ",", "D.", "E.", ",", "Schell", ",", "R.", "R.", ",", "Heckman", ",", "M.", "and", "Shockley", ",", "W.", "R.", "1990", ".", "``", "The", "Seaview", "Security", "Model", ",", "''", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "16", "-LRB-", "#", "6", "-RRB-", ",", "June", ",", "593", "607", ".", "-LSB-", "18", "-RSB-", "Mao", ",", "W.", "2004", ".", "``", "Modern", "Cryptography", ",", "''", "Prentice-Hall", ",", "NJ", ".", "-LSB-", "19", "-RSB-", "Meadows", ",", "C.", "and", "Jajodia", ",", "S.", ",", "1995", ".", "``", "Integrity", "in", "Multilevel", "Secure", "Database", "Management", "Systems", ",", "''", "in", "Information", "Security", ":", "An", "Integrated", "Collection", "of", "Essays", ",", "1", "edition", "st", ",", "Edited", "by", "Abrams", ",", "M.D.", ",", "Jajodia", ",", "S.G.", ",", "Podell", ",", "H.J.", ",", "Essay", "22", ".", "IEEE", "Computer", "Society", "Press", ",", "CA", ",", "530-541", ".", "-LSB-", "20", "-RSB-", "Nevins", ",", "S.C.", ",", "2003", ".", "``", "Database", "security", "breaches", "on", "the", "rise", "''", "http://www.snwonline.com/evaluate/database_", "security_03-31-03", ".", "asp?article", "_", "id", "=", "224", ",", "Accessed", "on", "04/15/2005", ".", "-LSB-", "21", "-RSB-", "Nessus", "http://www.nessus.org", ".", "Accessed", "on", "05/19/2005", ".", "-LSB-", "22", "-RSB-", "Notargiacomo", ",", "L.", "``", "Architectures", "for", "MLS", "Database", "Management", "Systems", "''", "in", "Information", "Security", ":", "An", "Integrated", "Collection", "of", "Essays", ",", "1", "edition", "st", ",", "Edited", "by", "Abrams", ",", "M.D.", ",", "Jajodia", ",", "S.G.", ",", "Podell", ",", "H.J.", ",", "Essay", "19", ".", "IEEE", "Computer", "Society", "Press", ",", "CA", ".", "-LSB-", "23", "-RSB-", "O'Reilly", "Publishers", ".", "Developing", "a", "Database", "Security", "Plan", "http://www.oreilly.com/catalog/orasec/chapter/ch07.html", "Accessed", "on", "03/10/2005", ".", "-LSB-", "24", "-RSB-", "PDD63", ",", "1998", ".", "http://www.fas.org/irp/offdocs/pdd/pdd63.htm", ",", "Accessed", "on", "05/22/2005", ".", "-LSB-", "25", "-RSB-", "Pernul", ",", "Gunther", ",", "1994", ".", "``", "Database", "Security", "''", "chapter", "in", "`", "Advances", "in", "Computers", ",", "'", "Edited", "by", "M.C.Yovits", ",", "vol", ".", "38", ",", "Academic", "Press", ",", "NY", ".", "-LSB-", "26", "-RSB-", "Rob", ",", "P.", "and", "Coronel", ",", "C.", "2004", ".", "``", "Design", ",", "Implementation", "and", "Management", ",", "''", "6", "th", "Edn.", ",", "Course", "Technology", ",", "MA", ".", "-LSB-", "27", "-RSB-", "Sandhu", ",", "R.", "and", "Samarati", ",", "P.", ",", "1994", ".", "``", "Access", "Control", ":", "Principles", "and", "Practice", ",", "''", "IEEE", "Communications", "Magazine", ",", "vol", ".", "32", ",", "September", ",", "40-48", ".", "-LSB-", "28", "-RSB-", "Sandhu", ",", "R.", ",", "Coyne", ",", "E.J.", ",", "Feinstein", ",", "H.", "L.", "and", "Youman", ",", "C.E.", ",", "1996", ".", "``", "Role-based", "Access", "Control", "Models", ",", "''", "IEEE", "Computer", ",", "vol", ".", "29", ",", "February", ",", "38-47", ".", "-LSB-", "29", "-RSB-", "SANS", "http://www.sans.org", ",", "Accessed", "on", "05/19/2005", ".", "-LSB-", "30", "-RSB-", "Solworth", ",", "J.", "A.", "2004", ".", "``", "Integrating", "Discretionary", "and", "Mandatory", "Access", "Controls", "''", "http://parsys.cs.uic.edu/~solworth/integratingMacDac.pd", "f.", "Accessed", "on", "04/15/2005", ".", "-LSB-", "31", "-RSB-", "Son", ",", "S.", "H.", ",", "Chaney", ",", "C.", ",", "and", "Thomlinson", ",", "N.", "P.", ",", "``", "Partial", "Security", "Policies", "to", "Support", "Timeliness", "in", "Secure", "Real", "time", "Databases", ",", "''", "1998", ".", "Proceedings", "of", "the", "IEEE", "Symposium", "on", "Security", "and", "Privacy", ",", "May", "3-6", ",", "136", "147", ".", "-LSB-", "32", "-RSB-", "Srinivasan", ",", "S.", "2005", ".", "``", "Design", "and", "Development", "of", "an", "Information", "Security", "Laboratory", ",", "''", "Proceedings", "of", "the", "9", "th", "Annual", "Colloquium", "on", "Information", "System", "Security", "Education", ",", "Atlanta", ",", "GA", ",", "June", "6-9", ".", "-LSB-", "33", "-RSB-", "Strunk", ",", "J.D.", ",", "Goodson", ",", "G.R.", ",", "Scheinholtz", ",", "M.L.", ",", "Soules", ",", "C.A.N.", "and", "Ganger", ",", "G.R.", ",", "2003", ".", "``", "Self-Securing", "Storage", ":", "Protecting", "Data", "in", "Compromised", "Systems", ",", "''", "Foundations", "of", "Intrusion", "Tolerant", "Systems", ",", "195", "209", ".", "-LSB-", "34", "-RSB-", "Theriault", ",", "M.", "and", "Heney", ",", "W.", "1998", ".", "``", "Oracle", "Security", ",", "''", "O'Reilly", "Publishers", ",", "IN", ".", "-LSB-", "35", "-RSB-", "Tomson", ",", "B.", ",", "2004", ".", "``", "SQL", "Server", "2000", "Security", "Best", "Practices", "''", "http://wp.bitpipe.com/resource/org_1078177630_947/SQ", "Lserver2000.pdf", ".", "Accessed", "on", "03/20/2005", ".", "-LSB-", "36", "-RSB-", "UofL", "InfoSec", ",", "2005", ".", "``", "InfoSec", "Program", "website", ",", "''", "http://www.louisville.edu/infosec", "-LSB-", "37", "-RSB-", "Wall", "Street", "Journal", ",", "2005", ".", "``", "ChoicePoint", "struggles", "to", "gauge", "how", "much", "information", "fell", "into", "wrong", "hands", ",", "''", "May", "3", ",", "Page", "1", ".", "83"], "doc_bio_tags": ["B", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["inference channel", "database", "buffer overflows", "encryption", "access control", "security", "authentication", "policy", "inference", "cia", "polyinstantiation", "privacy"], "abstractive_keyphrases": ["multilevel security"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "7", "document": ["A", "Fair", "and", "Traffic", "Dependent", "Scheduling", "Algorithm", "for", "Bluetooth", "Scatternets", "mechanisms", "and", "algorithms", "necessary", "to", "set", "up", "and", "maintain", "them", ".", "The", "operation", "of", "a", "scatternet", "requires", "some", "Bluetooth", "units", "to", "be", "inter-piconet", "units", "-LRB-", "gateways", "-RRB-", ",", "which", "need", "to", "time-division", "multiplex", "their", "presence", "among", "their", "piconets", ".", "This", "requires", "a", "scatternet-scheduling", "algorithm", "that", "can", "schedule", "the", "presence", "of", "these", "units", "in", "an", "efficient", "manner", ".", "In", "this", "paper", ",", "we", "propose", "a", "distributed", "scatternet-scheduling", "scheme", "that", "is", "implemented", "using", "the", "HOLD", "mode", "of", "Bluetooth", "and", "adapts", "to", "non-uniform", "and", "changing", "traffic", ".", "Another", "attribute", "of", "the", "scheme", "is", "that", "it", "results", "in", "fair", "allocation", "of", "bandwidth", "to", "each", "Bluetooth", "unit", ".", "This", "scheme", "provides", "an", "integrated", "solution", "for", "both", "intra-and", "inter-piconet", "scheduling", ",", "i.e.", ",", "for", "polling", "of", "slaves", "and", "scheduling", "of", "gateways", ".", "The", "Bluetooth", "-LSB-", "10", "-RSB-", "technology", "was", "developed", "as", "a", "replacement", "of", "cables", "between", "electronic", "devices", "and", "this", "is", "perhaps", "its", "most", "obvious", "use", ".", "But", ",", "it", "is", "the", "ability", "of", "Bluetooth", "devices", "to", "form", "small", "networks", "called", "piconets", "that", "opens", "up", "a", "whole", "new", "arena", "for", "applications", "where", "information", "may", "be", "exchanged", "seamlessly", "among", "the", "devices", "in", "the", "piconet", ".", "Typ-ically", ",", "such", "a", "network", ",", "referred", "to", "as", "a", "PAN", "-LRB-", "Personal", "Area", "Network", "-RRB-", ",", "consists", "of", "a", "mobile", "phone", ",", "laptop", ",", "palmtop", ",", "headset", ",", "and", "other", "electronic", "devices", "that", "a", "person", "carries", "around", "in", "his", "every", "day", "life", ".", "The", "PAN", "may", ",", "from", "time", "to", "time", ",", "also", "include", "devices", "that", "are", "not", "carried", "along", "with", "the", "user", ",", "e.g.", ",", "an", "access", "point", "for", "Internet", "access", "or", "sensors", "located", "in", "a", "room", ".", "Moreover", ",", "devices", "from", "other", "PANs", "can", "also", "be", "interconnected", "to", "enable", "sharing", "of", "information", ".", "The", "networking", "capabilities", "of", "Bluetooth", "can", "be", "further", "enhanced", "by", "interconnecting", "piconets", "to", "form", "scatternets", ".", "This", "requires", "that", "some", "units", "be", "present", "in", "more", "than", "one", "piconet", ".", "These", "units", ",", "called", "gateways", ",", "need", "to", "time-division", "their", "presence", "among", "the", "piconets", ".", "An", "important", "issue", "with", "the", "gateways", "is", "that", "their", "presence", "in", "different", "piconets", "needs", "to", "be", "scheduled", "in", "an", "efficient", "manner", ".", "Moreover", ",", "since", "the", "gateway", "can", "not", "receive", "information", "from", "more", "than", "one", "piconet", "at", "a", "time", ",", "there", "is", "a", "need", "to", "co-ordinate", "the", "presence", "of", "masters", "and", "gateways", ".", "Some", "previous", "work", "has", "looked", "at", "scheduling", "in", "a", "piconet", "-LSB-", "2,5", "-RSB-", "and", "also", "in", "a", "scatternet", ".", "In", "-LSB-", "4", "-RSB-", ",", "the", "authors", "define", "a", "Rendezvous-Point", "based", "architecture", "for", "scheduling", "in", "a", "scatternet", ",", "which", "results", "in", "the", "gateway", "spending", "a", "fixed", "fraction", "of", "its", "time", "in", "each", "piconet", ".", "Such", "a", "fixed", "time-division", "of", "the", "gateway", "may", "clearly", "be", "inefficient", "since", "traffic", "is", "dynamic", ".", "In", "-LSB-", "9", "-RSB-", ",", "the", "authors", "propose", "the", "Pseudo-Random", "Coordinated", "Scatternet", "Scheduling", "-LRB-", "PCSS", "-RRB-", "scheme", "in", "which", "Bluetooth", "nodes", "assign", "meeting", "points", "with", "their", "peers", ".", "The", "sequence", "of", "meeting", "points", "follows", "a", "pseudo-random", "process", "that", "leads", "to", "unique", "meeting", "points", "for", "different", "peers", "of", "a", "node", ".", "The", "intensity", "of", "these", "meeting", "points", "may", "be", "increased", "or", "decreased", "according", "to", "the", "traffic", "intensity", ".", "This", "work", "presents", "performance", "results", "for", "various", "cases", ".", "In", "-LSB-", "11", "-RSB-", ",", "a", "scatternet-scheduling", "algorithm", "based", "on", "the", "concept", "of", "a", "switch", "table", ",", "which", "can", "be", "dynamically", "adjusted", "based", "on", "traffic", "load", ",", "is", "presented", ".", "In", "-LSB-", "1", "-RSB-", ",", "the", "authors", "present", "a", "credit-based", "scheduling", "scheme", "based", "on", "the", "SNIFF", "mode", "of", "Bluetooth", ",", "where", "credits", "may", "be", "reallocated", "to", "cater", "to", "changing", "traffic", ".", "Our", "scheduling", "scheme", "addresses", "the", "issues", "of", "fairness", "and", "utilization", "of", "bandwidth", ".", "Since", "Bluetooth", "is", "a", "low-bandwidth", "environment", ",", "it", "is", "important", "that", "bandwidth", "should", "be", "effi-ciently", "utilized", ".", "Also", ",", "since", "a", "low", "bandwidth", "can", "easily", "lead", "to", "starvation", "of", "flows", ",", "another", "metric", "we", "focus", "on", "is", "fairness", ".", "We", "propose", "a", "distributed", "scatternet-scheduling", "algorithm", "that", "is", "implemented", "using", "the", "HOLD", "mode", "-LSB-", "10", "-RSB-", "of", "Bluetooth", "and", "adapts", "to", "non-uniform", "and", "changing", "traffic", ".", "This", "algorithm", "provides", "an", "integrated", "solution", "for", "both", "intra", "-", "and", "inter-piconet", "scheduling", ",", "i.e.", ",", "for", "polling", "of", "slaves", "and", "scheduling", "of", "gateways", ".", "The", "algorithm", "leads", "to", "a", "high", "bandwidth", "utilization", "and", "results", "in", "a", "fair", "division", "of", "-LRB-", "a", "-RRB-", "the", "piconet", "bandwidth", "between", "the", "slaves", "of", "a", "piconet", "and", "-LRB-", "b", "-RRB-", "the", "gateway", "presence", "among", "different", "piconets", ".", "In", "section", "2", ",", "we", "discuss", "the", "Bluetooth", "technology", ".", "In", "section", "3", ",", "we", "present", "a", "definition", "of", "fairness", "in", "the", "context", "10", "R.", "KAPOOR", "ET", "AL.", ".", "Figure", "1", ".", "Gateway", "may", "be", "viewed", "as", "a", "virtual", "master", "and", "masters", "as", "virtual", "slaves", ".", "of", "Bluetooth", "scatternets", ",", "which", "takes", "into", "account", "intra", "-", "and", "inter-piconet", "max-min", "fairness", ".", "Section", "4", "describes", "the", "algorithm", "and", "proves", "its", "fairness", "property", ".", "Section", "5", "presents", "simulation", "results", "and", "section", "6", "presents", "the", "conclusions", ".", "The", "Bluetooth", "system", "-LSB-", "3", "-RSB-", "operates", "in", "the", "worldwide", "unlicensed", "2.4", "GHz", "Industrial", "Scientific", "Medical", "-LRB-", "ISM", "-RRB-", "frequency", "band", ".", "To", "make", "the", "link", "robust", "to", "interference", ",", "it", "uses", "a", "Frequency", "Hopping", "-LRB-", "FH", "-RRB-", "technique", "with", "79", "radio", "carriers", ".", "It", "allows", "a", "raw", "data", "transmission", "rate", "of", "1", "Mbit/s", ".", "Two", "or", "more", "Bluetooth", "units", "sharing", "the", "same", "channel", "form", "a", "piconet", ".", "Each", "piconet", "consists", "of", "a", "master", "unit", "and", "up", "to", "seven", "active", "slave", "units", ".", "The", "master", "unit", "polls", "the", "slave", "units", "according", "to", "a", "polling", "algorithm", "and", "a", "slave", "is", "only", "allowed", "to", "transmit", "after", "the", "master", "has", "polled", "it", ".", "The", "piconet", "capacity", "is", "thus", ",", "shared", "among", "the", "slave", "units", "according", "to", "the", "polling", "algorithm", ".", "Furthermore", ",", "two", "or", "more", "piconets", "can", "be", "interconnected", ",", "forming", "a", "scatternet", ".", "This", "requires", "a", "unit", ",", "called", "an", "inter-piconet", "unit", "-LRB-", "gateway", "-RRB-", ",", "to", "be", "a", "part", "of", "more", "than", "one", "piconet", ".", "Such", "a", "unit", "can", "simultaneously", "be", "a", "slave", "member", "of", "multiple", "piconets", ",", "but", "a", "master", "in", "only", "one", ",", "and", "can", "transmit", "and", "receive", "data", "in", "only", "one", "piconet", "at", "a", "time", ";", "so", "participation", "in", "multiple", "piconets", "has", "to", "be", "on", "a", "time-division", "multiplex", "basis", ".", "The", "time", "of", "the", "gateway", "is", ",", "thus", ",", "also", "shared", "among", "the", "piconets", "it", "belongs", "to", ".", "In", "this", "work", ",", "we", "assume", "that", "the", "gateway", "can", "only", "be", "a", "slave", "in", "its", "piconets", ".", "If", "a", "gateway", "were", "to", "be", "a", "master", "in", "a", "piconet", ",", "it", "would", "lead", "to", "the", "stoppage", "of", "all", "transmission", "in", "the", "piconet", "when", "the", "gateway", "visits", "some", "other", "piconet", ".", "Thus", ",", "we", "believe", "that", "the", "use", "of", "the", "gateway", "as", "a", "slave", "is", "the", "most", "efficient", "method", "of", "scatternetting", ".", "As", "introduced", "in", "the", "previous", "section", ",", "units", "belonging", "to", "a", "piconet", "share", "the", "piconet", "capacity", "according", "to", "the", "polling", "algorithm", "used", "by", "the", "master", ".", "In", "an", "analogous", "manner", ",", "gateways", "in", "a", "scatternet", "divide", "their", "time", "among", "their", "different", "piconets", ",", "according", "to", "the", "``", "master-listening", "''", "algorithm", "they", "use", ".", "It", "can", "be", "noted", "that", "there", "is", "a", "duality", "in", "this", "architecture", ".", "On", "the", "one", "hand", ",", "a", "master", "divides", "its", "capacity", "among", "the", "units", "of", "its", "piconet", "by", "using", "a", "polling", "algorithm", ".", "On", "the", "other", "hand", ",", "a", "gateway", "shares", "its", "capacity", "among", "the", "piconets", "it", "belongs", "to", ",", "on", "the", "basis", "of", "a", "scheduling", "algorithm", "it", "uses", "for", "listening", "to", "the", "masters", ".", "The", "gateway", ",", "can", ",", "then", "be", "viewed", "as", "a", "``", "virtual", "master", "''", "and", "its", "masters", "can", "be", "viewed", "as", "``", "virtual", "slaves", "''", "forming", "a", "``", "virtual", "piconet", "''", ",", "in", "which", "the", "polling", "cycle", "is", ",", "actually", ",", "the", "``", "listening", "cycle", "''", "of", "the", "gateway", ".", "A", "graphical", "interpretation", "of", "this", "duality", "is", "given", "in", "figure", "1", ",", "in", "which", "the", "solid", "line", "shows", "the", "actual", "piconets", ",", "and", "the", "dotted", "line", "shows", "the", "virtual", "piconet", ".", "Due", "to", "this", "duality", ",", "we", "design", "our", "scheduling", "scheme", "such", "that", "the", "same", "scheduling", "algorithm", "is", "used", "for", "fair", "sharing", "of", "both", "-LRB-", "a", "-RRB-", "the", "piconet", "capacity", "among", "slaves", "and", "-LRB-", "b", "-RRB-", "the", "gateway", "time", "among", "piconets", ".", "We", "now", "give", "a", "definition", "of", "max-min", "fairness", "-LSB-", "7", "-RSB-", ".", "We", "then", "go", "on", "to", "define", "max-min", "fairness", "in", "the", "context", "of", "Bluetooth", "scatternets", ",", "by", "considering", "-LRB-", "a", "-RRB-", "intra-piconet", "fairness", ",", "i.e.", ",", "fairness", "in", "division", "of", "piconet", "bandwidth", "among", "slaves", "-LRB-", "both", "gateway", "and", "non-gateway", "-RRB-", "of", "a", "piconet", "and", "-LRB-", "b", "-RRB-", "inter-piconet", "fairness", ",", "i.e.", ",", "fairness", "in", "division", "of", "the", "gateway", "'s", "presence", "among", "its", "piconets", ".", "We", "first", "define", "a", "`", "feasible", "'", "rate", "distribution", "since", "this", "is", "used", "in", "the", "definition", "of", "max-min", "fairness", ".", "Definition", "1", "-LRB-", "Feasible", "-RRB-", ".", "A", "rate", "distribution", "is", "feasible", "if", "rates", "are", "non-negative", ",", "the", "aggregate", "rate", "is", "not", "greater", "than", "one", ",", "and", "no", "unit", "receives", "a", "higher", "rate", "than", "required", ".", "Definition", "2", "-LRB-", "Max-min", "fairness", "-RRB-", ".", "An", "allocation", "of", "rates", "1", ",", "2", ",", "...", ",", "s", "among", "s", "units", "is", "max-min", "fair", "if", "it", "is", "feasible", ",", "and", "for", "each", "unit", "i", ",", "i", "can", "not", "be", "increased", "-LRB-", "while", "maintaining", "fea-sibility", "-RRB-", "without", "decreasing", "j", "for", "some", "other", "unit", "j", "for", "which", "j", "i", ".", "The", "distribution", "of", "max-min", "fair", "rates", "depends", "upon", "the", "set", "of", "rate", "demands", "-LRB-", "traffic", "generated", "-RRB-", "of", "the", "units", ".", "In", "the", "following", "subsections", ",", "we", "discuss", "factors", "that", "determine", "the", "max-min", "``", "fair", "share", "''", "of", "a", "slave", "-LRB-", "gateway", "or", "non-gateway", "-RRB-", ".", "We", "call", "these", "factors", "the", "Piconet", "Presence", "Fraction", "and", "the", "Scatternet", "Presence", "Fraction", "and", "show", "how", "they", "may", "be", "used", "to", "calculate", "the", "``", "fair", "share", "''", "for", "a", "slave", "in", "a", "scatternet", ".", "3.1", ".", "Piconet", "presence", "fraction", "Consider", "a", "piconet", "consisting", "of", "gateway", "and", "non-gateway", "slaves", "in", "which", "the", "master", "has", "complete", "knowledge", "of", "the", "rate", "demands", "of", "all", "slaves", "-LRB-", "an", "ideal", "master", "-RRB-", ".", "Using", "this", "knowledge", ",", "the", "master", "polls", "the", "slaves", "in", "a", "max-min", "fair", "manner", "such", "that", "each", "slave", "gets", "its", "``", "fair", "share", "''", "of", "the", "master", "'s", "polling", ".", "We", "refer", "to", "the", "``", "fair", "share", "''", "received", "by", "a", "slave", "as", "the", "``", "piconet", "presence", "fraction", "''", "-LRB-", "PPF", "-RRB-", "of", "the", "slave", ".", "The", "gateway", "has", "a", "PPF", "for", "each", "piconet", "it", "belongs", "to", ".", "Consider", "the", "piconets", "shown", "in", "figures", "2", "-LRB-", "a", "-RRB-", "and", "2", "-LRB-", "b", "-RRB-", ",", "each", "consisting", "of", "one", "gateway", "and", "two", "slaves", ",", "with", "the", "traffic", "rates", "of", "each", "slave", "as", "shown", ".", "In", "figure", "2", "-LRB-", "a", "-RRB-", "-LRB-", "Piconet", "I", "-RRB-", ",", "the", "PPF", "of", "each", "non-gateway", "slave", "is", "0.2", ",", "while", "the", "PPF", "of", "the", "gateway", "is", "0.6", ".", "In", "figure", "2", "-LRB-", "b", "-RRB-", "-LRB-", "Piconet", "II", "-RRB-", ",", "the", "PPFs", "of", "the", "slaves", "are", "0.2", "and", "0.4", ",", "while", "the", "PPF", "of", "the", "gateway", "is", "0.4", ".", "A", "FAIR", "AND", "TRAFFIC", "DEPENDENT", "SCHEDULING", "11", "Figure", "2", ".", "Piconets", "with", "traffic", "rates", "between", "master", "and", "each", "slave", "shownn", ".", "3.2", ".", "Scatternet", "presence", "fraction", "A", "gateway", "will", ",", "in", "general", ",", "be", "a", "slave", "in", "multiple", "piconets", "and", "may", "have", "different", "amounts", "of", "traffic", "to", "exchange", "with", "each", "piconet", ".", "Consider", "an", "ideal", "gateway", "that", "has", "complete", "knowledge", "of", "the", "rate", "demands", "of", "all", "its", "masters", ".", "The", "gateway", "can", "then", "divide", "its", "presence", "among", "its", "piconets", "in", "a", "max-min", "fair", "manner", ",", "giving", "each", "piconet", "a", "``", "fair", "share", "''", "of", "its", "presence", ".", "We", "call", "this", "fair", "share", "the", "``", "scatternet", "presence", "fraction", "''", "-LRB-", "SPF", "-RRB-", "of", "the", "gateway", "for", "the", "piconet", ".", "The", "importance", "of", "the", "SPF", "is", "that", "a", "fair", "division", "of", "the", "gateway", "'s", "presence", "among", "its", "piconets", "can", "be", "achieved", "based", "on", "the", "SPF", ".", "Consider", "the", "piconets", "of", "figure", "2", "again", ",", "but", "the", "gateway", "of", "each", "of", "the", "piconets", "now", "connects", "them", "to", "form", "a", "scatternet", ",", "as", "shown", "in", "figure", "3", ".", "The", "traffic", "requirements", "are", "the", "same", "as", "shown", "in", "figure", "2", ".", "The", "SPF", "of", "the", "gateway", "is", "0.5", "in", "Piconet", "I", "and", "0.5", "in", "Piconet", "II", ".", "3.3", ".", "Fair", "share", "We", "see", "that", "for", "a", "gateway", "to", "be", "fair", ",", "there", "are", "two", "kinds", "of", "fairness", "it", "has", "to", "achieve", ":", "that", "dictated", "by", "the", "PPFs", ",", "which", "achieves", "fairness", "between", "the", "gateway", "and", "the", "other", "slaves", "of", "a", "piconet", ",", "and", "that", "of", "the", "SPFs", ",", "which", "distributes", "the", "presence", "of", "the", "gateway", "between", "its", "piconets", "in", "a", "fair", "manner", ".", "Both", "these", "kinds", "of", "fairness", "may", "not", "always", "be", "completely", "achiev-able", "and", "this", "can", "lead", "to", "a", "change", "in", "the", "values", "of", "PPF", "and", "SPF", ",", "as", "we", "now", "discuss", ".", "We", "observe", "that", "an", "ideal", "master", "-LRB-", "as", "in", "section", "3.1", "-RRB-", "does", "not", "give", "a", "gateway", "more", "than", "the", "PPF", "of", "its", "polling", ".", "Thus", ",", "if", "the", "SPF", "of", "a", "gateway", "is", "greater", "than", "its", "PPF", "for", "a", "piconet", ",", "the", "gateway", "spends", "a", "fraction", "of", "its", "time", "equal", "to", "the", "PPF", "in", "the", "piconet", ".", "The", "gateway", "can", "not", "stay", "for", "a", "fraction", "equal", "to", "its", "SPF", "in", "the", "piconet", "since", "it", "is", "limited", "by", "its", "PPF", ".", "Thus", ",", "the", "extra", "scatternet", "presence", "fraction", "-LRB-", "the", "difference", "of", "the", "SPF", "and", "the", "PPF", "-RRB-", "is", "redistributed", "in", "a", "fair", "manner", "among", "the", "gateway", "'s", "other", "piconets", "for", "which", "the", "SPF", "is", "less", "than", "the", "PPF", ".", "This", "may", "increase", "the", "SPF", "of", "the", "gateway", "in", "the", "other", "piconets", ".", "In", "other", "words", ",", "the", "gateway", "behaves", "as", "if", "its", "SPF", "in", "a", "particular", "piconet", "is", "reduced", "to", "the", "PPF", "and", "thus", ",", "its", "SPF", "in", "the", "other", "piconets", "increases", ".", "We", "refer", "to", "this", "changed", "SPF", "as", "the", "``", "updated", "SPF", "''", "of", "the", "gateway", "in", "a", "piconet", ".", "Similarly", ",", "an", "ideal", "gateway", "does", "not", "stay", "a", "fraction", "of", "time", "more", "than", "the", "SPF", "in", "a", "piconet", ".", "Thus", ",", "if", "the", "PPF", "of", "the", "gate-Table", "1", "Calculation", "of", "fair", "share", "of", "the", "gateway", "in", "the", "two", "piconets", "of", "figure", "3", ".", "Piconet", "I", "Piconet", "II", "Actual", "traffic", "rate", "0.7", "0.6", "PPF", "0.6", "0.4", "SPF", "0.5", "0.5", "Updated", "PPF", "0.6", "0.4", "Updated", "SPF", "0.6", "0.4", "Fair", "share", "0.6", "0.4", "Figure", "3", ".", "Gateway", "shared", "between", "two", "piconets", ";", "traffic", "rates", "between", "slaves", "and", "the", "master", "are", "shown", ".", "way", "in", "the", "piconet", "is", "greater", "than", "the", "SPF", ",", "the", "gateway", "spends", "a", "fraction", "of", "time", "equal", "to", "the", "SPF", "in", "the", "piconet", ".", "The", "remaining", "PPF", "of", "the", "gateway", "-LRB-", "the", "difference", "of", "the", "PPF", "and", "the", "SPF", "-RRB-", "is", "redistributed", "in", "a", "fair", "manner", "among", "the", "other", "slaves", "of", "the", "piconet", "-LRB-", "if", "this", "other", "slave", "is", "a", "gateway", ",", "it", "is", "redistributed", "to", "it", "if", "its", "SPF", "is", "greater", "than", "its", "PPF", "in", "the", "piconet", "-RRB-", ".", "This", "may", "increase", "the", "PPF", "of", "these", "slaves", ".", "We", "refer", "to", "this", "changed", "PPF", "as", "the", "``", "updated", "PPF", "''", "of", "the", "slave", "in", "the", "piconet", ".", "In", "case", "there", "is", "no", "such", "redistribution", ",", "the", "updated", "PPF", "is", "equal", "to", "the", "PPF", "and", "the", "updated", "SPF", "is", "equal", "to", "the", "SPF", ".", "The", "fair", "share", "can", "now", "be", "calculated", "from", "the", "``", "updated", "PPF", "''", "and", "the", "``", "updated", "SPF", "''", "as", "the", "minimum", "of", "these", "two", "quantities", ".", "Note", "that", "all", "these", "quantities", "PPF", ",", "SPF", ",", "updated", "PPF", ",", "updated", "SPF", "and", "fair", "share", "are", "dependent", "on", "the", "traffic", ".", "Any", "change", "in", "traffic", "demand", "of", "a", "unit", "may", "lead", "to", "a", "change", "in", "some", "of", "these", "quantities", ".", "We", "explain", "the", "calculation", "of", "the", "fair", "share", "using", "some", "examples", ".", "An", "example", "is", "given", "in", "table", "1", ",", "which", "shows", "the", "actual", "traffic", "rate", ",", "PPF", ",", "SPF", ",", "Updated", "PPF", ",", "Updated", "SPF", "and", "fair", "share", "of", "the", "gateway", "in", "the", "two", "piconets", "of", "figure", "3", ".", "In", "Piconet", "II", ",", "the", "gateway", "has", "a", "PPF", "of", "0.4", ",", "which", "is", "less", "than", "the", "SPF", ".", "In", "Piconet", "I", ",", "the", "gateway", "has", "a", "PPF", "of", "0.6", "and", "an", "SPF", "of", "0.5", ".", "Thus", ",", "the", "extra", "scatternet", "presence", "fraction", "of", "the", "gateway", "in", "Piconet", "II", "-LRB-", "the", "difference", "between", "the", "SPF", "and", "the", "PPF", "-RRB-", "is", "given", "to", "Piconet", "I", ",", "which", "has", "a", "higher", "traffic", "rate", "than", "may", "be", "allowed", "by", "the", "SPF", ".", "This", "is", "reflected", "in", "the", "``", "updated", "SPF", "''", "values", ".", "Thus", ",", "the", "``", "fair", "share", "''", "of", "the", "gateway", "in", "Piconet", "I", "is", "0.6", "and", "in", "Piconet", "II", "is", "0.4", ".", "The", "fair", "shares", "of", "the", "non-gateway", "slaves", "are", "equal", "to", "their", "PPF", ".", "As", "another", "example", ",", "consider", "the", "scatternet", "consisting", "of", "5", "piconets", "with", "the", "traffic", "rates", "shown", "as", "in", "figure", "4", ".", "As", "shown", "in", "table", "2", ",", "gateway", "G2", "has", "a", "PPF", "of", "0.5", "and", "an", "SPF", "of", "0.4", "in", "Piconet", "B.", "Thus", ",", "the", "``", "updated", "PPF", "''", "of", "G2", "in", "Piconet", "B", "is", "0.4", ".", "The", "extra", "PPF", "-LRB-", "=", "PPF", "-", "SPF", "-RRB-", "is", "added", "to", "the", "PPF", "of", "gateway", "12", "R.", "KAPOOR", "ET", "AL.", ".", "Figure", "4", ".", "Scatternet", "with", "two", "gateways", ".", "Table", "2", "Calculation", "of", "fair", "share", "of", "the", "gateways", "G1", "and", "G2", "in", "the", "scatternet", "of", "figure", "4", ".", "Gateway", "G1", "Piconet", "A", "Piconet", "B", "Piconet", "C", "Actual", "traffic", "rate", "0.4", "0.6", "0.1", "PPF", "0.25", "0.5", "0.1", "SPF", "0.4", "0.5", "0.1", "Updated", "PPF", "0.25", "0.6", "0.1", "Updated", "SPF", "0.25", "0.65", "0.1", "Fair", "share", "0.25", "0.6", "0.1", "Gateway", "G2", "Piconet", "B", "Piconet", "D", "Piconet", "E", "Actual", "traffic", "rate", "0.7", "0.2", "0.4", "PPF", "0.5", "0.2", "0.4", "SPF", "0.4", "0.2", "0.4", "Updated", "PPF", "0.4", "0.2", "0.4", "Updated", "SPF", "0.4", "0.2", "0.4", "Fair", "share", "0.4", "0.2", "0.4", "G1", "in", "Piconet", "B", ".", "The", "``", "updated", "PPF", "''", "of", "G1", "in", "Piconet", "B", "is", ",", "thus", ",", "0.6", ".", "Also", ",", "gateway", "G1", "has", "a", "PPF", "of", "0.25", "and", "an", "SPF", "of", "0.4", "in", "Piconet", "A.", "Thus", ",", "the", "``", "updated", "SPF", "''", "of", "G1", "in", "Piconet", "A", "is", "0.25", ".", "The", "extra", "SPF", "-LRB-", "=", "SPF-PPF", "-RRB-", "is", "added", "to", "the", "SPF", "of", "G1", "in", "Piconet", "B", ".", "The", "``", "updated", "SPF", "''", "of", "G1", "in", "Piconet", "B", ",", "is", "thus", ",", "equal", "to", "0.65", ".", "The", "fair", "shares", "can", "now", "be", "easily", "calculated", ".", "A", "division", "of", "the", "master", "'s", "polling", "and", "the", "gateway", "'s", "presence", "based", "on", "PPF", "and", "SPF", "as", "described", "in", "this", "section", "takes", "into", "account", "the", "traffic", "demands", "of", "the", "slaves", "and", "the", "gateways", "and", "leads", "to", "fairness", "in", "the", "scatternet", ".", "In", "the", "next", "section", ",", "we", "introduce", "and", "describe", "an", "algorithm", "that", "aims", "to", "achieve", "such", "a", "fair", "distribution", "of", "bandwidth", ".", "We", "first", "explain", "how", "the", "algorithm", "works", "in", "the", "case", "of", "a", "single", "piconet", "with", "no", "gateway", ".", "We", "then", "extend", "the", "algorithm", "to", "the", "case", "of", "a", "scatternet", "and", "explain", "how", "the", "coordination", "between", "the", "master", "and", "the", "gateways", "is", "achieved", ".", "We", "then", "prove", "the", "fairness", "of", "the", "algorithm", ".", "4.1", ".", "Single", "piconet", "with", "no", "gateways", "The", "polling", "algorithm", "is", "based", "on", "the", "master", "estimating", "the", "traffic", "rate", "between", "each", "slave", "and", "itself", ".", "This", "traffic", "rate", "is", "the", "sum", "of", "the", "traffic", "rates", "from", "the", "master", "to", "a", "slave", "and", "in", "the", "reverse", "direction", ".", "We", "assume", ",", "in", "order", "to", "simplify", "the", "explanation", "of", "the", "algorithm", ",", "that", "traffic", "flows", "only", "from", "slaves", "to", "master", ";", "masters", "generate", "no", "traffic", "to", "slaves", ".", "The", "same", "algorithm", "also", "applies", "with", "little", "change", "when", "traffic", "flows", "in", "both", "directions", "-LRB-", "explained", "later", "-RRB-", ".", "The", "master", "uses", "a", "Round", "Robin", "polling", "scheme", ",", "with", "the", "modification", "that", "a", "slave", "is", "skipped", "if", "it", "does", "not", "belong", "to", "the", "``", "active", "list", "''", "of", "the", "master", ".", "The", "slaves", "are", "moved", "in", "and", "out", "of", "the", "active", "list", "on", "the", "basis", "of", "two", "variables", "that", "the", "master", "maintains", "for", "each", "slave", ".", "These", "two", "variables", "are", ":", "r", "estimate", "of", "the", "rate", "of", "traffic", "generated", "by", "the", "slave", ";", "N", "estimate", "of", "the", "queue", "length", "of", "the", "slave", ".", "When", "a", "slave", "is", "polled", ",", "the", "master", "slave", "pair", "gets", "a", "chance", "to", "exchange", "a", "maximum", "amount", "of", "data", "in", "each", "direction", ",", "denoted", "by", "M", ".", "After", "each", "such", "polling", "phase", ",", "the", "master", "updates", "the", "values", "of", "N", "and", "r", "in", "the", "following", "manner", ":", "For", "the", "slave", "just", "polled", ":", "N", "=", "N", "+", "r", "-", "x", ",", "-LRB-", "1", "-RRB-", "r", "=", "r", "+", "-LRB-", "1", "-", "-RRB-", "xT", ",", "x", "<", "M", ",", "r", "+", "-LRB-", "1", "-", "-RRB-", "xT", "+", ",", "x", "=", "M.", "-LRB-", "2", "-RRB-", "For", "other", "slaves", ":", "N", "=", "N", "+", "r", ",", "-LRB-", "3", "-RRB-", "where", "is", "the", "time", "elapsed", "since", "the", "last", "update", ",", "x", "is", "the", "amount", "of", "data", "exchanged", "during", "the", "poll", "phase", ",", "T", "is", "the", "total", "time", "elapsed", "since", "the", "last", "poll", "of", "the", "same", "slave", ",", "is", "a", "parameter", "used", "to", "smooth", "the", "rate", "estimation", "and", "is", "a", "parameter", "used", "to", "probe", "for", "more", "bandwidth", ".", "Note", "that", "x", "is", "the", "actual", "amount", "of", "data", "exchanged", ",", "which", "may", "be", "less", "than", "or", "equal", "to", "M", ",", "depending", "upon", "the", "number", "of", "packets", "in", "the", "slave", "'s", "queue", ".", "Since", "N", "is", "an", "estimate", "of", "the", "slave", "'s", "queue", "length", "and", "r", "is", "an", "estimate", "of", "the", "rate", "at", "which", "traffic", "is", "generated", ",", "N", "is", "increased", "at", "the", "rate", "of", "r", "-LRB-", "as", "in", "equations", "-LRB-", "1", "-RRB-", "and", "-LRB-", "3", "-RRB-", "-RRB-", ".", "Also", ",", "when", "a", "slave", "is", "polled", ",", "N", "is", "decreased", "by", "the", "amount", "of", "data", "exchanged", "-LRB-", "-LRB-", "equation", "1", "-RRB-", "-RRB-", ".", "After", "updating", "these", "values", ",", "the", "master", "determines", "the", "changes", "to", "be", "made", "to", "the", "active", "list", ".", "A", "slave", "is", "added", "or", "deleted", "from", "the", "active", "list", "depending", "upon", "whether", "its", "value", "of", "N", "is", "greater", "or", "smaller", "than", "a", "``", "threshold", "''", ".", "The", "value", "of", "this", "threshold", "is", "the", "minimum", "amount", "of", "data", "that", "the", "master", "would", "like", "the", "slave", "to", "have", "in", "order", "to", "poll", "it", ".", "We", "choose", "a", "value", "equal", "to", "a", "multiple", "of", "a", "DH5", "packet", "for", "the", "threshold", "since", "this", "packet", "incurs", "least", "overhead", "-LRB-", "the", "selection", "of", "the", "value", "of", "the", "threshold", "is", "discussed", "further", "in", "the", "next", "subsection", "-RRB-", ".", "Thus", ",", "a", "slave", "is", "present", "in", "the", "active", "list", "if", "the", "master", "'s", "estimate", "of", "the", "value", "of", "N", "for", "the", "slave", "is", "greater", "than", "the", "threshold", ".", "This", "makes", "the", "simple", "Round", "Robin", "polling", "strategy", "adaptive", "to", "traffic", "and", "enables", "it", "to", "utilize", "bandwidth", "ef-ficiently", ",", "even", "when", "slaves", "have", "different", "rates", "of", "traffic", ".", "The", "maximum", "amount", "of", "data", "that", "can", "be", "exchanged", "at", "each", "poll", ",", "M", ",", "is", "also", "set", "equal", "to", "the", "threshold", ".", "Note", "that", "if", "the", "amount", "of", "data", ",", "x", ",", "in", "the", "slave", "'s", "queue", "is", "less", "than", "the", "threshold", ",", "the", "polling", "of", "the", "slave", "ends", "after", "this", "data", "has", "been", "exchanged", ".", "A", "FAIR", "AND", "TRAFFIC", "DEPENDENT", "SCHEDULING", "13", "If", "the", "value", "of", "N", "is", "less", "than", "the", "threshold", "for", "all", "the", "slaves", ",", "then", "the", "slave", "whose", "value", "of", "N", "is", "estimated", "to", "take", "the", "smallest", "time", "to", "reach", "the", "threshold", "is", "polled", ",", "i.e.", ",", "the", "slave", "for", "which", "the", "value", "of", "-LRB-", "Threshold", "-", "N", "-RRB-", "/", "r", "is", "the", "smallest", ".", "The", "master", "now", "goes", "to", "the", "next", "slave", "according", "to", "the", "Round", "Robin", "ordering", "of", "slaves", ".", "If", "the", "slave", "is", "present", "in", "the", "active", "list", ",", "it", "is", "polled", ".", "Else", ",", "the", "procedure", "is", "repeated", "for", "the", "next", "slave", "in", "the", "Round", "Robin", "ordering", ".", "Also", ",", "note", "that", "if", "the", "amount", "of", "data", "sent", "by", "the", "slave", "x", "is", "equal", "to", "M", ",", "r", "is", "increased", "by", "a", "small", "amount", ",", ".", "This", "is", "basically", "an", "attempt", "by", "the", "slave", "to", "probe", "for", "more", "bandwidth", "if", "it", "is", "able", "to", "send", "data", "at", "the", "present", "rate", ".", "The", "usefulness", "of", "this", "increase", "is", "evident", "in", "the", "proof", "of", "fairness", "in", "the", "next", "section", ".", "The", "value", "of", "chosen", "is", "0.15", "and", "that", "of", "is", "0.65", ".", "We", "also", "discuss", "the", "rationale", "behind", "choosing", "these", "values", "in", "the", "proof", "of", "fairness", ".", "If", "traffic", "flows", "in", "both", "directions", ",", "i.e.", ",", "from", "the", "slaves", "to", "the", "master", "and", "in", "the", "reverse", "direction", ",", "x", "is", "the", "average", "of", "the", "amount", "of", "data", "exchanged", "in", "the", "two", "directions", ",", "r", "refers", "to", "the", "average", "of", "the", "rate-estimations", "of", "the", "two", "directions", "and", "N", "refers", "to", "the", "average", "of", "the", "queue", "length", "estimates", "of", "the", "two", "directions", ".", "Also", ",", "if", "the", "number", "of", "packets", "in", "either", "direction", "is", "less", "than", "the", "threshold", ",", "the", "polling", "of", "the", "slave", "continues", "till", "in", "both", "directions", ",", "-LRB-", "a", "-RRB-", "there", "is", "no", "more", "data", "to", "send", "or", "-LRB-", "b", "-RRB-", "amount", "of", "data", "equal", "to", "the", "threshold", "has", "been", "exchanged", ".", "The", "initial", "value", "of", "N", "is", "set", "to", "the", "threshold", "-LRB-", "to", "ensure", "that", "slaves", "get", "polled", "at", "the", "beginning", "-RRB-", "and", "that", "of", "r", "is", "set", "to", "0.25", "-LRB-", "as", "a", "reasonable", "value", "-RRB-", ".", "Note", "that", "the", "algorithm", "converges", "to", "the", "fair", "share", ",", "but", "a", "careful", "selection", "of", "initial", "values", "makes", "the", "initial", "convergence", "faster", ".", "Another", "advantage", "of", "such", "a", "scheme", "is", "that", "it", "may", "allow", "the", "master", "to", "go", "into", "a", "power-saving", "mode", "if", "it", "realizes", "that", "no", "slave", "has", "sufficient", "packets", "to", "send", ",", "i.e.", ",", "if", "N", "is", "smaller", "than", "the", "threshold", "for", "all", "slaves", ".", "Though", "we", "do", "not", "explore", "this", "option", "in", "this", "paper", ",", "it", "may", "be", "useful", "since", "Bluetooth", "devices", "are", "expected", "to", "work", "in", "power-constrained", "environments", ".", "To", "improve", "the", "algorithm", ",", "we", "add", "a", "heuristic", "to", "it", ".", "The", "maximum", "number", "of", "polling", "cycles", "that", "a", "slave", "is", "not", "polled", "is", "bounded", ".", "If", "a", "slave", "generates", "a", "large", "burst", "of", "data", "occasionally", "and", "then", "does", "not", "generate", "any", "data", "for", "a", "long", "time", ",", "the", "value", "of", "r", "for", "the", "slave", "may", "be", "very", "low", ".", "This", "may", "cause", "the", "value", "of", "N", "for", "the", "slave", "to", "be", "lower", "than", "the", "threshold", "for", "a", "long", "time", ".", "By", "limiting", "the", "maximum", "number", "of", "cycles", "missed", "by", "the", "slave", ",", "we", "make", "sure", "that", "such", "a", "behavior", "of", "the", "slave", "does", "not", "lead", "to", "its", "starvation", ".", "In", "the", "experiments", ",", "this", "value", "is", "taken", "to", "be", "equal", "to", "5", "cycles", ".", "We", "now", "explain", "how", "the", "above", "algorithm", "works", "in", "a", "scatternet", ".", "4.2", ".", "Scatternet", "Scheduling", "of", "gateways", "using", "Rendezvous", "Points", ".", "Before", "describing", "how", "the", "algorithm", "works", "in", "a", "scatternet", ",", "we", "briefly", "discuss", "the", "notion", "of", "Rendezvous", "Points", "-LRB-", "RPs", "-RRB-", "described", "in", "-LSB-", "4", "-RSB-", ".", "A", "RP", "is", "a", "slot", "at", "which", "a", "master", "and", "a", "gateway", "have", "agreed", "to", "meet", ",", "i.e.", ",", "at", "this", "slot", ",", "the", "master", "will", "poll", "the", "gateway", "and", "the", "gateway", "will", "listen", "to", "the", "master", ".", "In", "-LSB-", "4", "-RSB-", ",", "RPs", "are", "implemented", "using", "the", "SNIFF", "mode", "of", "Bluetooth", ",", "but", "we", "implement", "RPs", "using", "the", "HOLD", "mode", "-LSB-", "10", "-RSB-", ".", "In", "the", "HOLD", "mode", ",", "the", "slave", "does", "not", "have", "to", "listen", "to", "the", "master", "for", "a", "certain", "time", "period", "and", "may", "use", "this", "time", "to", "visit", "other", "piconets", ".", "Prior", "to", "entering", "the", "HOLD", "mode", ",", "the", "master", "and", "the", "slave", "agree", "on", "the", "time", "duration", "the", "slave", "remains", "in", "the", "HOLD", "mode", ".", "We", "implement", "our", "algorithm", "using", "RPs", "as", "described", "below", ".", "The", "working", "of", "the", "algorithm", "in", "a", "scatternet", "is", "very", "similar", "to", "its", "operation", "in", "a", "piconet", ".", "The", "master", "continues", "to", "poll", "the", "non-gateway", "slaves", "in", "the", "same", "manner", "as", "described", "in", "the", "previous", "section", "with", "the", "modification", "that", "a", "gateway", "is", "polled", "at", "a", "Rendezvous", "Point", ".", "Each", "RP", "is", "a", "slot", "at", "which", "a", "particular", "gateway", "is", "polled", "and", "a", "master", "has", "different", "RPs", "for", "each", "of", "its", "gateways", ".", "These", "RPs", "are", "always", "unique", "-LRB-", "i.e.", ",", "a", "master", "can", "not", "have", "the", "same", "RP", "with", "more", "than", "one", "gateway", "-RRB-", ".", "Since", "the", "gateway", "must", "be", "polled", "at", "the", "RP", ",", "this", "has", "implications", "in", "the", "polling", "of", "the", "other", "slaves", "-LRB-", "discussed", "later", "-RRB-", ".", "Once", "a", "gateway", "has", "been", "polled", ",", "the", "master", "continues", "with", "the", "polling", "of", "the", "other", "slaves", "in", "the", "same", "manner", "as", "described", "in", "the", "previous", "section", ",", "i.e.", ",", "it", "checks", "its", "active", "list", "to", "see", "if", "the", "next", "slave", "in", "the", "polling", "cycle", "is", "to", "be", "polled", "and", "so", "on", ".", "In", "order", "to", "divide", "its", "time", "among", "different", "piconets", "in", "a", "fair", "manner", ",", "the", "gateway", "performs", "similar", "calculations", "as", "described", "in", "the", "earlier", "section", "for", "the", "master", ".", "The", "gateway", "maintains", "values", "of", "N", "and", "r", "for", "each", "piconet", "it", "belongs", "to", "and", "these", "values", "are", "updated", "each", "time", "a", "gateway", "is", "polled", "-LRB-", "i.e.", ",", "at", "each", "RP", "-RRB-", ".", "Thus", ",", "the", "calculations", "performed", "by", "a", "gateway", "at", "each", "RP", "are", ":", "For", "the", "piconet", "in", "which", "the", "gateway", "was", "just", "polled", ":", "N", "=", "N", "+", "r", "-", "x", ",", "-LRB-", "4", "-RRB-", "r", "=", "r", "+", "-LRB-", "1", "-", "-RRB-", "xT", ",", "x", "<", "M", ",", "r", "+", "-LRB-", "1", "-", "-RRB-", "xT", "+", ",", "x", "=", "M.", "-LRB-", "5", "-RRB-", "For", "other", "piconets", ":", "N", "=", "N", "+", "r", ",", "-LRB-", "6", "-RRB-", "where", "is", "the", "time", "elapsed", "since", "the", "last", "update", ",", "x", "is", "the", "amount", "of", "data", "exchanged", "during", "the", "poll", "phase", ",", "T", "is", "the", "total", "time", "elapsed", "since", "the", "gateway", "was", "polled", "in", "the", "same", "piconet", ",", "and", "and", "are", "as", "defined", "earlier", ".", "Moreover", ",", "at", "each", "RP", ",", "the", "gateway", "and", "the", "master", "negotiate", "the", "next", "RP", "between", "them", ".", "The", "assignment", "of", "this", "next", "RP", "takes", "into", "account", "the", "fairness", "between", "-LRB-", "a", "-RRB-", "the", "gateway", "and", "other", "slaves", "in", "a", "piconet", "and", "-LRB-", "b", "-RRB-", "the", "presence", "of", "the", "gateway", "in", "different", "piconets", ".", "Also", ",", "we", "again", "employ", "a", "heuristic", "that", "improves", "the", "algorithm", ".", "When", "the", "next", "RP", "is", "being", "nego-tiated", ",", "we", "keep", "a", "bound", "on", "the", "maximum", "value", "this", "can", "take", ".", "This", "prevents", "a", "piconet", "from", "not", "being", "visited", "by", "a", "gateway", "for", "a", "long", "time", ".", "The", "maximum", "value", "of", "this", "next", "RP", "used", "in", "our", "experiments", "is", "400", "slots", ".", "We", "now", "see", "how", "the", "master", "and", "the", "gateway", "use", "the", "information", "that", "they", "have", "to", "achieve", "fairness", "in", "the", "scatternet", ".", "When", "a", "gateway", "is", "polled", "at", "a", "RP", ",", "the", "gateway", "and", "the", "master", "do", "the", "following", ".", "14", "R.", "KAPOOR", "ET", "AL.", "-LRB-", "i", "-RRB-", "Gateway", ".", "The", "gateway", "calculates", "the", "number", "of", "slots", ",", "N", "thresh", "after", "which", "N", "for", "the", "piconet", "will", "become", "greater", "than", "the", "threshold", ";", "N", "thresh", "=", "-LRB-", "threshold", "-", "N", "-RRB-", "/", "r", ",", "where", "threshold", "is", "as", "explained", "in", "the", "previous", "section", ",", "N", "and", "r", "are", "values", "maintained", "by", "the", "gateway", "for", "the", "piconet", ".", "The", "gateway", "makes", "use", "of", "this", "value", "and", "does", "not", "visit", "a", "piconet", "till", "its", "estimate", "of", "N", "for", "the", "piconet", "becomes", "greater", "than", "the", "threshold", ".", "This", "is", "similar", "to", "the", "algorithm", "used", "by", "the", "master", "in", "which", "a", "slave", "is", "not", "polled", "till", "the", "master", "'s", "estimate", "of", "N", "for", "the", "slave", "becomes", "greater", "than", "the", "threshold", ".", "Thus", ",", "the", "gateway", "tries", "to", "divide", "its", "time", "between", "the", "piconets", "in", "a", "fair", "manner", ",", "i.e.", ",", "according", "to", "the", "SPFs", ".", "Note", "that", "N", "thresh", "may", "be", "negative", "if", "N", "is", "greater", "than", "the", "threshold", ".", "Also", ",", "N", "thresh", "is", "allowed", "to", "have", "a", "maximum", "value", "of", "400", ".", "Moreover", ",", "each", "time", "a", "gateway", "visits", "a", "piconet", ",", "it", "knows", "the", "RPs", "for", "the", "other", "piconets", "it", "belongs", "to", "-LRB-", "except", "right", "at", "the", "beginning", "or", "when", "the", "gateway", "is", "added", "to", "another", "piconet", "-RRB-", ".", "-LRB-", "ii", "-RRB-", "Master", ".", "The", "master", "calculates", "the", "number", "of", "slots", "after", "which", "the", "gateway", "can", "be", "polled", "such", "that", "the", "fairness", "with", "other", "slaves", "is", "maintained", ".", "It", "adopts", "the", "following", "procedure", "to", "achieve", "this", ":", "It", "maintains", "a", "counter", ",", "num_slots", "-LRB-", "which", "is", "initialized", "to", "0", "-RRB-", "and", "checks", "the", "value", "of", "N", "for", "each", "slave", ",", "in", "a", "cyclic", "order", ",", "starting", "from", "the", "slave", "after", "the", "current", "gateway", "in", "the", "cyclic", "order", "to", "the", "slave", "before", "the", "current", "gateway", ".", "The", "master", "checks", "if", "the", "value", "of", "N", "for", "the", "slave", "will", "be", "greater", "than", "the", "threshold", "after", "num_slots", "slots", ".", "If", "this", "condition", "is", "true", ",", "num_slots", "is", "incremented", "by", "twice", "the", "value", "of", "the", "threshold", ".", "After", "incrementing", "num_slots", ",", "the", "master", "also", "checks", "to", "see", "if", "it", "has", "a", "RP", "with", "any", "gateway", "whose", "value", "is", "equal", "to", "num_slots", "and", "increments", "num_slots", "by", "twice", "the", "value", "of", "the", "threshold", "if", "this", "is", "true", ".", "This", "ensures", "that", "the", "master", "has", "a", "unique", "RP", "for", "each", "of", "its", "gateways", ".", "Note", "that", "num_slots", "is", "incremented", "by", "twice", "the", "value", "of", "the", "threshold", "since", "the", "master", "expects", "to", "exchange", "threshold", "slots", "of", "data", "with", "a", "slave", "in", "each", "direction", ".", "The", "master", "uses", "the", "above", "procedure", "to", "estimate", "the", "number", "of", "slaves", "who", "will", "have", "their", "value", "of", "N", "greater", "than", "the", "threshold", "when", "the", "master", "polls", "the", "slaves", "in", "their", "cyclic", "order", "starting", "from", "the", "gateway", "just", "polled", ".", "The", "value", "of", "num_slots", "determines", "the", "number", "of", "slots", "which", "the", "master", "expects", "to", "use", "in", "polling", "the", "other", "slaves", "in", "one", "cycle", "before", "polling", "the", "gateway", "again", "and", "is", "thus", ",", "used", "by", "the", "master", "to", "maintain", "fairness", "between", "the", "gateway", "and", "the", "other", "slaves", "in", "the", "piconet", ".", "Again", ",", "note", "that", "num_slots", "is", "allowed", "to", "have", "a", "maximum", "value", "of", "400", ".", "The", "master", "and", "the", "gateway", "now", "exchange", "the", "information", "they", "have", "to", "calculate", "their", "next", "RP", ".", "This", "exchange", "takes", "place", "using", "the", "LMP_hold_req", "PDU", "of", "the", "LMP", "-LRB-", "Link", "Manager", "Protocol", "-RRB-", "layer", ".", "This", "PDU", "carries", "a", "hold", "instant", "and", "a", "hold", "time", ",", "which", "are", "used", "to", "specify", "the", "instant", "at", "which", "the", "hold", "will", "become", "effective", "and", "the", "hold", "time", ",", "respectively", ".", "When", "the", "master", "is", "sending", "a", "packet", "to", "a", "gateway", ",", "the", "value", "of", "num_slots", "can", "be", "sent", "after", "hold", "instant", "and", "hold", "time", "in", "the", "packet", ".", "The", "master", "also", "sends", "the", "values", "of", "its", "RPs", "with", "its", "other", "gateways", "in", "the", "packet", ".", "Similarly", ",", "the", "gateway", "sends", "the", "master", "the", "values", "of", "its", "RPs", "with", "other", "piconets", "and", "the", "value", "of", "N", "thresh", "also", "in", "an", "LMP_hold_req", "PDU", ".", "The", "master", "now", "knows", "all", "the", "RPs", "of", "the", "gateway", ";", "similarly", ",", "the", "gateway", "knows", "all", "the", "RPs", "of", "the", "master", ".", "Note", "that", "the", "above", "information", "exchange", "requires", "a", "minimal", "change", "in", "the", "Bluetooth", "specifications", "that", "the", "contents", "of", "the", "LMP_hold_req", "PDU", "need", "to", "be", "enhanced", ".", "This", "PDU", "is", "1-slot", "in", "length", ";", "thus", ",", "some", "bandwidth", "of", "the", "master", "is", "wasted", "in", "sending", "these", "PDUs", ".", "This", "wasted", "bandwidth", "can", "be", "reduced", "by", "increasing", "the", "value", "of", "threshold", ",", "i.e.", ",", "the", "maximum", "data", "that", "a", "slave", "and", "a", "master", "may", "exchange", "in", "each", "direction", "during", "one", "poll", "of", "the", "slave", ".", "On", "the", "other", "hand", ",", "a", "large", "value", "of", "the", "threshold", "will", "lead", "to", "larger", "delays", "for", "packets", ".", "Thus", ",", "we", "have", "a", "tradeoff", "here", ".", "We", "choose", "a", "threshold", "value", "equal", "to", "three", "times", "a", "DH5", "packet", ".", "The", "effect", "of", "this", "wasted", "bandwidth", "can", "be", "seen", "in", "the", "experiments", "section", "where", "the", "piconet", "capacity", "used", "is", "slightly", "less", "than", "1", ".", "Note", "that", "we", "pay", "a", "small", "price", "here", "to", "get", "perfect", "coordination", "between", "the", "master", "and", "the", "gateway", "and", "also", "to", "get", "a", "high", "degree", "of", "fairness", "in", "the", "system", ",", "as", "the", "experiments", "later", "demonstrate", ".", "Now", ",", "the", "master", "and", "the", "gateway", "both", "have", "complete", "information", ".", "So", ",", "each", "of", "them", "calculates", "the", "next", "RP", "in", "the", "following", "manner", ":", "They", "take", "the", "maximum", "value", "out", "of", "num_slots", "and", "N", "thresh", "and", "as", "long", "as", "this", "value", "is", "the", "same", "as", "one", "of", "the", "RPs", "-LRB-", "note", "that", "all", "relevant", "RPs", "are", "known", "to", "both", "the", "master", "and", "the", "gateway", "-RRB-", ",", "the", "value", "is", "incremented", "by", "2", "threshold", ".", "The", "value", "at", "the", "end", "of", "this", "small", "procedure", "is", "the", "next", "RP", "between", "the", "gateway", "and", "the", "master", ".", "Since", "this", "value", "takes", "into", "account", "both", "N", "thresh", "and", "num_slots", ",", "it", "incorporates", "both", "the", "fairness", "of", "the", "master", "'s", "polling", "and", "the", "gateway", "'s", "presence", ".", "Note", "that", "the", "value", "of", "num_slots", "calculated", "by", "the", "master", "is", "just", "an", "estimate", "-LRB-", "the", "master", "assumes", "that", "each", "slave", "included", "in", "the", "calculation", "of", "num_slots", "will", "exchange", "threshold", "slots", "of", "data", "with", "the", "master", "in", "each", "direction", ",", "but", "this", "may", "not", "be", "true", "-RRB-", ".", "Thus", ",", "the", "master", "may", "have", "polled", "all", "the", "slaves", "that", "had", "to", "be", "polled", "before", "the", "RP", "of", "the", "gateway", "-LRB-", "according", "to", "the", "estimate", "in", "the", "calculation", "of", "num_slots", "-RRB-", "and", "still", "be", "left", "with", "some", "slots", "before", "the", "RP", ".", "In", "this", "case", ",", "the", "master", "just", "continues", "polling", "the", "slaves", "in", "their", "cyclic", "order", "and", "polls", "the", "gateway", "when", "the", "time", "for", "the", "RP", "arrives", ".", "Note", "that", "this", "means", "that", "the", "master", "may", "have", "to", "force", "a", "slave", "to", "send", "a", "packet", "smaller", "than", "a", "certain", "length", ".", "For", "example", ",", "if", "two", "slots", "are", "left", "for", "the", "RP", ",", "then", "the", "master", "will", "send", "a", "1-slot", "packet", "and", "ask", "the", "slave", "being", "polled", "to", "do", "the", "same", ".", "Note", "that", "the", "Bluetooth", "header", "has", "4", "bits", "to", "represent", "the", "packet", "type", "and", "these", "can", "represent", "16", "packet", "types", ".", "For", "ACL", "links", ",", "10", "-LRB-", "7", "data", ",", "3", "control", "packets", "-RRB-", "of", "the", "packet", "types", "are", "defined", ".", "We", "use", "2", "of", "the", "remaining", "bit", "sequences", "to", "send", "packets", "that", "force", "the", "slave", "to", "send", "packets", "smaller", "than", "or", "equal", "to", "a", "certain", "length", ".", "This", "is", "shown", "in", "table", "3", ".", "From", "table", "3", ",", "we", "see", "that", "this", "procedure", "is", "adopted", "if", "the", "number", "of", "slots", "left", "for", "the", "RP", "is", "less", "than", "10", "-LRB-", "if", "the", "number", "of", "slots", "left", "for", "the", "RP", "is", "greater", "than", "or", "equal", "to", "10", ",", "then", "the", "A", "FAIR", "AND", "TRAFFIC", "DEPENDENT", "SCHEDULING", "15", "Table", "3", "Procedure", "adopted", "by", "the", "master", "if", "slots", "left", "for", "the", "RP", "is", "less", "than", "10", ".", "Slots", "left", "for", "RP", "Maximum", "Maximum", "length", "of", "packet", "length", "of", "packet", "sent", "by", "master", "sent", "by", "slave", "2", "1", "1", "4", "1", "1", "6", "3", "3", "8", "3", "3", "slave", "'s", "packet", "length", "does", "not", "have", "to", "be", "restricted", "-RRB-", ".", "Thus", ",", "if", "the", "slots", "left", "for", "the", "RP", "is", "2", ",", "the", "master", "can", "send", "a", "packet", "of", "maximum", "length", "=", "1", "and", "the", "gateway", "can", "send", "a", "packet", "of", "maximum", "length", "=", "1", "and", "so", "on", ".", "Note", "that", "for", "reasons", "of", "fairness", ",", "the", "maximum", "packet", "length", "for", "the", "master", "and", "the", "gateway", "is", "the", "same", ".", "Since", "the", "master", "needs", "to", "restrict", "the", "maximum", "length", "of", "the", "gateway", "'s", "packet", "to", "either", "1", "or", "3", "-LRB-", "as", "shown", "in", "table", "3", "-RRB-", ",", "we", "need", "2", "packet", "types", "to", "achieve", "this", ".", "This", "procedure", "effectively", "suspends", "the", "polling", "of", "a", "slave", "to", "honor", "a", "RP", "with", "a", "gateway", ".", "The", "polling", "of", "the", "slave", "continues", "after", "the", "gateway", "has", "been", "polled", ".", "In", "addition", ",", "a", "gateway", "may", "lose", "a", "slot", "in", "switching", "from", "one", "piconet", "to", "another", ".", "This", "loss", "is", "unavoidable", "since", "piconets", "are", "in", "general", ",", "not", "synchronized", "in", "time", ".", "In", "the", "experiments", "in", "the", "paper", ",", "we", "set", "the", "value", "of", "the", "threshold", "to", "three", "times", "the", "payload", "of", "a", "DH5", "packet", ",", "which", "can", "give", "a", "switching", "loss", "of", "about", "3", "%", "at", "heavy", "loads", "-LRB-", "every", "2", "threshold", "slots", ",", "the", "gateway", "loses", "about", "one", "slot", "in", "switching", "-RRB-", ".", "At", "light", "loads", ",", "this", "switching", "loss", "does", "not", "lead", "to", "inefficiency", "since", "the", "sum", "of", "the", "fair", "shares", "of", "the", "gateway", "in", "all", "its", "piconets", "is", "less", "than", "1", "and", "even", "after", "the", "switching", "loss", ",", "the", "gateway", "is", "able", "to", "obtain", "its", "fair", "share", ".", "The", "simulations", "in", "the", "next", "section", "do", "not", "take", "this", "switching", "loss", "into", "account", "and", "thus", ",", "the", "bandwidth", "received", "by", "the", "gateway", "under", "heavy", "loads", "will", "be", "a", "little", "smaller", "than", "the", "one", "shown", "in", "the", "results", ".", "4.3", ".", "Proof", "of", "fairness", "We", "now", "prove", "that", "the", "above", "algorithm", "leads", "to", "a", "max-min", "fair", "distribution", "of", "the", "bandwidth", "of", "a", "scatternet", "among", "units", ".", "We", "start", "by", "proving", "this", "in", "the", "case", "of", "a", "piconet", ".", "In", "the", "next", "step", ",", "we", "will", "extend", "the", "proof", "to", "the", "general", "case", "of", "a", "scatternet", ".", "4.3.1", ".", "Fairness", "in", "a", "piconet", "Let", "us", "introduce", "the", "following", "notation", ":", "S", ":", "number", "of", "slave", "units", "in", "the", "piconet", ";", "g", "i", ":", "rate-demand", "of", "the", "ith", "unit", ";", "i", ":", "rate", "achieved", "by", "the", "ith", "unit", ";", "r", "i", ":", "rate-estimation", "of", "the", "ith", "unit", "-LRB-", "as", "defined", "in", "equation", "-LRB-", "2", "-RRB-", "-RRB-", ",", "where", "i", "and", "r", "i", "are", "average", "values", ".", "Slave", "unit", "i", "is", "referred", "to", "as", "``", "satisfied", "''", ",", "if", "it", "achieves", "it", "rate", "demand", ",", "i.e.", ",", "i", "=", "g", "i", ";", "else", ",", "the", "slave", "unit", "is", "referred", "to", "as", "``", "unsatisfied", "''", ".", "Also", ",", "in", "the", "proof", "that", "follows", ",", "``", "slot", "''", "refers", "to", "``", "Bluetooth", "slot", "''", ";", "``", "unit", "''", "and", "``", "slave", "unit", "''", "may", "be", "used", "inter-changeably", ".", "If", "there", "is", "one", "slave", "unit", "in", "a", "piconet", ",", "then", "it", "will", "always", "get", "polled", "and", "hence", ",", "the", "algorithm", "is", "fair", ".", "We", "prove", "the", "fairness", "when", "there", "are", "two", "or", "more", "slave", "units", ".", "We", "first", "make", "the", "following", "observations", ":", "-LRB-", "a", "-RRB-", "If", "a", "unit", "has", "a", "rate-estimation", ",", "r", "0.25", ",", "it", "will", "never", "achieve", "a", "lesser", "rate", "than", "any", "other", "unit", ".", "r", "is", "an", "estimation", "of", "the", "average", "number", "of", "slots", "of", "traffic", "that", "a", "master", "slave", "pair", "will", "generate", "per", "slot", "in", "each", "direction", ".", "Thus", ",", "a", "rate", "of", "0.25", "means", "that", "a", "master", "slave", "pair", "generates", ",", "on", "the", "average", ",", "``", "threshold", "''", "slots", "of", "traffic", "in", "each", "direction", "in", "every", "4", "threshold", "slots", ".", "Suppose", "a", "piconet", "has", "two", "slaves", ",", "and", "the", "first", "has", "a", "rate-estimation", ",", "r", "0.25", ",", "then", "the", "first", "slave", "will", "be", "polled", "at", "least", "once", "in", "every", "4", "threshold", "slots", ",", "i.e.", ",", "will", "get", "on", "the", "average", "at", "least", "threshold", "polling", "slots", "out", "of", "every", "2", "threshold", ",", "regardless", "of", "the", "r", "of", "the", "other", "slave", "-LRB-", "since", "N", "increases", "at", "the", "rate", "of", "r", ",", "N", "will", "increase", "by", "at", "least", "0.25", "4", "threshold", "=", "threshold", ";", "thus", ",", "the", "slave", "will", "enter", "into", "the", "``", "active", "list", "''", "in", "4", "threshold", "slots", "-RRB-", ".", "Thus", ",", "it", "will", "never", "achieve", "a", "lesser", "rate", "than", "another", "unit", ".", "It", "is", "easy", "to", "see", "that", "this", "property", "would", "be", "true", "if", "there", "were", "more", "than", "two", "slaves", "-LRB-", "two", "slaves", "is", "the", "worst", "case", "-RRB-", ".", "-LRB-", "b", "-RRB-", "For", "0.1", "and", "0.6", ",", "an", "unsatisfied", "slave", "will", "tend", "to", "a", "rate-estimation", "of", "at", "least", "0.25", ".", "For", "an", "unsatisfied", "slave", ",", "the", "second", "part", "of", "equation", "-LRB-", "2", "-RRB-", "-LRB-", "when", "x", "=", "M", "-RRB-", "is", "always", "used", "for", "updating", "the", "rate", ".", "Thus", ",", "if", "r", "i", "is", "the", "ith", "rate-estimation", ":", "r", "n", "+1", "=", "r", "n", "+", "-LRB-", "1", "-", "-RRB-", "M", "T", "n", "+", ".", "This", "leads", "to", "-LRB-", "as", "n", "becomes", "very", "large", "-RRB-", ":", "r", "=", "-LRB-", "1", "-", "-RRB-", "M", "k", "=", "0", "n", "-", "k", "T", "k", "+", "1", "1", "-", ".", "Thus", ",", "for", "0.1", "and", "0.6", ",", "for", "any", "value", "of", "T", ",", "the", "value", "of", "r", "tends", "to", "at", "least", "0.25", ".", "-LRB-", "c", "-RRB-", "As", "long", "as", "there", "is", "an", "unsatisfied", "unit", ",", "the", "utilization", "of", "the", "system", "capacity", "is", "1", "-LRB-", "for", "0.15", "and", "0.65", "-RRB-", ".", "Consider", "a", "piconet", "consisting", "of", "seven", "slave", "units", ",", "in", "which", "the", "first", "unit", ",", "unit", "1", "is", "unsatisfied", ".", "From", "-LRB-", "a", "-RRB-", "and", "-LRB-", "b", "-RRB-", ",", "unit", "1", "will", "never", "achieve", "a", "lesser", "rate", "than", "any", "other", "unit", ";", "this", "means", "that", "it", "will", "be", "polled", "at", "least", "once", "for", "each", "time", "the", "other", "slaves", "are", "polled", ".", "The", "value", "of", "T", "-LRB-", "as", "in", "equation", "-LRB-", "2", "-RRB-", "-RRB-", "for", "unit", "1", "is", "thus", ",", "at", "most", ",", "14", "threshold", ".", "For", "this", "value", "of", "T", "and", "for", "=", "0.15", "and", "=", "0.65", ",", "r", "for", "unit", "1", "tends", "to", "at", "least", "0.5", ".", "A", "value", "of", "r", "=", "0.5", "for", "a", "slave", "unit", "means", "that", "it", "can", "be", "polled", "all", "the", "time", "-LRB-", "since", "N", "increases", "at", "the", "rate", "of", "r", ",", "N", "will", "increase", "by", "at", "least", "0.5", "2", "threshold", "=", "threshold", ";", "thus", ",", "the", "slave", "will", "enter", "into", "the", "``", "active", "list", "''", "in", "2", "threshold", "slots", ",", "which", "is", "also", "the", "time", "of", "its", "polling", "-RRB-", ".", "Thus", ",", "the", "system", "capacity", "is", "totally", "utilized", ".", "If", "there", "were", "less", "than", "7", "slave", "units", ",", "the", "value", "of", "T", "would", "be", "smaller", "-LRB-", "than", "14", "threshold", "-RRB-", ",", "and", "r", "would", "tend", "to", "a", "higher", "value", "-LRB-", "than", "0.5", "-RRB-", ".", "16", "R.", "KAPOOR", "ET", "AL.", ".", "We", "choose", "values", "of", "and", "to", "satisfy", "the", "above", "properties", ",", "i.e.", ",", "=", "0.15", "and", "=", "0.65", ".", "The", "following", "statements", "hold", ".", "-LRB-", "i", "-RRB-", "Units", "with", "the", "same", "rate-demand", "achieve", "the", "same", "average", "rate", ":", "g", "i", "=", "g", "j", "i", "=", "j", ".", "We", "prove", "this", "by", "contradiction", ".", "Suppose", "there", "are", "two", "units", ",", "unit", "1", "and", "unit", "2", "with", "rate", "demands", "g", "1", "and", "g", "2", ",", "respectively", ",", "such", "that", "g", "1", "=", "g", "2", ".", "Also", ",", "suppose", "one", "unit", "achieves", "a", "higher", "average", "rate", "than", "the", "other", ",", "1", ">", "2", ".", "Now", ",", "unit", "2", "does", "not", "achieve", "its", "rate-demand", "-LRB-", "since", "1", ">", "2", "-RRB-", ".", "Unit", "1", "may", "or", "may", "not", "achieve", "its", "rate", "demand", ".", "From", "property", "-LRB-", "b", "-RRB-", ",", "unit", "2", "will", "always", "tend", "to", "a", "value", "at", "least", "equal", "to", "0.25", ",", "since", "it", "is", "an", "unsatisfied", "slave", ".", "Using", "property", "-LRB-", "a", "-RRB-", ",", "this", "implies", "that", "2", "can", "not", "be", "less", "than", "1", ".", "This", "is", "a", "contradiction", ".", "-LRB-", "ii", "-RRB-", "Units", "with", "a", "higher", "rate-demand", "achieve", "an", "average", "rate", "at", "least", "equal", "to", "that", "achieved", "by", "units", "with", "a", "lower", "rate-demand", ":", "g", "i", ">", "g", "j", "i", "j", ".", "This", "can", "be", "proved", "by", "contradiction", "in", "the", "same", "manner", "as", "in", "part", "-LRB-", "i", "-RRB-", ".", "Now", ",", "without", "loss", "of", "generality", ",", "let", "us", "partition", "the", "slave", "units", "into", "two", "sets", ",", "S1", "and", "S2", ",", "in", "such", "a", "way", "that", "units", "in", "S1", "are", "satisfied", ",", "while", "units", "in", "S2", "are", "not", ".", "If", "the", "set", "S2", "is", "empty", ",", "than", "all", "the", "units", "achieve", "their", "rate-demand", "and", "the", "system", "is", "fair", ".", "If", "the", "set", "S2", "is", "not", "empty", ",", "then", "using", "statements", "-LRB-", "i", "-RRB-", "and", "-LRB-", "ii", "-RRB-", ",", "all", "units", "share", "the", "bandwidth", "in", "a", "fair", "manner", ".", "Moreover", ",", "since", "S2", "contains", "at", "least", "one", "unit", ",", "the", "total", "system", "capacity", "is", "utilized", ".", "Hence", ",", "it", "is", "not", "possible", "to", "increase", "the", "rate", "of", "a", "unit", "in", "S2", "without", "decreasing", "the", "rate", "of", "some", "other", "unit", ".", "4.3.2", ".", "Fairness", "in", "a", "scatternet", "The", "proof", "of", "fairness", "for", "a", "scatternet", "follows", "trivially", "from", "that", "for", "a", "piconet", ".", "We", "make", "the", "following", "two", "observations", ":", "-LRB-", "1", "-RRB-", "The", "gateway", "visits", "a", "piconet", "only", "after", "the", "estimation", "of", "N", "for", "the", "piconet", "becomes", "greater", "than", "the", "threshold", "-LRB-", "it", "calculates", "N", "thresh", "while", "determining", "the", "next", "RP", "-RRB-", ".", "In", "other", "words", ",", "the", "``", "virtual", "master", "''", "-LRB-", "gateway", "-RRB-", "does", "not", "poll", "-LRB-", "visit", "-RRB-", "its", "``", "virtual", "slave", "''", "-LRB-", "master", "-RRB-", "till", "the", "estimate", "of", "N", "becomes", "greater", "than", "the", "threshold", ".", "This", "is", "similar", "to", "the", "algorithm", "used", "by", "the", "master", "to", "poll", "the", "slaves", "in", "which", "a", "slave", "is", "not", "polled", "till", "its", "estimate", "of", "N", "becomes", "greater", "than", "the", "threshold", ".", "Thus", ",", "the", "gateway", "divides", "its", "presence", "among", "its", "piconets", "in", "a", "fair", "manner", ",", "i.e.", ",", "according", "to", "the", "SPF", ".", "Note", "that", "if", "the", "PPF", "for", "a", "gateway", "in", "a", "piconet", "is", "less", "than", "its", "SPF", ",", "the", "master", "does", "not", "poll", "the", "gateway", "for", "more", "than", "the", "PPF", ".", "Thus", ",", "the", "apparent", "rate", "demand", "and", "SPF", "for", "the", "gateway", "in", "the", "piconet", "are", "reduced", ".", "This", "may", "increase", "the", "SPF", "of", "the", "gateway", "in", "other", "piconets", ".", "In", "this", "case", ",", "the", "gateway", "divides", "its", "presence", "according", "to", "the", "updated", "SPFs", ".", "-LRB-", "2", "-RRB-", "While", "calculating", "the", "next", "RP", "for", "a", "gateway", ",", "the", "master", "calculates", "the", "num_slots", "value", "which", "estimates", "the", "number", "of", "slaves", "in", "one", "polling", "cycle", "-LRB-", "starting", "from", "the", "slave", "after", "the", "gateway", "in", "the", "polling", "cycle", "-RRB-", "who", "will", "have", "their", "values", "of", "N", "greater", "than", "the", "threshold", "at", "the", "estimated", "time", "of", "their", "poll", ".", "This", "achieves", "fairness", "between", "the", "gateway", "and", "the", "non-gateway", "slaves", ".", "Also", ",", "the", "master", "continues", "to", "use", "the", "same", "algorithm", "for", "polling", "non-gateway", "slaves", "in", "a", "scatternet", "as", "described", "for", "a", "piconet", "in", "section", "4.1", ".", "This", "maintains", "fairness", "between", "non-gateway", "slaves", ",", "i.e.", ",", "the", "division", "is", "done", "according", "to", "the", "PPFs", "-LRB-", "or", "the", "updated", "PPFs", "-RRB-", ".", "4.4", ".", "Overhead/limitations", "of", "the", "algorithm", "The", "rate", "calculations", "will", "lead", "to", "a", "higher", "load", "on", "the", "system", ".", "Also", ",", "the", "algorithm", "does", "not", "take", "into", "account", "SCO", "links", ".", "We", "believe", "-LRB-", "and", "as", "has", "been", "shown", "in", "-LSB-", "6", "-RSB-", "-RRB-", "that", "ACL", "links", "are", "capable", "of", "carrying", "voice", "with", "small", "delays", ".", "The", "controlled", "channel", "access", "in", "Bluetooth", "can", "ensure", "good", "support", "of", "voice", "using", "ACL", "links", ".", "Also", ",", "scheduling", "in", "a", "scatternet", "where", "SCO", "links", "are", "allowed", "may", "not", "be", "feasible", ".", "Since", "SCO", "links", "require", "a", "periodic", "reservation", "of", "two", "slots", "every", "two", ",", "four", "or", "six", "slots", ",", "meeting", "the", "demands", "of", "such", "a", "link", "with", "a", "gateway", "may", "be", "impossible", "when", "the", "gateway", "is", "visiting", "some", "other", "piconet", ".", "In", "this", "section", ",", "we", "present", "simulation", "results", ",", "which", "show", "that", "the", "algorithm", "satisfies", "the", "fairness", "criteria", "described", "earlier", ".", "We", "start", "with", "simple", "topologies", "that", "illustrate", "the", "behavior", "of", "the", "algorithm", "and", "then", "show", "that", "it", "also", "works", "well", "in", "more", "complex", "topologies", ".", "There", "are", "three", "topologies", "that", "the", "experiments", "focus", "on", "and", "these", "demonstrate", "the", "behavior", "of", "the", "algorithm", "a", "topology", "with", "-LRB-", "a", "-RRB-", "a", "gateway", "belonging", "to", "two", "piconets", ",", "-LRB-", "b", "-RRB-", "a", "gateway", "belonging", "to", "three", "piconets", "and", "-LRB-", "c", "-RRB-", "a", "piconet", "having", "two", "gateways", ".", "The", "experiments", "also", "show", "the", "adaptivity", "of", "the", "algorithm", ",", "i.e.", ",", "how", "quickly", "the", "algorithm", "adapts", "to", "changing", "traffic", "demands", "of", "slaves", ".", "In", "the", "experiments", ",", "we", "specify", "the", "``", "rate", "of", "a", "slave", "''", ",", "which", "refers", "to", "the", "sum", "of", "the", "rates", "at", "which", "a", "slave", "generates", "data", "for", "a", "master", "-LRB-", "i.e.", ",", "the", "rate", "demand", "of", "a", "slave", "-RRB-", "and", "the", "master", "generates", "data", "for", "the", "slave", ".", "Moreover", ",", "unless", "mentioned", "otherwise", ",", "we", "assume", "that", "the", "traffic", "rate", "from", "a", "slave", "to", "a", "master", "is", "equal", "to", "that", "from", "the", "master", "to", "the", "slave", ".", "Thus", ",", "a", "slave", "having", "a", "rate", "of", "0.4", "means", "that", "the", "slave", "generates", "data", "at", "the", "rate", "of", "0.2", "Bluetooth", "slots", "per", "slot", "and", "the", "master", "also", "has", "a", "rate", "demand", "of", "0.2", "towards", "the", "slave", ".", "As", "we", "show", "in", "the", "section", "on", "asymmetric", "traffic", ",", "the", "algorithm", "works", "well", "even", "if", "these", "two", "rates", "are", "not", "the", "same", ".", "The", "simulation", "environment", "used", "in", "our", "experiments", "is", "NS-2", "-LSB-", "8", "-RSB-", ".", "We", "have", "augmented", "NS-2", "with", "the", "Bluetooth", "model", ".", "The", "simulator", "models", "the", "Bluetooth", "baseband", ",", "LMP", "and", "L2CAP", "layers", "and", "enables", "the", "creation", "of", "piconets", "and", "scatternets", ".", "The", "model", "contains", "most", "of", "the", "standard", "features", "of", "Bluetooth", "like", "Frequency", "Hopping", ",", "Multi-Slot", "Packets", ",", "Fast", "ARQ", "-LRB-", "Automatic", "Retransmission", "Query", "-RRB-", ".", "Note", "that", "as", "mentioned", "earlier", ",", "in", "our", "simulator", ",", "the", "switching", "loss", "asso-ciated", "with", "the", "gateway", "moving", "from", "one", "piconet", "to", "another", "A", "FAIR", "AND", "TRAFFIC", "DEPENDENT", "SCHEDULING", "17", "Figure", "5", ".", "Example", "scatternet", ".", "is", "not", "taken", "into", "account", ".", "This", "effect", "can", "lead", "to", "the", "gateway", "losing", "up", "to", "3", "%", "of", "slots", "at", "heavy", "loads", ".", "The", "experiment", "results", "are", "thus", ",", "a", "slight", "overestimate", ".", "In", "the", "experiments", ",", "all", "traffic", "generated", "is", "CBR", ".", "Each", "experiment", "is", "run", "for", "a", "system", "time", "of", "32", "sec", ".", "In", "the", "experiments", ",", "the", "term", "``", "slave", "''", "refers", "to", "a", "non-gateway", "slave", ";", "a", "gateway", "slave", "is", "referred", "to", "as", "``", "gateway", "''", ".", "Also", ",", "in", "experiments", "where", "the", "PPF", "and", "the", "SPF", "values", "-LRB-", "and", "not", "the", "updated", "PPF", "and", "the", "updated", "SPF", "-RRB-", "are", "shown", ",", "the", "PPF", "and", "the", "updated", "PPF", "are", "equal", "and", "the", "SPF", "and", "the", "updated", "SPF", "are", "also", "equal", ".", "In", "the", "graphs", ",", "``", "BW", "''", "in", "the", "index", "stands", "for", "bandwidth", ",", "``", "GW", "''", "stands", "for", "gateway", ".", "5.1", ".", "Single", "gateway", "in", "two", "piconets", "We", "first", "consider", "the", "simple", "topology", "shown", "in", "figure", "5", ",", "which", "consists", "of", "two", "piconets", ",", "numbered", "I", "and", "II", ",", "connected", "by", "a", "single", "gateway", ".", "We", "consider", "various", "cases", "by", "changing", "the", "traffic", "and", "the", "number", "of", "slaves", "in", "the", "piconets", ".", "Experiment", "1", ".", "Adaptation", "between", "gateway", "and", "non-gateway", "slave", "traffic", "Each", "piconet", "has", "one", "non-gateway", "slave", "that", "generates", "very", "high", "traffic", ",", "with", "rate", "equal", "to", "1", ",", "to", "the", "master", ".", "The", "gateway", "has", "equal", "traffic", "to", "both", "masters", ".", "We", "vary", "the", "gateway", "traffic", "to", "show", "the", "fair", "sharing", "of", "the", "piconet", "bandwidth", "between", "the", "gateway", "and", "the", "slave", ".", "We", "show", "the", "results", "for", "one", "piconet", "since", "the", "two", "piconets", "are", "exactly", "symmetric", ".", "Figure", "6", "-LRB-", "a", "-RRB-", "shows", "the", "sharing", "of", "bandwidth", "between", "the", "gateway", "and", "slave", "for", "different", "values", "of", "gateway", "traffic", ".", "It", "also", "shows", "the", "fair", "share", "of", "the", "slave", "and", "the", "total", "fraction", "of", "the", "bandwidth", "obtained", "by", "the", "gateway", "and", "the", "slave", "in", "the", "piconet", ".", "It", "can", "be", "seen", "that", "the", "slave", "obtains", "a", "bandwidth", "equal", "to", "its", "fair", "share", "for", "different", "values", "of", "gateway", "traffic", ".", "Moreover", ",", "the", "sum", "of", "the", "bandwidths", "obtained", "by", "the", "slave", "and", "the", "gateway", "is", "nearly", "equal", "to", "1", ".", "The", "reason", "for", "this", "to", "be", "slightly", "less", "than", "1", "is", "that", "some", "of", "the", "piconet", "capacity", "is", "used", "in", "sending", "LMP_hold_req", "PDUs", "of", "the", "LMP", "layer", ".", "In", "figure", "6", "-LRB-", "b", "-RRB-", ",", "the", "comparison", "of", "the", "fraction", "of", "the", "bandwidth", "obtained", "by", "the", "gateway", "to", "its", "SPF", "-LRB-", "PPF", "and", "SPF", "are", "equal", "-RRB-", "is", "shown", ".", "Figure", "6", "-LRB-", "b", "-RRB-", "shows", "that", "the", "gateway", "gets", "almost", "equal", "to", "its", "fair", "share", "of", "the", "bandwidth", "for", "all", "values", "of", "traffic", ".", "Again", ",", "the", "reason", "that", "the", "gateway", "obtains", "slightly", "less", "than", "its", "fair", "share", "is", "because", "some", "of", "the", "slots", "are", "used", "for", "LMP", "PDUs", ".", "This", "also", "explains", "why", "the", "gateway", "obtains", "slightly", "less", "than", "the", "slave", "in", "figure", "6", "-LRB-", "a", "-RRB-", ".", "Figure", "6", ".", "-LRB-", "a", "-RRB-", "Sharing", "of", "bandwidth", "between", "gateway", "and", "slave", ".", "-LRB-", "b", "-RRB-", "Comparison", "of", "fraction", "of", "bandwidth", "obtained", "to", "SPF", "for", "the", "gateway", ".", "Experiment", "2", ".", "Different", "traffic", "to", "piconets", "The", "same", "topology", "as", "in", "the", "previous", "case", ",", "but", "each", "slave", "has", "a", "traffic", "rate", "of", "0.3", "to", "the", "master", ".", "The", "gateway", "has", "a", "fixed", "traffic", "rate", "of", "0.2", "to", "the", "master", "of", "Piconet", "I", "and", "variable", "traffic", "to", "the", "other", "master", ".", "The", "PPF", "and", "SPF", "of", "the", "gateway", "in", "the", "first", "piconet", "are", ",", "thus", ",", "both", "equal", "to", "0.2", ".", "The", "traffic", "in", "Piconet", "I", "does", "not", "change", "and", "the", "gateway", "and", "the", "slave", "get", "a", "constant", "fraction", "of", "0.2", "and", "0.3", "of", "the", "piconet", "bandwidth", ",", "respectively", ".", "Figure", "7", "-LRB-", "a", "-RRB-", "shows", "the", "sharing", "of", "bandwidth", "between", "the", "gateway", "and", "slave", "for", "different", "values", "of", "gateway", "traffic", ",", "while", "figure", "7", "-LRB-", "b", "-RRB-", "shows", "the", "comparison", "of", "the", "fraction", "of", "the", "bandwidth", "obtained", "by", "the", "gateway", "in", "Piconet", "II", "to", "its", "SPF", "and", "PPF", ".", "From", "the", "graphs", ",", "we", "can", "see", "that", "when", "the", "gateway", "has", "different", "traffic", "to", "piconets", ",", "it", "divides", "its", "presence", "among", "the", "piconets", "according", "to", "the", "traffic", "offered", "and", "in", "a", "fair", "manner", "-LRB-", "again", ",", "the", "gateway", "obtains", "slightly", "less", "than", "its", "fair", "share", "due", "to", "the", "LMP", "PDUs", "-RRB-", ".", "Also", ",", "the", "gateway", "makes", "use", "of", "the", "lower", "traffic", "offered", "by", "the", "slave", "in", "Piconet", "II", "to", "obtain", "a", "higher", "share", "of", "the", "bandwidth", "in", "Piconet", "II", ".", "Experiment", "3", ".", "Different", "number", "of", "slaves", "Piconet", "I", "has", "3", "slaves", ",", "while", "the", "number", "of", "slaves", "in", "Piconet", "II", "is", "variable", ".", "Each", "slave", "generates", "traffic", "to", "the", "master", "at", "the", "rate", "of", "0.2", ".", "The", "gateway", "has", "a", "traffic", "rate", "of", "0.3", "to", "Piconet", "I", "and", "0.8", "to", "Piconet", "II", ".", "The", "PPF", "and", "SPF", "of", "the", "gateway", "in", "Piconet", "I", "are", ",", "thus", ",", "0.2", "and", "0.3", ",", "respectively", ".", "In", "Piconet", "II", ",", "the", "value", "of", "PPF", "changes", "depending", "upon", "the", "number", "of", "slaves", ".", "In", "Piconet", "I", ",", "the", "slaves", "get", "a", "bandwidth", "fraction", "of", "0.2", "and", "the", "gateway", "gets", "0.3", ".", "Figure", "8", "-LRB-", "a", "-RRB-", "shows", "the", "sharing", "18", "R.", "KAPOOR", "ET", "AL.", ".", "Figure", "7", ".", "-LRB-", "a", "-RRB-", "Sharing", "of", "bandwidth", "between", "gateway", "and", "slave", "in", "Piconet", "II", ".", "-LRB-", "b", "-RRB-", "Comparison", "of", "fraction", "of", "bandwidth", "obtained", "by", "the", "gateway", "to", "SPF", "and", "PPF", "in", "Piconet", "II", ".", "of", "bandwidth", "between", "the", "gateway", "and", "each", "slave", "in", "Piconet", "II", ".", "Figure", "8", "-LRB-", "b", "-RRB-", "shows", "the", "comparison", "of", "the", "fraction", "of", "the", "bandwidth", "obtained", "by", "the", "gateway", "in", "Piconet", "II", "to", "the", "SPF", "and", "PPF", ".", "The", "gateway", "receives", "a", "fraction", "of", "the", "bandwidth", "almost", "equal", "to", "its", "fair", "share", ".", "Also", ",", "as", "the", "number", "of", "slaves", "increases", ",", "the", "fraction", "of", "the", "bandwidth", "received", "by", "the", "gateway", "-LRB-", "and", "each", "slave", "-RRB-", "reduces", "in", "a", "fair", "manner", ".", "Experiment", "4", ".", "Asymmetric", "traffic", "We", "now", "consider", "a", "case", "where", "the", "traffic", "rates", "from", "Master", "to", "Slave", "and", "Slave", "to", "Master", "are", "different", "-LRB-", "asymmetric", "traffic", "-RRB-", ".", "We", "consider", "the", "same", "topology", "as", "in", "experiment", "2", "of", "the", "current", "section", ",", "with", "the", "non-gateway", "slaves", "having", "the", "same", "rate", "as", "in", "experiment", "2", ".", "The", "gateway", "has", "a", "fixed", "traffic", "rate", "of", "0.2", "to", "the", "master", "of", "Piconet", "I", "and", "variable", "traffic", "to", "the", "other", "master", ".", "The", "variable", "traffic", "is", "such", "that", "traffic", "from", "Master", "to", "Slave", "has", "a", "rate", "of", "0.1", "and", "traffic", "from", "Slave", "to", "Master", "varies", ".", "Figure", "9", "shows", "the", "comparison", "of", "bandwidth", "fraction", "obtained", "by", "the", "gateway", "in", "this", "experiment", "versus", "that", "obtained", "by", "the", "gateway", "in", "experiment", "2", "in", "Piconet", "II", "for", "different", "values", "of", "gateway", "traffic", "-LRB-", "which", "is", "the", "sum", "of", "master", "to", "gateway", "and", "gateway", "to", "master", "traffic", "rates", "-RRB-", ".", "We", "see", "that", "the", "fraction", "is", "slightly", "lower", "than", "the", "fraction", "obtained", "in", "experiment", "2", ".", "Asymmetric", "traffic", "leads", "to", "wastage", "of", "slots", ",", "since", "an", "empty", "slot", "is", "returned", "in", "one", "direction", "where", "there", "is", "no", "data", "to", "send", ".", "It", "can", "be", "seen", "though", ",", "that", "the", "gateway", "still", "behaves", "in", "an", "ap-Figure", "8", ".", "-LRB-", "a", "-RRB-", "Sharing", "of", "bandwidth", "between", "gateway", "and", "slave", "in", "Piconet", "II", ".", "-LRB-", "b", "-RRB-", "Comparison", "of", "fraction", "of", "bandwidth", "obtained", "by", "the", "gateway", "to", "SPF", "and", "PPF", "in", "Piconet", "II", ".", "Figure", "9", ".", "Comparison", "of", "fraction", "of", "bandwidth", "obtained", "by", "gateway", "in", "this", "experiment", "with", "that", "in", "experiment", "2", "in", "Piconet", "II", ".", "proximately", "fair", "manner", ".", "All", "other", "bandwidth", "fractions", "for", "slaves", "and", "the", "gateway", "are", "the", "same", "as", "in", "experiment", "2", ".", "5.2", ".", "Single", "gateway", "shared", "between", "three", "piconets", "We", "now", "consider", "a", "topology", ",", "where", "a", "gateway", "is", "shared", "between", "3", "piconets", ",", "numbered", "I", ",", "II", "and", "III", ".", "Piconet", "I", "has", "5", ",", "Piconet", "II", "has", "1", "and", "Piconet", "III", "has", "4", "slaves", ".", "Each", "slave", "has", "a", "traffic", "rate", "of", "0.2", ".", "The", "gateway", "has", "a", "traffic", "rate", "of", "0.2", "to", "Piconet", "I", ",", "0.3", "to", "Piconet", "III", "and", "a", "variable", "rate", "to", "Piconet", "II", ".", "All", "traffic", "is", "symmetric", "-LRB-", "same", "from", "master", "to", "slave", "and", "from", "slave", "to", "master", "-RRB-", ".", "A", "FAIR", "AND", "TRAFFIC", "DEPENDENT", "SCHEDULING", "19", "Figure", "10", ".", "Bandwidth", "fraction", "received", "by", "gateway", "in", "the", "three", "piconets", ".", "Figure", "11", ".", "Example", "scatternet", "topology", ".", "Figure", "10", "shows", "the", "fraction", "of", "bandwidth", "obtained", "by", "the", "gateway", "in", "each", "piconet", "with", "increasing", "gateway", "traffic", "rate", "to", "Piconet", "II", ".", "It", "also", "shows", "the", "PPF", "and", "the", "Updated", "SPF", "of", "the", "gateway", "in", "Piconet", "II", ".", "We", "do", "not", "show", "the", "fair", "shares", "of", "the", "gateway", "in", "Piconet", "I", "and", "III", "since", "they", "are", "constant", "-LRB-", "0.16", "and", "0.2", ",", "respectively", "-RRB-", ".", "It", "can", "be", "seen", "that", "the", "gateway", "manages", "to", "get", "close", "to", "its", "fair", "share", "in", "the", "3", "piconets", ".", "The", "slaves", "in", "Piconet", "I", "get", "a", "bandwidth", "fraction", "of", "0.16", "and", "the", "slaves", "in", "Piconet", "II", "and", "III", "get", "a", "bandwidth", "fraction", "of", "0.2", "-LRB-", "all", "these", "are", "equal", "to", "their", "fair", "shares", "-RRB-", ".", "5.3", ".", "Piconet", "with", "two", "gateways", "We", "now", "show", "the", "working", "of", "the", "algorithm", "in", "a", "piconet", "having", "2", "gateways", ",", "as", "shown", "in", "figure", "11", ".", "Piconets", "I", ",", "II", "and", "III", "have", "6", ",", "2", "and", "4", "non-gateway", "slaves", ",", "respectively", ".", "There", "are", "two", "gateways", ",", "GW", "1", "between", "Piconets", "I", "and", "II", ";", "and", "GW", "2", "between", "Piconets", "II", "and", "III", ".", "All", "slaves", "have", "a", "traffic", "rate", "of", "0.2", ".", "GW", "1", "has", "a", "traffic", "rate", "of", "0.2", "in", "Piconet", "I", "and", "0.5", "in", "Piconet", "II", ".", "GW", "2", "has", "a", "traffic", "rate", "of", "0.2", "in", "Piconet", "III", ".", "We", "vary", "the", "traffic", "rate", "of", "GW", "2", "in", "Piconet", "II", "and", "show", "the", "fair", "sharing", "of", "bandwidth", ".", "Figure", "12", "shows", "the", "fraction", "of", "bandwidth", "obtained", "by", "GW", "1", "and", "GW", "2", "in", "Piconet", "II", "compared", "to", "their", "fair", "shares", ".", "The", "x-axis", "denotes", "GW", "2", "traffic", "in", "Piconet", "II", ".", "It", "can", "be", "seen", "that", "the", "bandwidth", "fractions", "obtained", "are", "very", "close", "to", "the", "fair", "value", ".", "The", "non-gateway", "slaves", "of", "Piconet", "II", "receive", "a", "bandwidth", "fraction", "of", "0.2", ",", "which", "is", "equal", "to", "their", "fair", "share", "-LRB-", "not", "shown", "in", "the", "figure", "-RRB-", ".", "The", "bandwidth", "fraction", "received", "by", "slaves", "in", "Piconets", "I", "and", "III", "does", "not", "change", "for", "different", "values", "of", "GW2", "traffic", "in", "Piconet", "II", ".", "The", "fair", "share", "of", "each", "slave", "-LRB-", "including", "the", "gateway", "-RRB-", "in", "Piconet", "I", "is", "0.14", "and", "in", "Piconet", "III", "Figure", "12", ".", "Fraction", "of", "bandwidth", "and", "fair", "share", "of", "GW1", "and", "GW2", "in", "Piconet", "II", ".", "Figure", "13", ".", "Actual", "rate", "estimation", "of", "the", "gateway", "and", "its", "ideal", "value", ".", "is", "0.2", ";", "the", "bandwidth", "fraction", "received", "by", "each", "slave", "is", "very", "close", "to", "these", "fair", "shares", ".", "5.4", ".", "Adaptivity", "to", "changing", "traffic", "demands", "We", "now", "show", "how", "quickly", "the", "algorithm", "is", "able", "to", "adapt", "to", "changing", "traffic", ".", "We", "again", "consider", "the", "scenario", "of", "experiment", "1", "of", "section", "5.1", ",", "consisting", "of", "two", "piconets", ",", "each", "having", "a", "non-gateway", "slave", ",", "connected", "by", "a", "single", "gateway", ".", "The", "non-gateway", "slaves", "have", "a", "traffic", "rate", "of", "1", ";", "the", "gateway", "has", "equal", "traffic", "to", "both", "the", "masters", ".", "We", "vary", "the", "traffic", "rate", "of", "the", "gateway", "as", "time", "progresses", ":", "for", "the", "first", "2.5", "seconds", ",", "the", "gateway", "'s", "rate", "is", "0.1", ",", "for", "the", "next", "2.5", "seconds", ",", "it", "is", "0.5", "and", "for", "the", "remaining", "time", ",", "it", "is", "0.3", ".", "Figure", "13", "shows", "the", "actual", "rate", "estimation", "of", "the", "gateway", "-LRB-", "and", "its", "ideal", "value", "-RRB-", "versus", "time", ".", "It", "can", "be", "seen", "that", "the", "rate", "estimation", "adapts", "very", "quickly", "to", "the", "new", "rate", ".", "For", "example", ",", "when", "the", "rate", "changes", "from", "0.1", "to", "0.5", ",", "the", "rate", "estimation", "reaches", "a", "value", "of", "0.45", "in", "about", "half", "a", "second", "after", "2.5", "sec", ".", "Thus", ",", "the", "algorithm", "adapts", "to", "quickly", "changing", "traffic", ".", "This", "paper", "proposed", "a", "distributed", "scatternet-scheduling", "algorithm", "that", "adapts", "to", "non-uniform", "and", "changing", "traffic", ".", "This", "20", "R.", "KAPOOR", "ET", "AL.", "algorithm", "provides", "an", "integrated", "solution", "for", "both", "intra", "-", "and", "inter-piconet", "scheduling", "and", "can", "be", "implemented", "using", "the", "HOLD", "mode", "of", "Bluetooth", ".", "Through", "analysis", "and", "simulations", ",", "we", "showed", "that", "the", "algorithm", "is", "traffic-adaptive", "and", "results", "in", "a", "fair", "allocation", "of", "bandwidth", "to", "units", ".", "We", "explained", "earlier", "that", "the", "algorithm", "may", "allow", "a", "unit", "to", "go", "into", "a", "power-saving", "mode", ".", "In", "future", ",", "we", "would", "like", "to", "explore", "this", "option", ",", "which", "also", "assumes", "importance", "since", "Bluetooth", "devices", "will", "most", "likely", "operate", "in", "a", "power-constrained", "environment", ".", "As", "future", "work", ",", "we", "would", "also", "like", "to", "evaluate", "the", "performance", "of", "TCP", "and", "other", "kinds", "of", "traffic", "on", "our", "algorithm", ".", "We", "are", "also", "working", "towards", "interfacing", "the", "algorithm", "with", "requirements", "of", "higher", "layers", ".", "In", "this", "respect", ",", "we", "are", "working", "towards", "providing", "QoS", "support", "using", "the", "algorithm", ".", "-LSB-", "1", "-RSB-", "S.", "Baatz", ",", "M.", "Frank", ",", "C.", "Kehl", ",", "P.", "Martini", "and", "C.", "Scholz", ",", "Adaptive", "scatternet", "support", "for", "Bluetooth", "using", "sniff", "mode", ",", "in", ":", "Proc", ".", "of", "IEEE", "LCN", "-LRB-", "2001", "-RRB-", ".", "-LSB-", "2", "-RSB-", "A.", "Das", ",", "A.", "Ghose", ",", "A.", "Razdan", ",", "H.", "Saran", "and", "R.", "Shorey", ",", "Enhancing", "performance", "of", "asynchronous", "data", "traffic", "over", "the", "Bluetooth", "wireless", "ad-hoc", "network", ",", "in", ":", "Proc", ".", "of", "IEEE", "INFOCOM", "'", "2001", "-LRB-", "2001", "-RRB-", ".", "-LSB-", "3", "-RSB-", "J.", "Haartsen", ",", "BLUETOOTH", "the", "universal", "radio", "interface", "for", "ad", "hoc", "wireless", "connectivity", ",", "Ericsson", "Review", "3", "-LRB-", "1998", "-RRB-", "110", "117", ".", "-LSB-", "4", "-RSB-", "P.", "Johansson", ",", "M.", "Kazantzidis", ",", "R.", "Kapoor", "and", "M.", "Gerla", ",", "Bluetooth", "an", "enabler", "for", "personal", "area", "networking", ",", "IEEE", "Network", "Magazine", ",", "Wireless", "Personal", "Area", "Network", "-LRB-", "September", "2001", "-RRB-", ".", "-LSB-", "5", "-RSB-", "M.", "Kalia", ",", "D.", "Bansal", "and", "R.", "Shorey", ",", "MAC", "scheduling", "and", "SAR", "policies", "for", "Bluetooth", ":", "A", "master", "driven", "TDD", "pico-cellular", "wireless", "system", ",", "in", ":", "Proc", ".", "of", "6th", "IEEE", "International", "Workshop", "on", "Mobile", "Multimedia", "Communications", "-LRB-", "MOMUC", "-RRB-", "-LRB-", "1999", "-RRB-", ".", "-LSB-", "6", "-RSB-", "R.", "Kapoor", ",", "L.", "Chen", ",", "Y.", "Lee", "and", "M.", "Gerla", ",", "Bluetooth", ":", "carrying", "voice", "over", "ACL", "links", ",", "in", ":", "Proc", ".", "of", "MWCN", "-LRB-", "2002", "-RRB-", ".", "-LSB-", "7", "-RSB-", "A.", "Mayer", ",", "Y.", "Ofek", "and", "M.", "Yung", ",", "Approximating", "max-min", "fair", "rates", "via", "distributed", "local", "scheduling", "with", "partial", "information", ",", "in", ":", "Proc", ".", "of", "IEEE", "INFOCOM", "-LRB-", "1996", "-RRB-", ".", "-LSB-", "8", "-RSB-", "NS-2", "simulator", ",", "http://www.isi.edu/nsnam/ns/", "-LSB-", "9", "-RSB-", "A.", "Racz", ",", "G.", "Miklos", ",", "F.", "Kubinszky", "and", "A.", "Valko", ",", "A", "pseudo-random", "coordinated", "scheduling", "algorithm", "for", "Bluetooth", "scatternets", ",", "in", ":", "Proc", ".", "of", "MobiHoc", "-LRB-", "2001", "-RRB-", ".", "-LSB-", "10", "-RSB-", "Specifications", "of", "the", "Bluetooth", "System", "core", ",", "Vol", ".", "1", ",", "v.", "1.1", ",", "www", ".", "Bluetooth.com", "-LSB-", "11", "-RSB-", "W.", "Zhang", "and", "G.", "Cao", ",", "A", "flexible", "scatternet-wide", "scheduling", "algorithm", "for", "Bluetooth", "networks", ",", "in", ":", "Proc", ".", "of", "IEEE", "IPCCC", "-LRB-", "2002", "-RRB-", ".", "Rohit", "Kapoor", "received", "his", "Bachelor", "degree", "in", "computer", "science", "in", "1999", "from", "the", "University", "of", "Roor-kee", ",", "India", ".", "He", "is", "currently", "a", "Ph.D.", "candidate", "at", "the", "University", "of", "California", ",", "Los", "Angeles", "-LRB-", "UCLA", "-RRB-", ".", "His", "research", "focuses", "on", "Bluetooth-based", "personal", "area", "networks", ".", "He", "is", "a", "member", "of", "the", "Network", "Research", "Lab", "at", "UCLA", ".", "E-mail", ":", "rohitk@cs.ucla.edu", "Andrea", "Zanella", "received", "the", "Ph.D.", "degree", "in", "telecommunication", "engineering", "from", "the", "University", "of", "Padova", ",", "Italy", ",", "in", "2002", ".", "Prior", "to", "that", "he", "received", "the", "Dr.", "Ing", ".", "degree", "-LRB-", "comparable", "to", "Master", "degree", "-RRB-", "in", "computer", "engineering", "in", "1998", ",", "still", "from", "the", "University", "of", "Padova", ".", "He", "spent", "nine", "months", ",", "in", "2001", ",", "as", "post-doc", "researcher", "at", "the", "Department", "of", "Computer", "Science", "of", "the", "University", "of", "California", ",", "Los", "Angeles", "-LRB-", "UCLA", "-RRB-", ",", "where", "he", "was", "engaged", "in", "research", "on", "Wireless", "Networks", "and", "Wireless", "Access", "to", "Internet", "under", "the", "supervision", "of", "Prof.", "Mario", "Gerla", ".", "Currently", ",", "he", "is", "a", "research", "fellow", "in", "the", "Department", "of", "Information", "Engineering", "of", "the", "University", "of", "Padova", ",", "Italy", ".", "His", "research", "interests", "are", "mainly", "focused", "on", "topics", "related", "to", "wireless", "and", "mobile", "networking", ".", "In", "particular", ",", "in", "the", "last", "period", ",", "he", "has", "been", "working", "on", "the", "performance", "aspects", "of", "wireless", "personal", "area", "networks", "based", "on", "the", "Bluetooth", "standard", ".", "E-mail", ":", "zanella@dei.unipd.it", "Mario", "Gerla", "is", "a", "professor", "in", "the", "Computer", "Science", "Department", "at", "UCLA", ".", "He", "received", "his", "graduate", "degree", "in", "engineering", "from", "the", "Politecnico", "di", "Milano", "in", "1966", ",", "and", "his", "M.S.", "and", "Ph.D.", "degrees", "in", "engineering", "from", "UCLA", "in", "1970", "and", "1973", ",", "respectively", ".", "He", "joined", "the", "faculty", "of", "the", "UCLA", "Computer", "Science", "Department", "in", "1977", ".", "His", "current", "research", "is", "in", "the", "area", "of", "analysis", ",", "design", "and", "control", "of", "communication", "networks", ".", "Ongoing", "projects", "include", "the", "design", "and", "evaluation", "of", "QoS", "routing", "and", "multicast", "algorithms", "for", "IP", "domains", ",", "the", "design", "and", "evaluation", "of", "all-optical", "network", "topologies", "and", "access", "protocols", ",", "the", "design", "of", "wireless", "mobile", ",", "multimedia", "networks", "for", "mobile", "computing", "applications", ",", "and", "the", "development", "of", "measurement", "methods", "and", "tools", "for", "evaluating", "the", "performance", "of", "high-speed", "networks", "and", "applications", ".", "E-mail", ":", "gerla@cs.ucla.edu"], "doc_bio_tags": ["O", "O", "O", "B", "I", "I", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["traffic rate", "piconet", "polling algorithm", "scatternet", "gateway", "slave unit", "traffic dependent scheduling", "allocation of bandwidth", "bluetooth technology", "virtual slave", "scatternets", "hold mode", "bandwidth utilization", "heuristic", "rendezvous point", "round robin", "slave", "master unit", "scheduling scheme", "changing traffic", "master", "information exchange", "scheduling algorithm", "scheduling of gateways", "fair share", "rendezvous points", "bluetooth", "slaves", "scheduling", "fairness"], "abstractive_keyphrases": ["blueooth", "non-gateway slave traffic", "piconet presence fraction", "distributed algorithm", "efficiency", "gateway slave traffic", "time-division multiplex", "non-uniform traffic", "traffic adaptive", "scatternet presence fraction", "round robin polling"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "50", "document": ["Building", "Sustainable", "Community", "Information", "Systems", ":", "Lessons", "from", "a", "Digital", "Government", "Project", "This", "paper", "introduces", "a", "rationale", "for", "and", "approach", "to", "the", "study", "of", "sustainability", "in", "computerized", "community", "information", "systems", ".", "It", "begins", "by", "presenting", "a", "theoretical", "framework", "for", "posing", "questions", "about", "sustainability", "predicated", "upon", "assumptions", "from", "social", "construction", "of", "technology", "and", "adaptive", "structuration", "theories", ".", "Based", "in", "part", "on", "the", "literature", "and", "in", "part", "on", "our", "own", "experiences", "in", "developing", "a", "community", "information", "system", ",", "we", "introduce", "and", "consider", "three", "issues", "related", "to", "sustainability", ":", "stakeholder", "involvement", ",", "commitment", "from", "key", "players", ",", "and", "the", "development", "of", "critical", "mass", ".", "H4", ".3", "-LSB-", "Communication", "Applications", "-RSB-", ":", "Bulletin", "Boards", ",", "Computer", "Conferencing", ";", "H5", ".2", "-LSB-", "Information", "Interfaces", "and", "Presentation", "-RSB-", ":", "User", "Interfaces", "User-centered", "design", ".", "Design", ",", "Human", "Factors", ".", "New", "technologies", "make", "it", "feasible", "and", "in", "many", "cases", "practical", "for", "individuals", ",", "groups", ",", "and", "organizations", "to", "collaborate", "in", "the", "development", "of", "joint", "information", "systems", ".", "In", "fact", ",", "over", "the", "last", "three", "decades", "of", "evolution", ",", "few", "applications", "of", "information", "technology", "have", "stimulated", "so", "much", "interest", "on", "the", "part", "of", "so", "many", ".", "Collaborative", "information", "systems", "are", "attractive", "to", "users", "because", "they", "make", "it", "possible", "to", "find", "information", "from", "diverse", "sources", "in", "an", "easy", "and", "efficient", "way", ".", "Such", "systems", "make", "good", "sense", "for", "information", "providers", "because", "it", "becomes", "possible", "to", "attract", "a", "larger", "audience", "than", "a", "solitary", "effort", "might", "otherwise", "be", "able", "to", "command", "and", "to", "pool", "resources", "to", "achieve", "certain", "economies", "in", "scale", "and", "technology", "expense", ".", "The", "advantages", "of", "collaborative", "computerized", "information", "systems", "have", "been", "widely", "recognized", ",", "but", "this", "has", "been", "particularly", "the", "case", "for", "those", "with", "the", "goal", "of", "making", "community", "information", "more", "available", ",", "accessible", ",", "and", "oriented", "toward", "community", "development", ".", "Computerized", "community", "information", "systems", "are", "diverse", "in", "form", "and", ",", "over", "time", ",", "have", "come", "to", "be", "known", "by", "many", "different", "names", ",", "including", "community", "bulletin", "boards", ",", "civic", "networks", ",", "community", "networks", ",", "community", "information", "networks", ",", "televillages", ",", "smart", "communities", ",", "and", "Free-Nets", ".", "They", "have", "been", "initiated", "by", "many", "different", "sponsors", ",", "including", "government", "organizations", "at", "the", "federal", ",", "state", ",", "and", "local", "levels", ",", "academic", "organizations", ",", "libraries", ",", "and", "ad", "hoc", "groups", "of", "citizens", "that", "may", "or", "may", "not", "later", "transform", "their", "enterprises", "into", "not-for-profit", "organizations", "-LSB-", "7", "-RSB-", ".", "With", "respect", "to", "longevity", ",", "these", "projects", "have", "come", "and", "gone", ",", "only", "to", "be", "replaced", "by", "newer", "and", "more", "sophisticated", "manifestations", "of", "the", "same", "basic", "information", "sharing", "capabilities", ".", "Consistent", "with", "the", "evolution", "of", "technology", "over", "the", "last", "thirty", "years", ",", "Kubicek", "and", "Wagner", "-LSB-", "14", "-RSB-", "analyze", "the", "historical", "trajectory", "of", "community", "networks", "to", "understand", "how", "these", "applications", "have", "evolved", "over", "time", "based", "upon", "their", "animating", "ideas", ",", "the", "zeitgeist", "of", "the", "time", ",", "the", "state", "of", "technology", "access", ",", "and", "the", "kinds", "of", "services", "such", "applications", "make", "available", ".", "Their", "analysis", "makes", "it", "possible", "to", "see", "that", "there", "has", "never", "been", "a", "standard", "for", "design", "or", "operation", "when", "it", "comes", "to", "community", "information", "systems", ".", "Instead", ",", "each", "such", "project", "has", "been", "very", "much", "a", "social", "experiment", ",", "born", "of", "a", "cluster", "of", "varied", "ideas", "related", "to", "the", "general", "theme", "of", "using", "technology", "to", "promote", "the", "development", "of", "vibrant", "geographically-based", "communities", ".", "Since", "there", "has", "been", "no", "standard", "to", "follow", ",", "each", "instance", "of", "computerized", "community", "information", "system", "can", "be", "seen", "as", "an", "experiment", "in", "accommodating", "the", "tensions", "between", "access", "to", "hardware/software", "infrastructure", ",", "design", "of", "the", "particular", "application", "or", "system", ",", "user", "needs", ",", "and", "the", "initiating", "and", "ongoing", "resources", "that", "support", "these", "efforts", ".", "These", "projects", "can", "be", "resource", "intensive", ";", "thus", ",", "a", "variety", "of", "institutional", "actors", "have", "lent", "their", "financial", "support", "particularly", "over", "the", "past", "decade", ".", "The", "successive", "rounds", "of", "funding", "for", "community", "technology", "projects", "by", "the", "Department", "of", "Commerce", "'s", "National", "Telecommunications", "and", "Information", "Administration", "-LRB-", "now", "called", "the", "Technology", "Opportunities", "Program", "-RRB-", "is", "a", "case", "in", "point", ".", "The", "Digital", "Government", "Program", "of", "the", "National", "Science", "Foundation", "has", "Copyright", "held", "by", "the", "author", "145", "provided", "support", "for", "such", "ventures", ",", "as", "have", "many", "private", "foundations", "and", "technology", "corporations", ".", "From", "the", "perspective", "of", "funding", "organizations", ",", "the", "nature", "of", "the", "experiment", "at", "the", "heart", "of", "CCINs", "is", "essentially", "this", ":", "how", "to", "build", "applications", "that", "achieve", "their", "civic", "goals", ",", "that", "provide", "services", "perceived", "as", "valuable", "by", "their", "users", ",", "and", "that", "can", "command", "continuing", "support", "from", "the", "community", "beyond", "the", "horizon", "of", "initial", "funding", ".", "From", "a", "purely", "academic", "perspective", ",", "the", "more", "general", "question", "centers", "on", ",", "as", "Venkatesh", "-LSB-", "28", "-RSB-", "has", "put", "it", ",", "the", "``", "lifecycle", "''", "of", "community", "information", "systems", ".", "More", "specifically", ",", "we", "wish", "to", "know", "how", "such", "systems", "``", "originate", ",", "stabilize", ",", "and", "change", "in", "their", "sociohistorical", "context", "''", "-LRB-", "p.", "339", "-RRB-", ".", "We", "do", "not", "have", "extensive", "knowledge", "about", "the", "extent", "to", "which", "community", "information", "systems", "achieve", "their", "goals", ",", "endure", "over", "time", ",", "or", "the", "conditions", "that", "facilitate", "effectiveness", "and", "sustainability", ".", "However", ",", "based", "on", "what", "we", "do", "know", ",", "it", "is", "apparent", "that", "such", "enterprises", "are", "fragile", ".", "Perhaps", "the", "closest", "we", "have", "come", "to", "a", "standard", "or", "model", "is", "the", "relatively", "extensive", "set", "of", "experiments", "in", "community", "networking", "in", "the", "1990s", "called", "Free-Nets", ",", "which", "were", "fashioned", "after", "the", "public", "broadcasting", "system", "and", "intended", "to", "serve", "their", "localities", "by", "providing", "access", "to", "wide-area", "computer", "networks", "and", "information", "about", "the", "community", ".", "Founded", "in", "1989", ",", "the", "National", "Public", "Telecomputing", "Network", ",", "an", "umbrella", "organization", "for", "Free-Nets", ",", "went", "bankrupt", "in", "1996", ".", "After", "successive", "decreases", "in", "the", "cost", "of", "computing", "equipment", "and", "Internet", "access", ",", "and", "the", "development", "of", "the", "World", "Wide", "Web", ",", "many", "Free-Nets", "went", "out", "of", "business", "-LSB-", "14", "-RSB-", ".", "Studies", "of", "community", "networks", "funded", "by", "the", "federal", "and", "state", "governments", "also", "suggest", "that", "community", "information", "systems", "have", "difficulty", "enduring", "beyond", "their", "initial", "funding", "-LSB-", "26", "-RSB-", "-LSB-", "21", "-RSB-", ".", "In", "this", "paper", ",", "we", "introduce", "and", "consider", "conditions", "that", "facilitate", "the", "sustainability", "of", "computerized", "community", "information", "systems", ".", "We", "base", "our", "discussion", "in", "part", "on", "our", "own", "efforts", "to", "develop", "a", "community", "information", "system", "called", "Connected", "Kids", "in", "Troy", ",", "New", "York", ",", "a", "project", "that", "began", "in", "a", "formal", "sense", "in", "1999", "and", "continues", "today", ".", "We", "begin", "by", "presenting", "a", "theoretical", "framework", "for", "posing", "questions", "about", "sustainability", "based", "on", "the", "social", "construction", "of", "technology", "and", "adaptive", "structuration", "theory", ".", "Drawing", "on", "the", "literature", "as", "well", "as", "our", "experiences", ",", "we", "introduce", "and", "discuss", "three", "issues", "we", "believe", "to", "be", "critically", "related", "to", "sustainability", ":", "stakeholder", "involvement", ",", "commitment", "from", "key", "players", ",", "and", "critical", "mass", ".", "All", "computerized", "community", "information", "systems", "are", "designed", ",", "although", "whether", "researchers", "and", "participants", "understand", "the", "significance", "of", "design", "and", "its", "relevance", "to", "sustainability", "varies", "from", "context", "to", "context", ".", "In", "some", "cases", ",", "where", "community", "networks", "have", "originated", "as", "the", "indigenous", "creation", "of", "technology-savvy", "citizens", ",", "it", "may", "appear", "to", "researchers", "that", "the", "design", "of", "the", "information", "system", "is", "a", "natural", "expression", "of", "community", "development", "unfettered", "by", "theoretical", "considerations", ".", "However", ",", "in", "other", "cases", ",", "design", "is", "taken", "more", "seriously", "and", "treated", "as", "an", "element", "that", "can", "be", "purposefully", "controlled", "in", "order", "to", "achieve", "particular", "kinds", "of", "effects", ".", "In", "either", "case", ",", "we", "argue", "that", "the", "material", "form", ",", "functionalities", ",", "conceptual", "configuration", ",", "and", "impact", "of", "technology", "is", "shaped", "by", "the", "uses", ",", "goals", ",", "interests", ",", "and", "ideologies", "of", "those", "who", "participate", "in", "its", "development", "and", "others", "who", "use", "it", "following", "development", ".", "In", "the", "literature", "addressing", "the", "social", "construction", "of", "technology", ",", "this", "argument", "is", "frequently", "illustrated", "by", "showing", "how", "users", "appropriate", "new", "technologies", "for", "their", "own", "purposes", ",", "which", "may", "be", "contrary", "to", "those", "of", "designers", "-LRB-", "see", "e.g.", "-LSB-", "15", "-RSB-", "-LSB-", "25", "-RSB-", "-RRB-", ".", "However", ",", "we", "take", "this", "position", "one", "step", "further", "by", "suggesting", "that", "community", "information", "systems", ",", "and", "information", "and", "communication", "technologies", "more", "broadly", ",", "reflect", "the", "interests", ",", "orientations", ",", "and", "indeed", "the", "na", "ve", "social", "theories", "of", "their", "designers", ",", "as", "well", "as", "being", "shaped", "ex", "post", "facto", "by", "their", "users", "-LSB-", "8", "-RSB-", ".", "On", "this", "basis", ",", "we", "have", "argued", "that", "academic", "researchers", "need", "to", "become", "involved", "in", "the", "process", "of", "technology", "design", "as", "a", "way", "of", "exploring", "how", "to", "improve", "the", "design", "of", "technology", "and", "as", "a", "way", "to", "test", "social", "theory", ",", "including", "communication", ",", "information", ",", "and", "democratic", "theory", ".", "However", ",", "our", "position", "suggests", "that", "users", "of", "information", "systems", "must", "also", "be", "included", "in", "their", "initial", "conceptualization", "and", "design", "in", "order", "to", "develop", "systems", "that", "reflect", "users", "'", "needs", ",", "goals", ",", "and", "values", ".", "This", "leads", "quite", "naturally", "to", "creating", "interdisciplinary", "-LRB-", "e.g.", "computer", "scientists", ",", "information", "scientists", ",", "social", "scientists", "-RRB-", "application", "design", "teams", "that", "provide", "for", "participation", "by", "community", "members", ";", "it", "is", "in", "such", "collaborative", "arrangements", "that", "sustainable", "community", "information", "systems", "may", "be", "designed", ".", "The", "social", "construction", "of", "technology", "argues", "that", "technologies", "are", "shaped", "by", "both", "designers", "and", "users", "and", "suggests", "that", "information", "system", "design", "be", "undertaken", "collaboratively", "by", "those", "implicated", "in", "both", "the", "technical", "and", "social", "conceptualization", "of", "the", "system", ".", "However", ",", "issues", "of", "sustainability", "ultimately", "focus", "on", "reproduction", "of", "the", "system", ".", "Once", "designed", ",", "information", "systems", "must", "be", "deployed", ",", "and", "once", "deployed", ",", "they", "must", "be", "re-enacted", "on", "a", "routine", "basis", "by", "their", "users", "to", "be", "sustained", ".", "Adaptive", "structuration", "theory", "is", "one", "of", "the", "most", "fully", "developed", "theoretical", "perspectives", "for", "understanding", "how", "new", "technologies", "come", "to", "reproduce", "social", "structures", "or", "to", "generate", "structural", "change", "in", "particular", "social", "contexts", ".", "DeSanctis", "and", "Poole", "-LSB-", "4", "-RSB-", "base", "their", "work", "on", "structuration", "processes", "originally", "described", "by", "Giddens", "-LSB-", "5", "-RSB-", ".", "Giddens", "-LSB-", "5", "-RSB-", "suggests", "that", "technologies", "in", "organizations", "either", "reproduce", "existing", "social", "structure", "or", "change", "social", "structure", "by", "virtue", "of", "the", "kinds", "of", "structures", "that", "are", "instantiated", "when", "social", "actors", "use", "technologies", ".", "Structure", "consists", "of", "rules", "and", "resources", "that", "actors", "draw", "upon", "to", "produce", "social", "behavior", ".", "For", "DeSanctis", "and", "Poole", "-LSB-", "4", "-RSB-", ",", "social", "structures", "are", "physically", "incorporated", "in", "new", "technologies", "in", "two", "complementary", "ways", ".", "First", ",", "technologies", "embody", "rules", "and", "resources", "embedded", "in", "the", "form", "of", "particular", "material", "capabilities", ",", "functionalities", ",", "and", "features", "that", "comprise", "a", "variety", "of", "behavioral", "options", "to", "be", "used", "in", "constructing", "social", "action", ".", "Second", ",", "the", "``", "spirit", "''", "of", "a", "technology", ",", "also", "considered", "to", "be", "a", "property", "of", "the", "technology", ",", "expresses", "the", "values", "and", "goals", "that", "are", "brought", "to", "bear", "upon", "the", "tasks", "the", "technology", "was", "originally", "intended", "to", "accomplish", ".", "Together", "the", "features", "and", "spirit", "of", "a", "technology", "comprise", "its", "``", "structural", "potential", ",", "''", "or", "the", "range", "of", "possible", "actions", "that", "users", "can", "draw", "upon", "to", "constitute", "or", "reproduce", "social", "structures", "in", "technology", "use", ".", "Orlikowski", "-LSB-", "17", "-RSB-", "disputes", "a", "portion", "of", "this", "conceptualization", ",", "noting", "that", ",", "according", "to", "Giddens", "-LSB-", "5", "-RSB-", ",", "structure", "has", "a", "``", "virtual", "''", "rather", "than", "material", "existence", ",", "and", "thus", "can", "never", "be", "physically", "incorporated", "into", "technology", ".", "Instead", ",", "''", "-LSB-", "w", "-RSB-", "hile", "a", "technology", "may", "be", "seen", "to", "embody", "particular", "symbol", "and", "material", "properties", ",", "it", "does", "not", "embody", "structures", "because", "those", "are", "only", "instantiated", "in", "practice", "''", "-LRB-", "-LSB-", "17", "-RSB-", ",", "p.", "206", "-RRB-", "and", ",", "if", "reproduced", ",", "are", "systematically", "repeated", "over", "time", ".", "146", "Orlikowski", "'s", "-LSB-", "17", "-RSB-", "point", "is", "that", "users", "may", "draw", "upon", "only", "some", "of", "a", "technology", "'s", "features", ",", "and", "may", "do", "that", "in", "ways", "that", "depart", "substantially", "from", "the", "original", "conceptualizations", "of", "designers", ".", "In", "essence", ",", "users", "``", "enact", "''", "technology", "in", "their", "collective", ",", "systematic", ",", "and", "routine", "use", "of", "a", "technology", ",", "reproducing", "some", "of", "the", "technology", "and", "some", "of", "its", "associated", "structures", "through", "practice", ".", "Orlikowski", "'s", "-LSB-", "17", "-RSB-", "term", "``", "technologies-in-practice", "''", "references", "the", "idea", "that", "as", "users", "engage", "selectively", "with", "particular", "technological", "features", ",", "particular", "structures", ",", "or", "sets", "of", "rules", "and", "resources", "associated", "with", "the", "technology", ",", "are", "selectively", "reconstituted", ".", "Thus", ",", "a", "technology-in-practice", "is", "a", "``", "repeatedly", "experienced", ",", "personally", "ordered", "and", "edited", "version", "of", "the", "technological", "artifact", ",", "being", "experienced", "differently", "by", "different", "individuals", "and", "differently", "by", "the", "same", "individuals", "depending", "on", "the", "time", "or", "circumstances", "''", "-LRB-", "-LSB-", "17", "-RSB-", ",", "p.", "408", "-RRB-", ".", "Applied", "to", "sustainability", ",", "our", "questions", "center", "on", "the", "conditions", "under", "which", "users", "``", "appropriate", "''", "the", "system", ".", "For", "community", "information", "systems", ",", "there", "are", "generally", "two", "kinds", "of", "users-information", "providers", "and", "information", "consumers", "--", "and", ",", "of", "course", ",", "the", "same", "individuals", "may", "play", "both", "user", "roles", ".", "Thus", ",", "our", "questions", "become", ":", "Under", "what", "conditions", "do", "users", "collectively", "and", "routinely", "draw", "upon", "and", "apply", "particular", "features", "of", "a", "community", "information", "system", "?", "When", "do", "they", "reference", "the", "way", "their", "system", "``", "should", "''", "work", "in", "order", "to", "construct", "a", "shared", "perspective", "about", "community", "action", "?", "Through", "regular", "and", "routine", "enactments", "of", "technology", "in", "regular", "use", ",", "users", "reproduce", "the", "rules", "and", "resources", "or", "structures", "of", "community", "life", "that", "are", "instantiated", "in", "technology", "use", ".", "This", "is", "not", "to", "say", "that", "``", "unfaithful", "''", "appropriations", ",", "or", "those", "that", "are", "out-of-line", "with", "the", "spirit", "of", "the", "technology", ",", "can", "not", "occur", ";", "but", "it", "is", "to", "say", "that", "it", "is", "unlikely", "they", "will", "sustain", "a", "community", "information", "system", ".", "We", "begin", "our", "discussion", "of", "factors", "related", "to", "sustainability", "by", "distinguishing", "between", "the", "effectiveness", "and", "the", "sustainability", "of", "computerized", "community", "information", "systems", ".", "Community", "information", "systems", "are", "designed", "and", "advocated", "with", "many", "goals", "in", "mind", ",", "some", "of", "which", "focus", "on", "traditional", "issues", "of", "community", "development", ",", "such", "as", "decreasing", "unemployment", ",", "stimulating", "economic", "growth", ",", "improving", "health", "and", "social", "welfare", ",", "and", "others", "focus", "on", "building", "social", "capital", ",", "or", "enhancing", "interest", "and", "participation", "in", "government", "decision", "making", "processes", ".", "The", "issue", "of", "effectiveness", "addresses", "whether", "such", "systems", "are", "achieving", "the", "goals", "for", "which", "they", "were", "designed", ".", "Sustainability", ",", "on", "the", "other", "hand", ",", "addresses", "whether", "the", "information", "system", "is", "able", "to", "endure", "past", "its", "initial", "launching", "phase", ",", "whether", "it", "is", "used", "and", "reproduced", "by", "its", "intended", "audience", ",", "and", "whether", "it", "can", "continue", "to", "attract", "resources", "beyond", "those", "obtained", "for", "initial", "development", "and", "deployment", ".", "Clearly", "these", "two", "concepts", "are", "not", "irrelevant", "to", "each", "other", ",", "but", "neither", "are", "they", "the", "same", ".", "It", "is", "possible", "that", "questions", "of", "sustainability", "logically", "precede", "those", "of", "effectiveness", ",", "but", "there", "may", "also", "be", "important", "relationships", "between", "effectiveness", "and", "sustainability", ".", "Sustainability", "has", "long", "been", "a", "consideration", "in", "the", "development", "of", "information", "systems", ".", "Indeed", ",", "the", "failure", "rate", "of", "new", "IT", "applications", "in", "the", "public", "sector", "has", "motivated", "significant", "interest", "in", "addressing", "the", "issue", "of", "sustainability", "and", "speculation", "about", "the", "extent", "to", "which", "participation", "in", "system", "development", "is", "related", "ultimately", "to", "system", "adoption", "and", "use", "-LSB-", "10", "-RSB-", "-LSB-", "11", "-RSB-", ".", "More", "specifically", ",", "government", "services", "are", "increasingly", "out-sourced", "to", "not-for-profit", "organizations", "that", "may", "not", "be", "experienced", "in", "collaboration", "-LSB-", "3", "-RSB-", ".", "Information", "technology", "makes", "it", "possible", "for", "organizations", "to", "collaborate", "in", "providing", "information", "but", "whether", "or", "not", "such", "collaborations", "actually", "take", "place", "is", "more", "than", "a", "technical", "issue", ".", "The", "development", "of", "any", "information", "system", ",", "and", "particularly", "collaborative", "systems", ",", "requires", "organizations", "to", "change", ",", "in", "a", "very", "real", "way", ",", "some", "of", "their", "routine", "modes", "of", "operation", "and", "incorporate", "new", "behaviors", ".", "Scholl", "'s", "-LSB-", "22", "-RSB-", "research", "finds", "that", "stakeholder", "involvement", "and", "the", "commitment", "of", "senior", "executives", "to", "be", "highly", "related", "to", "the", "integration", "of", "e-government", "projects", "into", "business", "process", "change", "for", "government", "organizations", ".", "Stakeholder", "involvement", "has", "long", "been", "acknowledged", "as", "a", "key", "element", "in", "the", "construction", "of", "community", "information", "system", ",", "although", "applied", "to", "this", "context", "rather", "than", "that", "of", "traditional", "hierarchical", "organizations", ",", "the", "idea", "bears", "further", "scrutiny", ".", "We", "have", "also", "seen", "the", "commitment", "of", "key", "executives", "playing", "a", "role", "in", "our", "own", "development", "work", ".", "We", "discuss", "each", "of", "these", "two", "ideas", "at", "some", "length", "below", ",", "and", "add", "a", "third", ":", "development", "of", "a", "critical", "mass", "of", "users", ".", "3.1", "Stakeholder", "Involvement", "Our", "work", "was", "motivated", "in", "part", "by", "Schuler", "'s", "-LSB-", "23", "-RSB-", "invitation", "to", "academic", "researchers", "to", "collaborate", "with", "communities", "in", "building", "community", "networking", "projects", ".", "At", "the", "time", ",", "it", "was", "fair", "to", "characterize", "our", "institution", "'s", "hometown", ",", "Troy", ",", "NY", ",", "as", "a", "``", "digitally", "divided", "''", "community", ".", "Our", "experiences", "suggested", "that", "new", "technologies", "and", "their", "potential", "seemed", "to", "be", "of", "interest", "to", "the", "members", "of", "the", "community", "-LRB-", "see", "-LSB-", "9", "-RSB-", "-RRB-", ".", "But", "many", "community", "and", "government", "organizations", "lacked", "access", "to", "hardware", "and", "network", "connections", "as", "well", "as", "the", "expertise", "needed", "for", "using", "this", "equipment", ".", "It", "seemed", "most", "likely", "that", "we", "would", "need", "to", "do", "more", "to", "generate", "interest", "in", "the", "development", "of", "a", "community", "information", "service", "in", "order", "to", "stimulate", "participation", "from", "likely", "stakeholders", "in", "such", "a", "project", ".", "Connected", "Kids", "was", "conceived", "in", "Fall", "1999", "in", "the", "course", "of", "discussions", "among", "Troy", "City", "Government", "representatives", "on", "the", "topic", "of", "how", "new", "technologies", "might", "usefully", "be", "employed", "to", "provide", "services", "to", "the", "community", ".", "At", "the", "time", "we", "learned", "that", "the", "mayor", "sought", "to", "reinvigorate", "the", "City", "'s", "office", "of", "youth", "services", "and", "had", "speculated", "about", "whether", "these", "technologies", "could", "be", "used", "to", "provide", "one", "of", "that", "office", "'s", "primary", "and", "most", "popular", "functions", ",", "which", "was", "to", "disseminate", "information", "about", "resources", "and", "programs", "sponsored", "by", "not-for-profit", "organizations", "as", "well", "as", "those", "sponsored", "by", "Troy", "'s", "own", "Department", "of", "Recreation", ".", "It", "seemed", "clear", "to", "us", "the", "World", "Wide", "Web", "might", "indeed", "be", "used", "for", "such", "purposes", ".", "Thus", ",", "Connected", "Kids", "was", "conceived", "as", "both", "a", "digital", "government", "project", "as", "well", "as", "a", "community", "information", "system", ".", "We", "received", "initial", "assurances", "that", "the", "City", "would", "administer", "the", "information", "system", "after", "it", "had", "been", "successfully", "designed", "and", "deployed", ".", "Connected", "Kids", "began", "with", "sensitivity", "to", "the", "need", "for", "stakeholder", "involvement", ",", "particularly", "that", "of", "participating", "organizations", "that", "we", "hoped", "would", "be", "information", "providers", ".", "We", "were", "aware", "that", "the", "``", "best", "way", "to", "kill", "a", "community", "network", ",", "''", "was", "to", "fail", "to", "involve", "the", "community", "in", "system", "development", "-LSB-", "24", "-RSB-", ".", "We", "took", "seriously", "Gygi", "'s", "-LSB-", "6", "-RSB-", "prediction", "that", "the", "degree", "of", "community", "involvement", "147", "and", "the", "extent", "to", "which", "the", "project", "represented", "community", "interests", "and", "participation", "would", "likely", "affect", "political", "and", "economic", "outcomes", ".", "Thus", ",", "although", "our", "project", "began", "initially", "as", "a", "collaboration", "between", "academic", "researchers", "and", "government", "administrators", ",", "we", "moved", "quickly", "to", "invite", "community", "organizations", "to", "participate", "at", "an", "orientation", "meeting", "in", "February", "2000", "and", "held", "a", "series", "of", "focus", "group", "discussions", "in", "October", "2000", "in", "which", "we", "explored", "with", "representatives", "of", "participating", "organizations", "how", "such", "an", "information", "system", "might", "be", "conceptualized", "to", "best", "meet", "their", "information", "needs", ".", "In", "Fall", "2001", "and", "Winter", "2002", "we", "undertook", "a", "series", "of", "participatory", "design", "sessions", "in", "which", "representatives", "of", "participating", "organizations", "were", "introduced", "to", "portions", "of", "a", "system", "prototype", "based", "on", "their", "previous", "contributions", "and", "asked", "to", "describe", "their", "experiences", "and", "suggest", "improvements", ".", "Finally", ",", "as", "we", "designed", "interfaces", "in", "Summer", "and", "Fall", "2002", ",", "we", "again", "consulted", "with", "representatives", "of", "participating", "organizations", "in", "user", "testing", "sessions", ".", "By", "Fall", "2003", "and", "Winter", "2004", ",", "we", "had", "demonstrated", "the", "system", "and", "trained", "numerous", "representatives", "of", "participating", "organizations", ",", "who", "reportedly", "found", "our", "interface", "pages", "easy", "to", "use", ".", "However", ",", "these", "same", "organizations", "were", "not", "spontaneously", "--", "or", "frequently-entering", "information", "about", "their", "programs", "or", "activities", "for", "youth", ".", "Based", "on", "contributions", "from", "our", "collaborating", "organizations", ",", "the", "design", "of", "Connected", "Kids", "reflected", "much", "of", "the", "best", "wisdom", "about", "community", "information", "systems", ":", "the", "system", "could", "be", "used", "to", "both", "create", "and", "easily", "update", "data", "-LSB-", "2", "-RSB-", "-LSB-", "13", "-RSB-", ";", "we", "had", "involved", "end", "user", "groups", "-LRB-", "kids", "and", "their", "parents", "-RRB-", "in", "the", "design", "as", "well", "-LSB-", "27", "-RSB-", "-LSB-", "12", "-RSB-", ";", "and", "the", "system", "focused", "principally", "on", "information", "deemed", "crucial", "by", "our", "participating", "organizations", ",", "information", "that", "we", "expected", "had", "the", "capacity", "to", "be", "integrated", "into", "the", "routine", "lives", "of", "the", "communities", "they", "serve", "-LSB-", "21", "-RSB-", ".", "Further", ",", "access", "to", "technology", "lost", "its", "urgency", "as", "an", "issue", ",", "since", "it", "is", "no", "longer", "the", "case", "that", "our", "participating", "organizations", "lack", "access", "to", "networking", "technology", ".", "Thus", ",", "we", "did", "not", "attribute", "our", "problems", "with", "data", "entry", "to", "system", "attributes", ".", "Instead", ",", "we", "considered", "the", "suggestion", "by", "Scott", "and", "Page", "-LSB-", "18", "-RSB-", "that", "``", "sustainable", "technologies", "are", "processes", "-LRB-", "authors", "'", "emphasis", "-RRB-", ";", "they", "are", "not", "products", ".", "''", "In", "traditional", "hierarchical", "organizations", ",", "lower", "levels", "of", "stakeholder", "involvement", "may", "be", "sufficient", "for", "system", "acceptance", ".", "However", ",", "a", "community", "information", "system", "requires", "that", "members", "of", "the", "community", "contribute", "information", "and", "it", "must", "be", "seen", "to", "be", "in", "their", "continuing", "interest", "to", "do", "so", ".", "In", "Fall", "2004", ",", "we", "have", "sought", "to", "create", "a", "quasi-formal", "governance", "body", "to", "administer", "the", "project", ",", "a", "Connected", "Kids", "Advisory", "Board", ",", "recruiting", "representatives", "from", "10", "organizations", "-LRB-", "from", "among", "the", "most", "influential", "-RRB-", "to", "commit", "to", "guiding", "the", "short-term", "future", "of", "the", "project", "-LRB-", "approximately", "1", "year", "-RRB-", "as", "we", "transition", "to", "system", "deployment", "in", "Spring", "2005", ".", "Our", "Board", "has", "now", "met", "for", "several", "months", ",", "and", "it", "remains", "to", "be", "seen", "whether", "this", "vehicle", "will", "foster", "a", "sufficient", "level", "of", "system", "participation", ",", "perhaps", "ownership", ",", "to", "sustain", "Connected", "Kids", "through", "deployment", "and", "beyond", ".", "3.2", "Commitment", "from", "Key", "Players", "Scholl", "-LSB-", "22", "-RSB-", "finds", "that", "support", "from", "key", "executives", "is", "critical", "to", "incorporating", "e-government", "projects", "into", "an", "organization", "'s", "business", "processes", ",", "and", "our", "experience", "underscores", "this", "finding", ".", "In", "fact", ",", "we", "would", "expand", "the", "range", "of", "individuals", "likely", "to", "be", "considered", "``", "key", ".", "''", "Not", "only", "are", "senior", "executives", "important", ",", "but", "so", "also", "are", "others", "in", "the", "organization", "that", "have", "any", "significant", "job-related", "association", "with", "the", "information", "system", "under", "development", ".", "Application", "development", "projects", "take", "place", "over", "potentially", "long", "periods", "of", "time", "and", "involve", "many", "different", "individuals", "in", "many", "different", "roles", ".", "Job", "occupants", "in", "the", "public", "sector", "may", "be", "comparatively", "stable", ",", "but", "they", "are", "not", "permanent", ".", "Those", "who", "champion", "an", "application", "development", "project", "may", "not", "be", "around", "when", "it", "is", "time", "to", "deploy", "the", "system", ".", "What", "is", "generally", "not", "recognized", "when", "academic", "researchers", "undertake", "technology", "projects", "in", "organizational", "contexts", "is", "that", "they", "may", "need", "to", "become", "the", "primary", "advocates", "for", "deployment", "of", "the", "project", ".", "This", "is", "not", "a", "typical", "role", "for", "researchers", ",", "who", "may", "with", "ample", "justification", "see", "their", "obligations", "confined", "to", "simply", "performing", "the", "research", "or", "developmental", "work", "on", "the", "project", ".", "However", ",", "researchers", "who", "seek", "to", "develop", "sustainable", "products", "may", "find", "themselves", "required", "to", "situate", "the", "project", "politically", "within", "the", "organization", "or", "group", "of", "organizations", "for", "which", "it", "was", "originally", "intended", ".", "They", "may", "in", "fact", "be", "the", "only", "individuals", "who", "can", "play", "this", "particular", "role", ".", "In", "the", "case", "of", "Connected", "Kids", ",", "we", "secured", "commitment", "from", "both", "the", "mayor", "and", "deputy", "mayor", "of", "Troy", ",", "along", "with", ",", "of", "course", ",", "that", "of", "our", "primary", "organizational", "liaison", ".", "We", "continued", "to", "work", "for", "quite", "some", "time", ",", "reporting", "regularly", "on", "progress", "to", "our", "liaison", ",", "without", "realizing", "that", "this", "individual", "was", "getting", "progressively", "involved", "in", "turf", "battles", "with", "another", "technology-oriented", "actor", "in", "city", "government", ".", "As", "our", "liaison", "'s", "influence", "within", "city", "government", "eroded", ",", "so", "also", "did", "support", "for", "our", "project", "without", "our", "awareness", ".", "Once", "we", "understood", "what", "was", "happening", ",", "we", "acted", "quickly", ",", "and", "luckily", "in", "sufficient", "time", ",", "to", "re-establish", "the", "importance", "of", "the", "project", "with", "the", "mayor", "and", "deputy", "mayor", ".", "From", "that", "point", "hence", "our", "primary", "liaison", "was", "the", "deputy", "mayor", ".", "Unfortunately", ",", "mayoral", "administrations", "come", "and", "go", ",", "and", "the", "administration", "that", "was", "our", "primary", "government", "partner", "was", "voted", "out", "of", "office", "in", "November", "2003", ".", "Within", "six", "months", "all", "the", "individuals", "who", "had", "any", "primary", "working", "relationship", "with", "our", "project", "were", "gone", ",", "and", "we", "faced", "the", "need", "to", "re-create", "commitment", "with", "a", "new", "mayor", "and", "deputy", "mayor", ",", "a", "process", "that", "took", "considerable", "time", "and", "that", "has", "delayed", "implementation", "by", "nearly", "a", "year", ".", "Of", "course", ",", "this", "is", "not", "something", "we", "could", "have", "prevented", ".", "However", ",", "it", "is", "interesting", "to", "note", "that", "our", "new", "liaison", "with", "city", "government", "is", "an", "individual", "who", "had", "worked", "in", "city", "government", "under", "both", "administrations", ".", "3.3", "Critical", "Mass", "of", "Users", "Ultimately", ",", "for", "a", "community", "information", "system", "to", "endure", ",", "it", "must", "establish", "a", "significant", "number", "of", "regular", "users", ",", "who", "enact", "the", "technology", "for", "at", "least", "some", "of", "the", "purposes", "for", "which", "it", "was", "originally", "intended", ",", "and", "in", "so", "doing", ",", "reproduce", "community", "structures", "that", "are", "instantiated", "in", "the", "technology", ".", "In", "our", "case", ",", "this", "means", "bringing", "an", "audience", "of", "end", "users", "to", "the", "system", "who", "are", "interested", "in", "information", "about", "youth", "that", "is", "disseminated", "through", "it", ".", "Connected", "Kids", "is", "in", "many", "respects", "similar", "to", "an", "electronic", "``", "public", "good", "''", "-LSB-", "20", "-RSB-", ",", "that", "is", ",", "a", "product", "established", "through", "the", "contributions", "and", "for", "the", "benefit", "of", "a", "set", "of", "actors", "that", "also", "has", "the", "effect", "of", "benefiting", "other", "users", ".", "In", "our", "case", ",", "the", "system", "was", "designed", "by", "and", "for", "youth", "organizations", ",", "which", "serve", "as", "information", "providers", ".", "We", "have", "sought", "to", "show", "how", "these", "organizations", "may", "appropriate", "the", "technology", "and", "accomplish", "what", "Bannon", "and", "Griffin", "-LSB-", "1", "-RSB-", "suggest", ",", "which", "is", "to", "use", "the", "technology", "as", "a", "means", "to", "``", "further", "their", "own", "148", "ends", "''", "-LRB-", "p.", "48", "-RRB-", "rather", "than", "as", "an", "end", "in", "itself", ".", "However", ",", "the", "added", "value", "of", "a", "collaborative", "information", "system", "is", "that", "in", "bringing", "an", "audience", "to", "information", "distributed", "by", "one", "organization", ",", "that", "audience", "is", "also", "available", "to", "peruse", "the", "information", "of", "other", "organizations", ".", "Thus", "the", "overall", "effect", "is", "to", "increase", "the", "cumulative", "size", "of", "the", "audience", "for", "all", "involved", ".", "Further", ",", "the", "external", "user", "audience", "benefits", "from", "the", "ease", "of", "accessing", "information", "from", "a", "wide", "variety", "of", "organizations", "that", "all", "provide", "services", "for", "youth", ".", "Patterson", "and", "Kavanaugh", "-LSB-", "19", "-RSB-", "argue", "that", "the", "pro-social", "benefits", "of", "a", "public", "good", "are", "achieved", "when", "the", "system", "achieves", "a", "critical", "mass", "of", "users", ".", "In", "our", "case", ",", "this", "would", "equal", "the", "number", "of", "users", "that", "information", "providers", "consider", "to", "make", "it", "worth", "their", "continuing", "efforts", "to", "input", "information", "about", "their", "activities", ".", "As", "Markus", "-LSB-", "16", "-RSB-", "points", "out", ",", "the", "number", "of", "users", "will", "depend", "on", "the", "diversity", "and", "value", "of", "the", "information", "available", "through", "the", "system", ".", "Thus", ",", "sustainability", "is", "dependent", "on", "the", "reciprocal", "interdependence", "of", "both", "information", "providers", "and", "information", "users", ".", "Both", "information", "in", "the", "system", "and", "use", "must", "achieve", "critical", "mass", ",", "and", "this", "must", "happen", "relatively", "soon", "after", "deployment", ".", "Our", "strategy", "is", "to", "bring", "both", "of", "these", "activities", "together", "in", "time", ".", "We", "have", "asked", "the", "Connected", "Kids", "Advisory", "Board", "to", "develop", "a", "marketing", "campaign", "that", "will", "accompany", "the", "deployment", "of", "the", "system", "and", "they", "are", "currently", "embarked", "on", "this", "activity", ".", "Bolstered", "by", "the", "participation", "of", "RPI", "and", "the", "City", "of", "Troy", ",", "we", "seek", "to", "attract", "a", "large", "external", "audience", "to", "experiment", "with", "the", "system", ".", "Advisory", "Board", "members", "recognize", "that", "the", "success", "of", "the", "marketing", "campaign", "depends", "on", "the", "presence", "of", "considerable", "amount", "of", "high", "quality", "information", "in", "the", "system", ",", "and", "have", "committed", "to", "providing", "it", ".", "In", "this", "way", ",", "we", "seek", "to", "jumpstart", "a", "virtuous", "circle", "in", "which", "sufficient", "quantities", "of", "information", "and", "use", "reciprocally", "reinforce", "each", "other", "creating", "a", "critical", "mass", "of", "information", "providers", "and", "consumers", ".", "Poised", "for", "deployment", ",", "Connected", "Kids", "enables", "us", "to", "test", "a", "range", "of", "expectations", "generated", "by", "this", "set", "of", "considerations", "regarding", "sustainability", ".", "Within", "the", "next", "year", ",", "we", "should", "be", "able", "to", "assess", "relationships", "related", "to", "stakeholder", "involvement", "such", "as", "those", "between", "factors", "such", "as", "perceptions", "of", "involvement", "in", "system", "design", "and", "administration", ";", "actual", "participation", "in", "system", "design", "and", "testing", "activities", ";", "and", "perceptions", "of", "ownership", "with", "outcomes", "such", "as", "the", "extent", "of", "data", "contributed", "to", "the", "system", ",", "perceptions", "of", "commitment", "to", "the", "system", ",", "and", "significance", "of", "organizational", "resources", "devoted", "to", "participation", ".", "Further", ",", "we", "should", "be", "able", "to", "assess", "relationships", "between", "the", "perceived", "amount", "and", "quality", "of", "information", "in", "the", "system", "and", "end", "user", "satisfaction", ",", "likelihood", "of", "returning", "to", "the", "system", ",", "and", "interest", "in", "becoming", "more", "involved", "in", "system", "activities", ".", "Of", "course", ",", "we", "will", "continue", "to", "be", "able", "to", "comment", "anecdotally", "on", "what", "we", "have", "learned", "about", "the", "politics", "of", "technology", "diffusion", "in", "public", "sector", "organizations", ".", "-LSB-", "1", "-RSB-", "Bannon", ",", "L.J.", ",", "and", "Griffin", ",", "J.", "New", "technology", ",", "communities", ",", "and", "networking", ":", "Problems", "and", "prospects", "for", "orchestrating", "change", ".", "Telematics", "and", "Informatics", ",", "18", ",", "-LRB-", "2001", "-RRB-", ",", "35-49", ".", "-LSB-", "2", "-RSB-", "Cowan", ",", "D.D.", ",", "Mayfield", ",", "C.", "T.", ",", "Tompa", ",", "F.", "W.", ",", "and", "Gasparini", ",", "W.", "New", "role", "for", "community", "networks", ".", "Communications", "of", "the", "ACM", ",", "41", ",", "4", ",", "-LRB-", "1998", "-RRB-", ",", "61-63", ".", "-LSB-", "3", "-RSB-", "Dawes", ",", "S.S.", ",", "Bloniarz", ",", "P.", "A.", ",", "and", "Kelly", ",", "K.", "L", ".", "Some", "Assembly", "Required", ":", "Building", "a", "Digital", "Government", "for", "the", "21st", "Century", ".", "Albany", ",", "NY", ":", "Center", "for", "Technology", "in", "Government", ",", "1999", ".", "http://www.ctg.albany.edu/research/workshop/dgfinalreport", ".", "pdf", "-LSB-", "4", "-RSB-", "DeSanctis", ",", "G.", ",", "and", "Poole", ",", "M.S.", "Capturing", "the", "complexity", "in", "advanced", "technology", "use", ":", "Adaptive", "structuration", "theory", ".", "Organization", "Science", ",", "5", ",", "-LRB-", "1994", "-RRB-", ",", "121-147", ".", "-LSB-", "5", "-RSB-", "Giddens", ",", "A", ".", "The", "Constitution", "of", "Society", ".", "University", "of", "California", "Press", ",", "Berkeley", ",", "CA", ",", "1984", ".", "-LSB-", "6", "-RSB-", "Gygi", ",", "K.", "Uncovering", "Best", "Practices", ":", "A", "Framework", "for", "Assessing", "Outcomes", "in", "Community", "Computer", "Networking", ",", "1996", ".", "http://www.laplaza.org/about", "lap/archives/cn96/gygi.html", "-LSB-", "7", "-RSB-", "Harrison", ",", "T.", ",", "and", "Stephen", ",", "T.", "Researching", "and", "creating", "community", "networks", ".", "In", "Doing", "Internet", "Research", ",", "S.", "Jones", "ed", ".", "Sage", ",", "Newbury", "Park", ",", "CA", ",", "1999", ",", "221-241", ".", "-LSB-", "8", "-RSB-", "Harrison", ",", "T.", ",", "and", "Zappen", ",", "J.", "Methodological", "and", "theoretical", "frameworks", "for", "the", "design", "of", "community", "information", "systems", ".", "Journal", "of", "Computer-Mediated", "Communication", ",", "8", ",", "3", "-LRB-", "2003", "-RRB-", ".", "http://www.ascus.org/jcmc/vol8/issue3", "-LSB-", "9", "-RSB-", "Harrison", ",", "T.M.", ",", "Zappen", ",", "J.P.", ",", "and", "Prell", ",", "C.L.", "Transforming", "new", "communication", "Technologies", "into", "Community", "Media", ".", "In", "Community", "Media", "in", "the", "Information", "Age", ":", "Perspectives", "and", "Prospects", ",", "N.", "Jankowski", "and", "O.", "Prehn", "eds.", ",", "Hampton", ",", "Cresskill", ",", "NJ", ",", "2002", ",", "249-269", ".", "-LSB-", "10", "-RSB-", "Heeks", ",", "R.", "Better", "information", "age", "reform", ":", "Reducing", "the", "risk", "of", "information", "systems", "failure", ".", "In", "Reinventing", "government", "in", "the", "information", "age", ":", "International", "Practice", "in", "IT-Enabled", "Public", "Sector", "Reform", ",", "R.", "Heeks", "ed.", ",", "Routledge", ",", "London", ",", "1999", ",", "75-109", ".", "-LSB-", "11", "-RSB-", "Heeks", ",", "R.", ",", "and", "Bhatnager", ",", "S.", "Understanding", "success", "and", "failure", "in", "information", "age", "reform", ".", "In", "Reinventing", "government", "in", "the", "information", "age", ":", "International", "Practice", "in", "IT-Enabled", "Public", "Sector", "Reform", ",", "R.", "Heeks", "ed.", ",", "Routledge", ",", "London", ",", "1999", ",", "50-73", ".", "-LSB-", "12", "-RSB-", "Howley", ",", "K.", "Equity", ",", "access", ",", "and", "participation", "in", "community", "networks", ".", "Social", "Science", "Computer", "Review", ",", "16", ",", "-LRB-", "1998", "-RRB-", ",", "402-410", ".", "-LSB-", "13", "-RSB-", "Keenan", "T.", "P.", ",", "and", "Trotter", ",", "D.", "M", ".", "The", "changing", "role", "of", "community", "networks", "in", "providing", "citizen", "access", "to", "the", "Internet", ".", "Internet", "Research", ":", "Electronic", "Networking", "Applications", "and", "Policy", ",", "9", ",", "2", ",", "-LRB-", "1999", "-RRB-", "100-108", ".", "-LSB-", "14", "-RSB-", "Kubicek", ",", "H.", ",", "and", "Wagner", ",", "R.M.", "Community", "networks", "in", "a", "generational", "perspective", ":", "The", "change", "of", "an", "electronic", "medium", "within", "three", "decades", ".", "Information", ",", "Communication", ",", "and", "Society", ",", "5", ",", "-LRB-", "2002", "-RRB-", ",", "291-319", ".", "-LSB-", "15", "-RSB-", "Lievrouw", ",", "L.", ",", "and", "Livingstone", ",", "S", ".", "The", "social", "shaping", "and", "consequences", "of", "ICTs", ".", "In", "The", "Handbook", "of", "New", "Media", ",", "L.", "Lievrouw", "and", "S.", "Livingstone", ",", "Eds", ".", "Sage", ",", "London", ",", "2002", ",", "121", ".", "149", "-LSB-", "16", "-RSB-", "Markus", ",", "L.", "Toward", "a", "``", "critical", "mass", "''", "theory", "of", "interactive", "media", ".", "Communication", "Research", ",", "14", ",", "-LRB-", "1987", "-RRB-", ",", "491", "511", ".", "-LSB-", "17", "-RSB-", "Orlikowski", ",", "W.", "Using", "technology", "and", "constituting", "structures", ":", "A", "practice", "lens", "for", "studying", "technology", "in", "organizations", ".", "Organization", "Science", ",", "11", ",", "-LRB-", "2000", "-RRB-", ",", "404-428", ".", "-LSB-", "18", "-RSB-", "Page", ",", "M.", "and", "Scott", ",", "A.", "Change", "agency", "and", "women", "'s", "learning", ".", "Information", ",", "Communication", "&", "Society", ",", "4", ",", "4", "-LRB-", "2001", "-RRB-", ",", "528-559", ".", "-LSB-", "19", "-RSB-", "Patterson", ",", "S.J.", ",", "and", "Kavanaugh", ",", "A.L.", "Building", "a", "sustainable", "community", "network", ":", "An", "application", "of", "critical", "mass", "theory", ".", "Electronic", "Journal", "of", "Communication", ",", "2", ",", "-LRB-", "2001", "-RRB-", ".", "http://www.cios.org/www/ejc/v11n201.htm", ".", "-LSB-", "20", "-RSB-", "Rafaeli", ",", "S.", ",", "and", "LaRose", ",", "R.", "Electronic", "bulletin", "boards", ",", "and", "``", "public", "goods", "''", "explanations", "of", "collaborative", "mass", "media", ".", "Communication", "Research", ",", "20", ",", "2", ",", "-LRB-", "1993", "-RRB-", ",", "277-297", ".", "-LSB-", "21", "-RSB-", "Rosenbaum", ",", "H.", "Web-based", "community", "networks", ":", "A", "study", "of", "information", "organization", "and", "access", ".", "ASIS", "'", "98", ":", "Access", "in", "the", "global", "information", "economy", ".", "In", "Proceedings", "of", "the", "61st", "Annual", "Meetings", "of", "the", "American", "Society", "for", "Information", "Society", ",", "35", ",", "1998", ",", "516-527", ".", "-LSB-", "22", "-RSB-", "Scholl", ",", "H.J.", "Current", "practices", "in", "E-government-induced", "business", "process", "change", ".", "Proceedings", "of", "the", "National", "Conference", "on", "Digital", "Government", ",", "Digital", "Government", "Research", "Center", ",", "2004", ",", "99-108", ".", "-LSB-", "23", "-RSB-", "Schuler", ",", "D.", "Community", "Computer", "Networks", ":", "An", "Opportunity", "for", "Collaboration", "among", "Democratic", "Technology", "Practitioners", "and", "Researchers", ",", "1997", ".", "http://www.sn.org/ip/commnet/oslo-197.text", "-LSB-", "24", "-RSB-", "Schuler", ",", "D", ".", "How", "to", "Kill", "Community", "Networks", ".", "Hint", ":", "We", "May", "Have", "Already", "Started", ",", "1996", ".", "http://www.scn.org/ip/commnet/kill-commnets.html", "-LSB-", "25", "-RSB-", "Sproull", ",", "L.", ",", "and", "Kiesler", ",", "S.", "Connections", ":", "New", "Ways", "of", "Working", "in", "the", "Networked", "Organization", ".", "MIT", "Press", ",", "Cambridge", ",", "MA", ",", "1991", ".", "-LSB-", "26", "-RSB-"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["critical mass", "key players", "participatory design", "sustainability", "construction of technology", "computerized community information system", "community network", "community networks"], "abstractive_keyphrases": ["skateholder involvement"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "91", "document": ["Fast", "String", "Sorting", "Using", "Order-Preserving", "Compression", "We", "give", "experimental", "evidence", "for", "the", "benefits", "of", "order-preserving", "compression", "in", "sorting", "algorithms", ".", "While", ",", "in", "general", ",", "any", "algorithm", "might", "benefit", "from", "compressed", "data", "because", "of", "reduced", "paging", "requirements", ",", "we", "identified", "two", "natural", "candidates", "that", "would", "further", "benefit", "from", "order-preserving", "compression", ",", "namely", "string-oriented", "sorting", "algorithms", "and", "word-RAM", "algorithms", "for", "keys", "of", "bounded", "length", ".", "The", "word-RAM", "model", "has", "some", "of", "the", "fastest", "known", "sorting", "algorithms", "in", "practice", ".", "These", "algorithms", "are", "designed", "for", "keys", "of", "bounded", "length", ",", "usually", "32", "or", "64", "bits", ",", "which", "limits", "their", "direct", "applicability", "for", "strings", ".", "One", "possibility", "is", "to", "use", "an", "order-preserving", "compression", "scheme", ",", "so", "that", "a", "bounded-key-length", "algorithm", "can", "be", "applied", ".", "For", "the", "case", "of", "standard", "algorithms", ",", "we", "took", "what", "is", "considered", "to", "be", "the", "among", "the", "fastest", "nonword", "RAM", "string", "sorting", "algorithms", ",", "Fast", "MKQSort", ",", "and", "measured", "its", "performance", "on", "compressed", "data", ".", "The", "Fast", "MKQSort", "algorithm", "of", "Bentley", "and", "Sedgewick", "is", "optimized", "to", "handle", "text", "strings", ".", "Our", "experiments", "show", "that", "order-compression", "techniques", "results", "in", "savings", "of", "approximately", "15", "%", "over", "the", "same", "algorithm", "on", "noncompressed", "data", ".", "For", "the", "word-RAM", ",", "we", "modified", "Andersson", "'s", "sorting", "algorithm", "to", "handle", "variable-length", "keys", ".", "The", "resulting", "algorithm", "is", "faster", "than", "the", "standard", "Unix", "sort", "by", "a", "factor", "of", "1.5", "X", ".", "Last", ",", "we", "used", "an", "order-preserving", "scheme", "that", "is", "within", "a", "constant", "additive", "term", "of", "the", "optimal", "Hu", "Tucker", ",", "but", "requires", "linear", "time", "rather", "than", "O", "-LRB-", "m", "log", "m", "-RRB-", ",", "where", "m", "=", "|", "|", "is", "the", "size", "of", "the", "alphabet", ".", "E.", "2", "-LSB-", "Data", "Storage", "-RSB-", ":", "Contiguous", "Representations", ",", "Object", "Representations", ";", "E.", "4", "-LSB-", "Coding", "and", "Information", "Theory", "-RSB-", ":", "Data", "Compaction", "and", "Compression", ";", "F.", "2.0", "-LSB-", "Analysis", "of", "Algorithms", "and", "Problem", "Complexity", "-RSB-", ":", "General", ";", "H.", "3.2", "-LSB-", "Information", "Storage", "-RSB-", ":", "Authors", "'", "addresses", ":", "Alejandro", "L", "opez-Ortiz", ",", "Mehdi", "Mirzazadeh", ",", "and", "Hossein", "SheikhAttar", "are", "at", "the", "David", "R.", "Cheriton", "School", "of", "Computer", "Science", ",", "University", "of", "Waterloo", ",", "Waterloo", ",", "Ont.", ",", "Canada", ",", "N2L", "3G1", ";", "email", ":", "-LCB-", "alopez-o", ",", "mmirzazadeh", ",", "mhsheikhattar", "-RCB-", "@uwaterloo", ".", "ca", ";", "Mohammad", "Ali", "Safari", "is", "at", "the", "Department", "of", "Computer", "Science", ",", "University", "of", "British", "Columbia", ",", "201-2366", "Main", "Mall", ",", "Vancouver", ",", "B.C.", ",", "Canada", ",", "V6T", "1Z4", ";", "email", ":", "safari@cs.ubc.ca", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "part", "or", "all", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "direct", "commercial", "advantage", "and", "that", "copies", "show", "this", "notice", "on", "the", "first", "page", "or", "initial", "screen", "of", "a", "display", "along", "with", "the", "full", "citation", ".", "Copyrights", "for", "components", "of", "this", "work", "owned", "by", "others", "than", "ACM", "must", "be", "honored", ".", "Abstracting", "with", "credit", "is", "permitted", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", ",", "to", "redistribute", "to", "lists", ",", "or", "to", "use", "any", "component", "of", "this", "work", "in", "other", "works", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "Permissions", "may", "be", "requested", "from", "Publications", "Dept.", ",", "ACM", ",", "Inc.", ",", "2", "Penn", "Plaza", ",", "Suite", "701", ",", "New", "York", ",", "NY", "10121-0701", "USA", ",", "fax", "+1", "-LRB-212-RRB-\u00a0869-0481", ",", "or", "permissions@acm.org", ".", "C", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2005", ",", "Pages", "1", "12", ".", "2005", "ACM", "1084-6654/05", "/", "0001-ART1.4", "$", "5.00", "2", "A.", "L", "opez-Ortiz", "et", "al.", ".", "File", "Organization", ";", "H.", "3.2", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "Search", "process", "General", "Terms", ":", "Algorithms", ",", "Experimentation", ",", "Performance", "Additional", "Key", "Words", "and", "Phrases", ":", "Order-preserving", "compression", ",", "sorting", ",", "word-RAM", ",", "unit-cost", "RAM", "In", "recent", "years", ",", "the", "size", "of", "corporate", "data", "collections", "has", "grown", "rapidly", ".", "For", "example", ",", "in", "the", "mid-1980s", ",", "a", "large", "text", "collection", "was", "in", "the", "order", "of", "500", "MB", ".", "Today", ",", "large", "text", "collections", "are", "over", "a", "thousand", "times", "larger", ".", "At", "the", "same", "time", ",", "archival", "legacy", "data", "that", "used", "to", "sit", "in", "tape", "vaults", "is", "now", "held", "on-line", "in", "large", "data", "warehouses", "and", "regularly", "accessed", ".", "Data-storage", "companies", ",", "such", "as", "EMC", ",", "have", "emerged", "to", "serve", "this", "need", "for", "data", "storage", ",", "with", "market", "capitalizations", "that", "presently", "rival", "that", "of", "all", "but", "the", "largest", "PC", "manufacturers", ".", "Devising", "algorithms", "for", "these", "massive", "data", "collections", "requires", "novel", "techniques", ".", "Because", "of", "this", ",", "over", "the", "last", "10", "years", "there", "has", "been", "renewed", "interest", "in", "research", "on", "indexing", "techniques", ",", "string-matching", "algorithms", ",", "and", "very", "large", "database-management", "systems", "among", "others", ".", "Consider", ",", "for", "example", ",", "a", "corporate", "setting", ",", "such", "as", "a", "bank", ",", "with", "a", "large", "collection", "of", "archival", "data", ",", "say", ",", "a", "copy", "of", "every", "bank", "transaction", "ever", "made", ".", "Data", "is", "stored", "in", "a", "data-warehouse", "facility", "and", "periodically", "accessed", ",", "albeit", "perhaps", "somewhat", "unfrequently", ".", "Storing", "the", "data", "requires", "a", "representation", "that", "is", "succinct", ",", "amenable", "to", "arbitrary", "searches", ",", "and", "supports", "efficient", "random", "access", ".", "Aside", "from", "savings", "in", "storage", ",", "a", "no", "less", "important", "advantage", "of", "a", "succinct", "representation", "of", "archival", "data", "is", "a", "resulting", "improvement", "in", "performance", "of", "sorting", "and", "searching", "operations", ".", "This", "improvement", "is", "twofold", ":", "First", ",", "in", "general", ",", "almost", "any", "sorting", "and", "searching", "algorithm", "benefits", "from", "operating", "on", "smaller", "keys", ",", "as", "this", "leads", "to", "a", "reduced", "number", "of", "page", "faults", "as", "observed", "by", "Moura", "et", "al.", "-LSB-", "1997", "-RSB-", ".", "Second", ",", "benefits", "can", "be", "derived", "from", "using", "a", "word-RAM", "-LRB-", "unit-cost", "RAM", "-RRB-", "sorting", "algorithm", ",", "such", "as", "that", "of", "-LSB-", "Andersson", "1994", ";", "Andersson", "and", "Nilsson", "1998", "-RSB-", ".", "This", "algorithm", "sorts", "n", "w-bits", "keys", "on", "a", "unit-cost", "RAM", "with", "word", "size", "w", "in", "time", "O", "-LRB-", "n", "log", "n", "-RRB-", ".", "As", "one", "can", "expect", ",", "in", "general", ",", "this", "algorithm", "can", "not", "be", "applied", "to", "strings", "as", "the", "key", "length", "is", "substantially", "larger", "than", "the", "word", "size", ".", "However", ",", "if", "all", "or", "most", "of", "the", "keys", "can", "be", "compressed", "to", "below", "the", "word", "size", ",", "then", "this", "algorithm", "can", "be", "applied", "--", "with", "ensuing", "gains", "in", "performance", ".", "There", "are", "many", "well-known", "techniques", "for", "compressing", "data", ",", "however", ",", "most", "of", "them", "are", "not", "order", "preserving", "and", "do", "not", "support", "random", "access", "to", "the", "data", "as", "the", "decoding", "process", "is", "inherently", "sequential", "-LSB-", "Bell", "et", "al.", "1990", ";", "Knuth", "1997", "-RSB-", ".", "Hence", ",", "it", "is", "important", "that", "the", "compression", "technique", "be", "static", "as", "well", "as", "order", "preserving", ".", "This", "rules", "out", "many", "of", "the", "most", "powerful", "compression", "techniques", ",", "such", "as", "those", "based", "on", "the", "Ziv", "Lempel", "method", "-LSB-", "Ziv", "and", "Lempel", "1978", "-RSB-", ",", "which", "are", "more", "attuned", "to", "compression", "of", "long", "text", "passages", "in", "any", "event", "-LRB-", "we", "note", ",", "however", ",", "that", "it", "is", "possible", "to", "implement", "certain", "search", "operations", "on", "Lempel", "Ziv", "encoded", "text", "as", "shown", "by", "Farach", "and", "Thorup", "-LSB-", "1998", "-RSB-", ",", "and", "K", "arkk", "ainen", "and", "Ukknonen", "-LSB-", "1996", "-RSB-", "-RRB-", ".", "The", "need", "to", "preserve", "order", "also", "eliminates", "many", "dictionary", "techniques", ",", "such", "as", "Huffman", "codes", "-LSB-", "Knuth", "1997", ";", "Antoshenkov", "1997", "-RSB-", ".", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "Fast", "String", "Sorting", "Using", "Order-Preserving", "Compression", "3", "Hence", ",", "we", "consider", "a", "special", "type", "of", "static", "code", ",", "namely", ",", "order-preserving", "compression", "schemes", ",", "which", "are", "similar", "to", "Huffman", "codes", ".", "More", "precisely", ",", "we", "are", "given", "an", "alphabet", "with", "an", "associated", "frequency", "p", "i", "for", "each", "symbol", "s", "i", ".", "The", "compression", "scheme", "E", ":", "-LCB-", "0", ",", "1", "-RCB-", "maps", "each", "symbol", "into", "an", "element", "of", "a", "set", "of", "prefix-free", "strings", "over", "-LCB-", "0", ",", "1", "-RCB-", ".", "The", "goal", "is", "to", "minimize", "the", "entropy", "s", "i", "p", "i", "|", "E", "-LRB-", "s", "i", "-RRB-", "|", "with", "the", "added", "condition", "that", "if", "s", "i", "<", "s", "j", "then", "E", "-LRB-", "s", "i", "-RRB-", "<", "E", "-LRB-", "s", "j", "-RRB-", "in", "the", "lexicographic", "ordering", "of", "-LCB-", "0", ",", "1", "-RCB-", ".", "This", "is", "in", "contrast", "to", "Huffman", "codes", ",", "which", ",", "in", "general", ",", "do", "not", "preserve", "the", "order", "of", "the", "initial", "alphabet", ".", "Such", "a", "scheme", "is", "known", "as", "order", "preserving", ".", "Optimal", "order-preserving", "compression", "schemes", "were", "introduced", "by", "Gilbert", "and", "Moore", "-LSB-", "1959", "-RSB-", "who", "gave", "an", "O", "-LRB-", "n", "3", "-RRB-", "algorithm", "for", "computing", "the", "optimal", "code", ".", "This", "was", "later", "improved", "by", "Hu", "and", "Tucker", ",", "who", "gave", "a", "-LRB-", "n", "log", "n", "-RRB-", "algorithm", ",", "which", "is", "optimal", "-LSB-", "Hu", "1973", "-RSB-", ".", "In", "this", "paper", "we", "use", "a", "linear", "time-encoding", "algorithm", "that", "approximates", "the", "optimal", "order-preserving", "compression", "scheme", "to", "within", "a", "constant", "additive", "term", "to", "produce", "a", "compressed", "form", "of", "the", "data", ".", "The", "savings", "are", "of", "significance", "when", "dealing", "with", "large", "alphabets", ",", "which", "arise", "in", "applications", ",", "such", "as", "DNA", "databases", "and", "compression", ",", "on", "words", ".", "We", "test", "the", "actual", "quality", "of", "the", "compression", "scheme", "on", "real", "string", "data", "and", "obtain", "that", "the", "compressed", "image", "produced", "by", "the", "linear", "algorithm", "is", "within", "0.4", ",", "and", "5.2", "%", "of", "the", "optimal", ",", "in", "the", "worst", "case", ".", "The", "experiments", "suggest", "that", "the", "compression", "ratio", "is", ",", "in", "practice", ",", "much", "better", "than", "what", "is", "predicted", "by", "theory", ".", "Then", ",", "using", "the", "compressed", "form", ",", "we", "test", "the", "performance", "of", "the", "sorting", "algorithm", "against", "the", "standard", "Unix", "sort", "in", "the", "Sun", "Solaris", "OS", ".", "Using", "data", "from", "a", "1-GB", "world", "wide", "web", "crawl", ",", "we", "study", "first", "the", "feasability", "of", "compressing", "the", "keys", "to", "obtain", "64-bit", "word-length", "keys", ".", "In", "this", "case", "we", "obtain", "that", "only", "2", "%", "of", "the", "keys", "can", "not", "be", "resolved", "within", "the", "first", "64", "significant", "bits", ".", "This", "small", "number", "of", "keys", "are", "flagged", "and", "resolved", "in", "a", "secondary", "stage", ".", "For", "this", "modified", "version", "of", "Andersson", "'s", ",", "we", "report", "a", "factor", "of", "1.5", "X", "improvement", "over", "the", "timings", "reported", "by", "Unix", "sort", ".", "As", "noted", "above", ",", "an", "important", "advantage", "of", "order-preserving", "compression", "schemes", "is", "that", "they", "support", "random", "access", ".", "As", "such", "we", "consider", "as", "a", "likely", "application", "scenario", "that", "the", "data", "is", "stored", "in", "compressed", "format", ".", "As", "an", "example", ",", "consider", "a", "database-management", "system", "-LRB-", "DBMS", "-RRB-", ".", "Such", "systems", "often", "use", "sorting", "as", "an", "intermediate", "step", "in", "the", "process", "of", "computing", "a", "join", "statement", ".", "The", "DBMS", "would", "benefit", "from", "an", "order-preserving", "compression", "scheme", ",", "first", ",", "by", "allowing", "faster", "initial", "loading", "-LRB-", "copying", "-RRB-", "of", "the", "data", "into", "memory", "and", ",", "second", ",", "by", "executing", "a", "sorting", "algorithm", "tuned", "for", "compressed", "data", ",", "which", "reduces", "both", "processing", "time", "and", "the", "amount", "of", "paging", "required", "by", "the", "algorithm", "itself", "if", "the", "data", "does", "not", "fit", "in", "main", "memory", ".", "The", "contribution", "of", "each", "of", "these", "aspects", "is", "highlighted", "later", "in", "Tables", "V", "and", "VI", ".", "The", "paper", "is", "laid", "out", "as", "follows", ".", "In", "Section", "2", ",", "we", "introduce", "the", "linear", "time", "algorithm", "for", "encoding", "and", "observe", "that", "its", "approximation", "term", "follows", "from", "a", "theorem", "of", "Bayer", "-LSB-", "1975", "-RSB-", ".", "In", "Section", "3", ",", "we", "compare", "the", "compression", "ratio", "empirically", "for", "string", "data", "using", "the", "Calgary", "corpus", ".", "In", "Section", "4", ",", "we", "compare", "the", "performance", "of", "sorting", "algorithms", "aided", "by", "order-preserving", "data", "compression", ".", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "4", "A.", "L", "opez-Ortiz", "et", "al.", ".", "We", "consider", "the", "problem", "of", "determining", "code-words", "-LRB-", "encoded", "forms", "-RRB-", "such", "that", "the", "compression", "ratio", "is", "as", "high", "as", "possible", ".", "Code-words", "may", "or", "may", "not", "have", "the", "prefix", "property", ".", "In", "the", "prefix", "property", "case", ",", "the", "problem", "reduces", "to", "finding", "an", "optimum", "alphabetic", "binary", "tree", ".", "2.1", "Problem", "Definition", "Formally", ",", "the", "problem", "of", "finding", "optimal", "alphabetic", "binary", "trees", "can", "be", "stated", "as", "follows", ":", "Given", "a", "sequence", "of", "n", "positive", "weights", "w", "1", ",", "w", "2", ",", ",", "w", "n", ",", "find", "a", "binary", "tree", "in", "which", "all", "weights", "appear", "in", "the", "leaves", "such", "that", "r", "The", "weights", "on", "the", "leaves", "occur", "in", "order", "when", "traversing", "the", "tree", "from", "left", "to", "right", ".", "Such", "a", "tree", "is", "called", "an", "alphabetic", "tree", ".", "r", "The", "sum", "1", "in", "w", "i", "l", "i", "is", "minimized", ",", "where", "l", "i", "is", "the", "depth", "-LRB-", "distance", "from", "root", "-RRB-", "of", "the", "ith", "leave", "from", "left", ".", "If", "so", ",", "this", "is", "an", "optimal", "alphabetic", "tree", ".", "If", "we", "drop", "the", "first", "condition", ",", "the", "problem", "becomes", "the", "well-known", "problem", "of", "building", "Huffman", "trees", ",", "which", "is", "known", "to", "have", "the", "same", "complexity", "as", "sorting", ".", "2.2", "Previous", "Work", "Mumey", "introduced", "the", "idea", "of", "finding", "optimal", "alphabetic", "binary", "tree", "in", "linear", "time", "for", "some", "special", "classes", "of", "inputs", "in", "Mumey", "-LSB-", "1992", "-RSB-", ".", "One", "example", "is", "a", "simple", "case", "solvable", "in", "O", "-LRB-", "n", "-RRB-", "time", "when", "the", "values", "of", "the", "weights", "in", "the", "initial", "sequence", "are", "all", "within", "a", "term", "of", "two", ".", "Mumey", "showed", "that", "the", "region-based", "method", ",", "described", "in", "Mumey", "-LSB-", "1992", "-RSB-", ",", "exhibits", "linear", "time", "performance", "for", "a", "significant", "variety", "of", "inputs", ".", "Linear", "time", "solutions", "were", "discovered", "for", "the", "following", "special", "cases", ":", "when", "the", "input", "sequence", "of", "nodes", "is", "sorted", "sequence", ",", "bitonic", "sequence", ",", "weights", "exponentially", "separated", ",", "and", "weights", "within", "a", "constant", "factor", "-LSB-", "see", "Larmore", "and", "Przytycka", "1998", "-RSB-", ".", "Moura", "et", "al.", "-LSB-", "1997", "-RSB-", "considered", "the", "benefits", "of", "constructing", "a", "suffix", "tree", "over", "compressed", "text", "using", "an", "order-preserving", "code", ".", "In", "their", "paper", ",", "they", "observe", "dramatic", "savings", "in", "the", "construction", "of", "a", "suffix", "tree", "over", "the", "compressed", "text", ".", "2.3", "A", "Simple", "Linear-Approximation", "Algorithm", "Here", ",", "we", "present", "an", "algorithm", "that", "creates", "a", "compression", "dictionary", "in", "linear", "time", "on", "the", "size", "of", "the", "alphabet", "and", "whose", "compression", "ratio", "compares", "very", "favorably", "to", "that", "of", "optimal", "algorithms", "which", "have", "-LRB-", "n", "log", "n", "-RRB-", "running", "time", ",", "where", "n", "is", "the", "number", "of", "symbols", "or", "tokens", "for", "the", "compression", "scheme", ".", "For", "the", "purposes", "of", "presentation", ",", "we", "refer", "to", "the", "symbols", "or", "tokens", "as", "characters", "in", "an", "alphabet", ".", "In", "practice", "these", "``", "characters", "''", "might", "well", "correspond", "to", ",", "for", "example", ",", "entire", "English", "words", "or", "commonly", "occurring", "three-or", "four-letter", "combinations", ".", "In", "this", "case", ",", "the", "``", "alphabet", "''", "can", "have", "tens", "of", "thousands", "of", "tokens", ",", "and", ",", "hence", ",", "the", "importance", "of", "linear-time", "algorithms", "for", "creating", "the", "compression", "scheme", ".", "The", "idea", "of", "the", "proposed", "algorithm", "is", "to", "divide", "the", "set", "of", "weights", "into", "two", "almost", "equal", "size", "subsets", "and", "solve", "the", "problem", "recursively", "for", "them", ".", "As", "we", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "Fast", "String", "Sorting", "Using", "Order-Preserving", "Compression", "5", "show", "in", "Section", "2.4", ",", "this", "algorithm", "finds", "a", "compression", "scheme", "within", "an", "additive", "term", "of", "2", "bits", "of", "the", "average", "code", "length", "found", "by", "Huffman", "or", "Hu", "Tucker", "algorithms", ".", "2.4", "Algorithm", "Let", "w", "1", ",", "w", "2", ",", "...", ",", "w", "n", "be", "the", "weights", "of", "the", "alphabet", "characters", "or", "word", "codes", "to", "be", "compressed", "in", "alphabetical", "order", ".", "The", "procedure", "Make", "-LRB-", "i", ",", "j", "-RRB-", "described", "below", ",", "finds", "a", "tree", "in", "which", "tokens", "with", "weights", "w", "i", ",", "w", "i", "+1", ",", "...", ",", "w", "j", "are", "in", "the", "leaves", ":", "Procedure", "Make", "-LRB-", "i", ",", "j", "-RRB-", "1", ".", "if", "-LRB-", "i", "==", "j", "-RRB-", "return", "a", "tree", "with", "one", "node", "containing", "w", "i", ".", "2", ".", "Find", "k", "such", "that", "-LRB-", "w", "i", "+", "w", "i", "+1", "+", "+", "w", "k", "-RRB-", "-", "-LRB-", "w", "k", "+1", "+", "+", "w", "j", "-RRB-", "is", "minimum", ".", "3", ".", "Let", "T", "1", "=", "Make", "-LRB-", "i", ",", "k", "-RRB-", "and", "T", "2", "=", "Make", "-LRB-", "k", "+", "1", ",", "j", "-RRB-", "4", ".", "Return", "tree", "T", "with", "left", "subtree", "T", "1", "and", "right", "subtree", "T", "2", ".", "In", "the", "next", "two", "subsections", "we", "study", "-LRB-", "a", "-RRB-", "the", "time", "complexity", "of", "the", "proposed", "algorithm", "and", "-LRB-", "b", "-RRB-", "bounds", "on", "the", "quality", "of", "the", "approximation", "obtained", ".", "2.5", "Time", "Complexity", "First", "observe", "that", ",", "aside", "from", "line", "2", ",", "all", "other", "operations", "take", "constant", "time", ".", "Hence", ",", "so", "long", "as", "line", "2", "of", "the", "algorithm", "can", "be", "performed", "in", "logarithmic", "time", ",", "then", "the", "running", "time", "T", "-LRB-", "n", "-RRB-", "of", "the", "algorithm", "would", "be", "given", "by", "the", "recursion", "T", "-LRB-", "n", "-RRB-", "=", "T", "-LRB-", "k", "-RRB-", "+", "T", "-LRB-", "n-k", "-RRB-", "+", "O", "-LRB-", "log", "k", "-RRB-", ",", "and", ",", "thus", ",", "T", "-LRB-", "n", "-RRB-", "=", "O", "-LRB-", "n", "-RRB-", ".", "Therefore", ",", "the", "critical", "part", "of", "the", "algorithm", "is", "line", "2", ":", "how", "to", "divide", "the", "set", "of", "weights", "into", "two", "subsets", "of", "almost", "the", "same", "size", "in", "logarithmic", "time", ".", "Suppose", "that", "for", "every", "k", ",", "the", "value", "of", "a", "k", "=", "b", "i", "+", "w", "i", "+", "w", "i", "+1", "+", "+", "w", "k", "is", "given", "for", "all", "k", "i", ",", "where", "b", "i", "is", "a", "given", "integer", "to", "be", "specified", "later", ".", "Notice", "that", "the", "a", "j", "'s", "form", "an", "increasing", "sequence", "as", "a", "i", "<", "a", "i", "+1", "<", "<", "a", "j", ".", "Now", "the", "expression", "in", "line", "2", "of", "the", "algorithm", "can", "be", "rewritten", "as", "follows", ":", "|", "-LRB-", "w", "i", "+", "w", "i", "+1", "+", "+", "w", "k", "-RRB-", "-", "-LRB-", "w", "k", "+1", "+", "+", "w", "j", "-RRB-", "|", "=", "|", "a", "j", "-", "2a", "k", "+", "b", "i", "|", "Thus", ",", "given", "the", "value", "of", "a", "k", ",", "for", "all", "k", ",", "one", "can", "easily", "find", "the", "index", "u", "for", "which", "|", "a", "j", "-2", "a", "u", "+", "b", "i", "|", "is", "minimum", "using", "a", "variation", "of", "a", "one-sided", "binary", "search", ",", "known", "as", "galloping", ".", "Define", "a", "k", ":", "=", "k", "i", "=", "1", "w", "k", "and", ",", "hence", ",", "b", "i", "=", "a", "i", "-1", "=", "i", "-1", "=", "1", "w", "and", "modify", "the", "algorithm", "as", "follows", ":", "Procedure", "Make", "-LRB-", "i", ",", "j", ",", "b", "-RRB-", "1", ".", "If", "-LRB-", "i", "==", "j", "-RRB-", "return", "a", "tree", "with", "one", "node", "containing", "w", "i", ".", "2", ".", "Let", "k", "=", "Minimize", "-LRB-", "i", ",", "j", ",", "b", ",", "1", "-RRB-", ".", "3", ".", "Let", "T", "1", "=", "Make", "-LRB-", "i", ",", "k", ",", "b", "-RRB-", "and", "T", "2", "=", "Make", "-LRB-", "k", "+", "1", ",", "j", ",", "a", "k", "-RRB-", "4", ".", "Return", "tree", "T", "with", "left", "subtree", "T", "1", "and", "right", "subtree", "T", "2", ".", "where", "the", "Minimize", "procedure", "is", "a", "one-sided", "binary", "search", "for", "the", "element", "closest", "to", "zero", "in", "the", "sequence", "-LCB-", "a", "j", "-", "2a", "k", "-", "2b", "-RCB-", "k", ".", "More", "precisely", ":", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "6", "A.", "L", "opez-Ortiz", "et", "al.", ".", "Procedure", "Minimize", "-LRB-", "i", ",", "j", ",", "b", ",", "g", "-RRB-", "1", ".", "if", "-LRB-", "j", "-", "i", "1", "-RRB-", "return", "min", "-LCB-", "|", "a", "j", "-", "2a", "i", "-", "2p", "|", ",", "|", "a", "j", "+", "2b", "|", "-RCB-", ".", "2", ".", "let", "=", "i", "+", "g", ",", "u", "=", "j", "-", "g.", "3", ".", "if", "-LRB-", "a", "j", "-", "2a", "-", "2b", "-RRB-", ">", "0", "and", "-LRB-", "a", "j", "-", "2a", "u", "-", "2b", "-RRB-", "<", "0", "then", "return", "Minimize", "-LRB-", "i", ",", "j", ",", "b", ",2", "g", "-RRB-", ".", "4", ".", "if", "-LRB-", "a", "j", "-", "2a", "-", "2b", "-RRB-", "<", "0", "then", "return", "Minimize", "-LRB-", "-", "g/2", ",", ",", "b", ",1", "-RRB-", ".", "5", ".", "if", "-LRB-", "a", "j", "-", "2a", "u", "-", "2b", "-RRB-", ">", "0", "then", "return", "Minimize", "-LRB-", "u", ",", "u", "+", "g/2", ",", "b", ",1", "-RRB-", ".", "The", "total", "time", "taken", "by", "all", "calls", "to", "Minimize", "is", "given", "by", "the", "recursion", "T", "-LRB-", "n", "-RRB-", "=", "T", "-LRB-", "k", "-RRB-", "+", "T", "-LRB-", "n", "-", "k", "-RRB-", "+", "log", "k", ",", "if", "k", "n/2", "and", "T", "-LRB-", "n", "-RRB-", "=", "T", "-LRB-", "k", "-RRB-", "+", "T", "-LRB-", "n", "-", "k", "-RRB-", "+", "log", "-LRB-", "n", "-", "k", "-RRB-", "otherwise", ",", "where", "n", "is", "the", "number", "of", "elements", "in", "the", "entire", "range", "and", "k", "is", "the", "position", "of", "the", "element", "found", "in", "the", "first", "call", "to", "Make", ".", "This", "recursion", "has", "solution", "T", "-LRB-", "n", "-RRB-", "2n", "-", "log", "n", "-", "1", ",", "as", "can", "easily", "be", "verified", ":", "T", "-LRB-", "n", "-RRB-", "=", "T", "-LRB-", "k", "-RRB-", "+", "T", "-LRB-", "n", "-", "k", "-RRB-", "+", "log", "k", "2n", "-", "1", "-", "log", "-LRB-", "n", "-", "k", "-RRB-", "-", "1", "2n", "-", "1", "-", "log", "n", "when", "k", "n/2", ".", "The", "case", "k", ">", "n/2", "is", "analogous", ".", "To", "compute", "total", "time", ",", "we", "have", "that", ",", "at", "initialization", "time", ",", "the", "algorithm", "calculates", "a", "k", "for", "all", "k", "and", "then", "makes", "a", "call", "to", "Make", "-LRB-", "1", ",", "n", ",", "0", "-RRB-", ".", "The", "total", "cost", "of", "line", "2", "is", "linear", "and", ",", "hence", ",", "the", "entire", "algorithm", "takes", "time", "O", "-LRB-", "n", "-RRB-", ".", "2.6", "Approximation", "Bounds", "Recall", "that", "a", "binary", "tree", "T", "can", "be", "interpreted", "as", "representing", "a", "coding", "for", "symbols", "corresponding", "to", "its", "leaves", "by", "assigning", "0/1", "labels", "to", "left/right", "branches", ",", "respectively", ".", "Given", "a", "tree", "T", "and", "a", "set", "of", "weights", "associated", "to", "its", "leaves", ",", "we", "denote", "as", "E", "-LRB-", "T", "-RRB-", ",", "the", "expected", "number", "of", "bits", "needed", "to", "represent", "each", "of", "these", "symbols", "using", "codes", "represented", "by", "the", "tree", ".", "More", "precisely", ",", "if", "T", "has", "n", "leaves", "with", "weights", "w", "1", ",", "...", ",", "w", "n", "and", "depths", "l", "1", ",", "...", ",", "l", "n", ",", "then", "E", "-LRB-", "T", "-RRB-", "=", "n", "i", "=", "1", "w", "i", "l", "i", "W", "-LRB-", "T", "-RRB-", "where", "W", "-LRB-", "T", "-RRB-", "is", "defined", "as", "the", "total", "sum", "of", "the", "weights", "n", "i", "=", "1", "w", "i", ".", "Note", "that", "W", "-LRB-", "T", "-RRB-", "=", "1", "for", "the", "case", "of", "probability", "frequency", "distributions", ".", "T", "HEOREM", "2.1", ".", "Let", "T", "be", "the", "tree", "generated", "by", "our", "algorithm", ",", "and", "let", "T", "OPT", "be", "the", "optimal", "static", "binary", "order-preserving", "code", ".", "Then", "E", "-LRB-", "T", "-RRB-", "E", "-LRB-", "T", "OPT", "-RRB-", "+", "2", "This", "fact", "can", "be", "proved", "directly", "by", "careful", "study", "of", "the", "partition", "mechanism", ",", "depending", "on", "how", "large", "the", "central", "weight", "w", "k", "is", ".", "However", "we", "observe", "that", "a", "much", "more", "elegant", "proof", "can", "be", "derived", "from", "a", "rarely", "cited", "work", "by", "Paul", "Bayer", "-LSB-", "1975", "-RSB-", ".", "Consider", "a", "set", "of", "keys", "k", "1", ",", "...", ",", "k", "n", ",", "with", "probabilities", "p", "1", ",", "...", ",", "p", "n", "for", "successful", "searches", "and", "q", "0", ",", "q", "1", ",", "...", ",", "q", "n", "for", "unsuccessful", "searches", ".", "Let", "H", "=", "n", "i", "=", "1", "-", "p", "i", "lg", "p", "i", "+", "n", "i", "=", "0", "-", "q", "i", "lg", "q", "i", "denote", "the", "entropy", "of", "the", "associated", "probability", "distribution", ".", "Observe", "that", "from", "Shannon", "'s", "source-coding", "theorem", "-LSB-", "Shannon", "1948", "-RSB-", ",", "we", "know", "that", "H", "E", "-LRB-", "T", "-RRB-", "for", "any", "tree", "T.", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "Fast", "String", "Sorting", "Using", "Order-Preserving", "Compression", "7", "Definition", "2.2", ".", "A", "weight-balanced", "tree", "is", "an", "alphabetic", "binary", "search", "tree", "constructed", "recursively", "from", "the", "root", "by", "minimizing", "the", "difference", "between", "the", "weights", "of", "the", "left", "and", "right", "subtrees", ".", "That", "is", ",", "a", "weight-balanced", "tree", "minimizes", "|", "W", "-LRB-", "L", "-RRB-", "-", "W", "-LRB-", "R", "-RRB-", "|", "in", "a", "similar", "fashion", "to", "procedure", "Make", "above", ".", "T", "HEOREM", "2.3", "-LSB-", "B", "AYER", "1975", "-RSB-", ".", "Let", "S", "OPT", "denote", "the", "optimal", "alphabetic", "binary", "search", "tree", ",", "with", "keys", "in", "internal", "nodes", "and", "unsuccessful", "searches", "in", "external", "nodes", ".", "Let", "S", "denote", "a", "weight-balanced", "tree", "on", "the", "same", "keys", ",", "then", "E", "-LRB-", "S", "-RRB-", "H", "+", "2", "E", "-LRB-", "S", "OPT", "-RRB-", "+", "2", "With", "this", "theorem", "at", "hand", ",", "we", "can", "now", "proceed", "with", "the", "original", "proof", "of", "Theorem", "2.1", ".", "P", "ROOF", "OF", "T", "HEOREM", "2.1", ".", "We", "are", "given", "a", "set", "of", "symbols", "s", "i", "and", "weights", "w", "i", "with", "1", "i", "n.", "Consider", "the", "weight-balanced", "alphabetical", "binary", "search", "tree", "on", "n", "-", "1", "keys", "with", "successful", "search", "probabilities", "p", "i", "=", "0", "and", "unsuccessful", "search", "probabilities", "q", "i", "=", "w", "i", "-1", ".", "Observe", "that", "there", "is", "a", "one-to-one", "mapping", "between", "alphabetic", "search", "trees", "for", "this", "problem", "and", "order-preserving", "codes", ".", "Moreover", ",", "the", "cost", "of", "the", "corresponding", "trees", "coincide", ".", "It", "is", "not", "hard", "to", "see", "that", "the", "tree", "constructed", "by", "Make", "corresponds", "to", "the", "weight-balanced", "tree", ",", "and", "that", "the", "optimal", "alphabetical", "binary", "search", "tree", "S", "OPT", "and", "the", "optimum", "Hu", "Tucker", "code", "tree", "T", "OPT", "also", "correspond", "to", "each", "other", ".", "Hence", "from", "Bayer", "'s", "theorem", "we", "have", "E", "-LRB-", "T", "-RRB-", "H", "+", "2", "E", "-LRB-", "S", "OPT", "-RRB-", "+", "2", "=", "E", "-LRB-", "T", "OPT", "-RRB-", "+", "2", "as", "required", ".", "This", "shows", "that", "in", "theory", "the", "algorithm", "proposed", "is", "fast", "and", "has", "only", "a", "small", "performance", "penalty", "in", "terms", "of", "compression", "over", "both", "the", "optimal", "encoding", "method", "and", "the", "information", "theoretical", "lower", "bound", "given", "by", "the", "entropy", ".", "In", "this", "section", "we", "experimentally", "compare", "the", "performance", "of", "the", "algorithm", "in", "terms", "of", "compression", "against", "other", "static-compression", "codes", ".", "We", "compare", "three", "algorithms", ":", "Huffman", ",", "Hu", "Tucker", ",", "and", "our", "algorithm", "on", "a", "number", "of", "random", "frequency", "distributions", ".", "We", "compared", "alphabets", "of", "size", "n", ",", "for", "variable", "n", ".", "In", "the", "case", "of", "English", ",", "this", "corresponds", "to", "compression", "on", "words", ",", "rather", "than", "on", "single", "characters", ".", "Each", "character", "was", "given", "a", "random", "weight", "between", "0", "and", "100", ",", "000", ",", "which", "is", "later", "normalized", ".", "The", "worst-case", "behavior", "of", "our", "algorithm", "in", "comparison", "with", "Hu", "Tucker", "and", "Huffman", "algorithms", "is", "shown", "in", "Table", "I.", "For", "each", "sample", ",", "we", "calculated", "the", "expected", "number", "of", "bits", "required", "by", "each", "algorithm", "on", "that", "frequency", "distribution", "and", "reported", "the", "ratio", "least", "favorable", "among", "those", "reported", ".", "We", "also", "compared", "the", "performance", "of", "the", "proposed", "linear-time", "algorithm", "with", "Huffman", "and", "Hu", "Tucker", "compression", "using", "the", "Calgary", "corpus", ",", "a", "common", "benchmark", "in", "the", "field", "of", "data", "compression", ".", "This", "is", "shown", "in", "Table", "II", ".", "We", "report", "both", "the", "compression", "ratio", "of", "each", "of", "the", "solutions", "as", "well", "as", "the", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "8", "A.", "L", "opez-Ortiz", "et", "al.", ".", "Table", "I.", "Comparison", "of", "the", "Three", "Algorithms", "Alphabet", "size", "n", "Linear", "/", "Huffman", "Hu", "Tucker", "/", "Huffman", "Linear/Hu", "Tucker", "n", "=", "26", "-LRB-", "10000", "tests", "-RRB-", "1.1028", "1.0857", "1.0519", "n", "=", "256", "-LRB-", "10000", "tests", "-RRB-", "1.0277", "1.0198", "1.0117", "n", "=", "1000", "-LRB-", "3100", "tests", "-RRB-", "1.0171", "1.0117", "1.0065", "n", "=", "2000", "-LRB-", "1600", "tests", "-RRB-", "1.0147", "1.0100", "1.0053", "n", "=", "3000", "-LRB-", "608", "tests", "-RRB-", "1.0120", "1.0089", "1.0038", "Table", "II", ".", "Comparison", "Using", "the", "Calgary", "Corpus", "File", "Size", "-LRB-", "in", "bits", "-RRB-", "Huff", ".", "-LRB-", "%", "-RRB-", "Lin", ".", "-LRB-", "%", "-RRB-", "H-T", "-LRB-", "%", "-RRB-", "Lin", ".", "/", "Huff", ".", "Lin", ".", "/", "H-T", "H-T/Huff", ".", "bib.txt", "890088", "65", "68", "67", "1.0487", "1.0140", "1.0342", "book1.txt", "6150168", "57", "61", "59", "1.0727", "1.0199", "1.0518", "book2.txt", "4886848", "60", "63", "62", "1.0475", "1.0159", "1.0310", "paper1.txt", "425288", "62", "65", "64", "1.0378", "1.0075", "1.0301", "paper2.txt", "657592", "57", "60", "60", "1.0520", "1.0098", "1.0418", "paper3.txt", "372208", "58", "61", "60", "1.0421", "1.0099", "1.0318", "paper4.txt", "106288", "59", "63", "61", "1.0656", "1.0321", "1.0324", "paper5.txt", "95632", "62", "65", "64", "1.0518", "1.0151", "1.0361", "paper6.txt", "304840", "63", "66", "64", "1.0495", "1.0198", "1.0290", "progc.txt", "316888", "65", "68", "66", "1.0463", "1.0315", "1.0143", "progl.txt", "573168", "59", "63", "61", "1.0637", "1.0324", "1.0302", "progp.txt", "395032", "61", "64", "63", "1.0583", "1.0133", "1.0443", "trans.txt", "749560", "69", "72", "70", "1.0436", "1.0243", "1.0187", "news.txt", "3016872", "65", "67", "67", "1.0403", "1.0103", "1.0296", "geo", "819200", "70", "72", "71", "1.0173", "1.0098", "1.0074", "obj1", "172032", "74", "76", "75", "1.0220", "1.0149", "1.0070", "obj2", "1974512", "78", "80", "80", "1.0280", "1.0103", "1.0175", "pic", "4105728", "20", "21", "21", "1.0362", "1.0116", "1.0242", "comparative", "performance", "of", "the", "linear-time", "solution", "with", "the", "other", "two", "well-known", "static", "methods", ".", "As", "we", "can", "see", ",", "the", "penalty", "on", "the", "compression", "factor", "of", "the", "linear-time", "algorithm", "over", "Huffman", ",", "which", "is", "not", "order-preserving", ",", "or", "Hu", "Tucker", ",", "which", "takes", "time", "O", "-LRB-", "n", "log", "n", "-RRB-", ",", "is", "minimal", ".", "It", "is", "important", "to", "observe", "that", "for", "the", "data", "set", "tested", ",", "the", "difference", "between", "the", "optimal", "Hu", "Tucker", "and", "the", "linear", "compression", "code", "was", ",", "in", "all", "cases", ",", "below", "0.2", "bits", ",", "which", "is", "much", "less", "than", "the", "worst-case", "additive", "term", "of", "2", "predicted", "by", "Bayer", "'s", "theorem", ".", "In", "this", "section", ",", "we", "compare", "the", "performance", "of", "sorting", "on", "the", "compressed", "text", "against", "the", "uncompressed", "form", "-LSB-", "as", "in", "Moura", "et", "al.", "1997", "-RSB-", ",", "including", "Bentley", "and", "Sedgewicks", "'s", "FastSort", "-LSB-", "Bentley", "and", "Sedgewick", "1997", "-RSB-", ",", "as", "well", "as", "Andersson", "'s", "word-RAM", "sort", "-LSB-", "Andersson", "1994", "-RSB-", ".", "Traditionally", ",", "word-RAM", "algorithms", "operate", "on", "unbounded", "length", "keys", ",", "such", "as", "strings", ",", "by", "using", "radix/bucket-sort", "variants", "which", "iteratively", "examine", "the", "keys", "-LSB-", "Andersson", "and", "Nilsson", "1994", "-RSB-", ".", "In", "contrast", ",", "our", "method", "uses", "order-preserving", "compression", "to", "first", "reduce", "the", "size", "of", "the", "keys", ",", "then", "sort", "by", "using", "fixed-key", "size", "word-RAM", "algorithms", "-LSB-", "Andersson", "et", "al.", "1995", "-RSB-", ",", "sorting", "keys", "into", "buckets", ".", "We", "observed", "experimentally", "that", "this", "suffices", "to", "sort", "the", "vast", "majority", "of", "the", "strings", "when", "sorting", "100", "MB", "files", "of", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "Fast", "String", "Sorting", "Using", "Order-Preserving", "Compression", "9", "Table", "III", ".", "Percentage", "of", "Buckets", "Multiply", "Occupied", "-LRB-", "Web", "Crawl", "-RRB-", "Size", "in", "%", "Words", "Sharing", "a", "Bucket", "File", "Tokens", "Uncompressed", "Hu", "Tucker", "Linear", "Alphanumeric", "515277", "16", "2", "2", "Alpha", "only", "373977", "21", "3", "3", "web-crawled", "text", "data", ".", "In", "this", "case", ",", "each", "of", "the", "buckets", "contained", "very", "few", "elements", ",", "in", "practice", ".", "We", "also", "tested", "the", "algorithms", "on", "the", "Calgary", "corpus", ",", "which", "is", "a", "standard", "benchmark", "in", "the", "field", "of", "text", "compression", ".", "We", "consider", "the", "use", "of", "a", "word-RAM", "sorting", "algorithm", "to", "create", "a", "dictionary", "of", "the", "words", "appearing", "in", "a", "given", "text", ".", "The", "standard", "word-RAM", "algorithms", "have", "as", "a", "requirement", "that", "the", "keys", "fit", "within", "the", "word", "size", "of", "the", "RAM", "machine", "being", "used", ".", "Modern", "computers", "have", "word", "sizes", "of", "32", "or", "64", "bits", ".", "In", "this", "particular", "example", ",", "we", "tested", "Andersson", "'s", "32", "bit", "implementation", "-LSB-", "Andersson", "and", "Nilsson", "1998", "-RSB-", "of", "the", "O", "-LRB-", "n", "log", "log", "n", "-RRB-", "algorithm", "by", "Andersson", "et", "al.", "-LSB-", "1995", "-RSB-", ".", "We", "also", "tested", "the", "performance", "of", "Bentley", "and", "Sedgewick", "'s", "-LSB-", "1997", "-RSB-", "MKQSort", "running", "on", "compressed", "data", "using", "order-preserving", "compression", ".", "The", "algorithm", "is", "a", "straightforward", "implementation", "of", "the", "code", "in", "Bentley", "and", "Sedgewick", "-LSB-", "1997", "-RSB-", ".", "Observe", "that", "one", "can", "use", "a", "word-RAM", "algorithm", "on", "keys", "longer", "than", "w", "bits", "by", "initially", "sorting", "on", "the", "first", "w", "bits", "of", "the", "key", "and", "then", "identifying", "``", "buckets", "''", "where", "two", "or", "more", "strings", "are", "``", "tied", ",", "''", "i.e.", ",", "share", "the", "first", "w", "bits", ".", "The", "algorithm", "proceeds", "recursively", "on", "each", "of", "these", "buckets", "until", "there", "are", "no", "further", "ties", ".", "This", "method", "is", "particularly", "effective", "if", "the", "number", "of", "ties", "is", "not", "too", "large", ".", "To", "study", "this", "effect", ",", "we", "consider", "two", "word", "dictionaries", "and", "a", "text", "source", ".", "One", "is", "collected", "from", "a", "1-GB", "crawl", "of", "the", "world", "wide", "web", ",", "the", "second", "from", "all", "the", "unique", "words", "appearing", "in", "the", "Calgary", "corpus", ";", "the", "last", "one", "is", "a", "more", "recent", "3.3-GB", "crawl", "of", "the", "world", "wide", "web", ".", "This", "is", "motivated", "by", "an", "indexing", "application", "for", "which", "sorting", "a", "large", "number", "of", "words", "was", "required", ".", "In", "principle", ",", "the", "result", "is", "equally", "applicable", "to", "other", "settings", ",", "such", "as", "sorting", "of", "alphanumeric", "fields", "in", "a", "database", ".", "In", "the", "case", "of", "the", "web", "crawl", "we", "considered", "two", "alternative", "tokenization", "schemes", ".", "The", "first", "one", "tokenizes", "on", "alphanumeric", "characters", "while", "the", "second", "ignores", "numbers", "in", "favor", "of", "words", "only", ".", "Table", "III", "shows", "the", "number", "of", "buckets", "that", "have", "more", "than", "one", "element", "after", "the", "first", "pass", "in", "the", "uncompressed", "and", "the", "compressed", "form", "of", "the", "text", ".", "We", "report", "both", "the", "figure", "for", "the", "proposed", "linear", "algorithm", "and", "for", "the", "optimal", "Hu", "Tucker", "scheme", ".", "Observe", "the", "dramatic", "reduction", "in", "the", "number", "of", "buckets", "that", "require", "further", "processing", "in", "the", "compressed", "data", ".", "In", "fact", "the", "numbers", "of", "ties", "in", "the", "compressed", "case", "is", "sufficiently", "small", "that", "aborting", "the", "recursion", "after", "the", "first", "pass", "and", "using", "a", "simpler", "sorting", "algorithm", "on", "the", "buckets", "is", "a", "realistic", "alternative", ".", "In", "comparison", ",", "in", "the", "uncompressed", "case", "the", "recursion", "reaches", "depth", "three", "in", "the", "worst", "case", "before", "other", "types", "of", "sorting", "become", "a", "realistic", "possibility", ".", "In", "the", "case", "of", "the", "Calgary", "corpus", ",", "the", "number", "of", "buckets", "with", "ties", "in", "the", "uncompressed", "form", "of", "the", "text", "ranged", "from", "3", "to", "8", "%", ".", "After", "compressing", "the", "text", ",", "the", "number", "of", "ties", ",", "in", "all", "cases", ",", "rounded", "to", "0", ".0", "%", ".", "The", "specific", "figures", "for", "a", "subset", "of", "the", "Calgary", "corpus", "are", "shown", "in", "Table", "IV", ".", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "10", "A.", "L", "opez-Ortiz", "et", "al.", ".", "Table", "IV", ".", "Percentage", "of", "Buckets", "Multiply", "Occupied", "on", "the", "Text", "Subset", "of", "the", "Calgary", "Corpus", "Percentage", "Words", "Tied", "File", "Uncompressed", "Hu", "Tucker", "Linear", "paper1", "5", "0", "0", "paper2", "4", "0", "0", "paper3", "6", "0", "0", "paper4", "4", "0", "0", "paper5", "3", "0", "0", "paper6", "4", "0", "0", "book1", "3", "0", "0", "book2", "8", "0", "0", "bib", "7", "0", "0", "Notice", "that", "in", "all", "cases", "the", "performance", "of", "the", "optimal", "Hu", "Tucker", "algorithm", "and", "the", "linear", "algorithm", "is", "comparable", ".", "We", "should", "also", "emphasize", "that", "while", "the", "tests", "in", "this", "paper", "used", "compression", "on", "alphanumeric", "characters", "only", ",", "the", "compression", "scheme", "can", "be", "applied", "to", "entire", "words", "-LSB-", "see", ",", "for", "example", ",", "Mumey", "1992", "-RSB-", ".", "In", "this", "case", ",", "the", "size", "of", "the", "code", "dictionary", "can", "range", "in", "the", "thousands", "of", "symbols", ",", "which", "makes", "the", "savings", "of", "a", "linear-time", "algorithm", "particularly", "relevant", ".", "Last", ",", "we", "considered", "a", "series", "of", "ten", "web", "crawls", "from", "Google", ",", "each", "of", "approximately", "100", "MB", "in", "size", "-LRB-", "3.3", "GB", "in", "total", "-RRB-", ".", "In", "this", "case", ",", "we", "operate", "under", "the", "assumption", "that", "the", "data", "is", "stored", "in", "the", "suitable", "format", "to", "the", "corresponding", "algorithm", ".", "We", "posit", "that", "it", "is", "desirable", "to", "store", "data", "in", "compressed", "format", ",", "as", "this", "results", "also", "in", "storage", "savings", "while", "not", "sacrificing", "searchability", "because", "of", "the", "order-preserving", "nature", "of", "the", "compression", ".", "We", "tokenized", "and", "sorted", "each", "of", "these", "files", "to", "create", "a", "dictionary", ",", "a", "common", "preprocessing", "step", "for", "some", "indexing", "algorithms", ".", "The", "tokenization", "was", "performed", "on", "nonalphanumeric", "characters", ".", "For", "this", "test", ",", "we", "removed", "tokens", "larger", "than", "32", "bits", "from", "the", "tokenized", "file", ".", "In", "practice", ",", "these", "tokens", "would", "be", "sorted", "using", "a", "second", "pass", ",", "as", "explained", "earlier", ".", "We", "first", "studied", "the", "benefits", "of", "order-preserving", "compression", "alone", "by", "comparing", "the", "time", "taken", "to", "sort", "the", "uncompressed", "and", "compressed", "forms", "of", "the", "text", ".", "The", "tokens", "were", "sorted", "using", "the", "Unix", "sort", "routine", ",", "Unix", "qsort", ",", "Fast", "MKQSort", ",", "and", "Andersson", "'s", "sort", "algorithm", "-LSB-", "Andersson", "and", "Nilsson", "1998", "-RSB-", ".", "Table", "V", "shows", "a", "comparison", "of", "CPU", "times", "among", "the", "different", "sorting", "algorithms", ",", "while", "Table", "VI", "shows", "the", "comparison", "in", "performance", "including", "I/O", "time", "for", "copying", "the", "data", "into", "memory", ".", "Note", "that", "there", "are", "observed", "gains", "both", "in", "CPU", "time", "alone", "and", "in", "CPU", "plus", "I/O", "timings", "as", "a", "result", "of", "using", "the", "data-compressed", "form", ".", "We", "report", "timings", "in", "individual", "form", "for", "the", "first", "three", "crawls", "as", "well", "as", "the", "average", "sorting", "time", "across", "all", "10", "files", "together", "with", "the", "variance", ".", "On", "the", "data", "provided", ",", "Fast", "MKQSort", "is", "the", "best", "possible", "choice", "with", "the", "compressed", "variant", ",", "being", "20", "%", "faster", "than", "the", "uncompressed", "form", ".", "These", "are", "substantial", "savings", "for", "such", "a", "highly", "optimized", "algorithm", ".", "While", ",", "in", "this", "case", ",", "we", "focused", "on", "key", "lengths", "below", "w", "bits", ",", "the", "savings", "from", "compression", "can", "be", "realized", "by", "most", "other", "sorting", ",", "searching", ",", "or", "indexing", "mechanisms", ",", "both", "by", "the", "reduction", "of", "the", "key", "length", "field", "and", "by", "the", "reduced", "demands", "in", "terms", "of", "space", ".", "To", "emphasize", ",", "there", "are", "two", "aspects", "of", "order-preserving", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "Fast", "String", "Sorting", "Using", "Order-Preserving", "Compression", "11", "Table", "V.", "CPU", "Time", "-LRB-", "in", "Seconds", "-RRB-", "as", "Reported", "by", "the", "Unix", "Time", "Utility", "Algorithm", "Data", "1", "Data", "2", "Data", "3", "Average", "Variance", "QSort", "2.41", "2.29", "2.33", "2.33", "0.04", "QSort", "on", "compressed", "2.17", "2.18", "2.20", "2.20", "0.05", "Andersson", "0.80", "0.82", "0.81", "0.81", "0.01", "Fast", "Sort", "0.88", "0.89", "0.86", "0.88", "0.02", "Fast", "Sort", "on", "compressed", "0.73", "0.75", "0.75", "0.74", "0.02", "Binary", "Search", "1.27", "1.29", "1.26", "1.28", "0.02", "Binary", "Search", "on", "compressed", "1.08", "1.09", "1.09", "1.09", "0.02", "Table", "VI", ".", "Total", "System", "Time", "as", "Reported", "by", "the", "Unix", "time", "Utility", "Algorithm", "Data", "1", "Data", "2", "Data", "3", "Average", "Variance", "Unix", "Sort", "5.53", "5.40", "5.30", "5.41", "0.07", "Unix", "Sort", "compressed", "5.43", "5.43", "5.53", "5.42", "0.06", "QSort", "2.78", "2.64", "2.68", "2.69", "0.05", "QSort", "on", "compressed", "2.45", "2.47", "2.48", "2.48", "0.05", "Andersson", "3.63", "3.60", "3.67", "3.61", "0.04", "Fast", "Sort", "1.24", "1.25", "1.22", "1.24", "0.02", "Fast", "Sort", "on", "compressed", "1.00", "1.04", "1.02", "1.03", "0.02", "Binary", "Search", "1.63", "1.64", "1.62", "1.65", "0.02", "Binary", "Search", "on", "compressed", "1.36", "1.38", "1.37", "1.38", "0.02", "compression", ",", "which", "have", "a", "positive", "impact", "on", "performance", ".", "The", "first", "is", "that", "when", "comparing", "two", "keys", "byte-per-byte", ",", "we", "are", "now", ",", "in", "fact", ",", "comparing", "more", "than", "key", "at", "once", ",", "since", "compressed", "characters", "fit", "at", "a", "rate", "of", "more", "than", "1", "per", "byte", ".", "Second", ",", "the", "orginal", "data", "size", "is", "reduced", ".", "This", "leads", "to", "a", "decrease", "in", "the", "amount", "of", "paging", "to", "external", "memory", ",", "which", "is", "often", "the", "principal", "bottleneck", "for", "algorithms", "on", "large", "data", "collections", ".", "In", "this", "work", ",", "we", "studied", "the", "benefits", "of", "order-preserving", "compression", "for", "sorting", "strings", "in", "the", "word-RAM", "model", ".", "First", ",", "we", "propose", "a", "simple", "linear-approximation", "algorithm", "for", "optimal", "order-preserving", "compression", ",", "which", "acts", "reasonably", "well", "in", "comparison", "with", "optimum", "algorithms", ",", "both", "in", "theory", "and", "in", "practice", ".", "The", "approximation", "is", "within", "a", "constant", "additive", "term", "of", "both", "the", "optimum", "scheme", "and", "the", "information", "theoretical", "ideal", ",", "i.e.", ",", "the", "entropy", "of", "the", "probabilistic", "distribution", "associated", "to", "the", "character", "frequency", ".", "We", "then", "test", "the", "benefits", "of", "this", "algorithm", "using", "the", "sorting", "algorithm", "of", "Andersson", "for", "the", "word-RAM", ",", "as", "well", "as", "Bentley", "and", "Sedgewick", "'s", "fast", "MKQSort", ".", "We", "present", "experimental", "data", "based", "on", "a", "1-GB", "web", "crawl", ",", "showing", "that", "Fast", "MKQSort", "and", "Andersson", "are", "more", "efficient", "for", "compressed", "data", ".", "We", "wish", "to", "thank", "Ian", "Munro", "for", "helpful", "discussions", "on", "this", "topic", ",", "as", "well", "as", "anonymous", "referees", "of", "an", "earlier", "version", "of", "this", "paper", "for", "their", "helpful", "comments", ".", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", ".", "12", "A.", "L", "opez-Ortiz", "et", "al.", ".", "A", "NDERSSON", ",", "A.", "1994", ".", "Faster", "deterministic", "sorting", "and", "searching", "in", "linear", "space", ".", "In", "Proceedings", "of", "the", "37th", "Annual", "IEEE", "Symposium", "on", "Foundations", "of", "Computer", "Science", "-LRB-", "FOCS", "1996", "-RRB-", ".", "135", "141", ".", "A", "NDERSSON", ",", "A.", "AND", "N", "ILSSON", ",", "S.", "1994", ".", "A", "new", "efficient", "radix", "sort", ".", "In", "FOCS", ":", "IEEE", "Symposium", "on", "Foundations", "of", "Computer", "Science", "-LRB-", "FOCS", "-RRB-", ".", "A", "NDERSSON", ",", "A.", "AND", "N", "ILSSON", ",", "S.", "1998", ".", "Implementing", "radixsort", ".", "ACM", "Journal", "of", "Experimental", "Algorithms", "3", ",", "7", ".", "A", "NDERSSON", ",", "A.", ",", "H", "AGERUP", ",", "T.", ",", "N", "ILSSON", ",", "S.", ",", "AND", "R", "AMAN", ",", "R.", "1995", ".", "Sorting", "in", "linear", "time", "?", "In", "STOC", ":", "ACM", "Symposium", "on", "Theory", "of", "Computing", "-LRB-", "STOC", "-RRB-", ".", "A", "NTOSHENKOV", ",", "G.", "1997", ".", "Dictionary-based", "order-preserving", "string", "compression", ".", "VLDB", "Journal", ":", "Very", "Large", "Data", "Bases", "6", ",", "1", "-LRB-", "Jan.", "-RRB-", ",", "26", "39", ".", "-LRB-", "Electronic", "edition", ".", "-RRB-", "B", "AYER", ",", "P.", "J.", "1975", ".", "Improved", "bounds", "on", "the", "costs", "of", "optimal", "and", "balanced", "binary", "search", "trees", ".", "Master", "'s", "thesis", ".", "Massachussets", "Institute", "of", "Technology", "-LRB-", "MIT", "-RRB-", ",", "Cambridge", ",", "MA", ".", "B", "ELL", ",", "T.", "C.", ",", "C", "LEARY", ",", "J.", "G.", ",", "AND", "W", "ITTEN", ",", "I.", "H.", "1990", ".", "Text", "compression", ".", "Prentice", "Hall", ",", "Englewood", "Cliffs", ",", "NJ", ".", "B", "ENTLEY", ",", "J.", "L.", "AND", "S", "EDGEWICK", ",", "R.", "1997", ".", "Fast", "algorithms", "for", "sorting", "and", "searching", "strings", ".", "In", "Proceedings", "of", "8th", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", "-LRB-", "SODA", "'", "97", "-RRB-", ".", "360", "369", ".", "F", "ARACH", ",", "M.", "AND", "T", "HORUP", ",", "M.", "1998", ".", "String", "matching", "in", "lempel-ziv", "compressed", "strings", ".", "Algorith-mica", "20", ",", "4", ",", "388", "404", ".", "G", "ILBERT", ",", "E.", "N.", "AND", "M", "OORE", ",", "E.", "F.", "1959", ".", "Variable-length", "binary", "encoding", ".", "Bell", "Systems", "Technical", "Journal", "38", ",", "933", "968", ".", "H", "U", ",", "T.", "C.", "1973", ".", "A", "new", "proof", "of", "the", "T", "-", "C", "algorithm", ".", "SIAM", "Journal", "on", "Applied", "Mathematics", "25", ",", "1", "-LRB-", "July", "-RRB-", ",", "83", "94", ".", "K", "ARKK", "AINEN", ",", "J.", "AND", "U", "KKNONEN", ",", "E.", "1996", ".", "Lempel-ziv", "parsing", "and", "sublinear-size", "index", "structures", "for", "string", "matching", ".", "In", "Proceedings", "of", "the", "3rd", "South", "American", "Workshop", "on", "String", "Processing", "-LRB-", "WSP", "'", "96", "-RRB-", ".", "141", "155", ".", "K", "NUTH", ",", "D.", "E.", "1997", ".", "The", "art", "of", "computer", "programming", ":", "Fundamental", "algorithms", ",", "3rd", "ed", ",", "vol", ".", "1", ".", "Addison", "Wesley", ",", "Reading", ",", "MA", ".", "L", "ARMORE", ",", "L.", "L.", "AND", "P", "RZYTYCKA", ",", "T.", "M.", "1998", ".", "The", "optimal", "alphabetic", "tree", "problem", "revisited", ".", "Journal", "of", "Algorithms", "28", ",", "1", "-LRB-", "July", "-RRB-", ",", "1", "20", ".", "M", "OURA", ",", "E.", ",", "N", "AVARRO", ",", "G.", ",", "AND", "Z", "IVIANI", ",", "N.", "1997", ".", "Indexing", "compressed", "text", ".", "In", "Proceedings", "of", "the", "4th", "South", "American", "Workshop", "on", "String", "Processing", "-LRB-", "WSP", "'", "97", "-RRB-", ".", "Carleton", "University", "Press", ",", "Ottawa", ",", "Ontario", ".", "95", "111", ".", "M", "UMEY", ",", "B.", "M.", "1992", ".", "Some", "new", "results", "on", "constructing", "optimal", "alphabetic", "binary", "trees", ".", "Master", "'s", "thesis", ",", "University", "of", "British", "Columbia", ",", "Vancouver", ",", "British", "Columbia", ".", "S", "HANNON", ",", "C.", "E.", "1948", ".", "A", "mathematical", "theory", "of", "communication", ".", "Bell", "Syst", ".", "Technical", "Journal", "27", ",", "379", "423", ",", "623", "656", ".", "Z", "IV", ",", "J.", "AND", "L", "EMPEL", ",", "A.", "1978", ".", "Compression", "of", "individual", "sequences", "via", "variable-rate", "coding", ".", "IEEE", "Trans", ".", "Inform", ".", "Theory", ",", "Vol.IT-24", "5", ".", "Received", "June", "2004", ";", "revised", "January", "2006", ";", "accepted", "October", "2004", "and", "January", "2006", "ACM", "Journal", "of", "Experimental", "Algorithmics", ",", "Vol", ".", "10", ",", "Article", "No.", "1.4", ",", "2006", "."], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["keys of bounded length", "string sorting", "sorting algorithms", "linear time algorithm", "compression ratio", "compression scheme", "random access"], "abstractive_keyphrases": ["data collection", "word-ram sorting algorithm", "order-preserving compression scheme"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "63", "document": ["Data", "Mining", "in", "Metric", "Space", ":", "An", "Empirical", "Analysis", "of", "Supervised", "Learning", "Performance", "Criteria", "Many", "criteria", "can", "be", "used", "to", "evaluate", "the", "performance", "of", "supervised", "learning", ".", "Different", "criteria", "are", "appropriate", "in", "different", "settings", ",", "and", "it", "is", "not", "always", "clear", "which", "criteria", "to", "use", ".", "A", "further", "complication", "is", "that", "learning", "methods", "that", "perform", "well", "on", "one", "criterion", "may", "not", "perform", "well", "on", "other", "criteria", ".", "For", "example", ",", "SVMs", "and", "boosting", "are", "designed", "to", "optimize", "accuracy", ",", "whereas", "neural", "nets", "typically", "optimize", "squared", "error", "or", "cross", "entropy", ".", "We", "conducted", "an", "empirical", "study", "using", "a", "variety", "of", "learning", "methods", "-LRB-", "SVMs", ",", "neural", "nets", ",", "k-nearest", "neighbor", ",", "bagged", "and", "boosted", "trees", ",", "and", "boosted", "stumps", "-RRB-", "to", "compare", "nine", "boolean", "classification", "performance", "metrics", ":", "Accuracy", ",", "Lift", ",", "F-Score", ",", "Area", "under", "the", "ROC", "Curve", ",", "Average", "Precision", ",", "Precision/Recall", "Break-Even", "Point", ",", "Squared", "Error", ",", "Cross", "Entropy", ",", "and", "Probability", "Calibration", ".", "Multidimensional", "scaling", "-LRB-", "MDS", "-RRB-", "shows", "that", "these", "metrics", "span", "a", "low", "dimensional", "manifold", ".", "The", "three", "metrics", "that", "are", "appropriate", "when", "predictions", "are", "interpreted", "as", "probabilities", ":", "squared", "error", ",", "cross", "entropy", ",", "and", "calibration", ",", "lay", "in", "one", "part", "of", "metric", "space", "far", "away", "from", "metrics", "that", "depend", "on", "the", "relative", "order", "of", "the", "predicted", "values", ":", "ROC", "area", ",", "average", "precision", ",", "break-even", "point", ",", "and", "lift", ".", "In", "between", "them", "fall", "two", "metrics", "that", "depend", "on", "comparing", "predictions", "to", "a", "threshold", ":", "accuracy", "and", "F-score", ".", "As", "expected", ",", "maximum", "margin", "methods", "such", "as", "SVMs", "and", "boosted", "trees", "have", "excellent", "performance", "on", "metrics", "like", "accuracy", ",", "but", "perform", "poorly", "on", "probability", "metrics", "such", "as", "squared", "error", ".", "What", "was", "not", "expected", "was", "that", "the", "margin", "methods", "have", "excellent", "performance", "on", "ordering", "metrics", "such", "as", "ROC", "area", "and", "average", "precision", ".", "We", "introduce", "a", "new", "metric", ",", "SAR", ",", "that", "combines", "squared", "error", ",", "accuracy", ",", "and", "ROC", "area", "into", "one", "metric", ".", "MDS", "and", "correlation", "analysis", "shows", "that", "SAR", "is", "centrally", "located", "and", "correlates", "well", "with", "other", "metrics", ",", "suggesting", "that", "it", "is", "a", "good", "general", "purpose", "metric", "to", "use", "when", "more", "specific", "criteria", "are", "not", "known", ".", "Categories", "&", "Subject", "Descriptors", ":", "I.", "5.2", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Design", "Methodology", "-", "classifier", "design", "&", "evaluation", ".", "General", "Terms", ":", "Algorithms", ",", "Measurement", ",", "Performance", ",", "Experimentation", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "In", "supervised", "learning", ",", "finding", "a", "model", "that", "could", "predict", "the", "true", "underlying", "probability", "for", "each", "test", "case", "would", "be", "optimal", ".", "We", "refer", "to", "such", "an", "ideal", "model", "as", "the", "One", "True", "Model", ".", "Any", "reasonable", "performance", "metric", "should", "be", "optimized", "-LRB-", "in", "expectation", ",", "at", "least", "-RRB-", "by", "the", "one", "true", "model", ",", "and", "no", "other", "model", "should", "yield", "performance", "better", "than", "it", ".", "Unfortunately", ",", "we", "usually", "do", "not", "know", "how", "to", "train", "models", "to", "predict", "the", "true", "underlying", "probabilities", ".", "The", "one", "true", "model", "is", "not", "easy", "to", "learn", ".", "Either", "the", "correct", "parametric", "model", "type", "for", "the", "domain", "is", "not", "known", ",", "or", "the", "training", "sample", "is", "too", "small", "for", "the", "model", "parameters", "to", "be", "esti-mated", "accurately", ",", "or", "there", "is", "noise", "in", "the", "data", ".", "Typically", ",", "all", "of", "these", "problems", "occur", "together", "to", "varying", "degrees", ".", "Even", "if", "magically", "the", "one", "true", "model", "were", "given", "to", "us", ",", "we", "would", "have", "difficulty", "selecting", "it", "from", "other", "less", "true", "models", ".", "We", "do", "not", "have", "performance", "metrics", "that", "will", "reliably", "assign", "best", "performance", "to", "the", "probabilistically", "true", "model", "given", "finite", "validation", "data", ".", "In", "practice", ",", "we", "train", "models", "to", "minimize", "loss", "measured", "via", "a", "specific", "performance", "metric", ".", "Since", "we", "do", "n't", "have", "metrics", "that", "could", "reliably", "select", "the", "one", "true", "model", ",", "we", "must", "accept", "the", "fact", "that", "the", "model", "-LRB-", "s", "-RRB-", "we", "select", "will", "necessarily", "be", "suboptimal", ".", "There", "may", "be", "only", "one", "true", "model", ",", "but", "there", "are", "many", "suboptimal", "models", ".", "There", "are", "different", "ways", "that", "suboptimal", "models", "can", "differ", "from", "the", "one", "true", "model", "tradeoffs", "can", "be", "made", "between", "different", "kinds", "of", "deviation", "from", "the", "one", "true", "model", ".", "Different", "performance", "metrics", "reflect", "these", "different", "tradeoffs", ".", "For", "example", ",", "ordering", "metrics", "such", "as", "area", "under", "the", "ROC", "curve", "and", "average", "precision", "do", "not", "care", "if", "the", "predicted", "values", "are", "near", "the", "true", "probabilities", ",", "but", "depend", "only", "on", "the", "relative", "size", "of", "the", "values", ".", "Dividing", "all", "predictions", "by", "ten", "does", "not", "change", "the", "ROC", "curve", ",", "and", "metrics", "based", "on", "the", "ROC", "curve", "are", "insensitive", "to", "this", "kind", "of", "deviation", "from", "truth", ".", "Metrics", "such", "as", "squared", "error", "and", "cross", "entropy", ",", "however", ",", "are", "greatly", "affected", "by", "scaling", "the", "predicted", "values", ",", "but", "are", "less", "affected", "by", "small", "changes", "in", "predicted", "values", "that", "might", "alter", "the", "relative", "ordering", "but", "not", "significantly", "change", "the", "deviation", "from", "the", "target", "values", ".", "Squared", "error", "and", "cross", "entropy", "reflect", "very", "different", "tradeoffs", "than", "metrics", "based", "on", "the", "ROC", "curve", ".", "Similarly", ",", "metrics", "such", "as", "accuracy", "depend", "on", "how", "the", "predicted", "values", "fall", "relative", "to", "a", "threshold", ".", "If", "predicted", "values", "are", "rescaled", ",", "accuracy", "will", "be", "unaffected", "if", "the", "threshold", "also", "is", "rescaled", ".", "But", "if", "small", "changes", "to", "69", "Research", "Track", "Paper", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.2", "0.4", "0.6", "0.8", "1", "W2", "W1", "Max", "ACC", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.2", "0.4", "0.6", "0.8", "1", "W2", "W1", "Max", "AUC", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.2", "0.4", "0.6", "0.8", "1", "W2", "W1", "Min", "RMS", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.2", "0.4", "0.6", "0.8", "1", "W2", "W1", "Min", "MXE", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.2", "0.4", "0.6", "0.8", "1", "W2", "W1", "Min", "CAL", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "0.2", "0.4", "0.6", "0.8", "1", "W2", "W1", "Max", "SAR", "Figure", "1", ":", "Level", "curves", "for", "six", "error", "metrics", ":", "ACC", ",", "AUC", ",", "RMS", ",", "MXE", ",", "CAL", ",", "SAR", "for", "a", "simple", "problem", ".", "predicted", "values", "are", "made", "for", "cases", "near", "the", "threshold", ",", "this", "can", "have", "large", "impact", "on", "accuracy", ".", "Accuracy", "reflects", "yet", "another", "tradeoff", "in", "how", "deviation", "from", "truth", "is", "measured", ".", "The", "one", "true", "model", ",", "if", "available", ",", "would", "have", "-LRB-", "in", "expectation", "-RRB-", "the", "best", "accuracy", ",", "the", "best", "ROC", "curve", ",", "and", "the", "best", "cross", "entropy", ",", "and", "the", "different", "tradeoffs", "made", "by", "these", "metrics", "would", "not", "be", "important", ".", "But", "once", "we", "accept", "that", "we", "will", "not", "be", "able", "to", "find", "the", "one", "true", "model", ",", "and", "must", "therefore", "accept", "suboptimal", "models", ",", "the", "different", "tradeoffs", "made", "by", "different", "performance", "metrics", "become", "interesting", "and", "important", ".", "Unfortunately", ",", "little", "is", "known", "about", "how", "different", "performance", "metrics", "compare", "to", "each", "other", ".", "In", "this", "paper", "we", "present", "results", "from", "an", "empirical", "analysis", "of", "nine", "widely", "used", "performance", "metrics", ".", "We", "perform", "this", "empirical", "comparison", "using", "models", "trained", "with", "seven", "learning", "algorithms", ":", "SVMs", ",", "neural", "nets", ",", "k-nearest", "neighbor", ",", "bagged", "and", "boosted", "trees", ",", "and", "boosted", "stumps", ".", "We", "use", "multidimensional", "scaling", "-LRB-", "MDS", "-RRB-", "and", "correlation", "analysis", "to", "interpret", "the", "results", ".", "We", "also", "examine", "which", "learning", "methods", "perform", "best", "on", "the", "different", "metrics", ".", "Finally", ",", "we", "introduce", "a", "new", "metric", ",", "SAR", ",", "that", "combines", "squared", "error", ",", "accuracy", ",", "and", "ROC", "area", "into", "a", "single", ",", "robust", "metric", ".", "We", "experiment", "with", "nine", "performance", "metrics", "for", "boolean", "classification", ":", "Accuracy", "-LRB-", "ACC", "-RRB-", ",", "Lift", "-LRB-", "LFT", "-RRB-", ",", "F-Score", "-LRB-", "FSC", "-RRB-", ",", "Area", "under", "the", "ROC", "Curve", "-LRB-", "AUC", "-RRB-", ",", "Average", "Precision", "-LRB-", "APR", "-RRB-", ",", "the", "Precision/Recall", "Break-Even", "Point", "-LRB-", "BEP", "-RRB-", ",", "Root", "Mean", "Squared", "Error", "-LRB-", "RMS", "-RRB-", ",", "Mean", "Cross", "Entropy", "-LRB-", "MXE", "-RRB-", ",", "and", "Probability", "Calibration", "-LRB-", "CAL", "-RRB-", ".", "Definitions", "for", "each", "of", "the", "metrics", "can", "be", "found", "in", "Appendix", "A.", "Figure", "1", "shows", "level", "curves", "for", "six", "of", "the", "ten", "performance", "metrics", "for", "a", "model", "with", "only", "two", "parameters", "-LRB-", "W", "1", "and", "W", "2", "-RRB-", "trained", "on", "a", "simple", "synthetic", "binary", "problem", ".", "Peak", "performance", "in", "the", "first", "two", "plots", "occurs", "along", "a", "ridge", "in", "weight", "space", ".", "In", "the", "other", "four", "plots", "peak", "performance", "is", "indicated", "by", "solid", "dots", ".", "Peak", "performance", "for", "some", "metrics", "nearly", "coincide", ":", "RMS", "and", "MXE", "peak", "at", "nearly", "the", "same", "model", "weights", ".", "But", "other", "metrics", "peak", "in", "different", "places", ":", "CAL", "has", "a", "local", "optimum", "near", "the", "optima", "for", "RMS", "and", "MXE", ",", "but", "its", "global", "optimum", "is", "in", "a", "different", "place", ".", "Also", ",", "the", "ridges", "for", "optimal", "ACC", "and", "optimal", "AUC", "do", "not", "align", ",", "and", "the", "ridges", "do", "not", "cross", "the", "optima", "for", "the", "other", "four", "metrics", ".", "Optimizing", "to", "each", "of", "these", "metrics", "yields", "different", "models", ",", "each", "representing", "different", "tradeoffs", "in", "the", "kinds", "of", "errors", "the", "models", "make", ".", "Which", "of", "these", "tradeoffs", "is", "best", "depends", "on", "the", "problem", ",", "the", "learning", "algorithm", ",", "and", "how", "the", "model", "predictions", "ultimately", "will", "be", "used", ".", "We", "originally", "divided", "the", "nine", "metrics", "into", "three", "groups", ":", "threshold", "metrics", ",", "ordering/rank", "metrics", ",", "and", "probability", "metrics", ".", "The", "three", "threshold", "metrics", "are", "accuracy", "-LRB-", "ACC", "-RRB-", ",", "F-score", "-LRB-", "FSC", "-RRB-", "and", "lift", "-LRB-", "LFT", "-RRB-", ".", "F-score", "is", "the", "harmonic", "mean", "of", "precision", "and", "recall", "at", "some", "threshold", ".", "Lift", "measures", "the", "true", "positive", "rate", "in", "the", "fraction", "of", "cases", "that", "fall", "above", "threshold", ".", "-LRB-", "See", "Appendix", "A", "for", "a", "definition", "of", "lift", ",", "and", "-LSB-", "3", "-RSB-", "for", "a", "description", "of", "Lift", "Curves", ".", "Lift", "is", "the", "same", "as", "precision", "at", "some", "threshold", ",", "but", "scaled", "so", "that", "it", "can", "be", "larger", "than", "1", ".", "-RRB-", "Usually", "ACC", "and", "FSC", "use", "a", "fixed", "threshold", ".", "In", "this", "paper", "we", "use", "0.5", ".", "With", "lift", ",", "often", "the", "threshold", "is", "adjusted", "so", "that", "a", "fixed", "percent", ",", "p", ",", "of", "cases", "are", "predicted", "as", "positive", ",", "the", "rest", "falling", "below", "threshold", ".", "Usually", "p", "depends", "on", "the", "problem", ".", "For", "example", ",", "in", "marketing", "one", "might", "want", "to", "send", "fliers", "to", "10", "%", "of", "customers", ".", "Here", "we", "somewhat", "arbitrarily", "set", "p", "=", "25", "%", "for", "all", "problems", ".", "Note", "that", "for", "all", "threshold", "metrics", "it", "is", "not", "important", "how", "close", "a", "prediction", "is", "too", "a", "threshold", ",", "only", "if", "the", "predicted", "value", "is", "above", "or", "below", "threshold", ".", "The", "ordering/rank", "metrics", "look", "at", "predictions", "differently", "from", "the", "threshold", "metrics", ".", "If", "cases", "are", "ordered", "by", "predicted", "value", ",", "the", "ordering/rank", "metrics", "measure", "how", "well", "the", "ordering", "ranks", "positive", "cases", "above", "negative", "cases", ".", "The", "rank", "metrics", "can", "be", "viewed", "as", "a", "summary", "of", "the", "performance", "of", "a", "model", "across", "all", "possible", "thresholds", ".", "The", "rank", "metrics", "we", "use", "are", "area", "under", "the", "ROC", "curve", "-LRB-", "AUC", "-RRB-", ",", "average", "precision", "-LRB-", "APR", "-RRB-", ",", "and", "precision/recall", "break", "even", "point", "-LRB-", "BEP", "-RRB-", ".", "See", "-LSB-", "10", "-RSB-", "for", "a", "discussion", "of", "ROC", "curves", "from", "a", "machine", "learning", "perspective", ".", "Rank", "metrics", "depend", "only", "on", "the", "ordering", "of", "the", "predictions", ",", "not", "the", "actual", "predicted", "values", ".", "If", "the", "ordering", "is", "preserved", "it", "makes", "no", "difference", "if", "the", "predicted", "values", "range", "between", "0", "and", "1", "or", "between", "0.29", "and", "0.31", ".", "Although", "we", "group", "Lift", "with", "the", "threshold", "metrics", ",", "and", "BEP", "with", "the", "ordering", "metrics", ",", "BEP", "and", "Lift", "are", "similar", "to", "each", "other", "in", "some", "respects", ".", "Lift", "is", "directly", "proportional", "to", "BEP", "if", "Lift", "is", "calculated", "at", "p", "equal", "to", "the", "proportion", "of", "positives", "in", "the", "data", "set", ".", "This", "threshold", "also", "is", "the", "break-even", "point", "where", "precision", "equals", "recall", ".", "BEP", "and", "Lift", "are", "similar", "to", "the", "ordering", "metrics", "because", "the", "threshold", "depends", "implicitly", "on", "the", "ordering", ",", "but", "also", "are", "similar", "to", "the", "threshold", "metrics", "because", "neither", "is", "sensitive", "to", "the", "orderings", "on", "either", "side", "of", "the", "threshold", "once", "that", "threshold", "has", "been", "defined", ".", "Results", "presented", "later", "suggest", "that", "both", "Lift", "and", "BEP", "are", "more", "similar", "to", "the", "ordering", "metrics", "than", "to", "the", "threshold", "metrics", ".", "The", "three", "probability", "metrics", "depend", "on", "the", "predicted", "values", ",", "not", "on", "how", "the", "values", "fall", "relative", "to", "a", "threshold", "or", "relative", "to", "each", "other", ".", "The", "probability", "metrics", "are", "uniquely", "min-imized", "-LRB-", "in", "expectation", "-RRB-", "when", "the", "predicted", "value", "for", "each", "case", "coincides", "with", "the", "true", "probability", "of", "that", "case", "being", "positive", ".", "The", "probability", "metrics", "we", "consider", "are", "squared", "error", "-LRB-", "RMS", "-RRB-", ",", "cross", "entropy", "-LRB-", "MXE", "-RRB-", "and", "calibration", "-LRB-", "CAL", "-RRB-", ".", "CAL", "measures", "the", "calibration", "of", "a", "model", ":", "if", "a", "model", "predicts", "0.85", "for", "a", "large", "number", "of", "cases", ",", "about", "85", "%", "of", "those", "cases", "should", "prove", "to", "be", "positive", "if", "the", "model", "is", "well", "calibrated", ".", "See", "Appendix", "A", "for", "details", "of", "how", "CAL", "is", "calculated", ".", "70", "Research", "Track", "Paper", "We", "also", "experiment", "with", "a", "new", "performance", "metric", ",", "SAR", ",", "that", "combines", "squared", "error", ",", "accuracy", ",", "and", "ROC", "area", "into", "one", "measure", ":", "SAR", "=", "-LRB-", "ACC", "+", "AU", "C", "+", "-LRB-", "1", "-", "RM", "S", "-RRB-", "-RRB-", "/", "3", ".", "SAR", "behaves", "somewhat", "differently", "from", "ACC", ",", "AUC", ",", "and", "RMS", "alone", ",", "and", "is", "a", "robust", "metric", "to", "use", "when", "the", "correct", "metric", "is", "unknown", ".", "SAR", "is", "discussed", "further", "in", "Section", "8", ".", "Performance", "metrics", "such", "as", "accuracy", "or", "squared", "error", "have", "range", "-LSB-", "0", ",", "1", "-RSB-", ",", "while", "others", "-LRB-", "lift", ",", "cross", "entropy", "-RRB-", "range", "from", "0", "to", "q", "where", "q", "depends", "on", "the", "data", "set", ".", "For", "some", "metrics", "lower", "values", "indicate", "better", "performance", ".", "For", "others", "higher", "values", "are", "better", ".", "Metrics", "such", "as", "ROC", "area", "have", "baseline", "rates", "that", "are", "independent", "of", "the", "data", ",", "while", "others", "such", "as", "accuracy", "have", "baseline", "rates", "that", "depend", "on", "the", "data", ".", "If", "baseline", "accuracy", "is", "0.98", ",", "an", "accuracy", "of", "0.981", "probably", "is", "not", "good", "performance", ",", "yet", "on", "another", "problem", ",", "if", "the", "Bayes", "optimal", "rate", "is", "0.60", ",", "achieving", "an", "accuracy", "of", "0.59", "might", "be", "excellent", "performance", ".", "In", "order", "to", "compare", "performance", "metrics", "in", "a", "meaningful", "way", ",", "all", "the", "metrics", "need", "to", "be", "placed", "on", "a", "similar", "scale", ".", "One", "way", "to", "do", "this", "is", "to", "scale", "the", "performances", "for", "each", "problem", "and", "metric", "from", "0", "to", "1", ",", "where", "0", "is", "poor", "performance", ",", "and", "1", "is", "good", "performance", ".", "For", "example", ",", "we", "might", "place", "baseline", "performance", "at", "0", ",", "and", "the", "Bayes", "optimal", "performance", "at", "1", ".", "Unfortunately", ",", "we", "can", "not", "estimate", "the", "Bayes", "optimal", "rate", "on", "real", "problems", ".", "Instead", ",", "we", "can", "use", "the", "performance", "of", "the", "best", "observed", "model", "as", "a", "proxy", "for", "the", "Bayes", "optimal", "performance", ".", "We", "calculate", "baseline", "rate", "as", "follows", ":", "predict", "p", "for", "every", "case", ",", "where", "p", "is", "the", "percent", "of", "positives", "in", "the", "test", "set", ".", "We", "normalize", "performances", "to", "the", "range", "-LSB-", "0", ",", "1", "-RSB-", ",", "where", "0", "is", "baseline", "and", "1", "represents", "best", "performance", ".", "If", "a", "model", "performs", "worse", "than", "baseline", ",", "its", "normalized", "score", "will", "be", "negative", ".", "See", "Table", "1", "for", "an", "example", "of", "normalized", "scores", ".", "The", "disadvantage", "of", "normalized", "scores", "is", "that", "recovering", "the", "raw", "performances", "requires", "knowing", "the", "performances", "that", "define", "the", "top", "and", "bottom", "of", "the", "scale", ",", "and", "as", "new", "best", "models", "are", "found", "the", "top", "of", "the", "scale", "changes", ".", "CAL", ",", "the", "metric", "we", "use", "to", "measure", "probability", "calibration", ",", "is", "unusual", "in", "that", "the", "baseline", "model", "that", "predicts", "p", "for", "all", "cases", ",", "where", "p", "is", "the", "percent", "of", "positives", "in", "the", "test", "set", ",", "has", "excellent", "calibration", ".", "-LRB-", "Because", "of", "this", ",", "measures", "like", "CAL", "typically", "are", "not", "used", "alone", ",", "but", "are", "used", "in", "conjunction", "with", "other", "measures", "such", "as", "AUC", "to", "insure", "that", "only", "models", "with", "good", "discrimination", "and", "good", "calibration", "are", "selected", ".", "See", "Figure", "1", "for", "a", "picture", "of", "how", "unusual", "CAL", "'s", "error", "surface", "is", "compared", "with", "other", "metrics", ".", "-RRB-", "This", "creates", "a", "problem", "when", "normalizing", "CAL", "scores", "because", "the", "baseline", "model", "and", "Bayes", "optimal", "model", "have", "similar", "CAL", "scores", ".", "This", "does", "not", "mean", "CAL", "is", "a", "poor", "metric", "it", "is", "effective", "at", "distinguishing", "poorly", "calibrated", "models", "from", "well", "calibrated", "models", ".", "We", "address", "this", "problem", "later", "in", "the", "paper", ".", "The", "goal", "of", "this", "work", "is", "to", "analyze", "how", "the", "ten", "metrics", "compare", "to", "each", "other", ".", "To", "do", "this", "we", "train", "many", "different", "kinds", "of", "models", "on", "seven", "test", "problems", ",", "and", "calculate", "for", "each", "test", "problem", "the", "performance", "of", "every", "model", "on", "the", "ten", "metrics", ".", "We", "train", "models", "using", "seven", "learning", "algorithms", ":", "Neural", "Nets", "-LRB-", "ANN", "-RRB-", ",", "SVMs", ",", "Bagged", "Decision", "Trees", "-LRB-", "BAG-DT", "-RRB-", ",", "Boosted", "Decision", "Trees", "-LRB-", "BST-DT", "-RRB-", ",", "Boosted", "Decision", "Stumps", "Table", "1", ":", "Accuracy", "on", "ADULT", "problem", "model", "acc", "norm", "score", "bst-stmp", "0.8556", "1.0000", "bag-dt", "0.8534", "0.9795", "dt", "0.8503", "0.9494", "svm", "0.8480", "0.9267", "bst-dt", "0.8464", "0.9113", "ann", "0.8449", "0.8974", "knn", "0.8320", "0.7731", "baseline", "0.7518", "0.0000", "-LRB-", "BST-STMP", "-RRB-", ",", "single", "Decision", "Trees", "-LRB-", "DT", "-RRB-", "and", "Memory", "Based", "Learning", "-LRB-", "KNN", "-RRB-", ".", "For", "each", "algorithm", "we", "train", "many", "variants", "and", "many", "parameter", "settings", ".", "For", "example", ",", "we", "train", "ten", "styles", "of", "decision", "trees", ",", "neural", "nets", "of", "different", "sizes", ",", "SVMs", "using", "many", "different", "kernels", ",", "etc.", ".", "A", "total", "of", "2000", "models", "are", "trained", "and", "tested", "on", "each", "problem", ".", "See", "Appendix", "B", "for", "a", "description", "of", "the", "parameter", "settings", "we", "use", "for", "each", "learning", "method", ".", "While", "this", "strategy", "wo", "n't", "create", "every", "possible", "model", ",", "and", "wo", "n't", "create", "a", "uniform", "sample", "of", "the", "space", "of", "possible", "models", ",", "we", "feel", "that", "this", "is", "an", "adequate", "sample", "of", "the", "models", "that", "often", "will", "be", "trained", "in", "practice", ".", "For", "each", "problem", ",", "the", "2000", "models", "are", "trained", "on", "the", "same", "train", "set", "of", "4000", "points", ".", "The", "performance", "of", "each", "model", "is", "measured", "on", "the", "same", "large", "test", "set", "for", "each", "of", "the", "ten", "performance", "metrics", ".", "In", "order", "put", "the", "performances", "on", "the", "same", "scale", "across", "different", "metrics", "and", "different", "problems", ",", "we", "transform", "the", "raw", "performance", "to", "normalized", "scores", "as", "explained", "in", "Section", "3", ".", "In", "total", ",", "across", "the", "seven", "problems", ",", "we", "have", "2000", "7", "=", "14", ",", "000", "models", "and", "for", "each", "model", "we", "have", "it", "'s", "score", "on", "each", "of", "the", "10", "performances", "metrics", ".", "We", "compare", "the", "algorithms", "on", "seven", "binary", "classification", "problems", ".", "ADULT", ",", "COVER", "TYPE", "and", "LETTER", "are", "from", "UCI", "Repository", "-LSB-", "1", "-RSB-", ".", "ADULT", "is", "the", "only", "problem", "that", "has", "nominal", "attributes", ".", "For", "ANNs", ",", "SVMs", "and", "KNNs", "we", "transform", "nominal", "attributes", "to", "boolean", ".", "Each", "DT", ",", "BAG-DT", ",", "BST-DT", "and", "BST-STMP", "model", "is", "trained", "twice", ",", "once", "with", "the", "transformed", "attributes", "and", "once", "with", "the", "original", "attributes", ".", "COVER", "TYPE", "has", "been", "converted", "to", "a", "binary", "problem", "by", "treating", "the", "largest", "class", "as", "the", "positive", "and", "the", "rest", "as", "negative", ".", "We", "converted", "LETTER", "to", "boolean", "in", "two", "ways", ".", "LETTER.p1", "treats", "the", "letter", "``", "O", "''", "as", "positive", "and", "the", "remaining", "25", "letters", "as", "negative", ",", "yielding", "a", "very", "unbalanced", "binary", "problem", ".", "LETTER.p2", "uses", "letters", "A-M", "as", "positives", "and", "the", "rest", "as", "negatives", ",", "yielding", "a", "well", "balanced", "problem", ".", "HYPER", "SPECT", "is", "the", "IndianPine92", "data", "set", "-LSB-", "4", "-RSB-", "where", "the", "difficult", "class", "Soybean-mintill", "is", "the", "positive", "class", ".", "SLAC", "is", "a", "problem", "from", "collaborators", "at", "the", "Stanford", "Linear", "Accelerator", "and", "MEDIS", "is", "a", "medical", "data", "set", ".", "The", "characteristics", "of", "these", "data", "sets", "are", "summarized", "in", "Table", "2", ".", "Table", "2", ":", "Description", "of", "problems", "problem", "#attr", "train", "size", "test", "size", "%", "pos", ".", "adult", "14/104", "4000", "35222", "25", "%", "cover", "type", "54", "4000", "25000", "36", "%", "letter.p1", "16", "4000", "14000", "3", "%", "letter.p2", "16", "4000", "14000", "53", "%", "medis", "63", "4000", "8199", "11", "%", "slac", "59", "4000", "25000", "50", "%", "hyper", "spect", "200", "4000", "4366", "24", "%", "71", "Research", "Track", "Paper", "Training", "2000", "models", "on", "each", "problem", "using", "seven", "learning", "algorithms", "gives", "us", "14,000", "models", ",", "each", "of", "which", "is", "eval-uated", "on", "ten", "performance", "metrics", ".", "This", "gives", "us", "14,000", "sample", "points", "to", "compare", "for", "each", "performance", "metric", ".", "We", "build", "a", "10x14", ",000", "table", "where", "lines", "represent", "the", "performance", "metrics", ",", "columns", "represent", "the", "models", ",", "and", "each", "entry", "in", "the", "table", "is", "the", "score", "of", "the", "model", "on", "that", "metric", ".", "For", "MDS", ",", "we", "treat", "each", "row", "in", "the", "table", "as", "the", "coordinate", "of", "a", "point", "in", "a", "14,000", "dimension", "space", ".", "The", "distance", "between", "two", "metrics", "is", "calculated", "as", "the", "Euclidean", "distance", "between", "the", "two", "corresponding", "points", "in", "this", "space", ".", "Because", "the", "coordinates", "are", "strongly", "correlated", ",", "there", "is", "no", "curse-of-dimensionality", "problem", "with", "Euclidean", "distance", "in", "this", "14,000", "dimensional", "space", ".", "We", "are", "more", "interested", "in", "how", "the", "metrics", "compare", "to", "each", "other", "when", "models", "have", "good", "performance", "than", "when", "models", "have", "poor", "performance", ".", "Because", "of", "this", ",", "we", "delete", "columns", "representing", "poorer", "performing", "models", "in", "order", "to", "focus", "on", "the", "``", "interesting", "''", "part", "of", "the", "space", "where", "models", "that", "have", "good", "performance", "lie", ".", "For", "the", "analyses", "reported", "in", "this", "paper", "we", "delete", "models", "that", "perform", "below", "baseline", "on", "any", "metric", "-LRB-", "except", "CAL", "-RRB-", ".", "Ten", "metrics", "permits", "10", "9/2", "=", "45", "pairwise", "comparisons", ".", "We", "calculate", "Euclidean", "distance", "between", "each", "pair", "of", "metrics", "in", "the", "sample", "space", ",", "and", "then", "perform", "multidimensional", "scaling", "on", "these", "pairwise", "distances", "between", "metrics", ".", "MDS", "is", "sensitive", "to", "how", "the", "performance", "metrics", "are", "scaled", ".", "The", "normalized", "scores", "described", "in", "Section", "3", "yield", "well-scaled", "performances", "suitable", "for", "MDS", "analysis", "for", "most", "metrics", ".", "Unfortunately", ",", "as", "discussed", "in", "Section", "3", ",", "normalized", "scores", "do", "not", "work", "well", "with", "CAL", ".", "Because", "of", "this", ",", "we", "perform", "MDS", "two", "ways", ".", "In", "the", "first", ",", "we", "use", "normalized", "scores", ",", "but", "exclude", "the", "CAL", "metric", ".", "In", "the", "second", ",", "we", "include", "CAL", ",", "but", "scale", "performances", "to", "mean", "0.0", "and", "standard", "deviation", "1.0", "instead", "of", "using", "normalized", "scores", ".", "Scaling", "by", "standard", "deviation", "resolves", "the", "problem", "with", "CAL", "for", "MDS", ",", "but", "is", "somewhat", "less", "intuitive", "because", "scores", "scaled", "by", "standard", "deviation", "depend", "on", "the", "full", "distribution", "of", "models", "instead", "of", "just", "the", "performances", "that", "fall", "at", "the", "top", "and", "bottom", "of", "each", "scale", ".", "Figure", "2", "shows", "the", "MDS", "stress", "as", "a", "function", "of", "the", "number", "of", "dimensions", "in", "the", "MDS", "-LRB-", "when", "CAL", "is", "included", "-RRB-", ".", "The", "ten", "metrics", "appear", "to", "span", "an", "MDS", "space", "of", "about", "3", "to", "5", "dimensions", ".", "In", "this", "section", "we", "examine", "the", "2-D", "MDS", "plots", "in", "some", "detail", ".", "Figure", "3", "shows", "two", "MDS", "plots", "for", "the", "metrics", "that", "result", "when", "dimensionality", "is", "reduced", "to", "two", "dimensions", ".", "The", "plot", "on", "the", "left", "is", "MDS", "using", "normalized", "scores", "when", "CAL", "is", "excluded", ".", "The", "plot", "on", "the", "right", "is", "MDS", "using", "standard", "deviation", "scaled", "scores", "when", "CAL", "is", "included", ".", "Both", "MDS", "plots", "show", "a", "similar", "pattern", ".", "The", "metrics", "appear", "to", "form", "4-5", "somewhat", "distinct", "groups", ".", "In", "the", "upper", "right", "hand", "corner", "is", "a", "group", "that", "includes", "AUC", ",", "APR", ",", "BEP", ",", "LFT", ",", "and", "SAR", ".", "The", "other", "groups", "are", "RMS", "and", "MXE", ",", "ACC", "-LRB-", "by", "itself", ",", "or", "possibly", "with", "FSC", "-RRB-", ",", "FSC", "-LRB-", "by", "itself", ",", "or", "possibly", "with", "ACC", "-RRB-", ",", "and", "CAL", "-LRB-", "by", "itself", "-RRB-", ".", "It", "is", "not", "surprising", "that", "squared", "error", "and", "cross", "entropy", "form", "a", "cluster", ".", "Also", ",", "presumably", "because", "squared", "error", "tends", "to", "be", "better", "behaved", "than", "cross", "entropy", ",", "RMS", "is", "closer", "to", "the", "other", "measures", "than", "MXE", ".", "We", "are", "somewhat", "surprised", "that", "RMS", "is", "so", "centrally", "located", "in", "the", "MDS", "plots", ".", "Perhaps", "this", "partially", "explains", "why", "squared", "error", "has", "proved", "so", "useful", "in", "many", "applications", ".", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "1", "2", "3", "4", "5", "6", "7", "8", "MDS", "Stress", "Number", "of", "MDS", "Dimensions", "Figure", "2", ":", "MDS", "stress", "vs.", "number", "of", "dimensions", "It", "is", "somewhat", "surprising", "that", "accuracy", "does", "not", "appear", "to", "correlate", "strongly", "with", "any", "of", "the", "other", "metrics", ",", "except", "possibly", "with", "FSC", ".", "ACC", "does", "not", "fall", "very", "close", "to", "other", "metrics", "that", "use", "thresholds", "such", "as", "Lift", "and", "F-Score", ",", "even", "though", "F-Score", "uses", "the", "same", "0.5", "threshold", "as", "accuracy", "in", "our", "experiments", ".", "-LRB-", "The", "threshold", "for", "Lift", "is", "adjusted", "dynam-ically", "so", "that", "25", "%", "of", "the", "cases", "are", "predicted", "as", "positive", ".", "-RRB-", "Accuracy", "is", "surprisingly", "close", "to", "RMS", ",", "and", "closer", "to", "RMS", "than", "to", "MXE", ",", "again", "suggesting", "that", "part", "of", "the", "reason", "why", "RMS", "has", "been", "so", "useful", "is", "because", "of", "its", "close", "relationship", "to", "a", "metric", "such", "as", "ACC", "that", "has", "been", "so", "widely", "used", ".", "The", "most", "surprising", "pattern", "in", "the", "MDS", "plot", "that", "includes", "CAL", "is", "that", "CAL", "is", "distant", "from", "most", "other", "metrics", ".", "There", "appears", "to", "be", "an", "axis", "running", "from", "CAL", "at", "one", "end", "to", "the", "ordering", "metrics", "such", "as", "AUC", "and", "APR", "at", "the", "other", "end", "that", "forms", "the", "largest", "dimension", "in", "the", "space", ".", "This", "is", "surprising", "because", "one", "way", "to", "achieve", "excellent", "ordering", "is", "to", "accurately", "predict", "true", "probabilities", ",", "which", "is", "measured", "by", "the", "calibration", "metric", ".", "However", ",", "one", "can", "achieve", "excellent", "AUC", "and", "APR", "using", "predicted", "values", "that", "have", "extremely", "poor", "calibration", ",", "yet", "accurately", "predict", "the", "relative", "ordering", "of", "the", "cases", ".", "The", "MDS", "plot", "suggests", "that", "many", "models", "which", "achieve", "excellent", "ordering", "do", "so", "without", "achieving", "good", "probabilistic", "calibration", ".", "Closer", "examination", "shows", "that", "some", "models", "such", "as", "boosted", "decision", "trees", "yield", "remarkably", "good", "ordering", ",", "yet", "have", "extremely", "poor", "calibration", ".", "We", "believe", "maximum", "margin", "methods", "such", "as", "boosting", "tradeoff", "reduced", "calibration", "for", "better", "margin", ".", "See", "Section", "9", "for", "further", "discussion", "of", "this", "issue", ".", "One", "also", "can", "achieve", "good", "calibration", ",", "yet", "have", "poor", "AUC", "and", "APR.", ".", "For", "example", ",", "decision", "trees", "with", "few", "leaves", "may", "be", "well", "calibrated", ",", "but", "the", "coarse", "set", "of", "values", "they", "predict", "do", "not", "provide", "a", "basis", "for", "good", "ordering", ".", "Figure", "4", "shows", "2-D", "MDS", "plots", "for", "six", "of", "the", "seven", "test", "problems", ".", "The", "seventh", "plot", "is", "similar", "and", "is", "omitted", "to", "save", "space", ".", "-LRB-", "The", "omitted", "plot", "is", "one", "of", "the", "two", "LETTER", "problems", ".", "-RRB-", "Although", "there", "are", "variations", "between", "the", "plots", ",", "the", "2-D", "MDS", "plots", "for", "the", "seven", "problems", "are", "remarkably", "consistent", "given", "that", "these", "are", "different", "test", "problems", ".", "The", "consistency", "between", "the", "seven", "MDS", "plots", "suggests", "that", "we", "have", "an", "adequate", "sample", "size", "of", "models", "to", "reliably", "detect", "relationships", "between", "the", "metrics", ".", "Metrics", "such", "as", "ACC", ",", "FSC", ",", "and", "LFT", "seem", "to", "move", "around", "with", "respect", "to", "each", "other", "in", "these", "plots", ".", "This", "may", "be", "because", "they", "have", "different", "sensi-72", "Research", "Track", "Paper", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "sar", "Dim", "2", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "Dim", "1", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "Dim", "2", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "Dim", "1", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "Figure", "3", ":", "2D", "MDS", "plot", "using", "normalized", "scores", "-LRB-", "left", "-RRB-", "and", "standard", "deviation", "scaling", "-LRB-", "right", "-RRB-", ".", "tivities", "to", "the", "ratio", "of", "positives", "to", "negatives", "in", "the", "data", "sets", ".", "For", "example", ",", "BEP", "is", "proprtional", "to", "LFT", "-LRB-", "and", "thus", "behaves", "similarly", "-RRB-", "when", "the", "percentage", "of", "positives", "in", "the", "dataset", "equals", "the", "fraction", "predicted", "above", "threshold", "-LRB-", "25", "%", "in", "this", "paper", "-RRB-", ".", "Other", "than", "this", ",", "we", "have", "not", "been", "able", "to", "correlate", "differences", "we", "see", "in", "the", "individual", "plots", "with", "characteristics", "of", "the", "problems", "that", "might", "explain", "those", "differences", ",", "and", "currently", "believe", "that", "the", "MDS", "plots", "that", "combine", "all", "seven", "problems", "in", "Figure", "3", "represents", "an", "accurate", "summary", "of", "the", "relationships", "between", "metrics", ".", "Note", "that", "this", "does", "not", "mean", "that", "the", "performance", "of", "the", "different", "learning", "algorithms", "exhibits", "the", "same", "pattern", "on", "these", "test", "problems", "-LRB-", "in", "fact", "they", "are", "very", "different", "-RRB-", ",", "only", "that", "the", "relationships", "between", "the", "ten", "metrics", "appear", "to", "be", "similar", "across", "the", "test", "problems", "when", "all", "the", "learning", "algorithms", "are", "considered", "at", "one", "time", ".", "As", "with", "the", "MDS", "analysis", "in", "the", "previous", "section", ",", "we", "used", "each", "of", "the", "ten", "performance", "metrics", "to", "measure", "the", "performance", "of", "the", "2000", "models", "trained", "with", "the", "different", "learning", "methods", "on", "each", "of", "the", "seven", "test", "problems", ".", "In", "this", "section", "we", "use", "correlation", "analysis", "on", "these", "models", "to", "compare", "metrics", "instead", "of", "MDS", ".", "Again", ",", "to", "make", "the", "correlation", "analysis", "easier", "to", "interpret", ",", "we", "first", "scale", "performances", "to", "the", "range", "-LSB-", "0", ",", "1", "-RSB-", "so", "that", "the", "best", "performance", "we", "observed", "with", "that", "metric", "on", "each", "problem", "with", "any", "of", "the", "learning", "methods", "is", "performance", "1", ",", "and", "baseline", "performance", "with", "that", "metric", "and", "data", "set", "is", "performance", "0", ".", "This", "eliminates", "the", "inverse", "correlation", "between", "measures", "such", "as", "accuracy", "and", "squared", "error", ",", "and", "normalizes", "the", "scale", "of", "each", "metric", ".", "Ten", "metrics", "permits", "10", "9/2", "=", "45", "pairwise", "correlations", ".", "We", "do", "these", "comparisons", "using", "both", "linear", "correlation", "-LRB-", "excluding", "CAL", "-RRB-", "and", "rank", "correlation", ".", "The", "results", "from", "the", "linear", "and", "rank", "correlation", "analyses", "are", "qualitatively", "similar", ".", "We", "present", "the", "results", "for", "non-parametric", "rank", "correlation", "because", "rank", "correlation", "makes", "fewer", "assumptions", "about", "the", "relationships", "between", "the", "metrics", ",", "and", "because", "rank", "correlation", "is", "insensitive", "to", "how", "CAL", "is", "scaled", ".", "Table", "3", "shows", "the", "rank", "correlation", "between", "all", "pairs", "of", "metrics", ".", "Each", "entry", "in", "the", "table", "is", "the", "average", "rank", "correlation", "across", "the", "seven", "test", "problems", ".", "The", "table", "is", "sym-metric", "and", "contains", "only", "45", "unique", "pairwise", "comparisons", ".", "We", "present", "the", "full", "matrix", "because", "this", "makes", "it", "easier", "to", "scan", "some", "comparisons", ".", "The", "final", "column", "is", "the", "mean", "of", "the", "rank", "correlations", "for", "each", "metric", ".", "This", "gives", "a", "rough", "idea", "how", "correlated", "each", "metric", "is", "on", "average", "to", "all", "other", "metrics", ".", "Metrics", "with", "pairwise", "rank", "correlations", "near", "one", "behave", "more", "similarly", "than", "those", "with", "smaller", "rank", "correlations", ".", "Ignoring", "the", "SAR", "metric", "which", "is", "discussed", "in", "the", "next", "section", ",", "seven", "metric", "pairs", "have", "rank", "correlations", "above", "0.90", ":", "0.96", ":", "Lift", "to", "ROC", "Area", "0.95", ":", "ROC", "Area", "to", "Average", "Precision", "0.93", ":", "Accuracy", "to", "Break-even", "Point", "0.92", ":", "RMS", "to", "Cross-Entropy", "0.92", ":", "Break-Even", "Point", "to", "ROC", "Area", "0.92", ":", "Break-Even", "Point", "to", "Average", "Precision", "0.91", ":", "Average", "Precision", "to", "Lift", "We", "expected", "AUC", "and", "average", "precision", "to", "behave", "very", "similarly", "and", "thus", "have", "high", "rank", "correlation", ".", "But", "we", "are", "surprised", "to", "see", "that", "Lift", "has", "such", "high", "correlation", "to", "AUC", ".", "Note", "that", "because", "Lift", "has", "high", "correlation", "to", "AUC", ",", "and", "AUC", "has", "high", "correlation", "to", "average", "precision", ",", "it", "is", "not", "surprising", "that", "Lift", "also", "has", "high", "correlation", "to", "average", "precision", ".", "As", "expected", ",", "break-even", "point", "is", "highly", "correlated", "with", "the", "other", "two", "ordering", "metrics", ",", "AUC", "and", "average", "precision", ".", "But", "the", "high", "correlation", "between", "accuracy", "and", "break-even", "73", "Research", "Track", "Paper", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "COVER_TYPE", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "ADULT", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "LETTER.P1", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "HYPER_SPECT", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "MEDIS", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "SLAC", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "Figure", "4", ":", "2-D", "MDS", "plots", "for", "six", "of", "the", "seven", "test", "problems", ".", "The", "seventh", "problem", "yields", "a", "similar", "plot", "and", "is", "omitted", "only", "to", "save", "space", ".", "The", "missing", "plot", "is", "for", "one", "of", "the", "LETTER", "problems", ".", "74", "Research", "Track", "Paper", "Table", "3", ":", "Average", "rank", "correlations", "between", "metrics", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "mean", "acc", "1.00", "0.87", "0.85", "0.88", "0.89", "0.93", "0.87", "0.75", "0.56", "0.92", "0.852", "fsc", "0.87", "1.00", "0.77", "0.81", "0.82", "0.87", "0.79", "0.69", "0.50", "0.84", "0.796", "lft", "0.85", "0.77", "1.00", "0.96", "0.91", "0.89", "0.82", "0.73", "0.47", "0.92", "0.832", "auc", "0.88", "0.81", "0.96", "1.00", "0.95", "0.92", "0.85", "0.77", "0.51", "0.96", "0.861", "apr", "0.89", "0.82", "0.91", "0.95", "1.00", "0.92", "0.86", "0.75", "0.50", "0.93", "0.853", "bep", "0.93", "0.87", "0.89", "0.92", "0.92", "1.00", "0.87", "0.75", "0.52", "0.93", "0.860", "rms", "0.87", "0.79", "0.82", "0.85", "0.86", "0.87", "1.00", "0.92", "0.79", "0.95", "0.872", "mxe", "0.75", "0.69", "0.73", "0.77", "0.75", "0.75", "0.92", "1.00", "0.81", "0.86", "0.803", "cal", "0.56", "0.50", "0.47", "0.51", "0.50", "0.52", "0.79", "0.81", "1.00", "0.65", "0.631", "sar", "0.92", "0.84", "0.92", "0.96", "0.93", "0.93", "0.95", "0.86", "0.65", "1.00", "0.896", "point", "is", "somewhat", "surprising", "and", "we", "currently", "do", "not", "know", "how", "to", "explain", "this", ".", "The", "weakest", "correlations", "are", "all", "between", "the", "calibration", "metric", "-LRB-", "CAL", "-RRB-", "and", "the", "other", "metrics", ".", "On", "average", ",", "CAL", "correlates", "with", "the", "other", "metrics", "only", "about", "0.63", ".", "We", "are", "surprised", "how", "low", "the", "correlation", "is", "between", "probability", "calibration", "and", "other", "metrics", ",", "and", "are", "currently", "looking", "at", "other", "measures", "of", "calibration", "to", "see", "if", "this", "is", "true", "for", "all", "of", "them", ".", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "sar", "Dim", "2", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "Dim", "1", "-2.0", "-1.5", "-1.0", "-0.5", "0.0", "0.5", "1.0", "1.5", "Figure", "5", ":", "MDS", "using", "rank", "correlation", "Figure", "5", "shows", "an", "MDS", "plot", "for", "the", "metrics", "when", "distance", "between", "metrics", "is", "calculated", "as", "1", "-", "rank", "correlation", ",", "making", "MDS", "insensitive", "to", "how", "the", "metrics", "are", "scaled", ".", "-LRB-", "Distances", "based", "on", "1", "-", "rank", "correlation", "do", "not", "respect", "the", "triangle", "inequality", "so", "this", "is", "not", "a", "proper", "metric", "space", ".", "-RRB-", "The", "overall", "pattern", "is", "similar", "to", "that", "observed", "in", "the", "MDS", "plots", "in", "Figure", "3", ".", "CAL", "is", "at", "one", "end", "of", "the", "space", "far", "from", "the", "other", "metrics", ".", "Cross-entropy", "is", "closest", "to", "RMS", ",", "though", "not", "as", "close", "as", "in", "the", "other", "plots", ".", "Cross-entropy", "and", "RMS", "have", "high", "rank", "correlation", ",", "but", "because", "cross-entropy", "has", "lower", "rank-correlation", "to", "other", "most", "metrics", "than", "RMS", ",", "it", "is", "pushed", "far", "from", "RMS", "which", "is", "close", "to", "other", "metrics", "in", "the", "MDS", "plot", ".", "APR", "and", "AUC", "are", "at", "the", "other", "end", "of", "the", "space", "farthest", "from", "CAL", ".", "FSC", "is", "in", "the", "upper", "left", "side", "of", "the", "space", ".", "ACC", "and", "RMS", "are", "near", "the", "center", "of", "the", "space", ".", "When", "applying", "supervised", "learning", "to", "data", ",", "a", "decision", "must", "be", "made", "about", "what", "metric", "to", "train", "to", "and", "what", "metric", "to", "use", "for", "model", "selection", ".", "Often", "the", "learning", "algorithm", "dictates", "what", "metrics", "can", "be", "used", "for", "training", ",", "e.g.", "it", "is", "difficult", "to", "train", "a", "neural", "net", "for", "metrics", "other", "than", "RMS", "or", "MXE", ".", "But", "there", "usually", "is", "much", "more", "freedom", "when", "selecting", "the", "metric", "to", "use", "for", "model", "selection", ",", "i.e.", "the", "metric", "used", "to", "pick", "the", "best", "learning", "algorithm", "and", "the", "best", "parameters", "for", "that", "algorithm", ".", "If", "the", "correct", "metric", "for", "the", "problem", "is", "known", ",", "model", "selection", "probably", "should", "be", "done", "using", "that", "metric", "even", "if", "the", "learning", "algorithm", "can", "not", "be", "trained", "to", "it", ".", "What", "should", "be", "done", "when", "the", "correct", "metric", "is", "not", "known", "?", "The", "MDS", "plots", "and", "correlation", "analysis", "suggest", "that", "RMS", "is", "remarkably", "well", "correlated", "with", "the", "other", "measures", ",", "and", "thus", "might", "serve", "as", "a", "good", "general", "purpose", "metric", "to", "use", "when", "a", "more", "specific", "optimization", "criterion", "is", "not", "known", ".", "We", "wondered", "if", "we", "could", "devise", "a", "new", "metric", "more", "centrally", "located", "than", "RMS", "and", "with", "better", "correlation", "to", "the", "other", "metrics", ".", "Rather", "than", "devise", "a", "completely", "new", "metric", ",", "we", "tried", "averaging", "several", "of", "the", "well", "behaved", "metrics", "into", "a", "new", "metric", "that", "might", "be", "more", "robust", "than", "each", "one", "individually", ".", "SAR", "combines", "Squared", "error", ",", "Accuracy", ",", "and", "ROC", "area", "into", "one", "measure", ":", "SAR", "=", "-LRB-", "ACC", "+", "AU", "C", "+", "-LRB-", "1", "RM", "S", "-RRB-", "-RRB-", "/", "3", ".", "We", "chose", "these", "metrics", "for", "SAR", "for", "three", "reasons", ":", "1", ".", "we", "wanted", "to", "select", "one", "metric", "from", "each", "metric", "group", ":", "the", "threshold", "metrics", ",", "the", "ordering", "metrics", ",", "and", "the", "probability", "metrics", "2", ".", "ACC", ",", "AUC", ",", "and", "RMS", "seemed", "to", "be", "the", "most", "popular", "metric", "from", "each", "of", "these", "groups", ",", "respectively", "3", ".", "these", "three", "metrics", "are", "well", "correlated", "to", "the", "other", "metrics", "in", "their", "groups", ",", "and", "in", "the", "MDS", "plots", "lie", "closest", "to", "the", "other", "metrics", "in", "their", "groups", "As", "can", "be", "seen", "from", "the", "MDS", "plots", "and", "in", "the", "tables", ",", "SAR", "behaves", "differently", "from", "ACC", ",", "AUC", ",", "and", "RMS", "alone", ".", "In", "Table", "3", "SAR", "has", "higher", "mean", "rank", "correlation", "to", "other", "metrics", "than", "any", "other", "metric", ".", "In", "the", "MDS", "plots", ",", "SAR", "tends", "to", "be", "more", "consistently", "centrally", "located", "than", "other", "metrics", ".", "And", "in", "Table", "4", "it", "is", "the", "metric", "that", "best", "reflects", "the", "ordering", "by", "mean", "performance", "of", "the", "seven", "learning", "methods", ".", "These", "results", "suggest", "that", "of", "the", "ten", "metrics", "we", "exam-ined", ",", "SAR", "is", "the", "metric", "that", "on", "average", "is", "most", "correlated", "with", "the", "other", "metrics", ",", "both", "separately", ",", "and", "in", "groups", ".", "SAR", "is", "even", "more", "representative", "than", "RMS", "-LRB-", "though", "RMS", "also", "is", "75", "Research", "Track", "Paper", "Table", "4", ":", "Normalized", "scores", "for", "each", "learning", "algorithm", "by", "metric", "-LRB-", "average", "over", "seven", "problems", "-RRB-", "model", "acc", "fsc", "lft", "auc", "apr", "bep", "rms", "mxe", "cal", "mean", "sar", "ann", "0.9399", "0.9486", "0.9623", "0.9722", "0.9538", "0.9632", "0.9043", "0.9009", "0.9963", "0.9491", "0.9516", "svm", "0.9010", "0.9515", "0.9642", "0.9688", "0.9523", "0.9635", "0.9024", "0.9041", "0.9881", "0.9440", "0.9524", "bag-dt", "0.8796", "0.8986", "0.9450", "0.9765", "0.9577", "0.9464", "0.8763", "0.9087", "0.9800", "0.9299", "0.9470", "bst-dt", "0.9506", "0.9443", "0.9843", "0.9866", "0.9779", "0.9858", "0.6400", "0.6427", "0.9399", "0.8947", "0.9171", "knn", "0.8127", "0.9042", "0.9248", "0.9481", "0.9052", "0.9252", "0.7954", "0.7754", "0.9871", "0.8865", "0.9012", "dt", "0.6737", "0.8621", "0.8393", "0.8897", "0.8169", "0.8403", "0.6292", "0.6748", "0.9731", "0.7999", "0.8160", "bst-stmp", "0.7929", "0.8265", "0.8721", "0.9291", "0.8799", "0.8724", "0.3181", "0.3013", "0.9477", "0.7489", "0.6966", "very", "good", "-RRB-", ".", "In", "an", "experiment", "where", "SAR", "was", "used", "for", "model", "selection", ",", "SAR", "outperformed", "eight", "of", "the", "nine", "metrics", "in", "selecting", "the", "models", "with", "the", "best", "overall", ",", "and", "tied", "with", "RMS", ".", "We", "believe", "our", "results", "suggest", "that", "SAR", "is", "a", "robust", "combination", "of", "three", "popular", "metrics", "that", "may", "bey", "appropriate", "when", "the", "correct", "metric", "to", "use", "is", "not", "known", ",", "though", "the", "benefit", "of", "SAR", "over", "RMS", "is", "modest", "at", "best", ".", "Attempts", "to", "make", "SAR", "better", "by", "optimizing", "the", "weights", "given", "to", "ACC", ",", "AUC", ",", "and", "RMS", "in", "the", "SAR", "average", "did", "not", "significantly", "improve", "SAR", "compared", "to", "equal", "weights", "for", "the", "three", "metrics", ".", "We", "are", "very", "impressed", "at", "how", "well", "behaved", "RMS", "alone", "is", "and", "are", "currently", "working", "to", "devise", "a", "better", "SAR-like", "metric", "that", "yields", "more", "improvement", "over", "RMS", "alone", ".", "Table", "4", "shows", "the", "normalized", "performance", "of", "each", "learning", "algorithm", "on", "the", "nine", "metrics", ".", "-LRB-", "CAL", "is", "scaled", "so", "that", "the", "minimum", "observed", "CAL", "score", "is", "0.0", "and", "the", "maximum", "observed", "CAL", "score", "is", "1.0", "-RRB-", "For", "each", "test", "problem", "we", "find", "the", "best", "parameter", "settings", "for", "each", "learning", "algorithm", "and", "compute", "it", "'s", "normalized", "score", ".", "Each", "entry", "in", "the", "table", "averages", "these", "scores", "across", "the", "seven", "problems", ".", "The", "last", "two", "columns", "are", "the", "mean", "normalized", "scores", "over", "the", "nine", "metrics", ",", "and", "the", "SAR", "performance", ".", "Higher", "scores", "indicate", "better", "performance", ".", "The", "models", "in", "the", "table", "are", "ordered", "by", "mean", "overall", "performance", ".", "We", "have", "written", "a", "separate", "paper", "to", "compare", "the", "performance", "of", "the", "learning", "methods", "to", "each", "other", "on", "these", "metrics", ",", "but", "there", "are", "a", "few", "interesting", "relationships", "between", "learning", "algorithms", "and", "metrics", "that", "are", "worth", "discussing", "in", "the", "context", "of", "this", "paper", ".", "Overall", ",", "the", "best", "performing", "models", "are", "neural", "nets", ",", "SVMs", ",", "and", "bagged", "trees", ".", "Surprisingly", ",", "neural", "nets", "outperform", "all", "other", "model", "types", "if", "one", "averages", "over", "the", "nine", "metrics", ".", "ANNs", "appear", "to", "be", "excellent", "general", "purpose", "learning", "methods", ".", "This", "is", "not", "to", "say", "that", "ANNs", "are", "the", "best", "learning", "algorithm", "they", "only", "win", "on", "RMS", "and", "CAL", ",", "but", "because", "they", "rarely", "perform", "poorly", "on", "any", "problem", "or", "metric", ",", "they", "have", "excellent", "overall", "performance", ".", "The", "SVMs", "perform", "almost", "as", "well", "as", "ANNs", ".", "Note", "that", "SVM", "predictions", "on", "-LSB-", "-", ",", "+", "-RSB-", "are", "not", "suitable", "for", "measures", "like", "cross", "entropy", ",", "calibration", ",", "and", "squared", "error", ".", "SVMs", "do", "well", "on", "these", "metrics", "because", "we", "use", "Platt", "'s", "method", "-LSB-", "8", "-RSB-", "to", "transform", "SVM", "predictions", "to", "calibrated", "probabilities", ".", "Like", "neural", "nets", ",", "SVMs", "appear", "to", "be", "a", "safe", ",", "general", "purpose", ",", "high", "performance", "learning", "method", "once", "their", "predictions", "have", "been", "calibrated", "by", "a", "method", "such", "as", "Platt", "scaling", ".", "Although", "single", "decision", "trees", "perform", "poorly", ",", "bagged", "trees", "perform", "nearly", "as", "well", "as", "neural", "nets", "and", "SVMs", ".", "Bagging", "improves", "decision", "tree", "performance", "on", "all", "metrics", ",", "and", "yields", "particularly", "large", "improvements", "on", "the", "probability", "metrics", ".", "Like", "neural", "nets", "and", "SVMs", ",", "bagged", "trees", "appear", "to", "be", "a", "safe", ",", "general", "purpose", ",", "high", "performance", "learning", "method", ".", "Boosted", "trees", "outperform", "all", "other", "learning", "methods", "on", "ACC", ",", "LFT", ",", "ROC", ",", "APR", ",", "and", "BEP", ".", "Boosting", "wins", "2", "of", "3", "threshold", "metrics", "and", "3", "of", "3", "rank", "metrics", ",", "but", "performs", "poorly", "on", "the", "probability", "metrics", ":", "squared", "error", ",", "cross", "entropy", ",", "and", "calibration", ".", "Maximum", "margin", "methods", "such", "as", "boosted", "trees", "yield", "poorly", "calibrated", "probabilities", ".", "-LRB-", "SVMs", "perform", "well", "on", "these", "because", "Platt", "scaling", "``", "undoes", "''", "the", "maximum", "margin", ".", "-RRB-", "Overall", ",", "boosting", "wins", "5", "of", "the", "6", "metrics", "for", "which", "it", "is", "well", "suited", ",", "and", "would", "easily", "be", "the", "top", "performing", "learning", "method", "if", "we", "consider", "only", "the", "6", "threshold", "and", "ordering", "metrics", ".", "The", "KNN", "methods", "were", "not", "competitive", "with", "the", "better", "algorithms", ",", "but", "might", "done", "better", "with", "larger", "train", "sets", ".", "Single", "decision", "trees", "also", "did", "not", "perform", "as", "well", "as", "most", "other", "methods", ",", "probably", "because", "recursive", "partitioning", "runs", "out", "of", "data", "quickly", "with", "4k", "train", "sets", ",", "and", "because", "small", "trees", "are", "not", "good", "at", "predicting", "probabilities", "-LSB-", "9", "-RSB-", ".", "We", "tested", "many", "different", "kinds", "of", "decision", "trees", ",", "including", "smoothed", "unpruned", "trees", ",", "and", "then", "picked", "the", "best", ",", "so", "the", "poor", "performance", "of", "trees", "here", "is", "not", "due", "to", "any", "one", "tree", "type", "being", "inferior", ",", "but", "because", "all", "of", "the", "many", "tree", "types", "we", "tested", "did", "not", "perform", "as", "well", "as", "other", "methods", ".", "Interestingly", ",", "boosting", "stump", "models", "does", "not", "perform", "as", "well", "as", "boosting", "full", "decision", "trees", ".", "Boosted", "stumps", "do", "outperform", "single", "trees", "on", "5", "of", "the", "6", "threshold", "and", "rank", "metrics", ".", "Their", "last-place", "ranking", "below", "decision", "trees", "is", "due", "to", "their", "extremely", "poor", "performance", "on", "the", "three", "probability", "measures", ".", "There", "is", "not", "a", "large", "literature", "comparing", "performance", "metrics", ".", "The", "closest", "work", "to", "ours", "is", "by", "Flach", "-LSB-", "7", "-RSB-", ".", "In", "this", "work", "Flach", "uses", "the", "ROC", "space", "to", "understand", "and", "compare", "different", "metrics", ".", "He", "analyzes", "accuracy", ",", "precision", ",", "weighted", "relative", "accuracy", "and", "several", "decision", "tree", "splitting", "criteria", ".", "The", "STATLOG", "project", "-LSB-", "6", "-RSB-", "performed", "a", "large", "scale", "empirical", "evaluation", "of", "a", "number", "of", "learning", "algorithms", "in", "1995", ".", "STATLOG", "compared", "the", "performance", "of", "the", "different", "algorithms", ",", "and", "also", "did", "an", "analysis", "of", "how", "the", "predictions", "made", "by", "the", "algorithms", "compared", "to", "each", "other", ".", "STATLOG", ",", "however", ",", "did", "not", "compare", "performance", "using", "different", "metrics", ".", "Our", "analysis", "allows", "us", "to", "draw", "a", "variety", "of", "conclusions", "which", "we", "summarize", "here", ".", "If", "the", "goal", "is", "to", "maximize", "accuracy", ",", "but", "the", "model", "needs", "a", "continuous", "performance", "metric", "-LRB-", "e.g.", "using", "backpropagation", "to", "train", "a", "neural", "net", "-RRB-", ",", "it", "probably", "is", "better", "to", "train", "the", "model", "using", "squared", "error", "instead", "of", "cross", "entropy", "because", "squared", "error", "sits", "closer", "to", "accuracy", "in", "metric", "space", ".", "This", "result", "is", "surprising", "since", "cross", "entropy", "is", "the", "theoretically", "preferred", "loss", "function", "for", "binary", "classification", ".", "We", "suspect", "cross", "entropy", "is", "not", "as", "robust", "as", "squared", "76", "Research", "Track", "Paper", "error", "on", "real", "data", "sets", "because", "real", "data", "sometimes", "contains", "class", "noise", "that", "cross", "entropy", "is", "very", "sensitive", "to", ".", "Squared", "error", "is", "a", "remarkably", "robust", "performance", "metric", "that", "has", "higher", "average", "correlation", "to", "the", "other", "metrics", "than", "any", "other", "metric", "except", "SAR", ".", "Squared", "error", "appears", "to", "be", "an", "excellent", "general", "purpose", "metric", ".", "Many", "models", "achieve", "excellent", "performance", "on", "the", "ordering", "metrics", "AUC", ",", "APR", ",", "and", "BEP", "without", "making", "predictions", "that", "yield", "good", "probabilities", ".", "For", "example", ",", "the", "k-nearest", "neighbor", "models", "with", "the", "best", "ROC", "performance", "use", "values", "of", "K", "that", "are", "so", "large", "that", "most", "of", "the", "predictions", "are", "close", "to", "p", ",", "the", "fraction", "of", "positives", "in", "the", "data", ".", "This", "yields", "predictions", "that", "are", "poor", "when", "viewed", "as", "probabilities", ",", "yet", "small", "differences", "between", "these", "predicted", "values", "are", "sufficient", "to", "provide", "for", "good", "ordering", ".", "As", "expected", ",", "maximum", "margin", "methods", "such", "as", "boosting", "and", "SVMs", "yield", "excellent", "performance", "on", "metrics", "such", "as", "accuracy", "for", "which", "they", "are", "designed", ".", "Surprisingly", ",", "however", ",", "the", "maximum", "margin", "methods", "also", "yield", "excellent", "performance", "on", "the", "ordering", "metrics", ".", "We", "had", "not", "expected", "that", "maximizing", "distances", "to", "decision", "boundaries", "would", "provide", "a", "good", "basis", "for", "ordering", "cases", "that", "fall", "far", "from", "those", "boundaries", ".", "Although", "boosted", "trees", "perform", "well", "on", "accuracy", "and", "ROC", ",", "they", "perform", "poorly", "on", "probability", "metrics", "such", "as", "squared", "error", "and", "cross", "entropy", ".", "This", "poor", "performance", "on", "probability", "metrics", "is", "a", "consequence", "of", "boosting", "being", "a", "maximum", "margin", "method", ".", "SVMs", "do", "not", "exhibit", "this", "problem", "because", "we", "scale", "SVM", "predictions", "with", "Platt", "'s", "method", ";", "Lin-early", "scaling", "SVM", "predictions", "to", "-LSB-", "0", ",", "1", "-RSB-", "does", "not", "work", "well", ".", "Neural", "nets", "trained", "with", "backpropagation", "have", "excellent", "overall", "performance", "because", ",", "unlike", "boosting", ",", "they", "perform", "well", "on", "all", "metrics", "including", "the", "probability", "metrics", "RMS", ",", "MXE", ",", "and", "CAL", ".", "We", "believe", "part", "of", "the", "reason", "why", "the", "neural", "nets", "perform", "so", "well", "is", "that", "they", "were", "trained", "with", "backpropagation", "on", "squared", "error", ",", "and", "as", "we", "have", "seen", "squared", "error", "is", "an", "excellent", "metric", ".", "The", "three", "ordering", "metrics", ",", "AUC", ",", "APR", ",", "and", "BEP", ",", "cluster", "close", "in", "metric", "space", "and", "exhibit", "strong", "pairwise", "correlations", ".", "These", "metrics", "clearly", "are", "similar", "to", "each", "other", "and", "somewhat", "interchangeable", ".", "We", "originally", "grouped", "LFT", "with", "the", "threshold", "metrics", "ACC", "and", "FSC", ",", "but", "the", "results", "suggest", "that", "LFT", "behaves", "more", "like", "BEP", ",", "an", "ordering", "metric", ".", "We", "now", "would", "group", "LFT", "with", "BEP", "in", "the", "ordering", "metrics", "along", "with", "AUC", "and", "APR.", ".", "The", "metric", "space", "for", "the", "ten", "metrics", "has", "three", "or", "more", "significant", "dimensions", ".", "The", "ten", "metrics", "do", "not", "all", "measure", "the", "same", "thing", ".", "Different", "performance", "metrics", "yield", "different", "tradeoffs", "that", "are", "appropriate", "in", "different", "settings", ".", "No", "one", "metric", "does", "it", "all", ",", "and", "the", "metric", "optimized", "to", "or", "used", "for", "model", "selection", "does", "matter", ".", "The", "SAR", "metric", "that", "combines", "accuracy", ",", "ROC", "area", ",", "and", "squared", "error", "appears", "to", "be", "a", "good", ",", "general", "purpose", "metric", ",", "but", "RMS", "is", "so", "good", "that", "SAR", "may", "not", "provide", "much", "benefit", "over", "using", "RMS", "alone", ".", "We", "hope", "that", "additional", "research", "in", "this", "area", "will", "enable", "us", "to", "design", "better", "metrics", ",", "and", "will", "shed", "more", "light", "on", "which", "metrics", "are", "most", "appropriate", "to", "use", "in", "different", "settings", ".", "Thanks", "to", "Geoff", "Crew", "and", "Alex", "Ksikes", "for", "help", "running", "some", "of", "the", "experiments", ".", "Thanks", "to", "the", "creators", "of", "XGVIS", "and", "XGOBI", "for", "the", "interactive", "MDS", "software", "used", "to", "generate", "the", "MDS", "plots", ".", "Thanks", "to", "collaborators", "at", "Stanford", "Linear", "Accelerator", "for", "the", "SLAC", "data", ",", "and", "to", "Tony", "Gualtieri", "at", "NASA", "Goddard", "for", "help", "with", "the", "Indian", "Pines", "data", ".", "-LSB-", "1", "-RSB-", "C.", "Blake", "and", "C.", "Merz", ".", "UCI", "repository", "of", "machine", "learning", "databases", ",", "1998", ".", "-LSB-", "2", "-RSB-", "M.", "DeGroot", "and", "S.", "Fienberg", ".", "The", "comparison", "and", "evaluation", "of", "forecasters", ".", "Statistician", ",", "32", "-LRB-", "1", "-RRB-", ":", "12", "22", ",", "1982", ".", "-LSB-", "3", "-RSB-", "P.", "Giudici", ".", "Applied", "Data", "Mining", ".", "John", "Wiley", "and", "Sons", ",", "New", "York", ",", "2003", ".", "-LSB-", "4", "-RSB-", "A.", "Gualtieri", ",", "S.", "R.", "Chettri", ",", "R.", "Cromp", ",", "and", "L.", "Johnson", ".", "Support", "vector", "machine", "classifiers", "as", "applied", "to", "aviris", "data", ".", "In", "Proc", ".", "Eighth", "JPL", "Airborne", "Geoscience", "Workshop", ",", "1999", ".", "-LSB-", "5", "-RSB-", "T.", "Joachims", ".", "Making", "large-scale", "svm", "learning", "practical", ".", "In", "Advances", "in", "Kernel", "Methods", ",", "1999", ".", "-LSB-", "6", "-RSB-", "R.", "King", ",", "C.", "Feng", ",", "and", "A.", "Shutherland", ".", "Statlog", ":", "comparison", "of", "classification", "algorithms", "on", "large", "real-world", "problems", ".", "Applied", "Artificial", "Intelligence", ",", "9", "-LRB-", "3", "-RRB-", ":", "259", "287", ",", "May/June", "1995", ".", "-LSB-", "7", "-RSB-", "P.A.Flach", ".", "The", "geometry", "of", "roc", "space", ":", "understanding", "machine", "learning", "metrics", "through", "roc", "isometrics", ".", "In", "Proc", ".", "20th", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "'", "03", "-RRB-", ",", "pages", "194", "201", ".", "AAAI", "Press", ",", "January", "2003", ".", "-LSB-", "8", "-RSB-", "J.", "Platt", ".", "Probabilistic", "outputs", "for", "support", "vector", "machines", "and", "comparison", "to", "regularized", "likelihood", "methods", ".", "In", "A.", "Smola", ",", "P.", "Bartlett", ",", "B.", "Schoelkopf", ",", "and", "D.", "Schuurmans", ",", "editors", ",", "Advances", "in", "Large", "Margin", "Classifiers", ",", "pages", "61", "74", ",", "1999", ".", "-LSB-", "9", "-RSB-", "F.", "Provost", "and", "P.", "Domingos", ".", "Tree", "induction", "for", "probability-based", "rankings", ".", "Machine", "Learning", ",", "52", "-LRB-", "3", "-RRB-", ",", "2003", ".", "-LSB-", "10", "-RSB-", "F.", "J.", "Provost", "and", "T.", "Fawcett", ".", "Analysis", "and", "visualization", "of", "classifier", "performance", ":", "Comparison", "under", "imprecise", "class", "and", "cost", "distributions", ".", "In", "Knowledge", "Discovery", "and", "Data", "Mining", ",", "pages", "43", "48", ",", "1997", ".", "APPENDIX", "A.", "PERFORMANCE", "METRICS", "accuracy", ":", "probably", "the", "most", "widely", "used", "performance", "metric", "in", "Machine", "Learning", ".", "It", "is", "defined", "as", "the", "proportion", "of", "correct", "predictions", "the", "classifier", "makes", "relative", "to", "the", "size", "of", "the", "dataset", ".", "If", "a", "classifier", "has", "continuous", "outputs", "-LRB-", "e.g.", "neural", "nets", "-RRB-", ",", "a", "threshold", "is", "set", "and", "everything", "above", "this", "threshold", "is", "predicted", "to", "be", "a", "positive", ".", "root-mean-squared-error", "-LRB-", "RMSE", "-RRB-", ":", "widely", "used", "in", "regression", ",", "it", "measures", "how", "much", "predictions", "deviate", "from", "the", "true", "targets", ".", "1", "RMSE", "is", "defined", "as", ":", "RM", "SE", "=", "1", "N", "-LRB-", "P", "red", "-LRB-", "C", "-RRB-", "-", "T", "rue", "-LRB-", "C", "-RRB-", "-RRB-", "2", "-LRB-", "1", "-RRB-", "mean", "cross", "entropy", "-LRB-", "MXE", "-RRB-", ":", "is", "used", "in", "the", "probabilistic", "setting", "when", "interested", "in", "predicting", "the", "probability", "1", "Root-mean-squared", "error", "is", "applicable", "to", "binary", "classification", "settings", "where", "the", "classifier", "outputs", "predictions", "on", "-LSB-", "0", ",", "1", "-RSB-", "that", "are", "compared", "with", "the", "true", "target", "labels", "on", "-LCB-", "0", ",", "1", "-RCB-", ".", "77", "Research", "Track", "Paper", "that", "an", "example", "is", "positive", "-LRB-", "1", "-RRB-", ".", "It", "can", "be", "proven", "that", "in", "this", "setting", "minimizing", "the", "cross", "entropy", "gives", "the", "maximum", "likelihood", "hypothesis", ".", "mean", "cross", "entropy", "is", "defined", "as", ":", "M", "XE", "=", "1", "N", "-LRB-", "T", "rue", "-LRB-", "C", "-RRB-", "ln", "-LRB-", "P", "red", "-LRB-", "C", "-RRB-", "-RRB-", "+", "-LRB-", "1", "-", "T", "rue", "-LRB-", "C", "-RRB-", "-RRB-", "ln", "-LRB-", "1", "-", "P", "red", "-LRB-", "C", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "2", "-RRB-", "-LRB-", "The", "assumptions", "are", "that", "P", "red", "-LRB-", "C", "-RRB-", "-LSB-", "0", ",", "1", "-RSB-", "and", "T", "rue", "-LRB-", "C", "-RRB-", "-LCB-", "0", ",", "1", "-RCB-", "-RRB-", "receiver", "operating", "characteristic", "-LRB-", "ROC", "-RRB-", ":", "has", "it", "'s", "roots", "in", "WWII", "in", "the", "early", "days", "of", "radar", "where", "it", "was", "difficult", "to", "distinguish", "between", "true", "positives", "and", "false", "positives", ".", "ROC", "is", "a", "plot", "of", "sensitivity", "vs.", "-LRB-", "1-specificity", "-RRB-", "for", "all", "possible", "thresholds", ".", "Sensitivity", "is", "the", "defined", "as", "P", "-LRB-", "P", "red", "=", "positive", "|", "T", "rue", "=", "positive", "-RRB-", "and", "is", "approxi-mated", "by", "the", "fraction", "of", "true", "positives", "that", "are", "predicted", "as", "positive", "-LRB-", "this", "is", "the", "same", "as", "recall", "-RRB-", ".", "Specificity", "is", "P", "-LRB-", "P", "red", "=", "negative", "|", "T", "rue", "=", "negative", "-RRB-", ".", "It", "is", "approx-imated", "by", "the", "fraction", "of", "true", "negatives", "predicted", "as", "negatives", ".", "AUC", ",", "the", "area", "under", "the", "ROC", "curve", ",", "is", "used", "as", "a", "summary", "statistic", ".", "ROC", "has", "a", "number", "of", "nice", "properties", "that", "make", "it", "more", "principled", "than", "similar", "measures", "such", "as", "average", "precision", ".", "AUC", "is", "widely", "used", "in", "fields", "such", "as", "medicine", ",", "and", "recently", "has", "become", "more", "popular", "in", "the", "Machine", "Learning", "community", ".", "lift", ":", "often", "used", "in", "marketing", "analysis", ",", "Lift", "measures", "how", "much", "better", "a", "classifier", "is", "at", "predicting", "positives", "than", "a", "baseline", "classifier", "that", "randomly", "predicts", "positives", "-LRB-", "at", "the", "same", "rate", "observed", "for", "positives", "in", "the", "data", "-RRB-", ".", "The", "definition", "is", ":", "LIF", "T", "=", "%", "of", "true", "positives", "above", "the", "threshold", "%", "of", "dataset", "above", "the", "threshold", "-LRB-", "3", "-RRB-", "Usually", "the", "threshold", "is", "set", "so", "that", "a", "fixed", "percentage", "of", "the", "dataset", "is", "classified", "as", "positive", ".", "For", "example", ",", "suppose", "a", "marketing", "agent", "wants", "to", "send", "advertising", "to", "potential", "clients", ",", "but", "can", "only", "afford", "to", "send", "ads", "to", "10", "%", "of", "the", "population", ".", "A", "classifier", "is", "trained", "to", "predict", "how", "likely", "a", "client", "is", "to", "respond", "to", "the", "advertisement", ",", "and", "the", "ads", "are", "sent", "to", "the", "10", "%", "of", "the", "population", "predicted", "most", "likely", "to", "respond", ".", "A", "classifier", "with", "optimal", "lift", "will", "get", "as", "many", "clients", "as", "possible", "that", "will", "respond", "to", "the", "advertisement", "in", "this", "set", ".", "precision", "and", "recall", ":", "These", "measures", "are", "widely", "used", "in", "Information", "Retrieval", ".", "Precision", "is", "the", "fraction", "of", "examples", "predicted", "as", "positive", "that", "are", "actually", "positive", ".", "Recall", "is", "the", "fraction", "of", "the", "true", "positives", "that", "are", "predicted", "as", "positives", ".", "These", "measures", "are", "trivially", "maxi-mized", "by", "not", "predicting", "anything", ",", "or", "predicting", "everything", ",", "respectively", ",", "as", "positive", ".", "Because", "of", "this", "these", "measures", "often", "are", "used", "together", ".", "There", "are", "different", "ways", "to", "combine", "these", "measures", "as", "described", "by", "the", "next", "4", "metrics", ".", "precision-recall", "F-score", ":", "for", "a", "given", "threshold", ",", "the", "F-score", "is", "the", "harmonic", "mean", "of", "the", "precision", "and", "recall", "at", "that", "threshold", ".", "precision", "at", "a", "recall", "level", ":", "as", "the", "name", "suggests", ",", "set", "the", "threshold", "such", "that", "you", "have", "a", "given", "recall", "and", "the", "precision", "for", "this", "threshold", "is", "computed", ".", "precision-recall", "break-even", "point", ":", "is", "defined", "as", "the", "precision", "at", "the", "point", "-LRB-", "threshold", "value", "-RRB-", "where", "precision", "and", "recall", "are", "equal", ".", "average", "precision", ":", "usually", "is", "computed", "as", "the", "average", "of", "the", "precisions", "at", "eleven", "evenly", "spaced", "recall", "levels", ".", "CAL", "is", "based", "on", "reliability", "diagrams", "-LSB-", "2", "-RSB-", ".", "It", "is", "calculated", "as", "follows", ":", "order", "all", "cases", "by", "their", "predicted", "value", ",", "and", "put", "cases", "1-100", "in", "the", "same", "bin", ".", "Calculate", "the", "percentage", "of", "these", "cases", "that", "are", "true", "positives", ".", "This", "approximates", "the", "true", "probability", "that", "these", "cases", "are", "positive", ".", "Then", "calculate", "the", "mean", "prediction", "for", "these", "cases", ".", "The", "absolute", "value", "of", "the", "difference", "between", "the", "observed", "frequency", "and", "the", "mean", "prediction", "is", "the", "calibration", "error", "for", "this", "bin", ".", "Now", "take", "cases", "2-101", ",", "3-102", ",", "...", ".", "and", "compute", "the", "errors", "in", "the", "same", "way", "for", "each", "of", "these", "bins", ".", "CAL", "is", "the", "mean", "of", "these", "binned", "calibration", "errors", ".", "B.", "PARAMETER", "SETTINGS", "We", "use", "the", "following", "parameter", "settings", "and", "algorithm", "variations", "for", "the", "seven", "learning", "methods", ":", "KNN", ":", "we", "use", "26", "values", "of", "K", "ranging", "from", "K", "=", "1", "to", "K", "=", "|", "trainset", "|", ".", "We", "use", "KNN", "with", "Euclidean", "distance", "and", "Euclidean", "distance", "weighted", "by", "gain", "ratio", ".", "We", "also", "use", "distance", "weighted", "KNN", ",", "and", "locally", "weighted", "averaging", ".", "The", "kernel", "widths", "for", "locally", "weighted", "averaging", "vary", "from", "2", "0", "to", "2", "10", "times", "the", "minimum", "distance", "between", "any", "two", "points", "in", "the", "train", "set", ".", "ANN", ":", "we", "train", "nets", "with", "gradient", "descent", "backprop", "and", "vary", "the", "number", "of", "hidden", "units", "-LCB-", "1", ",", "2", ",", "4", ",", "8", ",", "32", ",", "128", "-RCB-", "and", "the", "momentum", "-LCB-", "0", ",", "0.2", ",", "0.5", ",", "0.9", "-RCB-", ".", "We", "do", "n't", "use", "validation", "sets", "to", "do", "weight", "decay", "or", "early", "stopping", ".", "Instead", ",", "for", "each", "performance", "metric", ",", "we", "examine", "the", "nets", "at", "many", "different", "epochs", ".", "DT", ":", "we", "vary", "the", "splitting", "criterion", ",", "pruning", "options", ",", "and", "smoothing", "-LRB-", "Laplacian", "or", "Bayesian", "smoothing", "-RRB-", ".", "We", "use", "all", "of", "the", "tree", "models", "in", "Buntine", "'s", "IND", "package", ":", "Bayes", ",", "ID3", ",", "CART", ",", "CART0", ",", "C4", ",", "MML", ",", "and", "SMML", ".", "We", "also", "generate", "trees", "of", "type", "C44", "-LRB-", "C4", "with", "no", "pruning", "-RRB-", ",", "C44BS", "-LRB-", "C44", "with", "Bayesian", "smoothing", "-RRB-", ",", "and", "MMLLS", "-LRB-", "MML", "with", "Laplacian", "smoothing", "-RRB-", ".", "See", "-LSB-", "9", "-RSB-", "for", "a", "description", "of", "C44", ".", "BAG-DT", ":", "we", "bag", "at", "least", "25", "trees", "of", "each", "type", ".", "With", "BST-DT", "we", "boost", "each", "tree", "type", ".", "Boosting", "can", "overfit", ",", "so", "we", "consider", "boosted", "DTs", "after", "-LCB-", "2", ",", "4", ",", "8", ",", "16", ",", "32", ",", "64", ",", "128", ",", "256", ",", "512", ",", "1024", ",", "2048", "-RCB-", "steps", "of", "boosting", ".", "With", "BST-STMP", "we", "use", "stumps", "-LRB-", "single", "level", "decision", "trees", "-RRB-", "with", "5", "different", "splitting", "criteria", ",", "each", "boosted", "-LCB-", "2", ",", "4", ",", "8", ",", "16", ",", "32", ",", "64", ",", "128", ",", "256", ",", "512", ",", "1024", ",", "2048", ",", "4096", ",", "8192", "-RCB-", "steps", ".", "SVMs", ":", "we", "use", "most", "kernels", "in", "SVMLight", "-LSB-", "5", "-RSB-", "-LCB-", "linear", ",", "polynomial", "degree", "2", "&", "3", ",", "radial", "with", "width", "-LCB-", "0.001", ",", "0.005", ",", "0.01", ",", "0.05", ",", "0.1", ",", "0.5", ",", "1", ",", "2", "-RCB-", "-RCB-", "and", "vary", "the", "regularization", "parameter", "C", "by", "factors", "of", "ten", "from", "10", "-7", "to", "10", "3", ".", "The", "output", "range", "of", "SVMs", "is", "-LSB-", "-", ",", "+", "-RSB-", "instead", "of", "-LSB-", "0", ",", "1", "-RSB-", ".", "To", "make", "the", "SVM", "predictions", "compatible", "with", "other", "models", ",", "we", "use", "Platt", "'s", "method", "to", "convert", "SVM", "outputs", "to", "probabilities", "by", "fitting", "them", "to", "a", "sigmoid", "-LSB-", "8", "-RSB-", ".", "Without", "scaling", ",", "SVMs", "would", "have", "poor", "RMS", "and", "it", "would", "not", "be", "possible", "to", "calculate", "MXE", "and", "CAL", ".", "78", "Research", "Track", "Paper"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["ordering metric", "pairwise", "precision", "cross entropy", "performance metric", "svms", "supervised learning", "euclidean distance", "squared error", "lift", "backpropagation", "roc", "metrics", "standard deviation", "recall"], "abstractive_keyphrases": ["performance evaluation", "algorithmns"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "55", "document": ["Consistent", "Query", "Answering", "under", "Key", "and", "Exclusion", "Dependencies", ":", "Algorithms", "and", "Experiments", "Research", "in", "consistent", "query", "answering", "studies", "the", "definition", "and", "computation", "of", "``", "meaningful", "''", "answers", "to", "queries", "posed", "to", "inconsistent", "databases", ",", "i.e.", ",", "databases", "whose", "data", "do", "not", "satisfy", "the", "integrity", "constraints", "-LRB-", "ICs", "-RRB-", "declared", "on", "their", "schema", ".", "Computing", "consistent", "answers", "to", "conjunctive", "queries", "is", "generally", "coNP-hard", "in", "data", "complexity", ",", "even", "in", "the", "presence", "of", "very", "restricted", "forms", "of", "ICs", "-LRB-", "single", ",", "unary", "keys", "-RRB-", ".", "Recent", "studies", "on", "consistent", "query", "answering", "for", "database", "schemas", "containing", "only", "key", "dependencies", "have", "an-alyzed", "the", "possibility", "of", "identifying", "classes", "of", "queries", "whose", "consistent", "answers", "can", "be", "obtained", "by", "a", "first-order", "rewriting", "of", "the", "query", ",", "which", "in", "turn", "can", "be", "easily", "formulated", "in", "SQL", "and", "directly", "evaluated", "through", "any", "relational", "DBMS", ".", "In", "this", "paper", "we", "study", "consistent", "query", "answering", "in", "the", "presence", "of", "key", "dependencies", "and", "exclusion", "dependencies", ".", "We", "first", "prove", "that", "even", "in", "the", "presence", "of", "only", "exclusion", "dependencies", "the", "problem", "is", "coNP-hard", "in", "data", "complexity", ",", "and", "define", "a", "general", "method", "for", "consistent", "answering", "of", "conjunctive", "queries", "under", "key", "and", "exclusion", "dependencies", ",", "based", "on", "the", "rewriting", "of", "the", "query", "in", "Datalog", "with", "negation", ".", "Then", ",", "we", "identify", "a", "subclass", "of", "conjunctive", "queries", "that", "can", "be", "first-order", "rewritten", "in", "the", "presence", "of", "key", "and", "exclusion", "dependencies", ",", "and", "define", "an", "algorithm", "for", "computing", "the", "first-order", "rewriting", "of", "a", "query", "belonging", "to", "such", "a", "class", "of", "queries", ".", "Finally", ",", "we", "compare", "the", "relative", "efficiency", "of", "the", "two", "methods", "for", "processing", "queries", "in", "the", "subclass", "above", "mentioned", ".", "Experimental", "results", ",", "conducted", "on", "a", "real", "and", "large", "database", "of", "the", "computer", "science", "engineering", "degrees", "of", "the", "University", "of", "Rome", "``", "La", "Sapienza", "''", ",", "clearly", "show", "the", "computational", "advantage", "of", "the", "first-order", "based", "technique", ".", "H.", "2.3", "-LSB-", "Database", "Management", "-RSB-", ":", "Languages", "--", "query", "languages", ";", "F.", "2.0", "-LSB-", "Analysis", "of", "Algorithms", "and", "Problem", "Complexity", "-RSB-", ":", "General", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "05", ",", "October", "31", "November", "5", ",", "2005", ",", "Bremen", ",", "Germany", ".", "Copyright", "2005", "ACM", "1-59593-140-6", "/", "05/0010", "...", "$", "5.00", ".", "Theory", ",", "Algorithms", ",", "Experimentation", ".", "Suppose", "to", "have", "a", "database", "whose", "data", "violate", "the", "integrity", "constraints", "-LRB-", "ICs", "-RRB-", "declared", "on", "its", "schema", ".", "What", "are", "the", "answers", "that", "have", "to", "be", "returned", "to", "queries", "posed", "to", "such", "a", "database", "?", "The", "standard", "approach", "to", "this", "problem", "is", "through", "data", "cleaning", ",", "i.e.", ",", "by", "explicitly", "modifying", "the", "data", "in", "order", "to", "eliminate", "violation", "of", "ICs", ":", "only", "when", "data", "are", "``", "repaired", "''", ",", "i.e.", ",", "are", "consistent", "with", "the", "ICs", ",", "queries", "can", "be", "answered", ".", "However", ",", "in", "many", "situations", "it", "would", "be", "much", "more", "desirable", "to", "derive", "significant", "information", "from", "the", "database", "even", "in", "the", "presence", "of", "data", "inconsistent", "with", "the", "ICs", ".", "Indeed", ",", "in", "many", "application", "scenarios", ",", "the", "explicit", "repair", "of", "data", "is", "not", "convenient", ",", "or", "even", "not", "possible", ".", "This", "happens", ",", "for", "instance", ",", "in", "data", "integration", "applications", ",", "which", "provide", "a", "unified", ",", "virtual", "view", "of", "a", "set", "of", "autonomous", "information", "sources", "-LSB-", "5", "-RSB-", ".", "This", "alternative", "approach", "is", "the", "one", "followed", "by", "research", "in", "consistent", "query", "answering", ",", "which", "studies", "the", "definition", "-LRB-", "and", "computation", "-RRB-", "of", "``", "meaningful", "''", "answers", "to", "queries", "posed", "to", "databases", "whose", "data", "do", "not", "satisfy", "the", "ICs", "declared", "on", "the", "database", "schema", "-LSB-", "1", ",", "14", ",", "4", "-RSB-", ".", "All", "these", "approaches", "are", "based", "on", "the", "following", "principle", ":", "schema", "is", "stronger", "than", "data", ".", "In", "other", "words", ",", "the", "database", "schema", "-LRB-", "i.e.", ",", "the", "set", "of", "integrity", "constraints", "-RRB-", "is", "considered", "as", "the", "actually", "reliable", "information", "-LRB-", "strong", "knowledge", "-RRB-", ",", "while", "data", "are", "considered", "as", "information", "to", "be", "revised", "-LRB-", "weak", "knowledge", "-RRB-", ".", "Therefore", ",", "the", "problem", "amounts", "to", "deciding", "how", "to", "``", "repair", "''", "-LRB-", "i.e.", ",", "change", "-RRB-", "data", "in", "order", "to", "reconcile", "them", "with", "the", "information", "expressed", "in", "the", "schema", ".", "Therefore", ",", "the", "intuitive", "semantics", "of", "consistent", "query", "answering", "can", "be", "expressed", "as", "follows", ":", "a", "tuple", "t", "is", "a", "consistent", "answer", "to", "a", "query", "q", "in", "an", "inconsistent", "database", "D", "if", "t", "is", "an", "answer", "to", "q", "in", "all", "the", "repairs", "of", "D", ",", "i.e.", ",", "in", "all", "the", "possible", "databases", "obtained", "by", "-LRB-", "minimally", "-RRB-", "modifying", "the", "data", "in", "D", "to", "eliminate", "violations", "of", "ICs", ".", "Example", "1", ".", "Let", "D", "=", "-LCB-", "r", "-LRB-", "a", ",", "b", "-RRB-", "-RCB-", "be", "a", "database", "whose", "schema", "contains", "the", "declaration", "of", "a", "key", "dependency", "on", "the", "first", "attribute", "of", "r", ".", "Since", "the", "database", "instance", "does", "not", "violate", "the", "key", "dependency", "on", "r", ",", "the", "only", "repair", "of", "the", "database", "792", "is", "D", "itself", ".", "Hence", ",", "the", "following", "query", "q", "-LRB-", "X", ",", "Y", "-RRB-", ":", "r", "-LRB-", "X", ",", "Y", "-RRB-", "has", "the", "consistent", "answer", "t", "=", "a", ",", "b", ".", "Now", ",", "let", "D", "be", "the", "database", "instance", "obtained", "by", "adding", "the", "fact", "r", "-LRB-", "a", ",", "c", "-RRB-", "to", "D.", "D", "is", "inconsistent", "with", "the", "key", "dependency", ",", "and", "has", "two", "possible", "repairs", ":", "-LCB-", "r", "-LRB-", "a", ",", "b", "-RRB-", "-RCB-", "and", "-LCB-", "r", "-LRB-", "a", ",", "c", "-RRB-", "-RCB-", ".", "Since", "there", "is", "no", "tuple", "which", "is", "an", "answer", "to", "q", "in", "both", "repairs", ",", "it", "follows", "that", "there", "are", "no", "consistent", "answers", "to", "the", "query", "q", "in", "D", ".", "In", "contrast", ",", "observe", "that", "the", "query", "q", "-LRB-", "X", "-RRB-", ":", "r", "-LRB-", "X", ",", "Y", "-RRB-", "has", "the", "answer", "a", "both", "in", "D", "and", "in", "D", ",", "which", "can", "be", "therefore", "considered", "consistent", ".", "Recent", "studies", "in", "this", "area", "have", "established", "declarative", "semantic", "characterizations", "of", "consistent", "query", "answering", "over", "relational", "databases", ",", "decidability", "and", "complexity", "results", "for", "consistent", "query", "answering", ",", "as", "well", "as", "techniques", "for", "query", "processing", "-LSB-", "1", ",", "6", ",", "14", ",", "4", ",", "3", ",", "5", "-RSB-", ".", "In", "particular", ",", "it", "has", "been", "shown", "that", "computing", "consistent", "answers", "of", "conjunctive", "queries", "-LRB-", "CQs", "-RRB-", "is", "coNP-hard", "in", "data", "complexity", ",", "i.e.", ",", "in", "the", "size", "of", "the", "database", "instance", ",", "even", "in", "the", "presence", "of", "very", "restricted", "forms", "of", "ICs", "-LRB-", "single", ",", "unary", "keys", "-RRB-", ".", "From", "the", "algorithmic", "viewpoint", ",", "the", "approach", "mainly", "followed", "is", "query", "answering", "via", "query", "rewriting", ":", "-LRB-", "i", "-RRB-", "First", ",", "the", "query", "that", "must", "be", "processed", "-LRB-", "usually", "a", "conjunctive", "query", "-RRB-", "is", "reformulated", "in", "terms", "of", "another", ",", "more", "complex", "query", ".", "Such", "a", "reformulation", "is", "purely", "intensional", ",", "i.e.", ",", "the", "rewritten", "query", "is", "independent", "of", "the", "database", "instance", ";", "-LRB-", "ii", "-RRB-", "Then", ",", "the", "reformulated", "query", "is", "evaluated", "over", "the", "database", "instance", ".", "Due", "to", "the", "semantic", "nature", "and", "the", "inherent", "complexity", "of", "consistent", "query", "answering", ",", "Answer", "Set", "Programming", "-LRB-", "ASP", "-RRB-", "is", "usually", "adopted", "in", "the", "above", "reformulation", "step", "-LSB-", "14", ",", "3", ",", "5", "-RSB-", ",", "and", "stable", "model", "engines", "like", "DLV", "-LSB-", "15", "-RSB-", "can", "be", "used", "for", "query", "processing", ".", "An", "orthogonal", "approach", "to", "consistent", "query", "answering", "is", "the", "one", "followed", "by", "recent", "theoretical", "works", "-LSB-", "1", ",", "6", ",", "13", "-RSB-", ",", "whose", "aim", "is", "to", "identify", "subclasses", "of", "CQs", "whose", "consistent", "answers", "can", "be", "obtained", "by", "rewriting", "the", "query", "in", "terms", "of", "a", "first-order", "-LRB-", "FOL", "-RRB-", "query", ".", "The", "advantage", "of", "such", "an", "approach", "is", "twofold", ":", "first", ",", "this", "technique", "allows", "for", "computing", "consistent", "answers", "in", "time", "polynomial", "in", "data", "complexity", "-LRB-", "i.e.", ",", "for", "such", "subclasses", "of", "queries", ",", "consistent", "query", "answering", "is", "compu-tationally", "simpler", "than", "for", "the", "whole", "class", "of", "CQs", "-RRB-", ";", "second", ",", "consistent", "query", "answering", "in", "these", "cases", "can", "be", "performed", "through", "standard", "database", "technology", ",", "since", "the", "FOL", "query", "synthesized", "can", "be", "easily", "translated", "into", "SQL", "and", "then", "evaluated", "by", "any", "relational", "DBMS", ".", "On", "the", "other", "hand", ",", "this", "approach", "is", "only", "limited", "to", "polynomial", "subclasses", "of", "the", "problem", ".", "In", "particular", ",", "Fuxman", "and", "Miller", "in", "-LSB-", "13", "-RSB-", "have", "studied", "databases", "with", "key", "dependencies", ",", "and", "have", "identified", "a", "broad", "subclass", "of", "CQs", "that", "can", "be", "treated", "according", "to", "the", "above", "strategy", ".", "In", "this", "paper", "we", "study", "consistent", "query", "answering", "in", "the", "presence", "of", "key", "dependencies", "and", "exclusion", "dependencies", ",", "a", "well-known", "class", "of", "ICs", ".", "Notice", "that", "exclusion", "dependencies", "are", "not", "only", "typical", "of", "relational", "database", "schemas", ",", "but", "are", "also", "relevant", "and", "very", "common", "in", "languages", "for", "conceptual", "modeling", ",", "e.g.", ",", "ontology", "languages", "-LSB-", "2", "-RSB-", ":", "indeed", "such", "dependencies", "allow", "for", "modeling", "partitioning/disjointness", "of", "entities", ".", "This", "makes", "the", "study", "of", "exclusion", "dependencies", "particularly", "important", "for", "the", "broad", "applicability", "of", "consistent", "query", "answering", ".", "Our", "contribution", "can", "be", "summarized", "as", "follows", ":", "1", ".", "We", "prove", "that", "consistent", "answering", "of", "conjunctive", "queries", "for", "databases", "with", "only", "exclusion", "dependencies", "is", "coNP-hard", "in", "data", "complexity", ",", "i.e.", ",", "the", "problem", "presents", "the", "same", "complexity", "lower", "bound", "already", "known", "for", "databases", "with", "only", "key", "dependencies", "-LSB-", "6", ",", "4", "-RSB-", ".", "2", ".", "We", "define", "a", "method", "for", "consistent", "query", "answering", "under", "key", "dependencies", "and", "exclusion", "dependencies", "based", "on", "the", "rewriting", "of", "the", "query", "in", "Datalog", "-LSB-", "10", "-RSB-", ",", "a", "well-known", "extension", "of", "Datalog", "that", "allows", "for", "using", "negation", "in", "the", "body", "of", "program", "rules", ".", "The", "rewriting", "extends", "the", "one", "defined", "in", "-LSB-", "5", "-RSB-", "to", "the", "presence", "of", "exclusion", "dependencies", ".", "The", "rewriting", "is", "used", "by", "INFOMIX", ",", "1", "a", "system", "for", "the", "integration", "of", "inconsistent", "data", ",", "based", "on", "the", "use", "of", "the", "DLV", "system", ".", "3", ".", "We", "extend", "the", "work", "of", "-LSB-", "13", "-RSB-", "to", "the", "presence", "of", "exclusion", "dependencies", "in", "the", "database", "schema", ".", "In", "particular", ",", "we", "identify", "the", "class", "of", "KE-simple", "queries", "-LRB-", "a", "subclass", "of", "CQs", "-RRB-", "that", "can", "be", "first-order", "rewritten", "in", "the", "presence", "of", "both", "key", "dependencies", "and", "exclusion", "dependencies", ",", "and", "define", "an", "algorithm", "for", "computing", "the", "first-order", "rewriting", "of", "a", "query", "belonging", "to", "such", "a", "class", "of", "queries", ".", "We", "point", "out", "that", "our", "algorithm", ",", "though", "inspired", "by", "the", "one", "of", "-LSB-", "13", "-RSB-", ",", "in", "the", "presence", "of", "only", "key", "dependencies", "applies", "to", "a", "broader", "class", "of", "queries", "than", "the", "class", "considered", "first-order", "rewritable", "in", "-LSB-", "13", "-RSB-", ".", "Therefore", ",", "the", "technique", "of", "the", "present", "paper", "is", "relevant", "also", "for", "consistent", "query", "answering", "under", "only", "key", "dependencies", ".", "4", ".", "We", "compare", "the", "relative", "efficiency", "of", "these", "two", "methods", "for", "processing", "KE-simple", "queries", ".", "To", "this", "aim", ",", "we", "have", "realized", "a", "software", "module", "that", "implements", "the", "above", "two", "rewriting", "methods", ".", "Then", ",", "we", "have", "compared", "query", "answering", "based", "on", "the", "rewriting", "in", "Datalog", "and", "evaluation", "in", "the", "DLV", "system", "-LSB-", "15", "-RSB-", "with", "the", "method", "based", "on", "first-order", "rewriting", "and", "query", "evaluation", "on", "MySQL", "DBMS", ".", "We", "have", "conducted", "our", "experiments", "on", "a", "real", "and", "large", "database", "of", "the", "computer", "science", "engineering", "degrees", "of", "the", "University", "of", "Rome", "``", "La", "Sapienza", "''", ".", "Our", "experimental", "results", "clearly", "show", ",", "for", "KE-simple", "queries", ",", "the", "computational", "advantage", "of", "the", "specialized", "first-order", "based", "technique", "over", "the", "more", "general", "one", "based", "on", "Datalog", ".", "In", "particular", ",", "the", "results", "indicate", "that", "the", "advantage", "of", "the", "first-order", "based", "technique", "grows", "with", "the", "number", "of", "database", "tuples", "that", "violate", "the", "ICs", ".", "Such", "results", "thus", "provide", ",", "in", "a", "general", "sense", ",", "an", "experimental", "validation", "of", "the", "first-order", "based", "approach", ":", "its", "computational", "advantage", "is", "not", "only", "theoretical", ",", "but", "also", "can", "be", "effectively", "measured", "when", "applied", "to", "practical", ",", "realistic", "scenarios", ".", "However", ",", "it", "turns", "out", "that", "the", "general", "method", "based", "on", "Datalog", ",", "although", "not", "specifically", "tailored", "for", "KE-simple", "queries", ",", "proves", "particularly", "efficient", "in", "the", "presence", "of", "few", "data", "inconsistencies", ".", "In", "the", "next", "section", ",", "we", "briefly", "introduce", "the", "formal", "framework", "of", "consistent", "query", "answering", ".", "In", "Section", "3", ",", "we", "prove", "coNP-hardness", "of", "consistent", "query", "answering", "under", "only", "exclusion", "dependencies", ",", "and", "present", "our", "Datalog", "rewriting", "and", "our", "algorithm", "for", "first-order", "rewriting", "in", "the", "presence", "of", "key", "and", "exclusion", "dependencies", ".", "In", "Section", "4", ",", "we", "present", "our", "experimental", "results", ",", "and", "in", "Section", "5", "we", "address", "related", "work", "and", "conclude", "the", "paper", ".", "1", "http://sv.mat.unical.it/infomix", ".", "793", "Syntax", ".", "A", "database", "schema", "S", "is", "a", "triple", "A", ",", "K", ",", "E", ",", "where", ":", "A", "is", "a", "relational", "signature", ".", "K", "is", "a", "set", "of", "key", "dependencies", "over", "A", ".", "A", "key", "dependency", "-LRB-", "KD", "-RRB-", "over", "A", "is", "an", "expression", "of", "the", "form", "key", "-LRB-", "r", "-RRB-", "=", "-LCB-", "i", "1", ",", "...", ",", "i", "k", "-RCB-", ",", "where", "r", "is", "a", "relation", "of", "A", ",", "and", ",", "if", "n", "is", "the", "arity", "of", "r", ",", "1", "i", "j", "n", "for", "each", "j", "such", "that", "1", "j", "k", ".", "We", "assume", "that", "at", "most", "one", "KD", "is", "specified", "over", "a", "relation", "r.", "E", "is", "a", "set", "of", "exclusion", "dependencies", "over", "A", ".", "An", "exclusion", "dependency", "-LRB-", "ED", "-RRB-", "over", "A", "is", "an", "expression", "of", "the", "form", "r", "1", "-LSB-", "i", "1", ",", "...", ",", "i", "k", "-RSB-", "r", "2", "-LSB-", "j", "1", ",", "...", ",", "j", "k", "-RSB-", "=", ",", "where", "r", "1", ",", "r", "2", "are", "relations", "of", "A", ",", "and", ",", "if", "n", "1", "and", "n", "2", "are", "the", "arities", "of", "r", "1", "and", "r", "2", "respectively", ",", "for", "each", "such", "that", "1", "k", ",", "1", "i", "n", "1", "and", "1", "j", "n", "2", ".", "A", "term", "is", "either", "a", "variable", "or", "a", "constant", "symbol", ".", "An", "atom", "is", "an", "expression", "of", "the", "form", "p", "-LRB-", "t", "1", ",", "...", ",", "t", "n", "-RRB-", "where", "p", "is", "a", "relation", "symbol", "of", "arity", "n", "and", "t", "1", ",", "...", ",", "t", "n", "is", "a", "sequence", "of", "n", "terms", "-LRB-", "either", "variables", "or", "constants", "-RRB-", ".", "An", "atom", "is", "called", "fact", "if", "all", "the", "terms", "occurring", "in", "it", "are", "constants", ".", "A", "database", "instance", "D", "for", "S", "is", "a", "set", "of", "facts", "over", "A", ".", "We", "denote", "as", "r", "D", "the", "set", "-LCB-", "t", "|", "r", "-LRB-", "t", "-RRB-", "D", "-RCB-", ".", "A", "conjunctive", "query", "of", "arity", "n", "is", "an", "expression", "of", "the", "form", "h", "-LRB-", "x", "1", ",", "...", ",", "x", "n", "-RRB-", ":", "a", "1", ",", "...", ",", "a", "m", ",", "where", "the", "atom", "h", "-LRB-", "x", "1", ",", "...", ",", "x", "n", "-RRB-", ",", "is", "called", "the", "head", "of", "the", "query", "-LRB-", "denoted", "by", "head", "-LRB-", "q", "-RRB-", "-RRB-", ",", "and", "a", "1", ",", "...", ",", "a", "m", ",", "called", "the", "body", "of", "the", "query", "-LRB-", "and", "denoted", "by", "body", "-LRB-", "q", "-RRB-", "-RRB-", ",", "is", "a", "set", "of", "atoms", ",", "such", "that", "all", "the", "variables", "occurring", "in", "the", "query", "head", "also", "occur", "in", "the", "query", "body", ".", "In", "a", "conjunctive", "query", "q", ",", "we", "say", "that", "a", "variable", "is", "a", "head", "variable", "if", "it", "occurs", "in", "the", "query", "head", ",", "while", "we", "say", "that", "a", "variable", "is", "existential", "if", "it", "only", "occurs", "in", "the", "query", "body", ".", "Moreover", ",", "we", "call", "an", "existential", "variable", "shared", "if", "it", "occurs", "at", "least", "twice", "in", "the", "query", "body", "-LRB-", "otherwise", "we", "say", "that", "it", "is", "non-shared", "-RRB-", ".", "A", "FOL", "query", "of", "arity", "n", "is", "an", "expression", "of", "the", "form", "-LCB-", "x", "1", ",", "...", ",", "x", "n", "|", "-LRB-", "x", "1", ",", "...", ",", "x", "n", "-RRB-", "-RCB-", ",", "where", "x", "1", ",", "...", ",", "x", "n", "are", "variable", "symbols", "and", "is", "a", "first-order", "formula", "with", "free", "variables", "x", "1", ",", "...", ",", "x", "n", ".", "Semantics", ".", "First", ",", "we", "briefly", "recall", "the", "standard", "evaluation", "of", "queries", "over", "a", "database", "instance", ".", "Let", "q", "be", "the", "CQ", "h", "-LRB-", "x", "1", ",", "...", ",", "x", "n", "-RRB-", ":", "a", "1", ",", "...", ",", "a", "m", "and", "let", "t", "=", "c", "1", ",", "...", ",", "c", "n", "be", "a", "tuple", "of", "constants", ".", "A", "set", "of", "facts", "I", "is", "an", "image", "of", "t", "w.r.t.", "q", "if", "there", "exists", "a", "substitution", "of", "the", "variables", "occurring", "in", "q", "such", "that", "-LRB-", "head", "-LRB-", "q", "-RRB-", "-RRB-", "=", "h", "-LRB-", "t", "-RRB-", "and", "-LRB-", "body", "-LRB-", "q", "-RRB-", "-RRB-", "=", "I.", "Given", "a", "database", "instance", "D", ",", "we", "denote", "by", "q", "D", "the", "evaluation", "of", "q", "over", "D", ",", "i.e.", ",", "q", "D", "is", "the", "set", "of", "tuples", "t", "such", "that", "there", "exists", "an", "image", "I", "of", "t", "w.r.t.", "q", "such", "that", "I", "D.", "Given", "a", "FOL", "query", "q", "and", "a", "database", "instance", "D", ",", "we", "denote", "by", "q", "D", "the", "evaluation", "of", "q", "over", "D", ",", "i.e.", ",", "q", "D", "=", "-LCB-", "t", "1", ",", "...", ",", "t", "n", "|", "D", "|", "=", "-LRB-", "t", "1", ",", "...", ",", "t", "n", "-RRB-", "-RCB-", ",", "where", "each", "t", "i", "is", "a", "constant", "symbol", "and", "-LRB-", "t", "1", ",", "...", ",", "t", "n", "-RRB-", "is", "the", "first-order", "sentence", "obtained", "from", "by", "replacing", "each", "free", "variable", "x", "i", "with", "the", "constant", "t", "i", ".", "Then", ",", "we", "define", "the", "semantics", "of", "queries", "over", "inconsistent", "databases", ".", "A", "database", "instance", "D", "violates", "the", "KD", "key", "-LRB-", "r", "-RRB-", "=", "-LCB-", "i", "1", ",", "...", ",", "i", "k", "-RCB-", "iff", "there", "exist", "two", "distinct", "facts", "r", "-LRB-", "c", "1", ",", "...", ",", "c", "n", "-RRB-", ",", "r", "-LRB-", "d", "1", ",", "...", ",", "d", "n", "-RRB-", "in", "D", "such", "that", "c", "i", "j", "=", "d", "i", "j", "for", "each", "j", "such", "that", "1", "j", "k.", "Moreover", ",", "D", "violates", "the", "ED", "r", "1", "-LSB-", "i", "1", ",", "...", ",", "i", "k", "-RSB-", "r", "2", "-LSB-", "j", "1", ",", "...", ",", "j", "k", "-RSB-", "=", "iff", "there", "exist", "two", "facts", "r", "1", "-LRB-", "c", "1", ",", "...", ",", "c", "n", "-RRB-", ",", "r", "2", "-LRB-", "d", "1", ",", "...", ",", "d", "m", "-RRB-", "in", "D", "such", "that", "c", "i", "=", "d", "j", "for", "each", "such", "that", "1", "k.", "Let", "S", "=", "A", ",", "K", ",", "E", "be", "a", "database", "schema", ".", "A", "database", "instance", "D", "is", "legal", "for", "S", "if", "D", "does", "not", "violate", "any", "KD", "in", "K", "and", "does", "not", "violate", "any", "ED", "in", "E", ".", "A", "set", "of", "ground", "atoms", "D", "is", "a", "repair", "of", "D", "under", "S", "iff", ":", "-LRB-", "i", "-RRB-", "D", "D", ";", "-LRB-", "ii", "-RRB-", "D", "is", "legal", "for", "S", ";", "-LRB-", "iii", "-RRB-", "for", "each", "D", "such", "that", "D", "D", "D", ",", "D", "is", "not", "legal", "for", "S", ".", "In", "words", ",", "a", "repair", "for", "D", "under", "S", "is", "a", "maximal", "subset", "of", "D", "that", "is", "legal", "for", "S.", "Let", "q", "be", "a", "CQ", ".", "A", "tuple", "t", "is", "a", "consistent", "answer", "to", "q", "in", "D", "under", "S", "iff", ",", "for", "each", "repair", "D", "of", "D", "under", "S", ",", "t", "q", "D", ".", "Example", "2", ".", "Consider", "the", "database", "schema", "S", "=", "A", ",", "K", ",", "E", ",", "where", "A", "comprises", "the", "relations", "Journal", "-LRB-", "title", ",", "editor", "-RRB-", ",", "ConfPr", "-LRB-", "title", ",", "editor", "-RRB-", "and", "Editor", "-LRB-", "name", ",", "country", "-RRB-", ",", "K", "comprises", "the", "dependencies", "key", "-LRB-", "Journal", "-RRB-", "=", "-LCB-", "1", "-RCB-", ",", "key", "-LRB-", "ConfPr", "-RRB-", "=", "-LCB-", "1", "-RCB-", ",", "key", "-LRB-", "Editor", "-RRB-", "=", "-LCB-", "1", "-RCB-", ",", "E", "comprises", "the", "dependency", "Journal", "-LSB-", "1", "-RSB-", "ConfPr", "-LSB-", "1", "-RSB-", "=", ".", "Consider", "the", "database", "instance", "D", "described", "below", "-LCB-", "Journal", "-LRB-", "TODS", ",", "ACM", "-RRB-", ",", "Journal", "-LRB-", "TODS", ",", "IEEE", "-RRB-", ",", "Editor", "-LRB-", "ACM", ",", "USA", "-RRB-", ",", "ConfPr", "-LRB-", "PODS05", ",", "ACM", "-RRB-", ",", "ConfPr", "-LRB-", "PODS05", ",", "SV", "-RRB-", ",", "Editor", "-LRB-", "IEEE", ",", "USA", "-RRB-", "-RCB-", ".", "It", "is", "easy", "to", "see", "that", "D", "is", "not", "consistent", "with", "the", "KDs", "on", "Journal", "and", "ConfPr", "of", "S.", "Then", ",", "the", "repairs", "of", "D", "under", "S", "are", ":", "-LCB-", "Journal", "-LRB-", "TODS", ",", "ACM", "-RRB-", ",", "ConfPr", "-LRB-", "PODS05", ",", "ACM", "-RRB-", ",", "Editor", "-LRB-", "ACM", ",", "USA", "-RRB-", ",", "Editor", "-LRB-", "IEEE", ",", "USA", "-RRB-", "-RCB-", "-LCB-", "Journal", "-LRB-", "TODS", ",", "ACM", "-RRB-", ",", "ConfPr", "-LRB-", "PODS05", ",", "SV", "-RRB-", ",", "Editor", "-LRB-", "ACM", ",", "USA", "-RRB-", ",", "Editor", "-LRB-", "IEEE", ",", "USA", "-RRB-", "-RCB-", "-LCB-", "Journal", "-LRB-", "TODS", ",", "IEEE", "-RRB-", ",", "ConfPr", "-LRB-", "PODS05", ",", "ACM", "-RRB-", ",", "Editor", "-LRB-", "ACM", ",", "USA", "-RRB-", ",", "Editor", "-LRB-", "IEEE", ",", "USA", "-RRB-", "-RCB-", "-LCB-", "Journal", "-LRB-", "TODS", ",", "IEEE", "-RRB-", ",", "ConfPr", "-LRB-", "PODS05", ",", "SV", "-RRB-", ",", "Editor", "-LRB-", "ACM", ",", "USA", "-RRB-", ",", "Editor", "-LRB-", "IEEE", ",", "USA", "-RRB-", "-RCB-", ".", "Let", "q", "-LRB-", "x", ",", "z", "-RRB-", ":", "Journal", "-LRB-", "x", ",", "y", "-RRB-", ",", "Editor", "-LRB-", "y", ",", "z", "-RRB-", "be", "a", "user", "query", ".", "The", "consistent", "answers", "to", "q", "in", "D", "under", "S", "are", "-LCB-", "TODS", ",", "USA", "-RCB-", ".", "Computational", "Complexity", ".", "The", "problem", "of", "computing", "consistent", "answers", "to", "conjunctive", "queries", "over", "inconsistent", "databases", "in", "the", "presence", "of", "KDs", "-LRB-", "under", "the", "repair", "semantics", "introduced", "in", "Section", "2", "-RRB-", "is", "coNP-hard", "in", "data", "complexity", "-LSB-", "4", ",", "6", "-RSB-", ".", "In", "the", "following", ",", "we", "prove", "that", "such", "a", "problem", "is", "coNP-hard", "in", "data", "complexity", "also", "for", "schemas", "in", "which", "only", "EDs", "occur", "2", ".", "Theorem", "3", ".", "Let", "S", "=", "A", ",", ",", "E", "be", "a", "database", "schema", "containing", "only", "EDs", ",", "D", "a", "database", "instance", "for", "S", ",", "q", "a", "CQ", "of", "arity", "n", "over", "S", ",", "and", "t", "an", "n-tuple", "of", "constants", ".", "The", "problem", "of", "establishing", "whether", "t", "is", "a", "consistent", "answer", "to", "q", "in", "D", "under", "S", "is", "coNP-hard", "with", "respect", "to", "data", "complexity", ".", "Proof", "-LRB-", "sketch", "-RRB-", ".", "We", "prove", "coNP-hardness", "by", "reducing", "the", "3-colorability", "problem", "to", "the", "complement", "of", "our", "problem", ".", "Consider", "a", "graph", "G", "=", "V", ",", "E", "with", "a", "set", "of", "vertices", "V", "and", "edges", "E", ".", "We", "define", "a", "relational", "schema", "S", "=", "A", ",", ",", "E", "where", "A", "consists", "of", "the", "relation", "edge", "of", "arity", "2", ",", "and", "the", "relation", "col", "of", "arity", "5", ",", "and", "E", "contains", "the", "dependencies", "col", "-LSB-", "3", "-RSB-", "col", "-LSB-", "4", "-RSB-", "=", ",", "col", "-LSB-", "3", "-RSB-", "col", "-LSB-", "5", "-RSB-", "=", ",", "col", "-LSB-", "4", "-RSB-", "col", "-LSB-", "5", "-RSB-", "=", ".", "The", "instance", "D", "is", "defined", "as", "follows", ":", "D", "=", "-LCB-", "col", "-LRB-", "n", ",", "1", ",", "n", ",", ",", "-RRB-", ",", "col", "-LRB-", "n", ",", "2", ",", ",", "n", ",", "-RRB-", ",", "col", "-LRB-", "n", ",", "3", ",", ",", ",", "n", "-RRB-", "|", "n", "V", "-RCB-", "-LCB-", "edge", "-LRB-", "x", ",", "y", "-RRB-", "|", "x", ",", "y", "E", "-RCB-", ".", "2", "We", "consider", "the", "decision", "problem", "associated", "to", "query", "answering", "-LRB-", "see", "e.g.", ",", "-LSB-", "6", "-RSB-", "-RRB-", "794", "Where", "each", "occurrence", "of", "the", "meta-symbol", "denotes", "a", "different", "constant", "not", "occurring", "elsewhere", "in", "the", "database", ".", "Intuitively", ",", "to", "represent", "the", "fact", "that", "vertex", "n", "V", "is", "assigned", "with", "color", "i", "-LCB-", "1", ",", "2", ",", "3", "-RCB-", ",", "D", "assigns", "to", "col", "a", "tuple", "in", "which", "i", "occurs", "as", "second", "component", "and", "n", "occurs", "as", "first", "and", "also", "as", "2", "+", "i-th", "component", ".", "The", "EDs", "of", "S", "impose", "that", "consistent", "instances", "assign", "no", "more", "than", "one", "color", "to", "each", "node", ".", "Finally", ",", "we", "define", "the", "query", "q", "edge", "-LRB-", "x", ",", "y", "-RRB-", ",", "col", "-LRB-", "x", ",", "z", ",", "w", "1", ",", "w", "2", ",", "w", "3", "-RRB-", ",", "col", "-LRB-", "y", ",", "z", ",", "w", "4", ",", "w", "5", ",", "w", "6", "-RRB-", ".", "On", "the", "basis", "of", "the", "above", "construction", "it", "is", "possible", "to", "show", "that", "G", "is", "3-colorable", "-LRB-", "i.e.", ",", "for", "each", "pair", "of", "adjacent", "vertices", ",", "the", "vertices", "are", "associated", "with", "different", "colors", "-RRB-", "if", "and", "only", "if", "the", "empty", "tuple", "is", "not", "a", "consistent", "answer", "to", "q", "in", "D", "under", "S", "-LRB-", "i.e.", ",", "the", "boolean", "query", "q", "has", "a", "negative", "answer", "-RRB-", ".", "Datalog", "Rewriting", ".", "We", "now", "provide", "a", "sound", "and", "complete", "query", "rewriting", "technique", "for", "consistent", "query", "answering", "in", "the", "presence", "of", "key", "and", "exclusion", "dependencies", ".", "To", "this", "aim", ",", "we", "make", "use", "of", "Datalog", ",", "i.e.", ",", "Datalog", "enriched", "with", "-LRB-", "unstratified", "-RRB-", "negation", ",", "under", "stable", "model", "semantics", "-LSB-", "10", "-RSB-", ".", "From", "a", "computational", "point", "of", "view", ",", "Datalog", "is", "coNP-complete", "with", "respect", "to", "data", "complexity", ",", "and", "therefore", "is", "well", "suited", "for", "dealing", "with", "the", "high", "computational", "complexity", "of", "our", "problem", ".", "The", "rewriting", "that", "we", "present", "in", "the", "following", "extends", "the", "one", "proposed", "in", "-LSB-", "4", "-RSB-", "for", "CQs", "specified", "over", "database", "schemas", "with", "KDs", ",", "in", "order", "to", "properly", "handle", "the", "presence", "of", "EDs", ".", "The", "rewriting", "is", "employed", "in", "the", "system", "INFOMIX", ".", "Anal-ogously", "to", "other", "proposals", "that", "solve", "consistent", "query", "answering", "via", "query", "rewriting", "-LRB-", "although", "for", "different", "classes", "of", "constraints", "and", "query", "languages", ",", "see", ",", "e.g.", ",", "-LSB-", "14", ",", "3", "-RSB-", "-RRB-", ",", "the", "basic", "idea", "of", "the", "technique", "is", "to", "encode", "the", "constraints", "of", "the", "relational", "schema", "into", "a", "Datalog", "program", ",", "such", "that", "the", "stable", "models", "of", "the", "program", "yield", "the", "repairs", "of", "the", "database", "instance", "D.", "Definition", "4", ".", "Given", "a", "CQ", "3", "q", "and", "a", "schema", "S", ",", "the", "Datalog", "program", "-LRB-", "q", ",", "S", "-RRB-", "is", "defined", "as", "the", "following", "set", "of", "rules", "4", ":", "1", ".", "the", "rule", "corresponding", "to", "the", "definition", "of", "q", ";", "2", ".", "for", "each", "relation", "r", "S", ",", "the", "rules", "r", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ":", "r", "D", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ",", "not", "r", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", "r", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ":", "r", "D", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ",", "r", "-LRB-", "~", "x", ",", "~", "z", "-RRB-", ",", "y", "1", "=", "z", "1", "r", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ":", "r", "D", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ",", "r", "-LRB-", "~", "x", ",", "~", "z", "-RRB-", ",", "y", "m", "=", "z", "m", "where", ":", "in", "r", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", "the", "variables", "in", "~", "x", "correspond", "to", "the", "attributes", "constituting", "the", "key", "of", "the", "relation", "r", ";", "~", "y", "=", "y", "1", ",", "...", ",", "y", "m", "and", "~", "z", "=", "z", "1", ",", "...", ",", "z", "m", ".", "3", ".", "for", "each", "exclusion", "dependency", "-LRB-", "r", "-LSB-", "i", "1", ",", "...", ",", "i", "k", "-RSB-", "s", "-LSB-", "j", "1", ",", "...", ",", "j", "k", "-RSB-", "-RRB-", "=", "in", "E", ",", "with", "r", "=", "s", ",", "the", "rules", ":", "r", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ":", "r", "D", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ",", "s", "-LRB-", "~", "x", ",", "~", "z", "-RRB-", "s", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ":", "s", "D", "-LRB-", "~", "x", ",", "~", "y", "-RRB-", ",", "r", "-LRB-", "~", "x", ",", "~", "z", "-RRB-", "3", "The", "present", "rewriting", "is", "not", "actually", "restricted", "to", "CQs", ",", "since", "it", "can", "be", "immediately", "extended", "to", "general", "Datalog", "queries", ".", "4", "Without", "loss", "of", "generality", ",", "we", "assume", "that", "the", "attributes", "in", "the", "key", "precede", "all", "other", "attributes", "in", "r", ",", "that", "i", "1", "=", "j", "1", "=", "1", ",", "...", ",", "i", "k", "=", "j", "k", "=", "k", ",", "1", "=", "1", ",", "...", ",", "h", "=", "h", ",", "and", "m", "1", "=", "h", "+", "1", ",", "...", ",", "m", "h", "=", "h", "+", "h.", "where", "~", "x", "=", "x", "1", ",", "...", ",", "x", "k", ",", "i.e.", ",", "the", "variables", "in", "~", "x", "correspond", "to", "the", "sequence", "of", "attributes", "of", "r", "and", "s", "involved", "in", "the", "ED", ".", "4", ".", "for", "each", "exclusion", "dependency", "r", "-LSB-", "1", ",", "...", ",", "h", "-RSB-", "r", "-LSB-", "m", "1", ",", "...", ",", "m", "h", "-RSB-", "=", "in", "E", ",", "the", "rules", ":", "r", "-LRB-", "~", "x", ",", "~", "y", ",", "~", "z", "-RRB-", ":", "r", "D", "-LRB-", "~", "x", ",", "~", "y", ",", "~", "z", "-RRB-", ",", "r", "-LRB-", "~", "y", ",", "~", "w", "1", ",", "~", "w", "2", "-RRB-", ",", "r", "-LRB-", "~", "x", ",", "~", "y", ",", "~", "z", "-RRB-", ":", "r", "D", "-LRB-", "~", "x", ",", "~", "y", ",", "~", "z", "-RRB-", ",", "r", "-LRB-", "~", "w", "1", ",", "~", "x", ",", "~", "w", "2", "-RRB-", ",", "r", "-LRB-", "~", "x", ",", "~", "x", ",", "~", "z", "-RRB-", ":", "r", "D", "-LRB-", "~", "x", ",", "~", "x", ",", "~", "z", "-RRB-", ".", "Furthermore", ",", "we", "denote", "with", "-LRB-", "D", "-RRB-", "the", "database", "instance", "obtained", "from", "D", "by", "replacing", "each", "predicate", "symbol", "r", "with", "r", "D", ".", "Informally", ",", "for", "each", "relation", "r", ",", "-LRB-", "q", ",", "S", "-RRB-", "contains", "-LRB-", "i", "-RRB-", "a", "relation", "r", "D", "that", "represents", "r", "D", ";", "-LRB-", "ii", "-RRB-", "a", "relation", "r", "that", "represents", "a", "subset", "of", "r", "D", "that", "is", "consistent", "with", "the", "KD", "for", "r", "and", "the", "EDs", "that", "involve", "r", ";", "-LRB-", "iii", "-RRB-", "an", "auxiliary", "relation", "r", "that", "represents", "the", "``", "complement", "''", "of", "r", ",", "i.e.", ",", "the", "subset", "of", "r", "D", "that", "together", "with", "r", "results", "inconsistent", "with", "the", "EDs", "and", "KDs", "on", "the", "schema", ".", "Notice", "that", "the", "extension", "of", "r", "depends", "on", "the", "choice", "made", "for", "r", "-LRB-", "and", "vice-versa", "-RRB-", ",", "and", "that", "such", "choices", "are", "made", "in", "a", "non-deterministic", "way", "-LRB-", "enforced", "by", "the", "use", "of", "the", "unstratified", "negation", "-RRB-", ".", "The", "above", "rules", "force", "each", "stable", "model", "M", "of", "-LRB-", "q", ",", "S", "-RRB-", "-LRB-", "D", "-RRB-", "to", "be", "such", "that", "r", "M", "is", "a", "maximal", "subset", "of", "tuples", "from", "r", "D", "that", "are", "consistent", "with", "both", "the", "KD", "for", "r", "and", "the", "EDs", "in", "E", "that", "involve", "r.", "Example", "2", ".", "-LRB-", "contd", ".", "-RRB-", "The", "Datalog", "rewriting", "-LRB-", "q", ",", "S", "-RRB-", "of", "the", "query", "q", "-LRB-", "x", ",", "z", "-RRB-", ":", "Journal", "-LRB-", "x", ",", "y", "-RRB-", ",", "Editor", "-LRB-", "y", ",", "z", "-RRB-", "is", "the", "following", "program", ":", "q", "-LRB-", "x", ",", "z", "-RRB-", ":", "Journal", "-LRB-", "x", ",", "y", "-RRB-", ",", "Editor", "-LRB-", "y", ",", "z", "-RRB-", "Journal", "-LRB-", "x", ",", "y", "-RRB-", ":", "Journal", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "not", "Journal", "-LRB-", "x", ",", "y", "-RRB-", "Editor", "-LRB-", "x", ",", "y", "-RRB-", ":", "Editor", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "not", "Editor", "-LRB-", "x", ",", "y", "-RRB-", "ConfPr", "-LRB-", "x", ",", "y", "-RRB-", ":", "ConfPr", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "not", "ConfPr", "-LRB-", "x", ",", "y", "-RRB-", "Journal", "-LRB-", "x", ",", "y", "-RRB-", ":", "Journal", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "Journal", "-LRB-", "x", ",", "z", "-RRB-", ",", "z", "=", "y", "Editor", "-LRB-", "x", ",", "y", "-RRB-", ":", "Editor", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "Editor", "-LRB-", "x", ",", "z", "-RRB-", ",", "z", "=", "y", "ConfPr", "-LRB-", "x", ",", "y", "-RRB-", ":", "ConfPr", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "ConfPr", "-LRB-", "x", ",", "z", "-RRB-", ",", "z", "=", "y", "Journal", "-LRB-", "x", ",", "y", "-RRB-", ":", "Journal", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "ConfPr", "-LRB-", "x", ",", "z", "-RRB-", "ConfPr", "-LRB-", "x", ",", "y", "-RRB-", ":", "ConfPr", "D", "-LRB-", "x", ",", "y", "-RRB-", ",", "Journal", "-LRB-", "x", ",", "z", "-RRB-", "The", "first", "rule", "of", "the", "rewriting", "encodes", "the", "query", ".", "The", "second", ",", "third", "and", "fourth", "rule", "establish", "the", "relationship", "between", "each", "relation", "and", "the", "corresponding", "complementary", "predicate", ".", "The", "fifth", ",", "sixth", ",", "and", "seventh", "rule", "encode", "the", "KDs", "of", "S", ",", "whereas", "the", "last", "two", "rules", "encode", "the", "ED", ".", "We", "now", "state", "correctness", "of", "our", "encoding", "with", "respect", "to", "the", "semantics", "of", "consistent", "query", "answering", ".", "Theorem", "5", ".", "let", "S", "=", "A", ",", "K", ",", "E", "be", "a", "database", "schema", ",", "D", "be", "a", "database", "instance", "for", "S", ",", "and", "q", "be", "a", "CQ", "over", "S", ".", "A", "tuple", "t", "is", "a", "consistent", "answer", "to", "q", "in", "D", "under", "S", "iff", "t", "q", "M", "for", "each", "stable", "model", "M", "of", "-LRB-", "q", ",", "S", "-RRB-", "-LRB-", "D", "-RRB-", ".", "From", "the", "above", "theorem", "and", "Theorem", "3", "it", "follows", "that", "the", "consistent", "query", "answering", "problem", "under", "KDs", "and", "EDs", "is", "coNP-complete", "in", "data", "complexity", ".", "FOL", "Rewriting", ".", "Let", "us", "now", "consider", "a", "different", "approach", "to", "consistent", "query", "answering", ",", "which", "aims", "at", "identifying", "subclasses", "of", "queries", "for", "which", "the", "problem", "is", "tractable", ".", "This", "is", "the", "line", "followed", "in", "-LSB-", "1", ",", "6", ",", "13", "-RSB-", ".", "In", "particular", ",", "in", "-LSB-", "13", "-RSB-", "the", "authors", "define", "a", "subclass", "of", "CQs", ",", "called", "C", "tree", ",", "for", "which", "795", "they", "prove", "tractability", "of", "consistent", "query", "answering", "in", "the", "presence", "of", "KDs", ",", "and", "provide", "a", "FOL", "rewriting", "technique", ".", "The", "class", "C", "tree", "is", "based", "on", "the", "notion", "of", "join", "graph", ":", "a", "join", "graph", "of", "a", "query", "q", "is", "the", "graph", "that", "contains", "-LRB-", "i", "-RRB-", "a", "node", "N", "i", "for", "every", "atom", "in", "the", "query", "body", ",", "-LRB-", "ii", "-RRB-", "an", "arc", "from", "N", "i", "to", "N", "j", "iff", "an", "existential", "shared", "variable", "occurs", "in", "a", "non-key", "position", "in", "N", "i", "and", "occurs", "also", "in", "N", "j", ",", "-LRB-", "iii", "-RRB-", "an", "arc", "from", "N", "i", "to", "N", "i", "iff", "an", "existential", "shared", "variable", "occurs", "at", "least", "twice", "in", "N", "i", ",", "and", "one", "occurrence", "is", "in", "a", "non-key", "position", ".", "According", "to", "-LSB-", "13", "-RSB-", ",", "C", "tree", "is", "the", "class", "of", "conjunctive", "queries", "-LRB-", "a", "-RRB-", "without", "repeated", "relation", "symbols", ",", "-LRB-", "b", "-RRB-", "in", "which", "every", "join", "condition", "involves", "the", "entire", "key", "of", "at", "least", "one", "relation", "and", "-LRB-", "c", "-RRB-", "whose", "join", "graph", "is", "acyclic", ".", "As", "pointed", "out", "in", "-LSB-", "13", "-RSB-", ",", "this", "class", "of", "queries", "is", "very", "common", ",", "since", "cycles", "are", "rarely", "present", "in", "queries", "used", "in", "practice", ".", "However", ",", "no", "repeated", "symbols", "may", "occur", "in", "the", "queries", ",", "and", "queries", "must", "have", "joins", "from", "non-key", "attributes", "of", "a", "relation", "to", "the", "entire", "key", "of", "another", "one", ".", "We", "now", "extend", "the", "work", "of", "-LSB-", "13", "-RSB-", "as", "follows", ":", "We", "refine", "the", "class", "C", "tree", "by", "allowing", "join", "conditions", "in", "which", "not", "necessarily", "the", "entire", "key", "of", "one", "relation", "has", "to", "be", "involved", ",", "but", "it", "is", "sufficient", "that", ",", "for", "each", "pair", "of", "attributes", ",", "at", "least", "one", "attribute", "must", "belong", "to", "a", "key", "-LRB-", "i.e.", ",", "we", "allow", "for", "joins", "involving", "portions", "of", "key", "-RRB-", ".", "In", "such", "a", "way", ",", "we", "obtain", "a", "new", "class", ",", "called", "C", "+", "tree", ",", "larger", "than", "C", "tree", ",", "for", "which", "consistent", "query", "answering", "is", "polynomial", "in", "the", "presence", "of", "KDs", ".", "In", "other", "words", ",", "C", "+", "tree", "is", "the", "class", "of", "conjunctive", "queries", "for", "which", "only", "condition", "-LRB-", "a", "-RRB-", "and", "-LRB-", "c", "-RRB-", "above", "hold", ".", "We", "refine", "the", "class", "C", "+", "tree", "in", "order", "to", "obtain", "a", "class", "of", "queries", ",", "called", "KE-simple", ",", "for", "which", "consistent", "query", "answering", "is", "polynomial", "in", "the", "presence", "of", "both", "KDs", "and", "also", "EDs", ".", "We", "provide", "a", "new", "algorithm", "for", "computing", "the", "FOL", "rewriting", "for", "KE-simple", "queries", ".", "In", "the", "algorithm", ",", "we", "exploit", "the", "notion", "of", "join", "graph", "of", "-LSB-", "13", "-RSB-", ",", "but", "we", "enrich", "the", "structure", "of", "the", "graph", "by", "associating", "to", "each", "node", "an", "adornment", "which", "specifies", "the", "different", "nature", "of", "terms", "in", "the", "atoms", "-LRB-", "see", "below", "-RRB-", ",", "in", "order", "to", "deal", "with", "KE-simple", "queries", ".", "Let", "us", "describe", "in", "detail", "our", "technique", ".", "Henceforth", ",", "given", "a", "CQ", "q", ",", "we", "denote", "by", "R", "q", "the", "set", "of", "relation", "symbols", "occurring", "in", "body", "-LRB-", "q", "-RRB-", ".", "Given", "a", "database", "schema", "S", "=", "A", ",", "K", ",", "E", "and", "a", "CQ", "q", ",", "we", "denote", "by", "O", "E", "-LRB-", "q", "-RRB-", "the", "set", "of", "relation", "symbols", "O", "E", "-LRB-", "q", "-RRB-", "=", "-LCB-", "s", "|", "r", "-LSB-", "j", "1", ",", "...", ",", "j", "k", "-RSB-", "s", "-LSB-", "1", ",", "...", ",", "k", "-RSB-", "=", "E", "and", "r", "R", "q", "-RCB-", ".", "In", "words", ",", "O", "E", "-LRB-", "q", "-RRB-", "contains", "each", "relation", "symbol", "s", "A", "such", "that", "there", "exists", "an", "exclusion", "dependency", "between", "s", "and", "r", "in", "E", ",", "where", "r", "is", "a", "relation", "symbol", "occurring", "in", "body", "-LRB-", "q", "-RRB-", ".", "Definition", "6", ".", "Let", "S", "=", "A", ",", "K", ",", "E", "be", "a", "database", "schema", ".", "A", "conjunctive", "query", "q", "is", "KE-simple", "if", "q", "C", "+", "tree", ",", "and", "there", "exists", "no", "pair", "of", "relation", "symbols", "r", ",", "s", "in", "O", "E", "-LRB-", "q", "-RRB-", "such", "that", "there", "exists", "an", "exclusion", "dependency", "between", "r", "and", "s", "in", "E", ",", "there", "exists", "no", "relation", "symbol", "r", "in", "O", "E", "-LRB-", "q", "-RRB-", "such", "that", "there", "exists", "r", "-LSB-", "i", "1", ",", "...", ",", "i", "k", "-RSB-", "s", "-LSB-", "j", "1", ",", "...", ",", "j", "k", "-RSB-", "=", "in", "E", ",", "and", "either", "key", "-LRB-", "r", "-RRB-", "-LCB-", "i", "1", ",", "...", ",", "i", "k", "-RCB-", "or", "key", "-LRB-", "s", "-RRB-", "-LCB-", "j", "1", ",", "...", ",", "j", "k", "-RCB-", ",", "where", "s", "is", "a", "relation", "symbol", "in", "R", "q", ".", "In", "words", ",", "a", "query", "q", "is", "KE-simple", "if", "it", "belongs", "to", "the", "class", "C", "+", "tree", ",", "and", "if", "both", "there", "are", "no", "EDs", "between", "relations", "that", "are", "in", "O", "E", "-LRB-", "q", "-RRB-", ",", "and", "each", "ED", "between", "a", "relation", "r", "R", "q", "and", "a", "relation", "s", "O", "E", "-LRB-", "q", "-RRB-", "does", "not", "involve", "non-key", "attributes", "of", "r", "or", "s.", "Notice", "that", "this", "last", "condition", "does", "not", "limit", "the", "applicability", "of", "our", "approach", "in", "many", "practical", "cases", ".", "For", "example", ",", "in", "relational", "databases", "obtained", "from", "ER-schemas", ",", "EDs", "are", "typically", "specified", "between", "keys", ".", "For", "KE-simple", "CQs", ",", "we", "present", "in", "the", "following", "a", "query", "rewriting", "algorithm", "which", ",", "given", "a", "query", "q", ",", "produces", "a", "FOL", "rewriting", ",", "whose", "evaluation", "over", "any", "database", "instance", "D", "for", "the", "database", "schema", "S", "returns", "the", "consistent", "answers", "to", "q", "in", "D", "under", "S", ".", "The", "basic", "idea", "of", "the", "algorithm", "is", "to", "specify", "a", "set", "of", "conditions", ",", "expressible", "in", "FOL", ",", "that", ",", "if", "verified", "over", "a", "database", "instance", "D", ",", "for", "a", "given", "tuple", "t", ",", "guarantee", "that", "in", "any", "repair", "of", "D", "there", "is", "an", "image", "of", "t", "w.r.t", "q", ",", "i.e.", ",", "t", "is", "a", "consistent", "answer", "to", "q", "in", "D", ".", "We", "point", "out", "that", ",", "for", "non-KE", "-", "simple", "CQs", ",", "such", "conditions", "can", "not", "be", "specified", "in", "FOL", ".", "Observe", "that", ",", "in", "our", "approach", ",", "the", "FOL", "rewriting", "is", "then", "in", "turn", "translated", "into", "SQL", ",", "and", "query", "evaluation", "is", "performed", "by", "means", "of", "standard", "DBMS", "query", "answering", "techniques", ".", "This", "further", "encoding", "does", "not", "present", "particular", "difficulties", ",", "and", "due", "to", "space", "limit", "we", "omit", "such", "transformation", ".", "In", "order", "to", "construct", "our", "join", "graph", "we", "need", "the", "following", "definition", ".", "Definition", "7", ".", "Let", "S", "=", "A", ",", "K", ",", "E", "be", "a", "database", "schema", ",", "q", "be", "a", "CQ", ",", "and", "a", "=", "r", "-LRB-", "x", "1", ",", "...", ",", "x", "n", "-RRB-", "be", "an", "atom", "-LRB-", "of", "arity", "n", "-RRB-", "occurring", "in", "R", "q", ".", "Then", ",", "let", "key", "-LRB-", "r", "-RRB-", "=", "-LCB-", "i", "1", ",", "...", ",", "i", "k", "-RCB-", "belong", "to", "K", ",", "and", "let", "1", "i", "n", ".", "The", "type", "of", "the", "i-th", "argument", "of", "a", "in", "q", ",", "denoted", "by", "type", "-LRB-", "a", ",", "i", ",", "q", "-RRB-", "is", "defined", "as", "follows", ":", "1", ".", "If", "i", "1", "i", "i", "k", ",", "then", ":", "if", "x", "i", "is", "a", "head", "variable", "of", "q", ",", "a", "constant", ",", "or", "an", "existential", "shared", "variable", ",", "then", "type", "-LRB-", "a", ",", "i", ",", "q", "-RRB-", "=", "KB", ";", "if", "x", "i", "is", "an", "existential", "non-shared", "variable", "of", "q", ",", "then", "type", "-LRB-", "a", ",", "i", ",", "q", "-RRB-", "=", "KU", ".", "2", ".", "Otherwise", "-LRB-", "i", "/", "-LCB-", "i", "1", ",", "...", ",", "i", "k", "-RCB-", "-RRB-", ":", "if", "x", "i", "is", "a", "head", "variable", "of", "q", "or", "a", "constant", ",", "then", "type", "-LRB-", "a", ",", "i", ",", "q", "-RRB-", "=", "B", ";", "if", "x", "i", "is", "an", "existential", "shared", "variable", "of", "q", ",", "then", "type", "-LRB-", "a", ",", "i", ",", "q", "-RRB-", "=", "S", ";", "if", "x", "i", "is", "an", "existential", "non-shared", "variable", "of", "q", ",", "then", "type", "-LRB-", "a", ",", "i", ",", "q", "-RRB-", "=", "U.", "Terms", "typed", "by", "KB", "or", "B", "are", "called", "bound", "terms", ",", "otherwise", "they", "are", "called", "unbound", ".", "We", "call", "the", "typing", "of", "a", "in", "q", "the", "expression", "of", "the", "form", "r", "-LRB-", "x", "1", "/", "t", "1", ",", "...", ",", "x", "n", "/", "t", "n", "-RRB-", ",", "where", "each", "t", "i", "is", "the", "type", "of", "the", "argument", "x", "i", "in", "q", ".", "The", "following", "algorithm", "KEFolRewrite", "computes", "the", "FOL", "rewriting", "to", "a", "KE-simple", "conjunctive", "query", "q", ".", "In", "the", "algorithm", ",", "JG", "-LRB-", "q", "-RRB-", "denotes", "the", "join", "graph", "of", "q", ",", "in", "which", "each", "node", "N", "i", "is", "labelled", "with", "the", "typing", "of", "the", "corresponding", "atom", "a", "i", "in", "q.", "Furthermore", ",", "roots", "-LRB-", "JG", "-LRB-", "q", "-RRB-", "-RRB-", "denotes", "the", "set", "of", "nodes", "that", "are", "roots", "in", "JG", "-LRB-", "q", "-RRB-", "-LRB-", "notice", "that", "for", "KE-simple", "queries", "the", "join", "graph", "is", "a", "forest", ",", "since", "it", "is", "acyclic", "-RRB-", ".", "Algorithm", "KEFolRewrite", "-LRB-", "q", ",", "S", "-RRB-", "Input", ":", "KE-simple", "CQ", "q", "-LRB-", "whose", "head", "variables", "are", "x", "1", ",", "...", ",", "x", "n", "-RRB-", ";", "schema", "S", "=", "A", ",", "K", ",", "E", "Output", ":", "FOL", "query", "-LRB-", "representing", "the", "rewriting", "of", "q", "-RRB-", "begin", "796", "Algorithm", "FolTree", "-LRB-", "N", ",", "E", "-RRB-", "Input", ":", "node", "N", "of", "JG", "-LRB-", "q", "-RRB-", ";", "set", "of", "EDs", "E", "Output", ":", "FOL", "formula", "begin", "let", "a", "=", "r", "-LRB-", "x", "1", "/", "t", "1", ",", "...", ",", "x", "n", "/", "t", "n", "-RRB-", "be", "the", "label", "of", "N", ";", "for", "i", ":", "=", "1", "to", "n", "do", "if", "t", "i", "-LCB-", "KB", ",", "B", "-RCB-", "then", "v", "i", ":", "=", "x", "i", "else", "v", "i", ":", "=", "y", "i", ",", "where", "y", "i", "is", "a", "new", "variable", "if", "each", "argument", "of", "a", "is", "of", "type", "B", "or", "KB", "then", "f", "1", ":", "=", "r", "-LRB-", "x", "1", ",", "...", ",", "x", "n", "-RRB-", "else", "begin", "let", "i", "1", ",", "...", ",", "i", "m", "be", "the", "positions", "of", "the", "arguments", "of", "a", "of", "type", "S", ",", "U", ",", "KU", ";", "f", "1", ":", "=", "y", "i", "1", ",", "...", ",", "y", "i", "m", ".", "r", "-LRB-", "v", "1", ",", "...", ",", "v", "n", "-RRB-", "end", ";", "for", "each", "ED", "r", "-LSB-", "j", "1", ",", "...", ",", "j", "k", "-RSB-", "s", "-LSB-", "1", ",", "...", ",", "k", "-RSB-", "=", "E", "do", "begin", "let", "m", "be", "the", "arity", "of", "s", ";", "for", "i", ":", "=", "1", "to", "m", "do", "if", "i", "-LCB-", "1", ",", "...", ",", "k", "-RCB-", "then", "if", "i", "=", "c", "then", "z", "i", "=", "v", "j", "c", "else", "z", "i", "=", "y", "i", "where", "y", "i", "is", "a", "new", "variable", ";", "let", "y", "i", "1", ",", "...", ",", "y", "i", "k", "be", "the", "new", "variables", "above", "introduced", ";", "f", "1", "=", "f", "1", "y", "i", "1", ",", "...", ",", "y", "i", "k", ".", "s", "-LRB-", "z", "1", ",", "...", ",", "z", "m", "-RRB-", "end", "if", "there", "exists", "no", "argument", "in", "a", "of", "type", "B", "or", "S", "then", "return", "f", "1", "else", "begin", "let", "p", "1", ",", "...", ",", "p", "c", "be", "the", "positions", "of", "the", "arguments", "of", "a", "of", "type", "U", ",", "S", "or", "B", ";", "let", "1", ",", "...", ",", "h", "be", "the", "positions", "of", "the", "arguments", "of", "a", "of", "type", "B", ";", "for", "i", ":", "=", "1", "to", "c", "do", "if", "t", "p", "i", "=", "S", "then", "z", "p", "i", ":", "=", "x", "p", "i", "else", "z", "p", "i", ":", "=", "y", "i", ",", "where", "y", "i", "is", "a", "new", "variable", "for", "i", ":", "=", "1", "to", "n", "do", "if", "t", "i", "-LCB-", "KB", ",", "KU", "-RCB-", "then", "w", "i", ":", "=", "v", "i", "else", "w", "i", ":", "=", "z", "i", ";", "f", "2", ":", "=", "z", "p", "1", ",", "...", ",", "z", "p", "c", ".", "r", "-LRB-", "w", "1", ",", "...", ",", "w", "n", "-RRB-", "N", "jgsucc", "-LRB-", "N", "-RRB-", "FolTree", "-LRB-", "N", "-RRB-", "i", "-LCB-", "1", ",", "...", ",", "h", "-RCB-", "w", "i", "=", "x", "i", "return", "f", "1", "f", "2", "end", "end", "Figure", "1", ":", "The", "algorithm", "FolTree", "compute", "JG", "-LRB-", "q", "-RRB-", ";", "return", "-LCB-", "x", "1", ",", "...", ",", "x", "n", "|", "N", "roots", "-LRB-", "JG", "-LRB-", "q", "-RRB-", "-RRB-", "FolTree", "-LRB-", "N", ",", "E", "-RRB-", "-RCB-", "end", "Basically", ",", "the", "algorithm", "builds", "the", "join", "graph", "of", "q", "and", "then", "builds", "the", "first-order", "query", "by", "invoking", "the", "algorithm", "FolTree", "on", "all", "the", "nodes", "that", "are", "roots", "of", "the", "join", "graph", ".", "The", "algorithm", "FolTree", "is", "defined", "in", "Figure", "1", ".", "Roughly", "speaking", ",", "the", "algorithm", "FolTree", "-LRB-", "N", ",", "E", "-RRB-", "returns", "a", "first-order", "formula", "that", "constitutes", "the", "encoding", "of", "the", "whole", "subtree", "of", "the", "join", "graph", "of", "the", "query", "whose", "root", "is", "the", "node", "N", ".", "To", "do", "that", ",", "the", "algorithm", "computes", "two", "subformulas", "f", "1", "and", "f", "2", ".", "The", "formula", "f", "1", "contains", "an", "atom", "whose", "predicate", "is", "the", "predicate", "r", "labelling", "the", "node", "N", ",", "in", "which", "the", "unbound", "variables", "of", "r", "are", "renamed", "with", "new", "existentially", "quantified", "variables", ".", "Furthermore", ",", "f", "1", "contains", "an", "atom", "of", "the", "form", "y", "i", "1", ",", "...", ",", "y", "i", "k", ".", "s", "-LRB-", "z", "1", ",", "...", ",", "z", "m", "-RRB-", "for", "each", "ED", "that", "involves", "r", "and", "a", "relation", "s.", "Intuitively", ",", "when", "evaluated", "over", "a", "database", "instance", "D", ",", "each", "such", "atom", "checks", "that", "there", "are", "no", "facts", "of", "the", "form", "s", "-LRB-", "t", "s", "-RRB-", "D", "that", "violate", "the", "ED", "together", "with", "a", "fact", "of", "the", "form", "r", "-LRB-", "t", "r", "-RRB-", "D", ",", "which", "is", "in", "an", "image", "I", "of", "a", "tuple", "t", "w.r.t.", "the", "input", "query", "q", ",", "i.e.", ",", "the", "atom", "guarantees", "that", "I", "is", "not", "contradicted", "w.r.t.", "the", "ED", ".", "The", "formula", "f", "2", "is", "empty", "only", "when", "all", "non-key", "arguments", "of", "the", "atom", "r", "are", "existential", "non-shared", "variables", "-LRB-", "i.e.", ",", "of", "type", "U", "-RRB-", ".", "Otherwise", ",", "the", "formula", "f", "2", "is", "a", "universally", "quantified", "implication", ".", "In", "such", "an", "implication", ",", "the", "antecedent", "is", "an", "atom", "whose", "predicate", "is", "r", ",", "and", "the", "consequent", "is", "a", "conjunction", "of", "equality", "conditions", "and", "other", "subformulas", ":", "more", "precisely", ",", "there", "is", "an", "equality", "condition", "for", "each", "non-key", "argument", "in", "r", "of", "type", "B", ",", "and", "a", "subformula", "for", "each", "successor", "N", "of", "N", "in", "the", "join", "graph", "of", "q", ",", "computed", "by", "recursively", "invoking", "FolTree", "on", "N", ".", "Intuitively", ",", "f", "2", "enforces", "the", "joins", "between", "r", "and", "each", "atom", "labelling", "the", "successors", "of", "r", "in", "the", "join", "graph", "of", "q", ".", "At", "the", "same", "time", "f", "2", "ensures", "that", ",", "when", "evaluated", "over", "a", "database", "instance", "D", ",", "if", "there", "exists", "a", "fact", "of", "the", "form", "r", "-LRB-", "t", "r", "-RRB-", "D", "that", "violates", "the", "KD", "specified", "on", "r", "together", "with", "a", "fact", "of", "the", "form", "r", "-LRB-", "t", "r", "-RRB-", "D", ",", "which", "is", "in", "the", "image", "of", "a", "tuple", "t", "w.r.t.", "q", ",", "r", "-LRB-", "t", "r", "-RRB-", "belongs", "to", "another", "image", "of", "t", "w.r.t.", "q", ".", "In", "other", "words", ",", "the", "atom", "guarantees", "that", "in", "any", "repair", "there", "exists", "an", "image", "of", "t", "-LRB-", "w.r.t.", "the", "KD", "on", "r", "-RRB-", ".", "Such", "a", "check", "is", "iterated", "for", "other", "KDs", "by", "recursively", "invoking", "FolTree", ".", "The", "following", "example", "illustrates", "the", "way", "the", "algorithm", "works", ".", "Example", "2", ".", "-LRB-", "contd", ".", "-RRB-", "It", "is", "easy", "to", "verify", "that", "the", "query", "q", "-LRB-", "x", ",", "z", "-RRB-", ":", "Journal", "-LRB-", "x", ",", "y", "-RRB-", ",", "Editor", "-LRB-", "y", ",", "z", "-RRB-", "is", "KE-simple", ".", "Journal", "-LRB-", "x/KB", ",", "y/S", "-RRB-", "-LRB-", "N", "1", "-RRB-", "-", "-LRB-", "N", "2", "-RRB-", "Editor", "-LRB-", "y/KB", ",", "z/B", "-RRB-", "Now", ",", "by", "applying", "the", "algorithm", "KEFolRewrite", "and", "FolTree", "we", "obtain", ":", "KEFolRewrite", "-LRB-", "q", "-RRB-", "=", "-LCB-", "x", ",", "z", "|", "FolTree", "-LRB-", "N", "1", "-RRB-", "-RCB-", "FolTree", "-LRB-", "N", "1", "-RRB-", "=", "y", "2", ".", "Journal", "-LRB-", "x", ",", "y", "2", "-RRB-", "y", "2", ".", "ConfPr", "-LRB-", "x", ",", "y", "2", "-RRB-", "y.", "Journal", "-LRB-", "x", ",", "y", "-RRB-", "-LRB-", "FolTree", "-LRB-", "N", "2", "-RRB-", "-RRB-", "FolTree", "-LRB-", "N", "2", "-RRB-", "=", "Editor", "-LRB-", "y", ",", "z", "-RRB-", "y", "2", ".", "Editor", "-LRB-", "y", ",", "y", "2", "-RRB-", "y", "2", "=", "z.", "797", "relations", "integrity", "constraints", "faculty/3", "exam", "plan/10", "key", "-LRB-", "f", "aculty", "-RRB-", "=", "-LCB-", "1", ",", "2", "-RCB-", "key", "-LRB-", "plan", "status", "-RRB-", "=", "-LCB-", "1", "-RCB-", "course", "assignment/3", "degree/5", "key", "-LRB-", "exam", "plan", "-RRB-", "=", "-LCB-", "1", "-RCB-", "key", "-LRB-", "positioning", "-RRB-", "=", "-LCB-", "1", "-RCB-", "positioning/2", "course/4", "key", "-LRB-", "university", "-RRB-", "=", "-LCB-", "1", "-RCB-", "key", "-LRB-", "prof", "data", "-RRB-", "=", "-LCB-", "1", "-RCB-", "plan", "status/2", "key", "-LRB-", "exam", "type", "-RRB-", "=", "-LCB-", "1", "-RCB-", "key", "-LRB-", "degree", "-RRB-", "=", "-LCB-", "1", "-RCB-", "prof", "data/3", "key", "-LRB-", "course", "-RRB-", "=", "-LCB-", "1", "-RCB-", "key", "-LRB-", "exam", "-RRB-", "=", "-LCB-", "2", "-RCB-", "university/3", "key", "-LRB-", "master", "exam", "-RRB-", "=", "-LCB-", "1", "-RCB-", "bachelor", "exam/2", "key", "-LRB-", "bachelor", "exam", "-RRB-", "=", "-LCB-", "1", "-RCB-", "master", "exam/2", "course", "assignment", "-LSB-", "2", "-RSB-", "professor", "-LSB-", "1", "-RSB-", "=", "exam", "type/2", "master", "exam", "-LSB-", "1", "-RSB-", "bachelor", "exam", "-LSB-", "1", "-RSB-", "=", "exam/4", "course", "-LSB-", "3", ",", "4", "-RSB-", "bachelor", "exam", "-LSB-", "1", ",", "2", "-RSB-", "=", "Figure", "2", ":", "A", "portion", "of", "the", "test", "database", "schema", "By", "evaluating", "the", "rewriting", "over", "D", "we", "get", "-LCB-", "TODS", ",", "USA", "-RCB-", ",", "i.e.", ",", "the", "set", "of", "consistent", "answers", "to", "q", "in", "D", "under", "S.", "Next", ",", "we", "state", "soundness", "and", "completeness", "of", "the", "algorithm", ".", "Theorem", "8", ".", "Let", "S", "=", "A", ",", "K", ",", "E", "be", "a", "database", "schema", ",", "q", "be", "a", "KE-simple", "conjunctive", "query", "over", "S", ",", "and", "q", "r", "be", "the", "FOL", "rewriting", "returned", "by", "KEFolRewrite", "-LRB-", "q", "-RRB-", ".", "Then", ",", "for", "every", "database", "instance", "D", "for", "S", ",", "a", "tuple", "t", "is", "a", "consistent", "answer", "to", "q", "in", "D", "under", "S", "iff", "t", "q", "D", "r", ".", "As", "a", "corollary", ",", "consistent", "query", "answering", "for", "KE-simple", "conjunctive", "queries", "over", "database", "schemas", "with", "KDs", "and", "EDs", "is", "polynomial", "in", "data", "complexity", ".", "We", "now", "present", "some", "experimental", "results", "comparing", "the", "FOL", "and", "the", "Datalog", "rewriting", "previously", "described", ".", "To", "perform", "the", "experiments", ",", "we", "implemented", "a", "rewriting", "module", "that", "translates", "CQs", "issued", "over", "the", "database", "schema", "into", "both", "FOL", "queries", "and", "Datalog", "queries", ".", "FOL", "queries", "are", "in", "turn", "translated", "by", "the", "module", "into", "SQL", "queries", ".", "Then", ",", "we", "ran", "the", "SQL", "queries", "on", "a", "MySQL", "4.1.10", "instance", "of", "the", "test", "database", ",", "while", "we", "executed", "Datalog", "queries", "on", "DLV", "-LSB-", "15", "-RSB-", ".", "The", "experiments", "were", "conducted", "on", "a", "double", "processor", "machine", ",", "with", "3", "GHz", "Pentium", "IV", "Xeon", "CPU", "and", "2", "GB", "of", "main", "memory", ",", "running", "the", "Linux", "operating", "system", ".", "The", "test", "database", "holds", "information", "about", "the", "computer", "science", "engineering", "degrees", "of", "the", "university", "of", "Rome", "``", "La", "Sapienza", "''", "and", "contains", "27", "tables", "with", "an", "overall", "size", "of", "over", "200.000", "tuples", ".", "In", "Figure", "2", ",", "we", "present", "the", "portion", "of", "the", "test", "database", "schema", "that", "is", "relevant", "for", "the", "queries", "-LRB-", "in", "the", "figure", ",", "``", "r/n", "''", "indicates", "that", "relation", "r", "is", "of", "arity", "n", "-RRB-", ".", "Due", "to", "space", "limits", ",", "we", "only", "report", "details", "about", "three", "of", "the", "queries", "we", "tested", ":", "Q", "0", "=", "q", "-LRB-", "C", "-RRB-", ":", "-", "f", "aculty", "-LRB-", "C", ",", "U", ",", "INGEGNERIA", "-RRB-", ".", "Q", "2", "=", "q", "-LRB-", "S", ",", "D", ",", "P", "-RRB-", ":", "-", "positioning", "-LRB-", "P", "S", ",", "P", "-RRB-", ",", "plan", "status", "-LRB-", "ST", ",", "DE", "-RRB-", ",", "exam", "plan", "-LRB-", "C", ",", "S", ",", "P", "S", ",", "DT", ",", "ST", ",", "1", ",", "U", "1", ",", "U", "2", ",", "U", "3", ",", "U", "4", "-RRB-", ".", "Q", "3", "=", "q", "-LRB-", "N", ",", "D", ",", "N", "P", ",", "CP", "-RRB-", ":", "-", "master", "exam", "-LRB-", "C", ",", "N", ",", "T", ",", "5", "-RRB-", ",", "exam", "type", "-LRB-", "T", ",", "D", "-RRB-", ",", "The", "queries", "have", "been", "posed", "on", "various", "instances", "of", "the", "test", "database", "with", "an", "increasing", "number", "of", "pairs", "of", "tuples", "violating", "some", "ICs", ".", "Figure", "3", ",", "shows", "experimental", "results", ".", "In", "the", "charts", "3", "-LRB-", "a", "-RRB-", ",", "3", "-LRB-", "b", "-RRB-", "and", "3", "-LRB-", "c", "-RRB-", ",", "the", "execution", "time", "of", "the", "SQL", "encoding", "and", "of", "the", "Datalog", "program", "are", "compared", "for", "queries", "Q", "0", ",", "Q", "2", ",", "and", "Q", "3", ".", "As", "expected", ",", "from", "a", "certain", "inconsistency", "level", "on", ",", "the", "execution", "time", "of", "the", "Datalog", "encoding", "has", "an", "exponential", "blow-up", ";", "in", "contrast", ",", "the", "execution", "time", "for", "the", "SQL", "encoding", "is", "constant", "on", "the", "average", ",", "and", "for", "Q", "3", "-LRB-", "Figure", "3", "-LRB-", "b", "-RRB-", "-RRB-", "it", "decreases", ":", "although", "this", "might", "be", "surprising", ",", "it", "turns", "out", "that", "some", "inconsistency", "allows", "the", "SQL", "engine", "to", "prune", "the", "search", "space", "for", "query", "answering", ".", "Moreover", ",", "the", "chart", "presented", "in", "Figure", "3", "-LRB-", "d", "-RRB-", "compares", ",", "on", "a", "logarithmic", "scale", ",", "the", "execution", "time", "of", "all", "queries", "at", "the", "highest", "inconsistency", "level", ".", "It", "shows", "that", "the", "SQL", "encoding", "is", "always", "more", "efficient", "when", "the", "degree", "of", "data", "inconsistency", "grows", ";", "however", ",", "it", "turns", "out", "that", "the", "method", "based", "on", "Datalog", "and", "DLV", "proves", "particularly", "efficient", "in", "the", "presence", "of", "few", "data", "inconsistencies", ".", "The", "present", "work", "provides", "a", "general", "experimental", "validation", "of", "the", "first-order", "rewriting", "approach", "to", "the", "optimization", "of", "consistent", "query", "answering", ".", "Of", "course", ",", "the", "applicability", "of", "our", "technique", "is", "limited", "to", "the", "class", "of", "KE-simple", "queries", ".", "For", "general", "CQs", ",", "the", "use", "of", "a", "more", "expressive", ",", "and", "compu-tationally", "harder", ",", "query", "language", "like", "Datalog", "is", "necessary", ".", "Very", "recently", ",", "the", "first", "prototype", "implementations", "of", "consistent", "query", "answering", "have", "appeared", ",", "and", "the", "first", "efforts", "towards", "optimization", "of", "query", "processing", "are", "emerging", ".", "Within", "INFOMIX", ",", "several", "optimizations", "are", "currently", "under", "development", "to", "improve", "consistent", "query", "answering", "for", "more", "expressive", "classes", "of", "queries", "-LSB-", "9", ",", "8", "-RSB-", ".", "In", "this", "respect", ",", "binding", "propagation", "techniques", "based", "on", "magic", "sets", "might", "significantly", "reduce", "execution", "time", "for", "Datalog", "programs", "on", "DLV", "-LSB-", "11", "-RSB-", ",", "even", "if", "the", "coNP", "structure", "of", "the", "Datalog", "encoding", "suggests", "that", "the", "efficiency", "of", "the", "SQL", "rewriting", "can", "be", "hardly", "reached", "-LRB-", "especially", "for", "a", "large", "number", "of", "inconsistencies", "-RRB-", ".", "The", "ConQuer", "system", "-LSB-", "12", "-RSB-", "implements", "an", "extension", "of", "the", "technique", "of", "-LSB-", "13", "-RSB-", "which", "allows", "to", "rewrite", "in", "SQL", "queries", "belonging", "to", "the", "class", "C", "tree", "enriched", "with", "aggregates", ".", "Experiments", "show", "that", "the", "overhead", "of", "evaluating", "rewritten", "queries", "is", "not", "onerous", "if", "compared", "with", "evaluation", "of", "the", "original", "query", "over", "the", "inconsistent", "database", ".", "Therefore", ",", "-LSB-", "12", "-RSB-", "focuses", "on", "comparing", "standard", "query", "answering", "and", "consistent", "query", "answering", ",", "while", "our", "experiments", "compare", "two", "different", "query", "answering", "techniques", ".", "In", "this", "respect", ",", "we", "point", "out", "that", "optimization", "of", "our", "SQL", "rewriting", "was", "outside", "the", "scope", "of", "the", "present", "paper", ".", "Finally", ",", "Hippo", "-LSB-", "7", "-RSB-", "is", "a", "system", "for", "consistent", "answering", "of", "union", "of", "conjunctive", "queries", "without", "existential", "variables", "in", "the", "presence", "of", "denial", "constraints", ".", "Hence", ",", "this", "approach", "is", "different", "from", "our", "in", "terms", "of", "both", "query", "language", "and", "integrity", "constraints", "allowed", ".", "Moreover", ",", "Hippo", "techniques", "are", "not", "based", "on", "rewritings", ".", "As", "future", "work", ",", "we", "aim", "at", "extending", "our", "approach", "to", "other", "forms", "of", "ICs", "-LRB-", "e.g.", ",", "foreign", "keys", "-RRB-", "and", "at", "optimizing", "the", "SQL", "rewriting", "produced", "by", "KEFolRewrite", ".", "798", "-LRB-", "a", "-RRB-", "Q", "0", "execution", "time", "-LRB-", "b", "-RRB-", "Q", "3", "execution", "time", "-LRB-", "c", "-RRB-", "Q", "2", "execution", "time", "-LRB-", "d", "-RRB-", "SQL", "vs.", "Datalog", "Figure", "3", ":", "Experimental", "Results", "This", "research", "has", "been", "partially", "supported", "by", "the", "Project", "INFOMIX", "-LRB-", "IST-2001-33570", "-RRB-", "funded", "by", "the", "EU", ".", "-LSB-", "1", "-RSB-", "Marcelo", "Arenas", ",", "Leopoldo", "E.", "Bertossi", ",", "and", "Jan", "Chomicki", ".", "Consistent", "query", "answers", "in", "inconsistent", "databases", ".", "In", "Proc", ".", "of", "PODS", "'", "99", ",", "pages", "68", "79", ",", "1999", ".", "-LSB-", "2", "-RSB-", "Franz", "Baader", ",", "Diego", "Calvanese", ",", "Deborah", "McGuinness", ",", "Daniele", "Nardi", ",", "and", "Peter", "F.", "Patel-Schneider", ",", "editors", ".", "The", "Description", "Logic", "Handbook", ":", "Theory", ",", "Implementation", "and", "Applications", ".", "Cambridge", "University", "Press", ",", "2003", ".", "-LSB-", "3", "-RSB-", "Loreto", "Bravo", "and", "Leopoldo", "Bertossi", ".", "Logic", "programming", "for", "consistently", "querying", "data", "integration", "systems", ".", "In", "Proc", ".", "of", "IJCAI", "2003", ",", "pages", "10", "15", ",", "2003", ".", "-LSB-", "4", "-RSB-", "Andrea", "Cal", "`", "i", ",", "Domenico", "Lembo", ",", "and", "Riccardo", "Rosati", ".", "On", "the", "decidability", "and", "complexity", "of", "query", "answering", "over", "inconsistent", "and", "incomplete", "databases", ".", "In", "Proc", ".", "of", "PODS", "2003", ",", "pages", "260", "271", ",", "2003", ".", "-LSB-", "5", "-RSB-", "Andrea", "Cal", "`", "i", ",", "Domenico", "Lembo", ",", "and", "Riccardo", "Rosati", ".", "Query", "rewriting", "and", "answering", "under", "constraints", "in", "data", "integration", "systems", ".", "In", "Proc", ".", "of", "IJCAI", "2003", ",", "pages", "16", "21", ",", "2003", ".", "-LSB-", "6", "-RSB-", "Jan", "Chomicki", "and", "Jerzy", "Marcinkowski", ".", "On", "the", "computational", "complexity", "of", "minimal-change", "integrity", "maintenance", "in", "relational", "databases", ".", "In", "Inconsistency", "Tolerance", ",", "pages", "119", "150", ",", "2005", ".", "-LSB-", "7", "-RSB-", "Jan", "Chomicki", ",", "Jerzy", "Marcinkowski", ",", "and", "Slawomir", "Staworko", ".", "Computing", "consistent", "query", "answers", "using", "conflict", "hypergraphs", ".", "In", "Proc", ".", "of", "CIKM", "2004", ",", "pages", "417", "426", ",", "2004", ".", "-LSB-", "8", "-RSB-", "Chiara", "Cumbo", ",", "Wolfgang", "Faber", ",", "Gianluigi", "Greco", ",", "and", "Nicola", "Leone", ".", "Enhancing", "the", "magic-set", "method", "for", "disjunctive", "datalog", "programs", ".", "In", "Proc", ".", "ICLP", "2004", "-RRB-", ",", "pages", "371", "385", ",", "2004", ".", "-LSB-", "9", "-RSB-", "Thomas", "Eiter", ",", "Michael", "Fink", ",", "Gianluigi", "Greco", ",", "and", "Domenico", "Lembo", ".", "Efficient", "evaluation", "of", "logic", "programs", "for", "querying", "data", "integration", "systems", ".", "In", "Proc", ".", "of", "ICLP", "'", "03", ",", "pages", "163", "177", ",", "2003", ".", "-LSB-", "10", "-RSB-", "Thomas", "Eiter", ",", "Georg", "Gottlob", ",", "and", "Heikki", "Mannilla", ".", "Disjunctive", "Datalog", ".", "ACM", "Trans", ".", "on", "Database", "Systems", ",", "22", "-LRB-", "3", "-RRB-", ":", "364", "418", ",", "1997", ".", "-LSB-", "11", "-RSB-", "Wolfgang", "Faber", ",", "Gianluigi", "Greco", ",", "and", "Nicola", "Leone", ".", "Magic", "sets", "and", "their", "application", "to", "data", "integration", ".", "In", "Proc", ".", "of", "ICDT", "2005", ",", "pages", "306", "320", ",", "2005", ".", "-LSB-", "12", "-RSB-", "Ariel", "Fuxman", ",", "Elham", "Fazli", ",", "and", "Ren", "ee", "J.", "Miller", ".", "Conquer", ":", "Efficient", "management", "of", "inconsistent", "databases", ".", "In", "Proc", ".", "of", "SIGMOD", "2005", ",", "pages", "155", "166", ",", "2005", ".", "-LSB-", "13", "-RSB-", "Ariel", "Fuxman", "and", "Ren", "ee", "J.", "Miller", ".", "First-order", "query", "rewriting", "for", "inconsistent", "databases", ".", "In", "Proc", ".", "of", "ICDT", "2005", ",", "pages", "337", "351", ",", "2005", ".", "-LSB-", "14", "-RSB-", "Gianluigi", "Greco", ",", "Sergio", "Greco", ",", "and", "Ester", "Zumpano", ".", "A", "logical", "framework", "for", "querying", "and", "repairing", "inconsistent", "databases", ".", "IEEE", "Trans", ".", "on", "Knowledge", "and", "Data", "Engineering", ",", "15", "-LRB-", "6", "-RRB-", ":", "1389", "1408", ",", "2003", ".", "-LSB-", "15", "-RSB-", "Nicola", "Leone", ",", "Gerald", "Pfeifer", ",", "Wolfgang", "Faber", ",", "Thomas", "Eiter", ",", "Georg", "Gottlob", ",", "Simona", "Perri", ",", "and", "Francesco", "Scarcello", ".", "The", "DLV", "system", "for", "knowledge", "representation", "and", "reasoning", ".", "ACM", "Trans", ".", "on", "Computational", "Logic", ",", "2005", ".", "To", "appear", ".", "799"], "doc_bio_tags": ["B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["integrity constraints", "consistent query answering", "database schemas", "query rewriting", "conjunctive queries", "computational complexity", "inconsistent database", "inconsistency"], "abstractive_keyphrases": ["relational database"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "92", "document": ["FBRAM", ":", "A", "new", "Form", "of", "Memory", "Optimized", "for", "3D", "Graphics", "FBRAM", ",", "a", "new", "form", "of", "dynamic", "random", "access", "memory", "that", "greatly", "accelerates", "the", "rendering", "of", "Z-buffered", "primitives", ",", "is", "presented", ".", "Two", "key", "concepts", "make", "this", "acceleration", "possible", ".", "The", "first", "is", "to", "convert", "the", "read-modify-write", "Z-buffer", "compare", "and", "RGB", "blend", "into", "a", "single", "write", "only", "operation", ".", "The", "second", "is", "to", "support", "two", "levels", "of", "rectangularly", "shaped", "pixel", "caches", "internal", "to", "the", "memory", "chip", ".", "The", "result", "is", "a", "10", "megabit", "part", "that", ",", "for", "3D", "graphics", ",", "performs", "read-modify-write", "cycles", "ten", "times", "faster", "than", "conventional", "60", "ns", "VRAMs", ".", "A", "four-way", "interleaved", "100", "MHz", "FBRAM", "frame", "buffer", "can", "Z-buffer", "up", "to", "400", "million", "pixels", "per", "second", ".", "Working", "FBRAM", "prototypes", "have", "been", "fabricated", ".", "CR", "Categories", "and", "Subject", "Descriptors", ":", "I.", "3.1", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Hardware", "Architecture", ";", "I.", "3.3", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Picture", "/", "Image", "Generation", "Display", "algorithms", ";", "I.", "3.7", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Three", "Dimensional", "Graphics", "and", "Realism", ".", "One", "of", "the", "traditional", "bottlenecks", "of", "3D", "graphics", "hardware", "has", "been", "the", "rate", "at", "which", "pixels", "can", "be", "rendered", "into", "a", "frame", "buffer", ".", "Modern", "interactive", "3D", "graphics", "applications", "require", "rendering", "platforms", "that", "can", "support", "30", "Hz", "animation", "of", "richly", "detailed", "3D", "scenes", ".", "But", "existing", "memory", "technologies", "can", "not", "deliver", "the", "desired", "rendering", "performance", "at", "desktop", "price", "points", ".", "The", "performance", "of", "hidden", "surface", "elimination", "algorithms", "has", "been", "limited", "by", "the", "pixel", "fill", "rate", "of", "2D", "projections", "of", "3D", "primitives", ".", "While", "a", "number", "of", "exotic", "architectures", "have", "been", "proposed", "to", "improve", "rendering", "speed", "beyond", "that", "achievable", "with", "conventional", "DRAM", "or", "VRAM", ",", "to", "date", "all", "commercially", "available", "workstation", "3D", "accelerators", "have", "been", "based", "on", "these", "types", "of", "memory", "chips", ".", "This", "paper", "describes", "a", "new", "form", "of", "specialized", "memory", ",", "Frame", "Buffer", "RAM", "-LRB-", "FBRAM", "-RRB-", ".", "FBRAM", "increases", "the", "speed", "of", "Z-buffer", "operations", "by", "an", "order", "of", "magnitude", ",", "and", "at", "a", "lower", "system", "cost", "than", "conventional", "VRAM", ".", "This", "speedup", "is", "achieved", "through", "two", "architectural", "changes", ":", "moving", "the", "Z", "compare", "and", "RGB", "blend", "operations", "inside", "the", "memory", "chip", ",", "and", "using", "two", "levels", "of", "appropri-ately", "shaped", "and", "interleaved", "on-chip", "pixel", "caches", ".", "After", "the", "Z-buffer", "algorithm", "was", "invented", "-LSB-", "3", "-RSB-", ",", "the", "first", "Z-buffered", "hardware", "systems", "were", "built", "in", "the", "1970", "'s", "from", "conventional", "DRAM", "memory", "chips", ".", "Over", "time", ",", "the", "density", "of", "DRAMs", "increased", "exponentially", ",", "but", "without", "corresponding", "increases", "in", "I/O", "bandwidth", ".", "Eventually", ",", "video", "output", "bandwidth", "requirements", "alone", "exceeded", "the", "total", "DRAM", "I/O", "bandwidth", ".", "Introduced", "in", "the", "early", "1980", "'s", ",", "VRAM", "-LSB-", "18", "-RSB-", "-LSB-", "20", "-RSB-", "solved", "the", "video", "output", "bandwidth", "problem", "by", "adding", "a", "separate", "video", "port", "to", "a", "DRAM", ".", "This", "allowed", "graphics", "frame", "buffers", "to", "continue", "to", "benefit", "from", "improving", "bit", "densities", ",", "but", "did", "nothing", "directly", "to", "speed", "rendering", "operations", ".", "More", "recently", ",", "rendering", "architectures", "have", "bumped", "up", "against", "a", "new", "memory", "chip", "bandwidth", "limitation", ":", "faster", "rendering", "engines", "have", "surpassed", "VRAM", "'s", "input", "bandwidth", ".", "As", "a", "result", ",", "recent", "generations", "of", "VRAM", "have", "been", "forced", "to", "increase", "the", "width", "of", "their", "I/O", "busses", "just", "to", "keep", "up", ".", "For", "the", "last", "five", "years", ",", "the", "pixel", "fill", "-LRB-", "i.e.", "write", "-RRB-", "rates", "of", "minimum", "chip", "count", "VRAM", "frame", "buffers", "have", "increased", "by", "less", "than", "30", "%", ".", "Performance", "gains", "have", "mainly", "been", "achieved", "in", "commercially", "available", "systems", "by", "brute", "force", ".", "Contemporary", "mid-range", "systems", "have", "employed", "10-way", "and", "20-way", "interleaved", "VRAM", "designs", "-LSB-", "1", "-RSB-", "-LSB-", "14", "-RSB-", ".", "Recent", "high-end", "architectures", "have", "abandoned", "VRAM", "altogether", "in", "favor", "of", "massively", "interleaved", "DRAM", ":", "as", "much", "as", "120-way", "interleaved", "DRAM", "frame", "buffers", "-LSB-", "2", "-RSB-", ".", "But", "such", "approaches", "do", "not", "scale", "to", "cost", "effective", "machines", ".", "More", "radical", "approaches", "to", "the", "problem", "of", "pixel", "fill", "have", "been", "ex-plored", "by", "a", "number", "of", "researchers", ".", "The", "most", "notable", "of", "these", "is", "the", "pixel-planes", "architecture", "-LSB-", "9", "-RSB-", "-LSB-", "16", "-RSB-", ",", "others", "include", "-LSB-", "7", "-RSB-", "-LSB-", "8", "-RSB-", "-LSB-", "11", "-RSB-", "-LSB-", "4", "-RSB-", ".", "-LSB-", "12", "-RSB-", "and", "-LSB-", "10", "-RSB-", "contain", "a", "good", "summary", "of", "these", "architectures", ".", "What", "these", "architectures", "have", "in", "common", "is", "the", "avoidance", "of", "making", "the", "rendering", "of", "every", "pixel", "an", "explicit", "event", "on", "external", "pins", ".", "In", "the", "limit", ",", "only", "the", "geometry", "to", "be", "rendered", "need", "enter", "the", "chip", "-LRB-", "s", "-RRB-", ",", "and", "the", "final", "pixels", "for", "video", "output", "exit", ".", "These", "research", "architectures", "excel", "at", "extremely", "fast", "Z-buffered", "fill", "of", "large", "areas", ".", "They", "achieve", "this", "at", "the", "expense", "of", "high", "cost", ",", "out-of-order", "rendering", "semantics", ",", "and", "various", "overflow", "exception", "cases", ".", "Many", "of", "these", "architectures", "-LRB-", "-LSB-", "16", "-RSB-", "-LSB-", "11", "-RSB-", "-LSB-", "4", "-RSB-", "-RRB-", "require", "screen", "space", "pre-sorting", "of", "primitives", "before", "rendering", "commences", ".", "As", "a", "consequence", ",", "intermediate", "geometry", "must", "be", "sorted", "and", "stored", "in", "large", "batches", ".", "FBRAM", ":", "A", "new", "Form", "of", "Memory", "Optimized", "for", "3D", "Graphics", "Michael", "F", "Deering", ",", "Stephen", "A", "Schlapp", ",", "Michael", "G", "Lavelle", "Sun", "Microsystems", "Computer", "Corporation", "Unfortunately", ",", "the", "benefits", "from", "the", "fast", "filling", "of", "large", "polygons", "are", "rapidly", "diminishing", "with", "today", "'s", "very", "finely", "tessellated", "objects", ".", "That", "is", ",", "the", "triangles", "are", "getting", "smaller", "-LSB-", "6", "-RSB-", ".", "The", "number", "of", "pixels", "filled", "per", "scene", "is", "not", "going", "up", "anywhere", "near", "as", "quickly", "as", "the", "total", "number", "of", "polygons", ".", "As", "3D", "hardware", "rendering", "systems", "are", "finally", "approaching", "motion", "fusion", "rates", "-LRB-", "real", "time", "-RRB-", ",", "additional", "improvements", "in", "polygon", "rates", "are", "employed", "to", "add", "more", "fine", "detail", ",", "rather", "than", "further", "increases", "in", "frame", "rates", "or", "depth", "complexity", ".", "Fundamental", "to", "the", "Z-buffer", "hidden", "surface", "removal", "algorithm", "are", "the", "steps", "of", "reading", "the", "Z-buffer", "'s", "old", "Z", "value", "for", "the", "current", "pixel", "being", "rendered", ",", "numerically", "comparing", "this", "value", "with", "the", "new", "one", "just", "generated", ",", "and", "then", ",", "as", "an", "outcome", "of", "this", "compare", "operation", ",", "either", "leaving", "the", "old", "Z", "-LRB-", "and", "RGB", "-RRB-", "frame", "buffer", "pixel", "values", "alone", ",", "or", "replacing", "the", "old", "Z", "-LRB-", "and", "RGB", "-RRB-", "value", "with", "the", "new", ".", "With", "conventional", "memory", "chips", ",", "the", "Z", "data", "must", "traverse", "the", "data", "pins", "twice", ":", "once", "to", "read", "out", "the", "old", "Z", "value", ",", "and", "then", "a", "second", "time", "to", "write", "the", "new", "Z", "value", "if", "it", "wins", "the", "comparison", ".", "Additional", "time", "must", "be", "allowed", "for", "the", "data", "pins", "to", "electrically", "``", "turn", "around", "''", "between", "reading", "and", "writing", ".", "Thus", "the", "read-modify-write", "Z-buffer", "transaction", "implemented", "using", "a", "straightforward", "read-turn-write-turn", "operation", "is", "four", "times", "longer", "than", "a", "pure", "write", "transaction", ".", "Batching", "of", "reads", "and", "writes", "-LRB-", "n", "reads", ",", "turn", ",", "n", "writes", ",", "turn", "-RRB-", "would", "reduce", "the", "read-modify", "-", "write", "cost", "to", "twice", "that", "of", "a", "pure", "write", "transaction", "for", "very", "large", "n", ",", "but", "finely", "tessellated", "objects", "have", "very", "small", "values", "of", "n", ",", "and", "still", "suffer", "a", "3-4", "penalty", ".", "This", "is", "the", "first", "problem", "solved", "by", "FBRAM", ".", "Starting", "with", "a", "data", "width", "of", "32", "bits", "per", "memory", "chip", ",", "FBRAM", "now", "makes", "it", "possible", "for", "the", "Z", "comparison", "to", "be", "performed", "entirely", "inside", "the", "memory", "chip", ".", "Only", "if", "the", "internal", "32", "bit", "numeric", "comparison", "succeeds", "does", "the", "new", "Z", "value", "actually", "replace", "the", "old", "value", ".", "Thus", "the", "fundamental", "read-modify-write", "operation", "is", "converted", "to", "a", "pure", "write", "operation", "at", "the", "data", "pins", ".", "Because", "more", "than", "32-bits", "are", "needed", "to", "represent", "a", "double", "buffered", "RGBZ", "pixel", ",", "some", "way", "of", "transmitting", "the", "results", "of", "the", "Z", "comparison", "across", "multiple", "chips", "is", "required", ".", "The", "Z", "comparison", "result", "is", "communicated", "on", "a", "single", "external", "output", "signal", "pin", "of", "the", "FBRAM", "containing", "the", "Z", "planes", ",", "instructing", "FBRAM", "chips", "containing", "other", "planes", "of", "the", "frame", "buffer", "whether", "or", "not", "to", "write", "a", "new", "value", ".", "The", "Z-buffer", "operation", "is", "the", "most", "important", "of", "the", "general", "class", "of", "read-modify-write", "operations", "used", "in", "rendering", ".", "Other", "important", "conditional", "writes", "which", "must", "be", "communicated", "between", "FBRAMs", "include", "window", "ID", "compare", "-LSB-", "1", "-RSB-", "and", "stenciling", ".", "Compositing", "functions", ",", "rendering", "of", "transparent", "objects", ",", "and", "antialiased", "lines", "require", "a", "blending", "operation", ",", "which", "adds", "a", "specified", "fraction", "of", "the", "pixel", "RGB", "value", "just", "generated", "to", "a", "fraction", "of", "the", "pixel", "RGB", "value", "already", "in", "the", "frame", "buffer", ".", "FBRAM", "provides", "four", "8-bit", "100", "MHz", "multiplier-adders", "to", "convert", "the", "read-modify-write", "blending", "operation", "into", "a", "pure", "write", "at", "the", "pins", ".", "These", "internal", "blend", "operations", "can", "proceed", "in", "parallel", "with", "the", "Z", "and", "window", "ID", "compare", "operations", ",", "supported", "by", "two", "32-bit", "comparators", ".", "One", "of", "the", "comparators", "supports", "magnitude", "tests", "-LRB-", ">", ",", ",", "<", ",", ",", "=", ",", "-RRB-", ",", "the", "other", "supports", "match", "tests", "-LRB-", "=", ",", "-RRB-", ".", "Also", ",", "traditional", "boolean", "bit-operations", "-LRB-", "for", "RasterOp", "-RRB-", "are", "supported", "inside", "the", "FBRAM", ".", "This", "collection", "of", "processing", "units", "is", "referred", "to", "as", "the", "pixel", "ALU", ".", "Converting", "read-modify-write", "operations", "into", "pure", "write", "operations", "at", "the", "data", "pins", "permits", "FBRAM", "to", "accept", "data", "at", "a", "100", "MHz", "rate", ".", "To", "match", "this", "rate", ",", "the", "pixel", "ALU", "design", "is", "heavily", "pipelined", ",", "and", "can", "process", "pixels", "at", "the", "rate", "of", "100", "million", "pixels", "per", "second", ".", "Thus", "in", "a", "typical", "four-way", "interleaved", "frame", "buffer", "design", "the", "maximum", "theoretical", "Z-buffered", "pixel", "fill", "rate", "of", "an", "FBRAM", "based", "system", "is", "400", "mega", "pixels", "per", "second", ".", "By", "contrast", ",", "comparable", "frame", "buffers", "constructed", "with", "VRAM", "achieve", "peak", "rates", "of", "33-66", "mega", "pixels", "per", "second", "-LSB-", "5", "-RSB-", "-LSB-", "14", "-RSB-", ".", "Now", "that", "pixels", "are", "arriving", "and", "being", "processed", "on-chip", "at", "100", "MHz", ",", "we", "next", "consider", "the", "details", "of", "storing", "data", ".", "Dynamic", "memory", "chips", "achieve", "their", "impressive", "densities", "-LRB-", "and", "lower", "costs", "-RRB-", "by", "employing", "only", "a", "single", "transistor", "per", "bit", "of", "storage", ".", "These", "storage", "cells", "are", "organized", "into", "pages", ";", "typically", "there", "are", "several", "thousand", "cells", "per", "page", ".", "Typical", "DRAM", "arrays", "have", "hundreds", "or", "thousands", "of", "pages", ".", "Per", "bit", "sense", "amplifiers", "are", "provided", "which", "can", "access", "an", "entire", "page", "of", "the", "array", "within", "120", "ns", ".", "These", "sense", "amplifiers", "retain", "the", "last", "data", "accessed", ";", "thus", "they", "function", "as", "a", "several", "thousand", "bit", "page", "buffer", ".", "The", "limited", "number", "of", "external", "I/O", "pins", "can", "perform", "either", "a", "read", "or", "a", "write", "on", "a", "small", "subset", "of", "the", "page", "buffer", "at", "a", "higher", "rate", ",", "typically", "every", "40", "ns", ".", "FBRAM", "starts", "with", "these", "standard", "DRAM", "components", ",", "and", "adds", "a", "multiported", "high", "speed", "SRAM", "and", "pixel", "ALU", ".", "All", "of", "this", "is", "organized", "within", "a", "caching", "hierarchy", ",", "optimized", "for", "graphics", "access", "patterns", ",", "to", "address", "the", "bandwidth", "mismatch", "between", "the", "high", "speed", "pins", "and", "the", "slow", "DRAM", "cells", ".", "The", "cache", "system", "design", "goal", "for", "FBRAM", "is", "to", "match", "the", "100", "MHz", "read-modify-write", "rate", "of", "the", "pixel", "ALU", "with", "the", "8", "MHz", "rate", "of", "the", "DRAM", "cells", ".", "Figure", "1", "illustrates", "this", "cache", "design", "challenge", ".", "Caches", "have", "long", "been", "used", "with", "general", "purpose", "processors", ";", "even", "a", "small", "cache", "can", "be", "very", "effective", "-LSB-", "17", "-RSB-", ".", "But", "caches", "have", "been", "much", "less", "used", "with", "graphics", "rendering", "systems", ".", "The", "data", "reference", "patterns", "of", "general", "purpose", "processors", "exhibit", "both", "temporal", "and", "spatial", "locality", "of", "reference", ".", "Temporal", "locality", "is", "exhibited", "when", "multiple", "references", "are", "made", "to", "the", "same", "data", "within", "a", "short", "period", "of", "time", ".", "Spatial", "locality", "is", "exhibited", "when", "multiple", "references", "within", "a", "small", "address", "range", "are", "made", "within", "a", "short", "period", "of", "time", ".", "Caches", "also", "reduce", "the", "overall", "load", "on", "the", "memory", "bus", "by", "grouping", "several", "memory", "accesses", "into", "a", "single", ",", "more", "efficient", "block", "access", ".", "Graphics", "hardware", "rendering", "does", "not", "exhibit", "much", "temporal", "locality", ",", "but", "does", "exhibit", "spatial", "locality", "with", "a", "vengeance", ".", "Raster", "rendering", "algorithms", "for", "polygons", "and", "vectors", "are", "a", "rich", "source", "of", "spatial", "locality", ".", "Although", "the", "bandwidth", "available", "inside", "a", "dynamic", "memory", "chip", "is", "orders", "of", "magnitude", "greater", "than", "that", "available", "at", "the", "pins", ",", "this", "in-Dynamic", "Memory", "ALU", "?", "32-bits", "@", "100", "MHz", "2", "32-bits", "@", "100", "MHz", "10,240-bits", "@", "8", "MHz", "Figure", "1", ".", "Bandwidth", "mismatch", "between", "pixel", "ALU", "and", "DRAM", ".", "FBRAM", "ternal", "bandwidth", "is", "out", "of", "reach", "for", "architectures", "in", "which", "the", "pixel", "cache", "is", "external", "to", "the", "memory", "chips", ".", "Others", "have", "recognized", "the", "potential", "of", "applying", "caching", "to", "Z-buffered", "rendering", "-LSB-", "13", "-RSB-", ",", "but", "they", "were", "constrained", "to", "building", "their", "caches", "off", "chip", ".", "Such", "architectures", "can", "at", "best", "approach", "the", "rendering", "rate", "constrained", "by", "the", "memory", "pin", "bandwidth", ".", "As", "a", "result", ",", "these", "caching", "systems", "offer", "little", "or", "no", "performance", "gain", "over", "SIMD", "or", "MIMD", "interleaved", "pixel", "rendering", ".", "With", "FBRAM", ",", "by", "contrast", ",", "the", "pixel", "caches", "are", "internal", "to", "the", "individual", "memory", "chips", ".", "Indeed", ",", "as", "will", "be", "seen", ",", "two", "levels", "of", "internal", "caches", "are", "employed", "to", "manage", "the", "data", "flow", ".", "The", "miss", "rates", "are", "minimized", "by", "using", "rectangular", "shaped", "caches", ".", "The", "miss", "costs", "are", "reduced", "by", "using", "wide", "and", "fast", "internal", "busses", ",", "augmented", "by", "an", "aggressive", "predictive", "pre-fetch", "algorithm", ".", "Each", "successive", "stage", "from", "the", "pins", "to", "the", "DRAM", "cells", "has", "slower", "bus", "rates", ",", "but", "FBRAM", "compensates", "for", "this", "with", "wider", "busses", ".", "Because", "the", "bus", "width", "increases", "faster", "than", "the", "bus", "rate", "decreases", ",", "their", "product", "-LRB-", "bus", "bandwidth", "-RRB-", "increases", ",", "making", "caching", "a", "practical", "solution", ".", "Modern", "semiconductor", "production", "facilities", "are", "optimized", "for", "a", "certain", "silicon", "die", "area", "and", "fabrication", "process", "for", "a", "given", "generation", "of", "technology", ".", "FBRAM", "consists", "of", "10", "megabits", "of", "DRAM", ",", "a", "video", "buffer", ",", "a", "small", "cache", ",", "and", "a", "graphics", "processor", ",", "all", "implemented", "in", "standard", "DRAM", "process", "technology", ".", "The", "result", "is", "a", "die", "size", "similar", "to", "a", "16", "megabit", "DRAM", ".", "A", "10", "megabit", "FBRAM", "is", "320", "1024", "32", "in", "size", ";", "four", "FBRAMs", "exactly", "form", "a", "standard", "1280", "1024", "32", "frame", "buffer", ".", "Figure", "2", "is", "an", "internal", "block", "diagram", "of", "a", "single", "FBRAM", "-LSB-", "15", "-RSB-", ".", "The", "DRAM", "storage", "is", "broken", "up", "into", "four", "banks", ",", "referred", "to", "as", "banks", "A", ",", "B", ",", "C", ",", "and", "D.", "Each", "bank", "contains", "256", "pages", "of", "320", "words", "-LRB-", "32", "bits", "per", "word", "-RRB-", ".", "Each", "bank", "is", "accessed", "through", "a", "sense", "amplifier", "page", "buffer", "capable", "of", "holding", "an", "entire", "320", "word", "page", "-LRB-", "10,240", "bits", "-RRB-", ".", "Banks", "can", "be", "accessed", "at", "a", "read-modify-write", "cycle", "time", "of", "120", "ns", ".", "Video", "output", "pixels", "can", "be", "copied", "from", "the", "page", "buffer", "to", "one", "of", "two", "ping-pong", "video", "buffers", ",", "and", "shifted", "out", "to", "the", "display", ".", "FBRAM", "has", "a", "fast", "triple-ported", "SRAM", "register", "file", ".", "This", "register", "file", "is", "organized", "as", "eight", "blocks", "of", "eight", "32-bit", "words", ".", "Capable", "of", "cycling", "at", "100", "MHz", ",", "two", "of", "the", "ports", "-LRB-", "one", "read", ",", "one", "write", "-RRB-", "of", "the", "register", "file", "allow", "10", "ns", "throughput", "for", "pipelined", "32-bit", "read-modi-DRAM", "Bank", "B", "Video", "Buffer", "Video", "Buffer", "DRAM", "Bank", "A", "DRAM", "Bank", "C", "DRAM", "Bank", "D", "SRAM", "2Kb", "ALU", "256", "640", "640", "640", "640", "16", "32", "Video", "Data", "Global", "Bus", "32", "32", "Render", "Data", "Page", "Buffer", "Page", "Buffer", "Page", "Buffer", "Page", "Buffer", "2.5", "Mb", "10Kb", "10Kb", "10Kb", "10Kb", "2.5", "Mb", "2.5", "Mb", "2.5", "Mb", "FBRAM", "Figure", "2", ".", "Internal", "block", "diagram", "of", "a", "single", "FBRAM", ".", "fy-write", "ALU", "operations", ":", "Z-buffer", "compare", ",", "RGB", "blend", ",", "or", "boolean", "-", "operations", ".", "The", "third", "port", "allows", "parallel", "transfer", "of", "an", "entire", "block", "-LRB-", "8", "words", "-RRB-", "to", "or", "from", "a", "page", "buffer", "at", "a", "20", "ns", "cycle", "time", "via", "a", "256-bit", "``", "Global", "Bus", "''", ".", "FBRAM", "has", "two", "independent", "sets", "of", "control", "and", "address", "lines", ":", "one", "for", "the", "two", "ALU", "ports", "of", "the", "SRAM", "register", "file", ";", "the", "other", "for", "operations", "involving", "a", "DRAM", "bank", ".", "This", "allows", "DRAM", "operations", "to", "proceed", "in", "parallel", "with", "SRAM", "operations", ".", "The", "cache", "control", "logic", "was", "intentionally", "left", "off-chip", ",", "to", "permit", "maximum", "flexibility", "and", "also", "to", "keep", "multiple", "chips", "in", "lock", "step", ".", "Internally", ",", "the", "SRAM", "register", "file", "is", "a", "level", "one", "pixel", "cache", "-LRB-", "L1", "$", "-RRB-", ",", "containing", "eight", "blocks", ".", "Each", "block", "is", "a", "2", "wide", "by", "4", "high", "rectangle", "of", "-LRB-", "32-bit", "-RRB-", "pixels", ".", "The", "cache", "set", "associativity", "is", "determined", "external", "to", "the", "FBRAM", ",", "permitting", "fully", "associative", "mapping", ".", "The", "L1", "$", "uses", "a", "write", "back", "policy", ";", "multiple", "data", "writes", "to", "each", "L1", "$", "block", "are", "ac-cumulated", "for", "later", "transfer", "to", "the", "L2", "$", ".", "Taken", "together", ",", "the", "four", "sense", "amplifier", "page", "buffers", "constitute", "a", "level", "two", "pixel", "cache", "-LRB-", "L2", "$", "-RRB-", ".", "The", "L2", "$", "is", "direct", "mapped", ";", "each", "page", "buffer", "is", "mapped", "to", "one", "of", "the", "pages", "of", "its", "corresponding", "DRAM", "bank", ".", "Each", "L2", "$", "entry", "contains", "one", "page", "of", "320", "32-bit", "words", "shaped", "as", "a", "20", "wide", "by", "16", "high", "rectangle", "of", "pixels", ".", "The", "L2", "$", "uses", "a", "write", "through", "policy", ";", "data", "written", "into", "a", "L2", "$", "entry", "goes", "immediately", "into", "its", "DRAM", "bank", "as", "well", ".", "The", "Global", "Bus", "connects", "the", "L1", "$", "to", "the", "L2", "$", ".", "A", "2", "4", "pixel", "block", "can", "be", "transferred", "between", "the", "L1", "$", "and", "L2", "$", "in", "20", "ns", ".", "Four", "parallel", "``", "sense", "amplifier", "buses", "''", "connect", "the", "four", "L2", "$", "entries", "to", "the", "four", "DRAM", "banks", ".", "A", "new", "20", "16", "pixel", "DRAM", "page", "can", "be", "read", "into", "a", "given", "L2", "$", "entry", "from", "its", "DRAM", "bank", "as", "often", "as", "every", "120", "ns", ".", "Reads", "to", "different", "L2", "$", "entries", "can", "be", "launched", "every", "40", "ns", ".", "The", "previous", "sections", "described", "a", "single", "FBRAM", "chip", ".", "But", "to", "fully", "appreciate", "FBRAM", "'s", "organization", ",", "it", "is", "best", "viewed", "in", "one", "of", "its", "natural", "environments", ":", "a", "four", "way", "horizontally", "interleaved", "three", "chip", "deep", "1280", "1024", "96-bit", "double", "buffered", "RGB", "Z", "frame", "buffer", ".", "Figure", "3", "shows", "the", "chip", "organization", "of", "such", "a", "frame", "buffer", ",", "with", "two", "support", "blocks", "-LRB-", "render", "controller", "and", "video", "output", "-RRB-", ".", "Figure", "4", "is", "a", "logical", "block", "diagram", "considering", "all", "12", "chips", "as", "one", "system", ".", "The", "rgb", "A", "rgb", "B", "Z", "rgb", "A", "rgb", "B", "Z", "rgb", "A", "rgb", "B", "Z", "rgb", "A", "rgb", "B", "Z", "Rendering", "Controller", "Video", "Output", "Figure", "3", ".", "A", "four-way", "interleaved", "frame", "buffer", "system", "composed", "of", "12", "FBRAMs", "-LRB-", "1280", "1024", ",", "double", "buffered", "32-bit", "RGB", "plus", "32-bit", "Z", "-RRB-", ".", "discussions", "of", "the", "operations", "of", "FBRAM", "to", "follow", "are", "all", "based", "on", "considering", "all", "12", "memory", "chips", "as", "one", "memory", "system", ".", "Horizontally", "interleaving", "four", "FBRAMs", "quadruples", "the", "number", "of", "data", "pins", ";", "now", "four", "RGBZ", "pixels", "can", "be", "Z-buffered", ",", "blended", ",", "and", "written", "simultaneously", ".", "This", "interleaving", "also", "quadruples", "the", "size", "of", "the", "caches", "and", "busses", "in", "the", "horizontal", "dimension", ".", "Thus", "the", "L1", "$", "can", "now", "be", "thought", "of", "as", "eight", "cache", "blocks", ",", "each", "8", "pixels", "wide", "by", "4", "pixels", "high", ".", "Taken", "together", ",", "the", "individual", "Global", "Buses", "in", "the", "12", "chips", "can", "transfer", "an", "8", "4", "pixel", "block", "between", "the", "L1", "$", "and", "L2", "$", ".", "The", "four", "L2", "$", "entries", "are", "now", "80", "pixels", "wide", "by", "16", "pixels", "high", "-LRB-", "see", "Figure", "4", "-RRB-", ".", "All", "three", "levels", "of", "this", "memory", "hierarchy", "operate", "concurrently", ".", "When", "the", "addressed", "pixels", "are", "present", "in", "the", "L1", "$", ",", "the", "four", "way", "interleaved", "FBRAMs", "can", "process", "4", "pixels", "every", "10", "ns", ".", "On", "occasion", ",", "the", "L1", "$", "will", "not", "contain", "the", "desired", "pixels", "-LRB-", "an", "``", "L1", "$", "miss", "''", "-RRB-", ",", "incurring", "a", "40", "ns", "penalty", "-LRB-", "``", "L1", "$", "miss", "cost", "''", "-RRB-", ":", "20", "ns", "to", "fetch", "the", "missing", "block", "from", "the", "L2", "$", "for", "rendering", ",", "20", "ns", "to", "write", "the", "block", "back", "to", "the", "L2", "$", "upon", "completion", ".", "Even", "less", "often", ",", "the", "L2", "$", "will", "not", "contain", "the", "block", "of", "pixels", "needed", "by", "the", "L1", "$", "-LRB-", "an", "``", "L2", "$", "miss", "''", "-RRB-", ",", "incurring", "a", "40-120", "ns", "penalty", "-LRB-", "``", "L2", "$", "miss", "cost", "''", "-RRB-", "depending", "upon", "the", "scheduling", "status", "of", "the", "DRAM", "bank", ".", "This", "example", "four", "way", "interleaved", "frame", "buffer", "will", "be", "assumed", "for", "the", "remainder", "of", "this", "paper", ".", "The", "organization", "so", "far", "shows", "pixels", "moving", "between", "fast", ",", "narrow", "data", "paths", "to", "slow", ",", "wide", "ones", ".", "As", "can", "be", "seen", "in", "Figure", "4", ",", "there", "is", "sufficient", "bandwidth", "between", "all", "stages", "to", ",", "in", "theory", ",", "keep", "up", "with", "the", "incoming", "rendered", "pixels", ",", "so", "long", "as", "the", "right", "blocks", "and", "pages", "are", "flowing", ".", "We", "endeavor", "to", "achieve", "this", "through", "aggressive", "prefetching", "of", "rectangular", "pixel", "regions", ".", "Level", "2", "Cache", "DRAM", "Bank", "Level", "1", "Cache", "ALU", "-LRB-", "4", "-RRB-", "read-modify-write", "4", "1", "pixels@10", "ns", "=", "800", "Mpixels/second", "read", "or", "write", "8", "4", "pixels@20", "ns", "=", "1600", "Mpixels/second", "write-modify-read", "80", "16", "pixels@120", "ns", "=", "10600", "Mpixels/second", "per", "bank", ";", "Can", "overlap", "banks", "@", "40", "ns", "=", "32", "Gpixels/second", "Global", "Bus", "Figure", "4", ".", "A", "logical", "representation", "of", "a", "four-way", "horizontally", "interleaved", "frame", "buffer", "composed", "of", "12", "FBRAMs", ".", "write", "-LRB-", "or", "read", "-RRB-", "4", "1", "pixels@10", "ns", "=", "400", "Mpixels/second", "8", "wide", "4", "high", "8", "block", "80", "wide", "16", "high", "1", "page", "per", "bank", "Locality", "of", "reference", "in", "graphics", "rendering", "systems", "tends", "to", "be", "to", "neighboring", "pixels", "in", "2D", ".", "Because", "of", "this", ",", "graphics", "architects", "have", "long", "desired", "fast", "access", "to", "square", "regions", "-LSB-", "19", "-RSB-", ".", "Unfortunately", ",", "the", "standard", "VRAM", "page", "and", "video", "shift", "register", "dimensions", "result", "in", "efficient", "access", "only", "to", "long", "narrow", "horizontal", "regions", ".", "FBRAM", "solves", "this", "problem", "by", "making", "both", "caches", "as", "square", "as", "possible", ".", "Because", "the", "L1", "$", "blocks", "are", "8", "4", "pixels", ",", "thin", "line", "rendering", "algorithms", "tend", "to", "pass", "through", "four", "to", "eight", "pixels", "per", "L1", "$", "block", ",", "resulting", "in", "a", "L1", "$", "miss", "every", "fourth", "to", "eighth", "pixel", "-LRB-", "a", "``", "miss", "rate", "''", "of", "1/4", "to", "1/8", "-RRB-", ".", "Parallel", "area", "rendering", "algorithms", "can", "aim", "to", "utilize", "all", "32", "pixels", "in", "a", "block", ",", "approaching", "a", "miss", "rate", "of", "1/32", ".", "Similarly", ",", "because", "the", "L2", "$", "blocks", "are", "80", "16", "pixels", ",", "L2", "$", "miss", "rates", "are", "on", "the", "order", "of", "1/16", "to", "1/80", "for", "thin", "lines", ",", "and", "asymptotically", "approach", "1/1280", "for", "large", "areas", ".", "These", "simplistic", "miss", "rate", "approximations", "ignore", "fragmentation", "effects", ":", "lines", "may", "end", "part", "way", "through", "a", "block", "or", "page", ",", "polygon", "edges", "usually", "cover", "only", "a", "fraction", "of", "a", "block", "or", "page", ".", "In", "addition", ",", "fragmentation", "reduces", "the", "effective", "pin", "bandwidth", ",", "as", "not", "all", "four", "horizontally", "interleaved", "pixels", "-LRB-", "``", "quads", "''", "-RRB-", "can", "be", "used", "every", "cycle", ".", "FBRAM", "'s", "block", "and", "page", "dimensions", "were", "selected", "to", "minimize", "the", "effects", "of", "fragmentation", ".", "Table", "1", "displays", "the", "average", "number", "of", "L1", "$", "blocks", "-LRB-", "B", "-RRB-", ",", "and", "L2", "$", "pages", "-LRB-", "P", "-RRB-", "touched", "when", "rendering", "various", "sizes", "of", "thin", "lines", "and", "right", "isosceles", "triangles", "-LRB-", "averaged", "over", "all", "orientations", "and", "positions", "-RRB-", ",", "for", "a", "range", "of", "alternative", "cache", "aspect", "ratios", ".", "The", "white", "columns", "indicate", "FBRAM", "'s", "dimensions", ".", "Note", "that", "smaller", "primitives", "consume", "more", "blocks", "and", "pages", "per", "rendered", "pixel", ",", "due", "to", "fragmentation", "effects", ".", "Although", "the", "table", "implies", "that", "a", "page", "size", "of", "40", "32", "is", "better", "than", "80", "16", ",", "practical", "limitations", "of", "video", "output", "overhead", "-LRB-", "ignored", "in", "this", "table", ",", "and", "to", "be", "discussed", "in", "section", "13", "-RRB-", ",", "dictated", "choosing", "80", "16", ".", "For", "non-cached", "rendering", "architectures", ",", "theoretical", "maximum", "performance", "rates", "can", "be", "derived", "from", "statistics", "similar", "to", "Table", "1", ".", "This", "is", "pessimistic", "for", "cached", "architectures", "such", "as", "FBRAM", ".", "Because", "of", "spatial", "locality", ",", "later", "primitives", "-LRB-", "neighboring", "triangles", "of", "a", "strip", "-RRB-", "will", "often", "``", "re-touch", "''", "a", "block", "or", "page", "before", "it", "is", "evicted", "from", "the", "cache", ",", "requiring", "fewer", "block", "and", "page", "transfers", ".", "Additional", "simulations", "were", "performed", "to", "obtain", "the", "quad", ",", "page", ",", "and", "block", "transfer", "rates", ".", "The", "left", "half", "of", "Table", "2", "shows", "the", "results", "for", "FBRAM", "'s", "chosen", "dimensions", ".", "Equation", "1", "can", "be", "used", "to", "determine", "the", "upper", "bound", "on", "the", "number", "of", "primitives", "rendered", "per", "second", "using", "FBRAM", ".", "The", "performance", "Average", "Pages/Prim", "Average", "Blocks/Prim", "320", "4", "160", "8", "80", "16", "40", "32", "32", "1", "16", "2", "8", "4", "10", "Pix", "Vec", "2.61", "1.84", "1.48", "1.36", "7.57", "4.58", "3.38", "20", "Pix", "Vec", "4.21", "2.68", "1.97", "1.71", "14.1", "8.15", "5.76", "50", "Pix", "Vec", "9.02", "5.20", "3.42", "2.78", "33.8", "18.9", "12.9", "100", "Pix", "Vec", "17.1", "9.42", "5.85", "4.57", "66.6", "36.8", "24.9", "25", "Pix", "Tri", "2.96", "2.02", "1.60", "1.46", "9.75", "6.12", "4.68", "50", "Pix", "Tri", "3.80", "2.45", "1.89", "1.67", "13.8", "8.72", "6.67", "100", "Pix", "Tri", "4.97", "3.05", "2.24", "1.94", "20.0", "12.8", "9.89", "1000", "Pix", "Tri", "14.2", "8.05", "5.41", "4.49", "82.5", "59.6", "50.5", "Table", "1", "Average", "number", "of", "Pages", "or", "Blocks", "touched", "per", "primitive", "is", "set", "by", "the", "slowest", "of", "the", "three", "data", "paths", "-LRB-", "quads", "at", "the", "pins", "and", "ALU", ",", "blocks", "on", "the", "global", "bus", ",", "pages", "to", "DRAM", "-RRB-", ":", "-LRB-", "1", "-RRB-", "where", "the", "denominators", "Q", ",", "B", ",", "and", "P", "are", "obtained", "from", "the", "left", "half", "of", "Table", "2", ",", "and", "the", "numerators", "R", "Q", ",", "R", "B", ",", "R", "P", "are", "the", "bus", "rates", "for", "quads", ",", "blocks", "and", "pages", ".", "Referring", "again", "to", "Figure", "4", ",", "R", "Q", "is", "100", "million", "quads/sec", "through", "the", "ALU", "-LRB-", "4", "pixels/quad", "-RRB-", ",", "R", "B", "is", "25", "million", "blocks/sec", "-LRB-", "40", "ns", "per", "block", ",", "one", "20", "ns", "prefetch", "read", "plus", "one", "20", "ns", "writeback", "-RRB-", "and", "R", "P", "is", "8.3", "million", "pages/sec", "-LRB-", "120", "ns", "per", "page", "-RRB-", ".", "The", "right", "half", "of", "Table", "2", "gives", "the", "three", "terms", "of", "Equation", "1", ".", "The", "white", "columns", "indicate", "the", "performance", "limit", "-LRB-", "the", "minimum", "of", "the", "three", "for", "each", "case", "-RRB-", ".", "Equation", "1", "assumes", "that", "whenever", "the", "L1", "$", "is", "about", "to", "miss", ",", "the", "rendering", "controller", "has", "already", "brought", "the", "proper", "block", "in", "from", "the", "L2", "$", "into", "the", "L1", "$", ".", "Similarly", ",", "whenever", "the", "L2", "$", "is", "about", "to", "miss", ",", "the", "rendering", "controller", "has", "already", "brought", "the", "proper", "page", "in", "from", "the", "DRAM", "bank", "into", "the", "L2", "$", ".", "To", "achieve", "such", "clairvoyance", ",", "the", "controller", "must", "know", "which", "pages", "and", "blocks", "to", "prefetch", "or", "write", "back", ".", "The", "FBRAM", "philosophy", "assumes", "that", "the", "rendering", "controller", "queues", "up", "the", "pixel", "operations", "external", "to", "the", "FBRAMs", ",", "and", "snoops", "this", "write", "queue", "to", "predict", "which", "pages", "and", "blocks", "will", "be", "needed", "soon", ".", "These", "needed", "pages", "and", "blocks", "are", "prefetched", "using", "the", "DRAM", "operation", "pins", ",", "while", "the", "SRAM", "operation", "pins", "are", "used", "to", "render", "pixels", "into", "the", "L1", "$", "at", "the", "same", "time", ".", "Cycle", "accurate", "simulation", "of", "such", "architectures", "have", "shown", "this", "technique", "to", "be", "quite", "effective", ".", "Although", "pages", "can", "only", "be", "fetched", "to", "one", "L2", "$", "entry", "every", "120", "ns", ",", "it", "is", "possible", "to", "fetch", "pages", "to", "different", "L2", "$", "entries", "every", "40", "ns", ".", "To", "reduce", "the", "prefetching", "latency", ",", "banks", "A", ",", "B", ",", "C", "and", "D", "are", "interleaved", "in", "display", "space", "horizontally", "and", "vertically", ",", "as", "shown", "in", "Figure", "5", ",", "ensuring", "that", "no", "two", "pages", "from", "the", "same", "bank", "are", "adjacent", "horizontally", ",", "vertically", ",", "or", "diagonally", ".", "This", "enables", "pre-fetching", "any", "neighboring", "page", "while", "rendering", "into", "the", "current", "page", ".", "As", "an", "example", ",", "while", "pixels", "of", "vector", "b", "in", "Figure", "5", "are", "being", "rendered", "into", "page", "0", "of", "bank", "A", ",", "the", "pre-fetch", "of", "page", "0", "of", "bank", "C", "can", "be", "in", "progress", ".", "Usually", "the", "pre-fetch", "from", "C", "can", "be", "started", "early", "enough", "to", "avoid", "idle", "cycles", "between", "the", "last", "pixel", "in", "page", "0", "of", "bank", "A", "and", "the", "first", "pixel", "in", "page", "0", "of", "bank", "C", ".", "The", "key", "idea", "is", "that", "even", "for", "vertical", "vectors", ",", "such", "as", "vector", "d", ",", "we", "can", "pre-fetch", "pages", "of", "pixels", "ahead", "of", "the", "rendering", "as", "fast", "as", "the", "rendering", "can", "cross", "a", "page", ".", "Even", "though", "vector", "c", "rapidly", "crosses", "three", "pages", ",", "they", "can", "still", "be", "fetched", "at", "a", "40ns", "rate", "because", "they", "are", "Average", "Misses/Prim", "Million", "Prim/sec", "Q", "uad", "B", "lock", "P", "age", "Q", "uad", "Perf", "B", "lock", "Perf", "P", "age", "Perf", "10", "Pix", "Vec", "8.75", "2.35", "0.478", "11.4", "10.6", "17.4", "20", "Pix", "Vec", "16.4", "4.71", "0.955", "6.10", "5.31", "8.72", "50", "Pix", "Vec", "38.9", "11.8", "2.40", "2.57", "2.12", "3.47", "100", "Pix", "Vec", "76.7", "23.4", "4.83", "1.30", "1.07", "1.72", "25", "Pix", "Tri", "11.6", "1.70", "0.308", "8.62", "14.7", "27.0", "50", "Pix", "Tri", "20.2", "3.04", "0.422", "4.95", "8.22", "19.7", "100", "Pix", "Tri", "36.1", "6.54", "0.605", "2.77", "3.82", "13.8", "1000", "Pix", "Tri", "286", ".", "46.7", "4.37", "0.350", "0.535", "1.91", "Table", "2", "FBRAM", "Performance", "Limits", "primitives/sec", "min", "R", "Q", "Q", "-------", "R", "B", "B", "-------", "R", "P", "P", ",", ",", "-LRB-", "-RRB-", "=", "from", "three", "different", "banks", ".", "Appendix", "A", "gives", "a", "detailed", "cycle", "by", "cycle", "example", "of", "rendering", "a", "10", "pixel", "vector", ".", "When", "vectors", "are", "chained", "-LRB-", "vector", "e", "-RRB-", ",", "the", "last", "pixel", "of", "one", "segment", "and", "the", "first", "pixel", "of", "the", "next", "segment", "will", "almost", "always", "be", "in", "the", "same", "bank", "and", "page", ".", "Even", "when", "segments", "are", "isolated", ",", "the", "probability", "is", "75", "%", "that", "the", "last", "pixel", "of", "one", "segment", "and", "first", "pixel", "of", "next", "segment", "will", "be", "in", "different", "banks", ",", "thus", "enabling", "overlapping", "of", "DRAM", "bank", "fetches", "to", "L2", "$", ".", "As", "fast", "as", "the", "FBRAM", "pixel", "write", "rate", "is", ",", "it", "is", "still", "valuable", "to", "provide", "optimizations", "for", "the", "special", "case", "of", "large", "rectangle", "fill", ".", "These", "specifically", "include", "clearing", "to", "a", "constant", "value", "or", "to", "a", "repeating", "pattern", ".", "Fast", "clearing", "of", "the", "RGBZ", "planes", "is", "required", "to", "achieve", "high", "frame", "rates", "during", "double", "buffered", "animation", ".", "FBRAM", "provides", "two", "levels", "of", "acceleration", "for", "rectangle", "filling", "of", "constant", "data", ".", "Both", "are", "obtained", "by", "bypassing", "the", "bandwidth", "bottlenecks", "shown", "in", "Figure", "4", ".", "In", "the", "first", "method", ",", "once", "an", "8", "4", "L1", "$", "block", "has", "been", "initialized", "to", "a", "constant", "color", "or", "pattern", ",", "the", "entire", "block", "can", "be", "copied", "repeatedly", "to", "different", "blocks", "within", "the", "L2", "$", "at", "global", "bus", "transfer", "rates", ".", "This", "feature", "taps", "the", "full", "bandwidth", "of", "the", "global", "bus", ",", "bypassing", "the", "pin", "/", "ALU", "bandwidth", "bottleneck", ".", "Thus", "regions", "can", "be", "filled", "at", "a", "4", "higher", "rate", "-LRB-", "1.6", "billion", "pixels", "per", "second", ",", "for", "a", "four-way", "interleaved", "frame", "buffer", "-RRB-", ".", "The", "second", "method", "bypasses", "both", "the", "pin/ALU", "and", "the", "Global", "Bus", "bottlenecks", ",", "effectively", "writing", "1,280", "pixels", "in", "one", "DRAM", "page", "cycle", ".", "First", ",", "the", "method", "described", "in", "the", "previous", "paragraph", "is", "used", "to", "initialize", "all", "four", "pages", "of", "the", "L2", "$", ",", "then", "these", "page", "buffers", "are", "rapidly", "copied", "to", "their", "DRAM", "banks", "at", "a", "rate", "of", "40", "ns", "per", "page", ".", "Thus", "for", "large", "areas", ",", "clearing", "to", "a", "constant", "color", "or", "screen", "aligned", "pattern", "can", "proceed", "at", "a", "peak", "rate", "of", "32", "billion", "pixels", "per", "second", "-LRB-", "0.25", "ter-abytes/sec", "-RRB-", ",", "assuming", "a", "four-way", "interleaved", "design", ".", "The", "most", "important", "feature", "of", "FBRAM", "for", "window", "system", "support", "is", "simply", "its", "high", "bandwidth", ";", "however", "two", "window", "system", "specific", "optimizations", "are", "also", "included", ".", "Full", "read-modify-write", "cycles", "require", "two", "Global", "Bus", "transactions", ":", "a", "prefetching", "read", "from", "the", "L2", "$", ",", "and", "copyback", "write", "to", "the", "L2", "$", ".", "Most", "window", "system", "operations", "do", "not", "require", "read-modify-write", "cycles", "when", "rendering", "text", "and", "simple", "2D", "graphics", ".", "For", "such", "write-0", "16", "32", "48", "64", "0", "80", "A", ":", "0", "x", "y", "160", "80", "96", "C", ":", "0", "A", ":", "8", "C", ":", "8", "B", ":", "0", "D", ":", "0", "B", ":", "8", "D", ":", "8", "a", "b", "c", "d", "e", "f", "g", "A", ":", "16", "C", ":", "16", "A", ":", "24", "C", ":", "24", "B", ":", "16", "D", ":", "16", "B", ":", "24", "D", ":", "24", "112", "h", "A", ":", "1", "C", ":", "1", "A", ":", "9", "C", ":", "9", "A", ":", "17", "C", ":", "17", "A", ":", "25", "C", ":", "25", "Figure", "5", ".", "The", "upper", "left", "corner", "of", "the", "frame", "buffer", ",", "showing", "pages", "0-255", ",", "and", "example", "primitives", "a-h", ".", "vertically", "and", "horizontally", "interleaved", "banks", "A-D", ",", "only", "operations", ",", "the", "number", "of", "Global", "Bus", "transactions", "can", "be", "cut", "in", "half", ",", "improving", "performance", ".", "This", "is", "accomplished", "by", "skipping", "the", "pre-fetching", "read", "of", "a", "new", "block", "from", "the", "L2", "$", "to", "L1", "$", ".", "Vertical", "scrolling", "is", "another", "frequent", "window", "system", "operation", "accelerated", "by", "FBRAM", ".", "This", "operation", "is", "accelerated", "by", "performing", "the", "copy", "internal", "to", "the", "FBRAM", ".", "This", "results", "in", "a", "pixel", "scroll", "rate", "of", "up", "to", "400", "million", "pixels", "per", "second", ".", "VRAM", "solved", "the", "display", "refresh", "bandwidth", "problem", "by", "adding", "a", "second", "port", ",", "but", "at", "significant", "cost", "in", "die", "area", ".", "FBRAM", "also", "provides", "a", "second", "port", "for", "video", "-LRB-", "see", "Figure", "2", "-RRB-", ",", "but", "at", "a", "smaller", "area", "penalty", ".", "Like", "VRAM", ",", "FBRAM", "has", "a", "pair", "of", "ping-pong", "video", "buffers", ",", "but", "unlike", "VRAM", ",", "they", "are", "much", "smaller", "in", "size", ":", "80", "pixels", "each", "for", "a", "four-way", "interleaved", "FBRAM", "frame", "buffer", "vs.", "1,280", "pixels", "each", "for", "a", "five-way", "interleaved", "VRAM", "frame", "buffer", ".", "These", "smaller", "buffers", "save", "silicon", "and", "enable", "a", "rectangular", "mapping", "of", "pages", "to", "the", "display", ",", "but", "at", "the", "price", "of", "more", "frequent", "video", "buffer", "loads", ".", "The", "FBRAM", "video", "buffers", "are", "loaded", "directly", "from", "the", "DRAM", "bank", "page", "buffers", "-LRB-", "L2", "$", ",", "80", "16", "pixels", "-RRB-", ",", "selecting", "one", "of", "the", "16", "scan", "lines", "in", "the", "page", "buffer", ".", "The", "cost", "of", "loading", "a", "video", "buffer", "in", "both", "FBRAM", "and", "VRAM", "is", "typically", "120-200", "ns", ".", "To", "estimate", "an", "upper", "bound", "for", "FBRAM", "video", "refresh", "overhead", "for", "a", "1280", "1024", "76Hz", "non-interlaced", "video", "display", ",", "assume", "that", "all", "rendering", "operations", "cease", "during", "the", "200", "ns", "video", "buffer", "load", "interval", ".", "During", "each", "frame", ",", "a", "grand", "total", "of", "3.28", "ms", "-LRB-", "200", "ns", "1280", "1024", "pixels", "/", "80", "pixels", "-RRB-", "of", "video", "buffer", "loads", "are", "needed", "for", "video", "refresh", ".", "Thus", "76", "Hz", "video", "refresh", "overhead", "could", "theoretically", "take", "away", "as", "much", "as", "25", "%", "of", "rendering", "performance", ".", "The", "actual", "video", "overhead", "is", "only", "5-10", "%", "for", "several", "reasons", ".", "First", ",", "the", "pixel", "ALU", "can", "still", "access", "its", "side", "of", "the", "L1", "$", "during", "video", "refresh", ",", "because", "video", "transfers", "access", "the", "L2", "$", ".", "Second", ",", "although", "one", "of", "the", "four", "banks", "is", "affected", "by", "video", "refresh", ",", "global", "bus", "transfers", "to", "the", "other", "three", "banks", "can", "still", "take", "place", ".", "Finally", ",", "it", "is", "usually", "possible", "to", "schedule", "video", "transfers", "so", "that", "they", "do", "not", "conflict", "with", "rendering", ",", "reducing", "the", "buffer", "load", "cost", "from", "200", "to", "120", "ns", ".", "For", "high", "frame", "rate", "displays", ",", "the", "raster", "pattern", "of", "FBRAM", "video", "output", "refresh", "automatically", "accomplishes", "DRAM", "cell", "refresh", ",", "imposing", "no", "additional", "DRAM", "refresh", "tax", ".", "The", "model", "developed", "in", "section", "10", "gave", "theoretical", "upper", "bounds", "on", "the", "performance", "of", "a", "four-way", "interleaved", "FBRAM", "system", ".", "But", "to", "quantify", "the", "performance", "obtainable", "by", "any", "real", "system", "built", "with", "FBRAM", ",", "a", "number", "of", "other", "factors", "must", "be", "considered", ".", "First", ",", "a", "10", "%", "derating", "of", "the", "section", "10", "model", "should", "be", "applied", "to", "account", "for", "the", "additional", "overhead", "due", "to", "video", "and", "content", "refresh", "described", "in", "section", "13", ".", "The", "sophistication", "of", "the", "cache", "prediction", "and", "scheduling", "algorithm", "implemented", "will", "also", "affect", "performance", ".", "Equation", "1", "assumed", "that", "the", "cache", "controller", "achieves", "complete", "overlap", "between", "the", "three", "data", "paths", ";", "this", "is", "not", "always", "possible", ".", "More", "detailed", "simulations", "show", "that", "aggressive", "controllers", "can", "achieve", "75", "%", "-LRB-", "before", "video", "tax", "-RRB-", "of", "the", "performance", "results", "in", "table", "2", ".", "Taking", "all", "of", "these", "effects", "into", "account", ",", "simulations", "of", "buildable", "four-way", "interleaved", "FBRAM", "systems", "show", "sustained", "rates", "of", "3.3", "million", "50", "pixel", "Z-buffered", "triangles", "per", "second", ",", "and", "7", "million", "10", "pixel", "non-antialiased", "Z-buffered", "vectors", "per", "second", ".", "FBRAM", "systems", "with", "higher", "external", "interleave", "factor", "can", "sustain", "performances", "in", "the", "tens", "of", "millions", "of", "small", "triangles", "per", "second", "range", ".", "All", "of", "our", "simulations", "assume", "that", "the", "rest", "of", "the", "graphics", "system", "can", "keep", "up", "with", "the", "FBRAM", ",", "delivering", "four", "RGB", "Z", "pixels", "every", "10", "ns", ".", "While", "this", "is", "a", "formidable", "challenge", ",", "pixel", "interpolation", "and", "vertex", "floating", "point", "processing", "ASICs", "are", "on", "a", "rapidly", "improving", "performance", "curve", ",", "and", "should", "be", "able", "to", "sustain", "the", "desired", "rates", ".", "FBRAM", "performance", "can", "be", "appreciated", "by", "comparing", "it", "with", "the", "pixel", "fill", "rate", "of", "the", "next", "generation", "Pixel", "Planes", "rasterizing", "chips", "-LSB-", "16", "-RSB-", ",", "although", "FBRAM", "does", "not", "directly", "perform", "the", "triangle", "ras-terization", "function", ".", "The", "pixel", "fill", "rate", "for", "a", "single", "FBRAM", "chip", "is", "only", "a", "factor", "of", "four", "less", "than", "the", "peak", "-LRB-", "256", "pixel", "rectangle", "-RRB-", "fill", "rate", "of", "a", "single", "Pixel", "Planes", "chip", ",", "but", "has", "400", "times", "more", "storage", "capacity", ".", "Next", "let", "us", "contrast", "the", "read-modify-write", "performance", "of", "FBRAM", "to", "a", "60", "ns", "VRAM", ".", "Assuming", "no", "batching", ",", "VRAM", "page", "mode", "requires", "in", "excess", "of", "125", "ns", "to", "do", "what", "FBRAM", "does", "in", "10", "ns", ";", "a", "12.5", "speed", "difference", ".", "Batching", "VRAM", "reads", "and", "writes", "to", "minimize", "bus-turns", ",", "as", "described", "in", "section", "3", ",", "does", "not", "help", "as", "much", "as", "one", "might", "think", ".", "Typical", "VRAM", "configurations", "have", "very", "few", "scan", "lines", "per", "page", ",", "which", "causes", "fragmentation", "of", "primitives", ",", "limiting", "batch", "sizes", ".", "Table", "1", "shows", "that", "for", "a", "320", "4", "page", "shape", ",", "a", "50", "pixel", "triangle", "touches", "3.8", "pages", ",", "averaging", "13", "pixels", "per", "page", ".", "For", "a", "five", "way", "interleaved", "frame", "buffer", ",", "an", "average", "of", "only", "2.6", "pixels", "can", "be", "batched", "per", "chip", ".", "A", "veritable", "alphabet", "soup", "of", "new", "forms", "of", "DRAM", "are", "at", "various", "stages", "of", "development", "by", "several", "manufactures", ":", "CDRAM", ",", "DRAM", ",", "FBRAM", ",", "RAMBUS", ",", "SDRAM", ",", "SGRAM", ",", "SVRAM", ",", "VRAM", ",", "and", "WRAM", ".", "For", "3D", "graphics", ",", "FBRAM", "is", "distinguished", "as", "the", "only", "technology", "to", "directly", "support", "Z-buffering", ",", "alpha", "blending", ",", "and", "ROPs", ".", "Only", "FBRAM", "converts", "read-modify-write", "operations", "into", "pure", "write", "operations", ";", "this", "alone", "accounts", "for", "a", "3-4", "performance", "advantage", "at", "similar", "clock", "rates", ".", "Other", "than", "CDRAM", ",", "only", "FBRAM", "has", "two", "levels", "of", "cache", ",", "and", "efficient", "support", "of", "rectangular", "cache", "blocks", ".", "It", "is", "beyond", "the", "scope", "of", "this", "paper", "to", "derive", "precise", "comparative", "3D", "rendering", "performance", "for", "all", "these", "RAMs", ",", "but", "FBRAM", "appears", "to", "be", "several", "times", "faster", "than", "any", "of", "these", "alternatives", ".", "The", "demand", "for", "faster", "polygon", "rendering", "rates", "shows", "no", "sign", "of", "abating", "for", "some", "time", "to", "come", ".", "However", ",", "as", "was", "observed", "at", "the", "end", "of", "section", "2", ",", "the", "number", "of", "pixels", "filled", "per", "scene", "is", "not", "going", "up", "anywhere", "near", "as", "rapidly", ".", "Future", "increases", "in", "pixel", "resolution", ",", "frame", "rate", ",", "and/or", "depth", "complexity", "are", "likely", "to", "be", "modest", ".", "Future", "predictions", "of", "where", "technology", "is", "going", "are", "at", "best", "approximations", ",", "and", "their", "use", "should", "be", "limited", "to", "understanding", "trends", ".", "With", "these", "caveats", "in", "mind", ",", "Figure", "6", "explores", "trends", "in", "polygon", "rendering", "rate", "demand", "vs.", "memory", "technologies", "over", "the", "next", "several", "years", ".", "The", "figure", "shows", "the", "projected", "pixel", "fill", "rate", "-LRB-", "including", "fragmentation", "effects", "-RRB-", "demanded", "as", "the", "polygon", "rate", "increases", "over", "time", "-LRB-", "from", "the", "data", "in", "-LSB-", "6", "-RSB-", "-RRB-", ".", "It", "also", "displays", "the", "expected", "delivered", "pixel", "fill", "rates", "of", "minimum", "chip", "count", "frame", "buffers", "implemented", "using", "FBRAM", "and", "VRAM", "technologies", "-LRB-", "extrapolating", "from", "Equation", "1", "and", "from", "the", "systems", "described", "in", "-LSB-", "14", "-RSB-", "-LSB-", "5", "-RSB-", "-RRB-", ".", "The", "demand", "curve", "is", "above", "that", "achievable", "inexpensively", "with", "conventional", "VRAM", "or", "DRAM", ",", "but", "well", "within", "the", "range", "of", "a", "minimum", "chip", "count", "FBRAM", "system", ".", "The", "trend", "curve", "for", "FBRAM", "has", "a", "steeper", "slope", "because", ",", "unlike", "VRAM", ",", "FBRAM", "effectively", "decouples", "pixel", "rendering", "rates", "from", "the", "inherently", "slower", "DRAM", "single", "transistor", "access", "rates", ".", "This", "will", "allow", "future", "versions", "of", "FBRAM", "to", "follow", "the", "more", "rapidly", "increasing", "SRAM", "performance", "trends", ".", "FBRAM", "still", "benefits", "from", "the", "inherently", "lower", "cost", "per", "bit", "of", "DRAM", "technology", ".", "The", "``", "excess", "''", "pixel", "fill", "rate", "shown", "for", "FBRAM", "in", "Figure", "6", "combined", "with", "FBRAM", "'s", "high", "bit", "density", "will", "permit", "cost-effective", ",", "one", "pass", ",", "full", "scene", "antialiasing", "using", "super-sampled", "frame", "buffers", ".", "In", "the", "past", ",", "the", "bandwidth", "demands", "of", "video", "output", "led", "to", "the", "creation", "of", "VRAM", "to", "overcome", "DRAM", "'s", "limitations", ".", "In", "recent", "years", ",", "the", "demands", "of", "faster", "and", "faster", "rendering", "have", "exceeded", "VRAM", "'s", "bandwidth", ".", "This", "led", "to", "the", "creation", "of", "FBRAM", ",", "a", "new", "form", "of", "random", "access", "memory", "optimized", "for", "Z-buffer", "based", "3D", "graphics", "rendering", "and", "window", "system", "support", ".", "A", "ten", "fold", "increase", "in", "Z-buffered", "rendering", "performance", "for", "minimum", "chip", "count", "systems", "is", "achieved", "over", "conventional", "VRAM", "and", "DRAM", ".", "Given", "statistics", "on", "the", "pixel", "fill", "requirements", "of", "the", "next", "two", "generations", "of", "3D", "graphics", "accelerators", ",", "FBRAM", "may", "remove", "the", "pixel", "fill", "bottleneck", "from", "3D", "accelerator", "architectures", "for", "the", "rest", "of", "this", "century", ".", "FBRAM", "is", "a", "joint", "development", "between", "SMCC", "and", "Mitsubishi", "Electric", "Corporation", ".", "The", "authors", "would", "like", "to", "acknowledge", "the", "efforts", "of", "the", "entire", "Mitsubishi", "team", ",", "and", "in", "particular", "K.", "Inoue", ",", "H.", "Nakamura", ",", "K.", "Ishihara", ",", "Charles", "Hart", ",", "Julie", "Lin", ",", "and", "Mark", "Perry", ".", "On", "the", "Sun", "side", ",", "the", "authors", "would", "like", "to", "thank", "Mary", "Whitton", ",", "Scott", "Nelson", ",", "Dave", "Kehlet", ",", "and", "Ralph", "Nichols", ",", "as", "well", "as", "all", "the", "other", "engineers", "who", "reviewed", "drafts", "of", "this", "paper", ".", "1", ".", "Akeley", ",", "Kurt", "and", "T.", "Jermoluk", ".", "High-Performance", "Polygon", "Rendering", ",", "Proceedings", "of", "SIGGRAPH", "'88", "-LRB-", "Atlanta", ",", "GA", ",", "Aug", "1-5", ",", "1988", "-RRB-", ".", "In", "Computer", "Graphics", "22", ",", "4", "-LRB-", "July", "1988", "-RRB-", ",", "239-246", ".", "2", ".", "Akeley", ",", "Kurt", ".", "Reality", "Engine", "Graphics", ".", "Proceedings", "of", "SIGGRAPH", "`", "93", "-LRB-", "Anaheim", ",", "California", ",", "August", "1-6", ",", "1993", "-RRB-", ".", "In", "Computer", "Graphics", ",", "Annual", "Conference", "Series", ",", "1993", ",", "109-116", ".", "3", ".", "Catmull", ",", "E", ".", "A", "Subdivision", "Algorithm", "for", "Computer", "Display", "of", "Curved", "Surfaces", ",", "Ph.D.", ".", "Thesis", ",", "Report", "UTEC-CSc-74-133", ",", "Computer", "Science", "Dept.", ",", "University", "of", "Utah", ",", "Salt", "Lake", "City", ",", "UT", ",", "Dec.", "1974", ".", "Figure", "6", ".", "Pixel", "fill", "rate", "needed", "to", "match", "anticipated", "triangle", "fill", "rate", "demand", "compared", "with", "anticipated", "delivered", "pixel", "fill", "rate", "delivered", "by", "minimum", "chip", "count", "FBRAM", "and", "VRAM", "systems", ".", "1993", "2001", "Year", "10B", "1B", "100M", "10M", "10M", "100M", "1B", "1M", "Triangles/sec", "VRAM", "Demand", "FBRAM", "Pixels/sec", "4", ".", "Deering", ",", "Michael", ",", "S.", "Winner", ",", "B.", "Schediwy", ",", "C.", "Duffy", "and", "N.", "Hunt", ".", "The", "Triangle", "Processor", "and", "Normal", "Vector", "Shader", ":", "A", "VLSI", "system", "for", "High", "Performance", "Graphics", ".", "Proceedings", "of", "SIGGRAPH", "'88", "-LRB-", "Atlanta", ",", "GA", ",", "Aug", "1-5", ",", "1988", "-RRB-", ".", "In", "Computer", "Graphics", "22", ",", "4", "-LRB-", "July", "1988", "-RRB-", ",", "21-30", ".", "5", ".", "Deering", ",", "Michael", ",", "and", "S.", "Nelson", ".", "Leo", ":", "A", "System", "for", "Cost", "Effective", "Shaded", "3D", "Graphics", ".", "Proceedings", "of", "SIGGRAPH", "`", "93", "-LRB-", "Anaheim", ",", "California", ",", "August", "1-6", ",", "1993", "-RRB-", ".", "In", "Computer", "Graphics", ",", "Annual", "Conference", "Series", ",", "1993", ",", "101-108", ".", "6", ".", "Deering", ",", "Michael", ".", "Data", "Complexity", "for", "Virtual", "Reality", ":", "Where", "do", "all", "the", "Triangles", "Go", "?", "Proceedings", "of", "IEEE", "VRAIS", "`", "93", "-LRB-", "Seattle", ",", "WA", ",", "Sept.", "18-22", ",", "1993", "-RRB-", ".", "357-363", ".", "7", ".", "Demetrescu", ",", "S", ".", "A", "VLSI-Based", "Real-Time", "Hidden-Surface", "Elimination", "Display", "System", ",", "Master", "'s", "Thesis", ",", "Dept.", "of", "Computer", "Science", ",", "California", "Institute", "of", "Technology", ",", "Pasadena", "CA", ",", "May", "1980", ".", "8", ".", "Demetrescu", ",", "S.", "High", "Speed", "Image", "Rasterization", "Using", "Scan", "Line", "Access", "Memories", ".", "Proceedings", "of", "1985", "Chapel", "Hill", "Conference", "on", "VLSI", ",", "pages", "221-243", ".", "Computer", "Science", "Press", ",", "1985", ".", "9", ".", "Fuchs", ",", "Henry", ",", "and", "J.", "Poulton", ".", "Pixel", "Planes", ":", "A", "VLSI-Oriented", "Design", "for", "a", "Raster", "Graphics", "Engine", ".", "In", "VLSI", "Design", ",", "2,3", "-LRB-", "3rd", "quarter", "1981", "-RRB-", ",", "20-28", ".", "10", ".", "Foley", ",", "James", ",", "A.", "van", "Dam", ",", "S.", "Feiner", "and", "J", "Hughes", ".", "Computer", "Graphics", ":", "Principles", "and", "Practice", ",", "2nd", "ed.", ",", "Addison-Wesley", ",", "1990", ".", "11", ".", "Gharachorloo", ",", "Nader", ",", "S.", "Gupta", ",", "E.", "Hokenek", ",", "P.", "Bala-subramanina", ",", "B.", "Bogholtz", ",", "C.", "Mathieu", ",", "and", "C.", "Zoulas", ".", "Subnanosecond", "Rendering", "with", "Million", "Transistor", "Chips", ".", "Proceedings", "of", "SIGGRAPH", "'88", "-LRB-", "Boston", ",", "MA", ",", "July", "31", ",", "Aug", "4", ",", "1989", "-RRB-", ".", "In", "Computer", "Graphics", "22", ",", "4", "-LRB-", "Aug.", "1988", "-RRB-", ",", "41-49", ".", "12", ".", "Gharachorloo", ",", "Nader", ",", "S.", "Gupta", ",", "R.", "Sproull", ",", "and", "I.", "Sutherland", ".", "A", "Characterization", "of", "Ten", "Rasterization", "Techniques", ".", "Proceedings", "of", "SIGGRAPH", "'89", "-LRB-", "Boston", ",", "MA", ",", "July", "31", ",", "Aug", "4", ",", "1989", "-RRB-", ".", "In", "Computer", "Graphics", "23", ",", "3", "-LRB-", "July", "1989", "-RRB-", ",", "355-368", ".", "13", ".", "Goris", ",", "A.", ",", "B.", "Fredrickson", ",", "and", "H.", "Baeverstad", ".", "A", "Config-urable", "Pixel", "Cache", "for", "Fast", "Image", "Generation", ".", "In", "IEEE", "CG&A", "7,3", "-LRB-", "March", "1987", "-RRB-", ",", "pages", "24-32", ",", "1987", ".", "14", ".", "Harrell", ",", "Chandlee", ",", "and", "F.", "Fouladi", ".", "Graphics", "Rendering", "Architecture", "for", "a", "High", "Performance", "Desktop", "Workstation", ".", "Proceedings", "of", "SIGGRAPH", "`", "93", "-LRB-", "Anaheim", ",", "California", ",", "August", "16", ",", "1993", "-RRB-", ".", "In", "Computer", "Graphics", ",", "Annual", "Conference", "Series", ",", "1993", ",", "93-100", ".", "15", ".", "M5M410092", "FBRAM", "Specification", ".", "Mitsubishi", "Electric", ",", "1994", ".", "16", ".", "Molnar", ",", "Steven", ",", "J.", "Eyles", ",", "J.", "Poulton", ".", "PixelFlow", ":", "High-Speed", "Rendering", "Using", "Image", "Composition", ".", "Proceedings", "of", "SIGGRAPH", "'92", "-LRB-", "Chicago", ",", "IL", ",", "July", "26-31", ",", "1992", "-RRB-", ".", "In", "Computer", "Graphics", "26", ",", "2", "-LRB-", "July", "1992", "-RRB-", ",", "231-240", ".", "17", ".", "Patterson", ",", "David", ",", "and", "J.", "Hennessy", ".", "Computer", "Architecture", ":", "a", "Quantitative", "Approach", ",", "Morgan", "Kaufmann", "Publishers", ",", "Inc.", ",", "1990", ".", "18", ".", "Pinkham", ",", "R.", ",", "M.", "Novak", ",", "and", "K.", "Guttag", ".", "Video", "RAM", "Excels", "at", "Fast", "Graphics", ".", "In", "Electronic", "Design", "31,17", ",", "Aug.", "18", ",", "1983", ",", "161-182", ".", "19", ".", "Sproull", ",", "Robert", ",", "I.", "Sutherland", ",", "and", "S.", "Gupta", ".", "The", "8", "by", "8", "Display", ".", "In", "ACM", "Transactions", "on", "Graphics", "2", ",", "1", "-LRB-", "Jan", "1983", "-RRB-", ",", "35-56", ".", "20", ".", "Whitton", ",", "Mary", ".", "Memory", "Design", "for", "Raster", "Graphics", "Displays", ".", "In", "IEEE", "CG&A", "4,3", "-LRB-", "March", "1984", "-RRB-", ",", "48-65", ",", "1984", ".", "APPENDIX", "A", ":", "Rendering", "a", "10", "pixel", "Vector", "This", "appendix", "demonstrates", "the", "detailed", "steps", "involved", "in", "scheduling", "FBRAM", "rendering", ",", "using", "the", "10", "pixel", "long", ",", "one", "pixel", "wide", "vertical", "Z-buffered", "vector", "shown", "in", "Figure", "7", ".", "This", "figure", "shows", "the", "memory", "hierarchy", "elements", "touched", "by", "the", "vector", "at", "three", "levels", "of", "detail", ":", "the", "coarsest", "-LRB-", "left", "most", "-RRB-", "shows", "banks", "-LRB-", "A.", ".", "D", "-RRB-", "and", "pages", "-LRB-", "0", ".", ".255", "-RRB-", ",", "the", "intermediate", "detail", "-LRB-", "middle", "-RRB-", "shows", "blocks", "in", "the", "L2", "$", ",", "and", "the", "finest", "-LRB-", "right", "most", "-RRB-", "shows", "pixel", "quads", ".", "The", "example", "vertical", "vector", "starts", "at", "x", "=", "1", ",", "y", "=", "10", ",", "and", "ends", "at", "y", "=", "19", ".", "Table", "3", "gives", "the", "bank", ",", "page", ",", "L2", "$", "block", ",", "and", "quad", "for", "each", "pixel", "in", "the", "vector", ".", "Note", "the", "spatial", "locality", "of", "pixels", ".", "Table", "4", "below", "shows", "the", "schedule", "of", "commands", "and", "data", "issued", "to", "the", "FBRAM", ",", "and", "the", "resulting", "internal", "activities", ".", "Note", "that", "independent", "controls", "are", "available", ",", "and", "permit", "parallel", "L1", "$", "and", "L2", "$", "activities", ".", "The", "following", "abbreviations", "are", "used", "in", "Table", "4", ":", "L1", "$", "-LSB-", "n", "-RSB-", ":", "Block", "n", "of", "the", "L1", "$", ".", "L2", "$", "-LSB-", "n", "-RSB-", ":", "Block", "n", "of", "the", "L2", "$", ".", "ACP", ":", "Access", "page", "-LRB-", "DRAM", "to", "L2", "$", "transfer", "-RRB-", ".", "A", ":", "17", "C", ":", "17", "A", ":", "25", "C", ":", "25", "A", ":", "33", "0", "4", "8", "12", "16", "20", "24", "0", "4", "8", "12", "0", "1", "2", "3", "4", "5", "6", "7", "0", "1", "4", "5", "A", ":", "0", "Figure", "7", ".", "A", "10", "pixel", "vector", "near", "the", "upper", "0", "2", "4", "6", "0", "2", "4", "6", "0", "2", "4", "6", "0", "2", "4", "6", "1", "3", "5", "7", "1", "3", "5", "7", "1", "3", "5", "7", "1", "3", "5", "7", "C", ":", "0", "B", ":", "0", "D", ":", "0", "A", ":", "8", "C", ":", "8", "B", ":", "8", "D", ":", "8", "A", ":", "16", "C", ":", "16", "B", ":", "16", "D", ":", "16", "A", ":", "24", "C", ":", "24", "B", ":", "24", "D", ":", "24", "A", ":", "32B", ":", "32", "A", ":", "1", "C", ":", "1", "A", ":", "9", "C", ":", "9", "Bank", ":", "Page", "Block", "Quad", "0", "4", "8", "12", "16", "20", "0", "80", "160", "0", "16", "32", "48", "64", "80", "96", "left", "corner", "of", "the", "screen", ",", "at", "3", "levels", "of", "detail", ".", "RDB", ":", "Read", "block", "-LRB-", "L2", "$", "L1", "$", "transfer", "-RRB-", ".", "MWB", ":", "Masked", "write", "block", "-LRB-", "L1", "$", "L2", "$", "transfer", "-RRB-", ".", "PRE", ":", "Precharge", "bank", "-LRB-", "free", "L2", "$", "entry", "-RRB-", ".", "read", "x", ":", "Read", "pixel", "x", "from", "L1", "$", "to", "ALU", ".", "write", "x", ":", "Write", "pixel", "x", "from", "ALU", "to", "L1", "$", ".", "We", "follow", "the", "first", "pixel", "at", "-LRB-", "1", ",", "10", "-RRB-", "through", "the", "cache", "hierarchy", ".", "The", "pixel", "'s", "page", "-LRB-", "page", "0", "of", "bank", "A", "-RRB-", "is", "transferred", "to", "the", "L2", "$", "entry", "A", "in", "cycles", "1", "to", "4", "-LRB-", "notice", "that", "the", "next", "5", "pixels", "are", "transferred", "too", "-RRB-", ".", "The", "pixel", "'s", "block", "is", "then", "transferred", "from", "L2", "$", "entry", "A", "to", "L1", "$", "-LSB-", "0", "-RSB-", "in", "cycles", "5", "and", "6", "-LRB-", "the", "next", "pixel", "is", "transferred", "too", "-RRB-", ".", "The", "pixel", "is", "read", "from", "the", "L1", "$", "-LSB-", "0", "-RSB-", "to", "the", "pipelined", "ALU", "in", "cycle", "7", ".", "The", "old", "and", "new", "pixels", "are", "merged", "-LRB-", "Z-buffered", ",", "blended", "-RRB-", "during", "cycles", "8", "to", "11", ".", "The", "resulting", "pixel", "is", "written", "back", "to", "the", "L1", "$", "-LSB-", "0", "-RSB-", "in", "cycle", "12", ".", "The", "pixel", "'s", "block", "is", "transferred", "from", "the", "L1", "$", "-LSB-", "0", "-RSB-", "back", "to", "the", "L2", "$", "entry", "A", "-LRB-", "and", "DRAM", "page", "0", "of", "bank", "A", "-RRB-", "in", "cycles", "14", "and", "15", ".", "The", "second", "pixel", "at", "-LRB-", "1,11", "-RRB-", "hits", "in", "both", "L1", "$", "and", "L2", "$", ",", "and", "can", "follow", "one", "cycle", "behind", "the", "first", "pixel", ",", "arriving", "back", "in", "the", "L1", "$", "in", "cycle", "13", ".", "The", "pixel", "at", "-LRB-", "1,12", "-RRB-", "misses", "in", "the", "L1", "$", ",", "but", "hits", "in", "the", "L2", "$", ",", "requiring", "an", "RDB", "from", "L2", "$", "entry", "A", "to", "L1", "$", "-LSB-", "1", "-RSB-", ".", "The", "pixel", "at", "-LRB-", "1,16", "-RRB-", "misses", "in", "both", "caches", ",", "requiring", "a", "L2", "$", "access", "of", "bank", "C", ",", "and", "followed", "by", "a", "transfer", "from", "L2", "$", "entry", "C", "to", "L1", "$", "-LSB-", "2", "-RSB-", ".", "All", "the", "other", "pixels", "hit", "in", "both", "caches", ",", "and", "are", "scheduled", "like", "the", "second", "pixel", ".", "X", "Y", "Bank", "Page", "L2", "$", "Block", "Quad", "L2", "$", "L1", "$", "1", "10", "A", "0", "2", "4", "miss", "miss", "1", "11", "6", "hit", "hit", "1", "12", "3", "0", "hit", "miss", "1", "13", "2", "hit", "hit", "1", "14", "4", "hit", "hit", "1", "15", "6", "hit", "hit", "1", "16", "C", "0", "0", "0", "miss", "miss", "1", "17", "2", "hit", "hit", "1", "18", "4", "hit", "hit", "1", "19", "6", "hit", "hit", "Table", "3", "Bank", ",", "Page", ",", "L2", "$", "Block", ",", "and", "Quad", "for", "each", "pixel", "in", "the", "vector", "Table", "4", ".", "Schedule", "of", "operations", "for", "rendering", "a", "10", "pixel", "vector", "Merge", "data", "with", "Quad", "4", "of", "L1", "$", "-LSB-", "0", "-RSB-", "Merge", "data", "with", "Quad", "6", "of", "L1", "$", "-LSB-", "0", "-RSB-", "Merge", "data", "with", "Quad", "0", "of", "L1", "$", "-LSB-", "1", "-RSB-", "Merge", "data", "with", "Quad", "2", "of", "L1", "$", "-LSB-", "1", "-RSB-", "Merge", "data", "with", "Quad", "4", "of", "L1", "$", "-LSB-", "1", "-RSB-", "Merge", "data", "with", "Quad", "6", "of", "L1", "$", "-LSB-", "1", "-RSB-", "Merge", "data", "with", "Quad", "0", "of", "L1", "$", "-LSB-", "2", "-RSB-", "Merge", "data", "with", "Quad", "2", "of", "L1", "$", "-LSB-", "2", "-RSB-", "Merge", "data", "with", "Quad", "4", "of", "L1", "$", "-LSB-", "2", "-RSB-", "Merge", "data", "with", "Quad", "6", "of", "L1", "$", "-LSB-", "2", "-RSB-", "Access", "Page", "0", "of", "Bank", "A", "Access", "Page", "0", "of", "Bank", "C", "L2", "$", "-LSB-", "2", "-RSB-", "of", "Bank", "A", "L1", "$", "-LSB-", "0", "-RSB-", "L2", "$", "-LSB-", "0", "-RSB-", "of", "Bank", "C", "L1", "$", "-LSB-", "2", "-RSB-", "L2", "$", "-LSB-", "3", "-RSB-", "of", "Bank", "A", "L1", "$", "-LSB-", "1", "-RSB-", "L2", "$", "-LSB-", "2", "-RSB-", "of", "Bank", "A", "L1", "$", "-LSB-", "0", "-RSB-", "L2", "$", "-LSB-", "3", "-RSB-", "of", "Bank", "A", "L1", "$", "-LSB-", "1", "-RSB-", "L2", "$", "-LSB-", "0", "-RSB-", "of", "Bank", "C", "L1", "$", "-LSB-", "2", "-RSB-", "Precharge", "Bank", "A", "23", "22", "21", "20", "19", "18", "17", "16", "15", "14", "13", "12", "11", "10", "9", "8", "7", "6", "5", "4", "3", "2", "1", "ACP", "ACP", "PRE", "RDB", "RDB", "RDB", "MWB", "MWB", "MWB", "RDB", "RDB", "RDB", "MWB", "MWB", "MWB", "read", "0", "read", "2", "read", "4", "read", "6", "read", "4", "read", "6", "read", "0", "read", "2", "read", "4", "read", "6", "write", "4", "write", "6", "write", "4", "write", "6", "write", "4", "write", "6", "write", "0", "write", "2", "write", "0", "write", "2", "L1", "$", "Command", "and", "Data", "L2", "$", "Command", "L2", "$", "Activities", "L1", "$", "Activities", "A", "C", "B", "D", "3", "4", "5", "6", "7", "0", "1", "2", "Internal", "Activities", "Commands", "and", "Data", "to", "FBRAM"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B"], "extractive_keyphrases": ["caching", "dram", "dynamic memory chips", "frame buffer", "video buffers", "dynamic random access memory", "vram", "pixel cache", "fbram", "memory", "3d graphics hardware", "acceleration", "caches", "3d graphics", "rendering", "video output bandwidth", "sram", "graphics"], "abstractive_keyphrases": ["pixel processing", "z-buffer", "z buffer", "rgba blend", "parallel graphics algorithms", "pixel caching", "z-compare", "optimisation", "dynamic memory", "rendering rate", "z-buffering"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "71", "document": ["Discovering", "and", "Ranking", "Web", "Services", "with", "BASIL", ":", "A", "Personalized", "Approach", "with", "Biased", "Focus", "In", "this", "paper", "we", "present", "a", "personalized", "web", "service", "discovery", "and", "ranking", "technique", "for", "discovering", "and", "ranking", "relevant", "data-intensive", "web", "services", ".", "Our", "first", "prototype", "called", "BASIL", "supports", "a", "personalized", "view", "of", "data-intensive", "web", "services", "through", "source-biased", "focus", ".", "BASIL", "provides", "service", "discovery", "and", "ranking", "through", "source-biased", "probing", "and", "source-biased", "relevance", "metrics", ".", "Concretely", ",", "the", "BASIL", "approach", "has", "three", "unique", "features", ":", "-LRB-", "1", "-RRB-", "It", "is", "able", "to", "determine", "in", "very", "few", "interactions", "whether", "a", "target", "service", "is", "relevant", "to", "the", "given", "source", "service", "by", "probing", "the", "target", "with", "very", "precise", "probes", ";", "-LRB-", "2", "-RRB-", "It", "can", "evaluate", "and", "rank", "the", "relevant", "services", "discovered", "based", "on", "a", "set", "of", "source-biased", "relevance", "metrics", ";", "and", "-LRB-", "3", "-RRB-", "It", "can", "identify", "interesting", "types", "of", "relationships", "for", "each", "source", "service", "with", "respect", "to", "other", "discovered", "services", ",", "which", "can", "be", "used", "as", "value-added", "metadata", "for", "each", "service", ".", "We", "also", "introduce", "a", "performance", "optimization", "technique", "called", "source-biased", "probing", "with", "focal", "terms", "to", "further", "improve", "the", "effectiveness", "of", "the", "basic", "source-biased", "service", "discovery", "algorithm", ".", "The", "paper", "concludes", "with", "a", "set", "of", "initial", "experiments", "showing", "the", "effectiveness", "of", "the", "BASIL", "system", ".", "H.", "3.5", "-LSB-", "Online", "Information", "Services", "-RSB-", ":", "Web-based", "services", "Algorithms", ",", "Experimentation", "Most", "web", "services", "today", "are", "web-enabled", "applications", "that", "can", "be", "accessed", "and", "invoked", "using", "a", "messaging", "system", ",", "typically", "relying", "on", "standards", "such", "as", "XML", ",", "WSDL", ",", "and", "SOAP", "-LSB-", "29", "-RSB-", ".", "Many", "companies", "have", "latched", "onto", "the", "web", "services", "mantra", ",", "including", "major", "software", "developers", ",", "business", "exchanges", ",", "eCom-merce", "sites", ",", "and", "search", "engines", "-LSB-", "15", ",", "9", ",", "2", ",", "1", ",", "7", "-RSB-", ".", "A", "large", "and", "growing", "portion", "of", "the", "web", "services", "today", "can", "be", "categorized", "as", "data-intensive", "web", "services", ".", "This", "research", "is", "partially", "supported", "by", "NSF", "CNS", "CCR", ",", "NSF", "ITR", ",", "DoE", "SciDAC", ",", "DARPA", ",", "CERCS", "Research", "Grant", ",", "IBM", "Faculty", "Award", ",", "IBM", "SUR", "grant", ",", "HP", "Equipment", "Grant", ",", "and", "LLNL", "LDRD", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "ICSOC", "'", "04", ",", "November", "15", "19", ",", "2004", ",", "New", "York", ",", "New", "York", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-871-7", "/", "04/0011", "...", "$", "5.00", ".", "Data-intensive", "web", "services", "provide", "access", "to", "huge", "and", "growing", "data", "stores", "and", "support", "tools", "for", "searching", ",", "manipulating", ",", "and", "analyzing", "those", "data", "stores", ".", "For", "example", ",", "both", "Amazon", "-LSB-", "1", "-RSB-", "and", "Google", "-LSB-", "7", "-RSB-", "now", "provide", "XML", "-", "and", "SOAP-based", "web", "service", "interfaces", "to", "their", "underlying", "data", "repositories", "with", "support", "for", "advanced", "search", "operators", "over", ",", "collectively", ",", "billions", "of", "items", ".", "In", "the", "life", "sciences", "domain", ",", "many", "bioinformatics", "services", "are", "transitioning", "from", "human-in-the-loop", "web", "interfaces", "to", "the", "web", "services", "model", "-LSB-", "9", "-RSB-", ",", "providing", "direct", "access", "to", "unprecedented", "amounts", "of", "raw", "data", "and", "specialized", "research", "tools", "to", "provide", "high-level", "analysis", "and", "search", "over", "these", "data", "services", ".", "With", "the", "increasing", "visibility", "of", "web", "services", "and", "the", "Service-Oriented", "Computing", "paradigm", "-LSB-", "18", "-RSB-", ",", "there", "is", "a", "growing", "need", "for", "efficient", "mechanisms", "for", "discovering", "and", "ranking", "services", ".", "Effective", "mechanisms", "for", "web", "service", "discovery", "and", "ranking", "are", "critical", "for", "organizations", "to", "take", "advantage", "of", "the", "tremendous", "opportunities", "offered", "by", "web", "services", ",", "to", "engage", "in", "business", "collaborations", "and", "service", "compositions", ",", "to", "identify", "potential", "service", "partners", ",", "and", "to", "understand", "service", "competitors", "and", "increase", "the", "competitive", "edge", "of", "their", "service", "offerings", ".", "Current", "web", "service", "discovery", "techniques", "can", "be", "classified", "into", "two", "types", ":", "categorization-based", "discovery", "and", "personalized", "relevance-based", "discovery", ".", "The", "former", "discovers", "web", "services", "by", "clustering", "and", "categorizing", "a", "collection", "of", "web", "services", "into", "different", "groups", "based", "on", "certain", "common", "properties", "of", "the", "services", ".", "Most", "of", "the", "existing", "UDDI", "-LSB-", "28", "-RSB-", "registry-based", "service", "discovery", "methods", "are", "of", "this", "type", ".", "They", "typically", "discover", "relevant", "services", "by", "querying", "metadata", "maintained", "in", "the", "common", "registries", "-LRB-", "like", "the", "ones", "offered", "by", "Microsoft", "-LSB-", "16", "-RSB-", "and", "IBM", "-LSB-", "10", "-RSB-", "-RRB-", ".", "A", "typical", "question", "is", "``", "Which", "bioinformatics", "web", "services", "offer", "BLAST", "capability", "''", "or", "``", "Which", "commercial", "services", "offer", "on-line", "auctions", "''", ".", "The", "second", "type", "of", "discovery", "mechanisms", "uses", "personalized", "relevance", "reasoning", "and", "support", "questions", "such", "as", "``", "Which", "services", "offer", "the", "same", "type", "of", "content", "as", "NCBI", "''", ",", "and", "``", "Find", "the", "top-ten", "web", "services", "that", "offer", "more", "coverage", "than", "the", "BLAST", "services", "at", "NCBI", "''", ".", "These", "two", "types", "of", "service", "discovery", "techniques", "offer", "different", "focus", "and", "complementary", "capabilities", ".", "Consider", "the", "following", "examples", ":", "A", "bioinformatics", "researcher", "may", "be", "interested", "in", "finding", "all", "services", "similar", "to", "NCBI", "'s", "BLAST", "service", "for", "searching", "DNA", "and", "protein", "sequence", "libraries", "-LSB-", "17", "-RSB-", ".", "Current", "service", "registries", "may", "provide", "pointers", "to", "other", "BLAST", "services", ",", "but", "they", "do", "not", "describe", "how", "these", "other", "sites", "relate", "specifically", "to", "NCBI", "'s", "BLAST", "service", ".", "Which", "services", "provide", "the", "most", "similar", "coverage", "with", "respect", "to", "NCBI", "-LRB-", "e.g.", "of", "similar", "proteins", "or", "organisms", "-RRB-", "?", "Which", "services", "are", "complementary", "in", "their", "coverage", "-LRB-", "e.g.", "of", "other", "sequence", "libraries", "-RRB-", "?", "How", "best", "should", "the", "BLAST", "services", "be", "ranked", "relative", "to", "the", "NCBI", "service", "?", "A", "health", "science", "researcher", "familiar", "with", "the", "PubMed", "med-153", "ical", "literature", "service", "may", "be", "interested", "in", "discovering", "other", "related", "medical", "digital", "library", "services", ".", "Given", "his", "prior", "knowledge", "with", "PubMed", ",", "he", "may", "want", "to", "ask", "certain", "personalized", "-LRB-", "source-biased", "-RRB-", "discovery", "requests", ",", "which", "are", "not", "supported", "by", "the", "conventional", "service-registry-based", "discovery", "model", ".", "Examples", "include", ":", "Find", "and", "rank", "all", "PubMed-related", "medical", "literature", "sites", ".", "Which", "services", "have", "more", "general", "coverage", "than", "PubMed", "?", "Which", "medical", "literature", "services", "are", "more", "specialized", "than", "PubMed", "?", "These", "examples", "highlight", "two", "fundamental", "differences", "between", "the", "categorization-based", "and", "the", "personalization-based", "discovery", "model", ":", "-LRB-", "1", "-RRB-", "Categorization", "of", "web", "services", "based", "on", "general", "descriptions", "maintained", "at", "the", "service", "registries", "are", "insufficient", "and", "inadequate", "when", "a", "user", "is", "interested", "in", "discovery", "based", "on", "a", "particular", "service", "-LRB-", "or", "a", "set", "of", "services", "-RRB-", "with", "which", "she", "has", "prior", "experience", "or", "knowledge", "-LRB-", "e.g.", "NCBI", "BLAST", "or", "PubMed", "-RRB-", ";", "and", "-LRB-", "2", "-RRB-", "There", "is", "a", "need", "for", "service", "ranking", "metrics", "that", "capture", "the", "relative", "scope", "and", "coverage", "of", "the", "data", "offered", "with", "respect", "to", "a", "previously", "known", "service", ".", "Although", "these", "two", "types", "of", "discovery", "mechanisms", "are", "complementary", ",", "most", "existing", "proposals", "on", "web", "service", "discovery", "fall", "into", "the", "first", "type", ".", "Surprisingly", ",", "there", "are", ",", "to", "our", "knowledge", ",", "no", "effective", "means", "to", "provide", "such", "personalized", "and", "biased", "discovery", "and", "ranking", "support", "without", "relying", "on", "significant", "human", "intervention", ".", "In", "this", "paper", "we", "present", "algorithms", "for", "discovering", "and", "ranking", "relevant", "data-intensive", "web", "services", ".", "Our", "first", "prototype", "called", "BASIL", "1", "--", "supports", "a", "personalized", "view", "of", "web", "services", "through", "source-biased", "probing", "and", "source-biased", "relevance", "detection", "and", "ranking", "metrics", ".", "Concretely", ",", "our", "approach", "is", "capable", "of", "discovering", "and", "ranking", "web", "services", "by", "focusing", "on", "the", "nature", "and", "degree", "of", "the", "data", "relevance", "of", "the", "source", "service", "to", "others", ".", "Given", "a", "service", "like", "NCBI", "'s", "BLAST", "called", "the", "source", "-", "the", "BASIL", "source-biased", "probing", "technique", "leverages", "the", "summary", "information", "of", "the", "source", "to", "generate", "a", "series", "of", "biased", "probes", "to", "other", "services", "called", "the", "targets", ".", "This", "source-biased", "probing", "allows", "us", "to", "determine", "whether", "a", "target", "service", "is", "relevant", "to", "the", "source", "by", "probing", "the", "target", "with", "very", "few", "focused", "probes", ".", "We", "introduce", "the", "biased", "focus", "metric", "to", "discover", "and", "rank", "highly", "relevant", "data", "services", "and", "measure", "relevance", "between", "services", ".", "Our", "initial", "results", "on", "both", "simulation", "and", "web", "experiments", "show", "that", "the", "BASIL", "system", "supports", "efficient", "discovery", "and", "ranking", "of", "data-intensive", "web", "services", ".", "We", "consider", "a", "universe", "of", "discourse", "W", "consisting", "of", "D", "data-intensive", "web", "services", ":", "W", "=", "-LCB-", "S", "1", ",", "S", "2", ",", "...", ",", "S", "D", "-RCB-", "where", "each", "service", "produces", "one", "or", "more", "XML", "documents", "in", "response", "to", "a", "particular", "service", "request", ".", "Hence", ",", "we", "describe", "each", "web", "service", "S", "i", "as", "a", "set", "of", "M", "i", "documents", ":", "S", "i", "=", "-LCB-", "doc", "1", ",", "doc", "2", ",", ",", "doc", "M", "i", "-RCB-", ".", "For", "example", ",", "the", "documents", "corresponding", "to", "the", "NCBI", "BLAST", "service", "would", "consist", "of", "genetic", "sequences", "and", "documentation", "generated", "in", "response", "to", "a", "service", "requests", ".", "Similarly", ",", "the", "documents", "corresponding", "to", "PubMed", "would", "consist", "of", "the", "set", "of", "medical", "journal", "articles", "in", "the", "PubMed", "data", "repository", ".", "There", "are", "N", "terms", "-LRB-", "t", "1", ",", "t", "2", ",", "...", ",", "t", "N", "-RRB-", "in", "the", "universe", "of", "discourse", "W", "including", "both", "the", "tags", "and", "content", "of", "the", "XML", "documents", "where", "common", "stopwords", "-LRB-", "like", "`", "a", "'", ",", "`", "the", "'", ",", "and", "so", "on", "-RRB-", "have", "been", "eliminated", ".", "Optionally", ",", "the", "set", "of", "N", "terms", "may", "be", "further", "refined", "by", "stemming", "-LSB-", "19", "-RSB-", "to", "remove", "prefixes", "and", "suffixes", ".", "Adopting", "a", "vector-space", "model", "-LSB-", "22", ",", "23", "-RSB-", "of", "the", "service", "data", "repository", ",", "we", "describe", "each", "service", "S", "i", "as", "a", "vector", "consisting", "of", "the", "terms", "in", "the", "service", "along", "with", "a", "corresponding", "weight", ":", "Summary", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "-LRB-", "t", "1", ",", "w", "i", "1", "-RRB-", ",", "-LRB-", "t", "2", ",", "w", "i", "2", "-RRB-", ",", ",", "-LRB-", "t", "N", ",", "w", "iN", "-RRB-", "-RCB-", "1", "BASIL", ":", "BiAsed", "Service", "dIscovery", "aLgorithm", "A", "term", "that", "does", "not", "occur", "in", "any", "documents", "served", "by", "a", "service", "S", "i", "will", "have", "weight", "0", ".", "Typically", ",", "for", "any", "particular", "service", "S", "i", ",", "only", "a", "fraction", "of", "the", "N", "terms", "will", "have", "non-zero", "weight", ".", "We", "refer", "to", "the", "number", "of", "non-zero", "weighted", "terms", "in", "S", "i", "as", "N", "i", ".", "We", "call", "the", "vector", "Summary", "-LRB-", "S", "i", "-RRB-", "a", "service", "summary", "for", "the", "data-intensive", "web", "service", "S", "i", ".", "A", "service", "summary", "is", "a", "single", "aggregate", "vector", "that", "summarizes", "the", "overall", "distribution", "of", "terms", "in", "the", "set", "of", "documents", "produced", "by", "the", "service", ".", "In", "this", "first", "prototype", "of", "BASIL", ",", "we", "rely", "on", "a", "bag-of-words", "model", "that", "is", "indifferent", "to", "the", "structure", "inherent", "in", "the", "XML", "documents", ".", "As", "we", "demonstrate", "in", "the", "experiments", "section", ",", "this", "bag-of-words", "approach", "is", "quite", "powerful", "without", "the", "added", "burden", "of", "structural", "comparisons", ".", "We", "anticipate", "augmenting", "future", "versions", "of", "BASIL", "to", "incorporate", "structural", "components", "-LRB-", "to", "support", "schema", "matching", ",", "leverage", "existing", "ontologies", ",", "etc.", "-RRB-", ".", "To", "find", "Summary", "-LRB-", "S", "i", "-RRB-", ",", "we", "must", "first", "represent", "each", "document", "doc", "j", "-LRB-", "1", "j", "M", "-RRB-", "as", "a", "vector", "of", "terms", "and", "the", "frequency", "of", "each", "term", "in", "the", "document", ":", "doc", "j", "=", "-LCB-", "-LRB-", "t", "1", ",", "f", "req", "j", "1", "-RRB-", ",", "-LRB-", "t", "2", ",", "f", "req", "j", "2", "-RRB-", ",", ",", "-LRB-", "t", "N", ",", "f", "req", "jN", "-RRB-", "-RCB-", "where", "f", "req", "jk", "is", "the", "frequency", "of", "occurrence", "of", "term", "t", "k", "in", "document", "j", ".", "The", "initial", "weight", "for", "each", "term", "may", "be", "based", "on", "the", "raw", "frequency", "of", "the", "term", "in", "the", "document", "and", "it", "can", "be", "refined", "using", "alternative", "occurrence-based", "metrics", "like", "the", "normalized", "frequency", "of", "the", "term", "and", "the", "term-frequency", "inverse", "document-frequency", "-LRB-", "TFIDF", "-RRB-", "weight", ".", "TFIDF", "weights", "the", "terms", "in", "each", "document", "vector", "based", "on", "the", "characteristics", "of", "all", "documents", "in", "the", "set", "of", "documents", ".", "Given", "a", "particular", "encoding", "for", "each", "document", ",", "we", "may", "generate", "the", "overall", "service", "summary", "in", "a", "number", "of", "ways", ".", "Initially", ",", "the", "weight", "for", "each", "term", "in", "the", "service", "summary", "may", "be", "based", "on", "the", "overall", "frequency", "of", "the", "term", "across", "all", "the", "documents", "in", "the", "service", "-LRB-", "called", "the", "service", "frequency", ",", "or", "servFreq", "-RRB-", ":", "w", "ik", "=", "servF", "req", "ik", "=", "M", "j", "=", "1", "f", "req", "jk", ".", "Alternatively", ",", "we", "can", "also", "define", "the", "weight", "for", "each", "term", "based", "on", "the", "number", "of", "documents", "in", "which", "each", "term", "occurs", "-LRB-", "called", "the", "document", "count", "frequency", ",", "or", "docCount", "-RRB-", ".", "Once", "we", "have", "chosen", "our", "service", "model", ",", "to", "effectively", "compare", "two", "data-intensive", "web", "services", "and", "determine", "the", "relevance", "of", "one", "service", "to", "another", ",", "we", "need", "two", "technical", "components", ":", "-LRB-", "1", "-RRB-", "a", "technique", "for", "generating", "a", "service", "summary", ";", "and", "-LRB-", "2", "-RRB-", "a", "metric", "for", "measuring", "the", "relevance", "between", "the", "two", ".", "2.1", "Estimating", "Service", "Summaries", "Ideally", ",", "we", "would", "have", "access", "to", "the", "complete", "set", "of", "documents", "belonging", "to", "a", "data-intensive", "web", "service", ".", "We", "call", "a", "service", "summary", "for", "S", "i", "built", "on", "these", "documents", "an", "actual", "service", "summary", "or", "ASummary", "-LRB-", "S", "i", "-RRB-", ".", "However", ",", "the", "enormous", "size", "of", "the", "underlying", "repositories", "for", "many", "data-intensive", "web", "services", "coupled", "with", "the", "non-trivial", "costs", "of", "collecting", "documents", "-LRB-", "through", "repeated", "service", "requests", "and", "individual", "document", "transfer", "-RRB-", "make", "it", "unreasonable", "to", "generate", "an", "actual", "service", "summary", "for", "every", "service", "available", ".", "As", "a", "result", ",", "previous", "researchers", "in", "the", "context", "of", "distributed", "databases", "have", "introduced", "several", "probing", "techniques", "for", "generating", "representative", "summaries", "based", "on", "small", "samples", "of", "a", "document-based", "collections", "-LSB-", "3", ",", "4", "-RSB-", ".", "We", "call", "such", "a", "representative", "summary", "an", "estimated", "service", "summary", ",", "or", "ESummary", "-LRB-", "S", "i", "-RRB-", ":", "ESummary", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "-LRB-", "t", "1", ",", "w", "i", "1", "-RRB-", ",", "-LRB-", "t", "2", ",", "w", "i", "2", "-RRB-", ",", ",", "-LRB-", "t", "N", ",", "w", "iN", "-RRB-", "-RCB-", "The", "number", "of", "occurring", "terms", "-LRB-", "i.e.", "those", "terms", "that", "have", "non-zero", "weight", "-RRB-", "in", "the", "estimated", "summary", "is", "denoted", "by", "N", "i", ".", "Typically", ",", "N", "i", "will", "be", "much", "less", "than", "the", "number", "of", "non-zero", "weighted", "terms", "N", "i", "in", "the", "actual", "service", "summary", "since", "only", "154", "a", "fraction", "of", "the", "total", "documents", "in", "a", "service", "will", "be", "examined", ".", "The", "goal", "of", "a", "prober", "is", "typically", "to", "find", "ESummary", "-LRB-", "S", "i", "-RRB-", "such", "that", "the", "relative", "distribution", "of", "terms", "closely", "matches", "the", "distribution", "of", "terms", "in", "ASummary", "-LRB-", "S", "i", "-RRB-", ",", "even", "though", "only", "a", "fraction", "of", "the", "total", "service", "documents", "will", "be", "examined", ".", "Current", "probing", "techniques", "for", "estimating", "service", "summaries", "aim", "at", "estimating", "the", "overall", "summary", "of", "the", "data", "served", "by", "a", "web", "service", ".", "We", "classify", "them", "into", "two", "categories", ":", "random", "sampling", "and", "query-based", "sampling", ".", "Random", "Sampling", "-", "N", "o", "Bias", "If", "we", "had", "unfettered", "access", "to", "a", "data-intensive", "web", "service", ",", "we", "could", "randomly", "select", "terms", "from", "the", "service", "to", "generate", "the", "estimated", "service", "summary", "ESummary", "-LRB-", "S", "i", "-RRB-", ".", "Barring", "that", ",", "we", "could", "randomly", "select", "documents", "with", "which", "to", "base", "the", "estimated", "service", "summary", ".", "We", "will", "call", "such", "a", "random", "selection", "mechanism", "an", "unbiased", "prober", "since", "all", "terms", "-LRB-", "or", "documents", "-RRB-", "are", "equally", "likely", "to", "be", "selected", ".", "In", "practice", ",", "an", "unbiased", "prober", "is", "unrealistic", "since", "most", "services", "only", "provide", "a", "request-response", "mechanism", "for", "extracting", "documents", ".", "Query-based", "Sampling", "-", "Query", "Bias", "As", "a", "good", "approximation", "to", "unbiased", "probing", ",", "Callan", "et", "al.", "-LSB-", "3", ",", "4", "-RSB-", "have", "introduced", "a", "query-based", "sampling", "technique", "for", "generating", "accurate", "estimates", "of", "document-based", "collections", "by", "examining", "only", "a", "fraction", "of", "the", "total", "documents", ".", "The", "Callan", "technique", "has", "been", "shown", "to", "provide", "accurate", "estimates", "using", "very", "few", "documents", "-LRB-", "e.g.", "several", "hundred", "-RRB-", ".", "Adapting", "the", "Callan", "technique", "to", "the", "web", "services", "context", "requires", "repeat-edly", "requesting", "documents", "from", "a", "service", "using", "a", "limited", "set", "of", "service", "requests", ".", "Since", "the", "documents", "extracted", "are", "not", "chosen", "randomly", ",", "but", "are", "biased", "by", "the", "service", "request", "mechanism", "through", "the", "ranking", "of", "returned", "documents", "and", "by", "providing", "incomplete", "access", "to", "the", "entire", "data", "service", "repository", ",", "we", "say", "that", "the", "Callan", "technique", "displays", "query", "bias", ".", "There", "are", "several", "ways", "to", "define", "the", "limited", "set", "of", "queries", ",", "including", "random", "selection", "from", "a", "general", "dictionary", "and", "random", "selection", "augmented", "by", "terms", "drawn", "from", "the", "extracted", "documents", "from", "the", "service", ".", "In", "the", "rest", "of", "the", "paper", ",", "when", "we", "refer", "to", "an", "estimated", "service", "summary", "ESummary", "-LRB-", "S", "i", "-RRB-", ",", "we", "mean", "one", "that", "has", "been", "produced", "by", "a", "query-biased", "prober", ".", "2.2", "Comparing", "Service", "Summaries", "In", "order", "to", "determine", "the", "relevance", "of", "one", "service", "S", "i", "to", "another", "service", "S", "j", "and", "to", "assess", "the", "nature", "of", "their", "relationship", ",", "we", "require", "an", "appropriate", "relevance", "metric", ".", "There", "are", "a", "number", "of", "possible", "relevance", "metrics", "to", "compare", "two", "service", "summaries", ".", "A", "fairly", "simple", "and", "straightforward", "approach", "is", "based", "on", "a", "count", "of", "the", "number", "of", "common", "terms", "in", "the", "two", "services", "S", "i", "and", "S", "j", ":", "rel", "-LRB-", "S", "i", ",", "S", "j", "-RRB-", "=", "|", "ESummary", "-LRB-", "S", "i", "-RRB-", "ESummary", "-LRB-", "S", "j", "-RRB-", "|", "max", "-LRB-", "|", "ESummary", "-LRB-", "S", "j", "-RRB-", "|", ",", "|", "ESummary", "-LRB-", "S", "i", "-RRB-", "|", "-RRB-", "Two", "services", "with", "exactly", "the", "same", "terms", "represented", "in", "their", "estimated", "summaries", "will", "have", "rel", "-LRB-", "S", "i", ",", "S", "j", "-RRB-", "=", "1", ",", "indicating", "the", "highest", "possible", "degree", "of", "relevance", ".", "Conversely", ",", "two", "services", "with", "no", "terms", "in", "common", "will", "have", "rel", "-LRB-", "S", "i", ",", "S", "j", "-RRB-", "=", "0", ",", "indicating", "the", "lowest", "possible", "degree", "of", "relevance", ".", "We", "now", "use", "an", "example", "to", "illustrate", "why", "the", "existing", "service", "summary", "estimation", "techniques", "are", "inadequate", "for", "effectively", "discovering", "relevant", "services", ",", "especially", "in", "terms", "of", "the", "data", "coverage", "of", "one", "-LRB-", "target", "-RRB-", "in", "the", "context", "of", "the", "other", "-LRB-", "source", "-RRB-", ".", "Example", ":", "We", "collected", "fifty", "documents", "from", "the", "Google", "web", "service", ",", "the", "PubMed", "web", "service", ",", "and", "ESPN", "'s", "search", "site", ",", "respectively", ",", "using", "a", "query-based", "sampling", "technique", "for", "service", "summary", "estimation", ".", "Using", "the", "service", "summaries", "constructed", ",", "we", "find", "that", "rel", "-LRB-", "Google", ",", "P", "ubM", "ed", "-RRB-", "=", "0.05", "and", "rel", "-LRB-", "ESP", "N", ",", "P", "ubM", "ed", "-RRB-", "=", "0.06", ".", "In", "both", "cases", "the", "service", "summaries", "share", "very", "few", "terms", "in", "common", "and", "hence", "both", "Google", "and", "ESPN", "appear", "to", "be", "irrelevant", "with", "respect", "to", "PubMed", ",", "even", "though", "Google", "provides", "considerable", "health-related", "content", ".", "Based", "on", "these", "figures", ",", "we", "could", "incorrectly", "conclude", "that", ":", "-LRB-", "1", "-RRB-", "Google", "is", "irrelevant", "to", "PubMed", ";", "and", "-LRB-", "2", "-RRB-", "Relatively", "speaking", ",", "ESPN", "is", "more", "relevant", "to", "PubMed", "than", "Google", ".", "This", "example", "underlines", "two", "critical", "problems", "with", "current", "techniques", "for", "probing", "and", "comparing", "service", "summaries", ":", "First", ",", "current", "service", "summary", "estimation", "techniques", "are", "concerned", "with", "generating", "overall", "-LRB-", "or", "global", "-RRB-", "summaries", "of", "the", "underlying", "data", "repositories", ".", "The", "goal", "is", "to", "generate", "essentially", "an", "unbiased", "estimate", "of", "the", "actual", "service", "summary", ".", "Second", ",", "the", "current", "relevance", "comparison", "metric", "fails", "to", "serve", "as", "a", "valuable", "ranking", "metric", "or", "indicator", "of", "interesting", "relationships", "between", "target", "services", "in", "terms", "of", "the", "data", "coverage", "of", "a", "target", "service", "with", "respect", "to", "the", "source", ".", "Bearing", "these", "issues", "in", "mind", ",", "we", "now", "introduce", "BASIL", "an", "efficient", "web", "service", "discovery", "and", "ranking", "prototype", "that", "relies", "on", "a", "biased", "perspective", "of", "services", "rather", "than", "on", "a", "single", "global", "perspective", ".", "BASIL", "relies", "on", "three", "fundamental", "steps", ":", "-LRB-", "1", "-RRB-", "source-biased", "probing", "for", "web", "service", "discovery", ";", "-LRB-", "2", "-RRB-", "evaluation", "and", "ranking", "of", "discovered", "services", "with", "the", "biased", "focus", "metric", ";", "and", "-LRB-", "3", "-RRB-", "leveraging", "the", "biased", "perspective", "of", "service", "sources", "and", "targets", "to", "discover", "interesting", "relationships", ".", "3.1", "Source-Biased", "Probing", "Given", "a", "data-intensive", "web", "service", "the", "source", "the", "source-biased", "probing", "technique", "leverages", "the", "summary", "information", "of", "the", "source", "to", "generate", "a", "series", "of", "biased", "probes", "for", "analyzing", "another", "service", "the", "target", ".", "This", "source-biased", "probing", "allows", "us", "to", "determine", "in", "very", "few", "interactions", "whether", "a", "target", "service", "is", "relevant", "to", "the", "source", "by", "probing", "the", "target", "with", "focused", "probes", ".", "To", "help", "differentiate", "the", "source-biased", "approach", "from", "others", "discussed", "in", "Section", "2", ",", "in", "this", "section", "we", "use", "to", "denote", "the", "source", "service", "and", "to", "denote", "the", "target", "service", "instead", "of", "S", "i", "and", "S", "j", ".", "Given", "two", "services", "and", ",", "the", "output", "of", "the", "source-biased", "probing", "is", "a", "subjective", "service", "summary", "for", "that", "is", "biased", "towards", ".", "We", "define", "the", "source-biased", "summary", "of", "the", "target", "service", ",", "denoted", "by", "ESummary", "-LRB-", "-RRB-", ",", "as", "follows", ":", "ESummary", "-LRB-", "-RRB-", "=", "-LCB-", "-LRB-", "t", "1", ",", "w", "1", "-RRB-", ",", "-LRB-", "t", "2", ",", "w", "2", "-RRB-", ",", ",", "-LRB-", "t", "N", ",", "w", "N", "-RRB-", "-RCB-", "N", "is", "the", "total", "number", "of", "terms", "used", "in", "analyzing", "the", "set", "of", "data-intensive", "web", "services", ".", "w", "i", "-LRB-", "1", "i", "N", "-RRB-", "is", "the", "weight", "of", "term", "t", "i", ",", "defined", "using", "one", "of", "the", "weight", "function", "introduced", "in", "Section", "2", ".", "To", "distinguish", "the", "term", "weight", "w", "j", "from", "the", "corresponding", "term", "weight", "in", "the", "biased", "target", "summary", ",", "we", "denote", "the", "bias", "by", "w", "j", ".", "It", "is", "important", "to", "note", "that", "typically", "the", "inequality", "w", "j", "=", "w", "j", "does", "hold", ".", "Concretely", ",", "the", "source-biased", "probing", "algorithm", "generates", "a", "source-biased", "summary", "for", "a", "target", "as", "follows", ":", "It", "uses", "the", "estimated", "service", "summary", "of", "the", "source", ",", "denoted", "by", "ESummary", "-LRB-", "-RRB-", ",", "as", "a", "dictionary", "of", "candidate", "probe", "terms", "and", "sends", "a", "series", "of", "query", "requests", "parameterized", "by", "probe", "terms", ",", "selected", "from", "ESummary", "-LRB-", "-RRB-", ",", "to", "the", "target", "service", ";", "for", "each", "probe", "term", ",", "it", "retrieves", "the", "top", "m", "matched", "documents", "from", ",", "generates", "summary", "terms", "and", "updates", "ESummary", "-LRB-", "-RRB-", ".", "This", "process", "repeats", "until", "a", "stopping", "condition", "is", "met", ".", "Figure", "1", "illustrates", "the", "source-biased", "probing", "process", ".", "Note", "that", "in", "this", "first", "prototype", "of", "BASIL", "the", "service", "requests", "are", "constrained", "to", "keyword-based", "probes", ".", "Note", "that", "the", "source-biased", "approach", "can", "also", "be", "applied", "to", "UDDI-directory-based", "discovery", "by", "restricting", "155", "SourceBiasedProbing", "-LRB-", "Source", ",", "Target", "-RRB-", "For", "target", "service", ",", "initialize", "ESummary", "-LRB-", "-RRB-", "=", ".", "repeat", "Invoke", "the", "probe", "term", "selection", "algorithm", "to", "select", "a", "one-term", "query", "probe", "q", "from", "the", "source", "of", "bias", "ESummary", "-LRB-", "-RRB-", ".", "Send", "the", "query", "q", "to", "the", "target", "service", ".", "Retrieve", "the", "top-m", "documents", "from", ".", "Update", "ESummary", "-LRB-", "-RRB-", "with", "the", "terms", "and", "frequencies", "from", "the", "top-m", "documents", ".", "until", "Stop", "probing", "condition", "is", "met", ".", "return", "ESummary", "-LRB-", "-RRB-", "Figure", "1", ":", "Source-Biased", "Probing", "Algorithm", "the", "source", "summary", "to", "be", "generated", "from", "the", "meta-data", "description", "maintained", "at", "the", "registries", "rather", "than", "performing", "the", "source-biased", "probing", "directly", ".", "However", ",", "the", "quality", "of", "the", "discovery", "results", "will", "be", "lower", "due", "to", "the", "lack", "of", "richness", "in", "the", "metadata", "maintained", "at", "the", "service", "registries", "for", "many", "services", ".", "Now", "we", "use", "a", "simple", "example", "to", "illustrate", "the", "power", "of", "source-biased", "probing", ".", "For", "presentation", "brevity", ",", "we", "are", "considering", "a", "simplistic", "world", "of", "only", "very", "few", "terms", "per", "service", "summary", ".", "In", "reality", ",", "each", "service", "summary", "would", "consist", "of", "orders", "of", "magnitude", "more", "terms", ":", "Example", ":", "Suppose", "that", "our", "goal", "is", "to", "understand", "the", "relevance", "of", "Google", "to", "PubMed", ".", "Suppose", ",", "ESummary", "-LRB-", "P", "ubMed", "-RRB-", "=", "-LCB-", "arthritis", ",", "bacteria", ",", "cancer", "-RCB-", "-LRB-", "where", "for", "simplicity", "we", "have", "dropped", "the", "term", "weights", "from", "the", "summary", "-RRB-", ".", "Again", "for", "simplicity", "suppose", "that", "Google", "provides", "access", "to", "only", "three", "types", "of", "information", ":", "health", ",", "animals", ",", "and", "cars", ":", "ASummary", "-LRB-", "Google", "-RRB-", "=", "-LCB-", "arthritis", ",", "bacteria", ",", "cancer", ",", "dog", ",", "elephant", ",", "frog", ",", "garage", ",", "helmet", ",", "indycar", "-RCB-", ".", "An", "unbiased", "prober", "could", "result", "in", "ESummary", "-LRB-", "Google", "-RRB-", "=", "-LCB-", "arthritis", ",", "frog", ",", "helmet", "-RCB-", ",", "whereas", "a", "source-biased", "prober", "could", "result", "in", "ESummary", "P", "ubM", "ed", "-LRB-", "Google", "-RRB-", "=", "-LCB-", "arthritis", ",", "bacteria", ",", "cancer", "-RCB-", ".", "This", "simple", "example", "illustrates", "the", "essence", "of", "the", "source-biased", "probing", "and", "how", "it", "accentuates", "the", "commonality", "between", "the", "two", "services", ".", "The", "performance", "and", "effectiveness", "of", "the", "source-biased", "probing", "algorithm", "depends", "upon", "a", "number", "of", "factors", ",", "including", "the", "selection", "criterion", "used", "for", "choosing", "source-specific", "candidate", "probe", "terms", ",", "and", "the", "type", "of", "stop", "condition", "used", "to", "terminate", "the", "probing", "process", ".", "Mechanisms", "to", "Select", "Probe", "Terms", "There", "are", "several", "possible", "ways", "to", "select", "the", "probes", "based", "on", "the", "statistics", "stored", "with", "each", "service", "summary", ",", "including", "uniform", "random", "selection", "and", "selection", "based", "on", "top-weighted", "terms", ".", "In", "general", ",", "the", "selection", "criterion", "will", "recommend", "a", "query", "term", "drawn", "from", "the", "set", "N", "of", "all", "non-zero", "weighted", "terms", "in", "the", "unbiased", "source", "summary", "ESummary", "-LRB-", "-RRB-", ".", "Uniform", "Random", "Selection", ":", "In", "this", "simplest", "of", "selection", "techniques", ",", "each", "term", "that", "occurs", "in", "ESummary", "-LRB-", "-RRB-", "has", "an", "equal", "probability", "of", "being", "selected", ",", "i.e.", "P", "rob", "-LRB-", "selecting", "term", "j", "-RRB-", "=", "1", "N", ".", "Weight-Based", "Selection", ":", "Rather", "than", "randomly", "selecting", "query", "terms", ",", "we", "could", "instead", "rely", "on", "a", "ranking", "of", "the", "terms", "by", "one", "of", "the", "statistics", "that", "are", "recorded", "with", "each", "service", "summary", ".", "For", "example", ",", "all", "terms", "in", "ESummary", "-LRB-", "-RRB-", "could", "be", "ranked", "according", "to", "the", "weight", "of", "each", "term", ".", "Terms", "would", "then", "be", "selected", "in", "descending", "order", "of", "weight", ".", "Depending", "on", "the", "type", "of", "weight", "cataloged", "-LRB-", "e.g.", "servF", "req", ",", "docCount", ",", "etc.", "-RRB-", ",", "several", "flavors", "of", "weight-based", "selection", "may", "be", "considered", ".", "Different", "Types", "of", "Stop", "Probing", "Conditions", "The", "stop", "probing", "condition", "is", "the", "second", "critical", "component", "in", "the", "source-biased", "probing", "algorithm", ".", "We", "consider", "four", "different", "types", "of", "conditions", "that", "might", "be", "used", "in", "practice", ":", "Number", "of", "Queries", ":", "After", "some", "fixed", "number", "of", "query", "probes", "-LRB-", "M", "axP", "robes", "-RRB-", ",", "end", "the", "probing", ".", "This", "condition", "is", "agnostic", "to", "the", "number", "of", "documents", "that", "are", "examined", "for", "each", "service", ".", "Documents", "Returned", ":", "In", "contrast", "to", "the", "first", "technique", ",", "the", "second", "condition", "considers", "not", "the", "number", "of", "queries", ",", "but", "the", "total", "number", "of", "documents", "-LRB-", "M", "axDocs", "-RRB-", "returned", "by", "the", "service", ".", "Since", "some", "queries", "may", "return", "no", "documents", ",", "this", "stopping", "condition", "will", "require", "more", "query", "probes", "than", "the", "first", "alternative", "when", "M", "axP", "robes", "=", "M", "axDocs", ".", "Document", "Thresholding", ":", "Rather", "than", "treating", "each", "document", "the", "same", ",", "this", "third", "alternative", "applies", "a", "threshold", "value", "to", "each", "document", "to", "determine", "if", "it", "should", "be", "counted", "toward", "M", "axDocs", ".", "For", "each", "document", ",", "we", "may", "calculate", "the", "relevance", "of", "the", "document", "to", "the", "source", "of", "bias", "ESummary", "-LRB-", "-RRB-", ".", "If", "the", "document", "relevance", "is", "greater", "than", "some", "threshold", "value", ",", "then", "the", "document", "is", "counted", ".", "Otherwise", ",", "the", "document", "is", "discarded", ".", "Steady-State", ":", "Rather", "than", "relying", "on", "a", "count", "of", "queries", "or", "documents", ",", "this", "final", "stopping", "condition", "alternative", "instead", "relies", "on", "the", "estimated", "summary", "reaching", "a", "steady-state", ".", "After", "each", "probe", ",", "we", "calculate", "the", "difference", "between", "the", "new", "value", "of", "ESummary", "-LRB-", "-RRB-", "and", "the", "old", "value", ".", "If", "the", "difference", "-LRB-", "which", "may", "be", "calculated", "in", "a", "number", "of", "ways", "-RRB-", "is", "less", "than", "some", "small", "value", ",", "then", "we", "consider", "the", "summary", "stable", "and", "stop", "the", "probing", ".", "Due", "to", "the", "space", "limitation", ",", "we", "refer", "readers", "to", "our", "technical", "report", "-LSB-", "5", "-RSB-", "for", "detailed", "experiments", "on", "the", "impact", "of", "these", "two", "parameters", ".", "3.2", "Evaluating", "and", "Ranking", "Services", "Given", "a", "source", "and", "a", "target", "service", ",", "once", "we", "generate", "the", "source-biased", "summary", "for", "the", "target", "service", ",", "we", "need", "an", "efficient", "mechanism", "to", "evaluate", "the", "source-biased", "relevance", "of", "a", "target", "service", "with", "respect", "to", "the", "source", ".", "Once", "a", "set", "of", "target", "services", "have", "been", "evaluated", "with", "the", "source-biased", "relevance", "metric", ",", "we", "can", "then", "rank", "the", "target", "services", "with", "respect", "to", "the", "source", "of", "bias", ".", "We", "begin", "by", "discussing", "the", "necessary", "components", "of", "the", "source-biased", "metric", ".", "Let", "denote", "a", "source", "service", "modeled", "by", "an", "estimated", "summary", "and", "denote", "a", "target", "service", "with", "a", "-", "biased", "summary", ",", "and", "let", "f", "ocus", "-LRB-", "-RRB-", "denote", "the", "source-biased", "focus", "measure", ".", "We", "define", "f", "ocus", "-LRB-", "-RRB-", "to", "be", "a", "measure", "of", "the", "topical", "focus", "of", "the", "target", "service", "with", "respect", "to", "the", "source", "of", "bias", ".", "The", "focus", "metric", "ranges", "from", "0", "to", "1", ",", "with", "lower", "values", "indicating", "less", "focus", "and", "higher", "values", "indicating", "more", "focus", ".", "In", "general", ",", "f", "ocus", "is", "not", "a", "symmetric", "relation", ".", "We", "may", "describe", "any", "two", "data-intensive", "web", "services", "and", "with", "the", "focus", "in", "terms", "of", "by", "f", "ocus", "-LRB-", "-RRB-", "or", "in", "terms", "of", "by", "f", "ocus", "-LRB-", "-RRB-", ".", "We", "propose", "to", "use", "the", "well-known", "cosine", "similarity", "-LRB-", "or", "normalized", "inner", "product", "-RRB-", "to", "approximate", "the", "source-biased", "focus", "measure", ".", "We", "define", "the", "cosine-based", "focus", "as", "follows", ":", "Cosine", "f", "ocus", "-LRB-", "-RRB-", "=", "N", "k", "=", "1", "w", "k", "w", "k", "N", "k", "=", "1", "-LRB-", "w", "k", "-RRB-", "2", "N", "k", "=", "1", "-LRB-", "w", "k", "-RRB-", "2", "where", "w", "k", "is", "the", "weight", "for", "term", "k", "in", "ESummary", "-LRB-", "-RRB-", "and", "w", "k", "is", "the", "-", "biased", "weight", "for", "term", "k", "in", "ESummary", "-LRB-", "-RRB-", ".", "The", "cosine", "ranges", "from", "0", "to", "1", ",", "with", "higher", "scores", "indicating", "a", "higher", "degree", "of", "similarity", ".", "In", "contrast", ",", "the", "cosine", "between", "orthogonal", "vectors", "is", "0", ",", "indicating", "that", "they", "are", "completely", "dissimilar", ".", "The", "cosine", "measures", "the", "angle", "between", "two", "vectors", ",", "regardless", "of", "the", "length", "of", "each", "vector", ".", "Intuitively", ",", "the", "cosine-based", "biased", "focus", "is", "appealing", "since", "it", "reasonably", "captures", "the", "relevance", "between", "two", "data-intensive", "web", "services", ".", "Ranking", "Relevant", "Services", "Given", "the", "biased", "focus", "measure", ",", "we", "may", "probe", "a", "group", "of", "tar-156", "get", "services", "to", "identify", "the", "most", "relevant", "services", "to", "the", "source", "of", "bias", ".", "For", "a", "single", "source", "of", "bias", "S", "1", "from", "our", "universe", "of", "discourse", "W", ",", "we", "may", "evaluate", "multiple", "target", "services", "S", "2", ",", "S", "3", ",", "...", ",", "S", "d", ".", "For", "each", "target", "service", ",", "we", "may", "evaluate", "the", "appropriate", "focus", "measure", "for", "each", "source-target", "pair", "-LRB-", "i.e.", "f", "ocus", "S", "1", "-LRB-", "S", "2", "-RRB-", ",", "f", "ocus", "S", "1", "-LRB-", "S", "3", "-RRB-", ",", "etc.", "-RRB-", ".", "We", "may", "then", "rank", "the", "target", "services", "in", "descending", "order", "in", "terms", "of", "their", "source-biased", "focus", "with", "respect", "to", "S", "1", ".", "As", "we", "will", "show", "in", "our", "experiments", "section", ",", "source-biased", "probing", "results", "in", "the", "identification", "of", "relevant", "services", "that", "existing", "approaches", "may", "overlook", ".", "We", "also", "show", "that", "source-biased", "probing", "can", "generate", "source-biased", "summaries", "of", "good", "quality", "using", "far", "fewer", "documents", "than", "existing", "approaches", ",", "placing", "significantly", "less", "burden", "on", "the", "target", "services", ".", "3.3", "Identifying", "Interesting", "Relationships", "The", "critical", "third", "component", "of", "the", "BASIL", "system", "consists", "of", "the", "techniques", "for", "exploiting", "and", "understanding", "interesting", "relationships", "between", "services", "using", "a", "source-biased", "lens", ".", "By", "analyzing", "the", "nature", "of", "the", "relationships", "between", "data-intensive", "web", "services", ",", "we", "will", "provide", "support", "for", "understanding", "the", "relative", "scope", "and", "coverage", "of", "one", "service", "with", "respect", "to", "another", ".", "The", "source-biased", "probing", "framework", "and", "biased", "focus", "measure", "provide", "the", "flexible", "building", "blocks", "for", "automated", "identification", "of", "interesting", "relationships", "between", "services", ",", "especially", "since", "the", "framework", "promotes", "an", "asymmetric", "source-biased", "view", "for", "any", "two", "services", ".", "Our", "relationship", "discovery", "module", "creates", "a", "flexible", "organization", "of", "services", ",", "where", "each", "service", "is", "annotated", "with", "a", "list", "of", "relationship", "sets", ".", "The", "two", "typical", "relationship", "types", "we", "have", "identified", "are", "similarity-based", "and", "hierarchical-based", ".", "Similarity-Based", "Relationships", "Given", "the", "universe", "of", "discourse", "W", "=", "-LCB-", "S", "1", ",", "S", "2", ",", "...", ",", "S", "D", "-RCB-", ",", "we", "identify", "three", "similarity-based", "relationship", "sets", "for", "a", "particular", "service", "S", "i", ".", "These", "relationship", "sets", "are", "defined", "in", "terms", "of", "threshold", "values", "high", "and", "low", ",", "where", "0", "low", "high", "<", "1", ".", "-", "equivalent", ":", "The", "first", "relationship", "says", "that", "if", "both", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", ">", "high", "and", "f", "ocus", "S", "j", "-LRB-", "S", "i", "-RRB-", ">", "high", "hold", ",", "then", "we", "may", "conclude", "that", "S", "i", "is", "sufficiently", "focused", "on", "S", "j", "and", "S", "j", "is", "sufficiently", "focused", "on", "S", "i", ".", "Hence", ",", "the", "two", "services", "are", "approximately", "the", "same", "in", "terms", "of", "their", "data", "coverage", ".", "We", "call", "this", "approximate", "equality", "-", "equivalence", ".", "It", "indicates", "that", "the", "equivalence", "is", "not", "absolute", "but", "is", "a", "function", "of", "the", "parameter", "high", ".", "Formally", ",", "-", "equivalent", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "S", "j", "W", "|", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", ">", "high", "f", "ocus", "S", "j", "-LRB-", "S", "i", "-RRB-", ">", "high", "-RCB-", ".", "-", "complement", ":", "If", "both", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", "<", "low", "and", "f", "ocus", "S", "j", "-LRB-", "S", "i", "-RRB-", "<", "low", "hold", ",", "then", "we", "can", "conclude", "that", "S", "i", "and", "S", "j", "are", "sufficiently", "concerned", "with", "different", "topics", "since", "neither", "one", "is", "very", "focused", "on", "the", "other", ".", "We", "annotate", "this", "approximate", "complementary", "nature", "with", "the", "prefix", ".", "Formally", ",", "-", "complement", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "S", "j", "W", "|", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", "<", "low", "focus", "S", "j", "-LRB-", "S", "i", "-RRB-", "<", "low", "-RCB-", ".", "-", "overlap", ":", "When", "two", "services", "S", "i", "and", "S", "j", "are", "neither", "equivalent", "nor", "-", "complementary", ",", "we", "say", "that", "the", "two", "services", "-", "overlap", ".", "Formally", ",", "-", "overlap", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "S", "j", "W", "|", "S", "j", "/", "complement", "-LRB-", "S", "i", "-RRB-", "S", "j", "/", "-", "equivalent", "-LRB-", "S", "i", "-RRB-", "-RCB-", ".", "Hierarchical", "Relationships", "In", "addition", "to", "similarity-based", "relationship", "sets", ",", "we", "also", "define", "hierarchical", "relationship", "sets", "by", "measuring", "the", "relative", "coverage", "of", "target", "services", "in", "W", "with", "respect", "to", "a", "particular", "text", "service", "S", "i", "-LRB-", "source", "-RRB-", ".", "These", "hierarchical", "relationship", "sets", "are", "defined", "in", "terms", "of", "a", "parameter", "dif", "f", ",", "where", "0", "dif", "f", "1", ".", "-", "superset", ":", "If", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", "-", "focus", "S", "j", "-LRB-", "S", "i", "-RRB-", ">", "dif", "f", ",", "then", "a", "relatively", "significant", "portion", "of", "S", "i", "is", "contained", "in", "S", "j", ",", "indicating", "that", "S", "j", "has", "a", "-", "superset", "relationship", "with", "S", "j", ".", "We", "use", "the", "prefix", "to", "indicate", "that", "S", "j", "is", "not", "a", "strict", "superset", "of", "S", "i", ",", "but", "rather", "that", "the", "relationship", "is", "parameterized", "by", "dif", "f", ".", "Formally", ",", "superset", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "S", "j", "W", "|", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", "-", "focus", "S", "j", "-LRB-", "S", "i", "-RRB-", ">", "dif", "f", "-RCB-", ".", "-", "subset", ":", "Conversely", ",", "If", "focus", "S", "j", "-LRB-", "S", "i", "-RRB-", "-", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", ">", "dif", "f", ",", "then", "a", "relatively", "significant", "portion", "of", "S", "j", "is", "contained", "in", "S", "i", ",", "indicating", "that", "S", "j", "has", "a", "-", "subset", "relationship", "with", "S", "i", ".", "Similarly", ",", "S", "j", "is", "not", "a", "strict", "subset", "of", "S", "i", ",", "but", "rather", "the", "relationship", "is", "parameterized", "by", "dif", "f", ".", "Formally", ",", "-", "subset", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "S", "j", "W", "|", "focus", "S", "j", "-LRB-", "S", "i", "-RRB-", "-", "focus", "S", "i", "-LRB-", "S", "j", "-RRB-", ">", "dif", "f", "-RCB-", ".", "We", "note", "that", "the", "determination", "of", "the", "appropriate", "-", "values", "is", "critical", "for", "the", "correct", "assignation", "of", "services", "to", "each", "relationship", "set", ".", "In", "our", "experiments", "section", ",", "we", "illustrate", "how", "these", "relationship", "sets", "may", "be", "created", ",", "but", ",", "for", "now", ",", "we", "leave", "the", "optimization", "of", "-", "values", "as", "future", "work", ".", "Using", "Relationship", "Sets", "Both", "similarity", "based", "and", "hierarchy-based", "inter-service", "relationships", "can", "be", "generated", "automati-cally", ",", "and", "used", "as", "metadata", "annotation", "to", "each", "of", "the", "services", ".", "These", "source-biased", "relevance", "data", "provide", "a", "flexible", "foundation", "for", "relationship", "analysis", "among", "services", ".", "For", "any", "service", "S", "i", ",", "we", "need", "only", "consult", "the", "appropriate", "relationship", "set", ".", "The", "three", "similarity-based", "relationship", "sets", "provide", "the", "basis", "for", "answering", "queries", "of", "the", "form", ":", "``", "What", "other", "services", "are", "most", "like", "X", "?", "Somewhat", "like", "X", "?", "Or", "complementary", "to", "X", "?", "''", ".", "The", "two", "hierarchical-based", "sets", "provide", "the", "basis", "for", "answering", "queries", "of", "the", "form", ":", "``", "What", "other", "services", "are", "more", "general", "than", "X", "?", "Or", "more", "specialized", "than", "X", "?", "''", ".", "In", "addition", ",", "these", "relationship", "sets", "are", "useful", "for", "routing", "service", "requests", "to", "the", "appropriate", "services", ".", "For", "example", ",", "a", "user", "interested", "in", "BLAST", "data", "may", "choose", "to", "use", "both", "NCBI", "'s", "BLAST", "service", "and", "all", "of", "the", "services", "that", "have", "a", "-", "equivalence", "relationship", "with", "NCBI", "BLAST", ".", "Alternatively", ",", "a", "user", "interested", "in", "maximizing", "coverage", "of", "multiple", "topically-distinct", "services", ",", "may", "choose", "to", "query", "both", "the", "source", "service", "she", "knows", "about", "and", "any", "members", "in", "the", "complementary", "set", "of", "the", "source", "service", ".", "The", "hierarchical", "relationship", "sets", "are", "particularly", "helpful", "in", "cases", "where", "a", "user", "may", "refine", "a", "service", "request", "to", "more", "specialized", "services", ",", "or", "alternatively", ",", "may", "choose", "to", "generalize", "the", "scope", "of", "the", "service", "request", "by", "considering", "services", "further", "up", "the", "hierarchy", "to", "get", "more", "matching", "answers", ".", "One", "of", "the", "critical", "parameters", "to", "the", "success", "of", "BASIL", "'s", "source-biased", "probing", "is", "the", "choice", "of", "probe", "terms", "from", "the", "source", "of", "bias", ".", "We", "have", "discussed", "several", "selection", "techniques", "as", "well", "as", "different", "ways", "to", "define", "stop-probing", "conditions", ".", "In", "this", "section", "we", "introduce", "a", "refinement", "over", "these", "simple", "selection", "techniques", "whereby", "the", "source", "summary", "is", "segmented", "into", "k", "groups", "of", "co-occurring", "terms", ".", "The", "main", "idea", "is", "to", "it-eratively", "select", "one", "term", "from", "each", "of", "the", "k", "groups", "to", "probe", "the", "target", ".", "We", "call", "these", "terms", "the", "focal", "terms", "of", "the", "corresponding", "group", ".", "When", "used", "in", "conjunction", "with", "the", "general", "source-biased", "probing", "algorithm", ",", "we", "have", "an", "enhanced", "version", "called", "source-biased", "probing", "with", "focal", "terms", ".", "A", "unique", "advantage", "of", "using", "focal", "terms", "is", "that", "the", "biased", "summaries", "of", "target", "services", "can", "be", "generated", "in", "fewer", "queries", "with", "higher", "quality", ".", "4.1", "Focal", "Terms", "and", "Focal", "Term", "Groups", "Let", "denote", "a", "source", "service", "with", "its", "unbiased", "service", "summary", "ESummary", ".", "We", "denote", "the", "set", "of", "terms", "with", "non-zero", "weight", "in", "ESummary", "-LRB-", "i.e.", "the", "terms", "that", "actually", "occur", "in", "the", "service", "-RRB-", "as", "T", "erms", "-LRB-", "-RRB-", ",", "where", "T", "erms", "-LRB-", "-RRB-", "consists", "of", "n", "terms", "t", "1", ",", "t", "2", ",", "...", ",", "t", "n", ".", "A", "focal", "term", "group", "is", "a", "subset", "of", "terms", "in", "the", "set", "T", "erms", "-LRB-", "-RRB-", "that", "co-occur", "in", "the", "documents", "of", ".", "We", "denote", "a", "focal", "term", "157", "Table", "1", ":", "Example", "Focal", "Terms", "for", "PubMed", "1", "care", ",", "education", ",", "family", ",", "management", ",", "...", "2", "brain", ",", "gene", ",", "protein", ",", "nucleotide", ",", "...", "3", "clinical", ",", "noteworthy", ",", "taxonomy", ",", "...", "4", "experimental", ",", "molecular", ",", "therapy", ",", "...", "5", "aids", ",", "evidence", ",", "research", ",", "winter", ",", "...", "group", "i", "as", "F", "T", "erms", "i", ".", "The", "main", "idea", "behind", "source-biased", "probing", "with", "focal", "terms", "is", "to", "partition", "the", "set", "T", "erms", "-LRB-", "-RRB-", "into", "k", "disjoint", "term", "groups", "such", "that", "the", "terms", "within", "each", "term", "group", "co-occur", "in", "documents", "of", "more", "frequently", "than", "they", "do", "with", "terms", "from", "other", "term", "groups", ".", "Formally", ",", "we", "need", "an", "algorithm", "that", "can", "find", "a", "partition", "of", "T", "erms", "-LRB-", "-RRB-", "into", "k", "focal", "term", "groups", ":", "T", "erms", "-LRB-", "-RRB-", "=", "-LCB-", "F", "T", "erms", "1", ",", "...", ",", "F", "T", "erms", "i", ",", "...", ",", "F", "T", "erms", "k", "|", "k", "i", "=", "1", "F", "T", "erms", "i", "=", "-LCB-", "t", "1", ",", "...", ",", "t", "n", "-RCB-", "and", "F", "T", "erms", "i", "F", "T", "erms", "j", "=", "-RCB-", "In", "Table", "1", ",", "we", "show", "an", "example", "of", "five", "focal", "term", "groups", "for", "a", "collection", "of", "100", "PubMed", "documents", ".", "Note", "that", "k", "is", "intended", "to", "be", "very", "small", "since", "the", "focal", "term", "groups", "are", "meant", "to", "be", "very", "coarse", ".", "Given", "k", "focal", "term", "groups", ",", "by", "selecting", "a", "focal", "term", "from", "each", "term", "group", "F", "T", "erms", "i", "as", "a", "probing", "query", ",", "we", "hope", "to", "retrieve", "documents", "that", "also", "contain", "many", "of", "the", "other", "words", "in", "that", "focal", "term", "group", ".", "For", "example", ",", "suppose", "we", "are", "using", "a", "frequency-based", "measure", "for", "query", "probe", "selection", "from", "PubMed", ".", "The", "top", "four", "query", "terms", "may", "be", "``", "brain", "''", ",", "``", "gene", "''", ",", "``", "protein", "''", ",", "and", "``", "nucleotide", "''", ".", "Suppose", "these", "four", "terms", "tend", "to", "co-occur", "with", "each", "other", "as", "indicated", "in", "Table", "1", ".", "By", "sending", "the", "first", "query", "``", "brain", "''", "to", "a", "target", "service", ",", "we", "could", "reasonably", "expect", "to", "find", "the", "other", "three", "terms", "since", "our", "analysis", "of", "the", "source", "indicates", "that", "these", "four", "terms", "tend", "to", "co-occur", ".", "A", "naive", "source-biased", "prober", "would", "ignore", "this", "co-occurrence", "information", "and", ",", "instead", ",", "send", "the", "other", "three", "queries", "``", "gene", "''", ",", "``", "protein", "''", ",", "and", "``", "nucleotide", "''", ",", "even", "though", "we", "might", "reasonably", "expect", "for", "those", "queries", "to", "generate", "documents", "similar", "to", "those", "generated", "by", "the", "first", "query", "``", "brain", "''", ".", "In", "essence", ",", "we", "will", "have", "used", "four", "queries", "when", "a", "single", "query", "would", "have", "sufficed", "at", "adequately", "exploring", "the", "term", "space", "of", "the", "target", ".", "It", "is", "important", "to", "note", "that", ",", "unlike", "previous", "research", "in", "grouping", "terms", "for", "query-expansion", "-LSB-", "31", ",", "21", "-RSB-", "or", "finding", "similar", "terms", "-LSB-", "24", "-RSB-", "our", "goal", "is", "not", "to", "find", "close", "semantic", "relationships", "between", "terms", ",", "but", "rather", "to", "find", "very", "coarse", "co-occurrence", "associations", "among", "terms", "to", "support", "a", "more", "efficient", "and", "effective", "biased", "service", "summary", "estimation", ".", "For", "example", ",", "though", "we", "may", "discover", "that", "``", "brain", "''", "and", "``", "protein", "''", "tend", "to", "co-occur", ",", "we", "do", "not", "claim", "that", "there", "is", "a", "close", "semantic", "relationship", "between", "the", "two", "terms", ".", "4.2", "Finding", "Focal", "Terms", "In", "this", "section", ",", "we", "discuss", "how", "we", "may", "adapt", "a", "popular", "clustering", "technique", "to", "the", "problem", "of", "focal", "term", "discovery", ".", "Recall", "that", "in", "Section", "2", ",", "we", "view", "a", "service", "S", "i", "as", "a", "set", "of", "documents", ",", "each", "of", "which", "is", "described", "by", "a", "vector", "of", "terms", "and", "weights", ".", "We", "now", "invert", "our", "view", "of", "a", "service", "using", "the", "same", "set", "of", "information", ".", "We", "consider", "a", "service", "S", "i", "as", "a", "collection", "of", "terms", ",", "each", "of", "which", "is", "described", "by", "a", "vector", "of", "the", "documents", "in", "which", "the", "term", "occurs", "and", "a", "weight", "describing", "the", "occurrence", "frequency", "of", "the", "term", "in", "the", "corresponding", "document", ".", "Hence", ",", "we", "have", ":", "T", "erms", "-LRB-", "S", "i", "-RRB-", "=", "-LCB-", "term", "1", ",", "term", "2", ",", ",", "term", "N", "-RCB-", ".", "For", "the", "N", "terms", "in", "the", "service", ",", "each", "term", "j", "-LRB-", "1", "j", "N", "-RRB-", "is", "a", "vector", "of", "documents", "and", "weights", ":", "term", "j", "=", "-LCB-", "-LRB-", "doc", "1", ",", "w", "j", "1", "-RRB-", ",", "-LRB-", "doc", "2", ",", "w", "j", "2", "-RRB-", ",", ",", "-LRB-", "doc", "M", ",", "w", "jM", "-RRB-", "-RCB-", "We", "can", "define", "a", "segmentation", "technique", "for", "finding", "focal", "term", "groups", "by", "clustering", "the", "set", "T", "erms", "-LRB-", "S", "i", "-RRB-", "into", "k", "clusters", ".", "Given", "the", "term", "vectors", "and", "the", "similarity", "function", ",", "a", "number", "of", "clus-FocalTerms", "-LRB-", "Num", "Clusters", "k", ",", "Input", "Vectors", "D", "-RRB-", "Let", "D", "=", "-LCB-", "d", "1", ",", "...", ",", "d", "n", "-RCB-", "denote", "the", "set", "of", "n", "term", "vectors", "Let", "M", "denote", "the", "total", "number", "of", "documents", "in", "D", "Let", "d", "j", "=", "<", "-LRB-", "doc", "1", ",", "w", "j", "1", "-RRB-", ",", "...", ",", "-LRB-", "doc", "M", ",", "w", "jM", "-RRB-", ">", "denote", "a", "term", "vector", "of", "M", "elements", ",", "w", "jl", "is", "TFIDF", "weight", "of", "the", "doc", "l", "in", "term", "j", "-LRB-", "l", "=", "1", ",", "...", ",", "M", "-RRB-", "Let", "C", "=", "-LCB-", "C", "1", ",", "...", ",", "C", "k", "-RCB-", "denote", "a", "clustering", "of", "D", "into", "k", "clusters", ".", "Let", "i", "denote", "the", "center", "of", "cluster", "C", "i", "foreach", "cluster", "C", "i", "Randomly", "pick", "a", "term", "vector", ",", "say", "d", "j", "from", "D", "Initialize", "a", "cluster", "center", "i", "=", "d", "j", ",", "where", "d", "j", "D", "repeat", "foreach", "input", "term", "vector", "d", "j", "D", "foreach", "cluster", "C", "i", "C", "i", "=", "1", ",", "...", ",", "k", "compute", "i", "=", "sim", "-LRB-", "d", "j", ",", "mu", "i", "-RRB-", "if", "h", "is", "the", "smallest", "among", "1", ",", "2", ",", "...", ",", "k", "mu", "h", "is", "the", "nearest", "cluster", "center", "to", "d", "j", "Assign", "d", "j", "to", "the", "cluster", "C", "h", "/", "/", "refine", "cluster", "centers", "using", "centroids", "foreach", "cluster", "C", "i", "C", "foreach", "doc", "l", "in", "d", "j", "-LRB-", "l", "=", "1", ",", "...", ",", "M", "-RRB-", "-RRB-", "cw", "ij", "1", "|", "C", "i", "|", "M", "l", "=", "1", "w", "jl", "i", "<", "-LRB-", "doc", "1", ",", "cw", "i", "1", "-RRB-", ",", "...", ",", "-LRB-", "doc", "M", ",", "cw", "iM", "-RRB-", ">", "until", "cluster", "centers", "no", "longer", "change", "return", "C", "Figure", "2", ":", "Focal", "Term", "Clustering", "Algorithm", "tering", "algorithms", "can", "be", "applied", "to", "partition", "the", "set", "T", "erms", "-LRB-", "S", "i", "-RRB-", "of", "N", "terms", "into", "k", "clusters", ".", "We", "choose", "Simple", "K-Means", "since", "it", "is", "conceptually", "simple", "and", "computationally", "efficient", ".", "The", "algorithm", "starts", "by", "generating", "k", "random", "cluster", "centers", ".", "Each", "term", "is", "assigned", "to", "the", "cluster", "with", "the", "most", "similar", "-LRB-", "or", "least", "distant", "-RRB-", "center", ".", "The", "similarity", "is", "computed", "based", "on", "the", "close-ness", "of", "the", "term", "and", "each", "of", "the", "cluster", "centers", ".", "Then", "the", "algorithm", "refines", "the", "k", "cluster", "centers", "based", "on", "the", "centroid", "of", "each", "cluster", ".", "Terms", "are", "then", "re-assigned", "to", "the", "cluster", "with", "the", "most", "similar", "center", ".", "The", "cycle", "of", "calculating", "centroids", "and", "assigning", "terms", "in", "T", "erms", "-LRB-", "S", "i", "-RRB-", "to", "k", "clusters", "repeats", "until", "the", "cluster", "centroids", "stabilize", ".", "Let", "C", "denote", "a", "cluster", "in", "the", "form", "of", "a", "set", "of", "terms", "in", "the", "cluster", ".", "The", "centroid", "of", "cluster", "C", "is", ":", "centroid", "C", "=", "-LRB-", "doc", "1", ",", "1", "|", "C", "|", "jC", "w", "j", "1", "-RRB-", "-LRB-", "doc", "2", ",", "1", "|", "C", "|", "jC", "w", "j", "2", "-RRB-", "-LRB-", "doc", "M", ",", "1", "|", "C", "|", "jC", "w", "jM", "-RRB-", "where", "w", "jl", "is", "the", "weight", "of", "term", "j", "in", "document", "l", ",", "and", "the", "formula", "1", "|", "C", "|", "l", "C", "w", "jl", "denotes", "the", "average", "weight", "of", "the", "document", "l", "in", "the", "cluster", "C", ".", "A", "sketch", "of", "the", "K-Means", "term", "clustering", "based", "on", "term-vector", "of", "a", "service", "is", "provided", "in", "Figure", "2", ".", "The", "similarity", "function", "used", "in", "Figure", "2", "can", "be", "defined", "using", "a", "number", "of", "functions", ".", "In", "this", "paper", ",", "we", "use", "the", "cosine", "similarity", "function", ".", "Given", "a", "set", "of", "N", "terms", "and", "a", "set", "of", "M", "documents", ",", "where", "w", "ik", "denotes", "the", "weight", "for", "term", "k", "in", "document", "i", "-LRB-", "1", "k", "N", ",", "1", "i", "M", "-RRB-", ",", "the", "cosine", "function", "prescribes", ":", "sim", "-LRB-", "term", "i", ",", "term", "j", "-RRB-", "=", "N", "k", "=", "1", "w", "ik", "w", "jk", "N", "k", "=", "1", "-LRB-", "w", "ik", "-RRB-", "2", "N", "k", "=", "1", "-LRB-", "w", "jk", "-RRB-", "2", "In", "Section", "5", "we", "report", "the", "initial", "experiments", "on", "effectiveness", "of", "using", "focal", "terms", "to", "optimize", "the", "source-biased", "probing", "algorithm", ",", "showing", "that", "the", "source-biased", "algorithm", "with", "focal", "terms", "results", "in", "more", "efficient", "probing", "for", "varying", "numbers", "of", "focal-term", "groups", ".", "158", "4.3", "Selecting", "Focal-Based", "Probes", "Once", "the", "k", "focal", "term", "groups", "have", "been", "constructed", "for", "a", "source", ",", "the", "remaining", "problem", "is", "how", "to", "select", "the", "best", "terms", "for", "probing", "a", "target", "service", ".", "We", "propose", "a", "simple", "round-robin", "selection", "technique", "whereby", "a", "single", "term", "is", "selected", "from", "each", "focal", "term", "group", "in", "turn", ".", "Once", "a", "single", "term", "has", "been", "selected", "from", "each", "group", ",", "the", "cycle", "repeats", "by", "selecting", "a", "second", "term", "from", "each", "group", ",", "a", "third", "term", ",", "and", "so", "on", ".", "Given", "this", "basic", "strategy", ",", "we", "may", "use", "a", "number", "of", "techniques", "for", "determining", "the", "order", "by", "which", "to", "select", "terms", "from", "the", "k", "groups", "and", "for", "selecting", "probe", "terms", "from", "each", "focal", "term", "group", ".", "One", "way", "to", "determine", "the", "order", "of", "focal", "term", "groups", "is", "based", "upon", "the", "size", "of", "each", "group", ".", "We", "begin", "with", "the", "group", "with", "the", "most", "terms", "and", "end", "each", "cycle", "with", "the", "group", "that", "has", "the", "smallest", "number", "of", "terms", ".", "For", "each", "focal", "term", "group", ",", "we", "may", "decide", "which", "term", "to", "select", "for", "each", "cycle", "by", "using", "one", "of", "the", "selection", "criteria", "discussed", "in", "Section", "3", ".", "In", "this", "section", ",", "we", "describe", "four", "sets", "of", "experiments", "designed", "to", "evaluate", "the", "benefits", "and", "costs", "of", "BASIL", ".", "The", "first", "set", "intends", "to", "show", "the", "effectiveness", "of", "our", "source-biased", "probing", "algorithm", "and", "compare", "its", "performance", "with", "query-biased", "probing", "and", "unbiased", "probing", ".", "The", "second", "set", "evaluates", "the", "biased", "focus", "measure", "as", "an", "effective", "tool", "for", "ranking", "services", ".", "The", "third", "set", "shows", "the", "efficiency", "of", "the", "biased", "focus", "measure", "in", "identifying", "interesting", "inter-service", "relationships", ".", "The", "fourth", "set", "evaluates", "the", "efficacy", "of", "source-biased", "probing", "with", "focal", "terms", "by", "comparing", "the", "basic", "source-biased", "probing", "versus", "source-biased", "probing", "with", "varying", "number", "of", "groups", "of", "focal", "terms", ".", "Our", "experiments", "show", "that", "focal", "term", "probing", "can", "achieve", "about", "ten", "percent", "performance", "improvement", "over", "the", "basic", "algorithm", "for", "source-biased", "probing", ".", "Since", "there", "are", "no", "large", "data-intensive", "web", "service", "collections", "for", "experimentation", ",", "we", "rely", "on", ":", "-LRB-", "1", "-RRB-", "a", "large", "collection", "of", "newsgroups", "designed", "to", "emulate", "the", "diversity", "and", "scope", "of", "real-world", "data-intensive", "web", "services", ";", "and", "-LRB-", "2", "-RRB-", "a", "modest", "collection", "of", "real-world", "web", "sources", ".", "Since", "the", "services", "in", "the", "web", "collection", "change", "frequently", "and", "are", "beyond", "our", "control", ",", "and", "in", "an", "effort", "not", "to", "overload", "any", "one", "site", ",", "we", "relied", "on", "the", "newsgroup", "dataset", "for", "rigorous", "experimental", "validation", ".", "Newsgroup", "Collection", ":", "We", "collected", "articles", "from", "1,000", "randomly", "selected", "usenet", "newsgroups", "over", "the", "period", "June", "to", "July", "2003", ".", "We", "eliminated", "overly", "small", "newsgroups", "containing", "fewer", "than", "100", "articles", ",", "heavily", "spammed", "newsgroups", ",", "and", "newsgroups", "with", "primarily", "binary", "data", ".", "After", "filtering", "out", "these", "groups", ",", "we", "were", "left", "with", "590", "single", "topic", "newsgroups", ",", "ranging", "in", "size", "from", "100", "to", "16,000", "articles", ".", "In", "an", "effort", "to", "match", "the", "heterogeneity", "and", "scope", "inherent", "in", "many", "real-world", "services", ",", "we", "constructed", "135", "additional", "groups", "of", "mixed", "topics", "by", "randomly", "selecting", "articles", "from", "anywhere", "from", "4", "to", "80", "single", "topic", "newsgroups", ",", "and", "55", "aggregate", "topic", "newsgroups", "by", "combining", "articles", "from", "related", "newsgroups", "-LRB-", "e.g.", "by", "selecting", "random", "documents", "from", "all", "the", "subgroups", "in", "comp.unix", ".", "*", "into", "a", "single", "aggregate", "group", "-RRB-", ".", "In", "total", ",", "the", "newsgroup", "collection", "consists", "of", "over", "2.5", "GB", "worth", "of", "articles", "in", "780", "groups", ".", "Web", "Collection", ":", "For", "the", "second", "collection", ",", "we", "randomly", "selected", "50", "sites", "from", "the", "ProFusion", "-LSB-", "20", "-RSB-", "directory", "of", "web", "sites", "that", "support", "queries", ",", "in", "addition", "to", "Google", "and", "PubMed", ".", "We", "queried", "each", "site", "with", "a", "randomized", "set", "of", "single-word", "probes", "drawn", "from", "the", "standard", "Unix", "dictionary", ",", "and", "collected", "a", "maximum", "of", "50", "documents", "per", "site", ".", "Probing", "Framework", ":", "We", "built", "a", "probing", "engine", "in", "Java", "1.4", "for", "use", "in", "all", "of", "our", "experiments", ".", "For", "each", "group", "in", "both", "0.00", "0.10", "0.20", "0.30", "0.40", "0", "20", "40", "60", "80", "100", "Documents", "Examined", "Average", "Source", "Similarity", "Source", "Bias", "Query", "Bias", "2", "Query", "Bias", "1", "No", "Bias", "Figure", "3", ":", "Probing", "Efficiency", "for", "100", "Pairs", "datasets", ",", "we", "constructed", "the", "estimated", "service", "summary", "based", "on", "the", "overall", "term", "frequency", "of", "each", "term", "-LRB-", "servF", "req", "-RRB-", ".", "We", "eliminated", "a", "set", "of", "common", "stopwords", "-LRB-", "e.g.", "``", "a", "''", ",", "``", "the", "''", ",", "and", "so", "on", "-RRB-", "as", "well", "as", "collection-specific", "stopwords", "-LRB-", "e.g.", "``", "wrote", "''", ",", "``", "said", "''", ",", "and", "so", "on", "for", "the", "newsgroup", "collection", "-RRB-", ".", "5.1", "Effectiveness", "of", "Source-Biased", "Probing", "The", "goal", "of", "our", "first", "set", "of", "experiments", "is", "to", "compare", "source-biased", "probing", "with", "existing", "probing", "techniques", "and", "to", "evaluate", "the", "efficiency", "and", "quality", "of", "source-biased", "probing", ".", "The", "source-biased", "probing", "show", "significant", "gain", "in", "terms", "of", "the", "percentage", "of", "documents", "probed", "that", "are", "similar", "to", "the", "source", ".", "We", "first", "evaluate", "the", "efficiency", "of", "source-biased", "probing", "in", "terms", "of", "the", "number", "of", "documents", "required", "to", "be", "extracted", "from", "each", "target", "and", "the", "percentage", "of", "the", "documents", "extracted", "that", "are", "similar", "to", "the", "source", ".", "The", "higher", "percentage", "of", "documents", "similar", "-LRB-", "relevant", "-RRB-", "to", "the", "source", ",", "the", "more", "effective", "a", "probing", "algorithm", "is", ".", "We", "selected", "100", "random", "source-target", "pairs", "from", "the", "newsgroup", "collection", ".", "For", "each", "pair", ",", "we", "evaluated", "four", "probing", "techniques", "a", "source-biased", "prober", "-LRB-", "Source", "Bias", "-RRB-", "that", "selects", "probe", "terms", "from", "the", "source", "summary", "in", "decreasing", "order", "of", "servF", "req", ";", "a", "query-biased", "prober", "-LRB-", "Query", "Bias", "1", "-RRB-", "that", "randomly", "selects", "probes", "from", "the", "standard", "Unix", "dictionary", "of", "English", "terms", ";", "a", "query-biased", "prober", "-LRB-", "Query", "Bias", "2", "-RRB-", "that", "selects", "its", "initial", "probe", "from", "the", "Unix", "dictionary", ",", "but", "once", "the", "first", "document", "has", "been", "retrieved", "from", "the", "target", ",", "all", "subsequent", "probes", "are", "selected", "based", "on", "the", "estimated", "servF", "req", "of", "the", "target", "'s", "service", "summary", ";", "and", "an", "unbiased", "prober", "-LRB-", "No", "Bias", "-RRB-", "that", "selects", "documents", "at", "random", "from", "each", "target", ".", "For", "each", "pair", ",", "we", "evaluated", "each", "of", "the", "four", "probing", "techniques", "for", "up", "to", "100", "total", "documents", "extracted", "from", "each", "target", ",", "collecting", "a", "maximum", "of", "5", "documents", "per", "probe", "query", "from", "each", "target", ".", "In", "Figure", "3", ",", "we", "show", "the", "average", "percentage", "of", "documents", "similar", "-LRB-", "relevant", "-RRB-", "to", "the", "source", "-LRB-", "Cosine", "f", "ocus", "-LRB-", "-RRB-", "-RRB-", "over", "all", "100", "source-target", "pairs", "as", "a", "function", "of", "the", "number", "of", "documents", "examined", "in", "each", "target", ".", "The", "percentage", "of", "the", "documents", "extracted", "that", "are", "similar", "to", "the", "source", "-LRB-", "biased", "f", "ocus", "measure", "-RRB-", "indicates", "the", "quality", "of", "document", "being", "extracted", "from", "each", "target", ".", "We", "see", "that", "the", "source-biased", "probing", "outperforms", "the", "No", "Bias", "prober", "and", "the", "Query", "Bias", "1", "prober", "by", "about", "10", "%", "and", "outperforms", "the", "Query", "Bias", "2", "prober", "by", "about", "15", "%", ".", "Clearly", ",", "the", "higher", "focus", "value", "means", "the", "higher", "success", "for", "a", "probing", "algorithm", ".", "Figure", "4", "shows", "another", "experiment", "where", "we", "also", "identified", ",", "in", "our", "set", "of", "100", "source-target", "pairs", ",", "all", "of", "those", "pairs", "that", "were", "a", "priori", "similar", "-LRB-", "e.g.", "mac.apps", "and", "mac.system", "-RRB-", "or", "dissimilar", "-LRB-", "e.g.", "textiles.sewing", "and", "perl.misc", "-RRB-", ".", "We", "show", "the", "relative", "performance", "of", "the", "Source", "Bias", ",", "Query", "Bias", "1", ",", "and", "No", "Bias", "159", "0.0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1.0", "0", "20", "40", "60", "80", "100", "Documents", "Examined", "Average", "Source", "Similarity", "Source", "Bias", "Query", "Bias", "No", "Bias", "Similar", "Dissimilar", "Figure", "4", ":", "Probing", "Efficiency", "Breakdown", "0.00", "0.10", "0.20", "0.30", "0.40", "0.50", "0.60", "0.70", "0.80", "0", "20", "40", "60", "80", "100", "Documents", "Examined", "%", "Docs", "Similar", "to", "Source", "Source", "Bias", "Query", "Bias", "1", "Query", "Bias", "2", "No", "Bias", "Figure", "5", ":", "Average", "Document", "Quality", "for", "100", "Pairs", "probers", "against", "these", "similar", "and", "dissimilar", "pairs", ".", "The", "source-biased", "prober", "requires", "fewer", "documents", "to", "achieve", "the", "same", "relevance", "level", "as", "the", "other", "probers", "for", "all", "100", "source-target", "pairs", "and", "for", "the", "similar", "and", "dissimilar", "pairs", ".", "For", "example", ",", "for", "the", "similar", "source-target", "pairs", "in", "Figure", "4", ",", "the", "source-biased", "prober", "identifies", "target", "documents", "with", "0.8", "focus", "after", "extracting", "fewer", "than", "30", "documents", ".", "In", "contrast", ",", "the", "other", "probers", "require", "between", "two", "and", "three", "times", "as", "many", "documents", "to", "achieve", "the", "same", "quality", ".", "The", "third", "experiment", "is", "shown", "in", "Figure", "5", ".", "Here", "we", "want", "to", "show", "how", "quickly", "a", "source-biased", "prober", "can", "hone", "on", "the", "most", "source-relevant", "documents", "in", "a", "target", "by", "plotting", "the", "percentage", "of", "the", "documents", "extracted", "that", "are", "similar", "-LRB-", "relevant", "-RRB-", "to", "the", "source", "for", "each", "of", "the", "four", "probers", ".", "As", "shown", "in", "Figure", "5", ",", "the", "source-biased", "prober", "performs", "nearly", "two-times", "better", "than", "other", "probers", ":", "over", "70", "%", "of", "the", "first", "10", "documents", "extracted", "from", "a", "target", "are", "source-relevant", ",", "whereas", "the", "other", "probers", "identify", "between", "25", "%", "and", "45", "%", "source-relevant", "documents", ".", "As", "more", "documents", "are", "examined", "for", "each", "target", ",", "the", "source-biased", "prober", "continues", "to", "maintain", "an", "advantage", "over", "the", "other", "probers", ".", "5.2", "Ranking", "Effectiveness", "with", "Biased", "Focus", "The", "second", "set", "of", "experiments", "intends", "to", "evaluate", "how", "well", "source-biased", "probing", "compares", "with", "the", "alternative", "techniques", "when", "it", "comes", "to", "evaluating", "and", "ranking", "collection", "of", "target", "services", ".", "We", "use", "PubMed", "as", "the", "source", "and", "examine", "all", "50", "web", "sites", "as", "targets", ".", "We", "computed", "the", "biased", "focus", "score", "using", "Cosine", "f", "ocus", "-LRB-", "-RRB-", "and", "then", "ranked", "all", "targets", "relative", "to", "PubMed", "using", "the", "biased", "focus", "measure", ".", "Since", "the", "web", "sites", "do", "not", "support", "random", "document", "selection", ",", "we", "are", "unable", "to", "evaluate", "an", "unbiased", "prober", ".", "So", "this", "experiment", "only", "compares", "the", "source-biased", "prober", "with", "query", "biased", "prober", "1", ".", "Table", "2", "shows", "Table", "2", ":", "Identifying", "Web", "Sources", "Relevant", "to", "PubMed", "Query", "Bias", "Source", "Bias", "1", ".", "AMA", "1", ".", "Open", "Directory", "-LRB-", "13", "-RRB-", "2", ".", "WebMD", "2", ".", "Google", "-LRB-", "27", "-RRB-", "3", ".", "Linux", "Journal", "3", ".", "About", "-LRB-", "11", "-RRB-", "4", ".", "HealthAtoZ", "4", ".", "WebMD", "-LRB-", "2", "-RRB-", "5", ".", "DevGuru", "5", ".", "AMA", "-LRB-", "1", "-RRB-", "6", ".", "FamilyTree", "Magazine", "6", ".", "HealthAtoZ", "-LRB-", "4", "-RRB-", "7", ".", "Mayo", "Clinic", "7", ".", "Monster", "-LRB-", "22", "-RRB-", "8", ".", "Novell", "Support", "8", ".", "Mayo", "Clinic", "-LRB-", "7", "-RRB-", "9", ".", "Random", "House", "9", ".", "Random", "House", "-LRB-", "9", "-RRB-", "10", ".", "January", "Magazine", "10", ".", "BBC", "News", "-LRB-", "12", "-RRB-", "0.00", "0.10", "0.20", "0.30", "0.40", "0.50", "0.60", "0.70", "0.80", "0.90", "comp.sys.mac.system", "comp.unix.misc", "gnu.emacs.help", "rec.aviation.owning", "rec.games.chess.misc", "rec.org.sca", "rec.pets.cats.misc", "sci.physics.research", "soc.culture.hawaii", "talk.religion.misc", "Relevance", "Precision", "No", "Bias", "Query", "Bias", "Source", "Bias", "Figure", "6", ":", "Precision", "for", "10", "Source", "Newsgroups", "the", "top-10", "ranked", "sites", "relative", "to", "PubMed", ".", "In", "the", "Source", "Bias", "column", "we", "also", "list", "in", "parenthesis", "the", "rank", "of", "each", "site", "assigned", "by", "the", "Query", "Bias", "prober", ".", "The", "query-biased", "prober", "identifies", "several", "health-related", "sites", "in", "the", "web", "collection", ",", "but", "it", "mistakenly", "lists", "Linux", "Journal", "ahead", "of", "HealthAtoZ", ",", "as", "well", "as", "listing", "a", "web", "development", "site", "-LRB-", "DevGuru", "-RRB-", "and", "a", "genealogical", "magazine", "-LRB-", "FamilyTree", "-RRB-", "ahead", "of", "the", "health-related", "Mayo", "Clinic", ".", "Overall", ",", "only", "four", "of", "the", "top-ten", "sites", "could", "be", "considered", "topically", "relevant", "to", "PubMed", ".", "In", "contrast", ",", "the", "source-biased", "prober", "'s", "top-eight", "sites", "are", "all", "relevant", "to", "PubMed", ".", "In", "addition", "to", "the", "health-related", "sites", ",", "the", "source-biased", "prober", "also", "identifies", "three", "general", "sites", "that", "offer", "access", "to", "medical", "literature", "-LRB-", "Open", "Directory", ",", "Google", ",", "and", "About", "-RRB-", "that", "are", "ranked", "significantly", "lower", "by", "the", "query-biased", "prober", ".", "Interestingly", ",", "the", "source-biased", "prober", "identifies", "a", "fair", "number", "of", "scientific", "and", "bioinformatics-related", "job", "descriptions", "in", "the", "Monster", "jobs", "site", ",", "resulting", "in", "its", "high", "relevance", "-LRB-", "similarity", "-RRB-", "score", "to", "PubMed", "-LRB-", "high", "biased", "focus", "value", "-RRB-", ".", "To", "validate", "the", "quality", "of", "source-biased", "service", "evaluation", ",", "we", "next", "randomly", "selected", "10", "sources", "from", "the", "newsgroup", "collection", "to", "evaluate", "against", "the", "entire", "set", "of", "780", "newsgroups", ".", "We", "compared", "the", "three", "probers", "Source", "Bias", ",", "Query", "Bias", "1", ",", "and", "No", "Bias", ".", "For", "each", "of", "the", "10", "sources", ",", "we", "measured", "relevance", "-LRB-", "similarity", "-RRB-", "precision", "as", "the", "percentage", "of", "the", "top-10", "ranked", "target", "services", "that", "are", "considered", "relevant", "to", "the", "source", "using", "Cosine", "f", "ocus", "-LRB-", "-RRB-", ".", "Relevance", "judgments", "were", "determined", "by", "the", "consensus", "opinion", "of", "three", "volunteers", ".", "Figure", "6", "shows", "the", "precision", "for", "the", "three", "probers", "after", "extracting", "40", "documents", "per", "target", "service", ".", "Source", "Bias", "results", "in", "the", "highest", "precision", "in", "nine", "of", "ten", "cases", ",", "tying", "with", "the", "next", "best", "prober", "in", "only", "two", "cases", ".", "For", "the", "lone", "failure", ",", "Source", "Bias", "does", "succeed", "after", "extracting", "80", "documents", ",", "indicating", "that", "the", "mistake", "may", "be", "attributable", "to", "the", "error", "inherent", "in", "probing", "very", "few", "documents", ".", "In", "general", ",", "the", "average", "precision", "of", "the", "source-biased", "prober", "is", "nearly", "double", "that", "of", "the", "next", "best", "prober", ".", "In", "Figure", "7", "we", "show", "the", "average", "precision", "for", "the", "ten", "sources", "when", "increasingly", "more", "documents", "are", "extracted", "per", "target", ".", "The", "source-biased", "approach", "displays", "higher", "precision", "than", "both", "160", "0.00", "0.10", "0.20", "0.30", "0.40", "0.50", "20", "40", "60", "80", "100", "Documents", "Examined", "Relevance", "Precision", "No", "Bias", "Query", "Bias", "Source", "Bias", "Figure", "7", ":", "Average", "Relevance", "Precision", "the", "query-biased", "and", "unbiased", "probers", "in", "all", "cases", "considered", ",", "especially", "when", "based", "on", "very", "few", "documents", ".", "5.3", "Identifying", "Interesting", "Relationships", "The", "third", "set", "of", "experiments", "is", "designed", "to", "evaluate", "the", "effectiveness", "of", "using", "the", "source-biased", "framework", "to", "support", "the", "identification", "of", "interesting", "inter-service", "relationships", "that", "the", "alternative", "schemes", "do", "not", ".", "Unlike", "the", "query-biased", "and", "unbiased", "probers", ",", "the", "asymmetric", "nature", "of", "source-biased", "probing", "allows", "us", "to", "characterize", "the", "nature", "of", "the", "relationship", "beyond", "the", "single", "relevance", "ranking", "using", "biased", "focus", "measure", ".", "We", "first", "illustrate", "relationship", "sets", "for", "PubMed", "over", "the", "web", "collection", ".", "In", "Table", "3", "we", "show", "four", "classes", "of", "relationship", "sets", "for", "high", "=", "0.15", ",", "low", "=", "0.05", ",", "and", "dif", "f", "=", "0.10", "using", "the", "source-biased", "prober", "described", "above", ".", "Again", "we", "note", ",", "that", "our", "interest", "here", "is", "to", "illustrate", "the", "power", "of", "the", "-", "formalation", ";", "we", "leave", "the", "optimization", "of", "-", "values", "to", "future", "work", ".", "In", "contrast", "to", "the", "simple", "relevance", "ranking", "in", "Table", "2", ",", "we", "see", "how", "the", "source-biased", "framework", "can", "differentiate", "between", "the", "very", "similar", "services", "-LRB-", "the", "-", "equivalent", "sites", "-RRB-", "and", "the", "more", "general", "services", "-LRB-", "the", "-", "superset", "sites", "-RRB-", "relative", "to", "PubMed", ".", "In", "addition", ",", "we", "can", "identify", "sites", "with", "some", "common", "data", "-LRB-", "the", "-", "overlap", "sites", "-RRB-", "and", "sites", "concerned", "with", "significantly", "different", "topics", "-LRB-", "the", "-", "complement", "sites", "-RRB-", ".", "Similarly", ",", "we", "show", "in", "Table", "4", "several", "interesting", "relationships", "derived", "from", "the", "newsgroup", "collection", "for", "high", "=", "0.70", ",", "low", "=", "0.40", ",", "and", "dif", "f", "=", "0.30", "using", "the", "Source", "Bias", "prober", "discussed", "before", ".", "Again", ",", "by", "relying", "on", "BASIL", "'s", "source-biased", "analysis", "we", "may", "characterize", "relationships", "sets", "for", "each", "source", ".", "As", "an", "example", ",", "we", "identify", "sci.physics.particle", "as", "a", "member", "of", "the", "-", "subset", "relationship", "set", "of", "the", "mixed", "topic", "newsgroup", "mixed11", ",", "which", "consists", "of", "25", "%", "physics-related", "articles", "in", "addition", "to", "articles", "on", "backgammon", ",", "juggling", ",", "and", "telecommunications", ".", "Interestingly", ",", "we", "can", "see", "that", "there", "are", "several", "overlapping", "relationships", "between", "newsgroups", "in", "related", "but", "slightly", "different", "fields", "-LRB-", "e.g.", "volleyball", "and", "cricket", "-RRB-", ".", "Finally", ",", "we", "also", "identify", "several", "unrelated", "newsgroups", ",", "including", "comp.sys.mac.system", "relative", "to", "misc.immigration.usa", ".", "5.4", "Probing", "with", "Focal", "Terms", "In", "our", "final", "set", "of", "experiments", ",", "we", "consider", "the", "impact", "of", "focal", "term", "probing", "on", "the", "success", "rate", "of", "source-biased", "probing", ".", "We", "evaluate", "four", "flavors", "of", "focal", "term", "probing", "with", "2", ",", "3", ",", "5", ",", "and", "10", "focal", "term", "groups", "from", "which", "to", "draw", "source-biased", "probes", ".", "In", "our", "initial", "experiments", "with", "focal", "term", "probing", ",", "we", "discovered", "that", "there", "was", "little", "impact", "on", "either", "the", "efficiency", "of", "probing", "or", "the", "quality", "of", "target", "service", "evaluation", "when", "considering", "sources", "from", "the", "single-topic", "newsgroup", "collection", ".", "-LSB-", "Due", "to", "space", "limitations", ",", "we", "omit", "these", "results", "here", "-RSB-", ".", "0.2", "0.3", "0.4", "0.5", "0.6", "0", "20", "40", "60", "80", "100", "Documents", "Examined", "Average", "Source", "Similarity", "Original", "Focal", "-", "2", "Focal", "-", "3", "Focal", "-", "5", "Focal", "-", "10", "Figure", "8", ":", "Impact", "of", "Focal", "Term", "Probing", "In", "contrast", ",", "we", "discovered", "that", "focal", "term", "probing", "had", "a", "significant", "impact", "when", "used", "on", "mixed", "topic", "newsgroups", ",", "in", "which", "there", "are", "documents", "from", "several", "unrelated", "single", "topic", "newsgroups", ".", "In", "Figure", "8", ",", "we", "show", "the", "probing", "efficiency", "for", "the", "four", "focal", "term", "source-biased", "probers", "relative", "to", "the", "best", "basic", "source-biased", "prober", "for", "10", "source-target", "pairs", "from", "the", "newsgroup", "collection", ".", "In", "each", "case", ",", "the", "sources", "were", "drawn", "exclusively", "from", "the", "mixed", "topic", "newsgroups", ".", "All", "of", "the", "focal", "term", "techniques", "resulted", "in", "more", "efficient", "probing", "versus", "basic", "source-biased", "probing", "and", "only", "minor", "differences", "in", "ranking", "precision", "and", "relationship", "set", "generation", "quality", ",", "indicating", "that", "focal", "term", "probing", "can", "be", "advantageous", "in", "certain", "circumstances", ".", "Our", "intuition", "is", "that", "identifying", "focal", "terms", "is", "considerably", "more", "important", "in", "cases", "in", "which", "there", "are", "clear", "distinctions", "in", "term", "distributions", "as", "would", "be", "reflected", "in", "the", "mixed", "topic", "newsgroups", "in", "which", "several", "groups", "of", "documents", "are", "concerned", "with", "different", "topics", ".", "Researchers", "have", "previously", "explored", "different", "aspects", "of", "the", "service", "discovery", "problem", ",", "ranging", "from", "discovery", "in", "a", "federated", "environment", "-LSB-", "25", "-RSB-", ",", "to", "identifying", "services", "that", "meet", "certain", "quality-of-service", "guarantees", "-LSB-", "13", "-RSB-", ",", "to", "evaluating", "services", "based", "on", "a", "distributed", "reputation", "metric", "-LSB-", "26", "-RSB-", ",", "to", "other", "quality", "metrics", "like", "in", "-LSB-", "32", "-RSB-", ".", "In", "contrast", ",", "we", "focus", "on", "the", "data", "relationships", "between", "services", "to", "power", "efficient", "discovery", "and", "ranking", ".", "Other", "researchers", "have", "previously", "studied", "the", "problem", "of", "re-peatedly", "querying", "an", "unknown", "database", "in", "an", "effort", "to", "generate", "a", "summary", "of", "the", "database", "internals", "-LSB-", "11", ",", "3", ",", "30", ",", "4", ",", "8", ",", "27", ",", "14", ",", "6", "-RSB-", ".", "The", "main", "purpose", "of", "these", "techniques", "is", "to", "generate", "a", "representative", "content", "summary", "of", "the", "underlying", "database", ".", "Querying", "methods", "suggested", "include", "the", "use", "of", "random", "queries", ",", "queries", "learned", "from", "a", "classifier", ",", "and", "queries", "based", "on", "a", "feedback", "cycle", "between", "the", "query", "and", "the", "response", ".", "More", "recently", ",", "Gravano", "et", "al.", "-LSB-", "12", "-RSB-", "have", "introduced", "an", "extension", "to", "the", "Callan-style", "probing", "technique", "that", "relies", "on", "a", "learned", "set", "of", "queries", "for", "database", "classification", ".", "Their", "probing", "method", "is", "effective", "for", "classifying", "web", "sites", "into", "a", "pre-determined", "Yahoo!", "-", "style", "hierarchy", ",", "but", "requires", "the", "potentially", "burdensome", "and", "inflexible", "task", "of", "labelling", "training", "data", "for", "learning", "the", "classifier", "probes", "in", "the", "first", "place", ".", "Additionally", ",", "if", "new", "categories", "are", "added", "or", "old", "categories", "removed", "from", "the", "hierarchy", ",", "new", "probes", "must", "be", "learned", "and", "each", "source", "re-probed", ".", "Previous", "research", "on", "grouping", "terms", "-LRB-", "as", "in", "our", "source-biased", "probing", "with", "focal", "terms", "-RRB-", "has", "focussed", "on", "finding", "terms", "that", "are", "effective", "for", "query-expansion", "-LSB-", "31", ",", "21", "-RSB-", "or", "finding", "similar", "terms", "-LSB-", "24", "-RSB-", ".", "Our", "focal", "term", "formulation", "is", "similar", "to", "that", "used", "in", "-LSB-", "21", "-RSB-", ",", "though", "their", "goal", "is", "to", "find", "close", "semantic", "relationships", "between", "terms", ",", "unlike", "our", "coarse-grained", "groupings", ".", "161", "Table", "3", ":", "Source-Biased", "Analysis", ":", "Identifying", "Relationships", "Relative", "to", "PubMed", "Service", "-LRB-", "S", "-RRB-", "URL", "Description", "focus", "P", "M", "-LRB-", "S", "-RRB-", "focus", "S", "-LRB-", "P", "M", "-RRB-", "Relationship", "WebMD", "www.webmd.com", "Health/Medical", "0.23", "0.18", "-", "equivalent", "AMA", "www.ama-assn.org", "Health/Medical", "0.19", "0.16", "-", "equivalent", "HealthAtoZ", "www.healthatoz.com", "Health/Medical", "0.18", "0.16", "-", "equivalent", "Open", "Directory", "dmoz.org", "Web", "Directory", "0.44", "0.08", "-", "superset", "Google", "www.google.com", "Web", "Search", "Engine", "0.37", "0.10", "-", "superset", "About", "www.about.com", "Web", "Channels", "0.25", "0.08", "-", "superset", "Monster", "www.monster.com", "Jobs", "0.14", "0.08", "-", "overlap", "Mayo", "Clinic", "www.mayoclinic.com", "Health/Medical", "0.12", "0.11", "-", "overlap", "Silicon", "Investor", "www.siliconinvestor.com", "Finance", "0.03", "0.04", "-", "complement", "Usenet", "Recipes", "recipes2.alastra.com", "Recipes", "0.02", "0.03", "-", "complement", "Table", "4", ":", "Source-Biased", "Analysis", ":", "Identifying", "Relationships", "in", "the", "Newsgroup", "Collection", "A", "B", "focus", "A", "-LRB-", "B", "-RRB-", "focus", "B", "-LRB-", "A", "-RRB-", "Relationship", "comp.sys.mac.apps", "comp.sys.mac.system", "0.86", "0.76", "-", "equivalent", "comp.sys.mac.system", "comp.sys.mac.advocacy", "0.79", "0.74", "-", "equivalent", "sci.physics.particle", "sci.physics", "0.86", "0.80", "-", "equivalent", "sci.physics.particle", "mixed45", "0.86", "0.62", "-", "subset/superset", "comp.unix.misc", "mixed120", "0.91", "0.56", "-", "subset/superset", "rec.sport.volleyball", "rec.sport.cricket", "0.47", "0.46", "-", "overlap", "rec.games.go", "rec.games.chess.misc", "0.50", "0.53", "-", "overlap", "rec.crafts.textiles.sewing", "comp.lang.perl.misc", "0.35", "0.32", "-", "complement", "comp.sys.mac.system", "misc.immigration.usa", "0.23", "0.36", "-", "complement", "In", "this", "paper", ",", "we", "have", "presented", "a", "novel", "web", "service", "discovery", "and", "ranking", "prototype", "called", "BASIL", "that", "supports", "a", "personalized", "view", "of", "data-intensive", "web", "services", "through", "source-biased", "focus", ".", "BASIL", "supports", "personalized", "discovery", "requests", "and", "relevance", "reasoning", "through", "efficient", "source-biased", "probing", "and", "source-biased", "relevance", "metrics", ".", "Concretely", ",", "we", "have", "shown", "that", "BASIL", "allows", "us", "to", "determine", "in", "very", "few", "interactions", "whether", "a", "target", "service", "is", "relevant", "to", "the", "source", "service", "by", "probing", "the", "target", "with", "very", "precise", "probes", ".", "The", "biased", "focus", "measure", "allows", "us", "to", "evaluate", "and", "rank", "the", "services", "discovered", "and", "to", "identify", "interesting", "types", "of", "source-biased", "relationships", "for", "a", "collection", "of", "services", ".", "Additionally", ",", "we", "have", "introduced", "source-biased", "probing", "with", "focal", "terms", "as", "a", "performance", "optimization", "to", "further", "improve", "the", "effectiveness", "of", "the", "basic", "source-biased", "algorithm", ".", "-LSB-", "1", "-RSB-", "Amazon.com", ".", "Amazon.com", "Web", "Services", ".", "http://www.amazon.com/gp/aws/landing.html", ",", "2004", ".", "-LSB-", "2", "-RSB-", "Ariba", ".", "http://www.ariba.com", ",", "2003", ".", "-LSB-", "3", "-RSB-", "J.", "Callan", ",", "M.", "Connell", ",", "and", "A.", "Du", ".", "Automatic", "discovery", "of", "language", "models", "for", "text", "databases", ".", "In", "SIGMOD", "'", "99", ".", "-LSB-", "4", "-RSB-", "J.", "P.", "Callan", "and", "M.", "E.", "Connell", ".", "Query-based", "sampling", "of", "text", "databases", ".", "Information", "Systems", ",", "19", "-LRB-", "2", "-RRB-", ":", "97", "130", ",", "2001", ".", "-LSB-", "5", "-RSB-", "J.", "Caverlee", ",", "L.", "Liu", ",", "and", "D.", "Rocco", ".", "Discovering", "and", "ranking", "web", "services", "with", "BASIL", ":", "A", "personalized", "approach", "with", "biased", "focus", ".", "Technical", "report", ",", "GIT", ",", "2004", ".", "-LSB-", "6", "-RSB-", "W.", "W.", "Cohen", "and", "Y.", "Singer", ".", "Learning", "to", "query", "the", "web", ".", "In", "AAAI", "Workshop", "on", "Internet-Based", "Information", "Systems", ".", "1996", ".", "-LSB-", "7", "-RSB-", "Google", ".", "Google", "Web", "APIs", "FAQ", ".", "http://www.google.com/apis/", ",", "2003", ".", "-LSB-", "8", "-RSB-", "D.", "Hawking", "and", "P.", "Thistlewaite", ".", "Methods", "for", "information", "server", "selection", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "17", "-LRB-", "1", "-RRB-", ":", "40", "76", ",", "1999", ".", "-LSB-", "9", "-RSB-", "IBM", ".", "Web", "Services", "for", "Life", "Sciences", ".", "http://www.alphaworks.ibm.com/tech/ws4LS/", ",", "2003", ".", "-LSB-", "10", "-RSB-", "IBM", ".", "IBM", "UDDI", "Business", "Registry", ".", "www.ibm.com/services/uddi/", ",", "2004", ".", "-LSB-", "11", "-RSB-", "P.", "G.", "Ipeirotis", ",", "L.", "Gravano", ",", "and", "M.", "Sahami", ".", "Probe", ",", "count", ",", "and", "classify", ":", "Categorizing", "hidden-web", "databases", ".", "In", "SIGMOD", "'", "01", ".", "-LSB-", "12", "-RSB-", "P.", "G.", "Ipeirotis", ",", "L.", "Gravano", ",", "and", "M.", "Sahami", ".", "QProber", ":", "A", "system", "for", "automatic", "classification", "of", "hidden-web", "databases", ".", "ACM", "TOIS", ",", "21", "-LRB-", "1", "-RRB-", ":", "1", "41", ",", "2003", ".", "-LSB-", "13", "-RSB-", "Y.", "Liu", ",", "A.", "H.", "Ngu", ",", "and", "L.", "Zeng", ".", "QoScomputation", "and", "policing", "in", "dynamic", "web", "service", "selection", ".", "In", "WWW", "'", "04", ".", "-LSB-", "14", "-RSB-", "W.", "Meng", ",", "C.", "T.", "Yu", ",", "and", "K.-L", ".", "Liu", ".", "Detection", "of", "heterogeneities", "in", "a", "multiple", "text", "database", "environment", ".", "In", "CoopIS", "'", "99", ".", "-LSB-", "15", "-RSB-", "Microsoft", ".", ".", "NET", ".", "http://www.microsoft.com/net/", ",", "2003", ".", "-LSB-", "16", "-RSB-", "Microsoft", ".", "Microsoft", "UDDI", "Business", "Registry", "Node", ".", "http://uddi.microsoft.com/", ",", "2004", ".", "-LSB-", "17", "-RSB-", "National", "Center", "for", "Biotechnology", "Information", ".", "NCBI", "BLAST", ".", "http://www.ncbi.nih.gov/BLAST/", ",", "2004", ".", "-LSB-", "18", "-RSB-", "M.", "P.", "Papazoglou", ".", "Service-oriented", "computing", ":", "Concepts", ",", "characteristics", "and", "directions", ".", "In", "WISE", "'", "03", ".", "-LSB-", "19", "-RSB-", "M.", "F.", "Porter", ".", "An", "algorithm", "for", "suffix", "stripping", ".", "Program", ",", "14", "-LRB-", "3", "-RRB-", ":", "130", "137", ",", "1980", ".", "-LSB-", "20", "-RSB-", "ProFusion", ".", "http://www.profusion.com/", ",", "2004", ".", "-LSB-", "21", "-RSB-", "Y.", "Qiu", "and", "H.-P", ".", "Frei", ".", "Concept-based", "query", "expansion", ".", "In", "SIGIR", "'", "93", ",", "pages", "160", "169", ",", "Pittsburgh", ",", "US", ".", "-LSB-", "22", "-RSB-", "G.", "Salton", "and", "C.", "Buckley", ".", "Term-weighting", "approaches", "in", "automatic", "text", "retrieval", ".", "In", "Readings", "in", "Information", "Retrieval", ".", "Morgan", "Kauffman", ",", "San", "Francisco", ",", "CA", ",", "1997", ".", "-LSB-", "23", "-RSB-", "G.", "Salton", ",", "A.", "Wong", ",", "and", "C.", "Yang", ".", "A", "vector", "space", "model", "for", "automatic", "indexing", ".", "CACM", ",", "18", "-LRB-", "11", "-RRB-", ":", "613", "620", ",", "1971", ".", "-LSB-", "24", "-RSB-", "H.", "Schutze", "and", "J.", "O.", "Pedersen", ".", "A", "cooccurrence-based", "thesaurus", "and", "two", "applications", "to", "information", "retrieval", ".", "Information", "Processing", "and", "Management", ",", "33", "-LRB-", "3", "-RRB-", ",", "1997", ".", "-LSB-", "25", "-RSB-", "K.", "Sivashanmugam", ",", "K.", "Verma", ",", "and", "A.", "Sheth", ".", "Discovery", "of", "web", "services", "in", "a", "federated", "registry", "environment", ".", "In", "ICWS", "'", "04", ".", "-LSB-", "26", "-RSB-", "R.", "M.", "Sreenath", "and", "M.", "P.", "Singh", ".", "Agent-based", "service", "selection", ".", "Journal", "on", "Web", "Semantics", "-LRB-", "JWS", "-RRB-", ",", "2003", ".", "-LSB-", "27", "-RSB-", "A.", "Sugiura", "and", "O.", "Etzioni", ".", "Query", "routing", "for", "web", "search", "engines", ":", "Architecture", "and", "experiments", ".", "In", "WWW", "'", "00", ".", "-LSB-", "28", "-RSB-", "UDDI", ".", "http://www.uddi.org/", ",", "2004", ".", "-LSB-", "29", "-RSB-", "W3C", "Working", "Group", ".", "Web", "Services", "Architecture", ".", "http://www.w3.org/TR/2004/NOTE-ws-arch-20040211/", ",", "February", "2004", ".", "-LSB-", "30", "-RSB-", "W.", "Wang", ",", "W.", "Meng", ",", "and", "C.", "Yu", ".", "Concept", "hierarchy", "based", "text", "database", "categorization", "in", "a", "metasearch", "engine", "environment", ".", "In", "WISE", "'", "00", ".", "-LSB-", "31", "-RSB-", "J.", "Xu", "and", "W.", "B.", "Croft", ".", "Query", "expansion", "using", "local", "and", "global", "document", "analysis", ".", "In", "SIGIR", "'", "96", ",", "pages", "4", "11", ".", "-LSB-", "32", "-RSB-", "L.", "Zeng", ",", ",", "B.", "Benatallah", ",", "M.", "Dumas", ",", "J.", "Kalagnanam", ",", "and", "Q.", "Z.", "Sheng", ".", "Quality", "driven", "web", "services", "composition", ".", "In", "WWW", "'", "03", ".", "162"], "doc_bio_tags": ["O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["focal terms", "web service discovery", "ranking", "biased discovery"], "abstractive_keyphrases": ["query-biased probing", "source-biased probing", "data-intensive services", "data-intensive web services"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "59", "document": ["Coupling", "and", "Cohesion", "Measures", "for", "Evaluation", "of", "Component", "Reusability", "This", "paper", "provides", "an", "account", "of", "new", "measures", "of", "coupling", "and", "cohesion", "developed", "to", "assess", "the", "reusability", "of", "Java", "components", "retrieved", "from", "the", "internet", "by", "a", "search", "engine", ".", "These", "measures", "differ", "from", "the", "majority", "of", "established", "metrics", "in", "two", "respects", ":", "they", "reflect", "the", "degree", "to", "which", "entities", "are", "coupled", "or", "resemble", "each", "other", ",", "and", "they", "take", "account", "of", "indirect", "couplings", "or", "similarities", ".", "An", "empirical", "comparison", "of", "the", "new", "measures", "with", "eight", "established", "metrics", "shows", "the", "new", "measures", "are", "consistently", "superior", "at", "ranking", "components", "according", "to", "their", "reusability", ".", "D.", "2.8.3", "-LSB-", "Metrics", "-RSB-", ":", "Complexity", "measures", ".", "Measurement", ",", "Experimentation", ".", "The", "work", "reported", "in", "this", "paper", "arose", "as", "part", "of", "a", "project", "that", "retrieves", "Java", "components", "from", "the", "internet", "-LSB-", "1", "-RSB-", ".", "However", ",", "components", "retrieved", "from", "the", "internet", "are", "notoriously", "variable", "in", "quality", ".", "It", "seems", "highly", "desirable", "that", "the", "search", "engine", "should", "also", "provide", "an", "indication", "of", "both", "how", "reliable", "the", "component", "is", "and", "how", "readily", "it", "may", "be", "adapted", "in", "a", "larger", "software", "system", ".", "A", "well", "designed", "component", ",", "in", "which", "the", "functionality", "has", "been", "appropriately", "distributed", "to", "its", "various", "subcomponents", ",", "is", "more", "likely", "to", "be", "fault", "free", "and", "easier", "to", "adapt", ".", "Appropriate", "distribution", "of", "function", "underlies", "two", "key", "concepts", ":", "coupling", "and", "cohesion", ".", "Coupling", "is", "the", "extent", "to", "which", "the", "various", "subcomponents", "interact", ".", "If", "they", "are", "highly", "interdependent", "then", "changes", "to", "one", "are", "likely", "to", "have", "significant", "effects", "on", "others", ".", "Hence", "loose", "coupling", "is", "desirable", ".", "Cohesion", "is", "the", "extent", "to", "which", "the", "functions", "performed", "by", "a", "subsystem", "are", "related", ".", "If", "a", "subcomponent", "is", "responsible", "for", "a", "number", "of", "unrelated", "functions", "then", "the", "functionality", "has", "been", "poorly", "distributed", "to", "subcomponents", ".", "Hence", "high", "cohesion", "is", "a", "characteristic", "of", "a", "well", "designed", "subcomponent", ".", "We", "decided", "that", "the", "component", "search", "engine", "should", "provide", "the", "quality", "rankings", "of", "retrieved", "components", "based", "on", "measures", "of", "their", "coupling", "and", "cohesion", ".", "There", "is", "a", "substantial", "literature", "on", "coupling", "and", "cohesion", "metrics", "which", "is", "surveyed", "in", "the", "next", "section", ".", "We", "then", "describe", "in", "detail", "the", "metrics", "we", "have", "developed", "which", "attempt", "to", "address", "some", "of", "the", "limitations", "of", "existing", "metrics", ".", "In", "particular", ",", "we", "consider", "both", "the", "strength", "and", "transitivity", "of", "dependencies", ".", "The", "following", "section", "describes", "an", "empirical", "comparison", "of", "our", "proposed", "metrics", "and", "several", "popular", "alternatives", "as", "predictors", "of", "reusability", ".", "Section", "5", "presents", "an", "analysis", "of", "the", "results", "which", "demonstrate", "that", "our", "proposed", "metrics", "consistently", "outperform", "the", "others", ".", "The", "paper", "concludes", "with", "a", "discussion", "of", "the", "implications", "of", "the", "research", ".", "Cohesion", "is", "a", "measure", "of", "the", "extent", "to", "which", "the", "various", "functions", "performed", "by", "an", "entity", "are", "related", "to", "one", "another", ".", "Most", "metrics", "assess", "this", "by", "considering", "whether", "the", "methods", "of", "a", "class", "access", "similar", "sets", "of", "instance", "variables", ".", "Coupling", "is", "the", "degree", "of", "interaction", "between", "classes", ".", "Many", "researches", "have", "been", "done", "on", "software", "metrics", "-LSB-", "8", "-RSB-", ",", "the", "most", "important", "ones", "are", "selected", "used", "in", "our", "comparative", "study", ".", "Table", "1", "and", "Table", "2", "summarize", "the", "characteristics", "of", "these", "cohesion", "and", "coupling", "metrics", ".", "Table", "1", ".", "Coupling", "metrics", "Name", "Definition", "CBO", "-LSB-", "4", "-RSB-", "-LSB-", "5", "-RSB-", "-LSB-", "11", "-RSB-", "Classes", "are", "coupled", "if", "methods", "or", "instance", "variables", "in", "one", "class", "are", "used", "by", "the", "other", ".", "CBO", "for", "a", "class", "is", "number", "of", "other", "classes", "coupled", "with", "it", ".", "RFC", "-LSB-", "4", "-RSB-", "-LSB-", "5", "-RSB-", "Count", "of", "all", "methods", "in", "the", "class", "plus", "all", "methods", "called", "in", "other", "classes", ".", "CF", "-LSB-", "3", "-RSB-", "-LSB-", "6", "-RSB-", "Classes", "are", "coupled", "if", "methods", "or", "instance", "variables", "in", "one", "class", "are", "used", "by", "the", "other", ".", "CF", "for", "a", "software", "system", "is", "number", "of", "coupled", "class", "pairs", "divided", "by", "total", "number", "of", "class", "pairs", ".", "DAC", "-LSB-", "9", "-RSB-", "The", "number", "of", "attributes", "having", "other", "classes", "as", "their", "types", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "MSR", "'", "06", ",", "May", "22-23", ",", "2006", ",", "Shanghai", ",", "China", ".", "Copyright", "2006", "ACM", "1-59593-085-X", "/", "06/0005", "...", "$", "5.00", ".", "18", "Table", "2", ".", "Cohesion", "metrics", "Name", "Definition", "LCOM", "-LSB-", "5", "-RSB-", "Number", "of", "non-similar", "method", "pairs", "in", "a", "class", "of", "pairs", ".", "LCOM3", "-LSB-", "7", "-RSB-", "-LSB-", "9", "-RSB-", "Number", "of", "connected", "components", "in", "graph", "whose", "vertices", "are", "methods", "and", "whose", "edges", "link", "similar", "methods", ".", "RLCOM", "-LSB-", "10", "-RSB-", "Ratio", "of", "number", "of", "non-similar", "method", "pairs", "to", "total", "number", "of", "method", "pairs", "in", "the", "class", ".", "TCC", "-LSB-", "2", "-RSB-", "Ratio", "of", "number", "of", "similar", "method", "pairs", "to", "total", "number", "of", "method", "pairs", "in", "the", "class", ".", "All", "of", "these", "measures", "have", "two", "important", "features", "in", "common", ".", "First", ",", "they", "treat", "relationship", "between", "a", "pair", "of", "classes", "or", "methods", "as", "a", "binary", "quantity", ";", "second", ",", "they", "treat", "coupling", "and", "cohesion", "as", "an", "intransitive", "relation", ";", "that", "is", "no", "account", "is", "taken", "of", "the", "indirect", "coupling", "and", "cohesion", ",", "although", "two", "of", "cohesion", "-LRB-", "LCOM3", "-LSB-", "7", "-RSB-", "-LSB-", "9", "-RSB-", "and", "TCC", "-LSB-", "2", "-RSB-", "-RRB-", "have", "suggested", "extensions", "to", "incorporate", "indirect", "relationships", "between", "methods", ".", "In", "cohesion", "metrics", ",", "it", "should", "be", "noted", "that", "three", "of", "them", "-LRB-", "LCOM", ",", "LCOM3", "and", "RLCOM", "-RRB-", "are", "in", "fact", "measures", "of", "lack", "of", "cohesion", ".", "TCC", "-LSB-", "2", "-RSB-", ",", "in", "contrast", "to", "the", "other", "three", "metrics", ",", "measures", "cohesion", "rather", "than", "its", "absence", ".", "In", "other", "respects", "it", "is", "similar", "to", "RLCOM", ",", "being", "the", "number", "of", "similar", "method", "pairs", "divided", "by", "the", "total", "number", "of", "method", "pairs", ".", "The", "study", "suggested", "that", "none", "of", "these", "measures", "was", "very", "effective", "in", "ranking", "the", "reusability", "of", "Java", "components", ".", "We", "therefore", "decided", "to", "develop", "alternative", "coupling", "and", "cohesion", "metrics", "in", "the", "hope", "of", "achieving", "superior", "performance", ".", "One", "obvious", "step", "was", "to", "develop", "measures", "that", "reflected", "the", "extent", "to", "which", "a", "pair", "of", "classes", "was", "coupled", "or", "a", "pair", "of", "methods", "resembled", "each", "other", ".", "Because", "none", "of", "the", "measures", "treated", "coupling", "or", "similarity", "as", "transitive", "relations", ",", "we", "decided", "that", "such", "indirect", "dependencies", "should", "be", "incorporated", "into", "our", "metrics", ".", "3.1", "Cohesion", "We", "develop", "a", "cohesion", "metric", "that", "takes", "account", "of", "both", "the", "degree", "of", "cohesion", "and", "transitive", "-LRB-", "i.e", "indirect", "-RRB-", "cohesion", "between", "methods", ".", "Methods", "are", "said", "to", "be", "similar", "if", "the", "sets", "of", "instance", "variables", "that", "they", "access", "overlap", ".", "We", "adopt", "a", "graph", "theoretical", "approach", ".", "The", "methods", "of", "the", "class", "are", "the", "vertices", ".", "Suppose", "a", "class", "has", "a", "set", "of", "method", "members", "M", "-LCB-", "M", "1", ",", "M", "2", ",", "...", "M", "m", "-RCB-", "and", "let", ".", "V", "j", "-LCB-", "V", "j", ",1", ",", "V", "j", ",2", ",", "...", ".", "V", "j", ",", "n", "-RCB-", "be", "the", "instance", "variables", "accessed", "by", "method", "M", "j", ".", "Then", "the", "edge", "from", "M", "j", "to", "M", "i", "exists", "if", "and", "only", "if", "V", "j", "V", "i", "is", "not", "null", ".", "Thus", "an", "edge", "of", "the", "graph", "reflects", "the", "similarity", "of", "the", "methods", "in", "that", "they", "have", "at", "least", "one", "instance", "variable", "in", "common", ".", "The", "similarity", "graph", "is", "undirected", "because", "intersection", "is", "a", "symmetric", "relation", ".", "The", "next", "step", "is", "to", "associate", "a", "number", "with", "each", "edge", "that", "reflects", "the", "extent", "to", "which", "the", "two", "methods", "have", "instance", "variables", "in", "common", ".", "We", "therefore", "define", "SimD", "-LRB-", "i", ",", "j", "-RRB-", ",", "our", "measure", "of", "direct", "similarity", "of", "two", "methods", ",", "M", "i", "and", "M", "j", ",", "as", "-LRB-", "-RRB-", "j", "i", "j", "i", "V", "V", "V", "V", "j", "i", "SimD", "=", ",", "where", "i", "j", "-LRB-", "SimD", "-LRB-", "j", ",", "j", "-RRB-", "is", "defined", "to", "be", "zero", "-RRB-", ".", "Note", "that", "1", "SimD", "-LRB-", "i", ",", "j", "-RRB-", "0", ".", "The", "extension", "of", "the", "measure", "to", "include", "indirect", "similarity", "proceeds", "along", "the", "same", "lines", "as", "we", "employed", "for", "indirect", "coupling", ".", "The", "strength", "of", "similarity", "provided", "by", "a", "path", "between", "two", "methods", "is", "the", "product", "of", "the", "SimD", "values", "of", "the", "edges", "that", "make", "up", "the", "path", ".", "Thus", "we", "define", "SimT", "-LRB-", "i", ",", "j", ",", "-RRB-", ",", "the", "transitive", "similarity", "between", "methods", "M", "i", "and", "M", "j", "due", "to", "a", "specific", "path", ",", "as", "-LRB-", "-RRB-", "=", "=", "t", "s", "t", "s", "e", "t", "s", "t", "s", "e", "V", "V", "V", "V", "t", "s", "SimD", "j", "i", "SimT", ",", ",", ",", "-RRB-", ",", ",", "-LRB-", "where", "e", "s", ",", "t", "denotes", "the", "edge", "between", "vertices", "s", "and", "t", ".", "As", "in", "the", "case", "of", "coupling", ",", "the", "path", "with", "the", "highest", "SimT", "value", "is", "selected", "to", "define", "the", "similarity", "of", "the", "two", "methods", ",", "Sim", "-LRB-", "i", ",", "j", "-RRB-", ".", "-RRB-", ",", ",", "-LRB-", "-RRB-", ",", "-LRB-", "max", "j", "i", "SimT", "j", "i", "Sim", "=", "where", "and", "is", "the", "set", "of", "all", "paths", "from", "M", "i", "to", "M", "j", ".", "This", "measure", "is", "used", "to", "provide", "a", "measure", "of", "the", "cohesion", "of", "the", "class", ",", "ClassCoh", ",", "by", "summing", "the", "similarities", "of", "all", "method", "pairs", "and", "dividing", "by", "the", "total", "number", "of", "such", "pairs", ":", "-RRB-", ",", ",", "-LRB-", "max", "arg", "-RRB-", ",", "-LRB-", "max", "j", "i", "SimT", "j", "i", "=", "m", "m", "j", "i", "Sim", "ClassCoh", "m", "j", "i", "=", "=", "2", "1", ",", "-RRB-", ",", "-LRB-", "where", "m", "is", "the", "number", "of", "methods", "in", "the", "class", ".", "Finally", ",", "the", "weighted", "transitive", "cohesion", "of", "the", "complete", "software", "system", ",", "WTCoh", ",", "is", "defined", "as", "the", "mean", "cohesion", "of", "all", "the", "classes", "of", "which", "it", "is", "comprised", ":", "n", "ClassCoh", "WTCoh", "n", "j", "j", "=", "=", "1", "where", "n", "is", "the", "number", "of", "classes", "in", "the", "system", ".", "3.2", "Coupling", "As", "with", "cohesion", "measure", ",", "we", "regard", "software", "system", "as", "a", "directed", "graph", ",", "in", "which", "the", "vertices", "are", "the", "classes", "comprising", "the", "system", ".", "Suppose", "such", "a", "system", "comprises", "a", "set", "of", "classes", "C", "-LCB-", "C", "1", ",", "C", "2", ",", "...", "C", "m", "-RCB-", ".", "Let", "M", "j", "-LCB-", "M", "j", ",1", ",", "M", "j", ",2", ",", "...", ".", "M", "j", ",", "n", "-RCB-", "be", "the", "methods", "of", "the", "class", "C", "j", ",", "and", "R", "j", ",", "i", "the", "set", "of", "methods", "and", "instance", "variables", "in", "class", "C", "i", "invoked", "by", "class", "C", "j", "for", "j", "i", "-LRB-", "R", "j", ",", "j", "is", "defined", "to", "be", "null", "-RRB-", ".", "Then", "the", "edge", "from", "C", "j", "to", "C", "i", "exists", "if", "and", "only", "if", "R", "j", ",", "j", "is", "not", "null", ".", "Thus", "an", "edge", "of", "the", "graph", "reflects", "the", "direct", "coupling", "of", "one", "class", "to", "another", ".", "The", "graph", "is", "directed", "since", "R", "j", ",", "i", "is", "not", "necessarily", "equal", "to", "Ri", ",", "j", ".", "The", "next", "step", "is", "to", "associate", "a", "number", "with", "each", "edge", "that", "reflects", "the", "extent", "of", "direct", "coupling", "from", "one", "class", "to", "another", ".", "We", "define", "CoupD", "-LRB-", "i", ",", "j", "-RRB-", ",", "as", "the", "ratio", "of", "the", "number", "of", "methods", "in", "class", "j", "invoked", "by", "class", "I", "to", "the", "total", "number", "of", "methods", "in", "class", "I", ",", "which", "indicates", "the", "impact", "of", "class", "j", "to", "class", "i.", "-LRB-", "-RRB-", "i", "i", "j", "i", "M", "R", "R", "j", "i", "CoupD", "+", "=", ",", ",", "Then", "the", "indirect", "coupling", "between", "classes", "is", "included", ".", "Suppose", "that", "CoupD", "-LRB-", "i", ",", "j", "-RRB-", "and", "CoupD", "-LRB-", "j", ",", "k", "-RRB-", "have", "finite", "values", "but", "that", "CoupD", "-LRB-", "i", ",", "k", "-RRB-", "is", "zero", ".", "Thus", "although", "there", "is", "no", "direct", "coupling", "between", "classes", "C", "i", "and", "C", "k", ",", "there", "is", "a", "dependency", "because", "C", "i", "invokes", "methods", "in", "C", "j", "which", "in", "turn", "invokes", "methods", "in", "C", "k", ".", "The", "strength", "of", "this", "dependency", "depends", "on", "the", "two", "direct", "couplings", "of", "which", "it", "is", "composed", ",", "a", "reasonable", "measure", "is", "defined", "as", ":", "19", "CoupD", "-LRB-", "i", ",", "j", "-RRB-", "CoupD", "-LRB-", "j", ",", "k", "-RRB-", ".", "This", "notion", "is", "readily", "generalised", ".", "A", "coupling", "between", "two", "classes", "exists", "if", "there", "is", "a", "path", "from", "one", "to", "the", "other", "made", "up", "edges", "whose", "CoupD", "values", "are", "all", "non-zero", ".", "Thus", "we", "define", "CoupT", "-LRB-", "i", ",", "j", ",", "-RRB-", ",", "the", "transitive", "coupling", "between", "classes", "C", "i", "and", "C", "j", "due", "to", "a", "specific", "path", ",", "as", "-LRB-", "-RRB-", "+", "=", "=", "t", "s", "t", "s", "e", "s", "s", "t", "s", "e", "M", "R", "R", "t", "s", "CoupD", "j", "i", "CoupT", ",", ",", ",", ",", "-RRB-", ",", ",", "-LRB-", "e", "s", ",", "t", "denotes", "the", "edge", "between", "vertices", "s", "and", "t.", "Note", "first", "that", "CoupT", "includes", "the", "direct", "coupling", ",", "which", "corresponds", "to", "path", "of", "length", "one", ",", "and", "second", "that", ",", "because", "the", "CoupD", "values", "are", "necessarily", "less", "than", "one", ",", "transitive", "couplings", "due", "to", "longer", "paths", "will", "typically", "have", "lower", "values", ".", "In", "general", "there", "may", "be", "more", "than", "one", "path", "having", "a", "non-zero", "CoupT", "value", "between", "any", "two", "classes", ".", "We", "simply", "select", "the", "path", "with", "largest", "CoupT", "value", "and", "hence", "define", "Coup", "-LRB-", "i", ",", "j", "-RRB-", ",", "the", "strength", "of", "coupling", "between", "the", "two", "classes", ",", "C", "i", "and", "C", "j", "to", "be", ":", "-RRB-", ",", ",", "-LRB-", "-RRB-", ",", "-LRB-", "max", "j", "i", "CoupT", "j", "i", "Coup", "=", "where", "-RRB-", ",", ",", "-LRB-", "max", "arg", "-RRB-", ",", "-LRB-", "max", "j", "i", "CPT", "j", "i", "=", "and", "is", "the", "set", "of", "all", "paths", "from", "C", "i", "to", "C", "j", ".", "The", "final", "step", "is", "to", "use", "measure", "between", "each", "pair", "of", "classes", "as", "a", "basis", "for", "a", "measure", "of", "the", "total", "coupling", "of", "a", "software", "system", ".", "The", "weighted", "transitive", "coupling", "-LRB-", "WTCoup", "-RRB-", "of", "a", "system", "is", "thus", "defined", "m", "m", "j", "i", "Coup", "WTCoup", "m", "j", "i", "=", "=", "2", "1", ",", "-RRB-", ",", "-LRB-", "where", "m", "is", "the", "number", "of", "classes", "in", "the", "system", ".", "In", "our", "study", ",", "the", "metrics", "are", "used", "for", "a", "specific", "purpose", ":", "predicting", "how", "much", "effort", "would", "be", "required", "to", "reuse", "a", "component", "within", "a", "larger", "system", ".", "We", "therefore", "chose", "to", "measure", "reusability", "as", "simply", "the", "number", "of", "lines", "of", "code", "that", "were", "added", ",", "modified", "or", "deleted", "-LRB-", "NLOC", "-RRB-", "in", "order", "to", "extend", "its", "functionality", "in", "a", "prescribed", "way", ".", "The", "more", "lines", "required", ",", "the", "lower", "the", "reusability", ".", "This", "appears", "to", "us", "to", "be", "a", "crude", "but", "reasonable", "measure", "of", "the", "effort", "that", "would", "be", "required", "to", "adapt", "a", "component", "for", "use", "within", "a", "larger", "system", ".", "Three", "case", "studies", "were", "carried", "out", ":", "Case", "1", "HTML", "Parser", ":", "The", "original", "components", "analysed", "HTML", "documents", ",", "eliminated", "tags", "and", "comments", "and", "output", "the", "text", ".", "The", "required", "extension", "was", "to", "count", "and", "output", "the", "number", "of", "tags", "found", "during", "parsing", ".", "Case", "2", "Lexical", "Tokenizer", ":", "The", "original", "components", "tokenized", "a", "text", "document", "using", "user", "supplied", "token", "rules", "and", "output", "the", "tokens", "on", "a", "web", "interface", ".", "The", "required", "extension", "was", "to", "count", "and", "output", "the", "number", "of", "tokens", "retrieved", ".", "Case", "3", "Barcode", ":", "The", "original", "components", "accepted", "a", "sequence", "of", "alphanumeric", "characters", "and", "generated", "the", "corresponding", "barcode", ".", "The", "required", "extension", "was", "to", "count", "the", "number", "of", "letters", ".", "For", "each", "case", ",", "20", "Java", "components", "were", "retrieved", "from", "a", "repository", "of", "about", "10,000", "Java", "components", "retrieved", "form", "the", "internet", ".", "The", "requisite", "extensions", "were", "then", "implemented", "by", "a", "very", "experienced", "Java", "programmer", "and", "NLOC", "counted", ".", "Despite", "the", "relative", "simplicity", "of", "the", "extensions", ",", "there", "was", "considerable", "variation", "in", "the", "quantity", "of", "extra", "code", "required", ".", "We", "then", "proceeded", "to", "investigate", "how", "successful", "the", "various", "measures", "of", "coupling", "and", "cohesion", "are", "in", "predicting", "this", "quantity", ".", "Our", "proposed", "metrics", "are", "compared", "with", "all", "the", "metrics", "reviewed", "in", "section", "2", ".", "In", "order", "to", "present", "the", "results", "on", "the", "same", "graph", ",", "those", "measures", "that", "do", "not", "produce", "values", "in", "the", "range", "-LRB-", "0,1", "-RRB-", "-LRB-", "i.e.", "CBO", ",", "RFC", ",", "DAC", ",", "LCOM", "and", "LCOM3", "-RRB-", "were", "divided", "by", "100", ".", "Two", "approaches", "were", "used", "to", "evaluate", "the", "performance", "of", "the", "various", "measures", "in", "predicting", "reusability", ":", "linear", "regression", "and", "rank", "correlation", ".", "5.1", "Linear", "Regression", "The", "regression", "lines", "obtained", "for", "the", "five", "cohesion", "measures", "when", "applied", "to", "the", "HTML", "parser", "components", "are", "shown", "in", "Figure", "1", ".", "The", "results", "for", "the", "other", "two", "sets", "of", "components", "were", "similar", ".", "It", "is", "clear", "that", "some", "measures", "provide", "much", "more", "consistent", "predictors", "than", "others", ".", "There", "are", "no", "obvious", "systematic", "departures", "from", "linearity", "so", "the", "use", "of", "simple", "regression", "appears", "reasonable", ".", "The", "regression", "lines", "obtained", "for", "coupling", "measures", "demonstrate", "the", "same", "situation", ".", "The", "coefficient", "of", "determination", ",", "R", "2", ",", "provides", "a", "measure", "of", "how", "much", "of", "the", "variation", "in", "NLOC", "is", "accounted", "for", "by", "the", "measures", ".", "Table", "3", "and", "Table", "4", "display", "the", "values", "of", "R", "2", "obtained", "for", "each", "of", "the", "coupling", "and", "cohesion", "measures", "on", "all", "three", "sets", "of", "components", ".", "In", "each", "case", ",", "our", "proposed", "new", "measure", ",", "WTCoup", "and", "WTCoh", "gave", "the", "largest", "value", "of", "R", "2", ",", "indicating", "that", "it", "was", "the", "best", "linear", "predictor", "of", "reusability", ".", "The", "remaining", "measures", "produced", "at", "least", "one", "R", "2", "value", "so", "low", "as", "to", "indicate", "that", "that", "the", "correlation", "was", "not", "significantly", "above", "chance", "at", "the", "5", "%", "level", ".", "Figure", "1", ".", "Regression", "of", "cohesion", "measures", "against", "reusability", "Table", "3", ".", "R", "2", "values", "for", "coupling", "measure", "regression", "lines", ".", "Cases", "WTCoup", "CF", "CBO", "RFC", "DAC", "HTML", "Parser", ".846", ".621", ".259", ".793", ".254", "Lexical", "Token", ".", ".836", ".098", ".004", ".729", ".738", "Barcode", "Gen.", ".958", ".693", ".121", "534", ".507", "20", "Table", "4", ".", "R", "2", "values", "for", "cohesion", "measure", "regression", "lines", ".", "Cases", "WTCoh", "RLCOM", "LCOM3", "LCOM", "TCC", "H.", "Parser", ".847", ".319", ".259", ".564", ".178", "L.", "Token", ".", ".838", ".783", ".002", ".709", ".646", "B.", "Gen.", ".892", ".702", ".177", ".101", ".785", "5.2", "Spearman", "Rank", "Correlation", "Although", "these", "results", "provide", "a", "strong", "indication", "that", "the", "proposed", "new", "measures", "are", "better", "predictors", "of", "reusability", "than", "the", "alternatives", ",", "our", "primary", "purpose", "is", "simply", "to", "rank", "a", "set", "of", "components", "retrieved", "from", "the", "repository", ".", "We", "therefore", "also", "computed", "the", "Spearman", "rank", "correlation", "coefficients", "between", "the", "rankings", "determined", "by", "NLOC", "and", "those", "produced", "by", "the", "various", "coupling", "and", "cohesion", "measures", "-LRB-", "Tables", "5", "and", "6", "-RRB-", ".", "Table", "5", ".", "Rank", "correlations", "values", "for", "coupling", "measures", ".", "Cases", "WTCoup", "CF", "CBO", "RFC", "DAC", "HTML", "Parser", ".975", ".882", ".465", ".896", ".507", "Lexical", "Token", ".", ".952", ".291", ".117", ".822", ".817", "Barcode", "Gen.", ".974", ".758", ".485", ".656", ".800", "Table", "6", ".", "Rank", "correlations", "values", "for", "cohesion", "measures", ".", "Cases", "WTCoh", "RLCOM", "LCOM3", "LCOM", "TCC", "H.", "Parser", "-.993", ".522", ".218", ".564", "-.343", "L.", "Token", ".", ".838", ".783", ".002", ".709", ".646", "Bar", ".", "Gen.", ".892", ".702", ".177", ".101", ".785", "The", "relative", "performance", "of", "the", "various", "measures", "is", "consistent", "with", "the", "regression", "studies", ".", "In", "all", "cases", ",", "the", "two", "proposed", "measures", ",", "WTCoup", "and", "WTCoh", ",", "produced", "the", "highest", "rank", "correlations", ".", "They", "are", "in", "fact", "extremely", "high", ";", "no", "value", "was", "lower", "than", "0.95", ".", "These", "results", "clearly", "demonstrate", "that", "our", "proposed", "metrics", "for", "coupling", "and", "cohesion", "are", "very", "good", "predictors", "of", "the", "number", "of", "lines", "of", "code", "required", "to", "make", "simple", "modifications", "to", "Java", "components", "retrieved", "from", "the", "internet", "and", "are", "superior", "to", "other", "measures", ".", "The", "majority", "of", "coupling", "and", "cohesion", "metrics", "treat", "coupling", "and", "similarity", "as", "simple", "binary", "quantities", "and", "ignore", "the", "transitive", "relationship", ".", "Both", "our", "proposed", "measures", "concern", "these", "issues", ":", "First", ",", "they", "are", "weighted", ";", "that", "is", ",", "they", "use", "a", "numeric", "measure", "of", "the", "degree", "of", "coupling", "or", "similarity", "between", "entities", "rather", "than", "a", "binary", "quantity", ".", "Second", "they", "are", "transitive", ";", "that", "is", ",", "they", "include", "indirect", "coupling", "or", "similarity", "mediated", "by", "intervening", "entities", ".", "It", "is", "reasonable", "to", "enquire", "whether", "both", "these", "characteristics", "are", "necessary", "to", "achieve", "good", "prediction", "performance", ".", "In", "fact", "our", "investigations", "suggest", "that", "both", "contribute", "to", "the", "performance", ".", "Although", "both", "WTCoup", "and", "WTCoh", "are", "good", "predictors", ",", "it", "is", "worth", "considering", "whether", "a", "linear", "combination", "might", "not", "produce", "even", "better", "results", ".", "Multiple", "regression", "for", "the", "Lexical", "Tokenizer", "components", "produced", "an", "R", "2", "of", "0.981", ";", "the", "ranking", "produced", "using", "the", "regression", "coefficients", "to", "weight", "the", "terms", "had", "a", "Spearman", "correlation", "of", "0.986", ".", "These", "are", "superior", "to", "the", "results", "produced", "by", "each", "metric", "alone", "but", "not", "by", "a", "great", "margin", "simply", "because", "there", "original", "results", "leave", "only", "modest", "scope", "for", "improvement", ".", "Developing", "such", "a", "composite", "quality", "measure", "would", "entail", "assuming", "the", "relative", "weighting", "of", "the", "two", "metrics", "should", "be", "the", "same", "for", "all", "types", "of", "component", ".", "This", "work", "arose", "from", ",", "and", "is", "intended", "primarily", "as", "a", "contribution", "to", ",", "search", "engine", "technology", ".", "Nevertheless", ",", "we", "believe", "it", "may", "be", "of", "interest", "to", "a", "wider", "body", "of", "researchers", ":", "in", "particular", ",", "those", "involved", "in", "developing", "and", "evaluating", "software", "metrics", ".", "We", "are", "grateful", "to", "the", "four", "UK", "higher", "education", "funding", "bodies", "-LRB-", "for", "England", ",", "Scotland", ",", "Wales", "and", "Northern", "Ireland", "-RRB-", "for", "an", "Overseas", "Research", "Studentship", "-LRB-", "ORS/2002015010", "-RRB-", "awarded", "to", "G.", "Gui", ".", "-LSB-", "1", "-RSB-", "Gui", ",", "G.", "and", "Scott", ",", "P.", "D.", "Vector", "Space", "Based", "on", "Hierarchical", "Weighting", ":", "A", "Component", "Ranking", "Approach", "to", "Component", "Retrieval", ".", "In", "Proceedings", "of", "the", "6th", "International", "Workshop", "on", "Advanced", "Parallel", "Processing", "Technologies", "-LRB-", "APPT", "'", "05", "-RRB-", "-LSB-", "2", "-RSB-", "Bieman", ",", "J.", "M.", "and", "Kang", ",", "B-Y", ".", "Cohesion", "and", "Reuse", "in", "an", "Object-Oriented", "System", ".", "In", "Proc", ".", "ACM", "Symposium", "on", "Software", "Reusability", "-LRB-", "SSR", "'", "95", "-RRB-", ".", "-LRB-", "April", "1995", "-RRB-", "259-262", ".", "-LSB-", "3", "-RSB-", "Briand", ",", "L.", ",", "Devanbu", ",", "P.", "and", "Melo", ",", "W", ".", "An", "investigation", "into", "coupling", "measures", "for", "C++", ".", "Proceedings", "of", "ICSE", "1997", ".", "-LSB-", "4", "-RSB-", "Brito", "e", "Abreu", ",", "F.", "and", "Melo", ",", "W.", "Evaluating", "the", "impact", "of", "OO", "Design", "on", "Software", "Quality", ".", "Proc", ".", "Third", "International", "Software", "Metrics", "Symposium", ".", "-LRB-", "Berin", "1996", "-RRB-", ".", "-LSB-", "5", "-RSB-", "Chidamber", ",", "S.", "R.", "and", "Kemerer", ",", "C.", "K", ".", "A", "Metrics", "Suite", "for", "Object", "Oriented", "Design", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "Vol", ".", "20", "-LRB-", "June", "1994", "-RRB-", ",", "476-493", ".", "-LSB-", "6", "-RSB-", "Harrison", ",", "R.", ",", "S.J.Counsell", ",", "&", "R.V.Nith", ".", "An", "Evaluation", "of", "the", "MOOD", "Set", "of", "Object-Oriented", "Software", "Metrics", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "Vol", ".", "24", "-LRB-", "June", "1998", "-RRB-", ",", "491-496", ".", "-LSB-", "7", "-RSB-", "Hitz", ",", "M.", "and", "Montazeri", ",", "B.", "Measuring", "coupling", "and", "cohesion", "in", "object-oriented", "systems", ".", "Proceedings", "of", "International", "Symposium", "on", "Applied", "Corporate", "Computing", ".", "-LRB-", "Monterrey", ",", "Mexico", ",", "1995", "-RRB-", ".", "-LSB-", "8", "-RSB-", "Kanmani", ",", "S.", ",", "Uthariraj", ",", "R.", ",", "Sankaranarayanan", ",", "V.", "and", "Thambidurai", ",", "P.", "Investigation", "into", "the", "Exploitation", "of", "Object-Oriented", "Features", ".", "ACM", "Sigsoft", ",", "Software", "Engineering", "Notes", ",", "Vol", ".", "29", "-LRB-", "March", "2004", "-RRB-", ".", "-LSB-", "9", "-RSB-", "Li", ",", "W.", "&", "Henry", ",", "S.", "Object-Oriented", "metrics", "that", "predict", "maintainability", ".", "Journal", "of", "Systems", "and", "Software", ".", "23", "-LRB-", "2", "-RRB-", "1993", "111-122", ".", "-LSB-", "10", "-RSB-", "Li", ",", "X.", ",", "Liu", ",", "Z.", "Pan", ",", "B.", "&", "Xing", ",", "B", ".", "A", "Measurement", "Tool", "for", "Object", "Oriented", "Software", "and", "Measurement", "Experiments", "with", "It", ".", "In", "Proc", ".", "IWSM", "2000", ",", "44-54", ".", "-LSB-", "11", "-RSB-", "Subramanyam", ",", "R.", "&", "Krishnan", ",", "M.", "S.", "Empirical", "Analysis", "of", "CK", "Metrics", "for", "Object-Oriented", "Design", "Complexity", ":", "Implications", "for", "Software", "Defects", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "Vol", ".", "29", "-LRB-", "April", "2003", "-RRB-", ",", "297-310", ".", "21"], "doc_bio_tags": ["B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["coupling", "intransitive relation", "linear regression", "spearman rank correlation", "search engine technology", "reusability", "cohesion", "component search engine", "binary quantity", "java components"], "abstractive_keyphrases": ["experimentary comparsion", "cohesion metric"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "86", "document": ["Evaluating", "Similarity", "Measures", ":", "A", "Large-Scale", "Study", "in", "the", "Orkut", "Social", "Network", "Online", "information", "services", "have", "grown", "too", "large", "for", "users", "to", "navigate", "without", "the", "help", "of", "automated", "tools", "such", "as", "collaborative", "filtering", ",", "which", "makes", "recommendations", "to", "users", "based", "on", "their", "collective", "past", "behavior", ".", "While", "many", "similarity", "measures", "have", "been", "proposed", "and", "individually", "evaluated", ",", "they", "have", "not", "been", "evaluated", "relative", "to", "each", "other", "in", "a", "large", "real-world", "environment", ".", "We", "present", "an", "extensive", "empirical", "comparison", "of", "six", "distinct", "measures", "of", "similarity", "for", "recommending", "online", "communities", "to", "members", "of", "the", "Orkut", "social", "network", ".", "We", "determine", "the", "usefulness", "of", "the", "different", "recommendations", "by", "actually", "measuring", "users", "'", "propensity", "to", "visit", "and", "join", "recommended", "communities", ".", "We", "also", "examine", "how", "the", "ordering", "of", "recommendations", "influenced", "user", "selection", ",", "as", "well", "as", "interesting", "social", "issues", "that", "arise", "in", "recommending", "communities", "within", "a", "real", "social", "network", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications-data", "mining", ";", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Online", "Information", "Services", ";", "I.", "5", "-LSB-", "Computing", "Methodologies", "-RSB-", ":", "Pattern", "Recognition", "Algorithms", ",", "measurement", ",", "human", "factors", "The", "amount", "of", "information", "available", "online", "grows", "far", "faster", "than", "an", "individual", "'s", "ability", "to", "assimilate", "it", ".", "For", "example", ",", "consider", "``", "communities", "''", "-LRB-", "user-created", "discussion", "groups", "-RRB-", "within", "Orkut", ",", "a", "social-networking", "website", "-LRB-", "http://www.orkut.com", "-RRB-", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "05", ",", "August", "21", "24", ",", "2005", ",", "Chicago", ",", "Illinois", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-135-X", "/", "05/0008", "...", "$", "5.00", ".", "affiliated", "with", "Google", ".", "The", "original", "mechanisms", "for", "users", "to", "find", "communities", "were", "labor-intensive", ",", "including", "searching", "for", "keywords", "in", "community", "titles", "and", "descriptions", "or", "browsing", "other", "users", "'", "memberships", ".", "Four", "months", "after", "its", "January", "2004", "debut", ",", "Orkut", "had", "over", "50,000", "communities", ",", "providing", "the", "necessity", "and", "opportunity", "for", "data-mining", "for", "automated", "recommendations", ".", "There", "are", "now", "-LRB-", "May", "2005", "-RRB-", "over", "1,500,000", "communities", ".", "While", "there", "are", "many", "forms", "of", "recommender", "systems", "-LSB-", "3", "-RSB-", ",", "we", "chose", "a", "collaborative", "filtering", "approach", "-LSB-", "13", "-RSB-", "based", "on", "overlapping", "membership", "of", "pairs", "of", "communities", ".", "We", "did", "not", "make", "use", "of", "semantic", "information", ",", "such", "as", "the", "description", "of", "or", "messages", "in", "a", "community", "-LRB-", "although", "this", "may", "be", "an", "area", "of", "future", "work", "-RRB-", ".", "Our", "recommendations", "were", "on", "a", "per-community", ",", "rather", "than", "a", "per-user", "basis", ";", "that", "is", ",", "all", "members", "of", "a", "given", "community", "would", "see", "the", "same", "recommendations", "when", "visiting", "that", "community", "'s", "page", ".", "We", "chose", "this", "approach", "out", "of", "the", "belief", ",", "which", "was", "confirmed", ",", "that", "community", "memberships", "were", "rich", "enough", "to", "make", "very", "useful", "recommendations", "without", "having", "to", "perform", "more", "compu-tationally", "intensive", "operations", ",", "such", "as", "clustering", "of", "users", "or", "communities", "or", "computing", "nearest", "neighbor", "relations", "among", "users", ".", "Indeed", ",", "Sarwar", "et", "al.", "have", "found", "such", "item-based", "algorithms", "to", "be", "both", "more", "efficient", "and", "successful", "than", "user-based", "algorithms", "-LSB-", "13", "-RSB-", ".", "By", "measuring", "user", "acceptance", "of", "recommendations", ",", "we", "were", "able", "to", "evaluate", "the", "absolute", "and", "relative", "utility", "of", "six", "different", "similarity", "measures", "on", "a", "large", "volume", "of", "data", ".", "The", "input", "data", "came", "from", "the", "membership", "relation", "M", "=", "-LCB-", "-LRB-", "u", ",", "c", "-RRB-", "|", "u", "U", ",", "c", "C", "-RCB-", ",", "where", "C", "is", "the", "set", "of", "communities", "with", "at", "least", "20", "members", "and", "U", "the", "set", "of", "users", "belonging", "to", "at", "least", "one", "such", "community", ".", "When", "we", "began", "our", "experiment", "in", "May", "2004", ",", "|", "C", "|", "=", "19", ",", "792", ",", "|", "U", "|", "=", "181", ",", "160", ",", "and", "|", "M", "|", "=", "2", ",", "144", ",", "435", ".", "Table", "1", "summarizes", "the", "distribution", ".", "All", "of", "our", "measures", "of", "community", "similarity", "involve", "the", "overlap", "between", "two", "communities", ",", "i.e.", ",", "the", "number", "of", "com-Table", "1", ":", "Distribution", "of", "community", "memberships", "min", "max", "median", "Users", "per", "community", "20", "9077", "50", "230.5", "Communities", "per", "user", "1", "4173", "6", "28.0", "678", "Research", "Track", "Poster", "mon", "users", ".", "If", "a", "base", "community", "b", "and", "a", "-LRB-", "potentially", "-RRB-", "related", "community", "r", "are", "considered", "as", "sets", "of", "users", ",", "the", "overlap", "is", "|", "B", "R", "|", ",", "where", "we", "use", "capital", "letters", "to", "represent", "the", "set", "containing", "a", "community", "'s", "members", ".", "Note", "that", "overlap", "can", "not", "be", "the", "sole", "factor", "in", "relatedness", ",", "as", "the", "size", "of", "communities", "varies", "greatly", ".", "If", "we", "only", "considered", "overlap", ",", "practically", "every", "community", "would", "be", "considered", "related", "to", "the", "``", "Linux", "''", "community", ",", "which", "was", "the", "most", "popular", ",", "with", "9,077", "members", ".", "The", "similarity", "measures", "in", "the", "next", "section", "normalize", "the", "overlap", "in", "different", "ways", ".", "2.1", "Similarity", "Measure", "Functions", "Each", "similarity", "measure", "we", "consider", "is", "presented", "as", "a", "-LRB-", "possibly", "asymmetric", "-RRB-", "function", "of", "b", "and", "r", "indicating", "how", "appropriate", "the", "related", "community", "r", "is", "as", "a", "recommendation", "for", "the", "base", "community", "b", ".", "We", "do", "not", "use", "the", "result", "of", "the", "function", "as", "an", "absolute", "measure", "of", "similarity", ",", "only", "to", "rank", "recommendations", "for", "a", "given", "base", "community", ".", "2.1.1", "L1-Norm", "If", "we", "consider", "the", "base", "and", "related", "communities", "to", "be", "vectors", "b", "and", "r", ",", "where", "the", "i", "th", "element", "of", "a", "vector", "is", "1", "if", "user", "i", "is", "a", "member", "and", "0", "if", "not", ",", "we", "can", "measure", "the", "overlap", "as", "the", "product", "of", "their", "L1-norms", ":", "L1", "-LRB-", "b", ",", "r", "-RRB-", "=", "b", "r", "b", "1", "r", "1", "This", "quantity", "can", "also", "be", "expressed", "in", "set", "notation", ",", "where", "we", "use", "a", "capital", "letter", "to", "represent", "the", "set", "containing", "a", "community", "'s", "members", ":", "L1", "-LRB-", "B", ",", "R", "-RRB-", "=", "|", "B", "R", "|", "|", "B", "|", "|", "R", "|", "Note", "that", "this", "evaluates", "to", "the", "overlap", "between", "the", "two", "groups", "divided", "by", "the", "product", "of", "their", "sizes", ".", "When", "the", "base", "community", "is", "held", "constant", "-LRB-", "as", "when", "we", "determine", "the", "base", "community", "'s", "recommendations", "-RRB-", ",", "this", "evaluates", "to", "the", "overlap", "divided", "by", "the", "size", "of", "the", "related", "community", ",", "favoring", "small", "communities", ".", "Kitts", "et", "al.", "-LSB-", "9", "-RSB-", "reported", "this", "to", "be", "a", "successful", "measure", "of", "similarity", "in", "their", "recommender", "system", ".", "2.1.2", "L2-Norm", "Similarly", ",", "we", "can", "measure", "the", "overlap", "with", "the", "product", "of", "the", "L2-norms", "-LRB-", "``", "cosine", "distance", "''", "-LSB-", "3", ",", "6", ",", "12", "-RSB-", "-RRB-", "of", "b", "and", "r", ":", "L2", "-LRB-", "b", ",", "r", "-RRB-", "=", "b", "r", "b", "2", "r", "2", "In", "set", "notation", ":", "L2", "-LRB-", "B", ",", "R", "-RRB-", "=", "|", "B", "R", "|", "|", "B", "|", "|", "R", "|", "Note", "that", "the", "square-root", "in", "the", "denominator", "causes", "L2", "to", "penalize", "large", "communities", "less", "severely", "than", "L1", ".", "Observe", "that", "the", "L2-norm", "presented", "here", "is", "equivalent", "to", "the", "widely", "used", "cosine", "coefficient", "applied", "to", "binary", "data", ".", "Moreover", ",", "while", "Pearson", "correlation", "has", "been", "used", "previ-ously", "in", "recommender", "systems", "where", "ranking", "data", "is", "available", ",", "we", "did", "not", "use", "this", "measure", "here", "since", "it", "is", "generally", "considered", "inappropriate", "for", "binary", "data", ".", "2.1.3", "Pointwise", "Mutual-Information", ":", "positive", "correlations", "-LRB-", "MI1", "-RRB-", "Information", "theory", "motivates", "other", "measures", "of", "correlation", ",", "such", "as", "``", "mutual", "information", "''", "-LSB-", "2", "-RSB-", ".", "We", "chose", "pointwise", "mutual", "information", "where", "we", "only", "count", "``", "positive", "''", "correlations", "-LRB-", "membership", "in", "both", "B", "and", "R", "-RRB-", ".", "Such", "a", "formulation", "essentially", "focuses", "on", "how", "membership", "in", "one", "group", "is", "pre-dictive", "of", "membership", "in", "another", "-LRB-", "without", "considering", "how", "base", "non-membership", "in", "a", "group", "effects", "membership", "in", "another", "group", "-RRB-", ",", "yielding", ":", "M", "I1", "-LRB-", "b", ",", "r", "-RRB-", "=", "P", "-LRB-", "r", ",", "b", "-RRB-", "lg", "P", "-LRB-", "r", ",", "b", "-RRB-", "P", "-LRB-", "r", "-RRB-", "P", "-LRB-", "b", "-RRB-", "2.1.4", "Pointwise", "Mutual-Information", ":", "positive", "and", "negative", "correlations", "-LRB-", "MI2", "-RRB-", "Similarly", ",", "we", "can", "compute", "the", "pointwise", "mutual", "information", "with", "both", "positive", "and", "negative", "correlations", "-LRB-", "e.g.", ",", "membership", "in", "both", "B", "and", "R", ",", "or", "non-membership", "in", "both", "groups", "-RRB-", ".", "Again", ",", "we", "do", "n't", "compute", "the", "full", "expected", "mutual", "information", ",", "since", "we", "believe", "cross-correlations", "-LRB-", "e.g.", ",", "how", "membership", "in", "B", "affects", "non-membership", "in", "R", "-RRB-", "tend", "to", "be", "distortive", "with", "the", "recommendation", "task", "since", "such", "cross-correlations", "are", "plentiful", "but", "not", "very", "informative", ".", "This", "yields", ":", "M", "I2", "-LRB-", "b", ",", "r", "-RRB-", "=", "P", "-LRB-", "r", ",", "b", "-RRB-", "lg", "P", "-LRB-", "r", ",", "b", "-RRB-", "P", "-LRB-", "r", "-RRB-", "P", "-LRB-", "b", "-RRB-", "+", "P", "-LRB-", "r", ",", "b", "-RRB-", "lg", "P", "-LRB-", "r", ",", "b", "-RRB-", "P", "-LRB-", "r", "-RRB-", "P", "-LRB-", "b", "-RRB-", "2.1.5", "Salton", "-LRB-", "IDF", "-RRB-", "Salton", "proposed", "a", "measure", "of", "similarity", "based", "on", "inverse", "document", "frequency", "scaling", "-LRB-", "tf-idf", "-RRB-", "-LSB-", "12", "-RSB-", ":", "IDF", "-LRB-", "b", ",", "r", "-RRB-", "=", "P", "-LRB-", "r", "|", "b", "-RRB-", "-LRB-", "-", "lg", "P", "-LRB-", "r", "-RRB-", "-RRB-", "IDF", "-LRB-", "B", ",", "R", "-RRB-", "=", "|", "B", "R", "|", "|", "B", "|", "-LRB-", "-", "lg", "|", "R", "|", "|", "U", "|", "-RRB-", "2.1.6", "Log-Odds", "We", "first", "considered", "the", "standard", "log-odds", "function", ",", "which", "measures", "the", "relative", "likelihood", "that", "presence", "or", "absence", "in", "a", "base", "community", "predicts", "membership", "in", "a", "related", "community", ":", "LogOdds0", "-LRB-", "b", ",", "r", "-RRB-", "=", "lg", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "r", "|", "b", "-RRB-", "Empirically", ",", "we", "found", "this", "generated", "the", "exact", "same", "rankings", "as", "using", "the", "L1-Norm", ",", "which", "makes", "sense", "because", ":", "1", ".", "Logarithm", "is", "monotonic", "and", ",", "while", "affecting", "scores", ",", "does", "not", "affect", "rankings", ".", "2", ".", "Constant", "factors", ",", "such", "as", "|", "B", "|", ",", "do", "not", "affect", "rankings", ".", "3", ".", "For", "|", "B", "|", "|", "U", "|", ",", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "r", "-RRB-", "We", "formulated", "a", "different", "log-odds", "metric", ",", "which", "measures", "whether", "membership", "in", "the", "base", "community", "is", "likelier", "to", "predict", "membership", "or", "absence", "in", "the", "related", "community", ":", "LogOdds", "-LRB-", "b", ",", "r", "-RRB-", "=", "lg", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "r", "|", "b", "-RRB-", "679", "Research", "Track", "Poster", "Table", "2", ":", "Average", "size", "of", "top-ranked", "community", "for", "each", "measure", "measure", "Average", "size", "rank", "1", "rank", "2", "rank", "3", "L1", "332", "482", "571", "L2", "460", "618", "694", "MI1", "903", "931", "998", "MI2", "966", "1003", "1077", "IDF", "923", "985", "1074", "LogOdds", "357", "513", "598", "Table", "3", ":", "Agreement", "in", "top-ranked", "results", "between", "measures", ".", "For", "example", ",", "MI1", "and", "IDF", "rank", "the", "same", "related", "community", "first", "for", "98", "%", "of", "base", "communities", ".", "Correlations", "greater", "than", "85", "%", "are", "in", "bold", ".", "L1", ".70", "L2", ".41", ".60", "MI1", ".39", ".57", ".96", "MI2", ".41", ".59", ".98", ".97", "IDF", ".88", ".79", ".46", ".44", ".46", "LogOdds", "2.2", "Discussion", "For", "a", "given", "measure", ",", "we", "refer", "to", "the", "related", "community", "yielding", "the", "highest", "value", "to", "be", "the", "top-ranked", "related", "community", "relative", "to", "a", "base", "community", ".", "The", "average", "size", "of", "top-ranked", "communities", "for", "each", "measure", ",", "which", "varies", "greatly", ",", "is", "shown", "in", "Table", "2", ".", "Table", "3", "shows", "how", "often", "two", "functions", "yield", "the", "same", "top-ranking", "result", ".", "Table", "4", "shows", "the", "top", "recommendations", "for", "the", "``", "I", "love", "wine", "''", "community", ".", "Note", "that", "MI1", ",", "MI2", ",", "and", "IDF", "favor", "very", "large", "communities", ",", "while", "L1", "and", "LogOdds", "favor", "small", "communities", ".", "Note", "that", "in", "addition", "to", "the", "obvious", "correlations", "between", "the", "two", "mutual-information", "functions", "-LRB-", "96", "%", "-RRB-", ",", "there", "is", "a", "very", "strong", "correlation", "between", "IDF", "and", "the", "mutual-information", "functions", "-LRB-", "97-98", "%", "-RRB-", ".", "Manipulation", "of", "the", "formulas", "for", "MI1", "and", "IDF", "shows", ":", "M", "I1", "-LRB-", "b", ",", "r", "-RRB-", "=", "P", "-LRB-", "r", ",", "b", "-RRB-", "lg", "P", "-LRB-", "r", ",", "b", "-RRB-", "P", "-LRB-", "r", "-RRB-", "P", "-LRB-", "b", "-RRB-", "=", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "|", "b", "-RRB-", "-", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "-RRB-", "=", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "|", "b", "-RRB-", "-", "P", "-LRB-", "r", "|", "b", "-RRB-", "-LSB-", "1", "-", "P", "-LRB-", "b", "-RRB-", "-RSB-", "lg", "P", "-LRB-", "r", "-RRB-", "=", "P", "-LRB-", "r", "|", "b", "-RRB-", "-LSB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "|", "b", "-RRB-", "+", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "-RRB-", "-RSB-", "-", "P", "-LRB-", "r", "|", "b", "-RRB-", "lg", "P", "-LRB-", "r", "-RRB-", "Substituting", "IDF", "-LRB-", "b", ",", "r", "-RRB-", "=", "-", "P", "-LRB-", "r", "|", "b", "-RRB-", "lg", "P", "-LRB-", "r", "-RRB-", ",", "we", "get", ":", "M", "I1", "-LRB-", "b", ",", "r", "-RRB-", "=", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "|", "b", "-RRB-", "+", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "-RRB-", "+", "IDF", "-LRB-", "b", ",", "r", "-RRB-", "Since", "for", "virtually", "all", "communities", "b", ",", "P", "-LRB-", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", ",", "we", "can", "approximate", ":", "M", "I1", "-LRB-", "b", ",", "r", "-RRB-", "IDF", "-LRB-", "b", ",", "r", "-RRB-", "+", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "-RRB-", "Thus", ",", "MI1", "yields", "a", "ranking", "that", "can", "be", "thought", "of", "as", "starting", "with", "the", "ranking", "of", "IDF", "and", "perturbing", "the", "score", "of", "each", "element", "in", "the", "ranking", "by", "P", "-LRB-", "r", "|", "b", "-RRB-", "P", "-LRB-", "b", "-RRB-", "lg", "P", "-LRB-", "r", "-RRB-", ",", "which", "generally", "is", "not", "great", "enough", "to", "change", "the", "relative", "ranking", "of", "the", "top", "scores", ",", "leading", "to", "MI1", "and", "IDF", "often", "giving", "the", "same", "ranking", "to", "top-scoring", "communities", ".", "-LRB-", "Note", "that", "this", "perturbation", "quantity", "is", "given", "only", "to", "explain", "the", "high", "correlation", "between", "MI1", "and", "IDF", ".", "Statistically", ",", "it", "is", "meaningless", ",", "since", "b", "and", "b", "can", "not", "simultaneously", "hold", ".", "-RRB-", "We", "designed", "an", "experiment", "to", "determine", "the", "relative", "value", "of", "the", "recommendations", "produced", "by", "each", "similarity", "measure", ".", "This", "involved", "interleaving", "different", "pairs", "of", "recommendations", "and", "tracking", "user", "clicks", ".", "Specifically", ",", "we", "measured", "the", "efficacy", "of", "different", "similarity", "measures", "using", "pair-wise", "binomial", "sign", "tests", "on", "click-through", "data", "rather", "than", "using", "traditional", "supervised", "learning", "measures", "such", "as", "preci-sion/recall", "or", "accuracy", "since", "there", "is", "no", "``", "true", "''", "labeled", "data", "for", "this", "task", "-LRB-", "i.e.", ",", "we", "do", "not", "know", "what", "are", "the", "correct", "communities", "that", "should", "be", "recommended", "to", "a", "user", "-RRB-", ".", "Rather", ",", "we", "focused", "on", "the", "task", "of", "determining", "which", "of", "the", "similarity", "measures", "performs", "best", "on", "a", "relative", "performance", "scale", "with", "regard", "to", "acceptance", "by", "users", ".", "3.1", "Combination", "When", "a", "user", "viewed", "a", "community", "page", ",", "we", "hashed", "the", "combined", "user", "and", "community", "identifiers", "to", "one", "of", "30", "values", ",", "specifying", "an", "ordered", "pair", "of", "similarity", "measures", "to", "compare", ".", "Let", "S", "and", "T", "be", "the", "ordered", "lists", "of", "recommendations", "for", "the", "two", "measures", ",", "where", "S", "=", "-LRB-", "s", "1", ",", "s", "2", ",", "...", ",", "s", "|", "S", "|", "-RRB-", "and", "T", "=", "-LRB-", "t", "1", ",", "t", "2", ",", "...", ",", "t", "|", "T", "|", "-RRB-", "and", "|", "S", "|", "=", "|", "T", "|", ".", "The", "recommendations", "of", "each", "measure", "are", "combined", "by", "Joachims", "'", "``", "Combined", "Rank-ing", "''", "algorithm", "-LSB-", "7", "-RSB-", ",", "restated", "in", "Figure", "1", ".", "The", "resulting", "list", "is", "guaranteed", "to", "contain", "the", "top", "k", "S", "and", "k", "T", "recommendations", "for", "each", "measure", ",", "where", "k", "T", "k", "S", "k", "T", "+", "1", "-LSB-", "7", ",", "Theorem", "1", "-RSB-", ".", "3.2", "Measurements", "Whenever", "a", "user", "visited", "a", "community", ",", "two", "measures", "were", "chosen", "and", "their", "recommendations", "interleaved", ",", "as", "discussed", "above", ".", "This", "was", "done", "in", "a", "deterministic", "manner", "so", "that", "a", "given", "user", "always", "saw", "the", "same", "recommendations", "for", "a", "given", "community", ".", "To", "minimize", "feedback", "effects", ",", "we", "did", "not", "regenerate", "recommendations", "after", "the", "experiment", "began", ".", "A", "user", "who", "views", "a", "base", "community", "-LRB-", "e.g.", ",", "``", "I", "love", "wine", "''", "-RRB-", "is", "either", "a", "member", "-LRB-", "denoted", "by", "``", "M", "''", "-RRB-", "or", "non-member", "-LRB-", "denoted", "by", "``", "n", "''", "-RRB-", ".", "-LRB-", "We", "capitalize", "``", "M", "''", "but", "not", "``", "n", "''", "to", "make", "them", "eas-ier", "to", "visually", "distinguish", ".", "-RRB-", "In", "either", "case", ",", "recommendations", "are", "shown", ".", "When", "a", "user", "clicks", "on", "a", "recommendation", ",", "there", "are", "three", "possibilities", ":", "-LRB-", "1", "-RRB-", "the", "user", "is", "already", "a", "member", "of", "the", "recommended", "community", "-LRB-", "``", "M", "''", "-RRB-", ",", "-LRB-", "2", "-RRB-", "the", "user", "joins", "the", "recommended", "community", "-LRB-", "``", "j", "''", "-RRB-", ",", "or", "-LRB-", "3", "-RRB-", "the", "user", "visits", "but", "does", "not", "join", "the", "recommended", "community", "-LRB-", "``", "n", "''", "-RRB-", ".", "The", "combination", "of", "base", "and", "related", "community", "memberships", "can", "be", "combined", "in", "six", "different", "ways", ".", "For", "example", "``", "Mj", "''", "denotes", "a", "click", "where", "a", "member", "of", "the", "base", "community", "clicks", "on", "a", "recommendation", "to", "another", "community", "to", "which", "she", "does", "not", "belong", "and", "joins", "that", "community", ".", "Traditionally", ",", "analyses", "of", "recommender", "systems", "focus", "on", "``", "Mj", "''", ",", "also", "known", "informally", "as", "``", "if", "you", "like", "this", ",", "you", "'ll", "like", "that", "''", "or", "formally", "as", "``", "similarity", "''", "or", "``", "conversion", "''", ".", "``", "Mn", "''", "recommendations", "are", "considered", "distracters", ",", "having", "negative", "utility", ",", "since", "they", "waste", "a", "user", "'s", "time", "with", "an", "item", "not", "of", "interest", ".", "Before", "running", "the", "experiment", ",", "we", "decided", "that", "the", "measures", "should", "be", "judged", "on", "their", "``", "Mj", "''", "performance", ".", "Other", "interpretations", "are", "possible", ":", "``", "Mn", "''", "links", "could", "be", "considered", "to", "have", "positive", "utility", "for", "any", "of", "the", "following", "680", "Research", "Track", "Poster", "Table", "4", ":", "Top", "recommendations", "for", "each", "measure", "for", "the", "``", "I", "love", "wine", "''", "community", ",", "with", "each", "recommended", "community", "'s", "overlap", "with", "the", "base", "community", "and", "size", ".", "The", "size", "of", "``", "I", "love", "wine", "''", "is", "2400", ".", "L1", "L2", "MI1", "MI2", "IDF", "LogOdds", "1", "Ice", "Wine", "-LRB-", "Eiswein", "-RRB-", "-LRB-", "33/51", "-RRB-", "Red", "Wine", "-LRB-", "208/690", "-RRB-", "Japanese", "Food/Sushi", "Lovers", "-LRB-", "370/3206", "-RRB-", "Japanese", "Food/Sushi", "Lovers", "-LRB-", "370/3206", "-RRB-", "Japanese", "Food/Sushi", "Lovers", "-LRB-", "370/3206", "-RRB-", "Japanese", "Food/Sushi", "Lovers", "-LRB-", "370/3206", "-RRB-", "2", "California", "Pinot", "Noir", "-LRB-", "26/41", "-RRB-", "Cheeses", "of", "the", "World", "-LRB-", "200/675", "-RRB-", "Red", "Wine", "-LRB-", "208/690", "-RRB-", "Red", "Wine", "-LRB-", "208/690", "-RRB-", "Photography", "-LRB-", "319/4679", "-RRB-", "Photography", "-LRB-", "319/4679", "-RRB-", "3", "Winery", "Visitor", "Worldwide", "-LRB-", "44/74", "-RRB-", "I", "love", "red", "wine", "!", "-LRB-", "170/510", "-RRB-", "Cheeses", "of", "the", "World", "-LRB-", "200/675", "-RRB-", "Cheeses", "of", "the", "World", "-LRB-", "200/675", "-RRB-", "Red", "Wine", "-LRB-", "208/690", "-RRB-", "Linux", "-LRB-", "299/9077", "-RRB-", "Figure", "1", ":", "Joachims", "'", "``", "Combine", "Rankings", "''", "algorithm", "-LSB-", "7", "-RSB-", "Input", ":", "ordered", "recommendation", "lists", "S", "=", "-LRB-", "s", "1", ",", "s", "2", ",", "...", ",", "s", "|", "S", "|", "-RRB-", "and", "T", "=", "-LRB-", "t", "1", ",", "t", "2", ",", "...", ",", "t", "|", "T", "|", "-RRB-", "where", "|", "S", "|", "=", "|", "T", "|", "Call", ":", "combine", "-LRB-", "S", ",", "T", ",", "0", ",", "0", ",", "-RRB-", "Output", ":", "combined", "ordered", "recommendation", "list", "D", "combine", "-LRB-", "S", ",", "T", ",", "k", "s", ",", "k", "t", ",", "D", "-RRB-", "-LCB-", "if", "-LRB-", "k", "s", "<", "|", "S", "|", "k", "t", "<", "|", "T", "|", "-RRB-", "if", "-LRB-", "k", "s", "=", "k", "t", "-RRB-", "-LCB-", "if", "-LRB-", "S", "-LSB-", "k", "s", "+", "1", "-RSB-", "/", "D", "-RRB-", "-LCB-", "D", ":", "=", "D", "+", "S", "-LSB-", "k", "s", "+", "1", "-RSB-", ";", "-RCB-", "combine", "-LRB-", "S", ",", "T", ",", "k", "s", "+", "1", ",", "k", "t", ",", "D", "-RRB-", ";", "-RCB-", "else", "-LCB-", "if", "-LRB-", "T", "-LSB-", "k", "t", "+", "1", "-RSB-", "/", "D", "-RRB-", "-LCB-", "D", ":", "=", "D", "+", "T", "-LSB-", "k", "t", "+", "1", "-RSB-", ";", "-RCB-", "combine", "-LRB-", "S", ",", "T", ",", "k", "s", ",", "k", "t", "+", "1", ",", "D", "-RRB-", ";", "-RCB-", "-RCB-", "-RCB-", "Table", "5", ":", "Clicks", "on", "recommendations", ",", "by", "membership", "status", "in", "the", "base", "and", "recommended", "communities", ",", "as", "counts", "and", "as", "percentages", "of", "total", "clicks", ".", "The", "last", "column", "shows", "the", "conversion", "rate", ",", "defined", "as", "the", "percentage", "of", "non-members", "clicking", "on", "a", "related", "community", "who", "then", "joined", "it", "-LRB-", "j", "n", "+", "j", "-RRB-", ".", "membership", "in", "base", "community", "membership", "in", "recommended", "community", "M", "-LRB-", "member", "-RRB-", "n", "-LRB-", "non-member", "-RRB-", "j", "-LRB-", "join", "-RRB-", "total", "conversion", "rate", "M", "-LRB-", "member", "-RRB-", ":", "number", "of", "clicks", "36353", "184214", "212982", "433549", "54", "%", "percent", "of", "total", "clicks", "4", "%", "20", "%", "24", "%", "48", "%", "n", "-LRB-", "non-member", "-RRB-", ":", "number", "of", "clicks", "8771", "381241", "77905", "467917", "17", "%", "percent", "of", "total", "clicks", "1", "%", "42", "%", "9", "%", "52", "%", "total", ":", "number", "of", "clicks", "45124", "565455", "290887", "901466", "34", "%", "percent", "of", "total", "clicks", "5", "%", "63", "%", "32", "%", "100", "%", "681", "Research", "Track", "Poster", "reasons", ":", "1", ".", "As", "the", "user", "found", "the", "link", "sufficiently", "interesting", "to", "click", "on", ",", "it", "was", "of", "more", "utility", "than", "a", "link", "not", "eliciting", "a", "click", ".", "2", ".", "The", "user", "is", "genuinely", "interested", "in", "the", "related", "community", "but", "does", "not", "want", "to", "proclaim", "her", "interest", ",", "as", "membership", "information", "is", "public", "and", "some", "communities", "focus", "on", "taboo", "or", "embarrassing", "topics", ".", "For", "example", ",", "a", "recommendation", "given", "for", "the", "popular", "``", "Choco-late", "''", "community", "is", "``", "PMS", "''", ".", "Note", "that", "this", "effect", "is", "specific", "to", "social", "networks", "and", "not", ",", "for", "example", ",", "Usenet", "groups", ",", "where", "the", "user", "'s", "list", "of", "communities", "is", "not", "revealed", "to", "other", "users", ".", "Similarly", ",", "it", "is", "unclear", "how", "to", "value", "clicks", "from", "a", "base", "community", "that", "the", "user", "does", "not", "belong", "to", ".", "Does", "an", "``", "nj", "''", "click", "indicate", "failure", ",", "since", "the", "base", "community", "was", "not", "joined", "by", "the", "user", ",", "but", "the", "recommended", "community", "was", ",", "indicating", "a", "degree", "of", "dissimilarity", "?", "Or", "is", "it", "of", "positive", "utility", ",", "since", "it", "helped", "a", "user", "find", "a", "community", "of", "interest", "?", "For", "these", "reasons", ",", "we", "tracked", "all", "clicks", ",", "recording", "the", "user", "'s", "membership", "status", "in", "the", "base", "and", "recommended", "communities", "for", "later", "analysis", ".", "-LRB-", "We", "did", "not", "track", "whether", "users", "returned", "to", "communities", "in", "the", "future", "because", "of", "the", "logging", "overhead", "that", "would", "be", "required", ".", "-RRB-", "3.3", "User", "Interface", "On", "community", "pages", ",", "our", "recommendations", "were", "provided", "in", "a", "table", ",", "each", "cell", "of", "which", "contained", "a", "recommended", "community", "'s", "name", ",", "optional", "picture", ",", "and", "link", "-LRB-", "Figure", "2", "-RRB-", ".", "Recommendations", "were", "shown", "by", "decreasing", "rank", "from", "left", "to", "right", ",", "top", "to", "bottom", ",", "in", "up", "to", "4", "rows", "of", "3", ".", "For", "aesthetic", "reasons", ",", "we", "only", "showed", "entire", "rows", ";", "thus", ",", "no", "recommendations", "were", "displayed", "if", "there", "were", "fewer", "than", "3", ".", "We", "also", "provided", "a", "control", "that", "allowed", "users", "to", "send", "us", "comments", "on", "the", "recommendations", ".", "We", "analyzed", "all", "accesses", "between", "July", "1", ",", "2004", ",", "to", "July", "18", ",", "2004", ",", "of", "users", "who", "joined", "Orkut", "during", "that", "period", ".", "The", "system", "served", "4,106,050", "community", "pages", "with", "recommendations", ",", "which", "provides", "a", "lower", "bound", "on", "the", "number", "of", "views", ".", "-LRB-", "Unfortunately", ",", "we", "could", "not", "determine", "the", "total", "number", "of", "views", "due", "to", "browser", "caching", ".", "-RRB-", "There", "were", "901,466", "clicks", "on", "recommendations", ",", "48", "%", "by", "members", "of", "the", "base", "community", ",", "52", "%", "by", "non-members", "-LRB-", "Table", "5", "-RRB-", ".", "Clicks", "to", "related", "communities", "to", "which", "the", "user", "already", "belonged", "were", "rare", ",", "accounting", "for", "only", "5", "%", "of", "clicks", ".", "The", "most", "common", "case", "was", "for", "a", "non-member", "of", "a", "base", "community", "to", "click", "through", "and", "not", "join", "a", "related", "community", "-LRB-", "42", "%", "-RRB-", ".", "We", "defined", "conversion", "rate", "-LRB-", "also", "called", "precision", "-RRB-", "as", "the", "percentage", "of", "non-members", "who", "clicked", "through", "to", "a", "community", "who", "then", "joined", "it", ".", "The", "conversion", "rate", "was", "three", "times", "as", "high", "-LRB-", "54", "%", "-RRB-", "when", "the", "member", "belonged", "to", "the", "base", "community", "-LRB-", "from", "which", "the", "recommendation", "came", "-RRB-", "than", "not", "-LRB-", "17", "%", "-RRB-", ".", "4.1", "Relative", "performance", "of", "different", "measures", "We", "compared", "each", "measure", "pairwise", "against", "every", "other", "measure", "by", "analyzing", "clicks", "of", "their", "merged", "recommendations", ".", "If", "the", "click", "was", "on", "a", "recommendation", "ranked", "higher", "by", "measure", "L2", "than", "measure", "L1", ",", "for", "example", ",", "we", "considered", "it", "a", "``", "win", "''", "for", "L2", "and", "a", "loss", "for", "L1", ".", "If", "both", "measures", "ranked", "it", "equally", ",", "the", "result", "was", "considered", "to", "be", "a", "tie", ".", "Table", "6", "shows", "the", "outcomes", "of", "all", "clicks", ",", "with", "conversions", "by", "members", "-LRB-", "``", "Mj", "''", "-RRB-", "and", "non-members", "of", "the", "base", "community", "-LRB-", "``", "nj", "''", "-RRB-", "broken", "out", "separately", ".", "We", "say", "that", "a", "measure", "dominates", "another", "if", ",", "in", "their", "pairwise", "comparison", ",", "the", "former", "has", "more", "``", "wins", "''", ".", "For", "example", ",", "L2", "dominates", "L1", ".", "This", "definition", ",", "combined", "with", "the", "data", "in", "Table", "6", ",", "yielded", "a", "total", "order", "-LRB-", "to", "our", "surprise", "-RRB-", "among", "the", "measures", ":", "L2", ",", "MI1", ",", "MI2", ",", "IDF", ",", "L1", ",", "LogOdds", ".", "The", "same", "total", "order", "occurred", "if", "only", "``", "nj", "''", "clicks", "were", "considered", ".", "The", "order", "was", "different", "if", "all", "clicks", "were", "considered", ":", "L2", ",", "L1", ",", "MI1", ",", "MI2", ",", "IDF", ",", "LogOdds", ".", "4.2", "Conversion", "rates", "There", "was", "great", "variance", "in", "conversion", "rate", "by", "recommended", "community", ".", "We", "examined", "the", "93", "recommended", "communities", "that", "were", "clicked", "through", "to", "more", "than", "1000", "times", ".", "Unsurprisingly", ",", "the", "ten", "with", "the", "lowest", "conversion", "rate", "all", "were", "about", "sex", "-LRB-", "e.g.", ",", "Amateur", "Porn", "-RRB-", ".", "Note", "that", "members", "of", "the", "base", "community", "were", "far", "more", "willing", "than", "non-members", "to", "join", ",", "perhaps", "because", "they", "had", "already", "shown", "their", "willingness", "to", "join", "a", "sex-related", "community", ".", "At", "the", "other", "extreme", ",", "none", "of", "the", "ten", "with", "the", "highest", "conversion", "rate", "were", "sexual", "-LRB-", "e.g.", ",", "Flamenco", "-RRB-", ".", "Table", "7", "provides", "selected", "data", "by", "each", "membership", "combination", ".", "Unsurprisingly", ",", "for", "all", "93", "base", "communities", ",", "members", "were", "more", "likely", "than", "non-members", "to", "join", "the", "recommended", "community", ".", "4.3", "User", "comments", "Users", "were", "also", "able", "to", "submit", "feedback", "on", "related", "communities", ".", "Most", "of", "the", "feedback", "was", "from", "users", "who", "wanted", "recommendations", "added", "or", "removed", ".", "Some", "complained", "about", "inappropriate", "recommendations", "of", "sexual", "or", "political", "communities", ",", "especially", "if", "they", "found", "the", "displayed", "image", "offensive", ".", "A", "few", "objected", "to", "our", "generating", "related", "community", "recommendations", "at", "all", ",", "instead", "of", "allowing", "community", "creators", "to", "specify", "them", ".", "In", "one", "case", ",", "poor", "recommendations", "destroyed", "a", "community", ":", "The", "creator", "of", "a", "feminist", "sexuality", "community", "disbanded", "it", "both", "because", "of", "the", "prurient", "recommendations", "that", "appeared", "on", "her", "page", "and", "the", "disruptive", "new", "members", "who", "joined", "as", "a", "result", "of", "recommendations", "from", "such", "communities", ".", "We", "agreed", "with", "her", "that", "the", "recommendations", "were", "problematic", "and", "offered", "to", "remove", "them", ".", "While", "anecdotal", ",", "this", "example", "illustrates", "how", "a", "recommendation", "can", "have", "unanticipated", "consequences", "that", "can", "not", "be", "captured", "in", "simple", "statistical", "measures", ".", "-LRB-", "An", "informal", "discussion", "of", "users", "'", "behavior", "when", "we", "allowed", "them", "to", "choose", "related", "communities", "can", "be", "found", "elsewhere", "-LSB-", "14", "-RSB-", ".", "-RRB-", "During", "the", "above", "experiment", ",", "we", "became", "curious", "how", "the", "relative", "placement", "of", "recommendations", "affected", "users", "'", "selections", "and", "performed", "a", "second", "experiment", ".", "5.1", "Design", "After", "determining", "that", "L2", "was", "the", "best", "measure", "of", "similarity", ",", "we", "recomputed", "the", "recommendations", "and", "studied", "the", "effect", "of", "position", "on", "click-through", ".", "While", "in", "our", "original", "experiment", "we", "displayed", "up", "to", "12", "recommendations", "in", "decreasing", "rank", ",", "for", "this", "experiment", "we", "displayed", "up", "to", "9", "recommendations", "in", "random", "order", ",", "again", "ensuring", "that", "each", "682", "Research", "Track", "Poster", "Table", "6", ":", "The", "relative", "performance", "of", "each", "measure", "in", "pairwise", "combination", "on", "clicks", "leading", "to", "joins", ",", "divided", "by", "base", "community", "membership", "status", ",", "and", "on", "all", "clicks", ".", "Except", "where", "numbers", "appear", "in", "italics", ",", "the", "superioriority", "of", "one", "measure", "over", "another", "was", "statistically", "significant", "-LRB-", "p", "<", ".01", "-RRB-", "using", "a", "binomial", "sign", "test", "-LSB-", "10", "-RSB-", ".", "measures", "M", "j", "n", "j", "all", "clicks", "win", "equal", "loss", "win", "equal", "loss", "win", "equal", "loss", "L2", "MI1", "6899", "2977", "4993", "2600", "1073", "1853", "30664", "12277", "20332", "L2", "MI2", "6940", "2743", "5008", "2636", "1078", "1872", "31134", "11260", "19832", "L2", "IDF", "6929", "2697", "5064", "2610", "1064", "1865", "30710", "11271", "20107", "L2", "L1", "7039", "2539", "4834", "2547", "941", "1983", "28506", "13081", "23998", "L2", "LogOdds", "8186", "1638", "4442", "2852", "564", "1655", "34954", "6664", "18631", "MI1", "MI2", "3339", "9372", "1855", "1223", "3401", "683", "14812", "37632", "7529", "MI1", "IDF", "3431", "8854", "1891", "1139", "3288", "629", "14671", "37049", "7758", "MI1", "LogOdds", "7099", "3546", "3341", "2514", "1213", "1193", "29837", "13869", "13921", "MI1", "L1", "6915", "1005", "6059", "2547", "407", "2338", "27786", "4308", "29418", "MI2", "IDF", "1564", "11575", "1031", "533", "4266", "359", "6003", "47885", "4490", "MI2", "LogOdds", "6920", "3959", "3177", "2484", "1418", "598", "2881", "15308", "13188", "MI2", "L1", "6830", "950", "6419", "2383", "362", "2333", "26865", "3872", "29864", "IDF", "L1", "6799", "1006", "6304", "2467", "392", "2352", "27042", "4069", "29755", "IDF", "LogOdds", "6691", "3804", "3096", "2452", "1378", "1085", "28224", "15013", "13330", "L1", "LogOdds", "6730", "518", "5975", "2521", "108", "2059", "31903", "2097", "24431", "Table", "7", ":", "Conversion", "rates", "by", "status", "of", "membership", "in", "base", "community", ",", "for", "communities", "to", "which", "more", "than", "1000", "clicks", "on", "recommendations", "occurred", ".", "member", "of", "base", "community", "non-member", "of", "base", "community", "Related", "community", "MM", "Mj", "Mj", "conversion", "rate", "nM", "nn", "nM", "conversion", "rate", "10", "communities", "with", "highest", "conversion", "rates", "583", "2273", "6984", "75", "%", "198", "3454", "2017", "37", "%", "10", "communities", "with", "lowest", "conversion", "rates", "326", "1984", "826", "29", "%", "68", "26287", "472", "1.8", "%", "all", "93", "communities", "13524", "54415", "52614", "46", "%", "3488", "127819", "19007", "17", "%", "user", "always", "saw", "the", "same", "ordering", "of", "recommendations", "for", "a", "given", "community", ".", "By", "randomizing", "the", "position", "of", "recommendations", ",", "we", "sought", "to", "measure", "ordering", "primacy", "effects", "in", "the", "recommendations", "as", "opposed", "to", "their", "ranked", "quality", ".", "5.2", "Results", "We", "measured", "all", "1,279,226", "clicks", "on", "related", "community", "recommendations", "from", "September", "22", ",", "2004", ",", "through", "October", "21", ",", "2004", ".", "Table", "8", "shows", "the", "relative", "likelihood", "of", "clicks", "on", "each", "position", ".", "When", "there", "was", "only", "a", "single", "row", ",", "the", "middle", "recommendation", "was", "clicked", "most", ",", "followed", "by", "the", "leftmost", ",", "then", "rightmost", "recommendations", ",", "although", "the", "differences", "were", "not", "statistically", "significant", ".", "When", "there", "were", "two", "or", "three", "rows", ",", "the", "differences", "were", "very", "significant", "-LRB-", "p", "<", ".001", "-RRB-", ",", "with", "preferences", "for", "higher", "rows", ".", "P-values", "were", "computed", "using", "a", "Chi-Squared", "test", "comparing", "the", "observed", "click-through", "rates", "with", "a", "uniform", "distribution", "over", "all", "positions", "-LSB-", "10", "-RSB-", ".", "Orkut", "'s", "large", "number", "of", "community", "memberships", "and", "users", "allowed", "us", "to", "evaluate", "the", "relative", "performance", "of", "six", "different", "measures", "of", "similarity", "in", "a", "large-scale", "real-world", "study", ".", "We", "are", "not", "aware", "of", "any", "comparable", "published", "large-scale", "experiments", ".", "We", "were", "surprised", "that", "a", "total", "order", "emerged", "among", "the", "similarity", "measures", "and", "that", "L2", "vector", "normalization", "showed", "the", "best", "empirical", "results", "despite", "other", "measures", ",", "such", "as", "log-odds", "and", "pointwise", "mutual", "information", ",", "which", "we", "found", "more", "intuitive", ".", "For", "future", "work", ",", "we", "would", "like", "to", "see", "how", "recommendations", "handpicked", "by", "community", "owners", "compare", ".", "Just", "as", "we", "can", "estimate", "communities", "'", "similarity", "through", "common", "users", ",", "we", "can", "estimate", "users", "'", "similarity", "through", "common", "community", "memberships", ":", "i.e.", ",", "user", "A", "might", "be", "similar", "to", "user", "B", "because", "they", "belong", "to", "n", "of", "the", "same", "communities", ".", "It", "will", "be", "interesting", "to", "see", "whether", "L2", "also", "proves", "superior", "in", "such", "a", "domain", ".", "We", "could", "also", "take", "advantage", "of", "Orkut", "'s", "being", "a", "social", "network", "-LSB-", "8", "-RSB-", ",", "i.e.", ",", "containing", "information", "on", "social", "connections", "between", "pairs", "of", "users", ".", "In", "addition", "to", "considering", "common", "community", "memberships", ",", "we", "could", "consider", "distance", "between", "users", "in", "the", "``", "friendship", "graph", "''", ".", "Users", "close", "to", "each", "other", "-LRB-", "e.g.", ",", "friends", "or", "friends-of", "-", "friends", "-RRB-", "might", "be", "judged", "more", "likely", "to", "be", "similar", "than", "distant", "strangers", ",", "although", "some", "users", "might", "prefer", "the", "latter", "type", "of", "link", ",", "since", "it", "would", "introduce", "them", "to", "someone", "they", "would", "be", "unlikely", "to", "meet", "otherwise", ",", "perhaps", "from", "a", "different", "country", "or", "culture", ".", "Similarly", ",", "friendship", "graph", "information", "can", "be", "taken", "into", "account", "when", "making", "community", "recommendations", ",", "which", "would", "require", "that", "recommendations", "be", "computed", "on", "a", "per-user", "-LRB-", "or", "per-clique", "-RRB-", ",", "rather", "than", "per-community", ",", "basis", ".", "In", "such", "a", "setting", ",", "we", "could", "make", "community", "recommendations", "based", "on", "weighted", "community", "overlap", "vectors", "where", "weights", "are", "determined", "based", "on", "the", "graph", "distances", "of", "other", "community", "members", "to", "a", "given", "user", ".", "This", "is", "a", "fertile", "area", "for", "future", "work", "and", "yet", "another", "example", "of", "how", "the", "interaction", "683", "Research", "Track", "Poster", "Figure", "2", ":", "Displays", "of", "recommendations", "for", "three", "different", "communities", "Table", "8", ":", "The", "relative", "likelihood", "of", "clicks", "on", "link", "by", "position", "when", "there", "are", "-LRB-", "a", "-RRB-", "one", ",", "-LRB-", "b", "-RRB-", "two", ",", "or", "-LRB-", "c", "-RRB-", "three", "rows", "of", "three", "recommendations", ".", "-LRB-", "a", "-RRB-", "n", "=", "28108", ",", "p", "=", ".12", "-LRB-", "b", "-RRB-", "n", "=", "24459", ",", "p", "<", ".001", "-LRB-", "c", "-RRB-", "n", "=", "1226659", ",", "p", "<", ".001", "1.00", "1.01", ".98", "1.04", "1.05", "1.08", "1.11", "1.06", "1.04", ".97", ".94", ".92", "1.01", ".97", ".99", "1.01", ".94", ".87", "of", "data", "mining", "and", "social", "networks", "is", "becoming", "an", "exciting", "new", "research", "area", "-LSB-", "4", "-RSB-", "-LSB-", "11", "-RSB-", ".", "This", "work", "was", "performed", "while", "Ellen", "Spertus", "was", "on", "sabbatical", "from", "Mills", "College", "and", "a", "visiting", "scientist", "at", "Google", ".", "We", "are", "grateful", "to", "Patrick", "Barry", ",", "Alex", "Drobychev", ",", "Jen", "Fitz-patrick", ",", "Julie", "Jalalpour", ",", "Dave", "Jeske", ",", "Katherine", "Lew", ",", "Marissa", "Mayer", ",", "Tom", "Nielsen", ",", "Seva", "Petrov", ",", "Greg", "Reshko", ",", "Catherine", "Rondeau", ",", "Adam", "Sawyer", ",", "Eric", "Sachs", ",", "and", "Lauren", "Simpson", "for", "their", "help", "on", "the", "Orkut", "project", "and", "to", "Corey", "Anderson", ",", "Alex", "Drobychev", ",", "Oren", "Etzioni", ",", "Alan", "Eustace", ",", "Keith", "Golden", ",", "Carrie", "Grimes", ",", "Pedram", "Keyani", ",", "John", "Lamping", ",", "Tom", "Nielsen", ",", "Peter", "Norvig", ",", "Kerry", "Rodden", ",", "Gavin", "Tachibana", ",", "and", "Yonatan", "Zunger", "for", "their", "help", "on", "this", "research", "or", "its", "exposition", ".", "-LSB-", "1", "-RSB-", "Breese", ",", "J.", ";", "Heckerman", ",", "D.", ";", "Kadie", ",", "C.", "Empirical", "Analysis", "of", "Predictive", "Algorithms", "for", "Collaborative", "Filtering", ".", "In", "Proceedings", "of", "the", "Fourteenth", "Conference", "on", "Uncertainty", "in", "Artificial", "Intelligence", "-LRB-", "Madison", ",", "Wisconsin", ",", "1998", "-RRB-", ".", "Morgan", "Kaufmann", ".", "-LSB-", "2", "-RSB-", "Cover", ",", "T.M.", ",", "and", "Thomas", ",", "J.A.", "Elements", "of", "Information", "Theory", ".", "Wiley", ",", "New", "York", ",", "1991", ".", "-LSB-", "3", "-RSB-", "Deshpande", ",", "M.", ",", "and", "Karypis", ",", "G.", "Item-Based", "Top-N", "Recommendation", "Algorithms", ".", "ACM", "Transactions", "on", "Information", "Systems", "22", "-LRB-", "1", "-RRB-", "-LRB-", "January", "2004", "-RRB-", ",", "143-177", ".", "-LSB-", "4", "-RSB-", "Domingos", ",", "P.", "Prospects", "and", "Challenges", "for", "Multi-Relational", "Data", "Mining", ".", "ACM", "SIGKDD", "Exploration", "Newsletter", "5", "-LRB-", "1", "-RRB-", "-LRB-", "July", "2003", "-RRB-", ".", "-LSB-", "5", "-RSB-", "Dumais", ",", "S.", ";", "Joachims", ",", "T.", ";", "Bharat", ",", "K.", ";", "Weigend", ",", "A.", "SIGIR", "2003", "Workshop", "Report", ":", "Implicit", "Measures", "of", "User", "Interests", "and", "Preferences", ".", "SIGIR", "Forum", "37", "-LRB-", "2", "-RRB-", "-LRB-", "Fall", "2003", "-RRB-", ".", "-LSB-", "6", "-RSB-", "Harman", ",", "D.", "Ranking", "Algorithms", ".", "In", "W.", "B.", "Frakes", "and", "R.", "Baeza-Yates", "-LRB-", "ed", ".", "-RRB-", ",", "Information", "Retrieval", ":", "Data", "Structures", "&", "Algorithms", "-LRB-", "chapter", "14", "-RRB-", ".", "Upper", "Saddle", "River", ",", "NJ", ",", "USA", ":", "Prentice", "Hall", ",", "1992", ".", "-LSB-", "7", "-RSB-", "Joachims", ",", "T.", "Evaluating", "Retrieval", "Performance", "Using", "Clickthrough", "Data", ".", "In", "Proceedings", "of", "the", "SIGIR", "Workshop", "on", "Mathematical/Formal", "Methods", "in", "Information", "Retrieval", "-LRB-", "2002", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "NY", ".", "-LSB-", "8", "-RSB-", "Kautz", ",", "H.", ";", "Selman", ",", "Bart", ";", "Shah", ",", "M.", "Referral", "Web", ":", "Combining", "Social", "Networks", "and", "Collaborative", "Filtering", ".", "Communications", "of", "the", "ACM", "45", "-LRB-", "8", "-RRB-", "-LRB-", "March", "1997", "-RRB-", ".", "-LSB-", "9", "-RSB-", "Kitts", ",", "B.", ";", "Freed", ",", "D.", ";", "Vrieze", ",", "M.", "Cross-Sell", ":", "A", "Fast", "Promotion-Tunable", "Customer-Item", "Recommendation", "Method", "based", "on", "Conditionally", "Independent", "Probabilities", ".", "In", "Proceedings", "of", "the", "Sixth", "ACM", "SIGKDD", "International", "Conference", "on", "Knowledge", "Discovery", "and", "Data", "Mining", "-LRB-", "Boston", ",", "2000", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "NY", ",", "437-446", ".", "-LSB-", "10", "-RSB-", "Lehmann", ",", "E.L.", "Testing", "Statistical", "Hypotheses", "-LRB-", "second", "edition", "-RRB-", ".", "Springer-Verlag", ",", "1986", ".", "-LSB-", "11", "-RSB-", "Raghavan", ",", "P.", "Social", "Networks", "and", "the", "Web", "-LRB-", "Invited", "Talk", "-RRB-", ".", "In", "Advances", "in", "Web", "Intelligence", ":", "Proceedings", "of", "the", "Second", "International", "Atlantic", "Web", "Intelligence", "Conference", ",", "May", "2004", ".", "Springer-Verlag", ",", "Heidelberg", ".", "-LSB-", "12", "-RSB-", "Salton", ",", "G.", "Automatic", "Text", "Processing", ":", "The", "Transformation", ",", "Analysis", ",", "and", "Retrieval", "of", "Information", "by", "Computer", ".", "Addison", "Wesley", ",", "Reading", ",", "MA", ",", "1989", ".", "-LSB-", "13", "-RSB-", "Sarwar", ",", "B.", ";", "Karypis", ",", "G.", ";", "Konstan", ",", "J.", ";", "Reidl", ",", "J.", "Item-Based", "Collaborative", "Filtering", "Recommendation", "Algorithms", ".", "In", "Proceedings", "of", "the", "Tenth", "International", "Conference", "on", "the", "World", "Wide", "Web", "-LRB-", "WWW10", "-RRB-", "-LRB-", "Hong", "Kong", ",", "2001", "-RRB-", ".", "ACM", "Press", ",", "New", "York", ",", "NY", ",", "285-295", ".", "-LSB-", "14", "-RSB-", "Spertus", ",", "Ellen", ".", "Too", "Much", "Information", ".", "Orkut", "Media", "Selections", ",", "January", "19", ",", "2005", ".", "Available", "online", "at", "``", "http://media.orkut.com/articles/0078.html\"", ".", "684", "Research", "Track", "Poster"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["online communities", "social networks", "social network", "similarity measure", "collaborative filtering", "recommender system", "community", "data mining"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "65", "document": ["Dbblue", ":", "Low", "Diameter", "And", "Self-Routing", "Bluetooth", "Scatternet", "This", "paper", "addresses", "the", "problem", "of", "scatternet", "formation", "for", "single-hop", "Bluetooth", "based", "ad", "hoc", "networks", ",", "with", "minimal", "communication", "overhead", ".", "We", "adopt", "the", "well-known", "structure", "de", "Bruijn", "graph", "to", "form", "the", "backbone", "of", "Bluetooth", "scatternet", ",", "hereafter", "called", "dBBlue", ",", "such", "that", "every", "master", "node", "has", "at", "most", "seven", "slaves", ",", "every", "slave", "node", "is", "in", "at", "most", "two", "piconets", ",", "and", "no", "node", "assumes", "both", "master", "and", "slave", "roles", ".", "Our", "structure", "dBBlue", "also", "enjoys", "a", "nice", "routing", "property", ":", "the", "diameter", "of", "the", "graph", "is", "\u04b5", "and", "we", "can", "find", "a", "path", "with", "at", "most", "\u04b5", "hops", "for", "every", "pair", "of", "nodes", "without", "any", "routing", "table", ".", "Moreover", ",", "the", "congestion", "of", "every", "node", "is", "at", "most", "\u04b5", ",", "assuming", "that", "a", "unit", "of", "total", "traffic", "demand", "is", "equally", "distributed", "among", "all", "pair", "of", "nodes", ".", "We", "discuss", "in", "detail", "a", "vigorous", "method", "to", "locally", "update", "the", "structure", "dBBlue", "using", "at", "most", "\u04b5", "communications", "when", "a", "node", "joins", "or", "leaves", "the", "network", ".", "In", "most", "cases", ",", "the", "cost", "of", "updating", "the", "scatternet", "is", "actually", "since", "a", "node", "can", "join", "or", "leave", "without", "affecting", "the", "remaining", "scatternet", ".", "The", "number", "of", "nodes", "affected", "when", "a", "node", "joins", "or", "leaves", "the", "network", "is", "always", "bounded", "from", "above", "by", "a", "constant", ".", "To", "facilitate", "self-routing", "and", "easy", "updating", ",", "we", "design", "a", "scalable", "MAC", "assigning", "mechanism", "for", "piconet", ",", "which", "guarantees", "the", "packet", "delivery", "during", "scatternet", "updating", ".", "The", "dBBlue", "scatternet", "can", "be", "constructed", "incrementally", "when", "the", "nodes", "join", "the", "network", "one", "by", "one", ".", "Previously", "no", "method", "can", "guarantee", "all", "these", "properties", "although", "some", "methods", "can", "achieve", "some", "of", "the", "properties", ".", "C.", "2.1", "-LSB-", "Network", "Architecture", "and", "Design", "-RSB-", ":", "Wireless", "communication", ",", "Network", "topology", ";", "G.", "2.2", "-LSB-", "Graph", "Theory", "-RSB-", ":", "Network", "problems", ",", "Graph", "algorithms", "Algorithms", ",", "Design", ",", "Theory", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "DIALM", "POMC", "'", "03", ",", "September", "19", ",", "2003", ",", "San", "Diego", ",", "California", ",", "USA", ".", "Copyright", "2003", "ACM", "1-58113-765-6", "/", "03/0009", "...", "$", "5.00", ".", "Bluetooth", "-LSB-", "8", "-RSB-", "is", "a", "promising", "new", "wireless", "technology", ",", "which", "enables", "portable", "devices", "to", "form", "short-range", "wireless", "ad", "hoc", "networks", "based", "on", "a", "frequency", "hopping", "physical", "layer", ".", "Bluetooth", "ad-hoc", "networking", "presents", "some", "technical", "challenges", ",", "such", "as", "scheduling", ",", "network", "forming", "and", "routing", ".", "User", "mobility", "poses", "additional", "challenges", "for", "connection", "rerouting", "and", "QoS", "services", ".", "It", "has", "been", "widely", "predicted", "that", "Bluetooth", "will", "be", "the", "major", "technology", "for", "short", "range", "wireless", "networks", "and", "wireless", "personal", "area", "networks", ".", "This", "paper", "deals", "with", "the", "problem", "of", "building", "ad", "hoc", "networks", "using", "Bluetooth", "technology", ".", "According", "to", "the", "Bluetooth", "standard", ",", "when", "two", "Bluetooth", "devices", "come", "into", "each", "other", "'s", "communication", "range", ",", "one", "of", "them", "assumes", "the", "role", "of", "master", "of", "the", "communication", "and", "the", "other", "becomes", "the", "slave", ".", "This", "simple", "one", "hop", "network", "is", "called", "a", "piconet", ",", "and", "may", "include", "more", "slaves", ".", "The", "network", "topology", "resulted", "by", "the", "connection", "of", "piconets", "is", "called", "a", "scatternet", ".", "There", "is", "no", "limit", "on", "the", "maximum", "number", "of", "slaves", "connected", "to", "one", "master", ",", "although", "the", "number", "of", "active", "slaves", "at", "one", "time", "can", "not", "exceed", ".", "If", "a", "master", "node", "has", "more", "than", "slaves", ",", "some", "slaves", "must", "be", "parked", ".", "To", "communicate", "with", "a", "parked", "slave", ",", "a", "master", "has", "to", "unpark", "it", ",", "thus", "possibly", "parking", "another", "active", "slave", "instead", ".", "The", "standard", "also", "allows", "multiple", "roles", "for", "the", "same", "device", ".", "A", "node", "can", "be", "master", "in", "one", "piconet", "and", "a", "slave", "in", "one", "or", "more", "other", "piconets", ".", "However", ",", "one", "node", "can", "be", "active", "only", "in", "one", "piconet", ".", "To", "operate", "as", "a", "member", "of", "another", "piconet", ",", "a", "node", "has", "to", "switch", "to", "the", "hopping", "frequency", "sequence", "of", "the", "other", "piconet", ".", "Since", "each", "switch", "causes", "delay", "-LRB-", "e.g.", ",", "scheduling", "and", "synchronization", "time", "-RRB-", ",", "an", "efficient", "scatternet", "formation", "protocol", "can", "be", "one", "that", "minimizes", "the", "roles", "assigned", "to", "the", "nodes", ",", "without", "losing", "network", "connectivity", ".", "While", "several", "solutions", "and", "commercial", "products", "have", "been", "in-troduced", "for", "one-hop", "Bluetooth", "communication", ",", "the", "Bluetooth", "specification", "does", "not", "indicate", "any", "method", "for", "scatternet", "formation", ".", "The", "problem", "of", "scatternet", "formation", "has", "not", "been", "dealt", "with", "until", "very", "recently", ".", "The", "solutions", "proposed", "in", "literature", "can", "be", "divided", "into", "single-hop", "and", "multi-hop", "solutions", ".", "Several", "criteria", "could", "be", "set", "as", "the", "objectives", "in", "forming", "scatternet", ".", "First", "of", "all", ",", "the", "protocol", "should", "create", "degree", "limited", "scatternets", ",", "to", "avoid", "parking", "any", "node", ".", "Secondly", ",", "the", "number", "of", "piconets", "should", "be", "minimized", "to", "provide", "faster", "routing", ".", "Thirdly", ",", "the", "formation", "and", "maintenance", "of", "scatternet", "should", "have", "small", "communication", "overhead", ".", "Fourthly", ",", "the", "diameter", "of", "the", "scatternet", "should", "be", "small", ",", "i.e.", ",", "the", "maximum", "number", "of", "hops", "between", "any", "two", "devices", "must", "be", "small", ".", "In", "this", "paper", ",", "we", "focus", "on", "scatternet", "formation", "for", "single-hop", "ad", "hoc", "networks", ".", "In", "a", "single-hop", "ad", "hoc", "network", ",", "all", "wireless", "devices", "are", "in", "the", "radio", "vicinity", "of", "each", "other", ",", "e.g.", ",", "electronic", "devices", "in", "a", "laboratory", ",", "or", "laptops", "in", "a", "conference", "room", ".", "A", "single-hop", "network", "can", "be", "modeled", "by", "a", "complete", "graph", ".", "22", "Previous", "literature", "on", "scatternet", "formation", "assumed", "that", "devices", "are", "not", "able", "to", "communicate", "unless", "they", "have", "previously", "discovered", "each", "other", "by", "synchronizing", "their", "frequency", "hopping", "patterns", ".", "Thus", ",", "even", "if", "all", "nodes", "are", "within", "direct", "communication", "range", "of", "each", "other", ",", "only", "those", "nodes", ",", "which", "are", "synchronized", "with", "the", "transmitter", ",", "can", "hear", "the", "transmission", ".", "Synchronizing", "the", "frequency", "hopping", "patterns", "is", "apparently", "a", "time", "consuming", "and", "pseudo-random", "process", "-LSB-", "13", "-RSB-", ".", "In", "this", "paper", "we", "assume", "that", "the", "problem", "of", "discovering", "all", "neighbors", "within", "transmission", "radius", "of", "a", "device", "is", "resolved", "by", "separate", "Bluetooth", "protocol", ".", "One", "such", "protocol", "for", "discovering", "all", "one", "hop", "networks", "is", "described", "in", "-LSB-", "13", ",", "3", "-RSB-", ",", "while", "a", "protocol", "that", "provides", "two-hop", "information", "to", "every", "node", "is", "described", "in", "-LSB-", "12", "-RSB-", ".", "These", "protocols", "are", "applicable", "as", "the", "pre-phase", "of", "our", "scheme", ".", "This", "paper", "addresses", "the", "problem", "of", "scatternet", "formation", "for", "single-hop", "Bluetooth", "based", "ad", "hoc", "networks", ",", "with", "minimal", "communication", "overhead", ".", "We", "adopt", "the", "well-known", "structure", "de", "Bruijn", "graph", "to", "form", "the", "backbone", "of", "Bluetooth", "scatternet", ",", "hereafter", "called", "dBBlue", ",", "such", "that", "every", "master", "node", "has", "at", "most", "seven", "slaves", ",", "every", "slave", "node", "is", "in", "at", "most", "two", "piconets", ",", "and", "no", "node", "assumes", "both", "master", "and", "slave", "roles", ".", "Our", "structure", "dBBlue", "also", "enjoys", "a", "nice", "routing", "property", ":", "the", "diameter", "of", "the", "graph", "is", "\u04b5", "and", "we", "can", "find", "a", "path", "with", "at", "most", "\u04b5", "hops", "between", "every", "pair", "of", "nodes", "without", "any", "routing", "table", ".", "Moreover", ",", "the", "congestion", "of", "every", "node", "is", "at", "most", "\u04b5", ",", "assuming", "that", "a", "unit", "of", "total", "traffic", "demand", "is", "evenly", "distributed", "among", "all", "pair", "of", "nodes", ".", "We", "discuss", "in", "detail", "a", "vigorous", "method", "to", "locally", "update", "the", "structure", "dBBlue", "using", "at", "most", "\u04b5", "communications", "when", "a", "node", "joins", "or", "leaves", "the", "network", ".", "In", "most", "cases", ",", "the", "cost", "of", "updating", "the", "scatternet", "is", "actually", "since", "a", "node", "can", "join", "or", "leave", "without", "affecting", "the", "remaining", "scatternet", ".", "The", "number", "of", "nodes", "affected", "when", "a", "node", "joins", "or", "leaves", "the", "network", "is", "always", "bounded", "from", "above", "by", "a", "constant", ".", "To", "facilitate", "self-routing", "and", "easy", "updating", ",", "we", "design", "a", "scalable", "MAC", "assigning", "mechanism", "for", "piconet", ",", "which", "can", "guarantee", "the", "packet", "delivery", "even", "during", "updating", ".", "Our", "method", "can", "construct", "the", "structure", "dBBlue", "incrementally", "when", "the", "nodes", "join", "the", "network", "one", "by", "one", ".", "In", "addition", ",", "the", "structure", "formed", "by", "our", "method", "can", "sustain", "the", "faults", "of", "nodes", "and", "the", "network", "is", "still", "guaranteed", "to", "be", "connected", ".", "If", "a", "node", "detects", "a", "fault", "of", "some", "neighboring", "master", "node", "or", "bridge", "slave", "node", ",", "it", "can", "dynamically", "re-route", "the", "packets", "and", "the", "path", "traveled", "by", "the", "packet", "is", "still", "at", "most", "\u04b5", ".", "Previously", "no", "method", "can", "guarantee", "all", "these", "properties", "although", "some", "methods", "can", "achieve", "some", "of", "the", "properties", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "presents", "our", "new", "Bluetooth", "formation", "algorithms", "for", "single-hop", "ad", "hoc", "networks", ".", "We", "describe", "how", "to", "build", "a", "static", "scatternet", "of", "nodes", "based", "on", "de", "Bruijn", "graph", "and", "assign", "roles", "and", "labels", "to", "them", ".", "Section", "3", "proposes", "a", "vigorous", "method", "to", "locally", "and", "dynamically", "update", "the", "scatternet", "topology", "when", "node", "joins", "or", "leaves", "the", "network", ".", "Section", "4", "describes", "the", "routing", "method", "for", "our", "de", "Bruijn", "based", "scatternet", "which", "efficiently", "finds", "the", "next", "node", "need", "to", "go", "without", "any", "routing", "table", ".", "The", "related", "works", "is", "discussed", "in", "section", "5", ".", "We", "conclude", "our", "paper", "in", "Section", "6", "by", "pointing", "out", "some", "possible", "future", "research", "directions", ".", "Our", "dBBlue", "scatternet", "first", "builds", "a", "backbone", "based", "on", "the", "well-known", "de", "Bruijn", "graph", "-LSB-", "5", "-RSB-", ".", "The", "de", "Bruijn", "graph", ",", "denoted", "by", ",", "is", "a", "directed", "graph", "with", "nodes", ".", "Assume", "that", "each", "node", "is", "assigned", "a", "unique", "label", "of", "length", "on", "the", "alphabet", ".", "There", "is", "an", "edge", "in", "from", "a", "node", "with", "label", "to", "any", "node", "with", "label", ",", "where", ".", "Figure", "1", "illustrates", ".", "It", "is", "well-known", "that", "the", "de", "Bruijn", "graph", "enables", "self-routing", "intrinsically", ".", "The", "self-routing", "path", "from", "the", "source", "with", "label", "to", "the", "target", "with", "label", "is", ".", "Observe", "that", ",", "we", "could", "find", "a", "shorter", "route", "by", "looking", "for", "the", "longest", "sequence", "that", "is", "both", "a", "suffix", "of", "and", "a", "prefix", "of", ".", "Suppose", "that", "is", "such", "longest", "sequence", ".", "The", "shortest", "path", "between", "the", "source", "and", "the", "target", "is", ".", "Clearly", ",", "the", "route", "between", "any", "two", "nodes", "is", "at", "most", "hops", ",", "i.e.", ",", "has", "diameter", ",", "where", "is", "the", "number", "of", "nodes", "of", "the", "graph", ".", "111", "001", "011", "010", "100", "110", "000", "101", "Figure", "1", ":", "The", "de", "Bruijn", "graph", ".", "The", "classical", "de", "Bruijn", "graph", "is", "balanced", "in", "the", "sense", "that", "the", "labels", "of", "all", "nodes", "have", "the", "same", "length", ".", "The", "de", "Bruijn", "graph", "can", "be", "generalized", "to", "any", "set", "of", "vertices", "whose", "labels", "form", "a", "universal", "prefix", "set", ".", "In", "-LSB-", "7", "-RSB-", ",", "Fraigniaud", "and", "Gauron", "proposed", "a", "novel", "method", "to", "construct", "an", "efficient", "topology", "for", "P2P", "network", "based", "on", "the", "generalized", "de", "Bruijn", "graph", "defined", "on", "a", "universal", "prefix", "set", ".", "``", "A", "universal", "prefix", "set", "is", "a", "set", "of", "labels", "on", "an", "alphabet", "such", "that", ",", "for", "any", "infinite", "word", ",", "there", "is", "a", "unique", "word", "in", ",", "which", "is", "a", "prefix", "of", ".", "The", "empty", "set", "is", "also", "a", "universal", "prefix", "set", ".", "''", "-LSB-", "7", "-RSB-", "For", "instance", ",", "is", "a", "universal", "prefix", "set", "on", "alphabet", ",", "but", "and", "are", "not", ".", "There", "is", "a", "directed", "edge", "from", "node", "to", "another", "node", "in", "the", "generalized", "de", "Bruijn", "graph", "if", "is", "the", "prefix", "of", "the", "label", "of", "node", ".", "A", "generalized", "de", "Bruijn", "graph", "is", "pseudo-balanced", "if", "the", "lengths", "of", "the", "labels", "are", "different", "by", "at", "most", "one", ".", "For", "simplicity", ",", "we", "still", "denote", "a", "pseudo-balanced", "de", "Bruijn", "graph", "on", "alphabet", "by", "if", "the", "node", "labels", "have", "length", "at", "least", "bits", "and", "at", "most", "bits", ".", "We", "also", "say", "that", "a", "node", "from", "is", "at", "level", "if", "its", "label", "has", "bits", ".", "In", "this", "paper", ",", "we", "only", "consider", "the", "balanced", "or", "pseudo-balanced", "binary", "de", "Bruin", "graph", "\u0475", ".", "Node", "labels", "in", "a", "pseudo-balanced", "de", "Bruijn", "graph", "correspond", "to", "all", "the", "leaf", "nodes", "in", "a", "full", "binary", "tree", ",", "in", "which", "the", "depth", "difference", "between", "any", "two", "leaf", "nodes", "is", "at", "most", "one", "and", "each", "internal", "node", "has", "two", "children", ",", "Figure", "2", "illustrates", "the", "correspondence", "between", "them", ".", "In", "the", "figure", ",", "the", "pseudo-balanced", "de", "Bruijn", "graph", "is", "defined", "on", "the", "leaf", "nodes", "and", "directed", "edges", ".", "In", "a", "pseudo-balanced", "de", "Bruijn", "graph", ",", "each", "node", "has", "at", "most", "out-neighbors", "and", "in-neighbors", ".", "To", "route", "a", "packet", "from", "a", "node", "with", "label", "to", "another", "node", "with", "label", ",", "where", ".", "Node", "will", "forward", "the", "packet", "to", "its", "neighbor", "node", "with", "label", ",", "or", ",", "or", ".", "Notice", "that", "since", "the", "labels", "of", "the", "nodes", "are", "a", "universal", "prefix", "set", ",", "we", "know", "that", "exactly", "one", "of", "these", "three", "labels", "does", "exist", ".", "The", "following", "nodes", "keep", "forwarding", "the", "packet", "similarly", "until", "it", "reaches", "node", ".", "Consequently", ",", "the", "diameter", "of", "pseudo-balanced", "de", "Bruijn", "graph", "is", "still", "\u04b5", ".", "In", "this", "paper", ",", "we", "propose", "a", "scalable", "scatternet", "structure", "based", "on", "pseudo-balanced", "de", "Bruijn", "graph", ".", "23", "root", "0000\u00a00001\u00a00010\u00a00011", "001", "000", "011", "010", "100\u00a0101\u00a0110\u00a0111", "10", "11", "01", "00", "1", "0", "Figure", "2", ":", "The", "correspondence", "between", "full", "binary", "tree", "and", "pseudo-balanced", "de", "Bruijn", "graph", ".", "In", "a", "pseudo-balanced", "de", "Bruijn", "graph", "\u0475", ",", "two", "nodes", "are", "called", "critical", "pair", "if", "they", "only", "differ", "in", "the", "least", "significant", "bit", "of", "their", "labels", ".", "Let", "be", "the", "sequence", "of", "nodes", "visited", "by", "a", "traversal", "of", "all", "leaf", "nodes", "in", "the", "corresponding", "binary", "tree", "of", "\u0475", ".", "A", "node", "is", "called", "the", "successor", "of", "another", "node", "and", "is", "called", "the", "predecessor", "of", "another", "node", ".", "Here", "takes", "value", ".", "For", "example", ",", "in", "Figure", "2", ",", "nodes", "and", "is", "a", "critical", "pair", ";", "node", "is", "the", "successor", "of", "the", "node", ".", "2.2", "MAC", "Address", "Assignment", "for", "Piconet", "Our", "method", "will", "construct", "a", "balanced", "-LRB-", "or", "pseudo-balanced", "-RRB-", "de", "Bruijn", "graph", "\u0475", "as", "the", "backbone", "of", "the", "network", ".", "Here", "the", "choosing", "of", "the", "integer", "is", "discussed", "later", ".", "We", "will", "ignore", "the", "direction", "of", "the", "edges", "in", "the", "de", "Bruijn", "graph", "\u0475", ".", "Thus", ",", "every", "node", "will", "have", "at", "most", "-LRB-", "or", "for", "pseudo-balanced", "de", "Bruijn", "graph", "\u0475", "-RRB-", "edges", "incident", ".", "Every", "node", "in", "the", "backbone", "of", "dBBlue", "scatternet", "will", "be", "assigned", "a", "master", "role", ".", "We", "will", "add", "a", "bridge", "slave", "node", "for", "every", "pair", "of", "master", "nodes", "that", "are", "connected", "in", "the", "backbone", ".", "Thus", ",", "every", "master", "node", "will", "have", "at", "most", "six", "bridge", "slave", "nodes", "so", "far", ".", "We", "then", "add", "some", "free", "slave", "nodes", "to", "each", "master", "node", ",", "and", "call", "them", "pure", "slave", "nodes", ".", "Before", "we", "discuss", "in", "detail", "our", "scatternet", "construction", "methods", ",", "we", "present", "our", "novel", "rule", "of", "assigning", "the", "MAC", "address", "in", "a", "piconet", ".", "In", "our", "dBBlue", "scatternet", ",", "when", "we", "route", "a", "packet", "to", "a", "destination", "node", ",", "we", "only", "know", "the", "piconet", "ID", "of", "node", ",", "say", ",", "which", "is", "same", "as", "the", "label", "of", "its", "master", "node", ",", "and", "the", "MAC", "address", ",", "say", ",", "of", "this", "node", "in", "that", "piconet", ".", "The", "detail", "routing", "mechanism", "will", "be", "discussed", "in", "Section", "4", ".", "When", "some", "node", "joins", "or", "leaves", "the", "scatternet", ",", "we", "often", "have", "to", "reorganize", "some", "piconets", "and", "thus", "re-assign", "the", "MACs", "of", "some", "nodes", ".", "Our", "method", "of", "assigning", "MAC", "addresses", "in", "a", "piconet", "and", "reorganizing", "the", "piconets", "guarantees", "that", "the", "new", "piconet", "-LRB-", "even", "the", "new", "MAC", "address", "-RRB-", "can", "be", "found", "by", "a", "simple", "appending", "or", "deleting", "the", "least", "significant", "bit", ",", "which", "keeps", "the", "label", "prefix", "of", "updating", "nodes", "un-changed", "so", "that", "even", "the", "delivery", "of", "the", "packets", "on", "the", "way", "to", "those", "updating", "nodes", "will", "not", "be", "interrupted", ".", "In", "a", "piconet", ",", "MAC", "is", "always", "reserved", "by", "the", "master", "node", ".", "For", "simplicity", ",", "we", "omit", "the", "MAC", "address", "of", "a", "master", "node", "hereafter", "while", "representing", "its", "label", ",", "i.e.", ",", "the", "master", "node", "with", "label", "actually", "has", "a", "label", "if", "consistent", "labels", "with", "slave", "nodes", "are", "needed", ".", "Remember", "that", ",", "in", "a", "pseudo-balanced", "de", "Bruijn", "graph", ",", "any", "node", "has", "in-neighbors", "-LRB-", "except", "and", "-RRB-", "and", "at", "most", "out-neighbors", ",", "so", "MAC", "addresses", "and", "are", "always", "reserved", "for", "the", "two", "bridge", "slaves", "to", "in-neighbors", ",", "MAC", ",", ",", "and", "are", "reserved", "for", "bridge", "slaves", "to", "out-neighbors", "if", "they", "exist", ",", "and", "is", "reserved", "for", "the", "th", "slave", "-LRB-", "it", "must", "be", "a", "pure", "slave", "-RRB-", "if", "it", "exists", ".", "Figure", "3", "illustrates", "all", "four", "possibilities", "for", "the", "piconet", "MAC", "address", "assignment", "according", "to", "the", "number", "of", "out-neighbors", "in", "scatternet", "backbone", ".", "In", "the", "figure", ",", "for", "simplicity", ",", "we", "use", "to", "denote", "a", "node", "with", "label", "or", ",", "whichever", "exists", "in", "the", "network", ".", "Notice", "that", "a", "master", "node", "in", "the", "constructed", "scatternet", "based", "on", "a", "pseudo-balanced", "de", "Bruijn", "graph", "\u0475", "always", "has", "two", "incoming", "neighbors", ".", "For", "example", ",", "a", "master", "node", "in", "level", "can", "have", "incoming", "neighbor", "or", ",", "but", "not", "both", "since", "the", "de", "Bruijn", "graph", "is", "built", "upon", "a", "universal", "prefix", "set", ";", "similarly", "another", "incoming", "neighbor", "is", ".", "Analogously", ",", "a", "master", "node", "\u0477", "in", "level", "has", "incoming", "neighbors", "and", ".", "On", "the", "other", "hand", ",", "the", "number", "of", "out-neighbors", "of", "a", "node", "in", "the", "pseudo-balanced", "de", "Bruijn", "graph", "\u0475", "could", "be", ".", "Only", "the", "node", "at", "level", "could", "have", "or", "out-neighbors", "and", "only", "the", "node", "at", "level", "could", "have", "out-neighbor", "-LRB-", "except", "nodes", "and", "if", "they", "exist", "-RRB-", ".", "...", "x", "m-1", "1", "x", "1", "0", "...", "x", "m-1", "x", "1", "m", "-LRB-", "x", "-RRB-", "m", "-LRB-", "x", "-RRB-", "001", "010", "100", "101", "110", "011", "111", "...", "x", "m", "+1", "...", "x", "x", "m", "+1", "2", "x", "1", "x", "2", "-LRB-", "a", "-RRB-", "One", "out-neighbor", "m", "m", "-LRB-", "x", "-RRB-", "-LRB-", "x", "-RRB-", "1", "...", "x", "1", "x", "2", "x", "m", "...", "...", "x", "1", "x", "m-1", "...", "x", "1", "x", "m-1", "001", "010", "100", "101", "110", "011", "111", "1", "x", "0", "2", "x", "m", "0", "...", "x", "2", "x", "m", "-LRB-", "b", "-RRB-", "Two", "out-neighbors", "-LRB-", "x", "-RRB-", "m", "m", "-LRB-", "x", "-RRB-", "x", "m", "...", "...", "x", "1", "x", "m-1", "...", "x", "1", "x", "m-1", "x", "2", "x", "m", "0", "0", "...", "x", "2", "x", "m", "0", "...", "1", "001", "010", "100", "101", "110", "011", "111", "1", "x", "0", "2", "x", "m", "1", "...", "x", "1", "x", "2", "-LRB-", "c", "-RRB-", "Three", "out-neighbors", "m", "-LRB-", "x", "-RRB-", "-LRB-", "x", "-RRB-", "m", "x", "m-1", "...", "x", "1", "x", "m-1", "x", "2", "x", "m", "0", "0", "...", "x", "2", "x", "m", "0", "...", "1", "x", "2", "x", "m", "...", "1", "0", "x", "2", "x", "m", "...", "1", "1", "001", "010", "100", "101", "110", "011", "111", "1", "x", "0", "1", "x", "2", "x", "m", "...", "...", "x", "1", "-LRB-", "d", "-RRB-", "Four", "out-neighbors", "Figure", "3", ":", "MAC", "address", "assignment", "for", "a", "piconet", ".", "24", "Table", "1", "summarizes", "the", "rule", "of", "assigning", "the", "MAC", "address", "to", "the", "bridge", "slave", "nodes", "in", "a", "piconet", ".", "Their", "MAC", "addresses", "can", "be", "decided", "uniquely", "according", "to", "the", "label", "bit", "difference", "between", "current", "piconet", "and", "neighbor", "piconet", "IDs", ".", "For", "example", ",", "if", "the", "master", "is", "labeled", "and", "its", "out-neighbor", "is", "labeled", ",", "then", "the", "MAC", "addresses", "of", "their", "bridge", "slave", "is", "assigned", "by", ",", "and", "assigned", "by", ".", "Remember", "that", "every", "bridge", "slave", "has", "one", "MAC", "address", "in", "each", "of", "the", "two", "piconets", "it", "resides", ".", "Table", "1", ":", "The", "rule", "to", "assign", "MAC", "address", "to", "bridge", "slave", "nodes", ".", "In-Neighbor", "Out-Neighbor", "Node", "Notice", "that", ",", "in", "bluetooth", "scatternet", ",", "the", "bridge", "slave", "nodes", "have", "two", "independent", "piconet", "IDs", "and", "MAC", "addresses", "in", "two", "piconets", "respectively", ".", "However", ",", "since", "the", "routing", "mechanism", "in", "de", "Bruijn", "is", "directional", ",", "only", "their", "piconet", "ID", "and", "MAC", "address", "assigned", "by", "their", "in-master", "is", "public", "and", "meaningful", "for", "routing", ",", "saying", "label", "in", "the", "remaining", "paper", ",", "and", "the", "other", "one", "is", "only", "used", "for", "inter-communication", "in", "a", "piconet", ".", "Figure", "4", "illustrates", "one", "piconet", "in", "the", "scatternet", ".", "Here", "nodes", ",", ",", ",", "and", "assume", "master", "role", "and", "form", "the", "backbone", "for", "scatternet", ".", "These", "master", "nodes", "are", "connected", "in", "the", "de", "Bruijn", "graph", "by", "bridge", "slaves", ",", ",", "and", "respectively", ".", "Assume", "that", "node", "has", "label", ".", "Nodes", ",", "denote", "the", "two", "incoming", "neighbors", "of", "node", ",", "which", "has", "label", "and", "respectively", ".", "Nodes", ",", "denote", "the", "two", "outgoing", "neighbors", "of", "node", ",", "which", "has", "label", "and", "respectively", ".", "Nodes", ",", ",", "and", "are", "the", "pure", "slave", "nodes", "of", "in", "the", "scatternet", ".", "The", "label", "of", "node", "-LRB-", "-RRB-", "is", "where", "is", "the", "MAC", "address", "of", "node", "in", "this", "piconet", ",", "and", "and", "has", "public", "label", "and", ",", "respectively", ",", "which", "is", "consistent", "with", "the", "prefix", "of", "and", "respectively", ".", "Notice", "that", "the", "MACs", "of", "and", "in", "the", "piconet", "mastered", "by", "node", "are", "and", "respectively", ",", "which", "are", "used", "only", "by", "nodes", "in", "this", "piconet", "and", "not", "broadcasted", "to", "the", "network", ".", "2", "v", "5", "v", "1", "v", "6", "v", "4", "v", "3", "v", "7", "u", "I", "1", "I", "2", "2", "O", "O", "v", "1", "Figure", "4", ":", "An", "example", "of", "a", "static", "piconet", "-LRB-", "with", "nodes", "inside", "the", "shaded", "region", "-RRB-", "formed", "by", "our", "method", ".", "Here", "a", "master", "node", "is", "denoted", "by", "a", "square", ",", "a", "pure", "slave", "is", "denoted", "by", "a", "circle", ",", "and", "a", "bridge", "slave", "is", "denoted", "by", "a", "triangle", ".", "As", "will", "see", "later", ",", "our", "labeling", "rule", "makes", "the", "updating", "of", "the", "scatternet", "topology", "and", "nodes", "'", "labels", "much", "easier", "when", "new", "nodes", "join", "the", "network", "or", "some", "existing", "nodes", "leave", "the", "network", ".", "For", "incremental", "updating", "of", "the", "scatternet", ",", "there", "are", "two", "scenarios", "when", "a", "new", "node", "joins", "the", "network", ".", "The", "first", "case", "is", "that", "there", "is", "a", "master", "node", "who", "has", "free", "slot", "for", "a", "pure", "slave", ".", "We", "then", "directly", "assign", "the", "newly", "joined", "node", "as", "the", "pure", "slave", "of", "that", "master", "node", ".", "The", "second", "case", "is", "that", "no", "master", "node", "has", "free", "slot", "for", "a", "pure", "slave", ".", "We", "then", "have", "to", "split", "some", "piconet", "and", "in", "turn", "create", "some", "free", "slots", "for", "pure", "slaves", ".", "The", "splitting", "of", "a", "piconet", "is", "performed", "such", "that", "the", "resulting", "backbone", "-LRB-", "formed", "by", "master", "nodes", "and", "bridge", "slaves", "-RRB-", "is", "still", "a", "pseudo-balanced", "de", "Bruijn", "graph", ".", "When", "a", "piconet", "is", "aplit-ted", ",", "the", "labels", "of", "some", "nodes", "have", "to", "be", "updated", ".", "While", "updating", "the", "topology", ",", "it", "is", "possible", "that", "some", "packets", "are", "already", "on", "their", "way", "to", "the", "destinations", "-LRB-", "via", "or", "toward", "this", "splitting", "piconet", "-RRB-", ".", "Our", "labeling", "rule", "makes", "sure", "that", "the", "packets", "can", "still", "be", "routed", "without", "any", "interruption", ",", "only", "the", "local", "nodes", "are", "assigned", "new", "labels", ",", "and", "the", "re-labeling", "are", "also", "conducted", "locally", ".", "2.3", "Static", "Scatternet", "Construction", "Given", "nodes", "currently", "distributed", "in", "the", "network", ",", "the", "section", "gives", "an", "efficient", "algorithm", "to", "construct", "our", "de", "Bruijn", "based", "scatternet", "dBBlue", ",", "which", "has", "low", "diameter", "and", "bounded", "node", "degree", "property", ".", "In", "other", "words", ",", "we", "first", "study", "the", "construction", "of", "the", "scatternet", "for", "a", "static", "-", "nodes", "network", ",", "which", "will", "serve", "the", "base", "for", "our", "dynamic", "construction", ".", "Our", "method", "will", "construct", "a", "balanced", "de", "Bruijn", "graph", "\u0475", "as", "the", "initial", "backbone", "of", "the", "network", ".", "We", "will", "choose", "integer", "such", "that", ".", "The", "choosing", "of", "guarantees", "that", "there", "are", "enough", "bridge", "slave", "nodes", ",", "which", "implies", "that", "no", "master", "node", "serves", "as", "bridge", "slave", ".", "Our", "method", "does", "not", "consider", "the", "detail", "of", "the", "neighbor", "discovering", "process", ".", "We", "assume", "that", "every", "node", "already", "knows", "the", "existence", "of", "the", "other", "nodes", ".", "A", "LGORITHM", "1", ".", "Static", "DeBruijn-Based", "Scatternet", "1", ".", "Assume", "that", "there", "is", "a", "leader", "already", "among", "these", "nodes", ".", "The", "leader", "could", "be", "the", "node", "with", "smallest", "ID", ".", "We", "give", "the", "token", "to", "the", "leader", "and", "call", "it", "token", "node", ".", "Token", "node", "randomly", "selects", "nodes", "-LRB-", "including", "itself", "-RRB-", "into", "the", "master", "set", "which", "assumes", "the", "master", "role", "in", "final", "scatternet", "topology", ",", "where", "and", "is", "the", "number", "of", "nodes", "in", ".", "Let", ",", "which", "is", "the", "total", "number", "of", "nodes", "that", "can", "be", "assigned", "as", "pure", "slaves", ".", "2", ".", "Token", "node", "assigns", "itself", "with", "label", ",", "and", "each", "node", "in", "with", "a", "unique", "bits", "label", "in", "the", "range", "from", "to", ".", "The", "set", "of", "nodes", "forms", "a", "de", "Bruijn", "graph", "\u0475", "as", "the", "scatternet", "backbone", ".", "3", ".", "Token", "node", ",", "with", "label", ",", "selects", "nodes", "1", "from", "the", "remaining", "as", "its", "bridge", "slaves", ",", "and", "assigns", "them", "labels", "and", "respectively", ".", "Here", ",", "will", "also", "serve", "as", "the", "Medium", "Access", "Code", "-LRB-", "MAC", "-RRB-", "for", "these", "two", "slaves", "in", "the", "piconet", "mastered", "by", "this", "token", "node", ".", "Token", "node", "uses", "its", "bridge", "slave", "node", "to", "connect", "with", "its", "out-neighbor", "and", "the", "bridge", "slave", "node", "to", "connect", "the", "out-neighbor", "node", ".", "4", ".", "Assume", "that", "the", "current", "token", "node", "has", "label", "with", "value", ".", "The", "token", "node", "selects", "nodes", "2", "from", "the", "remaining", "as", "its", "slaves", "and", "assigns", "them", "with", "labels", ",", "1", "There", "are", "two", "special", "nodes", "and", ",", "which", "only", "have", "1", "out-neighbor", ",", "we", "then", "just", "use", "one", "bridge", "slave", "node", "to", "connect", "with", "its", "out-neighbor", ".", "2", "Node", "and", "may", "choose", "nodes", "as", "its", "pure", "slaves", "since", "they", "only", "have", "one", "in-neighbor", "and", "one", "out-neighbor", ".", "25", "and", "in", "the", "order", "if", "they", "exist", ".", "Let", ".", "Then", "the", "token", "is", "passed", "to", "its", "successor", ".", "5", ".", "Repeat", "the", "above", "steps", "-LRB-", "3", "-RRB-", "and", "-LRB-", "4", "-RRB-", "until", "all", "nodes", "in", "are", "processed", ".", "After", "all", "nodes", "have", "been", "processed", ",", "the", "current", "token", "node", "passes", "the", "token", "back", "to", "node", "again", ".", "Once", "the", "initial", "topology", "construction", "is", "finished", ",", "the", "token", "node", "will", "be", "responsible", "for", "the", "following", "node", "joining", "and", "leaving", "issues", ".", "Master", "nodes", "form", "the", "backbone", "of", "bluetooth", "scatternet", ",", "and", "a", "piconet", "works", "like", "a", "node", "in", "de", "Bruijn", "graph", ".", "111", "001", "011", "010", "100", "110", "000", "101", "Figure", "5", ":", "dBBlue", "Bluetooth", "Scatternet", ".", "Figure", "5", "illustrates", "a", "dBBlue", "scatternet", "containing", "nodes", "based", "on", "graph", ".", "T", "HEOREM", "1", ".", "In", "dBBlue", "scatternet", ",", "each", "master", "has", "no", "more", "than", "slaves", "and", "each", "slave", "assumes", "as", "bridge", "for", "at", "most", "piconets", ".", "And", "the", "number", "of", "piconets", "is", "at", "most", "and", "at", "least", ".", "Moreover", ",", "the", "computation", "cost", "is", "\u04b5", "for", "static", "construction", ".", "P", "ROOF", ".", "From", "the", "topology", "construction", ",", "each", "master", "carries", "at", "most", "same", "prefix", "slaves", ",", "and", "at", "most", "different", "prefix", "slaves", "from", "its", "in-neighbors", "since", "each", "node", "in", "\u0475", "graph", "has", "at", "most", "in-neighbors", ",", "so", "each", "master", "has", "no", "more", "than", "slaves", ".", "And", ",", "each", "slave", "exists", "as", "a", "free", "slave", "or", "as", "the", "bridge", "between", "its", "same", "prefix", "master", "and", "one", "of", "'s", "out-neighbors", ",", "so", "the", "degree", "of", "a", "slave", "node", "is", "at", "most", "2", ".", "Let", ",", "where", "and", "is", "the", "number", "of", "masters", ".", "Then", "implies", ".", "Thus", ",", "and", ".", "Consequently", ",", ",", "which", "implies", ".", "It", "is", "obvious", "that", "the", "total", "computation", "cost", "of", "constructing", "static", "dBBlue", "scatternet", "is", "\u04b5", ".", "In", "this", "paper", "we", "always", "assume", "a", "bluetooth", "piconet", "consists", "of", "at", "most", "slaves", "and", "master", ".", "If", "future", "bluetooth", "technology", "allows", "a", "master", "to", "bring", "more", "slaves", ",", "say", ",", "our", "scatternet", "construction", "method", "can", "adapt", "easily", "as", "follows", ".", "The", "scatternet", "backbone", "will", "be", "still", "based", "on", "\u0475", "de", "Bruijn", "graph", ".", "However", ",", "is", "chosen", "such", "that", ".", "In", "other", "words", ",", "every", "master", "node", "will", "carry", "pure", "slaves", "and", "bridge", "slaves", "to", "connect", "to", "its", "two", "out-neighbors", "and", "two", "in-neighbors", "in", "the", "de", "Bruijn", "graph", "\u0475", ".", "It", "is", "not", "difficult", "to", "show", "that", "using", "de", "Bruijn", "graph", "\u0475", "will", "create", "a", "scatternet", "with", "less", "piconets", "than", "using", "for", "since", "each", "master", "node", "will", "carry", "less", "pure", "slaves", "in", "the", "later", "case", ".", "On", "the", "other", "hand", ",", "the", "scatternet", "based", "on", "for", "does", "provide", "a", "better", "fault", "tolerance", "since", "the", "degree", "of", "each", "master", "node", "is", "increased", "to", ".", "In", "this", "section", "we", "describe", "a", "vigorous", "method", "to", "locally", "update", "the", "scatternet", "topology", "dynamically", "when", "node", "joins", "or", "leaves", "the", "network", ".", "Considering", "each", "piconet", "as", "an", "abstract", "node", "in", "the", "de", "Bruijn", "graph", ",", "our", "goal", "is", "to", "maintain", "a", "scalable", "pseudo-balanced", "de", "Bruijn", "graph", ".", "3.1", "Token", "Based", "Updating", "First", "consider", "the", "case", "when", "a", "node", "wants", "to", "join", "the", "network", ".", "We", "have", "to", "assign", "a", "role", "for", "this", "newly", "joined", "node", ".", "There", "are", "several", "possible", "scenarios", "about", "the", "existing", "scatternet", ".", "-LRB-", "1", "-RRB-", "the", "existing", "scatternet", "has", "a", "master", "node", "that", "has", "free", "slave", "slots", ",", "then", "we", "can", "simply", "assign", "this", "newly", "joined", "node", "as", "the", "pure", "slave", "of", "this", "master", "node", ".", "-LRB-", "2", "-RRB-", "all", "master", "nodes", "in", "the", "existing", "scatternet", "already", "have", "slaves", ",", "we", "then", "have", "to", "expand", "the", "backbone", "of", "the", "scatternet", "to", "incorporate", "this", "newly", "joined", "node", ".", "In", "other", "words", ",", "we", "have", "to", "split", "some", "piconet", "to", "two", "such", "that", "the", "two", "new", "piconets", "will", "have", "some", "free", "pure", "slave", "slots", "to", "hold", "this", "newly", "joined", "node", ".", "Several", "methods", "can", "be", "used", "to", "implement", "the", "above", "scheme", ".", "To", "make", "the", "updating", "efficient", ",", "we", "should", "be", "able", "to", "quickly", "find", "the", "master", "node", "with", "empty", "slot", "for", "pure", "slave", "if", "there", "is", "any", ".", "One", "approach", "is", "to", "keep", "the", "current", "scatternet", "compact", "and", "assign", "a", "special", "node", "the", "token", "in", "a", "way", "such", "that", "all", "master", "nodes", "with", "label", "less", "than", "the", "token", "node", "do", "not", "have", "empty", "slot", ",", "and", "all", "master", "nodes", "with", "label", "larger", "than", "the", "token", "node", "do", "have", "empty", "slot", ".", "When", "a", "new", "node", "joins", "the", "network", ",", "we", "can", "simply", "assign", "it", "the", "empty", "pure", "slave", "slot", "and", "then", "update", "the", "token", "node", "if", "necessary", ".", "This", "approach", "is", "efficient", "for", "node", "joining", "but", "suffers", "more", "cost", "for", "node", "leaving", ".", "When", "a", "node", "leaves", "the", "network", ",", "we", "have", "to", "update", "the", "scatternet", "to", "keep", "the", "scatternet", "compact", ".", "Thus", ",", "we", "possibly", "have", "to", "move", "some", "nodes", "to", "fill", "the", "slot", "emptied", "by", "this", "left", "node", ".", "The", "other", "approach", "is", "not", "to", "compact", "the", "scatternet", ".", "When", "a", "node", "leaves", ",", "we", "do", "nothing", "if", "the", "backbone", "of", "the", "scatternet", "is", "untouched", ".", "However", ",", "this", "approach", "suffers", "a", "large", "cost", "when", "node", "joins", "the", "network", "since", "we", "have", "to", "find", "where", "to", "put", "the", "newly", "joined", "node", ".", "One", "method", "is", "to", "use", "the", "broadcast", "method", "to", "travel", "the", "whole", "scatternet", "to", "find", "the", "master", "node", "with", "free", "pure", "slave", "slot", ".", "This", "may", "perform", "better", "if", "only", "a", "few", "of", "the", "existing", "piconets", "have", "free", "slots", ".", "The", "other", "method", "is", "to", "randomly", "select", "a", "master", "node", "and", "check", "if", "it", "has", "free", "slot", ".", "If", "it", "does", "not", ",", "we", "then", "select", "another", "random", "master", "node", "until", "one", "such", "master", "node", "is", "found", ".", "This", "approach", "performs", "better", "if", "the", "majority", "of", "the", "piconets", "have", "free", "slots", ".", "We", "omit", "the", "detail", "of", "performance", "analysis", "here", ",", "which", "will", "be", "presented", "in", "the", "full", "version", "of", "the", "paper", ".", "In", "this", "paper", ",", "we", "will", "adopt", "the", "compact", "approach", ".", "Before", "we", "present", "the", "detail", "of", "our", "methods", "of", "updating", "the", "scatternet", ",", "we", "first", "study", "the", "possible", "status", "of", "the", "scatternet", ",", "which", "will", "be", "recorded", "in", "the", "token", "node", ".", "When", "a", "new", "node", "requests", "joining", "the", "network", ",", "there", "are", "three", "possible", "scenarios", "to", "be", "discussed", ".", "1", ".", "Current", "backbone", "is", "a", "balanced", "de", "Bruijn", "graph", ".", "Figure", "6", "illustrates", "an", "example", ".", "The", "token", "is", "held", "by", "the", "master", "node", "with", "the", "smallest", "label", "among", "all", "master", "nodes", "that", "have", "less", "than", "same-prefix", "slaves", ".", "In", "this", "status", ",", "the", "master", "node", "with", "the", "token", "has", "some", "free", "slot", "for", "newly", "joined", "node", "and", "so", "do", "all", "master", "nodes", "with", "larger", "labels", ".", "2", ".", "Current", "backbone", "is", "pseudo-balanced", "de", "Bruijn", "graph", "\u0475", "under", "expanding", "status", ",", "i.e.", ",", "many", "nodes", "join", "the", "scatternet", ".", "Figure", "7", "illustrates", "an", "example", ".", "The", "token", "is", "held", "by", "the", "first", "master", "node", "with", "less", "than", "same-prefix", "slaves", "in", "level", "if", "it", "exists", ",", "otherwise", "the", "first", "master", "node", "in", "level", "holds", "the", "token", ".", "In", "this", "status", ",", "all", "master", "nodes", "in", "level", "26", "token", "i-1", "i", "i", "+1", "Figure", "6", ":", "Token", "in", "balanced", "de", "Bruijn", "graph", ".", "and", "do", "not", "have", "free", "slots", "except", "the", "last", "two", "master", "nodes", "in", "level", ".", "In", "other", "words", ",", "at", "most", "two", "master", "nodes", "have", "free", "slots", ".", "level", "m", "token", "i", "i-1", "i", "+1", "level", "m", "+1", "Figure", "7", ":", "Token", "in", "pseudo-balanced", "de", "Bruijn", "graph", "under", "expanding", "status", ".", "3", ".", "Current", "backbone", "is", "a", "pseudo-balanced", "de", "Bruijn", "graph", "\u0475", "under", "shrinking", "status", ",", "i.e.", ",", "many", "nodes", "leave", "the", "scatternet", ".", "Figure", "8", "illustrates", "an", "example", ".", "The", "token", "is", "held", "by", "the", "master", "node", "in", "level", "with", "the", "smallest", "label", ".", "In", "this", "status", ",", "each", "master", "node", "in", "level", "and", "level", "has", "and", "same-prefix", "slave", "nodes", "respectively", ".", "level", "m", "+1", "i", "+1", "i-1", "i", "token", "level", "m", "Figure", "8", ":", "Token", "in", "pseudo-balanced", "de", "Bruijn", "graph", "under", "shrinking", "status", ".", "Those", "statuses", "balanced", ",", "expanding", ",", "shrinking", "will", "be", "recorded", "in", "the", "token", "data", "structure", ".", "3.2", "Node", "Joining", "When", "a", "new", "node", "joins", "the", "network", ",", "there", "are", "three", "cases", ".", "1", ".", "Token", "status", "is", "balanced", ",", "that", "is", "to", "say", ",", "current", "backbone", "is", "a", "balanced", "de", "Bruijn", "graph", ".", "See", "Figure", "6", "for", "an", "illustration", ".", "-LRB-", "a", "-RRB-", "The", "token", "node", "has", "less", "than", "slaves", ".", "Then", "it", "simply", "adds", "the", "joining", "node", "into", "its", "slave", "set", "and", "assigns", "it", "a", "label", ",", "where", "is", "one", "of", "the", "un-assigned", "MAC", "address", "in", ".", "If", "the", "token", "node", "now", "has", "slaves", ",", "then", "it", "passes", "the", "token", "to", "its", "successor", ".", "-LRB-", "b", "-RRB-", "The", "token", "node", "is", "fully", "occupied", "by", "slaves", ".", "This", "could", "happen", "only", "when", "all", "master", "nodes", "in", "the", "scatternet", "have", "slaves", ".", "Then", "the", "token", "is", "passed", "back", "to", "node", "if", "it", "is", "not", "at", "node", ".", "Change", "the", "token", "status", "to", "expanding", "and", "call", "Method", "1", "to", "split", "the", "current", "piconet", "mastered", "by", "the", "token", "node", "into", "two", "parts", "and", "add", "the", "joining", "node", "as", "a", "new", "pure", "slave", "with", "label", ".", "2", ".", "Token", "status", "is", "expanding", ",", "that", "is", "to", "say", ",", "current", "backbone", "is", "a", "pseudo-balanced", "de", "Bruijn", "graph", "under", "expanding", "status", ".", "See", "Figure", "7", "for", "an", "illustration", ".", "-LRB-", "a", "-RRB-", "If", "the", "token", "node", "is", "in", "level", ",", "i.e.", ",", "with", "bits", "label", "\u0477", ",", "the", "it", "must", "has", "less", "than", "slaves", ".", "It", "simply", "adds", "the", "joining", "node", "into", "its", "slave", "set", "and", "assigns", "it", "a", "label", "\u0477", ",", "where", "is", "one", "of", "the", "un-assigned", "labels", "in", ".", "If", "the", "token", "node", "now", "has", "slaves", ",", "then", "passes", "the", "token", "to", "its", "successor", ".", "-LRB-", "b", "-RRB-", "If", "the", "token", "node", "is", "in", "level", ",", "i.e.", ",", "with", "-", "bits", "label", ".", "This", "could", "happen", "only", "when", "all", "master", "nodes", "in", "the", "scatternet", "has", "been", "fully", "occupied", "by", "slaves", ".", "Call", "Method", "1", "to", "split", "the", "current", "piconet", "mastered", "by", "this", "token", "node", "into", "two", "piconets", ",", "and", "add", "the", "joining", "node", "as", "a", "new", "slave", "with", "label", ".", "3", ".", "Token", "status", "is", "shrinking", ",", "that", "is", "to", "say", ",", "current", "backbone", "is", "a", "pseudo-balanced", "de", "Bruijn", "graph", "under", "shrinking", "status", ".", "See", "Figure", "8", "for", "an", "illustration", ".", "In", "this", "case", ",", "token", "node", "surely", "has", "exactly", "four", "slaves", "-LRB-", "see", "node", "leaving", "for", "more", "details", "-RRB-", ".", "We", "first", "add", "the", "joining", "node", "as", "the", "slave", "of", "the", "token", "node", "and", "assign", "it", "one", "of", "the", "un-assigned", "MAC", "addresses", "in", ".", "Call", "Method", "1", "to", "split", "current", "piconet", "into", "two", "piconets", ",", "and", "pass", "token", "to", "the", "successor", "in", "level", ".", "If", "the", "current", "token", "node", "is", ",", "then", "set", "token", "status", "to", "balanced", "and", "pass", "the", "token", "to", "master", "node", "\u0477", ".", "In", "other", "words", ",", "we", "basically", "undo", "the", "updating", "-LRB-", "piconets", "merging", "-RRB-", "caused", "by", "the", "previous", "node", "leaving", "event", ".", "We", "then", "present", "our", "algorithm", "that", "split", "one", "piconet", "mastered", "by", "node", "to", "two", "new", "piconets", "mastered", "by", "nodes", "and", "respectively", ".", "M", "ETHOD", "1", ".", "Piconet", "split", "due", "to", "node", "joining", "1", ".", "Token", "node", "promotes", "its", "slave", "node", "as", "the", "master", "for", "a", "new", "piconet", ".", "We", "change", "the", "label", "of", "a", "pure", "slave", "node", "or", "a", "out-neighbor", "bridge", "slave", "node", "by", "simply", "appending", "in", "the", "MAC", "address", ",", "i.e.", ",", "the", "new", "label", "is", ".", "Two", "new", "piconets", "have", "master", "node", "with", "labels", "and", "respectively", ".", "The", "detail", "of", "labeling", "and", "role", "updating", "is", "as", "follows", ":", "-LRB-", "a", "-RRB-", ",", "which", "assumes", "master", "role", "in", "first", "piconet", ".", "-LRB-", "b", "-RRB-", ",", "which", "assumes", "a", "bridge", "slave", "role", "in", "first", "piconet", ".", "-LRB-", "c", "-RRB-", ",", "which", "assumes", "a", "bridge", "slave", "role", "in", "first", "piconet", ".", "-LRB-", "d", "-RRB-", ",", "which", "assumes", "master", "role", "in", "second", "piconet", ".", "-LRB-", "e", "-RRB-", ",", "which", "assumes", "a", "bridge", "slave", "role", "in", "second", "piconet", ".", "-LRB-", "f", "-RRB-", ",", "which", "assumes", "a", "bridge", "slave", "role", "in", "second", "piconet", ".", "27", "Notice", "this", "label", "extension", "still", "preserves", "their", "prefix", ".", "Thus", ",", "after", "the", "piconet", "splitting", ",", "the", "message", "delivery", "will", "not", "be", "interrupted", "at", "all", "because", "old", "addresses", "are", "still", "reachable", "since", "the", "new", "label", "has", "same", "prefix", ".", "In", "addition", ",", "the", "nodes", "with", "new", "labels", "with", "the", "corresponding", "MAC", "addresses", "will", "serve", "the", "bridge", "slave", "role", "in", "the", "two", "newly", "created", "piconets", ".", "Figure", "9", "illustrates", "the", "change", "while", "piconet", "splitting", ".", "m", "...", "0,101", "x", "1", "x", "m", "...", "1,010", "x", "1", "x", "m", "...", "0,010", "x", "1", "x", "m", "...", "1,101", "x", "1", "x", "m", "...", "0,001", "x", "1", "x", "m", "...", "0", "x", "1", "x", "m", "...", "1", "x", "1", "x", "m", "...", "x", "1", "x", "m", "...", ",001", "x", "1", "x", "m", "...", ",010", "x", "1", "x", "m", "...", ",100", "x", "1", "x", "m", "...", ",101", "x", "1", "x", "m", "...", ",110", "Joining", "v", "v", "u", "x", "u", "1", "x", "Figure", "9", ":", "Piconet", "splits", "due", "to", "node", "joining", ".", "2", ".", "Then", ",", "both", "and", "need", "reselect", "the", "bridge", "slaves", "to", "connect", "with", "its", "in-neighbors", "and", "out-neighbors", "if", "needed", ".", "Simultaneously", ",", "both", "and", "'s", "neighbors", "need", "reselect", "its", "same-prefix", "bridge", "slaves", "to", "connect", "with", "and", ".", "The", "selection", "still", "follows", "the", "rule", "described", "in", "Section", "2.2", ",", "Figure", "3", "illustrates", "all", "possible", "scenarios", ".", "Since", "the", "master", "nodes", "in", "the", "new", "piconets", "are", "in", "level", ",", "each", "of", "them", "has", "at", "most", "out-neighbors", "in", "the", "pseudo-balanced", "de", "Bruijn", "graph", "\u0475", ".", "Thus", ",", "we", "have", "enough", "bridge", "slave", "nodes", "for", "each", "new", "piconet", ".", "The", "in-neighbor", "master", "nodes", ",", "where", "or", ",", "of", "node", "and", "in", "the", "de", "Bruijn", "graph", "have", "to", "change", "one", "of", "its", "pure", "slave", "to", "bridge", "slave", "to", "connect", "with", "node", "or", ".", "Notice", "this", "update", "is", "only", "restricted", "to", "local", "regions", ",", "so", "the", "update", "is", "totally", "localized", ".", "3", ".", "Finally", ",", "the", "token", "is", "still", "kept", "by", "the", "master", "node", ",", "whose", "previous", "label", "is", ".", "3.3", "Node", "Leaving", "If", "a", "node", "leaves", "elegantly", ",", "it", "should", "first", "notify", "the", "token", "node", "before", "leaving", ".", "If", "a", "master/slave", "node", "leaves", "because", "unexpected", "reason", "such", "as", "power", "off", ",", "all", "of", "its", "neighborhood", "will", "detect", "it", "soon", "and", "notify", "the", "token", "node", ".", "Our", "method", "does", "not", "consider", "the", "detail", "of", "the", "exception", "detection", "process", ",", "we", "assume", "the", "token", "node", "can", "detect", "the", "node", "leaving", "in", "short", "time", ".", "When", "the", "token", "node", "detects", "the", "node", "leaving", ",", "then", "there", "are", "three", "cases", "to", "be", "addressed", "again", ":", "1", ".", "Token", "status", "is", "balanced", ",", "that", "is", "to", "say", ",", "current", "backbone", "is", "a", "balanced", "de", "Bruijn", "graph", ".", "Here", "two", "cases", "need", "be", "discussed", ":", "-LRB-", "a", "-RRB-", "If", "the", "token", "node", "does", "have", "pure", "slave", "node", ",", "then", "the", "token", "node", "requests", "one", "pure", "slave", "to", "replace", "the", "position", "of", "the", "leaving", "node", ",", "including", "the", "label", ";", "-LRB-", "b", "-RRB-", "If", "the", "token", "node", "has", "no", "pure", "slave", "nodes", ",", "then", "it", "passes", "the", "token", "to", "its", "predecessor", ",", "say", "node", ".", "There", "are", "two", "scenarios", "also", ",", "which", "as", "discussed", "as", "follows", ".", "i", ".", "If", "node", "has", "pure", "slaves", ",", "then", "it", "requests", "one", "pure", "slave", "to", "replace", "the", "position", "of", "the", "leaving", "node", ".", "ii", ".", "If", "node", "also", "has", "no", "pure", "slaves", ".", "This", "could", "happen", "only", "when", ",", "and", "all", "master", "nodes", "have", "only", "slaves", "serving", "bridge", "slave", "role", ".", "Token", "node", "changes", "the", "token", "status", "to", "shrinking", ",", "and", "call", "Method", "2", "to", "merge", "its", "corresponding", "critical", "pair", ",", "then", "ask", "one", "pure", "slave", "to", "replace", "the", "position", "of", "the", "leaving", "node", ".", "2", ".", "Token", "status", "is", "expanding", ",", "that", "is", "to", "say", ",", "current", "backbone", "is", "a", "pseudo-balanced", "de", "Bruijn", "graph", "under", "expanding", "status", ".", "-LRB-", "a", "-RRB-", "If", "the", "token", "node", "is", "in", "level", ",", "i.e.", ",", "with", "-", "bits", "label", ".", "This", "could", "happen", "only", "when", "all", "master", "nodes", "in", "the", "scatternet", "has", "been", "fully", "occupied", "by", "slaves", ".", "The", "token", "need", "be", "passed", "the", "predecessor", ",", "which", "will", "ask", "one", "pure", "slave", "node", "to", "replace", "the", "position", "of", "the", "leaving", "node", ".", "-LRB-", "b", "-RRB-", "If", "the", "token", "node", "is", "in", "level", ",", "i.e.", ",", "with", "bits", "label", "\u0477", ".", "If", "the", "token", "node", "does", "have", "pure", "slave", "node", ",", "then", "the", "token", "node", "requests", "one", "pure", "slave", "to", "replace", "the", "position", "of", "the", "leaving", "node", ",", "otherwise", "two", "cases", "need", "be", "discussed", "here", ":", "i", ".", "The", "least", "significant", "bit", "of", "the", "token", "node", "'s", "label", "is", ".", "The", "token", "will", "be", "passed", "to", "be", "passed", "the", "predecessor", ",", "which", "will", "ask", "one", "pure", "slave", "node", "to", "replace", "the", "position", "of", "the", "leaving", "node", ".", "ii", ".", "The", "least", "significant", "bit", "of", "the", "token", "node", "'s", "label", "is", ".", "It", "first", "merges", "its", "corresponding", "critical", "pair", "by", "calling", "Method", "2", ",", "then", "requests", "one", "pure", "slave", "to", "replace", "the", "position", "of", "the", "leaving", "node", ".", "Now", "if", "the", "current", "token", "node", "is", ",", "then", "it", "changes", "the", "token", "status", "to", "balanced", "and", "passes", "the", "token", "to", "its", "predecessor", ".", "3", ".", "Token", "status", "is", "shrinking", ",", "that", "is", "to", "say", ",", "current", "backbone", "is", "a", "pseudo-balanced", "de", "Bruijn", "graph", "under", "shrinking", "status", ".", "-LRB-", "a", "-RRB-", "If", "the", "token", "node", "is", "not", ",", "then", "it", "passes", "the", "token", "to", "its", "second", "predecessor", "with", "least", "significant", "bit", "in", "level", ",", "which", "will", "call", "Method", "2", "to", "merge", "its", "critical", "pair", "piconet", "and", "ask", "one", "pure", "slave", "to", "replace", "the", "position", "of", "the", "leaving", "node", ".", "-LRB-", "b", "-RRB-", "If", "the", "token", "node", "is", ",", "then", "it", "changes", "the", "token", "status", "to", "balanced", "and", "passes", "the", "token", "to", "node", ",", "which", "will", "ask", "one", "pure", "slave", "to", "replace", "the", "position", "of", "leaving", "node", ".", "One", "special", "case", "is", "that", "token", "node", "leaves", ".", "In", "this", "case", ",", "the", "token", "node", "will", "promote", "one", "of", "its", "pure", "slaves", "to", "replace", "it", ",", "i.e.", ",", "be", "the", "master", "node", "and", "the", "new", "token", "node", ".", "If", "no", "new", "pure", "slave", "exits", ",", "similarly", ",", "we", "have", "to", "ask", "some", "pure", "slave", "node", "from", "its", "predecessor", "to", "replace", "its", "role", ".", "When", "the", "token", "node", "did", "not", "leave", "elegantly", ",", "it", "is", "more", "complicated", "and", "we", "need", "fault", "tolerance", "about", "the", "token", "node", ",", "which", "is", "out", "of", "the", "scope", "of", "this", "paper", ".", "We", "then", "describe", "our", "method", "to", "merge", "two", "piconets", "that", "are", "mastered", "by", "a", "critical", "pair", ".", "M", "ETHOD", "2", ".", "Piconet", "merge", "due", "to", "node", "leaving", "1", ".", "Assume", "that", "token", "node", "requests", "merging", "with", "its", "sibling", "master", "node", ".", "The", "new", "piconet", "has", "master", "node", "with", "label", ".", "Notice", "that", "node", "and", "node", "each", "has", "at", "most", "out-neighbors", "in", "the", "de", "Bruijn", "graph", ".", "The", "label", "change", "will", "be", "achieved", "by", "simply", "deleting", "the", "least", "significant", "bit", "as", "follows", ":", "-LRB-", "a", "-RRB-", ",", "which", "is", "the", "master", "node", "in", "the", "new", "piconet", ".", "28", "-LRB-", "b", "-RRB-", ",", "which", "is", "a", "pure", "slave", "node", "or", "the", "bridge", "slave", "node", "to", "connect", "master", "node", "if", "it", "exists", ".", "-LRB-", "c", "-RRB-", ",", "which", "is", "the", "bridge", "slave", "node", "to", "connect", "master", "node", ",", "whichever", "exists", ".", "-LRB-", "d", "-RRB-", "moves", "to", "replace", "the", "leaving", "node", "position", ".", "-LRB-", "e", "-RRB-", ",", "which", "is", "the", "bridge", "slave", "node", "to", "connect", "master", "node", ",", "whichever", "exists", ".", "-LRB-", "f", "-RRB-", ",", "which", "is", "a", "pure", "slave", "node", "or", "the", "bridge", "slave", "node", "to", "connect", "master", "node", "if", "it", "exists", ".", "Notice", "this", "label", "shrink", "still", "preserves", "the", "label", "prefix", ".", "Thus", ",", "after", "the", "piconets", "merging", ",", "the", "message", "delivery", "will", "not", "be", "affected", "at", "all", "because", "de", "Bruijn", "graph", "uses", "prefix", "based", "routing", ",", "old", "addresses", "are", "still", "reachable", "by", "the", "same", "prefix", ".", "The", "piconets", "mergence", "will", "not", "cause", "any", "routing", "problem", "although", "the", "node", "label", "shrink", "is", "not", "acknowledged", "by", "other", "nodes", ".", "At", "the", "same", "time", ",", "the", "sibling", "master", "node", "leaves", "to", "replace", "the", "position", "of", "leaving", "node", ".", "To", "continue", "the", "message", "delivery", "for", "node", ",", "the", "new", "master", "node", "will", "keep", "the", "new", "label", "of", "for", "a", "period", "of", "time", "and", "forwards", "the", "message", "targeted", "to", "accordingly", ".", "More", "detail", "is", "discussed", "in", "Section", "4", ".", "Figure", "10", "illustrates", "the", "change", "of", "labels", "by", "merging", "piconets", ".", "m", "...", "x", "1", "x", "m", "...", ",001", "x", "1", "x", "m", "...", ",101", "x", "1", "x", "m", "...", ",110", "x", "1", "x", "m", "...", "0,101", "x", "1", "x", "m", "...", "1,010", "x", "1", "x", "m", "...", "0,010", "x", "1", "x", "m", "...", "1,101", "x", "1", "x", "m", "...", "0", "x", "1", "x", "m", "...", "1", "x", "1", "x", "m", "...", ",010", "x", "1", "x", "m", "...", "1", "u", "v", "u", "v", "x", "replace", "leaving", "node", "1", "x", "Figure", "10", ":", "Piconets", "merge", "due", "to", "node", "leaving", ".", "2", ".", "Then", ",", "node", "need", "reselect", "the", "bridge", "slaves", "to", "connect", "with", "in-neighbors", "and", "out-neighbors", "if", "needed", ".", "Simultaneously", ",", "the", "neighboring", "master", "nodes", "of", "and", "need", "reselect", "their", "same-prefix", "bridge", "slaves", "to", "connect", "with", ".", "The", "selection", "still", "follows", "the", "same", "rule", "described", "in", "Section", "2.2", ",", "please", "see", "Figure", "3", "for", "an", "illustration", "for", "all", "possible", "scenarios", ".", "Notice", "this", "update", "is", "totally", "localized", ".", "3", ".", "The", "token", "is", "now", "kept", "by", "the", "master", "node", ".", "It", "is", "not", "difficult", "to", "prove", "the", "following", "theorem", ".", "T", "HEOREM", "2", ".", "Our", "method", "locally", "updates", "the", "dBBlue", "scatternet", "using", "at", "most", "\u04b5", "communications", "when", "a", "node", "joins", "or", "leaves", "the", "network", ".", "In", "most", "cases", ",", "the", "cost", "of", "updating", "the", "scatternet", "is", "actually", "since", "the", "node", "can", "leave", "and", "join", "without", "affecting", "the", "remaining", "scatternet", ".", "The", "number", "of", "nodes", "affected", "when", "a", "node", "leaves", "or", "joins", "the", "network", "is", "always", "bounded", "from", "above", "by", "a", "constant", ".", "Our", "method", "can", "construct", "the", "structure", "incrementally", "when", "the", "nodes", "join", "the", "network", "one", "by", "one", ".", "3.4", "Bounded", "Network", "Size", "The", "method", "described", "so", "far", "can", "incrementally", "construct", "the", "scatternet", "when", "the", "nodes", "join", "the", "network", "one", "by", "one", "and", "can", "update", "the", "scatternet", "structure", "efficiently", "when", "nodes", "leave", "or", "join", "the", "network", "even", "frequently", "without", "affecting", "the", "worst", "case", "properties", "of", "the", "scatternet", ".", "This", "method", "is", "efficient", "in", "most", "cases", ",", "however", ",", "it", "could", "generate", "lots", "of", "merging", "and", "splitting", "of", "piconets", "in", "the", "worst", "case", ":", "a", "node", "joins", "the", "scatternet", "which", "causes", "the", "splitting", "of", "a", "piconet", ",", "then", "a", "node", "leaves", "which", "in", "turn", "causes", "the", "merging", "of", "two", "piconets", ",", "and", "repeat", "joining", ",", "leaving", ".", "In", "most", "applications", ",", "the", "size", "of", "the", "bluetooth", "network", "is", "often", "stable", ",", "for", "example", ",", "within", "for", "a", "small", "constant", ".", "If", "this", "is", "the", "case", ",", "we", "can", "apply", "the", "following", "approach", "to", "build", "the", "scatternet", ".", "First", ",", "we", "use", "Algorithm", "1", "to", "build", "a", "scatternet", "with", "nodes", ".", "When", "a", "new", "node", "joins", "the", "network", ",", "we", "first", "tries", "to", "find", "an", "empty", "pure", "slave", "slot", "for", "this", "node", "from", "the", "current", "token", "node", ".", "If", "no", "empty", "slot", ",", "we", "then", "pass", "the", "token", "to", "the", "successor", "of", "the", "current", "token", "node", ".", "When", "all", "master", "nodes", "in", "the", "scatternet", "have", "slaves", ",", "we", "will", "start", "to", "create", "another", "piconet", "to", "connect", "to", "the", "current", "backbone", ".", "In", "other", "words", ",", "instead", "of", "having", "pure", "slave", "nodes", ",", "a", "master", "node", "from", "the", "scatternet", "backbone", "will", "replace", "the", "pure", "slave", "nodes", "by", "piconets", "-LRB-", "at", "maximum", "-RRB-", ".", "We", "call", "such", "piconets", "associated", "with", "the", "master", "node", "of", "the", "backbone", ".", "Clearly", ",", "a", "backbone", "based", "on", "a", "balanced", "de", "Bruijn", "graph", "\u0475", "could", "support", "from", "nodes", "to", "nodes", "without", "associating", "piconets", ".", "By", "associating", "piconets", "to", "the", "master", "nodes", "of", "backbone", ",", "the", "number", "of", "nodes", "it", "can", "support", "is", "increased", "to", "since", "we", "can", "replace", "each", "pure", "slave", "node", "by", "a", "piconet", "of", "nodes", ".", "One", "disadvantage", "of", "associating", "piconets", "to", "master", "nodes", "is", "that", "every", "master", "node", "in", "the", "backbone", "will", "have", "to", "forward", "more", "messages", "than", "the", "scatternet", "created", "by", "the", "method", "described", "previously", ".", "The", "other", "disadvantage", "is", "that", "when", "the", "network", "size", "goes", "beyond", "its", "supported", "scope", ",", "the", "updating", "of", "the", "scatternet", "is", "more", "costly", "than", "before", ".", "See", "the", "full", "version", "of", "the", "paper", "for", "more", "detail", ".", "We", "first", "describe", "the", "routing", "in", "the", "dBBlue", "scatternet", "with", "balanced", "backbone", ".", "If", "both", "source", "and", "target", "nodes", "are", "masters", ",", "we", "assume", "the", "source", "master", "node", "has", "label", "and", "the", "target", "master", "node", "has", "label", ".", "According", "to", "the", "routing", "mechanism", "described", "in", "Section", "2.1", ",", "node", "simply", "forwards", "the", "message", "to", "its", "neighbor", "master", "node", ",", "relayed", "by", "their", "common", "bridge", "node", "if", "or", "by", "if", ".", "Then", "forwards", "the", "message", "again", "to", "its", "neighbor", "master", "node", "accordingly", ".", "Clearly", ",", "the", "message", "is", "guaranteed", "to", "reach", "the", "target", "in", "at", "most", "steps", ".", "If", "the", "source", "node", "is", "a", "slave", ",", "it", "first", "sends", "the", "messages", "to", "its", "master", "node", ".", "Notice", "that", "pure", "slave", "node", "has", "only", "one", "master", "node", "and", "the", "bridge", "slave", "node", "has", "two", "master", "nodes", ".", "Then", "bridge", "slave", "node", "just", "randomly", "picks", "one", "master", "node", ".", "Similarly", "if", "the", "target", "node", "is", "a", "slave", ",", "the", "message", "will", "be", "first", "forwarded", "to", "its", "master", "node", ".", "The", "procedure", "of", "routing", "message", "between", "these", "two", "master", "nodes", "is", "same", "as", "the", "previous", "description", ".", "Clearly", ",", "the", "routing", "path", "from", "one", "master", "node", "to", "another", "master", "node", "is", "at", "most", "hops", ".", "The", "longest", "path", "between", "two", "nodes", "happens", "from", "a", "slave", "node", "to", "another", "slave", "node", ",", "which", "is", "at", "most", "hops", ".", "From", ",", "we", "have", ".", "Thus", ",", "the", "diameter", "of", "the", "de", "Bruijn-based", "scatternet", "is", ".", "T", "HEOREM", "3", ".", "For", "any", "two", "nodes", "in", "dBBlue", "scatternet", ",", "there", "is", "a", "path", "with", "at", "most", "hops", "and", "such", "path", "can", "be", "found", "locally", "based", "only", "on", "the", "labels", "of", "the", "source", "and", "target", ".", "29", "Notice", "that", ",", "two", "assumptions", "are", "made", "in", "our", "routing", "scheme", "described", "above", ":", "-LRB-", "1", "-RRB-", "the", "source", "node", "knows", "the", "label", "of", "the", "target", "node", ",", "and", "-LRB-", "2", "-RRB-", "the", "backbone", "of", "the", "scatternet", "is", "based", "on", "a", "balanced", "de", "Bruijn", "graph", ".", "We", "will", "not", "try", "to", "resolve", "the", "first", "assumption", "in", "this", "paper", ",", "but", "discuss", "it", "briefly", "here", ".", "The", "labels", "of", "a", "node", "can", "be", "broadcasted", "to", "the", "whole", "network", "if", "the", "nodes", "leaving", "and", "joining", "is", "not", "frequent", ",", "i.e.", ",", "the", "labels", "of", "nodes", "do", "not", "change", "frequently", ".", "Or", "we", "can", "adopt", "a", "mechanism", "similar", "to", "the", "Domain", "Name", "Service", "-LRB-", "DNS", "-RRB-", ":", "the", "labels", "are", "stored", "in", "a", "hierarchical", "manner", "and", "a", "node", "can", "query", "the", "label", "servers", "to", "get", "the", "labels", "of", "the", "target", "nodes", "and", "then", "cache", "them", "locally", ".", "Here", ",", "we", "discuss", "briefly", "how", "to", "perform", "broadcast", "in", "de", "Bruijn", "graph", "such", "that", "it", "guarantees", "to", "reach", "each", "node", "exactly", "once", ".", "We", "initiate", "the", "broadcast", "from", "node", ".", "Each", "node", "with", "label", "continues", "forwarding", "the", "message", "to", "its", "out-neighbors", ".", "The", "nodes", "whose", "most", "significant", "bit", "is", "will", "not", "forward", "the", "message", ".", "The", "broadcast", "basically", "works", "same", "as", "the", "breadth", "first", "search", "-LRB-", "BFS", "-RRB-", "in", "a", "binary", "tree", ".", "Clearly", ",", "a", "node", "will", "only", "forward", "the", "message", "to", "nodes", "with", "larger", "labels", ".", "Thus", ",", "a", "node", "receives", "the", "message", "exactly", "once", ".", "The", "communication", "cost", "of", "such", "broadcasting", "is", "exactly", "messages", ".", "We", "then", "discuss", "in", "detail", "how", "to", "route", "the", "packets", "when", "the", "scatternet", "backbone", "is", "pseudo-balanced", ".", "Assume", "the", "source", "master", "node", "has", "label", "and", "the", "target", "master", "node", "has", "label", ",", "where", ".", "Node", "will", "forward", "the", "packet", "to", "its", "out-neighbor", "master", "node", "with", "label", ",", "or", ",", "or", ".", "Notice", "that", "since", "the", "labels", "of", "all", "nodes", "are", "a", "universal", "prefix", "set", ",", "we", "know", "that", "exactly", "one", "of", "these", "three", "labels", "does", "exist", ".", "Consequently", ",", "the", "diameter", "of", "pseudo-balanced", "de", "Bruijn", "graph", "is", "still", "\u04b5", ".", "The", "bridge", "slave", "node", "from", "to", "has", "MAC", "-LRB-", "1", "-RRB-", "if", "a", "master", "node", "with", "label", "exists", ";", "or", "-LRB-", "2", "-RRB-", "if", "a", "master", "node", "with", "label", "exists", ";", "or", "-LRB-", "3", "-RRB-", "if", "a", "master", "node", "with", "label", "exists", ".", "Review", "Section", "2.2", "for", "more", "detail", "about", "the", "rules", "of", "labeling", "nodes", "and", "assigning", "MAC", "addresses", "in", "a", "piconet", ".", "A", "shorter", "route", "is", "obtained", "by", "looking", "for", "the", "longest", "sequence", "that", "is", "suffix", "of", "and", "prefix", "of", ".", "For", "the", "purpose", "of", "illustration", ",", "let", "'s", "see", "how", "we", "route", "packets", "from", "master", "node", "to", "master", "node", "in", "the", "scatternet", "based", "on", "the", "de", "Bruijn", "graph", "illustrated", "in", "Figure", "2", ".", "First", ",", "the", "master", "node", "checks", "the", "labels", "of", "all", "out-neighbor", "master", "nodes", "and", "finds", "that", "master", "node", "with", "label", "exists", ".", "Then", "it", "forwards", "the", "packet", "to", "master", "node", "via", "the", "bridge", "slave", "node", "with", "MAC", ".", "Similarly", ",", "master", "node", "forwards", "the", "packet", "to", "master", "node", "with", "label", "via", "the", "bridge", "slave", "with", "MAC", ".", "Finally", ",", "the", "master", "node", "forwards", "the", "packet", "to", "node", "via", "the", "bridge", "slave", "with", "MAC", ".", "Notice", "that", "the", "last", "step", "it", "takes", "a", "shorter", "path", "other", "than", "via", "another", "master", "node", ".", "At", "last", ",", "we", "discuss", "how", "to", "route", "the", "messages", "while", "the", "scatternet", "is", "on", "updating", "due", "to", "nodes", "leaving", "or", "joining", "the", "network", ".", "When", "a", "node", "joins", "the", "network", ",", "the", "piconet", "mastered", "by", "the", "token", "node", "may", "be", "split", "into", "two", "piconets", ".", "Clearly", ",", "the", "message", "still", "can", "be", "routed", "since", "the", "labels", "of", "the", "two", "newly", "created", "piconets", "are", "the", "children", "of", "this", "token", "node", ".", "Similarly", ",", "when", "two", "piconets", "are", "merged", "to", "create", "a", "new", "piconet", ",", "the", "label-based", "routing", "still", "successfully", "route", "the", "packets", ".", "The", "remaining", "case", "is", "that", "when", "a", "node", "leaves", ",", "we", "may", "need", "find", "a", "pure", "slave", "node", "from", "the", "current", "token", "node", "to", "fill", "the", "space", "emptied", "by", "this", "left", "node", ".", "When", "a", "message", "targeted", "to", "node", "reaches", "the", "piconet", "mastered", "by", "the", "token", "node", ",", "node", "has", "already", "been", "moved", ".", "To", "remedy", "this", ",", "we", "apply", "a", "mechanism", "similar", "to", "the", "mail-forwarding", "service", "provided", "by", "the", "post-office", ":", "the", "master", "node", "will", "keep", "a", "record", "of", "the", "nodes", "moved", "to", "other", "piconets", "and", "its", "new", "label", "within", "a", "time", "window", ".", "When", "a", "message", "targeted", "for", "reaches", ",", "the", "master", "node", "forwards", "the", "message", "to", "the", "new", "destination", "and", "also", "acknowledges", "the", "source", "node", "of", "the", "new", "label", "of", ".", "The", "source", "node", "will", "then", "cache", "the", "label", "of", "node", "if", "it", "is", "frequently", "used", ".", "To", "decrease", "messages", "forwarding", ",", "every", "master", "node", "could", "record", "the", "frequency", "that", "a", "slave", "node", "receives", "messages", "from", "other", "node", ".", "When", "a", "pure", "slave", "node", "is", "visited", "frequently", "by", "other", "nodes", ",", "then", "we", "switch", "its", "role", "with", "one", "of", "the", "bridge", "slaves", "with", "same", "prefix", "and", "broadcast", "the", "new", "labels", "of", "these", "two", "nodes", "to", "the", "network", ".", "When", "we", "have", "to", "move", "a", "pure", "slave", "node", "to", "other", "piconet", "to", "make", "the", "scatternet", "compact", ",", "the", "pure", "slave", "node", "is", "the", "least", "frequently", "visited", "nodes", "among", "the", "current", "piconet", ".", "Zaruba", ",", "Basagni", "and", "Chlamtac", "-LSB-", "15", "-RSB-", "proposed", "two", "protocols", "for", "forming", "connected", "scatternet", ".", "In", "both", "cases", ",", "the", "resulting", "topology", "is", "termed", "a", "bluetree", ".", "The", "number", "of", "roles", "each", "node", "can", "assume", "is", "limited", "to", "two", "or", "three", ".", "The", "first", "protocol", "is", "initiated", "by", "a", "single", "node", ",", "called", "the", "blueroot", ",", "which", "will", "be", "the", "root", "of", "the", "bluetree", ".", "A", "rooted", "spanning", "tree", "is", "built", "as", "follows", ".", "The", "root", "will", "be", "assigned", "the", "role", "of", "master", ".", "Every", "one", "hop", "neighbor", "of", "the", "root", "will", "be", "its", "slave", ".", "The", "children", "of", "the", "root", "will", "be", "now", "assigned", "an", "additional", "master", "role", ",", "and", "all", "their", "neighbors", "that", "are", "not", "assigned", "any", "roles", "yet", "will", "become", "slaves", "of", "these", "newly", "created", "masters", ".", "This", "procedure", "is", "repeated", "recursively", "till", "all", "nodes", "are", "assigned", ".", "Each", "node", "is", "slave", "for", "only", "one", "master", ",", "the", "one", "that", "paged", "it", "first", ".", "Each", "internal", "node", "of", "the", "tree", "is", "a", "master", "on", "one", "piconet", ",", "and", "slave", "of", "another", "master", "-LRB-", "its", "parent", "in", "the", "initial", "tree", "-RRB-", ".", "In", "order", "to", "limit", "the", "number", "of", "slaves", ",", "they", "-LSB-", "15", "-RSB-", "observed", "that", "if", "a", "node", "in", "unit", "disk", "graph", "has", "more", "than", "five", "neighbors", ",", "then", "at", "least", "two", "of", "them", "must", "be", "connected", ".", "This", "observation", "is", "used", "to", "re-configure", "the", "tree", "so", "that", "each", "master", "node", "has", "no", "more", "than", "slaves", ".", "If", "a", "master", "node", "has", "more", "than", "slaves", ",", "it", "selects", "its", "two", "slaves", "and", "that", "are", "connected", "and", "instructs", "to", "be", "master", "of", ",", "and", "then", "disconnects", "from", "itself", ".", "Such", "branch", "reorganization", "is", "carried", "throughout", "the", "network", ".", "However", ",", "whether", "this", "approach", "will", "terminate", "is", "not", "proved", "in", "-LSB-", "15", "-RSB-", ".", "Tan", "et", "al.", "-LSB-", "14", "-RSB-", "proposed", "a", "similar", "method", "for", "single-hop", "network", ".", "In", "the", "second", "protocol", "-LSB-", "15", "-RSB-", ",", "several", "roots", "are", "initially", "selected", ".", "Each", "of", "them", "then", "creates", "its", "own", "scatternet", "as", "in", "the", "first", "protocol", ".", "In", "the", "second", "phase", ",", "sub-tree", "scatternets", "are", "connected", "into", "one", "scatternet", "spanning", "the", "entire", "network", ".", "Notice", "that", "the", "tree", "topology", "suffers", "from", "a", "major", "drawback", ":", "the", "root", "is", "a", "communication", "bottleneck", "as", "it", "will", "be", "overloaded", "by", "communications", "between", "the", "different", "parts", "of", "the", "tree", ".", "Obviously", ",", "the", "root", "node", "in", "the", "tree-based", "scatternet", "is", "the", "bottleneck", "of", "the", "network", "and", "its", "congestion", "is", ",", "assuming", "that", "total", "traffic", "demand", "is", "a", "unit", "and", "is", "uniformly", "distributed", ".", "In", "addition", ",", "dynamic", "updating", "that", "preserves", "correct", "routing", "is", "not", "discussed", "in", "these", "protocols", ".", "Law", ",", "Mehta", "and", "Siu", "-LSB-", "9", "-RSB-", "described", "an", "algorithm", "that", "creates", "connected", "degree", "bounded", "scatternet", "in", "single-hop", "networks", ".", "The", "final", "structure", "is", "a", "tree", "like", "scatternet", ",", "which", "limits", "efficiency", "and", "robust-ness", ".", "A", "single-hop", "Bluetooth", "scatternet", "formation", "scheme", "based", "on", "1-factors", "is", "described", "in", "-LSB-", "1", "-RSB-", ".", "However", ",", "piconets", "are", "not", "degree", "limited", "in", "that", "scheme", ".", "Salonidis", "et", "al.", "-LSB-", "13", "-RSB-", "proposed", "another", "topology", "construction", "algorithm", "recently", ".", "It", "first", "collects", "neighborhood", "information", "using", "an", "inquiry", "procedure", ",", "where", "senders", "search", "for", "receivers", "on", "randomly", "chosen", "frequencies", ",", "and", "the", "detected", "receivers", "reply", "after", "random", "backoff", "delay", ".", "Leader", "is", "elected", "in", "the", "process", ",", "one", "for", "each", "connected", "component", ".", "Leader", "then", "collects", "the", "information", "about", "the", "whole", "network", ",", "decides", "the", "roles", "for", "each", "node", ",", "and", "distributes", "back", "the", "roles", ".", "In", "other", "words", ",", "basically", ",", "it", "is", "a", "centralized", "approach", ".", "Thus", ",", "the", "solution", "is", "not", "scalable", ",", "and", "not", "localized", ".", "30", "Moreover", ",", "how", "to", "assign", "the", "roles", "is", "not", "elaborated", "in", "-LSB-", "13", "-RSB-", ".", "They", "also", "assume", "up", "to", "nodes", "in", "the", "network", ".", "Another", "centralized", "solution", "for", "single-hop", "networks", ",", "where", "the", "traffic", "between", "any", "pair", "of", "nodes", "is", "known", "a", "priori", ",", "is", "described", "in", "-LSB-", "10", "-RSB-", ".", "Sun", ",", "Chang", "and", "Lai", "-LSB-", "11", "-RSB-", "described", "a", "self-routing", "topology", "for", "single-hop", "Bluetooth", "networks", ".", "Nodes", "are", "organized", "and", "maintained", "in", "a", "search", "tree", "structure", ",", "with", "Bluetooth", "ID", "'s", "as", "keys", "-LRB-", "these", "keys", "are", "also", "used", "for", "routing", "-RRB-", ".", "It", "relies", "on", "a", "sophisticated", "scatternet", "merge", "procedure", "with", "significant", "communication", "overhead", "for", "creation", "and", "maintenance", ".", "Bluerings", "as", "scatternets", "are", "proposed", "in", "-LSB-", "4", "-RSB-", ".", "Ring", "structure", "for", "Bluetooth", "has", "simplicity", "and", "easy", "creation", "as", "advantage", ",", "but", "it", "suffers", "large", "diameter", "-LRB-", "i.e.", ",", "the", "maximum", "number", "of", "hops", "between", "any", "two", "devices", "-RRB-", "and", "large", "number", "of", "piconets", ".", "The", "works", "are", "most", "related", "to", "our", "dBBlue", "scatternet", "construction", "method", "is", "-LSB-", "2", "-RSB-", "and", "-LSB-", "7", "-RSB-", ".", "Barriere", ",", "Fraigniaud", ",", "Narajanan", ",", "and", "Opatrny", "-LSB-", "2", "-RSB-", "described", "a", "connected", "degree", "limited", "and", "distributed", "scatternet", "formation", "solution", "based", "on", "projective", "geometry", "for", "single-hop", "networks", ".", "They", "assume", "that", "only", "slave", "nodes", "can", "act", "as", "bridges", ".", "They", "described", "procedures", "for", "adding", "and", "deleting", "nodes", "from", "the", "networks", "and", "claimed", "that", "its", "communication", "cost", "is", "\u04b5", "and", "the", "computation", "cost", "is", "\u04b5", ",", "where", "is", "the", "number", "of", "nodes", "in", "the", "network", ".", "The", "degree", "of", "the", "scatternet", "can", "be", "fixed", "to", "any", ",", "where", "is", "a", "power", "of", "a", "prime", "number", ".", "However", ",", "in", "their", "method", ",", "every", "node", "need", "hold", "information", "of", "the", "projective", "plane", "and", "the", "master", "node", "who", "has", "the", "``", "token", "''", "needs", "to", "know", "the", "information", "of", "the", "projective", "scatternet", "-LRB-", "which", "label", "should", "be", "used", "for", "the", "new", "coming", "master", "and", "which", "existing", "nodes", "need", "to", "be", "connected", "to", "it", "-RRB-", ".", "However", ",", "the", "authors", "did", "not", "discuss", "in", "detail", "how", "to", "compute", "the", "labels", "for", "the", "new", "master", "and", "its", "slaves", ",", "and", "what", "will", "happen", "when", "the", "number", "of", "nodes", "reaches", "the", "number", "of", "nodes", "of", "a", "complete", "projective", "scatternets", ".", "Notice", "that", "our", "dBBlue", "scatternet", "can", "be", "easily", "transformed", "to", "support", "a", "Bluetooth", "network", "in", "which", "a", "piconet", "has", "any", "number", "of", "slaves", ",", "while", "the", "method", "in", "-LSB-", "2", "-RSB-", "can", "only", "support", "the", "piconet", "with", "slaves", "where", "is", "a", "power", "of", "a", "prime", "number", ".", "Moreover", ",", "the", "dynamic", "updating", "cost", "of", "dBBlue", "is", "at", "most", "\u04b5", ".", "The", "construction", "of", "dBBlue", "scatternet", "is", "inspired", "by", "the", "method", "proposed", "by", "Fraigniaud", "and", "Gauron", "-LSB-", "7", "-RSB-", "for", "constructing", "a", "network", "topology", "for", "P2P", "environment", "based", "on", "de", "Bruijn", "graph", ".", "When", "a", "node", "joins", "the", "P2P", "network", ",", "it", "-LSB-", "7", "-RSB-", "randomly", "selects", "a", "node", "in", "the", "de", "Bruijn", "graph", "and", "then", "creates", "two", "children", "nodes", "of", ":", "one", "for", "and", "one", "for", ".", "This", "random", "selection", "of", "node", "can", "not", "be", "applied", "to", "Bluetooth", "scatternet", "since", "it", "may", "create", "a", "de", "Bruijn", "graph", "with", "node", "whose", "degree", "is", "large", "than", ".", "It", "is", "not", "difficult", "to", "show", "that", "for", "Bluetooth", "scatternet", ",", "we", "can", "only", "afford", "the", "de", "Bruijn", "graph", "whose", "node", "label", "lengths", "differ", "by", "at", "most", ".", "In", "this", "paper", ",", "we", "proposed", "a", "novel", "method", "for", "assigning", "MAC", "addresses", "to", "nodes", "such", "that", "a", "self-routing", "is", "still", "possible", "during", "the", "updating", "procedures", "when", "node", "leaves", "or", "joins", "the", "network", ".", "The", "de", "Bruijn", "graph", "is", "used", "as", "backbone", "of", "the", "scatternet", "in", "our", "dBBlue", "structure", ".", "In", "this", "paper", ",", "we", "addressed", "the", "problem", "of", "scatternet", "formation", "for", "single-hop", "Bluetooth", "based", "ad", "hoc", "networks", ",", "with", "minimal", "communication", "overhead", ".", "We", "adopted", "the", "well-known", "structure", "de", "Bruijn", "graph", "to", "form", "the", "backbone", "of", "the", "dBBlue", "scatternet", ".", "The", "diameter", "of", "the", "scatternet", "dBBlue", "is", "\u04b5", "and", "we", "can", "find", "a", "path", "with", "at", "most", "\u04b5", "hops", "between", "every", "pair", "of", "nodes", "without", "using", "any", "routing", "table", ".", "Moreover", ",", "the", "congestion", "of", "every", "node", "is", "at", "most", "\u04b5", ".", "We", "discussed", "in", "detail", "the", "method", "to", "locally", "update", "the", "structure", "dBBlue", "using", "at", "most", "\u04b5", "communications", "when", "a", "node", "joins", "or", "leaves", "the", "network", ".", "In", "most", "cases", ",", "the", "cost", "of", "updating", "the", "scatternet", "is", "actually", ".", "Our", "method", "can", "construct", "the", "structure", "dBBlue", "incrementally", "when", "the", "nodes", "join", "the", "network", "one", "by", "one", ".", "Previously", "no", "method", "can", "guarantee", "all", "these", "properties", "although", "some", "methods", "can", "achieve", "some", "of", "the", "properties", ".", "The", "dBBlue", "scatternet", "has", "lower", "dynamic", "updating", "cost", "than", "the", "structure", "proposed", "in", "-LSB-", "2", "-RSB-", ".", "Notice", "that", ",", "instead", "of", "having", "three", "statuses", "for", "the", "token", ",", "we", "can", "require", "that", "the", "scatternet", "is", "always", "in", "the", "status", "of", "expanding", ".", "Then", "the", "scenarios", "for", "updating", "the", "scatternet", "become", "simpler", "when", "nodes", "join", "or", "leave", "the", "network", ",", "but", "with", "a", "possible", "high", "cost", "of", "updating", ":", "more", "merging", "and", "splitting", "of", "piconets", "will", "occur", ".", "We", "are", "currently", "investigating", "the", "tradeoffs", "of", "the", "three", "approaches", "described", "in", "this", "paper", "by", "conducting", "simulations", "on", "different", "models", "of", "node", "joining", "and", "leaving", "the", "network", ".", "We", "are", "also", "investigating", "the", "scatternet", "formed", "based", "on", "butterfly", "structure", "-LSB-", "6", "-RSB-", "and", "compare", "their", "performance", "with", "the", "one", "described", "here", ".", "Notice", "that", "the", "butterfly", "structure", "has", "node", "degree", "at", "most", ",", "which", "maps", "exactly", "to", "the", "degree", "requirement", "by", "bluetooth", "piconet", ".", "-LSB-", "1", "-RSB-", "S.", "Baatz", ",", "S.", "Bieschke", ",", "M.", "Frank", ",", "P.", "Martini", ",", "C.", "Scholz", ",", "and", "C.", "Kuhl", ".", "Building", "efficient", "bluetooth", "scatternet", "topologies", "from", "1-factors", ".", "In", "Proc", ".", "IASTED", "Wireless", "and", "Optical", "Communications", "WOC", ",", "2002", ".", "-LSB-", "2", "-RSB-", "L.", "Barriere", ",", "P", "Fraigniaud", ",", "L.", "Narajanan", ",", "and", "J.", "Opatrny", ".", "Dynamic", "construction", "of", "bluetooth", "scatternets", "of", "fixed", "degree", "and", "low", "diameter", ".", "In", "14th", "ACM-SIAM", "Symp", ".", "on", "Discrete", "Algorithms", "-LRB-", "SODA", "-RRB-", ",", "pages", "781", "790", ",", "2003", ".", "-LSB-", "3", "-RSB-", "S.", "Basagni", ",", "R.", "Bruno", ",", "and", "C.", "Petrioli", ".", "Device", "discovery", "in", "bluetooth", "networks", ":", "A", "scatternet", "perspective", ".", "In", "Proc", ".", "IFIP-TC6", "Networking", "Conference", ",", "Networking", "2002", ",", "2002", ".", "-LSB-", "4", "-RSB-", "F.", "Cgun-Choong", "and", "C.", "Kee-Chaing", ".", "Bluerings", "-", "bluetooth", "scatternets", "with", "ring", "structure", ".", "In", "Proc", ".", "IASTED", "Wireless", "and", "Optical", "Communications", "WOC", ",", "2002", ".", "-LSB-", "5", "-RSB-", "N.", "de", "Bruijn", ".", "A", "combinatorial", "problem", ".", "In", "Koninklijke", "Nederlandse", "Academie", "van", "Wetenschappen", ",", "49", ",", "pages", "758", "764", ",", "1946", ".", "-LSB-", "6", "-RSB-", "D.Malkhi", ",", "M.Naor", ",", "and", "D.Ratajczak", ".", "Viceroy", ":", "a", "scalable", "and", "dynamic", "lookup", "network", ".", "In", "Proceedings", "of", "the", "21st", "ACM", "Symposium", "on", "Principles", "of", "Distributed", "Computing", "-LRB-", "PODC", "-RRB-", ",", "2002", ".", "-LSB-", "7", "-RSB-", "Pierre", "Fraigniaud", "and", "Philippe", "Gauron", ".", "The", "content-addressable", "network", "d2b", ".", "Technical", "Report", "Technical", "Report", "TR-LRI-1349", "-LRB-", "also", "appeared", "in", "22nd", "ACM", "Symp", ".", "on", "Principles", "of", "Distributed", "Computing", "-LRB-", "PODC", "-RRB-", "-RRB-", ",", "2003", ".", "-LSB-", "8", "-RSB-", "Jaap", "C.", "Haartsen", ".", "The", "bluetooth", "radio", "system", ".", "IEEE", "Personal", "Communications", ",", "7:28", "36", ",", "2000", ".", "-LSB-", "9", "-RSB-", "C.", "Law", ",", "A.K.", "Mehta", ",", "and", "K.Y.", "Siu", ".", "Performance", "of", "a", "new", "bluetooth", "scatternet", "formation", "protocol", ".", "In", "Proc", ".", "ACM", "Symposium", "on", "Mobile", "Ad", "Hoc", "Networking", "and", "Computing", "MobiHoc", ",", "pages", "183", "192", ",", "2001", ".", "-LSB-", "10", "-RSB-", "D.", "Miorandi", "and", "A.", "Zanella", ".", "On", "the", "optimal", "topology", "of", "bluetooth", "piconets", ":", "Roles", "swapping", "algorithms", ".", "In", "Proc", ".", "Mediterranean", "Conference", "on", "Ad", "Hoc", "Networks", "MedHoc", ",", "2002", ".", "-LSB-", "11", "-RSB-", "C.K.", "Chang", "M.T.", "Sun", "and", "T.H.", "Lai", ".", "A", "self-routing", "topology", "for", "bluetooth", "scatternets", ".", "In", "2002", "International", "Symposium", "on", "Parallel", "Architectures", ",", "Algorithms", "and", "Networks", "-LRB-", "ISPAN", "'", "02", "-RRB-", ",", "2002", ".", "-LSB-", "12", "-RSB-", "C.", "Petrioli", "and", "S.", "Basagni", ".", "Degree-constrained", "multihop", "scatternet", "formation", "for", "bluetooth", "networks", ".", "In", "Proc", ".", "IEEE", "GLOBECOM", ",", "2002", ".", "-LSB-", "13", "-RSB-", "T.", "Salonidis", ",", "P.", "Bhagwat", ",", "L.", "Tassiulas", ",", "and", "R.", "LaMaire", ".", "Distributed", "topology", "construction", "of", "bluetooth", "personal", "area", "networks", ".", "In", "Proc", ".", "IEEE", "INFOCOM", ",", "2001", ".", "-LSB-", "14", "-RSB-", "G.", "Tan", ",", "A.", "Miu", ",", "J.", "Guttag", ",", "and", "H.", "Balakrishnan", ".", "Forming", "scatternets", "from", "bluetooth", "personal", "area", "networks", ".", "Technical", "Report", "MIT-LCS-TR-826", ",", "MIT", ",", "2001", ".", "-LSB-", "15", "-RSB-", "G.V.", "Zaruba", ",", "S.", "Basagni", ",", "and", "I.", "Chlamtac", ".", "Bluetrees", "-", "scatternet", "formation", "to", "enable", "bluetooth", "based", "ad", "hoc", "networks", ".", "In", "Proc", ".", "IEEE", "International", "Conference", "on", "Communications", "-LRB-", "ICC", "-RRB-", ",", "2001", ".", "31"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["network topology", "bruijn graph", "bluetooth", "ad hoc networks", "low diameter", "scatternet formation", "easy updating"], "abstractive_keyphrases": ["single-hop", "de bruijn graph", "self-routing scatternet", "bluetooth networks", "const updating cost", "self-routing", "scalable mac assignment", "equal traffic"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "70", "document": ["Directoryrank", ":", "Ordering", "Pages", "In", "Web", "Directories", "Web", "Directories", "are", "repositories", "of", "Web", "pages", "organized", "in", "a", "hierarchy", "of", "topics", "and", "sub-topics", ".", "In", "this", "paper", ",", "we", "present", "DirectoryRank", ",", "a", "ranking", "framework", "that", "orders", "the", "pages", "within", "a", "given", "topic", "according", "to", "how", "informative", "they", "are", "about", "the", "topic", ".", "Our", "method", "works", "in", "three", "steps", ":", "first", ",", "it", "processes", "Web", "pages", "within", "a", "topic", "in", "order", "to", "extract", "structures", "that", "are", "called", "lexical", "chains", ",", "which", "are", "then", "used", "for", "measuring", "how", "informative", "a", "page", "is", "for", "a", "particular", "topic", ".", "Then", ",", "it", "measures", "the", "relative", "semantic", "similarity", "of", "the", "pages", "within", "a", "topic", ".", "Finally", ",", "the", "two", "metrics", "are", "combined", "for", "ranking", "all", "the", "pages", "within", "a", "topic", "before", "presenting", "them", "to", "the", "users", ".", "H.", "3.3", "-LSB-", "Information", "Search", "and", "Retrieval", "-RSB-", ":", "information", "filtering", ",", "retrieval", "models", ";", "H.", "3", ".", "m", "-LSB-", "Information", "Systems", "-RSB-", ":", "Miscellaneous", "Algorithms", ",", "Design", ",", "Experimentation", ",", "Measurement", "A", "Web", "Directory", "is", "a", "repository", "of", "Web", "pages", "that", "are", "organized", "in", "a", "topic", "hierarchy", ".", "Typically", ",", "Directory", "users", "locate", "the", "information", "sought", "simply", "by", "browsing", "through", "the", "topic", "hierarchy", ",", "identifying", "the", "relevant", "topics", "and", "finally", "examining", "the", "pages", "listed", "under", "the", "relevant", "topics", ".", "Given", "the", "current", "size", "and", "the", "high", "growth", "rate", "of", "the", "Web", "-LSB-", "10", "-RSB-", ",", "a", "comprehensive", "Web", "Directory", "may", "contain", "thousands", "of", "pages", "within", "a", "particular", "category", ".", "In", "such", "a", "case", ",", "it", "might", "be", "impossible", "for", "a", "user", "to", "look", "through", "all", "the", "relevant", "pages", "within", "a", "particular", "topic", "in", "order", "to", "identify", "the", "ones", "that", "best", "represent", "the", "current", "topic", ".", "Practically", ",", "it", "would", "be", "more", "time-efficient", "for", "a", "user", "to", "view", "the", "Web", "pages", "in", "order", "of", "importance", "for", "a", "particular", "topic", ",", "rather", "than", "go", "through", "a", "large", "list", "of", "pages", ".", "One", "way", "to", "alleviate", "this", "problem", "is", "to", "use", "a", "ranking", "function", "which", "will", "order", "the", "pages", "according", "to", "how", "``", "informative", "''", "they", "are", "of", "the", "topic", "that", "they", "belong", "to", ".", "Currently", ",", "the", "Open", "Directory", "Project", "-LSB-", "3", "-RSB-", "lists", "the", "pages", "within", "a", "category", "alphabetically", ",", "while", "the", "Google", "Directory", "-LSB-", "1", "-RSB-", "orders", "the", "pages", "within", "a", "category", "according", "to", "their", "PageRank", "-LSB-", "11", "-RSB-", "value", "on", "the", "Web", ".", "While", "these", "rankings", "can", "work", "well", "in", "some", "cases", ",", "they", "do", "not", "directly", "capture", "the", "closeness", "of", "the", "pages", "to", "the", "topic", "that", "they", "belong", "to", ".", "In", "this", "paper", ",", "we", "present", "DirectoryRank", ",", "a", "new", "ranking", "framework", "that", "we", "have", "developed", "in", "order", "to", "alleviate", "the", "problem", "of", "ranking", "the", "pages", "within", "a", "topic", "based", "on", "how", "``", "informative", "''", "these", "pages", "are", "to", "the", "topic", ".", "DirectoryRank", "is", "based", "on", "the", "intuition", "that", "the", "quality", "-LRB-", "or", "informativeness", "-RRB-", "of", "a", "Web", "page", "with", "respect", "to", "a", "particular", "topic", "is", "determined", "by", "the", "amount", "of", "information", "that", "the", "page", "communicates", "about", "the", "given", "topic", ",", "relative", "to", "the", "other", "pages", "that", "are", "categorized", "in", "the", "same", "topic", ".", "Our", "method", "takes", "as", "input", "a", "collection", "of", "Web", "pages", "that", "we", "would", "like", "to", "rank", "along", "with", "a", "Web", "Directory", "'s", "topic", "hierarchy", "that", "we", "would", "like", "to", "use", ".", "At", "a", "high", "level", ",", "our", "method", "proceeds", "as", "follows", ":", "first", ",", "we", "identify", "the", "most", "important", "words", "inside", "every", "page", "and", "we", "link", "them", "together", ",", "creating", "``", "lexical", "chains", "''", ".", "We", "then", "use", "the", "topic", "hierarchy", "and", "the", "pages", "'", "lexical", "chains", "to", "compute", "the", "``", "relatedness", "''", "-LRB-", "or", "importance", "-RRB-", "of", "the", "pages", "to", "each", "of", "their", "corresponding", "topics", ".", "Having", "determined", "the", "pages", "'", "topic", "importance", ",", "we", "measure", "the", "relative", "semantic", "similarity", "among", "the", "pages", "that", "relate", "to", "the", "same", "topic", ".", "The", "semantic", "similarity", "indicates", "the", "amount", "of", "content", "that", "important", "pages", "in", "some", "topic", "share", "with", "each", "other", ".", "Finally", ",", "we", "employ", "our", "DirectoryRank", "algorithm", "that", "uses", "the", "topic", "importance", "scores", "in", "conjunction", "with", "the", "semantic", "similarities", "of", "the", "pages", "in", "order", "to", "compute", "the", "ranking", "order", "of", "the", "pages", "within", "a", "Directory", "topic", ".", "In", "order", "to", "study", "the", "effectiveness", "of", "DirectoryRank", "in", "identifying", "the", "most", "informative", "pages", "within", "a", "particular", "topic", ",", "we", "applied", "our", "method", "to", "the", "ranking", "of", "318,296", "Web", "pages", "listed", "in", "156", "topics", "in", "the", "Google", "Directory", ".", "We", "have", "compared", "the", "rankings", "induced", "by", "DirectoryRank", "to", "the", "rankings", "induced", "by", "PageRank", "for", "the", "pages", "listed", "in", "those", "156", "topics", ".", "Our", "comparison", "reveals", "that", "the", "two", "rankings", "have", "different", "merits", "and", "thus", "they", "are", "useful", "in", "different", "tasks", ".", "To", "delve", "into", "the", "two", "rankings", "'", "effectiveness", "and", "investigate", "which", "is", "more", "useful", "for", "ordering", "pages", "in", "Directories", "'", "topics", ",", "we", "conducted", "a", "user", "study", ",", "where", "we", "asked", "a", "group", "of", "individuals", "to", "compare", "the", "rankings", "delivered", "by", "PageRank", "to", "the", "rankings", "delivered", "by", "DirectoryRank", ",", "and", "indicate", "which", "of", "the", "two", "is", "deemed", "as", "more", "useful", ".", "Our", "results", "show", "that", ",", "in", "most", "cases", ",", "the", "users", "perceived", "DirectoryRank", "to", "be", "more", "topic-informative", "than", "PageRank", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ":", "We", "start", "our", "discussion", "in", "Section", "2", "with", "a", "brief", "introduction", "to", "PageRank", ",", "which", "is", "currently", "employed", "by", "the", "Google", "Directory", "in", "order", "to", "rank", "pages", ".", "In", "Section", "3", ",", "we", "briefly", "present", "the", "topic", "hierarchy", "that", "we", "use", "in", "our", "study", "as", "well", "as", "the", "process", "we", "follow", "for", "representing", "Web", "pages", "into", "lexical", "chains", ".", "We", "also", "show", "how", "we", "explore", "the", "topic", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "WIDM", "'", "05", ",", "November", "5", ",", "2005", ",", "Bremen", ",", "Germany", "Copyright", "2005", "ACM", "1-59593-194-5", "/", "05/0011", "...", "$", "5.00", ".", "17", "hierarchy", "and", "the", "pagers", "'", "lexical", "chains", "for", "measuring", "the", "pages", "'", "topic-importance", "and", "semantic", "similarities", "values", ".", "Finally", ",", "we", "present", "how", "our", "DirectoryRank", "metric", "employs", "the", "above", "values", "for", "measuring", "how", "informative", "Web", "pages", "are", "with", "respect", "to", "some", "topics", "and", "rank", "them", "accordingly", ".", "In", "Section", "4", ",", "we", "experimentally", "study", "the", "effectiveness", "of", "DirectoryRank", ",", "by", "comparing", "its", "performance", "to", "PageRank", ".", "We", "revise", "related", "work", "in", "Section", "5", "and", "we", "conclude", "the", "paper", "in", "Section", "6", ".", "In", "this", "section", ",", "we", "briefly", "explain", "the", "main", "intuition", "of", "PageRank", ",", "a", "metric", "that", "was", "primarily", "invented", "for", "ranking", "pages", "within", "the", "Google", "Search", "Engine", "and", "that", "is", "currently", "used", "within", "the", "Google", "Directory", "for", "ordering", "Web", "pages", ".", "For", "a", "more", "elaborate", "overview", "on", "PageRank", ",", "we", "refer", "the", "reader", "to", "the", "work", "of", "-LSB-", "11", "-RSB-", ".", "The", "intuition", "of", "PageRank", "metric", "is", "that", "a", "page", "on", "the", "Web", "is", "important", "if", "there", "are", "a", "lot", "of", "other", "important", "pages", "pointing", "to", "it", ".", "That", "is", ",", "if", "a", "page", "p", "has", "many", "links", "from", "other", "important", "pages", ",", "we", "may", "conclude", "that", "this", "page", "is", "interesting", "to", "many", "people", "and", "that", "it", "should", "be", "considered", "as", "being", "``", "important", "''", "or", "of", "``", "good", "''", "quality", ".", "Similarly", ",", "if", "an", "important", "page", "has", "links", "to", "other", "pages", ",", "we", "expect", "that", "part", "of", "its", "quality", "is", "transferred", "to", "the", "pages", "it", "points", "to", ",", "which", "in", "turn", "become", "of", "increased", "significance/quality", ".", "Roughly", ",", "PageRank", "PR", "-LRB-", "p", "-RRB-", "defines", "the", "importance", "of", "page", "p", "to", "be", "the", "sum", "of", "the", "importance", "of", "the", "pages", "that", "endorse", "p", ".", "At", "a", "high", "level", ",", "PageRank", "is", "calculating", "the", "probability", "that", "a", "``", "random", "surfer", "''", "is", "looking", "at", "a", "given", "page", "at", "a", "given", "point", "of", "time", ".", "The", "``", "random", "surfer", "''", "is", "a", "mathematical", "model", "that", "emulates", "the", "behavior", "of", "a", "user", "that", ",", "given", "a", "page", ",", "follows", "an", "outgoing", "link", "from", "that", "page", "at", "random", ".", "Formally", ",", "given", "a", "page", "p", "i", "that", "has", "incoming", "links", "from", "the", "pages", "p", "1", ",", "...", ",", "p", "n", "and", "let", "c", "j", "be", "the", "number", "of", "out-links", "from", "p", "j", ",", "the", "PageRank", "of", "p", "i", "is", "given", "by", ":", "1", "1", "-LRB-", "-RRB-", "-LRB-", "1", "-RRB-", "-LRB-", "-RRB-", "/", "...", "-LRB-", "-RRB-", "/", "i", "n", "n", "PR", "p", "d", "d", "PR", "p", "c", "PR", "p", "c", "=", "+", "+", "+", "where", "d", "corresponds", "to", "the", "probability", "that", "the", "random", "surfer", "will", "get", "bored", "and", "his", "next", "visit", "will", "be", "a", "completely", "random", "page", ",", "and", "1-d", "corresponds", "to", "the", "probability", "that", "the", "page", "the", "random", "surfer", "will", "pick", "for", "his", "next", "visit", "is", "an", "outgoing", "link", "of", "the", "current", "page", ".", "The", "ranking", "of", "a", "Web", "page", "within", "a", "particular", "topic", "intuitively", "depends", "on", "two", "criteria", ":", "-LRB-", "i", "-RRB-", "the", "importance", "of", "the", "page", "for", "the", "underlying", "topic", ".", "This", "criterion", "helps", "us", "identify", "the", "most", "important", "pages", "out", "of", "the", "several", "ones", "that", "may", "lie", "within", "a", "particular", "topic", ".", "-LRB-", "ii", "-RRB-", "the", "semantic", "correlation", "of", "a", "page", "relative", "to", "other", "important", "pages", "in", "the", "same", "topic", ".", "This", "criterion", "helps", "us", "rank", "pages", "relative", "to", "each", "other", "within", "a", "topic", ".", "For", "measuring", "the", "importance", "of", "a", "Web", "page", "in", "some", "topic", ",", "we", "explore", "a", "subject", "hierarchy", "that", "we", "have", "built", "in", "the", "course", "of", "an", "earlier", "study", "-LSB-", "13", "-RSB-", "and", "we", "use", "the", "lexical", "chaining", "technique", "for", "identifying", "the", "most", "important", "words", "inside", "the", "page", ".", "We", "start", "our", "discussion", "with", "a", "presentation", "of", "the", "topic", "hierarchy", "that", "we", "use", "in", "our", "work", "-LRB-", "Section", "3.1", "-RRB-", "and", "we", "describe", "the", "process", "we", "follow", "for", "representing", "Web", "pages", "into", "lexical", "chains", "-LRB-", "Section", "3.2", "-RRB-", ".", "We", "also", "explain", "how", "we", "utilize", "the", "topic", "hierarchy", "and", "the", "pages", "'", "lexical", "chains", "for", "measuring", "the", "pages", "'", "importance", "to", "the", "hierarchy", "'s", "topics", "-LRB-", "Section", "3.2.1", "-RRB-", ".", "The", "contribution", "of", "our", "work", "lies", "in", "the", "exploitation", "of", "the", "topic", "hierarchy", "and", "the", "lexical", "chains", "that", "we", "generate", "for", "representing", "Web", "pages", "in", "order", "to", "compute", "the", "semantic", "similarities", "between", "the", "pages", "that", "are", "important", "in", "some", "topics", ".", "Moreover", ",", "we", "have", "developed", "a", "novel", "framework", ",", "which", "employs", "the", "pages", "'", "topic", "importance", "and", "semantic", "similarity", "measures", "for", "ranking", "pages", "inside", "Directory", "topics", ".", "3.1", "The", "Topic", "Hierarchy", "The", "main", "intuition", "in", "our", "DirectoryRank", "metric", "is", "that", "topic", "relevance", "estimation", "of", "a", "Web", "page", "relies", "on", "the", "page", "'s", "lexical", "coherence", ",", "i.e.", "having", "a", "substantial", "portion", "of", "words", "associated", "with", "the", "same", "topic", ".", "To", "capture", "this", "property", ",", "we", "adopt", "the", "lexical", "chaining", "approach", ":", "for", "every", "Web", "page", "we", "generate", "a", "sequence", "of", "semantically", "related", "terms", ",", "known", "as", "lexical", "chain", ".", "In", "our", "approach", "of", "representing", "Web", "pages", "into", "lexical", "chains", ",", "we", "adopt", "the", "method", "reported", "in", "-LSB-", "6", "-RSB-", ",", "which", "uses", "WordNet", "-LSB-", "5", "-RSB-", "as", "the", "knowledge", "base", "for", "providing", "information", "about", "the", "semantic", "relations", "that", "exist", "between", "the", "words", "in", "a", "text", ".", "A", "detailed", "description", "of", "the", "lexical", "chains", "'", "generation", "process", "is", "given", "in", "Section", "3.2", ".", "Before", "that", ",", "we", "present", "the", "topic", "hierarchy", "that", "we", "use", "for", "determining", "the", "topics", "that", "are", "associated", "with", "the", "contents", "-LRB-", "i.e.", "words", "-RRB-", "of", "Web", "pages", ".", "Since", "we", "are", "mainly", "interested", "in", "measuring", "the", "Web", "pages", "'", "importance", "in", "the", "context", "of", "Web", "Directories", ",", "we", "decided", "to", "demonstrate", "the", "usefulness", "of", "our", "DirectoryRank", "metric", "in", "ordering", "Web", "pages", "in", "the", "topics", "currently", "used", "in", "a", "real", "Web", "Directory", ".", "To", "that", "end", ",", "we", "applied", "DirectoryRank", "to", "the", "main", "topics", "used", "in", "the", "Google", "Directory", ".", "Google", "Directory", "provides", "a", "hierarchical", "listing", "of", "Web", "pages", "categorized", "by", "topic", "and", "reuses", "the", "data", "maintained", "by", "the", "Open", "Directory", "Project", ".", "Moreover", ",", "since", "DirectoryRank", "relies", "on", "the", "Web", "pages", "'", "lexical", "chains", "rather", "than", "their", "entire", "contents", "for", "measuring", "the", "pages", "'", "importance", "to", "particular", "topics", "and", "since", "lexical", "chain", "generation", "is", "dependent", "on", "WordNet", ",", "we", "decided", "to", "enrich", "the", "top", "level", "-LRB-", "main", "-RRB-", "topics", "of", "the", "Google", "Directory", "with", "their", "respective", "WordNet", "lexical", "hierarchies", ".", "The", "first", "step", "we", "took", "for", "enriching", "the", "Google", "topics", "with", "WordNet", "data", "was", "to", "examine", "the", "compatibility", "between", "these", "topics", "and", "the", "topics", "used", "to", "annotate", "WordNet", "'s", "concepts", "with", "domain", "information", ".", "Note", "that", "the", "topic", "information", "that", "exists", "in", "the", "labels", "of", "WordNet", "'s", "contents", "is", "taken", "from", "the", "freely", "available", "Suggested", "Upper", "Merged", "Ontology", "-LRB-", "SUMO", "-RRB-", "-LSB-", "4", "-RSB-", "and", "the", "MultiWordNet", "Domains", "-LRB-", "MWND", "-RRB-", "-LSB-", "2", "-RSB-", ".", "Due", "to", "space", "limitations", ",", "here", "we", "present", "a", "summary", "of", "our", "approach", "into", "enriching", "the", "Google", "topics", "with", "WordNet", "hierarchies", ".", "A", "detailed", "description", "of", "the", "process", "we", "followed", "for", "appending", "to", "the", "Google", "top", "level", "topics", "their", "corresponding", "WordNet", "hierarchies", "is", "given", "in", "-LSB-", "13", "-RSB-", ".", "In", "brief", ",", "we", "located", "the", "Google", "'s", "top", "level", "topics", "among", "the", "topics", "used", "in", "either", "SUMO", "or", "MWND", "for", "annotating", "WordNet", "concepts", ".", "Out", "of", "the", "17", "Google", "topics", ",", "13", "topics", "-LRB-", "shown", "in", "Table", "1", "-RRB-", "are", "used", "for", "labeling", "WordNet", "concepts", "with", "topic", "information", ".", "To", "each", "of", "those", "13", "topics", ",", "we", "integrated", "their", "corresponding", "sub-topics", "that", "we", "ac-quired", "from", "either", "SUMO", "or", "MWND", ".", "The", "sub-topic", "integration", "was", "performed", "automatically", ",", "simply", "by", "following", "WordNet", "'s", "hyper/hyponymy", "links", ".", "At", "the", "end", "of", "this", "process", ",", "we", "came", "down", "to", "a", "hierarchy", "of", "489", "sub-topics", ",", "which", "are", "organized", "into", "the", "13", "top", "level", "topics", "that", "we", "used", "from", "Google", "Directory", ".", "Table", "1", ".", "The", "Hierarchy", "'s", "First", "Level", "Topics", "First", "Level", "Topics", "Arts", "News", "Sports", "Society", "Games", "Computers", "Home", "Reference", "Shopping", "Recreation", "Business", "Science", "Health", "In", "Section", "3.4", ",", "we", "will", "demonstrate", "how", "to", "use", "our", "topic", "hierarchy", "for", "automating", "the", "task", "of", "ranking", "pages", "within", "topical", "categories", ".", "18", "3.2", "Measuring", "Web", "Pages", "'", "Topic", "Importance", "The", "computational", "model", "that", "we", "adopted", "for", "generating", "lexical", "chains", "is", "presented", "in", "the", "work", "of", "Barzilay", "-LSB-", "6", "-RSB-", "and", "it", "generates", "lexical", "chains", "in", "a", "three", "step", "approach", ":", "-LRB-", "i", "-RRB-", "it", "selects", "a", "set", "of", "candidate", "terms", "1", "from", "a", "page", ",", "-LRB-", "ii", "-RRB-", "for", "each", "candidate", "term", ",", "it", "finds", "an", "appropriate", "chain", "relying", "on", "a", "relatedness", "criterion", "among", "members", "of", "the", "chains", ",", "and", "-LRB-", "iii", "-RRB-", "if", "such", "a", "chain", "is", "found", ",", "it", "inserts", "the", "term", "in", "the", "chain", ".", "The", "relatedness", "factor", "in", "the", "second", "step", "is", "determined", "by", "the", "type", "of", "WordNet", "links", "that", "connect", "the", "candidate", "term", "to", "the", "terms", "stored", "in", "existing", "lexical", "chains", ".", "Figure", "1", "illustrates", "an", "example", "of", "the", "lexical", "chain", "generated", "for", "a", "text", "containing", "the", "candidate", "terms", ":", "system", ",", "network", ",", "sensor", ",", "weapon", ",", "missile", ",", "surface", "and", "net", ".", "The", "subscript", "si", "denotes", "the", "id", "of", "the", "word", "'s", "sense", "within", "WordNet", ".", "Lexical", "chain", "system", "s6", "network", "s4", "system", "s6", "sensor", "s1", "system", "s6", "weapon", "s2", "missile", "s1", "system", "s6", "surface", "s1", "net", "s2", "Figure", "1", ".", "An", "example", "of", "a", "lexical", "chain", ".", "Having", "generated", "lexical", "chains", ",", "we", "disambiguate", "the", "sense", "of", "the", "words", "inside", "every", "chain", "by", "employing", "the", "scoring", "function", "f", "introduced", "in", "-LSB-", "12", "-RSB-", ",", "which", "indicates", "the", "probability", "that", "a", "word", "relation", "is", "a", "correct", "one", ".", "Given", "two", "words", ",", "w", "1", "and", "w", "2", ",", "their", "scoring", "function", "f", "via", "a", "relation", "r", ",", "depends", "on", "the", "words", "'", "association", "score", ",", "their", "depth", "in", "WordNet", "and", "their", "respective", "relation", "weight", ".", "The", "association", "score", "-LRB-", "Assoc", "-RRB-", "of", "the", "word", "pair", "-LRB-", "w", "1", ",", "w", "2", "-RRB-", "is", "determined", "by", "the", "words", "'", "co-occurrence", "frequency", "in", "a", "corpus", "that", "has", "been", "previously", "collected", ".", "In", "practice", ",", "the", "greater", "the", "association", "score", "between", "a", "word", "pair", "w", "1", "and", "w", "2", "is", ",", "the", "greater", "the", "likelihood", "that", "w", "1", "and", "w", "2", "refer", "to", "the", "same", "topic", ".", "Formally", ",", "the", "-LRB-", "Assoc", "-RRB-", "score", "of", "the", "word", "pair", "-LRB-", "w", "1", ",", "w", "2", "-RRB-", "is", "given", "by", ":", "1", "2", "1", "2", "1", "2", "log", "-LRB-", "-LRB-", ",", "-RRB-", "1", "-RRB-", "-LRB-", ",", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "+", "=", "s", "s", "p", "w", "w", "Assoc", "w", "w", "N", "w", "N", "w", "where", "p", "-LRB-", "w", "1", ",", "w", "2", "-RRB-", "is", "the", "corpus", "co-occurrence", "probability", "of", "the", "word", "pair", "-LRB-", "w", "1", ",", "w", "2", "-RRB-", "and", "N", "s", "-LRB-", "w", "-RRB-", "is", "a", "normalization", "factor", ",", "which", "indicates", "the", "number", "of", "WordNet", "senses", "that", "a", "word", "w", "has", ".", "Given", "a", "word", "pair", "-LRB-", "w", "1", ",", "w", "2", "-RRB-", "their", "DepthScore", "expresses", "the", "words", "'", "position", "in", "WordNet", "hierarchy", "and", "is", "defined", "as", ":", "2", "2", "1", "2", "1", "2", "-LRB-", ",", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "DepthScore", "w", "w", "Depth", "w", "Depth", "w", "=", ",", "where", "Depth", "-LRB-", "w", "-RRB-", "is", "the", "depth", "of", "word", "w", "in", "WordNet", ".", "Semantic", "relation", "weights", "-LRB-", "RelationWeight", "-RRB-", "have", "been", "experimentally", "fixed", "to", "1", "for", "reiteration", ",", "0.2", "for", "synonymy", "and", "hyper/hyponymy", ",", "0.3", "for", "antonymy", ",", "0.4", "for", "mero/holonymy", "and", "0.005", "for", "siblings", ".", "The", "scoring", "function", "f", "of", "w", "1", "and", "w", "2", "is", "defined", "as", ":", "1", "2", "1", "2", "1", "2", "-LRB-", ",", ",", "-RRB-", "-LRB-", ",", "-RRB-", "-LRB-", ",", "-RRB-", "Re", "-LRB-", "-RRB-", "s", "f", "w", "w", "r", "Assoc", "w", "w", "DepthScore", "w", "w", "lationWeight", "r", "=", "The", "value", "of", "the", "function", "f", "represents", "the", "probability", "that", "the", "relation", "type", "r", "is", "the", "correct", "one", "between", "words", "w", "1", "and", "w", "2", ".", "In", "order", "to", "disambiguate", "the", "senses", "of", "the", "words", "within", "lexical", "chain", "C", "i", "we", "calculate", "its", "score", ",", "by", "summing", "up", "the", "f", "s", "scores", "of", "all", "the", "words", "w", "j1", "w", "j2", "-LRB-", "where", "w", "j1", "and", "w", "j2", "are", "successive", "words", "-RRB-", "within", "the", "chain", "C", "i", ".", "Formally", ",", "the", "score", "of", "lexical", "chain", "C", "i", ",", "is", "expressed", "as", "the", "sum", "of", "the", "score", "of", "each", "relation", "r", "j", "in", "C", "i", ".", "1", "2", "-LRB-", "-RRB-", "-LRB-", ",", ",", "-RRB-", "i", "s", "j", "j", "j", "r", "in", "C", "j", "j", "Score", "C", "f", "w", "w", "r", "=", "1", "As", "candidate", "terms", ",", "we", "use", "nouns", "and", "proper", "names", "because", "they", "convey", "the", "vast", "majority", "of", "conceptual", "information", "in", "texts", ".", "Eventually", ",", "in", "order", "to", "disambiguate", "we", "will", "pick", "the", "relations", "and", "senses", "that", "maximize", "the", "Score", "-LRB-", "C", "i", "-RRB-", "for", "that", "particular", "chain", ".", "In", "estimating", "the", "importance", "of", "a", "Web", "page", "p", "i", "in", "some", "Directory", "'s", "topic", "T", "k", "our", "first", "step", "is", "to", "identify", "which", "node", "within", "the", "hierarchy", "-LRB-", "see", "Section", "3.1", "-RRB-", "corresponds", "to", "topic", "T", "k", "of", "the", "page", ".", "3.2.1", "Topic-Importance", "Scoring", "Once", "the", "topic", "of", "a", "page", "is", "located", "among", "the", "hierarchy", "'s", "topics", ",", "we", "map", "the", "words", "in", "the", "page", "'s", "lexical", "chain", "to", "the", "WordNet", "nodes", "under", "that", "particular", "topic", ".", "Recall", "that", "upon", "lexical", "chain", "generation", ",", "words", "are", "disambiguated", "ensuring", "that", "every", "word", "inside", "a", "page", "is", "mapped", "to", "a", "single", "word", "within", "the", "WordNet", "hierarchy", ".", "We", "then", "determine", "the", "importance", "of", "a", "page", "p", "i", "to", "topic", "T", "k", "by", "counting", "the", "number", "of", "words", "in", "the", "lexical", "chain", "of", "p", "i", "that", "are", "subsumed", "by", "T", "k", "in", "the", "hierarchy", "'s", "graph", ".", "The", "topic", "importance", "of", "a", "page", "is", "given", "by", "a", "Relatedness", "Score", "-LRB-", "RScore", "-RRB-", ",", "which", "indicates", "how", "relevant", "a", "page", "is", "for", "a", "given", "topic", ".", "Formally", ",", "the", "relatedness", "score", "of", "a", "page", "p", "i", "-LRB-", "represented", "by", "the", "lexical", "chain", "C", "i", "-RRB-", "to", "the", "hierarchy", "'s", "topic", "T", "k", "is", "defined", "as", "the", "product", "of", "the", "page", "'s", "chain", "Score", "-LRB-", "C", "i", "-RRB-", "and", "the", "fraction", "of", "words", "in", "the", "page", "'s", "chain", "that", "are", "descendants", "of", "T", "k", ".", "Formally", ",", "the", "RScore", "is", "given", "by", ":", "RScore", "-LRB-", "C", "i", ",", "T", "k", "-RRB-", "=", "k", "i", "i", "i", "Score", "-LRB-", "C", "-RRB-", "common", "C", "and", "T", "elements", "C", "elements", "The", "denominator", "is", "used", "to", "remove", "any", "effect", "the", "length", "of", "a", "lexical", "chain", "might", "have", "on", "RScore", "and", "ensures", "that", "the", "final", "score", "is", "normalized", "so", "that", "all", "values", "are", "between", "0", "and", "1", ",", "with", "0", "corresponding", "to", "no", "relatedness", "at", "all", "and", "1", "indicating", "the", "page", "that", "is", "highly", "expressive", "of", "the", "page", "'s", "topic", ".", "The", "RScore", "of", "a", "page", "to", "a", "specific", "topic", "captures", "the", "importance", "of", "the", "page", "in", "the", "given", "topic", ".", "3.3", "Semantic", "Similarity", "Scoring", "The", "relatedness", "score", "metric", "that", "we", "have", "just", "presented", "can", "serve", "as", "a", "good", "indicator", "for", "identifying", "the", "most", "important", "pages", "within", "a", "topic", ".", "However", ",", "the", "RScore", "metric", "does", "not", "capture", "the", "amount", "of", "common", "content", "that", "is", "shared", "between", "the", "Web", "pages", "in", "a", "topic", ".", "This", "is", "important", "in", "the", "cases", "where", "our", "topic-importance", "scoring", "gives", "a", "low", "score", "for", "some", "pages", "but", ",", "at", "the", "same", "time", ",", "these", "pages", "are", "very", "similar", "to", "other", "pages", "with", "high", "topic-importance", "scores", ".", "In", "order", "to", "accommodate", "for", "this", "scenario", ",", "we", "now", "show", "how", "to", "compute", "the", "semantic", "similarities", "among", "the", "pages", "that", "are", "listed", "in", "the", "same", "Directory", "topic", ".", "Semantic", "similarity", "is", "indicative", "of", "the", "pages", "'", "semantic", "correlation", "and", "helps", "in", "determining", "the", "ordering", "of", "the", "pages", "that", "are", "deemed", "important", "in", "some", "topic", ".", "Our", "DirectoryRank", "metric", "employs", "the", "Web", "page", "'s", "topic-importance", "scores", "and", "their", "semantic", "similarities", "to", "determine", "their", "ranking", "order", "inside", "some", "Directory", "topics", "and", "is", "presented", "in", "the", "next", "section", ".", "In", "order", "to", "estimate", "the", "Web", "pages", "'", "semantic", "similarity", ",", "we", "compare", "the", "elements", "in", "a", "page", "'s", "lexical", "chain", "to", "the", "elements", "in", "the", "lexical", "chains", "of", "the", "other", "pages", "in", "a", "Directory", "topic", ".", "We", "assume", "that", "if", "the", "chains", "of", "two", "Web", "pages", "have", "a", "large", "number", "of", "elements", "in", "common", ",", "then", "the", "pages", "are", "correlated", "to", "each", "other", ".", "To", "compute", "similarities", "between", "pages", ",", "p", "i", "and", "p", "j", "that", "are", "categorized", "in", "the", "same", "topic", ",", "we", "first", "need", "to", "identify", "the", "common", "elements", "between", "their", "lexical", "chains", ",", "represented", "as", "PC", "i", "and", "PC", "j", ",", "respectively", ".", "First", ",", "we", "use", "WordNet", "to", "augment", "the", "elements", "of", "the", "lexical", "chains", "PC", "i", "and", "PC", "j", "with", "their", "synonyms", ".", "Chain", "augmentation", "ensures", "that", "pages", "of", "comparable", "content", "are", "not", "regarded", "unrelated", ",", "if", "their", "lexical", "chains", "contain", "distinct", ",", "but", "semantically", "equivalent", "elements", ".", "The", "augmented", "elements", "of", "PC", "i", "and", "PC", "j", "are", "defined", "as", ":", "19", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "i", "i", "i", "AugElements", "PC", "C", "Synonyms", "C", "=", "U", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "j", "j", "j", "AugElements", "PC", "C", "Synonyms", "C", "=", "U", "where", ",", "Synonyms", "-LRB-", "C", "i", "-RRB-", "denotes", "the", "set", "of", "the", "hierarchy", "'s", "concepts", "that", "are", "synonyms", "to", "any", "of", "the", "elements", "in", "C", "i", "and", "Synonyms", "-LRB-", "C", "j", "-RRB-", "denotes", "the", "set", "of", "the", "hierarchy", "'s", "concepts", "that", "are", "synonyms", "to", "any", "of", "the", "elements", "in", "C", "j", ".", "The", "common", "elements", "between", "the", "augmented", "lexical", "chains", "PC", "i", "and", "PC", "j", "are", "determined", "as", ":", "-LRB-", ",", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-RRB-", "i", "j", "i", "j", "ComElements", "PC", "PC", "AugElements", "PC", "AugElements", "PC", "=", "I", "We", "formally", "define", "the", "problem", "of", "computing", "pages", "'", "semantic", "similarities", "as", "follows", ":", "if", "the", "lexical", "chains", "of", "pages", "p", "i", "and", "p", "j", "share", "elements", "in", "common", ",", "we", "produce", "the", "correlation", "look", "up", "table", "with", "tuples", "of", "the", "form", "<", "AugElements", "-LRB-", "PC", "i", "-RRB-", ",", "AugElements", "-LRB-", "PC", "j", "-RRB-", ",", "ComE-lements", "&", "gt", ";", ".", "The", "similarity", "measurement", "between", "the", "lexical", "chains", "PC", "i", ",", "PC", "j", "of", "the", "pages", "P", "i", "and", "P", "j", "is", "given", "by", ":", "-RRB-", "-RRB-", "2", "-LRB-", ",", "-RRB-", "-LRB-", ",", "-RRB-", "-LRB-", "-LRB-", "i", "j", "i", "j", "i", "j", "ComElements", "PC", "PC", "PC", "PC", "s", "AugElements", "PC", "AugElements", "PC", "=", "+", "where", ",", "the", "degree", "of", "semantic", "similarity", "is", "normalized", "so", "that", "all", "values", "are", "between", "zero", "and", "one", ",", "with", "0", "indicating", "that", "the", "two", "pages", "are", "totally", "different", "and", "1", "indicating", "that", "the", "two", "pages", "talk", "about", "the", "same", "thing", ".", "3.4", "DirectoryRank", "Scoring", "Pages", "are", "sorted", "in", "Directory", "topics", "on", "the", "basis", "of", "a", "DirectoryRank", "metric", ",", "which", "defines", "the", "importance", "of", "the", "pages", "with", "respect", "to", "the", "particular", "topics", "in", "the", "Directory", ".", "DirectoryRank", "-LRB-", "DR", "-RRB-", "measures", "the", "quality", "of", "a", "page", "in", "some", "topic", "by", "the", "degree", "to", "which", "the", "page", "correlates", "to", "other", "informative/qualitative", "pages", "in", "the", "given", "topic", ".", "Intuitively", ",", "an", "informative", "page", "in", "a", "topic", ",", "is", "a", "page", "that", "has", "a", "high", "relatedness", "score", "to", "the", "Directory", "'s", "topic", "and", "that", "is", "semantically", "close", "-LRB-", "similar", "-RRB-", "to", "many", "other", "pages", "in", "that", "topic", ".", "DR", "defines", "the", "quality", "of", "a", "page", "to", "be", "the", "sum", "of", "its", "topic", "relatedness", "score", "and", "its", "overall", "similarity", "to", "the", "fraction", "of", "pages", "with", "which", "it", "correlates", "in", "the", "given", "topic", ".", "This", "way", ",", "if", "a", "page", "is", "highly", "related", "to", "topic", "D", "and", "also", "correlates", "highly", "with", "many", "informative", "pages", "in", "D", ",", "its", "DR", "score", "will", "be", "high", ".", "Formally", ",", "consider", "that", "page", "p", "i", "is", "indexed", "in", "Directory", "topic", "T", "k", "with", "some", "RScore", "-LRB-", "p", "i", ",", "T", "k", "-RRB-", "and", "let", "p", "1", ",", "p", "2", ",", "...", ",", "p", "n", "be", "pages", "in", "T", "k", "with", "which", "p", "i", "semantically", "correlates", "with", "scores", "of", "s", "-LRB-", "PC", "1", ",", "PC", "i", "-RRB-", ",", "s", "-LRB-", "PC", "2", ",", "PC", "i", "-RRB-", ",", "...", ",", "s", "-LRB-", "PC", "n", ",", "PC", "i", "-RRB-", ",", "respectively", ".", "Then", ",", "the", "DirectoryRank", "-LRB-", "DR", "-RRB-", "of", "p", "i", "is", "given", "by", ":", "2", "1", "-LRB-", "-RRB-", "-LRB-", ",", "-RRB-", "-LSB-", "-LRB-", ",", "-RRB-", "-LRB-", ",", "-RRB-", "...", "-LRB-", ",", "-RRB-", "-RSB-", ",", "i", "k", "i", "k", "s", "i", "s", "i", "s", "n", "DR", "p", "T", "RScore", "p", "T", "PC", "PC", "PC", "PC", "PC", "PC", "n", "i", "=", "+", "+", "+", "+", "/", "where", "n", "corresponds", "to", "the", "total", "number", "of", "pages", "in", "topic", "T", "k", "with", "which", "p", "i", "semantically", "correlates", ".", "To", "measure", "the", "potential", "of", "our", "DirectoryRank", "metric", "in", "delivering", "topic-informative", "rankings", ",", "we", "conducted", "an", "experiment", ",", "where", "we", "studied", "the", "effectiveness", "of", "DR", "in", "prioritizing", "the", "most", "informative", "pages", "in", "some", "Directory", "'s", "topics", ".", "To", "obtain", "perceptible", "evidence", "of", "DirectoryRank", "'s", "efficiency", "in", "a", "practical", "setting", ",", "we", "applied", "our", "DR", "metric", "to", "a", "set", "of", "Web", "pages", "listed", "in", "a", "number", "of", "topics", "in", "Google", "Directory", "and", "we", "compared", "the", "rankings", "induced", "by", "DirectoryRank", "to", "the", "rankings", "that", "Google", "Directory", "delivers", "for", "the", "same", "set", "of", "pages", "and", "topics", ".", "In", "Section", "4.1", "we", "explain", "how", "we", "selected", "the", "pages", "for", "our", "study", ",", "while", "in", "Section", "4.2", "we", "present", "the", "similarity", "measure", "that", "we", "used", "for", "comparing", "the", "rankings", "induced", "by", "DirectoryRank", "to", "the", "rankings", "delivered", "by", "PageRank", ",", "and", "we", "give", "obtained", "results", ".", "Moreover", ",", "to", "delve", "into", "the", "behavior", "of", "DirectoryRank", "we", "carried", "out", "a", "user", "study", ",", "presented", "in", "Section", "4.3", ".", "4.1", "Experimental", "Dataset", "In", "selecting", "our", "experimental", "data", ",", "we", "picked", "pages", "that", "are", "categorized", "in", "those", "topics", "in", "Google", "Directory", ",", "which", "are", "also", "present", "in", "our", "hierarchy", ".", "Recall", "that", "Google", "Directory", "is", "a", "replica", "of", "the", "Dmoz", "Directory", ",", "from", "which", "we", "borrowed", "our", "hierarchy", "'s", "13", "top-level", "topics", ".", "Out", "of", "all", "the", "sub-topics", "organized", "in", "those", "13", "top-level", "topics", "in", "Google", "Directory", ",", "156", "were", "represented", "in", "our", "hierarchy", ".", "Having", "determined", "the", "topics", ",", "whose", "set", "of", "ranked", "pages", "would", "be", "compared", ",", "we", "downloaded", "a", "total", "number", "of", "318,296", "pages", ",", "categorized", "in", "one", "of", "the", "156", "selected", "topics", ",", "which", "in", "turn", "are", "organized", "into", "the", "13", "top-level", "topics", ".", "Table", "2", "shows", "the", "distribution", "of", "the", "experimental", "pages", "in", "the", "top", "level", "topics", "in", "Google", "Directory", ".", "Table", "2", ".", "Statistics", "on", "the", "experimental", "data", "Category", "#", "of", "documents", "#", "of", "sub-topics", "Arts", "28,342", "18", "Sports", "20,662", "26", "Games", "11,062", "6", "Home", "6,262", "7", "Shopping", "52,342", "15", "Business", "60,982", "7", "Health", "23,222", "7", "News", "9,462", "4", "Society", "28,662", "14", "Computers", "35,382", "13", "Reference", "13,712", "10", "Recreation", "8,182", "20", "Science", "20,022", "9", "Total", "318,296", "156", "Since", "we", "were", "interested", "in", "comparing", "DirectoryRank", "with", "PageRank", ",", "in", "the", "context", "of", "ranking", "Web", "pages", "in", "Directory", "topics", ",", "we", "recorded", "for", "the", "downloaded", "Web", "pages", "their", "relative", "ranking", "order", "in", "Google", "Directory", "in", "each", "of", "the", "156", "selected", "topics", ".", "We", "then", "stored", "the", "downloaded", "pages", "in", "a", "secondary", "index", ",", "maintaining", "their", "relative", "PageRank", "rankings", ".", "To", "compute", "the", "DR", "values", "for", "every", "experimental", "page", ",", "we", "initially", "processed", "the", "downloaded", "pages", "in", "order", "to", "generate", "and", "score", "their", "lexical", "chains", ".", "For", "every", "page", ",", "we", "first", "computed", "its", "RScore", "to", "the", "topic", "in", "which", "it", "is", "assigned", "in", "Google", "Directory", ",", "and", "then", "we", "computed", "the", "semantic", "similarity", "-LRB-", "s", "-RRB-", "for", "every", "pair", "of", "pages", "listed", "in", "each", "topic", ".", "Lastly", ",", "using", "the", "above", "two", "scores", "-LRB-", "i.e.", "semantic", "similarity", "and", "topic", "relatedness", "-RRB-", ",", "we", "computed", "for", "every", "Web", "page", "its", "DirectoryRank", "-LRB-", "DR", "-RRB-", "value", "and", "we", "sorted", "the", "pages", "listed", "within", "each", "of", "the", "topics", ",", "so", "that", "pages", "with", "higher", "DR", "scores", "in", "some", "topic", "are", "prioritized", "among", "the", "set", "of", "topic", "related", "pages", ".", "Using", "the", "above", "data", ",", "we", "evaluated", "the", "effectiveness", "of", "our", "DirectoryRank", "metric", "in", "ordering", "Web", "pages", "inside", "the", "Directory", "'s", "topics", ".", "4.2", "Overlap", "of", "DirectoryRank", "and", "PageRank", "To", "investigate", "whether", "there", "is", "any", "similarity", "between", "the", "rankings", "induced", "by", "DirectoryRank", "and", "the", "rankings", "delivered", "by", "PageRank", "for", "our", "experimental", "pages", "in", "the", "156", "topics", "in", "Google", "Directory", ",", "we", "used", "the", "OSim", "measure", ",", "reported", "in", "the", "work", "of", "-LSB-", "9", "-RSB-", ",", "which", "indicates", "the", "degree", "of", "overlap", "between", "the", "top", "n", "URLs", "of", "the", "two", "rankings", ".", "Formally", ",", "the", "overlap", "of", "two", "ranked", "lists", "A", "and", "B", "-LRB-", "each", "of", "size", "n", "-RRB-", "is", "given", "by", ":", "-LRB-", "-RRB-", ",", "/", "OSim", "DR", "PR", "A", "B", "n", "=", "I", "Using", "the", "above", "formula", ",", "we", "computed", "for", "each", "of", "the", "156", "topics", "the", "overlap", "between", "the", "pages", "ranked", "in", "the", "top", "n", "=", "10", "positions", "for", "that", "topic", "by", "DR", "and", "PR", "respectively", ".", "Afterwards", ",", "we", "first", "com-20", "puted", "the", "average", "similarity", "between", "the", "two", "induced", "rankings", "for", "each", "of", "the", "156", "selected", "topics", ",", "and", "then", "the", "average", "similarity", "between", "the", "two", "induced", "rankings", "for", "each", "of", "the", "13", "top-level", "topics", ".", "To", "compute", "the", "average", "similarity", "between", "DR", "and", "PR", "for", "a", "top", "level", "topic", "T", ",", "we", "summed", "the", "average", "similarity", "of", "all", "sub-topics", "in", "T", "and", "we", "divided", "by", "the", "number", "of", "sub-topics", "that", "T", "has", ".", "Table", "3", "gives", "the", "average", "similarity", "scores", "between", "DR", "and", "PR", "for", "each", "of", "the", "13", "top-level", "topics", "examined", "in", "our", "experiment", ".", "Table", "3", ".", "Average", "similarity", "of", "rankings", "for", "the", "top", "level", "topics", "Category", "OSim", "Arts", "0.038", "Sports", "0.019", "Games", "0.030", "Home", "0.057", "Shopping", "0.013", "Business", "0.028", "Health", "0.057", "News", "0.100", "Society", "0.043", "Computers", "0.046", "Reference", "0.020", "Recreation", "0.025", "Science", "0.044", "Obtained", "results", "demonstrate", "that", "there", "is", "little", "average", "overlap", "between", "the", "top", "10", "results", "for", "the", "two", "rankings", ".", "Note", "that", "for", "some", "topics", "we", "compared", "the", "overlap", "between", "DR", "and", "PR", "for", "a", "larger", "set", "of", "pages", "-LRB-", "e.g.", "n", "=", "20", "and", "n", "=", "30", "-RRB-", "and", "we", "found", "that", "the", "OSim", "score", "of", "the", "two", "rankings", "increases", ",", "albeit", "slightly", ",", "as", "the", "size", "of", "n", "grows", ".", "For", "example", "in", "the", "topic", "Sports", ",", "the", "OSim", "between", "DR", "and", "PR", "for", "n", "=", "10", "is", "0.019", ",", "whereas", "for", "n", "=", "20", "the", "OSim", "score", "is", "0.023", "and", "for", "n", "=", "30", ",", "OSim", "is", "0.028", ".", "Our", "results", "show", "that", "even", "the", "pairs", "with", "the", "greatest", "similarity", "among", "all", "pairs", "examined", "-LRB-", "e.g.", "the", "rankings", "delivered", "for", "the", "News", "topic", "-RRB-", ",", "according", "to", "the", "OSim", "measure", ",", "have", "little", "in", "common", ".", "Despite", "the", "usefulness", "of", "the", "OSim", "measure", "for", "making", "rough", "estimations", "about", "the", "ability", "of", "the", "two", "ranking", "schemes", "in", "identifying", "the", "same", "top", "pages", "with", "respect", "to", "some", "topics", ",", "it", "can", "not", "directly", "capture", "which", "ranking", "is", "more", "useful", "for", "ordering", "pages", "in", "Directory", "topics", ".", "This", "is", "because", "OSim", "does", "not", "indicate", "the", "degree", "to", "which", "the", "relative", "orderings", "of", "the", "top", "n", "pages", "of", "two", "rankings", "are", "in", "agreement", ".", "Having", "established", "that", "PageRank", "and", "DirectoryRank", "order", "Web", "pages", "substantially", "differ-ently", ",", "we", "proceed", "to", "investigate", "which", "of", "these", "rankings", "is", "better", "for", "ordering", "Web", "pages", "in", "Directory", "topics", ".", "To", "that", "end", ",", "we", "carried", "out", "a", "user", "study", ",", "reported", "next", ".", "4.3", "DirectoryRank", "Performance", "To", "determine", "which", "of", "the", "two", "ranking", "measures", ",", "namely", "DR", "and", "PR", ",", "is", "perceived", "as", "more", "useful", "by", "Web", "users", "for", "organizing", "pages", "in", "Web", "Directories", ",", "we", "carried", "out", "a", "user", "study", ".", "From", "our", "sample", "data", ",", "we", "picked", "the", "top", "10", "pages", "listed", "in", "7", "randomly", "selected", "topics", "-LRB-", "out", "of", "the", "156", "topics", "examined", "-RRB-", "and", "we", "recruited", "15", "postgraduate", "volunteers", "from", "our", "school", ".", "Table", "4", "lists", "the", "7", "topics", "selected", ".", "For", "each", "topic", ",", "the", "volunteer", "was", "shown", "2", "result", "rankings", ";", "one", "consisted", "of", "the", "top", "10", "pages", "for", "the", "topic", "ranked", "with", "DR", ",", "and", "the", "other", "consisted", "of", "the", "top", "10", "pages", "for", "the", "topic", "ranked", "with", "PR", ".", "For", "each", "topic", ",", "the", "volunteer", "was", "asked", "to", "read", "the", "pages", "in", "both", "lists", "and", "indicate", "which", "of", "the", "two", "rankings", ",", "in", "their", "opinion", ",", "is", "more", "``", "useful", "''", "overall", "for", "communicating", "information", "about", "the", "topic", ".", "Volunteers", "were", "not", "told", "anything", "about", "how", "either", "of", "the", "rankings", "was", "generated", ".", "In", "order", "to", "avoid", "misinterpretations", "while", "analyzing", "the", "user", "'s", "selection", "preferences", ",", "we", "asked", "from", "the", "users", "to", "indicate", "their", "descriptive", "selections", "directly", ".", "More", "specifically", ",", "we", "presented", "to", "our", "participants", "the", "following", "choices", "and", "we", "asked", "them", "to", "indicate", "for", "which", "of", "the", "following", "reasons", "they", "selected", "one", "ranking", "over", "the", "other", "for", "each", "of", "the", "topics", "examined", ".", "Table", "4", ".", "Experimental", "Topics", "Experimental", "Topics", "T", "1", "Crime", "T", "2", "Photography", "T", "3", "Water", "Sports", "T", "4", "Radiology", "T", "5", "Mechanics", "T", "6", "Econometrics", "T", "7", "Collecting", "Reason", "R1", ".", "``", "I", "prefer", "this", "ranking", "because", "I", "obtained", "significant", "information", "about", "the", "topic", "from", "most", "of", "the", "pages", "''", ".", "In", "our", "analysis", ",", "we", "interpret", "the", "ranking", "preferences", "established", "on", "this", "reason", "as", "``", "topic-informative", "''", "rankings", ".", "Reason", "R2", ":", "``", "I", "prefer", "this", "ranking", "because", "I", "have", "seen", "most", "of", "the", "pages", "before", "and", "I", "liked", "them", "''", ".", "We", "interpret", "the", "ranking", "preferences", "established", "on", "this", "reason", "as", "``", "popular", "''", "rankings", ".", "We", "then", "compared", "the", "participants", "'", "descriptive", "selections", "for", "every", "topic", "with", "the", "final", "DR", "/", "PR", "choices", ".", "This", "way", "we", "ensure", "that", "users", "'", "preferences", "would", "be", "accurately", "evaluated", "even", "if", "two", "volunteers", "had", "exactly", "the", "same", "descriptive", "selection", ",", "but", "they", "ended", "up", "casting", "that", "selection", "into", "different", "DR", ",", "PR", "rankings", ".", "As", "a", "final", "note", ",", "we", "also", "asked", "our", "volunteers", "to", "indicate", "their", "familiarity", "with", "the", "experimental", "topics", ",", "by", "characterizing", "as", "``", "familiar", "''", "or", "``", "unfamiliar", "''", "each", "of", "the", "topics", "examined", ".", "In", "our", "evaluation", ",", "we", "considered", "that", "one", "ranking", "was", "better", "than", "the", "other", "if", "at", "least", "50", "%", "of", "the", "users", "selected", "it", "as", "more", "``", "useful", "''", ".", "Table", "5", "shows", "the", "rankings", "selected", "by", "our", "subjects", "as", "more", "useful", "for", "each", "of", "the", "7", "examined", "topics", ".", "Every", "row", "corresponds", "to", "a", "separate", "user", ".", "The", "columns", "marked", "as", "T", "i", "show", "what", "the", "preference", "of", "the", "user", "was", "for", "the", "particular", "topic", ".", "Under", "the", "T", "i", "columns", "the", "keyword", "DR", "means", "that", "the", "user", "considered", "DirectoryRank", "as", "more", "useful", "for", "that", "topic", ",", "while", "PR", "means", "that", "the", "user", "deemed", "PageRank", "as", "more", "useful", ".", "The", "column", "marked", "as", "R", "on", "the", "right", "of", "a", "T", "i", "column", "indicates", "the", "reason", "for", "which", "the", "user", "voted", "over", "the", "specified", "ranking", ".", "Table", "6", "summarizes", "the", "rankings", "preferred", "by", "the", "majority", "of", "the", "users", "for", "each", "of", "the", "topics", ".", "Table", "5", ".", "Rankings", "selected", "as", "more", "useful", "for", "each", "topic", "User", "T", "1", "R", "T", "2", "R", "T", "3", "R", "T", "4", "R", "T", "5", "R", "T", "6", "R", "T", "7", "R", "#", "1", "DR", "1", "DR", "1", "DR", "1", "DR", "1", "PR", "2", "DR", "1", "PR", "2", "#", "2", "PR", "2", "DR", "2", "PR", "2", "DR", "1", "DR", "1", "DR", "1", "PR", "2", "#", "3", "DR", "1", "DR", "1", "DR", "1", "DR", "1", "DR", "2", "DR", "1", "PR", "2", "#", "4", "PR", "1", "PR", "1", "PR", "2", "DR", "2", "PR", "2", "PR", "2", "PR", "1", "#", "5", "DR", "1", "PR", "1", "PR", "2", "PR", "2", "PR", "2", "DR", "2", "DR", "1", "#", "6", "PR", "2", "DR", "1", "PR", "2", "DR", "1", "DR", "1", "DR", "2", "DR", "1", "#", "7", "DR", "2", "PR", "2", "PR", "1", "DR", "1", "PR", "2", "DR", "1", "DR", "1", "#", "8", "DR", "1", "DR", "2", "DR", "1", "DR", "1", "PR", "1", "DR", "1", "PR", "2", "#", "9", "PR", "2", "DR", "1", "PR", "2", "PR", "2", "PR", "2", "DR", "1", "DR", "2", "#", "10", "DR", "1", "DR", "1", "DR", "1", "DR", "1", "DR", "1", "DR", "2", "DR", "2", "#", "11", "DR", "1", "DR", "1", "DR", "1", "DR", "2", "PR", "2", "PR", "2", "PR", "2", "#", "12", "DR", "1", "DR", "1", "DR", "1", "PR", "1", "PR", "2", "DR", "1", "DR", "1", "#", "13", "DR", "2", "PR", "2", "PR", "1", "DR", "1", "PR", "2", "DR", "1", "DR", "1", "#", "14", "PR", "2", "DR", "1", "PR", "2", "DR", "1", "DR", "1", "DR", "1", "PR", "2", "#", "15", "DR", "1", "DR", "2", "DR", "1", "DR", "1", "PR", "1", "DR", "1", "DR", "1", "Our", "survey", "results", "demonstrate", "that", "the", "majority", "of", "the", "users", "perceived", "in", "overall", "DirectoryRank", "as", "more", "useful", "in", "comparison", "to", "PageRank", "for", "ordering", "Web", "pages", "in", "the", "Directory", "'s", "topics", ".", "This", "is", "attested", "by", "the", "fact", "that", "for", "most", "of", "the", "topics", "examined", "-LRB-", "for", "5", "out", "of", "the", "7", "topics", "-RRB-", ",", "the", "majority", "of", "our", "subjects", "preferred", "DR", "over", "PR", ".", "A", "closer", "look", "at", "the", "obtained", "results", "indicates", "that", "the", "reason", "on", "which", "21", "our", "participants", "'", "based", "most", "of", "their", "DR", "selections", ",", "is", "Reason", "1", ",", "which", "implies", "that", "the", "rankings", "delivered", "by", "DR", "are", "perceived", "as", "more", "topic-informative", ".", "Conversely", ",", "most", "of", "the", "users", "who", "liked", "better", "the", "rankings", "induced", "by", "PR", ",", "established", "their", "selection", "on", "Reason", "2", ".", "This", "suggests", "that", "the", "usefulness", "of", "PR", "is", "not", "implied", "mainly", "by", "how", "informative", "a", "page", "is", "about", "a", "topic", ",", "but", "rather", "that", "it", "is", "substantially", "influenced", "by", "the", "page", "'s", "popularity", ".", "Table", "6", ".", "Rankings", "preferred", "by", "the", "majority", "of", "users", "Topic", "Preferred", "by", "majority", "T", "1", "Crime", "DirectoryRank", "T", "2", "Photography", "DirectoryRank", "T", "3", "Water", "Sports", "PageRank", "T", "4", "Radiology", "DirectoryRank", "T", "5", "Mechanics", "PageRank", "T", "6", "Econometrics", "DirectoryRank", "T", "7", "Collecting", "DirectoryRank", "Moreover", ",", "although", "not", "reported", "here", "due", "to", "space", "limit", ",", "our", "survey", "results", "show", "that", "our", "participants", "'", "answers", "were", "not", "generally", "influenced", "by", "their", "familiarity", "or", "not", "with", "the", "underlying", "topics", ".", "This", "implies", "that", "our", "survey", "does", "not", "entail", "``", "topic-bias", "''", ",", "since", "both", "rankings", "compared", "are", "applied", "to", "pages", "listed", "in", "the", "same", "topic", ".", "There", "have", "been", "a", "number", "of", "studies", "trying", "to", "identify", "the", "best", "ranking", "order", "of", "the", "Web", "pages", "that", "are", "deemed", "to", "be", "relevant", "to", "a", "given", "query/topic", ".", "The", "most", "successful", "of", "these", "studies", "-LSB-", "8", ",", "11", "-RSB-", "suggest", "the", "exploitation", "of", "the", "pages", "'", "links", "connectivity", "on", "the", "Web", "graph", "for", "measuring", "the", "pages", "'", "importance", "and", "rank", "them", "accordingly", ".", "The", "most", "widely", "known", "ranking", "metric", "that", "explores", "the", "pages", "'", "links", "structure", "for", "measuring", "their", "importance", "on", "the", "Web", "is", "PageRank", ".", "Currently", ",", "PageRank", "and", "its", "variations", "are", "used", "by", "most", "major", "Web", "Search", "Engines", "to", "rank", "the", "results", "that", "they", "return", "to", "Web", "users", "in", "response", "to", "their", "search", "requests", ".", "Despite", "PageRank", "'s", "usefulness", "for", "ordering", "pages", "in", "the", "context", "of", "Search", "Engines", ",", "it", "is", "designed", "to", "measure", "the", "global", "importance", "of", "the", "pages", "on", "the", "Web", ",", "independent", "of", "any", "particular", "topics", ".", "However", ",", "the", "overall", "importance", "of", "the", "pages", "may", "be", "not", "a", "sufficient", "measure", "for", "ordering", "the", "pages", "inside", "Directories", "'", "topics", ",", "essentially", "because", "pages", "that", "are", "important", "in", "some", "topics", "may", "not", "be", "important", "in", "others", ",", "regardless", "of", "the", "number", "and", "structure", "of", "the", "links", "that", "may", "appear", "in", "those", "pages", ".", "To", "alleviate", "some", "of", "the", "inherent", "limitations", "of", "PageRank", ",", "a", "number", "of", "researchers", "designed", "new", "ranking", "metrics", ",", "which", "mainly", "rely", "on", "modifications", "of", "PageRank", "and", "are", "tailored", "for", "specific", "tasks", ".", "For", "example", ",", "-LSB-", "9", "-RSB-", "studies", "personalization", "of", "the", "PageRank", "metric", "by", "giving", "different", "weights", "to", "pages", ",", "-LSB-", "14", "-RSB-", "examine", "the", "local", "and", "the", "inter-site", "link", "structure", "in", "order", "to", "compute", "a", "global", "PageRank", "for", "Web", "pages", ",", "-LSB-", "7", "-RSB-", "introduce", "Hilltop", ",", "an", "algorithm", "which", "generates", "query-specific", "authority", "scores", "for", "improving", "rankings", "for", "popular", "queries", ".", "While", "most", "of", "these", "works", "mainly", "focus", "on", "improving", "the", "rankings", "delivered", "to", "Web", "users", "by", "measuring", "the", "Web", "pages", "'", "overall", "importance", ",", "in", "this", "paper", "we", "are", "more", "concerned", "about", "the", "topic", "importance", "of", "Web", "pages", "by", "measuring", "the", "pages", "'", "informativeness", "with", "respect", "to", "particular", "topics", ".", "In", "this", "scope", ",", "we", "perceive", "our", "work", "to", "be", "complementary", "to", "previous", "studies", "on", "personalized", "rankings", "-LSB-", "9", "-RSB-", ".", "Moreover", ",", "there", "exists", "prior", "work", "that", "explores", "the", "lexical", "chaining", "technique", "as", "a", "means", "for", "representing", "documents", "'", "contents", "-LSB-", "6", ",", "12", "-RSB-", ".", "Recently", ",", "we", "employed", "the", "lexical", "chaining", "technique", "for", "the", "automatic", "classification", "of", "Web", "documents", "in", "topic", "hierarchies", "-LSB-", "13", "-RSB-", ".", "Our", "findings", "indicated", "the", "potential", "of", "lexical", "chains", "in", "successfully", "capturing", "the", "thematic", "content", "of", "Web", "pages", ".", "This", "motivated", "our", "work", "to", "use", "the", "lexical", "chains", "generated", "for", "a", "number", "of", "Web", "pages", "as", "a", "means", "for", "ordering", "pages", "within", "Directory", "topics", ".", "In", "the", "future", "we", "plan", "to", "investigate", "how", "our", "approach", "could", "benefit", "from", "other", "linguistic", "approaches", ",", "besides", "lexical", "chains", ".", "In", "this", "paper", ",", "we", "introduced", "DirectoryRank", ",", "a", "practical", "metric", "for", "determining", "how", "informative", "Web", "pages", "are", "for", "particular", "topics", "and", "ranking", "them", "accordingly", ".", "To", "evaluate", "the", "potential", "of", "DirectoryRank", "in", "ordering", "Web", "pages", "inside", "Directory", "topics", ",", "we", "conducted", "an", "experiment", "where", "we", "applied", "our", "DirectoryRank", "metric", "to", "order", "a", "set", "of", "pages", "listed", "within", "156", "topics", "in", "Google", "Directory", "and", "we", "compared", "the", "rankings", "induced", "by", "DirectoryRank", "to", "the", "rankings", "that", "PageRank", "delivers", "in", "Google", "Directory", "for", "the", "same", "set", "of", "pages", "and", "topics", ".", "In", "our", "study", ",", "we", "relied", "on", "the", "judgments", "made", "by", "15", "users", "to", "determine", "which", "ranking", "is", "perceived", "as", "more", "useful", "for", "Web", "Directories", "'", "users", ".", "Obtained", "results", "indicate", "that", "in", "overall", "users", "preferred", "DirectoryRank", "over", "PageRank", "for", "ordering", "Web", "pages", "inside", "the", "Directory", "'s", "topics", ".", "Although", "it", "would", "probably", "require", "additional", "studies", "in", "order", "to", "evaluate", "the", "applicability", "of", "our", "method", "to", "Web", "Directories", "other", "than", "Google", "and", "assess", "DirectoryRank", "'s", "usefulness", "to", "a", "larger", "user", "and", "categories", "base", ",", "we", "believe", "that", "our", "work", "can", "serve", "as", "the", "first", "step", "towards", "a", "topic-informative", "ranking", "metric", "within", "directories", ".", "-LSB-", "1", "-RSB-", "Google", "Directory", "http://dir.google.com/", ".", "-LSB-", "2", "-RSB-", "MultiWordNet", "Domains", "http://wndomains.itc.it/", ".", "-LSB-", "3", "-RSB-", "Open", "Directory", "Project", "http://dmoz.com/", ".", "-LSB-", "4", "-RSB-", "Sumo", "Ontology", "http://ontology.teknowledge.com/", ".", "-LSB-", "5", "-RSB-", "WordNet", "2.0", "http://www.cogsci.princeton.edu/~wn/", ".", "-LSB-", "6", "-RSB-", "Barzilay", "R", "Lexical", "chains", "for", "text", "summarization", ".", "Master", "'s", "Thesis", ",", "Ben-Gurion", "University", ",", "1997", ".", "-LSB-", "7", "-RSB-", "Bharat", "K", "and", "Mihaila", "G.", "Hilltop", ":", "a", "search", "engine", "based", "on", "expert", "documents", ":", "http://www.cs.toronto.edu/~georgem/", "hilltop", "/", ".", "-LSB-", "8", "-RSB-", "Kleinberg", "J.", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "In", "Journal", "of", "the", "ACM", ",", "46", "-LRB-", "5", "-RRB-", ",", "1999", ",", "604-632", ".", "-LSB-", "9", "-RSB-", "Haveliwala", "T.", "Topic", "sensitive", "PageRank", ".", "In", "Proceedings", "of", "the", "11", "th", "WWW", "Conference", ",", "2002", ",", "517-526", ".", "-LSB-", "10", "-RSB-", "Ntoulas", "A.", ",", "Cho", "J.", "and", "Olston", "Ch", ".", "What", "'s", "new", "on", "the", "web", "?", "The", "evolution", "of", "the", "web", "from", "a", "search", "engine", "perspective", ".", "In", "Proceedings", "of", "the", "13", "th", "WWW", "Conference", ",", "2004", ",", "1-12", ".", "-LSB-", "11", "-RSB-", "Page", "L.", ",", "Brin", "S.", ",", "Motwani", "R.", "and", "Winograd", "T", ".", "The", "PageRank", "citation", "ranking", ":", "Bringing", "order", "to", "the", "web", ".", "Available", "at", "http://dbpubs.stanford.edu:8090/pub/1999-66", ".", "-LSB-", "12", "-RSB-", "Song", "Y.I.", ",", "Han", "K.S.", "and", "Rim", "H.C.", ".", "A", "term", "weighting", "method", "based", "on", "lexical", "chain", "for", "automatic", "summarization", ".", "In", "Proceedings", "of", "the", "5", "th", "CICLing", "Conference", ",", "2004", ",", "636-639", ".", "-LSB-", "13", "-RSB-", "Stamou", "S.", ",", "Krikos", "V.", ",", "Kokosis", "P.", ",", "Ntoulas", "A.", "and", "Christodoulakis", "D.", "Web", "directory", "construction", "using", "lexical", "chains", ".", "In", "Proceedings", "of", "the", "10", "th", "NLDB", "Conference", "2005", ",", "138-149", ".", "-LSB-", "14", "-RSB-", "Wang", "Y.", "and", "DeWitt", "D.", "Computing", "PageRank", "in", "a", "distributed", "internet", "search", "system", ".", "In", "Proc", ".", "of", "the", "30", "th", "VLDB", "Conf.", ",", "2004", ".", "22"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["semantic similarities", "scoring", "lexical chains", "directoryrank", "ranking", "web directory", "semantic similarity", "topic importance", "pagerank"], "abstractive_keyphrases": ["information retrieval", "topic hierachy", "ranking metric"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "57", "document": ["Contour-based", "Partial", "Object", "Recognition", "using", "Symmetry", "in", "Image", "Databases", "This", "paper", "discusses", "the", "problem", "of", "partial", "object", "recognition", "in", "image", "databases", ".", "We", "propose", "the", "method", "to", "reconstruct", "and", "estimate", "partially", "occluded", "shapes", "and", "regions", "of", "objects", "in", "images", "from", "overlapping", "and", "cutting", ".", "We", "present", "the", "robust", "method", "for", "recognizing", "partially", "occluded", "objects", "based", "on", "symmetry", "properties", ",", "which", "is", "based", "on", "the", "contours", "of", "objects", ".", "Our", "method", "provides", "simple", "techniques", "to", "reconstruct", "occluded", "regions", "via", "a", "region", "copy", "using", "the", "symmetry", "axis", "within", "an", "object", ".", "Based", "on", "the", "estimated", "parameters", "for", "partially", "occluded", "objects", ",", "we", "perform", "object", "recognition", "on", "the", "classification", "tree", ".", "Since", "our", "method", "relies", "on", "reconstruction", "of", "the", "object", "based", "on", "the", "symmetry", "rather", "than", "statistical", "estimates", ",", "it", "has", "proven", "to", "be", "remarkably", "robust", "in", "recognizing", "partially", "occluded", "objects", "in", "the", "presence", "of", "scale", "changes", ",", "rotation", ",", "and", "viewpoint", "changes", ".", "Most", "existing", "methods", "for", "object", "recognition", "are", "based", "on", "full", "objects", ".", "However", ",", "many", "images", "in", "electronic", "catalogs", "contain", "multiple", "objects", "with", "occluded", "shapes", "and", "regions", ".", "Due", "to", "the", "occlusion", "of", "objects", ",", "image", "retrieval", "can", "provide", "incomplete", ",", "uncertain", ",", "and", "inaccurate", "results", ".", "To", "resolve", "this", "problem", ",", "we", "propose", "new", "method", "to", "reconstruct", "objects", "using", "symmetry", "properties", "since", "most", "objects", "in", "a", "given", "image", "database", "are", "represented", "by", "symmetrical", "figures", ".", "Even", "though", "there", "have", "been", "several", "efforts", "in", "object", "recognition", "with", "occlusion", ",", "currents", "methods", "have", "been", "highly", "sensitive", "to", "object", "pose", ",", "rotation", ",", "scaling", ",", "and", "visible", "portion", "of", "occluded", "objects", "-LSB-", "12", "-RSB-", "-LSB-", "9", "-RSB-", "-LSB-", "17", "-RSB-", "-LSB-", "3", "-RSB-", "-LSB-", "15", "-RSB-", ".", "In", "addition", ",", "many", "appearance-based", "and", "model-based", "object", "recognition", "methods", "assumed", "that", "they", "have", "known", "occluded", "regions", "of", "objects", "or", "images", "through", "extensive", "training", "processes", "with", "statistical", "approach", ".", "However", ",", "our", "approach", "is", "not", "limited", "to", "recognizing", "occluded", "objects", "by", "pose", "and", "scale", "changes", ",", "and", "does", "not", "need", "extensive", "training", "processes", ".", "Unlike", "existing", "methods", ",", "our", "method", "finds", "shapes", "and", "regions", "to", "reconstruct", "occluded", "shapes", "and", "regions", "within", "objects", ".", "Our", "approach", "can", "handle", "object", "rotation", "and", "scaling", "for", "dealing", "with", "occlusion", ",", "and", "does", "not", "require", "extensive", "training", "processes", ".", "The", "main", "advantage", "of", "our", "approach", "is", "that", "it", "becomes", "simple", "to", "reconstruct", "objects", "from", "occlusions", ".", "We", "present", "the", "robust", "method", ",", "which", "is", "based", "on", "the", "contours", "of", "objects", ",", "for", "recognizing", "partially", "occluded", "objects", "based", "on", "symmetry", "properties", ".", "The", "contour-based", "approach", "finds", "a", "symmetry", "axis", "using", "the", "maximum", "diameter", "from", "the", "occluded", "object", ".", "In", "experiments", ",", "we", "demonstrate", "how", "our", "method", "reconstruct", "and", "recognize", "occluded", "shapes", "and", "regions", "using", "symmetry", ".", "Experiments", "use", "rotated", "and", "scaled", "objects", "for", "dealing", "with", "occlusion", ".", "We", "also", "evaluate", "the", "recognition", "rate", "of", "the", "reconstructed", "objects", "using", "symmetry", "and", "the", "visible", "portion", "of", "the", "occluded", "objects", "for", "recognition", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "briefly", "review", "work", "related", "to", "this", "study", ".", "In", "Section", "3", ",", "we", "describe", "a", "method", "to", "recognize", "partial", "objects", "from", "given", "classes", ".", "In", "Section", "4", ",", "we", "describe", "experimental", "results", "for", "partial", "object", "recognition", ".", "Finally", ",", "we", "summarize", "this", "paper", "in", "Section", "5", ".", "There", "have", "been", "several", "research", "efforts", "in", "object", "recognition", "for", "dealing", "with", "occlusion", ".", "Krumm", "-LSB-", "13", "-RSB-", "proposed", "a", "new", "algorithm", "for", "detecting", "objects", "in", "images", "which", "uses", "models", "based", "on", "training", "images", "of", "the", "object", ",", "with", "each", "model", "representing", "one", "pose", ".", "Williams", "-LSB-", "23", "-RSB-", "proposed", "a", "method", "for", "the", "reconstruction", "of", "solid-shape", "from", "image", "contour", "using", "the", "Huffman", "labeling", "scheme", ".", "For", "object", "recognition", ",", "Chang", "and", "Krumm", "-LSB-", "3", "-RSB-", "used", "the", "color", "cooccurrence", "histogram", "based", "on", "pairs", "of", "pixels", ".", "Schiele", "et", "al.", "-LSB-", "20", "-RSB-", "proposed", "a", "method", "to", "perform", "partial", "object", "recognition", "using", "statistical", "methods", ",", "which", "are", "based", "on", "multidimensional", "receptive", "field", "histograms", ".", "In", "addition", ",", "Rajpal", "et", "al.", "-LSB-", "17", "-RSB-", "introduced", "a", "method", "for", "partial", "object", "recognition", "using", "neural", "network", "based", "indexing", ".", "In", "appearance-based", "object", "recognition", ",", "Edwards", "and", "Murase", "-LSB-", "6", "-RSB-", "addressed", "the", "occlusion", "problem", "inherent", "in", "appearance-based", "methods", "using", "a", "mask", "to", "block", "out", "part", "of", "the", "basic", "eigenimages", "and", "the", "input", "image", ".", "Leonardis", "and", "Bischof", "-LSB-", "14", "-RSB-", "handled", "occlusion", ",", "scaling", ",", "and", "translation", "by", "randomly", "selecting", "image", "points", "from", "the", "scene", "and", "their", "corresponding", "points", "in", "the", "basis", "eigenvectors", ".", "Rao", "-LSB-", "18", "-RSB-", "applied", "the", "adaptive", "learning", "of", "eigenspace", "basis", "vectors", "in", "appearance-based", "methods", ".", "Ohba", "and", "Ikeuchi", "-LSB-", "16", "-RSB-", "were", "able", "to", "handle", "translation", "and", "occlusion", "of", "an", "object", "using", "eigenwindows", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SAC", "'", "05", ",", "March", "13-17", ",", "2005", ",", "Santa", "Fe", ",", "New", "Mexico", ",", "USA", ".", "Copyright", "2005", "ACM", "1-58113-964-0", "/", "05/0003", "...", "$", "5.00", ".", "1190", "2005", "ACM", "Symposium", "on", "Applied", "Computing", "Current", "methods", "for", "dealing", "with", "occlusion", "have", "been", "based", "on", "template", "matching", ",", "statistical", "approaches", "using", "localized", "invariants", ",", "and", "recognition", "of", "occluded", "regions", "based", "on", "local", "features", ".", "In", "addition", ",", "there", "are", "many", "efforts", "in", "ellipse", "construction", "and", "detection", "-LSB-", "7", "-RSB-", "-LSB-", "9", "-RSB-", "-LSB-", "22", "-RSB-", ".", "In", "this", "paper", ",", "we", "propose", "unique", "methodologies", "in", "object", "recognition", "for", "dealing", "with", "occlusion", "based", "on", "symmetry", "properties", "through", "the", "ellipse", "reconstruction", ".", "Even", "though", "there", "have", "been", "several", "efforts", "in", "object", "recognition", "with", "occlusion", ",", "current", "methods", "have", "been", "highly", "sensitive", "to", "object", "pose", "and", "scaling", ".", "In", "addition", ",", "many", "appearance-based", "and", "model-based", "object", "recognition", "methods", "assumed", "that", "they", "have", "known", "occluded", "regions", "of", "objects", "or", "images", "through", "extensive", "training", "processes", ".", "However", ",", "our", "method", "is", "not", "limited", "to", "recognizing", "occluded", "objects", "by", "pose", "and", "scale", "changes", ",", "and", "do", "not", "require", "extensive", "training", "processes", ".", "We", "discuss", "the", "object", "reconstruction", "and", "the", "parameter", "estimation", "method", "to", "find", "the", "best", "matching", "class", "of", "input", "objects", "using", "the", "classification", "tree", "method", "-LSB-", "4", "-RSB-", ".", "We", "extracted", "shape", "parameters", "from", "reconstructed", "objects", "using", "RLC", "lines", ",", "such", "as", "roundness", ",", "aspect", "ratio", ",", "form", "factor", ",", "surface", "regularity", "-LSB-", "5", "-RSB-", ".", "The", "approach", "tries", "to", "find", "occluded", "shapes", "within", "partially", "occluded", "objects", ".", "The", "basic", "assumption", "is", "that", "most", "objects", "are", "represented", "by", "symmetrical", "figures", ".", "When", "a", "symmetric", "object", "is", "partially", "occluded", ",", "we", "use", "the", "symmetry", "measure", "to", "evaluate", "the", "symmetric", "shape", ".", "We", "estimate", "the", "most", "similar", "parameters", "of", "occluded", "shape", "and", "region", "of", "objects", ",", "and", "we", "retrieve", "objects", "that", "have", "the", "estimated", "parameters", "of", "occluded", "objects", ".", "A", "basic", "idea", "of", "reconstruction", "and", "estimation", "of", "occluded", "objects", "is", "to", "use", "symmetry", "properties", "within", "objects", "and", "use", "to", "the", "contour", "of", "objects", ".", "Fortunately", ",", "most", "products", "in", "electronic", "catalogs", "have", "symmetry", "in", "their", "shapes", "and", "they", "are", "represented", "by", "symmetrical", "figures", ".", "Symmetrical", "descriptions", "of", "shape", "or", "detection", "of", "symmetrical", "features", "of", "objects", "can", "be", "useful", "for", "shape", "matching", ",", "model-based", "object", "matching", ",", "and", "object", "recognition", "-LSB-", "2", "-RSB-", "-LSB-", "1", "-RSB-", ".", "In", "the", "given", "database", ",", "we", "have", "elliptical", "and", "roughly-rounded", "objects", "such", "as", "plates", ",", "cups", ",", "pans", ",", "and", "pots", ",", "depending", "on", "their", "poses", "and", "shapes", ".", "First", ",", "we", "consider", "elliptical", "objects", "in", "which", "the", "occlusion", "changes", "values", "of", "measurements", "and", "parameters", "related", "to", "diameters", ".", "We", "assume", "that", "we", "can", "get", "diameters", "from", "elliptical", "objects", ",", "which", "are", "partially", "occluded", ".", "Figure", "3.1", "Three-Spoke", "from", "the", "Triangle", ".", "However", ",", "the", "elliptical", "objects", "are", "limited", "to", "the", "shape", "of", "objects", ".", "Therefore", ",", "it", "may", "not", "be", "applied", "to", "other", "types", "of", "shape", "such", "as", "irregular", "shapes", ".", "In", "this", "case", ",", "since", "we", "can", "not", "easily", "detect", "the", "symmetry", "axes", ",", "we", "introduce", "the", "three-spoke", "type", "symmetry", "method", "as", "shown", "in", "Figure", "3.1", ".", "We", "apply", "this", "approach", "to", "roughly-rounded", "objects", "such", "as", "cups", ".", "For", "roughly-rounded", "objects", ",", "we", "use", "the", "three-spoke", "type", "method", ",", "which", "is", "derived", "from", "the", "triangle", ".", "The", "triangle", "is", "a", "basic", "model", "to", "represent", "figures", "such", "as", "circle", ",", "rectangle", ",", "and", "polygon", ".", "We", "use", "extended", "lines", "of", "the", "triangle", "to", "make", "axes", "as", "shown", "in", "Figure", "3.1", ".", "The", "three-spoke", "type", "symmetry", "axes", ",", "which", "are", "equally", "assigned", "by", "120", "degrees", ",", "provide", "the", "possibility", "to", "detect", "proper", "symmetry", "axes", "on", "roughly-rounded", "objects", ".", "Therefore", ",", "this", "method", "can", "detect", "symmetry", "axes", "in", "roughly-rounded", "objects", ".", "In", "order", "to", "perform", "the", "following", "procedures", ",", "we", "assume", "that", "objects", "are", "represented", "by", "symmetrical", "figures", ".", "1", ".", "We", "have", "an", "occluded", "elliptical", "object", "in", "Figure", "3.2", "and", "roughly-rounded", "object", "in", "Figure", "3.6", ",", "we", "can", "get", "cutting", "points", "of", "the", "occlusion", "-LRB-", "x", ",", "y", "-RRB-", "'", "and", "-LRB-", "x", ",", "y", "-RRB-", "''", ",", "that", "are", "given", "by", "overlapping", "or", "cutting", ".", "Figure", "3.2", "The", "Occlusion", "Area", "Estimation", "using", "Symmetry", ":", "Get", "cutting", "points", "-LRB-", "x", ",", "y", "-RRB-", "'", "and", "-LRB-", "x", ",", "y", "-RRB-", "''", "and", "get", "a", "distance", "l'", ".", "Figure", "3.3", "The", "Occlusion", "Area", "Estimation", "using", "Symmetry", ":", "Get", "the", "maximum", "diameter", "and", "the", "symmetry", "axis", ".", "Figure", "3.4", "The", "Occlusion", "Area", "Estimation", "using", "Symmetry", ":", "Get", "the", "estimated", "region", "a", "'", "using", "a", "line", "l'", "and", "the", "symmetry", "axis", ".", "Figure", "3.5", "The", "Occlusion", "Area", "Estimation", "using", "Symmetry", ":", "Add", "region", "a", "'", "to", "occluded", "shape", "and", "region", "and", "re-captured", "the", "estimated", "shape", "of", "an", "object", ".", "2", ".", "Compute", "a", "distance", "between", "two", "cutting", "points", "from", "-LRB-", "x", ",", "y", "-RRB-", "'", "and", "-LRB-", "x", ",", "y", "-RRB-", "''", ",", "which", "is", "called", "a", "line", "l'", "as", "in", "Figure", "3.2", "and", "3.6", ".", "3", ".", "Based", "on", "a", "line", "l'", ",", "make", "a", "connection", "between", "two", "points", ",", "fill", "the", "concave", "region", "and", "re-captured", "the", "shape", ".", "It", "is", "important", "to", "compute", "a", "centroid", "in", "an", "object", ".", "4", ".", "Get", "the", "maximum", "diameter", "from", "re-captured", "shape", "using", "extremal", "points", "as", "shown", "in", "Figure", "3.4", "and", "3.7", ".", "Two", "extremal", "points", "-LRB-", "r", ",", "l", "-RRB-", "and", "-LRB-", "r", ",", "l", "-RRB-", "'", "from", "re-captured", "shape", "as", "in", "Figure", "3.7", ".", "The", "distance", "between", "two", "extreme", "boundary", "points", "are", "represented", "by", "the", "maximum", "diameter", ".", "5", ".", "In", "elliptical", "objects", ",", "one", "of", "the", "maximum", "and", "minimum", "diameters", "can", "be", "a", "symmetry", "axis", ".", "In", "roughly-rounded", "objects", ",", "we", "use", "the", "three-spoke", "type", "symmetry", ",", "one", "spoke", "can", "be", "a", "1191", "symmetry", "axis", "to", "find", "occluded", "region", "within", "an", "object", ".", "6", ".", "Centroid", "Detection", ":", "In", "case", "of", "elliptical", "objects", ",", "we", "find", "a", "centroid", "based", "on", "the", "maximum", "diameter", "and", "a", "line", "perpendicular", "to", "the", "maximum", "diameter", ",", "which", "is", "located", "in", "the", "center", "of", "the", "length", "of", "the", "maximum", "diameter", ".", "We", "select", "symmetry", "axes", "based", "on", "one", "of", "these", "lines", "as", "in", "Figure", "3.3", ".", "In", "roughly-rounded", "objects", ",", "we", "get", "a", "centroid", ",", "based", "on", "whole", "region", "of", "an", "object", ".", "Equation", "2", "is", "adapted", "from", "Russ", "-LSB-", "19", "-RSB-", ".", "If", "the", "centroid", "is", "calculated", "by", "equation", "1", "using", "the", "boundary", "pixels", "only", ",", "the", "results", "may", "not", "be", "correct", ".", "The", "calculated", "points", "will", "be", "biased", "toward", "whichever", "part", "of", "the", "boundary", "is", "most", "complex", "and", "contains", "the", "most", "pixels", ".", "The", "correct", "centroid", "location", "uses", "the", "pairs", "of", "coordinates", "i", "x", ",", "i", "y", "for", "each", "point", "in", "the", "shape", "boundary", ".", "The", "centroid", "of", "an", "irregular", "shape", "is", "calculated", "correctly", "using", "all", "of", "the", "pixels", "in", "an", "object", ".", "Area", "y", "C", "Area", "x", "C", "k", "i", "i", "y", "k", "i", "i", "x", "=", "=", "=", "=", "0", "0", ",", "-LRB-", "1", "-RRB-", "Area", "x", "x", "y", "y", "C", "Area", "y", "y", "x", "x", "C", "k", "i", "i", "i", "i", "i", "y", "k", "i", "i", "i", "i", "i", "x", "+", "=", "+", "=", "0", "2", "1", "2", "1", "0", "2", "1", "2", "1", "-RRB-", "-LRB-", "-RRB-", "-LRB-", ",", "-RRB-", "-LRB-", "-RRB-", "-LRB-", "-LRB-", "2", "-RRB-", "7", ".", "In", "roughly-rounded", "objects", ",", "a", "centroid", "is", "put", "at", "the", "same", "position", "at", "the", "center", "of", "the", "three-spoke", "type", "symmetry", "axes", ".", "Figure", "3.6", "The", "occlusion", "of", "a", "cup", ":", "Get", "a", "centroid", "after", "re-captured", "a", "shape", ".", "Figure", "3.7", "Get", "extremal", "points", "-LRB-", "r", ",", "l", "-RRB-", ",", "-LRB-", "r", ",", "l", "-RRB-", "'", "and", "-LRB-", "r", ",", "l", "-RRB-", "''", ",", "-LRB-", "r", ",", "l", "-RRB-", "''", "'", "and", "the", "maximum", "diameter", "of", "an", "object", ".", "Figure", "3.8", "Use", "the", "three", "spoke", "type", "symmetry", ":", "Match", "a", "center", "of", "the", "spoke", "to", "a", "centroid", "and", "parallel", "one", "of", "axes", "to", "the", "maximum", "diameter", ".", "Figure", "3.9", "Extend", "axes", "and", "make", "symmetry", "axes", ".", "Figure", "3.10", "Select", "a", "symmetry", "axis", "based", "on", "two", "regions", ",", "which", "are", "A", "and", "B.", "Figure", "3.11", "Find", "a", "region", "a", "'", "of", "occluded", "shape", "using", "a", "symmetry", "axis", "and", "add", "to", "a", "occluded", "shape", ".", "8", ".", "Axis", "Detection", ":", "The", "midpoint", "of", "the", "major", "axis", "is", "called", "the", "center", "of", "the", "ellipse", ".", "The", "minor", "axis", "is", "the", "line", "segment", "perpendicular", "to", "the", "major", "axis", "which", "also", "goes", "through", "the", "center", "and", "touches", "the", "ellipse", "at", "two", "points", ".", "In", "elliptical", "objects", ",", "we", "detect", "a", "symmetry", "axis", "based", "on", "the", "maximum", "diameter", "or", "the", "minimum", "diameter", ".", "To", "find", "a", "symmetry", "axis", "in", "roughly-rounded", "objects", ",", "one", "of", "axes", "of", "the", "three-spoke", "type", "symmetry", "axes", "is", "in", "parallel", "with", "the", "maximum", "diameter", "of", "an", "object", "as", "shown", "in", "Figure", "3.8", ".", "Based", "on", "occluded", "shape", "and", "region", ",", "we", "select", "a", "symmetry", "axis", "to", "estimate", "this", "region", "within", "an", "object", ".", "Figures", "3.9", "and", "3.10", "show", "how", "to", "select", "a", "symmetry", "axis", ".", "When", "we", "select", "an", "axis", "in", "roughly-rounded", "objects", ",", "we", "consider", "conditions", "as", "follows", ":", "Select", "axes", ",", "which", "do", "n't", "intersect", "the", "occluded", "region", ".", "3.9", "and", "3.10", "show", "how", "to", "select", "a", "symmetry", "axis", ".", "Select", "axes", ",", "which", "have", "a", "region", "with", "the", "maximum", "diameter", "l'", ".", "Area", "and", "perimeter", "are", "invariants", "as", "in", "equation", "3", ",", "compare", "the", "proportion", "of", "region", "A", "and", "B.", "B", "A", "Area", "Perimeter", "Area", "Perimeter", "-LRB-", "3", "-RRB-", "9", ".", "Using", "mirror", "symmetry", ",", "we", "can", "get", "points", "across", "an", "axis", ".", "We", "find", "points", "on", "the", "contour", "across", "an", "axis", "which", "have", "the", "same", "length", "l'", "and", "the", "same", "angle", "corresponding", "to", "the", "axis", "that", "is", "perpendicular", "to", "a", "symmetry", "axis", ",", "but", "the", "distance", "between", "axis", "and", "points", "may", "or", "may", "not", "be", "the", "same", ".", "10", ".", "Capture", "a", "region", "a", "'", ",", "move", "the", "captured", "region", "to", "the", "occluded", "shape", "using", "the", "mirror", "symmetry", ",", "and", "add", "to", "these", "regions", "as", "shown", "in", "Figure", "3.4", ",", "3.5", ",", "and", "3.11", ".", "11", ".", "Re-compute", "shape", "measurements", "such", "as", "area", ",", "diameters", ",", "and", "perimeter", "using", "RLC", "lines", "from", "re-captured", "shape", "of", "an", "object", ".", "Then", ",", "re-compute", "shape", "parameters", "based", "on", "measurements", ".", "12", ".", "Apply", "to", "a", "classifier", ".", "From", "the", "above", "discussions", ",", "we", "described", "how", "to", "reconstruct", "and", "estimate", "the", "partially", "occluded", "shape", "and", "region", "of", "an", "object", "and", "how", "to", "find", "the", "best", "matching", "class", "of", "partially", "occluded", "objects", "after", "the", "estimation", ".", "1192", "In", "the", "sections", ",", "we", "evaluate", "and", "describe", "the", "results", "of", "partial", "object", "recognition", "by", "our", "proposed", "a", "method", ".", "We", "have", "selected", "190", "partially", "occluded", "objects", "of", "images", "from", "electronic", "catalogs", "on", "the", "Internet", "as", "well", "as", "manipulated", "images", ".", "We", "assume", "that", "occluded", "objects", "have", "more", "than", "50", "%", "visibility", "of", "objects", ",", "and", "images", "of", "catalogs", "contain", "partially", "occluded", "objects", ".", "The", "objects", "are", "categorized", "by", "semantic", "meanings", "such", "as", "cup", "and", "plate", ".", "In", "addition", ",", "our", "approaches", "and", "experiments", "are", "limited", "to", "cups", "and", "plates", "since", "we", "use", "roughly-rounded", "or", "elliptical", "objects", ".", "More", "precisely", ",", "the", "database", "contains", "32", "objects", "from", "different", "viewpoints", "and", "images", "of", "97", "objects", "comprising", "image", "plane", "rotations", "and", "scale", "changes", ".", "In", "sample", "images", ",", "we", "have", "extracted", "image", "features", "of", "partially", "occluded", "objects", "such", "as", "shape", "and", "texture", ".", "We", "experimented", "with", "shape", "reconstruction", "based", "on", "the", "contour", "of", "objects", "using", "symmetry", "properties", ".", "We", "assumed", "that", "inputs", "are", "not", "correctly", "classified", "and", "have", "occlusion", ".", "We", "experimented", "with", "samples", "such", "as", "plates", "and", "cups", "to", "reconstruct", "the", "occluded", "shape", "of", "objects", "as", "shown", "in", "Figure", "4.1", "and", "4.2", ".", "In", "Figure", "4.2", ",", "it", "is", "correctly", "classified", "after", "the", "reconstruction", "with", "an", "occlusion", "about", "30", "%", ".", "On", "the", "other", "hand", ",", "Figure", "4.1", "is", "not", "correctly", "classified", "after", "the", "reconstruction", "since", "the", "width", "of", "plate", "is", "too", "narrow", ".", "This", "experiment", "shows", "that", "our", "method", "heavily", "relies", "on", "shape", "of", "objects", ".", "Figure", "4.1", "Example", "of", "the", "occlusion", "with", "a", "Plate", ".", "Figure", "4.2", "Example", "of", "the", "manipulated", "occlusion", "with", "a", "Cup", ".", "Finally", ",", "we", "performed", "an", "experiment", "for", "the", "relationships", "between", "visible", "portion", "of", "objects", "and", "recognition", "rates", ".", "In", "order", "to", "evaluate", "the", "visibility", "of", "objects", ",", "we", "used", "manipulated", "images", "of", "cups", "and", "plates", ".", "Figure", "4.3", "shows", "the", "pattern", "of", "object", "recognition", "in", "the", "presence", "of", "partial", "occlusion", "of", "objects", "and", "the", "results", "obtained", "by", "the", "symmetric", "recognition", ".", "A", "visible", "portion", "of", "approximately", "67", "%", "is", "sufficient", "for", "the", "recognition", "of", "objects", "based", "on", "the", "contour", ".", "Figure", "4.3", "Object", "recognition", "in", "the", "presence", "of", "the", "occlusion", "of", "objects", "based", "on", "the", "contour", ".", "There", "are", "many", "efforts", "in", "object", "recognition", "for", "dealing", "with", "occlusion", ".", "The", "visible", "portion", "of", "objects", "required", "to", "recognize", "occluded", "objects", "are", "shown", "in", "Table", "4.1", ".", "Table", "4.1", "shows", "a", "simple", "comparison", "between", "our", "method", "and", "other", "existing", "methods", ".", "The", "probabilistic", "method", "based", "on", "local", "measurements", "requires", "small", "portions", "of", "objects", "to", "recognize", "the", "whole", "objects", ",", "but", "it", "required", "extensive", "training", "processes", "to", "recognize", "occluded", "objects", "-LSB-", "21", "-RSB-", "-LSB-", "20", "-RSB-", ".", "Our", "method", "shows", "good", "visibility", "of", "partial", "object", "recognition", "and", "do", "not", "need", "extensive", "training", "processes", ".", "Table", "4.1", "The", "visibility", "of", "object", "recognition", "in", "the", "presence", "of", "partial", "occlusion", ".", "Methods", "Visibility", "Training", "processes", "Appearance", "matching", "techniques", "using", "adaptive", "masks", "90", "%", "not", "required", "Probabilistic", "technique", "using", "Chi-square", "72", "%", "required", "Probabilistic", "technique", "using", "local", "measurements", "34", "%", "required", "Contour-based", "approach", "using", "symmetry", "67", "%", "not", "required", "In", "order", "to", "measure", "the", "influence", "of", "occlusion", "and", "compare", "its", "impact", "on", "the", "recognition", "performance", "of", "the", "different", "methods", ",", "we", "performed", "an", "experiment", "as", "follows", ".", "Figure", "4.4", "summarizes", "the", "recognition", "results", "for", "different", "visible", "object", "portions", ".", "For", "each", "test", "object", ",", "we", "varied", "the", "visible", "object", "portion", "from", "20", "%", "to", "100", "%", "and", "recorded", "the", "recognition", "results", "using", "Chi-square", "divergence", "and", "our", "method", ".", "Figure", "4.4", "Experimental", "results", "with", "occlusion", ".", "1193", "The", "results", "show", "that", "our", "method", "clearly", "obtains", "better", "results", "than", "Chi-square", "divergence", ".", "Using", "only", "60", "%", "of", "the", "object", "area", ",", "almost", "80", "%", "of", "the", "objects", "are", "still", "recognized", ".", "This", "confirms", "that", "our", "method", "is", "capable", "of", "reliable", "recognition", "in", "the", "presence", "of", "occlusion", ".", "Table", "4.2", "Summary", "of", "Object", "Recognition", "Methods", "for", "dealing", "with", "Occlusion", ".", "Methods", "Occlusion", "Scale", "changes", "Object", "Pose", "Rotation", "Bischof", "et", "al.", "-LSB-", "1", "-RSB-", "Yes", "Yes", "No", "No", "Edwards", "et", "al.", "-LSB-", "6", "-RSB-", "Yes", "Yes", "No", "Yes", "-LRB-", "limited", "-RRB-", "Ohba", "et", "al.", "-LSB-", "16", "-RSB-", "Yes", "No", "Yes", "No", "Rao", "-LSB-", "18", "-RSB-", "Yes", "No", "Yes", "No", "Jacob", "et", "al.", "-LSB-", "11", "-RSB-", "Yes", "No", "Yes", "No", "Krumm", "-LSB-", "13", "-RSB-", "Yes", "No", "No", "NO", "Contour-based", "using", "symmetry", "Yes", "Yes", "Yes", "-LRB-", "limited", "-RRB-", "Yes", "Table", "4.2", "summarizes", "the", "various", "object", "recognition", "methods", ".", "The", "table", "indicates", "whether", "the", "methods", "can", "handle", "occlusion", ",", "rotation", ",", "pose", ",", "and", "changes", "in", "the", "size", "of", "objects", "in", "the", "database", ".", "Unlike", "the", "other", "methods", ",", "our", "method", "can", "handle", "scale", "change", ",", "object", "pose", ",", "and", "rotated", "objects", "with", "occlusion", ",", "even", "though", "our", "method", "has", "minor", "limitations", "of", "object", "poses", ".", "In", "this", "paper", ",", "we", "have", "discussed", "how", "to", "estimate", "parameters", "and", "to", "reconstruct", "the", "occluded", "shape", "of", "partial", "objects", "in", "image", "databases", ".", "In", "order", "to", "reconstruct", "occluded", "shapes", ",", "we", "used", "symmetry", ",", "which", "provides", "powerful", "method", "for", "the", "partial", "object", "recognition", ".", "Unlike", "the", "existing", "methods", ",", "our", "method", "tried", "to", "reconstruct", "occluded", "shapes", "and", "regions", "within", "objects", ",", "since", "most", "objects", "in", "our", "domain", "have", "symmetrical", "figures", ".", "However", ",", "we", "have", "limitations", "in", "the", "shape", "of", "objects", "and", "the", "occluded", "region", "of", "objects", ".", "For", "example", ",", "if", "a", "pan", "has", "an", "occlusion", "in", "handle", ",", "it", "can", "not", "correctly", "reconstruct", "and", "be", "recognized", ".", "Another", "minor", "limitation", "of", "our", "method", "is", "that", "a", "method", "is", "sensitive", "to", "the", "pose", "of", "an", "object", ".", "For", "example", ",", "if", "we", "can", "not", "see", "an", "ellipse", "due", "to", "the", "object", "'s", "pose", ",", "we", "can", "not", "recognize", "the", "object", ".", "After", "estimation", ",", "we", "have", "applied", "inputs", ",", "which", "include", "estimated", "parameters", ",", "to", "the", "existing", "classification", "trees", ",", "to", "get", "to", "the", "best", "matching", "class", ".", "All", "experiments", "are", "performed", "based", "on", "the", "classifier", "in", "earlier", "work", ".", "In", "experiments", ",", "the", "results", "show", "that", "the", "recognition", "of", "the", "occluded", "object", "is", "properly", "reconstructed", ",", "estimated", ",", "and", "classified", ",", "even", "though", "we", "have", "limited", "to", "the", "size", "of", "samples", ".", "In", "addition", ",", "we", "have", "experienced", "the", "power", "of", "the", "symmetry", "through", "experiments", ".", "-LSB-", "1", "-RSB-", "H.", "Bischof", "and", "A.", "Leonardis", ".", "Robust", "recognition", "of", "scaled", "eigenimages", "through", "a", "hierachical", "approach", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1998", ".", "-LSB-", "2", "-RSB-", "H.", "Blum", "and", "R.N.", "Nagel", ".", "Shape", "description", "using", "weighted", "symmetric", "axis", "features", ".", "Pattern", "Recognition", ",", "1978", ".", "-LSB-", "3", "-RSB-", "P.", "Chang", "and", "J.", "Krumm", ".", "Object", "Recognition", "with", "Color", "Cooccurrence", "Histograms", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1999", ".", "-LSB-", "4", "-RSB-", "J.", "Cho", "and", "N.", "Adam", ".", "Efficient", "Splitting", "Rules", "based", "on", "the", "Probabilities", "of", "Pre-Assigned", "Intervals", ".", "In", "IEEE", "Conference", "on", "Data", "Mining", ",", "2001", ".", "-LSB-", "5", "-RSB-", "J.", "Cho", ",", "A.", "Gangopadhyay", "and", "N.", "Adam", ".", "Feature", "Extraction", "for", "Content-based", "Image", "search", "in", "Electronic", "Commerce", ".", "In", "MIS/OA", "International", "Conference", ",", "2000", ".", "-LSB-", "6", "-RSB-", "J.", "Edwards", "and", "H.", "Murase", ".", "Appearance", "matching", "of", "occluded", "objects", "using", "coarse-to-fine", "adaptive", "masks", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1997", ".", "-LSB-", "7", "-RSB-", "A.", "W.", "Fitzgibbon", ",", "M.", "Pilu", ",", "and", "R.", "B.", "Fisher", ".", "Direct", "least", "squares", "fitting", "of", "ellipses", ".", "In", "International", "Conference", "on", "Pattern", "Recognition", ",", "1996", ".", "-LSB-", "8", "-RSB-", "M.", "Fleck", ".", "Local", "Rotational", "Symmetries", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1986", ".", "-LSB-", "9", "-RSB-", "C.", "Ho", "and", "L.", "Chan", ".", "A", "fast", "ellipse/circle", "detector", "using", "geometric", "symmetry", ".", "Pattern", "Recognition", ",", "1995", ".", "-LSB-", "10", "-RSB-", "Joachim", "Hornegger", ",", "Heinrich", "Niemann", ",", "and", "Robert", "Risack", ".", "Appearance-based", "object", "recognition", "using", "optimal", "feature", "transforms", ".", "Pattern", "Recognition", ",", "2000", ".", "-LSB-", "11", "-RSB-", "David", "W.", "Jacobs", "and", "Ronen", "Basri", ".", "3D", "to", "2D", "recognition", "with", "regions", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1997", ".", "-LSB-", "12", "-RSB-", "Grinnell", "Jones", "and", "Bir", "Bhanu", ".", "Recognition", "of", "articulated", "and", "occluded", "objects", ".", "IEEE", "Transaction", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "1999", ".", "-LSB-", "13", "-RSB-", "John", "Krumm", ".", "Object", "detection", "with", "vector", "quantized", "binary", "features", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1997", ".", "-LSB-", "14", "-RSB-", "Ales", "Leonardis", "and", "Horst", "Bishof", ".", "Dealing", "with", "Occlusions", "in", "the", "Eigenspace", "Approach", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1996", ".", "-LSB-", "15", "-RSB-", "David", "G.", "Lowe", ".", "Object", "Recognition", "from", "Local", "Scale-Invariant", "Features", ".", "In", "International", "Conference", "on", "Computer", "Vision", ",", "1999", ".", "-LSB-", "16", "-RSB-", "K.", "Ohba", "and", "K.", "Ikeuchi", ".", "Detectability", ",", "uniqueness", ",", "and", "reliability", "of", "eigen", "windows", "for", "stable", "verification", "of", "partially", "occluded", "objects", ".", "IEEE", "Trans", ".", "Pattern", "Anal", ".", "Mach", ",", "1997", ".", "-LSB-", "17", "-RSB-", "N.", "Rajpal", ",", "S.", "Chaudhury", ",", "and", "S.", "Banerjee", ".", "Recognition", "of", "partially", "occluded", "objects", "using", "neural", "network", "based", "indexing", ".", "Pattern", "Recognition", ",", "1999", ".", "-LSB-", "18", "-RSB-", "R.", "Rao", ".", "Dynamic", "appearance-based", "recognition", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1997", ".", "-LSB-", "19", "-RSB-", "John", "C.", "Russ", ".", "The", "Image", "Processing", "Handbook", ".", "CRC", "Press", ",", "3rd", "edition", ",", "1998", ".", "-LSB-", "20", "-RSB-", "Bernt", "Schiele", "and", "Alex", "Pentland", ".", "Probabilistic", "Object", "Recognition", "and", "Localization", ".", "In", "International", "Conference", "on", "Computer", "Vision", ",", "1999", ".", "-LSB-", "21", "-RSB-", "H.", "Schneiderman", "and", "T.", "Kanade", ".", "Probabilistic", "modeling", "of", "local", "appearance", "and", "spatial", "relationships", "for", "object", "recognition", ".", "In", "IEEE", "Conference", "on", "Computer", "Vision", "and", "Pattern", "Recognition", ",", "1998", "-LSB-", "22", "-RSB-", "W.", "Wu", "and", "M.", "J.", "Wang", ".", "Elliptical", "object", "detection", "by", "using", "its", "geometrical", "properties", ".", "Pattern", "Recognition", "1993", ".", "-LSB-", "23", "-RSB-", "Lance", "R.", "Williams", ".", "Topological", "reconstruction", "of", "a", "smooth", "manifold-solid", "from", "its", "occluding", "contour", ".", "Journal", "of", "Computer", "Vision", ",", "1997", ".", "1194"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["image", "symmetry", "object recognition", "occlusion", "recognition", "reconstruction", "estimation", "object", "contour"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "75", "document": ["Easy", "Language", "Extension", "With", "Meta-Aspectj", "Domain-specific", "languages", "hold", "the", "potential", "of", "automating", "the", "software", "development", "process", ".", "Nevertheless", ",", "the", "adop-tion", "of", "a", "domain-specific", "language", "is", "hindered", "by", "the", "difficulty", "of", "transitioning", "to", "different", "language", "syntax", "and", "employing", "a", "separate", "translator", "in", "the", "software", "build", "process", ".", "We", "present", "a", "methodology", "that", "simplifies", "the", "development", "and", "deployment", "of", "small", "language", "extensions", ",", "in", "the", "context", "of", "Java", ".", "The", "main", "language", "design", "principle", "is", "that", "of", "language", "extension", "through", "unobtrusive", "annotations", ".", "The", "main", "language", "implementation", "idea", "is", "to", "express", "the", "language", "as", "a", "generator", "of", "customized", "AspectJ", "aspects", ",", "using", "our", "Meta-AspectJ", "tool", ".", "The", "advantages", "of", "the", "approach", "are", "twofold", ".", "First", ",", "the", "tool", "integrates", "into", "an", "existing", "software", "application", "much", "as", "a", "regular", "API", "or", "library", ",", "instead", "of", "as", "a", "language", "extension", ".", "This", "means", "that", "the", "programmer", "can", "remove", "the", "language", "extension", "at", "any", "point", "and", "choose", "to", "implement", "the", "required", "functionality", "by", "hand", "without", "needing", "to", "rewrite", "the", "client", "code", ".", "Second", ",", "a", "mature", "language", "implementation", "is", "easy", "to", "achieve", "with", "little", "effort", "since", "AspectJ", "takes", "care", "of", "the", "low-level", "issues", "of", "interfacing", "with", "the", "base", "Java", "language", ".", "D.", "1.2", "-LSB-", "Programming", "Techniques", "-RSB-", ":", "Automatic", "Programming", ";", "D.", "2.13", "-LSB-", "Software", "Engineering", "-RSB-", ":", "Reusable", "Software", ";", "D.", "3.3", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Language", "Constructs", "and", "Features", "domain-specific", "languages", ",", "language", "extensions", "The", "idea", "of", "extensible", "languages", "has", "fascinated", "programmers", "for", "many", "decades", ",", "as", "evident", "by", "the", "extensibility", "fea", "This", "material", "is", "based", "upon", "work", "supported", "by", "the", "National", "Science", "Foundation", "under", "Grants", "No", ".", "CCR-0220248", "and", "CCR-0238289", ".", "Copyright", "is", "held", "by", "the", "author/owner", ".", "ICSE", "'", "06", ",", "May", "20", "28", ",", "2006", ",", "Shanghai", ",", "China", ".", "ACM", "1-59593-085-X", "/", "06/0005", ".", "tures", "in", "languages", "as", "old", "as", "Lisp", ".", "From", "a", "Software", "Engineering", "standpoint", ",", "the", "main", "advantages", "of", "expressing", "a", "concept", "as", "a", "language", "feature", ",", "as", "opposed", "to", "a", "library", "API", ",", "are", "in", "terms", "of", "conciseness", ",", "safety", ",", "and", "performance", ".", "A", "language", "feature", "allows", "expressing", "the", "programmer", "'s", "intent", "much", "more", "concisely", "--", "in", "contrast", ",", "libraries", "are", "limited", "to", "a", "function", "-", "or", "method-call", "syntax", ".", "A", "language", "feature", "also", "allow", "better", "static", "error", "checking", "--", "a", "library", "can", "only", "check", "the", "static", "types", "of", "arguments", "of", "a", "function", "call", "against", "the", "declared", "types", "of", "the", "formals", ".", "Finally", ",", "a", "language", "feature", "can", "take", "advantage", "of", "context", "information", "and", "employ", "an", "optimized", "implementation", ",", "while", "a", "library", "routine", "can", "not", "be", "customized", "according", "to", "its", "uses", ".", "Despite", "these", "advantages", ",", "there", "are", "excellent", "reasons", "why", "full", "language", "extensibility", "is", "undesirable", ".", "Changing", "the", "syntax", "and", "semantics", "of", "a", "programming", "language", "is", "confusing", "and", "can", "lead", "to", "incomprehensible", "code", ".", "Furthermore", ",", "programming", "languages", "are", "complex", "entities", ",", "designed", "to", "provide", "a", "small", "number", "of", "features", "but", "allow", "them", "to", "be", "combined", "as", "generally", "as", "possible", ".", "A", "new", "feature", "can", "either", "increase", "the", "complexity", "of", "the", "language", "implementation", "significantly", "-LRB-", "because", "of", "interactions", "with", "all", "existing", "features", "-RRB-", ",", "or", "will", "need", "to", "be", "limited", "in", "its", "interactions", ",", "which", "is", "a", "bad", "language", "design", "principle", "that", "leads", "to", "single-use", "features", "and", "design", "bloat", ".", "In", "past", "work", "-LSB-", "3", "-RSB-", ",", "we", "have", "advocated", "expressing", "small", "language", "extensions", "purely", "through", "unobtrusive", "annotations", ".", "Indeed", ",", "the", "introduction", "of", "user-defined", "annotations", "in", "mainstream", "programming", "languages", ",", "such", "as", "C#", "and", "Java", ",", "has", "allowed", "specialized", "language", "extensions", "-LRB-", "e.g.", ",", "for", "distributed", "computing", ",", "persistence", ",", "or", "real-time", "programming", "-RRB-", "to", "be", "added", "without", "changing", "the", "base", "syntax", ".", "We", "believe", "that", "the", "approach", "of", "limited", "language", "extension", "through", "annotations", "meshes", "very", "well", "with", "an", "implementation", "technique", "that", "uses", "our", "Meta-AspectJ", "-LRB-", "MAJ", "-RRB-", "tool", "-LSB-", "4", "-RSB-", "to", "express", "the", "semantics", "of", "the", "language", "extension", ".", "Specifically", ",", "MAJ", "is", "a", "language", "that", "allows", "writing", "programs", "that", "generate", "aspects", "in", "the", "AspectJ", "language", "-LSB-", "1", "-RSB-", ".", "The", "programmer", "can", "easily", "express", "an", "extension", "to", "the", "Java", "language", "as", "a", "program", "that", ":", "a", "-RRB-", "reads", "annotations", "and", "type", "information", "from", "an", "existing", "program", "using", "Java", "reflection", ";", "b", "-RRB-", "outputs", "a", "customized", "AspectJ", "aspect", "that", "transforms", "the", "original", "program", "according", "to", "the", "information", "in", "the", "annotation", ";", "c", "-RRB-", "executes", "the", "generated", "aspect", "by", "using", "the", "standard", "AspectJ", "compiler", ".", "In", "other", "words", ",", "our", "approach", "uses", "the", "AspectJ", "language", "as", "a", "compiler", "back-end", ".", "AspectJ", "code", "is", "not", "written", "by", "the", "application", "programmer", "but", "generated", "by", "the", "language", "865", "extension", ",", "for", "the", "sole", "purpose", "of", "expressing", "program", "transformations", "easily", "and", "generally", ".", "This", "is", "appropriate", ",", "as", "AspectJ", "embodies", "the", "Aspect-Oriented", "Programming", "-LSB-", "2", "-RSB-", "philosophy", "of", "expressing", "program", "enhancements", "orthogonally", "and", "independently", "of", "the", "original", "source", "code", ".", "Our", "approach", "has", "the", "advantage", "of", "simplifying", "the", "implementation", "of", "the", "language", "extension", "significantly", ",", "without", "encouraging", "undisciplined", "language", "extension", "-LRB-", "since", "the", "only", "extensions", "allowed", "are", "through", "annotations", "-RRB-", ".", "Specifically", ",", "the", "approach", "leverages", "the", "engineering", "sophistication", "of", "the", "AspectJ", "compiler", "implementation", "and", "its", "provisions", "for", "dealing", "correctly", "with", "different", "Java", "language", "features", ".", "If", "a", "programmer", "were", "to", "replicate", "the", "same", "effort", "by", "hand", ",", "she", "would", "likely", "need", "to", "reproduce", "much", "of", "the", "AspectJ", "compiler", "complexity", ".", "The", "purpose", "of", "this", "paper", "is", "to", "support", "the", "idea", "of", "implementing", "small", "language", "extensions", "as", "programs", "that", "produce", "aspects", ".", "We", "have", "recently", "implemented", "a", "number", "of", "such", "small", "extensions", "to", "Java", "and", "they", "all", "exhibit", "a", "striking", "simplicity", ".", "Specifically", ",", "we", "did", "not", "have", "to", "implement", "-LRB-", "or", "extend", "-RRB-", "a", "Java", "parser", ",", "we", "did", "not", "need", "to", "deal", "with", "syntax", "tree", "pattern", "matching", "and", "transformation", ",", "and", "we", "did", "not", "need", "to", "provide", "special", "handling", "for", "many", "Java", "complexities", ".", "The", "combined", "annotations-MAJ", "approach", "ensured", "that", "our", "small", "language", "extensions", "were", "implementable", "in", "a", "few", "hundreds", "of", "lines", "of", "code", ",", "without", "sacrificing", "generality", "in", "their", "conditions", "of", "use", ".", "We", "discuss", "two", "such", "extensions", "in", "detail", ",", "after", "first", "introducing", "the", "MAJ", "language", ".", "MAJ", "is", "an", "extension", "of", "Java", "that", "allows", "writing", "programs", "that", "generate", "AspectJ", "source", "code", ".", "MAJ", "offers", "two", "operators", "for", "creating", "AspectJ", "code", "fragments", ":", "`", "-LSB-", "...", "-RSB-", "-LRB-", "``", "quote", "''", "-RRB-", "and", "#", "-LSB-", "...", "-RSB-", "-LRB-", "``", "unquote", "''", "-RRB-", ".", "The", "quote", "operator", "creates", "representations", "of", "AspectJ", "code", "fragments", ".", "Parts", "of", "these", "representations", "can", "be", "variable", "and", "are", "desig-nated", "by", "the", "unquote", "operator", "-LRB-", "instances", "of", "unquote", "can", "only", "occur", "inside", "a", "quoted", "code", "fragment", "-RRB-", ".", "For", "example", ",", "the", "value", "of", "the", "MAJ", "expression", "`", "-LSB-", "call", "-LRB-", "*", "*", "-LRB-", ".", ".", "-RRB-", "-RRB-", "-RSB-", "is", "a", "data", "structure", "that", "represents", "the", "abstract", "syntax", "tree", "for", "the", "fragment", "of", "AspectJ", "code", "call", "-LRB-", "*", "*", "-LRB-", ".", ".", "-RRB-", "-RRB-", ".", "Similarly", ",", "the", "MAJ", "expression", "`", "-LSB-", "!", "within", "-LRB-", "#className", "-RRB-", "-RSB-", "is", "a", "quoted", "pattern", "with", "an", "unquoted", "part", ".", "Its", "value", "depends", "on", "the", "value", "of", "the", "variable", "className", ".", "If", ",", "for", "instance", ",", "className", "holds", "the", "identifier", "``", "SomeClass", "''", ",", "the", "value", "of", "`", "-LSB-", "!", "within", "-LRB-", "#className", "-RRB-", "-RSB-", "is", "the", "abstract", "syntax", "tree", "for", "the", "expression", "!", "within", "-LRB-", "SomeClass", "-RRB-", ".", "MAJ", "also", "introduces", "a", "new", "keyword", "infer", "that", "can", "be", "used", "in", "place", "of", "a", "type", "name", "when", "a", "new", "variable", "is", "being", "declared", "and", "initialized", "to", "a", "quoted", "expression", ".", "For", "example", ",", "we", "can", "write", ":", "infer", "pct1", "=", "`", "-LSB-", "call", "-LRB-", "*", "*", "-LRB-", ".", ".", "-RRB-", "-RRB-", "-RSB-", ";", "This", "declares", "a", "variable", "pct1", "that", "can", "be", "used", "just", "like", "any", "other", "program", "variable", ".", "For", "instance", ",", "we", "can", "unquote", "it", ":", "infer", "adv1", "=", "`", "-LSB-", "void", "around", "-LRB-", "-RRB-", ":", "#pct1", "-LCB-", "-RCB-", "-RSB-", ";", "This", "creates", "the", "abstract", "syntax", "tree", "for", "a", "piece", "of", "AspectJ", "code", "defining", "-LRB-", "empty", "-RRB-", "advice", "for", "a", "pointcut", ".", "Of", "course", ",", "since", "AspectJ", "is", "an", "extension", "of", "Java", ",", "any", "regular", "Java", "program", "fragment", "can", "be", "generated", "using", "MAJ.", "We", "can", "now", "see", "a", "full", "MAJ", "method", "that", "generates", "a", "trivial", "but", "complete", "AspectJ", "file", ":", "void", "generateTrivialLogging", "-LRB-", "String", "classNm", "-RRB-", "-LCB-", "infer", "aspectCode", "=", "`", "-LSB-", "package", "MyPackage", ";", "aspect", "#", "-LSB-", "classNm", "+", "``", "Aspect", "''", "-RSB-", "-LCB-", "before", ":", "call", "-LRB-", "*", "#classNm", ".", "*", "-LRB-", ".", ".", "-RRB-", "-RRB-", "-LCB-", "System.out.println", "-LRB-", "``", "Method", "called", "''", "-RRB-", ";", "-RCB-", "-RCB-", "-RSB-", ";", "System.out.println", "-LRB-", "aspectCode.unparse", "-LRB-", "-RRB-", "-RRB-", ";", "-RCB-", "The", "generated", "aspect", "causes", "a", "message", "to", "be", "printed", "before", "every", "call", "of", "a", "method", "in", "a", "class", ".", "The", "name", "of", "the", "affected", "class", "is", "a", "parameter", "passed", "to", "the", "MAJ", "routine", ".", "This", "code", "also", "shows", "the", "unparse", "method", "that", "MAJ", "supports", "for", "creating", "a", "text", "representation", "of", "their", "code", ".", "Our", "first", "language", "extension", "is", "simple", "but", "a", "good", "example", "to", "our", "approach", ",", "since", "it", "can", "be", "defined", "very", "quickly", "and", "it", "is", "hard", "to", "implement", "with", "alternate", "means", ".", "The", "Java", "language", "ensures", "that", "a", "class", "can", "not", "declare", "to", "``", "implement", "''", "an", "interface", "unless", "it", "provides", "implementations", "for", "all", "of", "its", "methods", ".", "Nevertheless", ",", "this", "often", "results", "in", "very", "tedious", "code", ".", "For", "instance", ",", "it", "is", "very", "common", "in", "code", "dealing", "with", "the", "Swing", "graphics", "library", "to", "implement", "an", "event-listener", "interface", "with", "many", "methods", ",", "yet", "provide", "empty", "implementations", "for", "most", "of", "them", "because", "the", "application", "does", "not", "care", "about", "the", "corresponding", "events", ".", "The", "example", "code", "below", "is", "representative", ":", "private", "class", "SomeListener", "implements", "MouseListener", ",", "MouseMotionListener", "-LCB-", "public", "void", "mousePressed", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "...", "/", "/", "do", "something", "-RCB-", "public", "void", "mouseDragged", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "...", "/", "/", "do", "something", "-RCB-", "/", "/", "the", "rest", "are", "not", "needed", ".", "Provide", "empty", "bodies", ".", "public", "void", "mouseReleased", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "-RCB-", "public", "void", "mouseEntered", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "-RCB-", "public", "void", "mouseExited", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "-RCB-", "public", "void", "mouseMoved", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "-RCB-", "-RCB-", "Of", "course", ",", "the", "programmer", "could", "avoid", "providing", "the", "empty", "method", "bodies", "on", "a", "per-interface", "basis", ",", "by", "associating", "each", "interface", "with", "a", "class", "that", "by", "default", "provides", "empty", "implementations", "of", "all", "interface", "methods", ".", "Then", "a", "client", "class", "can", "inherit", "the", "empty", "implementations", "and", "only", "provide", "implementations", "for", "the", "methods", "it", "needs", ".", "This", "pattern", "is", "indeed", "supported", "in", "Swing", "code", "-LRB-", "through", "library", "classes", "called", "adapters", "-RRB-", ",", "but", "it", "is", "usually", "not", "possible", "to", "employ", "since", "the", "listener", "class", "may", "already", "have", "another", "superclass", ".", "Instead", ",", "it", "would", "be", "nice", "to", "provide", "a", "simple", "Java", "language", "extension", "implemented", "as", "an", "annotation", ".", "The", "implementation", "of", "the", "extension", "would", "be", "responsible", "for", "finding", "the", "unimple-mented", "methods", "and", "supplying", "empty", "implementations", "by", "default", "-LRB-", "or", "implementations", "that", "just", "return", "a", "default", "primitive", "or", "null", "value", ",", "in", "the", "case", "of", "methods", "that", "have", "a", "return", "866", "type", "-RRB-", ".", "In", "this", "case", ",", "the", "above", "class", "could", "be", "written", "more", "simply", "as", ":", "@Implements", "-LRB-", "-LCB-", "``", "MouseListener", "''", ",", "``", "MouseMotionListener", "''", "-RCB-", "-RRB-", "public", "class", "SomeListener", "-LCB-", "public", "void", "mousePressed", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "...", "/", "/", "do", "something", "-RCB-", "public", "void", "mouseDragged", "-LRB-", "MouseEvent", "event", "-RRB-", "-LCB-", "...", "/", "/", "do", "something", "-RCB-", "-RCB-", "Of", "course", ",", "this", "extension", "should", "be", "used", "carefully", "since", "it", "weakens", "the", "tests", "of", "interface", "conformance", "performed", "by", "the", "Java", "compiler", ".", "We", "implemented", "the", "above", "Java", "extension", "using", "MAJ.", "The", "code", "for", "the", "implementation", "was", "less", "than", "200", "lines", "long", ",", "with", "most", "of", "the", "complexity", "in", "the", "traversal", "of", "Java", "classes", ",", "interfaces", ",", "and", "their", "methods", "using", "reflection", ".", "The", "code", "processes", "a", "set", "of", "given", "Java", "classes", "and", "retrieves", "the", "ones", "with", "an", "Implements", "annotation", ".", "It", "then", "finds", "all", "methods", "that", "are", "in", "any", "of", "the", "interfaces", "passed", "as", "arguments", "to", "the", "Implements", "annotation", "and", "are", "not", "implemented", "by", "the", "current", "class", ".", "For", "each", "such", "method", ",", "code", "is", "generated", "in", "an", "AspectJ", "aspect", "to", "add", "an", "appropriate", "method", "implementation", "to", "the", "class", ".", "For", "instance", ",", "the", "code", "to", "add", "the", "method", "to", "the", "class", "in", "the", "case", "of", "a", "void", "return", "type", "is", ":", "infer", "newMethod", "=", "`", "-LSB-", "public", "void", "#methodName", "-LRB-", "#formals", "-RRB-", "-LCB-", "-RCB-", "-RSB-", ";", "aspectMembers.add", "-LRB-", "newMethod", "-RRB-", ";", "Finally", ",", "the", "class", "needs", "to", "be", "declared", "to", "implement", "the", "interfaces", "specified", "by", "the", "annotation", ".", "This", "is", "easily", "done", "by", "emitting", "the", "appropriate", "AspectJ", "code", ":", "infer", "dec", "=", "`", "-LSB-", "declare", "parents", ":", "#", "-LSB-", "c.getName", "-LRB-", "-RRB-", "-RSB-", "implements", "#", "-LSB-", "iface.getName", "-LRB-", "-RRB-", "-RSB-", ";", "-RSB-", ";", "The", "final", "aspect", "-LRB-", "slightly", "simplified", "for", "formatting", "reasons", "-RRB-", "generated", "for", "our", "earlier", "listener", "class", "example", "is", ":", "public", "aspect", "SomeListenerImplementsAspect1", "-LCB-", "void", "SomeListener.mouseEntered", "-LRB-", "MouseEvent", "e", "-RRB-", "-LCB-", "-RCB-", "void", "SomeListener.mouseExited", "-LRB-", "MouseEvent", "e", "-RRB-", "-LCB-", "-RCB-", "void", "SomeListener.mouseMoved", "-LRB-", "MouseEvent", "e", "-RRB-", "-LCB-", "-RCB-", "void", "SomeListener.mouseReleased", "-LRB-", "MouseEvent", "e", "-RRB-", "-LCB-", "-RCB-", "declare", "parents", ":", "SomeListener", "implements", "MouseListener", ";", "declare", "parents", ":", "SomeListener", "implements", "MouseMotionListener", ";", "-RCB-", "This", "aspect", "performs", "exactly", "the", "modifications", "required", "to", "the", "original", "class", "so", "that", "it", "correctly", "implements", "the", "MouseListener", "and", "MouseMotionListener", "interfaces", ".", "We", "invite", "the", "reader", "to", "consider", "how", "else", "this", "language", "extension", "might", "be", "implemented", ".", "Our", "approach", "of", "using", "annotations", "in", "combination", "with", "MAJ", "yielded", "a", "very", "simple", "implementation", "by", "letting", "AspectJ", "deal", "with", "most", "of", "the", "complexities", "of", "Java", ".", "Specifically", ",", "we", "did", "not", "have", "to", "deal", "with", "the", "low-level", "complexities", "of", "either", "Java", "source", "syntax", "or", "Java", "bytecode", ".", "For", "instance", ",", "we", "did", "not", "have", "to", "do", "any", "code", "parsing", "to", "find", "the", "class", "body", "or", "declaration", "that", "needs", "to", "be", "modified", ".", "Dealing", "with", "Java", "syntactic", "sugar", ",", "such", "as", "inner", "classes", ",", "was", "automatic", ".", "We", "did", "not", "need", "to", "do", "a", "program", "transformation", "to", "add", "the", "implements", "clauses", "or", "the", "extra", "methods", "to", "the", "class", ".", "Similarly", ",", "we", "did", "not", "need", "to", "worry", "about", "the", "valid", "syntax", "for", "adding", "an", "implemented", "interface", "if", "the", "class", "already", "implements", "another", ".", "Our", "second", "example", "language", "extension", "addresses", "a", "common", "programming", "need", ",", "especially", "in", "server-side", "programming", ".", "Software", "applications", "often", "find", "the", "need", "for", "pooling", "frequently-used", "objects", "with", "high", "instantiation", "costs", ".", "We", "use", "the", "following", "database", "connection", "class", "as", "a", "running", "example", ":", "public", "class", "DBConnection", "-LCB-", "public", "DBConnection", "-LRB-", "String", "dbURI", ",", "String", "userName", ",", "String", "password", "-RRB-", "-LCB-", "...", "-RCB-", "public", "void", "open", "-LRB-", "-RRB-", "-LCB-", "...", "-RCB-", "public", "void", "close", "-LRB-", "-RRB-", "-LCB-", "...", "-RCB-", "-RCB-", "The", "cost", "of", "an", "open", "-LRB-", "-RRB-", "call", "is", "very", "high", "for", "a", "database", "connection", ".", "In", "applications", "concerned", "with", "performance", ",", "such", "as", "high-volume", "websites", "with", "lots", "of", "database", "requests", ",", "one", "often", "finds", "the", "need", "to", "pool", "database", "connections", "and", "keep", "them", "open", ",", "instead", "of", "repeatedly", "creating", "new", "ones", "and", "opening", "them", ".", "Making", "a", "class", "such", "as", "DBConnection", "into", "a", "``", "pooled", "''", "class", "involves", "at", "the", "very", "least", "creating", "a", "pooling", "manager", "class", "that", "knows", "how", "to", "manage", "instances", "of", "the", "class", "being", "pooled", ".", "A", "different", "pooling", "manager", "class", "is", "needed", "for", "each", "class", "being", "pooled", ",", "since", "the", "manager", "needs", "to", "have", "class-specific", "information", "such", "as", "how", "to", "instantiate", "a", "new", "instance", "of", "the", "class", "when", "the", "pool", "is", "running", "low", "-LRB-", "e.g.", ",", "DBConnection", "objects", "are", "created", "by", "a", "constructor", "call", ",", "followed", "by", "an", "open", "-LRB-", "-RRB-", "call", "-RRB-", ",", "and", "how", "to", "uniquely", "identify", "objects", "of", "the", "same", "class", "that", "belong", "to", "different", "pools", "-LRB-", "e.g.", ",", "DBConnection", "objects", "of", "different", "dbURI", ",", "userName", ",", "and", "password", "combinations", "need", "to", "be", "in", "different", "pools", ",", "and", "the", "pooling", "manager", "needs", "to", "understand", "which", "pool", "to", "fetch", "objects", "from", "when", "a", "request", "arrives", "-RRB-", ".", "We", "expressed", "the", "pooling", "concept", "as", "a", "language", "feature", "that", "can", "used", "transparently", "with", "any", "Java", "class", ",", "as", "long", "as", "some", "broad", "properties", "hold", "regarding", "its", "construction", "and", "instantiation", "interface", ".", "The", "rest", "of", "the", "application", "will", "be", "completely", "oblivious", "to", "the", "change", ".", "This", "facilitates", "the", "application", "of", "pooling", "after", "a", "large", "code", "base", "which", "uses", "the", "class", "in", "its", "non-pooled", "form", "has", "been", "developed", ".", "Using", "our", "extension", ",", "converting", "a", "class", "to", "a", "pooled", "class", "involves", "only", "4", "annotations", ":", "@pooled", ",", "@constructor", ",", "@request", ",", "and", "@release", ".", "For", "example", ",", "to", "convert", "the", "DBConnection", "class", "into", "a", "``", "pooled", "''", "class", ",", "and", "to", "adapt", "an", "existing", "code", "base", "to", "using", "the", "pooled", "functionality", ",", "the", "user", "only", "has", "the", "add", "the", "following", "annotations", "to", "the", "code", ":", "@pooled", "-LRB-", "mgr", "=", "pooled.PoolTypes.BASIC", ",", "max", "=", "10", ",", "min", "=", "2", "-RRB-", "public", "class", "DBConnection", "-LCB-", "@constructor", "public", "DBConnection", "-LRB-", "String", "dbURI", ",", "String", "userName", ",", "String", "password", "-RRB-", "-LCB-", "...", "-RCB-", "867", "@request", "public", "void", "open", "-LRB-", "-RRB-", "-LCB-", "...", "-RCB-", "@release", "public", "void", "close", "-LRB-", "-RRB-", "-LCB-", "...", "-RCB-", "-RCB-", "The", "@pooled", "annotation", "indicates", "that", "class", "DBConnection", "should", "be", "pooled", ".", "It", "accepts", "parameters", "that", "can", "be", "used", "to", "customize", "the", "pooling", "policy", ".", "@constructor", "annotates", "the", "constructor", "call", "whose", "parameters", "serve", "as", "unique", "identifiers", "for", "different", "kinds", "of", "DBConnection", "objects", ".", "In", "this", "example", ",", "DBConnection", "objects", "with", "different", "dbURI", ",", "userName", ",", "and", "password", "combinations", "should", "be", "maintained", "separately", ".", "@request", "annotates", "the", "method", "that", "signals", "for", "the", "request", "of", "a", "pooled", "object", ",", "and", "@release", "annotates", "the", "method", "call", "that", "signals", "for", "the", "return", "of", "the", "pooled", "object", "back", "to", "the", "pooling", "manager", ".", "The", "implementation", "of", "this", "extension", "using", "MAJ", "is", "less", "than", "400", "lines", "of", "code", ".", "The", "MAJ", "program", "searches", "for", "classes", "annotated", "with", "@pooled", ",", "and", "generates", "two", "Java", "classes", "and", "one", "aspect", "to", "facilitate", "converting", "this", "class", "to", "be", "pooled", ".", "We", "next", "describe", "the", "generated", "code", "in", "more", "detail", ".", "The", "reader", "may", "want", "to", "consider", "in", "parallel", "how", "the", "same", "task", "could", "be", "accomplished", "through", "other", "means", ".", "Neither", "conventional", "Java", "facilities", "-LRB-", "i.e.", ",", "classes", "and", "generics", "-RRB-", "nor", "AspectJ", "alone", "would", "be", "sufficient", "for", "expressing", "the", "functionality", "we", "describe", "below", "in", "a", "general", "way", ",", "so", "that", "it", "can", "be", "applied", "with", "little", "effort", "to", "arbitrary", "unomdified", "classes", ".", "For", "instance", ",", "none", "of", "these", "facilities", "can", "be", "used", "to", "create", "a", "proxy", "class", "with", "methods", "with", "identical", "signatures", "as", "those", "of", "an", "arbitrary", "Java", "class", ".", "First", ",", "a", "pooling", "manager", "class", ",", "PoolMgrForDBConnection", ",", "is", "generated", "for", "DBConnection", ".", "The", "pooling", "manager", "class", "contains", "methods", "for", "requesting", "and", "releasing", "pooled", "DBConnection", "objects", ",", "as", "well", "as", "code", "to", "manage", "the", "expansion", "of", "the", "pool", "based", "on", "the", "min", "and", "max", "parameters", ".", "In", "order", "to", "retrofit", "an", "existing", "code", "base", "to", "use", "DBConnection", "as", "a", "pooled", "class", ",", "we", "need", "to", "introduce", "proxy", "objects", "that", "will", "be", "used", "wherever", "an", "object", "of", "the", "original", "class", "would", "exist", "in", "the", "application", "code", ".", "This", "is", "necessary", "as", "different", "objects", "from", "the", "perspective", "of", "the", "client", "code", "will", "correspond", "to", "the", "same", "pooled", "object", ".", "We", "generate", "a", "proxy", "class", "as", "a", "subclass", "of", "the", "pooled", "class", ".", "In", "our", "example", ":", "DBConnection_Proxy", "extends", "DBConnection", ".", "All", "instances", "of", "the", "proxy", "class", "share", "a", "static", "reference", "to", "an", "instance", "of", "PoolMgrForDBConnection", ".", "Each", "proxy", "instance", "holds", "-LRB-", "non-static", "-RRB-", "references", "to", "the", "parameters", "to", "the", "@constructor", "constructor", "call", ",", "and", "the", "DBConnection", "object", "obtained", "from", "the", "pooling", "manager", ".", "The", "proxy", "class", "rewrites", "the", "@request", "and", "@release", "methods", ":", "the", "@request", "method", "is", "rewritten", "to", "obtain", "an", "object", "of", "DBConnection", "type", "from", "the", "pooling", "manager", ",", "using", "the", "unique", "identifiers", "kept", "from", "the", "constructor", "call", ",", "and", "the", "@release", "method", "returns", "the", "DBConnection", "method", "back", "to", "the", "pool", ",", "while", "setting", "the", "reference", "to", "this", "object", "to", "null", ".", "The", "MAJ", "code", "in", "the", "proxy", "takes", "care", "to", "exactly", "replicate", "the", "signature", "of", "the", "original", "methods", ",", "including", "modifiers", "and", "throws", "clauses", ".", "For", "instance", ",", "the", "@release", "method", "in", "the", "proxy", "is", "generated", "as", ":", "infer", "meth", "=", "`", "-LSB-", "#mods", "#ret", "#", "-LSB-", "m.getName", "-LRB-", "-RRB-", "-RSB-", "-LRB-", "#formals", "-RRB-", "#throwStmt", "-LCB-", "m_poolMgr", ".", "release", "-LRB-", "m_uniqueId", ",", "m_proxiedObj", "-RRB-", ";", "m_proxiedObj", "=", "null", ";", "-RCB-", "-RSB-", ";", "All", "other", "methods", "simply", "delegate", "to", "the", "same", "method", "in", "the", "superclass", ".", "The", "idea", "is", "to", "have", "variables", "declared", "to", "hold", "a", "DBConnection", "object", ",", "now", "hold", "a", "DBConnection_Proxy", "object", ".", "Therefore", ",", "to", "complete", "the", "``", "proxy", "''", "pattern", ",", "we", "need", "to", "change", "all", "the", "calls", "of", "new", "DBConnection", "-LRB-", "...", "-RRB-", "to", "new", "DBConnection_Proxy", "-LRB-", "...", "-RRB-", ".", "This", "is", "the", "role", "of", "our", "generated", "aspect", ":", "tedious", "recoding", "effort", "is", "easily", "replaced", "by", "an", "aspect", ":", "the", "aspect", "intercepts", "all", "the", "constructor", "calls", "of", "DBConnection", ",", "and", "returns", "an", "object", "instantiated", "by", "calling", "new", "DBConnection_Proxy", "-LRB-", "...", "-RRB-", ".", "In", "summary", ",", "a", "user", "can", "easily", "turn", "a", "class", "into", "a", "pooled", "class", ",", "and", "retrofit", "any", "existing", "code", "base", "to", "use", "this", "class", "in", "its", "new", ",", "pooled", "form", ".", "The", "client", "code", "does", "not", "need", "to", "be", "hand-edited", "at", "all", ",", "other", "than", "with", "the", "introduction", "of", "our", "4", "annotations", ".", "We", "believe", "that", "the", "years", "to", "come", "will", "see", "the", "emergence", "of", "a", "healthy", "ecology", "of", "small", "language", "extensions", "based", "on", "the", "annotation", "features", "of", "Java", "and", "C#", ".", "There", "are", "already", "major", "examples", "of", "such", "extensions", ",", "especially", "with", "distribution", "-", "and", "persistence-related", "annotations", ",", "implemented", "in", "the", "context", "of", "J2EE", "Application", "Servers", ".", "Such", "extensions", "can", "be", "implemented", "with", "heavyweight", "support-e", ".", "g.", ",", "parsing", "files", ",", "or", "recognizing", "annotations", "in", "a", "class", "loader", "and", "performing", "bytecode", "manipulation", ".", "In", "fact", ",", "the", "JBoss", "AOP", "mechanism", "-LRB-", "in", "whose", "early", "design", "and", "implementation", "we", "have", "played", "an", "active", "role", "-RRB-", "is", "the", "foremost", "example", "of", "infrastructure", "used", "to", "implement", "annotation-based", "language", "extensions", ".", "Nevertheless", ",", "experience", "from", "compilers", "in", "general-purpose", "languages", "has", "shown", "that", "it", "is", "beneficial", "to", "develop", "a", "mature", "back-end", "language", "and", "implement", "high-level", "features", "by", "translating", "to", "that", "back-end", ".", "Our", "approach", "proposes", "that", "AspectJ", "is", "well-suited", "as", "such", "a", "back-end", "language", "for", "small", "Java", "language", "extensions", "and", "that", "generating", "AspectJ", "code", "offers", "significant", "simplicity", "benefits", ".", "In", "the", "future", "we", "plan", "to", "support", "this", "claim", "with", "more", "examples", "and", "perform", "a", "thorough", "comparison", "with", "competing", "mechanisms", ".", "-LSB-", "1", "-RSB-", "G.", "Kiczales", ",", "E.", "Hilsdale", ",", "J.", "Hugunin", ",", "M.", "Kersten", ",", "J.", "Palm", ",", "and", "W.", "G.", "Griswold", ".", "An", "overview", "of", "AspectJ", ".", "In", "ECOOP", "'", "01", ":", "Proceedings", "of", "the", "15th", "European", "Conference", "on", "Object-Oriented", "Programming", ",", "pages", "327", "353", ",", "London", ",", "UK", ",", "2001", ".", "Springer-Verlag", ".", "-LSB-", "2", "-RSB-", "G.", "Kiczales", ",", "J.", "Lamping", ",", "A.", "Menhdhekar", ",", "C.", "Maeda", ",", "C.", "Lopes", ",", "J.-M", ".", "Loingtier", ",", "and", "J.", "Irwin", ".", "Aspect-oriented", "programming", ".", "In", "M.", "Ak", "sit", "and", "S.", "Matsuoka", ",", "editors", ",", "Proceedings", "European", "Conference", "on", "Object-Oriented", "Programming", ",", "volume", "1241", ",", "pages", "220", "242", ".", "Springer-Verlag", ",", "Berlin", ",", "Heidelberg", ",", "and", "New", "York", ",", "1997", ".", "-LSB-", "3", "-RSB-", "Y.", "Smaragdakis", ".", "A", "personal", "outlook", "on", "generator", "research", ".", "In", "C.", "Lengauer", ",", "D.", "Batory", ",", "C.", "Consel", ",", "and", "M.", "Odersky", ",", "editors", ",", "Domain-Specific", "Program", "Generation", ".", "Springer-Verlag", ",", "2004", ".", "LNCS", "3016", ".", "-LSB-", "4", "-RSB-", "D.", "Zook", ",", "S.", "S.", "Huang", ",", "and", "Y.", "Smaragdakis", ".", "Generating", "AspectJ", "programs", "with", "meta-AspectJ", ".", "In", "Generative", "Programming", "and", "Component", "Engineering", "-LRB-", "GPCE", "-RRB-", ",", "pages", "1", "18", ".", "Springer-Verlag", ",", "October", "2004", ".", "868"], "doc_bio_tags": ["O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["simplicity", "language extension", "java", "language extensions", "annotation"], "abstractive_keyphrases": ["domain-specific languages", "domain-specific language", "meta-aspectj"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "6", "document": ["A", "Distributed", "3D", "Graphics", "Library", "We", "present", "Repo-3D", ",", "a", "general-purpose", ",", "object-oriented", "library", "for", "developing", "distributed", ",", "interactive", "3D", "graphics", "applications", "across", "a", "range", "of", "heterogeneous", "workstations", ".", "Repo-3D", "is", "designed", "to", "make", "it", "easy", "for", "programmers", "to", "rapidly", "build", "prototypes", "using", "a", "familiar", "multi-threaded", ",", "object-oriented", "programming", "paradigm", ".", "All", "data", "sharing", "of", "both", "graphical", "and", "non-graphical", "data", "is", "done", "via", "general-purpose", "remote", "and", "replicated", "objects", ",", "presenting", "the", "illusion", "of", "a", "single", "distributed", "shared", "memory", ".", "Graphical", "objects", "are", "directly", "distributed", ",", "circumventing", "the", "``", "duplicate", "database", "''", "problem", "and", "allowing", "programmers", "to", "focus", "on", "the", "application", "details", ".", "Repo-3D", "is", "embedded", "in", "Repo", ",", "an", "interpreted", ",", "lexically-scoped", ",", "distributed", "programming", "language", ",", "allowing", "entire", "applications", "to", "be", "rapidly", "prototyped", ".", "We", "discuss", "Repo-3D", "'s", "design", ",", "and", "introduce", "the", "notion", "of", "local", "variations", "to", "the", "graphical", "objects", ",", "which", "allow", "local", "changes", "to", "be", "applied", "to", "shared", "graphical", "structures", ".", "Local", "variations", "are", "needed", "to", "support", "transient", "local", "changes", ",", "such", "as", "highlighting", ",", "and", "responsive", "local", "editing", "operations", ".", "Finally", ",", "we", "discuss", "how", "our", "approach", "could", "be", "applied", "using", "other", "programming", "languages", ",", "such", "as", "Java", ".", "Categories", "and", "Subject", "Descriptors", ":", "D.", "1.3", "-LSB-", "Programming", "Techniques", "-RSB-", ":", "Concurrent", "Programming", "--", "Distributed", "Programming", ";", "H.", "4.1", "-LSB-", "Information", "Systems", "Applications", "-RSB-", ":", "Office", "Automation", "--", "Groupware", ";", "I.", "3.2", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Graphics", "Systems", "--", "Distributed/network", "graphics", ";", "I.", "3.6", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Methodology", "and", "Techniques", "--", "Graphics", "data", "structures", "and", "data", "types", ";", "I.", "3.7", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Three-Dimensional", "Graphics", "and", "Realism", "--", "Virtual", "reality", ".", "Traditionally", ",", "distributed", "graphics", "has", "referred", "to", "the", "architecture", "of", "a", "single", "graphical", "application", "whose", "components", "are", "distributed", "over", "multiple", "machines", "-LSB-", "14", ",", "15", ",", "19", ",", "27", "-RSB-", "-LRB-", "Figure", "1", "a", "-RRB-", ".", "By", "taking", "advantage", "of", "the", "combined", "power", "of", "multiple", "machines", ",", "and", "the", "particular", "features", "of", "individual", "machines", ",", "otherwise", "impractical", "applications", "became", "feasible", ".", "However", ",", "as", "machines", "have", "grown", "more", "powerful", "and", "application", "domains", "such", "as", "Computer", "1", ".", "-LCB-", "bm", ",", "feiner", "-RCB-", "@cs.columbia.edu", ",", "http://www.cs.columbia.edu/graphics", "Supported", "Cooperative", "Work", "-LRB-", "CSCW", "-RRB-", "and", "Distributed", "Virtual", "Environments", "-LRB-", "DVEs", "-RRB-", "have", "been", "making", "the", "transition", "from", "research", "labs", "to", "commercial", "products", ",", "the", "term", "distributed", "graphics", "is", "increasingly", "used", "to", "refer", "to", "systems", "for", "distributing", "the", "shared", "graphical", "state", "of", "multi-display/multi-person", ",", "distributed", ",", "interactive", "applications", "-LRB-", "Figure", "1b", "-RRB-", ".", "This", "is", "the", "definition", "that", "we", "use", "here", ".", "While", "many", "excellent", ",", "high-level", "programming", "libraries", "are", "available", "for", "building", "stand-alone", "3D", "applications", "-LRB-", "e.g.", "Inventor", "-LSB-", "35", "-RSB-", ",", "Performer", "-LSB-", "29", "-RSB-", ",", "Java", "3D", "-LSB-", "33", "-RSB-", "-RRB-", ",", "there", "are", "no", "similarly", "powerful", "and", "general", "libraries", "for", "building", "distributed", "3D", "graphics", "applications", ".", "All", "CSCW", "and", "DVE", "systems", "with", "which", "we", "are", "familiar", "-LRB-", "e.g.", ",", "-LSB-", "1", ",", "7", ",", "11", ",", "12", ",", "16", ",", "28", ",", "30", ",", "31", ",", "32", ",", "34", ",", "37", ",", "41", "-RSB-", "-RRB-", "use", "the", "following", "approach", ":", "A", "mechanism", "is", "provided", "for", "distributing", "application", "state", "-LRB-", "either", "a", "custom", "solution", "or", "one", "based", "on", "a", "general-purpose", "distributed", "programming", "environment", ",", "such", "as", "ISIS", "-LSB-", "4", "-RSB-", "or", "Obliq", "-LSB-", "8", "-RSB-", "-RRB-", ",", "and", "the", "state", "of", "the", "graphical", "display", "is", "maintained", "separately", "in", "the", "local", "graphics", "library", ".", "Keeping", "these", "``", "dual", "databases", "''", "synchronized", "is", "a", "complex", ",", "tedious", ",", "and", "error-prone", "endeavor", ".", "In", "contrast", ",", "some", "non-distributed", "libraries", ",", "such", "as", "Inventor", "-LSB-", "35", "-RSB-", ",", "allow", "programmers", "to", "avoid", "this", "problem", "by", "using", "the", "graphical", "scene", "description", "to", "encode", "application", "state", ".", "Extending", "this", "``", "single", "database", "''", "model", "to", "a", "distributed", "3D", "graphics", "library", "is", "the", "goal", "of", "our", "work", "on", "Repo-3D", ".", "Repo-3D", "is", "an", "object-oriented", ",", "high-level", "graphics", "package", ",", "derived", "from", "Obliq-3D", "-LSB-", "25", "-RSB-", ".", "Its", "3D", "graphics", "facilities", "are", "similar", "to", "those", "of", "other", "modern", "high-level", "graphics", "libraries", ".", "However", ",", "the", "objects", "used", "to", "create", "the", "graphical", "scenes", "are", "directly", "distribut-able", "--", "from", "the", "programmer", "'s", "viewpoint", ",", "the", "objects", "reside", "in", "one", "large", "distributed", "shared", "memory", "-LRB-", "DSM", "-RRB-", "instead", "of", "in", "a", "single", "process", ".", "The", "underlying", "system", "replicates", "any", "of", "the", "fine-grained", "objects", "across", "as", "many", "processes", "as", "needed", ",", "with", "no", "additional", "effort", "on", "the", "part", "of", "the", "programmer", ".", "Updates", "to", "objects", "are", "automatically", "reflected", "in", "all", "replicas", ",", "with", "any", "required", "objects", "automatically", "distributed", "as", "needed", ".", "By", "integrating", "the", "replicated", "objects", "into", "the", "programming", "languages", "we", "use", ",", "distributed", "applications", "may", "be", "built", "using", "Repo-3D", "with", "little", "more", "difficulty", "than", "building", "applications", "in", "a", "single", "process", ".", "Figure", "1", ":", "Two", "meanings", "of", "distributed", "graphics", ":", "-LRB-", "a", "-RRB-", "a", "single", "logical", "graphics", "system", "with", "distributed", "components", ",", "and", "-LRB-", "b", "-RRB-", "multiple", "distributed", "logical", "graphics", "systems", ".", "We", "use", "the", "second", "definition", "here", ".", "No", "matter", "how", "simple", "the", "construction", "of", "a", "distributed", "application", "may", "be", ",", "a", "number", "of", "differences", "between", "distributed", "and", "monolithic", "applications", "must", "be", "addressed", ".", "These", "include", ":", "Distributed", "control", ".", "In", "a", "monolithic", "application", ",", "a", "single", "component", "can", "oversee", "the", "application", "and", "coordinate", "activities", "among", "the", "separate", "components", "by", "notifying", "them", "of", "changes", "to", "the", "application", "state", ".", "This", "is", "not", "possible", "in", "a", "non-trivial", "distributed", "application", ".", "Therefore", ",", "we", "must", "provide", "mechanisms", "for", "different", "components", "to", "be", "notified", "of", "changes", "to", "the", "distributed", "state", ".", "Interactivity", ".", "Updates", "to", "distributed", "state", "will", "be", "slower", "than", "updates", "to", "local", "state", ",", "and", "the", "amount", "of", "data", "that", "can", "be", "distributed", "is", "limited", "by", "network", "bandwidth", ".", "If", "we", "do", "not", "want", "to", "sacrifice", "interactive", "speed", ",", "we", "must", "be", "able", "to", "perform", "some", "operations", "locally", ".", "For", "example", ",", "an", "object", "could", "be", "dragged", "locally", "with", "the", "mouse", ",", "with", "only", "a", "subset", "of", "the", "changes", "applied", "to", "the", "replicated", "state", ".", "Local", "variations", ".", "There", "are", "times", "when", "a", "shared", "graphical", "scene", "may", "need", "to", "be", "modified", "locally", ".", "For", "example", ",", "a", "programmer", "may", "want", "to", "highlight", "the", "object", "under", "one", "user", "'s", "mouse", "pointer", "without", "affecting", "the", "scene", "graph", "viewed", "by", "other", "users", ".", "Repo-3D", "addresses", "these", "problems", "in", "two", "ways", ".", "First", ",", "a", "programmer", "can", "associate", "a", "notification", "object", "with", "any", "replicated", "object", ".", "The", "notification", "object", "'s", "methods", "will", "be", "invoked", "when", "the", "replicated", "object", "is", "updated", ".", "This", "allows", "reactive", "programs", "to", "be", "built", "in", "a", "straightforward", "manner", ".", "To", "deal", "with", "the", "second", "and", "third", "problems", ",", "we", "introduce", "the", "notion", "of", "local", "variations", "to", "graphical", "objects", ".", "That", "is", ",", "we", "allow", "the", "properties", "of", "a", "graphical", "object", "to", "be", "modified", "locally", ",", "and", "parts", "of", "the", "scene", "graph", "to", "be", "locally", "added", ",", "removed", ",", "or", "replaced", ".", "In", "Section", "2", "we", "describe", "how", "we", "arrived", "at", "the", "solution", "presented", "here", ".", "Section", "3", "discusses", "related", "work", ",", "and", "Section", "4", "offers", "a", "detailed", "description", "of", "the", "underlying", "infrastructure", "that", "was", "used", ".", "The", "design", "of", "Repo-3D", "is", "presented", "in", "Section", "5", ",", "followed", "by", "some", "examples", "and", "concluding", "remarks", "in", "Sectio", "ns", "6", "and", "7", ".", "Repo-3D", "was", "created", "as", "part", "of", "a", "project", "to", "support", "rapid", "prototyping", "of", "distributed", ",", "interactive", "3D", "graphical", "applications", ",", "with", "a", "particular", "focus", "on", "DVEs", ".", "Our", "fundamental", "belief", "is", "that", "by", "providing", "uniform", "high-level", "support", "for", "distributed", "programming", "in", "the", "languages", "and", "toolkits", "we", "use", ",", "prototyping", "and", "experimenting", "with", "distributed", "interactive", "applications", "can", "be", "-LRB-", "almost", "-RRB-", "as", "simple", "as", "multi-threaded", "programming", "in", "a", "single", "process", ".", "While", "care", "must", "be", "taken", "to", "deal", "with", "network", "delays", "and", "bandwidth", "limitations", "at", "some", "stage", "of", "the", "program", "design", "-LRB-", "the", "languages", "and", "toolkits", "ought", "to", "facilitate", "this", "-RRB-", ",", "it", "should", "be", "possible", "to", "ignore", "such", "issues", "until", "they", "become", "a", "problem", ".", "Our", "view", "can", "be", "summarized", "by", "a", "quote", "attributed", "to", "Alan", "Kay", ",", "``", "Simple", "things", "should", "be", "simple", ";", "complex", "things", "should", "be", "possible", ".", "''", "This", "is", "especially", "true", "during", "the", "exploration", "and", "prototyping", "phase", "of", "application", "programming", ".", "If", "programmers", "are", "forced", "to", "expend", "significant", "effort", "building", "the", "data-distribution", "components", "of", "the", "application", "at", "an", "early", "stage", ",", "not", "only", "will", "less", "time", "be", "spent", "exploring", "different", "prototypes", ",", "but", "radical", "changes", "in", "direction", "will", "become", "difficult", ",", "and", "thus", "unlikely", ".", "For", "example", ",", "the", "implementation", "effort", "could", "cause", "programs", "to", "get", "locked", "into", "using", "a", "communication", "scheme", "that", "may", "eventually", "prove", "less", "than", "ideal", ",", "or", "even", "detrimental", ",", "to", "the", "program", "'s", "final", "design", ".", "Since", "we", "are", "using", "object-oriented", "languages", ",", "we", "also", "believe", "that", "data", "distribution", "should", "be", "tightly", "integrated", "with", "the", "language", "'s", "general-purpose", "objects", ".", "This", "lets", "the", "language", "'s", "type", "system", "and", "programming", "constructs", "reduce", "or", "eliminate", "errors", "in", "the", "use", "of", "the", "data-distribution", "system", ".", "Language-level", "integration", "also", "allows", "the", "system", "to", "exhibit", "a", "high", "degree", "of", "network", "data", "transparency", ",", "or", "the", "ability", "for", "the", "programmer", "to", "use", "remote", "and", "local", "data", "in", "a", "uniform", "manner", ".", "Without", "pervasive", ",", "structured", ",", "high-level", "data-distribution", "support", "integrated", "into", "our", "programming", "languages", "and", "libraries", ",", "there", "are", "applications", "that", "will", "never", "be", "built", "or", "explored", ",", "either", "because", "there", "is", "too", "much", "programming", "overhead", "to", "justify", "trying", "simple", "things", "-LRB-", "``", "simple", "things", "are", "not", "simple", "''", "-RRB-", ",", "or", "because", "the", "added", "complexity", "of", "using", "relatively", "primitive", "tools", "causes", "the", "application", "to", "become", "intractable", "-LRB-", "``", "com-plex", "things", "are", "not", "possible", "''", "-RRB-", ".", "Of", "the", "tools", "available", "for", "integrating", "distributed", "objects", "into", "programming", "languages", ",", "client-server", "data", "sharing", "is", "by", "far", "the", "most", "common", "approach", ",", "as", "exemplified", "by", "CORBA", "-LSB-", "26", "-RSB-", ",", "Modula-3", "Network", "Objects", "-LSB-", "5", "-RSB-", ",", "and", "Java", "RMI", "-LSB-", "39", "-RSB-", ".", "Unfortunately", ",", "interactive", "graphical", "applications", ",", "such", "as", "virtual", "reality", ",", "require", "that", "the", "data", "used", "to", "refresh", "the", "display", "be", "local", "to", "the", "process", "doing", "the", "rendering", "or", "acceptable", "frame", "refresh", "rates", "will", "not", "be", "achieved", ".", "Therefore", ",", "pure", "client-server", "approaches", "are", "inappropriate", "because", "at", "least", "some", "of", "the", "shared", "data", "must", "be", "replicated", ".", "Furthermore", ",", "since", "the", "time", "delay", "of", "synchronous", "remote", "method", "calls", "is", "unsuitable", "for", "rapidly", "changing", "graphical", "applications", ",", "shared", "data", "should", "be", "updated", "asynchronously", ".", "Finally", ",", "when", "data", "is", "replicated", ",", "local", "access", "must", "still", "be", "fast", ".", "The", "most", "widely", "used", "protocols", "for", "replicated", "data", "consistency", ",", "and", "thus", "many", "of", "the", "toolkits", "-LRB-", "e.g.", ",", "ISIS", "-LSB-", "4", "-RSB-", "and", "Visual-Obliq", "-LSB-", "3", "-RSB-", "-RRB-", ",", "allow", "data", "updates", "to", "proceed", "unimpeded", ",", "but", "block", "threads", "reading", "local", "data", "until", "necessary", "updates", "arrive", ".", "The", "same", "reason", "we", "need", "replicated", "data", "in", "the", "first", "place", "--", "fast", "local", "read", "access", "to", "the", "data", "--", "makes", "these", "protocols", "unsuitable", "for", "direct", "replication", "of", "the", "graphical", "data", ".", "Of", "course", ",", "these", "protocols", "are", "fine", "for", "replicating", "application", "state", "that", "will", "then", "be", "synchronized", "with", "a", "parallel", "graphical", "scene", "description", ",", "but", "that", "is", "what", "we", "are", "explicitly", "trying", "to", "avoid", ".", "Fortunately", ",", "there", "are", "replicated", "data", "systems", "-LRB-", "e.g.", ",", "Orca", "-LSB-", "2", "-RSB-", "or", "COTERIE", "-LSB-", "24", "-RSB-", "-RRB-", "that", "provide", "replicated", "objects", "that", "are", "well", "suited", "to", "interactive", "applications", ",", "and", "it", "is", "upon", "the", "second", "of", "these", "systems", "that", "Repo-3D", "is", "built", ".", "There", "has", "been", "a", "significant", "amount", "of", "work", "that", "falls", "under", "the", "first", ",", "older", "definition", "of", "distributed", "graphics", ".", "A", "large", "number", "of", "systems", ",", "ranging", "from", "established", "commercial", "products", "-LRB-", "e.g.", ",", "IBM", "Visualization", "Data", "Explorer", "-LSB-", "21", "-RSB-", "-RRB-", "to", "research", "systems", "-LRB-", "e.g.", ",", "PARADISE", "-LSB-", "19", "-RSB-", "and", "ATLAS", "-LSB-", "14", "-RSB-", "-RRB-", ",", "have", "been", "created", "to", "distribute", "interactive", "graphical", "applications", "over", "a", "set", "of", "machines", ".", "However", ",", "the", "goal", "of", "these", "systems", "is", "to", "facilitate", "sharing", "of", "application", "data", "between", "processes", ",", "with", "one", "process", "doing", "the", "rendering", ".", "While", "some", "of", "these", "systems", "can", "be", "used", "to", "display", "graphics", "on", "more", "than", "one", "display", ",", "they", "were", "not", "designed", "to", "support", "high-level", "sharing", "of", "graphical", "scenes", ".", "Most", "high-level", "graphics", "libraries", ",", "such", "as", "UGA", "-LSB-", "40", "-RSB-", ",", "Inventor", "-LSB-", "35", "-RSB-", "and", "Java", "3D", "-LSB-", "33", "-RSB-", ",", "do", "not", "provide", "any", "support", "for", "distribution", ".", "Others", ",", "such", "as", "Performer", "-LSB-", "29", "-RSB-", ",", "provide", "support", "for", "distributing", "components", "of", "the", "3D", "graphics", "rendering", "system", "across", "multiple", "processors", ",", "but", "do", "not", "support", "distribution", "across", "multiple", "machines", ".", "One", "notable", "exception", "is", "TBAG", "-LSB-", "13", "-RSB-", ",", "a", "high-level", "constraint-based", ",", "declarative", "3D", "graphics", "framework", ".", "Scenes", "in", "TBAG", "are", "defined", "using", "constrained", "relationships", "between", "time-varying", "functions", ".", "TBAG", "allows", "a", "set", "of", "processes", "to", "share", "a", "single", ",", "replicated", "constraint", "graph", ".", "When", "any", "process", "asserts", "or", "retracts", "a", "constraint", ",", "it", "is", "asserted", "or", "retracted", "in", "all", "processes", ".", "However", ",", "this", "means", "that", "all", "processes", "share", "the", "same", "scene", ",", "and", "that", "the", "system", "'s", "scalability", "is", "limited", "because", "all", "processes", "have", "a", "copy", "of", "-LRB-", "and", "must", "evaluate", "-RRB-", "all", "constraints", ",", "whether", "or", "not", "they", "are", "interested", "in", "them", ".", "There", "is", "also", "no", "support", "for", "local", "variations", "of", "the", "scene", "in", "different", "processes", ".", "Machiraju", "-LSB-", "22", "-RSB-", "investigated", "an", "approach", "similar", "in", "flavor", "to", "ours", ",", "but", "it", "was", "not", "aimed", "at", "the", "same", "fine-grained", "level", "of", "interactivity", "and", "was", "ultimately", "limited", "by", "the", "constraints", "of", "the", "implementation", "platform", "-LRB-", "CORBA", "and", "C++", "-RRB-", ".", "For", "example", ",", "CORBA", "objects", "are", "heavyweight", "and", "do", "not", "support", "replication", ",", "so", "much", "of", "their", "effort", "was", "spent", "developing", "techniques", "to", "support", "object", "migration", "and", "``", "fine-grained", "''", "object", "sharing", ".", "However", ",", "their", "fine-grained", "objects", "are", "coarser", "than", "ours", ",", "and", ",", "more", "importantly", ",", "they", "do", "not", "support", "the", "kind", "of", "lightweight", ",", "transparent", "replication", "we", "desire", ".", "A", "programmer", "must", "explicitly", "choose", "whether", "to", "replicate", ",", "move", ",", "or", "copy", "an", "object", "between", "processes", "when", "the", "action", "is", "to", "occur", "-LRB-", "as", "opposed", "to", "at", "object", "creation", "time", "-RRB-", ".", "Replicated", "objects", "are", "independent", "new", "copies", "that", "can", "be", "modified", "and", "used", "to", "replace", "the", "original", "--", "simultaneous", "editing", "of", "objects", ",", "or", "real-time", "distribution", "of", "changes", "as", "they", "are", "made", "is", "not", "supported", ".", "Of", "greater", "significance", "is", "the", "growing", "interest", "for", "this", "sort", "of", "system", "in", "the", "Java", "and", "VRML", "communities", ".", "Java", ",", "like", "Modula-3", ",", "is", "much", "more", "suitable", "as", "an", "implementation", "language", "than", "C", "or", "C++", "because", "of", "its", "cross-platform", "compatibility", "and", "support", "for", "threads", "and", "garbage", "collection", ":", "Without", "the", "latter", "two", "language", "features", ",", "implementing", "complex", ",", "large-scale", "distributed", "applications", "is", "extremely", "difficult", ".", "Most", "of", "the", "current", "effort", "has", "been", "focused", "on", "using", "Java", "as", "a", "mechanism", "to", "facilitate", "multi-user", "VRML", "worlds", "-LRB-", "e.g.", ",", "Open", "Communities", "-LSB-", "38", "-RSB-", "-RRB-", ".", "Unfortunately", ",", "these", "efforts", "concentrate", "on", "the", "particulars", "of", "implementing", "shared", "virtual", "environments", "and", "fall", "short", "of", "providing", "a", "general-purpose", "shared", "graphics", "library", ".", "For", "example", ",", "the", "Open", "Communities", "work", "is", "being", "done", "on", "top", "of", "SPLINE", "-LSB-", "1", "-RSB-", ",", "which", "supports", "only", "a", "single", "top-level", "world", "in", "the", "local", "scene", "database", ".", "Most", "DVEs", "-LSB-", "11", ",", "12", ",", "16", ",", "31", ",", "32", "-RSB-", "provide", "support", "for", "creating", "shared", "virtual", "environments", ",", "not", "general", "purpose", "interactive", "3D", "graphics", "applications", ".", "They", "implement", "a", "higher", "level", "of", "abstraction", ",", "providing", "support", "for", "rooms", ",", "objects", ",", "avatars", ",", "collision", "detection", ",", "and", "other", "things", "needed", "in", "single", ",", "shared", ",", "immersive", "virtual", "environments", ".", "These", "systems", "provide", "neither", "general-purpose", "programming", "facilities", "nor", "the", "ability", "to", "work", "with", "3D", "scenes", "at", "a", "level", "provided", "by", "libraries", "such", "as", "Obliq-3D", "or", "Inventor", ".", "Some", "use", "communication", "schemes", "that", "prevent", "them", "from", "scaling", "beyond", "a", "relatively", "small", "number", "of", "distributed", "processes", ",", "but", "for", "most", "the", "focus", "is", "explicitly", "on", "efficient", "communication", ".", "SIMNET", "-LSB-", "7", "-RSB-", ",", "and", "the", "later", "NPSNet", "-LSB-", "41", "-RSB-", ",", "are", "perhaps", "the", "best", "known", "large-scale", "distributed", "virtual-environment", "systems", ".", "They", "use", "a", "fixed", ",", "well-defined", "communication", "protocol", "designed", "to", "support", "a", "single", ",", "large-scale", ",", "shared", ",", "military", "virtual", "environment", ".", "The", "techniques", "for", "object", "sharing", "implemented", "in", "recent", "CSCW", "toolkits", "-LSB-", "28", ",", "30", ",", "34", ",", "37", "-RSB-", "provide", "some", "of", "the", "features", "we", "need", ",", "particularly", "automatic", "replication", "of", "data", "to", "ease", "construction", "of", "distributed", "applications", ".", "However", ",", "none", "of", "these", "toolkits", "has", "integrated", "the", "distribution", "of", "data", "into", "its", "programming", "language", "'s", "object", "model", "as", "tightly", "as", "we", "desire", ".", "As", "a", "result", ",", "they", "do", "not", "provide", "a", "high", "enough", "level", "of", "network", "data", "transparency", "or", "suffi-ciently", "strong", "consistency", "guarantees", ".", "In", "groupware", "applications", ",", "inconsistencies", "tend", "to", "arise", "when", "multiple", "users", "attempt", "to", "perform", "conflicting", "actions", ":", "the", "results", "are", "usually", "obvious", "to", "the", "users", "and", "can", "be", "corrected", "using", "social", "protocols", ".", "This", "is", "not", "an", "acceptable", "solution", "for", "a", "general-purpose", ",", "distributed", "3D", "graphics", "toolkit", ".", "Furthermore", ",", "none", "of", "these", "CSCW", "systems", "provides", "any", "support", "for", "asynchronous", "update", "notification", ",", "or", "is", "designed", "to", "support", "the", "kind", "of", "large-scale", "distribution", "we", "have", "in", "mind", ".", "Finally", ",", "while", "distributed", "games", ",", "such", "as", "Quake", ",", "have", "become", "very", "popular", ",", "they", "only", "distribute", "the", "minimum", "amount", "of", "application", "state", "necessary", ".", "They", "do", "not", "use", "-LRB-", "or", "provide", "-RRB-", "an", "abstract", ",", "high-level", "distributed", "3D", "graphics", "system", ".", "Our", "work", "was", "done", "in", "the", "Modula-3", "programming", "language", "-LSB-", "18", "-RSB-", ".", "We", "decided", "to", "use", "Modula-3", "because", "of", "the", "language", "itself", "and", "the", "availability", "of", "a", "set", "of", "packages", "that", "provide", "a", "solid", "foundation", "for", "our", "infrastructure", ".", "Modula-3", "is", "a", "descendant", "of", "Pascal", "that", "corrects", "many", "of", "its", "deficiencies", ",", "and", "heavily", "influenced", "the", "design", "of", "Java", ".", "In", "particular", ",", "Modula-3", "retains", "strong", "type", "safety", ",", "while", "adding", "facilities", "for", "exception", "handling", ",", "concurrency", ",", "object-oriented", "programming", ",", "and", "automatic", "garbage", "collection", "2", ".", "One", "of", "its", "most", "important", "features", "for", "our", "work", "is", "that", "it", "gives", "us", "uniform", "access", "to", "these", "facilities", "across", "all", "architectures", ".", "Repo-3D", "relies", "on", "a", "number", "of", "Modula-3", "libraries", ",", "as", "illustrated", "in", "Figure", "2", ".", "Distributed", "data", "sharing", "is", "provided", "by", "two", "packages", ",", "the", "Network", "Object", "client-server", "object", "package", "-LSB-", "5", "-RSB-", ",", "and", "the", "Replicated", "Object", "shared", "object", "package", "-LSB-", "2", "4", "-RSB-", "-LRB-", "see", "Section", "4.1", "-RRB-", ".", "DistAnim-3D", "is", "derived", "from", "Anim-3D", "-LSB-", "25", "-RSB-", ",", "a", "powerful", ",", "non-distributed", ",", "general-purpose", "3D", "library", "originally", "designed", "for", "3D", "algorithm", "animation", "-LRB-", "see", "Section", "4.2", "-RRB-", ".", "Finally", ",", "Repo", "itself", "is", "a", "direct", "descendant", "of", "Obliq", "-LSB-", "8", "-RSB-", ",", "and", "uses", "the", "Replicated", "Object", "package", "to", "add", "replicated", "data", "to", "Obliq", "-LRB-", "se", "e", "Section", "4.3", "-RRB-", ".", "4.1", "Distributed", "Shared", "Memory", "Repo-3D", "'s", "data", "sharing", "mechanism", "is", "based", "on", "the", "Shared", "Data-Object", "Model", "of", "Distributed", "Shared", "Memory", "-LRB-", "DSM", "-RRB-", "-LSB-", "20", "-RSB-", ".", "DSM", "allows", "a", "network", "of", "computers", "to", "be", "programmed", "much", "like", "a", "mul-tiprocessor", ",", "since", "the", "programmer", "is", "presented", "with", "the", "familiar", "paradigm", "of", "a", "common", "shared", "memory", ".", "The", "Shared", "Data-Object", "Model", "of", "DSM", "is", "particularly", "well", "suited", "to", "our", "needs", "since", "it", "is", "a", "high-level", "approach", "that", "can", "be", "implemented", "efficiently", "at", "the", "application", "level", ".", "In", "this", "model", ",", "shared", "data", "is", "encapsulated", "in", "user-defined", "objects", "and", "can", "only", "be", "accessed", "through", "those", "objects", "'", "method", "calls", ".", "The", "DSM", "address", "space", "is", "partitioned", "implicitly", "by", "the", "application", "programmer", ",", "with", "an", "object", "being", "the", "smallest", "unit", "of", "sharing", ".", "All", "shared", "data", "is", "fully", "network", "transpar-2", ".", "The", "Modula-3", "compiler", "we", "used", "is", "available", "from", "Critical", "Mass", ",", "Inc.", "as", "part", "of", "the", "Reactor", "programming", "environment", ".", "The", "compiler", ",", "and", "thus", "our", "system", ",", "runs", "on", "all", "the", "operating", "systems", "we", "have", "available", "-LRB-", "plus", "others", "-RRB-", ":", "Solaris", ",", "IRIX", ",", "HP-UX", ",", "Linux", ",", "and", "Windows", "NT", "and", "95", ".", "Figure", "2", ":", "The", "architecture", "of", "Repo-3D", ".", "Aside", "from", "native", "graphics", "libraries", "-LRB-", "X", ",", "Win32", ",", "OpenGL", ",", "Renderware", "-RRB-", "the", "Modula-3", "runtime", "shields", "most", "of", "the", "application", "from", "the", "OS", ".", "The", "Replicated", "Object", "package", "uses", "an", "Event", "communication", "package", "and", "the", "Network", "Object", "package", ".", "DistAnim-3D", "is", "implemented", "on", "top", "of", "a", "variety", "of", "native", "graphics", "libraries", "and", "Replicated", "Objects", ".", "Repo", "exposes", "most", "of", "the", "useful", "Modula-3", "packages", ",", "as", "well", "as", "using", "Network", "Objects", "and", "Replicated", "Objects", "to", "present", "a", "distributed", "shared", "memory", "model", "to", "the", "programmer", ".", "Operating", "System", "Services", "Network", "Objects", "Replicated", "Objects", "Modula-3", "Runtime", "Events", "Native", "Graphics", "DistAnim-3D", "Repo", "Repo-3D", "Network", "ent", "because", "it", "is", "encapsulated", "within", "the", "programming", "language", "objects", ".", "Distribution", "of", "new", "objects", "between", "the", "processes", "is", "as", "simple", "as", "passing", "them", "back", "and", "forth", "as", "parameters", "to", ",", "or", "return", "values", "from", ",", "method", "calls", "--", "the", "underlying", "systems", "take", "care", "of", "the", "rest", ".", "3", "Objects", "are", "only", "distributed", "to", "new", "processes", "as", "necessary", ",", "and", "-LRB-", "in", "our", "system", "-RRB-", "are", "removed", "by", "the", "garbage", "collector", "when", "they", "are", "no", "longer", "referenced", ".", "Furthermore", ",", "distributed", "garbage", "collection", "is", "supported", ",", "so", "objects", "that", "are", "no", "longer", "referenced", "in", "any", "process", "are", "removed", "completely", ".", "There", "are", "three", "kinds", "of", "distributed", "object", "semantics", "in", "our", "DSM", ":", "Simple", "objects", "correspond", "to", "normal", "data", "objects", ",", "and", "have", "no", "special", "distributed", "semantics", ".", "When", "a", "simple", "object", "is", "copied", "between", "processes", ",", "a", "new", "copy", "is", "created", "in", "the", "destination", "process", "that", "has", "no", "implied", "relationship", "to", "the", "object", "in", "the", "source", "process", ".", "Remote", "objects", "have", "client-server", "distribution", "semantics", ".", "When", "a", "remote", "object", "is", "copied", "between", "processes", ",", "all", "processes", "except", "the", "one", "in", "which", "the", "object", "was", "created", "end", "up", "with", "a", "proxy", "object", "that", "forwards", "method", "invocations", "across", "the", "network", "to", "the", "original", "object", ".", "Replicated", "objects", "have", "replicated", "distribution", "semantics", ".", "When", "a", "replicated", "object", "is", "passed", "between", "processes", ",", "a", "new", "replica", "is", "created", "in", "the", "destination", "process", ".", "If", "any", "replica", "is", "changed", ",", "the", "change", "is", "reflected", "in", "all", "replicas", ".", "The", "Network", "Object", "package", "provides", "support", "for", "remote", "objects", ".", "It", "implements", "distributed", "garbage", "collection", ",", "exception", "propagation", "back", "to", "the", "calling", "site", ",", "and", "automatic", "marshalling", "and", "unmarshalling", "of", "method", "arguments", "and", "return", "values", "of", "virtually", "any", "data", "type", "between", "heterogeneous", "machine", "architectures", ".", "The", "package", "is", "similar", "to", "other", "remote", "method", "invocation", "-LRB-", "RMI", "-RRB-", "packages", "developed", "later", ",", "such", "as", "the", "Java", "RMI", "library", "-LSB-", "39", "-RSB-", ".", "All", "method", "invocations", "are", "forwarded", "to", "the", "original", "object", ",", "where", "they", "are", "executed", "in", "the", "order", "they", "are", "received", ".", "The", "Replicated", "Object", "package", "supports", "replicated", "objects", ".", "Each", "process", "can", "call", "any", "method", "of", "an", "object", "it", "shares", ",", "just", "as", "it", "can", "with", "a", "simple", "or", "remote", "object", ".", "We", "will", "describe", "the", "Replicated", "Object", "package", "in", "more", "detail", ",", "as", "Repo-3D", "relies", "heavily", "on", "its", "design", ",", "and", "the", "design", "of", "a", "replicated", "object", "system", "is", "less", "straightforward", "than", "a", "remote", "one", ".", "The", "model", "supported", "by", "the", "Replicated", "Object", "package", "follows", "two", "principles", ":", "All", "operations", "on", "an", "instance", "of", "an", "object", "are", "atomic", "and", "serializable", ".", "All", "operations", "are", "performed", "in", "the", "same", "order", "on", "all", "copies", "of", "the", "object", ".", "If", "two", "methods", "are", "invoked", "simultaneously", ",", "the", "order", "of", "invocation", "is", "nondeterministic", ",", "just", "as", "if", "two", "threads", "attempted", "to", "access", "the", "same", "memory", "location", "simultaneously", "in", "a", "single", "process", ".", "The", "above", "principle", "applies", "to", "operations", "on", "single", "objects", ".", "Making", "sequences", "of", "operations", "atomic", "is", "up", "to", "the", "programmer", ".", "The", "implementation", "of", "the", "Replicated", "Object", "package", "is", "based", "on", "the", "approach", "used", "in", "the", "Orca", "distributed", "programming", "language", "-LSB-", "2", "-RSB-", ".", "A", "full", "replication", "scheme", "is", "used", ",", "where", "a", "single", "object", "is", "either", "fully", "replicated", "in", "a", "process", "or", "not", "present", "at", "all", ".", "Avoiding", "partial", "replication", "significantly", "simplifies", "the", "implementation", "and", "the", "object", "model", ",", "and", "satisfies", "the", "primary", "rationale", "for", "replication", ":", "fast", "read-access", "to", "shared", "data", ".", "To", "maintain", "replication", "consistency", "an", "update", "scheme", "is", "used", ",", "where", "updates", "to", "the", "object", "are", "applied", "to", "all", "copies", ".", "The", "method", "of", "deciding", "what", "is", "and", "is", "not", "an", "update", "is", "what", "makes", "the", "Orca", "approach", "particularly", "interesting", "and", "easy", "to", "implement", ".", "All", "methods", "are", "marked", "as", "either", "read", "or", "update", "methods", "by", "the", "programmer", "who", "creates", "the", "object", "type", ".", "Read", "methods", "are", "assumed", "to", "not", "change", "the", "state", "of", "the", "object", "and", "are", "therefore", "applied", "immediately", "to", "the", "local", "object", "without", "violating", "consistency", ".", "Update", "methods", "are", "assumed", "to", "change", "the", "state", ".", "To", "distribute", "updates", ",", "arguments", "to", "the", "update", "method", "are", "marshalled", "into", "a", "message", "and", "sent", "to", "all", "replicas", ".", "To", "ensure", "all", "updates", "are", "applied", "in", "the", "same", "order", ",", "the", "current", "implementation", "of", "the", "Replicated", "Object", "package", "designates", "a", "sequencer", "process", "for", "each", "object", ".", "There", "may", "be", "more", "than", "one", "sequencer", "in", "the", "system", "to", "avoid", "overloading", "one", "process", "with", "all", "the", "objects", "-LRB-", "in", "this", "case", ",", "each", "object", "has", "its", "updates", "managed", "by", "exactly", "one", "of", "the", "sequencers", ".", "-RRB-", "The", "sequencer", "is", "responsible", "for", "assigning", "a", "sequence", "number", "to", "each", "message", "before", "it", "is", "sent", "to", "all", "object", "replicas", ".", "The", "replicas", "then", "execute", "the", "incoming", "update", "messages", "in", "sequence", ".", "The", "process", "that", "initiated", "the", "update", "does", "not", "execute", "the", "update", "until", "it", "receives", "a", "message", "back", "from", "the", "sequencer", "and", "all", "updates", "with", "earlier", "sequence", "numbers", "have", "been", "executed", ".", "There", "are", "three", "very", "important", "reasons", "for", "choosing", "this", "approach", ".", "First", ",", "it", "is", "easy", "to", "implement", "on", "top", "of", "virtually", "any", "object-oriented", "language", ",", "using", "automatically", "generated", "object", "subtypes", "and", "method", "wrappers", "that", "communicate", "with", "a", "simple", "runtime", "system", ".", "We", "do", "this", "in", "our", "Modula-3", "implementation", ",", "and", "it", "would", "be", "equally", "applicable", "to", "an", "implementation", "in", "C++", "or", "Java", ".", "For", "example", ",", "the", "JSDT", "-LSB-", "36", "-RSB-", "data-sharing", "package", "in", "Java", "uses", "a", "similar", "approach", ".", "Second", ",", "the", "Replicated", "Object", "package", "does", "not", "pay", "attention", "to", "-LRB-", "or", "even", "care", "-RRB-", "when", "the", "internal", "data", "fields", "of", "an", "object", "change", ".", "This", "allows", "the", "programmer", "great", "flexibility", "in", "deciding", "exactly", "what", "constitutes", "an", "update", "or", "not", ",", "and", "what", "constitutes", "the", "shared", "state", "4", ".", "For", "example", ",", "objects", "could", "have", "a", "combination", "of", "global", "and", "local", "state", ",", "and", "the", "methods", "that", "change", "the", "local", "state", "could", "be", "classified", "as", "read", "methods", "since", "they", "do", "not", "modify", "the", "global", "state", ".", "Alternatively", ",", "read", "methods", "could", "do", "some", "work", "locally", "and", "then", "call", "an", "update", "method", "to", "propagate", "the", "results", ",", "allowing", "time-consuming", "computation", "to", "be", "done", "once", "and", "the", "result", "distributed", "in", "a", "clean", "way", ".", "We", "took", "advantage", "of", "both", "of", "these", "techniques", "in", "implementing", "Repo-3D", ".", "Finally", ",", "the", "immediate", "distribution", "of", "update", "methods", "ensures", "that", "changes", "are", "distributed", "in", "a", "timely", "fashion", ",", "and", "suggests", "a", "straightforward", "solution", "to", "the", "asynchronous", "notification", "problem", ".", "The", "Replicated", "Object", "package", "generates", "a", "Notification", "Object", "type", "for", "each", "Replicated", "Object", "type", ".", "These", "new", "objects", "have", "methods", "corresponding", "to", "the", "update", "methods", "of", "their", "associated", "Replicated", "Object", ".", "The", "arguments", "to", "these", "methods", "are", "the", "same", "as", "the", "corresponding", "Replicated", "Object", "methods", ",", "plus", "an", "extra", "argument", "to", "hold", "the", "Replicated", "Object", "instance", ".", "These", "notifiers", "can", "be", "used", "by", "a", "programmer", "to", "receive", "notification", "of", "changes", "to", "a", "Replicated", "Object", "in", "a", "structured", "fashion", ".", "To", "react", "to", "updates", "to", "a", "Replicated", "Object", "instance", ",", "a", "programmer", "simply", "overrides", "the", "methods", "of", "the", "corresponding", "Notification", "Object", "with", "methods", "that", "react", "appropriately", "to", "those", "updates", ",", "and", "associates", "an", "instance", "3", ".", "An", "important", "detail", "is", "how", "the", "communication", "is", "bootstrapped", ".", "In", "the", "case", "of", "the", "Network", "and", "Replicated", "Object", "packages", ",", "to", "pass", "a", "first", "object", "between", "processes", ",", "one", "of", "them", "exports", "the", "object", "to", "a", "special", "network", "object", "demon", "under", "some", "known", "name", "on", "some", "known", "machine", ".", "The", "second", "process", "then", "retrieves", "the", "object", ".", "4", ".", "Of", "course", ",", "it", "falls", "squarely", "on", "the", "shoulders", "of", "the", "programmer", "to", "ensure", "that", "the", "methods", "provided", "always", "leave", "the", "object", "in", "a", "consistent", "state", ".", "This", "is", "not", "significantly", "different", "than", "what", "needs", "to", "be", "done", "when", "building", "a", "complex", "object", "that", "is", "simultaneously", "accessed", "by", "multiple", "threads", "in", "a", "non-distributed", "system", ".", "For", "example", ",", "if", "a", "programmer", "reads", "an", "array", "of", "numbers", "from", "inside", "the", "object", "and", "then", "uses", "an", "update", "method", "to", "write", "a", "computed", "average", "back", "into", "the", "object", ",", "the", "internal", "array", "may", "have", "changed", "before", "the", "average", "is", "written", ",", "resulting", "in", "a", "classic", "inconsistency", "problem", ".", "In", "general", ",", "methods", "that", "perform", "computations", "based", "on", "internal", "state", "-LRB-", "rather", "than", "on", "the", "method", "arguments", "-RRB-", "are", "potentially", "problematic", "and", "need", "to", "be", "considered", "carefully", ".", "of", "it", "with", "the", "Replicated", "Object", "instance", ".", "Each", "time", "an", "update", "method", "of", "the", "Replicated", "Object", "is", "invoked", ",", "the", "corresponding", "method", "of", "the", "Notifier", "Object", "is", "also", "invoked", ".", "Notification", "Objects", "eliminate", "the", "need", "for", "object", "polling", "and", "enable", "a", "``", "data-driven", "''", "flow", "of", "control", ".", "4.2", "Obliq-3D", "Obliq-3D", "is", "composed", "of", "Anim-3D", ",", "a", "3D", "animation", "package", "written", "in", "Modula-3", ",", "and", "a", "set", "of", "wrappers", "that", "expose", "Anim-3D", "to", "the", "Obliq", "programming", "language", "-LRB-", "see", "Section", "4.3", "-RRB-", ".", "Anim-3D", "is", "based", "on", "three", "simple", "and", "powerful", "concepts", ":", "graphical", "objects", "for", "building", "graphical", "scenes", ",", "properties", "for", "specifying", "the", "behavior", "of", "the", "graphical", "objects", ",", "and", "input", "event", "callbacks", "to", "support", "interactive", "behavior", ".", "Anim-3D", "uses", "the", "damage-repair", "model", ":", "whenever", "a", "graphical", "object", "or", "property", "changes", "-LRB-", "is", "damaged", "-RRB-", ",", "the", "image", "is", "repaired", "without", "programmer", "intervention", ".", "Graphical", "objects", "-LRB-", "GOs", "-RRB-", "represent", "all", "the", "logical", "entities", "in", "the", "graphical", "scene", ":", "geometry", "-LRB-", "e.g.", ",", "lines", ",", "polygons", ",", "spheres", ",", "polygon", "sets", ",", "and", "text", "-RRB-", ",", "lights", "and", "cameras", "of", "various", "sorts", ",", "and", "groups", "of", "other", "GOs", ".", "One", "special", "type", "of", "group", ",", "the", "RootGO", ",", "represents", "a", "window", "into", "which", "graphics", "are", "rendered", ".", "GOs", "can", "be", "grouped", "together", "in", "any", "valid", "directed", "acyclic", "graph", "-LRB-", "DAG", "-RRB-", ".", "The", "GO", "class", "hierarchy", "is", "shown", "i", "n", "Figure", "3", ".", "A", "property", "is", "a", "defined", "by", "a", "name", "and", "a", "value", ".", "The", "name", "determines", "which", "attribute", "is", "affected", "by", "the", "property", ",", "such", "as", "``", "Texture", "Mode", "''", "or", "``", "Box", "Corner1", "''", ".", "The", "value", "specifies", "how", "it", "is", "affected", "and", "is", "determined", "by", "its", "behavior", ",", "a", "time-variant", "function", "that", "takes", "the", "current", "animation", "time", "and", "returns", "a", "value", ".", "Properties", ",", "property", "values", ",", "and", "behaviors", "are", "all", "objects", ",", "and", "their", "relationships", "are", "shown", "in", "Figure", "4", ".", "When", "a", "property", "is", "created", ",", "its", "name", "and", "value", "are", "fixed", ".", "However", ",", "values", "are", "mutable", "and", "their", "behavior", "may", "be", "changed", "at", "any", "time", ".", "There", "are", "four", "kinds", "of", "behaviors", "for", "each", "type", "of", "properties", ":", "constant", "-LRB-", "do", "not", "vary", "over", "time", "-RRB-", ",", "synchronous", "-LRB-", "follow", "a", "programmed", "set", "of", "requests", ",", "such", "as", "``", "move", "from", "A", "to", "B", "starting", "at", "time", "t", "=", "1", "and", "taking", "2", "seconds", "''", "-RRB-", ",", "asynchronous", "-LRB-", "execute", "an", "arbitrary", "time-dependent", "function", "to", "compute", "the", "value", "-RRB-", "and", "dependent", "-LRB-", "asynchronous", "properties", "that", "depend", "on", "other", "properties", "-RRB-", ".", "Synchronous", "properties", "are", "linked", "to", "animation", "handles", "and", "do", "not", "start", "satisfying", "their", "requests", "until", "the", "animation", "handle", "is", "signalled", ".", "By", "linking", "multiple", "properties", "to", "the", "same", "handle", ",", "a", "set", "of", "property", "value", "changes", "can", "be", "synchronized", ".", "Associated", "with", "each", "GO", "g", "is", "a", "partial", "mapping", "of", "property", "names", "to", "values", "determined", "by", "the", "properties", "that", "have", "been", "associated", "with", "g", ".", "A", "property", "associated", "with", "g", "affects", "not", "only", "g", "but", "all", "the", "descendants", "of", "g", "that", "do", "not", "override", "the", "property", ".", "A", "single", "property", "may", "be", "associated", "with", "any", "number", "of", "GOs", ".", "It", "is", "perfectly", "legal", "to", "associate", "a", "property", "with", "a", "GO", "that", "is", "not", "affected", "by", "it", ";", "for", "example", ",", "attaching", "a", "``", "Surface", "Color", "''", "property", "to", "a", "GroupGO", "does", "not", "affect", "the", "group", "node", "itself", ",", "but", "could", "potentially", "affect", "the", "surface", "color", "of", "any", "GO", "contained", "in", "that", "group", ".", "A", "RootGO", "sets", "an", "initial", "default", "value", "for", "each", "named", "property", ".", "There", "are", "three", "types", "of", "input", "event", "callbacks", "in", "Anim-3D", ",", "corresponding", "to", "the", "three", "kinds", "of", "interactive", "events", "they", "handle", ":", "mouse", "callbacks", "-LRB-", "triggered", "by", "mouse", "button", "events", "-RRB-", ",", "motion", "callbacks", "-LRB-", "triggered", "by", "mouse", "motion", "events", "-RRB-", "and", "keyboard", "callbacks", "-LRB-", "triggered", "by", "key", "press", "events", "-RRB-", ".", "Each", "object", "has", "three", "callback", "stacks", ",", "and", "the", "interactive", "behavior", "of", "an", "object", "can", "be", "redefined", "by", "pushing", "a", "new", "callback", "onto", "the", "appropriate", "stack", ".", "Any", "event", "that", "occurs", "within", "a", "root", "window", "associated", "with", "a", "RootGO", "r", "will", "be", "delivered", "to", "the", "top", "handler", "on", "r", "'s", "callback", "stack", ".", "The", "handler", "could", "delegate", "the", "event", "to", "one", "of", "r", "'s", "children", ",", "or", "it", "may", "handle", "it", "itself", ",", "perhaps", "changing", "the", "graphical", "scene", "in", "some", "way", ".", "DistAnim-3D", "is", "a", "direct", "descendant", "of", "Anim-3D", ".", "In", "addition", "to", "the", "objects", "being", "distributed", ",", "it", "has", "many", "additional", "facilities", "that", "are", "needed", "for", "general-purpose", "3D", "graphical", "applications", ",", "such", "as", "texture", "mapping", ",", "indexed", "line", "and", "polygon", "sets", ",", "choice", "groups", ",", "projection", "and", "transformation", "callbacks", ",", "and", "picking", ".", "Since", "DistAnim-3D", "is", "embedded", "in", "Repo", "instead", "of", "Obliq", "-LRB-", "see", "Section", "4.3", "-RRB-", ",", "the", "resulting", "library", "is", "called", "Repo-3D", ".", "4.3", "Obliq", "and", "Repo", "Obliq", "-LSB-", "8", "-RSB-", "is", "a", "lexically-scoped", ",", "untyped", ",", "interpreted", "language", "for", "distributed", "object-oriented", "computation", ".", "It", "is", "implemented", "in", ",", "and", "tightly", "integrated", "with", ",", "Modula-3", ".", "An", "Obliq", "computation", "may", "involve", "multiple", "threads", "of", "control", "within", "an", "address", "space", ",", "multiple", "address", "spaces", "on", "a", "machine", ",", "heterogeneous", "machines", "over", "a", "local", "network", ",", "and", "multiple", "networks", "over", "the", "Internet", ".", "Obliq", "uses", ",", "and", "supports", ",", "the", "Modula-3", "thread", ",", "exception", ",", "and", "garbage-collection", "facilities", ".", "Its", "distributed-computation", "mechanism", "is", "based", "on", "Network", "Objects", ",", "allowing", "transparent", "support", "for", "multiple", "processes", "on", "heterogeneous", "machines", ".", "Objects", "are", "local", "to", "a", "site", ",", "while", "computations", "can", "roam", "over", "the", "network", ".", "Repo", "-LSB-", "23", "-RSB-", "is", "a", "descendant", "of", "Obliq", "that", "extends", "the", "Obliq", "object", "model", "to", "include", "replicated", "objects", ".", "Therefore", ",", "Repo", "objects", "have", "state", "that", "may", "be", "local", "to", "a", "site", "-LRB-", "as", "in", "Obliq", "-RRB-", "or", "replicated", "across", "multiple", "sites", ".", "Repo-3D", "'s", "design", "has", "two", "logical", "parts", ":", "the", "basic", "design", "and", "local", "variations", ".", "The", "basic", "design", "encompasses", "the", "changes", "to", "Obliq-3D", "to", "carry", "it", "into", "a", "distributed", "context", ",", "and", "additional", "enhancements", "that", "are", "not", "particular", "to", "distributed", "graphics", "-LRB-", "and", "are", "therefore", "not", "discussed", "here", "-RRB-", ".", "Local", "variations", "are", "introduced", "to", "handle", "two", "issues", "mentioned", "in", "Section", "1", ":", "transient", "local", "changes", "and", "responsive", "local", "editing", ".", "Figure", "3", ":", "The", "Repo-3D", "GO", "class", "hierarchy", ".", "Most", "of", "the", "classes", "are", "also", "in", "Obliq-3D", ";", "the", "italicized", "ones", "were", "added", "to", "Repo-3D", ".", "GroupGO", "GO", "CameraGO", "LightGO", "NonSurfaceGO", "SurfaceGO", "RootGO", "ChoiceGroupGO", "OrthoCameraGO", "PerspCameraGO", "AmbientLightGO", "VectorLightGO", "PointLightGO", "SpotLightGO", "LineGO", "MarkerGO", "TextGO", "PolygonGO", "BoxGO", "SphereGO", "CylinderGO", "DiskGO", "TorusGO", "QuadMeshGO", "IndexedPolygonSetGO", "Text2DGO", "IndexedLineSetGO", "Figure", "4", ":", "The", "relationship", "between", "properties", ",", "names", ",", "values", ",", "and", "behaviors", ".", "Each", "oval", "represents", "an", "object", "and", "arrows", "show", "containment", ".", "Value", "Behavior", "Property", "Name", "Request", "Request", "...", "5.1", "Basic", "Repo-3D", "Design", "The", "Anim-3D", "scene-graph", "model", "is", "well", "suited", "for", "adaptation", "to", "a", "distributed", "environment", ".", "First", ",", "in", "Anim-3D", ",", "properties", "are", "attached", "to", "nodes", ",", "not", "inserted", "into", "the", "graph", ",", "and", "the", "property", "and", "child", "lists", "are", "unordered", "-LRB-", "i.e.", ",", "the", "order", "in", "which", "properties", "are", "assigned", "to", "a", "node", ",", "or", "children", "are", "added", "to", "a", "group", ",", "does", "not", "affect", "the", "final", "result", "-RRB-", ".", "In", "libraries", "that", "insert", "properties", "and", "nodes", "in", "the", "graph", "and", "execute", "the", "graph", "in", "a", "well-defined", "order", "-LRB-", "such", "as", "Inventor", "-RRB-", ",", "the", "siblings", "of", "a", "node", "-LRB-", "or", "subtree", "-RRB-", "can", "affect", "the", "attributes", "of", "that", "node", "-LRB-", "or", "subtree", "-RRB-", ".", "In", "Anim-3D", ",", "and", "similar", "libraries", "-LRB-", "such", "as", "Java", "3D", "-RRB-", ",", "properties", "are", "only", "inherited", "down", "the", "graph", ",", "so", "a", "node", "'s", "properties", "are", "a", "function", "of", "the", "node", "itself", "and", "its", "ancestors", "--", "its", "siblings", "do", "not", "affect", "it", ".", "Therefore", ",", "subtrees", "can", "be", "added", "to", "different", "scene", "graphs", ",", "perhaps", "in", "different", "processes", ",", "with", "predictable", "results", ".", "Second", ",", "the", "interface", "-LRB-", "both", "compiled", "Anim-3D", "and", "interpreted", "Obliq-3D", "-RRB-", "is", "programmatical", "and", "declarative", ".", "There", "is", "no", "``", "graphi-cal", "scene", "''", "file", "format", "per", "se", ":", "graphical", "scenes", "are", "created", "as", "the", "side", "effect", "of", "executing", "programs", "that", "explicitly", "create", "objects", "and", "manipulate", "them", "via", "the", "object", "methods", ".", "Thus", ",", "all", "graphical", "objects", "are", "stored", "as", "the", "Repo-3D", "programs", "that", "are", "executed", "to", "create", "them", ".", "This", "is", "significant", ",", "because", "by", "using", "the", "Replicated", "Object", "library", "described", "in", "Section", "4.1", "to", "make", "the", "graphical", "objects", "distributed", ",", "the", "``", "file", "format", "''", "-LRB-", "i.e.", ",", "a", "Repo-3D", "program", "-RRB-", "is", "updated", "for", "free", ".", "Converting", "Anim-3D", "objects", "to", "Replicated", "Objects", "involved", "three", "choices", ":", "what", "objects", "to", "replicate", ",", "what", "methods", "update", "the", "object", "state", ",", "and", "what", "the", "global", ",", "replicated", "state", "of", "each", "object", "is", ".", "Since", "replicated", "objects", "have", "more", "overhead", "-LRB-", "e.g.", ",", "method", "execution", "time", ",", "memory", "usage", ",", "and", "latency", "when", "passed", "between", "processes", "-RRB-", ",", "not", "every", "category", "of", "object", "in", "Repo-3D", "is", "replicated", ".", "We", "will", "consider", "each", "of", "the", "object", "categories", "described", "in", "Figure", "4.2", "in", "turn", ":", "graphical", "objects", "-LRB-", "GOs", "-RRB-", ",", "properties", "-LRB-", "values", ",", "names", ",", "behaviors", ",", "animation", "handles", "-RRB-", "and", "callbacks", ".", "For", "each", "of", "these", "objects", ",", "the", "obvious", "methods", "are", "designated", "as", "update", "methods", ",", "and", ",", "as", "discussed", "in", "Section", "4.1", ",", "the", "global", "state", "of", "each", "object", "is", "implicitly", "determined", "by", "those", "update", "methods", ".", "Therefore", ",", "we", "will", "not", "go", "into", "excessive", "detail", "about", "either", "the", "methods", "or", "the", "state", ".", "Finally", ",", "Repo-3D", "'s", "support", "for", "change", "notification", "will", "be", "discussed", ".", "5.1.1", "Graphical", "Objects", "GOs", "are", "the", "most", "straightforward", ".", "There", "are", "currently", "twenty-one", "different", "types", "of", "GOs", ",", "and", "all", "but", "the", "RootGOs", "are", "replicated", ".", "Since", "RootGOs", "are", "associated", "with", "an", "onscreen", "window", ",", "they", "are", "not", "replicated", "--", "window", "creation", "remains", "an", "active", "decision", "of", "the", "local", "process", ".", "Furthermore", ",", "if", "replicated", "windows", "are", "needed", ",", "the", "general-purpose", "programming", "facilities", "of", "Repo", "can", "be", "used", "to", "support", "this", "in", "a", "relatively", "straightforward", "manner", ",", "outside", "the", "scope", "of", "Repo-3D", ".", "A", "GO", "'s", "state", "is", "comprised", "of", "the", "properties", "attached", "to", "the", "object", ",", "its", "name", ",", "and", "some", "other", "non-inherited", "property", "attributes", ".", "5", "The", "methods", "that", "modify", "the", "property", "list", "are", "update", "methods", ".", "Group", "GOs", "also", "contain", "a", "set", "of", "child", "nodes", ",", "and", "have", "update", "methods", "that", "modify", "that", "set", ".", "5.1.2", "Properties", "Properties", "are", "more", "complex", ".", "There", "are", "far", "more", "properties", "in", "a", "graphical", "scene", "than", "there", "are", "graphical", "objects", ",", "they", "change", "much", "more", "rapidly", ",", "and", "each", "property", "is", "constructed", "from", "a", "set", "of", "Modula-3", "objects", ".", "There", "are", "currently", "101", "different", "properties", "of", "seventeen", "different", "types", "in", "Repo-3D", ",", "and", "any", "of", "them", "can", "be", "attached", "to", "any", "GO", ".", "A", "typical", "GO", "would", "have", "anywhere", "from", "two", "or", "three", "-LRB-", "e.g.", ",", "a", "BoxGO", "would", "have", "at", "least", "two", "properties", "to", "define", "its", "corners", "-RRB-", "to", "a", "dozen", "or", "more", ".", "And", ",", "each", "of", "these", "properties", "could", "be", "complex", ":", "in", "the", "example", "in", "Section", "6", ",", "a", "single", "synchronous", "property", "for", "a", "long", "animation", "could", "have", "hundreds", "of", "requests", "enqueued", "within", "it", ".", "Consider", "again", "the", "object", "structure", "illustrated", "in", "Figure", "4", ".", "A", "property", "is", "defined", "by", "a", "name", "and", "a", "value", ",", "with", "the", "value", "being", "a", "container", "for", "a", "behavior", ".", "Only", "one", "of", "the", "Modula-3", "objects", "is", "replicated", ",", "the", "property", "value", ".", "Property", "values", "serve", "as", "the", "replicated", "containers", "for", "property", "behaviors", ".", "To", "change", "a", "property", ",", "a", "new", "behavior", "is", "assigned", "to", "its", "value", ".", "The", "state", "of", "the", "value", "is", "the", "current", "behavior", ".", "Animation", "handles", "are", "also", "replicated", ".", "They", "tie", "groups", "of", "related", "synchronous", "properties", "together", ",", "and", "are", "the", "basis", "for", "the", "interaction", "in", "the", "example", "in", "Section", "6", ".", "In", "Anim-3D", ",", "handles", "have", "one", "animate", "method", ",", "which", "starts", "an", "animation", "and", "blocks", "until", "it", "finishes", ".", "Since", "update", "methods", "are", "executed", "everywhere", ",", "and", "block", "access", "to", "the", "object", "while", "they", "are", "being", "executed", ",", "they", "should", "not", "take", "an", "extended", "period", "of", "time", ".", "In", "creating", "Repo-3D", ",", "the", "animate", "method", "was", "changed", "to", "call", "two", "new", "methods", ":", "an", "update", "method", "that", "starts", "the", "animation", ",", "and", "a", "non-update", "method", "that", "waits", "for", "the", "animation", "to", "finish", ".", "We", "also", "added", "methods", "to", "pause", "and", "resume", "an", "animation", ",", "to", "retrieve", "and", "change", "the", "current", "relative", "time", "of", "an", "animation", "handle", ",", "and", "to", "stop", "an", "animation", "early", ".", "The", "state", "of", "an", "Animation", "handle", "is", "a", "boolean", "value", "that", "says", "if", "it", "is", "active", "or", "not", ",", "plus", "the", "start", ",", "end", ",", "and", "current", "time", "-LRB-", "if", "the", "handle", "is", "paused", "-RRB-", ".", "Most", "of", "the", "Modula-3", "objects", "that", "comprise", "a", "property", "are", "not", "replicated", ",", "for", "a", "variety", "of", "reasons", ":", "Properties", "represent", "a", "permanent", "binding", "between", "a", "property", "value", "and", "a", "name", ".", "Since", "they", "are", "immutable", ",", "they", "have", "no", "synchronization", "requirements", "and", "can", "simply", "be", "copied", "between", "processes", ".", "Names", "represent", "simple", "constant", "identifiers", ",", "and", "are", "therefore", "not", "replicated", "either", ".", "Behaviors", "and", "requests", "are", "not", "replicated", ".", "While", "they", "can", "be", "modified", "after", "being", "created", ",", "they", "are", "treated", "as", "immutable", "data", "types", "for", "two", "reasons", ".", "First", ",", "the", "vast", "majority", "of", "behaviors", ",", "even", "complex", "synchronous", "ones", ",", "are", "not", "changed", "once", "they", "have", "been", "created", "and", "initialized", ".", "Thus", ",", "there", "is", "some", "justification", "for", "classifying", "the", "method", "calls", "that", "modify", "them", "as", "part", "of", "their", "initialization", "process", ".", "The", "second", "reason", "is", "practical", "and", "much", "more", "significant", ".", "Once", "a", "scene", "has", "been", "created", "and", "is", "being", "``", "used", "''", "by", "the", "application", ",", "the", "bulk", "of", "the", "time-critical", "changes", "to", "it", "tend", "to", "be", "assignments", "of", "new", "behaviors", "to", "the", "existing", "property", "values", ".", "For", "example", ",", "an", "object", "is", "moved", "by", "assigning", "a", "new", "-LRB-", "often", "constant", "-RRB-", "behavior", "to", "its", "GO_Transform", "property", "value", ".", "Therefore", ",", "the", "overall", "performance", "of", "the", "system", "depends", "heavily", "on", "the", "performance", "of", "property", "value", "behavior", "changes", ".", "By", "treating", "behaviors", "as", "immutable", "objects", ",", "they", "can", "simply", "be", "copied", "between", "processes", "without", "incurring", "the", "overhead", "of", "the", "replicated", "object", "system", ".", "5.1.3", "Input", "Callbacks", "In", "Repo-3D", ",", "input", "event", "callbacks", "are", "not", "replicated", ".", "As", "discussed", "in", "Section", "4.2", ",", "input", "events", "are", "delivered", "to", "the", "callback", "stacks", "of", "a", "RootGO", ".", "Callbacks", "attached", "to", "any", "other", "object", "receive", "input", "events", "only", "if", "they", "are", "delivered", "to", "that", "object", "by", "the", "programmer", ",", "perhaps", "recursively", "from", "another", "input", "event", "callback", "-LRB-", "such", "as", "the", "one", "attached", "to", "the", "RootGO", "-RRB-", ".", "Therefore", ",", "the", "interactive", "behavior", "of", "a", "root", "window", "is", "defined", "not", "only", "by", "the", "callbacks", "attached", "to", "its", "RootGO", ",", "but", "also", "by", "the", "set", "of", "callbacks", "associated", "with", "the", "graph", "rooted", "at", "that", "RootGO", ".", "Since", "the", "RootGOs", "are", "not", "replicated", ",", "the", "5", ".", "Some", "attributes", "of", "a", "GO", ",", "such", "as", "the", "arrays", "of", "Point3D", "properties", "that", "define", "the", "vertices", "of", "a", "polygon", "set", ",", "are", "not", "attached", "to", "the", "object", ",", "but", "are", "manipulated", "through", "method", "calls", ".", "callbacks", "that", "they", "delegate", "event", "handling", "to", "are", "not", "replicated", "either", ".", "If", "a", "programmer", "wants", "to", "associate", "callbacks", "with", "objects", "as", "they", "travel", "between", "processes", ",", "Repo", "'s", "general-purpose", "programming", "facilities", "can", "be", "used", "to", "accomplish", "this", "in", "a", "straightforward", "manner", ".", "5.1.4", "Change", "Notification", "The", "final", "component", "of", "the", "basic", "design", "is", "support", "for", "notification", "of", "changes", "to", "distributed", "objects", ".", "For", "example", ",", "when", "an", "object", "'s", "position", "changes", "or", "a", "new", "child", "is", "added", "to", "a", "group", ",", "some", "of", "the", "processes", "containing", "replicas", "may", "wish", "to", "react", "in", "some", "way", ".", "Fortunately", ",", "as", "discussed", "in", "Section", "4.1", ",", "the", "Replicated", "Object", "package", "automatically", "generates", "Notification", "Object", "types", "for", "all", "replicated", "object", "types", ",", "which", "provide", "exactly", "the", "required", "behavior", ".", "The", "Notification", "Objects", "for", "property", "values", "allow", "a", "programmer", "to", "be", "notified", "of", "changes", "to", "the", "behavior", "of", "a", "property", ",", "and", "the", "Notification", "Objects", "for", "the", "various", "GOs", "likewise", "allow", "notification", "of", "updates", "to", "them", ".", "5.2", "Local", "Variations", "Repo-3D", "'s", "local", "variations", "solve", "a", "set", "of", "problems", "particular", "to", "the", "distributed", "context", "in", "which", "Repo-3D", "lives", ":", "maintaining", "interactivity", "and", "supporting", "local", "modifications", "to", "the", "shared", "scene", "graph", ".", "If", "the", "graphical", "objects", "and", "their", "properties", "were", "always", "strictly", "replicated", ",", "programmers", "would", "have", "to", "create", "local", "variations", "by", "copying", "the", "objects", "to", "be", "modified", ",", "creating", "a", "set", "of", "Notification", "Objects", "on", "the", "original", "objects", ",", "the", "copies", "of", "those", "objects", ",", "and", "all", "their", "properties", "-LRB-", "to", "be", "notified", "when", "either", "change", "-RRB-", ",", "and", "reflecting", "the", "appropriate", "changes", "between", "the", "instances", ".", "Unfortunately", ",", "while", "this", "process", "could", "be", "automated", "somewhat", ",", "it", "would", "still", "be", "extremely", "tedious", "and", "error", "prone", ".", "More", "seriously", ",", "the", "overhead", "of", "creating", "this", "vast", "array", "of", "objects", "and", "links", "between", "them", "would", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "d", "-RRB-", "Figure", "5", ":", "Simultaneous", "images", "from", "a", "session", "with", "the", "distributed", "CATHI", "animation", "viewer", ",", "running", "on", "four", "machines", ",", "showing", "an", "animation", "of", "an", "engine", ".", "-LRB-", "a", "-RRB-", "Plain", "animation", "viewer", ",", "running", "on", "Windows", "NT", ".", "-LRB-", "b", "-RRB-", "Overview", "window", ",", "running", "on", "Windows", "95", ".", "-LRB-", "c", "-RRB-", "Animation", "viewer", "with", "local", "animation", "meter", ",", "running", "on", "IRIX", ".", "-LRB-", "d", "-RRB-", "Animation", "viewer", "with", "local", "transparency", "to", "expose", "hidden", "parts", ",", "running", "on", "Solaris", ".", "make", "this", "approach", "impractical", "for", "short", "transient", "changes", ",", "such", "as", "highlighting", "an", "object", "under", "the", "mouse", ".", "To", "overcome", "this", "problem", ",", "Repo-3D", "allows", "the", "two", "major", "elements", "of", "the", "shared", "state", "of", "the", "graphical", "object", "scene", "--", "the", "properties", "attached", "to", "a", "GO", "and", "the", "children", "of", "a", "group", "--", "to", "have", "local", "variations", "applied", "to", "them", ".", "-LRB-", "Local", "variations", "on", "property", "values", "or", "animation", "handles", "are", "not", "supported", ",", "although", "we", "are", "considering", "adding", "support", "for", "the", "latter", ".", "-RRB-", "Conceptually", ",", "local", "state", "is", "the", "state", "added", "to", "each", "object", "-LRB-", "the", "additions", ",", "deletions", ",", "and", "replacements", "to", "the", "properties", "or", "children", "-RRB-", "that", "is", "only", "accessible", "to", "the", "local", "copies", "and", "is", "not", "passed", "to", "remote", "processes", "when", "the", "object", "is", "copied", "to", "create", "a", "new", "replica", ".", "The", "existence", "of", "local", "state", "is", "possible", "because", ",", "as", "discussed", "in", "Section", "4.1", ",", "the", "shared", "state", "of", "a", "replicated", "object", "is", "implicitly", "defined", "by", "the", "methods", "that", "update", "it", "6", ".", "Therefore", ",", "the", "new", "methods", "that", "manipulate", "the", "local", "variations", "are", "added", "to", "the", "GOs", "as", "non-update", "methods", ".", "Repo-3D", "combines", "both", "the", "global", "and", "local", "state", "when", "creating", "the", "graphical", "scene", "using", "the", "underlying", "graphics", "package", ".", "As", "mentioned", "above", ",", "local", "variations", "come", "in", "two", "flavors", ":", "Property", "variations", ".", "There", "are", "three", "methods", "to", "set", ",", "unset", ",", "and", "get", "the", "global", "property", "list", "attached", "to", "a", "GO", ".", "We", "added", "the", "following", "methods", "to", "manipulate", "local", "variations", ":", "add", "or", "remove", "local", "properties", "-LRB-", "overriding", "the", "value", "normally", "used", "for", "the", "object", "-RRB-", ",", "hide", "or", "reveal", "properties", "-LRB-", "causing", "the", "property", "value", "of", "the", "parent", "node", "to", "be", "inherited", "-RRB-", ",", "and", "flush", "the", "set", "of", "local", "variations", "-LRB-", "removing", "them", "in", "one", "step", "-RRB-", "or", "atomically", "apply", "them", "to", "the", "global", "state", "of", "the", "object", ".", "Child", "variations", ".", "There", "are", "five", "methods", "to", "add", ",", "remove", ",", "replace", ",", "retrieve", ",", "and", "flush", "the", "set", "of", "children", "contained", "in", "a", "group", "node", ".", "We", "added", "the", "following", "ones", ":", "add", "a", "local", "node", ",", "remove", "a", "global", "node", "locally", ",", "replace", "a", "global", "node", "with", "some", "other", "node", "locally", ",", "remove", "each", "of", "these", "local", "variations", ",", "flush", "the", "local", "variations", "-LRB-", "remove", "them", "all", "in", "one", "step", "-RRB-", ",", "and", "atomically", "apply", "the", "local", "variations", "to", "the", "global", "state", ".", "This", "set", "of", "local", "operations", "supports", "the", "problems", "local", "variations", "were", "designed", "to", "solve", ",", "although", "some", "possible", "enhancements", "are", "discussed", "in", "Section", "7", ".", "As", "an", "example", "of", "the", "ease", "of", "prototyping", "distributed", "applications", "with", "Repo-3D", ",", "we", "created", "a", "distributed", "animation", "examiner", "for", "the", "CATHI", "-LSB-", "6", "-RSB-", "animation", "generation", "system", ".", "CATHI", "generates", "short", "informational", "animation", "clips", "to", "explain", "the", "operation", "of", "technical", "devices", ".", "It", "generates", "full-featured", "animation", "scripts", ",", "including", "camera", "and", "object", "motion", ",", "color", "and", "opacity", "effects", ",", "and", "lighting", "setup", ".", "It", "was", "reasonably", "straightforward", "to", "modify", "CATHI", "to", "generate", "Repo-3D", "program", "files", ",", "in", "addition", "to", "the", "GeomView", "and", "Render-Man", "script", "files", "it", "already", "generated", ".", "The", "resulting", "output", "is", "a", "Repo-3D", "program", "that", "creates", "two", "scene", "DAGs", ":", "a", "camera", "graph", "and", "a", "scene", "graph", ".", "The", "objects", "in", "these", "DAGs", "have", "synchronous", "behaviors", "specified", "for", "their", "surface", "and", "transformation", "properties", ".", "An", "entire", "animation", "is", "enqueued", "in", "the", "requests", "of", "these", "behaviors", ",", "lasting", "anywhere", "from", "a", "few", "seconds", "to", "a", "few", "minutes", ".", "We", "built", "a", "distributed", ",", "multi-user", "examiner", "over", "the", "course", "of", "a", "weekend", ".", "The", "examiner", "allows", "multiple", "users", "to", "view", "the", "same", "animation", "while", "discussing", "it", "-LRB-", "e.g.", ",", "via", "electronic", "chat", "or", "on", "the", "phone", "-RRB-", ".", "Figure", "5", "shows", "images", "of", "the", "examiner", "running", "on", "four", "machines", ",", "each", "with", "a", "different", "view", "of", "the", "scene", ".", "The", "first", "step", "was", "to", "build", "a", "simple", "``", "loader", "''", "that", "reads", "the", "animation", "file", ",", "creates", "a", "window", ",", "adds", "the", "animation", "scene", "and", "camera", "to", "it", ",", "and", "exports", "the", "animation", "on", "the", "network", ",", "requiring", "less", "than", "a", "dozen", "lines", "of", "Repo-3D", "code", ".", "A", "``", "network", "''", "version", ",", "that", "imports", "the", "animation", "from", "the", "network", "instead", "of", "reading", "it", "from", "disk", ",", "replaced", "the", "lines", "of", "code", "to", "read", "and", "export", "the", "animation", "with", "a", "single", "line", "to", "import", "it", ".", "Figure", "5", "-LRB-", "a", "-RRB-", "shows", "an", "animation", "being", "viewed", "by", "one", "of", "these", "clients", ".", "The", "examiner", "program", "is", "loaded", "by", "both", "these", "simple", "clients", ",", "and", "is", "about", "450", "lines", "long", ".", "The", "examiner", "supports", ":", "Pausing", "and", "continuing", "the", "animation", ",", "and", "changing", "the", "current", "animation", "time", "using", "the", "mouse", ".", "Since", "this", "is", "done", "by", "operating", "on", "the", "shared", "animation", "handle", ",", "changes", "performed", "by", "any", "viewer", "are", "seen", "by", "all", ".", "Because", "of", "the", "consistency", "guarantees", ",", "all", "users", "can", "freely", "attempt", "to", "change", "the", "time", ",", "and", "the", "system", "will", "maintain", "all", "views", "consistently", ".", "A", "second", "``", "overview", "''", "window", "-LRB-", "Figure", "5", "-LRB-", "b", "-RRB-", "-RRB-", ",", "where", "a", "new", "camera", "watches", "the", "animation", "scene", "and", "camera", "from", "a", "distant", "view", ".", "A", "local", "graphical", "child", "-LRB-", "representing", "a", "portion", "of", "the", "animation", "camera", "'s", "frustum", "-RRB-", "was", "added", "to", "the", "shared", "animation", "camera", "group", "to", "let", "the", "attributes", "of", "the", "animation", "camera", "be", "seen", "in", "the", "overview", "window", ".", "A", "local", "animation", "meter", "-LRB-", "bottom", "of", "Figure", "5", "-LRB-", "c", "-RRB-", "-RRB-", ",", "that", "can", "be", "added", "to", "any", "window", "by", "pressing", "a", "key", ",", "and", "which", "shows", "the", "current", "time", "offset", "into", "the", "animation", "both", "graphically", "and", "numerically", ".", "It", "was", "added", "in", "front", "of", "the", "camera", "in", "the", "animation", "viewer", "window", ",", "as", "a", "local", "child", "of", "a", "GO", "in", "the", "camera", "graph", ",", "so", "that", "it", "would", "be", "fixed", "to", "the", "screen", "in", "the", "animation", "viewer", ".", "Local", "editin", "g", "-LRB-", "Figure", "5", "-LRB-", "d", "-RRB-", "-RRB-", ",", "so", "that", "users", "can", "select", "objects", "and", "make", "them", "transparent", "-LRB-", "to", "better", "see", "what", "was", "happening", "in", "the", "animation", "-RRB-", "or", "hide", "them", "completely", "-LRB-", "useful", "on", "slow", "machines", ",", "to", "speed", "up", "rendering", "-RRB-", ".", "Assorted", "local", "feedback", "-LRB-", "highlighting", "the", "object", "under", "the", "mouse", "and", "flashing", "the", "selected", "object", "-RRB-", "was", "done", "with", "local", "property", "changes", "to", "the", "shared", "GOs", "in", "the", "scene", "graph", ".", "Given", "the", "attention", "paid", "to", "the", "design", "of", "Repo-3D", ",", "it", "was", "not", "necessary", "to", "be", "overly", "concerned", "with", "the", "distributed", "behavior", "of", "the", "application", "-LRB-", "we", "spent", "no", "more", "than", "an", "hour", "or", "so", "-RRB-", ".", "Most", "of", "that", "time", "was", "spent", "deciding", "if", "a", "given", "operation", "should", "be", "global", "or", "a", "local", "variation", ".", "The", "bulk", "of", "programming", "and", "debugging", "time", "was", "spent", "implementing", "application", "code", ".", "For", "example", ",", "in", "the", "overview", "window", ",", "the", "representation", "of", "the", "camera", "moves", "dynamically", ",", "based", "on", "the", "bounding", "values", "of", "the", "animation", "'s", "scene", "and", "camera", "graphs", ".", "In", "editing", "mode", ",", "the", "property", "that", "flashes", "the", "selected", "node", "bases", "its", "local", "color", "on", "the", "current", "global", "color", "-LRB-", "allowing", "a", "user", "who", "is", "editing", "while", "an", "animation", "is", "in", "progress", "to", "see", "any", "color", "changes", "to", "the", "selected", "node", ".", "-RRB-", "We", "have", "presented", "the", "rationale", "for", ",", "and", "design", "of", ",", "Repo-3D", ",", "a", "general-purpose", ",", "object-oriented", "library", "for", "developing", "distributed", ",", "interactive", "3D", "graphics", "applications", "across", "a", "range", "of", "heterogeneous", "workstations", ".", "By", "presenting", "the", "programmer", "with", "the", "illusion", "of", "a", "large", "shared", "memory", ",", "using", "the", "Shared", "Data-Object", "model", "of", "DSM", ",", "Repo-3D", "makes", "it", "easy", "for", "programmers", "to", "rapidly", "prototype", "distributed", "3D", "graphics", "applications", "using", "a", "familiar", "object-oriented", "programming", "paradigm", ".", "Both", "graphical", "and", "general-purpose", ",", "non-graphical", "data", "can", "be", "shared", ",", "since", "Repo-3D", "is", "embedded", "in", "Repo", ",", "a", "general-purpose", ",", "lexically-scoped", ",", "distributed", "programming", "language", ".", "Repo-3D", "is", "designed", "to", "directly", "support", "the", "distribution", "of", "graphical", "objects", ",", "circumventing", "the", "``", "duplicate", "database", "''", "problem", "and", "allowing", "programmers", "to", "concentrate", "on", "the", "application", "function-6", ".", "The", "local", "state", "is", "not", "copied", "when", "a", "replicated", "object", "is", "first", "passed", "to", "a", "new", "process", "because", "the", "Repo-3D", "objects", "have", "custom", "serialization", "routines", "-LRB-", "or", "Picklers", ",", "in", "Modula-3", "parlance", "-RRB-", ".", "These", "routines", "only", "pass", "the", "global", "state", ",", "and", "initialize", "the", "local", "state", "on", "the", "receiving", "side", "to", "reasonable", "default", "values", "corresponding", "to", "the", "empty", "local", "state", ".", "ality", "of", "a", "system", ",", "rather", "than", "its", "communication", "or", "synchronization", "components", ".", "We", "have", "introduced", "a", "number", "of", "issues", "that", "must", "be", "considered", "when", "building", "a", "distributed", "3D", "graphics", "library", ",", "especially", "concerning", "efficient", "and", "clean", "support", "for", "data", "distribution", "and", "local", "variations", "of", "shared", "graphical", "scenes", ",", "and", "discussed", "how", "Repo-3D", "addresses", "them", ".", "There", "are", "a", "number", "of", "ways", "in", "which", "Repo-3D", "could", "be", "improved", ".", "The", "most", "important", "is", "the", "way", "the", "library", "deals", "with", "time", ".", "By", "default", ",", "the", "library", "assumes", "all", "machines", "are", "running", "a", "time-synchronization", "protocol", ",", "such", "as", "NTP", ",", "and", "uses", "an", "internal", "animation", "time", "offset", "7", "-LRB-", "instead", "of", "the", "system-specific", "time", "offset", "-RRB-", "because", "different", "OSs", "-LRB-", "e.g.", ",", "NT", "vs.", "UNIX", "-RRB-", "start", "counting", "time", "at", "different", "dates", ".", "Hooks", "have", "been", "provided", "to", "allow", "a", "programmer", "to", "specify", "their", "own", "function", "to", "compute", "the", "``", "current", "''", "animation", "time", "offset", "within", "a", "process", ".", "Using", "this", "facility", ",", "it", "is", "possible", "to", "build", "inter-process", "time", "synchronization", "protocols", "-LRB-", "which", "we", "do", "-RRB-", ",", "but", "this", "approach", "is", "not", "entirely", "satisfactory", "given", "our", "stated", "goal", "of", "relieving", "the", "programmer", "of", "such", "tedious", "chores", ".", "Future", "systems", "should", "integrate", "more", "advanced", "solutions", ",", "such", "as", "adjusting", "time", "values", "as", "they", "travel", "between", "machines", ",", "so", "that", "users", "of", "computers", "with", "unsynchronized", "clocks", "can", "collaborate", "8", ".", "This", "will", "become", "more", "important", "as", "mobile", "computers", "increase", "in", "popularity", ",", "as", "it", "may", "not", "be", "practical", "to", "keep", "their", "clocks", "synchronized", ".", "The", "specification", "of", "local", "variations", "in", "Repo-3D", "could", "benefit", "from", "adopting", "the", "notion", "of", "paths", "-LRB-", "as", "used", "in", "Java", "3D", "and", "Inventor", ",", "for", "example", "-RRB-", ".", "A", "path", "is", "an", "array", "of", "objects", "leading", "from", "the", "root", "of", "the", "graph", "to", "an", "object", ";", "when", "an", "object", "occurs", "in", "multiple", "places", "in", "one", "or", "more", "scene", "graphs", ",", "paths", "allow", "these", "instances", "to", "be", "differ-entiated", ".", "By", "specifying", "local", "variations", "using", "paths", ",", "nodes", "in", "the", "shared", "scene", "graphs", "could", "have", "variations", "within", "a", "process", "as", "well", "as", "between", "processes", ".", "One", "other", "limitation", "of", "Repo-3D", ",", "arising", "from", "our", "use", "of", "the", "Replicated", "Object", "package", ",", "is", "that", "there", "is", "no", "way", "to", "be", "notified", "when", "local", "variations", "are", "applied", "to", "an", "object", ".", "Recall", "that", "the", "methods", "of", "an", "automatically", "generated", "Notification", "Object", "correspond", "to", "the", "update", "methods", "of", "the", "corresponding", "Replicated", "Object", ".", "Since", "the", "methods", "that", "manipulate", "the", "local", "variations", "are", "non-update", "methods", "-LRB-", "i.e.", ",", "they", "do", "not", "modify", "the", "replicated", "state", "-RRB-", ",", "there", "are", "no", "corresponding", "methods", "for", "them", "in", "the", "Notification", "Objects", ".", "Of", "course", ",", "it", "would", "be", "relatively", "straightforward", "to", "modify", "the", "Replicated", "Object", "package", "to", "support", "this", ",", "but", "we", "have", "not", "yet", "found", "a", "need", "for", "these", "notifiers", ".", "A", "more", "advanced", "replicated", "object", "system", "would", "also", "improve", "the", "library", ".", "Most", "importantly", ",", "support", "for", "different", "consistency", "semantics", "would", "be", "extremely", "useful", ".", "If", "we", "could", "specify", "semantics", "such", "as", "``", "all", "updates", "completely", "define", "the", "state", "of", "an", "object", ",", "and", "only", "the", "last", "update", "is", "of", "interest", ",", "''", "the", "efficiency", "of", "the", "distribution", "of", "property", "values", "would", "improve", "significantly", ";", "in", "this", "case", ",", "updates", "could", "be", "applied", "-LRB-", "or", "discarded", "-RRB-", "when", "they", "arrive", ",", "without", "waiting", "for", "all", "previous", "updates", "to", "be", "applied", ",", "and", "could", "be", "applied", "locally", "without", "waiting", "for", "the", "round", "trip", "to", "the", "sequencer", ".", "There", "are", "also", "times", "when", "it", "would", "be", "useful", "to", "have", "support", "for", "consistency", "across", "multiple", "objects", ",", "either", "using", "causal", "ordering", "-LRB-", "as", "provided", "by", "systems", "such", "as", "ISIS", "and", "Visual-Obliq", "-RRB-", ",", "or", "some", "kind", "of", "transaction", "protocol", "to", "allow", "large", "groups", "of", "changes", "to", "be", "applied", "either", "as", "a", "unit", ",", "or", "not", "at", "all", ".", "It", "is", "not", "clear", "how", "one", "would", "provide", "these", "features", "with", "a", "replicated", "object", "system", "such", "as", "the", "one", "used", "here", ".", "While", "a", "library", "such", "as", "Repo-3D", "could", "be", "built", "using", "a", "variety", "of", "underlying", "platforms", ",", "the", "most", "likely", "one", "for", "future", "work", "is", "Java", ".", "Java", "shares", "many", "of", "the", "advantages", "of", "Modula-3", "-LRB-", "e.g.", ",", "threads", "and", "garbage", "collection", "are", "common", "across", "all", "architectures", "-RRB-", "and", "the", "packages", "needed", "to", "create", "a", "Repo-3D-like", "toolkit", "are", "beginning", "to", "appear", ".", "While", "Java", "does", "not", "yet", "have", "a", "replicated", "object", "system", "as", "powerful", "as", "the", "Replicated", "Object", "package", ",", "a", "package", "such", "as", "JSDT", "-LSB-", "36", "-RSB-", "-LRB-", "which", "focuses", "more", "on", "data", "communication", "than", "high-level", "object", "semantics", "-RRB-", "may", "be", "a", "good", "starting", "point", ".", "Work", "is", "also", "being", "done", "on", "interpreted", ",", "distributed", "programming", "languages", "on", "top", "of", "Java", "-LRB-", "e.g.", ",", "Ambit", "-LSB-", "9", "-RSB-", "-RRB-", ".", "Finally", ",", "Java", "3D", "is", "very", "similar", "to", "Anim-3D", ",", "even", "though", "its", "design", "leans", "toward", "efficiency", "instead", "of", "generality", "when", "there", "are", "trade-offs", "to", "be", "made", ".", "For", "example", ",", "the", "designers", "chose", "to", "forgo", "Anim-3D", "'s", "general", "property", "inheritance", "mechanism", "because", "it", "imposes", "computational", "overhead", ".", "By", "combining", "packages", "such", "as", "Java", "3D", ",", "JSDT", ",", "and", "Ambit", ",", "it", "should", "be", "possible", "to", "build", "a", "distributed", "graphics", "library", "such", "as", "Repo-3D", "in", "Java", ".", "We", "would", "like", "to", "thank", "the", "reviewers", "for", "their", "helpful", "comments", ",", "as", "well", "as", "the", "many", "other", "people", "who", "have", "contributed", "to", "this", "project", ".", "Andreas", "Butz", "ported", "CATHI", "to", "use", "Repo-3D", "and", "helped", "with", "the", "examples", "and", "the", "video", ".", "Clifford", "Beshers", "participated", "in", "many", "lively", "discussions", "about", "the", "gamut", "of", "issues", "dealing", "with", "language-level", "support", "for", "3D", "graphics", ".", "Tobias", "H", "llerer", "and", "Steven", "Dossick", "took", "part", "in", "many", "other", "lively", "discussions", ".", "Xinshi", "Sha", "implemented", "many", "of", "the", "extensions", "to", "Obliq-3D", "that", "went", "into", "Repo-3D", ".", "Luca", "Cardelli", "and", "Marc", "Najork", "of", "DEC", "SRC", "created", "Obliq", "and", "Obliq-3D", ",", "and", "provided", "ongoing", "help", "and", "encouragement", "over", "the", "years", "that", "Repo", "and", "Repo-3D", "have", "been", "evolving", ".", "This", "research", "was", "funded", "in", "part", "by", "the", "Office", "of", "Naval", "Research", "under", "Contract", "N00014-97-1-0838", "and", "the", "National", "Tele-Immersion", "Initiative", ",", "and", "by", "gifts", "of", "software", "from", "Critical", "Mass", "and", "Microsoft", ".", "-LSB-", "1", "-RSB-", "D.", "B.", "Anderson", ",", "J.", "W.", "Barrus", ",", "J.", "H.", "Howard", ",", "C.", "Rich", ",", "C.", "Shen", ",", "and", "R.", "C.", "Waters", ".", "Building", "Multi-User", "Interactive", "Multimedia", "Environments", "at", "MERL", ".", "Technical", "Report", "Research", "Report", "TR95-17", ",", "Mit-subishi", "Electric", "Research", "Laboratory", ",", "November", "1995", ".", "-LSB-", "2", "-RSB-", "H.", "Bal", ",", "M.", "Kaashoek", ",", "and", "A.", "Tanenbaum", ".", "Orca", ":", "A", "Language", "for", "Parallel", "Programming", "of", "Distributed", "Systems", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "18", "-LRB-", "3", "-RRB-", ":", "190", "205", ",", "March", "1992", ".", "-LSB-", "3", "-RSB-", "K.", "Bharat", "and", "L.", "Cardelli", ".", "Migratory", "Applications", ".", "In", "ACM", "UIST", "'", "95", ",", "pages", "133-142", ",", "November", "1995", ".", "-LSB-", "4", "-RSB-", "K.", "P.", "Birman", ".", "The", "Process", "Group", "Approach", "to", "Reliable", "Distributed", "Computing", ".", "CACM", ",", "36", "-LRB-", "12", "-RRB-", ":", "36", "53", ",", "Dec", "1993", ".", "-LSB-", "5", "-RSB-", "A.", "Birrell", ",", "G.", "Nelson", ",", "S.", "Owicki", ",", "and", "E.", "Wobber", ".", "Network", "Objects", ".", "In", "Proc", ".", "14th", "ACM", "Symp", ".", "on", "Operating", "Systems", "Principles", ",", "1993", ".", "-LSB-", "6", "-RSB-", "A", "Butz", ",", "Animation", "with", "CATHI", ",", "In", "Proceedings", "of", "AAAI/IAAI", "'", "97", ",", "pages", "957", "962", ",", "1997", ".", "-LSB-", "7", "-RSB-", "J.", "Calvin", ",", "A.", "Dickens", ",", "B.", "Gaines", ",", "P.", "Metzger", ",", "D.", "Miller", ",", "and", "D.", "Owen", ".", "The", "SIMNET", "Virtual", "World", "Architecture", ".", "In", "Proc", ".", "IEEE", "VRAIS", "'93", ",", "pages", "450", "455", ",", "Sept", "1993", ".", "-LSB-", "8", "-RSB-", "L.", "Cardelli", ".", "A", "Language", "with", "Distributed", "Scope", ".", "Computing", "Systems", ",", "8", "-LRB-", "1", "-RRB-", ":", "27", "59", ",", "Jan", "1995", ".", "-LSB-", "9", "-RSB-", "L.", "Cardelli", "and", "A.", "Gordon", ".", "Mobile", "Ambients", ".", "In", "Foundations", "of", "Software", "Science", "and", "Computational", "Structures", ",", "Maurice", "Nivat", "-LRB-", "Ed", ".", "-RRB-", ",", "LNCE", "1378", ",", "Springer", ",", "140", "155", ".", "1998", ".", "-LSB-", "10", "-RSB-", "R.", "Carey", "and", "G.", "Bell", ".", "The", "Annotated", "VRML", "2.0", "Reference", "Manual", ".", "Addison-Wesley", ",", "Reading", ",", "MA", ",", "1997", ".", "-LSB-", "11", "-RSB-", "C.", "Carlsson", "and", "O.", "Hagsand", ".", "DIVE", "--", "A", "Multi-User", "Virtual", "Reality", "System", ".", "In", "Proc", ".", "IEEE", "VRAIS", "'", "93", ",", "pages", "394", "400", ",", "Sept", "1993", ".", "-LSB-", "12", "-RSB-", "C.", "F.", "Codella", ",", "R.", "Jalili", ",", "L.", "Koved", ",", "and", "J.", "B.", "Lewis", ".", "A", "Toolkit", "for", "Developing", "Multi-User", ",", "Distributed", "Virtual", "Environments", ".", "In", "Proc", ".", "IEEE", "VRAIS", "'93", ",", "pages", "401", "407", ",", "Sept", "1993", ".", "7", ".", "Computed", "as", "an", "offset", "from", "January", "1", ",", "1997", ".", "8", ".", "Implementation", "details", "of", "the", "combination", "of", "Network", "and", "Replicated", "Objects", "made", "it", "difficult", "for", "us", "to", "adopt", "a", "more", "advanced", "solution", ".", "-LSB-", "13", "-RSB-", "C.", "Elliott", ",", "G.", "Schechter", ",", "R.", "Yeung", "and", "S.", "Abi-Ezzi", ".", "TBAG", ":", "A", "High", "Level", "Framework", "for", "Interactive", ",", "Animated", "3D", "Graphics", "Applications", ",", "In", "Proc", ".", "ACM", "SIGGRAPH", "94", ",", "pages", "421", "434", ",", "August", ",", "1994", ".", "-LSB-", "14", "-RSB-", "M.", "Fairen", "and", "A.", "Vinacua", ",", "ATLAS", ",", "A", "Platform", "for", "Distributed", "Graphics", "Applications", ",", "In", "Proc", ".", "VI", "Eurographics", "Workshop", "on", "Programming", "Paradigms", "in", "Graphics", ",", "pages", "91", "102", ",", "September", ",", "1997", ".", "-LSB-", "15", "-RSB-", "S.", "Feiner", ",", "B.", "MacIntyre", ",", "M.", "Haupt", ",", "and", "E.", "Solomon", ".", "Windows", "on", "the", "World", ":", "2D", "Windows", "for", "3D", "Augmented", "Reality", ".", "In", "Proc", ".", "ACM", "UIST", "'", "93", ",", "pages", "145", "155", ",", "1993", ".", "-LSB-", "16", "-RSB-", "T.", "A.", "Funkhouser", ".", "RING", ":", "A", "Client-Server", "System", "for", "Multi-User", "Virtual", "Environments", ".", "In", "Proc", ".", "1995", "ACM", "Symp", ".", "on", "Interactive", "3D", "Graphics", ",", "pages", "85", "92", ",", "March", "1995", ".", "-LSB-", "17", "-RSB-", "G.", "Grimsdale", ".", "dVS", "--", "Distributed", "Virtual", "Environment", "System", ".", "In", "Proc", ".", "Computer", "Graphics", "'91", "Conference", ",", "1991", ".", "-LSB-", "18", "-RSB-", "S.", "P.", "Harbison", ".", "Modula-3", ".", "Prentice-Hall", ",", "1992", ".", "-LSB-", "19", "-RSB-", "H.W.", "Holbrook", ",", "S.K.", "Singhal", "and", "D.R.", "Cheriton", ",", "Log-Based", "Receiver-Reliable", "Multicast", "for", "Distributed", "Interactive", "Simulation", ",", "Proc", ".", "ACM", "SIGCOMM", "'", "95", ",", "pages", "328", "341", ",", "1995", ".", "-LSB-", "20", "-RSB-", "W.", "Levelt", ",", "M.", "Kaashoek", ",", "H.", "Bal", ",", "and", "A.", "Tanenbaum", ".", "A", "Comparison", "of", "Two", "Paradigms", "for", "Distributed", "Shared", "Memory", ".", "Software", "Practice", "and", "Experience", ",", "22", "-LRB-", "11", "-RRB-", ":", "985", "1010", ",", "Nov", "1992", ".", "-LSB-", "21", "-RSB-", "B.", "Lucas", ".", "A", "Scientific", "Visualization", "Renderer", ".", "In", "Proc", ".", "IEEE", "Visualization", "'", "92", ",", "pp.", "227-233", ",", "October", "1992", ".", "-LSB-", "22", "-RSB-", "V.", "Machiraju", ",", "A", "Framework", "for", "Migrating", "Objects", "in", "Distributed", "Graphics", "Applications", ",", "Masters", "Thesis", ",", "University", "of", "Utah", ",", "Department", "of", "Computer", "Science", ",", "Salt", "Lake", "City", ",", "UT", ",", "June", ",", "1997", ".", "-LSB-", "23", "-RSB-", "B.", "MacIntyre", ".", "Repo", ":", "Obliq", "with", "Replicated", "Objects", ".", "Programmers", "Guide", "and", "Reference", "Manual", ".", "Columbia", "University", "Computer", "Science", "Department", "Research", "Report", "CUCS-023-97", ",", "1997", ".", "-RCB-", "-LSB-", "24", "-RSB-", "B.", "MacIntyre", ",", "and", "S.", "Feiner", ".", "Language-level", "Support", "for", "Exploratory", "Programming", "of", "Distributed", "Virtual", "Environments", ".", "In", "Proc", ".", "ACM", "UIST", "'", "96", ",", "pages", "83", "94", ",", "Seattle", ",", "WA", ",", "November", "6", "8", ",", "1996", ".", "-LSB-", "25", "-RSB-", "M.", "A.", "Najork", "and", "M.", "H.", "Brown", ".", "Obliq-3D", ":", "A", "High-level", ",", "Fast-turnaround", "3D", "Animation", "System", ".", "IEEE", "Transactions", "on", "Visualization", "and", "Computer", "Graphics", ",", "1", "-LRB-", "2", "-RRB-", ":", "175", "145", ",", "June", "1995", ".", "-LSB-", "26", "-RSB-", "R.", "Ben-Natan", ".", "CORBA", ":", "A", "Guide", "to", "the", "Common", "Object", "Request", "Broker", "Architecture", ",", "McGraw", "Hill", ",", "1995", ".", "-LSB-", "27", "-RSB-", "D.", "Phillips", ",", "M.", "Pique", ",", "C.", "Moler", ",", "J.", "Torborg", ",", "D.", "Greenberg", ".", "Distributed", "Graphics", ":", "Where", "to", "Draw", "the", "Lines", "?", "Panel", "Transcript", ",", "SIGGRAPH", "89", ",", "available", "at", ":", "http://www.siggraph.org:443/publications/panels/siggraphi89/", "-LSB-", "28", "-RSB-", "A.", "Prakash", "and", "H.", "S.", "Shim", ".", "DistView", ":", "Support", "for", "Building", "Efficient", "Collaborative", "Applications", "Using", "Replicated", "Objects", ".", "In", "Proc", ".", "ACM", "CSCW", "'", "94", ",", "pages", "153", "162", ",", "October", "1994", ".", "-LSB-", "29", "-RSB-", "J.", "Rohlf", "and", "J.", "Helman", ",", "IRIS", "Performer", ":", "A", "High", "Performance", "Multiprocessing", "Toolkit", "for", "Real-Time", "-LCB-", "3D", "-RCB-", "Graphics", ",", "In", "Proc", ".", "ACM", "SIGGRAPH", "94", ",", "pages", "381", "394", ",", "1994", ".", "-LSB-", "30", "-RSB-", "M.", "Roseman", "and", "S.", "Greenberg", ".", "Building", "Real-Time", "Groupware", "with", "GroupKit", ",", "a", "Groupware", "Toolkit", ".", "ACM", "Transactions", "on", "Computer-Human", "Interaction", ",", "3", "-LRB-", "1", "-RRB-", ":", "66", "106", ",", "March", "1996", ".", "-LSB-", "31", "-RSB-", "C.", "Shaw", "and", "M.", "Green", ".", "The", "MR", "Toolkit", "Peers", "Package", "and", "Experiment", ".", "In", "Proc", ".", "IEEE", "VRAIS", "'", "93", ",", "pages", "18", "22", ",", "Sept", "1993", ".", "-LSB-", "32", "-RSB-", "G.", "Singh", ",", "L.", "Serra", ",", "W.", "Png", ",", "A.", "Wong", ",", "and", "H.", "Ng", ".", "BrickNet", ":", "Sharing", "Object", "Behaviors", "on", "the", "Net", ".", "In", "Proc", ".", "IEEE", "VRAIS", "'", "95", ",", "pages", "19", "25", ",", "1995", ".", "-LSB-", "33", "-RSB-", "H.", "Sowizral", ",", "K.", "Rushforth", ",", "and", "M.", "Deering", ".", "The", "Java", "3D", "API", "Specification", ",", "Addison-Wesley", ",", "Reading", ",", "MA", ",", "1998", ".", "-LSB-", "34", "-RSB-", "M.", "Stefik", ",", "G.", "Foster", ",", "D.", "G.", "Bobrow", ",", "K.", "Kahn", ",", "S.", "Lanning", ",", "and", "L.", "Suchman", ".", "Beyond", "The", "Chalkboard", ":", "Computer", "Support", "for", "Collaboration", "and", "Problem", "Solving", "in", "Meetings", ".", "CACM", ",", "30", "-LRB-", "1", "-RRB-", ":", "32", "47", ",", "January", "1987", ".", "-LSB-", "35", "-RSB-", "P.", "S.", "Strauss", "and", "R.", "Carey", ",", "An", "Object-Oriented", "3D", "Graphics", "Toolkit", ",", "In", "Computer", "Graphics", "-LRB-", "Proc", ".", "ACM", "SIGGRAPH", "92", "-RRB-", ",", "pages", "341", "349", ",", "Aug", ",", "1992", ".", "-LSB-", "36", "-RSB-", "Sun", "Microsystems", ",", "Inc.", ".", "The", "Java", "Shared", "Data", "Toolkit", ",", "1998", ".", "Unsupported", "software", ",", "available", "at", ":", "http://developer.javasoft.com/developer/earlyAccess/jsdt/", "-LSB-", "37", "-RSB-", "I.", "Tou", ",", "S.", "Berson", ",", "G.", "Estrin", ",", "Y.", "Eterovic", ",", "and", "E.", "Wu", ".", "Prototyping", "Synchronous", "Group", "Applications", ".", "IEEE", "Computer", ",", "27", "-LRB-", "5", "-RRB-", ":", "48", "56", ",", "May", "1994", ".", "-LSB-", "38", "-RSB-", "R.", "Waters", "and", "D.", "Anderson", ".", "The", "Java", "Open", "Community", "Version", "0.9", "Application", "Program", "Interface", ".", "Feb", ",", "1997", ".", "Available", "online", "at", ":", "http://www.merl.com/opencom/opencom-java-api.html", "-LSB-", "39", "-RSB-", "A.", "Wollrath", ",", "R.", "Riggs", ",", "and", "J.", "Waldo", ".", "A", "Distributed", "Object", "Model", "for", "the", "Java", "System", ",", "In", "Proc", ".", "USENIX", "COOTS", "'", "96", ",", "pages", "219", "231", ",", "July", "1996", ".", "-LSB-", "40", "-RSB-", "R.", "Zeleznik", ",", "D.", "Conner", ",", "M.", "Wloka", ",", "D.", "Aliaga", ",", "N.", "Huang", ",", "P.", "Hubbard", ",", "B.", "Knep", ",", "H.", "Kaufman", ",", "J.", "Hughes", ",", "and", "A.", "van", "Dam", ".", "An", "Object-oriented", "Framework", "for", "the", "Integration", "of", "Interactive", "Animation", "Techniques", ".", "In", "Computer", "Graphics", "-LRB-", "SIGGRAPH", "'91", "Proceedings", "-RRB-", ",", "pages", "105", "112", ",", "July", ",", "1991", ".", "-LSB-", "41", "-RSB-", "M.", "J.", "Zyda", ",", "D.", "R.", "Pratt", ",", "J.", "G.", "Monahan", ",", "and", "K.", "P.", "Wilson", ".", "NPSNET", ":", "Constructing", "a", "3D", "Virtual", "World", ".", "In", "Proc", ".", "1992", "ACM", "Symp", ".", "on", "Interactive", "3D", "Graphics", ",", "pages", "147", "156", ",", "Mar.", "1992", "."], "doc_bio_tags": ["O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["library", "data sharing", "data structures", "change notification", "distributed shared memory", "programming language", "prototype", "distributed graphics", "java", "local variation", "distributed processes", "callbacks", "data distribution", "graphical objects", "properties", "prototyping", "shared memory", "duplicate database", "local variations", "distributed virtual environments", "distributed applications", "3d graphics", "programming", "distributed systems", "replicated object"], "abstractive_keyphrases": ["object oriented", "multi-user interaction", "repo-3d", "object representation", "object-oriented", "3d graphics application", "heterogeneous workstation", "object-oriented graphics", "multi-threaded programming", "syncronisation", "client-server approach", "object-oriented library", "client-server", "3d graphics library", "interactive graphical application", "shared-data object model"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "47", "document": ["Broadcasting", "Information", "via", "Display", "Names", "in", "Instant", "Messaging", "Many", "instant", "messenger", "-LRB-", "IM", "-RRB-", "clients", "let", "a", "person", "specify", "the", "identifying", "name", "that", "appears", "in", "another", "person", "'s", "contact", "list", ".", "We", "have", "noticed", "that", "many", "people", "add", "extra", "information", "to", "this", "name", "as", "a", "way", "to", "broadcast", "information", "to", "their", "contacts", ".", "Twelve", "IM", "contact", "lists", "comprising", "444", "individuals", "were", "monitored", "over", "three", "weeks", "to", "observe", "how", "these", "individuals", "used", "and", "altered", "their", "display", "names", ".", "Almost", "half", "of", "them", "changed", "their", "display", "names", "at", "varying", "frequencies", ",", "where", "the", "new", "information", "fell", "into", "seventeen", "different", "categories", "of", "communication", "supplied", "to", "others", ".", "Three", "themes", "encompass", "these", "categories", ":", "Identification", "-LRB-", "``", "who", "am", "I", "''", "?", "-RRB-", ",", "Information", "About", "Self", "-LRB-", "``", "this", "is", "what", "is", "going", "on", "with", "me", "''", "-RRB-", "and", "Broadcast", "Message", "-LRB-", "``", "I", "am", "directing", "information", "to", "the", "community", "''", "-RRB-", ".", "The", "design", "implication", "is", "that", "systems", "supporting", "person", "to", "person", "casual", "interaction", ",", "such", "as", "IM", ",", "should", "explicitly", "include", "facilities", "that", "allow", "people", "to", "broadcast", "these", "types", "of", "information", "to", "their", "community", "of", "contacts", ".", "K.", "4.3", "-LSB-", "Computers", "and", "Society", "-RSB-", ":", "Organizational", "Impacts", "-", "Computer-supported", "collaborative", "work", ".", "Design", ",", "Experimentation", ",", "Human", "Factors", ".", "Millions", "of", "people", "use", "instant", "messenger", "-LRB-", "IM", "-RRB-", "clients", "daily", "to", "communicate", "with", "friends", ",", "relatives", ",", "co-workers", "and", "even", "online", "dating", "contacts", ".", "With", "this", "explosion", "of", "use", ",", "researchers", "have", "taken", "to", "studying", "instant", "messaging", "and", "its", "impact", ".", "Much", "of", "the", "research", "regarding", "IM", "has", "been", "focused", "on", "its", "primary", "uses", ":", "maintaining", "awareness", "of", "a", "contact", "'s", "presence", "and", "availability", ",", "how", "people", "-LRB-", "usually", "dyads", "-RRB-", "converse", "via", "text", "chat", ",", "and", "how", "they", "exploit", "other", "features", "such", "as", "file", "sharing", "and", "receipt", "of", "notifications", ".", "For", "example", ",", "studies", "of", "IM", "use", "in", "the", "workplace", "expose", "how", "it", "supports", "collaboration", ",", "communication", "and", "project", "activities", "-LSB-", "3", ",", "10", ",", "13", "-RSB-", ",", "as", "well", "as", "its", "negative", "effects", "-LSB-", "15", "-RSB-", "such", "as", "disruption", "-LSB-", "4", "-RSB-", ".", "In", "more", "social", "contexts", ",", "researchers", "found", "a", "positive", "relationship", "between", "the", "amount", "of", "IM", "use", "and", "verbal", ",", "affective", "and", "social", "intimacy", "-LSB-", "9", "-RSB-", ".", "IM", "also", "proves", "important", "in", "the", "life", "of", "teens", ",", "where", "it", "helps", "support", "the", "maintenance", "of", "their", "social", "relationships", "-LSB-", "8", "-RSB-", ".", "Other", "computer-mediated", "communication", "tools", ",", "such", "as", "MUDs", "-LRB-", "Multi-User", "Domains", "or", "Multi-User", "Dungeons", "-RRB-", ",", "IRC", "-LRB-", "Internet", "Relay", "Chat", "-RRB-", ",", "and", "broadcast", "messaging", "tools", "also", "allow", "spontaneous", "real-time", "-LRB-", "or", "synchronous", "-RRB-", "communication", "with", "other", "users", ".", "However", ",", "there", "are", "significant", "differences", "between", "them", ".", "IM", "is", "predominately", "used", "between", "people", "who", "are", "known", "to", "each", "other", "outside", "of", "cyberspace", ",", "e.g.", ",", "friends", "and", "associates", ".", "IM", "conversations", "are", "also", "private", ",", "and", "tend", "to", "be", "between", "pairs", "of", "people", ".", "They", "are", "also", "person", "centered", "and", "not", "group", "centered", ":", "while", "a", "contact", "list", "may", "collect", "one", "'s", "`", "buddies", "'", ",", "these", "lists", "are", "not", "shared", "across", "contacts", ".", "In", "contrast", ",", "MUDs", "and", "IRC", "are", "public", "channels", ",", "where", "any", "conversation", "is", "heard", "by", "all", "people", "currently", "in", "the", "MUD", "or", "IRC", ".", "Most", "tend", "to", "be", "used", "by", "`", "strangers", "'", ",", "i.e.", ",", "those", "who", "are", "unknown", "to", "each", "other", "in", "real", "space", ",", "and", "usually", "involve", "more", "than", "two", "individuals", ".", "Indeed", ",", "the", "norm", "is", "for", "participants", "to", "protect", "their", "anonymity", "by", "displaying", "a", "pseudonym", "rather", "than", "their", "real", "names", ".", "Any", "personal", "messages", "that", "are", "posted", "are", "usually", "in", "relation", "to", "their", "virtual", "identity", ".", "However", ",", "a", "few", "experimental", "MUD-like", "systems", "do", "focus", "on", "teams", ",", "where", "they", "provide", "its", "members", "with", "rich", "awareness", "information", "of", "one", "another", "and", "more", "power", "in", "their", "collaboration", "tools", ",", "e.g.", ",", "Sideshow", "-LSB-", "2", "-RSB-", ",", "Notification", "Collage", "-LSB-", "7", "-RSB-", ",", "or", "Community", "Bar", "-LSB-", "12", "-RSB-", ".", "Broadcast", "messaging", "tools", "-LSB-", "11", "-RSB-", "sit", "in", "the", "middle", ",", "where", "real-time", "messages", "usually", "comprising", "notifications", "and", "announcements", "-LRB-", "not", "conversations", "-RRB-", "are", "sent", "to", "large", "groups", "of", "people", "who", "are", "somehow", "associated", "with", "one", "another", ",", "e.g.", ",", "Tickertape", "-LSB-", "6", "-RSB-", ".", "The", "big", "`", "win", "'", "of", "IM", "is", "that", "it", "provides", "one", "'s", "ad", "hoc", "set", "of", "contacts", "with", "awareness", "of", "one", "'s", "online", "state", ",", "which", "in", "turns", "serves", "as", "an", "estimate", "of", "one", "'s", "availability", "for", "conversation", ".", "While", "not", "completely", "accurate", "-LSB-", "13", "-RSB-", ",", "even", "this", "minimal", "information", "suffices", "to", "create", "opportunities", "for", "lightweight", "text-based", "conversations", "and", "to", "reduce", "the", "equivalent", "of", "`", "telephone", "tag", "'", ".", "While", "many", "research", "systems", "go", "far", "beyond", "IM", "in", "the", "rich", "awareness", "information", "they", "give", "to", "others", "-LSB-", "e.g.", ",", "2", ",", "7", ",", "12", ",", "16", "-RSB-", ",", "questions", "remain", "about", "privacy", "implications", "of", "distributing", "this", "information", ".", "IM", "contacts", "are", "identified", "by", "the", "system", "through", "e-mail", "addresses", ".", "While", "unique", ",", "these", "email", "addresses", "may", "be", "cryptic", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "GROUP", "'", "05", ",", "November", "6", "9", ",", "2005", ",", "Sanibel", "Island", ",", "Florida", ",", "USA", ".", "Copyright", "2005", "ACM", "1-59593-223-2", "/", "05/0011", "...", "$", "5.00", ".", "89", "to", "a", "human", "viewer", "e.g.", ",", "a", "person", "may", "not", "be", "able", "to", "infer", "that", "12gorwan@yahoo.com", "is", "really", "Gregor", "McEwan", ".", "Consequently", ",", "the", "designers", "of", "most", "IM", "clients", "include", "a", "feature", "that", "lets", "a", "person", "create", "and/or", "change", "their", "display", "name", "at", "any", "time", ";", "this", "name", "is", "shown", "to", "others", "instead", "of", "the", "email", "address", ".", "For", "example", ",", "in", "MSN", "Messenger", "-LRB-", "Figure", "1", "-RRB-", "a", "person", "can", "raise", "the", "`", "Personal", "Settings", "...", "'", "dialog", "by", "selecting", "the", "drop-down", "menu", "attached", "to", "their", "name", "-LRB-", "i.e.", ",", "`", "Stephanie", "'", "in", "the", "figure", "-RRB-", ",", "and", "edit", "the", "`", "Display", "name", "'", "text", "field", "which", "we", "also", "call", "the", "display", "field", "within", "it", ".", "All", "contacts", "immediately", "see", "this", "new", "name", ".", "Because", "we", "are", "heavy", "IM", "users", ",", "we", "noticed", "that", "many", "of", "our", "contacts", "change", "their", "display", "field", "to", "do", "more", "than", "simply", "identify", "or", "label", "themselves", ".", "Figure", "1", "illustrates", "this", ",", "where", "we", "see", "that", "various", "people", "have", "used", "this", "feature", "to", "publicly", "broadcast", "what", "they", "are", "doing", "-LRB-", "e.g.", ",", "`", "anitsirK", "Marking", "'", "-RRB-", "or", "an", "event", "in", "their", "life", "-LRB-", "e.g.", ",", "`", "Employed", "'", "-RRB-", ",", "or", "a", "personal", "state", "of", "mind", "-LRB-", "e.g.", ",", "`", "Chasing", "Insanity", "'", "-RRB-", ".", "Other", "examples", "we", "saw", "include", "using", "the", "display", "field", "as", "a", "way", "to", "publicize", "personal", "status", ",", "specify", "location", ",", "post", "comments", ",", "ask", "questions", ",", "and", "even", "post", "popular", "culture", "references", ".", "These", "obviously", "augment", "IM", "'s", "preset", "availability", "messages", "-LRB-", "i.e.", "away", ",", "busy", ",", "be", "right", "back", "-RRB-", "in", "far", "richer", "ways", "than", "the", "system", "was", "explicitly", "designed", "to", "support", ".", "We", "believed", "that", "people", "'s", "appropriation", "of", "the", "IM", "display", "name", "feature", "into", "a", "public", "broadcast", "facility", "is", "a", "phenomenon", "worth", "exploring", ".", "Why", "was", "this", "space", "being", "appropriated", "for", "messages", "broadcast", "to", "an", "entire", "contact", "list", "?", "What", "were", "users", "trying", "to", "communicate", "to", "others", "and", "how", "is", "this", "information", "different", "than", "that", "in", "a", "normal", "IM", "conversation", "?", "How", "often", "do", "these", "messages", "or", "alternate", "communications", "occur", "?", "To", "answer", "these", "and", "other", "questions", ",", "we", "conducted", "a", "three", "week", "study", ",", "where", "we", "monitored", "changes", "in", "each", "person", "'s", "display", "field", "within", "contact", "lists", "held", "by", "various", "users", "of", "MSN", "Messenger", ".", "We", "tracked", "how", "often", "contacts", "changed", "their", "display", "name", ",", "and", "what", "these", "changes", "were", ".", "We", "also", "categorized", "these", "changes", "into", "communication", "purposes", ".", "After", "briefly", "summarizing", "some", "related", "work", ",", "we", "describe", "the", "methodology", "used", "to", "acquire", "display", "name", "usage", "data", ".", "This", "is", "followed", "by", "our", "results", ",", "a", "discussion", "of", "the", "findings", ",", "implications", "of", "the", "work", ",", "and", "recommendations", "for", "future", "work", ".", "There", "are", "a", "variety", "of", "articles", "describing", "how", "people", "identify", "themselves", "on", "the", "Internet", ",", "usually", "in", "MUDs", "and", "IRC", ".", "Yet", "most", "of", "these", "stress", "how", "identity", "is", "formed", "through", "pseudo-anonymity", "-LSB-", "1,17", "-RSB-", ",", "i.e.", ",", "where", "a", "person", "creates", "a", "virtual", "identity", "to", "project", "a", "different", "persona", "of", "who", "they", "are", "while", "protecting", "their", "real", "identity", ".", "People", "'s", "choices", "of", "names", "and/or", "avatars", "are", "usually", "one", "part", "of", "identity", "creation", ".", "This", "work", "is", "not", "particularly", "applicable", "to", "IM", ",", "as", "people", "on", "a", "contact", "list", "are", "typically", "known", "to", "one", "another", ".", "Grinter", "&", "Palen", "'s", "-LSB-", "8", "-RSB-", "study", "of", "teen", "use", "of", "IM", "is", "far", "more", "relevant", ",", "and", "partially", "reflects", "our", "own", "interests", ".", "While", "their", "work", "broadly", "considers", "IM", "as", "an", "emerging", "feature", "of", "teen", "life", ",", "they", "do", "mention", "that", "teens", "found", "the", "preset", "availability", "messages", "to", "be", "too", "impersonal", ".", "To", "combat", "feelings", "of", "exclusion", "or", "to", "avoid", "being", "rude", ",", "teens", "would", "personalize", "the", "display", "name", "area", "to", "include", "a", "message", "which", "explains", "their", "unavailability", ",", "changes", "in", "their", "local", "environment", "-LRB-", "i.e.", ",", "`", "Going", "quiet", "because", "Mom", "just", "arrived", "'", "-RRB-", ",", "and", "for", "justifying", "their", "lack", "of", "presence", "on", "the", "system", "-LRB-", "i.e.", ",", "`", "Out", "for", "dinner", "'", "-RRB-", ".", "The", "use", "of", "IM", "names", "to", "broadcast", "messages", "is", "an", "everyday", "world", "phenomenon", ",", "and", "has", "been", "anecdotally", "noticed", "by", "non-scientists", ".", "For", "example", ",", "one", "reporter", "noted", "in", "a", "newspaper", "article", "that", "changes", "to", "her", "display", "name", "are", "her", "main", "form", "of", "IM", "communication", "rather", "than", "actual", "chat", "conversations", "-LSB-", "14", "-RSB-", ".", "Social", "scientists", "talk", "more", "generally", "about", "computer", "mediated", "communications", "and", "how", "they", "can", "be", "used", "to", "build", "communities", ".", "Etzioni", "and", "Etzioni", "-LSB-", "5", "-RSB-", "argue", "that", "in", "order", "to", "form", "and", "sustain", "bonds", ",", "a", "community", "of", "connected", "individuals", "needs", "what", "they", "call", "``", "interactive", "broadcasting", "''", ".", "This", "is", "composed", "of", "two", "major", "elements", ":", "the", "ability", "to", "broadcast", "messages", "to", "many", "people", "within", "the", "community", "simultaneously", ",", "and", "the", "ability", "for", "those", "addressed", "by", "the", "message", "to", "provide", "feedback", ",", "not", "just", "to", "the", "message", "originator", ",", "but", "to", "other", "message", "recipients", "as", "well", ".", "In", "this", "context", ",", "a", "broadcast", "message", "can", "be", "considered", "a", "request", "for", "interaction", "from", "some", "-LRB-", "or", "all", "-RRB-", "members", "of", "a", "group", "-LSB-", "11", "-RSB-", ".", "A", "variety", "of", "designers", "have", "implemented", "this", "broadcast", "capability", "into", "their", "systems", ".", "For", "example", ",", "IRC", ",", "Notification", "Collage", "-LSB-", "7", "-RSB-", ",", "Community", "Bar", "-LSB-", "12", "-RSB-", "and", "Tickertape", "-LSB-", "6", "-RSB-", "are", "all", "tools", "that", "implement", "interactive", "broadcasting", ".", "A", "message", "-LRB-", "which", "may", "include", "multimedia", "information", "-RRB-", "can", "be", "posted", "and", "broadcast", "to", "the", "group", ",", "and", "it", "is", "possible", "for", "everyone", "to", "view", "the", "information", "without", "directly", "contributing", "to", "the", "conversation", ".", "Those", "who", "want", "to", "respond", "can", "do", "so", ",", "in", "full", "view", "of", "all", "users", ".", "All", "these", "systems", "allow", "for", "communal", "feedback", ",", "i.e.", ",", "where", "everyone", "sees", "the", "response", ".", "Unlike", "IM", ",", "however", ",", "these", "systems", "include", "a", "strong", "notion", "of", "a", "common", "group", "by", "providing", "a", "public", "space", "for", "interaction", ".", "In", "summary", ",", "there", "are", "discussions", "of", "how", "broadcasting", "information", "contributes", "to", "community", "building", ",", "and", "there", "are", "systems", "that", "are", "based", "on", "public", "dissemination", "of", "information", "within", "a", "group", ".", "However", ",", "excepting", "a", "few", "discussions", "of", "this", "Figure", "1", ":", "MSN", "Messenger", ";", "modified", "display", "names", "are", "visible", "90", "phenomenon", "-LSB-", "8,14", "-RSB-", ",", "there", "has", "been", "no", "real", "analysis", "of", "how", "people", "have", "appropriated", "the", "display", "name", "feature", "of", "IM", ".", "Given", "the", "importance", "and", "widespread", "of", "IM", ",", "we", "believe", "this", "analysis", "is", "critical", "if", "we", "are", "to", "understand", "how", "we", "can", "improve", "IM", "systems", ".", "This", "study", "investigates", "how", "people", "use", "the", "display", "name", "feature", "in", "IM", "clients", "to", "broadcast", "information", "other", "than", "one", "'s", "name", ".", "We", "do", "this", "by", "capturing", "changes", "in", "each", "person", "'s", "display", "field", "as", "they", "appear", "in", "contact", "lists", "over", "time", "and", "over", "everyday", "use", ",", "by", "asking", "people", "to", "explain", "what", "these", "changes", "meant", ",", "and", "by", "counting", ",", "categorizing", "and", "analyzing", "these", "changes", ".", "3.1", "Research", "questions", "We", "wanted", "to", "identify", "three", "main", "behavioural", "patterns", "within", "our", "captured", "data", ":", "1", ".", "At", "what", "frequency", "do", "users", "change", "the", "information", "in", "their", "display", "field", "when", "using", "an", "IM", "client", "such", "as", "MSN", "Messenger", "?", "2", ".", "What", "are", "the", "main", "communication", "categories", "that", "represent", "the", "information", "held", "by", "these", "display", "field", "changes", "?", "3", ".", "What", "is", "the", "frequency", "distribution", "of", "these", "categories", "?", "A", "fourth", "interesting", "but", "secondary", "question", "was", ":", "4", ".", "Are", "changes", "to", "the", "display", "name", "related", "to", "the", "demographics", "of", "age", "or", "sex", "?", "3.2", "Participants", "We", "had", "two", "classes", "of", "participants", ".", "Our", "primary", "participants", "were", "those", "who", "made", "their", "contact", "list", "available", "to", "us", ".", "Our", "secondary", "participants", "were", "those", "who", "comprised", "the", "people", "on", "the", "contact", "lists", ".", "Twelve", "participants", "were", "recruited", "as", "primary", "participants", ",", "all", "Computer", "Science", "graduate", "students", "or", "faculty", "at", "the", "University", "of", "Calgary", ".", "They", "ranged", "in", "age", "from", "23", "to", "50", ",", "and", "were", "regular", "users", "of", "MSN", "Messenger", ".", "These", "participants", "provided", "access", "to", "their", "IM", "contact", "lists", ".", "They", "were", "also", "willing", "to", "annotate", "the", "collected", "data", ".", "While", "the", "number", "of", "contacts", "on", "each", "person", "'s", "list", "varied", "somewhat", ",", "this", "variance", "was", "irrelevant", "to", "our", "study", ".", "Our", "secondary", "participants", "were", "the", "444", "contacts", "found", "on", "the", "contact", "lists", "of", "the", "12", "primary", "participants", ".", "These", "contacts", "covered", "a", "broad", "range", "of", "demographics", "and", "social", "relationships", ",", "i.e.", ",", "fellow", "students", ",", "workmates", ",", "friends", ",", "family", "members", "and", "other", "relatives", ".", "While", "the", "display", "names", "used", "by", "these", "444", "people", "were", "collected", "as", "data", ",", "they", "were", "not", "contacted", "directly", ".", "3.3", "Materials", "and", "Data", "Capture", "Each", "participant", "-LRB-", "whether", "primary", "or", "secondary", "-RRB-", "used", "their", "own", "pre-existing", "and", "unaltered", "MSN", "Messenger", "client", "on", "their", "own", "computer", "-LRB-", "running", "Windows", "-RRB-", "for", "everyday", "purposes", ".", "We", "wrote", "a", "logging", "program", "to", "collect", "all", "contact", "list", "data", "from", "each", "primary", "participant", ".", "It", "monitored", "every", "person", "'s", "display", "field", "as", "it", "appeared", "in", "the", "contact", "list", ".", "The", "software", "worked", "by", "tapping", "into", "the", "programming", "API", "of", "MSN", "Messenger", "-LRB-", "regardless", "of", "its", "version", "-RRB-", "to", "monitor", "activities", "within", "it", ".", "This", "logging", "program", "was", "given", "only", "to", "the", "12", "primary", "participants", ".", "No", "special", "software", "was", "needed", "by", "the", "444", "secondary", "participants", ",", "as", "their", "data", "was", "captured", "via", "the", "logging", "software", "on", "the", "primary", "participant", "'s", "computer", ".", "The", "12", "primary", "participants", "installed", "our", "software", "on", "whatever", "computers", "they", "wished", ".", "When", "installed", ",", "it", "worked", "in", "tandem", "with", "MSN", "Messenger", "to", "collect", "data", "on", "everyday", "IM", "usage", "in", "the", "field", ".", "The", "program", "monitored", "whether", "the", "participant", "was", "logged", "in", "to", "MSN", "Messenger", ".", "If", "logged", "in", ",", "it", "recorded", "the", "initial", "set", "of", "display", "names", "and", "any", "display", "name", "changes", "of", "the", "secondary", "participants", "on", "the", "contact", "list", ".", "The", "initial", "set", "of", "display", "names", "were", "needed", "to", "notice", "if", "a", "change", "occurred", "since", "the", "primary", "participant", "'s", "last", "login", ".", "As", "part", "of", "our", "analysis", ",", "we", "used", "the", "standard", "features", "of", "Microsoft", "Excel", "2003", "to", "sort", "and", "consolidate", "the", "data", "files", ".", "Relevant", "data", "was", "then", "transferred", "to", "Minitab", "v.", "14", "to", "tally", "distributions", ",", "calculate", "any", "statistics", "and", "create", "visual", "representations", "of", "the", "data", ".", "Further", "analysis", "of", "the", "categories", "of", "communication", "used", "in", "the", "display", "field", "was", "conducted", "using", "paper", "cut-outs", "and", "post-it", "notes", "to", "create", "an", "affinity", "diagram", ";", "this", "is", "detailed", "later", ".", "3.4", "Method", "Once", "primary", "participants", "agreed", "to", "participate", "in", "the", "study", ",", "we", "gave", "them", "instructions", "on", "how", "to", "install", "the", "logging", "program", "on", "their", "computer", ".", "We", "did", "not", "have", "to", "be", "present", "for", "this", ",", "so", "people", "could", "install", "it", "on", "whichever", "computers", "they", "regularly", "used", ",", "be", "it", "at", "work", "or", "at", "home", ".", "The", "program", "then", "ran", "automatically", ";", "the", "only", "indication", "of", "its", "operation", "was", "a", "small", "red", "notebook", "icon", "appearing", "in", "the", "participant", "'s", "system", "tray", ".", "This", "icon", "allowed", "a", "participant", "to", "abort", "the", "collection", "process", "if", "they", "wished", ",", "but", "none", "chose", "this", "option", ".", "Data", "was", "collected", "for", "approximately", "three", "weeks", ",", "but", "did", "require", "the", "person", "to", "be", "logged", "onto", "MSN", "Messenger", ".", "If", "a", "primary", "participant", "was", "not", "logged", "on", ",", "no", "data", "about", "their", "contacts", "was", "recorded", ".", "This", "meant", "that", "some", "display", "field", "changes", "of", "secondary", "participants", "could", "have", "been", "missed", ".", "3.5", "Analysis", "At", "the", "end", "of", "three", "weeks", ",", "the", "primary", "participants", "were", "instructed", "to", "open", "the", "data", "file", "with", "Excel", ",", "and", "indicate", "the", "sex", "and", "approximate", "age", "of", "each", "listed", "contact", "member", "in", "a", "pre-designated", "column", ".", "For", "each", "display", "name", "change", ",", "they", "were", "also", "asked", "to", "categorize", "the", "type", "of", "information", "the", "contact", "was", "trying", "to", "broadcast", "to", "others", ".", "We", "did", "not", "predefine", "any", "categories", ".", "Participants", "created", "their", "own", "category", "labels", "and", "categorized", "names", "into", "them", "however", "they", "wished", ".", "We", "chose", "this", "approach", "because", "we", "felt", "that", "participants", "would", "have", "a", "far", "better", "understanding", "of", "the", "true", "meaning", "of", "a", "person", "'s", "display", "field", "changes", "than", "someone", "unfamiliar", "with", "the", "contact", ";", "we", "also", "felt", "that", "as", "recipients", "of", "this", "information", ",", "their", "interpretation", "was", "important", ".", "We", "also", "believed", "that", "they", "would", "generate", "a", "greater", "and", "therefore", "richer", "breadth", "of", "categories", ".", "Once", "the", "categorizations", "were", "completed", ",", "the", "data", "files", "were", "transferred", "to", "the", "primary", "investigator", ".", "The", "investigator", "consolidated", "all", "of", "the", "data", "files", "into", "one", "master", "file", ",", "and", "removed", "any", "duplicate", "entries", ".", "These", "duplicate", "entries", "occurred", "for", "two", "reasons", ".", "More", "than", "one", "person", "had", "a", "particular", "contact", "on", "their", "list", ".", "Each", "time", "a", "participant", "logged", "in", ",", "their", "entire", "contact", "list", "was", "recorded", "in", "the", "data", "file", ".", "If", "a", "contact", "had", "not", "changed", "their", "name", "while", "the", "participant", "was", "offline", ",", "a", "duplicate", "entry", "was", "created", ".", "91", "When", "duplicate", "entries", "occurred", ",", "all", "but", "the", "earliest", "occurrence", "of", "the", "display", "name", "change", "was", "removed", ".", "A", "category", "list", "was", "created", "for", "each", "primary", "participant", "based", "on", "his", "or", "her", "individual", "categorizations", "of", "display", "name", "changes", ".", "Because", "these", "category", "names", "could", "differ", "between", "participants", ",", "we", "needed", "to", "re-categorize", "these", "names", "into", "a", "master", "category", "list", ".", "To", "do", "this", ",", "all", "categories", "were", "printed", "on", "separate", "slips", "of", "paper", "for", "easy", "sorting", ".", "We", "then", "created", "an", "affinity", "diagram", "to", "resort", "these", "categories", ",", "where", "entries", "from", "all", "the", "lists", "were", "sorted", "into", "groups", "based", "on", "similarity", ".", "These", "groups", "then", "formed", "a", "master", "category", "-LRB-", "see", "Figure", "2", "-RRB-", ".", "A", "master", "category", "title", "was", "then", "chosen", "that", "best", "represented", "the", "theme", "for", "the", "grouping", ".", "After", "this", "master", "list", "was", "established", ",", "the", "entries", "in", "the", "consolidated", "file", "were", "then", "re-categorized", "based", "on", "these", "new", "divisions", ";", "this", "would", "allow", "us", "to", "create", "a", "distribution", "profile", ".", "We", "should", "mention", "that", "many", "entries", "into", "the", "display", "field", "contained", "more", "than", "one", "textual", "element", ",", "each", "of", "which", "could", "be", "categorized", "differently", ".", "When", "this", "happened", ",", "we", "treated", "the", "display", "field", "as", "holding", "multiple", "entries", ".", "An", "example", "of", "this", "is", "shown", "here", ",", "where", "the", "contact", "'s", "display", "field", "contains", "two", "elements", ";", "`", "Johnboy", "'", "could", "be", "categorized", "as", "a", "Name", "Variation", ",", "while", "`", "yonge", "&", "eglington", "'", "-LRB-", "a", "street", "junction", "in", "Toronto", "-RRB-", "is", "categorized", "as", "an", "indicator", "of", "Location", ".", "In", "this", "case", ",", "this", "display", "field", "entry", "would", "be", "split", "into", "two", "text", "fragments", ",", "where", "each", "fragment", "would", "be", "counted", "in", "the", "category", "that", "best", "fit", ".", "As", "we", "will", "see", ",", "these", "types", "of", "dual", "entry", "usually", "occurred", "because", "people", "tend", "to", "keep", "their", "names", "-LRB-", "or", "an", "identifying", "variation", "thereof", "-RRB-", "visible", "to", "others", "in", "order", "to", "identify", "themselves", ".", "Occasionally", "a", "display", "field", "would", "contain", "two", "elements", "where", "neither", "were", "identifiers", ".", "For", "example", ",", "the", "text", "shown", "here", "is", "categorized", "as", "two", "elements", ":", "`", "packing", "'", "is", "an", "Activity", ",", "and", "`", "sad", "to", "be", "leaving", "'", "is", "a", "Mood", ".", "Only", "rarely", "did", "display", "field", "entries", "contain", "more", "than", "two", "elements", ".", "Our", "first", "research", "question", "was", ":", "At", "what", "frequency", "do", "users", "change", "the", "information", "in", "their", "display", "field", "when", "using", "an", "IM", "client", "such", "as", "MSN", "Messenger", "?", "Before", "answering", "this", "question", ",", "recall", "that", "the", "recording", "of", "display", "field", "changes", "of", "a", "secondary", "participant", "on", "a", "contact", "list", "only", "happened", "when", "the", "primary", "participant", "was", "logged", "on", "to", "MSN", "Messenger", ".", "If", "the", "primary", "participant", "was", "logged", "out", ",", "no", "display", "field", "changes", "to", "their", "contacts", "were", "recorded", ".", "While", "a", "single", "change", "would", "be", "noted", "by", "comparing", "the", "last", "recorded", "version", "of", "the", "contact", "'s", "display", "field", "to", "the", "one", "recorded", "when", "the", "primary", "participant", "logs", "on", ",", "multiple", "changes", "during", "the", "logout", "period", "would", "be", "lost", ".", "This", "means", "we", "can", "not", "calculate", "the", "exact", "display", "name", "change", "distribution", "across", "all", "contacts", ".", "Still", ",", "our", "numbers", "should", "be", "a", "good", "estimate", "of", "what", "happens", ".", "At", "the", "very", "least", "they", "represent", "a", "lower", "bound", "that", "somewhat", "underestimates", "how", "often", "display", "fields", "changes", "occur", ".", "The", "data", "certainly", "suffices", "to", "indicate", "the", "range", "of", "activities", "and", "individual", "differences", "across", "444", "people", ".", "Figure", "3", "illustrates", "the", "distribution", "of", "contacts", "according", "to", "how", "often", "they", "changed", "the", "contents", "of", "the", "display", "field", ".", "Our", "results", "show", "that", "58", "%", "of", "our", "444", "contacts", "-LRB-", "258", "people", "-RRB-", "never", "changed", "the", "contents", "of", "the", "display", "field", "during", "the", "three", "week", "period", ".", "For", "the", "remaining", "42", "%", "of", "contacts", "-LRB-", "186", "people", "-RRB-", ",", "we", "counted", "a", "total", "of", "1968", "display", "name", "changes", ",", "or", "an", "average", "of", "11", "display", "name", "changes", "per", "person", "over", "the", "three", "week", "period", ",", "or", "up", "to", "4", "times", "a", "week", ".", "Never", "58.1", "%", "Rarely", "12.2", "%", "Weekly", "5.6", "%", "Several", "times", "a", "day", "4.5", "%", "Daily", "3.4", "%", "Several", "times", "a", "week", "16.2", "%", "Figure", "3", ":", "Distribution", "of", "contacts", "according", "to", "how", "often", "they", "change", "the", "display", "field", "contents", "Figure", "2", ":", "Example", "affinity", "diagram", "used", "to", "group", "participant", "categorizations", "into", "master", "categories", ".", "92", "However", ",", "this", "average", "is", "misleading", ",", "for", "we", "also", "found", "that", "people", "change", "their", "display", "names", "at", "different", "frequencies", ".", "We", "created", "six", "rate", "change", "categories", ".", "Based", "on", "a", "contact", "'s", "data", ",", "we", "placed", "each", "contact", "into", "the", "category", "that", "best", "estimated", "that", "contact", "'s", "change", "rate", ".", "Figure", "3", "displays", "this", "distribution", "of", "contacts", "among", "the", "six", "rate", "change", "categories", ".", "We", "see", "that", "the", "42", "%", "of", "contacts", "who", "change", "their", "display", "name", "do", "so", "at", "different", "rates", ".", "About", "8", "%", "-LRB-", "4.5", "%", "+", "3.4", "%", "-RRB-", "of", "contacts", "change", "their", "names", "from", "once", "to", "several", "times", "a", "day", ".", "About", "22", "%", "of", "them", "change", "their", "names", "less", "often", ",", "from", "once", "to", "several", "times", "a", "week", "-LRB-", "16.2", "%", "+", "5.6", "%", "-RRB-", ".", "The", "final", "12", "%", "change", "it", "rarely", ",", "i.e.", ",", "once", "or", "twice", "over", "the", "three", "week", "period", ".", "The", "person", "who", "had", "the", "highest", "display", "field", "change", "rate", "is", "worth", "added", "discussion", ",", "as", "it", "suggests", "what", "happens", "with", "contacts", "who", "used", "this", "feature", "heavily", ".", "This", "person", "changed", "her", "display", "field", "early", "in", "the", "morning", ",", "and", "notified", "contacts", "when", "she", "arrived", "at", "school", ".", "Around", "4", "pm", "the", "changes", "started", "again", ",", "continuing", "until", "approximately", "11", "pm", "when", "she", "went", "to", "bed", ".", "Her", "changes", "would", "incorporate", "details", "on", "what", "was", "occupying", "her", "time", ".", "Changes", "would", "state", "particulars", ":", "when", "she", "was", "studying", ",", "babysitting", ",", "or", "watching", "TV", ",", "and", "her", "emotional", "reactions", "to", "these", "events", ".", "If", "she", "found", "something", "entertaining", "or", "interesting", "on", "TV", ",", "she", "would", "post", "quotes", ".", "If", "she", "was", "bored", ",", "she", "would", "put", "out", "a", "request", "for", "someone/anyone", "to", "call", ".", "In", "essence", ",", "this", "person", "used", "her", "display", "field", "as", "a", "web", "log", ",", "where", "she", "recorded", "and", "disseminated", "information", "to", "her", "community", ".", "Even", "though", "we", "had", "no", "further", "knowledge", "of", "this", "person", ",", "a", "sense", "of", "who", "she", "was", "and", "what", "her", "life", "was", "garnered", "through", "all", "the", "changes", "that", "she", "made", "to", "her", "display", "name", ".", "4.2", "Communication", "categories", "Our", "second", "research", "question", "was", ":", "What", "are", "the", "main", "communication", "categories", "that", "represent", "the", "information", "held", "by", "these", "display", "field", "changes", "?", "After", "analyzing", "the", "categories", "created", "by", "our", "primary", "participants", "through", "the", "affinity", "diagramming", "process", ",", "we", "identified", "seventeen", "master", "categories", ".", "These", "are", "listed", "below", "in", "alphabetic", "order", ".", "A", "description", "of", "each", "category", "is", "given", "along", "with", "illustrative", "examples", "taken", "from", "our", "data", ".", "Many", "examples", "contain", "more", "than", "one", "textual", "element", ",", "usually", "an", "identifier", ",", "as", "we", "present", "them", "as", "they", "appeared", "in", "the", "display", "field", ".", "To", "protect", "confidentiality", ",", "name", "information", "has", "been", "changed", ".", "Activities", "include", "things", "or", "activities", "that", "a", "person", "has", "done", "in", "the", "past", ",", "is", "currently", "involved", "in", ",", "or", "is", "about", "to", "participate", "in", "the", "future", ".", "It", "also", "includes", "countdowns", "to", "an", "upcoming", "event", ".", "Examples", "include", ":", "Amy", "-", "House", "hunting", "!", "Joe", "was", "drunk", "on", "a", "Tuesday", "...", "shameful", ".", "Braced", ":", "60", "%", "done", "my", "portfolio", "!", "Adverts", "include", "advertisements", "or", "promotions", "for", "items", "or", "events", ",", "and", "things", "that", "people", "have", "for", "sale", ".", "Easton", "Synergy", "Grip", "100", "Flex", "Iginla", "Blade", "Left", "-LRB-", "Brand", "spanking", "new", "-RRB-", ":", "$", "225", "headachey", "--", "Tim", "Stuart", "Tribute", "and", "Fundraiser", "November", "6th", "@", "8PM", "--", "ask", "for", "details", "Comments", "are", "personal", "comments", ",", "expressions", "of", "an", "individual", "'s", "opinion", "and", "general", "statements", "on", "how", "they", "view", "things", "in", "the", "world", "around", "them", ".", "Jan", "-LSB-", "et", "-RSB-", "-", "Airlines", "are", "Evil", "Bee", "-", "undocumented", "code", "should", "be", "illegal", "Nancy", ":", "you", "do", "n't", "need", "English", "to", "live", "in", "Vancouver", "Default", "contains", "only", "the", "default", "unaltered", "entries", "to", "the", "display", "field", ".", "After", "installation", ",", "the", "IM", "client", "displays", "a", "person", "'s", "e-mail", "address", "in", "the", "field", ".", "These", "may", "or", "may", "not", "actually", "contain", "a", "person", "'s", "name", "as", "part", "of", "the", "email", "address", ".", "johnsmith@hotmail.com", "Jyn2l@hotmail.com", "Directions", "contain", "entries", "where", "a", "reader", "is", "being", "directed", "to", "a", "web", "site", "or", "link", ".", "Examples", "are", ":", "Bee-http", ":", "/", "/", "java.sun.com/features/1999/05/duke_gallery.html", "jessie", "-LCB-", "http://littlemisskool.blogspot.com", "-RCB-", "CHECK", "THIS", "====", ">", "http://www.blitzkreigentt.com/", "...", ".", "Constructed", "<", "====", "Fun", "contains", "entries", "that", "contain", "puns", ",", "inside", "jokes", ",", "humorous", "statements", ",", "and", "items", "placed", "for", "the", "amusement", "of", "others", ".", "Melanie", ".", "me", ":", "``", "come", "see", ",", "its", "a", "lunar", "eclipse", "''", ";", "kate", ":", "``", "where", "?", "''", "what", "do", "you", "call", "a", "fish", "with", "no", "eyes", ":", "f", "sh", "Huffy", "-", "Home", "is", "where", "you", "hang", "your", "@", "Joe", "Like", "a", "Vermin", ",", "trapped", "for", "the", "very", "first", "time", "Handles", "contains", "those", "display", "name", "entries", "that", "hold", "a", "person", "'s", "handle", ".", "A", "handle", "is", "like", "a", "well", "known", "nickname", ":", "it", "is", "a", "consistent", "title", "or", "name", "that", "people", "give", "themselves", "to", "represent", "their", "identity", "on", "the", "internet", ".", "As", "we", "will", "see", "later", ",", "IM", "handles", "are", "not", "used", "for", "the", "pseudo-anonymity", "purposes", "as", "found", "in", "IRC", "public", "forums", ".", "hunnybear", "Iceman", "spidermax", "Location", "contains", "information", "about", "a", "person", "'s", "current", "location", "or", "future", "destination", ".", "It", "can", "also", "contain", "travel", "information", ".", "Many", "times", "this", "location", "information", "is", "permanently", "attached", "to", "the", "display", "name", "when", "localized", "at", "a", "particular", "computer", ",", "as", "in", "``", "home", "''", "or", "``", "work", "''", ".", "This", "label", "can", "indicate", "to", "others", "the", "type", "of", "communications", "that", "are", "appropriate", ".", "Mat", "Singh", "...", "going", "home", "in", "10", "days", "!", "In", "the", "dominican", "republic", "Dan", "James", "-LSB-", "Office", "-RSB-", "mike", "-", ">", "lab", "meeting", "Messages", "contain", "information", "of", "significance", "directed", "at", "an", "individual", "on", "a", "person", "'s", "contact", "list", "or", "to", "the", "group", "as", "a", "whole", ".", "darren", "~", "thanks", "nate", "for", "the", "halo", "hookup", "SirMe", "-", "Happy", "Birthday", ",", "Angie", "!", "Melanie", ".", "Nick", ",", "ill", "be", "on", "the", "3", "30", "or", "whatever", "bus", "at", "the", "college", ".", "<", "<", "school", ">", ">", "Mood", "contains", "entries", "that", "give", "indications", "of", "a", "person", "'s", "mood", ",", "feelings", ",", "health", "or", "state", "of", "being", ".", "i", "give", "up", "Adam", "feels", "rejected", "britney", "-", "disoriented", "haze", "Joe", "-", "as", "if", "shot", "in", "the", "head", ",", "yet", "still", "charging", "blindly", "forward", ".", "Bee", "-", "double", "espresso", "whee", "!!!", "Maggs", "-", "Not", "Feeling", "Well", ".", "Name", "contains", "entries", "of", "a", "person", "'s", "given", "name", ".", "This", "category", "contains", "no", "nicknames", ",", "handles", "or", "variations", "on", "the", "name", ".", "Rebecca", "Fred", "Jones", "93", "Notices", "contains", "entries", "that", "give", "notice", "of", "a", "particular", "event", ",", "share", "news", "or", "display", "announcements", ".", "DBosch", "-LSB-", "We", "'re", "home", "owners", "!", "-RSB-", "Tracey", "...", "down", "24.2", "lbs", "Jennifer", "-", "party", "is", "cancelled", "NaKuL", "-", "new", "msn", "login", "Gretchen", "--", "Holy", "Cole", "'s", "coming", "to", "vancouver", "!!", "Presence", "contains", "items", "which", "provide", "more", "detailed", "information", "about", "a", "person", "'s", "online", "presence", "or", "availability", "beyond", "the", "standard", "status", "indicators", ".", "Bee", "-", "really", "am", "busy", ",", "only", "msg", "me", "in", "emergency", "Melanie", ".", ">", ">", "off", "for", "family", "time", "<", "<", "mike", "-", "reading", "at", "my", "desk/disregard", "-LRB-", "Away", "-RRB-", "status", "Flickerin", ":", "be", "Back", "at", "630ish", "Questions", "contain", "rhetorical", "questions", "and", "questions", "that", "are", "posed", "to", "stimulate", "response", ".", "This", "category", "also", "contains", "questions", "that", "are", "requests", "for", "assistance", ",", "similar", "to", "those", "that", "appear", "in", "company", "broadcast", "messaging", "systems", "when", "a", "person", "is", "searching", "for", "an", "expert", "in", "a", "given", "area", "-LSB-", "6", "-RSB-", ".", "Luke", "--", "Anyone", "took", "CS322", "?", "I", "need", "some", "help", "with", "cilog", "!", "Joe", "-", "who", "keeps", "messing", "with", "my", "chair", "??", "Shri", "-", "Needin", "'", "a", "Physics", "Toolkit", "w/Dynamics", "+", "Collisions", "+", "Fields", ",", "any", "ideas", "?", "Melanie", ".", "Anyone", "have", "a", "working", "printer", "?", "Quotes", "contains", "quotations", "taken", "from", "movies", ",", "tv", ",", "books", ",", "plays", "or", "lyrics", "from", "music", ".", "It", "also", "contains", "references", "to", "pop", "culture", ".", "Dusit", "-", "If", "you", "can", "dodge", "a", "wrench", ",", "you", "can", "dodge", "anything", "!", "b33qZ", "--", "king", "jeremy", "the", "wicked", "...", "oh", ",", "rules", "his", "world", "...", "Andrea", "-", "so", "long", "and", "thanks", "for", "all", "the", "fish", "Unknown", "contains", "all", "the", "entries", "in", "which", "the", "meaning", "of", "the", "text", "is", "too", "cryptic", "that", "it", "could", "not", "be", "categorized", "by", "either", "the", "primary", "participant", "or", "the", "investigator", ".", "It", "is", "assumed", "that", "once", "deciphered", "that", "each", "of", "these", "entries", "could", "be", "placed", "in", "one", "of", "the", "other", "sixteen", "categories", ".", "b33qZ", "-LSB-", "nts", ":", "perri", "-RSB-", "Andy", "~", "Ah", "'", "Black_Venom", "-LRB-", "In", "432", "-RRB-", "''", "~", "-", "jd", "-", "~", "``", "--", ">", "SkRoNk", "<", "--", "yeh", "social", "ppl", "Variations", "contain", "entries", "where", "the", "identifier", "is", "a", "variation", "on", "the", "person", "'s", "name", ".", "This", "can", "include", "an", "abbreviated", "version", "of", "the", "full", "name", ",", "a", "nickname", "in", "which", "the", "given", "name", "is", "still", "identifiable", ",", "or", "a", "variation", "in", "the", "way", "the", "letters", "of", "the", "name", "are", "printed", "or", "ordered", ".", "DiAnNe", "kev", "Maggs", "timbob", "Einahpets", "4.3", "Category", "Distribution", "Frequency", "Our", "third", "research", "question", "was", ":", "What", "is", "the", "frequency", "distribution", "of", "these", "categories", "?", "First", ",", "the", "2226", "logged", "display", "fields", "were", "analyzed", "to", "reveal", "a", "total", "of", "3603", "elements", "-LRB-", "recall", "that", "some", "display", "fields", "could", "have", "more", "than", "one", "information", "element", "in", "it", "-RRB-", ".", "Second", ",", "each", "element", "was", "then", "located", "in", "a", "single", "communications", "category", "that", "best", "represented", "its", "meaning", ".", "Figure", "4", "shows", "these", "category", "counts", "in", "two", "sections", ".", "The", "top", "part", "plots", "the", "Name", ",", "Variations", "and", "Handle", "categories", ".", "We", "separated", "these", "`", "Identification", "'", "categories", "from", "the", "other", "categories", "because", "the", "information", "they", "contain", "satisfy", "the", "original", "purpose", "of", "the", "display", "field", "i.e.", ",", "to", "hold", "identifying", "information", ".", "The", "frequency", "distribution", "of", "the", "remaining", "14", "categories", "are", "then", "listed", ".", "The", "bar", "representing", "the", "counts", "of", "the", "number", "of", "elements", "within", "each", "of", "these", "categories", "are", "further", "distinguished", "into", "three", "groups", ".", "The", "lightest", "section", "of", "each", "bar", "represents", "the", "group", "of", "category", "elements", "that", "were", "the", "only", "element", "contained", "by", "the", "display", "field", ".", "The", "medium", "coloured", "section", "shows", "the", "number", "of", "category", "elements", "whose", "text", "coexisted", "with", "another", "element", "found", "in", "one", "of", "the", "three", "`", "Identification", "'", "categories", "in", "the", "display", "field", ".", "The", "darkest", "section", "of", "the", "bar", "groups", "category", "elements", "whose", "text", "coexisted", "in", "the", "display", "field", "with", "another", "element", "found", "in", "any", "category", "other", "than", "the", "three", "`", "Identification", "'", "categories", ".", "The", "figure", "shows", "that", "approximately", "49", "%", ",", "or", "1766/3603", "of", "the", "categorized", "elements", ",", "were", "in", "one", "of", "the", "three", "`", "Identification", "'", "categories", ",", "i.e.", ",", "Name", "-LRB-", "32.4", "%", "-RRB-", ",", "Variations", "-LRB-", "10", "%", "-RRB-", "or", "Handle", "-LRB-", "6.4", "%", "-RRB-", ".", "This", "makes", "sense", ",", "for", "meaningful", "self-identification", "is", "the", "expected", "use", "of", "the", "IM", "display", "name", "feature", ".", "The", "darkly", "colored", "regions", "of", "their", "bars", "also", "reveal", "that", "identification", "elements", "in", "total", "coexist", "with", "other", "pieces", "of", "information", "in", "the", "display", "field", "over", "67", "%", "-LRB-", "1186/1766", "-RRB-", "of", "the", "time", ".", "For", "example", ",", "the", "Name", "was", "included", "with", "other", "elements", "825/1168", "-LRB-", "71", "%", "-RRB-", "of", "the", "time", ".", "Similarly", ",", "Variations", "and", "Handles", "was", "included", "Figure", "4", ":", "Bar", "chart", "displaying", "category", "distribution", "94", "205/359", "-LRB-", "43", "%", "-RRB-", "and", "156/239", "-LRB-", "65", "%", "-RRB-", "in", "conjunction", "with", "other", "elements", ".", "Note", "that", "there", "are", "no", "medium", "coloured", "regions", "in", "these", "bars", ".", "This", "is", "because", "elements", "within", "the", "Name", ",", "Variations", "and", "Handle", "categories", "never", "co-existed", "with", "each", "other", ".", "They", "only", "occurred", "in", "conjunction", "with", "elements", "in", "the", "other", "14", "category", "types", ".", "The", "other", "14", "categories", "of", "communication", "identify", "information", "unrelated", "to", "identification", ".", "Collectively", ",", "these", "categories", "comprise", "the", "other", "51", "%", "of", "the", "total", "number", "of", "elements", "-LRB-", "1837", "of", "3603", "total", "-RRB-", ".", "Within", "these", "1837", "elements", ",", "we", "see", "that", "the", "most", "frequent", "categories", "of", "communication", "used", "are", "Mood", "at", "19.4", "%", "-LRB-", "357/1837", "-RRB-", ",", "Comments", "at", "17.8", "%", "-LRB-", "327/1837", "-RRB-", "Activities", "at", "16.6", "%", "-LRB-", "305/1837", "-RRB-", ",", "Location", "at", "12.5", "%", "-LRB-", "230/1837", "-RRB-", ",", "Messages", "at", "8.3", "%", "-LRB-", "152/1837", "-RRB-", ",", "followed", "by", "Quotes", ",", "Notices", "and", "Fun", ".", "The", "other", "categories", "occur", "less", "often", ",", "but", "still", "at", "a", "significant", "level", ".", "The", "modest", "size", "of", "the", "lightly", "coloured", "section", "of", "all", "these", "categories", "suggest", "that", "this", "information", "often", "appeared", "in", "tandem", "with", "other", "categories", ".", "Most", "of", "time", ",", "this", "was", "one", "of", "the", "Name", ",", "Variations", ",", "or", "Handle", "elements", ",", "as", "represented", "by", "the", "medium-coloured", "section", "in", "each", "bar", ".", "Still", ",", "the", "presence", "of", "the", "darkly", "coloured", "bar", "sections", "showed", "that", "two", "non-identifier", "category", "elements", "may", "coexist", "in", "a", "display", "field", ".", "4.4", "Demographics", "of", "People", "Who", "Change", "Their", "Display", "Names", "Our", "final", "research", "question", "was", ":", "Are", "changes", "to", "the", "display", "name", "related", "to", "the", "demographics", "of", "age", "or", "sex", "?", "The", "444", "contacts", "comprised", "somewhat", "more", "males", "than", "females", ".", "The", "primary", "participants", "reported", "232", "males", ",", "189", "females", ",", "and", "1", "male/female", "-LRB-", "the", "account", "was", "known", "to", "be", "used", "by", "a", "couple", "-RRB-", ".", "The", "sex", "of", "the", "remaining", "22", "contacts", "was", "not", "reported", ".", "The", "dominant", "age", "range", "of", "the", "444", "contacts", "was", "between", "21-30", "years", "old", ".", "Table", "1", "summarizes", "the", "age", "demographics", "of", "the", "444", "contacts", ",", "as", "reported", "by", "our", "12", "primary", "participants", ".", "Since", "the", "exact", "age", "of", "each", "contact", "was", "sometimes", "uncertain", ",", "we", "used", "age", "group", "categories", "to", "capture", "their", "estimated", "ages", ".", "We", "then", "analyzed", "whether", "age", "or", "sex", "of", "a", "person", "was", "related", "to", "the", "number", "of", "changes", "that", "person", "made", ".", "First", ",", "we", "removed", "records", "for", "those", "contacts", "whose", "sex", "was", "not", "reported", ".", "We", "then", "performed", "a", "chi-square", "analysis", "on", "the", "remaining", "421", "contacts", "to", "determine", "whether", "there", "was", "a", "relationship", "between", "sex", "and", "the", "rate", "that", "a", "person", "changed", "their", "display", "field", ".", "Sex", "and", "display", "name", "change", "rate", "were", "found", "to", "be", "independent", ",", "2", "-LRB-", "5", ",", "N", "=", "421", "-RRB-", "=", "7.54", ",", "p", "=", "0.183", ".", "That", "is", ",", "no", "relationship", "exists", "between", "the", "sex", "of", "a", "person", "and", "how", "often", "a", "person", "changes", "the", "display", "name", ".", "We", "performed", "a", "similar", "chi-square", "analysis", "for", "age", "and", "display", "name", "change", "rates", ",", "where", "unreported", "people", "were", "excluded", ".", "Age", "groups", "were", "collapsed", "into", "three", "age", "ranges", ":", "<", "20", ",", "21", "to", "30", ",", "and", "31", "+", ".", "This", "was", "done", "for", "analytic", "reasons", ",", "since", "several", "cells", "in", "the", "chi-square", "analysis", "would", "have", "contained", "counts", "of", "less", "than", "one", "with", "the", "original", "divisions", ".", "Age", "range", "and", "name", "change", "rates", "were", "found", "to", "be", "not", "independent", ",", "2", "-LRB-", "10", ",", "N", "=", "413", "-RRB-", "=", "20.507", ",", "p", "=", "0.025", ".", "That", "is", ",", "a", "relationship", "exists", "between", "the", "age", "of", "a", "person", "and", "their", "likelihood", "of", "changing", "their", "display", "name", ".", "This", "result", "will", "be", "examined", "further", "in", "the", "discussion", ".", "The", "most", "important", "thing", "revealed", "by", "our", "study", "is", "that", "a", "good", "number", "of", "people", "persistently", "used", "the", "display", "name", "feature", "to", "publicly", "broadcast", "information", "about", "themselves", "to", "their", "friends", ",", "and", "that", "this", "happened", "outside", "of", "individual", "chat", "sessions", ".", "They", "did", "this", "in", "spite", "of", "the", "fact", "that", "IM", "display", "fields", "are", "not", "explicitly", "designed", "to", "be", "a", "public", "broadcast", "system", ".", "This", "suggests", "that", "systems", "should", "be", "designed", "to", "better", "support", "this", "kind", "of", "broadcast", "activity", ".", "Details", "are", "discussed", "below", ".", "5.1", "Interpreting", "the", "results", "People", "change", "the", "information", "in", "their", "display", "field", ".", "From", "this", "study", "we", "have", "learned", "that", "the", "changing", "of", "the", "information", "in", "an", "IM", "display", "field", "is", "not", "an", "oddity", "or", "something", "done", "occasionally", "by", "certain", "individuals", ".", "Rather", ",", "it", "is", "a", "popular", "behaviour", ":", "42", "%", "of", "users", "in", "our", "study", "changed", "their", "display", "name", ",", "and", "25", "%", "did", "so", "several", "times", "a", "week", "or", "more", ".", "This", "behaviour", "happens", "in", "spite", "of", "the", "fact", "that", "the", "Instant", "Messenger", "client", "we", "studied", "does", "not", "make", "changing", "the", "display", "name", "immediately", "accessible", "-LRB-", "e.g.", ",", "through", "direct", "manipulation", "-RRB-", ":", "people", "had", "to", "raise", "menus", ",", "dialog", "boxes", ",", "and", "form", "fill", "the", "text", ".", "People", "use", "the", "display", "field", "for", "identification", ",", "to", "give", "information", "about", "self", ",", "and", "to", "broadcast", "messages", ".", "People", "used", "the", "limited", "text", "that", "could", "be", "displayed", "in", "the", "display", "field", "in", "rich", "ways", ".", "Seventeen", "different", "categories", "were", "needed", "to", "describe", "the", "various", "communications", "placed", "in", "the", "display", "field", ".", "Stepping", "back", ",", "three", "themes", "encompass", "these", "categories", ".", "The", "first", "theme", "is", "Identification", ":", "``", "who", "am", "I", "''", "?", "The", "second", "theme", "is", "Information", "About", "Self", ":", "``", "this", "is", "what", "is", "going", "on", "with", "me", "''", ".", "The", "third", "theme", "is", "Broadcast", "Messages", ":", "``", "I", "am", "directing", "information", "to", "the", "community", "''", ".", "These", "are", "described", "separately", "in", "the", "following", "three", "sections", ".", "Identification", "is", "fundamental", ".", "Identifying", "oneself", "to", "personal", "contacts", "by", "typing", "one", "'s", "own", "name", "in", "the", "display", "field", "is", "the", "original", "purpose", "of", "this", "feature", ";", "the", "name", "replaces", "the", "default", "email", "address", "as", "a", "way", "to", "uniquely", "identify", "a", "person", ".", "This", "proved", "necessary", "because", "e-mail", "addresses", "are", "a", "poor", "substitute", "for", "a", "name", ";", "some", "email", "services", "enforce", "cryptic", "email", "addresses", ",", "and", "others", "are", "so", "oversubscribed", "that", "all", "but", "the", "rarest", "names", "are", "already", "taken", ".", "Table", "1", ":", "Age", "distribution", "of", "contact", "group", "Age", "Group", "Count", "Percent", "<", "15", "7", "1.69", "16-20", "24", "5.81", "21-25", "179", "43.34", "26-30", "126", "30.51", "31-35", "36", "8.72", "36-40", "18", "4.36", "40", "+", "23", "5.57", "N", "=", "413", ",", "Unreported", "=", "31", "95", "While", "people", "identified", "themselves", "in", "several", "ways", ",", "inserting", "one", "'s", "real", "Name", "or", "a", "recognizable", "Variation", "of", "it", "-LRB-", "e.g.", ",", "initials", "or", "nicknames", "-RRB-", "proved", "the", "two", "most", "common", "communication", "categories", ".", "Handles", "was", "also", "popular", "-LRB-", "a", "constant", "representative", "name", "that", "superficially", "resembles", "nicknames", "in", "IRC", "or", "discussion", "groups", "on", "the", "Internet", "-LSB-", "1", ",", "17", "-RSB-", "-RRB-", ".", "Regardless", "of", "the", "differences", "between", "these", "categories", ",", "in", "all", "cases", "the", "names", ",", "variations", "or", "handles", "presented", "are", "not", "used", "to", "maintain", "pseudo-anonymity", "or", "complete", "anonymity", "as", "in", "IRC", "or", "MUDs", ".", "Rather", ",", "the", "identifier", "is", "something", "that", "the", "contact", "group", "uses", "to", "recognize", "a", "known", "individual", ".", "Another", "indicator", "of", "the", "importance", "of", "the", "Identification", "categories", "is", "that", "many", "users", "keep", "their", "name", "visible", "even", "when", "they", "add", "extra", "information", "to", "the", "display", "field", "-LRB-", "the", "black", "bars", "in", "the", "three", "identification", "categories", ",", "and", "the", "grey", "bars", "in", "the", "other", "14", "categories", "in", "Figure", "4", "-RRB-", ".", "People", "do", "this", "in", "spite", "of", "the", "limited", "display", "space", ":", "in", "a", "normally", "sized", "IM", "window", "about", "30-50", "display", "field", "characters", "are", "viewable", ".", "As", "well", ",", "the", "usual", "order", "of", "this", "information", "is", "a", "name", "followed", "by", "the", "extra", "information", ".", "A", "typical", "example", "is", "illustrated", "in", "Figure", "5", ".", "This", "inclusion", "of", "identity", "is", "likely", "done", "as", "a", "courtesy", "behaviour", "so", "that", "others", "can", "distinguish", "between", "contacts", "without", "resorting", "to", "deciphering", "the", "e-mail", "address", ".", "Extra", "information", "is", "usually", "about", "self", ".", "Of", "the", "remaining", "14", "categories", ",", "the", "majority", "of", "them", "provide", "information", "about", "`", "self", "'", ".", "Elements", "in", "these", "`", "about", "self", "'", "categories", "dominate", "the", "frequency", "count", "-LRB-", "~", "85", "%", "of", "the", "non-name", "elements", "-RRB-", ",", "with", "the", "top", "four", "categories", "providing", "information", "about", "Mood", ",", "Comments", ",", "Activities", ",", "and", "Location", ".", "These", "top", "categories", "all", "present", "information", "about", "the", "person", "at", "a", "moment", "in", "time", ":", "they", "annotate", "how", "they", "are", "feeling", ",", "what", "they", "are", "doing", ",", "or", "where", "they", "are", ".", "Similarly", ",", "the", "lesser", "used", "Presence", "category", "indicates", "if", "they", "are", "available", ",", "thus", "augmenting", "the", "preset", "status", "indicators", ",", "while", "Quotes", "and", "Fun", "are", "indirect", "indicators", "of", "state", "of", "mind", "and", "personality", "traits", ".", "Obviously", ",", "these", "people", "want", "to", "disclose", "an", "additional", "level", "of", "information", "revealing", "personal", "state", "and", "action", "to", "their", "community", "of", "friends", ",", "close", "contacts", "and", "collaborators", ".", "The", "regular", "association", "of", "this", "kind", "of", "information", "with", "one", "'s", "name", "means", "that", "this", "information", "is", "truly", "about", "self", ";", "this", "is", "in", "sharp", "contrast", "to", "the", "personas", "found", "in", "chat", "systems", ",", "where", "people", "construct", "an", "artificial", "pseudonym", "identity", "through", "avatars", "or", "nicknames", "-LSB-", "1", ",", "17", "-RSB-", ".", "People", "want", "to", "be", "able", "to", "broadcast", "information", "without", "involving", "conversation", ".", "Most", "of", "the", "remaining", "categories", "-LRB-", "about", "14", "%", "of", "the", "non-name", "elements", "-RRB-", "contain", "communicative", "messages", "intended", "for", "the", "group", ".", "In", "particular", ",", "Messages", ",", "Notices", ",", "Questions", "and", "Directions", "are", "categories", "that", "either", "provide", "information", "thought", "to", "be", "of", "interest", "to", "the", "group", "or", "are", "posted", "to", "stimulate", "a", "response", ".", "Most", "of", "these", "are", "undirected", "e.g.", ",", "`", "Does", "anyone", "know", "...", "'", ".", "Occasionally", ",", "a", "message", "may", "be", "specifically", "directed", "to", "an", "individual", ",", "yet", "this", "is", "done", "in", "a", "forum", "public", "to", "the", "community", "of", "contacts", ".", "Clearly", ",", "people", "are", "adapting", "the", "IM", "display", "field", "into", "a", "form", "of", "public", "broadcast", "communication", "facility", ";", "they", "are", "thus", "fulfilling", "one", "element", "of", "the", "broadcasting", "system", "described", "by", "Etzioni", "and", "Etzioni", "-LSB-", "5", "-RSB-", ".", "Since", "each", "user", "'s", "contact", "list", "contains", "a", "different", "set", "of", "names", ",", "a", "responder", "-LRB-", "who", "may", "change", "their", "display", "name", "to", "respond", "to", "another", "'s", "broadcast", "message", "-RRB-", "is", "likely", "not", "sending", "that", "response", "to", "the", "same", "community", "of", "people", ".", "This", "hampering", "of", "responses", "suggests", "that", "display", "names", "are", "less", "effective", "for", "creating", "the", "running", "dialogs", "common", "to", "IRC", ",", "MUDs", "and", "other", "public", "broadcast", "systems", "-LSB-", "6", ",", "11", ",", "17", "-RSB-", ".", "Asynchronous", "messaging", ".", "In", "MSN", "Messenger", ",", "the", "direct", "chat", "facility", "is", "session", "based", ".", "That", "is", ",", "direct", "chat", "can", "not", "be", "used", "by", "one", "person", "to", "leave", "information", "for", "a", "currently", "`", "Offline", "'", "participant", "to", "read", "later", ".", "In", "contrast", ",", "the", "display", "name", "persists", "across", "sessions", ",", "meaning", "that", "asynchronous", "communication", "to", "offline", "participants", "is", "possible", ".", "For", "example", ",", "consider", "the", "message", "`", "SirMe", "-", "Happy", "Birthday", ",", "Angie", "!", "'", "that", "was", "found", "in", "the", "Messages", "category", ".", "By", "including", "this", "in", "his", "display", "name", ",", "SirMe", "is", "leaving", "an", "asynchronous", "message", "that", "Angie", "-LRB-", "and", "others", "-RRB-", "can", "see", "when", "they", "come", "on", "line", ".", "Younger", "users", "may", "change", "their", "display", "names", "more", "frequently", "than", "older", "users", ";", "sex", "does", "not", "make", "a", "difference", ".", "The", "demographics", "of", "our", "study", "suggest", "some", "demographic", "trends", ",", "which", "are", "described", "below", ".", "However", ",", "we", "caution", "that", ",", "due", "to", "the", "way", "we", "collected", "data", ",", "the", "demographic", "findings", "and", "how", "they", "relate", "to", "display", "name", "changes", "are", "at", "best", "tentative", ".", "First", ",", "the", "age", "ranges", "of", "our", "secondary", "contacts", "-LRB-", "as", "being", "14", "65", "years", "old", "-RRB-", "were", "likely", "heavily", "influenced", "by", "the", "fact", "that", "these", "contacts", "were", "culled", "from", "the", "lists", "of", "only", "12", "primary", "participants", "-LRB-", "from", "22", "50", "years", "old", "-RRB-", ",", "most", "of", "whom", "were", "within", "the", "21-30", "age", "group", ",", "weighing", "the", "data", "with", "a", "similar", "age", "range", ".", "Second", ",", "our", "data", "is", "incomplete", "as", "display", "field", "change", "data", "for", "secondary", "contacts", "was", "not", "collected", "when", "their", "associated", "primary", "contact", "was", "off", "line", ".", "Third", ",", "ages", "of", "secondary", "participants", "were", "estimated", ",", "which", "affects", "the", "analysis", "we", "could", "do", ".", "In", "spite", "of", "this", "tentative", "flavour", ",", "we", "include", "our", "results", "as", "they", "suggest", "trends", "and", "future", "areas", "of", "study", ".", "We", "saw", "a", "fairly", "balanced", "number", "of", "males", "and", "females", "in", "our", "sample", ":", "55", "%", "were", "male", ",", "45", "%", "were", "female", ".", "The", "chi-square", "analysis", "for", "sex", "and", "display", "field", "change", "rates", "indicated", "that", "the", "two", "variables", "are", "independent", ",", "i.e.", ",", "the", "sex", "of", "the", "participant", "does", "not", "suggest", "how", "often", "that", "person", "would", "change", "their", "display", "name", ".", "However", ",", "the", "chi-square", "analysis", "for", "participant", "age", "and", "display", "field", "changes", "suggests", "that", "they", "are", "related", "1", ".", "We", "subsequently", "examined", "the", "chi-square", "table", "data", "to", "compare", "the", "observed", "count", "with", "the", "expected", "count", "for", "each", "cell", "of", "age", "group", "crossed", "with", "rate", ".", "Discrepancies", "between", "the", "observed", "and", "expected", "counts", "indicate", "a", "pattern", "where", "younger", "users", "are", "more", "apt", "to", "frequently", "change", "their", "display", "name", "when", "compared", "to", "older", "users", ".", "This", "trend", "may", "reflect", "a", "``", "computer", "generation", "''", "gap", "where", "younger", "users", "would", "be", "more", "apt", "to", "change", "their", "display", "name", ".", "It", "could", "also", "reflect", "a", "culture", "gap", ",", "where", "younger", "users", "are", "using", "it", "for", "social", "reasons", "-LSB-", "8", "-RSB-", ",", "while", "older", "users", "are", "using", "it", "for", "workplace", "purposes", "-LSB-", "13", "-RSB-", ".", "1", "While", "the", "chi-square", "test", "determined", "that", "the", "two", "variables", "are", "not", "independent", ",", "it", "does", "not", "provide", "details", "on", "how", "the", "two", "variables", "are", "related", ".", "If", "true", "values", "of", "age", "and", "average", "change", "rates", "were", "available", "instead", "of", "our", "estimated", "categories", "-LRB-", "a", "subject", "of", "a", "future", "study", "-RRB-", ",", "other", "statistical", "analyses", "could", "be", "used", "to", "reveal", "this", "detail", ".", "Figure", "5", ":", "A", "typical", "display", "field", "showing", "how", "people", "retain", "identity", "-LRB-", "Name", "-RRB-", ",", "followed", "by", "other", "information", "-LRB-", "Activity", "-RRB-", "96", "5.2", "Implications", "for", "practitioners", "People", "persistently", "use", "the", "display", "field", "not", "only", "to", "identify", "themselves", "to", "their", "community", "of", "contacts", ",", "but", "to", "reveal", "personal", "information", "about", "self", "and", "to", "broadcast", "messages", ".", "They", "do", "this", "in", "spite", "of", "the", "fact", "that", "the", "display", "field", "facility", "was", "designed", "for", "other", "purposes", ";", "the", "IM", "community", "co-opted", "this", "feature", "to", "fill", "their", "real", "desires", "and", "needs", ".", "The", "first", "major", "implication", "is", "that", "IM", "and", "similar", "facilities", "need", "first-class", "interface", "features", "that", "let", "people", "broadcast", "identifying", "information", ",", "information", "about", "self", ",", "and", "public", "messages", ".", "Because", "some", "people", "change", "this", "information", "fairly", "often", ",", "this", "information", "should", "be", "easy", "to", "create", "and", "alter", ",", "e.g.", ",", "through", "direct", "manipulation", ".", "Some", "of", "these", "capabilities", "are", "only", "now", "being", "supplied", "by", "a", "few", "major", "IM", "vendors", ".", "For", "example", ",", "the", "new", "version", "of", "MSN", "Messenger", "-LRB-", "v.", "7.0", "-RRB-", ",", "released", "shortly", "after", "our", "study", "was", "performed", "-RRB-", ",", "includes", "a", "dedicated", "space", "for", "adding", "and", "editing", "a", "personal", "message", "-LRB-", "Figure", "6", ",", "top", "-RRB-", ".", "A", "person", "can", "directly", "alter", "this", "text", "by", "clicking", "within", "it", ":", "no", "menus", "or", "dialog", "boxes", "have", "to", "be", "navigated", "or", "raised", ".", "Other", "people", "see", "this", "personal", "information", "as", "visually", "distinguished", "text", ",", "e.g.", ",", "the", "italicized", "text", "within", "the", "contact", "list", "-LRB-", "Figure", "6", ",", "bottom", "-RRB-", ".", "The", "personal", "information", "message", "is", "also", "proprietary", "to", "the", "machine", ",", "similar", "to", "the", "display", "picture", ".", "Thus", "people", "can", "set", "unique", "location", "labels", "to", "various", "computers", "if", "desired", ",", "i.e.", "home", "or", "work", ".", "The", "Community", "Bar", "-LRB-", "CB", "-RRB-", "-LSB-", "12", "-RSB-", "is", "a", "multimedia", "groupware", "system", "being", "developed", "by", "collaborators", "in", "our", "laboratory", ".", "Elements", "of", "its", "design", "are", "partially", "influenced", "by", "our", "study", "results", ".", "People", "within", "an", "ad", "hoc", "group", "inhabit", "places", ",", "and", "all", "see", "the", "equivalent", "of", "a", "contact", "list", "within", "a", "place", ".", "For", "example", ",", "Figure", "7", "shows", "a", "place", "called", "`", "IM", "Paper", "'", "and", "three", "participants", "within", "it", ".", "To", "support", "`", "Identification", "'", ",", "each", "participant", "is", "represented", "by", "a", "`", "Presence", "item", "'", ",", "which", "shows", "running", "video", "-LRB-", "or", "photo", "-RRB-", "of", "them", ",", "their", "name", ".", "To", "support", "`", "Information", "about", "self", "'", ",", "the", "Presence", "item", "also", "includes", "optional", "personal", "information", "-LRB-", "which", "may", "wrap", "across", "multiple", "lines", "-RRB-", "that", "persists", "across", "login", "sessions", ".", "A", "person", "can", "quickly", "modify", "this", "personal", "information", "by", "a", "popup", "raised", "whenever", "he", "or", "she", "moves", "their", "mouse", "over", "their", "item", "-LRB-", "Figure", "7", ",", "right", "side", "-RRB-", ".", "To", "support", "`", "Broadcast", "Messages", "'", ",", "it", "also", "lets", "people", "broadcast", "and", "respond", "to", "public", "messages", "to", "all", "people", "in", "the", "group", ".", "This", "public", "broadcast", "is", "not", "available", "in", "MSN", "Messenger", "7", ",", "For", "example", ",", "Figure", "7", "-LRB-", "bottom", "-RRB-", "illustrates", "a", "public", "text", "chat", "dialog", "that", "lets", "anyone", "in", "the", "group", "post", "messages", ";", "all", "see", "its", "contents", "and", "all", "can", "post", "responses", ".", "Not", "shown", "is", "a", "sticky", "note", "facility", ",", "where", "a", "person", "can", "post", "a", "persistent", "message", "to", "all", ".", "Finally", ",", "certain", "categories", "of", "information", "are", "supported", ".", "For", "example", ",", "`", "Directions", "'", "are", "satisfied", "by", "letting", "people", "post", "a", "`", "web", "item", "'", "-LRB-", "not", "illustrated", "-RRB-", ":", "a", "thumbnail", "of", "a", "web", "page", "of", "interest", "that", "others", "can", "navigate", "to", "via", "a", "single", "button", "press", ".", "Another", "implication", "of", "our", "study", "is", "that", "people", "use", "many", "different", "categories", "of", "information", "especially", "when", "describing", "self", "which", "in", "turn", "suggests", "that", "people", "are", "trying", "to", "provide", "others", "with", "a", "rich", "picture", "of", "themselves", ".", "Yet", "most", "systems", ",", "even", "the", "current", "ones", "shown", "above", ",", "only", "let", "people", "set", "one", "attribute", "of", "themselves", "in", "their", "personal", "message", "space", "-LRB-", "although", "they", "may", "combine", "these", "in", "a", "text", "fragment", "-RRB-", ".", "Perhaps", "future", "systems", "will", "let", "people", "construct", "an", "`", "avatar", "'", "of", "sorts", "with", "multiple", "attributes", "that", "distinguish", "these", "categories", ",", "so", "that", "-LRB-", "say", "-RRB-", "mood", ",", "location", "and", "activity", "are", "treated", "independently", "rather", "than", "compete", "for", "a", "small", "space", ".", "While", "these", "-LRB-", "and", "likely", "other", "-RRB-", "systems", "suggest", "point", "design", "solutions", "to", "our", "implications", ",", "what", "is", "important", "is", "that", "our", "study", "has", "placed", "this", "work", "on", "a", "solid", "intellectual", "footing", ".", "It", "provides", "details", "of", "what", "people", "have", "done", ",", "and", "has", "identified", "the", "categories", "of", "information", "that", "people", "supply", ".", "For", "example", ",", "we", "suspect", "that", "MSN", "Messenger", "'s", "inclusion", "of", "a", "personal", "information", "field", "arose", "because", "its", "designers", "noticed", "that", "people", "were", "moulding", "the", "technology", "to", "suit", "their", "needs", ",", "and", "they", "wanted", "to", "``", "fix", "the", "interface", "''", "to", "better", "fulfill", "these", "needs", ".", "In", "contrast", ",", "our", "study", "helps", "designers", "understand", "why", "Figure", "6", ":", "MSN", "Messenger", "v7", ".0", "separates", "editing", "and", "display", "of", "names", "and", "personal", "messages", ".", "Figure", "7", ":", "Snapshot", "of", "Community", "Bar", "displaying", "personal", "message", "space", "within", "presence", "item", "97", "appropriation", "occurred", "in", "the", "first", "place", ".", "Looking", "at", "the", "17", "categories", "of", "communication", "that", "are", "used", "in", "messages", "found", "in", "the", "display", "name", "space", ",", "we", "saw", "that", "most", "are", "personal", ",", "or", "about", "the", "self", ".", "In", "taking", "over", "this", "space", ",", "users", "are", "not", "`", "hacking", "'", "to", "make", "IM", "do", "totally", "different", "things", ".", "Rather", ",", "they", "are", "adding", "richness", "to", "their", "identity", "beyond", "their", "simple", "name", "label", ".", "They", "are", "expressing", "identity", ",", "and", "they", "own", "this", "expression", "by", "using", "a", "text", "field", "that", "only", "they", "can", "alter", ".", "We", "also", "saw", "that", "there", "is", "some", "use", "of", "the", "display", "field", "for", "public", "broadcasting", "of", "messages", ".", "This", "suggests", "that", "there", "is", "a", "problem", "with", "the", "way", "we", "compartmentalize", "systems", ":", "IM", "systems", "with", "no", "real", "notion", "of", "groups", "or", "public", "broadcast", ",", "versus", "IRC", "and", "similar", "systems", "where", "public", "broadcasts", "dominate", ".", "The", "real", "solution", "likely", "amalgamates", "both", ":", "a", "system", "that", "somehow", "supports", "both", "public", "and", "private", "discussions", "between", "ad", "hoc", "-LRB-", "and", "perhaps", "non-overlapping", "-RRB-", "groups", ".", "To", "our", "knowledge", ",", "only", "very", "few", "systems", "-LRB-", "such", "as", "the", "Community", "Bar", "above", "-LSB-", "12", "-RSB-", "-RRB-", "are", "trying", "to", "tackle", "this", "fusion", "of", "genres", ".", "Most", "studies", "of", "communication", "using", "instant", "messenger", "clients", "have", "been", "focused", "on", "the", "activities", "within", "the", "main", "chat", "window", ".", "In", "contrast", ",", "this", "study", "examined", "how", "contacts", "appropriate", "IM", "technology", "to", "publicly", "broadcast", "information", "by", "adding", "extra", "text", "to", "their", "display", "name", ".", "We", "exposed", "patterns", "of", "behaviour", ",", "where", "we", "saw", "that", "almost", "half", "of", "the", "contacts", "we", "monitored", "change", "their", "display", "names", "with", "varying", "frequencies", ".", "We", "established", "a", "set", "of", "seventeen", "communication", "categories", "for", "the", "different", "types", "of", "personal", "messages", "added", "to", "the", "display", "field", ".", "We", "saw", "that", "people", "did", "want", "to", "identify", "themselves", "-LRB-", "the", "Name", ",", "Variations", "and", "Handles", "category", "-RRB-", ",", "and", "that", "these", "were", "true", "identities", "that", "contacts", "would", "recognize", "versus", "anonymous", "pseudonyms", "not", "known", "by", "others", "within", "the", "social", "group", ".", "We", "also", "saw", "that", "the", "most", "popular", "communications", "were", "those", "that", "added", "personal", "information", "about", "self", ":", "a", "person", "'s", "psycho-physiological", "status", ",", "one", "'s", "current", "activities", ",", "details", "of", "their", "location", ",", "and", "expressions", "of", "personal", "comments", "and", "opinions", ".", "We", "also", "saw", "that", "people", "occasionally", "used", "it", "to", "broadcast", "messages", "to", "the", "group", ",", "a", "facility", "not", "otherwise", "available", "in", "IM", ".", "These", "findings", "suggest", "that", "personal", "information", "and", "public", "broadcast", "of", "messages", ",", "currently", "supported", "through", "this", "creative", "appropriation", "by", "users", ",", "should", "be", "provided", "as", "a", "first", "class", "interface", "feature", "in", "IM", "design", ".", "This", "is", "just", "the", "first", "of", "a", "set", "of", "studies", "that", "could", "be", "done", ".", "Much", "has", "been", "discovered", ",", "although", "these", "results", "should", "be", "verified", "and", "refined", "further", ".", "For", "example", ",", "modest", "refinements", "of", "our", "study", "protocol", "would", "allow", "us", "to", "more", "precisely", "capture", "the", "frequency", "of", "changes", "within", "the", "display", "field", "and", "their", "distribution", "within", "the", "different", "communication", "categories", ".", "However", ",", "we", "suspect", "that", "the", "actual", "categories", "of", "communication", "will", "not", "change", "dramatically", ".", "We", "would", "also", "like", "to", "consider", "the", "author", "'s", "intentions", "of", "a", "display", "name", "change", "along", "with", "the", "recipient", "'s", "opinion", ".", "More", "importantly", ",", "we", "intend", "to", "study", "behaviour", "and", "communication", "patterns", "within", "systems", "that", "provide", "explicit", "support", "for", "personal", "information", "supply", "-LRB-", "such", "as", "MSN", "v7", ".0", "-RRB-", "and", "public", "broadcast", "-LRB-", "such", "as", "the", "Community", "Bar", "-RRB-", ".", "Many", "thanks", "to", "all", "those", "who", "participated", "in", "this", "project", "and", "took", "precious", "time", "to", "make", "communication", "category", "evaluations", "for", "their", "many", "contacts", "'", "display", "name", "changes", ";", "their", "input", "was", "invaluable", ".", "Special", "thanks", "to", "Gregor", "McEwan", "and", "Michael", "Boyle", "for", "their", "advice", "both", "on", "intellectual", "content", "and", "on", "our", "recording", "software", ".", "This", "work", "was", "funded", "in", "part", "by", "the", "NSERC", "Nectar", "Research", "Networks", "program", ".", "-LSB-", "1", "-RSB-", "Bechar-Israeli", ",", "H.", "-LRB-", "1995", "-RRB-", ".", "From", "``", "Bonehead", "''", "to", "``", "cLoNehEAd", "''", ":", "Nicknames", ",", "play", "and", "identity", "on", "internet", "relay", "chat", ".", "J.", "Computer-Mediated", "Communication", ",", "1", "-LRB-", "2", "-RRB-", ".", "-LSB-", "2", "-RSB-", "Cadiz", "J.", "J.", ",", "Venolia", "G.", "D.", ",", "Jancke", "G.", "&", "Gupta", "A.", "Designing", "and", "Deploying", "an", "Information", "Awareness", "Interface", ".", "Proc", "ACM", "CSCW", "-LRB-", "2002", "-RRB-", ".", "314-323", ".", "-LSB-", "3", "-RSB-", "Cameron", ",", "A.", "F.", "&", "Webster", ",", "J.", "-LRB-", "2005", "-RRB-", ".", "Unintended", "consequences", "of", "emerging", "communication", "technologies", ":", "Instant", "Messaging", "in", "the", "workplace", ".", "Computers", "in", "Human", "Behaviour", ",", "21", ",", "85-103", ".", "-LSB-", "4", "-RSB-", "Cutrell", "E.", "B.", ",", "Czerwinski", "M.", "&", "Horvitz", "E.", "Effects", "of", "instant", "messaging", "interruptions", "on", "computing", "tasks", ".", "In", "Proc", "ACM", "CHI", "Extended", "Abstracts", "-LRB-", "2002", "-RRB-", ".", "99-100", ".", "-LSB-", "5", "-RSB-", "Etzioni", ",", "A.", "&", "Etzioni", ",", "O.", "-LRB-", "1999", "-RRB-", ".", "Face-to-face", "and", "computer-mediated", "communities", ",", "a", "comparative", "analysis", ".", "The", "Information", "Society", ",", "15", ",", "241-248", ".", "-LSB-", "6", "-RSB-", "Fitzpatrick", ",", "G.", ",", "Parsowith", ",", "S.", ",", "Segall", ",", "B.", ",", "&", "Kaplan", ",", "S.", "-LRB-", "1998", "-RRB-", ".", "Tickertape", ":", "Awareness", "in", "a", "single", "line", ".", "Proc", "ACM", "CHI", "-LRB-", "1998", "-RRB-", ".", "281-282", ".", "-LSB-", "7", "-RSB-", "Greenberg", ",", "S.", "&", "Rounding", ",", "M.", "-LRB-", "2001", "-RRB-", ".", "The", "Notification", "Collage", ":", "Posting", "Information", "to", "Public", "and", "Personal", "Displays", ".", "Proc", "ACM", "CHI", "-LRB-", "2001", "-RRB-", ".", "514-521", ".", "-LSB-", "8", "-RSB-", "Grinter", ",", "R.", "E.", "&", "Palen", ",", "L.", "-LRB-", "2002", "-RRB-", ".", "Instant", "messaging", "in", "teen", "life", ".", "Proc", "ACM", "CSCW", "-LRB-", "2002", "-RRB-", ".", "21-30", ".", "-LSB-", "9", "-RSB-", "Hu", ",", "Y.", ",", "Wood", ",", "J.", "F.", ",", "Smith", ",", "V.", ",", "&", "Westbrook", ",", "N.", "-LRB-", "2004", "-RRB-", ".", "Friendships", "through", "IM", ":", "Examining", "the", "relationship", "between", "instant", "messaging", "and", "intimacy", ".", "J", "Computer-Mediated", "Communication", ",", "10", "-LRB-", "1", "-RRB-", ".", "-LSB-", "10", "-RSB-", "Isaacs", "E.", ",", "Walendowski", "A.", ",", "Whittaker", "S.", ",", "Schiano", "D.", "J.", "&", "Kamm", "C.", "-LRB-", "2002", "-RRB-", "The", "character", ",", "functions", ",", "and", "styles", "of", "instant", "messaging", "in", "the", "workplace", ",", "Proc", "ACM", "CSCW", "-LRB-", "2002", "-RRB-", ".", "11-20", ".", "-LSB-", "11", "-RSB-", "Jania", ",", "F.", "-LRB-", "2003", "-RRB-", ".", "Broadcast", "Messaging", ":", "Messaging", "to", "the", "masses", ".", "Queue", ",", "1", "-LRB-", "8", "-RRB-", ",", "38-43", ".", "-LSB-", "12", "-RSB-", "McEwan", ",", "G.", "and", "Greenberg", ",", "S.", "Supporting", "Social", "Worlds", "with", "the", "Community", "Bar", ".", "To", "appear", "in", "Proceedings", "of", "ACM", "Group", "2005", ",", "Sanibel", "Island", ",", "Florida", ",", "Nov", "6-9", ".", "-LSB-", "13", "-RSB-", "Nardi", ",", "B.", "A.", ",", "Whittaker", ",", "S.", ",", "&", "Bradner", ",", "E.", "Interaction", "and", "outeraction", ":", "instant", "messaging", "in", "action", ".", "In", "Proc", "ACM", "CSCW", "-LRB-", "2000", "-RRB-", ",", "79-88", ".", "-LSB-", "14", "-RSB-", "Piepmeyer", ",", "A.", "I", "'ve", "been", "replaced", "by", "a", "screen", "name", ".", "The", "Daily", "Utah", "Chronicle", ",", "October", "31", ",", "2003", ".", "www.dailyutahchronicle.com/news/2003/10/31/Opinion/", "Ive-Been", ".", "Replaced.By.A.Screen.Name-545565", ".", "shtml", "-LSB-", "15", "-RSB-", "Rennecker", "J.", "&", "Godwin", "L.", "Theorizing", "the", "Unintended", "Consequences", "of", "Instant", "Messaging", "for", "Worker", "Productivity", ",", "Sprouts", ":", "Working", "Papers", "on", "Information", "Environments", ",", "Systems", "and", "Organizations", ",", "3", "-LRB-", "Summer", "-RRB-", ".", "Retrieved", "Dec", "3", ",", "2004", "/", "/", "weatherhead.cwru.edu/sprouts/", "2003/030307.pdf", "-LSB-", "16", "-RSB-", "Tang", ",", "J.", "C.", "&", "Begole", ",", "J.", "-LRB-", "2003", "-RRB-", ".", "Beyond", "instant", "messaging", ".", "Queue", ",", "1", "-LRB-", "8", "-RRB-", ",", "28-37", ".", "-LSB-", "17", "-RSB-", "Turkle", ",", "S.", "-LRB-", "1997", "-RRB-", ".", "Life", "on", "the", "Screen", ":", "Identity", "in", "the", "Age", "of", "the", "Internet", ".", "New", "York", ":", "Simon", "&", "Schuster", "Inc.", ".", "98"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["broadcast information", "instant messaging", "display names", "awareness", "display name", "identification is fundamental", "instant messenger", "communication"], "abstractive_keyphrases": ["catorgorisation of display names", "communication catogories", "name variation handles", "distribution frequency of various catogories", "msn messager", "related im research"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "54", "document": ["Computing", "Consistent", "Query", "Answers", "using", "Conflict", "Hypergraphs", "A", "consistent", "query", "answer", "in", "a", "possibly", "inconsistent", "database", "is", "an", "answer", "which", "is", "true", "in", "every", "-LRB-", "minimal", "-RRB-", "repair", "of", "the", "database", ".", "We", "present", "here", "a", "practical", "framework", "for", "computing", "consistent", "query", "answers", "for", "large", ",", "possibly", "inconsistent", "relational", "databases", ".", "We", "consider", "relational", "algebra", "queries", "without", "projection", ",", "and", "denial", "constraints", ".", "Because", "our", "framework", "handles", "union", "queries", ",", "we", "can", "effectively", "-LRB-", "and", "efficiently", "-RRB-", "extract", "indefinite", "disjunctive", "information", "from", "an", "inconsistent", "database", ".", "We", "describe", "a", "number", "of", "novel", "optimization", "techniques", "applicable", "in", "this", "context", "and", "summarize", "experimental", "results", "that", "validate", "our", "approach", ".", "Categories", ":", "H.", "2.3", ",", "H.", "2.4", ",", "F.", "4.1", ".", "General", "Terms", ":", "Algorithms", ",", "Languages", ",", "Theory", ".", "Traditionally", ",", "the", "main", "role", "of", "integrity", "constraints", "in", "databases", "was", "to", "enforce", "consistency", ".", "The", "occurrence", "of", "integrity", "violations", "was", "prevented", "by", "DBMS", "software", ".", "However", ",", "while", "integrity", "constraints", "continue", "to", "express", "important", "semantic", "properties", "of", "data", ",", "enforcing", "the", "constraints", "has", "become", "problematic", "in", "current", "database", "applications", ".", "For", "example", ",", "in", "data", "integration", "systems", "integrity", "violations", "may", "be", "due", "to", "the", "presence", "of", "multiple", "autonomous", "data", "sources", ".", "The", "sources", "may", "separately", "satisfy", "the", "constraints", ",", "but", "when", "they", "are", "integrated", "the", "constraints", "may", "not", "hold", ".", "Moreover", ",", "because", "the", "sources", "are", "autonomous", ",", "the", "violations", "can", "not", "be", "simply", "fixed", "by", "removing", "the", "data", "involved", "in", "the", "violations", ".", "Example", "1", ".", "Let", "Student", "be", "a", "relation", "schema", "with", "the", "attributes", "Name", "and", "Address", "and", "the", "key", "functional", "dependency", "N", "ame", "Address", ".", "Consider", "the", "following", "instance", "of", "Student", ":", "Research", "supported", "by", "NSF", "Grant", "IIS-0119186", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "CIKM", "'", "04", ",", "November", "8", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-874-1", "/", "04/0011", "...", "$", "5.00", ".", "Name", "Address", "Jeremy", "Burford", "Los", "Angeles", "Jeremy", "Burford", "New", "York", "Linda", "Kenner", "Chicago", "The", "first", "two", "tuples", "may", "come", "from", "different", "data", "sources", ",", "so", "it", "may", "be", "impossible", "or", "impractical", "to", "resolve", "the", "inconsistency", "between", "them", ".", "However", ",", "there", "is", "clearly", "a", "difference", "between", "the", "first", "two", "tuples", "and", "the", "third", "one", ".", "We", "do", "n't", "know", "whether", "Jeremy", "Burford", "lives", "in", "Los", "Angeles", "or", "New", "York", ",", "but", "we", "do", "know", "that", "Linda", "Kenner", "lives", "in", "Chicago", ".", "An", "approach", "to", "query", "answering", "that", "ignores", "inconsistencies", "will", "be", "unable", "to", "make", "this", "distinction", "the", "distinction", "between", "reliable", "and", "unreliable", "data", ".", "On", "the", "other", "hand", ",", "any", "approach", "that", "simply", "masks", "out", "inconsistent", "data", "-LRB-", "the", "first", "two", "tuples", "in", "this", "example", "-RRB-", "will", "lose", "indefinite", "information", "present", "in", "inconsistent", "databases", ".", "In", "this", "example", ",", "we", "know", "that", "there", "is", "a", "student", "named", "Jeremy", "Burford", "-LRB-", "existential", "information", "-RRB-", "and", "that", "Jeremy", "Burford", "lives", "in", "Los", "Angeles", "or", "New", "York", "-LRB-", "disjunctive", "information", "-RRB-", ".", "The", "above", "example", "illustrates", "the", "need", "to", "modify", "the", "standard", "notion", "of", "query", "answer", "in", "the", "context", "of", "inconsistent", "databases", ".", "We", "need", "to", "be", "able", "to", "talk", "about", "query", "answers", "that", "are", "unaffected", "by", "integrity", "violations", ".", "In", "-LSB-", "2", "-RSB-", ",", "the", "notion", "of", "consistent", "query", "answer", "was", "proposed", "to", "achieve", "that", "ob", "jective", ".", "-LSB-", "2", "-RSB-", "introduced", "the", "notion", "of", "repair", ":", "a", "database", "that", "satisfies", "the", "integrity", "constraints", "and", "is", "minimally", "different", "from", "the", "original", "database", ".", "A", "consistent", "answer", "to", "a", "query", ",", "in", "this", "framework", ",", "is", "an", "answer", "present", "in", "the", "result", "of", "the", "query", "in", "every", "repair", ".", "Example", "2", ".", "In", "Example", "1", ",", "there", "are", "two", "repairs", "corresponding", "to", "two", "different", "ways", "of", "restoring", "the", "consistency", ":", "either", "the", "first", "or", "the", "second", "tuple", "is", "deleted", ".", "If", "a", "query", "asks", "for", "all", "the", "information", "about", "students", ",", "only", "the", "tuple", "-LRB-", "Linda", "Kenner", ",", "Chicago", "-RRB-", "is", "returned", "as", "a", "consistent", "answer", "because", "it", "is", "the", "only", "tuple", "that", "is", "present", "in", "both", "repairs", ".", "On", "the", "other", "hand", ",", "if", "a", "query", "asks", "for", "the", "names", "of", "students", "living", "in", "Los", "Angeles", "or", "New", "York", ",", "then", "Jeremy", "Burford", "is", "a", "consistent", "answer", ".", "The", "framework", "of", "-LSB-", "2", "-RSB-", "has", "served", "as", "a", "foundation", "for", "most", "of", "the", "subsequent", "work", "in", "the", "area", "of", "querying", "inconsistent", "databases", "-LSB-", "3", ",", "5", ",", "11", ",", "12", ",", "13", ",", "15", ",", "17", ",", "19", ",", "23", "-RSB-", "-LRB-", "see", "-LSB-", "7", "-RSB-", "for", "a", "survey", "and", "an", "in-depth", "discussion", "-RRB-", ".", "The", "work", "presented", "here", "addresses", "the", "issue", "of", "computing", "consistent", "query", "answers", "for", "projection-free", "queries", "and", "denial", "integrity", "constraints", ".", "It", "is", "shown", "in", "-LSB-", "13", "-RSB-", "that", "this", "task", "can", "be", "done", "in", "polynomial", "time", ",", "using", "the", "notion", "of", "conflict", "hypergraph", "that", "succinctly", "417", "represents", "all", "the", "integrity", "violations", "in", "a", "given", "database", ".", "This", "line", "research", "is", "pursued", "further", "in", "the", "present", "paper", ".", "The", "main", "contributions", "of", "this", "paper", "are", "as", "follows", ":", "A", "complete", ",", "scalable", "framework", "for", "computing", "consistent", "answers", "to", "projection-free", "relational", "algebra", "queries", "in", "the", "presence", "of", "denial", "constraints", ".", "Our", "approach", "uses", "a", "relational", "DBMS", "as", "a", "backend", "and", "scales", "up", "to", "large", "databases", ".", "Novel", "optimization", "techniques", "to", "eliminate", "redundant", "DBMS", "queries", ".", "Encouraging", "experimental", "results", "that", "compare", "our", "approach", "with", "an", "approach", "based", "on", "query", "rewriting", "and", "estimate", "the", "overhead", "of", "computing", "consistent", "query", "answers", ".", "No", "comprehensive", "results", "of", "this", "kind", "exist", "in", "the", "literature", ".", "Because", "our", "query", "language", "includes", "union", ",", "our", "approach", "can", "extract", "indefinite", "disjunctive", "information", "present", "in", "an", "inconsistent", "database", "-LRB-", "see", "Example", "1", "-RRB-", ".", "Moreover", ",", "consistent", "query", "answers", "are", "computed", "in", "polynomial", "time", ".", "Other", "existing", "approaches", "are", "either", "unable", "to", "handle", "disjunction", "in", "queries", "-LSB-", "2", ",", "12", ",", "17", "-RSB-", "or", "can", "not", "guarantee", "polynomial", "time", "com-putability", "of", "consistent", "query", "answers", "-LSB-", "3", ",", "5", ",", "11", ",", "15", ",", "19", ",", "23", "-RSB-", ".", "The", "latter", "is", "due", "to", "the", "fact", "that", "those", "approaches", "rely", "on", "the", "computation", "of", "answers", "sets", "of", "logic", "programs", "with", "disjunction", "and", "negation", "a", "p", "2", "-", "complete", "problem", ".", "Only", "the", "approach", "of", "-LSB-", "2", ",", "12", "-RSB-", "-LRB-", "which", "uses", "query", "rewriting", "-RRB-", "and", "the", "approach", "presented", "here", "scale", "up", "to", "large", "databases", ".", "Related", "research", "is", "further", "discussed", "in", "Section", "6", ".", "The", "plan", "of", "the", "paper", "is", "as", "follows", ".", "In", "Section", "2", ",", "we", "introduce", "basic", "concepts", ".", "In", "Section", "3", ",", "we", "present", "our", "approach", "to", "computing", "consistent", "answers", "to", "projection-free", "queries", "and", "describe", "its", "implementation", "in", "a", "system", "called", "Hippo", ".", "In", "Section", "4", ",", "we", "describe", "several", "techniques", "for", "eliminating", "redundant", "DBMS", "queries", ",", "that", "we", "have", "implemented", "in", "Hippo", ".", "In", "Section", "5", ",", "we", "discuss", "a", "number", "of", "experiments", "we", "have", "conducted", "with", "Hippo", "and", "query", "rewriting", ".", "In", "Section", "6", ",", "we", "briefly", "discuss", "related", "work", ".", "Section", "7", "contains", "conclusions", "and", "a", "discussion", "of", "possible", "future", "research", "directions", ".", "In", "this", "paper", "we", "work", "in", "the", "relational", "model", "of", "data", ".", "We", "recall", "that", "a", "database", "schema", "S", "is", "a", "set", "of", "relation", "names", "with", "attribute", "names", "and", "types", ".", "An", "instance", "of", "a", "database", "is", "a", "function", "that", "assigns", "a", "finite", "set", "of", "tuples", "to", "each", "relation", "name", ".", "For", "the", "purposes", "of", "this", "paper", "we", "consider", "only", "two", "fixed", "database", "domains", "N", "-LRB-", "natural", "numbers", "-RRB-", "and", "D", "-LRB-", "unin-terpreted", "constants", "-RRB-", ".", "We", "also", "use", "the", "natural", "interpretation", "over", "N", "of", "binary", "relational", "symbols", "=", ",", "=", ",", "<", ",", ">", ",", "and", "we", "assume", "that", "two", "constants", "are", "equal", "only", "if", "they", "have", "the", "same", "name", ".", "We", "also", "view", "I", "as", "a", "structure", "for", "the", "first-order", "language", "over", "the", "vocabulary", "consisting", "of", "symbols", "of", "S", ",", "and", "standard", "built-in", "predicates", "over", "N", "-LRB-", "=", ",", "=", ",", "<", ",", ">", "-RRB-", ".", "In", "this", "article", ",", "we", "use", "projection-free", "-LRB-", "-", "free", "-RRB-", "relational", "algebra", "expressions", ",", "defined", "using", "the", "following", "grammar", ":", "E", ":", ":", "R", "|", "-LRB-", "E", "-RRB-", "|", "E", "E", "|", "E", "E", "|", "E", "\\", "E.", "|", "R", "|", "is", "the", "arity", "of", "the", "relation", "symbol", "R", "and", "-LRB-", "unless", "specified", "otherwise", "-RRB-", "for", "the", "sake", "of", "simplicity", "we", "assume", "that", "attribute", "names", "are", "consecutive", "natural", "numbers", ".", "We", "extend", "this", "to", "expressions", ",", "i.e.", "|", "E", "|", "is", "the", "arity", "of", "the", "expression", ",", "and", "E.i", "is", "the", "reference", "to", "the", "i-th", "column", "resulting", "from", "the", "expression", "E", "-LRB-", "used", "in", "conditions", "for", "subexpressions", "-RRB-", ".", "Morover", ",", "t", "-LSB-", "i", "-RSB-", "is", "the", "value", "on", "the", "i-th", "position", "of", "t", ",", "t", "-LSB-", "i", ",", "j", "-RSB-", "is", "an", "abbreviation", "for", "a", "tuple", "-LRB-", "t", "-LSB-", "i", "-RSB-", ",", "...", ",", "t", "-LSB-", "j", "-RSB-", "-RRB-", ",", "and", "with", "|", "t", "|", "we", "denote", "the", "length", "of", "the", "tuple", "t", ".", "We", "say", "that", "a", "tuple", "t", "is", "compatible", "with", "an", "expression", "E", "if", "the", "length", "of", "the", "tuple", "is", "equal", "to", "the", "arity", "of", "the", "expression", ",", "i.e.", "|", "t", "|", "=", "|", "E", "|", ".", "For", "a", "given", "expression", "E", ",", "QA", "E", "-LRB-", "I", "-RRB-", "is", "the", "result", "of", "evaluating", "E", "in", "the", "database", "instance", "I", ".", "In", "this", "paper", "we", "use", "only", "the", "set", "semantics", "of", "relational", "algebra", "expressions", ".", "We", "also", "use", "relational", "calculus", "queries", "consisting", "of", "quantifier-free", "first-order", "formulas", "which", "may", "be", "open", "-LRB-", "having", "free", "variables", "-RRB-", "or", "ground", ".", "In", "fact", ",", "our", "approach", "can", "handle", "relational", "algebra", "queries", "that", "require", "projection", ",", "as", "long", "as", "they", "can", "be", "translated", "to", "quantifier-free", "relational", "calculus", "queries", ".", "That", "'s", "why", "we", "can", "deal", "with", "the", "relational", "algebra", "query", "corresponding", "to", "the", "query", "Student", "-LRB-", "X", ",", "LosAngeles", "-RRB-", "Student", "-LRB-", "X", ",", "NewYork", "-RRB-", "in", "Example", "1", ".", "We", "also", "occasionally", "use", "SQL", ".", "2.2", "Repairs", "and", "consistent", "query", "answers", "An", "integrity", "constraint", "is", "a", "consistent", "closed", "first-order", "formula", ".", "In", "this", "paper", "we", "consider", "only", "the", "class", "of", "denial", "integrity", "constraints", "of", "the", "form", ":", "x", "1", ",", "...", ",", "x", "k", ".", "-LSB-", "R", "i", "1", "-LRB-", "x", "1", "-RRB-", "...", "R", "i", "k", "-LRB-", "x", "k", "-RRB-", "-LRB-", "x", "1", ",", "...", ",", "x", "k", "-RRB-", "-RSB-", ",", "-LRB-", "1", "-RRB-", "where", "is", "a", "boolean", "expression", "consisting", "of", "atomic", "formulas", "referring", "to", "built-in", "predicates", ".", "The", "number", "k", "is", "called", "the", "arity", "of", "a", "constraint", ".", "Note", "that", ",", "for", "example", ",", "functional", "dependencies", "and", "exclusion", "constraints", "are", "of", "the", "above", "form", ".", "Below", "we", "give", "another", "example", ".", "Example", "3", ".", "Consider", "the", "relation", "Emp", "with", "attributes", "Name", ",", "Salary", ",", "and", "Manager", ",", "with", "Name", "being", "the", "primary", "key", ".", "The", "constraint", "that", "no", "employee", "can", "have", "a", "salary", "greater", "that", "that", "of", "her", "manager", "is", "a", "denial", "constraint", ":", "n", ",", "s", ",", "m", ",", "s", ",", "m", ".", "-LSB-", "Emp", "-LRB-", "n", ",", "s", ",", "m", "-RRB-", "Emp", "-LRB-", "m", ",", "s", ",", "m", "-RRB-", "s", ">", "s", "-RSB-", ".", "Definition", "1", "-LRB-", "Consistent", "database", "-RRB-", ".", "A", "database", "instance", "I", "is", "consistent", "with", "a", "set", "of", "integrity", "constraints", "C", "if", "I", "|", "=", "C", "-LRB-", "i.e.", ",", "C", "is", "true", "in", "I", "-RRB-", ";", "inconsistent", "otherwise", ".", "Definition", "2", ".", "For", "a", "given", "database", "instance", "I", "of", "schema", "S", ",", "its", "set", "of", "facts", "-LRB-", "I", "-RRB-", "is", "the", "set", "of", "all", "positive", "facts", "that", "hold", "in", "this", "database", ":", "-LRB-", "I", "-RRB-", "=", "-LCB-", "R", "-LRB-", "t", "-RRB-", "|", "R", "S", "t", "I", "-LRB-", "R", "-RRB-", "-RCB-", ".", "Definition", "3", "-LRB-", "Database", "distance", "-RRB-", ".", "Given", "two", "instances", "I", "1", "and", "I", "2", "of", "the", "same", "database", ",", "the", "distance", "between", "those", "instances", "-LRB-", "I", "1", ",", "I", "2", "-RRB-", "is", "the", "symmetric", "difference", "between", "sets", "of", "facts", "of", "those", "instances", ":", "-LRB-", "I", "1", ",", "I", "2", "-RRB-", "=", "-LRB-", "-LRB-", "I", "1", "-RRB-", "\\", "-LRB-", "I", "2", "-RRB-", "-RRB-", "-LRB-", "-LRB-", "I", "2", "-RRB-", "\\", "-LRB-", "I", "1", "-RRB-", "-RRB-", ".", "Definition", "4", "-LRB-", "Proximity", "relation", "-RRB-", ".", "Given", "three", "instances", "I", ",", "I", "1", ",", "I", "2", ",", "the", "instance", "I", "1", "is", "closer", "to", "I", "than", "the", "instance", "I", "2", "if", "the", "distance", "between", "I", "1", "and", "I", "is", "contained", "in", "the", "distance", "between", "I", "2", "and", "I", ",", "i.e.", "I", "1", "I", "I", "2", "-LRB-", "I", ",", "I", "1", "-RRB-", "-LRB-", "I", ",", "I", "2", "-RRB-", ".", "418", "Definition", "5", "-LRB-", "Database", "repair", "-RRB-", ".", "For", "a", "given", "instance", "I", "and", "set", "of", "integrity", "constraints", "C", ",", "I", "is", "a", "repair", "of", "I", "w.r.t.", "C", "if", "I", "is", "the", "closest", "instance", "to", "I", ",", "which", "is", "consistent", "with", "C", ",", "i.e.", "I", "|", "=", "C", "and", "I", "is", "I", "-", "minimal", "among", "the", "instances", "that", "satisfy", "C.", "By", "Rep", "C", "-LRB-", "I", "-RRB-", "we", "denote", "the", "set", "of", "all", "repairs", "of", "I", "with", "respect", "to", "C", ".", "The", "following", "fact", "captures", "an", "important", "property", "of", "repairs", "of", "denial", "constraints", ":", "each", "repair", "is", "a", "maximal", "consistent", "subset", "of", "the", "database", ".", "Fact", "1", ".", "If", "C", "consists", "only", "of", "denial", "constraints", ",", "then", ":", "I", "Rep", "C", "-LRB-", "I", "-RRB-", "-LRB-", "I", "-RRB-", "-LRB-", "I", "-RRB-", ".", "Definition", "6", "-LRB-", "Core", "instance", "-RRB-", ".", "For", "a", "given", "instance", "I", ",", "its", "core", "w.r.t", "a", "set", "of", "integrity", "constraints", "C", "is", "an", "instance", "Core", "I", "C", "such", "that", ":", "Core", "I", "C", "-LRB-", "R", "-RRB-", "=", "I", "Rep", "C", "-LRB-", "I", "-RRB-", "I", "-LRB-", "R", "-RRB-", ".", "For", "any", "relation", "R", "and", "set", "of", "integrity", "constraints", "C", ",", "if", "there", "exists", "a", "relational", "algebra", "expression", "R", "C", "such", "that", "that", "for", "any", "instance", "I", ":", "QA", "R", "C", "-LRB-", "I", "-RRB-", "=", "Core", "I", "C", "-LRB-", "R", "-RRB-", ",", "we", "call", "R", "C", "a", "core", "expression", "of", "the", "relation", "R", "w.r.t", "the", "set", "of", "integrity", "constraints", "C.", "Fact", "2", ".", "If", "C", "is", "a", "set", "of", "denial", "integrity", "constraints", ",", "then", "for", "any", "R", "S", "there", "exists", "a", "core", "expression", "R", "C", "of", "R", "w.r.t", "C.", "Example", "4", ".", "Suppose", "we", "have", "a", "table", "P", "-LRB-", "A", ",", "B", "-RRB-", "with", "a", "functional", "dependency", "A", "B", ".", "The", "core", "expression", "for", "P", "in", "SQL", "is", ":", "SELECT", "*", "FROM", "P", "P1", "WHERE", "NOT", "EXISTS", "-LRB-", "SELECT", "*", "FROM", "P", "P2", "WHERE", "P1.A", "=", "P2.A", "AND", "P1.B", "<", ">", "P2.B", "-RRB-", ";", "Having", "defined", "repairs", ",", "we", "can", "define", "consistent", "answers", "to", "queries", ".", "In", "general", ",", "the", "intuition", "is", "that", "the", "consistent", "query", "answer", "is", "an", "answer", "to", "the", "query", "in", "every", "repair", ".", "In", "this", "paper", "we", "consider", "consistent", "answers", "for", "two", "classes", "of", "queries", ".", "Definition", "7", "-LRB-", "CQA", "for", "ground", "queries", "-RRB-", ".", "Given", "a", "database", "instance", "I", "and", "a", "set", "of", "denial", "integrity", "constraints", "C", ",", "we", "say", "that", "true", "-LRB-", "resp", ".", "false", "-RRB-", "is", "the", "consistent", "answer", "to", "a", "ground", "query", "w.r.t.", "C", "in", "I", ",", "and", "we", "write", "I", "|", "=", "C", ",", "if", "in", "every", "repair", "I", "Rep", "C", "-LRB-", "I", "-RRB-", ",", "I", "|", "=", "-LRB-", "resp", ".", "I", "|", "=", "-RRB-", ".", "Definition", "8", "-LRB-", "CQA", "for", "relational", "algebra", "-RRB-", ".", "Given", "a", "database", "instance", "I", "and", "a", "set", "of", "denial", "integrity", "constraints", "C", ",", "the", "set", "of", "consistent", "answers", "to", "a", "query", "E", "w.r.t.", "C", "in", "I", "is", "defined", "as", "follows", ":", "CQA", "E", "C", "-LRB-", "I", "-RRB-", "=", "I", "Rep", "C", "-LRB-", "I", "-RRB-", "QA", "E", "-LRB-", "I", "-RRB-", ".", "2.3", "Conflict", "hypergraphs", "The", "conflict", "hypergraph", "-LSB-", "13", "-RSB-", "constitutes", "a", "compact", ",", "space-efficient", "representation", "of", "all", "repairs", "of", "a", "given", "database", "instance", ".", "Note", "that", "this", "representation", "is", "specifically", "geared", "toward", "denial", "constraints", ".", "Definition", "9", "-LRB-", "Conflict", "-RRB-", ".", "For", "a", "given", "integrity", "constraint", "c", "of", "form", "-LRB-", "1", "-RRB-", ",", "a", "set", "of", "facts", "-LCB-", "R", "i", "1", "-LRB-", "t", "1", "-RRB-", ",", "...", ",", "R", "i", "k", "-LRB-", "t", "k", "-RRB-", "-RCB-", ",", "where", "t", "j", "I", "-LRB-", "R", "i", "j", "-RRB-", ",", "is", "a", "conflict", "in", "a", "database", "instance", "I", "if", "-LRB-", "t", "1", ",", "...", ",", "t", "k", "-RRB-", ".", "By", "E", "c", ",", "I", "we", "denote", "the", "set", "of", "all", "conflicts", "generated", "by", "the", "integrity", "constraint", "c", "in", "I.", "Definition", "10", "-LRB-", "Conflict", "hypergraph", "-RRB-", ".", "For", "a", "given", "set", "of", "integrity", "constraints", "C", "and", "a", "database", "instance", "I", ",", "a", "conflict", "hypergraph", "G", "C", ",", "I", "is", "a", "hypergraph", "with", "the", "set", "of", "vertices", "being", "the", "set", "of", "facts", "from", "the", "instance", "I", ",", "and", "the", "set", "of", "hyperedges", "consisting", "of", "all", "conflicts", "generated", "by", "constraints", "from", "C", "in", "I", ",", "i.e.", "G", "C", ",", "I", "=", "-LRB-", "V", "I", ",", "E", "C", ",", "I", "-RRB-", ",", "where", "V", "I", "=", "-LRB-", "I", "-RRB-", ",", "and", "E", "C", ",", "I", "=", "cC", "E", "c", ",", "I", ".", "Definition", "11", "-LRB-", "Maximal", "independent", "set", "-RRB-", ".", "For", "a", "hypergraph", "G", "=", "-LRB-", "V", ",", "E", "-RRB-", ",", "the", "set", "of", "vertices", "is", "a", "maximal", "independent", "set", "if", "it", "is", "a", "maximal", "set", "that", "contains", "no", "hyperedge", "from", "E.", "Fact", "3", ".", "Let", "I", "be", "a", "database", "instance", ",", "and", "C", "a", "set", "of", "denial", "constraints", ",", "then", "for", "any", "repair", "I", "Rep", "C", "-LRB-", "I", "-RRB-", ",", "-LRB-", "I", "-RRB-", "is", "a", "maximal", "independent", "set", "M", "in", "G", "C", ",", "I", ",", "and", "vice", "versa", ".", "As", "shown", "in", "the", "following", "example", "in", "case", "of", "denial", "constraints", "the", "set", "of", "conflicts", "can", "be", "defined", "using", "a", "simple", "query", ".", "Example", "5", ".", "Suppose", "we", "have", "a", "table", "P", "-LRB-", "A", ",", "B", "-RRB-", "with", "a", "functional", "dependency", "A", "B", ".", "The", "SQL", "expression", "for", "selecting", "all", "conflicts", "from", "P", "generated", "by", "the", "functional", "constraint", "is", ":", "SELECT", "*", "FROM", "P", "P1", ",", "P", "P2", "WHERE", "P1.A", "=", "P2.A", "AND", "P1.B", "<", ">", "P2.B", ";", "Definition", "12", "-LRB-", "Data", "complexity", "-RRB-", ".", "The", "data", "complexity", "of", "consistent", "answers", "to", "ground", "first-order", "queries", "is", "the", "complexity", "of", "determining", "the", "membership", "in", "the", "set", "D", "C", ",", "=", "-LCB-", "I", "|", "I", "|", "=", "C", "-RCB-", ",", "where", "is", "a", "fixed", "ground", "first-order", "query", ",", "and", "C", "is", "a", "fixed", "finite", "set", "of", "integrity", "constraints", ".", "We", "note", "that", "for", "a", "fixed", "set", "of", "integrity", "constraints", ",", "the", "conflict", "hypergraph", "is", "of", "polynomial", "size", "-LRB-", "in", "the", "number", "of", "tuples", "in", "the", "database", "instance", "-RRB-", ".", "We", "review", "here", "the", "algorithm", "-LSB-", "13", "-RSB-", "for", "checking", "the", "consistency", "of", "ground", "queries", "in", "the", "presence", "of", "denial", "constraints", ",", "and", "then", "show", "how", "to", "use", "it", "to", "answer", "-", "free", "queries", "relational", "algebra", "queries", ",", "which", "which", "correspond", "to", "open", "quantifier-free", "relational", "calculus", "queries", ".", "We", "assume", "here", "that", "we", "work", "with", "a", "set", "of", "integrity", "constraints", "consisting", "only", "of", "denial", "constraints", ".", "The", "input", "to", "the", "algorithm", "consists", "of", "a", "ground", "quantifier-free", "formula", ",", "a", "set", "of", "integrity", "constraints", "C", ",", "and", "a", "database", "instance", "I", ".", "We", "want", "the", "algorithm", "to", "answer", "the", "question", "whether", "I", "|", "=", "C", ".", "Theorem", "1", ".", "-LSB-", "13", "-RSB-", "The", "data", "complexity", "of", "consistent", "answers", "to", "quantifier-free", "ground", "queries", "w.r.t", "a", "set", "of", "denial", "constraints", "is", "in", "P", ".", "419", "The", "proof", "of", "this", "theorem", "can", "be", "found", "in", "-LSB-", "13", "-RSB-", "together", "with", "the", "corresponding", "algorithm", "that", "we", "call", "HProver", ".", "This", "algorithm", "takes", "the", "query", "in", "CNF", ",", "and", "a", "conflict", "hypergraph", "G", "C", ",", "I", "that", "corresponds", "to", "the", "database", "instance", "I", "in", "the", "presence", "of", "integrity", "constraints", "C", ".", "The", "first", "step", "of", "Input", ":", "=", "1", "...", "k", "ground", "input", "formula", "in", "CNF", ",", "G", "C", ",", "I", "=", "-LRB-", "V", "I", ",", "E", "C", ",", "I", "-RRB-", "conflict", "hypergraph", "of", "I", "w.r.t.", "C.", "1", "for", "i", "-LCB-", "1", ",", "...", ",", "k", "-RCB-", "do", "2", "let", "i", "R", "i", "1", "-LRB-", "t", "1", "-RRB-", "...", "R", "i", "p", "-LRB-", "t", "p", "-RRB-", "R", "i", "p", "+1", "-LRB-", "t", "p", "+1", "-RRB-", "...", "R", "i", "m", "-LRB-", "t", "m", "-RRB-", ".", "3", "for", "j", "-LCB-", "p", "+", "1", ",", "...", ",", "m", "-RCB-", "do", "4", "if", "t", "j", "I", "-LRB-", "R", "i", "j", "-RRB-", "then", "5", "next", "i", ";", "6", "B", "-LCB-", "R", "i", "p", "+1", "-LRB-", "t", "p", "+1", "-RRB-", ",", "...", ",", "R", "i", "m", "-LRB-", "t", "m", "-RRB-", "-RCB-", "7", "for", "j", "-LCB-", "1", ",", "...", ",", "p", "-RCB-", "do", "8", "if", "t", "j", "I", "-LRB-", "R", "i", "j", "-RRB-", "then", "9", "choose", "e", "j", "-LCB-", "e", "E", "C", ",", "I", "|", "R", "i", "j", "-LRB-", "t", "j", "-RRB-", "e", "-RCB-", "nondeterm", ".", "10", "B", "B", "-LRB-", "e", "j", "\\", "-LCB-", "R", "i", "j", "-LRB-", "t", "j", "-RRB-", "-RCB-", "-RRB-", ".", "11", "if", "B", "is", "independent", "in", "G", "C", ",", "I", "then", "12", "return", "false", ";", "13", "return", "true", ";", "Figure", "1", ":", "Algorithm", "HProver", "the", "algorithm", "reduces", "the", "task", "of", "determining", "whether", "true", "is", "the", "consistent", "answer", "to", "the", "query", "to", "answering", "the", "same", "question", "for", "every", "conjunct", "i", ".", "Then", "each", "formula", "i", "is", "negated", "and", "the", "rest", "of", "the", "algorithm", "attempts", "to", "find", "a", "repair", "I", "in", "which", "i", "is", "true", ",", "i.e.", ",", "in", "which", "1", ".", "t", "j", "I", "-LRB-", "R", "i", "j", "-RRB-", "for", "-LRB-", "j", "=", "p", "+", "1", ",", "...", ",", "m", "-RRB-", "2", ".", "t", "j", "I", "-LRB-", "R", "i", "j", "-RRB-", "for", "-LRB-", "j", "=", "1", ",", "...", ",", "p", "-RRB-", "Such", "a", "repair", "corresponds", "to", "a", "maximal", "independent", "set", "M", "in", "the", "conflict", "hypergraph", "such", "that", ":", "1", ".", "every", "of", "R", "i", "p", "+1", "-LRB-", "t", "p", "+1", "-RRB-", ",", "...", ",", "R", "i", "m", "-LRB-", "t", "m", "-RRB-", "is", "an", "element", "of", "M", ",", "2", ".", "none", "of", "R", "i", "1", "-LRB-", "t", "1", "-RRB-", ",", "...", ",", "R", "i", "p", "-LRB-", "t", "p", "-RRB-", "is", "an", "element", "of", "M", ".", "If", "the", "algorithm", "succeeds", "in", "building", "an", "independent", "set", "satisfying", "the", "properties", "1", "and", "2", ",", "such", "a", "set", "can", "be", "extended", "to", "a", "maximal", "one", "which", "also", "satisfies", "those", "properties", ".", "That", "means", "that", "there", "is", "a", "repair", "in", "which", "i", ",", "and", "thus", "also", ",", "is", "true", ".", "If", "the", "algorithm", "does", "not", "succeed", "for", "any", "i", ",", "i", "=", "1", ",", "...", ",", "k", ",", "then", "true", "is", "the", "consistent", "answer", "to", ".", "The", "condition", "1", "is", "satisfied", "by", "simply", "including", "the", "appropriate", "facts", "in", "M", ".", "The", "condition", "2", "is", "satisfied", "by", "excluding", "the", "appropriate", "facts", "from", "M", ".", "A", "fact", "can", "be", "excluded", "if", "it", "is", "not", "in", "-LRB-", "I", "-RRB-", "or", "if", "it", "belongs", "to", "a", "hyperedge", "whose", "remaining", "elements", "are", "already", "in", "M", ".", "3.2", "Finding", "an", "envelope", "Any", "relational", "algebra", "expression", "E", "can", "be", "translated", "to", "a", "corresponding", "first-order", "formula", "E", "-LRB-", "x", "-RRB-", "in", "a", "standard", "way", ".", "Since", "we", "consider", "only", "-", "free", "algebra", "expressions", ",", "the", "formula", "E", "-LRB-", "x", "-RRB-", "is", "quantifier-free", ".", "To", "be", "able", "to", "use", "HProver", ",", "we", "have", "to", "ground", "this", "formula", ",", "i.e.", ",", "find", "an", "appropriate", "set", "of", "bindings", "for", "the", "variables", "in", "the", "formula", ".", "This", "will", "be", "done", "by", "evaluating", "an", "envelope", "query", "over", "the", "database", ".", "An", "envelope", "query", "should", "satisfy", "two", "properties", ":", "-LRB-", "1", "-RRB-", "it", "should", "return", "a", "superset", "of", "the", "set", "of", "consistent", "query", "answers", "for", "every", "database", "instance", ",", "and", "-LRB-", "2", "-RRB-", "it", "should", "be", "easily", "constructible", "from", "the", "original", "query", ".", "The", "result", "of", "evaluating", "an", "envelope", "query", "over", "a", "given", "database", "will", "be", "called", "an", "envelope", ".", "Suppose", "K", "E", "is", "an", "envelope", "query", "for", "a", "query", "E", ".", "We", "have", "that", "CQA", "E", "C", "-LRB-", "I", "-RRB-", "=", "-LCB-", "t", "QA", "K", "E", "-LRB-", "I", "-RRB-", "|", "I", "|", "=", "C", "E", "-LRB-", "t", "-RRB-", "-RCB-", ".", "If", "an", "expression", "E", "does", "not", "use", "the", "difference", "operator", "-LRB-", "and", "thus", "is", "a", "monotonic", "expression", "-RRB-", ",", "E", "itself", "is", "an", "envelope", "query", ",", "as", "stated", "by", "the", "following", "lemma", ":", "Lemma", "1", ".", "For", "any", "monotonic", "relational", "expression", "E", ",", "the", "following", "holds", ":", "CQA", "E", "C", "-LRB-", "I", "-RRB-", "QA", "E", "-LRB-", "I", "-RRB-", ".", "However", "when", "E", "is", "not", "monotonic", ",", "then", "the", "set", "of", "consistent", "query", "answers", "may", "contain", "tuples", "not", "contained", "in", "QA", "E", "-LRB-", "I", "-RRB-", ".", "That", "kind", "of", "a", "situation", "is", "shown", "in", "the", "example", "below", ".", "Example", "6", ".", "Suppose", "we", "have", "two", "relations", "R", "-LRB-", "A", ",", "B", "-RRB-", "and", "S", "-LRB-", "A", ",", "B", ",", "C", ",", "D", "-RRB-", ",", "and", "we", "have", "functional", "dependency", "over", "R", ":", "A", "B", ".", "In", "case", "when", "I", "-LRB-", "R", "-RRB-", "=", "-LCB-", "-LRB-", "1", ",", "2", "-RRB-", ",", "-LRB-", "1", ",", "3", "-RRB-", "-RCB-", ",", "and", "I", "-LRB-", "S", "-RRB-", "=", "-LCB-", "-LRB-", "1", ",", "2", ",", "1", ",", "3", "-RRB-", "-RCB-", ",", "the", "set", "of", "answers", "to", "the", "query", "E", "=", "S", "\\", "-LRB-", "R", "-LRB-", "A", "1", ",", "B", "1", "-RRB-", "B", "1", "=", "B", "2", "R", "-LRB-", "A", "2", ",", "B", "2", "-RRB-", "-RRB-", "is", ",", "while", "the", "set", "of", "consistent", "query", "answers", "is", "-LCB-", "-LRB-", "1", ",", "2", ",", "1", ",", "3", "-RRB-", "-RCB-", ".", "To", "obtain", "the", "expression", "for", "an", "envelope", ",", "we", "define", "two", "operators", "F", "and", "G", "by", "mutual", "recursion", ".", "The", "operator", "F", "defines", "the", "envelope", "by", "overestimating", "the", "set", "of", "consistent", "answers", ".", "The", "auxiliary", "operator", "G", "underestimates", "the", "set", "of", "consistent", "answers", ".", "Definition", "13", ".", "We", "define", "the", "operators", "F", "and", "G", "recursively", ":", "F", "-LRB-", "R", "-RRB-", "=", "R", ",", "F", "-LRB-", "E", "1", "E", "2", "-RRB-", "=", "F", "-LRB-", "E", "1", "-RRB-", "F", "-LRB-", "E", "2", "-RRB-", ",", "F", "-LRB-", "E", "1", "\\", "E", "2", "-RRB-", "=", "F", "-LRB-", "E", "1", "-RRB-", "\\", "G", "-LRB-", "E", "2", "-RRB-", ",", "F", "-LRB-", "E", "1", "E", "2", "-RRB-", "=", "F", "-LRB-", "E", "1", "-RRB-", "F", "-LRB-", "E", "2", "-RRB-", ",", "F", "-LRB-", "-LRB-", "E", "-RRB-", "-RRB-", "=", "-LRB-", "F", "-LRB-", "E", "-RRB-", "-RRB-", ",", "G", "-LRB-", "R", "-RRB-", "=", "R", "C", ",", "G", "-LRB-", "E", "1", "E", "2", "-RRB-", "=", "G", "-LRB-", "E", "1", "-RRB-", "G", "-LRB-", "E", "2", "-RRB-", ",", "G", "-LRB-", "E", "1", "\\", "E", "2", "-RRB-", "=", "G", "-LRB-", "E", "1", "-RRB-", "\\", "F", "-LRB-", "E", "2", "-RRB-", ",", "G", "-LRB-", "E", "1", "E", "2", "-RRB-", "=", "G", "-LRB-", "E", "1", "-RRB-", "G", "-LRB-", "E", "2", "-RRB-", ",", "G", "-LRB-", "-LRB-", "E", "-RRB-", "-RRB-", "=", "-LRB-", "G", "-LRB-", "E", "-RRB-", "-RRB-", ".", "Because", "C", "consist", "only", "of", "denial", "constraints", ",", "Fact", "2", "guarantees", "that", "the", "expression", "R", "C", "exists", ",", "and", "therefore", "the", "operators", "are", "well", "defined", ".", "The", "pair", "of", "operators", "-LRB-", "F", ",", "G", "-RRB-", "has", "the", "following", "properties", ":", "Lemma", "2", ".", "For", "any", "-", "free", "relational", "algebra", "expression", "E", ":", "QA", "G", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", "QA", "E", "-LRB-", "I", "-RRB-", "QA", "F", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", ",", "and", "CQA", "G", "-LRB-", "E", "-RRB-", "C", "-LRB-", "I", "-RRB-", "CQA", "E", "C", "-LRB-", "I", "-RRB-", "CQA", "F", "-LRB-", "E", "-RRB-", "C", "-LRB-", "I", "-RRB-", ".", "Lemma", "3", ".", "For", "any", "-", "free", "relational", "algebra", "expression", "E", ":", "I", "Rep", "C", "-LRB-", "I", "-RRB-", ".", "QA", "G", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", "QA", "E", "-LRB-", "I", "-RRB-", "QA", "F", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", "With", "those", "two", "lemmas", "we", "can", "prove", "the", "following", "theorem", ".", "Theorem", "2", ".", "If", "C", "contains", "only", "denial", "constraints", ",", "then", "for", "any", "-", "free", "relational", "algebra", "expression", "E", "the", "following", "holds", "for", "every", "database", "instance", "I", ":", "QA", "G", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", "CQA", "E", "C", "-LRB-", "I", "-RRB-", "QA", "F", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", ".", "420", "3.3", "The", "system", "Hippo", "We", "have", "implemented", "a", "system", "called", "Hippo", "for", "finding", "consistent", "answers", "to", "-", "free", "relational", "algebra", "queries", ".", "The", "data", "is", "stored", "in", "an", "RDBMS", "-LRB-", "in", "our", "case", ",", "PostgreSQL", "-RRB-", ".", "The", "flow", "of", "data", "in", "Hippo", "is", "shown", "in", "Figure", "2", ".", "The", "only", "E", ":", ",", ",", "\\", ",", "Estimating", "F", "-LRB-", "E", "-RRB-", ":", ",", ",", ",", "\\", "Evaluation", "Conflict", "Detection", "DB", "Translation", "E", ":", ",", ",", "Envelope", "Conflict", "Hypergraph", "Grounding", "HProver", "Answer", "Set", "IC", "Figure", "2", ":", "Data", "flow", "in", "Hippo", "output", "of", "this", "system", "is", "the", "Answer", "Set", "consisting", "of", "the", "consistent", "answers", "to", "the", "input", "query", "E", "with", "respect", "to", "a", "set", "of", "integrity", "constraints", "IC", "in", "the", "database", "instance", "DB", ".", "Before", "processing", "any", "input", "query", ",", "the", "system", "performs", "Conflict", "Detection", ",", "and", "creates", "the", "Conflict", "Hypergraph", ".", "We", "assume", "that", "the", "number", "of", "conflicts", "is", "small", "enough", "to", "allow", "us", "to", "store", "the", "hypergraph", "in", "main", "memory", ".", "We", "keep", "in", "main", "memory", "only", "the", "set", "of", "hyperedges", "corresponding", "to", "conflicts", "in", "database", ".", "The", "set", "of", "all", "the", "vertices", "represents", "the", "entire", "contents", "of", "the", "database", "and", "thus", "may", "be", "too", "big", "to", "fit", "in", "main", "memory", ".", "In", "this", "way", ",", "we", "guarantee", "that", "our", "approach", "is", "scalable", ".", "The", "processing", "of", "a", "query", "E", "consists", "of", "Estimating", "it", "to", "an", "envelope", "query", "F", "-LRB-", "E", "-RRB-", "that", "after", "Evaluation", "b", "y", "an", "RDBMS", "gives", "us", "the", "Envelope", ".", "Also", ",", "the", "system", "performs", "Translation", "of", "the", "input", "query", "E", "to", "a", "corresponding", "first-order", "logic", "formula", "E", ".", "Now", ",", "for", "every", "tuple", "from", "the", "Envelope", "we", "perform", "Grounding", "of", "E", ".", "Having", "now", "a", "first-order", "ground", "query", "we", "can", "check", "if", "true", "is", "the", "consistent", "answer", "to", "this", "query", "using", "HProver", ".", "Depending", "on", "the", "result", "of", "this", "check", "we", "return", "the", "tuple", "or", "not", ".", "It", "'s", "important", "to", "notice", "here", "that", "because", "the", "hypergraph", "is", "stored", "in", "main", "memory", ",", "HProver", "does", "n't", "need", "any", "immediate", "knowledge", "of", "the", "integrity", "constraints", "-LRB-", "no", "arrow", "from", "IC", "to", "HProver", "-RRB-", ".", "This", "is", "because", "in", "HProver", "the", "independence", "of", "constructed", "sets", "B", "is", "being", "checked", "only", "for", "sets", "of", "vertices", "that", "are", "contained", "in", "the", "database", ",", "and", "if", "such", "vertices", "are", "in", "any", "conflict", ",", "it", "is", "registered", "in", "the", "hypergraph", ".", "HProver", "makes", ",", "however", ",", "database", "accesses", "to", "check", "tuple", "membership", "in", "database", "relations", ".", "The", "previous", "section", "showed", "how", "to", "build", "a", "system", "for", "computing", "consistent", "query", "answers", ".", "But", "even", "though", "we", "have", "decided", "to", "store", "the", "conflict", "hypergraph", "in", "main", "memory", ",", "we", "still", "have", "to", "perform", "tuple", "membership", "checks", "-LRB-", "steps", "4", "and", "8", "in", "the", "HProver", "algorithm", "-RRB-", ".", "To", "check", "if", "a", "tuple", "is", "present", "in", "a", "given", "table", ",", "we", "execute", "a", "simple", "membership", "query", ".", "For", "every", "tuple", "from", "the", "envelope", "we", "have", "to", "perform", "several", "tuple", "checks", "-LRB-", "depending", "on", "the", "complexity", "of", "the", "query", "-RRB-", ".", "Executing", "any", "query", "is", "usually", "a", "costly", "operation", "in", "the", "database", "context", ".", "Therefore", "tuple", "membership", "checks", "are", "a", "significant", "factor", "in", "the", "algorithm", "execution", "time", ".", "In", "this", "section", "we", "address", "the", "problem", "of", "eliminating", "tuple", "membership", "checks", ".", "We", "propose", "two", "improvements", ":", "1", ".", "The", "first", "infers", "information", "about", "the", "tuples", "present", "in", "the", "database", "from", "the", "current", "envelope", "tuple", ".", "That", "makes", "it", "possible", "to", "answer", "some", "tuple", "checks", "without", "interrogating", "the", "database", ".", "2", ".", "The", "second", "supplements", "the", "first", "by", "extending", "the", "envelope", "expression", "so", "that", "we", "can", "find", "the", "results", "of", "all", "relevant", "tuple", "checks", "without", "executing", "any", "membership", "query", ".", "4.1", "Knowledge", "gathering", "In", "this", "section", "we", "address", "the", "problem", "of", "answering", "tuple", "checks", ".", "Definition", "14", "-LRB-", "Relevant", "facts", "-RRB-", ".", "For", "a", "given", "-", "free", "expression", "E", "and", "a", "tuple", "t", "compatible", "with", "E", ",", "the", "set", "TC", "-LRB-", "E", ",", "t", "-RRB-", "of", "relevant", "facts", "is", "defined", "recursively", ":", "TC", "-LRB-", "R", ",", "t", "-RRB-", "=", "-LCB-", "R", "-LRB-", "t", "-RRB-", "-RCB-", ",", "TC", "-LRB-", "E", "1", "E", "2", ",", "t", "-RRB-", "=", "TC", "-LRB-", "E", "1", ",", "t", "-RRB-", "TC", "-LRB-", "E", "2", ",", "t", "-RRB-", ",", "TC", "-LRB-", "E", "1", "\\", "E", "2", ",", "t", "-RRB-", "=", "TC", "-LRB-", "E", "1", ",", "t", "-RRB-", "TC", "-LRB-", "E", "2", ",", "t", "-RRB-", ",", "TC", "-LRB-", "E", "1", "E", "2", ",", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", "-RRB-", "=", "TC", "-LRB-", "E", "1", ",", "t", "1", "-RRB-", "TC", "-LRB-", "E", "2", ",", "t", "2", "-RRB-", ",", "TC", "-LRB-", "-LRB-", "E", "-RRB-", ",", "t", "-RRB-", "=", "TC", "-LRB-", "E", ",", "t", "-RRB-", ".", "The", "set", "of", "facts", "TC", "-LRB-", "E", ",", "t", "-RRB-", "consists", "of", "all", "facts", "that", "HProver", "may", "need", "when", "working", "with", "the", "query", "E", "-LRB-", "t", "-RRB-", "-LRB-", "we", "conjecture", "that", "the", "same", "set", "of", "facts", "will", "be", "needed", "by", "any", "practical", "checker", "of", "consistent", "query", "answers", "for", "quantifier-free", "queries", "-RRB-", ".", "In", "the", "following", "example", "we", "show", "that", "the", "tuple", "t", "itself", "may", "carry", "information", "that", "can", "be", "used", "to", "derive", "some", "relevant", "facts", ".", "Example", "7", ".", "Recall", "that", "relation", "attributes", "are", "named", "by", "natural", "numbers", ".", "Assume", "that", "we", "have", "two", "tables", "R", "-LRB-", "1", ",", "2", "-RRB-", ",", "P", "-LRB-", "1", ",", "2", "-RRB-", "and", "a", "query", "E", "=", "F", "-LRB-", "E", "-RRB-", "=", "1", "=", "a", "-LRB-", "R", "-LRB-", "RP", "-RRB-", "-RRB-", ".", "Suppose", "that", "a", "tuple", "t", "=", "-LRB-", "a", ",", "b", ",", "c", ",", "d", "-RRB-", "is", "the", "only", "result", "of", "the", "evaluation", "of", "F", "-LRB-", "E", "-RRB-", "in", "a", "database", "instance", "I", ".", "The", "set", "of", "relevant", "facts", "is", "TC", "-LRB-", "E", ",", "t", "-RRB-", "=", "-LCB-", "R", "-LRB-", "a", ",", "b", "-RRB-", ",", "R", "-LRB-", "c", ",", "d", "-RRB-", ",", "P", "-LRB-", "c", ",", "d", "-RRB-", "-RCB-", ".", "A", "natural", "consequence", "of", "the", "semantics", "of", "relational", "algebra", "expressions", "is", "that", "t", "QA", "1", "=", "a", "-LRB-", "R", "-LRB-", "RP", "-RRB-", "-RRB-", "-LRB-", "I", "-RRB-", "implies", "-LRB-", "a", ",", "b", "-RRB-", "I", "-LRB-", "R", "-RRB-", ".", "We", "can", "use", "this", "information", "to", "avoid", "performing", "some", "membership", "queries", ".", "At", "the", "same", "time", "the", "tuple", "t", "itself", "does", "n't", "carry", "enough", "information", "to", "decide", "whether", "-LRB-", "c", ",", "d", "-RRB-", "belongs", "to", "either", "I", "-LRB-", "R", "-RRB-", ",", "I", "-LRB-", "P", "-RRB-", ",", "or", "both", "of", "them", ".", "We", "call", "the", "process", "of", "inferring", "the", "information", "from", "result", "of", "the", "evaluation", "of", "a", "query", "knowledge", "gathering", ".", "Formally", ",", "we", "define", "the", "set", "of", "derived", "facts", "in", "the", "following", "way", ":", "Definition", "15", "-LRB-", "Knowledge", "gathering", "-RRB-", ".", "For", "a", "given", "-", "free", "expression", "E", "and", "a", "tuple", "t", "compatible", "with", "E", "421", "we", "define", "the", "set", "KG", "recursively", ":", "KG", "-LRB-", "R", ",", "t", "-RRB-", "=", "-LCB-", "R", "-LRB-", "t", "-RRB-", "-RCB-", ",", "KG", "-LRB-", "E", "1", "E", "2", ",", "t", "-RRB-", "=", "KG", "-LRB-", "E", "1", ",", "t", "-RRB-", "KG", "-LRB-", "E", "2", ",", "t", "-RRB-", ",", "KG", "-LRB-", "E", "1", "\\", "E", "2", ",", "t", "-RRB-", "=", "KG", "-LRB-", "E", "1", ",", "t", "-RRB-", ",", "KG", "-LRB-", "-LRB-", "E", "-RRB-", ",", "t", "-RRB-", "=", "KG", "-LRB-", "E", ",", "t", "-RRB-", ",", "KG", "-LRB-", "E", "1", "E", "2", ",", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", "-RRB-", "=", "KG", "-LRB-", "E", "1", ",", "t", "1", "-RRB-", "KG", "-LRB-", "E", "2", ",", "t", "2", "-RRB-", ".", "We", "note", "here", "that", "the", "cardinality", "of", "the", "set", "of", "facts", "inferred", "with", "KG", "is", "linear", "in", "the", "size", "of", "the", "query", "and", "does", "n't", "depend", "on", "the", "value", "of", "the", "tuple", "t", ".", "Now", "we", "state", "the", "main", "property", "of", "KG", ".", "Theorem", "3", "-LRB-", "Soundness", "of", "KG", "-RRB-", ".", "Given", "a", "database", "instance", "I", "and", "a", "-", "free", "expression", "E", "t", "QA", "F", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", ".", "R", "-LRB-", "t", "-RRB-", "TC", "-LRB-", "E", ",", "t", "-RRB-", ".", "R", "-LRB-", "t", "-RRB-", "KG", "-LRB-", "E", ",", "t", "-RRB-", "I", "|", "=", "R", "-LRB-", "t", "-RRB-", ".", "Knowledge", "gathering", "is", "also", "complete", "in", "the", "case", "of", "-LCB-", ",", "-RCB-", "-", "expressions", ",", "i.e.", "it", "derives", "all", "relevant", "facts", "that", "hold", "in", "the", "database", "I.", "Theorem", "4", "-LRB-", "Completeness", "of", "KG", "for", "-LCB-", ",", "-RCB-", "-RRB-", ".", "Given", "a", "database", "I", "and", "any", "-LCB-", ",", "-RCB-", "-", "query", "E.", "t", "QA", "F", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", ".", "R", "-LRB-", "t", "-RRB-", "TC", "-LRB-", "E", ",", "t", "-RRB-", ".", "I", "|", "=", "R", "-LRB-", "t", "-RRB-", "R", "-LRB-", "t", "-RRB-", "KG", "-LRB-", "E", ",", "t", "-RRB-", ".", "4.2", "Extended", "knowledge", "gathering", "In", "general", ",", "when", "the", "expression", "translates", "to", "a", "disjunctive", "query", "we", "need", "to", "extend", "the", "query", "so", "that", "the", "resulting", "tuple", "carries", "some", "additional", "information", "allowing", "us", "to", "derive", "all", "relevant", "facts", ".", "The", "extended", "approach", "described", "in", "detail", "below", "is", "illustrated", "first", "by", "the", "following", "example", ".", "Example", "8", ".", "For", "the", "previously", "considered", "expression", "E", "=", "1", "=", "a", "-LRB-", "R", "-LRB-", "R", "P", "-RRB-", "-RRB-", "the", "extended", "approach", "constructs", "the", "expression", "1", "=", "a", "-LRB-", "R", "-LRB-", "R", "P", "-RRB-", "-RRB-", "3,4", "--", "R", "3,4", "--", "P", ",", "where", "is", "the", "left", "outer", "join", "operator", "1", ".", "Suppose", "now", ",", "I", "-LRB-", "R", "-RRB-", "=", "-LCB-", "-LRB-", "a", ",", "b", "-RRB-", ",", "-LRB-", "e", ",", "f", "-RRB-", "-RCB-", "and", "I", "-LRB-", "P", "-RRB-", "=", "-LCB-", "-LRB-", "c", ",", "d", "-RRB-", ",", "-LRB-", "e", ",", "f", "-RRB-", "-RCB-", ".", "Then", "the", "evaluation", "of", "the", "extended", "envelope", "expression", "yields", "the", "following", ":", "1", "=", "a", "-LRB-", "R", "-LRB-", "R", "P", "-RRB-", "-RRB-", "3,4", "--", "R", "3,4", "--", "P", "a", "b", "a", "b", "a", "b", "a", "b", "c", "d", "c", "d", "a", "b", "e", "f", "e", "f", "e", "f", "Now", ",", "consider", "the", "tuple", "-LRB-", "a", ",", "b", ",", "c", ",", "d", ",", ",", ",", "c", ",", "d", "-RRB-", ".", "We", "can", "decompose", "it", "into", "two", "parts", "-LRB-", "a", ",", "b", ",", "c", ",", "d", "-RRB-", "and", "-LRB-", ",", ",", "c", ",", "d", "-RRB-", ".", "The", "first", "part", "is", "simply", "the", "tuple", "from", "the", "envelope", "F", "-LRB-", "E", "-RRB-", ",", "and", "it", "can", "be", "used", "to", "infer", "the", "fact", "R", "-LRB-", "a", ",", "b", "-RRB-", ".", "The", "second", "part", "allows", "us", "to", "make", "two", "other", "important", "inferences", ".", "Namely", ",", "-LRB-", "c", ",", "d", "-RRB-", "I", "-LRB-", "R", "-RRB-", "and", "-LRB-", "c", ",", "d", "-RRB-", "I", "-LRB-", "P", "-RRB-", ".", "Our", "goal", "is", "to", "minimally", "extend", "the", "expression", "so", "that", "we", "can", "derive", "all", "relevant", "facts", ".", "In", "order", "to", "find", "what", "information", "is", "not", "guaranteed", "to", "be", "gathered", "from", "evaluation", "of", "the", "envelope", "expression", ",", "we", "generalize", "the", "definitions", "of", "KG", "and", "TC", "to", "non-ground", "tuples", "consisting", "of", "distinct", "variables", ".", "1", "For", "clarity", "we", "simplify", "the", "notion", "of", "the", "outer", "join", "condition", ".", "When", "writing", "S", "3,4", "--", "T", "we", "mean", "S", "S.", "3", "=", "T.", "1S", ".4", "=", "T.", "2", "-----------", "T", ",", "and", "we", "assume", "the", "left", "join", "operator", "is", "left", "associative", "Definition", "16", "-LRB-", "Complementary", "set", "-RRB-", ".", "For", "a", "given", "-", "free", "expression", "E", ",", "the", "complementary", "set", "-LRB-", "E", "-RRB-", "is", "defined", "as", "follows", ":", "-LRB-", "E", "-RRB-", "=", "TC", "-LRB-", "E", ",", "x", "-RRB-", "\\", "KG", "-LRB-", "E", ",", "x", "-RRB-", ",", "where", "x", "=", "-LRB-", "x", "1", ",", "...", ",", "x", "|", "E", "|", "-RRB-", ".", "Example", "9", ".", "Taking", "again", "under", "consideration", "the", "expression", "E", "=", "1", "=", "a", "-LRB-", "R", "-LRB-", "R", "P", "-RRB-", "-RRB-", "and", "x", "=", "-LRB-", "x", "1", ",", "...", ",", "x", "4", "-RRB-", "we", "have", ":", "TC", "-LRB-", "E", ",", "x", "-RRB-", "=", "-LCB-", "R", "-LRB-", "x", "1", ",", "x", "2", "-RRB-", ",", "P", "-LRB-", "x", "3", ",", "x", "4", "-RRB-", ",", "R", "-LRB-", "x", "3", ",", "x", "4", "-RRB-", "-RCB-", ",", "KG", "-LRB-", "E", ",", "x", "-RRB-", "=", "-LCB-", "R", "-LRB-", "x", "1", ",", "x", "2", "-RRB-", "-RCB-", ".", "R", "-LRB-", "x", "1", ",", "x", "2", "-RRB-", "TC", "-LRB-", "E", "-RRB-", "means", "that", "for", "any", "tuple", "-LRB-", "t", "1", ",", "t", "2", ",", "t", "3", ",", "t", "4", "-RRB-", "from", "the", "evaluation", "of", "the", "envelope", "expression", "for", "E", ",", "HProver", "may", "perform", "the", "tuple", "check", "R", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", ".", "We", "have", "also", "R", "-LRB-", "x", "1", ",", "x", "2", "-RRB-", "KG", "-LRB-", "E", "-RRB-", "and", "therefore", "we", "are", "able", "to", "answer", "this", "check", "using", "knowledge", "gathering", ".", "On", "the", "other", "hand", "R", "-LRB-", "x", "3", ",", "x", "4", "-RRB-", "TC", "-LRB-", "E", "-RRB-", "means", "that", "for", "HProver", "may", "perform", "a", "tuple", "check", "R", "-LRB-", "t", "3", ",", "t", "4", "-RRB-", ".", "Since", "we", "do", "n't", "have", "that", "R", "-LRB-", "x", "3", ",", "x", "4", "-RRB-", "KG", "-LRB-", "E", "-RRB-", "we", "can", "not", "guarantee", "that", "we", "can", "answer", "tuple", "checks", "R", "-LRB-", "t", "3", ",", "t", "4", "-RRB-", "without", "executing", "a", "membership", "query", "on", "the", "database", ",", "even", "though", "we", "are", "able", "to", "answer", "tuple", "checks", "R", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", ".", "The", "complementary", "set", "for", "the", "discussed", "expression", "is", ":", "-LRB-", "E", "-RRB-", "=", "-LCB-", "R", "-LRB-", "x", "3", ",", "x", "4", "-RRB-", ",", "P", "-LRB-", "x", "3", ",", "x", "4", "-RRB-", "-RCB-", ".", "Analogous", "examples", "can", "be", "used", "to", "show", "that", "the", "simple", "knowledge", "gathering", "is", "not", "sufficient", "to", "avoid", "membership", "checks", "when", "processing", "expressions", "with", "the", "difference", "operator", ".", "Next", ",", "we", "extend", "the", "envelope", "expression", "so", "that", "it", "evaluation", "provides", "us", "with", "all", "information", "sufficient", "to", "answer", "the", "tuple", "checks", ".", "Definition", "17", "-LRB-", "Extended", "envelope", "expression", "-RRB-", ".", "For", "a", "given", "-", "free", "expression", "E", "the", "extended", "envelope", "expression", "is", "defined", "as", "follows", ":", "H", "-LRB-", "E", "-RRB-", "=", "F", "-LRB-", "E", "-RRB-", "|", "R", "|", "j", "=", "1", "E.", "-LRB-", "i", "+", "j-1", "-RRB-", "=", "R.j", "---------------", "R", "-LRB-", "x", "i", ",", "...", ",", "x", "i", "+", "|", "R", "|", "-1", "-RRB-", "-LRB-", "E", "-RRB-", "R", ".", "The", "notation", "means", "that", "we", "have", "as", "many", "outer", "joins", "as", "there", "are", "elements", "in", "-LRB-", "E", "-RRB-", ".", "They", "can", "appear", "in", "any", "order", ".", "We", "also", "define", "the", "following", "auxiliary", "expression", ":", "S", "-LRB-", "E", "-RRB-", "=", "E", "R", "-LRB-", "x", "i", ",", "...", ",", "x", "i", "+", "|", "R", "|", "-1", "-RRB-", "-LRB-", "E", "-RRB-", "R.", "For", "both", "H", "-LRB-", "E", "-RRB-", "and", "S", "-LRB-", "E", "-RRB-", "the", "elements", "of", "-LRB-", "E", "-RRB-", "need", "to", "be", "considered", "in", "the", "same", "order", ".", "Using", "outer", "joins", "results", "in", "a", "natural", "one-to-one", "correspondence", "between", "the", "tuples", "from", "the", "evaluation", "of", "the", "extended", "envelope", "expression", "and", "the", "tuples", "from", "the", "original", "envelope", ".", "Fact", "4", ".", "For", "a", "given", "database", "instance", "I", "and", "-", "free", "expression", "E", ",", "the", "map", "t", "t", "-LSB-", "1", ",", "|", "E", "|", "-RSB-", "is", "a", "one-to-one", "map", "of", "QA", "H", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", "onto", "QA", "F", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", ".", "Extending", "knowledge", "gathering", "to", "null", "tuples", "KG", "-LRB-", "R", ",", "-LRB-", ",", "...", ",", "-RRB-", "-RRB-", "=", "allows", "us", "to", "state", "that", "using", "the", "extended", "envelope", "expression", "we", "can", "determine", "correctly", "all", "relevant", "facts", "without", "querying", "the", "database", ".", "422", "Theorem", "5", "-LRB-", "Soundness", ",", "completeness", "of", "ext.", ".", "KG", "-RRB-", ".", "For", "any", "database", "instance", "I", "and", "a", "-", "free", "expression", "E", "the", "following", "holds", ":", "t", "QA", "H", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", ".", "R", "-LRB-", "t", "-RRB-", "TC", "-LRB-", "E", ",", "t", "-LSB-", "1", ",", "|", "E", "|", "-RSB-", "-RRB-", ".", "R", "-LRB-", "t", "-RRB-", "KG", "-LRB-", "S", "-LRB-", "E", "-RRB-", ",", "t", "-RRB-", "I", "|", "=", "R", "-LRB-", "t", "-RRB-", ".", "We", "note", "that", "in", "the", "case", "of", "-LCB-", ",", "-RCB-", "-", "expressions", "this", "approach", "does", "n't", "unnecessarily", "extend", "the", "expression", ".", "4.3", "Other", "possibilities", "of", "optimizations", "4.3.1", "Negative", "knowledge", "gathering", "Knowledge", "gathering", "KG", "-LRB-", "as", "defined", "in", "Section", "4.1", "-RRB-", "is", "complete", "only", "for", "queries", "that", "translate", "to", "a", "conjunction", "of", "positive", "literals", ".", "However", ",", "it", "is", "possible", "to", "come", "up", "with", "a", "construction", "that", "will", "be", "complete", "for", "queries", "that", "translate", "to", "a", "conjunction", "of", "positive", "as", "well", "as", "negative", "literals", ".", "The", "following", "example", "presents", "this", "idea", ".", "Example", "10", ".", "Suppose", "we", "have", "tables", "R", "-LRB-", "1", ",", "2", "-RRB-", "and", "P", "-LRB-", "1", ",", "2", "-RRB-", "and", "a", "set", "of", "constraints", "C.", "For", "the", "query", "E", "=", "R", "\\", "P", ",", "we", "have", "F", "-LRB-", "E", "-RRB-", "=", "R", "\\", "P", "C", ".", "Take", "any", "tuple", "t", "QA", "F", "-LRB-", "E", "-RRB-", "-LRB-", "I", "-RRB-", "for", "some", "instance", "I", ".", "We", "can", "easily", "conclude", "that", "t", "I", "-LRB-", "R", "-RRB-", ".", "Also", ",", "we", "can", "say", "that", "t", "QA", "P", "C", "-LRB-", "I", "-RRB-", ".", "Having", "this", "and", "hypergraph", "G", "C", ",", "I", "=", "-LRB-", "V", "I", ",", "E", "C", ",", "I", "-RRB-", "we", "can", "easily", "find", "if", "t", "I", "-LRB-", "P", "-RRB-", ".", "Namely", ",", "if", "there", "exists", "an", "edge", "e", "E", "C", ",", "I", "that", "P", "-LRB-", "t", "-RRB-", "e", ",", "then", "t", "I", "-LRB-", "P", "-RRB-", ".", "And", "if", "the", "vertex", "P", "-LRB-", "t", "-RRB-", "is", "not", "involved", "in", "any", "conflict", "in", "E", "then", "t", "I", "-LRB-", "P", "-RRB-", ".", "Reasoning", "of", "that", "sort", "can", "not", "be", "applied", "to", "a", "query", "E", "=", "R", "R", "\\", "P", "P", ".", "Given", "a", "tuple", "t", "=", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", "from", "the", "envelope", "we", "know", "that", "t", "1", ",", "t", "2", "R", ",", "but", "the", "fact", "-LRB-", "t", "1", ",", "t", "2", "-RRB-", "QA", "P", "C", "P", "C", "-LRB-", "I", "-RRB-", "does", "n't", "imply", "that", "t", "1", "QA", "P", "C", "-LRB-", "I", "-RRB-", "or", "t", "2", "QA", "P", "C", "-LRB-", "I", "-RRB-", ".", "And", "therefore", "we", "are", "not", "able", "to", "find", "if", "t", "1", "I", "-LRB-", "P", "-RRB-", "or", "t", "2", "I", "-LRB-", "P", "-RRB-", ".", "This", "mechanism", "has", "n't", "been", "included", "in", "the", "tested", "implementation", "yet", ".", "Implementing", "only", "positive", "knowledge", "gathering", "allows", "us", "to", "better", "observe", "the", "benefits", "of", "extending", "the", "envelope", "expression", ".", "We", "notice", "here", "that", "the", "query", "rewriting", "approach", "to", "computing", "consistent", "query", "answers", "described", "in", "-LSB-", "2", "-RSB-", "works", "also", "only", "for", "queries", "that", "are", "conjunctions", "of", "literals", ".", "However", ",", "as", "shown", "below", ",", "our", "approach", "leads", "to", "faster", "computation", "of", "consistent", "answers", "than", "query", "rewriting", ".", "4.3.2", "Intersection", "Another", "possible", "venue", "of", "optimization", "comes", "from", "directly", "implementing", "derived", "operators", "of", "relational", "algebra", ".", "For", "example", ",", "for", "intersection", "the", "appropriate", "extensions", "of", "the", "operators", "F", "and", "G", "are", "very", "simple", ":", "F", "-LRB-", "E", "1", "E", "2", "-RRB-", "=", "F", "-LRB-", "E", "1", "-RRB-", "F", "-LRB-", "E", "2", "-RRB-", ",", "G", "-LRB-", "E", "1", "E", "2", "-RRB-", "=", "G", "-LRB-", "E", "1", "-RRB-", "G", "-LRB-", "E", "2", "-RRB-", ".", "Now", "R", "P", "is", "equivalent", "to", "R", "\\", "-LRB-", "R", "\\", "P", "-RRB-", "b", "ut", "F", "-LRB-", "R", "P", "-RRB-", "=", "R", "P", "is", "not", "equivalent", "to", "F", "-LRB-", "R", "\\", "-LRB-", "R", "\\", "P", "-RRB-", "-RRB-", "=", "R", "\\", "-LRB-", "R", "C", "\\", "P", "-RRB-", ".", "Thus", "the", "envelope", "constructed", "by", "the", "operator", "F", "becomes", "sensitive", "to", "the", "way", "the", "original", "query", "is", "formulated", ".", "Among", "available", "methods", "for", "computing", "consistent", "query", "answers", ",", "only", "the", "query", "rewriting", "technique", "-LSB-", "2", "-RSB-", "seems", "to", "be", "feasible", "for", "large", "databases", ".", "This", "is", "why", "in", "this", "work", "we", "compare", "the", "following", "engines", ":", "SQL", "An", "engine", "that", "executes", "the", "given", "query", "on", "the", "underlying", "RDBMS", ",", "and", "returns", "the", "query", "result", ".", "This", "method", "does", "n't", "return", "consistent", "query", "answers", ",", "but", "provides", "a", "baseline", "to", "observe", "the", "overhead", "of", "computing", "consistent", "query", "answers", "using", "the", "proposed", "methods", ".", "QR", "Using", "the", "SQL", "engine", ",", "we", "execute", "the", "rewritten", "query", "constructed", "as", "decribed", "in", "-LSB-", "2", "-RSB-", ".", "More", "details", "on", "this", "approach", "can", "be", "found", "in", "Section", "6", ".", "KG", "This", "method", "constructs", "the", "basic", "envelope", "expression", "and", "uses", "knowledge", "gathering", ",", "as", "described", "in", "Section", "4.1", ".", "ExtKG", "This", "engine", "constructs", "the", "extended", "envelope", "expression", "-LRB-", "Section", "4.2", "-RRB-", "and", "uses", "extended", "knowledge", "gathering", ".", "5.1.1", "Generating", "test", "data", "Every", "test", "was", "performed", "with", "the", "database", "containing", "two", "tables", "P", "and", "Q", ",", "both", "having", "three", "attributes", "X", ",", "Y", ",", "Z.", "For", "the", "constraints", ",", "we", "took", "a", "functional", "dependency", "X", "Z", "in", "each", "table", ".", "The", "test", "databases", "had", "the", "following", "parameters", ":", "n", ":", "the", "number", "of", "base", "tuples", "in", "each", "table", ",", "m", ":", "the", "number", "of", "additional", "conflicting", "tuples", ",", "and", "had", "both", "tables", "constructed", "in", "the", "following", "way", ":", "1", ".", "Insert", "n", "different", "base", "tuples", "with", "X", "and", "Z", "being", "equal", "and", "taking", "subsequent", "values", "0", ",", "...", ",", "n", "-", "1", ",", "and", "Y", "being", "randomly", "drawn", "from", "the", "set", "-LCB-", "0", ",", "1", "-RCB-", ".", "2", ".", "Insert", "m", "different", "conflicting", "tuples", "with", "X", "taking", "subsequent", "values", "-LCB-", "0", ",", "n/m", ",", "2", "n/m", ",", "...", ",", "-LRB-", "m", "-", "1", "-RRB-", "n/m", "-RCB-", ",", "Z", "=", "X", "+", "1", ",", "and", "Y", "being", "randomly", "drawn", "from", "the", "set", "-LCB-", "0", ",", "1", "-RCB-", ".", "In", "addition", ",", "we", "define", "auxiliary", "tables", "-LRB-", "P", "core", "and", "Q", "core", "-RRB-", "containing", "only", "non-conflicting", "tuples", "from", "the", "base", "tables", "-LRB-", "resp", ".", "P", "and", "Q", "-RRB-", ".", "Those", "table", "were", "used", "as", "materialized", "views", "of", "the", "core", "expressions", "-LRB-", "P", "C", "and", "Q", "C", "-RRB-", ".", "Example", "11", ".", "We", "show", "how", "a", "table", "P", "with", "n", "=", "4", "and", "m", "=", "2", "can", "be", "generated", ":", "1", ".", "First", "we", "insert", "the", "base", "tuples", "-LRB-", "0", ",", "1", ",", "0", "-RRB-", ",", "-LRB-", "1", ",", "0", ",", "1", "-RRB-", ",", "-LRB-", "2", ",", "0", ",", "2", "-RRB-", ",", "-LRB-", "3", ",", "1", ",", "3", "-RRB-", "into", "P", "2", ".", "Then", "we", "insert", "the", "following", "conflicting", "tuples", "-LRB-", "0", ",", "1", ",", "1", "-RRB-", ",", "-LRB-", "2", ",", "0", ",", "3", "-RRB-", "into", "P", "3", ".", "P", "core", "will", "hold", "the", "following", "tuples", "-LRB-", "1", ",", "0", ",", "1", "-RRB-", ",", "-LRB-", "3", ",", "1", ",", "3", "-RRB-", ".", "In", "every", "table", "constructed", "in", "such", "a", "way", "the", "number", "of", "tuples", "is", "n", "+", "m", ",", "and", "the", "number", "of", "conflicts", "is", "m.", "5.1.2", "The", "environment", "The", "implementation", "is", "done", "in", "Java2", ",", "using", "PostgreSQL", "-LRB-", "version", "7.3.3", "-RRB-", "as", "the", "relational", "backend", ".", "All", "test", "have", "been", "performed", "on", "a", "PC", "with", "a", "1.4", "GHz", "AMD", "Athlon", "processor", "under", "SuSE", "Linux", "8.2", "-LRB-", "kernel", "ver", ".", "2.4.20", "-RRB-", "using", "Sun", "JVM", "1.4.1", ".", "423", "5.2", "Test", "results", "Testing", "a", "query", "with", "a", "given", "engine", "consisted", "of", "computing", "the", "consistent", "2", "answers", "to", "the", "query", "and", "then", "iterating", "over", "the", "results", ".", "Iteration", "over", "the", "result", "is", "necessary", ",", "as", "the", "subsequent", "elements", "of", "the", "consistent", "query", "answer", "set", "are", "computed", "by", "Hippo", "in", "a", "lazy", "manner", "-LRB-", "this", "allows", "us", "to", "process", "results", "bigger", "than", "the", "available", "main", "memory", "-RRB-", ".", "Every", "test", "has", "been", "repeated", "three", "times", "and", "the", "median", "taken", ".", "Finally", ",", "we", "note", "that", "the", "cost", "of", "computing", "the", "conflict", "hypergraph", ",", "which", "is", "incurred", "only", "once", "per", "session", ",", "is", "ignored", "while", "estimating", "the", "time", "of", "the", "query", "evaluation", ".", "We", "take", "a", "closer", "look", "at", "the", "time", "required", "for", "hypergraph", "construction", "in", "Section", "5.2.3", ".", "5.2.1", "Simple", "queries", "We", "first", "compared", "performance", "of", "different", "engines", "on", "simple", "queries", ":", "join", ",", "union", ",", "and", "difference", ".", "Because", "we", "performed", "the", "tests", "for", "large", "databases", ",", "we", "added", "a", "range", "selection", "to", "the", "given", "query", "to", "obtain", "small", "query", "results", ",", "factoring", "out", "the", "time", "necessary", "to", "write", "the", "outputs", ".", "As", "parameters", "in", "the", "experiments", ",", "we", "considered", "the", "database", "size", ",", "the", "conflict", "percentage", ",", "and", "the", "estimated", "result", "size", ".", "Figure", "3", "shows", "the", "execution", "time", "for", "join", "as", "a", "function", "of", "the", "size", "of", "the", "database", ".", "In", "the", "case", "of", "-LCB-", ",", "-RCB-", "-", "expressions", "-LRB-", "thus", "also", "joins", "-RRB-", ",", "the", "execution", "times", "of", "KG", ",", "ExtKG", "and", "SQL", "are", "essentially", "identical", ".", "Since", "no", "membership", "queries", "have", "to", "be", "performed", ",", "it", "means", "that", "for", "simple", "queries", "the", "work", "done", "by", "HProver", "for", "all", "tuples", "is", "practically", "negligible", ".", "X", "<", "200", "-LRB-", "P", "X", "Q", "-RRB-", "Time", "-LRB-", "sec", ".", "-RRB-", "Database", "size", "-LRB-", "increases", "in", "1k", "-RRB-", "0", "100", "200", "300", "0", "3", "6", "9", "12", "SQL", "QR", "KG", "ExtKG", "Conflicts", ":", "2", "%", "Figure", "3", ":", "Execution", "time", "for", "join", ".", "Figure", "4", "contains", "the", "results", "for", "union", ".", "It", "shows", "that", "basic", "knowledge", "gathering", "KG", "is", "not", "sufficient", "to", "efficiently", "handle", "union", ".", "The", "cost", "of", "performing", "membership", "queries", "for", "all", "tuples", "is", "very", "large", ".", "Note", "that", "query", "rewriting", "is", "not", "applicable", "to", "union", "queries", ".", "Figure", "5", "contains", "the", "results", "for", "set", "difference", "-LRB-", "the", "execution", "time", "for", "KG", "was", "relatively", "much", "larger", "than", "values", "of", "other", "solutions", "and", "in", "order", "to", "increase", "readability", "it", "has", "not", "been", "included", "on", "this", "figure", "-RRB-", ".", "Here", "the", "execution", "time", "is", "a", "function", "of", "the", "percentage", "of", "conflicts", ".", "We", "note", "that", "ExtKG", "performs", "as", "well", "as", "QR", "and", "both", "are", "approximately", "twice", "slower", "than", "SQL", ".", "2", "Except", "when", "using", "SQL", "engine", ".", "X", "<", "200", "-LRB-", "P", "Q", "-RRB-", "Time", "-LRB-", "sec", ".", "-RRB-", "Database", "size", "-LRB-", "increases", "in", "1k", "-RRB-", "0", "20", "40", "60", "80", "100", "0", "3", "6", "9", "12", "15", "SQL", "KG", "ExtKG", "Conflicts", ":", "2", "%", "Figure", "4", ":", "Execution", "time", "for", "union", ".", "X", "<", "200", "-LRB-", "P", "\\", "Q", "-RRB-", ";", "Time", "-LRB-", "sec", ".", "-RRB-", "Conflicts", "-LRB-", "%", "-RRB-", "0", "1", "2", "3", "4", "5", "0", "1", "2", "3", "SQL", "QR", "ExtKG", "DB", "size", ":", "100k", "Figure", "5", ":", "Execution", "time", "for", "difference", ".", "5.2.2", "Complex", "queries", "In", "order", "to", "estimate", "the", "cost", "of", "extending", "the", "envelope", "we", "considered", "a", "complex", "union", "query", "X", "<", "d", "-LRB-", "P", "X", "Q", "X", "P", "X", "Q", "Q", "X", "P", "X", "Q", "X", "P", "-RRB-", ",", "with", "d", "being", "a", "parameter", "that", "will", "allow", "us", "to", "control", "the", "number", "of", "tuples", "processed", "by", "each", "engine", ".", "To", "assure", "no", "membership", "queries", "will", "be", "performed", ",", "we", "have", "to", "add", "8", "outer", "joins", ".", "The", "main", "goal", "was", "to", "compare", "two", "versions", "of", "knowledge", "gathering", ":", "KG", "and", "ExtKG", ".", "We", "have", "also", "included", "the", "results", "for", "SQL", ".", "-LRB-", "It", "should", "be", "noted", "here", "that", "this", "query", "has", "common", "subexpressions", "and", "RDBMS", "might", "use", "this", "to", "optimize", "the", "query", "evaluation", "plan", ".", "PostgreSQL", ",", "however", ",", "does", "not", "perform", "this", "optimization", ".", "-RRB-", "As", "we", "can", "see", "in", "Figure", "6", ",", "KG", "outperforms", "ExtKG", "only", "in", "the", "case", "when", "the", "number", "of", "processed", "tuples", "is", "small", ".", "As", "the", "result", "size", "increases", ",", "the", "execution", "time", "of", "ExtKG", "grows", "significantly", "slower", "than", "that", "of", "KG", ".", "We", "notice", "also", "that", "ExtKG", "needs", "2", "3", "times", "more", "time", "than", "SQL", "but", "the", "execution", "times", "of", "both", "grow", "in", "a", "similar", "fashion", ".", "5.2.3", "Hypergraph", "computation", "The", "time", "of", "constructing", "the", "hypergraph", "is", "presented", "on", "Figure", "7", "-RRB-", ".", "It", "depends", "on", "the", "total", "number", "of", "conflicts", "and", "the", "size", "of", "the", "database", ".", "It", "should", "be", "noticed", "here", "that", "the", "time", "of", "hypergraph", "construction", "consists", "mainly", "of", "the", "execution", "time", "of", "conflict", "detection", "queries", ".", "Therefore", "the", "time", "of", "hypergraph", "computation", "depends", "also", "on", "the", "number", "of", "integrity", "constraints", "and", "their", "arity", ".", "424", "X", "<", "d", "-LRB-", "P", "X", "Q", "X", "P", "X", "Q", "Q", "X", "P", "X", "Q", "X", "P", "-RRB-", "Time", "-LRB-", "sec", ".", "-RRB-", "Result", "size", "estimation", "-LRB-", "d", "tuples", "-RRB-", "0", "30", "60", "90", "120", "150", "0", "10", "20", "30", "SQL", "KG", "ExtKG", "DB", "size", ":", "100k", "Conflicts", ":", "2", "%", "Figure", "6", ":", "Impact", "of", "the", "result", "size", ".", "Time", "-LRB-", "sec", ".", "-RRB-", "Database", "size", "-LRB-", "increments", "in", "1k", "-RRB-", "0", "50", "100", "150", "200", "250", "0", "3", "6", "9", "12", "Conflicts", ":", "0", "%", "2", "%", "4", "%", "Figure", "7", ":", "Hypergraph", "computation", "time", "The", "discussion", "of", "related", "work", "here", "is", "very", "brief", "and", "focuses", "mainly", "on", "the", "most", "recent", "research", ".", "For", "a", "comprehensive", "discussion", ",", "please", "see", "-LSB-", "7", "-RSB-", ".", "Bry", "-LSB-", "10", "-RSB-", "was", "the", "first", "to", "note", "that", "the", "standard", "notion", "of", "query", "answer", "needs", "to", "be", "modified", "in", "the", "context", "of", "inconsistent", "databases", "and", "to", "propose", "the", "notion", "of", "a", "consistent", "query", "answer", ".", "Bry", "'s", "definition", "of", "consistent", "query", "answer", "is", "based", "on", "provability", "in", "minimal", "logic", "and", "expresses", "the", "intuition", "that", "the", "part", "of", "the", "database", "instance", "involved", "in", "an", "integrity", "violation", "should", "not", "be", "involved", "in", "the", "derivation", "of", "consistent", "query", "answers", ".", "This", "is", "not", "quite", "satisfactory", ",", "as", "one", "would", "like", "to", "have", "a", "semantic", ",", "model-theoretic", "notion", "of", "consistent", "query", "answer", "that", "parallels", "that", "of", "the", "standard", "notion", "of", "query", "answer", "in", "relational", "databases", ".", "Moreover", ",", "the", "data", "involved", "in", "an", "integrity", "violation", "is", "not", "entirely", "useless", "and", "reliable", "indefinite", "information", "can", "often", "be", "extracted", "from", "it", ",", "as", "seen", "in", "Example", "1", ".", "Query", "rewriting", "-LSB-", "2", ",", "12", "-RSB-", "rewrites", "the", "original", "query", "Q", "to", "another", "query", "Q", "with", "the", "property", "that", "the", "set", "of", "all", "the", "answers", "to", "Q", "in", "the", "original", "database", "is", "equal", "to", "the", "set", "of", "consistent", "answers", "to", "Q", "in", "that", "database", ".", "When", "applicable", ",", "this", "approach", "provides", "an", "easy", "way", "to", "compute", "consistent", "query", "answers", ",", "as", "the", "rewritten", "query", "Q", "can", "typically", "be", "evaluated", "using", "the", "same", "query", "engine", "as", "the", "query", "Q.", "Because", "the", "query", "Q", "is", "rewritten", "independently", "of", "the", "database", ",", "the", "existence", "of", "a", "rewriting", "shows", "that", "requesting", "consistent", "query", "answers", "instead", "of", "the", "regular", "ones", "does", "not", "increase", "data", "complexity", ".", "However", ",", "query", "rewriting", "has", "been", "found", "to", "apply", "only", "to", "restricted", "classes", "of", "queries", ":", "the", "-LCB-", ",", ",", "\\", "-RCB-", "-", "subset", "-LSB-", "2", "-RSB-", "or", "the", "-LCB-", ",", "-RCB-", "-", "subset", "-LSB-", "13", "-RSB-", "of", "the", "relational", "algebra", ".", "No", "method", "is", "presently", "known", "to", "rewrite", "queries", "with", "projection", "considered", "together", "with", "the", "binary", "operators", ",", "or", "union", ".", "Also", ",", "the", "class", "of", "constraints", "is", "limited", "to", "binary", "universal", "constraints", "-LSB-", "2", "-RSB-", "or", "single", "functional", "dependencies", "-LSB-", "13", "-RSB-", ".", "The", "line", "of", "research", "from", "-LSB-", "2", "-RSB-", "is", "con-tinued", "in", "-LSB-", "17", "-RSB-", "where", "a", "class", "of", "tractable", "conjunctive", "queries", ",", "based", "on", "generalized", "perfect", "matching", ",", "is", "identified", ".", "It", "is", "proved", "that", "the", "consistent", "answers", "to", "queries", "in", "this", "class", "can", "not", "be", "obtained", "by", "query", "rewriting", ".", "We", "note", "here", "that", "the", "nonexistence", "of", "query", "rewriting", "for", "conjunctive", "queries", "follows", "also", "from", "the", "fact", "that", "computing", "consistent", "query", "answers", "for", "such", "queries", "is", "a", "co-NP-complete", "problem", "-LSB-", "4", ",", "13", "-RSB-", ".", "This", "is", "because", "the", "rewritten", "query", "is", "first-order", "and", "thus", "can", "be", "evaluated", "in", "AC", "0", ",", "while", "known", "NP-complete", "problems", "like", "SAT", "are", "not", "in", "AC", "0", ".", "Several", "different", "approaches", "have", "been", "developed", "to", "specify", "all", "repairs", "of", "a", "database", "as", "a", "logic", "program", "with", "disjunction", "and", "classical", "negation", "-LSB-", "3", ",", "6", ",", "15", ",", "18", ",", "19", ",", "22", "-RSB-", ".", "Such", "a", "program", "can", "then", "be", "evaluated", "using", "an", "existing", "system", "like", "dlv", "-LSB-", "14", "-RSB-", ".", "These", "approaches", "have", "the", "advantage", "of", "generality", ",", "as", "typically", "arbitrary", "first-order", "queries", "and", "universal", "constraints", "-LRB-", "or", "even", "some", "referential", "integrity", "constraints", "-LSB-", "3", "-RSB-", "-RRB-", "can", "be", "handled", ".", "However", ",", "the", "generality", "comes", "at", "a", "price", ":", "The", "classes", "of", "logic", "programs", "used", "are", "p", "2", "-", "complete", ".", "Therefore", ",", "the", "approaches", "based", "on", "logic", "programming", "are", "unlikely", "to", "work", "for", "large", "databases", ".", "The", "paper", "-LSB-", "15", "-RSB-", "proposes", "several", "optimizations", "that", "are", "applicable", "to", "logic", "programming", "approaches", ".", "One", "is", "localization", "of", "conflict", "resolution", ",", "another", "-", "encoding", "tuple", "membership", "in", "individual", "repairs", "using", "bit-vectors", ",", "which", "makes", "possible", "efficient", "computation", "of", "consistent", "query", "answers", "using", "bitwise", "operators", ".", "However", ",", "it", "is", "known", "that", "even", "in", "the", "presence", "of", "one", "functional", "dependency", "there", "may", "be", "exponentially", "many", "repairs", "-LSB-", "4", "-RSB-", ".", "With", "only", "80", "tuples", "involved", "in", "conflicts", ",", "the", "number", "of", "repairs", "may", "exceed", "10", "12", "!", "It", "is", "clearly", "impractical", "to", "efficiently", "manipulate", "bit-vectors", "of", "that", "size", ".", "-LSB-", "11", "-RSB-", "describes", "several", "possible", "definitions", "of", "repair", ",", "including", "Definition", "5", ",", "and", "analyzes", "the", "complexity", "of", "computing", "consistent", "query", "answers", "under", "those", "definitions", ".", "Key", "and", "inclusion", "dependencies", "are", "considered", ".", "The", "computational", "approaches", "proposed", "are", "based", "on", "combinations", "of", "repair", "enumeration", "and", "chase", "computation", "-LSB-", "1", "-RSB-", ".", "New", "tractability", "results", "are", "obtained", "for", "classes", "of", "databases", "that", "satisfy", "key", "constraints", "but", "may", "violate", "inclusion", "dependencies", ".", "Presently", ",", "our", "approach", "requires", "that", "the", "integrated", "database", "be", "materialized", "at", "a", "single", "site", ".", "It", "remains", "to", "be", "seen", "if", "it", "can", "be", "generalized", "to", "a", "scenario", "where", "data", "is", "pulled", "from", "different", "sites", "during", "the", "evaluation", "of", "queries", "rewritten", "using", ",", "for", "example", ",", "the", "LAV", "approach", "-LSB-", "20", "-RSB-", ".", "This", "problem", "has", "been", "considered", "in", "the", "context", "of", "a", "logic-program-based", "approach", "to", "the", "computation", "of", "consistent", "query", "answers", "-LSB-", "8", ",", "9", "-RSB-", "but", ",", "as", "explained", "earlier", ",", "such", "an", "approach", "does", "not", "scale", "up", "to", "large", "databases", ".", "A", "new", "scenario", "for", "data", "integration", ",", "data", "exchange", ",", "has", "been", "recently", "proposed", "-LSB-", "16", "-RSB-", ".", "In", "this", "scenario", ",", "a", "target", "database", "is", "materialized", "on", "the", "basis", "of", "a", "source", "database", "using", "source-to-target", "dependencies", ".", "In", "the", "presence", "of", "target", "integrity", "constraints", ",", "a", "suitable", "consistent", "target", "database", "may", "not", "exist", ".", "This", "is", "a", "natural", "context", "for", "the", "application", "of", "the", "concepts", "of", "repair", "and", "consistent", "query", "answer", ".", "However", ",", "-LSB-", "16", "-RSB-", "does", "not", "consider", "the", "issue", "of", "the", "inconsistency", "of", "target", "databases", ".", "-LSB-", "11", "-RSB-", "addresses", "the", "problem", "of", "consistent", "query", "answering", "in", "a", "restricted", "data", "exchange", "setting", ".", "425", "In", "this", "paper", ",", "we", "have", "presented", "a", "practical", ",", "scalable", "framework", "for", "computing", "consistent", "query", "answers", "for", "large", "databases", ".", "We", "have", "also", "described", "a", "number", "of", "novel", "optimization", "techniques", "applicable", "in", "this", "context", "and", "summa-rized", "experimental", "results", "that", "validate", "our", "approach", ".", "The", "approach", ",", "however", ",", "has", "a", "number", "of", "limitations", ".", "Only", "projection-free", "relational", "algebra", "queries", "and", "denial", "integrity", "constraints", "are", "currently", "supported", ".", "Adding", "projection", "to", "the", "query", "language", "is", "a", "difficult", "issue", "because", "the", "complexity", "of", "computing", "consistent", "query", "answers", "becomes", "in", "that", "case", "co-NP-complete", "-LSB-", "4", ",", "13", "-RSB-", ".", "So", ",", "unless", "P", "=", "NP", ",", "we", "can", "not", "hope", "for", "computing", "consistent", "query", "answers", "efficiently", "for", "arbitrary", "conjunctive", "queries", "and", "arbitrary", "database", "instances", ".", "However", ",", "the", "evaluation", "of", "queries", "with", "projection", "can", "make", "use", "of", "the", "conflict", "hypergraph", "representation", "of", "all", "repairs", ",", "and", "of", "the", "operators", "F", "and", "G", "introduced", "in", "Section", "3", ".", "Moreover", ",", "we", "expect", "to", "be", "able", "to", "compute", "consistent", "answers", "to", "queries", "with", "projection", "in", "polynomial", "time", "if", "conflict", "hypergraphs", "are", "suitably", "restricted", ".", "We", "hope", "that", "such", "restrictions", "can", "be", "translated", "into", "corresponding", "restrictions", "on", "database", "instances", "and", "integrity", "constraints", ".", "In", "-LSB-", "4", "-RSB-", ",", "we", "have", "studied", "scalar", "aggregation", "queries", "in", "the", "presence", "of", "functional", "dependencies", ",", "also", "making", "use", "of", "conflict", "graphs", ".", "It", "remains", "to", "be", "seen", "whether", "the", "techniques", "developed", "in", "-LSB-", "4", "-RSB-", "can", "be", "combined", "with", "those", "of", "the", "present", "paper", ".", "Going", "beyond", "denial", "constraints", "appears", "challenging", ",", "too", ".", "Essentially", ",", "integrity", "violations", "of", "denial", "constraints", "are", "due", "to", "the", "presence", "of", "some", "facts", "in", "the", "database", ",", "and", "thus", "can", "be", "compactly", "represented", "using", "the", "conflict", "hypergraph", ".", "If", "arbitrary", "universal", "constraints", ",", "for", "example", "tuple-generating", "dependencies", "-LSB-", "1", ",", "21", "-RSB-", ",", "are", "allowed", ",", "constraint", "violations", "may", "be", "due", "to", "the", "simultaneous", "presence", "and", "absence", "of", "certain", "tuples", "in", "the", "database", ".", "It", "is", "not", "clear", "how", "to", "construct", "in", "this", "case", "a", "compact", "representation", "of", "all", "repairs", "that", "can", "be", "used", "for", "the", "computation", "of", "consistent", "query", "answers", ".", "Also", ",", "repairs", "are", "no", "longer", "guaranteed", "to", "be", "subsets", "of", "the", "original", "database", "but", "can", "contain", "additional", "tuples", ".", "If", "referential", "integrity", "is", "to", "be", "captured", ",", "constraints", "have", "to", "contain", "existentially", "quantified", "variables", ",", "which", "leads", "to", "the", "unde-cidability", "of", "consistent", "query", "answers", "-LSB-", "11", "-RSB-", ".", "Only", "in", "very", "restricted", "cases", "this", "problem", "has", "been", "shown", "to", "be", "tractable", "-LSB-", "11", ",", "13", "-RSB-", ".", "Another", "avenue", "of", "further", "research", "involves", "using", "preferences", "to", "reduce", "the", "number", "of", "repairs", "and", "consequently", "make", "the", "computation", "of", "consistent", "query", "answers", "more", "efficient", ".", "For", "example", ",", "in", "data", "integration", ",", "we", "may", "have", "a", "preference", "for", "certain", "sources", "or", "for", "more", "recent", "information", ".", "The", "issue", "of", "benchmarking", "systems", "that", "compute", "consistent", "query", "answers", "requires", "more", "work", ".", "It", "would", "be", "desirable", "to", "design", "mechanisms", "that", "generate", "inconsistent", "databases", "in", "a", "systematic", "way", "and", "to", "perform", "more", "extensive", "experimental", "comparisons", "between", "implemented", "systems", "-LSB-", "1", "-RSB-", "S.", "Abiteboul", ",", "R.", "Hull", ",", "and", "V.", "Vianu", ".", "Foundations", "of", "Databases", ".", "Addison-Wesley", ",", "1995", ".", "-LSB-", "2", "-RSB-", "M.", "Arenas", ",", "L.", "Bertossi", ",", "and", "J.", "Chomicki", ".", "Consistent", "Query", "Answers", "in", "Inconsistent", "Databases", ".", "In", "ACM", "Symposium", "on", "Principles", "of", "Database", "Systems", "-LRB-", "PODS", "-RRB-", ",", "pages", "68", "79", ",", "1999", ".", "-LSB-", "3", "-RSB-", "M.", "Arenas", ",", "L.", "Bertossi", ",", "and", "J.", "Chomicki", ".", "Answer", "Sets", "for", "Consistent", "Query", "Answering", "in", "Inconsistent", "Databases", ".", "Theory", "and", "Practice", "of", "Logic", "Programming", ",", "3", "-LRB-", "4", "5", "-RRB-", ":", "393", "424", ",", "2003", ".", "-LSB-", "4", "-RSB-", "M.", "Arenas", ",", "L.", "Bertossi", ",", "J.", "Chomicki", ",", "X.", "He", ",", "V.", "Raghavan", ",", "and", "J.", "Spinrad", ".", "Scalar", "Aggregation", "in", "Inconsistent", "Databases", ".", "Theoretical", "Computer", "Science", ",", "296", "-LRB-", "3", "-RRB-", ":", "405", "434", ",", "2003", ".", "-LSB-", "5", "-RSB-", "M.", "Arenas", ",", "L.", "Bertossi", ",", "and", "M.", "Kifer", ".", "Applications", "of", "Annotated", "Predicate", "Calculus", "to", "Querying", "Inconsistent", "Databases", ".", "In", "International", "Conference", "on", "Computational", "Logic", ",", "pages", "926", "941", ".", "Springer-Verlag", ",", "LNCS", "1861", ",", "2000", ".", "-LSB-", "6", "-RSB-", "P.", "Barcelo", "and", "L.", "Bertossi", ".", "Logic", "Programs", "for", "Querying", "Inconsistent", "Databases", ".", "In", "International", "Symposium", "on", "Practical", "Aspects", "of", "Declarative", "Languages", "-LRB-", "PADL", "-RRB-", ",", "pages", "208", "222", ".", "Springer-Verlag", ",", "LNCS", "2562", ",", "2003", ".", "-LSB-", "7", "-RSB-", "L.", "Bertossi", "and", "J.", "Chomicki", ".", "Query", "Answering", "in", "Inconsistent", "Databases", ".", "In", "J.", "Chomicki", ",", "R.", "van", "der", "Meyden", ",", "and", "G.", "Snake", ",", "editors", ",", "Logics", "for", "Emerging", "Applications", "of", "Databases", ",", "pages", "43", "83", ".", "Springer-Verlag", ",", "2003", ".", "-LSB-", "8", "-RSB-", "L.", "Bertossi", ",", "J.", "Chomicki", ",", "A.", "Cortes", ",", "and", "C.", "Gutierrez", ".", "Consistent", "Answers", "from", "Integrated", "Data", "Sources", ".", "In", "International", "Conference", "on", "Flexible", "Query", "Answering", "Systems", "-LRB-", "FQAS", "-RRB-", ",", "pages", "71", "85", ",", "Copenhagen", ",", "Denmark", ",", "October", "2002", ".", "Springer-Verlag", ".", "-LSB-", "9", "-RSB-", "L.", "Bravo", "and", "L.", "Bertossi", ".", "Logic", "Programs", "for", "Consistently", "Querying", "Data", "Integration", "Systems", ".", "In", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI", "-RRB-", ",", "pages", "10", "15", ",", "2003", ".", "-LSB-", "10", "-RSB-", "F.", "Bry", ".", "Query", "Answering", "in", "Information", "Systems", "with", "Integrity", "Constraints", ".", "In", "IFIP", "WG", "11.5", "Working", "Conference", "on", "Integrity", "and", "Control", "in", "Information", "Systems", ",", "pages", "113", "130", ".", "Chapman", "&", "Hall", ",", "1997", ".", "-LSB-", "11", "-RSB-", "A.", "Cali", ",", "D.", "Lembo", ",", "and", "R.", "Rosati", ".", "On", "the", "Decidability", "and", "Complexity", "of", "Query", "Answering", "over", "Inconsistent", "and", "Incomplete", "Databases", ".", "In", "ACM", "Symposium", "on", "Principles", "of", "Database", "Systems", "-LRB-", "PODS", "-RRB-", ",", "pages", "260", "271", ",", "2003", ".", "-LSB-", "12", "-RSB-", "A.", "Celle", "and", "L.", "Bertossi", ".", "Querying", "Inconsistent", "Databases", ":", "Algorithms", "and", "Implementation", ".", "In", "International", "Conference", "on", "Computational", "Logic", ",", "pages", "942", "956", ".", "Springer-Verlag", ",", "LNCS", "1861", ",", "2000", ".", "-LSB-", "13", "-RSB-", "J.", "Chomicki", "and", "J.", "Marcinkowski", ".", "Minimal-Change", "Integrity", "Maintenance", "Using", "Tuple", "Deletions", ".", "Information", "and", "Computation", ",", "2004", ".", "To", "appear", ".", "Earlier", "version", ":", "Technical", "Report", "cs.DB", "/", "0212004", ",", "arXiv.org", "e-Print", "archive", ".", "-LSB-", "14", "-RSB-", "T.", "Eiter", ",", "W.", "Faber", ",", "N.", "Leone", ",", "and", "G.", "Pfeifer", ".", "Declarative", "Problem-Solving", "in", "DLV", ".", "In", "J.", "Minker", ",", "editor", ",", "Logic-Based", "Artificial", "Intelligence", ",", "pages", "79", "103", ".", "Kluwer", ",", "2000", ".", "-LSB-", "15", "-RSB-", "T.", "Eiter", ",", "M.", "Fink", ",", "G.", "Greco", ",", "and", "D.", "Lembo", ".", "Efficient", "Evaluation", "of", "Logic", "Programs", "for", "Querying", "Data", "Integration", "Systems", ".", "In", "International", "Conference", "on", "Logic", "Programming", "-LRB-", "ICLP", "-RRB-", ",", "pages", "163", "177", ",", "2003", ".", "-LSB-", "16", "-RSB-", "R.", "Fagin", ",", "P.", "G.", "Kolaitis", ",", "R.", "J.", "Miller", ",", "and", "L.", "Popa", ".", "Data", "Exchange", ":", "Semantics", "and", "Query", "Answering", ".", "In", "International", "Conference", "on", "Database", "Theory", "-LRB-", "ICDT", "-RRB-", ",", "pages", "207", "224", ".", "Springer-Verlag", ",", "LNCS", "2572", ",", "2003", ".", "-LSB-", "17", "-RSB-", "A.", "Fuxman", "and", "R.", "Miller", ".", "Towards", "Inconsistency", "Management", "in", "Data", "Integration", "Systems", ".", "In", "IJCAI-03", "Workshop", "on", "Information", "Integration", "on", "the", "Web", "-LRB-", "IIWeb-03", "-RRB-", ",", "2003", ".", "-LSB-", "18", "-RSB-", "G.", "Greco", ",", "S.", "Greco", ",", "and", "E.", "Zumpano", ".", "A", "Logic", "Programming", "Approach", "to", "the", "Integration", ",", "Repairing", "and", "Querying", "of", "Inconsistent", "Databases", ".", "In", "International", "Conference", "on", "Logic", "Programming", "-LRB-", "ICLP", "-RRB-", ",", "pages", "348", "364", ".", "Springer-Verlag", ",", "LNCS", "2237", ",", "2001", ".", "-LSB-", "19", "-RSB-", "G.", "Greco", ",", "S.", "Greco", ",", "and", "E.", "Zumpano", ".", "A", "Logical", "Framework", "for", "Querying", "and", "Repairing", "Inconsistent", "Databases", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "15", "-LRB-", "6", "-RRB-", ":", "1389", "1408", ",", "2003", ".", "-LSB-", "20", "-RSB-", "A.", "Y.", "Halevy", ".", "Answering", "Queries", "Using", "Views", ":", "A", "Survey", ".", "VLDB", "Journal", ",", "10", "-LRB-", "4", "-RRB-", ":", "270", "294", ",", "2001", ".", "-LSB-", "21", "-RSB-", "P.", "C.", "Kanellakis", ".", "Elements", "of", "Relational", "Database", "Theory", ".", "In", "Jan", "van", "Leeuwen", ",", "editor", ",", "Handbook", "of", "Theoretical", "Computer", "Science", ",", "volume", "B", ",", "chapter", "17", ",", "pages", "1073", "1158", ".", "Elsevier/MIT", "Press", ",", "1990", ".", "-LSB-", "22", "-RSB-", "D.", "Van", "Nieuwenborgh", "and", "D.", "Vermeir", ".", "Preferred", "Answer", "Sets", "for", "Ordered", "Logic", "Programs", ".", "In", "European", "Conference", "on", "Logics", "for", "Artificial", "Intelligence", "-LRB-", "JELIA", "-RRB-", ",", "pages", "432", "443", ".", "Springer-Verlag", ",", "LNAI", "2424", ",", "2002", ".", "-LSB-", "23", "-RSB-", "J.", "Wijsen", ".", "Condensed", "Representation", "of", "Database", "Repairs", "for", "Consistent", "Query", "Answering", ".", "In", "International", "Conference", "on", "Database", "Theory", "-LRB-", "ICDT", "-RRB-", ",", "pages", "378", "393", ".", "Springer-Verlag", ",", "LNCS", "2572", ",", "2003", ".", "426"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["conflict hypergraph", "integrity constraints", "consistent query answer", "relational algebra", "polynomial time", "denial constraints", "knowledge gathering", "disjunctive query", "repair", "inconsistent database", "optimization", "inconsistency"], "abstractive_keyphrases": ["query processing"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "46", "document": ["Breadth-First", "Search", "Crawling", "Yields", "High-Quality", "Pages", "This", "paper", "examines", "the", "average", "page", "quality", "over", "time", "of", "pages", "downloaded", "during", "a", "web", "crawl", "of", "328", "million", "unique", "pages", ".", "We", "use", "the", "connectivity-based", "metric", "PageRank", "to", "measure", "the", "quality", "of", "a", "page", ".", "We", "show", "that", "traversing", "the", "web", "graph", "in", "breadth-first", "search", "order", "is", "a", "good", "crawling", "strategy", ",", "as", "it", "tends", "to", "discover", "high-quality", "pages", "early", "on", "in", "the", "crawl", ".", "According", "to", "a", "study", "released", "in", "October", "2000", ",", "the", "directly", "accessible", "``", "surface", "web", "''", "consists", "of", "about", "2.5", "billion", "pages", ",", "while", "the", "``", "deep", "web", "''", "-LRB-", "dynamically", "generated", "web", "pages", "-RRB-", "consists", "of", "about", "550", "billion", "pages", ",", "95", "%", "of", "which", "are", "publicly", "accessible", "-LSB-", "9", "-RSB-", ".", "By", "comparison", ",", "the", "Google", "index", "released", "in", "June", "2000", "contained", "560", "million", "full-text-indexed", "pages", "-LSB-", "5", "-RSB-", ".", "In", "other", "words", ",", "Google", "--", "which", ",", "according", "to", "a", "recent", "measurement", "-LSB-", "6", "-RSB-", ",", "has", "the", "greatest", "coverage", "of", "all", "search", "engines", "-", "covers", "only", "about", "0.1", "%", "of", "the", "publicly", "accessible", "web", ",", "and", "the", "other", "major", "search", "engines", "do", "even", "worse", ".", "Increasing", "the", "coverage", "of", "existing", "search", "engines", "by", "three", "orders", "of", "magnitude", "would", "pose", "a", "number", "of", "technical", "challenges", ",", "both", "with", "respect", "to", "their", "ability", "to", "discover", ",", "download", ",", "and", "index", "web", "pages", ",", "as", "well", "as", "their", "ability", "to", "serve", "queries", "against", "an", "index", "of", "that", "size", ".", "-LRB-", "For", "query", "engines", "based", "on", "inverted", "lists", ",", "the", "cost", "of", "serving", "a", "query", "is", "linear", "to", "the", "size", "of", "the", "index", ".", "-RRB-", "Therefore", ",", "search", "engines", "should", "attempt", "to", "download", "the", "best", "pages", "and", "include", "-LRB-", "only", "-RRB-", "them", "in", "their", "index", ".", "Cho", ",", "Garcia-Molina", ",", "and", "Page", "-LSB-", "4", "-RSB-", "suggested", "using", "connectivity", "-", "based", "document", "quality", "metrics", "to", "direct", "a", "crawler", "towards", "high-quality", "pages", ".", "They", "performed", "a", "series", "of", "crawls", "over", "179,000", "pages", "in", "the", "stanford.edu", "domain", "and", "used", "Copyright", "is", "held", "by", "the", "author/owner", ".", "WWW10", ",", "May", "1-5", ",", "2001", ",", "Hong", "Kong", ".", "ACM", "1-58113-348-0", "/", "01/0005", ".", "different", "ordering", "metrics", "--", "breadth-first", ",", "backlink", "count", ",", "PageRank", "-LSB-", "2", "-RSB-", ",", "and", "random", "--", "to", "direct", "the", "different", "crawls", ".", "Under", "the", "breath-first", "ordering", ",", "pages", "are", "crawled", "in", "the", "order", "they", "are", "discovered", ".", "Under", "the", "backlink", "ordering", ",", "the", "pages", "with", "the", "highest", "number", "of", "known", "links", "to", "them", "are", "crawled", "first", ".", "Under", "the", "PageRank", "ordering", ",", "pages", "with", "the", "highest", "PageRank", "-LRB-", "a", "page", "quality", "metric", "described", "below", "-RRB-", "are", "crawled", "first", ".", "Under", "the", "random", "ordering", ",", "the", "crawler", "selects", "the", "next", "page", "to", "download", "at", "random", "from", "the", "set", "of", "uncrawled", "pages", ".", "-LRB-", "For", "repeatability", ",", "these", "crawls", "were", "``", "virtual", "''", ";", "that", "is", ",", "they", "were", "performed", "over", "a", "cached", "copy", "of", "these", "179,000", "pages", ".", "-RRB-", "Cho", "et", "al.", "evaluated", "the", "effectiveness", "of", "each", "ordering", "metric", "by", "examining", "how", "fast", "it", "led", "the", "crawler", "to", "all", "the", "``", "hot", "''", "pages", ".", "In", "this", "context", ",", "a", "``", "hot", "''", "page", "is", "a", "page", "with", "either", "a", "high", "number", "of", "links", "pointing", "to", "it", ",", "or", "a", "page", "with", "a", "high", "PageRank", ".", "They", "found", "that", "using", "the", "PageRank", "metric", "to", "direct", "a", "crawler", "works", "extremely", "well", ".", "However", ",", "they", "also", "discovered", "that", "performing", "the", "crawl", "in", "breadth-first", "order", "works", "almost", "as", "well", ",", "in", "particular", "if", "``", "hot", "''", "pages", "are", "defined", "to", "be", "pages", "with", "high", "PageRank", ".", "This", "paper", "extends", "the", "results", "of", "Cho", "et", "al.", "regarding", "the", "effectiveness", "of", "crawling", "in", "breadth-first", "search", "order", ",", "using", "a", "much", "larger", "and", "more", "diverse", "data", "set", ".", "While", "Cho", "'s", "work", "was", "based", "on", "a", "crawl", "of", "179,000", "pages", "from", "the", "stanford.edu", "domain", ",", "we", "performed", "a", "crawl", "of", "328", "million", "pages", "over", "the", "entire", "web", ",", "covering", "more", "than", "7", "million", "distinct", "hosts", ".", "We", "use", "connectivity-based", "page", "quality", "metrics", ",", "namely", "Brin", "and", "Page", "'s", "PageRank", "and", "variations", "of", "it", ",", "to", "measure", "the", "quality", "of", "downloaded", "pages", "over", "the", "life", "of", "the", "crawl", ".", "We", "find", "that", "not", "only", "does", "breadth-first", "search", "download", "the", "hot", "pages", "first", ",", "but", "also", "that", "the", "average", "quality", "of", "the", "pages", "decreased", "over", "the", "duration", "of", "the", "crawl", ".", "We", "also", "suggest", "that", "our", "crawler", "'s", "modifications", "to", "strict", "breadth-first", "search", "--", "made", "to", "increase", "the", "overall", "download", "rate", "and", "to", "avoid", "overloading", "any", "given", "web", "server", "--", "enhance", "its", "likeliness", "of", "retrieving", "important", "pages", "first", ".", "The", "remainder", "of", "this", "paper", "is", "structured", "as", "follows", ":", "Section", "2", "reviews", "the", "PageRank", "metric", "we", "used", "to", "evaluate", "the", "effectiveness", "of", "crawling", "in", "breadth-first", "search", "order", ".", "Section", "3", "describes", "the", "tools", "we", "used", "to", "conduct", "our", "experiments", ".", "Section", "4", "describes", "the", "experiments", "we", "performed", ",", "and", "the", "results", "we", "obtained", ".", "Finally", ",", "section", "5", "offers", "concluding", "remarks", ".", "There", "are", "many", "conceivable", "metrics", "for", "judging", "the", "quality", "of", "a", "web", "page", ":", "by", "analyzing", "its", "content", ",", "by", "measuring", "114", "its", "popularity", "-LRB-", "that", "is", ",", "how", "often", "it", "is", "viewed", "-RRB-", ",", "or", "by", "examining", "its", "connectivity", "-LRB-", "that", "is", ",", "by", "determining", "which", "other", "pages", "link", "to", "this", "page", ",", "and", "vice", "versa", "-RRB-", ".", "Metrics", "based", "on", "connectivity", "have", "the", "advantages", "that", "they", "do", "not", "require", "information", "that", "is", "not", "easily", "accessible", "-LRB-", "such", "as", "page", "popularity", "data", "-RRB-", ",", "and", "that", "they", "are", "easy", "to", "compute", ",", "so", "they", "scale", "well", "to", "even", "very", "large", "page", "collections", ".", "They", "also", "require", "retrieving", "only", "the", "links", "on", "each", "page", ",", "not", "the", "full", "page", "contents", ".", "Storing", "the", "full", "page", "contents", "requires", "several", "kilobytes", "per", "page", ",", "one", "to", "two", "orders", "of", "magnitude", "more", "than", "just", "storing", "the", "links", ".", "PageRank", "is", "the", "connectivity-based", "page", "quality", "measure", "suggested", "by", "Brin", "and", "Page", "-LSB-", "2", "-RSB-", ".", "It", "is", "a", "static", "measure", ";", "it", "is", "designed", "to", "rank", "pages", "in", "the", "absence", "of", "any", "queries", ".", "That", "is", ",", "PageRank", "computes", "the", "``", "global", "worth", "''", "of", "each", "page", ".", "Intuitively", ",", "the", "PageRank", "measure", "of", "a", "page", "is", "similar", "to", "its", "in-degree", ",", "which", "is", "a", "possible", "measure", "of", "the", "importance", "of", "a", "page", ".", "The", "PageRank", "of", "a", "page", "is", "high", "if", "many", "pages", "with", "a", "high", "PageRank", "contain", "links", "to", "it", ",", "and", "a", "page", "containing", "few", "outgoing", "links", "contributes", "more", "weight", "to", "the", "pages", "it", "links", "to", "than", "a", "page", "containing", "many", "outgoing", "links", ".", "The", "PageRank", "of", "a", "page", "is", "expressed", "mathematically", "as", "follows", ".", "Suppose", "there", "are", "T", "total", "pages", "on", "the", "web", ".", "We", "choose", "a", "parameter", "d", "-LRB-", "explained", "below", "-RRB-", "such", "that", "0", "<", "d", "<", "1", ";", "a", "typical", "value", "of", "d", "might", "lie", "in", "the", "range", "0.1", "<", "d", "<", "0.15", ".", "Let", "pages", "p", "1", ",", "p", "2", ",", "...", ",", "p", "k", "link", "to", "page", "p.", "Let", "R", "-LRB-", "p", "i", "-RRB-", "be", "the", "PageRank", "of", "p", "i", "and", "C", "-LRB-", "p", "i", "-RRB-", "be", "the", "number", "of", "links", "out", "of", "p", "i", ".", "Then", "the", "PageRank", "R", "-LRB-", "p", "-RRB-", "of", "page", "p", "is", "defined", "to", "satisfy", ":", "R", "-LRB-", "p", "-RRB-", "=", "d", "T", "+", "-LRB-", "1", "-", "d", "-RRB-", "k", "X", "i", "=", "1", "R", "-LRB-", "p", "i", "-RRB-", "C", "-LRB-", "p", "i", "-RRB-", "This", "equation", "defines", "R", "-LRB-", "p", "-RRB-", "uniquely", ",", "modulo", "a", "constant", "scaling", "factor", ".", "If", "we", "scale", "R", "-LRB-", "p", "-RRB-", "so", "that", "the", "PageRanks", "of", "all", "pages", "sum", "to", "1", ",", "R", "-LRB-", "p", "-RRB-", "can", "be", "thought", "of", "as", "a", "probability", "distribution", "over", "pages", ".", "The", "PageRank", "distribution", "has", "a", "simple", "interpretation", "in", "terms", "of", "a", "random", "walk", ".", "Imagine", "a", "web", "surfer", "who", "wanders", "the", "web", ".", "If", "the", "surfer", "visits", "page", "p", ",", "the", "random", "walk", "is", "in", "state", "p", ".", "At", "each", "step", ",", "the", "web", "surfer", "either", "jumps", "to", "a", "page", "on", "the", "web", "chosen", "uniformly", "at", "random", ",", "or", "the", "web", "surfer", "follows", "a", "link", "chosen", "uniformly", "at", "random", "from", "those", "on", "the", "current", "page", ".", "The", "former", "occurs", "with", "probability", "d", ",", "the", "latter", "with", "probability", "1", "-", "d", ".", "The", "equilibrium", "probability", "that", "such", "a", "surfer", "is", "at", "page", "p", "is", "simply", "R", "-LRB-", "p", "-RRB-", ".", "An", "alternative", "way", "to", "say", "this", "is", "that", "the", "average", "fraction", "of", "the", "steps", "that", "a", "walk", "spends", "at", "page", "p", "is", "R", "-LRB-", "p", "-RRB-", "over", "sufficiently", "long", "walks", ".", "This", "means", "that", "pages", "with", "high", "PageRank", "are", "more", "likely", "to", "be", "visited", "than", "pages", "with", "low", "PageRank", ".", "In", "our", "experiments", ",", "we", "set", "d", "=", "1", "7", "=", "0.14", ".", "We", "also", "modified", "PageRank", "slightly", "so", "that", "pages", "with", "no", "outgoing", "links", "contribute", "their", "weight", "equally", "to", "all", "pages", ".", "That", "is", ",", "the", "random", "surfer", "is", "equally", "likely", "to", "jump", "to", "any", "page", "from", "a", "page", "with", "no", "outgoing", "links", ".", "We", "ran", "experiments", "using", "both", "the", "original", "PageRank", "algorithm", ",", "which", "does", "not", "distinguish", "between", "links", "to", "pages", "on", "the", "same", "versus", "different", "hosts", ",", "and", "a", "variant", "of", "PageRank", "which", "only", "considers", "links", "to", "different", "hosts", ".", "We", "used", "two", "tools", "in", "conducting", "this", "research", ":", "Mercator", "and", "the", "Connectivity", "Server", "2", ",", "both", "developed", "at", "our", "lab", ".", "We", "used", "Mercator", "to", "crawl", "the", "web", ",", "and", "the", "Connectivity", "Server", "2", "to", "provide", "fast", "access", "to", "the", "link", "information", "downloaded", "from", "the", "crawl", ".", "Mercator", "is", "an", "extensible", ",", "multithreaded", ",", "high-performance", "web", "crawler", "-LSB-", "7", ",", "10", "-RSB-", ".", "It", "is", "written", "in", "Java", "and", "is", "highly", "configurable", ".", "Its", "default", "download", "strategy", "is", "to", "perform", "a", "breadth-first", "search", "of", "the", "web", ",", "with", "the", "following", "three", "modifications", ":", "1", ".", "It", "downloads", "multiple", "pages", "-LRB-", "typically", "500", "-RRB-", "in", "parallel", ".", "This", "modification", "allows", "us", "to", "download", "about", "10", "million", "pages", "a", "day", ";", "without", "it", ",", "we", "would", "download", "well", "under", "100,000", "pages", "per", "day", ".", "2", ".", "Only", "a", "single", "HTTP", "connection", "is", "opened", "to", "any", "given", "web", "server", "at", "any", "given", "time", ".", "This", "modification", "is", "necessary", "due", "to", "the", "prevalence", "of", "relative", "URLs", "on", "the", "web", "-LRB-", "about", "80", "%", "of", "the", "links", "on", "an", "average", "web", "page", "refer", "to", "the", "same", "host", "-RRB-", ",", "which", "leads", "to", "a", "high", "degree", "of", "host", "locality", "in", "the", "crawler", "'s", "download", "queue", ".", "If", "we", "were", "to", "download", "many", "pages", "from", "the", "same", "host", "in", "parallel", ",", "we", "would", "overload", "or", "even", "crash", "that", "web", "server", ".", "3", ".", "If", "it", "took", "t", "seconds", "to", "download", "a", "document", "from", "a", "given", "web", "server", ",", "then", "Mercator", "will", "wait", "for", "10t", "seconds", "before", "contacting", "that", "web", "server", "again", ".", "This", "modification", "is", "not", "strictly", "necessary", ",", "but", "it", "further", "eases", "the", "load", "our", "crawler", "places", "on", "individual", "servers", "on", "the", "web", ".", "We", "found", "that", "this", "policy", "reduces", "the", "rate", "of", "complaints", "we", "receive", "while", "crawling", ".", "For", "the", "experiments", "described", "below", ",", "we", "configured", "Mercator", "to", "extract", "all", "the", "links", "from", "each", "downloaded", "page", "and", "save", "them", "to", "disk", ";", "for", "disk", "space", "reasons", ",", "we", "did", "not", "retain", "the", "pages", "themselves", ".", "We", "conducted", "a", "crawl", "that", "attempted", "to", "download", "532", "million", "pages", "over", "the", "course", "of", "58", "days", "-LRB-", "which", "we", "refer", "to", "as", "days", "1", "to", "58", "throughout", "the", "paper", "-RRB-", ".", "Of", "all", "those", "download", "attempts", ",", "328", "million", "returned", "valid", ",", "unique", "HTML", "pages", ";", "the", "others", "resulted", "in", "TCP", "-", "and", "DNS-errors", ",", "non-200", "HTTP", "return", "codes", ",", "non-HTML", "documents", ",", "or", "duplicates", ".", "Mercator", "'s", "download", "rate", "decreased", "over", "the", "course", "of", "the", "crawl", ",", "due", "to", "increasing", "access", "times", "to", "one", "of", "its", "disk-based", "data", "structures", "that", "keeps", "track", "of", "which", "URLs", "have", "already", "been", "seen", ".", "The", "median", "download", "day", "was", "22", ";", "the", "mean", "download", "day", "was", "24.5", ".", "The", "extracted", "links", "data", "was", "then", "loaded", "into", "the", "Connectivity", "Server", "2", "-LRB-", "CS2", "-RRB-", "-LSB-", "11", "-RSB-", ",", "a", "database", "for", "URLs", "and", "links", ".", "A", "build", "of", "CS2", "takes", "a", "web", "crawl", "as", "input", "and", "creates", "a", "database", "representation", "of", "the", "web", "graph", "induced", "by", "the", "pages", "in", "the", "crawl", ".", "A", "CS2", "database", "consists", "of", "all", "URLs", "that", "were", "crawled", ",", "extended", "with", "all", "URLs", "referenced", "at", "least", "five", "times", "by", "the", "crawled", "pages", ".", "-LRB-", "Incorporating", "uncrawled", "URLs", "with", "multiple", "links", "pointing", "to", "them", "ensured", "that", "we", "did", "not", "ignore", "any", "popular", "URLs", ".", "Setting", "the", "threshold", "at", "five", "incoming", "links", "reduced", "the", "set", "of", "uncrawled", "URLs", "by", "over", "90", "%", ",", "which", "enabled", "us", "to", "fit", "the", "database", "within", "the", "16", "GB", "of", "RAM", "available", "to", "us", ".", "-RRB-", "The", "CS2", "database", "also", "contains", "all", "links", "among", "those", "URLs", "and", "host", "information", "for", "each", "URL", ".", "It", "maps", "each", "URL", "to", "all", "of", "its", "outgoing", "and", "its", "incoming", "links", ".", "It", "is", "possible", "to", "get", "all", "the", "incoming", "links", "for", "a", "given", "URL", ",", "or", "just", "the", "links", "from", "different", "hosts", ".", "CS2", "stores", "links", "in", "both", "directions", "in", ",", "on", "average", ",", "2.4", "bytes", "per", "link", "-LRB-", "as", "compared", "to", "8", "bytes", "per", "link", "in", "the", "original", "connectivity", "server", "-LRB-", "CS1", "-RRB-", "described", "in", "-LSB-", "1", "-RSB-", "-RRB-", ".", "Like", "CS1", ",", "115", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "55", "Day", "of", "crawl", "0", "2", "4", "6", "8", "Average", "PageRank", "Figure", "1", ":", "Average", "PageRank", "score", "by", "day", "of", "crawl", "CS2", "is", "designed", "to", "give", "high-performance", "access", "when", "run", "on", "a", "machine", "with", "enough", "RAM", "to", "store", "the", "database", "in", "memory", ".", "On", "the", "667", "MHz", "Compaq", "AlphaServer", "ES40", "with", "16", "GB", "of", "RAM", "used", "in", "our", "experiments", ",", "it", "takes", "70-80", "ms", "to", "convert", "a", "URL", "into", "an", "internal", "id", "or", "vice", "versa", ",", "and", "0.1", "ms/link", "to", "retrieve", "each", "incoming", "or", "outgoing", "link", "as", "an", "internal", "id", ".", "The", "database", "for", "our", "crawl", "of", "328", "million", "pages", "contained", "351", "million", "URLs", "and", "6.1", "billion", "links", ".", "Therefore", ",", "one", "iteration", "of", "PageRank", "ran", "in", "about", "15", "minutes", ".", "In", "this", "section", ",", "we", "report", "on", "our", "experiments", ".", "We", "implemented", "PageRank", "and", "its", "variants", "over", "the", "CS2", "interface", ",", "and", "ran", "each", "algorithm", "for", "100", "iterations", "on", "the", "6.1", "billion", "link", "database", ".", "-LRB-", "In", "all", "our", "experiments", ",", "the", "PageRank", "computation", "converged", "within", "less", "than", "100", "iterations", ".", "-RRB-", "Although", "the", "PageRank", "scores", "are", "conventionally", "normalized", "to", "sum", "to", "1", "-LRB-", "making", "it", "easier", "to", "think", "of", "them", "as", "a", "probability", "distribution", "-RRB-", ",", "we", "normalized", "them", "to", "sum", "to", "the", "number", "of", "nodes", "in", "the", "graph", "-LRB-", "351", "million", "-RRB-", ".", "This", "way", ",", "the", "average", "page", "has", "a", "PageRank", "of", "1", ",", "independent", "of", "the", "number", "of", "pages", ".", "Figure", "1", "shows", "the", "average", "PageRank", "of", "all", "pages", "downloaded", "on", "each", "day", "of", "the", "crawl", ".", "The", "average", "score", "for", "pages", "crawled", "on", "the", "first", "day", "is", "7.04", ",", "more", "than", "three", "times", "the", "average", "score", "of", "2.07", "for", "pages", "crawled", "on", "the", "second", "day", ".", "The", "average", "score", "tapers", "from", "there", "down", "to", "1.08", "after", "the", "first", "week", ",", "0.84", "after", "the", "second", "week", ",", "and", "0.59", "after", "the", "fourth", "week", ".", "Clearly", ",", "we", "downloaded", "more", "high", "quality", "pages", ",", "i.e.", ",", "pages", "with", "high", "PageRank", ",", "early", "in", "the", "crawl", "than", "later", "on", ".", "We", "then", "decided", "to", "examine", "specifically", "when", "we", "had", "crawled", "the", "highest", "ranked", "pages", ".", "We", "examined", "the", "pages", "with", "the", "top", "N", "PageRanks", ",", "for", "increasing", "values", "of", "N", "from", "1", "to", "328", "million", "-LRB-", "all", "of", "the", "pages", "downloaded", "-RRB-", ".", "Figure", "2", "graphs", "the", "average", "day", "on", "which", "we", "crawled", "the", "pages", "with", "the", "highest", "N", "scores", ".", "Note", "that", "the", "horizontal", "axis", "shows", "the", "values", "of", "N", "on", "a", "log", "scale", ".", "All", "of", "the", "top", "10", "and", "91", "of", "the", "top", "100", "pages", "were", "crawled", "on", "the", "first", "day", ".", "There", "are", "some", "anomalies", "in", "the", "graph", "between", "N", "equals", "100", "and", "300", ",", "where", "the", "average", "day", "fluctuates", "between", "2", "and", "3", "-LRB-", "the", "second", "and", "third", "days", "of", "the", "crawl", "-RRB-", ".", "These", "anomalies", "are", "caused", "by", "24", "pages", "in", "the", "top", "300", "-LRB-", "8", "%", "-RRB-", "that", "were", "downloaded", "after", "the", "first", "week", ".", "Most", "of", "those", "pages", "had", "a", "lot", "of", "local", "links", "-LRB-", "links", "from", "pages", "on", "the", "same", "host", "-RRB-", ",", "but", "not", "many", "remote", "links", ".", "In", "other", "words", ",", "the", "1", "10", "100", "1000", "10000", "100000", "1e", "+06", "1e", "+07", "1e", "+08", "top", "N", "5", "10", "15", "20", "25", "Average", "day", "top", "N", "pages", "were", "crawled", "Figure", "2", ":", "Average", "day", "on", "which", "the", "top", "N", "pages", "were", "crawled", "pages", "on", "the", "same", "host", "``", "endorse", "''", "each", "other", ",", "but", "few", "other", "hosts", "endorse", "them", ".", "We", "address", "this", "phenomenon", "later", "in", "the", "last", "experiment", ",", "shown", "in", "Figure", "4", ".", "After", "N", "equals", "400", ",", "the", "curve", "steadily", "increases", "to", "day", "24.5", ",", "the", "mean", "download", "day", "of", "the", "entire", "crawl", ".", "Our", "next", "experiment", "checks", "that", "pages", "with", "high", "PageRank", "are", "not", "ranked", "high", "only", "because", "they", "were", "crawled", "early", ".", "For", "example", ",", "a", "page", "whose", "outgoing", "links", "all", "point", "to", "pages", "with", "links", "back", "to", "it", "might", "have", "an", "artificially", "high", "PageRank", "if", "all", "of", "its", "outgoing", "links", "have", "been", "crawled", ",", "but", "not", "too", "many", "other", "pages", ".", "For", "this", "experiment", "we", "ran", "the", "PageRank", "algorithm", "on", "the", "graph", "induced", "by", "only", "the", "first", "28", "days", "of", "the", "crawl", ".", "This", "graph", "contains", "217", "million", "URLs", "and", "3.8", "billion", "links", "between", "them", ".", "We", "then", "compared", "the", "top", "ranked", "pages", "between", "the", "two", "data", "sets", ".", "We", "found", "that", "of", "the", "top", "1", "million", "scoring", "pages", ",", "96", "%", "were", "downloaded", "during", "the", "first", "4", "weeks", ",", "and", "76", "%", "of", "them", "were", "ranked", "in", "the", "top", "1", "million", "pages", "in", "the", "28", "day", "data", "set", ".", "That", "is", ",", "it", "was", "clear", "that", "those", "pages", "were", "important", "even", "before", "the", "crawl", "had", "finished", ".", "Figure", "3", "generalizes", "these", "statistics", ":", "for", "each", "value", "of", "N", ",", "we", "plot", "the", "percentage", "of", "overlap", "between", "the", "top", "N", "scoring", "pages", "in", "the", "28", "day", "crawl", "versus", "the", "58", "day", "crawl", ".", "Although", "the", "top", "few", "pages", "are", "different", ",", "by", "the", "top", "20", "ranked", "pages", "there", "is", "an", "80", "%", "overlap", ".", "The", "overlap", "continues", "in", "the", "60-80", "%", "range", "through", "the", "extent", "of", "the", "entire", "28", "day", "data", "set", ".", "This", "figure", "suggests", "that", "breadth-first", "search", "crawling", "is", "fairly", "immune", "to", "the", "type", "of", "self-endorsement", "described", "above", ":", "although", "the", "size", "of", "the", "graph", "induced", "by", "the", "full", "crawl", "is", "about", "60", "%", "larger", "than", "the", "graph", "induced", "by", "the", "28", "day", "crawl", ",", "the", "longer", "crawl", "replaced", "only", "about", "25", "%", "of", "the", "``", "hot", "''", "pages", "discovered", "during", "the", "first", "28", "days", ",", "irrespective", "of", "the", "size", "of", "the", "``", "hot", "''", "set", ".", "Some", "connectivity-based", "metrics", ",", "such", "as", "Kleinberg", "'s", "algorithm", "-LSB-", "8", "-RSB-", ",", "consider", "only", "remote", "links", ",", "that", "is", ",", "links", "between", "pages", "on", "different", "hosts", ".", "We", "noticed", "that", "some", "anomalies", "in", "Figure", "2", "were", "due", "to", "a", "lot", "of", "local", "links", ",", "and", "decided", "to", "experiment", "with", "a", "variant", "of", "the", "PageRank", "algorithm", "that", "only", "propagates", "weights", "along", "remote", "links", ".", "This", "modification", "of", "PageRank", "counts", "only", "links", "from", "different", "hosts", "as", "proper", "endorsements", "of", "a", "page", ";", "links", "from", "the", "same", "host", "are", "viewed", "as", "improper", "self-endorsement", "and", "therefore", "not", "counted", ".", "Figure", "4", "shows", "our", "results", ":", "the", "average", "PageRank", "for", "pages", "downloaded", "on", "the", "first", "day", "is", "even", "higher", "than", "when", "all", "links", "are", "considered", ".", "The", "average", "PageRank", "for", "the", "first", "day", "is", "12.1", ",", "while", "it", "'s", "1.8", "on", "the", "second", "day", "and", "1.0", "on", "the", "116", "1", "10", "100", "1000", "10000", "100000", "1e", "+06", "1e", "+07", "1e", "+08", "top", "N", "pages", "0", "20", "40", "60", "80", "100", "%", "overlap", "between", "data", "sets", "Figure", "3", ":", "The", "percent", "overlap", "between", "the", "top", "N", "ranked", "pages", "in", "the", "first", "28", "vs", "all", "58", "days", "of", "the", "crawl", "fourth", "day", ".", "The", "average", "PageRank", "then", "declines", "gradually", "down", "to", "0.6", "on", "the", "last", "day", ".", "Notice", "that", "the", "average", "PageRank", "on", "the", "first", "day", "of", "crawling", "is", "higher", "than", "in", "Figure", "1", ",", "and", "that", "the", "curve", "falls", "more", "sharply", ".", "This", "drop", "indicates", "that", "our", "crawling", "strategy", "is", "not", "biased", "toward", "self-endorsing", "hosts", ",", "as", "a", "crawler", "using", "the", "standard", "version", "of", "PageRank", "would", "be", ".", "We", "believe", "that", "this", "lack", "of", "bias", "is", "due", "in", "part", "to", "our", "crawler", "'s", "politeness", "policies", ",", "which", "impose", "a", "rate", "limit", "on", "its", "accesses", "to", "any", "particular", "host", ".", "There", "are", "some", "flaws", "with", "a", "metric", "based", "only", "on", "remote", "links", ".", "For", "example", ",", "http://www.yahoo.com/", "has", "a", "very", "high", "PageRank", "score", ".", "However", ",", "it", "only", "has", "local", "outlinks", ",", "so", "its", "weight", "gets", "evenly", "distributed", "over", "all", "pages", "in", "the", "graph", ",", "rather", "than", "just", "to", "the", "other", "pages", "in", "Yahoo!", "to", "which", "it", "points", ".", "Transitively", ",", "the", "pages", "on", "other", "hosts", "to", "which", "Yahoo!", "links", "do", "not", "benefit", "from", "the", "high", "score", "of", "http://www.yahoo.com/", ".", "In", "the", "future", "work", "section", "below", ",", "we", "outline", "some", "ideas", "for", "remedying", "this", "problem", ".", "The", "experiments", "described", "in", "this", "paper", "demonstrate", "that", "a", "crawler", "that", "downloads", "pages", "in", "breadth-first", "search", "order", "discovers", "the", "highest", "quality", "pages", "during", "the", "early", "stages", "of", "the", "crawl", ".", "As", "the", "crawl", "progresses", ",", "the", "quality", "of", "the", "downloaded", "pages", "deteriorates", ".", "We", "speculate", "that", "breadth-first", "search", "is", "a", "good", "crawling", "strategy", "because", "the", "most", "important", "pages", "have", "many", "links", "to", "them", "from", "numerous", "hosts", ",", "and", "those", "links", "will", "be", "found", "early", ",", "regardless", "of", "on", "which", "host", "or", "page", "the", "crawl", "originates", ".", "Discovering", "high-quality", "pages", "early", "on", "in", "a", "crawl", "is", "desirable", "for", "public", "web", "search", "engines", "such", "as", "AltaVista", "or", "Google", ",", "given", "that", "none", "of", "these", "search", "engines", "is", "able", "to", "crawl", "and", "index", "more", "than", "a", "fraction", "of", "the", "web", ".", "Our", "results", "have", "practical", "implications", "to", "search", "engine", "companies", ".", "Although", "breadth-first", "search", "crawling", "seems", "to", "be", "a", "very", "natural", "crawling", "strategy", ",", "not", "all", "of", "the", "crawlers", "we", "are", "familiar", "with", "employ", "it", ".", "For", "example", ",", "the", "Internet", "Archive", "crawler", "described", "in", "-LSB-", "3", "-RSB-", "does", "not", "perform", "a", "breadth-first", "search", "of", "the", "entire", "web", ";", "instead", ",", "it", "picks", "64", "hosts", "at", "a", "time", "and", "crawls", "these", "hosts", "in", "parallel", ".", "Each", "host", "is", "crawled", "exhaustively", ";", "links", "that", "point", "to", "other", "hosts", "are", "saved", "to", "seed", "subsequent", "crawls", "of", "those", "hosts", ".", "This", "crawling", "strategy", "has", "no", "bias", "towards", "high-quality", "pages", ";", "if", "the", "hosts", "to", "be", "crawled", "are", "picked", "in", "random", "order", ",", "the", "quality", "of", "downloaded", "pages", "will", "be", "uniform", "throughout", "the", "crawl", ".", "0", "5", "10", "15", "20", "25", "30", "35", "40", "45", "50", "55", "Day", "of", "crawl", "0", "2", "4", "6", "8", "10", "12", "Average", "PageRank", "-LRB-", "remote", "links", "only", "-RRB-", "Figure", "4", ":", "Average", "PageRank", "when", "only", "remote", "links", "are", "considered", "Similarly", ",", "the", "Scooter", "web", "crawler", "used", "until", "recently", "by", "AltaVista", "downloaded", "pages", "in", "essentially", "random", "order", ".", "-LRB-", "At", "this", "point", ",", "AltaVista", "is", "using", "Mercator", ".", "-RRB-", "This", "approach", "made", "it", "easier", "to", "provide", "politeness", "guarantees", "--", "essentially", ",", "it", "spread", "the", "load", "imposed", "by", "the", "crawler", "evenly", "over", "all", "web", "servers", "--", "but", "as", "a", "result", ",", "the", "quality", "of", "the", "discovered", "pages", "is", "uniform", "over", "the", "life", "of", "the", "crawl", ".", "We", "can", "not", "make", "any", "statements", "about", "other", "large-scale", "web", "crawlers", ".", "Most", "search", "engine", "companies", "treat", "their", "crawling", "strategy", "as", "a", "trade", "secret", ",", "and", "have", "not", "described", "it", "in", "the", "literature", ".", "Cho", "et", "al.", "-LSB-", "4", "-RSB-", "showed", "that", "using", "a", "connectivity-based", "ordering", "metric", "for", "downloads", ",", "such", "as", "PageRank", ",", "will", "steer", "the", "crawler", "towards", "even", "higher-quality", "pages", "than", "using", "breadth-first", "search", ".", "However", ",", "computing", "PageRank", "values", "for", "several", "hundred", "million", "or", "more", "pages", "is", "an", "extremely", "expensive", "computation", ".", "It", "took", "us", "over", "a", "day", "to", "compute", "the", "PageRanks", "of", "our", "graph", "of", "351", "million", "pages", ",", "despite", "the", "fact", "that", "we", "had", "the", "hardware", "resources", "to", "hold", "the", "entire", "graph", "in", "memory", "!", "Using", "PageRank", "to", "steer", "a", "crawler", "would", "require", "multiple", "such", "computations", "over", "larger", "and", "larger", "graphs", ",", "in", "order", "to", "take", "newly", "discovered", "pages", "into", "account", ",", "and", "is", "essentially", "infeasible", "in", "real", "time", ".", "On", "the", "other", "hand", ",", "crawling", "in", "breadth-first", "search", "order", "provides", "a", "fairly", "good", "bias", "towards", "high", "quality", "pages", "without", "the", "computational", "cost", ".", "We", "believe", "that", "crawling", "in", "breadth-first", "search", "order", "provides", "the", "better", "tradeoff", ".", "There", "are", "two", "directions", "in", "which", "we", "would", "like", "to", "extend", "this", "work", ".", "One", "direction", "is", "to", "try", "a", "variant", "of", "PageRank", "which", "weighs", "links", "to", "pages", "on", "remote", "hosts", "differently", "than", "links", "to", "other", "pages", "on", "the", "same", "host", ".", "From", "the", "experiment", "that", "generated", "Figure", "4", "above", ",", "we", "learned", "that", "remote", "links", "should", "count", "more", "than", "local", "links", ",", "but", "that", "weights", "should", "be", "propagated", "along", "local", "links", "as", "well", "-LRB-", "e.g.", ",", "to", "distribute", "the", "weight", "of", "http://www.yahoo.com/", "to", "the", "pages", "that", "Yahoo!", "recommends", "-RRB-", ".", "We", "suspect", "that", "some", "search", "engines", "already", "use", "different", "weights", "for", "links", ",", "but", "there", "has", "been", "no", "formal", "study", "of", "how", "to", "divide", "the", "weights", "among", "the", "links", "or", "even", "whether", "the", "division", "should", "be", "static", "-LRB-", "e.g.", ",", "remote", "links", "get", "80", "%", "of", "the", "total", "weight", "-RRB-", "or", "proportional", "to", "the", "number", "of", "total", "links", "-LRB-", "e.g.", ",", "each", "remote", "link", "gets", "four", "times", "the", "weight", "of", "each", "local", "link", "-RRB-", ".", "The", "other", "direction", "is", "to", "try", "different", "connectivity-based", "117", "metrics", ".", "While", "PageRank", "is", "the", "only", "connectivity", "measure", "we", "know", "aimed", "at", "ranking", "all", "of", "the", "pages", "on", "the", "world", "wide", "web", ",", "Kleinberg", "'s", "algorithm", "-LSB-", "8", "-RSB-", "is", "another", "well-known", "connectivity", "analysis", "algorithm", "targeted", "towards", "computing", "quality", "scores", "for", "pages", ".", "The", "algorithm", "computes", "two", "scores", "for", "each", "document", ":", "a", "hub", "score", "and", "an", "authority", "score", ".", "Pages", "with", "high", "authority", "scores", "are", "expected", "to", "have", "high-quality", "content", ";", "the", "authority", "scores", "are", "similar", "in", "intent", "to", "PageRanks", ".", "Kleinberg", "'s", "algorithm", "is", "designed", "to", "rank", "the", "results", "of", "a", "query", "to", "a", "search", "engine", ",", "and", "only", "considers", "a", "small", "set", "of", "pages", "when", "it", "computes", "authority", "scores", ".", "However", ",", "we", "believe", "that", "we", "can", "extend", "the", "algorithm", "to", "consider", "the", "entire", "graph", "of", "the", "web", ".", "-LSB-", "1", "-RSB-", "K.", "Bharat", ",", "A.", "Broder", ",", "M.", "Henzinger", ",", "P.", "Kumar", ",", "and", "S.", "Venkatasubramanian", ".", "The", "connectivity", "server", ":", "Fast", "access", "to", "linkage", "information", "on", "the", "web", ".", "In", "Proceedings", "of", "the", "7th", "International", "World", "Wide", "Web", "Conference", ",", "pages", "469", "477", ",", "Brisbane", ",", "Australia", ",", "April", "1998", ".", "Elsevier", "Science", ".", "-LSB-", "2", "-RSB-", "S.", "Brin", "and", "L.", "Page", ".", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "web", "search", "engine", ".", "In", "Proceedings", "of", "the", "7th", "International", "World", "Wide", "Web", "Conference", ",", "pages", "107", "117", ",", "Brisbane", ",", "Australia", ",", "April", "1998", ".", "Elsevier", "Science", ".", "-LSB-", "3", "-RSB-", "M.", "Burner", ".", "Crawling", "towards", "eternity", ":", "Building", "an", "archive", "of", "the", "world", "wide", "web", ".", "Web", "Techniques", "Magazine", ",", "2", "-LRB-", "5", "-RRB-", ":", "37", "40", ",", "May", "1997", ".", "-LSB-", "4", "-RSB-", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "and", "L.", "Page", ".", "Efficient", "crawling", "through", "URL", "ordering", ".", "In", "Proceedings", "of", "the", "7th", "International", "World", "Wide", "Web", "Conference", ",", "pages", "161", "172", ",", "Brisbane", ",", "Australia", ",", "April", "1998", ".", "Elsevier", "Science", ".", "-LSB-", "5", "-RSB-", "Google", "Inc.", ".", "Press", "release", ":", "``", "Google", "launches", "world", "'s", "largest", "search", "engine", ".", "''", "June", "26", ",", "2000", ".", "Available", "at", "http://www.google.com/press/pressrel/pressrelease26.html", "-LSB-", "6", "-RSB-", "M.", "Henzinger", ",", "A.", "Heydon", ",", "M.", "Mitzenmacher", ",", "and", "M.", "Najork", ".", "On", "near-uniform", "URL", "sampling", ".", "In", "Proceedings", "of", "the", "9th", "International", "World", "Wide", "Web", "Conference", ",", "pages", "295", "308", ",", "Amsterdam", ",", "Netherlands", ",", "May", "2000", ".", "Elsevier", "Science", ".", "-LSB-", "7", "-RSB-", "A.", "Heydon", "and", "M.", "Najork", ".", "Mercator", ":", "A", "scalable", ",", "extensible", "web", "crawler", ".", "World", "Wide", "Web", ",", "2", "-LRB-", "4", "-RRB-", ":", "219", "229", ",", "Dec.", "1999", ".", "-LSB-", "8", "-RSB-", "J.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "In", "Proceedings", "of", "the", "9th", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", ",", "pages", "668", "677", ",", "San", "Francisco", ",", "CA", ",", "Jan.", "1998", ".", "-LSB-", "9", "-RSB-", "P.", "Lyman", ",", "H.", "Varian", ",", "J.", "Dunn", ",", "A.", "Strygin", ",", "and", "K.", "Swearingen", ".", "How", "much", "information", "?", "School", "of", "Information", "Management", "and", "Systems", ",", "Univ.", "of", "California", "at", "Berkeley", ",", "2000", ".", "Available", "at", "http://www.sims.berkeley.edu/how-much-info", "-LSB-", "10", "-RSB-", "Mercator", "Home", "Page", ".", "http://www.research.digital.com/SRC/mercator", "-LSB-", "11", "-RSB-", "J.", "L.", "Wiener", ",", "R.", "Wickremesinghe", ",", "M.", "Burrows", ",", "K.", "Randall", ",", "and", "R.", "Stata", ".", "Better", "link", "compression", ".", "Manuscript", "in", "progress", ".", "Compaq", "Systems", "Research", "Center", ",", "2001", ".", "VITAE", "Marc", "Najork", "is", "a", "senior", "member", "of", "the", "research", "staff", "at", "Compaq", "Computer", "Corporation", "'s", "Systems", "Research", "Center", ".", "His", "current", "research", "focuses", "on", "high-performance", "web", "crawling", "and", "web", "characterization", ".", "He", "was", "a", "principal", "contributor", "to", "Mercator", ",", "the", "web", "crawler", "used", "by", "AltaVista", ".", "In", "the", "past", ",", "he", "has", "worked", "on", "tools", "for", "web", "surfing", ",", "3D", "animation", ",", "information", "visualization", ",", "algorithm", "animation", ",", "and", "visual", "programming", "languages", ".", "He", "received", "a", "Ph.D.", "in", "Computer", "Science", "from", "the", "University", "of", "Illinois", "at", "Urbana-Champaign", "in", "1994", ".", "Janet", "L.", "Wiener", "is", "a", "member", "of", "the", "research", "staff", "at", "Compaq", "Computer", "Corporation", "'s", "Systems", "Research", "Center", ".", "She", "currently", "focuses", "on", "developing", "algorithms", "to", "characterize", "the", "web", "and", "tools", "-LRB-", "such", "as", "the", "Connectivity", "Server", "-RRB-", "to", "support", "those", "algorithms", ".", "Prior", "to", "joining", "Compaq", "in", "1998", ",", "she", "was", "a", "research", "scientist", "at", "Stanford", "University", "working", "on", "data", "warehousing", ",", "heterogeneous", "data", "integration", ",", "and", "semi-structured", "data", ".", "She", "received", "a", "Ph.D.", "from", "the", "University", "of", "Wisconsin-Madison", "in", "1995", ",", "and", "a", "B.A.", "from", "Williams", "College", "in", "1989", ".", "118"], "doc_bio_tags": ["O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["crawling", "high quality pages", "ordering metrics", "pagerank", "page quality metric"], "abstractive_keyphrases": ["breadth first search", "crawl order", "breadth-first search", "connectivity-based metrics"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "8", "document": ["A", "Flexible", "3D", "Slicer", "for", "Voxelization", "Using", "Graphics", "Hardware", "In", "this", "paper", "we", "present", "a", "simple", "but", "general", "3D", "slicer", "for", "voxelizing", "polygonal", "model", ".", "Instead", "of", "voxelizing", "a", "model", "by", "projecting", "and", "rasterizing", "triangles", "with", "clipping", "planes", ",", "the", "distance", "field", "is", "used", "for", "more", "accurate", "and", "stable", "voxelization", ".", "Distance", "transform", "is", "used", "with", "triangles", "on", "voxels", "of", "each", "slice", ".", "A", "voxel", "is", "marked", "with", "opacity", "only", "when", "the", "shortest", "distance", "between", "it", "and", "triangles", "is", "judged", "as", "intersection", ".", "With", "advanced", "programmable", "graphics", "hardware", "assistance", ",", "surface", "and", "solid", "voxelization", "are", "feasible", "and", "more", "efficient", "than", "on", "a", "CPU", ".", "CR", "Categories", ":", "I.", "3.1", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Hardware", "Architecture", "--", "Graphics", "processors", ";", "I.", "3.5", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Computational", "Geometry", "and", "Object", "Modeling", "--", "Curve", ",", "surface", ",", "solid", ",", "and", "object", "representations", ";", "Object", "representation", "is", "a", "broad", "topic", "in", "research", ".", "In", "computer", "graphics", ",", "polygons", "play", "a", "dominant", "role", "in", "3D", "graphics", "because", "they", "approximate", "arbitrary", "surfaces", "by", "meshes", ".", "In", "games", "and", "animations", ",", "surface", "representation", "is", "the", "main", "technique", "used", "in", "rendering", "and", "visualization", ".", "However", ",", "volumetric", "representation", ",", "an", "alternative", "method", "to", "traditional", "geometric", "representation", ",", "is", "well", "known", "since", "the", "1980s", ".", "It", "provides", "a", "simple", "and", "uniform", "description", "to", "measure", "and", "model", "a", "volumetric", "objects", "and", "establish", "the", "research", "field", "of", "volumetric", "graphics", ".", "Voxelization", "is", "a", "process", "of", "constructing", "a", "volumetric", "representation", "of", "an", "object", ".", "Voxelizing", "a", "polygonal", "object", "is", "not", "only", "a", "shift", "of", "the", "representation", ",", "it", "gives", "an", "opportunity", "to", "manipulate", "mesh", "object", "with", "volumetric", "operations", "such", "as", "morphological", "operation", "and", "solid", "modeling", ".", "Many", "applications", ",", "for", "example", ",", "CSG", "modeling", ",", "virtual", "medicine", ",", "haptic", "rendering", ",", "visualization", "of", "geometric", "model", ",", "collision", "detection", ",", "3D", "spatial", "analysis", ",", "and", "model", "fixing", ",", "work", "on", "volumetric", "representation", "or", "use", "it", "as", "the", "inter-medium", ".", "In", "this", "paper", ",", "we", "calculate", "the", "accurate", "distance", "field", "on", "GPU", "to", "compute", "coverage", "of", "each", "voxel", "in", "voxelization", "for", "polygonal", "models", ".", "Our", "method", "works", "for", "arbitrary", "triangulated", "models", "without", "any", "preprocessing", "for", "models", ",", "except", "organizing", "meshes", "slab", "by", "slab", "in", "order", "to", "prune", "the", "unnecessary", "computation", "while", "voxelizing", "complex", "models", ".", "By", "using", "the", "power", "of", "GPU", ",", "Hausdorff", "distance", "is", "guaranteed", "between", "each", "sampled", "voxel", "and", "the", "polygonal", "model", ".", "Surface", "voxelization", "with", "distance", "field", "on", "a", "GPU", "works", "well", "and", "runs", "faster", "than", "on", "a", "PC", "with", "a", "CPU", ".", "Our", "method", "is", "a", "reliable", "and", "accurate", "solution", "for", "the", "polygonal", "model", "under", "a", "given", "distribution", "of", "sampling", "voxels", "and", "a", "specific", "opacity", "criterion", ".", "Besides", ",", "error", "tolerance", "in", "voxelization", "is", "easy", "to", "manipulate", "by", "adjusting", "the", "threshold", "of", "opacity", "criterion", "for", "voxelization", ",", "which", "also", "dominates", "the", "smoothness", "of", "features", "and", "the", "thickness", "of", "surface", "voxelization", ".", "e-mail", ":", "wktai@mail.ndhu.edu.tw", "The", "rest", "of", "paper", "is", "organized", "as", "follows", ".", "Some", "related", "works", "are", "surveyed", "in", "the", "section", "2", ".", "In", "section", "3", ",", "we", "present", "the", "computation", "of", "Hausdorff", "distance", "and", "our", "framework", ".", "The", "experimental", "results", "are", "illustrated", "in", "section", "4", ".", "Finally", ",", "we", "conclude", "the", "proposed", "approach", "and", "point", "out", "some", "future", "works", ".", "Volume", "construction", "approaches", "are", "often", "referred", "to", "as", "scan-conversion", "or", "voxelization", "methods", ".", "Researchers", "mainly", "focused", "on", "modeling", "aspects", "such", "as", "robustness", "and", "accuracy", ".", "Wang", "and", "Kaufman", "-LSB-", "Wang", "and", "Kaufman", "1993", "-RSB-", "used", "a", "method", "that", "samples", "and", "filters", "the", "voxels", "in", "3D", "space", "to", "produce", "alias-free", "3D", "volume", "models", ".", "They", "used", "filters", "to", "produce", "final", "density", "from", "the", "support", "of", "the", "region", "that", "polygons", "lie", "inside", ".", "Schroeder", "and", "Lorensen", "-LSB-", "Schroeder", "et", "al.", "1994", "-RSB-", "created", "a", "volumetric", "model", "by", "finding", "clos-est", "polygon", "from", "distance", "map", "and", "classify", "the", "opacity", "of", "voxels", ".", "Huang", "et", "al.", "-LSB-", "Huang", "et", "al.", "1998", "-RSB-", "described", "separability", "and", "min-imality", "as", "two", "desirable", "features", "of", "a", "discrete", "surface", "representation", "and", "extended", "2D", "scan", "line", "algorithm", "to", "perform", "voxelization", ".", "Dachille", "and", "Kaufman", "-LSB-", "Dachille", "IX", "and", "Kaufman", "2000", "-RSB-", "presented", "an", "incremental", "method", "for", "voxelizing", "a", "triangle", "with", "pre-filtering", "to", "generate", "multivalued", "voxelization", ".", "Widjaya", "et", "al.", "-LSB-", "Widjaya", "et", "al.", "2003", "-RSB-", "presented", "the", "voxelization", "in", "common", "sampling", "lattices", "as", "general", "2D", "lattices", "including", "hexagonal", "lattices", "and", "3D", "body-center", "cubic", "lattices", ".", "Ju", "-LSB-", "Ju", "2004", "-RSB-", "constructed", "an", "octree", "grid", "for", "recording", "intersected", "edges", "with", "the", "model", "and", "expanded", "nodes", "to", "scan-convert", "a", "polygon", "on", "an", "octree", ",", "and", "then", "generate", "signs", "from", "the", "boundary", "edges", "and", "faces", "of", "the", "octree", ".", "In", "recent", "years", ",", "attention", "on", "performance", "of", "voxelization", "raises", ".", "More", "and", "more", "studies", "try", "to", "explore", "the", "benefits", "of", "graphics", "hardware", "for", "more", "efficient", "rendering", ".", "Chen", "and", "Feng", "-LSB-", "Chen", "and", "Fang", "1999", "-RSB-", "presented", "a", "slicing-based", "voxelization", "algorithm", "to", "generate", "slices", "of", "the", "underlying", "model", "in", "the", "frame", "buffer", "by", "setting", "appropriate", "clipping", "planes", "and", "extracting", "each", "slice", "of", "the", "model", ",", "which", "is", "extended", "and", "published", "in", "later", "-LSB-", "Chen", "and", "Fang", "2000", "-RSB-", ".", "Karabassi", "and", "Theoharis", "-LSB-", "Karabassi", "and", "Theoharis", "1999", "-RSB-", "projected", "an", "object", "to", "six", "faces", "of", "its", "bounding", "box", "through", "standard", "graphics", "system", "for", "the", "outermost", "parts", "and", "read", "back", "the", "information", "from", "depth", "buffer", ".", "However", "it", "works", "well", "only", "on", "convex", "objects", ".", "Dong", "et", "al.", "-LSB-", "Dong", "et", "al.", "2004", "-RSB-", "proposed", "a", "real-time", "voxelization", "method", "using", "GPU", "acceleration", "to", "rasterize", "and", "texelize", "an", "object", "into", "three", "directional", "textures", "and", "then", "synthesize", "textures", "back", "to", "the", "final", "volume", ".", "285", "In", "this", "section", ",", "we", "first", "discuss", "the", "computation", "of", "Hausdorff", "distance", "between", "a", "given", "triangle", "and", "a", "point", ".", "Then", "we", "explain", "how", "we", "use", "GPU", "to", "compute", "the", "distance", "field", "of", "triangles", "and", "modify", "the", "rendering", "pipeline", ".", "3.1", "Distance", "Field", "Computation", "For", "a", "given", "3D", "point", "P", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "and", "a", "triangle", "T", "-LRB-", "V", "0", ",", "V", "1", ",", "V", "2", "-RRB-", ",", "Hausdorff", "distance", "is", "the", "shortest", "distance", "between", "the", "point", "P", "and", "any", "point", "v", "on", "the", "triangle", ".", "A", "point", "on", "triangle", "T", "can", "be", "parametrically", "defined", "by", "two", "linearly", "independent", "vectors", "with", "two", "weights", "-LRB-", "s", ",", "t", "-RRB-", "by", "T", "-LRB-", "s", ",", "t", "-RRB-", "=", "B", "+", "se", "0", "+", "te", "1", ",", "-LRB-", "1", "-RRB-", "where", "-LRB-", "s", ",", "t", "-RRB-", "D", "=", "-LCB-", "-LRB-", "s", ",", "t", "-RRB-", ":", "s", "-LSB-", "0", ",", "1", "-RSB-", ",", "t", "-LSB-", "0", ",", "1", "-RSB-", ",", "s", "+", "t", "1", "-RCB-", ",", "and", "B", "=", "V", "0", ",", "e", "0", "=", "V", "1", "-", "V", "0", "and", "e", "1", "=", "V", "2", "-", "V", "0", ".", "For", "any", "point", "on", "triangle", "T", ",", "the", "distance", "from", "T", "to", "P", "is", "T", "-LRB-", "s", ",", "t", "-RRB-", "-", "P", ",", "-LRB-", "2", "-RRB-", "or", "we", "can", "use", "the", "squared-distance", "function", "instead", "Q", "-LRB-", "s", ",", "t", "-RRB-", "=", "T", "-LRB-", "s", ",", "t", "-RRB-", "-", "P", "2", ",", "-LRB-", "3", "-RRB-", "where", "a", "point", "p", "=", "-LRB-", "s", ",", "t", "-RRB-", "exists", "which", "makes", "Q", "-LRB-", "s", ",", "t", "-RRB-", "minimum", ".", "Therefore", ",", "the", "computation", "of", "distance", "can", "be", "reduced", "into", "a", "min-imization", "problem", ".", "For", "an", "efficient", "computation", ",", "we", "can", "expand", "Q", "-LRB-", "s", ",", "t", "-RRB-", "as", "Q", "-LRB-", "s", ",", "t", "-RRB-", "=", "as", "2", "+", "2bst", "+", "ct", "2", "+", "2ds", "+", "2et", "+", "f", ",", "-LRB-", "4", "-RRB-", "where", "a", "=", "e", "0", "e", "0", "b", "=", "e", "0", "e", "1", "c", "=", "e", "1", "e", "1", "d", "=", "e", "0", "-LRB-", "B", "-", "P", "-RRB-", "e", "=", "e", "1", "-LRB-", "B", "-", "P", "-RRB-", "f", "=", "-LRB-", "B", "-", "P", "-RRB-", "-LRB-", "B", "-", "P", "-RRB-", "-LRB-", "5", "-RRB-", "From", "analyzing", "the", "gradient", "of", "Q", "-LRB-", "s", ",", "t", "-RRB-", ",", "the", "minimum", "s", "and", "t", "happens", "only", "when", "Q", "is", "zero", ",", "where", "s", "=", "be", "-", "cd", "ac", "-", "b", "2", "t", "=", "bd", "-", "ae", "ac", "-", "b", "2", "-LRB-", "6", "-RRB-", "If", "-LRB-", "s", ",", "t", "-RRB-", "D", ",", "the", "minimum", "distance", "is", "the", "distance", "between", "p", "and", "P", ";", "otherwise", ",", "according", "to", "the", "sign", "of", "s", "and", "t", ",", "there", "are", "six", "possible", "regions", "that", "the", "shortest", "distance", "point", "p", "may", "lie", "on", "triangle", "T", ",", "as", "shown", "in", "Figure", "1", ".", "Efficient", "solutions", "are", "well", "addressed", "on", "the", "book", "-LSB-", "Schneider", "and", "Eberly", "2003", "-RSB-", "by", "CPU", "computation", "with", "simple", "calculation", "and", "logic", "classification", ".", "However", ",", "in", "GPU", ",", "there", "is", "no", "efficient", "dynamic", "flow", "control", "to", "determine", "the", "shortest", "point", "on", "a", "triangle", ".", "Therefore", ",", "instead", "of", "directly", "computing", "the", "point", "of", "shortest", "distance", "on", "a", "triangle", ",", "we", "compute", "the", "distance", "from", "the", "3D", "point", "to", "four", "possible", "points", "which", "may", "be", "inside", "the", "triangle", "or", "on", "the", "three", "boundaries", "and", "then", "the", "minimum", "scalar", "is", "the", "shortest", "distance", ".", "These", "four", "points", "are", "-LRB-", "s", "0", ",", "t", "0", "-RRB-", "=", "-LRB-", "be", "-", "cd", "ac", "-", "b", "2", ",", "bd", "-", "ae", "ac", "-", "b", "2", "-RRB-", "-LRB-", "s", "1", ",", "t", "1", "-RRB-", "=", "-LRB-", "0", ",", "e", "c", "-RRB-", "-LRB-", "s", "3", ",", "t", "3", "-RRB-", "=", "-LRB-", "c", "+", "e-b-d", "a", "-2", "b", "+", "c", ",", "a", "+", "d-b-e", "a", "-2", "b", "+", "c", "-RRB-", "-LRB-", "s", "2", ",", "t", "2", "-RRB-", "=", "-LRB-", "d", "a", ",", "0", "-RRB-", ",", "-LRB-", "7", "-RRB-", "Figure", "1", ":", "Six", "regions", "in", "s", ",", "t", "coordinate", ".", "Space", "is", "partitioned", "by", "range", "of", "parameters", "s", "and", "t", "for", "efficient", "shortest", "position", "classification", "and", "calculation", ".", "Figure", "2", ":", "Rendering", "pipeline", "for", "generating", "a", "distance", "field", "of", "a", "triangle", ".", "A", "quad", "is", "rendered", "instead", "of", "a", "triangle", ".", "Five", "channels", "of", "each", "vertex", "of", "a", "quad", "-LRB-", "position", ",", "normal", ",", "and", "4", "texture", "coordinates", "-RRB-", "is", "filled", "with", "position", "of", "quad", ",", "position", "of", "voxel", ",", "and", "information", "of", "a", "triangle", ":", "v", "0", ",", "e", "0", ",", "e", "1", ",", "and", "normal", "N", "respectively", ".", "where", "position", "-LRB-", "s", "0", ",", "t", "0", "-RRB-", "assumes", "point", "p", "is", "inside", "the", "triangle", ",", "positions", "-LRB-", "s", "1", ",", "t", "1", "-RRB-", ",", "-LRB-", "s", "2", ",", "t", "2", "-RRB-", "and", "-LRB-", "s", "3", ",", "t", "3", "-RRB-", "assume", "point", "p", "is", "on", "boundaries", "of", "s", "=", "0", ",", "t", "=", "0", ",", "and", "s", "+", "t", "=", "1", ".", "All", "calculated", "points", "are", "truncated", "in", "the", "range", "of", "-LSB-", "0", ",", "1", "-RSB-", "so", "that", "three", "end", "vertices", "of", "the", "triangle", "T", "are", "also", "in", "consideration", "and", "it", "guarantees", "these", "points", "are", "on", "the", "triangle", "for", "distance", "computation", ".", "Therefore", ",", "the", "minimum", "distance", "is", "the", "shortest", "distance", "from", "the", "point", "P", "to", "the", "triangle", "T", ".", "3.2", "Geometry", "Rendering", "for", "Voxelization", "Voxelization", "by", "projection", "and", "rasterization", "faces", "the", "difficulty", "of", "non-uniform", "sampling", "of", "polygons", "because", "polygons", "with", "arbitrary", "orientations", "are", "not", "parallel", "to", "projection", "plane", "for", "maximum", "projection", "area", ".", "Even", "classifying", "polygons", "and", "projecting", "them", "to", "individual", "best-fit", "plane", ",", "there", "still", "have", "no", "guarantee", "on", "valid", "rasterization", ".", "However", ",", "distance", "field", "is", "omni-directional", ",", "i.e.", ",", "insensitive", "to", "the", "projection", "plane", ",", "and", "has", "no", "assumption", "on", "input", "geometry", "and", "therefore", "no", "extra", "preprocessing", "is", "required", ".", "Our", "approach", "is", "a", "slice-based", "approach", "for", "distance", "field", "generation", "and", "voxelization", ".", "Figure", "2", "shows", "the", "rendering", "process", "for", "generating", "the", "distance", "field", "for", "a", "triangle", ".", "For", "each", "triangle", "T", "i", "=", "-LCB-", "T", "i", "-LRB-", "s", ",", "t", "-RRB-", "|", "v", "0", "+", "se", "0", "+", "te", "1", ",", "s", "0", ",", "t", "0", ",", "s", "+", "t", "1", "-RCB-", ",", "a", "full-filled", "quad", "Q", "i", "=", "-LCB-", "q", "i", "0", ",", "q", "i", "1", ",", "q", "i", "2", ",", "q", "i", "3", "-RCB-", "is", "rendered", "and", "rasterized", "to", "generate", "the", "distance", "field", "from", "voxels", "on", "a", "slice", "to", "the", "triangle", ".", "Triangle", "data", "and", "voxel", "positions", "are", "associated", "with", "the", "rendering", "quads", ".", "Voxel", "positions", "are", "stored", "in", "the", "channel", "of", "vertex", "normal", ",", "the", "triangle", "data", "-LRB-", "base", "vertex", "B", ",", "vectors", "e", "0", "and", "te", "1", ",", "and", "the", "normal", "N", "-RRB-", "are", "separately", "stored", "in", "channels", "of", "texture", "coordinates", "and", "transmitted", "to", "GPU", ".", "Voxel", "positions", "are", "linearly", "interpolated", "in", "rasterization", "of", "rendering", "pipeline", "and", "pairs", "of", "triangle", "data", "and", "voxel", "positions", "are", "sent", "to", "pixel", "processors", "for", "Hausdorff", "distance", "computation", ".", "After", "distance", "computation", ",", "the", "shortest", "distance", "between", "a", "triangle", "and", "a", "286", "voxel", "is", "stored", "in", "the", "pixel", "depth", "and", "the", "pixel", "color", "is", "assigned", "for", "identification", "depending", "on", "applications", ".", "For", "example", ",", "binary", "surface", "voxelization", "uses", "color", "information", "to", "identify", "whether", "a", "voxel", "intersects", "a", "geometry", "such", "as", "0", "for", "empty", "and", "1", "for", "opacity", ";", "distance", "visualization", "uses", "color", "information", "to", "display", "the", "distance", "from", "geometries", ",", "etc.", ".", "The", "distance", "field", "of", "polygonal", "objects", "is", "constructed", "incrementally", "by", "rendering", "quads", "of", "triangles", ".", "Each", "pixel", "of", "depth", "buffer", "keeps", "the", "shortest", "distance", "from", "its", "voxel", "to", "triangles", "rendered", ".", "Depth", "buffer", "updates", "when", "a", "triangle", "is", "rendered", ".", "Unless", "distance", "is", "recal-culated", "on", "different", "slice", "or", "rendered", "objects", "deform", ",", "quads", "which", "have", "been", "rendered", "have", "no", "need", "to", "be", "re-rendered", "again", "even", "new", "geometry", "are", "added", "in", "the", "scene", ".", "Depth", "buffer", "of", "the", "viewport", "is", "initialized", "as", "infinitude", ".", "The", "rendering", "pseudo", "code", "is", "abstracted", "as", "follows", ":", "for", "each", "triangle", "t", "on", "slice", "i", "-LCB-", "Create", "a", "quad", "Q", "for", "the", "triangle", "t", "for", "k", "=", "0", "to", "3", "-LCB-", "/", "/", "assign", "a", "full-filled", "quad", "/", "/", "q", "is", "end", "vertices", "of", "quad", "Q.q", "-LSB-", "k", "-RSB-", ".", "position", "=", "ScreenBoundary.q", "-LSB-", "k", "-RSB-", ";", "/", "/", "assign", "voxel", "position", ",", "and", "triangle", "data", "Q.q", "-LSB-", "k", "-RSB-", ".", "normal", "=", "Slice", "-LSB-", "i", "-RSB-", ".", "q", "-LSB-", "k", "-RSB-", ";", "Q.q", "-LSB-", "k", "-RSB-", ".", "tex0", "=", "t.B", ";", "Q.q", "-LSB-", "k", "-RSB-", ".", "tex1", "=", "t.e0", ";", "Q.q", "-LSB-", "k", "-RSB-", ".", "tex2", "=", "t.e1", ";", "-RCB-", "RenderQuad", "-LRB-", "Q", "-RRB-", ";", "-RCB-", "3.3", "Surface", "Voxelization", "We", "use", "local", "distance", "field", "to", "reduce", "work", "load", "of", "GPU", "because", "the", "distance", "field", "far", "away", "from", "a", "triangle", "is", "meaningless", "for", "surface", "voxelization", ".", "For", "each", "triangle", ",", "we", "extend", "its", "parallel", "projected", "bounding", "rectangle", "by", "a", "small", "scalar", "for", "effective", "rasterization", "especially", "for", "triangles", "perpendicular", "to", "the", "projection", "plane", ".", "Due", "to", "coherence", "and", "precision", "in", "interpolating", "voxel", "positions", ",", "triangles", "are", "rendered", "with", "extended", "bounding", "rectangles", ".", "While", "a", "pixel", "is", "rasterized", "by", "a", "quad", ",", "Hausdorff", "distance", "is", "calculated", "according", "to", "the", "interpolated", "voxels", ",", "i.e.", ",", "centers", "of", "voxels", ",", "and", "the", "triangle", "data", ".", "Only", "if", "the", "distance", "is", "less", "than", "the", "given", "threshold", ",", "e.g.", ",", "distance", "from", "a", "uniform", "voxel", "center", "to", "its", "corner", ",", "the", "pixel", "is", "marked", "as", "opacity", ".", "Using", "local", "distance", "field", "could", "guarantee", "a", "small", "region", "of", "Hausdorff", "distance", "but", "greatly", "improve", "the", "performance", "of", "surface", "voxelization", ".", "For", "more", "efficient", "voxelization", "process", "on", "GPU", ",", "triangles", "can", "be", "culled", "early", "by", "space", "partitioning", ".", "We", "construct", "an", "active", "triangle", "list", "for", "each", "slice", ".", "Currently", "we", "define", "slabs", "along", "Z-axis", ".", "According", "to", "partitioning", "planes", ",", "triangles", "are", "filtered", "and", "rearranged", "slab", "by", "slab", ".", "Many", "triangles", "can", "be", "pruned", "while", "rendering", "a", "slice", ".", "It", "is", "significantly", "helpful", "while", "voxelizing", "very", "complex", "models", ".", "Because", "distance", "field", "is", "insensitive", "to", "projecting", "directions", "of", "triangles", ",", "selection", "of", "partitioning", "plane", "has", "no", "influence", "on", "effective-ness", "of", "voxelization", ".", "We", "implement", "our", "fragment", "program", "using", "HLSL", "on", "a", "Pentium", "4", "3.0", "MHz", "PC", "with", "1G", "RAM", "and", "a", "nVidia", "Geforce", "FX5800", "graphics", "card", "running", "on", "Windows", "XP", "with", "DirectX", "9.0", "c", ".", "We", "use", "Vertex", "Shader", "1.1", "and", "Pixel", "Shader", "2.0", "to", "implement", "fragment", "program", "in", "scattering", "pairs", "of", "voxel", "positions", "and", "triangle", "data", "and", "in", "distance", "calculation", "and", "visualization", ".", "Table", "1", "shows", "the", "performance", "Figure", "4", ":", "Rendering", "from", "the", "results", "of", "voxelization", "-LRB-", "512", "3", "-RRB-", ":", "dragon", "of", "870K", "faces", "in", "512", "3", "voxels", ".", "of", "surface", "voxelization", "on", "different", "models", "and", "in", "different", "voxel", "resolutions", ".", "Figure", "3", "and", "Figure", "4", "demonstrate", "quality", "of", "voxelization", "results", ".", "In", "the", "experiment", ",", "opacity", "threshold", "is", "set", "to", "the", "distance", "from", "voxel", "center", "to", "its", "corner", ".", "That", "means", "if", "the", "shortest", "distance", "between", "a", "voxel", "and", "a", "triangle", "is", "less", "than", "the", "threshold", ",", "the", "voxel", "will", "be", "marked", "as", "opacity", ".", "Note", "that", "voxels", "are", "normal-ized", "to", "cubes", "in", "rendering", "so", "the", "scale", "of", "output", "may", "differ", "from", "the", "original", "polygonal", "model", ".", "In", "Table", "1", ",", "we", "list", "average", "time", "on", "surface", "voxelization", "per", "slice", ",", "per", "voxel", ",", "and", "per", "triangle", ".", "In", "the", "same", "resolution", ",", "voxelization", "time", "is", "proportional", "to", "the", "complexity", "of", "polygonal", "model", ".", "For", "each", "voxel", ",", "process", "time", "is", "always", "less", "than", "0.1", "ms.", "Even", "when", "voxel", "resolution", "increase", ",", "GPU", "still", "could", "handle", "voxelization", "for", "complex", "object", "in", "stable", "throughput", "which", "may", "be", "increased", "much", "more", "for", "CPU", ".", "Due", "to", "speed", "up", "by", "using", "local", "distance", "field", "and", "culling", "for", "unre-lated", "geometry", ",", "voxelization", "by", "distance", "field", "can", "be", "displayed", "slice", "by", "slice", "interactively", "under", "128", "3", "voxel", "resolution", ".", "When", "voxel", "resolution", "is", "low", ",", "voxelization", "time", "highly", "depends", "on", "complexity", "of", "model", ".", "However", ",", "when", "the", "voxel", "resolution", "increases", "higher", ",", "even", "for", "a", "low", "complexity", "model", ",", "it", "still", "need", "more", "time", "to", "voxelize", "a", "model", "than", "in", "lower", "voxel", "resolution", ".", "On", "average", ",", "resolution", "of", "256", "3", "could", "provide", "a", "benefit", "of", "reliable", "voxelization", "both", "in", "quality", "and", "time", "cost", ".", "Rendering", "cost", "is", "stable", "for", "a", "triangle", "even", "when", "resolution", "of", "volume", "increases", "while", "it", "is", "linear", "on", "a", "CPU", ".", "Voxelization", "with", "proposed", "method", "is", "still", "slower", "than", "methods", "using", "traditional", "projection", "and", "rasterization", "by", "graphic", "hardware", ".", "However", ",", "our", "method", "is", "stable", ",", "correct", "and", "flexible", "because", "the", "opacity", "of", "each", "voxel", "is", "determined", "by", "thresholding", "the", "distance", "field", "of", "objects", ".", "In", "this", "paper", ",", "we", "propose", "a", "GPU-based", "3D", "slicer", "approach", "for", "voxelizing", "polygonal", "models", ".", "We", "calculate", "minimum", "distance", "between", "pairs", "of", "sampled", "voxels", "and", "triangles", "of", "arbitrary", "models", "with", "guarantee", "of", "Hausdorff", "distance", ".", "With", "programmable", "hardware", "ver-tex/pixel", "processors", ",", "efficient", "surface", "voxelization", ",", "solid", "voxelization", ",", "and", "visualization", "of", "the", "distance", "field", "all", "are", "feasible", "on", "the", "proposed", "3D", "slicer", ".", "However", ",", "in", "current", "implementation", ",", "performance", "of", "pixel", "shader", "is", "the", "bottleneck", "in", "overall", "processing", "speed", ".", "Area", "of", "rasterization", "also", "has", "a", "significant", "influence", "on", "the", "loading", "of", "pixel", "shader", ".", "287", "Model", "Faces", "Res", ".", "Time", "-LRB-", "s", "-RRB-", "Time", "Slices", "Time", "Voxels", "Time", "Tri", ".", "Res", ".", "Time", "-LRB-", "s", "-RRB-", "Time", "Slices", "Time", "Voxels", "Time", "Tri", ".", "Beethoven", "5027", "128", "13.94", "0.11", "6.65", "2.77", "256", "85.86", "0.34", "5.12", "17.08", "Teapot", "6320", "128", "14.31", "0.11", "6.82", "2.26", "256", "87.62", "0.34", "5.22", "13.86", "Cup", "7494", "128", "15.24", "0.12", "7.27", "2.03", "256", "93.65", "0.37", "5.58", "12.50", "Bunny", "10000", "128", "16.24", "0.13", "7.75", "1.62", "256", "93.98", "0.37", "5.60", "9.40", "Bunny", "69451", "128", "43.21", "0.34", "20.60", "0.62", "256", "231.85", "0.91", "13.82", "3.34", "Dragon", "871414", "128", "84.21", "0.66", "40.15", "0.10", "256", "325.87", "1.27", "19.42", "0.37", "Buddha", "1087716", "128", "170.44", "1.33", "81.27", "0.16", "256", "347.65", "1.36", "20.72", "0.32", "Dragon", "871414", "512", "1748.11", "3.41", "13.02", "2.01", "*", "The", "time", "unit", "in", "Time/Voxels", "is", "s", "Buddha", "1087716", "512", "1825.47", "3.57", "13.60", "1.68", "*", "The", "time", "unit", "in", "Time/Tri", ".", "is", "ms", "Table", "1", ":", "Surface", "voxelization", "on", "different", "models", "and", "in", "different", "voxel", "resolutions", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "-LRB-", "d", "-RRB-", "-LRB-", "e", "-RRB-", "-LRB-", "f", "-RRB-", "-LRB-", "g", "-RRB-", "-LRB-", "h", "-RRB-", "Figure", "3", ":", "Rendering", "from", "the", "results", "of", "voxelization", "-LRB-", "256", "3", "-RRB-", ":", "-LRB-", "a", "-RRB-", "Beethoven", "in", "256", "3", "voxels", ",", "-LRB-", "b", "-RRB-", "Teapot", "in", "256", "3", "voxels", ",", "-LRB-", "c", "-RRB-", "Cup", "in", "256", "3", "voxels", ",", "-LRB-", "d", "-RRB-", "Bunny", "of", "10000", "faces", "in", "256", "3", "voxels", ",", "-LRB-", "e", "-RRB-", "dragon", "of", "10000", "faces", "in", "256", "3", "voxels", ",", "-LRB-", "f", "-RRB-", "Bunny", "of", "69451", "faces", "in", "256", "3", "voxels", ",", "-LRB-", "g", "-RRB-", "dragon", "of", "870K", "faces", "in", "256", "3", "voxels", ",", "and", "-LRB-", "h", "-RRB-", "Buddha", "of", "1M", "faces", "in", "256", "3", "voxels", ".", "Therefore", ",", "in", "the", "near", "feature", ",", "searching", "a", "better", "computational", "methodology", "for", "GPU", "is", "one", "direction", "to", "improve", "performance", "of", "distance", "field", "computation", ".", "In", "addition", ",", "a", "sophisticated", "culling", "for", "error-free", "distance", "computation", "will", "be", "a", "technique", "in", "demand", ".", "To", "improve", "the", "quality", "of", "voxelization", ",", "adaptive", "dense", "voxelization", "and", "a", "mechanism", "for", "quality", "measurement", "and", "guide", "on", "GPU", "is", "another", "interesting", "topic", ".", "C", "HEN", ",", "H.", ",", "AND", "F", "ANG", ",", "S.", "1999", ".", "Fast", "voxelization", "of", "3D", "synthetic", "objects", ".", "ACM", "Journal", "of", "Graphics", "Tools", "3", ",", "4", ",", "33", "45", ".", "C", "HEN", ",", "H.", ",", "AND", "F", "ANG", ",", "S.", "2000", ".", "Hardware", "accelerated", "voxelization", ".", "Computers", "and", "Graphics", "24", ",", "3", ",", "433", "442", ".", "D", "ACHILLE", "IX", ",", "F.", ",", "AND", "K", "AUFMAN", ",", "A.", "E.", "2000", ".", "Incremental", "triangle", "voxelization", ".", "In", "Graphics", "Interface", ",", "205", "212", ".", "D", "ONG", ",", "Z.", ",", "C", "HEN", ",", "W.", ",", "B", "AO", ",", "H.", ",", "Z", "HANG", ",", "H.", ",", "AND", "P", "ENG", ",", "Q.", "2004", ".", "Real-time", "voxelization", "for", "complex", "polygonal", "models", ".", "In", "Proceedings", "of", "Pacific", "Graphics", "'04", ",", "43", "50", ".", "H", "UANG", ",", "J.", ",", "Y", "AGEL", ",", "R.", ",", "F", "ILIPPOV", ",", "V.", ",", "AND", "K", "URZION", ",", "Y.", "1998", ".", "An", "accurate", "method", "for", "voxelizing", "polygon", "meshes", ".", "In", "Proceedings", "of", "IEEE", "symposium", "on", "Volume", "visualization", ",", "119", "126", ".", "J", "U", ",", "T.", "2004", ".", "Robust", "repair", "of", "polygonal", "models", ".", "ACM", "Transactions", "on", "Graphics", "23", ",", "3", ",", "888", "895", ".", "K", "ARABASSI", ",", "G.", "P.", "E.-A.", ",", "AND", "T", "HEOHARIS", ",", "T.", "1999", ".", "A", "fast", "depth-buffer-based", "voxelization", "algorithm", ".", "ACM", "Journal", "of", "Graphics", "Tools", "4", ",", "4", ",", "5", "10", ".", "S", "CHNEIDER", ",", "P.", ",", "AND", "E", "BERLY", ",", "D.", "H.", "2003", ".", "Geometry", "Tools", "for", "Computer", "Graphics", ".", "Morgan", "Kaufmann", ".", "S", "CHROEDER", ",", "W.", "J.", ",", "L", "ORENSEN", ",", "W.", "E.", ",", "AND", "L", "INTHICUM", ",", "S.", "1994", ".", "Implicit", "modeling", "of", "swept", "surfaces", "and", "volumes", ".", "In", "Proceedings", "of", "IEEE", "Visualization", ",", "40", "45", ".", "W", "ANG", ",", "S.", "W.", ",", "AND", "K", "AUFMAN", ",", "A.", "E.", "1993", ".", "Volume", "sampled", "voxelization", "of", "geometric", "primitives", ".", "In", "Proceedings", "of", "IEEE", "Visualization", ",", "78", "84", ".", "W", "IDJAYA", ",", "H.", ",", "M", "UELLER", ",", "T.", ",", "AND", "E", "NTEZARI", ".", ",", "A.", "2003", ".", "Voxelization", "in", "common", "sampling", "lattices", ".", "In", "Proceedings", "of", "Pacific", "Graphics", "'03", ",", "497", "501", ".", "288"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "B", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["hausdorff distance", "gpu", "triangles", "polygonal model", "object representation", "geometric representation", "modeling", "3d slicer", "graphics hardware", "voxelization", "rendering cost", "polygonal objects", "local distance field", "rendering", "surface representation", "infinitude", "computer graphics", "volume construction", "distance transform", "computational geometry", "polygonal object", "pixel shader", "volumetric representation", "distance field", "rasterization", "opacity"], "abstractive_keyphrases": ["hausforff distance", "slice-based approach", "gpu computation", "3d modelling", "surface voxelization", "adaptive dense voxelization", "rendering pipeline", "gpu-based 3d slicer approach"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "74", "document": ["Downloading", "Textual", "Hidden", "Web", "Content", "Through", "Keyword", "Queries", "An", "ever-increasing", "amount", "of", "information", "on", "the", "Web", "today", "is", "available", "only", "through", "search", "interfaces", ":", "the", "users", "have", "to", "type", "in", "a", "set", "of", "keywords", "in", "a", "search", "form", "in", "order", "to", "access", "the", "pages", "from", "certain", "Web", "sites", ".", "These", "pages", "are", "often", "referred", "to", "as", "the", "Hidden", "Web", "or", "the", "Deep", "Web", ".", "Since", "there", "are", "no", "static", "links", "to", "the", "Hidden", "Web", "pages", ",", "search", "engines", "can", "not", "discover", "and", "index", "such", "pages", "and", "thus", "do", "not", "return", "them", "in", "the", "results", ".", "However", ",", "according", "to", "recent", "studies", ",", "the", "content", "provided", "by", "many", "Hidden", "Web", "sites", "is", "often", "of", "very", "high", "quality", "and", "can", "be", "extremely", "valuable", "to", "many", "users", ".", "In", "this", "paper", ",", "we", "study", "how", "we", "can", "build", "an", "effective", "Hidden", "Web", "crawler", "that", "can", "autonomously", "discover", "and", "download", "pages", "from", "the", "Hidden", "Web", ".", "Since", "the", "only", "``", "entry", "point", "''", "to", "a", "Hidden", "Web", "site", "is", "a", "query", "interface", ",", "the", "main", "challenge", "that", "a", "Hidden", "Web", "crawler", "has", "to", "face", "is", "how", "to", "automatically", "generate", "meaningful", "queries", "to", "issue", "to", "the", "site", ".", "Here", ",", "we", "provide", "a", "theoretical", "framework", "to", "investigate", "the", "query", "generation", "problem", "for", "the", "Hidden", "Web", "and", "we", "propose", "effective", "policies", "for", "generating", "queries", "automatically", ".", "Our", "policies", "proceed", "iteratively", ",", "issuing", "a", "different", "query", "in", "every", "iteration", ".", "We", "experimentally", "evaluate", "the", "effectiveness", "of", "these", "policies", "on", "4", "real", "Hidden", "Web", "sites", "and", "our", "results", "are", "very", "promising", ".", "For", "instance", ",", "in", "one", "experiment", ",", "one", "of", "our", "policies", "downloaded", "more", "than", "90", "%", "of", "a", "Hidden", "Web", "site", "-LRB-", "that", "contains", "14", "million", "documents", "-RRB-", "after", "issuing", "fewer", "than", "100", "queries", ".", "H.", "3.7", "-LSB-", "Information", "Systems", "-RSB-", ":", "Digital", "Libraries", ";", "H.", "3.1", "-LSB-", "Information", "Systems", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", ";", "H.", "3.3", "-LSB-", "Information", "Systems", "-RSB-", ":", "Information", "Search", "and", "Retrieval", ".", "Algorithms", ",", "Performance", ",", "Design", ".", "Recent", "studies", "show", "that", "a", "significant", "fraction", "of", "Web", "content", "can", "not", "be", "reached", "by", "following", "links", "-LSB-", "7", ",", "12", "-RSB-", ".", "In", "particular", ",", "a", "large", "part", "of", "the", "Web", "is", "``", "hidden", "''", "behind", "search", "forms", "and", "is", "reachable", "only", "when", "users", "type", "in", "a", "set", "of", "keywords", ",", "or", "queries", ",", "to", "the", "forms", ".", "These", "pages", "are", "often", "referred", "to", "as", "the", "Hidden", "Web", "-LSB-", "17", "-RSB-", "or", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "JCDL", "'", "05", ",", "June", "7", "11", ",", "2005", ",", "Denver", ",", "Colorado", ",", "USA", ".", "Copyright", "2005", "ACM", "1-58113-876-8", "/", "05/0006", "...", "$", "5.00", ".", "Deep", "Web", "-LSB-", "7", "-RSB-", ",", "because", "search", "engines", "typically", "can", "not", "index", "the", "pages", "and", "do", "not", "return", "them", "in", "their", "results", "-LRB-", "thus", ",", "the", "pages", "are", "essentially", "``", "hidden", "''", "from", "a", "typical", "Web", "user", "-RRB-", ".", "According", "to", "many", "studies", ",", "the", "size", "of", "the", "Hidden", "Web", "increases", "rapidly", "as", "more", "organizations", "put", "their", "valuable", "content", "online", "through", "an", "easy-to-use", "Web", "interface", "-LSB-", "7", "-RSB-", ".", "In", "-LSB-", "12", "-RSB-", ",", "Chang", "et", "al.", "estimate", "that", "well", "over", "100,000", "Hidden-Web", "sites", "currently", "exist", "on", "the", "Web", ".", "Moreover", ",", "the", "content", "provided", "by", "many", "Hidden-Web", "sites", "is", "often", "of", "very", "high", "quality", "and", "can", "be", "extremely", "valuable", "to", "many", "users", "-LSB-", "7", "-RSB-", ".", "For", "example", ",", "PubMed", "hosts", "many", "high-quality", "papers", "on", "medical", "research", "that", "were", "selected", "from", "careful", "peer-review", "processes", ",", "while", "the", "site", "of", "the", "US", "Patent", "and", "Trademarks", "Office", "1", "makes", "existing", "patent", "documents", "available", ",", "helping", "potential", "inventors", "examine", "``", "prior", "art", ".", "''", "In", "this", "paper", ",", "we", "study", "how", "we", "can", "build", "a", "Hidden-Web", "crawler", "2", "that", "can", "automatically", "download", "pages", "from", "the", "Hidden", "Web", ",", "so", "that", "search", "engines", "can", "index", "them", ".", "Conventional", "crawlers", "rely", "on", "the", "hyperlinks", "on", "the", "Web", "to", "discover", "pages", ",", "so", "current", "search", "engines", "can", "not", "index", "the", "Hidden-Web", "pages", "-LRB-", "due", "to", "the", "lack", "of", "links", "-RRB-", ".", "We", "believe", "that", "an", "effective", "Hidden-Web", "crawler", "can", "have", "a", "tremendous", "impact", "on", "how", "users", "search", "information", "on", "the", "Web", ":", "Tapping", "into", "unexplored", "information", ":", "The", "Hidden-Web", "crawler", "will", "allow", "an", "average", "Web", "user", "to", "easily", "explore", "the", "vast", "amount", "of", "information", "that", "is", "mostly", "``", "hidden", "''", "at", "present", ".", "Since", "a", "majority", "of", "Web", "users", "rely", "on", "search", "engines", "to", "discover", "pages", ",", "when", "pages", "are", "not", "indexed", "by", "search", "engines", ",", "they", "are", "unlikely", "to", "be", "viewed", "by", "many", "Web", "users", ".", "Unless", "users", "go", "directly", "to", "Hidden-Web", "sites", "and", "issue", "queries", "there", ",", "they", "can", "not", "access", "the", "pages", "at", "the", "sites", ".", "Improving", "user", "experience", ":", "Even", "if", "a", "user", "is", "aware", "of", "a", "number", "of", "Hidden-Web", "sites", ",", "the", "user", "still", "has", "to", "waste", "a", "significant", "amount", "of", "time", "and", "effort", ",", "visiting", "all", "of", "the", "potentially", "relevant", "sites", ",", "querying", "each", "of", "them", "and", "exploring", "the", "result", ".", "By", "making", "the", "Hidden-Web", "pages", "searchable", "at", "a", "central", "location", ",", "we", "can", "significantly", "reduce", "the", "user", "'s", "wasted", "time", "and", "effort", "in", "searching", "the", "Hidden", "Web", ".", "Reducing", "potential", "bias", ":", "Due", "to", "the", "heavy", "reliance", "of", "many", "Web", "users", "on", "search", "engines", "for", "locating", "information", ",", "search", "engines", "influence", "how", "the", "users", "perceive", "the", "Web", "-LSB-", "28", "-RSB-", ".", "Users", "do", "not", "necessarily", "perceive", "what", "actually", "exists", "on", "the", "Web", ",", "but", "what", "is", "indexed", "by", "search", "engines", "-LSB-", "28", "-RSB-", ".", "According", "to", "a", "recent", "article", "-LSB-", "5", "-RSB-", ",", "several", "organizations", "have", "recognized", "the", "importance", "of", "bringing", "information", "of", "their", "Hidden", "Web", "sites", "onto", "the", "surface", ",", "and", "committed", "considerable", "resources", "towards", "this", "effort", ".", "Our", "1", "US", "Patent", "Office", ":", "http://www.uspto.gov", "2", "Crawlers", "are", "the", "programs", "that", "traverse", "the", "Web", "automatically", "and", "download", "pages", "for", "search", "engines", ".", "100", "Figure", "1", ":", "A", "single-attribute", "search", "interface", "Hidden-Web", "crawler", "attempts", "to", "automate", "this", "process", "for", "Hidden", "Web", "sites", "with", "textual", "content", ",", "thus", "minimizing", "the", "associated", "costs", "and", "effort", "required", ".", "Given", "that", "the", "only", "``", "entry", "''", "to", "Hidden", "Web", "pages", "is", "through", "querying", "a", "search", "form", ",", "there", "are", "two", "core", "challenges", "to", "implementing", "an", "effective", "Hidden", "Web", "crawler", ":", "-LRB-", "a", "-RRB-", "The", "crawler", "has", "to", "be", "able", "to", "understand", "and", "model", "a", "query", "interface", ",", "and", "-LRB-", "b", "-RRB-", "The", "crawler", "has", "to", "come", "up", "with", "meaningful", "queries", "to", "issue", "to", "the", "query", "interface", ".", "The", "first", "challenge", "was", "addressed", "by", "Raghavan", "and", "Garcia-Molina", "in", "-LSB-", "29", "-RSB-", ",", "where", "a", "method", "for", "learning", "search", "interfaces", "was", "presented", ".", "Here", ",", "we", "present", "a", "solution", "to", "the", "second", "challenge", ",", "i.e.", "how", "a", "crawler", "can", "automatically", "generate", "queries", "so", "that", "it", "can", "discover", "and", "download", "the", "Hidden", "Web", "pages", ".", "Clearly", ",", "when", "the", "search", "forms", "list", "all", "possible", "values", "for", "a", "query", "-LRB-", "e.g.", ",", "through", "a", "drop-down", "list", "-RRB-", ",", "the", "solution", "is", "straightforward", ".", "We", "exhaustively", "issue", "all", "possible", "queries", ",", "one", "query", "at", "a", "time", ".", "When", "the", "query", "forms", "have", "a", "``", "free", "text", "''", "input", ",", "however", ",", "an", "infinite", "number", "of", "queries", "are", "possible", ",", "so", "we", "can", "not", "exhaustively", "issue", "all", "possible", "queries", ".", "In", "this", "case", ",", "what", "queries", "should", "we", "pick", "?", "Can", "the", "crawler", "automatically", "come", "up", "with", "meaningful", "queries", "without", "understanding", "the", "semantics", "of", "the", "search", "form", "?", "In", "this", "paper", ",", "we", "provide", "a", "theoretical", "framework", "to", "investigate", "the", "Hidden-Web", "crawling", "problem", "and", "propose", "effective", "ways", "of", "generating", "queries", "automatically", ".", "We", "also", "evaluate", "our", "proposed", "solutions", "through", "experiments", "conducted", "on", "real", "Hidden-Web", "sites", ".", "In", "summary", ",", "this", "paper", "makes", "the", "following", "contributions", ":", "We", "present", "a", "formal", "framework", "to", "study", "the", "problem", "of", "Hidden-Web", "crawling", ".", "-LRB-", "Section", "2", "-RRB-", ".", "We", "investigate", "a", "number", "of", "crawling", "policies", "for", "the", "Hidden", "Web", ",", "including", "the", "optimal", "policy", "that", "can", "potentially", "download", "the", "maximum", "number", "of", "pages", "through", "the", "minimum", "number", "of", "interactions", ".", "Unfortunately", ",", "we", "show", "that", "the", "optimal", "policy", "is", "NP-hard", "and", "can", "not", "be", "implemented", "in", "practice", "-LRB-", "Section", "2.2", "-RRB-", ".", "We", "propose", "a", "new", "adaptive", "policy", "that", "approximates", "the", "optimal", "policy", ".", "Our", "adaptive", "policy", "examines", "the", "pages", "returned", "from", "previous", "queries", "and", "adapts", "its", "query-selection", "policy", "automatically", "based", "on", "them", "-LRB-", "Section", "3", "-RRB-", ".", "We", "evaluate", "various", "crawling", "policies", "through", "experiments", "on", "real", "Web", "sites", ".", "Our", "experiments", "will", "show", "the", "relative", "advantages", "of", "various", "crawling", "policies", "and", "demonstrate", "their", "potential", ".", "The", "results", "from", "our", "experiments", "are", "very", "promising", ".", "In", "one", "experiment", ",", "for", "example", ",", "our", "adaptive", "policy", "downloaded", "more", "than", "90", "%", "of", "the", "pages", "within", "PubMed", "-LRB-", "that", "contains", "14", "million", "documents", "-RRB-", "after", "it", "issued", "fewer", "than", "100", "queries", ".", "In", "this", "section", ",", "we", "present", "a", "formal", "framework", "for", "the", "study", "of", "the", "Hidden-Web", "crawling", "problem", ".", "In", "Section", "2.1", ",", "we", "describe", "our", "assumptions", "on", "Hidden-Web", "sites", "and", "explain", "how", "users", "interact", "with", "the", "sites", ".", "Based", "on", "this", "interaction", "model", ",", "we", "present", "a", "high-level", "algorithm", "for", "a", "Hidden-Web", "crawler", "in", "Section", "2.2", ".", "Finally", "in", "Section", "2.3", ",", "we", "formalize", "the", "Hidden-Web", "crawling", "problem", ".", "2.1", "Hidden-Web", "database", "model", "There", "exists", "a", "variety", "of", "Hidden", "Web", "sources", "that", "provide", "information", "on", "a", "multitude", "of", "topics", ".", "Depending", "on", "the", "type", "of", "information", ",", "we", "may", "categorize", "a", "Hidden-Web", "site", "either", "as", "a", "textual", "database", "or", "a", "structured", "database", ".", "A", "textual", "database", "is", "a", "site", "that", "Figure", "2", ":", "A", "multi-attribute", "search", "interface", "mainly", "contains", "plain-text", "documents", ",", "such", "as", "PubMed", "and", "Lexis-Nexis", "-LRB-", "an", "online", "database", "of", "legal", "documents", "-LSB-", "1", "-RSB-", "-RRB-", ".", "Since", "plain-text", "documents", "do", "not", "usually", "have", "well-defined", "structure", ",", "most", "textual", "databases", "provide", "a", "simple", "search", "interface", "where", "users", "type", "a", "list", "of", "keywords", "in", "a", "single", "search", "box", "-LRB-", "Figure", "1", "-RRB-", ".", "In", "contrast", ",", "a", "structured", "database", "often", "contains", "multi-attribute", "relational", "data", "-LRB-", "e.g.", ",", "a", "book", "on", "the", "Amazon", "Web", "site", "may", "have", "the", "fields", "title", "=", "`", "Harry", "Potter", "'", ",", "author", "=", "`", "J.K.", "Rowling", "'", "and", "isbn", "=", "`", "0590353403", "'", "-RRB-", "and", "supports", "multi-attribute", "search", "interfaces", "-LRB-", "Figure", "2", "-RRB-", ".", "In", "this", "paper", ",", "we", "will", "mainly", "focus", "on", "textual", "databases", "that", "support", "single-attribute", "keyword", "queries", ".", "We", "discuss", "how", "we", "can", "extend", "our", "ideas", "for", "the", "textual", "databases", "to", "multi-attribute", "structured", "databases", "in", "Section", "6.1", ".", "Typically", ",", "the", "users", "need", "to", "take", "the", "following", "steps", "in", "order", "to", "access", "pages", "in", "a", "Hidden-Web", "database", ":", "1", ".", "Step", "1", ".", "First", ",", "the", "user", "issues", "a", "query", ",", "say", "``", "liver", ",", "''", "through", "the", "search", "interface", "provided", "by", "the", "Web", "site", "-LRB-", "such", "as", "the", "one", "shown", "in", "Figure", "1", "-RRB-", ".", "2", ".", "Step", "2", ".", "Shortly", "after", "the", "user", "issues", "the", "query", ",", "she", "is", "presented", "with", "a", "result", "index", "page", ".", "That", "is", ",", "the", "Web", "site", "returns", "a", "list", "of", "links", "to", "potentially", "relevant", "Web", "pages", ",", "as", "shown", "in", "Figure", "3", "-LRB-", "a", "-RRB-", ".", "3", ".", "Step", "3", ".", "From", "the", "list", "in", "the", "result", "index", "page", ",", "the", "user", "identifies", "the", "pages", "that", "look", "``", "interesting", "''", "and", "follows", "the", "links", ".", "Clicking", "on", "a", "link", "leads", "the", "user", "to", "the", "actual", "Web", "page", ",", "such", "as", "the", "one", "shown", "in", "Figure", "3", "-LRB-", "b", "-RRB-", ",", "that", "the", "user", "wants", "to", "look", "at", ".", "2.2", "A", "generic", "Hidden", "Web", "crawling", "algorithm", "Given", "that", "the", "only", "``", "entry", "''", "to", "the", "pages", "in", "a", "Hidden-Web", "site", "is", "its", "search", "from", ",", "a", "Hidden-Web", "crawler", "should", "follow", "the", "three", "steps", "described", "in", "the", "previous", "section", ".", "That", "is", ",", "the", "crawler", "has", "to", "generate", "a", "query", ",", "issue", "it", "to", "the", "Web", "site", ",", "download", "the", "result", "index", "page", ",", "and", "follow", "the", "links", "to", "download", "the", "actual", "pages", ".", "In", "most", "cases", ",", "a", "crawler", "has", "limited", "time", "and", "network", "resources", ",", "so", "the", "crawler", "repeats", "these", "steps", "until", "it", "uses", "up", "its", "resources", ".", "In", "Figure", "4", "we", "show", "the", "generic", "algorithm", "for", "a", "Hidden-Web", "crawler", ".", "For", "simplicity", ",", "we", "assume", "that", "the", "Hidden-Web", "crawler", "issues", "single-term", "queries", "only", ".", "3", "The", "crawler", "first", "decides", "which", "query", "term", "it", "is", "going", "to", "use", "-LRB-", "Step", "-LRB-", "2", "-RRB-", "-RRB-", ",", "issues", "the", "query", ",", "and", "retrieves", "the", "result", "index", "page", "-LRB-", "Step", "-LRB-", "3", "-RRB-", "-RRB-", ".", "Finally", ",", "based", "on", "the", "links", "found", "on", "the", "result", "index", "page", ",", "it", "downloads", "the", "Hidden", "Web", "pages", "from", "the", "site", "-LRB-", "Step", "-LRB-", "4", "-RRB-", "-RRB-", ".", "This", "same", "process", "is", "repeated", "until", "all", "the", "available", "resources", "are", "used", "up", "-LRB-", "Step", "-LRB-", "1", "-RRB-", "-RRB-", ".", "Given", "this", "algorithm", ",", "we", "can", "see", "that", "the", "most", "critical", "decision", "that", "a", "crawler", "has", "to", "make", "is", "what", "query", "to", "issue", "next", ".", "If", "the", "crawler", "can", "issue", "successful", "queries", "that", "will", "return", "many", "matching", "pages", ",", "the", "crawler", "can", "finish", "its", "crawling", "early", "on", "using", "minimum", "resources", ".", "In", "contrast", ",", "if", "the", "crawler", "issues", "completely", "irrelevant", "queries", "that", "do", "not", "return", "any", "matching", "pages", ",", "it", "may", "waste", "all", "of", "its", "resources", "simply", "issuing", "queries", "without", "ever", "retrieving", "actual", "pages", ".", "Therefore", ",", "how", "the", "crawler", "selects", "the", "next", "query", "can", "greatly", "affect", "its", "effectiveness", ".", "In", "the", "next", "section", ",", "we", "formalize", "this", "query", "selection", "problem", ".", "3", "For", "most", "Web", "sites", "that", "assume", "``", "AND", "''", "for", "multi-keyword", "queries", ",", "single-term", "queries", "return", "the", "maximum", "number", "of", "results", ".", "Extending", "our", "work", "to", "multi-keyword", "queries", "is", "straightforward", ".", "101", "-LRB-", "a", "-RRB-", "List", "of", "matching", "pages", "for", "query", "``", "liver", "''", ".", "-LRB-", "b", "-RRB-", "The", "first", "matching", "page", "for", "``", "liver", "''", ".", "Figure", "3", ":", "Pages", "from", "the", "PubMed", "Web", "site", ".", "A", "LGORITHM", "2.1", ".", "Crawling", "a", "Hidden", "Web", "site", "Procedure", "-LRB-", "1", "-RRB-", "while", "-LRB-", "there", "are", "available", "resources", "-RRB-", "do", "/", "/", "select", "a", "term", "to", "send", "to", "the", "site", "-LRB-", "2", "-RRB-", "q", "i", "=", "SelectTerm", "-LRB-", "-RRB-", "/", "/", "send", "query", "and", "acquire", "result", "index", "page", "-LRB-", "3", "-RRB-", "R", "-LRB-", "q", "i", "-RRB-", "=", "QueryWebSite", "-LRB-", "q", "i", "-RRB-", "/", "/", "download", "the", "pages", "of", "interest", "-LRB-", "4", "-RRB-", "Download", "-LRB-", "R", "-LRB-", "q", "i", "-RRB-", "-RRB-", "-LRB-", "5", "-RRB-", "done", "Figure", "4", ":", "Algorithm", "for", "crawling", "a", "Hidden", "Web", "site", ".", "S", "q", "1", "q", "q", "q", "2", "3", "4", "Figure", "5", ":", "A", "set-formalization", "of", "the", "optimal", "query", "selection", "problem", ".", "2.3", "Problem", "formalization", "Theoretically", ",", "the", "problem", "of", "query", "selection", "can", "be", "formalized", "as", "follows", ":", "We", "assume", "that", "the", "crawler", "downloads", "pages", "from", "a", "Web", "site", "that", "has", "a", "set", "of", "pages", "S", "-LRB-", "the", "rectangle", "in", "Figure", "5", "-RRB-", ".", "We", "represent", "each", "Web", "page", "in", "S", "as", "a", "point", "-LRB-", "dots", "in", "Figure", "5", "-RRB-", ".", "Every", "potential", "query", "q", "i", "that", "we", "may", "issue", "can", "be", "viewed", "as", "a", "subset", "of", "S", ",", "containing", "all", "the", "points", "-LRB-", "pages", "-RRB-", "that", "are", "returned", "when", "we", "issue", "q", "i", "to", "the", "site", ".", "Each", "subset", "is", "associated", "with", "a", "weight", "that", "represents", "the", "cost", "of", "issuing", "the", "query", ".", "Under", "this", "formalization", ",", "our", "goal", "is", "to", "find", "which", "subsets", "-LRB-", "queries", "-RRB-", "cover", "the", "maximum", "number", "of", "points", "-LRB-", "Web", "pages", "-RRB-", "with", "the", "minimum", "total", "weight", "-LRB-", "cost", "-RRB-", ".", "This", "problem", "is", "equivalent", "to", "the", "set-covering", "problem", "in", "graph", "theory", "-LSB-", "16", "-RSB-", ".", "There", "are", "two", "main", "difficulties", "that", "we", "need", "to", "address", "in", "this", "formalization", ".", "First", ",", "in", "a", "practical", "situation", ",", "the", "crawler", "does", "not", "know", "which", "Web", "pages", "will", "be", "returned", "by", "which", "queries", ",", "so", "the", "subsets", "of", "S", "are", "not", "known", "in", "advance", ".", "Without", "knowing", "these", "subsets", "the", "crawler", "can", "not", "decide", "which", "queries", "to", "pick", "to", "maximize", "the", "coverage", ".", "Second", ",", "the", "set-covering", "problem", "is", "known", "to", "be", "NP-Hard", "-LSB-", "16", "-RSB-", ",", "so", "an", "efficient", "algorithm", "to", "solve", "this", "problem", "optimally", "in", "polynomial", "time", "has", "yet", "to", "be", "found", ".", "In", "this", "paper", ",", "we", "will", "present", "an", "approximation", "algorithm", "that", "can", "find", "a", "near-optimal", "solution", "at", "a", "reasonable", "computational", "cost", ".", "Our", "algorithm", "leverages", "the", "observation", "that", "although", "we", "do", "not", "know", "which", "pages", "will", "be", "returned", "by", "each", "query", "q", "i", "that", "we", "issue", ",", "we", "can", "predict", "how", "many", "pages", "will", "be", "returned", ".", "Based", "on", "this", "information", "our", "query", "selection", "algorithm", "can", "then", "select", "the", "``", "best", "''", "queries", "that", "cover", "the", "content", "of", "the", "Web", "site", ".", "We", "present", "our", "prediction", "method", "and", "our", "query", "selection", "algorithm", "in", "Section", "3", ".", "2.3.1", "Performance", "Metric", "Before", "we", "present", "our", "ideas", "for", "the", "query", "selection", "problem", ",", "we", "briefly", "discuss", "some", "of", "our", "notation", "and", "the", "cost/performance", "metrics", ".", "Given", "a", "query", "q", "i", ",", "we", "use", "P", "-LRB-", "q", "i", "-RRB-", "to", "denote", "the", "fraction", "of", "pages", "that", "we", "will", "get", "back", "if", "we", "issue", "query", "q", "i", "to", "the", "site", ".", "For", "example", ",", "if", "a", "Web", "site", "has", "10,000", "pages", "in", "total", ",", "and", "if", "3,000", "pages", "are", "returned", "for", "the", "query", "q", "i", "=", "``", "medicine", "''", ",", "then", "P", "-LRB-", "q", "i", "-RRB-", "=", "0.3", ".", "We", "use", "P", "-LRB-", "q", "1", "q", "2", "-RRB-", "to", "represent", "the", "fraction", "of", "pages", "that", "are", "returned", "from", "both", "q", "1", "and", "q", "2", "-LRB-", "i.e.", ",", "the", "intersection", "of", "P", "-LRB-", "q", "1", "-RRB-", "and", "P", "-LRB-", "q", "2", "-RRB-", "-RRB-", ".", "Similarly", ",", "we", "use", "P", "-LRB-", "q", "1", "q", "2", "-RRB-", "to", "represent", "the", "fraction", "of", "pages", "that", "are", "returned", "from", "either", "q", "1", "or", "q", "2", "-LRB-", "i.e.", ",", "the", "union", "of", "P", "-LRB-", "q", "1", "-RRB-", "and", "P", "-LRB-", "q", "2", "-RRB-", "-RRB-", ".", "We", "also", "use", "Cost", "-LRB-", "q", "i", "-RRB-", "to", "represent", "the", "cost", "of", "issuing", "the", "query", "q", "i", ".", "Depending", "on", "the", "scenario", ",", "the", "cost", "can", "be", "measured", "either", "in", "time", ",", "network", "bandwidth", ",", "the", "number", "of", "interactions", "with", "the", "site", ",", "or", "it", "can", "be", "a", "function", "of", "all", "of", "these", ".", "As", "we", "will", "see", "later", ",", "our", "proposed", "algorithms", "are", "independent", "of", "the", "exact", "cost", "function", ".", "In", "the", "most", "common", "case", ",", "the", "query", "cost", "consists", "of", "a", "number", "of", "factors", ",", "including", "the", "cost", "for", "submitting", "the", "query", "to", "the", "site", ",", "retrieving", "the", "result", "index", "page", "-LRB-", "Figure", "3", "-LRB-", "a", "-RRB-", "-RRB-", "and", "downloading", "the", "actual", "pages", "-LRB-", "Figure", "3", "-LRB-", "b", "-RRB-", "-RRB-", ".", "We", "assume", "that", "submitting", "a", "query", "incurs", "a", "fixed", "cost", "of", "c", "q", ".", "The", "cost", "for", "downloading", "the", "result", "index", "page", "is", "proportional", "to", "the", "number", "of", "matching", "documents", "to", "the", "query", ",", "while", "the", "cost", "c", "d", "for", "downloading", "a", "matching", "document", "is", "also", "fixed", ".", "Then", "the", "overall", "cost", "of", "query", "q", "i", "is", "Cost", "-LRB-", "q", "i", "-RRB-", "=", "c", "q", "+", "c", "r", "P", "-LRB-", "q", "i", "-RRB-", "+", "c", "d", "P", "-LRB-", "q", "i", "-RRB-", ".", "-LRB-", "1", "-RRB-", "In", "certain", "cases", ",", "some", "of", "the", "documents", "from", "q", "i", "may", "have", "already", "been", "downloaded", "from", "previous", "queries", ".", "In", "this", "case", ",", "the", "crawler", "may", "skip", "downloading", "these", "documents", "and", "the", "cost", "of", "q", "i", "can", "be", "Cost", "-LRB-", "q", "i", "-RRB-", "=", "c", "q", "+", "c", "r", "P", "-LRB-", "q", "i", "-RRB-", "+", "c", "d", "P", "new", "-LRB-", "q", "i", "-RRB-", ".", "-LRB-", "2", "-RRB-", "Here", ",", "we", "use", "P", "new", "-LRB-", "q", "i", "-RRB-", "to", "represent", "the", "fraction", "of", "the", "new", "documents", "from", "q", "i", "that", "have", "not", "been", "retrieved", "from", "previous", "queries", ".", "Later", "in", "Section", "3.1", "we", "will", "study", "how", "we", "can", "estimate", "P", "-LRB-", "q", "i", "-RRB-", "and", "P", "new", "-LRB-", "q", "i", "-RRB-", "to", "estimate", "the", "cost", "of", "q", "i", ".", "Since", "our", "algorithms", "are", "independent", "of", "the", "exact", "cost", "function", ",", "we", "will", "assume", "a", "generic", "cost", "function", "Cost", "-LRB-", "q", "i", "-RRB-", "in", "this", "paper", ".", "When", "we", "need", "a", "concrete", "cost", "function", ",", "however", ",", "we", "will", "use", "Equation", "2", ".", "Given", "the", "notation", ",", "we", "can", "formalize", "the", "goal", "of", "a", "Hidden-Web", "crawler", "as", "follows", ":", "102", "P", "ROBLEM", "1", ".", "Find", "the", "set", "of", "queries", "q", "1", ",", "...", ",", "q", "n", "that", "maximizes", "P", "-LRB-", "q", "1", "q", "n", "-RRB-", "under", "the", "constraint", "n", "i", "=", "1", "Cost", "-LRB-", "q", "i", "-RRB-", "t.", "Here", ",", "t", "is", "the", "maximum", "download", "resource", "that", "the", "crawler", "has", ".", "How", "should", "a", "crawler", "select", "the", "queries", "to", "issue", "?", "Given", "that", "the", "goal", "is", "to", "download", "the", "maximum", "number", "of", "unique", "documents", "from", "a", "textual", "database", ",", "we", "may", "consider", "one", "of", "the", "following", "options", ":", "Random", ":", "We", "select", "random", "keywords", "from", ",", "say", ",", "an", "English", "dictionary", "and", "issue", "them", "to", "the", "database", ".", "The", "hope", "is", "that", "a", "random", "query", "will", "return", "a", "reasonable", "number", "of", "matching", "documents", ".", "Generic-frequency", ":", "We", "analyze", "a", "generic", "document", "corpus", "collected", "elsewhere", "-LRB-", "say", ",", "from", "the", "Web", "-RRB-", "and", "obtain", "the", "generic", "frequency", "distribution", "of", "each", "keyword", ".", "Based", "on", "this", "generic", "distribution", ",", "we", "start", "with", "the", "most", "frequent", "keyword", ",", "issue", "it", "to", "the", "Hidden-Web", "database", "and", "retrieve", "the", "result", ".", "We", "then", "continue", "to", "the", "second-most", "frequent", "keyword", "and", "repeat", "this", "process", "until", "we", "exhaust", "all", "download", "resources", ".", "The", "hope", "is", "that", "the", "frequent", "keywords", "in", "a", "generic", "corpus", "will", "also", "be", "frequent", "in", "the", "Hidden-Web", "database", ",", "returning", "many", "matching", "documents", ".", "Adaptive", ":", "We", "analyze", "the", "documents", "returned", "from", "the", "previous", "queries", "issued", "to", "the", "Hidden-Web", "database", "and", "estimate", "which", "keyword", "is", "most", "likely", "to", "return", "the", "most", "documents", ".", "Based", "on", "this", "analysis", ",", "we", "issue", "the", "most", "``", "promising", "''", "query", ",", "and", "repeat", "the", "process", ".", "Among", "these", "three", "general", "policies", ",", "we", "may", "consider", "the", "random", "policy", "as", "the", "base", "comparison", "point", "since", "it", "is", "expected", "to", "perform", "the", "worst", ".", "Between", "the", "generic-frequency", "and", "the", "adaptive", "policies", ",", "both", "policies", "may", "show", "similar", "performance", "if", "the", "crawled", "database", "has", "a", "generic", "document", "collection", "without", "a", "specialized", "topic", ".", "The", "adaptive", "policy", ",", "however", ",", "may", "perform", "significantly", "better", "than", "the", "generic-frequency", "policy", "if", "the", "database", "has", "a", "very", "specialized", "collection", "that", "is", "different", "from", "the", "generic", "corpus", ".", "We", "will", "experimentally", "compare", "these", "three", "policies", "in", "Section", "4", ".", "While", "the", "first", "two", "policies", "-LRB-", "random", "and", "generic-frequency", "policies", "-RRB-", "are", "easy", "to", "implement", ",", "we", "need", "to", "understand", "how", "we", "can", "analyze", "the", "downloaded", "pages", "to", "identify", "the", "most", "``", "promising", "''", "query", "in", "order", "to", "implement", "the", "adaptive", "policy", ".", "We", "address", "this", "issue", "in", "the", "rest", "of", "this", "section", ".", "3.1", "Estimating", "the", "number", "of", "matching", "pages", "In", "order", "to", "identify", "the", "most", "promising", "query", ",", "we", "need", "to", "estimate", "how", "many", "new", "documents", "we", "will", "download", "if", "we", "issue", "the", "query", "q", "i", "as", "the", "next", "query", ".", "That", "is", ",", "assuming", "that", "we", "have", "issued", "queries", "q", "1", ",", "...", ",", "q", "i-1", "we", "need", "to", "estimate", "P", "-LRB-", "q", "1", "q", "i-1", "q", "i", "-RRB-", ",", "for", "every", "potential", "next", "query", "q", "i", "and", "compare", "this", "value", ".", "In", "estimating", "this", "number", ",", "we", "note", "that", "we", "can", "rewrite", "P", "-LRB-", "q", "1", "q", "i-1", "q", "i", "-RRB-", "as", ":", "P", "-LRB-", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "q", "i", "-RRB-", "=", "P", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "+", "P", "-LRB-", "q", "i", "-RRB-", "-", "P", "-LRB-", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "q", "i", "-RRB-", "=", "P", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "+", "P", "-LRB-", "q", "i", "-RRB-", "-", "P", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "-LRB-", "3", "-RRB-", "In", "the", "above", "formula", ",", "note", "that", "we", "can", "precisely", "measure", "P", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "and", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "by", "analyzing", "previously-downloaded", "pages", ":", "We", "know", "P", "-LRB-", "q", "1", "q", "i-1", "-RRB-", ",", "the", "union", "of", "all", "pages", "downloaded", "from", "q", "1", ",", "...", ",", "q", "i-1", ",", "since", "we", "have", "already", "issued", "q", "1", ",", "...", ",", "q", "i-1", "and", "downloaded", "the", "matching", "pages", ".", "4", "We", "can", "also", "measure", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", ",", "the", "probability", "that", "q", "i", "appears", "in", "the", "pages", "from", "q", "1", ",", "...", ",", "q", "i-1", ",", "by", "counting", "how", "many", "times", "q", "i", "appears", "in", "the", "pages", "from", "q", "1", ",", "...", ",", "q", "i-1", ".", "Therefore", ",", "we", "only", "need", "to", "estimate", "P", "-LRB-", "q", "i", "-RRB-", "to", "evaluate", "P", "-LRB-", "q", "1", "q", "i", "-RRB-", ".", "We", "may", "consider", "a", "number", "of", "different", "ways", "to", "estimate", "P", "-LRB-", "q", "i", "-RRB-", ",", "including", "the", "following", ":", "1", ".", "Independence", "estimator", ":", "We", "assume", "that", "the", "appearance", "of", "the", "term", "q", "i", "is", "independent", "of", "the", "terms", "q", "1", ",", "...", ",", "q", "i-1", ".", "That", "is", ",", "we", "assume", "that", "P", "-LRB-", "q", "i", "-RRB-", "=", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", ".", "2", ".", "Zipf", "estimator", ":", "In", "-LSB-", "19", "-RSB-", ",", "Ipeirotis", "et", "al.", "proposed", "a", "method", "to", "estimate", "how", "many", "times", "a", "particular", "term", "occurs", "in", "the", "entire", "corpus", "based", "on", "a", "subset", "of", "documents", "from", "the", "corpus", ".", "Their", "method", "exploits", "the", "fact", "that", "the", "frequency", "of", "terms", "inside", "text", "collections", "follows", "a", "power", "law", "distribution", "-LSB-", "30", ",", "25", "-RSB-", ".", "That", "is", ",", "if", "we", "rank", "all", "terms", "based", "on", "their", "occurrence", "frequency", "-LRB-", "with", "the", "most", "frequent", "term", "having", "a", "rank", "of", "1", ",", "second", "most", "frequent", "a", "rank", "of", "2", "etc.", "-RRB-", ",", "then", "the", "frequency", "f", "of", "a", "term", "inside", "the", "text", "collection", "is", "given", "by", ":", "f", "=", "-LRB-", "r", "+", "-RRB-", "-LRB-", "4", "-RRB-", "where", "r", "is", "the", "rank", "of", "the", "term", "and", ",", ",", "and", "are", "constants", "that", "depend", "on", "the", "text", "collection", ".", "Their", "main", "idea", "is", "-LRB-", "1", "-RRB-", "to", "estimate", "the", "three", "parameters", ",", ",", "and", ",", "based", "on", "the", "subset", "of", "documents", "that", "we", "have", "downloaded", "from", "previous", "queries", ",", "and", "-LRB-", "2", "-RRB-", "use", "the", "estimated", "parameters", "to", "predict", "f", "given", "the", "ranking", "r", "of", "a", "term", "within", "the", "subset", ".", "For", "a", "more", "detailed", "description", "on", "how", "we", "can", "use", "this", "method", "to", "estimate", "P", "-LRB-", "q", "i", "-RRB-", ",", "we", "refer", "the", "reader", "to", "the", "extended", "version", "of", "this", "paper", "-LSB-", "27", "-RSB-", ".", "After", "we", "estimate", "P", "-LRB-", "q", "i", "-RRB-", "and", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "values", ",", "we", "can", "calculate", "P", "-LRB-", "q", "1", "q", "i", "-RRB-", ".", "In", "Section", "3.3", ",", "we", "explain", "how", "we", "can", "efficiently", "compute", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "by", "maintaining", "a", "succinct", "summary", "table", ".", "In", "the", "next", "section", ",", "we", "first", "examine", "how", "we", "can", "use", "this", "value", "to", "decide", "which", "query", "we", "should", "issue", "next", "to", "the", "Hidden", "Web", "site", ".", "3.2", "Query", "selection", "algorithm", "The", "goal", "of", "the", "Hidden-Web", "crawler", "is", "to", "download", "the", "maximum", "number", "of", "unique", "documents", "from", "a", "database", "using", "its", "limited", "download", "resources", ".", "Given", "this", "goal", ",", "the", "Hidden-Web", "crawler", "has", "to", "take", "two", "factors", "into", "account", ".", "-LRB-", "1", "-RRB-", "the", "number", "of", "new", "documents", "that", "can", "be", "obtained", "from", "the", "query", "q", "i", "and", "-LRB-", "2", "-RRB-", "the", "cost", "of", "issuing", "the", "query", "q", "i", ".", "For", "example", ",", "if", "two", "queries", ",", "q", "i", "and", "q", "j", ",", "incur", "the", "same", "cost", ",", "but", "q", "i", "returns", "more", "new", "pages", "than", "q", "j", ",", "q", "i", "is", "more", "desirable", "than", "q", "j", ".", "Similarly", ",", "if", "q", "i", "and", "q", "j", "return", "the", "same", "number", "of", "new", "documents", ",", "but", "q", "i", "incurs", "less", "cost", "then", "q", "j", ",", "q", "i", "is", "more", "desirable", ".", "Based", "on", "this", "observation", ",", "the", "Hidden-Web", "crawler", "may", "use", "the", "following", "efficiency", "metric", "to", "quantify", "the", "desirability", "of", "the", "query", "q", "i", ":", "Efficiency", "-LRB-", "q", "i", "-RRB-", "=", "P", "new", "-LRB-", "q", "i", "-RRB-", "Cost", "-LRB-", "q", "i", "-RRB-", "Here", ",", "P", "new", "-LRB-", "q", "i", "-RRB-", "represents", "the", "amount", "of", "new", "documents", "returned", "for", "q", "i", "-LRB-", "the", "pages", "that", "have", "not", "been", "returned", "for", "previous", "queries", "-RRB-", ".", "Cost", "-LRB-", "q", "i", "-RRB-", "represents", "the", "cost", "of", "issuing", "the", "query", "q", "i", ".", "Intuitively", ",", "the", "efficiency", "of", "q", "i", "measures", "how", "many", "new", "documents", "are", "retrieved", "per", "unit", "cost", ",", "and", "can", "be", "used", "as", "an", "indicator", "of", "4", "For", "exact", "estimation", ",", "we", "need", "to", "know", "the", "total", "number", "of", "pages", "in", "the", "site", ".", "However", ",", "in", "order", "to", "compare", "only", "relative", "values", "among", "queries", ",", "this", "information", "is", "not", "actually", "needed", ".", "103", "A", "LGORITHM", "3.1", ".", "Greedy", "SelectTerm", "-LRB-", "-RRB-", "Parameters", ":", "T", ":", "The", "list", "of", "potential", "query", "keywords", "Procedure", "-LRB-", "1", "-RRB-", "Foreach", "t", "k", "in", "T", "do", "-LRB-", "2", "-RRB-", "Estimate", "Efficiency", "-LRB-", "t", "k", "-RRB-", "=", "P", "new", "-LRB-", "t", "k", "-RRB-", "Cost", "-LRB-", "t", "k", "-RRB-", "-LRB-", "3", "-RRB-", "done", "-LRB-", "4", "-RRB-", "return", "t", "k", "with", "maximum", "Efficiency", "-LRB-", "t", "k", "-RRB-", "Figure", "6", ":", "Algorithm", "for", "selecting", "the", "next", "query", "term", ".", "how", "well", "our", "resources", "are", "spent", "when", "issuing", "q", "i", ".", "Thus", ",", "the", "Hidden", "Web", "crawler", "can", "estimate", "the", "efficiency", "of", "every", "candidate", "q", "i", ",", "and", "select", "the", "one", "with", "the", "highest", "value", ".", "By", "using", "its", "resources", "more", "efficiently", ",", "the", "crawler", "may", "eventually", "download", "the", "maximum", "number", "of", "unique", "documents", ".", "In", "Figure", "6", ",", "we", "show", "the", "query", "selection", "function", "that", "uses", "the", "concept", "of", "efficiency", ".", "In", "principle", ",", "this", "algorithm", "takes", "a", "greedy", "approach", "and", "tries", "to", "maximize", "the", "``", "potential", "gain", "''", "in", "every", "step", ".", "We", "can", "estimate", "the", "efficiency", "of", "every", "query", "using", "the", "estimation", "method", "described", "in", "Section", "3.1", ".", "That", "is", ",", "the", "size", "of", "the", "new", "documents", "from", "the", "query", "q", "i", ",", "P", "new", "-LRB-", "q", "i", "-RRB-", ",", "is", "P", "new", "-LRB-", "q", "i", "-RRB-", "=", "P", "-LRB-", "q", "1", "q", "i-1", "q", "i", "-RRB-", "-", "P", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "=", "P", "-LRB-", "q", "i", "-RRB-", "-", "P", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "from", "Equation", "3", ",", "where", "P", "-LRB-", "q", "i", "-RRB-", "can", "be", "estimated", "using", "one", "of", "the", "methods", "described", "in", "section", "3", ".", "We", "can", "also", "estimate", "Cost", "-LRB-", "q", "i", "-RRB-", "sim-ilarly", ".", "For", "example", ",", "if", "Cost", "-LRB-", "q", "i", "-RRB-", "is", "Cost", "-LRB-", "q", "i", "-RRB-", "=", "c", "q", "+", "c", "r", "P", "-LRB-", "q", "i", "-RRB-", "+", "c", "d", "P", "new", "-LRB-", "q", "i", "-RRB-", "-LRB-", "Equation", "2", "-RRB-", ",", "we", "can", "estimate", "Cost", "-LRB-", "q", "i", "-RRB-", "by", "estimating", "P", "-LRB-", "q", "i", "-RRB-", "and", "P", "new", "-LRB-", "q", "i", "-RRB-", ".", "3.3", "Efficient", "calculation", "of", "query", "statistics", "In", "estimating", "the", "efficiency", "of", "queries", ",", "we", "found", "that", "we", "need", "to", "measure", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "for", "every", "potential", "query", "q", "i", ".", "This", "calculation", "can", "be", "very", "time-consuming", "if", "we", "repeat", "it", "from", "scratch", "for", "every", "query", "q", "i", "in", "every", "iteration", "of", "our", "algorithm", ".", "In", "this", "section", ",", "we", "explain", "how", "we", "can", "compute", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "efficiently", "by", "maintaining", "a", "small", "table", "that", "we", "call", "a", "query", "statistics", "table", ".", "The", "main", "idea", "for", "the", "query", "statistics", "table", "is", "that", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "can", "be", "measured", "by", "counting", "how", "many", "times", "the", "keyword", "q", "i", "appears", "within", "the", "documents", "downloaded", "from", "q", "1", ",", "...", ",", "q", "i-1", ".", "We", "record", "these", "counts", "in", "a", "table", ",", "as", "shown", "in", "Figure", "7", "-LRB-", "a", "-RRB-", ".", "The", "left", "column", "of", "the", "table", "contains", "all", "potential", "query", "terms", "and", "the", "right", "column", "contains", "the", "number", "of", "previously-downloaded", "documents", "containing", "the", "respective", "term", ".", "For", "example", ",", "the", "table", "in", "Figure", "7", "-LRB-", "a", "-RRB-", "shows", "that", "we", "have", "downloaded", "50", "documents", "so", "far", ",", "and", "the", "term", "model", "appears", "in", "10", "of", "these", "documents", ".", "Given", "this", "number", ",", "we", "can", "compute", "that", "P", "-LRB-", "model", "|", "q", "1", "q", "i-1", "-RRB-", "=", "10", "50", "=", "0.2", ".", "We", "note", "that", "the", "query", "statistics", "table", "needs", "to", "be", "updated", "whenever", "we", "issue", "a", "new", "query", "q", "i", "and", "download", "more", "documents", ".", "This", "update", "can", "be", "done", "efficiently", "as", "we", "illustrate", "in", "the", "following", "example", ".", "E", "XAMPLE", "1", ".", "After", "examining", "the", "query", "statistics", "table", "of", "Figure", "7", "-LRB-", "a", "-RRB-", ",", "we", "have", "decided", "to", "use", "the", "term", "``", "computer", "''", "as", "our", "next", "query", "q", "i", ".", "From", "the", "new", "query", "q", "i", "=", "``", "computer", ",", "''", "we", "downloaded", "20", "more", "new", "pages", ".", "Out", "of", "these", ",", "12", "contain", "the", "keyword", "``", "model", "''", "Term", "t", "k", "N", "-LRB-", "t", "k", "-RRB-", "model", "10", "computer", "38", "digital", "50", "Term", "t", "k", "N", "-LRB-", "t", "k", "-RRB-", "model", "12", "computer", "20", "disk", "18", "Total", "pages", ":", "50", "New", "pages", ":", "20", "-LRB-", "a", "-RRB-", "After", "q", "1", ",", "...", ",", "q", "i-1", "-LRB-", "b", "-RRB-", "New", "from", "q", "i", "=", "computer", "Term", "t", "k", "N", "-LRB-", "t", "k", "-RRB-", "model", "10", "+12", "=", "22", "computer", "38", "+20", "=", "58", "disk", "0", "+18", "=", "18", "digital", "50", "+0", "=", "50", "Total", "pages", ":", "50", "+", "20", "=", "70", "-LRB-", "c", "-RRB-", "After", "q", "1", ",", "...", ",", "q", "i", "Figure", "7", ":", "Updating", "the", "query", "statistics", "table", ".", "q", "i", "1", "i-1", "q", "\\", "/", "...", "\\", "/", "q", "q", "i", "/", "S", "Figure", "8", ":", "A", "Web", "site", "that", "does", "not", "return", "all", "the", "results", ".", "and", "18", "the", "keyword", "``", "disk", ".", "''", "The", "table", "in", "Figure", "7", "-LRB-", "b", "-RRB-", "shows", "the", "frequency", "of", "each", "term", "in", "the", "newly-downloaded", "pages", ".", "We", "can", "update", "the", "old", "table", "-LRB-", "Figure", "7", "-LRB-", "a", "-RRB-", "-RRB-", "to", "include", "this", "new", "information", "by", "simply", "adding", "corresponding", "entries", "in", "Figures", "7", "-LRB-", "a", "-RRB-", "and", "-LRB-", "b", "-RRB-", ".", "The", "result", "is", "shown", "on", "Figure", "7", "-LRB-", "c", "-RRB-", ".", "For", "example", ",", "keyword", "``", "model", "''", "exists", "in", "10", "+", "12", "=", "22", "pages", "within", "the", "pages", "retrieved", "from", "q", "1", ",", "...", ",", "q", "i", ".", "According", "to", "this", "new", "table", ",", "P", "-LRB-", "model", "|", "q", "1", "q", "i", "-RRB-", "is", "now", "22", "70", "=", "0.3", ".", "3.4", "Crawling", "sites", "that", "limit", "the", "number", "of", "results", "In", "certain", "cases", ",", "when", "a", "query", "matches", "a", "large", "number", "of", "pages", ",", "the", "Hidden", "Web", "site", "returns", "only", "a", "portion", "of", "those", "pages", ".", "For", "example", ",", "the", "Open", "Directory", "Project", "-LSB-", "2", "-RSB-", "allows", "the", "users", "to", "see", "only", "up", "to", "10", ",", "000", "results", "after", "they", "issue", "a", "query", ".", "Obviously", ",", "this", "kind", "of", "limitation", "has", "an", "immediate", "effect", "on", "our", "Hidden", "Web", "crawler", ".", "First", ",", "since", "we", "can", "only", "retrieve", "up", "to", "a", "specific", "number", "of", "pages", "per", "query", ",", "our", "crawler", "will", "need", "to", "issue", "more", "queries", "-LRB-", "and", "potentially", "will", "use", "up", "more", "resources", "-RRB-", "in", "order", "to", "download", "all", "the", "pages", ".", "Second", ",", "the", "query", "selection", "method", "that", "we", "presented", "in", "Section", "3.2", "assumes", "that", "for", "every", "potential", "query", "q", "i", ",", "we", "can", "find", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", ".", "That", "is", ",", "for", "every", "query", "q", "i", "we", "can", "find", "the", "fraction", "of", "documents", "in", "the", "whole", "text", "database", "that", "contains", "q", "i", "with", "at", "least", "one", "of", "q", "1", ",", "...", ",", "q", "i-1", ".", "However", ",", "if", "the", "text", "database", "returned", "only", "a", "portion", "of", "the", "results", "for", "any", "of", "the", "q", "1", ",", "...", ",", "q", "i-1", "then", "the", "value", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "is", "not", "accurate", "and", "may", "affect", "our", "decision", "for", "the", "next", "query", "q", "i", ",", "and", "potentially", "the", "performance", "of", "our", "crawler", ".", "Since", "we", "can", "not", "retrieve", "more", "results", "per", "query", "than", "the", "maximum", "number", "the", "Web", "site", "allows", ",", "our", "crawler", "has", "no", "other", "choice", "besides", "submitting", "more", "queries", ".", "However", ",", "there", "is", "a", "way", "to", "estimate", "the", "correct", "value", "for", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "in", "the", "case", "where", "the", "Web", "site", "returns", "only", "a", "portion", "of", "the", "results", ".", "104", "Again", ",", "assume", "that", "the", "Hidden", "Web", "site", "we", "are", "currently", "crawling", "is", "represented", "as", "the", "rectangle", "on", "Figure", "8", "and", "its", "pages", "as", "points", "in", "the", "figure", ".", "Assume", "that", "we", "have", "already", "issued", "queries", "q", "1", ",", "...", ",", "q", "i-1", "which", "returned", "a", "number", "of", "results", "less", "than", "the", "maximum", "number", "than", "the", "site", "allows", ",", "and", "therefore", "we", "have", "downloaded", "all", "the", "pages", "for", "these", "queries", "-LRB-", "big", "circle", "in", "Figure", "8", "-RRB-", ".", "That", "is", ",", "at", "this", "point", ",", "our", "estimation", "for", "P", "-LRB-", "q", "i", "|", "q", "1", "q", "i-1", "-RRB-", "is", "accurate", ".", "Now", "assume", "that", "we", "submit", "query", "q", "i", "to", "the", "Web", "site", ",", "but", "due", "to", "a", "limitation", "in", "the", "number", "of", "results", "that", "we", "get", "back", ",", "we", "retrieve", "the", "set", "q", "i", "-LRB-", "small", "circle", "in", "Figure", "8", "-RRB-", "instead", "of", "the", "set", "q", "i", "-LRB-", "dashed", "circle", "in", "Figure", "8", "-RRB-", ".", "Now", "we", "need", "to", "update", "our", "query", "statistics", "table", "so", "that", "it", "has", "accurate", "information", "for", "the", "next", "step", ".", "That", "is", ",", "although", "we", "got", "the", "set", "q", "i", "back", ",", "for", "every", "potential", "query", "q", "i", "+1", "we", "need", "to", "find", "P", "-LRB-", "q", "i", "+1", "|", "q", "1", "q", "i", "-RRB-", ":", "P", "-LRB-", "q", "i", "+1", "|", "q", "1", "q", "i", "-RRB-", "=", "1", "P", "-LRB-", "q", "1", "q", "i", "-RRB-", "-LSB-", "P", "-LRB-", "q", "i", "+1", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "-RRB-", "+", "P", "-LRB-", "q", "i", "+1", "q", "i", "-RRB-", "-", "P", "-LRB-", "q", "i", "+1", "q", "i", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "-RRB-", "-RSB-", "-LRB-", "5", "-RRB-", "In", "the", "previous", "equation", ",", "we", "can", "find", "P", "-LRB-", "q", "1", "q", "i", "-RRB-", "by", "estimating", "P", "-LRB-", "q", "i", "-RRB-", "with", "the", "method", "shown", "in", "Section", "3", ".", "Additionally", ",", "we", "can", "calculate", "P", "-LRB-", "q", "i", "+1", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "-RRB-", "and", "P", "-LRB-", "q", "i", "+1", "q", "i", "-LRB-", "q", "1", "q", "i-1", "-RRB-", "-RRB-", "by", "directly", "examining", "the", "documents", "that", "we", "have", "downloaded", "from", "queries", "q", "1", ",", "...", ",", "q", "i-1", ".", "The", "term", "P", "-LRB-", "q", "i", "+1", "q", "i", "-RRB-", "however", "is", "unknown", "and", "we", "need", "to", "estimate", "it", ".", "Assuming", "that", "q", "i", "is", "a", "random", "sample", "of", "q", "i", ",", "then", ":", "P", "-LRB-", "q", "i", "+1", "q", "i", "-RRB-", "P", "-LRB-", "q", "i", "+1", "q", "i", "-RRB-", "=", "P", "-LRB-", "q", "i", "-RRB-", "P", "-LRB-", "q", "i", "-RRB-", "-LRB-", "6", "-RRB-", "From", "Equation", "6", "we", "can", "calculate", "P", "-LRB-", "q", "i", "+1", "q", "i", "-RRB-", "and", "after", "we", "replace", "this", "value", "to", "Equation", "5", "we", "can", "find", "P", "-LRB-", "q", "i", "+1", "|", "q", "1", "q", "i", "-RRB-", ".", "In", "this", "section", "we", "experimentally", "evaluate", "the", "performance", "of", "the", "various", "algorithms", "for", "Hidden", "Web", "crawling", "presented", "in", "this", "paper", ".", "Our", "goal", "is", "to", "validate", "our", "theoretical", "analysis", "through", "real-world", "experiments", ",", "by", "crawling", "popular", "Hidden", "Web", "sites", "of", "textual", "databases", ".", "Since", "the", "number", "of", "documents", "that", "are", "discovered", "and", "downloaded", "from", "a", "textual", "database", "depends", "on", "the", "selection", "of", "the", "words", "that", "will", "be", "issued", "as", "queries", "5", "to", "the", "search", "interface", "of", "each", "site", ",", "we", "compare", "the", "various", "selection", "policies", "that", "were", "described", "in", "section", "3", ",", "namely", "the", "random", ",", "generic-frequency", ",", "and", "adaptive", "algorithms", ".", "The", "adaptive", "algorithm", "learns", "new", "keywords", "and", "terms", "from", "the", "documents", "that", "it", "downloads", ",", "and", "its", "selection", "process", "is", "driven", "by", "a", "cost", "model", "as", "described", "in", "Section", "3.2", ".", "To", "keep", "our", "experiment", "and", "its", "analysis", "simple", "at", "this", "point", ",", "we", "will", "assume", "that", "the", "cost", "for", "every", "query", "is", "constant", ".", "That", "is", ",", "our", "goal", "is", "to", "maximize", "the", "number", "of", "downloaded", "pages", "by", "issuing", "the", "least", "number", "of", "queries", ".", "Later", ",", "in", "Section", "4.4", "we", "will", "present", "a", "comparison", "of", "our", "policies", "based", "on", "a", "more", "elaborate", "cost", "model", ".", "In", "addition", ",", "we", "use", "the", "independence", "estimator", "-LRB-", "Section", "3.1", "-RRB-", "to", "estimate", "P", "-LRB-", "q", "i", "-RRB-", "from", "downloaded", "pages", ".", "Although", "the", "independence", "estimator", "is", "a", "simple", "estimator", ",", "our", "experiments", "will", "show", "that", "it", "can", "work", "very", "well", "in", "practice", ".", "6", "For", "the", "generic-frequency", "policy", ",", "we", "compute", "the", "frequency", "distribution", "of", "words", "that", "appear", "in", "a", "5.5-million-Web-page", "corpus", "5", "Throughout", "our", "experiments", ",", "once", "an", "algorithm", "has", "submitted", "a", "query", "to", "a", "database", ",", "we", "exclude", "the", "query", "from", "subsequent", "submissions", "to", "the", "same", "database", "from", "the", "same", "algorithm", ".", "6", "We", "defer", "the", "reporting", "of", "results", "based", "on", "the", "Zipf", "estimation", "to", "a", "future", "work", ".", "downloaded", "from", "154", "Web", "sites", "of", "various", "topics", "-LSB-", "26", "-RSB-", ".", "Keywords", "are", "selected", "based", "on", "their", "decreasing", "frequency", "with", "which", "they", "appear", "in", "this", "document", "set", ",", "with", "the", "most", "frequent", "one", "being", "selected", "first", ",", "followed", "by", "the", "second-most", "frequent", "keyword", ",", "etc.", "7", "Regarding", "the", "random", "policy", ",", "we", "use", "the", "same", "set", "of", "words", "collected", "from", "the", "Web", "corpus", ",", "but", "in", "this", "case", ",", "instead", "of", "selecting", "keywords", "based", "on", "their", "relative", "frequency", ",", "we", "choose", "them", "ran-domly", "-LRB-", "uniform", "distribution", "-RRB-", ".", "In", "order", "to", "further", "investigate", "how", "the", "quality", "of", "the", "potential", "query-term", "list", "affects", "the", "random-based", "algorithm", ",", "we", "construct", "two", "sets", ":", "one", "with", "the", "16", ",", "000", "most", "frequent", "words", "of", "the", "term", "collection", "used", "in", "the", "generic-frequency", "policy", "-LRB-", "hereafter", ",", "the", "random", "policy", "with", "the", "set", "of", "16,000", "words", "will", "be", "referred", "to", "as", "random-16K", "-RRB-", ",", "and", "another", "set", "with", "the", "1", "million", "most", "frequent", "words", "of", "the", "same", "collection", "as", "above", "-LRB-", "hereafter", ",", "referred", "to", "as", "random-1M", "-RRB-", ".", "The", "former", "set", "has", "frequent", "words", "that", "appear", "in", "a", "large", "number", "of", "documents", "-LRB-", "at", "least", "10", ",", "000", "in", "our", "collection", "-RRB-", ",", "and", "therefore", "can", "be", "considered", "of", "``", "high-quality", "''", "terms", ".", "The", "latter", "set", "though", "contains", "a", "much", "larger", "collection", "of", "words", ",", "among", "which", "some", "might", "be", "bogus", ",", "and", "meaningless", ".", "The", "experiments", "were", "conducted", "by", "employing", "each", "one", "of", "the", "aforementioned", "algorithms", "-LRB-", "adaptive", ",", "generic-frequency", ",", "random-16K", ",", "and", "random-1M", "-RRB-", "to", "crawl", "and", "download", "contents", "from", "three", "Hidden", "Web", "sites", ":", "The", "PubMed", "Medical", "Library", ",", "8", "Amazon", ",", "9", "and", "the", "Open", "Directory", "Project", "-LSB-", "2", "-RSB-", ".", "According", "to", "the", "information", "on", "PubMed", "'s", "Web", "site", ",", "its", "collection", "contains", "approximately", "14", "million", "abstracts", "of", "biomedical", "articles", ".", "We", "consider", "these", "abstracts", "as", "the", "``", "documents", "''", "in", "the", "site", ",", "and", "in", "each", "iteration", "of", "the", "adaptive", "policy", ",", "we", "use", "these", "abstracts", "as", "input", "to", "the", "algorithm", ".", "Thus", "our", "goal", "is", "to", "``", "discover", "''", "as", "many", "unique", "abstracts", "as", "possible", "by", "repeat-edly", "querying", "the", "Web", "query", "interface", "provided", "by", "PubMed", ".", "The", "Hidden", "Web", "crawling", "on", "the", "PubMed", "Web", "site", "can", "be", "considered", "as", "topic-specific", ",", "due", "to", "the", "fact", "that", "all", "abstracts", "within", "PubMed", "are", "related", "to", "the", "fields", "of", "medicine", "and", "biology", ".", "In", "the", "case", "of", "the", "Amazon", "Web", "site", ",", "we", "are", "interested", "in", "downloading", "all", "the", "hidden", "pages", "that", "contain", "information", "on", "books", ".", "The", "querying", "to", "Amazon", "is", "performed", "through", "the", "Software", "De-veloper", "'s", "Kit", "that", "Amazon", "provides", "for", "interfacing", "to", "its", "Web", "site", ",", "and", "which", "returns", "results", "in", "XML", "form", ".", "The", "generic", "``", "keyword", "''", "field", "is", "used", "for", "searching", ",", "and", "as", "input", "to", "the", "adaptive", "policy", "we", "extract", "the", "product", "description", "and", "the", "text", "of", "customer", "reviews", "when", "present", "in", "the", "XML", "reply", ".", "Since", "Amazon", "does", "not", "provide", "any", "information", "on", "how", "many", "books", "it", "has", "in", "its", "catalogue", ",", "we", "use", "random", "sampling", "on", "the", "10-digit", "ISBN", "number", "of", "the", "books", "to", "estimate", "the", "size", "of", "the", "collection", ".", "Out", "of", "the", "10", ",", "000", "random", "ISBN", "numbers", "queried", ",", "46", "are", "found", "in", "the", "Amazon", "catalogue", ",", "therefore", "the", "size", "of", "its", "book", "collection", "is", "estimated", "to", "be", "46", "10000", "10", "10", "=", "4.6", "million", "books", ".", "It", "'s", "also", "worth", "noting", "here", "that", "Amazon", "poses", "an", "upper", "limit", "on", "the", "number", "of", "results", "-LRB-", "books", "in", "our", "case", "-RRB-", "returned", "by", "each", "query", ",", "which", "is", "set", "to", "32", ",", "000", ".", "As", "for", "the", "third", "Hidden", "Web", "site", ",", "the", "Open", "Directory", "Project", "-LRB-", "hereafter", "also", "referred", "to", "as", "dmoz", "-RRB-", ",", "the", "site", "maintains", "the", "links", "to", "3.8", "million", "sites", "together", "with", "a", "brief", "summary", "of", "each", "listed", "site", ".", "The", "links", "are", "searchable", "through", "a", "keyword-search", "interface", ".", "We", "consider", "each", "indexed", "link", "together", "with", "its", "brief", "summary", "as", "the", "document", "of", "the", "dmoz", "site", ",", "and", "we", "provide", "the", "short", "summaries", "to", "the", "adaptive", "algorithm", "to", "drive", "the", "selection", "of", "new", "keywords", "for", "querying", ".", "On", "the", "dmoz", "Web", "site", ",", "we", "perform", "two", "Hidden", "Web", "crawls", ":", "the", "first", "is", "on", "its", "generic", "collection", "of", "3.8-million", "indexed", "7", "We", "did", "not", "manually", "exclude", "stop", "words", "-LRB-", "e.g.", ",", "the", ",", "is", ",", "of", ",", "etc.", "-RRB-", "from", "the", "keyword", "list", ".", "As", "it", "turns", "out", ",", "all", "Web", "sites", "except", "PubMed", "return", "matching", "documents", "for", "the", "stop", "words", ",", "such", "as", "``", "the", ".", "''", "8", "PubMed", "Medical", "Library", ":", "http://www.pubmed.org", "9", "Amazon", "Inc.", ":", "http://www.amazon.com", "105", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "50", "100", "150", "200", "fraction", "of", "documents", "query", "number", "Cumulative", "fraction", "of", "unique", "documents", "-", "PubMed", "website", "adaptive", "generic-frequency", "random-16K", "random-1M", "Figure", "9", ":", "Coverage", "of", "policies", "for", "Pubmed", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "100", "200", "300", "400", "500", "600", "700", "fraction", "of", "documents", "query", "number", "Cumulative", "fraction", "of", "unique", "documents", "-", "Amazon", "website", "adaptive", "generic-frequency", "random-16K", "random-1M", "Figure", "10", ":", "Coverage", "of", "policies", "for", "Amazon", "sites", ",", "regardless", "of", "the", "category", "that", "they", "fall", "into", ".", "The", "other", "crawl", "is", "performed", "specifically", "on", "the", "Arts", "section", "of", "dmoz", "-LRB-", "http", ":", "/", "/", "dmoz.org/Arts", "-RRB-", ",", "which", "comprises", "of", "approximately", "429", ",", "000", "indexed", "sites", "that", "are", "relevant", "to", "Arts", ",", "making", "this", "crawl", "topic-specific", ",", "as", "in", "PubMed", ".", "Like", "Amazon", ",", "dmoz", "also", "enforces", "an", "upper", "limit", "on", "the", "number", "of", "returned", "results", ",", "which", "is", "10", ",", "000", "links", "with", "their", "summaries", ".", "4.1", "Comparison", "of", "policies", "The", "first", "question", "that", "we", "seek", "to", "answer", "is", "the", "evolution", "of", "the", "coverage", "metric", "as", "we", "submit", "queries", "to", "the", "sites", ".", "That", "is", ",", "what", "fraction", "of", "the", "collection", "of", "documents", "stored", "in", "the", "Hidden", "Web", "site", "can", "we", "download", "as", "we", "continuously", "query", "for", "new", "words", "selected", "using", "the", "policies", "described", "above", "?", "More", "formally", ",", "we", "are", "interested", "in", "the", "value", "of", "P", "-LRB-", "q", "1", "q", "i-1", "q", "i", "-RRB-", ",", "after", "we", "submit", "q", "1", ",", "...", ",", "q", "i", "queries", ",", "and", "as", "i", "increases", ".", "In", "Figures", "9", ",", "10", ",", "11", ",", "and", "12", "we", "present", "the", "coverage", "metric", "for", "each", "policy", ",", "as", "a", "function", "of", "the", "query", "number", ",", "for", "the", "Web", "sites", "of", "PubMed", ",", "Amazon", ",", "general", "dmoz", "and", "the", "art-specific", "dmoz", ",", "respectively", ".", "On", "the", "y-axis", "the", "fraction", "of", "the", "total", "documents", "downloaded", "from", "the", "website", "is", "plotted", ",", "while", "the", "x-axis", "represents", "the", "query", "number", ".", "A", "first", "observation", "from", "these", "graphs", "is", "that", "in", "general", ",", "the", "generic-frequency", "and", "the", "adaptive", "policies", "perform", "much", "better", "than", "the", "random-based", "algorithms", ".", "In", "all", "of", "the", "figures", ",", "the", "graphs", "for", "the", "random-1M", "and", "the", "random-16K", "are", "significantly", "below", "those", "of", "other", "policies", ".", "Between", "the", "generic-frequency", "and", "the", "adaptive", "policies", ",", "we", "can", "see", "that", "the", "latter", "outperforms", "the", "former", "when", "the", "site", "is", "topic", "spe-0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "100", "200", "300", "400", "500", "600", "700", "fraction", "of", "documents", "query", "number", "Cumulative", "fraction", "of", "unique", "documents", "-", "dmoz", "website", "adaptive", "generic-frequency", "random-16K", "random-1M", "Figure", "11", ":", "Coverage", "of", "policies", "for", "general", "dmoz", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "fraction", "of", "documents", "query", "number", "Cumulative", "fraction", "of", "unique", "documents", "-", "dmoz/Arts", "website", "adaptive", "generic-frequency", "random-16K", "random-1M", "Figure", "12", ":", "Coverage", "of", "policies", "for", "the", "Arts", "section", "of", "dmoz", "cific", ".", "For", "example", ",", "for", "the", "PubMed", "site", "-LRB-", "Figure", "9", "-RRB-", ",", "the", "adaptive", "algorithm", "issues", "only", "83", "queries", "to", "download", "almost", "80", "%", "of", "the", "documents", "stored", "in", "PubMed", ",", "but", "the", "generic-frequency", "algorithm", "requires", "106", "queries", "for", "the", "same", "coverage", ",", ".", "For", "the", "dmoz/Arts", "crawl", "-LRB-", "Figure", "12", "-RRB-", ",", "the", "difference", "is", "even", "more", "substantial", ":", "the", "adaptive", "policy", "is", "able", "to", "download", "99.98", "%", "of", "the", "total", "sites", "indexed", "in", "the", "Directory", "by", "issuing", "471", "queries", ",", "while", "the", "frequency-based", "algorithm", "is", "much", "less", "effective", "using", "the", "same", "number", "of", "queries", ",", "and", "discovers", "only", "72", "%", "of", "the", "total", "number", "of", "indexed", "sites", ".", "The", "adaptive", "algorithm", ",", "by", "examining", "the", "contents", "of", "the", "pages", "that", "it", "downloads", "at", "each", "iteration", ",", "is", "able", "to", "identify", "the", "topic", "of", "the", "site", "as", "expressed", "by", "the", "words", "that", "appear", "most", "frequently", "in", "the", "result-set", ".", "Consequently", ",", "it", "is", "able", "to", "select", "words", "for", "subsequent", "queries", "that", "are", "more", "relevant", "to", "the", "site", ",", "than", "those", "preferred", "by", "the", "generic-frequency", "policy", ",", "which", "are", "drawn", "from", "a", "large", ",", "generic", "collection", ".", "Table", "1", "shows", "a", "sample", "of", "10", "keywords", "out", "of", "211", "chosen", "and", "submitted", "to", "the", "PubMed", "Web", "site", "by", "the", "adaptive", "algorithm", ",", "but", "not", "by", "the", "other", "policies", ".", "For", "each", "keyword", ",", "we", "present", "the", "number", "of", "the", "iteration", ",", "along", "with", "the", "number", "of", "results", "that", "it", "returned", ".", "As", "one", "can", "see", "from", "the", "table", ",", "these", "keywords", "are", "highly", "relevant", "to", "the", "topics", "of", "medicine", "and", "biology", "of", "the", "Public", "Medical", "Library", ",", "and", "match", "against", "numerous", "articles", "stored", "in", "its", "Web", "site", ".", "In", "both", "cases", "examined", "in", "Figures", "9", ",", "and", "12", ",", "the", "random-based", "policies", "perform", "much", "worse", "than", "the", "adaptive", "algorithm", ",", "and", "the", "generic-frequency", ".", "It", "is", "worthy", "noting", "however", ",", "that", "the", "random-based", "policy", "with", "the", "small", ",", "carefully", "selected", "set", "of", "16", ",", "000", "``", "qual-ity", "''", "words", "manages", "to", "download", "a", "considerable", "fraction", "of", "42.5", "%", "106", "Iteration", "Keyword", "Number", "of", "Results", "23", "department", "2", ",", "719", ",", "031", "34", "patients", "1", ",", "934", ",", "428", "53", "clinical", "1", ",", "198", ",", "322", "67", "treatment", "4", ",", "034", ",", "565", "69", "medical", "1", ",", "368", ",", "200", "70", "hospital", "503", ",", "307", "146", "disease", "1", ",", "520", ",", "908", "172", "protein", "2", ",", "620", ",", "938", "Table", "1", ":", "Sample", "of", "keywords", "queried", "to", "PubMed", "exclusively", "by", "the", "adaptive", "policy", "from", "the", "PubMed", "Web", "site", "after", "200", "queries", ",", "while", "the", "coverage", "for", "the", "Arts", "section", "of", "dmoz", "reaches", "22.7", "%", ",", "after", "471", "queried", "keywords", ".", "On", "the", "other", "hand", ",", "the", "random-based", "approach", "that", "makes", "use", "of", "the", "vast", "collection", "of", "1", "million", "words", ",", "among", "which", "a", "large", "number", "is", "bogus", "keywords", ",", "fails", "to", "download", "even", "a", "mere", "1", "%", "of", "the", "total", "collection", ",", "after", "submitting", "the", "same", "number", "of", "query", "words", ".", "For", "the", "generic", "collections", "of", "Amazon", "and", "the", "dmoz", "sites", ",", "shown", "in", "Figures", "10", "and", "11", "respectively", ",", "we", "get", "mixed", "results", ":", "The", "generic-frequency", "policy", "shows", "slightly", "better", "performance", "than", "the", "adaptive", "policy", "for", "the", "Amazon", "site", "-LRB-", "Figure", "10", "-RRB-", ",", "and", "the", "adaptive", "method", "clearly", "outperforms", "the", "generic-frequency", "for", "the", "general", "dmoz", "site", "-LRB-", "Figure", "11", "-RRB-", ".", "A", "closer", "look", "at", "the", "log", "files", "of", "the", "two", "Hidden", "Web", "crawlers", "reveals", "the", "main", "reason", ":", "Amazon", "was", "functioning", "in", "a", "very", "flaky", "way", "when", "the", "adaptive", "crawler", "visited", "it", ",", "resulting", "in", "a", "large", "number", "of", "lost", "results", ".", "Thus", ",", "we", "suspect", "that", "the", "slightly", "poor", "performance", "of", "the", "adaptive", "policy", "is", "due", "to", "this", "experimental", "variance", ".", "We", "are", "currently", "running", "another", "experiment", "to", "verify", "whether", "this", "is", "indeed", "the", "case", ".", "Aside", "from", "this", "experimental", "variance", ",", "the", "Amazon", "result", "indicates", "that", "if", "the", "collection", "and", "the", "words", "that", "a", "Hidden", "Web", "site", "contains", "are", "generic", "enough", ",", "then", "the", "generic-frequency", "approach", "may", "be", "a", "good", "candidate", "algorithm", "for", "effective", "crawling", ".", "As", "in", "the", "case", "of", "topic-specific", "Hidden", "Web", "sites", ",", "the", "random-based", "policies", "also", "exhibit", "poor", "performance", "compared", "to", "the", "other", "two", "algorithms", "when", "crawling", "generic", "sites", ":", "for", "the", "Amazon", "Web", "site", ",", "random-16K", "succeeds", "in", "downloading", "almost", "36.7", "%", "after", "issuing", "775", "queries", ",", "alas", "for", "the", "generic", "collection", "of", "dmoz", ",", "the", "fraction", "of", "the", "collection", "of", "links", "downloaded", "is", "13.5", "%", "after", "the", "770th", "query", ".", "Finally", ",", "as", "expected", ",", "random-1M", "is", "even", "worse", "than", "random-16K", ",", "downloading", "only", "14.5", "%", "of", "Amazon", "and", "0.3", "%", "of", "the", "generic", "dmoz", ".", "In", "summary", ",", "the", "adaptive", "algorithm", "performs", "remarkably", "well", "in", "all", "cases", ":", "it", "is", "able", "to", "discover", "and", "download", "most", "of", "the", "documents", "stored", "in", "Hidden", "Web", "sites", "by", "issuing", "the", "least", "number", "of", "queries", ".", "When", "the", "collection", "refers", "to", "a", "specific", "topic", ",", "it", "is", "able", "to", "identify", "the", "keywords", "most", "relevant", "to", "the", "topic", "of", "the", "site", "and", "consequently", "ask", "for", "terms", "that", "is", "most", "likely", "that", "will", "return", "a", "large", "number", "of", "results", ".", "On", "the", "other", "hand", ",", "the", "generic-frequency", "policy", "proves", "to", "be", "quite", "effective", "too", ",", "though", "less", "than", "the", "adaptive", ":", "it", "is", "able", "to", "retrieve", "relatively", "fast", "a", "large", "portion", "of", "the", "collection", ",", "and", "when", "the", "site", "is", "not", "topic-specific", ",", "its", "effectiveness", "can", "reach", "that", "of", "adaptive", "-LRB-", "e.g.", "Amazon", "-RRB-", ".", "Finally", ",", "the", "random", "policy", "performs", "poorly", "in", "general", ",", "and", "should", "not", "be", "preferred", ".", "4.2", "Impact", "of", "the", "initial", "query", "An", "interesting", "issue", "that", "deserves", "further", "examination", "is", "whether", "the", "initial", "choice", "of", "the", "keyword", "used", "as", "the", "first", "query", "issued", "by", "the", "adaptive", "algorithm", "affects", "its", "effectiveness", "in", "subsequent", "itera-tions", ".", "The", "choice", "of", "this", "keyword", "is", "not", "done", "by", "the", "selection", "of", "the", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "10", "20", "30", "40", "50", "60", "fraction", "of", "documents", "query", "number", "Convergence", "of", "adaptive", "under", "different", "initial", "queries", "-", "PubMed", "website", "pubmed", "data", "information", "return", "Figure", "13", ":", "Convergence", "of", "the", "adaptive", "algorithm", "using", "different", "initial", "queries", "for", "crawling", "the", "PubMed", "Web", "site", "adaptive", "algorithm", "itself", "and", "has", "to", "be", "manually", "set", ",", "since", "its", "query", "statistics", "tables", "have", "not", "been", "populated", "yet", ".", "Thus", ",", "the", "selection", "is", "generally", "arbitrary", ",", "so", "for", "purposes", "of", "fully", "automating", "the", "whole", "process", ",", "some", "additional", "investigation", "seems", "necessary", ".", "For", "this", "reason", ",", "we", "initiated", "three", "adaptive", "Hidden", "Web", "crawlers", "targeting", "the", "PubMed", "Web", "site", "with", "different", "seed-words", ":", "the", "word", "``", "data", "''", ",", "which", "returns", "1,344,999", "results", ",", "the", "word", "``", "information", "''", "that", "reports", "308", ",", "474", "documents", ",", "and", "the", "word", "``", "return", "''", "that", "retrieves", "29", ",", "707", "pages", ",", "out", "of", "14", "million", ".", "These", "keywords", "represent", "varying", "degrees", "of", "term", "popularity", "in", "PubMed", ",", "with", "the", "first", "one", "being", "of", "high", "popularity", ",", "the", "second", "of", "medium", ",", "and", "the", "third", "of", "low", ".", "We", "also", "show", "results", "for", "the", "keyword", "``", "pubmed", "''", ",", "used", "in", "the", "experiments", "for", "coverage", "of", "Section", "4.1", ",", "and", "which", "returns", "695", "articles", ".", "As", "we", "can", "see", "from", "Figure", "13", ",", "after", "a", "small", "number", "of", "queries", ",", "all", "four", "crawlers", "roughly", "download", "the", "same", "fraction", "of", "the", "collection", ",", "regardless", "of", "their", "starting", "point", ":", "Their", "coverages", "are", "roughly", "equivalent", "from", "the", "25th", "query", ".", "Eventually", ",", "all", "four", "crawlers", "use", "the", "same", "set", "of", "terms", "for", "their", "queries", ",", "regardless", "of", "the", "initial", "query", ".", "In", "the", "specific", "experiment", ",", "from", "the", "36th", "query", "onward", ",", "all", "four", "crawlers", "use", "the", "same", "terms", "for", "their", "queries", "in", "each", "iteration", ",", "or", "the", "same", "terms", "are", "used", "off", "by", "one", "or", "two", "query", "numbers", ".", "Our", "result", "confirms", "the", "observation", "of", "-LSB-", "11", "-RSB-", "that", "the", "choice", "of", "the", "initial", "query", "has", "minimal", "effect", "on", "the", "final", "performance", ".", "We", "can", "explain", "this", "intuitively", "as", "follows", ":", "Our", "algorithm", "approximates", "the", "optimal", "set", "of", "queries", "to", "use", "for", "a", "particular", "Web", "site", ".", "Once", "the", "algorithm", "has", "issued", "a", "significant", "number", "of", "queries", ",", "it", "has", "an", "accurate", "estimation", "of", "the", "content", "of", "the", "Web", "site", ",", "regardless", "of", "the", "initial", "query", ".", "Since", "this", "estimation", "is", "similar", "for", "all", "runs", "of", "the", "algorithm", ",", "the", "crawlers", "will", "use", "roughly", "the", "same", "queries", ".", "4.3", "Impact", "of", "the", "limit", "in", "the", "number", "of", "results", "While", "the", "Amazon", "and", "dmoz", "sites", "have", "the", "respective", "limit", "of", "32,000", "and", "10,000", "in", "their", "result", "sizes", ",", "these", "limits", "may", "be", "larger", "than", "those", "imposed", "by", "other", "Hidden", "Web", "sites", ".", "In", "order", "to", "investigate", "how", "a", "``", "tighter", "''", "limit", "in", "the", "result", "size", "affects", "the", "performance", "of", "our", "algorithms", ",", "we", "performed", "two", "additional", "crawls", "to", "the", "generic-dmoz", "site", ":", "we", "ran", "the", "generic-frequency", "and", "adaptive", "policies", "but", "we", "retrieved", "only", "up", "to", "the", "top", "1,000", "results", "for", "every", "query", ".", "In", "Figure", "14", "we", "plot", "the", "coverage", "for", "the", "two", "policies", "as", "a", "function", "of", "the", "number", "of", "queries", ".", "As", "one", "might", "expect", ",", "by", "comparing", "the", "new", "result", "in", "Figure", "14", "to", "that", "of", "Figure", "11", "where", "the", "result", "limit", "was", "10,000", ",", "we", "conclude", "that", "the", "tighter", "limit", "requires", "a", "higher", "number", "of", "queries", "to", "achieve", "the", "same", "coverage", ".", "For", "example", ",", "when", "the", "result", "limit", "was", "10,000", ",", "the", "adaptive", "pol-107", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "500", "1000", "1500", "2000", "2500", "3000", "3500", "Fraction", "of", "Unique", "Pages", "Query", "Number", "Cumulative", "fraction", "of", "unique", "pages", "downloaded", "per", "query", "-", "Dmoz", "Web", "site", "-LRB-", "cap", "limit", "1000", "-RRB-", "adaptive", "generic-frequency", "Figure", "14", ":", "Coverage", "of", "general", "dmoz", "after", "limiting", "the", "number", "of", "results", "to", "1,000", "icy", "could", "download", "70", "%", "of", "the", "site", "after", "issuing", "630", "queries", ",", "while", "it", "had", "to", "issue", "2,600", "queries", "to", "download", "70", "%", "of", "the", "site", "when", "the", "limit", "was", "1,000", ".", "On", "the", "other", "hand", ",", "our", "new", "result", "shows", "that", "even", "with", "a", "tight", "result", "limit", ",", "it", "is", "still", "possible", "to", "download", "most", "of", "a", "Hidden", "Web", "site", "after", "issuing", "a", "reasonable", "number", "of", "queries", ".", "The", "adaptive", "policy", "could", "download", "more", "than", "85", "%", "of", "the", "site", "after", "issuing", "3,500", "queries", "when", "the", "limit", "was", "1,000", ".", "Finally", ",", "our", "result", "shows", "that", "our", "adaptive", "policy", "consistently", "outperforms", "the", "generic-frequency", "policy", "regardless", "of", "the", "result", "limit", ".", "In", "both", "Figure", "14", "and", "Figure", "11", ",", "our", "adaptive", "policy", "shows", "significantly", "larger", "coverage", "than", "the", "generic-frequency", "policy", "for", "the", "same", "number", "of", "queries", ".", "4.4", "Incorporating", "the", "document", "download", "cost", "For", "brevity", "of", "presentation", ",", "the", "performance", "evaluation", "results", "provided", "so", "far", "assumed", "a", "simplified", "cost-model", "where", "every", "query", "involved", "a", "constant", "cost", ".", "In", "this", "section", "we", "present", "results", "regarding", "the", "performance", "of", "the", "adaptive", "and", "generic-frequency", "algorithms", "using", "Equation", "2", "to", "drive", "our", "query", "selection", "process", ".", "As", "we", "discussed", "in", "Section", "2.3.1", ",", "this", "query", "cost", "model", "includes", "the", "cost", "for", "submitting", "the", "query", "to", "the", "site", ",", "retrieving", "the", "result", "index", "page", ",", "and", "also", "downloading", "the", "actual", "pages", ".", "For", "these", "costs", ",", "we", "examined", "the", "size", "of", "every", "result", "in", "the", "index", "page", "and", "the", "sizes", "of", "the", "documents", ",", "and", "we", "chose", "c", "q", "=", "100", ",", "c", "r", "=", "100", ",", "and", "c", "d", "=", "10000", ",", "as", "values", "for", "the", "parameters", "of", "Equation", "2", ",", "and", "for", "the", "particular", "experiment", "that", "we", "ran", "on", "the", "PubMed", "website", ".", "The", "values", "that", "we", "selected", "imply", "that", "the", "cost", "for", "issuing", "one", "query", "and", "retrieving", "one", "result", "from", "the", "result", "index", "page", "are", "roughly", "the", "same", ",", "while", "the", "cost", "for", "downloading", "an", "actual", "page", "is", "100", "times", "larger", ".", "We", "believe", "that", "these", "values", "are", "reasonable", "for", "the", "PubMed", "Web", "site", ".", "Figure", "15", "shows", "the", "coverage", "of", "the", "adaptive", "and", "generic-frequency", "algorithms", "as", "a", "function", "of", "the", "resource", "units", "used", "during", "the", "download", "process", ".", "The", "horizontal", "axis", "is", "the", "amount", "of", "resources", "used", ",", "and", "the", "vertical", "axis", "is", "the", "coverage", ".", "As", "it", "is", "evident", "from", "the", "graph", ",", "the", "adaptive", "policy", "makes", "more", "efficient", "use", "of", "the", "available", "resources", ",", "as", "it", "is", "able", "to", "download", "more", "articles", "than", "the", "generic-frequency", ",", "using", "the", "same", "amount", "of", "resource", "units", ".", "However", ",", "the", "difference", "in", "coverage", "is", "less", "dramatic", "in", "this", "case", ",", "compared", "to", "the", "graph", "of", "Figure", "9", ".", "The", "smaller", "difference", "is", "due", "to", "the", "fact", "that", "under", "the", "current", "cost", "metric", ",", "the", "download", "cost", "of", "documents", "constitutes", "a", "significant", "portion", "of", "the", "cost", ".", "Therefore", ",", "when", "both", "policies", "downloaded", "the", "same", "number", "of", "documents", ",", "the", "saving", "of", "the", "adaptive", "policy", "is", "not", "as", "dramatic", "as", "before", ".", "That", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "5000", "10000", "15000", "20000", "25000", "30000", "Fraction", "of", "Unique", "Pages", "Total", "Cost", "-LRB-", "c", "q", "=", "100", ",", "c", "r", "=", "100", ",", "c", "d", "=", "10000", "-RRB-", "Cumulative", "fraction", "of", "unique", "pages", "downloaded", "per", "cost", "unit", "-", "PubMed", "Web", "site", "adaptive", "frequency", "Figure", "15", ":", "Coverage", "of", "PubMed", "after", "incorporating", "the", "document", "download", "cost", "is", ",", "the", "savings", "in", "the", "query", "cost", "and", "the", "result", "index", "download", "cost", "is", "only", "a", "relatively", "small", "portion", "of", "the", "overall", "cost", ".", "Still", ",", "we", "observe", "noticeable", "savings", "from", "the", "adaptive", "policy", ".", "At", "the", "total", "cost", "of", "8000", ",", "for", "example", ",", "the", "coverage", "of", "the", "adaptive", "policy", "is", "roughly", "0.5", "while", "the", "coverage", "of", "the", "frequency", "policy", "is", "only", "0.3", ".", "In", "a", "recent", "study", ",", "Raghavan", "and", "Garcia-Molina", "-LSB-", "29", "-RSB-", "present", "an", "architectural", "model", "for", "a", "Hidden", "Web", "crawler", ".", "The", "main", "focus", "of", "this", "work", "is", "to", "learn", "Hidden-Web", "query", "interfaces", ",", "not", "to", "generate", "queries", "automatically", ".", "The", "potential", "queries", "are", "either", "provided", "manually", "by", "users", "or", "collected", "from", "the", "query", "interfaces", ".", "In", "contrast", ",", "our", "main", "focus", "is", "to", "generate", "queries", "automatically", "without", "any", "human", "intervention", ".", "The", "idea", "of", "automatically", "issuing", "queries", "to", "a", "database", "and", "examining", "the", "results", "has", "been", "previously", "used", "in", "different", "contexts", ".", "For", "example", ",", "in", "-LSB-", "10", ",", "11", "-RSB-", ",", "Callan", "and", "Connel", "try", "to", "acquire", "an", "accurate", "language", "model", "by", "collecting", "a", "uniform", "random", "sample", "from", "the", "database", ".", "In", "-LSB-", "22", "-RSB-", "Lawrence", "and", "Giles", "issue", "random", "queries", "to", "a", "number", "of", "Web", "Search", "Engines", "in", "order", "to", "estimate", "the", "fraction", "of", "the", "Web", "that", "has", "been", "indexed", "by", "each", "of", "them", ".", "In", "a", "similar", "fashion", ",", "Bharat", "and", "Broder", "-LSB-", "8", "-RSB-", "issue", "random", "queries", "to", "a", "set", "of", "Search", "Engines", "in", "order", "to", "estimate", "the", "relative", "size", "and", "overlap", "of", "their", "indexes", ".", "In", "-LSB-", "6", "-RSB-", ",", "Barbosa", "and", "Freire", "experimentally", "evaluate", "methods", "for", "building", "multi-keyword", "queries", "that", "can", "return", "a", "large", "fraction", "of", "a", "document", "collection", ".", "Our", "work", "differs", "from", "the", "previous", "studies", "in", "two", "ways", ".", "First", ",", "it", "provides", "a", "theoretical", "framework", "for", "analyzing", "the", "process", "of", "generating", "queries", "for", "a", "database", "and", "examining", "the", "results", ",", "which", "can", "help", "us", "better", "understand", "the", "effectiveness", "of", "the", "methods", "presented", "in", "the", "previous", "work", ".", "Second", ",", "we", "apply", "our", "framework", "to", "the", "problem", "of", "Hidden", "Web", "crawling", "and", "demonstrate", "the", "efficiency", "of", "our", "algorithms", ".", "Cope", "et", "al.", "-LSB-", "15", "-RSB-", "propose", "a", "method", "to", "automatically", "detect", "whether", "a", "particular", "Web", "page", "contains", "a", "search", "form", ".", "This", "work", "is", "complementary", "to", "ours", ";", "once", "we", "detect", "search", "interfaces", "on", "the", "Web", "using", "the", "method", "in", "-LSB-", "15", "-RSB-", ",", "we", "may", "use", "our", "proposed", "algorithms", "to", "download", "pages", "automatically", "from", "those", "Web", "sites", ".", "Reference", "-LSB-", "4", "-RSB-", "reports", "methods", "to", "estimate", "what", "fraction", "of", "a", "text", "database", "can", "be", "eventually", "acquired", "by", "issuing", "queries", "to", "the", "database", ".", "In", "-LSB-", "3", "-RSB-", "the", "authors", "study", "query-based", "techniques", "that", "can", "extract", "relational", "data", "from", "large", "text", "databases", ".", "Again", ",", "these", "works", "study", "orthogonal", "issues", "and", "are", "complementary", "to", "our", "work", ".", "In", "order", "to", "make", "documents", "in", "multiple", "textual", "databases", "searchable", "at", "a", "central", "place", ",", "a", "number", "of", "``", "harvesting", "''", "approaches", "have", "108", "been", "proposed", "-LRB-", "e.g.", ",", "OAI", "-LSB-", "21", "-RSB-", ",", "DP9", "-LSB-", "24", "-RSB-", "-RRB-", ".", "These", "approaches", "essentially", "assume", "cooperative", "document", "databases", "that", "willingly", "share", "some", "of", "their", "metadata", "and/or", "documents", "to", "help", "a", "third-party", "search", "engine", "to", "index", "the", "documents", ".", "Our", "approach", "assumes", "uncoop-erative", "databases", "that", "do", "not", "share", "their", "data", "publicly", "and", "whose", "documents", "are", "accessible", "only", "through", "search", "interfaces", ".", "There", "exists", "a", "large", "body", "of", "work", "studying", "how", "to", "identify", "the", "most", "relevant", "database", "given", "a", "user", "query", "-LSB-", "20", ",", "19", ",", "14", ",", "23", ",", "18", "-RSB-", ".", "This", "body", "of", "work", "is", "often", "referred", "to", "as", "meta-searching", "or", "database", "selection", "problem", "over", "the", "Hidden", "Web", ".", "For", "example", ",", "-LSB-", "19", "-RSB-", "suggests", "the", "use", "of", "focused", "probing", "to", "classify", "databases", "into", "a", "topical", "category", ",", "so", "that", "given", "a", "query", ",", "a", "relevant", "database", "can", "be", "selected", "based", "on", "its", "topical", "category", ".", "Our", "vision", "is", "different", "from", "this", "body", "of", "work", "in", "that", "we", "intend", "to", "download", "and", "index", "the", "Hidden", "pages", "at", "a", "central", "location", "in", "advance", ",", "so", "that", "users", "can", "access", "all", "the", "information", "at", "their", "convenience", "from", "one", "single", "location", ".", "Traditional", "crawlers", "normally", "follow", "links", "on", "the", "Web", "to", "discover", "and", "download", "pages", ".", "Therefore", "they", "can", "not", "get", "to", "the", "Hidden", "Web", "pages", "which", "are", "only", "accessible", "through", "query", "interfaces", ".", "In", "this", "paper", ",", "we", "studied", "how", "we", "can", "build", "a", "Hidden", "Web", "crawler", "that", "can", "automatically", "query", "a", "Hidden", "Web", "site", "and", "download", "pages", "from", "it", ".", "We", "proposed", "three", "different", "query", "generation", "policies", "for", "the", "Hidden", "Web", ":", "a", "policy", "that", "picks", "queries", "at", "random", "from", "a", "list", "of", "keywords", ",", "a", "policy", "that", "picks", "queries", "based", "on", "their", "frequency", "in", "a", "generic", "text", "collection", ",", "and", "a", "policy", "which", "adaptively", "picks", "a", "good", "query", "based", "on", "the", "content", "of", "the", "pages", "downloaded", "from", "the", "Hidden", "Web", "site", ".", "Experimental", "evaluation", "on", "4", "real", "Hidden", "Web", "sites", "shows", "that", "our", "policies", "have", "a", "great", "potential", ".", "In", "particular", ",", "in", "certain", "cases", "the", "adaptive", "policy", "can", "download", "more", "than", "90", "%", "of", "a", "Hidden", "Web", "site", "after", "issuing", "approximately", "100", "queries", ".", "Given", "these", "results", ",", "we", "believe", "that", "our", "work", "provides", "a", "potential", "mechanism", "to", "improve", "the", "search-engine", "coverage", "of", "the", "Web", "and", "the", "user", "experience", "of", "Web", "search", ".", "6.1", "Future", "Work", "We", "briefly", "discuss", "some", "future-research", "avenues", ".", "Multi-attribute", "Databases", "We", "are", "currently", "investigating", "how", "to", "extend", "our", "ideas", "to", "structured", "multi-attribute", "databases", ".", "While", "generating", "queries", "for", "multi-attribute", "databases", "is", "clearly", "a", "more", "difficult", "problem", ",", "we", "may", "exploit", "the", "following", "observation", "to", "address", "this", "problem", ":", "When", "a", "site", "supports", "multi-attribute", "queries", ",", "the", "site", "often", "returns", "pages", "that", "contain", "values", "for", "each", "of", "the", "query", "attributes", ".", "For", "example", ",", "when", "an", "online", "bookstore", "supports", "queries", "on", "title", ",", "author", "and", "isbn", ",", "the", "pages", "returned", "from", "a", "query", "typically", "contain", "the", "title", ",", "author", "and", "ISBN", "of", "corresponding", "books", ".", "Thus", ",", "if", "we", "can", "analyze", "the", "returned", "pages", "and", "extract", "the", "values", "for", "each", "field", "-LRB-", "e.g", ",", "title", "=", "`", "Harry", "Potter", "'", ",", "author", "=", "`", "J.K.", "Rowling", "'", ",", "etc", "-RRB-", ",", "we", "can", "apply", "the", "same", "idea", "that", "we", "used", "for", "the", "textual", "database", ":", "estimate", "the", "frequency", "of", "each", "attribute", "value", "and", "pick", "the", "most", "promising", "one", ".", "The", "main", "challenge", "is", "to", "automatically", "segment", "the", "returned", "pages", "so", "that", "we", "can", "identify", "the", "sections", "of", "the", "pages", "that", "present", "the", "values", "corresponding", "to", "each", "attribute", ".", "Since", "many", "Web", "sites", "follow", "limited", "formatting", "styles", "in", "presenting", "multiple", "attributes", "--", "for", "example", ",", "most", "book", "titles", "are", "preceded", "by", "the", "label", "``", "Title", ":", "''", "--", "we", "believe", "we", "may", "learn", "page-segmentation", "rules", "automatically", "from", "a", "small", "set", "of", "training", "examples", ".", "Other", "Practical", "Issues", "In", "addition", "to", "the", "automatic", "query", "generation", "problem", ",", "there", "are", "many", "practical", "issues", "to", "be", "addressed", "to", "build", "a", "fully", "automatic", "Hidden-Web", "crawler", ".", "For", "example", ",", "in", "this", "paper", "we", "assumed", "that", "the", "crawler", "already", "knows", "all", "query", "interfaces", "for", "Hidden-Web", "sites", ".", "But", "how", "can", "the", "crawler", "discover", "the", "query", "interfaces", "?", "The", "method", "proposed", "in", "-LSB-", "15", "-RSB-", "may", "be", "a", "good", "starting", "point", ".", "In", "addition", ",", "some", "Hidden-Web", "sites", "return", "their", "results", "in", "batches", "of", ",", "say", ",", "20", "pages", ",", "so", "the", "user", "has", "to", "click", "on", "a", "``", "next", "''", "button", "in", "order", "to", "see", "more", "results", ".", "In", "this", "case", ",", "a", "fully", "automatic", "Hidden-Web", "crawler", "should", "know", "that", "the", "first", "result", "index", "page", "contains", "only", "a", "partial", "result", "and", "``", "press", "''", "the", "next", "button", "automatically", ".", "Finally", ",", "some", "Hidden", "Web", "sites", "may", "contain", "an", "infinite", "number", "of", "Hidden", "Web", "pages", "which", "do", "not", "contribute", "much", "significant", "content", "-LRB-", "e.g.", "a", "calendar", "with", "links", "for", "every", "day", "-RRB-", ".", "In", "this", "case", "the", "Hidden-Web", "crawler", "should", "be", "able", "to", "detect", "that", "the", "site", "does", "not", "have", "much", "more", "new", "content", "and", "stop", "downloading", "pages", "from", "the", "site", ".", "Page", "similarity", "detection", "algorithms", "may", "be", "useful", "for", "this", "purpose", "-LSB-", "9", ",", "13", "-RSB-", ".", "-LSB-", "1", "-RSB-", "Lexisnexis", "http://www.lexisnexis.com", ".", "-LSB-", "2", "-RSB-", "The", "Open", "Directory", "Project", ",", "http://www.dmoz.org", ".", "-LSB-", "3", "-RSB-", "E.", "Agichtein", "and", "L.", "Gravano", ".", "Querying", "text", "databases", "for", "efficient", "information", "extraction", ".", "In", "ICDE", ",", "2003", ".", "-LSB-", "4", "-RSB-", "E.", "Agichtein", ",", "P.", "Ipeirotis", ",", "and", "L.", "Gravano", ".", "Modeling", "query-based", "access", "to", "text", "databases", ".", "In", "WebDB", ",", "2003", ".", "-LSB-", "5", "-RSB-", "Article", "on", "New", "York", "Times", ".", "Old", "Search", "Engine", ",", "the", "Library", ",", "Tries", "to", "Fit", "Into", "a", "Google", "World", ".", "Available", "at", ":", "http", ":", "/", "/", "www.nytimes.com/2004/06/21/technology/21LIBR.html", ",", "June", "2004", ".", "-LSB-", "6", "-RSB-", "L.", "Barbosa", "and", "J.", "Freire", ".", "Siphoning", "hidden-web", "data", "through", "keyword-based", "interfaces", ".", "In", "SBBD", ",", "2004", ".", "-LSB-", "7", "-RSB-", "M.", "K.", "Bergman", ".", "The", "deep", "web", ":", "Surfacing", "hidden", "value", ",", "http", ":", "/", "/", "www.press.umich.edu/jep/07-01/bergman.html", ".", "-LSB-", "8", "-RSB-", "K.", "Bharat", "and", "A.", "Broder", ".", "A", "technique", "for", "measuring", "the", "relative", "size", "and", "overlap", "of", "public", "web", "search", "engines", ".", "In", "WWW", ",", "1998", ".", "-LSB-", "9", "-RSB-", "A.", "Z.", "Broder", ",", "S.", "C.", "Glassman", ",", "M.", "S.", "Manasse", ",", "and", "G.", "Zweig", ".", "Syntactic", "clustering", "of", "the", "web", ".", "In", "WWW", ",", "1997", ".", "-LSB-", "10", "-RSB-", "J.", "Callan", ",", "M.", "Connell", ",", "and", "A.", "Du", ".", "Automatic", "discovery", "of", "language", "models", "for", "text", "databases", ".", "In", "SIGMOD", ",", "1999", ".", "-LSB-", "11", "-RSB-", "J.", "P.", "Callan", "and", "M.", "E.", "Connell", ".", "Query-based", "sampling", "of", "text", "databases", ".", "Information", "Systems", ",", "19", "-LRB-", "2", "-RRB-", ":", "97", "130", ",", "2001", ".", "-LSB-", "12", "-RSB-", "K.", "C.-C", ".", "Chang", ",", "B.", "He", ",", "C.", "Li", ",", "and", "Z.", "Zhang", ".", "Structured", "databases", "on", "the", "web", ":", "Observations", "and", "implications", ".", "Technical", "report", ",", "UIUC", ".", "-LSB-", "13", "-RSB-", "J.", "Cho", ",", "N.", "Shivakumar", ",", "and", "H.", "Garcia-Molina", ".", "Finding", "replicated", "web", "collections", ".", "In", "SIGMOD", ",", "2000", ".", "-LSB-", "14", "-RSB-", "W.", "Cohen", "and", "Y.", "Singer", ".", "Learning", "to", "query", "the", "web", ".", "In", "AAAI", "Workshop", "on", "Internet-Based", "Information", "Systems", ",", "1996", ".", "-LSB-", "15", "-RSB-", "J.", "Cope", ",", "N.", "Craswell", ",", "and", "D.", "Hawking", ".", "Automated", "discovery", "of", "search", "interfaces", "on", "the", "web", ".", "In", "14th", "Australasian", "conference", "on", "Database", "technologies", ",", "2003", ".", "-LSB-", "16", "-RSB-", "T.", "H.", "Cormen", ",", "C.", "E.", "Leiserson", ",", "and", "R.", "L.", "Rivest", ".", "Introduction", "to", "Algorithms", ",", "2nd", "Edition", ".", "MIT", "Press/McGraw", "Hill", ",", "2001", ".", "-LSB-", "17", "-RSB-", "D.", "Florescu", ",", "A.", "Y.", "Levy", ",", "and", "A.", "O.", "Mendelzon", ".", "Database", "techniques", "for", "the", "world-wide", "web", ":", "A", "survey", ".", "SIGMOD", "Record", ",", "27", "-LRB-", "3", "-RRB-", ":", "59", "74", ",", "1998", ".", "-LSB-", "18", "-RSB-", "B", ".", "He", "and", "K.", "C.-C", ".", "Chang", ".", "Statistical", "schema", "matching", "across", "web", "query", "interfaces", ".", "In", "SIGMOD", "Conference", ",", "2003", ".", "-LSB-", "19", "-RSB-", "P.", "Ipeirotis", "and", "L.", "Gravano", ".", "Distributed", "search", "over", "the", "hidden", "web", ":", "Hierarchical", "database", "sampling", "and", "selection", ".", "In", "VLDB", ",", "2002", ".", "-LSB-", "20", "-RSB-", "P.", "G.", "Ipeirotis", ",", "L.", "Gravano", ",", "and", "M.", "Sahami", ".", "Probe", ",", "count", ",", "and", "classify", ":", "Categorizing", "hidden", "web", "databases", ".", "In", "SIGMOD", ",", "2001", ".", "-LSB-", "21", "-RSB-", "C.", "Lagoze", "and", "H.", "V.", "Sompel", ".", "The", "Open", "Archives", "Initiative", ":", "Building", "a", "low-barrier", "interoperability", "framework", "In", "JCDL", ",", "2001", ".", "-LSB-", "22", "-RSB-", "S.", "Lawrence", "and", "C.", "L.", "Giles", ".", "Searching", "the", "World", "Wide", "Web", ".", "Science", ",", "280", "-LRB-", "5360", "-RRB-", ":", "98", "--", "100", ",", "1998", ".", "-LSB-", "23", "-RSB-", "V.", "Z.", "Liu", ",", "J.", "C.", "Richard", "C.", "Luo", "and", ",", "and", "W.", "W.", "Chu", ".", "Dpro", ":", "A", "probabilistic", "approach", "for", "hidden", "web", "database", "selection", "using", "dynamic", "probing", ".", "In", "ICDE", ",", "2004", ".", "-LSB-", "24", "-RSB-", "X.", "Liu", ",", "K.", "Maly", ",", "M.", "Zubair", "and", "M.", "L.", "Nelson", ".", "DP9-An", "OAI", "Gateway", "Service", "for", "Web", "Crawlers", ".", "In", "JCDL", ",", "2002", ".", "-LSB-", "25", "-RSB-", "B.", "B.", "Mandelbrot", ".", "Fractal", "Geometry", "of", "Nature", ".", "W.", "H.", "Freeman", "&", "Co.", "-LSB-", "26", "-RSB-", "A.", "Ntoulas", ",", "J.", "Cho", ",", "and", "C.", "Olston", ".", "What", "'s", "new", "on", "the", "web", "?", "the", "evolution", "of", "the", "web", "from", "a", "search", "engine", "perspective", ".", "In", "WWW", ",", "2004", ".", "-LSB-", "27", "-RSB-", "A.", "Ntoulas", ",", "P.", "Zerfos", ",", "and", "J.", "Cho", ".", "Downloading", "hidden", "web", "content", ".", "Technical", "report", ",", "UCLA", ",", "2004", ".", "-LSB-", "28", "-RSB-", "S.", "Olsen", ".", "Does", "search", "engine", "'s", "power", "threaten", "web", "'s", "independence", "?", "http://news.com.com/2009-1023-963618.html", ".", "-LSB-", "29", "-RSB-", "S.", "Raghavan", "and", "H.", "Garcia-Molina", ".", "Crawling", "the", "hidden", "web", ".", "In", "VLDB", ",", "2001", ".", "-LSB-", "30", "-RSB-", "G.", "K.", "Zipf", ".", "Human", "Behavior", "and", "the", "Principle", "of", "Least-Effort", ".", "Addison-Wesley", ",", "Cambridge", ",", "MA", ",", "1949", ".", "109"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["query selection", "deep web", "potential bias", "keyword queries", "efficiency", "hidden web crawling", "hidden web", "coverage", "crawler", "adaptive algorithm", "accurate language model"], "abstractive_keyphrases": ["keyword selection", "adaptive algorithmn", "deep web crawler", "keyword query"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "48", "document": ["Building", "a", "Research", "Library", "for", "the", "History", "of", "the", "Web", "This", "paper", "describes", "the", "building", "of", "a", "research", "library", "for", "studying", "the", "Web", ",", "especially", "research", "on", "how", "the", "structure", "and", "content", "of", "the", "Web", "change", "over", "time", ".", "The", "library", "is", "particularly", "aimed", "at", "supporting", "social", "scientists", "for", "whom", "the", "Web", "is", "both", "a", "fascinating", "social", "phenomenon", "and", "a", "mirror", "on", "society", ".", "The", "library", "is", "built", "on", "the", "collections", "of", "the", "Internet", "Archive", ",", "which", "has", "been", "preserving", "a", "crawl", "of", "the", "Web", "every", "two", "months", "since", "1996", ".", "The", "technical", "challenges", "in", "organizing", "this", "data", "for", "research", "fall", "into", "two", "categories", ":", "high-performance", "computing", "to", "transfer", "and", "manage", "the", "very", "large", "amounts", "of", "data", ",", "and", "human-computer", "interfaces", "that", "empower", "research", "by", "non-computer", "specialists", ".", "H.", "3.7", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Digital", "Libraries", "collection", ",", "systems", "issues", ",", "user", "issues", ".", "J.", "4", "-LSB-", "Social", "and", "Behavioral", "Sciences", "-RSB-", ":", "sociology", ".", "Algorithms", ",", "Management", ",", "Measurement", ",", "Performance", ",", "Design", ",", "Human", "Factors", ".", "1", ",", "while", "Amazon", "has", "recently", "made", "its", "older", "Alexa", "corpus", "commercially", "available", "for", "the", "development", "of", "searching", "and", "related", "services", "2", ".", "However", ",", "the", "only", "collection", "that", "can", "be", "used", "for", "more", "general", "research", "into", "the", "history", "of", "the", "Web", "is", "the", "Web", "collection", "of", "the", "Internet", "Archive", "3", ".", "Everybody", "with", "an", "interest", "in", "the", "history", "of", "the", "Web", "must", "be", "grateful", "to", "Brewster", "Kahle", "for", "his", "foresight", "in", "preserving", "the", "content", "of", "the", "Web", "for", "future", "generations", ",", "through", "the", "not-for-profit", "Internet", "Archive", "and", "through", "Alexa", "Internet", ",", "Inc.", ",", "which", "he", "also", "founded", ".", "1", "The", "Google", "Web", "Search", "API", "allows", "a", "client", "to", "submit", "a", "limited", "number", "of", "search", "requests", ",", "using", "the", "SOAP", "and", "WSDL", "standards", ".", "See", ":", "http://www.google.com/apis/", ".", "2", "See", "http://websearch.alexa.com/welcome.html", "for", "the", "Alexa", "corpus", "made", "available", "by", "Amazon", ".", "This", "site", "also", "has", "a", "description", "of", "the", "relationship", "between", "Alexa", "Internet", "and", "the", "Internet", "Archive", ".", "3", "The", "Internet", "Archive", "'s", "Web", "site", "is", "http://www.archive.org/", ".", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "JCDL", "'", "06", ",", "June", "11-15", ",", "2006", ",", "Chapel", "Hill", ",", "North", "Carolina", ",", "USA", ".", "ACM", "1-5959", "3-354-9", "/", "06/0006", ".", "95", "Vannevar", "Bush", "Best", "Paper", "Candidate", "The", "Internet", "Archive", "began", "to", "collect", "and", "preserve", "the", "Web", "in", "1996", ".", "With", "a", "few", "gaps", "in", "the", "early", "years", ",", "the", "collection", "has", "added", "a", "full", "crawl", "of", "the", "Web", "every", "two", "months", "since", "then", ".", "Most", "but", "not", "all", "of", "this", "data", "comes", "from", "the", "Alexa", "crawls", ".", "Statistics", "of", "the", "sizes", "of", "the", "separate", "crawls", "are", "complicated", "by", "the", "fact", "that", "a", "single", "crawl", "may", "contain", "several", "variants", "of", "the", "same", "URL", ",", "but", "in", "August", "2005", "the", "total", "volume", "of", "data", "was", "544", "Terabytes", "-LRB-", "TB", "-RRB-", ".", "This", "is", "the", "size", "of", "the", "compressed", "data", ".", "As", "discussed", "below", ",", "the", "overall", "compression", "ratio", "is", "about", "10:1", ",", "so", "that", "the", "total", "size", "of", "the", "collection", "is", "approximately", "5", "to", "6", "Petabytes", "uncompressed", ".", "Table", "1", "gives", "estimates", "of", "the", "size", "of", "the", "individual", "crawls", "for", "each", "year", ".", "Table", "1", ".", "Estimates", "of", "crawl", "sizes", "-LRB-", "compressed", "-RRB-", "Year", "Web", "pages", "-LRB-", "TB", "per", "crawl", "-RRB-", "Metadata", "-LRB-", "TB", "per", "crawl", "-RRB-", "1996", "1", "0.2", "1997", "2", "0.4", "1998", "3", "0.6", "1999", "4", "0.8", "2000", "10", "1.2", "2001", "15", "2", "2002", "25", "3", "2003", "30", "4", "2004", "45", "6", "2005", "60", "10", "We", "are", "working", "with", "the", "Internet", "Archive", "to", "build", "a", "research", "library", "based", "on", "this", "collection", ".", "In", "summer", "2005", ",", "we", "began", "work", "on", "the", "system", "that", "is", "being", "used", "to", "transfer", "a", "major", "subset", "of", "the", "data", "to", "Cornell", "and", "to", "organize", "it", "for", "researchers", ",", "with", "a", "particular", "emphasis", "on", "supporting", "social", "science", "research", ".", "This", "paper", "describes", "the", "technical", "design", ",", "performance", "testing", ",", "and", "progress", "in", "implementation", ".", "The", "overall", "goals", "of", "the", "library", "and", "plans", "for", "its", "use", "in", "research", "are", "described", "in", "a", "separate", "paper", "-LSB-", "1", "-RSB-", ".", "1.3", "User", "Studies", "In", "building", "any", "library", ",", "the", "objective", "is", "to", "organize", "the", "collections", "and", "services", "so", "that", "they", "provide", "the", "greatest", "range", "of", "opportunities", "for", "users", ",", "both", "now", "and", "in", "the", "future", ".", "Inevitably", "the", "design", "is", "a", "trade-off", "between", "predictions", "of", "what", "users", "will", "find", "helpful", "and", "the", "practicalities", "of", "building", "and", "maintaining", "the", "library", ".", "This", "trade-off", "is", "particularly", "important", "for", "a", "library", "of", "the", "whole", "Web", "because", "of", "the", "computing", "challenges", "of", "managing", "very", "large", "amounts", "of", "data", ".", "Therefore", ",", "the", "design", "of", "the", "library", "began", "with", "interviews", "of", "potential", "users", "to", "identify", "how", "the", "collections", "might", "be", "organized", "to", "be", "most", "valuable", "to", "them", ".", "Two", "users", "studies", "were", "carried", "out", ",", "with", "sociologists", "and", "with", "computer", "science", "researchers", ".", "1.3.1", "Sociology", "In", "fall", "2005", ",", "Cornell", "received", "support", "from", "the", "National", "Science", "Foundation", "'s", "Next", "Generation", "Cybertools", "program", "for", "a", "project", "that", "combines", "sociology", "research", "with", "continuing", "development", "of", "the", "Web", "library", "4", ".", "In", "this", "project", ",", "the", "specific", "areas", "of", "research", "are", "diffusion", "of", "ideas", ",", "including", "polarization", "of", "opinions", "and", "the", "spread", "of", "urban", "legends", ".", "Conventionally", ",", "sociologists", "have", "studied", "such", "phenomena", "by", "analysis", "of", "small", "surveys", "with", "hand-coded", "data", ".", "One", "aim", "of", "the", "project", "is", "to", "develop", "a", "new", "methodology", "for", "such", "research", "built", "around", "very", "large-scale", "collections", "of", "Web", "data", ",", "with", "automated", "tools", "used", "to", "extract", ",", "encode", "and", "analyze", "the", "data", ".", "Social", "science", "researchers", "identified", "a", "number", "of", "specific", "studies", "that", "they", "would", "like", "to", "carry", "out", "using", "historical", "Web", "data", ".", "Many", "of", "the", "studies", "have", "the", "same", "general", "structure", ":", "-LRB-", "a", "-RRB-", "extract", "a", "subset", "of", "the", "Web", "for", "detailed", "analysis", ",", "-LRB-", "b", "-RRB-", "encode", "selected", "attributes", "of", "the", "pages", "in", "that", "subset", ",", "-LRB-", "c", "-RRB-", "repeat", "for", "the", "corresponding", "subsets", "at", "several", "different", "dates", ",", "-LRB-", "d", "-RRB-", "analyze", "the", "changes", "over", "time", ".", "The", "criteria", "by", "which", "a", "portion", "of", "the", "Web", "is", "chosen", "for", "analysis", "are", "extremely", "varied", ".", "Some", "desirable", "criteria", "are", "impossible", "with", "today", "'s", "computing", ",", "e.g.", ",", "they", "require", "understanding", "of", "the", "content", "of", "a", "page", ".", "However", ",", "simple", "criteria", "such", "as", "domain", "names", "provide", "a", "good", "starting", "point", "for", "many", "purposes", ",", "particularly", "when", "combined", "with", "focused", "Web", "crawling", "to", "refine", "the", "subsets", "for", "analysis", ".", "Once", "a", "subset", "has", "been", "extracted", ",", "social", "science", "researchers", "want", "to", "analyze", "the", "text", ",", "for", "which", "full", "text", "indexes", "are", "important", ".", "They", "also", "wish", "to", "analyze", "the", "structure", "of", "links", "between", "pages", "for", "the", "social", "relationship", "that", "they", "represent", ".", "Such", "research", "requires", "interdisciplinary", "efforts", "by", "computer", "scientists", "and", "social", "scientists", ".", "Some", "of", "the", "analysis", "tools", "already", "exist", ",", "e.g.", ",", "using", "full", "text", "indexes", "of", "Web", "pages", "to", "trace", "the", "movement", "of", "individuals", ".", "Others", "tools", "are", "themselves", "subjects", "of", "computer", "science", "research", "in", "natural", "language", "processing", "and", "machine", "learning", ",", "e.g.", ",", "to", "analyze", "the", "text", "of", "Web", "pages", "for", "sentiments", ",", "opinions", ",", "and", "other", "features", "of", "interest", "to", "social", "scientists", ".", "1.3.2", "Computer", "Science", "Ten", "computer", "scientists", "who", "carry", "out", "research", "on", "the", "Web", "contributed", "to", "the", "user", "studies", ".", "Their", "research", "areas", "include", "the", "structure", "and", "evolution", "of", "the", "Web", ",", "data", "mining", ",", "digital", "libraries", ",", "machine", "learning", ",", "and", "natural", "language", "processing", ".", "Most", "of", "their", "interest", "focuses", "on", "the", "textual", "content", "of", "Web", "pages", "and", "the", "structure", "of", "the", "Web", "as", "revealed", "by", "the", "graph", "of", "links", "between", "pages", ".", "Several", "of", "the", "researchers", "commented", "that", "they", "expend", "ninety", "percent", "of", "their", "effort", "gathering", "test", "data", ";", "even", "then", "they", "have", "difficulty", "in", "determining", "how", "robust", "the", "results", "are", "across", "time", ".", "A", "fundamental", "tool", "for", "such", "research", "is", "the", "Web", "graph", "of", "links", "between", "pages", ".", "Studies", "of", "the", "graph", "are", "very", "important", "in", "understanding", "the", "structure", "of", "the", "Web", ",", "and", "the", "graph", "is", "the", "basis", "of", "practical", "tools", "such", "as", "PageRank", "-LSB-", "3", "-RSB-", "or", "Hubs", "and", "Authorities", "-LSB-", "9", "-RSB-", ".", "Despite", "its", "importance", ",", "there", "have", "been", "few", "studies", "that", "have", "looked", "at", "changes", "in", "the", "Web", "graph", "over", "time", ".", "Many", "of", "the", "classical", "studies", "of", "the", "Web", "graph", "were", "based", "on", "early", "AltaVista", "crawls", "and", "have", "never", "been", "repeated", ".", "Algorithmic", "research", "needs", "graphs", "of", "at", "least", "one", "billion", "pages", ",", "preferably", "stored", "in", "the", "main", "memory", "of", "a", "single", "computer", ".", "For", "textual", "research", "on", "the", "Web", "there", "are", "two", "additional", "requirements", ".", "The", "first", "is", "snapshots", "that", "are", "repeated", "across", "time", "4", "Michael", "Macy", "-LRB-", "principal", "investigator", "-RRB-", ",", "et", "al.", ",", "``", "Very", "Large", "Semi-Structured", "Datasets", "for", "Social", "Science", "Research", "''", ".", "NSF", "grant", "SES-0537606", ".", "http://www.infosci.cornell.edu/SIN/cybertools/", "96", "that", "can", "be", "used", "for", "burst", "analysis", ",", "and", "other", "time", "based", "research", ".", "The", "second", "is", "full", "text", "indexes", "of", "substantial", "numbers", "of", "Web", "pages", ".", "Focused", "Web", "crawling", "is", "of", "particular", "importance", "in", "digital", "libraries", "research", ".", "Part", "of", "the", "original", "motivation", "for", "developing", "this", "library", "was", "an", "interest", "in", "automatic", "selection", "of", "library", "materials", "from", "the", "Web", "-LSB-", "2", ",", "10", "-RSB-", ".", "Using", "the", "actual", "Web", "for", "research", "in", "focused", "crawling", "is", "technically", "difficult", "and", "the", "results", "are", "often", "hard", "to", "interpret", "since", "no", "experiment", "can", "ever", "be", "repeated", "with", "exactly", "the", "same", "data", ".", "The", "Internet", "Archive", "uses", "highly", "compressed", "file", "formats", "developed", "in", "conjunction", "with", "Alexa", "Internet", ".", "Compressed", "Web", "pages", "are", "packed", "together", "in", "large", "files", "using", "the", "ARC", "format", "-LSB-", "4", "-RSB-", ".", "The", "pages", "in", "each", "ARC", "file", "are", "in", "essentially", "random", "order", ",", "usually", "the", "sequence", "in", "which", "the", "Web", "crawler", "originally", "captured", "them", ".", "Every", "ARC", "file", "has", "an", "associated", "DAT", "file", ",", "which", "contains", "metadata", "for", "the", "pages", "including", "URL", ",", "IP", "address", ",", "crawl", "date", "and", "time", ",", "and", "hyperlinks", "from", "the", "page", ".", "The", "files", "are", "compressed", "with", "gzip", ".", "Ten", "years", "ago", "the", "decision", "was", "made", "that", "ARC", "files", "should", "be", "approximately", "100", "MB", ",", "which", "seemed", "big", "at", "the", "time", ",", "but", "this", "size", "is", "now", "too", "small", "for", "efficiency", "and", "will", "need", "to", "be", "increased", ".", "The", "sizes", "of", "the", "DAT", "files", "depend", "on", "the", "number", "of", "pages", "in", "the", "associated", "ARC", "files", ",", "but", "average", "about", "15", "MB", ".", "The", "compression", "ratios", "also", "vary", "widely", ".", "The", "ratio", "is", "more", "than", "20:1", "for", "text", "files", "but", "close", "to", "1:1", "for", "files", "that", "are", "already", "compressed", "efficiently", ",", "such", "as", "videos", ".", "The", "overall", "ratio", "for", "ARC", "files", "is", "about", "10:1", ".", "2.1.1", "The", "Database", "The", "Cornell", "Web", "library", "uses", "a", "relational", "database", "to", "store", "metadata", "about", "the", "Web", "pages", "and", "a", "separate", "Page", "Store", "to", "store", "the", "actual", "pages", ".", "In", "addition", ",", "the", "unprocessed", "ARC", "and", "DAT", "files", "received", "from", "the", "Internet", "Archive", "are", "copied", "to", "a", "tape", "archive", ".", "In", "choosing", "a", "relational", "database", ",", "we", "considered", "but", "rejected", "two", "approaches", "that", "have", "been", "successful", "in", "related", "applications", ".", "The", "first", "option", "was", "to", "use", "a", "modern", "digital", "library", "repository", "with", "support", "for", "rich", "data", "models", ",", "such", "as", "XML", "and", "RDF", ",", "and", "search", "services", "that", "support", "semi-structured", "data", ",", "such", "as", "XQuery", ".", "Such", "capabilities", "are", "appealing", ",", "but", "we", "know", "of", "no", "repository", "system", "that", "can", "manage", "tens", "of", "billions", "of", "objects", ".", "The", "scale", "of", "the", "Web", "precludes", "such", "an", "approach", ".", "The", "second", "option", "was", "to", "follow", "the", "model", "of", "production", "services", "for", "the", "Web", ",", "such", "as", "Google", "-LSB-", "7", "-RSB-", "and", "Yahoo", ".", "They", "provide", "low", "cost", "processing", "and", "data", "storage", "by", "spreading", "their", "systems", "across", "very", "large", "numbers", "of", "small", ",", "commodity", "computers", "used", "as", "servers", ".", "This", "is", "the", "approach", "used", "by", "the", "Internet", "Archive", "to", "store", "its", "collections", "and", "for", "its", "very", "popular", "Wayback", "Machine", "5", ".", "We", "rejected", "this", "architecture", "for", "a", "research", "library", "for", "two", "principal", "reasons", ":", "-LRB-", "a", "-RRB-", "there", "are", "many", "algorithmic", "computations", "on", "large", "datasets", "where", "a", "single", "large", "computer", "is", "intrinsically", "more", "efficient", "than", "a", "distributed", "cluster", "of", "smaller", "machines", ",", "and", "-LRB-", "b", "-RRB-", "even", "when", "the", "research", "can", "be", "done", "effectively", ",", "clusters", "of", "computers", "are", "more", "difficult", "to", "program", "by", "researchers", "who", "are", "carrying", "out", "Web-scale", "research", ".", "As", "an", "example", ",", "each", "server", "at", "the", "Internet", "Archive", "has", "an", "index", "of", "the", "files", "stored", "on", "it", ",", "but", "there", "is", "only", "a", "very", "limited", "central", "index", ".", "The", "Wayback", "Machine", "allows", "a", "user", "to", "retrieve", "all", "the", "pages", "in", "the", "5", "The", "Wayback", "Machine", "is", "accessible", "at", "http://www.archive.org/", ".", "entire", "collection", "that", "have", "a", "given", "URL", ".", "It", "relies", "on", "a", "protocol", "in", "which", "an", "identifier", "is", "broadcast", "and", "each", "server", "responds", "with", "a", "list", "of", "matches", ".", "This", "is", "very", "efficient", "for", "this", "specific", "purpose", ",", "but", "it", "would", "be", "extremely", "difficult", "to", "extract", "the", "flexible", "subsets", "required", "by", "social", "science", "researchers", "with", "this", "organization", "of", "data", ".", "A", "relational", "database", "has", "many", "advantages", "for", "the", "Web", "library", "and", "one", "major", "disadvantage", ".", "Foremost", "among", "the", "advantages", "is", "scalability", ".", "Commercial", "relational", "database", "systems", "are", "highly", "optimized", "for", "storing", ",", "loading", ",", "indexing", ",", "extracting", ",", "backing-up", ",", "and", "restoring", "huge", "volumes", "of", "data", ".", "Usability", "is", "another", "important", "advantage", ".", "A", "relational", "schema", "provides", "a", "single", "image", "of", "the", "collection", ",", "expressed", "in", "a", "manner", "that", "is", "familiar", "to", "many", "researchers", ".", "The", "disadvantage", "is", "a", "loss", "of", "flexibility", ".", "The", "design", "and", "implementation", "of", "the", "database", "attempt", "to", "reconcile", "the", "expected", "uses", "that", "will", "be", "made", "of", "the", "library", "against", "scalability", "constraints", ",", "but", "it", "will", "be", "difficult", "to", "make", "major", "changes", "to", "the", "schema", "without", "rebuilding", "the", "entire", "database", ".", "The", "actual", "Web", "pages", "are", "stored", "in", "a", "separate", "Page", "Store", ".", "At", "the", "Internet", "Archive", ",", "if", "two", "Web", "pages", "are", "identical", "they", "are", "stored", "twice", ".", "With", "the", "new", "Page", "Store", ",", "duplicate", "pages", "are", "stored", "only", "once", ".", "Rather", "surprisingly", ",", "there", "is", "as", "yet", "very", "little", "data", "about", "how", "many", "pages", "remain", "unchanged", "between", "crawls", ",", "but", "we", "expect", "that", "elimination", "of", "duplicates", "will", "save", "significant", "online", "storage", ",", "especially", "with", "large", "audio", "and", "video", "files", ".", "The", "Page", "Store", "is", "implemented", "as", "a", "set", "of", "compressed", "files", ",", "one", "file", "for", "each", "page", "received", "in", "the", "ARC", "files", ".", "Since", "many", "pages", "on", "the", "Web", "do", "not", "change", "between", "crawls", ",", "the", "Preload", "subsystem", "checks", "for", "content", "duplicates", "using", "an", "MD5", "check", "sum", "of", "the", "content", ".", "Thus", ",", "a", "copy", "of", "the", "content", "is", "stored", "only", "once", "however", "many", "pages", "have", "that", "content", ".", "In", "order", "to", "guarantee", "fast", "access", "to", "the", "stored", "content", ",", "each", "page", "'s", "content", "is", "compressed", "individually", ".", "The", "architecture", "of", "the", "Page", "Store", "allows", "decisions", "to", "be", "made", "about", "which", "pages", "to", "store", "online", "at", "any", "given", "time", ".", "For", "example", ",", "the", "library", "might", "decide", "not", "to", "store", "large", "audio", "and", "video", "files", "online", ".", "While", "all", "metadata", "will", "be", "online", "at", "all", "times", ",", "an", "individual", "Web", "page", "could", "be", "accessed", "from", "the", "online", "Page", "Store", ",", "the", "off-line", "tape", "archive", ",", "or", "over", "the", "Internet", "from", "the", "Internet", "Archive", ".", "2.2", "Equipment", "The", "library", "is", "housed", "at", "the", "Cornell", "Theory", "Center", ",", "which", "is", "the", "university", "'s", "high-performance", "computing", "center", ".", "The", "choice", "of", "equipment", "and", "the", "use", "of", "a", "relational", "database", "were", "closely", "related", "decisions", ".", "The", "Theory", "Center", "has", "expertise", "in", "distributed", "cluster", "computing", ",", "but", "because", "of", "the", "very", "high", "data", "rates", ",", "a", "symmetric", "multi-processor", "configuration", "was", "chosen", "instead", ".", "Figure", "1", "shows", "part", "of", "the", "configuration", "of", "the", "central", "computer", ".", "Figure", "1", ".", "Configuration", "of", "the", "main", "computer", "system", "97", "The", "system", "is", "shared", "with", "another", "data-intensive", "program", "of", "research", ",", "the", "analysis", "of", "data", "from", "the", "Arecibo", "radio", "telescope", "in", "Puerto", "Rico", ".", "Each", "group", "has", "use", "of", "a", "dedicated", "Unisys", "ES7000/430", "server", ",", "with", "16", "Itanium2", "processors", "running", "at", "1.5", "Gigahertz", ".", "The", "memory", "can", "be", "shared", "between", "the", "servers", ",", "but", "in", "practice", "each", "project", "has", "sole", "use", "of", "32", "GB", ".", "Each", "server", "has", "a", "RAID", "disk", "subsystem", "attached", "via", "a", "dual-ported", "fiber-channel", ".", "The", "operating", "system", "is", "Microsoft", "Windows", "Server", "2003", ".", "For", "the", "Web", "library", "the", "disk", "subsystem", "provides", "an", "initial", "45", "TB", "of", "disk", "storage", ".", "We", "plan", "to", "extend", "the", "capacity", "to", "240", "TB", "by", "2007", ".", "There", "are", "no", "technical", "barriers", "to", "adding", "additional", "fiber", "channels", "and", "disk", "capacity", ".", "In", "the", "longer-term", ",", "disk", "prices", "are", "falling", "faster", "than", "the", "growth", "in", "the", "size", "of", "Web", "crawls", ",", "which", "gives", "confidence", "that", "the", "library", "will", "be", "able", "to", "keep", "up", "with", "the", "growth", "of", "the", "Web", ".", "By", "using", "a", "symmetric", "multi-processor", "configuration", "with", "a", "high", "performance", "disk", "subsystem", ",", "we", "are", "able", "to", "balance", "processing", "and", "disk", "access", "requirements", ".", "Since", "the", "data", "sets", "are", "local", "to", "the", "system", "on", "which", "the", "database", "is", "located", ",", "the", "system", "can", "perform", "bulk-loading", "tasks", "without", "incurring", "any", "networking", "penalties", ".", "The", "large", "real", "memory", "is", "an", "added", "attraction", "of", "this", "configuration", ".", "It", "allows", "researchers", "to", "carry", "out", "substantial", "computation", "entirely", "in", "memory", ".", "For", "instance", ",", "it", "is", "possible", "to", "process", "a", "Web", "graph", "of", "one", "billion", "pages", "within", "memory", ".", "2.3", "The", "Human", "Interface", "The", "design", "of", "the", "human", "interface", "is", "perhaps", "the", "most", "challenging", "aspect", "of", "developing", "the", "library", ".", "The", "social", "science", "research", "groups", "that", "we", "are", "working", "with", "have", "the", "technical", "skills", "to", "write", "scripts", "and", "simple", "programs", ".", "Many", "are", "experts", "in", "statistical", "calculations", ".", "But", "they", "should", "not", "be", "expected", "to", "write", "large", "or", "complex", "computer", "programs", ".", "The", "current", "design", "supports", "three", "categories", "of", "users", ".", "The", "Basic", "Access", "Service", "provides", "a", "Web", "Services", "API", "that", "allows", "a", "client", "to", "access", "pages", "in", "the", "collection", "by", "any", "metadata", "that", "is", "indexed", "in", "the", "database", ",", "e.g.", ",", "by", "URL", "and", "date", ".", "The", "Retro", "Browser", ",", "which", "is", "described", "below", ",", "uses", "this", "API", "to", "allow", "a", "user", "to", "browse", "the", "collection", "as", "it", "was", "at", "a", "certain", "date", ".", "The", "Subset", "Extraction", "Service", "supports", "users", "who", "wish", "to", "download", "sets", "of", "partially", "analyzed", "data", "to", "their", "own", "computers", "for", "further", "analysis", ".", "A", "Web", "form", "is", "provided", "to", "define", "a", "subset", "of", "the", "data", "-LRB-", "e.g.", ",", "by", "date", ",", "URL", ",", "domain", ",", "etc.", "-RRB-", ",", "extract", "subsets", "of", "the", "collection", ",", "and", "store", "them", "as", "virtual", "views", "in", "the", "database", ".", "Sets", "of", "analysis", "tools", ",", "many", "of", "which", "are", "already", "under", "development", ",", "can", "be", "applied", "to", "the", "subset", "and", "the", "results", "downloaded", "to", "a", "client", "computer", ".", "Technically", "advanced", "users", "can", "be", "authorized", "to", "run", "their", "own", "programs", "on", "the", "central", "computer", ".", "To", "support", "the", "Basic", "Access", "Service", "and", "the", "Subset", "Extraction", "Service", ",", "we", "provide", "a", "dedicated", "Web", "server", ",", "which", "is", "housed", "next", "to", "the", "main", "system", ".", "Although", "the", "library", "has", "been", "generously", "funded", "by", "the", "National", "Science", "Foundation", ",", "we", "do", "not", "yet", "have", "sufficient", "capacity", "to", "download", "and", "mount", "online", "the", "entire", "Web", "collection", "of", "the", "Internet", "Archive", ".", "This", "is", "the", "long", "term", "goal", ",", "but", "during", "the", "initial", "phase", ",", "care", "has", "been", "taken", "to", "balance", "the", "several", "parts", "of", "the", "system", ":", "online", "storage", ",", "network", "bandwidth", ",", "processing", "of", "the", "incoming", "data", ",", "database", ",", "performance", ",", "and", "the", "need", "to", "archive", ",", "back-up", ",", "and", "restore", "the", "data", ".", "In", "spring", "2005", ",", "several", "undergraduate", "and", "masters", "students", "carried", "out", "independent", "projects", "to", "estimate", "sizes", "and", "processing", "requirements", "6", ".", "To", "test", "database", "performance", "before", "large", "amounts", "of", "actual", "data", "were", "available", ",", "we", "used", "the", "R-MAT", "algorithm", "to", "generate", "a", "synthetic", "graph", "with", "properties", "similar", "to", "the", "Web", "graph", "-LSB-", "5", "-RSB-", ".", "This", "test", "graph", "has", "one", "billion", "nodes", "with", "more", "than", "seven", "billion", "links", ",", "and", "domain", "names", "generated", "according", "to", "their", "distribution", "on", "the", "real", "Web", "-LSB-", "11", "-RSB-", ".", "Based", "on", "these", "benchmarks", ",", "the", "decision", "was", "made", "to", "install", "a", "100", "Mb/sec", "network", "connection", "to", "the", "Internet", "Archive", "and", "to", "load", "data", "at", "a", "sustained", "rate", "of", "250", "GB/day", ",", "beginning", "January", "2006", ".", "This", "rate", "will", "enable", "the", "library", "to", "acquire", "and", "mount", "online", "by", "the", "end", "of", "2007", "a", "complete", "crawl", "of", "the", "Web", "for", "each", "year", "since", "1996", ".", "This", "phase", "will", "require", "approximately", "240", "TB", "of", "disk", "storage", ".", "Note", "that", "the", "disk", "requirement", "differs", "from", "the", "estimates", "of", "raw", "data", "shown", "in", "Table", "1", ".", "The", "database", "with", "its", "indexes", "is", "less", "highly", "compressed", "than", "the", "raw", "data", ",", "but", "savings", "are", "made", "in", "the", "storage", "of", "duplicate", "data", ",", "both", "in", "the", "database", "and", "the", "Page", "Store", ".", "During", "fall", "2005", ",", "first", "generation", "software", "was", "written", "for", "-LRB-", "a", "-RRB-", "the", "data", "flow", "system", "that", "brings", "data", "to", "the", "library", ",", "and", "-LRB-", "b", "-RRB-", "the", "user", "API", "and", "tool", "sets", ".", "They", "are", "described", "in", "the", "next", "two", "sections", ".", "Figure", "2", "shows", "the", "flow", "of", "data", "into", "the", "library", ".", "When", "ARC", "and", "DAT", "files", "are", "received", "from", "the", "Internet", "Archive", ",", "the", "first", "step", "is", "to", "store", "them", "in", "the", "tape", "archive", ".", "The", "Preload", "system", "then", "unpacks", "the", "raw", "data", ",", "extracts", "metadata", ",", "and", "prepares", "batch", "files", "for", "loading", "into", "the", "database", "and", "Page", "Store", ".", "Figure", "2", ".", "Flow", "of", "data", "into", "the", "library", "Figure", "2", "does", "not", "show", "the", "data", "tracking", "system", ".", "This", "is", "a", "major", "subsystem", "that", "manages", "the", "data", "transfers", ",", "monitors", "all", "errors", ",", "and", "tracks", "the", "tens", "of", "millions", "of", "files", "within", "the", "library", ".", "4.1", "Networking", "Internet2", "is", "used", "to", "transfer", "data", "from", "the", "Internet", "Archive", "in", "San", "Francisco", ",", "California", "to", "Cornell", "University", "in", "Ithaca", ",", "New", "York", ".", "For", "this", "purpose", ",", "a", "100Mbit/sec", "link", "has", "been", "established", "from", "the", "Internet", "Archive", "to", "Internet2", ".", "Both", "Cornell", "and", "the", "Internet", "Archive", "have", "internal", "networks", "with", "1", "Gbit/sec", "or", "greater", "performance", ".", "In", "the", "future", ",", "the", "National", "LambdaRail", "and", "the", "TeraGrid", "are", "intriguing", "possibilities", ".", "These", "new", "networks", "have", "the", "capacity", "to", "go", "6", "These", "student", "reports", "are", "available", "at", "http://www.infosci.cornell.edu/SIN/WebLib/papers.html", ".", "User", "tools", "Preload", "system", "Database", "Page", "store", "Tape", "archive", "Internet", "2", "98", "beyond", "bulk", "data", "transfer", "and", "support", "genuine", "distributed", "processing", "between", "the", "Web", "library", "and", "the", "Internet", "Archive", ".", "For", "example", ",", "if", "large", "audio", "and", "video", "files", "are", "not", "stored", "online", ",", "an", "application", "could", "use", "the", "TeraGrid", "to", "retrieve", "individual", "large", "files", "from", "the", "Internet", "Archive", "on", "demand", ".", "At", "the", "end", "of", "December", "2005", ",", "a", "series", "of", "experiments", "were", "run", "to", "measure", "the", "sustained", "throughput", "of", "multi-threaded", "FTP", "transfers", "over", "Internet2", ",", "using", "Transport", "Layer", "Security", ".", "These", "measurements", "showed", "transfer", "rates", "of", "280", "GB", "per", "day", "before", "system", "tuning", ",", "or", "rather", "better", "than", "30", "percent", "of", "the", "theoretical", "maximum", "throughput", "of", "the", "link", "to", "the", "Internet", "Archive", ".", "This", "is", "sufficient", "for", "the", "planned", "rate", "of", "250", "GB", "per", "day", ".", "If", "greater", "bandwidth", "proves", "necessary", ",", "the", "link", "from", "the", "Internet", "Archive", "to", "Internet2", "can", "be", "upgraded", "to", "500", "Mbps", "inexpensively", ",", "while", "the", "Cornell", "Theory", "Center", "will", "soon", "have", "enormous", "bandwidth", "available", "via", "the", "TeraGrid", ".", "4.2", "Preload", "Subsystem", "The", "Preload", "subsystem", "takes", "incoming", "ARC", "and", "DAT", "files", ",", "uncompresses", "them", ",", "parses", "them", "to", "extract", "metadata", ",", "and", "generates", "two", "types", "of", "output", "files", ":", "metadata", "for", "loading", "into", "the", "database", "and", "the", "actual", "content", "of", "the", "Web", "pages", "to", "be", "stored", "in", "the", "Page", "Store", ".", "Metadata", "for", "loading", "into", "the", "database", "is", "output", "in", "the", "form", "of", "40", "GB", "text", "files", ",", "a", "separate", "file", "for", "every", "database", "table", ".", "To", "satisfy", "the", "speed", "and", "flexibility", "requirements", ",", "the", "Preload", "system", "is", "designed", "to", "run", "as", "a", "set", "of", "independent", "single-thread", "processes", ",", "avoiding", "all", "inter-process", "communication", "and", "locking", "over", "input", "or", "output", "data", ".", "Likewise", ",", "each", "process", "writes", "its", "own", "output", "files", ".", "This", "design", "allows", "for", "easy", "configuration", "of", "the", "system", "to", "run", "a", "required", "number", "of", "processes", "on", "a", "given", "number", "of", "processors", ",", "on", "one", "or", "more", "machines", ".", "To", "determine", "each", "process", "'s", "input", ",", "input", "files", "are", "partitioned", "by", "the", "first", "k", "bits", "of", "the", "MD5", "hash", "sum", "of", "the", "filename", ",", "where", "2k", "is", "the", "total", "number", "of", "processes", "in", "the", "system", ".", "The", "design", "of", "the", "subsystem", "does", "not", "require", "the", "corresponding", "ARC", "and", "DAT", "files", "to", "be", "processed", "together", ".", "A", "series", "of", "experiments", "were", "run", "to", "test", "the", "performance", "of", "the", "Preload", "system", ",", "using", "the", "metadata", "from", "the", "synthetic", "Web", "graph", ".", "The", "experiments", "used", "1", ",", "2", ",", "4", "and", "8", "processors", ",", "with", "the", "data", "partitioned", "into", "16", "parts", ",", "according", "to", "the", "first", "4", "bits", "of", "the", "hash", "sum", ".", "Separate", "experiments", "were", "made", "for", "ARC", "and", "DAT", "files", ".", "Figure", "3", "shows", "results", "for", "the", "ARC", "files", ".", "The", "x-axis", "shows", "the", "number", "of", "CPUs", "used", ",", "and", "the", "y-axis", "shows", "the", "throughput", "in", "KB/sec", ".", "The", "white", "bar", "shows", "throughput", "per", "processor", "and", "the", "shaded", "bar", "shows", "total", "throughput", ".", "Adding", "more", "processors", "slightly", "decreases", "the", "throughput", "per", "processor", "due", "to", "contention", "for", "random", "disk", "accesses", ".", "The", "total", "throughput", "increases", "steadily", "up", "to", "four", "processors", ".", "After", "that", ",", "disk", "contention", "becomes", "too", "high", ",", "and", "the", "throughput", "actually", "declines", ".", "The", "results", "for", "DAT", "files", "are", "similar", ",", "with", "the", "total", "throughput", "flattening", "after", "four", "processors", ".", "From", "these", "experiments", ",", "we", "conclude", "that", "four", "processors", "are", "optimal", ".", "The", "corresponding", "throughputs", "are", "73", "MB/sec", "-LRB-", "about", "6", "TB/day", "-RRB-", "for", "ARC", "files", ",", "and", "12", "MB/sec", "-LRB-", "about", "1", "TB/day", "-RRB-", "for", "DAT", "files", ".", "When", "metadata", "from", "the", "DAT", "files", "is", "uncompressed", "its", "size", "increases", "by", "a", "factor", "of", "about", "11:1", ".", "Fortunately", ",", "much", "of", "this", "data", "is", "duplicated", ".", "For", "example", ",", "a", "given", "URL", "may", "occur", "many", "times", "in", "a", "crawl", "and", "be", "replicated", "in", "many", "crawls", ".", "Therefore", "duplicate", "elimination", "has", "been", "a", "major", "consideration", "in", "refining", "the", "database", "design", ".", "Figure", "3", ".", "Performance", "of", "Preload", "system", "-LRB-", "ARC", "files", "-RRB-", "Note", "that", "during", "the", "above", "experiments", "no", "other", "processes", "were", "running", "on", "the", "system", ".", "The", "overall", "performance", "will", "be", "lower", "when", "the", "Preload", "system", "is", "run", "in", "production", "mode", "at", "the", "same", "time", "as", "other", "subsystems", ".", "Also", ",", "during", "the", "preliminary", "phase", ",", "only", "text", "and", "HTML", "files", "were", "fully", "analyzed", "to", "extract", "links", "and", "anchor", "text", ".", "Processing", "of", "other", "file", "formats", "will", "be", "added", "in", "the", "future", ".", "Some", "of", "these", "formats", "will", "be", "computationally", "intensive", ",", "e.g.", ",", "PDF", "files", ".", "4.3", "Database", "Design", "The", "relational", "database", "uses", "Microsoft", "SQL", "Server", "2000", ".", "Three", "important", "goals", "when", "designing", "the", "database", "schema", "and", "deciding", "how", "to", "load", "the", "data", "to", "the", "database", "were", ":", "-LRB-", "a", "-RRB-", "minimize", "the", "storage", "requirements", ",", "-LRB-", "b", "-RRB-", "maximize", "the", "load", "throughput", ",", "and", "-LRB-", "c", "-RRB-", "support", "efficient", "logging", ",", "backup", ",", "and", "restore", ".", "Conceptually", ",", "for", "each", "crawl", ",", "the", "database", "stores", "metadata", "about", "each", "page", "-LRB-", "e.g.", ",", "information", "about", "the", "content", "of", "the", "page", ",", "URL", "of", "the", "page", "-RRB-", "and", "about", "the", "links", "between", "them", "-LRB-", "including", "anchor", "text", "and", "text", "surrounding", "the", "anchor", "text", "-RRB-", ".", "However", ",", "to", "avoid", "storing", "redundant", "data", ",", "the", "schema", "is", "denormalized", ".", "The", "denormalized", "schema", "is", "shown", "below", "in", "Figure", "4", ".", "Information", "about", "URL", "and", "domain", "names", "is", "stored", "in", "a", "look-up", "table", ",", "since", "the", "same", "URLs", "and", "domain", "names", "appear", "many", "times", "in", "a", "single", "crawl", "and", "across", "crawls", ".", "For", "similar", "reasons", ",", "anchor", "text", ",", "text", "surrounding", "the", "anchor", "text", ",", "and", "information", "about", "page", "content", "are", "stored", "in", "the", "look-up", "tables", "Dictionary", "and", "Page", "Content", "respectively", ",", "as", "shown", "in", "the", "schema", "in", "Figure", "4", ".", "To", "make", "the", "loading", "of", "the", "data", "faster", ",", "separate", "tables", "for", "each", "of", "Page", ",", "Page", "Content", "and", "Link", "are", "created", "for", "each", "crawl", "while", "the", "other", "tables", "-LRB-", "e.g.", ",", "the", "URL", "table", "-RRB-", "are", "shared", "among", "crawls", ".", "80", "70", "60", "50", "40", "30", "20", "10", "Throughput", "-LRB-", "MB/s", "-RRB-", "1", "2", "4", "8", "Number", "of", "CPUs", "99", "Figure", "4", ".", "Database", "design", ":", "the", "de-normalized", "schema", "The", "Preload", "subsystem", "outputs", "separate", "files", "conforming", "to", "the", "schema", "described", "above", "and", "these", "files", "are", "bulk", "loaded", "into", "the", "database", ".", "There", "are", "many", "parameters", "that", "affect", "the", "bulk", "load", "performance", ".", "These", "parameters", "include", ":", "batch", "size", ",", "file", "size", ",", "degree", "of", "parallelism", ",", "and", "interaction", "with", "the", "logging", ",", "backup", "and", "recovery", "system", ".", "The", "synthetic", "Web", "data", "was", "used", "to", "understand", "how", "these", "parameters", "affect", "the", "loading", "performance", "and", "to", "tune", "them", ".", "The", "first", "sets", "of", "experiments", "were", "used", "to", "determine", "the", "optimal", "file", "size", "for", "bulk", "loading", "and", "the", "number", "of", "CPUs", "used", ".", "In", "these", "experiments", ",", "default", ",", "recovery", "and", "backup", "mechanisms", "were", "used", "-LSB-", "6", "-RSB-", ".", "The", "results", "of", "the", "first", "set", "of", "experiments", "indicate", "that", "it", "is", "optimal", "to", "load", "each", "file", "as", "a", "single", "batch", ";", "a", "file", "size", "of", "40", "GB", "and", "4", "CPUs", "gave", "the", "best", "performance", ",", "and", "around", "800", "GB", "could", "be", "loaded", "in", "one", "day", ".", "However", ",", "the", "experiments", "to", "determine", "the", "file", "size", "and", "degree", "of", "parallelism", "showed", "significant", "variability", ".", "Using", "the", "default", "logging", "provided", "by", "MS", "SQL", "Server", "2000", ",", "checkpointing", "and", "nightly", "backups", "were", "consuming", "enormous", "resources", ".", "They", "interfered", "with", "the", "bulk", "loading", "process", "and", "are", "a", "probable", "cause", "of", "the", "variance", "seen", "in", "the", "performance", "benchmarks", ".", "Two", "observations", "were", "made", "to", "overcome", "the", "performance", "penalty", ".", "First", ",", "data", "is", "append-only", "while", "being", "bulk", "loaded", "and", "is", "read-only", "after", "the", "bulk", "load", "is", "complete", ";", "logging", ",", "recovery", "and", "backup", "mechanisms", "can", "be", "customized", "to", "increase", "the", "performance", "and", "decrease", "the", "variance", "in", "loading", "times", ".", "Second", ",", "tables", "in", "the", "schema", "can", "reside", "on", "different", "disks", "and", "thus", "can", "be", "written", "in", "parallel", ".", "Following", "these", "two", "observations", ",", "in", "the", "current", "design", "each", "table", "can", "be", "put", "onto", "a", "separate", "disk", "as", "shown", "in", "Figure", "5", ".", "Moreover", ",", "Page", ",", "Page", "Content", "and", "Links", "information", "for", "each", "crawl", "are", "put", "into", "separate", "files", ".", "This", "partitioning", "according", "to", "crawls", "is", "easy", "in", "MS", "SQL", "Server", "as", "separate", "tables", "for", "each", "of", "Page", ",", "Page", "Content", "and", "Link", "are", "created", "for", "each", "crawl", ".", "The", "database", "load", "subsystem", "is", "divided", "into", "two", "programs", ":", "a", "high-level", "program", "that", "organizes", "the", "processes", "and", "a", "low", "level", "program", "that", "runs", "separate", "loads", "in", "parallel", ".", "The", "workflow", "for", "loading", "each", "table", "in", "each", "crawl", "consists", "of", "five", "major", "steps", ":", "-LRB-", "a", "-RRB-", "Get", "the", "files", "produced", "by", "the", "Preload", "subsystem", "for", "the", "current", "table", "in", "the", "current", "crawl", "and", "write", "the", "relevant", "log", "information", "to", "an", "administrative", "database", ";", "commit", "the", "transaction", "writing", "the", "log", "information", ".", "-LRB-", "b", "-RRB-", "Write", "files", "of", "the", "table", "to", "the", "disk", "corresponding", "to", "the", "current", "table", "via", "the", "low", "level", "program", ";", "files", "corresponding", "to", "different", "tables", "can", "be", "written", "in", "parallel", ".", "-LRB-", "c", "-RRB-", "Create", "the", "necessary", "indexes", ".", "-LRB-", "d", "-RRB-", "Back-up", "the", "newly", "written", "data", ".", "-LRB-", "e", "-RRB-", "Write", "to", "the", "log", "the", "relevant", "information", "to", "indicate", "that", "processing", "of", "the", "files", "for", "the", "current", "table", "in", "the", "current", "crawl", "is", "complete", "and", "commit", "the", "transaction", "writing", "the", "log", "information", ".", "In", "MS", "SQL", "Server", "2000", ",", "backups", "and", "index", "creation", "are", "all", "atomic", ".", "Figure", "5", ".", "Database", "design", ":", "organization", "of", "file", "system", "This", "new", "design", "is", "being", "implemented", "and", "tested", ",", "as", "of", "January", "2006", ".", "First", "indications", "are", "that", "the", "performance", "will", "comfortably", "meet", "the", "required", "performance", "goals", ".", "Extensive", "benchmarking", "is", "required", "to", "tune", "many", "parameters", ",", "such", "as", "batch", "size", ",", "file", "size", ",", "degree", "of", "parallelism", ",", "and", "the", "index", "management", ".", "4.4", "Archiving", "Archiving", "and", "back-up", "are", "expensive", "operations", "with", "complex", "trade-offs", ".", "Without", "care", ",", "the", "networking", "bandwidth", "and", "disk", "throughput", "used", "in", "logging", ",", "back-up", ",", "and", "writing", "to", "the", "tape", "library", "could", "have", "a", "major", "impact", "on", "the", "system", "throughput", ".", "As", "described", "above", ",", "the", "database", "design", "allows", "the", "database", "files", "to", "be", "backed", "up", "incrementally", ".", "This", "provides", "two", "options", "for", "restoring", "the", "database", ",", "by", "reprocessing", "the", "raw", "data", "or", "from", "the", "back-up", ".", "The", "Page", "Store", "is", "not", "backed-up", ".", "If", "parts", "of", "it", "were", "ever", "corrupted", ",", "they", "would", "have", "to", "be", "restored", "by", "reprocessing", "the", "raw", "data", ".", "A", "current", "design", "project", "is", "to", "reorganize", "the", "Page", "Store", "to", "permit", "efficient", "restoration", ".", "The", "library", "uses", "a", "robotic", "tape", "library", "with", "LTO3", "tape", "drives", ".", "This", "is", "shared", "with", "other", "systems", "at", "the", "center", ".", "All", "unprocessed", "ARC", "and", "DAT", "files", "are", "copied", "to", "the", "tape", "library", "to", "be", "stored", "indefinitely", ".", "This", "preserves", "another", "copy", "of", "the", "Internet", "Archive", "'s", "data", "for", "the", "long-term", ".", "This", "data", "is", "unique", "and", "could", "never", "be", "replaced", ".", "The", "industry", "standard", "life", "of", "these", "tapes", "is", "thirty", "years", "but", "our", "expectation", "is", "that", "six", "years", "is", "a", "more", "probable", "time", "before", "the", "tape", "library", "is", "replaced", "and", "all", "the", "data", "will", "have", "to", "be", "copied", "onto", "fresh", "media", ".", "Figure", "6", "shows", "the", "architecture", "of", "the", "interface", "that", "the", "library", "offers", "to", "users", ".", "This", "is", "a", "three-tier", "architecture", ".", "The", "data", "tier", "consists", "of", "the", "relational", "database", "of", "metadata", "and", "the", "Page", "Store", ";", "the", "middleware", "tier", "provides", "services", "to", "access", "the", "data", ",", "tools", "to", "analyze", "it", ",", "and", "a", "choice", "of", "Web", "Services", "APIs", ";", "clients", "interact", "with", "the", "middleware", "tools", "either", "through", "the", "APIs", ",", "or", "directly", ".", "5.1", "Clients", "The", "user", "tools", "system", "was", "designed", "to", "be", "extensible", "and", "scalable", ".", "Specifically", ",", "it", "supports", "two", "categories", "of", "users", ":", "-LRB-", "a", "-RRB-", "users", "who", "analyze", "the", "data", "remotely", "from", "their", "own", "computers", ",", "perhaps", "at", "another", "institution", "or", "even", "in", "another", "country", ",", "and", "-LRB-", "b", "-RRB-", "Page", "Page", "Content", "Link", "-", "Destination", "URL", "URL", "Path", "Dictionary", "Domain", "Page", "Link", "Page", "Content", "Custom", "Log", "Everything", "Else", "100", "computationally", "intensive", "users", ",", "who", "may", "wish", "to", "run", "very", "heavy", "analyses", "of", "the", "data", "using", "the", "Cornell", "Theory", "Center", "computing", "environment", ".", "Corresponding", "to", "these", "two", "categories", "of", "users", "the", "architecture", "supports", "two", "types", "of", "clients", ":", "Web", "services", "clients", "and", "clients", "that", "execute", "their", "own", "programs", "on", "the", "library", "'s", "servers", ".", "The", "first", "category", "requires", "little", "technical", "sophistication", "from", "the", "user", ",", "while", "the", "second", "category", "trades", "complexity", "against", "the", "flexibility", "of", "being", "able", "to", "write", "custom", "programs", "and", "to", "use", "the", "full", "processing", "power", "available", ".", "Figure", "6", ".", "Architecture", "of", "the", "interfaces", "provided", "for", "users", "of", "the", "library", "Web", "services", "clients", "are", "intended", "to", "be", "used", "remotely", ",", "with", "moderate", "demands", "on", "their", "access", "to", "the", "data", ".", "Examples", "of", "these", "clients", "include", "running", "queries", "using", "a", "full", "text", "index", ",", "or", "fetching", "specific", "pages", "using", "existing", "indexes", ".", "Web", "service", "clients", "may", "also", "be", "used", "to", "start", ",", "control", ",", "and", "retrieve", "results", "from", "experiments", "run", "by", "high-performance", "clients", ".", "Web", "services", "are", "implemented", "by", "using", "Microsoft", "'s", "ATL", "server", "libraries", ".", "They", "run", "on", "a", "dedicated", "Web", "server", ".", "The", "clients", "themselves", "can", "be", "implemented", "in", "any", "language", "or", "environment", "that", "supports", "Web", "services", "standards", ".", "Users", "of", "these", "clients", "do", "not", "need", "to", "know", "how", "the", "data", "is", "stored", ".", "They", "are", "provided", "with", "forms", "that", "are", "automatically", "converted", "to", "SQL", "commands", "by", "the", "middleware", ".", "The", "high-performance", "clients", "will", "for", "the", "most", "part", "run", "within", "the", "Cornell", "Theory", "Center", ".", "They", "will", "usually", "have", "a", "high", "bandwidth", "connection", "to", "the", "database", ".", "Clients", "of", "this", "form", "may", "carry", "out", "research", "that", "need", "lots", "of", "computation", "power", ",", "e.g.", ",", "experiments", "that", "process", "very", "large", "subsets", "or", "analyze", "how", "the", "structure", "of", "the", "Web", "changes", "over", "time", ".", "These", "clients", "are", "implemented", "by", "linking", "against", "dynamic", "link", "libraries", "-LRB-", "DLLs", "-RRB-", "provided", "by", "the", "application", "server", "tier", ".", "5.2", "Access", "to", "the", "Database", "The", "application", "server", "tier", "accesses", "the", "database", "using", "Microsoft", "database", "tools", ".", "Two", "main", "areas", "of", "functionality", "have", "been", "implemented", "in", "this", "tier", ":", "Basic", "Access", "Services", "-LRB-", "BAS", "-RRB-", ",", "and", "the", "Subset", "Extraction", "Services", "-LRB-", "SES", "-RRB-", ".", "Each", "consists", "of", "two", "parts", ":", "a", "set", "of", "services", ",", "implemented", "as", "a", "series", "of", "dynamic", "link", "libraries", "-LRB-", "DLLs", "-RRB-", "written", "in", "C++", ",", "and", "a", "Web", "Services", "API", ".", "Basic", "Access", "Services", "are", "for", "clients", "that", "interact", "directly", "with", "the", "database", ".", "They", "allow", "a", "client", "to", "fetch", "pages", "given", "a", "combination", "of", "URL", "and", "date", "of", "crawl", ".", "They", "also", "allow", "a", "client", "to", "check", "within", "which", "crawls", "a", "given", "page", "is", "available", ".", "For", "example", ",", "a", "focused", "Web", "crawler", "can", "retrieve", "pages", "from", "a", "specified", "crawl", ",", "using", "a", "simple", "client", "script", "that", "interfaces", "to", "the", "BAS", "Web", "services", "API", ".", "Subset", "Extraction", "Services", "allow", "a", "client", "to", "select", "a", "part", "of", "the", "data", "as", "a", "subset", ".", "Once", "created", ",", "this", "subset", "is", "stored", "in", "the", "database", "as", "a", "view", ".", "Such", "subsets", "are", "useful", "for", "running", "experiments", "over", "a", "smaller", ",", "perhaps", "random", ",", "sample", "of", "the", "Web", ",", "as", "well", "as", "selecting", "relevant", "pages", "for", "a", "particular", "experiments", ",", "such", "as", "those", "from", "a", "given", "domain", ".", "For", "example", ",", "a", "researcher", "studying", "government", "Web", "sites", "might", "extract", "textual", "pages", "from", "the", ".", "gov", "domain", "for", "a", "selected", "range", "of", "dates", ".", "5.2.1", "Users", "Beyond", "Cornell", "This", "digital", "library", "is", "intended", "for", "the", "use", "of", "all", "academic", "researchers", ",", "not", "only", "those", "based", "at", "Cornell", ".", "Technically", ",", "this", "is", "straightforward", ".", "The", "library", "is", "connected", "to", "the", "Internet", ",", "including", "Internet2", ",", "and", "will", "soon", "be", "available", "via", "the", "TeraGrid", ".", "We", "are", "currently", "developing", "a", "code", "of", "use", "policies", "for", "researchers", ".", "Mining", "this", "data", "has", "potential", "for", "abuses", "of", "privacy", ".", "Cornell", "researchers", "need", "to", "follow", "the", "university", "'s", "procedures", "for", "such", "research", "and", "we", "need", "to", "find", "convenient", "ways", "to", "extend", "the", "code", "of", "practice", "to", "all", "users", "of", "the", "library", ".", "5.3", "User", "Tools", "5.3.1", "The", "Retro", "Browser", "The", "Retro", "Browser", "is", "an", "example", "of", "a", "Web", "services", "client", "that", "is", "already", "implemented", "and", "running", "in", "a", "test", "environment", "-LSB-", "12", "-RSB-", ".", "To", "a", "user", ",", "it", "appears", "to", "be", "a", "regular", "Web", "browser", ",", "except", "that", "it", "browses", "an", "historical", "snapshot", "of", "the", "Web", ".", "The", "Retro", "Browser", "is", "designed", "with", "the", "non-technical", "user", "in", "mind", ".", "The", "design", "assumes", "that", "the", "user", "may", "not", "be", "technically", "proficient", "and", "should", "not", "be", "expected", "to", "install", "new", "software", "or", "run", "special", "scripts", ".", "After", "the", "user", "has", "made", "an", "initial", "choice", "of", "a", "date", "in", "Web", "history", ",", "the", "Retro", "Bowser", "behaves", "like", "any", "other", "Web", "browser", ".", "The", "user", "uses", "a", "standard", "browser", "to", "carry", "out", "all", "the", "standard", "Web", "tasks", ",", "such", "as", "download", "an", "applet", ",", "run", "a", "script", ",", "submit", "a", "forms", ",", "etc.", ".", "The", "only", "difference", "is", "that", "every", "URL", "is", "resolved", "to", "the", "record", "in", "the", "Web", "library", "for", "the", "specified", "date", ".", "The", "major", "component", "of", "the", "Retro", "Browser", "is", "a", "Web", "server", "configured", "to", "be", "used", "as", "a", "proxy", "server", ".", "To", "obtain", "the", "data", "from", "the", "database", ",", "the", "proxy", "server", "utilizes", "the", "Basic", "Access", "Web", "Service", "API", ".", "The", "Retro", "Browser", "client", "interacts", "with", "the", "Retro", "Browser", "proxy", "in", "a", "standard", "HTTP", "client-server", "fashion", ".", "To", "fetch", "the", "appropriate", "page", "from", "the", "database", "requires", "a", "URL", "and", "the", "date", "of", "the", "crawl", ",", "which", "is", "represented", "by", "a", "crawl", "ID", ".", "The", "proxy", "server", "expects", "a", "session", "cookie", "specifying", "a", "crawl", "ID", "with", "every", "request", ".", "If", "such", "a", "cookie", "is", "not", "found", "with", "the", "request", ",", "the", "user", "is", "asked", "to", "specify", "the", "crawl", "ID", ".", "Further", "requests", "may", "or", "may", "not", "contain", "a", "cookie", "since", "cookies", "are", "tied", "to", "a", "domain", ".", "However", ",", "the", "Retro", "Browser", "proxy", "ensures", "that", "the", "cookie", "is", "replicated", "for", "all", "domains", "using", "a", "series", "of", "redirects", ".", "In", "this", "manner", ",", "the", "architecture", "ensures", "that", "the", "user", "is", "asked", "to", "specify", "the", "crawl", "date", "for", "the", "first", "request", "only", ".", "5.3.2", "Analysis", "of", "the", "Web", "Graph", "A", "set", "of", "analysis", "tools", "is", "under", "development", "that", "will", "provide", "more", "complex", "access", "and", "analysis", "functions", ".", "These", "tools", "are", "part", "of", "the", "application", "server", "tier", ".", "They", "are", "applied", "to", "subsets", "of", "the", "data", "and", "accessed", "either", "directly", "or", "through", "the", "Subset", "Extraction", "Services", "API", ".", "Data", "Tier", "Application", "Server", "Tier", "Client", "Tier", "Page", "Store", "Metadata", "Basic", "Access", "Services", "Subset", "Extraction", "Services", "BAS", "Web", "Service", "SES", "Web", "Service", "Clients", "High", "Performance", "Clients", "Retro-Browser", "101", "One", "group", "of", "tools", "operates", "on", "the", "Web", "graph", "of", "a", "subset", ".", "Hyperlinks", "from", "each", "Web", "page", "are", "stored", "in", "the", "database", ".", "Representation", "of", "the", "graph", "is", "by", "its", "adjacency", "matrix", "using", "a", "compressed", "sparse", "row", "representation", ".", "Preliminary", "software", "has", "been", "written", "to", "read", "all", "the", "links", "from", "a", "given", "subset", "of", "the", "data", "and", "construct", "the", "adjacency", "matrix", ".", "The", "matrix", "is", "then", "stored", "in", "the", "file", "system", "in", "a", "compressed", "form", ",", "which", "allows", "performing", "the", "basic", "operations", ",", "such", "as", "matrix", "addition", "and", "multiplication", ".", "The", "Cuthill-McKee", "algorithm", "is", "used", "to", "reorder", "the", "nodes", "to", "create", "dense", "blocks", "within", "the", "matrix", "to", "increase", "the", "compression", "ratio", "and", "allow", "in-memory", "processing", "-LSB-", "8", "-RSB-", ".", "5.3.3", "Full", "Text", "Indexes", "Full", "text", "indexes", "are", "a", "vital", "tool", "for", "many", "researchers", ".", "For", "instance", "a", "social", "science", "researcher", "may", "wish", "to", "track", "the", "Web", "pages", "that", "refer", "to", "a", "named", "individual", "or", "may", "identify", "trends", "by", "burst", "analysis", "of", "terms", "used", "on", "the", "Web", ".", "Our", "initial", "approach", "is", "to", "provide", "an", "indexing", "service", "for", "data", "subsets", ",", "using", "the", "Nutch", "search", "engine", ".", "It", "is", "straightforward", "to", "extract", "a", "subset", ",", "which", "is", "represented", "by", "a", "database", "view", ",", "and", "create", "a", "full", "text", "index", "of", "all", "textual", "pages", "in", "the", "subset", ".", "The", "only", "problem", "is", "the", "processing", "necessary", "to", "index", "a", "very", "large", "subset", ".", "We", "are", "in", "discussions", "with", "Cutting", ",", "the", "principal", "developer", "of", "the", "Lucene", "and", "Nutch", "search", "engines", "7", ".", "He", "has", "been", "working", "with", "the", "Internet", "Archive", "to", "build", "indexes", "of", "very", "large", "collections", "of", "Web", "pages", "in", "ARC", "format", ".", "For", "this", "purpose", ",", "they", "are", "developing", "a", "modified", "version", "of", "Nutch", ",", "known", "as", "Nutch", "WAX", "-LRB-", "Web", "Archive", "eXtensions", "-RRB-", ".", "Rather", "than", "duplicate", "this", "effort", ",", "we", "are", "exploring", "the", "possibility", "of", "providing", "access", "to", "these", "indexes", "through", "the", "Basic", "Access", "Service", ".", "We", "wish", "to", "thank", "Brewster", "Kahle", ",", "Tracey", "Jaquith", ",", "John", "Berry", "and", "their", "colleagues", "at", "the", "Internet", "Archive", "for", "their", "support", "of", "this", "work", ".", "The", "following", "Cornell", "students", "have", "contributed", "to", "the", "development", "of", "the", "library", "described", "in", "this", "paper", ":", "Mayank", "Gandhi", ",", "Nicholas", "Gerner", ",", "Min-Daou", "Gu", ",", "Wei", "Guo", ",", "Parul", "Jain", ",", "Karthik", "Jeyabalan", ",", "Jerrin", "Kallukalam", ",", "Serena", "Kohli", ",", "Ari", "Rabkin", ",", "Patrick", "Colin", "Reilly", ",", "Lipi", "Sanghi", ",", "Shantanu", "Shah", ",", "Dmitriy", "Shtokman", ",", "Chris", "Sosa", ",", "Samuel", "Benzaquen", "Stern", ",", "Jimmy", "Yanbo", "Sun", ",", "Harsh", "Tiwari", ",", "Nurwati", "Widodo", ",", "Yu", "Richard", "Wang", ".", "This", "work", "has", "been", "funded", "in", "part", "by", "the", "National", "Science", "Foundation", ",", "grants", "CNS-0403340", ",", "DUE-0127308", ",", "and", "SES-0537606", ",", "with", "equipment", "support", "from", "Unisys", "and", "by", "an", "E-Science", "grant", "and", "a", "gift", "from", "Microsoft", "Corporation", ".", "7", "The", "Lucene", "search", "engine", "is", "described", "at", "http://lucene.apache.org/", ".", "Nutch", "is", "described", "at", "http://lucene.apache.org/nutch/", ".", "-LSB-", "1", "-RSB-", "Arms", ",", "W.", ",", "Aya", ",", "S.", ",", "Dmitriev", ",", "P.", ",", "Kot", ",", "B.", ",", "Mitchell", ",", "R.", ",", "Walle", ",", "L.", ",", "A", "Research", "Library", "for", "the", "Web", "based", "on", "the", "Historical", "Collections", "of", "the", "Internet", "Archive", ".", "D-Lib", "Magazine", ".", "February", "2006", ".", "http://www.dlib.org/dlib/february06/arms/02arms.html", "-LSB-", "2", "-RSB-", "Bergmark", ",", "D.", ",", "Collection", "synthesis", ".", "ACM/IEEE-CS", "Joint", "Conference", "on", "Digital", "Libraries", ",", "2002", ".", "-LSB-", "3", "-RSB-", "Brin", ",", "S.", ",", "and", "Page", ".", "L.", ",", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "Web", "search", "engine", ".", "Seventh", "International", "World", "Wide", "Web", "Conference", ".", "Brisbane", ",", "Australia", ",", "1998", ".", "-LSB-", "4", "-RSB-", "Burner", ",", "M.", ",", "and", "Kahle", ",", "B.", ",", "Internet", "Archive", "ARC", "File", "Format", ",", "1996", ".", "http://archive.org/web/researcher/ArcFileFormat.php", "-LSB-", "5", "-RSB-", "Chakrabarti", ",", "D.", ",", "Zhan", ",", "Y.", ",", "and", "Faloutsos", ",", "C.", ",", "R-MAT", ":", "recursive", "model", "for", "graph", "mining", ".", "SIAM", "International", "Conference", "on", "Data", "Mining", ",", "2004", ".", "-LSB-", "6", "-RSB-", "Gerner", ",", "N.", ",", "Sosa", ",", "C.", ",", "Fall", "2005", "Semester", "Report", "for", "Web", "Lab", "Database", "Load", "Group", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Gerner200", "5.doc", ".", "-LSB-", "7", "-RSB-", "Ghemawat", ",", "S.", ",", "Gobioff", ",", "H.", "and", "Leung", ",", "S.", ",", "The", "Google", "File", "System", ".", "19th", "ACM", "Symposium", "on", "Operating", "Systems", "Principles", ",", "October", "2003", ".", "-LSB-", "8", "-RSB-", "Jeyabalan", ",", "K.", ",", "Kallukalam", ",", "J.", ",", "Representation", "of", "Web", "Graph", "for", "in", "Memory", "Computation", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Jeyabalan", "Kallukalam2005.doc", ".", "-LSB-", "9", "-RSB-", "J.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "Ninth", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", ",", "1998", ".", "-LSB-", "10", "-RSB-", "Mitchell", ",", "S.", ",", "Mooney", ",", "M.", ",", "Mason", ",", "J.", ",", "Paynter", ",", "G.", ",", "Ruscheinski", ",", "J.", ",", "Kedzierski", ",", "A.", ",", "Humphreys", ",", "K.", ",", "iVia", "Open", "Source", "Virtual", "Library", "System", ".", "D-Lib", "Magazine", ",", "9", "-LRB-", "1", "-RRB-", ",", "January", "2003", ".", "http://www.dlib.org/dlib/january03/mitchell/01mitchell.html", "-LSB-", "11", "-RSB-", "Shah", ",", "S.", ",", "Generating", "a", "web", "graph", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Shah2005a", ".", "doc", ".", "-LSB-", "12", "-RSB-", "Shah", ",", "S.", ",", "Retro", "Browser", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Shah2005b", ".", "pdf", ".", "102"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["internet archive", "history of the web", "scalability", "digital libraries", "storage", "full text indexes"], "abstractive_keyphrases": ["user interface", "database access", "it is a subject of study both for itself and for the manner in which it illuminates contemporary social phenomena. yet a researcher who wishes to study the web is faced with major difficulties. an obvious problem is that the web is huge. any study of the web as a whole must be prepared to analyze billions of pages and hundreds of terabytes of data. furthermore", "database management", "computational social science", "user support", "basic parameters are hard to come by and it is almost impossible to generate random samples for statistical purposes. but the biggest problem that social scientists face in carrying out web research is historical", "dataflow", "the desire to track activities across time. the web of today can be studied by direct web crawling", "or via tools such as the google web api", "flexible preload system", "internet archive. 1. background 1.1 research in the history of the web the web is one of the most interesting artifacts of our time. for social scientists", "the web changes continually. it is never possible to repeat a study on the actual web with quite the same data. any snapshot of the whole web requires a crawl that will take several weeks to gather data. because the size and boundaries of the web are ill defined"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "76", "document": ["Hourly", "Analysis", "of", "a", "Very", "Large", "Topically", "Categorized", "Web", "Query", "Log", "We", "review", "a", "query", "log", "of", "hundreds", "of", "millions", "of", "queries", "that", "constitute", "the", "total", "query", "traffic", "for", "an", "entire", "week", "of", "a", "general-purpose", "commercial", "web", "search", "service", ".", "Previously", ",", "query", "logs", "have", "been", "studied", "from", "a", "single", ",", "cumulative", "view", ".", "In", "contrast", ",", "our", "analysis", "shows", "changes", "in", "popularity", "and", "uniqueness", "of", "topically", "categorized", "queries", "across", "the", "hours", "of", "the", "day", ".", "We", "examine", "query", "traffic", "on", "an", "hourly", "basis", "by", "matching", "it", "against", "lists", "of", "queries", "that", "have", "been", "topically", "pre-categorized", "by", "human", "editors", ".", "This", "represents", "13", "%", "of", "the", "query", "traffic", ".", "We", "show", "that", "query", "traffic", "from", "particular", "topical", "categories", "differs", "both", "from", "the", "query", "stream", "as", "a", "whole", "and", "from", "other", "categories", ".", "This", "analysis", "provides", "valuable", "insight", "for", "improving", "retrieval", "effectiveness", "and", "efficiency", ".", "It", "is", "also", "relevant", "to", "the", "development", "of", "enhanced", "query", "disambiguation", ",", "routing", ",", "and", "caching", "algorithms", ".", ":", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Online", "Information", "Services", "Web-based", "services", ":", "Measurement", ",", "Human", "Factors", ".", "Understanding", "how", "queries", "change", "over", "time", "is", "critical", "to", "developing", "effective", ",", "efficient", "search", "services", ".", "We", "are", "unaware", "of", "any", "log", "analysis", "that", "studies", "differences", "in", "the", "query", "stream", "over", "the", "hours", "in", "a", "day", ";", "much", "less", "how", "those", "differences", "are", "manifested", "within", "topical", "categories", ".", "We", "focus", "on", "Circadian", "changes", "in", "popularity", "and", "uniqueness", "of", "topical", "categories", ".", "Emphasis", "on", "changing", "query", "stream", "characteristics", "over", "this", "longitudinal", "-LRB-", "time", "-RRB-", "aspect", "of", "query", "logs", "distinguishes", "this", "work", "from", "prior", "static", "log", "analysis", ",", "surveyed", "in", "-LSB-", "7", "-RSB-", ".", "We", "began", "with", "the", "hypothesis", "that", "there", "are", "very", "different", "characteristics", "during", "peak", "hours", "and", "off-peak", "hours", "during", "a", "day", ".", "After", "reviewing", "a", "week", "'s", "worth", "of", "data", "hundreds", "of", "millions", "of", "queries", "-", "we", "have", "found", ",", "not", "surprisingly", ",", "that", ":", "The", "number", "of", "queries", "issued", "is", "substantially", "lower", "during", "non-peak", "hours", "than", "peak", "hours", ".", "However", ",", "we", "knew", "little", "about", "how", "often", "queries", "are", "repeated", "from", "one", "hour", "of", "the", "day", "to", "the", "next", ".", "After", "examining", "the", "behavior", "of", "millions", "of", "queries", "from", "one", "hour", "of", "the", "day", "to", "the", "next", "we", "have", "found", "the", "less", "obvious", "result", ":", "The", "average", "number", "of", "query", "repetitions", "in", "an", "hour", "does", "not", "change", "significantly", "on", "an", "hourly", "basis", "throughout", "the", "day", ".", "Most", "queries", "appear", "no", "more", "than", "several", "times", "per", "hour", ".", "These", "queries", "consistently", "account", "for", "a", "large", "portion", "of", "total", "query", "volume", "throughout", "the", "course", "of", "the", "day", ".", "The", "queries", "received", "during", "peak", "hours", "are", "more", "similar", "to", "each", "other", "than", "their", "non-peak", "hour", "counterparts", ".", "We", "also", "analyze", "the", "queries", "representing", "different", "topics", "using", "a", "topical", "categorization", "of", "our", "query", "stream", ".", "These", "cover", "approximately", "13", "%", "of", "the", "total", "query", "volume", ".", "We", "hypothesized", "that", "traffic", "behavior", "for", "some", "categories", "would", "change", "over", "time", "and", "that", "others", "would", "remain", "stable", ".", "For", "16", "different", "categories", ",", "we", "examined", "their", "traffic", "characteristics", ":", "Some", "topical", "categories", "vary", "substantially", "more", "in", "popularity", "than", "others", "as", "we", "move", "through", "an", "average", "day", ".", "Some", "topics", "are", "more", "popular", "during", "particular", "times", "of", "the", "day", ",", "while", "others", "have", "a", "more", "constant", "level", "of", "interest", "over", "time", ".", "The", "query", "sets", "for", "different", "categories", "have", "differing", "similarity", "over", "time", ".", "The", "level", "of", "similarity", "between", "the", "actual", "query", "sets", "received", "within", "topical", "categories", "varies", "differently", "according", "to", "category", ".", "This", "leads", "us", "to", "believe", "that", "predictive", "algorithms", "that", "are", "able", "to", "estimate", "the", "likelihood", "of", "a", "query", "being", "repeated", "may", "well", "be", "possible", ".", "This", "could", "have", "a", "significant", "impact", "on", "future", "cache", "management", "and", "load-balancing", "algorithms", ".", "Such", "algorithms", "could", "improve", "retrieval", "effectiveness", "by", "assisting", "in", "query", "disambiguation", ",", "making", "it", "easier", "to", "determine", "what", "information", "need", "is", "being", "expressed", "by", "a", "query", "at", "a", "given", "time", ".", "They", "could", "also", "assist", "research", "in", "search", "efficiency", "that", "takes", "into", "account", "query", "arrival-rate", "s", "-LSB-", "3", "-RSB-", ".", "Our", "analysis", "covers", "the", "entirety", "of", "the", "tens", "of", "millions", "of", "queries", "each", "day", "in", "the", "search", "log", "from", "America", "Online", "over", "a", "complete", "week", "in", "December", ".", "This", "represents", "a", "population", "of", "tens", "of", "millions", "of", "users", "searching", "for", "a", "wide", "variety", "of", "topics", ".", "Section", "2", "reviews", "the", "prior", "work", "in", "query", "log", "analysis", ".", "Section", "3", "describes", "our", "analysis", "of", "overall", "query", "traffic", ".", "Section", "4", "describes", "our", "analysis", "of", "trends", "in", "categorized", "queries", ".", "Finally", ",", "in", "Section", "5", "we", "present", "our", "conclusions", "and", "directions", "for", "future", "work", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "04", ",", "July", "25", "29", ",", "2004", ",", "Sheffield", ",", "South", "Yorkshire", ",", "UK", ".", "Copyright", "2004", "ACM", "1-58113-881-4", "/", "04/0007", "...", "$", "5.00", ".", "321", "Examinations", "of", "search", "engine", "evaluation", "indicate", "that", "performance", "likely", "varies", "over", "time", "due", "to", "differences", "in", "query", "sets", "and", "collections", "-LSB-", "6", "-RSB-", ".", "Although", "the", "change", "in", "collections", "over", "time", "has", "been", "studied", "-LRB-", "e.g.", ",", "the", "growth", "of", "the", "web", "-RRB-", "-LSB-", "10", "-RSB-", ",", "analysis", "of", "users", "'", "queries", "has", "been", "primarily", "limited", "to", "the", "investigation", "of", "a", "small", "set", "of", "available", "query", "logs", "that", "provide", "a", "snapshot", "of", "their", "query", "stream", "over", "a", "fixed", "period", "of", "time", ".", "Prior", "work", "can", "be", "partitioned", "into", "static", "query", "log", "analysis", "and", "some", "recent", "disclosures", "by", "web", "search", "engines", ".", "Query", "log", "analysis", "can", "be", "partitioned", "into", "large-scale", "log", "analysis", ",", "small-scale", "log", "analysis", "and", "some", "other", "applications", "of", "log", "analysis", "such", "as", "categorization", "and", "query", "clustering", ".", "Jansen", "and", "Pooch", "provide", "a", "framework", "for", "static", "log", "analysis", ",", "but", "do", "not", "address", "analysis", "of", "changes", "in", "a", "query", "stream", "over", "time", "-LSB-", "7", "-RSB-", ".", "Given", "that", "most", "search", "engines", "receive", "on", "the", "order", "of", "between", "tens", "and", "hundreds", "of", "millions", "of", "queries", "a", "day", "-LSB-", "22", "-RSB-", ",", "current", "and", "future", "log", "analysis", "efforts", "should", "use", "increasingly", "larger", "query", "sets", "to", "ensure", "that", "prior", "assumptions", "still", "hold", ".", "Previous", "studies", "measured", "overall", "aspects", "of", "users", "'", "queries", "from", "static", "web", "query", "logs", ".", "In", "the", "only", "large-scale", "study", "-LRB-", "all", "others", "involve", "only", "a", "few", "million", "queries", "-RRB-", ",", "Silverstein", "concludes", "that", "users", "typically", "view", "only", "the", "top", "ten", "search", "results", "and", "that", "they", "generally", "enter", "short", "queries", "from", "a", "static", "analysis", "of", "an", "AltaVista", "query", "log", "from", "six", "weeks", "in", "1998", "consisting", "of", "575", "million", "non-empty", "queries", "-LSB-", "16", "-RSB-", ".", "He", "also", "found", "that", "only", "13.6", "%", "of", "queries", "appear", "more", "than", "three", "times", ",", "the", "top", "25", "queries", "represent", "1.5", "%", "of", "the", "total", "query", "volume", ",", "and", "in", "75", "%", "of", "sessions", "users", "do", "not", "revise", "their", "queries", ".", "Additionally", ",", "co-occurrence", "analysis", "of", "the", "most", "frequent", "10,000", "queries", "showed", "that", "the", "most", "correlated", "terms", "are", "often", "constituents", "of", "phrases", ".", "No", "time-based", "or", "topic-based", "analysis", "of", "this", "query", "load", "was", "reported", ";", "it", "does", "not", "provide", "insight", "into", "how", "or", "when", "any", "usage", "or", "topical", "interest", "changes", "occur", ".", "Other", "studies", "examine", "the", "effect", "of", "advanced", "query", "operators", "on", "the", "search", "service", "coverage", "of", "Google", ",", "MSN", ",", "and", "AOL", ",", "finding", "that", "in", "general", ",", "they", "had", "little", "effect", "-LSB-", "4", "-RSB-", ".", "These", "overall", "statistics", "do", "not", "provide", "any", "insight", "into", "temporal", "changes", "in", "the", "query", "log", ",", "but", "do", "provide", "some", "insight", "into", "how", "people", "use", "search", "services", ".", "Jansen", ",", "et", ".", "al", ",", "also", "provide", "analysis", "of", "query", "frequency", "-LSB-", "7", "-RSB-", "-LSB-", "19", "-RSB-", ".", "Their", "findings", "indicate", "that", "the", "majority", "-LRB-", "57", "%", "-RRB-", "of", "query", "terms", "from", "the", "Excite", "log", "of", "more", "than", "51,000", "queries", "are", "used", "only", "once", ",", "and", "a", "large", "majority", "-LRB-", "78", "%", "-RRB-", "occur", "three", "times", "or", "less", ".", "These", "studies", "show", "that", "neither", "queries", "nor", "their", "component", "terms", "follow", "a", "Zipfian", "distribution", ",", "as", "the", "number", "of", "rare", ",", "infrequently", "repeated", "queries", "and", "terms", "is", "disproportionately", "large", ".", "Other", "studies", "have", "focused", "on", "user", "behavior", "at", "the", "query", "session", "level", "and", "found", "varying", "results", ",", "with", "some", "estimating", "reformulated", "queries", "constituting", "40-52", "%", "of", "queries", "in", "a", "log", "-LSB-", "18", "-RSB-", "-LSB-", "21", "-RSB-", ".", "Wang", ",", "et", ".", "al", "examined", "a", "log", "of", "more", "than", "500,000", "queries", "to", "a", "university", "search", "engine", "from", "1997-2001", "-LSB-", "23", "-RSB-", ".", "They", "find", "trends", "in", "the", "number", "of", "queries", "received", "by", "season", ",", "month", ",", "and", "day", ".", "We", "extend", "upon", "this", "work", "by", "examining", "the", "larger", "community", "of", "general", "web", "searchers", "and", "analyzing", "trends", "corresponding", "to", "hour", "of", "day", ".", "Several", "studies", "examine", "query", "categories", "in", "small", ",", "static", "logs", ".", "Spink", ",", "et", ".", "al", "analyzed", "logs", "totaling", "more", "than", "one", "million", "queries", "submitted", "to", "the", "Excite", "web", "search", "engine", "during", "single", "days", "in", "1997", ",", "1999", ",", "and", "2", "001", "-LSB-", "18", "-RSB-", "-LSB-", "19", "-RSB-", "-LSB-", "20", "-RSB-", ".", "They", "classified", "approximately", "2,500", "queries", "from", "each", "log", "into", "11", "topical", "categories", "and", "found", "that", "although", "search", "topics", "have", "changed", "over", "the", "years", ",", "users", "'", "behaviors", "have", "not", ".", "Ross", "and", "Wolfram", "categorized", "the", "top", "1,000", "term", "pairs", "from", "the", "one", "million", "query", "Excite", "log", "into", "30", "subject", "areas", "to", "show", "commonalities", "of", "terms", "in", "categorie", "s", "-LSB-", "13", "-RSB-", ".", "Jansen", ",", "et", ".", "al", "used", "lists", "of", "terms", "to", "identify", "image", ",", "audio", ",", "and", "video", "queries", "and", "measure", "their", "presence", "in", "the", "one", "million", "query", "Excite", "log", "-LSB-", "9", "-RSB-", ".", "In", "order", "to", "examine", "the", "differences", "in", "queries", "from", "users", "in", "different", "countries", ",", "Spink", ",", "et", ".", "al", ",", "examined", "a", "500,000", "query", "log", "from", "the", "FAST", "web", "search", "engine", "during", "2001", ",", "believed", "to", "be", "used", "largely", "by", "Europeans", "at", "that", "time", ",", "classifying", "2,500", "queries", "from", "it", "into", "the", "same", "topical", "categories", ".", "They", "found", "differences", "between", "FAST", "and", "Excite", "in", "the", "topics", "searched", "fo", "r", "-LSB-", "17", "-RSB-", ".", "Other", "work", "manually", "grouped", "queries", "by", "task", ".", "Broder", "defines", "queries", "as", "informational", ",", "navigational", "or", "transactional", "and", "presents", "a", "study", "of", "AltaVista", "users", "via", "a", "popup", "survey", "and", "manual", "categorization", "of", "200", "queries", "from", "a", "log", "-LSB-", "2", "-RSB-", ".", "Beitzel", ",", "et", ".", "al", "implicitly", "categorized", "queries", "from", "a", "search", "log", "as", "navigational", "by", "matching", "them", "to", "edited", "titles", "in", "web", "directories", "to", "automatically", "evaluate", "navigational", "web", "search", "-LSB-", "1", "-RSB-", ".", "Xie", "and", "Wolfram", "automatically", "categorized", "query", "terms", "by", "using", "results", "from", "web", "search", "engines", "to", "assign", "the", "terms", "to", "broad", "subject", "categorie", "s", "-LSB-", "25", "-RSB-", ".", "Several", "studies", "of", "query", "caching", "examine", "query", "frequency", "distributions", "from", "a", "static", "log", ",", "focusing", "on", "the", "average", "likelihood", "of", "an", "arbitrary", "query", "being", "repeated", "over", "the", "entire", ",", "fixed-length", "log", ".", "Lempel", "and", "Moran", "evaluated", "the", "performance", "of", "caching", "strategies", "over", "a", "log", "of", "seven", "million", "queries", "to", "AltaVista", "in", "2001", "and", "found", "that", "the", "frequencies", "of", "queries", "in", "their", "log", "followed", "a", "power", "law", "-LSB-", "11", "-RSB-", ".", "Eiron", "and", "McCurley", "compared", "query", "vocabulary", "from", "a", "log", "of", "nearly", "1.3", "million", "queries", "posed", "to", "a", "corporate", "intranet", "to", "the", "vocabulary", "of", "web", "page", "anchor", "text", "and", "found", "that", "the", "frequency", "of", "queries", "and", "query", "terms", "follows", "a", "tail-heavy", "power", "law", "-LSB-", "5", "-RSB-", ".", "Xie", "and", "O'Hallaron", "studied", "query", "logs", "from", "the", "Vivisimo", "meta-search", "engine", "of", "110,881", "queries", "over", "one", "month", "in", "2001", "in", "comparison", "to", "the", "Excite", "log", "of", "1.9", "million", "over", "one", "day", "in", "1999", "and", "found", "that", "although", "as", "in", "other", "studies", "over", "half", "of", "the", "queries", "are", "never", "repeated", ",", "the", "frequencies", "of", "queries", "that", "are", "repeated", "do", "follow", "a", "Zipfian", "distribution", "-LSB-", "26", "-RSB-", ".", "Saraiva", ",", "et", ".", "al", "evaluated", "a", "two-level", "caching", "scheme", "on", "a", "log", "of", "over", "100,000", "queries", "to", "a", "Brazilian", "search", "engine", "and", "found", "that", "query", "frequencies", "follow", "a", "Zipf-like", "distri", "bution", "-LSB-", "15", "-RSB-", ".", "Markatos", "simulated", "the", "effect", "of", "several", "types", "of", "query", "caches", "on", "an", "Excite", "query", "log", "of", "approximately", "one", "million", "queries", "and", "found", "that", "traditional", "caching", "methods", "provide", "significant", "improvements", "in", "efficiency", "-LSB-", "12", "-RSB-", ".", "Although", "traditional", "MRU-style", "caches", "obviously", "enhance", "throughput", "by", "exploiting", "temporal", "locality", "at", "the", "minute-to", "-", "minute", "level", ",", "these", "studies", "do", "not", "examine", "changes", "in", "the", "query", "stream", "according", "to", "the", "hour", "of", "the", "day", "that", "may", "be", "leveraged", "in", "enhanced", "cache", "design", ".", "It", "is", "well", "known", "that", "different", "users", "represent", "the", "same", "information", "need", "with", "different", "query", "terms", ",", "making", "query", "clustering", "attractive", "when", "examining", "groups", "of", "related", "queries", ".", "However", ",", "as", "Raghavan", "and", "Sever", "have", "shown", ",", "traditional", "similarity", "measures", "are", "unsuitable", "for", "finding", "query-to-query", "similarity", "-LSB-", "13", "-RSB-", ".", "Wen", ",", "et", ".", "al", ",", "incorporated", "click-through", "to", "cluster", "users", "'", "queries", "-LSB-", "23", "-RSB-", ".", "In", "evaluating", "their", "system", ",", "they", "analyzed", "a", "random", "subset", "of", "20,000", "queries", "from", "a", "single", "month", "of", "their", "approximately", "1-million", "queries-per-week", "traffic", ".", "They", "found", "322", "that", "the", "most", "popular", "22.5", "%", "queries", "represent", "only", "400", "clusters", "of", "queries", "using", "differing", "sets", "of", "query", "terms", ".", "Many", "web", "search", "services", "have", "begun", "to", "offer", "views", "of", "the", "most", "popular", "and/or", "changing", "-LRB-", "becoming", "drastically", "more", "or", "less", "popular", "-RRB-", "queries", ":", "AOL", "Member", "Trends", ",", "Yahoo", "-", "Buzz", "Index", ",", "Lycos", "-", "The", "Lycos", "50", "with", "Aaron", "Schatz", ",", "Google", "Zeitgeist", ",", "AltaVista", "-", "Top", "Queries", ",", "Ask", "Jeeves", ",", "Fast", "-LRB-", "AllTheWeb", "-RRB-", ".", "These", "views", "necessarily", "incorporate", "a", "temporal", "aspect", ",", "often", "showing", "popular", "queries", "for", "the", "current", "time", "period", "and", "those", "that", "are", "consistently", "popular", ".", "Some", "also", "break", "down", "popularity", "by", "topical", "categories", ".", "Systems", "seeking", "to", "display", "changing", "queries", "must", "address", "the", "issue", "of", "relative", "versus", "absolute", "change", "in", "a", "query", "'s", "frequency", "to", "find", "queries", "whose", "change", "is", "``", "interesting", "''", ",", "not", "simply", "a", "query", "that", "went", "from", "frequency", "one", "to", "two", "-LRB-", "a", "200", "%", "jump", "-RRB-", ",", "or", "one", "that", "went", "from", "10,000", "to", "11,000", "-LRB-", "a", "1000", "absolute", "change", "-RRB-", ".", "We", "examine", "a", "search", "log", "consisting", "of", "hundreds", "of", "millions", "of", "queries", "from", "a", "major", "commercial", "search", "service", "over", "the", "seven-day", "period", "from", "12/26/03", "through", "1/1/04", ".", "This", "log", "represents", "queries", "from", "approximately", "50", "million", "users", ".", "We", "preprocess", "the", "queries", "to", "normalize", "the", "query", "strings", "by", "removing", "any", "case", "differences", ",", "replacing", "any", "punctuation", "with", "white", "space", "-LRB-", "stripping", "advanced", "search", "operators", "from", "the", "approximately", "2", "%", "of", "queries", "containing", "them", "-RRB-", ",", "and", "compressing", "white", "space", "to", "single", "spaces", ".", "The", "average", "query", "length", "is", "1.7", "terms", "for", "popular", "queries", "and", "2.2", "terms", "over", "all", "queries", ".", "On", "average", ",", "users", "view", "only", "one", "page", "of", "results", "81", "%", "of", "the", "time", ",", "two", "pages", "18", "%", "and", "three", "or", "more", "1", "%", "of", "the", "time", ".", "First", ",", "we", "examine", "trends", "in", "the", "query", "stream", "as", "a", "whole", ",", "and", "then", "focus", "on", "trends", "related", "to", "queries", "manually", "categorized", "into", "topical", "categories", ".", "We", "begin", "our", "analysis", "of", "the", "overall", "stream", "by", "examining", "how", "the", "volume", "of", "query", "traffic", "changes", "as", "we", "move", "from", "peak", "to", "non-peak", "hours", ".", "We", "show", "the", "percentage", "of", "the", "day", "'s", "total", "and", "distinct", "number", "of", "queries", "for", "each", "hour", "in", "the", "day", "on", "average", "over", "our", "seven-day", "peri", "od", "in", "Figure", "1", "-LRB-", "all", "times", "in", "our", "query", "log", "are", "Eastern", "Standard", "Time", "-RRB-", ".", "Only", "0.75", "%", "of", "the", "day", "'s", "total", "queries", "appear", "from", "5-6AM", ",", "whereas", "6.7", "%", "of", "the", "day", "'s", "queries", "appear", "from", "9-10PM", ".", "Perhaps", "more", "interestingly", ",", "the", "ratio", "of", "distinct", "to", "total", "queries", "in", "a", "given", "hour", "is", "nearly", "constant", "throughout", "the", "day", ".", "This", "shows", "that", "the", "average", "number", "of", "times", "a", "query", "is", "repeated", "is", "virtually", "constant", "over", "the", "hours", "in", "a", "day", ",", "remaining", "near", "2.14", "with", "only", "a", "0.12", "standard", "deviation", ".", "Although", "the", "average", "repetition", "of", "queries", "remains", "nearly", "constant", ",", "we", "can", "examine", "this", "in", "greater", "detail", "by", "measuring", "the", "frequency", "distribution", "of", "queries", "at", "various", "hours", "in", "the", "day", ",", "as", "seen", "in", "Figure", "2", ".", "From", "this", "analysis", "it", "is", "clear", "that", "the", "vast", "majority", "of", "queries", "in", "an", "hour", "appear", "only", "one", "to", "five", "times", "and", "that", "these", "rare", "queries", "consistently", "account", "for", "large", "portions", "of", "the", "total", "query", "volume", "throughout", "the", "course", "of", "the", "day", ".", "Figure", "1", "Although", "we", "have", "shown", "that", "the", "query", "distribution", "does", "not", "change", "substantially", "over", "the", "course", "of", "a", "day", ",", "this", "does", "not", "provide", "insight", "into", "how", "the", "sets", "of", "queries", "vary", "from", "one", "hour", "to", "the", "next", ".", "To", "examine", "this", ",", "we", "measure", "the", "overlap", "between", "the", "sets", "of", "queries", "entered", "during", "those", "hours", ".", "We", "use", "traditional", "set", "and", "bag", "overlap", "measures", "as", "gi", "ven", "in", "Equation", "1", "and", "Equation", "2", ",", "respectively", ".", "Distinct", "overlap", "measures", "the", "similarity", "between", "the", "sets", "of", "unique", "queries", "from", "each", "hour", ",", "while", "overall", "-LRB-", "bag", "-RRB-", "overlap", "measures", "the", "similarity", "of", "their", "frequency", "distributions", "by", "incorporating", "the", "number", "of", "times", "each", "query", "appears", "in", "an", "hour", ",", "-RRB-", ";", "-LRB-", "A", "q", "C", "i", ".", "While", "these", "measures", "examine", "the", "similarity", "of", "the", "sets", "of", "queries", "received", "in", "an", "hour", "and", "the", "number", "of", "times", "they", "are", "entered", ",", "they", "do", "not", "incorporate", "the", "relative", "popularity", "or", "ranking", "of", "queries", "within", "the", "query", "sets", ".", "To", "examine", "this", ",", "we", "also", "measure", "the", "Pearson", "correlation", "of", "the", "queries", "'", "frequencies", ".", "As", "can", "be", "seen", "from", "Equation", "3", "-LRB-", "where", "-RRB-", ";", "-LRB-", "A", "q", "C", "is", "the", "mean", "number", "of", "query", "repetitions", "in", "period", "A", "and", "-RRB-", ";", "-LRB-", "A", "q", "C", "s", "is", "the", "standard", "deviation", "of", "all", "the", "query", "frequencies", "in", "period", "A", "-RRB-", ",", "this", "measures", "the", "degree", "of", "linear", "correlation", "between", "the", "frequencies", "of", "the", "queries", "in", "each", "hour", ",", "so", "two", "hours", "that", "had", "exactly", "the", "same", "queries", "with", "exactly", "the", "same", "frequencies", "would", "have", "a", "correlation", "of", "one", ".", "Note", "that", "this", "normalizes", "for", "the", "effect", "of", "differing", "query", "volume", ",", "i.e.", ",", "the", "correlation", "of", "two", "hours", "with", "exactly", "the", "same", "underlying", "query", "distributions", "simply", "scaled", "by", "a", "constant", "would", "also", "have", "a", "correlation", "of", "one", ".", "Figure", "2", "Percentage", "of", "Average", "Daily", "Query", "Traffic", "at", "Each", "Hour", "0", "%", "1", "%", "2", "%", "3", "%", "4", "%", "5", "%", "6", "%", "7", "%", "8", "%", "0", "6", "12", "18", "Hour", "of", "Day", "P", "e", "r", "c", "en", "t", "a", "g", "e", "o", "f", "D", "a", "i", "l", "y", "Qu", "er", "y", "T", "r", "af", "f", "i", "c", "Average", "Total", "Queries", "Average", "Distinct", "Queries", "Frequency", "Distribution", "of", "Selected", "Hours", "from", "12/26/03", "0", "%", "5", "%", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "1", ",", "00", "11", "0", ",", "0", "0", "0", "50", "11", ",", "0", "0", "0", "20", "15", "0", "0", "10", "12", "0", "0", "51", "1", "0", "0", "26", "5", "0", "21", "2", "5", "16", "2", "0", "11", "1", "5", "10", "9", "8", "7", "6", "5", "4", "3", "2", "1", "Frequency", "Ranges", "P", "erc", "en", "t", "a", "g", "e", "o", "f", "T", "o", "t", "a", "l", "Q", "u", "er", "i", "e", "s", "12AM-1AM", "6AM-7AM", "12PM-1PM", "6PM-7PM", "323", "B", "A", "B", "A", "B", "A", "overlap", "dist", "=", "-RRB-", ",", "-LRB-", ".", "Equation", "1", ":", "Distinct", "Overlap", "of", "Query", "Sets", "from", "Hours", "A", "and", "B", "+", "=", "B", "A", "q", "i", "i", "B", "q", "i", "A", "q", "i", "B", "A", "q", "i", "i", "i", "i", "i", "i", "B", "q", "C", "A", "q", "C", "B", "q", "C", "A", "q", "C", "B", "q", "C", "A", "q", "C", "B", "A", "overlap", "-RRB-", "-RRB-", ";", "-LRB-", "-RRB-", ",", ";", "-LRB-", "min", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", "-RRB-", ";", "-LRB-", "-RRB-", ",", ";", "-LRB-", "min", "-LRB-", "-RRB-", ",", "-LRB-", "Equation", "2", ":", "Overall", "Overlap", "of", "Query", "Sets", "from", "Hours", "A", "and", "B", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "1", ",", "-RRB-", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "-LRB-", "1", "1", "B", "q", "C", "A", "q", "C", "n", "i", "i", "i", "B", "A", "s", "s", "B", "q", "C", "B", "q", "C", "A", "q", "C", "A", "q", "C", "n", "r", "=", "=", "Equation", "3", ":", "Pearson", "Correlation", "of", "Query", "Frequencies", "from", "Hours", "A", "and", "B", "Figure", "3", "In", "Figure", "3", "we", "examine", "the", "average", "level", "of", "overlap", "and", "correlation", "between", "the", "query", "sets", "received", "during", "the", "same", "hour", "for", "each", "day", "over", "our", "week", ".", "As", "measuring", "overlap", "over", "the", "set", "of", "all", "queries", "appearing", "in", "our", "week", "would", "be", "computationally", "expensive", ",", "we", "use", "the", "set", "of", "all", "the", "tens", "of", "millions", "of", "queries", "in", "the", "day", "after", "our", "seven-day", "period", "as", "an", "independent", "sample", "and", "measure", "overlap", "at", "each", "hour", "in", "our", "week", "of", "the", "queries", "matching", "those", "in", "that", "sample", ".", "Although", "we", "previously", "saw", "that", "the", "frequency", "distribution", "of", "queries", "does", "not", "substantially", "change", "across", "hours", "of", "the", "day", ",", "Figure", "3", "shows", "that", "the", "similarity", "between", "the", "actual", "queries", "that", "are", "received", "during", "each", "hour", "does", "in", "fact", "change", ".", "This", "trend", "seems", "to", "follow", "query", "volume", ",", "which", "is", "apparent", "if", "we", "sort", "the", "same", "overlap", "data", "by", "query", "volume", "as", "is", "done", "in", "Figure", "4", ".", "Clearly", ",", "as", "query", "volume", "increases", "the", "queries", "that", "compose", "that", "traffic", "are", "more", "likely", "to", "be", "similar", "across", "samples", "of", "those", "peak", "time", "periods", ".", "This", "finding", "is", "consistent", "with", "prior", "analyses", "of", "web", "query", "caches", "showing", "they", "significantly", "improve", "performance", "under", "heavy", "load", ".", "The", "more", "redundancy", "they", "are", "able", "to", "detect", ",", "the", "more", "caching", "algorithms", "are", "able", "to", "enhance", "throughput", ".", "Although", "the", "prior", "work", "primarily", "measures", "the", "effect", "of", "this", "redundancy", "in", "cache", "performance", ",", "it", "is", "obvious", "that", "redundancy", "must", "exist", "and", "be", "detected", "for", "caching", "to", "succeed", ".", "By", "examining", "the", "overall", "query", "stream", "by", "hour", "we", "are", "able", "to", "infer", "the", "effectiveness", "of", "general", "caching", "algorithms", "at", "those", "times", ".", "Figure", "4", "In", "Section", "3", "we", "analyzed", "the", "entire", "query", "log", ".", "However", ",", "this", "blanket", "view", "of", "the", "query", "traffic", "does", "not", "provide", "insight", "into", "the", "characteristics", "of", "particular", "categories", "of", "queries", "that", "might", "be", "exploited", "for", "enhanced", "efficiency", "or", "effectiveness", ".", "For", "example", ",", "a", "search", "provider", "who", "returns", "specialized", "results", "for", "entertainment", "queries", "can", "not", "determine", "from", "general", "query", "traffic", "alone", "whether", "a", "given", "query", "is", "more", "likely", "to", "be", "referring", "to", "entertainment", "related", "content", "or", "how", "to", "best", "process", "and", "cache", "that", "query", ".", "The", "remainder", "of", "our", "analysis", "focuses", "on", "trends", "relating", "to", "topical", "category", "of", "queries", ".", "Our", "query", "set", "is", "categorized", "simply", "by", "exactly", "matching", "queries", "to", "one", "of", "the", "lists", "corresponding", "to", "each", "category", ".", "These", "lists", "are", "manually", "constructed", "by", "editors", "who", "categorize", "real", "users", "'", "queries", ",", "generate", "likely", "queries", ",", "and", "import", "lists", "of", "phrases", "likely", "to", "be", "queries", "in", "a", "category", "-LRB-", "e.g.", ",", "cities", "in", "the", "US", "for", "the", "US", "Sites", "category", "-RRB-", ".", "Queries", "that", "match", "at", "least", "one", "category", "list", "comprise", "13", "%", "of", "the", "total", "query", "traffic", "on", "average", ".", "This", "represents", "millions", "of", "queries", "per", "day", ".", "Figure", "5", "To", "verify", "that", "our", "defined", "category", "lists", "sufficiently", "cover", "the", "topics", "in", "the", "query", "stream", ",", "we", "manually", "classified", "a", "random", "sample", "of", "queries", ",", "assigning", "them", "to", "``", "Other", "''", "if", "they", "did", "not", "intuitively", "fit", "into", "an", "existing", "category", ",", "as", "can", "be", "seen", "in", "Figure", "5", ".", "To", "determine", "the", "number", "of", "queries", "required", "to", "achieve", "a", "representative", "sample", ",", "we", "calculate", "the", "necessary", "sample", "size", "in", "queries", ",", "ss", "=", "-LRB-", "z", "2", "2", "-RRB-", "/", "2", ",", "where", "z", "is", "the", "confidence", "level", "value", ",", "is", "Sorted", "Average", "Overlap", "Characteristics", "from", "1/2/04", "that", "Matched", "Each", "Hour", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "45", "%", "50", "%", "55", "%", "60", "%", "5", "6", "4", "7", "3", "2", "8", "1", "9", "10", "0", "11", "12", "13", "14", "23", "15", "16", "17", "18", "22", "19", "21", "20", "Hour", "of", "Day", "P", "e", "rcen", "t", "a", "g", "e", "Overlap", "Distinct", "Overlap", "Pearson", "Sampled", "Categorized", "Query", "Stream", "Breakdown", "Personal", "Finance", "3", "%", "Computing", "9", "%", "Research", "&", "Learn", "9", "%", "Entertainment", "13", "%", "Games", "5", "%", "Holidays", "1", "%", "Home", "5", "%", "US", "Sites", "3", "%", "Porn", "10", "%", "Shopping", "13", "%", "Sports", "3", "%", "T", "ravel", "5", "%", "Other", "16", "%", "Health", "5", "%", "Average", "Overlap", "Characteristics", "of", "Matching", "Queries", "from", "1/2/04", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "45", "%", "50", "%", "55", "%", "0", "6", "12", "18", "Hour", "of", "Day", "Overlap", "Distinct", "Overlap", "Pearson", "324", "the", "sample", "standard", "deviation", ",", "and", "is", "the", "error", "rate", ".", "By", "setting", "our", "confidence", "level", "to", "99", "%", "and", "error", "rate", "to", "5", "%", ",", "we", "require", "a", "sample", "of", "600", "queries", ".", "The", "relative", "percentages", "for", "each", "category", "of", "the", "approximately", "13", "%", "of", "query", "volume", "that", "match", "any", "category", "list", "over", "our", "week", "-LRB-", "s", "ee", "Figure", "9", "-RRB-", "are", "within", "the", "error", "rate", "of", "those", "from", "our", "manually", "categorized", "sample", ".", "This", "shows", "that", "our", "lists", "are", "a", "reasonable", "representation", "of", "these", "topical", "categories", ".", "We", "focus", "on", "a", "subset", "of", "these", "categories", "and", "examine", "music", "and", "movies", "independent", "of", "other", "entertainment", "queries", ".", "The", "relative", "size", "of", "each", "category", "list", "we", "used", "is", "given", "in", "Figure", "6", ".", "Obviously", ",", "not", "all", "queries", "listed", "actually", "match", "those", "entered", "by", "users", ",", "especially", "when", "the", "category", "contains", "large", "imported", "lists", "of", "phrases", ".", "Figure", "6", "Although", "we", "have", "shown", "that", "our", "lists", "are", "a", "fair", "representation", "of", "the", "topics", "in", "the", "query", "stream", ",", "this", "does", "not", "indicate", "what", "portion", "of", "the", "frequency", "distribution", "of", "that", "stream", "they", "represent", ".", "To", "determine", "this", ",", "we", "measured", "the", "average", "proportion", "of", "queries", "matching", "any", "category", "list", "that", "appear", "at", "various", "frequencies", "each", "hour", "and", "compared", "them", "to", "the", "average", "overall", "hourly", "frequency", "distribution", "of", "the", "query", "stream", "-LRB-", "see", "Figure", "7", "-RRB-", ".", "Unsurprisingly", ",", "this", "comparison", "shows", "that", "queries", "in", "the", "category", "lists", "represent", "more", "popular", ",", "repeated", "queries", "than", "average", ",", "although", "the", "general", "shape", "of", "the", "distributions", "is", "similar", ".", "Figure", "7", "4.1", "Trends", "in", "Category", "Popularity", "We", "begin", "our", "temporal", "analysis", "of", "topical", "categories", "by", "measuring", "their", "relative", "popularity", "over", "the", "hours", "in", "a", "day", ".", "First", ",", "we", "examine", "the", "percent", "of", "total", "query", "volume", "matching", "a", "selected", "group", "of", "category", "lists", ",", "as", "can", "be", "seen", "in", "Figure", "8", ".", "It", "is", "clear", "that", "different", "topical", "categories", "are", "more", "and", "less", "popular", "at", "different", "times", "of", "the", "day", ".", "Personal", "finance", ",", "for", "example", ",", "becomes", "more", "popular", "from", "7-10AM", ",", "while", "music", "queries", "become", "less", "popular", ".", "Although", "it", "is", "difficult", "to", "compare", "the", "relative", "level", "of", "popularity", "shift", "from", "one", "category", "to", "another", "due", "to", "the", "differences", "in", "scale", "of", "each", "of", "their", "percentages", "of", "the", "query", "stream", ",", "it", "is", "clear", "that", "some", "categories", "'", "popularity", "changes", "more", "drastically", "throughout", "the", "day", "than", "others", ".", "Figure", "8", "In", "order", "to", "quantify", "this", ",", "we", "calculated", "the", "KL-divergence", "-LRB-", "Equation", "4", "-RRB-", "between", "the", "likelihood", "of", "receiving", "any", "query", "at", "a", "particular", "time", "and", "the", "likelihood", "of", "receiving", "a", "query", "in", "a", "particular", "category", ",", "as", "can", "be", "seen", "in", "Figure", "9", ".", "This", "reveals", "that", "the", "top", "three", "categories", "in", "terms", "of", "popularity", "are", "pornography", ",", "entertainment", ",", "and", "music", ".", "-RRB-", ",", "|", "-LRB-", "-RRB-", "|", "-LRB-", "log", "-RRB-", "|", "-LRB-", "-RRB-", "-RRB-", ",", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-LRB-", "t", "c", "q", "p", "t", "q", "p", "t", "q", "p", "t", "c", "q", "p", "t", "q", "p", "D", "q", "=", "Equation", "4", ":", "KL-Divergence", "of", "Query", "Occurrence", "Likelihood", "for", "Category", "c", "and", "Total", "Stream", "at", "Time", "t", "Figure", "9", "Comparing", "these", "divergences", "to", "the", "proportion", "of", "categorized", "queries", "in", "each", "category", "in", "Figure", "6", "quickly", "illustrates", "that", "divergence", "is", "not", "correlated", "with", "the", "number", "of", "queries", "categorized", "in", "each", "category", ".", "Also", "shown", "in", "Figure", "9", "is", "the", "average", "percentage", "of", "the", "entire", "query", "volume", "and", "distinct", "queries", "that", "match", "each", "category", ".", "Although", "the", "categories", "that", "cover", "the", "largest", "portions", "of", "the", "query", "stream", "also", "have", "the", "most", "relative", "popularity", "fluctuation", ",", "this", "correlation", "does", "not", "continue", "throughout", "all", "categories", ".", "Relative", "Percentage", "of", "Categorized", "Queries", "0", "%", "5", "%", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "45", "%", "50", "%", "Shopp", "ing", "Com", "puti", "ng", "Trave", "l", "Hom", "e", "Hea", "lth", "Gov", "ernm", "ent", "Games", "Rese", "arch", "&", "L", "earn", "ing", "Porn", "Holiday", "s", "Spor", "ts", "Mov", "ies", "Pers", "onal", "Fina", "nce", "Ente", "rtain", "men", "t", "US", "S", "ites", "Music", "P", "e", "r", "c", "e", "n", "t", "a", "ge", "of", "C", "a", "t", "e", "gor", "i", "z", "e", "d", "Q", "u", "e", "r", "i", "e", "s", "Hourly", "Frequency", "Distribution", "of", "Matching", "Queries", "vs.", "All", "Queries", "Averaged", "over", "7", "Days", "and", "16", "Categories", "0", "%", "5", "%", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", ">", "1,0", "00", "201-500", "51-1", "00", "21-2", "5", "11-1", "5", "9", "7", "5", "3", "1", "Frequency", "Ranges", "P", "e", "r", "cent", "a", "g", "e", "of", "A", "v", "er", "age", "T", "o", "t", "a", "M", "a", "t", "c", "hi", "ng", "Q", "u", "er", "i", "e", "s", "Avg", ".", "Matching", "Queries", "Avg", ".", "Queries", "Category", "Percentage", "of", "Entire", "Query", "Stream", "and", "Divergence", "from", "Likelihood", "of", "any", "Query", "at", "Each", "Hour", "0", "%", "1", "%", "2", "%", "3", "%", "4", "%", "5", "%", "6", "%", "Com", "puti", "ng", "Spo", "rts", "Holi", "day", "s", "Rese", "arch", "and", "L", "earni", "ng", "Hea", "lth", "Gam", "es", "US", "S", "ites", "Shopp", "ing", "Gov", "ernm", "ent", "Mov", "ies", "Tra", "vel", "Pers", "ona", "l", "Fin", "ance", "Home", "Music", "Ente", "rtain", "men", "t", "Porn", "Category", "KL-Divergence", "%", "of", "query", "stream", "Distinct", "%", "of", "query", "stream", "Categorical", "Percent", "over", "Time", "0", "%", "1", "%", "2", "%", "3", "%", "4", "%", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "24", "Hour", "of", "Day", "Entertainment", "Games", "Health", "Personal", "Finance", "Shopping", "Music", "USSites", "Porn", "325", "We", "drilled", "down", "into", "the", "highly", "fluctuating", "categories", "and", "examined", "the", "behavior", "of", "the", "queries", "with", "the", "most", "highly", "fluctuating", "frequencies", "in", "each", "category", ".", "From", "this", "we", "hoped", "to", "gain", "some", "insight", "into", "the", "reasons", "why", "certain", "categories", "fluctuate", ",", "and", "the", "effect", "of", "terms", "and", "queries", "with", "very", "high", "flux", "on", "those", "categories", ".", "For", "example", ",", "the", "three", "most", "changing", "queries", "for", "the", "entertainment", "category", "on", "average", "over", "our", "week", "were", ":", "Table", "1", ":", "Top", "Three", "Fluctuating", "Entertainment", "Queries", "gwyneth", "paltrow", "paris", "hilton", "orlando", "bloom", "All", "three", "of", "these", "queries", "are", "specifically", "related", "to", "recent", "events", "in", "US", "popular", "culture", ";", "the", "actress", "Gwyneth", "Paltrow", "recently", "married", "in", "secret", ",", "and", "the", "news", "of", "her", "nuptials", "broke", "during", "the", "week", "we", "analyzed", ".", "Hilton", "Hotel", "heiress", "Paris", "Hilton", "has", "been", "a", "popular", "topic", "recently", ";", "she", "starred", "in", "a", "prime", "time", "reality", "TV", "show", "entitled", "``", "The", "Simple", "Life", "''", ".", "Also", "popular", "is", "Orlando", "Bloom", ",", "the", "actor", "who", "portrays", "a", "popular", "character", "in", "the", "``", "Lord", "of", "the", "Rings", "''", "trilogy", ".", "As", "the", "final", "installment", "of", "the", "series", "was", "released", "in", "US", "theatres", "during", "the", "week", "prior", "to", "our", "query", "log", ",", "it", "is", "no", "surprise", "to", "see", "his", "name", "as", "a", "top-changing", "query", ".", "Drilling", "down", "further", ",", "we", "pinpointed", "some", "of", "the", "specific", "instances", "where", "these", "popular", "queries", "jumped", "the", "most", ".", "For", "example", ",", "in", "the", "afternoon", "of", "Friday", ",", "December", "27th", ",", "the", "popularity", "of", "the", "query", "``", "gwyneth", "paltrow", "''", "skyrocketed", ".", "From", "3-4PM", ",", "it", "occurred", "once", ",", "from", "4-5PM", "it", "occurred", "67", "times", ",", "and", "from", "5PM-6PM", "it", "occurred", "11,855", "times", ".", "The", "top", "changing", "-LRB-", "on", "average", "-RRB-", "twenty-five", "queries", ",", "after", "normalization", ",", "in", "the", "Entertainment", "and", "Music", "categories", "are", "shown", "in", "Table", "2", ".", "Table", "2", ":", "Top", "25", "Fluctuating", "Queries", "from", "Music", "and", "Entertainment", "Music", "Entertainment", "lyrics", "music", "britney", "spears", "furniture", "love", "hilary", "duff", "good", "charlotte", "sloppy", "seconds", "jessica", "simpson", "b2k", "eminem", "christina", "aguilera", "simple", "plan", "justin", "timberlake", "free", "music", "linkin", "park", "michael", "jackson", "beyonce", "jennifer", "lopez", "50", "cent", "kinky", "napster", "chic", "tupac", "blink", "182", "gwyneth", "paltrow", "paris", "hilton", "orlando", "bloom", "espn", "disney", "johnny", "depp", "much", "music", "disney", "channel", "hgtv", "disneychannel", "com", "www", "disneychanel", "com", "katie", "holmes", "pictures", "pamela", "anderson", "cartoon", "network", "hilary", "duff", "fake", "chad", "michael", "murray", "vivica", "a", "fox", "disneychannel", "care", "bears", "sailor", "moon", "www", "cartoonnetwork", "com", "days", "of", "our", "lives", "charmed", "tom", "welling", "We", "also", "looked", "at", "some", "of", "the", "most", "frequently", "changing", "terms", "to", "see", "how", "they", "relate", "to", "the", "change", "of", "entire", "queries", "containing", "those", "terms", ".", "Some", "excellent", "examples", "of", "this", "behavior", "in", "the", "Entertainment", "category", "include", "the", "terms", "``", "pictures", "''", "-LRB-", "the", "tenth-most", "changing", "term", "-RRB-", "and", "``", "duff", "''", "-LRB-", "the", "17", "th", "-", "most", "changing", "term", "-RRB-", ".", "We", "looked", "at", "the", "popularity", "change", "-LRB-", "i.e.", ",", "change", "in", "frequency", "-RRB-", "for", "queries", "containing", "these", "terms", "and", "found", "that", "several", "of", "them", "also", "exhibited", "large", "changes", "over", "time", ".", "For", "example", ",", "on", "the", "afternoon", "of", "December", "28", "th", "from", "noon", "to", "5PM", "EST", ",", "the", "query", "``", "hilary", "duff", "''", "changed", "from", "an", "initial", "frequency", "of", "27", "from", "12-1PM", "to", "a", "peak", "of", "131", "-LRB-", "from", "3-4PM", "-RRB-", ",", "and", "then", "stabilized", "around", "70", "for", "the", "rest", "of", "the", "evening", ";", "similar", "spikes", "in", "frequency", "for", "this", "query", "occurred", "at", "similar", "times", "during", "other", "days", "in", "our", "period", "of", "study", ".", "4.2", "Trends", "in", "Uniqueness", "of", "Queries", "Within", "Categories", "Although", "we", "have", "shown", "that", "different", "categories", "have", "differing", "trends", "of", "popularity", "over", "the", "hours", "of", "a", "day", ",", "this", "does", "not", "provide", "insight", "into", "how", "the", "sets", "of", "queries", "within", "those", "categories", "change", "throughout", "the", "day", ".", "In", "order", "to", "examine", "this", ",", "we", "return", "to", "the", "overlap", "measures", "used", "in", "Sec", "tion", "3", ".", "Overlap", ",", "distinct", "overlap", ",", "and", "the", "Pearson", "correlation", "of", "query", "frequencies", "for", "Personal", "Finance", "and", "Music", "are", "show", "n", "in", "Figure", "10", "a", "nd", "Figure", "11", ".", "Figure", "10", "Although", "the", "uniqueness", "of", "queries", "in", "categories", "in", "general", "appears", "to", "be", "correlated", "with", "that", "of", "the", "entire", "query", "stream", "-LRB-", "Figure", "3", "-RRB-", ",", "that", "of", "particular", "categories", "appears", "to", "be", "substantially", "different", "from", "one", "to", "the", "next", ".", "For", "example", ",", "if", "we", "compare", "the", "overlap", "characteristics", "of", "personal", "finance", "with", "those", "of", "music", ",", "we", "see", "they", "are", "quite", "different", ".", "Not", "only", "does", "personal", "finance", "have", "generally", "higher", "overlap", ",", "but", "it", "has", "a", "much", "higher", "overall", "overlap", "than", "distinct", "overlap", ",", "whereas", "they", "are", "nearly", "equal", "for", "music", ".", "Other", "categories", "with", "generally", "high", "overlap", "and", "distinct", "overlap", "are", "shopping", ",", "computing", ",", "and", "travel", ".", "Also", ",", "the", "correlation", "of", "frequencies", "of", "personal", "finance", "queries", "is", "very", "high", "all", "day", ",", "indicating", "searchers", "are", "entering", "the", "same", "queries", "roughly", "the", "same", "relative", "amount", "of", "times", ",", "this", "is", "clearly", "not", "true", "for", "music", ".", "Some", "categories", "have", "a", "high", "Pearson", "correlation", ".", "This", "indicates", "that", "a", "significant", "portion", "of", "the", "queries", "in", "these", "categories", "is", "often", "ranked", "similarly", "by", "frequency", ".", "These", "categories", "are", ":", "pornography", ",", "travel", ",", "research", "and", "learning", ",", "and", "computing", ",", "and", "their", "Pearson", "correlations", "are", "illustrate", "d", "in", "Figure", "12", ".", "Personal", "Finance", "Overlap", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "Overlap", "Dist", ".", "Olap", "Pearson", "326", "Figure", "11", "It", "is", "clear", "that", "some", "categories", "have", "very", "similarly", "ranked", "queries", "by", "frequency", "throughout", "the", "day", ",", "while", "others", "vary", "dramatically", "according", "to", "query", "volume", ".", "Referring", "back", "to", "Figure", "6", "and", "Figure", "9", ",", "uniqueness", "of", "queries", "in", "particular", "categories", "does", "not", "appear", "to", "be", "correlated", "with", "the", "number", "of", "queries", "in", "their", "respective", "category", "lists", ",", "the", "proportion", "of", "the", "query", "stream", "they", "represent", ",", "or", "the", "number", "of", "distinct", "queries", "they", "match", ".", "Figure", "12", "This", "type", "of", "data", "is", "potentially", "of", "great", "use", "to", "query", "caching", "algorithms", ".", "For", "example", ",", "if", "it", "is", "known", "a", "priori", "that", "queries", "for", "certain", "categories", "are", "similarly", "ranked", "throughout", "the", "day", ",", "they", "can", "be", "given", "higher", "priority", "in", "a", "query-caching", "scheme", ".", "Similarly", ",", "queries", "in", "categories", "whose", "rankings", "change", "vastly", "over", "time", "might", "be", "given", "low", "caching", "priority", ".", "This", "study", "focuses", "on", "investigating", "the", "nature", "of", "changes", "in", "the", "query", "stream", "of", "a", "very", "large", "search", "service", "over", "time", ".", "Understanding", "how", "users", "'", "queries", "change", "over", "time", "is", "critical", "to", "developing", "effective", ",", "efficient", "search", "systems", "and", "to", "engineering", "representative", "test", "sets", "and", "evaluations", "that", "drive", "this", "development", ".", "In", "this", "study", "we", "find", "trends", "over", "time", "that", "are", "stable", "despite", "continuing", "fluctuation", "in", "query", "volume", ".", "Although", "the", "average", "query", "is", "repeated", "only", "twice", "during", "any", "given", "hour", "of", "the", "day", ",", "the", "total", "query", "traffic", "varies", "both", "in", "magnitude", "from", "one", "hour", "to", "the", "next", ",", "and", "also", "in", "degree", "of", "overlap", "and", "correlation", "in", "popularity", "of", "the", "queries", "that", "are", "received", ".", "In", "addition", ",", "we", "also", "find", "that", "the", "frequency", "distribution", "of", "an", "hour", "'s", "worth", "of", "queries", "remains", "constant", "throughout", "the", "day", ".", "Also", ",", "at", "the", "most", "general", "level", ",", "we", "find", "that", "query", "volume", "is", "highest", "and", "query", "sets", "are", "most", "stable", "during", "peak", "hours", "of", "the", "day", ".", "This", "study", "further", "investigates", "changes", "in", "the", "query", "stream", "over", "time", "by", "examining", "the", "nature", "of", "changes", "in", "popularity", "of", "particular", "topical", "categories", ".", "For", "this", "we", "use", "a", "set", "of", "topical", "categories", "created", "by", "human", "editors", "that", "represents", "approximately", "13", "%", "of", "the", "average", "query", "traffic", ".", "We", "show", "that", "popularity", "of", "some", "of", "these", "categories", "fluctuates", "considerably", "while", "other", "categories", "remain", "relatively", "stable", "over", "the", "hours", "in", "a", "day", ".", "Additionally", ",", "we", "show", "that", "the", "overlap", "and", "correlation", "in", "popularity", "of", "the", "queries", "within", "each", "topical", "category", "varies", "quite", "differently", "over", "the", "course", "of", "the", "day", ".", "Extending", "this", "analysis", "to", "investigate", "changes", "in", "the", "very", "rare", "queries", "not", "often", "matched", "by", "our", "category", "lists", "would", "provide", "insight", "into", "whether", "those", "are", "changing", "similarly", "to", "more", "popular", "queries", ".", "One", "method", "for", "approaching", "this", "might", "be", "to", "incorporate", "automatic", "query", "classification", "methods", "to", "extend", "our", "basic", "lists", "This", "study", "is", "the", "gateway", "to", "a", "large", "and", "diverse", "body", "of", "future", "work", ".", "Integrating", "this", "knowledge", "of", "Circadian", "changes", "in", "the", "query", "stream", "by", "category", "will", "likely", "yield", "improved", "query", "disambiguation", ",", "query", "caching", ",", "and", "load", "balancing", "algorithms", ".", "-LSB-", "1", "-RSB-", "Beitzel", ",", "S.", ",", "Jensen", ",", "E.", ",", "Chowdhury", ",", "A.", ",", "and", "Grossman", ",", "D.", "Using", "Titles", "and", "Category", "Names", "from", "Editor-driven", "Taxonomies", "for", "Automatic", "Evaluation", ".", "In", "Proceedings", "of", "CIKM", "'03", "-LRB-", "New", "Orleans", ",", "LA", ",", "November", ",", "2003", "-RRB-", ",", "ACM", "Press", ".", "-LSB-", "2", "-RSB-", "Broder", ",", "A", ".", "A", "Taxonomy", "of", "Web", "Search", ".", "SIGIR", "Forum", "36", "-LRB-", "2", "-RRB-", "-LRB-", "Fall", ",", "2002", "-RRB-", ".", "-LSB-", "3", "-RSB-", "Chowdhury", ",", "A.", ",", "G.", "Pass", ".", "``", "Operational", "Requirements", "for", "Scalable", "Search", "Systems", "''", ",", "In", "Proceedings", "of", "CIKM", "'03", "-LRB-", "New", "Orleans", ",", "LA", ",", "November", "2003", "-RRB-", ",", "ACM", "Press", ".", "-LSB-", "4", "-RSB-", "Eastman", ",", "C.", ",", "B.", "Jansen", ",", "``", "Coverage", ",", "Relevance", ",", "and", "Ranking", ":", "The", "Impact", "of", "Query", "Operators", "on", "Web", "Search", "Engine", "Results", "''", ",", "ACM", "Transactions", "on", "Information", "Systems", ",", "Vol", ".", "21", ",", "No.", "4", ",", "October", "2003", ",", "Pages", "383", "411", ".", "-LSB-", "5", "-RSB-", "Eiron", ",", "N.", ",", "K.", "McCurley", ".", "``", "Analysis", "of", "Anchor", "Text", "for", "Web", "Search", "''", ",", "In", "Proceedings", "of", "SIGIR", "'03", "-LRB-", "Toronto", ",", "Canada", ",", "July", "2003", "-RRB-", ",", "ACM", "Press", ".", "-LSB-", "6", "-RSB-", "Hawking", ",", "D.", ",", "Craswell", ",", "N.", ",", "and", "Griffiths", ",", "K.", "Which", "Search", "Engine", "is", "Best", "at", "Finding", "Online", "Services", "?", "In", "Proceedings", "of", "WWW10", "-LRB-", "Hong", "Kong", ",", "May", "2001", "-RRB-", ",", "Posters", ".", "Actual", "poster", "available", "as", "http://pigfish.vic.cmis.csiro.au/~nickc/pubs/www10actualpos", "ter.pdf", "-LSB-", "7", "-RSB-", "Jansen", ",", "B.", "and", "Pooch", ",", "U", ".", "A", "review", "of", "Web", "searching", "studies", "and", "a", "framework", "for", "future", "research", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "and", "Technology", "52", "-LRB-", "3", "-RRB-", ",", "235-246", ",", "2001", ".", "-LSB-", "8", "-RSB-", "Jansen", ",", "B.", ",", "Spink", ",", "A.", ",", "and", "Saracevic", ",", "T.", "Real", "life", ",", "real", "users", ",", "and", "real", "needs", ":", "a", "study", "and", "analysis", "of", "user", "queries", "on", "the", "web", ".", "Information", "Processing", "and", "Management", ",", "36", "-LRB-", "2", "-RRB-", "-LRB-", "2000", "-RRB-", ",", "207-227", ".", "-LSB-", "9", "-RSB-", "Jansen", ",", "B.J.", ",", "Goodrum", ",", "A.", ",", "Spink", ",", "A.", "Searching", "for", "multimedia", ":", "video", ",", "audio", ",", "and", "image", "Web", "queries", ".", "World", "Wide", "Web", "3", "-LRB-", "4", "-RRB-", ",", "2000", ".", "-LSB-", "10", "-RSB-", "Lawrence", ",", "S.", "and", "Giles", ",", "C.L.", "Searching", "the", "World", "Wide", "Web", ".", "Science", "280", "-LRB-", "5360", "-RRB-", ",", "98-100", ",", "1998", ".", "Pearson", "Correlations", "of", "Frequencies", "for", "Categories", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "Personal", "Finance", "Music", "Movies", "Porn", "Computing", "Games", "Entertainment", "Government", "Music", "Overlap", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "Overlap", "Dist", ".", "Olap", "Pearson", "327", "-LSB-", "11", "-RSB-", "Lempel", ",", "R.", "and", "Moran", ",", "S.", "Predictive", "caching", "and", "prefetching", "of", "query", "results", "in", "search", "engines", ".", "In", "Proceedings", "of", "WWW12", "-LRB-", "Budapest", ",", "May", "2003", "-RRB-", ".", "-LSB-", "12", "-RSB-", "Markatos", ",", "E.P.", "On", "Caching", "Search", "Engine", "Query", "Results", ".", "In", "the", "Proceedings", "of", "the", "5th", "International", "Web", "Caching", "and", "Content", "Delivery", "Workshop", ",", "May", "2000", ".", "-LSB-", "13", "-RSB-", "Raghavan", ",", "V.", "and", "Sever", ",", "H.", "On", "the", "Reuse", "of", "Past", "Optimal", "Queries", ".", "In", "Proc", ".", "of", "the", "1995", "SIGIR", "Conference", ",", "344-350", ",", "Seattle", ",", "WA", ",", "July", "1995", ".", "-LSB-", "14", "-RSB-", "Ross", ",", "N.", "and", "Wolfram", ",", "D.", "End", "user", "searching", "on", "the", "Internet", ":", "An", "analysis", "of", "term", "pair", "topics", "submitted", "to", "the", "Excite", "search", "engine", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "51", "-LRB-", "10", "-RRB-", ",", "949-958", ",", "2000", ".", "-LSB-", "15", "-RSB-", "Saraiva", ",", "P.", ",", "Moura", ",", "E.", ",", "Ziviani", ",", "N.", ",", "Meira", ",", "W.", ",", "Fonseca", ",", "R.", ",", "Riberio-Neto", ",", "B.", "Rank-preserving", "two-level", "caching", "for", "scalable", "search", "engines", ".", "In", "Proc", ".", "of", "the", "24th", "SIGIR", "Conference", ",", "51-58", ",", "New", "Orleans", ",", "LA", ",", "September", ",", "2001", ".", "-LSB-", "16", "-RSB-", "Silverstein", ",", "C.", ",", "Henzinger", ",", "M.", ",", "Marais", ",", "H.", ",", "and", "Moricz", ",", "M.", "Analysis", "of", "a", "very", "large", "web", "search", "engine", "query", "log", ".", "SIGIR", "Forum", "33", "-LRB-", "1", "-RRB-", "-LRB-", "Fall", ",", "1999", "-RRB-", ",", "6-12", ".", "-LSB-", "17", "-RSB-", "Spink", ",", "A.", ",", "Ozmutlu", ",", "S.", ",", "Ozmutlu", ",", "H.C.", ",", "and", "Jansen", ",", "B.J.", "U.S.", "versus", "European", "web", "searching", "trends", ".", "SIGIR", "Forum", "36", "-LRB-", "2", "-RRB-", ",", "32-38", ",", "2002", ".", "-LSB-", "18", "-RSB-", "Spink", ",", "A.", ",", "Jansen", ",", "B.J.", ",", "Wolfram", ",", "D.", ",", "and", "Saracevic", ",", "T.", "From", "E-sex", "to", "e-commerce", ":", "Web", "search", "changes", ".", "IEEE", "Computer", ",", "35", "-LRB-", "3", "-RRB-", ",", "107-109", ",", "2002", ".", "-LSB-", "19", "-RSB-", "Spink", ",", "A.", ",", "Wolfram", ",", "D.", ",", "Jansen", ",", "B.J.", "and", "Saracevic", ",", "T.", "Searching", "the", "Web", ":", "The", "Public", "and", "Their", "Queries", ".", "Journal", "of", "the", "American", "Society", "of", "Information", "Science", "53", "-LRB-", "2", "-RRB-", ",", "226-234", ",", "2001", ".", "-LSB-", "20", "-RSB-", "Spink", ",", "A.", ",", "Jansen", ",", "B.J.", ",", "and", "Saracevic", ",", "T.", "Vox", "populi", ":", "The", "public", "searching", "of", "the", "web", ".", "Journal", "of", "the", "American", "Society", "of", "Information", "Science", "52", "-LRB-", "12", "-RRB-", ",", "1073-1074", ",", "2001", ".", "-LSB-", "21", "-RSB-", "Spink", ",", "A.", ",", "Jansen", ",", "B.J.", ",", "and", "Ozmultu", ",", "H.C.", "Use", "of", "query", "reformulation", "and", "relevance", "feedback", "by", "Excite", "users", ".", "Internet", "Research", ":", "Electronic", "Networking", "Applications", "and", "Policy", "10", "-LRB-", "4", "-RRB-", ",", "2000", ".", "-LSB-", "22", "-RSB-", "Sullivan", ",", "D.", "Searches", "Per", "Day", ".", "Search", "Engine", "Watch", ",", "February", ",", "2003", ".", "http://searchenginewatch.com/reports/article.php/2156461", "-LSB-", "23", "-RSB-", "Wang", ",", "P.", ",", "Berry", ",", "M.", ",", "and", "Yang", ",", "Y.", "Mining", "longitudinal", "web", "queries", ":", "Trends", "and", "patterns", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "and", "Technology", "54", "-LRB-", "8", "-RRB-", ",", "743-758", ",", "June", "2003", ".", "-LSB-", "24", "-RSB-", "J.", "Wen", ",", "J.", "Nie", ",", "H.", "Zhang", "``", "Query", "Clustering", "using", "User", "Logs", "''", "ACM", "Transactions", "on", "Information", "Systems", ",", "Vol", ".", "20", ",", "No.", "1", ",", "January", "2002", ",", "pp59-81", ".", "-LSB-", "25", "-RSB-", "Wolfram", ",", "D.", ",", "H.", "Xie", ",", "``", "Subject", "categorization", "of", "query", "terms", "for", "exploring", "Web", "users", "'", "search", "interests", "''", ",", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "v.", "53", "n.", "8", ",", "p.617-630", ",", "June", "2002", ".", "-LSB-", "26", "-RSB-", "Xie", ",", "Y.", ",", "O'Hallaron", ",", "D.", "Locality", "in", "Search", "Engine", "Queries", "and", "Its", "Implications", "for", "Caching", ".", "Infocom", "2002", ".", "328"], "doc_bio_tags": ["O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["query log analysis", "query log", "topical categories", "web search", "query stream", "log analysis", "query traffic", "frequency distribution"], "abstractive_keyphrases": [], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "56", "document": ["Context-Aware", "Web", "Information", "Systems", "Apart", "from", "completeness", "usability", ",", "performance", "and", "maintainability", "are", "the", "key", "quality", "aspects", "for", "Web", "information", "systems", ".", "Considering", "usability", "as", "key", "implies", "taking", "usage", "processes", "into", "account", "right", "from", "the", "beginning", "of", "systems", "development", ".", "Context-awareness", "appears", "as", "a", "promising", "idea", "for", "increasing", "usability", "of", "Web", "Information", "Systems", ".", "In", "the", "present", "paper", "we", "propose", "an", "approach", "to", "context-awareness", "of", "Web", "Information", "Systems", "that", "systematically", "distinguishes", "among", "the", "various", "important", "kinds", "of", "context", ".", "We", "show", "how", "parts", "of", "this", "context", "can", "be", "operationalized", "for", "increasing", "customers", "'", "usage", "comfort", ".", "Our", "approach", "permits", "designing", "Web", "information", "systems", "such", "that", "they", "meet", "high", "quality", "expectations", "concerning", "usability", ",", "performance", "and", "maintainability", ".", "We", "demonstrate", "the", "validity", "of", "our", "approach", "by", "discussing", "the", "part", "of", "a", "banking", "Web", "Information", "System", "dedicated", "to", "online", "home-loan", "application", ".", "1.1", "Generations", "of", "Web", "Services", "Understanding", "Web", "Information", "Systems", "-LRB-", "WIS", "-RRB-", "as", "monolithic", "and", "presentation-oriented", "query-answer", "systems", "would", "be", "too", "simplistic", ".", "Implementing", "the", "individual", "services", "of", "a", "WIS", "only", "on", "the", "basis", "of", "XML", "or", "-LRB-", "D", "-RRB-", "HTML", "suites", "suffices", "for", "the", "interface", "accessible", "by", "a", "particular", "customer", ".", "The", "quality", "of", "service", "provided", "by", "a", "WIS", "both", "expected", "and", "implemented", ",", "however", ",", "evolved", "over", "the", "last", "decade", "and", "has", "evolved", "beyond", "mere", "completeness", ".", "Extending", "the", "classification", "in", "-LRB-", "Berger", "2003", ",", "p.", "146", "-RRB-", "we", "distinguish", "between", "different", "generations", "of", "WIS.", ".", "First", "generation", "-LRB-", "1G", "-RRB-", ":", "``", "build", "it", ",", "and", "they", "will", "come", "''", "First", "develop", "a", "WIS", ",", "then", "customers", "will", "come", ",", "because", "they", "believe", "that", "it", "is", "useful", ".", "Many", "of", "the", "1G-WIS", "were", "informational", ",", "i.e.", ",", "they", "were", "n't", "interactive", ".", "Second", "generation", "-LRB-", "2G", "-RRB-", ":", "``", "advertise", "online", "sales", ",", "and", "they", "will", "come", "''", "Develop", "a", "WIS", "and", "market", "it", ".", "Customers", "will", "Copyright", "c", "2004", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "First", "Asia-Pacific", "Conference", "on", "Conceptual", "Modelling", "-LRB-", "APCCM", "2004", "-RRB-", ",", "Dunedin", ",", "New", "Zealand", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "31", ".", "Sven", "Hartmann", ",", "John", "Roddick", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "come", ",", "because", "the", "advertisement", "convinced", "them", "about", "the", "WIS", "'s", "usability", ".", "The", "WIS", "may", "be", "transactional", ",", "i.e.", ",", "contain", "interactive", "interfaces", "to", "company", "products", "and", "services", ".", "A", "standard", "interface", "is", "provided", "but", "hard", "to", "learn", ".", "No", "particular", "customer", "usage", "aid", "is", "offered", ".", "Third", "generation", "-LRB-", "3G", "-RRB-", ":", "``", "realize", "a", "pleasant", "use", "of", "high", "quality", "services", ",", "and", "they", "will", "come", "''", "Customers", "will", "find", "using", "the", "WIS", "helpful", ".", "They", "will", "do", "the", "marketing", ".", "3G-WIS", "'s", "typical", "characteristics", "are", ":", "high", "value", "and", "up-to-date", "content", ",", "high", "performance", ",", "brand", "value", "of", "the", "provider", ",", "and", "pleasant", "and", "easy", "use", "for", "casual", "as", "well", "as", "for", "frequent", "customers", ".", "Many", "WIS", "including", "several", "banking", "WIS", "are", "still", "2G", ".", "However", ",", "impressive", "and", "well-developed", "WIS", ",", "e.g.", ",", "the", "Amazon", "web-site", ",", "demonstrate", "the", "feasibil-ity", "of", "3G-WIS", ".", "The", "success", "of", "such", "WIS", "is", "based", "on", "deep", "understanding", "of", "the", "application", "area", ",", "the", "customers", "needs", ",", "abilities", "and", "habits", ".", "Adaptation", "to", "customers", "--", "if", "provided", "--", "is", "based", "on", "allocating", "the", "most", "suited", "subspace", "of", "the", "WIS", "application", "space", "to", "the", "customer", ".", "WIS", "can", "be", "classified", "into", "e-business", ",", "e-learning", ",", "edutainment", ",", "community", ",", "information", "and", "personality", "WIS.", ".", "In", "the", "e-business", "class", "the", "B2B", "systems", "have", "been", "more", "successful", "than", "B2C", "systems", ".", "This", "success", "results", "from", "well-understood", "usage", "scenarios", "built", "into", "the", "WIS.", ".", "We", "observe", "that", "usage", "scenarios", "are", "better", "understood", "for", "B2B-WIS", "than", "for", "B2C-WIS", ".", "Storyboarding", "is", "a", "design", "approach", "focusing", "on", "usage", "scenarios", ".", "However", ",", "so", "far", "it", "is", "mainly", "used", "employing", "pinboard", "approaches", ",", "see", "e.g.", "-LRB-", "Siegel", "1998", ",", "Van", "Duyne", "et", "al.", "2003", "-RRB-", ".", "Pinboard", "approaches", "map", "a", "number", "of", "scenarios", "observed", "in", "the", "application", "onto", "tree-structured", "web", "sites", ".", "Storyboarding", "in", "the", "movie", "business", "is", "used", "to", "design", "much", "more", "complex", "scenarios", ".", "To", "overcome", "this", "limitation", "the", "storyboard", "specification", "language", "SiteLang", "has", "been", "introduced", "in", "-LRB-", "Thalheim", "and", "D", "usterh", "oft", "2001", "-RRB-", ".", "Until", "now", "it", "has", "been", "applied", "in", "more", "that", "two", "dozen", "WIS", "projects", "of", "the", "Cottbus", "InfoTeam", "since", "1999", ".", "Our", "development", "experience", "implies", "that", "implementing", "3G-WIS", "requires", "sophisticated", "database", "support", ",", "see", "-LRB-", "Thalheim", "2000a", "-RRB-", ".", "Our", "approach", "to", "guarantee", "for", "this", "support", "is", "based", "on", "the", "theory", "of", "media", "types", ",", "which", "generalize", "database", "views", "-LRB-", "see", "e.g.", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "-RRB-", ".", "Another", "finding", "from", "our", "practical", "experiences", "is", "that", "customer", "behavior", "has", "changed", ".", "They", "are", "no", "more", "patiently", "waiting", "until", "their", "needs", "are", "met", ".", "They", "require", "personal", "interfaces", ".", "Customization", "of", "system", "interfaces", "to", "users", "is", "37", "known", "for", "quite", "a", "while", ".", "However", ",", "WIS", "are", "targeting", "new", "and", "casual", "customers", ".", "These", "customers", "are", "not", "capable", "or", "willing", "to", "arrange", "for", "system", "adaptation", ".", "Internet", "service", "providers", "report", "customers", "frequently", "complaining", "about", "insufficient", "user-friendliness", "and", "unsophisticated", "WIS.", "1.2", "Problems", "of", "Complex", "Applications", "Modern", "applications", ",", "in", "particular", "WIS", "often", "appear", "to", "be", "relatively", "simple", ",", "if", "only", "their", "interface", "is", "considered", ".", "Their", "point-and-click", "operating", "mode", "is", "de-liberately", "set", "up", "in", "a", "way", "that", "causes", "the", "impression", "of", "simplicity", ".", "Internally", ",", "however", ",", "things", "may", "be", "quite", "different", ".", "A", "client-server", "multi-tier", "architecture", "with", "HTML-server", ",", "database", "server", "and", "application", "server", "might", "be", "used", ".", "This", "implies", "some", "non-trivial", "development", "tasks", "done", "such", "as", "database", "design", "and", "development", "of", "an", "application", "programmer", "interface", "or", "similar", ".", "In", "addition", ",", "several", "customer", "types", "may", "be", "known", "to", "the", "application", "system", ".", "A", "WIS", "may", "appear", "very", "different", "to", "customers", "of", "different", "type", ".", "The", "functionality", "they", "access", ",", "however", ",", "is", "still", "the", "basic", "functionality", "as", "implemented", "by", "the", "servers", "mentioned", "before", ".", "Consequently", "as", "many", "function", "schemas", "and", "data", "schemas", "need", "to", "be", "developed", "as", "there", "are", "anticipated", "customer", "types", ".", "These", "schemas", "need", "to", "be", "integrated", "to", "develop", "a", "consistent", "view", "of", "the", "key", "application", "functionalities", ".", "Views", "that", "are", "based", "on", "these", "schemas", "need", "to", "be", "generated", "allowing", "the", "individual", "customers", "to", "operate", "with", "the", "application", "in", "the", "way", "that", "is", "most", "natural", "for", "them", ".", "The", "development", "of", "WIS", "thus", "can", "be", "a", "quite", "complex", "process", ".", "Among", "others", "the", "complexity", "of", "this", "development", "process", "depends", "on", "the", "degree", "of", "use", "of", "an", "underlying", "database", ",", "from", "which", "dynamic", "web", "pages", "are", "created", ".", "Furthermore", ",", "the", "complexity", "of", "this", "process", "depends", "on", "the", "number", "of", "versions", "of", "usage", "processes", "of", "the", "WIS", "that", "need", "to", "be", "anticipated", ".", "Since", "different", "usage", "processes", "may", "lead", "to", "different", "data", "and", "functionality", "accessible", "to", "customers", ".", "Additional", "complexity", "comes", "in", "--", "e.g.", "in", "the", "case", "of", "modern", "retail", "banking", "--", "when", "a", "requirement", "is", "set", "in", "place", "that", "various", "access", "channels", "--", "e.g.", "channels", "needed", "for", "cell-phone", "-", "or", "PDA-access", "--", "should", "be", "made", "available", "to", "customers", ".", "Apart", "from", "the", "purely", "technical", "problem", "arising", "from", "discretionary", "access", "channels", "the", "problem", "of", "layout", "for", "these", "channels", "has", "to", "be", "solved", ".", "1.3", "An", "Application", "Example", "An", "example", "of", "a", "WIS", "in", "retail", "banking", "showing", "a", "relatively", "high", "diversity", "of", "the", "usage", "process", "is", "online", "loan", "application", ",", "if", "considered", "in", "full", "generality", "as", "we", "do", "it", "here", ".", "For", "an", "introduction", "to", "lending", "in", "general", ",", "of", "which", "the", "loan", "business", "is", "just", "a", "part", ",", "see", "e.g.", "-LRB-", "Valentine", "1999", "-RRB-", ".", "Not", "all", "banks", "offer", "online", "home-loan", "application", "facilities", ".", "Those", "that", "provide", "such", "facilities", "do", "not", "necessarily", "allow", "customers", "to", "deal", "with", "them", "completely", "online", ".", "Banks", "that", "offer", "effective", "online", "loan", "application", "are", "the", "Swiss", "UBS", "AG", "and", "the", "New", "Zealand", "and", "Australia", "based", "ASB", "Bank", ".", "The", "acceptance", "of", "a", "longer", "interruption", "of", "service", "at", "the", "ASB", "site", "indicated", "that", "at", "least", "for", "this", "bank", "online", "home-loan", "application", "is", "not", "yet", "considered", "a", "major", "part", "of", "their", "business", ".", "Complexity", "in", "home-loan", "applications", "results", "from", "the", "fact", "that", "the", "applicant", "not", "necessarily", "is", "exactly", "one", "natural", "person", ".", "For", "each", "of", "the", "applicants", "properties", "and", "debts", "need", "to", "be", "identified", "and", "valuated", ".", "Often", "banks", "would", "accept", "only", "home-loan", "applications", "of", "at", "most", "two", "people", ",", "in", "general", "the", "couple", "that", "is", "going", "to", "live", "in", "the", "home", "financed", "with", "the", "loan", ".", "Complexity", "is", "further", "increased", "by", "the", "loan", "not", "necessarily", "being", "a", "fresh", "one", "but", "being", "already", "granted", "to", "someone", "who", "due", "to", "his", "or", "her", "financial", "conditions", "has", "chosen", "to", "move", "the", "loan", "to", "a", "different", "bank", ".", "Furthermore", ",", "the", "properties", "offered", "for", "securing", "the", "loan", "may", "belong", "to", "a", "variety", "of", "types", ".", "Some", "of", "these", "types", ",", "e.g.", "real", "estate", "property", "may", "require", "physical", "inspection", "to", "determine", "the", "value", "they", "can", "cover", ".", "Other", "properties", "such", "as", "financial", "instruments", ",", "i.e.", "shares", ",", "options", "or", "accounts", ",", "may", "only", "need", "an", "inquiry", "to", "the", "respective", "depot", "or", "account", ".", "If", "cash", "is", "a", "security", ",", "then", "it", "might", "even", "be", "impossible", "to", "finish", "the", "process", "electronically", ",", "as", "the", "cash", "needs", "to", "be", "brought", "to", "the", "bank", "branch", ",", "counted", "and", "deposited", ".", "It", "is", "similar", "with", "debts", ".", "On", "real", "estate", "properties", "there", "might", "be", "liabilities", "that", "require", "an", "assessment", "of", "the", "actual", "value", ".", "Of", "course", "there", "is", "quite", "a", "number", "of", "so-called", "loan", "structures", "-LRB-", "see", "-LRB-", "Valentine", "1999", ",", "p.", "226f", ".", "-RRB-", "-RRB-", "distinguishing", "between", "loans", ".", "For", "instance", ",", "they", "may", "differ", "from", "each", "other", "in", "their", "term", ",", "frequency", "of", "repayments", ",", "borrower", "'s", "authorization", "to", "increase", "the", "debt", "-LRB-", "e.g.", "overdraft", "facility", "-RRB-", ",", "the", "minimum", "security", "ratio", "or", "the", "repayment", "structure", ".", "The", "latter", "addresses", "the", "schema", "of", "how", "capital", "and", "interests", "are", "paid", "for", "by", "the", "customer", ".", "Independently", "of", "the", "loan", "structure", "a", "customer", "might", "chose", "among", "several", "loan", "options", "that", "specify", "how", "the", "interests", "develop", "over", "time", ",", "i.e.", "they", "may", "be", "fixed", "for", "a", "particular", "time", "period", "or", "they", "may", "float", "like", "general", "interest", "rates", "in", "banking", ".", "Apart", "from", "these", "principal", "choices", "in", "a", "home-loan", "there", "are", "a", "number", "of", "tools", "available", "for", "customer", "'s", "use", "throughout", "online", "home", "loan", "applications", "such", "as", "a", "borrowing", "power", "calculator", ",", "a", "repayment", "schedule", "calculator", ",", "etc.", ".", "Additionally", ",", "dictionaries", "of", "banking", "terms", ",", "act", "excerpts", "and", "comments", "as", "well", "as", "descriptions", "of", "the", "applying", "financial", "instruments", "need", "to", "be", "accessible", "to", "customers", ".", "All", "the", "possible", "options", "in", "the", "financial", "instruments", "and", "the", "respective", "variations", "of", "the", "WIS", "usage", "will", "only", "be", "considered", "by", "a", "small", "number", "of", "customers", ".", "In", "more", "technical", "terms", "we", "have", "to", "deal", "with", "a", "generic", "process", "type", ".", "Most", "of", "its", "instances", "realize", "only", "a", "part", "of", "the", "possible", "variations", ".", "At", "present", "online", "home-loan", "application", "systems", "are", "not", "typical", "retail", "banking", "applications", ".", "Automated", "clearing", "house", "-LRB-", "ACH", "-RRB-", ",", "i.e.", "direct", "deposit", "of", "payments", ",", "withdrawing", "monthly", "mortgage", "payments", ",", "etc.", "are", "more", "typical", ".", "According", "to", "-LRB-", "Berger", "2003", ",", "p.", "150f", ".", "-RRB-", "its", "use", "in", "the", "US", "is", "steeply", "increasing", "and", "has", "after", "starting", "problems", "even", "increased", "productivity", ".", "However", ",", "ACH", "is", "a", "back-office", "activity", ",", "whereas", "online", "home-loan", "application", "is", "a", "customer-home", "or", "front-office", "activity", ".", "According", "to", "-LRB-", "Berger", "2003", ",", "p.", "149", "-RRB-", "internet-only", "banks", "performed", "more", "poorly", "than", "conventional", "banks", "did", ".", "If", "this", "finding", "implies", "that", "online", "home-loan", "applications", "are", "less", "productive", "than", "conventional", "home-loan", "application", "processing", "then", "we", "believe", "that", "this", "is", "only", "a", "temporary", "phenomenon", ".", "We", "believe", "that", "cultural", "obstacles", "concerning", "internet-banking", "will", "disappear", "when", "3G-WIS", "have", "become", "more", "popular", ".", "According", "to", "-LRB-", "Berger", "2003", "-RRB-", "there", "is", "empirical", "evidence", "for", "an", "increasing", "market", "share", "of", "electronic", "payment", ".", "According", "to", "studies", "reported", "in", "-LRB-", "Berger", "2003", ",", "p.", "162", "-RRB-", "there", "is", "even", "empirical", "evidence", "for", "increased", "productivity", "due", "to", "investment", "in", "IT", "labor", ",", "while", "there", "is", "no", "empirical", "evidence", "for", "IT", "investments", "increasing", "efficiency", "in", "general", ".", "This", "is", "consistent", "with", "the", "basic", "insight", "that", "not", "the", "mere", "use", "of", "IT", "but", "the", "kind", "and", "quality", "of", "this", "use", "can", "increase", "productivity", ".", "Our", "paper", "shall", "help", "making", "3G-WIS", "more", "popular", "and", "thus", "contributes", "to", "internet", "banking", "more", "completely", "covering", "the", "business", "at", "a", "higher", "level", "of", "quality", ".", "38", "1.4", "Related", "Work", "A", "lot", "of", "related", "work", "has", "been", "done", "on", "the", "development", "of", "web", "information", "systems", ".", "The", "work", "in", "-LRB-", "Atzeni", "et", "al.", "1998", "-RRB-", "emphasizes", "the", "design", "of", "content", "leading", "to", "databases", ",", "navigation", "leading", "to", "hypertext", ",", "and", "presentation", "leading", "to", "the", "pages", "layout", ".", "Other", "authors", "-LRB-", "see", "for", "example", "-LRB-", "Baresi", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "Bonifati", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "G", "adtke", "and", "Turowski", "1999", "-RRB-", "and", "-LRB-", "Rossi", "et", "al.", "1999", "-RRB-", "-RRB-", "follow", "the", "same", "lines", "of", "thought", "or", "concentrate", "on", "the", "``", "add-on", "''", "to", "database", "design", ",", "emphasizing", "mainly", "the", "hypertext", "design", "dealing", "with", "navigation", "structures", "-LRB-", "see", "-LRB-", "Garzotto", "et", "al.", "1993", "-RRB-", "and", "-LRB-", "Schwabe", "and", "Rossi", "1998", "-RRB-", "-RRB-", ".", "The", "work", "in", "-LRB-", "Feyer", "et", "al.", "1998", "-RRB-", "presents", "the", "forerunner", "of", "the", "theory", "of", "media", "types", "-LRB-", "see", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "-RRB-", ".", "Media", "types", "provide", "a", "theoretically", "sound", "way", "to", "integrate", "databases", ",", "external", "views", ",", "navigation", "structures", ",", "operations", ",", "and", "even", "support", "adaptivity", "to", "different", "users", ",", "environments", "and", "channels", ".", "The", "adaptivity", "feature", "distinguishes", "them", "from", "the", "dialogue", "types", "that", "are", "used", "to", "integrate", "database", "systems", "with", "their", "user", "interfaces", "-LRB-", "see", "-LRB-", "Schewe", "and", "Schewe", "2000", "-RRB-", "-RRB-", ".", "The", "work", "in", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "already", "emphasizes", "that", "conceptual", "abstraction", "from", "content", ",", "functionality", ",", "and", "presentation", "of", "an", "intended", "site", "is", "not", "sufficient", "for", "the", "adequate", "conceptual", "modelling", "of", "web-based", "systems", ",", "even", "if", "complex", "media", "types", "are", "taken", "into", "consideration", ".", "Some", "of", "the", "approaches", "mentioned", "before", "-LRB-", "see", "-LRB-", "Atzeni", "et", "al.", "1998", "-RRB-", ",", "-LRB-", "Baresi", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "Bonifati", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "G", "adtke", "and", "Turowski", "1999", "-RRB-", ",", "-LRB-", "Rossi", "et", "al.", "1999", "-RRB-", ",", "-LRB-", "Garzotto", "et", "al.", "1993", "-RRB-", "and", "-LRB-", "Schwabe", "and", "Rossi", "1998", "-RRB-", "-RRB-", "miss", "out", "on", "the", "important", "aspect", "of", "story", "boarding", ",", "which", "is", "needed", "to", "capture", "the", "business", "content", "of", "the", "system", ".", "Story", "boarding", "in", "a", "process-oriented", "holistic", "manner", "focusses", "on", "user", "intentions", ".", "In", "more", "recent", "work", "some", "of", "the", "authors", "-LRB-", "Kaschek", "et", "al.", "2003a", "-RRB-", "started", "to", "investigate", "this", "idea", "more", "thoroughly", ".", "Conceptual", "modelling", "traditionally", "considered", "more", "ontolog-ical", "aspects", "than", "epistemological", "ones", ".", "Since", "web", "information", "systems", "in", "two", "respects", "considerably", "differ", "from", "non-web", "information", "systems", "epistemological", "aspects", ",", "however", ",", "need", "to", "be", "taken", "more", "seriously", ":", "Web", "information", "systems", "are", "open", "in", "the", "sense", "that", "actual", "users", "virtually", "may", "be", "just", "anyone", ".", "In", "non-web", "system", "there", "was", "traditionally", "a", "much", "stricter", "access", "control", "preventing", "non-staff", "from", "using", "the", "system", ".", "The", "business", "idea", ",", "however", ",", "has", "changed", "and", "customers", "need", "to", "be", "attracted", "and", "pre-selected", "by", "a", "web", "information", "system", ".", "Furthermore", ",", "web", "information", "systems", "are", "open", "in", "the", "sense", "that", "it", "is", "very", "easy", "to", "use", "them", "for", "accessing", "other", "web", "systems", ".", "This", "introduces", "more", "competition", "among", "those", "who", "offer", "services", "on", "the", "web", ".", "Quality", "of", "web", "information", "systems", "in", "the", "sense", "of", "fitness", "for", "users", "'", "use", "thus", "tends", "to", "be", "more", "important", "than", "it", "was", "for", "non-web", "systems", ".", "Web", "information", "systems", "partly", "substitute", "staff-customer", "interaction", "by", "customer-computer", "interaction", ".", "Consequently", ",", "web", "information", "systems", "must", "focus", "on", "aiding", "customers", "in", "doing", "the", "business", "the", "system", "provider", "is", "engaged", "in", ".", "Clearly", "this", "only", "can", "be", "done", "on", "the", "basis", "of", "a", "customer", "model", ".", "User", "profiling", "together", "with", "story", "boarding", "is", "a", "holistic", "manner", "for", "this", ".", "In", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "it", "is", "suggested", "that", "story", "boarding", "be", "supported", "through", "directed", "graphs", "called", "scenarios", ",", "in", "which", "the", "nodes", "represent", "the", "scenes", "and", "the", "edges", "correspond", "either", "to", "navigation", "or", "to", "actions", "issued", "by", "the", "user", ".", "This", "extends", "the", "work", "in", "-LRB-", "Feyer", "et", "al.", "1998", "-RRB-", ",", "where", "simply", "partially", "ordered", "sets", "have", "been", "used", ".", "In", "addition", ",", "user", "profiling", "is", "approached", "by", "using", "user", "dimensions", "capturing", "various", "aspects", "of", "how", "to", "characterise", "users", ".", "This", "has", "been", "extended", "in", "-LRB-", "Srinivasa", "2001", "-RRB-", "to", "a", "formal", "description", "of", "interactive", "systems", ".", "The", "work", "in", "-LRB-", "D", "usterh", "oft", "and", "Thalheim", "2001", "-RRB-", "presents", "a", "formalised", "language", "SiteLang", "to", "support", "the", "specification", "of", "story", "boards", ".", "the", "work", "also", "indicates", "ideas", "how", "to", "exploit", "word", "fields", "for", "designing", "dialogue", "steps", "in", "story", "boards", ".", "In", "-LRB-", "Schewe", "et", "al.", "1995", "-RRB-", "and", "-LRB-", "Schewe", "1996", "-RRB-", "refinement", "primitives", "for", "dialogues", "have", "been", "discussed", ".", "Due", "to", "the", "connection", "between", "dialogues", "and", "scenarios", ",", "this", "approach", "to", "refinement", "is", "also", "useful", "for", "story", "boarding", ".", "The", "work", "in", "-LRB-", "Schewe", "et", "al.", "2002", "-RRB-", "applies", "story", "boarding", "and", "user", "profiling", "to", "the", "area", "of", "on-line", "loan", "systems", ".", "1.5", "Outline", "In", "section", "2", "we", "discuss", "WIS", "specification", ",", "in", "particular", "story", "spaces", "and", "scenarios", ",", "we", "further", "discuss", "media", "objects", ",", "dialogue-step", "specification", "and", "context", ".", "In", "the", "following", "section", "3", "we", "discuss", "database", "design", "for", "WIS", ",", "utilization", "of", "context", "for", "WIS", "and", "a", "stepwise", "WIS", "generation", "approach", "called", "``", "onion", "generation", "''", ".", "Finally", ",", "in", "section", "4", "we", "continue", "the", "discussion", "of", "our", "example", "and", "show", "how", "our", "approach", "can", "be", "applied", "to", "modelling", "of", "WIS.", ".", "Due", "to", "space", "restrictions", ",", "however", ",", "we", "can", "only", "discuss", "the", "storyboarding", "part", ".", "2.1", "Story", "Spaces", "and", "Scenario", "Modelling", "usage", "processes", "right", "from", "the", "beginning", "of", "systems", "development", "requires", "using", "a", "sufficiently", "expressive", "high", "level", "semantic", "model", "as", "a", "respective", "conceptual", "framework", ".", "Storyboarding", "uses", "the", "metaphor", "``", "story", "''", "to", "conceptualize", "usage", "processes", ".", "We", "presuppose", "that", "a", "story", "-LRB-", "for", "the", "source", "of", "the", "interrogatives", "used", "here", "refer", "to", "-LRB-", "Zachman", "1987", ",", "Sowa", "and", "Zachman", "1992", "-RRB-", "-RRB-", "tells", "what", "happened", ",", "why", "and", "where", ",", "as", "well", "as", "who", "did", "it", "how", "and", "when", ".", "The", "story", "of", "customer-WIS", "interaction", "thus", "is", "the", "intrigue", "or", "plot", "of", "a", "narrative", "work", "or", "an", "account", "of", "events", ".", "Within", "a", "story", "one", "can", "distinguish", "threads", "of", "activity", ",", "so-called", "scenarios", ",", "i.e.", ",", "paths", "of", "scenes", "that", "are", "connected", "by", "transitions", ".", "See", "figure", "2.1", "for", "an", "example", "scenario", ".", "We", "do", "not", "intend", "to", "model", "branching", "stories", ".", "These", "require", "managing", "a", "number", "of", "activities", "at", "the", "same", "time", ",", "i.e.", ",", "in", "parallel", ".", "A", "capability", "that", "-", "as", "we", "believe", "-", "many", "casual", "customers", "wo", "n't", "have", ".", "With", "the", "term", "story", "space", "we", "mean", "the", "integration", "of", "all", "scenarios", "in", "a", "story", ".", "We", "define", "the", "story", "space", "W", "of", "a", "WIS", "W", "as", "the", "7-tuple", "-LRB-", "S", "W", ",", "T", "W", ",", "E", "W", ",", "G", "W", ",", "A", "W", ",", "W", ",", "W", "-RRB-", "where", "S", "W", ",", "T", "W", ",", "E", "W", ",", "G", "W", "and", "A", "W", "are", "the", "set", "of", "scenes", "created", "by", "W", ",", "the", "set", "of", "scene", "transitions", "and", "events", "that", "can", "occur", ",", "the", "set", "of", "guards", "and", "the", "set", "of", "actions", "that", "are", "relevant", "for", "W", ",", "respectively", ".", "Thus", ",", "T", "W", "is", "a", "subset", "of", "S", "W", "S", "W", ".", "Furthermore", "W", ":", "S", "W", "SceneSpec", "is", "a", "function", "associating", "a", "scene", "specification", "with", "each", "scene", "in", "S", "W", ",", "and", "W", ":", "T", "W", "E", "W", "G", "W", "A", "W", ",", "t", "-LRB-", "e", ",", "g", ",", "a", "-RRB-", "is", "a", "function", "associating", "with", "each", "scene", "transition", "t", "occurring", "in", "W", "the", "event", "e", "that", "triggers", "transition", "t", ",", "the", "guard", "g", ",", "i.e.", "a", "logical", "condition", "blocking", "the", "transition", "if", "it", "evaluates", "to", "false", "on", "occurrence", "of", "e", ",", "and", "the", "action", "a", "that", "is", "performed", "while", "the", "transition", "takes", "place", ".", "The", "language", "SiteLang", ",", "see", "-LRB-", "Thalheim", "and", "D", "usterh", "oft", "2001", "-RRB-", ",", "offers", "concepts", "and", "notation", "for", "specification", "of", "story", "spaces", ",", "scene", "and", "scenarios", "in", "them", ".", "Scenes", "and", "their", "specifications", "are", "discussed", "in", "subsection", "2.2", ".", "2.2", "Scenes", "We", "consider", "scenes", "as", "the", "conceptual", "locations", "at", "which", "the", "customer-WIS", "interaction", ",", "i.e.", ",", "dialogue", "39", "sc", "1", "-", "sc", "2", "-", "sc", "3", "-", "sc", "4", "-", "sc", "5", "-", "...", "y", "6", "?", "9", "side", "story", "Figure", "2.1", ":", "Scenario", "with", "a", "loop", "representing", "a", "side", "story", "takes", "place", ".", "Dialogues", "can", "be", "specified", "using", "so-called", "dialogue-step", "expressions", ".", "Scenes", "can", "be", "distinguished", "from", "each", "other", "by", "means", "of", "their", "identifier", ":", "Scene-ID", ".", "With", "each", "scene", "there", "is", "associated", "a", "media", "object", "and", "the", "set", "of", "actors", "that", "are", "involved", "in", "it", ".", "Furthermore", ",", "with", "each", "scene", "a", "representation", "specification", "is", "associated", "as", "well", "as", "a", "context", ".", "Scenes", "therefore", "can", "be", "specified", "using", "the", "following", "frame", ":", "Scene", "=", "-LRB-", "Scene-ID", "DialogueStepExpression", "MediaObject", "Actors", "ActorID", "Right", "Tasks", "Assigned", "Roles", "Representation", "-LRB-", "styles", ",", "defaults", ",", "emphasis", ",", "...", "-RRB-", "Context", "-LRB-", "equipment", ",", "channel", ",", "particular", "-RRB-", "Dialogue-step", "expressions", "consist", "of", "dialogues", "and", "operators", "applied", "to", "them", ".", "Dialogue", "steps", "are", "discussed", "in", "subsection", "2.4", "below", ".", "The", "provided", "operators", "are", "based", "on", "the", "basic", "dialogue", "step", "algebra", "introduced", "in", "-LRB-", "Thalheim", "and", "D", "usterh", "oft", "2001", "-RRB-", ":", "Basic", "control", "commands", "are", "sequence", ";", "-LRB-", "execution", "of", "steps", "in", "sequence", "-RRB-", ",", "parallel", "split", "|", "|", "-LRB-", "execute", "steps", "in", "parallel", "-RRB-", ",", "exclusive", "choice", "|", "|", "-LRB-", "choose", "one", "execution", "path", "from", "many", "alternatives", "-RRB-", ",", "synchronization", "|", "sync", "|", "-LRB-", "synchronize", "two", "parallel", "threads", "of", "execution", "by", "an", "synchronization", "condition", "sync", ",", "and", "simple", "merge", "+", "-LRB-", "merge", "two", "alternative", "execution", "paths", "-RRB-", ".", "The", "exclusive", "choice", "is", "considered", "to", "be", "the", "default", "parallel", "operation", "and", "is", "denoted", "by", "|", "|", ".", "Structural", "control", "commands", "are", "arbitrary", "cycles", "-LRB-", "execute", "steps", "w/out", "any", "structural", "restriction", "on", "loops", "-RRB-", ",", "arbitrary", "cycles", "+", "-LRB-", "execute", "steps", "w/out", "any", "structural", "restriction", "on", "loops", "but", "at", "least", "once", "-RRB-", ",", "optional", "execution", "-LSB-", "-RSB-", "-LRB-", "execute", "the", "step", "zero", "times", "or", "once", "-RRB-", ",", "implicit", "termination", "-LRB-", "terminate", "if", "there", "is", "nothing", "to", "be", "done", "-RRB-", ",", "entry", "step", "in", "the", "scene", "and", "termination", "step", "in", "the", "scene", ".", "Advanced", "branching", "and", "synchronization", "control", "commands", "are", "multiple", "choice", "|", "-LRB-", "m", ",", "n", "-RRB-", "|", "-LRB-", "choose", "between", "m", "and", "n", "execution", "paths", "from", "several", "alternatives", "-RRB-", ",", "multiple", "merge", "-LRB-", "merge", "many", "execution", "paths", "without", "synchronizing", "-RRB-", ",", "discriminator", "-LRB-", "merge", "many", "execution", "paths", "without", "synchronizing", ",", "execute", "the", "subsequent", "steps", "only", "once", "-RRB-", "n-out-of-m", "join", "-LRB-", "merge", "many", "execution", "paths", ",", "perform", "partial", "synchronization", "and", "execute", "subsequent", "step", "only", "once", "-RRB-", ",", "and", "synchronizing", "join", "-LRB-", "merge", "many", "execution", "paths", ",", "synchronize", "if", "many", "paths", "are", "taken", ",", "simple", "merge", "if", "only", "one", "execution", "path", "is", "taken", "-RRB-", ".", "We", "also", "may", "define", "control", "commands", "on", "multiple", "objects", "-LRB-", "CMO", "-RRB-", "such", "as", "CMO", "with", "a", "priori", "known", "design", "time", "knowledge", "-LRB-", "generate", "many", "instances", "of", "one", "step", "when", "a", "number", "of", "instances", "is", "known", "at", "the", "design", "time", "-RRB-", ",", "CMO", "with", "a", "priori", "known", "runtime", "knowledge", "-LRB-", "generate", "many", "instances", "of", "one", "step", "when", "a", "number", "of", "instances", "can", "be", "determined", "at", "some", "point", "during", "the", "runtime", "-LRB-", "as", "in", "FOR", "loops", "-RRB-", "-RRB-", ",", "CMO", "with", "no", "a", "priori", "runtime", "knowledge", "-LRB-", "generate", "many", "instances", "of", "one", "step", "when", "a", "number", "of", "instances", "can", "not", "be", "determined", "-LRB-", "as", "in", "a", "while", "loop", "-RRB-", "-RRB-", ",", "and", "CMO", "requiring", "synchronization", "-LRB-", "synchronization", "edges", "-RRB-", "-LRB-", "generate", "many", "instances", "of", "one", "activity", "and", "synchronize", "afterwards", "-RRB-", ".", "State-based", "control", "commands", "are", "deferred", "choice", "-LRB-", "execute", "one", "of", "the", "two", "alternative", "threads", ",", "the", "choice", "which", "tread", "is", "to", "be", "executed", "should", "be", "implicit", "-RRB-", ",", "interleaved", "parallel", "executing", "-LRB-", "execute", "two", "activities", "in", "random", "order", ",", "but", "not", "in", "parallel", "-RRB-", ",", "and", "milestone", "-LRB-", "enable", "an", "activity", "until", "a", "milestone", "has", "been", "reached", "-RRB-", ".", "Finally", ",", "cancellation", "control", "commands", "are", "used", ",", "e.g.", "cancel", "step", "-LRB-", "cancel", "-LRB-", "disable", "-RRB-", "an", "enabled", "step", "-RRB-", "and", "cancel", "case", "-LRB-", "cancel", "-LRB-", "disable", "-RRB-", "the", "step", "-RRB-", ".", "These", "control", "composition", "operators", "are", "generalizations", "of", "workflow", "patterns", "-LRB-", "see", ",", "e.g.", "-LRB-", "Workflow", "Management", "Coalition", "1999", ",", "Jablonski", "1996", "-RRB-", "-RRB-", "and", "follow", "approaches", "developed", "for", "Petri", "net", "algebras", ".", "A", "graphical", "representation", "of", "a", "login", "scene", "is", "given", "in", "figure", "2.2", ".", "We", "are", "interested", "in", "well-formed", "dialogues", "and", "do", "not", "allow", "specifications", "which", "lead", "to", "and-split", "or", "or-split", "common", "in", "workflow", "specifications", ".", "This", "scene", "is", "specified", "by", "the", "dialogue", "step", "expression", "Enter", "login", ";", "-LRB-", "Customer", "login", ";", "-LSB-", "Change", "profile", ";", "-RSB-", "-LRB-", "Service", "kind", "selection", ";", "Service", "selection", ";", "Service", "customization", "-RRB-", "|", "|", "Join", "cooperating", "group", "|", "|", "Join", "bank", "club", "|", "|", "Join", "bank", "programs", "|", "|", "General", "customer", "information", "-RRB-", "|", "|", "-LRB-", "Anonymous", "Login", ";", "-LSB-", "Extend", "adding", "identity", ";", "-RSB-", "-LRB-", "Program", "selection", ";", "Module", "selection", ";", "Unit", "selection", "-RRB-", "-RRB-", "Enter", "Login", ":", "U", "Change", "profile", "Y", "j", "General", "customer", "information", "Anonymous", "login", "j", ":", "Extend", "by", "adding", "identity", "K", "Service", "kind", "selection", "j", "Service", "seeking", "selection", "U", "Service", "customization", "Customer", "login", "K", "y", "j", "U", ":", "Join", "cooperating", "group", "Join", "bank", "program", "Join", "bank", "club", "Login", "Scene", "With", "Adaptation", "of", "System", "Facilities", "Figure", "2.2", ":", "Scene", "for", "Login", "Into", "a", "Bank", "WIS", "2.3", "Media", "Objects", "A", "scene", "is", "supported", "by", "media", "objects", "following", "the", "codesign", "approach", ".", "Media", "objects", "are", "instances", "of", "media", "types", ".", "40", "Bank", "Service", "Customer", "Service", "Role", "Customer", "Login", "Customer", "Profile", "Profile", "Type", "Task", "Portfolio", "Type", "Customer", "Portfolio", "Web", "Address", "Account", "Login", "History", "Figure", "2.3", ":", "Cutout", "of", "the", "profiling", "schema", "The", "core", "of", "a", "media", "type", "is", "defined", "by", "a", "view", "on", "some", "underlying", "database", "schema", ",", "i.e.", "it", "consists", "of", "a", "view", "schema", "and", "a", "defining", "query", ".", "However", ",", "this", "query", "must", "be", "able", "to", "create", "identifiers", "in", "order", "to", "create", "links", "between", "the", "various", "media", "objects", ".", "This", "core", "of", "a", "media", "type", "--", "called", "raw", "media", "type", "in", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "--", "is", "extended", "in", "three", "directions", ":", "As", "a", "first", "extension", "operations", "are", "added", "to", "the", "view", "in", "the", "same", "way", "as", "d-operations", "were", "added", "to", "dialogue", "objects", "in", "-LRB-", "Schewe", "and", "Schewe", "2000", "-RRB-", ".", "Basically", ",", "the", "use", "of", "operations", "just", "adds", "dynamics", "to", "the", "media", "objects", ".", "So", ",", "if", "a", "media", "object", "is", "associated", "with", "a", "scene", ",", "the", "operations", "of", "the", "media", "object", "define", "the", "available", "dynamic", "functionality", ".", "The", "second", "extension", "provides", "adaptivity", "and", "hierarchies", ".", "Adaptivity", "to", "the", "user", "deals", "with", "needs", "arising", "from", "different", "users", ".", "Adaptivity", "to", "the", "technical", "environment", "copes", "with", "technical", "restrictions", "of", "end-devices", ".", "Adaptivity", "to", "the", "communication", "channel", "deals", "with", "adaptation", "to", "needs", "arising", "from", "various", "communication", "channels", ".", "For", "all", "three", "forms", "of", "adaptivity", "media", "types", "provide", "mechanisms", "for", "a", "controlled", "form", "of", "information", "loss", ",", "which", "is", "coupled", "with", "algorithms", "for", "the", "splitting", "of", "information", "content", ".", "The", "hierarchies", "are", "adopted", "from", "dimension", "hierarchies", "in", "OLAP", ".", "The", "third", "extension", "simply", "covers", "ordering", "and", "other", "presentation", "options", ".", "Thus", ",", "roughly", "speaking", "media", "objects", "consist", "of", "abstract", "containers", ",", "supported", "DBMS", "processes", "and", "database", "manipulations", "requests", ".", "Basic", "media", "objects", "-LRB-", "Schewe", "and", "Thalheim", "2000", "-RRB-", "are", "characterized", "by", "syntactic", "expressions", ",", "have", "a", "semantical", "meaning", "and", "are", "used", "within", "a", "certain", "pragmatical", "framework", ".", "Media", "objects", "can", "be", "parameterized", ".", "Typical", "parameters", "are", "the", "representation", "style", ",", "the", "actor", "frame", ",", "and", "the", "context", "frame", ".", "Therefore", "we", "distinguish", "between", "media", "objects", "and", "runtime", "media", "objects", "in", "which", "all", "parameters", "are", "instantiated", ".", "During", "runtime", ",", "the", "media", "object", "is", "extended", "by", "specific", "escort", "information", "-LRB-", "Thalheim", "2000", "-RRB-", ".", "This", "escort", "information", "is", "represented", "for", "user", "support", ".", "It", "allows", "the", "user", "to", "see", "the", "history", "of", "steps", "performed", "before", "being", "in", "the", "current", "state", ".", "Escort", "information", "is", "further", "generated", "from", "the", "story", "space", ".", "In", "this", "case", "a", "user", "is", "informed", "on", "alternative", "paths", "which", "could", "be", "used", "to", "reach", "the", "given", "scene", "and", "which", "might", "be", "used", "for", "backtracking", "from", "the", "current", "scene", ".", "For", "the", "generation", "of", "media", "objects", "and", "their", "composition", "on", "the", "basis", "of", "information", "units", "we", "extend", "the", "classical", "SQL", "frame", "to", "the", "frame", "generate", "Mapping", ":", "Vars", "Structure", "from", "Views", "where", "Selection", "condition", "represent", "using", "Style", "guide", "&", "Abstraction", "browsing", "definition", "Condition", "&", "Navigation", "The", "views", "and", "therefore", "the", "media", "object", "may", "have", "hidden", "parameters", "-LRB-", "for", "instance", ",", "EventID", "-RRB-", "which", "are", "not", "visible", "to", "the", "actor", ".", "They", "can", "be", "parameterized", "by", "variables", "-LRB-", "for", "instance", ",", "@Today", "-RRB-", ".", "For", "media", "objects", "we", "reuse", "ideas", "developed", "for", "OLAP", "technology", "-LRB-", "Thalheim", "2000", "-RRB-", ":", "views", "on", "ER", "schemata", "-LRB-", "abstraction", "on", "schemata", "-LRB-", "aggregation", ",", "scoping", ",", "...", "-RRB-", ",", "versions", "-RRB-", ",", "variations", "of", "generation", "functions", ",", "display", "with", "canonical", "functionality", "-LRB-", "drill-down", ",", "roll-up", ",", "rotate", ",", "pivoting", ",", "push", ",", "pull", ",", "dimension", ",", "aggregation", "-RRB-", ",", "using", "generic", "evaluation", "functions", "and", "models", ",", "implicit", "incorporation", "of", "hierarchies", "and", "implicit", "incorporation", "of", "time", ",", "space", ",", "...", ".", "Furthermore", ",", "involved", "actors", "are", "specified", "in", "dependence", "on", "their", "profiles", ",", "tasks", "assigned", "to", "them", ",", "their", "access", "and", "manipulation", "rights", ",", "and", "their", "roles", "to", "be", "taken", "while", "visiting", "the", "scene", ".", "This", "specification", "is", "based", "on", "-LRB-", "Altus", "2000", "-RRB-", "and", "similar", "to", "profiles", "of", "actors", "in", "information", "systems", ".", "It", "is", "our", "aim", "to", "specify", "generic", "scenes", ".", "Thus", ",", "we", "add", "the", "representation", "styles", "which", "can", "be", "applied", "to", "the", "media", "object", "of", "the", "scene", ".", "Representation", "depends", "on", "the", "equipment", "of", "the", "actor", ".", "In", "the", "city", "site", "projects", ",", "we", "have", "gained", "experience", "with", "different", "representation", "styles", ":", "internet", "display", "with", "high-speed", "channel", ",", "internet-display", "with", "medium", "speed", "display", "-LRB-", "default", "style", "-RRB-", ",", "videotext", "and", "WAP", "display", ".", "For", "instance", ",", "for", "videotext", "any", "graphical", "information", "is", "cut", "out", "or", "replaced", "by", "textual", "information", ".", "Finally", ",", "the", "context", "of", "access", "is", "specified", ".", "Access", "determines", "the", "display", "facilities", ".", "Channels", "can", "be", "of", "high", "or", "low", "speed", ".", "The", "particular", "usage", "of", "a", "scene", "by", "an", "actor", "depends", "on", "the", "scenario", "history", ".", "The", "login", "scene", "in", "Figure", "2.2", "is", "based", "on", "the", "schema", "in", "Figure", "2.3", ".", "The", "corresponding", "media", "object", "specification", "has", "the", "following", "structure", ":", "MediaObject", "-LRB-", "@Customer", "ID", "-RRB-", "=", "generate", "-LRB-", "ID", ",", "profile", ",", "portfolio", ",", "context", "-RRB-", "from", "Customer", "1", "Login", "Account", "History", "1", "Customer", "Profile", "1", "Customer", "Portfolio", "1", "...", "where", "Customer.ID", "=", "@Customer", "ID", "...", "represent", "using", "41", "XSL", "style.Ident", "=", "Profile", "Type.Preference.StyleIdent", "&", "createVarsFor", "-LRB-", "profile", ",", "portfolio", ",", "context", "-RRB-", "browsing", "definition", "Customer", "portfolio", "...", "&", "Navigation", "none", "The", "representation", "styles", "determine", "the", "order", "and", "the", "tailoring", "of", "the", "elements", "of", "the", "media", "object", ".", "2.4", "Dialogue", "Steps", "We", "conceptualize", "the", "customer-WIS", "interaction", "as", "a", "dialogue", "between", "these", "two", ".", "Therefore", "the", "customer-WIS", "interaction", "unfolds", "in", "a", "sequences", "of", "dialogue", "steps", ",", "i.e.", ",", "elementary", "communication", "acts", ".", "The", "basic", "WIS-state", "transformations", "triggered", "by", "actors", "can", "thus", "be", "understood", "as", "caused", "by", "dialogue", "steps", ".", "These", "may", "access", "the", "media", "object", "that", "is", "associated", "to", "the", "scene", "within", "which", "the", "dialogue", "step", "occurs", ".", "Comparable", "to", "-LRB-", "Goldin", "et", "al.", "2000", "-RRB-", "we", "use", "the", "following", "frame", "for", "specifying", "the", "control", "of", "dialogue", "steps", ":", "on", "precond", "if", "event", "and", "guard", "do", "action", "result", "in", "postcond", "Consequently", "dialogue", "steps", "may", "be", "specified", "by", "the", "following", "frame", ":", "DialogueStep", "-LRB-", "Identification", "-RRB-", "=", "-LRB-", "sub-unit", "=", "view", "on", "media", "object", "of", "the", "scene", "enabled", "processes", "=", "subset", "of", "supplied", "processes", ",", "manipulation", "requests", "actor", "=", "subset", "of", "enabled", "actors", "in", "a", "given", "context", "control", "=", "-LRB-", "precondition", ",", "enabling", "event", ",", "guard", ",", "postcondition", "-RRB-", "-RRB-", "Dialogue", "step", "specifications", "can", "be", "represented", "graphically", "as", "shown", "in", "figure", "2.4", ".", "The", "figure", "for", "the", "scene", "`", "anonymous", "login", "'", "represents", "the", "specification", "of", "dialogue", "step", "`", "login", "'", ".", "Anonymous", "login", "-RRB-", "BankSurveyView", "ServiceOfferView", "SelectModule", ",", "SelectCommunication", "NewSession", "AddToLog", "LogChannelData", "LogUserEngineData", "Anonymous", "User", ",", "Visitor", "6", "?", "-LRB-", "ClickAnonymous", ",", "ServicesAvailable", ",", "ServiceSelected", "CustomerStyleSelected", "ClickOnOneOption", "-RRB-", "Figure", "2.4", ":", "Dialogue", "Step", "for", "Anonymous", "Login", "Based", "on", "the", "properties", "of", "the", "actions", "we", "conclude", ",", "for", "instance", ",", "that", "after", "withdrawal", "a", "previous", "member", "of", "a", "cooperating", "group", "can", "not", "participate", "in", "the", "discussions", "in", "the", "community", ".", "A", "task", "property", "frame", "is", "defined", "by", "a", "task", "name", ",", "reasons", "for", "task", "involvement", ",", "an", "aim", ",", "a", "postcondition", "-LRB-", "enabled", "next", "activities", "-RRB-", ",", "the", "information", "from", "the", "database", ",", "the", "information", "for", "the", "database", ",", "the", "resources", "-LRB-", "actor", ",", "resources", ",", "partner", "-RRB-", ",", "and", "a", "starting", "situation", "-LRB-", "precondition", ",", "activity", ",", "priority", ",", "frequency", ",", "repetition", "rate", "-RRB-", ".", "We", "use", "graphical", "representations", "of", "scene", "specifications", "as", "indicated", "by", "figure", "2.5", ".", "Scenes", "are", "represented", "by", "frameboxes", "and", "dialogue", "steps", "by", "ellipses", ".", "The", "transitions", "among", "dialogue", "steps", "are", "represented", "by", "arrows", "between", "these", ".", "We", "use", "the", "graphical", "notation", "developed", "for", "state", "charts", ",", "e.g.", ",", "the", "default", "start", "step", "of", "a", "scene", "is", "denoted", "by", "a", "solid", "circle", ",", "the", "end", "state", "by", "a", "solid", "circle", "surrounded", "by", "an", "empty", "circle", ",", "the", "history", "entry", "into", "a", "scene", "is", "denoted", "by", "an", "`", "H", "'", "surrounded", "by", "an", "empty", "circle", ".", "Furthermore", ",", "we", "can", "adopt", "refinement", "and", "clustering", ",", "concurrency", ",", "delays", "and", "time-outs", ",", "transient", "states", ",", "event", "priorities", "and", "parameterized", "states", ".", "For", "more", "detail", "on", "state", "charts", "see", ",", "e.g.", "-LRB-", "Harel", "and", "Naamad", "1996", "-RRB-", "and", "for", "their", "application", "-LRB-", "Rumbaugh", "et", "al.", "1991", "-RRB-", ".", "dialogue", "step", "next", "dialogue", "step", "sub", "-", "unit", "enabled", "process", "manipulation", "sub-request", "enabled", "actor", "6", "?", "control", ":", "U", "dialogue", "scene", "expression", "transition", "according", "to", "scene", "involved", "actors", "story", "scene", "sequence", "media", "object", "representation", "style", "context", ",", "task", "6", "6", "6", "6", "6", "6", "Figure", "2.5", ":", "Representation", "of", "scene", "specifications", "2.5", "Context", "Context", "has", "been", "usually", "defined", "within", "the", "object", "sets", "of", "the", "database", "-LRB-", "Bell", "2001", ",", "Connolly", "2001", "-RRB-", ".", "There", "only", "very", "few", "trials", "to", "consider", "context", "of", "the", "scenarios", "or", "stories", "-LRB-", "Whitsey", "2003", "-RRB-", ".", "In", "-LRB-", "Thalheim", "2000a", "-RRB-", "context", "has", "been", "defined", "for", "media", "types", ".", "For", "dealing", "more", "complete", "and", "justifiable", "with", "context", "we", "start", "with", "a", "dictionary", "definition", "of", "context", "of", "something", "as", "that", "what", "one", "needs", "to", "understand", "the", "something", ".", "This", "implies", "our", "understanding", "of", "context", "as", "a", "three", "place", "predicate", "C", "-LRB-", "S", ",", "H", ",", "A", "-RRB-", "which", "if", "true", "says", "that", "actor", "A", "needs", "helper", "H", "to", "act", "reasonably", "on", "S", ".", "If", "the", "actor", "is", "an", "individual", "then", "we", "stay", "with", "the", "focus", "on", "understanding", ".", "For", "non-human", "actors", ",", "however", ",", "we", "focus", "on", "acting", "according", "to", "predefined", "quality", "aspects", "and", "behavior", "rules", ".", "The", "something", "we", "consider", "here", "as", "relevant", "are", "WIS-parts", ".", "The", "helpers", "we", "here", "take", "into", "account", "are", "the", "various", "data", "that", "are", "relevant", "for", "the", "WIS-parts", "in", "question", ".", "The", "actors", "we", "consider", "here", "are", "the", "WIS", "and", "the", "individuals", "occupying", "the", "roles", ":", "customer", ",", "vendor", "and", "developer", "with", "respect", "to", "the", "WIS", "at", "hand", ".", "We", "thus", "distinguish", "the", "following", "contexts", ":", "Customer", "'s", "scenario", "context", ",", "i.e.", ",", "that", "what", "the", "customer", "needs", "to", "understand", "for", "efficiently", "and", "ef-fectively", "solve", "his/her", "business", "problem", ".", "Vendor", "'s", "WIS-context", ",", "i.e.", ",", "that", "what", "the", "vendor", "needs", "to", "understand", "how", "to", "run", "the", "WIS", "economically", ".", "Data", "that", "typically", "is", "part", "of", "this", "context", "are", ":", "the", "intention", "of", "the", "provider", ",", "the", "theme", "of", "the", "web", "site", ",", "the", "mission", "or", "corporate", "identity", "of", "the", "site", ",", "and", "the", "occasion", "and", "purpose", "of", "the", "visits", "of", "actors", ".", "Developer", "'s", "WIS-context", ",", "i.e.", ",", "that", "what", "the", "developer", "needs", "to", "understand", "for", "being", "capable", "of", "implementing", "the", "WIS.", ".", "Data", "that", "typically", "is", "part", "of", "this", "context", "are", ":", "the", "potential", "environment", ",", "e.g.", "hard", "-", "and", "software", ",", "channels", ",", "the", "information", "system", ",", "especially", "the", "associated", "databases", ",", "42", "Context", "Dialogue", "Expression", "AcceptCond", "ID", "ID", "Do", "Condition", "Event", "Particular", "Default", "Obligat", "Usage", "Emphasis", "Profile", "Group", "-LRB-", "1,1", "-RRB-", "-LRB-", "1", ",", "n", "-RRB-", "-LRB-", "1,1", "-RRB-", "?", "enabled", "6", "?", "involved", ":", "Actor", "Dialogue", "Step", "uses", "6", "?", "used", "Right", ":", "Right", "Category", "Media", "Object", "Task", "Role", "Category", "Task", "Assignment", "?", "Representation", "Style", "6", "basedOn", "Scene", "Activity", "Sequence", "?", "?", "Story", "in", "Figure", "3.1", ":", "The", "Structure", "of", "the", "Web", "Site", "Database", "the", "story", "space", ",", "scenes", ",", "dialogue", "steps", ",", "roles", ",", "and", "rights", ",", "the", "tasks", "to", "be", "performed", "within", "the", "story", ",", "and", "the", "roles", "in", "the", "scenario", ".", "WIS", "'s", "scene", "context", ",", "i.e.", ",", "that", "what", "the", "WIS", "needs", "to", "be", "capable", "of", "making", "solving", "certain", "business", "problems", "easy", "and", "pleasant", "for", "customers", ".", "Data", "that", "typically", "is", "part", "of", "this", "context", "are", ":", "History", "and", "current", "usage", "allow", "context", "adaptation", "to", "scenarios", "which", "are", "played", "at", "present", "by", "the", "current", "user", ".", "Adaptation", "to", "the", "current", "environment", "is", "defined", "as", "context", "adaptation", "to", "the", "current", "channel", ",", "to", "the", "client", "infrastructure", "and", "to", "the", "server", "load", ".", "Users", "are", "grouped", "to", "actors", ".", "Therefore", ",", "we", "can", "define", "the", "current", "user", "by", "instantiation", "of", "the", "actor", ".", "Goals", "and", "particular", ",", "policy", "-LRB-", "exceptions", ",", "social", ",", "organizational", "-RRB-", "define", "a", "specialization", "of", "the", "content", ",", "structuring", "and", "functionality", "of", "a", "web", "page", ".", "A", "WIS", "is", "supported", "by", "media", "objects", "that", "belong", "to", "media", "types", ".", "The", "collection", "of", "all", "media", "types", "is", "called", "suite", ".", "Our", "framework", "offers", "four", "hooks", "for", "dealing", "with", "the", "context", "we", "need", "to", "consider", ":", "1", ".", "Specialization", "of", "media", "type", "suite", "for", "usage", "and", "user", "adaptation", ":", "The", "database", "types", "may", "have", "subtypes", "specializing", "the", "database", "types", ".", "Media", "types", "are", "defined", "on", "the", "basis", "of", "views", ".", "Therefore", ",", "we", "can", "follow", "the", "approach", "discussed", "in", "-LRB-", "Thalheim", "2000a", "-RRB-", "for", "specialization", "of", "types", ".", "Specialization", "is", "defin-able", "through", "specialization", "of", "types", ",", "instantiation", "of", "parameters", ".", "extension", "of", "types", ",", "and", "restriction", "and", "constraint", "application", ".", "2", ".", "Application", "of", "rules", "towards", "generation", "of", "extended", "suites", ":", "Suites", "can", "be", "extended", "by", "providing", "view", "rules", "defining", "views", "on", "top", "of", "the", "media", "types", ".", "This", "approach", "supports", "portfolio", "extension", "and", "container", "extension", ".", "3", ".", "Instantiation", "of", "explicit", "context", "parameters", "can", "be", "used", "for", "adaptation", "of", "web", "sites", "to", "the", "current", "profile", ",", "to", "the", "current", "environment", "or", "to", "the", "current", "workload", ".", "4", ".", "Storage", "of", "utilization", "profile", "similar", "to", "login", "track", "supports", "to", "use", "history", "of", "previous", "utilization", "of", "the", "web", "site", "by", "the", "user", ".", "We", "extend", "the", "web", "site", "database", "by", "explicit", "utilization", "logs", "for", "used", "media", "objects", ",", "preferences", "of", "usage", ",", "users", "workspace", "or", "work", "rooms", ",", "and", "variations", "of", "users", "media", "objects", "3.1", "Database", "Modelling", "for", "WIS", "Web", "site", "management", "becomes", "a", "nightmare", "whenever", "a", "web", "site", "has", "been", "developed", "in", "a", "handicraft", "approach", ".", "For", "this", "reason", ",", "generation", "of", "web", "sites", "is", "currently", "based", "on", "web", "site", "content", "management", ".", "Content", "management", "systems", "currently", "support", "the", "representation", "of", "web", "pages", "on", "a", "take-and-place", "metaphor", ":", "Select", "or", "compile", "the", "content", "objects", "of", "a", "page", ",", "compile", "the", "navigation", "structure", "and", "place", "the", "content", "objects", "using", "page", "frames", ".", "Our", "web", "site", "team", "also", "used", "this", "approach", ".", "This", "approach", "is", "entirely", "satisfying", "the", "needs", "as", "long", "as", "the", "general", "structure", "of", "a", "web", "site", "is", "stable", "and", "no", "adaptation", "to", "the", "user", "is", "required", ".", "In", "order", "to", "dynamically", "generate", "the", "web", "site", "we", "decided", "to", "store", "the", "web", "site", "stories", "in", "a", "database", ".", "The", "structure", "of", "this", "database", "is", "displayed", "in", "figure", "3.1", ".", "We", "specify", "the", "web", "site", "story", "space", "based", "on", "the", "our", "web", "SiteLang", ".", "This", "specification", "is", "inserted", "into", "the", "database", "by", "the", "SiteLang", "editor", ".", "We", "can", "now", "extract", "the", "page", "under", "consideration", "by", "an", "instantiated", "query", "from", "this", "database", ".", "Context", "may", "be", "infused", "directly", "depending", "on", "the", "query", "result", ".", "Similar", "to", "the", "context", "infusion", ",", "users", "of", "a", "web", "site", "have", "their", "own", "profile", ",", "their", "own", "portfolio", "and", "their", "history", ".", "This", "information", "is", "used", "for", "adapting", "the", "content", "of", "the", "web", "site", "to", "the", "current", "usage", ".", "3.2", "Context", "Infusion", "in", "Scenarios", "Typical", "business", "processes", "have", "a", "very", "large", "number", "of", "variants", ".", "Classically", ",", "workflow", "approaches", "have", "43", "been", "used", "for", "specification", "of", "such", "varieties", ".", "Since", "the", "complexity", "of", "variants", "might", "be", "much", "higher", "the", "workflow", "approach", "did", "not", "succeed", "in", "providing", "a", "sound", "basis", "for", "the", "specification", "of", "all", "variants", ".", "We", "observe", ",", "however", ",", "that", "in", "practice", "these", "varieties", "are", "internally", "structured", ".", "They", "may", "be", "composed", ",", "extended", "or", "filtered", "by", "smaller", "scenarios", ".", "e-banking", "challenges", "storyboarding", "by", "its", "orthogonality", "and", "variety", ".", "Instead", "of", "specifying", "all", "possible", "variants", "we", "prefer", "to", "model", "the", "generation", "mechanism", "of", "the", "very", "large", "variety", "of", "scenarios", ".", "This", "generation", "supports", "runtime", "adaptation", "to", "the", "current", "scenario", ",", "the", "context", "and", "other", "parameters", ".", "At", "the", "same", "time", ",", "banking", "sites", "are", "threatened", "to", "expose", "customers", "to", "the", "``", "lost", "in", "hyperspace", "syndrome", "''", ".", "Therefore", ",", "customers", "should", "be", "supported", "in", "tracking", "back", "onto", "the", "right", "path", ".", "Our", "solution", "to", "this", "challenge", "is", "based", "on", "generic", "parameters", "that", "are", "instantiated", "depending", "on", "the", "customer", ",", "the", "history", ",", "the", "context", "etc.", ".", "Each", "set", "of", "media", "objects", "is", "specified", "by", "a", "context-free", "expression", "with", "a", "set", "of", "parameters", ".", "These", "parameters", "are", "instantiated", "depending", "on", "the", "customer", "profile", ",", "the", "customer", "task", "portfolio", ",", "the", "customer", "computational", "environment", ",", "the", "presentation", "environment", ",", "and", "the", "available", "and", "accessible", "media", "objects", ".", "Instead", "of", "providing", "a", "full", "generation", "rule", "set", "we", "illustrate", "our", "approach", "on", "the", "basis", "of", "an", "example", ".", "A", "customer", "of", "a", "bank", "provides", "his/her", "identity", "e", "1", ",", "inserts", "some", "data", "e", "2", ",1", "and", "e", "2", ",2", "in", "any", "order", "or", "signs", "that", "the", "bank", "may", "request", "these", "data", "from", "somewhere", "else", "e", "2", ",3", ".", "Then", "the", "customer", "seeks", "a", "loan", "and", "fills", "the", "corresponding", "forms", "e", "3", ".", "The", "customer", "gives", "bail", "data", "in", "different", "variants", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", ".", "The", "scenario", "is", "supported", "by", "the", "eight", "media", "objects", ".", "Now", "we", "can", "inject", "the", "context", "into", "the", "media", "object", "expression", "of", "the", "scenario", ".", "For", "instance", ",", "we", "may", "have", "the", "following", "stepwise", "refinements", ":", "Media", "objects", "of", "a", "scenario", ":", "e", "1", ";", "-LRB-", "-LRB-", "e", "2", ",1", "|", "|", "e", "2", ",2", "-RRB-", "|", "|", "e", "2", ",3", "-RRB-", ";", "e", "3", ";", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", "Extending", "by", "objects", "syntactic", "verbal", "context", "and", "meta-information", ":", "e", "16", ";", "-LSB-", "e", "21", ";", "-RSB-", "e", "1", ";", "-LRB-", "-LRB-", "e", "2", ",1", "|", "|", "e", "2", ",2", "-RRB-", "|", "|", "e", "2", ",3", "-RRB-", ";", "e", "9", ";", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", "Extending", "by", "story", "space", "associations", ",", "e.g.", ",", "side", "paths", ",", ",", "filtering", "against", "availability", "and", "compiling", "against", "the", "customer", "profile", "e", "16", ";", "-LSB-", "e", "21", ";", "-RSB-", "e", "1", ";", "-LRB-", "-LRB-", "e", "2", ",1", "|", "|", "-LRB-", "SB", "e", "2", ",2", "|", "|", "CB", "e", "2", ",2", "-RRB-", "-RRB-", "|", "|", "e", "2", ",3", "-RRB-", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", "Filtering", "with", "or", "extending", "by", "the", "web", "site", "context", ":", "e", "16", ";", "-LSB-", "e", "21", ";", "-RSB-", "e", "1", ";", "-LRB-", "SB", "e", "2", ",2", "|", "|", "e", "2", ",3", "-RRB-", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "Coping", "customer", "'s", "history", "-", "already", "finished", "dialogue", "steps", "and", "repeating", "dialogue", "steps", ":", "e", "Repe", "1", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "Repe", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "Coping", "with", "customers", "history", "negotiation", "steps", "and", "pragmatical", "elements", ":", "e", "Repe", "1", ";", "e", "25", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "Repe", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",2", ";", "e", "P", "rak", "5", ",2", ";", "e", "5", ",3", "-RRB-", "3.3", "The", "Onion", "Generation", "XML", "documents", "provide", "a", "universal", "structuring", "mechanism", ".", "XSL", "rules", "allow", "to", "generate", "XML", "documents", "from", "XML", "suites", ".", "This", "opportunity", "supports", "a", "multi-layer", "generation", "of", "web", "information", "systems", ".", "Thus", "we", "use", "the", "multi-layer", "onion", "generation", "presented", "in", "Figure", "3.2", ".", "presentation", "engine", "actor", "profile", "adaptation", ",", "equipment", "adaptation", ",", "channel", "adaptation", ",", "decomposer", ",", "style", "extension", "container", "engine", "services", "packages", ",", "wrapping", "functions", ",", "dialogue", "scene", "and", "scenario", "functions", "units", "engine", "survey", ",", "landmark", ",", "indexing", ",", "I/O", ",", "navigation", ",", "integration", "etc.", "functions", "view", "handler", "virtual", "materialized", "views", "update", "views", "DBS", "...", "DBMS", "Figure", "3.2", ":", "The", "Onion", "Approach", "to", "Stepwise", "WIS-Generation", "The", "onion", "generation", "approach", "is", "based", "on", "the", "layered", "structure", "of", "the", "WIS", "arising", "from", "the", "use", "of", "SiteLang", "and", "media", "objects", ".", "On", "the", "outermost", "shell", "the", "presentation", "facilities", "are", "introduced", ".", "This", "shell", "deals", "with", "style", "presentation", "functions", ".", "Containers", "used", "in", "the", "next", "inner", "shell", "are", "used", "to", "ship", "information", "from", "the", "web-server", "to", "the", "user", ".", "Thus", ",", "this", "shell", "deals", "with", "the", "adaptation", "to", "the", "user", "and", "his/her", "environment", ".", "The", "next", "inner", "shell", "handles", "the", "information", "units", ",", "i.e.", "the", "core", "media", "objects", ".", "Inside", "this", "shell", "we", "find", "further", "shells", "dealing", "with", "views", "on", "the", "underlying", "database", ",", "and", "innermost", "we", "find", "the", "database", "itself", ".", "The", "onion", "approach", "fits", "nicely", "into", "a", "translational", "approach", ",", "which", "generates", "consistent", "sets", "of", "XML", "documents", ".", "In", "our", "projects", "we", "used", "the", "XML", "extender", "of", "the", "database", "system", "DB2", "to", "generate", "XML", "documents", ".", "Thus", ",", "the", "layering", "approach", "to", "the", "generation", "of", "XML", "displayed", "in", "Figure", "3.2", "allows", "to", "use", "another", "strategy", "to", "generate", "XML", "documents", ".", "This", "facility", "is", "displayed", "in", "Figure", "3.3", ".", "This", "transformation", "approach", "has", "been", "success-fully", "used", "in", "two", "of", "our", "e-learning", "projects", "and", "our", "community", "services", "projects", ".", "These", "project", "require", "sophisticated", "context", "adaptation", ".", "The", "approach", "implements", "an", "XML", "suite", "on", "top", "of", "the", "relational", "DBMS", "DB2", ".", "The", "extended", "ER", "model", "-LRB-", "Thalheim", "2000", "-RRB-", "provides", "a", "better", "approach", "to", "XML", "suite", "generation", "than", "relational", "models", "or", "the", "classical", "ER", "model", "for", "a", "number", "of", "reasons", ":", "Structures", "can", "be", "defined", "already", "in", "complex", "nested", "formats", ".", "Types", "of", "higher", "order", "are", "supported", ".", "The", "model", "uses", "cardinality", "constraints", "with", "participation", "semantics", ".", "44", "conceptual", "representation", "abstract", "XML", "representation", "XML", "implementation", "on", "top", "of", "DB2", "dynamic", "scene", "object", "XML", "scene", "onion", "reflective", "adaptations", "container", "media", "object", "meta", "functions", "views", "functions", "=", "=", "=", "database", "schema", "-LRB-", "HERM", "-RRB-", "functors", "for", "XSLT", "functors", "for", "XSLT", "container", "onion", "media", "object", "onion", "XML", "suite", "DTD", "functors", "for", "XSLT", "functors", "for", "XSLT", "enriched", "XML", "suite", "enriched", "XML", "suite", "enriched", "XML", "suite", "XML", "documents", "DAC", "for", "DB2", "access", "?", "?", "?", "?", "?", "?", "?", "?", "j", "j", "j", "?", "?", "?", "?", "Figure", "3.3", ":", "The", "General", "Procedure", "for", "Translation", "from", "SiteLang", "to", "XML", "4.1", "Banking", "and", "Mortgages", "According", "to", "-LRB-", "Wierichs", "and", "Smets", "2001", "-RRB-", "a", "bank", "is", "an", "''", "...", "institution", "that", "as", "part", "of", "an", "economy", "offers", "financial", "services", ".", "The", "economical", "function", "of", "banks", "is", "to", "create", "a", "liquidity", "equalization", "in", "the", "cash", "flow", "that", "is", "reverse", "to", "the", "product", "and", "service", "flow", ".", "The", "focal", "points", "of", "the", "bank", "operational", "activity", "are", "conducting", "payments", ",", "acceptance", "of", "money", "for", "investment", ",", "and", "granting", "credits", ".", "''", "Furthermore", "the", "particular", "liquidity", "equalization", "that", "is", "chosen", "out", "of", "the", "set", "of", "possible", "such", "equalizations", "is", "a", "preferable", "one", ".", "The", "respective", "preference", "structure", "is", "worked", "out", "by", "banks", "on", "base", "of", "an", "assessment", "involving", "financing", "cost", "and", "interests", ",", "see", "-LRB-", "Matthews", "et", "al.", "2003", "-RRB-", ".", "A", "loan", "according", "to", "-LRB-", "Wierichs", "and", "Smets", "2001", "-RRB-", "is", "the", "``", "relinquishment", "of", "money", "or", "other", "fungible", "-LRB-", "...", "-RRB-", "properties", "connected", "with", "the", "obligation", "of", "the", "debtor", "to", "give", "back", "the", "relinquished", "in", "equal", "kind", ",", "quality", "and", "quantity", ".", "''", "An", "enhanced", "version", "of", "the", "model", "of", "the", "loan", "process", "is", "represented", "in", "figure", "4.1", "as", "a", "UML", "sequence", "diagram", ".", "It", "shows", "the", "roles", "involved", "in", "the", "loan", "process", "as", "the", "labels", "inside", "the", "rectangular", "boxes", "on", "the", "top", "of", "the", "diagram", ".", "It", "further", "indicates", "the", "concurrency", "that", "may", "be", "utilized", "in", "this", "process", ".", "It", "achieves", "this", "by", "means", "of", "showing", "the", "communication", "between", "the", "roles", ".", "This", "communication", "is", "represented", "by", "the", "arrows", "starting", "at", "the", "dashed", "lines", "that", "represent", "logical", "time", ",", "i.e.", ",", "life", "lines", "of", "the", "roles", ".", "The", "labels", "attached", "to", "the", "arrows", "indicate", "the", "content", "of", "the", "message", "associated", "with", "the", "respective", "arrow", ".", "The", "bottom", "level", "rectangle", "containing", "the", "messages", "`", "Payback", "-LRB-", "-RRB-", "'", "and", "`", "CheckPayback", "-LRB-", "-RRB-", "'", "signifies", "that", "these", "messages", "are", "to", "be", "repeatedly", "sent", "until", "the", "stop", "condition", "signified", "by", "the", "asterisk", "and", "displayed", "below", "the", "rectangle", "`", "debit", "position", "balanced", "'", "becomes", "true", ".", "4.2", "Mortgages", "and", "variants", "The", "figure", "4.1", "from", "a", "bank", "technical", "point", "of", "view", "schematizes", "the", "process", ".", "This", "process", "clearly", "is", "not", "fully", "suited", "as", "the", "only", "base", "of", "application", "development", ".", "For", "aiding", "development", "more", "information", "is", "needed", "about", "how", "customers", "are", "anticipated", "to", "interact", "with", "the", "system", "under", "construction", ".", "We", "use", "here", "the", "function", "W", "of", "the", "story", "space", "W", "of", "a", "WIS", "W", "to", "show", "how", "the", "customer", "interaction", "with", "the", "WIS", "changes", "the", "appearance", "of", "it", "for", "the", "customer", "Story", "boarding", "is", "a", "useful", "technique", "to", "obtain", "the", "required", "information", ".", "Our", "respective", "starting", "point", "is", "the", "investigation", "of", "the", "Web", "site", "of", "the", "Australian", "and", "New", "Zealand", "based", "ASB", "Bank", ".", "From", "earlier", "work", ",", "see", "-LRB-", "Kaschek", "et", "al.", "2003", "-RRB-", "we", "knew", "that", "it", "offered", "an", "online", "loan", "application", "facility", ".", "We", "investigated", "this", "Web", "site", "more", "closely", "and", "found", "that", "this", "site", "at", "each", "of", "its", "pages", "essentially", "offered", "customers", "data", "that", "can", "be", "typed", "as", "follows", ":", "advertisement", ",", "i.e.", ",", "information", "about", "ASB", "Bank", "including", "a", "welcome", "and", "a", "logo", ".", "disclaimer", ",", "i.e.", ",", "a", "statement", "limiting", "the", "legal", "responsibility", "of", "ASB", "Bank", "with", "respect", "to", "the", "data", "displayed", "and", "the", "implications", "customers", "might", "draw", "from", "it", ".", "search", ",", "i.e.", ",", "a", "facility", "taking", "an", "unlimited", "customer", "input", "and", "returning", "those", "ASB", "Bank", "pages", "that", "best", "met", "this", "search", "expression", ".", "highlights", ",", "i.e.", ",", "the", "main", "contents", "that", "ASB", "Bank", "wants", "to", "be", "displayed", "at", "each", "particular", "of", "its", "Web", "pages", ".", "path", ",", "i.e.", ",", "a", "redundancy", "eliminated", "sequence", "of", "ASB", "Bank", "Web", "pages", "visited", "so", "far", "by", "the", "customer", "interacting", "with", "the", "site", "and", "supposed", "to", "be", "used", "as", "a", "navigation", "aid", ".", "reference", ",", "i.e.", ",", "a", "couple", "of", "links", "the", "target", "of", "which", "offer", "more", "information", "about", "the", "page", "actually", "visited", "by", "the", "customer", ".", "business", "branch", "selector", ",", "i.e.", ",", "a", "navigation", "bar", "that", "breaks", "down", "the", "information", "space", "of", "the", "site", "into", "subspaces", "according", "to", "the", "business", "branches", "of", "ASB", "Bank", ".", "subspace", "selector", ",", "i.e.", ",", "a", "navigation", "bar", "that", "for", "each", "subspace", "that", "corresponds", "to", "a", "business", "branch", "breaks", "down", "the", "subspace", "into", "2nd", ".", "level", "subspaces", ".", "subspace", "navigator", ",", "i.e.", ",", "for", "each", "2nd", ".", "level", "subspace", "a", "navigation", "bar", "breaking", "down", "the", "subspace", "in", "a", "number", "of", "information", "space", "locations", ".", "45", "Marketer", "Customer", "ProductAd", "-LRB-", "-RRB-", "Inquiry", "-LRB-", "-RRB-", "RevisedProductAd", "-LRB-", "-RRB-", "Analyst", "Application", "-LRB-", "-RRB-", "Lender", "ApplicationApproval", "-LRB-", "-RRB-", "Notification", "-LRB-", "-RRB-", "Service", "Documentation", "-LRB-", "-RRB-", "Documentation", "-LRB-", "-RRB-", "SignedContract", "-LRB-", "-RRB-", "SignedContract", "-LRB-", "-RRB-", "Accounts", "AdvanceFunds", "-LRB-", "-RRB-", "PositionsGenerated", "-LRB-", "-RRB-", "Payback", "-LRB-", "-RRB-", "UseLoan", "-LRB-", "-RRB-", "Moniter", "Start", "-LRB-", "-RRB-", "CheckPayback", "-LRB-", "-RRB-", "*", "-LSB-", "debit", "position", "balanced", "-RSB-", "Figure", "4.1", ":", "UML", "diagram", "representing", "the", "loan", "process", "We", "have", "then", "represented", "the", "navigation", "structure", "offered", "by", "the", "ASB", "Web", "site", "as", "a", "state", "chart", "the", "states", "of", "which", "represent", "scenes", ".", "The", "state", "transitions", "are", "presupposed", "to", "be", "triggered", "by", "customers", "clicking", "links", ",", "i.e.", ",", "navigation", "events", ".", "The", "labels", "attached", "to", "the", "state", "transitions", "are", "a", "string", "representing", "the", "navigation", "event", "and", "an", "action", "carried", "out", "throughout", "the", "transition", ".", "This", "action", "is", "prefixed", "by", "a", "slash", ",", "i.e.", ",", "by", "''", "/", "''", ".", "The", "semantics", "of", "the", "action", "is", "specified", "in", "form", "of", "a", "programming", "language", "like", "assignment", "and", "assigns", "new", "values", "to", "variables", "holding", "the", "data", "listed", "above", ".", "In", "this", "way", "one", "can", "specify", "what", "data", "and", "functionality", "is", "accessible", "to", "a", "customer", "at", "a", "particular", "scene", ".", "Explanations", "and", "tables", "or", "the", "like", "are", "presupposed", "to", "be", "just", "text", ".", "All", "other", "transition", "labels", "used", "as", "values", "in", "assignments", "are", "presupposed", "to", "be", "links", ".", "If", "a", "variable", "is", "supposed", "to", "hold", "several", "links", "then", "these", "are", "connected", "by", "a", "plus", "sign", ",", "i.e.", ",", "by", "''", "+", "''", ".", "If", "more", "than", "one", "action", "has", "to", "take", "place", "at", "a", "transition", "then", "all", "these", "actions", "are", "connected", "by", "a", "&", "-", "sign", ".", "The", "variables", "used", "in", "figure", "4.2", "are", "D", ",", "S", ",", "H", ",", "A", ",", "R", "and", "P", "respectively", "representing", "values", "of", "type", "disclaimer", ",", "search", "facility", ",", "highlight", ",", "advertisement", ",", "references", "and", "path", ".", "Those", "of", "them", "being", "displayed", "at", "a", "particular", "page", "are", "represented", "as", "non", "delimited", "string", ",", "i.e.", ",", "if", "all", "of", "them", "occur", "the", "string", "DSHARP", "is", "attached", "as", "label", "to", "the", "state", "representing", "the", "page", ".", "Furthermore", "the", "variables", "BS", ",", "SS", "and", "SN", "are", "used", "to", "respectively", "represent", "values", "of", "type", "business", "branch", "selector", ",", "subspace", "selector", "and", "subspace", "navigator", ".", "The", "initial", "state", "in", "the", "figure", "is", "reached", "after", "moving", "onto", "the", "home", "page", "of", "ASB", "Bank", "and", "clicking", "BS.Personal", "which", "signifies", "the", "business", "branch", "of", "retail", "banking", ".", "The", "other", "1st", ".", "level", "subspaces", "of", "the", "application", "'s", "information", "space", "are", "``", "All", "''", ",", "``", "Business", "''", ",", "``", "Institutional", "''", "and", "``", "Rural", "''", "in", "the", "obvious", "meaning", ".", "The", "subspace", "selector", "of", "``", "BS.Personal", "''", "allows", "to", "chose", "from", "18", "different", "2nd", ".", "level", "subspaces", ".", "One", "of", "them", "is", "Home", "loans", ".", "Clicking", "it", ",", "i.e.", ",", "``", "BS.Personal-SS", ".", "Home", "loans", "''", "leads", "to", "the", "initial", "state", "of", "figure", "4.2", ".", "If", "required", "we", "could", "add", "further", "navigation", "detail", "including", "the", "impact", "of", "navigation", "on", "the", "variables", "occurring", "in", "the", "figure", ".", "Furthermore", "if", "it", "would", "be", "required", "we", "could", "add", "further", "variables", "to", "represent", "data", "of", "types", "here", "not", "dealt", "with", ".", "4.3", "Adaptation", "to", "customers", ",", "context", "and", "specific", "case", "Adaptation", "to", "customers", "is", "a", "must", "if", "optimal", "customer", "support", "is", "aimed", "at", ".", "ASB", "Bank", "realizes", "a", "limited", "customer", "adaptation", "in", "that", "it", "offers", "in", "the", "subspace", "selector", "of", "BS.Personal", "second", "level", "subspaces", "both", "for", "kids", "and", "for", "young", "folks", ".", "ASB", "Bank", "concerning", "the", "home", "loan", "subspace", "of", "its", "information", "space", "does", "not", "offer", "much", "adaptation", "to", "customers", ".", "It", "only", "offers", "a", "bank", "technical", "terms", "dictionary", "and", "specif-ically", "addresses", "first", "home", "buyers", ".", "Neither", "are", "all", "New", "Zealand", "official", "language", "versions", "of", "the", "Web", "site", "available", "nor", "can", "it", "be", "tuned", "to", "meet", "any", "kind", "of", "disabilities", "such", "as", "weak", "eyesight", "or", "color", "blindness", ".", "The", "approach", "to", "adaptation", "to", "customers", "taken", "by", "sites", "like", "the", "one", "under", "investigation", "consists", "in", "identifying", "the", "subspace", "of", "the", "information", "space", "they", "create", "that", "most", "likely", "will", "fit", "best", "the", "needs", "of", "a", "particular", "customer", ".", "The", "match", "between", "customer", "and", "subspace", "is", "then", "done", "such", "that", "the", "customer", "is", "asked", "to", "give", "some", "characteristics", "of", "him", "or", "her", "into", "the", "system", "and", "based", "on", "that", "the", "respective", "subspace", "is", "chosen", ".", "ASB", "Bank", "does", "so", "concerning", "kids", "and", "young", "folks", ".", "Other", "banks", "have", "additionally", "the", "customer", "type", "student", "or", "wealthy", "individual", ".", "This", "strategy", "is", "suggested", "by", "the", "fact", "that", "the", "site", "vendor", "in", "general", "does", "not", "know", "much", "about", "the", "individuals", "accessing", "its", "site", ".", "A", "technique", "to", "consider", "knowledge", "about", "customers", "to", "the", "design", "process", "is", "the", "creation", "and", "use", "of", "personas", ",", "i.e.", ",", "archetypical", "customers", "and", "design", "the", "navigation", "structure", "as", "well", "as", "the", "page", "layout", "such", "that", "it", "fits", "optimally", "to", "the", "personas", "used", ".", "Concerning", "more", "detail", "about", "personas", "in", "particular", "their", "construction", "see", ",", "e.g.", "-LRB-", "Wodtke", "2003", ",", "pp.", "159", "-RRB-", "Adaptation", "of", "the", "business", "case", "at", "hand", "of", "course", "can", "only", "be", "achieved", "in", "response", "to", "the", "customer-site", "interaction", ".", "In", "the", "navigation", "structure", "diagram", "in", "figure", "4.2", "we", "have", "used", "variable", "of", "data", "types", "that", "were", "chosen", "with", "respect", "to", "the", "site", "at", "hand", ",", "i.e.", ",", "ASB", "Bank", "'s", "Web", "site", ".", "We", "expect", "that", "this", "adaptation", "can", "always", "be", "achieved", "the", "way", "we", "have", "proposed", "here", ".", "Once", "the", "analysis", "has", "shown", "what", "data", "and", "functionality", "shall", "be", "accessible", "to", "customers", "data", "and", "functionality", "can", "be", "typed", "and", "variables", "of", "the", "respective", "type", "can", "be", "used", "to", "describe", "how", "the", "site", "adapts", "to", "the", "actual", "use", ".", "A", "type", "level", "adaptation", "that", "can", "be", "carried", "out", "while", "customers", "are", "interacting", "with", "a", "site", "is", "semi", "automatic", "reconsideration", "of", "the", "type", "of", "customer", ":", "Customers", "in", "this", "respect", "are", "presupposed", "to", "be", "characterized", "by", "a", "value", "for", "each", "of", "a", "number", "of", "46", "Lending", "Calculators", "/", "H", ":", "=", "Affordability", "Calculator", "+", "Amount", "Requested", "Calculator", "+", "Home", "Loan", "Options", "Calculator", "+", "Arrange", "your", "loan", "Home", "loans", "DSHARP", "BS", ",", "SS", ",", "SN", "Arranging", "a", "loan", "DSHARP", ",", "BS", ",", "SS", ",", "SN", "Affordability", "Calculator", "Amount", "Required", "Calculator", "Home", "Loan", "Options", "Calculator", "H.Affordability", "Calculator", "/", "H", ":", "=", "Amount", "Required", "Calculator", "+", "Home", "Loan", "Options", "Calculator", "SN.Arranging", "a", "home", "loan", "H.Home", "Loan", "Options", "Calculator", "/", "H", ":", "=", "Amount", "Required", "Calculator", "+", "Affordability", "Calculator", "H.Amount", "Required", "Calculator", "/", "H", ":", "=", "Apply", "by", "phone", "+", "Apply", "online", "+", "We", "come", "2", "u", "+", "U", "come", "2", "us", "+", "Send", "inquiry", "&", "refine", "SN", "calculator", "input", "form", "calculator", "nput", "form", "calculator", "input", "form", "/", "H", ":", "=", "Affordability", "Calculator", "+", "Home", "Loan", "Options", "Calculator", "Online", "home", "loan", "application", "H.Apply", "online", "SN.Home", "Loan", "Calculator", "SS.Home", "loans.Introduction", "/", "H", ":", "=", "Home", "loan", "rates", "+", "Buying", "your", "first", "home", "?", "+", "Loan", "top", "up", "needed", "?", "+", "Fixed", "rate", "loan", "expiring", "&", "SN", ":", "=", "Introducyion", "+", "Loans", "at", "a", "glance", "+", "Interest", "rate", "options", "+", "Interest", "rates", "+", "Home", "loan", "calculators", "+", "Home", "buyers", "guide", "+", "Review", "your", "home", "loan", "+", "Move", "your", "loan", "to", "us", "+", "Fixed", "rate", "expiry", "+", "Arranging", "a", "home", "loan", "+", "Mobile", "lending", "service", "application", "form", "SN.Loans", "at", "a", "glance", "/", "H", ":", "=", "Loan", "types", "+", "loan", "options", "&", "refine", "SN", "-LRB-", "types", ",", "options", "-RRB-", "Interest", "rate", "options", "SN.Interest", "rate", "options", "/", "H", ":", "=", "variable", "rates", "+", "fixed", "rates", "+", "explanation", "DSHARP", "BS", ",", "SS", ",", "SN", "Interest", "rates", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Interest", "rates", "/", "H", ":", "=", "latest", "rates", "table", "Home", "buyers", "guide", "SN.Home", "buyers", "guide", "/", "H", ":", "=", "Houses", "4", "sale", "+", "Home", "buyers", "inspection", "list", "+", "Home", "valuation", "+", "Property", "information", "+", "Priority", "checklist", "+", "Glossary", "of", "terms", "&", "refine", "SN", "DSHARP", "BS", ",", "SS", ",", "SN", "Review", "your", "loan", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Review", "your", "loan", "/", "H", ":", "=", "explanation", "&", "R", ":", "=", "Credit", "cards", "+", "Omni", "cards", "+", "Moneymaker", "account", "Move", "your", "loan", "to", "us", "SN.Move", "your", "oan", "to", "us", "/", "H", ":", "=", "explanation", "DSHARP", "BS", ",", "SS", ",", "SN", "Loans", "at", "a", "glance", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Fixed", "rate", "expiry", "Fixed", "rate", "expiry", "DSHARP", "BS", ",", "SS", ",", "SN", "/", "H", ":", "=", "explanation", "&", "refine", "SN", "DSHARP", "BS", ",", "SS", ",", "SN", "Mobile", "lending", "service", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Mobile", "lending", "service", "/", "H", ":", "=", "explanation", "+", "contact", "phone", "numbers", "Figure", "4.2", ":", "Navigation", "structure", "of", "a", "part", "of", "ASB", "Bank", "'s", "Web", "site", "dimensions", ".", "The", "customer", "type", "according", "to", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "can", "be", "defined", "as", "a", "convex", "region", "in", "the", "multi", "dimensional", "space", "create", "as", "cartesian", "product", "of", "the", "scales", "associated", "to", "the", "customer", "dimensions", ".", "Based", "on", "an", "automatic", "customer", "assessment", "that", "in", "response", "to", "his", "or", "her", "site-interaction", "updates", "the", "scores", "in", "each", "of", "the", "dimension", "throughout", "customer-site", "interaction", "one", "can", "then", "track", "how", "a", "customer", "'s", "trace", "moves", "through", "this", "space", "and", "detect", "when", "a", "modified", "type", "would", "better", "fit", "the", "customer", "'s", "behavior", "than", "the", "actual", "type", "does", ".", "Clearly", "such", "update", "should", "only", "be", "done", "with", "customer", "permission", "Banking", "services", "such", "as", "online", "home-loan", "application", "require", "a", "very", "sophisticated", "and", "well-adapted", "internet", "interface", ".", "Customers", "want", "to", "focus", "on", "solving", "their", "business", "problem", ",", "i.e.", ",", "the", "goal", "they", "want", "to", "achieve", "by", "means", "of", "interacting", "with", "the", "WIS.", ".", "They", "consider", "WIS", "as", "tools", "that", "shall", "be", "easy", "to", "handle", ",", "completely", "cover", "the", "business", "and", "do", "not", "add", "technical", "complexities", "to", "it", ".", "Customers", "want", "to", "have", "a", "pleasant", "usage", "experience", ",", "in", "particular", "they", "do", "not", "want", "to", "be", "treated", "like", "everybody", "else", ".", "They", "want", "WIS", "remember", "and", "exploit", "their", "usage", "peculiarities", "in", "authenticated", "and", "where", "adequate", "in", "anonymous", "sessions", ".", "This", "paper", "shows", "how", "this", "can", "be", "achieved", ".", "As", "a", "guiding", "principle", "we", "introduce", "considering", "context", "and", "using", "it", "to", "simplify", "WIS-handling", ".", "We", "have", "shown", "how", "WIS", "'s", "scene", "context", "can", "be", "injected", "into", "the", "WIS", "and", "how", "XML", "suites", "can", "be", "generated", "using", "the", "story", "board", "of", "the", "site", "and", "available", "customer", "data", ".", "Acknowledgements", "We", "would", "like", "to", "thank", "Hans-J", "urgen", "Engelbrecht", "from", "the", "Department", "of", "Applied", "&", "International", "Economics", "at", "Massey", "University", "for", "pointing", "to", "us", "work", "on", "the", "the", "economic", "effects", "of", "technical", "progress", "in", "the", "banking", "industry", ".", "Altus", ",", "M.", "Decision", "support", "for", "conceptual", "database", "design", "based", "on", "the", "evidence", "theory", "-", "An", "intelligent", "dialogue", "interface", "for", "conceptual", "database", "design", ".", "PhD", "thesis", ",", "Faculty", "of", "Mathematics", ",", "Natural", "Sciences", "and", "Computer", "Science", "of", "BTU", "Cottbus", ",", "Cottbus", ",", "2000", ".", "Atzeni", ",", "P.", ",", "Gupta", ",", "A.", ",", "and", "Sarawagi", ",", "S.", "Design", "and", "maintenance", "of", "data-intensive", "web-sites", ".", "In", "Proceeding", "EDBT", "'", "98", ",", "vol", ".", "1377", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "1998", ",", "pp.", "436", "450", ".", "Baresi", ",", "L.", ",", "Garzotto", ",", "F.", ",", "and", "Paolini", ",", "P.", "From", "web", "sites", "to", "web", "applications", ":", "New", "issues", "for", "conceptual", "modeling", ".", "In", "ER", "Workshops", "2000", ",", "vol", ".", "1921", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2000", ",", "pp.", "89", "100", ".", "Bell", ",", "J.", "Pragmatic", "reasoning", ":", "Inferring", "contexts", ".", "In", "Proc", ".", "Context", "'", "1999", "-LRB-", "1999", "-RRB-", ",", "LNAI", "1688", ",", "Springer", ",", "pp.", "42", "53", ".", "Berger", ",", "A.", "N", ".", "The", "Economic", "Effects", "of", "Technolog-ical", "Progress", ":", "Evidence", "from", "the", "Banking", "Industry", ".", "Journal", "of", "Money", ",", "Credit", ",", "and", "Banking", "35", ",", "2", "-LRB-", "2003", "-RRB-", ",", "141", "176", ".", "Bonifati", ",", "A.", ",", "Ceri", ",", "S.", ",", "Fraternali", ",", "P.", ",", "and", "Maurino", ",", "A.", "Building", "multi-device", ",", "content-centric", "applications", "using", "WebML", "and", "the", "W3I3", "tool", "suite", ".", "In", "ER", "Workshops", "2000", ",", "vol", ".", "1921", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2000", ",", "pp.", "64", "75", ".", "Workflow", "Management", "Coalition", ",", "Ed", ".", "The", "Workflow", "Management", "Coalition", "specification", ":", "Workflow", "Management", "Coalition", "terminology", "&", "glossary", ".", "Workflow", "Management", "Coalition", ",", "47", "Winchester", ",", "United", "Kingdom", ",", "1999", ".", "Document", "Status", "Issue", "3.0", ".", "Connolly", ",", "J.", "H.", "Context", "in", "the", "study", "of", "human", "languages", "and", "computer", "programming", "languages", ":", "A", "comparison", ".", "In", "Proc", ".", "Context", "'", "2001", "-LRB-", "2001", "-RRB-", ",", "LNAI", "2116", ",", "Springer", ",", "pp.", "116", "128", ".", "D", "usterh", "oft", ",", "A.", ",", "and", "Thalheim", ",", "B.", "SiteLang", ":", "Conceptual", "modeling", "of", "internet", "sites", ".", "In", "Conceptual", "Modeling", "ER", "2001", ",", "H.", "S.", "K.", "et", "al.", ",", "Ed.", ",", "vol", ".", "2224", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2001", ",", "pp.", "179", "192", ".", "Feyer", ",", "T.", ",", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Conceptual", "modelling", "and", "development", "of", "information", "services", ".", "In", "Conceptual", "Modeling", "ER", "'", "98", ",", "T.", "Ling", "and", "S.", "Ram", ",", "Eds.", ",", "vol", ".", "1507", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "1998", ",", "pp.", "7", "20", ".", "G", "adke", ",", "M.", ",", "and", "Turowski", ",", "K.", "Generic", "web-based", "federation", "of", "business", "application", "systems", "for", "e-commerce", "applications", ".", "In", "EFIS", "1999", ".", "1999", ",", "pp.", "25", "42", ".", "Garzotto", ",", "F.", ",", "Paolini", ",", "P.", ",", "and", "Schwabe", ",", "D.", "HDM", "-", "a", "model-based", "approach", "to", "hypertext", "application", "design", ".", "ACM", "ToIS", "11", ",", "1", "-LRB-", "1993", "-RRB-", ",", "1", "26", ".", "Goldin", ",", "D.", ",", "Srinivasa", ",", "S.", ",", "and", "Thalheim", ",", "B.", "Is", "=", "dbs", "+", "interaction", "-", "towards", "principles", "of", "information", "systems", ".", "In", "Proc", ".", "ER", "'", "2000", "-LRB-", "2000", "-RRB-", ",", "LNCS", "1920", ",", "Springer", ",", "pp.", "140", "153", ".", "Harel", ",", "D.", ",", "and", "Naamad", ",", "A", ".", "The", "STATEMATE", "Semantics", "of", "Statecharts", ".", "ACM", "Transactions", "on", "Software", "Engineering", "and", "Methodology", "5", ",", "4", "-LRB-", "Ok-tober", "1996", "-RRB-", ",", "293", "333", ".", "Jablonski", ",", "S.", "Workflow-Management-Systeme", ":", "Modellierung", "und", "Architektur", ".", "Thomson", "'s", "Ak-tuelle", "Tutorien", ".", "International", "Thomson", "Publishing", ",", "Bonn", ",", "Germay", "et", "al.", ",", "1996", ".", "Kaschek", ",", "R.", ",", "Matthews", ",", "C.", ",", "and", "Wallace", ",", "C.", "e-Mortgages", ":", "NZ", "State", "of", "the", "Art", "and", "Perspectives", ".", "In", "Proceedings", "of", "SCI", "2003", "-LRB-", "2003", "-RRB-", ".", "Kaschek", ",", "R.", ",", "Schewe", ",", "K.-D.", ",", "Thalheim", ",", "B.", ",", "Zhang", ",", "L.", "Modelling", "contexts", "in", "web", "information", "systems", ".", "Proc", ".", "WES", "2003", ".", "Matthews", ",", "C.", "D.", ",", "Kaschek", ",", "R.", "H.", ",", "Wallace", ",", "C.", "M.", ",", "and", "Schewe", ",", "K.", "D.", "IST", "in", "Lending", ":", "Unlimited", "potential", "but", "limited", "practice", ".", "Available", "from", ":", "http://cbs.dk/staff/lars.heide/ISTOS/program.htm", ",", "2003", ".", "Paper", "presented", "at", "ISTOS", "Workshop", "in", "Barcelona", ",", "Spain", ",", "28-30", "March", "2003", ".", "Rossi", ",", "G.", ",", "Schwabe", ",", "D.", ",", "and", "Lyardet", ",", "F.", "Web", "application", "models", "are", "more", "than", "conceptual", "models", ".", "In", "Advances", "in", "Conceptual", "Modeling", ",", "P.", "C.", "et", "al.", ",", "Ed.", ",", "vol", ".", "1727", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "1999", ",", "pp.", "239", "252", ".", "Rumbaugh", ",", "J.", ",", "Blaha", ",", "M.", ",", "Premerlani", ",", "W.", ",", "Eddy", ",", "F.", ",", "and", "Lorensen", ",", "W.", "Object-Oriented", "Modeling", "and", "Design", ".", "Prentice-Hall", ",", "Inc.", ",", "Engle-wood", "Cliffs", ",", "New", "Jersey", ",", "1991", ".", "Schewe", ",", "B.", "Kooperative", "Softwareentwicklung", ".", "Deutscher", "Universit", "atsverlag", ",", "Wiesbaden", ",", "Germany", ",", "1996", ".", "Schewe", ",", "B.", ",", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Objektorientierter", "Datenbankentwurf", "in", "der", "Entwicklung", "betrieblicher", "Informationssysteme", ".", "Informatik", "Forschung", "und", "Entwicklung", "10", "-LRB-", "1995", "-RRB-", ",", "115", "127", ".", "Schewe", ",", "K.-D.", ",", "Kaschek", ",", "R.", ",", "Matthews", ",", "C.", ",", "and", "Wallace", ",", "C.", "Modelling", "web-based", "banking", "systems", ":", "Story", "boarding", "and", "user", "profiling", ".", "In", "Proceedings", "of", "the", "Workshop", "on", "Conceptual", "Modelling", "Approaches", "to", "E-Commerce", ",", "H.", "Mayr", "and", "W.-J", ".", "Van", "den", "Heuvel", ",", "Eds", ".", "Springer-Verlag", ",", "2002", ".", "Schewe", ",", "K.-D.", ",", "and", "Schewe", ",", "B.", "Integrating", "database", "and", "dialogue", "design", ".", "Knowledge", "and", "Information", "Systems", "2", ",", "1", "-LRB-", "2000", "-RRB-", ",", "1", "32", ".", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Modeling", "interaction", "and", "media", "objects", ".", "In", "Proc", ".", "NLDB", "'", "2000", "-LRB-", "2000", "-RRB-", ",", "LNCS", "1959", ",", "Springer", ",", "pp.", "313", "324", ".", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Modeling", "interaction", "and", "media", "objects", ".", "In", "Advances", "in", "Conceptual", "Modeling", ",", "E.", "M", "etais", ",", "Ed.", ",", "vol", ".", "1959", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2001", ",", "pp.", "313", "324", ".", "Schwabe", ",", "D.", ",", "and", "Rossi", ",", "G", ".", "An", "object", "oriented", "approach", "to", "web-based", "application", "design", ".", "TAPOS", "4", ",", "4", "-LRB-", "1998", "-RRB-", ",", "207", "225", ".", "Siegel", ",", "D", ".", "The", "secrets", "of", "successful", "web", "sites", ".", "Markt", "und", "Technik", ",", "M", "unchen", ",", "1998", ".", "Sowa", ",", "J.", "F.", ",", "and", "Zachman", ",", "J.", "A.", "Extending", "and", "formalizing", "the", "framework", "for", "information", "systems", "architecture", ".", "IBM", "Systems", "Journal", "31", ",", "3", "-LRB-", "1992", "-RRB-", ",", "590", "616", ".", "Srinivasa", ",", "S", ".", "A", "Calculus", "of", "Fixed-Points", "for", "Char-acterising", "Interactive", "Behaviour", "of", "Information", "Systems", ".", "PhD", "thesis", ",", "BTU", "Cottbus", ",", "Fachbereich", "Informatik", ",", "Cottbus", ",", "2001", ".", "Thalheim", ",", "B.", "Entity-relationship", "modeling", "Foundations", "of", "database", "technology", ".", "Springer", ",", "2000", ".", "See", "also", "http://www.informatik.tu-cottbus", ".", "de", "/", "thalheim/HERM.htm", ".", "Thalheim", ",", "B.", "Readings", "in", "fundamentals", "of", "interaction", "in", "information", "systems", ".", "Reprint", "BTU", "Cottbus", ",", "2000", ".", "Collection", "of", "papers", "by", "C.", "Binder", ",", "W.", "Clau", ",", "A.", "D", "usterh", "oft", ",", "T.", "Feyer", ",", "T.", "Gutacker", ",", "B.", "Heinze", ",", "J.", "Lewerenz", ",", "M.", "Roll", ",", "B.", "Schewe", ",", "K.-D", ".", "Schewe", ",", "K.", "Seelig", ",", "S.", "Srinivasa", ",", "B.", "Thalheim", ".", "Accessible", "through", "http://www.informatik.tu-cottbus.de/", "thalheim", ".", "Thalheim", ",", "B.", ","], "doc_bio_tags": ["O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["usability", "scenarios", "web services", "web information systems", "media objects", "scenes", "media type", "web information system", "web site", "sitelang", "story boarding"], "abstractive_keyphrases": ["context-aware information systems", "context-awareness"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "83", "document": ["Entropy", "and", "Self-Organization", "in", "Multi-Agent", "Systems", "Emergent", "self-organization", "in", "multi-agent", "systems", "appears", "to", "contradict", "the", "second", "law", "of", "thermodynamics", ".", "This", "paradox", "has", "been", "explained", "in", "terms", "of", "a", "coupling", "between", "the", "macro", "level", "that", "hosts", "self-organization", "-LRB-", "and", "an", "apparent", "reduction", "in", "entropy", "-RRB-", ",", "and", "the", "micro", "level", "-LRB-", "where", "random", "processes", "greatly", "increase", "entropy", "-RRB-", ".", "Metaphorically", ",", "the", "micro", "level", "serves", "as", "an", "entropy", "``", "sink", ",", "''", "permitting", "overall", "system", "entropy", "to", "increase", "while", "sequestering", "this", "increase", "from", "the", "interactions", "where", "self-organization", "is", "desired", ".", "We", "make", "this", "metaphor", "precise", "by", "constructing", "a", "simple", "example", "of", "pheromone-based", "coordination", ",", "defining", "a", "way", "to", "measure", "the", "Shannon", "entropy", "at", "the", "macro", "-LRB-", "agent", "-RRB-", "and", "micro", "-LRB-", "pheromone", "-RRB-", "levels", ",", "and", "exhibiting", "an", "entropy-based", "view", "of", "the", "coordination", ".", "Researchers", "who", "construct", "multi-agent", "systems", "must", "cope", "with", "the", "world", "'s", "natural", "tendency", "to", "disorder", ".", "Many", "applications", "require", "a", "set", "of", "agents", "that", "are", "individually", "autonomous", "-LRB-", "in", "the", "sense", "that", "each", "agent", "determines", "its", "actions", "based", "on", "its", "own", "state", "and", "the", "state", "of", "the", "environment", ",", "without", "explicit", "external", "command", "-RRB-", ",", "but", "corporately", "structured", ".", "We", "want", "individual", "local", "decisions", "to", "yield", "coherent", "global", "behavior", ".", "Self-organization", "in", "natural", "systems", "-LRB-", "e.g.", ",", "human", "culture", ",", "insect", "colonies", "-RRB-", "is", "an", "existence", "proof", "that", "individual", "autonomy", "is", "not", "incompatible", "with", "global", "order", ".", "However", ",", "widespread", "human", "experience", "warns", "us", "that", "building", "systems", "that", "exhibit", "both", "individual", "autonomy", "and", "global", "order", "is", "not", "trivial", ".", "Not", "only", "agent", "researchers", ",", "but", "humans", "in", "general", ",", "seek", "to", "impose", "structure", "and", "organization", "on", "the", "world", "around", "us", ".", "It", "is", "a", "universal", "experience", "that", "the", "structure", "we", "desire", "can", "be", "achieved", "only", "through", "hard", "work", ",", "and", "that", "it", "tends", "to", "fall", "apart", "if", "not", "tended", ".", "This", "experience", "is", "sometimes", "summarized", "informally", "as", "``", "Murphy", "'s", "Law", ",", "''", "the", "observation", "that", "anything", "that", "can", "go", "wrong", ",", "will", "go", "wrong", "and", "at", "the", "worst", "possible", "moment", ".", "At", "the", "root", "of", "the", "ubiquity", "of", "disorganizing", "tendencies", "is", "the", "Second", "Law", "of", "Thermodynamics", ",", "that", "``", "energy", "spontaneously", "tends", "to", "flow", "only", "from", "being", "concentrated", "in", "one", "place", "to", "becoming", "diffused", "and", "spread", "out", ".", "''", "-LSB-", "9", "-RSB-", "Adding", "energy", "to", "a", "system", "can", "overcome", "the", "Second", "Law", "'s", "``", "spontaneous", "tendency", "''", "and", "lead", "to", "increasing", "structure", ".", "However", ",", "the", "way", "in", "which", "energy", "is", "added", "is", "critical", ".", "Gasoline", "in", "the", "engines", "of", "construction", "equipment", "can", "construct", "a", "building", "out", "of", "raw", "steel", "and", "concrete", ",", "while", "the", "same", "gasoline", "in", "a", "bomb", "can", "reduce", "a", "building", "to", "a", "mass", "of", "raw", "steel", "and", "concrete", ".", "Agents", "are", "not", "immune", "to", "Murphy", ".", "The", "natural", "tendency", "of", "a", "group", "of", "autonomous", "processes", "is", "to", "disorder", ",", "not", "to", "organization", ".", "Adding", "information", "to", "a", "collection", "of", "agents", "can", "lead", "to", "increased", "organization", ",", "but", "only", "if", "it", "is", "added", "in", "the", "right", "way", ".", "We", "will", "be", "successful", "in", "engineering", "agent-based", "systems", "just", "to", "the", "degree", "that", "we", "understand", "the", "interplay", "between", "disorder", "and", "order", ".", "The", "fundamental", "claim", "of", "this", "paper", "is", "that", "the", "relation", "between", "self-organization", "in", "multi-agent", "systems", "and", "thermodynamic", "concepts", "such", "as", "the", "second", "law", "is", "not", "just", "a", "loose", "metaphor", ",", "but", "can", "provide", "quantitative", ",", "analytical", "guidelines", "for", "designing", "and", "operating", "agent", "systems", ".", "We", "explain", "the", "link", "between", "these", "concepts", ",", "and", "demonstrate", "by", "way", "of", "a", "simple", "example", "how", "they", "can", "be", "applied", "in", "measuring", "the", "behavior", "of", "multi-agent", "systems", ".", "Our", "inspiration", "is", "a", "model", "for", "self-organization", "proposed", "by", "Kugler", "and", "Turvey", "-LSB-", "7", "-RSB-", ",", "which", "suggests", "that", "the", "key", "to", "reducing", "disorder", "in", "a", "multi-agent", "system", "is", "coupling", "that", "system", "to", "another", "in", "which", "disorder", "increases", ".", "Section", "2", "reviews", "this", "model", "and", "relates", "it", "to", "the", "problem", "of", "agent", "coordination", ".", "Section", "3", "describes", "a", "test", "scenario", "that", "we", "have", "devised", ",", "inspired", "by", "self-organization", "in", "pheromone", "systems", ",", "and", "outlines", "a", "method", "for", "measuring", "entropy", "in", "this", "scenario", ".", "Section", "4", "reports", "our", "experimental", "results", ".", "Section", "5", "summarizes", "our", "conclusions", ".", "In", "the", "context", "of", "biomechanical", "systems", ",", "Kugler", "and", "Turvey", "-LSB-", "7", "-RSB-", "suggest", "that", "self-organization", "can", "be", "reconciled", "with", "second-law", "tendencies", "if", "a", "system", "includes", "multiple", "coupled", "levels", "of", "dynamic", "activity", ".", "Purposeful", ",", "self-organizing", "behavior", "occurs", "at", "the", "macro", "level", ".", "By", "itself", ",", "such", "behavior", "would", "be", "contrary", "to", "the", "second", "law", ".", "However", ",", "the", "system", "includes", "a", "micro", "level", "whose", "dynamics", "generate", "increasing", "disorder", ".", "Thus", "the", "system", "as", "a", "whole", "is", "increasingly", "disordered", "over", "time", ".", "Crucially", ",", "the", "behavior", "of", "elements", "at", "the", "macro", "level", "is", "coupled", "to", "the", "micro", "level", "dynamics", ".", "To", "understand", "this", "model", ",", "we", "begin", "with", "an", "example", ",", "then", "abstract", "out", "the", "underlying", "dynamics", ",", "and", "finally", "comment", "on", "the", "legitimacy", "of", "identifying", "processes", "at", "this", "level", "with", "principles", "from", "thermodynamics", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "AGENTS", "'", "01", ",", "May", "28-June", "1", ",", "2001", ",", "Montr", "al", ",", "Quebec", ",", "Canada", ".", "Copyright", "2001", "ACM", "1-58113-326-X", "/", "01/0005", "...", "$", "5.00", ".", "124", "2.1", "An", "Example", ":", "Pheromones", "The", "parade", "example", "of", "such", "a", "system", "is", "the", "self-organization", "of", "an", "insect", "colony", "-LRB-", "such", "as", "the", "construction", "of", "minimal", "spanning", "tree", "networks", "among", "nests", "and", "food", "sources", "by", "ants", ",", "or", "the", "erection", "of", "multi-storied", "structures", "with", "regularly", "spaced", "pillars", "and", "floors", "by", "tropical", "termites", "-RRB-", ",", "through", "pheromone-based", "coordination", "-LSB-", "1", ",", "11", "-RSB-", ".", "Pheromones", "are", "scent", "markers", "that", "insects", "use", "in", "two", "ways", ".", "First", ",", "they", "deposit", "pheromones", "in", "the", "environment", "to", "record", "their", "state", ".", "For", "example", ",", "a", "foraging", "ant", "just", "emerging", "from", "the", "nest", "in", "search", "of", "food", "might", "deposit", "nest", "pheromone", ",", "while", "an", "ant", "that", "has", "found", "food", "and", "is", "carrying", "it", "will", "deposit", "food", "pheromone", ".", "-LRB-", "-LSB-", "15", "-RSB-", "documents", "use", "of", "multiple", "pheromones", "by", "insects", ".", "-RRB-", "Second", ",", "they", "orient", "their", "movements", "to", "the", "gradient", "of", "the", "pheromone", "field", ".", "In", "the", "example", "of", "foraging", "ants", ",", "those", "seeking", "food", "climb", "the", "gradient", "of", "the", "food", "pheromone", ",", "while", "those", "carrying", "food", "climb", "the", "gradient", "of", "the", "nest", "pheromone", ".", "The", "most", "realistic", "models", "of", "the", "ants", "'", "pheromone-climbing", "behavior", "incorporates", "a", "stochastic", "element", "in", "their", "movement", ".", "That", "is", ",", "they", "do", "not", "follow", "the", "gradient", "deterministically", ",", "but", "use", "its", "strength", "to", "weight", "a", "roulette", "wheel", "from", "which", "they", "determine", "their", "movement", ".", "The", "environment", "in", "which", "pheromones", "are", "deposited", "plays", "a", "critical", "role", "in", "such", "a", "system", ".", "It", "is", "not", "passive", ",", "but", "active", ",", "and", "performs", "three", "information-processing", "functions", "with", "the", "pheromones", ".", "1", ".", "It", "aggregates", "deposits", "of", "the", "same", "flavor", "of", "pheromone", "from", "different", "ants", ",", "thus", "providing", "a", "form", "of", "data", "fusion", "across", "multiple", "agents", "at", "different", "times", ",", "based", "on", "their", "traversal", "of", "a", "common", "location", ".", "2", ".", "It", "evaporates", "pheromones", "over", "time", ",", "thus", "forgetting", "obsolete", "information", ".", "This", "dynamic", "is", "usefully", "viewed", "as", "a", "novel", "approach", "to", "truth", "maintenance", ".", "Conventional", "knowledge", "bases", "remember", "every", "assertion", "unless", "there", "is", "cause", "to", "retract", "it", ",", "and", "execute", "truth", "maintenance", "processes", "to", "detect", "and", "resolve", "the", "conflicts", "that", "result", "when", "inconsistent", "assertions", "coexist", ".", "Insect", "systems", "forget", "every", "assertion", "unless", "it", "is", "regularly", "reinforced", ".", "3", ".", "Evaporation", "provides", "a", "third", "function", ",", "that", "of", "disseminating", "information", "from", "the", "location", "at", "which", "it", "was", "deposited", "to", "nearby", "locations", ".", "An", "ant", "does", "not", "have", "to", "stumble", "across", "the", "exact", "location", "at", "which", "pheromone", "was", "deposited", "in", "order", "to", "access", "the", "information", "it", "represents", ",", "but", "can", "sense", "the", "direction", "from", "its", "current", "location", "to", "the", "pheromone", "deposit", "in", "the", "form", "of", "the", "gradient", "of", "evaporated", "pheromone", "molecules", ".", "2.2", "The", "Model", "in", "Detail", "In", "the", "Kugler-Turvey", "model", ",", "ants", "and", "their", "movements", "constitute", "the", "macro", "level", "of", "the", "system", ",", "while", "pheromone", "molecules", "constitute", "the", "micro", "level", ".", "The", "purposeful", "movement", "of", "ants", ",", "constructing", "minimal", "paths", "among", "their", "nests", "and", "food", "sources", ",", "achieve", "a", "reduction", "in", "disorder", "at", "the", "macro", "level", ",", "made", "possible", "because", "the", "agents", "at", "this", "level", "are", "coupled", "to", "the", "micro", "level", ",", "where", "the", "evaporation", "of", "pheromone", "molecules", "under", "Brownian", "motion", "results", "in", "an", "overwhelming", "growth", "in", "disorder", ".", "As", "a", "result", ",", "the", "disorder", "of", "the", "overall", "system", "increases", ",", "in", "keeping", "with", "the", "Second", "Law", ",", "in", "spite", "of", "the", "emergence", "of", "useful", "order", "at", "the", "macro", "level", ".", "Figure", "1", "illustrates", "the", "interplay", "among", "these", "processes", ",", "and", "how", "this", "model", "of", "agent", "coordination", "differs", "from", "more", "classical", "views", ".", "Classically", ",", "agents", "are", "considered", "to", "perceive", "one", "another", "directly", ",", "reason", "about", "this", "perception", ",", "and", "then", "take", "rational", "action", ".", "The", "Kugler-Turvey", "model", "views", "coordination", "as", "being", "mediated", "by", "an", "environment", "that", "agents", "change", "by", "their", "actions", "-LRB-", "e.g.", ",", "depositing", "pheromones", "-RRB-", ",", "a", "process", "known", "as", "``", "stigmergy", "''", "-LSB-", "4", "-RSB-", ".", "Processes", "in", "the", "environment", "generate", "structures", "that", "the", "agents", "perceive", ",", "thus", "permitting", "ordered", "behavior", "at", "the", "agent", "level", ".", "At", "the", "same", "time", ",", "these", "processes", "increase", "disorder", "at", "the", "micro", "level", ",", "so", "that", "the", "system", "as", "a", "whole", "becomes", "less", "ordered", "over", "time", ".", "Research", "in", "synthetic", "pheromones", "-LSB-", "2", ",", "12", ",", "13", "-RSB-", "draws", "directly", "on", "this", "model", "of", "coordination", ",", "but", "the", "model", "is", "of", "far", "broader", "applicability", ".", "In", "a", "multi-commodity", "market", ",", "individual", "agents", "follow", "economic", "fields", "generated", "by", "myriad", "individual", "transactions", ",", "and", "self-organization", "in", "the", "demand", "and", "supply", "of", "a", "particular", "commodity", "is", "supported", "by", "an", "environment", "that", "distributes", "resources", "based", "on", "the", "other", "transactions", "in", "the", "system", ".", "The", "movement", "of", "currency", "in", "such", "a", "system", "provides", "similar", "functions", "to", "those", "of", "pheromones", "in", "insect", "systems", ".", "More", "broadly", ",", "we", "hypothesize", "that", "a", "coupling", "of", "ordered", "and", "disordered", "systems", "is", "ubiquitous", "in", "robust", "self-organizing", "systems", ",", "and", "that", "the", "lack", "of", "such", "a", "coupling", "correlates", "with", "architectures", "that", "do", "not", "meet", "their", "designers", "'", "expectations", "for", "emergent", "cohesiveness", ".", "2.3", "A", "Caveat", "At", "this", "point", ",", "readers", "with", "a", "background", "in", "physics", "and", "chemistry", "may", "be", "uneasy", ".", "These", "disciplines", "formulated", "the", "Second", "Law", "within", "a", "strict", "context", "of", "processes", "that", "result", "in", "energy", "changes", ".", "The", "fundamental", "physical", "measures", "associated", "with", "the", "second", "law", "are", "temperature", "T", ",", "heat", "Q", ",", "and", "-LRB-", "thermodynamic", "-RRB-", "entropy", "S", ",", "related", "by", "the", "definition", "Equation", "1", "T", "dQ", "dS", "=", "Statistical", "mechanics", "identifies", "this", "macroscopic", "measure", "with", "the", "number", "of", "microscopically", "defined", "states", "accessible", "to", "the", "system", "by", "the", "relation", "Equation", "2", "S", "k", "ln", "where", "k", "is", "Boltzmann", "'s", "constant", ",", "1.4E-16", "erg/deg", ".", "M", "icro", "New", "to", "n", "ian", ";", "F", "o", "rce", "F", "ield", ";", "E", "n", "tro", "p", "y", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "M", "acro", "No", "n", "-", "New", "to", "n", "ian", "F", "lo", "w", "F", "ield", "``", "Neg", "en", "tro", "p", "y", "''", "Pe", "rcep", "tio", "n", "Percep", "tion", "P", "h", "ero", "m", "o", "n", "e", "Rational", "Action", "-LRB-", "Entropy", "-RRB-", "Ra", "tio", "na", "l", "A", "cti", "on", "-LRB-", "Ent", "ropy", "-RRB-", "P", "h", "ero", "m", "o", "n", "e", "Dynam", "ics", "P", "ercep", "tio", "n", "Ratio", "n", "al", "A", "ctio", "n", "Ag", "en", "t", "1", "Ag", "en", "t", "2", "T", "rad", "itio", "n", "al", "A", "g", "en", "t", "Dynam", "ics", "Key", "M", "icro", "New", "to", "n", "ian", ";", "F", "o", "rce", "F", "ield", ";", "E", "n", "tro", "p", "y", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "M", "acro", "No", "n", "-", "New", "to", "n", "ian", "F", "lo", "w", "F", "ield", "``", "Neg", "en", "tro", "p", "y", "''", "Pe", "rcep", "tio", "n", "Percep", "tion", "P", "h", "ero", "m", "o", "n", "e", "Rational", "Action", "-LRB-", "Entropy", "-RRB-", "Ra", "tio", "na", "l", "A", "cti", "on", "-LRB-", "Ent", "ropy", "-RRB-", "P", "h", "ero", "m", "o", "n", "e", "Dynam", "ics", "P", "ercep", "tio", "n", "Ratio", "n", "al", "A", "ctio", "n", "Ag", "en", "t", "1", "Ag", "en", "t", "2", "T", "rad", "itio", "n", "al", "A", "g", "en", "t", "Dynam", "ics", "Key", "Figure", "1", ".", "Comparison", "of", "Conventional", "and", "Pheromone-Based", "Models", "of", "Coordination", "125", "Thus", "defined", ",", "thermodynamic", "entropy", "has", "strong", "formal", "similarities", "-LSB-", "10", "-RSB-", "to", "information", "entropy", "-LSB-", "14", "-RSB-", "Equation", "3", "=", "i", "i", "i", "p", "p", "S", "log", "where", "i", "ranges", "over", "the", "possible", "states", "of", "the", "system", "and", "p", "i", "is", "the", "probability", "of", "finding", "the", "system", "in", "state", "i", ".", "These", "formal", "similarities", "have", "led", "to", "a", "widespread", "appropriation", "of", "the", "notion", "of", "``", "entropy", "''", "as", "a", "measure", "of", "macro-level", "disorder", ",", "and", "of", "the", "Second", "Law", "as", "describing", "a", "tendency", "of", "systems", "to", "become", "more", "chaotic", ".", "Our", "approach", "participates", "to", "this", "appropriation", ".", "It", "has", "been", "objected", "-LSB-", "8", "-RSB-", "that", "such", "appropriation", "completely", "ignores", "the", "role", "of", "energy", "intrinsic", "to", "both", "thermodynamic", "definitions", "-LRB-", "via", "T", "and", "dQ", "in", "the", "macro", "definition", "and", "k", "in", "the", "micro", "definition", "-RRB-", ".", "Such", "an", "objection", "implicitly", "assumes", "that", "energy", "is", "logically", "prior", "to", "the", "definition", ",", "and", "that", "unless", "information", "processes", "are", "defined", "in", "terms", "of", "energy", "changes", ",", "it", "is", "illegitimate", "to", "identify", "their", "changes", "in", "entropy", "with", "those", "of", "thermodynamics", ".", "An", "alternative", "approach", "to", "the", "question", "would", "argue", "that", "in", "fact", "the", "prior", "concept", "is", "not", "ergs", "but", "bits", ",", "the", "universe", "is", "nothing", "but", "a", "very", "large", "cellular", "automaton", "with", "very", "small", "cells", "-LSB-", "3", ",", "6", "-RSB-", ",", "and", "physics", "and", "chemistry", "can", "in", "principle", "be", "redefined", "in", "terms", "of", "information-theoretic", "concepts", ".", "Our", "approach", "is", "sympathetic", "with", "this", "view", ".", "While", "we", "are", "not", "prepared", "at", "this", "point", "to", "define", "the", "precise", "correspondence", "between", "ergs", "and", "bits", ",", "we", "believe", "that", "physical", "models", "are", "an", "under-exploited", "resource", "for", "understanding", "computational", "systems", "in", "general", "and", "multi-agent", "systems", "in", "particular", ".", "The", "fact", "that", "the", "thermodynamic", "and", "information", "approaches", "work", "in", "different", "fundamental", "units", "-LRB-", "ergs", "vs.", "bits", "-RRB-", "is", "not", "a", "reason", "to", "separate", "them", ",", "but", "a", "pole", "star", "to", "guide", "research", "that", "may", "ultimately", "bring", "them", "together", ".", "We", "experiment", "with", "these", "concepts", "using", "a", "simple", "model", "of", "pheromone-based", "behavior", ".", "In", "this", "section", "we", "describe", "the", "experiment", "and", "how", "one", "measures", "entropy", "over", "it", ".", "3.1", "The", "Coordination", "Problem", "Consider", "two", "agents", ",", "one", "fixed", "and", "one", "mobile", ",", "who", "desire", "to", "be", "together", ".", "Neither", "knows", "the", "location", "of", "the", "other", ".", "The", "mobile", "agent", ",", "or", "walker", ",", "could", "travel", "to", "the", "destination", "of", "the", "stationary", "one", ",", "if", "it", "only", "knew", "where", "to", "go", ".", "The", "stationary", "agent", ",", "or", "target", ",", "deposits", "pheromone", "molecules", "at", "its", "location", ".", "As", "the", "pheromone", "molecules", "diffuse", "through", "the", "environment", ",", "they", "create", "a", "gradient", "that", "the", "walker", "can", "follow", ".", "Initially", ",", "the", "walker", "is", "at", "-LRB-", "30,30", "-RRB-", "and", "the", "target", "is", "at", "-LRB-", "50,50", "-RRB-", "in", "a", "100x100", "field", ".", "Every", "time", "step", ",", "the", "target", "deposits", "one", "molecule", "at", "-LRB-", "50,50", "-RRB-", ".", "Both", "the", "walker", "and", "the", "pheromone", "molecules", "move", "by", "computing", "an", "angle", "-LSB-", "0,2", "-RSB-", "relative", "to", "their", "current", "heading", "and", "taking", "a", "step", "of", "constant", "length", "-LRB-", "1", "for", "the", "walker", ",", "2", "for", "the", "pheromone", "molecule", "-RRB-", "in", "the", "resulting", "direction", ".", "Thus", "both", "molecules", "and", "walkers", "can", "be", "located", "at", "any", "real-valued", "coordinates", "in", "the", "field", ".", "Molecules", "move", "every", "cycle", "of", "the", "simulation", "and", "the", "walker", "every", "five", "cycles", ",", "so", "altogether", "the", "molecules", "move", "ten", "times", "as", "fast", "as", "the", "walker", ".", "Molecules", "fall", "off", "of", "the", "field", "when", "they", "reach", "the", "edge", ",", "while", "the", "walker", "bounces", "off", "the", "edges", ".", "Molecules", "choose", "the", "heading", "for", "their", "next", "step", "from", "a", "uniform", "random", "distribution", ",", "and", "so", "execute", "an", "unbiased", "random", "walk", ".", "The", "walker", "computes", "its", "heading", "from", "two", "inputs", ".", "1", ".", "It", "generates", "a", "gradient", "vector", "Gr", "from", "its", "current", "location", "to", "each", "molecule", "within", "a", "specified", "radius", ",", "with", "magnitude", "Equation", "4", "<", "=", "i", "r", "i", "r", "g", "G", "2", "r", "where", "r", "i", "is", "the", "distance", "between", "the", "walker", "and", "the", "ith", "molecule", "and", "g", "is", "a", "``", "gravitational", "constant", "''", "-LRB-", "currently", "1", "-RRB-", ".", "2", ".", "It", "generates", "a", "random", "vector", "Rr", "with", "random", "heading", "and", "length", "equal", "to", "a", "temperature", "parameter", "T", ".", "The", "vector", "sum", "R", "G", "r", "r", "+", ",", "normalized", "to", "the", "walker", "'s", "step", "length", "-LRB-", "1", "in", "these", "experiments", "-RRB-", ",", "defines", "the", "walker", "'s", "next", "step", ".", "Including", "Rr", "in", "the", "computation", "permits", "us", "to", "explore", "the", "effectiveness", "of", "different", "degrees", "of", "stochasticity", "in", "the", "walker", "'s", "movement", ",", "following", "the", "example", "of", "natural", "pheromone", "systems", ".", "The", "state", "of", "the", "walker", "defines", "the", "macro", "state", "of", "the", "system", ",", "while", "the", "states", "of", "the", "molecules", "define", "the", "micro", "state", ".", "This", "model", "can", "easily", "be", "enhanced", "in", "a", "number", "of", "directions", ",", "including", "adding", "multiple", "walkers", "and", "multiple", "targets", ",", "and", "permitting", "walkers", "and", "targets", "to", "deposit", "pheromone", "molecules", "of", "various", "flavors", ".", "The", "simple", "configuration", "is", "sufficient", "to", "demonstrate", "our", "techniques", "and", "their", "potential", "for", "understanding", "how", "the", "walker", "finds", "the", "target", ".", "3.2", "Measuring", "Entropy", "Computing", "the", "Shannon", "or", "Information", "Entropy", "defined", "in", "Equation", "3", "requires", "that", "we", "measure", "1", ".", "the", "set", "of", "states", "accessible", "to", "the", "system", "and", "2", ".", "the", "probability", "of", "finding", "the", "system", "in", "each", "of", "those", "states", ".", "3.2.1", "Measuring", "the", "Number", "of", "System", "States", "In", "most", "computational", "systems", ",", "the", "discreteness", "of", "digital", "computation", "makes", "counting", "system", "states", "straightforward", "-LRB-", "though", "the", "number", "of", "possible", "states", "is", "extremely", "high", "-RRB-", ".", "We", "have", "purposely", "defined", "the", "movement", "of", "our", "walker", "and", "molecules", "in", "continuous", "space", "to", "highlight", "the", "challenge", "of", "counting", "discrete", "system", "states", "in", "an", "application", "embedded", "in", "the", "physical", "world", "-LRB-", "such", "as", "a", "robotic", "application", "-RRB-", ".", "Our", "approach", "is", "to", "superimpose", "a", "grid", "on", "the", "field", ",", "and", "define", "a", "state", "on", "the", "basis", "of", "the", "populations", "of", "the", "cells", "of", "the", "grid", ".", "We", "can", "define", "state", ",", "and", "thus", "entropy", ",", "in", "terms", "either", "of", "location", "or", "direction", ".", "Location-based", "state", "is", "based", "on", "a", "single", "snapshot", "of", "the", "system", ",", "while", "direction-based", "state", "is", "based", "on", "how", "the", "system", "has", "changed", "between", "successive", "snapshots", ".", "Each", "approach", "has", "an", "associated", "gridding", "technique", ".", "For", "location-based", "entropy", ",", "we", "divide", "the", "field", "with", "a", "grid", ".", "Figure", "2", "shows", "a", "2x2", "grid", "with", "four", "cells", ",", "one", "spanning", "each", "quarter", "of", "the", "field", ".", "The", "state", "of", "this", "system", "is", "a", "four-element", "vector", "reporting", "the", "number", "of", "molecules", "in", "each", "cell", "-LRB-", "in", "the", "example", ",", "reading", "row-wise", "from", "upper", "left", ",", "<", "1,1,3,2", ">", ".", "The", "number", "of", "possible", "states", "in", "an", "nxn", "grid", "with", "m", "particles", "is", "n", "2m", ".", "The", "parameters", "in", "location-based", "gridding", "are", "the", "number", "of", "divisions", "in", "each", "direction", ",", "their", "orientation", ",", "and", "the", "origin", "of", "the", "grid", ".", "126", "Rectangular", "grids", "are", "easiest", "to", "manage", "computationally", ",", "but", "one", "could", "also", "tile", "the", "plane", "with", "hexagons", ".", "For", "direction-based", "entropy", ",", "we", "center", "a", "star", "on", "the", "previous", "location", "of", "each", "particle", "and", "record", "the", "sector", "of", "the", "star", "into", "which", "the", "particle", "is", "found", "at", "the", "current", "step", ".", "Figure", "3", "shows", "a", "four-rayed", "star", "with", "a", "two", "particles", ".", "The", "state", "of", "the", "system", "is", "a", "vector", "with", "one", "element", "for", "each", "particle", "in", "some", "canonical", "order", ".", "Counting", "sectors", "clockwise", "from", "the", "upper", "left", ",", "the", "state", "of", "this", "example", "is", "<", "2,3", ">", ".", "The", "number", "of", "possible", "states", "with", "an", "n-pointed", "star", "and", "m", "particles", "is", "mn", ".", "The", "parameters", "in", "direction-based", "gridding", "are", "the", "number", "of", "rays", "in", "the", "star", "and", "the", "rotation", "of", "the", "star", "about", "its", "center", ".", "In", "both", "techniques", ",", "the", "analysis", "depends", "critically", "on", "the", "resolution", "of", "the", "grid", "-LRB-", "the", "parameter", "n", "-RRB-", "and", "its", "origin", "and", "orientation", "-LRB-", "for", "location", "-RRB-", "or", "rotation", "-LRB-", "for", "direction", "-RRB-", ".", "To", "understand", "the", "dependency", "on", "n", ",", "consider", "two", "extremes", ".", "If", "n", "is", "very", "large", ",", "the", "chance", "of", "two", "distributions", "of", "particles", "on", "the", "field", "having", "the", "same", "state", "is", "vanishingly", "small", ".", "For", "N", "distributions", ",", "each", "will", "be", "a", "distinct", "state", ",", "each", "state", "will", "have", "equal", "probability", "1/N", ",", "and", "the", "entropy", "will", "be", "log", "-LRB-", "N", "-RRB-", ".", "This", "state", "of", "affairs", "is", "clearly", "not", "informative", ".", "At", "the", "other", "extreme", ",", "n", "=", "1", ",", "all", "distributions", "represent", "the", "same", "state", ",", "which", "therefore", "occurs", "with", "probability", "1", ",", "yielding", "entropy", "0", ",", "again", "not", "informative", ".", "We", "choose", "the", "gridding", "resolution", "empirically", "by", "observing", "the", "length", "scales", "active", "in", "the", "system", "as", "it", "operates", ".", "To", "understand", "the", "dependency", "on", "origin/orientation", "or", "rotation", ",", "consider", "two", "particles", "in", "the", "same", "cell", ".", "After", "they", "move", ",", "will", "they", "still", "be", "in", "the", "same", "cell", "-LRB-", "keeping", "entropy", "the", "same", "-RRB-", "or", "in", "different", "cells", "-LRB-", "increasing", "entropy", "-RRB-", "?", "Exactly", "the", "same", "movements", "of", "the", "two", "particles", "could", "yield", "either", "result", ",", "depending", "on", "how", "the", "grid", "is", "registered", "with", "the", "field", ".", "We", "follow", "Gutowitz", "'s", "technique", "-LSB-", "5", "-RSB-", "of", "measuring", "the", "entropy", "with", "several", "different", "origins", "and", "taking", "the", "minimum", ",", "thus", "minimizing", "entropy", "contributions", "resulting", "from", "the", "discrete", "nature", "of", "the", "grid", ".", "3.2.2", "Measuring", "the", "Probabilities", "In", "principle", ",", "one", "could", "compute", "the", "probability", "of", "different", "system", "states", "analytically", ".", "This", "approach", "would", "be", "arduous", "even", "for", "our", "simple", "system", ",", "and", "completely", "impractical", "for", "a", "more", "complex", "system", ".", "We", "take", "a", "Monte", "Carlo", "approach", "instead", ".", "We", "run", "the", "system", "repeatedly", ".", "At", "each", "step", "in", "time", ",", "we", "estimate", "the", "probability", "of", "each", "observed", "state", "by", "counting", "the", "number", "of", "replications", "in", "which", "that", "state", "was", "observed", ".", "The", "results", "reported", "here", "are", "based", "on", "30", "replications", ".", "Shannon", "entropy", "has", "a", "maximum", "value", "of", "log", "-LRB-", "N", "-RRB-", "for", "N", "different", "states", ",", "achieved", "when", "each", "state", "is", "equally", "probable", ".", "To", "eliminate", "this", "dependence", "on", "N", ",", "we", "normalize", "the", "entropies", "we", "report", "by", "dividing", "by", "log", "-LRB-", "N", "-RRB-", "-LRB-", "in", "our", "case", ",", "log", "-LRB-", "30", "-RRB-", "-RRB-", ",", "incidentally", "making", "the", "choice", "of", "base", "of", "logarithms", "irrelevant", ".", "We", "report", "the", "behavior", "of", "entropy", "first", "in", "the", "micro", "system", ",", "then", "in", "the", "unguided", "and", "guided", "macro", "system", ",", "and", "finally", "in", "the", "complete", "system", ".", "4.1", "Entropy", "in", "the", "Micro", "System", "Figure", "4", "shows", "locational", "entropy", "in", "the", "micro", "system", "-LRB-", "the", "pheromone", "molecules", "-RRB-", ",", "computed", "from", "a", "5x5", "grid", ".", "Entropy", "increases", "with", "time", "until", "it", "saturates", "at", "1", ".", "The", "more", "molecules", "enter", "the", "system", "and", "the", "more", "they", "disperse", "throughout", "the", "field", ",", "the", "higher", "the", "entropy", "grows", ".", "Increasing", "the", "grid", "resolution", "has", "no", "effect", "on", "the", "shape", "of", "this", "increase", ",", "but", "reduces", "the", "time", "to", "saturation", ",", "because", "the", "molecules", "must", "spread", "out", "from", "a", "single", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "Figure", "2", ".", "Location-based", "gridding", ".", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "1", "2", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "1", "2", "Figure", "3", ".", "Direction-based", "gridding", ".", "0", "50", "100", "150", "200", "250", "Time", "0.2", "0.4", "0.6", "0.8", "1", "o", "r", "c", "i", "My", "p", "o", "r", "t", "n", "E", "Figure", "4", ".", "Micro", "Entropy", "x", "Time", "-LRB-", "5x5", "Grid", "-RRB-", "127", "location", "and", "the", "finer", "the", "grid", ",", "the", "sooner", "they", "can", "generate", "a", "large", "number", "of", "different", "states", ".", "Directional", "entropy", "also", "increases", "with", "time", "to", "saturation", ".", "This", "result", "-LRB-", "not", "plotted", "-RRB-", "can", "be", "derived", "analytically", ".", "The", "molecule", "population", "increases", "linearly", "with", "time", "until", "molecules", "start", "reaching", "the", "edge", ".", "Then", "the", "growth", "slows", ",", "and", "eventually", "reaches", "0", ".", "Let", "M", "be", "the", "population", "of", "the", "field", "at", "equilibrium", ",", "and", "consider", "all", "M", "molecules", "being", "located", "at", "-LRB-", "50,50", "-RRB-", "through", "the", "entire", "run", ".", "Initially", ",", "all", "are", "stationary", ",", "and", "each", "time", "step", "one", "additional", "molecule", "is", "activated", ".", "Then", "the", "total", "number", "of", "possible", "system", "states", "for", "a", "4-star", "is", "4M", ",", "but", "the", "number", "actually", "sampled", "during", "the", "period", "of", "linear", "population", "growth", "is", "4t", ",", "since", "the", "stationary", "molecules", "do", "not", "generate", "any", "additional", "states", ".", "Thus", "the", "entropy", "during", "the", "linear", "phase", "is", "log", "-LRB-", "4t", "-RRB-", "/", "log", "-LRB-", "4M", "-RRB-", ".", "As", "the", "growth", "becomes", "sublinear", ",", "the", "entropy", "asymptotically", "approaches", "1", ",", "as", "with", "locational", "entropy", ".", "4.2", "Entropy", "in", "the", "Unguided", "Macro", "System", "Figure", "5", "shows", "the", "path", "of", "a", "walker", "uncoupled", "to", "the", "micro", "system", "-LRB-", "when", "the", "target", "is", "emitting", "no", "pheromone", "molecules", "-RRB-", ".", "With", "no", "coupling", "to", "the", "micro", "field", ",", "the", "walker", "is", "just", "a", "single", "molecule", "executing", "a", "random", "walk", ".", "Figure", "6", "shows", "that", "locational", "entropy", "for", "this", "walker", "increases", "over", "time", ",", "reflecting", "the", "increased", "number", "of", "cells", "accessible", "to", "the", "walker", "as", "its", "random", "walk", "takes", "it", "farther", "from", "its", "base", ".", "The", "grid", "size", "-LRB-", "15", "divisions", "in", "each", "direction", "-RRB-", "is", "chosen", "on", "the", "basis", "of", "observations", "of", "the", "guided", "walker", ",", "discussed", "in", "the", "next", "section", ".", "The", "directional", "entropy", "-LRB-", "not", "plotted", "-RRB-", "is", "constant", "at", "1", ",", "since", "the", "walker", "chooses", "randomly", "at", "each", "step", "from", "all", "available", "directions", ".", "4.3", "Entropy", "in", "Guided", "Macro", "System", "Now", "we", "provide", "the", "walker", "with", "a", "micro", "field", "by", "emitting", "pheromone", "molecules", "from", "the", "target", ".", "Figure", "7", "shows", "the", "path", "followed", "by", "a", "typical", "walker", "with", "radius", "=", "20", "and", "T", "=", "0", ".", "This", "path", "has", "three", "distinct", "parts", ".", "Initially", ",", "the", "walker", "wanders", "randomly", "around", "its", "origin", "at", "-LRB-", "30,30", "-RRB-", ",", "until", "the", "wavefront", "of", "molecules", "diffusing", "from", "-LRB-", "50,50", "-RRB-", "encounters", "its", "radius", ".", "In", "this", "region", ",", "the", "walker", "has", "no", "guidance", ",", "because", "no", "molecules", "are", "visible", ".", "Once", "the", "walker", "begins", "to", "sense", "molecules", ",", "it", "moves", "rather", "directly", "from", "the", "vicinity", "of", "-LRB-", "30,30", "-RRB-", "to", "-LRB-", "50,50", "-RRB-", ",", "following", "the", "pheromone", "gradient", ".", "When", "it", "arrives", "at", "-LRB-", "50,50", "-RRB-", ",", "it", "again", "receives", "no", "guidance", "from", "the", "molecules", ",", "because", "they", "are", "distributed", "equally", "in", "all", "directions", ".", "So", "it", "again", "meanders", ".", "The", "clouds", "of", "wandering", "near", "the", "start", "and", "finish", "have", "diameters", "in", "the", "range", "of", "5", "to", "10", ",", "suggesting", "a", "natural", "grid", "between", "20x20", "and", "10x10", ".", "We", "report", "here", "experiments", "with", "a", "15x15", "grid", ".", "Because", "of", "their", "initial", "random", "walk", "around", "their", "origin", ",", "walkers", "in", "different", "runs", "will", "be", "at", "different", "locations", "when", "they", "start", "to", "move", ",", "and", "will", "follow", "slightly", "different", "paths", "to", "the", "target", "-LRB-", "Figure", "8", "-RRB-", ".", "30", "35", "40", "45", "50", "55", "x", "30", "35", "40", "45", "50", "55", "y", "Figure", "5", ".", "Unguided", "Walker", "Path", ".", "Axes", "are", "location", "in", "the", "-LRB-", "100x100", "-RRB-", "field", ".", "0", "50", "100", "150", "200", "250", "Time", "0.2", "0.4", "0.6", "0.8", "1", "o", "r", "c", "a", "My", "p", "o", "r", "t", "n", "E", "Figure", "6", ".", "Unguided", "Walker", "Locational", "Entropy", "-LRB-", "15x15", "Grid", "-RRB-", "30", "35", "40", "45", "50", "55", "x", "30", "35", "40", "45", "50", "55", "y", "Figure", "7", ".", "Guided", "Walker", "Path", "-LRB-", "=", "20", ",", "T", "=", "0", "-RRB-", "30", "35", "40", "45", "50", "55", "x", "30", "35", "40", "45", "50", "55", "y", "Figure", "8", ".", "Ensemble", "of", "Guided", "Walkers", "-LRB-", "=", "20", ",", "T", "=", "0", "-RRB-", "128", "The", "dots", "in", "Figure", "9", "and", "Figure", "10", "show", "the", "directional", "and", "locational", "entropies", "across", "this", "ensemble", "of", "guided", "walkers", "as", "a", "function", "of", "time", ".", "The", "solid", "line", "in", "each", "case", "plots", "the", "normalized", "median", "distance", "from", "the", "walkers", "to", "the", "target", "-LRB-", "actual", "maximum", "28", "-RRB-", ",", "while", "the", "dashed", "line", "plots", "the", "normalized", "median", "number", "of", "molecules", "visible", "to", "the", "walkers", "-LRB-", "actual", "maximum", "151", "-RRB-", ".", "The", "lines", "show", "how", "changes", "in", "entropy", "and", "reduction", "in", "distance", "to", "the", "target", "are", "correlated", "with", "the", "number", "of", "molecules", "that", "the", "walker", "senses", "at", "any", "given", "moment", ".", "At", "the", "beginning", "and", "end", "of", "the", "run", ",", "when", "the", "walkers", "are", "wandering", "without", "guidance", ",", "directional", "entropy", "is", "1", ",", "corresponding", "to", "a", "random", "walk", ".", "During", "the", "middle", "portion", "of", "the", "run", ",", "when", "the", "walker", "is", "receiving", "useful", "guidance", "from", "the", "micro", "level", ",", "the", "entropy", "drops", "dramatically", ".", "As", "the", "temperature", "parameter", "T", "is", "increased", "in", "the", "range", "50", "to", "100", ",", "the", "bottom", "of", "the", "entropy", "well", "rises", ",", "but", "the", "overall", "shape", "remains", "the", "same", "-LRB-", "plot", "not", "shown", "-RRB-", ".", "The", "locational", "entropy", "presents", "a", "different", "story", ".", "The", "minimization", "method", "for", "avoiding", "discreteness", "artifacts", "has", "the", "effect", "of", "selecting", "at", "each", "time", "step", "the", "offset", "that", "best", "centers", "the", "cells", "on", "the", "walkers", ".", "At", "the", "beginning", "of", "the", "run", "and", "again", "at", "the", "end", ",", "most", "walkers", "are", "close", "together", ",", "and", "fall", "within", "the", "same", "cell", "-LRB-", "because", "we", "chose", "a", "cell", "size", "comparable", "to", "these", "clouds", "-RRB-", ".", "Walkers", "leave", "the", "starting", "cloud", "at", "different", "times", ",", "since", "those", "closer", "to", "the", "target", "sense", "the", "pheromones", "sooner", ",", "and", "follow", "different", "paths", ",", "depending", "on", "where", "they", "were", "when", "the", "pheromone", "reached", "them", ".", "Thus", "they", "spread", "out", "during", "this", "movement", "phase", ",", "and", "cluster", "together", "again", "once", "they", "reach", "the", "target", ".", "The", "effect", "of", "raising", "T", "to", "100", "on", "locational", "entropy", "is", "that", "the", "right", "end", "of", "the", "curve", "rises", "until", "the", "curve", "assumes", "a", "similar", "shape", "-LRB-", "plot", "not", "shown", "-RRB-", "to", "Figure", "6", ".", "Comparison", "of", "Figure", "6", "and", "Figure", "10", "shows", "that", "though", "the", "directed", "portion", "of", "the", "walker", "'s", "movement", "has", "higher", "entropy", "than", "the", "undirected", "portions", ",", "coupling", "the", "walker", "to", "the", "micro", "level", "does", "reduce", "the", "walker", "'s", "overall", "entropy", ".", "Even", "at", "its", "maximum", ",", "the", "entropy", "of", "the", "guided", "walker", "is", "much", "lower", "than", "that", "of", "the", "random", "one", ",", "demonstrating", "the", "basic", "dynamics", "of", "the", "Kugler-Turvey", "model", ".", "The", "different", "behavior", "of", "locational", "and", "directional", "entropy", "is", "instructive", ".", "Which", "is", "more", "orderly", ":", "a", "randomly", "moving", "walker", ",", "or", "one", "guided", "by", "pheromones", "?", "The", "expected", "location", "of", "a", "random", "walker", "is", "stationary", "-LRB-", "though", "with", "a", "non-zero", "variance", "-RRB-", ",", "while", "that", "of", "a", "guided", "walker", "is", "non-stationary", ".", "In", "terms", "of", "location", ",", "the", "random", "walker", "is", "thus", "more", "regular", ",", "and", "the", "location", "entropy", "reflects", "this", ".", "However", ",", "the", "movement", "of", "the", "guided", "walker", "is", "more", "orderly", "than", "that", "of", "the", "random", "walker", ",", "and", "this", "difference", "is", "reflected", "in", "the", "directional", "entropy", ".", "This", "difference", "highlights", "the", "importance", "of", "paying", "attention", "to", "dynamical", "aspects", "of", "agent", "behavior", ".", "Our", "intuition", "that", "the", "guided", "walker", "is", "more", "orderly", "than", "the", "random", "one", "is", "really", "an", "intuition", "about", "the", "movement", "of", "this", "walker", ",", "not", "its", "location", ".", "4.4", "Entropy", "in", "the", "Overall", "System", "Central", "to", "the", "Kugler-Turvey", "model", "is", "the", "assertion", "that", "entropy", "increase", "at", "the", "micro", "level", "is", "sufficient", "to", "ensure", "entropy", "increase", "in", "the", "overall", "system", "even", "in", "the", "presence", "of", "self-organization", "and", "concomitant", "entropy", "reduction", "at", "the", "micro", "level", ".", "Our", "experiment", "illustrates", "this", "dynamic", ".", "As", "illustrated", "in", "Figure", "4", ",", "by", "time", "60", ",", "normalized", "entropy", "in", "the", "micro", "system", "has", "reached", "the", "maximum", "level", "of", "1", ",", "indicating", "that", "each", "of", "the", "30", "replications", "of", "the", "experiment", "results", "in", "a", "distinct", "state", ".", "If", "each", "replication", "is", "already", "distinct", "on", "the", "basis", "of", "the", "locations", "of", "the", "pheromone", "molecules", "alone", ",", "adding", "additional", "state", "elements", "-LRB-", "such", "as", "the", "location", "of", "the", "walker", "-RRB-", "can", "not", "cause", "two", "replications", "to", "become", "the", "same", ".", "Thus", "by", "time", "60", "the", "normalized", "entropy", "of", "the", "entire", "system", "must", "also", "be", "at", "a", "maximum", ".", "In", "particular", ",", "decreases", "in", "macro", "entropy", ",", "such", "as", "the", "decrease", "in", "locational", "entropy", "from", "time", "80", "on", "seen", "in", "Figure", "10", ",", "do", "not", "reduce", "the", "entropy", "of", "the", "overall", "system", ".", "One", "may", "ask", "whether", "the", "reduction", "in", "macro", "-LRB-", "walker", "-RRB-", "entropy", "is", "causally", "related", "to", "the", "increase", "in", "micro", "entropy", ",", "or", "just", "coincidental", ".", "After", "all", ",", "a", "static", "gradient", "of", "pheromone", "molecules", "would", "guide", "the", "walker", "to", "the", "target", "just", "as", "effectively", ",", "but", "would", "be", "identical", "in", "every", "run", ",", "and", "so", "exhibit", "zero", "entropy", ".", "This", "argument", "neglects", "whatever", "process", "generates", "the", "static", "gradient", "in", "the", "first", "place", ".", "An", "intelligent", "observer", "could", "produce", "the", "gradient", ",", "but", "then", "the", "behavior", "of", "the", "system", "would", "hardly", "be", "``", "self-organizing", ".", "''", "In", "our", "scenario", ",", "the", "gradient", "emerges", "as", "a", "natural", "consequence", "of", "a", "completely", "random", "process", ",", "the", "random", "walk", "of", "the", "pheromone", "molecules", "emerging", "from", "the", "target", ".", "The", "gradient", "can", "then", "reduce", "the", "entropy", "of", "a", "walker", "at", "the", "macro", "level", ",", "but", "the", "price", "paid", "for", "this", "entropy", "reduction", "is", "the", "increase", "in", "entropy", "generated", "by", "the", "random", "process", "that", "produces", "and", "maintains", "the", "gradient", ".", "0", "10", "20", "30", "40", "50", "Time", "0.2", "0.4", "0.6", "0.8", "1", "y", "p", "o", "r", "t", "n", "E", "e", "c", "n", "a", "t", "s", "i", "Dd", "n", "as", "e", "l", "u", "c", "e", "l", "o", "M", "Figure", "9", ".", "Guided", "walker", ":", "dots", "=", "directional", "entropy", "-LRB-", "4", "star", "-RRB-", ",", "solid", "line", "=", "median", "distance", "to", "target", "-LRB-", "max", "28", "-RRB-", ",", "dashed", "line", "=", "median", "visible", "molecules", "-LRB-", "max", "151", "-RRB-", ".", "0", "50", "100", "150", "200", "250", "Time", "0.2", "0.4", "0.6", "0.8", "1", "o", "r", "c", "a", "My", "p", "o", "r", "t", "n", "E", "e", "c", "n", "a", "t", "s", "i", "Dd", "n", "as", "e", "l", "u", "c", "e", "l", "o", "M", "Figure", "10", ".", "Guided", "walker", ":", "dots", "=", "locational", "entropy", "-LRB-", "15x15", "grid", "-RRB-", ",", "solid", "line", "=", "median", "distance", "to", "target", "-LRB-", "max", "28", "-RRB-", ",", "dashed", "line", "=", "median", "visible", "molecules", "-LRB-", "max", "151", "-RRB-", ".", "129", "One", "may", "also", "ask", "whether", "our", "hypothesis", "requires", "a", "quantitative", "relation", "between", "entropy", "loss", "at", "the", "macro", "level", "and", "entropy", "gain", "at", "the", "micro", "level", ".", "A", "strict", "entropy", "balance", "is", "not", "required", ";", "the", "micro", "level", "might", "generate", "more", "entropy", "than", "the", "macro", "level", "loses", ".", "In", "operational", "terms", ",", "the", "system", "may", "have", "a", "greater", "capacity", "for", "coordination", "than", "a", "particular", "instantiation", "exploits", ".", "What", "is", "required", "is", "that", "the", "entropy", "increase", "at", "the", "micro", "level", "be", "sufficient", "to", "cover", "the", "decrease", "at", "the", "macro", "level", ",", "and", "this", "we", "have", "shown", ".", "To", "be", "effective", ",", "multi-agent", "systems", "must", "yield", "coordinated", "behavior", "from", "individually", "autonomous", "actions", ".", "Concepts", "from", "thermodynamics", "-LRB-", "in", "particular", ",", "the", "Second", "Law", "and", "entropy", "-RRB-", "have", "been", "invoked", "metaphorically", "to", "explain", "the", "conditions", "under", "which", "coordination", "can", "emerge", ".", "Our", "work", "makes", "this", "metaphor", "more", "concrete", "and", "derives", "several", "important", "insights", "from", "it", ".", "This", "metaphor", "can", "be", "made", "quantitative", ",", "through", "simple", "state", "partitioning", "methods", "and", "Monte", "Carlo", "simulation", ".", "These", "methods", "show", "how", "coordination", "can", "arise", "through", "coupling", "the", "macro", "level", "-LRB-", "in", "which", "we", "desire", "agent", "self-organization", "with", "a", "concomitant", "decrease", "in", "entropy", "-RRB-", "to", "an", "entropy-increasing", "process", "at", "a", "micro", "level", "-LRB-", "e.g.", ",", "pheromone", "evaporation", "-RRB-", ".", "Our", "demonstration", "focuses", "on", "synthetic", "pheromones", "for", "the", "sake", "of", "expositional", "simplicity", ",", "but", "we", "believe", "that", "the", "same", "approach", "would", "be", "fruitful", "for", "understanding", "self-organization", "with", "other", "mechanisms", "of", "agent", "coordination", ",", "such", "as", "market", "systems", ".", "This", "confirmation", "of", "the", "Kugler-Turvey", "model", "encourages", "us", "as", "agent", "designers", "to", "think", "explicitly", "in", "terms", "of", "macro", "and", "micro", "levels", ",", "with", "agent", "behaviors", "at", "the", "macro", "level", "coupled", "in", "both", "directions", "-LRB-", "causally", "and", "perceptually", "-RRB-", "to", "entropy-increasing", "processes", "at", "the", "micro", "level", ".", "Some", "form", "of", "pheromone", "or", "currency", "is", "a", "convenient", "mechanism", "for", "creating", "such", "an", "entropy-increasing", "process", ".", "Researchers", "must", "distinguish", "between", "static", "and", "dynamic", "order", "in", "a", "multi-agent", "system", ".", "We", "have", "exhibited", "a", "system", "that", "appears", "intuitively", "to", "be", "self-organizing", ",", "and", "shown", "that", "the", "measure", "of", "order", "underlying", "this", "intuition", "is", "dynamic", "rather", "than", "static", ".", "This", "work", "is", "supported", "in", "part", "by", "the", "DARPA", "JFACC", "program", "under", "contract", "F30602-99-C-0202", "to", "ERIM", "CEC", ".", "The", "views", "and", "conclusions", "in", "this", "document", "are", "those", "of", "the", "authors", "and", "should", "not", "be", "interpreted", "as", "representing", "the", "official", "policies", ",", "either", "expressed", "or", "implied", ",", "of", "the", "Defense", "Advanced", "Research", "Projects", "Agency", "or", "the", "US", "Government", ".", "-LSB-", "1", "-RSB-", "E.", "Bonabeau", ",", "M.", "Dorigo", ",", "and", "G.", "Theraulaz", ".", "Swarm", "Intelligence", ":", "From", "Natural", "to", "Artificial", "Systems", ".", "New", "York", ",", "Oxford", "University", "Press", ",", "1999", ".", "-LSB-", "2", "-RSB-", "S.", "Brueckner", ".", "Return", "from", "the", "Ant", ":", "Synthetic", "Ecosystems", "for", "Manufacturing", "Control", ".", "Thesis", "at", "Humboldt", "University", "Berlin", ",", "Department", "of", "Computer", "Science", ",", "2000", ".", "-LSB-", "3", "-RSB-", "E.", "Fredkin", ".", "Finite", "Nature", ".", "In", "Proceedings", "of", "The", "XXVIIth", "Recontre", "de", "Moriond", ",", "1992", ".", "-LSB-", "4", "-RSB-", "P.-P", ".", "Grass", ".", "La", "Reconstruction", "du", "nid", "et", "les", "Coordinations", "Inter-Individuelles", "chez", "Bellicositermes", "Natalensis", "et", "Cubitermes", "sp.", ".", "La", "th", "orie", "de", "la", "Stigmergie", ":", "Essai", "d'interpr", "tation", "du", "Comportement", "des", "Termites", "Constructeurs", ".", "Insectes", "Sociaux", ",", "6:41-80", ",", "1959", ".", "-LSB-", "5", "-RSB-", "H.", "A.", "Gutowitz", ".", "Complexity-Seeking", "Ants", ".", "In", "Proceedings", "of", "Third", "European", "Conference", "on", "Artifical", "Life", ",", "1993", ".", "-LSB-", "6", "-RSB-", "B.", "Hayes", ".", "Computational", "Creationism", ".", "American", "Scientist", ",", "87", "-LRB-", "5", "-RRB-", ":", "392-396", ",", "1999", ".", "-LSB-", "7", "-RSB-", "P.", "N.", "Kugler", "and", "M.", "T.", "Turvey", ".", "Information", ",", "Natural", "Law", ",", "and", "the", "Self-Assembly", "of", "Rhythmic", "Movement", ".", "Lawrence", "Erlbaum", ",", "1987", ".", "-LSB-", "8", "-RSB-", "F.", "L.", "Lambert", ".", "Shuffled", "Cards", ",", "Messy", "Desks", ",", "and", "Disorderly", "Dorm", "Rooms", "-", "Examples", "of", "Entropy", "Increase", "?", "Nonsense", "!", "Journal", "of", "Chemical", "Education", ",", "76:1385", ",", "1999", ".", "-LSB-", "9", "-RSB-", "F.", "L.", "Lambert", ".", "The", "Second", "Law", "of", "Thermodynamics", ".", "2000", ".", "Web", "Page", ",", "http://www.secondlaw.com/", ".", "-LSB-", "10", "-RSB-", "J.", "Lukkarinen", ".", "Re", ":", "continuing", "on", "Entropy", ".", "2000", ".", "Email", "Archive", ",", "http://necsi.org:8100/Lists/complex-science/Message/2236", ".", "html", ".", "-LSB-", "11", "-RSB-", "V.", "D.", "Parunak", ".", "`", "Go", "to", "the", "Ant", "'", ":", "Engineering", "Principles", "from", "Natural", "Agent", "Systems", ".", "Annals", "of", "Operations", "Research", ",", "75:69-101", ",", "1997", ".", "-LSB-", "12", "-RSB-", "V.", "D.", "Parunak", "and", "S.", "Brueckner", ".", "Ant-Like", "Missionaries", "and", "Cannibals", ":", "Synthetic", "Pheromones", "for", "Distributed", "Motion", "Control", ".", "In", "Proceedings", "of", "Fourth", "International", "Conference", "on", "Autonomous", "Agents", "-LRB-", "Agents", "2000", "-RRB-", ",", "pages", "467-474", ",", "2000", ".", "-LSB-", "13", "-RSB-", "Peeters", ",", "P.", "Valckenaers", ",", "J.", "Wyns", ",", "and", "S.", "Brueckner", ".", "Manufacturing", "Control", "Algorithm", "and", "Architecture", ".", "In", "Proceedings", "of", "Second", "International", "Workshop", "on", "Intelligent", "Manufacturing", "Systems", ",", "pages", "877-888", ",", "K.U.", "Leuven", ",", "1999", ".", "-LSB-", "14", "-RSB-", "E.", "Shannon", "and", "W.", "Weaver", ".", "The", "Mathematical", "Theory", "of", "Communication", ".", "Urbana", ",", "IL", ",", "University", "of", "Illinois", ",", "1949", ".", "-LSB-", "15", "-RSB-", "ithsonian", "Institution", ".", "Encyclopedia", "Smithsonian", ":", "Pheromones", "in", "Insects", ".", "1999", ".", "Web", "Page", ",", "http://www.si.edu/resource/faq/nmnh/buginfo/pheromones.ht", "m.", "130"], "doc_bio_tags": ["B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["coordination", "pheromones", "entropy", "autonomy", "thermodynamic"], "abstractive_keyphrases": ["self-organization", "multi-agent system"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "62", "document": ["Creating", "a", "Massive", "Master", "Index", "for", "HTML", "and", "Print", "An", "index", "connects", "readers", "with", "information", ".", "Creating", "an", "index", "for", "a", "single", "book", "is", "a", "time-honored", "craft", ".", "Creating", "an", "index", "for", "a", "massive", "library", "of", "HTML", "topics", "is", "a", "modern", "craft", "that", "has", "largely", "been", "discarded", "in", "favor", "of", "robust", "search", "engines", ".", "The", "authors", "show", "how", "they", "optimized", "a", "single-sourced", "index", "for", "collections", "of", "HTML", "topics", ",", "printed", "books", ",", "and", "PDF", "books", ".", "With", "examples", "from", "a", "recent", "index", "of", "24,000", "entries", "for", "7,000", "distinct", "HTML", "topics", "also", "published", "as", "40", "different", "PDF", "books", ",", "the", "authors", "discuss", "the", "connections", "between", "modern", "technology", "and", "traditional", "information", "retrieval", "methods", "that", "made", "the", "index", "possible", ",", "usable", ",", "and", "efficient", "to", "create", "and", "maintain", ".", "I.", "7.2", "-LSB-", "Document", "and", "Text", "Processing", "-RSB-", ":", "Index", "Generation", ",", "Document", "Preparation", "--", "Index", "generation", ";", "H.", "3.1", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", "--", "Indexing", "methods", ";", "H3", ".7", ":", "Digital", "Libraries", ":", "User", "issues", ";", "H.", "5.4", "-LSB-", "Information", "Interfaces", "and", "Presentation", "-RSB-", ":", "Hypertext", "/", "Hypermedia-Navigation", ":", "Documentation", ",", "Design", ",", "Human", "factors", "Trademarks", "and", "Copyyright", "IBM", "and", "DB2", "are", "trademarks", "or", "registered", "trademarks", "of", "International", "Business", "Machines", "Corporation", "in", "the", "United", "States", ",", "other", "countries", ",", "or", "both", ".", "Microsoft", "and", "Windows", "are", "trademarks", "or", "registered", "trademarks", "of", "Microsoft", "Corporation", "in", "the", "United", "States", ",", "other", "countries", ",", "or", "both", ".", "JavaHelp", "and", "JavaScript", "are", "trademarks", "or", "registered", "trademarks", "of", "Sun", "Microsystems", ",", "Inc.", "in", "the", "United", "States", ",", "other", "countries", ",", "or", "both", ".", "Other", "company", ",", "product", "or", "service", "names", "may", "be", "trademarks", "or", "service", "marks", "of", "others", ".", "2002", "IBM", "Canada", "Ltd.", ".", "All", "rights", "reserved", ".", "A", "project", "with", "a", "large", "library", "of", "existing", "documentation", "of", "about", "40", "books", "-LRB-", "several", "with", "multiple", "volumes", "-RRB-", "required", "a", "high-quality", "master", "index", ".", "The", "material", "was", "written", "using", "a", "proprietary", "SGML", "authoring", "tool", "and", "converted", "to", "both", "HTML", "for", "browser-based", "information", "and", "PDF", ".", "The", "library", "was", "being", "converted", "from", "a", "set", "of", "books", "into", "a", "task-oriented", ",", "topic-based", "set", "of", "documentation", ",", "so", "very", "little", "indexing", "time", "was", "available", "for", "the", "approximately", "20", "authors", "in", "two", "sites", "fully", "engaged", "in", "rewriting", "the", "documentation", "to", "conform", "to", "new", "guidelines", "for", "online", "topics", ",", "to", "incorporate", "new", "content", ",", "and", "to", "change", "content", "for", "the", "next", "release", "of", "their", "product", ".", "The", "four", "project", "editors", "responsible", "for", "the", "complete", "library", "were", "likewise", "busy", "assisting", "the", "structural", "conversion", "of", "the", "library", ".", "Customers", "were", "asking", "for", "more", "direct", "ways", "to", "find", "information", ".", "At", "a", "user", "conference", ",", "52", "percent", "of", "users", "said", "the", "former", "book", "indexes", "were", "their", "primary", "entry", "point", "into", "product", "information", ".", "Given", "these", "imposing", "-LRB-", "but", "sadly", "typical", "-RRB-", "resource", "constraints", ",", "the", "information", "architect", "for", "the", "project", "and", "an", "editor", "with", "extensive", "indexing", "experience", "worked", "together", "to", "develop", "an", "approach", "that", "would", "use", "technology", "to", "maximize", "the", "available", "efforts", "of", "both", "authors", "and", "editors", ".", "This", "paper", "describes", "the", "approach", "from", "the", "perspectives", "of", "the", "authors", ",", "editors", ",", "and", ",", "most", "importantly", ",", "the", "users", "of", "this", "set", "of", "documentation", ".", "The", "approach", "is", "described", "in", "enough", "detail", "to", "enable", "other", "projects", "to", "adapt", "the", "approach", "to", "the", "constraints", "of", "their", "situation", ".", "The", "paper", "also", "indicates", "the", "future", "directions", "that", "the", "project", "will", "explore", ".", "The", "challenges", "to", "producing", "a", "high-quality", "master", "index", "were", "not", "just", "posed", "by", "available", "resources", "or", "by", "available", "technology", ",", "but", "also", "by", "the", "writing", "culture", "of", "the", "project", ".", "The", "project", "had", "historically", "been", "heavily", "oriented", "towards", "writing", "and", "producing", "books", "--", "the", "HTML", "documentation", "set", "had", "been", "simply", "a", "collection", "of", "books", "converted", "to", "HTML", ".", "As", "a", "result", ",", "navigation", "through", "the", "HTML", "documentation", "was", "difficult", ";", "there", "were", "almost", "no", "links", "between", "books", ",", "and", "each", "book", "was", "organized", "under", "its", "own", "table", "of", "contents", ".", "Full-text", "search", "of", "the", "HTML", "books", "had", "been", "the", "only", "method", "of", "finding", "information", "across", "the", "complete", "library", ",", "if", "a", "user", "did", "n't", "know", "which", "book", "to", "consult", "directly", ".", "The", "product", "market", "share", "was", "expanding", ",", "and", "new", "users", "had", "to", "learn", "the", "product", "quickly", ".", "However", ",", "cultural", "attitudes", "towards", "writing", "reinforced", "the", "problem", "of", "books", "as", "separate", "silos", "of", "information", ":", "authors", "were", "responsible", "for", ",", "and", "took", "justifiable", "pride", "in", ",", "producing", "their", "individual", "books", ",", "and", "while", "consistency", "in", "style", "and", "ease", "of", "access", "across", "the", "library", "was", "encouraged", ",", "it", "was", "much", "less", "important", "to", "the", "writers", "'", "satisfaction", "and", "explicit", "goals", "than", "completing", "their", "self-contained", "sets", "of", "information", "well", ".", "Earlier", ",", "the", "product", "had", "offered", "a", "PostScript", "master", "index", "as", "a", "printed", "book", "and", "a", "file", ",", "in", "response", "to", "customer", "feedback", "about", "finding", "information", "across", "the", "growing", "library", ".", "There", "was", "never", "time", "to", "improve", "it", ",", "so", "it", "was", "eventually", "dropped", ",", "but", "at", "the", "same", "time", ",", "the", "need", "for", "better", "retrievability", "of", "information", "was", "increasing", "and", "search", "did", "not", "adequately", "meet", "that", "need", ".", "Users", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "specific", "permission", "and/or", "a", "fee", ".", "SIGDOC", "'", "02", ",", "October", "20-23", ",", "Toronto", ",", "Ontario", ",", "Canada", ".", "Copyright", "2002", "ACM", "1-58113-543-2", "/", "02/0010", "...", "$", "5.00", "186", "demanded", "both", "an", "interactive", "information", "finder", "and", "an", "easily", "scanned", "printable", "index", ".", "The", "previous", "version", "of", "the", "library", "produced", "a", "master", "index", "in", "both", "PDF", "and", "PostScript", "formats", "to", "assist", "users", "on", "platforms", "on", "which", "search", "did", "not", "work", ".", "However", ",", "the", "PDF", "index", "was", "generated", "from", "the", "individual", "indexes", "of", "each", "PDF", "book", "after", "the", "content", "of", "the", "books", "had", "been", "frozen", "for", "translation", ",", "so", "there", "was", "no", "attempt", "or", "opportunity", "to", "enforce", "consistency", "in", "indexing", "style", "across", "books", ",", "even", "when", "editors", "were", "able", "to", "help", "writers", "improve", "individual", "book", "indexes", ".", "Any", "effort", "in", "directly", "editing", "the", "master", "index", "would", "have", "been", "lost", "on", "the", "library", "as", "a", "whole", "because", "the", "index", "entries", "were", "part", "of", "the", "source", "books", ".", "Even", "so", ",", "the", "process", "of", "creating", "the", "master", "index", "took", "days", "and", "required", "the", "cooperation", "of", "dozens", "of", "authors", ".", "The", "PDF", "master", "index", "was", "only", "a", "limited", "replacement", "for", "search", ",", "since", "neither", "the", "PDF", "nor", "the", "PostScript", "version", "could", "provide", "direct", "links", "to", "the", "indexed", "information", ".", "The", "PDF", "master", "index", "forced", "users", "to", "find", "and", "open", "the", "corresponding", "PDF", "or", "printed", "book", ",", "then", "find", "the", "referenced", "page", "themselves", ".", "As", "part", "of", "the", "effort", "to", "address", "the", "problems", "of", "navigating", "through", "the", "HTML", "documentation", "for", "the", "next", "release", "of", "the", "product", ",", "the", "information", "architect", "and", "the", "editors", "decided", "to", "produce", "a", "high-quality", "master", "index", "in", "HTML", ",", "even", "though", "the", "full-text", "search", "capability", "would", "be", "supported", "across", "all", "platforms", "for", "the", "next", "release", ".", "A", "frequent", "question", "early", "in", "the", "project", "was", "``", "Why", "bother", "with", "an", "online", "index", "if", "you", "have", "a", "good", "search", "engine", "?", "''", "The", "problem", "with", "search", "is", "that", "typical", "search", "solutions", "are", "limited", "to", "the", "terms", "or", "keywords", "that", "are", "found", "within", "the", "content", "matter", ",", "making", "search", "results", "a", "happy", "coincidence", "between", "the", "user", "'s", "terminology", "and", "the", "content", "'s", "terminology", ".", "If", "synonyms", "or", "preferred", "terms", "are", "addressed", "at", "all", "in", "typical", "search", "solutions", ",", "they", "are", "implemented", "as", "meta", "keywords", ".", "This", "turns", "an", "explicit", "advantage", "of", "the", "index", "-LRB-", "the", "capability", "of", "training", "the", "user", "in", "a", "product", "'s", "vocabulary", "using", "see", "or", "see", "also", "references", "-RRB-", "into", "an", "implicit", "method", "to", "improve", "search", "results", ".", "The", "terms", "used", "in", "an", "index", "reflect", "the", "indexers", "'", "knowledge", "of", "the", "subject", "matter", "and", "the", "users", "of", "that", "set", "of", "documentation", ".", "While", "search", "solutions", "typically", "provide", "the", "user", "with", "the", "title", ",", "a", "ranking", ",", "and", "occasionally", "keywords", "in", "context", ",", "an", "index", "'s", "primary", ",", "secondary", ",", "and", "tertiary", "entries", "give", "users", "more", "data", "and", "context", "with", "which", "to", "select", "the", "right", "piece", "of", "information", "to", "meet", "their", "needs", ".", "A", "previous", "version", "of", "the", "product", "shipped", "a", "PDF", "master", "index", "that", "was", "generated", "simply", "by", "collecting", "and", "sorting", "the", "author-created", ",", "book-specific", "indexes", "from", "each", "of", "the", "40", "books", ".", "An", "analysis", "of", "the", "resulting", "master", "index", "revealed", "that", "the", "indexing", "approach", "varied", "greatly", "across", "writers", ".", "There", "were", "many", "cases", "of", "inconsistent", "terminology", ".", "Singular", "versus", "plural", "nouns", ",", "preferences", "for", "verbs", "or", "nouns", ",", "and", "capitalization", "differences", "were", "the", "easiest", "problems", "to", "spot", ".", "Some", "authors", "indexed", "every", "occurrence", "of", "a", "given", "term", ",", "other", "authors", "indexed", "only", "the", "most", "significant", "usage", "of", "a", "given", "term", ",", "and", "others", "indexed", "almost", "nothing", "at", "all", ".", "Some", "authors", "indexed", "every", "possible", "synonym", "for", "a", "given", "term", ",", "and", "others", "indexed", "only", "the", "term", "itself", ".", "Some", "authors", "relied", "heavily", "on", "secondary", "and", "tertiary", "entries", "to", "lend", "structure", "to", "their", "index", ",", "while", "others", "relied", "almost", "exclusively", "on", "primary", "index", "entries", ".", "Many", "writers", "clearly", "did", "n't", "understand", "the", "significance", "of", "such", "decisions", "on", "the", "customers", "who", "would", "ultimately", "use", "the", "indexes", ".", "The", "master", "index", "was", "over", "350", "pages", ",", "and", "seemingly", "small", "differences", "in", "primary", "entries", "sometimes", "resulted", "in", "users", "having", "to", "look", "through", "several", "pages", "to", "find", "a", "specific", "entry", ".", "A", "complicating", "cultural", "problem", "was", "that", ",", "for", "many", "authors", ",", "indexing", "was", "an", "activity", "to", "be", "performed", "only", "when", "the", "content", "had", "been", "written", "and", "checked", "for", "technical", "accuracy", ".", "In", "many", "cases", ",", "this", "meant", "that", "the", "index", "for", "an", "individual", "book", "received", "very", "little", "attention", ",", "and", ",", "in", "most", "cases", ",", "the", "master", "index", "received", "no", "attention", "at", "all", ".", "It", "was", "clear", "that", "there", "were", "indexing", "problems", "throughout", "the", "library", ".", "However", ",", "without", "painstakingly", "analyzing", "each", "index", "in", "conjunction", "with", "the", "master", "index", ",", "it", "was", "impossible", "to", "determine", "what", "significant", "material", "might", "not", "have", "been", "indexed", "or", "which", "books", "had", "inconsistent", "capitalization", "and", "use", "of", "plurals", ".", "In", "the", "wake", "of", "the", "first", "master", "index", "in", "PDF", ",", "the", "editors", "initiated", "an", "attempt", "to", "address", "some", "of", "the", "most", "glaring", "inconsistencies", "by", "setting", "indexing", "guidelines", ",", "educating", "authors", "in", "the", "art", "of", "indexing", ",", "and", "encouraging", "authors", "to", "collaborate", "with", "other", "authors", "in", "the", "project", "to", "define", "standard", "indexing", "terminology", "for", "new", "or", "existing", "problem", "areas", "-LRB-", "for", "example", ",", "using", "specific", "labels", "for", "program", "entities", "so", "they", "made", "sense", "in", "the", "context", "of", "other", "entities", "from", "across", "the", "library", ",", "such", "as", "``", "SQL", "data", "type", "''", "versus", "``", "data", "type", "''", "-RRB-", ".", "The", "effort", "met", "with", "some", "success", ",", "but", "the", "process", "of", "standardizing", "terminology", "across", "the", "library", "was", "unwieldy", ":", "index", "entries", "were", "maintained", "within", "the", "source", "files", "for", "each", "book", ",", "and", "the", "average", "book", "had", "between", "50", "and", "200", "source", "files", ".", "So", ",", "making", "a", "single", "terminology", "change", "that", "affected", "10", "percent", "of", "the", "source", "files", "in", "half", "of", "the", "books", "in", "the", "library", "would", "require", "opening", ",", "editing", ",", "and", "saving", "approximately", "200", "source", "files", "that", "are", "kept", "within", "a", "version", "control", "system", ".", "At", "five", "minutes", "per", "source", "file", ",", "that", "'s", "almost", "17", "hours", "of", "work", "!", "In", "addition", ",", "the", "source", "files", "were", "often", "accessible", "only", "to", "the", "author", ",", "so", "there", "was", "a", "potential", "bottleneck", "and", "a", "conflict", "between", "demands", "on", "the", "author", "'s", "time", "to", "write", "new", "content", "or", "revise", "existing", "index", "entries", ".", "Recognizing", "these", "problems", "along", "with", "others", "related", "to", "the", "shift", "to", "a", "topic-based", "architecture", ",", "we", "proposed", "a", "solution", "that", "required", "both", "technical", "and", "cultural", "change", ".", "The", "new", "approach", "to", "indexing", "was", "a", "shift", "from", "viewing", "index", "entries", "as", "content", "owned", "by", "each", "author", "and", "created", "solely", "during", "the", "writing", "process", "to", "treating", "index", "entries", "as", "metadata", "to", "be", "created", "and", "edited", "during", "a", "separate", "process", ".", "The", "new", "topic-writing", "process", "involves", "adding", "all", "topics", "in", "the", "library", "to", "a", "relational", "database", "and", "storing", "index", "entries", "in", "a", "table", "related", "to", "the", "table", "that", "stores", "the", "topics", ".", "The", "database", "is", "affectionately", "known", "as", "Dobalina", ".", "The", "very", "nature", "of", "an", "index", "is", "a", "database", ",", "because", "they", "consist", "of", "records", "that", "are", "compiled", "into", "a", "readable", ",", "searchable", "format", "-LRB-", "Wright", ",", "2001", "-RRB-", ",", "or", "several", "for", "single-sourced", "information", ".", "The", "database", "maximized", "our", "ability", "to", "generate", "flexible", "outputs", "for", "different", "formats", ".", "The", "initial", "indexing", "pass", "took", "advantage", "of", "the", "index", "entries", "in", "the", "legacy", "documentation", ":", "a", "Perl", "script", "stripped", "the", "index", "187", "entries", "from", "the", "source", "files", ",", "replacing", "them", "with", "an", "SGML", "text", "entity", "unique", "to", "each", "file", ",", "and", "inserting", "the", "index", "entries", "into", "the", "database", ".", "Once", "the", "index", "entries", "were", "in", "the", "database", ",", "both", "authors", "and", "editors", "could", "then", "use", "a", "Web", "interface", "to", "the", "database", "to", "maintain", "the", "index", "entries", ".", "To", "build", "a", "PDF", "version", "of", "their", "books", ",", "the", "authors", "download", "a", "set", "of", "auxiliary", "SGML", "files", "from", "the", "database", "that", "define", "the", "SGML", "text", "entities", "as", "their", "corresponding", "index", "entries", ".", "The", "following", "example", "demonstrates", "how", "the", "index", "entries", "are", "dynamically", "generated", "from", "the", "database", "and", "incorporated", "into", "the", "SGML", "source", ".", "<", "!", "--", "Start", "of", "topic", "source", "file", "--", ">", "&", "index1", ";", "<", "!", "--", "Index", "text", "entity", "--", ">", "<", "p", ">", "Some", "topic", "content", ".", "<", "/", "p", ">", "<", "!", "--", "End", "of", "topic", "source", "file", "--", ">", "<", "!", "--", "Index", "entity", "definitions", "generated", "by", "database", "--", ">", "<", "!", "ENTITY", "index1", "''", "<", "index", ">", "<", "primary", ">", "SQL", "statements", "<", "/", "primary", ">", "<", "secondary", ">", "data", "definition", "<", "/", "secondary", ">", "<", "primary", ">", "data", "definition", "<", "/", "primary", ">", "<", "secondary", ">", "SQL", "statements", "<", "/", "secondary", ">", "<", "/", "index", ">", "''", ">", "5.1", "Better", "living", "through", "automation", "Storing", "the", "index", "entries", "in", "a", "database", "gives", "the", "team", "the", "ability", "to", "quickly", "generate", "the", "HTML", "master", "index", ",", "freeing", "authors", "from", "the", "requirement", "to", "painstakingly", "transform", "each", "of", "their", "books", "to", "create", "the", "individual", "indexes", "that", "composed", "the", "PDF", "master", "index", ".", "The", "process", "of", "creating", "the", "master", "index", "now", "takes", "approximately", "15", "minutes", "instead", "of", "days", ".", "Dynamic", "access", "to", "the", "entire", "set", "of", "index", "entries", "enables", "the", "team", "to", "easily", "isolate", "certain", "consistency", "problems", ",", "such", "as", "plural", "nouns", "or", "incorrect", "capitalization", ";", "to", "immediately", "identify", "topics", "without", "index", "entries", ";", "to", "help", "ensure", "library-wide", "consistency", "for", "new", "index", "terms", "by", "providing", "drop-down", "selection", "of", "terms", ";", "and", "to", "effect", "social", "change", "by", "eliminating", "the", "need", "to", "access", "source", "files", "to", "add", ",", "edit", ",", "or", "delete", "index", "entries", ".", "Spell-checking", "the", "24,000-odd", "master", "index", "entries", "takes", "about", "two", "hours", ".", "The", "changes", "to", "the", "index", "terms", "are", "made", "in", "the", "database", ",", "so", "the", "corrections", "are", "automatically", "reflected", "in", "the", "book", "indexes", ".", "The", "previous", "approach", "would", "have", "required", "communicating", "each", "correction", "to", "the", "writer", ",", "and", "the", "master", "index", "would", "still", "have", "been", "subject", "to", "the", "errors", "if", "a", "writer", "did", "not", "have", "time", "to", "integrate", "the", "changes", "throughout", "the", "affected", "source", "files", ".", "5.2", "Cultural", "and", "process", "changes", "The", "role", "of", "editors", "changed", "significantly", ";", "rather", "than", "providing", "guidance", "to", "authors", ",", "the", "editors", "collectively", "edit", "the", "master", "index", "by", "directly", "manipulating", "index", "entries", "for", "the", "entire", "library", "through", "a", "Web", "interface", ".", "More", "extensive", "or", "complicated", "changes", "to", "index", "entries", "are", "accomplished", "through", "Perl", "scripts", "that", "manipulate", "the", "database", "records", ".", "Maintaining", "index", "entries", "in", "a", "database", "enables", "new", "methods", "of", "collaboration", ";", "for", "example", ",", "a", "writing", "team", "might", "designate", "their", "most", "skilled", "indexer", "to", "index", "the", "new", "content", "for", "a", "release", ".", "Indexing", "training", "provided", "detailed", "guidelines", "for", "the", "authors", "with", "a", "hands-on", "experience", "in", "group", "indexing", ".", "The", "detailed", "guidelines", "are", "included", "in", "the", "Appendix", ".", "They", "consist", "of", "two", "tables", "--", "one", "listing", "general", "indexing", "guidelines", "and", "a", "content-oriented", "table", "that", "lists", "specific", "consistency", "rules", "for", "the", "library", ".", "They", "also", "include", "some", "guidelines", "to", "help", "writers", "improve", "the", "quality", "of", "their", "PDF", "indexes", ".", "After", "the", "index", "entries", "are", "in", "the", "database", ",", "authors", "can", "dynamically", "generate", "Web-based", "reports", "about", "the", "index", "entries", "for", "their", "book", ".", "One", "report", "simply", "lists", "the", "number", "of", "index", "entries", "per", "topic", ";", "as", "each", "topic", "should", "have", "at", "least", "one", "index", "entry", ",", "this", "is", "an", "easy", "way", "for", "writers", "to", "ensure", "that", "all", "topics", "are", "indexed", "and", "to", "see", "how", "extensively", ".", "This", "also", "helps", "writers", "meet", "the", "guideline", "that", "each", "PDF", "book", "should", "have", "no", "more", "than", "two", "locators", "for", "any", "index", "entry", "-LRB-", "primary-secondary-tertiary", "combination", "-RRB-", ",", "to", "ensure", "that", "entries", "are", "at", "the", "best", "level", "of", "detail", "for", "users", ".", "Another", "report", ",", "shown", "in", "Figure", "1", ",", "flags", "specific", "index", "entries", "that", "might", "contravene", "the", "indexing", "guidelines", ".", "For", "example", ",", "the", "report", "checks", "for", "index", "entries", "that", "differ", "only", "by", "case", "and", "primary", "index", "entries", "that", "contain", "a", "comma", ",", "as", "well", "as", "other", "conditions", ".", "A", "primary", "index", "entry", "that", "contains", "a", "comma", "typically", "suggests", "that", "the", "entry", "should", "be", "split", "into", "primary", "and", "secondary", "entries", "so", "it", "will", "nest", "with", "other", "secondary", "entries", ".", "Figure", "1", ".", "Report", "on", "inconsistent", "index", "entries", "To", "ease", "the", "authors", "'", "job", "of", "verifying", "or", "addressing", "deficiencies", "noted", "in", "the", "reports", ",", "the", "reports", "provide", "links", "to", "both", "the", "content", "of", "the", "source", "file", "-LRB-", "View", "column", "-RRB-", "and", "the", "authors", "'", "indexing", "interface", "-LRB-", "Title", "column", "-RRB-", ".", "The", "authors", "'", "screens", "are", "implemented", "as", "a", "Web-based", "form", "with", "two", "modes", "of", "work", ":", "updating", "existing", "index", "entries", ",", "and", "adding", "index", "entries", ".", "6.1", "Authors", "'", "update", "index", "screen", "The", "update", "screen", ",", "shown", "in", "Figure", "2", ",", "is", "a", "set", "of", "text", "fields", "that", "display", "the", "current", "primary", ",", "secondary", ",", "and", "tertiary", "entries", "-LRB-", "shown", "as", "i1", ",", "i2", ",", "and", "i3", ",", "respectively", "-RRB-", ".", "188", "Figure", "2", ".", "Authors", "'", "updating", "screen", "When", "authors", "update", "an", "entry", "in", "a", "text", "field", ",", "the", "status", "of", "that", "entry", "automatically", "switches", "from", "No", "Change", "to", "Edit", ".", "When", "authors", "complete", "their", "changes", ",", "they", "click", "Submit", "to", "commit", "their", "changes", "for", "any", "flagged", "entries", "to", "the", "topic", "database", ".", "In", "Figure", "2", ",", "for", "example", ",", "the", "writer", "can", "easily", "see", "that", "the", "third", "entry", "is", "n't", "done", "the", "same", "way", "as", "the", "first", "two", ",", "and", "that", "the", "third", "entry", "under", "names", "has", "an", "unnecessary", "for", ".", "Authors", "also", "have", "the", "option", "of", "deleting", "index", "entries", "by", "selecting", "the", "Delete", "radio", "button", "for", "any", "entries", ".", "After", "they", "submit", "their", "changes", ",", "they", "see", "a", "refreshed", "table", "with", "any", "deletions", "at", "the", "top", "followed", "by", "a", "list", "of", "changes", ".", "6.2", "Authors", "'", "add", "entry", "screen", "The", "Add", "Index", "Entries", "screen", ",", "shown", "in", "Figure", "3", ",", "enables", "authors", "to", "add", "index", "entries", "easily", "in", "a", "way", "that", "maintains", "consistency", "with", "the", "entries", "already", "in", "the", "database", ".", "To", "add", "a", "new", "index", "entry", "for", "a", "topic", ",", "the", "author", "begins", "by", "clicking", "the", "initial", "character", "for", "the", "new", "index", "entry", "from", "a", "drop-down", "box", ".", "Figure", "3", ".", "Selecting", "the", "initial", "character", "of", "a", "new", "index", "entry", "The", "author", "then", "selects", "the", "primary", "entry", "-LRB-", "the", "i1", "entry", "-RRB-", "from", "the", "drop-down", "box", "that", "has", "been", "dynamically", "added", "to", "the", "form", ".", "This", "box", "lists", "all", "the", "primary", "entries", "that", "start", "with", "the", "initial", "character", "selected", ".", "When", "an", "author", "picks", "a", "primary", "entry", ",", "as", "in", "Figure", "4", ",", "it", "is", "automatically", "copied", "into", "the", "i1", "entry", "text", "box", ".", "The", "author", "then", "drills", "down", "through", "the", "available", "secondary", "and", "tertiary", "entries", ",", "picking", "the", "relevant", "entries", ".", "At", "any", "time", "in", "the", "process", "of", "adding", "a", "new", "index", "entry", ",", "authors", "can", "manually", "enter", "or", "change", "the", "primary", ",", "secondary", ",", "or", "tertiary", "entries", "in", "the", "text", "boxes", "if", "the", "existing", "index", "entries", "in", "the", "database", "do", "not", "suit", "their", "needs", ".", "This", "approach", "provides", "a", "flexible", "way", "to", "limit", ",", "but", "not", "rigidly", "control", ",", "authors", "'", "indexing", "vocabulary", ".", "The", "next", "builds", "of", "the", "individual", "book", "or", "deliverable", ",", "the", "HTML", "master", "index", ",", "and", "the", "PDF", "master", "index", "reflect", "any", "new", ",", "deleted", ",", "or", "updated", "index", "entries", ".", "Figure", "4", ".", "Selecting", "the", "primary", "entry", "from", "the", "existing", "list", "While", "the", "author", "interface", "focuses", "on", "a", "book-by-book", "-LRB-", "or", "deliverable-by-deliverable", "-RRB-", "view", "of", "the", "index", ",", "the", "role", "of", "the", "editors", "in", "the", "indexing", "effort", "is", "to", "improve", "the", "quality", "of", "the", "index", "across", "the", "entire", "library", ".", "Their", "primary", "focus", "is", "on", "the", "master", "index", "in", "HTML", ".", "During", "the", "editing", "phase", ",", "a", "new", "master", "index", "in", "HTML", "was", "generated", "every", "two", "hours", "to", "enable", "the", "editors", "to", "quickly", "view", "the", "results", "of", "their", "work", ".", "The", "editors", "'", "indexing", "interface", "reflects", "their", "needs", "and", "approach", "to", "the", "task", "of", "editing", "the", "master", "index", ".", "Editors", "begin", "by", "finding", "a", "problem", "index", "entry", "in", "the", "master", "index", "using", "a", "separate", "browser", "window", ".", "Then", ",", "they", "use", "a", "string", "or", "substring", "of", "the", "primary", "index", "entry", ",", "as", "shown", "in", "Figure", "5", ",", "to", "bring", "up", "a", "listing", "of", "all", "primary", "index", "entries", "beginning", "with", "that", "string", ".", "The", "search", "is", "not", "case-sensitive", ",", "so", "any", "variations", "in", "capitalization", "are", "included", "in", "the", "search", "results", ".", "189", "Figure", "5", ".", "Editors", "'", "screen", "for", "finding", "a", "primary", "index", "entry", "The", "primary", "entry", "search", "yields", "matching", "results", "from", "across", "the", "entire", "library", ",", "so", "the", "editor", "can", "quickly", "address", "inconsistencies", "between", "two", "primary", "entries", "and", "rationalize", "secondary", "and", "tertiary", "entries", ".", "The", "list", "of", "search", "results", "appears", "in", "a", "screen", "similar", "to", "the", "authors", "'", "Show/Update/Add", "Index", "Entries", "screen", ",", "as", "shown", "in", "Figure", "6", ".", "Figure", "6", ".", "Editors", "'", "indexing", "screen", "for", "updating", "entries", "When", "an", "editor", "submits", "a", "change", ",", "the", "editors", "'", "indexing", "interface", "refreshes", "with", "the", "results", ",", "making", "it", "easy", "to", "confirm", "that", "the", "expected", "change", "was", "made", ".", "The", "next", "builds", "of", "the", "affected", "individual", "books", "or", "deliverables", ",", "the", "HTML", "master", "index", ",", "and", "the", "PDF", "master", "index", "reflect", "any", "new", ",", "deleted", ",", "or", "changed", "index", "entries", ".", "Several", "alternative", "presentation", "formats", "were", "considered", "for", "the", "HTML", "version", "of", "the", "master", "index", ".", "These", "included", "the", "format", "used", "by", "the", "individual", "book", "indexes", "in", "the", "previous", "version", "of", "the", "documentation", ",", "third-party", "formats", ",", "and", "an", "internally", "developed", "format", ".", "8.1", "Previous", "presentation", "format", "Previous", "versions", "of", "the", "HTML", "indexes", "generated", "by", "the", "project", "'s", "standard", "tools", "were", "created", "for", "individual", "books", ".", "These", "indexes", "were", "presented", "as", "nested", ",", "unordered", "lists", "of", "index", "terms", ".", "Links", "to", "the", "HTML", "pages", "were", "displayed", "as", "arbitrary", "four-digit", "integers", ",", "as", "shown", "in", "Figure", "7", ".", "If", "an", "index", "entry", "pointed", "to", "more", "than", "one", "location", "in", "the", "HTML", "book", ",", "the", "links", "were", "displayed", "as", "arbitrary", "integers", "separated", "by", "commas", ".", "Figure", "7", ".", "Previous", "index", "presentation", "format", "One", "of", "the", "disadvantages", "of", "this", "presentation", "format", "is", "that", "users", "have", "no", "criteria", "by", "which", "to", "choose", "among", "the", "links", "that", "might", "be", "presented", "for", "a", "single", "index", "entry", ".", "The", "arbitrary", "integers", "might", "even", "give", "users", "the", "impression", "of", "being", "some", "sort", "of", "relevance", "ranking", ".", "Another", "disadvantage", "is", "that", ",", "for", "a", "master", "index", "composed", "of", "approximately", "40", "books", ",", "the", "large", "number", "of", "primary", ",", "secondary", ",", "and", "tertiary", "index", "entries", "makes", "the", "index", "very", "difficult", "to", "scan", "in", "an", "online", "medium", ".", "8.2", "Third-party", "formats", "Some", "existing", "systems", "that", "support", "indexes", ",", "such", "as", "Sun", "JavaHelpTM", ",", "limit", "index", "entries", "to", "a", "one-to-one", "mapping", "between", "each", "unique", "index", "entry", "and", "a", "corresponding", "locator", ".", "This", "was", "not", "an", "acceptable", "limitation", "for", "the", "project", "'s", "large", "documentation", "set", ";", "each", "unique", "index", "entry", "needed", "to", "be", "able", "to", "map", "to", "multiple", "locators", ".", "Other", "systems", ",", "such", "as", "Microsoft", "HTML", "Help", ",", "do", "support", "multiple", "locators", "for", "a", "single", "index", "entry", "through", "the", "use", "of", "a", "pop-up", "window", "but", "do", "not", "support", "the", "operating", "systems", "supported", "by", "the", "project", ".", "Oracle", "Help", "for", "Java", "and", "Oracle", "Help", "for", "the", "Web", "-LRB-", "http://otn.oracle.com/tech/java/help/content.html", "-RRB-", "can", "display", "multiple", "topics", "per", "index", "entry", "using", "the", "topic", "titles", ",", "but", "they", "are", "currently", "limited", "to", "two", "levels", "of", "index", "entries", ".", "Oracle", "Help", "for", "the", "Web", "enables", "the", "user", "to", "type", "the", "first", "few", "characters", "of", "a", "primary", "entry", "to", "jump", "ahead", "to", "that", "section", "of", "the", "index", ",", "but", "requires", "the", "user", "to", "click", "on", "the", "index", "entry", "to", "display", "any", "links", "to", "topics", ".", "We", "decided", "to", "display", "the", "index", "in", "the", "content", "pane", "of", "a", "help", "system", "partly", "to", "enable", "portability", ".", "If", "we", "later", "decide", "to", "deliver", "our", "information", "in", "a", "different", "help", "system", "such", "as", "JavaHelp", ",", "the", "Eclipse", "help", "system", ",", "or", "Windows", "Help", "we", "can", "avoid", "any", "limitations", "in", "the", "help", "system", "'s", "built-in", "support", "for", "indexes", ".", "Trying", "to", "drop", "24,000", "index", "entries", "into", "a", "navigation", "pane", "simply", "will", "not", "deliver", "acceptable", "performance", ".", "Assuming", "that", "we", "continue", "to", "deliver", "HTML-based", "documentation", "in", "future", "versions", "of", "the", "190", "product", ",", "this", "approach", "will", "provide", "users", "of", "future", "versions", "of", "the", "product", "with", "a", "consistent", "means", "of", "accessing", "the", "master", "index", ".", "8.3", "Internally", "developed", "format", "The", "solution", "for", "this", "project", "was", "to", "provide", "an", "expanding", ",", "collapsing", "master", "index", ",", "as", "shown", "in", "Figure", "8", ".", "To", "assist", "in", "scanning", ",", "the", "HTML", "master", "index", "presents", "only", "the", "primary", "entries", "at", "first", ",", "but", "enables", "users", "to", "drill", "down", "to", "secondary", "and", "tertiary", "entries", "to", "find", "exactly", "the", "information", "they", "need", ".", "An", "index", "entry", "that", "maps", "to", "multiple", "topics", "displays", "the", "locators", "as", "a", "further", "nested", "list", "of", "links", ".", "To", "provide", "users", "with", "criteria", "by", "which", "they", "can", "judge", "which", "of", "several", "locators", "meets", "their", "needs", ",", "each", "locator", "is", "shown", "as", "the", "title", "of", "the", "corresponding", "topic", ",", "as", "illustrated", "below", ".", "Figure", "8", ".", "Current", "index", "presentation", "format", "Nielsen", "'s", "1997", "article", "``", "The", "Need", "for", "Speed", "''", "suggests", "that", "34K", "is", "the", "maximum", "size", "of", "an", "optimal", "Web", "page", "for", "a", "ten-second", "response", "time", "for", "a", "dial-up", "connection", "to", "the", "Web", ".", "However", ",", "internal", "surveys", "of", "our", "users", "indicated", "that", "most", "users", "of", "our", "product", "access", "the", "documentation", "either", "from", "a", "local", "workstation", "or", "from", "a", "web", "server", "within", "their", "company", "'s", "intranet", ".", "We", "wanted", "to", "give", "users", "the", "additional", "context", "provided", "by", "full", "topic", "titles", ",", "so", "we", "divided", "the", "content", "into", "multiple", "files", ".", "Given", "our", "typical", "user", "scenarios", ",", "we", "decided", "that", "we", "could", "allow", "somewhat", "larger", "files", "than", "recommended", "by", "Nielsen", "and", "divided", "the", "index", "by", "initial", "letter", "into", "27", "separate", "files", ",", "including", "one", "file", "for", "all", "index", "entries", "beginning", "with", "non-alphabetic", "characters", ".", "The", "resulting", "average", "size", "of", "the", "set", "of", "index", "files", "is", "100K", ",", "the", "median", "size", "of", "the", "set", "of", "index", "files", "is", "60K", ",", "and", "the", "largest", "index", "file", "is", "400K", ".", "The", "average", "index", "file", "loads", "and", "displays", "in", "less", "than", "one", "second", "from", "an", "intranet", "or", "local", "workstation", ",", "while", "the", "largest", "index", "file", "takes", "just", "over", "three", "seconds", "to", "load", "and", "display", ".", "These", "times", "are", "within", "Nielsen", "'s", "maximum", "threshold", "for", "web", "usability", ".", "While", "the", "longest", "delays", "fall", "outside", "the", "threshold", "of", "optimal", "usability", "response", "times", "of", "less", "than", "one", "second", ",", "we", "feel", "that", "the", "slightly", "increased", "initial", "load", "time", "is", "balanced", "by", "the", "ease", "of", "scanning", "an", "index", "file", "that", "contains", "all", "of", "the", "entries", "for", "an", "initial", "character", ".", "When", "we", "collected", "the", "complete", "set", "of", "24,000", "index", "entries", "in", "a", "single", "HTML", "file", ",", "the", "file", "size", "was", "over", "two", "megabytes", "and", "some", "browsers", "were", "incapable", "of", "displaying", "the", "file", ".", "The", "current", "index", "presentation", "format", "uses", "only", "two", "images", ",", "each", "smaller", "than", "one", "kilobyte", ",", "which", "are", "downloaded", "by", "the", "browser", "only", "once", ".", "Approximately", "five", "percent", "of", "the", "total", "size", "of", "the", "HTML", "index", "represents", "the", "JavaScript", "and", "CSS", "code", "that", "makes", "the", "index", "accessible", "by", "keyboard", "navigation", ".", "The", "majority", "of", "the", "content", "is", "due", "to", "the", "topic", "titles", ",", "which", "average", "29", "characters", "per", "title", ".", "Index", "entries", "average", "13", "characters", "per", "entry", ".", "Initial", "usability", "sessions", "on", "the", "current", "index", "presentation", "format", "indicate", "that", "users", "understand", "how", "to", "work", "with", "the", "expanding", "and", "collapsing", "lists", ",", "prefer", "this", "format", "to", "our", "previous", "index", "format", ",", "and", "find", "the", "performance", "of", "the", "index", "from", "an", "intranet", "or", "from", "a", "locally", "workstation", "acceptable", ".", "However", ",", "as", "these", "sessions", "drew", "on", "the", "experiences", "of", "only", "four", "users", ",", "we", "recognize", "the", "need", "to", "do", "further", "research", "to", "confirm", "the", "validity", "of", "this", "presentation", "format", ".", "In", "PDF", ",", "the", "individual", "book", "indexes", "look", "like", "regular", "book", "indexes", ";", "that", "is", ",", "they", "display", "the", "index", "entries", "and", "one", "or", "more", "page", "numbers", "for", "those", "index", "entries", ".", "The", "decision", "to", "associate", "index", "entries", "with", "entire", "topics", "has", "the", "detrimental", "effect", "of", "forcing", "all", "index", "entries", "for", "a", "given", "topic", "to", "point", "to", "the", "beginning", "of", "that", "topic", ".", "For", "topics", "that", "are", "longer", "than", "a", "page", ",", "users", "might", "have", "to", "browse", "through", "subsequent", "pages", "to", "find", "the", "information", "represented", "by", "the", "index", "entry", "in", "which", "they", "are", "interested", ".", "However", ",", "length", "should", "not", "be", "an", "issue", "for", "most", "topics", ",", "as", "authors", "are", "encouraged", "to", "keep", "topics", "short", "to", "ensure", "good", "online", "display", ".", "The", "exception", "is", "some", "reference", "topics", ":", "a", "topic", "covering", "the", "syntax", "of", "a", "single", "command", "might", "be", "over", "20", "pages", ",", "and", "a", "user", "might", "legitimately", "be", "interested", "in", "just", "one", "of", "the", "optional", "arguments", "for", "that", "command", ".", "In", "future", "iterations", "of", "the", "topic", "database", "we", "hope", "to", "enable", "a", "more", "granular", "indexing", "strategy", "to", "address", "this", "shortcoming", ".", "We", "decided", "to", "optimize", "our", "indexing", "effort", "for", "the", "master", "index", "-LRB-", "both", "in", "HTML", "and", "PDF", "-RRB-", ",", "rather", "than", "for", "individual", "book", "indexes", ",", "so", "we", "had", "to", "relax", "some", "traditional", "indexing", "guidelines", ".", "One", "decision", "we", "made", "was", "to", "allow", "individual", "book", "indexes", "to", "contain", "primary", "entries", "with", "only", "a", "single", "secondary", "entry", ".", "Rather", "than", "concatenating", "such", "entries", "with", "a", "comma", ",", "we", "decided", ",", "for", "the", "sake", "of", "the", "master", "index", ",", "to", "keep", "these", "entries", "as", "primary", "and", "secondary", "entries", ".", "The", "following", "example", "demonstrates", "how", "an", "individual", "book", "index", "is", "normally", "edited", "to", "concatenate", "the", "primary", "and", "secondary", "entries", ":", "SQL", "statements", ",", "overview", "453", "However", ",", "to", "optimize", "such", "entries", "for", "the", "master", "index", ",", "the", "individual", "book", "index", "must", "contain", "distinct", "primary", "entries", "with", "a", "lone", "secondary", "entry", ",", "as", "in", "the", "following", "example", ":", "SQL", "statements", "overview", "453", "We", "felt", "that", "this", "decline", "in", "usability", "of", "the", "individual", "book", "indexes", "would", "be", "recouped", "by", "reducing", "the", "number", "of", "comma-spliced", "entries", "in", "the", "master", "index", ",", "as", "shown", "in", "the", "following", "example", "from", "the", "PDF", "version", "-LRB-", "the", "identifiers", "in", "front", "of", "the", "page", "numbers", "are", "short", "forms", "of", "the", "book", "names", "-RRB-", ":", "191", "SQL", "statements", ",", "issuing", "ADGv1", ":", "238", "SQL", "statements", ",", "overview", "ADMINv1", ":", "453", "The", "master", "index", "instead", "presents", "the", "optimal", "arrangement", "of", "nested", "primary", "and", "secondary", "entries", ":", "SQL", "statements", "issuing", "ADGv1", ":", "238", "overview", "ADMINv1", ":", "453", "One", "indexing", "decision", "driven", "by", "the", "requirements", "of", "PDF", "that", "posed", "a", "potential", "compromise", "to", "the", "quality", "of", "the", "HTML", "master", "index", "instead", "improved", "the", "master", "index", ".", "It", "was", "necessary", "to", "artificially", "subdivide", "extremely", "long", "index", "entries", "into", "separate", "primary", "and", "secondary", "entries", "in", "PDF", "because", "the", "books", "display", "the", "index", "in", "a", "three-column", "format", ".", "A", "limitation", "of", "the", "PDF", "transform", "technology", "used", "by", "the", "authoring", "tool", "is", "that", "extremely", "long", "index", "entries", "that", "contain", "no", "spaces", ",", "such", "as", "the", "API", "keyword", "SQL_DESC_DATETIME_INTERVAL", "_", "PRECISION", ",", "bleed", "over", "column", "boundaries", "rather", "than", "wrap", "cleanly", ".", "In", "those", "cases", "where", "many", "similar", "entries", "also", "start", "with", "the", "same", "prefix", ",", "the", "prefix", "was", "turned", "into", "a", "primary", "entry", "and", "the", "remainder", "was", "indexed", "as", "a", "secondary", "entry", ".", "This", "indexing", "decision", "reduces", "the", "number", "of", "primary", "entries", "in", "the", "master", "index", ",", "making", "it", "much", "easier", "for", "the", "user", "to", "scan", "the", "primary", "entries", "in", "the", "collapsed", "HTML", "master", "index", ".", "So", "the", "preceding", "example", "becomes", "one", "of", "many", "index", "entries", "with", "the", "primary", "entry", "``", "SQL_DESC", "''", ":", "SQL_DESC", "_", "BIND_OFFSET_PRT", "DATETIME_INTERVAL_PRECISION", "DISPLAY_SIZE", "The", "HTML", "master", "index", "is", "implemented", "in", "HTML", "Version", "4.0", "using", "Cascading", "Style", "Sheets", "level", "2", "-LRB-", "CSS2", "at", "http://www.w3.org/Style/CSS/", "-RRB-", ",", "Document", "Object", "Model", "-LRB-", "DOM", "at", "http://www.w3.org/DOM/", "-RRB-", ",", "and", "ECMAScript", "262", "-LRB-", "http://www.ecma.ch/ecma1/stand/ecma-262.htm", "-RRB-", "to", "enable", "the", "expanding", "and", "collapsing", "behavior", ".", "Microsoft", "Internet", "Explorer", "5.0", "and", "higher", "and", "Netscape", "6", "and", "higher", "support", "the", "expanding", "and", "collapsing", "behavior", ".", "Other", "browsers", "degrade", "gracefully", "to", "display", "nested", "unordered", "lists", "of", "the", "index", "terms", "and", "associated", "topics", ".", "The", "topic", "database", ",", "known", "as", "``", "Dobalina", ",", "''", "is", "implemented", "with", "a", "blend", "of", "open-source", "and", "proprietary", "products", ".", "The", "relational", "database", "is", "IBM", "DB2", "Version", "7.2", "-LRB-", "http://www.software.ibm.com/data/db2/udb", "-RRB-", ",", "running", "on", "a", "reasonably", "powerful", "server", ",", "but", "it", "could", "fairly", "easily", "be", "replaced", "by", "an", "open-source", "database", "such", "as", "MySQL", "or", "PostgreSQL", ".", "The", "source", "format", "for", "documentation", "is", "SGML", "-LRB-", "produced", "with", "a", "tool", "built", "on", "ArborText", "using", "a", "proprietary", "IBMIDDOC", "DTD", "-RRB-", ",", "which", "enables", "us", "to", "dynamically", "generate", "index", "entries", "as", "text", "entities", ".", "XML", "or", "some", "sort", "of", "manipulated", "HTML", "would", "also", "fit", "easily", "into", "this", "model", ".", "The", "project", "uses", "the", "Apache", "Web", "server", "-LRB-", "http://httpd.apache.org", "-RRB-", "to", "display", "the", "Web", "scripting", "front", "end", "implemented", "in", "PHP", "-LRB-", "PHP", ":", "Hypertext", "Preprocessor", ",", "see", "http://php.apache.org", "-RRB-", ".", "PHP", "also", "creates", "the", "auxiliary", "source", "files", "used", "to", "generate", "the", "PDF", "books", ".", "The", "HTML", "master", "index", "is", "generated", "by", "a", "Perl", "script", "-LRB-", "http://www.perl.org", "-RRB-", ",", "which", "connects", "to", "the", "database", "through", "the", "Perl", "database", "interface", "module", "-LRB-", "http://dbi.perl.org", "-RRB-", ".", "Most", "of", "the", "initial", "processing", "of", "the", "documentation", "source", "files", "was", "also", "performed", "with", "Perl", "scripts", ".", "The", "index", "improvement", "process", "for", "such", "a", "large", "information", "set", "is", "planned", "over", "several", "phases", ",", "as", "shown", "in", "Table", "1", ".", "In", "this", "project", ",", "we", "are", "now", "planning", "Phase", "3", ".", "Table", "1", ".", "Phases", "of", "the", "indexing", "effort", "Phase", "1", ":", "Recognize", "the", "problem", "and", "build", "internal", "support", "Reassess", "master", "index", "quality", "problems", "Analyze", "information", "retrieval", "needs", "Experiment", "with", "scripts", "Build", "indexing", "requirements", "Develop", "indexing", "guidelines", "Collect", "user", "feedback", "Phase", "2", ":", "Create", "first", "version", "for", "writers", "and", "customers", "Create", "the", "topic", "database", "Develop", "indexing", "interfaces", "Design", "the", "presentation", "of", "the", "master", "index", "and", "do", "initial", "user", "testing", "Establish", "flexible", "controlled", "vocabulary", "process", "and", "start", "adding", "see", "references", "Train", "authors", "in", "indexing", "and", "guidelines", "Edit", "master", "index", "-LRB-", "focus", "on", "primary", "entries", "-RRB-", "Conduct", "initial", "user", "testing", "of", "index", "presentation", "format", "Phase", "3", ":", "Continue", "refining", "the", "master", "index", "Provide", "multiple", "entry", "points", "to", "the", "index", "in", "the", "product", "Implement", "See", "also", "references", "Review", "consistency", "of", "primary", "entries", "Edit", "master", "index", "-LRB-", "focus", "on", "subentries", "-RRB-", "Add", "more", "syntax", "and", "reference", "entries", "Implement", "and", "apply", "further", "reporting", "features", "Promote", "internal", "use", "and", "gather", "feedback", "on", "index", "content", "to", "refine", "user", "orientation", "of", "entries", "and", "to", "``", "fill", "holes", "''", "Do", "user", "testing", "Reuse", "user-centered", "design", "scenarios", "Phase", "4", ":", "Ensure", "completeness", "of", "contributing", "content", "areas", "Continue", "to", "develop", "reporting", "features", "to", "improve", "overall", "consistency", "Ensure", "completeness", "of", "concept", "and", "task", "entries", "Edit", "PDF", "indexes", "to", "help", "ensure", "that", "content", "is", "adequately", "indexed", "Work", "with", "each", "small", "writing", "teams", "to", "improve", "index", "coverage", "Analyze", "problems", "with", "PDF", "and", "master", "indexes", "in", "other", "languages", "Phase", "5", ":", "Maintain", "and", "continue", "improving", "index", "Establish", "iterative", "maintenance", "process", "Continue", "to", "improve", "presentation", ",", "technology", ",", "and", "content", "Build", "consensus", "to", "improve", "quality", "of", "localized", "indexes", "This", "table", "shows", "our", "actual", "process", "and", "not", "necessarily", "the", "best", "possible", "task", "flow", ".", "For", "example", ",", "ideally", ",", "See", "and", "See", "also", "references", "would", "be", "fully", "implemented", "in", "phase", "2", ".", "192", "One", "area", "for", "future", "development", "is", "the", "creation", "of", "additional", "reports", "and", "scripts", ".", "For", "example", ",", "a", "regular", "report", "could", "identify", "all", "the", "new", "entries", "that", "were", "not", "part", "of", "the", "last", "published", "index", "for", "special", "editing", "attention", ".", "We", "are", "currently", "augmenting", "our", "lists", "of", "see", "references", "for", "synonyms", ",", "competitive", "terms", ",", "and", "obsolete", "terms", ".", "We", "plan", "to", "take", "full", "advantage", "of", "the", "capabilities", "of", "our", "relational", "database", "to", "create", "mappings", "between", "deprecated", "or", "less", "acceptable", "terms", "and", "acceptable", "terms", ",", "so", "that", "any", "PDF", "book", "with", "an", "index", "entry", "for", "a", "deprecated", "term", "automatically", "includes", "cross-references", "that", "lead", "to", "the", "acceptable", "term", ".", "A", "new", "indexing", "screen", "for", "authors", ",", "with", "some", "of", "the", "function", "of", "the", "editors", "'", "indexing", "screen", ",", "will", "facilitate", "improvements", "of", "the", "PDF", "indexes", ".", "We", "'ve", "put", "a", "lot", "of", "effort", "into", "making", "what", "'s", "already", "in", "the", "index", "more", "consistent", ",", "usable", ",", "and", "predictable", ".", "But", "one", "of", "the", "biggest", "problems", "is", "to", "fill", "the", "remaining", "content", "holes", ",", "that", "is", ",", "what", "'s", "not", "yet", "indexed", ".", "Customer", ",", "developer", ",", "and", "service", "feedback", "indicates", "the", "need", "to", "improve", "the", "granularity", "of", "indexing", "reference", "topics", "that", "document", "syntax", ".", "We", "will", "also", "ensure", "that", "the", "index", "provides", "easy", "access", "to", "information", "needed", "to", "implement", "business", "and", "customer", "scenarios", "developed", "by", "the", "user-centered", "design", "and", "development", "teams", ",", "and", "continue", "to", "develop", "the", "usability", "of", "the", "index", "interfaces", "in", "the", "product", ".", "In", "Phase", "4", ",", "we", "plan", "to", "work", "with", "each", "small", "writing", "team", "on", "specific", "ways", "to", "improve", "the", "retrievability", "of", "their", "information", ".", "-LSB-", "1", "-RSB-", "Nielsen", ",", "Jakob", ",", "``", "The", "Need", "for", "Speed", ",", "''", "1997", ";", "available", "at", "http://www.useit.com/alertbox/9703a.html", "-LSB-", "2", "-RSB-", "Wright", ",", "Jan", "C.", ",", "``", "Single-Source", "Indexing", ",", "''", "Proceedings", "of", "the", "19", "th", "Annual", "International", "Conference", "on", "Systems", "Documentation", ",", "October", "2001", ";", "available", "at", "http://www.portal.acm.org", "193"], "doc_bio_tags": ["O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["navigation", "human factors", "automation", "search", "book indexes", "sql data type", "indexing problems", "information retrieval methods", "internally developed format", "massive master", "html master index", "primary index entry", "indexing"], "abstractive_keyphrases": ["drop-down selection of terms", "online information"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "89", "document": ["Evolutionary", "Learning", "with", "Kernels", ":", "A", "Generic", "Solution", "for", "Large", "Margin", "Problems", "In", "this", "paper", "we", "embed", "evolutionary", "computation", "into", "statistical", "learning", "theory", ".", "First", ",", "we", "outline", "the", "connection", "between", "large", "margin", "optimization", "and", "statistical", "learning", "and", "see", "why", "this", "paradigm", "is", "successful", "for", "many", "pattern", "recognition", "problems", ".", "We", "then", "embed", "evolutionary", "computation", "into", "the", "most", "prominent", "representative", "of", "this", "class", "of", "learning", "methods", ",", "namely", "into", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", ".", "In", "contrast", "to", "former", "applications", "of", "evolutionary", "algorithms", "to", "SVMs", "we", "do", "not", "only", "optimize", "the", "method", "or", "kernel", "parameters", ".", "We", "rather", "use", "both", "evolution", "strategies", "and", "particle", "swarm", "optimization", "in", "order", "to", "directly", "solve", "the", "posed", "constrained", "optimization", "problem", ".", "Transforming", "the", "problem", "into", "the", "Wolfe", "dual", "reduces", "the", "total", "runtime", "and", "allows", "the", "usage", "of", "kernel", "functions", ".", "Exploiting", "the", "knowledge", "about", "this", "optimization", "problem", "leads", "to", "a", "hybrid", "mutation", "which", "further", "decreases", "convergence", "time", "while", "classification", "accuracy", "is", "preserved", ".", "We", "will", "show", "that", "evolutionary", "SVMs", "are", "at", "least", "as", "accurate", "as", "their", "quadratic", "programming", "counterparts", "on", "six", "real-world", "benchmark", "data", "sets", ".", "The", "evolutionary", "SVM", "variants", "frequently", "outperform", "their", "quadratic", "programming", "competitors", ".", "Additionally", ",", "the", "proposed", "algorithm", "is", "more", "generic", "than", "existing", "traditional", "solutions", "since", "it", "will", "also", "work", "for", "non-positive", "semidefinite", "kernel", "functions", "and", "for", "several", ",", "possibly", "competing", ",", "performance", "criteria", ".", "Track", ":", "Learning", "Classifier", "Systems", "and", "other", "Genetics-Based", "Machine", "Learning", "Learning", "General", "Terms", "Algorithms", ",", "Theory", ",", "Experimentation", "In", "this", "paper", "we", "will", "discuss", "how", "evolutionary", "algorithms", "can", "be", "used", "to", "solve", "large", "margin", "optimization", "problems", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "GECCO", "'", "06", ",", "July", "8", "12", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-186-4", "/", "06/0007", "...", "$", "5.00", ".", "We", "explore", "the", "intersection", "of", "three", "highly", "active", "research", "areas", ",", "namely", "machine", "learning", ",", "statistical", "learning", "theory", ",", "and", "evolutionary", "algorithms", ".", "While", "the", "connection", "between", "statistical", "learning", "and", "machine", "learning", "was", "analyzed", "before", ",", "embedding", "evolutionary", "algorithms", "into", "this", "connection", "will", "lead", "to", "a", "more", "generic", "algorithm", "which", "can", "deal", "with", "problems", "today", "'s", "learning", "schemes", "can", "not", "cope", "with", ".", "Supervised", "machine", "learning", "is", "often", "about", "classification", "problems", ".", "A", "set", "of", "data", "points", "is", "divided", "into", "several", "classes", "and", "the", "machine", "learning", "method", "should", "learn", "a", "decision", "function", "in", "order", "to", "decide", "into", "which", "class", "an", "unseen", "data", "point", "should", "be", "classified", ".", "The", "maximization", "of", "a", "margin", "between", "data", "points", "of", "different", "classes", ",", "i.", "e.", "the", "distance", "between", "a", "decision", "hyperplane", "and", "the", "nearest", "data", "points", ",", "interferes", "with", "the", "ideas", "of", "statistical", "learning", "theory", ".", "This", "allows", "the", "definition", "of", "an", "error", "bound", "for", "the", "generalization", "error", ".", "Furthermore", ",", "the", "usage", "of", "kernel", "functions", "allows", "the", "learning", "of", "non-linear", "decision", "functions", ".", "We", "focus", "on", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", "as", "they", "are", "the", "most", "prominent", "representatives", "for", "large", "margin", "problems", ".", "Since", "SVMs", "guarantee", "an", "optimal", "solution", "for", "the", "given", "data", "set", "they", "are", "currently", "one", "of", "the", "mostly", "used", "learning", "methods", ".", "Furthermore", ",", "many", "other", "optimization", "problems", "can", "also", "be", "formulated", "as", "large", "margin", "problem", "-LSB-", "26", "-RSB-", ".", "The", "relevance", "of", "large", "margin", "methods", "can", "be", "measured", "by", "the", "number", "of", "submissions", "to", "the", "main", "machine", "learning", "conferences", "over", "the", "past", "years", "1", ".", "Usually", ",", "the", "optimization", "problem", "posed", "by", "SVMs", "is", "solved", "with", "quadratic", "programming", ".", "However", ",", "there", "are", "some", "drawbacks", ".", "First", ",", "for", "kernel", "functions", "which", "are", "not", "positive", "semidefinite", "no", "unique", "global", "optimum", "exists", ".", "In", "these", "cases", "quadratic", "programming", "is", "not", "able", "to", "find", "satisfying", "solutions", "at", "all", ".", "Moreover", ",", "most", "implementations", "do", "not", "even", "terminate", "-LSB-", "8", "-RSB-", ".", "There", "exist", "several", "useful", "non-positive", "kernels", "-LSB-", "15", "-RSB-", ",", "among", "them", "the", "sigmoid", "kernel", "which", "simulates", "a", "neural", "network", "-LSB-", "3", ",", "23", "-RSB-", ".", "A", "more", "generic", "optimization", "scheme", "should", "allow", "such", "non-positive", "kernels", "without", "the", "need", "for", "omitting", "the", "more", "efficient", "dual", "optimization", "problem", "-LSB-", "17", "-RSB-", ".", "Second", ",", "SVMs", "should", "be", "able", "to", "optimize", "several", "performance", "measures", "at", "the", "same", "time", ".", "Traditional", "SVMs", "try", "to", "maximize", "the", "prediction", "accuracy", "alone", ".", "However", ",", "depending", "on", "the", "application", "area", "other", "specific", "performance", "criteria", "should", "be", "optimized", "instead", "of", "or", "additionally", "to", "prediction", "accuracy", ".", "Although", "first", "attempts", "were", "made", "to", "incorporate", "multivariate", "performance", "measures", "into", "SVMs", "-LSB-", "13", "-RSB-", ",", "the", "problem", "is", "not", "generally", "solved", "and", "no", "solution", "exist", "1", "More", "than", "30", "%", "of", "all", "accepted", "papers", "for", "ICML", "2005", "dealt", "with", "SVMs", "and", "other", "large", "margin", "methods", ".", "1553", "for", "competing", "criteria", ".", "This", "problem", "as", "well", "as", "the", "general", "trade-off", "between", "training", "error", "and", "capacity", "could", "be", "easily", "solved", "by", "an", "-LRB-", "multi-objective", "-RRB-", "evolutionary", "optimization", "approach", ".", "Former", "applications", "of", "evolutionary", "algorithms", "to", "SVMs", "include", "the", "optimization", "of", "method", "and", "kernel", "parameters", "-LSB-", "6", ",", "19", "-RSB-", ",", "the", "selection", "of", "optimal", "feature", "subsets", "-LSB-", "7", "-RSB-", ",", "and", "the", "creation", "of", "new", "kernel", "functions", "by", "means", "of", "genetic", "programming", "-LSB-", "10", "-RSB-", ".", "The", "latter", "is", "particularly", "interesting", "since", "it", "can", "not", "be", "guaranteed", "that", "the", "resulting", "kernel", "functions", "are", "again", "positive", "semi-definite", ".", "Replacing", "the", "traditional", "optimization", "techniques", "by", "evolution", "strategies", "or", "particle", "swarm", "optimization", "can", "tackle", "both", "problems", "mentioned", "above", ".", "We", "will", "extract", "as", "much", "information", "as", "possible", "from", "the", "optimization", "problem", "at", "hand", "and", "develop", "and", "compare", "different", "search", "point", "operations", ".", "We", "will", "show", "that", "the", "proposed", "implementation", "leads", "to", "as", "good", "results", "as", "traditional", "SVMs", "on", "all", "real-world", "benchmark", "data", "sets", ".", "Additionally", ",", "the", "optimization", "is", "more", "generic", "since", "it", "also", "allows", "non-positive", "semi-definite", "kernel", "functions", "and", "the", "simultaneous", "optimization", "of", "different", ",", "maybe", "competing", ",", "criteria", ".", "1.1", "Outline", "In", "Section", "2", "we", "give", "a", "short", "introduction", "into", "the", "concept", "of", "structural", "risk", "minimization", "and", "the", "ideas", "of", "statistical", "learning", "theory", ".", "We", "will", "also", "discuss", "an", "upper", "bound", "for", "the", "generalization", "error", ".", "This", "allows", "us", "to", "formalize", "the", "optimization", "problem", "of", "large", "margin", "methods", "in", "Section", "3", ".", "We", "will", "introduce", "SVMs", "for", "the", "classification", "of", "given", "data", "points", "in", "Section", "3.1", "and", "extend", "the", "separation", "problem", "to", "non-separable", "datasets", "-LRB-", "see", "Section", "3.2", "-RRB-", "with", "non-linear", "hyperplanes", "-LRB-", "see", "Section", "3.3", "-RRB-", ".", "This", "leads", "to", "a", "constrained", "optimization", "problem", "for", "which", "we", "utilize", "evolution", "strategies", "and", "particle", "swarm", "optimization", "in", "Section", "4", ".", "We", "discuss", "several", "enhancements", "and", "a", "new", "type", "of", "mutation", "before", "we", "evaluate", "the", "proposed", "methods", "on", "real-world", "benchmark", "datasets", "in", "Section", "5", ".", "In", "this", "section", "we", "discuss", "the", "idea", "of", "structural", "risk", "minimization", ".", "Machine", "learning", "methods", "following", "this", "paradigm", "have", "a", "solid", "theoretical", "foundation", "and", "it", "is", "possible", "to", "define", "bounds", "for", "prediction", "errors", ".", "Let", "X", "IR", "m", "be", "a", "real-valued", "vector", "of", "random", "variables", ".", "Let", "Y", "IR", "be", "another", "random", "variable", ".", "X", "and", "Y", "obey", "a", "fixed", "but", "unknown", "probability", "distribution", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "Machine", "Learning", "tries", "to", "find", "a", "function", "f", "-LRB-", "x", ",", "-RRB-", "which", "predict", "the", "value", "of", "Y", "for", "a", "given", "input", "x", "X", ".", "The", "function", "class", "f", "depends", "on", "a", "vector", "of", "parameters", ",", "e.", "g.", "if", "f", "is", "the", "class", "of", "all", "polynomials", ",", "might", "be", "the", "degree", ".", "We", "define", "a", "loss", "function", "L", "-LRB-", "Y", ",", "f", "-LRB-", "X", ",", "-RRB-", "-RRB-", "in", "order", "to", "penalize", "errors", "during", "prediction", "-LSB-", "9", "-RSB-", ".", "Every", "convex", "function", "with", "arity", "2", ",", "positive", "range", ",", "and", "L", "-LRB-", "x", ",", "x", "-RRB-", "=", "0", "can", "be", "used", "as", "loss", "function", "-LSB-", "22", "-RSB-", ".", "This", "leads", "to", "a", "possible", "criterion", "for", "the", "selection", "of", "a", "function", "f", ",", "the", "expected", "risk", ":", "R", "-LRB-", "-RRB-", "=", "Z", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "dP", "-LRB-", "x", ",", "y", "-RRB-", ".", "-LRB-", "1", "-RRB-", "Since", "the", "underlying", "distribution", "is", "not", "known", "we", "are", "not", "able", "to", "calculate", "the", "expected", "risk", ".", "However", ",", "instead", "of", "estimating", "the", "probability", "distribution", "in", "order", "to", "allow", "this", "calculation", ",", "we", "directly", "estimate", "the", "expected", "risk", "by", "using", "a", "set", "of", "known", "data", "points", "T", "=", "-LCB-", "-LRB-", "x", "1", ",", "y", "1", "-RRB-", ",", "...", ",", "-LRB-", "x", "n", ",", "y", "n", "-RRB-", "-RCB-", "X", "Y", ".", "T", "is", "usually", "called", "training", "data", ".", "Using", "this", "set", "of", "data", "points", "we", "can", "calculate", "the", "empirical", "risk", ":", "R", "emp", "-LRB-", "-RRB-", "=", "1", "n", "n", "X", "i", "=", "1", "L", "-LRB-", "y", "i", ",", "f", "-LRB-", "x", "i", ",", "-RRB-", "-RRB-", ".", "-LRB-", "2", "-RRB-", "If", "training", "data", "is", "sampled", "according", "to", "P", "-LRB-", "X", ",", "Y", "-RRB-", ",", "the", "empirical", "risk", "approximates", "the", "expected", "risk", "if", "the", "number", "of", "samples", "grows", ":", "lim", "n", "R", "emp", "-LRB-", "-RRB-", "=", "R", "-LRB-", "-RRB-", ".", "-LRB-", "3", "-RRB-", "It", "is", ",", "however", ",", "a", "well", "known", "problem", "that", "for", "a", "finite", "number", "of", "samples", "the", "minimization", "of", "R", "emp", "-LRB-", "-RRB-", "alone", "does", "not", "lead", "to", "a", "good", "prediction", "model", "-LSB-", "27", "-RSB-", ".", "For", "each", "loss", "function", "L", ",", "each", "candidate", ",", "and", "each", "set", "of", "tuples", "T", "X", "Y", "with", "T", "T", "=", "exists", "another", "parameter", "vector", "so", "that", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "=", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "for", "all", "x", "T", "and", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", ">", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "for", "all", "x", "T", ".", "Therefore", ",", "the", "minimization", "of", "R", "emp", "-LRB-", "-RRB-", "alone", "does", "not", "guarantee", "the", "optimal", "selection", "of", "a", "parameter", "vector", "for", "other", "samples", "according", "to", "the", "distribution", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "This", "problem", "is", "often", "referred", "to", "as", "overfitting", ".", "At", "this", "point", "we", "use", "one", "of", "the", "main", "ideas", "of", "statistical", "learning", "theory", ".", "Think", "of", "two", "different", "functions", "perfectly", "approximating", "a", "given", "set", "of", "training", "points", ".", "The", "first", "function", "is", "a", "linear", "function", ",", "i.", "e.", "a", "simple", "hyperplane", "in", "the", "considered", "space", "IR", "m", ".", "The", "second", "function", "also", "hits", "all", "training", "points", "but", "is", "strongly", "wriggling", "in", "between", ".", "Naturally", ",", "if", "we", "had", "to", "choose", "between", "these", "two", "approximation", "functions", ",", "we", "tend", "to", "select", "the", "more", "simple", "one", ",", "i.", "e.", "the", "linear", "hyperplane", "in", "this", "example", ".", "This", "derives", "from", "the", "observation", "that", "more", "simple", "functions", "behave", "better", "on", "unseen", "examples", "than", "very", "complicated", "functions", ".", "Since", "the", "mere", "minimization", "of", "the", "empirical", "risk", "according", "to", "the", "training", "data", "is", "not", "appropriate", "to", "find", "a", "good", "generalization", ",", "we", "incorporate", "the", "capacity", "2", "of", "the", "used", "function", "into", "the", "optimization", "problem", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "This", "leads", "to", "the", "minimization", "of", "the", "structural", "risk", "R", "struct", "-LRB-", "-RRB-", "=", "R", "emp", "-LRB-", "-RRB-", "+", "-LRB-", "-RRB-", ".", "-LRB-", "4", "-RRB-", "is", "a", "function", "which", "measures", "the", "capacity", "of", "the", "function", "class", "f", "depending", "on", "the", "parameter", "vector", ".", "Since", "the", "empirical", "risk", "is", "usually", "a", "monotonically", "decreasing", "function", "of", ",", "we", "use", "to", "manage", "the", "trade-off", "between", "training", "error", "and", "capacity", ".", "Methods", "minimizing", "this", "type", "of", "risk", "function", "are", "known", "as", "shrinkage", "estimators", "-LSB-", "11", "-RSB-", ".", "2.1", "Bound", "on", "the", "generalization", "performance", "For", "certain", "functions", "the", "structural", "risk", "is", "an", "upper", "bound", "for", "the", "empirical", "risk", ".", "The", "capacity", "of", "the", "function", "f", "for", "a", "given", "can", "for", "example", "be", "measured", "with", "help", "of", "the", "Vapnik-Chervonenkis", "dimension", "-LRB-", "VC", "dimension", "-RRB-", "-LSB-", "27", ",", "28", "-RSB-", ".", "The", "VC", "dimension", "is", "defined", "as", "the", "cardinality", "of", "the", "biggest", "set", "of", "tuples", "which", "can", "separated", "with", "help", "of", "f", "in", "all", "possible", "ways", ".", "For", "example", ",", "the", "VC", "dimension", "of", "linear", "hyperplanes", "in", "an", "m-dimensional", "space", "is", "m", "+1", ".", "Using", "the", "VC", "dimension", "as", "a", "measure", "for", "capacity", "leads", "to", "a", "probabilistic", "bound", "for", "the", "structural", "risk", "-LSB-", "27", "-RSB-", ".", "Let", "f", "be", "a", "function", "class", "with", "finite", "VC", "dimension", "h", "and", "f", "-LRB-", "-RRB-", "the", "best", "solution", "for", "the", "2", "Although", "not", "the", "same", ",", "the", "capacity", "of", "a", "function", "resembles", "a", "measurement", "of", "the", "function", "complexity", ".", "In", "our", "example", "we", "measure", "the", "ability", "to", "``", "wriggle", "''", ".", "More", "details", "in", "-LSB-", "27", "-RSB-", ".", "1554", "X", "Y", "Figure", "1", ":", "The", "simultaneous", "minimization", "of", "empirical", "risk", "and", "model", "complexity", "gives", "a", "hint", "which", "function", "should", "be", "used", "in", "order", "to", "generalize", "the", "given", "data", "points", ".", "empirical", "risk", "minimization", "for", "T", "with", "|", "T", "|", "=", "n", ".", "Now", "choose", "some", "such", "that", "0", "1", ".", "Then", "for", "losses", "smaller", "than", "some", "number", "B", ",", "the", "following", "bound", "holds", "with", "probability", "1", "-", ":", "R", "-LRB-", "-RRB-", "R", "emp", "-LRB-", "-RRB-", "+", "B", "s", "h", "`", "log", "2l", "h", "+", "1", "-", "log", "4", "l", ".", "-LRB-", "5", "-RRB-", "Surprisingly", ",", "this", "bound", "is", "independent", "of", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "It", "only", "assumes", "that", "both", "the", "seen", "and", "the", "unseen", "data", "points", "are", "independently", "sampled", "according", "to", "some", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "Please", "note", "that", "this", "bound", "also", "no", "longer", "contains", "a", "weighting", "factor", "or", "any", "other", "trade-off", "at", "all", ".", "The", "existence", "of", "a", "guaranteed", "error", "bound", "is", "the", "reason", "for", "the", "great", "success", "of", "structural", "risk", "minimization", "in", "a", "wide", "range", "of", "applications", ".", "As", "discussed", "in", "the", "previous", "section", "we", "need", "to", "use", "a", "class", "of", "functions", "whose", "capacity", "can", "be", "controlled", ".", "In", "this", "section", "we", "will", "discuss", "a", "special", "form", "of", "structural", "risk", "minimization", ",", "namely", "large", "margin", "approaches", ".", "All", "large", "margin", "methods", "have", "one", "thing", "in", "common", ":", "they", "embed", "structural", "risk", "minimization", "by", "maximizing", "a", "margin", "between", "a", "linear", "function", "and", "the", "nearest", "data", "points", ".", "The", "most", "prominent", "large", "margin", "method", "for", "classification", "tasks", "is", "the", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", ".", "3.1", "Support", "Vector", "Machines", "We", "constrain", "the", "number", "of", "possible", "values", "of", "Y", "to", "2", ",", "without", "loss", "of", "generality", "these", "values", "should", "be", "-1", "and", "+1", ".", "In", "this", "case", ",", "finding", "a", "function", "f", "in", "order", "to", "decide", "which", "of", "both", "predictions", "is", "correct", "for", "an", "unseen", "data", "point", "is", "referred", "to", "as", "classification", "learning", "for", "the", "classes", "-1", "and", "+1", ".", "We", "start", "with", "the", "simplest", "case", ":", "learning", "a", "linear", "function", "from", "perfectly", "separable", "data", ".", "As", "we", "shall", "see", "in", "Section", "3.2", "and", "3.3", ",", "the", "general", "case", "-", "non-linear", "functions", "derived", "from", "non-separable", "data", "-", "leads", "to", "a", "very", "similar", "problem", ".", "If", "the", "data", "points", "are", "linearly", "separable", ",", "a", "linear", "hyperplane", "must", "exist", "in", "the", "input", "space", "IR", "m", "which", "separates", "both", "classes", ".", "This", "hyperplane", "is", "defined", "as", "H", "=", "-LCB-", "x", "|", "w", ",", "x", "+", "b", "=", "0", "-RCB-", ",", "-LRB-", "6", "-RRB-", "H", "w", "Margin", "Origin", "-", "b", "|", "w", "|", "+1", "-1", "Figure", "2", ":", "A", "simple", "binary", "classification", "problem", "for", "two", "classes", "-1", "-LRB-", "empty", "bullets", "-RRB-", "and", "+1", "-LRB-", "filled", "bullets", "-RRB-", ".", "The", "separating", "hyperplane", "is", "defined", "by", "the", "vector", "w", "and", "the", "offset", "b", ".", "The", "distance", "between", "the", "nearest", "data", "point", "-LRB-", "s", "-RRB-", "and", "the", "hyperplane", "is", "called", "margin", ".", "where", "w", "is", "normal", "to", "the", "hyperplane", ",", "|", "b", "|", "/", "|", "|", "w", "|", "|", "is", "the", "perpendicular", "distance", "of", "the", "hyperplane", "to", "the", "origin", "-LRB-", "offset", "or", "bias", "-RRB-", ",", "and", "|", "|", "w", "|", "|", "is", "the", "Euclidean", "norm", "of", "w", ".", "The", "vector", "w", "and", "the", "offset", "b", "define", "the", "position", "and", "orientation", "of", "the", "hyperplane", "in", "the", "input", "space", ".", "These", "parameters", "correspond", "to", "the", "function", "parameters", ".", "After", "the", "optimal", "parameters", "w", "and", "b", "were", "found", ",", "the", "prediction", "of", "new", "data", "points", "can", "be", "calculated", "as", "f", "-LRB-", "x", ",", "w", ",", "b", "-RRB-", "=", "sgn", "-LRB-", "w", ",", "x", "+", "b", "-RRB-", ",", "-LRB-", "7", "-RRB-", "which", "is", "one", "of", "the", "reasons", "why", "we", "constrained", "the", "classes", "to", "-1", "and", "+1", ".", "Figure", "2", "shows", "some", "data", "points", "and", "a", "separating", "hyperplane", ".", "If", "all", "given", "data", "points", "are", "correctly", "classified", "by", "the", "hyperplane", "at", "hand", "the", "following", "must", "hold", ":", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "0", ".", "-LRB-", "8", "-RRB-", "Of", "course", ",", "an", "infinite", "number", "of", "different", "hyperplanes", "exist", "which", "perfectly", "separate", "the", "given", "data", "points", ".", "However", ",", "one", "would", "intuitively", "choose", "the", "hyperplane", "which", "has", "the", "biggest", "amount", "of", "safety", "margin", "to", "both", "sides", "of", "the", "data", "points", ".", "Normalizing", "w", "and", "b", "in", "a", "way", "that", "the", "point", "-LRB-", "s", "-RRB-", "closest", "to", "the", "hyperplane", "satisfy", "|", "w", ",", "x", "i", "+", "b", "|", "=", "1", "we", "can", "transform", "equation", "8", "into", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", ".", "-LRB-", "9", "-RRB-", "We", "can", "now", "define", "the", "margin", "as", "the", "perpendicular", "distance", "of", "the", "nearest", "point", "-LRB-", "s", "-RRB-", "to", "the", "hyperplane", ".", "Consider", "two", "points", "x", "1", "and", "x", "2", "on", "opposite", "sides", "of", "the", "margin", ".", "That", "is", "w", ",", "x", "1", "+", "b", "=", "+1", "and", "w", ",", "x", "2", "+", "b", "=", "-1", "and", "w", ",", "-LRB-", "x", "1", "-", "x", "2", "-RRB-", "=", "2", ".", "The", "margin", "is", "then", "given", "by", "1", "/", "|", "|", "w", "|", "|", ".", "It", "can", "be", "shown", ",", "that", "the", "capacity", "of", "the", "class", "of", "separating", "hyperplanes", "decreases", "with", "increasing", "margin", "-LSB-", "21", "-RSB-", ".", "Maximizing", "the", "margin", "of", "a", "hyperplane", "therefore", "formalizes", "the", "structural", "risk", "minimization", "discussed", "in", "the", "previous", "section", ".", "Instead", "of", "maximizing", "1", "/", "|", "|", "w", "|", "|", "we", "could", "also", "minimize", "1", "2", "|", "|", "w", "|", "|", "2", "which", "will", "result", "into", "more", "simple", "equations", "later", ".", "This", "leads", "to", "the", "optimization", "problem", "minimize", "1", "2", "|", "|", "w", "|", "|", "2", "-LRB-", "10", "-RRB-", "subject", "to", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", ".", "-LRB-", "11", "-RRB-", "1555", "Function", "10", "is", "the", "objective", "function", "and", "the", "constraints", "from", "equation", "11", "are", "called", "inequality", "constraints", ".", "They", "form", "a", "constrained", "optimization", "problem", ".", "We", "will", "use", "a", "Lagrangian", "formulation", "of", "the", "problem", ".", "This", "allows", "us", "to", "replace", "the", "inequality", "constraints", "by", "constraints", "on", "the", "Lagrange", "multipliers", "which", "are", "easier", "to", "handle", ".", "The", "second", "reason", "is", "that", "after", "the", "transformation", "of", "the", "optimization", "problem", ",", "the", "training", "data", "will", "only", "appear", "in", "dot", "products", ".", "This", "will", "allow", "us", "to", "generalize", "the", "optimization", "to", "the", "non-linear", "case", "-LRB-", "see", "Section", "3.3", "-RRB-", ".", "We", "will", "now", "introduce", "positive", "Lagrange", "multipliers", "i", ",", "i", "=", "1", ",", "...", ",", "n", ",", "one", "for", "each", "of", "the", "inequality", "constraints", ".", "The", "Lagrangian", "has", "the", "form", "L", "P", "-LRB-", "w", ",", "b", ",", "-RRB-", "=", "12", "|", "|", "w", "|", "|", "2", "n", "X", "i", "=", "1", "i", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", ".", "-LRB-", "12", "-RRB-", "Finding", "a", "minimum", "of", "this", "function", "requires", "that", "the", "derivatives", "L", "P", "-LRB-", "w", ",", "b", ",", "-RRB-", "w", "=", "w", "n", "P", "i", "=", "1", "i", "y", "i", "x", "i", "-LRB-", "13", "-RRB-", "L", "P", "-LRB-", "w", ",", "b", ",", "-RRB-", "b", "=", "n", "P", "i", "=", "1", "i", "y", "i", "-LRB-", "14", "-RRB-", "are", "zero", ",", "i.", "e.", "w", "=", "n", "P", "i", "=", "1", "i", "y", "i", "x", "i", "-LRB-", "15", "-RRB-", "0", "=", "n", "P", "i", "=", "1", "i", "y", "i", ".", "-LRB-", "16", "-RRB-", "The", "Wolfe", "dual", ",", "which", "has", "to", "be", "maximized", ",", "results", "from", "the", "Lagrangian", "by", "substituting", "15", "and", "16", "into", "12", ",", "thus", "L", "D", "-LRB-", "w", ",", "b", ",", "-RRB-", "=", "n", "X", "i", "=", "1", "i", "-", "12", "n", "X", "i", "=", "1", "n", "X", "j", "=", "1", "y", "i", "y", "j", "i", "j", "x", "i", ",", "x", "j", ".", "-LRB-", "17", "-RRB-", "This", "leads", "to", "the", "dual", "optimization", "problem", "which", "must", "be", "solved", "in", "order", "to", "find", "a", "separating", "maximum", "margin", "hyperplane", "for", "given", "set", "of", "data", "points", ":", "maximize", "n", "P", "i", "=", "1", "i", "1", "2", "n", "P", "i", "=", "1", "n", "P", "j", "=", "1", "y", "i", "y", "j", "i", "j", "x", "i", ",", "x", "j", "-LRB-", "18", "-RRB-", "subject", "to", "i", "0", "for", "all", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "19", "-RRB-", "and", "n", "P", "i", "=", "1", "i", "y", "i", "=", "0", ".", "-LRB-", "20", "-RRB-", "From", "an", "optimal", "vector", "we", "can", "calculate", "the", "optimal", "normal", "vector", "w", "using", "equation", "15", ".", "The", "optimal", "offset", "can", "be", "calculated", "with", "help", "of", "equation", "11", ".", "Please", "note", ",", "that", "w", "is", "a", "linear", "combination", "of", "those", "data", "points", "x", "i", "with", "i", "=", "0", ".", "These", "data", "points", "are", "called", "support", "vectors", ",", "hence", "the", "name", "support", "vector", "machine", ".", "Only", "support", "vectors", "determine", "the", "position", "and", "orientation", "of", "the", "separating", "hyperplane", ",", "other", "data", "points", "might", "as", "well", "be", "omitted", "during", "learning", ".", "In", "Figure", "2", "the", "support", "vectors", "are", "marked", "with", "circles", ".", "The", "number", "of", "support", "vectors", "is", "usually", "much", "smaller", "than", "the", "total", "number", "of", "data", "points", ".", "3.2", "Non-separable", "data", "We", "now", "consider", "the", "case", "that", "the", "given", "set", "of", "data", "points", "is", "not", "linearly", "separable", ".", "The", "optimization", "problem", "discussed", "in", "the", "previous", "section", "would", "not", "have", "a", "solution", "since", "in", "this", "case", "constraint", "11", "could", "not", "be", "fulfilled", "for", "all", "i", ".", "We", "relax", "this", "constraint", "by", "introducing", "positive", "slack", "variables", "i", ",", "i", "=", "1", ",", "...", ",", "n.", "Constraint", "11", "becomes", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", "i", ".", "-LRB-", "21", "-RRB-", "In", "order", "to", "minimize", "the", "number", "of", "wrong", "classifications", "we", "introduce", "a", "correction", "term", "C", "P", "n", "i", "=", "1", "i", "into", "the", "objective", "function", ".", "The", "optimization", "problems", "then", "becomes", "minimize", "1", "2", "|", "|", "w", "|", "|", "2", "+", "C", "n", "P", "i", "=", "1", "i", "-LRB-", "22", "-RRB-", "subject", "to", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", "i", ".", "-LRB-", "23", "-RRB-", "The", "factor", "C", "determines", "the", "weight", "of", "wrong", "predictions", "as", "part", "of", "the", "objective", "function", ".", "As", "in", "the", "previous", "section", "we", "create", "the", "dual", "form", "of", "the", "Lagrangian", ".", "The", "slacking", "variables", "i", "vanish", "and", "we", "get", "the", "optimization", "problem", "maximize", "n", "P", "i", "=", "1", "i", "1", "2", "n", "P", "i", "=", "1", "n", "P", "j", "=", "1", "y", "i", "y", "j", "i", "j", "x", "i", ",", "x", "j", "-LRB-", "24", "-RRB-", "subject", "to", "0", "i", "C", "for", "all", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "25", "-RRB-", "and", "n", "P", "i", "=", "1", "i", "y", "i", "=", "0", ".", "-LRB-", "26", "-RRB-", "It", "can", "easily", "be", "seen", "that", "the", "only", "difference", "to", "the", "separable", "case", "is", "the", "additional", "upper", "bound", "C", "for", "all", "i", ".", "3.3", "Non-linear", "learning", "with", "kernels", "The", "optimization", "problem", "described", "with", "equations", "24", ",", "25", ",", "and", "26", "will", "deliver", "a", "linear", "separating", "hyperplane", "for", "arbitrary", "datasets", ".", "The", "result", "is", "optimal", "in", "a", "sense", "that", "no", "other", "linear", "function", "is", "expected", "to", "provide", "a", "better", "classification", "function", "on", "unseen", "data", "according", "to", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "However", ",", "if", "the", "data", "is", "not", "linearly", "separable", "at", "all", "the", "question", "arises", "how", "the", "described", "optimization", "problem", "can", "be", "gener-alized", "to", "non-linear", "decision", "functions", ".", "Please", "note", "that", "the", "data", "points", "only", "appear", "in", "the", "form", "of", "dot", "products", "x", "i", ",", "x", "j", ".", "A", "possible", "interpretation", "of", "this", "dot", "product", "is", "the", "similarity", "of", "these", "data", "points", "in", "the", "input", "space", "IR", "m", ".", "Now", "consider", "a", "mapping", ":", "IR", "m", "H", "into", "some", "other", "Euclidean", "space", "H", "-LRB-", "called", "feature", "space", "-RRB-", "which", "might", "be", "performed", "before", "the", "dot", "product", "is", "calculated", ".", "The", "optimization", "would", "depend", "on", "dot", "products", "in", "this", "new", "space", "H", ",", "i.", "e.", "on", "functions", "of", "the", "form", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", ".", "A", "function", "k", ":", "IR", "m", "IR", "m", "IR", "with", "the", "characteristic", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", "-LRB-", "27", "-RRB-", "is", "called", "kernel", "function", "or", "kernel", ".", "Figure", "3", "gives", "a", "rough", "idea", "how", "transforming", "the", "data", "points", "can", "help", "to", "solve", "non-linear", "problems", "with", "the", "optimization", "in", "a", "-LRB-", "higher", "dimensional", "-RRB-", "space", "where", "the", "points", "can", "be", "linearly", "separated", ".", "A", "fascinating", "property", "of", "kernels", "is", "that", "for", "some", "mappings", "a", "kernel", "k", "exists", "which", "can", "be", "calculated", "without", "actually", "performing", ".", "Since", "often", "the", "dimension", "of", "H", "is", "greater", "than", "the", "dimension", "m", "of", "the", "input", "space", "and", "H", "sometimes", "is", "even", "infinite", "dimensional", ",", "the", "usage", "of", "such", "kernels", "is", "a", "very", "efficient", "way", "to", "introduce", "non-linear", "decision", "functions", "into", "large", "margin", "approaches", ".", "Prominent", "examples", "for", "such", "efficient", "non-linear", "kernels", "are", "polynomial", "kernels", "with", "degree", "d", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "-LRB-", "x", "i", ",", "x", "j", "+", "-RRB-", "d", ",", "-LRB-", "28", "-RRB-", "radial", "basis", "function", "kernels", "-LRB-", "RBF", "kernels", "-RRB-", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "e", "|", "|", "xi", "-", "xj", "|", "|", "2", "22", "-LRB-", "29", "-RRB-", "1556", "H", "R", "m", "Figure", "3", ":", "After", "the", "transformation", "of", "all", "data", "points", "into", "the", "feature", "space", "H", "the", "non-linear", "separation", "problem", "can", "be", "solved", "with", "a", "linear", "separation", "algorithm", ".", "In", "this", "case", "a", "transformation", "in", "the", "space", "of", "polynomials", "with", "degree", "2", "was", "chosen", ".", "for", "a", ">", "0", ",", "and", "the", "sigmoid", "kernel", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "tanh", "-LRB-", "x", "i", ",", "x", "j", "-", "-RRB-", "-LRB-", "30", "-RRB-", "which", "can", "be", "used", "to", "simulate", "a", "neural", "network", ".", "and", "are", "scaling", "and", "shifting", "parameters", ".", "Since", "the", "RBF", "kernel", "is", "easy", "interpretable", "and", "often", "yields", "good", "prediction", "performance", ",", "it", "is", "used", "in", "a", "wide", "range", "of", "applications", ".", "We", "will", "also", "use", "the", "RBF", "kernel", "for", "our", "experiments", "described", "in", "section", "5", "in", "order", "to", "demonstrate", "the", "learning", "ability", "of", "the", "proposed", "SVM", ".", "We", "replace", "the", "dot", "product", "in", "the", "objective", "function", "by", "kernel", "functions", "and", "achieve", "the", "final", "optimization", "problem", "for", "finding", "a", "non-linear", "separation", "for", "non-separable", "data", "points", "maximize", "n", "P", "i", "=", "1", "i", "1", "2", "n", "P", "i", "=", "1", "n", "P", "j", "=", "1", "y", "i", "y", "j", "i", "j", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "-LRB-", "31", "-RRB-", "subject", "to", "0", "i", "C", "for", "all", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "32", "-RRB-", "and", "n", "P", "i", "=", "1", "i", "y", "i", "=", "0", ".", "-LRB-", "33", "-RRB-", "It", "can", "be", "shown", "that", "if", "the", "kernel", "k", ",", "i.", "e.", "it", "'s", "kernel", "matrix", ",", "is", "positive", "definite", ",", "the", "objective", "function", "is", "concave", "-LSB-", "2", "-RSB-", ".", "The", "optimization", "problem", "therefore", "has", "a", "global", "unique", "maximum", ".", "However", ",", "in", "some", "cases", "a", "specialized", "kernel", "function", "must", "be", "used", "to", "measure", "the", "similarity", "between", "data", "points", "which", "is", "not", "positive", "definite", ",", "sometimes", "not", "even", "positive", "semidefinite", "-LSB-", "21", "-RSB-", ".", "In", "these", "cases", "the", "usual", "quadratic", "programming", "approaches", "might", "not", "be", "able", "to", "find", "a", "global", "maximum", "in", "feasible", "time", ".", "Since", "traditional", "SVMs", "are", "not", "able", "to", "optimize", "for", "non-positive", "semidefinite", "kernel", "function", ",", "it", "is", "a", "very", "appealing", "idea", "to", "replace", "the", "usual", "quadratic", "programming", "approaches", "by", "an", "evolution", "strategies", "-LRB-", "ES", "-RRB-", "approach", "-LSB-", "1", "-RSB-", "or", "by", "particle", "swarm", "optimization", "-LRB-", "PSO", "-RRB-", "-LSB-", "14", "-RSB-", ".", "In", "this", "section", "we", "will", "describe", "both", "a", "straightforward", "application", "of", "these", "techniques", "and", "how", "we", "can", "exploit", "some", "information", "about", "our", "optimization", "problem", "and", "incorporate", "that", "information", "into", "our", "search", "operators", ".", "4.1", "Solving", "the", "dual", "problem", "and", "other", "sim-plifications", "The", "used", "optimization", "problem", "is", "the", "dual", "problem", "for", "non-linear", "separation", "of", "non-separable", "data", "developed", "in", "the", "last", "sections", "-LRB-", "equations", "31", ",", "32", ",", "and", "33", "-RRB-", ".", "Of", "course", "it", "would", "also", "be", "possible", "to", "directly", "optimize", "the", "original", "form", "of", "our", "optimization", "problem", "depicted", "in", "equations", "22", "and", "23", ".", "That", "is", ",", "we", "could", "directly", "optimize", "the", "weight", "vectors", "and", "the", "offset", ".", "As", "mentioned", "before", ",", "there", "are", "two", "drawbacks", ":", "first", ",", "the", "costs", "of", "calculating", "the", "fitness", "function", "would", "be", "much", "higher", "for", "the", "original", "optimization", "problem", "since", "the", "fulfillment", "of", "all", "n", "constraints", "must", "be", "recalculated", "for", "each", "new", "hyperplane", ".", "It", "is", "a", "lot", "easier", "to", "check", "if", "all", "0", "i", "C", "apply", ".", "Second", ",", "it", "would", "not", "be", "possible", "to", "allow", "non-linear", "learning", "with", "efficient", "kernel", "functions", "in", "the", "original", "formulation", "of", "the", "problem", ".", "Furthermore", ",", "the", "kernel", "matrix", "K", "with", "K", "ij", "=", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "can", "be", "calculated", "beforehand", "and", "the", "training", "data", "is", "never", "used", "during", "optimization", "again", ".", "This", "further", "reduces", "the", "needed", "runtime", "for", "optimization", "since", "the", "kernel", "matrix", "calculation", "is", "done", "only", "once", ".", "This", "is", "a", "nice", "example", "for", "a", "case", ",", "where", "transforming", "the", "objective", "function", "beforehand", "is", "both", "more", "efficient", "and", "allows", "enhancements", "which", "would", "not", "have", "been", "possible", "before", ".", "Transformations", "of", "the", "fitness", "functions", "became", "a", "very", "interesting", "topic", "recently", "-LSB-", "25", "-RSB-", ".", "Another", "efficiency", "improvement", "can", "be", "achieved", "by", "formulating", "the", "problem", "with", "b", "=", "0", ".", "All", "solution", "hyperplanes", "must", "then", "contain", "the", "origin", "and", "the", "constraint", "33", "will", "vanish", ".", "This", "is", "a", "mild", "restriction", "for", "high-dimensional", "spaces", "since", "the", "number", "of", "degrees", "of", "freedom", "is", "only", "decreased", "by", "one", ".", "However", ",", "during", "optimization", "we", "do", "not", "have", "to", "cope", "with", "this", "equality", "constraint", "which", "would", "take", "an", "additional", "runtime", "of", "O", "-LRB-", "n", "-RRB-", ".", "4.2", "EvoSVM", "and", "PsoSVM", "We", "developed", "a", "support", "vector", "machine", "based", "on", "evolution", "strategies", "optimization", "-LRB-", "EvoSVM", "-RRB-", ".", "We", "utilized", "three", "different", "types", "of", "mutation", "which", "will", "be", "described", "in", "this", "section", ".", "Furthermore", ",", "we", "developed", "another", "SVM", "based", "on", "particle", "swarm", "optimization", "-LRB-", "PsoSVM", "-RRB-", "which", "is", "also", "described", ".", "The", "first", "approach", "-LRB-", "EvoSVM-G", ",", "G", "for", "Gaussian", "mutation", "-RRB-", "merely", "utilizes", "a", "standard", "ES", "optimization", ".", "Individuals", "are", "the", "real-valued", "vectors", "and", "mutation", "is", "performed", "by", "adding", "a", "Gaussian", "distributed", "random", "variable", "with", "standard", "deviation", "C/10", ".", "In", "addition", ",", "a", "variance", "adaptation", "is", "conducted", "during", "optimization", "-LRB-", "1/5", "rule", "-LSB-", "18", "-RSB-", "-RRB-", ".", "Crossover", "probability", "is", "high", "-LRB-", "0.9", "-RRB-", ".", "We", "use", "tournament", "selection", "with", "a", "tournament", "size", "of", "0.25", "multiplied", "by", "the", "population", "size", ".", "The", "initial", "individuals", "are", "random", "vectors", "with", "0", "i", "C", ".", "The", "maximum", "number", "of", "generations", "is", "1000", "and", "the", "optimization", "is", "terminated", "if", "no", "improvement", "occurred", "during", "the", "last", "5", "generations", ".", "The", "population", "size", "is", "10", ".", "The", "second", "version", "is", "called", "EvoSVM-S", "-LRB-", "S", "for", "switching", "mutation", "-RRB-", ".", "Here", "we", "utilize", "the", "fact", "that", "only", "a", "small", "amount", "of", "input", "data", "points", "will", "become", "support", "vectors", "-LRB-", "sparsity", "-RRB-", ".", "On", "the", "other", "hand", ",", "one", "can", "often", "observe", "that", "non-zero", "alpha", "values", "are", "equal", "to", "the", "upper", "bound", "C", "and", "only", "a", "very", "small", "amount", "of", "support", "vectors", "exists", "with", "0", "<", "i", "<", "C.", "Therefore", ",", "we", "just", "use", "the", "well", "known", "mutation", "of", "genetic", "algorithms", "and", "switch", "between", "0", "and", "C", "with", "probability", "1/n", "for", "each", "i", ".", "The", "other", "parameters", "are", "equal", "to", "those", "described", "for", "the", "EvoSVM-G", ".", "1557", "for", "i", "=", "1", "to", "n", "do", "-LCB-", "if", "-LRB-", "random", "-LRB-", "0", ",", "1", "-RRB-", "<", "1/n", "-RRB-", "do", "-LCB-", "if", "-LRB-", "alpha_i", ">", "0", "-RRB-", "do", "-LCB-", "alpha_i", "=", "0", ";", "-RCB-", "else", "do", "-LCB-", "alpha_i", "=", "random", "-LRB-", "0", ",", "C", "-RRB-", ";", "-RCB-", "-RCB-", "-RCB-", "Figure", "4", ":", "A", "simple", "hybrid", "mutation", "which", "should", "speed-up", "the", "search", "for", "sparser", "solutions", ".", "It", "contains", "elements", "from", "standard", "mutations", "from", "both", "genetic", "algorithms", "and", "evolution", "strategies", ".", "Using", "this", "switching", "mutation", "inspired", "by", "genetic", "algorithms", "only", "allow", "i", "=", "0", "or", "i", "=", "C.", "Instead", "of", "a", "complete", "switch", "between", "0", "and", "C", "or", "a", "smooth", "change", "of", "all", "values", "i", "like", "the", "Gaussian", "mutation", "does", ",", "we", "developed", "a", "hybrid", "mutation", "combining", "both", "elements", ".", "That", "means", "that", "we", "check", "for", "each", "i", "with", "probability", "1/n", "if", "the", "value", "should", "be", "mutated", "at", "all", ".", "If", "the", "current", "value", "i", "is", "greater", "than", "0", ",", "i", "is", "set", "to", "0", ".", "If", "i", "is", "equal", "to", "0", ",", "i", "is", "set", "to", "a", "random", "value", "with", "0", "i", "C.", "Figure", "4", "gives", "an", "overview", "over", "this", "hybrid", "mutation", ".", "The", "function", "random", "-LRB-", "a", ",", "b", "-RRB-", "returns", "an", "uniformly", "distributed", "random", "number", "between", "a", "and", "b", ".", "The", "other", "parameters", "are", "the", "same", "as", "described", "for", "the", "EvoSVM-G", ".", "We", "call", "this", "version", "EvoSVM-H", "-LRB-", "H", "for", "hybrid", "-RRB-", ".", "As", "was", "mentioned", "before", ",", "the", "optimization", "problem", "usually", "is", "concave", "and", "the", "risk", "for", "local", "extrema", "is", "small", ".", "Therefore", ",", "we", "also", "applied", "a", "PSO", "technique", ".", "It", "should", "be", "inves-tigated", "if", "PSO", ",", "which", "is", "similar", "to", "the", "usual", "quadratic", "programming", "approaches", "for", "SVMs", "in", "a", "sense", "that", "the", "gradient", "information", "is", "exploited", ",", "is", "able", "to", "find", "a", "global", "optimum", "in", "shorter", "time", ".", "We", "call", "this", "last", "version", "PsoSVM", "and", "use", "a", "standard", "PSO", "with", "inertia", "weight", "0.1", ",", "local", "best", "weight", "1.0", ",", "and", "global", "best", "weight", "1.0", ".", "The", "inertia", "weight", "is", "dynami-cally", "adapted", "during", "optimization", "-LSB-", "14", "-RSB-", ".", "In", "this", "section", "we", "try", "to", "evaluate", "the", "proposed", "evolutionary", "optimization", "SVMs", ".", "We", "compare", "our", "implementation", "to", "the", "quadratic", "programming", "approaches", "usually", "applied", "to", "large", "margin", "problems", ".", "The", "experiments", "demonstrate", "the", "competitiveness", "in", "terms", "of", "classification", "error", "minimization", ",", "runtime", ",", "and", "robustness", ".", "We", "apply", "the", "discussed", "EvoSVM", "variants", "as", "well", "as", "the", "PsoSVM", "on", "six", "real-world", "benchmark", "datasets", ".", "We", "selected", "these", "datasets", "from", "the", "UCI", "machine", "learning", "repository", "-LSB-", "16", "-RSB-", "and", "the", "StatLib", "dataset", "library", "-LSB-", "24", "-RSB-", ",", "because", "they", "already", "define", "a", "binary", "classification", "task", ",", "consist", "of", "real-valued", "numbers", "only", "and", "do", "not", "contain", "missing", "values", ".", "Therefore", ",", "we", "did", "not", "need", "to", "perform", "additional", "prepro-cessing", "steps", "which", "might", "introduce", "some", "bias", ".", "The", "properties", "of", "all", "datasets", "are", "summarized", "in", "Table", "1", ".", "The", "default", "error", "corresponds", "to", "the", "error", "a", "lazy", "default", "classifier", "would", "make", "by", "always", "predicting", "the", "major", "class", ".", "Classifiers", "must", "produce", "lower", "error", "rates", "in", "order", "to", "learn", "at", "all", "instead", "of", "just", "guessing", ".", "In", "order", "to", "compare", "the", "evolutionary", "SVMs", "described", "in", "this", "paper", "with", "standard", "implementations", "we", "also", "applied", "two", "other", "SVMs", "on", "all", "datasets", ".", "Both", "SVMs", "use", "a", "Dataset", "n", "m", "Source", "Default", "Liver", "346", "6", "UCI", "0.010", "42.03", "Ionosphere", "351", "34", "UCI", "1.000", "35.90", "Sonar", "208", "60", "UCI", "1.000", "46.62", "Lawsuit", "264", "4", "StatLib", "0.010", "7.17", "Lupus", "87", "3", "StatLib", "0.001", "40.00", "Crabs", "200", "7", "StatLib", "0.100", "50.00", "Table", "1", ":", "The", "evaluation", "datasets", ".", "n", "is", "the", "number", "of", "data", "points", ",", "m", "is", "the", "dimension", "of", "the", "input", "space", ".", "The", "kernel", "parameter", "was", "optimized", "for", "the", "comparison", "SVM", "learner", "mySVM", ".", "The", "last", "column", "contains", "the", "default", "error", ",", "i.", "e.", "the", "error", "for", "always", "predicting", "the", "major", "class", ".", "slightly", "different", "optimization", "technique", "based", "on", "quadratic", "programming", ".", "The", "used", "implementations", "were", "mySVM", "-LSB-", "20", "-RSB-", "and", "LibSVM", "-LSB-", "4", "-RSB-", ".", "The", "latter", "is", "an", "adaptation", "of", "the", "widely", "used", "SV", "M", "light", "-LSB-", "12", "-RSB-", ".", "We", "use", "a", "RBF", "kernel", "for", "all", "SVMs", "and", "determine", "the", "best", "parameter", "value", "for", "with", "a", "grid", "search", "parameter", "optimization", "for", "mySVM", ".", "This", "ensures", "a", "fair", "comparison", "since", "the", "parameter", "is", "not", "optimized", "for", "one", "of", "the", "evolutionary", "SVMs", ".", "Possible", "parameters", "were", "0.001", ",", "0.01", ",", "0.1", ",", "1", "and", "10", ".", "The", "optimal", "value", "for", "each", "dataset", "is", "also", "given", "in", "Table", "1", ".", "In", "order", "to", "determine", "the", "performance", "of", "all", "methods", "we", "perform", "a", "k-fold", "cross", "validation", ".", "That", "means", "that", "the", "dataset", "T", "is", "divided", "into", "k", "disjoint", "subsets", "T", "i", ".", "For", "each", "i", "-LCB-", "1", ",", "...", ",", "k", "-RCB-", "we", "use", "T", "\\", "T", "i", "as", "training", "set", "and", "the", "remaining", "subset", "T", "i", "as", "test", "set", ".", "If", "F", "i", "is", "the", "number", "of", "wrong", "predictions", "on", "test", "set", "T", "i", "we", "calculate", "the", "average", "classification", "error", "E", "=", "1", "k", "k", "X", "i", "=", "1", "F", "i", "|", "T", "i", "|", "-LRB-", "34", "-RRB-", "over", "all", "test", "sets", "in", "order", "to", "measure", "the", "classification", "performance", ".", "In", "our", "experiments", "we", "choose", "k", "=", "20", ",", "i.", "e.", "for", "each", "evolutionary", "method", "the", "average", "and", "standard", "deviation", "of", "20", "runs", "is", "reported", ".", "All", "experiments", "were", "performed", "with", "the", "machine", "learning", "environment", "Yale", "-LSB-", "5", "-RSB-", ".", "Table", "2", "summarizes", "the", "results", "for", "different", "values", "of", "C", ".", "It", "can", "be", "seen", "that", "the", "EvoSVM", "variants", "frequently", "yield", "smaller", "classification", "errors", "than", "the", "quadratic", "programming", "counterparts", "-LRB-", "mySVM", "and", "LibSVM", "-RRB-", ".", "For", "C", "=", "1", ",", "a", "statistical", "significant", "better", "result", "was", "achieved", "by", "using", "LibSVM", "only", "for", "the", "Liver", "data", "set", ".", "For", "all", "other", "datasets", "the", "evolutionary", "optimization", "outperforms", "the", "quadratic", "programming", "approaches", ".", "The", "same", "applies", "for", "C", "=", "0.1", ".", "For", "rather", "small", "values", "of", "C", "most", "learning", "schemes", "were", "not", "able", "to", "produce", "better", "predictions", "than", "the", "default", "classifier", ".", "For", "C", "=", "0.01", ",", "however", ",", "PsoSVM", "at", "least", "provides", "a", "similar", "accuracy", "to", "LibSVM", ".", "The", "reason", "for", "higher", "errors", "of", "the", "quadratic", "programming", "approaches", "is", "probably", "a", "too", "aggressive", "termination", "criterion", ".", "Although", "this", "termination", "behavior", "further", "reduces", "runtime", "for", "mySVM", "and", "LibSVM", ",", "the", "classification", "error", "is", "often", "increased", ".", "It", "turns", "out", "that", "the", "standard", "ES", "approach", "EvoSVM-G", "using", "a", "mutation", "adding", "a", "Gaussian", "distributed", "random", "variable", "often", "outperforms", "the", "other", "SVMs", ".", "However", ",", "the", "1558", "C", "=", "1", "Liver", "Ionosphere", "Sonar", "Lawsuit", "Lupus", "Crabs", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "EvoSVM-G", "34.71", "8.60", "68", "10.81", "5.71", "80", "14.03", "4.52", "26", "2.05", "1.87", "52", "25.20", "11.77", "8", "2.25", "3.72", "25", "EvoSVM-S", "35.37", "6.39", "4", "8.49", "3.80", "9", "17.45", "6.64", "6", "2.40", "1.91", "10", "30.92", "12.42", "<", "1", "4.05", "4.63", "2", "EvoSVM-H", "34.97", "7.32", "7", "6.83", "3.87", "22", "15.41", "6.39", "10", "2.01", "1.87", "14", "24.03", "13.68", "1", "3.95", "4.31", "7", "PsoSVM", "34.78", "4.95", "8", "9.90", "4.38", "9", "16.94", "5.61", "7", "3.02", "2.83", "3", "25.22", "7.67", "<", "1", "3.40", "3.70", "2", "mySVM", "33.62", "4.31", "2", "8.56", "4.25", "4", "15.81", "5.59", "2", "1.89", "2.51", "1", "25.28", "8.58", "1", "3.00", "3.32", "1", "LibSVM", "32.72", "5.41", "2", "7.70", "3.63", "3", "14.60", "4.96", "3", "2.41", "2.64", "1", "24.14", "12.33", "1", "3.00", "4.58", "1", "F", "Test", "3.20", "-LRB-", "0.01", "-RRB-", "9.78", "-LRB-", "0.00", "-RRB-", "6.19", "-LRB-", "0.00", "-RRB-", "1.51", "-LRB-", "0.19", "-RRB-", "11.94", "-LRB-", "0.00", "-RRB-", "2.25", "-LRB-", "0.05", "-RRB-", "C", "=", "0.1", "Liver", "Ionosphere", "Sonar", "Lawsuit", "Lupus", "Crabs", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "EvoSVM-G", "33.90", "4.19", "74", "9.40", "6.14", "89", "21.72", "6.63", "35", "2.35", "1.92", "50", "24.90", "10.51", "7", "7.20", "4.36", "27", "EvoSVM-S", "35.57", "3.55", "4", "7.12", "3.54", "18", "24.90", "6.62", "4", "4.47", "2.31", "13", "25.98", "12.56", "<", "1", "7.95", "5.68", "2", "EvoSVM-H", "34.76", "4.70", "5", "6.55", "4.61", "23", "24.40", "6.09", "11", "4.16", "3.14", "19", "26.51", "13.03", "1", "6.50", "5.02", "2", "PsoSVM", "36.81", "5.04", "3", "13.96", "7.56", "10", "24.18", "6.11", "3", "3.03", "2.83", "3", "29.86", "12.84", "1", "8.15", "6.02", "1", "mySVM", "42.03", "1.46", "2", "35.90", "1.35", "2", "46.62", "1.62", "2", "7.17", "2.55", "1", "41.25", "6.92", "1", "6.50", "4.50", "1", "LibSVM", "33.08", "10.63", "2", "11.40", "6.52", "3", "22.40", "6.45", "3", "4.55", "3.25", "1", "25.29", "16.95", "1", "21.00", "12.41", "1", "F", "Test", "34.46", "-LRB-", "0.00", "-RRB-", "492.88", "-LRB-", "0.00", "-RRB-", "323.83", "-LRB-", "0.00", "-RRB-", "20.64", "-LRB-", "0.00", "-RRB-", "64.83", "-LRB-", "0.00", "-RRB-", "100.92", "-LRB-", "0.00", "-RRB-", "C", "=", "0.01", "Liver", "Ionosphere", "Sonar", "Lawsuit", "Lupus", "Crabs", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "EvoSVM-G", "42.03", "1.46", "75", "35.90", "1.35", "86", "45.33", "2.20", "39", "7.17", "2.55", "55", "40.00", "6.33", "7", "26.20", "12.66", "27", "EvoSVM-S", "42.03", "1.46", "3", "35.90", "1.35", "9", "46.62", "1.62", "4", "7.17", "2.55", "3", "40.00", "6.33", "<", "1", "8.58", "4.35", "1", "EvoSVM-H", "42.03", "1.46", "3", "35.90", "1.35", "20", "46.27", "1.42", "12", "7.17", "2.55", "3", "40.00", "6.33", "1", "7.00", "4.00", "2", "PsoSVM", "41.39", "8.59", "3", "35.90", "1.35", "4", "27.90", "6.28", "3", "7.17", "2.55", "2", "31.94", "12.70", "1", "10.05", "7.26", "1", "mySVM", "42.03", "1.46", "2", "35.90", "1.35", "2", "46.62", "1.62", "2", "7.17", "2.55", "1", "40.00", "6.33", "1", "6.50", "4.50", "1", "LibSVM", "42.03", "1.46", "2", "35.90", "1.35", "3", "28.46", "10.44", "2", "7.17", "2.55", "1", "26.11", "16.44", "1", "50.00", "0.00", "1", "F", "Test", "0.52", "-LRB-", "0.77", "-RRB-", "0.00", "-LRB-", "1.00", "-RRB-", "442.46", "-LRB-", "0.00", "-RRB-", "0.00", "-LRB-", "1.00", "-RRB-", "78.27", "-LRB-", "0.00", "-RRB-", "1095.94", "-LRB-", "0.00", "-RRB-", "Table", "2", ":", "Classification", "error", ",", "standard", "deviation", ",", "and", "runtime", "of", "all", "SVMs", "on", "the", "evaluation", "datasets", "for", "parameters", "C", "=", "1", ",", "C", "=", "0.1", ",", "and", "C", "=", "0.01", ".", "The", "runtime", "T", "is", "given", "in", "seconds", ".", "The", "last", "line", "for", "each", "table", "depicts", "the", "F", "test", "value", "and", "the", "probability", "that", "the", "results", "are", "not", "statistical", "significant", ".", "runtime", "for", "this", "approach", "is", "far", "to", "big", "to", "be", "feasible", "in", "practical", "situations", ".", "The", "mere", "GA", "based", "selection", "mutation", "switching", "between", "0", "and", "C", "converges", "much", "faster", "but", "is", "often", "less", "accurate", ".", "The", "remaining", "runtime", "differences", "between", "EvoSVM-S", "and", "the", "quadratic", "programming", "counterparts", "can", "surely", "be", "reduced", "by", "code", "optimization", ".", "The", "used", "SVM", "implementations", "are", "matured", "and", "have", "been", "optimized", "over", "the", "years", "whereas", "the", "implementations", "of", "the", "evolutionary", "approaches", "follow", "standard", "recipes", "without", "any", "code", "optimization", ".", "The", "hybrid", "version", "EvoSVM-H", "combines", "the", "best", "elements", "of", "both", "worlds", ".", "It", "converges", "nearly", "as", "fast", "as", "the", "EvoSVM-S", "and", "is", "often", "nearly", "as", "accurate", "as", "the", "EvoSVM-G", ".", "In", "some", "cases", "-LRB-", "Ionosphere", ",", "Lupus", "-RRB-", "it", "even", "outperforms", "all", "other", "SVMs", ".", "PsoSVM", "on", "the", "other", "hand", "does", "not", "provide", "the", "best", "performance", "in", "terms", "of", "classification", "error", ".", "Compared", "to", "the", "other", "evolutionary", "approaches", ",", "however", ",", "it", "converged", "much", "earlier", "than", "the", "other", "competitors", ".", "Please", "note", "that", "the", "standard", "deviations", "of", "the", "errors", "achieved", "with", "the", "evolutionary", "SVMs", "are", "similar", "to", "the", "standard", "deviations", "achieved", "with", "mySVM", "or", "LibSVM", ".", "We", "can", "therefore", "conclude", "that", "the", "evolutionary", "optimization", "is", "as", "robust", "as", "the", "quadratic", "programming", "approaches", "and", "differences", "mainly", "derives", "from", "different", "subsets", "for", "training", "and", "testing", "due", "to", "cross", "validation", "instead", "of", "the", "used", "random-ized", "heuristics", ".", "Therefore", ",", "evolutionary", "SVMs", "provide", "an", "interesting", "alternative", "to", "more", "traditional", "SVM", "implementations", ".", "Beside", "the", "similar", "results", "EvoSVM", "is", "also", "able", "to", "cope", "with", "non-positive", "definite", "kernel", "functions", "and", "multivariate", "optimization", "In", "this", "paper", "we", "connected", "evolutionary", "computation", "with", "statistical", "learning", "theory", ".", "The", "idea", "of", "large", "margin", "methods", "was", "very", "successful", "in", "many", "applications", "from", "machine", "learning", "and", "data", "mining", ".", "We", "used", "the", "most", "prominent", "representative", "of", "this", "paradigm", ",", "namely", "Support", "Vector", "Machines", ",", "and", "employed", "evolution", "strategies", "and", "particle", "swarm", "optimization", "in", "order", "to", "solve", "the", "constrained", "optimization", "problem", "at", "hand", ".", "We", "developed", "a", "hybrid", "mutation", "which", "decreases", "convergence", "time", "while", "the", "classification", "accuracy", "is", "preserved", ".", "An", "interesting", "property", "of", "large", "margin", "methods", "is", "that", "the", "runtime", "for", "fitness", "evaluation", "is", "reduced", "by", "transforming", "the", "problem", "into", "the", "dual", "problem", ".", "In", "our", "case", ",", "the", "algorithm", "is", "both", "faster", "and", "provides", "space", "for", "other", "improvements", "like", "incorporating", "a", "kernel", "function", "for", "non-linear", "classification", "tasks", ".", "This", "is", "a", "nice", "example", "how", "a", "transformation", "into", "the", "dual", "optimization", "problem", "can", "be", "exploited", "by", "evolutionary", "algorithms", ".", "We", "have", "seen", "that", "evolutionary", "SVMs", "are", "at", "least", "as", "accurate", "as", "their", "quadratic", "programming", "counterparts", ".", "For", "practical", "values", "of", "C", "the", "evolutionary", "SVM", "variants", "frequently", "outperformed", "their", "competitors", ".", "We", "can", "conclude", "that", "evolutionary", "algorithms", "proved", "as", "reliable", "as", "other", "optimization", "schemes", "for", "this", "type", "of", "problems", ".", "In", "addition", ",", "beside", "the", "inherent", "advantages", "of", "evolutionary", "algorithms", "-LRB-", "e.", "g.", "parallelization", ",", "multi-objective", "optimization", "of", "train-1559", "ing", "error", "and", "capacity", "-RRB-", "it", "is", "now", "also", "possible", "to", "employ", "non", "positive", "semidefinite", "kernel", "functions", "which", "would", "lead", "to", "unsolvable", "problems", "for", "other", "optimization", "techniques", ".", "In", "our", "future", "work", "we", "plan", "to", "make", "experiments", "with", "such", "non", "positive", "semidefinite", "kernel", "functions", ".", "This", "also", "applies", "for", "multi-objective", "optimization", "of", "both", "the", "margin", "and", "the", "training", "error", ".", "It", "turns", "out", "that", "the", "hybrid", "mutation", "delivers", "results", "nearly", "as", "accurate", "as", "the", "Gaussian", "mutation", "and", "has", "a", "similar", "convergence", "behavior", "compared", "to", "the", "switching", "mutation", "known", "from", "GAs", ".", "Future", "improvements", "could", "start", "with", "a", "switching", "mutation", "and", "can", "post-optimize", "with", "a", "Gaussian", "mutation", "after", "a", "first", "convergence", ".", "Values", "always", "remaining", "0", "or", "C", "during", "the", "first", "run", "could", "be", "omitted", "in", "the", "post-optimization", "step", ".", "It", "is", "possible", "that", "this", "mutation", "is", "even", "faster", "and", "more", "accurate", "then", "EvoSVM-H", ".", "This", "work", "was", "supported", "by", "the", "Deutsche", "Forschungsge-meinschaft", "-LRB-", "DFG", "-RRB-", "within", "the", "Collaborative", "Research", "Center", "``", "Reduction", "of", "Complexity", "for", "Multivariate", "Data", "Structures", "''", ".", "-LSB-", "1", "-RSB-", "H.-G", ".", "Beyer", "and", "H.-P", ".", "Schwefel", ".", "Evolution", "strategies", ":", "A", "comprehensive", "introduction", ".", "Journal", "Natural", "Computing", ",", "1", "-LRB-", "1", "-RRB-", ":", "2", "52", ",", "2002", ".", "-LSB-", "2", "-RSB-", "C.", "Burges", ".", "A", "tutorial", "on", "support", "vector", "machines", "for", "pattern", "recognition", ".", "Data", "Mining", "and", "Knowledge", "Discovery", ",", "2", "-LRB-", "2", "-RRB-", ":", "121", "167", ",", "1998", ".", "-LSB-", "3", "-RSB-", "G.", "Camps-Valls", ",", "J.", "Martin-Guerrero", ",", "J.", "Rojo-Alvarez", ",", "and", "E.", "Soria-Olivas", ".", "Fuzzy", "sigmoid", "kernel", "for", "support", "vector", "classifiers", ".", "Neurocomputing", ",", "62:501", "506", ",", "2004", ".", "-LSB-", "4", "-RSB-", "C.-C", ".", "Chang", "and", "C.-J", ".", "Lin", ".", "LIBSVM", ":", "a", "library", "for", "support", "vector", "machines", ",", "2001", ".", "-LSB-", "5", "-RSB-", "S.", "Fischer", ",", "R.", "Klinkenberg", ",", "I.", "Mierswa", ",", "and", "O.", "Ritthoff", ".", "Yale", ":", "Yet", "Another", "Learning", "Environment", "Tutorial", ".", "Technical", "Report", "CI-136", "/", "02", ",", "Collaborative", "Research", "Center", "531", ",", "University", "of", "Dortmund", ",", "Dortmund", ",", "Germany", ",", "2002", ".", "-LSB-", "6", "-RSB-", "F.", "Friedrichs", "and", "C.", "Igel", ".", "Evolutionary", "tuning", "of", "multiple", "svm", "parameters", ".", "In", "Proc", ".", "of", "the", "12th", "European", "Symposium", "on", "Artificial", "Neural", "Networks", "-LRB-", "ESANN", "2004", "-RRB-", ",", "pages", "519", "524", ",", "2004", ".", "-LSB-", "7", "-RSB-", "H.", "Fr", "phlich", ",", "O.", "Chapelle", ",", "and", "B.", "Sch", "olkopf", ".", "Feature", "selection", "for", "support", "vector", "machines", "using", "genetic", "algorithms", ".", "International", "Journal", "on", "Artificial", "Intelligence", "Tools", ",", "13", "-LRB-", "4", "-RRB-", ":", "791", "800", ",", "2004", ".", "-LSB-", "8", "-RSB-", "B.", "Haasdonk", ".", "Feature", "space", "interpretation", "of", "svms", "with", "indefinite", "kernels", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "27", "-LRB-", "4", "-RRB-", ":", "482", "492", ",", "2005", ".", "-LSB-", "9", "-RSB-", "T.", "Hastie", ",", "R.", "Tibshirani", ",", "and", "J.", "Friedman", ".", "The", "Elements", "of", "Statistical", "Learning", ":", "Data", "Mining", ",", "Inference", ",", "and", "Prediction", ".", "Springer", "Series", "in", "Statistics", ".", "Springer", ",", "2001", ".", "-LSB-", "10", "-RSB-", "T.", "Howley", "and", "M.", "Madden", ".", "The", "genetic", "kernel", "support", "vector", "machine", ":", "Description", "and", "evaluation", ".", "Artificial", "Intelligence", "Review", ",", "2005", ".", "-LSB-", "11", "-RSB-", "W.", "James", "and", "C.", "Stein", ".", "Estimation", "with", "quadratic", "loss", ".", "In", "Proceedings", "of", "the", "Fourth", "Berkeley", "Symposium", "on", "Mathematics", ",", "Statistics", "and", "Probability", ",", "pages", "361", "380", ",", "1960", ".", "-LSB-", "12", "-RSB-", "T.", "Joachims", ".", "Making", "large-scale", "SVM", "learning", "practical", ".", "In", "B.", "Sch", "olkopf", ",", "C.", "Burges", ",", "and", "A.", "Smola", ",", "editors", ",", "Advances", "in", "Kernel", "Methods", "-", "Support", "Vector", "Learning", ",", "chapter", "11", ".", "MIT", "Press", ",", "Cambridge", ",", "MA", ",", "1999", ".", "-LSB-", "13", "-RSB-", "T.", "Joachims", ".", "A", "support", "vector", "method", "for", "multivariate", "performance", "measures", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "pages", "377", "384", ",", "2005", ".", "-LSB-", "14", "-RSB-", "J.", "Kennedy", "and", "R.", "C.", "Eberhart", ".", "Particle", "swarm", "optimization", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Neural", "Networks", ",", "pages", "1942", "1948", ",", "1995", ".", "-LSB-", "15", "-RSB-", "H.-T", ".", "Lin", "and", "C.-J", ".", "Lin", ".", "A", "study", "on", "sigmoid", "kernels", "for", "svm", "and", "the", "training", "of", "non-psd", "kernels", "by", "smo-type", "methods", ",", "March", "2003", ".", "-LSB-", "16", "-RSB-", "D.", "Newman", ",", "S.", "Hettich", ",", "C.", "Blake", ",", "and", "C.", "Merz", ".", "UCI", "repository", "of", "machine", "learning", "databases", ",", "1998", ".", "http://www.ics.uci.edu/", "mlearn/MLRepository.html", ".", "-LSB-", "17", "-RSB-", "C.", "Ong", ",", "X.", "Mary", ",", "S.", "Canu", ",", "and", "A.", "J.", "Smola", ".", "Learning", "with", "non-positive", "kernels", ".", "In", "Proc", ".", "of", "the", "21st", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "pages", "639", "646", ",", "2004", ".", "-LSB-", "18", "-RSB-", "I.", "Rechenberg", ".", "Evolutionsstrategie", ":", "Optimierung", "technischer", "Systeme", "nach", "Prinzipien", "der", "biologischen", "Evolution", ".", "Frommann-Holzboog", ",", "1973", ".", "-LSB-", "19", "-RSB-", "T.", "Runarsson", "and", "S.", "Sigurdsson", ".", "Asynchronous", "parallel", "evolutionary", "model", "selection", "for", "support", "vector", "machines", ".", "Neural", "Information", "Processing", ",", "3", "-LRB-", "3", "-RRB-", ":", "59", "67", ",", "2004", ".", "-LSB-", "20", "-RSB-", "S.", "R", "uping", ".", "mySVM", "Manual", ".", "Universit", "at", "Dortmund", ",", "Lehrstuhl", "Informatik", "VIII", ",", "2000", ".", "http://www-ai", ".", "cs.uni-dortmund", ".", "de/SOFTWARE/MYSVM", "/", ".", "-LSB-", "21", "-RSB-", "B.", "Sch", "olkopf", "and", "A.", "J.", "Smola", ".", "Learning", "with", "Kernels", "Support", "Vector", "Machines", ",", "Regularization", ",", "Optimization", ",", "and", "Beyond", ".", "MIT", "Press", ",", "2002", ".", "-LSB-", "22", "-RSB-", "A.", "Smola", ",", "B.", "Sch", "olkopf", ",", "and", "K.-R", ".", "M", "uller", ".", "General", "cost", "functions", "for", "support", "vector", "regression", ".", "In", "Proceedings", "of", "the", "8th", "International", "Conference", "on", "Artificial", "Neural", "Networks", ",", "pages", "79", "83", ",", "1998", ".", "-LSB-", "23", "-RSB-", "A.", "J.", "Smola", ",", "Z.", "L.", "Ovari", ",", "and", "R.", "C.", "Williamson", ".", "Regularization", "with", "dot-product", "kernels", ".", "In", "Proc", ".", "of", "the", "Neural", "Information", "Processing", "Systems", "-LRB-", "NIPS", "-RRB-", ",", "pages", "308", "314", ",", "2000", ".", "-LSB-", "24", "-RSB-", "Statlib", "datasets", "archive", ".", "http://lib.stat.cmu.edu/datasets/", ".", "-LSB-", "25", "-RSB-", "T.", "Storch", ".", "On", "the", "impact", "of", "objective", "function", "transformations", "on", "evolutionary", "and", "black-box", "algorithms", ".", "In", "Proc", ".", "of", "the", "Genetic", "and", "Evolutionary", "Computation", "Conference", "-LRB-", "GECCO", "-RRB-", ",", "pages", "833", "840", ",", "2005", ".", "-LSB-", "26", "-RSB-", "B.", "Taskar", ",", "V.", "Chatalbashev", ",", "D.", "Koller", ",", "and", "C.", "Guestrin", ".", "Learning", "structured", "prediction", "models", ":", "A", "large", "margin", "approach", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "2005", ".", "-LSB-", "27", "-RSB-", "V.", "Vapnik", ".", "Statistical", "Learning", "Theory", ".", "Wiley", ",", "New", "York", ",", "1998", ".", "-LSB-", "28", "-RSB-", "V.", "Vapnik", "and", "A.", "Chervonenkis", ".", "The", "necessary", "and", "sufficient", "conditions", "for", "consistency", "in", "the", "empirical", "risk", "minimization", "method", ".", "Pattern", "Recognition", "and", "Image", "Analysis", ",", "1", "-LRB-", "3", "-RRB-", ":", "283", "305", ",", "1991", ".", "1560"], "doc_bio_tags": ["O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["evolution strategies", "large margin", "support vector machines", "kernel methods", "statistical learning theory", "kernels", "machine learning", "hybrid mutation", "evolutionary computation", "svm"], "abstractive_keyphrases": ["particle swarms"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "95", "document": ["Formally", "Deriving", "an", "STG", "Machine", "Starting", "from", "P.", "Sestoft", "semantics", "for", "lazy", "evaluation", ",", "we", "define", "a", "new", "semantics", "in", "which", "normal", "forms", "consist", "of", "variables", "pointing", "to", "lambdas", "or", "constructions", ".", "This", "is", "in", "accordance", "with", "the", "more", "recent", "changes", "in", "the", "Spineless", "Tagless", "G-machine", "-LRB-", "STG", "-RRB-", "machine", ",", "where", "constructions", "only", "appear", "in", "closures", "-LRB-", "lambdas", "only", "appeared", "in", "closures", "already", "in", "previous", "versions", "-RRB-", ".", "We", "prove", "the", "equivalence", "between", "the", "new", "semantics", "and", "Sestoft", "'s", ".", "Then", ",", "a", "sequence", "of", "STG", "machines", "are", "derived", ",", "formally", "proving", "the", "correctness", "of", "each", "derivation", ".", "The", "last", "machine", "consists", "of", "a", "few", "imperative", "instructions", "and", "its", "distance", "to", "a", "conventional", "language", "is", "minimal", ".", "The", "paper", "also", "discusses", "the", "differences", "between", "the", "final", "machine", "and", "the", "actual", "STG", "machine", "implemented", "in", "the", "Glasgow", "Haskell", "Compiler", ".", "D.", "3.1", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Formal", "Definitions", "and", "Theory", "--", "semantics", ",", "syntax", ";", "D.", "3.2", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Language", "Classifications", "--", "applicative", "-LRB-", "functional", "-RRB-", "languages", ";", "D.", "3.4", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Processors-code", "generation", ",", "compilers", ";", "F.", "3.2", "-LSB-", "Logics", "and", "meanings", "of", "programs", "-RSB-", ":", "Semantics", "of", "Programming", "Languages", "--", "operational", "semantics", "Theory", ",", "Languages", ",", "Verification", "Work", "partially", "supported", "by", "the", "Spanish", "project", "TIC", "2000-0738", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "PPDP", "'", "03", ",", "August", "27", "29", ",", "2003", ",", "Uppsala", ",", "Sweden", ".", "Copyright", "2003", "ACM", "1-58113-705-2", "/", "03/0008", "...", "$", "5.00", ".", "The", "Spineless", "Tagless", "G-machine", "-LRB-", "STG", "-RRB-", "-LSB-", "6", "-RSB-", "is", "at", "the", "heart", "of", "the", "Glasgow", "Haskell", "Compiler", "-LRB-", "GHC", "-RRB-", "-LSB-", "7", "-RSB-", "which", "is", "perhaps", "the", "Haskell", "compiler", "generating", "the", "most", "efficient", "code", ".", "For", "a", "description", "of", "Haskell", "language", "see", "-LSB-", "8", "-RSB-", ".", "Part", "of", "the", "secret", "for", "that", "is", "the", "set", "of", "analysis", "and", "transformations", "carried", "out", "at", "the", "intermediate", "representation", "level", ".", "Another", "part", "of", "the", "explanation", "is", "the", "efficient", "design", "and", "implementation", "of", "the", "STG", "machine", ".", "A", "high", "level", "description", "of", "the", "STG", "can", "be", "found", "in", "-LSB-", "6", "-RSB-", ".", "If", "the", "reader", "is", "interested", "in", "a", "more", "detailed", "view", ",", "then", "the", "only", "available", "information", "is", "the", "Haskell", "code", "of", "GHC", "-LRB-", "about", "80.000", "lines", ",", "12.000", "of", "which", "are", "devoted", "to", "the", "implementation", "of", "the", "STG", "machine", "-RRB-", "and", "the", "C", "code", "of", "its", "different", "runtime", "systems", "-LRB-", "more", "than", "40.000", "lines", "-RRB-", "-LSB-", "1", "-RSB-", ".", "In", "this", "paper", "we", "provide", "a", "step-by-step", "derivation", "of", "the", "STG", "machine", ",", "starting", "from", "a", "description", "higher-level", "than", "that", "of", "-LSB-", "6", "-RSB-", "and", "arriving", "at", "a", "description", "lower-level", "than", "that", ".", "Our", "starting", "point", "is", "a", "commonly", "accepted", "operational", "semantics", "for", "lazy", "evaluation", "provided", "by", "Peter", "Sestoft", "in", "-LSB-", "10", "-RSB-", "as", "an", "improvement", "of", "John", "Launchbury", "'s", "well-known", "definition", "in", "-LSB-", "4", "-RSB-", ".", "Then", ",", "we", "present", "the", "following", "refinements", ":", "1", ".", "A", "new", "operational", "semantics", ",", "which", "we", "call", "semantics", "S3", "--", "acknowledging", "that", "semantics", "1", "and", "2", "were", "defined", "by", "Mountjoy", "in", "a", "previous", "attempt", "-LSB-", "5", "-RSB-", "--", ",", "where", "normal", "forms", "may", "appear", "only", "in", "bindings", ".", "2", ".", "A", "first", "machine", ",", "called", "STG-1", ",", "derived", "from", "S3", "in", "which", "explicit", "replacement", "of", "pointers", "for", "variables", "is", "done", "in", "expressions", ".", "3", ".", "A", "second", "machine", "STG-2", "introducing", "environments", "in", "closures", ",", "case", "alternatives", ",", "and", "in", "the", "control", "expression", ".", "4", ".", "A", "third", "machine", ",", "called", "ISTG", "-LRB-", "I", "stands", "for", "imperative", "-RRB-", "with", "a", "very", "small", "set", "of", "elementary", "instructions", ",", "each", "one", "very", "easy", "to", "be", "implemented", "in", "a", "conventional", "language", "such", "as", "C.", "5", ".", "A", "translation", "from", "the", "language", "of", "STG-2", "to", "the", "language", "of", "ISTG", "in", "which", "the", "data", "structures", "of", "STG-2", "are", "represented", "-LRB-", "or", "implemented", "-RRB-", "by", "the", "ISTG", "data", "structures", ".", "102", "e", "x", "--", "variable", "|", "x.e", "--", "lambda", "abstraction", "|", "e", "x", "--", "application", "|", "letrec", "x", "i", "=", "e", "i", "in", "e", "--", "recursive", "let", "|", "C", "x", "i", "--", "constructor", "application", "|", "case", "e", "of", "C", "i", "x", "ij", "e", "i", "--", "case", "expression", "Figure", "1", ":", "Launchbury", "'s", "normalized", "-", "calculus", "At", "each", "refinement", ",", "a", "formal", "proof", "of", "the", "soundness", "and", "completeness", "of", "the", "lower", "level", "with", "respect", "to", "the", "upper", "one", "is", "carried", "out", "1", ".", "In", "the", "end", ",", "the", "final", "implementation", "is", "shown", "correct", "with", "respect", "to", "Sestoft", "'s", "operational", "semantics", ".", "The", "main", "contribution", "of", "the", "work", "is", "showing", "that", "an", "efficient", "machine", "such", "as", "STG", "can", "be", "presented", ",", "understood", ",", "and", "formally", "reasoned", "about", "at", "different", "levels", "of", "abstraction", ".", "Also", ",", "there", "are", "some", "differences", "between", "the", "machine", "we", "arrive", "at", "and", "the", "actual", "STG", "machine", "implemented", "in", "the", "Glasgow", "Haskell", "Compiler", ".", "We", "argue", "that", "some", "design", "decisions", "in", "the", "actual", "STG", "machine", "are", "not", "properly", "justified", ".", "The", "plan", "of", "the", "paper", "is", "as", "follows", ":", "after", "this", "introduction", ",", "in", "Section", "2", ",", "a", "new", "language", "called", "FUN", "is", "introduced", "and", "the", "semantics", "S3", "for", "this", "language", "is", "defined", ".", "Two", "theorems", "relating", "Launchbury", "'s", "original", "language", "and", "semantics", "to", "the", "new", "ones", "are", "presented", ".", "Section", "3", "defines", "the", "two", "machines", "STG-1", "and", "STG-2", ".", "Some", "propositions", "show", "the", "consistency", "between", "both", "machines", "and", "the", "correctness", "and", "completeness", "of", "STG-1", "with", "respect", "to", "S3", ",", "eventhough", "the", "latter", "creates", "more", "closures", "in", "the", "heap", "and", "produces", "different", "-LRB-", "but", "equivalent", "-RRB-", "normal", "forms", ".", "Section", "4", "defines", "machine", "ISTG", "and", "Section", "5", "defines", "the", "translation", "from", "STG-2", "expressions", "to", "ISTG", "instructions", ".", "Two", "invariants", "are", "proved", "which", "show", "the", "correctness", "of", "the", "translation", ".", "Section", "6", "discusses", "the", "differences", "between", "our", "translation", "and", "the", "actual", "implementation", "done", "by", "GHC", ".", "Finally", ",", "Section", "7", "concludes", ".", "We", "begin", "by", "reviewing", "the", "language", "and", "semantics", "given", "by", "Sestoft", "as", "an", "improvement", "to", "Launchbury", "'s", "semantics", ".", "Both", "share", "the", "language", "given", "in", "Figure", "1", "where", "A", "i", "denotes", "a", "vector", "A", "1", ",", "...", ",", "A", "n", "of", "subscripted", "entities", ".", "It", "is", "a", "normalized", "-", "calculus", ",", "extended", "with", "recursive", "let", ",", "constructor", "applications", "and", "case", "expressions", ".", "Sestoft", "'s", "normalization", "process", "forces", "constructor", "applications", "to", "be", "saturated", "and", "all", "applications", "to", "only", "have", "variables", "as", "arguments", ".", "Weak", "head", "normal", "forms", "are", "either", "lambda", "abstractions", "or", "constructions", ".", "Throughout", "this", "section", ",", "w", "will", "denote", "-LRB-", "weak", "head", "-RRB-", "normal", "forms", ".", "Sestoft", "'s", "semantic", "rules", "are", "given", "in", "Figure", "2", ".", "There", ",", "a", "judgement", ":", "e", "A", ":", "w", "denotes", "that", "expression", "e", ",", "with", "its", "free", "variables", "bound", "in", "heap", ",", "reduces", "to", "normal", "form", "w", "and", "produces", "the", "final", "heap", ".", "When", "fresh", "pointers", "are", "created", ",", "freshness", "is", "understood", "w.r.t.", "-LRB-", "dom", "-RRB-", "A", ",", "where", "A", "contains", "the", "addresses", "of", "the", "closures", "under", "evaluation", "1", "The", "details", "of", "the", "proofs", "can", "be", "found", "in", "a", "technical", "report", "at", "one", "of", "the", "author", "'s", "page", "http://dalila.sip.ucm.es/~albertoe", ".", ":", "x.e", "A", ":", "x.e", "Lam", ":", "C", "p", "i", "A", ":", "C", "p", "i", "Cons", ":", "e", "A", ":", "x.e", ":", "e", "-LSB-", "p/x", "-RSB-", "A", ":", "w", ":", "e", "p", "A", ":", "w", "App", ":", "e", "A", "-LCB-", "p", "-RCB-", ":", "w", "-LSB-", "p", "e", "-RSB-", ":", "p", "A", "-LSB-", "p", "w", "-RSB-", ":", "w", "Var", "-LSB-", "p", "i", "^", "e", "i", "-RSB-", ":", "^", "e", "A", ":", "w", ":", "letrec", "x", "i", "=", "e", "i", "in", "e", "A", ":", "w", "where", "p", "i", "fresh", "Letrec", ":", "e", "A", ":", "C", "k", "p", "j", ":", "e", "k", "-LSB-", "p", "j", "/", "x", "kj", "-RSB-", "A", ":", "w", ":", "case", "e", "of", "C", "i", "x", "ij", "e", "i", "A", ":", "w", "Case", "Figure", "2", ":", "Sestoft", "'s", "natural", "semantics", "-LRB-", "see", "rule", "Var", "-RRB-", ".", "The", "notation", "^", "e", "in", "rule", "Letrec", "means", "the", "replacement", "of", "the", "variables", "x", "i", "by", "the", "fresh", "pointers", "p", "i", ".", "This", "is", "the", "only", "rule", "where", "new", "closures", "are", "created", "and", "added", "to", "the", "heap", ".", "We", "use", "the", "term", "pointers", "to", "refer", "to", "dynam-ically", "created", "free", "variables", ",", "bounded", "to", "expressions", "in", "the", "heap", ",", "and", "the", "term", "variables", "to", "refer", "to", "-LRB-", "lambda-bound", ",", "let-bound", "or", "case-bound", "-RRB-", "program", "variables", ".", "We", "consistently", "use", "p", ",", "p", "i", ",", "...", "to", "denote", "free", "variables", "and", "x", ",", "y", ",", "...", "to", "denote", "program", "variables", ".", "J.", "Mountjoy", "'s", "-LSB-", "5", "-RSB-", "had", "the", "idea", "of", "changing", "Launchbury-Sestoft", "'s", "language", "and", "semantics", "in", "order", "to", "get", "closer", "to", "the", "STG", "language", ",", "and", "then", "to", "derive", "the", "STG", "machine", "from", "the", "new", "semantics", ".", "He", "developed", "two", "different", "semantics", ":", "In", "the", "first", "one", ",", "which", "we", "call", "semantics", "S1", ",", "the", "main", "change", "was", "that", "normal", "forms", "were", "either", "constructions", "-LRB-", "as", "they", "were", "in", "Sestoft", "'s", "semantics", "-RRB-", "or", "variables", "pointing", "to", "closures", "containing", "-", "abstractions", ",", "instead", "of", "just", "-", "abstractions", ".", "The", "reason", "for", "this", "was", "to", "forbid", "a", "-", "abstraction", "in", "the", "control", "expression", "as", "it", "happens", "in", "the", "STG", "machine", ".", "Another", "change", "was", "to", "force", "applications", "to", "have", "the", "form", "x", "x", "1", ",", "i.e.", "consisting", "of", "a", "variable", "in", "the", "functional", "part", ".", "This", "is", "also", "what", "the", "STG", "language", "requires", ".", "These", "changes", "forced", "Mountjoy", "to", "modify", "the", "source", "language", "and", "to", "define", "a", "normalization", "from", "Launchbury", "'s", "language", "to", "the", "new", "one", ".", "Mountjoy", "proved", "that", "the", "normalization", "did", "not", "change", "the", "normal", "forms", "arrived", "at", "by", "both", "semantics", ".", "The", "second", "semantics", ",", "which", "we", "call", "semantics", "S2", ",", "forced", "applications", "to", "be", "done", "at", "once", "to", "n", "arguments", "instead", "of", "doing", "it", "one", "by", "one", ".", "Correspondingly", ",", "-", "abstractions", "were", "allowed", "to", "have", "several", "arguments", ".", "This", "is", "exactly", "what", "the", "STG", "machine", "requires", ".", "Semantics", "S2", "was", "informally", "derived", "and", "contained", "some", "mistakes", ".", "In", "particular", ",", "-LRB-", "cf.", "-LSB-", "5", ",", "pag", ".", "171", "-RSB-", "-RRB-", "rule", "App", "M", "makes", "a", "-", "abstraction", "to", "appear", "in", "the", "control", "expression", ",", "in", "contradiction", "with", "the", "desire", "of", "having", "-", "abstractions", "only", "in", "the", "heap", ".", "Completing", "and", "correcting", "Mountjoy", "'s", "work", "we", "have", "defined", "a", "new", "semantics", "S3", "in", "which", "the", "main", "changes", "in", "the", "source", "language", "w.r.t.", "Mountjoy", "'s", "are", "the", "following", ":", "1", ".", "We", "force", "constructor", "applications", "to", "appear", "only", "in", "bindings", ",", "i.e.", "in", "heap", "closures", ".", "Correspondingly", ",", "normal", "forms", "are", "variables", "pointing", "to", "either", "-", "abstractions", "or", "constructions", ".", "We", "will", "use", "the", "term", "lambda", "forms", "to", "refer", "to", "-", "abstractions", "or", "constructions", "alike", ".", "The", "motivation", "for", "this", "decision", "is", "to", "generate", "more", "efficient", "code", "as", "it", "will", "be", "seen", "in", "Section", "5.1", ".", "103", "e", "e", "x", "in", "--", "n", ">", "0", ",", "application", "|", "x", "--", "variable", "|", "letrec", "x", "i", "=", "lf", "i", "in", "e", "--", "recursive", "let", "|", "case", "e", "of", "alt", "i", "--", "case", "expression", "alt", "C", "x", "j", "e", "--", "case", "alternative", "lf", "x", "in", ".", "e", "--", "n", ">", "0", ",", "lambda", "abstraction", "|", "C", "x", "in", "--", "constructor", "application", "|", "e", "--", "expression", "Figure", "3", ":", "Language", "FUN", "2", ".", "We", "relax", "applications", "to", "have", "the", "form", "e", "x", "in", ",", "where", "e", "is", "an", "arbitrary", "expression", "-LRB-", "excluding", ",", "of", "course", ",", "lambda", "forms", "-RRB-", ".", "The", "initial", "motivation", "for", "this", "was", "not", "to", "introduce", "unjustified", "restrictions", ".", "In", "the", "conclusions", "we", "discuss", "that", "the", "generated", "code", "is", "also", "more", "efficient", "than", "the", "one", "produced", "by", "restricting", "applications", "to", "be", "of", "the", "form", "x", "x", "in", ".", "Additionally", ",", "our", "starting", "point", "is", "Sestoft", "'s", "semantics", "instead", "of", "Launchbury", "'s", ".", "The", "main", "difference", "is", "that", "Sestoft", "substitutes", "fresh", "pointers", "for", "program", "variables", "in", "rule", "Letrec", "while", "Launchbury", "substitutes", "fresh", "variables", "for", "all", "bound", "variables", "in", "rule", "Var", "instead", ".", "The", "syntax", "of", "the", "language", ",", "called", "FUN", ",", "is", "shown", "in", "Figure", "3", ".", "Notice", "that", "applications", "are", "done", "to", "n", "arguments", "at", "once", ",", "being", "e", "x", "in", "an", "abbreviation", "of", "-LRB-", "...", "-LRB-", "e", "x", "1", "-RRB-", "...", "-RRB-", "x", "n", ",", "and", "that", "consequently", "-", "abstractions", "may", "have", "several", "arguments", ".", "Its", "operational", "semantics", ",", "called", "S3", "is", "given", "in", "Figure", "4", ".", "For", "simplicity", ",", "we", "have", "eliminated", "the", "set", "A", "of", "pending", "updates", "appearing", "in", "Sestoft", "'s", "semantics", ".", "This", "set", "is", "not", "strictly", "needed", "provided", "that", "the", "fresh", "name", "generator", "for", "pointers", "does", "not", "repeat", "previously", "generated", "names", "and", "provided", "that", "pointer", "'s", "names", "are", "always", "distinguish-able", "from", "program", "variables", ".", "In", "rule", "Case", "S3", ",", "expression", "e", "k", "is", "the", "righthand", "side", "expression", "of", "the", "alternative", "alt", "k", ".", "The", "notation", "-LSB-", "p", "e", "-RSB-", "highlights", "the", "fact", "that", "-LRB-", "p", "e", "-RRB-", ",", "and", "-LSB-", "p", "e", "-RSB-", "means", "the", "disjoint", "union", "of", "and", "-LRB-", "p", "e", "-RRB-", ".", "Please", "notice", "that", "this", "notation", "may", "not", "coincide", "with", "other", "notations", "in", "which", "and", "-LSB-", "p", "e", "-RSB-", "denote", "different", "heaps", ".", "Finally", "notice", "that", ",", "besides", "rule", "Letrec", "S3", ",", "also", "rule", "App", "S3", "creates", "closures", "in", "the", "heap", ".", "Language", "FUN", "is", "at", "least", "as", "expressive", "as", "Launchbury", "'s", "-", "calculus", ".", "The", "following", "normalization", "function", "transforms", "any", "Launchbury", "'s", "expression", "into", "a", "semantically", "equivalent", "FUN", "expression", ".", "Definition", "1", ".", "We", "define", "the", "normalization", "function", "N", ":", "Launch", "FUN", ":", "N", "x", "def", "=", "x", "N", "-LRB-", "e", "x", "-RRB-", "def", "=", "-LRB-", "N", "e", "-RRB-", "x", "N", "-LRB-", "x.e", "-RRB-", "def", "=", "letrec", "y", "=", "N", "-LRB-", "x.e", "-RRB-", "in", "y", ",", "y", "fresh", "N", "-LRB-", "C", "x", "i", "-RRB-", "def", "=", "letrec", "y", "=", "C", "x", "i", "in", "y", ",", "y", "fresh", "N", "-LRB-", "letrec", "x", "i", "=", "e", "in", "in", "e", "-RRB-", "def", "=", "letrec", "x", "i", "=", "N", "e", "i", "n", "in", "N", "e", "N", "-LRB-", "case", "e", "of", "C", "i", "y", "ij", "e", "i", "-RRB-", "def", "=", "case", "N", "e", "of", "C", "i", "y", "ij", "N", "e", "i", "N", ",", "N", ":", "Launch", "FUN", ":", "N", "-LRB-", "C", "x", "in", "-RRB-", "def", "=", "C", "x", "in", "N", "e", "def", "=", "N", "e", ",", "e", "=", "C", "x", "in", "N", "-LRB-", "x.e", "-RRB-", "def", "=", "x.N", "e", "N", "e", "def", "=", "N", "e", ",", "e", "=", "x.e", "The", "following", "proposition", "prove", "that", "the", "normalization", "functions", "are", "well", "defined", ".", "Proposition", "1", ".", "1", ".", "Let", "e", "Launch", "then", "N", "e", "FUN", "2", ".", "Let", "e", "lf", "then", "N", "e", "lf", "3", ".", "Let", "e", "=", "x.e", "and", "e", "=", "C", "x", "i", "then", ",", "N", "e", "=", "N", "e", "4", ".", "-LRB-", "N", "e", "-RRB-", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "=", "N", "-LRB-", "e", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "-RRB-", "5", ".", "-LRB-", "N", "e", "-RRB-", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "=", "N", "-LRB-", "e", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "-RRB-", "Proof", ".", "1", ".", "By", "structural", "induction", "on", "e.", "2", ".", "Trivial", ".", "3", ".", "Trivial", ".", "4", ".", "By", "definition", "of", "N", "and", "of", "substitutions", ".", "5", ".", "By", "definition", "of", "N", "and", "of", "substitutions", ".", "To", "see", "that", "both", "semantics", "reduce", "an", "expression", "to", "equivalent", "normal", "forms", ",", "first", "we", "prove", "that", "the", "normalization", "does", "not", "change", "the", "meaning", "of", "an", "expression", "within", "Sestoft", "'s", "semantics", ".", "Then", ",", "we", "prove", "that", "both", "semantics", "reduce", "any", "FUN", "expression", "to", "equivalent", "normal", "forms", ",", "provided", "that", "such", "normal", "forms", "exist", ".", "2.1", "Soundness", "and", "completeness", "The", "following", "two", "propositions", "prove", "that", "the", "normalization", "does", "not", "change", "the", "meaning", "of", "an", "expression", ".", "We", "use", "the", "following", "notation", ":", "denotes", "a", "one-to-one", "renaming", "of", "pointers", ",", "and", "means", "that", ".", "This", "is", "needed", "to", "express", "the", "equivalence", "between", "the", "heaps", "of", "both", "semantics", "up", "to", "some", "renaming", ".", "As", "S3", "generates", "more", "closures", "than", "Sestoft", "'s", ",", "it", "is", "not", "possible", "to", "guarantee", "that", "the", "fresh", "pointers", "are", "exactly", "the", "same", "in", "the", "two", "heaps", ".", "Proposition", "2", ".", "-LRB-", "Sestoft", "Sestoft", "-RRB-", "For", "all", "e", "Launch", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", ":", "w", "-LCB-", "-RCB-", ":", "N", "e", ":", "w", ".", "w", "=", "N", "-LRB-", "w", "-RRB-", "N", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "Launchbury", "expressions", ".", "Proposition", "3", ".", "-LRB-", "Sestoft", "Sestoft", "-RRB-", "For", "all", "e", "FUN", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", ":", "w", "e", "Launch", ".", "N", "e", "=", "e", "-LCB-", "-RCB-", ":", "e", ":", "w", ".", "N", "-LRB-", "w", "-RRB-", "=", "w", "N", "104", "-LSB-", "p", "x", "in", ".", "e", "-RSB-", ":", "p", ":", "p", "Lam", "S3", "-LSB-", "p", "C", "p", "i", "-RSB-", ":", "p", ":", "p", "Cons", "S3", ":", "e", "-LSB-", "p", "x", "in", ".", "y", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "p", "in", "-LSB-", "q", "y", "im", ".", "e", "-LSB-", "p", "i", "/", "x", "i", "n", "-RSB-", "-RSB-", ":", "q", "m", ",", "n", ">", "0", ",", "q", "fresh", "App", "S3", ":", "e", "-LSB-", "p", "x", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "-LSB-", "p", "i", "/", "x", "i", "m", "-RSB-", "p", "m", "+1", "...", "p", "n", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "e", "p", "in", ":", "q", "n", "m", "App", "S3", ":", "e", "-LSB-", "q", "w", "-RSB-", ":", "q", "-LSB-", "p", "e", "-RSB-", ":", "p", "-LSB-", "p", "w", "-RSB-", ":", "q", "Var", "S3", "-LSB-", "p", "i", "^", "lf", "i", "-RSB-", ":", "^", "e", "-LSB-", "p", "w", "-RSB-", ":", "p", ":", "letrec", "x", "i", "=", "lf", "i", "in", "e", ":", "p", "p", "i", "fresh", "Letrec", "S3", ":", "e", "-LSB-", "p", "C", "k", "p", "j", "-RSB-", ":", "p", ":", "e", "k", "-LSB-", "p", "j", "/", "y", "kj", "-RSB-", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "case", "e", "of", "C", "i", "y", "ij", "e", "i", ":", "q", "Case", "S3", "Figure", "4", ":", "Semantics", "S3", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "Launchbury", "expressions", ".", "Now", "we", "prove", "the", "equivalence", "between", "the", "two", "semantics", ".", "We", "consider", "only", "FUN", "expressions", "because", "it", "has", "been", "proved", "that", "the", "normalization", "does", "not", "change", "the", "meaning", "of", "an", "expression", ".", "Proposition", "4", ".", "-LRB-", "Sestoft", "S3", ",", "completeness", "of", "S3", "-RRB-", "For", "all", "e", "FUN", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", ":", "w", "-LCB-", "-RCB-", ":", "e", "-LSB-", "p", "w", "-RSB-", ":", "p", ".", "w", "=", "w", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "FUN", "expressions", ".", "Proposition", "5", ".", "-LRB-", "S3", "Sestoft", ",", "soundness", "of", "S3", "-RRB-", "For", "all", "e", "FUN", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", "-LSB-", "p", "w", "-RSB-", ":", "p", "-LCB-", "-RCB-", ":", "e", ":", "w", ".", "w", "=", "w", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "FUN", "expressions", ".", "Once", "adapted", "the", "source", "language", "to", "the", "STG", "language", ",", "we", "are", "ready", "to", "derive", "an", "STG-like", "machine", "from", "semantics", "S3", ".", "Following", "a", "similar", "approach", "to", "Sestoft", "MARK-1", "machine", "-LSB-", "10", "-RSB-", ",", "we", "first", "introduce", "a", "very", "simple", "STG", "machine", ",", "which", "we", "will", "call", "STG-1", ",", "in", "which", "explicit", "variable", "substitutions", "are", "done", ".", "A", "configuration", "in", "this", "machine", "is", "a", "triple", "-LRB-", ",", "e", ",", "S", "-RRB-", "where", "represents", "the", "heap", ",", "e", "is", "the", "control", "expression", "and", "S", "is", "the", "stack", ".", "The", "heap", "binds", "pointers", "to", "lambda", "forms", "which", ",", "in", "turn", ",", "may", "reference", "other", "pointers", ".", "The", "stack", "stores", "three", "kinds", "of", "objects", ":", "arguments", "p", "i", "of", "pending", "applications", ",", "case", "alternatives", "alts", "of", "pending", "pattern", "matchings", ",", "and", "marks", "#", "p", "of", "pending", "updates", ".", "In", "Figure", "5", ",", "the", "transitions", "of", "the", "machine", "are", "shown", ".", "They", "look", "very", "close", "to", "the", "lazy", "semantics", "S3", "presented", "in", "Section", "2", ".", "For", "instance", ",", "the", "single", "rule", "for", "letrec", "in", "Figure", "5", "is", "a", "literal", "transcription", "of", "the", "Letrec", "S3", "rule", "of", "Figure", "4", ".", "The", "semantic", "rules", "for", "case", "and", "applications", "are", "split", "each", "one", "into", "two", "rules", "in", "the", "machine", ".", "The", "semantic", "rule", "for", "variable", "is", "also", "split", "into", "two", "in", "order", "to", "take", "care", "of", "updating", "the", "closure", ".", "So", ",", "in", "principle", ",", "an", "execution", "of", "the", "STG-1", "machine", "could", "be", "regarded", "as", "the", "linearization", "of", "the", "semantic", "derivation", "tree", "by", "introducing", "an", "auxiliary", "stack", ".", "But", "sometimes", "appearances", "are", "misleading", ".", "The", "theorem", "below", "shows", "that", "in", "fact", "STG-1", "builds", "less", "closures", "in", "the", "heap", "than", "the", "semantics", "and", "it", "may", "arrive", "to", "different", "-LRB-", "but", "semantically", "equivalent", "-RRB-", "normal", "forms", ".", "In", "order", "to", "prove", "the", "soundness", "and", "completeness", "of", "STG-1", ",", "we", "first", "enrich", "the", "semantics", "with", "a", "stack", "parameter", "S", "in", "the", "rules", ".", "The", "new", "rules", "for", "S", "-LRB-", "only", "those", "which", "modify", "S", "-RRB-", "are", "shown", "in", "Figure", "6", ".", "It", "is", "trivial", "to", "show", "that", "the", "rules", "are", "equivalent", "to", "the", "ones", "in", "Figure", "4", "as", "the", "stack", "is", "just", "an", "observation", "of", "the", "derivations", ".", "It", "may", "not", "influence", "them", ".", "The", "following", "theorem", "establishes", "the", "correspondence", "between", "the", "-LRB-", "enriched", "-RRB-", "semantics", "and", "the", "machine", ".", "Proposition", "6", ".", "Given", ",", "e", "and", "S", ",", "then", ":", "e", "S", "-LSB-", "p", "w", "-RSB-", ":", "p", "iff", "-LRB-", ",", "e", ",", "S", "-RRB-", "-LRB-", ",", "p", ",", "S", "-RRB-", ",", "where", "1", ".", "2", ".", "if", "-LSB-", "p", "C", "p", "in", "-RSB-", "then", "S", "=", "S", ",", "p", "=", "p", "and", "-LSB-", "p", "C", "p", "in", "-RSB-", "3", ".", "if", "-LSB-", "p", "x", "in", ".", "e", "-RSB-", "then", "there", "exists", "m", "0", "s.t.", "-LSB-", "p", "y", "im", ".", "x", "in", ".", "e", "-RSB-", "and", "S", "=", "q", "im", ":", "S", "and", "e", "=", "e", "-LSB-", "q", "i", "/", "y", "i", "m", "-RSB-", "105", "Heap", "Control", "Stack", "rule", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "-RCB-", "in", "e", "S", "letrec", "-LRB-", "1", "-RRB-", "=", "-LSB-", "p", "i", "lf", "i", "-LSB-", "p", "j", "/", "x", "j", "-RSB-", "-RSB-", "e", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "S", "case", "e", "of", "alts", "S", "case1", "=", "e", "alts", ":", "S", "-LSB-", "p", "C", "k", "p", "i", "-RSB-", "p", "C", "j", "y", "ji", "e", "j", ":", "S", "case2", "=", "e", "k", "-LSB-", "p", "i", "/", "y", "ki", "-RSB-", "S", "e", "p", "in", "S", "app1", "=", "e", "p", "in", ":", "S", "-LSB-", "p", "x", "in", ".", "e", "-RSB-", "p", "p", "in", ":", "S", "app2", "=", "e", "-LSB-", "p", "i", "/", "x", "i", "n", "-RSB-", "S", "-LSB-", "p", "e", "-RSB-", "p", "S", "var1", "=", "e", "#", "p", ":", "S", "-LSB-", "p", "x", "ik", ".", "y", "im", ".", "e", "-RSB-", "p", "p", "ik", ":", "#", "q", ":", "S", "var2", "=", "-LSB-", "q", "p", "p", "ik", "-RSB-", "p", "p", "ik", ":", "S", "-LSB-", "p", "C", "k", "p", "i", "-RSB-", "p", "#", "q", ":", "S", "var3", "=", "-LSB-", "q", "C", "k", "p", "i", "-RSB-", "p", "S", "-LRB-", "1", "-RRB-", "p", "i", "are", "distinct", "and", "fresh", "w.r.t.", ",", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "-RCB-", "in", "e", ",", "and", "S", "Figure", "5", ":", "The", "STG-1", "Machine", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "FUN", "expressions", ".", "The", "proposition", "shows", "that", "the", "semantic", "rule", "App", "S3", "of", "Figure", "4", "is", "not", "literally", "transcribed", "in", "the", "machine", ".", "The", "machine", "does", "not", "create", "intermediate", "lambdas", "in", "the", "heap", "unless", "an", "update", "is", "needed", ".", "Rule", "app2", "in", "Figure", "5", "applies", "a", "lambda", "always", "to", "all", "its", "arguments", "provided", "that", "they", "are", "in", "the", "stack", ".", "For", "this", "reason", ",", "a", "lambda", "with", "more", "parameters", "than", "that", "of", "the", "semantics", "may", "be", "arrived", "at", "as", "normal", "form", "of", "a", "functional", "expression", ".", "Also", "for", "this", "reason", ",", "an", "update", "mark", "may", "be", "interspersed", "with", "arguments", "in", "the", "stack", "when", "a", "lambda", "is", "reached", "-LRB-", "see", "rule", "var2", "in", "Figure", "5", "-RRB-", ".", "A", "final", "implication", "is", "that", "the", "machine", "may", "stop", "with", "m", "pending", "arguments", "in", "the", "stack", "and", "a", "variable", "in", "the", "control", "expression", "pointing", "to", "a", "lambda", "with", "n", ">", "m", "parameters", ".", "The", "semantics", "always", "ends", "a", "derivation", "with", "a", "variable", "as", "normal", "form", "and", "an", "empty", "stack", ".", "Again", ",", "following", "Sestoft", "and", "his", "MARK-2", "machine", ",", "once", "we", "have", "proved", "the", "soundness", "and", "completeness", "of", "STG-1", ",", "we", "introduce", "STG-2", "having", "environments", "instead", "of", "explicit", "variable", "substitutions", ".", "Also", ",", "we", "add", "trimmers", "to", "this", "machine", "so", "that", "environments", "kept", "in", "closures", "and", "in", "case", "alternatives", "only", "reference", "the", "free", "variables", "of", "the", "expression", "instead", "of", "all", "variables", "in", "scope", ".", "A", "configuration", "of", "STG-2", "is", "a", "quadruple", "-LRB-", ",", "e", ",", "E", ",", "S", "-RRB-", "where", "E", "is", "the", "environment", "of", "e", ",", "the", "alternatives", "are", "pairs", "-LRB-", "alts", ",", "E", "-RRB-", ",", "and", "a", "closure", "is", "a", "pair", "-LRB-", "lf", ",", "E", "-RRB-", ".", "Now", "expressions", "and", "lambda", "forms", "keep", "their", "original", "variables", "and", "the", "associated", "environment", "maps", "them", "to", "pointers", "in", "the", "heap", ".", "The", "notation", "E", "|", "t", "means", "the", "trimming", "of", "environment", "E", "to", "the", "trimmer", "t", ".", "A", "trimmer", "is", "just", "a", "collection", "of", "variable", "names", ".", "The", "resulting", "machine", "is", "shown", "in", "Figure", "7", ".", "Proposition", "7", ".", "Given", "a", "closed", "expression", "e", "0", ".", "-LRB-", "-LCB-", "-RCB-", ",", "e", "0", ",", "-LSB-", "-RSB-", "-RRB-", "STG-1", "-", "-LRB-", ",", "q", ",", "p", "in", "-RRB-", "where", "either", ":", "-LSB-", "q", "C", "q", "im", "-RSB-", "n", "=", "0", "or", "-LSB-", "q", "x", "im", ".", "e", "-RSB-", "m", ">", "n", "0", "if", "and", "only", "if", "-LRB-", "-LCB-", "-RCB-", ",", "e", "0", ",", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", "-RRB-", "STG-2", "-", "-LRB-", ",", "x", ",", "E", "-LSB-", "x", "q", "-RSB-", ",", "p", "in", "-RRB-", "-RRB-", "and", "either", ":", "-LSB-", "q", "-LRB-", "C", "x", "im", ",", "-LCB-", "x", "i", "q", "im", "-RCB-", "-RRB-", "-RSB-", "n", "=", "0", "or", "-LSB-", "q", "-LRB-", "x", "im", ".", "e", ",", "E", "-RRB-", "-RSB-", "m", ">", "n", "0", "e", "=", "E", "e", ".", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", ".", "In", "this", "Section", "we", "`", "invent", "'", "an", "imperative", "STG", "machine", ",", "called", "ISTG", ",", "by", "defining", "a", "set", "of", "machine", "instructions", "and", "an", "operational", "semantics", "for", "them", "in", "terms", "of", "the", "state", "transition", "that", "each", "instruction", "produces", ".", "In", "fact", ",", "this", "machine", "tries", "to", "provide", "an", "intermediate", "level", "of", "reasoning", "between", "the", "STG-2", "machine", "and", "the", "final", "C", "implementation", ".", "In", "the", "actual", "GHC", "implementation", ",", "`", "below", "'", "the", "operational", "description", "of", "-LSB-", "6", "-RSB-", "we", "find", "only", "a", "translation", "to", "C.", "By", "looking", "at", "the", "compiler", "and", "at", "the", "runtime", "system", "listings", ",", "one", "can", "grasp", "some", "details", ",", "but", "many", "others", "are", "lost", ".", "We", "think", "that", "the", "gap", "to", "be", "bridged", "is", "too", "high", ".", "Moreover", ",", "it", "is", "not", "possible", "to", "reason", "about", "the", "correctness", "of", "the", "implementation", "when", "so", "many", "details", "are", "introduced", "at", "once", ".", "The", "ISTG", "architecture", "has", "been", "inspired", "by", "the", "actual", "implementation", "of", "the", "STG", "machine", "done", "by", "GHC", ",", "and", "the", "ISTG", "instructions", "have", "been", "derived", "from", "the", "STG-2", "machine", "by", "analyzing", "the", "elementary", "steps", "involved", "in", "every", "machine", "transition", ".", "An", "ISTG", "machine", "configuration", "consists", "of", "a", "5-tuple", "-LRB-", "is", ",", "S", ",", "node", ",", ",", "cs", "-RRB-", ",", "where", "is", "is", "a", "machine", "instruction", "sequence", "ended", "with", "the", "instruction", "ENTER", "or", "RETURNCON", ",", "S", "is", "the", "stack", ",", "node", "is", "a", "heap", "pointer", "pointing", "to", "the", "closure", "under", "execution", "-LRB-", "the", "one", "to", "which", "is", "belongs", "to", "-RRB-", ",", "is", "the", "heap", "and", "cs", "is", "a", "code", "store", "where", "the", "instruction", "sequences", "resulting", "from", "compiling", "the", "program", "expressions", "are", "kept", ".", "We", "will", "use", "the", "following", "notation", ":", "a", "for", "pointers", "to", "closures", "in", ",", "as", "and", "ws", "for", "lists", "of", "such", "pointers", ",", "and", "p", "for", "106", ":", "e", "p", "in", ":", "S", "-LSB-", "p", "x", "in", ".", "y", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "p", "in", "S", "-LSB-", "q", "y", "im", ".", "e", "-LSB-", "p", "i", "/", "x", "i", "n", "-RSB-", "-RSB-", ":", "q", "m", ",", "n", ">", "0", ",", "q", "fresh", "App", "S3", ":", "e", "p", "in", ":", "S", "-LSB-", "p", "x", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "-LSB-", "p", "i", "/", "x", "i", "m", "-RSB-", "p", "m", "+1", "...", "p", "n", "S", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "e", "p", "in", "S", ":", "q", "n", "m", "App", "S3", ":", "e", "#", "p", ":", "S", "-LSB-", "q", "w", "-RSB-", ":", "q", "-LSB-", "p", "e", "-RSB-", ":", "p", "S", "-LSB-", "p", "w", "-RSB-", ":", "q", "Var", "S3", ":", "e", "alts", ":", "S", "-LSB-", "p", "C", "k", "p", "j", "-RSB-", ":", "p", ":", "e", "k", "-LSB-", "p", "j", "/", "y", "kj", "-RSB-", "S", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "case", "e", "of", "alts", "S", ":", "q", "Case", "S3", "Figure", "6", ":", "The", "enriched", "semantics", "pointers", "to", "code", "fragments", "in", "cs", ".", "By", "cs", "-LSB-", "p", "is", "-RSB-", "we", "denote", "that", "the", "code", "store", "cs", "maps", "pointer", "p", "to", "the", "instruction", "sequence", "is", "and", ",", "by", "cs", "-LSB-", "p", "is", "i", "n", "-RSB-", ",", "that", "cs", "maps", "p", "to", "a", "vectored", "set", "of", "instruction", "sequences", "is", "1", ",", "...", ",", "is", "n", ",", "each", "one", "corresponding", "to", "an", "alternative", "of", "a", "case", "expression", "with", "n", "constructors", "C", "1", ",", "...", ",", "C", "n", ".", "Also", ",", "S", "!", "i", "will", "denote", "the", "i-th", "element", "of", "the", "stack", "S", "counting", "from", "the", "top", "and", "starting", "at", "0", ".", "Likewise", ",", "node", "!", "i", "will", "denote", "the", "i-th", "free", "variable", "of", "the", "closure", "pointed", "to", "by", "node", "in", ",", "this", "time", "starting", "at", "1", ".", "Stack", "S", "may", "store", "pointers", "a", "to", "closures", "in", ",", "pointers", "p", "to", "code", "sequences", "and", "code", "alternatives", "in", "cs", ",", "and", "update", "marks", "#", "a", "indicating", "that", "closure", "pointed", "to", "by", "a", "must", "be", "updated", ".", "A", "closure", "is", "a", "pair", "-LRB-", "p", ",", "ws", "-RRB-", "where", "p", "is", "a", "pointer", "to", "an", "instruction", "sequence", "is", "in", "cs", ",", "and", "ws", "is", "the", "closure", "environment", ",", "having", "a", "heap", "pointer", "for", "every", "free", "variable", "in", "the", "expression", "whose", "translation", "is", "is", ".", "These", "representation", "decisions", "are", "very", "near", "to", "the", "GHC", "implementation", ".", "In", "its", "runtime", "system", "all", "these", "elements", "-LRB-", "stack", ",", "heap", ",", "node", "register", "and", "code", "-RRB-", "are", "present", "-LSB-", "9", "-RSB-", ".", "Our", "closures", "are", "also", "a", "small", "simplification", "of", "theirs", ".", "In", "Figure", "8", ",", "the", "ISTG", "machine", "instructions", "and", "its", "operational", "semantics", "are", "shown", ".", "The", "machine", "instructions", "BUILDENV", ",", "PUSHALTS", "and", "UPDTMARK", "roughly", "correspond", "to", "the", "three", "possible", "pushing", "actions", "of", "machine", "STG-2", ".", "The", "SLIDE", "instruction", "has", "no", "clear", "correspondence", "in", "the", "STG-2", ".", "As", "we", "will", "see", "in", "Section", "5", ",", "it", "will", "be", "used", "to", "change", "the", "current", "environment", "when", "a", "new", "closure", "is", "entered", ".", "Instructions", "ALLOC", "and", "BUILDCLS", "will", "implement", "heap", "closure", "creation", "in", "the", "letrec", "rule", "of", "STG-2", ".", "Both", "BUILDENV", "and", "BUILDCLS", "make", "use", "of", "a", "list", "of", "pairs", ",", "each", "pair", "indicating", "whether", "the", "source", "variable", "is", "located", "in", "the", "stack", "or", "in", "the", "current", "closure", ".", "Of", "course", ",", "it", "is", "not", "intended", "this", "test", "to", "be", "done", "at", "runtime", ".", "An", "efficient", "translation", "of", "these", "`", "machine", "'", "instructions", "to", "an", "imperative", "language", "will", "generate", "the", "appropriate", "copy", "statement", "for", "each", "pair", ".", "Instructions", "ENTER", "and", "RETURNCON", "are", "typical", "of", "the", "actual", "STG", "machine", "as", "described", "in", "-LSB-", "6", "-RSB-", ".", "It", "is", "interesting", "to", "note", "that", "it", "has", "been", "possible", "to", "describe", "our", "previous", "STG", "machines", "without", "any", "reference", "to", "them", ".", "In", "our", "view", ",", "they", "belong", "to", "ISTG", ",", "i.e.", "to", "a", "lower", "level", "of", "abstraction", ".", "Finally", ",", "instruction", "ARGCHECK", ",", "which", "implements", "updates", "with", "lambda", "normal", "forms", ",", "is", "here", "at", "the", "same", "level", "of", "abstraction", "as", "RETURNCON", ",", "which", "implements", "updates", "with", "constructions", "normal", "forms", ".", "Predefined", "code", "is", "stored", "in", "cs", "for", "updating", "with", "a", "partial", "application", "and", "for", "blackholing", "a", "closure", "under", "evaluation", ".", "The", "corresponding", "code", "pointers", "are", "respectively", "called", "p", "n", "+1", "pap", "and", "p", "bh", "in", "Figure", "8", ".", "The", "associated", "code", "is", "the", "following", ":", "p", "bh", "=", "-LSB-", "-RSB-", "p", "n", "+1", "pap", "=", "-LSB-", "BUILDENV", "-LSB-", "-LRB-", "NODE", ",", "1", "-RRB-", ",", "...", ",", "-LRB-", "NODE", ",", "n", "+", "1", "-RRB-", "-RSB-", ",", "ENTER", "-RSB-", "The", "code", "of", "a", "blackhole", "just", "blocks", "the", "machine", "as", "there", "is", "no", "instruction", "to", "execute", ".", "There", "is", "predefined", "code", "for", "partial", "applications", "with", "different", "values", "for", "n", ".", "The", "code", "just", "copies", "the", "closure", "into", "the", "stack", "and", "jumps", "to", "the", "first", "pointer", "that", "is", "assumed", "to", "be", "pointing", "to", "a", "-", "abstraction", "closure", ".", "The", "translation", "to", "C", "of", "the", "9", "instructions", "of", "the", "ISTG", "should", "appear", "straightforward", "for", "the", "reader", ".", "For", "instance", ",", "BUILDCLS", "and", "BUILDENV", "can", "be", "implemented", "by", "a", "sequence", "of", "assignments", ",", "copying", "values", "to/from", "the", "stack", "an", "the", "heap", ";", "PUSHALTS", ",", "UPDTMARK", "and", "ENTER", "do", "straightforward", "stack", "manipulation", ";", "SLIDE", "is", "more", "involved", "but", "can", "be", "easily", "translated", "to", "a", "sequence", "of", "loops", "moving", "information", "within", "the", "stack", "to", "collapse", "a", "number", "of", "stack", "fragments", ".", "The", "more", "complex", "ones", "are", "RETURNCON", "and", "ARGCHECK", ".", "Both", "contains", "a", "loop", "which", "updates", "the", "heap", "with", "normal", "forms", "-LRB-", "respectively", ",", "constructions", "and", "partial", "applications", "-RRB-", "as", "long", "as", "they", "encounter", "update", "marks", "in", "the", "stack", ".", "Finally", ",", "the", "installation", "of", "a", "new", "instruction", "sequence", "in", "the", "control", "made", "by", "ENTER", "and", "RETURNCON", "are", "implemented", "by", "a", "simple", "jump", ".", "In", "this", "Section", ",", "we", "provide", "first", "the", "translation", "schemes", "for", "the", "FUN", "expressions", "and", "lambda", "forms", "and", "then", "prove", "that", "this", "translation", "correctly", "implements", "the", "STG-2", "machine", "on", "top", "of", "the", "ISTG", "machine", ".", "Before", "embarking", "into", "the", "details", ",", "we", "give", "some", "hints", "to", "intuitively", "understand", "the", "translation", ":", "The", "ISTG", "stack", "will", "represent", "not", "only", "the", "STG-2", "stack", ",", "but", "also", "-LRB-", "part", "of", "-RRB-", "the", "current", "environment", "E", "and", "all", "the", "environments", "associated", "to", "pending", "case", "alternatives", ".", "So", ",", "care", "must", "be", "taken", "to", "distinguish", "between", "environments", "and", "other", "objects", "in", "the", "stack", ".", "The", "rest", "of", "the", "current", "environment", "E", "is", "kept", "in", "the", "current", "closure", ".", "The", "translation", "knows", "where", "each", "free", "107", "Heap", "Control", "Environment", "Stack", "rule", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "|", "t", "i", "-RCB-", "in", "e", "E", "S", "letrec", "-LRB-", "1", "-RRB-", "-LSB-", "p", "i", "-LRB-", "lf", "i", ",", "E", "|", "t", "i", "-RRB-", "-RSB-", "e", "E", "S", "case", "e", "of", "alts", "|", "t", "E", "S", "case1", "e", "E", "-LRB-", "alts", ",", "E", "|", "t", "-RRB-", ":", "S", "-LSB-", "p", "-LRB-", "C", "k", "x", "i", ",", "-LCB-", "x", "i", "p", "i", "-RCB-", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "-LRB-", "alts", ",", "E", "-RRB-", ":", "S", "case2", "-LRB-", "2", "-RRB-", "e", "k", "E", "-LCB-", "y", "ki", "p", "i", "-RCB-", "S", "e", "x", "in", "E", "-LCB-", "x", "i", "p", "in", "-RCB-", "S", "app1", "e", "E", "p", "in", ":", "S", "-LSB-", "p", "-LRB-", "x", "in", ".", "e", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "p", "in", ":", "S", "app2", "e", "E", "-LCB-", "x", "i", "p", "in", "-RCB-", "S", "-LSB-", "p", "-LRB-", "e", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "S", "var1", "e", "E", "#", "p", ":", "S", "-LSB-", "p", "-LRB-", "x", "ik", ".", "y", "in", ".", "e", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "p", "ik", ":", "#", "q", ":", "S", "var2", "-LRB-", "3", "-RRB-", "-LSB-", "q", "-LRB-", "x", "x", "ik", ",", "E", "-RSB-", "-RRB-", "x", "E", "p", "ik", ":", "S", "-LSB-", "p", "-LRB-", "C", "k", "x", "i", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "#", "q", ":", "S", "var3", "-LSB-", "q", "-LRB-", "C", "k", "x", "i", ",", "E", "-RRB-", "-RSB-", "x", "E", "S", "-LRB-", "1", "-RRB-", "p", "i", "are", "distinct", "and", "fresh", "w.r.t.", ",", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "-RCB-", "in", "e", ",", "and", "S.", "E", "=", "E", "-LCB-", "x", "i", "p", "i", "-RCB-", "-LRB-", "2", "-RRB-", "Expression", "e", "k", "corresponds", "to", "alternative", "C", "k", "y", "ki", "e", "k", "in", "alts", "-LRB-", "3", "-RRB-", "E", "=", "-LCB-", "x", "p", ",", "x", "i", "p", "ik", "-RCB-", "Figure", "7", ":", "The", "STG-2", "machine", "variable", "is", "located", "by", "maintaining", "two", "compile-time", "environments", "and", ".", "The", "first", "one", "corresponds", "to", "the", "environment", "kept", "in", "the", "stack", ",", "while", "the", "second", "one", "corresponds", "to", "the", "free", "variables", "accessed", "through", "the", "node", "pointer", ".", "The", "stack", "can", "be", "considered", "as", "divided", "into", "big", "blocks", "separated", "by", "code", "pointers", "p", "pointing", "to", "case", "alternatives", ".", "Each", "big", "block", "topped", "with", "such", "a", "pointer", "corresponds", "to", "the", "environment", "of", "the", "associated", "alternatives", ".", "In", "turn", ",", "each", "big", "block", "can", "be", "considered", "as", "divided", "into", "small", "blocks", ",", "each", "one", "topped", "with", "a", "set", "of", "arguments", "of", "pending", "applications", ".", "The", "compile-time", "environment", "is", "likewise", "divided", "into", "big", "and", "small", "blocks", ",", "so", "reflecting", "the", "stack", "structure", ".", "When", "a", "variable", "is", "reached", "in", "the", "current", "instruction", "sequence", ",", "an", "ENTER", "instruction", "is", "executed", ".", "This", "will", "finish", "the", "current", "sequence", "and", "start", "a", "new", "one", ".", "The", "upper", "big", "block", "of", "the", "stack", "must", "be", "deleted", "-LRB-", "corresponding", "to", "changing", "the", "current", "environment", "-RRB-", "but", "arguments", "of", "pending", "applications", "must", "be", "kept", ".", "This", "stack", "restructuring", "is", "accomplished", "by", "a", "SLIDE", "operation", "with", "an", "appropriate", "argument", ".", "Definition", "2", ".", "A", "stack", "environment", "is", "a", "list", "-LSB-", "-LRB-", "k", ",", "m", "k", ",", "n", "k", "-RRB-", ",", "...", ",", "-LRB-", "1", ",", "m", "1", ",", "n", "1", "-RRB-", "-RSB-", "of", "blocks", ".", "It", "describes", "the", "variables", "in", "the", "stack", "starting", "from", "the", "top", ".", "In", "a", "block", "-LRB-", ",", "m", ",", "n", "-RRB-", ",", "is", "an", "environment", "mapping", "exactly", "m", "-", "|", "n", "|", "program", "variables", "to", "disjoint", "numbers", "in", "the", "range", "1", ".", ".", "m", "-", "|", "n", "|", ".", "The", "empty", "environment", ",", "denoted", "is", "the", "list", "-LSB-", "-LRB-", "-LCB-", "-RCB-", ",", "0", ",", "0", "-RRB-", "-RSB-", ".", "A", "block", "-LRB-", ",", "m", ",", "n", "-RRB-", "corresponds", "to", "a", "small", "block", "in", "the", "above", "explanation", ".", "Blocks", "with", "n", "=", "-1", ",", "are", "topped", "with", "a", "code", "pointer", "pointing", "to", "alternatives", ".", "So", ",", "they", "provide", "a", "separation", "between", "big", "blocks", ".", "The", "upper", "big", "block", "consists", "of", "all", "the", "small", "blocks", "up", "to", "-LRB-", "and", "excluding", "-RRB-", "the", "first", "small", "block", "with", "n", "=", "-1", ".", "Blocks", "with", "n", ">", "0", "have", "m", "-", "n", "free", "variables", "and", "are", "topped", "with", "n", "arguments", "of", "pending", "applications", ".", "The", "upper", "block", "is", "the", "only", "one", "with", "n", "=", "0", "meaning", "that", "it", "is", "not", "still", "closed", "and", "that", "it", "can", "be", "extended", ".", "Definition", "3", ".", "A", "closure", "environment", "with", "n", "variables", "is", "a", "mapping", "from", "these", "variables", "to", "disjoint", "numbers", "in", "the", "range", "1", ".", ".", "n.", "Definition", "4", ".", "The", "offset", "of", "a", "variable", "x", "in", "from", "the", "top", "of", "the", "stack", ",", "denoted", "x", ",", "is", "given", "by", "x", "def", "=", "-LRB-", "k", "i", "=", "l", "m", "i", "-RRB-", "l", "x", ",", "being", "x", "dom", "l", "If", "the", "initial", "closed", "expression", "to", "be", "translated", "has", "different", "names", "for", "bound", "variables", ",", "then", "the", "compile", "time", "environments", "and", "will", "never", "have", "duplicate", "names", ".", "It", "will", "be", "proved", "below", "that", "every", "free", "variable", "of", "an", "expression", "being", "compiled", "will", "necessarily", "be", "either", "in", "or", "in", ",", "and", "never", "in", "both", ".", "This", "allows", "us", "to", "introduce", "the", "notation", "-LRB-", ",", "-RRB-", "x", "to", "mean", "-LRB-", ",", "-RRB-", "x", "def", "=", "-LRB-", "STACK", ",", "x", "-RRB-", "if", "x", "dom", "-LRB-", "NODE", ",", "x", "-RRB-", "if", "x", "dom", "The", "stack", "environment", "may", "suffer", "a", "number", "of", "operations", ":", "closing", "the", "current", "small", "block", "with", "a", "set", "of", "arguments", ",", "enlarging", "the", "current", "small", "block", "with", "new", "bindings", ",", "and", "closing", "the", "current", "big", "block", "with", "a", "pointer", "to", "case", "alternatives", ".", "These", "are", "formally", "defined", "as", "follows", ".", "Definition", "5", ".", "The", "following", "operations", "with", "stack", "environments", "are", "defined", ":", "1", ".", "-LRB-", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", "-RRB-", "+", "n", "def", "=", "-LRB-", "-LCB-", "-RCB-", ",", "0", ",", "0", "-RRB-", ":", "-LRB-", ",", "m", "+", "n", ",", "n", "-RRB-", ":", "108", "Instructions", "Stack", "Node", "Heap", "Code", "control", "-LSB-", "ENTER", "-RSB-", "a", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "-LSB-", "p", "is", "-RSB-", "=", "is", "S", "a", "cs", "-LSB-", "RETURNCON", "C", "m", "k", "-RSB-", "p", ":", "S", "node", "cs", "-LSB-", "p", "is", "i", "n", "-RSB-", "=", "is", "k", "S", "node", "cs", "-LSB-", "RETURNCON", "C", "m", "k", "-RSB-", "#", "a", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", "bh", ",", "as", "-RRB-", ",", "node", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "=", "-LSB-", "RETURNCON", "C", "m", "k", "-RSB-", "S", "node", "-LSB-", "a", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "ARGCHECK", "m", ":", "is", "a", "im", ":", "S", "node", "cs", "=", "is", "a", "im", ":", "S", "node", "cs", "ARGCHECK", "m", ":", "is", "a", "in", ":", "#", "a", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", "bh", ",", "ws", "-RRB-", "-RSB-", "cs", "n", "<", "m", "=", "ARGCHECK", "m", ":", "is", "a", "in", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", "n", "+1", "pap", ",", "node", ":", "a", "in", "-RRB-", "-RSB-", "cs", "heap", "ALLOC", "m", ":", "is", "S", "node", "cs", "-LRB-", "1", "-RRB-", "=", "is", "a", "m", ":", "S", "node", "cs", "BUILDCLS", "i", "p", "z", "in", ":", "is", "S", "node", "cs", "-LRB-", "2", "-RRB-", "=", "is", "S", "node", "-LSB-", "S!i", "-LRB-", "p", ",", "a", "in", "-RRB-", "-RSB-", "cs", "stack", "BUILDENV", "z", "in", ":", "is", "S", "node", "cs", "-LRB-", "2", "-RRB-", "=", "is", "a", "in", ":", "S", "node", "cs", "PUSHALTS", "p", ":", "is", "S", "node", "cs", "=", "is", "p", ":", "S", "node", "cs", "UPDTMARK", ":", "is", "S", "node", "-LSB-", "node", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "=", "is", "#node", ":", "S", "node", "-LSB-", "node", "-LRB-", "p", "bh", ",", "ws", "-RRB-", "-RSB-", "cs", "SLIDE", "-LRB-", "n", "k", ",", "m", "k", "-RRB-", "l", ":", "is", "a", "kj", "n", "k", ":", "b", "kj", "m", "k", "l", ":", "S", "node", "cs", "=", "is", "a", "kj", "n", "k", "l", ":", "S", "node", "cs", "-LRB-", "1", "-RRB-", "a", "m", "is", "a", "pointer", "to", "a", "new", "closure", "with", "space", "for", "m", "free", "variables", ",", "and", "is", "the", "resulting", "heap", "after", "the", "allocation", "-LRB-", "2", "-RRB-", "a", "i", "=", "S!i", "if", "z", "i", "=", "-LRB-", "STACK", ",", "i", "-RRB-", "node", "!", "i", "if", "z", "i", "=", "-LRB-", "NODE", ",", "i", "-RRB-", "Figure", "8", ":", "The", "ISTG", "machine", "2", ".", "-LRB-", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", "-RRB-", "+", "-LRB-", "-LCB-", "x", "i", "j", "i", "n", "-RCB-", ",", "n", "-RRB-", "def", "=", "-LRB-", "-LCB-", "x", "i", "m", "+", "j", "i", "n", "-RCB-", ",", "m", "+", "n", ",", "0", "-RRB-", ":", "3", ".", "-LRB-", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", "-RRB-", "+", "+", "def", "=", "-LRB-", "-LCB-", "-RCB-", ",", "0", ",", "0", "-RRB-", ":", "-LRB-", ",", "m", "+", "1", ",", "-1", "-RRB-", ":", "5.1", "Translation", "schemes", "Functions", "trE", "and", "trA", "respectively", "translate", "a", "FUN", "expression", "and", "a", "case", "alternative", "to", "a", "sequence", "of", "ISTG", "machine", "instructions", ";", "function", "trAs", "translates", "a", "set", "of", "alternatives", "to", "a", "pointer", "to", "a", "vectored", "set", "of", "machine", "instruction", "sequences", "in", "the", "code", "store", ";", "and", "function", "trB", "translates", "a", "lambda", "form", "to", "a", "pointer", "to", "a", "machine", "instruction", "sequence", "in", "the", "code", "store", ".", "The", "translation", "schemes", "are", "shown", "in", "Figure", "9", ".", "The", "notation", "...", "&", "cs", "-LSB-", "p", "...", "-RSB-", "means", "that", "the", "corresponding", "translation", "scheme", "has", "a", "side", "effect", "which", "consists", "of", "creating", "a", "code", "sequence", "in", "the", "code", "store", "cs", "and", "pointing", "it", "by", "the", "code", "pointer", "p.", "Proposition", "8", ".", "-LRB-", "static", "invariant", "-RRB-", "Given", "a", "closed", "expression", "e", "0", "with", "different", "bound", "variables", "and", "an", "initial", "call", "trE", "e", "0", "-LCB-", "-RCB-", ",", "in", "all", "internal", "calls", "of", "the", "form", "trE", "e", ":", "1", ".", "The", "stack", "environment", "has", "the", "form", "=", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", ".", "Moreover", ",", "there", "is", "no", "other", "block", "-LRB-", ",", "m", ",", "n", "-RRB-", "in", "with", "n", "=", "0", ".", "Consequently", ",", "all", "environment", "operations", "in", "the", "above", "translation", "are", "well", "defined", ".", "2", ".", "All", "free", "variables", "of", "e", "are", "defined", "either", "in", "or", "in", ".", "Moreover", ",", "dom", "dom", "=", ".", "3", ".", "The", "last", "instruction", "generated", "for", "e", "is", "ENTER", ".", "Consequently", ",", "the", "main", "instruction", "sequence", "and", "all", "sequences", "corresponding", "to", "case", "alternatives", "and", "to", "non-constructor", "closures", ",", "end", "in", "an", "ENTER", ".", "Proof", ".", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", "are", "proved", "by", "induction", "on", "the", "tree", "structure", "of", "calls", "to", "trE", ";", "-LRB-", "3", "-RRB-", "is", "proved", "by", "structural", "induction", "on", "FUN", "expressions", ".", "In", "order", "to", "prove", "the", "correctness", "of", "the", "translation", ",", "we", "only", "need", "to", "consider", "ISTG", "machine", "configurations", "of", "the", "form", "-LRB-", "is", ",", "S", "I", ",", "node", ",", "I", ",", "cs", "-RRB-", "in", "which", "is", "is", "generated", "by", "a", "call", "to", "trE", "for", "some", "expression", "e", "and", "environments", ",", ".", "We", "call", "these", "stable", "configurations", ".", "We", "enrich", "then", "these", "configurations", "with", "three", "additional", "components", ":", "the", "environments", "109", "trE", "-LRB-", "e", "x", "in", "-RRB-", "=", "-LSB-", "BUILDENV", "-LRB-", ",", "-RRB-", "x", "i", "n", "-RSB-", "+", "+", "trE", "e", "-LRB-", "+", "n", "-RRB-", "trE", "-LRB-", "case", "e", "of", "alts", "|", "x", "in", "-RRB-", "=", "-LSB-", "BUILDENV", "zs", ",", "PUSHALTS", "p", "-RSB-", "+", "+", "trE", "e", "+", "+", "-LRB-", "-", "xs", "-RRB-", "where", "p", "=", "trAs", "alts", "=", "+", "-LRB-", "-LCB-", "xs", "j", "m", "-", "j", "+", "1", "m", "-RCB-", ",", "m", "-RRB-", "xs", "=", "-LSB-", "x", "|", "x", "x", "in", "x", "dom", "-RSB-", "zs", "=", "-LSB-", "-LRB-", "node", ",", "x", "-RRB-", "|", "x", "xs", "-RSB-", "m", "=", "|", "xs", "|", "trE", "-LRB-", "letrec", "x", "i", "=", "lf", "i", "|", "y", "ij", "mi", "n", "in", "e", "-RRB-", "=", "-LSB-", "ALLOC", "m", "n", ",", "...", ",", "ALLOC", "m", "1", "-RSB-", "+", "+", "-LSB-", "BUILDCLS", "-LRB-", "i", "-", "1", "-RRB-", "p", "i", "zs", "i", "n", "-RSB-", "+", "+", "trE", "e", "where", "=", "+", "-LRB-", "-LCB-", "x", "i", "n", "-", "i", "+", "1", "n", "-RCB-", ",", "n", "-RRB-", "p", "i", "=", "trB", "-LRB-", "lf", "i", "|", "y", "ij", "mi", "-RRB-", ",", "i", "-LCB-", "1", ".", ".", "n", "-RCB-", "zs", "i", "=", "-LRB-", ",", "-RRB-", "y", "ij", "m", "i", ",", "i", "-LCB-", "1", ".", ".", "n", "-RCB-", "trE", "x", "=", "-LSB-", "BUILDENV", "-LSB-", "-LRB-", ",", "-RRB-", "x", "-RSB-", ",", "SLIDE", "-LRB-", "-LRB-", "1", ",", "0", "-RRB-", ":", "ms", "-RRB-", ",", "ENTER", "-RSB-", "where", "ms", "=", "map", "-LRB-", "\\", "-LRB-", ",", "m", ",", "n", "-RRB-", "-LRB-", "n", ",", "m", "-", "n", "-RRB-", "-RRB-", "-LRB-", "takeWhile", "nn", "-RRB-", "nn", "-LRB-", ",", "m", ",", "-1", "-RRB-", "=", "False", "nn", "=", "True", "trAs", "-LRB-", "alt", "i", "n", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "trA", "alt", "i", "n", "-RSB-", "trA", "-LRB-", "C", "x", "in", "e", "-RRB-", "=", "trE", "e", "-LCB-", "x", "i", "i", "n", "-RCB-", "trB", "-LRB-", "C", "n", "k", "x", "in", "|", "x", "in", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "-LSB-", "RETURNCON", "C", "n", "k", "-RSB-", "-RSB-", "trB", "-LRB-", "x", "il", ".", "e", "|", "y", "j", "n", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "-LSB-", "ARGCHECK", "l", "-RSB-", "+", "+", "trE", "e", "-RSB-", "where", "=", "-LSB-", "-LRB-", "-LCB-", "x", "i", "l", "-", "i", "+", "1", "l", "-RCB-", ",", "l", ",", "0", "-RRB-", "-RSB-", "=", "-LCB-", "y", "j", "j", "n", "-RCB-", "trB", "-LRB-", "e", "|", "y", "j", "n", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "-LSB-", "UPDTMARK", "-RSB-", "+", "+", "trE", "e", "-RSB-", "where", "=", "-LCB-", "y", "j", "j", "n", "-RCB-", "Figure", "9", ":", "Translation", "schemes", "from", "STG-2", "to", "ISTG", "and", "used", "to", "generate", "is", ",", "and", "an", "environment", "stack", "S", "env", "containing", "a", "sequence", "of", "stack", "environments", ".", "The", "environments", "in", "S", "env", "are", "in", "one", "to", "one", "correspondence", "with", "case", "pointers", "stored", "in", "S", "I", ".", "Initially", "S", "env", "is", "empty", ".", "Each", "time", "an", "instruction", "PUSHALTS", "is", "executed", "-LRB-", "see", "trE", "definition", "for", "case", "-RRB-", ",", "the", "environment", "the", "corresponding", "alternatives", "are", "compiled", "with", ",", "is", "pushed", "onto", "stack", "S", "env", ".", "Each", "time", "a", "RETURNCON", "pops", "a", "case", "pointer", ",", "stack", "S", "env", "is", "also", "pop-ed", ".", "So", ",", "enriched", "ISTG", "configurations", "have", "the", "form", "-LRB-", "is", ",", ",", ",", "S", "I", ",", "S", "env", ",", "node", ",", "I", ",", "cs", "-RRB-", ".", "Definition", "6", ".", "A", "STG-2", "environment", "E", "is", "equivalent", "to", "an", "ISTG", "environment", "defined", "by", ",", ",", "S", "I", ",", "I", "and", "node", ",", "denoted", "E", "-LRB-", ",", "S", "I", ",", ",", "I", ",", "node", "-RRB-", "if", "dom", "E", "dom", "dom", "and", "x", "dom", "E", "E", "x", "=", "S", "I", "!", "-LRB-", "x", "-RRB-", "if", "x", "dom", "E", "x", "=", "node", "I", "!", "-LRB-", "x", "-RRB-", "if", "x", "dom", "Definition", "7", ".", "A", "STG-2", "stack", "S", "is", "equivalent", "to", "a", "triple", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "of", "an", "ISTG", "enriched", "configuration", ",", "denoted", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", ",", "if", "1", ".", "Whenever", "=", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", ",", "then", "S", "I", "=", "a", "im", ":", "S", "I", "and", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "2", ".", "Whenever", "=", "-LRB-", ",", "m", ",", "n", "-RRB-", ":", ",", "n", ">", "0", ",", "then", "S", "=", "a", "in", ":", "S", ",", "S", "I", "=", "a", "in", ":", "b", "j", "m-n", ":", "S", "I", "and", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "3", ".", "Whenever", "=", "-LRB-", ",", "m", ",", "-1", "-RRB-", ":", ",", "then", "S", "=", "-LRB-", "alts", ",", "E", "-RRB-", ":", "S", ",", "S", "I", "=", "p", "alts", ":", "S", "I", ",", "S", "env", "=", "alts", ":", "S", "env", ",", "p", "alts", "=", "trAs", "alts", "alts", ",", "E", "-LRB-", "alts", ",", "S", "I", ",", ",", ",", "-RRB-", "and", "S", "-LRB-", "alts", ",", "S", "I", ",", "S", "env", "-RRB-", "4", ".", "Whenever", "S", "=", "#", "a", ":", "S", "and", "S", "I", "=", "#", "a", ":", "S", "I", ",", "then", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "5", ".", "Additionally", ",", "-LSB-", "-RSB-", "-LRB-", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", ",", "-LSB-", "-RSB-", "-RRB-", "110", "Definition", "8", ".", "A", "STG-2", "heap", "is", "equivalent", "to", "an", "ISTG", "pair", "-LRB-", "I", ",", "cs", "-RRB-", ",", "denoted", "-LRB-", "I", ",", "cs", "-RRB-", ",", "if", "for", "all", "p", "we", "have", "-LSB-", "p", "-LRB-", "lf", "|", "x", "in", ",", "E", "-RRB-", "-RSB-", "if", "and", "only", "if", "I", "-LSB-", "p", "-LRB-", "q", ",", "ws", "-RRB-", "-RSB-", ",", "cs", "-LSB-", "q", "is", "-RSB-", ",", "is", "=", "trB", "-LRB-", "lf", "|", "x", "in", "-RRB-", "and", "ws", "=", "E", "x", "i", "n", ".", "Definition", "9", ".", "A", "STG-2", "configuration", "is", "equivalent", "to", "an", "ISTG", "enriched", "stable", "configuration", ",", "denoted", "-LRB-", ",", "e", ",", "E", ",", "S", "-RRB-", "-LRB-", "is", ",", ",", ",", "S", "I", ",", "S", "env", ",", "node", ",", "I", ",", "cs", "-RRB-", "if", "1", ".", "-LRB-", "I", ",", "cs", "-RRB-", "2", ".", "is", "=", "trE", "e", "3", ".", "E", "-LRB-", ",", "S", "I", ",", ",", "I", ",", "node", "-RRB-", "4", ".", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "Proposition", "9", ".", "-LRB-", "dynamic", "invariant", "-RRB-", "Given", "a", "closed", "expression", "e", "0", "with", "different", "bound", "variables", "and", "initial", "STG-2", "and", "ISTG", "configurations", ",", "respectively", "-LRB-", "-LCB-", "-RCB-", ",", "e", "0", ",", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", "-RRB-", "and", "-LRB-", "trE", "e", "0", "-LCB-", "-RCB-", ",", ",", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", ",", "-LSB-", "-RSB-", ",", ",", "-LCB-", "-RCB-", ",", "cs", "-RRB-", ",", "where", "cs", "is", "the", "code", "store", "generated", "by", "the", "whole", "translation", "of", "e", "0", ",", "then", "both", "machines", "evolve", "through", "equivalent", "configurations", ".", "Proof", ".", "By", "induction", "on", "the", "number", "of", "transitions", "of", "both", "machines", ".", "Only", "transitions", "between", "ISTG", "stable", "configurations", "are", "considered", ".", "Corollary", "10", ".", "The", "translation", "given", "in", "Section", "5.1", "is", "correct", ".", "There", "are", "some", "differences", "between", "the", "machine", "translation", "presented", "in", "Section", "5", "and", "the", "actual", "code", "generated", "by", "GHC", ".", "Some", "are", "just", "omissions", ",", "other", "are", "non-substantial", "differences", "and", "some", "other", "are", "deeper", "ones", ".", "In", "the", "first", "group", "it", "is", "the", "treatment", "of", "basic", "values", ",", "very", "elaborated", "in", "GHC", "-LRB-", "see", "for", "example", "-LSB-", "3", "-RSB-", "-RRB-", "and", "completely", "ig-nored", "here", ".", "We", "have", "preferred", "to", "concentrate", "our", "study", "in", "the", "functional", "kernel", "of", "the", "machine", "but", ",", "of", "course", ",", "a", "formal", "reasoning", "about", "this", "aspect", "is", "a", "clear", "continuation", "of", "our", "work", ".", "In", "the", "second", "group", "it", "is", "the", "optimization", "of", "update", "implementation", ".", "In", "GHC", ",", "updates", "can", "be", "done", "either", "by", "indirection", "or", "by", "closure", "creation", ",", "depending", "on", "whether", "there", "is", "enough", "space", "or", "not", "in", "the", "old", "closure", "to", "do", "update", "in", "place", ".", "This", "implies", "to", "keep", "closure", "size", "information", "somewhere", ".", "GHC", "keeps", "it", "in", "the", "so", "called", "info", "table", ",", "a", "static", "part", "shared", "by", "all", "closures", "created", "from", "the", "same", "bind", ".", "This", "table", "forces", "an", "additional", "indirection", "to", "access", "the", "closure", "code", ".", "Our", "model", "has", "simplified", "these", "aspects", ".", "We", "understand", "also", "that", "stack", "restructuring", ",", "as", "the", "one", "performed", "by", "our", "SLIDE", "instruction", ",", "is", "not", "implemented", "in", "this", "way", "by", "GHC", ".", "Apparently", ",", "stubbing", "of", "non", "used", "stack", "positions", "is", "done", "instead", ".", "An", "efficiency", "study", "could", "show", "which", "implementation", "is", "better", ".", "The", "cost", "of", "our", "SLIDE", "instruction", "is", "in", "O", "-LRB-", "n", "-RRB-", ",", "being", "n", "the", "number", "of", "arguments", "to", "be", "preserved", "in", "the", "stack", "when", "the", "current", "environment", "is", "discarded", ".", "Perhaps", "the", "deeper", "difference", "between", "our", "derived", "machine", "and", "the", "actual", "STG", "is", "our", "insistence", "in", "that", "FUN", "applications", "should", "have", "the", "form", "e", "x", "in", "instead", "of", "x", "x", "in", "as", "it", "is", "the", "case", "in", "the", "STG", "language", ".", "This", "decision", "is", "not", "justified", "in", "the", "GHC", "papers", "and", "perhaps", "could", "have", "a", "noticeable", "negative", "impact", "in", "performance", ".", "In", "a", "lazy", "language", ",", "the", "functional", "part", "of", "an", "application", "should", "be", "eagerly", "evaluated", ",", "but", "GHC", "does", "it", "lazily", ".", "This", "implies", "constructing", "a", "number", "of", "closures", "that", "will", "be", "immediately", "entered", "-LRB-", "and", "perhaps", "updated", "afterwards", "-RRB-", ",", "with", "a", "corresponding", "additional", "cost", "both", "in", "space", "and", "time", ".", "Our", "translation", "avoids", "creating", "and", "entering", "these", "closures", ".", "If", "the", "counter-argument", "were", "having", "the", "possibility", "of", "sharing", "functional", "expressions", ",", "this", "is", "always", "available", "in", "FUN", "since", "a", "variable", "is", "a", "particular", "case", "of", "an", "expression", ".", "What", "we", "claim", "is", "that", "the", "normalization", "process", "in", "the", "Core-to-STG", "translation", "should", "not", "introduce", "unneeded", "sharing", ".", "We", "have", "presented", "a", "stepwise", "derivation", "of", "a", "-LRB-", "well", "known", "-RRB-", "abstract", "machine", "starting", "from", "Sestoft", "'s", "operational", "semantics", ",", "going", "through", "several", "intermediate", "machines", "and", "arriving", "at", "an", "imperative", "machine", "very", "close", "to", "a", "conventional", "imperative", "language", ".", "This", "strategy", "of", "adding", "a", "small", "amount", "of", "detail", "in", "each", "step", "has", "allowed", "us", "both", "to", "provide", "insight", "on", "fundamental", "decisions", "underlying", "the", "STG", "design", "and", ",", "perhaps", "more", "importantly", ",", "to", "be", "able", "to", "show", "the", "correctness", "of", "each", "refinement", "with", "respect", "to", "the", "previous", "one", "and", ",", "consequently", ",", "the", "correctness", "of", "the", "whole", "derivation", ".", "To", "our", "knowledge", ",", "this", "is", "the", "first", "time", "that", "formal", "translation", "schemes", "and", "a", "formal", "proof", "of", "correctness", "of", "the", "STG", "to", "C", "translation", "has", "been", "done", ".", "Our", "previous", "work", "-LSB-", "2", "-RSB-", "followed", "a", "different", "path", ":", "it", "showed", "the", "soundness", "and", "completeness", "of", "a", "STG-like", "machine", "called", "STG-1S", "-LRB-", "laying", "somewhere", "between", "machines", "STG-2", "and", "ISTG", "of", "this", "paper", "-RRB-", "with", "respect", "to", "Sestoft", "'s", "semantics", ".", "The", "technique", "used", "was", "also", "different", ":", "a", "bisimulation", "between", "the", "STG-1S", "machine", "and", "Sestoft", "'s", "MARK-2", "machine", "was", "proved", ".", "We", "got", "the", "inspiration", "for", "the", "strategy", "followed", "here", "from", "Mountjoy", "-LSB-", "5", "-RSB-", "and", "in", "Section", "2", "we", "have", "explained", "the", "differences", "between", "his", "and", "our", "work", ".", "The", "previous", "machines", "of", "all", "these", "works", ",", "including", "STG-1", "and", "STG-2", "of", "this", "paper", ",", "are", "very", "abstract", "in", "the", "sense", "that", "they", "deal", "directly", "with", "functional", "expressions", ".", "The", "new", "machine", "ISTG", "introduced", "here", "is", "a", "really", "low", "level", "machine", "dealing", "with", "raw", "imperative", "instructions", "and", "pointers", ".", "Two", "contributions", "of", "this", "paper", "have", "been", "to", "bridge", "this", "big", "gap", "by", "means", "of", "the", "translations", "schemes", "and", "the", "proof", "of", "correctness", "of", "this", "translation", ".", "Our", "experience", "is", "that", "formal", "reasoning", "about", "even", "well", "known", "products", "always", "reveals", "new", "details", ",", "give", "new", "insight", ",", "makes", "good", "decisions", "more", "solid", "and", "provides", "trust", "in", "the", "behavior", "of", "our", "programs", ".", "-LSB-", "1", "-RSB-", "A.", "at", "URL", ":", "http://www.haskell.org/ghc/", ".", "-LSB-", "2", "-RSB-", "A.", "Encina", "and", "R.", "Pe", "~", "na", ".", "Proving", "the", "Correctness", "of", "the", "STG", "Machine", ".", "In", "Implementation", "of", "Functional", "Languages", ",", "IFL", "'", "01", ".", "Selected", "Papers", ".", "LNCS", "2312", ",", "pages", "88", "104", ".", "Springer-Verlag", ",", "2002", ".", "-LSB-", "3", "-RSB-", "S.", "P.", "Jones", "and", "J.", "Launchbury", ".", "Unboxed", "values", "as", "first", "class", "citizens", "in", "a", "non-strict", "functional", "language", ".", "Conference", "on", "Functional", "Programming", "Languages", "and", "Computer", "Architecture", "FPCA", "'", "91", ",", "LNCS", "523", ",", "September", "1991", ".", "-LSB-", "4", "-RSB-", "J.", "Launchbury", ".", "A", "Natural", "Semantics", "for", "Lazy", "Evaluation", ".", "In", "Proc", ".", "Conference", "on", "Principles", "of", "Programming", "Languages", ",", "POPL", "'", "93", ".", "ACM", ",", "1993", ".", "-LSB-", "5", "-RSB-", "J.", "Mountjoy", ".", "The", "Spineless", "Tagless", "G-machine", ",", "Naturally", ".", "In", "Third", "International", "Conference", "on", "Functional", "Programming", ",", "ICFP", "'", "98", ",", "Baltimore", ".", "ACM", "Press", ",", "1998", ".", "111", "-LSB-", "6", "-RSB-", "S.", "L.", "Peyton", "Jones", ".", "Implementing", "Lazy", "Functional", "Languages", "on", "Stock", "Hardware", ":", "the", "Spineless", "Tagless", "G-machine", ",", "Version", "2.5", ".", "Journal", "of", "Functional", "Programming", ",", "2", "-LRB-", "2", "-RRB-", ":", "127", "202", ",", "April", "1992", ".", "-LSB-", "7", "-RSB-", "S.", "L.", "Peyton", "Jones", ",", "C.", "V.", "Hall", ",", "K.", "Hammond", ",", "W.", "D.", "Partain", ",", "and", "P.", "L.", "Wadler", ".", "The", "Glasgow", "Haskell", "Compiler", ":", "A", "Technical", "Overview", ".", "In", "Joint", "Framework", "for", "Inf", ".", "Technology", ",", "Keele", ",", "pages", "249", "257", ",", "1993", ".", "-LSB-", "8", "-RSB-", "S.", "L.", "Peyton", "Jones", "and", "J.", "Hughes", ",", "editors", ".", "Report", "on", "the", "Programming", "Language", "Haskell", "98", ".", "URL", "http://www.haskell.org", ",", "February", "1999", ".", "-LSB-", "9", "-RSB-", "S.", "L.", "Peyton", "Jones", ",", "S.", "Marlow", ",", "and", "A.", "Reid", ".", "The", "STG", "Runtime", "System", "-LRB-", "revised", "-RRB-", ".", "http://www.haskell.org/ghc/docs", ",", "1999", ".", "-LSB-", "10", "-RSB-", "P.", "Sestoft", ".", "Deriving", "a", "Lazy", "Abstract", "Machine", ".", "Journal", "of", "Functional", "Programming", ",", "7", "-LRB-", "3", "-RRB-", ":", "231", "264", ",", "May", "1997", ".", "112"], "doc_bio_tags": ["O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["functional programming", "translation scheme", "haskell compiler", "stepwise derivation", "abstract machine", "closures", "operational semantics", "lazy evaluation", "stg machine"], "abstractive_keyphrases": ["abstract machines", "compiler verification"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "99", "document": ["Handoff", "Trigger", "Table", "for", "Integrated", "3G/WLAN", "Networks", "Vertical", "handoff", "is", "a", "switching", "process", "between", "heterogeneous", "wireless", "networks", "in", "a", "hybrid", "3G/WLAN", "network", ".", "Vertical", "handoffs", "fromWLAN", "to", "3G", "network", "often", "fail", "due", "to", "the", "abrupt", "degrade", "of", "the", "WLAN", "signal", "strength", "in", "the", "transition", "areas", ".", "In", "this", "paper", ",", "a", "Handoff", "Trigger", "Table", "is", "introduced", "to", "improve", "the", "performance", "of", "vertical", "handoff", ".", "Based", "on", "this", "table", ",", "a", "proactive", "handoff", "scheme", "is", "proposed", ".", "Simulation", "results", "show", "that", "with", "the", "proposed", "scheme", ",", "the", "vertical", "handoff", "decisions", "will", "be", "more", "efficient", "so", "that", "dropping", "probability", "can", "be", "decreased", "dramatically", ".", "C.", "4", "-LSB-", "Performance", "of", "Systems", "-RSB-", ":", "Design", "Studies", ";", "C.", "2.1", "-LSB-", "Network", "Architecture", "and", "Design", "-RSB-", ":", "Wireless", "Communications", "--", "Integrated", "3G/WLAN", "Networks", "Performance", "With", "the", "emergence", "of", "different", "wireless", "technologies", ",", "which", "are", "developed", "for", "different", "purposes", ",", "the", "integration", "of", "these", "wireless", "networks", "has", "attracted", "much", "attention", "from", "both", "academia", "and", "industry", ".", "Among", "them", ",", "the", "integration", "of", "3G", "cellular", "networks", "and", "wireless", "local", "access", "networks", "-LRB-", "WLAN", "-RRB-", "has", "become", "a", "very", "active", "area", "in", "the", "development", "toward", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "IWCMC", "'", "06", ",", "July", "3", "6", ",", "2006", ",", "Vancouver", ",", "British", "Columbia", ",", "Canada", ".", "Copyright", "2006", "ACM", "1-59593-306-9", "/", "06/0007", "...", "$", "5.00", ".", "next", "generation", "wireless", "networks", ".", "WLAN", "access", "technology", "can", "offer", "high-speed", "data", "connections", "in", "a", "small", "coverage", "with", "relatively", "low", "cost", ".", "On", "the", "other", "hand", ",", "cellular", "networks", "can", "offer", "connectivity", "over", "several", "square", "kilometers", "but", "with", "relatively", "low", "data", "rate", ".", "Taking", "advantages", "of", "both", "networks", "will", "bring", "great", "benefits", "to", "both", "service", "providers", "and", "users", ".", "One", "of", "the", "desired", "features", "of", "such", "a", "heterogeneous", "wireless", "network", "is", "to", "support", "seamless", "global", "roaming", "or", "vertical", "handoff", ".", "Traditionally", ",", "handoff", "is", "performed", "within", "the", "same", "wireless", "system", ",", "which", "is", "called", "horizontal", "handoff", ".", "In", "contrast", ",", "a", "vertical", "handoff", "takes", "place", "between", "different", "wireless", "networks", "-LSB-", "2", "-RSB-", ".", "In", "an", "integrated", "3G/WLAN", "network", ",", "there", "are", "two", "directions", "in", "vertical", "handoff", ",", "one", "is", "from", "WLANs", "to", "3G", "networks", "and", "the", "other", "is", "from3G", "Networks", "to", "WLANs", ".", "In", "the", "first", "direction", ",", "the", "objective", "for", "handoff", "is", "to", "maintain", "the", "connectivity", ",", "i.e.", ",", "switching", "to", "the", "cellular", "network", "before", "the", "WLAN", "link", "breaks", "while", "trying", "to", "stay", "in", "the", "WLAN", "as", "long", "as", "possible", "because", "of", "its", "relatively", "high", "bandwidth", "and", "low", "cost", ".", "Since", "a", "WLAN", "has", "smaller", "coverage", "and", "is", "usually", "covered", "by", "a", "3G", "network", ",", "when", "the", "mobile", "terminal", "-LRB-", "MT", "-RRB-", "steps", "out", "of", "the", "WLAN", "area", ",", "the", "decay", "of", "the", "signal", "fromthe", "WLAN", "should", "be", "accurately", "detected", ".", "A", "timely", "decision", "of", "handoff", "should", "be", "made", "properly", ",", "and", "the", "MT", "should", "switch", "the", "connection", "to", "the", "appropriate", "3G", "network", "successfully", ".", "In", "the", "second", "direction", ",", "the", "objective", "of", "handoff", "is", "usually", "to", "improve", "QoS", "and", "acquire", "higher", "bandwidth", "with", "lower", "cost", ".", "In", "this", "paper", ",", "we", "will", "focus", "on", "the", "first", "direction", ",", "which", "is", "the", "handoff", "fromthe", "WLAN", "to", "the", "3G", "network", ".", "For", "a", "WLAN", ",", "signal", "power", "is", "limited", ",", "which", "causes", "the", "signal", "strength", "to", "be", "quite", "easily", "influenced", "by", "physical", "obstruction", "and", "blocks", ".", "For", "example", ",", "if", "the", "MT", "passes", "some", "blocks", "or", "moves", "into", "the", "elevator", ",", "there", "will", "be", "an", "abrupt", "drop", "in", "its", "received", "WLAN", "signal", "strength", ".", "In", "this", "case", ",", "the", "MT", "may", "not", "have", "enough", "time", "to", "finish", "the", "WLAN-to", "-3", "G-Network", "vertical", "handoff", "procedure", "before", "the", "link", "to", "WLAN", "breaks", ".", "Therefore", ",", "how", "to", "effectively", "detect", "the", "signal", "decay", "to", "trigger", "the", "handoff", "becomes", "a", "very", "important", "issue", ".", "In", "this", "paper", ",", "we", "propose", "to", "maintain", "a", "Handoff", "Trigger", "Table", "-LRB-", "HTT", "-RRB-", "at", "the", "Access", "Point", "-LRB-", "AP", "-RRB-", "to", "record", "some", "location", "information", "on", "transition", "areas", "in", "which", "vertical", "575", "handoffs", "occur", ".", "With", "the", "information", "of", "the", "HTT", ",", "a", "proactive", "handoff", "scheme", "is", "proposed", "to", "enable", "the", "MTs", "to", "start", "the", "vertical", "handoff", "procedure", "early", "enough", "to", "finish", "the", "vertical", "handoff", "procedure", ",", "thus", "the", "handoff", "call", "dropping", "probability", "can", "be", "decreased", "dramatically", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "some", "related", "work", "is", "discussed", ".", "In", "Section", "3", ",", "we", "propose", "a", "Handoff", "Trigger", "Table", "to", "assist", "making", "handoff", "decisions", ".", "The", "handoff", "schem", "e", "based", "on", "this", "table", "is", "also", "presented", ".", "Section", "4", "gives", "simulation", "results", "to", "demonstrate", "the", "better", "performance", "of", "the", "proposed", "scheme", "in", "comparison", "with", "the", "traditional", "one", ".", "Section", "5", "concludes", "the", "paper", ".", "In", "traditional", "handoff", "schemes", ",", "the", "received", "signal", "strength", "-LRB-", "RSS", "-RRB-", "has", "been", "used", "as", "an", "indicator", "for", "making", "handoff", "decisions", ".", "Some", "of", "the", "traditional", "approaches", "are", "as", "follows", ":", "-LSB-", "5", "-RSB-", "RSS", ":", "handoff", "takes", "place", "if", "the", "RSS", "of", "a", "candidate", "point", "of", "attachment", "is", "larger", "than", "the", "RSS", "of", "the", "current", "point", "of", "attachm", "ent", "-LRB-", "RSS", "new", ">", "RSS", "current", "-RRB-", ";", "RSS", "plus", "threshold", ":", "handoff", "is", "made", "if", "the", "RSS", "of", "a", "candidate", "point", "of", "attachment", "is", "larger", "than", "that", "of", "the", "current", "point", "of", "attachment", "and", "the", "latter", "is", "less", "than", "a", "certain", "pre-defined", "threshold", "T", "-LRB-", "RSS", "new", ">", "RSS", "current", "and", "RSS", "current", "<", "T", "-RRB-", ";", "RSS", "plus", "hysteresis", ":", "a", "handoff", "takes", "place", "if", "the", "RSS", "of", "the", "candidate", "point", "of", "attachment", "is", "larger", "than", "the", "RSS", "of", "the", "current", "one", "with", "a", "pre-defined", "hysteresis", "margin", "H", "-LRB-", "RSS", "new", ">", "RSS", "current", "+", "H", "-RRB-", ";", "Algorithm", "plus", "dwell", "timer", ":", "sometimes", "a", "dwell", "timer", "can", "be", "added", "to", "the", "above", "algorithms", ".", "This", "timer", "is", "started", "when", "one", "of", "the", "above", "conditions", "happens", ",", "and", "the", "handoff", "takes", "place", "if", "the", "condition", "is", "met", "for", "the", "entire", "dwell", "timer", "interval", ".", "For", "the", "vertical", "handoff", "process", ",", "it", "may", "not", "be", "very", "reliable", "to", "make", "handoff", "decisions", "based", "only", "on", "the", "RSS", "of", "the", "point", "of", "attachment", "-LRB-", "e.g.", ",", "AP", "of", "the", "WLAN", "-RRB-", "and", "the", "candidate", "point", "of", "attachment", "-LRB-", "e.g.", ",", "base", "station", "of", "the", "3G", "network", "-RRB-", "because", "of", "the", "asymmetric", "nature", "of", "the", "handoff", "problem", "-LSB-", "6", "-RSB-", ".", "As", "mentioned", "before", ",", "the", "handoff", "from", "WLAN", "to", "3G", "network", "is", "expected", "to", "be", "efficient", "and", "effective", ".", "Some", "methods", "have", "been", "proposed", "to", "achieve", "this", "goal", ".", "One", "of", "them", "is", "the", "Fast", "Fourier", "Transform", "-LRB-", "FFT", "-RRB-", "-", "based", "decay", "detection", "-LSB-", "1", "-RSB-", ".", "This", "approach", "tries", "to", "estimate", "the", "signal", "decay", ",", "and", "will", "trigger", "the", "handoff", "after", "the", "signal", "is", "confirmed", "to", "be", "decreased", "to", "a", "certain", "threshold", ".", "However", ",", "this", "approach", "has", "high", "calculation", "complexity", "with", "the", "need", "of", "frequent", "sampling", ",", "and", "suffers", "from", "estimation", "errors", ".", "In", "-LSB-", "2", "-RSB-", ",", "handoff", "triggering", "nodes", "are", "used", "to", "notify", "the", "mobile", "terminal", "to", "start", "the", "handoff", ".", "These", "special", "nodes", "are", "data", "stations", "installed", "in", "WLAN/cellular", "transition", "regions", "where", "vertical", "handoffs", "occur", ".", "When", "an", "MT", "moves", "close", "to", "it", ",", "the", "handoff", "triggering", "node", "will", "send", "a", "handoff", "trigger", "command", "to", "trigger", "the", "link", "layer", "handoff", ".", "Using", "handoff", "trigger", "node", "can", "be", "good", "at", "triggering", "the", "handoffs", ",", "but", "if", "they", "are", "needed", "in", "many", "places", "within", "a", "WLAN", ",", "it", "will", "be", "costly", "to", "set", "up", "many", "trigger", "nodes", ".", "In", "addition", ",", "if", "there", "are", "new", "blocks", "appearing", "in", "the", "WLAN", ",", "it", "is", "hard", "to", "determine", "where", "the", "additional", "trigger", "nodes", "should", "be", "installed", ".", "Therefore", ",", "this", "approach", "is", "not", "very", "flexible", ".", "The", "Fuzzy", "logic", "based", "handoff", "algorithm", "-LSB-", "3", "-RSB-", "-LSB-", "4", "-RSB-", "is", "proposed", "to", "assist", "making", "handoff", "decisions", ".", "This", "algorithmdecreases", "handoff", "delay", "and", "the", "number", "of", "unnecessary", "handoffs", "by", "changing", "the", "RSS", "average", "window", "according", "to", "the", "MT", "speed", ".", "It", "is", "worth", "mentioning", "that", "some", "fuzzy", "logic", "based", "algorithms", "are", "complex", "and", "may", "not", "be", "easy", "to", "be", "implemented", "in", "practical", "systems", ".", "Recently", ",", "WLAN", "has", "been", "expected", "to", "provide", "user", "location", "information", "-LSB-", "6", "-RSB-", "-", "-LSB-", "10", "-RSB-", ",", "which", "is", "helpful", "for", "making", "vertical", "handoffs", ".", "We", "propose", "to", "use", "a", "Handoff", "Trigger", "Table", "-LRB-", "HTT", "-RRB-", "to", "store", "such", "location", "information", "at", "the", "AP", "and", "utilize", "it", "to", "trigger", "the", "WLAN-to-3G", "vertical", "handoff", "explicitly", ".", "Based", "on", "this", "table", ",", "a", "proactive", "handoff", "scheme", "is", "proposed", "to", "assist", "MTs", "to", "handoff", "in", "the", "right", "places", "at", "the", "right", "time", ".", "With", "this", "scheme", ",", "handoff", "decisions", "can", "be", "more", "efficient", "and", "handoffs", "are", "more", "likely", "to", "succeed", "compared", "with", "the", "traditional", "schemes", "which", "trigger", "the", "handoff", "mainly", "based", "on", "the", "received", "signal", "strength", "at", "the", "MTs", ".", "3.1", "Handoff", "Trigger", "Table", "A", "typical", "integrated", "3G/WLAN", "network", "is", "shown", "in", "Fig.", "1", ".", "The", "HTT", "is", "normally", "implemented", "at", "the", "APs", "of", "WLAN", "and", "used", "to", "record", "the", "user", "location", "information", "which", "will", "be", "helpful", "to", "make", "handoff", "decisions", "as", "explained", "later", ".", "An", "example", "of", "the", "HTT", "is", "given", "in", "Table", "1", ".", "Table", "1", ":", "An", "example", "of", "HandoffTrigger", "Table", "X", "1", "+", "D", ">", "x", ">", "X", "1", "-", "D", "Y", "1", "+", "D", ">", "y", ">", "Y", "1", "-", "D", "X", "2", "+", "D", ">", "x", ">", "X", "2", "-", "D", "Y", "2", "+", "D", ">", "y", ">", "Y", "2", "-", "D", "X", "n", "+", "D", ">", "x", ">", "X", "n", "-", "D", "Y", "n", "+", "D", ">", "y", ">", "Y", "n", "-", "D", "In", "the", "HTT", ",", "the", "information", "of", "the", "locations", "where", "an", "MT", "needs", "to", "handoff", "is", "given", ".", "We", "defined", "Black", "Holes", "-LRB-", "BH", "-RRB-", "the", "small", "areas", "in", "which", "the", "received", "signal", "strength", "at", "an", "MT", "decreases", "abruptly", "and", "the", "link", "to", "the", "AP", "breaks", "in", "a", "very", "short", "time", ".", "In", "such", "BHs", ",", "if", "the", "MT", "does", "not", "switch", "the", "connection", "to", "the", "3G", "network", ",", "it", "will", "not", "be", "able", "to", "keep", "the", "connectivity", "to", "its", "correspondence", "node", ".", "Each", "BH", "is", "proposed", "to", "be", "covered", "by", "a", "slightly", "larger", "area", ",", "namely", ",", "proactive", "area", ".", "When", "MTs", "move", "into", "a", "proactive", "area", ",", "the", "AP", "will", "send", "a", "message", "to", "notify", "the", "MT", "to", "start", "proactive", "handoff", "-LRB-", "detailed", "in", "Section", "3.2", "-RRB-", ",", "regardless", "of", "the", "current", "received", "signal", "strength", "at", "the", "MT.", "In", "Table", "1", ",", "-LRB-", "X", "i", ",", "Y", "i", ",", "i", "=", "1", ",", "2", ",", ",", "n", "-RRB-", "are", "the", "location", "coordinates", "of", "the", "center", "of", "the", "BHs", ",", "and", "D", "is", "the", "distance", "between", "the", "center", "of", "the", "black", "hole", "and", "proactive", "area", "edges", ".", "-LRB-", "X", "n", "+", "D", ">", "x", ">", "X", "n", "-", "D", ",", "Y", "n", "+", "D", ">", "y", ">", "Y", "n", "-", "D", "-RRB-", "is", "an", "example", "of", "possible", "ways", "to", "describe", "the", "proactive", "area", ".", "Note", "that", "other", "types", "of", "proactive", "areas", "such", "as", "circles", "can", "also", "be", "adopted", ".", "Fig.", "1", "illustrates", "the", "above", "two", "concepts", ",", "wherein", "A", ",", "B", "and", "C", "are", "three", "BHs", "within", "the", "WLAN", ",", "and", "A", "'", ",", "B", "'", ",", "C", "'", "are", "the", "corresponding", "proactive", "areas", ".", "The", "HTT", "will", "be", "initialized", "when", "the", "AP", "is", "installed", "in", "the", "WLAN", ",", "then", "it", "will", "be", "dynamically", "updated", ".", "In", "the", "initial", "stage", ",", "MTs", "will", "handoff", "in", "a", "traditional", "way", ",", "i.e.", ",", "handoff", "576", "Figure", "1", ":", "An", "example", "of", "WLAN", "with", "Black", "Holes", "when", "the", "received", "signal", "strength", "decreases", "to", "a", "threshold", ".", "In", "addition", ",", "the", "MT", "sends", "out", "a", "handoff", "notification", "to", "the", "AP", ",", "and", "the", "AP", "will", "record", "the", "coordinates", "of", "this", "handoff", "location", "into", "the", "HTT", ".", "Usually", "BH", "is", "not", "a", "dot", ",", "but", "a", "small", "area", ".", "Therefore", ",", "for", "each", "BH", ",", "the", "HTT", "will", "store", "many", "coordinates", "of", "points", "where", "vertical", "handoffs", "occur", ",", "then", "the", "AP", "will", "try", "to", "merge", "these", "coordinates", "to", "form", "a", "corresponding", "proactive", "area", "and", "put", "it", "into", "the", "HTT", ".", "After", "the", "initialization", "stage", ",", "the", "HTT", "will", "only", "contain", "the", "description", "of", "proactive", "areas", "instead", "of", "individual", "coordinates", "of", "BHs", ".", "Meanwhile", ",", "the", "AP", "will", "often", "check", "the", "HTT", "to", "decide", "whether", "any", "MT", "enters", "the", "proactive", "areas", ".", "When", "a", "new", "BH", "appears", ",", "the", "AP", "will", "be", "able", "to", "record", "its", "proactive", "area", "into", "the", "HTT", "after", "some", "vertical", "handoffs", "take", "place", "near", "this", "BH", ",", "similar", "to", "the", "initial", "stage", ".", "When", "a", "BH", "disappears", "due", "to", "some", "reasons", "-LRB-", "e.g.", ",", "restructure", "in", "the", "WLAN", "-RRB-", ",", "there", "will", "be", "no", "vertical", "handoffs", "occur", "in", "the", "corresponding", "proactive", "area", ".", "As", "a", "result", ",", "the", "AP", "will", "remove", "the", "entry", "of", "this", "proactive", "area", "fromthe", "HTT", "after", "some", "predefined", "time", ",", "which", "can", "be", "decided", "by", "the", "system", "administrator", ".", "With", "the", "above", "methods", ",", "the", "HTT", "is", "maintained", "dynamically", "and", "can", "adaptive", "to", "the", "change", "of", "the", "environment", ".", "3.2", "Proactive", "Handoff", "Scheme", "Based", "on", "the", "Handoff", "Trigger", "Table", ",", "we", "propose", "a", "proactive", "handoff", "scheme", "to", "achieve", "better", "handoff", "performance", ".", "In", "the", "traditional", "scheme", ",", "the", "handoff", "decision", "mechanism", "is", "that", "a", "handoff", "will", "be", "triggered", "when", "the", "current", "RSS", "is", "lower", "than", "a", "threshold", "-LRB-", "THm", "-RRB-", "or", "RSS", "from", "the", "candidate", "network", "is", "higher", "than", "a", "threshold", "-LRB-", "THw", "-RRB-", ".", "The", "procedure", "is", "illustrated", "in", "Fig.", "2", ".", "In", "the", "proposed", "scheme", ",", "we", "divide", "the", "handoff", "into", "two", "stages", ",", "a", "proactive", "handoff", "stage", "and", "a", "handoff", "stage", ".", "In", "the", "proactive", "handoff", "stage", ",", "when", "an", "MT", "moves", "into", "a", "proactive", "area", ",", "the", "AP", "will", "send", "it", "a", "proactive", "handoff", "message", ".", "Following", "that", "the", "MT", "will", "send", "out", "a", "binding", "update", "message", "to", "the", "AP", "and", "start", "this", "network", "layer", "handoff", ".", "The", "procedure", "is", "given", "in", "Fig.", "3", ".", "When", "an", "MT", "enters", "the", "WLAN", ",", "the", "RSSs", "in", "sampling", "intervals", "will", "be", "measured", "and", "their", "averages", "are", "computed", ".", "At", "the", "same", "time", ",", "the", "AP", "will", "check", "if", "the", "MT", "is", "in", "any", "proactive", "area", ".", "If", "yes", ",", "it", "will", "send", "a", "control", "message", "Pre-Handoff", "-", "CMD", "to", "the", "MT.", "After", "receiving", "this", "message", ",", "the", "MT", "will", "start", "to", "send", "the", "cellular", "network", "a", "message", "to", "request", "a", "connection", ".", "When", "the", "signal", "decreases", "to", "a", "certain", "threshold", "R", "t", ",", "the", "link-layer", "handoff", "starts", ",", "and", "the", "MT", "will", "Handoff", "execution", "RSS", "<", "Rt", "No", "Yes", "Start", "handoff", "Averaging", "Measurements", "Figure", "2", ":", "Traditional", "handoffscheme", "for", "Hybrid", "Networks", "Measurements", "Averaging", "Handoff", "Trigger", "Table", "Handoff", "execution", "RSS", "<", "Rt", "Pre-handoff", "Yes", "No", "Figure", "3", ":", "Proactive", "handoffscheme", "for", "Hybrid", "Networks", "switch", "the", "connection", "to", "the", "cellular", "network", ".", "When", "the", "received", "signal", "strength", "decreases", "to", "R", "t", ",", "but", "the", "MT", "still", "does", "not", "receive", "the", "Pre-Handoff-CMD", ",", "it", "will", "send", "a", "message", "to", "informthe", "AP", "to", "add", "this", "location", "coordinate", "into", "the", "HTT", ".", "The", "threshold", "R", "t", "is", "a", "design", "parameter", "that", "can", "be", "set", "by", "the", "administrator", "to", "best", "enable", "vertical", "handoff", "procedure", "under", "the", "WLAN-specific", "physical", "situation", ".", "In", "this", "section", ",", "we", "compare", "the", "performance", "of", "the", "proposed", "vertical", "handoff", "scheme", "with", "HTT", "and", "the", "traditional", "handoff", "scheme", "by", "simulation", ".", "Consider", "the", "simplified", "network", "model", "for", "3G/WLAN", "networks", "shown", "in", "Fig.", "1", ".", "We", "assume", "that", "the", "3G", "network", "covers", "the", "WLAN", "area", ".", "The", "RSS", "of", "the", "WLAN", "signal", "at", "an", "MH", "is", "assumed", "as", "a", "function", "of", "the", "distance", "d", "between", "the", "MH", "and", "the", "AP", "-LSB-", "11", "-RSB-", ":", "RSS", "-LRB-", "d", "-RRB-", "=", "P", "T", "L", "10n", "log", "-LRB-", "d", "-RRB-", "+", "f", "-LRB-", ",", "-RRB-", "dBm", ",", "where", "P", "T", "is", "the", "transmitted", "power", ",", "L", "is", "a", "constant", "signal", "power", "loss", ",", "n", "is", "the", "path", "loss", "exponent", ",", "and", "f", "-LRB-", ",", "-RRB-", "represents", "shadow", "fading", "modeled", "as", "zero", "mean", "Gaussian", "random", "variable", "with", "mean", "and", "standard", "deviation", ".", "In", "the", "WLAN", ",", "there", "are", "a", "number", "of", "BHs", ",", "in", "which", "the", "RSS", "will", "decrease", "to", "almost", "zero", "immediately", "and", "the", "MT", "will", "have", "to", "handoff", "to", "the", "3G", "networks", ".", "577", "The", "popular", "Random", "Waypoint", "mobility", "model", "-LSB-", "12", "-RSB-", "is", "used", "to", "simulate", "the", "mobility", "of", "the", "MTs", "in", "the", "WLAN", ".", "At", "the", "beginning", ",", "the", "MTs", "'", "positions", "in", "the", "WLAN", "are", "uniformly", "distributed", ".", "Each", "MT", "will", "move", "at", "a", "random", "speed", "V", ",", "which", "is", "uniformly", "distributed", "in", "-LSB-", "V", "min", ",", "V", "max", "-RSB-", ",", "and", "in", "a", "randomdirection", ".", "After", "randomtime", "T", "m", ",", "the", "MT", "will", "stop", "and", "stay", "for", "randomtime", "T", "s", ",", "with", "both", "T", "m", "and", "T", "s", "uniformly", "distributed", "in", "-LSB-", "0", ",", "2s", "-RSB-", ".", "The", "MT", "will", "continue", "the", "movement", "as", "described", "above", ".", "Any", "MT", "that", "moves", "out", "of", "the", "WLAN", "will", "be", "eliminated", ",", "and", "a", "new", "MT", "will", "be", "gener-ated", "in", "the", "WLAN", "with", "a", "randomly", "chosen", "location", ".", "Some", "other", "parameters", "used", "in", "the", "simulations", "are", "given", "in", "Table", "2", ".", "Table", "2", ":", "Parameters", "for", "the", "numerical", "examples", "Parameter", "Value", "PT", "100mW", "R", "t", "-85", "dbm", "n", "3.3", "7dB", "Handoff", "time", "2s", "Velocity", "range", "0", "2", "m", "/", "sec", "Number", "of", "BHs", "3", "WLAN", "area", "100m", "100m", "We", "define", "the", "transition", "time", "as", "the", "time", "from", "when", "an", "MT", "starts", "handoff", "to", "the", "moment", "it", "moves", "into", "a", "BH", ",", "and", "handoff", "time", "as", "the", "time", "from", "when", "an", "MT", "sends", "out", "the", "binding", "update", "message", "to", "the", "moment", "it", "receives", "the", "first", "package", "fromthe", "Base", "Station", ".", "The", "drop", "of", "a", "call", "only", "happens", "when", "the", "transition", "time", "is", "less", "than", "the", "handoff", "time", ".", "In", "Figs.", "4", ",", "5", "and", "6", ",", "we", "present", "the", "dropping", "probability", "of", "the", "proposed", "scheme", "and", "the", "traditional", "handoff", "scheme", "based", "on", "different", "proactive", "distance", ",", "D", ",", "and", "two", "values", "of", "user", "mobility", "rate", ",", "V", ",", "respectively", ".", "Fig.", "4", "illustrates", "the", "0", "0.5", "1", "1.5", "2", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "User", "Mobility", "rate", "Drop", "Probablity", "Traditional", "Method", "D", "=", "0.4", "HTT", "Method", "D", "=", "0.5", "HTT", "Method", "Figure", "4", ":", "Effect", "of", "user", "mobility", "effect", "of", "user", "mobility", "on", "the", "connection", "dropping", "probability", ".", "In", "this", "figure", ",", "the", "dropping", "probabilities", "for", "proactive", "distance", "D", "=", "0.4", "and", "D", "=", "0.5", ",", "are", "given", ".", "In", "these", "results", ",", "handoff", "time", "is", "2s", ".", "From", "the", "figure", ",", "we", "can", "see", "that", "the", "handoff", "probability", "has", "been", "reduced", "with", "the", "explicit", "handoff", "trigger", "in", "the", "proposed", "scheme", ",", "because", "mobile", "terminals", "can", "have", "more", "time", "to", "execute", "the", "handoff", ".", "When", "the", "proactive", "distance", "increases", ",", "the", "dropping", "probability", "decreases", ".", "This", "is", "due", "to", "the", "fact", "that", "when", "the", "proactive", "distance", "is", "larger", ",", "the", "time", "for", "the", "MT", "to", "execute", "the", "handoff", "will", "be", "longer", ".", "We", "can", "also", "see", "that", "when", "the", "MTs", "move", "faster", ",", "dropping", "probability", "will", "increase", "as", "well", ",", "because", "shorter", "time", "is", "made", "available", "for", "the", "MT", "to", "execute", "the", "vertical", "handoff", "given", "the", "same", "D.", "Compared", "with", "the", "HTT", "scheme", ",", "the", "traditional", "scheme", "is", "more", "sensitive", "to", "the", "user", "mobility", "rate", ",", "and", "the", "dropping", "probability", "increases", "rapidly", "as", "the", "mobility", "increases", ".", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "Distance", "of", "prehandoff", "D", "r", "oppi", "ng", "P", "r", "obabl", "i", "t", "y", "V", "=", "0.5", "Traditional", "Method", "V", "=", "0.5", "HTT", "Method", "V", "=", "1", "Traditional", "Method", "V", "=", "1", "HTT", "Method", "Figure", "5", ":", "Effect", "of", "proactive", "distance", "Fig.", "5", "shows", "that", "as", "the", "proactive", "distance", "increases", ",", "the", "dropping", "probability", "of", "HTT", "scheme", "decreases", "very", "fast", "and", "it", "is", "quite", "sensitive", "to", "the", "distance", "increasing", ".", "When", "the", "user", "mobility", "rate", "increases", ",", "the", "dropping", "probability", "will", "also", "increase", ",", "which", "conforms", "with", "the", "results", "in", "Fig.", "4", ".", "Fig.", "6", "shows", "the", "impact", "of", "the", "handoff", "time", "-LRB-", "in", "practical", "value", "range", "-RRB-", "on", "the", "dropping", "probability", ".", "With", "a", "given", "transition", "time", ",", "if", "the", "handoff", "time", "increases", ",", "the", "dropping", "probability", "will", "be", "higher", ",", "as", "expected", ".", "Fig.", "7", "shows", "that", "the", "impact", "of", "the", "distance", "between", "AP", "and", "BH", "on", "the", "dropping", "probability", ".", "The", "signal", "strength", "decays", "with", "the", "distance", "to", "the", "AP", "in", "WLANs", ".", "In", "the", "proposed", "scheme", ",", "MTs", "start", "network", "layer", "handoff", "in", "advance", "according", "to", "the", "parameter", "D", "and", "regardless", "of", "the", "RSS", ",", "so", "the", "performance", "of", "the", "proposed", "scheme", "is", "independent", "from", "the", "distance", "d", "between", "the", "BH", "and", "the", "AP", ".", "However", ",", "for", "a", "given", "RSS", "threshold", ",", "the", "performance", "of", "traditional", "handoff", "scheme", "relies", "heavily", "on", "d", ",", "and", "it", "has", "better", "performance", "for", "the", "BHs", "which", "are", "far", "fromthe", "AP", ".", "This", "is", "because", "the", "signal", "strength", "is", "relatively", "high", "near", "the", "AP", ",", "and", "MT", "will", "normally", "find", "that", "its", "RSS", "is", "above", "the", "threshold", ".", "As", "the", "MT", "enters", "the", "BH", ",", "the", "signal", "strength", "degrades", "so", "abruptly", "that", "the", "MT", "does", "not", "have", "enough", "time", "to", "do", "handoff", ",", "which", "leads", "to", "high", "dropping", "probability", ".", "In", "contrast", ",", "the", "RSS", "of", "an", "MT", "moving", "around", "a", "BH", "that", "is", "far", "from", "the", "AP", "will", "be", "relatively", "low", "and", "may", "be", "close", "to", "the", "threshold", ",", "hence", "a", "handoff", "decision", "may", "be", "easily", "triggered", "before", "the", "MT", "enters", "the", "BH", ".", "In", "this", "case", ",", "the", "MT", "gets", "longer", "time", "to", "conduct", "the", "handoff", "procedure", "so", "a", "relatively", "lower", "dropping", "probability", "can", "be", "achieved", ".", "578", "1.8", "2", "2.2", "2.4", "2.6", "2.8", "3", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "Handoff", "time", "-LRB-", "s", "-RRB-", "D", "r", "oppi", "ng", "P", "r", "o", "bab", "l", "i", "t", "y", "Traditional", "Method", "HTT", "Method", "Figure", "6", ":", "Effect", "of", "Vertical", "handoff", "time", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "Distance", "between", "AP", "and", "BH", "Dr", "oppi", "ng", "P", "r", "obabl", "i", "t", "y", "Traditional", "Method", "D", "=", "0.4", "HTT", "Method", "D", "=", "0.5", "HTT", "Method", "Figure", "7", ":", "Effect", "of", "distance", "between", "AP", "and", "BH", "FromFig", ".", "7", ",", "we", "can", "also", "see", "that", "for", "the", "proposed", "scheme", ",", "the", "proactive", "distance", "D", "should", "be", "set", "properly", ".", "Similar", "requirement", "applies", "to", "the", "setting", "of", "the", "threshold", "in", "the", "traditional", "scheme", ".", "If", "D", "or", "the", "threshold", "is", "set", "to", "be", "high", ",", "there", "will", "be", "many", "unnecessary", "handoffs", "although", "the", "dropping", "probability", "will", "decrease", ".", "On", "the", "other", "hand", ",", "if", "D", "or", "the", "threshold", "is", "too", "low", ",", "the", "dropping", "probability", "will", "increase", ".", "However", ",", "the", "dependence", "on", "d", "of", "the", "traditional", "handoff", "scheme", "can", "not", "be", "eliminated", "by", "simply", "adjusting", "the", "threshold", ",", "which", "makes", "the", "selection", "of", "a", "proper", "threshold", "in", "the", "traditional", "scheme", "even", "more", "difficult", ".", "We", "further", "study", "the", "performance", "of", "the", "two", "schemes", "in", "the", "WLAN", "with", "different", "number", "of", "BHs", ".", "The", "locations", "of", "the", "BHs", "are", "set", "to", "be", "uniformly", "distributed", "within", "the", "WLAN", ".", "FromFig", ".", "8", ",", "it", "can", "be", "seen", "that", "for", "both", "schemes", "the", "dropping", "probability", "is", "not", "sensitive", "to", "the", "number", "of", "BHs", "when", "their", "locations", "are", "uniformly", "distributed", ".", "The", "case", "for", "BHs", "with", "non-uniformdistribution", "is", "left", "as", "future", "work", ".", "2", "4", "6", "8", "10", "12", "14", "16", "18", "0.01", "0.015", "0.02", "0.025", "0.03", "0.035", "0.04", "0.045", "Number", "of", "BHs", "Dropping", "Probablity", "Traditional", "Method", "D", "=", "0.4", "HTT", "Method", "Figure", "8", ":", "Effect", "of", "number", "of", "BHs", "In", "this", "paper", ",", "vertical", "handoffs", "fromWLAN", "to", "3G", "cellular", "network", "has", "been", "investigated", ".", "To", "support", "making", "proper", "handoff", "decisions", ",", "a", "Handoff", "Trigger", "Table", "-LRB-", "HTT", "-RRB-", "has", "been", "proposed", "to", "be", "implemented", "at", "the", "AP", "of", "WLAN", "to", "record", "the", "location", "information", "of", "BHs", ".", "Based", "on", "this", "table", ",", "a", "proactive", "handoff", "scheme", "has", "been", "proposed", ".", "Simulation", "results", "have", "been", "given", "to", "show", "that", "with", "the", "information", "in", "the", "HTT", ",", "the", "vertical", "handoff", "decisions", "can", "be", "made", "more", "efficiently", "and", "dropping", "probability", "can", "be", "decreased", "signif-icantly", ".", "Possible", "future", "work", "include", "making", "the", "proactive", "distance", "D", "a", "variable", "for", "different", "environments", "and", "further", "investigating", "the", "unnecessary", "handoff", "events", "in", "different", "prehandoff", "schemes", ".", "The", "HTT", "scheme", "can", "also", "be", "used", "in", "sys-temdiscovery", "to", "assist", "reducing", "MH", "power", "consumption", ".", "This", "work", "has", "been", "supported", "jointly", "by", "the", "Natural", "Sciences", "and", "Engineering", "Research", "Council", "-LRB-", "NSERC", "-RRB-", "of", "Canada", "under", "Strategic", "Grant", "No.", "257682", "and", "Research", "in", "Motion", "-LRB-", "RIM", "-RRB-", ".", "-LSB-", "1", "-RSB-", "Q.", "Zhang", ",", "C.", "Guo", ",", "Z.", "Guo", "and", "W.", "Zhu", ",", "``", "Efficient", "mobility", "management", "for", "vertical", "handoff", "between", "WWAN", "and", "WLAN", "''", ",", "IEEE", "Communications", "Magazine", "Vol", ".", "41", ",", "Issue", "11", ",", "Nov.", "2003", ",", "pp.", "102", "108", ".", "-LSB-", "2", "-RSB-", "W.-T", ".", "Chen", ";", "J.-C", ".", "Liu", ";", "H.-K", ".", "Huang", ",", "``", "An", "adaptive", "scheme", "for", "vertical", "handoff", "in", "wireless", "overlay", "networks", "''", ",", "Proceedings", "of", "International", "Conference", "on", "Parallel", "and", "Distributed", "Systems", "2004", ",", "7-9", "July", "2004", ",", "pp.", "541", "548", ".", "-LSB-", "3", "-RSB-", "P.", "Khadivi", ",", "T.D.", "Todd", "and", "D.", "Zhao", ",", "``", "Handoff", "trigger", "nodes", "for", "hybrid", "IEEE", "802.11", "WLAN/cellular", "networks", "''", ",", "Proc", ".", "QSHINE", "2004", ",", "pp.", "164", "170", ".", "-LSB-", "4", "-RSB-", "A.", "Majlesi", "and", "B.H.", "Khalaj", ",", "``", "An", "adaptive", "fuzzy", "logic", "based", "handoff", "algorithmfor", "interworking", "between", "WLANs", "and", "mobile", "networks", "''", ",", "Proc", ".", "PIMRC", "'", "02", ",", "Sept.", "2002", ",", "pp.", "2446", "2451", ".", "-LSB-", "5", "-RSB-", "K.", "Pahlavan", ",", "et", "al.", ",", "``", "Handoff", "in", "hybrid", "mobile", "data", "579", "networks", "''", ",", "IEEE", "Personal", "Communications", ",", "Vol", ".7", ",", "No.", "2", ",", "April", "2000", ",", "pp.", "34", "47", ".", "-LSB-", "6", "-RSB-", "J.-Z", ".", "Sun", ",", "J.", "Sauvola", "and", "D.", "Howie", ",", "``", "Features", "in", "future", ":", "4G", "visions", "froma", "technical", "perspective", "''", ",", "Proc", ".", "GLOBECOM", "'", "01", ",", "Nov.", "2001", ",", "pp.", "3533", "3537", ".", "-LSB-", "7", "-RSB-", "P.", "Bahl", "and", "V.", "Padmanabhan", ",", "``", "RADAR", ":", "An", "in-building", "RF-based", "user", "location", "and", "tracking", "system", "''", ",", "Proc", ".", "IEEE", "INFOCOM", "'", "00", ",", "Tel-Aviv", ",", "Israel", ",", "2000", ",", "pp.", "775", "784", ".", "-LSB-", "8", "-RSB-", "P.Krishnan", ",", "A.S.", "Krishnakumar", ",", "W.-H", ".", "Ju", ",", "C.", "Mallows", ",", "and", "S.", "Ganu", ",", "``", "A", "systemfor", "LEASE", ":", "location", "estimationassisted", "by", "stationary", "emitters", "for", "indoor", "RF", "wireless", "networks", "''", ",", "Proc", ".", "IEEE", "INFOCOM", "'", "04", ",", "Hongkong", ",", "2004", ",", "pp.", "1001", "1011", ".", "-LSB-", "9", "-RSB-", "K.-I", ".", "Itoh", ",", "S.", "Watanabe", ",", "J.-S", ".", "Shih", ",", "and", "T.", "Sato", ",", "``", "Performance", "of", "handoff", "algorithm", "based", "on", "distance", "and", "RSSI", "measurements", "''", ",", "IEEE", "Trans", ".", "Vehic", ".", "Technol.", ",", "Vol", ".", "51", ",", "No.", "6", ",", "Nov.", "2002", ",", "pp.", "1460", "-", "1468", ".", "-LSB-", "10", "-RSB-", "J.", "Makela", ",", "M.", "Ylianttila", "and", "K.", "Pahlavan", ",", "``", "Handoff", "decision", "in", "multi-service", "networks", "''", ",", "Proc", ".", "PIMRC", "'", "00", ",", "Sept.", "2000", ",", "pp.", "655", "659", ".", "-LSB-", "11", "-RSB-", "A.H.", "Zahran", "and", "B.", "Liang", ",", "``", "Performance", "evaluation", "framework", "for", "vertical", "handoff", "algorithms", "in", "heterogeneous", "networks", "''", ",", "Proc", "ICC", "2005", ",", "May", "2005", ",", "pp.", "173", "178", "-LSB-", "12", "-RSB-", "C", "Bettstetter", ",", "H", "Hartenstein", "and", "X", "Perez-Costa", ",", "``", "Stochastic", "properties", "of", "the", "randomwaypoint", "mobility", "model", "''", ",", "Wireless", "Networks", ",", "Vol", ".", "10", ",", "No.", "5", ",", "Sept.", "2004", ",", "pp.", "555", "567", ".", "580"], "doc_bio_tags": ["B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["wlan", "3g", "cellular network", "handoff trigger table", "vertical handoff", "wireless communications"], "abstractive_keyphrases": ["integrated networks", "wireles networks"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "97", "document": ["Geographically", "Focused", "Collaborative", "Crawling", "A", "collaborative", "crawler", "is", "a", "group", "of", "crawling", "nodes", ",", "in", "which", "each", "crawling", "node", "is", "responsible", "for", "a", "specific", "portion", "of", "the", "web", ".", "We", "study", "the", "problem", "of", "collecting", "geographically", "-", "aware", "pages", "using", "collaborative", "crawling", "strategies", ".", "We", "first", "propose", "several", "collaborative", "crawling", "strategies", "for", "the", "geographically", "focused", "crawling", ",", "whose", "goal", "is", "to", "collect", "web", "pages", "about", "specified", "geographic", "locations", ",", "by", "considering", "features", "like", "URL", "address", "of", "page", ",", "content", "of", "page", ",", "extended", "anchor", "text", "of", "link", ",", "and", "others", ".", "Later", ",", "we", "propose", "various", "evaluation", "criteria", "to", "qualify", "the", "performance", "of", "such", "crawling", "strategies", ".", "Finally", ",", "we", "experimentally", "study", "our", "crawling", "strategies", "by", "crawling", "the", "real", "web", "data", "showing", "that", "some", "of", "our", "crawling", "strategies", "greatly", "outperform", "the", "simple", "URL-hash", "based", "partition", "collaborative", "crawling", ",", "in", "which", "the", "crawling", "assignments", "are", "determined", "according", "to", "the", "hash-value", "computation", "over", "URLs", ".", "More", "precisely", ",", "features", "like", "URL", "address", "of", "page", "and", "extended", "anchor", "text", "of", "link", "are", "shown", "to", "yield", "the", "best", "overall", "performance", "for", "the", "geographically", "focused", "crawling", ".", "H.", "4", ".", "m", "-LSB-", "Information", "Systems", "-RSB-", ":", "Miscellaneous", ";", "D.", "2.8", "-LSB-", "Soft", "ware", "Engineering", "-RSB-", ":", "Metrics", "--", "performance", "measures", "Measurement", ",", "Performance", ",", "Experimentation", "While", "most", "of", "the", "current", "search", "engines", "are", "effective", "for", "pure", "keyword-oriented", "searches", ",", "these", "search", "engines", "are", "not", "fully", "effective", "for", "geographic-oriented", "keyword", "searches", ".", "For", "instance", ",", "queries", "like", "``", "restaurants", "in", "New", "York", ",", "NY", "''", "or", "``", "good", "plumbers", "near", "100", "milam", "street", ",", "Houston", ",", "TX", "''", "or", "``", "romantic", "hotels", "in", "Las", "Vegas", ",", "NV", "''", "are", "not", "properly", "man-aged", "by", "traditional", "web", "search", "engines", ".", "Therefore", ",", "in", "recent", "This", "work", "was", "done", "while", "the", "author", "was", "visiting", "Genieknows", ".", "com", "Copyright", "is", "held", "by", "the", "International", "World", "Wide", "Web", "Conference", "Committee", "-LRB-", "IW3C2", "-RRB-", ".", "Distribution", "of", "these", "papers", "is", "limited", "to", "classroom", "use", ",", "and", "personal", "use", "by", "others", ".", "WWW", "2006", ",", "May", "23", "26", ",", "2006", ",", "Edinburgh", ",", "Scotland", ".", "ACM", "1-59593-323-9", "/", "06/0005", ".", "years", ",", "there", "has", "been", "surge", "of", "interest", "within", "the", "search", "industry", "on", "the", "search", "localization", "-LRB-", "e.g.", ",", "Google", "Local", "1", ",", "Yahoo", "Local", "2", "-RRB-", ".", "The", "main", "aim", "of", "such", "search", "localization", "is", "to", "allow", "the", "user", "to", "perform", "the", "search", "according", "his/her", "keyword", "input", "as", "well", "as", "the", "geographic", "location", "of", "his/her", "interest", ".", "Due", "to", "the", "current", "size", "of", "the", "Web", "and", "its", "dynamical", "nature", ",", "building", "a", "large", "scale", "search", "engine", "is", "challenging", "and", "it", "is", "still", "active", "area", "of", "research", ".", "For", "instance", ",", "the", "design", "of", "efficient", "crawling", "strategies", "and", "policies", "have", "been", "exten-sively", "studied", "in", "recent", "years", "-LRB-", "see", "-LSB-", "9", "-RSB-", "for", "the", "overview", "of", "the", "field", "-RRB-", ".", "While", "it", "is", "possible", "to", "build", "geographically", "sensitive", "search", "engines", "using", "the", "full", "web", "data", "collected", "through", "a", "standard", "web", "crawling", ",", "it", "would", "rather", "be", "more", "attractive", "to", "build", "such", "search", "engines", "over", "a", "more", "focused", "web", "data", "collection", "which", "are", "only", "relevant", "to", "the", "targeted", "geographic", "locations", ".", "Focusing", "on", "the", "collection", "of", "web", "pages", "which", "are", "relevant", "to", "the", "targeted", "geographic", "location", "would", "leverage", "the", "overall", "processing", "time", "and", "efforts", "for", "building", "such", "search", "engines", ".", "For", "instance", ",", "if", "we", "want", "to", "build", "a", "search", "engine", "targeting", "those", "users", "in", "New", "York", ",", "NY", ",", "then", "we", "can", "build", "it", "using", "the", "web", "collection", ",", "only", "relevant", "to", "the", "city", "of", "New", "York", ",", "NY", ".", "Therefore", ",", "given", "intended", "geographic", "regions", "for", "crawling", ",", "we", "refer", "the", "task", "of", "collecting", "web", "pages", ",", "relevant", "to", "the", "intended", "geographic", "regions", "as", "geographically", "focused", "crawling", ".", "The", "idea", "of", "focusing", "on", "a", "particular", "portion", "of", "the", "web", "for", "crawling", "is", "not", "novel", ".", "For", "instance", ",", "the", "design", "of", "efficient", "topic-oriented", "or", "domain-oriented", "crawling", "strategies", "has", "been", "previously", "studied", "-LSB-", "8", ",", "23", ",", "24", "-RSB-", ".", "However", ",", "there", "has", "been", "little", "previous", "work", "on", "incorporating", "the", "geographical", "dimension", "of", "web", "pages", "to", "the", "crawling", ".", "In", "this", "paper", ",", "we", "study", "various", "aspects", "of", "crawling", "when", "the", "geographical", "dimension", "is", "considered", ".", "While", "the", "basic", "idea", "behind", "the", "standard", "crawling", "is", "straightforward", ",", "the", "collaborative", "crawling", "or", "parallel", "crawling", "is", "often", "used", "due", "to", "the", "performance", "and", "scalability", "issues", "that", "might", "arise", "during", "the", "real", "crawling", "of", "the", "web", "-LSB-", "12", ",", "19", "-RSB-", ".", "In", "a", "collaborative", "or", "parallel", "crawler", ",", "the", "multiple", "crawling", "nodes", "are", "run", "in", "parallel", "on", "a", "multiprocessor", "or", "in", "a", "distributed", "manner", "to", "maximize", "the", "download", "speed", "and", "to", "further", "improve", "the", "overall", "performance", "especially", "for", "the", "scalability", "of", "crawling", ".", "Therefore", ",", "we", "study", "the", "geographically", "focused", "crawling", "under", "the", "collaborative", "setting", ",", "in", "which", "the", "targeted", "geographic", "regions", "are", "divided", "and", "then", "assigned", "to", "each", "participating", "crawling", "node", ".", "More", "precisely", ",", "1", "http://local.google.com", "2", "http://local.yahoo.com", "287", "in", "a", "geographically", "focused", "collaborative", "crawler", ",", "there", "will", "be", "a", "set", "of", "geographically", "focused", "crawling", "nodes", "in", "which", "each", "node", "is", "only", "responsible", "for", "collecting", "those", "web", "pages", ",", "relevant", "to", "its", "assigned", "geographic", "regions", ".", "Furthermore", ",", "there", "will", "be", "additional", "set", "of", "general", "crawling", "nodes", "which", "aim", "to", "support", "other", "geographically", "focused", "crawling", "nodes", "through", "the", "general", "crawling", "-LRB-", "download", "of", "pages", "which", "are", "not", "geographically-aware", "-RRB-", ".", "The", "main", "contributions", "of", "our", "paper", "are", "follows", ":", "1", ".", "We", "propose", "several", "geographically", "focused", "collaborative", "crawling", "strategies", "whose", "goal", "is", "to", "collect", "web", "pages", "about", "the", "specified", "geographic", "regions", ".", "2", ".", "We", "propose", "several", "evaluation", "criteria", "for", "measuring", "the", "performance", "of", "a", "geographically", "focused", "crawling", "strategy", ".", "3", ".", "We", "empirically", "study", "our", "proposed", "crawling", "strategies", "by", "crawling", "the", "real", "web", ".", "More", "specifically", ",", "we", "collect", "web", "pages", "pertinent", "to", "the", "top", "100", "US", "cities", "for", "each", "crawling", "strategy", ".", "4", ".", "We", "empirically", "study", "geographic", "locality", ".", "That", "is", ",", "pages", "which", "are", "geographically", "related", "are", "more", "likely", "to", "be", "linked", "compared", "to", "those", "which", "are", "not", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "introduce", "some", "of", "the", "previous", "works", "related", "to", "our", "geographically", "focused", "collaborative", "crawling", ".", "In", "Section", "3", ",", "we", "describe", "the", "problem", "of", "geographically", "focused", "collaborative", "crawling", "and", "then", "we", "propose", "several", "crawling", "policies", "to", "deal", "with", "this", "type", "of", "crawling", ".", "In", "Section", "4", ",", "we", "present", "evaluation", "models", "to", "measure", "the", "performance", "of", "a", "geographically", "focused", "collaborative", "crawling", "strategy", ".", "In", "Section", "5", ",", "we", "present", "results", "of", "our", "experiments", "with", "the", "real", "web", "data", ".", "Finally", ",", "in", "Section", "6", ",", "we", "present", "final", "remarks", "about", "our", "work", ".", "A", "focused", "crawler", "is", "designed", "to", "only", "collect", "web", "pages", "on", "a", "specified", "topic", "while", "transversing", "the", "web", ".", "The", "basic", "idea", "of", "a", "focused", "crawler", "is", "to", "optimize", "the", "priority", "of", "the", "unvisited", "URLs", "on", "the", "crawler", "frontier", "so", "that", "pages", "concerning", "a", "particular", "topic", "are", "retrieved", "earlier", ".", "Bra", "et", "al.", "-LSB-", "4", "-RSB-", "propose", "a", "focused", "web", "crawling", "method", "in", "the", "context", "of", "a", "client-based", "real-time", "search", "engine", ".", "Its", "crawling", "strategy", "is", "based", "on", "the", "intuition", "that", "relevant", "pages", "on", "the", "topic", "likely", "contain", "links", "to", "other", "pages", "on", "the", "same", "topic", ".", "Thus", ",", "the", "crawler", "follows", "more", "links", "from", "relevant", "pages", "which", "are", "estimated", "by", "a", "binary", "classifier", "that", "uses", "keyword", "and", "regular", "expression", "matchings", ".", "In", "spite", "of", "its", "reasonably", "acceptable", "performance", ",", "it", "has", "an", "important", "drawback", "as", "a", "relevant", "page", "on", "the", "topic", "might", "be", "hardly", "reachable", "when", "this", "page", "is", "not", "pointed", "by", "pages", "relevant", "to", "the", "topic", ".", "Cho", "et", "al.", "-LSB-", "11", "-RSB-", "propose", "several", "strategies", "for", "prioritiz-ing", "unvisited", "URLs", "based", "on", "the", "pages", "downloaded", "so", "far", ".", "In", "contrast", "to", "other", "focused", "crawlers", "in", "which", "a", "supervised", "topic", "classifier", "is", "used", "to", "control", "the", "way", "that", "crawler", "handles", "the", "priority", "of", "pages", "to", "be", "be", "downloaded", ",", "their", "strategies", "are", "based", "on", "considering", "some", "simple", "properties", "such", "as", "linkage", "or", "keyword", "information", "to", "define", "the", "priority", "of", "pages", "to", "be", "downloaded", ".", "They", "conclude", "that", "determining", "the", "priority", "of", "pages", "to", "be", "downloaded", "based", "on", "their", "PageRank", "value", "yield", "the", "best", "overall", "crawling", "performance", ".", "Chakrabarti", "et", "al.", "-LSB-", "8", "-RSB-", "propose", "another", "type", "of", "focused", "crawler", "architecture", "which", "is", "composed", "of", "three", "components", ",", "namely", "classifier", ",", "distiller", "and", "crawler", ".", "The", "classifier", "makes", "the", "decision", "on", "the", "page", "relevancy", "to", "determine", "its", "future", "link", "expansion", ".", "The", "distiller", "identifies", "those", "hub", "pages", ",", "as", "defined", "in", "-LSB-", "20", "-RSB-", ",", "pointing", "to", "many", "topic", "related", "pages", "to", "determine", "the", "priority", "of", "pages", "to", "be", "visited", ".", "Finally", ",", "the", "crawling", "module", "fetches", "pages", "using", "the", "list", "of", "pages", "provided", "by", "the", "distiller", ".", "In", "the", "subsequent", "work", ",", "Chakrabarti", "et", "al.", "-LSB-", "7", "-RSB-", "suggest", "that", "only", "a", "fraction", "of", "URLs", "extracted", "from", "a", "page", "are", "worth", "following", ".", "They", "claim", "that", "a", "crawler", "can", "avoid", "irrelevant", "links", "if", "the", "relevancy", "of", "links", "can", "be", "determined", "by", "the", "local", "text", "surrounding", "it", ".", "They", "propose", "alternative", "focused", "crawler", "architecture", "where", "documents", "are", "modeled", "as", "tag", "trees", "using", "DOM", "-LRB-", "Document", "Object", "Model", "-RRB-", ".", "In", "their", "crawler", ",", "two", "classifiers", "are", "used", ",", "namely", "the", "``", "baseline", "''", "and", "the", "``", "apprentice", "''", ".", "The", "baseline", "classifier", "refers", "to", "the", "module", "that", "navigates", "through", "the", "web", "to", "obtain", "the", "enriching", "training", "data", "for", "the", "apprentice", "classifier", ".", "The", "apprentice", "classifier", ",", "on", "the", "other", "hand", ",", "is", "trained", "over", "the", "data", "collected", "through", "the", "baseline", "classifier", "and", "eventually", "guides", "the", "overall", "crawling", "by", "determining", "the", "relevancy", "of", "links", "using", "the", "contextual", "information", "around", "them", ".", "Diligenti", "et", "al.", "-LSB-", "14", "-RSB-", "use", "the", "context", "graph", "to", "improve", "the", "baseline", "best-first", "focused", "crawling", "method", ".", "In", "their", "approach", ",", "there", "is", "a", "classifier", "which", "is", "trained", "through", "the", "features", "extracted", "from", "the", "paths", "that", "lead", "to", "the", "relevant", "pages", ".", "They", "claim", "that", "there", "is", "some", "chance", "that", "some", "off-topic", "pages", "might", "potentially", "lead", "to", "highly", "relevant", "pages", ".", "Therefore", ",", "in", "order", "to", "mediate", "the", "hardness", "of", "identifying", "apparently", "off-topic", "pages", ",", "they", "propose", "the", "usage", "of", "context", "graph", "to", "guide", "the", "crawling", ".", "More", "precisely", ",", "first", "a", "context", "graph", "for", "seed", "pages", "is", "built", "using", "links", "to", "the", "pages", "returned", "from", "a", "search", "engine", ".", "Next", ",", "the", "context", "graph", "is", "used", "to", "train", "a", "set", "of", "classifiers", "to", "assign", "documents", "to", "different", "categories", "using", "their", "estimated", "distance", ",", "based", "on", "the", "number", "of", "links", ",", "to", "relevant", "pages", "on", "different", "categories", ".", "Their", "experimental", "results", "reveal", "that", "the", "context", "graph", "based", "focused", "crawler", "has", "a", "better", "performance", "and", "achieves", "higher", "relevancy", "compared", "to", "an", "ordinary", "best-first", "crawler", ".", "Cho", "et", "al.", "-LSB-", "10", "-RSB-", "attempt", "to", "map", "and", "explore", "a", "full", "design", "space", "for", "parallel", "and", "distributed", "crawlers", ".", "Their", "work", "addresses", "issues", "of", "communication", "bandwidth", ",", "page", "quality", "and", "the", "division", "of", "work", "between", "local", "crawlers", ".", "Later", ",", "Chung", "et", "al.", "-LSB-", "12", "-RSB-", "study", "parallel", "or", "distributed", "crawling", "in", "the", "context", "of", "topic-oriented", "crawling", ".", "Basically", ",", "in", "their", "topic-oriented", "collaborative", "crawler", ",", "each", "crawling", "node", "is", "responsible", "for", "a", "particular", "set", "of", "topics", "and", "the", "page", "is", "assigned", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "the", "topic", "which", "the", "page", "is", "relevant", "to", ".", "To", "determine", "the", "topic", "of", "page", ",", "a", "simple", "Naive-Bayes", "classifier", "is", "employed", ".", "Recently", ",", "Exposto", "et", "al.", "-LSB-", "17", "-RSB-", "study", "distributed", "crawling", "by", "means", "of", "the", "geographical", "partition", "of", "the", "web", "considering", "the", "multi-level", "partitioning", "of", "the", "reduced", "IP", "web", "link", "graph", ".", "Note", "that", "our", "IP-based", "collaborative", "crawling", "strategy", "is", "similar", "to", "their", "approach", "in", "spirit", "as", "we", "consider", "the", "IP-addresses", "related", "to", "the", "given", "web", "pages", "to", "distribute", "them", "among", "participating", "crawling", "nodes", ".", "Gravano", "and", "his", "collaborators", "study", "the", "geographically-aware", "search", "problem", "in", "various", "works", "-LSB-", "15", ",", "18", ",", "5", "-RSB-", ".", "Particularly", ",", "in", "-LSB-", "15", "-RSB-", ",", "how", "to", "compute", "the", "geographical", "scope", "of", "web", "resources", "is", "discussed", ".", "In", "their", "work", ",", "linkage", "and", "seman-288", "tic", "information", "are", "used", "to", "assess", "the", "geographical", "scope", "of", "web", "resources", ".", "Their", "basic", "idea", "is", "as", "follows", ".", "If", "a", "reasonable", "number", "of", "links", "pertinent", "to", "one", "particular", "geographic", "location", "point", "to", "a", "web", "resource", "and", "these", "links", "are", "smoothly", "distributed", "across", "the", "location", ",", "then", "this", "location", "is", "treated", "as", "one", "of", "the", "geographic", "scopes", "of", "the", "corresponding", "web", "resource", ".", "Similarly", ",", "if", "a", "reasonable", "number", "of", "location", "references", "is", "found", "within", "a", "web", "resource", ",", "and", "the", "location", "references", "are", "smoothly", "distributed", "across", "the", "location", ",", "then", "this", "location", "is", "treated", "as", "one", "of", "the", "geographical", "scopes", "of", "the", "web", "resource", ".", "They", "also", "propose", "how", "to", "solve", "aliasing", "and", "ambiguity", ".", "Recently", ",", "Markowetz", "et", "al.", "-LSB-", "22", "-RSB-", "propose", "the", "design", "and", "the", "initial", "implementation", "of", "a", "geographic", "search", "engine", "prototype", "for", "Germany", ".", "Their", "prototype", "extracts", "various", "geographic", "features", "from", "the", "crawled", "web", "dataset", "consisting", "of", "pages", "whose", "domain", "name", "contains", "``", "de", "''", ".", "A", "geographic", "footprint", ",", "a", "set", "of", "relevant", "locations", "for", "page", ",", "is", "assigned", "to", "each", "page", ".", "Subsequently", ",", "the", "resulting", "footprint", "is", "integrated", "into", "the", "query", "processor", "of", "the", "search", "engine", ".", "Even", "though", ",", "in", "theory", ",", "the", "targeted", "geographic", "locations", "of", "a", "geographically", "focused", "crawling", "can", "be", "any", "valid", "geographic", "location", ",", "in", "our", "paper", ",", "a", "geographic", "location", "refers", "to", "a", "city-state", "pair", "for", "the", "sake", "of", "simplicity", ".", "Therefore", ",", "given", "a", "list", "of", "city-state", "pairs", ",", "the", "goal", "of", "our", "geographically", "focused", "crawling", "is", "to", "collect", "web", "pages", "which", "are", "``", "relevant", "''", "to", "the", "targeted", "city-state", "pairs", ".", "Thus", ",", "after", "splitting", "and", "distributing", "the", "targeted", "city-state", "pairs", "to", "the", "participating", "crawling", "nodes", ",", "each", "participating", "crawling", "node", "would", "be", "responsible", "for", "the", "crawling", "of", "web", "pages", "relevant", "to", "its", "assigned", "city-state", "pairs", ".", "Example", "1", ".", "Given", "-LCB-", "-LRB-", "New", "York", ",", "NY", "-RRB-", ",", "-LRB-", "Houston", ",", "TX", "-RRB-", "-RCB-", "as", "the", "targeted", "city-state", "pairs", "and", "3", "crawling", "nodes", "-LCB-", "Cn", "1", ",", "Cn", "2", ",", "Cn", "3", "-RCB-", ",", "one", "possible", "design", "of", "geographically", "focused", "collaborative", "crawler", "is", "to", "assign", "-LRB-", "New", "York", ",", "NY", "-RRB-", "to", "Cn", "1", "and", "-LRB-", "Houston", ",", "TX", "-RRB-", "to", "Cn", "2", ".", "Particularly", ",", "for", "our", "experiments", ",", "we", "perform", "the", "geographically", "focused", "crawling", "of", "pages", "targeting", "the", "top", "100", "US", "cities", ",", "which", "will", "be", "explained", "later", "in", "Section", "5", ".", "We", "use", "some", "general", "notations", "to", "denote", "the", "targeted", "city-state", "pairs", "and", "crawling", "nodes", "as", "follows", ".", "Let", "T", "C", "=", "-LCB-", "-LRB-", "c", "1", ",", "s", "1", "-RRB-", ",", "...", ",", "-LRB-", "c", "n", ",", "s", "n", "-RRB-", "-RCB-", "denote", "the", "set", "of", "targeted", "city-state", "pairs", "for", "our", "crawling", "where", "each", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "is", "a", "city-state", "pair", ".", "When", "it", "is", "clear", "in", "the", "context", ",", "we", "will", "simply", "denote", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "as", "c", "i", ".", "Let", "CR", "=", "-LCB-", "Cn", "1", ",", "...", ",", "Cn", "m", "-RCB-", "denote", "the", "set", "of", "participating", "crawling", "nodes", "for", "our", "crawling", ".", "The", "main", "challenges", "that", "have", "to", "be", "dealt", "by", "a", "geographically", "focused", "collaborative", "crawler", "are", "the", "following", ":", "How", "to", "split", "and", "then", "distribute", "T", "C", "=", "-LCB-", "c", "1", ",", "...", ",", "c", "n", "-RCB-", "among", "the", "participating", "CR", "=", "-LCB-", "Cn", "1", ",", "...", ",", "Cn", "m", "-RCB-", "Given", "a", "retrieved", "page", "p", ",", "based", "on", "what", "criteria", "we", "assign", "the", "extracted", "URLs", "from", "p", "to", "the", "participating", "crawling", "nodes", ".", "l", "number", "of", "URLs", "extracted", "q", "extracted", "p", "q", "transferred", "All", "URLs", "a", "-RRB-", "All", "l", "URLs", "extracted", "from", "q", "are", "transferred", "to", "another", "crawling", "node", "-LRB-", "the", "worst", "scenario", "for", "policy", "A", "-RRB-", "l", "number", "of", "URLs", "extracted", "l", "number", "of", "URLs", "extracted", "l", "number", "of", "URLs", "extracted", "q", "extracted", "p", "q", "q", "q", "...", ".", "m", "number", "of", "crawling", "nodes", "b", "-RRB-", "Page", "q", "is", "transferred", "to", "the", "m", "number", "of", "crawling", "nodes", ",", "but", "all", "URLs", "extracted", "from", "each", "q", "of", "the", "crawling", "nodes", "are", "not", "transferred", "to", "other", "crawling", "nodes", "-LRB-", "the", "best", "scenario", "for", "policy", "B", "-RRB-", "Figure", "1", ":", "Exchange", "of", "the", "extracted", "URLs", "3.2", "Assignment", "of", "the", "extracted", "URLs", "When", "a", "crawling", "node", "extracts", "the", "URLs", "from", "a", "given", "page", ",", "it", "has", "to", "decide", "whether", "to", "keep", "the", "URLs", "for", "itself", "or", "transfer", "them", "to", "other", "participating", "crawling", "nodes", "for", "further", "fetching", "of", "the", "URLs", ".", "Once", "the", "URL", "is", "assigned", "to", "a", "particular", "crawling", "node", ",", "it", "may", "be", "added", "to", "the", "node", "'s", "pending", "queue", ".", "Given", "a", "retrieved", "page", "p", ",", "let", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", "be", "the", "probability", "that", "page", "p", "is", "about", "the", "city-state", "pair", "c", "i", ".", "Suppose", "that", "the", "targeted", "city-state", "pairs", "are", "given", "and", "they", "are", "distributed", "over", "the", "participating", "crawling", "nodes", ".", "There", "are", "mainly", "two", "possible", "policies", "for", "the", "exchange", "of", "URLs", "between", "crawling", "nodes", ".", "Policy", "A", ":", "Given", "the", "retrieved", "page", "p", ",", "let", "c", "i", "be", "the", "most", "probable", "city-state", "pair", "about", "p", ",", "i.e.", "arg", "max", "c", "i", "T", "C", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", ".", "We", "assign", "each", "extracted", "URL", "from", "page", "p", "to", "the", "crawling", "node", "Cn", "j", "responsible", "on", "c", "i", "Policy", "B", ":", "Given", "the", "retrieved", "page", "p", ",", "let", "-LCB-", "c", "p", "1", ",", "...", ",", "c", "p", "k", "-RCB-", "T", "C", "be", "the", "set", "of", "city-state", "pairs", "whose", "P", "r", "-LRB-", "c", "p", "i", "|", "p", "-RRB-", "=", "0", ".", "We", "assign", "each", "extracted", "URL", "from", "page", "p", "to", "EACH", "crawling", "node", "Cn", "j", "responsible", "on", "c", "p", "i", "T", "C", ",", "Lemma", "2", ".", "Let", "b", "be", "the", "bandwidth", "cost", "and", "let", "c", "be", "the", "inter-communication", "cost", "between", "crawling", "nodes", ".", "If", "b", ">", "c", ",", "then", "the", "Policy", "A", "is", "more", "cost", "effective", "than", "the", "Policy", "B.", "Proof", ":", "Given", "an", "extracted", "URL", "q", "from", "page", "p", ",", "let", "m", "be", "the", "number", "of", "crawling", "nodes", "used", "by", "the", "Policy", "B", "-LRB-", "crawling", "nodes", "which", "are", "assigned", "to", "download", "q", "-RRB-", ".", "Since", "the", "cost", "for", "the", "policy", "A", "and", "B", "is", "equal", "when", "m", "=", "1", ",", "we", "suppose", "m", "2", ".", "Let", "l", "be", "the", "total", "number", "of", "URLs", "extracted", "from", "q.", "Let", "C", "-LRB-", "A", "-RRB-", "and", "C", "-LRB-", "B", "-RRB-", "be", "the", "sum", "of", "total", "inter-communication", "cost", "plus", "the", "bandwidth", "cost", "for", "the", "Policy", "A", "and", "Policy", "B", "respectively", ".", "One", "can", "easily", "verify", "that", "the", "cost", "of", "download", "for", "q", "and", "all", "URLs", "extracted", "from", "q", "is", "given", "as", "C", "-LRB-", "A", "-RRB-", "b", "+", "l", "-LRB-", "c", "+", "b", "-RRB-", "as", "shown", "in", "Figure", "1a", "-RRB-", "and", "C", "-LRB-", "B", "-RRB-", "m", "b", "+", "l", "m", "b.", "289", "as", "shown", "in", "Figure", "1b", "-RRB-", ".", "Therefore", ",", "it", "follows", "that", "C", "-LRB-", "A", "-RRB-", "C", "-LRB-", "B", "-RRB-", "since", "m", "2", "and", "b", ">", "c", ".", "The", "assignment", "of", "extracted", "URLs", "for", "each", "retrieved", "page", "of", "all", "crawling", "collaboration", "strategies", "that", "we", "consider", "next", "will", "be", "based", "on", "the", "Policy", "A.", "3.3", "Hash", "Based", "Collaboration", "We", "consider", "the", "hash", "based", "collaboration", ",", "which", "is", "the", "approach", "taken", "by", "most", "of", "collaborative", "crawlers", ",", "for", "the", "sake", "of", "comparison", "of", "this", "basic", "approach", "to", "our", "geographically", "focused", "collaboration", "strategies", ".", "The", "goal", "of", "hash", "based", "collaboration", "is", "to", "implementing", "a", "distributed", "crawler", "partition", "over", "the", "web", "by", "computing", "hash", "functions", "over", "URLs", ".", "When", "a", "crawling", "node", "extracts", "a", "URL", "from", "the", "retrieved", "page", ",", "a", "hash", "function", "is", "then", "computed", "over", "the", "URL", ".", "The", "URL", "is", "assigned", "to", "the", "participating", "crawling", "node", "responsible", "for", "the", "corresponding", "hash", "value", "of", "the", "URL", ".", "Since", "we", "are", "using", "a", "uniform", "hash", "function", "for", "our", "experiments", ",", "we", "will", "have", "a", "considerable", "data", "exchange", "between", "crawling", "nodes", "since", "the", "uniform", "hash", "function", "will", "map", "most", "of", "URLs", "extracted", "from", "the", "retrieved", "page", "to", "remote", "crawling", "nodes", ".", "3.4", "Geographically", "Focused", "Collaborations", "We", "first", "divide", "up", "CR", ",", "the", "set", "of", "participating", "crawling", "nodes", ",", "into", "geographically", "sensitive", "nodes", "and", "general", "nodes", ".", "Even", "though", ",", "any", "combination", "of", "geographically", "sensitive", "and", "general", "crawling", "nodes", "is", "allowed", ",", "the", "architecture", "of", "our", "crawler", "consists", "of", "five", "geographically", "sensitive", "and", "one", "general", "crawling", "node", "for", "our", "experiments", ".", "A", "geographically", "sensitive", "crawling", "node", "will", "be", "responsible", "for", "the", "download", "of", "pages", "pertinent", "to", "a", "subset", "targeted", "city-state", "pairs", "while", "a", "general", "crawling", "node", "will", "be", "responsible", "for", "the", "download", "of", "pages", "which", "are", "not", "geographically-aware", "supporting", "other", "geographically", "sensitive", "nodes", ".", "Each", "collaboration", "policy", "considers", "a", "particular", "set", "of", "features", "for", "the", "assessment", "of", "the", "geographical", "scope", "of", "page", "-LRB-", "whether", "a", "page", "is", "pertinent", "to", "a", "particular", "city-state", "pair", "or", "not", "-RRB-", ".", "From", "the", "result", "of", "this", "assessment", ",", "each", "extracted", "URL", "from", "the", "page", "will", "be", "assigned", "to", "the", "crawling", "node", "that", "is", "responsible", "for", "the", "download", "of", "pages", "pertinent", "to", "the", "corresponding", "city-state", "pair", ".", "3.4.1", "URL", "Based", "The", "intuition", "behind", "the", "URL", "based", "collaboration", "is", "that", "pages", "containing", "a", "targeted", "city-state", "pair", "in", "their", "URL", "address", "might", "potentially", "guide", "the", "crawler", "toward", "other", "pages", "about", "the", "city-state", "pair", ".", "More", "specifically", ",", "for", "each", "extracted", "URL", "from", "the", "retrieved", "page", "p", ",", "we", "verify", "whether", "the", "city-state", "pair", "c", "i", "is", "found", "somewhere", "in", "the", "URL", "address", "of", "the", "extracted", "URL", ".", "If", "the", "city-state", "pair", "c", "i", "is", "found", ",", "then", "we", "assign", "the", "corresponding", "URL", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "the", "download", "of", "pages", "about", "c", "i", ".", "3.4.2", "Extended", "Anchor", "Text", "Based", "Given", "link", "text", "l", ",", "an", "extended", "anchor", "text", "of", "l", "is", "defined", "as", "the", "set", "of", "prefix", "and", "suffix", "tokens", "of", "l", "of", "certain", "size", ".", "It", "is", "known", "that", "extended", "anchor", "text", "provides", "valuable", "information", "to", "characterize", "the", "nature", "of", "the", "page", "which", "is", "pointed", "by", "link", "text", ".", "Therefore", ",", "for", "the", "extended", "anchor", "text", "based", "collaboration", ",", "our", "assumption", "is", "that", "pages", "associated", "with", "the", "extended", "anchor", "text", ",", "in", "which", "a", "targeted", "city-state", "pair", "c", "i", "is", "found", ",", "will", "lead", "the", "crawler", "toward", "those", "pages", "about", "c", "i", ".", "More", "precisely", ",", "given", "retrieved", "page", "p", ",", "and", "the", "extended", "anchor", "text", "l", "found", "somewhere", "in", "p", ",", "we", "verify", "whether", "the", "city-state", "pair", "c", "i", "T", "C", "is", "found", "as", "part", "of", "the", "extended", "anchor", "text", "l", ".", "When", "multiple", "findings", "of", "city-state", "occurs", ",", "then", "we", "choose", "the", "city-state", "pair", "that", "is", "the", "closest", "to", "the", "link", "text", ".", "Finally", ",", "we", "assign", "the", "URL", "associated", "with", "l", "to", "the", "crawling", "node", "that", "is", "responsible", "for", "the", "download", "of", "pages", "about", "c", "i", ".", "3.4.3", "Full", "Content", "Based", "In", "-LSB-", "15", "-RSB-", ",", "the", "location", "reference", "is", "used", "to", "assess", "the", "geographical", "scope", "of", "page", ".", "Therefore", ",", "for", "the", "full", "content", "based", "collaboration", ",", "we", "perform", "a", "content", "analysis", "of", "the", "retrieved", "page", "to", "guide", "the", "crawler", "for", "the", "future", "link", "expansion", ".", "Let", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "be", "the", "probability", "that", "page", "p", "is", "about", "city-state", "pair", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ".", "Given", "T", "C", "and", "page", "p", ",", "we", "compute", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "for", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "T", "C", "as", "follows", ":", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "=", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "#", "-LRB-", "c", "i", ",", "p", "-RRB-", "-LRB-", "1", "-RRB-", "where", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "denotes", "the", "number", "of", "times", "that", "the", "city-state", "pair", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "is", "found", "as", "part", "of", "the", "content", "of", "p", ",", "#", "-LRB-", "c", "i", ",", "p", "-RRB-", "denotes", "the", "number", "of", "times", "-LRB-", "independent", "of", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "-RRB-", "that", "the", "city", "reference", "c", "i", "is", "found", "as", "part", "of", "the", "content", "of", "p", ",", "and", "denotes", "the", "weighting", "factor", ".", "For", "our", "experiments", ",", "=", "0.7", "was", "used", ".", "The", "probability", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "calculated", "under", "two", "simplified", "assumptions", ":", "-LRB-", "1", "-RRB-", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "dependent", "on", "the", "real", "population", "size", "of", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "-LRB-", "e.g.", ",", "Population", "of", "Kansas", "City", ",", "Kansas", "is", "500,000", "-RRB-", ".", "We", "obtain", "the", "population", "size", "for", "each", "city", "city-data.com", "3", ".", "-LRB-", "2", "-RRB-", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "dependent", "on", "the", "number", "of", "times", "that", "the", "state", "reference", "is", "found", "-LRB-", "independent", "of", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "-RRB-", "as", "part", "of", "the", "content", "of", "p", ".", "In", "other", "words", ",", "our", "assumption", "for", "pr", "-LRB-", "s", "j", "|", "c", "i", "-RRB-", "can", "be", "written", "as", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "S", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "~", "S", "-LRB-", "s", "i", "|", "p", "-RRB-", "-LRB-", "2", "-RRB-", "where", "S", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "the", "normalized", "form", "of", "the", "population", "size", "of", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "~", "S", "-LRB-", "s", "i", "|", "p", "-RRB-", "is", "the", "normalized", "form", "of", "the", "number", "of", "appearances", "of", "the", "state", "reference", "s", "i", ",", "independent", "of", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "-RRB-", ",", "within", "the", "content", "of", "p", ",", "and", "denotes", "the", "weighting", "factor", ".", "For", "our", "experiments", ",", "=", "0.5", "was", "used", ".", "Therefore", ",", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "is", "computed", "as", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "=", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "-LRB-", "S", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "~", "S", "-LRB-", "s", "i", "|", "p", "-RRB-", "-RRB-", "#", "-LRB-", "c", "i", ",", "p", "-RRB-", "-LRB-", "3", "-RRB-", "Finally", ",", "given", "a", "retrieve", "page", "p", ",", "we", "assign", "all", "extracted", "URLs", "from", "p", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "pages", "relevant", "to", "arg", "max", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "T", "C", "P", "r", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", ".", "3.4.4", "Classification", "Based", "Chung", "et", "al.", "-LSB-", "12", "-RSB-", "show", "that", "the", "classification", "based", "collaboration", "yields", "a", "good", "performance", "for", "the", "topic-oriented", "collaborative", "crawling", ".", "Our", "classification", "based", "collaboration", "for", "the", "geographically", "crawling", "is", "motivated", "by", "their", "work", ".", "In", "this", "type", "of", "collaboration", ",", "the", "classes", "for", "the", "classifier", "are", "the", "partitions", "of", "targeted", "city-state", "pairs", ".", "We", "train", "our", "classifier", "to", "determine", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", ",", "the", "probability", "that", "the", "retrieved", "page", "p", "is", "pertinent", "to", "the", "city-state", "pair", "c", "i", ".", "Among", "various", "possible", "classification", "methods", ",", "we", "chose", "the", "Naive-Bayes", "classifier", "-LSB-", "25", "-RSB-", "due", "to", "its", "simplicity", ".", "To", "obtain", "training", "3", "http://www.city-data.com", "290", "data", ",", "pages", "from", "the", "Open", "Directory", "Project", "-LRB-", "ODP", "-RRB-", "4", "were", "used", ".", "For", "each", "targeted", "city-state", "pair", ",", "we", "download", "all", "pages", "under", "the", "corresponding", "city-state", "category", "which", ",", "in", "turn", ",", "is", "the", "child", "category", "for", "the", "``", "REGIONAL", "''", "category", "in", "the", "ODP", ".", "The", "number", "of", "pages", "downloaded", "for", "each", "city-state", "pair", "varied", "from", "500", "to", "2000", ".", "We", "also", "download", "a", "set", "of", "randomly", "chosen", "pages", "which", "are", "not", "part", "of", "any", "city-state", "category", "in", "the", "ODP", ".", "We", "download", "2000", "pages", "for", "this", "purpose", ".", "Then", ",", "we", "train", "our", "Naive-Bayes", "classifier", "using", "these", "training", "data", ".", "Our", "classifier", "determines", "whether", "a", "page", "p", "is", "pertinent", "to", "either", "of", "the", "targeted", "city-state", "pairs", "or", "it", "is", "not", "relevant", "to", "any", "city-state", "pair", "at", "all", ".", "Given", "the", "retrieved", "page", "p", ",", "we", "assign", "all", "extracted", "URLs", "from", "p", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "the", "download", "of", "pages", "which", "are", "pertinent", "to", "arg", "max", "c", "i", "T", "C", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", ".", "3.4.5", "IP-Address", "Based", "The", "IP-address", "of", "the", "web", "service", "indicates", "the", "geographic", "location", "at", "which", "the", "web", "service", "is", "hosted", ".", "The", "IP-address", "based", "collaboration", "explores", "this", "information", "to", "control", "the", "behavior", "of", "the", "crawler", "for", "further", "downloads", ".", "Given", "a", "retrieved", "page", "p", ",", "we", "first", "determine", "the", "IP-address", "of", "the", "web", "service", "from", "which", "the", "crawler", "downloaded", "p.", "With", "this", "IP-address", ",", "we", "use", "the", "IP-address", "mapping", "tool", "to", "obtain", "the", "corresponding", "city-state", "pair", "of", "the", "given", "IP", ",", "and", "then", "we", "assign", "all", "extracted", "URLs", "of", "page", "p", "to", "the", "crawling", "node", "which", "is", "responsible", "on", "the", "computed", "city-state", "pair", ".", "For", "the", "IP-address", "mapping", "tool", ",", "freely", "available", "IP", "address", "mapping", "tool", ",", "hostip.info", "-LRB-", "API", "-RRB-", "5", "is", "employed", ".", "3.5", "Normalization", "and", "Disambiguation", "of", "City", "Names", "As", "indicated", "in", "-LSB-", "2", ",", "15", "-RSB-", ",", "problems", "of", "aliasing", "and", "ambiguity", "arise", "when", "one", "wants", "to", "map", "the", "possible", "city-state", "reference", "candidate", "to", "an", "unambiguous", "city-state", "pair", ".", "In", "this", "section", ",", "we", "describe", "how", "we", "handle", "these", "issues", "out", ".", "Aliasing", ":", "Many", "times", "different", "names", "or", "abbreviations", "are", "used", "for", "the", "same", "city", "name", ".", "For", "example", ",", "Los", "Angeles", "can", "be", "also", "referred", "as", "LA", "or", "L.A.", "Similar", "to", "-LSB-", "15", "-RSB-", ",", "we", "used", "the", "web", "database", "of", "the", "United", "States", "Postal", "Service", "-LRB-", "USPS", "-RRB-", "6", "to", "deal", "with", "aliasing", ".", "The", "service", "returns", "a", "list", "of", "variations", "of", "the", "corresponding", "city", "name", "given", "the", "zip", "code", ".", "Thus", ",", "we", "first", "obtained", "the", "list", "of", "representative", "zip", "codes", "for", "each", "city", "in", "the", "list", "using", "the", "US", "Zip", "Code", "Database", "product", ",", "purchased", "from", "ZIPWISE", "7", ",", "and", "then", "we", "obtain", "the", "list", "of", "possible", "names", "and", "abbreviations", "for", "each", "city", "from", "the", "USPS", ".", "Ambiguity", ":", "When", "we", "deal", "with", "city", "names", ",", "we", "have", "to", "deal", "with", "the", "ambiguity", "of", "the", "city", "name", "reference", ".", "First", ",", "we", "can", "not", "guarantee", "whether", "the", "possible", "city", "name", "reference", "actually", "refers", "to", "the", "city", "name", ".", "For", "instance", ",", "New", "York", "might", "refer", "to", "New", "York", "as", "city", "name", "or", "New", "York", "as", "part", "of", "the", "brand", "name", "``", "New", "York", "Fries", "''", "or", "New", "York", "as", "state", "name", ".", "Second", ",", "a", "city", "name", "can", "refer", "to", "cities", "in", "different", "states", ".", "For", "example", ",", "four", "states", ",", "New", "York", ",", "Georgia", ",", "Oregon", "and", "4", "http://www.dmoz.org", "5", "http://www.hostip.info", "6", "http://www.usps.gov", "7", "http://www.zipwise.com", "California", ",", "have", "a", "city", "called", "Albany", ".", "For", "both", "cases", ",", "unless", "we", "fully", "analyze", "the", "context", "in", "which", "the", "reference", "was", "made", ",", "the", "city", "name", "reference", "might", "be", "inherently", "ambiguous", ".", "Note", "that", "for", "the", "full", "content", "based", "collaboration", ",", "the", "issue", "of", "ambiguity", "is", "already", "handled", "through", "the", "term", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "of", "the", "Eq", ".", "2", ".", "For", "the", "extended", "anchor", "text", "based", "and", "the", "URL", "based", "collaborations", ",", "we", "always", "treat", "the", "possible", "city", "name", "reference", "as", "the", "city", "that", "has", "the", "largest", "population", "size", ".", "For", "instance", ",", "Glendale", "found", "in", "either", "the", "URL", "address", "of", "page", "or", "the", "extended", "anchor", "text", "of", "page", "would", "be", "treated", "as", "the", "city", "name", "reference", "for", "Glendale", ",", "AZ.", "8", ".", "To", "assess", "the", "performance", "of", "each", "crawling", "collaboration", "strategy", ",", "it", "is", "imperative", "to", "determine", "how", "much", "geographically", "-", "aware", "pages", "were", "downloaded", "for", "each", "strategy", "and", "whether", "the", "downloaded", "pages", "are", "actually", "pertinent", "to", "the", "targeted", "geographic", "locations", ".", "Note", "that", "while", "some", "previous", "works", "-LSB-", "2", ",", "15", ",", "18", ",", "5", "-RSB-", "attempt", "to", "define", "precisely", "what", "a", "geographically-aware", "page", "is", ",", "determining", "whether", "a", "page", "is", "geographically-aware", "or", "not", "remains", "as", "an", "open", "problem", "-LSB-", "2", ",", "18", "-RSB-", ".", "For", "our", "particular", "application", ",", "we", "define", "the", "notion", "of", "geographical", "awareness", "of", "page", "through", "geographic", "entities", "-LSB-", "21", "-RSB-", ".", "We", "refer", "the", "address", "description", "of", "a", "physical", "organization", "or", "a", "person", "as", "geographic", "entity", ".", "Since", "the", "targeted", "geographical", "city-state", "pairs", "for", "our", "experiments", "are", "the", "top", "100", "US", "cities", ",", "a", "geographic", "entity", "in", "the", "context", "of", "our", "experiments", "are", "further", "simplified", "as", "an", "address", "information", ",", "following", "the", "standard", "US", "address", "format", ",", "for", "any", "of", "the", "top", "100", "US", "cities", ".", "In", "other", "words", ",", "a", "geographic", "entity", "in", "our", "context", "is", "a", "sequence", "of", "Street", "Number", ",", "Street", "Name", ",", "City", "Name", "and", "State", "Name", ",", "found", "as", "part", "of", "the", "content", "of", "page", ".", "Next", ",", "we", "present", "various", "evaluation", "measures", "for", "our", "crawling", "strategies", "based", "on", "geographic", "entities", ".", "Ad-ditionally", ",", "we", "present", "traditional", "measures", "to", "quantify", "the", "performance", "of", "any", "collaborative", "crawling", ".", "Note", "that", "our", "evaluation", "measures", "are", "later", "used", "in", "our", "experiments", ".", "Geo-coverage", ":", "When", "a", "page", "contain", "at", "least", "one", "geographic", "entity", "-LRB-", "i.e.", "address", "information", "-RRB-", ",", "then", "the", "page", "is", "clearly", "a", "geographically", "aware", "page", ".", "Therefore", ",", "we", "define", "the", "geo-coverage", "of", "retrieved", "pages", "as", "the", "number", "of", "retrieved", "pages", "with", "at", "least", "one", "geographic", "entity", ",", "pertinent", "to", "the", "targeted", "geographical", "locations", "-LRB-", "e.g.", ",", "the", "top", "US", "100", "cities", "-RRB-", "over", "the", "total", "number", "of", "retrieved", "pages", ".", "Geo-focus", ":", "Each", "crawling", "node", "of", "the", "geographically", "focused", "collaborative", "crawler", "is", "responsible", "for", "a", "subset", "of", "the", "targeted", "geographic", "locations", ".", "For", "instance", ",", "suppose", "we", "have", "two", "geographically", "sensitive", "crawling", "nodes", "Cn", "1", ",", "and", "Cn", "2", ",", "and", "the", "targeted", "city-state", "pairs", "as", "-LCB-", "-LRB-", "New", "York", ",", "NY", "-RRB-", ",", "-LRB-", "Los", "Angeles", ",", "CA", "-RRB-", "-RCB-", ".", "Suppose", "Cn", "1", "is", "responsible", "for", "crawling", "pages", "pertinent", "to", "-LRB-", "New", "York", ",", "NY", "-RRB-", "while", "Cn", "2", "is", "responsible", "for", "crawling", "8", "Note", "that", "this", "simple", "approach", "does", "minimally", "hurt", "the", "overall", "crawling", ".", "For", "instance", ",", "in", "many", "cases", ",", "even", "the", "incorrect", "assessment", "of", "the", "state", "name", "reference", "New", "York", "instead", "of", "the", "correct", "city", "name", "reference", "New", "York", ",", "would", "result", "into", "the", "assignment", "of", "all", "extracted", "URLs", "to", "the", "correct", "crawling", "node", ".", "291", "3", "1", "2", "4", "5", "7", "8", "6", "Page", "without", "geo-entity", "Page", "with", "geo-entity", "Root", "Page", "Figure", "2", ":", "An", "example", "of", "geo-centrality", "measure", "pages", "pertinent", "to", "-LRB-", "Los", "Angeles", ",", "CA", "-RRB-", ".", "Therefore", ",", "if", "the", "Cn", "1", "has", "downloaded", "a", "page", "about", "Los", "Angeles", ",", "CA", ",", "then", "this", "would", "be", "clearly", "a", "failure", "of", "the", "collaborative", "crawling", "approach", ".", "To", "formalize", "this", "notion", ",", "we", "define", "the", "geo-focus", "of", "a", "crawling", "node", ",", "as", "the", "number", "of", "retrieved", "pages", "that", "contain", "at", "least", "one", "geographic", "entity", "of", "the", "assigned", "city-state", "pairs", "of", "the", "crawling", "node", ".", "Geo-centrality", ":", "One", "of", "the", "most", "frequently", "and", "fundamental", "measures", "used", "for", "the", "analysis", "of", "network", "structures", "is", "the", "centrality", "measure", "which", "address", "the", "question", "of", "how", "central", "a", "node", "is", "respect", "to", "other", "nodes", "in", "the", "network", ".", "The", "most", "commonly", "used", "ones", "are", "the", "degree", "centrality", ",", "eigenvector", "centrality", ",", "closeness", "centrality", "and", "betweenness", "centrality", "-LSB-", "3", "-RSB-", ".", "Motivated", "by", "the", "closeness", "centrality", "and", "the", "betweenness", "centrality", ",", "Lee", "et", "al.", "-LSB-", "21", "-RSB-", "define", "novel", "centrality", "measures", "to", "assess", "how", "a", "node", "is", "central", "with", "respect", "to", "those", "geographically-aware", "nodes", "-LRB-", "pages", "with", "geographic", "entities", "-RRB-", ".", "A", "geodesic", "path", "is", "the", "shortest", "path", ",", "in", "terms", "of", "the", "number", "of", "edges", "transversed", ",", "between", "a", "specified", "pair", "of", "nodes", ".", "Geo-centrality", "measures", "are", "based", "on", "the", "geodesic", "paths", "from", "an", "arbitrary", "node", "to", "a", "geographically", "aware", "node", ".", "Given", "two", "arbitrary", "nodes", ",", "p", "i", ",", "p", "j", ",", "let", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "be", "the", "geodesic", "path", "based", "distance", "between", "p", "i", "and", "p", "j", "-LRB-", "the", "length", "of", "the", "geodesic", "path", "-RRB-", ".", "Let", "w", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "=", "1/m", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "for", "some", "m", "and", "we", "define", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "as", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "=", "w", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "if", "p", "j", "is", "geographically", "aware", "node", "0", "otherwise", "For", "any", "node", "p", "i", ",", "let", "k", "-LRB-", "p", "i", "-RRB-", "=", "-LCB-", "p", "j", "|", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "<", "k", "-RCB-", "be", "the", "set", "nodes", "of", "whose", "geodesic", "distance", "from", "p", "i", "is", "less", "than", "k.", "Given", "p", "i", ",", "let", "GCt", "k", "-LRB-", "p", "i", "-RRB-", "be", "defined", "as", "GCt", "k", "-LRB-", "p", "i", "-RRB-", "=", "p", "j", "k", "-LRB-", "p", "i", "-RRB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "Intuitively", "the", "geo-centrality", "measure", "computes", "how", "many", "links", "have", "to", "be", "followed", "by", "a", "user", "which", "starts", "his", "navigation", "from", "page", "p", "i", "to", "reach", "geographically-aware", "pages", ".", "Moreover", ",", "w", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "is", "used", "to", "penalize", "each", "following", "of", "link", "by", "the", "user", ".", "Example", "3", ".", "Let", "consider", "the", "graph", "structure", "of", "Figure", "2", ".", "Suppose", "that", "the", "weights", "are", "given", "as", "w", "0", "=", "1", ",", "w", "1", "=", "0.1", ",", "w", "2", "=", "0.01", ",", "i.e.", "each", "time", "a", "user", "navigates", "a", "link", ",", "we", "penalize", "it", "with", "0.1", ".", "Given", "the", "root", "node", "1", "containing", "at", "least", "one", "geo-entity", ",", "we", "have", "2", "-LRB-", "node", "1", "-RRB-", "=", "-LCB-", "1", ",", "...", ",", "8", "-RCB-", ".", "Therefore", ",", "we", "have", "w", "GD", "-LRB-", "node", "1", ",", "node", "1", "-RRB-", "=", "1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "2", "-RRB-", "=", "0.1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "3", "-RRB-", "=", "0.1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "4", "-RRB-", "=", "0.1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "5", "-RRB-", "=", "0.01", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "6", "-RRB-", "=", "0.01", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "7", "-RRB-", "=", "0.01", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "8", "-RRB-", "=", "0.01", ".", "Finally", ",", "GCt", "k", "-LRB-", "node", "1", "-RRB-", "=", "1.34", ".", "Overlap", ":", "The", "Overlap", "measure", "is", "first", "introduced", "in", "-LSB-", "10", "-RSB-", ".", "In", "the", "collaborative", "crawling", ",", "it", "is", "possible", "that", "different", "crawling", "nodes", "download", "the", "same", "page", "multiple", "times", ".", "Multiple", "downloads", "of", "the", "same", "page", "are", "clearly", "undesirable", ".", "Therefore", ",", "the", "overlap", "of", "retrieved", "pages", "is", "defined", "as", "N", "-", "I", "N", "where", "N", "denotes", "the", "total", "number", "of", "downloaded", "pages", "by", "the", "overall", "crawler", "and", "I", "denotes", "the", "number", "of", "unique", "downloaded", "pages", "by", "the", "overall", "crawler", ".", "Note", "that", "the", "hash", "based", "collaboration", "approach", "does", "not", "have", "any", "overlap", ".", "Diversity", ":", "In", "a", "crawling", ",", "it", "is", "possible", "that", "the", "crawling", "is", "biased", "toward", "a", "certain", "domain", "name", ".", "For", "instance", ",", "a", "crawler", "might", "find", "a", "crawler", "trap", "which", "is", "an", "infinite", "loop", "within", "the", "web", "that", "dynamically", "produces", "new", "pages", "trapping", "the", "crawler", "within", "this", "loop", "-LSB-", "6", "-RSB-", ".", "To", "formalize", "this", "notion", ",", "we", "define", "the", "diversity", "as", "S", "N", "where", "S", "denotes", "the", "number", "of", "unique", "domain", "names", "of", "downloaded", "pages", "by", "the", "overall", "crawler", "and", "N", "denotes", "the", "total", "number", "of", "downloaded", "pages", "by", "the", "overall", "crawler", ".", "Communication", "overhead", ":", "In", "a", "collaborative", "crawling", ",", "the", "participating", "crawling", "nodes", "need", "to", "exchange", "URLs", "to", "coordinate", "the", "overall", "crawling", "work", ".", "To", "quantify", "how", "much", "communication", "is", "required", "for", "this", "exchange", ",", "the", "communication", "overhead", "is", "defined", "in", "terms", "of", "the", "exchanged", "URLs", "per", "downloaded", "page", "-LSB-", "10", "-RSB-", ".", "In", "this", "section", ",", "we", "present", "the", "results", "of", "experiments", "that", "we", "conducted", "to", "study", "various", "aspects", "of", "the", "proposed", "geographically", "focused", "collaborative", "crawling", "strategies", ".", "5.1", "Experiment", "Description", "We", "built", "an", "geographically", "focused", "collaborative", "crawler", "that", "consists", "of", "one", "general", "crawling", "node", ",", "Cn", "0", "and", "five", "geographically", "sensitive", "crawling", "nodes", ",", "-LCB-", "Cn", "1", ",", "...", ",", "Cn", "5", "-RCB-", ",", "as", "described", "in", "Section", "3.4", ".", "The", "targeted", "city-state", "pairs", "were", "the", "top", "100", "US", "cities", "by", "the", "population", "size", ",", "whose", "list", "was", "obtained", "from", "the", "city-data.com", "9", ".", "We", "partition", "the", "targeted", "city-state", "pairs", "according", "to", "their", "time", "zone", "to", "assign", "these", "to", "the", "geographically", "sensitive", "crawling", "nodes", "as", "shown", "in", "Table", "1", ".", "In", "other", "words", ",", "we", "have", "the", "following", "architecture", "design", "as", "illustrated", "in", "Figure", "3", ".", "Cn", "0", "is", "general", "crawler", "targeting", "pages", "which", "are", "not", "geographically-aware", ".", "Cn", "1", "targets", "the", "Eastern", "time", "zone", "with", "33", "cities", ".", "Cn", "2", "targets", "the", "Pacific", "time", "zone", "with", "22", "cities", ".", "Cn", "3", "targets", "the", "Mountain", "time", "zone", "with", "10", "cities", ".", "9", "www.city-data.com", "292", "Time", "Zone", "State", "Name", "Cities", "Central", "AL", "Birmingham", ",", "Montgomery", ",", "Mobile", "Alaska", "AK", "Anchorage", "Mountain", "AR", "Phoenix", ",", "Tucson", ",", "Mesa", ",", "Glendale", ",", "Scottsdale", "Pacific", "CA", "Los", "Angeles", ",", "San", "Diego", ",", "San", "Jose", "San", "Francisco", ",", "Long", "Beach", ",", "Fresno", "Oakland", ",", "Santa", "Ana", ",", "Anaheim", "Bakersfield", ",", "Stockton", ",", "Fremont", "Glendale", ",", "Riverside", ",", "Modesto", "Sacramento", ",", "Huntington", "Beach", "Mountain", "CO", "Denver", ",", "Colorado", "Springs", ",", "Aurora", "Eastern", "DC", "Washington", "Eastern", "FL", "Hialeah", "Eastern", "GA", "Atlanta", ",", "Augusta-Richmond", "County", "Hawaii", "HI", "Honolulu", "Mountain", "ID", "Boise", "Central", "IL", "Chicago", "Central", "IN", "Indianapolis", ",", "Fort", "Wayne", "Central", "IA", "Des", "Moines", "Central", "KA", "Wichita", "Eastern", "KE", "Lexington-Fayette", ",", "Louisville", "Central", "LO", "New", "Orleans", ",", "Baton", "Rouge", "Shreveport", "Eastern", "MD", "Baltimore", "Eastern", "MA", "Boston", "Eastern", "MI", "Detroit", ",", "Grand", "Rapids", "Central", "MN", "Minneapolis", ",", "St.", "Paul", "Central", "MO", "Kansas", "City", ",", "St.", "Louis", "Central", "NE", "Omaha", ",", "Lincoln", "Pacific", "NV", "Las", "Vegas", "Eastern", "NJ", "Newark", ",", "Jersey", "City", "Mountain", "NM", "Albuquerque", "Eastern", "NY", "New", "York", ",", "Buffalo", ",", "Rochester", ",", "Yonkers", "Eastern", "NC", "Charlotte", ",", "Raleigh", ",", "Greensboro", "Durham", ",", "Winston-Salem", "Eastern", "OH", "Columbus", ",", "Cleveland", "Cincinnati", ",", "Toledo", ",", "Akron", "Central", "OK", "Oklahoma", "City", ",", "Tulsa", "Pacific", "OR", "Portland", "Eastern", "PA", "Philadelphia", ",", "Pittsburgh", "Central", "TX", "Houston", ",", "Dallas", ",", "San", "Antonio", ",", "Austin", "El", "Paso", ",", "Fort", "Worth", "Arlington", ",", "Corpus", "Christi", "Plano", ",", "Garland", ",", "Lubbock", ",", "Irving", "Eastern", "VI", "Virginia", "Beach", ",", "Norfolk", "Chesapeake", ",", "Richmond", ",", "Arlington", "Pacific", "WA", "Seattle", ",", "Spokane", ",", "Tacoma", "Central", "WI", "Milwaukee", ",", "Madison", "Table", "1", ":", "Top", "100", "US", "cities", "and", "their", "time", "zone", "WEB", "Cn5", ":", "Hawaii", "&", "Alaska", "Cn0", ":", "General", "Cn1", ":", "Eastern", "-LRB-", "33", "cities", "-RRB-", "Cn2", ":", "Pacific", "-LRB-", "22", "cities", "-RRB-", "Cn4", ":", "Central", "-LRB-", "33", "cities", "-RRB-", "Cn3", ":", "Mountain", "-LRB-", "10", "cities", "-RRB-", "Figure", "3", ":", "Architecture", "of", "our", "crawler", "Cn", "4", "targets", "the", "Central", "time", "zone", "with", "33", "cities", ".", "Finally", ",", "Cn", "5", "targets", "the", "Hawaii-Aleutian", "and", "Alaska", "time", "zones", "with", "two", "cities", ".", "We", "developed", "our", "collaborative", "crawler", "by", "extending", "the", "open", "source", "crawler", ",", "larbin", "10", "written", "in", "C++", ".", "Each", "crawling", "node", "was", "to", "dig", "each", "domain", "name", "up", "to", "the", "five", "levels", "of", "depth", ".", "The", "crawling", "nodes", "were", "deployed", "over", "2", "servers", ",", "each", "of", "them", "with", "3.2", "GHz", "dual", "P4", "processors", ",", "1", "GB", "of", "RAM", ",", "and", "600", "GB", "of", "disk", "space", ".", "We", "ran", "our", "crawler", "for", "the", "period", "of", "approximately", "2", "weeks", "to", "download", "approximately", "12.8", "million", "pages", "for", "each", "crawling", "strategy", "as", "shown", "in", "Table", "2", ".", "For", "each", "crawling", "process", ",", "the", "usable", "bandwidth", "was", "limited", "to", "3.2", "mbps", ",", "so", "the", "total", "maximum", "bandwidth", "used", "by", "our", "crawler", "was", "19.2", "mbps", ".", "For", "each", "crawling", ",", "we", "used", "the", "category", "``", "Top", ":", "Regional", ":", "North", "America", ":", "United", "States", "''", "of", "the", "ODP", "as", "the", "seed", "page", "of", "crawling", ".", "The", "IP", "mapping", "tool", "used", "in", "our", "experiments", "did", "not", "return", "the", "10", "http://larbin.sourceforge.net/index-eng.html", "Type", "of", "collaboration", "Download", "size", "Hash", "Based", "12.872", "m", "URL", "Based", "12.872", "m", "Extended", "Anchor", "Text", "Based", "12.820", "m", "Simple", "Content", "Analysis", "Based", "12.878", "m", "Classification", "Based", "12.874", "m", "IP", "Address", "Based", "12.874", "m", "Table", "2", ":", "Number", "of", "downloaded", "pages", "corresponding", "city-state", "pairs", "for", "Alaska", "and", "Hawaii", ",", "so", "we", "ignored", "Alaska", "and", "Hawaii", "for", "our", "IP-address", "based", "collaborative", "crawling", ".", "5.2", "Discussion", "5.2.1", "Quality", "Issue", "As", "the", "first", "step", "toward", "the", "performance", "evaluation", "of", "our", "crawling", "strategies", ",", "we", "built", "an", "extractor", "for", "the", "extraction", "of", "geographic", "entities", "-LRB-", "addresses", "-RRB-", "from", "downloaded", "pages", ".", "Our", "extractor", ",", "being", "a", "gazetteer", "based", ",", "extracted", "those", "geographic", "entities", "using", "a", "dictionary", "of", "all", "possible", "city", "name", "references", "for", "the", "top", "100", "US", "cities", "augmented", "by", "a", "list", "of", "all", "possible", "street", "abbreviations", "-LRB-", "e.g.", ",", "street", ",", "avenue", ",", "av.", ",", "blvd", "-RRB-", "and", "other", "pattern", "matching", "heuristics", ".", "Each", "extracted", "geographic", "entity", "candidate", "was", "further", "matched", "against", "the", "database", "of", "possible", "street", "names", "for", "each", "city", "that", "we", "built", "from", "the", "2004", "TIGER/Line", "files", "11", ".", "Our", "extractor", "was", "shown", "to", "yield", "96", "%", "of", "accuracy", "out", "of", "500", "randomly", "chosen", "geographic", "entities", ".", "We", "first", "analyze", "the", "geo-coverage", "of", "each", "crawling", "strategy", "as", "shown", "in", "Table", "3", ".", "The", "top", "performers", "for", "the", "geo-coverage", "are", "the", "URL", "based", "and", "extended", "anchor", "text", "based", "collaborative", "strategies", "whose", "portion", "of", "pages", "downloaded", "with", "geographic", "entities", "was", "7.25", "%", "and", "7.88", "%", ",", "respectively", ",", "strongly", "suggesting", "that", "URL", "address", "of", "page", "and", "extended", "anchor", "text", "of", "link", "are", "important", "features", "to", "be", "considered", "for", "the", "discovery", "of", "geographically-aware", "pages", ".", "The", "next", "best", "performer", "with", "respect", "to", "geo-coverage", "was", "the", "full", "content", "based", "collaborative", "strategy", "achieving", "geo-coverage", "of", "4.89", "%", ".", "Finally", ",", "the", "worst", "performers", "in", "the", "group", "of", "geographically", "focused", "collaborative", "policies", "were", "the", "classification", "based", "and", "the", "IP-address", "based", "strategies", ".", "The", "poor", "performance", "of", "the", "IP-address", "based", "collaborative", "policy", "shows", "that", "the", "actual", "physical", "location", "of", "web", "service", "is", "not", "necessarily", "associated", "with", "the", "geographical", "scopes", "of", "pages", "served", "by", "web", "service", ".", "The", "extremely", "poor", "performance", "of", "the", "classification", "based", "crawler", "is", "surprising", "since", "this", "kind", "of", "collaboration", "strategy", "shows", "to", "achieve", "good", "performance", "for", "the", "topic-oriented", "crawling", "-LSB-", "12", "-RSB-", ".", "Finally", ",", "the", "worst", "performance", "is", "observed", "with", "the", "URL-hash", "based", "collaborative", "policy", "as", "expected", "whose", "portion", "of", "pages", "with", "geographical", "entities", "out", "of", "all", "retrieved", "pages", "was", "less", "than", "1", "%", ".", "In", "conclusion", ",", "the", "usage", "of", "even", "simple", "but", "intuitively", "sounding", "geographically", "focused", "collaborative", "policies", "can", "improve", "the", "performance", "of", "standard", "collaborative", "crawling", "by", "a", "factor", "of", "3", "to", "8", "for", "the", "task", "of", "collecting", "geographically-aware", "pages", ".", "To", "check", "whether", "each", "geographically", "sensitive", "crawling", "node", "is", "actually", "downloading", "pages", "corresponding", "to", "their", "assigned", "city-state", "pairs", ",", "we", "used", "the", "geo-focus", "as", "shown", "in", "11", "http://www.census.gov/geo/www/tiger/tiger2004se/", "tgr2004se.html", "293", "Type", "of", "collaboration", "Cn0", "Cn1", "Cn2", "Cn3", "Cn4", "Cn5", "Average", "Average", "-LRB-", "without", "Cn0", "-RRB-", "URL-Hash", "Based", "1.15", "%", "0.80", "%", "0.77", "%", "0.75", "%", "0.82", "%", "0.86", "%", "0.86", "%", "0.86", "%", "URL", "Based", "3.04", "%", "7.39", "%", "9.89", "%", "9.37", "%", "7.30", "%", "13.10", "%", "7.25", "%", "8.63", "%", "Extended", "Anchor", "Text", "Based", "5.29", "%", "6.73", "%", "9.78", "%", "9.99", "%", "6.01", "%", "12.24", "%", "7.88", "%", "8.58", "%", "Full", "Content", "Based", "1.11", "%", "3.92", "%", "5.79", "%", "6.87", "%", "3.24", "%", "8.51", "%", "4.89", "%", "5.71", "%", "Classification", "Based", "0.49", "%", "1.23", "%", "1.20", "%", "1.27", "%", "1.22", "%", "1.10", "%", "1.09", "%", "1.21", "%", "IP-Address", "Based", "0.81", "%", "2.02", "%", "1.43", "%", "2.59", "%", "2.74", "%", "0.00", "%", "1.71", "%", "2.20", "%", "Table", "3", ":", "Geo-coverage", "of", "crawling", "strategies", "Type", "of", "collaboration", "Cn1", "Cn2", "Cn3", "Cn4", "Cn5", "Average", "URL", "based", "91.7", "%", "89.0", "%", "82.8", "%", "94.3", "%", "97.6", "%", "91.1", "%", "Extended", "anchor", "82.0", "%", "90.5", "%", "79.6", "%", "76.8", "%", "92.3", "%", "84.2", "%", "text", "based", "Full", "content", "based", "75.2", "%", "77.4", "%", "75.1", "%", "63.5", "%", "84.9", "%", "75.2", "%", "Classification", "based", "43.5", "%", "32.6", "%", "5.5", "%", "25.8", "%", "2.9", "%", "22.1", "%", "IP-Address", "based", "59.6", "%", "63.6", "%", "55.6", "%", "80.0", "%", "0.0", "%", "51.8", "%", "Table", "4", ":", "Geo-focus", "of", "crawling", "strategies", "Type", "of", "collaboration", "Cn0", "Cn1", "Cn2", "Cn3", "Cn4", "Cn5", "Average", "URL-hash", "based", "0.45", "0.47", "0.46", "0.49", "0.49", "0.49", "0.35", "URL", "based", "0.39", "0.2", "0.18", "0.16", "0.24", "0.07", "0.18", "Extended", "anchor", "0.39", "0.31", "0.22", "0.13", "0.32", "0.05", "0.16", "text", "based", "Full", "content", "based", "0.49", "0.35", "0.31", "0.29", "0.39", "0.14", "0.19", "Classification", "based", "0.52", "0.45", "0.45", "0.46", "0.46", "0.45", "0.26", "IP-Address", "based", "0.46", "0.25", "0.31", "0.19", "0.32", "0.00", "0.27", "Table", "5", ":", "Number", "of", "unique", "geographic", "entities", "over", "the", "total", "number", "of", "geographic", "entities", "Table", "4", ".", "Once", "again", ",", "the", "URL-based", "and", "the", "extended", "anchor", "text", "based", "strategies", "show", "to", "perform", "well", "with", "respect", "to", "this", "particular", "measure", "achieving", "in", "average", "above", "85", "%", "of", "geo-focus", ".", "Once", "again", ",", "their", "relatively", "high", "performance", "strongly", "suggest", "that", "the", "city", "name", "reference", "within", "a", "URL", "address", "of", "page", "or", "an", "extended", "anchor", "text", "is", "a", "good", "feature", "to", "be", "considered", "for", "the", "determination", "of", "geographical", "scope", "of", "page", ".", "The", "geo-focus", "value", "of", "75.2", "%", "for", "the", "content", "based", "collaborative", "strategy", "also", "suggests", "that", "the", "locality", "phenomena", "which", "occurs", "with", "the", "topic", "of", "page", "also", "occurs", "within", "the", "geographical", "dimension", "as", "well", ".", "It", "is", "reported", ",", "-LSB-", "13", "-RSB-", ",", "that", "pages", "tend", "to", "reference", "-LRB-", "point", "to", "-RRB-", "other", "pages", "on", "the", "same", "general", "topic", ".", "The", "relatively", "high", "geo-focus", "value", "for", "the", "content", "based", "collaborative", "strategy", "indicates", "that", "pages", "on", "the", "similar", "geographical", "scope", "tend", "to", "reference", "each", "other", ".", "The", "IP-address", "based", "policy", "achieves", "51.7", "%", "of", "geo-focus", "while", "the", "classification", "based", "policy", "only", "achieves", "22.7", "%", "of", "geo-focus", ".", "The", "extremely", "poor", "geo-focus", "of", "the", "classification", "based", "policy", "seems", "to", "be", "due", "to", "the", "failure", "of", "the", "classifier", "for", "the", "determination", "of", "the", "correct", "geographical", "scope", "of", "page", ".", "In", "the", "geographically", "focused", "crawling", ",", "it", "is", "possible", "that", "pages", "are", "biased", "toward", "a", "certain", "geographic", "locations", ".", "For", "instance", ",", "when", "we", "download", "pages", "on", "Las", "Vegas", ",", "NV", ",", "it", "is", "possible", "that", "we", "have", "downloaded", "a", "large", "number", "of", "pages", "which", "are", "focused", "on", "a", "few", "number", "of", "casino", "hotels", "in", "Las", "Vegas", ",", "NV", "which", "are", "highly", "referenced", "to", "each", "other", ".", "In", "this", "case", ",", "quality", "of", "the", "downloaded", "pages", "would", "not", "be", "that", "good", "since", "most", "of", "pages", "would", "contain", "a", "large", "number", "of", "very", "similar", "geographic", "entities", ".", "To", "formalize", "the", "notion", ",", "we", "depict", "the", "ratio", "between", "the", "number", "of", "unique", "geographic", "entities", "and", "the", "total", "number", "of", "geographic", "entities", "from", "the", "retrieved", "pages", "as", "shown", "in", "Table", "5", ".", "This", "ratio", "verifies", "whether", "each", "crawling", "policy", "is", "covering", "sufficient", "number", "of", "pages", "whose", "geographical", "scope", "is", "different", ".", "It", "is", "interesting", "Type", "of", "collaboration", "Geo-centrality", "Hash", "based", "0.0222", "URL", "based", "0.1754", "Extended", "anchor", "text", "based", "0.1519", "Full", "content", "based", "0.0994", "Classification", "based", "0.0273", "IP-address", "based", "0.0380", "Table", "6", ":", "Geo-centrality", "of", "crawling", "strategies", "Type", "of", "collaboration", "Overlap", "Hash", "Based", "None", "URL", "Based", "None", "Extended", "Anchor", "Text", "Based", "0.08461", "Full", "Content", "Based", "0.173239", "Classification", "Based", "0.34599", "IP-address", "based", "None", "Table", "7", ":", "Overlap", "of", "crawling", "strategies", "to", "note", "that", "those", "geographically", "focused", "collaborative", "policies", ",", "which", "show", "to", "have", "good", "performance", "relative", "to", "the", "previous", "measures", ",", "such", "as", "the", "URL", "based", ",", "the", "extended", "anchor", "text", "based", "and", "the", "full", "content", "based", "strategies", "tend", "to", "discover", "pages", "with", "less", "diverse", "geographical", "scope", ".", "On", "the", "other", "hand", ",", "the", "less", "performed", "crawling", "strategies", "such", "as", "the", "IP-based", ",", "the", "classification", "based", ",", "the", "URL-hash", "based", "strategies", "are", "shown", "to", "collect", "pages", "with", "more", "diverse", "geographical", "scope", ".", "We", "finally", "study", "each", "crawling", "strategy", "in", "terms", "of", "the", "geo-centrality", "measure", "as", "shown", "in", "Table", "6", ".", "One", "may", "observe", "from", "Table", "6", "that", "the", "geo-centrality", "value", "provides", "an", "accurate", "view", "on", "the", "quality", "of", "the", "downloaded", "geo", "graphically-aware", "pages", "for", "each", "crawling", "strategy", "since", "the", "geo-centrality", "value", "for", "each", "crawling", "strategy", "follows", "what", "we", "have", "obtained", "with", "respect", "to", "geo-coverage", "and", "geo-precision", ".", "URL", "based", "and", "extended", "anchor", "text", "based", "strategies", "show", "to", "have", "the", "best", "geo-centrality", "values", "with", "0.1754", "and", "0.1519", "respectively", ",", "followed", "by", "the", "full", "content", "based", "strategy", "with", "0.0994", ",", "followed", "by", "the", "IP", "based", "strategy", "with", "0.0380", ",", "and", "finally", "the", "hash", "based", "strategy", "and", "the", "classification", "based", "strategy", "show", "to", "have", "similarly", "low", "geo-centrality", "values", ".", "5.2.2", "Performance", "Issue", "In", "Table", "7", ",", "we", "first", "show", "the", "overlap", "measure", "which", "reflects", "the", "number", "of", "duplicated", "pages", "out", "of", "the", "downloaded", "pages", ".", "Note", "that", "the", "hash", "based", "policy", "does", "not", "have", "any", "duplicated", "page", "since", "its", "page", "assignment", "is", "completely", "independent", "of", "other", "page", "assignment", ".", "For", "the", "same", "reason", ",", "the", "overlap", "for", "the", "URL", "based", "and", "the", "IP", "based", "strategies", "are", "none", ".", "The", "overlap", "of", "the", "extended", "anchor", "text", "294", "Type", "of", "collaboration", "Diversity", "Hash", "Based", "0.0814", "URL", "Based", "0.0405", "Extended", "Anchor", "Text", "Based", "0.0674", "Full", "Content", "Based", "0.0688", "Classification", "Based", "0.0564", "IP-address", "based", "0.3887", "Table", "8", ":", "Diversity", "of", "crawling", "strategies", "based", "is", "0.08461", "indicating", "that", "the", "extended", "anchor", "text", "of", "page", "computes", "the", "geographically", "scope", "of", "the", "corresponding", "URL", "in", "an", "almost", "unique", "manner", ".", "In", "other", "words", ",", "there", "is", "low", "probability", "that", "two", "completely", "different", "city", "name", "references", "are", "found", "within", "a", "URL", "address", ".", "Therefore", ",", "this", "would", "be", "another", "reason", "why", "the", "extended", "anchor", "text", "would", "be", "a", "good", "feature", "to", "be", "used", "for", "the", "partition", "of", "the", "web", "within", "the", "geographical", "context", ".", "The", "overlap", "of", "the", "full", "content", "based", "and", "the", "classification", "based", "strategies", "are", "relatively", "high", "with", "0.173239", "and", "0.34599", "respectively", ".", "In", "Table", "8", ",", "we", "present", "the", "diversity", "of", "the", "downloaded", "pages", ".", "The", "diversity", "values", "of", "geographically", "focused", "collaborative", "crawling", "strategies", "suggest", "that", "most", "of", "the", "geographically", "focused", "collaborative", "crawling", "strategies", "tend", "to", "favor", "those", "pages", "which", "are", "found", "grouped", "under", "the", "same", "domain", "names", "because", "of", "their", "crawling", "method", ".", "Especially", ",", "the", "relatively", "low", "diversity", "value", "of", "the", "URL", "based", "strongly", "emphasizes", "this", "tendency", ".", "Certainly", ",", "this", "matches", "with", "the", "intuition", "since", "a", "page", "like", "``", "http://www.houston-guide.com\"", "will", "eventually", "lead", "toward", "the", "download", "of", "its", "child", "page", "``", "http://www.houston-guide.com/guide/arts/framearts.html\"", "which", "shares", "the", "same", "domain", ".", "In", "Table", "9", ",", "we", "present", "the", "communication-overhead", "of", "each", "crawling", "strategy", ".", "Cho", "and", "Garcia-Molina", "-LSB-", "10", "-RSB-", "report", "that", "the", "communication", "overhead", "of", "the", "Hash-Based", "with", "two", "processors", "is", "well", "above", "five", ".", "The", "communication-overhead", "of", "the", "Hash-based", "policy", "that", "we", "have", "follows", "with", "what", "they", "have", "obtained", ".", "The", "communication", "overhead", "of", "geographically", "focused", "collaborative", "policies", "is", "relatively", "high", "due", "to", "the", "intensive", "exchange", "of", "URLs", "between", "crawling", "nodes", ".", "In", "Table", "10", ",", "we", "summarize", "the", "relative", "merits", "of", "the", "proposed", "geographically", "focused", "collaborative", "crawling", "strategies", ".", "In", "the", "Table", ",", "``", "Good", "''", "means", "that", "the", "strategy", "is", "expected", "to", "perform", "relatively", "well", "for", "the", "measure", ",", "``", "Not", "Bad", "''", "means", "that", "the", "strategy", "is", "expected", "to", "perform", "relatively", "acceptable", "for", "that", "particular", "measure", ",", "and", "``", "Bad", "''", "means", "that", "it", "may", "perform", "worse", "compared", "to", "most", "of", "other", "collaboration", "strategies", ".", "5.3", "Geographic", "Locality", "Many", "of", "the", "potential", "benefits", "of", "topic-oriented", "collaborative", "crawling", "derive", "from", "the", "assumption", "of", "topic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "topic", "-LSB-", "12", ",", "13", "-RSB-", ".", "For", "instance", ",", "a", "classifier", "is", "used", "to", "determine", "whether", "the", "child", "page", "is", "in", "the", "same", "topic", "as", "the", "parent", "page", "and", "then", "guide", "the", "overall", "crawling", "-LSB-", "12", "-RSB-", ".", "Similarly", ",", "for", "geographically", "focused", "collaborative", "crawling", "strategies", "we", "make", "the", "assumption", "of", "geographic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "geographic", "location", ".", "Therefore", ",", "the", "performance", "of", "a", "geographically", "focused", "collaborative", "crawling", "strategy", "is", "highly", "dependent", "on", "its", "way", "of", "exploiting", "the", "geographic", "locality", ".", "That", "is", "whether", "the", "correspond-Type", "of", "collaboration", "Communication", "overhead", "URL-hash", "based", "13.89", "URL", "based", "25.72", "Extended", "anchor", "text", "based", "61.87", "Full", "content", "text", "based", "46.69", "Classification", "based", "58.38", "IP-Address", "based", "0.15", "Table", "9", ":", "Communication-overhead", "ing", "strategy", "is", "based", "on", "the", "adequate", "features", "to", "determine", "the", "geographical", "similarity", "of", "two", "pages", "which", "are", "possibly", "linked", ".", "We", "empirically", "study", "in", "what", "extent", "the", "idea", "of", "geographic", "locality", "holds", ".", "Recall", "that", "given", "the", "list", "of", "city-state", "pairs", "G", "=", "-LCB-", "~", "c", "1", ",", "...", ",", "~", "c", "k", "-RCB-", "and", "a", "geographically", "focused", "crawling", "collaboration", "strategy", "-LRB-", "e.g.", ",", "URL", "based", "collaboration", "-RRB-", ",", "pr", "-LRB-", "~", "c", "i", "|", "p", "j", "-RRB-", "is", "the", "probability", "that", "page", "is", "p", "j", "is", "pertinent", "to", "city-state", "pair", "c", "i", "according", "to", "that", "particular", "strategy", ".", "Let", "gs", "-LRB-", "p", ",", "q", "-RRB-", ",", "geographic", "similarity", "between", "pages", "p", ",", "q", ",", "be", "gs", "-LRB-", "p", ",", "q", "-RRB-", "=", "1", "if", "-LRB-", "arg", "max", "~", "c", "i", "G", "P", "r", "-LRB-", "~", "c", "i", "|", "p", "-RRB-", "=", "arg", "max", "~", "c", "j", "G", "P", "r", "-LRB-", "~", "c", "j", "|", "q", "-RRB-", "-RRB-", "0", "otherwise", "In", "other", "words", ",", "our", "geographical", "similarity", "determines", "whether", "two", "pages", "are", "pertinent", "to", "the", "same", "city-state", "pair", ".", "Given", ",", "the", "set", "of", "retrieved", "page", "for", "the", "considered", "crawling", "strategy", ",", "let", "-LRB-", "-RRB-", "and", "~", "-LRB-", "-RRB-", "be", "-LRB-", "-RRB-", "=", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "linked", "and", "gs", "-LRB-", "p", ",", "q", "-RRB-", "=", "1", "-RCB-", "|", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "linked", "-RCB-", "|", "~", "-LRB-", "-RRB-", "=", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "not", "linked", "and", "gs", "-LRB-", "p", ",", "q", "-RRB-", "=", "1", "-RCB-", "|", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "not", "linked", "-RCB-", "|", "Note", "that", "-LRB-", "-RRB-", "corresponds", "to", "the", "probability", "that", "a", "pair", "of", "linked", "pages", ",", "chosen", "uniformly", "at", "random", ",", "is", "pertinent", "to", "the", "same", "city-state", "pair", "under", "the", "considered", "collaboration", "strategy", "while", "~", "-LRB-", "-RRB-", "corresponds", "to", "the", "probability", "that", "a", "pair", "of", "unlinked", "pages", ",", "chosen", "uniformly", "at", "random", ",", "is", "pertinent", "to", "the", "same", "city-state", "pair", "under", "the", "considered", "collaboration", "strategy", ".", "Therefore", ",", "if", "the", "geographic", "locality", "occurs", "then", "we", "would", "expect", "to", "have", "high", "-LRB-", "-RRB-", "value", "compared", "to", "that", "of", "~", "-LRB-", "-RRB-", ".", "We", "selected", "the", "URL", "based", ",", "the", "classification", "based", ",", "and", "the", "full", "content", "based", "collaboration", "strategies", ",", "and", "calculated", "both", "-LRB-", "-RRB-", "and", "~", "-LRB-", "-RRB-", "for", "each", "collaboration", "strategy", ".", "In", "Table", "11", ",", "we", "show", "the", "results", "of", "our", "computation", ".", "One", "may", "observe", "from", "Table", "11", "that", "those", "pages", "that", "share", "the", "same", "city-state", "pair", "in", "their", "URL", "address", "have", "the", "high", "likelihood", "of", "being", "linked", ".", "Those", "pages", "that", "share", "the", "same", "city-state", "pair", "in", "their", "content", "have", "some", "likelihood", "of", "being", "linked", ".", "Finally", ",", "those", "pages", "which", "are", "classified", "as", "sharing", "the", "same", "city-state", "pair", "are", "less", "likely", "to", "be", "linked", ".", "We", "may", "conclude", "the", "following", ":", "The", "geographical", "similarity", "of", "two", "web", "pages", "affects", "the", "likelihood", "of", "being", "referenced", ".", "In", "other", "words", ",", "geographic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "geographic", "location", ",", "clearly", "occurs", "on", "the", "web", ".", "A", "geographically", "focused", "collaboration", "crawling", "strategy", "which", "properly", "explores", "the", "adequate", "features", "for", "determining", "the", "likelihood", "of", "two", "pages", "being", "in", "the", "same", "geographical", "scope", "would", "expect", "to", "perform", "well", "for", "the", "geographically", "focused", "crawling", ".", "295", "Type", "of", "collaboration", "Geo-coverage", "Geo-Focus", "Geo-Connectivity", "Overlap", "Diversity", "Communication", "URL-Hash", "Based", "Bad", "Bad", "Bad", "Good", "Good", "Good", "URL", "Based", "Good", "Good", "Good", "Good", "Bad", "Bad", "Extended", "Anchor", "Good", "Good", "Good", "Good", "Not", "Bad", "Bad", "Text", "Based", "Full", "Content", "Based", "Not", "Bad", "Not", "Bad", "Not", "Bad", "Not", "Bad", "Not", "Bad", "Bad", "Classification", "Based", "Bad", "Bad", "Bad", "Bad", "Not", "Bad", "Bad", "IP-Address", "Bad", "Bad", "Bad", "Good", "Bad", "Good", "Table", "10", ":", "Comparison", "of", "geographically", "focused", "collaborative", "crawling", "strategies", "Type", "of", "collaboration", "-LRB-", "-RRB-", "~", "-LRB-", "-RRB-", "URL", "based", "0.41559", "0.02582", "classification", "based", "0.044495", "0.008923", "full", "content", "based", "0.26325", "0.01157", "Table", "11", ":", "Geographic", "Locality", "In", "this", "paper", ",", "we", "studied", "the", "problem", "of", "geographically", "focused", "collaborative", "crawling", "by", "proposing", "several", "collaborative", "crawling", "strategies", "for", "this", "particular", "type", "of", "crawling", ".", "We", "also", "proposed", "various", "evaluation", "criteria", "to", "measure", "the", "relative", "merits", "of", "each", "crawling", "strategy", "while", "empirically", "studying", "the", "proposed", "crawling", "strategies", "with", "the", "download", "of", "real", "web", "data", ".", "We", "conclude", "that", "the", "URL", "based", "and", "the", "extended", "anchor", "text", "based", "crawling", "strategies", "have", "the", "best", "overall", "performance", ".", "Finally", ",", "we", "empirically", "showed", "geographic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "geographical", "scope", ".", "For", "the", "future", "research", ",", "it", "would", "be", "interesting", "to", "incorporate", "more", "sophisticated", "features", "-LRB-", "e.g.", ",", "based", "on", "DOM", "structures", "-RRB-", "to", "the", "proposed", "crawling", "strategies", ".", "We", "would", "like", "to", "thank", "Genieknows.com", "for", "allowing", "us", "to", "access", "to", "its", "hardware", ",", "storage", ",", "and", "bandwidth", "resources", "for", "our", "experimental", "studies", ".", "-LSB-", "1", "-RSB-", "C.", "C.", "Aggarwal", ",", "F.", "Al-Garawi", ",", "and", "P.", "S.", "Yu", ".", "Intelligent", "crawling", "on", "the", "world", "wide", "web", "with", "arbitrary", "predicates", ".", "In", "WWW", ",", "pages", "96", "105", ",", "2001", ".", "-LSB-", "2", "-RSB-", "E.", "Amitay", ",", "N.", "Har", "`", "El", ",", "R.", "Sivan", ",", "and", "A.", "Soffer", ".", "Web-a-where", ":", "geotagging", "web", "content", ".", "In", "SIGIR", ",", "pages", "273", "280", ",", "2004", ".", "-LSB-", "3", "-RSB-", "S.", "Borgatti", ".", "Centrality", "and", "network", "flow", ".", "Social", "Networks", ",", "27", "-LRB-", "1", "-RRB-", ":", "55", "71", ",", "2005", ".", "-LSB-", "4", "-RSB-", "P.", "D.", "Bra", ",", "Y.", "K.", "Geert-Jan", "Houben", ",", "and", "R.", "Post", ".", "Information", "retrieval", "in", "distributed", "hypertexts", ".", "In", "RIAO", ",", "pages", "481", "491", ",", "1994", ".", "-LSB-", "5", "-RSB-", "O.", "Buyukkokten", ",", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "L.", "Gravano", ",", "and", "N.", "Shivakumar", ".", "Exploiting", "geographical", "location", "information", "of", "web", "pages", ".", "In", "WebDB", "-LRB-", "Informal", "Proceedings", "-RRB-", ",", "pages", "91", "96", ",", "1999", ".", "-LSB-", "6", "-RSB-", "S.", "Chakrabarti", ".", "Mining", "the", "Web", ".", "Morgan", "Kaufmann", "Publishers", ",", "2003", ".", "-LSB-", "7", "-RSB-", "S.", "Chakrabarti", ",", "K.", "Punera", ",", "and", "M.", "Subramanyam", ".", "Accelerated", "focused", "crawling", "through", "online", "relevance", "feedback", ".", "In", "WWW", ",", "pages", "148", "159", ",", "2002", ".", "-LSB-", "8", "-RSB-", "S.", "Chakrabarti", ",", "M.", "van", "den", "Berg", ",", "and", "B.", "Dom", ".", "Focused", "crawling", ":", "A", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "Computer", "Networks", ",", "31", "-LRB-", "11-16", "-RRB-", ":", "1623", "1640", ",", "1999", ".", "-LSB-", "9", "-RSB-", "J.", "Cho", ".", "Crawling", "the", "Web", ":", "Discovery", "and", "Maintenance", "of", "Large-Scale", "Web", "Data", ".", "PhD", "thesis", ",", "Stanford", ",", "2001", ".", "-LSB-", "10", "-RSB-", "J.", "Cho", "and", "H.", "Garcia-Molina", ".", "Parallel", "crawlers", ".", "In", "WWW", ",", "pages", "124", "135", ",", "2002", ".", "-LSB-", "11", "-RSB-", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "and", "L.", "Page", ".", "Efficient", "crawling", "through", "url", "ordering", ".", "Computer", "Networks", ",", "30", "-LRB-", "1-7", "-RRB-", ":", "161", "172", ",", "1998", ".", "-LSB-", "12", "-RSB-", "C.", "Chung", "and", "C.", "L.", "A.", "Clarke", ".", "Topic-oriented", "collaborative", "crawling", ".", "In", "CIKM", ",", "pages", "34", "42", ",", "2002", ".", "-LSB-", "13", "-RSB-", "B.", "D.", "Davison", ".", "Topical", "locality", "in", "the", "web", ".", "In", "SIGIR", ",", "pages", "272", "279", ",", "2000", ".", "-LSB-", "14", "-RSB-", "M.", "Diligenti", ",", "F.", "Coetzee", ",", "S.", "Lawrence", ",", "C.", "L.", "Giles", ",", "and", "M.", "Gori", ".", "Focused", "crawling", "using", "context", "graphs", ".", "In", "VLDB", ",", "pages", "527", "534", ",", "2000", ".", "-LSB-", "15", "-RSB-", "J.", "Ding", ",", "L.", "Gravano", ",", "and", "N.", "Shivakumar", ".", "Computing", "geographical", "scopes", "of", "web", "resources", ".", "In", "VLDB", ",", "pages", "545", "556", ",", "2000", ".", "-LSB-", "16", "-RSB-", "J.", "Edwards", ",", "K.", "S.", "McCurley", ",", "and", "J.", "A.", "Tomlin", ".", "An", "adaptive", "model", "for", "optimizing", "performance", "of", "an", "incremental", "web", "crawler", ".", "In", "WWW", ",", "pages", "106", "113", ",", "2001", ".", "-LSB-", "17", "-RSB-", "J.", "Exposto", ",", "J.", "Macedo", ",", "A.", "Pina", ",", "A.", "Alves", ",", "and", "J.", "Rufino", ".", "Geographical", "partition", "for", "distributed", "web", "crawling", ".", "In", "GIR", ",", "pages", "55", "60", ",", "2005", ".", "-LSB-", "18", "-RSB-", "L.", "Gravano", ",", "V.", "Hatzivassiloglou", ",", "and", "R.", "Lichtenstein", ".", "Categorizing", "web", "queries", "according", "to", "geographical", "locality", ".", "In", "CIKM", ",", "pages", "325", "333", ",", "2003", ".", "-LSB-", "19", "-RSB-", "A.", "Heydon", "and", "M.", "Najork", ".", "Mercator", ":", "A", "scalable", ",", "extensible", "web", "crawler", ".", "World", "Wide", "Web", ",", "2", "-LRB-", "4", "-RRB-", ":", "219", "229", ",", "1999", ".", "-LSB-", "20", "-RSB-", "J.", "M.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "J.", "ACM", ",", "46", "-LRB-", "5", "-RRB-", ":", "604", "632", ",", "1999", ".", "-LSB-", "21", "-RSB-", "H.", "C.", "Lee", "and", "R.", "Miller", ".", "Bringing", "geographical", "order", "to", "the", "web", ".", "private", "communication", ",", "2005", ".", "-LSB-", "22", "-RSB-", "A.", "Markowetz", ",", "Y.-Y", ".", "Chen", ",", "T.", "Suel", ",", "X.", "Long", ",", "and", "B.", "Seeger", ".", "Design", "and", "implementation", "of", "a", "geographic", "search", "engine", ".", "In", "WebDB", ",", "pages", "19", "24", ",", "2005", ".", "-LSB-", "23", "-RSB-", "A.", "McCallum", ",", "K.", "Nigam", ",", "J.", "Rennie", ",", "and", "K.", "Seymore", ".", "A", "machine", "learning", "approach", "to", "building", "domain-specific", "search", "engines", ".", "In", "IJCAI", ",", "pages", "662", "667", ",", "1999", ".", "-LSB-", "24", "-RSB-", "F.", "Menczer", ",", "G.", "Pant", ",", "P.", "Srinivasan", ",", "and", "M.", "E.", "Ruiz", ".", "Evaluating", "topic-driven", "web", "crawlers", ".", "In", "SIGIR", ",", "pages", "241", "249", ",", "2001", ".", "-LSB-", "25", "-RSB-", "T.", "Mitchell", ".", "Machine", "Learning", ".", "McGraw", "Hill", ",", "1997", ".", "296"], "doc_bio_tags": ["O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["extracted url", "collaborative crawler", "crawling strategies", "normalization and disambiguation of city names", "geographic entities", "ip address based", "geographic locality", "evaluation criteria", "anchor text", "focused crawler", "hash based collaboration", "search localization", "pattern matching", "search engine", "problems of aliasing and ambiguity", "geographically focused crawling", "full content based", "quality issue", "collaborative crawling", "scalability", "url based"], "abstractive_keyphrases": ["geographical nodes", "geo-focus", "geo-coverage"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "98", "document": ["Graalbench", ":", "A", "3D", "Graphics", "Benchmark", "Suite", "For", "Mobile", "Phones", "In", "this", "paper", "we", "consider", "implementations", "of", "embedded", "3D", "graphics", "and", "provide", "evidence", "indicating", "that", "3D", "benchmarks", "employed", "for", "desktop", "computers", "are", "not", "suitable", "for", "mobile", "environments", ".", "Consequently", ",", "we", "present", "GraalBench", ",", "a", "set", "of", "3D", "graphics", "workloads", "representative", "for", "contemporary", "and", "emerging", "mobile", "devices", ".", "In", "addition", ",", "we", "present", "detailed", "simulation", "results", "for", "a", "typical", "rasterization", "pipeline", ".", "The", "results", "show", "that", "the", "proposed", "benchmarks", "use", "only", "a", "part", "of", "the", "resources", "offered", "by", "current", "3D", "graphics", "libraries", ".", "For", "instance", ",", "while", "each", "benchmark", "uses", "the", "texturing", "unit", "for", "more", "than", "70", "%", "of", "the", "generated", "fragments", ",", "the", "alpha", "unit", "is", "employed", "for", "less", "than", "13", "%", "of", "the", "fragments", ".", "The", "Fog", "unit", "was", "used", "for", "84", "%", "of", "the", "fragments", "by", "one", "benchmark", ",", "but", "the", "other", "benchmarks", "did", "not", "use", "it", "at", "all", ".", "Our", "experiments", "on", "the", "proposed", "suite", "suggest", "that", "the", "texturing", ",", "depth", "and", "blending", "units", "should", "be", "implemented", "in", "hardware", ",", "while", ",", "for", "instance", ",", "the", "dithering", "unit", "may", "be", "omitted", "from", "a", "hardware", "implementation", ".", "Finally", ",", "we", "discuss", "the", "architectural", "implications", "of", "the", "obtained", "results", "for", "hardware", "implementations", ".", "C.", "3", "-LSB-", "Special-Purpose", "and", "Application-Based", "Systems", "-RSB-", ":", "Real-time", "and", "embedded", "systems", "Performance", ",", "Measurement", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "LCTES", "'", "04", ",", "June", "11", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-806-7", "/", "04/0006", "...", "$", "5.00", ".", "In", "recent", "years", ",", "mobile", "computing", "devices", "have", "been", "used", "for", "a", "broader", "spectrum", "of", "applications", "than", "mobile", "telephony", "or", "personal", "digital", "assistance", ".", "Several", "companies", "expect", "that", "3D", "graphics", "applications", "will", "become", "an", "important", "workload", "of", "wireless", "devices", ".", "For", "example", ",", "according", "to", "-LSB-", "10", "-RSB-", ",", "the", "number", "of", "users", "of", "interactive", "3D", "graphics", "applications", "-LRB-", "in", "particular", "games", "-RRB-", "is", "expected", "to", "increase", "drastically", "in", "the", "future", ":", "it", "is", "predicted", "that", "the", "global", "wireless", "games", "market", "will", "grow", "to", "4", "billion", "dollars", "in", "2006", ".", "Because", "current", "wireless", "devices", "do", "not", "have", "sufficient", "computational", "power", "to", "support", "3D", "graphics", "in", "real", "time", "and", "because", "present", "accelerators", "consume", "too", "much", "power", ",", "several", "companies", "and", "universities", "have", "started", "to", "develop", "a", "low-power", "3D", "graphics", "accelerator", ".", "However", ",", "to", "the", "best", "of", "our", "knowledge", ",", "there", "is", "no", "publicly", "available", "benchmark", "suite", "that", "can", "be", "used", "to", "guide", "the", "architectural", "exploration", "of", "such", "devices", ".", "This", "paper", "presents", "GraalBench", ",", "a", "3D", "graphics", "benchmark", "suite", "suitable", "for", "3D", "graphics", "on", "low-power", ",", "mobile", "systems", ",", "in", "particular", "mobile", "phones", ".", "These", "benchmarks", "were", "collected", "to", "facilitate", "our", "studies", "on", "low-power", "3D", "graphics", "accelerators", "in", "the", "Graal", "-LRB-", "GRAphics", "AcceLerator", "-RRB-", "project", "-LSB-", "5", "-RSB-", ".", "It", "includes", "several", "games", "as", "well", "as", "virtual", "reality", "applications", "such", "as", "3D", "museum", "guides", ".", "Applications", "were", "selected", "on", "the", "basis", "of", "several", "criteria", ".", "For", "example", ",", "CAD/CAM", "applications", ",", "such", "as", "contained", "in", "the", "Viewperf", "package", "-LSB-", "18", "-RSB-", ",", "were", "excluded", "because", "it", "is", "unlikely", "that", "they", "will", "be", "offered", "on", "mobile", "devices", ".", "Other", "characteristics", "we", "considered", "are", "resolution", "and", "polygon", "count", ".", "A", "second", "goal", "of", "this", "paper", "is", "to", "provide", "a", "detailed", "quantitative", "workload", "characterization", "of", "the", "collected", "benchmarks", ".", "For", "each", "rasterization", "unit", ",", "we", "determine", "if", "it", "is", "used", "by", "the", "benchmark", ",", "and", "collect", "several", "statistics", "such", "as", "the", "number", "of", "fragments", "that", "bypass", "the", "unit", ",", "fragments", "that", "are", "processed", "by", "the", "unit", "and", "pass", "the", "test", ",", "and", "fragments", "that", "are", "processed", "but", "fail", "the", "test", ".", "Such", "statistics", "can", "be", "used", "to", "guide", "the", "development", "of", "mobile", "3D", "graphics", "1", "architectures", ".", "For", "example", ",", "a", "unit", "that", "is", "rarely", "used", "might", "not", "be", "supported", "by", "a", "low-power", "accelerator", "or", "it", "might", "be", "implemented", "using", "less", "resources", ".", "Furthermore", ",", "if", "many", "fragments", "are", "discarded", "before", "the", "final", "tests", ",", "the", "pixel", "pipeline", "of", "the", "last", "stages", "might", "be", "narrower", "than", "the", "width", "of", "earlier", "stages", ".", "This", "paper", "is", "organized", "as", "follows", ".", "Previous", "work", "on", "3D", "graphics", "benchmarking", "is", "described", "in", "Section", "2", ".", "In", "this", "section", "we", "also", "give", "reasons", "why", "current", "3D", "graphics", "benchmarks", "are", "not", "appropriate", "for", "mobile", "environments", ".", "Section", "3", "first", "explains", "how", "the", "benchmarks", "were", "obtained", ",", "describes", "our", "tracing", "environment", ",", "the", "simulator", "we", "used", "to", "collect", "the", "statistics", "and", ",", "after", "that", ",", "describes", "the", "components", "of", "the", "proposed", "benchmark", "suite", "and", "presents", "some", "general", "characteristics", "of", "the", "workloads", ".", "Section", "4", "provides", "a", "workload", "characterization", "of", "the", "benchmarks", "and", "discusses", "architectural", "implications", ".", "Conclusions", "and", "directions", "for", "future", "work", "are", "given", "in", "Section", "5", ".", "To", "the", "best", "of", "our", "knowledge", ",", "3D", "graphics", "benchmarks", "specifi-cally", "targeted", "at", "low-power", "architectures", "have", "not", "been", "proposed", ".", "Furthermore", ",", "existing", "benchmarks", "can", "not", "be", "considered", "to", "be", "suited", "for", "embedded", "3D", "graphics", "architectures", ".", "For", "example", ",", "consider", "SPEC", "'s", "Viewperf", "-LSB-", "18", "-RSB-", ",", "a", "well-known", "benchmark", "suite", "used", "to", "evaluate", "3D", "graphics", "accelerator", "cards", "employed", "in", "desktop", "computers", ".", "These", "benchmarks", "are", "unsuitable", "for", "low-power", "graphics", "because", "of", "the", "following", ":", "The", "Viewperf", "benchmarks", "are", "designed", "for", "high-resolution", "output", "devices", ",", "but", "the", "displays", "of", "current", "wireless", "systems", "have", "a", "limited", "resolution", ".", "Specifically", ",", "by", "default", "the", "Viewperf", "package", "is", "running", "at", "resolutions", "above", "SVGA", "-LRB-", "800", "600", "pixels", "-RRB-", ",", "while", "common", "display", "resolutions", "for", "mobile", "phones", "are", "QCIF", "-LRB-", "176", "144", "-RRB-", "and", "QVGA", "-LRB-", "320", "240", "-RRB-", ".", "The", "Viewperf", "benchmarks", "use", "a", "large", "number", "of", "polygons", "in", "order", "to", "obtain", "high", "picture", "quality", "-LRB-", "most", "benchmarks", "have", "more", "than", "20,000", "triangles", "per", "frame", "-LSB-", "11", "-RSB-", "-RRB-", ".", "Translated", "to", "a", "mobile", "platform", ",", "most", "rendered", "polygons", "will", "be", "smaller", "than", "one", "pixel", "so", "their", "contribution", "to", "the", "generated", "images", "will", "be", "small", "or", "even", "invisible", ".", "Specifically", ",", "the", "polygon", "count", "of", "the", "Viewperf", "benchmarks", "DRV", ",", "DX", ",", "ProCDRS", ",", "and", "MedMCAD", "is", "too", "high", "for", "mobile", "devices", ".", "Some", "benchmarks", "of", "Viewperf", "are", "CAD/CAM", "applications", "and", "use", "wire-frame", "rendering", "modes", ".", "It", "is", "unlikely", "that", "such", "applications", "will", "be", "offered", "on", "mobile", "platforms", ".", "Except", "Viewperf", ",", "there", "are", "no", "publicly-available", ",", "portable", "3D", "graphics", "benchmark", "suites", ".", "Although", "there", "are", "several", "benchmarking", "suites", "-LSB-", "3", ",", "4", "-RSB-", "based", "on", "the", "DirectX", "API", ",", "they", "are", "not", "suitable", "for", "our", "study", "since", "DirectX", "implementations", "are", "available", "only", "on", "Windows", "systems", ".", "There", "have", "been", "several", "studies", "related", "to", "3D", "graphics", "workload", "characterization", "-LRB-", "e.g.", ",", "-LSB-", "11", ",", "6", "-RSB-", "-RRB-", ".", "Most", "related", "to", "our", "investigation", "is", "the", "study", "of", "Mitra", "and", "Chiueh", "-LSB-", "11", "-RSB-", ",", "since", "they", "also", "considered", "dynamic", ",", "polygonal", "3D", "graphics", "workloads", ".", "Dynamic", "means", "that", "the", "workloads", "consist", "of", "several", "consecutive", "image", "frames", "rather", "than", "individual", "images", ",", "which", "allows", "to", "study", "techniques", "that", "exploit", "the", "coherence", "between", "consecutive", "frames", ".", "Polygonal", "means", "that", "the", "basic", "primitives", "are", "polygons", ",", "which", "are", "supported", "by", "all", "existing", "3D", "chips", ".", "The", "main", "differences", "between", "that", "study", "and", "our", "workload", "characterization", "are", "that", "Mitra", "and", "Chiueh", "considered", "high-end", "applications", "-LRB-", "Viewperf", ",", "among", "others", "-RRB-", "and", "measured", "different", "statistics", ".", "Recently", ",", "a", "number", "of", "mobile", "3D", "graphics", "accelerators", "-LSB-", "1", ",", "16", "-RSB-", "have", "been", "presented", ".", "In", "both", "works", "particular", "benchmarks", "were", "employed", "to", "evaluate", "the", "accelerators", ".", "However", ",", "little", "information", "is", "provided", "about", "the", "benchmarks", "and", "they", "have", "not", "been", "made", "publicly", "available", ".", "Another", "reason", "for", "the", "limited", "availability", "of", "mobile", "3D", "graphics", "benchmarks", "is", "that", "until", "recently", "there", "was", "no", "generally", "accepted", "API", "for", "3D", "graphics", "on", "mobile", "phones", ".", "Recently", ",", "due", "to", "high", "interest", "in", "embedded", "3D", "graphics", ",", "APIs", "suitable", "for", "mobile", "3D", "graphics", "such", "as", "OpenGL", "ES", "-LSB-", "8", "-RSB-", ",", "Java", "mobile", "3D", "Graphics", "API", "-LRB-", "JSR-184", "-RRB-", "-LSB-", "7", "-RSB-", ",", "and", "Mobile", "GL", "-LSB-", "20", "-RSB-", "have", "appeared", ".", "Currently", ",", "however", ",", "there", "are", "no", "3D", "benchmarks", "written", "using", "these", "APIs", ".", "So", ",", "we", "have", "used", "OpenGL", "applications", ".", "Furthermore", ",", "our", "benchmarks", "use", "only", "a", "part", "of", "the", "OpenGL", "functionality", "which", "is", "also", "supported", "by", "OpenGL", "ES", ".", "In", "this", "section", "we", "describe", "the", "environment", "we", "used", "to", "create", "the", "benchmarks", ",", "the", "components", "of", "our", "benchmark", "set", "and", "also", "some", "general", "characteristics", "of", "the", "workloads", ".", "3.1", "Tracing", "Environment", "Due", "to", "their", "interactive", "nature", ",", "3D", "games", "are", "generally", "not", "repeatable", ".", "In", "order", "to", "obtain", "a", "set", "of", "repeatable", "workloads", ",", "we", "traced", "existing", "applications", "logging", "all", "OpenGL", "calls", ".", "Our", "tracing", "environment", "consists", "of", "two", "components", ":", "a", "tracer", "and", "a", "trace", "player", ".", "Our", "tracer", "is", "based", "on", "GLtrace", "from", "Hawksoft", "-LSB-", "15", "-RSB-", ".", "It", "intercepts", "and", "logs", "OpenGL", "calls", "made", "by", "a", "running", "application", ",", "and", "then", "calls", "the", "OpenGL", "function", "invoked", "by", "the", "application", ".", "No", "source", "code", "is", "required", "provided", "the", "application", "links", "dynamically", "with", "the", "OpenGL", "library", ",", "meaning", "that", "the", "executable", "only", "holds", "links", "to", "the", "required", "functions", "which", "are", "bounded", "to", "the", "corresponding", "functions", "at", "run-time", ".", "Statically", "linked", "applications", ",", "in", "which", "case", "the", "required", "libraries", "are", "encapsulated", "in", "the", "executable", "image", ",", "can", "not", "be", "traced", "using", "this", "mechanism", "when", "the", "source", "code", "is", "not", "available", ".", "We", "improved", "GLtrace", "in", "two", "ways", ".", "First", ",", "GLtrace", "does", "not", "log", "completely", "reproducible", "OpenGL", "calls", "-LRB-", "for", "example", ",", "textures", "are", "not", "logged", "-RRB-", ".", "We", "modified", "the", "GLtrace", "library", "so", "that", "all", "OpenGL", "calls", "are", "completely", "reproducible", ".", "Second", ",", "the", "trace", "produced", "by", "GLtrace", "is", "a", "text", "trace", ",", "which", "is", "rather", "slow", ".", "We", "improved", "its", "performance", "by", "adding", "a", "binary", "logging", "mode", "that", "significantly", "reduces", "the", "tracing", "overhead", ".", "In", "addition", ",", "we", "developed", "a", "trace", "player", "that", "plays", "the", "obtained", "traces", ".", "It", "can", "play", "recorded", "frames", "as", "fast", "as", "the", "OpenGL", "implementation", "allows", ".", "It", "does", "not", "skip", "any", "frame", "so", "the", "workload", "generated", "is", "always", "the", "same", ".", "The", "workload", "statistics", "were", "collected", "using", "our", "own", "OpenGL", "simulator", "based", "on", "Mesa", "-LSB-", "14", "-RSB-", ",", "which", "is", "a", "public-domain", "implementation", "of", "OpenGL", ".", "3.2", "The", "Benchmarks", "The", "proposed", "benchmark", "suite", "consists", "of", "the", "following", "components", ":", "Q3L", "and", "Q3H", "Quake", "III", "-LSB-", "9", "-RSB-", "or", "Q3", ",", "for", "short", ",", "is", "a", "popular", "interactive", "3D", "game", "belonging", "to", "the", "shooter", "games", "category", ".", "A", "screenshot", "of", "this", "game", "is", "depicted", "in", "Figure", "1", "-LRB-", "a", "-RRB-", ".", "Even", "though", "it", "can", "be", "considered", "outdated", "for", "contemporary", "PC-class", "graphics", "accelerators", ",", "it", "is", "an", "appropriate", "and", "demanding", "application", "for", "low-power", "devices", ".", "Q3", "has", "a", "flexible", "design", "and", "permits", "many", "settings", "to", "be", "changed", "such", "as", "image", "size", "and", "depth", ",", "texture", "quality", ",", "geometry", "detail", ",", "types", "of", "texture", "filtering", ",", "etc.", ".", "We", "used", "two", "profiles", "for", "this", "workload", "in", "2", "-LRB-", "a", "-RRB-", "Q3", "-LRB-", "b", "-RRB-", "Tux", "-LRB-", "c", "-RRB-", "AW", "-LRB-", "d", "-RRB-", "ANL", "-LRB-", "e", "-RRB-", "GRA", "-LRB-", "f", "-RRB-", "DIN", "Figure", "1", ":", "Screenshots", "of", "the", "GraalBench", "workloads", "order", "to", "determine", "the", "implications", "of", "different", "image", "sizes", "and", "object", "complexity", ".", "The", "first", "profile", ",", "which", "will", "be", "re-ferred", "to", "as", "Q3H", ",", "uses", "a", "relatively", "high", "image", "resolution", "and", "objects", "detail", ".", "The", "second", "profile", ",", "Q3L", ",", "employs", "a", "low", "resolution", "and", "objects", "detail", ".", "Q3", "makes", "extensive", "use", "of", "blending", "operations", "in", "order", "to", "implement", "multiple", "texture", "passes", ".", "Tux", "Racer", "-LRB-", "Tux", "-RRB-", "-LSB-", "19", "-RSB-", "This", "is", "a", "freely", "available", "game", "that", "runs", "on", "Linux", ".", "The", "goal", "of", "this", "game", "is", "to", "drive", "a", "penguin", "down", "a", "mountain", "terrain", "as", "quickly", "as", "possible", ",", "while", "collecting", "herring", ".", "The", "image", "quality", "is", "higher", "than", "that", "of", "Q3", ".", "Tux", "makes", "extensive", "use", "of", "automatic", "texture", "coordinate", "generation", "functions", ".", "A", "screenshot", "can", "be", "seen", "in", "Figure", "1", "-LRB-", "b", "-RRB-", ".", "AWadvs-04", "-LRB-", "AW", "-RRB-", "-LSB-", "18", "-RSB-", "This", "test", "is", "part", "of", "the", "Viewperf", "6.1.2", "package", ".", "In", "this", "test", "a", "fully", "textured", "human", "model", "is", "viewed", "from", "different", "angles", "and", "distances", ".", "As", "remarked", "before", ",", "the", "other", "test", "in", "the", "Viewperf", "package", "are", "not", "suitable", "for", "low-power", "accelerators", ",", "because", "they", "represent", "high-end", "applications", "or", "are", "from", "an", "application", "domain", "not", "likely", "to", "be", "offered", "on", "mobile", "platforms", ".", "A", "screenshot", "of", "AW", "is", "depicted", "in", "Figure", "1", "-LRB-", "c", "-RRB-", ".", "ANL", ",", "GRA", ",", "and", "DIN", "These", "three", "VRML", "scenes", "were", "chosen", "based", "on", "their", "diversity", "and", "complexity", ".", "ANL", "is", "a", "virtual", "model", "of", "Austrian", "National", "Library", "and", "consists", "of", "10292", "polygons", ",", "GRA", "is", "a", "model", "of", "Graz", "University", "of", "Technology", ",", "Austria", "and", "consists", "of", "8859", "polygons", ",", "and", "Dino", "-LRB-", "DIN", "-RRB-", "is", "a", "model", "of", "a", "dinosaur", "consisting", "of", "4300", "polygons", ".", "In", "order", "to", "obtain", "a", "workload", "similar", "to", "one", "that", "might", "be", "generated", "by", "a", "typical", "user", ",", "we", "created", "``", "fly-by", "''", "scenes", ".", "Initially", ",", "we", "used", "VR-Web", "-LSB-", "13", "-RSB-", "to", "navigate", "through", "the", "scenes", ",", "but", "we", "found", "that", "the", "VRMLView", "-LSB-", "12", "-RSB-", "navigator", "produces", "less", "texture", "traffic", "because", "it", "uses", "the", "glBindTexture", "mechanism", ".", "Screenshots", "of", "ANL", ",", "GRA", ",", "and", "DIN", "are", "depicted", "in", "Figure", "1", "-LRB-", "d", "-RRB-", ",", "-LRB-", "e", "-RRB-", ",", "and", "-LRB-", "f", "-RRB-", ",", "respectively", ".", "GraalBench", "is", "the", "result", "of", "extensive", "searching", "on", "the", "World", "Wide", "Web", ".", "The", "applications", "were", "selected", "on", "the", "basis", "of", "several", "criteria", ".", "First", ",", "since", "the", "display", "resolution", "of", "contemporary", "mobile", "phones", "is", "at", "most", "320", "240", ",", "we", "excluded", "applications", "with", "substantially", "higher", "resolution", ".", "Specifically", ",", "we", "used", "a", "maximum", "resolution", "of", "640", "480", ".", "Second", ",", "the", "applications", "should", "be", "relevant", "for", "a", "mobile", "phone", ",", "i.e.", ",", "it", "should", "be", "likely", "that", "it", "will", "be", "offered", "on", "a", "mobile", "phone", ".", "CAD/CAM", "applications", "were", "excluded", "for", "this", "reason", ".", "Third", ",", "the", "level", "of", "details", "of", "the", "applications", "should", "not", "be", "too", "high", ",", "because", "otherwise", ",", "most", "rendered", "polygons", "will", "be", "smaller", "than", "one", "pixel", "on", "the", "display", "of", "a", "mobile", "phone", ".", "Fourth", ",", "and", "finally", ",", "the", "benchmarks", "should", "have", "different", "characteristics", ".", "For", "example", ",", "several", "links", "to", "3D", "games", "have", "recently", "been", "provided", "on", "Mesa", "'s", "website", "-LRB-", "www.mesa3d.org", "-RRB-", ".", "However", ",", "these", "games", "such", "as", "Doom", ",", "Heretic", ",", "and", "Quake", "II", "belong", "to", "the", "same", "category", "as", "Quake", "III", "and", "Tux", "Racer", ",", "and", "therefore", "do", "not", "represent", "benchmarks", "with", "substantially", "different", "characteristics", ".", "We", ",", "therefore", ",", "decided", "not", "to", "include", "them", ".", "Applications", "using", "the", "latest", "technologies", "-LRB-", "Vertex", "and", "Pixel", "Sha-ders", "-RRB-", "available", "on", "desktop", "3D", "graphics", "accelerators", "were", "also", "not", "included", "since", "these", "technologies", "are", "not", "supported", "by", "the", "embedded", "3D", "graphics", "APIs", "mentioned", "in", "Section", "2", ".", "We", "expect", "that", "more", "3D", "graphics", "applications", "for", "low-power", "mobile", "devices", "will", "appear", "when", "accelerators", "for", "these", "platforms", "will", "be", "introduced", ".", "3", "3.3", "General", "Characteristics", "Table", "1", "present", "some", "general", "statistics", "of", "the", "workloads", ".", "The", "characteristics", "and", "statistics", "presented", "in", "this", "table", "are", ":", "Image", "resolution", "Currently", ",", "low-power", "accelerator", "should", "be", "able", "to", "handle", "scenes", "with", "a", "typical", "resolution", "of", "320", "240", "pixels", ".", "Since", "in", "the", "near", "future", "the", "typical", "resolution", "is", "expected", "to", "increase", "we", "decided", "to", "use", "a", "resolution", "of", "640", "480", ".", "The", "Q3L", "benchmark", "uses", "a", "lower", "resolution", "-LRB-", "320", "240", "-RRB-", "in", "order", "to", "study", "the", "impact", "of", "changing", "the", "resolution", ".", "Frames", "The", "total", "number", "of", "frames", "in", "each", "test", ".", "Avg", ".", "triangles", "The", "average", "number", "of", "triangles", "sent", "to", "the", "rasterizer", "per", "frame", ".", "Avg", ".", "processed", "triangles", "The", "average", "number", "of", "triangles", "per", "frame", "that", "remained", "after", "backface", "culling", ",", "i.e.", ",", "the", "triangles", "that", "remained", "after", "eliminating", "the", "triangles", "that", "are", "invisible", "because", "they", "are", "facing", "backwards", "from", "the", "observer", "'s", "viewpoint", ".", "Avg", ".", "area", "The", "average", "number", ",", "per", "frame", ",", "of", "fragments/pixels", "after", "scan", "conversion", ".", "Texture", "size", "The", "total", "size", "of", "all", "textures", "per", "workload", ".", "This", "quantity", "gives", "an", "indication", "of", "the", "amount", "of", "texture", "memory", "required", ".", "Maximum", "triangles", "The", "maximum", "number", "of", "triangles", "that", "were", "sent", "for", "one", "frame", ".", "Because", "most", "3D", "graphics", "accelerators", "implement", "only", "rasterization", ",", "this", "statistic", "is", "an", "approximation", "of", "the", "bandwidth", "required", "for", "geometry", "information", ",", "since", "triangles", "need", "to", "be", "transferred", "from", "the", "CPU", "to", "the", "accelerator", "via", "a", "system", "bus", ".", "We", "assume", "that", "triangles", "are", "represented", "individually", ".", "Sharing", "vertices", "between", "adjacent", "triangles", "allows", "to", "reduce", "the", "bus", "bandwidth", "required", ".", "This", "quantity", "also", "determines", "the", "throughput", "required", "in", "order", "to", "achieve", "real-time", "frame", "rates", ".", "We", "remark", "that", "the", "maximum", "number", "rather", "than", "the", "average", "number", "of", "triangles", "per", "frame", "determines", "the", "required", "bandwidth", "and", "throughput", ".", "Maximum", "processed", "triangles", "per", "frame", "The", "maximum", "number", "of", "triangles", "that", "remained", "after", "backface", "culling", "over", "all", "frames", ".", "Maximum", "area", "per", "frame", "The", "maximum", "number", "of", "fragments", "after", "scan", "conversion", ",", "over", "all", "frames", ".", "Several", "observations", "can", "be", "drawn", "from", "Table", "1", ".", "First", ",", "it", "can", "be", "observed", "from", "the", "columns", "labeled", "``", "Received", "triangles", "''", "that", "the", "scenes", "generated", "by", "Tux", "and", "Dino", "have", "a", "relatively", "low", "complexity", ",", "that", "Q3", ",", "ANL", ",", "and", "Graz", "consist", "of", "medium", "complexity", "scenes", ",", "and", "that", "AW", "produces", "the", "most", "complex", "scenes", "by", "far", ".", "Second", ",", "backface", "culling", "is", "effective", "in", "eliminating", "invisible", "triangles", ".", "It", "eliminates", "approximately", "30", "%", "of", "all", "triangles", "in", "the", "Q3", "benchmarks", ",", "24", "%", "in", "Graz", ",", "and", "more", "than", "half", "-LRB-", "55", "%", "-RRB-", "of", "all", "triangles", "in", "AW", ".", "Backface", "culling", "is", "not", "enabled", "in", "the", "ANL", "and", "Dino", "workloads", ".", "If", "we", "consider", "the", "largest", "number", "of", "triangles", "remaining", "after", "backface", "culling", "-LRB-", "14236", "for", "ANL", "-RRB-", "and", "assume", "that", "each", "triangle", "is", "represented", "individually", "and", "requires", "28", "bytes", "-LRB-", "xyz", "coordinates", ",", "4", "bytes", "each", ",", "rgb", "for", "color", "and", "alpha", "for", "transparency", ",", "1", "byte", "each", ",", "and", "uvw", "texture", "coordinates", ",", "4", "bytes", "each", "-RRB-", "for", "each", "of", "its", "vertices", ",", "the", "required", "bus", "bandwidth", "is", "approximately", "1.2", "MB/frame", "or", "35.9", "MB/s", "to", "render", "30", "frames", "per", "second", ".", "Finally", ",", "we", "remark", "that", "the", "largest", "amount", "of", "texture", "memory", "is", "required", "by", "the", "Q3", "and", "Tux", "benchmarks", ",", "and", "that", "the", "other", "benchmarks", "require", "a", "relatively", "small", "amount", "of", "texture", "memory", ".", "Table", "2", ":", "Stress", "variation", "and", "stress", "strength", "on", "various", "stages", "of", "the", "3D", "graphics", "pipeline", "Bench", ".", "T&L", "Rasterization", "Var", ".", "Str", ".", "Var", ".", "Str", ".", "Q3L", "med", "med", "med", "med", "Q3H", "med", "med", "med", "high", "Tux", "var", "low", "low", "med", "AW", "low", "high", "high", "low", "ANL", "high", "med", "med", "med", "GRA", "high", "med", "med", "low", "DIN", "low", "med", "med", "low", "This", "section", "provides", "the", "detailed", "analysis", "of", "results", "we", "obtained", "by", "running", "the", "proposed", "benchmark", "set", ".", "For", "each", "unit", "of", "a", "typical", "rasterization", "pipeline", "we", "present", "the", "relevant", "characteristics", "followed", "by", "the", "architectural", "implications", ".", "4.1", "Detailed", "Workload", "Statistics", "One", "important", "aspect", "for", "3D", "graphics", "benchmarking", "is", "to", "determine", "possible", "bottlenecks", "in", "a", "3D", "graphics", "environment", "since", "the", "3D", "graphics", "environment", "has", "a", "pipeline", "structure", "and", "different", "parts", "of", "the", "pipeline", "can", "be", "implemented", "on", "separate", "computing", "resources", "such", "as", "general", "purpose", "processors", "or", "graphics", "accelerators", ".", "Balancing", "the", "load", "on", "the", "resources", "is", "an", "important", "decision", ".", "Bottlenecks", "in", "the", "transform", "&", "lighting", "-LRB-", "T&L", "-RRB-", "part", "of", "the", "pipeline", "can", "be", "generated", "by", "applications", "that", "have", "a", "large", "number", "of", "primitives", ",", "i.e.", "substantial", "geometry", "computation", "load", ",", "where", "each", "primitive", "has", "a", "small", "size", ",", "i.e.", "reduced", "impact", "on", "the", "rasterization", "part", "of", "the", "pipeline", ",", "while", "bottlenecks", "in", "the", "rasterization", "part", "are", "usu-ally", "generated", "by", "fill", "intensive", "applications", "that", "are", "using", "a", "small", "number", "of", "primitives", "where", "each", "primitive", "covers", "a", "substantial", "part", "of", "the", "scene", ".", "An", "easy", "way", "to", "determine", "if", "an", "application", "is", "for", "instance", "rasterization", "intensive", "is", "to", "remove", "the", "rasterization", "part", "from", "the", "graphics", "pipeline", "and", "determine", "the", "speed", "up", ".", "The", "components", "of", "the", "GraalBench", "were", "also", "chosen", "to", "stress", "various", "parts", "of", "the", "pipeline", ".", "For", "instance", "the", "AW", "and", "DIN", "components", "generate", "an", "almost", "constant", "number", "of", "primitives", "while", "the", "generated", "area", "varies", "substantially", "across", "frames", ",", "thus", "in", "these", "scenarios", "the", "T&L", "part", "of", "the", "pipeline", "has", "a", "virtually", "constant", "load", "while", "the", "rasterization", "part", "has", "a", "variable", "load", ".", "This", "behavior", ",", "depicted", "in", "Figure", "4", "-LRB-", "c", ",", "d", ",", "g", ",", "h", "-RRB-", ",", "can", "emphasize", "the", "role", "of", "the", "rasterization", "part", "of", "the", "pipeline", ".", "The", "number", "of", "triangles", "received", "gives", "an", "indication", "of", "the", "triangles", "that", "have", "to", "be", "transformed", "and", "lit", ",", "while", "the", "number", "of", "triangles", "processed", "gives", "an", "indication", "of", "the", "triangles", "that", "were", "sent", "to", "the", "rasterization", "stage", "after", "clipping", "and", "culling", ".", "Other", "components", ",", "e.g.", "Tux", ",", "generate", "a", "variable", "number", "of", "triangles", "while", "the", "generated", "area", "is", "almost", "constant", ",", "thus", "they", "can", "be", "used", "to", "profile", "bottlenecks", "in", "the", "T&L", "part", "of", "the", "graphics", "pipeline", ".", "Another", "important", "aspect", "beside", "the", "variation", "of", "the", "workload", "for", "a", "certain", "pipeline", "stage", "is", "also", "the", "stress", "strength", "of", "the", "various", "workload", ".", "For", "convenience", ",", "in", "Table", "2", "is", "also", "presented", "a", "rough", "view", "of", "the", "stress", "variation", "and", "stress", "strength", "along", "the", "3D", "graphics", "pipeline", ".", "The", "stress", "variation", "represents", "how", "much", "varies", "a", "workload", "from", "one", "frame", "to", "another", ",", "while", "the", "stress", "strength", "represents", "the", "load", "generated", "by", "each", "workload", ".", "On", "the", "proposed", "benchmarks", "we", "determined", "that", ",", "for", "a", "software", "implementation", ",", "the", "most", "computationally", "intensive", "part", "of", "4", "Table", "1", ":", "General", "statistics", "of", "the", "benchmarks", "Bench", ".", "Resolution", "Frames", "Textures", "-LRB-", "MB", "-RRB-", "Received", "Triangles", "Avg", ".", "Max", ".", "Processed", "Triangles", "Avg", ".", "Max", ".", "Area", "Avg", ".", "Max", ".", "Q3L", "320", "240", "1,379", "12.84", "4.5", "k", "9.7", "k", "3.25", "k", "6.8", "k", "422k", "1,327", "k", "Q3H", "640", "480", "1,379", "12.84", "4.6", "k", "9.8", "k", "3.36", "k", "6.97", "k", "1,678", "k", "5,284", "k", "Tux", "640", "480", "1,363", "11.71", "3k", "4.8", "k", "1.8", "k", "2.97", "k", "760k", "1,224", "k", "AW", "640", "480", "603", "3.25", "23k", "25.7", "k", "10.55", "k", "13.94", "k", "63k", "307k", "ANL", "640", "480", "600", "1.8", "4.45", "k", "14.2", "k", "4.45", "k", "14.2", "k", "776k", "1,242", "k", "GRA", "640", "480", "599", "2.1", "4.9", "k", "10.8", "k", "3.6", "k", "6.9", "k", "245k", "325k", "DIN", "640", "480", "600", "1.7", "4.15", "k", "4.3", "k", "4.15", "k", "4.3", "k", "153k", "259k", "Blending", "Depth", "Test", "Alpha", "Test", "Scissor", "Test", "Stencil", "Test", "Pixel", "Ownership", "Dithering", "LogicOp", "Texture", "Unit", "Color", "Stencil", "Texturing", "Color", "Sum", "Edge", "Walk", "Span", "Interpolation", "Triangle", "Setup", "Texture", "Memory", "Memory", "Primitives", "sent", "fom", "the", "Transform", "&", "Lighting", "Stage", "Depth", "Fog", "Clear", "Figure", "2", ":", "Graphics", "pipeline", "for", "rasterization", ".", "the", "graphics", "pipeline", "is", "the", "rasterization", "part", ".", "This", "is", "the", "reason", "why", "only", "the", "rasterizer", "stage", "was", "additionally", "studied", ".", "The", "units", "for", "which", "we", "further", "gathered", "results", "are", "depicted", "in", "Figure", "2", "and", "described", "in", "the", "following", ":", "Triangle", "Setup", ",", "EdgeWalk", ",", "and", "Span", "Interpolation", ".", "These", "units", "convert", "primitives", "to", "fragments", ".", "We", "used", "the", "same", "algorithm", "as", "employed", "in", "the", "Mesa", "library", "rasterizer", ".", "We", "remark", "that", "the", "number", "of", "processed", "triangles", "in", "Table", "3", "is", "smaller", "than", "the", "number", "of", "processed", "triangles", "in", "Table", "1", "because", "some", "triangles", "were", "small", "and", "discarded", "using", "supplementary", "tests", ",", "such", "as", "a", "small", "triangle", "filter", ".", "The", "average", "number", "of", "processed", "triangles", "is", "the", "lowest", "for", "Tux", ",", "medium", "for", "Q3", "and", "VRML", "components", ",", "and", "substantially", "higher", "for", "AW", "considering", "that", "the", "number", "of", "triangles", "for", "the", "AW", "and", "VRML", "components", "were", "generated", "in", "approximatively", "half", "as", "many", "frames", "as", "the", "number", "of", "frames", "in", "Q3", "and", "Tux", ".", "The", "numbers", "of", "generated", "spans", "and", "fragments", "also", "give", "an", "indication", "of", "the", "processing", "power", "required", "at", "the", "EdgeWalk", "and", "Span", "Interpolation", "units", ".", "The", "AW", "benchmark", "generates", "on", "average", "only", "4", "spans", "per", "triangle", "and", "approximately", "2", "fragments", "per", "span", ".", "These", "results", "show", "that", "the", "benchmark", "that", "could", "create", "a", "pipeline", "bottleneck", "in", "these", "units", "is", "the", "AW", "benchmark", "since", "it", "has", "small", "triangles", "-LRB-", "small", "impact", "on", "the", "rest", "of", "the", "pipeline", "-RRB-", "and", "it", "has", "the", "largest", "number", "of", "triangles", "-LRB-", "that", "are", "processed", "at", "the", "Triangle", "Setup", "-RRB-", ".", "Clear", "Unit", ".", "The", "clear", "unit", "is", "used", "to", "fill", "the", "Depth", "buffer", "and/or", "the", "Color", "buffer", "with", "a", "default", "value", ".", "As", "can", "be", "seen", "in", "Table", "4", ",", "the", "Q3", "benchmark", "uses", "only", "depth", "buffer", "clearing", ",", "except", "for", "one", "initial", "color", "buffer", "clear", ".", "Q3", "exploits", "the", "observation", "that", "all", "pixels", "from", "a", "scene", "are", "going", "to", "be", "filled", "at", "least", "once", "so", "there", "is", "no", "need", "to", "clear", "the", "color", "buffer", ".", "The", "other", "benchmarks", "have", "an", "equal", "number", "of", "depth", "and", "color", "buffer", "clears", ".", "Although", "the", "clear", "function", "is", "called", "a", "relatively", "small", "number", "of", "times", ",", "the", "number", "of", "cleared", "pixels", "can", "be", "as", "high", "as", "20", "%", "of", "the", "pixels", "generated", "by", "the", "rasterizer", ".", "This", "implies", "that", "this", "unit", "should", "be", "optimized", "for", "long", "write", "burst", "to", "the", "graphics", "memory", ".", "Texture", "Unit", ".", "When", "enabled", ",", "this", "unit", "combines", "the", "color", "of", "the", "incoming", "fragment", "with", "a", "texture", "sample", "color", ".", "Depending", "on", "the", "texturing", "filter", "chosen", ",", "the", "texture", "color", "is", "obtained", "by", "a", "direct", "look-up", "in", "a", "texture", "map", "or", "by", "a", "linear", "interpolation", "between", "several", "colors", "-LRB-", "up", "to", "8", "colors", "in", "the", "case", "of", "trilinear", "interpolation", "-RRB-", ".", "The", "results", "obtained", "for", "the", "texture", "unit", "are", "depicted", "in", "Figure", "3", ".", "The", "Q3", "and", "VV", "benchmarks", "used", "the", "texture", "unit", "for", "all", "fragments", ",", "while", "the", "Tux", "and", "AW", "benchmarks", "used", "texturing", "for", "75", "%", "and", "90", "%", "of", "the", "fragments", "respectively", ".", "This", "unit", "is", "the", "most", "computationally", "intensive", "unit", "of", "a", "rasterizer", "and", "can", "easily", "become", "a", "pipeline", "bottleneck", ",", "thus", "it", "should", "be", "highly", "optimized", "for", "speed", ".", "Beside", "requiring", "high", "computational", "power", ",", "this", "unit", "also", "requires", "a", "large", "number", "of", "accesses", "to", "the", "texture", "memory", ".", "However", ",", "due", "to", "high", "spatial", "locality", ",", "even", "by", "adding", "a", "small", "texture", "cache", ",", "the", "traffic", "from", "the", "off-chip", "texture", "memory", "to", "the", "texture", "unit", "can", "be", "substantially", "reduced", "-LSB-", "2", "-RSB-", ".", "Fog", "Unit", ".", "The", "Fog", "unit", "is", "to", "used", "modify", "the", "fragment", "color", "in", "order", "to", "simulate", "atmospheric", "effects", "such", "as", "haze", ",", "mist", ",", "or", "smoke", ".", "Only", "the", "Tux", "benchmark", "uses", "the", "fog", "unit", "and", "it", "was", "enabled", "for", "84", "%", "of", "the", "fragments", ".", "From", "the", "three", "types", "of", "fog", "-LRB-", "linear", ",", "exponential", ",", "and", "squared", "exponential", "-RRB-", "only", "linear", "was", "used", ".", "The", "results", "suggest", "that", "for", "these", "low-end", "applications", "the", "fog", "unit", "is", "seldomly", "used", "and", "that", "it", "might", "be", "implemented", "using", "slower", "components", "or", "that", "this", "unit", "can", "be", "implemented", "off", "the", "critical", "path", ".", "5", "Table", "3", ":", "Triangle", "Setup", ",", "Edge", "Walk", ",", "and", "Span", "Interpolation", "units", "statistics", "Q3L", "Q3H", "Tux", "AW", "ANL", "GRA", "DIN", "Triangles", "processed", "4,147", "k", "4,430", "k", "2,425", "k", "5,537", "k", "2,528", "k", "1,992", "k", "2,487", "k", "Generated", "spans", "58,837", "k", "117,253", "k", "27,928", "k", "20,288", "k", "66,806", "k", "14,419", "k", "23,901", "k", "Generated", "fragments", "-LRB-", "frags", ".", "-RRB-", "581,887", "k", "2,306,487", "k", "1,037,222", "k", "38,044", "k", "466,344", "k", "146,604", "k", "91,824", "k", "Table", "4", ":", "Clear", "unit", "statistics", "Q3L", "Q3H", "Tux", "AW", "ANL", "GRA", "DIN", "Clear", "depth", "calls", "5,470", "5,470", "1,363", "603", "601", "600", "602", "Clear", "color", "calls", "1", "1", "1,363", "604", "601", "600", "602", "Clear", "depth", "pixels", "105,821", "k", "423,284", "k", "418,714", "k", "185,242", "k", "184,320", "k", "184,013", "k", "189,934", "k", "Clear", "color", "pixels", "76,800", "307,200", "418,714", "k", "185,549", "k", "184,320", "k", "184,013", "k", "189,934", "k", "Scissor", "Unit", ".", "This", "unit", "is", "used", "to", "discard", "fragments", "that", "are", "outside", "of", "a", "specified", "rectangular", "area", ".", "Only", "Q3", "employed", "scissoring", ".", "All", "incoming", "fragments", "were", "processed", "and", "passed", "the", "test", ",", "so", "even", "in", "this", "case", "the", "test", "is", "redundant", "since", "no", "fragments", "were", "rejected", ".", "Normally", ",", "the", "scissor", "unit", "is", "used", "to", "restrict", "the", "drawing", "process", "to", "a", "certain", "rectangular", "region", "of", "the", "image", "space", ".", "In", "Q3", "this", "unit", ",", "besides", "being", "always", "enabled", "for", "the", "whole", "size", "of", "the", "image", "space", "-LRB-", "to", "clip", "primitives", "outside", "it", "-RRB-", ",", "in", "some", "cases", "it", "is", "also", "used", "to", "clear", "the", "depth", "component", "of", "a", "specific", "region", "of", "the", "image", "so", "that", "certain", "objects", "-LRB-", "interface", "objects", "-RRB-", "will", "always", "be", "in", "front", "of", "other", "objects", "-LRB-", "normal", "scene", "-RRB-", ".", "Even", "though", "it", "might", "be", "used", "intensively", "by", "some", "applications", ",", "this", "unit", "performs", "simple", "computations", ",", "such", "as", "comparisons", ",", "and", "performs", "no", "memory", "accesses", "so", "it", "does", "not", "require", "substantial", "computational", "power", ".", "Alpha", "Unit", ".", "This", "unit", "discards", "fragments", "based", "on", "their", "alpha", "color", "component", ".", "This", "unit", "was", "used", "only", "in", "Q3", "and", "Tux", ".", "Furthermore", ",", "Q3", "used", "the", "alpha", "unit", "only", "for", "a", "very", "small", "number", "of", "fragments", "-LRB-", "0.03", "%", "-RRB-", ".", "The", "only", "comparison", "function", "used", "was", "``", "Greater", "or", "Equal", "''", ".", "However", ",", "this", "is", "not", "a", "significant", "property", "since", "the", "other", "comparison", "functions", "-LRB-", "modes", "-RRB-", "do", "not", "require", "a", "substantial", "amount", "of", "extra", "hardware", "to", "be", "implemented", ".", "The", "number", "of", "passed", "fragments", "could", "not", "be", "determined", "since", "the", "texturing", "unit", "of", "our", "graphics", "simulator", "is", "not", "yet", "complete", ",", "and", "the", "alpha", "test", "depends", "on", "the", "alpha", "component", "that", "can", "be", "modified", "by", "the", "texture", "processing", "unit", ".", "However", ",", "this", "unit", "is", "used", "significantly", "only", "for", "the", "Tux", "benchmark", "so", "this", "is", "the", "only", "benchmark", "that", "could", "have", "produced", "different", "results", ".", "Furthermore", ",", "the", "propagated", "error", "for", "the", "results", "we", "obtained", "can", "be", "at", "most", "7.8", "%", "since", "92.2", "%", "of", "the", "fragments", "generated", "by", "Tux", "bypassed", "this", "unit", ".", "We", ",", "therefore", ",", "assumed", "that", "all", "fragments", "passed", "the", "alpha", "test", ".", "This", "corresponds", "to", "the", "worst", "case", ".", "Since", "this", "unit", "is", "seldomly", "used", ",", "it", "could", "be", "implemented", "using", "a", "more", "conservative", "strategy", "toward", "allocated", "resources", ".", "Depth", "Unit", ".", "This", "unit", "discards", "a", "fragment", "based", "on", "a", "comparison", "between", "its", "depth", "value", "and", "the", "depth", "value", "stored", "in", "the", "depth", "buffer", "in", "the", "fragment", "'s", "corresponding", "position", ".", "This", "unit", "was", "used", "intensively", "by", "all", "benchmarks", "as", "can", "be", "seen", "in", "Table", "4.1", ".", "While", "the", "Tux", ",", "Aw", ",", "and", "VRML", "benchmarks", "write", "almost", "all", "fragments", "that", "passed", "the", "depth", "test", "to", "the", "depth", "buffer", ",", "the", "Q3", "benchmark", "writes", "to", "the", "depth", "buffer", "only", "36", "%", "of", "the", "fragments", "that", "passed", "the", "test", ".", "This", "is", "expected", "since", "Q3", "uses", "multiple", "steps", "to", "apply", "textures", "to", "primitives", "and", "so", "it", "does", "not", "need", "to", "write", "to", "the", "depth", "buffer", "at", "each", "step", ".", "This", "unit", "should", "definitely", "be", "implemented", "in", "an", "aggressive", "manner", "with", "respect", "to", "throughput", "-LRB-", "processing", "power", "-RRB-", "and", "latency", ",", "since", "for", "instance", "the", "depth", "buffer", "read/write", "operations", "used", "at", "this", "unit", "are", "quite", "expensive", ".", "Blending", "Unit", ".", "This", "unit", "combines", "the", "color", "of", "the", "incoming", "fragment", "with", "the", "color", "stored", "at", "the", "corresponding", "position", "in", "the", "framebuffer", ".", "As", "depicted", "in", "Figure", "3", ",", "this", "unit", "is", "used", "only", "by", "the", "Q3", "and", "Tux", "benchmarks", ".", "The", "AW", "and", "VRML", "benchmarks", "do", "not", "use", "this", "unit", "since", "they", "use", "only", "single", "textured", "primitives", "and", "all", "blending", "operations", "are", "performed", "at", "the", "texturing", "stage", ".", "Q3", ",", "on", "the", "other", "hand", ",", "uses", "a", "variety", "of", "blending", "modes", ",", "while", "Tux", "employs", "only", "a", "very", "common", "blending", "mode", "-LRB-", "source", "=", "incoming", "pixel", "alpha", "and", "dest", "=", "1", "-", "incoming", "pixel", "alpha", "-RRB-", ".", "An", "explanation", "why", "Tux", "manages", "to", "use", "only", "this", "mode", "is", "that", "Tux", "uses", "the", "alpha", "test", "instead", "of", "multiple", "blending", "modes", ".", "Alpha", "tests", "are", "supposed", "to", "be", "less", "computationally", "intensive", "than", "blending", "operations", "since", "there", "is", "only", "one", "comparison", "per", "fragment", ",", "while", "the", "blending", "unit", "performs", "up", "to", "8", "multiplications", "and", "4", "additions", "per", "fragment", ".", "Based", "on", "its", "usage", "and", "computational", "power", "required", ",", "the", "implementation", "of", "this", "unit", "should", "be", "tuned", "toward", "performance", ".", "Unused", "Units", ".", "The", "LogicOp", ",", "Stencil", "and", "Color", "Sum", "units", "are", "not", "used", "by", "any", "benchmark", ".", "The", "dithering", "unit", "is", "used", "only", "by", "the", "AW", "benchmark", "-LRB-", "for", "all", "fragments", "that", "passed", "the", "blending", "stage", "-RRB-", ".", "Since", "these", "units", "are", "expected", "to", "be", "hardly", "used", "their", "implementation", "could", "be", "tuned", "toward", "low-power", "efficiency", ".", "4.2", "Architectural", "Implications", "Based", "on", "Unit", "Usage", "In", "this", "section", "the", "usage", "of", "each", "unit", "for", "the", "selected", "benchmarks", "is", "presented", ".", "The", "statistics", "are", "gathered", "separately", "for", "each", "benchmark", ".", "Figure", "3", "breaks", "down", "the", "number", "of", "fragments", "received", "by", "each", "unit", "into", "fragments", "that", "bypassed", "the", "unit", ",", "fragments", "that", "were", "processed", "by", "the", "unit", "and", "passed", "the", "test", ",", "and", "fragments", "that", "failed", "the", "test", ".", "All", "values", "are", "normalized", "to", "the", "number", "of", "fragments", "generated", "by", "the", "Span", "Interpolation", "unit", ".", "From", "Figure", "3", "it", "can", "be", "seen", "that", "the", "Q3", "benchmark", "is", "quite", "scalable", "and", "the", "results", "obtained", "for", "the", "low", "resolution", "profile", "-LRB-", "Q3L", "-RRB-", "are", "similar", "with", "the", "results", "obtained", "for", "the", "high", "resolution", "profile", "-LRB-", "Q3H", "-RRB-", ".", "The", "Q3", "benchmark", "can", "be", "characterized", "as", "an", "application", "that", "uses", "textures", "for", "most", "of", "its", "primitives", ".", "The", "Tux", "component", "is", "also", "using", "textures", "for", "more", "than", "70", "%", "of", "its", "primitives", ",", "and", "it", "also", "uses", "the", "fog", "unit", ".", "The", "AW", "component", "does", "not", "use", "the", "scissor", "test", "6", "Table", "5", ":", "Depth", "unit", "statistics", "Q3L", "Q3H", "Tux", "AW", "ANL", "GRA", "DIN", "Incoming", "frags", ".", "581,887", "k", "2,306,487", "k", "1,037,222", "k", "38,044", "k", "466,344", "k", "146,604", "k", "91,824", "k", "Processed", "frags", ".", "578,345", "k", "2,292,357", "k", "512,618", "k", "38,044", "k", "466,344", "k", "146,604", "k", "91,824", "k", "Passed", "frags", ".", "461,045", "k", "1,822,735", "k", "473,738", "k", "35,037", "k", "281,684", "k", "137,109", "k", "73,268", "k", "Frags", ".", "written", "to", "the", "depth", "buffer", "166,624", "k", "666,633", "k", "462,520", "k", "35,037", "k", "281,684", "k", "137,109", "k", "73,268", "k", "DIN", "Q", "3L", "A", "NL", "G", "ra", "A", "w", "Tux", "Q", "3H", "0", "20", "40", "60", "80", "100", "120", "Texture", "Fog", "Scissor", "Alpha", "Depth", "Blending", "Dithering", "%", "F", "r", "agments", "Passed", "Failed", "Bypassed", "Figure", "3", ":", "Rasterization", "pipeline", "units", "usage", "as", "the", "others", "are", "doing", "and", "also", "it", "has", "no", "pixels", "rejected", "at", "the", "depth", "test", ".", "Another", "difference", "from", "the", "previous", "components", "is", "that", "AW", "is", "also", "using", "the", "dithering", "mechanism", "in", "order", "to", "improve", "the", "image", "quality", "on", "displays", "with", "a", "low", "color", "depth", ".", "Some", "architectural", "implications", "based", "on", "the", "units", "usage", "are", ":", "Some", "of", "the", "units", "such", "as", "Color", "sum", ",", "LogicOp", "and", "Stencil", "were", "not", "used", ",", "so", "they", "might", "not", "be", "implemented", "in", "hardware", ".", "Some", "units", "such", "as", "Fog", "and", "Alpha", "were", "less", "used", "and", "they", "can", "be", "also", "be", "implemented", "outside", "the", "critical", "path", ".", "The", "Depth", "and", "Blending", "units", "should", "be", "hard-wired", "units", "and", "tuned", "toward", "performance", ".", "The", "texture", "unit", "should", "be", "definitely", "focused", "upon", "for", "a", "high", "performance", "implementation", "since", ",", "due", "to", "the", "processing", "power", "required", ",", "it", "can", "easily", "become", "a", "bottleneck", "for", "the", "graphics", "pipeline", ".", "Although", "high-end", "3D", "graphics", "benchmarks", "have", "been", "available", "for", "some", "time", ",", "there", "are", "no", "benchmark", "suites", "dedicated", "to", "embedded", "3D", "graphics", "accelerators", ".", "In", "this", "paper", "we", "have", "described", "a", "set", "of", "relevant", "applications", "for", "embedded", "3D", "graphics", "accelerators", "performance", "evaluation", ".", "Also", "one", "of", "the", "objectives", "of", "this", "paper", "was", "to", "determine", "what", "features", "of", "3D", "graphics", "implementations", "are", "used", "in", "relevant", "3D", "graphics", "applications", ".", "We", "have", "also", "identified", "a", "number", "of", "units", "from", "the", "3D", "graphics", "pipeline", "which", "are", "intensively", "used", "such", "as", "the", "texture", "and", "the", "depth", "units", ",", "while", "for", "instance", ",", "stencil", ",", "fog", ",", "and", "dithering", "units", "being", "rarely", "used", ".", "The", "OpenGL", "applications", "that", "were", "used", "to", "create", "the", "benchmarks", "and", "the", "GLtrace", "tracer", "are", "accessible", "via", "the", "first", "author", "'s", "website", "-LRB-", "http://ce.et.tudelft.nl/~tkg/", "-RRB-", ".", "The", "benchmarks", "-LRB-", "i.e.", "the", "traces", "-RRB-", "can", "not", "be", "made", "public", "currently", ",", "because", "they", "are", "of", "no", "use", "without", "the", "trace", "player", "and", "the", "trace", "player", "is", "confidential", "at", "the", "moment", ".", "However", ",", "the", "Quake", "III", "-LRB-", "demo", "version", "-RRB-", "and", "the", "AWadvs-04", "components", "do", "not", "require", "the", "use", "of", "the", "trace", "player", "in", "order", "to", "generate", "repeatable", "workloads", ".", "We", "hope", "to", "be", "able", "to", "make", "the", "benchmark", "suite", "publicly", "available", "in", "the", "future", ".", "As", "future", "work", ",", "we", "intend", "to", "extend", "the", "number", "of", "components", "for", "this", "benchmark", "suite", ",", "and", "we", "also", "intend", "to", "extend", "the", "statistics", "to", "include", "results", "from", "embedded", "graphics", "architectures", "that", "are", "using", "a", "tile-based", "rendering", "mechanism", ".", "-LSB-", "1", "-RSB-", "T.", "Akenine-M", "oller", "and", "J.", "Str", "om", ",", "``", "Graphics", "for", "the", "Masses", ":", "A", "Hardware", "Rasterization", "Architecture", "for", "Mobile", "Phones", "''", ",", "ACM", "Trans", ".", "on", "Graph.", ",", "vol", "22", ",", "nr", "3", ",", "2003", ",", "pp.", "801-808", ".", "-LSB-", "2", "-RSB-", "I.", "Antochi", ",", "B.H.H.", "Juurlink", ",", "A.", "G.", "M.", "Cilio", ",", "and", "P.", "Liuha", ".", "``", "Trading", "Efficiency", "for", "Energy", "in", "a", "Texture", "Cache", "Architecture", "''", ",", "Proc", ".", "Euromicro", "Conf", ".", "on", "Massively-Parallel", "Computing", "Systems", "-LRB-", "MPCS", "'", "02", "-RRB-", ",", "2002", ",", "Ischia", ",", "Italy", ",", "pp.", "189-196", ".", "-LSB-", "3", "-RSB-", "Futuremark", "Corporation", ",", "``", "3DMark01SE", "''", ",", "Available", "at", "http://www.futuremark.com/products/3dmark2001/", "-LSB-", "4", "-RSB-", "Futuremark", "Corporation", ",", "``", "3DMark03", "''", ",", "Available", "at", "http://www.futuremark.com/products/3dmark03/", "-LSB-", "5", "-RSB-", "D.", "Crisu", ",", "S.D.", "Cotofana", ",", "S.", "Vassiliadis", ",", "and", "P.", "Liuha", ",", "``", "GRAAL", "--", "A", "Development", "Framework", "for", "Embedded", "Graphics", "Accelerators", "''", ",", "Proc", ".", "Design", ",", "Automation", "and", "Test", "in", "Europe", "-LRB-", "DATE", "04", "-RRB-", ",", "Paris", ",", "France", ",", "February", "2004", ".", "-LSB-", "6", "-RSB-", "J.C.", "Dunwoody", "and", "M.A.", "Linton", ".", "``", "Tracing", "Interactive", "3D", "Graphics", "Programs", "''", ",", "Proc", ".", "ACM", "Symp", ".", "on", "Interactive", "3D", "Graphics", ",", "1990", ".", "7", "0", "2000", "4000", "6000", "8000", "10000", "12000", "0", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "1100", "1200", "1300", "Frame", "Triangles", "Received", "Processed", "-LRB-", "a", "-RRB-", "Q3L", "Triangles", "0", "200000", "400000", "600000", "800000", "1000000", "1200000", "1400000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "650", "700", "750", "800", "850", "900", "950\u00a01000\u00a01050\u00a01100", "1150\u00a01200\u00a01250\u00a01300", "1350", "Frame", "Are", "a", "-LRB-", "b", "-RRB-", "Q3L", "Area", "0", "1000", "2000", "3000", "4000", "5000", "6000", "0", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "1100", "1200", "1300", "Frame", "Triangles", "Received", "Processed", "-LRB-", "c", "-RRB-", "Tux", "Triangles", "0", "200000", "400000", "600000", "800000", "1000000", "1200000", "1400000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "650", "700", "750", "800", "850", "900", "950\u00a01000\u00a01050\u00a01100", "1150\u00a01200\u00a01250\u00a01300", "1350", "Frame", "Are", "a", "-LRB-", "d", "-RRB-", "Tux", "Area", "0", "500", "1000", "1500", "2000", "2500", "3000", "3500", "4000", "4500", "5000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Triangles", "Received", "Processed", "-LRB-", "e", "-RRB-", "DIN", "Triangles", "0", "50000", "100000", "150000", "200000", "250000", "300000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Are", "a", "-LRB-", "f", "-RRB-", "DIN", "Area", "0", "5000", "10000", "15000", "20000", "25000", "30000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Triangles", "Received", "Processed", "-LRB-", "g", "-RRB-", "AW", "Triangles", "0", "20000", "40000", "60000", "80000", "100000", "120000", "140000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Area", "-LRB-", "h", "-RRB-", "AW", "Area", "0", "2000", "4000", "6000", "8000", "10000", "12000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Triangles", "Received", "Processed", "-LRB-", "i", "-RRB-", "GRA", "Triangles", "0", "50000", "100000", "150000", "200000", "250000", "300000", "350000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Are", "a", "-LRB-", "j", "-RRB-", "GRA", "Area", "0", "2000", "4000", "6000", "8000", "10000", "12000", "14000", "16000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Triangles", "Received", "Processed", "-LRB-", "k", "-RRB-", "ANL", "Triangles", "0", "200000", "400000", "600000", "800000", "1000000", "1200000", "1400000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Are", "a", "-LRB-", "l", "-RRB-", "ANL", "Area", "Figure", "4", ":", "Triangle", "and", "area", "statistics", "for", "the", "GraalBench", "components", "8", "-LSB-", "7", "-RSB-", "JSR-184", "Expert", "Group", ",", "``", "Mobile", "3D", "Graphics", "API", "for", "Java", "TM", "2", "Micro", "Edition", "''", ",", "Available", "at", "http://jcp.org/", "aboutJava/communityprocess/final/jsr184/index.html", "-LSB-", "8", "-RSB-", "The", "Khronos", "Group", ",", "``", "OpenGL", "ES", "Overview", "''", ",", "Available", "at", "http://www.khronos.org/opengles/index.html", "-LSB-", "9", "-RSB-", "Id", "Software", "Inc.", ",", "``", "Quake", "III", "''", ",", "Available", "at", "http://www.idsoftware.com", "-LSB-", "10", "-RSB-", "ARM", "Ltd.", ",", "``", "ARM", "3D", "Graphics", "Solutions", "''", ",", "Available", "at", "http://www.arm.com/miscPDFs/1643.pdf", "-LSB-", "11", "-RSB-", "T.", "Mitra", "and", "T.", "Chiueh", ".", "``", "Dynamic", "3D", "Graphics", "Workload", "Characterization", "and", "the", "Architectural", "Implications", "''", ",", "Proc", ".", "32nd", "ACM/IEEE", "Int", ".", "Symp", ".", "on", "Microarchitecture", "-LRB-", "MICRO", "-RRB-", ",", "1999", ",", "pp.", "62-71", ".", "-LSB-", "12", "-RSB-", "Systems", "in", "Motion", ",", "``", "VRMLView", "''", ",", "Available", "at", "http://www.sim.no", "-LSB-", "13", "-RSB-", "M.", "Pichler", ",", "G.", "Orasche", ",", "K.", "Andrews", ",", "E.", "Grossman", ",", "and", "M.", "McCahill", ",", "``", "VRweb", ":", "a", "Multi-System", "VRML", "Viewer", "''", ",", "Proc", ".", "First", "Symp", ".", "on", "Virtual", "Reality", "Modeling", "Language", ",", "1995", ",", "San", "Diego", ",", "California", ",", "United", "States", ",", "pp.", "77-85", ".", "-LSB-", "14", "-RSB-", "The", "Mesa", "Project", ",", "``", "The", "Mesa", "3D", "Graphics", "Library", "''", ",", "Available", "at", "http://www.mesa3d.org", "-LSB-", "15", "-RSB-", "Hawk", "Software", ",", "``", "GLTrace", "Programming", "Utility", "''", ",", "Available", "at", "http://www.hawksoft.com/gltrace/", "-LSB-", "16", "-RSB-", "J.", "Sohn", ",", "R.", "Woo", ",", "and", "H.J.", "Yoo", "``", "Optimization", "of", "Portable", "System", "Architecture", "for", "Real-Time", "3D", "Graphics", "''", ",", "Proc", ".", "IEEE", "Int", ".", "Symp", ".", "on", "Circuits", "and", "Systems", "-LRB-", "ISCAS", "2002", "-RRB-", ",", "Volume", ":", "1", ",", "26-29", "May", "2002", "pp", ".", "I-769", "-", "I-772", "vol", ".1", ".", "-LSB-", "17", "-RSB-", "SourceForge", ",", "``", "spyGLass", ":", "an", "OpenGL", "Call", "Tracer", "and", "Debugging", "Tool", "''", ",", "Available", "at", "http://spyglass.sourceforge.net/", "-LSB-", "18", "-RSB-", "SPEC", ",", "``", "SPECviewperf", "6.1.2", "''", ",", "Available", "at", "http://www.specbench.org/gpc/opc.static/opcview.htm", "-LSB-", "19", "-RSB-", "Sunspire", "Studios", ",", "``", "Tux", "Racer", "''", ",", "Available", "at", "http://tuxracer.sourceforge.net/", "-LSB-", "20", "-RSB-", "Portable", "3D", "Research", "Group", "at", "Korea", "Advanced", "Institute", "of", "Science", "and", "Technology", ",", "``", "MobileGL", "-", "The", "Standard", "for", "Embedded", "3D", "Graphics", "''", ",", "Available", "at", "http://ssl.kaist", ".", "ac.kr", "/", "projects/portable3D", ".", "html/main", "mgl", "defnition.htm", "-LSB-", "21", "-RSB-", "Stanford", "University", ",", "``", "GLSim", "&", "GLTrace", "''", ",", "Available", "at", "http", ":", "/", "/", "graphics.stanford.edu/courses/cs448a-01-fall/glsim.html", "-LSB-", "22", "-RSB-", "Yonsei", "University", ",", "3D", "Graphics", "Accelerator", "Group", ",", "http://msl.yonsei.ac.kr/3d/", "9"], "doc_bio_tags": ["B", "O", "O", "B", "I", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["mobile phones", "triangles", "pipeline", "accelerators", "3d graphics benchmarking", "mobile environments", "embedded 3d graphics", "benchmark", "mechanism", "architecture", "statistics", "3d graphics applications", "api", "bottlenecks", "graalbench", "performance", "3d graphics benchmarks", "opengl", "workload characterization", "embedded systems", "mobile devices", "rasterization", "3d graphics", "workload", "unit", "measurement"], "abstractive_keyphrases": ["transform and lighting", "embedded 3d graphics architectures", "real-time"], "other_metadata": {"text": [], "bio_tags": []}}
{"paper_id": "96", "document": ["Building", "Bridges", "for", "Web", "Query", "Classification", "Web", "query", "classification", "-LRB-", "QC", "-RRB-", "aims", "to", "classify", "Web", "users", "'", "queries", ",", "which", "are", "often", "short", "and", "ambiguous", ",", "into", "a", "set", "of", "target", "categories", ".", "QC", "has", "many", "applications", "including", "page", "ranking", "in", "Web", "search", ",", "targeted", "advertisement", "in", "response", "to", "queries", ",", "and", "personalization", ".", "In", "this", "paper", ",", "we", "present", "a", "novel", "approach", "for", "QC", "that", "outperforms", "the", "winning", "solution", "of", "the", "ACM", "KDDCUP", "2005", "competition", ",", "whose", "objective", "is", "to", "classify", "800,000", "real", "user", "queries", ".", "In", "our", "approach", ",", "we", "first", "build", "a", "bridging", "classifier", "on", "an", "intermediate", "taxonomy", "in", "an", "offline", "mode", ".", "This", "classifier", "is", "then", "used", "in", "an", "online", "mode", "to", "map", "user", "queries", "to", "the", "target", "categories", "via", "the", "above", "intermediate", "taxonomy", ".", "A", "major", "innovation", "is", "that", "by", "leveraging", "the", "similarity", "distribution", "over", "the", "intermediate", "taxonomy", ",", "we", "do", "not", "need", "to", "retrain", "a", "new", "classifier", "for", "each", "new", "set", "of", "target", "categories", ",", "and", "therefore", "the", "bridging", "classifier", "needs", "to", "be", "trained", "only", "once", ".", "In", "addition", ",", "we", "introduce", "category", "selection", "as", "a", "new", "method", "for", "narrowing", "down", "the", "scope", "of", "the", "intermediate", "taxonomy", "based", "on", "which", "we", "classify", "the", "queries", ".", "Category", "selection", "can", "improve", "both", "efficiency", "and", "effectiveness", "of", "the", "online", "classification", ".", "By", "combining", "our", "algorithm", "with", "the", "winning", "solution", "of", "KDDCUP", "2005", ",", "we", "made", "an", "improvement", "by", "9.7", "%", "and", "3.8", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", "compared", "with", "the", "best", "results", "of", "KDDCUP", "2005", ".", "H.", "3", ".", "m", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Miscellaneous", ";", "I.", "5.2", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Design", "Methodology", "--", "Classifier", "design", "and", "evaluation", "Algorithms", ",", "Experimentation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "06", ",", "August", "6", "11", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-369-7", "/", "06/0008", "...", "$", "5.00", ".", "With", "exponentially", "increasing", "information", "becoming", "available", "on", "the", "Internet", ",", "Web", "search", "has", "become", "an", "indispensable", "tool", "for", "Web", "users", "to", "gain", "desired", "information", ".", "Typi-cally", ",", "Web", "users", "submit", "a", "short", "Web", "query", "consisting", "of", "a", "few", "words", "to", "search", "engines", ".", "Because", "these", "queries", "are", "short", "and", "ambiguous", ",", "how", "to", "interpret", "the", "queries", "in", "terms", "of", "a", "set", "of", "target", "categories", "has", "become", "a", "major", "research", "issue", ".", "In", "this", "paper", ",", "we", "call", "the", "problem", "of", "generating", "a", "ranked", "list", "of", "target", "categories", "from", "user", "queries", "the", "query", "classification", "problem", ",", "or", "QC", "for", "short", ".", "The", "importance", "of", "QC", "is", "underscored", "by", "many", "services", "provided", "by", "Web", "search", ".", "A", "direct", "application", "is", "to", "provide", "better", "search", "result", "pages", "for", "users", "with", "interests", "of", "different", "categories", ".", "For", "example", ",", "the", "users", "issuing", "a", "Web", "query", "``", "apple", "''", "might", "expect", "to", "see", "Web", "pages", "related", "to", "the", "fruit", "apple", ",", "or", "they", "may", "prefer", "to", "see", "products", "or", "news", "related", "to", "the", "computer", "company", ".", "Online", "advertisement", "services", "can", "rely", "on", "the", "QC", "results", "to", "promote", "different", "products", "more", "accurately", ".", "Search", "result", "pages", "can", "be", "grouped", "according", "to", "the", "categories", "predicted", "by", "a", "QC", "algorithm", ".", "However", ",", "the", "computation", "of", "QC", "is", "non-trivial", ",", "since", "the", "queries", "are", "usually", "short", "in", "length", ",", "ambiguous", "and", "noisy", "-LRB-", "e.g.", ",", "wrong", "spelling", "-RRB-", ".", "Direct", "matching", "between", "queries", "and", "target", "categories", "often", "produces", "no", "result", ".", "In", "addition", ",", "the", "target", "categories", "can", "often", "change", ",", "depending", "on", "the", "new", "Web", "contents", "as", "the", "Web", "evolves", ",", "and", "as", "the", "intended", "services", "change", "as", "well", ".", "KDDCUP", "2005", "-LRB-", "http://www.acm.org/sigkdd/kddcup", "-RRB-", "highlighted", "the", "interests", "in", "QC", ",", "where", "800,000", "real", "Web", "queries", "are", "to", "be", "classified", "into", "67", "target", "categories", ".", "Each", "query", "can", "belong", "to", "more", "than", "one", "target", "category", ".", "For", "this", "task", ",", "there", "is", "no", "training", "data", "provided", ".", "As", "an", "example", "of", "a", "QC", "task", ",", "given", "the", "query", "``", "apple", "''", ",", "it", "should", "be", "classified", "into", "``", "Computers", "\\", "Hardware", ";", "Living", "\\", "Food", "&", "Cooking", "''", ".", "The", "winning", "solution", "in", "the", "KDDCUP", "2005", "competition", ",", "which", "won", "on", "all", "three", "evaluation", "metrics", "-LRB-", "precision", ",", "F1", "and", "creativity", "-RRB-", ",", "relied", "on", "an", "innovative", "method", "to", "map", "queries", "to", "target", "categories", ".", "By", "this", "method", ",", "an", "input", "query", "is", "first", "mapped", "to", "an", "intermediate", "category", ",", "and", "then", "a", "second", "mapping", "is", "applied", "to", "map", "the", "query", "from", "the", "intermediate", "category", "to", "the", "target", "category", ".", "However", ",", "we", "note", "that", "this", "method", "suffers", "from", "two", "potential", "problems", ".", "First", ",", "the", "classifier", "for", "the", "second", "mapping", "function", "needs", "to", "be", "trained", "whenever", "the", "target", "category", "structure", "changes", ".", "Since", "in", "real", "applications", ",", "the", "target", "categories", "can", "change", "depending", "on", "the", "needs", "of", "the", "service", "providers", ",", "as", "well", "as", "the", "distribution", "of", "the", "Web", "contents", ",", "this", "solution", "is", "not", "flexible", "131", "enough", ".", "What", "would", "be", "better", "is", "to", "train", "the", "classifiers", "once", "and", "then", "use", "them", "in", "future", "QC", "tasks", ",", "even", "when", "the", "target", "categories", "are", "different", ".", "Second", ",", "the", "winners", "used", "the", "Open", "Directory", "Project", "-LRB-", "ODP", "-RRB-", "taxonomy", "as", "the", "intermediate", "taxonomy", ".", "Since", "the", "ODP", "contains", "more", "than", "590,000", "different", "categories", ",", "it", "is", "costly", "to", "handle", "all", "mapping", "functions", ".", "It", "is", "better", "to", "select", "a", "portion", "of", "the", "most", "relevant", "parts", "of", "the", "intermediate", "categories", ".", "In", "this", "paper", ",", "we", "introduce", "a", "novel", "QC", "algorithm", "that", "solves", "the", "above", "two", "problems", ".", "In", "particular", ",", "we", "first", "build", "a", "bridging", "classifier", "on", "an", "intermediate", "taxonomy", "in", "an", "offline", "mode", ".", "This", "classifier", "is", "then", "used", "in", "online", "mode", "to", "map", "users", "'", "queries", "to", "the", "target", "categories", "via", "the", "above", "intermediate", "taxonomy", ".", "Therefore", ",", "we", "do", "not", "have", "to", "build", "the", "classifier", "each", "time", "the", "target", "categories", "change", ".", "In", "addition", ",", "we", "propose", "a", "category-selection", "method", "to", "select", "the", "categories", "in", "the", "intermediate", "taxonomy", "so", "that", "the", "effectiveness", "and", "efficiency", "of", "the", "online", "classification", "can", "be", "improved", ".", "The", "KDDCUP", "2005", "winning", "solution", "included", "two", "kinds", "of", "base", "classifiers", "and", "two", "ensemble", "classifiers", "of", "them", ".", "By", "comparing", "our", "new", "method", "with", "any", "base", "classifier", "in", "the", "winner", "'s", "solution", "for", "the", "KDDCUP", "2005", "competition", ",", "we", "found", "that", "our", "new", "method", "can", "improve", "the", "performance", "by", "more", "than", "10.4", "%", "and", "7.1", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", ",", "while", "our", "method", "does", "not", "require", "the", "extra", "resource", "such", "as", "WordNet", "-LSB-", "8", "-RSB-", ".", "The", "proposed", "method", "can", "even", "achieve", "a", "similar", "performance", "to", "the", "winner", "'s", "ensemble", "classifiers", "that", "achieved", "the", "best", "performance", "in", "the", "KDDCUP", "2005", "competition", ".", "Furthermore", ",", "by", "combining", "the", "our", "method", "with", "the", "base", "classifiers", "in", "the", "winner", "'s", "solution", ",", "we", "can", "improve", "the", "classification", "results", "by", "9.7", "%", "in", "terms", "of", "precision", "and", "3.8", "%", "in", "terms", "of", "F1", "as", "compared", "to", "the", "winner", "'s", "results", ".", "This", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "We", "define", "the", "query", "classification", "problem", "in", "Section", "2", ".", "Section", "3", "presents", "the", "methods", "of", "enriching", "queries", "and", "target", "categories", ".", "In", "Section", "4", ",", "we", "briefly", "introduce", "the", "previous", "methods", "and", "put", "forward", "a", "new", "method", ".", "In", "Section", "5", ",", "we", "compare", "the", "approaches", "empirically", "on", "the", "tasks", "of", "KDDCUP", "2005", "competition", ".", "We", "list", "some", "related", "works", "in", "Section", "6", ".", "Section", "7", "gives", "the", "conclusion", "of", "the", "paper", "and", "some", "possible", "future", "research", "issues", ".", "The", "query", "classification", "problem", "is", "not", "as", "well-formed", "as", "other", "classification", "problems", "such", "as", "text", "classification", ".", "The", "difficulties", "include", "short", "and", "ambiguous", "queries", "and", "the", "lack", "of", "training", "data", ".", "In", "this", "section", ",", "inspired", "by", "KDDCUP", "2005", ",", "we", "give", "a", "stringent", "definition", "of", "the", "QC", "problem", ".", "Query", "Classification", ":", "*", "The", "aim", "of", "query", "classification", "is", "to", "classify", "a", "user", "query", "Q", "i", "into", "a", "ranked", "list", "of", "n", "categories", "C", "i1", ",", "C", "i2", ",", "...", ",", "C", "in", ",", "among", "a", "set", "of", "N", "categories", "-LCB-", "C", "1", ",", "C", "2", ",", "...", ",", "C", "N", "-RCB-", ".", "Among", "the", "output", ",", "C", "i1", "is", "ranked", "higher", "than", "C", "i2", ",", "and", "C", "i2", "is", "higher", "than", "C", "i3", ",", "and", "so", "on", ".", "*", "The", "queries", "are", "collected", "from", "real", "search", "engines", "submitted", "by", "Web", "users", ".", "The", "meaning", "and", "intension", "of", "the", "queries", "are", "subjective", ".", "*", "The", "target", "categories", "are", "a", "tree", "with", "each", "node", "representing", "a", "category", ".", "The", "semantic", "meaning", "of", "each", "category", "is", "defined", "by", "the", "labels", "along", "the", "path", "from", "the", "root", "to", "the", "corresponding", "node", ".", "In", "addition", ",", "the", "training", "data", "must", "be", "found", "online", "because", ",", "in", "general", ",", "labeled", "training", "data", "for", "query", "classification", "are", "very", "difficult", "to", "obtain", ".", "Figure", "1", "illustrates", "the", "target", "taxonomy", "of", "the", "KDDCUP", "2005", "competition", ".", "Because", "there", "are", "no", "data", "provided", "to", "define", "the", "content", "and", "the", "semantics", "of", "a", "category", ",", "as", "in", "conventional", "classification", "problems", ",", "a", "new", "solution", "needs", "be", "found", ".", "As", "mentioned", "above", ",", "an", "added", "difficulty", "is", "that", "the", "target", "taxonomy", "may", "change", "frequently", ".", "The", "queries", "in", "this", "problem", "are", "from", "the", "MSN", "search", "engine", "-LRB-", "http://search.msn.com", "-RRB-", ".", "Several", "examples", "of", "the", "queries", "are", "shown", "in", "Table", "1", ".", "Since", "a", "query", "usually", "contains", "very", "few", "words", ",", "the", "sparseness", "of", "queries", "becomes", "a", "serious", "problem", "as", "compared", "to", "other", "text", "classification", "problems", ".", "Table", "1", ":", "Examples", "of", "queries", ".", "1967", "shelby", "mustang", "actress", "hildegarde", "a", "&", "r", "management", "''", "property", "management", "Maryland", "netconfig.exe", "S", "o", "ftw", "are", "Other", "Tools", "&", "Hardware", "Living", "Sports", "Computers", "Hardware", "Figure", "1", ":", "An", "Example", "of", "the", "Target", "Taxonomy", ".", "In", "this", "section", ",", "we", "discuss", "the", "approaches", "for", "enriching", "queries", "and", "categories", ",", "which", "are", "critical", "for", "the", "query", "classification", "task", ".", "3.1", "Enrichment", "through", "Search", "Engines", "Since", "queries", "and", "categories", "usually", "contain", "only", "a", "few", "words", "in", "the", "QC", "problem", ",", "we", "need", "to", "expand", "them", "to", "obtain", "richer", "representations", ".", "One", "straightforward", "method", "is", "to", "submit", "them", "to", "search", "engines", "to", "get", "the", "related", "pages", "-LRB-", "for", "categories", ",", "we", "can", "take", "their", "labels", "as", "the", "queries", "and", "submit", "them", "to", "search", "engines", ",", "such", "as", "``", "Computers", "\\", "Hardware", "''", "in", "Figure", "1", "-RRB-", ".", "The", "returned", "Web", "pages", "from", "search", "engines", "provide", "the", "context", "of", "the", "queries", "and", "the", "target", "categories", ",", "which", "can", "help", "determine", "the", "meanings/semantics", "of", "the", "queries", "and", "categories", ".", "Given", "the", "search", "results", "for", "a", "query", "or", "category", ",", "we", "need", "to", "decide", "what", "features", "should", "be", "extracted", "from", "the", "pages", "to", "construct", "the", "representation", ".", "Three", "kinds", "of", "features", "are", "considered", "in", "this", "paper", ":", "the", "title", "of", "a", "page", ",", "the", "snippet", "generated", "by", "the", "search", "engines", ",", "and", "the", "full", "plain", "text", "of", "a", "page", ".", "The", "snippet", "is", "in", "fact", "a", "short", "query-based", "summary", "of", "a", "Web", "page", "in", "which", "the", "query", "words", "occur", "frequently", ".", "The", "full", "plain", "text", "is", "all", "the", "text", "in", "a", "page", "with", "the", "html", "tags", "removed", ".", "Since", "the", "title", "of", "a", "page", "is", "usually", "very", "short", "-LRB-", "5.2", "words", "on", "average", "for", "our", "data", "set", "-RRB-", ",", "we", "combine", "it", "with", "132", "other", "kinds", "of", "features", "together", ".", "These", "features", "are", "studied", "in", "our", "experiments", ".", "Besides", "the", "above", "textual", "features", ",", "we", "can", "also", "obtain", "the", "category", "information", "of", "a", "Web", "page", "through", "the", "directory", "information", "from", "search", "engines", ".", "For", "example", ",", "Google", "'s", "``", "Di-rectory", "Search", "''", "can", "provide", "the", "labels", "of", "the", "returned", "Web", "pages", ".", "Such", "labels", "will", "be", "leveraged", "to", "classify", "a", "query", ",", "as", "stated", "in", "Section", "4.1", ".", "3.2", "Word", "Matching", "Between", "Categories", "The", "query", "classification", "problem", "can", "be", "converted", "to", "a", "traditional", "text", "classification", "problem", "by", "finding", "some", "training", "data", "online", "for", "each", "category", "in", "the", "target", "taxonomy", ".", "Our", "method", "of", "collecting", "the", "training", "data", "is", "by", "finding", "documents", "in", "certain", "intermediate", "taxonomies", "that", "are", "found", "online", ".", "To", "do", "so", ",", "we", "need", "to", "construct", "mapping", "functions", "between", "the", "intermediate", "categories", "and", "the", "target", "categories", ".", "Given", "a", "certain", "category", "in", "an", "intermediate", "taxonomy", ",", "we", "say", "that", "it", "is", "directly", "mapped", "to", "a", "target", "category", "if", "and", "only", "if", "the", "following", "condition", "is", "satisfied", ":", "one", "or", "more", "terms", "in", "each", "node", "along", "the", "path", "in", "the", "target", "category", "appear", "along", "the", "path", "corresponding", "to", "the", "matched", "intermediate", "category", ".", "For", "example", ",", "the", "intermediate", "category", "``", "Computers", "\\", "Hardware", "\\", "Storage", "''", "is", "directly", "mapped", "to", "the", "target", "category", "``", "Computers", "\\", "Hardware", "''", "since", "the", "words", "``", "Computers", "''", "and", "``", "Hardware", "''", "both", "appear", "along", "the", "path", "Computers", "Hardware", "Storage", "as", "shown", "in", "Figure", "2", ".", "We", "call", "this", "matching", "method", "direct", "matching", ".", "After", "constructing", "the", "above", "mapping", "functions", "by", "exact", "word", "matching", ",", "we", "may", "still", "miss", "a", "large", "number", "of", "mappings", ".", "To", "obtain", "a", "more", "complete", "mapping", "function", ",", "we", "expand", "the", "words", "in", "the", "labels", "of", "the", "target", "taxonomy", "through", "a", "thesaurus", "such", "as", "the", "WordNet", "-LSB-", "8", "-RSB-", ".", "For", "example", ",", "the", "keyword", "``", "Hardware", "''", "is", "extended", "to", "``", "Hardware", "&", "Devices", "&", "Equipments", "''", ".", "Then", "an", "intermediate", "category", "such", "as", "``", "Computers", "\\", "Devices", "''", "can", "now", "be", "mapped", "to", "``", "Computers", "\\", "Hardware", "''", ".", "This", "matching", "method", "is", "called", "extended", "matching", "in", "this", "paper", ".", "Computers", "Storage", "Hardware", "-LRB-", "2", "-RRB-", "Target", "Taxonomy", "-LRB-", "1", "-RRB-", "Intermediate", "Taxonomy", "Computers", "Hardware", "Figure", "2", ":", "Illustration", "of", "the", "matching", "between", "taxonomies", "In", "this", "section", ",", "we", "first", "describe", "the", "state-of-the-art", "query", "classification", "methods", ".", "Then", "we", "describe", "our", "new", "bridging", "classifier", "to", "address", "the", "disadvantages", "of", "the", "existing", "methods", ".", "4.1", "Classification", "by", "Exact", "Matching", "As", "described", "in", "Section", "3.1", ",", "a", "query", "can", "be", "expanded", "through", "search", "engines", "which", "results", "in", "a", "list", "of", "related", "Web", "pages", "together", "with", "their", "categories", "from", "an", "intermediate", "taxonomy", ".", "A", "straightforward", "approach", "to", "QC", "is", "to", "leverage", "the", "categories", "by", "exact", "matching", ".", "We", "denote", "the", "categories", "in", "the", "intermediate", "taxonomy", "and", "the", "target", "taxonomy", "as", "C", "I", "and", "C", "T", "respectively", ".", "For", "each", "category", "in", "C", "I", ",", "we", "can", "detect", "whether", "it", "is", "mapped", "to", "any", "category", "in", "C", "T", "according", "to", "the", "matching", "approaches", "given", "in", "Section", "3.2", ".", "After", "that", ",", "the", "most", "frequent", "target", "categories", "to", "which", "the", "returned", "intermediate", "categories", "have", "been", "successfully", "mapped", "are", "regarded", "as", "the", "classification", "result", ".", "That", "is", ":", "c", "=", "arg", "max", "C", "T", "j", "n", "i", "=", "1", "I", "-LRB-", "C", "I", "-LRB-", "i", "-RRB-", "is", "mapped", "to", "C", "T", "j", "-RRB-", "-LRB-", "1", "-RRB-", "In", "Equation", "-LRB-", "1", "-RRB-", ",", "I", "-LRB-", "-RRB-", "is", "the", "indicator", "function", "whose", "value", "is", "1", "when", "its", "parameter", "is", "true", "and", "0", "otherwise", ".", "C", "I", "-LRB-", "i", "-RRB-", "is", "the", "category", "in", "the", "intermediate", "taxonomy", "for", "the", "i", "th", "page", "returned", "by", "the", "search", "engine", ".", "n", "result", "pages", "are", "used", "for", "query", "classification", "and", "the", "parameter", "n", "is", "studied", "in", "our", "experiments", ".", "It", "is", "not", "hard", "to", "imagine", "that", "the", "exact", "matching", "approach", "tends", "to", "produce", "classification", "results", "with", "high", "precision", "but", "low", "recall", ".", "It", "produces", "high", "precision", "because", "this", "approach", "relies", "on", "the", "Web", "pages", "which", "are", "associated", "with", "the", "manually", "annotated", "category", "information", ".", "It", "produces", "low", "recall", "because", "many", "search", "result", "pages", "have", "no", "intermediate", "categories", ".", "Moreover", ",", "the", "exact", "matching", "approach", "can", "not", "find", "all", "the", "mappings", "from", "the", "existing", "intermediate", "taxonomy", "to", "the", "target", "taxonomy", "which", "also", "results", "in", "low", "recall", ".", "4.2", "Classification", "by", "SVM", "To", "alleviate", "the", "low-recall", "problem", "of", "the", "exact", "matching", "method", ",", "some", "statistical", "classifiers", "can", "be", "used", "for", "QC", ".", "In", "the", "KDDCUP", "2005", "winning", "solution", ",", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", "was", "used", "as", "a", "base", "classifier", ".", "Query", "classification", "with", "SVM", "consists", "of", "the", "following", "steps", ":", "1", "-RRB-", "construct", "the", "training", "data", "for", "the", "target", "categories", "based", "on", "mapping", "functions", "between", "categories", ",", "as", "discussed", "in", "Section", "3.2", ".", "If", "an", "intermediate", "category", "C", "I", "is", "mapped", "to", "a", "target", "category", "C", "T", ",", "then", "the", "Web", "pages", "in", "C", "I", "are", "mapped", "into", "C", "T", ";", "2", "-RRB-", "train", "SVM", "classifiers", "for", "the", "target", "categories", ";", "3", "-RRB-", "for", "each", "Web", "query", "to", "be", "classified", ",", "use", "search", "engines", "to", "get", "its", "enriched", "features", "as", "discussed", "in", "Section", "3.1", "and", "classify", "the", "query", "using", "the", "SVM", "classifiers", ".", "The", "advantage", "of", "this", "QC", "method", "is", "that", "it", "can", "improve", "the", "recall", "of", "the", "classification", "result", ".", "For", "example", ",", "assume", "two", "intermediate", "categories", ",", "C", "I", "1", "and", "C", "I", "2", ",", "are", "semantically", "related", "with", "a", "target", "category", "C", "T", "1", ".", "C", "I", "1", "can", "be", "matched", "with", "C", "T", "1", "through", "word", "matching", "but", "C", "I", "2", "can", "not", ".", "For", "a", "query", "to", "be", "classified", ",", "if", "a", "search", "engine", "only", "returns", "pages", "of", "C", "I", "2", ",", "this", "query", "can", "not", "be", "classified", "into", "the", "target", "category", "if", "the", "exact", "matching", "classification", "method", "is", "used", ".", "However", ",", "if", "the", "query", "is", "classified", "by", "a", "statistical", "classifier", ",", "it", "can", "also", "be", "assigned", "the", "target", "category", "C", "T", "1", ",", "as", "the", "classifier", "is", "trained", "using", "pages", "of", "C", "I", "1", ",", "which", "may", "also", "contain", "terms", "of", "C", "I", "2", "because", "the", "two", "intermediate", "categories", "are", "similar", "in", "topic", ".", "Although", "statistical", "classifiers", "can", "help", "increase", "the", "recall", "of", "the", "exact", "matching", "approach", ",", "they", "still", "need", "the", "exact", "matching", "for", "collecting", "the", "training", "data", ".", "What", "is", "more", ",", "if", "the", "target", "taxonomy", "changes", ",", "we", "need", "to", "collect", "the", "training", "data", "by", "exact", "matching", "and", "train", "statistical", "classifiers", "again", ".", "In", "the", "following", "sections", ",", "we", "develop", "a", "new", "method", "to", "solve", "the", "abov", "e", "problems", ".", "133", "4.3", "Our", "New", "Method", ":", "Classifiers", "by", "Bridges", "4.3.1", "Taxonomy-Bridging", "Algorithm", "We", "now", "describe", "our", "new", "QC", "approach", "called", "taxonomy-bridging", "classifier", ",", "or", "bridging", "classifier", "in", "short", ",", "by", "which", "we", "connect", "the", "target", "taxonomy", "and", "queries", "by", "taking", "an", "intermediate", "taxonomy", "as", "a", "bridge", ".", "The", "idea", "is", "illustrated", "in", "Figure", "3", ",", "where", "two", "vertical", "lines", "separate", "the", "space", "into", "three", "parts", ".", "The", "square", "in", "the", "left", "part", "denotes", "the", "queries", "to", "be", "classified", ";", "the", "tree", "in", "the", "right", "part", "represents", "the", "target", "taxonomy", ";", "the", "tree", "in", "the", "middle", "part", "is", "an", "existing", "intermediate", "taxonomy", ".", "The", "thickness", "of", "the", "dotted", "lines", "reflects", "the", "similarly", "relationship", "between", "two", "nodes", ".", "For", "example", ",", "we", "can", "see", "that", "the", "relationship", "between", "C", "T", "i", "and", "C", "I", "j", "is", "much", "stronger", "than", "that", "between", "C", "T", "i", "and", "C", "I", "k", ".", "Given", "a", "category", "C", "T", "i", "in", "the", "target", "taxonomy", "and", "a", "query", "to", "be", "classified", "q", "k", ",", "we", "can", "judge", "the", "similarity", "between", "them", "by", "the", "distributions", "of", "their", "relationship", "to", "the", "categories", "in", "the", "intermediate", "taxonomy", ".", "By", "defining", "the", "relationship", "and", "similarity", "under", "the", "probabilistic", "framework", ",", "the", "above", "idea", "can", "be", "explained", "by", "Equation", "-LRB-", "2", "-RRB-", ".", "T", "i", "C", "k", "q", "I", "j", "C", "I", "k", "C", "T", "C", "I", "C", "Q", "Figure", "3", ":", "Illustration", "of", "the", "Bridging", "Classifier", ".", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", ",", "q", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "p", "-LRB-", "q", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "-LRB-", "2", "-RRB-", "In", "Equation", "-LRB-", "2", "-RRB-", ",", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "denotes", "the", "conditional", "probability", "of", "C", "T", "i", "given", "q.", "Similarly", ",", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "and", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "denotes", "the", "probability", "of", "C", "T", "i", "and", "q", "given", "C", "I", "j", "respectively", ".", "p", "-LRB-", "C", "I", "j", "-RRB-", "is", "the", "prior", "probability", "of", "C", "I", "j", "which", "can", "be", "estimated", "from", "the", "Web", "pages", "in", "C", "I", ".", "If", "C", "T", "i", "is", "represented", "by", "a", "set", "of", "words", "-LRB-", "w", "1", ",", "w", "2", ",", "...", ",", "w", "n", "-RRB-", "where", "each", "word", "w", "k", "appears", "n", "k", "times", ",", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "can", "be", "calculated", "through", "Equation", "-LRB-", "3", "-RRB-", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "=", "n", "k", "=", "1", "p", "-LRB-", "w", "k", "|", "C", "I", "j", "-RRB-", "n", "k", "-LRB-", "3", "-RRB-", "where", "p", "-LRB-", "w", "k", "|", "C", "I", "j", "-RRB-", "stands", "for", "the", "probability", "that", "the", "word", "w", "k", "occurs", "in", "class", "C", "I", "j", ",", "which", "can", "be", "estimated", "by", "the", "principle", "of", "maximal", "likelihood", ".", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "can", "be", "calculated", "in", "the", "same", "way", "as", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", ".", "A", "query", "q", "can", "be", "classified", "according", "to", "Equation", "-LRB-", "4", "-RRB-", ":", "c", "=", "arg", "max", "C", "T", "i", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "-LRB-", "4", "-RRB-", "To", "make", "our", "bridging", "classifier", "easier", "to", "understand", ",", "we", "can", "explain", "it", "in", "another", "way", "by", "rewriting", "Equation", "-LRB-", "2", "-RRB-", "as", "Equation", "-LRB-", "5", "-RRB-", ",", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", ",", "q", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "p", "-LRB-", "C", "T", "i", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "p", "-LRB-", "C", "T", "i", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "-LRB-", "5", "-RRB-", "Let", "us", "consider", "the", "numerator", "on", "the", "right", "side", "of", "the", "Equation", "-LRB-", "5", "-RRB-", ".", "Given", "a", "query", "q", "and", "C", "T", "i", ",", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "and", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "are", "fixed", "and", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "=", "1", ",", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "1", ".", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "and", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "represent", "the", "probability", "that", "C", "T", "i", "and", "q", "belong", "to", "C", "I", "j", ".", "It", "is", "easy", "to", "prove", "that", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "tends", "to", "be", "larger", "when", "q", "and", "C", "T", "i", "tends", "to", "belong", "to", "the", "same", "category", "in", "the", "intermediate", "taxonomy", ".", "The", "denominator", "p", "-LRB-", "C", "I", "j", "-RRB-", "reflects", "the", "size", "of", "category", "C", "I", "j", "which", "acts", "as", "a", "weighting", "factor", ".", "It", "guarantees", "that", "the", "higher", "the", "probability", "that", "q", "and", "C", "T", "i", "belong", "to", "the", "smaller", "sized", "category", "-LRB-", "where", "size", "refers", "to", "the", "number", "of", "nodes", "underneath", "the", "category", "in", "the", "tree", "-RRB-", "in", "the", "intermediate", "taxonomy", ",", "the", "higher", "the", "probability", "that", "q", "belongs", "to", "C", "I", "i", ".", "Such", "an", "observation", "agrees", "with", "our", "intuition", ",", "since", "a", "larger", "category", "tends", "to", "contain", "more", "sub-topics", "while", "a", "smaller", "category", "contains", "fewer", "sub-topics", ".", "Thus", "we", "can", "say", "with", "higher", "confidence", "that", "q", "and", "C", "I", "i", "are", "related", "to", "the", "same", "sub-topic", "when", "they", "belong", "to", "the", "same", "smaller", "category", ".", "4.3.2", "Category", "Selection", "The", "intermediate", "taxonomy", "may", "contain", "enormous", "categories", "and", "some", "of", "them", "are", "irrelevant", "to", "the", "query", "classification", "task", "corresponding", "with", "the", "predefined", "target", "taxonomy", ".", "Therefore", ",", "to", "reduce", "the", "computation", "complexity", ",", "we", "should", "perform", "``", "Category", "Selection", "''", "in", "a", "similar", "sense", "of", "``", "Feature", "Selection", "''", "in", "text", "classification", "-LSB-", "15", "-RSB-", ".", "Two", "approaches", "are", "employed", "in", "this", "paper", "to", "evaluate", "the", "goodness", "of", "a", "category", "in", "the", "intermediate", "taxonomy", ".", "After", "sorting", "the", "categories", "according", "to", "the", "scores", "calculated", "by", "the", "following", "two", "approaches", ",", "category", "selection", "can", "be", "fulfilled", "by", "selecting", "the", "top", "n", "categories", ".", "Total", "Probability", "-LRB-", "TP", "-RRB-", ":", "this", "method", "gives", "a", "score", "to", "each", "category", "in", "the", "intermediate", "taxonomy", "according", "to", "its", "probability", "of", "generating", "the", "categories", "in", "the", "target", "taxonomy", ",", "as", "shown", "in", "Equation", "-LRB-", "6", "-RRB-", ".", "Score", "-LRB-", "C", "I", "j", "-RRB-", "=", "C", "T", "i", "P", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "-LRB-", "6", "-RRB-", "Mutual", "Information", "-LRB-", "MI", "-RRB-", ":", "MI", "is", "a", "criterion", "commonly", "used", "in", "statistical", "language", "modeling", "of", "word", "associations", "and", "other", "related", "applications", "-LSB-", "15", "-RSB-", ".", "Given", "a", "word", "t", "and", "a", "134", "category", "c", ",", "the", "mutual", "information", "between", "t", "and", "c", "is", "defined", "as", ":", "M", "I", "-LRB-", "t", ",", "c", "-RRB-", "=", "log", "P", "-LRB-", "t", "c", "-RRB-", "P", "-LRB-", "t", "-RRB-", "P", "-LRB-", "c", "-RRB-", "-LRB-", "7", "-RRB-", "By", "considering", "the", "two-way", "contingency", "table", "for", "t", "and", "c", ",", "where", "A", "is", "the", "number", "of", "times", "t", "and", "c", "co-occur", ",", "B", "is", "the", "number", "of", "times", "that", "t", "occurs", "without", "c", ",", "C", "is", "number", "of", "times", "c", "occurs", "without", "t", "and", "N", "is", "the", "total", "number", "of", "documents", ",", "then", "the", "mutual", "information", "between", "t", "and", "c", "can", "be", "estimated", "using", ":", "M", "I", "-LRB-", "t", ",", "c", "-RRB-", "log", "A", "N", "-LRB-", "A", "+", "C", "-RRB-", "-LRB-", "A", "+", "B", "-RRB-", "-LRB-", "8", "-RRB-", "Since", "the", "name", "of", "a", "category", "in", "the", "target", "taxonomy", "usually", "contains", "more", "than", "one", "term", ",", "we", "define", "the", "``", "mutual", "infor-mation", "''", "between", "a", "category", "in", "the", "intermediate", "taxonomy", "C", "I", "j", "and", "a", "category", "in", "the", "target", "taxonomy", "C", "T", "i", "as", ":", "M", "I", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "-RRB-", "=", "1", "|", "C", "T", "i", "|", "tC", "T", "i", "M", "I", "-LRB-", "t", ",", "C", "I", "j", "-RRB-", "-LRB-", "9", "-RRB-", "where", "|", "C", "T", "i", "|", "is", "the", "number", "of", "terms", "in", "the", "name", "of", "C", "T", "i", ".", "To", "measure", "the", "goodness", "of", "C", "I", "j", "in", "a", "global", "category", "selection", ",", "we", "combine", "the", "category-specific", "scores", "of", "C", "I", "j", "by", ":", "M", "I", "avg", "-LRB-", "C", "I", "j", "-RRB-", "=", "C", "T", "j", "M", "I", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "-RRB-", "-LRB-", "10", "-RRB-", "4.3.3", "Discussions", "As", "we", "can", "see", ",", "in", "the", "bridging", "classifier", ",", "we", "do", "not", "need", "to", "train", "a", "classifier", "function", "between", "an", "intermediate", "taxonomy", "and", "the", "target", "taxonomy", ".", "We", "only", "need", "to", "build", "the", "classifiers", "on", "the", "intermediate", "taxonomy", "once", "and", "it", "can", "be", "applied", "to", "any", "target", "taxonomy", ".", "The", "framework", "can", "be", "extended", "in", "two", "directions", ".", "One", "is", "to", "include", "some", "training", "data", "for", "each", "target", "category", ".", "With", "the", "training", "data", ",", "we", "do", "not", "have", "to", "treat", "the", "labels", "of", "the", "target", "categories", "as", "queries", "and", "retrieve", "related", "Web", "pages", "through", "search", "engines", "to", "represent", "the", "categories", ".", "We", "can", "extract", "features", "from", "the", "training", "data", "directly", ".", "The", "second", "extension", "is", "to", "use", "other", "sophisticated", "models", "such", "as", "the", "n-gram", "model", "-LSB-", "9", "-RSB-", "or", "SVM", "-LSB-", "10", "-RSB-", "for", "computing", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "and", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", ".", "In", "this", "section", ",", "we", "first", "introduce", "the", "data", "set", "and", "the", "evaluation", "metrics", ".", "Then", "we", "present", "the", "experiment", "results", "and", "give", "some", "discussions", ".", "5.1", "Data", "Set", "and", "Evaluation", "Metrics", "5.1.1", "Data", "sets", "In", "this", "paper", ",", "we", "use", "the", "data", "sets", "from", "the", "KDDCUP", "2005", "competition", "which", "is", "available", "on", "the", "Web", "1", ".", "One", "of", "the", "data", "sets", "contains", "111", "sample", "queries", "together", "with", "the", "category", "information", ".", "These", "samples", "are", "used", "to", "exemplify", "the", "format", "of", "the", "queries", "by", "the", "organizer", ".", "However", ",", "since", "the", "category", "information", "of", "these", "queries", "is", "truthful", ",", "they", "can", "serve", "as", "the", "validation", "data", ".", "Another", "data", "set", "contains", "800", "queries", "with", "category", "information", "labeled", "by", "three", "human", "labelers", ".", "In", "fact", ",", "the", "organizers", "provided", "800,000", "queries", "in", "1", "http://www.acm.org/sigs/sigkdd/kdd2005/kddcup.html", "total", "which", "are", "selected", "from", "the", "MSN", "search", "logs", "for", "testing", "the", "submitted", "solutions", ".", "Since", "manually", "labeling", "all", "the", "800,000", "queries", "is", "too", "expensive", "and", "time", "consuming", ",", "the", "organizers", "randomly", "selected", "800", "queries", "for", "evaluation", ".", "We", "denote", "the", "three", "human", "query-labelers", "-LRB-", "and", "sometimes", "the", "dataset", "labeled", "by", "them", "if", "no", "confusion", "is", "caused", "-RRB-", "as", "L1", ",", "L2", "and", "L3", ",", "respectively", ".", "Each", "query", "has", "at", "most", "five", "labels", "in", "ranked", "order", ".", "Table", "2", "shows", "the", "average", "precision", "and", "F1", "score", "values", "of", "each", "labeler", "when", "evaluated", "against", "the", "other", "two", "labelers", ".", "The", "average", "values", "among", "the", "three", "labelers", "are", "around", "0.50", "which", "indicates", "that", "the", "query", "classification", "problem", "is", "not", "an", "easy", "task", "even", "for", "human", "labelers", ".", "In", "this", "paper", ",", "all", "the", "experiments", "use", "only", "the", "800", "queries", ",", "except", "in", "the", "ensemble", "classifiers", ",", "where", "we", "use", "the", "111", "sample", "queries", "to", "tune", "the", "weight", "of", "each", "single", "classifier", ".", "Table", "2", ":", "The", "Average", "Scores", "of", "Each", "Labeler", "When", "Evaluated", "Against", "the", "Other", "Two", "Labelers", "L1", "L2", "L3", "Average", "F1", "0.538", "0.477", "0.512", "0.509", "Pre", "0.501", "0.613", "0.463", "0.526", "The", "existing", "intermediate", "taxonomy", "used", "in", "the", "paper", "is", "from", "Open", "Directory", "Project", "-LRB-", "ODP", ",", "http://dmoz.org/", "-RRB-", ".", "We", "crawled", "1,546,441", "Web", "pages", "from", "ODP", "which", "spanned", "over", "172,565", "categories", ".", "The", "categories", "have", "a", "hierarchical", "structure", "as", "shown", "in", "Figure", "2", "-LRB-", "1", "-RRB-", ".", "We", "can", "consider", "the", "hierarchy", "at", "different", "levels", ".", "Table", "3", "shows", "the", "number", "of", "categories", "on", "different", "levels", ".", "The", "first", "row", "counts", "all", "the", "categories", "while", "the", "second", "row", "counts", "only", "the", "categories", "containing", "more", "than", "10", "Web", "pages", ".", "Table", "4", "summarizes", "the", "statistics", "of", "Web", "page", "numbers", "in", "the", "categories", "with", "more", "than", "10", "documents", "on", "different", "levels", ".", "As", "we", "can", "see", ",", "when", "we", "move", "down", "to", "the", "lower", "levels", "along", "the", "hierarchy", ",", "more", "categories", "appear", "while", "each", "category", "contains", "fewer", "Web", "pages", ".", "In", "order", "to", "remove", "noise", ",", "we", "consider", "the", "categories", "with", "more", "than", "10", "pages", "in", "this", "paper", ".", "Table", "3", ":", "Number", "of", "Categories", "on", "Different", "Levels", "Top", "2", "Top", "3", "Top", "4", "Top", "5", "Top", "All", "#doc", ">", "0", "435", "5,300", "24,315", "56,228", "172,565", "#doc", ">", "10", "399", "4,011", "13,541", "23,989", "39,250", "Table", "4", ":", "Statistics", "of", "the", "Numbers", "of", "Documents", "in", "the", "Categories", "on", "Different", "Levels", "Top", "2", "Top", "3", "Top", "4", "Top", "5", "Top", "All", "Largest", "211,192", "153,382", "84,455", "25,053", "920", "Smallest", "11", "11", "11", "11", "11", "Mean", "4,044.0", "400.8", "115.6", "61.6", "29.1", "5.1.2", "Evaluation", "Measurements", "In", "KDDCUP", "2005", ",", "precision", ",", "performance", "and", "creativity", "are", "the", "three", "measures", "to", "evaluate", "the", "submitted", "solutions", ".", "``", "creativity", "''", "refers", "to", "the", "novelty", "of", "the", "solutions", "judged", "by", "experts", ".", "The", "other", "two", "measures", "are", "defined", "according", "to", "the", "standard", "measures", "to", "evaluate", "the", "performance", "of", "classification", ",", "that", "is", ",", "precision", ",", "recall", "and", "F1-measure", "-LSB-", "12", "-RSB-", ".", "Pre-135", "cision", "-LRB-", "P", "-RRB-", "is", "the", "proportion", "of", "actual", "positive", "class", "members", "returned", "by", "the", "system", "among", "all", "predicted", "positive", "class", "members", "returned", "by", "the", "system", ".", "Recall", "-LRB-", "R", "-RRB-", "is", "the", "proportion", "of", "predicted", "positive", "members", "among", "all", "actual", "positive", "class", "members", "in", "the", "data", ".", "F1", "is", "the", "harmonic", "mean", "of", "precision", "and", "recall", "as", "shown", "below", ":", "F", "1", "=", "2", "P", "R", "/", "-LRB-", "P", "+", "R", "-RRB-", "-LRB-", "11", "-RRB-", "``", "performance", "''", "adopted", "by", "KDDCUP", "2005", "is", "in", "fact", "F1", ".", "Therefore", ",", "we", "denote", "it", "by", "F1", "instead", "of", "``", "performance", "''", "for", "simplicity", ".", "As", "3", "labelers", "were", "asked", "to", "label", "the", "queries", ",", "the", "results", "reported", "are", "averaged", "over", "the", "values", "evaluated", "on", "each", "of", "them", ".", "5.2", "Results", "and", "Analysis", "5.2.1", "Performance", "of", "Exact", "matching", "and", "SVM", "In", "this", "section", ",", "we", "study", "the", "performance", "of", "the", "two", "methods", "which", "tightly", "depend", "on", "word", "matching", ":", "exact", "matching", "and", "SVM", ",", "as", "well", "as", "the", "effect", "of", "query", "and", "category", "expansion", ".", "Table", "5", "shows", "the", "results", "of", "the", "category", "expansion", "through", "intermediate", "taxonomy", "by", "word", "matching", ",", "that", "is", "the", "results", "of", "collecting", "training", "data", "for", "the", "target", "taxonomy", ".", "Each", "element", "in", "the", "table", "represents", "the", "number", "of", "documents", "collected", "for", "the", "target", "categories", ".", "The", "first", "row", "contains", "the", "results", "by", "direct", "matching", "while", "the", "second", "row", "contains", "the", "results", "after", "expanding", "the", "category", "names", "through", "extended", "matching", ".", "We", "can", "see", "that", "after", "extending", "the", "names", "of", "the", "target", "categories", ",", "the", "number", "of", "documents", "collected", "for", "the", "target", "categories", "increases", ".", "We", "expect", "that", "the", "expansion", "with", "the", "help", "of", "WordNet", "should", "provide", "more", "documents", "to", "reflect", "the", "semantics", "of", "the", "target", "categories", "which", "is", "verified", "by", "Table", "6", ".", "Table", "5", ":", "Number", "of", "Pages", "Collected", "for", "Training", "under", "Different", "Category", "Expansion", "Methods", "Min", "Max", "Median", "Mean", "Direct", "Matching", "4", "126,397", "2,389", "14,646", "Extended", "Matching", "22", "227,690", "6,815", "21,295", "Table", "6", "presents", "the", "result", "comparisons", "of", "the", "exact", "matching", "method", "and", "SVM", ".", "We", "enrich", "the", "query", "by", "retrieving", "the", "relevant", "pages", "through", "Google", "-LRB-", "http://www.google.com", "-RRB-", ".", "The", "top", "n", "returned", "pages", "are", "used", "to", "represent", "the", "query", "where", "n", "varies", "from", "20", "to", "80", ",", "with", "the", "step", "size", "of", "20", ".", "Two", "approaches", "are", "used", "to", "extract", "features", "from", "the", "returned", "pages", ".", "One", "is", "to", "extract", "the", "snippet", "of", "the", "returned", "pages", "and", "the", "other", "is", "to", "extract", "all", "the", "text", "in", "the", "Web", "pages", "except", "the", "HTML", "tags", ".", "The", "Web", "pages", "'", "titles", "will", "be", "added", "to", "both", "of", "these", "two", "kinds", "of", "features", ".", "The", "column", "``", "0", "''", "means", "that", "we", "use", "only", "the", "terms", "in", "the", "query", "without", "enrichment", ".", "In", "our", "experiments", ",", "we", "expand", "the", "target", "categories", "through", "the", "ODP", "taxonomy", ";", "that", "is", ",", "we", "collect", "the", "training", "data", "for", "the", "target", "categories", "from", "ODP", ".", "When", "constructing", "the", "mapping", "relationship", "as", "shown", "in", "Section", "3.2", ",", "if", "we", "use", "direct", "matching", ",", "we", "denote", "SVM", "and", "the", "exact", "matching", "method", "with", "``", "SVM-D", "''", "and", "``", "Extact-D", "''", "respectively", ".", "Otherwise", ",", "if", "we", "use", "the", "extended", "matching", "method", ",", "we", "denote", "SVM", "and", "the", "exact", "matching", "method", "with", "``", "SVM-E", "''", "and", "``", "Extact-E", "''", "respectively", ".", "The", "exact", "matching", "method", "needs", "the", "category", "list", "of", "the", "retrieved", "Web", "pages", "for", "each", "query", ".", "The", "Table", "6", ":", "Performance", "of", "Exact", "Matching", "and", "SVM", "-LRB-", "1", "-RRB-", "Measured", "by", "F1", "n", "0", "20", "40", "60", "80", "Exact-D", "Null", "0.251", "0.249", "0.247", "0.246", "Exact-E", "Null", "0.385", "0.396", "0.386", "0.384", "SVM-D", "snippet", "0.205", "0.288", "0.292", "0.291", "0.289", "full", "text", "0.254", "0.276", "0.267", "0.273", "SVM-E", "snippet", "0.256", "0.378", "0.383", "0.379", "0.379", "full", "text", "0.316", "0.340", "0.327", "0.336", "-LRB-", "2", "-RRB-", "Measured", "by", "Precision", "n", "0", "20", "40", "60", "80", "Exact-D", "Null", "0.300", "0.279", "0.272", "0.268", "Exact-E", "Null", "0.403", "0.405", "0.389", "0.383", "SVM-D", "snippet", "0.178", "0.248", "0.248", "0.244", "0.246", "full", "text", "0.227", "0.234", "0.242", "0.240", "SVM-E", "snippet", "0.212", "0.335", "0.321", "0.312", "0.311", "full", "text", "0.288", "0.309", "0.305", "0.296", "category", "information", "is", "obtained", "through", "Google", "'s", "``", "Direc-tory", "Search", "''", "service", "-LRB-", "http://www.google.com/dirhp", "-RRB-", ".", "From", "Table", "6", "we", "can", "see", "that", "``", "Exact-E", "''", "is", "much", "better", "than", "``", "Exact-D", "''", ",", "and", "``", "SVM-E", "''", "is", "much", "better", "than", "``", "SVM-D", "''", ".", "This", "indicates", "that", "the", "extended", "matching", "with", "the", "help", "of", "WordNet", "can", "achieve", "a", "more", "proper", "representation", "of", "the", "target", "category", ".", "We", "can", "also", "observe", "that", "``", "Exact-E", "''", "performs", "better", "than", "``", "SVM-E", "''", ".", "Another", "observation", "is", "that", "the", "``", "snippet", "''", "representation", "outperforms", "``", "full", "text", "''", "consistently", ".", "The", "reason", "is", "that", "the", "``", "snippet", "''", "provides", "a", "more", "concise", "context", "of", "the", "query", "than", "the", "``", "full", "text", "''", "which", "tends", "to", "introduce", "noise", ".", "We", "can", "also", "see", "that", "most", "of", "the", "classifiers", "achieve", "the", "highest", "performance", "when", "the", "queries", "are", "represented", "by", "the", "top", "40", "search", "result", "pages", ".", "Therefore", ",", "in", "the", "later", "experiments", ",", "we", "use", "snippets", "of", "the", "top", "40", "pages", "to", "represent", "queries", ".", "5.2.2", "Performance", "of", "the", "Bridging", "Classifier", "As", "we", "can", "see", "in", "the", "above", "experiments", ",", "the", "thesaurus", "WordNet", "plays", "an", "important", "role", "in", "both", "the", "exact", "matching", "method", "and", "SVM", "since", "it", "can", "help", "expand", "the", "words", "in", "the", "labels", "of", "the", "target", "categories", ",", "which", "can", "further", "improve", "the", "mapping", "functions", ".", "However", ",", "the", "effect", "of", "a", "thesaurus", "may", "be", "limited", "due", "to", "the", "following", "reasons", ":", "1", "-RRB-", "there", "may", "be", "no", "thesaurus", "in", "some", "fields", ";", "2", "-RRB-", "it", "is", "hard", "to", "determine", "the", "precise", "expansion", "of", "the", "words", "even", "with", "a", "high-quality", "thesaurus", ",", "especially", "with", "the", "rapidly", "changing", "usage", "of", "words", "on", "the", "Web", ".", "Therefore", ",", "we", "put", "forward", "the", "bridging", "classifier", "which", "only", "relies", "on", "the", "intermediate", "taxonomies", ".", "In", "order", "to", "expand", "a", "target", "category", ",", "we", "can", "treat", "its", "name", "as", "a", "query", "and", "submit", "it", "to", "search", "engines", ".", "We", "use", "the", "snippet", "of", "the", "top", "n", "returned", "pages", "to", "represent", "a", "category", "since", "we", "learned", "from", "the", "query", "expansion", "that", "snippet", "performs", "better", "than", "``", "full", "text", "''", ".", "The", "parameter", "n", "varies", "from", "20", "to", "100", ".", "Table", "7", "shows", "the", "results", "when", "``", "top", "all", "''", "categories", "in", "the", "ODP", "taxonomy", "are", "used", "for", "bridging", "the", "queries", "and", "the", "target", "taxonomy", ".", "The", "effect", "of", "different", "levels", "of", "the", "intermediate", "taxonomy", "will", "be", "studied", "later", ".", "From", "Table", "7", ",", "we", "can", "136", "see", "that", "the", "bridging", "classifier", "achieves", "the", "best", "performance", "when", "n", "equals", "60", ".", "The", "best", "F1", "and", "precision", "achieved", "by", "the", "bridging", "classifier", "is", "higher", "than", "those", "achieved", "either", "by", "the", "exact", "matching", "method", "or", "SVM", ".", "The", "relative", "improvement", "is", "more", "than", "10.4", "%", "and", "7.1", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", ".", "The", "main", "reason", "for", "the", "improvement", "is", "that", "the", "bridging", "classifier", "can", "make", "thorough", "use", "of", "the", "finer", "grained", "intermediate", "taxonomy", "in", "a", "probabilistic", "way", ".", "While", "the", "previous", "methods", "including", "the", "exact", "matching", "method", "and", "SVM", "exploit", "the", "intermediate", "taxonomy", "in", "a", "hard", "way", "when", "constructing", "the", "mapping", "function", "as", "shown", "in", "Section", "3.2", ".", "Table", "7", ":", "Performances", "of", "the", "Bridging", "Classifier", "with", "Different", "Representations", "of", "Target", "Categories", "n", "20", "40", "60", "80", "100", "F1", "0.414", "0.420", "0.424", "0.421", "0.416", "Precision", "0.437", "0.443", "0.447", "0.444", "0.439", "Table", "8", ":", "Performances", "of", "the", "Bridging", "Classifier", "with", "Different", "Granularity", "Top", "2", "Top", "3", "Top", "4", "Top", "5", "Top", "All", "F1", "0.267", "0.285", "0.312", "0.352", "0.424", "Precision", "0.270", "0.291", "0.339", "0.368", "0.447", "Table", "8", "shows", "the", "performance", "of", "the", "bridging", "classifier", "when", "we", "change", "the", "granularity", "of", "the", "categories", "in", "the", "intermediate", "taxonomy", ".", "To", "change", "the", "granularity", "of", "the", "categories", ",", "we", "use", "the", "categories", "on", "the", "top", "L", "level", "by", "varying", "L", ".", "It", "is", "clear", "that", "the", "categories", "have", "larger", "granularity", "when", "L", "is", "smaller", ".", "From", "Table", "8", ",", "we", "can", "see", "that", "the", "performance", "of", "the", "bridging", "classifier", "improves", "steadily", "by", "reducing", "the", "granularity", "of", "categories", ".", "The", "reason", "is", "that", "categories", "with", "large", "granularity", "may", "be", "a", "mixture", "of", "several", "target", "categories", "which", "prohibit", "distinguishing", "the", "target", "categories", ".", "0.25", "0.30", "0.35", "0.40", "0.45", "0.50", "4000", "11000", "18000", "25000", "32000", "39250", "MI-F1", "MI-Pre", "TP-F1", "TP-Pre", "Figure", "4", ":", "Effect", "of", "category", "selection", ".", "However", ",", "reducing", "the", "granularity", "of", "categories", "in", "the", "intermediate", "taxonomy", "will", "certainly", "increase", "the", "number", "of", "the", "intermediate", "categories", "which", "will", "thus", "increase", "the", "computation", "cost", ".", "One", "way", "to", "solve", "this", "problem", "is", "to", "do", "category", "selection", ".", "Figure", "4", "shows", "the", "performance", "of", "the", "bridging", "classifier", "when", "we", "select", "the", "categories", "from", "all", "the", "ODP", "taxonomy", "through", "the", "two", "category", "selection", "approaches", "proposed", "in", "Section", "4.3.2", ".", "We", "can", "see", "that", "when", "the", "category", "number", "is", "around", "18,000", ",", "the", "performance", "of", "the", "bridging", "classifier", "is", "comparable", "to", ",", "if", "not", "better", "than", ",", "the", "previous", "approaches", ",", "including", "the", "exact", "matching", "method", "and", "SVM", ".", "MI", "works", "better", "than", "TP", "in", "that", "MI", "can", "not", "only", "measure", "the", "relevance", "between", "the", "categories", "in", "the", "target", "taxonomy", "and", "those", "in", "the", "intermediate", "taxonomy", ",", "but", "also", "favors", "the", "categories", "which", "are", "more", "powerful", "to", "distinguish", "the", "categories", "in", "the", "target", "taxonomy", ".", "However", ",", "TP", "only", "cares", "about", "the", "merit", "of", "relevance", ".", "5.2.3", "Ensemble", "of", "Classifiers", "The", "winner", "of", "the", "KDDCUP", "2005", "competition", "found", "that", "the", "best", "result", "was", "achieved", "by", "combining", "the", "exact", "matching", "method", "and", "SVM", ".", "In", "the", "winning", "solution", ",", "besides", "the", "exact", "matching", "method", "on", "Google", "'s", "directory", "search", ",", "two", "other", "exact", "matching", "methods", "are", "developed", "using", "LookS-mart", "-LRB-", "http://www.looksmart.com", "-RRB-", "and", "a", "search", "engine", "based", "on", "Lemur", "-LRB-", "http://www.lemurproject.org", "-RRB-", "and", "their", "crawled", "Web", "pages", "from", "ODP", "-LSB-", "11", "-RSB-", ".", "Two", "classifier-combination", "strategies", "are", "used", ",", "with", "one", "aiming", "at", "higher", "precision", "-LRB-", "denoted", "by", "EV", ",", "where", "111", "samples", "are", "used", "as", "the", "validation", "data", "to", "tune", "the", "weight", "of", "each", "base", "classifier", "-RRB-", "and", "the", "other", "aiming", "at", "higher", "F1", "-LRB-", "denoted", "by", "EN", "in", "which", "the", "validation", "data", "set", "is", "ignored", "-RRB-", ".", "EV", "assigns", "a", "weight", "to", "a", "classifier", "proportional", "to", "the", "classifier", "'s", "precision", "while", "EN", "gives", "equal", "weights", "to", "all", "classifiers", ".", "We", "follow", "the", "same", "strategy", "to", "combine", "our", "new", "method", "with", "the", "winner", "'s", "methods", ",", "which", "is", "denoted", "as", "``", "Exact-E", "''", "+", "``", "SVM-E", "''", "+", "Bridging", "as", "shown", "in", "Table", "9", ".", "The", "numbers", "in", "the", "parentheses", "are", "the", "relative", "improvement", ".", "Note", "that", "the", "bridging", "classifier", "alone", "achieves", "similar", "F1", "measurement", "as", "the", "KDDCU", "2005", "winning", "solution", "-LRB-", "``", "Exact-E", "''", "+", "``", "SVM-E", "''", "with", "the", "EV", "combination", "strategy", "-RRB-", "but", "improves", "the", "precision", "by", "5.4", "%", ".", "From", "Table", "9", "we", "can", "also", "find", "that", "the", "combination", "of", "the", "bridging", "classifier", "and", "the", "KDDCUP", "2005", "winning", "solution", "can", "improve", "the", "performance", "by", "9.7", "%", "and", "3.8", "%", "in", "terms", "of", "precision", "and", "F1", ",", "respectively", ",", "when", "compared", "with", "the", "winning", "solution", ".", "This", "indicates", "that", "the", "bridging", "classifier", "works", "in", "a", "different", "way", "as", "the", "exact", "matching", "method", "and", "SVM", ",", "and", "they", "are", "complimentary", "to", "each", "other", ".", "Table", "9", ":", "Performances", "of", "Ensemble", "Classifiers", "``", "Exact-E", "''", "``", "Exact-E", "''", "+", "``", "SVM-E", "''", "+", "``", "SVM-E", "''", "+", "Bridging", "EV", "F1", "0.426", "0.429", "-LRB-", "+0.007", "-RRB-", "Precision", "0.424", "0.465", "-LRB-", "+0.097", "-RRB-", "EN", "F1", "0.444", "0.461", "-LRB-", "+0.038", "-RRB-", "Precision", "0.414", "0.430", "-LRB-", "+0.039", "-RRB-", "Though", "not", "much", "work", "has", "been", "done", "on", "topical", "query", "classification", ",", "some", "work", "has", "been", "conducted", "on", "other", "kinds", "of", "query", "classification", "problems", ".", "Gravano", "et", "al.", "classified", "the", "Web", "queries", "by", "geographical", "locality", "-LSB-", "3", "-RSB-", "while", "Kang", "et", "al.", "proposed", "to", "classify", "queries", "according", "to", "their", "functional", "types", "-LSB-", "4", "-RSB-", ".", "Beitzel", "et", "al.", "studied", "the", "same", "problem", "in", "-LSB-", "2", "-RSB-", "as", "we", "pur-sued", "in", "this", "paper", ",", "with", "the", "goal", "to", "classify", "the", "queries", "according", "to", "their", "topic", "-LRB-", "s", "-RRB-", ".", "They", "used", "two", "primary", "data", "sets", "137", "containing", "the", "queries", "from", "the", "AOL", "web", "search", "service", ".", "These", "queries", "were", "manually", "classified", "into", "a", "set", "of", "18", "categories", ".", "The", "main", "difference", "between", "our", "problem", "and", "that", "of", "-LSB-", "2", "-RSB-", "is", "that", "we", "did", "not", "have", "training", "data", "as", "given", "input", ".", "In", "fact", ",", "it", "is", "a", "very", "difficult", "and", "time", "consuming", "task", "to", "provide", "enough", "training", "examples", ",", "especially", "when", "the", "target", "taxonomy", "is", "complicated", ".", "Another", "potential", "problem", "related", "to", "the", "training", "data", ",", "as", "pointed", "out", "in", "-LSB-", "2", "-RSB-", ",", "is", "caused", "by", "the", "ongoing", "changes", "in", "the", "query", "stream", ",", "which", "makes", "it", "hard", "to", "systematically", "cover", "the", "space", "of", "queries", ".", "In", "this", "paper", ",", "we", "just", "rely", "on", "the", "structure", "and", "category", "names", "of", "the", "target", "taxonomy", "without", "training", "data", ",", "which", "is", "consistent", "with", "the", "task", "of", "KDDCUP", "2005", ".", "KDDCUP", "2005", "provides", "a", "test", "bed", "for", "the", "Web", "query", "classification", "problem", ".", "There", "are", "a", "total", "of", "37", "solutions", "from", "32", "teams", "attending", "the", "competition", ".", "As", "summarized", "by", "the", "organizers", "-LSB-", "6", "-RSB-", ",", "most", "solutions", "expanded", "the", "queries", "through", "search", "engines", "or", "WordNet", "and", "expanded", "the", "category", "by", "mapping", "between", "some", "pre-defined/existing", "taxonomy", "to", "the", "target", "taxonomy", ".", "Some", "solutions", "require", "human", "intervention", "in", "the", "mapping", "process", "-LSB-", "5", ",", "13", "-RSB-", ".", "Besides", "classifying", "the", "queries", "into", "target", "taxonomy", ",", "we", "can", "also", "cluster", "the", "queries", "to", "discover", "some", "hidden", "taxonomies", "through", "unsupervised", "methods", ".", "Both", "Beeferman", "-LSB-", "1", "-RSB-", "and", "Wen", "-LSB-", "14", "-RSB-", "used", "search", "engines", "'", "clickthrough", "data", "to", "cluster", "the", "queries", ".", "The", "former", "makes", "no", "use", "of", "the", "actual", "content", "of", "the", "queries", "and", "URLs", ",", "but", "only", "how", "they", "co-occur", "within", "the", "clickthrough", "data", ",", "while", "the", "latter", "exploits", "the", "usage", "of", "the", "content", ".", "Although", "the", "work", "in", "-LSB-", "1", "-RSB-", "and", "-LSB-", "14", "-RSB-", "proved", "the", "effectiveness", "of", "the", "clickthrough", "data", "for", "query", "clustering", ",", "we", "did", "not", "utilize", "them", "in", "our", "solution", "due", "to", "the", "following", "two", "reasons", ":", "1", "-RRB-", "the", "clickthorugh", "data", "can", "be", "quite", "noisy", "and", "is", "search", "engine", "dependent", ";", "2", "-RRB-", "it", "is", "difficult", "to", "obtain", "the", "clickthrough", "data", "due", "to", "privacy", "and", "legal", "issues", ".", "This", "paper", "presented", "a", "novel", "solution", "for", "classifying", "Web", "queries", "into", "a", "set", "of", "target", "categories", ",", "where", "the", "queries", "are", "very", "short", "and", "there", "are", "no", "training", "data", ".", "In", "our", "solution", ",", "an", "intermediate", "taxonomy", "is", "used", "to", "train", "classifiers", "bridging", "the", "queries", "and", "target", "categories", "so", "that", "there", "is", "no", "need", "to", "collect", "the", "training", "data", ".", "Experiments", "on", "the", "KDDCUP", "2005", "data", "set", "show", "that", "the", "bridging", "classifier", "approach", "is", "promising", ".", "By", "combining", "the", "bridging", "classifier", "with", "the", "winning", "solution", "of", "KDDCUP", "2005", ",", "we", "made", "a", "further", "improvement", "by", "9.7", "%", "and", "3.8", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", "compared", "with", "the", "best", "results", "of", "KDDCUP", "2005", ".", "In", "the", "future", ",", "we", "plan", "to", "extend", "the", "bridging", "classifier", "idea", "to", "other", "types", "of", "query", "processing", "tasks", ",", "including", "query", "clustering", ".", "We", "will", "also", "conduct", "research", "on", "how", "to", "leverage", "a", "group", "of", "intermediate", "taxonomies", "for", "query", "classification", "Dou", "Shen", "and", "Qiang", "Yang", "are", "supported", "by", "a", "grant", "from", "NEC", "-LRB-", "NECLC05/06", ".", "EG01", "-RRB-", ".", "We", "thank", "the", "anonymous", "reviewers", "for", "their", "useful", "comments", ".", "-LSB-", "1", "-RSB-", "D.", "Beeferman", "and", "A.", "Berger", ".", "Agglomerative", "clustering", "of", "a", "search", "engine", "query", "log", ".", "In", "KDD", "'", "00", ":", "Proceedings", "of", "the", "sixth", "ACM", "SIGKDD", "international", "conference", "on", "Knowledge", "discovery", "and", "data", "mining", ",", "pages", "407", "416", ",", "2000", ".", "-LSB-", "2", "-RSB-", "S.", "M.", "Beitzel", ",", "E.", "C.", "Jensen", ",", "O.", "Frieder", ",", "D.", "Grossman", ",", "D.", "D.", "Lewis", ",", "A.", "Chowdhury", ",", "and", "A.", "Kolcz", ".", "Automatic", "web", "query", "classification", "using", "labeled", "and", "unlabeled", "training", "data", ".", "In", "SIGIR", "'", "05", ":", "Proceedings", "of", "the", "28th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "581", "582", ",", "2005", ".", "-LSB-", "3", "-RSB-", "L.", "Gravano", ",", "V.", "Hatzivassiloglou", ",", "and", "R.", "Lichtenstein", ".", "Categorizing", "web", "queries", "according", "to", "geographical", "locality", ".", "In", "CIKM", "'", "03", ":", "Proceedings", "of", "the", "twelfth", "international", "conference", "on", "Information", "and", "knowledge", "management", ",", "pages", "325", "333", ",", "2003", ".", "-LSB-", "4", "-RSB-", "I.-H", ".", "Kang", "and", "G.", "Kim", ".", "Query", "type", "classification", "for", "web", "document", "retrieval", ".", "In", "SIGIR", "'", "03", ":", "Proceedings", "of", "the", "26th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "informaion", "retrieval", ",", "pages", "64", "71", ",", "2003", ".", "-LSB-", "5", "-RSB-", "Z.", "T.", "Kardkov", "acs", ",", "D.", "Tikk", ",", "and", "Z.", "B", "ans", "aghi", ".", "The", "ferrety", "algorithm", "for", "the", "kdd", "cup", "2005", "problem", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "111", "116", ",", "2005", ".", "-LSB-", "6", "-RSB-", "Y.", "Li", ",", "Z.", "Zheng", ",", "and", "H.", "K.", "Dai", ".", "Kdd", "cup-2005", "report", ":", "facing", "a", "great", "challenge", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "91", "99", ",", "2005", ".", "-LSB-", "7", "-RSB-", "A.", "McCallum", "and", "K.", "Nigam", ".", "A", "comparison", "of", "event", "models", "for", "naive", "bayes", "text", "classication", ".", "In", "AAAI-98", "Workshop", "on", "Learning", "for", "Text", "Categorization", ",", "1998", ".", "-LSB-", "8", "-RSB-", "G.", "Miller", ",", "R.", "Beckwith", ",", "C.", "Fellbaum", ",", "D.", "Gross", ",", "and", "K.", "Miller", ".", "Introduction", "to", "wordnet", ":", "an", "on-line", "lexical", "database", ".", "International", "Journal", "of", "Lexicography", ",", "3", "-LRB-", "4", "-RRB-", ":", "23", "244", ",", "1990", ".", "-LSB-", "9", "-RSB-", "F.", "Peng", ",", "D.", "Schuurmans", ",", "and", "S.", "Wang", ".", "Augmenting", "naive", "bayes", "classifiers", "with", "statistical", "language", "models", ".", "Inf", ".", "Retr.", ",", "7", "-LRB-", "3-4", "-RRB-", ":", "317", "345", ",", "2004", ".", "-LSB-", "10", "-RSB-", "J.", "Platt", ".", "Probabilistic", "outputs", "for", "support", "vector", "machines", "and", "comparisons", "to", "regularized", "likelihood", "methods", ".", "In", "A.", "Smola", ",", "P.", "Bartlett", ",", "B.", "Scholkopf", ",", "and", "D.", "Schuurmans", ",", "editors", ",", "Advances", "in", "Large", "Margin", "Classifiers", ".", "MIT", "Press", ",", "1999", ".", "-LSB-", "11", "-RSB-", "D.", "Shen", ",", "R.", "Pan", ",", "J.-T", ".", "Sun", ",", "J.", "J.", "Pan", ",", "K.", "Wu", ",", "J.", "Yin", ",", "and", "Q.", "Yang", ".", "Q2c@ust", ":", "our", "winning", "solution", "to", "query", "classification", "in", "kddcup", "2005", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "100", "110", ",", "2005", ".", "-LSB-", "12", "-RSB-", "R.", "C.", "van", ".", "Information", "Retrieval", ".", "Butterworths", ",", "London", ",", "second", "edition", "edition", ",", "1979", ".", "-LSB-", "13", "-RSB-", "D.", "Vogel", ",", "S.", "Bickel", ",", "P.", "Haider", ",", "R.", "Schimpfky", ",", "P.", "Siemen", ",", "S.", "Bridges", ",", "and", "T.", "Scheffer", ".", "Classifying", "search", "engine", "queries", "using", "the", "web", "as", "background", "knowledge", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "117", "122", ",", "2005", ".", "-LSB-", "14", "-RSB-", "J.-R", ".", "Wen", ",", "J.-Y", ".", "Nie", ",", "and", "H.-J", ".", "Zhang", ".", "Query", "clustering", "using", "content", "words", "and", "user", "feedback", ".", "In", "SIGIR", "'", "01", ":", "Proceedings", "of", "the", "24th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "442", "443", ",", "2001", ".", "-LSB-", "15", "-RSB-", "Y.", "Yang", "and", "J.", "O.", "Pedersen", ".", "A", "comparative", "study", "on", "feature", "selection", "in", "text", "categorization", ".", "In", "ICML", "'", "97", ":", "Proceedings", "of", "the", "Fourteenth", "International", "Conference", "on", "Machine", "Learning", ",", "pages", "412", "420", ",", "1997", ".", "138"], "doc_bio_tags": ["O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"], "extractive_keyphrases": ["query classification", "taxonomy", "search engine", "kddcup 2005", "bridging classifier", "similarity distribution", "matching approaches", "category selection", "mapping functions", "target categories", "intermediate categories"], "abstractive_keyphrases": ["query enrichment", "web query classification", "ensemble classifier"], "other_metadata": {"text": [], "bio_tags": []}}